| 생성형 AI |
입력한 데이터의 구조와 특성을 모방해 글, 소리, 그림, 영상 같은 결과물을 만드는 AI. 인공지능기본법 제2조제5호의 생성형 인공지능 |
| 할루시네이션 |
AI가 사실과 다르거나 근거 없는 내용을 그럴듯하게 만들어 내는 현상 |
| 지시문(프롬프트) |
AI에게 주는 요청과 맥락. 이 책은 목표, 대상, 형식, 예시, 제약의 다섯 요소로 설명한다 |
| 예시 기반 지시 |
원하는 결과의 예시를 지시문에 넣어 형식과 수준을 이끄는 방법. 몇 개의 예시로 정확도와 일관성을 높인다 |
| 성취기준 |
교과별로 학생이 학습을 통해 도달해야 할 지식, 기능, 태도를 적은 문장. 국가교육과정정보센터(NCIC)에서 찾아볼 수 있다 |
| 원자료 |
사실의 출처가 되는 최초의 자료. 공공 통계, 법령 원문, 교육과정 문서, 사료 등 |
| 위험 기반 검수 |
틀렸을 때 피해가 큰 정보부터 확인하는 검수 방식 |
| 고정관념 |
특정 집단에 대해 굳어진 생각. AI 자료의 인물 설정과 역할 묘사에 나타나기 쉽다 |
| 편향의 세 범주 |
NIST AI RMF가 나눈 체계적 편향, 계산·통계적 편향, 인간 인지적 편향 |
| 수준별 자료 |
같은 학습 목표를 학생 수준에 맞는 다른 표현과 사다리로 제공하는 자료 |
| 공표된 저작물 |
공중에게 공개된 저작물. 저작권법의 수업 목적 이용과 인용 규정의 대상 |
| 저작물 |
인간의 사상 또는 감정을 표현한 창작물(저작권법 제2조제1호) |
| 수업 목적 이용 |
저작권법 제25조제3항에 따라 정해진 학교·기관이 수업 목적으로 공표된 저작물의 일부분을 복제·공중송신 등 하는 것 |
| 보상금 |
수업 목적 이용에 대해 저작재산권자에게 지급하는 돈. 고등학교 이하 학교의 복제등에는 지급하지 않는다(제25조제6항) |
| 공중송신 |
저작물을 공중이 받거나 접근할 수 있게 무선이나 유선 통신으로 보내는 것. 학습 플랫폼 게시가 대표적이다 |
| 인용 |
보도·비평·교육·연구 등을 위해 정당한 범위 안에서 공정한 관행에 맞게 남의 저작물을 가져다 쓰는 것(제28조) |
| 출처 명시 |
저작물을 이용할 때 출처를 밝히는 의무(제37조). 수업 목적 이용에도 적용된다 |
| 고영향 인공지능 |
사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI로서 법이 열거한 영역에서 활용되는 것(인공지능기본법 제2조제4호) |
| 학생 평가 영역 |
고영향 영역 가운데 「교육기본법」 제9조제1항에 따른 유아·초등·중등교육에서의 학생 평가(제2조제4호차목) |
| 인공지능개발사업자 |
AI를 개발하여 제공하는 자(제2조제7호가목) |
| 인공지능이용사업자 |
개발사업자가 제공한 AI를 이용해 제품이나 서비스를 제공하는 자(제2조제7호나목) |
| 영향받는 자 |
AI 제품·서비스로 생명, 신체의 안전 및 기본권에 중대한 영향을 받는 자(제2조제9호) |
| 사전 검토 |
사업자가 고영향 해당 여부를 미리 검토하는 의무(제33조제1항) |
| 확인 요청 |
고영향 해당 여부를 과학기술정보통신부장관에게 확인해 달라고 요청하는 것. 의무가 아니라 선택이다 |
| 사람의 관리·감독 |
고영향 AI 사업자의 조치 가운데 하나. 사람이 AI 결과를 검토하고 바로잡을 수 있게 하는 것(제34조제1항제4호) |
| 설명 방안 |
기술적으로 가능한 범위에서 최종결과, 주요 기준, 학습용데이터 개요를 설명하는 방안(제34조제1항제2호) |
| 영향평가 |
고영향 AI가 사람의 기본권에 미치는 영향을 미리 평가하는 것. 노력 의무(제35조) |
| 사전 고지 |
제품·서비스가 고영향 또는 생성형 AI에 기반해 운용된다는 사실을 미리 알리는 것(제31조제1항) |
| 결과물 표시 |
생성형 AI 결과물에 생성 사실을 표시하는 것(제31조제2항) |
| 기계 판독 표시 |
사람이 아닌 기계가 읽을 수 있는 방법의 표시(워터마크 등). 쓸 때는 생성 사실을 안내 문구·음성 등으로 1회 이상 제공해야 한다(시행령 제23조제2항) |
| 자동화 편향 |
자동화된 시스템의 판단을 사람이 지나치게 믿고 따르는 경향 |
| 길이 편향 |
채점 도구가 내용과 관계없이 긴 답안에 높은 점수를 주는 경향 |
| 비일관성 |
같은 입력에 대해 AI가 매번 다른 결과를 내는 성질 |
| 프롬프트 인젝션 |
입력 안에 숨은 지시가 모델의 동작을 바꾸는 공격. 외부 자료를 통한 것은 간접 프롬프트 인젝션 |
| 일치도 점검 |
AI 점수를 교사 점수와 비교해 얼마나 같은지, 어디서 다른지 확인하는 것 |
| 루브릭(채점 기준표) |
평가 항목과 수준별 기준을 정리한 표 |
| 예시 답안(앵커) |
채점자들이 합의한 수준별 대표 답안. 사람과 AI의 해석을 맞추는 데 쓴다 |
| 형성평가 |
학습 과정에서 이해를 확인하고 피드백을 주기 위한 평가. 대개 성적에 반영하지 않는다 |
| 개인정보 |
살아 있는 개인을 알아볼 수 있는 정보. 다른 정보와 쉽게 결합해 알아볼 수 있는 정보를 포함한다(개인정보 보호법 제2조제1호) |
| 가명처리 |
추가 정보 없이는 특정 개인을 알아볼 수 없도록 개인정보의 일부를 삭제하거나 대체하는 것 |
| 익명정보 |
시간·비용·기술을 합리적으로 고려할 때 다른 정보를 써도 더 이상 개인을 알아볼 수 없는 정보. 개인정보 보호법이 적용되지 않는다(제58조의2) |
| 정보주체 |
처리되는 정보로 알아볼 수 있는 사람으로서 그 정보의 주체 |
| 개인정보처리자 |
업무를 목적으로 개인정보파일을 운용하기 위해 개인정보를 처리하는 기관, 법인, 단체, 개인 |
| 최소 처리 |
목적에 필요한 최소한의 개인정보만 수집·처리하는 원칙(제3조) |
| 목적 외 이용 |
수집 근거의 범위를 넘어 개인정보를 이용하는 것. 별도 동의 등 근거가 필요하다(제18조) |
| 법정대리인 동의 |
만 14세 미만 아동의 개인정보 처리에 동의가 필요할 때 받아야 하는 보호자 등의 동의(제22조의2) |
| 민감정보 |
사상·신념, 건강 등 사생활을 현저히 침해할 우려가 있는 정보. 별도 동의나 법령 근거가 필요하다(제23조) |
| 위탁·수탁자 |
개인정보 처리 업무를 다른 자에게 맡기는 것과 맡은 자. 문서, 공개, 교육·감독이 필요하다(제26조) |
| 국외 이전 |
개인정보를 국외로 제공·처리위탁·보관하는 것. 법이 정한 요건이 있을 때 할 수 있다(제28조의8) |
| 유출등 |
개인정보의 분실·도난·유출·위조·변조 또는 훼손. 알게 되면 정보주체에게 통지하고, 시행령이 정한 요건에 해당하면 신고한다(제34조) |
| 학교생활기록 |
학교의 장이 작성·관리하는 학생의 인적사항, 학적, 출결, 교과학습 발달상황 등의 기록(초·중등교육법 제25조) |
| 학생 관련 자료 제공의 제한 |
학교생활기록과 건강검사기록을 학생(미성년자면 학생과 보호자)의 동의 없이 제3자에게 제공하지 못하게 한 규정. 감독·감사, 상급학교 선발, 비식별 통계·연구 등 법정 예외가 있다(초·중등교육법 제30조의6) |
| 학습 사용 |
AI 서비스가 이용자의 입력을 모델 학습이나 개선에 쓰는 것 |
| 보관 기간 |
AI 서비스가 입력과 대화 기록을 보관하는 기간. 학습 사용과 별개의 조건이다 |
| 기관 계약 계정 |
학교나 기관이 계약으로 데이터 조건을 정한 계정. 같은 회사의 개인 계정과 조건이 다를 수 있다 |
| AI 판별기(탐지기) |
글이 AI로 쓰였을 가능성을 추정하는 도구. 학생 판단의 근거로 쓰기에는 신뢰하기 어렵다 |
| 저자성 |
글의 어느 부분을 누가 썼는지와 그 내용에 대한 책임 |
| 허용 수준 |
과제마다 정한 AI 사용 범위. 이 책은 0(사용 안 함)부터 3(자유 사용)까지 네 단계로 설명한다 |
| AI 사용 기록 |
학생이 사용한 도구, 날짜, 목적, 주요 질문, 활용 방식을 적은 기록 |
| 소명 |
의심받는 사람이 자신의 입장과 사정을 설명하는 것. 학업윤리 절차의 핵심 단계 |
| 데이터 조작 |
존재하지 않는 조사·실험 결과를 만들어 내거나(위조) 실제 결과를 임의로 바꾸는 것(변조) |
| NIST AI RMF |
미국 국립표준기술연구소의 AI 위험관리 프레임워크. 핵심은 Govern, Map, Measure, Manage의 네 기능 |
| Govern(거버넌스) |
조직 안에 위험 관리 문화를 만들고 실행하는 기능. 다른 기능 전반에 걸친 교차 기능 |
| Map / Measure / Manage |
위험의 맥락을 세우는 기능 / 위험을 분석·추적하는 기능 / 위험에 자원을 배정하고 사고에 대응하는 기능 |
| UNESCO 생성형 AI 지침 |
UNESCO가 2023년 발표한 교육과 연구에서의 생성형 AI 지침 |
| UNESCO 교사 AI 역량 프레임워크 |
UNESCO가 2024년 발표한, 다섯 차원 15개 역량과 습득·심화·창조 세 단계로 된 교사 역량 틀 |
| 시범 운영 |
작은 범위에서 먼저 운영해 효과와 문제를 확인하는 것 |
| 성과 지표 |
도입 목적의 달성 여부를 판단하는 측정값 |
| 지식 자료 |
문서 기반 튜터가 답의 근거로 삼는 자료 |
| 검색 증강 생성(RAG) |
질문과 관련된 문서를 찾아 그 내용을 근거로 답을 만드는 방식. 지식 자료 기반 튜터의 일반적인 구조 |