부록 A. 용어집

용어 뜻
모델 글을 읽고 다음 글을 만들어 내는 계산 엔진. 제품 안에서 여러 모델이 쓰일 수 있다.
토큰 모델이 글을 처리하는 기본 조각. 글자 수·단어 수와 일대일로 대응하지 않고 언어마다 다르다.
추론 토큰 추론 모델이 답하기 전에 속으로 쓰는 토큰. 보이지 않지만 출력으로 집계·과금된다.
컨텍스트 창 모델이 한 번에 참고하는 지시, 대화, 자료, 답 전체의 크기. 작업 기억에 해당한다.
컨텍스트 부패 컨텍스트가 길어질수록 정확도와 회상이 떨어지는 현상.
출력 한도 한 번의 응답으로 만들 수 있는 토큰 수의 상한. 컨텍스트 창과 별개다.
확률적 생성 다음에 올 토큰을 확률에 따라 골라 이어 쓰는 생성 방식. 사실 확인 단계가 없다.
온도(temperature) 생성의 무작위성을 조절하는 API 설정. 낮춰도 정확도는 보장되지 않고, 0이어도 완전히 같아지지 않을 수 있다.
지식 기준일 모델이 학습한 자료의 기준 시점. 그 이후 사실은 거의 모르거나 부정확하므로 외부 근거로 확인한다.
신뢰할 수 있는 지식 기준일 모델의 지식이 가장 폭넓고 믿을 만한 시점. 학습 데이터 기준일은 그보다 넓은 자료 범위다.
그라운딩 검색이나 문서 조회로 찾은 자료에 답을 묶는 방식. 출처 표시는 검증의 출발점이다.
할루시네이션 사실이나 주어진 자료와 다른 내용을 그럴듯하게 만들어 내는 현상.
아첨(sycophancy) 진실한 답보다 사용자의 믿음에 맞는 답을 내는 경향. 반박에 근거 없이 답을 바꾸는 모습으로 나타난다.
추론 모델 답하기 전에 속으로 여러 단계를 따지는 모델. 복잡한 판단에 강하지만 느리고 비용이 크다.
모델 등급 같은 계열 안에서 크기·속도·비용이 다른 모델의 단계.
멀티모달 글 외에 이미지, PDF, 음성, 영상 등을 입력으로 다루는 능력.
완료 조건 결과가 끝난 상태를 확인할 수 있게 정의한 조건.
제로샷 / 퓨샷 예시 없이 지시만 하는 방식 / 예시 몇 개를 함께 주는 방식.
프롬프트 체이닝 앞 단계 출력을 다음 단계 입력으로 넘기며 작업을 나누는 방식.
자기 교정 초안 작성, 기준에 비춘 검토, 수정의 세 단계로 이어지는 체이닝.
임시 채팅 기록에 남지 않고 학습에 쓰이지 않는 대화. 안전 목적의 단기 보관은 있을 수 있다.
맞춤 지침 사용자가 계정에 정해 두는 응답 안내. 어느 대화에 적용되는지는 제품과 대화 방식에 따라 다르다.
기억 기능 제품이 대화 등에서 관련 정보를 골라 저장해 다음 답에 쓰는 기능.
프로젝트(지식 공간) 관련 대화, 파일, 지침을 한곳에 모은 작업 공간.
프로젝트 지침 그 프로젝트 안의 대화에만 적용되는 지시.
커스텀 어시스턴트 지침, 참고 자료, 도구를 묶어 여러 사람이 같은 방식으로 쓰게 만든 형태.
커넥터 AI를 외부 서비스에 연결해 자료를 찾고 행동하게 하는 기능. 연결한 사람의 권한을 따른다.
MCP AI 응용 프로그램을 외부 데이터와 도구에 연결하는 공개 표준(Model Context Protocol).
에이전트 기능 AI가 여러 단계를 계획하고 웹·앱을 오가며 행동까지 하는 형태.
심층 조사 조사 계획을 세워 여러 출처를 읽고 인용 달린 보고서로 정리하는 기능.
예약 작업 정해진 시간이나 사건에 맞춰 반복 실행되는 작업.
API 프로그램이 모델을 직접 호출하는 통로. 채팅 구독과 과금이 따로다.
일괄 처리(Batch) 즉시 응답이 필요 없는 대량 요청을 모아 더 싸게 처리하는 방식.
검색 증강 생성(RAG) 관련 자료를 찾아 넣어 그 자료를 근거로 답하게 하는 방식.
미세 조정(fine-tuning) 추가 자료로 모델을 다시 학습시키는 일. 행동의 일관성이 문제일 때 검토한다.
사용 정책 AI 회사가 서비스로 해서는 안 되는 일을 정한 규칙.
사람 검토 자격 있는 사람이 AI 결과를 의미 있게 보고 결정하는 절차(Human-in-the-loop).
고영향 인공지능 사람의 생명·신체의 안전과 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있고, 법이 열거한 영역(채용, 대출 심사 등)에서 활용되는 인공지능시스템(인공지능 기본법 제2조 제4호).
소비자용 / 기업용 플랜 개인이 가입하는 플랜 / 조직이 계약해 구성원에게 제공하는 플랜. 데이터 처리 조건이 다르다.
관리자 제어 조직 관리자가 접근, 보존, 기능, 커넥터, 감사를 설정·감독하는 기능.
데이터 최소화 작업에 필요 없는 정보를 넣지 않는 원칙.
개인정보 살아 있는 개인을 알아볼 수 있는 정보. 다른 정보와 쉽게 결합해 알아볼 수 있는 정보와 가명정보도 포함한다.
가명처리 일부를 삭제하거나 대체해 추가 정보 없이는 개인을 알아볼 수 없게 하는 처리.
민감정보 사상·신념, 정치적 견해, 건강 등 처리가 원칙적으로 제한되는 개인정보(개인정보 보호법 제23조).
고유식별정보 법령에 따라 개인을 고유하게 구별하려고 부여한 식별정보. 처리가 원칙적으로 제한된다(제24조, 주민등록번호는 제24조의2).
프롬프트 인젝션 입력된 글이 모델의 동작을 의도하지 않게 바꾸는 취약점. 외부 자료를 통한 간접 인젝션이 있다.
편향 학습 자료에 담긴 사회의 치우침이 결과에 드러나는 현상.
기준선 도입 전에 잰 비교 기준 값.
총비용 이용료에 준비, 교육, 운영, 검수, 재작업을 더한 실제 비용.
파일럿 작은 범위에서 먼저 시험 운영해 효과를 확인하는 단계.
공급사 종속 한 회사의 제품에 깊이 묶여 바꾸기 어려워지는 상태.
AI RMF NIST의 AI 위험관리 프레임워크. GOVERN, MAP, MEASURE, MANAGE 네 기능으로 구성된다.
AI 활용 역량(4D) 위임, 설명, 분별, 성실의 네 역량으로 AI 활용을 설명하는 프레임워크.