| 가명정보 |
가명처리한 정보. 개인정보에 해당하며 통계·과학적 연구·공익적 기록보존 특례가 있음 |
| 가명처리 |
개인정보의 일부를 삭제·대체해 추가 정보 없이는 특정 개인을 알아볼 수 없게 하는 처리 |
| 개발사업자 |
인공지능을 개발하여 제공하는 인공지능사업자 |
| 개인정보처리자 |
업무 목적으로 개인정보파일을 운용하려고 스스로 또는 다른 사람을 통해 개인정보를 처리하는 자 |
| 검·인증 |
민간 단체 등이 AI의 안전성·신뢰성을 자율적으로 검증·인증하는 활동. 고영향 사업자는 받도록 노력 |
| 결과물 표시 |
생성형 AI 결과물이 AI로 생성되었음을 표시하는 의무(제31조제2항) |
| 경영시스템 인증 |
조직의 관리 체계가 표준 요구사항을 충족하는지 인증기관이 심사한 결과. 제품 성능 보증이 아님 |
| 계도기간 |
사실조사·과태료를 원칙적으로 유예하고 안내 중심으로 운영하겠다는 정부 방침(최소 1년). 인명사고·인권훼손 같은 중대 사안은 사실조사 가능 |
| 고영향 인공지능 |
생명·신체 안전·기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있고, 법정 영역(에너지, 의료, 채용·대출 심사 등 제2조제4호)에서 활용되는 AI 시스템 |
| 고유식별정보 |
법령에 따라 개인을 고유하게 구별하려고 부여한 식별정보 가운데 대통령령으로 정하는 정보 |
| 과학적 연구 |
기술의 개발과 실증, 기초연구, 응용연구, 민간 투자 연구 등 과학적 방법을 적용하는 연구 |
| 국내대리인 |
국내에 주소·영업소가 없는 기준 이상 사업자를 대리해 이행 결과 제출 등을 맡는 국내 주소·영업소 보유자 |
| 국외 이전 |
개인정보를 국외로 제공(조회 포함)·처리위탁·보관하는 것 |
| 기계 판독 표시 |
메타데이터처럼 사람이 아닌 소프트웨어가 읽는 생성물 표시. 안내 문구·음성을 1회 이상 함께 제공 |
| 데이터 레지던시 |
데이터가 저장·처리되는 지역을 정하는 설정. 저장 위치와 처리 위치를 나눠 확인 |
| 데이터 처리 부속서(DPA) |
벤더가 고객 데이터를 처리하는 조건을 계약으로 정한 문서 |
| 무보존(ZDR) |
벤더가 요청·응답을 오남용 감시 로그 등에 남기지 않는 조건. 대개 승인이나 합의로 얻고, 파일 등 상태 저장 기능과 안전 예외는 빠질 수 있음 |
| 민감정보 |
사상·신념, 정치적 견해, 건강, 성생활 등과 유전정보, 범죄경력, 식별 목적 생체 특징값, 인종·민족 정보 |
| 사실조사 |
위반 혐의나 신고가 있을 때 장관이 자료 제출을 요구하거나 조사하는 절차 |
| 사용 정책(AUP) |
벤더가 금지하거나 추가 요건을 붙이는 용도를 정한 문서 |
| 사전 고지 |
고영향·생성형 AI 기반 제품·서비스임을 이용자에게 미리 알리는 의무(제31조제1항) |
| 생성형 인공지능 |
입력 데이터의 구조와 특성을 모방해 글, 소리, 그림, 영상 등을 생성하는 AI 시스템 |
| 섀도 AI |
조직이 승인하지 않은 AI 계정·도구로 업무 데이터를 처리하는 현상 |
| 설명 가능성 |
결정이 "어떻게" 내려졌는지 답할 수 있는 성질 |
| 수탁자 |
개인정보 처리 업무를 위탁받아 처리하는 자. 재위탁받은 자 포함 |
| 안전성 확보 의무 |
누적 연산량 10의 26승 이상 등 세 기준을 모두 충족하는 시스템의 위험관리 의무(제32조) |
| 업무위탁 |
우리 업무를 위해 제3자에게 개인정보 처리를 맡기는 것 |
| 에이전트 |
도구를 호출해 조회·수정·발송 같은 행동을 하는 AI |
| 영향받는 자 |
AI 제품·서비스로 생명·신체 안전과 기본권에 중대한 영향을 받는 자 |
| 영향평가(AI) |
고영향 AI의 기본권 영향을 사전에 평가하는 것. 노력 의무 |
| 영향평가(개인정보) |
공공기관이 일정 규모 이상의 개인정보파일을 구축·변경할 때 하는 위험 평가 |
| 오남용 모니터링 |
사용 정책 위반을 찾기 위한 자동 분류와 필요 시 사람 검토 |
| 오버셰어링 |
필요 이상으로 넓게 공유된 파일·폴더. AI 검색이 들어오면 답에 드러남 |
| 이용사업자 |
개발사업자가 제공한 AI를 이용해 AI 제품·서비스를 제공하는 사업자 |
| 익명정보 |
다른 정보를 합리적으로 써도 개인을 알아볼 수 없는 정보. 개인정보 보호법 적용 제외 |
| 인공지능시스템 |
자율성·적응성을 가지고 주어진 목표를 위해 예측·추천·결정 등을 추론하는 AI 기반 시스템 |
| 인공지능취약계층 |
65세 이상, 장애인, 수급권자·차상위계층 등 시행령이 정한 사람. 영향평가에 특성 반영 |
| 자동화 편향 |
사람이 AI 제안을 지나치게 믿어 검토 없이 받아들이는 경향 |
| 자동화된 결정 |
완전히 자동화된 시스템으로 개인정보를 처리해 이루어지는 결정(행정청의 자동적 처분 제외). 권리·의무에 중대한 영향이면 거부권, 단 동의·법령·계약에 따른 결정은 예외 |
| 잔여 위험 |
통제를 적용하고도 남는 위험. 문서화하고 수용권자가 받아들임 |
| 정당한 이익 |
정당한 이익 달성에 필요하고 정보주체 권리보다 명백히 우선하며, 상당한 관련이 있고 합리적 범위를 넘지 않을 때의 처리 근거(제15조제1항제6호) |
| 처리 |
개인정보의 수집부터 파기까지 모든 행위 |
| 처리자(processor) |
고객의 지시에 따라 고객 데이터를 처리하는 자. 우리 법의 수탁자에 가까움 |
| 추가적 이용 |
당초 목적과 합리적으로 관련된 범위에서 불이익 여부·안전조치 등을 고려해 시행령 기준에 따라 동의 없이 하는 이용(제15조제3항) |
| 컨트롤러 |
데이터 처리의 목적과 방법을 스스로 정하는 자. 우리 법의 개인정보처리자에 가까움 |
| 투명성 |
시스템에서 "무슨 일이 있었는지" 답할 수 있는 성질 |
| 프런티어 안전 프레임워크 |
최첨단 모델의 극단적 역량 위험을 다루는 개발사의 자율 체계 |
| 프롬프트 인젝션 |
입력에 숨긴 지시로 AI의 원래 지침이나 행동을 바꾸는 공격 |
| 하위 처리자 |
벤더가 고객 데이터 처리를 다시 맡기는 다른 업체 |
| 해석 가능성 |
결정이 "왜" 그렇게 나왔고 사용자에게 무슨 의미인지 답할 수 있는 성질 |
| ISO/IEC 42001 |
AI 경영시스템의 수립·실행·유지·개선 요구사항을 정한 국제표준 |
| NIST AI RMF |
Govern·Map·Measure·Manage 네 기능으로 된 미국 NIST의 AI 위험관리 프레임워크 |
| RAG |
질문과 관련된 문서를 찾아 모델에 함께 넣어 답을 만드는 검색증강생성 방식 |