| 가명정보 |
가명처리해 추가 정보 없이는 특정 개인을 알아볼 수 없게 한 정보. 여전히 개인정보다 |
| 가명처리 |
개인정보의 일부를 삭제하거나 대체해 추가 정보 없이는 개인을 알아볼 수 없게 하는 처리 |
| 간접 차별 |
같은 기준을 적용해도 특정 집단에 불리한 결과가 생기고 그 기준의 정당성을 증명하지 못하는 경우 |
| 감사 추적 |
누가, 언제, 무엇을, 왜 했는지 나중에 재구성할 수 있게 남기는 기록 |
| 개발사업자 |
인공지능을 개발하여 제공하는 인공지능사업자(인공지능기본법 제2조제7호가목) |
| 개인정보 |
살아 있는 개인에 관한 정보로서 개인을 알아볼 수 있는 정보, 다른 정보와 쉽게 결합해 알아볼 수 있는 정보, 가명정보 |
| 개인정보처리자 |
업무를 목적으로 개인정보파일을 운용하려고 스스로 또는 다른 사람을 통해 개인정보를 처리하는 자 |
| 거부권 |
중대한 영향을 미치는 자동화된 결정을 거부할 수 있는 정보주체의 권리. 결정이 동의·법령·계약에 따라 이루어지면 예외(자동화된 결정 사실을 명확히 미리 알린 경우 등) |
| 거짓 채용광고 |
채용을 가장해 아이디어를 수집하거나 홍보하려고 내는 광고. 채용절차법 제4조가 금지 |
| 검토 요구 |
정보주체가 의견(개인정보 추가·정정 등)을 내며 자동화된 결정에 반영할 수 있는지 검토를 요구하는 것 |
| 고령자고용법 |
고용상 연령차별금지 및 고령자고용촉진에 관한 법률 |
| 고영향 인공지능 |
생명·신체 안전·기본권에 중대한 영향이나 위험 우려가 있고 법정 영역(채용·대출 심사 등)에서 활용되는 AI 시스템 |
| 고유식별정보 |
주민등록번호, 여권번호, 운전면허번호, 외국인등록번호 |
| 공개 의무 |
자동화된 결정의 기준·절차와 개인정보 처리 방식을 정보주체가 쉽게 확인할 수 있게 공개할 의무 |
| 구조화 면접 |
모든 지원자에게 직무와 연결된 같은 질문을 같은 채점 기준으로 묻는 면접 |
| 국외 이전 |
개인정보를 국외로 제공(조회 포함)·처리위탁·보관하는 것 |
| 근로자참여법 |
근로자참여 및 협력증진에 관한 법률. 노사협의회의 설치와 협의 사항을 정함 |
| 기초심사자료 |
구직자의 응시원서, 이력서, 자기소개서 |
| 남녀고용평등법 |
남녀고용평등과 일·가정 양립 지원에 관한 법률 |
| 노사협의회 |
근로자와 사용자가 참여해 협의하는 기구. 근로조건 결정권이 있는 사업이나 사업장 단위로 설치하며 상시 30명 미만은 예외 |
| 단계별 분석 |
채용 단계마다 집단별 통과율을 따로 계산해 차이가 생기는 위치를 찾는 방법 |
| 대리 변수 |
보호 속성은 아니지만 그것과 강하게 연관되어 결과적으로 그 속성을 대신 드러내는 변수 |
| 민감정보 |
사상·신념, 노조·정당 가입, 정치적 견해, 건강, 성생활 등과 유전정보, 범죄경력, 식별 목적 생체 특징, 인종·민족 정보 |
| 목적 외 이용 |
수집할 때의 목적과 근거 범위를 넘어 개인정보를 이용하는 것 |
| 반환 청구 기간 |
채용 여부 확정일 이후 14~180일 범위에서 구인자가 정해 미리 알리는 채용서류 반환 청구 기간. 홈페이지·전자우편으로 받은 서류는 반환 의무의 예외 |
| 별도 동의 |
다른 처리에 대한 동의와 구분해 따로 받는 동의 |
| 보호 속성 |
차별 금지의 기준이 되는 특성. 연령, 성별, 혼인, 장애, 출신지역 등 |
| 부당노동행위 |
노조 가입 등을 이유로 한 불이익 처우 등 노동조합법 제81조가 금지하는 사용자의 행위 |
| 불리한 영향 |
선발 절차가 특정 집단에 현저히 낮은 선발률을 낳는 것 |
| 사람의 의미 있는 검토 |
정당한 권한을 가진 사람이 결과를 바꿀 수 있는 상태에서 실질적으로 검토하는 것 |
| 선발률 |
한 집단의 지원자 가운데 다음 단계로 통과한 사람의 비율 |
| 선발률 비 |
비교 집단의 선발률을 선발률이 가장 높은 집단의 선발률로 나눈 값 |
| 설명 가능성 |
AI 시스템이 작동하는 기저 메커니즘을 표현할 수 있는 성질 |
| 설명 요구권 |
자동화된 결정에 대해 결과와 주요 기준, 처리 절차의 설명을 요구할 권리 |
| 수탁자 |
개인정보 처리 업무를 위탁받아 처리하는 자. 재위탁받은 자 포함 |
| 심층심사자료 |
작품집, 연구실적물 등 구직자의 실력을 알아볼 수 있는 자료 |
| 4/5 경험칙 |
선발률 비가 0.8 미만이면 불리한 영향의 신호로 보는 미국 연방 지침의 경험칙 |
| 안전조치 |
유출 등을 막기 위한 기술적·관리적·물리적 조치. 내부 관리계획, 접속기록 보관 등 |
| 영향받는 자 |
인공지능제품·서비스로 생명·신체 안전·기본권에 중대한 영향을 받는 자 |
| 위탁 |
개인정보처리자가 자기 업무의 개인정보 처리를 제3자에게 맡기는 것 |
| 이용사업자 |
개발사업자가 제공한 인공지능을 이용해 인공지능제품·서비스를 제공하는 인공지능사업자(인공지능기본법 제2조제7호나목) |
| 이용자 |
인공지능제품 또는 인공지능서비스를 제공받는 자 |
| 익명 처리 |
시간·비용·기술을 합리적으로 고려해도 다른 정보로 더 이상 개인을 알아볼 수 없게 하는 처리 |
| 입증자료 |
학위·경력·자격증명서 등 기초심사자료에 적은 사항을 증명하는 자료 |
| 자동화 편향 |
사람이 자동화된 시스템의 출력을 지나치게 믿고 따르는 경향 |
| 자동화된 결정 |
완전히 자동화된 시스템(AI 포함)으로 개인정보를 처리해 이루어지는 결정. 행정청의 자동적 처분 제외 |
| 적극적 고용개선조치 |
남녀 간 고용차별을 없애거나 고용평등을 촉진하려고 잠정적으로 특정 성을 우대하는 조치 |
| 정당한 편의 |
장애인이 장애가 없는 사람과 동등하게 참여할 수 있도록 장애 특성을 고려해 제공하는 수단과 조치 |
| 제3자 제공 |
개인정보를 받는 자가 자기 목적으로 이용하도록 넘기는 것 |
| 주민등록번호 처리 제한 |
법령 근거 등이 없으면 동의로도 주민등록번호를 처리할 수 없다는 원칙(제24조의2) |
| 중대한 영향 |
자동화된 결정이 정보주체의 권리·의무에 미치는 영향이 커서 거부권이 생기는 정도 |
| 직무 분석 |
직무에서 실제로 하는 일과 필요한 지식·기술·능력을 체계적으로 정리하는 작업 |
| 직접 차별 |
보호 속성을 이유로 다르게 대하는 것 |
| 채용서류 |
기초심사자료, 입증자료, 심층심사자료 |
| 채용절차법 |
채용절차의 공정화에 관한 법률. 상시 30명 이상 사업(장)의 채용절차에 적용, 국가·지방자치단체의 공무원 채용은 제외 |
| 처리 근거 |
개인정보를 처리할 수 있는 법적 근거. 동의, 법령, 계약 이행 등 |
| 최소 수집 |
목적에 필요한 최소한의 개인정보만 수집하는 원칙. 입증 책임은 처리자에게 있음 |
| 타당성 |
점수나 판단이 측정하려는 것(직무 성과 등)과 관련 있다는 객관적 증거로 확인된 성질 |
| 통계적 유의성 |
관찰한 차이가 우연만으로 생기기 어려운 정도 |
| 해석 가능성 |
설계 목적의 맥락에서 AI 출력이 무엇을 뜻하는지 이해할 수 있는 성질 |
| 할루시네이션 |
AI가 사실과 다르거나 근거 자료에 없는 내용을 그럴듯하게 만들어 내는 현상 |
| 외부 지식 제한 |
제공한 문서의 정보만 쓰고 일반 지식은 쓰지 말라고 지시하는 기법 |
| RAG(검색 증강 생성) |
질문에 맞는 문서를 검색해 그 내용을 근거로 모델이 답하게 하는 방식 |
| 과도한 에이전시 |
LLM에 연결된 기능이 필요 이상의 기능·권한·자율성을 가진 위험(OWASP LLM06) |
| 근로자 감시 설비 |
사업장에서 근로자를 감시하는 장비·프로그램. 설치는 노사협의회 협의 사항(근로자참여법 제20조제1항제14호) |
| 놓침 비율 |
요건을 갖춘 지원자 가운데 AI가 탈락시킨 비율(위음성률). 집단별로 비교 |
| 프롬프트 인젝션 |
입력이나 문서 속 지시로 모델의 행동을 의도와 다르게 바꾸는 공격(OWASP LLM01) |
| 완전한 중재 |
행동의 허용 여부를 LLM이 아니라 하위 시스템(인사 DB, 권한 검사 API 등)이 요청마다 강제하는 원칙 |
| GOVERN |
NIST AI RMF에서 위험 관리 문화와 책임을 세우는 기능. 다른 기능 전체에 걸침 |
| MAP |
NIST AI RMF에서 AI 시스템의 맥락을 파악해 위험을 정리하는 기능 |
| MEASURE |
NIST AI RMF에서 위험을 정량·정성적으로 분석·평가하는 기능 |
| MANAGE |
NIST AI RMF에서 파악·측정한 위험에 자원을 배분해 대응하는 기능 |
| NIST AI RMF |
미국 국립표준기술연구소의 AI 위험관리 프레임워크 |