3장. 개인정보와 AI

학습 목표

• AI 생애주기의 각 단계(수집, 정제, 학습, 추론, 기록, 파기)를 개인정보 보호법의 "처리"로 읽고 단계별 목적과 근거를 연결한다.
• 수집·이용 근거, 추가적 이용, 공개된 개인정보의 정당한 이익을 비교해 학습 데이터의 처리 근거를 고른다.
• 민감정보·고유식별정보, 가명정보와 익명정보의 요건과 금지 의무를 설명한다.
• 위탁, 제3자 제공, 국외 이전을 외부 AI 서비스 이용에 적용한다.
• 자동화된 결정에 대한 거부·설명 요구와 공개 의무를 대응 절차로 설계한다.

들어가며

한 회사의 고객센터 팀장이 이렇게 제안했다고 합시다. "상담 기록이 몇 년치 쌓여 있으니, 이걸로 우리 회사 전용 상담 모델을 학습시키죠. 어차피 우리 데이터잖아요." 이 문장에는 개인정보 보호법이 묻는 질문이 모두 숨어 있습니다. 그 기록은 어떤 목적으로 모았는가, 학습은 그 목적 안에 있는가, 기록에 건강 정보나 주민등록번호가 섞여 있지는 않은가, 학습을 맡길 외부 업체는 그 데이터를 어떻게 다루는가, 서버는 어느 나라에 있는가, 그리고 완성된 모델이 고객에 관한 결정을 사람 없이 내리게 되는가.

"우리 데이터"라는 말은 소유의 언어이고, 개인정보 보호법은 처리의 언어로 말합니다. 정보주체가 맡긴 정보를 어떤 목적으로, 어떤 근거로, 어떤 보호 아래 처리하는지가 이 장 전체의 핵심입니다.

2026년 9월 11일 시행된 개정법과 개정 시행령의 변화도 이 장에 함께 반영했습니다. 이 장은 AI 생애주기를 따라갑니다. 처리 원칙과 근거를 먼저 세우고, 추가적 이용과 공개된 개인정보, 민감정보, 가명·익명정보를 다룹니다. 이어서 외부 AI를 쓸 때의 위탁·제3자 제공·국외 이전, 자동화된 결정, 정보주체 권리와 유출 통지를 읽고, 마지막으로 이 모두를 하나의 판단 절차로 묶습니다.

핵심 개념

AI 생애주기로 보는 "처리"

개인정보 보호법에서 처리는 수집, 생성, 연계, 연동, 기록, 저장, 보유, 가공, 편집, 검색, 출력, 정정, 복구, 이용, 제공, 공개, 파기와 그와 유사한 행위를 모두 포함합니다(제2조제2호). AI의 모든 단계가 처리입니다.

개인정보보호위원회의 「생성형 인공지능 개발·활용을 위한 개인정보 처리 안내서」(2025년 8월)는 생애주기를 목적 설정, 전략 수립, 학습 및 개발, 적용 및 관리의 네 단계로 나누고, 개인정보 보호책임자(CPO) 중심의 거버넌스를 권합니다. 위 표는 그 흐름을 실무 행위 단위로 더 쪼갠 것입니다.

처리 원칙

제3조는 여덟 가지 원칙을 둡니다. AI와 특히 맞닿는 것은 다음과 같습니다.

• 처리 목적을 명확히 하고, 목적에 필요한 최소한만 적법하고 정당하게 수집한다(제1항).
• 목적에 필요한 범위에서 처리하고 목적 외 용도로 활용하지 않는다(제2항).
• 목적에 필요한 범위에서 정확성·완전성·최신성을 보장한다(제3항).
• 위험 정도를 고려해 안전하게 관리하고, 처리방침 등을 공개해 정보주체의 권리를 보장한다(제4·5항).
• 사생활 침해를 최소화하는 방법으로 처리한다(제6항).
• 익명이나 가명으로 처리해도 목적을 달성할 수 있으면, 익명이 가능하면 익명으로, 그렇지 않으면 가명으로 처리한다(제7항).

제7항은 학습 데이터 설계의 출발점입니다. "모델 성능을 위해 원본이 필요하다"는 주장은 그 자체로 근거가 되지 않습니다. 익명이나 가명으로도 목적을 달성할 수 없다는 설명이 먼저 있어야 합니다.

처리 근거 고르기

개인정보를 수집해 그 목적 범위에서 이용할 수 있는 근거는 제15조제1항의 일곱 가지입니다. 정보주체의 동의, 법률의 특별한 규정이나 법령상 의무 준수, 공공기관의 소관 업무 수행, 계약 체결·이행, 명백하고 급박한 생명·신체·재산의 이익, 개인정보처리자의 정당한 이익(명백하게 정보주체의 권리보다 우선하고, 상당한 관련이 있으며 합리적 범위를 넘지 않는 경우), 공중위생 등 긴급한 필요입니다.

AI 단계마다 근거가 달라질 수 있습니다.

동의는 만능 열쇠가 아닙니다. 동의를 받을 때는 목적, 항목, 보유 기간, 거부권과 불이익을 알려야 하고(제15조제2항), 동의를 거부할 수 있어야 하며, 범위가 바뀌면 다시 받아야 합니다. 대규모 학습 데이터에서는 사후 동의가 사실상 불가능한 경우가 많아 다른 근거를 함께 검토합니다. 필요한 최소한의 정보 외의 수집(예: 학습용 추가 수집)에 동의하지 않는다는 이유로 서비스 제공을 거부할 수도 없습니다(제16조제3항).

추가적 이용과 목적 외 이용

추가적 이용(제15조제3항)은 당초 수집 목적과 합리적으로 관련된 범위에서, 정보주체의 불이익 여부와 암호화 등 안전성 확보 조치 여부 등을 고려해 동의 없이 이용하는 것입니다. 시행령 제14조의2는 고려 사항을 네 가지로 정합니다.

1. 당초 수집 목적과 관련성이 있는지
2. 수집한 정황이나 처리 관행에 비추어 추가적 이용을 예측할 수 있는지
3. 정보주체의 이익을 부당하게 침해하는지
4. 가명처리나 암호화 등 안전성 확보 조치를 했는지

추가적 이용이 지속적으로 일어난다면 판단 기준을 개인정보 처리방침에 공개하고, 개인정보 보호책임자가 그 기준대로 이용하는지 점검해야 합니다(시행령 제14조의2제2항). 주기적으로 재학습하는 모델이 바로 이런 경우입니다.

목적 외 이용(제18조)은 이와 다릅니다. 수집 목적 범위를 넘는 이용은 원칙적으로 금지되고, 별도 동의나 다른 법률의 특별한 규정 등 예외에 해당해야 합니다. 비유하면 추가적 이용은 같은 집의 방을 다른 용도로 쓰는 것이고, 목적 외 이용은 다른 집으로 이사하는 것입니다. 방을 바꿀 때도 가족이 놀라지 않을 범위(예측 가능성)여야 합니다.

공개된 개인정보와 정당한 이익

웹에 공개된 글이라고 아무 제한 없이 학습에 쓸 수 있는 것은 아닙니다. 공개된 정보도 개인을 알아볼 수 있다면 개인정보입니다. 개인정보보호위원회의 「인공지능(AI) 개발·서비스를 위한 공개된 개인정보 처리 안내서」(2024년 7월)는 공개된 개인정보를 AI 학습에 쓰는 근거로 제15조의 정당한 이익 조항을 검토하고, 세 요건을 제시합니다.

1. 목적의 정당성: AI 개발 목적이 정당한가.
2. 처리의 필요성: 그 목적에 공개된 개인정보 처리가 필요하고 상당한 관련이 있으며 합리적 범위인가.
3. 구체적 이익형량: 처리자의 정당한 이익이 정보주체의 권리보다 명백하게 우선하는가.

안내서는 기술적·관리적 안전조치와 정보주체 권리 보장 방안을 함께 제시하고, 기업이 특성에 맞는 조치 조합을 스스로 고를 수 있다고 설명합니다. 안내서는 법령이 아니라 해석과 권고이므로, 판단 메모에는 "안내서를 참고한 이익형량"이라고 성격을 밝혀 적습니다.

민감정보, 고유식별정보, 주민등록번호

민감정보(제23조)는 사상·신념, 노동조합·정당 가입·탈퇴, 정치적 견해, 건강, 성생활 등에 관한 정보와 시행령이 정한 정보입니다. 시행령 제18조는 유전정보, 범죄경력자료, 인종·민족 정보, 그리고 개인의 신체적·생리적·행동적 특징에 관한 정보로서 특정 개인을 알아볼 목적으로 일정한 기술적 수단을 통해 생성한 정보를 더합니다. 얼굴 사진 자체가 아니라, 개인을 식별할 목적으로 추출한 얼굴 특징값이 여기에 해당합니다.

민감정보는 원칙적으로 처리할 수 없고, 다른 처리에 대한 동의와 별도로 동의를 받거나 법령이 처리를 요구·허용하는 경우에만 처리할 수 있으며, 유출 등이 되지 않도록 안전성 확보 조치를 해야 합니다.

고유식별정보(제24조)는 법령에 따라 개인을 고유하게 구별하기 위해 부여된 식별정보이고, 주민등록번호(제24조의2)는 그보다 더 좁게 제한됩니다. 주민등록번호는 법률·대통령령 등이 구체적으로 요구·허용하거나, 급박한 생명·신체·재산의 이익을 위해 명백히 필요하거나, 이에 준해 보호위원회가 고시한 경우에만 처리할 수 있고, 암호화해 보관해야 합니다. 상담 대화나 자유서술 입력창에는 고객이 스스로 이런 정보를 적어 넣는 일이 많으므로, 학습 전에 패턴 탐지로 걸러내는 단계를 두어야 합니다.

가명정보 특례

가명처리는 개인정보의 일부를 삭제하거나 일부 또는 전부를 대체하는 등의 방법으로 추가 정보 없이는 특정 개인을 알아볼 수 없도록 처리하는 것입니다(제2조제1호의2). 그렇게 만든 가명정보도 개인정보입니다(제2조제1호다목). 비유하면 가명정보는 열쇠를 따로 보관한 잠긴 상자이고, 익명정보는 열쇠가 아예 없는 상자입니다.

AI 개발은 "기술의 개발과 실증"이라는 과학적 연구의 정의에 들어갈 수 있어 가명정보 특례가 자주 검토됩니다. 다만 특례가 민감정보의 별도 요건까지 없애 주는지는 따로 검토해야 하고, 학습된 모델이나 결과물로 특정 개인을 다시 알아볼 수 있게 되면 제28조의5의 중지·파기 의무가 작동합니다.

익명정보와 재식별 위험

시간·비용·기술 등을 합리적으로 고려할 때 다른 정보를 사용해도 더 이상 개인을 알아볼 수 없는 정보에는 이 법이 적용되지 않습니다(제58조의2). 이것이 익명정보입니다. 판단 기준은 "지금 이 회사가 알아볼 수 있는가"가 아니라, 합리적으로 입수 가능한 다른 정보까지 고려했을 때 알아볼 수 있는가입니다(제2조제1호나목의 결합 용이성 판단과 같은 사고방식).

AI에서는 재식별 위험이 두 곳에서 생깁니다. 데이터셋 단계에서는 드문 속성의 조합(나이, 동네, 직업)이 개인을 드러낼 수 있고, 모델 단계에서는 학습한 문장을 그대로 재현할 수 있습니다. 합성데이터나 통계적 잡음 추가 같은 기법은 위험을 줄이는 수단이지만, 결과물이 익명정보인지는 기법의 이름이 아니라 재식별 가능성 평가로 판단해야 합니다.

위탁, 제3자 제공, 벤더의 독자 이용

외부 AI 서비스에 개인정보를 넣을 때 그 관계가 무엇인지 먼저 정해야 합니다.

비유하면 위탁은 세탁소에 옷을 맡기는 것이고, 제3자 제공은 옷을 남에게 주는 것입니다. 세탁소가 맡긴 옷을 제 옷처럼 입고 다니면 더는 맡김이 아닙니다. 그래서 1장의 "학습 미사용" 약속과 DPA를 확인합니다. 벤더가 고객 데이터를 자기 모델 학습에 쓰지 않는다는 약속이 있어야 위탁 관계로 설명할 수 있습니다. 수탁자에게도 수집·이용, 민감정보, 국외 이전 등 상당수 조문이 준용되므로(제26조제8항), 수탁자 역시 같은 기준으로 처리해야 합니다.

국외 이전

개인정보를 국외로 제공(조회되는 경우 포함)·처리위탁·보관하는 것은 모두 이전입니다(제28조의8제1항). 원칙적으로 금지되고, 다음 중 하나에 해당해야 합니다.

1. 정보주체로부터 국외 이전에 관한 별도 동의를 받은 경우
2. 법률, 조약, 국제협정에 특별한 규정이 있는 경우
3. 정보주체와의 계약 체결·이행을 위해 처리위탁·보관이 필요하고, 이전 항목, 국가·시기·방법, 받는 자, 이용 목적·보유 기간, 거부 방법 등을 처리방침에 공개하거나 전자우편 등으로 알린 경우
4. 받는 자가 보호위원회가 고시한 인증을 받고 필요한 조치를 모두 한 경우
5. 이전 대상 국가·국제기구의 보호 수준이 이 법과 실질적으로 동등하다고 보호위원회가 인정한 경우

국외 이전을 할 때는 안전성 확보 조치, 고충처리·분쟁해결 조치 등 보호조치를 하고 이를 받는 자와 미리 협의해 계약에 반영해야 합니다(시행령 제29조의10). 받는 자가 다시 제3국으로 옮기는 경우에도 같은 규정이 준용됩니다(제28조의11). 보호위원회는 위반이나 현저한 피해 우려가 있으면 이전 중지를 명할 수 있고, 처리자는 7일 이내 이의를 제기할 수 있습니다(제28조의9).

1장에서 본 것처럼 "국내 저장"과 "국내 처리"는 다릅니다. 해외에서 추론하는 API를 쓰면 저장 위치와 상관없이 국외 처리위탁이 생길 수 있습니다.

자동화된 결정

정보주체는 완전히 자동화된 시스템(AI 기술을 적용한 시스템 포함)으로 개인정보를 처리해 이루어지는 결정이 자신의 권리 또는 의무에 중대한 영향을 미치면 그 결정을 거부할 수 있습니다(제37조의2제1항). 다만 그 결정이 동의, 법률의 특별한 규정·법령상 의무, 계약 체결·이행에 따라 이루어지는 경우에는 거부권이 인정되지 않습니다. 행정기본법 제20조에 따른 행정청의 자동적 처분은 이 조의 자동화된 결정에서 빠집니다.

거부권이 없는 경우에도 정보주체는 설명 등을 요구할 수 있고(제2항), 처리자는 정당한 사유가 없으면 결정을 적용하지 않거나 인적 개입에 의한 재처리·설명 등 필요한 조치를 해야 합니다(제3항). 결정의 기준과 절차, 개인정보 처리 방식은 쉽게 확인할 수 있게 공개해야 합니다(제4항).

"완전히 자동화된"이라는 말이 핵심입니다. 사람이 결과를 실질적으로 검토하고 바꿀 권한이 있다면 이 조의 결정이 아닐 수 있지만, 형식적인 확인은 실질적 개입이 아닙니다. 개인정보보호위원회 고시 「자동화된 결정에 대한 개인정보처리자의 조치 기준」 별표도 인사권자가 시스템이 산출한 점수만 형식적으로 확인해 불합격을 정한 경우를 자동화된 결정의 예로 듭니다(4장의 자동화 편향 참고). 설명 요구와 기준 공개는 중대한 영향이 없는 자동화된 결정에도 적용됩니다. 인공지능기본법 제3조제2항도 영향받는 자가 최종결과 도출에 활용된 주요 기준과 원리에 대해 기술적·합리적으로 가능한 범위에서 명확하고 의미 있는 설명을 받을 수 있어야 한다는 원칙을 둡니다.

정보주체 권리, 유출 통지, 영향평가

AI 시스템도 열람(제35조), 정정·삭제(제36조), 처리정지(제37조) 요구에 답해야 하고, 시행령이 정한 대상 처리자라면 요건을 갖춘 정보의 전송 요구(제35조의2)에도 답해야 합니다. 데이터가 원본 저장소, 검색 색인, 대화 로그, 학습 데이터셋, 백업에 흩어져 있으므로 요청을 받으면 어느 저장소까지 찾을지 미리 정해 두어야 합니다. 학습이 끝난 모델 안에서 특정인의 정보만 지우는 것은 기술적으로 어려울 수 있으므로, 학습 데이터셋에서의 삭제, 재학습 주기, 출력 단계의 차단을 조합해 대응 방안을 설명할 수 있어야 합니다.

유출 통지(제34조)는 2026년 개정으로 강화되었습니다. 유출등을 알게 되면 지체 없이 정보주체에게 알리고(시행령상 72시간 이내), 1천 명 이상, 민감정보·고유식별정보, 외부의 불법 접근에 의한 유출이면 72시간 이내 보호위원회나 한국인터넷진흥원에 신고합니다. 새로 생긴 제34조제2항은 유출등의 가능성만으로도 통지하게 합니다. 예를 들어 처리 시스템에 불법 접근이 있어 유출이 의심되지만 어느 정보주체의 것인지 특정하기 곤란하면, 그 접근을 알게 된 때부터 72시간 이내 가능성이 있는 모든 정보주체에게 알려야 하고(연락처를 모르는 등 정당한 사유가 있으면 홈페이지 30일 이상 게시로 갈음), 사실이 확정되면 추가로 알립니다(시행령 제39조의2·제39조의3). 개정 조항은 2026년 9월 11일 이후 알게 된 경우부터 적용됩니다.

개인정보 영향평가(제33조)는 공공기관의 의무입니다. 5만 명 이상의 민감정보·고유식별정보 파일, 연계 결과 50만 명 이상인 파일, 100만 명 이상의 파일 등을 구축·변경할 때 지정 평가기관에 의뢰해 평가하고 결과를 보호위원회에 냅니다(시행령 제35조). 민간 기업은 같은 틀을 자율 점검에 쓸 수 있습니다.

AI 학습·추론 데이터의 적법 처리 판단

이 장의 기술 목표는 "AI 학습·추론 데이터의 적법 처리 판단"입니다. 다음 순서로 검토 메모를 씁니다.

1. 데이터 목록: 데이터셋 이름, 항목, 정보주체 범위, 규모, 출처, 당초 수집 목적과 근거를 적습니다.
2. 새 목적: 학습인지 추론인지, 같은 서비스 개선인지 새 서비스인지 씁니다.
3. 특수 정보 걸러내기: 민감정보, 고유식별정보, 주민등록번호, 아동 정보가 섞여 있는지 확인하고 제거·별도 근거를 정합니다.
4. 최소화: 익명·가명으로 목적을 달성할 수 있는지 먼저 검토합니다(제3조제7항).
5. 근거 선택: 당초 목적 범위, 추가적 이용(네 고려사항), 가명정보 특례, 정당한 이익(공개 정보), 새 동의 중 무엇을 쓸지 정하고 이유를 씁니다.
6. 관계와 위치: 외부 서비스를 쓰면 위탁인지 제공인지, 국외 이전인지, 근거와 공개 항목이 무엇인지 적습니다.
7. 결과의 사용: 결과가 개인에 관한 완전 자동화된 결정에 쓰이는지 보고, 그렇다면 제37조의2 대응을 설계합니다.
8. 권리와 파기: 열람·삭제 요청 처리 범위, 보유 기간, 파기 방법을 정합니다.
9. 표시: 메모 맨 위에 "법률 검토 전 초안"과 작성일을 적습니다.

깊이 읽기

사내 검색과 RAG: 권한과 삭제가 따라가야 한다

**검색증강생성(RAG, Retrieval-Augmented Generation)**은 질문과 관련된 사내 문서를 찾아 모델에 함께 넣어 답을 만드는 방식입니다. 학습을 하지 않으니 개인정보 문제가 없다고 생각하기 쉽지만, 실제로는 새로운 저장소(검색 색인, 임베딩 벡터)와 새로운 조회 경로가 생깁니다.

첫째, 권한이 따라가야 합니다. 원본 문서에 걸려 있던 접근 권한이 색인 단계에서 사라지거나, 보직 이동·퇴사로 권한이 바뀌었는데 색인이 그대로면, 인사 기록을 볼 권한이 없는 직원도 AI에게 물어 내용을 얻을 수 있습니다. Microsoft는 Copilot이 사용자에게 최소한 보기 권한이 있는 데이터만 보여 준다고 설명하는데, 이는 거꾸로 원본 권한이 엉켜 있으면 그 엉킴이 그대로 드러난다는 뜻입니다. 둘째, 삭제가 따라가야 합니다. 원본에서 지운 문서가 색인과 캐시에 남아 있으면 삭제 요청을 처리했다고 말할 수 없습니다. 원본 변경이 색인에 반영되는 주기와 확인 방법을 정해 두세요.

모델 안의 개인정보

학습된 모델은 학습 데이터 일부(드물게 등장한 전화번호나 문장)를 거의 그대로 재현할 수 있습니다. 대응은 세 겹으로 생각합니다. 학습 전에는 식별자를 걸러내고 중복을 줄입니다. 학습 중에는 통계적 잡음을 더하는 차분 프라이버시(differential privacy) 같은 보호 학습을 검토합니다. 출력 단계에서는 주민등록번호·전화번호 같은 패턴을 차단하고, 추출 시도에 대한 점검을 정기적으로 합니다.

가명정보로 학습한 모델이 특정 개인을 알아볼 수 있는 정보를 내놓으면 제28조의5제2항의 중지·회수·파기 의무가 작동할 수 있으므로, 롤백이나 재학습 같은 모델 단위 대응 계획을 미리 마련해 두세요.

2026년 개정이 AI 운영에 주는 영향

2026년 9월 11일 시행된 개정법은 AI 운영 조직에 네 가지 변화를 줍니다. 첫째, 유출 가능성 통지가 생겨 "아직 확인 중"이라는 이유로 통지를 미룰 수 없으므로, 대화 로그 저장소의 침해 대응 절차에 72시간 시계를 넣어야 합니다. 둘째, 사업주나 대표자가 최종 책임자로서 전문 인력과 예산 지원 등 총괄 관리 조치를 해야 합니다(제30조의3). 셋째, 일정 규모 이상의 처리자는 개인정보 보호책임자의 지정·변경·해제에 이사회 의결을 거치고 보호위원회에 신고해야 합니다(제31조제3항, 대상 기준은 시행령). 넷째, 과징금 부과처분을 받은 날부터 3년이 지나기 전에 같은 호의 위반을 다시 한 경우(각각 고의나 중대한 과실이 있을 때), 고의나 중대한 과실에 의한 위반으로 피해 규모가 1천만 명 이상인 경우 등에는 전체 매출액의 100분의 10까지 과징금을 부과할 수 있게 되었습니다(제64조의2제2항).

실무 장면

모람정밀: 사내 인사 도우미를 만들 때

직원 1,800명 규모의 중견 제조사 '모람정밀'은 직원들이 휴가 규정, 급여 명세, 복리후생을 물으면 답하는 사내 AI 도우미를 만들려 한다. 인사 규정집과 함께 직원별 휴가 사용 기록, 급여 정보, 병가 기록을 검색 색인에 넣고, 해외에 있는 클라우드 리전의 모델 API로 답을 생성할 계획이다.

개인정보 담당자는 데이터부터 나누었다. 규정집은 개인정보가 아니다. 휴가·급여 기록은 근로계약 이행을 위해 처리하는 개인정보이고, 본인의 질문에 답하는 것은 당초 목적 범위로 설명할 수 있다. 문제는 병가 기록이었다. 병명이 적힌 기록은 건강에 관한 민감정보다. 담당자는 병가는 "일수"만 색인에 넣고 진단 내용은 넣지 않기로 했다. 질문에 답하는 데 진단명은 필요 없기 때문이다.

개발팀은 모든 기록을 하나의 색인에 넣고 "본인 것만 답하라"고 지시문에 적자고 했다. 담당자는 지시문은 접근 통제가 아니라며 받아들이지 않았고, 검색 단계에서 질문자의 사번으로 걸러 본인 기록만 모델에 전달되게 했다.

해외 리전 사용은 국외 처리위탁이다. 근로계약 이행에 필요한 처리위탁이라는 점을 확인한 뒤 제28조의8제1항제3호에 따라 이전 항목, 국가·시기·방법, 받는 자와 연락처, 목적·보유 기간, 거부 방법·절차·효과를 처리방침에 공개하고, 위탁 계약에 학습 미사용과 재위탁 동의 조항이 있는지 확인했다. 대화 로그는 30일 후 삭제하고, 직원이 열람·삭제를 요청하면 원본 기록, 색인, 대화 로그 세 곳을 확인하도록 절차를 정했다. 메모에는 "근로자 대표와 사전 협의 필요 여부는 노무 검토"라는 항목을 따로 남겼다.

슬기온: 학습자 음성으로 발음 채점 모델을 만들 때

성인 대상 어학 앱 '슬기온'은 학습자가 녹음한 발음 연습 음성으로 발음 채점 모델을 고도화하려 한다. 음성은 "발음 피드백 제공"을 위해 수집했고, 이용약관에는 "서비스 개선"이 적혀 있다. 일부 반은 채점 점수로 다음 단계 수업 배정을 자동으로 정한다.

담당자는 먼저 음성이 개인정보인지 따졌다. 목소리와 녹음 속 이름 발화로 개인을 알아볼 수 있으므로 개인정보다. 그렇다면 민감정보인가? 시행령 제18조제3호는 특정 개인을 알아볼 목적으로 기술적 수단을 통해 생성한 정보를 민감정보로 본다. 발음 채점은 화자를 식별하려는 것이 아니므로, 채점 모델이 화자 식별용 특징값을 만들지 않는 한 이 요건에 해당하지 않는다고 판단했다. 다만 "화자 인증 기능을 나중에 붙이면 결론이 바뀐다"는 조건을 적었다.

근거로는 추가적 이용과 가명정보 특례를 비교했다. 같은 서비스의 피드백 품질을 높이는 학습이라 당초 목적과 관련성이 높고 학습자도 예상할 수 있다고 보아 추가적 이용을 택하되, 녹음의 이름 발화 구간을 자르고 계정 식별자를 가명 키로 바꾸며, 재학습이 분기마다 반복되므로 판단 기준을 처리방침에 공개하기로 했다. 새 동의를 받자는 의견은 동의율이 낮으면 데이터가 특정 집단에 치우친다는 문제와 함께 기록했다.

자동 수업 배정은 권리·의무에 중대한 영향을 미친다고 보기 어렵다고 판단했지만, 설명 요구는 중대성과 관계없이 들어올 수 있으므로 학습자가 이의를 제기하면 강사가 다시 평가하는 경로를 두었다.

자주 틀리는 지점

1. "가명처리하면 개인정보가 아니다." 가명정보도 개인정보입니다. 법 적용에서 벗어나는 것은 익명정보입니다.
2. "학습은 내부 이용이라 처리가 아니다." 이용·가공·생성도 처리입니다. 근거가 필요합니다.
3. "공개된 정보는 마음대로 학습에 써도 된다." 공개된 정보도 개인을 알아볼 수 있으면 개인정보이고, 정당한 이익 등 근거와 안전조치가 필요합니다.
4. "서버에 저장하지 않으면 국외 이전이 아니다." 조회되는 경우와 처리위탁도 이전에 포함됩니다.
5. "계약에 따른 자동 결정이면 아무 의무가 없다." 거부권만 인정되지 않을 뿐, 설명 요구 대응과 기준 공개 의무는 남습니다.
6. "민감정보도 일반 동의 한 번이면 된다." 다른 처리에 대한 동의와 별도로 받아야 합니다.
7. "벤더와 위탁 계약을 맺었으니 벤더가 학습에 써도 위탁이다." 벤더가 자기 목적으로 쓰면 위탁 범위를 넘습니다.
8. "유출이 확정될 때까지 통지를 미뤄도 된다." 2026년 개정으로 유출 가능성만으로 통지해야 하는 경우가 생겼습니다.

한눈에 정리

공식 문서로 확인하기

• 국가법령정보센터 — 개인정보 보호법: 제2조, 제3조, 제15조, 제17·18조, 제23·24조, 제24조의2, 제26조, 제28조의2~11, 제34조, 제37조의2, 제58조의2.
• 국가법령정보센터 — 개인정보 보호법 시행령: 제14조의2, 제18조, 제29조의5, 제29조의10, 제39~40조, 제44조의2~4.
• 대한민국 정책브리핑 — 개인정보위, AI 학습 활용 '공개 데이터' 처리 기준 마련: 정당한 이익 세 요건과 안전조치.
• 대한민국 정책브리핑 — 개인정보위, 생성형 AI 개발·활용 '개인정보 처리 기준' 공개: 생애주기 네 단계와 CPO 중심 거버넌스.
• 개인정보보호위원회: 안내서 원문과 가명정보 처리 가이드라인.
• 국가법령정보센터 — 인공지능기본법 제3조: 영향받는 자의 설명 원칙.

셀프 체크

3-1. 개인정보 보호법 제3조제7항이 학습 데이터 설계에 주는 요구를 한 문장으로 쓰고, 원본 데이터를 써야 한다고 주장하려면 무엇을 먼저 보여야 하는지 쓰라.

3-2. 개인정보 보호법 시행령 제14조의2제1항의 고려사항 네 가지를 쓰고, 같은 조 제2항이 요구하는 공개와 점검을 설명하라.

3-3. 개인정보보호위원회의 공개된 개인정보 처리 안내서가 정당한 이익 판단의 틀로 제시한 세 요건을 쓰고, 이 안내서가 법령과 어떻게 다른 성격의 문서인지 쓰라.

3-4. 시행령 제18조가 민감정보에 더한 정보 네 가지를 쓰고, 신체적·생리적·행동적 특징에 관한 정보가 민감정보가 되는 조건을 설명하라.

3-5. 외부 AI 벤더가 위탁받은 고객 데이터를 자기 모델 개선에 쓰면 어떤 문제가 생기는지 위탁과 제3자 제공의 차이로 설명하라.

3-6. 정보주체가 자동화된 결정의 설명을 요구했을 때 처리자가 담아야 할 설명의 요소와 처리 기한을 쓰라.

3-7. (설계) 고객 문의 응답 AI의 데이터 흐름을 수집, 검색 색인, 외부 모델 호출, 대화 로그, 파기의 다섯 단계로 그리고, 단계마다 처리 근거·보유 기간·국외 이전 여부를 적은 표를 만들라.

실습 과제