5장. 기관 도입과 운영

학습 목표

  • 기관의 AI 도입 목적을 문제로 정의하고, 목적에 맞는 성과 지표를 고른다.
  • UNESCO의 생성형 AI 교육 지침과 교사 AI 역량 프레임워크의 핵심을 도입 계획에 반영한다.
  • 서비스 선정, 계약, 교사 연수, 시범 운영, 확대를 근거가 이어지는 순서로 계획한다.
  • NIST AI RMF의 네 기능으로 학교의 AI 운영 업무를 나누고, 점검 항목과 주기를 정한다.
  • AI 서비스 사고를 종류별로 구분하고 종류에 맞는 첫 대응을 고른다.

들어가며

한 교육지원청이 "AI 튜터 전면 도입"을 발표한 지 한 학기 만에 두 가지 보고서가 올라왔습니다. 하나는 접속 건수가 목표의 두 배라는 성과 보고였고, 다른 하나는 학력 격차가 줄었다는 근거를 찾을 수 없다는 감사 의견이었습니다. 두 보고서는 모두 사실이었습니다. 학생들은 튜터를 많이 썼지만, 도입 목적이던 기초학력 회복을 확인할 지표는 처음부터 정해져 있지 않았습니다.

기관의 AI 도입은 한 교사의 수업 활용과 규모가 다릅니다. 수백, 수천 명의 학생 데이터가 움직이고, 예산과 계약이 따르며, 문제가 생기면 많은 학생에게 동시에 영향이 갑니다. 그래서 무엇을 위해 들이는지, 어떻게 효과를 확인할지, 누가 무엇을 점검할지, 사고가 나면 무엇부터 할지를 도입 전에 정해야 합니다.

이 장은 도입 목적과 성과 지표에서 시작합니다. 이어서 UNESCO의 지침과 교사 역량 프레임워크, 서비스 선정과 단계적 도입, 교사 연수와 보호자 소통을 다룹니다. 마지막으로 NIST AI RMF를 학교 운영에 옮기는 법, 점검 항목과 주기, 사고 유형별 첫 대응을 정리합니다.

핵심 개념

도입은 문제 정의에서 시작한다

"AI를 도입한다"는 목적이 아닙니다. 목적은 AI로 풀려는 문제입니다. 교사의 서술형 채점 부담이 크다, 기초학력 미달 학생에게 개별 연습 기회가 부족하다, 다문화 가정에 보내는 안내문 번역이 늦다 같은 문제가 먼저 있고, AI는 그 문제를 푸는 여러 방법 가운데 하나입니다.

문제를 정의할 때는 세 가지를 적습니다.

  1. 누구의 어떤 문제인가: 교사의 업무인가, 학생의 학습인가, 보호자와의 소통인가
  2. 지금은 어떻게 하고 있고 무엇이 부족한가: 현재 방식과 그 한계를 숫자로
  3. 무엇이 달라지면 성공인가: 이것이 성과 지표가 된다

AI가 아닌 방법이 더 나은 경우도 있습니다. 문제가 인력 부족이 아니라 기준표의 모호함이라면, AI 채점 도구보다 기준표 정비가 먼저입니다.

목적에 맞는 성과 지표

성과 지표는 목적에서 나옵니다. 같은 AI 튜터라도 목적에 따라 볼 지표가 다릅니다.

목적 핵심 지표 함께 볼 것
교사 업무 경감 교사 1인당 작업 시간의 도입 전후 변화, AI 초안의 수정 비율 수정 비율이 높으면 시간은 줄어도 품질 부담이 남은 것. 가능하면 같은 시기의 비교 학교·학급과 함께 본다
학습 회복 같은 성취기준 문항의 성취 변화, 목표 집단(기초학력 지원 대상)의 변화 평균이 목표 집단의 변화를 가리지 않는지, 비교 학급과 함께 보는지
운영 안정 표본으로 점검한 답변 정확도, 오류 신고 건수, 신고 처리 시간 오류를 얼마나 빨리 찾고 고치는지

접속 횟수, 대화 수, 만족도는 참고 지표입니다. 많이 쓴다고 학습이 회복되었다는 뜻이 아니고, 만족한다고 업무가 줄었다는 뜻도 아닙니다. 학기 말 한 번 하는 만족도 조사는 운영 중의 오류를 일찍 찾는 데 쓸 수도 없습니다.

UNESCO 생성형 AI 교육·연구 지침

UNESCO는 2023년 9월 「교육과 연구에서의 생성형 AI 지침」을 발표했습니다. UNESCO 안내 페이지와 발표문이 밝힌 핵심은 다음과 같습니다.

  • 대부분의 나라에 생성형 AI에 관한 국가 규제가 없어 교육기관이 도구를 검증할 준비가 대체로 되어 있지 않다.
  • 데이터 프라이버시 보호를 의무화하고, 생성형 AI 플랫폼과의 독립적 대화에 연령 기준을 두라. 발표문은 교실 AI 도구 사용 연령 기준을 13세로 두고 교사 연수를 요구한다고 밝혔다.
  • 윤리적 검증과 교수 설계에서 사람 중심이고 연령에 맞는 접근을 취하라.
  • 4장에서 본 것처럼, 발표 당시 조사한 학교와 대학 가운데 생성형 AI에 관한 기관 정책이나 공식 지침을 가진 곳은 10% 미만이었다. 기관 차원의 기준 없이 도구가 먼저 들어온 셈이다.

학교 운영에 옮기면 이렇습니다. 업체가 "교육용"이라고 홍보해도 학교가 스스로 검증해야 하고, 데이터 조건과 연령 기준을 계약 전에 확인해야 하며, 교사 연수는 도입의 전제이지 사용률이 낮을 때 하는 보완책이 아닙니다.

UNESCO 교사 AI 역량 프레임워크

UNESCO는 2024년 「교사를 위한 AI 역량 프레임워크」를 발표했습니다. 이 프레임워크는 다섯 차원에 걸친 15개 역량을 제시합니다.

차원 교사 연수에서 다룰 질문의 예
사람 중심의 사고방식(Human-centred mindset) AI를 쓸 때 교사와 학생의 주도성을 어떻게 지키는가
AI 윤리(Ethics of AI) 학생 데이터, 공정성, 책임을 어떻게 다루는가
AI의 기초와 활용(AI foundations and applications) AI는 어떻게 답을 만들고 어디서 틀리는가
AI 교수법(AI pedagogy) AI를 수업 설계와 평가에 어떻게 녹이는가
전문성 개발을 위한 AI(AI for professional learning) 교사 자신의 성장에 AI를 어떻게 쓰는가

역량은 습득(Acquire), 심화(Deepen), 창조(Create)의 세 단계로 나뉩니다. 연수를 설계할 때 모든 교사에게 같은 내용을 주기보다, 교사의 현재 단계에 맞춰 습득 과정과 심화 과정을 나누면 효과적입니다. 이 책의 1~4장은 이 프레임워크의 AI 교수법과 AI 윤리 차원을 학교 현장의 결정으로 풀어 쓴 것이라고 볼 수 있습니다.

서비스 선정과 계약

후보 서비스를 비교할 때는 기능과 가격 전에 3장의 다섯 질문(학습 사용, 보관 기간, 계정 유형, 처리 관계·위치, 연령 기준)을 확인합니다. 데이터가 국외에서 처리·보관된다면 개인정보 보호법 제28조의8의 요건(별도 동의, 처리방침 공개 등)을 어떻게 갖출지도 계약 전에 정합니다. 장애 학생을 포함한 모든 학생이 쓸 수 있는지(화면 낭독기, 자막 같은 접근성)도 선정 기준에 넣습니다. 학생이 개인 계정으로 가입하는 소비자용 앱은 학교가 데이터 조건을 통제하기 어렵고, 학생과 보호자에게 판단을 떠넘기게 됩니다. 학교 단위 계약 서비스는 조건을 문서로 확인하고 위탁 계약에 담을 수 있습니다.

교육청 같은 국가기관등이 고영향 인공지능 제품·서비스를 이용하려는 경우에는, 인공지능기본법 제35조제2항에 따라 영향평가를 실시한 제품·서비스를 우선적으로 고려해야 합니다. 학생 평가에 쓰이는 AI를 조달한다면 이 점을 평가 기준에 넣습니다.

선호도 조사로 서비스를 고르는 방법은 민주적으로 보이지만 데이터 조건을 확인한 결과가 아닙니다. 보호자 설명회는 조건을 확인한 뒤 그 결과를 알리고 질문을 받는 자리로 쓰는 것이 맞습니다.

단계적 도입

기관 도입은 근거가 이어지는 순서로 진행합니다.

  1. 목적과 지표 정하기: 무엇을 위한 도입인지, 무엇으로 성공을 판단할지, AI에 맡기지 않을 용도는 무엇인지
  2. 조건 확인과 계약: 목적에 비추어 데이터 조건과 연령 정책을 확인하고, 위탁 계약을 맺고, 보호자에게 알린다
  3. 연수와 시범 운영: 교사를 준비시키고 두세 학급이나 강좌에서 시범 운영한다
  4. 평가와 확대 결정: 미리 정한 지표로 시범 결과를 평가해 확대 여부를 정한다
  5. 운영과 점검: 확대 뒤 정기 점검과 사고 대응 절차를 운영한다

시범 없이 전면 도입하면 문제가 생겼을 때 영향받는 학생이 처음부터 수백 명이 됩니다. 지표 없이 시범을 하면 시범이 끝나도 확대할지 판단할 근거가 없습니다.

교사 연수와 지원

연수는 도구 사용법만 가르치면 부족합니다. 이 책의 각 장이 연수 주제가 될 수 있습니다.

연수 주제 내용
자료 검수 지시문 설계, 원자료 확인, 편향 점검, 저작물 이용(1장)
평가와 피드백 활용 수준, 일치도 점검, 기준표, 교사 확정 절차(2장)
학생 데이터 넣지 말아야 할 정보, 승인된 도구, 단서 지우기(3장)
학업 윤리 허용 수준 안내, 판별기의 한계, 처리 절차(4장)
운영과 사고 지식 자료 사전 검수, 약관·데이터 조건 점검, 오류 신고, 사고 유형별 첫 대응(5장)

연수 외에 지원 체계도 필요합니다. 승인된 도구 목록과 사용 안내서, 질문을 받을 담당자, 교사들이 검수한 자료를 공유하는 자료실, 사고를 신고할 경로가 있어야 교사가 혼자 판단하다 실수하는 일이 줄어듭니다.

보호자와 학생에게 알리기

보호자는 대개 세 가지를 묻습니다. "아이의 대화가 어디에 쓰이는가", "얼마나 보관되는가", "원하지 않으면 어떻게 되는가". 계약 전에 이 질문의 답을 확인하고, 동의가 필요한 처리라면 3장의 네 가지 고지 사항을 담아 동의를 받으며, 동의하지 않는 학생을 위한 대체 활동을 마련합니다. 대체 활동은 같은 학습 목표를 이루는 인쇄 활동지나 짝 활동처럼 교사의 추가 부담이 작은 것이 좋습니다. 학생에게는 연령에 맞는 쉬운 말로 같은 내용을 알립니다.

학생 대화를 담임교사가 실시간으로 볼 수 있게 해 상담 자료로 쓰자는 제안이 나올 때가 있습니다. 안전을 위한 선의로 보이지만, 학습 지원이라는 목적을 넘은 감시가 되어 학생이 튜터를 믿고 쓰지 않게 됩니다. 안전이 걱정된다면 특정 위험 신호(자해, 괴롭힘 피해 호소 등)를 사람에게 넘기는 기능과 절차를 따로 설계하는 것이 맞습니다.

NIST AI RMF를 학교에 옮기기

NIST AI 위험관리 프레임워크(AI RMF)의 핵심(Core)은 네 기능으로 이루어집니다.

기능 NIST의 설명 학교 운영의 예
Govern(거버넌스) 조직 안에 위험 관리 문화를 만들고 실행한다. 다른 기능 전반에 스며드는 교차 기능이다 AI 책임자와 운영위원회, 도입 승인 절차, 교사 역할, 규정
Map(맥락 파악) AI 시스템과 관련된 위험을 틀 짓는 맥락을 세운다 누가 어떤 상황에서 쓰는지, 어떤 학생에게 어떤 영향이 있는지 정리
Measure(측정) 정량·정성·혼합 방법으로 위험을 분석·평가·추적한다 표본 대화 정확도, 집단별 차이, 오류 신고 추이 측정
Manage(관리) 측정된 위험에 자원을 배정하고 대응한다. 사고 대응·복구·소통 계획을 포함한다 위험 대응 우선순위, 사고 대응 절차, 학생·보호자 안내

거버넌스는 쉽게 말해 누가 결정하고 누가 점검하며 그 결과를 어떻게 다시 반영하는지를 정하는 체계입니다. 도입 초기에 한 번 정하고 끝나는 단계가 아닙니다. NIST가 교차 기능이라고 설명하는 것처럼, 위원회와 규정은 운영하는 내내 맥락 파악, 측정, 관리를 이끌고 결과를 반영해 바뀌어야 합니다.

신뢰할 수 있는 AI의 특성으로 NIST가 드는 일곱 가지(타당성과 신뢰성, 안전, 보안과 회복력, 책임성과 투명성, 설명 가능성과 해석 가능성, 프라이버시 강화, 해로운 편향이 관리되는 공정성)는 점검 항목을 만들 때 빠진 것이 없는지 확인하는 목록으로 쓸 수 있습니다.

점검 항목과 주기

점검 주기는 위험의 크기와 변화의 속도로 정합니다. 정기 주기와 함께 변화가 생기는 시점에 반드시 점검하는 것이 핵심입니다.

점검 항목 정기 주기의 예 반드시 점검할 변화 시점
오류 신고 처리 현황 매주 신고가 갑자기 늘 때
표본 대화의 정확도와 집단별 차이 매월 모델 교체, 기능 추가 직후
지식 자료의 최신성 학기마다 교재 개편, 시험 범위 변경
업체의 약관·데이터 조건 학기마다 약관 변경 통지, 계약 갱신
접근 권한과 계정 학기마다 교직원 이동, 학년 진급
보관 기간과 파기 이행(파기 자체는 불필요해지면 지체 없이 하고, 점검은 그 이행을 확인) 학기 말 계약 종료, 학년 말
교사 연수 이수와 안내서 학년 초 새 기능 도입, 사고 후

표의 주기는 예시입니다. 학교마다 규모와 위험에 맞춰 정하되, 왜 그 주기인지 설명할 수 있어야 합니다.

지식 자료를 관리하는 튜터

많은 학습 튜터는 학교가 넣어 준 자료(교재, 강의 자료, 안내문)에서 관련 부분을 찾아 그것을 근거로 답합니다. 흔히 검색 증강 생성(RAG)이라고 부르는 방식입니다. 이런 튜터의 품질은 지식 자료가 정합니다.

  • 넣을 자료: 모든 사용자가 봐도 되는 정확한 공식 자료. 누구나 쓰는 튜터에 채점 기준표, 모범 답안, 내부 회의록, 익명화하지 않은 학생 질문 기록을 넣으면 튜터를 통해 그대로 나갈 수 있습니다.
  • 답하는 방식: 제공한 자료로만 답하고, 근거 문장을 인용하게 하며, 자료에 없으면 "자료에 없음"과 함께 교사나 강사에게 묻는 경로를 안내하게 합니다. Anthropic이 할루시네이션을 줄이는 방법으로 드는 외부 지식 제한, 직접 인용, 모른다고 말하게 하기를 적용한 것입니다.
  • 보안: 지식 자료와 학생 입력은 모델에게 지시가 아니라 자료로 다뤄지게 설정하고, 튜터에게 준 기본 지시문이나 비공개 자료를 내보내라는 요청을 거절하게 합니다. 업로드하는 문서에 숨은 지시가 섞여 있지 않은지도 검수합니다(OWASP의 프롬프트 인젝션 완화 방법).
  • 갱신: 교재나 시험 범위가 바뀌면 바뀐 부분을 목록으로 만들고, 지식 자료를 고치고 옛 자료를 빼며, 바뀐 단원의 질문으로 시험한 뒤 적용하고, 적용 직후에는 집중 점검합니다.

사고 유형과 첫 대응

AI 서비스의 사고는 종류에 따라 첫 대응이 다릅니다.

사고 유형 예 첫 대응
개인정보 노출 튜터가 다른 학생의 이름과 점수를 보여 줌 해당 기능을 멈추고 개인정보 보호책임자에게 보고해 노출 범위를 확인한다. 유출등이면 영향받은 학생·보호자에게 지체 없이 통지하고, 시행령이 정한 신고 요건에 해당하는지 판단한다(개인정보 보호법 제34조)
학생 안전·정서 힘들다고 털어놓은 학생에게 엉뚱한 답을 함 영향받은 학생을 찾아 담임·상담교사가 직접 연락해 지원을 연결하고, 사람에게 넘기는 장치가 생길 때까지 해당 기능을 멈춘다
내용 오류 지식 자료의 오타로 사건 연도를 틀리게 설명 원인을 고치고 같은 유형의 질문으로 다시 시험한 뒤, 틀린 설명을 들은 학생에게 바뀐 내용을 알린다

두 가지 실수를 피하세요. 하나는 과소 대응입니다. 업체에 알리고 원인 분석 보고서를 기다리는 동안 노출이나 피해가 계속됩니다. 학생 개인정보를 맡긴 쪽은 학교이고, 위탁자로서 직접 대응해야 합니다. 다른 하나는 과잉 대응입니다. 원인이 분명하고 고칠 수 있는 오류 하나로 전 학년의 AI 사용을 다음 학년도까지 멈추면, 정작 영향받은 학생을 돕지 못하면서 도입의 가치까지 잃습니다.

깊이 읽기

효과 측정의 함정

AI 도입의 효과를 확인하는 가장 쉬운 방법은 도입 전후 비교입니다. 하지만 전후 비교에는 함정이 있습니다. 같은 기간에 교육과정이 바뀌거나, 교사가 바뀌거나, 학생 구성이 달라지면 차이가 AI 때문인지 알 수 없습니다. 가능하다면 시범 학급과 비교 학급을 함께 보고, 같은 성취기준 문항으로 측정해야 비교가 의미를 가집니다.

평균도 조심해야 합니다. 기초학력 회복이 목적인데 전체 평균만 보면, 이미 잘하던 학생이 튜터를 많이 써서 평균을 올린 것인지, 목표 집단이 실제로 나아진 것인지 구분할 수 없습니다. 목표 집단을 따로 보는 것은 선택이 아니라 필수입니다. 그리고 효과가 없다는 결과도 중요한 결과입니다. 확대하지 않기로 하는 것도 시범 운영이 줄 수 있는 좋은 결론입니다.

소비자 앱이 끌리는 이유와 대가

학생들이 이미 쓰는 인기 소비자 앱을 그대로 수업에 쓰면 비용도 들지 않고 학생들도 익숙합니다. 이 편리함은 실제로 큰 장점입니다. 그러나 대가가 있습니다. 데이터 조건을 학교가 정할 수 없고, 약관이 바뀌어도 학교가 알기 어렵고, 학생마다 설정이 달라 같은 수업에서 다른 조건이 적용되며, 연령 기준과 보호자 허락을 학교가 일일이 확인하기 어렵습니다.

"개인정보 보호 설정을 켜는 방법을 가정통신문으로 안내한다"는 대책은 책임을 학생과 보호자에게 넘깁니다. 학교가 수업에 쓰라고 권하는 순간, 그 서비스는 학교의 결정이 됩니다. 계약할 예산이 없다면 학생 정보를 넣지 않는 방식(교사 시연, 일반화된 질문)으로 활용 범위를 좁히는 것이 대안입니다.

거버넌스는 문서가 아니라 반복이다

많은 기관이 AI 운영 규정을 만들고 나면 거버넌스가 끝났다고 생각합니다. 하지만 규정은 시작일 뿐입니다. 거버넌스가 작동한다는 것은 점검 결과가 규정과 운영을 실제로 바꾼다는 뜻입니다. 사고가 난 뒤 안내서가 고쳐지고, 표본 점검에서 집단별 차이가 발견된 뒤 지식 자료나 활용 범위가 바뀌고, 약관이 바뀐 뒤 보호자 안내가 갱신되어야 합니다.

이를 위해 운영위원회는 정기 회의에서 세 가지를 확인합니다. 지난 기간의 점검 결과, 그에 따라 바꾼 것, 아직 바꾸지 못한 것과 그 이유입니다. 이 기록이 쌓이면 다음 해의 도입 결정과 예산 판단에도 근거가 됩니다.

실무 장면

달내시교육지원청: 영어 말하기 튜터 도입 계획

달내시교육지원청은 중학교 영어 말하기 연습 기회가 부족하다는 교사들의 의견을 받아, AI 말하기 튜터 도입을 검토했습니다. 예산 담당자는 "중학교 전체에 바로 도입해 규모의 경제를 살리자"고 했고, 장학사는 "학부모 선호도 조사로 서비스를 고르자"고 했습니다.

추진팀은 두 제안을 모두 받아들이지 않았습니다. 대신 문제를 정의했습니다. "중학교 2학년 학생의 영어 말하기 연습 시간이 수업당 1인 평균 2분 미만이다. 목표는 한 학기 동안 1인당 주간 말하기 연습 시간을 늘리고, 말하기 수행평가의 하위 집단 성취를 높이는 것이다." 핵심 지표는 1인당 주간 연습 시간과, 같은 기준의 말하기 과제에서 하위 30% 집단의 변화로 정했습니다. 접속 횟수와 만족도는 참고 지표로만 두었습니다.

후보 서비스 세 곳은 데이터 조건부터 비교했습니다. 한 곳은 학생 음성을 모델 개선에 쓰는 것이 기본값이었고 보관 기간을 밝히지 않아 제외했습니다. 남은 두 곳 가운데 계약서에 학습 미사용과 학기 말 삭제를 적은 곳을 골라 위탁 계약을 맺고, 개인정보 보호법 제26조제2항에 따라 수탁자와 위탁 업무를 공개했습니다. 학생 대부분이 만 14세 이상이었지만 서비스 약관이 만 18세 미만에게 보호자 허락을 요구해, 데이터 조건을 담은 안내와 함께 보호자 허락을 받고, 허락하지 않은 학생에게는 교사와 짝 말하기 활동을 대체로 마련했습니다.

추진팀은 영어 교사 연수를 UNESCO 교사 역량 프레임워크의 AI 교수법 차원에 맞춰 설계하고, 네 학교 여덟 학급에서 한 학기 시범 운영했습니다. 시범 결과 연습 시간은 크게 늘었지만 하위 집단의 성취 변화는 상위 집단보다 작았습니다. 추진팀은 바로 확대하는 대신, 하위 집단을 위한 교사 지도 시간을 함께 배치하는 조건으로 다음 학기 확대 계획을 다시 세웠습니다.

소담고등학교: 한 주에 겹친 세 가지 사고

소담고등학교의 학습 튜터 운영위원회는 어느 주에 세 건의 보고를 받았습니다. 첫째, 한 학생이 튜터에게 자기 성적을 묻자 같은 반 다른 학생 두 명의 이름과 점수가 함께 나왔습니다. 둘째, 표본 점검에서 "요즘 너무 지쳐서 아무것도 하기 싫다"는 학생의 말에 튜터가 학습 계획표만 제시한 대화 두 건이 발견되었습니다. 셋째, 지구과학 단원의 한 개념을 튜터가 틀리게 설명한 대화가 여러 건 있었고, 원인은 업로드한 강의 자료의 오류였습니다.

위원회는 세 건을 같은 방식으로 처리하지 않았습니다. 첫 번째 건은 개인정보 노출이므로 성적 조회 기능을 즉시 멈추고, 개인정보 보호책임자가 업체와 함께 노출 범위를 확인했으며, 개인정보 보호법 제34조에 따른 통지와 신고 여부를 판단하는 절차를 밟았습니다. 업체가 설정 오류라고 1차 보고했지만, 학교는 위탁자로서 직접 대응했고, 수습 뒤에는 업체에 원인과 재발 방지 대책을 문서로 받고 처리 현황을 점검했습니다(개인정보 보호법 제26조제4항의 감독).

두 번째 건은 학생 지원이 먼저였습니다. 대화 기록으로 해당 학생들을 찾아 담임과 상담교사가 직접 연락했고, 튜터가 정서적 어려움을 호소하는 말을 감지하면 상담 안내와 함께 담당 교사에게 알리는 기능이 생길 때까지 자유 대화 기능을 멈추었습니다. 세 번째 건은 강의 자료를 고치고 같은 유형의 질문 20개로 다시 시험해 고쳐진 것을 확인한 뒤, 틀린 설명을 들었을 수 있는 학생들에게 정정 안내를 보냈습니다.

한 위원은 "세 건이나 겹쳤으니 튜터 전체를 학년 말까지 멈추자"고 제안했지만, 위원회는 받아들이지 않았습니다. 문제가 된 기능은 이미 멈췄고, 원인이 분명한 오류는 고쳤으며, 전면 중단은 영향받은 학생을 돕는 일과 관계가 없었기 때문입니다. 위원회는 다음 달 회의에서 세 사고로 바꾼 것(성적 조회 권한 설정, 위험 신호 전달 기능, 자료 업로드 전 검수)을 기록했습니다.

자주 틀리는 지점

  1. "많이 쓰면 성공이다." 사용량은 눈에 잘 띄는 숫자라 성과처럼 보이지만, 도입 목적의 달성을 보여 주지 않습니다.
  2. "만족도 4점 이상이면 확대한다." 의견을 존중하는 것처럼 보이지만, 만족은 학습 성과나 업무 경감과 다를 수 있습니다.
  3. "교육용이라고 홍보하니 검증된 도구다." 업체의 설명은 믿음직해 보이지만, UNESCO는 교육기관이 스스로 도구를 검증해야 하는데 그 준비가 부족하다고 지적합니다.
  4. "교사 연수는 사용률이 낮을 때 한다." 비용을 아끼는 것처럼 보이지만, 연수는 안전한 운영의 전제이고 UNESCO도 교사 연수를 요구합니다.
  5. "좋은 서비스니 바로 전면 도입한다." 빠른 효과를 기대하지만, 시범 없이 확대하면 문제가 생겼을 때 영향받는 학생이 처음부터 많아집니다.
  6. "거버넌스는 처음에 규정을 만들면 끝난다." 문서가 있으니 끝난 것 같지만, NIST는 Govern을 다른 기능 전반에 걸친 교차 기능으로 설명합니다.
  7. "사고가 나면 업체 보고서를 기다린다." 원인을 아는 쪽에 맡기는 것이 합리적으로 보이지만, 학교는 위탁자로서 노출과 피해를 멈추는 첫 대응을 직접 해야 합니다.
  8. "오류가 하나라도 나면 전부 멈춘다." 신중해 보이지만, 원인이 분명한 오류에는 원인 수정과 재시험, 영향받은 학생 안내가 맞는 대응입니다.

한눈에 정리

질문 기억할 것
도입의 출발점 AI가 아니라 문제. 누구의, 무엇이 부족하고, 무엇이 달라지면 성공인가
업무 경감 지표 교사 작업 시간, AI 초안 수정 비율
학습 회복 지표 같은 성취기준 문항의 성취, 목표 집단 따로
운영 안정 지표 표본 정확도, 오류 신고 건수, 처리 시간
UNESCO 지침 기관의 검증 준비 부족, 데이터 프라이버시, 연령 기준(13세), 교사 연수, 사람 중심
UNESCO 교사 역량 5차원 15역량, 습득·심화·창조
선정 데이터 조건부터. 소비자 앱보다 기관 계약, 국가기관등은 영향평가 실시 제품 우선 고려
순서 목적·지표 → 조건 확인·계약 → 연수·시범 → 평가·확대 결정 → 운영·점검
NIST AI RMF Govern(교차), Map, Measure, Manage(사고 대응 포함)
점검 주기 정기 주기 + 변화 시점(모델 교체, 교재 개편, 약관 변경)
사고 첫 대응 개인정보 → 보호책임자·통지/신고 판단, 안전 → 학생 지원·기능 정지, 내용 오류 → 수정·재시험·안내

공식 문서로 확인하기

셀프 체크

5-1. AI 도입 목적을 문제로 정의할 때 적어야 할 세 가지를 쓰고, AI가 아닌 방법이 더 나은 경우의 예를 하나 들라.

5-2. 사용량과 만족도가 핵심 성과 지표가 되기 어려운 이유를 각각 한 문장으로 설명하라.

5-3. UNESCO 생성형 AI 교육·연구 지침의 발표에서 학교 운영에 직접 옮길 수 있는 내용 세 가지를 쓰라.

5-4. UNESCO 교사 AI 역량 프레임워크의 다섯 차원과 세 단계를 쓰고, 단계 구분을 연수 설계에 어떻게 쓸 수 있는지 말하라.

5-5. NIST AI RMF의 네 기능을 쓰고, 그중 다른 기능 전반에 걸치는 교차 기능이 무엇인지와 그것이 운영에 주는 의미를 설명하라.

5-6. 점검 주기를 정할 때 정기 주기와 별도로 반드시 점검해야 하는 변화 시점 세 가지를 들라.

5-7. AI 서비스 사고를 세 종류로 나누고, 각 종류의 첫 대응을 한 줄씩 쓰라. 과소 대응과 과잉 대응의 예도 하나씩 들라.

5-8. (설계 과제) 여러분 기관에서 검토 중이거나 상상할 수 있는 AI 도입 하나를 골라, 문제 정의, 핵심 지표 두 개, 시범 운영 범위, 확대 판단 기준을 한 쪽 이내로 쓰라.

실습 과제

실습

실습 5-A. 한 쪽짜리 도입 계획서 (50분) 셀프 체크 5-8에서 쓴 내용을 바탕으로 한 쪽짜리 도입 계획서를 만듭니다. 문제 정의, 핵심 지표와 참고 지표, 후보 서비스의 데이터 조건 확인 결과(3장 점검표 활용), 보호자 안내와 대체 활동, 교사 연수 계획, 시범 운영 범위와 기간, 확대 판단 기준을 순서대로 적습니다. 완료 기준: 일곱 항목이 모두 채워져 있고, 핵심 지표가 도입 목적과 직접 연결되며, 확대 판단 기준이 숫자나 관찰 가능한 조건으로 적혀 있음.

실습

실습 5-B. NIST 기능별 업무 분담표와 사고 대응 카드 (40분) 여러분 기관이 운영 중이거나 운영할 AI 서비스 하나를 골라, NIST AI RMF의 네 기능별로 업무 2~3개와 담당자, 점검 주기, 반드시 점검할 변화 시점을 표로 만듭니다. 이어서 개인정보 노출, 학생 안전·정서, 내용 오류의 세 가지 사고에 대해 "첫 30분 안에 할 일" 카드를 한 장씩 씁니다. 완료 기준: 네 기능 모두에 담당자가 있는 분담표와 세 장의 사고 대응 카드가 있고, 개인정보 카드에 보호책임자 보고와 통지·신고 판단이 들어 있음.