1장. AI는 어떻게 답하나

학습 목표

• 생성형 AI가 답을 "찾아오는" 것이 아니라 "지어서" 만든다는 점을 일상의 비유로 설명한다.
• 검색과 생성형 AI의 차이를 말하고, 상황에 맞는 쪽을 고른다.
• 그럴듯하지만 틀린 답(할루시네이션)이 생기는 이유와, 의심해야 할 신호를 설명한다.
• AI가 배운 시점 이후의 정보가 약한 이유와, 같은 질문에도 답이 달라지는 이유를 설명한다.
• AI 답을 그대로 믿으면 안 되는 상황을 알아보고, AI에 맡길 일과 직접 할 일을 나눈다.

들어가며

정말순 씨는 예순일곱 살입니다. 손녀가 휴대폰에 AI 챗봇 앱을 깔아 주며 "할머니, 궁금한 건 여기 물어보세요"라고 했습니다. 정말순 씨는 처음으로 이렇게 물었습니다. "햇살내과 토요일에 몇 시까지 해요?" AI는 망설임 없이 답했습니다. "햇살내과는 토요일 오전 9시부터 오후 1시까지 진료합니다." 말투가 너무 또박또박해서 의심할 생각도 들지 않았습니다.

토요일 아침, 병원 문은 닫혀 있었습니다. 문에는 "올해부터 토요일 휴진"이라는 안내문이 붙어 있었습니다. AI는 "잘 모르겠습니다"라고 말하지 않았습니다. 틀린 답을 맞는 답과 똑같은 말투로 했을 뿐입니다.

그런데 다음 주, 정말순 씨는 같은 AI에게 동창의 칠순을 축하하는 문자를 써 달라고 했습니다. 이번에는 정말 마음에 드는 문장이 나왔습니다. 같은 AI가 한 번은 사람을 헛걸음하게 하고, 한 번은 큰 도움이 되었습니다. 무엇이 달랐을까요?

이 장은 그 차이를 설명합니다. 먼저 생성형 AI가 무엇이고 어떻게 답을 만드는지 봅니다. 이어서 검색과 무엇이 다른지, 왜 그럴듯하게 틀리는지, 왜 최근 일에 약한지, 왜 물을 때마다 답이 달라지는지 차례로 다룹니다. 마지막으로 AI가 잘하는 일과 못하는 일을 정리하고, AI에 맡길 일과 내가 직접 할 일을 나누는 방법을 연습합니다. 이 장의 내용은 뒤의 모든 장에서 다시 쓰입니다.

핵심 개념

생성형 AI란 무엇인가

AI(인공지능)는 사람처럼 알아듣고, 판단하고, 만들어 내는 일을 컴퓨터가 하도록 만든 기술을 두루 부르는 말입니다. 그중 생성형 AI는 글, 그림, 소리, 영상 같은 것을 새로 만들어 내는 AI입니다. "생성"은 "새로 만들어 낸다"는 뜻입니다.

우리나라 법도 생성형 AI를 정의합니다. 인공지능기본법 제2조제5호는 생성형 인공지능을 "입력한 데이터의 구조와 특성을 모방하여 글, 소리, 그림, 영상, 그 밖의 다양한 결과물을 생성하는 인공지능시스템"이라고 정합니다. 어려운 말을 풀면 이렇습니다. 많은 자료를 보고 그 자료의 모양과 특징을 흉내 내어, 비슷한 모양의 새 결과물을 만든다는 뜻입니다.

이 책에서 자주 쓸 낱말을 미리 정리합니다.

생성형 AI는 이제 여러 곳에 들어와 있습니다. 따로 내려받는 AI 챗봇 앱도 있고, 검색 화면 맨 위에 AI가 쓴 요약이 붙기도 하고, 메신저나 문서 프로그램 안에 AI 버튼이 생기기도 합니다. 모양은 달라도 속에서 일하는 방식은 비슷합니다. 이 장은 그 공통된 방식을 다룹니다.

AI는 다음 말을 이어 쓰는 방식으로 답한다

휴대폰으로 문자를 쓸 때 자판 위에 추천 낱말이 뜨는 것을 본 적이 있을 것입니다. "오늘 저녁에"라고 쓰면 "뭐", "같이", "시간" 같은 낱말이 뜹니다. 휴대폰이 그동안 많은 문장을 보고 "이 말 다음에는 이런 말이 자주 온다"는 것을 익혔기 때문입니다.

생성형 AI는 이 추천 기능을 엄청나게 크고 정교하게 키운 것이라고 생각하면 이해하기 쉽습니다. AI는 아주 많은 글을 읽으며 "이런 말 다음에는 이런 말이 자연스럽다"는 감각을 익혔습니다. 이 과정을 학습이라고 합니다. 그리고 우리가 질문을 보내면, 그 질문 다음에 올 가장 자연스러운 말을 한 조각씩 이어 붙여 답을 만듭니다.

여기서 중요한 점이 하나 있습니다. AI가 고르는 기준은 "자연스러운가"이지 "사실인가"가 아닙니다. 자연스러운 말과 맞는 말이 겹칠 때도 많지만, 자연스럽다고 해서 맞는다는 보장은 없습니다. 얼마나 자주 맞는지는 질문의 종류, AI의 종류, 검색 같은 도구를 함께 쓰는지에 따라 달라집니다. 둘이 어긋나는 예를 보겠습니다. "햇살내과는 토요일 오전 9시부터"라는 문장은 병원 안내문에 아주 흔한 모양이라 자연스럽습니다. 그 병원이 실제로 그렇게 진료하는지는 다른 문제입니다.

검색과 생성형 AI의 차이

인터넷 검색은 도서관 사서와 비슷합니다. "단풍 축제 날짜"를 물으면 그 내용이 적힌 누리집(웹사이트) 목록을 가져다줍니다. 어느 누리집에서 온 정보인지 보이고, 그 누리집을 직접 열어 볼 수 있습니다. 대신 여러 결과를 내가 읽고 골라야 합니다.

생성형 AI는 이야기를 잘하는 이웃과 비슷합니다. 물어보면 바로 정리된 문장으로 답해 줍니다. 읽기 편하고 빠릅니다. 하지만 그 이야기가 어디서 왔는지 따로 말해 주지 않으면, 출처를 알 수 없습니다.

그래서 "이번 주 토요일에 병원이 문을 여는가"처럼 오늘의 사실을 알아야 하는 질문은 검색이나 병원의 공식 안내가 더 알맞습니다. "병원에 예약 변경을 부탁하는 문자를 정중하게 써 달라"처럼 글을 만들어야 하는 일은 생성형 AI가 잘합니다.

검색을 함께 쓰는 AI

요즘은 두 가지를 섞은 서비스도 많습니다. 질문을 받으면 AI가 인터넷을 찾아본 뒤, 찾은 내용을 정리해 답하고 출처 링크를 붙여 주는 방식입니다. 이런 답은 출처가 보이니 한결 낫습니다.

그래도 링크가 붙었다고 끝이 아닙니다. 그 출처를 직접 찾아가 확인해야 합니다. 출처 속 내용과 AI가 정리한 문장이 다를 수 있고, 출처가 오래된 글일 수도 있습니다. OpenAI의 도움말 "Does ChatGPT tell the truth?"도 정확성이 중요할 때는 검색 같은 도구를 쓰고, 링크를 직접 방문해 출처를 확인하라고 안내합니다. 이때 링크를 바로 누르기보다 그 기관의 공식 누리집을 내가 직접 찾아 들어가 같은 문서를 보는 방법이 더 안전합니다. 3장에서 자세히 연습합니다.

그럴듯하지만 틀린 답: 할루시네이션

AI가 사실이 아닌 내용을 사실처럼 말하는 현상을 할루시네이션이라고 부릅니다. 원래 "헛것이 보인다"는 뜻의 영어 낱말입니다. 우리말로는 "환각"이라고도 합니다.

AI 회사들도 이 문제를 숨기지 않습니다. OpenAI는 도움말에서 ChatGPT가 틀리거나 오해를 부르는 답을 낼 수 있다고 밝히고, 그 예로 틀린 정의·날짜·사실, 그리고 지어낸 인용문, 연구, 참고 문헌, 존재하지 않는 출처를 듭니다. Google도 Gemini 앱 개인정보 보호 허브에서 Gemini 앱이 때때로 부정확하거나 불쾌감을 주는 정보(인물에 관한 정보 포함)를 생성할 수 있다고 안내합니다.

생활에서 자주 만나는 할루시네이션은 이런 모양입니다.

왜 이런 일이 생길까요? 앞에서 본 대로 AI는 "자연스러운 다음 말"을 고르기 때문입니다. 병원 안내문은 대개 "평일 몇 시, 토요일 몇 시"라는 모양을 하고 있습니다. AI는 그 모양을 아주 잘 압니다. 특정 병원의 실제 시간을 모를 때에도, 그 모양에 맞는 문장을 만들어 낼 수 있습니다. 모르는 칸을 그럴듯한 말로 채우는 셈입니다.

자신 있는 말투는 정답의 증거가 아니다

사람은 말투로 상대를 판단합니다. 머뭇거리지 않고 또박또박 말하면 잘 아는 사람이라고 느낍니다. AI의 답은 늘 매끄럽고 정중하며 자신 있게 들립니다. 그래서 더 쉽게 믿게 됩니다.

하지만 AI의 말투는 답이 맞는지와 상관이 없습니다. OpenAI 도움말도 모델이 틀린 답에도 높은 자신감을 보일 수 있다고 적습니다. 정말순 씨가 받은 "오전 9시부터 오후 1시까지"라는 답도 아주 자신 있게 들렸습니다.

오히려 다음과 같은 특징은 확인할 곳을 알려 주는 신호로 보세요.

• 시간, 금액, 전화번호처럼 정확한 숫자가 들어 있다.
• 사람 이름, 가게 이름, 기관 이름 같은 고유한 이름이 들어 있다.
• "○○ 연구에 따르면", "○○ 기관 발표에 의하면"처럼 근거를 댄다.
• "반드시", "100%", "확실히" 같은 단정하는 말이 들어 있다.

구체적일수록 쓸모 있어 보이지만, 동시에 틀렸을 때 피해가 큰 부분입니다. 구체적인 부분일수록 한 번 더 확인합니다.

AI가 아는 것에는 날짜가 있다

AI는 어느 시점까지의 글을 보고 배웁니다. 그 뒤에 일어난 일은 배우지 못했습니다. 이 시점을 학습 시점 또는 지식 기준일이라고 부릅니다.

몇 년 전에 인쇄한 동네 지도를 떠올려 보세요. 지도에 나온 큰길과 산은 지금도 그대로입니다. 하지만 그 사이 새로 생긴 가게, 문 닫은 가게, 바뀐 버스 노선은 지도에 없습니다. 오래된 지도를 보고 길을 찾으면 큰 방향은 맞아도 마지막 골목에서 헤맬 수 있습니다. AI도 그렇습니다.

특히 다음 정보는 자주 바뀝니다. AI가 말해 준 내용이 이런 종류라면 오늘 기준으로 다시 확인합니다.

• 가게와 병원의 운영 시간, 휴무일
• 버스·기차 시간표와 요금
• 물건 값, 공공요금, 수수료
• 지원금과 제도의 대상, 신청 기간
• 행사와 축제 날짜
• 전화번호, 주소, 담당 부서
• 누가 어떤 자리를 맡고 있는지

AI는 최근 일을 물어도 "그건 제가 배운 뒤의 일이라 모릅니다"라고 말하지 않을 때가 있습니다. 오래된 지도를 보면서도 "이 길로 가세요"라고 자신 있게 말하는 것과 같습니다. 그래서 "최근", "올해", "이번 달", "요즘" 같은 말이 들어간 질문의 답은 늘 날짜를 확인합니다.

같은 질문에도 답이 달라지는 이유

같은 질문을 두 번 하면 답이 조금씩 다르게 나옵니다. 처음 써 보는 사람은 "고장 났나?" 하고 놀라기도 합니다. 고장이 아닙니다. AI는 답을 저장해 두었다가 꺼내는 것이 아니라 물을 때마다 새로 짓기 때문입니다. 같은 옛날이야기도 할머니가 할 때마다 표현이 조금씩 달라지는 것과 비슷합니다. 자연스러운 다음 말이 여러 개일 때 그중 하나를 고르는데, 그 선택이 매번 조금씩 다릅니다.

이 성질은 쓰임에 따라 장점도 되고 경고도 됩니다.

여기서 반대 방향의 착각도 조심해야 합니다. 여러 번 물었는데 매번 같은 답이 나왔다고 해서 맞는 답이라는 뜻은 아닙니다. 같은 AI는 같은 실수를 되풀이할 수 있습니다. 답이 엇갈리면 "확인하라"는 신호이고, 답이 같아도 사실 확인은 따로 해야 합니다.

AI가 잘하는 일

AI는 말과 글을 다루는 일을 잘합니다. 생활에서 쓸모 있는 일을 몇 가지 들면 이렇습니다.

공통점이 보이시나요? 대부분 결과가 좋은지 내가 직접 읽고 판단할 수 있는 일입니다. 축하 문자가 마음에 드는지는 읽어 보면 압니다. 이런 일은 AI가 틀려도 내가 바로 알아채고 고칠 수 있어서 안전합니다.

AI가 못하거나 조심해야 하는 일

반대로 다음 일은 AI에게 맡기면 위험하거나, 적어도 반드시 확인이 필요합니다.

이것은 AI가 이런 질문에 아예 쓸모가 없다는 뜻이 아닙니다. 병원에 가기 전에 "의사 선생님께 무엇을 여쭤보면 좋을까요?"라고 질문 목록을 만드는 데는 AI가 큰 도움이 됩니다. 다만 결론은 AI가 아니라 그 일을 책임지는 사람과 기관이 내립니다.

AI 답을 그대로 믿으면 안 되는 상황 알아보기

AI 답을 받았을 때 다음 여섯 가지 점검 질문을 스스로 물어보세요. 하나라도 "예"라면 그 답은 그대로 쓰지 말고 확인합니다.

1. 돈이 오가는가? 송금, 결제, 투자, 환불, 요금.
2. 몸과 건강에 관한 것인가? 증상, 약, 먹는 양, 운동 강도.
3. 법이나 서류, 기한에 관한 것인가? 신청 자격, 마감일, 계약, 신고.
4. 날짜·시간·장소·숫자·전화번호가 들어 있는가?
5. 다른 사람에게 전할 것인가? 가족 단톡방, 모임 공지, 손주 숙제.
6. 되돌리기 어려운 일인가? 한 번 보내면 끝나는 송금, 한 번 퍼지면 주워 담을 수 없는 소문.

AI에 맡길 일과 직접 할 일 나누기

하나의 일 안에도 AI에 맡길 부분과 내가 해야 할 부분이 섞여 있습니다. 일을 잘게 나누어 세 칸으로 정리하면 판단이 쉬워집니다.

이렇게 해 보세요: 가족 여행 준비를 세 칸으로 나누기

1. 할 일을 모두 적습니다. 일정 짜기, 숙소 고르기, 준비물 목록 만들기, 가족 단톡방 공지 쓰기, 식당 찾기, 기차표 사기.
2. AI에게 일정 초안, 숙소를 고를 때 볼 점, 준비물 목록, 단톡방 공지 초안을 한꺼번에 부탁합니다. 출발 날짜나 집을 비우는 기간은 쓰지 않습니다(2장 "너무 많이 털어놓지 않기").

[보내는 질문]
70대 부모님과 바닷가 도시로 짧은 가족 여행을 가려고 해요.
어르신이 많이 걷기 어려우니 아래 네 가지를 도와주세요.
1. 쉬는 시간을 넉넉히 넣은 하루 일정 초안(시간 순서대로)
2. 숙소를 고를 때 확인할 점 다섯 가지
3. 어르신과 함께 가는 여행의 준비물 목록
4. 가족 단톡방에 올릴 짧은 안내 문구
가게·숙소 이름, 운영 시간, 날짜, 모이는 곳은 넣지 말고
"점심(식당은 따로 찾기)", [날짜], [모이는 곳]처럼 빈칸으로 남겨 주세요.

[AI 답의 예]
1. 하루 일정 초안
- 오전: 기차로 이동, 역 근처에서 잠시 휴식
- 점심: (식당은 따로 찾기)
- 오후: 바닷가 산책 30분 → 카페에서 쉬기 → 가까운 전망대(엘리베이터 여부 확인)
- 저녁: (식당은 따로 찾기), 이른 휴식
2. 숙소를 고를 때 확인할 점
- 엘리베이터가 있는지, 방까지 계단이 있는지
- 역이나 정류장에서 걸어서 얼마나 걸리는지
...
3. 준비물
- 평소 드시는 약, 얇은 겉옷, 편한 신발, 휴대폰 충전기
...
4. 단톡방 안내
[날짜]에 부모님 모시고 바닷가 여행 가요.
[모이는 곳]에서 만나요. 걷는 일정은 짧게 잡았어요.

3. 1단계에서 적은 할 일을 하나씩 세 칸에 나눕니다.

4. 확인 칸에 있는 것은 공식 누리집이나 전화로 확인합니다(3장).

이 질문에서 눈여겨볼 부분이 있습니다. "가게·숙소 이름, 운영 시간, 날짜, 모이는 곳은 빈칸으로 남겨 달라"는 부탁입니다. AI가 지어내기 쉬운 부분을 처음부터 빈칸으로 남기게 하면, 확인할 곳이 한눈에 보입니다. 2장에서 이런 질문 방법을 더 배웁니다.

깊이 읽기

AI는 왜 "모른다"고 잘 말하지 않을까

사람은 모르면 "모르겠는데요"라고 말합니다. AI가 그렇게 말하지 않는 이유는 앞에서 본 작동 방식에 있습니다. AI의 일은 질문 다음에 올 자연스러운 말을 이어 쓰는 것입니다. "햇살내과 토요일 진료 시간은?"이라는 질문 다음에 자연스럽게 오는 말은 "모르겠습니다"보다 "토요일은 오전 9시부터…"인 경우가 많습니다. 세상의 병원 안내문 대부분이 그렇게 생겼기 때문입니다.

물론 AI가 "그 정보는 확인할 수 없습니다"라고 솔직하게 답할 때도 있습니다. 하지만 언제나 그렇지는 않습니다. 그래서 질문할 때 "확실하지 않으면 모른다고 말해 주세요"라고 덧붙이는 것이 도움이 됩니다(2장). 다만 이렇게 덧붙여도 틀린 답이 완전히 사라지지는 않습니다. 확인은 여전히 내 몫입니다.

여기서 하나 더 알아 둘 점이 있습니다. AI에게 "정말 확실해요?"라고 다시 물으면, AI는 답을 바꾸기도 합니다. 처음 답이 맞았는데 바꾸는 경우도, 틀렸는데 끝까지 우기는 경우도 있습니다. 내가 의심하는 말투로 물으면 내 의심에 맞춰 답을 바꾸는 경향도 있습니다. 그래서 AI에게 다시 묻는 것은 확인이 아닙니다. 확인은 AI 바깥의 믿을 만한 곳에서 합니다.

사람처럼 느껴지는 대화에 대하여

AI와 대화하다 보면 사람과 이야기하는 것처럼 느껴질 때가 많습니다. 다정하게 맞장구를 쳐 주고, 힘들다고 하면 위로의 말을 건넵니다. 밤늦게 혼자일 때 말동무가 되어 주기도 합니다. 이런 경험은 그 자체로 위안이 될 수 있습니다.

다만 몇 가지는 분명히 해 둡니다.

• AI의 다정한 말도 앞에서 본 "자연스러운 다음 말"입니다. 나를 진심으로 걱정하는 사람의 말과는 다릅니다.
• AI는 대개 내 말에 맞장구를 치는 쪽으로 기웁니다. 그래서 내 생각이 틀렸을 때도 바로잡아 주지 않을 수 있습니다. 중요한 결정을 AI와만 의논하면, 내 생각을 비춰 보는 거울만 보는 셈이 됩니다.
• 돈, 건강, 가족 관계처럼 중요한 결정은 믿을 만한 사람과도 꼭 이야기합니다.
• 마음이 많이 힘들 때는 AI보다 가족, 친구, 전문 상담 기관을 먼저 찾습니다.

AI는 좋은 도구이자 때로는 좋은 말벗입니다. 하지만 사람을 대신하지는 않습니다.

사진과 목소리로도 물을 수 있다

많은 AI 서비스는 글뿐 아니라 사진과 목소리로도 질문을 받습니다. 약 봉투를 찍어 "이 글씨가 뭐라고 쓰여 있어요?"라고 묻거나, 외국 식당 메뉴판을 찍어 번역을 부탁할 수 있습니다. 말로 물으면 글로 쓰지 않아도 되니 편합니다.

이때도 같은 원리가 적용됩니다. AI는 사진 속 글씨를 잘못 읽을 수 있고, 흐리거나 작은 글씨일수록 더 그렇습니다. 숫자 하나를 잘못 읽어도 뜻이 크게 달라질 수 있습니다. 약 봉투의 복용량처럼 중요한 내용은 사진을 AI에게 읽혀 보더라도 원본을 직접 보고, 헷갈리면 약사에게 묻습니다. 그리고 사진에는 내가 의도하지 않은 정보(이름, 주소, 바코드)가 함께 찍히기 쉽습니다. 약 봉투를 찍을 때는 이름, 주민등록번호(적혀 있다면), 병명 코드처럼 나를 알아보게 하거나 건강을 드러내는 부분을 종이나 손가락으로 가리고 찍거나, 찍은 뒤 그 부분을 잘라 내세요. 자세한 방법은 4장 "사진과 문서를 올릴 때"에서 다룹니다.

실무 장면

정말순 씨의 단풍 여행 버스 시간

상황. 병원 일을 겪은 뒤 정말순 씨는 AI를 아예 쓰지 말까 생각했습니다. 그러다 동네 경로당 친구들과 가을 단풍 여행을 계획하게 되었습니다. 총무를 맡은 정말순 씨는 AI에게 "가람시외버스터미널에서 단풍산 가는 첫차가 몇 시야?"라고 물었습니다. AI는 "오전 6시 40분입니다"라고 답했습니다.

생각의 과정. 정말순 씨는 이번에는 이 장에서 배운 여섯 가지 점검 질문을 떠올렸습니다. 시간이 들어 있다(4번). 친구들에게 전할 것이다(5번). 첫차를 놓치면 일정이 다 틀어진다(6번). 세 가지가 "예"였습니다.

버린 선택지.

• AI의 답을 그대로 단톡방에 올린다. 병원 때와 같은 실수가 될 수 있어 버렸습니다.
• AI에게 "정말이야?"라고 다시 묻는다. AI는 같은 답을 되풀이하거나 다른 시간을 말할 수 있습니다. 어느 쪽이든 확인이 되지 않아 버렸습니다.
• AI를 아예 쓰지 않는다. 시간표 확인에는 AI가 맞지 않지만, 공지 문자를 쓰는 데는 큰 도움이 된다는 걸 알기에 버렸습니다.

결정. 첫차 시간은 터미널의 공식 누리집에서 직접 찾아보았습니다. 실제 첫차는 7시 10분이었습니다. 그다음 AI에게 이렇게 부탁했습니다. "경로당 친구들에게 보낼 단풍 여행 안내 문자를 써 줘. 모이는 곳은 가람시외버스터미널 매표소 앞, 모이는 시간은 오전 6시 50분, 첫차는 7시 10분. 한 줄을 짧게 끊고 쉬운 말로." AI는 글자 크기를 바꿀 수 없으니, 줄을 짧게 끊어 읽기 쉽게 해 달라고 한 것입니다. 글자 크기는 받는 사람이 휴대폰 설정에서 키웁니다. 시간은 확인한 사실을 내가 넣고, 문장은 AI가 다듬게 한 것입니다. 정말순 씨는 이것이 AI를 쓰는 바른 방향이라는 것을 알았습니다.

한복동 씨와 손자의 "우리 고장 인물" 숙제

상황. 한복동 씨는 초등학교 4학년 손자의 숙제를 도와주기로 했습니다. 숙제는 "우리 고장에서 태어난 옛 인물 한 명을 조사해 다섯 줄로 쓰기"였습니다. 손자가 AI에게 물었더니 그 인물이 태어난 해, 한 일, 남긴 책 제목까지 술술 나왔습니다. 손자는 그대로 공책에 옮겨 적으려 했습니다.

생각의 과정. 한복동 씨는 답에 연도와 책 제목처럼 구체적인 사실이 많다는 점이 마음에 걸렸습니다. 숙제는 선생님과 반 친구들에게 보여 줄 것이니, 다른 사람에게 전하는 일이기도 합니다.

버린 선택지.

• AI 답을 그대로 베낀다. 사실이 맞는지 모르고, 손자가 스스로 배우는 숙제의 뜻도 사라집니다.
• AI는 틀리니까 쓰지 말라고 한다. 손자가 이해하기 어려운 옛말을 쉽게 풀어 주는 데는 AI가 쓸모 있어서 버렸습니다.

결정. 두 사람은 시청 누리집의 "우리 고장 인물" 소개와 교과서를 함께 찾아보았습니다. 태어난 해는 AI 답과 같았지만, 책 제목 하나는 그 인물이 아니라 다른 사람이 쓴 책이었습니다. 손자는 확인한 사실로 다섯 줄을 직접 썼습니다. 그리고 소개글에 나온 어려운 낱말 두 개는 AI에게 "초등학교 4학년이 알아듣게 풀어 줘"라고 부탁해 이해했습니다. 할아버지와 손자는 "사실은 찾아서 확인하고, 이해는 AI에게 도움받는다"는 규칙을 공책 첫 장에 적어 두었습니다.

자주 틀리는 지점

1. "AI는 인터넷에서 찾아서 답해 준다." 기본적으로 AI는 배운 말의 흐름으로 답을 지어냅니다. 검색 기능이 붙은 서비스도 있지만, 그때도 링크를 열어 확인해야 합니다. 찾아온다고 믿으면 확인을 건너뛰게 됩니다.
2. "말투가 자신 있고 정중하면 맞는 답이다." AI는 틀린 답도 같은 말투로 합니다. 말투는 정확성의 증거가 아닙니다.
3. "구체적인 숫자까지 말해 주니 믿을 만하다." 숫자와 이름은 AI가 그럴듯하게 지어내기 쉬운 부분입니다. 구체적일수록 확인할 곳입니다.
4. "여러 번 물어 같은 답이 나왔으니 사실이다." 같은 AI는 같은 실수를 반복할 수 있습니다. 반복은 확인을 대신하지 못합니다.
5. "'정말이야?'라고 다시 물어서 AI가 맞다고 했으니 확인한 것이다." AI에게 다시 묻는 것은 같은 사람에게 두 번 묻는 것과 같습니다. 확인은 AI 바깥에서 합니다.
6. "AI는 최신 정보를 다 안다." AI가 배운 시점 이후의 일은 모르거나 틀리게 말할 수 있습니다. "요즘", "올해" 질문은 특히 날짜를 확인합니다.
7. "AI가 한 번 틀렸으니 아예 쓸모없다." 사실 확인에는 약해도 글쓰기, 쉬운 말 풀이, 아이디어에는 강합니다. 일을 나누어 맡기면 됩니다.

한눈에 정리

공식 문서로 확인하기

• OpenAI — Does ChatGPT tell the truth?: AI가 틀린 사실과 지어낸 출처를 내놓을 수 있고, 틀린 답에도 자신감을 보일 수 있다는 설명. "최종 출처가 아니라 첫 초안으로 쓰라"는 권고.
• Google — Gemini 앱 개인정보 보호 허브: Gemini 앱이 부정확한 정보를 생성할 수 있다는 안내.
• 국가법령정보센터 — 인공지능기본법 제2조: 생성형 인공지능, 인공지능사업자, 이용자의 법적 정의.
• 국가법령정보센터 — 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법: 법 전체와 시행일.

셀프 체크

1-1. 휴대폰 자판의 추천 낱말 기능을 예로 들어, 생성형 AI가 답을 만드는 방식을 두세 문장으로 설명해 보세요.

1-2. 다음 다섯 가지 일을 "검색이나 공식 안내가 알맞은 일"과 "생성형 AI가 알맞은 일"로 나눠 보세요. (가) 동네 도서관의 이번 달 휴관일 알기 (나) 이웃에게 보낼 이사 떡 인사 문자 쓰기 (다) 시외버스 요금 알기 (라) 긴 아파트 공지문을 세 줄로 줄이기 (마) 친구 모임 이름 후보 다섯 개 받기

1-3. AI 답에서 "더 의심하고 확인해야 할 신호"를 세 가지 적어 보세요.

1-4. 같은 질문을 세 번 했더니 세 번 모두 같은 날짜가 나왔습니다. 이 결과로 알 수 있는 것과 알 수 없는 것을 한 문장씩 써 보세요.

1-5. 내가 요즘 하려는 일 하나(예: 김장, 이사, 명절 준비)를 골라 할 일을 다섯 가지 이상 적고, "AI에 맡긴다 / AI가 돕고 내가 확인한다 / 내가 직접 한다" 세 칸으로 나눠 보세요.

1-6. AI가 "제가 배운 자료 기준으로는…"이라고 말하지 않았더라도, 답에 나온 정보가 언제 기준인지 꼭 확인해야 하는 질문의 종류를 세 가지 적어 보세요.

실습 과제