5장. AI 사기·가짜 알아보기와 생활 활용

학습 목표

• 딥페이크(목소리·얼굴을 흉내 낸 가짜)가 무엇이고, 왜 듣고 보는 것만으로 가려내기 어려운지 설명한다.
• 사기 연락에 흔한 신호(급함, 비밀, 돈과 금융정보 요구, 링크·앱 설치, 낯선 번호와 메신저)를 찾는다.
• 의심스러운 연락을 받았을 때 끊고, 저장된 번호로 확인하고, 신고하는 절차를 순서대로 따른다.
• 가족끼리 확인 질문과 비상 연락처를 미리 정해 두고 쓰는 방법을 설명한다.
• 가짜 사진·뉴스·후기를 의심하는 요령과, AI 생성물 표시의 뜻과 한계를 설명한다.
• 요약·번역·글쓰기 같은 생활 속 작은 일에 AI를 안전하게 쓴다.

들어가며

밤 열한 시, 윤옥순 씨의 휴대폰이 울렸습니다. 모르는 번호였습니다. 받자마자 울음 섞인 목소리가 들렸습니다. "엄마, 나야… 나 사고 났어. 엄마, 어떡해." 틀림없는 딸의 목소리였습니다. 숨 쉬는 소리까지 똑같았습니다. 곧이어 낯선 남자가 전화를 넘겨받았습니다. "따님이 우리 차를 망가뜨렸어요. 지금 바로 합의금 오백만 원을 보내면 경찰에 신고하지 않겠습니다. 전화 끊으면 따님 다칩니다. 다른 사람한테 말하면 안 됩니다."

윤옥순 씨의 손이 떨렸습니다. 은행 앱을 열려던 순간, 지난 설에 가족들과 정한 약속이 떠올랐습니다. "돈 얘기가 나오면 무조건 끊고, 저장된 번호로 다시 걸기. 그리고 우리끼리 정한 질문 하나 하기." 윤옥순 씨는 "잠깐만요, 은행에 가 볼게요"라고 말하고 전화를 끊었습니다. 그리고 휴대폰에 저장된 딸의 번호로 전화를 걸었습니다. 딸은 잠에서 덜 깬 목소리로 받았습니다. "엄마, 무슨 일이야? 나 자고 있었는데."

그 목소리는 AI로 만든 가짜였을 가능성이 큽니다. 요즘은 SNS에 올린 영상이나 음성이 목소리를 흉내 내는 재료로 쓰일 수 있습니다. 귀로 듣고 진짜와 가짜를 가려내기는 점점 어려워지고 있습니다. 그래서 이 장은 "가짜를 알아보는 눈"보다 "가짜일 때도 피해를 막는 절차"를 먼저 가르칩니다. 먼저 딥페이크가 무엇인지 보고, 사기 연락의 공통 신호와 확인 절차, 가족 확인 질문, 신고할 곳을 익힙니다. 이어서 가짜 사진·뉴스·후기와 AI 생성물 표시를 다루고, 마지막으로 이 책에서 배운 것을 모아 생활 속 작은 일에 AI를 안전하게 쓰는 법으로 마무리합니다.

핵심 개념

딥페이크란 무엇인가

딥페이크는 AI로 사람의 얼굴이나 목소리를 흉내 내어 만든 가짜 사진, 영상, 음성을 말합니다. AI 기술의 한 갈래인 "딥러닝"과 가짜를 뜻하는 "페이크"를 합친 말입니다. 목소리만 흉내 낸 것은 따로 딥보이스라고 부르기도 합니다.

딥페이크는 이런 모양으로 나타납니다.

딥페이크를 만들려면 흉내 낼 사람의 얼굴이나 목소리가 필요합니다. 그 재료는 대개 공개된 곳에서 나옵니다. 경찰청은 AI로 가족의 목소리를 흉내 내는 피싱에 대해 안내하면서 SNS에 음성이 포함된 게시물을 올릴 때 주의하라고 당부했고, 딥페이크로 만든 자녀 납치 가짜 영상에 대해서도 누구나 볼 수 있는 공개 설정으로 게시물을 올리는 것을 피하라고 안내했습니다.

왜 듣고 보는 것만으로는 가려내기 어려운가

예전에는 사기 전화의 목소리가 어색하거나 사투리가 이상해서 알아챌 수 있었습니다. 지금은 그 사람의 말투와 숨소리까지 흉내 낼 수 있습니다. 가짜 영상도 마찬가지입니다. 얼굴 가장자리가 흐리거나 입 모양이 어긋나는 등의 흠을 찾으라는 조언도 있지만, 기술이 좋아질수록 이런 흠은 줄어듭니다. 게다가 한밤중에 가족이 우는 소리를 들으면 누구나 침착하게 따져 볼 수 없습니다.

그래서 이 책은 다른 방향을 권합니다.

• 귀와 눈으로 판정하지 않습니다. "목소리가 진짜 같았다"는 증거가 되지 않습니다.
• 절차로 확인합니다. 끊고, 저장된 번호로 다시 걸고, 정해 둔 질문을 합니다.
• 진짜 위급할 때도 절차는 쓸모가 있습니다. 정말 사고가 났을 수도 있다면, 저장된 번호로 당사자나 다른 가족에게 연락해 안전을 확인하는 일과 112에 신고하는 일을 함께 합니다. 진짜 사고라면 경찰과 구급대의 도움이 필요하고, 가짜라면 이 절차가 돈을 지킵니다. 어느 쪽이든 모르는 사람의 계좌로 돈부터 보내는 것은 답이 아닙니다.

사기 연락의 다섯 가지 신호

AI를 썼든 안 썼든, 사기 연락에는 반복되는 신호가 있습니다. 다음 다섯 가지 가운데 하나라도 보이면 멈춥니다. 신호가 뚜렷하지 않더라도 무언가 이상하다면, 멈추고 따로 확인합니다.

4번 신호 가운데, 문자메시지로 링크를 보내 가짜 누리집에 들어가게 하거나 악성 앱을 설치하게 하는 수법을 따로 스미싱이라고 부릅니다. 문자메시지를 뜻하는 SMS와 피싱을 합친 말입니다. 택배 조회, 경조사 알림, 과태료 안내처럼 꾸민 문자 속 링크는 누르지 않습니다.

공식 기관의 안내도 같은 신호를 짚습니다.

• 금융감독원 보이스피싱지킴이는 전화나 인터넷으로 계좌번호, 카드번호, 인터넷뱅킹 정보를 요구하면 절대 응하지 말고, 세금 환급이나 계좌 보호를 내세워 현금지급기로 유인하면 100% 보이스피싱이라고 안내합니다.
• 경찰청은 검사라고 하면서 아무에게도 말하지 말라고 하고 수사로 겁을 주는 것은 두려움을 만들고 신고를 막으려는 피싱 수법이라고 설명합니다.
• 금융감독원은 상대가 내 개인정보나 금융거래 정보를 미리 알고 접근하더라도 전화, 문자, 메신저 내용의 진위를 반드시 확인하라고 안내합니다. 이름과 주소를 안다고 진짜인 것은 아닙니다.

멈추고, 끊고, 확인하기

의심스러운 연락을 받았을 때 따를 절차입니다. 순서를 외워 두세요.

1. 멈춥니다. 돈을 보내거나, 번호를 불러 주거나, 링크를 누르거나, 앱을 설치하지 않습니다.
2. 끊습니다. "확인하고 다시 연락하겠습니다" 한마디면 됩니다. 상대가 끊지 말라고 해도 끊습니다.
3. 저장된 번호로 직접 겁니다. 가족이라면 내 휴대폰에 원래 저장된 번호로, 기관이라면 공식 누리집에 적힌 대표번호로 겁니다.
4. 정해 둔 확인 질문을 합니다. 가족끼리 미리 정한 질문이 있다면 그것으로 확인합니다(다음 절).
5. 다른 가족에게도 알립니다. 혼자 판단하지 않습니다. 다른 가족이 당사자의 안전을 함께 확인할 수 있습니다.
6. 신고합니다. 사기로 보이면 신고하고, 이미 돈을 보냈다면 바로 금융회사와 경찰에 연락합니다(이 장 "신고와 도움 받을 곳").

경찰청도 의심스러울 때는 일단 전화를 끊고 당사자나 주변 지인에게 확인하는 것이 가장 빠르고 안전한 예방법이라고 안내합니다.

확인 전화는 저장된 번호로

3단계에서 중요한 것은 어느 번호로 거느냐입니다. 상대가 알려 준 번호로 "확인 전화"를 걸면, 그 번호가 사기범의 번호일 수 있습니다. 문자로 온 번호도 마찬가지입니다.

금융감독원은 발신번호는 조작이 가능하다는 점에 유의하라고 안내합니다. 화면에 은행이나 기관의 번호가 떠도, 심지어 가족의 번호처럼 보여도, 그것만으로 진짜라고 믿을 수 없다는 뜻입니다. 그래서 걸려 온 전화에 대고 확인하지 않고, 내가 끊고 내가 직접 거는 것이 원칙입니다.

끊기 어려울 때

"전화 끊으면 따님 다칩니다"처럼 협박을 받으면 끊기가 무섭습니다. 경찰청은 이런 경우를 위해 이렇게 안내합니다. 범인이 전화를 끊지 못하도록 협박해 신고하기 어렵다면 주변 사람에게 경찰에 신고해 달라고 도움을 청하거나, 통화하면서 문자메시지로 112에 신고해 자녀의 안전을 확인하라는 것입니다. 경찰청은 납치든 납치를 가장한 사기든 무조건 경찰에 신고해야 한다고 강조합니다.

평소에 미리 준비해 두면 이런 순간에 도움이 됩니다.

• 가족의 휴대폰 번호를 단축번호나 즐겨찾기에 저장해 둡니다.
• 금융감독원은 자녀납치 보이스피싱에 대비해 평소 자녀의 친구, 선생님, 인척 등의 연락처를 미리 확보해 두라고 안내합니다. 당사자가 전화를 받지 않을 때 안전을 확인할 다른 길이 있어야 하기 때문입니다.

가족 확인 질문 정하기

가족끼리 미리 정해 둔 확인 질문은 목소리와 얼굴을 흉내 내는 사기에 맞서는 간단하고 강력한 방법입니다. 사기범은 목소리는 흉내 낼 수 있어도, 가족끼리만 아는 약속까지 알기는 어렵습니다.

좋은 확인 질문의 조건은 다음과 같습니다.

정하는 방법은 이렇습니다.

1. 명절이나 가족 모임처럼 직접 만난 자리에서 정합니다. 단톡방이나 문자로 정하면 그 기록이 새어 나갈 수 있습니다.
2. 질문과 답을 휴대폰이나 SNS에 적지 않습니다. 꼭 적어야 한다면 종이에 적어 안전한 곳에 둡니다.
3. "돈 이야기가 나오면 무조건 끊고 저장된 번호로 다시 건다"는 규칙도 함께 정합니다. 확인 질문보다 이 규칙이 먼저입니다.
4. 1년에 한 번쯤 다시 이야기해 잊지 않게 합니다.

메신저로 오는 가족 사칭

전화가 아니라 메신저로 오는 사칭도 많습니다. "엄마, 나 휴대폰 액정이 깨져서 친구 폰으로 연락해. 급하게 결제할 게 있는데 엄마 카드 사진이랑 비밀번호 좀 보내 줄래?" 같은 식입니다. 프로필 사진과 이름까지 가족처럼 꾸미기도 합니다.

이런 메시지에도 다섯 가지 신호가 그대로 있습니다. 급하고(1), 낯선 번호이고(5), 금융정보를 요구합니다(3). 금융감독원이 안내하는 대로 메신저 내용의 진위를 반드시 확인합니다. 메신저로 "너 정말 ○○이니?"라고 묻는 것은 확인이 아닙니다. 사기범은 "응, 나야"라고 답할 뿐입니다. 원래 저장된 번호로 전화를 걸어 목소리로, 그리고 확인 질문으로 확인합니다. 원래 번호로 연락이 안 된다면 다른 가족에게 확인합니다.

가짜 사진과 영상

AI로 만든 사진과 영상은 아주 그럴듯합니다. 일어나지 않은 사고 현장, 유명인이 하지 않은 말, 실제와 다른 물건 사진을 만들 수 있습니다. "사진이 있으니 진짜"라는 생각은 더 이상 맞지 않습니다.

가짜 사진과 영상을 만났을 때는 그림 자체보다 출처를 봅니다.

1. 누가 처음 올렸나? 공식 기관, 언론사, 당사자의 공식 계정인가, 출처를 알 수 없는 전달 글인가.
2. 다른 믿을 만한 곳에서도 보도되었나? 큰 사건이라면 여러 언론과 공식 기관이 다룹니다.
3. 나에게 무엇을 하라고 하나? 돈을 보내라, 투자하라, 링크를 누르라, 빨리 퍼뜨리라고 한다면 의심합니다.
4. 감정을 강하게 흔드나? 지나치게 놀랍거나, 무섭거나, 화나게 만드는 영상일수록 한 번 더 멈춥니다.

특히 유명인이 투자를 권하는 영상은 딥페이크 사기에 자주 쓰입니다. 3장에서 본 대로 "확실한 고수익", "원금 보장", "지금 당장"이라는 말이 나오면, 그 영상의 얼굴이 누구든 의심합니다. 그 유명인이 정말 그런 말을 했는지는 본인의 공식 채널이나 언론 보도로 확인합니다.

가짜 뉴스와 가짜 후기

AI는 그럴듯한 글을 아주 빠르게, 많이 만들 수 있습니다. 그래서 가짜 뉴스와 가짜 후기를 만드는 데도 쓰입니다.

가짜 뉴스를 의심하는 신호

• 기사처럼 생겼지만 언론사 이름이 없거나, 처음 듣는 이름이다.
• 날짜가 없거나, 오래된 일을 최근 일처럼 말한다.
• "정부가 숨기는", "아무도 말하지 않는" 같은 말로 비밀스럽게 꾸민다.
• 공식 기관의 발표라고 하는데, 그 기관 누리집에는 그런 발표가 없다.
• "빨리 퍼뜨려 주세요"라고 부탁한다.

가짜 후기를 의심하는 신호

• 여러 후기의 문장이 이상할 만큼 비슷하다.
• 짧은 기간에 칭찬 후기가 한꺼번에 몰려 있다.
• 구체적인 사용 경험 없이 "최고예요", "인생템" 같은 말만 있다.
• 너무 좋은 말만 있고, 아쉬운 점이 하나도 없다.

3장의 확인 습관이 여기서도 그대로 쓰입니다. 공식 기관의 발표인지, 언제 나온 정보인지, 다른 믿을 만한 곳에서도 확인되는지 봅니다. 그리고 확인하기 전에는 단톡방에 전달하지 않습니다.

AI가 만든 콘텐츠 표시

AI가 만든 글, 그림, 영상인지 알 수 있도록 표시하게 하는 법이 있습니다. 인공지능기본법 제31조는 이렇게 정합니다.

• 제1항: 인공지능사업자는 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우, 그것이 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지해야 합니다.
• 제2항: 인공지능사업자는 생성형 인공지능 또는 이를 이용한 제품·서비스를 제공하는 경우, 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시해야 합니다.
• 제3항: 인공지능사업자는 인공지능시스템을 이용하여 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우, 그것이 인공지능시스템에 의하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시해야 합니다. 예술적·창의적 표현물이라면 전시나 향유를 해치지 않는 방식으로 할 수 있습니다.
• 제4항: 고지와 표시의 방법과 예외 등은 대통령령으로 정합니다.

여기서 인공지능사업자는 인공지능산업과 관련된 사업을 하는 법인, 단체, 개인, 국가기관 등으로서, 인공지능을 개발해 제공하는 인공지능개발사업자(가목)나, 그렇게 제공된 인공지능을 이용해 제품·서비스를 제공하는 인공지능이용사업자(나목)에 해당하는 자이고(제2조제7호), 이용자는 인공지능 제품이나 서비스를 제공받는 사람입니다(제2조제8호). 곧 이 의무는 AI 서비스를 제공하는 쪽에 있습니다.

이 법을 생활에서 읽는 법은 두 가지입니다.

신고와 도움 받을 곳

사기가 의심되거나 이미 피해를 입었을 때 연락할 곳입니다. 확인일(2026년 10월 28일) 기준 공식 안내를 정리했습니다.

이미 돈을 보냈다면 금융감독원 보이스피싱지킴이의 "보이스피싱 피해 시 대처방법"을 따릅니다. 핵심은 이렇습니다.

1. 돈을 보낸 은행이나 돈이 들어간 계좌의 은행 고객센터에 즉시 전화해 피해 신고와 계좌 지급정지를 신청합니다. 지급정지는 사기범의 계좌에서 돈이 빠져나가지 못하게 묶는 조치입니다.
2. 개인정보가 새어 나갔거나 악성 앱을 설치했다면, 휴대폰 초기화나 악성 앱 삭제, 금감원 개인정보 노출자 사고예방시스템 등록, 금융결제원 계좌정보통합관리서비스를 통한 계좌 지급정지, 한국정보통신진흥협회 명의도용방지 서비스로 내 명의 휴대폰 개설 여부 확인 같은 조치를 합니다.
3. 경찰에서 사건사고사실확인원 등을 발급받아, 지급정지를 신청한 은행 영업점에 피해구제 신청을 서면으로 접수합니다. 전화로 지급정지를 신청했다면 신청한 날부터 3영업일 이내에 신청서류를 내야 합니다(통신사기피해환급법 시행령 제3조제2항, 금융감독원 안내는 "신청일 3영업일이내"). 이 기간이 지나면 은행이 14일의 기간을 정해 서류를 내라고 알리는데, 그 안에도 내지 않으면 전화로 한 신청은 없었던 것으로 봅니다(같은 조 제3항). 필요한 서류는 방문 전에 은행이나 경찰서에 물어봅니다.

생활 활용 ①: 요약

이제 이 책에서 배운 것을 모아 AI를 생활에 쓰는 법을 봅니다. 먼저 요약입니다. 아파트 관리사무소 공지, 가정통신문, 긴 안내문처럼 읽기 힘든 글을 짧게 줄여 주는 일은 AI가 아주 잘합니다.

이렇게 해 보세요: 긴 안내문에서 할 일만 뽑기

1. 안내문에서 이름, 주소, 연락처, 고객 번호 같은 정보를 지웁니다(4장).
2. 안내문을 붙여 넣고 이렇게 부탁합니다.

[보내는 질문]
아래는 우리 아파트 관리사무소의 공지야.
내가 해야 할 일만 번호를 붙여 세 가지 이내로 뽑아 줘.
날짜, 시간, 금액은 공지에 적힌 그대로 옮겨 적고, 공지에 없는 내용은 덧붙이지 마.

(공지 내용 붙여 넣기)

3. AI의 요약을 받은 뒤, 날짜·시간·금액은 원문과 한 번 더 맞춰 봅니다. 요약하다가 숫자를 바꾸거나 빠뜨릴 수 있습니다.

생활 활용 ②: 번역

여행지의 메뉴판, 외국 제품의 설명서, 외국인 이웃에게 보낼 인사처럼 번역이 필요할 때도 AI가 큰 도움이 됩니다.

번역을 쓸 때의 요령은 세 가지입니다.

1. 상황을 알려 줍니다. "식당 직원에게 보여 줄 문장", "이웃에게 보내는 정중한 인사"처럼 쓰임을 말하면 알맞은 말투로 번역합니다.
2. 거꾸로 확인합니다. 번역된 문장을 새 대화에 넣고 "이 문장을 한국어로 옮겨 줘"라고 해 봅니다. 원래 뜻과 크게 다르면 다시 번역합니다.
3. 중요한 번역은 사람에게 맡깁니다. 병원 진료, 계약서, 공식 서류처럼 틀리면 큰일 나는 번역은 전문 통역이나 번역, 또는 해당 기관의 공식 안내를 이용합니다.

[보내는 질문]
일본 여행 중에 식당에서 직원에게 보여 줄 문장을 일본어로 써 줘.
"저는 땅콩 알레르기가 있습니다. 땅콩이 들어간 음식이 있으면 알려 주세요."
정중한 말투로 써 주고, 일본어 문장 아래에 그 뜻을 한국어로 다시 적어 줘.
뜻이 맞는지 확인하려고 해.

알레르기처럼 몸에 관한 문장이라면, 번역 결과를 거꾸로 확인하는 것에 더해 여행 전에 그 언어를 아는 사람에게 한 번 보여 주면 더 안전합니다.

생활 활용 ③: 글쓰기

축하, 감사, 사과, 부탁의 글을 쓰는 일은 AI가 가장 잘하는 일 가운데 하나입니다. 2장의 다섯 칸 질문표가 여기서 그대로 쓰입니다. 글쓰기에 AI를 쓸 때는 다음을 기억합니다.

• 사실은 내가 넣습니다. 날짜, 장소, 이름, 금액은 AI가 지어내지 않도록 내가 알려 주거나 빈칸으로 남겨 달라고 합니다.
• 마음은 내 것으로 고칩니다. AI의 문장은 무난하지만 누구에게나 쓸 수 있는 말이기 쉽습니다. 나만 아는 추억 한 줄을 더하면 내 글이 됩니다.
• 정직하게 씁니다. 중고거래 글, 후기, 민원 글에 사실이 아닌 내용을 넣지 않습니다(2장). AI로 만든 사진으로 물건을 실제보다 좋아 보이게 꾸미지 않습니다.
• 보내기 전에 읽습니다. AI가 끼워 넣은 엉뚱한 이름이나 표현이 없는지 소리 내어 한 번 읽습니다.

생활 속 안전 수칙 다섯 가지

이 책 전체를 다섯 줄로 묶으면 다음과 같습니다. 생활 속 작은 일에 AI를 쓸 때 위험을 줄여 주는 기본 습관입니다.

1. AI는 지어서 답한다. 글쓰기와 설명에는 쓰고, 사실은 확인한다(1장).
2. 부탁하듯 구체적으로 묻고, 고쳐 묻는다. 사정은 쓰되 신원은 뺀다(2장).
3. 숫자·날짜·이름·장소는 공식 기관에서 다시 본다. 건강·법률·돈은 전문가와(3장).
4. 빨강 정보는 넣지 않는다. 주민등록번호, 비밀번호, 인증번호, 계좌·카드 번호(4장).
5. 급한 돈 요구는 끊고, 저장된 번호로 확인한다. 목소리와 얼굴은 증거가 아니다(5장).

깊이 읽기

탐지 기술보다 절차가 강하다

"AI로 만든 가짜를 AI로 가려낼 수는 없나요?"라는 질문을 자주 받습니다. 딥페이크를 찾아내는 기술도 연구되고 있지만, 만드는 기술과 찾아내는 기술은 쫓고 쫓기는 관계입니다. 오늘 잘 찾아내던 방법이 내일은 통하지 않을 수 있습니다. 그리고 한밤중에 걸려 온 전화를 받으면서 탐지 프로그램을 돌릴 수도 없습니다.

반면 "끊고, 저장된 번호로 다시 걸고, 정해 둔 질문을 한다"는 절차는 흉내 내는 기술이 좋아져도 쉽게 무너지지 않습니다. 사기범이 내 딸의 목소리를 완벽하게 흉내 내도, 내가 저장된 번호로 직접 건 전화에서 딸이 받아 확인 질문에 답하는 과정까지 꾸미기는 훨씬 어렵기 때문입니다. 다만 이 절차도 완벽하지는 않습니다. 앞에서 본 대로 내 휴대폰에 악성 앱이 깔려 있으면 내가 거는 전화도 가로챌 수 있으니, 그럴 때는 다른 사람의 전화기로 확인합니다. 그래서 이 장은 "가짜를 알아보는 눈"보다 "절차"를 먼저 가르쳤습니다.

이 원리는 은행이 큰돈을 보낼 때 여러 번 확인하는 것과 같습니다. 은행 직원이 고객의 얼굴을 잘 알아도, 큰돈은 정해진 절차로 확인합니다. 사람의 눈과 귀는 속을 수 있지만, 잘 만든 절차는 잘 속지 않습니다.

내가 AI로 만든 것을 나눌 때

이제는 나도 AI로 그림을 만들고, 손주 사진을 만화처럼 바꾸고, 축하 영상을 만들 수 있습니다. 즐거운 일입니다. 다만 내가 만든 것을 다른 사람과 나눌 때 몇 가지를 지키면 좋습니다.

• AI로 만들었다고 밝힙니다. 인공지능기본법의 표시 의무는 AI 서비스를 제공하는 사업자에게 있습니다. 하지만 개인도 "AI로 만든 그림이에요"라고 한마디 덧붙이면, 받는 사람이 실제 사진으로 오해하지 않습니다. 특히 실제와 구분하기 어려운 사진이나 영상이라면 더 그렇습니다.
• 다른 사람의 얼굴과 목소리로 장난하지 않습니다. 재미로 만든 가짜 영상도 당사자에게는 큰 상처가 될 수 있고, 퍼지면 사기나 따돌림에 쓰일 수 있습니다. 4장에서 본 대로 다른 사람의 사진은 그 사람의 허락 없이 쓰지 않습니다.
• 가족 사진은 공개 범위를 좁힙니다. 앞에서 본 경찰청 안내처럼, 공개된 얼굴과 목소리는 딥페이크의 재료가 될 수 있습니다. 가족 사진과 영상은 가족끼리만 보이게 올리는 편이 안전합니다.

실무 장면

윤옥순 씨의 한밤중 전화

상황. 들어가며에서 본 윤옥순 씨는 딸의 목소리로 걸려 온 전화에서 오백만 원을 요구받았습니다.

신호 찾기. 이 전화에는 다섯 가지 신호가 모두 있었습니다. "지금 바로"(급함), "다른 사람한테 말하면 안 된다"(비밀), "합의금 오백만 원"(돈), 모르는 번호(낯선 번호). 링크나 앱은 아직 없었지만, 돈을 보내는 순간 계좌번호를 알려 줬을 것입니다.

버린 선택지.

• 딸의 목소리가 확실하니 돈부터 보낸다. 목소리는 증거가 아니라서 버렸습니다.
• 상대에게 "정말 내 딸 맞아요?"라고 묻는다. 사기범은 "맞다"고 할 뿐이고, 통화가 길어질수록 겁을 더 줍니다. 그래서 버렸습니다.
• 상대가 알려 준 "경찰 번호"로 확인 전화를 한다. 그 번호가 사기범 일당의 번호일 수 있어 버렸습니다.
• 혼자 해결하려고 아무에게도 말하지 않는다. "비밀로 하라"는 요구 자체가 사기의 신호라서 버렸습니다.

결정. 윤옥순 씨는 전화를 끊고, 저장된 딸의 번호로 걸었습니다. 딸이 받자 설에 정한 확인 질문을 했고, 딸은 바로 답했습니다. 딸이 무사한 것을 확인한 뒤, 윤옥순 씨는 아들에게도 알렸습니다. 아들과 함께 112에 신고하고, 1394에 걸려 온 전화번호를 제보했습니다. 다음 날 가족 단톡방에 "이런 전화가 왔었다. 우리 약속 다시 한번 기억하자"라는 글을 올렸습니다. 딸은 공개로 올려 두었던 노래 영상들을 친구에게만 보이게 바꿨습니다.

서경자 씨의 단톡방 투자 영상

상황. 2장에 나온 늘봄 산악회 총무 서경자 씨는 회원 단톡방에 영상 하나가 올라온 것을 보았습니다. 텔레비전에서 자주 보던 경제 전문가가 "지금 이 상품에 가입하면 석 달 만에 원금의 세 배, 원금 보장. 이번 주까지만 회원 모집"이라고 말하는 영상이었습니다. 영상 아래에는 가입 링크가 붙어 있었습니다. 벌써 회원 두 명이 "좋은 정보 고마워요"라고 답을 달았습니다.

신호 찾기. 서경자 씨는 3장과 5장에서 배운 신호를 떠올렸습니다. "원금의 세 배", "원금 보장"(확실한 고수익), "이번 주까지만"(급함), 가입 링크(링크). 영상 속 얼굴이 유명인이라는 것은 증거가 되지 않습니다.

버린 선택지.

• 유명인이 직접 말했으니 믿는다. 얼굴과 목소리는 딥페이크로 흉내 낼 수 있어 버렸습니다.
• 영상에 "AI 생성" 표시가 없으니 진짜다. 표시가 없다고 진짜는 아니라서 버렸습니다.
• 링크를 눌러 어떤 상품인지 확인해 본다. 링크를 누르는 것 자체가 위험할 수 있어 버렸습니다.
• 괜히 분위기 깨기 싫으니 모른 척한다. 회원들이 돈을 잃을 수 있어 버렸습니다.

결정. 서경자 씨는 그 경제 전문가의 공식 채널과 뉴스를 검색했습니다. 그런 상품을 권했다는 보도는 없었고, 오히려 그 사람을 사칭한 투자 광고를 조심하라는 공지가 있었습니다. 서경자 씨는 단톡방에 이렇게 올렸습니다. "여러분, 이 영상은 유명인 얼굴을 흉내 낸 사기 광고일 가능성이 커요. 링크 누르지 마시고, 이미 눌렀거나 돈을 보낸 분은 바로 은행에 전화하세요." 그리고 영상을 올린 회원에게 따로 전화해 사정을 설명하고 영상을 내려 달라고 부탁했습니다. 링크가 걸린 사이트는 1394에 제보했습니다. 단톡방 공지 문장은 AI에게 "회원들이 기분 상하지 않게, 하지만 분명하게"라고 부탁해 다듬었습니다. 경고 내용과 판단은 서경자 씨가 정했고, AI는 말투를 도왔습니다.

자주 틀리는 지점

1. "목소리가 진짜 딸이었으니 딸이다." 목소리와 얼굴은 AI로 흉내 낼 수 있습니다. 듣고 본 것이 아니라 절차로 확인합니다.
2. "화면에 은행 번호가 떴으니 은행이다." 발신번호는 조작할 수 있습니다. 끊고, 공식 대표번호로 내가 직접 겁니다.
3. "상대가 내 이름과 주소를 아니까 진짜 기관이다." 사기범은 개인정보를 미리 알고 접근하기도 합니다. 알고 있다는 것은 증거가 아닙니다.
4. "메신저로 '정말 너야?'라고 물어서 확인했다." 사기범은 "응"이라고 답할 뿐입니다. 저장된 번호로 전화해 확인합니다.
5. "AI 표시가 없으니 진짜 영상이다." 표시 의무는 사업자에게 있고, 사기범은 지키지 않습니다. 표시가 없다고 진짜라는 뜻이 아닙니다.
6. "유명인이 추천한 투자니까 안전하다." 유명인 얼굴의 투자 광고는 딥페이크 사기에 자주 쓰입니다. "확실한 고수익", "원금 보장", "지금만"은 의심 신호입니다.
7. "돈을 이미 보냈으면 늦었으니 신고해도 소용없다." 바로 금융회사에 지급정지를 신청하면 피해를 줄일 수 있습니다. 빠를수록 좋습니다.
8. "AI로 요약하거나 번역한 글은 원문과 같다." 요약하면서 숫자를 바꾸거나 빠뜨릴 수 있고, 번역은 뜻이 달라질 수 있습니다. 날짜·금액은 원문과 맞춰 보고, 중요한 번역은 거꾸로 확인합니다.

한눈에 정리

공식 문서로 확인하기

• 금융감독원 보이스피싱지킴이 — 보이스피싱 피해 시 대처방법: 지급정지, 개인정보 노출 시 조치, 피해구제 신청 기한.
• 금융감독원 보이스피싱지킴이 — 예방요령: 금융정보 요구, 현금지급기 유인, 발신번호 조작, 누리집 주소 확인 등 열 가지 예방요령.
• 금융감독원 보이스피싱지킴이 — 피싱피해시 주요 연락처: 112, 1332, 118과 금융회사 고객센터 번호.
• 정책브리핑 — 전기통신금융사기 통합대응단 신고번호 '1394'(경찰청, 2026. 2. 6.)와 통합대응단 출범 6개월 성과(경찰청, 2026. 4. 2.): 1394의 상담·제보·연계 조치, 365일 24시간 상담, 검사 사칭 수법.
• 법제처 찾기쉬운 생활법령정보 — 전자금융범죄 피해 예방 요령: 악성 앱이 깔린 전화기로 건 전화가 가로채질 수 있다는 경고와 다른 전화기로 확인하는 방법.
• 정책브리핑 — 내 가족의 목소리를 흉내 내는 AI피싱을 조심하세요!: 끊고 당사자에게 확인하기, 음성이 담긴 게시물 주의(경찰청, 2024. 5. 27.).
• 정책브리핑 — 딥페이크 이용한 '자녀 납치' 가짜영상 금융사기 주의: 끊기 어려울 때의 신고 방법, 공개 게시물 줄이기(경찰청, 2024. 11. 7.).
• 국가법령정보센터 — 인공지능기본법 제31조: AI 사용 사전 고지, 생성물 표시, 실제와 구분하기 어려운 결과물의 고지·표시.

셀프 체크

5-1. 사기 연락의 다섯 가지 신호를 모두 적어 보세요.

5-2. "멈추고, 끊고, 확인하기" 절차를 여섯 단계로 순서대로 적어 보세요.

5-3. 걸려 온 전화의 화면에 은행 대표번호가 떠 있어도 그 전화로 확인하면 안 되는 이유를 한두 문장으로 써 보세요.

5-4. 우리 가족의 확인 질문으로 쓰기에 알맞지 않은 예 두 가지와, 그 이유를 적어 보세요. (실제로 정한 질문과 답은 적지 마세요.)

5-5. "AI로 만들었다는 표시가 없는 영상"을 보았을 때, 이 표시가 없다는 사실로 알 수 있는 것과 알 수 없는 것을 한 문장씩 써 보세요.

5-6. 이미 사기 계좌로 돈을 보냈다는 것을 알았을 때 가장 먼저 할 일 하나와, 그 뒤에 할 일 두 가지를 적어 보세요.

5-7. AI에게 긴 안내문 요약을 부탁할 때, 보내기 전에 할 일 하나와 받은 뒤에 할 일 하나를 적어 보세요.

실습 과제