이 수련서 사용법

이 책은 누구를 위한 책인가

이 책은 LLM 애플리케이션과 에이전트를 지키는 사람을 위한 교재입니다. AI 제품의 보안 검토를 맡은 사람, 보안 엔지니어, 에이전트 플랫폼을 만드는 개발자가 주된 독자입니다. LLM API로 기능을 하나쯤 만들어 본 경험(빨간띠 LLM API 개발자 수준)과 웹 애플리케이션 보안의 기본기(인증과 인가, XSS, SQL 인젝션, 비밀값 관리)를 갖췄다고 가정합니다. 그 정도 배경이 있으면 이 책만으로 AI 보안 특기 과정의 전 범위를 공부할 수 있도록 썼습니다.

이 책의 관점은 방어자의 관점입니다. "어떤 공격이 있는가"보다 "어디에 어떤 통제를 두어야 피해가 작아지는가"를 판단하는 힘을 기르는 데 집중합니다. 공격 기법은 그 공격을 알아보고, 막고, 자기 시스템에서 시험하는 데 필요한 수준까지만 설명합니다. 실제로 동작하는 공격 문자열이나 다른 조직의 시스템을 겨냥한 절차는 싣지 않습니다. 레드팀 실습도 언제나 허가받은 자기 시스템과 가짜 데이터로 하도록 안내합니다.

일반 네트워크 보안(방화벽, 침입 탐지, 망 분리)과 모델 학습 공격 연구(적대적 예제 생성, 학습 데이터 추출 연구)는 깊게 다루지 않습니다. 다만 공급망과 데이터 오염처럼 운영자가 판단할 지점은 실무 수준으로 다룹니다.

이 책의 구성

본문은 시험 도메인 다섯 개를 한 장씩 다룹니다. 1장 위협 모델링에서 지도를 그리고, 2장 프롬프트 인젝션에서 가장 큰 위협을 해부하고, 3장 데이터 보호와 권한에서 피해 범위를 줄이는 설계를 배우고, 4장 방어 검증과 레드팀에서 그 설계가 실제로 작동하는지 재고, 5장 운영 보안과 사고 대응에서 운영 중에 일어나는 일을 다룹니다. 앞 장의 산출물이 뒤 장의 입력이 되도록 실습 과제를 이어 두었습니다.

모든 장은 같은 열 개 절로 이루어집니다. 학습 목표와 들어가며로 방향을 잡고, 핵심 개념과 깊이 읽기에서 본론과 트레이드오프를 배우고, 실무 장면 두 편으로 결정 과정을 따라갑니다. 이어 자주 틀리는 지점, 한눈에 정리, 공식 문서로 확인하기, 셀프 체크(정답은 부록 B), 30~60분짜리 실습 과제가 나옵니다.

부록 A는 용어집, 부록 B는 셀프 체크 정답과 해설, 부록 C는 시험 당일 가이드, 부록 D는 이 책이 인용한 공식 문서 목록입니다. 처음 읽을 때는 장 순서대로 읽고, 두 번째부터는 자주 틀리는 지점과 한눈에 정리를 중심으로 복습하세요.

시험 한눈에 보기

AI 보안 특기심사는 35문항을 60분 안에 풉니다. 문항마다 배점이 있어서 개념을 확인하거나 원칙 하나를 적용하는 문항은 2점, 조건 여러 개를 함께 따져야 하는 분석형 문항은 3점입니다. 얻은 점수를 100점 만점으로 환산한 원점수가 75점 이상이면 합격하고, 원점수에 따라 1~9등급도 함께 표시됩니다. 무료 연습 세트는 10문항, 25분입니다.

비중이 가장 큰 도메인은 프롬프트 인젝션이지만, 실제 문항에서는 도메인이 섞여 나옵니다. 인젝션 문항의 정답이 권한 축소(3장)이고, 레드팀 문항의 정답이 위협 모델(1장)에서 나오는 일이 흔합니다. 장을 따로 외우기보다 "경로를 찾고, 피해를 줄이고, 효과를 재고, 운영한다"는 한 흐름으로 이해하세요.

문항은 이렇게 생겼다

시험지는 대학수학능력시험의 문제지와 OMR 답안지를 닮았습니다. 어떤 형식이든 답은 번호(①~⑤) 하나를 고르는 방식입니다. 문항을 만드는 형식은 다섯 가지이고, 시험지에서는 다음과 같이 보입니다.

문항 대부분은 짧은 업무 장면을 주고 결정을 묻습니다. 장면에는 굵게 표시한 조건이 한두 개 들어갑니다. 예를 들어 "출시 일정은 바꿀 수 없다"는 조건이 붙으면 몇 달이 걸리는 재설계 보기는 아무리 안전해도 답이 될 수 없고, "코드로 강제할 수 있는 통제"를 묻는다면 시스템 프롬프트에 문장을 더하는 보기는 지워야 합니다. 분석형 문항은 조건 하나가 바뀌면 정답도 바뀌도록 만들어져 있어서, 키워드만 보고 고르면 그럴듯한 오답에 닿습니다. 보기를 읽을 때마다 "이 조치가 장면의 조건을 모두 만족하는가, 아니면 일부만 만족하는가"를 따지는 습관을 들이세요.

6주 학습 계획

하루 한 시간, 주 5일을 기준으로 짠 계획입니다. 실무 경험이 많다면 1~2주차를 한 주로 합쳐도 됩니다.

표기와 출처 원칙

이 책의 표준·벤더·법령 정보는 2026년 10월 20일에 각 공식 페이지에서 확인했습니다. 기준 판본은 시험과 같은 OWASP Top 10 for LLM Applications 2025년판(2026년 8월에 순위를 바꾼 2026년판이 나왔으며, 대응표는 1장에 있습니다), OWASP Top 10 for Agentic Applications 2026년판(2025년 12월 공개), MCP(Model Context Protocol) 2026-07-28 판, 개인정보 보호법과 같은 법 시행령의 2026년 9월 11일 시행본입니다. 제품 이름, 설정 화면, 기능 범위는 바뀔 수 있으니 실무에 적용하기 전에 각 장의 공식 문서로 확인하세요.

표기 원칙은 다음과 같습니다.

1. 제품, API, 매개변수 이름은 원래 표기를 씁니다(tool_result, safety_identifier, Prompt Shields).
2. 용어는 처음 나올 때 우리말 설명을 붙이고, 이후에는 같은 말을 씁니다. 예를 들어 excessive agency는 "과도한 대리권"으로 통일합니다.
3. 벤더 문서가 확인해 주지 않는 기능, 한도, 가격은 쓰지 않습니다. 확인하지 못한 내용은 특정 벤더를 가리키지 않는 원칙으로만 설명합니다.
4. 법령은 국가법령정보센터의 현행 조문을 기준으로 인용하며, 이 책의 법령 설명은 법률 자문이 아닙니다. 실제 사고에서는 개인정보 보호 책임자와 법무 담당자의 판단을 따르세요.
5. 사례에 나오는 조직과 인물은 모두 지어낸 것입니다.