考核说明
- 题目数
- 35
- 考核时间
- 60 分钟
- 及格线
- 75 分
- 建议经验
- 具备红带（LLM API开发者）水平，掌握应用安全基础知识
所有题目均为五选一，在 OMR 答题卡上填涂。多选题和正误判断题以方框内选项组合的形式出题，排序题和匹配题以排列形式出题。判断型题目（L3）每题 3 分，其余每题 2 分；原始分换算为百分制后评定为 1~9 等级。
考核领域
1. 威胁建模20%
2. 提示词注入25%
3. 数据保护与权限20%
4. 防御验证与红队测试20%
5. 运营安全与事件响应15%
比例以专项考核为准。修炼和模拟考核的领域构成可能不同。
考核什么
- 按照OWASP LLM Top 10对LLM应用的威胁进行分类
- 找出并缓解直接与间接提示词注入的路径
- 最小化工具权限和数据流，防止泄露
- 用护栏、监控和红队测试验证防御效果
- 设计事件响应与日志保留机制
适合人群
- 负责AI产品安全审查的人员
- 安全工程师
- 智能体平台开发者
不深入涉及一般网络安全和针对模型训练的攻击研究。
领域详情
领域 1. 威胁建模
- 知识：OWASP LLM Top 10、信任边界、资产与攻击面
- 技能：在数据流图中找出信任边界
领域 2. 提示词注入
- 知识：直接与间接注入、经由文档、网页和工具结果的注入、与越狱的区别
- 技能：识别注入路径、组合缓解措施（权限分离、确认、输出限制）
领域 3. 数据保护与权限
- 知识：敏感信息泄露、过度代理（excessive agency）、输出处理漏洞
- 技能：最小化工具权限、安全地渲染输出
领域 4. 防御验证与红队测试
- 知识：护栏、分类器、红队测试方法、评估集
- 技能：设计攻击场景、衡量防御效果
领域 5. 运营安全与事件响应
- 知识：审计日志、成本与资源耗尽攻击、供应链（模型与插件）
- 技能：制定事件响应流程
官方文档
OpenAI
专项教材 · AI安全
练习、模拟考核和所有教材均免费。仅参加正式测试时付费。