技能树 · AI 安全
状态说明:在建 = 已有文章覆盖、正在整理;待学 = 还没学到,留作待办。
逐小节的完成度(32 格进度看板 + 已解锁产出)见 学习路线 · 进度。
分支一:大模型安全(AI 自身安全)
研究并保护 AI 模型/应用本身的安全漏洞。
| 方向 | 说明 | 状态 | 页面 |
|---|---|---|---|
| 威胁矩阵 | 四大风险领域:软件系统 / 模型内生 / 数据安全 / 内容滥用 | 在建 | 见总览 |
| 提示词注入 | 最基础最常见的攻击,入门第一步 | 在建 | 见总览 |
| 越狱攻击 | 绕过安全对齐的高阶注入 | 在建 | 见总览 |
| 数据 / 模型投毒 | 训练或知识库被污染 | 在建 | 见总览 |
| 对抗样本 | 微小扰动让模型误判 | 在建 | 见总览 |
| 供应链安全 | 从硬件到部署全链路 | 在建 | 见总览 |
| 以模治模(防御) | 用 AI 做防御 | 待学 | — |
分支二:AI 赋能安全(AI 赋能安全)
把 AI 当工具,增强传统安全工作。
| 方向 | 说明 | 状态 | 页面 |
|---|---|---|---|
| 渗透自动化成熟度 | P0~P5 从人工到全自动攻防 | 在建 | 见总览 |
| 智能 SOC | 自感知 / 自决策 / 自响应的安全中枢 | 在建 | 见总览 |
| 红队评估 | 用 AI 做攻防演练 | 在建 | 见总览 |
| AI 代码审计 | 多源证据交叉验证找漏洞 | 在建 | 见总览 |
| 智能渗透测试 | AI 自主完成渗透全流程 | 在建 | 见总览 |
两大分支都还在入门阶段,目前内容主要来自一篇科普文章。随着学习深入,会把每个方向拆成独立概念页。
当前已点亮:2.3.1 Prompt 工程、2.3.2 大模型架构、2.3.3 模型算法与微调(凝气期,9%)。
