技能树 · AI 安全

状态说明:在建 = 已有文章覆盖、正在整理;待学 = 还没学到,留作待办。
逐小节的完成度(32 格进度看板 + 已解锁产出)见 学习路线 · 进度。

分支一:大模型安全(AI 自身安全)

研究并保护 AI 模型/应用本身的安全漏洞。

方向 说明 状态 页面
威胁矩阵 四大风险领域:软件系统 / 模型内生 / 数据安全 / 内容滥用 在建 见总览
提示词注入 最基础最常见的攻击,入门第一步 在建 见总览
越狱攻击 绕过安全对齐的高阶注入 在建 见总览
数据 / 模型投毒 训练或知识库被污染 在建 见总览
对抗样本 微小扰动让模型误判 在建 见总览
供应链安全 从硬件到部署全链路 在建 见总览
以模治模(防御) 用 AI 做防御 待学 —

分支二:AI 赋能安全(AI 赋能安全)

把 AI 当工具,增强传统安全工作。

方向 说明 状态 页面
渗透自动化成熟度 P0~P5 从人工到全自动攻防 在建 见总览
智能 SOC 自感知 / 自决策 / 自响应的安全中枢 在建 见总览
红队评估 用 AI 做攻防演练 在建 见总览
AI 代码审计 多源证据交叉验证找漏洞 在建 见总览
智能渗透测试 AI 自主完成渗透全流程 在建 见总览

两大分支都还在入门阶段,目前内容主要来自一篇科普文章。随着学习深入,会把每个方向拆成独立概念页。

当前已点亮:2.3.1 Prompt 工程、2.3.2 大模型架构、2.3.3 模型算法与微调(凝气期,9%)。

站内搜索

没有找到内容!