这是一个给自己学、也能公开看的 AI 安全知识库。目前我(站长)还是小白,正在按一篇微信公众号转载《重生之我在修仙世界学AI安全》入门,边学边把框架和要点沉淀到这里。
这个 Wiki 是什么
AI 安全 = AI 技术与网络安全交叉融合的产物。它天然分成两大分支,本 Wiki 就按这两条线组织:
| 分支 | 一句话 | 文章里的叫法 | 入口 |
|---|---|---|---|
| 大模型安全 | 把 AI 当”靶子”——研究并保护模型/应用本身的安全 | AI 自身安全 | 大模型安全总览 |
| AI 赋能安全 | 把 AI 当”工具”——用 AI 增强传统安全工作 | AI 赋能安全 | AI 赋能安全总览 |
一个是”保 AI 的安全”,一个是”让 AI 帮我们做安全”。技术栈有重叠,但攻防视角完全不同。
我现在的进度
当前境界:🧘 凝气期 · 已完成 3 / 32 节(9%)
已点亮:2.3.1 Prompt 工程 · 2.3.2 大模型架构 · 2.3.3 模型算法与微调
- 阶段:纯小白入门,刚开始爬。
- 主线素材:微信公众号转载《重生之我在修仙世界学AI安全》(一篇面向零基础的科普分享)。
- 玩法:每学完一小节就出一篇笔记,学习路线 上点亮一格,一路从凝气期爬到婴变期。
快速导航
📦 原始素材库(raw)
我的学习流程是「raw 笔记 → wiki 提炼」:先把手写/转载的原始笔记存进笔记本(raw 库),再把要点提升(promote)到 wiki。笔记本是上游、wiki 是下游——wiki 页只回链 raw、不搬原文。想看未加工的原始素材,直接进 AI 安全笔记本:
| raw 素材 | 对应节点 |
|---|---|
| 《重生之我在修仙世界学AI安全》(主线长文·转载) | 全程主线 |
| 提示词工程(理论+实战) | 2.3.1 |
| 大致了解 LLM 三种架构 | 2.3.2 |
| 大致了解大模型微调 | 2.3.3 |
带读 HTML(八篇合集、三种架构导读、零基础术语课、提示词工程带读)也存在 raw 库里,通过自定义标签嵌进 学习路线 等页面。
来源说明
本 Wiki 的内容是我对原始素材的个人整理与转述,不是原文搬运。原始素材见笔记本:
- 原始文章(转载):/notebooks/ai-security/大模型安全–《重生之我在修仙世界学AI安全》/
- 转载来源:微信公众号(青鸾sec)《重生之我在修仙世界学AI安全》
引用、配图与外部链接版权归原作者所有;如有侵权请联系删除。
