参考资料 · 入门知识库

本页所有条目，都是从笔记原文 《重生之我在修仙世界学 AI 安全》（/notebooks/ai-security/大模型安全--《重生之我在修仙世界学AI安全》/）里提取的全部外链，去重后汇总。
原文转载自微信公众号，本页仅作学习索引，版权归原作者所有。

怎么用这一页

• ★ = 原文 **3.14 节「AI 安全 — 入门学习知识库」**里作者精选的条目（最贴题、优先看）。
• 没标 ★ 的，是正文各章节「参考阅读 / 相关链接」里提到的延伸资料（含 Python、机器学习、深度学习、硬件等前置基础）。
• 每条都配了一句话导读；点链接前请注意：外部站点可能改版或失效，且部分需自行判断内容时效性。

建议阅读路线（小白版）

1. 先看本站总览：大模型安全总览 / AI 赋能安全总览
2. 再读权威框架：AI Security Guide、AI Sec Matrix、OWASP Top 10（见下方「系统知识库」）
3. 按需补基础：Python → 机器学习 → 深度学习 → 大模型架构（见「博客·前置基础」）
4. 深入某攻击面时，查对应论文 / 博客（提示注入、越狱、对抗样本、供应链等）
5. 动手用工具（PyRIT、llm-guard），并关注会议与社区动态

一、论文与权威报告

深度阅读为主，建议有一定基础后再啃。

• ★ 大语言模型安全与隐私风险综述 — 浙江大学 NESA（PDF） — 浙大团队对 LLM 安全与隐私风险的系统性综述。
• ★ 面向人工智能模型的安全攻击和防御策略综述 — 计算机研究与发展（PDF） — 中文顶刊对 AI 模型攻防策略的综述论文。
• ★ 2026 年国际人工智能安全报告（全文 PDF） — 多国联合发布的 AI 安全国际报告（中文版）。
• ★ 2026 年国际人工智能安全报告（决策者摘要 PDF） — 上述报告的精简摘要版。
• ★ 人工智能安全治理蓝皮书 — 中国信通院（PDF） — 国内 AI 安全治理权威蓝皮书。
• ★ Attention Is All You Need（arXiv） — 2017 Google 提出 Transformer 的奠基论文，大模型的地基。
• 大模型知识存储位置研究（arXiv） — 探究知识在 LLM 中到底存在哪里。
• ★ 日本发布《人工智能红队测试方法指南》1.0 — 安全内参 — 日本官方 AI 红队测试方法论解读。
• 斯坦福 2026 AI 指数报告（中文报道） — 斯坦福 AI Index 2026 的国内报道。
• 大模型安全研究论文整理（2026.3）— 知乎专栏 — 按月整理的大模型安全论文汇总。
• LLM Safety 最新论文推介（2026.2）— 知乎专栏 — 近期 LLM 安全论文速递。
• 国际人工智能安全报告（北大选译） — 北大对国际 AI 安全报告的独家选译。
• AI 前沿日报 · arXiv 最新 AI 论文速递（今日头条） — 每日 arXiv 论文速递聚合。

二、系统知识库与官方教程

体系化学习入口，比零散博客更成系统。

• ★ 大模型安全权威指南 AI Security Guide（GitBook） — 体系化的中文 AI 安全指南，强烈推荐通读。
• ★ AI Sec Matrix（AI 安全威胁矩阵） — 把 AI 攻击面梳理成矩阵的参考框架。
• ★ 人工智能：数据与模型安全（开源教材） — 覆盖数据/模型安全各章的开源书。
• ★ AI 安全性基础知识 — Microsoft Learn — 微软出品的 AI 安全基础学习路径。
• ★ AI 安全培训：生成式 AI 案例与工具 — Microsoft Learn — 微软红队实战培训。
• AI Red Teaming — FlowHunt 词汇表 — 红队术语解释。
• OWASP Top 10 官方中文项目 — LLM 应用十大风险的权威清单（必看）。
• NIST AI Risk Management Framework — 美国 NIST 的 AI 风险管理框架。
• Adversarial Robustness — Theory and Practice（教程） — 对抗鲁棒性理论+实战教程。
• 米斯特 AI 安全飞书知识库 — 团队维护的 AI 安全飞书知识库。
• ima 知识库 · M-WiKi Ai 应用与安全知识库 — ima 上的 AI 应用与安全知识库。
• 社区招聘版块集合 — 飞书 — 安全社区招聘信息汇总。
• HELLO-CTF 靶场 — 中文 CTF 在线练习靶场。
• CTF.WiKi — CTF 入门与进阶知识库。
• 中国大学 MOOC · Python 基础 — 零基础 Python 视频课。
• 菜鸟教程 · Python3 — Python 语法速查。
• Hack The Box · AI Security Readiness — 面向 AI 安全的攻防训练平台。
• Hack The Box · AI — 综合网络安全实训平台（含 AI 方向）。

三、开源工具与项目

动手派：装起来、跑起来，比光看更懂。

• ★ Azure/PyRIT — 微软出品的生成式 AI 风险识别框架。
• ★ protectai/llm-guard — 面向 LLM 交互的安全工具箱（输入/输出防护）。
• ★ gmh5225/awesome-ai-security — AI 安全资源与工具精选列表。
• ★ liu673/Awesome-LLM4Security — 网络安全领域的 LLM 资源汇总。
• ★ jd-opensource/JoySafety — 京东开源的 AI 安全项目。
• SecureNexusLab/LLMPromptAttackGuide — LLM 提示攻击手册（含实战）。
• Acmesec/PromptJailbreakManual — 越狱 Prompt 手册。
• Acmesec/AIPromptJailbreakPractice — 越狱 Prompt 实战练习。
• Acmesec/theAIMythbook（AI 迷思录） — AI 安全科普书，原文多处参考。
• Tencent/AI-Infra-Guard — 腾讯开源的 AI 基础设施安全检测。
• 0x4D31/airt（AI 红队课程） — 一套 AI 红队开源课程。
• lintsinghua/DeepAudit — 基于深度学习的代码审计项目。
• Tr0e/Awesome-AI-Code-Audit — AI 代码审计资源精选。
• Yeti-791/Tsec-Hackathon — 腾讯安全黑客松资源汇总。
• 2025Emma/vibe-coding-cn — Vibe Coding 中文资源导航。

四、博客与专栏文章

4.1 大模型自身安全（攻击与防御）

• ★ LLM 提示注入攻击深度解析：从原理到防御的完整应对方案 — 提示注入原理到防御的长文。
• ★ 28 种 LLM 越狱攻击方法汇总（2025.8）— 53AI — 汇总 28 种越狱手法。
• AI 大模型提示词攻击防御全景指南 2025 — 从 OWASP Top 10 到企业级防护体系。
• RAG 时代的数据投毒与大模型上下文劫持 — FreeBuf — RAG 投毒与上下文劫持详解。
• 卷积网络中的对抗攻击综述 — 知乎 — CNN 对抗攻击研究综述。
• 对抗样本：深度学习攻击和防御 — 知乎 — 对抗样本入门。
• 模型安全之对抗攻击（《数据与模型安全》第 6 章） — 开源教材里的对抗攻击章节。
• 智能体「提示注入」防不胜防？谷歌、微软联合研究 — Agent 提示注入六大防护手段。
• 应对大模型供应链三大核心威胁 — 供应链威胁拆解与高危漏洞复现。
• 大模型供应链安全 — FreeBuf — 供应链安全概览。
• 大模型供应链研究路线图 — 安全内参 — 供应链安全研究路线。
• 红队必看：生成式 AI 安全的八大实战教训 — 安全内参 — 红队实战经验总结。
• AI 大模型提示词攻击防御（阿里云） — 阿里云关于提示词攻击防护的文章。
• 大模型提示词安全（腾讯云） — 腾讯云相关技术文。

4.2 AI 赋能安全

• AI 赋能下的自动化攻防分享 — FreeBuf — 自动化攻防实践分享。
• AI 赋能安全运营 — 网易 — AI 在安全运营中的落地。
• 数智化安全运营的未来图景 — 安全运营的数智化趋势。
• 「AI+Security」系列第 3 期：AI 赋能自动化渗透测试 — FreeBuf — AI 自动化渗透测试。
• AI 打破网络安全平衡，Anthropic 启动「Project Glasswing」 — Anthropic 的 AI 安全新项目报道。
• RSAC 2026 观察：从被动响应到 AI 对抗 AI — 安全内参 — RSAC 大会 AI 安全趋势观察。
• AI Security in 2026: Trends, Roles, and Readiness — Hack The Box — 2026 AI 安全趋势与岗位准备。
• 秋峰审计 QiufengAudit（模型下载） — 代码审计模型权重（ModelScope）。
• 烽火安全 dmsec.cn（官网） — 相关安全团队官网。

4.3 大模型基础（架构 / 训练 / 推理 / 提示词）

• 大模型架构类型综述 — 知乎 — 主流大模型架构梳理。
• LLM 的 3 种架构：Encoder-only / Decoder-only / Encode-Decode — 三种架构对比。
• 六大主流大模型架构 — 百度开发者 — 主流架构盘点。
• AI 模型微调技术详解 — 微调技术入门。
• 7 种大模型微调的方法 — 知乎 — 常见微调方法汇总。
• 图解 Transformer — 知乎 — 经典 Transformer 图解，必读。
• RoPE 旋转位置编码详解 — 知乎 — 旋转位置编码原理。
• 位置编码综述 — 知乎 — 各类位置编码对比。
• Transformer FFN 详解 — 知乎 — 前馈网络结构。
• SwiGLU 激活函数与门控 FFN — 知乎 — 现代激活函数。
• RAG 架构详解 — 知乎 — 检索增强生成原理。
• 向量数据库原理 — IBM — RAG 背后的向量库。
• LoRA 原理详解 — 知乎 — 低秩适配微调。
• QLoRA 技术报告 — 知乎 — 量化版 LoRA。
• DPO 论文解读 — 知乎 — 直接偏好优化。
• 提示词工程 Prompt Engineering — 菜鸟教程 — 提示词工程入门。
• AI 提示工程（Prompt Engineering）实战心法 — 知乎 — 提示词实战经验。
• 大模型架构相关解读 — 知乎 — 原文引用的架构科普。
• Transformer 架构 — 菜鸟教程 — Transformer 结构速查。
• 位置/架构相关 — 知乎 — 原文引用的延伸阅读（点开确认具体主题）。

4.4 机器学习基础（前置）

• 线性回归 — 菜鸟教程 — 回归入门。
• 线性回归原理、损失函数和正规方程 — 阿里云 — 原理推导。
• 逻辑回归 — 知乎 — 分类基础。
• 线性回归与逻辑回归的区别 — 两者对比。
• 逻辑回归相关 — 知乎 — 原文延伸阅读（点开确认）。
• 决策树方法详解 — 菜鸟教程 — 决策树入门。
• 决策树核心算法 ID3、C4.5、CART — 腾讯云 — 三种决策树算法。
• 决策树相关 — 知乎 — 原文延伸阅读（点开确认）。
• 朴素贝叶斯详解 — 菜鸟教程 — 贝叶斯分类。
• 朴素贝叶斯算法及其应用 — 阿里云 — 原理+案例。
• 朴素贝叶斯相关 — 知乎 — 原文延伸阅读（点开确认）。
• SVM 支持向量机 — Ultralytics — 支持向量机概念。
• SVM 相关 — 百度开发者 — 原文延伸阅读（点开确认）。
• 集成学习 — 菜鸟教程 — 集成方法入门。
• 集成模型 / 集成学习 — 腾讯云 — 集成学习详解。
• 集成学习相关 — 博客园 — 原文延伸阅读（点开确认）。
• 随机森林、GBDT、XGBoost 从零理解 — 阿里云 — 主流集成模型。
• 集成学习技术对比 — 百度开发者 — 各方法对比。
• 随机森林 — 菜鸟教程 — 随机森林速查。
• K 近邻算法原理与应用 — 百度开发者 — KNN 原理。
• K 近邻 — 菜鸟教程 — KNN 速查。
• 邻近算法 — 百度百科 — KNN 概念。
• K-Means 聚类详解 — Ultralytics — 聚类概念。
• K-means 聚类算法原理与实例 — 百度开发者 — 聚类实战。
• 无监督学习 - 聚类 — 菜鸟教程 — 聚类速查。

4.5 深度学习基础（前置）

• 理解神经网络：从神经元到深度学习 — 腾讯云 — 神经网络入门。
• 神经网络入门贴 — 量子位 — 通俗入门。
• 人工神经网络详解 — AWS — 神经网络概念。
• 反向传播与梯度下降 — 百度开发者 — 训练核心算法。
• CNN 工作原理 — IBM — 卷积网络。
• LSTM 网络详解 — Ultralytics — 长短期记忆网络。
• 理解 LSTM — 腾讯云 — LSTM 应用。
• GAN 原理与应用 — AWS — 生成对抗网络。
• 图神经网络详解 — IBM — GNN 概念。
• GNN 入门与实践 — 腾讯云 — 图神经网络实践。
• Transformer 模型详解 — Ultralytics — Transformer 概念。
• TensorFlow 官方教程：使用 FGSM 的对抗样本 — 动手实现对抗样本。

4.6 硬件基础（前置）

• GPU 的概念、工作原理以及与 CPU 的区别 — 掘金 — GPU 入门。
• gpu 是显卡吗？gpu 和 cpu 的区别对比 — 知乎 — CPU/GPU 区别。
• GPU 工作原理 — 腾讯云 — GPU 内部原理。
• NVIDIA GPU 架构演进（官方） — NVIDIA 数据中心 GPU。
• AMD Instinct 加速器（官方） — AMD 加速卡。
• CPU、GPU、TPU、NPU 等到底是什么？— 知乎 — 各类芯片总览。
• CPU、GPU、TPU、NPU 都是什么？— 今日头条 — 芯片科普。
• TPU 是什么？— 知乎 — 谷歌 TPU。
• Google Cloud TPU（官方） — 云端 TPU。
• FPGA 最全科普总结 — 知乎 — FPGA 入门。
• FPGA 基础知识介绍 — 中科大 — FPGA 概念。
• FPGA 是什么 — 电子工程专辑 — FPGA 原理与用途。
• AMD FPGA 与自适应计算（官方） — AMD FPGA。
• Intel FPGA 产品（官方） — Intel FPGA。
• 什么是 ASIC 芯片 — 知乎 — 专用集成电路。
• 一文读懂 ASIC 芯片 — ASIC 详解。
• 华为昇腾社区（官方） — 国产 AI 芯片生态。
• AWS AI 芯片 Trainium（官方） — AWS 训练芯片。
• Intel Loihi 2 类脑芯片（官方） — 神经形态计算。
• IBM TrueNorth（官方） — 类脑芯片。
• NVIDIA Jetson 平台（官方） — 边缘 AI 硬件。
• 边缘计算硬件设计 — 百度云 — 边缘侧硬件。
• HBM/HBF 技术入门指南 — 高带宽内存。
• HBM 它到底是什么？— 知乎 — 显存技术。
• DRAM 相关 — 知乎 — 内存基础（点开确认具体主题）。

4.7 法规与治理

• EU AI Act 官方全文 — 欧盟人工智能法案。
• 欧盟 AI 法案体系性解读 — 德恒律所 — 法案中文解读。
• GDPR 与 AI 合规指南 — Hunton — 数据合规。
• Digital Omnibus 提案解读 — 欧盟 AI 立法动态。
• 人工智能生成合成内容标识办法（全文） — 国内 AI 内容标识合规。
• 相关办法全文（工信部） — 国内相关管理办法（点开确认具体名称）。
• ISO/IEC 42001 详细解读 — AI 管理体系标准。
• ISO/IEC 42001 与 EU AI Act 的协同 — ISACA — 标准与法规衔接。
• 联合国人工智能国际治理 — 智源社区 — 全球 AI 治理。
• 人工智能企业架构设计研究报告 — CSDN — 规模化 AI 应用架构。

五、视频与演讲

• AI 安全之大模型提示词注入（视频版）— B 站 — 提示注入视频讲解。
• 同系列文章版 — 微信公众号 — 上述视频的图文版。
• 小柠师傅分享 — B 站 — 团队实战分享。
• 大模型提示词泄露与越狱攻击 — B 站 — 越狱攻击演示。
• 基于梯度的对抗攻击及其实现 — B 站 — 对抗攻击动手实现。
• 大模型供应链风险机理及实证案例剖析 — B 站 — 供应链风险剖析。
• AI Security | TryHackMe — YouTube 播放列表 — AI 安全实操视频课。

六、会议、竞赛与培训认证

关注动态、找社区、考证用。

• ★ AI Security Summit — Black Hat Asia 2026 — 黑帽大会 AI 安全峰会。
• DEF CON（官网） — 顶级黑客大会。
• Black Hat（官网） — 安全研究大会。
• DEF CON Registration — Black Hat USA 2026 — 美区黑帽/DEF CON 注册页。
• Black Hat Asia 2026 — 亚洲黑帽。
• Black Hat Asia 2026 研究聚焦 — BusinessWire — 大会研究前瞻。
• C3 安全大会 2026（雷科技） — 国内安全大会报道。
• C3 安全大会 2026（新浪） — 同主题另一报道。
• 世界互联网大会亚太峰会 · AI 安全治理论坛（中国教育和科研网） — 治理论坛报道。
• 世界互联网大会亚太峰会（CERNET） — 同峰会另一报道。
• My First CTF 2026 — AIS3 — 入门级 CTF 竞赛。
• AIS3 EOF CTF 2026 — AIS3 年度 CTF。
• 第 23 届信息安全与对抗技术竞赛通知 — ISCC 竞赛通知。
• 阿里 CTF 2026 报道 — 新浪财经 — AI+CTF 趋势报道。
• 当 AI 成为攻防新变量 — gm7 — 安全竞赛底层逻辑重构。
• GPT-5.4 单挑 NCTF 团队赛 — poloapi — AI 参与 CTF 案例。
• 腾讯云黑客松智能渗透挑战赛 — 腾讯安全黑客松。
• 腾讯安全沙龙 — 腾讯安全线下活动。
• 腾讯安全众测 — B 站 — 腾讯安全视频号。
• SecureNexusLab 团队 — B 站 — 安全研究团队。
• NISP / CISP 开班 — NISP 官网 — 注册信息安全专业人员考试。
• CISP 培训服务 — 深信服 — CISP 培训。
• CAISP — 云安全联盟大中华区 — AI 安全认证专家。
• CAISP 证书解读 — 搜狐 — 考证价值分析。
• NISP 三级、CISP 等开班 — NISP — 更多开班信息。
• CAISP 培训 — avtechcn — 另一 CAISP 培训渠道。
• 2026 NATCP 清大 GenAI 资安研习营 — 清华 GenAI 安全研习营。
• AI 红队演练：生成式 AI 资安防护新方法 — RCS — 红队演练方法论。
• 2026 AI 智能体学习路线图 — CSDN — Agent 学习路线。
• 中国 AI XDR 平台最佳实践案例 2026 — IDC — 安全运营平台案例。
• Hack The Box wins 2026 行业奖项 — 官方博客 — 平台动态。
• 腾讯云 TVP 走进招商局 — 51CTO — 具身智能与 Agent 研讨。

七、团队原文 / 公众号转载

与原文同一作者的系列文章或转载，方便顺着一条线追。

• 微信文章 1 — 团队系列 — 原文同系列（点开确认主题）。
• 微信文章 2 — 团队系列 — 原文同系列（点开确认主题）。
• 微信文章 3 — 团队系列 — 原文同系列（点开确认主题）。
• 微信文章 4 — 团队系列 — 原文同系列（点开确认主题）。
• 微信文章 5 — 团队系列 — 原文同系列（点开确认主题）。
• 相关背景报道 — 搜狐 — 原文引用的背景资料（点开确认主题）。
• 相关报道 — 澎湃新闻 — 原文引用的新闻报道（点开确认主题）。
• 安全内参（知识库首页） — 高频引用的网络安全媒体，建议直接订阅。