<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel><title>防御架构 :: 标签 :: x7peeps</title><link>https://blog.x7peeps.com/tags/%E9%98%B2%E5%BE%A1%E6%9E%B6%E6%9E%84/index.html</link><description/><generator>Hugo</generator><language>zh-CN</language><lastBuildDate>Fri, 30 Oct 2026 14:47:30 +0800</lastBuildDate><atom:link href="https://blog.x7peeps.com/tags/%E9%98%B2%E5%BE%A1%E6%9E%B6%E6%9E%84/index.xml" rel="self" type="application/rss+xml"/><item><title>AI 安全攻防全景：Prompt 注入、越狱攻击与防御架构</title><link>https://blog.x7peeps.com/AI/08-%E5%AE%89%E5%85%A8%E4%B8%8EAI%E8%9E%8D%E5%90%88/AI%E5%AE%89%E5%85%A8%E6%94%BB%E9%98%B2%E5%85%A8%E6%99%AFPrompt%E6%B3%A8%E5%85%A5%E8%B6%8A%E7%8B%B1%E6%94%BB%E5%87%BB%E4%B8%8E%E9%98%B2%E5%BE%A1%E6%9E%B6%E6%9E%84/index.html</link><pubDate>Wed, 01 Jul 2026 12:21:09 +0800</pubDate><guid>https://blog.x7peeps.com/AI/08-%E5%AE%89%E5%85%A8%E4%B8%8EAI%E8%9E%8D%E5%90%88/AI%E5%AE%89%E5%85%A8%E6%94%BB%E9%98%B2%E5%85%A8%E6%99%AFPrompt%E6%B3%A8%E5%85%A5%E8%B6%8A%E7%8B%B1%E6%94%BB%E5%87%BB%E4%B8%8E%E9%98%B2%E5%BE%A1%E6%9E%B6%E6%9E%84/index.html</guid><description>AI 安全新攻击面：当传统安全模型失效 大语言模型（LLM）的广泛应用正在催生一类全新的安全威胁。与传统 Web 安全不同，LLM 应用引入了 语义层攻击面 ——攻击者无需利用内存溢出或 SQL 注入等确定性漏洞，而是通过自然语言操纵模型的行为逻辑。这一变化从根本上改变了威胁模型。</description></item><item><title>Prompt 攻防：注入攻击手法与防御架构</title><link>https://blog.x7peeps.com/AI/02-Prompt%E5%B7%A5%E7%A8%8B/Prompt%E6%94%BB%E9%98%B2%E6%B3%A8%E5%85%A5%E6%94%BB%E5%87%BB%E6%89%8B%E6%B3%95%E4%B8%8E%E9%98%B2%E5%BE%A1%E6%9E%B6%E6%9E%84/index.html</link><pubDate>Fri, 30 Oct 2026 14:47:30 +0800</pubDate><guid>https://blog.x7peeps.com/AI/02-Prompt%E5%B7%A5%E7%A8%8B/Prompt%E6%94%BB%E9%98%B2%E6%B3%A8%E5%85%A5%E6%94%BB%E5%87%BB%E6%89%8B%E6%B3%95%E4%B8%8E%E9%98%B2%E5%BE%A1%E6%9E%B6%E6%9E%84/index.html</guid><description>Prompt 安全：从工程视角重新审视攻击面 在 Prompt Engineering 的工程实践中，安全不是一个独立的"附加模块"，而是贯穿 Prompt 设计、部署、运维全生命周期的核心约束条件。一个精心设计的 System Prompt 如果缺乏安全考量，其效果可能在第一次恶意输入时就完全崩溃——这与传统软件工程中"未做输入校验的 SQL 查询"具有完全相同的危险本质。</description></item><item><title>系统提示词为什么防不住：从手工诱骗到梯度优化的提取攻击全景</title><link>https://blog.x7peeps.com/AI/08-%E5%AE%89%E5%85%A8%E4%B8%8EAI%E8%9E%8D%E5%90%88/%E7%B3%BB%E7%BB%9F%E6%8F%90%E7%A4%BA%E8%AF%8D%E4%B8%BA%E4%BB%80%E4%B9%88%E9%98%B2%E4%B8%8D%E4%BD%8F%E4%BB%8E%E6%89%8B%E5%B7%A5%E8%AF%B1%E9%AA%97%E5%88%B0%E6%A2%AF%E5%BA%A6%E4%BC%98%E5%8C%96%E7%9A%84%E6%8F%90%E5%8F%96%E6%94%BB%E5%87%BB%E5%85%A8%E6%99%AF/index.html</link><pubDate>Wed, 23 Sep 2026 23:55:00 +0800</pubDate><guid>https://blog.x7peeps.com/AI/08-%E5%AE%89%E5%85%A8%E4%B8%8EAI%E8%9E%8D%E5%90%88/%E7%B3%BB%E7%BB%9F%E6%8F%90%E7%A4%BA%E8%AF%8D%E4%B8%BA%E4%BB%80%E4%B9%88%E9%98%B2%E4%B8%8D%E4%BD%8F%E4%BB%8E%E6%89%8B%E5%B7%A5%E8%AF%B1%E9%AA%97%E5%88%B0%E6%A2%AF%E5%BA%A6%E4%BC%98%E5%8C%96%E7%9A%84%E6%8F%90%E5%8F%96%E6%94%BB%E5%87%BB%E5%85%A8%E6%99%AF/index.html</guid><description>系统提示词为什么防不住：从手工诱骗到梯度优化的提取攻击全景 导读：LLM 应用安全里有两个方向相反的攻击，经常被混为一谈。提示词注入是"写"——攻击者往模型上下文里塞指令，劫持模型行为；系统提示词提取是"读"——攻击者诱导模型把开发者藏起来的系统提示词原样吐出来。注入方向的攻防资料已经很多，本文专门拆"读"方向：攻击者怎么偷、真实世界里偷到了什么程度（三份独立研究交叉验证）、为什么"不要泄露提示词"这句话在结构上防不住，以及从设计卫生到系统向量的四层防御。文中所有数字均标注论文出处（arXiv 编号），可自行复核。</description></item></channel></rss>