<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel><title>LLM安全 :: 标签 :: x7peeps</title><link>https://blog.x7peeps.com/tags/LLM%E5%AE%89%E5%85%A8/index.html</link><description/><generator>Hugo</generator><language>zh-CN</language><lastBuildDate>Wed, 23 Sep 2026 23:55:00 +0800</lastBuildDate><atom:link href="https://blog.x7peeps.com/tags/LLM%E5%AE%89%E5%85%A8/index.xml" rel="self" type="application/rss+xml"/><item><title>系统提示词为什么防不住：从手工诱骗到梯度优化的提取攻击全景</title><link>https://blog.x7peeps.com/AI/08-%E5%AE%89%E5%85%A8%E4%B8%8EAI%E8%9E%8D%E5%90%88/%E7%B3%BB%E7%BB%9F%E6%8F%90%E7%A4%BA%E8%AF%8D%E4%B8%BA%E4%BB%80%E4%B9%88%E9%98%B2%E4%B8%8D%E4%BD%8F%E4%BB%8E%E6%89%8B%E5%B7%A5%E8%AF%B1%E9%AA%97%E5%88%B0%E6%A2%AF%E5%BA%A6%E4%BC%98%E5%8C%96%E7%9A%84%E6%8F%90%E5%8F%96%E6%94%BB%E5%87%BB%E5%85%A8%E6%99%AF/index.html</link><pubDate>Wed, 23 Sep 2026 23:55:00 +0800</pubDate><guid>https://blog.x7peeps.com/AI/08-%E5%AE%89%E5%85%A8%E4%B8%8EAI%E8%9E%8D%E5%90%88/%E7%B3%BB%E7%BB%9F%E6%8F%90%E7%A4%BA%E8%AF%8D%E4%B8%BA%E4%BB%80%E4%B9%88%E9%98%B2%E4%B8%8D%E4%BD%8F%E4%BB%8E%E6%89%8B%E5%B7%A5%E8%AF%B1%E9%AA%97%E5%88%B0%E6%A2%AF%E5%BA%A6%E4%BC%98%E5%8C%96%E7%9A%84%E6%8F%90%E5%8F%96%E6%94%BB%E5%87%BB%E5%85%A8%E6%99%AF/index.html</guid><description>系统提示词为什么防不住：从手工诱骗到梯度优化的提取攻击全景 导读：LLM 应用安全里有两个方向相反的攻击，经常被混为一谈。提示词注入是"写"——攻击者往模型上下文里塞指令，劫持模型行为；系统提示词提取是"读"——攻击者诱导模型把开发者藏起来的系统提示词原样吐出来。注入方向的攻防资料已经很多，本文专门拆"读"方向：攻击者怎么偷、真实世界里偷到了什么程度（三份独立研究交叉验证）、为什么"不要泄露提示词"这句话在结构上防不住，以及从设计卫生到系统向量的四层防御。文中所有数字均标注论文出处（arXiv 编号），可自行复核。</description></item><item><title>AI模型与大语言模型安全取证深度分析</title><link>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%BA%94%E6%80%A5%E5%93%8D%E5%BA%94/0x03%E5%8F%96%E8%AF%81%E5%88%86%E6%9E%90/AI%E6%A8%A1%E5%9E%8B%E4%B8%8E%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E5%AE%89%E5%85%A8%E5%8F%96%E8%AF%81%E6%B7%B1%E5%BA%A6%E5%88%86%E6%9E%90/index.html</link><pubDate>Sat, 11 Jul 2026 10:00:00 +0800</pubDate><guid>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%BA%94%E6%80%A5%E5%93%8D%E5%BA%94/0x03%E5%8F%96%E8%AF%81%E5%88%86%E6%9E%90/AI%E6%A8%A1%E5%9E%8B%E4%B8%8E%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E5%AE%89%E5%85%A8%E5%8F%96%E8%AF%81%E6%B7%B1%E5%BA%A6%E5%88%86%E6%9E%90/index.html</guid><description>深入解析AI模型与大语言模型安全取证分析全流程，涵盖Prompt注入攻击检测与溯源、模型投毒与训练数据污染取证、模型窃取与知识产权攻击分析、RAG架构安全与知识库污染检测、AI Agent行为链取证溯源、MLOps供应链攻击取证、对抗样本攻击检测，结合真实AI安全事件案例提供Sigma规则与自动化检测脚本</description></item><item><title>AI Agent安全与自动化攻击防御取证深度分析</title><link>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%BA%94%E6%80%A5%E5%93%8D%E5%BA%94/0x03%E5%8F%96%E8%AF%81%E5%88%86%E6%9E%90/AI-Agent%E5%AE%89%E5%85%A8%E4%B8%8E%E8%87%AA%E5%8A%A8%E5%8C%96%E6%94%BB%E5%87%BB%E9%98%B2%E5%BE%A1%E5%8F%96%E8%AF%81%E6%B7%B1%E5%BA%A6%E5%88%86%E6%9E%90/index.html</link><pubDate>Mon, 13 Jul 2026 14:00:00 +0800</pubDate><guid>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%BA%94%E6%80%A5%E5%93%8D%E5%BA%94/0x03%E5%8F%96%E8%AF%81%E5%88%86%E6%9E%90/AI-Agent%E5%AE%89%E5%85%A8%E4%B8%8E%E8%87%AA%E5%8A%A8%E5%8C%96%E6%94%BB%E5%87%BB%E9%98%B2%E5%BE%A1%E5%8F%96%E8%AF%81%E6%B7%B1%E5%BA%A6%E5%88%86%E6%9E%90/index.html</guid><description>系统剖析AI Agent安全威胁与自动化攻击防御取证全链路方法论，涵盖间接提示注入攻击检测、Agent记忆投毒与RAG知识库污染取证、工具链劫持与函数调用滥用分析、MCP协议中间人攻击与Server伪装检测、Agent沙箱逃逸与权限提升取证、多Agent协作攻击与信任链破坏分析，结合真实Agent安全事件案例提供Sigma规则与自动化检测脚本</description></item><item><title>大语言模型(LLM)应用安全取证深度分析</title><link>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%BA%94%E6%80%A5%E5%93%8D%E5%BA%94/0x03%E5%8F%96%E8%AF%81%E5%88%86%E6%9E%90/%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8BLLM%E5%BA%94%E7%94%A8%E5%AE%89%E5%85%A8%E5%8F%96%E8%AF%81%E6%B7%B1%E5%BA%A6%E5%88%86%E6%9E%90/index.html</link><pubDate>Fri, 17 Jul 2026 11:00:00 +0800</pubDate><guid>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%BA%94%E6%80%A5%E5%93%8D%E5%BA%94/0x03%E5%8F%96%E8%AF%81%E5%88%86%E6%9E%90/%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8BLLM%E5%BA%94%E7%94%A8%E5%AE%89%E5%85%A8%E5%8F%96%E8%AF%81%E6%B7%B1%E5%BA%A6%E5%88%86%E6%9E%90/index.html</guid><description>系统剖析大语言模型LLM应用环境下的安全取证方法论，涵盖提示注入攻击直接与间接注入检测与溯源、RAG检索增强生成系统安全取证向量数据库污染与检索劫持、LLM数据投毒与模型后门取证、对抗样本与越狱攻击取证分析、AI Agent工具调用与MCP协议滥用取证，结合ChatGPT数据泄露与Copilot代码投毒真实案例还原LLM应用全链路取证流程并提供Sigma与自动化检测脚本</description></item><item><title>AI红队与对抗性机器学习安全取证深度分析</title><link>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%BA%94%E6%80%A5%E5%93%8D%E5%BA%94/0x03%E5%8F%96%E8%AF%81%E5%88%86%E6%9E%90/AI%E7%BA%A2%E9%98%9F%E4%B8%8E%E5%AF%B9%E6%8A%97%E6%80%A7%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E5%AE%89%E5%85%A8%E5%8F%96%E8%AF%81%E6%B7%B1%E5%BA%A6%E5%88%86%E6%9E%90/index.html</link><pubDate>Sat, 18 Jul 2026 10:30:00 +0800</pubDate><guid>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%BA%94%E6%80%A5%E5%93%8D%E5%BA%94/0x03%E5%8F%96%E8%AF%81%E5%88%86%E6%9E%90/AI%E7%BA%A2%E9%98%9F%E4%B8%8E%E5%AF%B9%E6%8A%97%E6%80%A7%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E5%AE%89%E5%85%A8%E5%8F%96%E8%AF%81%E6%B7%B1%E5%BA%A6%E5%88%86%E6%9E%90/index.html</guid><description>系统剖析AI红队对抗性攻击的取证分析方法论，涵盖对抗样本生成与检测、模型提取与窃取取证、训练数据投毒分析、模型后门植入检测、LLM提示注入与越狱攻击取证，结合模型完整性验证与异常行为检测等自动化手段，通过BadNets、Adversarial Patch、ChatGPT越狱、HuggingFace投毒等真实案例还原AI安全事件完整取证链</description></item><item><title>AI生成恶意代码与自动化攻击取证深度分析</title><link>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%BA%94%E6%80%A5%E5%93%8D%E5%BA%94/0x03%E5%8F%96%E8%AF%81%E5%88%86%E6%9E%90/AI%E7%94%9F%E6%88%90%E6%81%B6%E6%84%8F%E4%BB%A3%E7%A0%81%E4%B8%8E%E8%87%AA%E5%8A%A8%E5%8C%96%E6%94%BB%E5%87%BB%E5%8F%96%E8%AF%81%E6%B7%B1%E5%BA%A6%E5%88%86%E6%9E%90/index.html</link><pubDate>Fri, 24 Jul 2026 10:00:00 +0800</pubDate><guid>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%BA%94%E6%80%A5%E5%93%8D%E5%BA%94/0x03%E5%8F%96%E8%AF%81%E5%88%86%E6%9E%90/AI%E7%94%9F%E6%88%90%E6%81%B6%E6%84%8F%E4%BB%A3%E7%A0%81%E4%B8%8E%E8%87%AA%E5%8A%A8%E5%8C%96%E6%94%BB%E5%87%BB%E5%8F%96%E8%AF%81%E6%B7%B1%E5%BA%A6%E5%88%86%E6%9E%90/index.html</guid><description>深度剖析AI大语言模型生成恶意代码的技术原理与取证方法，涵盖LLM辅助攻击链分析、自动化渗透工具检测、提示工程攻击取证、AI模型指纹溯源、AI生成钓鱼内容检测，结合Sigma规则与Python自动化脚本，通过真实APT案例还原AI驱动攻击的全链路取证流程</description></item><item><title>AI Agent安全与工具滥用取证深度分析</title><link>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%BA%94%E6%80%A5%E5%93%8D%E5%BA%94/0x03%E5%8F%96%E8%AF%81%E5%88%86%E6%9E%90/AIAgent%E5%AE%89%E5%85%A8%E4%B8%8E%E5%B7%A5%E5%85%B7%E6%BB%A5%E7%94%A8%E5%8F%96%E8%AF%81%E6%B7%B1%E5%BA%A6%E5%88%86%E6%9E%90/index.html</link><pubDate>Thu, 30 Jul 2026 11:00:00 +0800</pubDate><guid>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%BA%94%E6%80%A5%E5%93%8D%E5%BA%94/0x03%E5%8F%96%E8%AF%81%E5%88%86%E6%9E%90/AIAgent%E5%AE%89%E5%85%A8%E4%B8%8E%E5%B7%A5%E5%85%B7%E6%BB%A5%E7%94%A8%E5%8F%96%E8%AF%81%E6%B7%B1%E5%BA%A6%E5%88%86%E6%9E%90/index.html</guid><description>系统剖析AI Agent系统的安全取证分析方法论，涵盖Prompt注入攻击取证（直接注入与间接注入）、工具调用劫持与API滥用检测、Agent记忆投毒与上下文操纵分析、MCP/Skill/Registry供应链攻击取证、企业AI Agent安全审计与合规追踪，结合ChatGPT Plugins与LangChain Agent真实安全事件案例，为安全从业者提供面向Agentic AI技术栈的完整取证指南</description></item><item><title>大语言模型安全防御与滥用检测取证深度分析</title><link>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%BA%94%E6%80%A5%E5%93%8D%E5%BA%94/0x03%E5%8F%96%E8%AF%81%E5%88%86%E6%9E%90/%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E5%AE%89%E5%85%A8%E9%98%B2%E5%BE%A1%E4%B8%8E%E6%BB%A5%E7%94%A8%E6%A3%80%E6%B5%8B%E5%8F%96%E8%AF%81%E6%B7%B1%E5%BA%A6%E5%88%86%E6%9E%90/index.html</link><pubDate>Sat, 01 Aug 2026 11:00:00 +0800</pubDate><guid>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%BA%94%E6%80%A5%E5%93%8D%E5%BA%94/0x03%E5%8F%96%E8%AF%81%E5%88%86%E6%9E%90/%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E5%AE%89%E5%85%A8%E9%98%B2%E5%BE%A1%E4%B8%8E%E6%BB%A5%E7%94%A8%E6%A3%80%E6%B5%8B%E5%8F%96%E8%AF%81%E6%B7%B1%E5%BA%A6%E5%88%86%E6%9E%90/index.html</guid><description>系统剖析企业环境中大语言模型(LLM)安全防御与滥用检测的取证分析方法论，涵盖Prompt注入攻击检测与取证、Jailbreak攻击识别与响应、LLM数据泄露事件调查、LLM生成内容检测与溯源、企业LLM安全监控与SIEM集成、对抗性提示工程防御，结合Samsung数据泄露与LLM社会工程攻击案例，为蓝队安全人员提供面向AI大模型滥用场景的完整取证指南</description></item></channel></rss>