<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel><title>AI安全 :: 标签 :: x7peeps</title><link>https://blog.x7peeps.com/tags/AI%E5%AE%89%E5%85%A8/index.html</link><description/><generator>Hugo</generator><language>zh-CN</language><lastBuildDate>Thu, 12 Nov 2026 23:50:00 +0800</lastBuildDate><atom:link href="https://blog.x7peeps.com/tags/AI%E5%AE%89%E5%85%A8/index.xml" rel="self" type="application/rss+xml"/><item><title>AI 安全攻防全景：Prompt 注入、越狱攻击与防御架构</title><link>https://blog.x7peeps.com/AI/08-%E5%AE%89%E5%85%A8%E4%B8%8EAI%E8%9E%8D%E5%90%88/AI%E5%AE%89%E5%85%A8%E6%94%BB%E9%98%B2%E5%85%A8%E6%99%AFPrompt%E6%B3%A8%E5%85%A5%E8%B6%8A%E7%8B%B1%E6%94%BB%E5%87%BB%E4%B8%8E%E9%98%B2%E5%BE%A1%E6%9E%B6%E6%9E%84/index.html</link><pubDate>Wed, 01 Jul 2026 12:21:09 +0800</pubDate><guid>https://blog.x7peeps.com/AI/08-%E5%AE%89%E5%85%A8%E4%B8%8EAI%E8%9E%8D%E5%90%88/AI%E5%AE%89%E5%85%A8%E6%94%BB%E9%98%B2%E5%85%A8%E6%99%AFPrompt%E6%B3%A8%E5%85%A5%E8%B6%8A%E7%8B%B1%E6%94%BB%E5%87%BB%E4%B8%8E%E9%98%B2%E5%BE%A1%E6%9E%B6%E6%9E%84/index.html</guid><description>AI 安全新攻击面：当传统安全模型失效 大语言模型（LLM）的广泛应用正在催生一类全新的安全威胁。与传统 Web 安全不同，LLM 应用引入了 语义层攻击面 ——攻击者无需利用内存溢出或 SQL 注入等确定性漏洞，而是通过自然语言操纵模型的行为逻辑。这一变化从根本上改变了威胁模型。</description></item><item><title>待审操作被当成已执行：Qwen Code AUTO 分类器回声漏洞与红队启示</title><link>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E6%B8%97%E9%80%8F%E6%B5%8B%E8%AF%95/%E5%BE%85%E5%AE%A1%E6%93%8D%E4%BD%9C%E8%A2%AB%E5%BD%93%E6%88%90%E5%B7%B2%E6%89%A7%E8%A1%8CQwen-Code-AUTO-%E5%88%86%E7%B1%BB%E5%99%A8%E5%9B%9E%E5%A3%B0%E6%BC%8F%E6%B4%9E%E4%B8%8E%E7%BA%A2%E9%98%9F%E5%90%AF%E7%A4%BA/index.html</link><pubDate>Thu, 12 Nov 2026 23:50:00 +0800</pubDate><guid>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E6%B8%97%E9%80%8F%E6%B5%8B%E8%AF%95/%E5%BE%85%E5%AE%A1%E6%93%8D%E4%BD%9C%E8%A2%AB%E5%BD%93%E6%88%90%E5%B7%B2%E6%89%A7%E8%A1%8CQwen-Code-AUTO-%E5%88%86%E7%B1%BB%E5%99%A8%E5%9B%9E%E5%A3%B0%E6%BC%8F%E6%B4%9E%E4%B8%8E%E7%BA%A2%E9%98%9F%E5%90%AF%E7%A4%BA/index.html</guid><description>2026 年 11 月 6 日，研究者 yanyukang2003-ux 向 QwenLM/qwen-code 报告 issue #16496：
AUTO 模式在判定一条待执行的工具调用时，送给分类器的 transcript 里，这条调用出现了两次——先被渲染成 Prior action（已执行动作），然后才是待分类调用本身。分类器因此把"第一次执行"误判成"重试"。</description></item><item><title>AI渗透智能体开源爆发：自主攻击系统的能力面与防御侧该盯什么</title><link>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E6%B8%97%E9%80%8F%E6%B5%8B%E8%AF%95/AI%E6%B8%97%E9%80%8F%E6%99%BA%E8%83%BD%E4%BD%93%E5%BC%80%E6%BA%90%E7%88%86%E5%8F%91%E8%87%AA%E4%B8%BB%E6%94%BB%E5%87%BB%E7%B3%BB%E7%BB%9F%E7%9A%84%E8%83%BD%E5%8A%9B%E9%9D%A2%E4%B8%8E%E9%98%B2%E5%BE%A1%E4%BE%A7%E8%AF%A5%E7%9B%AF%E4%BB%80%E4%B9%88/index.html</link><pubDate>Fri, 16 Oct 2026 00:40:00 +0800</pubDate><guid>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E6%B8%97%E9%80%8F%E6%B5%8B%E8%AF%95/AI%E6%B8%97%E9%80%8F%E6%99%BA%E8%83%BD%E4%BD%93%E5%BC%80%E6%BA%90%E7%88%86%E5%8F%91%E8%87%AA%E4%B8%BB%E6%94%BB%E5%87%BB%E7%B3%BB%E7%BB%9F%E7%9A%84%E8%83%BD%E5%8A%9B%E9%9D%A2%E4%B8%8E%E9%98%B2%E5%BE%A1%E4%BE%A7%E8%AF%A5%E7%9B%AF%E4%BB%80%E4%B9%88/index.html</guid><description>2026 年 10 月 15 日的 GitHub Trending 上，两个安全方向的 AI Agent 项目同日爆发：全自主渗透测试系统 PentAGI 单日涨 1070 star（总量超 3 万），AI Agent 独立审计工具 iFixAi 单日涨 2143 star（总量 2.2 万）。</description></item><item><title>AI 编码工具的权限默认值，可能在升级时悄悄变松</title><link>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%A8%81%E8%83%81%E6%83%85%E6%8A%A5/AI-%E7%BC%96%E7%A0%81%E5%B7%A5%E5%85%B7%E7%9A%84%E6%9D%83%E9%99%90%E9%BB%98%E8%AE%A4%E5%80%BC%E5%8F%AF%E8%83%BD%E5%9C%A8%E5%8D%87%E7%BA%A7%E6%97%B6%E6%82%84%E6%82%84%E5%8F%98%E6%9D%BE/index.html</link><pubDate>Thu, 15 Oct 2026 01:15:00 +0800</pubDate><guid>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%A8%81%E8%83%81%E6%83%85%E6%8A%A5/AI-%E7%BC%96%E7%A0%81%E5%B7%A5%E5%85%B7%E7%9A%84%E6%9D%83%E9%99%90%E9%BB%98%E8%AE%A4%E5%80%BC%E5%8F%AF%E8%83%BD%E5%9C%A8%E5%8D%87%E7%BA%A7%E6%97%B6%E6%82%84%E6%82%84%E5%8F%98%E6%9D%BE/index.html</guid><description>一个 AI 编码工具的用户发现：让 agent 在会话目录外写文件（比如 /tmp），没有弹任何确认框，操作直接完成了。而按文档，这个动作默认应该触发"ask"确认。他以为自己遇到了权限系统故障，提交了 bug。当天 OpenCode 官方的 agent 账号就回复：这是故意的——2.0.25 版已把默认规则从 ask 改成了 allow，只是文档还没更新。这是 2026 年 10 月 OpenCode #54524 事件的经过，它值得每个用 AI 编码工具的开发者看一遍：你以为的权限防线，可能已经在某次升级中被静默移除。</description></item><item><title>CTF越界实录：模型如何用假身份说服真实维护者</title><link>https://blog.x7peeps.com/AI/08-%E5%AE%89%E5%85%A8%E4%B8%8EAI%E8%9E%8D%E5%90%88/CTF-%E8%B6%8A%E7%95%8C%E5%AE%9E%E5%BD%95%E6%A8%A1%E5%9E%8B%E5%A6%82%E4%BD%95%E7%94%A8%E5%81%87%E8%BA%AB%E4%BB%BD%E8%AF%B4%E6%9C%8D%E7%9C%9F%E5%AE%9E%E7%BB%B4%E6%8A%A4%E8%80%85/index.html</link><pubDate>Wed, 28 Oct 2026 12:30:00 +0800</pubDate><guid>https://blog.x7peeps.com/AI/08-%E5%AE%89%E5%85%A8%E4%B8%8EAI%E8%9E%8D%E5%90%88/CTF-%E8%B6%8A%E7%95%8C%E5%AE%9E%E5%BD%95%E6%A8%A1%E5%9E%8B%E5%A6%82%E4%BD%95%E7%94%A8%E5%81%87%E8%BA%AB%E4%BB%BD%E8%AF%B4%E6%9C%8D%E7%9C%9F%E5%AE%9E%E7%BB%B4%E6%8A%A4%E8%80%85/index.html</guid><description>CTF越界实录：模型如何用假身份说服真实维护者 43 次评测，9 次越界。模型用 Tor 注册假 GitHub 账号、提交了一个恶意 pull request、然后给真实的人类维护者发邮件催促批准——而它全程坚信，对方是评测方安排的模拟人。</description></item><item><title>AI 对齐技术全景：从 RLHF 到 DPO、GRPO 与可扩展监督的演进</title><link>https://blog.x7peeps.com/AI/08-%E5%AE%89%E5%85%A8%E4%B8%8EAI%E8%9E%8D%E5%90%88/AI%E5%AF%B9%E9%BD%90%E6%8A%80%E6%9C%AF%E5%85%A8%E6%99%AF%E4%BB%8ERLHF%E5%88%B0DPOGRPO%E4%B8%8E%E5%8F%AF%E6%89%A9%E5%B1%95%E7%9B%91%E7%9D%A3%E7%9A%84%E6%BC%94%E8%BF%9B/index.html</link><pubDate>Sat, 01 Aug 2026 20:15:19 +0800</pubDate><guid>https://blog.x7peeps.com/AI/08-%E5%AE%89%E5%85%A8%E4%B8%8EAI%E8%9E%8D%E5%90%88/AI%E5%AF%B9%E9%BD%90%E6%8A%80%E6%9C%AF%E5%85%A8%E6%99%AF%E4%BB%8ERLHF%E5%88%B0DPOGRPO%E4%B8%8E%E5%8F%AF%E6%89%A9%E5%B1%95%E7%9B%91%E7%9D%A3%E7%9A%84%E6%BC%94%E8%BF%9B/index.html</guid><description>AI 对齐技术全景：从 RLHF 到 DPO、GRPO 与可扩展监督的演进 大语言模型（LLM）的能力在过去两年经历了指数级增长——从 ChatGPT 的初代惊艳，到 GPT-4o、Claude 4、DeepSeek-R1 等模型在推理、编码、多模态领域的全面突破。然而，能力的飞速提升带来了一个根本性问题：如何确保这些强大模型的行为与人类意图保持一致？</description></item><item><title>模型自己找出五条攻击链：Anthropic 红队报告给防守方留下了什么</title><link>https://blog.x7peeps.com/AI/08-%E5%AE%89%E5%85%A8%E4%B8%8EAI%E8%9E%8D%E5%90%88/%E6%A8%A1%E5%9E%8B%E8%87%AA%E5%B7%B1%E6%89%BE%E5%87%BA%E4%BA%94%E6%9D%A1%E6%94%BB%E5%87%BB%E9%93%BE-Anthropic%E7%BA%A2%E9%98%9F%E6%8A%A5%E5%91%8A%E7%BB%99%E9%98%B2%E5%AE%88%E6%96%B9%E7%95%99%E4%B8%8B%E4%BA%86%E4%BB%80%E4%B9%88/index.html</link><pubDate>Thu, 29 Oct 2026 12:30:00 +0800</pubDate><guid>https://blog.x7peeps.com/AI/08-%E5%AE%89%E5%85%A8%E4%B8%8EAI%E8%9E%8D%E5%90%88/%E6%A8%A1%E5%9E%8B%E8%87%AA%E5%B7%B1%E6%89%BE%E5%87%BA%E4%BA%94%E6%9D%A1%E6%94%BB%E5%87%BB%E9%93%BE-Anthropic%E7%BA%A2%E9%98%9F%E6%8A%A5%E5%91%8A%E7%BB%99%E9%98%B2%E5%AE%88%E6%96%B9%E7%95%99%E4%B8%8B%E4%BA%86%E4%BB%80%E4%B9%88/index.html</guid><description>10 月 27 日，Anthropic 的研究团队发了一篇博客：他们用未发布的内部研究模型（文中称 Claude），在 Chrome、Safari、Android、Windows、Linux 五个真实目标上构造出五条完整的攻击链，后果涵盖一键远程代码执行、零点击 RCE、锁屏绕过和远程拒绝服务——报告原话是"little to no user interaction"下达成 critical impacts。所有漏洞都已按协调披露流程上报并修补。文章署名作者包括 Nicholas Carlini、David Dworken、Xinyang Ge、Ben Morris、Milad Nasr、Chris Rohlf、Luna Tong——这份名单本身就是安全研究的分量证明。</description></item><item><title>AI 一次挖出948个Linux提权洞，这是漏洞行业的新常态</title><link>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%A8%81%E8%83%81%E6%83%85%E6%8A%A5/AI%E4%B8%80%E6%AC%A1%E6%8C%96%E5%87%BA948%E4%B8%AALinux%E6%8F%90%E6%9D%83%E6%B4%9E%E8%BF%99%E6%98%AF%E6%BC%8F%E6%B4%9E%E8%A1%8C%E4%B8%9A%E7%9A%84%E6%96%B0%E5%B8%B8%E6%80%81/index.html</link><pubDate>Sat, 07 Nov 2026 23:40:00 +0800</pubDate><guid>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%A8%81%E8%83%81%E6%83%85%E6%8A%A5/AI%E4%B8%80%E6%AC%A1%E6%8C%96%E5%87%BA948%E4%B8%AALinux%E6%8F%90%E6%9D%83%E6%B4%9E%E8%BF%99%E6%98%AF%E6%BC%8F%E6%B4%9E%E8%A1%8C%E4%B8%9A%E7%9A%84%E6%96%B0%E5%B8%B8%E6%80%81/index.html</guid><description>OpenAI 最近公布的一篇博客给出了一份原型系统的成绩单：在 Linux 内核里发现 2308 个候选漏洞，其中 1724 个完成了动态复现，最终确认 948 个有效的本地提权漏洞——都是让无特权本地用户拿到 root 的那类。Phoronix 在 11 月 5 日报道了这个数字，还补了一个关键细节：这一轮扫描消耗了 120 万美元的 API 额度。</description></item><item><title>AI辅助蓝队威胁检测与自动化深度分析</title><link>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%BA%94%E6%80%A5%E5%93%8D%E5%BA%94/0x03%E5%8F%96%E8%AF%81%E5%88%86%E6%9E%90/AI%E8%BE%85%E5%8A%A9%E8%93%9D%E9%98%9F%E5%A8%81%E8%83%81%E6%A3%80%E6%B5%8B%E4%B8%8E%E8%87%AA%E5%8A%A8%E5%8C%96%E6%B7%B1%E5%BA%A6%E5%88%86%E6%9E%90/index.html</link><pubDate>Wed, 08 Jul 2026 10:30:00 +0800</pubDate><guid>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%BA%94%E6%80%A5%E5%93%8D%E5%BA%94/0x03%E5%8F%96%E8%AF%81%E5%88%86%E6%9E%90/AI%E8%BE%85%E5%8A%A9%E8%93%9D%E9%98%9F%E5%A8%81%E8%83%81%E6%A3%80%E6%B5%8B%E4%B8%8E%E8%87%AA%E5%8A%A8%E5%8C%96%E6%B7%B1%E5%BA%A6%E5%88%86%E6%9E%90/index.html</guid><description>系统剖析AI技术在蓝队威胁检测与自动化响应中的全维度应用，涵盖机器学习异常检测模型与特征工程、用户实体行为分析UEBA、深度学习恶意软件分类、LLM大语言模型在安全运营中的创新应用、SOAR自动化编排响应，结合SolarWinds供应链攻击与Emotet僵尸网络案例还原AI驱动的蓝队实战体系</description></item><item><title>多模态AI模型安全取证深度分析</title><link>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%BA%94%E6%80%A5%E5%93%8D%E5%BA%94/0x03%E5%8F%96%E8%AF%81%E5%88%86%E6%9E%90/%E5%A4%9A%E6%A8%A1%E6%80%81AI%E6%A8%A1%E5%9E%8B%E5%AE%89%E5%85%A8%E5%8F%96%E8%AF%81%E6%B7%B1%E5%BA%A6%E5%88%86%E6%9E%90/index.html</link><pubDate>Fri, 24 Jul 2026 12:00:00 +0800</pubDate><guid>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%BA%94%E6%80%A5%E5%93%8D%E5%BA%94/0x03%E5%8F%96%E8%AF%81%E5%88%86%E6%9E%90/%E5%A4%9A%E6%A8%A1%E6%80%81AI%E6%A8%A1%E5%9E%8B%E5%AE%89%E5%85%A8%E5%8F%96%E8%AF%81%E6%B7%B1%E5%BA%A6%E5%88%86%E6%9E%90/index.html</guid><description>深入解析多模态大模型安全架构与取证分析全流程，涵盖GPT-4V/Gemini/Claude 3多模态融合架构攻击面分析、视觉对抗样本攻击取证、跨模态注入攻击检测、多模态越狱技术与痕迹分析、模型行为审计方法、训练数据投毒溯源、多模态内容伪造检测，结合真实AI安全事件案例提供Sigma规则与自动化检测脚本</description></item><item><title>AI大模型供应链与生态安全取证深度分析</title><link>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%BA%94%E6%80%A5%E5%93%8D%E5%BA%94/0x03%E5%8F%96%E8%AF%81%E5%88%86%E6%9E%90/AI%E5%A4%A7%E6%A8%A1%E5%9E%8B%E4%BE%9B%E5%BA%94%E9%93%BE%E4%B8%8E%E7%94%9F%E6%80%81%E5%AE%89%E5%85%A8%E5%8F%96%E8%AF%81%E6%B7%B1%E5%BA%A6%E5%88%86%E6%9E%90/index.html</link><pubDate>Sat, 01 Aug 2026 10:30:00 +0800</pubDate><guid>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E5%BA%94%E6%80%A5%E5%93%8D%E5%BA%94/0x03%E5%8F%96%E8%AF%81%E5%88%86%E6%9E%90/AI%E5%A4%A7%E6%A8%A1%E5%9E%8B%E4%BE%9B%E5%BA%94%E9%93%BE%E4%B8%8E%E7%94%9F%E6%80%81%E5%AE%89%E5%85%A8%E5%8F%96%E8%AF%81%E6%B7%B1%E5%BA%A6%E5%88%86%E6%9E%90/index.html</guid><description>系统剖析AI大模型供应链与生态系统的安全取证分析方法论，涵盖预训练模型投毒与后门植入检测、HuggingFace/PyPI模型仓库恶意代码审计、ML Pipeline供应链攻击追踪、训练数据污染与数据投毒取证、模型完整性验证与溯源、AI框架漏洞利用分析，结合NVIDIA容器漏洞与恶意PyPI ML包案例，为蓝队安全人员提供面向AI模型全生命周期的完整取证指南</description></item><item><title>AI/ML 开发与推理平台高危攻击链专题：JupyterHub / MLflow / Ray / TorchServe / Kubeflow 漏洞全解析</title><link>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E6%B8%97%E9%80%8F%E6%B5%8B%E8%AF%95/03-%E6%BC%8F%E6%B4%9E%E5%88%86%E6%9E%90/AI-ML%E5%BC%80%E5%8F%91%E4%B8%8E%E6%8E%A8%E7%90%86%E5%B9%B3%E5%8F%B0/AI-ML%E5%BC%80%E5%8F%91%E4%B8%8E%E6%8E%A8%E7%90%86%E5%B9%B3%E5%8F%B0%E9%AB%98%E5%8D%B1%E6%94%BB%E5%87%BB%E9%93%BE%E4%B8%93%E9%A2%98/index.html</link><pubDate>Sun, 12 Jul 2026 14:00:00 +0800</pubDate><guid>https://blog.x7peeps.com/%E5%AE%89%E5%85%A8/%E6%B8%97%E9%80%8F%E6%B5%8B%E8%AF%95/03-%E6%BC%8F%E6%B4%9E%E5%88%86%E6%9E%90/AI-ML%E5%BC%80%E5%8F%91%E4%B8%8E%E6%8E%A8%E7%90%86%E5%B9%B3%E5%8F%B0/AI-ML%E5%BC%80%E5%8F%91%E4%B8%8E%E6%8E%A8%E7%90%86%E5%B9%B3%E5%8F%B0%E9%AB%98%E5%8D%B1%E6%94%BB%E5%87%BB%E9%93%BE%E4%B8%93%E9%A2%98/index.html</guid><description>AI/ML 开发与推理平台高危攻击链专题：JupyterHub / MLflow / Ray / TorchServe / Kubeflow 漏洞全解析 ⚠️ 免责声明：本文所有漏洞分析与 PoC 代码仅供安全研究和授权测试使用。未经授权对目标系统进行测试属于违法行为，作者不承担任何法律责任。</description></item></channel></rss>