<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel><title>AI模型训练 :: x7peeps</title><link>https://blog.x7peeps.com/AI/10-%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83/index.html</link><description>如何训练一个原生 Computer Use 模型 Computer Use 模型的技术全景 2025 年，AI 领域出现了一个重要的范式转移：让大模型直接操控计算机界面。从 OpenAI 的 … 模型微调技术全景：LoRA、QLoRA、全参数微调与实战选型指南 模型微调技术全景：LoRA、QLoRA、全参数微调与实战选型指南 大语言模型（LLM）的预训练已经形成了"少数巨头训练基座模型、大量开发者微调适配任务 … 应急响应大模型微调：基于 Qwen2.5-7B 的 QLoRA 训练实践 应急响应大模型微调：基于 Qwen2.5-7B 的 QLoRA 训练实践 应急响应（Incident Response）是安全运营中最具时间压力的场景之一。从收 … 模型量化与压缩技术：GPTQ、AWQ、GGUF与FP8的工程实践指南 模型量化与压缩技术：GPTQ、AWQ、GGUF与FP8的工程实践指南 大语言模型的参数规模在过去五年呈指数级增长——从 GPT-2 的 15 亿参数到 … 合成数据工程：大模型时代的数据飞轮与质量保障 合成数据工程：大模型时代的数据飞轮与质量保障 大语言模型（LLM）的能力飞速提升，但其背后隐藏着一个日益尖锐的矛盾：训练数据正在枯竭。Epoch AI 研究机构 … 自主研究循环续跑 144 轮：97 连败与四个真实杠杆 自主研究循环续跑 144 轮：97 连败与四个真实杠杆 前一篇复盘写到 45 轮：那个编码 Agent 用五小时把一个小语言模型的验证集 bpb 从 2.036 … 让 Agent 自己跑研究循环：45 轮 Muon 调参实战复盘 让 Agent 自己跑研究循环：45 轮 Muon 调参实战复盘 傍晚六点半，我给一个编码 Agent 立了三条规矩：只准改训练脚本、每次训练五分钟、指标只看验 …</description><generator>Hugo</generator><language>zh-CN</language><lastBuildDate>Fri, 30 Oct 2026 14:47:30 +0800</lastBuildDate><atom:link href="https://blog.x7peeps.com/AI/10-%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83/index.xml" rel="self" type="application/rss+xml"/><item><title>如何训练一个原生 Computer Use 模型</title><link>https://blog.x7peeps.com/AI/10-%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83/%E5%A6%82%E4%BD%95%E8%AE%AD%E7%BB%83%E4%B8%80%E4%B8%AA%E5%8E%9F%E7%94%9FComputer-Use%E6%A8%A1%E5%9E%8B/index.html</link><pubDate>Fri, 30 Oct 2026 14:47:30 +0800</pubDate><guid>https://blog.x7peeps.com/AI/10-%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83/%E5%A6%82%E4%BD%95%E8%AE%AD%E7%BB%83%E4%B8%80%E4%B8%AA%E5%8E%9F%E7%94%9FComputer-Use%E6%A8%A1%E5%9E%8B/index.html</guid><description>Computer Use 模型的技术全景 2025 年，AI 领域出现了一个重要的范式转移：让大模型直接操控计算机界面。从 OpenAI 的 CUA（Computer-Using Agent）到 Anthropic 的 Claude Computer Use，从字节跳动的 UI-TARS 到微软的 OmniParser，各大厂商和研究机构纷纷押注这个方向。这不是简单的"截图 + OCR + 操作脚本"的工程拼凑，而是一个涉及视觉感知、语言理解、动作规划与强化学习的端到端训练问题。</description></item><item><title>模型微调技术全景：LoRA、QLoRA、全参数微调与实战选型指南</title><link>https://blog.x7peeps.com/AI/10-%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83/%E6%A8%A1%E5%9E%8B%E5%BE%AE%E8%B0%83%E6%8A%80%E6%9C%AF%E5%85%A8%E6%99%AFLoRAQLoRA%E5%85%A8%E5%8F%82%E6%95%B0%E5%BE%AE%E8%B0%83%E4%B8%8E%E5%AE%9E%E6%88%98%E9%80%89%E5%9E%8B%E6%8C%87%E5%8D%97/index.html</link><pubDate>Fri, 30 Oct 2026 14:47:30 +0800</pubDate><guid>https://blog.x7peeps.com/AI/10-%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83/%E6%A8%A1%E5%9E%8B%E5%BE%AE%E8%B0%83%E6%8A%80%E6%9C%AF%E5%85%A8%E6%99%AFLoRAQLoRA%E5%85%A8%E5%8F%82%E6%95%B0%E5%BE%AE%E8%B0%83%E4%B8%8E%E5%AE%9E%E6%88%98%E9%80%89%E5%9E%8B%E6%8C%87%E5%8D%97/index.html</guid><description>模型微调技术全景：LoRA、QLoRA、全参数微调与实战选型指南 大语言模型（LLM）的预训练已经形成了"少数巨头训练基座模型、大量开发者微调适配任务"的生态格局。然而，全参数微调一个 7B 模型就需要 100-120GB 显存——这意味着你需要至少 2 张 H100 80GB 才能跑起来一次训练。对于绝大多数团队来说，这不是一个可以随意承担的成本。</description></item><item><title>应急响应大模型微调：基于 Qwen2.5-7B 的 QLoRA 训练实践</title><link>https://blog.x7peeps.com/AI/10-%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83/%E5%BA%94%E6%80%A5%E5%93%8D%E5%BA%94%E5%A4%A7%E6%A8%A1%E5%9E%8B%E5%BE%AE%E8%B0%83%E5%9F%BA%E4%BA%8EQwen2.5-7B%E7%9A%84QLoRA%E8%AE%AD%E7%BB%83%E5%AE%9E%E8%B7%B5/index.html</link><pubDate>Fri, 30 Oct 2026 14:47:30 +0800</pubDate><guid>https://blog.x7peeps.com/AI/10-%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83/%E5%BA%94%E6%80%A5%E5%93%8D%E5%BA%94%E5%A4%A7%E6%A8%A1%E5%9E%8B%E5%BE%AE%E8%B0%83%E5%9F%BA%E4%BA%8EQwen2.5-7B%E7%9A%84QLoRA%E8%AE%AD%E7%BB%83%E5%AE%9E%E8%B7%B5/index.html</guid><description>应急响应大模型微调：基于 Qwen2.5-7B 的 QLoRA 训练实践 应急响应（Incident Response）是安全运营中最具时间压力的场景之一。从收到告警到完成根因分析，黄金窗口往往以小时计。通用大模型虽然知识面广，但在应急场景中存在三个显著问题：输出内容不贴合安全团队的 SOP 和报告模板，对 ATT&amp;CK 框架和取证工具的理解深度不够，以及推理过程中夹杂大量无关表述拖慢响应速度。</description></item><item><title>模型量化与压缩技术：GPTQ、AWQ、GGUF与FP8的工程实践指南</title><link>https://blog.x7peeps.com/AI/10-%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83/%E6%A8%A1%E5%9E%8B%E9%87%8F%E5%8C%96%E4%B8%8E%E5%8E%8B%E7%BC%A9%E6%8A%80%E6%9C%AFGPTQAWQGGUF%E4%B8%8EFP8%E7%9A%84%E5%B7%A5%E7%A8%8B%E5%AE%9E%E8%B7%B5%E6%8C%87%E5%8D%97/index.html</link><pubDate>Fri, 30 Oct 2026 14:47:30 +0800</pubDate><guid>https://blog.x7peeps.com/AI/10-%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83/%E6%A8%A1%E5%9E%8B%E9%87%8F%E5%8C%96%E4%B8%8E%E5%8E%8B%E7%BC%A9%E6%8A%80%E6%9C%AFGPTQAWQGGUF%E4%B8%8EFP8%E7%9A%84%E5%B7%A5%E7%A8%8B%E5%AE%9E%E8%B7%B5%E6%8C%87%E5%8D%97/index.html</guid><description>模型量化与压缩技术：GPTQ、AWQ、GGUF与FP8的工程实践指南 大语言模型的参数规模在过去五年呈指数级增长——从 GPT-2 的 15 亿参数到 LLaMA-3.1-405B 的 4050 亿参数，再到 DeepSeek-V3 的 6710 亿参数。然而 GPU 的显存容量增长远不及模型规模的扩张速度。以 FP16 精度存储一个 70B 模型需要约 140GB 显存，而一块 H100 SXM5 的显存仅为 80GB。量化（Quantization） 正是打破这一瓶颈的关键技术。</description></item><item><title>合成数据工程：大模型时代的数据飞轮与质量保障</title><link>https://blog.x7peeps.com/AI/10-%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83/%E5%90%88%E6%88%90%E6%95%B0%E6%8D%AE%E5%B7%A5%E7%A8%8B%E5%A4%A7%E6%A8%A1%E5%9E%8B%E6%97%B6%E4%BB%A3%E7%9A%84%E6%95%B0%E6%8D%AE%E9%A3%9E%E8%BD%AE%E4%B8%8E%E8%B4%A8%E9%87%8F%E4%BF%9D%E9%9A%9C/index.html</link><pubDate>Fri, 30 Oct 2026 14:47:30 +0800</pubDate><guid>https://blog.x7peeps.com/AI/10-%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83/%E5%90%88%E6%88%90%E6%95%B0%E6%8D%AE%E5%B7%A5%E7%A8%8B%E5%A4%A7%E6%A8%A1%E5%9E%8B%E6%97%B6%E4%BB%A3%E7%9A%84%E6%95%B0%E6%8D%AE%E9%A3%9E%E8%BD%AE%E4%B8%8E%E8%B4%A8%E9%87%8F%E4%BF%9D%E9%9A%9C/index.html</guid><description>合成数据工程：大模型时代的数据飞轮与质量保障 大语言模型（LLM）的能力飞速提升，但其背后隐藏着一个日益尖锐的矛盾：训练数据正在枯竭。Epoch AI 研究机构预测，到 2030-2060 年间，支撑大模型训练的关键语言和视觉数据将面临耗竭，而这一困境无法单纯依靠算法优化或算力升级来化解。与此同时，高质量的人类标注数据成本高昂——一个 5000 条的微调数据集人工标注费用在 1.5 万至 5 万美元之间，且需要数周时间。</description></item><item><title>自主研究循环续跑 144 轮：97 连败与四个真实杠杆</title><link>https://blog.x7peeps.com/AI/10-%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83/Agent%E8%87%AA%E4%B8%BB%E7%A0%94%E7%A9%B6%E5%BE%AA%E7%8E%AF%E7%BB%AD%E8%B7%91144%E8%BD%AE97%E8%BF%9E%E8%B4%A5%E4%B8%8E%E5%9B%9B%E4%B8%AA%E7%9C%9F%E5%AE%9E%E6%9D%A0%E6%9D%86/index.html</link><pubDate>Sun, 04 Oct 2026 00:20:00 +0800</pubDate><guid>https://blog.x7peeps.com/AI/10-%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83/Agent%E8%87%AA%E4%B8%BB%E7%A0%94%E7%A9%B6%E5%BE%AA%E7%8E%AF%E7%BB%AD%E8%B7%91144%E8%BD%AE97%E8%BF%9E%E8%B4%A5%E4%B8%8E%E5%9B%9B%E4%B8%AA%E7%9C%9F%E5%AE%9E%E6%9D%A0%E6%9D%86/index.html</guid><description>自主研究循环续跑 144 轮：97 连败与四个真实杠杆 前一篇复盘写到 45 轮：那个编码 Agent 用五小时把一个小语言模型的验证集 bpb 从 2.036 压到 1.342，然后我按下了「暂停写作」，循环本身没有停。到第二天下午三点，results.tsv 已经积累到 189 行——续跑的 144 轮里只保留（keep）了 7 次，把最优值从 1.3418 磨到了 1.3173，而在最后一次保留之后，是长达 97 轮的连续失败。</description></item><item><title>让 Agent 自己跑研究循环：45 轮 Muon 调参实战复盘</title><link>https://blog.x7peeps.com/AI/10-%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83/Agent%E8%87%AA%E4%B8%BB%E7%A0%94%E7%A9%B6%E5%BE%AA%E7%8E%AF45%E8%BD%AEMuon%E8%B0%83%E5%8F%82%E5%AE%9E%E6%88%98/index.html</link><pubDate>Fri, 02 Oct 2026 22:00:00 +0800</pubDate><guid>https://blog.x7peeps.com/AI/10-%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83/Agent%E8%87%AA%E4%B8%BB%E7%A0%94%E7%A9%B6%E5%BE%AA%E7%8E%AF45%E8%BD%AEMuon%E8%B0%83%E5%8F%82%E5%AE%9E%E6%88%98/index.html</guid><description>让 Agent 自己跑研究循环：45 轮 Muon 调参实战复盘 傍晚六点半，我给一个编码 Agent 立了三条规矩：只准改训练脚本、每次训练五分钟、指标只看验证集 bpb。然后我离开了键盘。到晚上十一点半，这个 Agent 自己改了 45 版训练代码，把一个小语言模型的验证集 bpb 从 2.036 压到了 1.342——降幅 34%。整个过程里，人没有参与任何一次决策。</description></item></channel></rss>