<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel><title>模型评测 :: 标签 :: x7peeps</title><link>https://blog.x7peeps.com/tags/%E6%A8%A1%E5%9E%8B%E8%AF%84%E6%B5%8B/index.html</link><description/><generator>Hugo</generator><language>zh-CN</language><lastBuildDate>Fri, 16 Oct 2026 00:30:00 +0800</lastBuildDate><atom:link href="https://blog.x7peeps.com/tags/%E6%A8%A1%E5%9E%8B%E8%AF%84%E6%B5%8B/index.xml" rel="self" type="application/rss+xml"/><item><title>Qwen3.8-27B 本地实测：从 Opus4.6 对标到 4bit 量化的能力真相</title><link>https://blog.x7peeps.com/AI/03-Agent%E6%9E%B6%E6%9E%84%E4%B8%8E%E6%A1%86%E6%9E%B6%E7%94%9F%E6%80%81/Qwen3.8-27B%E6%9C%AC%E5%9C%B0%E5%AE%9E%E6%B5%8B%E4%BB%8EOpus4.6%E5%AF%B9%E6%A0%87%E5%88%B04bit%E9%87%8F%E5%8C%96%E7%9A%84%E8%83%BD%E5%8A%9B%E7%9C%9F%E7%9B%B8/index.html</link><pubDate>Thu, 20 Aug 2026 00:44:36 +0800</pubDate><guid>https://blog.x7peeps.com/AI/03-Agent%E6%9E%B6%E6%9E%84%E4%B8%8E%E6%A1%86%E6%9E%B6%E7%94%9F%E6%80%81/Qwen3.8-27B%E6%9C%AC%E5%9C%B0%E5%AE%9E%E6%B5%8B%E4%BB%8EOpus4.6%E5%AF%B9%E6%A0%87%E5%88%B04bit%E9%87%8F%E5%8C%96%E7%9A%84%E8%83%BD%E5%8A%9B%E7%9C%9F%E7%9B%B8/index.html</guid><description>Qwen3.8-27B 本地实测：从 Opus4.6 对标到 4bit 量化的能力真相 研究摘要 Qwen3.8-27B 是阿里 Qwen 开源家族的最新稠密模型，官方模型卡将其与闭源旗舰 Opus4.6 Max 放在同一张 Benchmark 表中对比，20 项指标中有 14 项反超、3 项接近、3 项落后。这个定位引发了社区热议：一个 27B 的开源稠密模型，真的能达到 Opus 级别的日常使用水平吗？更关键的是，当它被量化到 4bit、部署到一台苹果 M5 Max 笔记本上、再叠加 DFlash2 投机解码之后，实际能力还剩多少？</description></item><item><title>7.89GB装下27B：2-bit量化模型实测，工具调用反超54GB原版，但有三个坑</title><link>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/7.89GB%E8%A3%85%E4%B8%8B27B2-bit%E9%87%8F%E5%8C%96%E6%A8%A1%E5%9E%8B%E5%AE%9E%E6%B5%8B%E5%B7%A5%E5%85%B7%E8%B0%83%E7%94%A8%E5%8F%8D%E8%B6%8554GB%E5%8E%9F%E7%89%88%E4%BD%86%E6%9C%89%E4%B8%89%E4%B8%AA%E5%9D%91/index.html</link><pubDate>Fri, 16 Oct 2026 00:30:00 +0800</pubDate><guid>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/7.89GB%E8%A3%85%E4%B8%8B27B2-bit%E9%87%8F%E5%8C%96%E6%A8%A1%E5%9E%8B%E5%AE%9E%E6%B5%8B%E5%B7%A5%E5%85%B7%E8%B0%83%E7%94%A8%E5%8F%8D%E8%B6%8554GB%E5%8E%9F%E7%89%88%E4%BD%86%E6%9C%89%E4%B8%89%E4%B8%AA%E5%9D%91/index.html</guid><description>Conway Research（Underdog）10 月上旬发布了一个 7.89GB 的 GGUF 文件 Saluki 27B——底层是阿里 Qwen3.8-27B，原版 BF16 权重 54GB，这个 2-bit 混合量化版本（IQ2-mix）体积砍了近 7 倍。官方宣称"九项基准平均保留 96% 能力"，发布后登上多家科技媒体。</description></item><item><title>Qwen3.8-27B 量化损失实测与推理档位对照：8bit 只掉 1pt 的实证</title><link>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/Qwen3.8-27B%E9%87%8F%E5%8C%96%E6%8D%9F%E5%A4%B1%E5%AE%9E%E6%B5%8B%E4%B8%8E%E6%8E%A8%E7%90%86%E6%A1%A3%E4%BD%8D%E5%AF%B9%E7%85%A78bit%E5%8F%AA%E6%8E%891pt%E7%9A%84%E5%AE%9E%E8%AF%81/index.html</link><pubDate>Thu, 27 Aug 2026 23:38:00 +0800</pubDate><guid>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/Qwen3.8-27B%E9%87%8F%E5%8C%96%E6%8D%9F%E5%A4%B1%E5%AE%9E%E6%B5%8B%E4%B8%8E%E6%8E%A8%E7%90%86%E6%A1%A3%E4%BD%8D%E5%AF%B9%E7%85%A78bit%E5%8F%AA%E6%8E%891pt%E7%9A%84%E5%AE%9E%E8%AF%81/index.html</guid><description>Qwen3.8-27B 量化损失实测与推理档位对照：8bit 只掉 1pt 的实证 导读：这篇文章不是推荐某个模型，而是回答本地部署者最纠结的两个问题：量化到底损失多少？推理档位到底怎么选？在 Mac（M5 Max 128GB）上把 Qwen3.8-27B 用 8bit MLX + DFlash2 投机解码部署好之后，我用 2901 + 164 + 53 + 30 题的完整评测集做了 2×2 控制变量实验（量化档位 × 推理档位），得到一个反直觉的结论：8bit 相对 4bit 在 MMLU 上只损失约 1 个百分点，远低于社区流传的 10-15pt；而推理档位的影响反而比量化大得多——选择题场景下"想得越多越错"。</description></item><item><title>ASI-Bench 本地横评方法论：信息梯度与决策归因评测的完整拆解</title><link>https://blog.x7peeps.com/AI/01-LLM%E5%8E%9F%E7%90%86%E4%B8%8E%E5%B7%A5%E7%A8%8B/ASI-Bench%E6%9C%AC%E5%9C%B0%E6%A8%AA%E8%AF%84%E6%96%B9%E6%B3%95%E8%AE%BA%E4%BF%A1%E6%81%AF%E6%A2%AF%E5%BA%A6%E4%B8%8E%E5%86%B3%E7%AD%96%E5%BD%92%E5%9B%A0%E8%AF%84%E6%B5%8B%E7%9A%84%E5%AE%8C%E6%95%B4%E6%8B%86%E8%A7%A3/index.html</link><pubDate>Thu, 27 Aug 2026 10:50:00 +0800</pubDate><guid>https://blog.x7peeps.com/AI/01-LLM%E5%8E%9F%E7%90%86%E4%B8%8E%E5%B7%A5%E7%A8%8B/ASI-Bench%E6%9C%AC%E5%9C%B0%E6%A8%AA%E8%AF%84%E6%96%B9%E6%B3%95%E8%AE%BA%E4%BF%A1%E6%81%AF%E6%A2%AF%E5%BA%A6%E4%B8%8E%E5%86%B3%E7%AD%96%E5%BD%92%E5%9B%A0%E8%AF%84%E6%B5%8B%E7%9A%84%E5%AE%8C%E6%95%B4%E6%8B%86%E8%A7%A3/index.html</guid><description>ASI-Bench 本地横评方法论：信息梯度与决策归因评测的完整拆解 导读：这是一篇关于"怎么科学地评测本地模型"的方法论文章，用信息梯度（Information Gradient）和决策归因（Decision Attribution）两个维度量化"模型能否自己想到正确方法"，在两个本地模型（35B MoE 与 27B chat）上完成了 40 次跑通的实测，输出包含实验设计、完整数据表和三个不避开就白测的方法论陷阱。</description></item><item><title>Laya决策模型实测：33毫秒的开源System 1引擎，与它诚实的局限</title><link>https://blog.x7peeps.com/AI/03-Agent%E6%9E%B6%E6%9E%84%E4%B8%8E%E6%A1%86%E6%9E%B6%E7%94%9F%E6%80%81/Laya%E5%86%B3%E7%AD%96%E6%A8%A1%E5%9E%8B%E5%AE%9E%E6%B5%8B33%E6%AF%AB%E7%A7%92%E7%9A%84%E5%BC%80%E6%BA%90System1%E5%BC%95%E6%93%8E%E4%B8%8E%E5%AE%83%E8%AF%9A%E5%AE%9E%E7%9A%84%E5%B1%80%E9%99%90/index.html</link><pubDate>Wed, 23 Sep 2026 17:30:00 +0800</pubDate><guid>https://blog.x7peeps.com/AI/03-Agent%E6%9E%B6%E6%9E%84%E4%B8%8E%E6%A1%86%E6%9E%B6%E7%94%9F%E6%80%81/Laya%E5%86%B3%E7%AD%96%E6%A8%A1%E5%9E%8B%E5%AE%9E%E6%B5%8B33%E6%AF%AB%E7%A7%92%E7%9A%84%E5%BC%80%E6%BA%90System1%E5%BC%95%E6%93%8E%E4%B8%8E%E5%AE%83%E8%AF%9A%E5%AE%9E%E7%9A%84%E5%B1%80%E9%99%90/index.html</guid><description>Laya 决策模型实测：33 毫秒的开源 System 1 引擎，与它诚实的局限 为什么值得关注 2026 年 9 月，AI 应用层出现了一个新的模型品类：决策模型（decision model）。它不做对话、不生成文本——你给它一段状态（邮件、工单、JSON、用户消息）和一组带类型的问题（该分给哪个部门？这是钓鱼邮件吗？紧急程度几分？），它在一次前向传播里直接吐出带概率的结构化答案。TypeSafe AI 的闭源产品 Jev 定价 $0.042/百万 token、典型延迟 150-500ms，被当作这一品类的标杆。</description></item></channel></rss>