<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel><title>本地部署 :: 标签 :: x7peeps</title><link>https://blog.x7peeps.com/tags/%E6%9C%AC%E5%9C%B0%E9%83%A8%E7%BD%B2/index.html</link><description/><generator>Hugo</generator><language>zh-CN</language><lastBuildDate>Fri, 30 Oct 2026 12:00:00 +0800</lastBuildDate><atom:link href="https://blog.x7peeps.com/tags/%E6%9C%AC%E5%9C%B0%E9%83%A8%E7%BD%B2/index.xml" rel="self" type="application/rss+xml"/><item><title>0.6B 也能克隆声音了：Audio8-TTS-Realistic 本地实测，和 Qwen3-TTS-1.7B 掰手腕</title><link>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/Audio8-TTS-Realistic-0.6B%E6%9C%AC%E5%9C%B0%E5%AE%9E%E6%B5%8B%E5%AF%B9%E6%AF%94Qwen3-TTS/index.html</link><pubDate>Fri, 30 Oct 2026 12:00:00 +0800</pubDate><guid>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/Audio8-TTS-Realistic-0.6B%E6%9C%AC%E5%9C%B0%E5%AE%9E%E6%B5%8B%E5%AF%B9%E6%AF%94Qwen3-TTS/index.html</guid><description>title: “0.6B 也能克隆声音了：Audio8-TTS-Realistic 本地实测，和 Qwen3-TTS-1.7B 掰手腕” date: “2026-10-30 12:00:00 +0800” weight: 3 tags: [TTS, 语音合成, 声音克隆, 本地部署, 开源模型] menu: main: parent: “AI工程化” 最近开源社区冒出一个很有意思的模型：Audio8-TTS-Realistic-0.6B。它是 Audio8-TTS-Preview-0.6B 的升级版，主打两件事——语音更真实、语言从 11 种扩到 23 种，而主模型参数量保持 0.6B 不变，权重总共只有 2.57GB，Apache 2.0 许可，可以商用。</description></item><item><title>Qwen3.8-27B 本地实测：从 Opus4.6 对标到 4bit 量化的能力真相</title><link>https://blog.x7peeps.com/AI/03-Agent%E6%9E%B6%E6%9E%84%E4%B8%8E%E6%A1%86%E6%9E%B6%E7%94%9F%E6%80%81/Qwen3.8-27B%E6%9C%AC%E5%9C%B0%E5%AE%9E%E6%B5%8B%E4%BB%8EOpus4.6%E5%AF%B9%E6%A0%87%E5%88%B04bit%E9%87%8F%E5%8C%96%E7%9A%84%E8%83%BD%E5%8A%9B%E7%9C%9F%E7%9B%B8/index.html</link><pubDate>Thu, 20 Aug 2026 00:44:36 +0800</pubDate><guid>https://blog.x7peeps.com/AI/03-Agent%E6%9E%B6%E6%9E%84%E4%B8%8E%E6%A1%86%E6%9E%B6%E7%94%9F%E6%80%81/Qwen3.8-27B%E6%9C%AC%E5%9C%B0%E5%AE%9E%E6%B5%8B%E4%BB%8EOpus4.6%E5%AF%B9%E6%A0%87%E5%88%B04bit%E9%87%8F%E5%8C%96%E7%9A%84%E8%83%BD%E5%8A%9B%E7%9C%9F%E7%9B%B8/index.html</guid><description>Qwen3.8-27B 本地实测：从 Opus4.6 对标到 4bit 量化的能力真相 研究摘要 Qwen3.8-27B 是阿里 Qwen 开源家族的最新稠密模型，官方模型卡将其与闭源旗舰 Opus4.6 Max 放在同一张 Benchmark 表中对比，20 项指标中有 14 项反超、3 项接近、3 项落后。这个定位引发了社区热议：一个 27B 的开源稠密模型，真的能达到 Opus 级别的日常使用水平吗？更关键的是，当它被量化到 4bit、部署到一台苹果 M5 Max 笔记本上、再叠加 DFlash2 投机解码之后，实际能力还剩多少？</description></item><item><title>一套订阅池喂所有 Agent：magpie 本地模型网关三协议互转实测</title><link>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/%E4%B8%80%E5%A5%97%E8%AE%A2%E9%98%85%E6%B1%A0%E5%96%82%E6%89%80%E6%9C%89-Agentmagpie-%E6%9C%AC%E5%9C%B0%E6%A8%A1%E5%9E%8B%E7%BD%91%E5%85%B3%E4%B8%89%E5%8D%8F%E8%AE%AE%E4%BA%92%E8%BD%AC%E5%AE%9E%E6%B5%8B/index.html</link><pubDate>Mon, 19 Oct 2026 00:30:00 +0800</pubDate><guid>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/%E4%B8%80%E5%A5%97%E8%AE%A2%E9%98%85%E6%B1%A0%E5%96%82%E6%89%80%E6%9C%89-Agentmagpie-%E6%9C%AC%E5%9C%B0%E6%A8%A1%E5%9E%8B%E7%BD%91%E5%85%B3%E4%B8%89%E5%8D%8F%E8%AE%AE%E4%BA%92%E8%BD%AC%E5%AE%9E%E6%B5%8B/index.html</guid><description>你机器上可能同时装着 Claude Code、Codex CLI、Gemini CLI、Qwen Code、OpenCode 之类一堆 agent，每个都有自己的配置文件和 API key 字段，每家订阅各付各的。想让某个 agent 换个模型，就得翻它的 settings.json 或 .env；想让它用上你另一家已经付费的订阅，配置文件里字段方言还不一样——OpenAI 系吃 OPENAI_BASE_URL，Anthropic 系吃 ANTHROPIC_BASE_URL，Gemini 吃 GOOGLE_GEMINI_BASE_URL。yetone/magpie 就是冲着这件事来的：一个本地进程把散落的 key 和订阅收进一个池子，对外同时摆出 OpenAI、Anthropic、Gemini 三套协议方言，agent 那头只需要改 base URL。这篇文章讲清楚它怎么配、协议互转的真实边界在哪、哪些坑 README 没写。所有功能描述对官方 README（MIT，Go 实现），投产数据来自本机运行记录。</description></item><item><title>VoiceStudio：把语音克隆、配音、听写装进一个本地开源应用</title><link>https://blog.x7peeps.com/%E5%BC%80%E6%BA%90%E9%A1%B9%E7%9B%AE/VoiceStudio-%E6%9C%AC%E5%9C%B0%E8%AF%AD%E9%9F%B3%E5%85%8B%E9%9A%86%E4%B8%8E%E9%85%8D%E9%9F%B3%E5%BC%80%E6%BA%90%E5%BA%94%E7%94%A8/index.html</link><pubDate>Fri, 16 Oct 2026 23:59:30 +0800</pubDate><guid>https://blog.x7peeps.com/%E5%BC%80%E6%BA%90%E9%A1%B9%E7%9B%AE/VoiceStudio-%E6%9C%AC%E5%9C%B0%E8%AF%AD%E9%9F%B3%E5%85%8B%E9%9A%86%E4%B8%8E%E9%85%8D%E9%9F%B3%E5%BC%80%E6%BA%90%E5%BA%94%E7%94%A8/index.html</guid><description>VoiceStudio：把语音克隆、配音、听写装进一个本地开源应用 想做语音克隆、给视频配音、把文字转成有声书，市面上的选择要么是云服务——按字符收费、声音数据上传别人的服务器，要么是散落的开源命令行工具——每个模型一套依赖、一套参数。VoiceStudio 把这两头之间缺的东西补上了：一个 AGPL-3.0 开源的桌面应用，把语音克隆、声音设计、视频配音、听写、模型管理和批量任务整合进一个 Electron 应用，默认引擎 k2-fsa/OmniVoice，官方宣称覆盖 646 种语言的语音克隆、声音设计、视频配音、听写转录和有声书制作。</description></item><item><title>Qwen3.8-27B 量化损失实测与推理档位对照：8bit 只掉 1pt 的实证</title><link>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/Qwen3.8-27B%E9%87%8F%E5%8C%96%E6%8D%9F%E5%A4%B1%E5%AE%9E%E6%B5%8B%E4%B8%8E%E6%8E%A8%E7%90%86%E6%A1%A3%E4%BD%8D%E5%AF%B9%E7%85%A78bit%E5%8F%AA%E6%8E%891pt%E7%9A%84%E5%AE%9E%E8%AF%81/index.html</link><pubDate>Thu, 27 Aug 2026 23:38:00 +0800</pubDate><guid>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/Qwen3.8-27B%E9%87%8F%E5%8C%96%E6%8D%9F%E5%A4%B1%E5%AE%9E%E6%B5%8B%E4%B8%8E%E6%8E%A8%E7%90%86%E6%A1%A3%E4%BD%8D%E5%AF%B9%E7%85%A78bit%E5%8F%AA%E6%8E%891pt%E7%9A%84%E5%AE%9E%E8%AF%81/index.html</guid><description>Qwen3.8-27B 量化损失实测与推理档位对照：8bit 只掉 1pt 的实证 导读：这篇文章不是推荐某个模型，而是回答本地部署者最纠结的两个问题：量化到底损失多少？推理档位到底怎么选？在 Mac（M5 Max 128GB）上把 Qwen3.8-27B 用 8bit MLX + DFlash2 投机解码部署好之后，我用 2901 + 164 + 53 + 30 题的完整评测集做了 2×2 控制变量实验（量化档位 × 推理档位），得到一个反直觉的结论：8bit 相对 4bit 在 MMLU 上只损失约 1 个百分点，远低于社区流传的 10-15pt；而推理档位的影响反而比量化大得多——选择题场景下"想得越多越错"。</description></item><item><title>Qwen3.8-Flash-Next 本地部署评估：360B 级 MoE 模型的路线选择</title><link>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/Qwen3.8-Flash-Next%E6%9C%AC%E5%9C%B0%E9%83%A8%E7%BD%B2%E8%AF%84%E4%BC%B0360B%E7%BA%A7MoE%E6%A8%A1%E5%9E%8B%E7%9A%84%E8%B7%AF%E7%BA%BF%E9%80%89%E6%8B%A9/index.html</link><pubDate>Thu, 27 Aug 2026 11:30:00 +0800</pubDate><guid>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/Qwen3.8-Flash-Next%E6%9C%AC%E5%9C%B0%E9%83%A8%E7%BD%B2%E8%AF%84%E4%BC%B0360B%E7%BA%A7MoE%E6%A8%A1%E5%9E%8B%E7%9A%84%E8%B7%AF%E7%BA%BF%E9%80%89%E6%8B%A9/index.html</guid><description>导读 导读：如果说传统大模型是一辆装满全部零件上路的大卡车，那 MoE 模型就像是一辆"货架摆满 360 个备件、但每次只挑 6 个上车跑"的轻卡——你以为它在偷懒，其实它在优化。Qwen3.8-Flash-Next（360GB BF16 / 6B 激活 / 1M context，2026 年 8 月发布）就是这台"轻卡"在 Mac 本地圈的初次登场，本文记录它在 M5 Max 128GB UMA 上的路线评估：今天四条主流路线都因 qwen4_exp 架构支持未到位而跑不通，“1-14 天窗口内有可跑路径"是基于 Qwen 历史新架构发布后社区量化版平均节奏的估算，实际可能更短也可能拉长到一个月——这个时间窗口本身有不确定性，文章会讲清依据和例外条件。</description></item><item><title>MetalAnchor 实战：520 行 Python 把智能体语义 KV 缓存落地 Apple Silicon</title><link>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/MetalAnchor%E5%AE%9E%E6%88%98520%E8%A1%8CPython%E6%8A%8A%E6%99%BA%E8%83%BD%E4%BD%93%E8%AF%AD%E4%B9%89KV%E7%BC%93%E5%AD%98%E8%90%BD%E5%9C%B0AppleSilicon/index.html</link><pubDate>Wed, 26 Aug 2026 14:28:00 +0800</pubDate><guid>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/MetalAnchor%E5%AE%9E%E6%88%98520%E8%A1%8CPython%E6%8A%8A%E6%99%BA%E8%83%BD%E4%BD%93%E8%AF%AD%E4%B9%89KV%E7%BC%93%E5%AD%98%E8%90%BD%E5%9C%B0AppleSilicon/index.html</guid><description>MetalAnchor 实战：520 行 Python 把智能体语义 KV 缓存落地 Apple Silicon 导读：如果你在 Mac 上跑本地大模型做智能体（Agent），大概率遇到过这种"慢"——新会话要等模型加载很久、同一个系统提示词每次都要重新计算一遍、长对话越聊越慢。这不是模型能力问题，而是"重复计算"问题：模型把已经算过的内容又算了一遍。本文记录一个真实解法：用 520 行纯 Python 写一个透明代理层（MetalAnchor），把 FreeToken 的智能体语义 KV 缓存思想落地到 Apple Silicon，实测把缓存复用率做到 90%，首 Token 延迟（TTFT）提速 5-7 倍。</description></item><item><title>Laya决策模型实测：33毫秒的开源System 1引擎，与它诚实的局限</title><link>https://blog.x7peeps.com/AI/03-Agent%E6%9E%B6%E6%9E%84%E4%B8%8E%E6%A1%86%E6%9E%B6%E7%94%9F%E6%80%81/Laya%E5%86%B3%E7%AD%96%E6%A8%A1%E5%9E%8B%E5%AE%9E%E6%B5%8B33%E6%AF%AB%E7%A7%92%E7%9A%84%E5%BC%80%E6%BA%90System1%E5%BC%95%E6%93%8E%E4%B8%8E%E5%AE%83%E8%AF%9A%E5%AE%9E%E7%9A%84%E5%B1%80%E9%99%90/index.html</link><pubDate>Wed, 23 Sep 2026 17:30:00 +0800</pubDate><guid>https://blog.x7peeps.com/AI/03-Agent%E6%9E%B6%E6%9E%84%E4%B8%8E%E6%A1%86%E6%9E%B6%E7%94%9F%E6%80%81/Laya%E5%86%B3%E7%AD%96%E6%A8%A1%E5%9E%8B%E5%AE%9E%E6%B5%8B33%E6%AF%AB%E7%A7%92%E7%9A%84%E5%BC%80%E6%BA%90System1%E5%BC%95%E6%93%8E%E4%B8%8E%E5%AE%83%E8%AF%9A%E5%AE%9E%E7%9A%84%E5%B1%80%E9%99%90/index.html</guid><description>Laya 决策模型实测：33 毫秒的开源 System 1 引擎，与它诚实的局限 为什么值得关注 2026 年 9 月，AI 应用层出现了一个新的模型品类：决策模型（decision model）。它不做对话、不生成文本——你给它一段状态（邮件、工单、JSON、用户消息）和一组带类型的问题（该分给哪个部门？这是钓鱼邮件吗？紧急程度几分？），它在一次前向传播里直接吐出带概率的结构化答案。TypeSafe AI 的闭源产品 Jev 定价 $0.042/百万 token、典型延迟 150-500ms，被当作这一品类的标杆。</description></item></channel></rss>