<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel><title>Apple Silicon :: 标签 :: x7peeps</title><link>https://blog.x7peeps.com/tags/Apple-Silicon/index.html</link><description/><generator>Hugo</generator><language>zh-CN</language><lastBuildDate>Fri, 30 Oct 2026 14:47:30 +0800</lastBuildDate><atom:link href="https://blog.x7peeps.com/tags/Apple-Silicon/index.xml" rel="self" type="application/rss+xml"/><item><title>MLX 并行提速实录：macOS 本地 TTS 从 230 秒到 100 秒</title><link>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/MLX%E5%B9%B6%E8%A1%8C%E6%8F%90%E9%80%9F%E5%AE%9E%E5%BD%95macOS%E6%9C%AC%E5%9C%B0TTS%E4%BB%8E230%E7%A7%92%E5%88%B0100%E7%A7%92/index.html</link><pubDate>Thu, 13 Aug 2026 12:16:44 +0800</pubDate><guid>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/MLX%E5%B9%B6%E8%A1%8C%E6%8F%90%E9%80%9F%E5%AE%9E%E5%BD%95macOS%E6%9C%AC%E5%9C%B0TTS%E4%BB%8E230%E7%A7%92%E5%88%B0100%E7%A7%92/index.html</guid><description>MLX 并行提速实录：macOS 本地 TTS 从 230 秒到 100 秒 一句话结论：引入 Apple MLX 框架 + 4 进程池并行分块，在不替换模型、不牺牲音质的前提下，将本地 TTS 长文本生成从 230.7 秒降至 100.2 秒（RTF 1.25→0.53），短文本从 11.5 秒降至 7.5-8 秒，冷启动从 11 秒降至 1-2 秒。 核心发现是：MLX 单进程并不比调优后的 PyTorch 并行快，真正的提速来自「MLX GPU 推理 × 受控多进程并行」的组合；而并发失控（18 进程）会导致内存与 GPU 初始化风暴，必须使用进程池限流。</description></item><item><title>macOS 本地 TTS 朗读服务优化实录：从频繁超时到秒级响应</title><link>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/macOS%E6%9C%AC%E5%9C%B0TTS%E6%9C%97%E8%AF%BB%E6%9C%8D%E5%8A%A1%E4%BC%98%E5%8C%96%E5%AE%9E%E5%BD%95/index.html</link><pubDate>Fri, 30 Oct 2026 14:47:30 +0800</pubDate><guid>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/macOS%E6%9C%AC%E5%9C%B0TTS%E6%9C%97%E8%AF%BB%E6%9C%8D%E5%8A%A1%E4%BC%98%E5%8C%96%E5%AE%9E%E5%BD%95/index.html</guid><description>macOS 本地 TTS 朗读服务优化实录：从频繁超时到秒级响应 一句话结论：不换模型、不动推理代码，仅靠服务架构层面的 7 项改造，将本地 TTS 朗读服务的长文本生成时间从 377 秒降至 230 秒（RTF 2.17→1.25），短文本从约 20 秒降至 8-11 秒，并彻底消除"频繁超时"问题。 核心经验是：服务超时的根因往往不在推理速度，而在进程调度、探活机制与超时配置之间的系统性失衡。</description></item><item><title>Mac 苹果芯片声音克隆方案横评：8 个主流方案实测，谁最适合你？</title><link>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/macOS%E6%9C%AC%E5%9C%B0TTS%E5%A3%B0%E9%9F%B3%E5%85%8B%E9%9A%86%E5%AE%9E%E6%B5%8B/index.html</link><pubDate>Tue, 20 Oct 2026 20:01:26 +0800</pubDate><guid>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/macOS%E6%9C%AC%E5%9C%B0TTS%E5%A3%B0%E9%9F%B3%E5%85%8B%E9%9A%86%E5%AE%9E%E6%B5%8B/index.html</guid><description>Mac 苹果芯片声音克隆方案横评：8 个主流方案实测，谁最适合你？ 一句话结论：如果你在 Mac（Apple Silicon）上想克隆声音，首选 Qwen3-TTS-12Hz；追求极致中文效果且有耐心微调，GPT-SoVITS 上限最高；完全不想折腾，直接上 ElevenLabs 云端服务。</description></item><item><title>Rapid-MLX 实测：框架提速是真的，MTP 推测解码是负的</title><link>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/Rapid-MLX%E5%AE%9E%E6%B5%8B%E6%A1%86%E6%9E%B6%E6%8F%90%E9%80%9F%E6%98%AF%E7%9C%9F%E7%9A%84MTP%E6%8E%A8%E6%B5%8B%E8%A7%A3%E7%A0%81%E6%98%AF%E8%B4%9F%E7%9A%84/index.html</link><pubDate>Sun, 04 Oct 2026 22:30:00 +0800</pubDate><guid>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/Rapid-MLX%E5%AE%9E%E6%B5%8B%E6%A1%86%E6%9E%B6%E6%8F%90%E9%80%9F%E6%98%AF%E7%9C%9F%E7%9A%84MTP%E6%8E%A8%E6%B5%8B%E8%A7%A3%E7%A0%81%E6%98%AF%E8%B4%9F%E7%9A%84/index.html</guid><description>Rapid-MLX 实测：框架提速是真的，MTP 推测解码是负的 一句话结论：框架本身对 Ollama 的提速成立（轻载最高 3.9 倍），但官方宣传排在最前面的 MTP 推测解码，在混合架构模型上实测吞吐反降三到四成——官方文档自己也承认这类场景「比关闭慢 20%」。这不是配置问题，是架构边界。</description></item><item><title>让 Agent 自己跑研究循环：45 轮 Muon 调参实战复盘</title><link>https://blog.x7peeps.com/AI/10-%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83/Agent%E8%87%AA%E4%B8%BB%E7%A0%94%E7%A9%B6%E5%BE%AA%E7%8E%AF45%E8%BD%AEMuon%E8%B0%83%E5%8F%82%E5%AE%9E%E6%88%98/index.html</link><pubDate>Fri, 02 Oct 2026 22:00:00 +0800</pubDate><guid>https://blog.x7peeps.com/AI/10-%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83/Agent%E8%87%AA%E4%B8%BB%E7%A0%94%E7%A9%B6%E5%BE%AA%E7%8E%AF45%E8%BD%AEMuon%E8%B0%83%E5%8F%82%E5%AE%9E%E6%88%98/index.html</guid><description>让 Agent 自己跑研究循环：45 轮 Muon 调参实战复盘 傍晚六点半，我给一个编码 Agent 立了三条规矩：只准改训练脚本、每次训练五分钟、指标只看验证集 bpb。然后我离开了键盘。到晚上十一点半，这个 Agent 自己改了 45 版训练代码，把一个小语言模型的验证集 bpb 从 2.036 压到了 1.342——降幅 34%。整个过程里，人没有参与任何一次决策。</description></item><item><title>Qwen3.8-Flash-Next 本地部署评估：360B 级 MoE 模型的路线选择</title><link>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/Qwen3.8-Flash-Next%E6%9C%AC%E5%9C%B0%E9%83%A8%E7%BD%B2%E8%AF%84%E4%BC%B0360B%E7%BA%A7MoE%E6%A8%A1%E5%9E%8B%E7%9A%84%E8%B7%AF%E7%BA%BF%E9%80%89%E6%8B%A9/index.html</link><pubDate>Thu, 27 Aug 2026 11:30:00 +0800</pubDate><guid>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/Qwen3.8-Flash-Next%E6%9C%AC%E5%9C%B0%E9%83%A8%E7%BD%B2%E8%AF%84%E4%BC%B0360B%E7%BA%A7MoE%E6%A8%A1%E5%9E%8B%E7%9A%84%E8%B7%AF%E7%BA%BF%E9%80%89%E6%8B%A9/index.html</guid><description>导读 导读：如果说传统大模型是一辆装满全部零件上路的大卡车，那 MoE 模型就像是一辆"货架摆满 360 个备件、但每次只挑 6 个上车跑"的轻卡——你以为它在偷懒，其实它在优化。Qwen3.8-Flash-Next（360GB BF16 / 6B 激活 / 1M context，2026 年 8 月发布）就是这台"轻卡"在 Mac 本地圈的初次登场，本文记录它在 M5 Max 128GB UMA 上的路线评估：今天四条主流路线都因 qwen4_exp 架构支持未到位而跑不通，“1-14 天窗口内有可跑路径"是基于 Qwen 历史新架构发布后社区量化版平均节奏的估算，实际可能更短也可能拉长到一个月——这个时间窗口本身有不确定性，文章会讲清依据和例外条件。</description></item><item><title>MetalAnchor 实战：520 行 Python 把智能体语义 KV 缓存落地 Apple Silicon</title><link>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/MetalAnchor%E5%AE%9E%E6%88%98520%E8%A1%8CPython%E6%8A%8A%E6%99%BA%E8%83%BD%E4%BD%93%E8%AF%AD%E4%B9%89KV%E7%BC%93%E5%AD%98%E8%90%BD%E5%9C%B0AppleSilicon/index.html</link><pubDate>Wed, 26 Aug 2026 14:28:00 +0800</pubDate><guid>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/MetalAnchor%E5%AE%9E%E6%88%98520%E8%A1%8CPython%E6%8A%8A%E6%99%BA%E8%83%BD%E4%BD%93%E8%AF%AD%E4%B9%89KV%E7%BC%93%E5%AD%98%E8%90%BD%E5%9C%B0AppleSilicon/index.html</guid><description>MetalAnchor 实战：520 行 Python 把智能体语义 KV 缓存落地 Apple Silicon 导读：如果你在 Mac 上跑本地大模型做智能体（Agent），大概率遇到过这种"慢"——新会话要等模型加载很久、同一个系统提示词每次都要重新计算一遍、长对话越聊越慢。这不是模型能力问题，而是"重复计算"问题：模型把已经算过的内容又算了一遍。本文记录一个真实解法：用 520 行纯 Python 写一个透明代理层（MetalAnchor），把 FreeToken 的智能体语义 KV 缓存思想落地到 Apple Silicon，实测把缓存复用率做到 90%，首 Token 延迟（TTFT）提速 5-7 倍。</description></item><item><title>本地LLM延迟优化实录：缓存会撒谎，慢的从来不是推理</title><link>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/%E6%9C%AC%E5%9C%B0LLM%E5%BB%B6%E8%BF%9F%E4%BC%98%E5%8C%96%E5%AE%9E%E5%BD%95%E7%BC%93%E5%AD%98%E4%BC%9A%E6%92%92%E8%B0%8E%E6%85%A2%E7%9A%84%E4%BB%8E%E6%9D%A5%E4%B8%8D%E6%98%AF%E6%8E%A8%E7%90%86/index.html</link><pubDate>Thu, 24 Sep 2026 23:50:00 +0800</pubDate><guid>https://blog.x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/%E6%9C%AC%E5%9C%B0LLM%E5%BB%B6%E8%BF%9F%E4%BC%98%E5%8C%96%E5%AE%9E%E5%BD%95%E7%BC%93%E5%AD%98%E4%BC%9A%E6%92%92%E8%B0%8E%E6%85%A2%E7%9A%84%E4%BB%8E%E6%9D%A5%E4%B8%8D%E6%98%AF%E6%8E%A8%E7%90%86/index.html</guid><description>本地 LLM 延迟优化实录：缓存会撒谎，慢的从来不是推理 一句话结论：**本地推理链路的两个"慢"，都不是模型慢。**一个是任务路由场景下前缀缓存"看起来没生效"——官方指标 prompt_eval_count 每次都报全量 token，但墙钟从 8.94s 收敛到 0.39s，指标在撒谎；另一个是语音助手首句要等 13-15 秒——根因是 23GB 模型闲置超时被卸载后的冷加载，热态下大模型首 token 只要 0.07s。修复都不换模型：把变量后置让前缀逐字节命中，用流式首句即播 + 常驻保活把可听延迟压到 2 秒。</description></item></channel></rss>