2026 年本地编程代理:离 Claude Code 还有多远,什么时候值得自托管
本地编程代理比不过 Claude Code;但一个前沿模型被政府指令一夜下线后,“够用且没法被别人关掉”成了真实选项。本文讲清 Mac 上自托管到底能拿到什么、成本、差距,不带营销。
2026 年 6 月 12 日,Claude Fable 5 因政府指令被下线——面向所有客户,一夜之间暂停。18 天后,访问在 7 月 1 日恢复。但这件事已经回答了一个很多开发者以前只当成“假设”的问题:如果明天云端模型突然不在了,我的工作流怎么办? 这次停摆是暂时的;可一个前沿模型能在几小时通知内、因为厂商自己都反对的理由从你的工具链里消失,这个事实并不是暂时的。
本地编程代理是最具体的答案。它跑在你的机器上,逐 token 成本为零,可以离线工作,也不会被别人的政策关掉。但它也不是 Claude Code。假装两者一样,对谁都没有帮助。本文讲现实版本:这套栈到底是什么、成本在哪里、能力离云端有多远,以及什么时候自托管真的值得。
30 秒版本
- 技术栈: Ollama 在
localhost:11434上提供开源编程模型;代理层用 Cline 或 Continue.dev(在 VS Code 里),也可以用 Aider(CLI)。Ollama 兼容 OpenAI API 格式,所以包括 OpenCode 在内,多数代理工具只要改基础 URL 就能接上。 - 模型: Qwen3-Coder、Devstral Small 2、DeepSeek-V4 和 Kimi 这一类开源模型,是 2026 年本地编程的主力。在 Mac 上,你会按内存选择更小的变体。
- 差距是真的: 社区反馈通常把好用的本地模型放在单文件任务约等于云端 Claude 的 70–85%,多文件推理差距更大。够用,但不是前沿水平。
- 什么时候值得: 代码不能外发、高频日常改动、离线工作,以及给云端可用性做对冲。什么时候不值得: 最难的多文件问题,或者你不想购买和维护硬件。
- 多数人会两个都用。 这不是“替代 Claude Code”,而是加一个拿不走的后备方案。
这套栈到底是什么
三层,只有运行时这一层和 Mac 强相关:
- 运行时 — Ollama。 安装形态是
.app,用ollama pull qwen3-coder拉模型,通过兼容 OpenAI API 的接口在localhost:11434上提供服务。替代方案也有:Jan 提供桌面版 ChatGPT 风格体验,LocalAI 更像服务器运行时;但在 macOS 上,Ollama 的阻力最小。 - 代理层 — 三选一:
- Aider(CLI,天然贴合 git):
aider --model ollama/qwen3-coder。三者里最尊重文件系统的一种,每次改动都能提交。 - Cline(VS Code,自主代理):把它指向本地 Ollama,就能在编辑器里跑完整代理循环。
- Continue.dev(VS Code,更轻):对本地模型做补全和聊天;自主性弱于 Cline。
- Aider(CLI,天然贴合 git):
- 模型 — 按内存选(见下表)。
整条链路都在你的机器上跑。首次下载模型之后,它可以完全隔离:源代码不会经过第三方 API。
Mac 内存和模型怎么配
模型必须和 macOS、编辑器一起塞进统一内存。按机器选模型:
| Mac 内存 | 能跑的模型 | 现实用途 |
|---|---|---|
| 16 GB (M1+) | Qwen2.5-Coder 7B | 补全、单文件改动、样板代码——实际下限 |
| 32 GB | Qwen2.5-Coder 32B | 推理明显更好;可以处理小型多文件任务 |
| 64 GB+ / 24 GB GPU | Qwen3-Coder 30B, Devstral Small 2 | 工作站上最接近云端的本地配置 |
几乎所有人都会踩两个坑,搭建指南里也反复提到:
- Ollama 默认上下文只有 2048 token,即使模型本身支持 128K。任何 Cline 或 Aider 的多文件任务,都要显式调大;否则代理会悄悄忘掉刚读过的一半文件。
- 安装
.app后,不要再手动跑ollama serve。 应用已经在管理后台服务;你再起一个,会互相打架。要么用应用安装,要么用 Homebrew,不要两个都装。
实际能接近到什么程度
实话说:日常任务够用,但不能替代前沿模型。大家报告出来的数字通常集中在日常单文件任务约为云端 Claude 的 70–85%。而到了真正买代理工具的那些事——多文件重构、长链路规划、把大型代码库长期放在上下文里推理——差距会拉大。有一篇搭建指南会说“接近云端能力的八到九成”(原文:“80–90% as good”);社区里更接近真实使用的数字更低,而且更重要的是,表现很不均匀:一个本地 32B 模型可以把单个函数改得很漂亮,然后在重构第三个文件时完全丢线。
你换来的不是更强能力,而是云端给不了的三件事:
- 隐私。 代码不离开机器。对某些代码库来说,这不是偏好,而是要求。
- 边际成本。 没有逐 token 账单,也没有速率窗口。硬件买完之后,当天第 500 次重构和第 1 次成本一样:零。
- 抗风险能力。 这是 6 月之后才变得具体的一点。本地代理没有属于别人的关机开关——没有外部指令、没有暂停、没有最糟时刻撞上的速率限制。
决策规则
满足下面任意一条,就值得自托管:
- 代码不能离开。 受监管、涉密,或者合同要求不得外发的源码。这里本地不是便宜选项,而是唯一选项。
- 工作量大,而且重复。 样板代码、测试脚手架、机械修改——7B–32B 模型已经够用,逐 token 省下来的钱会累积。
- 你需要离线,或者需要一个对冲。 在飞机上,在完全隔离的环境里,或者只是看过 Fable 一夜消失之后,不想让自己的工具链完全依赖一家厂商继续可用。
继续用云端 Claude Code 的情况:
- 你的瓶颈是最难的那 10%。 大型多文件推理正是本地差距最大的地方。真正卡住你的问题,通常值得为前沿能力付费。
- 你不想管硬件。 一台够用的 Mac 或 24 GB GPU 都是真金白银,也是真维护成本。如果你的使用量撑不起这笔投入,云端按量模式会比一张不断贬值的 GPU 更便宜。
对多数真正写代码的人来说,诚实答案是两个都用:Claude Code(或另一个前沿云端代理)处理难题,本地代理处理不难但量大的部分——也作为云端不在时仍然可用的那一个。
什么会改变这页
有三个变化会让这页改判:一个真的补上多文件差距的本地开源模型(2026 年趋势已经朝这个方向走,Qwen3-Coder 和 Devstral 都比去年的模型接近得多);Apple Silicon 的内存带宽足够让 70B 级模型在笔记本上舒服运行;或者 Ollama/Cline 把上下文默认值调合理,让 2048 token 的坑别再继续绊人。
配套阅读
- Claude Fable 5 暂停后又恢复 — 政府指令让“如果云端模型消失”变得具体,以及这项指令如何在 7 月 1 日被撤销、访问如何恢复
- AI 编程代理会往你的磁盘写什么 — Aider、Continue 和其它工具把本地状态放在哪里
- Aider vs Claude Code — 最适合搭配本地模型的 git 原生代理
- 最佳 AI 编程代理:跨厂商判决 — 当能力是唯一指标时,云端代理排在哪里
来源
- Self-Hosted AI Coding Agent: Ollama + Cline/Continue Local Setup (2026) — Codersera
- Best Local-First AI Coding Tools 2026: 14 Compared — Nimbalyst
- Open Source AI Coding Assistants (2026): 8 Ranked by Stars, License, and Local-Model Support — Morph
- Local AI Coding Agent on macOS: Complete Setup Guide 2026 — Nexgismo
- Mac Mini M4 AI Server: Local LLM + Agent Setup (2026) — marc0.dev
- Aider — connecting to local models via Ollama
FAQ
本地编程代理能替代 Claude Code 吗? 不能替代困难的多文件工作;好的本地模型在日常单文件任务上大约能达到云端 Claude 的 70–85%,多文件推理差距更大。但如果你需要一个私有、离线、零边际成本的选项来处理日常改动,同时对冲云端模型不可用的风险,它就是一个真实的后备方案。多数人会两个都用。
跑本地编程代理,最低需要什么 Mac? 实际下限是 Apple Silicon Mac(M1 或更新)上的 16 GB 统一内存,跑 Qwen2.5-Coder 7B 这类 7B 模型。32 GB 可以跑 Qwen2.5-Coder 32B,效果会明显好一档。模型必须和操作系统、编辑器一起塞进内存,所以要按机器选模型,而不是一上来就追最大的。
自托管编程代理真的更便宜吗? 硬件买完之后,是的;没有逐 token 账单,也没有速率限制,重度或重复使用的边际成本接近零。但你要先付硬件钱(一台够用的 Mac 或 24 GB GPU),也要付时间成本:搭建、管理模型,以及接受困难任务上的真实能力差距。高频日常工作或隐私受限代码库会回本;如果你的瓶颈是最难的那 10% 问题,云端 Claude 仍然更合适。
为什么不直接用云端,而要跑本地编程代理? 三个原因:隐私(专有代码不离开机器)、成本(硬件摊完后没有逐 token 费用),以及抗风险能力。第三点在 2026 年 6 月变得很具体:Anthropic 被要求一夜之间为所有客户暂停 Fable 5 和 Mythos 5。本地代理不会因为别人的政策被远程关掉。代价是能力:够用,但不是前沿水平。
这篇对你有帮助吗?