ColGrep-Agent-2 B 上手：本地 2 B 模型替 Claude Code 找代码，API token 少用 34%

一句话结论：ColGrep-Agent-2 B 是 LightOn 2026 年 10 月 12 日开源的本地代码搜索模型（Apache 2.0），基于 MiniCPM 5-2 B 微调。Claude Code、Codex 遇到「这段逻辑在哪个文件」这类问题时，可以交给它在本机检索，再只把文件位置和代码片段交回主 Agent。官方用 Claude Code + Sonnet 5.5 在 13 个仓库、624 次会话里测试：API token 平均减少 34.3%，每题成本从 7.3 美分降到 4.4 美分，代价是每题耗时从 13.0 秒增加到 21.6 秒，准确率从 83.3% 降到 80.8%（差异不显著）。

AI 摘要

• 资源类型：开源模型 + 命令行工具（ColGrep，Rust 单文件）
• 来源：LightOn 官方 Hugging Face 博客与模型卡，代码在 GitHub lightonai/next-plaid
• 适合人群：重度使用 Claude Code、Codex、OpenCode，且 API 账单主要花在「翻代码」上的开发者
• 使用价值：一条命令安装，本地运行无需 API Key，Apple Silicon 上峰值内存 3～4 GB
• 风险边界：只测了「定位代码」，没测「改代码」；搜索变慢约 8.6 秒；准确率置信区间较宽

资源信息

• 资源名：ColGrep-Agent-2 B（配套命令行工具 ColGrep）
• 资源 URL：https://huggingface.co/lightonai/colgrep-agent-2 B
• 类型：开源模型与开源软件
• 许可或授权：模型 Apache 2.0；ColGrep 所在仓库 next-plaid 为 Apache 2.0
• 是否免费：完全免费，本地运行
• 是否需要登录：不需要，不需要 API Key
• 最近核查日期：2026-10-19（GitHub next-plaid 595 星）

ColGrep-Agent-2 B 是什么，解决了什么问题？

ColGrep-Agent-2 B 是一个专门做「代码定位」的小模型。给它一个关于仓库的自然语言问题，比如「重试次数在哪里配置」，它会用 ColGrep 反复搜索、通过只读终端打开候选文件，最后返回相关的文件路径、行号范围和代码片段。

它要解决的是编程 Agent 的一项隐性开销。Claude Code 这类工具在动手修改之前，常常要先用 grep 搜好几轮、打开一堆文件，这些搜索结果都会进入上下文，按 API token 计费。LightOn 的思路是把这一步交给本地的 2 B 模型：本地模型产生的 token 不收费，主 Agent 只收到整理好的结果。

ColGrep 本身是 LightOn 此前开源的本地语义代码搜索工具，把正则过滤和语义排序结合起来，是一个打包好一切依赖的 Rust 单文件程序。ColGrep-Agent-2 B 在 MiniCPM 5-2 B 基础上先做少量监督微调，再用 GRPO 强化学习训练，让它学会调用 ColGrep 搜索。模型卡标题写 2 B，Hugging Face 文件元数据显示约 3 B 参数。

哪些人适合用 ColGrep-Agent-2 B？

最适合的是这三类人：

• API 账单偏高的 Claude Code 用户：在大仓库里经常让 Agent「先找找相关代码」，token 主要花在探索上。
• 同时用多种编程 Agent 的人：ColGrep 提供 Claude Code、Codex、OpenCode 三种接入命令，一套本地索引可以共用。
• 对代码外传有顾虑的团队：搜索在本地完成，主 Agent 只看到被选中的片段，而不是整轮 grep 的输出。

不太适合的情况：仓库很小、grep 一两次就能找到；或者对响应速度很敏感，不愿意每题多等几秒。如果你更关心让 Claude Code 少走弯路的使用习惯，可以先看 Claude Code 自动模式的 5 个步骤；如果问题是 Agent 引用了过时的 API，Context 7 是更对口的工具。

怎么安装 ColGrep-Agent-2 B？

官方给了四种安装方式，安装 ColGrep 后再执行 --install-agent 下载模型：

安装后三步用起来：

1. 进入项目目录建立索引：colgrep init
2. 先单独试一次：colgrep --agent "where are retries configured"，加 --json 可以得到结构化输出
3. 接入编程 Agent：Claude Code 用 colgrep --install-claude-code，Codex 用 colgrep --install-codex，OpenCode 用 colgrep --install-opencode

默认模型文件是 colgrep-agent-2B-Q8_0.gguf，约 2.5 GB。推理支持 Apple Silicon 的 Metal、NVIDIA/AMD/Intel 显卡的 Vulkan，也可以只用 CPU。官方在 M 3 Pro 上测试，一个问题约 20 秒，峰值内存 3～4 GB。整个过程不需要 Python 环境、推理服务或 API Key。

接入 Claude Code 后是怎么工作的？

colgrep --install-claude-code 会给 Claude Code 装上 hooks（钩子）。按官方说明，这些 hooks 只是「建议」Claude 使用这个搜索工具，并不强制，Claude 仍可能自己用 grep。

搜索行为可以用 colgrep settings --hook-mode 切换三种模式：

• agent：把搜索交给本地 ColGrep-Agent-2 B，省 token 最多
• colgrep：只用 ColGrep 语义搜索，不调用本地模型
• hybrid：两者结合

官方测试里的「Balanced」配置在准确率上和 grep 持平（83.3%），token 少用 21.2%，适合不想牺牲准确率的人。具体每种模式对应哪组测试结果，以官方文档为准。

官方测试数据怎么读？

LightOn 用 Claude Code + Sonnet 5.5 做测试，由 Claude Opus 5.5 出题和评分。题库是 13 个 2026 年新建的公开仓库（Rust、Go、TypeScript、Python，规模从 1.7 万行到 180 万行），每个仓库 4 道题，每题跑 3 次，四种配置共 624 次会话。

读这张表要注意四点：

1. 34.3% 的 95% 置信区间是 28%～40%，平均每题少用约 4.9 万 token，88% 的题目 token 更少。
2. 准确率低 2.6 个百分点，置信区间从 −10.9 到 +5.1，作者说明不显著，但也不能排除有明显下降。
3. token 统计不含本地模型自己生成的 token，因为这部分不计费，但会占用你电脑的算力和时间。
4. 测的是「找到代码」，不是「改对代码」。端到端修 bug 能省多少，官方没有给数字。

想把这类节省落到账本上，可以参考 把重试和失败任务记进同一本账，按任务而不是按单次调用统计成本。

使用 ColGrep-Agent-2 B 有哪些风险和限制？

• 速度变慢：每题中位耗时从 13.0 秒增加到 21.6 秒；本地模型单次调用中位 7 秒、P 90 为 22 秒。
• 准确率不确定：每个仓库只有 4 道题，单仓库结论噪声较大，作者也承认无法完全排除测试仓库出现在训练数据中。
• hooks 不强制：Claude Code 不一定每次都调用它，实际节省可能低于测试值。
• 定位精度有限：模型卡在 SWE-bench Lite 上的行级 F 1 只有 19.92，说明它更擅长找到文件，行号范围不一定准。
• 项目很新：10 月 12 日刚发布，next-plaid 仓库 595 星（10-19 核查），升级可能带来不兼容变化。

如果你还想在本机跑通用对话模型，Windows 用户可以看 Llama Windows 托盘应用，它和 ColGrep-Agent 一样都用 GGUF 格式的本地模型。

FAQ

ColGrep-Agent-2 B 是免费的吗？

是。模型权重以 Apache 2.0 许可发布在 Hugging Face，ColGrep 工具所在的 next-plaid 仓库同样是 Apache 2.0。它在本地运行，不需要账号和 API Key，唯一的成本是本机算力：默认模型约 2.5 GB，Apple Silicon 上峰值内存 3～4 GB。

用了 ColGrep-Agent，Claude Code 一定能省 34% 吗？

不一定。34.3% 是官方在 52 道代码搜索题上的平均值，置信区间 28%～40%，而且只统计「找代码」这一步。你的仓库大小、提问方式，以及 Claude 是否采纳 hooks 的建议，都会影响实际节省。建议先在自己的项目里对比一周账单。

ColGrep-Agent-2 B 支持 Windows 吗？

支持。官方提供 PowerShell 安装脚本，推理可以走 Vulkan（NVIDIA、AMD、Intel 显卡）或 CPU。官方性能数据是在 M 3 Pro Mac 上测的，Windows 上的速度需要自己测。

它和直接用 grep 有什么区别？

grep 按字符串匹配，结果全部进入主 Agent 的上下文；ColGrep 先做语义排序，ColGrep-Agent 还会在本地读文件、筛选，只把结论交给主 Agent。代价是更慢：官方测试中每题多花约 8.6 秒。

参考来源

• Hugging Face 博客：ColGrep-Agent: Cutting Frontier Coding Agents’ Tokens by a Third（LightOn，2026-10-12）
• Hugging Face 模型卡：lightonai/colgrep-agent-2 B、lightonai/colgrep-agent-2 B-GGUF（2026-10-19 查阅）
• GitHub：lightonai/next-plaid（ColGrep 源码，Apache 2.0，2026-10-19 查阅）