18 9 月

Dream-RSI:谷歌开源的「做梦式」递归自我改进,让 AI 在虚拟历史里练出更优策略

一句话结论:谷歌联合 Google DeepMind、马里兰大学和弗吉尼亚大学在 arXiv 上发表了一篇论文(2609.14858),开源了 Dream-RSI——一种不修改模型权重的递归自我改进方法。它让智能体把自己走过的每一步存成一棵树,然后在树里「做梦」回放,练出更优的探索策略。论文称算法优化任务上只需 317 次调用就达到主流进化搜索跑 51200 代的效果。 AI 摘要 项目是什么:Dream-RSI,一种「通过演化世界实现递归自我改进」的方法,arXiv 2609.14858,17 位作者。核心机制:把搜索轨迹存成树,在「虚拟历史」里做梦回放,练出更优探索策略,再回到现实继续执行。关键数据:算法优化任务 317 次调用 vs 51200 代;GPU 内核优化生成次数降 2.43 倍;底层权重一字未改。适用边界:目前是研究系统,论文刚发布,需要工程能力才能复现,不是即开即用工具。 它和传统 RSI 有什么不同 过去谈起 RSI(递归自我改进),大家想到的通常是「AI 修改自己的权重,训出下一代」。这条路难在权重安全、失控风险和算力成本。 Dream-RSI 换了一个方向:模型权重不用变,让 AI 通过「做梦」来优化自己的探索策略。 具体做法是,智能体把每一次尝试、每一步决策都记录成一棵树——这是一段「历史」。然后在训练阶段,它回到这棵树的各个节点「做梦」,在虚拟的历史里演练不同的探索路径,学出一个更优的搜索策略。这个策略再回到现实里指导下一次执行。 这个思路的巧妙之处在于:它绕开了「改权重」这个最危险也最昂贵的环节,转而优化「怎么搜索」这个相对安全、可复现的外围能力。这和 Reef 让 Agent 边服务边学习 是同一类「不改权重」的 RSI 路线,只是 Dream-RSI 把「回放」这个机制做成了核心。 为什么效果这么惊人 论文给出的几个数字,是它引起轰动的直接原因。 在算法优化任务上,主流的进化搜索系统需要跑 51200 代才能达到的水平,Dream-RSI...
16 9 月

Reef:MIT 开源的「会自己学习」推理基础设施,把 Agent 的每次交互变成训练数据

一句话结论:MIT 研究员 Ao Qu 团队在 9 月 15 日开源了 Reef,一个 Apache-2.0 协议的持续自我改进 Agent 基础设施。它的核心思路是让推理服务器不再只是「跑模型」,而是记录每次推理的轨迹和反馈,自动训练、评估、发布新版本——把「模型上线后就不再变」这个默认假设改成了「模型边服务边进化」。 AI 摘要 项目是什么:Reef,持续自我改进的 Agent 基础设施,Apache-2.0,GitHub 上 Human-Agent-Society 组织维护。核心机制:四阶段循环「serve → observe → grow → commit」,推理、反馈收集、训练、评估、发布在同一控制循环里完成。关键能力:模型权重和 Agent harness 都能从真实经验中进化,候选版本评估通过才发布,不通过则服务不变。适用边界:不是自动重写整个智能栈的激进 RSI,而是「记住发生的事 + 提出有界改动 + 保留版本历史」的务实方案。 Reef 和普通推理引擎差在哪 先讲一个被默认接受的假设:推理服务器是「静态」的。你用 vLLM 或 SGLang 部署一个模型,它上线后就一直那样跑,直到你手动换新版本。模型本身不会从它处理过的请求里学到任何东西。 Reef 挑战的就是这个假设。它把「推理服务器」改造成了「边服务边学习」的闭环:记录每次推理的轨迹和用户反馈,把这些记录喂给学习任务,评估候选更新,通过后再热更新到线上——全程不用重启服务。 这个定位和...
15 9 月

Colibri:纯 C 零依赖推理引擎,让前沿 MoE 模型跑在普通硬盘上

一句话结论:开源项目 Colibri 用纯 C 语言写了一个零依赖的 MoE 推理引擎,核心思路是不把整个模型的专家权重一次性装进显存,而是推理时从硬盘按需流式加载稀疏专家。这让前沿规模的混合专家模型第一次有可能跑在普通消费级硬件上,项目因此冲上了 GitHub Trending。 AI 摘要 项目是什么:Colibri,一个纯 C、零外部依赖的 MoE 模型推理引擎,作者 JustVugg。核心思路:推理时从磁盘流式加载稀疏 MoE 专家权重,而不是预加载整个模型到显存。价值:大幅降低前沿模型对显存和企业级硬件的依赖,推动本地化部署。适用边界:牺牲了部分速度换取显存门槛,适合实验和本地部署,不是云推理的替代。 Colibri 是什么 Colibri 是一个开源的 MoE 模型推理引擎,作者是开发者 JustVugg。它最近冲上了 GitHub Trending,原因是解决了一个很具体的问题:前沿混合专家(MoE)模型太大,普通电脑跑不动。 MoE 模型的特点是「大而稀疏」。像 DeepSeek、Kimi 这类模型,总参数动辄几百亿甚至上万亿,但每次推理只激活其中一小部分专家。问题在于,传统推理引擎为了速度,会把全部专家权重都预加载进显存——哪怕大部分专家这次根本用不到。这就把门槛拉到了需要企业级显卡集群的高度。 Colibri 换了个思路。它不预加载,而是推理到哪个专家,就从硬盘把哪个专家的权重流式读进来。这样显存里只放当前需要的那部分,门槛一下子就降下来了。 它凭什么跑得动前沿 MoE 关键在两点:纯 C,和零依赖。 纯 C 意味着没有 Python 运行时、没有深度学习框架的层层封装,推理路径短,内存开销可控。零依赖意味着它不依赖 CUDA 之外的任何重型库,部署简单。 流式加载是这个设计的核心。MoE 模型每一层有几十个专家,一次推理只会命中其中几个。Colibri 把这个「命中」和「从磁盘读取」绑定在一起,用 I/O 换显存。代价是速度会慢一些——磁盘读写总比显存慢——但换来的是一台普通电脑也能跑前沿模型的可能。 这跟
14 9 月

NVIDIA 开源 IMO 金牌完整配方:Nemotron 数学推理全栈放出,权重、数据、200 道新题一个不少

一句话结论:NVIDIA 把一套在 2026 国际数学奥林匹克拿到金牌(30/42 分,超出金牌线 1 分)的数学推理系统完整开源——两个专家模型权重、训练数据、推理代码、提交的证明,还有一个 200 道全新奥赛题的 benchmark,全部可复现。 AI 摘要 项目用途:一套纯自然语言、无外部工具的数学奥林匹克证明生成流水线,全栈开源。适合人群:研究数学推理、RL 训练、test-time compute 的团队和个人。上手门槛:很高,两个专家 checkpoint 各 1.12 TB,官方建议至少 8 张 B200。智盒结论:这可能是目前最诚实的「金牌级开源复现」,但算力门槛挡住了绝大多数人,价值在方法论和 benchmark 而非直接可用。 项目信息 项目名:NVIDIA Nemotron IMO 2026(arXiv:2609.10712)GitHub URL:https://github.com/NVIDIA-NeMo/Skills/tree/main/recipes/nemotron-imo-ttsLicense:模型 OpenMDW 1.1;数据与 benchmark CC BY 4.0 它解决什么问题 数学一直是检验 AI 推理能力的硬指标,但奥林匹克级别的结果往往有个问题:只公布分数,不公布过程。你看到一个「IMO 金牌」,却没法知道它是怎么做到的,也没法复现。 NVIDIA 这次反着来。它把拿到 IMO 2026 金牌(30/42...
13 9 月

nano-kpu:Kimi K3 用 48 小时给自己设计了一颗推理芯片,这是开源芯片的「DeepSeek 时刻」吗

一句话结论:Moonshot AI 开源了 nano-kpu——一颗完全由 Kimi K3 设计、用开源 EDA 工具跑通全流程的推理芯片 RTL,48 小时完成设计,4 平方毫米、100MHz、模拟 8700 tokens/s。但它明确声明是「能力演示」,不是产品。 AI 摘要 项目用途:Kimi K3 自主设计的推理芯片 RTL 源码,含功能仿真和时序/面积综合流程。适合人群:关注 AI 自主工程、芯片设计、国产大模型的人。上手门槛:高,需要 Verilator 5 + yosys 工具链。智盒结论:作为「AI 能不能做芯片设计」的标尺很有价值,作为实际芯片还差得远,别把演示当产品。 项目信息 项目名:MoonshotAI/nano-kpuGitHub URL:https://github.com/MoonshotAI/nano-kpuLicense:Apache-2.0Star / Fork:47 / 5(截至 2026-09,早期) 它解决什么问题 严格说,nano-kpu 不解决任何生产问题。它回答的是一个更根本的问题:一个 AI 模型,能不能在没有人干预的情况下,独立完成一颗芯片的设计全流程。 答案在 Moonshot AI 的开源仓库里。nano-kpu 是一颗...