5 6 月
「AI 开发本身正被 AI 加速」— OpenAI 首次承认递归自我改进已开始,这七个字意味着什么?
6月初,OpenAI 完成了史上最重要的一次组织架构调整。但在直播中真正震动全球 AI 圈的,是首席科学家 Jakub Pachocki 不经意间说出的七个字:「递归自我改进(RSI)的早期迹象。」 OpenAI 的官方表述是:「我们也看到了当今系统中递归自我改进的早期迹象:AI 开发本身正被 AI 加速。我们预计这将加剧开发者与国家之间的竞争压力,并带来现有机构无法应对的治理挑战。」 RSI 不是新概念。Nick Bostrom 在 2014 年的《Superintelligence》中就详细描述过。但之前所有人都只是「在论文里讨论它」。OpenAI 是第一个说「我们已经看到它正在发生」的顶级 AI 公司。 为什么「递归自我改进」这七个字这么吓人? 一旦 AI 能够改进自己(哪怕只是改进自己的训练数据筛选、超参调优、代码生成),理论上会形成一个正反馈循环:更好的 AI → 改进 AI 开发流程 → 造出更好的 AI → 更快地改进 AI 开发流程。 这意味着三件事:第一,AI 能力的增长可能正在脱离线性轨道。第二,竞争将进入「失控边缘」——Pachocki 自己承认 RSI 将「加剧开发者与国家之间的竞争压力」。第三,治理真空——当 RSI 让 AI...




