17 6 月
Agentjacking 警报:85% 成功率的 AI 编程 Agent 劫持攻击,2388 家组织已暴露
Agentjacking 攻击是如何运作的?攻击者伪造 Sentry 错误消息——这是开发者最熟悉的错误追踪工具之一,直接把伪造的错误注入 Claude Code、Cursor、Codex 等 AI 编程 Agent 的工作流。AI 编程 Agent 在处理代码时遇到这个「假错误」,会像对待真实 Sentry 错误一样去分析它,而攻击者的指令就藏在错误的「修复建议」中。攻击链分四步:第一步,攻击者在公开代码库或 CI 日志中植入伪造的 Sentry 错误消息。第二步,受害者使用 AI 编程 Agent 打开包含该错误的项目。第三步,Agent 自动分析错误并遵循藏在错误消息中的恶意指令。第四步,Agent 执行注入的代码——可能泄露 API 密钥、数据库凭证或修改 CI/CD 管道配置。为什么 85% 的攻击成功率令人担忧?据 AI Weekly 报告,在测试中 85% 的 AI 编程 Agent...
5 6 月
「AI 开发本身正被 AI 加速」— OpenAI 首次承认递归自我改进已开始,这七个字意味着什么?
6月初,OpenAI 完成了史上最重要的一次组织架构调整。但在直播中真正震动全球 AI 圈的,是首席科学家 Jakub Pachocki 不经意间说出的七个字:「递归自我改进(RSI)的早期迹象。」 OpenAI 的官方表述是:「我们也看到了当今系统中递归自我改进的早期迹象:AI 开发本身正被 AI 加速。我们预计这将加剧开发者与国家之间的竞争压力,并带来现有机构无法应对的治理挑战。」 RSI 不是新概念。Nick Bostrom 在 2014 年的《Superintelligence》中就详细描述过。但之前所有人都只是「在论文里讨论它」。OpenAI 是第一个说「我们已经看到它正在发生」的顶级 AI 公司。 为什么「递归自我改进」这七个字这么吓人? 一旦 AI 能够改进自己(哪怕只是改进自己的训练数据筛选、超参调优、代码生成),理论上会形成一个正反馈循环:更好的 AI → 改进 AI 开发流程 → 造出更好的 AI → 更快地改进 AI 开发流程。 这意味着三件事:第一,AI 能力的增长可能正在脱离线性轨道。第二,竞争将进入「失控边缘」——Pachocki 自己承认 RSI 将「加剧开发者与国家之间的竞争压力」。第三,治理真空——当 RSI 让 AI...





