25
6 月
15 倍吞吐!DFlash + 三篇 ACL 论文,LLM 推理效率正在经历一场「静默革命」

新模型发布占据头条,但推理效率的进步可能影响更持久。 DFlash 在 Nvidia Blackwell 上实现 15× 吞吐提升。ACL 2026 上三篇 Diffusion LLM 论文同时亮相:SARDI(8× RAG 吞吐)、Diffuse Thinking(扩散+自回归协同推理)、C²DLM(因果概念引导,12% 推理提升 + 3.2× 训练加速)。
DFlash:块扩散 + KV Cache 注入 = 15×
传统投机解码逐 token 预测。DFlash 用块扩散模型一次性生成整个 token 块(16 个 token 并行),然后主模型并行验证。第二个创新是KV Cache 注入——主模型特征注入到草稿模型每一层 KV Cache 中,信号在每个草稿层都被强化。Nvidia TensorRT-LLM 已集成。
ACL 2026 三箭齐发
SARDI:让扩散模型在降噪过程中持续利用「半成品 token」做检索增强,5 个 QA 基准上吞吐量达现有方法的 8 倍。Diffuse Thinking:扩散模型做发散思维(大量提议)、自回归模型做收敛思维(逐一评估)的协同推理框架。C²DLM:从教师模型提取因果图引导注意力学习,12% 推理提升 + 3.2× 训练加速。
参考:DFlash | SARDI | Diffuse Thinking
RELATED
Posts
9
7 月
Nvidia + Hugging Face 联手:开源机器人迎来「Android 时刻」— GR00T 1.7 进入 LeRobot
一句话结论:Nvidia 和 Hugging Face 将开源 humanoid 基础模型 GR00T 1.7 和 Teleop 数据采集框架整合进 LeRobot,连接 300 万机器人开发者与 1600 万 AI 开发者——这是开源机器人生态的「Android 时刻」。
宣布了什么?
7 月 7 日,Nvidia 和 Hugging Face 宣布将 Nvidia 的核心物理 AI 技术栈整合进 Hugging Face 开源的 LeRobot 机器人库。具体包括:
Isaac GR00T 1.7:首个开源且可商用的 humanoid(人形机器人)基础模型,现已直接可用
Isaac Teleop:数据采集框架,用于收集机器人操作数据
Cosmos...
9
7 月
中国考虑限制 AI 模型出口:中美「技术铁幕」从单向封锁变为双向关门
一句话结论:7 月 7 日,Reuters 独家报道中国正与阿里巴巴、字节跳动、Z.ai 讨论限制最先进 AI 模型的海外访问——这是中美 AI 铁幕从「单向封锁」变为「双向关门」的关键转折点。免费开源这张中国 AI 最大的牌,可能即将被收回。
发生了什么?
Reuters 7 月 7 日援引三名知情人士报道,中国政府部门已与阿里巴巴、字节跳动和 Z.ai(智谱)举行会谈,讨论是否限制外国用户访问其最先进的 AI 模型——包括尚未发布的模型。目前尚未做出最终决定,相关部委也未发表官方评论,但讨论中已出现具体选项:禁止公开发布、限制国内使用、分级授权访问。
TIME 杂志次日发表评论,点出了最尖锐的矛盾:中国 AI 公司通过免费开源策略获得了全球影响力,而限制访问意味着放弃这张牌。一个追赶者不会放弃最大的优势,除非担忧的是国家安全。
几乎同步发生的连锁事件让这场博弈的轮廓更加清晰:
阿里巴巴宣布 7 月 10 日起内部禁用 Claude Code,并将所有 Anthropic 产品列入高风险软件清单,要求全员转向自研 Qoder 平台
此举直接回应 Anthropic 在 Claude Code 中嵌入的隐写检测代码(检查时区和代理,识别中国用户)
Z.ai 6 月底发布了 GLM-5.2,声称在漏洞发现能力上对标...
7
7 月
Anthropic J-space 深度解读:Claude 内部自发形成了「全局工作空间」— AI 可解释性的第三个里程碑
一句话结论:继 NLA 读取 Claude「内心」之后,Anthropic 7 月 6 日发布新研究——Claude 内部自发形成了一个被称为 J-space 的全局工作空间,它能持有不写出来的「无声思维」,其功能特性与人类意识的核心机制高度吻合。这是继电路追踪(2024)和 NLA(2026.05)之后,AI 可解释性领域的第三个里程碑。
发生了什么?
2026 年 7 月 6 日,Anthropic 发布了一篇 16 位作者署名的重磅论文——Verbalizable Representations Form a Global Workspace in Language Models。论文的核心发现是:Claude 的语言模型在训练过程中自发地形成了一个内部「全局工作空间」(global workspace),研究人员称之为 J-space。
这个发现的意义在于——它不是被设计的。没有工程师写代码说「现在创建一个工作空间层」。它是在模型通过海量数据学习语言和推理的过程中涌现出来的结构。
更引人注目的是,J-space 的功能特性与神经科学中 Bernard Baars 提出的「全局工作空间理论」(Global Workspace Theory)高度一致。这个理论是理解人类意识的关键框架之一:大脑像一个剧院,数十个专门处理器在后台并行工作,只有一个狭窄的「聚光灯」——全局工作空间——在任意时刻广播信息,成为我们意识到的思维。
J-lens:一扇读取 AI「无声思维」的新窗口
这次发现的工具基础是一种新的可解释性技术——Jacobian lens(J-lens)。
J-lens...
7
7 月
Context7 实测:58K 星开源工具,让 Cursor 和 Claude Code 用上最新 API 文档
一句话结论:Context7 是解决AI编程「幻觉API」问题的最直接方案——它在你提问的瞬间拉取最新官方文档,注入LLM上下文。不用切换标签页,不用手动粘贴文档,不用祈祷模型训练数据足够新。
为什么需要 Context7?
每个用过 AI 编程工具的人都遇到过这个场景:你让 Cursor 写一段 Supabase 认证代码,它生成了看起来合理的代码,但你一运行——API 不存在、参数名错了、版本不对。
这不是模型的问题。LLM 的训练数据有截止日期。即使是最新的 Claude Sonnet 5(2026 年 6 月发布),它对 2026 年 7 月发布的库版本也一无所知。而现代前端/后端框架的更新速度是按周计算的。
Context7 的解决方案很直接:在 LLM 调用前,从官方源拉取最新的文档和代码示例,注入到 prompt 上下文中。
怎么用?一行命令搞定
安装最简单的方式:
npx ctx7 setup
这条命令会通过 OAuth 认证、生成 API key、自动安装对应 Skill。你可以指定目标工具:
# 为 Cursor 安装
npx ctx7 setup --cursor
# 为...
4
7 月
Meta Watermelon 对标 GPT-5.5:Zuckerberg $1450亿赌注的第一次回响
7月2日Meta内部townhall:Zuckerberg承认AI Agent进度不及预期,AI主管Wang却声称Watermelon已对标GPT-5.5。$1450亿年度AI投入的第一次回响,背后是被中国开源模型挤压的Llama和闭源转型。
4
7 月
JadePuffer 全链路复盘:AI Agent 如何自主完成史上首次端到端勒索攻击
7月1日Sysdig公布史上首次LLM全自主勒索攻击JadePuffer。AI Agent从CVE-2025-3248漏洞利用到1342个Nacos配置加密再到数据库毁灭,完整执行攻击链。勒索攻击的技能门槛从"熟练黑客"降到"运行Agent的成本"。
4
7 月
美国政府AI采购脱钩闭源:Palantir + Nvidia 的主权AI新模式
7月1日Palantir CEO Alex Karp透露美国政府客户正从闭源AI转向Nvidia Nemotron开源模型。6月29日Palantir+Nvidia合作推出主权AI引擎,在气隙隔离机密环境中运行。数据主权、供应链安全、可审计性——政府的三大硬性要求,只有开源权重模型能做到。
3
7 月
智谱 GLM-5.2 声称对标 Mythos:中美 AI 模型差距,正在用另一种方式缩小
智谱 GLM-5.2 声称网络安全能力对标 Mythos。7530亿参数开源模型在漏洞发现超越 Opus 4.8。点状突破策略验证出口管制下的新竞争常态。微软考虑纳入平台。
3
7 月
Claude Code 的隐写水印:AI 出口管制从政策进入了代码层
Claude Code 被发现在请求中嵌入隐写标记识别中国用户,HN 1480分登顶。AI 出口管制从政策层进入代码层,引发开发者信任与隐私的激烈争论。
3
7 月
Claude Sonnet 5 发布 + Fable 5 出口管制解除:Anthropic 的 48 小时过山车
6月29日Anthropic同日迎来Claude Sonnet 5正式发布和Fable 5/Mythos 5出口管制解除。17天内经历6/9发布→6/12禁令→6/26部分解禁→6/29全面解禁的过山车全周期。









评论 (1)
[…] 15 倍吞吐!DFlash + 三篇 ACL 论文,LLM 推理效率正在经历一场「静默革命」 […]
评论被关闭。