VoxCPM2 清华开源语音合成封面
24

6 月

VoxCPM 2:清华大学开源语音合成模型霸榜 GitHub,3 秒克隆你的声音

清华大学 OpenBMB 团队发布 VoxCPM 2——20 亿参数的无 Tokenizer 语音合成模型,30 种语言 + 9 种中文方言,3 秒录音即可克隆,48 kHz 录音室音质。GitHub Trending #1,20 K+ Star。最关键的是:Apache 2.0 许可,完全免费商用。

OpenBMB(清华大学计算机系知识工程实验室)上周发布的 VoxCPM 2,做到了几件事:不需要参考音频就能生成目标声音(零样本语音设计),用 3 秒录音就能高保真克隆任何人的声音(小样本克隆),输出 48 kHz 录音室级音质,覆盖 30 种语言和 9 种中文方言。

技术架构:为什么「无 Tokenizer」是关键

传统语音合成模型的流程是:文本 → Tokenizer(将语音信号离散化)→ 自回归生成 → 声码器输出。这个流程有两个结构性弱点:Tokenizer 是信息瓶颈——将连续语音信号压成离散 token 必然丢失音色、情感、韵律等细节;级联错误——Tokenizer 错一个 token,后面全部跟着错。

VoxCPM 2 去掉了 Tokenizer 这一层,采用连续潜空间扩散自回归架构——直接在连续的语音表征空间上建模和生成,没有离散化的信息损失。20 亿参数,200 万小时多语言语音数据训练。

维度 VoxCPM 2 ElevenLabs 火山引擎 TTS
开源 ✅ Apache 2.0 ❌ 闭源 ❌ 闭源
商用 ✅ 免费 $5/月起 按量付费
语言 30 种+9 方言 32 种 中文为主
克隆质量 48 kHz, 3 秒 44.1 kHz, 30 秒+ 48 kHz
零样本生成 ✅ 文本描述音色

最大的差异化能力是「零样本语音设计」——你不需要任何参考音频,只用文字描述想要的音色(如「沉稳的中年男声,略带沙哑」),模型就能生成对应的声音。

实际场景

播客/有声书:一键生成多角色对话,每个角色用不同音色。游戏 NPC 配音:本地部署 + 低延迟 + 多语言。AI Agent 语音交互:自托管 TTS 后端,配合任何 LLM 构建完全自主的语音交互 Agent。辅助功能:视障用户屏幕阅读器、语言学习 App。

风险:语音克隆的安全问题

3 秒录音就能克隆任何人的声音——这个能力是双刃剑。OpenBMB 没有在模型中内置水印或使用限制机制。我们不建议也不鼓励任何人将 VoxCPM 2 用于冒充他人、欺诈或其他违法用途。

FAQ

Q: 和 Fish Speech、Coqui TTS 比怎么样?

Fish Speech 专注中文,Coqui 已停止维护。VoxCPM 2 在音质(48 kHz)、多语言、零样本生成三个维度全面领先。目前唯一短板是推理速度——扩散模型的多步去噪比自回归慢。

Q: 真的完全免费商用?

Apache 2.0 许可,是的。但用它生成的语音如侵犯他人肖像权,法律风险由你承担。

Q: 国内能用吗?

可以。权重可在 Hugging Face 和 ModelScope(魔搭社区)下载。

参考来源:

相关阅读

分享这篇文章

RELATED

Posts