一、这是什么项目

VibeVoice 是微软开源的前沿语音 AI 家族,MIT 协议,截至 2026 年 9 月已收获 54,094 个 GitHub Star,Python 实现。

它解决的核心痛点是:普通 TTS 要等整段文字读完才出声,实时场景(直播、语音助手、对话)需要「边写边说」。VibeVoice-Realtime-0.5B 做到真正的流式合成——首段声音材料写到约 200 毫秒量级就能听见。

项目信息

GitHub: microsoft/VibeVoice
协议:MIT · 语言:Python · 模型:0.5B 实时 TTS / 7B 流式 ASR

二、家族成员一览

成员能力
VibeVoice-Realtime-0.5B实时 TTS:流式文本输入、长语音生成、9 种语言 + 11 种英文风格
VibeVoice-TTS长语音多说话人合成,单次最长 90 分钟、最多 4 个不同说话人(ICLR 2026 Oral)
VibeVoice-ASR-7B一次处理 60 分钟长音频,输出「谁 / 何时 / 说了什么」结构化转写,支持自定义热词
VibeVoice-ASR-Streaming2026-09-03 新发:音频还在到达就边听边转写,10 种语言 + 定制热词
VibeASR.cpp(BitNet)边缘 CPU 推理引擎,4.62GB 压到 1.58GB,3 线程 RTF<1,无需 GPU

三、为什么这么火

1. 真正的实时

Realtime 版支持 streaming input——你打字的速度比它出声的速度慢,所以「文字还没输完,声音已经开始」。这对助手播报、状态朗读、演示配音是完全不一样的体验。

2. 0.5B 就能跑

0.5B 参数量的模型,官方 Colab 一键跑,消费级显卡甚至 CPU 都能实时。不是只有 7B/13B 才玩得起实时 TTS。

3. 全开源

模型权重、推理代码、Colab Demo、微调脚本全在 GitHub,MIT 协议可以直接商用。中文支持良好。

快速体验

Colab:vibevoice_realtime_colab.ipynb,点 Start 后立刻开声。

四、下载与使用

git clone https://github.com/microsoft/VibeVoice
cd VibeVoice
pip install -r requirements.txt

模型权重在 Hugging Face:VibeVoice-Realtime-0.5B,下载后本地推理即开即用。

五、我的判断

优点

  • 真实时 — 200ms 量级首响,边输入边出声
  • 小模型 — 0.5B 就能跑,部署门槛极低
  • 家族完整 — TTS + ASR + 流式 ASR + CPU 端侧,闭环齐全
  • MIT 开源 — 可商用

注意点

  • 2025-09 曾有政策波折(部分 TTS 代码下架),当前以仓库现状为准
  • 0.5B 实时版音质适合播报/演示,专业配音仍建议用长语音版

微软把「实时语音」做成了 0.5B 就能跑、完全开源直用的东西。做语音助手、直播互动、无障碍朗读的团队,这比 API 方案更可控。

返回技艺录