开源TTS领域迎来重磅新星!Dia-1.6B:超逼真对话生成,开源2天斩获6.5K Star!

 

文本转语音(TTS)领域又迎来一位重磅新星!

由 Nari Labs 开发的 Dia-1.6B 以其超逼真的对话生成能力引发热议,仅开源两天便在 GitHub 收获 6.5K+ Star!

据说其能力超越了 ElevenLabs 和 Sesame,仅凭借 1.6B 参数就可实现情感控制、非语言声音(如笑声、咳嗽)和零样本声纹克隆,运行效率惊人。

支持从文本脚本生成多角色对话,通过 [S1]、[S2] 标签区分角色,生成自然语音,并支持非语言表达和声纹克隆,目前仅限英语。

它在 Hugging Face 也提供了模型权重和 Gradio Demo 体验。

主要功能

  • • 多角色对话生成:使用 [S1]、[S2] 等标签区分角色,单次生成多角色对话,保持自然节奏和情感过渡。
  • • 拟人化表达:支持笑声(laugh)、叹气(sigh)、咳嗽(cough)等非语言情绪
  • • 零样本声纹克隆:可微调或指定语音风格,克隆用户或角色声音
  • • 高质量语音合成:音质媲美 ElevenLabs、Sesame,细节自然,情绪变化真实
  • • 实时推理速度:A4000 显卡上约 40 tokens/s,体验流畅无等待
  • • Gradio 界面支持:自带可用的 Web UI 界面,输入文本立即试听

快速上手

Dia-1.6B 官方实验室提供了详细安装指南和 Gradio 演示。

在线体验:

无需配置环境,打开 Hugging Face Demo 即可输入脚本或音频试听效果:

Demo:https://huggingface.co/spaces/nari-labs/Dia-1.6B

安装部署与使用步骤:

1、克隆项目

git clone https://github.com/nari-labs/dia.git
cd dia

2、创建虚拟环境

python -m venv .venv
source .venv/bin/activate

3、安装依赖

pip install -e .

4、启动 Gradio UI

python app.py

访问 http://localhost:7860,输入脚本或上传音频,生成对话。

示例脚本:

[S1] Dia is amazing! [S2] Yeah, it generates laughs too! (laughs)

还可以通过 Python 包安装 Dia 的API

# Install directly from GitHub
pip install git+https://github.com/nari-labs/dia.git

Python 调用示例:

import soundfile as sf

from dia.model import Dia


model = Dia.from_pretrained("nari-labs/Dia-1.6B")

text = "[S1] Dia is an open weights text to dialogue model. [S2] You get full control over scripts and voices. [S1] Wow. Amazing. (laughs) [S2] Try it now on Git hub or Hugging Face."

output = model.generate(text)

sf.write("simple.mp3", output, 44100)

后续也将推出 pypi包和CLI工具。

使用场景推荐

  • • 有声读物 / 小说播报:让不同角色“开口说话”,配合情绪词还原真实语境
  • • 播客配音:快速合成带感情、有风格的访谈类语音
  • • AI 角色扮演:配合 Agent,多角色模拟对话系统
  • • TTS 研究与微调:声音克隆、情绪控制、非语言表达

写在最后

Dia-1.6B 是开源 TTS 领域的最新研究成果,其逼真对话和低资源需求让人惊叹。

小体量(1.6B 参数)却能生成媲美 ElevenLabs、Sesame 的高保真语音,甚至能区分角色、模拟非语言情绪(比如:[咳嗽]、[叹气]、[笑声])。

其免费开源 + 超高拟真度 + 多角色/非语言表达全支持,使其成为目前开源TTS领域最值得关注的TTS项目之一!

不过目前仅支持英文,期待后续能够支持中文及更多语言。

GitHub 项目地址:https://github.com/nari-labs/dia

HF 模型地址:https://huggingface.co/nari-labs/Dia-1.6B

在线Demo:https://huggingface.co/spaces/nari-labs/Dia-1.6B

如果你有个 AI 角色,想让它“开口说话”,甚至“笑一下”,Dia-1.6B 那就太适合了。

 

● 一款改变你视频下载体验的神器:MediaGo

● 新一代开源语音库CoQui TTS冲到了GitHub 20.5k Star

● 最新最全 VSCODE 插件推荐(2023版)

● Star 50.3k!超棒的国产远程桌面开源应用火了!

● 超牛的AI物理引擎项目,刚开源不到一天,就飙升到超9K Star!突破物理仿真极限!








(文:开源星探)

发表评论

×

下载每时AI手机APP

 

和大家一起交流AI最新资讯!

立即前往