Seed Audio 1.5:用同一个声音翻译和配音视频
人声、音效、音乐,一个模型搞定,由你的视频驱动
Seed Audio 1.5 是 ByteDance 推出的新音频模型。给它一段视频,它会先听懂内容,再写出一条全新的声轨:同一位旁白改说日语,或是紧贴画面的配音,又或是把人声、音乐和音效拆成独立音轨。它支持 30 种语言,中文也在其中,可以把英文视频翻译成中文。我们在抢先体验阶段用它把一部 9 分钟的动画片译成了 12 种语言。下面说说它做得怎么样、哪里出过错,以及怎样得到同样的效果。
Doitong 是独立平台,与 ByteDance 无任何关联。
我们的实测:一部影片,12 种语言,同一位旁白
我们选了 9 分钟的英文旁白动画历史片“The Last Ordinary Day in Pompeii”,每种语言各用 Seed Audio 1.5 视频翻译跑一遍。播放视频,打开“设置 → 音轨”,即可在英文原声和 12 种译文之间切换。
此视频的音轨:英语(原声),以及俄语、德语、法语、西班牙语(西班牙)、意大利语、日语、韩语、荷兰语、瑞典语、丹麦语、挪威语和芬兰语。
- 影片时长
- 9:00
- 语言数量
- 12
- 单次请求耗时
- 2.6–3.3 分钟
- 时长差异
- < 0.03 秒
我们是怎么测试的
上面的数字来自我们自己的日志,而不是新闻稿。想复现的话,有三点要注意。
在停顿处切分
单次请求接受 4 到 360 秒的视频,所以 9 分钟的影片在自然停顿处切成了两段:4:43 和 4:17。12 种语言共 24 次请求,每次耗时 157 到 200 秒。
时长保持一致
每段译文的时长都与原片一致。第一段译文为 283.26 秒,原片是 283.29 秒;第二段译文和原片都是 256.83 秒;每种语言的数据都相同。新的旁白无需重新对时,直接就能贴合画面。
我们只送入了人声
我们给模型的是不含音乐的纯旁白,之后再自己混入配乐和音效。在翻译中保留音乐和音效是该模型明确宣称的功能,但这次测试并没有依赖它。
Seed Audio 1.5 能做什么
1.5 是第一个支持视频输入的 Seed Audio 模型。下面大部分用法,都是这一点带来的。
克隆声音
最多 6 段、每段 2 到 30 秒的参考音频,用来确定音色。参考音频配合视频使用,配音就会用这个声音说出来。
创作带歌词的歌曲
根据文字需求生成最长六分钟的音乐,歌词可用英语、中文、日语、韩语或粤语演唱。
Seed Audio 1.5 使用限制
以下限制来自 ByteDance 的抢先体验接入指南。剪辑视频之前,请先核对。
| 输入项 | 限制 |
|---|---|
| 视频时长 | 每次请求 4–360 秒 |
| 视频格式 | MP4、MOV |
| 视频分辨率 | 480p、720p 或 1080p |
| 视频文件大小 | 最大 200 MB |
| 声音参考音频 | 最多 6 段,每段 2–30 秒,合计 180 秒 |
| 用于分轨的音频 | 单个文件,2–360 秒,最大 90 MB,WAV 或 MP3 |
| 输出项 | 数值 |
|---|---|
| 单次请求最长音频 | 6 分钟 |
| 分轨数量 | 最多 6 条 |
| 格式 | WAV(默认)、MP3、PCM、OGG Opus |
| 默认采样率 | 44.1 kHz |
| 支持的语音语言 | 30 种 |
| 视频翻译的源语言 | 英语或中文,也可自动识别 |
来源:ByteDance Seed Audio 1.5 抢先体验接入指南,2026 年 10 月。正式发布后限制可能调整。
30 种语言
Seed Audio 1.5 会说下面这些语言。视频翻译可从英语或中文译成其中任意一种。
歌曲歌词支持的语言范围较小:英语、中文、日语、韩语和粤语。
好用的提示词
ByteDance 的提示词指南分为三个层级:直白的描述、规定事件顺序的脚本,以及精确到秒的时间线。先从直白描述开始,只在对时间有要求的地方再加时间戳。示例提示词保持英文,模型对英文指令的理解最好。
简单的旁白
Generate only this speaker as dry, close-miked speech. No music, no sound effects, no room reverb, no second speaker. A calm adult female voice at a steady pace reads: “Most people in Pompeii woke up that morning expecting an ordinary day.”
先写限制条件,再写声音,最后是确切的台词。说明哪些内容不能出现,和说明要什么同样重要。
带时间轴的场景
[0.0s:12.0s] Soft market ambience under the whole scene. [0.5s:1.5s] A wooden cart rolls past. [2.0s:6.5s] An old man, warm and unhurried, says: “Bread, still warm from the oven.” [7.0s:12.0s] A low drum rumble rises in the distance.
时间戳把每个声音放到时间线上,音频就能对上你已经剪好的镜头。
需要注意的地方
有些是我们测试时遇到的,有些是文档里写得很清楚的。
- 人名和生僻词在不同次生成之间可能不一致。在我们第二部测试影片(背景是 1666 年的伦敦)的俄语译文里,泰晤士河上一种旧式船只的名称译错了,还有一个角色的名字变了形。视频翻译支持术语表,运行之前先把人名列进去。
- 配音需要你提供描述。Seed Audio 1.5 不会自己写台词;要告诉它说什么、听到什么。
- 它生成的是声音,不是口型。译文声音沿用原片的节奏,但画面里的嘴型不会被重绘。
- 单次请求最长 6 分钟。更长的视频必须拆分,在句子中间切开会听得出来,所以要在停顿处切。
- 视频翻译只能从英语或中文开始。其他语言的视频无法直接翻译。
- 只克隆你有权使用的声音。
Seed Audio 1.5 常见问题
Seed Audio 1.5 是什么?
Seed Audio 1.5 是 ByteDance 于 2026 年 10 月 28 日发布的音频生成模型。它一次性生成语音、音效和音乐,也是第一个支持视频输入的 Seed Audio 版本,视频配音和保留原声的视频翻译正是由此成为可能。
Seed Audio 1.5 能用同一个声音翻译视频吗?
可以。视频翻译会用另一种语言重新配音,同时保留说话人的声音特点,也保留原有的音效和音乐。在我们的测试中,一段 9 分钟的英文旁白被译成 12 种语言,每个版本的时长都和原片一致。
Seed Audio 1.5 支持哪些语言?
语音支持 30 种语言,包括英语、中文、日语、韩语、西班牙语(西班牙和墨西哥)、葡萄牙语(巴西和葡萄牙)、德语、法语、俄语、阿拉伯语和印地语。视频翻译可从英语或中文译成这 30 种语言中的任意一种。
视频最长可以多长?
单次请求接受 4 到 360 秒、不超过 200 MB 的视频,分辨率为 480p、720p 或 1080p。更长的影片请在停顿处拆分,逐段翻译,就像我们处理 9 分钟的庞贝影片那样。
翻译一个视频要多久?
在我们的运行中,每段约四分半钟的视频,每种语言耗时 157 到 200 秒。
Seed Audio 1.5 能做口型同步吗?
不能。它生成的是音频。译文声音沿用原片的节奏,但视频本身(包括嘴部动作)不会被改动。
它能分离人声、音乐和音效吗?
可以。传入最长 6 分钟的音频文件,它会把人声、音效和音乐分成独立音轨返回,最多六条。
和 Seed Audio 1.0 相比有什么变化?
Seed Audio 1.5 新增了视频输入,由此带来视频配音和视频翻译。它还新增了人声音乐分轨和最长 6 分钟的音乐,支持最多六段声音参考音频,单次请求最长生成 6 分钟音频,并支持 30 种语言。
Seed Audio 1.5 就是 Seed Audio 2.0 吗?
有些网站把即将发布的这个模型称为 Seed Audio 2.0。ByteDance 的抢先体验文档称它为 Seed Audio 1.5,我们也沿用这个名称。
Doitong 与 ByteDance 有关联吗?
没有。Doitong 是独立的 AI 视频平台。我们获得了 Seed Audio 1.5 的抢先体验资格,这里介绍的是我们自己的测试结果。