字节发布AI同传模型,2秒延迟复刻声音
快速阅读: 据相关媒体最新报道,7月24日,字节跳动推出Seed LiveInterpret 2.0,首个中英同声传译系统,在准确率、延迟和音色复刻上接近专业水平。
7月24日,字节跳动Seed团队正式推出端到端同声传译模型Seed LiveInterpret 2.0。这是首个在翻译准确率、语音延迟与声音复刻三方面同时接近专业同传表现的产品级中英语音同传系统。
在中英互译任务中,Seed LiveInterpret 2.0达到了业界最优水平,其译文质量、响应速度与音色还原能力在多项主客观评测中均表现突出。该系统采用全双工语音理解与生成框架,支持“边听边说”的实时传译,语音延迟最低可至2到3秒。同时,它具备0样本声音复刻能力,无需预录音即可用说话者的音色“说出”外语。
目前,Seed LiveInterpret 2.0已通过火山引擎开放试用,用户可登录控制台体验语音模型“Doubao-同声传译2.0”。此外,Ola Friend耳机计划于8月底接入该系统,成为首个支持其语音同传能力的硬件设备。
技术报告显示,Seed LiveInterpret 2.0引入了双通路语音理解与生成架构,减少了中间环节,在处理效率和翻译准确率上表现更优。系统能边接收源语言语音输入,边生成目标语言语音输出,并可实时处理多人说话场景。相比传统同传系统,Seed LiveInterpret 2.0的语音翻译延迟显著降低,平均减少了超过60%的等待时间,实现真正的“边听边说”。
为了进一步提升翻译质量和减少延迟,字节Seed团队引入了强化学习机制,在延迟、译文准确率和节奏控制上进行联合建模优化。模型还具备自适应节奏控制能力,能够根据语音输入的清晰度与表达节奏智能调整输出时机与语速,确保译文与源语的节奏一致。
Seed LiveInterpret 2.0的“0样本声音复刻”能力使其在真实会议、演讲、跨语种沟通中具有实用价值,不仅降低理解门槛,也增强了语义情绪的传达。在多轮语音评测中,Seed LiveInterpret 2.0是唯一支持“中英双向语音到语音同传+声音克隆”的系统,其音质、节奏、语调高度拟人。
为评估系统性能,字节Seed团队基于中英双向RealSI标准数据集邀请专业同传译员团队进行人工打分。结果显示,Seed LiveInterpret 2.0在语音到语音翻译任务中的译音质量得分达66.3,显著超过同类系统。在语音到文本的中英互译任务中,平均翻译质量得分为74.8(满分100),相比第二名系统高出58%。系统在延迟方面也表现出色,语音到文本场景中平均输出首字延迟仅为2.21秒,语音到语音场景延迟为2.53秒,展现了质量与速度的良好平衡。
从延迟、译准率到音色复刻,Seed LiveInterpret 2.0已让AI在同传这条“最难登顶”的语言技术路径上迈出了关键一步。技术侧依托多模态训练与强化学习策略,产品层面则已具备跨语言实时演讲、跨境会议、教育直播等落地能力。尽管目前仅支持中英互译,但这套端到端同传框架的可扩展性为后续多语种拓展、情绪模仿和更多交互形式的翻译任务奠定了基础。
(以上内容均由AI生成)