兼顾翻译质量与延迟!网易有道发布Confucius4-T3PO:基于帕累托前沿策略优化的文本同声翻译模型

语音模型1个月前发布 小马良
71 0

网易有道 AI 团队正式发布了 Confucius4-T3PO,一款拥有 140 亿参数的文本到文本(Text-to-Text, T2T)同声机器翻译(SiMT)模型。该模型通过创新的帕累托前沿策略优化(Pareto Policy Optimization)技术,成功在翻译质量与延迟之间找到了最佳平衡点,实现了高质量的实时流式翻译。

  • GitHub:https://github.com/netease-youdao/Confucius4-T3PO
  • Demo:https://t3po.youdao.com

模型下载

模型HuggingFaceModelScope
Confucius4-T3PO🤗 HuggingFaceModelScope
Confucius4-T3PO-GGUF🤗 HuggingFaceModelScope

核心架构:三阶段训练流程

Confucius4-T3PO 的开发遵循严谨的三阶段流程,确保模型既具备流式处理能力,又保持了高水平的翻译质量:

  1. 高质量分段对齐数据构建:
    • 提出了一种新算法,能从传统平行语料库中自动推导出适合低延迟流式翻译的数据。
    • 优势:无需依赖昂贵且稀缺的人工口译语料,即可为模型提供良好的流式先验知识。
  2. 流式冷启动:
    • 利用上述数据对基础模型进行微调,使其初步具备处理细粒度文本块的能力。
  3. 帕累托前沿强化学习:
    • 针对同声翻译中“质量”与“延迟”相互竞争的目标,采用前沿感知的强化学习算法。
    • 结果:显著推进了策略模型的帕累托前沿,使模型能在不同延迟要求下均保持最优翻译质量。
兼顾翻译质量与延迟!网易有道发布Confucius4-T3PO:基于帕累托前沿策略优化的文本同声翻译模型

关键特性

1. 全流式文本翻译 (True Streaming)

  • 细粒度输入:支持字符级和词级的文本块输入。
  • 增量输出:译文仅追加、永不重写。这确保了下游应用(如字幕显示、语音合成)接收到的内容是稳定且一致的。
  • 动态 READ/WRITE 决策:在接收到每个文本块后,模型会智能判断是继续等待更多上下文以获取更准确的理解,还是立即生成增量翻译以降低延迟。

2. 高效推理:交错历史协议

  • KV 缓存复用:采用交错历史机制组织输入序列,保留稳定前缀。
  • 降低开销:大幅减少冗余计算,提升推理速度和吞吐量。

3. 灵活的可调节延迟

  • 支持在多个质量–延迟层级间切换,用户可根据具体场景(如会议同传、直播字幕、即时通讯)选择最适合的模式。

4. 强大的泛化与指令遵循能力

  • 保留通用能力:训练过程未损害 Qwen 基础模型的通用指令遵循能力,支持术语约束等高级功能。
  • 跨语言泛化:虽然主要在中英方向上进行了严格评估,但模型展现出一定的跨语言泛化能力。例如,未经专门训练的中译日方向也支持流式翻译。
兼顾翻译质量与延迟!网易有道发布Confucius4-T3PO:基于帕累托前沿策略优化的文本同声翻译模型

生态集成:构建完整的 S2T 流水线

Confucius4-T3PO 是一个纯文本模型(T2T),原生不支持语音输入。为了构建完整的语音到文本(S2T)同声传译系统,网易有道建议将其与自家发布的流式 ASR 模型 Confucius4-R2T2 级联使用:

S2T 流水线 = R2T2 (真流式 ASR) + T3PO (同声翻译)

这种组合能够发挥两者的优势:R2T2 提供稳定、低延迟的语音转写,T3PO 则在此基础上进行高质量的实时翻译,共同实现端到端的低延迟同声传译体验。

网易有道发布 Confucius4-R2T2:低延迟高准确率实时语音识别模型,适配实时字幕与 AI 智能体

应用场景

  • 国际会议同声传译:提供接近人工水平的实时翻译,支持多语种切换。
  • 跨境直播/视频字幕:为观众提供无闪烁、低延迟的双语字幕。
  • 实时跨国沟通:在即时通讯或视频会议中,实现近乎零感知延迟的双向翻译。
  • 辅助听障人士:将实时语音转化为其他语言的文本,打破语言与听力障碍。
© 版权声明

相关文章