百万 Token 上下文支持,亚马逊将 Writer Palmyra X5/X4基础模型引入 Bedrock

早报3个月前发布 小马良
85 0

在持续推动生成式 AI 应用落地的进程中,亚马逊近日宣布,已在其Amazon Bedrock平台上正式上线Writer 公司推出的 Palmyra X5 和 X4 大语言模型。这是继三周前推出视频生成模型 Nova Reel 1.1 和实时语音模型 Nova Sonic 后的又一重要更新。

这次引入的核心亮点之一是Palmyra X5 拥有高达一百万个 token 的上下文窗口,这使得它能够处理极长文本输入,在多本完整书籍、数百份报告或合同内容中提取信息、分析趋势和执行复杂推理任务成为可能。

Amazon Bedrock 是什么?

Amazon Bedrock 是一项完全托管的服务,允许开发者通过一个统一 API 访问多个供应商的高性能基础模型。这种集成方式极大地简化了企业构建和部署生成式 AI 应用的流程,无需重复对接多个平台即可快速启用新能力。

Palmyra X5 / X4 关键特性

特性描述
上下文长度Palmyra X5:1,000,000 token
Palmyra X4:128,000 token
支持语言英语、西班牙语、法语、德语、中文等
安全合规SOC 2、PCI DSS、HIPAA 等认证
推理能力支持自适应思维链(Adaptive Reasoning)、多步骤工具调用
区域支持美国西部(俄勒冈)区域,具备跨区域推理能力

百万 Token 能做什么?

Palmyra X5 的超大上下文窗口为许多传统模型难以胜任的场景提供了可能性:

  • 金融行业:同时分析多份财报、交易文件、法律协议,提供自动化建议
  • 医疗健康:处理复杂的病历记录、保险申诉、法规文档查询
  • 零售业:自动撰写产品描述、优化营销文案、个性化客户互动
  • 科技公司:进行市场调研、内容创作、知识库维护和客户支持

这意味着用户可以一次性上传大量资料,并直接向模型提问,而无需先做繁琐的分段处理。

企业级功能加持

除了处理长文本,这些模型还支持多种企业关键功能:

  • 多步工具调用:AI 可以与外部系统(如数据库、CRM、ERP)交互,执行数据更新、发送邮件、触发交易等操作。
  • 自适应思维链:根据问题复杂度动态调整推理路径,提高准确性与效率。
  • 安全性和合规性:满足医疗、金融等行业对隐私保护和数据治理的要求。

如何使用 Palmyra 模型?

要访问 Palmyra X5 和 X4 模型,您需要:

  1. 申请访问权限:通过 Amazon Bedrock 控制台提交申请;
  2. 获得授权后:可通过 AWS SDK 或 AWS CLI 进行调用;
  3. 推荐接口:使用 Amazon Bedrock Converse API 统一接入不同模型;
百万 Token 上下文支持,亚马逊将 Writer Palmyra X5/X4基础模型引入 Bedrock

目前两个模型已在美国西部(俄勒冈)区域上线,并支持跨区域推理,适合全球部署的企业使用。(官方介绍

© 版权声明

相关文章

暂无评论

none
暂无评论...