Cloudflare AI Gateway 升级：单端点整合350+模型，一站式解决AI开发的成本、安全与路由难题

72 0

Cloudflare AI Gateway 现已实现“单一端点访问多模型”的核心能力，并新增统一计费、安全密钥存储、动态路由等关键功能。这一升级旨在为AI开发者扫清痛点——无需再为多模型管理、成本失控、密钥泄露等问题分散精力，只需通过AI Gateway即可实现对AI流量的全生命周期控制。

Cloudflare AI Gateway 升级：单端点整合350+模型，一站式解决AI开发的成本、安全与路由难题

AI开发的核心痛点：Cloudflare为何聚焦AI Gateway升级？

在AI开发中，“非确定性”给管理带来了天然挑战：模型输出受模型选型、系统提示等多因素影响，难以预测；同时，开发者还需兼顾性能稳定性、成本可控性与观测性，这些痛点正是Cloudflare的擅长领域。

两年前，AI Gateway的推出已迈出第一步；而此次升级，则是针对当前开发者最迫切的需求——多模型管理的复杂性与全流程可控性——提供了更彻底的解决方案。

核心升级：五大功能重塑AI开发体验

此次AI Gateway的升级围绕“简化管理、强化安全、灵活调度”三大目标展开，推出五大关键功能，覆盖从模型接入到流量管控的全环节。

1. 一键接入多提供商，350+模型统一管理

过去对接AI模型，需为每个提供商单独注册账户、获取API密钥、管理速率限制与充值，流程繁琐且分散。现在通过AI Gateway，开发者可直接通过Cloudflare连接Anthropic、Google、Groq、OpenAI、xAI等主流提供商，一站式访问6家提供商的350+模型，无需在多平台间切换。

2. 统一计费：单账户结算所有模型支出

针对“多账户付费混乱”的问题，AI Gateway推出基于积分的统一计费系统（目前为Closed Beta阶段，可申请访问），适用于Workers Paid用户：

开发者只需向Cloudflare账户充值积分，即可用于所有合作提供商的AI推理支出；
费率与模型提供商的官方定价同步，仅需额外支付交易费；
可通过AI Gateway仪表板查看实时使用统计，所有支出统一计入月度Cloudflare发票，无需再为每个提供商单独结算。

3. 安全密钥存储：Secrets Store加密防护，降低泄露风险

对于希望自行管理API密钥的用户，AI Gateway与Cloudflare Secrets Store 深度集成，实现密钥的安全存储与精细化权限管控：

加密与低延迟：采用两级密钥层次结构与AES加密，同时通过全球配置系统Quicksilver保证低延迟访问；
范围限定与权限隔离：密钥可限定为“仅AI Gateway访问”，无法在Workers或其他Cloudflare服务中使用；结合基于角色的访问控制（RBAC），安全管理员可负责密钥的创建/更新，开发者仅获部署权限，避免密钥扩散；
便捷管理与审计：可通过AI Gateway或Secrets Store仪表板、API统一管理密钥，更新后自动同步至所有使用场景；所有操作均记录在Cloudflare审计日志中，可追溯操作人及时间。

4. 统一请求/响应：自动适配多提供商格式

不同AI提供商的请求格式存在细微差异，给开发者带来额外的适配成本。AI Gateway新增自动翻译层，无论对接哪个提供商或模型，只需按统一格式发送请求，系统会自动转换为对应提供商的要求，大幅简化跨模型开发的工作量。

5. 动态路由：灵活管控AI流量，支持多场景调度

借鉴Cloudflare Workers拦截HTTP请求的思路，AI Gateway新增动态路由功能，允许基于请求属性自定义流量策略，覆盖多种开发场景：

权限与成本控制：为免费用户设置每秒请求数（RPS）或支出上限；
A/B测试：按比例拆分流量（如50%到模型A，50%到模型B）；
多模型串联：在请求发送至目标模型前，添加自定义护栏或提示增强；
操作便捷：通过仪表板UI定义if/else逻辑，路由配置后只需在请求JSON中指定路由名称，即可自动执行流量分配。

6. 内置安全防火墙：DLP扫描防护敏感数据

在原有“护栏”功能基础上，AI Gateway新增数据丢失预防（DLP）扫描，强化安全管控：

预设+自定义规则：支持“财务信息”“社保/税号”等预设DLP配置文件（免费Zero Trust账户可用），升级Zero Trust计划可创建自定义规则，保护业务特定敏感数据；
灵活管控策略：管理员可选择“完全阻止”或“仅警报”模式，避免假阳性对正常开发的干扰；
详细日志追溯：每条请求日志均包含DLP匹配详情与处理结果，便于问题排查。