Hugging Face 切换 OpenRouter 作为语言模型推理路由,原有 API 与定价保持不变

早报1小时前发布 小马良
2 0

Hugging Face 把推理提供商的大模型调用路由底层切换至 OpenRouter,开发者沿用原有 HF Token、API 格式即可调用 Hub 上的开放权重模型,业务代码无需改动。

Hugging Face 切换 OpenRouter 作为语言模型推理路由,原有 API 与定价保持不变

路由由 OpenRouter 根据实时价格、响应速度与稳定性动态挑选服务商,服务商超时或者出错时,请求会在本次调用内自动切换备选节点重试,一改此前固定单一服务商、失败直接返回报错的模式。支持 OpenAI Chat Completions、Responses API 和 Anthropic Messages API 多套接口规范。开发者还能通过模型ID后缀指定策略::fastest 优先最快、:cheapest 优先低价,或是直接指定某一家服务商;路由自带缓存感知,搭配可选 X-HF-Session-Id 请求头,尽量把同一会话固定在有提示缓存的服务商。

价格体系维持原样,按照对应服务商原价结算,HF 不额外加价;PRO 用户每月可获2美元额度,团队与企业版按每个席位发放2美元积分。模型页面新增 Providers、Metrics 标签页,展示首token耗时、吞吐量、上下文长度、 uptime、开销明细,组织和用户可以自行屏蔽不需要的服务商。本次变更存在一处破坏性调整:自定义服务商密钥不再支持语言模型,图像、视频、音频生成链路不受影响,依旧走 Hugging Face 原生推理通道,不经过 OpenRouter。

Hugging Face 切换 OpenRouter 作为语言模型推理路由,原有 API 与定价保持不变

OpenRouter 披露数据显示,新路由机制将容量类错误降低46%,首token耗时优化16.9%,吞吐量提升16.3%;平台上开放权重模型Token占比从2025年10月的26.8%增长至2026年9月底71.7%,平均成本大约是闭源模型的四分之一。Hugging Face 表示这只是合作起步阶段,后续还会上线账户关联,拓展更多经由 OpenRouter 路由的任务类型。

© 版权声明

相关文章