You.com Inference Router

4天前发布 20 00

You.com Inference Router是统一托管开源模型的推理网关,汇集12款主流开放权重大模型,兼容OpenAI接口,自有算力+多厂商故障转移,附带99.9%SLA、ZDR零数据留存与内置网页搜索,不收平台服务费,适合有合规、数据隐私、高可用要求的生产业务。

所在地:
You.com
收录时间:
2026-10-23
You.com Inference RouterYou.com Inference Router

You.com正式发布 Inference Router,面向生产环境托管开源权重大模型的统一推理API网关,提供OpenAI、Anthropic双兼容接口,可直接复用现有SDK,只需更换接口地址与密钥。服务承诺99.9%正常运行时间SLA,默认开启零数据保留(ZDR),全部算力在美国托管,内置服务器端网页搜索,按需付费、无平台服务费。

You.com Inference Router

调度与故障转移机制

请求优先调度至You.com自有推理集群Inference Direct;当自身资源满载或故障时,自动故障转移至经过合规审查的合作算力厂商(Parasail、Wafer、阿里云、Meta、Inception,Prime Intellect即将接入)。

故障转移不会变更计费标准,各模型定价固定;支持单API密钥消费限额,可按模型、成本、服务商查看每日用量。整套基础设施满足SOC 2合规,可按需提供DPA协议。

You.com Inference Router

零数据保留ZDR规则

提示词与模型输出仅在内存处理,不会写入磁盘存储;该策略同时覆盖模型调用和内置网页搜索。平台仅保留运维元数据:token计数、时间戳、账户ID。提示哈希、去标识文本、磁盘提示缓存不在ZDR保护范围内。

12款可用模型(支持百万级超长上下文)

包含Kimi K3、Qwen3.8 Max、GLM 5.3、DeepSeek V4系列、GPT-OSS 120B、Mercury 3、Muse系列、MiniMax M3等。

Kimi K3(2.8万亿参数MoE):输入$2.85 / 百万token,输出$14.25 / 百万token,100万上下文
Qwen3.8 Max(2.4万亿MoE):输入$1.85 / 百万token,输出$5.55 / 百万token,100万上下文

内置网页搜索能力

可在请求中声明web_search或web_extract工具,由网关在模型同服务器侧执行检索,单次最多返回20条结果,默认最多30轮搜索,返回附带引用来源,官方宣称相比外部搜索方案可降低最高15%延迟。

LiveNewsBench基准测试(官方自测)

在1329道新闻类问题评估集上,GLM-5.3搭配You内置搜索,准确率86.53%,单题成本$0.0485,与GPT-6.1 Sol持平,成本低于Claude Sonnet 5.5;DeepSeek V4.1 Flash性价比突出,单题成本仅$0.0215。

和同类聚合平台横向对比

对比OpenRouter、Together AI、Fireworks AI:

  • 优势:99.9%SLA、默认ZDR、全美国托管、无平台费、原生集成服务器端搜索;
  • 价格:token单价贴近市场行情,Kimi K3相比Fireworks美国专属版本有明显价格优势。

相关导航