Manifest

6个月前发布 281 00

Manifest 是一款开源的智能模型路由中间件,专为 OpenClaw、Hermes 等个人 AI 代理及消费级应用打造。它位于你的代理与各大 LLM 提供商之间,通过实时评估请求复杂度,自动将任务分配给性价比最高的模型,从而在保持高性能的同时大幅降低 API 成本。

所在地:
美国
收录时间:
2026-04-21
其他站点:
ManifestManifest

Manifest 是一款开源的智能模型路由中间件,专为 OpenClaw、Hermes 等个人 AI 代理及消费级应用打造。它位于你的代理与各大 LLM 提供商之间,通过实时评估请求复杂度,自动将任务分配给性价比最高的模型,从而在保持高性能的同时大幅降低 API 成本。

Manifest

核心价值

  • 智能降本:简单问题交给快速便宜的模型(如 Ollama 本地模型或轻量级云端模型),复杂推理交给顶级模型。据称最高可降低 70% 的 Token 成本。
  • 自动回退机制:如果首选模型失败或超时,系统会自动无缝切换到备选模型,确保服务高可用。
  • 预算控制:支持设置每日/每月支出上限,防止意外高额账单。
  • 隐私优先:支持完全本地自托管,提示词和响应数据不经过第三方服务器(仅元数据可选上传用于分析)。

工作原理

Manifest 的核心是一个高效的 23 维评分算法(运行时间 < 2ms),它能对每个 incoming 请求进行即时分析:

  1. 复杂度评分:分析提示词的意图、长度、逻辑深度等维度。
  2. 层级分类:将请求归类为 简单 (Simple)、标准 (Standard)、复杂 (Complex) 或 推理 (Reasoning)。
  3. 最优路由:根据你配置的模型层级,选择该类别下成本最低且性能达标的模型。
  4. 日志记录:自动记录所有路由决策、Token 消耗、成本和耗时,并在仪表板中可视化展示。

Manifest vs OpenRouter

特性ManifestOpenRouter
定位个人 AI 代理、本地优先应用企业级 API 聚合、通用开发者
架构本地自托管。你的请求直连提供商云代理。流量经过其服务器
成本免费 (开源软件)每次调用收取 5% 服务费
隐私极高。提示词不经过第三方中等。提示词经过其服务器
透明度完全透明。可查看评分逻辑黑盒。无法了解具体路由决策
控制力强。自定义层级、回退策略、订阅整合弱。扁平化回退列表
订阅支持✅ 支持整合 ChatGPT Plus/Claude Pro 等固定费率订阅❌ 仅支持按量付费 API Key
自定义端点✅ 支持任意兼容 OpenAI 的端点 (如本地 Ollama)❌ 仅限平台支持的提供商

安装与部署

Manifest 目前仅通过 Docker 分发,旧的 npm 包已弃用。

一键自托管 (推荐)

在终端运行以下命令,脚本会自动下载 docker-compose.yml、生成密钥并启动服务:

bash <(curl -sSL https://raw.githubusercontent.com/mnfst/manifest/main/docker/install.sh)
  • 启动时间:约 30 秒。
  • 访问地址:http://localhost:3001
  • 管理员账户:注册的第一个账户即为管理员。

云端版本

如果你不想自托管,可以使用官方提供的云端服务:
🔗 app.manifest.build

支持的提供商与模型

Manifest 支持跨 300+ 模型的路由,并创新性地支持整合已有的付费订阅,进一步降低成本。

提供商API Key 支持订阅整合支持 (亮点)
OpenAI✅✅ ChatGPT Plus / Pro / Team
Anthropic✅✅ Claude Max / Pro
MiniMax✅✅ MiniMax Coding Plan
Z.ai (智谱)✅✅ GLM Coding Plan
GitHub–✅ Copilot 订阅
Google Gemini✅–
DeepSeek✅–
xAI (Grok)✅–
Mistral AI✅–
Qwen (阿里)✅–
Kimi (月之暗面)✅–
Ollama✅ (本地)✅ Ollama Cloud
OpenRouter✅–
自定义✅ (兼容 OpenAI)–

典型应用场景

  1. OpenClaw 用户:将 Manifest 配置为 OpenClaw 的默认 LLM 端点。日常聊天走本地 Ollama 或廉价模型,复杂代码生成自动路由到 Claude Opus 或 GPT-4o。
  2. 订阅最大化:如果你 subscribed 了 ChatGPT Plus 和 Claude Pro,Manifest 可以优先使用这些“已付费”额度,用完后再切换到按量付费的 API,避免浪费订阅费。
  3. 隐私敏感任务:对于包含敏感数据的请求,可以配置规则强制路由到本地部署的 Llama 3 或 Qwen 模型,确保数据不出局域网。

相关导航