Free Model Radar

2个月前发布 83 00

Free Model Radar 是一个轻量级、实时的监控工具,旨在帮助开发者和研究者追踪各大 AI 厂商免费模型的可用性、速率限制及性能表现。它部署在 Cloudflare Workers 上,利用其边缘计算能力和 KV 存储,以极低的成本实现高频次的模型探针检测。

所在地:
中国
收录时间:
2026-09-07
Free Model RadarFree Model Radar

Free Model Radar 是一个轻量级、实时的监控工具,旨在帮助开发者和研究者追踪各大 AI 厂商免费模型的可用性、速率限制及性能表现。它部署在 Cloudflare Workers 上,利用其边缘计算能力和 KV 存储,以极低的成本实现高频次的模型探针检测。

Free Model Radar

核心功能

  1. 多厂商覆盖:
    • 支持 Groq Cloud, OpenRouter, NVIDIA NIM, B.AI, GMI Cloud, AIHubMix, Token Harbor 等主流提供免费额度的平台。
    • 详细记录各平台的免费机制(如 RPM/TPM 限制、每日重置额度、签到要求等)。
  2. 实时性能监控:
    • 首字延迟 (TTFT):衡量模型响应速度。
    • 吞吐量 (Tokens/sec):评估生成效率。
    • 端到端延迟:完整请求耗时。
    • 成功率:监控模型是否因限流或故障而不可用。
  3. 趋势可视化:
    • 提供近 7 天的性能趋势图,展示模型稳定性随时间的变化。
    • 数据按天聚合,支持查看平均值、中位数、P95 及断点(失败记录)。
  4. Agent 配置导出:
    • 一键生成适用于 Claude Code, Codex, Cursor, Zed 等主流 AI 编程助手的模型配置文件。
    • 方便用户快速将免费模型集成到本地工作流中。

技术架构

  • 后端:Cloudflare Workers (OpenNext 适配器)。
  • 存储:Cloudflare KV (用于存储配置、原始采样数据和趋势数据)。
  • 定时任务:通过 scheduled() handler 触发周期性刷新 (runRefresh)。
  • 前端:轻量级 Web 界面,支持管理员登录和数据可视化。

本地开发与部署指南

1. 环境准备

npm install
cp config/providers.example.json config/providers.local.json
cp .env.example .env.local

2. 配置提供商

编辑 config/providers.local.json 和 .env.local,填入你的 API Key 和提供商信息。

  • 注意:真实配置文件不应提交到 Git。

示例配置 (config/providers.local.json):

{
  "version": 1,
  "updatedAt": "2026-08-27T09:00:00.000Z",
  "providers": [
    {
      "id": "groq",
      "name": "Groq Cloud",
      "baseUrl": "https://api.groq.com/openai/v1",
      "secretName": "GROQ_API_KEY",
      "enabled": true,
      "modelStrategy": "free-first",
      "freeKeywords": ["free", ":free"],
      "probe": {
        "maxModels": 20,
        "concurrency": 3,
        "attempts": 1,
        "timeoutMs": 25000
      }
    }
  ]
}

3. 校验与同步配置

# 校验本地配置格式
npm run kv:validate

# 推送配置到 Cloudflare KV
npm run kv:push

# 从 KV 拉取最新配置
npm run kv:pull

4. 设置 Secrets

使用 Wrangler CLI 设置敏感信息:

npx wrangler secret put REFRESH_ADMIN_TOKEN
npx wrangler secret put GROQ_API_KEY
# ... 其他 Provider 的 Key

5. 配置 KV Namespace

在 wrangler.jsonc 中替换真实的 KV Namespace ID:

{
  "kv_namespaces": [
    {
      "binding": "RADAR_KV",
      "id": "replace-with-your-kv-namespace-id"
    }
  ]
}

6. 本地测试与部署

# 本地开发预览
npm run dev

# 类型检查与构建
npm run typecheck
npm run build

# 部署到 Cloudflare
npm run deploy

管理员入口

部署后,访问以下 URL 进行管理员登录:
/?admin_token=你的 REFRESH_ADMIN_TOKEN

登录成功后会设置 HttpOnly Cookie,有效期 12 小时。管理员可以手动触发刷新、查看原始日志和管理配置。

待办事项 (TODO)

  •  趋势图增强:完善近 7 天窗口内的吞吐量、TTFT 和端到端延迟趋势展示。
  •  Agent 配置导出页:新增页面,支持复制当前免费模型的 ID 及对应 Agent 的配置模板。
  •  部署冒烟测试:确认 OpenNext 生成的 Worker 是否正确合并了 scheduled() handler,或考虑使用单独的 Cron Worker。

相关导航