
针对 AI 开发者在云端部署模型时面临的价格不透明与硬件选型难题,Marktechpost AI 正式发布了 GPU Leaderboard 及其配套的 Chrome 扩展程序 Deploy It。该工具集通过聚合 24 家云提供商的实时定价数据,旨在回答“运行特定模型需要什么 GPU”以及“哪里最便宜”这两个核心问题。

GPU Leaderboard:从小时费率到真实运行成本
GPU Leaderboard v1 版本提供了一个综合定价仪表板,其核心差异在于不仅展示单一的每小时费率,更侧重于计算完整推理任务的总成本。平台目前追踪 201 个实时 GPU 报价,并按每 GPU 小时价格进行排名。
主要功能视图:
- 推理定价计算器:用户可指定加速器类型、GPU 数量、运行时长及利用率。系统会根据这些参数计算每个提供商的确切运行成本。
- 排行榜:支持按 GPU 型号、层级、区域和可用性过滤报价。
- 最便宜推理底价:展示每个被追踪 GPU 的最低按需价格。
- 提供商目录:包含实例数量、覆盖区域、状态页面事件及价格检查历史。
“真实”成本核算逻辑:
大多数预算表往往忽略空闲时间的计费。GPU Leaderboard 引入了“每已用 GPU 小时”的真实成本概念。例如,在默认示例中(8×H100 运行 72 小时,利用率 90%):
- 名义成本:Latitude 报价最低,为 $967.68($1.68/GPU 小时)。
- 中位数成本:15 家提供商的中位数为 $1,716.48。
- 最高成本:CoreWeave 报价高达 $3,545.28。
- 真实成本修正:考虑到 90% 的利用率,空闲时间仍被计费,因此 $1.68 的实际等效成本上升至 $1.87/GPU 小时。
Deploy It 扩展:在开发流程中即时获取硬件建议
为了缩短从模型发现到部署决策的路径,Marktechpost 推出了 Deploy It Chrome 扩展。该扩展直接在开发者浏览模型代码或文档时提供硬件估算与价格参考。
支持场景:
- Hugging Face 模型页:自动检测模型大小,估算 FP16、INT8 和 INT4 精度下的 VRAM 需求,并推荐适合该模型的最便宜每小时 GPU。
- GitHub 仓库:识别代码中的模型引用,就地提供硬件配置建议。
- 工具栏搜索:允许用户通过浏览器工具栏直接搜索任意模型或 GPU 以获取即时报价。
市场对比与局限性
与早期的 GPU 价格追踪器相比,GPU Leaderboard 的优势在于每日刷新频率和更广泛的覆盖范围。然而,其当前版本仍存在一些局限:
- 数据源依赖:价格数据直接读取自各提供商的公开定价页面,可能受限于提供商页面的更新延迟。
- 功能聚焦:目前主要专注于推理场景的训练前/部署前成本估算,尚未涵盖长期预留实例或复杂的竞价策略模拟。
尽管存在上述限制,GPU Leaderboard 通过引入利用率修正后的真实成本计算,为团队提供了更具参考价值的预算依据,而 Deploy It 则进一步将这一能力嵌入到了日常开发工作流中。
相关导航


Free Model Radar

TikHub

TokHub

WaveSpeedAI

ClawRouter

蚂蚁数科大模型服务平台






