CanIRun.ai

想在本地运行 Llama 3、Qwen 或 Mixtral 等大语言模型，却不确定自己的电脑配置是否达标？显存够不够？推理速度会不会慢如蜗牛？

CanIRun.ai 是一个完全在浏览器端运行的免费工具，无需安装任何软件，无需上传任何数据，即可精准告诉你：你的机器到底能跑哪些 AI 模型，以及跑得有多快。

🛡️ 核心亮点：100% 隐私，纯客户端计算

• 零数据上传：当你访问网站时，所有硬件检测（GPU、CPU、内存）和模型兼容性计算均在本地浏览器中完成。
• 绝对隐私：没有任何硬件信息或测试数据会被发送到服务器。
• 即时反馈：打开网页即出结果，无需注册，无需等待。

📊 它能告诉你什么？

CanIRun.ai 不仅简单回答“能”或“不能”，还提供详细的性能预测：

1. 兼容性列表：根据你的显存（VRAM）和系统内存（RAM），列出所有可运行的热门模型（如 7B, 13B, 70B 等参数量）。
2. 速度预估：预测不同模型在你设备上的 每秒词元数 (Tokens/s)，让你知道是“秒回”还是“卡顿”。
3. 量化建议：推荐适合的量化版本（如 Q4_K_M, Q8_0），帮你在画质（智能程度）和速度之间找到最佳平衡点。

📚 硬核知识科普：读懂 AI 硬件术语

CanIRun.ai 还提供了详尽的文档，用通俗语言解释了本地部署 AI 的关键概念，是新手入门的绝佳指南：

💡 为什么你需要它？

• 避坑指南：避免下载了 70B 模型却发现显存爆红，只能尴尬删除。
• 升级参考：明确知道是缺显存、缺内存带宽，还是 CPU 太弱，从而精准升级硬件。
• 新手友好：不用懂复杂的 llama.cpp 命令，一眼看懂自己的电脑能干什么。

🚀 如何使用？

1. 打开浏览器（推荐 Chrome/Edge）。
2. 访问 CanIRun.ai。
3. 等待几秒，网站自动检测硬件。
4. 查看为你量身定制的模型兼容列表和速度预测。