显存

LLM 显存与性能计算器 是一款实用工具，能够帮助用户快速评估不同大语言模型的显存需求和推理性能。无论你是研究人员还是开发者，都可以利用这一工具优化模型部署方案，确保在有限硬件资源下实现最佳性能。

hf-mem 是一个用 Python 编写的超轻量级命令行工具，专为快速估算 Hugging Face Hub 上模型的推理内存需求而设计。它无需下载任何权重文件，仅需几秒即可告诉你：运行这个模型，到底需要多少显存。