PyTorch

RamTorch 不是一个替代完整分布式框架的重型方案，而是一个精准解决“显存不够”问题的小而美工具。它降低了大模型实验门槛，使更多研究者和工程师能在有限硬件条件下开展工作。如果你正被显存不足困扰，又不想立刻投入多卡集群成本，RamTorch 值得一试。

TorchTPU 是谷歌联合 Meta 推出的 Apache2.0 开源 Cloud TPU 原生 PyTorch 后端，取代 PyTorch/XLA，一行代码即可把 PyTorch 模型跑在 TPU。支持 Eager 调试 + torch.compile 生产编译，配套 vLLM、SGLang、Hugging Face 生态，支持 8192 片 Ironwood 大规模集群训练与推理。