SonicBoomSonicBoom 的核心创新是彻底砍掉 Python 依赖链,构建自带 MLIR 编译层的张量运行时,依托 CUDA Graph 与算子融合提升本地 LLM 解码性能,同时具备通用张量计算能力,不只局限大模型推理。现阶段版本号 v0.0.3,仍属于早期实验版本,仅在 sm_86 显卡完成充分验证,跨 GPU 架构适配还在完善。240模型API# LLM 推理# SonicBoom