Edge0 开源流式 MoE 推理框架发布:SSD 专家卸载 + Recover-LoRA + 路由预判,35B 大模型仅需 3GB 活跃内存edge0 是一个专为边缘设备和消费级硬件设计的开源流式 MoE(混合专家)推理框架。它通过将 SSD 专家卸载、Recover-LoRA 和 Prerouter 路由预判 三大核心技术抽象为通用架构...大语言模型# edge0# Edge0-35B-A1B-preview# Edge0-8B-A1B-preview1个月前1180