小米 MiMo × TileRT:在商用 GPU 上实现万亿参数模型每秒 1000+ Token 解码,通过 FP4 量化、DFlash 推测与微内核协同设计突破推理速度瓶颈在大语言模型推理速度成为关键竞争指标的当下,小米 MiMo 团队联合 TileRT 系统团队发布了 MiMo-V2.5-Pro-UltraSpeed。该方案在单个标准的 8-GPU 商用节点上,实现了...大语言模型# MiMo-V2.5-Pro-UltraSpeed5个月前4900