Mirai
Mirai

Mirai 最新版

官方版无广告65

Mirai 是一套面向开发者的端侧AI套件,目标帮助开发者快速把高性能AI能力集成进自己的应用。全部推理在设备本地运行,实现低延迟、完整数据隐私,且没有推理费用。

更新日期:
2026年10月12日
语言:
中文
平台:

48.8MB0 人已下载 手机查看

Mirai 是一套面向开发者的端侧AI套件,目标帮助开发者快速把高性能AI能力集成进自己的应用。全部推理在设备本地运行,实现低延迟、完整数据隐私,且没有推理费用。无需专业机器学习团队,也不用花费数周时间配置环境,单人开发者仅需几分钟即可完成部署。整套工具栈由三大组件构成。

Mirai
  • uzu:https://github.com/trymirai/uzu
  • lalamo:https://github.com/trymirai/lalamo

三大核心组件

组件定位
uzuRust编写的AI推理引擎,深度适配硬件特性,负责模型本地推理运行
lalamo模型优化与转换工具集,把模型处理成适合端侧设备部署的格式
cli命令行工具,支持本地对话,也可将模型封装成本地API对外提供服务

开源与授权

uzu、lalamo 两个核心库采用 MIT 许可证,完全开源,可免费使用。

设备与模型支持

  • 硬件平台:现阶段仅支持 Apple 芯片设备,覆盖 iOS、macOS
  • 兼容模型:阿里Qwen系列、LiquidAI LFM系列、Meta Muse Glimmer系列模型

要点小结

  1. Mirai 是一套端侧AI开发工具栈,主打本地推理,低延迟、保护用户数据,无推理开销,降低应用接入AI的门槛。
  2. 由uzu(Rust推理引擎)、lalamo(模型优化工具)、cli命令行工具三部分组成,uzu与lalamo基于MIT协议开源免费。
  3. 当前仅适配Apple芯片(macOS/iOS),原生支持Qwen、LiquidAI LFM、Meta Muse Glimmer模型。

相关软件

Google AI Edge Gallery

Google AI Edge Gallery - 最新版

Google AI Edge Gallery是一款实验性应用程序,将尖端生成式AI模型的强大功能直接带到您的手中,完全在您的Android(现已可用)和iOS(即将推出)设备上运行。深入探索创意与实用的AI用例世界,所有功能均在本地运行,模型加载后无需网络连接。尝试不同模型,聊天,基于图像提问,探索提示词,等等!
oMLX 

oMLX  - 最新版

oMLX 是一款专为 Apple Silicon Mac 设计的原生 LLM 推理服务器与管理工具。它解决了本地运行大模型时在“便利性”与“可控性”之间的权衡难题,通过独特的分层 KV 缓存(热 RAM + 冷 SSD)技术和连续批处理能力,让本地 LLM 在配合 Claude Code 等 AI 编程助手进行长上下文编码任务时变得真正可用且高效。