长期以来,在本地运行和训练 AI 模型意味着要与复杂的命令行、依赖冲突和晦涩的参数配置搏斗。Unsloth Desktop是一款免费、开源的桌面应用,适用于 macOS、Windows 和 Linux,它将运行、训练、微调和本地部署 LLM、扩散模型及音频模型的能力封装在一个直观的图形界面中。

它不仅是一个聊天客户端,更是一个完整的本地 AI 开发工作室,支持从 CPU 到多 GPU(英伟达/AMD/英特尔/Mac)的各种硬件配置。
- 官网文档:https://unsloth.ai/docs/desktop
- GitHub:https://github.com/unslothai/unsloth
核心亮点:更快、更准、更易用
1. 🚀 极致的性能优化
继承自 Unsloth 的核心优势,Desktop 版在效率上做到了极致:
- 训练速度提升 2 倍:无论是文本微调还是扩散模型 LoRA 训练,速度都显著快于传统方案。
- 显存占用减少 70%:让消费级显卡也能轻松驾驭大参数模型。
- 推理加速:例如在 NVIDIA B200 上,MiniMax-H3 视频生成时间从 70 多秒降至约 13 秒。
2. 🛠️ 智能代理与工具调用
- 自我修复工具调用:准确率提高 50%。当模型调用工具失败时,它能自动检测错误、修复代码并重试,无需人工干预。
- 沙盒化代码执行:在安全的环境中运行 Bash 和 Python 代码,让 AI 真正能在本地完成实际任务(如文件处理、数据分析)。
- 无缝连接主流 Agent:通过
unsloth start 命令,可将本地模型直接接入 Claude Code、Codex、OpenClaw 等代理框架,实现“本地大脑 + 云端工作流”的混合模式。
3. 🎨 全模态支持与训练
- 图像/视频生成:原生支持 MiniMax H3、FLUX、LTX、Wan 等最新模型。支持 LoRA 微调,只需放入图片即可训练专属风格。
- 音频处理:集成 Whisper、Qwen3-ASR 等,支持本地语音转文字、文字转语音及音频微调。
- 深度研究:不同于普通搜索,它会先规划、检索最佳来源,再生成带引用的详细报告。
4. 🌐 随时随地访问
- Cloudflare 隧道集成:一键将本地模型通过 HTTPS 安全地暴露到公网。你可以在手机或异地笔记本上访问家中电脑运行的模型,无需配置路由器端口转发。
- OpenAI 兼容 API:内置标准 API 接口,方便其他应用调用。
快速上手:从零开始只需几分钟
- 下载与安装:从 unsloth.ai 或 GitHub 获取安装包。
- 选择模型:在“模型中心”选择适合你硬件的模型(如 Qwen3.8、Gemma 4、MiniMax M3 等)及量化版本(GGUF/NVFP4),点击下载。
- 开始聊天:下载完成后,直接在聊天框输入消息即可。
- 连接代理(可选):
unsloth start claude
适用人群
- 隐私倡导者:希望数据完全留在本地,无任何遥测收集。
- 开发者与研究者:需要快速微调模型、测试新架构或构建本地 Agent 工作流。
- 创意工作者:利用本地算力进行无限的图像、视频和音频创作,无需担心 API 额度。
- 硬件爱好者:希望榨干手中英伟达、AMD 或 Apple Silicon 芯片潜力的用户。