Prism ML 发布 Bonsai Image 4B：首个可在 iPhone 本地运行的 4B 级图像生成模型，Transformer 权重压缩至 1GB 以下

在云 API 主导图像生成的当下，高昂的成本、网络延迟以及隐私顾虑限制了用户的创意迭代。Prism ML 今日正式发布了 Bonsai Image 4B，这是一系列专为本地设备设计的紧凑级图像生成模型。通过极致的权重压缩技术，Bonsai Image 4B 成功将 40 亿参数级别的扩散模型塞进了智能手机的内存预算中，成为首个可直接在 iPhone 上运行的 4B 级图像模型。

• GitHub：https://github.com/PrismML-Eng/Bonsai-Image-Demo
• 模型：https://huggingface.co/collections/prism-ml/bonsai-image
• Demo：https://huggingface.co/spaces/webml-community/bonsai-image-webgpu

核心突破：极致压缩，本地可行

Bonsai Image 4B 基于 FLUX.2 Klein 4B 架构构建，保持模型结构不变，但革命性地改变了 Transformer 权重的表示方式，提供了两个版本：

1. 1-bit Bonsai Image 4B（极致空间优化）

• 技术原理：使用二进制 Transformer 权重 + FP16 分组缩放因子。
• 有效比特：每权重仅 1.125 bits。
• 显存占用：扩散 Transformer 部分仅 0.93 GB，相比全精度 FLUX.2 Klein 4B (7.75 GB) 缩减 8.3 倍。
• 适用场景：内存极度受限、带宽敏感的设备（如高端手机）。

2. Ternary Bonsai Image 4B（质量与空间平衡）

• 技术原理：使用三进制 Transformer 权重（增加“零”状态以提升灵活性）+ FP16 分组缩放因子。
• 有效比特：每权重 1.71 bits。
• 显存占用：扩散 Transformer 部分为 1.21 GB，相比全精度 缩减 6.4 倍。
• 性能表现：在 GenEval、HPSv3 和 DPG-Bench 基准测试中，保持了原模型 95% 的准确率，视觉质量和提示保真度更优。

部署优势：从云端到指尖

注：运行时文本编码器会在提示编码后卸载，平均内存使用量低于总负载。

为什么本地图像生成至关重要？

1. 极速迭代：图像创作本质是试错过程。本地生成消除了网络往返延迟，让用户可以瞬间修改提示、比较变体，创意循环不再被计量和等待打断。
2. 隐私安全：所有生成过程在设备端完成，敏感提示词和生成资产无需上传云端，特别适合个人创作和企业内部应用。
3. 成本为零：一旦模型部署到设备，每次生成的边际成本几乎为零，打破了云 API按次收费的模式。

技术栈与兼容性

• Apple Silicon：利用 MLX 框架的低精度路径，完美适配 iPhone、iPad 和 Mac。
• NVIDIA CUDA：通过 Gemlite 低位 GEMM 内核支持 GPU 加速。
• 开放生态：模型权重和代码完全开源，开发者可自由集成到各类应用中。

体验入口：Bonsai Studio

伴随模型发布，Prism ML 推出了 Bonsai Studio iOS 应用。用户可以直接在 iPhone 上试用 Bonsai Image 4B，体验毫秒级响应的本地图像生成乐趣。