Nativ

Nativ 是一款精致的原生 macOS 应用，旨在将强大的 MLX 模型无缝集成到用户的日常工作中。它不仅仅是一个聊天客户端，更是一个集模型管理、性能监控、系统诊断和本地 API 服务于一体的综合工作台。通过捆绑 mlx-vlm 服务器并利用 Hugging Face 缓存，Nativ 让在 Apple Silicon 上运行多模态大模型变得像使用原生应用一样简单直观。

核心功能亮点

🗣️ 沉浸式本地聊天与视觉体验

• 流式对话：支持实时流式输出，提供极低的延迟感。
• 多模态交互：支持图像附件上传，利用 VLM（视觉语言模型）进行图像理解与分析。
• 持久化历史：自动保存聊天上下文，方便随时回溯与继续对话。
• 透明指标：实时显示响应指标（如首令牌时间、解码速度），让用户对模型性能心中有数。

🖼️ 图像生成与编辑

• 专用标签页：内置独立的“图像”工作区，支持兼容的 MLX 图像生成模型。
• 本地创作：无需联网即可在本地生成或编辑图像，保护创意隐私。

📚 智能模型库与管理

• 自动发现：自动扫描本地 Hugging Face 缓存中的兼容模型。
• 一键下载：直接从应用内浏览并下载新的 MLX 模型。
• 内存预警：在加载模型前评估统一内存占用，若组合超出硬件限制会发出明确警告，防止系统卡顿。
• 多模型预加载：支持同时预加载语言、图像生成和语音模型，实现快速切换。

📊 深度性能分析与系统监控

• AI 性能追踪：跟踪请求量、Token 使用量、TPS（每秒 Token 数）及近期活动趋势。
• 硬件健康看板：实时监控每核心 CPU 负载、GPU 利用率、统一内存压力、交换空间使用情况、磁盘吞吐量及 SMART 健康状态。
• 菜单栏迷你图表：可将关键的 CPU/GPU/RAM 数据固定在菜单栏，无需打开主窗口即可掌握系统状态。

🔌 兼容性强的大模型本地 API

Nativ 内置的服务器端点可与主流开发工具无缝对接：

• OpenAI 兼容：支持 Chat Completions、Responses、Images、Audio 及 Models 端点。
• Anthropic 兼容：支持 Messages 端点。
• 编码工具集成：可轻松配置 Cursor、Claude Code 等编辑器，将其指向 Nativ 的本地服务，实现完全离线的 AI 辅助编程。

🛠️ 高级推理控制与开发者工具

• 精细调参：支持调整采样参数、思考预算、结构化输出格式、KV 缓存量化、前缀缓存及推测解码。
• 服务器管理：自定义主机/端口，添加 Hugging Face Token 访问受限模型，查看实时服务器日志及健康状态。
• 安全访问：支持生成 API Key 保护管理端点，确保局域网内的服务安全。

适用人群

• 隐私倡导者：希望所有数据处理均在本地完成，不上传云端的用户。
• 开发者与工程师：需要稳定的本地 OpenAI/Anthropic 兼容 API 来驱动编码助手或测试应用。
• AI 爱好者：喜欢尝试不同 MLX 模型，并需要直观工具来管理模型库和监控硬件性能的用户。
• 创意工作者：需要在离线环境下进行文本创作、图像生成及多模态分析的专业人士。

快速开始

1. 下载安装：从 GitHub Releases 下载最新 DMG 文件，拖入 Applications 文件夹。
2. 初始化：启动应用，选择已安装的模型或下载推荐模型。
3. 配置 API（可选）：生成 API Key 以保护服务，并复制端点 URL。
4. 开始使用：在主界面开始聊天，或在“Models”标签页管理模型，亦可通过菜单栏快速启停服务。

从源码构建：

brew install xcodegen
make xcode-generate
make xcode-build
open build/XcodeDerivedData/Build/Products/Debug/Nativ.app