Atomic Chat
Atomic Chat

Atomic Chat 最新版

官方版无广告23

Atomic Chat 是主打本地智能体工作流的开源桌面AI应用与推理编排引擎,一键部署、开箱即用,在本机跑开源权重大模型,同时兼容各大云模型服务商,对外暴露统一的OpenAI兼容接口,方便各类Agent、IDE插件接入。

更新日期:
2026年11月8日
分类标签:
语言:
中文
平台:

182MB0 人已下载 手机查看

Atomic Chat 是主打本地智能体工作流的开源桌面AI应用与推理编排引擎,一键部署、开箱即用,在本机跑开源权重大模型,同时兼容各大云模型服务商,对外暴露统一的OpenAI兼容接口,方便各类Agent、IDE插件接入。

Atomic Chat

核心亮点

  • 开箱即用:Mac原生应用,自动处理引擎部署,几乎零配置;开源可审计
  • 智能体优先:内置一键启动入口,支持 Claude Code、Cline、OpenCode、Goose、OpenHands 等主流编码智能体
  • 模型生态丰富:内置1000+模型,Llama、Qwen、DeepSeek、Mistral、Gemma等;支持GGUF、MLX、ONNX格式
  • 混合调度:本地模型 + 云模型(OpenAI、Anthropic、MiniMax、通义千问、月之暗面等)自由切换
  • 持久化项目与对话树,跨会话记忆,配套HTML工件实时预览面板
  • MCP多服务器接入,扩展文件读写、联网搜索等工具能力

推理加速能力

  • MTP多Token推测解码:吞吐量提升30–70%,Gemma 4最高可达3倍
  • DFlash块扩散解码:Qwen3.6、Gemma4、Kimi K2.5最高提速6倍(Apple Silicon专属,和MTP互斥)
  • TurboQuant KV缓存:KV缓存体积最高压缩4.3倍,llama.cpp分支现已支持Windows/Linux/macOS,CUDA/Vulkan/Metal/CPU都能用
  • Flash Attention可手动开关;Apple Silicon额外支持EAGLE-3推测解码
  • 底层自动选择最优引擎,上层API无感知

12套底层推理引擎(自动按需加载)

文本/多模态引擎:llama.cpp、Atomic TurboQuant分支、PrismML、MLX-VLM、Apple Foundation Models、Foundry Local、LiteRT-LM、GenieX、TensorRT-LLM、vLLM、SGLang
图像视频引擎:定制版stable-diffusion.cpp,支持FLUX、Qwen-Image、Wan2.2、LTX-2等

TensorRT-LLM / vLLM / SGLang 会自动托管在容器,Windows走内置WSL发行版

本地API

  • 地址:[http://localhost:1337/v1](http://localhost:1337/v1),完全兼容OpenAI SDK
  • 默认仅本地回环 127.0.0.1;修改host为0.0.0.0即可局域网共享
  • 所有支持OpenAI协议的Agent、CLI、IDE插件都可以直接对接

隐私设计

本地模型默认流量不外出,对话记录、API密钥保存在本机;本地服务默认不对外暴露。
底层核心 atomic-chat-core 可独立作为CLI或库单独部署。

相关软件

鲸喷

鲸喷 - 最新版

DeepRant(鲸喷)是一款专为游戏玩家量身定制的翻译工具,它不仅解决了语言障碍的问题,还提供了丰富的功能以适应不同的游戏场景。无论您是想与国际玩家交流、参与跨服竞技,还是在团队中更高效地沟通,DeepRant 都能为您提供强大的支持。
PocketPal AI

PocketPal AI -

PocketPal AI 是一款开源的 AI 助手应用,专为 iOS 和 Android 用户设计。它通过小型语言模型(SLM)直接在你的手机上运行,让你无需互联网连接即可与各种 AI 模型进行交互。这款应用不仅提供了强大的功能,还确保了数据的安全性和隐私性。