大语言模型

Cortex 是一款类似于 Ollama 的开源命令行软件，专为运行大语言模型而设计。它通过简洁的命令行操作，让用户能够快速启动和运行大型语言模型，支持 macOS、Windows 和 Linux 等多种操作系统。

Jan 是一款功能强大且易用的本地 AI 应用程序，专为普通人设计，注重隐私和灵活性。无论您是希望运行本地模型还是连接云端服务，Jan 都能提供全面的支持。结合其跨平台兼容性和社区支持，Jan 成为了本地化 AI 应用的理想选择。

Ollama 是一个开源的框架，专门设计用于简化在本地机器上部署和管理大语言模型，Ollama 提供了简单的命令行界面（CLI），用户可以通过一条命令快速启动和运行大型模型，支持多种预构建的模型。

DeepChat是一个功能强大的开源AI聊天平台，为用户提供与多种大语言模型交互的统一界面。无论是云端API如OpenAI、Gemini、Anthropic，还是本地部署的Ollama模型，DeepChat都能提供流畅的用户体验。

Clippy让你在电脑上本地运行多种大语言模型，同时保留1990年代的用户界面。通过Llama.cpp，它支持流行的GGUF格式模型，即大多数公开可用的模型。它为Google的Gemma3、Meta的Llama 3.2、Microsoft的Phi-4和Qwen的Qwen3提供一键安装支持。

5ire 作为一款开源免费的跨平台桌面 AI 助手，凭借其简洁性、强大的功能和灵活的配置，为用户提供了全新的智能工作体验。通过 MCP 服务器支持工具、本地知识库、使用分析、提示库、书签和可搜索功能，5ire 不仅满足了用户在日常办公中的多样化需求，还为复杂任务处理提供了强大的支持。

LM Studio 是一款开源程序，旨在帮助用户在本地设备上运行和实验各种大语言模型，它提供了一个简单而强大的界面，用于配置和推理模型，并能够利用显卡加速计算。此外，该程序完全支持离线运行，适合个人用户在笔记本电脑或台式机上部署开源模型。

AingDesk大幅简化了大语言模型的管理和使用流程。它不仅支持一键安装和管理热门 AI 模型，还提供了知识库、网络搜索等功能，极大地提升了用户体验。

GAIA 是由 AMD专为本地运行大语言模型（LLM）设计的AI应用，让开发者和普通用户能够在本地 PC 硬件上快速部署和运行生成式 AI 应用程序。通过结合 Ryzen-AI PC 中的神经处理单元（NPU）和集成显卡（iGPU），GAIA 实现了高效、私密且低延迟的 AI 处理能力，特别适合对数据隐私要求较高的场景。

llama.cpp 是一个轻量、高效的开源 AI 项目，适合在各种硬件上运行 LLM，提供丰富的工具和后端支持，开发者可通过 CLI 和 HTTP 服务器轻松使用。它支持模型微调、量化技术，并与 Hugging Face 和 ModelScope 等平台无缝集成，是构建 AI 应用程序的理想选择。

Lemonade 是一个开源平台，专注于让用户在本地运行大语言模型。它利用先进的硬件如 NPU 和 Vulkan GPU 加速，提供快速响应和高效性能，适合个人电脑环境。Lemonade 由 AMD 赞助，采用 Apache 2.0 许可。

Cactus 是一个专为移动设备设计的本地化 AI 部署框架，支持 Flutter 和 React-Native，适用于广泛的跨平台开发场景。

BrowserBee 是一款注重隐私的开源 Chrome 扩展，允许您使用自然语言控制浏览器。它结合了大语言模型 (LLM) 的指令解析与规划能力以及 Playwright 的强大浏览器自动化功能来完成任务。 由于 BrowserBee 完全在浏览器内运行（除了 LLM 外），它可以安全地与登录的网站交互，而不会影响安全性或需要后端基础设施。

EdgeBox 是一个强大的桌面应用程序，它将 E2B (e2b.dev) 基于云的沙箱功能带到您的本地机器。基于开源的 E2B 代码解释器项目，EdgeBox 将沙箱转变为本地运行的环境，让您完全控制 AI 智能体的开发和执行环境。