大语言模型

Jan 是一款功能强大且易用的本地 AI 应用程序，专为普通人设计，注重隐私和灵活性。无论您是希望运行本地模型还是连接云端服务，Jan 都能提供全面的支持。结合其跨平台兼容性和社区支持，Jan 成为了本地化 AI 应用的理想选择。

LM Studio 是一款开源程序，旨在帮助用户在本地设备上运行和实验各种大语言模型，它提供了一个简单而强大的界面，用于配置和推理模型，并能够利用显卡加速计算。此外，该程序完全支持离线运行，适合个人用户在笔记本电脑或台式机上部署开源模型。

Cortex 是一款类似于 Ollama 的开源命令行软件，专为运行大语言模型而设计。它通过简洁的命令行操作，让用户能够快速启动和运行大型语言模型，支持 macOS、Windows 和 Linux 等多种操作系统。

Ollama 是一个开源的框架，专门设计用于简化在本地机器上部署和管理大语言模型，Ollama 提供了简单的命令行界面（CLI），用户可以通过一条命令快速启动和运行大型模型，支持多种预构建的模型。

AingDesk大幅简化了大语言模型的管理和使用流程。它不仅支持一键安装和管理热门 AI 模型，还提供了知识库、网络搜索等功能，极大地提升了用户体验。

GAIA 是由 AMD专为本地运行大语言模型（LLM）设计的AI应用，让开发者和普通用户能够在本地 PC 硬件上快速部署和运行生成式 AI 应用程序。通过结合 Ryzen-AI PC 中的神经处理单元（NPU）和集成显卡（iGPU），GAIA 实现了高效、私密且低延迟的 AI 处理能力，特别适合对数据隐私要求较高的场景。