Llama for Windows
Llama for Windows

Llama for Windows最新版

官方版无广告58

Hugging Face 和 llama.cpp 团队推出 Llama for Windows,一款基于WinUI 3开发的轻量桌面工具,集成Hugging Face模型仓库,帮助Windows 11用户一键下载、运行本地AI大模型,项目开源免费。

更新日期:
2026年10月16日
语言:
中文
平台:

91.1MB0 人已下载 手机查看

Hugging Face 和 llama.cpp 团队推出 Llama for Windows,一款基于WinUI 3开发的轻量桌面工具,集成Hugging Face模型仓库,帮助Windows 11用户一键下载、运行本地AI大模型,项目开源免费。

Llama for Windows

市面上已有LM Studio这类GUI本地模型工具,Llama for Windows的差异化在于常驻系统托盘,轻量化运行。底层依托llama.cpp推理引擎,安装后可直接浏览Hugging Face推荐量化模型,下载前展示模型大小、参数量、多模态视觉支持等信息,下载完成后通过内置网页界面对话。

核心功能:

  • 直接浏览、拉取Hugging Face量化模型,复用HF缓存避免重复下载;
  • 常驻系统托盘,全局快捷键 Alt + Space 一键唤起聊天窗口;
  • 自动配置llama.cpp运行时,无需管理员权限;
  • 内置本地OpenAI兼容API,地址 http://localhost:9931/v1,可供代码代理、编辑器等第三方应用调用本地模型。

硬件兼容支持x64与ARM64架构Win11设备,针对NVIDIA RTX Spark平台做了专项优化;目前已支持Windows on Arm,后续计划针对骁龙X Elite系列NPU做深度适配。

相关软件

Jan

Jan - 最新版

Jan 是一款功能强大且易用的本地 AI 应用程序,专为普通人设计,注重隐私和灵活性。无论您是希望运行本地模型还是连接云端服务,Jan 都能提供全面的支持。结合其跨平台兼容性和社区支持,Jan 成为了本地化 AI 应用的理想选择。
Open WebUI

Open WebUI - 最新版

Open WebUI 是一个功能丰富的开源工具,适合开发者、研究人员和组织,用于构建自定义 AI 聊天界面。其支持多种 LLM、插件扩展和自托管能力使其在 AI 交互领域具有吸引力。