Llama for Windows
Llama for Windows

Llama for Windows最新版

官方版无广告25

Hugging Face 和 llama.cpp 团队推出 Llama for Windows,一款基于WinUI 3开发的轻量桌面工具,集成Hugging Face模型仓库,帮助Windows 11用户一键下载、运行本地AI大模型,项目开源免费。

更新日期:
2026年10月16日
语言:
中文
平台:

91.1MB0 人已下载 手机查看

Hugging Face 和 llama.cpp 团队推出 Llama for Windows,一款基于WinUI 3开发的轻量桌面工具,集成Hugging Face模型仓库,帮助Windows 11用户一键下载、运行本地AI大模型,项目开源免费。

Llama for Windows

市面上已有LM Studio这类GUI本地模型工具,Llama for Windows的差异化在于常驻系统托盘,轻量化运行。底层依托llama.cpp推理引擎,安装后可直接浏览Hugging Face推荐量化模型,下载前展示模型大小、参数量、多模态视觉支持等信息,下载完成后通过内置网页界面对话。

核心功能:

  • 直接浏览、拉取Hugging Face量化模型,复用HF缓存避免重复下载;
  • 常驻系统托盘,全局快捷键 Alt + Space 一键唤起聊天窗口;
  • 自动配置llama.cpp运行时,无需管理员权限;
  • 内置本地OpenAI兼容API,地址 http://localhost:9931/v1,可供代码代理、编辑器等第三方应用调用本地模型。

硬件兼容支持x64与ARM64架构Win11设备,针对NVIDIA RTX Spark平台做了专项优化;目前已支持Windows on Arm,后续计划针对骁龙X Elite系列NPU做深度适配。

相关软件

LocalAI

LocalAI - 最新版

LocalAI 是一个功能强大、注重隐私的社区驱动 AI 平台,允许用户在本地运行多种 AI 模型。其与 OpenAI API 的兼容性、多任务支持以及近期在去中心化和多模态能力上的进步,使其成为开发者和创作者的理想选择。
Translate Books with LLMs

Translate Books with LLMs - 最新版

Translate Books with LLMs 是一款专为解决上述痛点设计的开源工具,支持本地与云端多种 AI 模型,让高质量、无损格式的自动化翻译成为可能。 无论是上千页的小说,还是带有精确时间轴的字幕文件,Translate Books 都能通过智能分块与上下文保持技术,实现“无大小限制”的处理能力,并在输出时完美还原原始结构与样式。