LM Studio - 最新版
LM Studio 是一款开源程序,旨在帮助用户在本地设备上运行和实验各种大语言模型,它提供了一个简单而强大的界面,用于配置和推理模型,并能够利用显卡加速计算。此外,该程序完全支持离线运行,适合个人用户在笔记本电脑或台式机上部署开源模型。
RWKV Runner 是一个功能强大且易于使用的工具,适合希望在本地运行 RWKV 模型的用户。它提供了丰富的功能和灵活的部署方式,无论是个人用户还是开发者,都可以通过它快速体验 RWKV 模型的强大能力。
13.7MB 0 人已下载 手机查看
RWKV Runner 是由 RWKV 开源社区成员 josStorer 开发的一款开源工具,用于管理和启动本地 RWKV 模型。它体积小巧(仅约 10MB,不含依赖项),提供了丰富的功能,让用户可以轻松体验基于 RWKV 模型的多种 AI 功能,如聊天、写作和作曲交互等。
RWKV(读作“R Wa Ku V”)是一种高性能的 RNN 架构,具有类似 GPT 级别的大型语言模型(LLM)性能。它结合了 RNN 和 Transformer 的优点,具备以下特点:
RWKV 模型有多个正式版本:
RWKV-7 是最新的架构版本,采用动态状态演化(Dynamic State Evolution),突破了传统 attention 和 linear attention 的性能限制。
从 RWKV-4 架构开始,RWKV 在每个架构版本都发布了多种参数规模的开源模型。
截至 2025 年 2 月,RWKV-4、RWKV-5 模型的生命周期已结束。推荐使用最新的 RWKV-7-world 模型。得益于最新的架构设计,RWKV-7 模型在所有任务上的表现都更好。
版本 | RWKV-V4 | RWKV-v5-Eagle | RWKV-v6-Finch | RWKV-v7-Goose |
---|---|---|---|---|
论文 | 🎓论文 | 🎓论文 | 🎓论文 | ✍️ 撰写中 |
总体状态 | ⚠ EOL | ⚠ EOL | ✨ 稳定版本 | ⚙️ 模型训练中 |
0.4B 模型 | ✅ 已发布 | ✅ 已发布 | ❌ 无计划 | ✅ 已发布 |
1.5B 模型 | ✅ 已发布 | ✅ 已发布 | ✅ 已发布 | ✅ 已发布 |
3B 模型 | ✅ 已发布 | ✅ 已发布 | ✅ 已发布 | ✅ 已发布 |
7B 模型 | ✅ 已发布 | ✅ 已发布 | ✅ 已发布 | 📅 计划训练 |
14B 模型 | ✅ 已发布 | ❌ 无计划 | ||
MoE 模型 | ❌ 无计划 | ❌ 无计划 | ❌ 无计划 | ❌ 无计划 |
RWKV 项目由彭博(Bo Peng,BlinkDL)提出,逐渐发展成为一个开源社区。2023 年 9 月 20 日,RWKV 开源项目正式加入 Linux 开源基金会,成为开源非盈利组织的一部分。