ollama推出实验性Vulkan支持 扩展AMD与英特尔显卡兼容范围

2个月前 小马良
72 0

今晚发布的ollama 0.12.6-rc0软件带来了实验性的Vulkan API支持。

ollama软件持续受到爱好者欢迎,因其能便捷运行各类大语言模型,如GPT-OSS、DeepSeek-R1、Gemma 3以及Llama 3/4等系列模型。Ollama拥有广泛的应用集成与库支持,同时依托Llama.cpp完成大量底层运算。用户期待已久的功能终于在此版本中实现:为原本缺乏显卡支持的环境提供Vulkan API支持。

ollama 0.12.6版本引入了实验性Vulkan支持。在此0.12.6-rc0测试版中,从源码编译的用户即可使用该功能。Vulkan支持最终将出现在未来ollama二进制发行版中,开发团队目前正在攻克多项技术障碍。

ollama的Vulkan支持主要面向AMD和英特尔显卡用户,覆盖那些原本缺乏ROCM或SYCL/OpenCL支持的GPU设备。

这项历时一年半的Vulkan支持开发任务已在今日伴随-rc0里程碑版本完成结项。

更多关于ollama实验性Vulkan支持的细节,请参阅v0.12.6-rc0版本公告

暂无评论

none
暂无评论...