DeepSeek R1本地部署教程,电脑、手机都可以,免费不花钱!

教程6天前更新 小马良
14 0

DeepSeek 自今年一月以来在全球范围内引发了广泛关注。这家来自中国的 AI 初创公司凭借其应用在苹果应用商店的“最佳免费应用”类别中迅速攀升至首位,超越了 OpenAI 的 ChatGPT。然而,随之而来的是一系列持续性的攻击,导致其官网和应用程序频繁崩溃,严重影响了用户体验。

DeepSeek R1本地部署教程,电脑、手机都可以,免费不花钱!

值得庆幸的是,目前国内外的 AI 应用及云服务商已经上线了完整的 DeepSeek R1 版本。作为一款开源模型,用户还可以选择在个人电脑或手机上部署 DeepSeek R1。尽管满血版可能对硬件要求较高,但小参数版本足以满足日常需求,并且可以在无网络环境下使用。

DeepSeek R1本地部署教程,电脑、手机都可以,免费不花钱!

本文将详细介绍如何在电脑和手机上本地运行 DeepSeek R1,帮助你更好地利用这款强大的 AI 模型。

什么是 DeepSeek R1?

DeepSeek R1是深度求索在今年一月开源的一款推理大模型,DeepSeek R1 的功能与其他主流聊天机器人(如微软的 Copilot 或 OpenAI 的 ChatGPT)类似,可用于生成内容、回答问题、撰写文章、总结信息以及协助编程任务等。

相关:深度求索发布开源推理大语言模型DeepSeek-R1,性能对标 OpenAI o1 正式版

DeepSeek 的独特之处在于其高效的性能表现。它不仅能够提供高质量的推理能力,还支持在本地设备上运行,无需依赖云端服务。这一特性使得 DeepSeek 在全球引起了轰动,并促使业界重新思考大语言模型(LLM)的开发方向。

在电脑上本地运行 DeepSeek R1

以下是两种方法,可以帮助你在 Windows、Mac 或 Linux 系统上本地运行 DeepSeek R1,在电脑上使用此模型需要你的显卡达到一定水平,12G显存的显卡可能是一个比较好的选择。

方法一:使用 LM Studio

  1. 下载 LM Studio

    • 访问 LM Studio 官方网站,并下载适用于 Windows 或 Mac 的免费软件。
    • 安装完成后,启动该程序。
  2. 搜索并下载 DeepSeek R1 模型

    • 在左侧窗格中点击搜索图标。
    • 在“模型搜索”栏中输入“DeepSeek R1 Distill (Qwen 7B)”。
    • 找到对应的模型后,点击底部的“下载”按钮。该模型大小约为 4.68GB,因此需要确保你的设备至少有 5GB 的可用存储空间和 8GB 的 RAM。
  3. 加载模型

    • 下载完成后,切换到“聊天”窗口。
    • 选择已下载的模型,点击“加载模型”按钮。
    • 如果遇到问题,可以尝试将 GPU 卸载调回 0 后重试。

至此,你已经可以在本地与 DeepSeek AI 进行交互,无需担心数据上传到云端服务器。

DeepSeek R1本地部署教程,电脑、手机都可以,免费不花钱!

方法二:使用 Ollama

  1. 安装 Ollama

  2. 运行命令行工具

    • 在 Windows 上打开命令提示符,或在 Mac 上打开终端。
    • 输入以下命令以加载 DeepSeek R1 的高效版本(基于 Qwen,适用于低端计算机):

      ollama run deepseek-r1:1.5b
    • 如果你的设备性能较强,也可以选择加载更大规模的模型。例如:

      • 7B 模型(占用约 4.7GB):ollama run deepseek-r1:7b
      • 8B 模型(占用约 4.9GB):ollama run deepseek-r1:8b
      • 14B 模型(占用约 9GB):ollama run deepseek-r1:14b
      • 32B 模型(占用约 20GB):ollama run deepseek-r1:32b
      • 70B 模型(占用约 43GB):ollama run deepseek-r1:70b
  3. 停止运行

    • 若要结束与模型的对话,只需按下Ctrl+D快捷键即可。

     

DeepSeek R1本地部署教程,电脑、手机都可以,免费不花钱!

在手机上本地运行 DeepSeek R1

最低系统要求

由于 LLM 需要较高的计算资源,运行 DeepSeek R1 对设备有一定的硬件要求。以下是针对较小的 1.5B 模型的最低配置建议:

规格 最低要求
内存 8GB 或更高
处理器 骁龙 8 Gen 2 或同等性能
存储空间 至少 12GB 可用空间
操作系统 Android 12 或更高版本

如果你的设备符合以上要求,可以按照以下步骤操作。

使用 PocketPal 运行 DeepSeek R1

PocketPal 是一款开源应用程序,允许用户在设备上本地安装和运行 AI 模型。以下是具体步骤:

  1. 安装 PocketPal

    • 打开 App Store 或 Google Play 商店,搜索并下载 PocketPal 应用。安卓系统还可以直接从GitHub上下载应用进行安装。
  2. 添加模型

    • 打开应用后,点击底部导航栏中的“Models”。
    • 点击右上角的“+”图标,选择“Add from Hugging Face”。
  3. 搜索并下载 DeepSeek R1

    • 在搜索栏中输入“DeepSeek R1”,选择适合你设备存储空间的模型版本(如 1.5B)。
    • 点击下载图标,等待模型下载完成。
  4. 加载模型

    • 下载完成后,返回主屏幕,选择已下载的模型并点击“Load”。

加载完成后,你就可以通过 PocketPal 提供的聊天界面与 DeepSeek R1 进行交互。此外,你还可以关闭网络连接以实现完全本地运行。

DeepSeek R1本地部署教程,电脑、手机都可以,免费不花钱!

希望本教程能帮助你成功在电脑或手机上运行 DeepSeek R1。无论你是开发者、学生还是普通用户,都可以借助这款强大的 AI 工具提升效率、拓展创造力。

© 版权声明

相关文章

暂无评论

none
暂无评论...