NVIDIA Personal AI Router (PAIR)

英伟达正式发布了 NVIDIA Personal AI Router (PAIR)，这是一款免费的开源软件工具，将家庭或办公室局域网内的多台兼容计算机连接起来，形成一个分布式的本地 AI 推理网络。通过智能调度空闲算力，PAIR 让用户能够利用家中闲置的 GPU 资源处理复杂的 AI 任务，而无需购买昂贵的专用服务器硬件。

核心功能与工作原理

• 分布式推理路由：
  • PAIR 会自动发现同一网络下的兼容节点（PC、笔记本等）。
  • 它充当一个本地路由器，向应用程序提供 Ollama 兼容 和 OpenAI 兼容 的 API 端点。
  • 根据引擎可用性、模型加载状态及当前工作负载，将独立的推理请求动态路由到最合适的节点。
• 智能空闲利用：
  • 系统仅在节点空闲时分配任务，确保不会干扰用户正在进行的其他活动（如游戏、视频编辑等）。
  • 支持热插拔：当设备加入或离开网络（例如用户开始玩游戏占用 GPU）时，PAIR 会自动调整路由策略。
• 安全与隐私：
  • 所有通信均通过 mTLS（双向传输层安全） 加密，确保数据在本地网络内传输的安全性。
  • 提示词和响应数据完全保留在本地网络中，不上传至云端。

⚠️ 重要澄清：它不是“超级 GPU”

英伟达明确指出，PAIR 并非用于以下目的：

• ❌ 不池化显存：它不能将多台电脑的 GPU 内存合并成一个更大的逻辑显存。
• ❌ 不支持模型分片：它不能将一个巨大的模型拆分到多台机器上运行。
• ❌ 不分割单个请求：每个独立的推理请求只会由单个节点完成，而不是分散到多台机器并行计算。

简单来说：PAIR 是一个负载均衡器，而不是一个集群计算器。它适合处理大量并发的独立小任务（如多代理工作流），而非单个需要超大显存的巨型模型推理。

硬件支持与兼容性

• NVIDIA GPU：支持 GeForce RTX 20 系列及更新版本、RTX Pro GPU 以及 DGX Spark 系统。
• Apple Silicon：支持搭载 M4 芯片及更新版本的 Mac 设备。
• 操作系统：支持 Windows、Linux 和 macOS。
• 典型场景：英伟达设想的最常见用户配置是一台高性能游戏 PC 搭配一台 MacBook 或 Windows 笔记本。

“闲置算力的宝库”

英伟达产品经理 Seth Schneider 描绘了一个典型的多设备家庭场景：父亲的游戏本、母亲的 RTX 5090 笔记本、女儿的游戏台式机以及儿子的 MacBook Pro。通过这些设备的协同工作，家庭可释放出约 165 TFLOPS 的闲置算力。PAIR 让这部分原本被浪费的计算资源转化为可用的 AI Token，且成本仅电费而已。

配套生态简化

为了降低使用门槛，英伟达还宣布 Perplexity Portable Computer、Hermes Agent 和 OpenClaw 三款主流 AI 代理应用将在 Windows 上提供简化的本地设置体验，用户只需点击几下即可在配备 NVIDIA GPU 的设备上运行本地代理，并与 PAIR 无缝集成。