Perplexity 今日正式推出 Portable Computer,这是其代理型“Computer”平台的完全本地化版本。通过与英伟达的深度合作,该产品将复杂的 AI 代理工作负载从云端转移至用户本地的硬件设备上——首选 英伟达 DGX Spark 桌面超级计算机或配备至少 24GB 显存(如 RTX 3090 及以上)的 Linux 机器。这一发布标志着本地 AI 从“爱好者玩具”向“实用生产力工具”的关键转折,实现了模型、数据和工作流的完全本地闭环,且不消耗任何计费 Token。

核心亮点:本地优先,无缝混合
- 零 Token 成本:所有在本地完成的任务(如文档审查、数据分析)均不产生 API 费用。界面中的积分计数器在处理敏感财务文件时始终显示为“0”。
- 极致隐私与安全:用户文件、模型推理及工具调用均在设备端完成。系统内置操作系统级沙盒,若沙盒不可用则自动禁用工具执行,确保数据永不离开设备边界。
- 开箱即用的代理栈:解决了传统本地 AI 配置繁琐的痛点。Portable Computer 将模型权重、推理引擎(vLLM)、代理 Harness、工具连接器及安全沙盒打包为一个统一应用,用户无需手动组装各个组件。
- 智能混合模式:当本地模型遇到能力瓶颈时,系统可请求用户许可,将特定步骤升级至云端前沿模型(如 Claude Opus 5)。在此过程中,PII 分类器会自动过滤敏感信息,且远程模型仅返回文本指导,不直接接触本地文件或工具。
技术架构:协同设计的模型与 Harness
Perplexity 的研究表明,通用代理框架难以充分发挥小型本地模型的潜力。因此,Portable Computer 采用了协同设计策略:
- 极简 Harness:摒弃庞大的上下文窗口依赖,采用简洁的系统提示和按需加载的“技能”,避免本地模型过载。
- 紧凑工具链:将 Gmail、GitHub 等连接器从 Token 密集的 MCP 服务器转换为轻量级命令行工具。
- 自验证钩子:内置监控任务健康状态的机制,确保代理在长时程任务中的稳定性。
- 后训练优化:支持 Qwen 3.8 27B、PPLX 27B(Perplexity 后训练版本)及即将推出的 英伟达Nemotron 3.5 Lightning。基准测试显示,PPLX 27B 在内部知识工作台任务中得分高达 85.4%,显著优于开源基线。
应用场景与性能表现
- 敏感数据处理:演示中,代理在 DGX Spark 上全速运行 Qwen 27B 模型,审查了包含 1099 表格和投资文档的文件夹,标记出不必要的费用案例,全程零云端交互。
- 混合工作流:代理可在本地分析 CSV 数据漏斗,并通过连接器将结果推送到 Slack,证明本地优先并不意味着与外界断开连接。
- 性能对比:在 Terminal Bench 2.1 编码基准中,完全本地运行得分为 59.6%(边际成本为零);启用云端“顾问”升级后得分提升至 73.0%,成本仅为单独运行云端模型的三分之二。
战略意义:英伟达 与 Perplexity 的双赢
- 对于 Perplexity:在面对出版商法律诉讼(如《纽约时报》诉讼)及企业对数据隐私日益关注的背景下,Portable Computer 提供了一个不依赖 Token 计量、数据主权归用户的差异化产品,尤其适合法律、金融和医疗等高合规要求行业。
- 对于 英伟达:为 DGX Spark 等高端本地硬件找到了“杀手级应用”。英伟达认为本地 AI 已跨越实用性阈值,希望通过此类应用推动硬件销售,并展示其芯片在运行复杂代理工作负载时的强大能力。
当前限制与未来展望
- 平台限制:目前仅支持 Linux,Windows 支持将于 9 月推出。macOS/Apple Silicon 暂不在路线图上。
- 硬件门槛:要求至少 24GB 显存的英伟达 GPU,排除了大多数普通消费级 PC。
- 性能差距:尽管本地模型表现优异,但在极高难度推理任务上与顶尖云端模型仍有差距,需依赖混合模式弥补。