Perplexity 推出本地优先 AI 智能体框架 Portable Computer，实现零成本推理

Perplexity 推出 Portable Computer，旨在利用可本地部署的模型（如 Qwen 3.8 27B）实现接近云端大模型的效果。其核心动机是应对 Token 消耗和数据隐私问题：闭源模型 API 每次请求都会将私有信息带离设备，而本地推理不产生费用，数据留在设备边界内。

框架设计遵循几个关键原则：上下文效率（保持核心框架简洁，技能按需加载，支持上下文压缩）、连接器作为命令行工具（避免 MCP 服务器庞大的工具定义占用上下文）、自我验证（模型或钩子触发验证以提升性能）、沙盒执行（OS 级沙箱限制进程、文件路径和网络访问，且默认启用，不可降级）。

协调器是确定性框架代码，而非大模型，负责维护循环、构建上下文和执行策略；本地模型提出下一步操作，协调器在沙箱中执行。外部功能（如网络搜索、连接器、顾问）仅在用户启用并批准时才会跨越设备边界。

为单独评估框架性能，Perplexity 使用相同的 Qwen 3.8 27B 模型（未后训练）在 DGX Spark 上对比 Portable Computer 与开源框架 Hermes、Pi。网络搜索测试基于 1266 个 BrowseComp 任务：Computer 准确率 66.7%，Pi 50.2%，Hermes 43.9%；平均运行时间 402.1 秒，token 85.2 万，比 Hermes 少 61% 时间和 16% token，比 Pi 少 51% 时间和 70% token。

多模态文档理解在 ParseBench-100（100 个任务，涵盖图表、布局、表格、文本、格式各 20 个）上：Computer 平均得分 65.1%，Hermes 34.6%，Pi 13.9%；Computer 耗时 60.6 秒/任务，token 20.1k，远低于 Hermes（108.3 秒，32.1k）和 Pi（410.5 秒，829.1k）。Computer 在所有五个类别中领先，但布局仍是三者的共同难点。

对于超出端侧模型能力的复杂任务，框架提供顾问工具：本地模型可请求更强大的前沿模型（如 Claude Opus 5）提供规划、歧义解决、故障恢复或结果验证。升级可选，用户可控制启用和批准方式；顾问仅接收经批准的上下文，无法直接访问设备文件或工具，且发送前会应用 PII 分类器标记敏感信息。

在 Terminal Bench 2.1（89 个编码任务）上，完全本地化的 Qwen 3.8 27B 得分为 59.6%，升级到 Claude Opus 5 顾问后提升至 73.0%，每次部署 API 成本约 0.415 美元；单独运行 Claude Opus 5 得分为 82.4%，成本 0.65 美元。升级以约三分之二的前沿成本弥补了五分之三的差距，但无法完全消除。

Perplexity 还利用合成数据对 Qwen 3.8 27B 进行后训练（拒绝采样微调 + 强化学习），生成 PPLX 27B。在内部 Local Knowledge Work Bench（53 个任务，覆盖七个知识工作类别）上，基础模型下 Computer 得分 82.6%（Pi 77.6%，Hermes 74.0%），PPLX 27B 将得分提升至 85.4%，但 token 消耗增加，预计运行时间 250 秒。

尽管本地优先方法在成本和隐私上优势明显，但端侧模型在绝对性能上仍不及前沿模型。在 Terminal Bench 2.1 高难度编码任务中，本地模型在所有测试平台上均落后于前沿模型，顾问升级只能缩小差距，不能完全消除。

Perplexity 认为，随着芯片、模型和设备的进步，本地处理的知识工作范围和质量将持续扩展。他们计划发布技术报告详细描述训练过程，并开源评估基准。