微软研究：物理AI推理卸载至边缘或云端可提升性能与续航
原标题：Offloaded inference for real-world physical AI robotics
AI 摘要
微软研究院挑战了机器人 AI 推理必须完全在机载 GPU 上运行的核心假设，通过对移动操作任务的系统性研究，发现将推理卸载到边缘或云端 GPU 可显著提升任务成功率、支持更大模型并改善动态环境响应能力。研究还显示，用轻量级硬件（如 Raspberry Pi-5）替代高功耗机载 GPU 可大幅延长电池续航，例如 Jetson Thor 曾使电池消耗增加高达 160%。微软同时推出了基于 Kubernetes 的 Physical AI Toolchain 新功能，支持开发者容器化、部署和编排跨机器人、边缘与云的分布式推理工作负载。
正文节选
At a glance - Challenges a core assumption in robotics AI: Our research shows that running physical AI inference exclusively on onboard GPUs can limit robot performance, battery life, and scalability, and that offloading inference to edge or cloud GPUs can offer significant advantages. - Demonstrates measurable benefits of inference offloading: Across representative mobile manipulation workloads, offloading improved task success rates, enabled larger AI models, and helped robots respond more eff