로봇에 큰 GPU를 싣지 않아도 될까: AI 추론을 밖으로 보낸 Microsoft의 실험

Microsoft Research는 로봇의 VLA 추론을 엣지·클라우드 GPU로 보내면 성공률과 배터리 시간을 높일 수 있다는 측정 결과와 도구를 공개했다.

로봇의 두뇌를 몸 밖에 배치하는 선택

Microsoft Research는 9월 23일 실제 로봇의 AI 추론을 온프레미스 엣지나 클라우드 GPU로 보내는 측정 연구와 도구를 공개했습니다. 연구진은 작은 온보드 GPU의 추가 지연만으로도 VLA 모델 정확도가 50% 떨어질 수 있었고, 더 강한 외부 GPU를 사용하면 물체 전달과 이동 작업 성공률이 개선됐다고 보고했습니다.

전력 측면에서는 무거운 온보드 GPU를 Raspberry Pi 5 같은 경량 보드로 바꾸고 추론을 외부로 보내 Stretch-3 로봇의 배터리 시간이 100% 이상 늘어난 사례를 제시했습니다. Kubernetes 기반 Physical AI Toolchain은 작업을 컨테이너화하고 로봇·엣지·클라우드 가운데 실행 위치를 배치하며 ROS2, LeRobot와 시뮬레이터를 연결합니다.

네트워크는 새 부품이자 새 고장 지점이다

오프로딩은 GPU 무게와 전력을 줄이지만 지연, 대역폭, 연결 단절과 클라우드 비용을 추가합니다. 안전 정지가 네트워크 왕복에 의존하면 안 되며, 연구 결과도 선택한 로봇·모델·네트워크에서 나온 값입니다. 배터리 “최대 160% 소모 증가”나 정확도 변화가 모든 장비에 그대로 적용되지는 않습니다.

배치 전에는 로컬 안전 제어, 지연 상한, 연결 끊김 시 동작, 영상 데이터 보호, 엣지 장애 전환과 작업별 성공률을 함께 시험해야 합니다.

공식 출처