スマホでコピーしPCで完了:JarvisGUIが示すGUIエージェントの弱点

Android、Windows、Ubuntuをまたぐ動的作業で、端末間の状態移動と長い依存関係を評価するベンチマークです。

一画面の成功だけでは実務にならない

9月9日公開、EMNLP 2026 Main採択のJarvisGUIは、単一端末・固定作業に偏ったGUI評価を見直します。実務ではスマートフォンの情報をWindows文書へ移し、Ubuntuの道具で処理するなど、中間成果と状態が端末間を移動します。

研究は作業を軽量な型システムの入出力変換として表し、Android、Windows、Ubuntuの仮想環境で多段工程を動的に合成します。クリック順の暗記ではなく、前工程の成果を次の端末で見つけて使えるかを検査します。

状態移動が能力差になる

著者らは最新オープンGUIエージェントが端末間状態、プラットフォーム変更後の文脈、長期依存の管理で苦戦したと報告します。ただし選定エージェントと仮想環境の結果であり、全商用製品を代表しません。導入側は最終クリックだけでなく、入出力型、ファイル・アカウント境界、端末移行チェックポイント、再開可能性を測るべきです。

原文