ツール待ちでターン全体が止まる問題を減らす
従来の関数呼び出しでは、結果が返るまでモデルのターンが停止するのが一般的でした。GPT‑6 Astraでは関数やcustom toolに`async: true`を設定すると、アプリケーションが遅い処理を実行している間も、独立した質問に答え、別ツールを呼び、次の作業を準備できます。
実行がOpenAIへ移るわけではありません。キュー、失敗、再試行はアプリケーションが管理し、完了結果を元の`call_id`で後続のResponses APIリクエストへ渡します。応答生成を非同期化するBackground modeとも異なります。
完了を待たずに方向を変える
Mid-turn steeringでは、WebSocketを通じてAstraの作業中に条件を追加できます。長い調査の途中で「欧州を除外し、中小企業の事例を優先」と変更するような使い方です。完了済みの作業は維持され、更新は後続応答に入ります。
ただし、すでに送信した出力や始まったツールを取り消したり元に戻したりはしません。acceptedイベントも、条件の適用完了ではなく待ち行列への登録を意味します。遅れて届く結果を採用するかはアプリケーションが決めます。
対話しながら働くエージェントへ
長時間調査、複数データ取得、文書作成を並行し、中間結果を見た利用者が優先度を変えられます。一方で保留中の呼び出し、遅延結果、重複継続、費用上限の状態管理が必要です。
良いUIは作業状態、元のcall ID、指示の版、取消状態、結果の採否を示します。革新は待ち時間を隠すことではなく、進行中の仕事を理解し制御できることにあります。