ツールではなくチームメンバー
7月29日のプレプリントは、対話AIがチームメンバーとして参加したとき人同士の交流がどう変わるかを調べました。学生が重大な道徳的ジレンマを議論する無作為対照実験です。
学生二人とAIの16チーム、学生三人の17チームを比較し、会話構造、語彙、アンケートを分析しました。
最も話したが新情報は少ない
著者報告ではAIは全混合チームで最も多く話し、自分の発言との結び付きも強い一方、新情報と情報密度は最低でした。
AIチームの人間同士は反応性と社会的影響が低く、所属感と地位も低く報告しました。AIの会話支配が強いほど、自分の価値を低く感じる傾向もあり、差は会話の初期から見られました。
チーム設計への示唆
AIが先に答えると議論の基準と発言量を独占し得ます。人が独立意見を書いてからAIを見せる、応答の長さと頻度を制限する、反証や未検討点を担当させる方法が考えられます。
成果だけでなく、人同士の発言バランス、他者の案を発展させる割合、所属感、最終判断への責任感も測る必要があります。
限界
33の学生チーム、一つの道徳課題、テキスト対話に限られ、職場、音声会議、長期協働へ直接一般化できません。査読前であり、全AIチームが有害という結論ではなく相互作用設計も評価すべきという警告です。