なぜ意見の相違を計画するのか
人に教えることは、最も確実な学び方の一つです。ティーチャブル・エージェントを使えば、どの生徒も「教える側」になれます。同じ問題の異なる解き方を比べることは学びを深めますが、意見の相違は逆効果にもなりえます。ペアの生徒を対象にした研究では、解消されないまま終わった相違が、ラポール(信頼関係)の低さを予測していました。そこでこのバージョンのEmmaは、意見の相違を偶然に任せません。生徒の解き方を理解したうえで検証済みの別解を示し、問題を解き終えた後に、2つの解き方を生徒に比べてもらいます。
会話の流れ
EmmaのLLMエージェントハーネスをPythonで設計・開発しています。実験ではAzure OpenAI(Azure AI Foundry)上で動かし、プロトタイピングやオフライン実験では、オープンウェイトのモデルをvLLMでローカルに動かしています。
- 生徒が自分の解き方を説明し始める
- Emmaが検証済みの解き方に対応づける。判断できない場合は確認の質問をする
- Emmaが検証済みの別解を示し、どちらの解き方で進めるかを生徒に尋ねる
- Emmaがステップを順に進め、それぞれの「何を・どうやって・なぜ」を確認する
- Emmaが2つの解き方を振り返り、少し変えた問題ではどちらがよいかを尋ねる
1問分の流れ(簡略版)
LLMの各呼び出しは、Emmaの判断(どの解き方に対応したか、ステップのどの要素が説明済みかなど)と、次に話す内容の両方を含む1つの構造化JSONを返します。判断と応答は同時に生成されます。
難しかった点
特に苦労したのは、生徒がどの解き方を意図しているかを見極めることと、各ステップを追跡することの2点です。
生徒の解き方の不確かさ:生徒の最初の説明は不完全なことが多く、早い段階での対応づけは間違っている可能性があります。そこで、Emmaが1つの検証済みの解き方に決めた後も、その解き方の最初のステップのあいだは、LLMによる分類を非同期で実行し続けています。そのため遅延は増えません。生徒のその後の説明が別の検証済みの解き方により合っていれば、Emmaは対応づけを切り替えます。
「何を・どうやって・なぜ」の追跡:生徒は複数のステップを一度に説明したり、あるステップの理由をそのステップより前に話したりすることがよくあります。そこでLLMは、現在のステップだけでなく、先のステップについても「何を・どうやって・なぜ」を記録します。新しいステップで3つがすでにそろっていれば、Emmaは「次は……をすればいい?」のようにはい・いいえで答えられる質問をするだけです。これにより、不要なやり取りが大幅に減りました。
実験の運営
このエージェントは、IRB承認済みの参加者72名による統制実験で使われています。研究基盤も一貫して担当しています。ASP.NETのWebアプリケーション、Pythonの対話サービス(ルールベースのAIMLからLLMベースに移行)、Azure SQL、データパイプラインを構築し、参加者のデータは、他の研究用の計算環境とは分離した、IRBの要件を満たす大学のAzure環境で管理しています。