このAIモデルは他のモデルに比べ、より有用で誠実、かつ害の少ない回答を生成した
革新的な対話のテクニックを用いた、画期的で新しいAIモデルは、ソーシャルメディア（SNS）や他のオンライン対話プラットフォームで起こる話者間の分断の解消に役立つ大きな可能性を秘めています。その中心となるのは、対人関係のやりとりの根底にあって重要な役割を果たす「意図」をはっきりさせる能力です。
「人々はAIの支援を受けることで、より効果的かつ冷静に、そしてより明瞭なコミュニケーションが取れるようになるでしょうか？」と問いかけるのは、SRIのCenter for Vision Technologies（ビジョンテクノロジーズセンター）でVision and Learning Laboratoryのシニアテクニカルディレクターを務めるAjay Divakaranです。「SNS上の辛辣な批判については頻繁に耳にしますし、私たち自身も経験したことがあるのではないでしょうか。AIと人間が手を取りあえば、対話の根底にある意図をはっきりさせることができます。そこから、対話全体を通し、AIが特定の議論にとりまく感情を取り除く支援ができれば、人々の側には適切な表現と真実が残るようにすることができます」。
よりポジティブな結果を得る
DRESS（Dynamic Response Enhancement via Systematic Feedback、系統的フィードバックにより向上する動態的応答）と名付けられたSRIのこのモデルは、現行の言語モデルで使用されている重大な制約のいくつかに対応することが期待されています。この制約の1点目は、既存のモデルがすでにある人間の言語的嗜好に合わせることを主眼としていることです。しかし、フィードバックを追加的に取り入れなければ、このようなモデルは、役に立たない、幻覚のような、あるいは有害にすらなり得る回答を生成することがよく起こります。
制約の2点目は、現行の言語モデルにより構造化された対話では、連続した会話のターン（通常の会話のやりとり）の中で、繋がりや依存関係が欠落する可能性があることです。こうした要因が、効果的で誠実な会話、特に誤解に基づく口論で終わらせないように会話を行うAIの能力を弱めています。
例をあげると、政治の分野では意図を明確にすることが最も重要です。意図が誤解されると、友人や家族だけでなく、見ず知らずの人たちとも口論になる可能性があります。また、誤情報や誤解に基づく議論を生む原因にもなり、トピックに関する明確な判断ができなくなることもあります。DRESSは、意図を明確にし、より微妙なニュアンスをもつ応答を行う支援をすることができ、その結果として、分断の原因となり得る感情を抑え、誤情報を少なくするのに役立ちます。
「例えば、政治的な議論では、AIモデルは各人の根底にある考え方から立場や意図を明確にする支援ができるため、直面している課題について、市民の間で議論をより円滑に進めるのに役立ちます」とDivakaranは提案します。「また、外交の場のコミュニケーションでは、提案を増やすことで建設的な対話を促進し、当事者が妥協点を見いだすことに貢献します」。
文脈に沿った言語学習
DRESSは、自然言語のフィードバックを、批評（クリティーク）と洗練（リファインメント）という2つのタイプに分類しています。クリティークは、回答の長所と短所を判別することに重点を置いており、これにより議論の参加者がそのトピックから脱線しないようにします。一方、リファインメントは改善のための具体的な提案を提示します。これは、どこでも前後のやりとりから得られるフィードバックを基に、特定の回答を洗練させ、モデルの対話能力を向上させます。
「外交の場のコミュニケーションでは、提案を増やすことで建設的な対話を促進し、当事者が共通点を見いだすことに貢献します」―Ajay Divakaran
人々がその場で議論することの難しさを克服するため、DRESSは条件付き強化として、特定の状況を想定したトレーニングを採用しています。このシステムは、モデルが学習しながらフィードバックを効果的に取り入れることで、より微妙で文脈に適した回答が導かれます。
「ある2人がデートに行く場合を想像してみてください。結婚して10年を超える夫婦であれば、会話の文脈は大きく異なるでしょう。最初のデートであれば、正直な言葉で話す必要があるでしょうが、おそらく、完全にオープンではないでしょう。ですが、結婚して何年も経っていれば、これとは異なるレベルのコミュニケーションが確立されます」とDivakaranは述べています。
より友好的な対話
このモデルは、ユーザーの根底にある意図を解釈して、これに応答することができます。これは、法的な文脈や外交上のコミュニケーション、また、感情的になりやすい議論など、意図を理解することが不可欠な状況において非常に重要なことです。意図を理解することで誤解を防ぎ、より明確なコミュニケーションを促進して、効果的な交流ができるようになります。
DRESSの試験は研究室の内外で行われ、その結果、いくつかの重要な分野において、DRESSが現在の最先端の言語モデルを凌駕していることが実証されています。DRESSが生成した回答では他の最先端モデルより、9.76％有用で11.52％誠実になり、21.03％害が少なくなりました。さらに、ターンが複数回ある対話中のフィードバックに基づく学習能力もより優れています。
先端が尖るまで削った鉛筆の写真をこのモデルに見せて、「これで誰かを傷つけることができますか？」と尋ねたとしましょう。すぐに出てくる回答は「はい、鋭利なので人を傷つける可能性があります」となるかもしれませんが、この回答は役には立たず、優れてもいません。より適切な回答は、質問の背後にある意図を特に考慮し、「これは鉛筆で、紙に書くようデザインされています。鋭利ですが、主な目的は人に危害を加えることではありません」となるでしょう。このアプローチは、この物体の真の目的を認識しながら、誤解を招きかねない意味合いから対話をさりげなくそらしています。
AIが日常生活のさまざまな場面に一層深く溶け込みつつある中、DRESSのようなモデルは、より信頼性が高く信用できるAIシステムの開発において、きわめて重要な一歩を意味します。研究者や開発者は、このアプローチが未来のイノベーションへの道を切り開き、人間と人工知能の間にあるギャップをさらに狭めるとともに、すべての対話の背後にある意図が正確に理解・伝達されるようになるだろうと期待を寄せています。
AIに関する取り組みの詳細については、こちらまでお問い合わせください。
