AIに二つの文章を比べてもらうとき、順序を入れ替える

比べる文章を変えていないのに、勝敗が変わる

案内文を二つ作り、AIに「どちらが分かりやすいか」と聞く。理由まで付いて返ると、その判定を採用したくなります。ただ、先に置いたか後に置いたかが判定へ影響していないかは、一回の比較だけでは分かりません。

2023年のMT-Bench研究は、GPT-3.5で作った類似回答の組を、GPT-4、GPT-3.5、Claude-v1などで審査し、提示順による偏りを調べました。似た回答を区別する難しい条件であり、人にも差が見えにくい場合があります。参照版はarXiv v4で、NeurIPS 2023の採録記載があります。

短い2案を、内容を保ったまま反転する

以下は論文の再現ではなく、記事独自の小さな確認案です。架空の案内文Xを「資料整理会は10月8日14時開始です。参加には事前申込が必要です。」、Yを「事前申込のうえご参加ください。資料整理会は10月8日14時から開きます。」とします。実在の個人情報や社内資料を入力する必要はありません。

先に評価基準を「日時と事前申込の必要性が読み取れるか。同程度なら引き分け」と決めます。新しい会話でX、Yの順に示し、別の新しい会話ではY、Xの順にします。文章、基準、モデル、変更できる生成設定を揃え、前の判定は次の会話へ渡しません。

表示用の「文章1」「文章2」は位置の番号とし、手元のメモには元のXとYの対応を残します。判定は「1が勝ち」だけで記録せず、元のどの文章が選ばれたかへ戻します。これをしないと、両方で1が勝ったことを同じ文章の勝利と取り違えます。

勝敗を読むための3つの欄

記録欄は「提示順／元の文章での勝敗／理由が参照した箇所」です。両順でXなら今回の比較は一致、両順で引き分けなら同程度の判定、XとYに割れたら不一致とします。一方が勝ち、他方が引き分けの場合も、勝ちが再現したとは数えません。

不一致なら、自分に都合のよい判定を採用する前に保留へ戻します。どの文が基準を満たすかを人が読み、そもそも差を付ける必要があるかを考えます。この2案なら必要事項は両方にあるため、引き分けを認めることにも意味があります。

順序を反転しても、正しさの保証にはならない

一組を二回見ただけでは、違いの原因が提示順なのか生成のばらつきなのかを確定できません。一致しても、両方で同じ誤りを見逃した可能性は残ります。順序反転は、不安定さを見つけるための確認であって、正しい審査員を作る方法ではありません。

論文では回答が近い条件ほど偏りが目立つ場合があり、すべての比較で必ず逆転するとは言えません。また、この確認で文章の長さや作者名の影響まで消したことにはなりません。実際の文章を扱うなら、機密情報を除き、勝敗と事実確認は分けます。

最後に残したいのは「AIがXを推した」より具体的な記録です。「同じ2案を両順で見たら判定が割れたので、基準の一項目を人が確認した」。この形なら、次の比較で同じ不安定さを探せます。