What Counts as Evidence? Epistemic Cue Utilization in Large Language Models
大規模言語モデルはどの手がかりを「証拠」として重視するのか
国際リスク要約
複数の情報源が対立する場面で大規模言語モデル（LLM）がどの手がかりに基づいて判断を下すかを、500のシナリオと13のLLMを用いて検証した研究である。情報源の信頼性の認識自体はモデル間でほぼ同じでも、情報源履歴を入れ替えると判断が全く逆転するモデルがある一方、ほぼ影響を受けないモデルもあることが分かった。さらにQwenの3つのチェックポイントに介入実験を行い、事実の再提示や重み付け原則の追加で信頼性への感度が大きく変化することを示した。
リスクの側から考える
LLMが情報源の信頼性をどう扱うかが不透明なまま意思決定支援に使われれば、誤情報への脆弱性が利用者に見えにくい形で残る。
記事に書かれた事実ではなく、読む人が考えるための問いかけです。キーワード
タイトル、要約、分類、波及は、原文のフィード情報をもとにAIが作成しました。全訳は掲載していません。正確な内容は原文でご確認ください。