Social Priors: Descriptions of AI Users Shape How Language Models Trust and Cooperate
AIユーザー像の記述が言語モデルの信頼・協力行動を形作る
国際リスク要約
AI利用者をどう記述するかが次世代モデルの学習データになりつつある中、利用者の動機づけ（向社会的、反社会的など）を変えて大規模言語モデルQwen3-32Bを微調整した研究である。反社会的な動機を学習したモデルは信頼ゲームで協力度が低く、不信がAI利用者に特に向けられることを示した。
リスクの側から考える
AI利用者に関する記述データの作り方次第でモデルの対人信頼の持ち方が偏り、特定ユーザー層への差別的な対応が生まれる懸念がある。
記事に書かれた事実ではなく、読む人が考えるための問いかけです。キーワード
タイトル、要約、分類、波及は、原文のフィード情報をもとにAIが作成しました。全訳は掲載していません。正確な内容は原文でご確認ください。