DistressBench: Evaluating Multi-Dimensional Crisis Support in Large Language Models
自殺・自傷の危機対応を測るベンチマーク「DistressBench」
国際リスク要約
大規模言語モデル（LLM）が感情的な相談に使われる中、自殺・自傷の危機を訴える会話への応答の質を評価するベンチマーク「DistressBench」が提案された。臨床医が作成した718件の会話と評価基準を用いた結果、最良モデルでも臨床医の応答水準に届かないことが示された。
リスクの側から考える
危機的な相談にLLMが不十分な応答をした場合、利用者の安全に直結する損害が生じうるが、誰がその責任を負うのかという体制は未整備である。
記事に書かれた事実ではなく、読む人が考えるための問いかけです。キーワード
タイトル、要約、分類、波及は、原文のフィード情報をもとにAIが作成しました。全訳は掲載していません。正確な内容は原文でご確認ください。