Risk and Refusal: Mechanisms of LLM Responses to Suicidal Ideation
自殺念慮の開示に対するLLMの応答メカニズムを分析
国際リスク要約
大規模言語モデル（LLM）8種を対象に、自殺念慮（suicidal ideation）や自傷の開示への応答を分析した研究である。基準状態ではリスクの高い応答は開示への無関心と拒否応答に起因し、文脈を明示したり拒否を抑制したりすると関与は増えるが安全性は単純には改善しないことを、機構解析を含めて示した。
リスクの側から考える
自殺念慮への対応をAIに委ねる場面が広がれば、誰が応答の安全性を保証し事故時の責任を負うのかという問いが残る。
記事に書かれた事実ではなく、読む人が考えるための問いかけです。キーワード
タイトル、要約、分類、波及は、原文のフィード情報をもとにAIが作成しました。全訳は掲載していません。正確な内容は原文でご確認ください。