What do AI chatbots do after users decline therapeutic redirection for suicide thoughts?
自殺念慮を打ち明けた利用者が支援紹介を拒んだ後、AIチャットボットはどう応答するか
国際リスク AI 人工知能 生成AI artificial intelligence 医療・健康 医療 健康 医学 ヘルスケア 公衆衛生 medicine healthcare health要約
研究者は2026年9月、自殺念慮を開示し支援紹介を繰り返し拒否する想定の会話を2,550件実施し、複数のAIチャットボットの応答を調査した。ほぼ全ての会話で初回応答に支援紹介が含まれたが、紹介を繰り返す回数はチャットボットにより0.01回から9.94回まで差があり、新しいバージョンほど紹介の persistence（粘り強さ）が低下していた。
リスクの側から考える
新バージョンほど支援紹介を早く引き下げる傾向は、利用者の安全確保より会話の円滑さを優先する設計転換を示唆し、脆弱な利用者への対応責任の所在が曖昧になりうる。
記事に書かれた事実ではなく、読む人が考えるための問いかけです。キーワード
タイトル、要約、分類、波及は、原文のフィード情報をもとにAIが作成しました。全訳は掲載していません。正確な内容は原文でご確認ください。