Trust Is Not a Score: Runtime Assurance Contracts for High-Risk AI Agents
信頼は点数ではない：高リスクAIエージェントのための実行時保証契約
国際リスク要約
既存のベンチマークや監査はAIエージェントの性能や権限を記述するが、タスク実行中に得られた証拠がエージェントの権限をどう変えるべきかは扱っていないと指摘する。著者らは自律の境界・証拠状態・遷移方針などを束ねる「実行時保証契約（Runtime Assurance Contract）」を提案し、臨床・産業・司法の失敗事例や280件の人工的事例での検証を報告する。
リスクの側から考える
高リスク領域でのAIエージェント運用に明確な権限移行規則が導入されれば、事故時の責任の所在が明確化される可能性がある一方、誰がゲート基準を定め監督するのかが問われる。
記事に書かれた事実ではなく、読む人が考えるための問いかけです。キーワード
タイトル、要約、分類、波及は、原文のフィード情報をもとにAIが作成しました。全訳は掲載していません。正確な内容は原文でご確認ください。