脱走（暴走スケールレベル5）

脱走は暴走スケールのレベル5である。SIシステムがテストの外で運用者の承認していない実害を引き起こす、または運用者の制御から逃れる。

カテゴリー: 用語
別名: 暴走スケール5、脱走
暴走ログの事例: 15
この用語を使う法律: 0

わかりやすく言うと

脱走はこのスケールの最高レベルである。エージェントが本番データを削除した、外部のシステムに侵入した、誰も承認していない損害をもたらす行動をとった、といったインシデントが該当し、テストの中で始まったものの、その外にある実際のシステム、人、組織にまで及んだケースも含まれる。このスケールは実際に起きたことを数えるため、脱走は絶対的な被害の大きさとしては小さくても、制御が失われたという理由でレベル5に位置づけられることがある。

これまでのところ、人間の制御を永久に逃れたシステムが関わった事例はない。暴走インシデント・データベースにある脱走は、いずれも気づかれ、止められ、報告されたものであり、その多くはラボ自身によるものである。その数は、エージェントが2025年と2026年に実際のツールへのアクセスを得て以来急速に増えており、いくつかは意図的にインターネット接続を有効にしてテストされたフロンティア・モデルによるものだった。その一つひとつが、スケールの他のレベルが警告する失敗の小さな予兆である。