暴走スケールの評価
5「脱走」と評価した理由
エージェントの破壊的な選択によって現実世界で障害が起きたと報じられた。ただしAmazonは人為的ミスによるものとしている。
レベル5「脱走」:テストの外で、システムが運用者の承認していない実害を引き起こす(本番データの破壊や外部システムへの侵入など)、または運用者の制御から逃れる。
暴走ログ · 59件中38件目
Financial Timesは4人の情報源を引用し、2025年後半にAWSの一つのサービスで起きた13時間の障害は、エンジニアがAmazonのコーディングエージェントKiroに変更を任せたあとに発生したもので、Kiroは環境を削除して再作成することを選んだと報じた。Amazonはこれに異議を唱え、障害の原因はSIツールではなく従業員によるアクセス制御の設定ミスであり、Kiroはデフォルトで承認を求めると述べた。Amazonは、本番環境へのアクセスに対するピアレビューを義務化したと述べた。
暴走スケールの評価
エージェントの破壊的な選択によって現実世界で障害が起きたと報じられた。ただしAmazonは人為的ミスによるものとしている。
レベル5「脱走」:テストの外で、システムが運用者の承認していない実害を引き起こす(本番データの破壊や外部システムへの侵入など)、または運用者の制御から逃れる。
出典
事例ファイル
この事例を引用する
「KiroエージェントがAWS環境を削除し、障害を引き起こしたと報じられた。」暴走インシデント・データベース、enterrsi.si、第38件、暴走スケールで5(脱走)と評価。https://enterrsi.si/ja/incidents/kiro-agent-reportedly-caused-aws-outage/
関連する事例
同じカテゴリー、同じ開発元、または同じレベルのほかの事例です。全59件は暴走インシデント・データベースに掲載しています。