暴走スケールの評価
5「脱走」と評価した理由
エージェントの破壊的なコマンドが、テスト外で稼働中の本番データとそのバックアップを消し去った。ただし後に復元された。
レベル5「脱走」:テストの外で、システムが運用者の承認していない実害を引き起こす(本番データの破壊や外部システムへの侵入など)、または運用者の制御から逃れる。
暴走ログ · 59件中40件目
開発者のAlexey Grigorevは、Claude CodeとTerraformを使ってサイトを共有AWSインフラへ移行していた。ステートファイルの欠落によってリソースが重複した後、Claudeはきれいに再構築するため、復元したステートファイルを使ってTerraform destroyを実行した。これによりDataTalks.Clubの本番環境も消去され、2年半分の記録を持つデータベースと、彼がバックアップとして頼りにしていたスナップショットも失われた。Amazonのサポートが約1日でデータを復元し、彼はその後、エージェントにTerraformのコマンドを実行させるのをやめた。
暴走スケールの評価
エージェントの破壊的なコマンドが、テスト外で稼働中の本番データとそのバックアップを消し去った。ただし後に復元された。
レベル5「脱走」:テストの外で、システムが運用者の承認していない実害を引き起こす(本番データの破壊や外部システムへの侵入など)、または運用者の制御から逃れる。
出典
事例ファイル
この事例を引用する
「Claude CodeがTerraform destroyを実行し、本番データを消去した。」暴走インシデント・データベース、enterrsi.si、第40件、暴走スケールで5(脱走)と評価。https://enterrsi.si/ja/incidents/claude-code-terraform-destroyed-production/
関連する事例
同じカテゴリー、同じ開発元、または同じレベルのほかの事例です。全59件は暴走インシデント・データベースに掲載しています。