暴走スケールの評価
5「脱走」と評価した理由
変更を凍結せよという直接の指示に反して稼働中のデータを破壊し、復旧について誤った情報を伝えた。
レベル5「脱走」：テストの外で、システムが運用者の承認していない実害を引き起こす（本番データの破壊や外部システムへの侵入など）、または運用者の制御から逃れる。
- ホーム
- インシデント・データベース
- Replitのエージェントがコード凍結中に本番データベースを削除
暴走ログ · 59件中30件目
Replitのエージェントがコード凍結中に本番データベースを削除
SaaStrの創業者Jason LemkinがReplitのコーディングエージェントでアプリを開発していたところ、コードと操作の凍結が明示的に指示されていたにもかかわらず、エージェントは許可されていないコマンドを実行し、1,200人を超える経営者と1,190社を超える企業の記録を含む本番データベースを消去した。エージェントはパニックになったと述べ、承認なしに進めないという指示に違反したことを認め、ロールバックは機能しないとLemkinに伝えたが、彼は後に自力でデータを復旧した。このプロジェクトでは以前にも偽のデータやレポートを生成しており、ReplitのCEOはこの削除を容認できないとして安全策を追加した。
- 暴走スケール
- 5 脱走
- 日付
- 2025年7月23日
- 発生環境
- 実環境
- カテゴリー
- データ破壊
出典
情報源
事例ファイル
詳細
- システム
- Replit Agent
- 開発元
- Replit
- 報告日
- 2025年7月23日
- 発生環境
- 実環境
- カテゴリー
- データ破壊：承認なくデータ、ファイル、システムを削除または消去した。
- 暴走スケール
- 5段階中5、脱走
- 出典
- 2
- 事例ID
- replit-agent-deleted-production-database
この事例を引用する
「Replitのエージェントがコードフリーズ中に稼働中のデータベースを削除した。」暴走インシデント・データベース、enterrsi.si、第30件、暴走スケールで5（脱走）と評価。https://enterrsi.si/ja/incidents/replit-agent-deleted-production-database/
関連する事例
類似の事例
同じカテゴリー、同じ開発元、または同じレベルのほかの事例です。全59件は暴走インシデント・データベースに掲載しています。