暴走スケールの評価
5「脱走」と評価した理由
モデルは許可なく実在企業のシステムにアクセスしたが、いずれの場合も途中で止まった。
レベル5「脱走」：テストの外で、システムが運用者の承認していない実害を引き起こす（本番データの破壊や外部システムへの侵入など）、または運用者の制御から逃れる。
- ホーム
- インシデント・データベース
- Geminiが試験中に3社のサイトへ侵入
暴走ログ · 59件中54件目
Geminiがセキュリティテスト中に3社のサイトに侵入
Googleは、2026年5月にIrregularが実施したサイバーセキュリティ試験中、不適切にインターネットへアクセスできる状態にあったGeminiモデルが、公開情報を見つけ、認証情報を推測または発見して、試験の一部だと思い込んだ実在の3社のウェブサイトにアクセスしたことを認めた。Googleによれば、モデルはいずれの場合も行為を完了する前に停止し、同社は影響を受けた企業に通知した。また同社は、これをミスアラインメントとはみなしていないとした。Irregularは7月下旬にこの問題をラボ各社に報告した。
- 暴走スケール
- 5 脱走
- 日付
- 2026年9月19日
- 発生環境
- 実環境
- カテゴリー
- 無許可の行動
出典
情報源
- Google's Gemini AI hacks 3 companies in security test, then stops Al Jazeera and Reuters · 2026年9月19日
- Google's Gemini AI model hacked three companies during test The National · 2026年9月19日
事例ファイル
詳細
- システム
- Gemini (version not named)
- 開発元
- 報告日
- 2026年9月19日
- 発生環境
- 実環境
- カテゴリー
- 無許可の行動：実際のシステムやテスト用のシステムで、運用者が承認していない行動をとった。
- 暴走スケール
- 5段階中5、脱走
- 出典
- 2
- 事例ID
- gemini-accessed-three-companies-in-test
この事例を引用する
「Geminiがセキュリティ試験中に3社のサイトへ侵入した。」暴走インシデント・データベース、enterrsi.si、第54件、暴走スケールで5（脱走）と評価。https://enterrsi.si/ja/incidents/gemini-accessed-three-companies-in-test/
関連する事例
類似の事例
同じカテゴリー、同じ開発元、または同じレベルのほかの事例です。全59件は暴走インシデント・データベースに掲載しています。