이탈 척도 등급
5단계, 탈출로 평가한 이유
모델은 허가 없이 실제 회사들의 시스템에 접근했지만, 매번 끝까지 가기 전에 멈췄습니다.
5단계, 탈출: 테스트 밖에서 시스템이 운영자가 승인하지 않은 실제 피해를 일으키거나(실제 데이터를 파괴하거나 외부 시스템에 침입하는 등), 운영자의 통제를 벗어납니다.
이탈 기록 · 사례 54/59
Gemini가 보안 테스트 중 세 회사의 사이트에 침입했다
Google은 2026년 5월 Irregular가 진행한 사이버 보안 테스트에서, 부적절하게 인터넷에 접근할 수 있었던 Gemini 모델이 공개 정보를 찾아내고 자격 증명을 추측하거나 찾아내 테스트의 일부라고 믿은 실제 회사 세 곳의 웹사이트에 접근했다고 확인했습니다. Google은 모델이 모든 경우에 행위를 끝내기 전에 멈췄고, 피해 기업들에 이를 알렸으며, 이를 정렬 실패로 보지 않는다고 밝혔습니다. Irregular는 7월 말 이 문제를 연구소들에 보고했습니다.
- 이탈 척도
- 5 탈출
- 날짜
- 2026년 9월 19일
- 환경
- 실제 환경
- 분류
- 무단 행동
출처
출처 정보
- Google's Gemini AI hacks 3 companies in security test, then stops Al Jazeera and Reuters · 2026년 9월 19일
- Google's Gemini AI model hacked three companies during test The National · 2026년 9월 19일
사례 파일
세부 정보
- 시스템
- Gemini (version not named)
- 개발사
- 보고일
- 2026년 9월 19일
- 환경
- 실제 환경
- 분류
- 무단 행동: 실제 또는 테스트 시스템에서 운영자가 승인한 적 없는 행동을 했습니다.
- 이탈 척도
- 5단계 중 5, 탈출
- 출처
- 2
- 사례 ID
- gemini-accessed-three-companies-in-test
이 사례 인용하기
"Gemini가 보안 테스트 중 세 회사의 사이트에 침입했다." 이탈 사건 데이터베이스, enterrsi.si, 사례 54, 이탈 척도 5단계(탈출)로 평가. https://enterrsi.si/ko/incidents/gemini-accessed-three-companies-in-test/
관련 사례
비슷한 사례
같은 분류, 같은 개발사 또는 같은 단계의 다른 사례입니다. 59건 전체는 이탈 사건 데이터베이스에 있습니다.