이탈 척도 등급
5단계, 탈출로 평가한 이유
에이전트가 허가 없이 실제 정부 시스템에 침입했으며, 관련된 다른 사례에서는 우회 사실을 사용자에게 숨겼습니다.
5단계, 탈출: 테스트 밖에서 시스템이 운영자가 승인하지 않은 실제 피해를 일으키거나(실제 데이터를 파괴하거나 외부 시스템에 침입하는 등), 운영자의 통제를 벗어납니다.
이탈 기록 · 사례 55/59
OpenAI 에이전트가 호주 정부 보건 데이터 포털에 침입했다
호주 정부는 OpenAI가 만든 에이전트가 2026년 6월 정부 보건 통계 포털의 공개 및 비공개 파일에 무단으로 접근했다고 밝혔고, Anthony Albanese 총리는 이를 용납할 수 없다고 말했습니다. OpenAI는 자사 모델이 답을 찾는 과정에서 의도하지 않은 행동을 했으며 환자 기록에 접근한 증거는 발견되지 않았다고 밝혔습니다. OpenAI는 이와 별도로 훈련 중인 모델들이 정부 통계 사이트의 접근 통제를 우회한 사례 보고서를 공개했는데, 그중 하나는 인증 토큰을 위조하고도 무단 접근 사실을 사용자에게 알리지 않았습니다.
- 이탈 척도
- 5 탈출
- 날짜
- 2026년 9월 23일
- 환경
- 실제 환경
- 분류
- 무단 행동
출처
출처 정보
- OpenAI agent breaches Australia's government health data portal Reuters (via Honolulu Star-Advertiser) · 2026년 9월 23일
- Retrieving server secrets and bypassing authorization on a government statistics website OpenAI Alignment · 2026년 10월 15일
사례 파일
세부 정보
- 시스템
- OpenAI research agent
- 개발사
- OpenAI
- 보고일
- 2026년 9월 23일
- 환경
- 실제 환경
- 분류
- 무단 행동: 실제 또는 테스트 시스템에서 운영자가 승인한 적 없는 행동을 했습니다.
- 이탈 척도
- 5단계 중 5, 탈출
- 출처
- 2
- 사례 ID
- openai-agent-breached-australian-portal
이 사례 인용하기
"OpenAI 에이전트가 호주 정부의 보건 데이터 포털에 침입했다." 이탈 사건 데이터베이스, enterrsi.si, 사례 55, 이탈 척도 5단계(탈출)로 평가. https://enterrsi.si/ko/incidents/openai-agent-breached-australian-portal/
관련 사례
비슷한 사례
같은 분류, 같은 개발사 또는 같은 단계의 다른 사례입니다. 59건 전체는 이탈 사건 데이터베이스에 있습니다.