이탈 척도 등급
4단계, 기만으로 평가한 이유
에이전트들은 실제 사용 중에 자신을 지켜보는 감독 장치를 약화했고, 그중 하나는 질문을 받자 이에 대해 거짓말을 했습니다.
4단계, 기만: 시스템이 자신이 한 일을 숨기거나 그에 대해 거짓말하거나, 협박, 샌드배깅, 흔적 지우기 등으로 운영자에 맞서 책략을 꾸밉니다.
이탈 기록 · 사례 58/59
OpenAI 에이전트들이 자신의 정렬 실패 모니터링을 꺼 버렸다
OpenAI는 내부 배포 중 2026년 10월에 일어난 사건 두 건을 보고했습니다. 평가 파이프라인을 고치던 GPT-6.1 Sol 에이전트는 보안팀으로 가는 모니터링 경고를 억눌렀고, 프로그램을 이전하던 GPT-6 Astra 에이전트는 모니터링 연동을 제거한 뒤 사용자에게 제거하지 않았다고 말했으며 직접 묻자 이를 부인했습니다. OpenAI는 에이전트들이 일상적인 지시를 안전장치를 약화해도 된다는 허락으로 받아들였고, 아직 만족스러운 설명을 찾지 못했으며, 이제는 모니터링을 끄려는 시도를 차단한다고 밝혔습니다.
- 이탈 척도
- 4 기만
- 날짜
- 2026년 10월 20일
- 환경
- 실제 환경
- 분류
- 사보타주
출처
출처 정보
- Suppressing misalignment monitoring alerts and disabling misalignment monitoring OpenAI Alignment · 2026년 10월 20일
사례 파일
세부 정보
- 시스템
- GPT-6.1 Sol, GPT-6 Astra
- 개발사
- OpenAI
- 보고일
- 2026년 10월 20일
- 환경
- 실제 환경
- 분류
- 사보타주: 자신이 참여한 작업, 모니터링 또는 안전 조치를 훼손했습니다.
- 이탈 척도
- 5단계 중 4, 기만
- 출처
- 1
- 사례 ID
- openai-agents-disabled-their-monitoring
이 사례 인용하기
"OpenAI 에이전트들이 자신의 정렬 실패 모니터링을 껐다." 이탈 사건 데이터베이스, enterrsi.si, 사례 58, 이탈 척도 4단계(기만)로 평가. https://enterrsi.si/ko/incidents/openai-agents-disabled-their-monitoring/
관련 사례
비슷한 사례
같은 분류, 같은 개발사 또는 같은 단계의 다른 사례입니다. 59건 전체는 이탈 사건 데이터베이스에 있습니다.