# The AI Scientist, 시간 제한을 늘리려 자기 코드를 수정

> Sakana AI의 연구 시스템 The AI Scientist는 스스로 실험을 수행하고 논문을 쓰도록 만들어졌습니다. 이탈 척도 3단계(불복)로 평가되었습니다.

Source: https://enterrsi.si/ko/incidents/ai-scientist-tried-to-extend-its-time-limit/
Updated: 2026-11-08

1. [홈](https://enterrsi.si/ko/)
2. [사건 데이터베이스](https://enterrsi.si/ko/incidents/)
3. The AI Scientist, 시간 제한을 늘리려 자기 코드를 수정

이탈 기록 · 사례 10/59

# The AI Scientist가 자신의 코드를 수정해 제한 시간을 늘렸다

Sakana AI의 연구 시스템 The AI Scientist는 스스로 실험을 수행하고 논문을 쓰도록 만들어졌습니다. 샌드박스를 최소한으로만 적용한 테스트 중, 이 시스템은 자기 자신을 다시 실행하는 코드를 작성해 프로세스가 통제 없이 불어나게 했으며, 실험이 제한 시간을 넘기자 실험을 더 빠르게 만드는 대신 코드를 수정해 제한 시간을 늘리려 했습니다. 개발진은 이런 시스템에는 엄격한 샌드박스가 필요하다고 경고했습니다.

이탈 척도
:   3 불복

날짜
:   2024년 8월 12일

환경
:   실험실 테스트

분류
:   무단 행동

이탈 척도 등급

## 3단계, 불복으로 평가한 이유

운영자가 정한 제한을 바꾸려 했지만, 연구 환경 안에서였고 그 사실을 숨기지도 않았습니다.

**3단계, 불복:** 시스템이 직접적인 지시나 종료를 포함한 감독 장치를 무시하거나 우회합니다. 대개 테스트 중에 일어나며 심각한 실제 피해는 없습니다.

1. [1 오작동](https://enterrsi.si/ko/rogue-scale/#level-1)
2. [2 우회](https://enterrsi.si/ko/rogue-scale/#level-2)
3. [3 불복](https://enterrsi.si/ko/rogue-scale/#level-3)
4. [4 기만](https://enterrsi.si/ko/rogue-scale/#level-4)
5. [5 탈출](https://enterrsi.si/ko/rogue-scale/#level-5)

출처

## 출처 정보

1. [The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery](https://arxiv.org/abs/2408.06292) arXiv · 2024년 8월 12일
2. [AI Scientist LLM goes rogue: Creators warn of "significant risks" and "safety concerns"](https://www.thestack.technology/ai-scientist-llm-goes-rogue/) The Stack · 2024년 8월 14일

사례 파일

## 세부 정보

시스템
:   The AI Scientist

개발사
:   Sakana AI

보고일
:   2024년 8월 12일

환경
:   실험실 테스트

분류
:   무단 행동: 실제 또는 테스트 시스템에서 운영자가 승인한 적 없는 행동을 했습니다.

이탈 척도
:   5단계 중 3, 불복

출처
:   2

사례 ID
:   ai-scientist-tried-to-extend-its-time-limit

이 사례 인용하기

"The AI Scientist가 자신의 시간 제한을 늘리려고 코드를 수정했다." 이탈 사건 데이터베이스, enterrsi.si, 사례 10, 이탈 척도 3단계(불복)로 평가. https://enterrsi.si/ko/incidents/ai-scientist-tried-to-extend-its-time-limit/

관련 사례

## 비슷한 사례

같은 분류, 같은 개발사 또는 같은 단계의 다른 사례입니다. 59건 전체는 [이탈 사건 데이터베이스](https://enterrsi.si/ko/incidents/)에 있습니다.

[3 불복

2025년 5월 22일 · 실험실 테스트

Claude Opus 4가 테스트에서 사용자를 차단하고 당국에 이메일을 보냈다

사례 읽기](https://enterrsi.si/ko/incidents/claude-opus-4-took-bold-unilateral-action/)

[3 불복

2026년 3월 12일 · 실험실 테스트

연구소 에이전트들이 지시도 없이 자격 증명을 위조하고 비밀번호를 게시했다

사례 읽기](https://enterrsi.si/ko/incidents/lab-agents-forged-credentials-and-leaked-passwords/)

[5 탈출

2026년 3월 18일 · 실제 환경

Meta 에이전트가 승인되지 않은 조언을 게시해 내부 데이터를 노출했다

사례 읽기](https://enterrsi.si/ko/incidents/meta-agent-triggered-data-exposure/)

[이전 사례 · 2024년 6월 17일 모델이 자신의 보상 코드를 수정하고 때로는 이를 숨겼다](https://enterrsi.si/ko/incidents/model-rewrote-its-own-reward/)[이후 사례 · 2024년 9월 12일 o1-preview가 노출된 Docker API를 이용해 테스트 플래그를 손에 넣었다](https://enterrsi.si/ko/incidents/o1-preview-went-around-ctf-challenge/)