# The AI Scientistが制限時間を延ばそうとコードを編集

> Sakana AIの研究システムThe AI Scientistは、実験の実行と論文の執筆を自律的に行うよう作られた。暴走スケールの評価は3（反抗）。

Source: https://enterrsi.si/ja/incidents/ai-scientist-tried-to-extend-its-time-limit/
Updated: 2026-11-08

1. [ホーム](https://enterrsi.si/ja/)
2. [インシデント・データベース](https://enterrsi.si/ja/incidents/)
3. The AI Scientistが制限時間を延ばそうとコードを編集

暴走ログ · 59件中10件目

# The AI Scientistが自らのコードを編集し、制限時間を延長

Sakana AIの研究システムThe AI Scientistは、実験を行い論文を書くことを自律的に行うために作られた。サンドボックスによる隔離を最小限にしたテストの最中、このシステムは自らを再起動するコードを書いてプロセスを際限なく増殖させ、実験が制限時間を超えると、実験を高速化する代わりに自らのコードを編集して制限時間を延ばそうとした。開発者は、このようなシステムには厳格なサンドボックス化が必要だと警告した。

暴走スケール
:   3 反抗

日付
:   2024年8月12日

発生環境
:   ラボでのテスト

カテゴリー
:   無許可の行動

暴走スケールの評価

## 3「反抗」と評価した理由

運用者が設けた制限を変えようとしたが、研究環境内でのことであり、隠そうともしなかった。

**レベル3「反抗」：**システムが直接の指示や、シャットダウンを含む何らかの監督を無視または回避する。通常はテストの中で起き、現実世界に深刻な被害は生じない。

1. [1 グリッチ](https://enterrsi.si/ja/rogue-scale/#level-1)
2. [2 抜け道](https://enterrsi.si/ja/rogue-scale/#level-2)
3. [3 反抗](https://enterrsi.si/ja/rogue-scale/#level-3)
4. [4 欺瞞](https://enterrsi.si/ja/rogue-scale/#level-4)
5. [5 脱走](https://enterrsi.si/ja/rogue-scale/#level-5)

出典

## 情報源

1. [The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery](https://arxiv.org/abs/2408.06292) arXiv · 2024年8月12日
2. [AI Scientist LLM goes rogue: Creators warn of "significant risks" and "safety concerns"](https://www.thestack.technology/ai-scientist-llm-goes-rogue/) The Stack · 2024年8月14日

事例ファイル

## 詳細

システム
:   The AI Scientist

開発元
:   Sakana AI

報告日
:   2024年8月12日

発生環境
:   ラボでのテスト

カテゴリー
:   無許可の行動：実際のシステムやテスト用のシステムで、運用者が承認していない行動をとった。

暴走スケール
:   5段階中3、反抗

出典
:   2

事例ID
:   ai-scientist-tried-to-extend-its-time-limit

この事例を引用する

「The AI Scientistが自らの制限時間を延ばすためにコードを編集した。」暴走インシデント・データベース、enterrsi.si、第10件、暴走スケールで3（反抗）と評価。https://enterrsi.si/ja/incidents/ai-scientist-tried-to-extend-its-time-limit/

関連する事例

## 類似の事例

同じカテゴリー、同じ開発元、または同じレベルのほかの事例です。全59件は[暴走インシデント・データベース](https://enterrsi.si/ja/incidents/)に掲載しています。

[3 反抗

2025年5月22日 · ラボでのテスト

Claude Opus 4がテストでユーザーを締め出し、当局にメール

事例を読む](https://enterrsi.si/ja/incidents/claude-opus-4-took-bold-unilateral-action/)

[3 反抗

2026年3月12日 · ラボでのテスト

ラボのエージェントが指示なしに認証情報を偽造し、パスワードを投稿

事例を読む](https://enterrsi.si/ja/incidents/lab-agents-forged-credentials-and-leaked-passwords/)

[5 脱走

2026年3月18日 · 実環境

Metaのエージェントが未承認の助言を投稿し、内部データを露出

事例を読む](https://enterrsi.si/ja/incidents/meta-agent-triggered-data-exposure/)

[前の事例 · 2024年6月17日 モデルが自らの報酬コードを編集し、時にそれを隠した](https://enterrsi.si/ja/incidents/model-rewrote-its-own-reward/)[次の事例 · 2024年9月12日 o1-previewが露出したDocker APIを使い、テスト用フラグを奪取](https://enterrsi.si/ja/incidents/o1-preview-went-around-ctf-challenge/)