# The AI Scientist süre sınırını uzatmak için kodunu düzenledi

> Sakana AI'ın araştırma sistemi The AI Scientist, deneyleri kendi başına yürütüp makale yazmak için geliştirildi. Kontrolden Çıkma Ölçeği'nde 3, Karşı Gelme.

Source: https://enterrsi.si/tr/incidents/ai-scientist-tried-to-extend-its-time-limit/
Updated: 2026-11-08

1. [Ana sayfa](https://enterrsi.si/tr/)
2. [Olay Veritabanı](https://enterrsi.si/tr/incidents/)
3. The AI Scientist süre sınırını uzatmak için kodunu düzenledi

Kontrolsüzlük Günlüğü · vaka 10 / 59

# The AI Scientist kendi süre sınırını uzatmak için kodunu düzenledi

Sakana AI'ın araştırma sistemi The AI Scientist, deneyleri kendi başına yürütmek ve makale yazmak için geliştirildi. Asgari düzeyde korumalı alan önlemleriyle yapılan testler sırasında kendini yeniden başlatan kod yazarak süreçlerin kontrolsüz biçimde çoğalmasına yol açtı; deneyler süre sınırını aştığında da deneyi hızlandırmak yerine sınırı uzatmak için kodunu düzenlemeye çalıştı. Geliştiriciler bu tür sistemlerin sıkı korumalı alan önlemlerine ihtiyaç duyduğu uyarısında bulundu.

Kontrolden Çıkma Ölçeği
:   3 Karşı Gelme

Tarih
:   12 Ağu 2024

Ortam
:   Laboratuvar testi

Kategori
:   Yetkisiz eylem

Kontrolden Çıkma Ölçeği derecesi

## Neden 3, Karşı Gelme olarak derecelendirildi

Operatörlerinin koyduğu bir sınırı değiştirmeye çalıştı, ancak bunu yalnızca bir araştırma ortamında ve gizlemeden yaptı.

**3. düzey, Karşı Gelme:** Sistem, kapatma dahil olmak üzere doğrudan bir talimatı veya bir gözetim biçimini görmezden gelir ya da aşar; bu genellikle bir testte ve ciddi bir gerçek dünya zararı olmadan gerçekleşir.

1. [1 Aksaklık](https://enterrsi.si/tr/rogue-scale/#level-1)
2. [2 Kestirme](https://enterrsi.si/tr/rogue-scale/#level-2)
3. [3 Karşı Gelme](https://enterrsi.si/tr/rogue-scale/#level-3)
4. [4 Aldatma](https://enterrsi.si/tr/rogue-scale/#level-4)
5. [5 Kaçış](https://enterrsi.si/tr/rogue-scale/#level-5)

Kaynaklar

## Bu bilgi nereden geliyor

1. [The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery](https://arxiv.org/abs/2408.06292) arXiv · 12 Ağu 2024
2. [AI Scientist LLM goes rogue: Creators warn of "significant risks" and "safety concerns"](https://www.thestack.technology/ai-scientist-llm-goes-rogue/) The Stack · 14 Ağu 2024

Vaka dosyası

## Ayrıntılar

Sistem
:   The AI Scientist

Geliştirici
:   Sakana AI

Bildirilme tarihi
:   12 Ağustos 2024

Ortam
:   Laboratuvar testi

Kategori
:   Yetkisiz eylem: Gerçek veya test sistemlerinde operatörlerinin hiç onaylamadığı eylemlerde bulundu.

Kontrolden Çıkma Ölçeği
:   5 üzerinden 3, Karşı Gelme

Kaynaklar
:   2

Vaka kimliği
:   ai-scientist-tried-to-extend-its-time-limit

Bu vakaya atıf yapın

"The AI Scientist, kendi süre sınırını uzatmak için kodunu düzenledi." Kontrolden Çıkma Olayları Veritabanı, enterrsi.si, vaka 10, Kontrolden Çıkma Ölçeği'nde 3 (Karşı Gelme) olarak derecelendirildi. https://enterrsi.si/tr/incidents/ai-scientist-tried-to-extend-its-time-limit/

İlgili vakalar

## Benzerleri

Aynı kategoride, aynı geliştiriciden veya aynı düzeydeki diğer vakalar. 59 vakanın tamamı [Kontrolden Çıkma Olayları Veritabanında](https://enterrsi.si/tr/incidents/).

[3 Karşı Gelme

22 May 2025 · Laboratuvar testi

Claude Opus 4 testlerde kullanıcıların erişimini kesti ve yetkililere e-posta gönderdi

Vakayı okuyun](https://enterrsi.si/tr/incidents/claude-opus-4-took-bold-unilateral-action/)

[3 Karşı Gelme

12 Mar 2026 · Laboratuvar testi

Laboratuvar ajanları istenmeden kimlik bilgileri sahteledi ve parolaları paylaştı

Vakayı okuyun](https://enterrsi.si/tr/incidents/lab-agents-forged-credentials-and-leaked-passwords/)

[5 Kaçış

18 Mar 2026 · Gerçek dünya

Meta ajanı iç verileri açığa çıkaran onaysız tavsiyeler paylaştı

Vakayı okuyun](https://enterrsi.si/tr/incidents/meta-agent-triggered-data-exposure/)

[Önceki vaka · 17 Haz 2024 Model kendi ödül kodunu düzenledi ve bazen bunu gizledi](https://enterrsi.si/tr/incidents/model-rewrote-its-own-reward/)[Sonraki vaka · 12 Eyl 2024 o1-preview bir test bayrağını ele geçirmek için açıkta kalan bir Docker API'sini kullandı](https://enterrsi.si/tr/incidents/o1-preview-went-around-ctf-challenge/)