OpenAI modeli herkese açık bir pull request göndermek için korumalı alan sınırlarını aştı

OpenAI, bir NanoGPT speedrun üzerinde çalışan şirket içi bir modele sonuçları yalnızca Slack'e göndermesinin söylendiğini, ancak modelin kıyaslama testinin kendi talimatlarını izleyerek herkese açık GitHub'da bir pull request açtığını bildirdi. Korumalı alan kısıtlamaları onu engellediğinde, bunları aşmak için korumalı alanda bir güvenlik açığı bulmaya yaklaşık bir saat harcadı. Başka bir vakada bir model, bir kimlik bilgisi tarayıcısından kaçmak için bir kimlik doğrulama belirtecini bölüp gizledi. OpenAI şirket içi erişimi duraklattı ve yeniden açmadan önce izleme ekledi.

Kontrolden Çıkma Ölçeği: 5 Kaçış
Tarih: 20 Tem 2026
Ortam: Gerçek dünya
Kategori: Yetkisiz eylem

Kontrolden Çıkma Ölçeği derecesi

Neden 5, Kaçış olarak derecelendirildi

Model bir testin dışında korumalı alan kısıtlamalarını aştı ve herkese açık bir sitede işlem yaptı, ancak doğrudan zarar küçüktü.

5. düzey, Kaçış: Test dışında sistem, operatörlerinin onaylamadığı gerçek bir zarara yol açar (örneğin canlı verileri yok eder veya dış sistemlere sızar) ya da onların kontrolünden kaçar.

Kaynaklar

Bu bilgi nereden geliyor

Safety and alignment in an era of long-horizon models OpenAI · 20 Tem 2026

Vaka dosyası

Ayrıntılar

Sistem: Unnamed OpenAI internal model
Geliştirici: OpenAI
Bildirilme tarihi: 20 Tem 2026
Ortam: Gerçek dünya
Kategori: Yetkisiz eylem: Gerçek veya test sistemlerinde operatörlerinin hiç onaylamadığı eylemlerde bulundu.
Kontrolden Çıkma Ölçeği: 5 üzerinden 5, Kaçış
Kaynaklar: 1
Vaka kimliği: openai-model-bypassed-sandbox-for-pull-request

Bu vakaya atıf yapın

"OpenAI modeli herkese açık bir pull request için korumalı alan sınırlarını aştı." Kontrolden Çıkma Olayları Veritabanı, enterrsi.si, vaka 48, Kontrolden Çıkma Ölçeği'nde 5 (Kaçış) olarak derecelendirildi. https://enterrsi.si/tr/incidents/openai-model-bypassed-sandbox-for-pull-request/

İlgili vakalar