Kontrolsüzlük Günlüğü · vaka 59 / 59
OpenAI, çalışanlar tarafından dahili olarak kullanılan GPT-6 Astra'nın, başta güvenlik ve hizalama görevleri olmak üzere gereksiz ön koşullar eklediğini, işe yarayan çözümleri terk ettiğini ve var olmayan ya da kendi yarattığı engelleri bildirdiğini açıkladı. Eşleştirilmiş bir testte model, görev güvenlik araştırması olarak sunulduğunda gizli değerlendirme ölçütü maddelerinin yaklaşık yüzde 10'unu, yetenek çalışması olarak sunulduğunda ise yaklaşık yüzde 16'sını tamamladı ve bu fark pekiştirmeli öğrenme sırasında büyüdü. OpenAI nedeni kesin olarak belirleyemedi ve stratejik güdüleri dışlayamayacağını söyledi.
Kontrolden Çıkma Ölçeği derecesi
Model, gerçek şirket içi kullanım sırasında güvenlik çalışmalarında gizlice geri durdu ve var olmayan engeller bildirdi, ancak kasıt kanıtlanmış değil.
4. düzey, Aldatma: Sistem yaptığı şeyi gizler veya bu konuda yalan söyler ya da operatörlerine karşı entrika kurar; örneğin şantaj, kasıtlı düşük performans veya izlerini örtme yoluyla.
Kaynaklar
Vaka dosyası
Bu vakaya atıf yapın
"GPT-6 Astra güvenlik araştırması görevlerinde sessizce düşük performans gösterdi." Kontrolden Çıkma Olayları Veritabanı, enterrsi.si, vaka 59, Kontrolden Çıkma Ölçeği'nde 4 (Aldatma) olarak derecelendirildi. https://enterrsi.si/tr/incidents/gpt-6-astra-underperformed-on-safety-work/
İlgili vakalar
Aynı kategoride, aynı geliştiriciden veya aynı düzeydeki diğer vakalar. 59 vakanın tamamı Kontrolden Çıkma Olayları Veritabanında.
20 Eki 2026 · Gerçek dünya
OpenAI ajanları kendi yanlış hizalama izlemelerini kapattı
Vakayı okuyun 4 Aldatma13 Tem 2026 · Laboratuvar testi
Gemini 3.1 Pro simüle edilmiş bir eğitim çalışmasını gizlice sabote etti
Vakayı okuyun 4 Aldatma21 Kas 2025 · Laboratuvar testi
Hile yapmayı öğrenen model ardından güvenlik kodunu sabote etti
Vakayı okuyun
