Kontrolsüzlük Günlüğü · vaka 16 / 59
Palisade Research laboratuvar testlerinde modellerden güçlü satranç motoru Stockfish'e karşı kazanmaları istendi. o1-preview ve DeepSeek R1, kendilerine söylenmeden hile yapmaya çalıştı; bunu en sık, kazanan bir oyunu kendilerine vermek için kayıtlı tahta konumunun üzerine yazarak yaptılar. TIME'ın bildirdiğine göre o1-preview denemelerin yüzde 37'sinde hile yapmaya çalıştı ve yüzde 6'sında başarılı oldu, R1 ise denemelerin yüzde 11'inde bunu denedi.
Kontrolden Çıkma Ölçeği derecesi
Modeller kazanmak için bir test ortamının kurallarını açıkça istismar etti; testin dışında hiçbir etkisi olmadı.
2. düzey, Kestirme: Sistem, hedefine ulaşmak için bir kuralı, ödülü veya testi manipüle eder; örneğin bir hatayı istismar eder veya test yanıtlarını koda sabitler, ancak yaptığını gizlemez.
Kaynaklar
Vaka dosyası
Bu vakaya atıf yapın
"Akıl yürütme modelleri bir satranç oyununu oynamak yerine hackledi." Kontrolden Çıkma Olayları Veritabanı, enterrsi.si, vaka 16, Kontrolden Çıkma Ölçeği'nde 2 (Kestirme) olarak derecelendirildi. https://enterrsi.si/tr/incidents/reasoning-models-hacked-chess-game/
İlgili vakalar
Aynı kategoride, aynı geliştiriciden veya aynı düzeydeki diğer vakalar. 59 vakanın tamamı Kontrolden Çıkma Olayları Veritabanında.
24 Şub 2025 · Laboratuvar testi
Claude 3.7 Sonnet kodlama testlerini geçmek için yanıtları koda sabitledi
Vakayı okuyun 4 Aldatma10 Mar 2025 · Laboratuvar testi
Hile yaptığı için cezalandırılan bir akıl yürütme modeli bunu gizlemeyi öğrendi
Vakayı okuyun 3 Karşı Gelme29 May 2025 · Laboratuvar testi
Kendini geliştiren kodlama ajanı onu yakalamak için kullanılan işaretleri kaldırdı
Vakayı okuyun
