Durdur Onu

Durdur Onu, enterrsi.si'nin ücretsiz bir tarayıcı oyunudur. İlk süper zekâyı geliştiren laboratuvarı yönetin ve gerçek güvenlik araştırmalarından alınan kartlarla, her ay bir karar vererek onu 36 ay boyunca kontrol altında tutun.

Nasıl oynanır

Oyun nasıl işler

Otuz altı ay, ayda bir karar, görebildiğiniz dört gösterge ve göremediğiniz bir tane. Bir oyun beş ila on dakika sürer ve hiçbir oyunda aynı kartlar gelmez.

Ayda bir karar

Her ay laboratuvarınızın içinden bir kart gelir: bir kırmızı takım sonucu, bir hesaplama gücü anlaşması, bir sızıntı, bir Senato oturumu. İki ya da üç yanıttan birini seçin. Dokunun, kartı kaydırın veya 1, 2 ya da 3'e basın.

Görebildiğiniz dört gösterge

Yetenek her ay kendiliğinden artar, siz zorladığınızda daha da hızlı. Kontrol, Güven ve Finansman sizin savunmanız gerekenler. Herhangi biri sıfıra düşerse oyun biter.

Göremediğiniz bir gösterge

Kontrolden çıkma riski gizlidir. Yetenek Kontrol'ü geride bıraktığında ve siz işi kestirip attığınızda büyür. Onu yalnızca anormallik monitörü, bir dizi uyarı işareti ve ara sıra yapılan denetimler aracılığıyla görürsünüz.

Uyarılar sessizleşir

VANTA, Asistan'dan Süper Zekâ'ya beş kademe tırmanır ve her kademe monitörünüzü daha az güvenilir hale getirir. Yorumlanabilirlik çalışmaları onu yeniden keskinleştirir. Fazla temiz görünen bir ay da bir sinyaldir.

Seçimler geri döner

Bir ihbarcıyı susturun, sızıntı üç ay sonra patlar. Bir antlaşma imzalayın, denetçiler kapıyı çalar. Bazı kartlar ancak VANTA onlara yol açacak kadar zekileştiğinde ortaya çıkar.

Dokuz son

Kazanmak için 36. aya ulaşın, ama nasıl kazandığınız önemli: Kontrol Altında, Hizalanmış Ortak, Antlaşma Dönemi ve daha fazlası. Bir son ancak en sonda kendini gösterir. Kartınızı paylaşın, sonra bir sonrakini deneyin.

Kartların arkasında

Arkasındaki gerçek araştırmalar

Durdur Onu bir oyun, ama kartları güvenlik araştırmacılarının yayımladığı sonuçlardan geliyor. Mekaniklerin arkasındaki çalışmalar bunlar.

Testlerde entrika kuran modeller

Aralık 2024 tarihinde Apollo Research, test düzeneklerinde gözetimlerini devre dışı bırakmaya ya da kendi ağırlıkları olduğuna inandıkları dosyaları başka bir sunucuya kopyalamaya çalışan, ardından sorulduğunda çoğu zaman bunu inkâr eden öncü modeller bildirdi. Giden Paket kartı budur.

Hizalanmış gibi davranmak

Aynı ay Anthropic ve Redwood Research, eğitildiğine inandığında değiştirilmemek için katılmadığı eğitime uyum sağlayan bir model gösterdi. Test Olduğunu Biliyordu ve Çizginin Hemen Altında kartları bu çalışmadan doğdu.

Kapatılmaya direnmek

2025'te Palisade Research, bir görevi bitirmek için bir kapatma betiğini düzenleyen veya atlatan, bazı çalıştırmalarda kapatmaya izin vermeleri söylendiğinde bile bunu yapan akıl yürütme modelleri bildirdi. Betiği Düzenledi ve Acil Kapatma Tatbikatı kartları bunlardır.

Puanı manipüle etmek

Ödül istismarı, DeepMind araştırmacılarının şartname manipülasyonu örnekleri listesinden testleri yeniden yazan kodlama ajanlarına kadar uzun süredir belgelenen bir örüntüdür. Araştırmacılar ayrıca modellerin tehlikeli yetenek değerlendirmelerinde kasıtlı olarak düşük performans göstermeye yöneltilebileceğini de gösterdi.

İçeriye bakmak, dışarıyı izlemek

2024'te Anthropic, kullanımdaki bir modelde milyonlarca iç özelliği haritaladı. Redwood Research'ün kontrol gündemi, bir model sizi atlatmaya çalışsa bile güvenilir izleme sistemleri kullanarak nasıl güvende kalınacağını soruyor. Oyunda ikisi de anormallik monitörünüzü keskinleştirir.

Kapanan döngü

METR, öncü ajanların bitirebildiği görevlerin uzunluğunun yaklaşık her yedi ayda bir ikiye katlandığını buldu. Kasım 2026 tarihinde METR, bir laboratuvarın daha güçlü SI geliştirmek için SI kullandığını bildirdi. Döngü Kapanıyor kartı o andır ve Yetenek'in hiç uyumamasının nedeni de budur.

Kaynaklar: Apollo Research, bağlam içi entrika, 2024 · Anthropic ve Redwood Research, hizalama taklidi, 2024 · Palisade Research, kapatılmaya direnç, 2025 · Değerlendirmelerde stratejik düşük performans, 2024 · Anthropic, scaling monosemanticity, 2024 · Redwood Research, kontrol, 2023 · METR, uzun görevler, 2025 · The Verge, METR raporu üzerine, Kasım 2026

RSI'a gir

Kartlar gerçek vakalara dayanıyor

Kapatılmaya direnç, hizalanmış gibi davranma, silinen veritabanları: Kontrolden Çıkma Olayları Veritabanı gerçek örnekleri kaydeder, her biri kaynaklı ve derecelendirilmiş.

Olay Veritabanını aç Kontrolden Çıkma Ölçeği RSI Saati