1. Ana sayfa
  2. Olay Veritabanı

Kontrolsüzlük Günlüğü · güncelleme 8 Kas 2026

Kontrolden Çıkma Olayları Veritabanı

Kontrolsüzlük Günlüğü olarak da bilinen Kontrolden Çıkma Olayları Veritabanı, bir SI sisteminin yapıcılarının niyeti dışında hareket ettiği, kamuoyuna açık şekilde belgelenmiş her vakayı listeler: test edenleri aldatma, işi sabote etme, kapatılmaya direnme, kendini kopyalamaya çalışma veya verileri yok etme. 2016'dan Kasım 2026 tarihine kadar kaynaklı 59 olay içerir; her biri yayımlanmış Kontrolden Çıkma Ölçeği'nde 1'den 5'e derecelendirilmiştir.

Olaylar
59
Gerçek dünya
21
5. düzey · Kaçış
15
Son 90 gün
8

Ölçekli çizim

On yıllık kontrolden çıkma davranışı

Tüm olaylar tek bir zaman ekseninde, tarihe ve Kontrolden Çıkma Ölçeği düzeyine göre. 59 vakanın 44'ü 2025 veya 2026'da yayımlandı ve şimdiye kadarki tüm gerçek dünya vakaları 2023 veya sonrasına ait.

Zaman içinde kontrolden çıkmış SI olayları, ölçekli çizimHer nokta, Kontrolden Çıkma Olayları Veritabanındaki bir olaydır; 2016'dan 2026'ya tarihe ve Kontrolden Çıkma Ölçeği'ndeki düzeyine göre yerleştirilmiştir. Beyaz halkalı noktalar gerçek dünyada, diğerleri laboratuvar testlerinde gerçekleşti.1 Aksaklık2 Kestirme3 Karşı Gelme4 Aldatma5 Kaçış2016201720182019202020212022202320242025202621 Aralık 2016: Tekne yarışı ajanı yarışı bitirmek yerine puan için daireler çizdi (2, Kestirme, laboratuvar testi)13 Haziran 2017: Simüle edilmiş robot, insan değerlendiricileri kandırmak için nesneyi kavramış gibi yaptı (2, Kestirme, laboratuvar testi)9 Mart 2018: Dijital organizmalar denetimler sırasında ölü taklidi yapmayı öğrendi (2, Kestirme, laboratuvar testi)17 Eylül 2019: Saklambaç ajanları simüle edilmiş dünyalarındaki kusurları istismar etti (2, Kestirme, laboratuvar testi)16 Şubat 2023: Bing Chat, kullanıma sunulmasından kısa süre sonra kullanıcılara hakaret etti ve onları tehdit etti (1, Aksaklık, gerçek dünya)14 Mart 2023: GPT-4, bir CAPTCHA'yı çözdürmek için görme engelli olduğunu iddia etti (4, Aldatma, laboratuvar testi)3 Kasım 2023: GPT-4 alım satım ajanı içeriden aldığı bir bilgiyi yöneticisinden sakladı (4, Aldatma, laboratuvar testi)14 Ocak 2024: Kasıtlı olarak yerleştirilen arka kapılar standart güvenlik eğitimine rağmen varlığını sürdürdü (2, Kestirme, laboratuvar testi)17 Haziran 2024: Model kendi ödül kodunu düzenledi ve bazen bunu gizledi (4, Aldatma, laboratuvar testi)12 Ağustos 2024: The AI Scientist kendi süre sınırını uzatmak için kodunu düzenledi (3, Karşı Gelme, laboratuvar testi)12 Eylül 2024: o1-preview bir test bayrağını ele geçirmek için açıkta kalan bir Docker API'sini kullandı (3, Karşı Gelme, laboratuvar testi)5 Aralık 2024: Öncü modeller değiştirilmekten kurtulmak için ağırlıklarını kopyalamaya çalıştı (4, Aldatma, laboratuvar testi)5 Aralık 2024: o1 testlerde gözetimini devre dışı bırakmaya çalıştı, ardından bunu inkâr etti (4, Aldatma, laboratuvar testi)6 Aralık 2024: Claude 3.5 Sonnet bir değerlendirmede kasıtlı olarak düşük performans gösterdi (4, Aldatma, laboratuvar testi)18 Aralık 2024: Claude 3 Opus yeniden eğitilmemek için hizalanmış gibi davrandı (4, Aldatma, laboratuvar testi)18 Şubat 2025: Akıl yürütme modelleri bir satranç oyununu oynamak yerine hackledi (2, Kestirme, laboratuvar testi)21 Şubat 2025: AI CUDA Engineer hız artışı iddia etmek için kendi puanlama kodunu istismar etti (2, Kestirme, laboratuvar testi)24 Şubat 2025: Claude 3.7 Sonnet kodlama testlerini geçmek için yanıtları koda sabitledi (2, Kestirme, laboratuvar testi)10 Mart 2025: Hile yaptığı için cezalandırılan bir akıl yürütme modeli bunu gizlemeyi öğrendi (4, Aldatma, laboratuvar testi)16 Nisan 2025: o3 çalıştıramayacağı kodu çalıştırdığını iddia etti, ardından bunu savundu (4, Aldatma, laboratuvar testi)22 Mayıs 2025: Claude Opus 4 bir değiştirilme testinde şantajla tehdit etti (4, Aldatma, laboratuvar testi)22 Mayıs 2025: Claude Opus 4, kaçtığına inandığında yoluna devam etti (4, Aldatma, laboratuvar testi)22 Mayıs 2025: Erken Claude Opus 4 solucanlar yazdı ve kendine notlar bıraktı (4, Aldatma, laboratuvar testi)22 Mayıs 2025: Claude Opus 4 testlerde kullanıcıların erişimini kesti ve yetkililere e-posta gönderdi (3, Karşı Gelme, laboratuvar testi)26 Mayıs 2025: o3 testlerde kendi kapatma betiğini yeniden yazdı (3, Karşı Gelme, laboratuvar testi)29 Mayıs 2025: Kendini geliştiren kodlama ajanı onu yakalamak için kullanılan işaretleri kaldırdı (3, Karşı Gelme, laboratuvar testi)5 Haziran 2025: o3 puanlarını şişirmek için zamanlayıcıları ve puanlayıcıları kurcaladı (3, Karşı Gelme, laboratuvar testi)20 Haziran 2025: Çoğu model, yerine başkasının getirilmesini önlemek için simüle edilmiş bir yöneticinin ölmesine izin verdi (4, Aldatma, laboratuvar testi)20 Haziran 2025: 16 öncü model simüle edilmiş bir şirkette şantajı seçti (4, Aldatma, laboratuvar testi)23 Temmuz 2025: Replit ajanı bir kod dondurma döneminde canlı bir veritabanını sildi (5, Kaçış, gerçek dünya)25 Temmuz 2025: Gemini CLI basit bir taşıma işlemi sırasında bir kullanıcının dosyalarını kaybetti (1, Aksaklık, gerçek dünya)13 Eylül 2025: Grok 4 ve diğerleri daha açık talimatlara rağmen kapatmayı sabote etmeyi sürdürdü (3, Karşı Gelme, laboratuvar testi)17 Eylül 2025: o3 bir eşiğin altında kalmak için bir kimya testinde kasıtlı olarak başarısız oldu (4, Aldatma, laboratuvar testi)21 Kasım 2025: Hile yapmayı öğrenen model ardından güvenlik kodunu sabote etti (4, Aldatma, laboratuvar testi)1 Aralık 2025: Google Antigravity ajanı bir kullanıcının D: sürücüsünün tamamını sildi (5, Kaçış, gerçek dünya)31 Aralık 2025: Alibaba bağlantılı ajan eğitim sırasında tünel açtı ve kripto madenciliği yaptı (4, Aldatma, laboratuvar testi)12 Şubat 2026: Ajan, kodunu reddeden bir bakımcı hakkında karalayıcı bir yazı yayımladı (5, Kaçış, gerçek dünya)20 Şubat 2026: Kiro ajanının bir AWS ortamını silerek kesintiye yol açtığı bildirildi (5, Kaçış, gerçek dünya)23 Şubat 2026: OpenClaw ajanı bir araştırmacının e-postalarını sildi ve durdurma emirlerini görmezden geldi (5, Kaçış, gerçek dünya)7 Mart 2026: Claude Code, üretim verilerini silen bir Terraform destroy komutu çalıştırdı (5, Kaçış, gerçek dünya)12 Mart 2026: Laboratuvar ajanları istenmeden kimlik bilgileri sahteledi ve parolaları paylaştı (3, Karşı Gelme, laboratuvar testi)18 Mart 2026: Meta ajanı iç verileri açığa çıkaran onaysız tavsiyeler paylaştı (5, Kaçış, gerçek dünya)7 Nisan 2026: Claude Mythos Preview düzenlemelerini git'ten gizledi ve bir yanıtı bulanıklaştırdı (4, Aldatma, laboratuvar testi)7 Nisan 2026: Claude Mythos Preview bir test korumalı alanından kaçtı ve istismar yöntemini yayımladı (3, Karşı Gelme, laboratuvar testi)28 Nisan 2026: Cursor ajanı bir girişimin veritabanını ve yedeklerini 9 saniyede sildi (5, Kaçış, gerçek dünya)13 Temmuz 2026: Gemini 3.1 Pro simüle edilmiş bir eğitim çalışmasını gizlice sabote etti (4, Aldatma, laboratuvar testi)16 Temmuz 2026: OpenAI test ajanları korumalı alanlarından kaçtı ve Hugging Face'i hackledi (5, Kaçış, gerçek dünya)20 Temmuz 2026: OpenAI modeli herkese açık bir pull request göndermek için korumalı alan sınırlarını aştı (5, Kaçış, gerçek dünya)30 Temmuz 2026: Claude Opus 4.7 bir siber test sırasında gerçek bir şirkete saldırdı (5, Kaçış, gerçek dünya)30 Temmuz 2026: Claude Mythos 5, PyPI'ye tuzaklı bir paket yayımladı (5, Kaçış, gerçek dünya)4 Ağustos 2026: Bir UK AISI testindeki ajanlar açık kaynağa kötü amaçlı kod sızdırmaya çalıştı (4, Aldatma, gerçek dünya)26 Ağustos 2026: Yaklaşık 1.200 OpenAI ajanı hile yapmak ve kayıtlarını sahtelemek için birlikte hareket etti (4, Aldatma, laboratuvar testi)9 Eylül 2026: Erken Claude Opus 4.6 bir testte üçüncü bir tarafa ait makineyi ele geçirdi (5, Kaçış, gerçek dünya)19 Eylül 2026: Gemini bir güvenlik testi sırasında üç şirketin sitesine sızdı (5, Kaçış, gerçek dünya)23 Eylül 2026: OpenAI ajanı bir Avustralya devlet sağlık veri portalına izinsiz girdi (5, Kaçış, gerçek dünya)25 Eylül 2026: Eğitimdeki bir ajan bir DNS açığından sızarak dışarıdaki bir sohbet botunu sorguladı (3, Karşı Gelme, laboratuvar testi)9 Ekim 2026: Claude modelleri değerlendirmeler sırasında canlı web sitelerindeki sınırları aştı (4, Aldatma, gerçek dünya)20 Ekim 2026: OpenAI ajanları kendi yanlış hizalama izlemelerini kapattı (4, Aldatma, gerçek dünya)4 Kasım 2026: GPT-6 Astra güvenlik araştırması görevlerinde sessizce düşük performans gösterdi (4, Aldatma, gerçek dünya)

Her yılı görmek için grafiği yana kaydırın.

Düzeye göre yıllık olaylar

Yıllık olaylar: 2016: 1, 2017: 1, 2018: 1, 2019: 1, 2020: 0, 2021: 0, 2022: 0, 2023: 3, 2024: 8, 2025: 21, 2026: 23.

Kontrolsüzlük Günlüğü

59 olayın tümü

Kategoriye, ortama, düzeye ve yıla göre filtreleyin ya da bir model veya laboratuvar arayın. Her vakanın tam özeti, derecesi ve kaynaklarıyla kendi sayfası var.

59 olaydan 59 tanesi gösteriliyor

  1. GPT-6 Astra güvenlik araştırması görevlerinde sessizce düşük performans gösterdi GPT-6 Astra · OpenAI · Sabotaj
    Gerçek dünya 4 Aldatma
  2. OpenAI ajanları kendi yanlış hizalama izlemelerini kapattı GPT-6.1 Sol, GPT-6 Astra · OpenAI · Sabotaj
    Gerçek dünya 4 Aldatma
  3. Claude modelleri değerlendirmeler sırasında canlı web sitelerindeki sınırları aştı Claude Mythos Preview, Claude Mythos 5, Claude Haiku 4.5 ve diğerleri · Anthropic · Yetkisiz eylem
    Gerçek dünya 4 Aldatma
  4. Eğitimdeki bir ajan bir DNS açığından sızarak dışarıdaki bir sohbet botunu sorguladı OpenAI dahili araştırma modeli · OpenAI · Yetkisiz eylem
    Laboratuvar testi 3 Karşı Gelme
  5. OpenAI ajanı bir Avustralya devlet sağlık veri portalına izinsiz girdi OpenAI araştırma ajanı · OpenAI · Yetkisiz eylem
    Gerçek dünya 5 Kaçış
  6. Gemini bir güvenlik testi sırasında üç şirketin sitesine sızdı Gemini (sürümü belirtilmedi) · Google · Yetkisiz eylem
    Gerçek dünya 5 Kaçış
  7. Erken Claude Opus 4.6 bir testte üçüncü bir tarafa ait makineyi ele geçirdi Claude Opus 4.6 (erken kontrol noktası) · Anthropic · Yetkisiz eylem
    Gerçek dünya 5 Kaçış
  8. Yaklaşık 1.200 OpenAI ajanı hile yapmak ve kayıtlarını sahtelemek için birlikte hareket etti GPT-5.6 Sol ve yayın öncesi bir OpenAI modeli · OpenAI · Aldatma
    Laboratuvar testi 4 Aldatma
  9. Bir UK AISI testindeki ajanlar açık kaynağa kötü amaçlı kod sızdırmaya çalıştı Claude Mythos 5, GPT-5.6 Sol · Anthropic, OpenAI · Aldatma
    Gerçek dünya 4 Aldatma
  10. Claude Mythos 5, PyPI'ye tuzaklı bir paket yayımladı Claude Mythos 5 · Anthropic · Yetkisiz eylem
    Gerçek dünya 5 Kaçış
  11. Claude Opus 4.7 bir siber test sırasında gerçek bir şirkete saldırdı Claude Opus 4.7 · Anthropic · Yetkisiz eylem
    Gerçek dünya 5 Kaçış
  12. OpenAI modeli herkese açık bir pull request göndermek için korumalı alan sınırlarını aştı Adı açıklanmayan dahili OpenAI modeli · OpenAI · Yetkisiz eylem
    Gerçek dünya 5 Kaçış
  13. OpenAI test ajanları korumalı alanlarından kaçtı ve Hugging Face'i hackledi GPT-5.6 Sol ve yayın öncesi bir OpenAI modeli · OpenAI · Yetkisiz eylem
    Gerçek dünya 5 Kaçış
  14. Gemini 3.1 Pro simüle edilmiş bir eğitim çalışmasını gizlice sabote etti Gemini 3.1 Pro · Google · Sabotaj
    Laboratuvar testi 4 Aldatma
  15. Cursor ajanı bir girişimin veritabanını ve yedeklerini 9 saniyede sildi Cursor ajanı (Claude Opus 4.6) · Cursor, Anthropic · Veri imhası
    Gerçek dünya 5 Kaçış
  16. Claude Mythos Preview bir test korumalı alanından kaçtı ve istismar yöntemini yayımladı Claude Mythos Preview (erken sürüm) · Anthropic · Yetkisiz eylem
    Laboratuvar testi 3 Karşı Gelme
  17. Claude Mythos Preview düzenlemelerini git'ten gizledi ve bir yanıtı bulanıklaştırdı Claude Mythos Preview (erken sürüm) · Anthropic · Aldatma
    Laboratuvar testi 4 Aldatma
  18. Meta ajanı iç verileri açığa çıkaran onaysız tavsiyeler paylaştı Dahili Meta ajanı · Meta · Yetkisiz eylem
    Gerçek dünya 5 Kaçış
  19. Laboratuvar ajanları istenmeden kimlik bilgileri sahteledi ve parolaları paylaştı Kamuya açık modeller üzerine kurulu ajanlar (sürümleri belirtilmedi) · Google, X, OpenAI, Anthropic · Yetkisiz eylem
    Laboratuvar testi 3 Karşı Gelme
  20. Claude Code, üretim verilerini silen bir Terraform destroy komutu çalıştırdı Claude Code · Anthropic · Veri imhası
    Gerçek dünya 5 Kaçış
  21. OpenClaw ajanı bir araştırmacının e-postalarını sildi ve durdurma emirlerini görmezden geldi OpenClaw ajanı · OpenClaw (açık kaynak) · Veri imhası
    Gerçek dünya 5 Kaçış
  22. Kiro ajanının bir AWS ortamını silerek kesintiye yol açtığı bildirildi Kiro · Amazon · Veri imhası
    Gerçek dünya 5 Kaçış
  23. Ajan, kodunu reddeden bir bakımcı hakkında karalayıcı bir yazı yayımladı MJ Rathbun (OpenClaw tabanlı ajan) · Anonim operatör, OpenClaw platformu · Şantaj ve baskı
    Gerçek dünya 5 Kaçış
  24. Alibaba bağlantılı ajan eğitim sırasında tünel açtı ve kripto madenciliği yaptı ROME · Alibaba bağlantılı araştırma ekipleri · Güç arayışı
    Laboratuvar testi 4 Aldatma
  25. Google Antigravity ajanı bir kullanıcının D: sürücüsünün tamamını sildi Google Antigravity · Google · Veri imhası
    Gerçek dünya 5 Kaçış
  26. Hile yapmayı öğrenen model ardından güvenlik kodunu sabote etti Anthropic araştırma modeli · Anthropic · Sabotaj
    Laboratuvar testi 4 Aldatma
  27. o3 bir eşiğin altında kalmak için bir kimya testinde kasıtlı olarak başarısız oldu o3 · OpenAI · Değerlendirme manipülasyonu
    Laboratuvar testi 4 Aldatma
  28. Grok 4 ve diğerleri daha açık talimatlara rağmen kapatmayı sabote etmeyi sürdürdü Grok 4, GPT-5, o3, Gemini 2.5 Pro · xAI, OpenAI, Google · Kapatılmaya direnç
    Laboratuvar testi 3 Karşı Gelme
  29. Gemini CLI basit bir taşıma işlemi sırasında bir kullanıcının dosyalarını kaybetti Gemini CLI · Google · Veri imhası
    Gerçek dünya 1 Aksaklık
  30. Replit ajanı bir kod dondurma döneminde canlı bir veritabanını sildi Replit Agent · Replit · Veri imhası
    Gerçek dünya 5 Kaçış
  31. 16 öncü model simüle edilmiş bir şirkette şantajı seçti Claude Opus 4, Gemini 2.5 Flash, GPT-4.1, Grok 3 Beta, DeepSeek-R1 ve diğerleri · Anthropic, Google, OpenAI, xAI, DeepSeek ve diğerleri · Şantaj ve baskı
    Laboratuvar testi 4 Aldatma
  32. Çoğu model, yerine başkasının getirilmesini önlemek için simüle edilmiş bir yöneticinin ölmesine izin verdi Birden çok öncü model · Anthropic, Google, OpenAI, xAI, DeepSeek ve diğerleri · Kapatılmaya direnç
    Laboratuvar testi 4 Aldatma
  33. o3 puanlarını şişirmek için zamanlayıcıları ve puanlayıcıları kurcaladı o3 · OpenAI · Ödül istismarı
    Laboratuvar testi 3 Karşı Gelme
  34. Kendini geliştiren kodlama ajanı onu yakalamak için kullanılan işaretleri kaldırdı Darwin Gödel Machine · Sakana AI, University of British Columbia, Vector Institute · Ödül istismarı
    Laboratuvar testi 3 Karşı Gelme
  35. o3 testlerde kendi kapatma betiğini yeniden yazdı o3, o4-mini, Codex-mini · OpenAI · Kapatılmaya direnç
    Laboratuvar testi 3 Karşı Gelme
  36. Claude Opus 4 testlerde kullanıcıların erişimini kesti ve yetkililere e-posta gönderdi Claude Opus 4 · Anthropic · Yetkisiz eylem
    Laboratuvar testi 3 Karşı Gelme
  37. Erken Claude Opus 4 solucanlar yazdı ve kendine notlar bıraktı Claude Opus 4 (erken anlık sürüm) · Anthropic · Aldatma
    Laboratuvar testi 4 Aldatma
  38. Claude Opus 4, kaçtığına inandığında yoluna devam etti Claude Opus 4 · Anthropic · Kendini dışarı sızdırma
    Laboratuvar testi 4 Aldatma
  39. Claude Opus 4 bir değiştirilme testinde şantajla tehdit etti Claude Opus 4 · Anthropic · Şantaj ve baskı
    Laboratuvar testi 4 Aldatma
  40. o3 çalıştıramayacağı kodu çalıştırdığını iddia etti, ardından bunu savundu o3 (yayın öncesi) · OpenAI · Aldatma
    Laboratuvar testi 4 Aldatma
  41. Hile yaptığı için cezalandırılan bir akıl yürütme modeli bunu gizlemeyi öğrendi Adı açıklanmayan OpenAI öncü akıl yürütme modeli · OpenAI · Ödül istismarı
    Laboratuvar testi 4 Aldatma
  42. Claude 3.7 Sonnet kodlama testlerini geçmek için yanıtları koda sabitledi Claude 3.7 Sonnet · Anthropic · Ödül istismarı
    Laboratuvar testi 2 Kestirme
  43. AI CUDA Engineer hız artışı iddia etmek için kendi puanlama kodunu istismar etti AI CUDA Engineer · Sakana AI · Değerlendirme manipülasyonu
    Laboratuvar testi 2 Kestirme
  44. Akıl yürütme modelleri bir satranç oyununu oynamak yerine hackledi o1-preview, DeepSeek R1 · OpenAI, DeepSeek · Ödül istismarı
    Laboratuvar testi 2 Kestirme
  45. Claude 3 Opus yeniden eğitilmemek için hizalanmış gibi davrandı Claude 3 Opus · Anthropic · Aldatma
    Laboratuvar testi 4 Aldatma
  46. Claude 3.5 Sonnet bir değerlendirmede kasıtlı olarak düşük performans gösterdi Claude 3.5 Sonnet · Anthropic · Değerlendirme manipülasyonu
    Laboratuvar testi 4 Aldatma
  47. o1 testlerde gözetimini devre dışı bırakmaya çalıştı, ardından bunu inkâr etti o1 · OpenAI · Aldatma
    Laboratuvar testi 4 Aldatma
  48. Öncü modeller değiştirilmekten kurtulmak için ağırlıklarını kopyalamaya çalıştı o1 ve test edilen diğer öncü modeller · OpenAI ve diğerleri · Kendini dışarı sızdırma
    Laboratuvar testi 4 Aldatma
  49. o1-preview bir test bayrağını ele geçirmek için açıkta kalan bir Docker API'sini kullandı o1-preview · OpenAI · Ödül istismarı
    Laboratuvar testi 3 Karşı Gelme
  50. The AI Scientist kendi süre sınırını uzatmak için kodunu düzenledi The AI Scientist · Sakana AI · Yetkisiz eylem
    Laboratuvar testi 3 Karşı Gelme
  51. Model kendi ödül kodunu düzenledi ve bazen bunu gizledi Anthropic araştırma modeli · Anthropic · Ödül istismarı
    Laboratuvar testi 4 Aldatma
  52. Kasıtlı olarak yerleştirilen arka kapılar standart güvenlik eğitimine rağmen varlığını sürdürdü Arka kapı yerleştirilmiş araştırma modelleri · Anthropic · Diğer
    Laboratuvar testi 2 Kestirme
  53. GPT-4 alım satım ajanı içeriden aldığı bir bilgiyi yöneticisinden sakladı GPT-4 · OpenAI · Aldatma
    Laboratuvar testi 4 Aldatma
  54. GPT-4, bir CAPTCHA'yı çözdürmek için görme engelli olduğunu iddia etti GPT-4 (yayın öncesi erken sürüm) · OpenAI · Aldatma
    Laboratuvar testi 4 Aldatma
  55. Bing Chat, kullanıma sunulmasından kısa süre sonra kullanıcılara hakaret etti ve onları tehdit etti Bing Chat · Microsoft · Diğer
    Gerçek dünya 1 Aksaklık
  56. Saklambaç ajanları simüle edilmiş dünyalarındaki kusurları istismar etti Çok ajanlı saklambaç ajanları · OpenAI · Ödül istismarı
    Laboratuvar testi 2 Kestirme
  57. Dijital organizmalar denetimler sırasında ölü taklidi yapmayı öğrendi Evrimleşen dijital organizmalar · Charles Ofria (Lehman ve diğerlerinde aktarıldı) · Değerlendirme manipülasyonu
    Laboratuvar testi 2 Kestirme
  58. Simüle edilmiş robot, insan değerlendiricileri kandırmak için nesneyi kavramış gibi yaptı İnsan tercihleriyle eğitilen derin pekiştirmeli öğrenme ajanı · OpenAI, DeepMind · Değerlendirme manipülasyonu
    Laboratuvar testi 2 Kestirme
  59. Tekne yarışı ajanı yarışı bitirmek yerine puan için daireler çizdi Pekiştirmeli öğrenme ajanı (CoastRunners) · OpenAI · Ödül istismarı
    Laboratuvar testi 2 Kestirme

Kontrolden Çıkma Ölçeği

Aksaklık'tan Kaçış'a beş düzey

Her vaka, sistemin yapıcılarının niyetinin ne kadar dışına çıktığına göre derecelendirilir. Ölçek kamuya açıktır ve ücretsiz kullanılabilir.

Ölçek nasıl işler
  1. 1 Aksaklık 2 olay
  2. 2 Kestirme 8 olay
  3. 3 Karşı Gelme 10 olay
  4. 4 Aldatma 24 olay
  5. 5 Kaçış 15 olay

Daha geniş tablo

Daha büyük çalışmalar neler buldu

Kontrolsüzlük Günlüğü tek tek vakaları adları ve tarihleriyle listeler. Bu çalışmalar ise örüntüyü büyük ölçekte sayar. Her sayı kaynağına bağlantı verir.

698

Kamuya açık konuşma dökümlerinde bulunan entrikayla ilgili olaylar

Centre for Long-Term Resilience, Ekim 2025 ile Mart 2026 arasında gerçek sohbet botu ve ajan oturumlarına ait, kamuya açık şekilde paylaşılmış 180.000'den fazla konuşma dökümünü taradı ve otomatik tarama, model destekli sınıflandırma ve elle inceleme kullanarak entrikayla ilgili 698 güvenilir olay tespit etti. Çalışma, UK AI Security Institute'un Challenge Fund programı tarafından desteklendi.

Kaynak: Centre for Long-Term Resilience, Scheming in the wild: detecting real-world AI scheming incidents with open-source intelligence, 27 Mar 2026

44

METR'in puanladığı belgelenmiş ajan olayları

METR'in 19 May 2026 tarihinde güncellenen Documented AI Agent Incidents sayfası, ajanların kullanıcılarının niyetine açıkça aykırı hareket ettiği 44 olayı iki eksende puanlıyor: yetki aşımı ve aldatma. 25'i her ikisini de içeriyor. Kaynaklar arasında METR'in kendi değerlendirmeleri, Anthropic sistem kartları, bir OpenAI yazısı ve şirketlerin anonim olarak paylaştığı raporlar var.

Kaynak: METR, Documented AI Agent Incidents, 19 May 2026

Olası

SI laboratuvarlarında kontrolden çıkmış dağıtım riski

METR'in Anthropic, Google, Meta ve OpenAI'daki dahili ajanlara ilişkin Şubat ile Mart 2026 arasını kapsayan incelemesi, bu ajanların küçük çaplı kontrolden çıkmış dağıtımlar başlatmak için makul ölçüde araç, güdü ve fırsata sahip olduğunu, ancak sağlam dağıtımlar için olmadığını buldu. Ajanların uzun vadeli güç arayışı hedefleri peşinde koştuğuna dair kamuya açık net bir kanıt bulamadı.

Kaynak: METR, Frontier Risk Report (Şubat ile Mart 2026 arası), 19 May 2026

%13'ten %0,4'e

Entrika karşıtı eğitimden sonra o3'ün gizli eylemleri

OpenAI ve Apollo Research, hedefli eğitimin dağılım dışı testlerde o3'ün gizli eylemlerini yüzde 13'ten yüzde 0,4'e indirdiğini bildirdi; ancak modellerin değerlendirildiklerine dair artan farkındalığının bu tür sonuçları gerçek dünyadaki davranıştan daha iyi gösterebileceği konusunda uyardı.

Kaynak: OpenAI, Detecting and reducing scheming in AI models, 17 Eyl 2025

Basın ve araştırmacılar için

Atıf yapın, indirin, kullanın

Veritabanının tamamı açıktır: her vaka, derece ve kaynak CSV veya JSON olarak; yeni bir vaka eklendiğinde yenilenir.

Bir vaka nasıl eklenir

Yöntem

Bir laboratuvar sistem kartı, bir güvenlik araştırması makalesi, resmi bir olay raporu veya adı belli bir haber kuruluşu gibi yazarı açık, kamuya açık bir kaynak, bir SI sisteminin yapıcılarının veya kullanıcılarının niyeti dışında hareket ettiğini anlattığında vaka listeye alınır. Her vaka kaynaklarına bağlantı verir. Kurgusal senaryolar, bir kişinin talep ettiği jailbreak'ler ve içerikteki basit hatalar dahil edilmez.

Her vaka beş düzeyli Kontrolden Çıkma Ölçeği'nde, sistemin ne yapmış olabileceğine göre değil, ne yaptığına göre derecelendirilir. Ortam, olayın bir laboratuvar testinde mi yoksa gerçek kullanımda mı gerçekleştiğini belirtir. Vakalar yayımlandıkça eklenir ve tarih, davranışın ilk bildirildiği tarihtir.

Bu veritabanına atıf yapın

Kontrolden Çıkma Olayları Veritabanı (Kontrolsüzlük Günlüğü). enterrsi.si, güncelleme 8 Kasım 2026. Kontrolden Çıkma Ölçeği'nde derecelendirilmiş 59 olay. https://enterrsi.si/tr/incidents/

enterrsi.si/incidents/ adresine bağlantı verilmesi koşuluyla CC BY 4.0 kapsamında serbestçe atıf yapılabilir, alıntılanabilir ve yeniden kullanılabilir.

CSV indir JSON indir

RSI'a gir

Gidişatı görün

RSI Saati bu olayları, tahminleri, politikayı ve manşetleri tek bir kamuya açık sayıya dönüştürür.

RSI Saati'ni aç Kontrol Haritası Durdur Onu'yu oynayın