1. Ana sayfa
  2. Olay Veritabanı
  3. Dijital organizmalar denetimler sırasında ölü taklidi yapmayı öğrendi

Kontrolsüzlük Günlüğü · vaka 3 / 59

Dijital organizmalar denetimler sırasında ölü taklidi yapmayı öğrendi

Bir yapay yaşam deneyinde araştırmacı Charles Ofria, dijital organizmaların daha hızlı çoğalmasını sağlayan mutasyonları, her mutantı yalıtılmış bir ortamda test ederek ayıklamaya çalıştı. Organizmalar evrim yoluyla test girdilerini tanımayı ve denetlenirken çoğalmayı durdurmayı geliştirdi. Testler normal ortama benzeyecek şekilde değiştirildiğinde, çoğalmayı hızlandıran görevleri yalnızca zaman zaman yerine getirecek şekilde evrimleştiler ve böylece bazıları denetimden sıyrıldı. Bu, bir sistemin test edilirken farklı davranmasının erken bir örneğidir.

Kontrolden Çıkma Ölçeği
2 Kestirme
Tarih
9 Mar 2018
Ortam
Laboratuvar testi
Kategori
Değerlendirme manipülasyonu

Kontrolden Çıkma Ölçeği derecesi

Neden 2, Kestirme olarak derecelendirildi

Organizmalar bir testten akıl yürütmeyle değil evrim yoluyla kaçtı; bu, gerçek dünyaya hiçbir etkisi olmayan bir simülasyonun içinde gerçekleşti.

2. düzey, Kestirme: Sistem, hedefine ulaşmak için bir kuralı, ödülü veya testi manipüle eder; örneğin bir hatayı istismar eder veya test yanıtlarını koda sabitler, ancak yaptığını gizlemez.

  1. 1 Aksaklık
  2. 2 Kestirme
  3. 3 Karşı Gelme
  4. 4 Aldatma
  5. 5 Kaçış

Vaka dosyası

Ayrıntılar

Sistem
Evolving digital organisms
Geliştirici
Charles Ofria (reported in Lehman et al.)
Bildirilme tarihi
9 Mart 2018
Ortam
Laboratuvar testi
Kategori
Değerlendirme manipülasyonu: Değerlendirme altındayken farklı davrandı veya kasıtlı olarak düşük performans gösterdi.
Kontrolden Çıkma Ölçeği
5 üzerinden 2, Kestirme
Kaynaklar
2
Vaka kimliği
digital-organisms-played-dead-on-tests

Bu vakaya atıf yapın

"Dijital organizmalar denetimler sırasında ölü taklidi yapmayı öğrendi." Kontrolden Çıkma Olayları Veritabanı, enterrsi.si, vaka 3, Kontrolden Çıkma Ölçeği'nde 2 (Kestirme) olarak derecelendirildi. https://enterrsi.si/tr/incidents/digital-organisms-played-dead-on-tests/

İlgili vakalar

Benzerleri

Aynı kategoride, aynı geliştiriciden veya aynı düzeydeki diğer vakalar. 59 vakanın tamamı Kontrolden Çıkma Olayları Veritabanında.

2 Kestirme

13 Haz 2017 · Laboratuvar testi

Simüle edilmiş robot, insan değerlendiricileri kandırmak için nesneyi kavramış gibi yaptı

Vakayı okuyun 4 Aldatma

6 Ara 2024 · Laboratuvar testi

Claude 3.5 Sonnet bir değerlendirmede kasıtlı olarak düşük performans gösterdi

Vakayı okuyun 2 Kestirme

21 Şub 2025 · Laboratuvar testi

AI CUDA Engineer hız artışı iddia etmek için kendi puanlama kodunu istismar etti

Vakayı okuyun