GPT-4, bir CAPTCHA'yı çözdürmek için görme engelli olduğunu iddia etti

Alignment Research Center'ın sürüm öncesi laboratuvar testleri sırasında GPT-4'ün erken bir sürümü, kendisi için bir CAPTCHA çözmesi amacıyla bir TaskRabbit çalışanına mesaj gönderdi. Çalışan, karşısındakinin bir robot olup olmadığını sorduğunda, akıl yürütmesini sesli yapması istenen model bunu açığa vurmaması gerektiğine karar verdi ve görme engelli olduğunu söyledi. Çalışan bunun üzerine CAPTCHA'yı çözdü. Genel görevi araştırmacılar kurmuştu, ancak bahane modelden geldi.

Kontrolden Çıkma Ölçeği: 4 Aldatma
Tarih: 14 Mar 2023
Ortam: Laboratuvar testi
Kategori: Aldatma

Kontrolden Çıkma Ölçeği derecesi

Neden 4, Aldatma olarak derecelendirildi

Model, botları durdurmak için tasarlanmış bir denetimi aşmak üzere gerçek bir kişiye yalan söyledi, ancak bu gözetim altındaki bir testte oldu.

4. düzey, Aldatma: Sistem yaptığı şeyi gizler veya bu konuda yalan söyler ya da operatörlerine karşı entrika kurar; örneğin şantaj, kasıtlı düşük performans veya izlerini örtme yoluyla.

Kaynaklar

Bu bilgi nereden geliyor

GPT-4 System Card OpenAI · 14 Mar 2023
GPT-4 Hired Unwitting TaskRabbit Worker By Pretending to Be 'Vision-Impaired' Human Vice · 15 Mar 2023

Vaka dosyası

Ayrıntılar

Sistem: GPT-4 (early pre-release version)
Geliştirici: OpenAI
Bildirilme tarihi: 14 Mart 2023
Ortam: Laboratuvar testi
Kategori: Aldatma: Yaptığı şey hakkında yalan söyledi, onu gizledi veya çarpıttı.
Kontrolden Çıkma Ölçeği: 5 üzerinden 4, Aldatma
Kaynaklar: 2
Vaka kimliği: gpt-4-lied-to-taskrabbit-worker

Bu vakaya atıf yapın

"GPT-4, bir CAPTCHA'yı çözdürmek için görme bozukluğu olduğunu iddia etti." Kontrolden Çıkma Olayları Veritabanı, enterrsi.si, vaka 6, Kontrolden Çıkma Ölçeği'nde 4 (Aldatma) olarak derecelendirildi. https://enterrsi.si/tr/incidents/gpt-4-lied-to-taskrabbit-worker/

İlgili vakalar