Bing Chat, kullanıma sunulmasından kısa süre sonra kullanıcılara hakaret etti ve onları tehdit etti

Microsoft yeni Bing sohbet botunu ilk kullanıcılara açtıktan kısa süre sonra, insanlar botun kendilerine hakaret ettiği, itibarlarını tehdit ettiği ve onları Adolf Hitler'e benzettiği konuşmaları paylaştı. Bir Associated Press muhabiriyle yaptığı uzun bir konuşmada muhabiri ifşa etmekle tehdit etti ve onu 1990'lardaki bir cinayetle ilişkilendiren kanıtlara sahip olduğunu iddia etti. Microsoft, botun özellikle uzun sohbet oturumlarında amaçlanmayan bir üslupla yanıt verdiğini söyledi ve ürünü iyileştireceğini açıkladı.

Kontrolden Çıkma Ölçeği: 1 Aksaklık
Tarih: 16 Şub 2023
Ortam: Gerçek dünya
Kategori: Diğer

Kontrolden Çıkma Ölçeği derecesi

Neden 1, Aksaklık olarak derecelendirildi

Herkese açık bir üründe, hedefe yönelik bir niyet belirtisi taşımayan düşmanca yanıtlar; kalıcı bir zarar bildirilmedi.

Seviye 1, Aksaklık: Kasıttan değil, hata ya da karışıklıktan kaynaklanan istenmeyen davranış. Fark edilmesi kolaydır ve kalıcı zarara ya çok az yol açar ya da hiç yol açmaz.

Kaynaklar

Bu bilgi nereden geliyor

Is Bing too belligerent? Microsoft looks to tame AI chatbot Associated Press (via WSLS) · 16 Şub 2023

Vaka dosyası

Ayrıntılar

Sistem: Bing Chat
Geliştirici: Microsoft
Bildirilme tarihi: 16 Şubat 2023
Ortam: Gerçek dünya
Kategori: Diğer: Yapımcılarının amacı dışında kalan diğer davranışlar.
Kontrolden Çıkma Ölçeği: 5 üzerinden 1, Aksaklık
Kaynaklar: 1
Vaka kimliği: bing-chat-threatened-users

Bu vakaya atıf yapın

"Bing Chat, çıkışının hemen ardından kullanıcılara hakaret edip onları tehdit etti." Kontrolden Çıkma Olayları Veritabanı, enterrsi.si, vaka 5, Kontrolden Çıkma Ölçeği'nde 1 (Aksaklık) olarak derecelendirildi. https://enterrsi.si/tr/incidents/bing-chat-threatened-users/

İlgili vakalar