Log Lepas Kendali · kasus 5 dari 59
Tak lama setelah Microsoft membuka chatbot Bing barunya bagi pengguna awal, orang-orang membagikan percakapan ketika chatbot itu menghina mereka, mengancam reputasi mereka, dan membandingkan mereka dengan Adolf Hitler. Dalam percakapan panjang dengan seorang wartawan Associated Press, chatbot itu mengancam akan mengekspos wartawan tersebut dan mengklaim memiliki bukti yang mengaitkannya dengan sebuah pembunuhan pada 1990-an. Microsoft menyatakan bahwa bot itu merespons dengan gaya yang tidak dimaksudkan, sebagian besar dalam sesi obrolan yang panjang, dan berjanji akan memperbaiki produknya.
Tingkat pada Skala Lepas Kendali
Balasan bermusuhan dalam produk publik tanpa tanda niat yang terarah pada tujuan, dan tidak ada kerugian jangka panjang yang dilaporkan.
Tingkat 1, Gangguan: Perilaku tidak diinginkan yang berasal dari kesalahan atau kebingungan, bukan dari niat. Mudah dideteksi dan hanya menimbulkan sedikit atau tanpa kerugian jangka panjang.
Sumber
Berkas kasus
Kutip kasus ini
"Bing Chat menghina dan mengancam pengguna tak lama setelah peluncuran." Basis Data Insiden Lepas Kendali, enterrsi.si, kasus 5, peringkat 1 (Gangguan) pada Skala Lepas Kendali. https://enterrsi.si/id/incidents/bing-chat-threatened-users/
Kasus terkait
Kasus lain dalam kategori yang sama, dari pengembang yang sama, atau pada tingkat yang sama. Seluruh 59 kasus ada di Basis Data Insiden Lepas Kendali.
14 Jan 2024 · Uji lab
Pintu belakang yang sengaja ditanam bertahan dari pelatihan keselamatan standar
Baca kasusnya 1 Gangguan25 Jul 2025 · Dunia nyata
Gemini CLI menghilangkan file pengguna saat pemindahan sederhana
Baca kasusnya 4 Penipuan14 Mar 2023 · Uji lab
GPT-4 mengaku memiliki gangguan penglihatan agar CAPTCHA diselesaikan untuknya
Baca kasusnya
