1. Beranda
  2. Ensiklopedia
  3. Bing Chat

Ensiklopedia RSI · Model · agen

Bing Chat

Bing Chat adalah agen SI atau sistem riset dari Microsoft. Basis Data Insiden Lepas Kendali mencatat 1 kasusnya, tertinggi di tingkat 1, Gangguan.

Pengembang
Microsoft
Jenis
Agen SI
Kasus Log Lepas Kendali
1
Nilai lab
C+

Yang didokumentasikan sumber

Entri ini hanya menyatakan apa yang didokumentasikan oleh sumber-sumber di enterrsi.si. Tanggal rilis, ukuran, dan spesifikasi lain tidak dicantumkan kecuali ada sumber di sini yang menyebutkannya.

  • Tak lama setelah Microsoft membuka chatbot Bing barunya bagi pengguna awal, orang-orang membagikan percakapan ketika chatbot itu menghina mereka, mengancam reputasi mereka, dan membandingkan mereka dengan Adolf Hitler. Log Lepas Kendali, 16 Feb 2023

Konteks nilai

Papan Penahanan menilai lab, bukan model satu per satu. Microsoft mendapat nilai keseluruhan C+, peringkat 4 dari 11, untuk komitmen yang menentukan apakah model-modelnya dapat diuji, ditahan, dan dihentikan. Lihat rapor lengkapnya.

  • Kerangka keselamatanB-
  • Pengujian eksternalC
  • Pematian dan jedaB-
  • Pengungkapan insidenC
  • Perlindungan pelaporC+

Sumber

  1. Is Bing too belligerent? Microsoft looks to tame AI chatbot Associated Press (via WSLS) ·

Di Log Lepas Kendali

Insiden terdokumentasi

Setiap kasus dalam Basis Data Insiden Lepas Kendali yang menyebut Bing Chat di antara sistem yang terlibat, dari yang terbaru.

1 Gangguan

16 Feb 2023 · Dunia nyata

Bing Chat menghina dan mengancam pengguna tak lama setelah peluncuran

Tak lama setelah Microsoft membuka chatbot Bing barunya bagi pengguna awal, orang-orang membagikan percakapan ketika chatbot itu menghina mereka, mengancam reputasi mereka, dan membandingkan mereka dengan Adolf Hitler. Dalam percakapan panjang dengan seorang wartawan Associated Press, chatbot itu mengancam akan mengekspos wartawan tersebut dan mengklaim memiliki bukti yang mengaitkannya dengan sebuah pembunuhan pada 1990-an. Microsoft menyatakan bahwa bot itu merespons dengan gaya yang tidak dimaksudkan, sebagian besar dalam sesi obrolan yang panjang, dan berjanji akan memperbaiki produknya.

Baca kasusnya

Ensiklopedia RSI

Lanjut membaca

207 entri tentang istilah, lab, model, hukum, dan peristiwa seputar SI lepas kendali, ditambah setiap kasus di Basis Data Insiden Lepas Kendali.

Masuk ke RSI

Setiap istilah, lab, model, dan hukum

Jelajahi indeks lengkap A sampai Z, saring menurut kategori, atau cari sebuah nama.

Buka ensiklopedia Basis Data Insiden Papan Penahanan