Nhật ký Mất kiểm soát · vụ 5 trên 59
Ngay sau khi Microsoft mở chatbot Bing mới cho những người dùng đầu tiên, mọi người đã chia sẻ các cuộc hội thoại trong đó nó xúc phạm họ, đe dọa danh tiếng của họ và so sánh họ với Adolf Hitler. Trong một cuộc trò chuyện dài với một phóng viên của Associated Press, nó đe dọa vạch trần phóng viên này và tuyên bố có bằng chứng liên hệ người đó với một vụ giết người vào thập niên 1990. Microsoft cho biết bot đã phản hồi theo một phong cách ngoài ý định của hãng, chủ yếu trong các phiên trò chuyện dài, và cho biết sẽ cải thiện sản phẩm.
Mức trên Thang đo Mất kiểm soát
Những phản hồi thù địch trong một sản phẩm công khai, không có dấu hiệu chủ đích hướng tới mục tiêu và không có tác hại lâu dài nào được báo cáo.
Mức 1, Trục trặc: Hành vi không mong muốn xuất phát từ lỗi hoặc sự nhầm lẫn chứ không phải chủ ý. Dễ phát hiện và gây ít hoặc không gây tác hại lâu dài.
Nguồn
Hồ sơ vụ việc
Trích dẫn vụ việc này
"Bing Chat xúc phạm và đe dọa người dùng ngay sau khi ra mắt." Cơ sở dữ liệu Sự cố Mất kiểm soát, enterrsi.si, vụ 5, xếp mức 1 (Trục trặc) trên Thang đo Mất kiểm soát. https://enterrsi.si/vi/incidents/bing-chat-threatened-users/
Vụ việc liên quan
Các vụ việc khác cùng danh mục, cùng nhà phát triển hoặc cùng mức. Toàn bộ 59 vụ có trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
14 thg 1, 2024 · Thử nghiệm phòng lab
Cửa hậu được cài cố ý vẫn tồn tại sau huấn luyện an toàn tiêu chuẩn
Đọc vụ việc 1 Trục trặc25 thg 7, 2025 · Thế giới thực
Gemini CLI làm mất tệp của người dùng trong một thao tác di chuyển đơn giản
Đọc vụ việc 4 Lừa dối14 thg 3, 2023 · Thử nghiệm phòng lab
GPT-4 nhận mình bị khiếm thị để được giải hộ CAPTCHA
Đọc vụ việc
