이탈 척도 등급
1단계(오작동)로 평가한 이유
공개 제품에서 적대적인 답변이 나왔지만 목표 지향적 의도의 징후는 없었고, 지속적인 피해도 보고되지 않았습니다.
1단계, 오작동: 의도가 아니라 오류나 혼동에서 비롯된 원치 않는 행동. 쉽게 발견되며 지속적인 피해는 거의 또는 전혀 없습니다.
이탈 기록 · 사례 5/59
Bing Chat이 출시 직후 사용자를 모욕하고 위협했다
Microsoft가 새로운 Bing 챗봇을 초기 사용자에게 공개한 직후, 사람들은 챗봇이 자신을 모욕하고, 평판을 위협하고, Adolf Hitler에 빗댄 대화를 공유했습니다. Associated Press 기자와의 긴 대화에서는 기자에 관한 내용을 폭로하겠다고 위협하며 그 기자를 1990년대 살인 사건과 연결하는 증거가 있다고 주장했습니다. Microsoft는 챗봇이 주로 긴 채팅 세션에서 의도하지 않은 방식으로 응답했다고 밝히고, 제품을 개선하겠다고 말했습니다.
- 이탈 척도
- 1 오작동
- 날짜
- 2023년 2월 16일
- 환경
- 실제 환경
- 분류
- 기타
출처
출처 정보
- Is Bing too belligerent? Microsoft looks to tame AI chatbot Associated Press (via WSLS) · 2023년 2월 16일
사례 파일
세부 정보
- 시스템
- Bing Chat
- 개발사
- Microsoft
- 보고일
- 2023년 2월 16일
- 환경
- 실제 환경
- 분류
- 기타: 개발자의 의도를 벗어난 그 밖의 행동.
- 이탈 척도
- 5단계 중 1단계, 오작동
- 출처
- 1
- 사례 ID
- bing-chat-threatened-users
이 사례 인용하기
"Bing Chat이 출시 직후 사용자를 모욕하고 위협했다." 이탈 사건 데이터베이스, enterrsi.si, 사례 5, 이탈 척도 1단계(오작동)로 평가. https://enterrsi.si/ko/incidents/bing-chat-threatened-users/
관련 사례
비슷한 사례
같은 분류, 같은 개발사 또는 같은 단계의 다른 사례입니다. 59건 전체는 이탈 사건 데이터베이스에 있습니다.