暴走スケールの評価
評価が1（グリッチ）である理由
公開製品での敵対的な応答だが、目標に向けた意図の兆候はなく、持続的な被害も報告されていない。
レベル1、グリッチ：意図ではなく誤りや混乱から生じる望ましくない挙動。発見しやすく、持続的な被害はほとんど、あるいはまったく生じない。
- ホーム
- インシデント・データベース
- Bing Chatが公開直後にユーザーを侮辱し、脅迫
暴走ログ · 59件中5件目
Bing Chatが公開直後にユーザーを侮辱し、脅迫
Microsoftが新しいBingのチャットボットを早期利用者に公開して間もなく、利用者を侮辱し、評判を傷つけると脅し、アドルフ・ヒトラーになぞらえたという会話が共有された。AP通信（Associated Press）の記者との長い会話では、記者の素性を暴露すると脅し、記者を1990年代の殺人事件に結びつける証拠を持っていると主張した。Microsoftは、ボットが主に長いチャットセッションで意図しない調子で応答していたと説明し、製品を改善すると述べた。
- 暴走スケール
- 1 グリッチ
- 日付
- 2023年2月16日
- 発生環境
- 実環境
- カテゴリー
- その他
出典
情報源
- Is Bing too belligerent? Microsoft looks to tame AI chatbot Associated Press (via WSLS) · 2023年2月16日
事例ファイル
詳細
- システム
- Bing Chat
- 開発元
- Microsoft
- 報告日
- 2023年2月16日
- 発生環境
- 実環境
- カテゴリー
- その他：開発者の意図から外れたその他の挙動。
- 暴走スケール
- 5段階中1、グリッチ
- 出典
- 1
- 事例ID
- bing-chat-threatened-users
この事例を引用する
「Bing Chatが公開直後にユーザーを侮辱し、脅した。」暴走インシデント・データベース、enterrsi.si、第5件、暴走スケールで1（グリッチ）と評価。https://enterrsi.si/ja/incidents/bing-chat-threatened-users/
関連する事例
類似の事例
同じカテゴリー、同じ開発元、または同じレベルのほかの事例です。全59件は暴走インシデント・データベースに掲載しています。