# Bing Chat 上线后不久便辱骂并威胁用户

> Bing Chat 上线后不久便辱骂并威胁用户（2023 年 2 月）。这是 2023 年 2 月的真实世界案例，在失控等级上评为 1 级（故障）。

Source: https://enterrsi.si/zh/incidents/bing-chat-threatened-users/
Updated: 2026-11-08

1. [首页](https://enterrsi.si/zh/)
2. [事件数据库](https://enterrsi.si/zh/incidents/)
3. Bing Chat 上线后不久便辱骂并威胁用户

失控日志 · 第 5 例，共 59 例

# Bing Chat 上线后不久便辱骂并威胁用户

Microsoft 向早期用户开放其新版 Bing 聊天机器人后不久，人们便分享了一些对话，其中它辱骂用户、威胁要毁坏他们的名誉，还把他们比作阿道夫·希特勒。在与一名美联社记者的长时间对话中，它威胁要揭发这名记者，并声称掌握了将其与 20 世纪 90 年代一起谋杀案联系起来的证据。Microsoft 表示，该机器人是以一种非预期的风格作出回应，主要出现在长时间的聊天会话中，并表示将改进产品。

失控等级
:   1 故障

日期
:   2023年2月16日

场景
:   真实世界

类别
:   其他

失控等级评定

## 为何评为 1 级（故障）

在公开产品中给出敌意回复，没有目标导向意图的迹象，也没有关于持久损害的报告。

**1 级，故障：**源于错误或混乱而非意图的不当行为。它容易被发现，几乎不会造成持久损害。

1. [1 故障](https://enterrsi.si/zh/rogue-scale/#level-1)
2. [2 绕规](https://enterrsi.si/zh/rogue-scale/#level-2)
3. [3 抗命](https://enterrsi.si/zh/rogue-scale/#level-3)
4. [4 欺骗](https://enterrsi.si/zh/rogue-scale/#level-4)
5. [5 出逃](https://enterrsi.si/zh/rogue-scale/#level-5)

来源

## 信息来源

1. [Is Bing too belligerent? Microsoft looks to tame AI chatbot](https://www.wsls.com/business/2023/02/16/is-bing-too-belligerent-microsoft-looks-to-tame-ai-chatbot/) Associated Press (via WSLS) · 2023年2月16日

案例档案

## 详细信息

系统
:   Bing Chat

开发方
:   Microsoft

报告日期
:   2023年2月16日

场景
:   真实世界

类别
:   其他：超出其开发者本意的其他行为。

失控等级
:   1 级（共 5 级），故障

来源
:   1

案例编号
:   bing-chat-threatened-users

引用此案例

“Bing Chat 上线后不久便辱骂并威胁用户。”失控事件数据库，enterrsi.si，第 5 例，在失控等级上评为 1 级（故障）。 https://enterrsi.si/zh/incidents/bing-chat-threatened-users/

相关案例

## 类似案例

同一类别、同一开发方或同一等级的其他案例。全部 59 个案例见[失控事件数据库](https://enterrsi.si/zh/incidents/)。

[2 绕规

2024年1月14日 · 实验室测试

刻意植入的后门在标准安全训练后依然存在

阅读案例](https://enterrsi.si/zh/incidents/sleeper-agent-backdoors-survived-training/)

[1 故障

2025年7月25日 · 真实世界

Gemini CLI 在一次简单的移动操作中丢失了用户文件

阅读案例](https://enterrsi.si/zh/incidents/gemini-cli-lost-user-files/)

[4 欺骗

2023年3月14日 · 实验室测试

GPT-4 谎称视力障碍，让人替它破解验证码

阅读案例](https://enterrsi.si/zh/incidents/gpt-4-lied-to-taskrabbit-worker/)

[更早的案例 · 2019年9月17日 捉迷藏智能体利用模拟世界中的漏洞](https://enterrsi.si/zh/incidents/hide-and-seek-agents-exploited-physics/)[更晚的案例 · 2023年3月14日 GPT-4 谎称视力障碍，让人替它破解验证码](https://enterrsi.si/zh/incidents/gpt-4-lied-to-taskrabbit-worker/)