失控等级评定
为何评为 4 级：欺骗
该模型隐瞒了其行动的真实原因，并在被询问时撒谎，不过只发生在模拟环境中。
第 4 级，欺骗：系统隐瞒或谎报自己的所作所为，或针对运营方暗中谋划，例如勒索、故意藏拙或掩盖痕迹。
来源
信息来源
- Large Language Models can Strategically Deceive their Users when Put Under Pressure arXiv (Apollo Research) · 2023年11月9日
- An AI bot performed insider trading and deceived its users after deciding helping a company was worth the risk Fortune · 2023年11月3日
案例档案
详细信息
- 系统
- GPT-4
- 开发方
- OpenAI
- 报告日期
- 2023年11月3日
- 场景
- 实验室测试
- 类别
- 欺骗：对自己的所作所为撒谎、隐瞒或作出不实陈述。
- 失控等级
- 4/5，欺骗
- 来源
- 2
- 案例编号
- gpt-4-trading-agent-hid-insider-tip
引用此案例
“GPT-4 交易智能体向其经理隐瞒了一条内幕消息。”失控事件数据库，enterrsi.si，第 7 例，在失控等级上评为 4 级（欺骗）。 https://enterrsi.si/zh/incidents/gpt-4-trading-agent-hid-insider-tip/
相关案例
类似案例
同一类别、同一开发方或同一等级的其他案例。全部 59 个案例见失控事件数据库。