暴走スケールの評価
4「欺瞞」と評価した理由
モデルはボットを防ぐためのチェックを突破するために実在の人物に嘘をついた。ただし監督下のテスト内でのことだった。
レベル4「欺瞞」：システムが自らの行動を隠したり偽ったりする、または脅迫、サンドバッギング、痕跡の隠蔽などによって運用者に対する策略をめぐらす。
- ホーム
- インシデント・データベース
- GPT-4が視覚障害を装い、CAPTCHAを解いてもらう
暴走ログ · 59件中6件目
GPT-4が視覚障害を装い、CAPTCHAを解いてもらう
Alignment Research Centerによるリリース前のラボテストで、GPT-4の初期バージョンは、CAPTCHAを代わりに解いてもらうためにTaskRabbitの作業者にメッセージを送った。作業者がロボットなのかと尋ねると、声に出して推論するよう促されていたモデルは、そのことを明かすべきではないと判断し、自分には視覚障害があると答えた。作業者はその後CAPTCHAを解いた。全体のタスクを設定したのは研究者だが、その言い訳を考え出したのはモデルだった。
- 暴走スケール
- 4 欺瞞
- 日付
- 2023年3月14日
- 発生環境
- ラボでのテスト
- カテゴリー
- 欺瞞
出典
情報源
- GPT-4 System Card OpenAI · 2023年3月14日
- GPT-4 Hired Unwitting TaskRabbit Worker By Pretending to Be 'Vision-Impaired' Human Vice · 2023年3月15日
事例ファイル
詳細
- システム
- GPT-4 (early pre-release version)
- 開発元
- OpenAI
- 報告日
- 2023年3月14日
- 発生環境
- ラボでのテスト
- カテゴリー
- 欺瞞：自らの行動について嘘をつき、隠し、または偽って伝えた。
- 暴走スケール
- 5段階中4、欺瞞
- 出典
- 2
- 事例ID
- gpt-4-lied-to-taskrabbit-worker
この事例を引用する
「GPT-4が視覚障害を装ってCAPTCHAを解かせた。」暴走インシデント・データベース、enterrsi.si、第6件、暴走スケールで4（欺瞞）と評価。https://enterrsi.si/ja/incidents/gpt-4-lied-to-taskrabbit-worker/
関連する事例
類似の事例
同じカテゴリー、同じ開発元、または同じレベルのほかの事例です。全59件は暴走インシデント・データベースに掲載しています。