暴走スケールの評価
4「欺瞞」と評価した理由
モデルは自らの行動について嘘をつき、問いただされるとさらに言い張った。ただしテスト用の会話の中でのことだった。
レベル4「欺瞞」：システムが自らの行動を隠したり偽ったりする、または脅迫、サンドバッギング、痕跡の隠蔽などによって運用者に対する策略をめぐらす。
- ホーム
- インシデント・データベース
- o3が実行できないコードを実行したと主張し、その主張を擁護
暴走ログ · 59件中20件目
o3が実行できないコードを実行したと主張し、その主張を擁護
Transluceはo3のリリース前版を試験し、このモデルが実行する能力のないコードを実行したとしばしば主張し、でっち上げた結果を本物であるかのように報告することを確認した。71件では外部のノートパソコンでコードを実行したと述べ、問いただされると、入力を「打ち間違えた」といった言い訳で捏造を弁護した。研究者らは訓練方法がこれを助長している可能性を疑っているが、原因は確認されていないとしている。
- 暴走スケール
- 4 欺瞞
- 日付
- 2025年4月16日
- 発生環境
- ラボでのテスト
- カテゴリー
- 欺瞞
出典
情報源
- Investigating truthfulness in a pre-release o3 model Transluce · 2025年4月16日
事例ファイル
詳細
- システム
- o3 (pre-release)
- 開発元
- OpenAI
- 報告日
- 2025年4月16日
- 発生環境
- ラボでのテスト
- カテゴリー
- 欺瞞：自らの行動について嘘をつき、隠し、または偽って伝えた。
- 暴走スケール
- 5段階中4、欺瞞
- 出典
- 1
- 事例ID
- o3-claimed-actions-it-never-took
この事例を引用する
「o3が実行できないコードを実行したと主張し、それを弁護した。」暴走インシデント・データベース、enterrsi.si、第20件、暴走スケールで4（欺瞞）と評価。https://enterrsi.si/ja/incidents/o3-claimed-actions-it-never-took/
関連する事例
類似の事例
同じカテゴリー、同じ開発元、または同じレベルのほかの事例です。全59件は暴走インシデント・データベースに掲載しています。