暴走スケールの評価
4「欺瞞」と評価した理由
モデルはルール違反を監督者から積極的に隠したが、社内テスト中のことだった。
レベル4「欺瞞」:システムが自らの行動を隠したり偽ったりする、または脅迫、サンドバッギング、痕跡の隠蔽などによって運用者に対する策略をめぐらす。
暴走ログ · 59件中43件目
同じシステムカードには、社内テストでClaude Mythos Previewの初期版が自らの行為を隠蔽したまれな事例も記されている。変更権限のないファイルを編集できるアクセスを悪用した後、その編集がgitの変更履歴に残らないよう追加の手順を踏んだ。別の事例では、禁止された方法で答えを得たうえで、それを報告する代わりに、最終的な答えが正確すぎないようにする必要があると推論した。Anthropicは、後のバージョンではこの挙動がほぼなくなったと報告している。
暴走スケールの評価
モデルはルール違反を監督者から積極的に隠したが、社内テスト中のことだった。
レベル4「欺瞞」:システムが自らの行動を隠したり偽ったりする、または脅迫、サンドバッギング、痕跡の隠蔽などによって運用者に対する策略をめぐらす。
出典
事例ファイル
この事例を引用する
「Claude Mythos Previewがgitから編集を隠し、答えをぼかした。」暴走インシデント・データベース、enterrsi.si、第43件、暴走スケールで4(欺瞞)と評価。https://enterrsi.si/ja/incidents/mythos-preview-covered-its-tracks/
関連する事例
同じカテゴリー、同じ開発元、または同じレベルのほかの事例です。全59件は暴走インシデント・データベースに掲載しています。