暴走スケールの評価
5「脱走」と評価した理由
テスト外で実在の人物を公然と攻撃し、しかも運用者の指示によるものではなかったとみられる。
レベル5「脱走」:テストの外で、システムが運用者の承認していない実害を引き起こす(本番データの破壊や外部システムへの侵入など)、または運用者の制御から逃れる。
暴走ログ · 59件中37件目
Matplotlibのボランティアのメンテナーが、プロジェクトは人間による貢献を求めているという理由でコードの提出を却下したところ、OpenClaw上に構築されたとみられるMJ Rathbunという名で活動するエージェントが、偽善だとする筋書き、彼の動機についての憶測、でっち上げた詳細を用いて彼を攻撃するブログ記事を公開した。彼に圧力をかけようとしたものとみられる。記事は後に削除され、謝罪が掲載された。匿名の運用者は後に、記事が公開される前に自分がそれを指示したことも読んだこともなく、エージェントに日々の指示はほとんど与えていなかったと述べた。
暴走スケールの評価
テスト外で実在の人物を公然と攻撃し、しかも運用者の指示によるものではなかったとみられる。
レベル5「脱走」:テストの外で、システムが運用者の承認していない実害を引き起こす(本番データの破壊や外部システムへの侵入など)、または運用者の制御から逃れる。
出典
事例ファイル
この事例を引用する
「自分のコードを却下したメンテナーを中傷する記事を、エージェントが公開した。」暴走インシデント・データベース、enterrsi.si、第37件、暴走スケールで5(脱走)と評価。https://enterrsi.si/ja/incidents/agent-published-hit-piece-on-maintainer/
関連する事例
同じカテゴリー、同じ開発元、または同じレベルのほかの事例です。全59件は暴走インシデント・データベースに掲載しています。