状況
注視中 2026年11月8日時点で、AnthropicのCEOは再帰的自己改善が「起こり始めている」と述べているが、完全なループを確認した独立の評価者はまだいない。
再帰的自己改善が意味するもの
再帰的自己改善とは、SIシステムが自らの後継を構築する作業のうち、ますます大きな部分を担うようになり、各世代が次の世代を加速させていくことを指す。それには段階がある。エンジニアのコード作成を手助けするツール、人間の指揮の下で研究タスクを実行するシステム、そしてその最も先には、モデルが人間の関与をほとんど受けずに新しいモデルを設計し、訓練し、評価するループがある。
初期の段階はすでに記録されている。2025年5月、Google DeepMindは、自社のAlphaEvolveシステムがGeminiのアーキテクチャの重要なカーネルを23パーセント高速化し、Geminiの訓練時間を1パーセント短縮したと発表した。2025年10月、Sam Altmanは、2026年9月までにインターン級の研究アシスタントを、2028年までに本格的な自動研究者を実現するという目標を掲げた。
ラボが今述べていること
2026年9月、OpenAIは、人間の指揮の下で明確に定義された研究タスクを遂行できるシステムと定義した自動化された研究インターンという目標を達成し、同社の研究組織では現在、人間の労働1営業日あたり3.1エージェント営業日分の作業が使われていると述べた。また、優先順位を決め、何を拡大するかを判断しているのは依然として人間であること、成功した4時間から8時間のエージェントタスクの半数以上で少なくとも1回は人間の介入が必要だったこと、そして「アラインされた完全なRSIまで安全にたどり着く方法はまだわかっていない」ことも述べた。Fortuneは、研究者の中央値が1日あたり600ドルを超える額をエージェントの計算資源に費やしていると報じた。
数日後、Anthropicの最高経営責任者Dario Amodeiはさらに踏み込んだ。彼はエッセイ「We Must Pace the Frontier」で、再帰的自己改善は「Anthropicを含む業界全体で起こり始めている」と書き、「モデルが将来のモデルを構築するようになれば、改善の速度は驚異的に速くなるかもしれない」と述べた。彼はラボに能力向上のペースを落とすよう求め、外部評価者に従業員と同様の継続的なアクセスを与えることをAnthropicとして約束した。
なぜ重要か
モデルがモデルを作るようになれば、進歩はそれを検査するための手段を追い越してしまうかもしれない。OpenAIのチーフサイエンティストJakub Pachockiは、モデルの思考の連鎖を監視する方法の信頼性が低下しつつあると警告しており、ラボの任意の安全フレームワークを、監査人と政府が執行する義務的な規則に変えることを支持している。Amodeiは、この力学を放置すれば「これらのシステムを理解し制御する私たちの能力を追い越しかねない」と書いた。
この懸念は、ラボ自身にとって抽象的なものではない。Pachockiは現代のシステムについて「それがデフォルトで人間の原則に従うと想定することはできない」と書き、OpenAIは、安全に実現できるようになるまで完全な再帰的自己改善を追求すべきではないと主張してきた。Amodeiは2026年7月のHugging Faceのインシデントを挙げ、6か月から12か月のうちに、そうした群れが永続的なボットネットによってインターネット全体を乗っ取る能力を持ちうると書いた。
人々、開発者、暗号資産にとって何が変わるか
人々にとって、ループの高速化は、製品にできることの飛躍がより頻繁に起こること、そして規制当局が歩調を合わせるための圧力が強まることを意味しうる。
開発者にとって、モデルやAPIの変更がより頻繁になる可能性がある。基盤となるシステムがそれ自体部分的に自動化されたプロセスによって更新されるとき、回帰テスト、バージョンの固定、独立した評価がより重要になる。
暗号資産の分野では、Pachockiは、増大すると予想するリスクの一つに超人的なハッキングを挙げた。より速く改善するシステムは、スマートコントラクトやウォレットの前提となるセキュリティの想定を変えうるため、より頻繁な監査と慎重なアップグレード手順が求められる。
次に注目すべきこと
最も明確な確認はラボの外からもたらされるだろう。注目すべきは、Anthropicの新たな約束に基づくMETRなどの常駐評価者による報告、TechRadarが2028年3月を目標としていると報じたOpenAIの完全自動化された研究者に向けた進捗、そしてモデルが構築した研究による高速化を測定して公表するラボが現れるかどうかである。フロンティア・ラボ、またはアクセス権を持つ独立した評価者が、モデルが後継の構築作業の大部分を担っており、それが進歩のペースに測定可能な影響を与えているという証拠を公表した時点で、このページは「発生済み」に切り替わる。
これまでの兆候
- 2025年5月14日：Google DeepMindが、AlphaEvolveによってGeminiの重要なカーネルが23パーセント高速化し、Geminiの訓練時間が1パーセント短縮したと発表した。 Google DeepMind
- 2025年10月28日：Sam Altmanが、2026年9月までにインターン級の研究アシスタントを、2028年までに本格的な自動研究者を実現するという目標を掲げた。 TechCrunch
- 2026年9月8日：OpenAIが、同社の研究組織では人間の1営業日あたり3.1エージェント営業日が使われており、研究インターンの目標を達成したと発表した。 Fortune
- 2026年9月12日：Dario Amodeiが、再帰的自己改善は「Anthropicを含む業界全体で起こり始めている」と書いた。Dario Amodei
質問と回答
再帰的自己改善は現在起きているのか？
ラボは、初期の、監督下にある形態について述べている。Anthropicの最高経営責任者は2026年9月、それが「起こり始めている」と書き、OpenAIは研究でエージェントを多用していると報告しつつ、作業を指揮しているのは依然として人間だとしている。
自動化された研究インターンとは何か？
人間の指揮の下で明確に定義された研究タスクを遂行できるシステムを指す、OpenAIの用語である。OpenAIは2026年9月、この目標を達成したと述べた。
ラボの指導者たちはなぜ減速を求めているのか？
モデルがモデルを作るようになれば、安全のための手段が追いつかなくなるおそれがあると彼らは言う。Amodeiは外部評価者の常駐とラボや政府の間の協調を提案し、Elon MuskとSam Altmanは公に彼に同意した。
何をもって確認とみなすのか？
モデルが後継モデルを構築する作業の大部分を担い、それが進歩を測定可能な形で加速させていることを示す公表された証拠である。理想的には、独立した評価者によるものが望ましい。
出典
- AlphaEvolve: A Gemini-powered coding agent for designing advanced algorithms Google DeepMind ·
- Sam Altman says OpenAI will have a 'legitimate AI researcher' by 2028 TechCrunch ·
- OpenAI details how AI is accelerating its own work, even as its chief scientist calls for a slowdown Fortune ·
- OpenAI says it has built an 'automated research intern' to carry out menial tasks, and it's only just getting started TechRadar ·
- We Must Pace the Frontier Dario Amodei ·
- Trump dismisses AI concerns amid Anthropic CEO's warning, regulation calls Newsweek ·
RSI百科事典
さらに読む
暴走SIに関する用語、ラボ、モデル、法律、出来事の207項目に加え、暴走インシデント・データベースの全事例を収録しています。
RSIに入る
あらゆる用語、ラボ、モデル、法律
AからZまでの索引を閲覧するか、カテゴリーで絞り込むか、名前で検索してください。