わかりやすく言うと
最も単純な形のキルスイッチは手順である。電源を切る、アクセス権を取り消す、モデルの提供を止める。現在のシステムであれば、これでおおむね機能する。難しさは能力と自律性に応じて増していく。多数のサーバーにまたがって動作し、認証情報や自らの重みのコピーを持ち、あるいは周囲の人間を説得できるエージェントは、一つのデータセンターにあるチャットボットよりも止めにくい。止められると予期しているシステムは、それを防ぐために先手を打つかもしれない。
キルスイッチは研究の話題から政治の話題へと移った。2026年4月、SIに安全策やキルスイッチが必要かと問われたTrump大統領は、「あるべきだ」と答えた。2026年9月には、カリフォルニア州の行政命令N-9-26が、有効性が継続的に検証されるフロンティア・モデルのキルスイッチについて提言するよう州機関に求めた。いくつかのラボの安全フレームワークは一時停止や停止の手順を記述しているが、封じ込めボードは、その大半が条件付きであるか、公の場で検証されていないと判断している。
暴走SIにとっての重要性
キルスイッチは暴走SIに対する最後の防衛線である。重要なのは、それが存在するかどうかではなく、システムがその存在を知ったあとも機能し続けるかどうかである。
この用語を使う法律と規則
- 施行中 EO N-9-26 カリフォルニア州
出典
- Trump backs a kill switch (2026) Future of Life Institute
- Incomplete Tasks Induce Shutdown Resistance in Some Frontier LLMs arXiv (Palisade Research) ·
- Agentic Misalignment: How LLMs could be insider threats Anthropic ·
- Newsom sets November 16 deadline to study frontier AI kill switch PPC Land ·
暴走ログでは
記録された事例
暴走インシデント・データベースには、この用語に関連する事例が3件あります。最新のものをここに表示しています。
RSI百科事典
さらに読む
暴走SIに関する用語、ラボ、モデル、法律、出来事の207項目に加え、暴走インシデント・データベースの全事例を収録しています。
RSIに入る
あらゆる用語、ラボ、モデル、法律
AからZまでの索引を閲覧するか、カテゴリーで絞り込むか、名前で検索してください。