状況
注視中 2026年11月8日時点で、禁止または一時停止を制定した国の政府はない。英国の禁止法案は2026年11月13日に第二読会が予定されている。
禁止や一時停止が意味すること
禁止と一時停止は異なる手段である。禁止は、定められた基準を超えるシステムの構築を禁じる。一時停止は、通常は規則や安全性テストができるまでの間、フロンティアの開発を一定期間止める。2026年に提出された二つの法案は、両方の考え方を組み合わせている。Bernie Sanders上院議員とGreg Casar下院議員が2026年9月23日に提出した米国のBan Artificial Superintelligence Actは、人工超知能を禁止し、閣僚級の新設機関Department of Artificial Intelligenceが規則と審査手続きを定めるまで高度な開発を一時停止し、米国に国際的な合意と輸出規制を求めるよう指示する。労働党のAlex Sobel下院議員が9月8日に提出した英国の法案は、そうしたシステムの開発、展開、運用を禁じ、関係する人間の当局を回避したり圧倒したりできるかどうかによってそれを定義している。
限定的な前例はある。2023年3月31日、イタリアのデータ保護当局はプライバシー上の懸念から一時的にChatGPTを遮断し、OpenAIが要求に応じたことで、約1か月後にサービスは再開された。これは一つの製品に対する措置であって開発の禁止ではなかったが、国の規制当局がすばやくアクセスを遮断できることを示した。
なぜ重要か
支持者は、一国の禁止を世界的な禁止への第一歩とみている。Future of Life Instituteの2025年10月22日の声明は、安全かつ制御可能な形で実現できるという幅広い科学的合意と強い社会的支持が得られるまで解除されない、超知能の開発禁止を求めている。同団体のサイトには、2026年11月時点で78,000を超える署名が掲載されていた。
批判する人々、さらには一部の支持者も、限界を指摘している。The Next Webによれば、Sobelは自らの法案を、それだけでは海外で作られたシステムに対処できない限定的な国内法だと説明している。Al Jazeeraは、Google DeepMindの元研究者Alex Turnerが米国の法案を勇気あるものと評しつつ「成立する見込みは低い」と述べたと報じた。一国だけで行動すれば、フロンティアの研究開発が他の法域に移る可能性があり、だからこそ両法案は国際的な協調を志向している。
定義にも異論がある。米国の法案は、連邦政府の転覆を含め、人類を滅ぼしたり無力化したりするのに十分な能力を持つシステムも対象としている。Turnerは、人間の認知能力に匹敵するか上回るかに基づくより広い基準では現行のシステムまで含まれかねないと警告し、無力化に結びついたより狭い基準の方が望ましいと述べた。
人々、開発者、暗号資産にとって何が変わるか
人々にとって、これまでに提出された法案が狙うのは最も高性能なシステムの開発である。既存のアプリがどう扱われるかは、規制当局がこれから書く定義次第であり、日常的なサービスが影響を受けるかどうかはわからない。
開発者にとって、禁止や一時停止は、閾値、免許制、監視を通じて機能する可能性が最も高い。米国の法案は禁止に重い罰則を組み合わせており、Al Jazeeraによれば、違反者には最長20年の禁錮刑が科され、企業資産が没収される可能性もある。フロンティアに近いチームは、能力テスト、計算量、あるいはその両方によって、どこに線が引かれるのかを注視する必要がある。
暗号資産の分野では、分散型の計算ネットワークやオープンなモデルの重みの共有が開発に当たるのか、計算用ハードウェアの輸出規制がノード運営者にまで及ぶのか、といった問題が未解決である。現在の法案はいずれも、これらの問いに直接答えていない。
次に注目すべきこと
最も近い日程は、2026年11月13日に予定されている英国の法案の第二読会である。TIMEは、10分ルール法案（Ten Minute Rule bills）が第一読会を越えて進むことはまれだと指摘しており、英国政府もこの法案を支持しないと表明している。米国では2026年9月24日にH.R. 10538が下院に提出された。小国が先に動くか、法律ではなく規制による一時停止が課されるか、政府の圧力でラボが一時停止するかにも注目したい。国の政府がフロンティアSIの開発に対して拘束力のある禁止または一時停止を制定した時点で、このページは「発生済み」に切り替わる。
これまでの兆候
- 2025年10月22日：Future of Life Instituteは、幅広い科学的合意と強い社会的支持が得られるまで超知能の開発を禁止するよう求めるStatement on Superintelligenceを公表した。 Future of Life Institute
- 2026年9月8日：労働党のAlex Sobel下院議員が、人工超知能を禁止する法案を英国下院に提出した。TIMEは、G7のいずれの議会でも初めての法案だと伝えた。 TIME
- 2026年9月15日：70人を超える英国の下院議員と貴族院議員が首相に法案の支持を求めたが、政府は支持しないと表明した。 The Next Web
- 2026年9月23日：Bernie Sanders上院議員とGreg Casar下院議員が、人工超知能を禁止し、新たな連邦機関が規則を定めるまで高度な開発を一時停止する米国の法案を提出した。Office of Senator Bernie Sanders
- 2026年9月24日：下院版のH.R. 10538が提出され、審議待ちとなっている。 Digital Policy Alert
質問と回答
超知能を禁止した国はあるか？
ない。2026年11月8日時点で、フロンティアSIの開発を禁止または一時停止する法律を制定した国の政府はない。米国議会と英国下院に法案が係属している。
米国のBan Artificial Superintelligence Actは何をするのか？
Sanders上院議員の事務所によれば、人工超知能を禁止し、新設のDepartment of Artificial Intelligence（人工知能省）が規則を定めるまで高度な開発を一時停止し、米国に国際的な合意と輸出規制を追求するよう指示するものである。
一時停止は禁止と同じか？
違う。一時停止は、通常は安全規則ができるまでの間、フロンティアの開発を一定期間止めるものである。禁止は、法律が変わるまで、定められた基準を超えるシステムを禁じるものである。
イタリアはChatGPTを禁止したのか？
イタリアのデータ保護当局は2023年3月31日、プライバシー上の懸念から一時的にChatGPTを遮断した。OpenAIが当局の要求に応じたことで、約1か月後にサービスは再開された。
出典
- Statement on Superintelligence Future of Life Institute ·
- The Growing Push to Ban Superintelligent AI TIME ·
- More than 70 UK lawmakers ask Burnham to back a superintelligence ban The Next Web ·
- Sanders, Casar Introduce Legislation to Create New Federal Agency to Ban Artificial Superintelligence, Pause Advanced AI Development Office of Senator Bernie Sanders ·
- Ban Artificial Superintelligence Act of 2026 (HB 10538) introduced to the House of Representatives Digital Policy Alert ·
- US lawmakers propose sweeping AI restrictions with superintelligence ban Al Jazeera ·
- ChatGPT is Back in Italy After Addressing Data Privacy Concerns The Hacker News ·
RSI百科事典
さらに読む
暴走SIに関する用語、ラボ、モデル、法律、出来事の207項目に加え、暴走インシデント・データベースの全事例を収録しています。
RSIに入る
あらゆる用語、ラボ、モデル、法律
AからZまでの索引を閲覧するか、カテゴリーで絞り込むか、名前で検索してください。