インシデント開示

わかりやすく言うと

モデルがテスト中や使用中に危険な振る舞いをしたとき、誰かがそれを知るべき人々に伝えなければならない。インシデント開示には、任意のブログ投稿やシステムカードの一節から法的義務までさまざまな形がある。EU AI Actは、システミックリスクのある汎用モデルのプロバイダーに対し、重大なインシデントを追跡してAI Officeに報告することを義務づけている。ニューヨーク州のRAISE Actは、重大な安全インシデントを72時間以内、死亡や重傷の差し迫った危険がある場合は24時間以内に州へ報告することを求めており、イリノイ州のSB 315も同様の期限を定めている。

開示には厄介なインセンティブがある。多く報告するラボほど悪く見えるのである。封じ込めボードは開示そのものを評価に加えており、暴走インシデント・データベースも開示に依存している。事例の大半は、公表を選んだラボ、研究機関、研究者から得られたものだからである。2026年9月、カリフォルニア州の行政命令N-9-26は、インシデント報告の対象を制御喪失インシデントにまで広げることについて提言を求めた。

暴走SIにとっての重要性

暴走SIは自ら名乗り出てはくれない。初期の警告の兆候が一般の人々、規制当局、他のラボに届くのか、一つの企業の中にとどまるのかは、開示のルールによって決まる。

この用語を使う法律と規則

• 施行中 EU AI Act（GPAI） 欧州連合
• 自主的・指針 GPAI Code of Practice（Safety and Security） 欧州連合
• 自主的・指針 CAISSI 米国
• 提案中 FRONTIER Act 米国
• 施行中 SB 53 カリフォルニア州
• 施行中 EO N-9-26 カリフォルニア州
• 成立済み、未施行 RAISE Act ニューヨーク州
• 成立済み、未施行 SB 315 イリノイ州

出典

1. Guidelines for providers of general-purpose AI models European Commission · 2025年7月18日
2. The General-Purpose AI Code of Practice European Commission · 2026年10月7日