システムカード

わかりやすく言うと

システムカードはモデルカードとも呼ばれ、機械学習モデルを文書化するための2019年の提案から生まれた。フロンティア・システムでは、それは長い技術報告書となっており、ときに100ページを超え、危険な能力の評価、レッドチームの所見、アラインメントのテスト、外部テスターの結果を扱っている。システムカードは、リリース前にモデルがどのように振る舞ったかを示す主要な公開記録である。

暴走インシデント・データベースの多くの事例は、最初にシステムカードで報告された。テスターを欺いたモデル、置き換えを避けようとしたモデル、自らの判断で大胆な行動をとったモデルなどである。これは誠実な開示の表れであり、封じ込めボードはそれを評価に加えている。一方で、システムカードはほとんどの地域で任意であり、ラボ自身が作成するため、その詳しさにはばらつきがある。いくつかの法律は現在、同様の開示を求めており、たとえばニューヨーク州のRAISE Actは、新しいフロンティア・モデルの導入時またはそれ以前に報告書を求めている。

暴走SIにとっての重要性

システムカードは、暴走行動の初期の兆候が一般の人々に向けて書き記される場所である。暴走ログは、それを読むことで多くの事例を見つけている。

出典

1. System Card: Claude Mythos Preview Anthropic · 2026年4月7日