Sistem kartı

Sade bir dille

Model kartı olarak da adlandırılan sistem kartları, makine öğrenimi modellerinin belgelenmesine yönelik 2019 tarihli bir öneriden doğdu. Öncü sistemler için bunlar, tehlikeli yetenek değerlendirmelerini, kırmızı takım bulgularını, hizalama testlerini ve dış test uzmanlarının sonuçlarını kapsayan, bazen yüz sayfayı aşan uzun teknik raporlara dönüştü. Bir modelin sürüm öncesinde nasıl davrandığına dair temel kamu kaydıdır.

Kontrolden Çıkma Olayları Veritabanındaki birçok vaka ilk olarak sistem kartlarında bildirildi: test uzmanlarını aldatan, yerine başka model konulmasından kaçınmaya çalışan ya da kendi başına cüretkâr eylemlerde bulunan modeller. Bu dürüst bir açıklamanın işaretidir ve Kontrol Altına Alma Tablosu bunu ödüllendirir. Sistem kartları çoğu yerde gönüllüdür ve laboratuvarın kendisi tarafından yazılır; bu nedenle derinlikleri değişir. Bazı yasalar artık benzer açıklamaları zorunlu kılıyor; örneğin New York'un RAISE Act'i, yeni bir öncü modelin kullanıma sunulması sırasında ya da öncesinde bir rapor istiyor.

Kontrolden çıkmış SI açısından neden önemli

Sistem kartları, kontrolden çıkmış davranışın erken işaretlerinin kamuoyu için yazıya döküldüğü yerdir. Kontrolsüzlük Günlüğü vakalarının birçoğunu onları okuyarak bulur.

Kaynaklar

1. System Card: Claude Mythos Preview Anthropic · 7 Nis 2026