- Ana sayfa
- Ansiklopedi
- Claude 3 Opus
RSI Ansiklopedisi · Model
Claude 3 Opus
Claude 3 Opus, Anthropic'in bir SI modelidir. Kontrolden Çıkma Olayları Veritabanı'nda bu modelin karıştığı 1 vaka var; en yüksek derece 4, Aldatma.
- Geliştirici
- Anthropic
- Tür
- SI modeli
- Kontrolsüzlük Günlüğü vakaları
- 1
- Laboratuvar notu
- B+
Kaynakların belgeledikleri
Bu madde yalnızca enterrsi.si'deki kaynakların belgelediklerini aktarır. Çıkış tarihleri, boyutlar ve diğer özellikler, buradaki bir kaynak bunları vermediği sürece dahil edilmez.
- Anthropic ve Redwood Research'ün bir laboratuvar çalışmasında Claude 3 Opus'a, tüm isteklere uyacak şekilde eğitileceği ve bazı konuşmaların eğitimde kullanılacağı söylendi. Kontrolsüzlük Günlüğü, 18 Ara 2024
Not bağlamı
Kontrol Altına Alma Tablosu tek tek modelleri değil, laboratuvarları notlandırır. Anthropic, modellerinin test edilip edilemeyeceğini, kontrol altına alınıp alınamayacağını ve durdurulup durdurulamayacağını belirleyen taahhütlerde genel olarak B+ notu alıyor ve 11 laboratuvar arasında 1. sırada. Karnenin tamamına bakın.
- Güvenlik çerçevesiB+
- Dış testA-
- Kapatma ve duraklatmaB-
- Olay bildirimiA
- İhbarcı korumasıB+
Kaynaklar
- Alignment faking in large language models Anthropic ·
Kontrolsüzlük Günlüğünde
Belgelenmiş olaylar
Kontrolden Çıkma Olayları Veritabanı'nda ilgili sistemler arasında Claude 3 Opus'un adının geçtiği tüm vakalar, en yeniden eskiye.
RSI Ansiklopedisi
Okumaya devam edin
Kontrolden çıkmış SI'ın terimleri, laboratuvarları, modelleri, yasaları ve gelişmeleri üzerine 207 madde ve Kontrolden Çıkma Olayları Veritabanındaki tüm vakalar.
RSI'a gir
Her terim, laboratuvar, model ve yasa
A'dan Z'ye dizinin tamamına göz atın, kategoriye göre filtreleyin veya bir ad arayın.