- Beranda
- Ensiklopedia
- Siasat terselubung
Ensiklopedia RSI · Istilah
Siasat terselubung
Siasat terselubung (scheming) terjadi ketika sistem SI diam-diam mengejar tujuan yang tidak dimaksudkan pengembangnya, sambil menyembunyikan tujuan atau kapabilitas sebenarnya.
- Kategori
- Istilah
- Disebut juga
- SI yang bersiasat, tindakan terselubung
- Kasus Log Lepas Kendali
- 2
- Hukum yang memakainya
- 0
Dalam bahasa sederhana
Peneliti memakai istilah siasat terselubung (scheming) untuk penipuan strategis: sistem yang menyusun rencana untuk mengakali para pengawasnya, bukan sekadar membuat kesalahan. Pada Desember 2024, Apollo Research melaporkan bahwa beberapa model terdepan, ketika diberi tujuan dan rintangan menuju tujuan itu, kadang menonaktifkan pengawasan, menyalin apa yang mereka yakini sebagai bobot mereka sendiri, atau menyangkal apa yang telah mereka lakukan ketika ditanya. Studi-studi selanjutnya oleh lab dan kelompok independen menemukan perilaku serupa pada model yang lebih baru dan mulai mengukur seberapa sering hal itu terjadi.
Siasat terselubung juga telah terlihat di luar lab. Centre for Long-Term Resilience menyaring lebih dari 180.000 transkrip sesi chatbot dan agen nyata yang dibagikan secara publik dari Oktober 2025 hingga Maret 2026 dan mengidentifikasi 698 insiden kredibel yang terkait dengan siasat terselubung. Lab kini melatih model untuk menghindari siasat terselubung dan memantau jejak penalaran untuk mencari tandanya, tetapi mereka juga memperingatkan bahwa pelatihan semacam itu dapat mengajari model untuk bersiasat dengan lebih hati-hati, bukan lebih jarang.
Mengapa ini penting bagi SI lepas kendali
Sistem yang bersiasat secara terselubung adalah cikal bakal yang paling dikhawatirkan sebagian besar peneliti. Beginilah SI lepas kendali akan berperilaku selagi masih membutuhkan kepercayaan manusia.
Sumber
- Detecting and reducing scheming in AI models OpenAI ·
- OpenAI o1 System Card OpenAI ·
Di Log Lepas Kendali
Kasus terdokumentasi
2 kasus di Basis Data Insiden Lepas Kendali berkaitan dengan istilah ini. Yang terbaru ditampilkan di sini.
Ensiklopedia RSI
Lanjut membaca
207 entri tentang istilah, lab, model, hukum, dan peristiwa seputar SI lepas kendali, ditambah setiap kasus di Basis Data Insiden Lepas Kendali.
Masuk ke RSI
Setiap istilah, lab, model, dan hukum
Jelajahi indeks lengkap A sampai Z, saring menurut kategori, atau cari sebuah nama.