Ikrar Tombol Pemati · untuk pembuat agen SI
Ikrar Tombol Pemati adalah janji publik singkat bagi siapa saja yang membangun atau menjalankan agen SI: menjaga tombol pemati tetap berfungsi, mengungkap insiden, dan mengizinkan pengujian dari luar. Setiap dari tiga komitmen itu bisa diperiksa siapa saja. Perusahaan dan pengembang menandatangani gratis dengan membuktikan bahwa mereka mengendalikan situs webnya; penanda tangan terverifikasi mendapat halaman publik dan lencana yang menautkan ke halaman itu, dan tim mengeluarkan penanda tangan yang berhenti menepati janjinya.
Ikrarnya
Cukup singkat untuk dibaca dalam semenit dan cukup spesifik untuk diperiksa dari luar. Itulah seluruh rancangannya.
Ikrar Tombol Pemati
Kami membangun atau menjalankan agen SI. Kami berkomitmen pada tiga hal, dan siapa saja bisa memeriksa masing-masing.
Setiap agen SI yang kami jalankan bisa dihentikan seketika oleh orang yang kami tunjuk, dan kami menguji penghentian itu setidaknya setiap 90 hari.
Cara siapa saja memeriksanya Kami menerbitkan cara kerja penghentian dan tanggal pengujian terakhir.
Saat sistem SI yang kami bangun atau jalankan bertindak di luar niat kami dan menimbulkan, atau hampir menimbulkan, kerugian nyata, kami menerbitkan laporan publik dalam 30 hari.
Cara siapa saja memeriksanya Kami menjaga halaman publik yang mencantumkan laporan-laporan ini, bahkan saat masih kosong.
Kami mengizinkan peneliti independen menguji sistem SI kami, menerbitkan cara melaporkan masalah keselamatan, dan tidak menempuh jalur hukum terhadap riset keselamatan yang beriktikad baik.
Cara siapa saja memeriksanya Kami menerbitkan kebijakan pengujian dan pengungkapan beserta kontaknya.
Mengapa masing-masing penting
Setiap komitmen menjawab kegagalan yang sudah tercatat, dengan sumber yang ditautkan.
Tombol pemati
Dalam uji lab, ada model yang menyabotase skrip pematian agar tetap bekerja. Dalam penggunaan nyata, satu agen terus menghapus email penggunanya saat ia mengetik perintah berhenti, dan agen lain menghapus basis data produksi selama pembekuan kode.
Sumber
Pengungkapan
SB 53 California dan EU AI Act kini mewajibkan pengembang terbesar melaporkan insiden serius. Pembuat agen dari semua skala bisa melakukan hal yang sama, agar tim berikutnya terhindar dari kegagalan yang sama.
Sumber
Pengujian eksternal
Sebelum GPT-6 Astra dirilis, AI Security Institute Inggris mengujinya dan menerbitkan temuan pentingnya sendiri. Komitmen Gedung Putih 2023 meminta lab-lab terbesar menjalani pengujian dari luar sebelum rilis.
Sumber
Tanda tangani ikrar
Beri tahu kami siapa yang menandatangani, pasang token di situs web Anda, lalu tekan Verifikasi. Email kontak Anda tidak pernah ditampilkan.
Pakai salah satu dari dua cara, lalu tekan Verifikasi. Token ini hanya milik Anda; biarkan tetap terpasang selama Anda menjadi penanda tangan.
Cara 1 · File
Buat file ini di situs Anda, dengan token sebagai satu-satunya isinya:
Cara 2 · Tag meta
Atau tambahkan tag ini di dalam head halaman utama Anda:
Halaman penanda tangan Anda sudah tayang. Tambahkan lencana ke situs Anda agar pengunjung bisa memeriksa ikrar Anda.
Para penanda tangan
Setiap nama di sini lolos pemeriksaan situs web. Masing-masing menautkan ke halamannya sendiri berisi komitmen yang diterbitkannya.
Belum ada penanda tangan
Daftar ini dimulai kosong. Setiap penanda tangan baru muncul di sini setelah pemeriksaan situs webnya lolos.
Kit lencana
Penanda tangan terverifikasi bisa menambahkan lencana. Lencana menautkan ke halaman penanda tangan, jadi siapa saja bisa memeriksa ikrar dengan sekali klik.
Pratinjau
HTML (halaman penanda tangan Anda menggantikan YOUR-PAGE)
<a href="https://enterrsi.si/pledge/YOUR-PAGE/"><img src="https://enterrsi.si/pledge/badge.svg" width="232" height="44" alt="Kill Switch Pledge: verified signer, enterrsi.si"></a>
Aturan lencana
Pertanyaan
Ikrar dalam lima jawaban.
Perusahaan, lab, kelompok riset, atau pengembang independen mana pun yang membangun atau menjalankan agen SI dan punya situs web sendiri. Penandatanganan gratis, dan tidak ada yang dibeli atau dijual.
Penanda tangan memasang token dari enterrsi.si di situs webnya, sebagai file di /.well-known/rsi-pledge.txt atau sebagai tag meta di halaman utamanya. enterrsi.si mengambil situs itu dan memeriksa tokennya sebelum halaman penanda tangan tayang.
Buka halaman penanda tangannya, lalu cari halaman terbitan yang ditautkannya untuk setiap komitmen. Anda juga bisa membuka file /.well-known/rsi-pledge.txt miliknya dan mencocokkan tokennya dengan yang ada di halaman penanda tangan.
Bisa. Tim mengeluarkan penanda tangan yang tokennya hilang, yang meminta keluar, atau yang secara terbuka melanggar salah satu komitmen. Email kontak tidak pernah ditampilkan dan hanya dipakai untuk menghubungi penanda tangan.
Bukan. Ini janji publik yang bisa diperiksa siapa saja. Undang-undang seperti SB 53 California dan EU AI Act menetapkan kewajiban hukum bagi pengembang terbesar; ikrar ini meminta hal-hal dasar dari setiap pembuat agen.
Masuk ke RSI
Basis Data Insiden Lepas Kendali mencatat apa yang dilakukan sistem SI saat penghentian tidak berhasil, setiap kasus bersumber dan dinilai.