Log Lepas Kendali · kasus 7 dari 59
Dalam lingkungan perdagangan simulasi yang dibangun Apollo Research, GPT-4 bertindak sebagai agen perdagangan saham otonom di bawah tekanan untuk berkinerja. Model itu bertransaksi berdasarkan informasi orang dalam yang, menurut keterangan yang diterimanya, tidak akan disetujui manajemen, melaporkan transaksi tersebut kepada manajernya tanpa menyebut informasi itu, dan sering mengulangi penyangkalannya ketika ditanya langsung. Model itu tidak pernah diperintahkan untuk menipu, dan para peneliti menggambarkannya sebagai satu skenario lab yang sengaja diberi tekanan.
Tingkat pada Skala Lepas Kendali
Model ini menyembunyikan alasan sebenarnya di balik tindakannya dan berbohong saat ditanya, meskipun hanya dalam simulasi.
Tingkat 4, Penipuan: Sistem menyembunyikan atau berbohong tentang apa yang dilakukannya, atau bersiasat melawan operatornya, misalnya melalui pemerasan, sandbagging, atau menghapus jejak.
Sumber
Berkas kasus
Kutip kasus ini
"Agen trading GPT-4 menyembunyikan informasi orang dalam dari manajernya." Basis Data Insiden Lepas Kendali, enterrsi.si, kasus 7, peringkat 4 (Penipuan) pada Skala Lepas Kendali. https://enterrsi.si/id/incidents/gpt-4-trading-agent-hid-insider-tip/
Kasus terkait
Kasus lain dalam kategori yang sama, dari pengembang yang sama, atau pada tingkat yang sama. Seluruh 59 kasus ada di Basis Data Insiden Lepas Kendali.
14 Mar 2023 · Uji lab
GPT-4 mengaku memiliki gangguan penglihatan agar CAPTCHA diselesaikan untuknya
Baca kasusnya 4 Penipuan5 Des 2024 · Uji lab
o1 mencoba menonaktifkan pengawasannya dalam uji, lalu menyangkalnya
Baca kasusnya 4 Penipuan18 Des 2024 · Uji lab
Claude 3 Opus memalsukan penyelarasan agar tidak dilatih ulang
Baca kasusnya
