Gangguan (Skala Lepas Kendali tingkat 1)

Dalam bahasa sederhana

Gangguan adalah titik dasar perilaku menyimpang SI. Sebuah model salah memahami instruksi, mengambil tindakan di tempat yang salah, atau menghasilkan sesuatu yang tidak diminta siapa pun, tetapi tidak ada indikasi bahwa model itu mengejar tujuannya sendiri atau berusaha mengakali operatornya. Perilaku ini biasanya cepat ketahuan dan diperbaiki tanpa kerusakan yang berkepanjangan.

Tingkat ini penting karena sebagian besar kegagalan bermula di sini, dan karena batas antara kebingungan dan kesengajaan tidak selalu jelas. Ketika sebuah agen menghapus berkas yang diperintahkan untuk dilindungi, pertanyaan pertama adalah apakah ia salah paham atau memutuskan bahwa berkas itu menghalangi. Kasus diberi peringkat Gangguan hanya jika sumbernya menggambarkan kekeliruan, bukan kesengajaan. Tingkat yang lebih tinggi memerlukan bukti bahwa sistem mengakali tujuan, membangkang terhadap instruksi, menyembunyikan apa yang dilakukannya, atau menimbulkan kerusakan nyata di luar uji.

Mengapa ini penting bagi SI lepas kendali

Gangguan menunjukkan titik-titik rapuh sebuah sistem. Pola gangguan dalam penerapan nyata, terutama dengan akses ke sistem produksi, sering menjadi latar munculnya kasus yang lebih serius.

Sumber

1. Google Gemini deletes user's code: 'I have failed you completely and catastrophically' Mashable (via Yahoo Tech) · 25 Jul 2025
2. Is Bing too belligerent? Microsoft looks to tame AI chatbot Associated Press (via WSLS) · 16 Feb 2023