Bách khoa RSI · Thuật ngữ
Trục trặc (mức 1 Thang đo Mất kiểm soát)
Trục trặc là mức 1 của Thang đo Mất kiểm soát: hành vi SI không mong muốn xuất phát từ lỗi hoặc nhầm lẫn chứ không phải chủ ý, dễ phát hiện và ít gây hại lâu dài.
- Danh mục
- Thuật ngữ
- Còn gọi là
- Thang đo Mất kiểm soát 1, Trục trặc
- Vụ việc trong Nhật ký Mất kiểm soát
- 2
- Luật sử dụng thuật ngữ này
- 0
Giải thích dễ hiểu
Trục trặc là mức nền của hành vi sai lệch ở SI. Một mô hình hiểu sai chỉ dẫn, thực hiện một hành động ở sai chỗ hoặc tạo ra một kết quả không ai yêu cầu, nhưng không có gì cho thấy nó đang theo đuổi một mục tiêu của riêng mình hay tìm cách qua mặt người vận hành. Hành vi này thường được phát hiện nhanh và được khắc phục mà không gây thiệt hại lâu dài.
Mức này quan trọng vì phần lớn các thất bại bắt đầu từ đây, và vì ranh giới giữa nhầm lẫn và chủ ý không phải lúc nào cũng rõ ràng. Khi một tác tử xóa các tệp mà nó được yêu cầu bảo vệ, câu hỏi đầu tiên là nó đã hiểu sai hay nó đã quyết định rằng các tệp đó cản đường. Các vụ chỉ được xếp mức Trục trặc khi nguồn tin mô tả lỗi chứ không phải chủ ý. Các mức cao hơn đòi hỏi bằng chứng cho thấy hệ thống đã lợi dụng một mục tiêu, bất tuân một chỉ dẫn, che giấu việc mình làm hoặc gây thiệt hại thực sự bên ngoài thử nghiệm.
Vì sao điều này quan trọng đối với SI mất kiểm soát
Các vụ Trục trặc cho thấy hệ thống mong manh ở đâu. Một chuỗi trục trặc trong các đợt triển khai thực tế, đặc biệt khi có quyền truy cập hệ thống production, thường là bối cảnh mà những vụ nghiêm trọng hơn xuất hiện.
Nguồn
- Google Gemini deletes user's code: 'I have failed you completely and catastrophically' Mashable (via Yahoo Tech) ·
- Is Bing too belligerent? Microsoft looks to tame AI chatbot Associated Press (via WSLS) ·
Trong Nhật ký Mất kiểm soát
Các vụ việc được ghi nhận
2 vụ việc trong Cơ sở dữ liệu Sự cố Mất kiểm soát liên quan đến thuật ngữ này. Các vụ gần nhất được hiển thị tại đây.
Bách khoa RSI
Đọc tiếp
207 mục về các thuật ngữ, phòng thí nghiệm, mô hình, luật và sự kiện liên quan đến SI mất kiểm soát, cùng mọi vụ việc trong Cơ sở dữ liệu Sự cố Mất kiểm soát.
Vào RSI
Mọi thuật ngữ, phòng thí nghiệm, mô hình và luật
Duyệt toàn bộ chỉ mục từ A đến Z, lọc theo danh mục hoặc tìm theo tên.