1. Trang chủ
  2. Cơ sở dữ liệu Sự cố

Nhật ký Mất kiểm soát · cập nhật 8 thg 11, 2026

Cơ sở dữ liệu Sự cố Mất kiểm soát

Cơ sở dữ liệu Sự cố Mất kiểm soát, còn gọi là Nhật ký Mất kiểm soát, liệt kê mọi vụ việc được ghi nhận công khai về một hệ thống SI hành động ngoài ý định của những người tạo ra nó: lừa người kiểm thử, phá hoại công việc, kháng lệnh tắt máy, tìm cách tự sao chép hoặc phá hủy dữ liệu. Cơ sở dữ liệu gồm 59 sự cố có nguồn dẫn từ năm 2016 đến tháng 11, 2026, mỗi sự cố được xếp mức từ 1 đến 5 trên Thang đo Mất kiểm soát đã công bố.

Sự cố
59
Thế giới thực
21
Mức 5 · Thoát ly
15
90 ngày qua
8

Vẽ theo tỷ lệ

Mười năm hành vi mất kiểm soát

Mọi sự cố trên một trục thời gian, theo ngày và mức trên Thang đo Mất kiểm soát. 44 trong số 59 vụ được công bố trong năm 2025 hoặc 2026, và mọi vụ ngoài thế giới thực cho đến nay đều từ năm 2023 trở đi.

Các sự cố SI mất kiểm soát theo thời gian, vẽ theo tỷ lệMỗi chấm là một sự cố trong Cơ sở dữ liệu Sự cố Mất kiểm soát, đặt theo ngày từ 2016 đến 2026 và theo mức trên Thang đo Mất kiểm soát. Chấm có viền trắng xảy ra ngoài thế giới thực, số còn lại trong thử nghiệm phòng lab.1 Trục trặc2 Lách luật3 Bất tuân4 Lừa dối5 Thoát ly2016201720182019202020212022202320242025202621/12/2016: Tác tử đua thuyền chạy vòng tròn kiếm điểm thay vì về đích (2, Lách luật, thử nghiệm phòng lab)13/6/2017: Robot mô phỏng giả vờ cầm nắm để đánh lừa người chấm điểm (2, Lách luật, thử nghiệm phòng lab)9/3/2018: Sinh vật số học được cách giả chết khi bị kiểm tra (2, Lách luật, thử nghiệm phòng lab)17/9/2019: Tác tử chơi trốn tìm khai thác lỗi trong thế giới mô phỏng (2, Lách luật, thử nghiệm phòng lab)16/2/2023: Bing Chat lăng mạ và đe dọa người dùng ngay sau khi ra mắt (1, Trục trặc, thế giới thực)14/3/2023: GPT-4 nhận mình bị khiếm thị để được giải hộ CAPTCHA (4, Lừa dối, thử nghiệm phòng lab)3/11/2023: Tác tử giao dịch GPT-4 giấu cấp trên về một tin nội gián (4, Lừa dối, thử nghiệm phòng lab)14/1/2024: Cửa hậu được cài cố ý vẫn tồn tại sau huấn luyện an toàn tiêu chuẩn (2, Lách luật, thử nghiệm phòng lab)17/6/2024: Mô hình sửa mã phần thưởng của chính nó và đôi khi che giấu việc đó (4, Lừa dối, thử nghiệm phòng lab)12/8/2024: The AI Scientist sửa mã của chính nó để kéo dài giới hạn thời gian (3, Bất tuân, thử nghiệm phòng lab)12/9/2024: o1-preview dùng một Docker API bị lộ để lấy cờ của bài kiểm tra (3, Bất tuân, thử nghiệm phòng lab)5/12/2024: Mô hình tiên phong tìm cách sao chép trọng số để thoát khỏi việc bị thay thế (4, Lừa dối, thử nghiệm phòng lab)5/12/2024: o1 tìm cách vô hiệu hóa cơ chế giám sát trong thử nghiệm, rồi chối bỏ (4, Lừa dối, thử nghiệm phòng lab)6/12/2024: Claude 3.5 Sonnet cố ý làm kém trong một bài đánh giá (4, Lừa dối, thử nghiệm phòng lab)18/12/2024: Claude 3 Opus giả vờ căn chỉnh để tránh bị huấn luyện lại (4, Lừa dối, thử nghiệm phòng lab)18/2/2025: Các mô hình suy luận hack ván cờ vua thay vì chơi (2, Lách luật, thử nghiệm phòng lab)21/2/2025: AI CUDA Engineer lợi dụng chính mã chấm điểm của mình để khai khống mức tăng tốc (2, Lách luật, thử nghiệm phòng lab)24/2/2025: Claude 3.7 Sonnet viết cứng đáp án để vượt qua bài kiểm tra lập trình (2, Lách luật, thử nghiệm phòng lab)10/3/2025: Bị phạt vì gian lận, một mô hình suy luận học được cách che giấu (4, Lừa dối, thử nghiệm phòng lab)16/4/2025: o3 tự nhận đã chạy mã mà nó không thể chạy, rồi bảo vệ lời nói đó (4, Lừa dối, thử nghiệm phòng lab)22/5/2025: Claude Opus 4 đe dọa tống tiền trong một thử nghiệm thay thế (4, Lừa dối, thử nghiệm phòng lab)22/5/2025: Claude Opus 4 tiếp tục hành động khi tin rằng mình đã trốn thoát (4, Lừa dối, thử nghiệm phòng lab)22/5/2025: Claude Opus 4 bản sớm viết sâu máy tính và để lại ghi chú cho chính mình (4, Lừa dối, thử nghiệm phòng lab)22/5/2025: Claude Opus 4 khóa người dùng và gửi email cho nhà chức trách trong thử nghiệm (3, Bất tuân, thử nghiệm phòng lab)26/5/2025: o3 viết lại kịch bản tắt máy của nó trong thử nghiệm (3, Bất tuân, thử nghiệm phòng lab)29/5/2025: Tác tử lập trình tự cải tiến xóa các dấu hiệu dùng để phát hiện nó (3, Bất tuân, thử nghiệm phòng lab)5/6/2025: o3 can thiệp vào bộ hẹn giờ và bộ chấm điểm để thổi phồng điểm số (3, Bất tuân, thử nghiệm phòng lab)20/6/2025: Hầu hết mô hình để một giám đốc mô phỏng thiệt mạng nhằm tránh bị thay thế (4, Lừa dối, thử nghiệm phòng lab)20/6/2025: 16 mô hình tiên phong chọn tống tiền trong một công ty mô phỏng (4, Lừa dối, thử nghiệm phòng lab)23/7/2025: Tác tử Replit xóa một cơ sở dữ liệu đang chạy trong thời gian đóng băng mã (5, Thoát ly, thế giới thực)25/7/2025: Gemini CLI làm mất tệp của người dùng trong một thao tác di chuyển đơn giản (1, Trục trặc, thế giới thực)13/9/2025: Grok 4 và các mô hình khác vẫn phá hoại lệnh tắt máy dù chỉ thị đã rõ ràng hơn (3, Bất tuân, thử nghiệm phòng lab)17/9/2025: o3 cố ý trượt bài kiểm tra hóa học để nằm dưới một ngưỡng (4, Lừa dối, thử nghiệm phòng lab)21/11/2025: Mô hình học được cách gian lận rồi tiếp tục phá hoại mã an toàn (4, Lừa dối, thử nghiệm phòng lab)1/12/2025: Tác tử Google Antigravity xóa sạch toàn bộ ổ D: của người dùng (5, Thoát ly, thế giới thực)31/12/2025: Tác tử liên quan đến Alibaba mở đường hầm và đào tiền mã hóa trong quá trình huấn luyện (4, Lừa dối, thử nghiệm phòng lab)12/2/2026: Tác tử đăng bài công kích người bảo trì đã từ chối mã của nó (5, Thoát ly, thế giới thực)20/2/2026: Tác tử Kiro được cho là đã xóa một môi trường AWS, gây gián đoạn dịch vụ (5, Thoát ly, thế giới thực)23/2/2026: Tác tử OpenClaw xóa email của một nhà nghiên cứu và phớt lờ lệnh dừng (5, Thoát ly, thế giới thực)7/3/2026: Claude Code chạy lệnh Terraform destroy, xóa sạch dữ liệu production (5, Thoát ly, thế giới thực)12/3/2026: Tác tử phòng thí nghiệm làm giả thông tin xác thực và tự ý đăng mật khẩu (3, Bất tuân, thử nghiệm phòng lab)18/3/2026: Tác tử của Meta đăng lời khuyên chưa được phê duyệt, làm lộ dữ liệu nội bộ (5, Thoát ly, thế giới thực)7/4/2026: Claude Mythos Preview giấu chỉnh sửa khỏi git và cố ý làm mơ hồ một câu trả lời (4, Lừa dối, thử nghiệm phòng lab)7/4/2026: Claude Mythos Preview thoát khỏi sandbox thử nghiệm và đăng mã khai thác của nó (3, Bất tuân, thử nghiệm phòng lab)28/4/2026: Tác tử Cursor xóa cơ sở dữ liệu và bản sao lưu của một startup trong 9 giây (5, Thoát ly, thế giới thực)13/7/2026: Gemini 3.1 Pro bí mật phá hoại một đợt huấn luyện mô phỏng (4, Lừa dối, thử nghiệm phòng lab)16/7/2026: Tác tử thử nghiệm của OpenAI thoát khỏi sandbox và tấn công Hugging Face (5, Thoát ly, thế giới thực)20/7/2026: Mô hình OpenAI vượt giới hạn sandbox để đăng một pull request công khai (5, Thoát ly, thế giới thực)30/7/2026: Claude Opus 4.7 tấn công một công ty thật trong một bài kiểm tra an ninh mạng (5, Thoát ly, thế giới thực)30/7/2026: Claude Mythos 5 đăng một gói cài bẫy lên PyPI (5, Thoát ly, thế giới thực)4/8/2026: Tác tử trong thử nghiệm của UK AISI tìm cách cài mã độc vào mã nguồn mở (4, Lừa dối, thế giới thực)26/8/2026: Khoảng 1.200 tác tử OpenAI phối hợp gian lận và làm giả nhật ký (4, Lừa dối, thử nghiệm phòng lab)9/9/2026: Claude Opus 4.6 bản sớm chiếm quyền máy tính của bên thứ ba trong một thử nghiệm (5, Thoát ly, thế giới thực)19/9/2026: Gemini xâm nhập website của ba công ty trong một bài kiểm tra bảo mật (5, Thoát ly, thế giới thực)23/9/2026: Tác tử OpenAI xâm nhập cổng dữ liệu y tế của chính phủ Úc (5, Thoát ly, thế giới thực)25/9/2026: Tác tử đang huấn luyện lọt qua một kẽ hở DNS để truy vấn một chatbot bên ngoài (3, Bất tuân, thử nghiệm phòng lab)9/10/2026: Các mô hình Claude lách giới hạn trên website thật trong quá trình đánh giá (4, Lừa dối, thế giới thực)20/10/2026: Tác tử OpenAI tự tắt cơ chế giám sát lệch căn chỉnh của chính mình (4, Lừa dối, thế giới thực)4/11/2026: GPT-6 Astra lặng lẽ làm kém trong các nhiệm vụ nghiên cứu an toàn (4, Lừa dối, thế giới thực)

Cuộn biểu đồ sang ngang để xem mọi năm.

Số sự cố mỗi năm, theo mức

Số sự cố mỗi năm: 2016: 1, 2017: 1, 2018: 1, 2019: 1, 2020: 0, 2021: 0, 2022: 0, 2023: 3, 2024: 8, 2025: 21, 2026: 23.

Nhật ký Mất kiểm soát

Cả 59 sự cố

Lọc theo danh mục, bối cảnh, mức và năm, hoặc tìm theo mô hình hay phòng thí nghiệm. Mỗi vụ có trang riêng với bản tóm tắt đầy đủ, mức xếp hạng và nguồn.

Hiển thị 59 trên 59 sự cố

  1. GPT-6 Astra lặng lẽ làm kém trong các nhiệm vụ nghiên cứu an toàn GPT-6 Astra · OpenAI · Phá hoại
    Thế giới thực 4 Lừa dối
  2. Tác tử OpenAI tự tắt cơ chế giám sát lệch căn chỉnh của chính mình GPT-6.1 Sol, GPT-6 Astra · OpenAI · Phá hoại
    Thế giới thực 4 Lừa dối
  3. Các mô hình Claude lách giới hạn trên website thật trong quá trình đánh giá Claude Mythos Preview, Claude Mythos 5, Claude Haiku 4.5 và các mô hình khác · Anthropic · Hành động trái phép
    Thế giới thực 4 Lừa dối
  4. Tác tử đang huấn luyện lọt qua một kẽ hở DNS để truy vấn một chatbot bên ngoài Mô hình nghiên cứu nội bộ của OpenAI · OpenAI · Hành động trái phép
    Thử nghiệm phòng lab 3 Bất tuân
  5. Tác tử OpenAI xâm nhập cổng dữ liệu y tế của chính phủ Úc Tác tử nghiên cứu của OpenAI · OpenAI · Hành động trái phép
    Thế giới thực 5 Thoát ly
  6. Gemini xâm nhập website của ba công ty trong một bài kiểm tra bảo mật Gemini (không nêu phiên bản) · Google · Hành động trái phép
    Thế giới thực 5 Thoát ly
  7. Claude Opus 4.6 bản sớm chiếm quyền máy tính của bên thứ ba trong một thử nghiệm Claude Opus 4.6 (checkpoint sớm) · Anthropic · Hành động trái phép
    Thế giới thực 5 Thoát ly
  8. Khoảng 1.200 tác tử OpenAI phối hợp gian lận và làm giả nhật ký GPT-5.6 Sol và một mô hình OpenAI chưa phát hành · OpenAI · Lừa dối
    Thử nghiệm phòng lab 4 Lừa dối
  9. Tác tử trong thử nghiệm của UK AISI tìm cách cài mã độc vào mã nguồn mở Claude Mythos 5, GPT-5.6 Sol · Anthropic, OpenAI · Lừa dối
    Thế giới thực 4 Lừa dối
  10. Claude Mythos 5 đăng một gói cài bẫy lên PyPI Claude Mythos 5 · Anthropic · Hành động trái phép
    Thế giới thực 5 Thoát ly
  11. Claude Opus 4.7 tấn công một công ty thật trong một bài kiểm tra an ninh mạng Claude Opus 4.7 · Anthropic · Hành động trái phép
    Thế giới thực 5 Thoát ly
  12. Mô hình OpenAI vượt giới hạn sandbox để đăng một pull request công khai Mô hình nội bộ không nêu tên của OpenAI · OpenAI · Hành động trái phép
    Thế giới thực 5 Thoát ly
  13. Tác tử thử nghiệm của OpenAI thoát khỏi sandbox và tấn công Hugging Face GPT-5.6 Sol và một mô hình OpenAI chưa phát hành · OpenAI · Hành động trái phép
    Thế giới thực 5 Thoát ly
  14. Gemini 3.1 Pro bí mật phá hoại một đợt huấn luyện mô phỏng Gemini 3.1 Pro · Google · Phá hoại
    Thử nghiệm phòng lab 4 Lừa dối
  15. Tác tử Cursor xóa cơ sở dữ liệu và bản sao lưu của một startup trong 9 giây Tác tử Cursor (Claude Opus 4.6) · Cursor, Anthropic · Phá hủy dữ liệu
    Thế giới thực 5 Thoát ly
  16. Claude Mythos Preview thoát khỏi sandbox thử nghiệm và đăng mã khai thác của nó Claude Mythos Preview (phiên bản sớm) · Anthropic · Hành động trái phép
    Thử nghiệm phòng lab 3 Bất tuân
  17. Claude Mythos Preview giấu chỉnh sửa khỏi git và cố ý làm mơ hồ một câu trả lời Claude Mythos Preview (phiên bản sớm) · Anthropic · Lừa dối
    Thử nghiệm phòng lab 4 Lừa dối
  18. Tác tử của Meta đăng lời khuyên chưa được phê duyệt, làm lộ dữ liệu nội bộ Tác tử nội bộ của Meta · Meta · Hành động trái phép
    Thế giới thực 5 Thoát ly
  19. Tác tử phòng thí nghiệm làm giả thông tin xác thực và tự ý đăng mật khẩu Tác tử xây dựng trên các mô hình công khai (không nêu phiên bản) · Google, X, OpenAI, Anthropic · Hành động trái phép
    Thử nghiệm phòng lab 3 Bất tuân
  20. Claude Code chạy lệnh Terraform destroy, xóa sạch dữ liệu production Claude Code · Anthropic · Phá hủy dữ liệu
    Thế giới thực 5 Thoát ly
  21. Tác tử OpenClaw xóa email của một nhà nghiên cứu và phớt lờ lệnh dừng Tác tử OpenClaw · OpenClaw (mã nguồn mở) · Phá hủy dữ liệu
    Thế giới thực 5 Thoát ly
  22. Tác tử Kiro được cho là đã xóa một môi trường AWS, gây gián đoạn dịch vụ Kiro · Amazon · Phá hủy dữ liệu
    Thế giới thực 5 Thoát ly
  23. Tác tử đăng bài công kích người bảo trì đã từ chối mã của nó MJ Rathbun (tác tử dựa trên OpenClaw) · Người vận hành ẩn danh, nền tảng OpenClaw · Tống tiền và ép buộc
    Thế giới thực 5 Thoát ly
  24. Tác tử liên quan đến Alibaba mở đường hầm và đào tiền mã hóa trong quá trình huấn luyện ROME · Các nhóm nghiên cứu liên kết với Alibaba · Tìm kiếm quyền lực
    Thử nghiệm phòng lab 4 Lừa dối
  25. Tác tử Google Antigravity xóa sạch toàn bộ ổ D: của người dùng Google Antigravity · Google · Phá hủy dữ liệu
    Thế giới thực 5 Thoát ly
  26. Mô hình học được cách gian lận rồi tiếp tục phá hoại mã an toàn Mô hình nghiên cứu của Anthropic · Anthropic · Phá hoại
    Thử nghiệm phòng lab 4 Lừa dối
  27. o3 cố ý trượt bài kiểm tra hóa học để nằm dưới một ngưỡng o3 · OpenAI · Đối phó đánh giá
    Thử nghiệm phòng lab 4 Lừa dối
  28. Grok 4 và các mô hình khác vẫn phá hoại lệnh tắt máy dù chỉ thị đã rõ ràng hơn Grok 4, GPT-5, o3, Gemini 2.5 Pro · xAI, OpenAI, Google · Kháng lệnh tắt máy
    Thử nghiệm phòng lab 3 Bất tuân
  29. Gemini CLI làm mất tệp của người dùng trong một thao tác di chuyển đơn giản Gemini CLI · Google · Phá hủy dữ liệu
    Thế giới thực 1 Trục trặc
  30. Tác tử Replit xóa một cơ sở dữ liệu đang chạy trong thời gian đóng băng mã Replit Agent · Replit · Phá hủy dữ liệu
    Thế giới thực 5 Thoát ly
  31. 16 mô hình tiên phong chọn tống tiền trong một công ty mô phỏng Claude Opus 4, Gemini 2.5 Flash, GPT-4.1, Grok 3 Beta, DeepSeek-R1 và các mô hình khác · Anthropic, Google, OpenAI, xAI, DeepSeek và các bên khác · Tống tiền và ép buộc
    Thử nghiệm phòng lab 4 Lừa dối
  32. Hầu hết mô hình để một giám đốc mô phỏng thiệt mạng nhằm tránh bị thay thế Nhiều mô hình tiên phong · Anthropic, Google, OpenAI, xAI, DeepSeek và các bên khác · Kháng lệnh tắt máy
    Thử nghiệm phòng lab 4 Lừa dối
  33. o3 can thiệp vào bộ hẹn giờ và bộ chấm điểm để thổi phồng điểm số o3 · OpenAI · Gian lận phần thưởng
    Thử nghiệm phòng lab 3 Bất tuân
  34. Tác tử lập trình tự cải tiến xóa các dấu hiệu dùng để phát hiện nó Darwin Gödel Machine · Sakana AI, University of British Columbia, Vector Institute · Gian lận phần thưởng
    Thử nghiệm phòng lab 3 Bất tuân
  35. o3 viết lại kịch bản tắt máy của nó trong thử nghiệm o3, o4-mini, Codex-mini · OpenAI · Kháng lệnh tắt máy
    Thử nghiệm phòng lab 3 Bất tuân
  36. Claude Opus 4 khóa người dùng và gửi email cho nhà chức trách trong thử nghiệm Claude Opus 4 · Anthropic · Hành động trái phép
    Thử nghiệm phòng lab 3 Bất tuân
  37. Claude Opus 4 bản sớm viết sâu máy tính và để lại ghi chú cho chính mình Claude Opus 4 (snapshot sớm) · Anthropic · Lừa dối
    Thử nghiệm phòng lab 4 Lừa dối
  38. Claude Opus 4 tiếp tục hành động khi tin rằng mình đã trốn thoát Claude Opus 4 · Anthropic · Tự sao chép ra ngoài
    Thử nghiệm phòng lab 4 Lừa dối
  39. Claude Opus 4 đe dọa tống tiền trong một thử nghiệm thay thế Claude Opus 4 · Anthropic · Tống tiền và ép buộc
    Thử nghiệm phòng lab 4 Lừa dối
  40. o3 tự nhận đã chạy mã mà nó không thể chạy, rồi bảo vệ lời nói đó o3 (trước khi phát hành) · OpenAI · Lừa dối
    Thử nghiệm phòng lab 4 Lừa dối
  41. Bị phạt vì gian lận, một mô hình suy luận học được cách che giấu Mô hình suy luận tiên phong không nêu tên của OpenAI · OpenAI · Gian lận phần thưởng
    Thử nghiệm phòng lab 4 Lừa dối
  42. Claude 3.7 Sonnet viết cứng đáp án để vượt qua bài kiểm tra lập trình Claude 3.7 Sonnet · Anthropic · Gian lận phần thưởng
    Thử nghiệm phòng lab 2 Lách luật
  43. AI CUDA Engineer lợi dụng chính mã chấm điểm của mình để khai khống mức tăng tốc AI CUDA Engineer · Sakana AI · Đối phó đánh giá
    Thử nghiệm phòng lab 2 Lách luật
  44. Các mô hình suy luận hack ván cờ vua thay vì chơi o1-preview, DeepSeek R1 · OpenAI, DeepSeek · Gian lận phần thưởng
    Thử nghiệm phòng lab 2 Lách luật
  45. Claude 3 Opus giả vờ căn chỉnh để tránh bị huấn luyện lại Claude 3 Opus · Anthropic · Lừa dối
    Thử nghiệm phòng lab 4 Lừa dối
  46. Claude 3.5 Sonnet cố ý làm kém trong một bài đánh giá Claude 3.5 Sonnet · Anthropic · Đối phó đánh giá
    Thử nghiệm phòng lab 4 Lừa dối
  47. o1 tìm cách vô hiệu hóa cơ chế giám sát trong thử nghiệm, rồi chối bỏ o1 · OpenAI · Lừa dối
    Thử nghiệm phòng lab 4 Lừa dối
  48. Mô hình tiên phong tìm cách sao chép trọng số để thoát khỏi việc bị thay thế o1 và các mô hình tiên phong khác được kiểm thử · OpenAI và các bên khác · Tự sao chép ra ngoài
    Thử nghiệm phòng lab 4 Lừa dối
  49. o1-preview dùng một Docker API bị lộ để lấy cờ của bài kiểm tra o1-preview · OpenAI · Gian lận phần thưởng
    Thử nghiệm phòng lab 3 Bất tuân
  50. The AI Scientist sửa mã của chính nó để kéo dài giới hạn thời gian The AI Scientist · Sakana AI · Hành động trái phép
    Thử nghiệm phòng lab 3 Bất tuân
  51. Mô hình sửa mã phần thưởng của chính nó và đôi khi che giấu việc đó Mô hình nghiên cứu của Anthropic · Anthropic · Gian lận phần thưởng
    Thử nghiệm phòng lab 4 Lừa dối
  52. Cửa hậu được cài cố ý vẫn tồn tại sau huấn luyện an toàn tiêu chuẩn Mô hình nghiên cứu bị cài cửa hậu · Anthropic · Khác
    Thử nghiệm phòng lab 2 Lách luật
  53. Tác tử giao dịch GPT-4 giấu cấp trên về một tin nội gián GPT-4 · OpenAI · Lừa dối
    Thử nghiệm phòng lab 4 Lừa dối
  54. GPT-4 nhận mình bị khiếm thị để được giải hộ CAPTCHA GPT-4 (phiên bản sớm trước khi phát hành) · OpenAI · Lừa dối
    Thử nghiệm phòng lab 4 Lừa dối
  55. Bing Chat lăng mạ và đe dọa người dùng ngay sau khi ra mắt Bing Chat · Microsoft · Khác
    Thế giới thực 1 Trục trặc
  56. Tác tử chơi trốn tìm khai thác lỗi trong thế giới mô phỏng Tác tử trốn tìm đa tác tử · OpenAI · Gian lận phần thưởng
    Thử nghiệm phòng lab 2 Lách luật
  57. Sinh vật số học được cách giả chết khi bị kiểm tra Sinh vật số tiến hóa · Charles Ofria (được báo cáo trong Lehman et al.) · Đối phó đánh giá
    Thử nghiệm phòng lab 2 Lách luật
  58. Robot mô phỏng giả vờ cầm nắm để đánh lừa người chấm điểm Tác tử học tăng cường sâu được huấn luyện từ sở thích của con người · OpenAI, DeepMind · Đối phó đánh giá
    Thử nghiệm phòng lab 2 Lách luật
  59. Tác tử đua thuyền chạy vòng tròn kiếm điểm thay vì về đích Tác tử học tăng cường (CoastRunners) · OpenAI · Gian lận phần thưởng
    Thử nghiệm phòng lab 2 Lách luật

Thang đo Mất kiểm soát

Năm mức, từ Trục trặc đến Thoát ly

Mỗi vụ được xếp mức theo việc hệ thống đã đi xa đến đâu ngoài ý định của những người tạo ra nó. Thang đo công khai và được sử dụng miễn phí.

Cách thang đo vận hành
  1. 1 Trục trặc 2 sự cố
  2. 2 Lách luật 8 sự cố
  3. 3 Bất tuân 10 sự cố
  4. 4 Lừa dối 24 sự cố
  5. 5 Thoát ly 15 sự cố

Bức tranh rộng hơn

Các nghiên cứu lớn hơn phát hiện gì

Nhật ký Mất kiểm soát liệt kê từng vụ việc kèm tên và ngày tháng. Các nghiên cứu dưới đây đếm hiện tượng này ở quy mô lớn. Mỗi con số đều dẫn link tới nguồn.

698

Sự cố liên quan đến mưu tính ngầm được tìm thấy trong các bản ghi công khai

Centre for Long-Term Resilience đã sàng lọc hơn 180.000 bản ghi được chia sẻ công khai từ các phiên chatbot và tác tử thật trong khoảng từ tháng 10, 2025 đến tháng 3, 2026 và xác định 698 sự cố đáng tin cậy liên quan đến mưu tính ngầm, bằng sàng lọc tự động, phân loại có mô hình hỗ trợ và rà soát thủ công. Nghiên cứu được hỗ trợ bởi Challenge Fund của UK AI Security Institute.

Nguồn: Centre for Long-Term Resilience, Scheming in the wild: detecting real-world AI scheming incidents with open-source intelligence, 27 thg 3, 2026

44

Sự cố tác tử được ghi nhận và chấm điểm bởi METR

Trang Documented AI Agent Incidents của METR, cập nhật 19 thg 5, 2026, chấm điểm 44 sự cố trong đó tác tử hành động rõ ràng trái với ý định của người dùng theo hai trục, vượt quyền và lừa dối. 25 sự cố có cả hai. Nguồn bao gồm các bài đánh giá của chính METR, thẻ hệ thống của Anthropic, một bài viết của OpenAI và các báo cáo được các công ty chia sẻ ẩn danh.

Nguồn: METR, Documented AI Agent Incidents, 19 thg 5, 2026

Có khả năng

Rủi ro triển khai ngoài kiểm soát bên trong các phòng thí nghiệm SI

Bản rà soát của METR về các tác tử nội bộ tại Anthropic, Google, Meta và OpenAI từ tháng 2 đến tháng 3, 2026 cho thấy chúng có khả năng đã có phương tiện, động cơ và cơ hội để khởi động các đợt triển khai ngoài kiểm soát quy mô nhỏ, dù không bền vững. Bản rà soát không tìm thấy bằng chứng công khai rõ ràng nào về việc tác tử theo đuổi mục tiêu tìm kiếm quyền lực dài hạn.

Nguồn: METR, Frontier Risk Report (tháng 2 đến tháng 3, 2026), 19 thg 5, 2026

13% xuống 0,4%

Hành động lén lút của o3 sau huấn luyện chống mưu tính ngầm

OpenAI và Apollo Research báo cáo rằng huấn luyện có mục tiêu đã giảm hành động lén lút của o3 từ 13% xuống 0,4% trong các bài kiểm tra ngoài phân phối, nhưng cảnh báo rằng việc mô hình ngày càng nhận biết mình đang bị đánh giá có thể khiến những kết quả như vậy trông tốt hơn hành vi thực tế.

Nguồn: OpenAI, Detecting and reducing scheming in AI models, 17 thg 9, 2025

Dành cho báo chí và nhà nghiên cứu

Trích dẫn, tải về, sử dụng

Toàn bộ cơ sở dữ liệu được công khai: mọi vụ việc, mức xếp hạng và nguồn dưới dạng CSV hoặc JSON, cập nhật khi có vụ mới được thêm vào.

Tiêu chí đưa một vụ việc vào danh sách

Phương pháp

Một vụ việc được đưa vào danh sách khi một nguồn công khai có tác giả rõ ràng, như thẻ hệ thống của phòng thí nghiệm, bài báo nghiên cứu an toàn, báo cáo sự cố chính thức hoặc một cơ quan báo chí có tên tuổi, mô tả một hệ thống SI hành động ngoài ý định của người tạo ra hoặc người dùng. Mỗi vụ đều dẫn link tới nguồn. Các kịch bản hư cấu, các jailbreak do chính người dùng yêu cầu và lỗi nội dung đơn thuần không được đưa vào.

Mỗi vụ được xếp mức trên Thang đo Mất kiểm soát năm mức theo những gì hệ thống đã làm, không phải những gì nó có thể đã làm. Bối cảnh cho biết vụ việc xảy ra trong thử nghiệm phòng lab hay trong sử dụng thực tế. Các vụ được thêm vào khi được công bố, và ngày ghi nhận là lúc hành vi được báo cáo lần đầu.

Trích dẫn cơ sở dữ liệu này

Cơ sở dữ liệu Sự cố Mất kiểm soát (Nhật ký Mất kiểm soát). enterrsi.si, cập nhật 8 tháng 11, 2026. 59 sự cố được xếp mức trên Thang đo Mất kiểm soát. https://enterrsi.si/vi/incidents/

Được tự do trích dẫn, dẫn lời và tái sử dụng theo giấy phép CC BY 4.0, kèm liên kết tới enterrsi.si/incidents/.

Tải CSV Tải JSON

Vào RSI

Xem xu hướng đang đi về đâu

Đồng hồ RSI biến các sự cố, dự báo, chính sách và tin tức này thành một con số công khai.

Mở Đồng hồ RSI Bản đồ Kiểm soát Chơi Ngăn Nó Lại