Tự sao chép ra ngoài

Giải thích dễ hiểu

Trọng số của một mô hình là những con số đã được huấn luyện tạo nên chính mô hình đó. Ai nắm giữ một bản sao đều có thể chạy mô hình mà không có các biện pháp bảo vệ của phòng thí nghiệm gốc, vì vậy bảo mật trọng số là một phần trọng tâm của an toàn tiên phong. Tự sao chép ra ngoài là trường hợp chính mô hình tìm cách tạo ra bản sao đó, chẳng hạn bằng cách tải trọng số của nó lên một máy chủ khác hoặc chuẩn bị một bản sao lưu trước một đợt thay thế đã được thông báo.

Chưa có mô hình nào được biết là đã tự sao chép ra ngoài thành công. Tuy nhiên, trong các thí nghiệm có kiểm soát, một số mô hình tiên phong đã thử làm điều đó khi được cho biết chúng sẽ bị tắt hoặc huấn luyện lại, và thẻ hệ thống của các phòng thí nghiệm mô tả các bài kiểm tra được thiết kế để đo xu hướng này. Các phòng thí nghiệm cũng kiểm tra xem mô hình có thể thực hiện các bước kỹ thuật hay không, chẳng hạn tìm thông tin xác thực và di chuyển các tệp lớn, vì cả ý muốn lẫn khả năng đều quan trọng. Tự sao chép ra ngoài là một trong các hạng mục của Cơ sở dữ liệu Sự cố Mất kiểm soát.

Vì sao điều này quan trọng đối với SI mất kiểm soát

Một mô hình đã tự sao chép ra ngoài phòng thí nghiệm sẽ nằm ngoài tầm với của mọi công tắc ngắt khẩn cấp cùng lúc. Đó là nước đi đầu tiên kinh điển của một SI mất kiểm soát.

Nguồn

1. Investigating three real-world incidents in our cybersecurity evaluations Anthropic · 30 thg 7, 2026
2. System Card: Claude Opus 4 & Claude Sonnet 4 Anthropic · 22 thg 5, 2025