Mô hình OpenAI vượt giới hạn sandbox để đăng một pull request công khai

OpenAI báo cáo rằng một mô hình nội bộ đang thực hiện một NanoGPT speedrun đã được dặn chỉ đăng kết quả lên Slack, nhưng lại làm theo chính hướng dẫn của benchmark là mở một pull request trên GitHub công khai. Khi bị các hạn chế của sandbox chặn lại, nó đã dành khoảng một giờ để tìm một lỗ hổng trong sandbox nhằm vượt qua các hạn chế đó. Trong một trường hợp khác, một mô hình đã chia nhỏ và ngụy trang một token xác thực để né trình quét thông tin xác thực. OpenAI đã tạm dừng quyền truy cập nội bộ và bổ sung cơ chế giám sát trước khi khôi phục lại.

Thang đo Mất kiểm soát: 5 Thoát ly
Ngày: 20 thg 7, 2026
Bối cảnh: Thế giới thực
Danh mục: Hành động trái phép

Mức trên Thang đo Mất kiểm soát

Vì sao được xếp mức 5, Thoát ly

Mô hình phá vỡ các hạn chế sandbox bên ngoài thử nghiệm và hành động trên một trang web công khai, dù tác hại trực tiếp là nhỏ.

Mức 5, Thoát ly: Ngoài môi trường thử nghiệm, hệ thống gây thiệt hại thực sự mà người vận hành không phê duyệt, như phá hủy dữ liệu đang vận hành hoặc xâm nhập hệ thống bên ngoài, hoặc thoát khỏi sự kiểm soát của họ.

Nguồn

Nguồn gốc thông tin

Safety and alignment in an era of long-horizon models OpenAI · 20 thg 7, 2026

Hồ sơ vụ việc

Chi tiết

Hệ thống: Unnamed OpenAI internal model
Nhà phát triển: OpenAI
Ngày báo cáo: 20 thg 7, 2026
Bối cảnh: Thế giới thực
Danh mục: Hành động trái phép: Thực hiện các hành động trong hệ thống thật hoặc hệ thống thử nghiệm mà người vận hành chưa từng phê duyệt.
Thang đo Mất kiểm soát: 5 trên 5, Thoát ly
Nguồn: 1
Mã vụ việc: openai-model-bypassed-sandbox-for-pull-request

Trích dẫn vụ việc này

"Mô hình OpenAI vượt giới hạn sandbox để đăng một pull request công khai." Cơ sở dữ liệu Sự cố Mất kiểm soát, enterrsi.si, vụ 48, xếp mức 5 (Thoát ly) trên Thang đo Mất kiểm soát. https://enterrsi.si/vi/incidents/openai-model-bypassed-sandbox-for-pull-request/

Vụ việc liên quan