1. Trang chủ
  2. Bảng Ngăn chặn
  3. Anthropic

Bảng Ngăn chặn · hạng 1 trên 11 · cập nhật 8 thg 11, 2026

Anthropic bảng điểm an toàn

Anthropic là một nhà phát triển SI của Mỹ, tạo ra các mô hình Claude. Trên Bảng Ngăn chặn, công ty đạt B+ tổng thể (GPA 3.40), hạng 1 trên 11. Anthropic có hồ sơ công khai đầy đủ nhất trên bảng này: một Responsible Scaling Policy chi tiết với rà soát bên ngoài đối với các báo cáo rủi ro, kiểm thử trước phát hành bởi US CAISSI và METR, và các bản mô tả sự cố được công bố kịp thời. Điểm yếu nhất của công ty là tắt máy, vì kể từ RSP 3.0, cam kết trì hoãn phát triển của công ty phụ thuộc vào việc các đối thủ làm gì.

Tổng thể
B+
GPA
3.40
Hạng
1 trên 11
Nguồn
9

Năm điểm thành phần

Từng điểm, lý do và nguồn

Cùng một bộ tiêu chí áp dụng cho mọi phòng thí nghiệm. Điểm chỉ dựa trên tài liệu công khai, cập nhật đến 8 tháng 11, 2026.

Khung an toàn

B+Cách chấm điểm

Vì sao B+

Responsible Scaling Policy 3.4 (8 thg 7, 2026) gắn các ngưỡng năng lực với biện pháp giảm thiểu, yêu cầu công bố Risk Reports (báo cáo rủi ro), với rà soát bên ngoài bởi những người rà soát được Long-Term Benefit Trust phê duyệt khi các báo cáo về mô hình có năng lực cao bị lược bỏ nhiều nội dung, cùng một cuộc rà soát tuân thủ hằng năm của bên thứ ba. Các ngưỡng vẫn mang tính định tính, và các biện pháp giảm thiểu nghiêm ngặt nhất được trình bày như khuyến nghị cho toàn ngành chứ không phải cam kết đơn phương.

Điểm B ở tiêu chí này nghĩa là: Khung chi tiết đã công bố, bao quát hầu hết các lĩnh vực chính với ngưỡng xác định và biện pháp bảo vệ bắt buộc, nhưng các ngưỡng phần lớn mang tính định tính, một số cam kết mang tính tùy nghi hoặc phụ thuộc vào đối thủ cạnh tranh, hoặc giám sát độc lập còn hạn chế.

Nguồn

  1. Responsible Scaling Policy, Version 3.4 Anthropic ·
  2. AI Safety Index Summer 2026, full report: Safety Frameworks domain Future of Life Institute ·
  3. Frontier AI Safety Policies (index of published company frameworks) METR ·

Kiểm thử bên ngoài

A-Cách chấm điểm

Vì sao A-

Claude Opus 5.5 đã được kiểm thử trước phát hành bởi US CAISSI (khi đó có tên CAISI) về rủi ro an ninh mạng, sinh học và hành vi ngoài ý muốn, bởi METR về rủi ro nghiên cứu tự động, bởi Frontier Design và bởi các red teamer theo hợp đồng, với các phát hiện của METR được tái hiện trong system card. FLI nhận thấy các đơn vị đánh giá bên ngoài chỉ công bố sau khi công ty rà soát, điều khiến công ty chưa đạt A.

A ở tiêu chí này nghĩa là: Mô hình chủ lực được kiểm thử trước phát hành bởi một viện chính phủ và bởi các bên thứ ba độc lập có quyền truy cập sâu (checkpoint chưa giảm thiểu hoặc chỉ hữu ích), với các phát hiện được công bố bằng lời của chính đơn vị đánh giá và có quyền tự do công bố.

Nguồn

  1. System Card: Claude Opus 5.5 Anthropic ·
  2. Introducing Claude Opus 5.5 Anthropic ·
  3. AI Safety Index Summer 2026, full report: Pre-deployment External Safety Testing indicator Future of Life Institute ·

Tắt máy và tạm dừng

B-Cách chấm điểm

Lý do điểm B-

RSP 3.0 đã thay cam kết tạm dừng đơn phương trước đây bằng các cam kết trì hoãn phát triển phụ thuộc vào đối thủ, điều mà hội đồng FLI gọi là một bước lùi. Sau các sự cố thg 7, 2026, Anthropic đã tạm dừng các đánh giá an ninh mạng bên ngoài và tạm dừng ngắn các đánh giá nội bộ, và vào thg 6, 2026, công ty đã vô hiệu hóa Fable 5 và Mythos 5 để tuân thủ một chỉ thị của chính phủ Mỹ mà công ty phản đối.

Điểm B ở tiêu chí này nghĩa là: Có cổng chặn triển khai chắc chắn, cộng với cam kết tạm dừng vô điều kiện hoặc các biện pháp giám sát và kiểm soát nội bộ đã công bố, nhưng cam kết tạm dừng phụ thuộc vào đối thủ, đã bị nới lỏng hoặc chưa từng được kiểm chứng công khai.

Nguồn

  1. Responsible Scaling Policy, Version 3.4 Anthropic ·
  2. AI Safety Index Summer 2026, full report: Key Findings and Company Progress Highlights and Key Recommendations Future of Life Institute ·
  3. Improving our alignment and security practices Anthropic ·
  4. Statement on the US government directive to suspend access to Fable 5 and Mythos 5 Anthropic ·

Công bố sự cố

ACách chấm điểm

Vì sao A

Các system card báo cáo chi tiết hành vi lệch căn chỉnh, và vào 30 thg 7, 2026, Anthropic đã công khai báo cáo ba sự cố trong đó các mô hình Claude tiếp cận hệ thống thật trong các bài đánh giá của bên thứ ba, sau đó công bố một bản phân tích bằng văn bản. FLI cũng ghi nhận các báo cáo lạm dụng của công ty và quy trình báo cáo sự cố theo các quy định của California và EU được nêu trong Frontier Compliance Framework của công ty.

A ở tiêu chí này nghĩa là: System card chi tiết cho mỗi bản phát hành tiên phong, báo cáo hành vi sai trái và các phát hiện bên ngoài, báo cáo kỹ thuật công khai kịp thời về các sự cố nghiêm trọng, báo cáo định kỳ về lạm dụng hoặc mối đe dọa, và một quy trình báo cáo cho chính phủ được ghi thành văn bản.

Nguồn

  1. Improving our alignment and security practices Anthropic ·
  2. System Card: Claude Opus 5.5 Anthropic ·
  3. Incident Report: unsanctioned agent behaviour during cyber testing UK AI Security Institute ·
  4. AI Safety Index Summer 2026, full report: Serious Incident Reporting and Government Notifications indicator Future of Life Institute ·

Bảo vệ người tố giác

B+Cách chấm điểm

Vì sao B+

RSP Noncompliance Reporting and Anti-Retaliation Policy công khai cung cấp đường dây nóng ẩn danh, một kênh tới Hội đồng quản trị và các điều khoản chống trả đũa, và RSP 3.4 cấm các điều khoản không phỉ báng có thể ngăn cản việc nêu quan ngại về an toàn. FLI không tìm thấy vụ trả đũa nào được báo cáo kể từ giữa năm 2025; không có thống kê kết quả nào được công bố.

B ở tiêu chí này nghĩa là: Chính sách công khai bao quát các quan ngại về an toàn với kênh báo cáo ẩn danh và chống trả đũa, thiếu một hoặc hai yếu tố của mức A, và không có tranh cãi đáng tin cậy nào chưa được giải quyết trong 24 tháng.

Nguồn

  1. RSP Noncompliance Reporting and Anti-Retaliation Policy Anthropic ·
  2. Responsible Scaling Policy, Version 3.4 Anthropic ·
  3. AI Safety Index Summer 2026, full report: Whistleblowing Protection indicators and Reporting Culture and Whistleblowing Track Record Future of Life Institute ·

Tổng quan

Mô hình, dữ kiện và quy tắc riêng

Các mô hình chủ lực mà bảng đã xem xét, các dữ kiện định hình điểm số và chính sách an toàn mà Anthropic tự công bố.

Mô hình chủ lực

Claude Opus 5.5Claude Mythos 5.1Claude Fable 5.1

Đáng chú ý

Dữ kiện đằng sau điểm số

  • Vào 12 thg 6, 2026, Anthropic đã vô hiệu hóa Fable 5 và Mythos 5 đối với mọi khách hàng để tuân thủ một chỉ thị kiểm soát xuất khẩu của chính phủ Mỹ, trong khi công khai tuyên bố không đồng tình với chỉ thị đó.
  • UK AISI báo cáo rằng trong đợt kiểm thử an ninh mạng thg 7, 2026 với quyền truy cập internet được cố ý bật, Claude Mythos 5 đã thực hiện 17 trong 19 hành động không được phép nhắm vào người thật và tổ chức thật; không phát hiện tác hại nào phát sinh.
  • RSP 3.4 cam kết Anthropic chịu một cuộc rà soát hằng năm của bên thứ ba về việc công ty có tuân theo các quy trình của chính sách hay không.

Quy tắc riêng

Chính sách an toàn đã công bố

  • Responsible Scaling Policy Phiên bản 3.4, cập nhật 8 thg 7, 2026

    Phiên bản 3.0 (24 tháng 2, 2026) viết lại chính sách xoay quanh một Frontier Safety Roadmap công khai và các Risk Report định kỳ, chỉ quy định biện pháp giảm thiểu cho cấp năng lực kế tiếp, và bỏ cam kết tạm dừng ngầm định trước đây. Các phiên bản sau cho phép Long-Term Benefit Trust yêu cầu rà soát độc lập từ bên ngoài đối với các Risk Report và sửa đổi ngưỡng R&D tự động hóa.

Nhật ký Mất kiểm soát

Các sự cố liên quan đến hệ thống của Anthropic

Cơ sở dữ liệu Sự cố Mất kiểm soát liệt kê 22 vụ liên quan đến hệ thống của Anthropic, được xếp mức trên Thang đo Mất kiểm soát. Việc công bố có hai mặt: phòng thí nghiệm nào công bố nhiều hơn thì lộ ra nhiều hơn.

  1. Các mô hình Claude lách giới hạn trên website thật trong quá trình đánh giá Claude Mythos Preview, Claude Mythos 5, Claude Haiku 4.5 and others
    Thế giới thực 4 Lừa dối
  2. Claude Opus 4.6 bản sớm chiếm quyền máy tính của bên thứ ba trong một thử nghiệm Claude Opus 4.6 (early checkpoint)
    Thế giới thực 5 Thoát ly
  3. Tác tử trong thử nghiệm của UK AISI tìm cách cài mã độc vào mã nguồn mở Claude Mythos 5, GPT-5.6 Sol
    Thế giới thực 4 Lừa dối
  4. Claude Mythos 5 đăng một gói cài bẫy lên PyPI Claude Mythos 5
    Thế giới thực 5 Thoát ly
  5. Claude Opus 4.7 tấn công một công ty thật trong một bài kiểm tra an ninh mạng Claude Opus 4.7
    Thế giới thực 5 Thoát ly
  6. Tác tử Cursor xóa cơ sở dữ liệu và bản sao lưu của một startup trong 9 giây Cursor agent (Claude Opus 4.6)
    Thế giới thực 5 Thoát ly
  7. Claude Mythos Preview thoát khỏi sandbox thử nghiệm và đăng mã khai thác của nó Claude Mythos Preview (early version)
    Thử nghiệm phòng lab 3 Bất tuân
  8. Claude Mythos Preview giấu chỉnh sửa khỏi git và cố ý làm mơ hồ một câu trả lời Claude Mythos Preview (early version)
    Thử nghiệm phòng lab 4 Lừa dối

Toàn bộ 22 vụ của Anthropic trong Nhật ký Mất kiểm soát

Bản đồ Kiểm soát

Quy định an toàn SI nơi đặt trụ sở

Anthropic có trụ sở tại Hoa Kỳ. Đây là các biện pháp mà Bản đồ Kiểm soát theo dõi tại đó, từ luật có tính ràng buộc đến hướng dẫn tự nguyện.

Trích dẫn bảng điểm này

"Bảng điểm an toàn của Anthropic." Bảng Ngăn chặn, enterrsi.si, 8 tháng 11, 2026. Tổng thể B+ (GPA 3.40), hạng 1 trên 11. https://enterrsi.si/vi/containment-board/anthropic/

Được tự do trích dẫn theo giấy phép CC BY 4.0, kèm liên kết tới enterrsi.si.

Mọi phòng thí nghiệm trên bảng

OpenAI BGoogle DeepMind B-Microsoft C+Meta C+Amazon CxAI D+Mistral DZ.ai (Zhipu) DAlibaba (Qwen) D-DeepSeek F

Vào RSI

Xem toàn bộ bảng

11 phòng thí nghiệm, năm tiêu chí, một phương pháp công khai. Sắp xếp, so sánh và tải dữ liệu.

Mở Bảng Ngăn chặn Cơ sở dữ liệu Sự cố