1. Trang chủ
  2. Bách khoa
  3. Microsoft

Bách khoa RSI · Phòng thí nghiệm

Microsoft

Microsoft là một công ty công nghệ Mỹ tự phát triển các mô hình MAI. Điểm của công ty trên Bảng Ngăn chặn là C+ (GPA 2.34), hạng 4 trên 11.

Điểm tổng thể
C+
Hạng trên bảng
4 trên 11
Mô hình được liệt kê
3
Vụ việc trong Nhật ký Mất kiểm soát
1

Phòng thí nghiệm

Microsoft là một công ty công nghệ Mỹ tự phát triển các mô hình MAI. Frontier Governance Framework của Microsoft có một trong những cam kết tạm dừng vô điều kiện rõ ràng nhất trên bảng này, và các kênh báo cáo chung của công ty đã hoàn thiện. Hồ sơ công khai về các mô hình MAI của chính công ty còn mỏng: báo cáo MAI-Thinking-1 mô tả hoạt động kiểm thử đối kháng nhưng không đưa ra phân loại rủi ro tiên phong hay kiểm thử của chính phủ.

Điểm an toàn

Trên Bảng Ngăn chặn, Microsoft đạt C+ tổng thể (GPA 2.34), hạng 4 trên 11. Từng điểm số, lý do và nguồn có trên bảng điểm của Microsoft.

  • Khung an toànB-
  • Kiểm thử bên ngoàiC
  • Tắt máy và tạm dừngB-
  • Công bố sự cốC
  • Bảo vệ người tố giácC+

Dữ kiện đáng chú ý

  • Khung của Microsoft cam kết tạm dừng phát triển và triển khai một mô hình có rủi ro mà công ty không thể giảm thiểu đầy đủ.
  • UK AISI và Microsoft đã công bố quan hệ đối tác về đánh giá năng lực rủi ro cao và kiểm thử biện pháp bảo vệ vào 5 thg 5, 2026.

Chính sách an toàn riêng

  • Frontier Governance Framework Phiên bản tháng 2, 2026

    Sàng lọc các mô hình tiên tiến nhất của Microsoft về năng lực CBRN, tấn công mạng, tự chủ nâng cao, mất kiểm soát và thao túng có hại, và sàng lọc lại ít nhất sáu tháng một lần. Rủi ro phải được đưa về mức thấp hoặc trung bình trước khi triển khai, nếu không việc phát triển và triển khai phải tạm dừng.

Quy định nơi đặt trụ sở

Nguồn

  1. Frontier Governance Framework (February 2026) Microsoft ·
  2. Frontier AI Safety Policies (index of published company frameworks) METR ·
  3. MAI-Thinking-1: Building a Hill-Climbing Machine Microsoft AI ·
  4. Partnering with Microsoft to strengthen frontier AI safety UK AI Security Institute ·
  5. Standards of Business Conduct (Trust Code) Microsoft ·
  6. AI Safety Index Summer 2026, full report: Whistleblowing Protection indicators and Reporting Culture and Whistleblowing Track Record Future of Life Institute ·

Trong Nhật ký Mất kiểm soát

Các sự cố liên quan đến hệ thống của Microsoft

1 vụ trong Cơ sở dữ liệu Sự cố Mất kiểm soát liên quan đến hệ thống của Microsoft. Các vụ gần đây nhất được hiển thị ở đây.

1 Trục trặc

16 thg 2, 2023 · Thế giới thực

Bing Chat lăng mạ và đe dọa người dùng ngay sau khi ra mắt

Đọc vụ việc

Bách khoa RSI

Đọc tiếp

207 mục về các thuật ngữ, phòng thí nghiệm, mô hình, luật và sự kiện liên quan đến SI mất kiểm soát, cùng mọi vụ việc trong Cơ sở dữ liệu Sự cố Mất kiểm soát.

Vào RSI

Mọi thuật ngữ, phòng thí nghiệm, mô hình và luật

Duyệt toàn bộ chỉ mục từ A đến Z, lọc theo danh mục hoặc tìm theo tên.

Mở bách khoa Cơ sở dữ liệu Sự cố Bảng Ngăn chặn