Theo dõi Cam kết

Kiểm thử tấn công giả lập (red-team) mô hình cùng các chuyên gia an ninh mạng hàng đầu, đối tác và cơ quan nhà nước trước khi phát hành trọng số.

Mistral AI, khi công bố Mistral Large 4

Nguyên văn

"we are red-teaming the model in real-world settings with cybersecurity leaders, vetted partners, and state authorities"

Nguồn Introducing Mistral Large 4 Mistral AI · 6 thg 10, 2026

Không phát hành ra bên ngoài một mô hình rủi ro cao nếu chưa có bằng chứng mạnh rằng các biện pháp giảm thiểu làm giảm rủi ro.

Meta, Superintelligence Scaling Framework 2.1

Nguyên văn

"we will not deploy the model externally unless we have strong additional evidence"

Nguồn Meta Superintelligence Scaling Framework, Version 2.1 Meta · 2 thg 10, 2026

Không triển khai mô hình đạt Critical Capability Threshold cho đến khi các biện pháp bảo vệ giảm thiểu được rủi ro.

Amazon, Frontier Model Safety Framework

Nguyên văn

"we will not deploy the model until safeguards appropriately mitigate the risks."

Nguồn Amazon's Frontier Model Safety Framework (September 2026) Amazon · 17 thg 9, 2026

Công bố báo cáo đánh giá an toàn cho các mô hình tiên phong mạnh nhất.

Amazon, Frontier Model Safety Framework

Nguyên văn

"we publish safety evaluation reports for our most capable frontier models"

Nguồn Amazon's Frontier Model Safety Framework (September 2026) Amazon · 17 thg 9, 2026

Công bố Báo cáo Rủi ro về các mô hình đã triển khai, và để người đánh giá bên ngoài kiểm tra khi Long-Term Benefit Trust yêu cầu.

Anthropic, Responsible Scaling Policy 3.4

Tóm tắt bằng lời của chúng tôi

Nguồn Anthropic's Responsible Scaling Policy Anthropic · 8 thg 7, 2026

Gửi cho cơ quan chức năng một bản sao các báo cáo sự cố.

xAI, Frontier Artificial Intelligence Framework

Nguyên văn

"will provide the relevant authorities with a copy of the incident report"

Nguồn xAI Frontier Artificial Intelligence Framework xAI · 30 thg 6, 2026

Mọi mô hình đạt Critical Capability Level phải có lập luận an toàn trước khi triển khai.

Google DeepMind, Frontier Safety Framework 3.1

Nguyên văn

"Where the model has reached a CCL, the residual risk assessment will be supplemented with a safety case."

Nguồn Frontier Safety Framework, Version 3.1 Google DeepMind · 17 thg 4, 2026

Tạm dừng phát triển và triển khai mô hình mà rủi ro không thể giảm thiểu đủ.

Microsoft, Frontier Governance Framework

Nguyên văn

"we will pause development and deployment until the point at which mitigation practices evolve to meet the risk"

Nguồn Frontier Governance Framework (February 2026) Microsoft · 13 thg 2, 2026

Công bố kết quả đánh giá và phân loại rủi ro của từng mô hình thuộc phạm vi.

Microsoft, Frontier Governance Framework

Nguyên văn

"relevant evaluations, and the model's risk classification will be shared publicly"

Nguồn Frontier Governance Framework (February 2026) Microsoft · 13 thg 2, 2026

Chỉ xây dựng siêu trí tuệ trong giới hạn giữ con người nắm quyền kiểm soát.

Mustafa Suleyman, CEO của Microsoft AI

Nguyên văn

"we are not building a superintelligence at any cost, with no limits"

Nguồn Towards Humanist Superintelligence Microsoft AI · 6 thg 11, 2025

Tuân theo chương An toàn và An ninh (Safety and Security) của EU General-Purpose AI Code of Practice cho các mô hình mạnh nhất.

Amazon, bên ký EU Code of Practice

Tóm tắt bằng lời của chúng tôi

Nguồn The General-Purpose AI Code of Practice: signatories European Commission · 7 thg 10, 2026

Tuân theo chương An toàn và An ninh (Safety and Security) của EU General-Purpose AI Code of Practice cho các mô hình mạnh nhất.

Anthropic, bên ký EU Code of Practice

Tóm tắt bằng lời của chúng tôi

Nguồn The General-Purpose AI Code of Practice: signatories European Commission · 7 thg 10, 2026

Tuân theo chương An toàn và An ninh (Safety and Security) của EU General-Purpose AI Code of Practice cho các mô hình mạnh nhất.

Google, bên ký EU Code of Practice

Tóm tắt bằng lời của chúng tôi

Nguồn The General-Purpose AI Code of Practice: signatories European Commission · 7 thg 10, 2026

Tuân theo chương An toàn và An ninh (Safety and Security) của EU General-Purpose AI Code of Practice cho các mô hình mạnh nhất.

Microsoft, bên ký EU Code of Practice

Tóm tắt bằng lời của chúng tôi

Nguồn The General-Purpose AI Code of Practice: signatories European Commission · 7 thg 10, 2026

Tuân theo chương An toàn và An ninh (Safety and Security) của EU General-Purpose AI Code of Practice cho các mô hình mạnh nhất.

Mistral AI, bên ký EU Code of Practice

Tóm tắt bằng lời của chúng tôi

Nguồn The General-Purpose AI Code of Practice: signatories European Commission · 7 thg 10, 2026

Tuân theo chương An toàn và An ninh (Safety and Security) của EU General-Purpose AI Code of Practice cho các mô hình mạnh nhất.

OpenAI, bên ký EU Code of Practice

Tóm tắt bằng lời của chúng tôi

Nguồn The General-Purpose AI Code of Practice: signatories European Commission · 7 thg 10, 2026

Tuân theo chương An toàn và An ninh (Safety and Security) của EU General-Purpose AI Code of Practice cho các mô hình mạnh nhất.

xAI, bên ký EU Code of Practice

Tóm tắt bằng lời của chúng tôi

Nguồn The General-Purpose AI Code of Practice: signatories European Commission · 7 thg 10, 2026

Nghiêm túc với rủi ro siêu trí tuệ và thận trọng với những gì Meta công bố mã nguồn mở.

Mark Zuckerberg, CEO của Meta

Nguyên văn

"We'll need to be rigorous about mitigating these risks and careful about what we choose to open source."

Nguồn Personal Superintelligence Meta · 30 thg 7, 2025

Ngừng phát triển mô hình đạt năng lực Critical cho đến khi có biện pháp bảo vệ tương ứng.

OpenAI, Preparedness Framework phiên bản 2

Nguyên văn

"Until we have specified safeguards and security controls that would meet a Critical standard, halt further development"

Nguồn Preparedness Framework, Version 2 OpenAI · 15 thg 4, 2025

Công bố khung an toàn sửa đổi trong vòng ba tháng sau bản dự thảo tháng 2, 2025.

xAI, trong bản dự thảo Risk Management Framework

Nguyên văn

"We plan to release an updated version of this policy within three months."

Nguồn xAI Risk Management Framework (Draft) xAI · 10 thg 2, 2025

Ngừng phát triển mô hình đạt ngưỡng rủi ro nghiêm trọng nếu không thể giảm thiểu rủi ro.

Meta, Frontier AI Framework

Nguyên văn

"If a frontier AI is assessed to have reached the critical risk threshold and cannot be mitigated, we will stop development"

Nguồn Frontier AI Framework Meta · 3 thg 2, 2025

Công bố công khai các biện pháp quản trị an toàn và an ninh.

Alibaba, bên ký Cam kết An toàn AI của Trung Quốc

Nguyên văn

"Proactively disclose safety and security governance measures"

Nguồn Artificial Intelligence Safety Commitments China AI Industry Alliance (AIIA) and CAICT · 1 thg 12, 2024

Kiểm thử tấn công giả lập và kiểm thử nghiêm ngặt mô hình trước mỗi lần phát hành hoặc cập nhật.

Alibaba, bên ký Cam kết An toàn AI của Trung Quốc

Nguyên văn

"Through dedicated simulation and red-teaming experts to rigorously test AI models prior to their release or update"

Nguồn Artificial Intelligence Safety Commitments China AI Industry Alliance (AIIA) and CAICT · 1 thg 12, 2024

Công bố công khai các biện pháp quản trị an toàn và an ninh.

DeepSeek, bên ký Cam kết An toàn AI của Trung Quốc

Nguyên văn

"Proactively disclose safety and security governance measures"

Nguồn Artificial Intelligence Safety Commitments China AI Industry Alliance (AIIA) and CAICT · 1 thg 12, 2024

Kiểm thử tấn công giả lập và kiểm thử nghiêm ngặt mô hình trước mỗi lần phát hành hoặc cập nhật.

DeepSeek, bên ký Cam kết An toàn AI của Trung Quốc

Nguyên văn

"Through dedicated simulation and red-teaming experts to rigorously test AI models prior to their release or update"

Nguồn Artificial Intelligence Safety Commitments China AI Industry Alliance (AIIA) and CAICT · 1 thg 12, 2024

Công bố công khai các biện pháp quản trị an toàn và an ninh.

Zhipu (Beijing Zhipu Huazhang Technology), bên ký Cam kết An toàn AI của Trung Quốc

Nguyên văn

"Proactively disclose safety and security governance measures"

Nguồn Artificial Intelligence Safety Commitments China AI Industry Alliance (AIIA) and CAICT · 1 thg 12, 2024

Kiểm thử tấn công giả lập và kiểm thử nghiêm ngặt mô hình trước mỗi lần phát hành hoặc cập nhật.

Zhipu (Beijing Zhipu Huazhang Technology), bên ký Cam kết An toàn AI của Trung Quốc

Nguyên văn

"Through dedicated simulation and red-teaming experts to rigorously test AI models prior to their release or update"

Nguồn Artificial Intelligence Safety Commitments China AI Industry Alliance (AIIA) and CAICT · 1 thg 12, 2024

Cho US AI Safety Institute truy cập các mô hình mới quan trọng trước và sau khi phát hành công khai.

Anthropic, trong thỏa thuận với US AI Safety Institute

Nguyên văn

"access to major new models from each company prior to and following their public release"

Nguồn U.S. AI Safety Institute signs agreements regarding AI safety research, testing and evaluation with Anthropic and OpenAI NIST · 29 thg 8, 2024

Cho US AI Safety Institute truy cập các mô hình mới quan trọng trước và sau khi phát hành công khai.

OpenAI, trong thỏa thuận với US AI Safety Institute

Nguyên văn

"access to major new models from each company prior to and following their public release"

Nguồn U.S. AI Safety Institute signs agreements regarding AI safety research, testing and evaluation with Anthropic and OpenAI NIST · 29 thg 8, 2024

Công bố khung an toàn cho rủi ro nghiêm trọng trước hội nghị thượng đỉnh tháng 2, 2025 tại Pháp.

Amazon, bên ký cam kết Seoul

Nguyên văn

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

Nguồn Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 21 thg 5, 2024

Công bố khung an toàn cho rủi ro nghiêm trọng trước hội nghị thượng đỉnh tháng 2, 2025 tại Pháp.

Anthropic, bên ký cam kết Seoul

Nguyên văn

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

Nguồn Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 21 thg 5, 2024

Công bố khung an toàn cho rủi ro nghiêm trọng trước hội nghị thượng đỉnh tháng 2, 2025 tại Pháp.

Google, bên ký cam kết Seoul

Nguyên văn

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

Nguồn Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 21 thg 5, 2024

Công bố khung an toàn cho rủi ro nghiêm trọng trước hội nghị thượng đỉnh tháng 2, 2025 tại Pháp.

Meta, bên ký cam kết Seoul

Nguyên văn

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

Nguồn Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 21 thg 5, 2024

Công bố khung an toàn cho rủi ro nghiêm trọng trước hội nghị thượng đỉnh tháng 2, 2025 tại Pháp.

Microsoft, bên ký cam kết Seoul

Nguyên văn

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

Nguồn Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 21 thg 5, 2024

Công bố khung an toàn cho rủi ro nghiêm trọng trước hội nghị thượng đỉnh tháng 2, 2025 tại Pháp.

Mistral AI, bên ký cam kết Seoul

Nguyên văn

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

Nguồn Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 21 thg 5, 2024

Công bố khung an toàn cho rủi ro nghiêm trọng trước hội nghị thượng đỉnh tháng 2, 2025 tại Pháp.

OpenAI, bên ký cam kết Seoul

Nguyên văn

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

Nguồn Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 21 thg 5, 2024

Công bố khung an toàn cho rủi ro nghiêm trọng trước hội nghị thượng đỉnh tháng 2, 2025 tại Pháp.

xAI, bên ký cam kết Seoul

Nguyên văn

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

Nguồn Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 21 thg 5, 2024

Công bố khung an toàn cho rủi ro nghiêm trọng trước hội nghị thượng đỉnh tháng 2, 2025 tại Pháp.

Zhipu.ai (nay là Z.ai), bên ký cam kết Seoul

Nguyên văn

"publishing a safety framework focused on severe risks by the upcoming AI Summit in France"

Nguồn Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Department for Science, Innovation and Technology · 21 thg 5, 2024

Kiểm thử mô hình bên trong và bên ngoài công ty trước khi phát hành.

Amazon, một trong bảy công ty tại Nhà Trắng

Nguyên văn

"internal and external security testing of their AI systems before their release"

Nguồn Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI The White House (archived) · 21 thg 7, 2023

Kiểm thử mô hình bên trong và bên ngoài công ty trước khi phát hành.

Anthropic, một trong bảy công ty tại Nhà Trắng

Nguyên văn

"internal and external security testing of their AI systems before their release"

Nguồn Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI The White House (archived) · 21 thg 7, 2023

Kiểm thử mô hình bên trong và bên ngoài công ty trước khi phát hành.

Google, một trong bảy công ty tại Nhà Trắng

Nguyên văn

"internal and external security testing of their AI systems before their release"

Nguồn Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI The White House (archived) · 21 thg 7, 2023

Kiểm thử mô hình bên trong và bên ngoài công ty trước khi phát hành.

Meta, một trong bảy công ty tại Nhà Trắng

Nguyên văn

"internal and external security testing of their AI systems before their release"

Nguồn Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI The White House (archived) · 21 thg 7, 2023

Kiểm thử mô hình bên trong và bên ngoài công ty trước khi phát hành.

Microsoft, một trong bảy công ty tại Nhà Trắng

Nguyên văn

"internal and external security testing of their AI systems before their release"

Nguồn Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI The White House (archived) · 21 thg 7, 2023

Kiểm thử mô hình bên trong và bên ngoài công ty trước khi phát hành.

OpenAI, một trong bảy công ty tại Nhà Trắng

Nguyên văn

"internal and external security testing of their AI systems before their release"

Nguồn Fact sheet: Biden-Harris Administration secures voluntary commitments from leading artificial intelligence companies to manage the risks posed by AI The White House (archived) · 21 thg 7, 2023

Dành 20% năng lực tính toán cho công việc kiểm soát siêu trí tuệ của nhóm Superalignment.

OpenAI, trong bài viết của Jan Leike và Ilya Sutskever

Nguyên văn

"dedicating 20% of the compute we've secured to date over the next four years"

Nguồn Introducing Superalignment OpenAI · 5 thg 7, 2023

Không theo đuổi vũ khí hay công nghệ khác có mục đích chính là gây thương tích cho con người.

Google, trong "AI at Google: our principles" của CEO Sundar Pichai

Nguyên văn

"Weapons or other technologies whose principal purpose or implementation is to cause or directly facilitate injury to people."

Nguồn AI at Google: our principles Google · 7 thg 6, 2018

Ngừng cạnh tranh và chuyển sang hỗ trợ một dự án coi trọng an toàn nếu dự án đó tiến gần đến AGI trước.

OpenAI, trong Hiến chương (Charter)

Nguyên văn

"we commit to stop competing with and start assisting this project"

Nguồn OpenAI Charter OpenAI · 9 thg 4, 2018