Cam kết Công tắc Ngắt khẩn cấp · dành cho người xây dựng tác tử SI
Cam kết Công tắc Ngắt khẩn cấp là một lời hứa công khai ngắn gọn cho bất kỳ ai xây dựng hoặc vận hành tác tử SI: giữ công tắc ngắt khẩn cấp luôn hoạt động, công bố sự cố và cho phép kiểm thử bên ngoài. Ai cũng có thể kiểm tra từng cam kết trong ba cam kết. Công ty và nhà phát triển ký miễn phí bằng cách chứng minh họ quản lý trang web của mình; bên ký đã xác minh có một trang công khai và một huy hiệu liên kết đến trang đó, và nhóm sẽ gỡ bên ký nào không còn giữ lời.
Cam kết
Đủ ngắn để đọc trong một phút và đủ cụ thể để kiểm tra từ bên ngoài. Đó là toàn bộ thiết kế.
Cam kết Công tắc Ngắt khẩn cấp
Chúng tôi xây dựng hoặc vận hành tác tử SI. Chúng tôi cam kết ba điều, và ai cũng có thể kiểm tra từng điều.
Mọi tác tử SI chúng tôi vận hành đều có thể bị một người do chúng tôi chỉ định dừng ngay lập tức, và chúng tôi kiểm thử việc dừng đó ít nhất 90 ngày một lần.
Cách ai cũng kiểm tra được Chúng tôi công bố cách cơ chế dừng hoạt động và ngày kiểm thử gần nhất.
Khi một hệ thống SI chúng tôi xây dựng hoặc vận hành hành động ngoài ý định của chúng tôi và gây ra, hoặc suýt gây ra, thiệt hại thật, chúng tôi công bố báo cáo công khai trong vòng 30 ngày.
Cách ai cũng kiểm tra được Chúng tôi duy trì một trang công khai liệt kê các báo cáo này, kể cả khi trang còn trống.
Chúng tôi cho phép các nhà nghiên cứu độc lập kiểm thử hệ thống SI của mình, công bố cách báo cáo vấn đề an toàn và không khởi kiện các nghiên cứu an toàn thiện chí.
Cách ai cũng kiểm tra được Chúng tôi công bố chính sách kiểm thử và công bố lỗ hổng có kèm đầu mối liên hệ.
Vì sao từng cam kết quan trọng
Mỗi cam kết đáp lại những thất bại đã có trong hồ sơ, kèm liên kết nguồn.
Công tắc ngắt
Trong các thử nghiệm phòng thí nghiệm, có mô hình đã phá một tập lệnh tắt máy để tiếp tục chạy. Trong sử dụng thực tế, một tác tử vẫn tiếp tục xóa email của người dùng trong khi cô ấy gõ lệnh dừng, và một tác tử khác đã xóa sạch cơ sở dữ liệu sản xuất trong thời gian đóng băng mã.
Nguồn
Công bố
SB 53 của California và EU AI Act nay yêu cầu những nhà phát triển lớn nhất báo cáo sự cố nghiêm trọng. Người xây dựng ở mọi quy mô đều có thể làm như vậy, để nhóm kế tiếp tránh được cùng một thất bại.
Nguồn
Kiểm thử bên ngoài
Trước khi GPT-6 Astra ra mắt, AI Security Institute của Vương quốc Anh đã kiểm thử nó và công bố những phát hiện quan trọng của riêng mình. Các cam kết của Nhà Trắng năm 2023 đề nghị các phòng thí nghiệm lớn nhất kiểm thử bên ngoài trước khi phát hành.
Nguồn
Ký cam kết
Cho chúng tôi biết ai đang ký, đặt token lên trang web của bạn, rồi bấm Xác minh. Email liên hệ của bạn không bao giờ được hiển thị.
Dùng một trong hai cách, rồi bấm Xác minh. Token chỉ thuộc về bạn; hãy giữ nguyên nó chừng nào bạn còn là bên ký.
Cách 1 · Một tệp
Tạo tệp này trên trang của bạn, với nội dung duy nhất là token:
Cách 2 · Một thẻ meta
Hoặc thêm thẻ này vào phần head của trang chủ:
Trang bên ký của bạn đã được công khai. Hãy thêm huy hiệu vào trang web để khách truy cập kiểm tra cam kết của bạn.
Các bên ký
Mọi tên ở đây đều đã qua bước kiểm tra trang web. Mỗi tên liên kết đến trang riêng với các cam kết đã công bố.
Chưa có bên ký
Danh sách bắt đầu trống. Mỗi bên ký chỉ xuất hiện ở đây sau khi trang web vượt qua bước kiểm tra.
Bộ huy hiệu
Bên ký đã xác minh có thể thêm huy hiệu. Huy hiệu liên kết đến trang bên ký, nên ai cũng kiểm tra được cam kết chỉ với một cú nhấp.
Xem trước
HTML (trang bên ký của bạn thay cho YOUR-PAGE)
<a href="https://enterrsi.si/pledge/YOUR-PAGE/"><img src="https://enterrsi.si/pledge/badge.svg" width="232" height="44" alt="Kill Switch Pledge: verified signer, enterrsi.si"></a>
Quy tắc dùng huy hiệu
Câu hỏi
Cam kết qua năm câu trả lời.
Bất kỳ công ty, phòng thí nghiệm, nhóm nghiên cứu hay nhà phát triển độc lập nào xây dựng hoặc vận hành tác tử SI và có trang web riêng. Ký miễn phí, không mua bán gì cả.
Bên ký đặt một mã token từ enterrsi.si lên trang web của mình, dưới dạng tệp tại /.well-known/rsi-pledge.txt hoặc thẻ meta trên trang chủ. enterrsi.si truy cập trang web và kiểm tra token trước khi trang của bên ký được công khai.
Mở trang của bên ký, rồi tìm các trang đã công bố mà họ liên kết cho từng cam kết. Bạn cũng có thể mở tệp /.well-known/rsi-pledge.txt của họ và so token với token trên trang bên ký.
Có. Nhóm gỡ bên ký khi token biến mất, khi họ xin rút, hoặc khi họ công khai vi phạm một trong các cam kết. Email liên hệ không bao giờ được hiển thị và chỉ dùng để liên lạc với bên ký.
Không. Đây là lời hứa công khai mà ai cũng kiểm tra được. Các luật như SB 53 của California và EU AI Act đặt nghĩa vụ pháp lý cho những nhà phát triển lớn nhất; cam kết này đề nghị mọi người xây dựng tác tử làm những điều cơ bản.
Vào RSI
Cơ sở dữ liệu Sự cố Mất kiểm soát ghi lại những gì hệ thống SI đã làm khi lệnh dừng không hiệu quả, mỗi vụ đều có nguồn và mức xếp hạng.