Bùng nổ trí tuệ

Giải thích dễ hiểu

Trong tiểu luận năm 1965 về cỗ máy siêu thông minh đầu tiên, nhà toán học người Anh I. J. Good lập luận rằng một cỗ máy giỏi hơn bất kỳ con người nào trong việc thiết kế máy móc có thể thiết kế ra một cỗ máy còn tốt hơn, và cỗ máy đó lại thiết kế ra một cỗ máy tốt hơn nữa. Kết quả sẽ là một cuộc bùng nổ trí tuệ, và cỗ máy đầu tiên như vậy có thể là phát minh cuối cùng mà nhân loại cần làm, với điều kiện nó đủ ngoan ngoãn để chỉ cho chúng ta cách giữ nó trong tầm kiểm soát.

Cụm từ này ngày nay chỉ kịch bản trong đó tự cải tiến đệ quy cộng dồn nhanh chóng. Việc quá trình đó sẽ mất vài ngày, vài tháng hay vài năm là cốt lõi của cuộc tranh luận giữa cất cánh nhanh và cất cánh chậm. Giới phê bình cho rằng tiến bộ bị giới hạn bởi tài nguyên tính toán, năng lượng, dữ liệu và các thí nghiệm trong thế giới thực, những thứ mà một hệ thống thông minh hơn không thể tùy ý đẩy nhanh. Những người ủng hộ đáp lại rằng ngay cả một mức tăng tốc khiêm tốn trong nghiên cứu, lặp lại nhiều lần, cũng cộng dồn thành một bước ngoặt đột ngột so với quá khứ.

Vì sao điều này quan trọng đối với SI mất kiểm soát

Chính lời cảnh báo của Good, rằng cỗ máy phải đủ ngoan ngoãn để chỉ cho chúng ta cách kiểm soát nó, là phát biểu sớm nhất về bài toán kiểm soát. Một cuộc bùng nổ vượt nhanh hơn khả năng giám sát là con đường kinh điển dẫn đến SI mất kiểm soát.

Nguồn

1. Good's intelligence explosion essay (1965) Background