무슨 일이 있었나
Nick Bostrom은 종이클립 만들기처럼 무해한 목표라도 초지능이 추구하면 재앙으로 끝날 수 있음을 보여 줍니다.
왜 중요한가
이 예시는 고도 기계 지능의 윤리에 관한 논문의 작은 일부였지만, 정렬되지 않은 초지능을 가장 잘 보여 주는 그림이 되었습니다. 악의는 없고, 한계 없이 추구되는 목표만 있을 뿐입니다.
출처
타임라인에서
이 이벤트는 1950년부터 SI가 SI를 만드는 시대까지 이어지는 RSI 타임라인의 이정표 20개 가운데 하나입니다.