쉽게 말하면
도약(takeoff)은 시스템이 인간 수준에 가까워진 뒤 능력이 얼마나 빨리 오르는지를 말합니다. 빠른 도약, 즉 하드 테이크오프에서는 시스템이 짧은 기간 안에 대략 인간 수준의 능력에서 그것을 훨씬 넘어서는 수준으로 올라섭니다. 대개 시스템이 스스로를 개선하기 시작하거나 연산 자원을 늘린 효과가 예상보다 훨씬 크게 나타나기 때문입니다. 그 일이 일어날 때 선두 시스템은 하나뿐일 수 있으며, 세계는 도약이 끝날 때까지 알아채지 못할 수도 있습니다.
빠른 도약을 뒷받침하는 주된 논거는 재귀적 자기 개선입니다. SI가 하는 연구는 사람이 하는 연구보다 빠르고, 그 성과가 복리처럼 쌓인다는 것입니다. 이에 반대하는 주된 논거는 칩, 전력, 데이터 센터, 실제 실험의 필요성 같은 물리적 병목입니다. 예측가들과 연구소 수장들은 어느 효과가 이길지를 두고 의견이 크게 갈리며, 2026년 SI가 SI를 만든다는 보고가 늘면서 많은 추정치가 앞당겨졌습니다.
통제를 벗어난 SI와 관련해 중요한 이유
빠른 도약이 일어나면 규제 당국, 연구소, 대중은 경고 신호를 알아채고 대응할 시간을 거의 갖지 못합니다. 통제를 벗어난 시스템을 격리하기 위한 계획 대부분은 테스트하고, 멈추고, 바로잡을 시간이 있다고 가정하지만, 빠른 도약은 그 시간을 없애 버립니다.