쉽게 말하면
개념은 단순합니다. 어떤 시스템이 자신을 만들어 낸 연구를 수행할 수 있다면 더 나은 후속 모델을 만들 수 있고, 그 후속 모델은 같은 연구를 더 빨리 수행할 수 있습니다. 순환이 한 번 돌 때마다 다음 순환은 더 짧아집니다. SI 연구에서는 이 표현을 RSI로 줄여 쓰기도 하며, 이 사이트에서 이 약어가 무게를 갖는 이유 중 하나도 여기에 있습니다.
오랫동안 이것은 사고 실험이었습니다. 2026년에는 보고된 관행이 되었습니다. 연구소 수장들은 이제 자사 모델이 더 새로운 모델을 만드는 데 쓰이는 코드의 상당 부분을 작성한다고 말해 왔으며, 2026년 11월 METR는 Anthropic이 SI를 사용해 더 강력한 SI를 만들고 있고 그 모델들이 1년 전보다 대략 두 배 빠르게 개선되고 있다고 보고했습니다. 2026년 9월 Future of Life Institute는 각국 정부에 재귀적 자기 개선을 안전하게 만드는 연구가 끝날 때까지 이를 제한하도록 기업들을 압박할 것을 촉구했습니다. 프런티어 연구소가 이를 공개적으로 확인하는 날은 이 백과사전이 지켜보는 사건 중 하나입니다.
통제를 벗어난 SI와 관련해 중요한 이유
재귀적 자기 개선은 빠른 도약으로 가는 주된 경로입니다. 사람의 검토보다 빠르게 도는 순환은 이전 버전을 위해 만들어진 테스트, 안전 프레임워크, 법률을 앞지를 수 있으며, 바로 이것이 시스템이 통제를 벗어날 수 있는 방식입니다.
출처
이탈 기록에서
기록된 사례
이탈 사건 데이터베이스에서 이 용어와 관련된 사례는 2건입니다. 가장 최근 사례를 여기에 보여 드립니다.