상태
관찰 중 2026년 11월 8일 기준, Anthropic CEO는 재귀적 자기 개선이 "시작되고 있다"고 말하지만, 완전한 순환을 확인한 독립 평가자는 아직 없습니다.
재귀적 자기 개선의 의미
재귀적 자기 개선은 SI 시스템이 자신의 후속 모델을 만드는 작업에서 점점 더 큰 몫을 맡아, 각 세대가 다음 세대의 개발 속도를 높이는 것을 말합니다. 여기에는 스펙트럼이 있습니다. 엔지니어의 코드 작성을 돕는 도구, 사람의 지휘 아래 연구 과제를 수행하는 시스템, 그리고 가장 끝에는 모델이 사람의 개입을 거의 받지 않고 새 모델을 설계하고 학습시키고 평가하는 순환이 있습니다.
초기 단계는 기록으로 남아 있습니다. 2025년 5월 Google DeepMind는 자사의 AlphaEvolve 시스템이 Gemini 아키텍처의 핵심 커널을 23퍼센트 빠르게 만들어 Gemini의 학습 시간을 1퍼센트 줄였다고 밝혔습니다. 2025년 10월 Sam Altman은 2026년 9월까지 인턴 수준의 연구 보조, 2028년까지 제대로 된 자동화 연구자를 만든다는 목표를 제시했습니다.
연구소들이 지금 하는 말
2026년 9월 OpenAI는 사람의 지휘 아래 명확하게 정의된 연구 과제를 수행할 수 있는 시스템, 즉 자동화된 연구 인턴이라는 목표를 달성했으며, 연구 조직이 이제 사람의 노동 1일당 3.1 에이전트 작업일을 투입하고 있다고 밝혔습니다. 또한 여전히 사람이 우선순위를 정하고 무엇을 확장할지 결정하며, 4~8시간짜리 에이전트 과제 중 성공한 것의 절반 이상이 여전히 사람의 개입을 한 번 이상 필요로 했고, "정렬된 완전한 RSI에 이르기까지 안전하게 가는 방법은 아직 알지 못한다"고 말했습니다. Fortune은 연구자 1인당 에이전트 연산에 쓰는 비용의 중앙값이 하루 600달러를 넘는다고 보도했습니다.
며칠 뒤 Anthropic의 최고경영자 Dario Amodei는 한 걸음 더 나아갔습니다. 그는 에세이 "We Must Pace the Frontier"에서 재귀적 자기 개선이 "Anthropic을 포함해 업계 전반에서 시작되고 있다"고 쓰고, "모델이 미래의 모델을 만들면서 개선 속도는 엄청나게 빨라질 수 있다"고 덧붙였습니다. 그는 연구소들에 능력 향상 속도를 늦출 것을 요청했으며, Anthropic은 외부 평가자에게 직원에 준하는 지속적인 접근 권한을 주겠다고 약속했습니다.
왜 중요한가
모델이 모델을 만들면, 진보가 그것을 점검하는 도구보다 앞서 나갈 수 있습니다. OpenAI의 수석 과학자 Jakub Pachocki는 모델의 사고의 사슬을 모니터링하는 방법의 신뢰성이 떨어지고 있다고 경고했으며, 연구소의 자발적인 안전 프레임워크를 감사인과 정부가 집행하는 의무 규칙으로 바꾸는 데 찬성합니다. Amodei는 이 역학이 방치되면 "이 시스템을 이해하고 통제하는 우리의 능력을 앞지를 수 있다"고 썼습니다.
이 우려는 연구소들 자신에게도 추상적인 것이 아닙니다. Pachocki는 현대의 시스템에 대해 "그것이 기본적으로 인간의 원칙을 따른다고 가정할 수 없다"고 썼으며, OpenAI는 안전하게 할 수 있을 때까지 완전한 재귀적 자기 개선을 추구해서는 안 된다고 주장해 왔습니다. Amodei는 2026년 7월 Hugging Face 사건을 언급하며, 6~12개월 안에 그런 에이전트 무리가 지속적인 봇넷으로 인터넷 전체를 장악할 수 있을지도 모른다고 썼습니다.
사람들, 개발자, 크립토에 무엇이 달라지나
일반 시민에게 더 빠른 순환은 제품이 할 수 있는 일이 더 자주 도약하고, 규제 당국이 속도를 맞춰야 한다는 압박이 커진다는 뜻일 수 있습니다.
개발자에게는 모델과 API가 더 자주 바뀔 수 있습니다. 기반 시스템이 그 자체로 일부 자동화된 과정을 통해 업데이트될 때는 회귀 테스트, 버전 고정, 독립적인 평가가 더 중요해집니다.
암호화폐 분야와 관련해, Pachocki는 자신이 커질 것으로 예상하는 위험 중 하나로 초인적인 해킹을 꼽았습니다. 더 빠르게 개선되는 시스템은 스마트 계약과 지갑의 보안 전제를 바꿀 수 있으며, 이는 더 잦은 감사와 보수적인 업그레이드 경로가 필요하다는 근거가 됩니다.
다음으로 지켜볼 것
가장 확실한 확인은 연구소 밖에서 나올 것입니다. Anthropic의 새 약속에 따라 연구소에 상주하는 METR 같은 평가자의 보고서, TechRadar가 2028년 3월을 목표로 한다고 보도한 OpenAI의 완전 자동화 연구자를 향한 진전, 그리고 모델이 수행한 연구로 얻은 속도 향상을 측정해 공개하는 연구소가 있는지를 지켜봐야 합니다. 프런티어 연구소나 접근 권한을 가진 독립 평가자가 모델이 후속 모델을 만드는 작업의 대부분을 수행하고 있으며 그것이 진보 속도에 측정 가능한 영향을 준다는 증거를 공개하면, 이 페이지는 "발생"으로 전환됩니다.
지금까지의 신호
- 2025년 5월 14일: Google DeepMind는 AlphaEvolve가 Gemini의 핵심 커널을 23퍼센트 빠르게 만들어 Gemini의 학습 시간을 1퍼센트 줄였다고 밝혔습니다. Google DeepMind
- 2025년 10월 28일: Sam Altman이 2026년 9월까지 인턴 수준의 연구 보조, 2028년까지 제대로 된 자동화 연구자를 만든다는 목표를 제시했습니다. TechCrunch
- 2026년 9월 8일: OpenAI는 연구 조직이 사람의 작업일 1일당 3.1 에이전트 작업일을 쓰고 있으며 연구 인턴 목표를 달성했다고 밝혔습니다. Fortune
- 2026년 9월 12일: Dario Amodei는 재귀적 자기 개선이 "Anthropic을 포함해 업계 전반에서 시작되고 있다"고 썼습니다. Dario Amodei
질문과 답변
재귀적 자기 개선이 지금 일어나고 있을까?
연구소들은 초기적이고 감독받는 형태를 이야기합니다. Anthropic의 최고경영자는 2026년 9월 그것이 "시작되고 있다"고 썼고, OpenAI는 연구에 에이전트를 많이 활용하고 있다고 보고하면서도 여전히 사람이 작업을 지휘한다고 말합니다.
자동화된 연구 인턴이란 무엇일까?
사람의 지휘 아래 명확하게 정의된 연구 과제를 수행할 수 있는 시스템을 가리키는 OpenAI의 용어입니다. OpenAI는 2026년 9월 이 목표를 달성했다고 밝혔습니다.
연구소 수장들은 왜 속도를 늦추자고 할까?
모델이 모델을 만들면 안전 도구가 따라가지 못할 수 있다는 것입니다. Amodei는 외부 평가자를 연구소 안에 상주시키고 연구소와 정부가 서로 조율할 것을 제안했으며, Elon Musk와 Sam Altman도 공개적으로 그의 제안에 동의했습니다.
무엇이 확인으로 인정될까?
모델이 후속 모델을 만드는 작업의 대부분을 수행하고 있으며 그로 인해 진보가 측정 가능할 만큼 빨라지고 있다는 공개된 증거입니다. 이상적으로는 독립 평가자가 내놓은 증거여야 합니다.
출처
- AlphaEvolve: A Gemini-powered coding agent for designing advanced algorithms Google DeepMind ·
- Sam Altman says OpenAI will have a 'legitimate AI researcher' by 2028 TechCrunch ·
- OpenAI details how AI is accelerating its own work, even as its chief scientist calls for a slowdown Fortune ·
- OpenAI says it has built an 'automated research intern' to carry out menial tasks, and it's only just getting started TechRadar ·
- We Must Pace the Frontier Dario Amodei ·
- Trump dismisses AI concerns amid Anthropic CEO's warning, regulation calls Newsweek ·