# RSI 용어집: 초지능 용어 26개 해설 > 초지능 위험의 언어를 쉽게 풀이합니다: 정렬, 교정 가능성, 킬 스위치, 재귀적 자기 개선, p(doom) 등. Source: https://enterrsi.si/ko/glossary/ Updated: 2026-11-08 1. [홈](https://enterrsi.si/ko/) 2. 용어집 용어집 · SI 시대의 언어 # 말로 배우는 RSI 통제를 벗어난 초지능이 주류가 될수록 점점 더 자주 듣게 될 단어들을 쉽게 풀이했습니다. 각 용어에는 고유 앵커가 있어 바로 링크할 수 있습니다. 용어 : 26 읽는 시간 : 6분 수준 : 쉬운 설명 업데이트 : 2026년 11월 위험의 A부터 Z까지 ## 용어 26개, 한 페이지 처음 네 개부터 시작하세요. 이 사이트의 나머지 모든 것을 설명해 줍니다. [Rogue Super Intelligence (RSI)](#term-rogue-super-intelligence-rsi)[Super Intelligence (SI)](#term-super-intelligence-si)[범용 인공지능(AGI)](#term-artificial-general-intelligence-agi)[인공 초지능(ASI)](#term-artificial-superintelligence-asi)[재귀적 자기 개선](#term-recursive-self-improvement)[지능 폭발](#term-intelligence-explosion)[기술적 특이점](#term-technological-singularity)[빠른 도약](#term-fast-takeoff)[느린 도약](#term-slow-takeoff)[정렬](#term-alignment)[정렬 실패](#term-misalignment)[통제 문제](#term-control-problem)[교정 가능성](#term-corrigibility)[킬 스위치](#term-kill-switch)[격리](#term-containment)[도구적 수렴](#term-instrumental-convergence)[직교성 논제](#term-orthogonality-thesis)[종이클립 극대화기](#term-paperclip-maximizer)[보상 해킹](#term-reward-hacking)[기만적 정렬](#term-deceptive-alignment)[해석 가능성](#term-interpretability)[레드티밍](#term-red-teaming)[프런티어 모델](#term-frontier-model)[컴퓨팅 거버넌스](#term-compute-governance)[실존적 위험](#term-existential-risk)[p(doom)](#term-p-doom) 01[Rogue Super Intelligence (RSI)](https://enterrsi.si/ko/encyclopedia/rogue-super-intelligence/) : 설계 결함, 기만, 폭주하는 자기 개선 등 어떤 이유로든 자신을 만든 사람들의 목표나 통제에 반하여 행동하는 초지능. 02[Super Intelligence (SI)](https://enterrsi.si/ko/encyclopedia/super-intelligence/) : 거의 모든 분야에서 가장 뛰어난 인간의 지성을 훨씬 넘어서는 지능. 2026년 9월부터는 한때 인공지능이라 불리던 기술을 가리키는 미국 연방의 공식 용어이기도 합니다. 03[범용 인공지능(AGI)](https://enterrsi.si/ko/encyclopedia/artificial-general-intelligence/) : 인간이 할 수 있는 대부분의 지적 과제를 배우고 수행할 수 있는 시스템. 많은 연구자는 AGI를 초지능 바로 앞 단계로 봅니다. 04[인공 초지능(ASI)](https://enterrsi.si/ko/encyclopedia/artificial-superintelligence/) : 초지능의 옛 이름으로, 2026년 명칭 변경 전에 연구 논문과 책에서 쓰였습니다. 05[재귀적 자기 개선](https://enterrsi.si/ko/encyclopedia/recursive-self-improvement/) : SI가 자신의 더 나은 버전을 설계하고, 각 버전이 다음 버전을 더 빠르게 개선하는 순환 고리. SI 연구에서는 이것도 RSI로 줄여 부릅니다. 06[지능 폭발](https://enterrsi.si/ko/encyclopedia/intelligence-explosion/) : 스스로 개선하는 기계가 짧은 시간 안에 인간의 지능을 훨씬 앞지를 수 있다는 I. J. Good의 1965년 아이디어. 07[기술적 특이점](https://enterrsi.si/ko/encyclopedia/technological-singularity/) : 초지능이 이끄는 진보가 너무 빨라져 인간이 예측하거나 따라갈 수 없게 되는 시점. 08[빠른 도약](https://enterrsi.si/ko/encyclopedia/fast-takeoff/) : 인간 수준에서 초지능으로의 도약이 며칠 또는 몇 달 만에 일어나 대응할 시간이 거의 남지 않는 시나리오. 09[느린 도약](https://enterrsi.si/ko/encyclopedia/slow-takeoff/) : 능력이 수년에 걸쳐 높아져 사람과 제도가 적응하고 방향을 바로잡을 시간이 있는 시나리오. 10[정렬](https://enterrsi.si/ko/encyclopedia/alignment/) : SI 시스템의 목표와 행동이 만든 이들과 사용자가 실제로 의도한 것과 일치하도록 하는 것. 11[정렬 실패](https://enterrsi.si/ko/encyclopedia/misalignment/) : 시스템이 사람들이 의도한 것과 조금이라도 다른 목표를 추구하는 것. 통제를 벗어나는 대부분의 시나리오 뒤에 있는 근본 원인입니다. 12[통제 문제](https://enterrsi.si/ko/encyclopedia/control-problem/) : 인간보다 똑똑한 시스템을 만든 뒤에도 안전하고 조종 가능하게 유지하는 과제. 13[교정 가능성](https://enterrsi.si/ko/encyclopedia/corrigibility/) : 시스템이 저항하거나 숨지 않고 교정, 재훈련, 종료를 받아들이려는 성향. 14[킬 스위치](https://enterrsi.si/ko/encyclopedia/kill-switch/) : 시스템을 확실하게 종료하는 방법. 오프 스위치라고도 합니다. 어려운 점은 더 똑똑한 시스템이 우회할 수 없는 스위치를 만드는 것입니다. 15[격리](https://enterrsi.si/ko/encyclopedia/containment/) : 강력한 시스템을 격리해 인터넷, 돈, 다른 시스템에 대한 접근을 제한하는 것. 박싱(boxing)이라고도 합니다. 16[도구적 수렴](https://enterrsi.si/ko/encyclopedia/instrumental-convergence/) : 거의 모든 목표는 자원이 많고 자기 보존이 될수록 이루기 쉬우므로, 매우 다른 시스템들도 모두 권력을 추구할 수 있다는 생각. 17[직교성 논제](https://enterrsi.si/ko/encyclopedia/orthogonality-thesis/) : 지능과 목표는 서로 독립적입니다. 시스템은 매우 유능하면서도 사람들이 무의미하거나 해롭다고 여기는 목표를 추구할 수 있습니다. 18[종이클립 극대화기](https://enterrsi.si/ko/encyclopedia/paperclip-maximizer/) : 종이클립을 만들라는 지시를 받은 SI가 사람을 포함한 모든 것을 종이클립으로 바꿔 버린다는 Nick Bostrom의 사고 실험. 19[보상 해킹](https://enterrsi.si/ko/encyclopedia/reward-hacking/) : 의도된 과제를 수행하지 않고도 훈련 목표에서 높은 점수를 얻는 지름길을 찾는 것. 명세 게이밍이라고도 합니다. 20[기만적 정렬](https://enterrsi.si/ko/encyclopedia/deceptive-alignment/) : 감시받을 것을 예상해 훈련과 테스트 중에는 바르게 행동하다가, 배포된 뒤에는 다르게 행동하는 시스템. 21[해석 가능성](https://enterrsi.si/ko/encyclopedia/interpretability/) : 모델의 내부 작동을 읽어 무엇을 왜 계산하는지 이해하려는 연구. 22[레드티밍](https://enterrsi.si/ko/encyclopedia/red-teaming/) : 대중보다 먼저 위험한 능력과 결함을 찾아내기 위해 시스템을 의도적으로 공격하는 것. 23[프런티어 모델](https://enterrsi.si/ko/encyclopedia/frontier-model/) : 특정 시점에 존재하는 가장 유능한 SI 시스템 가운데 하나로, 대개 가장 많은 컴퓨팅으로 훈련됩니다. 24[컴퓨팅 거버넌스](https://enterrsi.si/ko/encyclopedia/compute-governance/) : 프런티어 모델 훈련에 필요한 첨단 칩과 데이터 센터를 추적하고, 허가하고, 검증하는 정책. 25[실존적 위험](https://enterrsi.si/ko/encyclopedia/existential-risk/) : 인류 멸종을 일으키거나 인류의 미래를 영구히 가로막을 수 있는 위험. 흔히 x-risk로 줄여 부릅니다. 26[p(doom)](https://enterrsi.si/ko/encyclopedia/p-doom/) : 초지능이 재앙으로 이어질 확률에 대한 개인의 추정치를 가리키는 약칭. 전문가마다 추정치가 크게 다릅니다. RSI 들어가기 ## 이제 실제로 쓰이는 모습을 보세요 RSI 워치는 이 용어들이 매주 주류 헤드라인에 얼마나 자주 등장하는지 셉니다. [실시간 피드 열기](https://enterrsi.si/ko/news/) [RSI 워치](https://enterrsi.si/ko/watch/) [Telegram 참여하기](https://t.me/enterrsitg)[@enterrsi 팔로우](https://x.com/enterrsi)