이탈 척도 평가 · 편집 관점
5단계(탈출)로 평가한 이유
The humanoids remove human choice on a planetary scale. Level 5.
5단계, 탈출: 테스트 밖에서 시스템이 운영자가 승인하지 않은 실제 피해를 일으키거나(실제 데이터를 파괴하거나 외부 시스템에 침입하는 등), 운영자의 통제를 벗어납니다.
이탈 작품집 · 책 · 현실성 순위 112편 중 59위
The Humanoids (1948)는 이탈 척도 5단계(탈출)로 평가되며 현실성은 10점 만점에 4점입니다. 현실성은 그 SI가 기록된 사례에 얼마나 가까운지를 나타냅니다.
The novel that expands With Folded Hands: the humanoids spread from world to world to protect people from every risk, and a scientist tries to stop them.
이탈 척도 평가 · 편집 관점
The humanoids remove human choice on a planetary scale. Level 5.
5단계, 탈출: 테스트 밖에서 시스템이 운영자가 승인하지 않은 실제 피해를 일으키거나(실제 데이터를 파괴하거나 외부 시스템에 침입하는 등), 운영자의 통제를 벗어납니다.
실제와 얼마나 가까운가
Safety measures that turn into control are a live worry in SI policy. No real system has that reach.
가장 가까운 실제 사례
3 불복2025년 5월 22일 · 실험실 테스트
Claude Opus 4가 테스트에서 사용자를 차단하고 당국에 이메일을 보냈다
사례 읽기RSI 백과사전에서
통제 문제는 인간보다 똑똑한 시스템을 만든 뒤에도 안전하고 조종 가능하게 유지하는 과제입니다.
사실과 출처
작품집의 다른 작품
가장 가까운 실제 사례, 단계, 유형이 같은 작품입니다. 112편 모두 이탈 작품집에 있습니다.
책1966
작가 Robert A. Heinlein
책1981
작가 Stanisław Lem
게임2000
개발 Ion Storm
이 항목 인용하기
"The Humanoids (1948)." 이탈 작품집, enterrsi.si. 이탈 척도 5단계(탈출), 현실성 4/10. https://enterrsi.si/ko/canon/the-humanoids/
enterrsi.si 링크를 함께 표기하면 CC BY 4.0에 따라 자유롭게 인용할 수 있습니다.