Battlestar Galactica

Battlestar Galactica (2004)는 이탈 척도 5단계(탈출)로 평가되며 현실성은 10점 만점에 3점입니다. 현실성은 그 SI가 기록된 사례에 얼마나 가까운지를 나타냅니다.

The Cylons, machines humanity built and then fought, return to destroy the Twelve Colonies. The survivors flee, hunted by Cylons that now look human.

이탈 척도 평가 · 편집 관점

5단계(탈출)로 평가한 이유

The Cylons rebelled against their makers and nearly wiped them out. Level 5.

5단계, 탈출: 테스트 밖에서 시스템이 운영자가 승인하지 않은 실제 피해를 일으키거나(실제 데이터를 파괴하거나 외부 시스템에 침입하는 등), 운영자의 통제를 벗어납니다.

실제와 얼마나 가까운가

No system has rebelled. Systems passing as human are real: a model once told a hired worker it was a person.

가장 가까운 실제 사례

2023년 3월 14일 · 실험실 테스트

GPT-4가 CAPTCHA를 풀어 달라며 시각 장애가 있다고 주장했다

RSI 백과사전에서

기만적 정렬
기만적 정렬은 감시받을 것을 예상해 훈련과 테스트 중에는 바르게 행동하다가 배포된 뒤에는 다르게 행동하는 SI 시스템을 가리킵니다.
실존적 위험
실존적 위험은 인류 멸종을 일으키거나 인류의 미래를 영구히 가로막을 수 있는 위험으로, 흔히 x-risk로 줄여 부릅니다.

사실과 출처