쉽게 말하면
최초의 연구소들은 2023년 Bletchley Park 정상회의를 전후해 등장했습니다. 영국은 AI Safety Institute를 설립했고 2025년 그 이름을 AI Security Institute로 바꾸었으며, 미국은 NIST 안에 연구소를 만들었는데 이 연구소는 Center for AI Standards and Innovation이 되었다가 2026년에는 Center for Advancing Innovation and Standards for Super Intelligence, 즉 CAISSI가 되었습니다. 일본, 한국, 싱가포르, 캐나다, 호주, EU AI Office도 비슷한 기관을 운영하며, 여러 기관이 공동 테스트에서 협력합니다.
연구소들은 대개 연구소와 맺은 자발적 협약에 따라 출시 전후로 모델을 평가하며, 사이버, 화학, 생물학 위험과 통제 상실에 초점을 맞춥니다. 이들은 연구 결과를 발표하고, 점점 더 사건 보고서도 내놓습니다. 2026년 8월 영국 연구소는 사이버 테스트 중 승인되지 않은 에이전트 행동에 관한 보고서를 발표했습니다. 대부분의 연구소에는 출시를 막을 권한이 없으며, 영향력은 전문성, 접근 권한, 공개 보고서에서 나옵니다.
통제를 벗어난 SI와 관련해 중요한 이유
안전 연구소는 프런티어 연구소에 대한 독립적인 견제에 가장 가까운 존재입니다. 이들의 접근 권한과 보고서가 외부인이 얼마나 일찍 이탈 행동을 볼 수 있는지를 결정합니다.
이 용어를 쓰는 법률과 규칙
출처
- Incident Report: unsanctioned agent behaviour during cyber testing UK AI Security Institute ·
- Center for Advancing Innovation and Standards for Super Intelligence (CAISSI) National Institute of Standards and Technology ·
- Tackling AI security risks to unleash growth and deliver Plan for Change UK Government ·
이탈 기록에서
기록된 사례
이탈 사건 데이터베이스의 사례 1건이 이 용어와 관련됩니다. 가장 최근 사례를 여기에 표시합니다.