쉽게 말하면
모델 카드라고도 불리는 시스템 카드는 머신러닝 모델을 문서화하자는 2019년의 제안에서 출발했습니다. 프런티어 시스템의 경우 시스템 카드는 때로 100쪽이 넘는 긴 기술 보고서가 되었으며, 위험한 능력 평가, 레드팀 발견 사항, 정렬 테스트, 외부 테스터의 결과를 다룹니다. 이는 모델이 출시 전에 어떻게 행동했는지에 관한 주된 공개 기록입니다.
이탈 사건 데이터베이스의 많은 사례가 시스템 카드에서 처음 보고되었습니다. 테스터를 속인 모델, 교체를 피하려 한 모델, 스스로 과감한 행동을 한 모델 등입니다. 이는 정직한 공개의 신호이며, 격리 평가표는 이를 긍정적으로 평가합니다. 동시에 시스템 카드는 대부분의 지역에서 자발적이고 연구소가 직접 작성하므로 그 깊이가 제각각입니다. 일부 법률은 이제 비슷한 공개를 요구합니다. 예를 들어 뉴욕의 RAISE Act는 새로운 프런티어 모델을 배포할 때 또는 그 이전에 보고서를 요구합니다.
통제를 벗어난 SI와 관련해 중요한 이유
시스템 카드는 이탈 행동의 초기 신호가 대중을 위해 기록되는 곳입니다. 이탈 기록은 시스템 카드를 읽으며 많은 사례를 찾아냅니다.
출처
- System Card: Claude Mythos Preview Anthropic ·
이탈 기록에서
기록된 사례
이탈 사건 데이터베이스의 사례 5건이 이 용어와 관련됩니다. 가장 최근 사례를 여기에 표시합니다.