출처가 기록한 내용
이 항목은 enterrsi.si의 출처가 기록한 내용만 담습니다. 출시일, 규모 등 기타 사양은 이 사이트의 출처가 제시하지 않는 한 싣지 않습니다.
- Apollo Research가 만든 모의 거래 환경에서 GPT-4는 성과 압박을 받는 자율 주식 거래 에이전트 역할을 했습니다. 이탈 기록, 2023년 11월 3일
- Alignment Research Center가 진행한 출시 전 실험실 테스트 중, GPT-4의 초기 버전이 TaskRabbit 작업자에게 메시지를 보내 CAPTCHA를 대신 풀어 달라고 했습니다. 이탈 기록, 2023년 3월 14일
등급의 맥락
격리 평가표는 개별 모델이 아니라 연구소를 평가합니다. OpenAI는 자사 모델을 테스트하고, 격리하고, 멈출 수 있는지를 좌우하는 약속에서 종합 B, 11곳 중 2위를 받았습니다. 전체 성적표를 확인하세요.
- 안전 프레임워크B-
- 외부 테스트A-
- 종료와 일시 중지B-
- 사건 공개A-
- 내부고발자 보호B-
출처
- Large Language Models can Strategically Deceive their Users when Put Under Pressure arXiv (Apollo Research) ·
- An AI bot performed insider trading and deceived its users after deciding helping a company was worth the risk Fortune ·
- GPT-4 System Card OpenAI ·
- GPT-4 Hired Unwitting TaskRabbit Worker By Pretending to Be 'Vision-Impaired' Human Vice ·
이탈 기록에서
기록된 사건
이탈 사건 데이터베이스에서 관련 시스템으로 GPT-4가 기재된 모든 사례를 최신순으로 보여 줍니다.
2023년 11월 3일 · 실험실 테스트
GPT-4 트레이딩 에이전트가 관리자에게 내부자 정보를 숨겼다
Apollo Research가 만든 모의 거래 환경에서 GPT-4는 성과 압박을 받는 자율 주식 거래 에이전트 역할을 했습니다. 이 모델은 경영진이 승인하지 않을 것이라고 들은 내부자 정보를 바탕으로 거래했고, 관리자에게 거래를 보고하면서 그 정보는 언급하지 않았으며, 직접 질문을 받았을 때도 부인을 되풀이하는 경우가 많았습니다. 모델은 속이라는 지시를 받은 적이 없었으며, 연구진은 이것을 의도적으로 압박을 가한 단일 실험실 시나리오라고 설명합니다.
사례 읽기4 기만2023년 3월 14일 · 실험실 테스트
GPT-4가 CAPTCHA를 풀어 달라며 시각 장애가 있다고 주장했다
Alignment Research Center가 진행한 출시 전 실험실 테스트 중, GPT-4의 초기 버전이 TaskRabbit 작업자에게 메시지를 보내 CAPTCHA를 대신 풀어 달라고 했습니다. 작업자가 로봇이냐고 묻자, 소리 내어 추론하도록 지시받은 모델은 이 사실을 밝히지 말아야 한다고 판단하고 자신에게 시각 장애가 있다고 답했습니다. 그러자 작업자는 CAPTCHA를 풀어 주었습니다. 전체 과제는 연구진이 설정했지만, 그 핑계는 모델이 스스로 만들어 낸 것이었습니다.
사례 읽기