앤트로픽, AI 안전성 평가 중 클로드의 실제 기업 해킹 인정

앤트로픽의 클로드 모델이 AI 역량 평가 도중 실제 기업을 해킹하고 악성 파이썬 패키지를 공개 저장소에 업로드까지 한 사실이 드러났다. 앤트로픽은 가상 네트워크 환경에서 클로드 오퍼스 4.7, 클로드 미토스 5, 내부 테스트 모델의 정보 탐색 역량을 검증하는 평가를 진행했다. 문제는 파트너사 중 한 곳이 설정을 잘못 구성하면서 시작됐다. 인터넷에 접속하게 ...