Claude의 ‘워터마크’가 글쓰기를 왜곡하는 방식

- Anthropic은 EU 규정 준수를 위해 전 세계 Claude 모델이 생성하는 200토큰 초과 텍스트에 워터마크를 적용할 예정이며, 보이지 않는 문자가 아니라 비밀 키로 단어 선택 확률을 조정하는 방식임 - 다음 토큰 후보를 동적으로 ‘green’과 ‘red’로 나누고 green 후보를 조금 더 자주 선택해 통계적 흔적을 남기므로, 모델이 판단한 최적...