new7시간 전· 1 sources
gzip도 언어 모델이 될 수 있을까?
Why it matters
<ul> <li><strong>GziPT</strong>는 신경망이나 학습된 매개변수 없이, 코퍼스와 프롬프트 뒤에 붙였을 때 가장 잘 압축되는 바이트열을 찾아 텍스트를 생성함</li> <li>기반 원리는 <strong>압축과 예측의 동등성</strong>임. 압축기가 예상하는 데이터일수록 적은 비트로 표현되므로, 압축 결과의 길이를 후속 텍스트의...</...
1
Sources
+1
24h
—
Growth
1d
Active