new7시간 전· 1 sources

gzip도 언어 모델이 될 수 있을까?

Why it matters

<ul> <li><strong>GziPT</strong>는 신경망이나 학습된 매개변수 없이, 코퍼스와 프롬프트 뒤에 붙였을 때 가장 잘 압축되는 바이트열을 찾아 텍스트를 생성함</li> <li>기반 원리는 <strong>압축과 예측의 동등성</strong>임. 압축기가 예상하는 데이터일수록 적은 비트로 표현되므로, 압축 결과의 길이를 후속 텍스트의...</...

1
Sources
+1
24h
Growth
1d
Active

Sources

Related Issues