ended7월 10일· 1 sources

Show HN: 느린 컴퓨터에서 GLM 5.2 실행하기

Why it matters

Show HN: 느린 컴퓨터에서 GLM 5.2 실행하기 (github.com/JustVugg)- colibrì는 GLM-5.2 744B MoE를 소비자용 머신의 약 25GB RAM에서 실행하도록 만든 순수 C 엔진이며, 라우팅된 expert를 디스크에서 스트리밍해 GPU 없이 동작함 - 핵심 구조는 dense 부분 약 17B 파라미터를 int4로 RAM에 ...

1
Sources
+0
24h
Growth
10d
Active

Sources

Related Issues