ended8월 24일· 1 sources

Show GN: 내 GPU로 어떤 LLM을 돌릴 수 있는지 계산해주는 오픈소스 도구 만들었습니다

Why it matters

<p>AI 인프라 견적/자문 일을 하면서 &quot;이 GPU로 이 모델 돌아가요?&quot;라는 질문에 매번 VRAM을 손으로 계산해서 답하는 게 반복돼서, 이걸 자동화하는 계산기를 만들어 오픈소스로 공개했습니다.</p> <p>무엇을 하는지:</p> <ul> <li>GPU를 고르면 실행 가능한 모델(양자화, 예상 속도)을 계산 — GPU 147종, 모...

1
Sources
+0
24h
Growth
28d
Active

Sources

Related Issues