ended8월 24일· 1 sources
Show GN: 내 GPU로 어떤 LLM을 돌릴 수 있는지 계산해주는 오픈소스 도구 만들었습니다
Why it matters
<p>AI 인프라 견적/자문 일을 하면서 "이 GPU로 이 모델 돌아가요?"라는 질문에 매번 VRAM을 손으로 계산해서 답하는 게 반복돼서, 이걸 자동화하는 계산기를 만들어 오픈소스로 공개했습니다.</p> <p>무엇을 하는지:</p> <ul> <li>GPU를 고르면 실행 가능한 모델(양자화, 예상 속도)을 계산 — GPU 147종, 모...
1
Sources
+0
24h
—
Growth
28d
Active