ended8월 14일· 1 sources
GPT-5.6 Sol을 초당 750토큰으로 가속하는 Ultrafast Mode
Why it matters
- Cerebras와 OpenAI가 OpenAI API의 새 서비스 계층인 Ultrafast Mode를 일부 고객에게 제한 공개했으며, GPT-5.6 Sol에서 품질 저하 없이 초당 최대 750개 출력 토큰을 제공함 - 웨이퍼 크기 칩마다 44GB SRAM을 탑재해 모델 가중치의 이동 병목을 줄이고, 여러 웨이퍼에 배치된 모델 계층으로 토큰을 연속 전달함 ...
1
Sources
+0
24h
—
Growth
38d
Active