NVIDIA Blackwell 발표 후.... 우리가 아직도 더 빠르다는 Groq. NVIDIA에 혁신이 없다고 평가한 AI 클라우드 스타트업의 설계 반도체 LPU는 무엇이 다른가

NVIDIA GTC 2024 젠슨황 기조연설에서 공개된 Blackwell 기반 GPU B100, B200 그리고 GB200 NVIDIA 최초 칩렛 구조로 설계에 NVLINK 5 0, Swtiching과 NVL72 까지 여러모로 호응을 받고 있는데요 그럼에도 SRAM 기반으로 설계한, Groq의 LPU는 초당 500개 단어를 쏟아내는 어마무시한 결과를 냅니다 이에 Groq CEO이자 Google의 TPU를 설계했던 조너선 로스는 “아직 우리가 빠르다” 라는 말을 남기며 다음 세대 LPU 에 대한 이야기를 언급하였는데요 HBM을 쓰지 않고 SRAM을 채택하면서, 반도체 칩 자체를 팔기 보다는 클라우드 업체로서 경쟁력 돌파구를 찾는 Groq에 대해 다시 살펴보았습니다 #엔비디아 #Groq #LPU Written by Error Edited by 이진이 unrealtech2021@gmail com