Groq chce zwiększyć pojemność pamięci LPU. W grę wchodzi 3D Stacked DRAM z połączeniami TSV

Groq zbudował swoją pozycję na architekturze, w której pamięć SRAM znajduje się bezpośrednio w układzie i zapewnia bardzo wysoką przepustowość oraz przewidywalne opóźnienia. NVIDIA zawarła z firmą umowę licencyjną, której wartość media szacowały na około 20 mld dolarów, a akceleratory Groq 3 LPX stały się elementem platformy Vera Rubin. W kolejnej generacji układów może pojawić się jednak pamięć DRAM ułożona w stosach 3D.