NVIDIA przygotowujące standard pamięci „SOCAMM” dla komputerów AI podobnych do cyfr projektowych

NVIDIA i jej partnerzy pamięci, SK Hynix, Samsung i Micron, przygotowują nowy współczynnik pamięci o nazwie System w module pamięci zaawansowanej chipów – SOCAMM. Ta technologia, dostosowując się do znanego teraz standardu modułu pamięci Camm, ma na celu wprowadzenie dodatkowej gęstości pamięci do systemów NVIDIA. Inspirację z cyfr projektu NVIDIA, został opracowany niezależnie przez Nvidia poza dowolnym oficjalnym konsorcjum pamięci, takim jak Jedec. Wykorzystując odłączoną konstrukcję modułu, SOCAMM zapewnia doskonałe specyfikacje w porównaniu z istniejącymi rozwiązaniami, zawierającymi 694 porty we/wy (w porównaniu z 644 LPCAMM i tradycyjnym DRAM 260), bezpośrednią integrację podłoża pamięci LPDDR5X i bardziej kompaktową formę.

Dla odniesienia, cyfry projektów prądu generacji korzysta z NVIDIA GB10 Grace Blackwell Superchip, który jest w stanie dostarczyć jeden Petaflop obliczeń FP4, w połączeniu z 128 GB pamięci LPDDR5X. Ta konfiguracja ogranicza rozmiar modeli AI, które działają lokalnie na urządzeniu, co powoduje, iż modele parametrów do 200 miliardów działają na jednym projekcie cyfr AI PC. Do modeli takich jak LLAMA 3.1 405B z 405 miliardami parametrów potrzebne są dwa cyfry projektowe. Najważniejsze, pojemność pamięci jest głównym czynnikiem ograniczającym; Dlatego NVIDIA poświęca swój czas na opracowanie standardu SOCAMM o dużej pamięci. Będąc zastępcą kompatybilnym z LPDDR5, może użyć tego samego kontrolera krzemowego IP tylko z modyfikowanym podłożem SOC w celu dopasowania do nowej pamięci. Ponieważ NVIDIA mówi się, iż w tym roku wchodzi na rynek komputerów konsumenckich, mogliśmy również zobaczyć wczesne wdrożenie produktów PC Consumer, ale głównym celem jest cyfry projektu nowej generacji.