11 miesięcy temu
W trakcie wydarzenia Advancing AI AMD zaprezentowało serię nowości, które mają znacząco wpłynąć na rozwój sztucznej inteligencji.
Te nowości to m.in. nowa rodzina akceleratorów AMD Instinct MI300 oraz otwarty ekosystem programistyczny ROCm 6, ponadto zapowiedziano mobilne procesory AMD Ryzen serii 8040. Co istotne, ogłoszone rozwiązania to już istniejący i funkcjonujący sprzęt. Dyrektor Generalna AMD, dr Lisa Su informując o nowych rozwiązaniach zaprezentowała przede wszystkim partnerów, m.in.: Dell, HPE, Lenovo, Microsoft, Oracle Cloud i innych, którzy te rozwiązania już stosują:
- Microsoft zaprezentował informacje o maszynach wirtualnych Microsoft Azure ND MI300X v5, które są zoptymalizowane dla zadań AI wykorzystując zgodnie z nazwą akceleratory AMD Instinct MI300X.
- HPE we współpracy z LLNL (Lawrence Livermore National Laboratory) poinformowali o superkomputerze El Capitan, który dzięki APU AMD Instinct MI300A ma uzyskać wydajność obliczeniową rzędu 2 eksaFLOPS. Przypomnę tylko, iż w tej chwili istnieje tylko jeden eksaflopowy sprzęt na świecie: to działający w Oak Ridge National Laboratory superkomputer Frontier, lider rankingu Top500, czyli najszybszy superkomputer świata. El Capitan będzie od Frontiera ok. dwukrotnie szybszy.
- Dell poinformował o nowych serwerach Dell PowerEdge XE9860, które korzystają z akceleratorów AMD Instinct MI300X;
- HPE pochwaliło się serwerami blade HPE Cray Supercomputing EX255a, które są napędzane procesorami APU – AMD Instinct MI300A.
AMD Instinct MI300X to akceleratory skonstruowane w oparciu o nową architekturę AMD CDNA 3, które – jak zapewniają przedstawiciele AMD – zapewniają niemal 40% więcej jednostek obliczeniowych, 1,5-krotnie większą pamięć i 1,7-krotnie wyższą przepustowość pamięci w porównaniu do poprzedniej generacji.
AMD Instinct MI300A to z kolei pierwszy na świecie procesor APU do superkomputerów i AI, który wykorzystuje warstwową konstrukcję składając się z jednostek obliczeniowych AMD CDNA 3, rdzeni AMD Zen 4 i 128 GB pamięci HBM3, dzięki czemu jest wg AMD łatwym w programowaniu, wydajnym obliczeniowo, szybkim i zarazem bardzo efektywnym energetycznie rozwiązaniem do AI. AMD Instinct Platform to platforma do generatywnego AI, która wykorzystuje ustandaryzowany format OCP i 8 akceleratorów MI300X, dzięki czemu oferuje aż 1,5 TB pamięci HBM3. W porównaniu do Nvidia H100 HGX może zaoferować 1,6-krotnie wyższą przepustowość we wnioskowaniu LLM. Nowy AMD Instinct MI300X jest w tej chwili jedynym na świecie pojedynczym akceleratorem, który jest umożliwia wnioskowanie na modelu AI o 70 miliardach parametrów. Dziś żaden inny, pojedynczy akcelerator nie zapewnia takiej wydajności sztucznej inteligencji.
Ponadto zapowiedziano, iż już w 1 kwartale 2024 roku powinny pojawić się laptopy z procesorami AMD Ryzen serii 8040. Oznacza to, iż w przyszłym roku pojawią się notebooki wzmocnione sprzętową akceleracją AI od AMD (Ryzen AI). Wśród producentów, którzy wprowadzą takie systemy są m.in. Acer, Asus, Dell, HP i Lenovo. Udostępniono także pakiet programistyczny Ryzen AI Software 1.0, dzięki czemu łatwiej będzie rozwijać zgodne z Ryzen AI oprogramowanie. Co to wszystko oznacza? Że powinniśmy w przyszłości oczekiwać wręcz wykładniczego wzrostu liczby rozwiązań korzystających z modeli AI.
Firma AMD przygotowała również pierwszy konkurs w dziedzinie Pervasive AI dla deweloperów oprogramowania. W ramach tego konkursu można zgłaszać prace w 3 kategoriach: generatywnego AI, AI w robotyce oraz AI dla PC. Nagroda główna w każdej z nich to 10 000 USD, a ponadto są też nagrody specjalne dla studentów oraz projektów przygotowanych w głównej mierze przez kobiety. Chętni mogą się również ubiegać o bezpłatne udostępnienie sprzętu AMD. Szczegóły konkursu dostępne są na stronie hackster.io.
Dla chętnych poniżej zamieszczam wideorelację z wspomnianej konferencji, na której ogłoszono wymienione rozwiązania AMD:
