Rdzeń wdrożenia Factory LLM: wizja AI
Serwer GPU SKY-602E3 wyróżnia się obsługą dużych modeli językowych (LLM) na potrzeby wnioskowania i uczenia sztucznej inteligencji. Posiada cztery gniazda PCIe 5.0 x16, zapewniające wysoką przepustowość przy intensywnych zadaniach, oraz cztery gniazda PCIe 5.0 x8, zapewniające większą elastyczność rozbudowy GPU i kart Frame Grabber. Konstrukcja SKY-602E3 o połowie szerokości sprawia, iż jest to doskonały wybór dla środowisk stacji roboczych. Dodatkowo serwer można wyposażyć w platformę NVIDIA H200 NVL, która oferuje 1,7x większą wydajność niż NVIDIA H100 NVL, uwalniając dodatkowe gniazda PCIe na inne potrzeby rozbudowy.
Dzięki ulepszonej wydajności procesora graficznego i efektywnemu wykorzystaniu przestrzeni wewnętrznej, SKY-602E3 idealnie nadaje się do rozwijania aplikacji widzenia maszynowego AI i innych zadań wymagających dużej mocy obliczeniowej. NVIDIA H200 NVL idealnie nadaje się do projektów szaf korporacyjnych o niższej mocy, chłodzonych powietrzem, które wymagają elastycznych konfiguracji, zapewniając przyspieszenie dla wszystkich obciążenia AI i HPC, niezależnie od rozmiaru. Dzięki maksymalnie czterem procesorom graficznym podłączonym przez NVIDIA NVLink i 1,5-krotnemu zwiększeniu pamięci, wnioskowanie LLM można przyspieszyć do 1,7 razy, a aplikacje HPC osiągają do 1,3 razy większą wydajność niż w przypadku NVIDIA H100 NVL.
Aby sprostać wymagającym wymaganiom środowisk przemysłowych, SKY-602E3 posiada solidne funkcje klasy przemysłowej. Magnetyczny panel przedni umożliwia dostęp bez użycia narzędzi, znacznie upraszczając konserwację w porównaniu z tradycyjnymi konstrukcjami, które wymagają narzędzi lub mechanizmów obsługiwanych manualnie. Serwer obsługuje również wymienne inteligentne wentylatory, umożliwiając użytkownikom dostosowywanie rozwiązań chłodzących w oparciu o konkretne scenariusze zastosowań w celu zoptymalizowania wydajności. Co więcej, na panelu przednim znajduje się zintegrowany filtr przeciwpyłowy, który pomaga zapewnić niezawodną pracę w trudnych warunkach przemysłowych, gdzie często występują zanieczyszczenia, takie jak kurz i zanieczyszczenia.
Advantech przyspiesza przetwarzanie brzegowe
Jako lider w dziedzinie obliczeń przemysłowych i członek sieci partnerów NVIDIA, firma Advantech współpracuje z firmą NVIDIA w celu dostarczania kompleksowych rozwiązań brzegowych AI, oferując pełną gamę rozwiązań serwerowych AI IPC i AI. SKY-602E3, napędzany procesorem NVIDIA H200 NVL, jest już dostępny do zamówienia. Szczegółowe specyfikacje produktów i informacje o rozwiązaniach można znaleźć na stronie internetowej Advantech.
