Czym są mikroserwisy NVIDIA NIM i szablony AI? Wkraczamy w nową erę

12 godzin temu

Przy okazji premiery kart graficznych NVIDIA GeForce RTX serii 50, jaka miała miejsce podczas targów CES 2025 w Las Vegas, zaprezentowano także garść nowości związanych z tym sprzętem. Pisaliśmy już o przełomowej technice DLSS 4, a dziś skupimy się na innej technologii powiązanej z wykorzystaniem sztucznej inteligencji. Mowa o mikroserwisach NVIDIA NIM oraz szablonach AI (NVIDIA Blueprints) – czym są? Wyjaśniamy.

Co to jest NVIDIA NIM i czym są szablony AI?

Popularny producent elektroniki użytkowej zapowiedział zupełnie nową erę sztucznej inteligencji w bezpiecznym ujęciu. Bezpiecznym, bowiem uruchamianej na lokalnych komputerach, bez konieczności łączenia się z siecią. W ramach cyklu RTX AI Garage podsumowano w tym tygodniu nowinki z CES i w przystępny sposób wytłumaczono, czego się po nich spodziewać.

Mikroserwisy NVIDIA NIM to nic innego jak zoptymalizowane i gotowe do lokalnego użycia modele dla generatywnej sztucznej inteligencji. Modele te są uprzednio przeszkolone i gotowe do zintegrowania w wybranych aplikacjach. Działają one z AI Blueprints (szablonami AI), czyli instrukcjami ułatwiającymi tworzenie aplikacji opartych na AI, w tym cyfrowych postaci i generatorów podcastów. Można za ich pomocą przekształcać na przykład treść plików PDF na treści audio. dzięki sztucznej inteligencji już teraz da się łatwo generować zdjęcia i robić wiele innych rzeczy, co wyjaśnialiśmy Wam na naszym materiale stworzonym wspólnie z NVIDIA.

Po NVIDIA NIM i szablony AI sięgną użytkownicy komputerów stacjonarnych i stacji roboczych, dla których praca przy ich wykorzystaniu ma być teraz jeszcze łatwiejsza.

Karty graficzne GeForce serii RTX 50 wprowadzają optymalizację FP4, zapewniając przełomową wydajność, przez co generatywna AI staje się jeszcze bardziej dostępna. Przykładowo, model FLUX-1 [dev] korzystając z FP4 wymaga mniej niż 10 GB pamięci VRAM, umożliwiając większą kompatybilność i szybsze rezultaty, co pozwala na generowanie obrazu w zaledwie 5 sekund na karcie graficznej GeForce RTX 5090

– chwali się producent.

Kiedy i na jakim sprzęcie uruchomimy opisywane tu rozwiązania?

NVIDIA NIM wraz z AI Blueprints będą dostępne już w przyszłym miesiącu

Jakie karty graficzne wspierają NVIDIA NIM? Początkowo będą to układy GeForce RTX serii 50, GeForce RTX 4090 i 4080 oraz profesjonalne karty NVIDIA RTX 6000 i 5000. Lokalne wykorzystanie SI wymaga sporej mocy obliczeniowej. Producent w przyszłości ma udostępnić rozwiązanie także na kolejne układy graficzne.

O wszystkich nowościach NVIDIA zaprezentowanych na CES 2025 można przeczytać również na oficjalnej stronie producenta, pod tym adresem.

Na DLSS 4 i wydajność RTX 5070 warto poświęcić osobny wpis. Oto on

Źródło: NVIDIA, mat. własny

CES 2025karty graficzneNVIDIANVIDIA GeForce RTX 5000nvidia nim
Idź do oryginalnego materiału