NVIDIA znalazła zastosowanie dla Twojego starego komputera. Będzie zasilać sztuczną inteligencję

Dynamiczny rozwój agentów sztucznej inteligencji sprawił, iż pojedyncze zapytanie użytkownika potrafi wygenerować w tle dziesiątki niezależnych operacji. Gdy główny asystent dzieli złożone zadanie programistyczne czy analityczne na mniejsze podzadania, domowa karta graficzna natychmiast wpada w zator. NVIDIA zaprezentowała rozwiązanie tego problemu – darmowe narzędzie NVIDIA PAIR (Personal AI Router). Funkcjonuje oo jako wirtualny router wnioskowania (inference proxy), który automatycznie wykrywa sprzęt w domowej sieci LAN i rozdziela między niego obciążenie generowane przez lokalne modele językowe.

Jak działa NVIDIA PAIR?

Największą zaletą nowej technologii jest jej całkowita przezroczystość dla oprogramowania. NVIDIA PAIR nie wymaga tworzenia nowych interfejsów API ani modyfikowania istniejących agentów AI. Narzędzie przechwytuje zapytania wysyłane do popularnych silników lokalnych. Po ich przeanalizowaniu w czasie rzeczywistym decyduje, która jednostka w domu ma wolne zasoby, aby zrealizować dany proces.

Co ważne, PAIR nie rozbija pojedynczego zapytania na kilka kart jednocześnie i nie łączy pamięci VRAM w jeden wirtualny akcelerator. Zamiast tego rozdziela równoległe zadania od różnych podagentów na osobne komputery. Dzięki temu komputer stacjonarny może wciąż służyć do grania lub montażu wideo. W tym samym czasie leżący obok laptop z układem RTX czy stacja robocza przejmują część obliczeń AI.

Czuwający nad procesem system na bieżąco analizuje stan całej domowej sieci i podłączonych urządzeń. Narzędzie weryfikuje dostępność komputerów, sprawdza obecność wymaganych modeli językowych oraz mierzy aktualne obciążenie kart graficznych, reagując np. na uruchomienie wymagającej gry. Całość komunikacji jest przy tym szyfrowana protokołem mTLS. To gwarantuje pełną prywatność i sprawia, iż nic nie opuszcza lokalnej sieci.

Nawet dwukrotny skok wydajności w wielozadaniowych procesach

Różnicę widać gołym okiem przy bardziej skomplikowanych scenariuszach. W teście demonstracyjnym z użyciem systemu Hermes (przetwarzającego skrzynkę odbiorczą dzięki pięciu wyspecjalizowanych subagentów oraz modelu Qwen 3.6 35B), praca wykonywana na jednym laptopie zajmowała średnio 18 minut. Po spięciu w domową sieć trzech urządzeń (laptopa, stacji DGX Spark oraz komputera z kartą RTX 5090) czas wykonania dokładnie tego samego zadania spadł do 8 minut i 48 sekund.

Wersja beta systemu NVIDIA PAIR została udostępniona jako projekt open-source dla systemów Windows, macOS oraz Linux. Narzędzie współpracuje z kartami z rodziny NVIDIA GeForce RTX 20 oraz nowszymi, układami RTX PRO, urządzeniami z serii DGX Spark, a także z komputerami Apple z układami M4 i nowszymi.

Źródło tekstu i zdjęcia otwierającego: NVIDIA