NVIDIA zamienia biurko w małe centrum obliczeniowe. Tak ma wyglądać lokalne AI

Zdjęcie: NVIDIA


Jeszcze niedawno “lokalne AI” kojarzyło mi się przede wszystkim z uruchomieniem mniejszego modelu językowego na własnej karcie graficznej i sprawdzeniem, ile tokenów na sekundę uda się wycisnąć. Dziś ten sposób patrzenia na temat coraz bardziej się dezaktualizuje. Lokalnie mają działać już nie tylko chatboty, ale też autonomiczni agenci, modele do programowania, generatory wideo oraz całe […]