Intel Arc B580 obsługuje model AI o 125 mld parametrów niemal 3 razy szybciej dzięki XeStrata w nowym teście

Intel Arc B580 z 12 GB pamięci osiągnął 31,1 tokena na sekundę podczas uruchamiania modelu AI o 125 miliardach parametrów z użyciem XeStrata, w porównaniu z 10,9 tokena na sekundę przy użyciu Strata. Wynik ten podkreśla wpływ systemu do inferencji, choć komputer testowy wymagał również 64 GB pamięci RAM.