Chiński producent procesorów graficznych Moore Threads ogłosił znaczącą modernizację swojego serwera centrum danych KUAE. Firma ma teraz możliwość połączenia do 10 000 procesorów graficznych w jednym klastrze, co oznacza ogromny skok w jej możliwościach skalowania w celu wykorzystania sztucznej inteligencji i aplikacji obliczeniowych o wysokiej wydajności. Ulepszony serwer KUAE zawiera osiem procesorów graficznych MTT S4000, wykorzystujących zastrzeżoną technologię połączeń MTLink firmy Moore Threads. Te procesory graficzne, oparte na architekturze MUSA, każdy z nich ma 128 rdzeni tensorowych i 48 GB pamięci GDDR6, zapewniając przepustowość 768 GB/s. Podczas gdy pełne parametry wydajności klastra 10 000 procesorów graficznych pozostają nieujawnione, sama skala 1 280 000 rdzeni tensorowych sugeruje przyzwoity potencjał obliczeniowy. Procesory graficzne Moore Threads w tej chwili pozostają w tyle za ofertami procesorów graficznych firmy NVIDIA pod względem wydajności. Firma twierdzi jednak, iż jej MTT S4000 pozostaje konkurencyjny w stosunku do niektórych modeli NVIDIA, szczególnie w przypadku zadań związanych z trenowaniem dużych modeli językowych i wnioskowaniem.
Chińska firma stoi przed poważnymi wyzwaniami ze względu na umieszczenie jej na liście podmiotów Departamentu Handlu USA, co ogranicza dostęp do zaawansowanych procesów produkcyjnych. Pomimo tych przeszkód firma nawiązała partnerstwa z głównymi chińskimi państwowymi operatorami telekomunikacyjnymi i firmami technologicznymi, koncentrując się na rozwijaniu nowych projektów klastrów obliczeniowych. Ostatnia runda finansowania, w której zebrano około 343,7 mln USD, pomoże ambitnym planom ekspansji Moore Threads. Jednak ograniczony dostęp do najnowocześniejszych technologii wytwarzania półprzewodników może ograniczyć przyszły wzrost firmy. Niemniej jednak stworzenie infrastruktury serwerów skalowalnych z maksymalnie 10 000 procesorów graficznych ma najważniejsze znaczenie dla szkolenia LLM i wnioskowania, zwłaszcza iż chińskie laboratoria AI doganiają laboratoria zachodnie pod względem wydajności swoich modeli AI.
Source link
