1 miesiąc temu
Karty graficzne NVIDIA H100 były bohaterami kilku wpisów na naszej stronie. W sierpniu ubiegłego roku zasugerowano, iż NVIDIA sprzedaje je choćby z 1000-procentową przebitką. Z początkiem tego roku dowiedzieliśmy się, iż Meta kupiła 350 tysięcy takich kart, których ceny wahały się wtedy w granicach 30-40 tysięcy dolarów. Teraz Elon Musk ogłosił uruchomienie superkomputera Memphis Supercluster, wykorzystującego te właśnie urządzenia.
Superkomputer Memphis Supercluster już działa – Elon Musk podaje dane
Skoro wiecie już, iż pojedynczy układ NVIDIA H100 kosztuje 30-40 tysięcy dolarów, mam dla Was proste zadanie matematyczne. W powołanym właśnie do działania superkomputerze Memphis Supercluster, stworzonym z myślą o szkoleniu sztucznej inteligencji, działa 100 tysięcy chłodzonych cieczą kart graficznych NVIDIA H100. To, ile Elon Musk zapłacił realnie za te karty pozostaje tajemnicą. Tajemnicą nie jest natomiast to, iż jednostkowa cena urządzeń wykorzystanych w tej maszynie powoduje ugięcie się kolan.
Policzyliście? Cena rynkowa samych kart, przyjmując niższą cenę, to 3 miliardy dolarów, czyli ok. 12 miliardów złotych. Oczywiście na infrastrukturę superkomputera Elona Muska składa się większa ilość cennego sprzętu.
Nice work by @xAI team, @X team, @Nvidia & supporting companies getting Memphis Supercluster training started at ~4:20am local time.
With 100k liquid-cooled H100s on a single RDMA fabric, it’s the most powerful AI training cluster in the world!
Dla porównania, w Polsce w największym „labie” działa w tej chwili mniej niż 2000 kart NVIDIA H100.
Celem Elona Muska jest wyszkolenie „najpotężniejszej sztucznej inteligencji na świecie” do grudnia tego roku. Ma to umożliwić właśnie Memphis Supercluster.
Kto zainwestował lata temu w akcje NVIDIA, dziś jest bogaty…
…lub nie, o ile sprzedał je przedwcześnie. Fakty są jednak takie, iż NVIDIA zarabia gigantyczne pieniądze nie na sprzedaży konsumenckich kart graficznych, a takich specjalistycznych potworów jak NVIDIA H100.
Akcelerator obliczeniowy NVIDIA H100, oparty na mikroarchitekturze Hopper, jest przeznaczonym dla centrów danych odpowiednikiem architektury Ada Lovelace, znanej z kart graficznych GeForce RTX serii 4000. Układ GH100 w akceleratorze H100 to 14592 rdzeni CUDA oraz 80 GB pamięci HBM3 o wysokiej przepustowości, dzięki 5120-bitowej magistrali.
Foxconn przewidywał niedawno, iż rynek serwerów AI osiągnie wartość 150 miliardów dolarów do 2027 roku. Superkomputer Elona Muska o nazwie Memphis Supercluster to tylko jeden z wielu ambitnych projektów związanych ze sztuczną inteligencją i potrzebujących tak dużej mocy obliczeniowej.
Źródło: X @elonmusk
