Tak się rodzi Stargate. Wielki superkomputer AI za miliardy dolarów

Project Stargate to olbrzymia inwestycja, która może pochłonąć nawet 500 mld dolarów w ciągu najbliższych 4 lat. Powstające pierwsze centrum danych wycenia się na 1/5 tej sumy. Centrum osiągnie niespotykaną moc obliczeniową. Do czego jest potrzebna?

Centrum danych w małym miasteczku Abilene w stanie Teksas ma pomieścić 64 tysiące stacji obliczeniowych Nvidia GB200. To "superchipy" z procesorami (CPU) i układami graficznymi (GPU) dostosowanymi do pracy ze sztuczną inteligencją - trenowania i uruchamiania dużych modeli językowych (LLMs). Urządzenia mają tam trafić pod koniec 2026 r. Urządzenia będą dodawane stopniowo do kilku hal centrum danych. Według wewnętrznego źródła tego lata ma nastąpić pierwszy etap z wprowadzeniem zestawu 16 tys. jednostek GB200.

Całość zamówienia mówi wiele o skali, z jaką OpenAI i Oracle chcą pracować w nowym centrum danych. To również skala, w jakiej będzie działać Project Stargate, ogłoszony wspólnie z SoftBank i rządem USA na styczniowym wydarzeniu w Białym Domu. OpenAI mówiło wcześniej, że Stargate będzie działał w 10 placówkach.

Rzecznik OpenAI wyjawił, że startup pracuje wspólnie z Oracle nad projektem i dostarczeniem centrum danych w Abilene oraz że ten ostatni odpowiada za pozyskanie i obsługę superkomputera, który jest tam budowany. Oracle i Nvidia nie udzielają komentarzy w tej sprawie.

Nie jest tajemnicą, że OpenAI pracuje nad czymś przełomowym. Ma to różne nazwy: AGI (Artificial General Intelligence), silna sztuczna inteligencja, silna superinteligencja czy sztuczna inteligencja ogólnego zastosowania. Chodzi o kolejny etap w ewolucji SI. Znana nam dzisiaj AI bywa imponująca, ale nadal operuje na mocno ograniczonym polu.

Poszczególne modele AI są wyspecjalizowane w wąskim zakresie umiejętności, a każdy z nich lepiej sprawdza się w czymś innym (np. zadaniach z nauk ścisłych, rozmowie głosowej z użytkownikiem w czasie rzeczywistym, długotrwałym, pogłębionym researchu, generowaniu obrazów etc.). Pojedyncza sztuczna superinteligencja miałaby to wszystko zunifikować, ale na tym nie poprzestanie.

O osiągnięciu AGI można będzie mówić, gdy osiągnie ona poziom umiejętności przekraczający ludzkie. Chodzi zarówno o jednego człowieka, jak i kolektywną "moc obliczeniową" ludzi. Już dzisiejsza AI działa o wiele szybciej niż ludzie (np. w badaniach genetycznych i materiałowych, tłumaczeniu książek, tworzeniu podsumowań itd.), ale nadal nie jest to skala, w jaką celuje Project Stargate. Jednym z pierwszych kroków dla OpenAI w tym kierunku będzie wypuszczenie rewolucyjnego modelu GPT-5. Projekt ma osiągnąć swój cel przed 2030 rokiem.

Firmy skupione wokół projektu Stargate biorą udział w wyścigu, którego celem jest AGI. Uczestniczą w nim też inni czołowi producenci AI, tacy jak xAI Elona Muska, który zawarł niedawno umowę na 5 mld dolarów z Dell Technologies Inc., który dostarczy mu serwery AI dla superkomputera w Memphis. Meta Platforms Inc. planuje z kolei osiągnięcie mocy obliczeniowej równej 600 tys. jednostek Nvidia H100 pod koniec tego roku. CoreWeave Inc., dostawca usług w chmurze skupionych na AI, ma natomiast 2500 tys. jednostek GPU Nvidii w 32 centrach danych.

Superkomputer AI nie jest jednym urządzeniem zamkniętym w pojedynczej obudowie, jak można by to sobie wyobrażać. Dzisiaj ten sposób określa się raczej maszyny wirtualne uruchamiane w chmurze obliczeniowej. Ich fizycznym zapleczem są właśnie centra danych, często położone w wielu punktach na Ziemi. Ich kolektywna moc obliczeniowa jest używana do obsługi najbardziej zasobożernych projektów, takich jak trenowanie i uruchamianie dużych modeli sztucznej inteligencji.

Nvidia to od wielu lat czołowy producent kart graficznych, jednak przez większość swojej historii nie osiągał jakichś spektakularnych wyników finansowych. Wszystko zaczęło się zmieniać w ciągu ostatnich 3 lat, gdy jego procesory graficzne (GPU) zaczęły być masowo instalowane w centrach danych Google, OpenAI, Microsoftu i innych firm. To na tym sprzęcie śmiga ChatGPT, Copilot, Gemini i reszta czatbotów. Podobnie jak bowiem koparki kryptowalut, tak również obciążenia AI najwydajniej działają na układach GPU. Tym sposobem w czerwcu 2024 r. Nvidia stała się najwyżej wycenianą spółką na świecie, a jej kapitalizacja przekroczyła 3,34 bln dolarów.

Superchipy GB200 zamówione przez pierwsze centrum danych Stargate mogą kosztować wiele miliardów dolarów. Mimo że Nvidia nie ujawniła publicznie ceny GB200, to jej CEO Jensen Huang powiedział w zeszłym roku, że mniej potężne chipy B200 będą kosztować 30-40 tys. dolarów od sztuki.

Oprócz ustalonego już miejsca w Teksasie zespoły z OpenAI i SoftBank mają wypatrzone lokalizacje w Pensylwanii, Wisconsin i Oregonie na potencjalne przyszłe kampusy Stargate.