Wyścig, którego nikt nie chce przerwać

Dario Amodei, prezes Anthropic, wezwał branżę do wyhamowania prac nad najbardziej zaawansowanymi modelami AI. Jego apel poparł Sam Altman, szef OpenAI. Oficjalnym uzasadnieniem jest rosnąca luka między możliwościami modeli a zabezpieczeniami przed ich niewłaściwym użyciem.

Amodei wskazywał na ryzyka związane z cyberbronią, bronią biologiczną i utratą kontroli nad systemami. Ostrzegł też, że roje agentów AI mogą wkrótce zdominować internet. Jego trzypunktowy plan zakłada m.in., by laboratoria rozwijające tzw. frontier AI zatrudniały niezależnych ekspertów ds. bezpieczeństwa. Za szczególnie niepokojący uznał scenariusz rekurencyjnego samodoskonalenia AI, czyli sytuacji, w której systemy wspierają naukowców w tworzeniu kolejnych, jeszcze lepszych modeli.

Apel Amodeiego poparł też Elon Musk. Sam Altman, który już wcześniej przystał na propozycję, dodatkowo zapowiedział odroczenie planowanego IPO OpenAI. Anthropic na razie podtrzymuje plany debiutu – nieoficjalne doniesienia mówiły o wycenie około 2 bln dolarów dla Anthropic i 1,5 bln dolarów dla OpenAI. Prezydent USA Donald Trump zbagatelizował obawy, nazywając je „mistyfikacją” podczas rozmowy z szefem Nvidii Jensenem Huangiem na konferencji All-In Summit w Los Angeles.

Dylemat wspólnego hamowania

W branży panuje układ, w którym każdy chciałby, żeby konkurencja zwolniła, ale nikt nie chce zrobić tego sam. Dla czołówki, czyli Anthropic i OpenAI, wspólne spowolnienie byłoby wygodne: pomogłoby utrzymać pozycję liderów. Do tego dochodzi kosztowna strona wyścigu – nowe modele wymagają wielkich inwestycji w infrastrukturę, a wysoka rentowność obligacji sprawia, że finansowanie długiem jest droższe.

Tomasz Smolarek z mTFI zwraca uwagę, że największe laboratoria nie podejmują ruchów w oderwaniu od innych. Ich ostateczny wynik zależy od działań rywali, a konkurencja i geopolityka zostawiają niewiele miejsca na zwolnienie. Jego zdaniem USA i Chiny, podobnie jak same firmy, stoją przed wyborem, w którym jednostkowo racjonalne może być przyspieszanie, mimo że współpraca i ostrożność byłyby lepsze dla wszystkich. Czołówce może zależeć na tym, by rynek zwolnił, co pozwoliłoby dłużej zarabiać na obecnych produktach; pozostali gracze, dopóki nie dogonią liderów, raczej nie mają takiego powodu.

Infrastruktura nie musi czekać

Wolniejszy rozwój modeli nie musi oznaczać mniejszych wydatków na infrastrukturę. Jeśli obecne systemy są już na tyle dobre, inwestycje mogą przesuwać się z budowania coraz większych modeli na masowe wdrożenia. Szersze wykorzystanie AI w gospodarce może z kolei zwiększyć zapotrzebowanie na moc obliczeniową, pamięć, sieci i energię.

Ryszard Miodoński z Insignis TFI nie spodziewa się, by apele o ostrożność skłoniły największe firmy do cięcia planów inwestycyjnych. Jak mówi, popyt na dostęp do technologii AI wciąż przewyższa przyrost podaży nowych mocy. Ograniczeniami są raczej dostępność energii elektrycznej, pozwolenia na budowę czy dostawy chipów i komponentów. Przywołuje szacunki, według których koszt uruchomienia 1 GW mocy obliczeniowej to około 50 mld dolarów, a dostęp do takiej mocy kontraktowany jest w dwu-trzyletnich umowach na 25–30 mld dolarów rocznie; przy kontraktach rocznych stawki mogą sięgać nawet 50 mld dolarów rocznie.

Smolarek dodaje, że dbanie o bezpieczeństwo może stać się osobnym motorem nakładów. Budżet inwestycyjny nie musi rosnąć, ale może zmienić się jego rozkład: mniej mocy obliczeniowej na trening, więcej na kontrolę i inferencję. Gdyby konieczne było uruchamianie tysięcy agentów w izolowanych środowiskach, testowanie milionów scenariuszy i nadzorowanie jednych modeli przez drugie, samo zapewnienie bezpieczeństwa mogłoby wymagać ogromnych zasobów.

Czy wyścig faktycznie zwolni?

Mimo jednomyślnych deklaracji Miodoński wątpi w realne spowolnienie. Altman po apelu Amodeiego tłumaczył, że „spowolnienie” należy rozumieć raczej jako brak przyspieszenia. Skoordynowanie takich działań na poziomie globalnym jest w praktyce niemożliwe – zarówno USA, jak i Chiny traktują przegraną w wyścigu AI jako zagrożenie dla bezpieczeństwa narodowego, a administracja Trumpa odrzuca propozycje, które mogłyby osłabić amerykańską dominację.

Konkurencja wciąż przyspiesza. Elon Musk pracuje nad serią nowych odsłon Groka, od wersji 4.7 aż po Groka 5, a Meta rozwija modele Muse Spark. Według doniesień medialnych Anthropic szacuje swoje wydatki na infrastrukturę AI na około 180 mld dolarów do 2029 r., a jego pipeline inwestycyjny może sięgać ponad 500 mld dolarów.