Donald Trump nie zamierza spowalniać rozwoju amerykańskiej sztucznej inteligencji. Prezydent USA w niedzielę, odpowiadając dziennikarzom na swoim polu golfowym w Irlandii, dał jasno do zrozumienia, że Stany Zjednoczone mają pozostać światowym liderem w tej dziedzinie. „Wyprzedzamy Chiny w dziedzinie AI. Jesteśmy najbardziej zaawansowanym technologicznie krajem na świecie i, szczerze mówiąc, chcę, żeby tak pozostało, bo kto wygra w AI, ten wygra” – powiedział.

Trump został zapytany, czy branża AI powinna zwolnić tempo rozwoju lub zostać objęta surowszymi regulacjami. Odpowiedział, że zabezpieczenia są możliwe, ale wielu krytyków to według niego „bardzo negatywne siły”, które poruszają tematy „które się nie wydarzą”.

To reakcja na coraz głośniejszą debatę o ryzyku związanym z AI. Publiczna dyskusja w USA przyspieszyła po ostrzeżeniach dwóch badaczy z Anthropic, według których szybko rozwijająca się technologia może w niezbyt odległej przyszłości doprowadzić do wyginięcia ludzkości. Jeszcze w tym roku Pentagon ostrzegał przed zagrożeniami związanymi z modelem AI Anthropic.

Amodei proponuje „limit prędkości”

W sobotę Dario Amodei, dyrektor generalny Anthropic, opublikował esej „Musimy nadać tempo granicy możliwości”, w którym przedstawił trzyetapowe ramy działania. Ich celem jest nadanie rozwojowi AI odpowiedniego tempa i stworzenie więcej czasu na zarządzanie ryzykiem. Propozycja szybko zyskała poparcie Sama Altmana z OpenAI, a także Elona Muska i Demisa Hassabisa z Google DeepMind. Autorzy nie przedstawili jednak szczegółowych mechanizmów, a Chiny na razie nie zabrały głosu.

W niedzielnym wywiadzie dla „Face the Nation with Margaret Brennan” w CBS Amodei powiedział, że rywalizacja między amerykańskimi i chińskimi firmami AI jest „najtrudniejszym dylematem” przy ustalaniu „limitu prędkości” rozwoju technologii. „Nie powinniśmy się oszukiwać, ponieważ zachęty do wyprzedzenia drugiej strony oraz przewaga militarna, jaką można dzięki temu uzyskać, są tak ogromne, że możliwość sprawdzenia, czy druga strona nie oszukuje, musi być absolutnie niepodważalna” – mówił. Jak dodał, to „praca na lata”, a nawet nie wiadomo, czy w ogóle możliwa.

Na potrzebę międzynarodowej koordynacji wskazuje też Jacob Coxon, badacz, który odszedł z Anthropic i ostrzegał przed „AI Armagedonem”. „Uważam, że potrzebujemy międzynarodowej koordynacji. W przeciwnym razie ryzykujemy, że będziemy prowadzić ten sam wyścig z Chinami, co również może być niebezpieczne” – powiedział w NBC „Meet the Press”.

Polityka, biznes i bezpieczeństwo

Administracja Trumpa w drugiej kadencji w dużej mierze sprzyja firmom rozwijającym AI. Przed wyborami do Kongresu zaplanowanymi na 3 listopada szefowie firm z sektora przekazali duże kwoty na kampanie. Super PAC America PAC, należący do Elona Muska, wydał już miliony dolarów na wsparcie republikańskich kandydatów.

Apel Amodeia wywołał jednak różne reakcje. David Sacks, doradca prezydenta ds. nauki i technologii, napisał, że jeśli szefowie Anthropic i OpenAI chcą spowolnić rozwój – „śmiało”, ale zasugerował, że niekoniecznie kierują się wyłącznie bezpieczeństwem. „Jeśli to zrobicie, zyskacie trochę dobrej woli przed następną rozmową. Jeśli nie, uznamy, że to tylko kolejna próba przejęcia regulacji na własną korzyść albo polityczna operacja pod wybory” – skomentował.

Senator Bernie Sanders, który 3 września przedstawił projekt ustawy zakazującej rozwoju i wdrażania sztucznej superinteligencji oraz przewidującej czasowe wstrzymanie prac nad najbardziej zaawansowanymi systemami AI, po rezygnacji Coxona z Anthropic uznał jego ostrzeżenia za słuszne. Po eseju Amodeia wezwał Trumpa do wynegocjowania z chińskim przywódcą Xi Jinpingiem „umowy stulecia”, która zakładałaby wstrzymanie rozwoju zaawansowanej AI i zakaz tworzenia superinteligencji.

Wśród komentujących są też głosy sceptyczne wobec wielkich laboratoriów. Clément Delangue z Hugging Face ogłosił inicjatywę „Open Alignment Initiative” i zaapelował o większą przejrzystość. Inwestor Jason Calacanis uważa, że Anthropic i OpenAI mogą chcieć wykorzystać regulacje do osłabienia konkurencji ze strony otwartych modeli – jego zdaniem open source to najlepsza forma ujawniania informacji. Badacz Gary Marcus przekonuje, że obecna AI nie stanowi jeszcze egzystencjalnego zagrożenia, a większym problemem są zawodne agenty podłączone do internetu. Satya Nadella z Microsoftu poparł ideę niezależnych ewaluatorów bezpieczeństwa, ale zastrzegł, że nie może być ona kontrolowana przez kilka firm. Eliezer Yudkowsky apeluje z kolei, by kwestia przetrwania ludzkości nie stała się elementem politycznej walki.