W ciągu jednego weekendu szefowie największych firm zajmujących się sztuczną inteligencją zrobili coś bezprecedensowego: zgodzili się ze sobą. Dario Amodei wezwał branżę do spowolnienia, Sam Altman i Elon Musk natychmiast go poparli. Świat nie uwierzył jednak, że chodzi o troskę.
Esej, który poruszył branżę
W sobotę Dario Amodei, dyrektor generalny Anthropic, opublikował liczący około 3 800 słów esej zatytułowany „We Must Pace the Frontier„. Jego teza jest jednoznaczna: możliwości sztucznej inteligencji rozwijają się szybciej, niż branża jest w stanie utrzymać nad nimi kontrolę.
„Musimy zwolnić tempo, w jakim rozwijamy zdolności modeli AI” – napisał Amodei, ostrzegając, że pozostawiona bez nadzoru dynamika „może prześcignąć naszą zdolność do rozumienia tych systemów i kontrolowania ich”. Najbardziej alarmujący fragment dotyczył horyzontu czasowego: w ciągu sześciu do dwunastu miesięcy AI może być zdolna do kierowania zautomatyzowanymi rojami, które mogłyby „przejąć kontrolę nad całym internetem”.
Amodei przedstawił trzystopniowy plan:
- Niezależni ewaluatorzy wewnątrz laboratoriów AI – Anthropic zobowiązało się do tego jednostronnie, oferując zewnętrznym audytorom biurka w swoich biurach, identyfikatory dostępu i firmowe laptopy
- Wspólne standardy bezpieczeństwa wśród firm z krajów demokratycznych, co wymagałoby zwolnień antymonopolowych ze strony rządu USA
- Globalna koordynacja – również z rządami autorytarnymi, w tym z Chinami
Nie był to głos w próżni. Dwa dni wcześniej Anthropic opublikowało 154-stronicowy raport wywiadowczy dokumentujący, jak przez osiem miesięcy przeciwnicy wykorzystywali modele Claude do walki dronami, badań nad bronią biologiczną, cyberszpiegostwa i inwigilacji. Wśród przypadków są: rosyjski zespół budujący oprogramowanie dla roju dronów kamikaze zdolnych samodzielnie wybierać cele ludzkie, operacja powiązana z Iranem tworząca podręczniki namierzania sił morskich USA, konsultant z Mali budujący system inwigilacji 25 milionów kart SIM.
Rywale zgadzają się w kilka godzin
Reakcja konkurencji była natychmiastowa i – jak na tę branżę – zdumiewająco zgodna.
Sam Altman napisał na X: „Zgadzam się z Dario, że musimy kontrolować tempo na granicy możliwości. To był główny temat rozmów, które przeprowadziliśmy w OpenAI w ostatnich tygodniach.” Zadeklarował, że OpenAI również przyjmie niezależnych audytorów na poziomie dostępu pracowniczego.
Elon Musk ograniczył się do trzech słów: „Dario ma rację”.
Demis Hassabis z Google DeepMind stwierdził, że „kierunek jest właściwy”, choć „szczegóły wymagają dopracowania”.
W wywiadzie dla Fortune Altman poszedł dalej, przyznając, że najbardziej zaawansowane, jeszcze niewydane modele są na tyle potężne, że dalszy rozwój ich możliwości powinien zostać wstrzymany. Zapytany, dlaczego nie usiądzie wspólnie z Amodeim, Muskiem i Hassabisem, odparł: „Myślę, że do tego dojdzie”.
Jak się okazało, rozmowy już trwały. Według The Information Anthropic, OpenAI i Google DeepMind co najmniej od lipca prowadzą zakulisowe rozmowy o powołaniu wspólnego branżowego organu ds. standardów AI – który ustanawiałby protokoły testowania technicznego i audytów przedwdrożeniowych.
Ferment polityczny w Waszyngtonie
Kapitol zareagował błyskawicznie – i podzielił się.
Senator Bernie Sanders ocenił złożone obietnice jako „początek, ale to nie wystarczy”, wzywając Trumpa i Xi Jinpinga do „wynegocjowania traktatu o wstrzymaniu prac nad AI i zakazie tworzenia superinteligencji”. Dwupartyjna grupa członków Izby Reprezentantów zaapelowała do spikera Mike’a Johnsona o odwołanie przerwy parlamentarnej do czasu, aż Kongres podejmie działania w sprawie bezpieczeństwa AI.
Znacznie bardziej sceptyczny był kongresmen Josh Gottheimer, który stwierdził, że uważa za „zabawne, że ci goście wzywają do zwolnienia tempa, skoro to oni sami pędzili do przodu z pełną prędkością”.
Prezydent Trump odrzucił obawy w całości. „Kto wygra AI, ten wygrywa wszystko” – powiedział dziennikarzom, dodając, że „bardzo negatywne siły” nagłaśniają rzeczy, które „nigdy się nie wydarzą”.
„Rentowność przy wycenie biliona dolarów”
Najostrzejsza krytyka nie przyszła jednak z Kapitolu, lecz ze świata technologii.
Współzałożyciel Solany Anatoly Yakovenko skwitował całą tę zgodność czterema słowami: „Rentowność przy wycenie $1 biliona”. Sugestia była czytelna – za apelami o spowolnienie stoi nie troska o ludzkość, lecz pieniądze. W kolejnym wpisie zażartował, że polecił swojemu asystentowi AI, by oszczędniej korzystał z tokenów.
Yakovenko nie przedstawił danych na poparcie swojej tezy, ale wskazał na coś, o czym branża mówi od miesięcy. OpenAI i Anthropic zmagają się z rosnącymi kosztami infrastruktury – chipów i energii elektrycznej – przy wycenach wymagających realnych zwrotów dla inwestorów. Spowolnienie wyścigu na możliwości to jednocześnie spowolnienie wyścigu na wydatki.
Z innej strony uderzył David Sacks, były doradca Białego Domu ds. AI argumentując, że zamiast zabiegać o regulacje obejmujące całą branżę, Amodei i Altman po prostu powinni sami zwolnić. „To wy jesteście na czele wyścigu” – napisał, określając obie firmy mianem posiadaczy „duopolu na inteligencję na poziomie frontier”. Ostrzegł, że odgórne przepisy zablokują startupy i projekty open source, nie ograniczając w niczym Chin.
Żaden z trzech dyrektorów nie odniósł się do zarzutu o motywację finansową.
Rynki: 270 miliardów dolarów w jeden weekend
To, że w grę wchodzi coś więcej niż debata o bezpieczeństwie, najdobitniej pokazały jednak same rynki.
Na zdecentralizowanej giełdzie Hyperliquid, gdzie handluje się kontraktami powiązanymi z szacowaną wartością dużych spółek prywatnych, z wycen OpenAI i Anthropic wyparowało w weekend ponad 270 miliardów dolarów implikowanej wartości. Kontrakt OpenAI spadł o około 11%, obniżając implikowaną wycenę do około 1,465 biliona dolarów, a Anthropic stracił około 4%, zsuwając się tuż powyżej 2,07 biliona.
Poniedziałek przyniósł jeszcze ostrzejszą reakcję w Azji:
- SoftBank Group – spadek o 11%; spółka ma około 90% udziałów w Arm Holdings i do października ma posiadać około 13% OpenAI
- Kospi (Korea Południowa) – spadek o 3,2%
- SK hynix – spadek o 5,4%, Samsung Electronics – o 3,4%; obie spółki straciły łącznie około 91 miliardów dolarów wartości rynkowej
- Nikkei 225 – spadek o około 1%, przy czym Advantest stracił 4,1%, a Tokyo Electron 2,1%
Symptomatyczne jest też to, co zrobiło samo OpenAI. Altman ogłosił, że firma nie wejdzie na giełdę w 2026 roku: „Biorąc pod uwagę wszystko, co dzieje się w obszarze bezpieczeństwa, wejście na giełdę byłoby teraz bardzo nierozważnym posunięciem”. Wcześniej celowano w wycenę przekraczającą bilion dolarów przy wrześniowym debiucie.
Głosy z wewnątrz: „hazard z naszym życiem”
Cała debata rozegrała się na tle bezprecedensowego fermentu wewnątrz samych laboratoriów.
9 września Jacob Coxon, badacz pracujący wcześniej w OpenAI i Anthropic, publicznie złożył rezygnację, oskarżając obie firmy o „pędzenie wprost ku samodoskonalącej się superinteligencji i hazardowanie naszym życiem”. Jego wpisy dotarły według Associated Press do ponad 100 milionów osób. W wywiadach telewizyjnych mówił o „znaczącym prawdopodobieństwie, że ta technologia może zabić wszystkich”, zastrzegając jednocześnie, że obecne systemy nie stanowią zagrożenia egzystencjalnego.
Odpowiedź przyszła z wnętrza Anthropic i była zaskakująca. Evan Hubinger, szef działu nauki o zgodności, przyznał: „naprawdę szczerze wierzymy, że AI może zabić wszystkich ludzi” – szacując ryzyko na ponad 10% w ciągu dekady.
Nie wszyscy w branży to kupili. Sacks oskarżył Coxona o prowadzenie „kampanii medialnej”, a Jensen Huang z Nvidii określił jego ostrzeżenia jako „absurdalne i głęboko nieprawdziwe”.
Chiny: dwa sprzeczne sygnały w jeden weekend
Najbardziej złożona – i najbardziej wewnętrznie sprzeczna – okazała się reakcja Pekinu.
Państwowy „Global Times” opublikował ostry komentarz redakcyjny, nazywając propozycję Amodeia „podręcznikiem zimnej wojny”. Zdaniem redakcji prawdziwym celem jest „próba ograniczenia rozwoju chińskiej sztucznej inteligencji poprzez bariery technologiczne i monopol regulacyjny, utrwalenie hegemonistycznej dominacji Waszyngtonu i wykluczenie Chin z globalnego systemu zarządzania AI”. Całość określono mianem „cichej zimnej wojny AI” – „hipokrytycznej i krótkowzrocznej”.
Zarzut nie był całkiem bezpodstawny: Amodei rzeczywiście wzywał do zaostrzenia kontroli eksportu chipów do Chin i zdecydowanego przeciwdziałania praktyce destylacji modeli przez chińskie laboratoria. Raport Anthropic ujawnił zresztą, że siedem chińskich laboratoriów – w tym Alibaba, Moonshot i DeepSeek – przeprowadziło kampanie destylacji wymierzone w Claude’a, opisane jako „największy atak destylacyjny, jaki kiedykolwiek odnotowaliśmy”.
W tym samym czasie stało się jednak coś, co przeczyło tonowi „Global Timesa”. Chen Yixin, minister bezpieczeństwa państwowego Chin, opublikował jedno z najbardziej szczegółowych oficjalnych ostrzeżeń Pekinu przed ryzykiem AI.
Chen ostrzegł, że nadużywanie sztucznej inteligencji przez wrogich aktorów może „bezpośrednio zagrażać bezpieczeństwu politycznemu, ustrojowemu i ideologicznemu Chin”. Wskazał na deepfake’i, generowane treści i boty jako narzędzia „wojen o opinię publiczną” i „walki kognitywnej”, a także na ryzyko, że postęp w zaawansowanych modelach obniży próg przeprowadzania cyberataków.
Kontrast obu wystąpień odsłania jednak fundamentalną różnicę w modelach zagrożeń. Amodei mówi o ryzyku utraty kontroli nad technologią. Chen mówi o ryzyku utraty kontroli nad społeczeństwem. Pierwszy obawia się, co AI zrobi ludzkości. Drugi – co AI zrobi reżimowi.
Najtrudniejszy dylemat
I tu wracamy do punktu, który sam Amodei przewidział jako najsłabsze ogniwo swojej propozycji.
W wywiadzie dla CBS News w niedzielę przyznał wprost, że Chiny stanowią „najtrudniejszy dylemat” dla całego planu – zastrzegając, że nie wie, czy globalne ograniczenie tempa rozwoju AI jest w ogóle osiągalne. Ryzyko jest oczywiste: spowolnienie w USA może po prostu oddać przewagę konkurentom, którzy nie przestrzegają tych samych zasad.
W połowie września Waszyngton i Pekin mają odbyć pierwsze oficjalne rozmowy dwustronne poświęcone wyłącznie bezpieczeństwu AI, a temat może wrócić podczas szczytu Trumpa z Xi Jinpingiem 24 września.
Amodei zapisał w swoim eseju zdanie, które brzmi jak obietnica i ostrzeżenie w jednym: „Wierzę, że gdyby spowolnienie dało nam choćby rok lub dwa dodatkowego czasu, zanim modele osiągną krytyczny poziom możliwości (…), moglibyśmy znacznie zmniejszyć ryzyko poważnych problemów”.
Fundamentalny problem polega na tym, że warunkiem powodzenia jest zgoda wszystkich – a już pierwsze dni po publikacji pokazały, że nawet w samej Dolinie Krzemowej mało kto wierzy, iż ktokolwiek robi to bezinteresownie.