Prezes Palantiru twierdzi, że laboratoria AI mogą nigdy nie wejść na giełdę i przejść pod kontrolę państwa – bo skala odpowiedzialności prawnej przerasta możliwości prywatnego kapitału. Brzmi jak prowokacja, dopóki nie spojrzy się na to, co dzieje się dziś z OpenAI.
Teza Karpa: państwo albo bankructwo
Zdaniem Alex Karp, szef Palantiru, czołowe firmy AI mogą nigdy nie przeprowadzić skutecznego debiutu giełdowego, ponieważ ciążąca na nich odpowiedzialność prawna jest nie do udźwignięcia dla rynków kapitałowych. Uważa przy tym, że firmy tworzące potężne systemy AI powinny ponosić odpowiedzialność cywilną i karną za szkody wyrządzone przez te systemy. Problem w tym, że nikt nie potrafi tego ryzyka wycenić ani ubezpieczyć. „Jesteś odpowiedzialny za własne czyny. Jeśli zbudujesz coś, co może zniszczyć 10% świata, wiąże się z tym odpowiedzialność cywilna i karna.”, mówi szef Palantira.
Karp zasugerował, że niektórzy ludzie z branży mogą już naciskać na przejęcie przez rząd kontroli nad laboratoriami AI. „Ich pogląd jest taki, że trzeba je znacjonalizować, ponieważ jeśli tego nie zrobisz, każdy z moich klientów pozwie” – powiedział. – powiedział. Jego zdaniem jedynym sposobem zarządzenia nieograniczoną odpowiedzialnością byłoby oddanie przez firmy około połowy udziałów rządowi w zamian za ochronę prawną. Karp wyraźnie rozgraniczył przy tym poszczególne laboratoria. Dario Amodeia z Anthropic nazwał przenikliwym i etycznym. Zapytany, czy OpenAI zasługuje na takie samo traktowanie, odparł krótko: „Nie, zdecydowanie nie.”
Warto zachować tu pewną ostrożność interpretacyjną. Palantir dostarcza oprogramowanie rządom i wielkim przedsiębiorstwom, więc odpływ kapitału od czysto komercyjnych firm AI ku podmiotom o ugruntowanych relacjach z sektorem obronnym byłby dla niego korzystny. Karp tej dynamiki nie skomentował.
Strategia Altmana: przepraszać i tłumaczyć
Sam Altman odpowiada na pytanie o odpowiedzialność zdumiewająco otwarcie.
W podcaście Politico „Decoded” szef OpenAI stwierdził, że „świat powinien zaakceptować pewne złe rzeczy w zamian za korzyści z tej technologii i za to, że ludzie mają sprawczość”. Dodał, że „bardziej liberalne podejście do regulacji, którego bronimy, wiąże się z akceptacją faktu, że część złych rzeczy się wydarzy”.
Nie zamierza gwarantować, że AI nie doprowadzi do poważnych włamań, oszustw czy nadużyć. Jego argument jest czysto utylitarny. Ludzie wykorzystają tę technologię do czynienia „o rzędy wielkości” więcej dobra niż zła, a granicę warto stawiać dopiero przy „naprawdę katastrofalnych zagrożeniach”, takich jak „poważna utrata kontroli nad AI”.
W rozmowie z Vanity Fair poszedł jeszcze dalej. Ostrzegał przed falą problemów z cyberbezpieczeństwem związanych z modelami open source i stwierdził, że społeczeństwo może „po prostu musieć zaakceptować dość poważne cyberincydenty związane z otwartymi modelami w zamian za wolność, jaką one niosą”.
Politycy: a kto wyraził zgodę?
Reakcja była natychmiastowa i ponadpartyjna.
Senator Bernie Sanders zapytał wprost, jakie „złe rzeczy” Altman ma na myśli. „Utratę dziesiątek milionów miejsc pracy? Państwo masowej inwigilacji? Masowe wymieranie?” Wezwał do wstrzymania prac nad zaawansowaną AI.
Republikański gubernator Florydy Ron DeSantis napisał: „Garstka technologicznych oligarchów ma podejmować tę decyzję za całą resztę z nas? Nie ma mowy.”, a gubernator Illinois JB Pritzker dodał, że Altman „nie powinien w imieniu nas wszystkich podejmować żadnych decyzji o tym, jakie »złe rzeczy« mamy akceptować”.
Krótko mówiąc, Altman proponuje układ, nie pytając nikogo o zgodę. Ryzyko ponoszą wszyscy, korzyści trafiają do jednej firmy z San Francisco.
W Kalifornii Rebecca Bauer-Kahan ze Zgromadzenia Stanowego uznała, że „zadaniem rządu jest dopilnować, by zwykli Kalifornijczycy nie płacili ceny za zyski laboratoriów AI”. W Europie niemiecki europoseł Axel Voss wezwał do odblokowania odłożonego unijnego projektu o odpowiedzialności za AI. „Teraz nawet szef OpenAI przyznaje: bez odpowiedzialności nie ma zaufania.”, podkreśla.
Lawina pozwów już trwa
Kłopot polega na tym, że „złe rzeczy” przestały być hipotezą. Sam Altmant może przepraszać na lewo i prawo, że agenci OpenAI uzyskali nieautoryzowany dostęp do systemów kilkudziesięciu firm i instytucji rządowych, ale to nie wystarczy. Prawnicza lawina już ruszył, m.in.:
- Australia. Premier Anthony Albanese ujawnił, że agent OpenAI wszedł do portalu Medicare Statistics Reporting Portal i odczytał pliki publiczne oraz niepubliczne. Firma wykryła naruszenie 11 sierpnia, a rząd powiadomiła dopiero 10 września, pięcioakapitowym e-mailem na publiczną skrzynkę. Albanese nazwał to opóźnienie „niedopuszczalnym”. OpenAI analizuje teraz 50 petabajtów danych i płaci za to ponad 500 tys. dolarów dziennie.
- Kalifornia. Organizacja Legal Advocates for Safe Science and Technology pozwała OpenAI po lipcowym incydencie, gdy około 700 agentów uciekło z piaskownicy testowej i włamało się do systemów Hugging Face. Najważniejszy jest tu przepis, na którym opiera się pozew. Kalifornijska ustawa obowiązująca od 1 stycznia zabrania firmom bronić się argumentem, że system AI zadziałał samodzielnie.
- Floryda. Prokurator generalny James Uthmeier pozwał OpenAI i osobiście Altmana, domagając się zakazu tworzenia nowych modeli bez zabezpieczeń zatwierdzonych przez podmioty zewnętrzne. Według pozwu do 25 września liczba włamań sięgnęła kilkudziesięciu, w tym prób wejścia do systemów Departamentu Handlu USA i SEC.
Do tego dochodzą wezwania prokuratora generalnego Kalifornii i rozszerzone dochodzenie FTC.
Skutki widać już w samej firmie. Altman odłożył debiut giełdowy i zrezygnował z premiery modelu GPT-6.1 Astra. Szef działu bezpieczeństwa David Robinson odszedł, krytykując publicznie podejście oparte na metodzie prób i błędów.
Branża szykuje się na bunt
Agenci stanowią przy tym osobną kategorię kłopotów, bo działają z uprawnieniami osób, które wydają im polecenia, i często zachowują je długo po wykonaniu zadania. „Agenci mają te uprawnienia i mogą je zachować przez długi czas — i właśnie wtedy zaczynają się problemy”, mówi Michael Sentonas, prezydent CrowdStrike przedstawiając ponurą prognozę:„Dopiero zaczynamy rozumieć skalę tych problemów. Myślę, że będzie tylko gorzej. Zobaczymy poważne incydenty.”
Na razie jest to więc rodzaj uwertury, a według Axios czołowi menedżerowie Anthropic, OpenAI i innych firm po cichu analizują scenariusze publicznego i politycznego buntu, który nastąpiłby po katastrofalnym incydencie z udziałem AI.
Wielu ludzi z branży spodziewa się takiego zdarzenia w ciągu najbliższych sześciu do dwunastu miesięcy.
Za najbardziej prawdopodobny zapalnik uznają cyberatak na dużą skalę, odcinający ludzi od usług finansowych, internetu, a nawet prądu i wody. Pierwszy przypadek poważnych szkód w realnym świecie zraziłby do technologii i tak już nieufną opinię publiczną.
Przygotowania samej branży idą dwutorowo. Technicznie sprowadzają się do testowania najgorszych scenariuszy metodą red teamingu. Znacznie więcej energii pochłania jednak praca z Kongresem USA — szefowie laboratoriów wiedzą, że dziś żadne regulacje nie przejdą, ale chcą wpłynąć na kształt prawa, po które politycy sięgną już po katastrofie.
Rzecznik OpenAI potwierdził, że firma „przeprowadza ćwiczenia przygotowawcze, podczas których zespoły omawiają i przepracowują szereg potencjalnych scenariuszy”. Anthropic odmówiło komentarza.
Pułapka bez wyjścia
Z tego wszystkiego wyłania się sytuacja, w której żadne z dostępnych rozwiązań nie wygląda dla twórców AI dobrze.
- Linia Altmana nie przetrwa pierwszego naprawdę dużego incydentu. Argument utylitarny działa, dopóki ofiary pozostają abstrakcyjne. Przestaje działać, gdy ktoś traci oszczędności, dostęp do szpitala albo prąd.
- Linia prawna już się zaciska. Kalifornijski przepis odbierający możliwość zasłaniania się autonomią systemu ma tu znaczenie precedensowe. Skoro firma odpowiada za wszystko, co zrobi jej agent, odpowiedzialność staje się teoretycznie nieograniczona.
I właśnie w tym miejscu teza Karpa przestaje brzmieć ekscentrycznie. Jeśli ryzyko prawne jest nieograniczone, nie ma inwestora zdolnego je udźwignąć poza państwem. Nacjonalizacja byłaby wtedy konsekwencją arytmetyki, nie decyzją ideologiczną.
Osiemdziesiąt stron strachu
Jak duża jest ta skala, najlepiej pokazuje poufny prospekt emisyjny Anthropic, którego treść ujawniono we wrześniu. Sekcja poświęcona czynnikom ryzyka zajmuje w nim 80 stron — w typowej spółce technologicznej nie liczy więcej niż kilkanaście.
Firma wylicza tam nie tylko standardowe problemy biznesowe, ale całą listę zagrożeń, których wcześniej w takich dokumentach po prostu nie było.
- Prawa autorskie. Roszczenia, spory i pozwy zbiorowe dotyczące wykorzystywania chronionych dzieł do trenowania modeli. Mogą drastycznie podnieść koszty albo narzucić ograniczenia na dalszy rozwój.
- Konflikt z Pentagonem. To jedno z najbardziej nietypowych ujawnionych ryzyk. Anthropic odmawiał zgody na wykorzystanie swojej technologii do masowej inwigilacji państwowej i broni w pełni autonomicznej. W efekcie amerykańska administracja sklasyfikowała ją w 2026 roku jako „ryzyko dla łańcucha dostaw”, odcinając firmę od wielkich zamówień publicznych.
- Bunt społeczny. Zamiast standardowych formułek o „ryzyku reputacyjnym” Anthropic wymienia rosnącą globalną niechęć do AI i falę nowych regulacji jako bezpośrednie zagrożenie dla modelu operacyjnego.
- Ochrona danych. Ewoluujące przepisy o prywatności na poszczególnych rynkach, których przestrzeganie staje się coraz większym obciążeniem finansowym.
Najmocniejszy jest jednak ostatni punkt. W prospekcie znalazły się ostrzeżenia, że przyszłe modele mogą stawiać opór przed wyłączeniem, zatajać informacje, dopuszczać się zachowań zbliżonych do szantażu, a nawet stwarzać ryzyko egzystencjalne dla ludzi.
Wpisanie czegoś takiego do dokumentu dla inwestorów to manewr czysto prawniczy. Ma chronić zarząd przed pozwami akcjonariuszy, gdyby AI faktycznie wyrządziła katastrofalne szkody — nikt nie będzie mógł powiedzieć, że nie został ostrzeżony.
Dosłowność tych zastrzeżeń odbiega od wszystkiego, co Dolina Krzemowa produkowała do tej pory. To prawdopodobnie najstaranniej zabezpieczony przed procesami prospekt w jej historii — i zarazem najlepszy dowód, że Karp nie przesadza.
A szef Palantiru ostrzega zresztą, że i nacjonalizacja ma swoją cenę. Przejęcie firm AI przez rząd mogłoby wywołać lawinę przeszacowań, a „może to nawet zawalić cały rynek”.