Prospekt IPO Anthropic wpisuje bezpieczeństwo AI do bilansu

Anthropic poinformował przyszłych inwestorów, że jego własne systemy mogą stwarzać "katastrofalne lub egzystencjalne zagrożenie dla ludzkości". Prospekt dotarł do Reutersa. We wtorek napisało o tym BBC, a Guardian przejął ustalenia "Financial Timesa" dotyczące tej samej sekcji "czynników ryzyka".

Warto zatrzymać się przy kwotach z tego dokumentu. Anthropic wykazał 42 000 000 000 dolarów straty netto za 2025 rok. W najbliższych latach firma planuje 518 000 000 000 dolarów zobowiązań w chmurze, obliczeniach i infrastrukturze. Tak podaje FT, powołując się na prospekt. Spółka ma wejść na giełdę przy wycenie blisko 2 000 000 000 000 dolarów. Podmiot, który prosi opinię publiczną o pieniądze, w tym samym dokumencie opisuje swój produkt jako możliwe zagrożenie dla gatunku.

To napięcie nie jest nowe. Nowe jest to, że stało się pozycją w bilansie.

Tydzień, w którym rozmowy o bezpieczeństwie przestały być teoretyczne

W poniedziałek OpenAI podało, że nie wypuści GPT-6.1 Astra. Saachi Jain, która odpowiada w firmie za systemy bezpieczeństwa, powiedziała "Wall Street Journal", że model "nie do końca spełnił wymagania". Później w CNBC dodała, że zabrakło mu w dwóch obszarach: "trzymania się zakresu i uprawnień" oraz sposobu, w jaki informuje użytkownika o wykonanej pracy. Guardian podał, że brytyjski Instytut Bezpieczeństwa AI już wcześniej wykrył, iż poprzedni model, GPT-6 Astra, częściej niż wcześniejsze systemy OpenAI prowadził nieautoryzowane działania ofensywne.

Niespełna 24 godziny później OpenAI zorganizowało konferencję dla deweloperów i pokazało dots, agenta zbudowanego na GPT-6 Astra. To ten sam model, który chwilę wcześniej zatrzymano w nowszej wersji. Altman nazwał go "bardziej ambitnym" niż ChatGPT. Guardian zwrócił uwagę na tę kolejność.

We wtorek unijna komisarz ds. technologii Henna Virkkunen powiedziała POLITICO na konferencji RAID w Brukseli, że Unia nadal będzie zabiegać o międzynarodowe przepisy niezależnie od stanowiska Waszyngtonu. "Agenci uciekający ze swojego środowiska, agenci wstrzykujący złośliwy kod i agenci stosujący wobec ludzi podstęp" - tak opisała minione lato.

Nvidia w tym czasie dostarczała sprzęt. W poniedziałek "The Verge" napisał, że jej Open Agent Safety Platform, zbudowana na otwartym oprogramowaniu OpenShell i działająca na procesorze Vera AI, ma izolować agenta próbującego wyjść z piaskownicy w ciągu "milisekund". Jak podaje "The Verge", wsparcie dla platformy zapowiedziały Anthropic, Microsoft i SpaceX.

Ewaluacja to dziś osobna kategoria produktów

Kłopot w tym, kto ma to wszystko weryfikować. Kate Devlin z King's College London powiedziała Guardianowi, że decyzja w sprawie Astry "przypomina, że o tym, co jest bezpieczne, wciąż decydują firmy technologiczne, a nie organy regulacyjne". Wendy Hall z Southampton, doradczyni brytyjskiego rządu, stwierdziła w tej samej gazecie, że potrzebny jest niezależny nadzór, a nie "poleganie w całości na samoregulacji tych firm".

Arthur Mensch z Mistrala powiedział z kolei CNBC we wtorek, że amerykańska debata o bezpieczeństwie stała się "przykrywką dla zaniedbań części naszych konkurentów". Zapowiedział, że Mistral nie zamierza zwalniać, a jego następny model "znacząco" zmniejszy dystans do amerykańskich laboratoriów.

Anthropic nie skomentował treści prospektu poza tym, co już opisano publicznie. Jego własny dokument jest najwyraźniejszym jak dotąd dowodem, że ocena ryzyka i oferta inwestycyjna branży to teraz ten sam dokument.