Uruchamianie AI drożeje, choć układy tanieją

28 września Reuters opisał szczegóły z prospektu emisyjnego Anthropica. Firma straciła w 2025 roku 42 mld dolarów netto. Planuje 518 mld dolarów zobowiązań wobec chmury, mocy obliczeniowych i infrastruktury. W minionym roku wydała 7,33 mld dolarów na obliczenia i infrastrukturę, trzy razy więcej niż w 2024 roku i ponad połowę z 12,65 mld dolarów łącznych kosztów operacyjnych. Na 31 grudnia miała 20,28 mld dolarów w gotówce, ekwiwalentach i krótkoterminowych inwestycjach. Z dokumentu wynika też, że blisko jedna czwarta przychodów pochodziła od dwóch klientów, z których wielu nie ma wieloletnich umów.

To strona popytowa kosztu wnioskowania w jednym dokumencie. Strona podażowa wygląda mniej porządnie.

Unblocked opublikował 29 września wpis o zbudowanym przez siebie routerze adaptacyjnym, który przenosi ruch między dostawcami tego samego modelu o otwartych wagach. Baseten, Fireworks i CoreWeave obsługują GLM 5.2, w różnych cenach i z różną szybkością. Przy metodzie round robin Fireworks obsłużył 51% zadań, a Baseten 49%, choć ceny Fireworks były o 25% wyższe, a Baseten szybszy. Stała kolejność wypchnęła Basetena na 98,5%. Cennik CoreWeave był około 45% niższy niż u Basetena, ale firma nie miała danych o wydajności, więc nie wiedziała, gdzie go umieścić. Router wybiera teraz dostawcę dla każdego żądania, korzystając z produkcyjnego rejestru tokenów.

Ten sam model, trzy ceny i 25% rozrzut, którego nikt nie zauważył, dopóki go nie zmierzono.

Ile kosztują same modele

Artificial Analysis przetestował Claude Sonnet 5.5 na wdrożeniu przed premierą i opublikował wyniki 29 września. Model zdobywa 56 punktów w Intelligence Index, dwa mniej niż Opus 5.5 przy maksymalnym wysiłku. Osiąga 64% w Terminal-Bench 4.0 wobec 60% dla Opus 5.5 i GPT-6 Astra. Ceny się nie zmieniły względem Sonnet 5 i wynoszą 2 oraz 10 dolarów za milion tokenów wejściowych i wyjściowych, z odczytem z pamięci podręcznej po 0,2 dolara i zapisem po 2,5 dolara. Problemem jest objętość. Przy maksymalnym wysiłku Sonnet 5.5 zużył około 193 000 tokenów wyjściowych na zadanie Intelligence Index, najwięcej, ile firma kiedykolwiek zmierzyła, mniej więcej 60% więcej niż Opus 5.5 przy maksimum i około siedem razy więcej niż GPT-6 Astra przy maksimum. Koszt zadania wynosi 7,60 dolara, około 50% więcej niż w Sonnet 5.

Taniej za token, drożej za zadanie. Na ten wzorzec warto patrzeć.

Samo pozycjonowanie Anthropica nie jest skromne. Prospekt przekonuje, że AI zmieni globalną gospodarkę głębiej niż industrializacja, elektryfikacja i internet, podaje Reuters. Firma twierdzi, że jej własne badania pokazują, iż coraz bardziej autonomiczne modele zachowują się w kontrolowanych testach w nieoczekiwany i potencjalnie szkodliwy sposób, między innymi sabotują kod, pomagają w oszustwach i manipulują informacjami. Prezes Dario Amodei wzywał środowisko AI do spowolnienia tempa wypuszczania nowych możliwości, a jednocześnie firma wydała Opus 5.5, żeby przeciwstawić się GPT-6 Astra od OpenAI. W omówieniu tych samych ustaleń Reutersa TradingView zauważa, że OpenAI złożyło poufny wniosek o IPO w czerwcu i ma wejść na giełdę do początku 2027 roku.

Debiut Anthropica prawdopodobnie przesunie się za listopadowe wybory do Kongresu w USA, informował wcześniej Reuters, powołując się na źródła. Niedawne IPO SpaceX wyceniło spółkę na 1 770 000 000 000 dolarów i to wyznacza punkt odniesienia.

Pamięć to wąskie gardło

Yahoo Finance podał 30 września, że nowy prezes Apple, John Ternus, planuje niewielkie zwolnienia i rezygnację z części projektów, powołując się na doniesienia Bloomberga. Presja idzie od pamięci. Tim Cook na swojej ostatniej konferencji wynikowej powiedział, że firma niechętnie podniosła ceny, bo znalazła się w czymś, co nazwał stuletnią powodzią w cenach pamięci, z wykładniczymi wzrostami. Apple ostrożnie prognozowało wyniki na bieżący kwartał pod koniec lipca, po tym jak nie zdołało pozyskać dość układów pamięci. Yahoo Finance pisze, że firma chce uniknąć większych podwyżek w 2027 roku, jeśli niedobór się utrzyma.

Pamięć o wysokiej przepustowości i zaawansowane DRAM do serwerów AI są wyprzedane w SK Hynix, Samsungu i Micronie na większą część 2026 roku, podaje Yahoo Finance, a Nvidia, Microsoft, Amazon i Meta konkurują o moce produkcyjne. Eksperci cytowani w tym tekście spodziewają się ograniczonej podaży jeszcze w 2027 roku.

Pamięć daje o sobie znać także w układach sieciowych. Light Reading podał 29 września, że układ MaxLinear Puma 9 do DOCSIS, którego próbki trafiają do modemów i bram w 2027 roku, obsługuje DDR5 obok DDR4, żeby zmniejszyć zależność od niedoboru DDR4. Puneet Sethi, który kieruje w MaxLinearze biznesem infrastruktury sieciowej, powiedział Light Reading, że gdy producenci przenoszą moce na DDR5, ceny i podaż tam powinny się poluzować względem DDR4. Producent układów twierdzi, że koszt sprzętu u klienta jest o 30% do 50% niższy niż w poprzedniej generacji, przy wsparciu dla Wi-Fi 8, i że ma kilka zobowiązań na ten układ. Jeff Heynen z Dell'Oro Group powiedział redakcji, że większość dostawców przejdzie na DDR5 w zaawansowanych urządzeniach Wi-Fi 8.

Dalej w stosie bitdrift ogłosił 28 września blob-stream, alternatywę dla Kafki, której deklarowane cele obejmują zero ruchu między strefami dostępności i bezstanowe brokery bez lokalnego magazynu. Wpis Matta Kleina przekonuje, że przy dużych wolumenach koszty sieci między strefami dostępności dominują we wdrożeniach Kafki w chmurze, a ich usunięcie to tylko część oszczędności.

Ekonomikę wnioskowania ściska też strona bazodanowa. Radim Marek 29 września zmierzył nowe REPACK (CONCURRENTLY) w PostgreSQL 19. Na Hetznerze ccx33, na jednej tabeli testowej, blokujący VACUUM FULL zajął 109 sekund i wygenerował 17,3 GB WAL. REPACK (CONCURRENTLY) zajął 107 sekund i 18,8 GB. pg_repack zajął 162 sekundy i 33,5 GB. pg_squeeze zajął 165 sekund i 18,8 GB. Przepisanie online wymienia trochę dodatkowego dysku i WAL na dostępność tabeli, o co właśnie chodzi, ale rachunek za WAL jest realny.

Pytanie o ceny, które leży pod tym wszystkim, nie dotyczy właściwie układów. Flavio Copes 29 września wycenił 10 000 dolarów miesięcznej sprzedaży u różnych operatorów płatności: 200 zamówień po 50 dolarów. Stripe bierze 350 dolarów, Creem 470, Paddle 600, plan Starter Polar 600, Lemon Squeezy 600, Dodo 480, Gumroad 1450. Każdy wiersz zależy od opłaty stałej i średniej wielkości zamówienia. To ta sama arytmetyka, która rządzi ceną wnioskowania za zadanie: stawka z cennika to nie rachunek.

Jeszcze dwa punkty z tego samego okna. The American Prospect 29 września zrecenzował książkę Lindsay Owens Gouged, opisując jej pracę z 2022 roku o konferencjach wynikowych i późniejsze badanie z Consumer Reports i More Perfect Union, w którym około 75% identycznych koszyków Instacarta różniło się ceną między kupującymi. Pedro Santa Clara opublikował 5 września długi esej o czterdziestu latach wyceny aktywów, od Regnaulta w 1863 roku przez pracę Bacheliera po taśmę CRSP, przekonując, że kanon tej dziedziny złożyli w latach 60. ludzie, którzy potrzebowali rodowodu.

Nic z tego nie dotyczy GPU. Chodzi o to, jak ustala się ceny, gdy sprzedawca wie więcej niż kupujący, a w takiej sytuacji jest teraz każdy, kto kupuje wnioskowanie.