Vai al contenuto
Ora nel mondoEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portale su IA e tecnologiaeventi · analisi · interviste · approfondimenti tecnici

Cerca
LIVE
›

I prezzi dell'inferenza tirano in due direzioni: la scommessa hardware si separa dal cloud

Q/C Technologies ha annunciato il 1° ottobre una collaborazione con il Center for Integrated Nanotechnologies dei Sandia National Laboratories sull'elaborazione ottica per l'inferenza AI. Lo stesso giorno la proposta Puma 9 di MaxLinear e un divario di 32 dollari per serbatoio sul diesel hanno alimentato il dibattito sui costi.

IA e modelliAnalisiGiulia FerrariPubblicato: 1 ottobre 20266 min di letturaFonti 10
I prezzi dell'inferenza tirano in due direzioni: la scommessa hardware si separa dal cloud

Due annunci sono arrivati a poche ore di distanza il 1° ottobre. Nessuno dei due risolve la questione di quanto costi l'inferenza. Q/C Technologies collaborerà con il Center for Integrated Nanotechnologies dei Sandia National Laboratories su componenti nanofotonici per un'unità di elaborazione ottica in progetto, destinata all'inferenza AI, secondo HPCwire.

Il nuovo chip DOCSIS Puma 9 di MaxLinear, annunciato il 29 settembre, viene presentato come capace di ridurre del 30% al 50% i costi delle apparecchiature presso il cliente. L'accordo di Q/C con il CINT è ricerca, non un prodotto. L'azienda dice che il progetto individuerà quali operazioni ottiche e quali tecnologie dei dispositivi contano per un'architettura OPU scalabile, e affronterà le operazioni non lineari, la memoria, la precisione, la perdita ottica e l'integrazione con l'elettronica. Sandia, che gestisce il CINT, ha circa 17.000 dipendenti e un budget annuo di circa 5 miliardi di dollari, riferisce HPCwire. Nessuno ha pubblicato un benchmark per un componente di inferenza ottica su scala.

Silicio più economico, decoder più economici

I numeri di MaxLinear sono più concreti, anche se sempre forniti dall'azienda. Il Puma 9 supporta DOCSIS 3.1, D3.1+ e D4.0. L'azienda sostiene che la configurazione D3.1+ può offrire fino a 12 Gbit/s in downstream. MaxLinear prevede che modem e gateway basati sul chip arrivino nel 2027. Dice di aver ottenuto "molteplici impegni". Il chip passa da Intel x86 ad ARM, il che secondo una fonte di settore citata da Light Reading ridurrà i consumi e alcuni costi di licenza.

"Poiché i produttori sono incentivati a spostare la loro capacità verso le DDR5, pensiamo che l'ecosistema DDR5, i prezzi e l'offerta diventeranno più distesi rispetto allo stress che vediamo con le DDR4", ha detto Puneet Sethi, SVP e GM della business unit network infrastructure and carrier di MaxLinear.

Il punto sulla memoria conta al di là del cavo. Jeff Heynen di Dell'Oro Group ha detto a Light Reading che la maggior parte dei produttori passerà alle DDR5 per le unità Wi-Fi 8 avanzate, per via della memoria integrata che quei dispositivi richiedono. È un segnale della filiera, non dell'inferenza AI. Ma la pressione è la stessa: la capacità si sposta verso le memorie più recenti e i componenti più vecchi si stringono.

Sul fronte cloud il quadro è più confuso. I titoli recenti del dossier, che non trattiamo come fatti citabili, indicano Nebius che acquisisce Inferize e alza i prezzi, AWS che aumenta i prezzi della capacità GPU e OpenAI che taglia i prezzi dei modelli. Tirano in direzioni opposte. Il dossier non li risolve.

Scommesse hardware contro bollette del carburante

Magnitude, azienda di Y Combinator S25, ha pubblicato su GitHub il 30 settembre un motore di inferenza open source che, secondo l'azienda, ottimizza i kernel sul dispositivo dell'utente. Il README dichiara prestazioni fino a 2 volte più veloci di llama.cpp, con il 92% in più nella fase di decode su Metal e il 19% su CUDA, e il 27% in meno di memoria per agente. Funziona su Apple Silicon, NVIDIA, AMD o solo CPU, e si collega a Pi, OpenCode, Hermes, Codex, Claude Code, Cline e altri. Le dichiarazioni sono auto-riferite e il repository ha licenza Apache 2.0.

Questo è un argomento a favore dell'hardware locale. L'argomento cloud è diverso, e viene portato avanti con i cartellini dei prezzi. Transport & Environment, in un'analisi pubblicata da CleanTechnica il 29 settembre, afferma che in Europa chi guida un'auto elettrica paga meno della metà di chi guida a diesel per chilometro, sulla base di consumi medi di 6,9 L/100 km per il diesel e 20,2 kWh/100 km per l'elettrico a batteria, con l'elettricità a 0,343 €/kWh. Chi guida a diesel paga 32 € in più per serbatoio rispetto all'inizio dell'anno, di cui circa 16 € di margine di raffinazione aggiuntivo, secondo T&E. Il prezzo medio ponderato alla pompa per l'UE-27 viene dal bollettino petrolifero settimanale della Commissione europea datato 21 settembre 2026, mentre il dato sul margine di raffinazione, da stime della BCE, è più vecchio di una settimana.

Il confronto non è omogeneo con i prezzi delle GPU, e T&E dice che la sua stima del costo di ricarica è probabilmente un limite superiore. Ma è lo stesso argomento in un altro settore: elettrifica ciò che brucia carburante e il costo per unità scende.

Cosa dicono gli altri numeri

Nelle telecomunicazioni gli operatori cercano tagli ai costi attraverso la condivisione più che con nuovo silicio. StarHub e M1 sono in trattative di fusione a Singapore, dove già condividono lo spettro 5G e la rete di accesso radio tramite una società comune chiamata Antina. Secondo quanto riportato, Singtel deteneva a giugno una quota del 43% del mercato mobile, con M1 al 22%, StarHub al 21% e Simba al 14%, secondo Light Reading. In Nuova Zelanda, 2degrees e OneNZ hanno proposto di unire le loro reti radio in un'entità a proprietà congiunta, con una decisione della Commerce Commission attesa l'anno prossimo.

L'esempio più grande citato è l'accordo 5G tra China Telecom e China Unicom, che secondo Light Reading copre 1,5 milioni di stazioni base condivise e avrebbe prodotto 56 miliardi di dollari di risparmi in capex. Se quel numero regge, la condivisione delle reti ha portato a una riduzione dei costi più misurabile di qualsiasi annuncio di chip per l'inferenza in questo dossier.

Altrove, la pressione sui costi si vede nei budget di R&S. Xpeng ha accorpato le sue linee di prodotto da quattro a due, ha riferito la testata locale 36Kr il 28 settembre, citando fonti di settore. L'azienda ha consegnato 243.111 veicoli nei primi otto mesi del 2026, il 10,49% in meno su base annua, mentre le spese di R&S del secondo trimestre sono salite del 32,1% a 2,91 miliardi di yuan. La perdita netta del secondo trimestre è stata di 1,34 miliardi di yuan (199 milioni di dollari), più ampia dei 480 milioni di yuan di un anno prima ma più contenuta degli 1,78 miliardi di yuan del primo trimestre. Il margine sui veicoli è stato del 12,1%, stabile sul trimestre precedente e sotto il 14,3% di un anno prima.

GM fa un calcolo diverso. Ultium Cells, la joint venture con LG Energy Solution, ha detto martedì che produrrà celle prismatiche al litio manganese ricco a Spring Hill, nel Tennessee, e secondo l'azienda sarà il primo impianto al mondo a produrle in serie. GM sostiene una densità energetica superiore del 33% rispetto alle LFP a costi comparabili, con oltre 400 miglia di autonomia previste per camion elettrici e SUV full-size, e un primo lancio di veicoli atteso nel 2028. Gli aggiornamenti degli impianti partono entro la fine di quest'anno e dovrebbero concludersi entro il 2028, aggiungendo 500 posti di lavoro fino a portare la forza lavoro a 1.700 persone.

Microsoft Research ha fatto un ragionamento simile il 23 settembre, sostenendo che eseguire l'inferenza di AI fisica esclusivamente su GPU a bordo può limitare le prestazioni dei robot e la durata della batteria, e che spostarla su GPU di edge o cloud ha migliorato i tassi di successo dei compiti e permesso modelli più grandi su carichi di lavoro rappresentativi di manipolazione mobile.

Niente di tutto questo produce un unico prezzo dell'inferenza. Il dossier offre dichiarazioni delle aziende, una collaborazione di ricerca, una griglia di numeri su consegne e margini e un confronto sul diesel che è esplicitamente un limite superiore. Quello che mostra è che la partita sui costi si gioca su almeno quattro fronti: kernel locali, ricerca ottica, prezzi cloud e condivisione delle reti. Il più recente, la collaborazione di Q/C con Sandia, è anche il più lontano da un benchmark.

Commenti 0

Fonti

10
  1. 01Q/C Technologies Collaborates with Sandia on Optical Computing for AI InferenceEN
  2. 02MaxLinear claims new 'Puma 9' DOCSIS chip is a big cost-cutterEN
  3. 03Launch HN: Magnitude (YC S25) – Self-optimizing inference engine for agentsEN
  4. 04Driving An EV Now Costs Half As Much As Diesel, New Analysis ShowsEN
  5. 05Singapore, New Zealand operators seek partnerships to cut costsEN
  6. 06Xpeng reportedly consolidates product lines to cut R&D costsEN
  7. 07GM's new EV battery tech will cut costs without sacrificing performance or rangeEN
  8. 08Offloaded inference for real-world physical AI roboticsEN
  9. 09Is AI jacking up healthcare costs?EN
  10. 10The Human Cost Of Data Center PollutionEN

Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.

I contenuti sono stati preparati dalla redazione con il supporto dell'IA.

Giulia Ferrari

Giulia Ferrari

IA, modelli e tecnologie

Giulia Ferrari scrive di tecnologia, IA e modelli e media e internet per FLASH24, partendo da dataset pubblici, preprint e registri di versioni dei modelli. Controlla ogni numero confrontando benchmark dichiarati e risultati riproducibili, e scarta le stime senza fonte. Segue le audizioni in calendario, parla con ricercatori e ingegneri, e mette a confronto release e changelog prima di pubblicare. Fuori dalla redazione smonta stampanti 3D, recupera vecchi computer e studia come i modelli imparano dai rifiuti del web. Non pubblica un dato se non può ricostruirne il percorso.

Redazione →

Commenti

0
  1. Nessun commento — sii il primo.

Scrivi un commento

I commenti sono pubblici. Non pubblichiamo insulti, spam né pubblicità.