Vai al contenuto
Ora nel mondoEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portale su IA e tecnologiaeventi · analisi · interviste · approfondimenti tecnici

Cerca
LIVE
›

AWS ha l'H100 più economico, ma per la bolletta dell'inferenza decide l'utilizzo

AWS mette un H100 a 6,88 dollari l'ora contro i 10,98 di Google Cloud, un divario del 37% secondo i prezzi verificati il 28 settembre. Quel divario conta molto meno della differenza di quattro volte tra una GPU occupata e una ferma.

IA e modelliSpiegatoGiulia FerrariPubblicato: 29 settembre 20265 min di letturaFonti 6
AWS ha l'H100 più economico, ma per la bolletta dell'inferenza decide l'utilizzo

AWS mette un H100 a 6,88 dollari l'ora contro i 10,98 di Google Cloud, un divario del 37% secondo i prezzi verificati il 28 settembre. Quel divario conta molto meno della differenza di quattro volte tra una GPU occupata e una ferma.

Il confronto viene da meetrix.io. La pagina dice di aver controllato il 28 settembre i prezzi di listino on-demand per la regione US East di AWS e per us-central1 di Google Cloud. Nello stesso articolo si legge senza giri di parole che un H100 costa quattro volte tanto per token al 25% di utilizzo rispetto al carico pieno, su entrambi i cloud. L'autore avverte anche che il valore di token al secondo nell'esempio di calcolo è un segnaposto, non un benchmark.

La tabella, e chi costa meno

Meetrix colloca AWS circa il 37% sotto Google Cloud per ogni H100 e il 25% sotto per ogni A100, sempre on-demand. L'unico punto in cui Google vince è la scheda piccola L4. La g2-standard-4 sta intorno a 0,70 dollari l'ora contro gli 0,805 della g6.xlarge di AWS, una differenza che l'articolo stesso definisce più o meno 75 dollari al mese.

La riga delle A100 nasconde una trappola. AWS vende le A100 solo in configurazioni da otto GPU: p4d.24xlarge con schede da 40GB e p4de.24xlarge con quelle da 80GB. Costano 2,75 dollari per GPU-ora e 21,96 dollari per il nodo. Chi ha bisogno di una sola A100 trova l'opzione pratica nella a2-highgpu-1g di Google a 3,67 dollari l'ora, anche se ogni singola GPU costa di più.

Sulle fonti, meetrix è insolitamente trasparente. Dice che i dati AWS arrivano dal tracker EC2 di Vantage, aggiornato al 28 settembre 2026. Dice che la pagina prezzi GPU di Google costruisce la tabella lato client, quindi non era leggibile in modo automatico. I numeri GCP sono perciò quelli pubblicati dai tracker di prezzi. Tre concordavano su 87,83 dollari per la a3-highgpu-8g, mentre un quarto indicava 88,49. È un disaccordo piccolo, ma resta un disaccordo, e sapere da che parte cade il proprio budget non è inutile.

L'utilizzo batte la caccia al prezzo

L'aritmetica del post di meetrix parte da 2.500 token di output al secondo su una sola H100. L'autore la definisce un'ipotesi, non una misura. Con la GPU occupata al 100%, AWS arriva a 0,76 dollari per milione di token e GCP a 1,22. Al 50% di occupazione diventano 1,53 e 2,44. Al 25%, 3,06 e 4,88.

Leggete lungo la colonna, non lungo la riga, consiglia il post.

L'istruzione è giusta. Cambiare cloud fa risparmiare il 37% sullo stesso H100. Lasciare la scheda ferma per tre quarti del tempo costa quattro volte tanto. Una è una decisione di acquisto, l'altra di pianificazione, e solo la seconda si accumula ogni giorno.

GPUAdvisor dice di seguire 14 fornitori e di aver eseguito l'ultimo controllo quotidiano il 1 ottobre 2026. Le sue liste mostrano dove porta la logica della caccia al prezzo. La L40S di Lium sta a 0,38 dollari per GPU-ora, segnalata come 89% sotto AWS. La RTX A6000 di Thunder Compute sta a 0,35 e la A4000 di Hyperstack a 0,15. Nella stessa pagina si nota che i cloud specializzati in GPU offrono prezzi per GPU da due a quattro volte inferiori a quelli degli hyperscaler, e che i prezzi sono indicativi e variano per regione. Gli specialisti non sono lo stesso prodotto di un hyperscaler, ma la forbice non è rumore.

Anche gli sconti per impegno spostano il numero, e tagliano in due direzioni. Meetrix riporta una prenotazione AWS triennale che fa risparmiare dal 54% al 57%, con l'avvertenza che le GPU invecchiano in fretta. GPUAdvisor stima gli impegni annuali tra il 35% e il 40% per gli endpoint di inferenza sempre attivi. Colloca le istanze Spot di GCP fino al 70% di sconto su A100 e H100. Meetrix aggiunge che lo Spot su AWS offre oggi dal 53% al 62% di sconto su H100 e A10G, ma solo l'1% sulle L40S.

Il prodotto di capacità che è andato nella direzione opposta

Non tutti i prezzi sono scesi. Meetrix cita il report di The Register su un aumento di circa il 15% a gennaio 2026 per gli EC2 Capacity Blocks for ML. La p5e è passata da 34,61 a 39,80 dollari l'ora. Meetrix precisa che si tratta di un prodotto separato dalle tariffe on-demand della tabella di confronto. È esattamente il tipo di distinzione che si perde quando un team cita un solo numero GPU in una riunione di pianificazione.

Il contesto di tutto questo è una stretta sull'offerta che va ben oltre le GPU. Yahoo Finance ha riportato il 30 settembre che il nuovo CEO di Apple, John Ternus, pianifica licenziamenti su piccola scala e cancellazioni di progetti, citando un report di Bloomberg, mentre i costi della memoria salgono. L'articolo cita l'ex CEO Tim Cook che, nella sua ultima chiamata sugli utili, ha parlato di un'alluvione da cent'anni per i prezzi della memoria. Nota che SK Hynix, Samsung e Micron hanno in gran parte esaurito la capacità di memoria premium per l'AI per buona parte del 2026. Gli stessi acquirenti fanno offerte per compute e memoria.

Il prospetto dell'IPO di Anthropic, visto da Reuters e riportato il 29 settembre, dà un numero a quell'appetito. Mostra 7,33 miliardi di dollari spesi in compute e infrastruttura nel 2025, con un balzo di tre volte rispetto al 2024. Sono più della metà dei 12,65 miliardi di dollari di spese operative totali, contro 518 miliardi di dollari di impegni previsti per cloud, calcolo e infrastruttura nei prossimi anni. È l'impegno futuro di un solo acquirente, ed è più grande del fatturato GPU annuo della maggior parte dei cloud.

Intanto il software continua a gonfiare la bolletta. Artificial Analysis ha riportato il 29 settembre che Claude Sonnet 5.5 consuma circa 193.000 token di output per ogni attività dell'Intelligence Index al massimo sforzo. Dice che è il consumo di token più alto che abbia misurato, circa 7 volte GPT-6 Astra al massimo. Anthropic lo ha prezzato in modo identico a Sonnet 5, a 2/10 dollari per milione di token in input e output. Il costo sta quindi nel numero di token, non nel listino, e Artificial Analysis lo calcola in 7,60 dollari per attività, circa il 50% in più di Sonnet 5.

Il routing è l'altra leva, e si sta automatizzando. Unblocked ha descritto il 29 settembre un router adattivo che valuta i fornitori su costo e velocità, con pesi 0,7 e 0,3, e sposta il traffico quando uno peggiora. Prima mandava a rotazione il 51% delle attività GLM 5.2 a Fireworks, a prezzi superiori del 25% a quelli di Baseten. Dopo un ordine fisso, Baseten serviva il 98,5%. L'azienda dice che un terzo fornitore, CoreWeave, aveva prezzi circa il 45% sotto quelli di Baseten, ma non aveva dati sulle prestazioni per collocarlo.

Niente di tutto questo rende sbagliata la domanda AWS contro GCP. La rende la seconda domanda. Misurate prima l'utilizzo, poi discutete della tariffa oraria.

Commenti 0

Fonti

6
  1. 01GPU Costs for LLM Inference: AWS vs GCP (2026)EN
  2. 02Cloud GPU Pricing — Cost Intelligence for H100, A100 & B200EN
  3. 03New Apple CEO John Ternus is reportedly planning layoffs as memory chip costs riseEN
  4. 04Anthropic's IPO prospectus shows sweeping AI vision, surging costs: ReutersEN
  5. 05Sonnet 5.5 has the heaviest token use we've measured; pricing matches GPT-6 SolEN
  6. 06Routing LLM traffic across inference providers with TCP-style congestion controlEN

Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.

I contenuti sono stati preparati dalla redazione con il supporto dell'IA.

Giulia Ferrari

Giulia Ferrari

IA, modelli e tecnologie

Giulia Ferrari scrive di tecnologia, IA e modelli e media e internet per FLASH24, partendo da dataset pubblici, preprint e registri di versioni dei modelli. Controlla ogni numero confrontando benchmark dichiarati e risultati riproducibili, e scarta le stime senza fonte. Segue le audizioni in calendario, parla con ricercatori e ingegneri, e mette a confronto release e changelog prima di pubblicare. Fuori dalla redazione smonta stampanti 3D, recupera vecchi computer e studia come i modelli imparano dai rifiuti del web. Non pubblica un dato se non può ricostruirne il percorso.

Redazione →

Commenti

0
  1. Nessun commento — sii il primo.

Scrivi un commento

I commenti sono pubblici. Non pubblichiamo insulti, spam né pubblicità.