Mistral AI pubblica i pesi di Mistral Large 4, modello da mille miliardi di parametri

I team di sicurezza e le imprese regolamentate possono ora scaricare un modello di scala frontier e tenere codice sensibile, log e dati sugli incidenti dentro la propria infrastruttura. Così hanno un'alternativa ai modelli ospitati di OpenAI e Anthropic, a cui un fornitore può cambiare l'accesso. I risultati dei benchmark indipendenti non sono ancora noti. Non lo sono nemmeno l'accuratezza sul contesto lungo e il costo reale di eseguire un modello da mille miliardi di parametri.

Mistral AI apre i pesi

Mistral AI ha messo i pesi su Hugging Face e serve lo stesso modello tramite la propria API.

Mistral AI lo chiama Le Chonk. Il modello è nativamente multimodale e accetta testo e immagini in ingresso. Mistral Large 4 ha circa 1.000.000.000.000 di parametri totali. A ogni richiesta ne lavora solo una parte: circa 52.000.000.000 di parametri attivi in un'architettura mixture-of-experts, secondo due resoconti. Un terzo resoconto indica circa 49.000.000.000 di parametri attivi e un totale di circa 1.050.000.000.000. È questo disegno sparso a rendere servibile un modello di questa dimensione, perché la rete completa non si attiva per ogni token.

Perché i team di sicurezza se ne occupano

Mistral AI ha presentato il rilascio come strumento per il lavoro di sicurezza. Quel lavoro comprende la ricerca di vulnerabilità, la loro riproduzione in una sandbox e la correzione del codice senza rompere le funzionalità.

Pierre Stock, vicepresidente della ricerca scientifica di Mistral AI, ha sostenuto che pesi scaricabili proteggono dal rischio che un fornitore spenga l'accesso. "Una volta che rendi open source i pesi, finiscono su tutto internet. È impossibile tagliare fuori qualcuno", ha detto ai giornalisti. Ha aggiunto che "non vuoi vivere in un mondo in cui il tuo vicino può staccarti la corrente da un giorno all'altro". L'azienda dichiara un punteggio del 51% sull'Artificial Analysis Cyber Index e un tasso di rifiuto del 96,6% sulle richieste dannose di cybersecurity testate.

Il doppio uso è l'obiezione ovvia. Rafe Pilling, senior director of threat intelligence di Sophos, lo ha definito "chiaramente una tecnologia a doppio uso". Qualsiasi cosa scaricabile e senza vincoli, ha detto, può essere abusata oltre che usata per scopi produttivi.

Le dichiarazioni sui benchmark

La maggior parte dei numeri sulle prestazioni arriva da Mistral AI stessa.

L'azienda dichiara 48% sull'Artificial Analysis Coding Agent Index. Dice che il modello usa in media il 47% di token in meno per compito rispetto a GLM-5.3. TechRepublic ha riportato che quel 48% pareggia GLM-5.3; lavx.hu mette GLM-5.3 un punto avanti, al 49. Su Terminal-Bench 4.0 Mistral AI dichiara 41%, in salita dal 28% dell'anteprima, un guadagno di 13 punti percentuali. Dichiara anche 73,3% su Finch per i flussi finanziari e 84,5% su BrowseComp.

La resistenza agli attacchi sul B3 Agent Security Benchmark è salita al 97,1% dal 93,3% dell'anteprima. I dati li ha forniti l'azienda.

Il costo di eseguirlo

Il solo checkpoint quantizzato è di 606GB. L'hosting a piena precisione richiede quindi capacità GPU notevole. La licenza è una MIT modificata. Consente uso gratuito, modifica, fine-tuning e commercializzazione. Le aziende che offrono il modello come servizio hanno bisogno di una licenza commerciale separata. Il prezzo dell'API, per chi preferisce affittarlo, è di 0,70 dollari per milione di token in ingresso, 0,07 per l'ingresso in cache e 2,10 per l'uscita.

Mistral AI ha addestrato il modello su GPU Nvidia GB200. Ha usato i propri data centre europei. Un resoconto parla di 3.840 GPU per 45 giorni, circa 4.150.000 ore GPU; lavx.hu riporta circa 4.000 GPU in due mesi. Le organizzazioni che lo ospitano hanno comunque bisogno di competenze tecniche. Servono anche processi di sicurezza per eseguirlo e monitorarlo da sole. Mistral AI non ha pubblicato nemmeno una curva di accuratezza sul contesto lungo per la finestra da 1.000.000 di token, ha notato shattered.io.

La sfida dei pesi aperti

La partita più vicina è con i modelli cinesi a pesi aperti.

Il CEO Arthur Mensch ha descritto l'AI come "uno strumento di emancipazione, non di dominio".

L'azienda dice che imprese e governi ottengono "capacità di cyber difesa AI di frontiera che possono possedere e controllare appieno". Resta aperto se il vantaggio nei benchmark regge fuori dai test. Non è chiaro nemmeno quanto costi in hardware un deployment a piena precisione.