Kitsuno testa il modello aperto Laya in modalità shadow accanto all'API chiusa Jev
Kitsuno ha avviato i test di Laya, un modello decisionale a pesi aperti, in modalità shadow in produzione per sostituire lo stack proprietario chiuso, con l'obiettivo di sovranità dei dati e controllo dei costi.

Il 3 ottobre Kitsuno ha pubblicato un post tecnico in cui spiega la scelta di affiancare un modello open source all'infrastruttura chiusa già in uso. L'azienda sta valutando Laya, modello a pesi aperti di Nandakishor Mukkunnoth e ConvAI Innovations, contro lo strumento chiuso attuale, Jev. La doppia configurazione è un esperimento deliberato di sovranità architetturale, non un semplice aggiornamento. Il team vuole capire se un modello aperto riesce a gestire le sfumature dei dati sul mercato del lavoro europeo senza inviare informazioni sensibili a server esterni. La posta in gioco è alta: il sistema attuale funziona, ma si trova in una giurisdizione che complica la conformità. Facendo girare i due sistemi in parallelo, gli ingegneri possono misurare lo scarto in tempo reale senza interrompere il servizio che ogni giorno gestisce le richieste di abbinamento tra domanda e offerta di lavoro.
La scelta nasce da un principio interno rigido: i dati devono restare nei data center europei.
Jev gira negli Stati Uniti ed è a codice chiuso. Laya è disponibile con licenza Apache 2.0 e può essere ospitato in locale. Così si rispetta il nono principio di Kitsuno, che impone di tenere i dati entro i confini europei. Per un'azienda che tratta dati personali nell'UE, le conseguenze giuridiche e operative di questa differenza sono notevoli. Inviare le richieste a un'API con sede negli Stati Uniti crea una dipendenza che la dirigenza vuole eliminare. L'hosting locale garantisce che i pesi del modello e i dati che elaborano non oltrepassino mai i confini, un requisito sempre più diffuso nei settori regolamentati. È un passaggio netto: dall'affittare l'intelligenza al possedere l'infrastruttura che la produce.
Il divario di prestazioni è ampio ma gestibile. In un piccolo test di staging, Laya non addestrato ha individuato il paese corretto nel 26 percento degli annunci di lavoro. Ha azzeccato la modalità di lavoro nel 50 percento dei casi. Jev, sulle stesse metriche, arriva all'89 percento di accuratezza. Su un insieme di test più ampio, Laya ha risposto correttamente al 44 percento delle domande, mentre Jev al 94 percento.
L'approccio in modalità shadow
Kitsuno non sostituisce Jev subito. Ha invece attivato Laya in configurazione "shadow". Il modello aperto elabora le stesse richieste reali di Jev, ma i suoi risultati non servono alle decisioni finali. Così il team misura le prestazioni in un ambiente reale senza mettere a rischio la stabilità della produzione. L'obiettivo è addestrare Laya sui dati specifici di Kitsuno finché non raggiunge o supera il modello chiuso.
Un vincolo importante è il divieto di usare gli output di Jev come etichette di addestramento. Il contratto con TypeSafe, aggiornato il 23 settembre, vieta esplicitamente di usare l'output di Jev per la distillazione del modello o per addestrare un modello a imitare il servizio. Kitsuno ha applicato la regola in modo rigoroso. Il ruolo del database per il worker di Laya non può nemmeno leggere le risposte di Jev. Il team ha quindi dovuto costruire da zero una nuova pipeline di etichettatura, rallentando il lavoro ma garantendo la conformità.
L'attuale stack Jev è efficiente sul piano dei costi. Dal 23 settembre ha gestito 35.812 chiamate registrate, con 76 milioni di token in input, per un costo totale di USD 3,68.
La ragione principale del passaggio non è il risparmio finanziario a questi volumi, ma la sovranità architetturale e la possibilità di personalizzare il modello sulle esigenze del business. Il costo per chiamata è trascurabile, quindi il caso economico si regge interamente sul controllo. Se il team riuscirà a rendere il modello aperto abbastanza accurato, avrà la libertà di modificare la logica senza aspettare un aggiornamento del fornitore. Questa indipendenza è il valore centrale del progetto. Trasforma la componente di intelligenza artificiale da dipendenza da un servizio in una risorsa interna su cui il team di ingegneria può iterare direttamente.
Il contesto del settore
La tendenza a sostituire le API chiuse con i pesi aperti sta prendendo piede. Aleph Alpha ha rilasciato Kolibri il 3 ottobre, un modello sovrano a pesi aperti con 78 miliardi di parametri totali e 3 miliardi di parametri attivi. È pensato per i settori regolamentati e supporta lunghezze di contesto fino a 1 milione di token. Come Laya, Kolibri è disponibile con licenza Apache 2.0, il che permette alle aziende di eseguirlo on-premise senza inviare dati interni a terzi.
Anche Meta AI Research ha sottolineato l'utilità dei modelli aperti per compiti complessi. Il team ha collaborato con matematici per risolvere problemi di ricerca aperta usando Muse Spark 1.1 e 1.2. I paper indicavano chiaramente quali passaggi erano stati redatti dall'AI e quali dai ricercatori, mostrando un flusso di lavoro trasparente che i modelli aperti rendono possibile.
Per molti sviluppatori la scelta tra modelli chiusi e aperti non riguarda più solo l'accuratezza. Riguarda il controllo, la conformità e la capacità di iterare. Come osserva Kitsuno, l'addestramento è il prodotto. Un modello aperto è un punto di partenza a cui si possono insegnare domande specifiche, mentre un'API chiusa è una scatola nera che non si può modificare per il proprio caso d'uso.
Il settore va verso un approccio ibrido, in cui controlli deterministici e AI agentica lavorano insieme. La comunità open source fornisce gli strumenti per costruire questi stack in locale, riducendo la dipendenza da fornitori esterni e assicurando che i dati sensibili non lascino mai l'infrastruttura dell'organizzazione.
Fonti
10- 01Training an open decision model to replace a closed one, in shadow on prodEN
- 02Kolibri: A Sovereign Open-Weight ModelEN
- 03Solving Open Research Problems TogetherEN
- 04AI Experts Want to Do High-Stakes Research Out in the OpenEN
- 05Open source SDK to build Muse gadgetsEN
- 06Open 10-player CS:GO dataset for multiplayer world modelsEN
- 07E2E: The open source AI testing frameworkEN
- 08Cloudflare opens more Enterprise-only features to all customersEN
- 09A modern open-source Amiga CDFileSystem replacementEN
- 10ThreeJS Port of OpenDLSS-NREN
Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.
I contenuti sono stati preparati dalla redazione con il supporto dell'IA.
Commenti
0- Nessun commento — sii il primo.