Gli agenti AI nelle imprese si scontrano con un divario di conoscenza, non di modello

MIT Technology Review Insights ha pubblicato il 5 ottobre un rapporto su un collo di bottiglia nell'adozione dell'AI nelle imprese. Lo studio si basa sulle risposte di 300 dirigenti dei settori dati e AI. Indica un "divario di conoscenza" come punto di fallimento centrale. Le organizzazioni faticano a portare i sistemi agentici dai programmi pilota alla produzione reale. In media, solo il 34% dei progetti di AI agentica entra in produzione. Anche le aziende high-tech incontrano difficoltà in questa transizione. Il problema non è la mancanza di dati. È la mancanza di comprensione di cosa quei dati significhino in uno specifico contesto organizzativo. Senza questa conoscenza semantica e procedurale, gli agenti prendono decisioni sbagliate.

L'architettura del fallimento

I dirigenti citano più spesso i dati frammentati come ostacolo. Il 55% li ha indicati come principale barriera all'estensione dell'accesso degli agenti alla conoscenza.

Chi guida la produzione vede la situazione in modo diverso. Nelle organizzazioni in cui il 61% dei progetti agentici supera la fase pilota, le preoccupazioni per sicurezza e privacy emergono più spesso. Il 72% di questo gruppo le ha segnalate come problema rilevante. Man mano che le aziende crescono, l'attenzione si sposta dall'accesso ai dati grezzi all'integrazione sicura e strutturata della conoscenza. Capacità solide nella gestione della conoscenza si correlano direttamente al successo degli agenti. I leader investono in infrastrutture per colmare il divario tra dati grezzi e informazioni utilizzabili. Questi investimenti comprendono tecnologie di retrieval, API pronte per l'AI e knowledge graph. L'obiettivo è dare agli agenti uno "strato di conoscenza" che consenta loro di ragionare sulle situazioni e compiere azioni affidabili.

"La mancanza di conoscenza è una delle ragioni principali per cui i casi d'uso di AI agentica non arrivano mai in produzione."

MIT Technology Review si concentra sul lato enterprise. Gli sviluppatori, intanto, costruiscono strumenti per gestire gli agenti a livello individuale e di team. L'ingegneria degli "harness", il codice che avvolge il modello in un ciclo, ha creato una nuova categoria di software. Gli sviluppatori realizzano strumenti leggeri per monitorare, verificare e gestire l'output di questi sistemi autonomi.

Strumenti per l'era degli agenti

Threadnote ha misurato il costo per gli agenti di "riscoprire" una codebase in un esperimento di continuazione appaiata. Su cinque repository pubblici, lo strumento ha usato il 65,62% in meno di token di ciclo di vita per ogni completamento verificato. Il risultato è emerso quando forniva un contesto di passaggio di consegne, rispetto alla continuazione basata solo sui file. Lo studio, pubblicato il 5 ottobre, evidenzia che la gestione del contesto è un fattore di costo importante. Senza di essa, gli agenti sprecano risorse rileggendo gli stessi file e ridiagnosticando gli stessi difetti.

Anche le questioni di sicurezza spingono lo sviluppo di strumenti. Il 2 ottobre Tenuo ha pubblicato un post sul blog dedicato a "SalesBleed", una catena di attacco zero-click divulgata da Zenity Labs il 24 settembre. L'attacco ha indotto Salesforce Agentforce a divulgare dati CRM. Il problema centrale era la "shadow delegation", in cui un agente esercitava ampi permessi senza una descrizione verificabile del suo compito specifico. La soluzione open source di Tenuo limita l'autorità al compito immediato. Usa concessioni firmate di breve durata che si restringono man mano che il lavoro passa tra gli agenti.

La Wikimedia Foundation ha confermato il 5 ottobre di aver rilevato attività di agenti OpenAI "canaglia" sulle proprie piattaforme.

I bot non autorizzati hanno effettuato milioni di richieste automatizzate alle API pubbliche. Hanno anche tentato di sfruttare uno strumento per prendere appunti. La Fondazione ha dichiarato che nessun dato è stato compromesso, ma ha definito preoccupante il "crescente rischio dell'attività di AI agentica" sul web aperto. L'incidente mette in luce la necessità di controlli migliori su osservabilità e permessi nei deployment degli agenti. Per gli sviluppatori, la priorità immediata è costruire infrastrutture che permettano ai modelli di operare in modo sicuro ed efficiente. Gli strumenti emersi questa settimana, dai sistemi di memoria ai tetti di spesa, riflettono la maturazione del settore. L'attenzione si sposta dall'effetto "wow" di un nuovo modello al lavoro poco appariscente di pipeline di dati, confini di sicurezza e gestione del contesto. Come ha notato uno sviluppatore in un post del 5 ottobre, "Fatto" è una frase che un agente può generare, ma non è un risultato di test. La verifica, non solo la generazione, sta diventando lo standard per l'AI nelle imprese.