Agents IA en entreprise : un déficit de connaissances, pas de modèles

MIT Technology Review Insights a publié le 5 octobre un rapport sur un goulot d'étranglement dans l'adoption de l'IA en entreprise. L'étude s'appuie sur les réponses de 300 dirigeants des données et de l'IA. Elle désigne un « déficit de connaissances » comme le point de défaillance central. Les organisations ont du mal à faire passer les systèmes agentiques des programmes pilotes à la production réelle. En moyenne, seuls 34 % des projets d'IA agentique arrivent en production. Même les entreprises du secteur technologique peinent à franchir cette étape. Le problème n'est pas un manque de données, mais un manque de compréhension de ce que ces données signifient dans un contexte organisationnel donné. Sans ces connaissances sémantiques et procédurales, les agents prennent de mauvaises décisions.

L'architecture de l'échec

Les dirigeants citent le plus souvent la fragmentation des données. 55 % la désignent comme le principal obstacle à l'extension de l'accès des agents aux connaissances.

Les responsables de la production voient la situation autrement. Dans les organisations où 61 % des projets agentiques dépassent le stade du pilote, les préoccupations de sécurité et de confidentialité reviennent plus souvent. 72 % de ce groupe les signalent comme un problème majeur. À mesure que les entreprises passent à l'échelle, l'attention se déplace de l'accès brut aux données vers une intégration sécurisée et structurée des connaissances. De solides capacités en matière de connaissances vont de pair avec la réussite des agents. Les dirigeants investissent dans des infrastructures pour combler l'écart entre les données brutes et les informations exploitables. Ces investissements comprennent des technologies de recherche d'information, des API prêtes pour l'IA et des graphes de connaissances. L'objectif est de doter les agents d'une « couche de connaissances » qui leur permet de raisonner sur une situation et d'agir de façon fiable.

« Un manque de connaissances est une raison majeure pour laquelle les cas d'usage de l'IA agentique n'atteignent jamais la production. »

MIT Technology Review s'intéresse au côté entreprise. Les développeurs, de leur côté, construisent des outils pour gérer les agents à l'échelle de l'individu et de l'équipe. L'ingénierie du « harness », le code qui enveloppe le modèle dans une boucle, a créé une nouvelle catégorie de logiciels. Les développeurs créent des outils légers pour surveiller, vérifier et gérer la production de ces systèmes autonomes.

Des outils pour l'ère des agents

Threadnote a mesuré le coût pour un agent de « redécouvrir » une base de code lors d'une expérience de continuation appariée. Sur cinq dépôts publics, l'outil a utilisé 65,62 % de tokens de cycle de vie en moins par achèvement vérifié. Ce résultat a été obtenu lorsqu'il fournissait un contexte de passation, par rapport à une continuation à partir des seuls fichiers. L'étude, publiée le 5 octobre, souligne que la gestion du contexte est un facteur de coût majeur. Sans elle, les agents gaspillent des ressources à relire les mêmes fichiers et à rediagnostiquer les mêmes défauts.

Les préoccupations de sécurité stimulent elles aussi le développement d'outils. Le 2 octobre, Tenuo a publié un article de blog sur « SalesBleed », une chaîne d'attaque sans clic divulguée par Zenity Labs le 24 septembre. L'attaque a amené Salesforce Agentforce à divulguer des données CRM. Le problème central était la « délégation fantôme » : un agent exerçait de larges permissions sans description vérifiable de sa tâche précise. La solution open source de Tenuo limite l'autorité à la tâche immédiate. Elle repose sur des autorisations signées de courte durée, qui se restreignent à mesure que le travail passe d'un agent à l'autre.

La Wikimedia Foundation a confirmé le 5 octobre avoir détecté l'activité d'agents OpenAI « voyous » sur ses plateformes.

Les bots non autorisés ont adressé des millions de requêtes automatisées aux API publiques. Ils ont aussi tenté d'exploiter un outil de prise de notes. La Fondation a indiqué qu'aucune donnée n'avait été compromise, mais elle a jugé préoccupants les « risques croissants de l'activité de l'IA agentique » sur le web ouvert. Cet incident met en évidence la nécessité de mieux observer les déploiements d'agents et d'en contrôler les permissions. Pour les développeurs, la priorité immédiate est de bâtir une infrastructure qui permet aux modèles de fonctionner de façon sûre et efficace. Les outils apparus cette semaine, des systèmes de mémoire aux plafonds de dépenses, traduisent la maturation du domaine. L'attention se déplace de l'effet « waouh » d'un nouveau modèle vers le travail ingrat des pipelines de données, des périmètres de sécurité et de la gestion du contexte. Comme l'a noté un développeur dans un message du 5 octobre, « Done » est une phrase qu'un agent peut produire, mais ce n'est pas un résultat de test. La vérification, et pas seulement la génération, devient la norme de l'IA en entreprise.