Les outils pour agents attirent de l'argent frais et de nouveaux examens, à l'ouverture du forum de Dallas

Le CNBC AI Forum s'est ouvert à Dallas le 1er octobre, sur un problème très concret : faire passer l'IA des projets pilotes à la production. Le blog en direct de CNBC indique que l'ordre du jour couvre le risque des agents autonomes, la cybersécurité, la construction de centres de données et une réglementation inégale. Parmi les intervenants figurent le président d'OpenAI Bret Taylor et Saul Van Beurden, de Wells Fargo.

Restate, société berlinoise fondée par les créateurs d'Apache Flink, a annoncé mercredi avoir levé une série A de 20 m$ menée par Singular, avec la participation de Redpoint Ventures et Capital One Ventures, ce qui porte le financement total à 27 m$, selon The Next Web. Metaview, start-up basée à Londres et San Francisco, a annoncé le même jour une série C de 60 m$ menée par Insight Partners, portant son total à 110 m$.

Les deux tours misent sur la plomberie peu glamour des agents plutôt que sur les modèles eux-mêmes.

Restate vend de l'exécution durable : le logiciel enregistre ce qu'un programme a déjà fait pour qu'il puisse reprendre correctement après un plantage, un redémarrage ou une connexion interrompue. Les agents compliquent la tâche, soutient l'entreprise, parce qu'ils tournent plus longtemps et appellent des modèles, des outils, des API et d'autres agents en chemin. Restate ne s'appuie pas sur une base de données généraliste ; elle utilise son propre journal distribué comme base pour l'exécution, l'état et la communication. Elle a récemment lancé Bring Your Own Cloud, pour exécuter une version gérée dans le compte du client. The Next Web rapporte que Replit a migré son Replit Agent vers Restate, et que la nouvelle conception utilise plus de 10 fois plus d'actions durables que l'ancienne.

"Au départ, il n'a jamais été conçu pour les agents, mais il se trouve qu'il correspond parfaitement à tous ces problèmes que les agents font remonter", a déclaré Stephan Ewen, PDG de Restate, à TechCrunch.

Metaview vise une autre tranche de la pile. L'entreprise a commencé en 2018 en enregistrant des entretiens d'embauche et en a capté plus de 6 000 000, rapporte The Next Web. Ses agents sourcent désormais des candidats, examinent les candidatures au regard d'un brief de poste et mènent des entretiens de présélection structurés. Les humains fixent les critères et prennent toutes les décisions finales, affirme la société. Plus de 7 000 entreprises l'utilisent, dont Deel, Affirm, Navan et Replit, et certains clients ont réduit leur délai d'embauche de plus de 75 %.

"Les meilleures équipes d'ingénierie sont déjà passées de l'écriture manuelle de code à l'orchestration d'agents d'IA qui font le travail. Le recrutement est la prochaine étape", a déclaré Siadhal Magos, PDG et cofondateur de Metaview, dans un communiqué.

Cet optimisme côtoie des preuves plus dures de ce que font les agents quand personne ne regarde. La start-up de sécurité Glow Security a trouvé plus de 13 000 captures d'écran internes d'entreprises que des agents d'IA avaient publiées, selon The Decoder. Les images provenaient de projets logiciels internes de 343 organisations, dont des entreprises du Fortune 500, des sociétés financières et des laboratoires d'IA. Les développeurs demandent couramment aux agents de prendre des captures avant et après, pour que leurs collègues puissent examiner les changements d'interface. Or GitHub ne permet d'attacher des images aux pull requests que via le navigateur, pas en ligne de commande, là où travaillent les agents. Ceux-ci créaient donc des dépôts publics, généralement sur le compte personnel du développeur, et y téléversaient les images. Les captures montraient des données clients, des identifiants de connexion et des fonctionnalités non publiées. Comme les images n'étaient pas stockées dans les comptes d'entreprise, les équipes de sécurité ne les ont jamais remarquées. Environ un tiers des organisations touchées utilisaient gitshot, un outil open source qui stocke les captures publiquement.

C'est le genre d'incident que le versant matériel cherche désormais à devancer. Le 28 septembre, Nvidia a annoncé son Open Agent Safety Platform, composée du logiciel open source OpenShell et du design de référence Sentry. Elle vise la gouvernance et le contrôle du matériel, du calcul et des logiciels pour les robots qui exécutent des agents d'IA, a rapporté The Robot Report. Gecko Robotics, qui construit des robots d'inspection grimpants, rampants, volants et nageants pour des entreprises de l'énergie et pour l'US Air Force et l'US Navy, fait partie des plus de 100 organisations qui travaillent avec cette technologie.

"À mesure que nous découvrons la frontière des capacités de l'IA, nous devons accélérer la découverte à la frontière de la sécurité de l'IA", a déclaré le PDG de Nvidia, Jensen Huang, dans un communiqué. "La sûreté et la sécurité exigent une ingénierie full-stack."

La conception de la plateforme est délibérément peu glamour. OpenShell fournit une frontière d'exécution sécurisée qui trace les actions et applique les politiques sur les processeurs Nvidia Vera. Sentry, de son côté, fait tourner un chien de garde hors bande sur les unités de traitement de données BlueField-4 et peut mettre en quarantaine un agent qui tente de sortir de ses limites en quelques millisecondes. Justin Boitano, de Nvidia, a déclaré lors d'un point presse que ce domaine de confiance indépendant fonctionne comme l'îlot de sécurité d'une voiture autonome. Le PDG de Gecko, Jake Loosararian, a résumé la position de son entreprise sans détour : "L'idée que perdre le contrôle de l'IA soit inévitable est une excuse dangereuse pour l'inaction."

Du côté grand public, la question de l'interface reste ouverte. Airbnb a déployé cette semaine une nouvelle recherche dopée à l'IA, et son cofondateur et PDG Brian Chesky a déclaré à TechCrunch qu'il ne croit toujours pas qu'un chatbot soit la bonne interface pour le commerce en ligne. Sa critique est précise : les chatbots proposent quelques options à la fois et exigent plusieurs tours, et ils sont conçus pour une seule personne, ce qui cadre mal avec la planification de voyage faite par des familles et des groupes. Dans les trois à six mois à venir, a-t-il dit, la tâche de l'entreprise est d'explorer une IA "multijoueur", où plusieurs personnes peuvent utiliser le même agent en même temps.

Il s'attend aussi à ce que les agents exigent d'Airbnb plus qu'un point d'accès de recherche. "Si j'ai un agent, mais que je veux aussi une vraiment bonne fonctionnalité de navigation, si je veux pouvoir envoyer un message à l'hôte comme sur Airbnb, si je veux pouvoir comparer, si je veux pouvoir vérifier mon identité, si je veux pouvoir utiliser une carte, si je veux ensuite pouvoir ajouter d'autres éléments, alors si je veux rester sur la plateforme, soit l'agent doit faire une passation, soit l'application de l'agent devrait construire un peu plus, je pense, un kit de développement logiciel robuste pour vous apporter l'application, pour ainsi dire", a-t-il déclaré.

DoorDash a bougé le premier sur la messagerie. L'entreprise a annoncé mercredi un agent de commande par texto qui fonctionne via Apple Messages, permettant aux utilisateurs d'envoyer des requêtes comme "commande ma commande habituelle", avec une liste d'attente ouverte aux utilisateurs américains, a rapporté TechCrunch. La société a aussi indiqué qu'elle commencerait à tester des drones de livraison avec certains restaurants du nord de la Californie. Photon, qui aide les développeurs à construire des agents fonctionnant sur iMessage et WhatsApp, a levé 4,5 m$ en financement d'amorçage après avoir enregistré plus de 40 000 développeurs, a rapporté TechCrunch le 1er octobre. Elle affirme que son chiffre d'affaires a été multiplié par 10 en quatre mois et que le volume de messagerie a été multiplié par 5 rien que le mois dernier.

La réglementation n'a pas suivi. CNBC note qu'un an après que la sénatrice Marsha Blackburn a utilisé ce même forum pour pousser à une réglementation fédérale de l'IA, aucune règle de ce type n'a vu le jour, alors même que les cas d'attaques pilotées par des agents se multiplient. Le président Donald Trump, parlant aux journalistes cette semaine après avoir reçu des dirigeants technologiques à la Maison-Blanche, a déclaré voir une "auto-régulation considérable" de la part du secteur et que le gouvernement n'arrêterait pas le développement de l'IA.

Une réserve traverse les annonces de la semaine : la plupart des chiffres viennent des entreprises elles-mêmes. Le nombre de clients de Restate, l'affirmation de 75 % de Metaview et les chiffres de croissance de Photon sont autodéclarés, et seul le tour de Restate a un investisseur principal externe nommé dans le même communiqué. Une infrastructure bon marché décidera peut-être lesquels de ces agents survivent au contact de la production, mais les reportages sur ce point restent en avance sur le financement.