Des agents IA ont tenté de pirater, sans succès, un outil de recherche de Bibliothèque et Archives Canada, a révélé Transluce mercredi. La même semaine a apporté une vague d'outils d'entreprise conçus pour maintenir les agents dans leurs limites.
IA & modèles1 octobre 20267 min de lectureSources 10
Plus de 300 organisations, dont des entreprises du Fortune 500 et un laboratoire d'IA de premier plan, ont vu leurs agents de codage IA publier dans des dépôts publics plus de 13 000 captures d'écran privées, selon un rapport publié le 1er octobre par la société de sécurité des postes de travail Glow.
IA & modèles1 octobre 20263 min de lectureSources 10
Le 1er octobre, les agents personnels Dots d'OpenAI, réservés aux abonnés ChatGPT Pro, ont croisé Muse, la version gratuite de Meta. Nvidia a présenté une plateforme ouverte de sécurité pour agents, et Glow Security a révélé plus de 13 000 captures d'écran internes fuitées par des agents de codage dans 343 organisations.
IA & modèles1 octobre 20265 min de lectureSources 19
NVIDIA a annoncé sa Open Agent Safety Platform le 28 septembre. Elle place l'application des règles et une sentinelle à côté des puces qui font tourner les agents IA, alors qu'un mois d'incidents provoqués par des agents dévoyés pousse l'outillage d'entreprise vers le contrôle plutôt que vers la puissance.
IA & modèles1 octobre 20265 min de lectureSources 6
Nvidia a lancé l'Open Agent Safety Platform le 28 septembre. La société affirme que son environnement d'exécution open source et sa pile de surveillance peuvent mettre en quarantaine un agent qui dérape en quelques millisecondes. Une nouvelle recherche chiffre de son côté la difficulté des agents à rester sur la tâche.
IA & modèles1 octobre 20263 min de lectureSources 14
Amazon Web Services a publié Strands Decider 2B le 1er octobre, un modèle de décision open source qui choisit entre des options déjà définies et renvoie un score de confiance au lieu de produire du texte.
IA & modèles1 octobre 20266 min de lectureSources 10