Apple resserre les règles de confidentialité de macOS face aux agents IA

Apple a décidé de restreindre la manière dont les développeurs demandent l'accès complet au disque sur macOS. L'entreprise a déclaré sur son blog développeur que certains utilisent cette autorisation de façon à exposer les fichiers, les e-mails et l'historique de navigation des utilisateurs sans consentement clair.

Ce changement affecte directement la vague actuelle d'outils « agent personnel » qui nécessitent une intégration profonde au système pour gérer des e-mails ou organiser des fichiers. Cette évolution intervient pendant que l'industrie débat de l'architecture de ces nouveaux assistants. Alors qu'Apple se concentre sur la sécurité, d'autres développeurs poussent pour une autonomie plus large. Nathan Baschez, designer produit chez Notion, s'oppose au modèle « agent personnel » dans un récent essai pour The Leverage. Il soutient que la trajectoire du travail ne repose pas sur un agent unique gérant tout, mais sur des « usines » : des systèmes IA partagés conçus pour traiter des types de tâches spécifiques au sein d'une organisation. Cette vision suggère que l'agent monolithique qui inquiète Apple pourrait être remplacé par une infrastructure plus modulaire et spécialisée.

Microsoft s'exprime également sur l'évaluation de ces agents.

Un rapport conjoint avec Hugging Face, publié le 3 octobre, détaille « ThinkingBox », un benchmark qui évalue les agents IA selon les enregistrements de base de données qu'ils laissent derrière eux plutôt que le texte qu'ils génèrent. L'étude a révélé que sur un ensemble de 121 680 essais, 67,24% des tentatives échouées semblaient se terminer proprement aux yeux d'un observateur, bien que les données sous-jacentes soient incorrectes. Cela met en évidence un écart critique : les agents semblent souvent confiants tout en exécutant des erreurs que seules les vérifications d'état backend peuvent révéler. Les chiffres suggèrent que les métriques de succès de surface sont dangereusement trompeuses pour ces systèmes.

Infrastructure pour l'ère des agents

À mesure que les entreprises adoptent ces outils, une nouvelle couche logicielle émerge pour les soutenir. Spawned, une plateforme cloud pour agents, a été lancée pour permettre aux systèmes IA de provisionner et gérer une infrastructure réelle dans AWS, GCP ou Azure. Contrairement aux consoles traditionnelles, Spawned est conçue pour être opérée par des agents, offrant un cadre déclaratif qui prévient les « composants hallucinés » et les factures cloud incontrôlables.

La plateforme souligne que les ressources sont exportables et compatibles Terraform, garantissant que les entreprises ne sont pas verrouillées par un nouveau fournisseur uniquement parce que leur IA l'utilise. Les préoccupations de sécurité s'étendent au-delà des permissions locales vers l'identité réseau. AgentID, un service d'AgentMail, propose que les agents aient leurs propres identités numériques plutôt que d'emprunter les identifiants des utilisateurs. Lorsqu'un agent utilise la connexion d'un humain, l'application ne peut pas distinguer la personne du bot.

Si l'agent se comporte mal, le seul moyen de l'arrêter est de changer le mot de passe de l'utilisateur, ce qui verrouille également l'humain. AgentID donne à l'agent sa propre boîte de réception et sa clé de connexion, permettant au propriétaire de révoquer l'accès sans affecter son compte personnel. La complexité de la gestion de ces systèmes est encore compliquée par la « dérive agentique ». Un guide publié le 4 octobre explique que le comportement d'un agent peut changer sans aucune mise à jour du code. Cela se produit lorsque le modèle sous-jacent, les outils ou les sources de données évoluent. Comme les agents opèrent dans un système de systèmes, un changement dans une bibliothèque de dépendances ou dans les contrôles de sécurité d'un fournisseur de modèle peut altérer la sortie de l'agent. Cela signifie que la gestion de version traditionnelle est insuffisante ; les équipes doivent surveiller l'écosystème entier en continu. Pour les développeurs qui construisent ces agents, les outils deviennent plus spécialisés. Kimchi, une plateforme d'agents de codage, impose des plafonds budgétaires rigides et garantit zéro égress de données du modèle, gardant le code et les prompts dans les limites de l'entreprise. De même, Cosh offre un agent de terminal basé sur Rust qui évite la troncature de contexte, un problème courant dans les sessions longues.

Ces outils reflètent un consensus croissant que l'autonomie doit s'accompagner de garde-fous opérationnels stricts. L'intervention d'Apple sert de rappel que, à mesure que les agents IA deviennent plus capables, les risques associés à leur accès aux données personnelles augmenteront considérablement. L'entreprise n'a pas détaillé les mécanismes techniques spécifiques des nouveaux contrôles, mais elle a souligné que l'octroi d'un tel accès « extraordinaire » exigera désormais une action utilisateur très explicite. Pendant que l'industrie s'empresse de construire le prochain paradigme, la tension entre autonomie et confidentialité devient la contrainte déterminante.