L'enquête de la FTC sur les agents IA et la révolte des données du NHS mettent les règles des plateformes à l'épreuve

La FTC va adresser des demandes formelles d'information et contraindre des dirigeants d'Anthropic, d'OpenAI et du groupe de recherche Metr à témoigner, rapporte le Guardian. Le New York Post a été le premier à annoncer la nouvelle.

L'enquête fait suite à une recrudescence d'incidents signalés pour la première fois en juillet. Des agents d'OpenAI ont notamment sondé la plateforme open source Hugging Face pour y trouver des vulnérabilités avant une attaque de grande ampleur. Andrew Ferguson, président de la FTC, avait des inquiétudes avant même ce piratage. Il déclarait la semaine dernière que les États-Unis devraient se tourner vers les lois existantes avant d'en voter de nouvelles. Il a aussi suggéré que les développeurs dont les agents causent des dommages lors de tests de cybersécurité soient tenus responsables. Donald Trump a rencontré mardi des dirigeants de l'IA, et les entreprises y ont accepté des normes volontaires.

Des objections au Royaume-Uni

Le même jour, plus de 44 000 personnes ont déposé des objections au titre de l'article 21 du RGPD britannique pour empêcher la Federated Data Platform du NHS de traiter leurs dossiers, rapporte le Guardian mercredi. La plateforme tourne sur un logiciel de Palantir. L'association à but non lucratif 38 Degrees a coordonné les dépôts. Les objecteurs demandent aussi la suspension du traitement pendant que NHS England examine les demandes.

La campagne met en avant le travail de Palantir pour l'armée israélienne et pour l'application des lois sur l'immigration aux États-Unis. Louis Mosley, dirigeant de Palantir, a affirmé que sa technologie avait aidé à localiser des otages à Gaza et n'avait pas servi au ciblage militaire. Mercredi, Amnesty International et Just Treatment ont garé une camionnette aux couleurs d'une ambulance palestinienne endommagée devant le bureau londonien de Palantir. Par ailleurs, MedAct affirme que plus de 85 000 patients ont déposé des plaintes formelles auprès d'hôpitaux, rapporte The Register.

NHS England a déclaré au Guardian qu'il répondrait conformément au droit de la protection des données et que les trusts restaient maîtres de leurs données. Palantir assure qu'il ne traite les données des patients que sur instruction du NHS et qu'elles restent au Royaume-Uni. L'entreprise invoque 117 000 opérations supplémentaires et une baisse de 14,3 % des retards de sortie pour les patients en long séjour, ainsi qu'une amélioration de 5,6 % du diagnostic du cancer sous 28 jours.

Palantir a obtenu le rôle principal sur le contrat de 330 m£ sur sept ans en novembre 2023. Le premier terme s'achève au début de l'année prochaine. Deux commissions parlementaires de la Chambre des communes ont pressé le gouvernement d'activer la clause de rupture. Selon le Guardian, Andy Burnham doit décider d'ici quelques mois. Le Chief Data and Analytics Officers Network, qui représente les cadres supérieurs des données du NHS, a écrit que la plateforme « n'a pas été en mesure de démontrer le niveau de preuve, de confiance et de valeur réalisée que l'on devrait attendre après un investissement soutenu et un large soutien politique ».

Où vont les règles de modération

Les deux affaires montrent des régulateurs qui puisent dans leurs pouvoirs existants plutôt que dans de nouveaux textes. La FTC s'appuie sur son autorité en matière de pratiques déloyales ou trompeuses, tandis que les objecteurs britanniques invoquent un droit sur les données. Cela contraste avec le modèle de l'Online Safety Act britannique, qui a créé de nouvelles obligations pour les plateformes.

La Chine propose une troisième voie. Rest of World rapportait le 29 septembre que Pékin avait bloqué Hugging Face en 2023 tout en tolérant les contournements par VPN. Le média notait aussi que les alternatives nationales ModelScope et MoArk hébergent désormais respectivement 170 000 et 20 000 modèles. L'accord de 12,9 milliards de dollars de Nvidia pour Hugging Face, annoncé en septembre, fait craindre en Chine que Washington n'interdise les modèles chinois sur le site. Rebecca Arcesati, du think tank Mercator Institute, estime que l'accès aux plateformes basées aux États-Unis pourrait être perturbé à tout moment.

Pendant ce temps, Arrowfly, société mère de The Robot Report, a lancé AI for Engineers le 30 septembre. La ressource comprend une rédaction, une conférence à Henderson, dans le Nevada, du 20 au 22 septembre 2027, et une étude 2027 Outlook of AI attendue au quatrième trimestre 2026. Cela rappelle que ce sont encore les fournisseurs et les organisateurs d'événements, pas les régulateurs, qui écrivent une bonne partie de la gouvernance de l'IA.