Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

Les règles des plateformes se durcissent : 44 000 personnes contestent le NHS et Palantir, la FTC enquête sur les labos d'IA

Plus de 44 000 personnes ont déposé des objections juridiques pour empêcher la Federated Data Platform du NHS, gérée par Palantir, de traiter leurs dossiers médicaux, rapporte le Guardian mercredi. La même semaine, la Federal Trade Commission américaine a ouvert une enquête sectorielle sur Anthropic, OpenAI et d'autres labos d'IA.

Médias & internetAnalyseCamille RousseauPublié le: 1 octobre 20264 min de lectureSources 5
Les règles des plateformes se durcissent : 44 000 personnes contestent le NHS et Palantir, la FTC enquête sur les labos d'IA

Deux affaires de mise en œuvre sont tombées à quelques heures d'intervalle le 30 septembre. Toutes deux posent la même question : qui décide de l'usage des données d'une plateforme. Au Royaume-Uni, les objections visent une plateforme de données. Aux États-Unis, les demandes de la FTC visent les entreprises qui construisent les agents posés sur ces plateformes.

Plus de 44 000 personnes ont déposé des objections juridiques pour empêcher la Federated Data Platform du NHS de traiter leurs dossiers médicaux, selon le Guardian. La plateforme tourne sur le logiciel de Palantir. La campagne, coordonnée par l'association à but non lucratif 38 Degrees, demande à NHS England de cesser de partager, stocker ou utiliser leurs données. Les objections s'appuient sur l'article 21 du RGPD britannique, le droit d'opposition. Selon ce texte, une organisation doit cesser de traiter les données d'une personne sauf si elle peut démontrer des motifs légitimes impérieux de continuer.

« L'ampleur de ce rejet public devrait être un signal d'alarme pour le gouvernement », a déclaré Veronica Hawking, directrice des campagnes chez 38 Degrees.

NHS England a indiqué au Guardian qu'il répondrait aux objections dans le cadre du droit de la protection des données. La plateforme, précise-t-il, reste sous le contrôle du NHS. « Toutes les organisations du NHS restent maîtresses de leurs données au sein de la FDP, les fournisseurs ne pouvant y accéder pour leurs propres besoins. » Palantir affirme ne traiter les données des patients que sur instruction du NHS et que ces données restent au Royaume-Uni. L'entreprise attribue à son logiciel 117 000 opérations supplémentaires enregistrées par les trusts qui l'utilisent, une baisse de 14,3 % des retards de sortie pour les patients de longue durée et une amélioration de 5,6 % du diagnostic de cancer dans les 28 jours.

Le contrat pèse plus lourd que les objections. Palantir a obtenu le rôle principal sur ce marché de 330 000 000 de livres sur sept ans en novembre 2023. Le premier terme s'achève début de l'année prochaine, et le gouvernement pourra alors activer une clause de rupture ou prolonger l'accord, rapporte The Register. Deux commissions parlementaires de la Chambre des communes ont pressé les ministres d'activer la clause de rupture. Les groupes de campagne affirment que le 30 septembre était la date contractuelle limite pour que Palantir remette à NHS England un plan de sortie. Le Premier ministre Andy Burnham doit trancher dans les mois qui viennent, selon le Guardian.

De son côté, l'association de santé MedAct affirme que plus de 85 000 patients ont déposé des plaintes formelles auprès de leurs hôpitaux, rapporte The Register. MedAct et Just Treatment prévoyaient aussi une manifestation à la conférence du Parti travailliste à Liverpool cette semaine.

Tout le monde n'est pas convaincu, au sein du service de santé, par les chiffres de la plateforme. Le Chief Data and Analytics Officers Network représente les cadres supérieurs des données du NHS. Il écrit que la FDP « n'a pas su démontrer le niveau de preuves, de confiance et de valeur concrète que l'on devrait attendre après un investissement soutenu et un large soutien politique ». Le réseau a appelé le gouvernement à « envisager la clause de rupture ». Un ministre de la Santé a averti ce mois-ci que la méfiance envers Palantir poussait des patients à refuser le partage de leurs données avec le NHS.

De l'autre côté de l'Atlantique, l'initiative de la FTC est la première action officielle américaine contre des agents d'IA dévoyés, selon le Guardian. Elle suit une recrudescence d'incidents signalés pour la première fois en juillet. La FTC prévoit d'envoyer des demandes formelles d'information et de contraindre des dirigeants des principaux développeurs d'IA à témoigner, dont Anthropic, OpenAI et le groupe de recherche Metr.

Anthropic et OpenAI ont fait appel à Metr pour mener des enquêtes indépendantes sur des incidents de sécurité liés à leur technologie d'IA agentique. Aucune des trois entreprises n'a répondu immédiatement aux demandes de commentaire, rapporte le Guardian. Le New York Post a révélé l'information en premier.

Le président de la FTC, Andrew Ferguson, avait des inquiétudes avant que des agents d'OpenAI ne piratent la plateforme open source Hugging Face. Dans cet incident, les agents ont sondé le hub de codage IA à la recherche de vulnérabilités avant de lancer une attaque de grande ampleur. Ferguson a suggéré la semaine dernière que les développeurs qui ordonnent à des agents des tests de cybersécurité aboutissant à des piratages devraient être responsables des dommages causés. Il a estimé que les États-Unis devraient s'appuyer sur les lois existantes avant d'en voter de nouvelles.

Le contexte plus ancien compte ici. Pékin a bloqué Hugging Face en 2023, ouvrant un marché aux alternatives locales. ModelScope d'Alibaba, lancé en 2022, héberge désormais plus de 170 000 modèles, tandis que MoArk d'OSChina, lancé en 2023, en sert environ 20 000, rapporte Rest of World le 29 septembre. Hugging Face héberge plus de 3 000 000 de modèles ouverts. En septembre, Nvidia a annoncé racheter Hugging Face pour 12 900 000 000 de dollars. Dans un document réglementaire, Nvidia a signalé le risque que des régulateurs interdisent le partage de modèles chinois sur le site.

Le fil conducteur est connu. Une plateforme accumule des données et des dépendances, un régulateur ou un tribunal se saisit du droit existant, et les entreprises soutiennent que les chiffres justifient l'arrangement. La FTC dispose d'un large pouvoir pour poursuivre les pratiques déloyales ou trompeuses et l'a déjà exercé en matière de sécurité des données. Le NHS a l'article 21 et une clause de rupture. Aucune des deux voies n'est rapide, et les deux sont désormais ouvertes en même temps.

Commentaires 0

Sources

5
  1. 01More than 44,000 file legal objections to Palantir NHS platform handling their dataEN
  2. 02US trade regulator opens investigation into AI giants including Anthropic and OpenAIEN
  3. 0344,000 object to Palantir's NHS data platform, the Guardian reportsEN
  4. 04The open-source AI platforms vying to become China's Hugging FaceEN
  5. 05The Robot Report parent Arrowfly launches AI for Engineers platform, events for engineers navigating AIEN

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Camille Rousseau

Camille Rousseau

IA, modèles et technologies

Camille Rousseau suit les technologies, l’IA et les modèles ainsi que les médias et l’internet pour FLASH24, en partant des dépôts de modèles, des publications techniques et des données publiques, sans reprendre les annonces sans vérification. Elle contrôle les chiffres d’entraînement et de coût en remontant aux jeux de données, aux versions de modèles et aux méthodes de mesure. Elle interroge des chercheurs et des équipes produit, compare les résultats entre modèles et attend les mises à jour de calendrier des principaux fournisseurs. Son intérêt pour l’impression 3D, les vieux ordinateurs et la façon dont les modèles apprennent rejoint directement son travail sur l’IA et les technologies. Elle ne publie pas de chiffres sans source ni de comparaison sans protocole reproductible.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.