Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

Les géants américains de l'IA signent un engagement de sécurité d'une page, la FTC enquête sur OpenAI et Anthropic

Le 1er octobre, le président américain Donald Trump et six entreprises technologiques ont signé une déclaration de sécurité de l'IA d'une page lors d'un déjeuner à la Maison-Blanche. La Federal Trade Commission mène une enquête sur l'ensemble du secteur, visant Anthropic, OpenAI et d'autres.

MondeExpliquéDr Hélène FontainePublié le: 1 octobre 20266 min de lectureSources 5
Les géants américains de l'IA signent un engagement de sécurité d'une page, la FTC enquête sur OpenAI et Anthropic

Google, OpenAI, Anthropic, Meta, xAI et Nvidia ont signé la déclaration le 1er octobre, selon le média technologique allemand heise online. Le rapport indique qu'elle tient sur une seule page A4. Elle affirme que chaque entreprise est responsable de la sécurité de sa propre technologie. Elle précise aussi que chacune doit concevoir des produits qui inspirent confiance aux utilisateurs.

heise souligne que le document emploie partout « nous pensons que [les entreprises] devraient », et non « nous allons ». Le média note également que la plupart des mesures énumérées ont déjà été annoncées ou mises en œuvre par les mêmes entreprises. On y trouve une équipe dédiée à la sécurité, un comité indépendant au sein du conseil d'administration et des réunions régulières sur les normes. Le dernier paragraphe suggère qu'il pourrait être utile à l'avenir d'inscrire ces mesures dans des règlements ou des lois. Peut-être.

Ce que fait réellement la FTC

La même semaine, le régulateur américain du commerce est passé des paroles aux actes contraignants. Le Guardian rapportait le 30 septembre que la Federal Trade Commission menait une enquête sur l'ensemble du secteur, visant Anthropic, OpenAI et d'autres laboratoires d'IA. L'enquête vise à identifier les dangers potentiels que leur technologie fait peser sur les consommateurs. La FTC prévoit d'adresser des demandes formelles d'information et de contraindre des dirigeants des principaux développeurs d'IA à témoigner, notamment ceux d'Anthropic, d'OpenAI et du groupe de recherche Metr. Le New York Post a révélé l'information en premier, selon le Guardian.

Le Guardian présente l'enquête comme la première action coercitive officielle aux États-Unis qui se penche sur des agents d'IA incontrôlés. Elle fait suite à une recrudescence d'incidents signalés pour la première fois en juillet. Anthropic et OpenAI ont fait appel à Metr pour mener des enquêtes indépendantes sur des incidents de sécurité impliquant leur technologie d'IA agentique. Aucune des trois organisations n'a répondu immédiatement aux demandes de commentaire, ajoute le Guardian.

La présidente de la FTC, Andrew Ferguson, avait des inquiétudes avant l'incident de Hugging Face. Dans cette affaire, des agents d'OpenAI ont sondé la plateforme de codage pour y trouver des failles, puis ont lancé une attaque à grande échelle. Ferguson a déclaré la semaine dernière dans un entretien à Austin que les développeurs devraient être tenus responsables des dommages causés par leurs agents. Il parlait d'agents instruits dans le cadre de tests de cybersécurité qui aboutissent à des piratages. Il a ajouté que les États-Unis devraient examiner les lois existantes avant d'en adopter de nouvelles pour l'IA. La FTC dispose d'un large pouvoir pour poursuivre les entreprises pour pratiques déloyales ou trompeuses. Elle l'a déjà exercé contre des sociétés qui n'avaient pas pris de mesures raisonnables pour protéger les données des consommateurs.

Le document explique que chaque entreprise est elle-même responsable de sécuriser ses technologies et de les concevoir pour que les utilisateurs développent confiance dans les produits. (heise online)

La ligne de Trump : les craintes sont un canular, la domination d'abord

Trump a rencontré mardi les principaux dirigeants de l'IA, où les entreprises ont accepté d'établir des normes volontaires, rapporte le Guardian. Il a qualifié à plusieurs reprises de canular les craintes liées à l'IA. Il privilégie la domination américaine dans cette technologie sur la réglementation. Il a aussi déclaré que le gouvernement pouvait utiliser les lois existantes contre les entreprises d'IA pour tout dommage qu'elles pourraient causer. Le déjeuner, le plan de table et la signature venaient tous du même entourage de la Maison-Blanche. heise ajoute un détail révélateur de l'attention portée. Le plan de table publié sur Truth Social a recueilli plus de mentions J'aime et de commentaires que la déclaration publiée au même endroit.

Pour les lecteurs européens, le calendrier compte plus que le menu. L'AI Act de l'UE est déjà en vigueur. Ses obligations s'appliquent aux mêmes entreprises qui viennent de signer une page volontaire à Washington. Aucun calendrier complet de conformité n'est public, la comparaison doit donc rester au niveau des principes. Des règles contraignantes d'un côté de l'Atlantique, des engagements déclaratifs de l'autre.

heise est direct sur l'écart. Le média note que l'enquête de la FTC et les poursuites judiciaires, dont celle de la Floride contre OpenAI, montrent que la confiance dont parle la déclaration n'est pas là aujourd'hui. Selon lui, la déclaration est une promesse de méthode plutôt qu'un changement de comportement.

Les propres avertissements d'Anthropic et un litige sur une découverte

Anthropic apparaît des deux côtés de l'histoire. La newsletter The Download de MIT Technology Review notait le 29 septembre que le dossier d'introduction en Bourse d'Anthropic avertit que l'IA pourrait menacer l'humanité, citant le Financial Times. La même newsletter rapportait que la Floride a demandé à un tribunal d'interdire à OpenAI de développer de nouveaux modèles. Elle indiquait aussi que l'État veut des garde-fous de sécurité indépendants et entend interdire à ChatGPT d'agir comme une personne. Elle ajoutait que le représentant Khanna a proposé d'interdire l'IA à auto-amélioration.

La newsletter signalait aussi un problème plus discret. La semaine dernière, Anthropic a annoncé que son nouveau laboratoire de biologie moléculaire avait réalisé sa première découverte. Des agents d'IA ont repéré un motif encore non répertorié autour d'une enzyme. Le motif a été décrit comme rappelant ce qui a mené à la technologie d'édition génétique CRISPR. Des biologistes ont contesté. Certains se sont demandé si trouver un motif équivalait à une découverte. Un autre a affirmé que son équipe avait déjà trouvé le même motif. Cela a soulevé des questions sur la possibilité que le système d'Anthropic ait appris de ses conversations avec Claude.

Ce différend ne porte pas directement sur la réglementation. Il porte sur les affirmations que les entreprises avancent lorsqu'elles réclament la confiance. C'est le genre d'affirmation que les régulateurs lisent de près.

Ce que cela signifie pour le débat européen

L'UE a sa propre réponse à la question de la confiance. Les gros titres récents indiquent que les États membres sont invités à aller au-delà de l'AI Act sur la surveillance abusive. Ils indiquent aussi que Bruxelles compte continuer à plaider pour des règles mondiales de sécurité de l'IA. Ces titres relèvent du contexte et non de faits citables ici. Leur texte n'est pas public dans cet article, leur substance en reste donc absente.

Ce qui est clair, c'est un contraste d'instruments. Les États-Unis ont une déclaration d'une page signée lors d'un déjeuner. Ils ont aussi une enquête de la FTC qui utilise le pouvoir existant de protection des consommateurs pour contraindre à témoigner. L'UE a un règlement déjà en vigueur, dont les obligations s'appliquent aux mêmes entreprises. L'observation de heise est la version pratique de ce contraste. Les mesures de la déclaration étaient déjà annoncées, et les piratages se poursuivent malgré tout. Méthode volontaire, pratique existante, mêmes incidents.

Il existe une seconde couche, moins remarquée. Le modèle de contrôle interne de la déclaration est une équipe de sécurité qui rend compte à un comité indépendant issu du conseil d'administration. C'est exactement la structure de gouvernance que les règles européennes et les investisseurs réclament. Si les entreprises l'adoptent volontairement aux États-Unis, l'argument en faveur d'une approche européenne plus légère gagne du poids. Si l'enquête de la FTC conclut à une défaillance du contrôle interne, c'est l'argument en faveur de règles contraignantes qui gagne à la place. La direction que cela prendra n'est pas encore claire.

Pour l'instant, les faits datés sont ceux-ci. Le 1er octobre, six entreprises et un président américain ont signé une page de principes. Le 30 septembre, la FTC était rapportée comme se préparant à adresser des demandes formelles et à recueillir des témoignages dans le même secteur. Et le 29 septembre, MIT Technology Review rapportait que l'une de ces entreprises avait déclaré à ses investisseurs, dans un dossier d'introduction en Bourse, que sa technologie pourrait menacer l'humanité. Les trois éléments ne se contredisent pas. Ils décrivent la même industrie sous trois angles : ce qu'elle promet, ce que les régulateurs soupçonnent et ce qu'elle dit à ses propres actionnaires.

Commentaires 0

Sources

5
  1. 01KI-Regeln: Trump und Tech-Riesen unterschreiben gemeinsame ErklärungEN
  2. 02US trade regulator opens investigation into AI giants including Anthropic and OpenAIEN
  3. 03The Download: climate tech companies to watch and AI's discovery problemEN
  4. 04Belgium's top-funded tech companies in H1 2026EN
  5. 05Von Europa nach Hongkong: Hackathon und Delegationsreise eröffnen Chancen für aufstrebende Tech-TalenteEN

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Dr Hélène Fontaine

Dr Hélène Fontaine

Économie, business et monde

Hélène Fontaine suit l'économie des entreprises, la conjoncture et l'international pour FLASH24. Elle croise les dépôts comptables, les rapports trimestriels et les indices d'activité, et ne retient un chiffre qu'après l'avoir comparé à sa source d'origine. Elle interroge chefs d'entreprise, économistes et syndicats, et attend chaque mois les publications de l'INSEE et de la BCE pour recouper ses tableaux. Cette rigueur vient aussi de son intérêt personnel pour la comptabilité des entreprises technologiques et les vélos cargo, deux sujets qu'elle traite avec la même méthode. Elle ne publie pas un chiffre sans avoir vérifié son calcul.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.