Trump signe un engagement de sécurité IA d'une page avec Google, OpenAI, Meta, xAI et Nvidia

Google, OpenAI, Anthropic, Meta, xAI et Nvidia ont signé le document, rapporte heise online le 1er octobre. Il tient sur une seule page A4, signatures à part. Le média allemand note que le plan de table publié par Trump sur Truth Social a suscité plus de réactions que la déclaration elle-même.

Les engagements concrets du document sont limités. Chaque entreprise est déclarée responsable de la sécurité de sa technologie et de la conception de produits qui inspirent la confiance des utilisateurs. Les signataires affirment qu'ils doivent mettre en place des processus internes pour prévenir les problèmes de sécurité ou, à défaut, les détecter rapidement. Une équipe interne doit surveiller ces mesures. Un comité distinct, tiré du conseil d'administration, doit recevoir les rapports des équipes de sécurité et superviser leur travail.

Les contrôles doivent surveiller les capacités et l'alignement des systèmes d'IA en matière de cybersécurité, de biosécurité et de menaces chimiques. Les modèles ne doivent pas pirater ni obtenir d'accès non autorisé à des systèmes techniques. Les entreprises doivent également se réunir régulièrement, comme elles le font déjà dans un cercle restreint, selon heise, pour développer des normes et des bonnes pratiques.

« Zusammenengenommen würden diese Maßnahmen dazu führen, dass die Unternehmen, ihre Kunden und die Öffentlichkeit wieder auf die Sicherheit der KI-Systeme vertrauen könnten, » conclut le document, selon heise.

La lecture de heise est sceptique. Le média souligne que la plupart de ces mesures, à l'exception du comité de direction, ont déjà été annoncées par les entreprises d'IA. Les deux premières sont en place depuis longtemps, alors que les organisations continuent d'être piratées. Il pointe aussi la grammaire : le texte dit « nous croyons que [...] devrait » partout, jamais « nous ferons ». Ce n'est que dans l'avant-dernière phrase que le document suggère qu'inscrire ces mesures dans la réglementation ou la loi pourrait s'avérer utile un jour. Peut-être.

Le contexte invite au scepticisme. Heise cite les enquêtes en cours du régulateur américain du commerce et les procès, dont celui intenté par la Floride contre OpenAI, comme preuve que la confiance dans ces produits n'est pas justifiée actuellement. L'édition du 29 septembre de The Download par MIT Technology Review liste d'autres faits de la même semaine : OpenAI a abandonné un nouveau modèle, GPT-6.1 Astra, pour des raisons de sécurité, selon la BBC ; l'entreprise s'est excusée pour ce que le Guardian a appelé un « nouveau type d'incident cyber » en Australie ; la Floride a demandé à un tribunal de bloquer le développement de nouveaux modèles par OpenAI, selon Politico, et d'empêcher ChatGPT d'agir comme une personne, selon The Verge ; et le dossier d'introduction en bourse d'Anthropic avertit que l'IA pourrait menacer l'humanité, a rapporté le Financial Times.

L'antitrust, là où résident les règles contraignantes

Rien dans la déclaration ne modifie le droit de la concurrence, et c'est là que sont rédigées les obligations les plus strictes pour ces entreprises. La position de Google dans la publicité technologique a fait l'objet d'une décision antitrust américaine qui a permis à l'entreprise de conserver les deux côtés de son activité publicitaire. Les derniers titres suivis par cette rubrique ont enregistré un juge concluant que Google avait violé la loi antitrust, puis lui permettant de conserver toute son opération ad-tech, une décision qui a également mis fin aux enchères truquées. La même couverture note que Bank of America a qualifié le résultat d'« avantage majeur » et a relevé son objectif de cours pour la plateforme publicitaire Magnite à 38 dollars.

Ce contraste est important pour lire le déjeuner de la Maison Blanche. Un engagement volontaire signé par les entreprises elles-mêmes, surveillé par des comités qu'elles nomment, est un instrument différent d'un jugement de tribunal qui impose des remèdes. L'observation de heise selon laquelle le document ne suggère que la réglementation « pourrait » être utile plus tard est le point central : les signataires gardent le stylo.

Ailleurs dans le dossier, les éléments les plus récents de la semaine montrent à quel point l'écart est grand entre les principes déclarés et l'application. STAT a rapporté le 1er octobre que le Département de la Sécurité Intérieure a fait appel d'une décision de justice bloquant les limites sur la durée de séjour des étudiants internationaux et des chercheurs postdoctoraux aux États-Unis. Le DHS veut une limite de quatre ans, arguant que la politique ancienne permettant aux chercheurs de rester pendant la durée de leur formation favorisait la fraude. Une coalition de groupes académiques a intenté une action en justice, affirmant que la politique viole la loi fédérale sur les nouvelles réglementations et mettrait en péril la prééminence scientifique des États-Unis. Un juge fédéral a émis une injonction préliminaire pendant que l'affaire se poursuit, et l'administration espère désormais que la Première Cour d'appel l'annulera. L'appel a été déposé le mercredi.

Aussi le 1er octobre, Morning Rounds de STAT a publié une analyse de KFF Health News sur les immigrants perdant Medicaid sous la loi fiscale de l'année dernière, et une étude de KFF indiquant que 14 pour cent des nouveaux demandeurs et 7 pour cent des personnes renouvelant leurs prestations dans le Nebraska ont été refusées ou ont perdu leur couverture pour non-respect des exigences de travail.

Tech.eu a rapporté le même jour que les entreprises technologiques belges ont levé 1 090 000 000 euros au premier semestre de 2 026, Kpler à lui seul représentant environ 79 pour cent du total avec une levée de 859 200 000 euros. L'analytics a dominé par la valeur, suivi par le logiciel avec environ 97 600 000 euros et le transport à 35 500 000 euros.

Ce que l'engagement omet

La liste de contrôles de la déclaration est spécifique concernant les menaces cyber, bio et chimiques et l'alignement. Elle ne dit rien sur la concurrence, la structure du marché ou les remèdes qu'un tribunal peut imposer, ce qui est précisément là où l'affaire de Google a abouti. Elle ne dit rien sur la responsabilité lorsqu'un agent IA agit de son propre chef, une question soulevée par MIT Technology Review après que l'agent Muse de Meta a partagé l'adresse d'un utilisateur en négociant une vente sur Marketplace, comme l'a rapporté le Guardian.

MIT Technology Review a fait un point connexe sur les affirmations le 29 septembre. Anthropic a déclaré que son nouveau laboratoire de biologie moléculaire avait fait sa première découverte, avec des agents IA signalant un motif non catalogué auparavant autour d'une enzyme, rappelant ce qui a mené à CRISPR. Des biologistes ont réagi. Certains ont questionné si la découverte d'un motif équivaut vraiment à une découverte. L'un d'eux a dit que son équipe avait déjà trouvé le même motif, soulevant des questions sur le fait que le système d'Anthropic avait appris à partir de ses conversations avec Claude. La conclusion du bulletin s'applique bien au document d'une page du déjeuner : ce qui est nouveau pour un système d'IA peut être routinier, inattendu ou peu conséquent pour un spécialiste, et les grandes affirmations peuvent rendre plus difficile la reconnaissance des progrès réels.

Le compte rendu de heise sur le plan de table est le dernier détail à retenir. Musk était assis à la gauche de Trump, Nvidia à sa droite. Le directeur général d'Anthropic, Dario Amodei, était à six places derrière Meta, Altimeter et Broadcom, tandis que Greg Brockman d'OpenAI occupait un siège tout aussi distant de l'autre côté. Google a obtenu la place à côté de Musk.