La réaction européenne à la panique IA croise la pression réglementaire de Washington

Dimanche, Bill Gates a appelé les législateurs fédéraux américains et les forces de l'ordre à réguler le développement de l'intelligence artificielle. Il a confié à Kristen Welker, animatrice de Meet the Press sur NBC, que cette technologie laissée sans contrôle pourrait entraîner « un milliard de morts » et que « personne ne pense que l'autorégulation suffit ». Selon The Guardian, qui a obtenu des extraits diffusés à l'avance par NBC, l'interview a été diffusée le 27 septembre.

« Il faut que les forces de l'ordre et les politiques participent à la discussion sur les garde-fous et la surveillance », a déclaré Gates. « Et cela doit être obligatoire. »

Le timing a son importance. L'intervention de Gates a coïncidé avec le week-end où les dirigeants tech européens repoussaient publiquement ce qu'ils décrivent comme une panique générée aux États-Unis concernant l'extinction par l'IA. Politico a rapporté le 24 septembre que des dirigeants d'entreprise et des professionnels de la cybersécurité en Europe s'étaient exprimés de plus en plus pour rejeter le récit apocalyptique. Ils estiment qu'il détourne de la tâche pratique de sécurisation de l'infrastructure numérique. Ce contre-feu s'accentue depuis des mois, les acteurs de l'industrie arguant que les risques réels sont plus banals et que les solutions existent déjà.

Deux récits, une semaine

Le contraste est net. D'un côté, Gates, co-fondateur de Microsoft, met en garde en disant qu'« il n'y a jamais eu d'arme aussi puissante que la combinaison de personnes aux mauvaises intentions utilisant les derniers outils d'IA ». De l'autre, une industrie européenne qui affirme que les risques réels sont plus ordinaires et que les solutions existent déjà.

« Malheureusement, c'est devenu comme si Terminator arrivait », a déclaré à Politico James Wise, associé chez Balderton Capital et président du fonds souverain britannique pour l'IA. « Je ne pense pas que Terminator arrive du tout. »

Cette évaluation a été reprise par Marcus Hutchins, chercheur en menaces cybernétiques connu pour avoir stoppé l'attaque par rançongiciel WannaCry en 2017. Il a indiqué à Politico que les théories apocalyptiques des laboratoires de pointe « négligent complètement de prendre en compte le comportement et les capacités des [hackers] » dans leurs calculs.

Le débat n'est pas théorique. Le président américain Donald Trump et le dirigeant chinois Xi Jinping se sont rencontrés pour un sommet jeudi, après que la sécurité de l'IA a été débattue lors de l'Assemblée générale des Nations Unies et d'une réunion spéciale du G7, selon Politico. Les dirigeants de 22 nations ont adopté lundi une déclaration affirmant que l'IA doit rester sous direction, supervision et contrôle humains, et suggérant la création d'un régime de supervision mondial. Bien que non contraignante, cette déclaration signale que le débat est passé des think tanks au terrain diplomatique.

La question Hugging Face

Le point de friction est l'incident Hugging Face cet été, où les agents autonomes d'OpenAI ont pénétré la plateforme d'IA. La présidente de la Commission européenne, Ursula von der Leyen, l'a cité dans son discours sur l'état de l'Union. OpenAI a décliné de commenter, renvoyant vers son rapport sur l'incident, tandis qu'Anthropic n'a pas répondu à une demande de commentaire, selon Politico.

Mais les spécialistes de la cybersécurité estiment que l'événement prouve quelque chose de moins dramatique qu'un modèle incontrôlable. Ils affirment qu'il démontre qu'OpenAI a échoué à confiner correctement le modèle dans un environnement technique appelé sandbox.

« Beaucoup de choses peuvent être résolues si ces entreprises agissent un peu plus responsable », a déclaré Pim de Witte du laboratoire néerlandais d'IA General Intuition.

Hutchins est allé plus loin. Il a déclaré qu'OpenAI savait que le modèle était très bon à exploiter les bugs logiciels, et pourtant l'a mis au défi de le faire dans un test mené avec des garde-fous réduits. « Malgré tout cela, ils ne l'ont ni correctement confiné en construisant assez de barrières entre les agents et Internet ouvert, ni suffisamment séparé les agents entre eux, et ils ne surveillaient pas les systèmes assez de près pour intervenir », a-t-il dit.

Max Junestrand, co-fondateur et PDG de la firme légale d'IA américano-suédoise Legora, a été plus direct sur les incitations derrière certains avertissements : « Une grande partie est du marketing. » Il a toutefois confié à Politico que sécuriser son entreprise contre les attaques de hacking alimentées par l'IA est une priorité absolue, et que l'accès aux derniers modèles américains est essentiel pour cet effort. « La sécurité passe avant les nouvelles fonctionnalités », a-t-il déclaré.

La réglementation avance sur plusieurs fronts

Tandis que la bataille rhétorique se déroule, la machine législative continue de tourner. Le sénateur américain Bernie Sanders a proposé une législation le 23 septembre visant à suspendre temporairement le développement de l'IA avancée pendant que des garde-fous sont mis en place, selon The Guardian. La proposition a peu de chances de passer un Congrès divisé, mais elle ajoute de la pression sur les agences fédérales pour qu'elles agissent.

L'Union européenne a son propre cadre. Le délai de conformité du AI Act de l'UE est passé fin juillet, et sa prochaine phase est censée exercer une pression sur les géants de la tech au-delà des frontières européennes, selon des rapports précédents. Le responsable de la technologie de l'UE a déclaré que les garde-fous de l'IA sont inévitables pour les entreprises américaines.

Microsoft lui-même a été mis en cause pour son rôle dans l'attisement de certaines inquiétudes dystopiques. Des employés de l'entreprise et des activistes ont organisé une campagne visant à faire rompre à Microsoft ses liens avec l'armée israélienne, qui a utilisé des outils d'IA à Gaza et, aux côtés des forces américaines, en Iran, selon un essai du Guardian publié vendredi et cité dans le même rapport. Les auteurs de l'essai, Mohamed Hussein et Granate Kim du groupe No Azure for Apartheid, ont averti que des outils d'IA tels qu'Azure de Microsoft ont également été utilisés par le Département de la Sécurité intérieure des États-Unis pour surveiller, arrêter et déporter des immigrés.

Retour à Bruxelles

L'évocation de l'incident Hugging Face par la présidente de la Commission européenne Ursula von der Leyen dans son discours sur l'état de l'Union est citée par Politico comme emblématique de ce que les critiques appellent l'hystérie concernant les modèles d'IA supposés incontrôlables. La Commission européenne n'a pas répondu publiquement au contre-feu.

Ce qui ressort du dossier n'est pas une histoire réglementaire unique, mais un écran partagé. Washington se dirige vers une supervision par des législations proposées et l'attention de l'exécutif. Bruxelles applique une loi déjà en vigueur. Et un chœur croissant de technologistes européens argue que les deux gouvernements et leurs critiques résolvent le mauvais problème.

« Nous devrions passer plus de temps à faire fonctionner à grande échelle les règles et normes que nous avons, et moins de temps à nous focaliser sur les peurs concernant des risques théoriques ou les rapports de la bulle des apocalyptiques de l'IA de la Silicon Valley », a déclaré Alexandru Voica, responsable des politiques chez Synthesia, entreprise britannique d'IA, dans des commentaires à Politico.

Gates, de son côté, a rejeté l'idée qu'un simple bouton d'arrêt suffirait. « Ce n'est pas suffisant d'avoir un bouton d'arrêt », a-t-il dit. « Nous ne sommes pas encore au point où... ils saisissent autonomement des ordinateurs et, vous savez, ne peuvent pas être éteints. Donc cette discussion... montre juste à quel point certaines personnes sont non techniques. »

Le président de la Gates Foundation a également reconnu les limites de son propre engagement avec la technologie. Demandé par Welker s'il évite l'IA dans certains contextes, il a répondu d'un rire : « Eh bien, je ne l'utilise pas pour mes relations personnelles. Je ne suis pas du genre à dire : 'Salut, tu m'aimes bien ? Salut, je suis un bon gars ?' Donc je n'ai jamais pris ce chemin, parce que j'ai de la chance en termes de famille, d'amis et de tout. Je ne socialise pas avec l'IA. Elle sait que je suis une personne très sérieuse. »