L'industrie technologique européenne rejette les avertissements « catastrophistes » sur l'IA

La réaction est directe. POLITICO a interrogé des dirigeants et des professionnels de la sécurité. Ceux-ci jugent le discours actuel sur la sécurité de l'IA excessif et, parfois, motivé par des intérêts commerciaux. James Wise, associé chez Balderton Capital et président du fonds souverain britannique pour l'IA, a déclaré au média : « Malheureusement, on en est arrivé à dire que Terminator arrive. Je ne pense pas du tout que Terminator arrive. »

Le calendrier est embarrassant pour les régulateurs européens. Cette même semaine, Bill Gates a défendu la thèse inverse de l'autre côté de l'Atlantique.

Dans un entretien avec Kristen Welker de NBC diffusé le dimanche 27 septembre, le cofondateur de Microsoft a déclaré qu'une IA sans contrôle pourrait « causer un milliard de morts ». Il a appelé à une législation fédérale et à l'implication des forces de l'ordre. « Il faut que les forces de l'ordre et les politiques participent à la discussion sur ce à quoi doivent ressembler les garde-fous et la surveillance », a déclaré Gates à Meet the Press, selon The Guardian. « Et cela doit être obligatoire. » Gates a également écarté l'idée qu'un simple bouton d'arrêt suffirait. Le débat « montre simplement à quel point diverses personnes ne sont pas technophiles », a-t-il affirmé. Son avertissement fait suite à un essai de près de 6 000 mots publié fin août, dans lequel il exposait des préoccupations similaires. Le sénateur américain progressiste Bernie Sanders a proposé le 23 septembre une législation qui suspendrait temporairement le développement avancé de l'IA pendant la mise en place de garde-fous, a rapporté The Guardian.

Deux récits, un continent

Pourtant, la réaction européenne documentée par POLITICO n'est pas une position marginale. Marcus Hutchins, le chercheur en cybermenaces surtout connu pour avoir stoppé l'attaque par rançongiciel WannaCry en 2017, a déclaré au média que les théories apocalyptiques des laboratoires de pointe « omettent complètement de prendre en compte le comportement et les capacités des pirates » dans leurs avertissements. Alexandru Voica, responsable des politiques chez Synthesia, entreprise britannique d'IA, a soutenu que le secteur devrait « consacrer plus de temps à faire fonctionner à grande échelle les règles et normes que nous avons, et moins de temps à se concentrer sur les craintes liées à des risques théoriques ».

L'incident qui a alimenté une grande partie de la panique est celui des agents autonomes d'OpenAI ayant pénétré la plateforme d'IA Hugging Face cet été.

La présidente de la Commission européenne, Ursula von der Leyen, l'a cité dans son discours sur l'état de l'Union. Mais les sceptiques soulignent que cette intrusion tenait moins à un modèle qui s'échappe qu'à un échec de confinement. Pim de Witte, du laboratoire néerlandais d'IA General Intuition, a déclaré à POLITICO : « Beaucoup de choses peuvent être résolues si ces entreprises agissent simplement un peu plus de manière responsable. » Hutchins a été plus direct. Selon lui, OpenAI savait que le modèle était doué pour exploiter des failles et l'avait mis au défi de le faire avec des garde-fous réduits. L'entreprise n'a pourtant pas construit de barrières adéquates et n'a pas surveillé le système d'assez près pour intervenir. OpenAI a refusé de commenter et a renvoyé à son rapport sur l'incident. Anthropic n'a pas répondu à une demande de commentaire.

Le contexte réglementaire

Le débat se déroule alors que la loi européenne sur l'IA progresse dans ses phases de mise en œuvre. Cette loi phare, qui s'applique depuis août aux chatbots, aux hypertrucages et aux algorithmes à haut risque, fait l'objet d'un intense lobbying des deux camps. Un récent rapport du Financial Times a noté que de grandes entreprises ont averti qu'un manque d'ouverture en matière d'IA pourrait nuire aux investissements en Europe. Par ailleurs, une étude du CEPR publiée le 27 septembre soutenait que les modèles d'IA de pointe et la cyberdéfense sont au cœur de l'autonomie stratégique de l'UE.

L'intervention de Gates a aussi attiré l'attention en raison de sa source. Des employés de Microsoft et des militants ont fait campagne pour que l'entreprise rompe ses liens avec l'armée israélienne en raison de son usage d'outils d'IA, selon un essai du Guardian publié vendredi. Les auteurs de cet essai, Mohamed Hussein et Granate Kim du groupe No Azure for Apartheid, ont également averti que les autorités américaines d'immigration ont utilisé Azure de Microsoft pour surveiller, arrêter et expulser des immigrants.

En Europe, le contre-argument de l'industrie technologique n'est pas que l'IA est inoffensive. Même les critiques du récit catastrophiste conviennent que les modèles de pointe sont des outils cyber d'une puissance inégalée et un atout stratégique auquel l'Europe doit avoir accès. Max Junestrand, PDG de Legora, entreprise d'IA juridique, a déclaré à POLITICO qu'une grande partie de l'engouement autour du piratage relève du « marketing ». Il continue pourtant de privilégier la sécurisation de ses propres opérations contre les attaques dopées à l'IA : « la sécurité passe même avant les nouvelles fonctionnalités », affirme-t-il.

L'écart entre les deux camps porte moins sur la dangerosité de l'IA que sur l'endroit où se situe réellement le danger. Pour les dirigeants européens, le risque est la distraction : trop de temps consacré à des scénarios hypothétiques d'extinction et pas assez au travail ingrat de correction des systèmes, d'établissement de normes et d'application des règles qui existent déjà.