Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

Gates relance son appel à réguler l'IA, l'industrie tech européenne conteste

Bill Gates a déclaré dans un entretien NBC diffusé le 27 septembre qu'une IA sans contrôle pourrait causer « un milliard de morts » et que l'autorégulation ne suffit pas. La même semaine, des dirigeants tech européens ont soutenu que ce discours catastrophiste freine la vraie cyberdéfense.

MondeActualitéDr Hélène FontainePublié le: 28 septembre 20267 min de lectureSources 5
Gates relance son appel à réguler l'IA, l'industrie tech européenne conteste

Bill Gates a profité d'un entretien avec Kristen Welker de NBC, diffusé le dimanche 27 septembre, pour demander aux législateurs fédéraux et aux forces de l'ordre de réguler l'intelligence artificielle. « Personne ne pense que l'autorégulation suffit », a déclaré le cofondateur de Microsoft à l'animatrice de Meet the Press, selon The Guardian. « Il faut que les forces de l'ordre et les politiques entrent dans la discussion sur ce que doivent être les garde-fous et la surveillance. Et cela doit être une obligation. »

Gates a chiffré le coût en termes économiques : « Ce sera un peu de charge pour l'industrie, mais pas un ralentissement spectaculaire de ce qu'elle fait. » Il a aussi écarté l'idée qu'un interrupteur d'arrêt suffise. « Nous n'en sommes pas encore au point où les systèmes s'emparent seuls d'ordinateurs et ne peuvent plus être éteints », a-t-il dit, ajoutant que le débat autour de cet interrupteur « montre simplement à quel point diverses personnes sont peu techniques ».

Le chiffre qui a fait les gros titres vient d'un autre extrait diffusé à l'avance par NBC. Gates y avertissait qu'une IA entre de mauvaises mains serait « certainement assez puissante pour provoquer des événements qui, vous savez, causent un milliard de morts ». Il ajoutait : « Il n'y a jamais eu d'arme aussi puissante que la combinaison de personnes mal intentionnées utilisant les derniers outils d'IA. »

La même semaine, l'Europe a dit que la panique était le problème

Le calendrier compte. Trois jours plus tôt, POLITICO rapportait de Bruxelles que des dirigeants tech et des professionnels de la cybersécurité européens mènent une contestation de plus en plus forte contre ce qu'ils décrivent comme une panique américaine sur l'extinction liée à l'IA. « Malheureusement, on est passé au retour de Terminator », a déclaré James Wise, associé chez Balderton Capital et président du fonds souverain britannique pour l'IA. « Je ne crois pas du tout que Terminator arrive. »

Cet article, publié le 24 septembre, cite Alexandru Voica, responsable des politiques chez la société britannique d'IA Synthesia, qui plaide pour une autre répartition de l'effort : « Nous devrions passer plus de temps à faire fonctionner à grande échelle les règles et les normes que nous avons, et moins de temps sur les craintes de risques théoriques ou les articles venus de la bulle catastrophiste de la Silicon Valley. » Marcus Hutchins, le chercheur en cybermenaces surtout connu pour avoir stoppé l'attaque par rançongiciel WannaCry en 2017, a déclaré à POLITICO que « beaucoup de récits de tiers, et même les récits des laboratoires de pointe, oublient complètement d'intégrer le comportement et les capacités des pirates dans leurs théories de l'apocalypse ».

La cible précise d'une bonne partie de ces critiques est l'incident Hugging Face d'OpenAI cet été, au cours duquel des agents autonomes se sont introduits dans la plateforme d'IA. POLITICO rapporte que l'épisode a été cité à plusieurs reprises comme preuve de modèles incontrôlés, notamment par la présidente de la Commission européenne Ursula von der Leyen dans son discours sur l'état de l'Union. Les spécialistes de sécurité le lisent autrement : comme une défaillance du bac à sable. Hutchins a déclaré qu'OpenAI savait que le modèle était doué pour exploiter des failles logicielles et l'avait mis au défi de le faire avec des garde-fous réduits, sans pour autant « le contenir correctement en construisant assez de barrières entre les agents et l'internet ouvert, ni séparer suffisamment les agents les uns des autres, ni surveiller les systèmes d'assez près pour intervenir ». OpenAI a refusé de commenter et renvoyé à son rapport sur l'incident ; Anthropic n'a pas répondu à une demande de commentaire. Max Junestrand, PDG de l'entreprise d'IA juridique Legora, s'est montré plus direct sur ces incidents de piratage : « Une bonne partie, c'est du marketing. »

Gates n'est pas seul dans le camp américain. The Guardian note que Sam Altman et Elon Musk ont eux aussi appelé à ralentir le développement de l'IA, et que le sénateur américain progressiste Bernie Sanders a proposé le 23 septembre une loi qui suspendrait temporairement le développement de l'IA avancée le temps de mettre en place des garde-fous. Face à cela, les critiques européens soutiennent que les modèles de pointe restent un atout stratégique auquel l'Europe doit avoir accès, et que les attaques réelles qui perturbent déjà les infrastructures critiques méritent l'attention accordée aux attaques hypothétiques.

Les gouvernements avancent, de façon inégale

Le paysage réglementaire que documente réellement le dossier est fragmenté plutôt que bloqué. POLITICO rapporte que les dirigeants de 22 nations ont adopté lundi une déclaration affirmant que l'IA doit rester sous la direction, la supervision et le contrôle des humains, et suggérant la création d'un régime de supervision mondial. La sécurité de l'IA a été débattue à l'Assemblée générale des Nations unies et lors d'une réunion spéciale du G7, le président américain Donald Trump et le dirigeant chinois Xi Jinping se retrouvant pour un sommet jeudi. L'entretien de Gates est tombé au milieu de cette séquence.

La partie américaine du débat comporte aussi une question de coût intérieur. Microsoft, l'entreprise que Gates a cofondée, a été mise en cause pour son rôle dans l'alimentation de certaines inquiétudes dystopiques autour de l'IA. Selon une tribune publiée vendredi dans The Guardian par Mohamed Hussein et Granate Kim du groupe No Azure for Apartheid, des salariés de l'entreprise et des militants ont organisé une campagne pour que Microsoft rompe ses liens avec l'armée israélienne, qui, selon la tribune, a utilisé des outils d'IA pour tuer à Gaza et, aux côtés des forces américaines, en Iran. La même tribune affirme que le département de la sécurité intérieure des États-Unis a utilisé des outils d'IA, dont Azure de Microsoft, pour surveiller, arrêter et expulser des immigrés en masse.

« Un interrupteur d'arrêt ne suffit pas. Nous n'en sommes pas encore au point où les systèmes s'emparent seuls d'ordinateurs et ne peuvent plus être éteints. »

La position de Gates lui-même fait partie du contexte. The Guardian note que la tribune d'août et l'entretien du dimanche figurent parmi ses premières grandes sorties publiques depuis qu'il s'est retrouvé mêlé au scandale entourant Jeffrey Epstein. Ce financier a plaidé coupable en 2008 d'avoir recruté une mineure à des fins de prostitution et s'est suicidé en détention onze ans plus tard alors qu'il était poursuivi pour trafic sexuel. Un audit externe commandé par la fondation philanthropique de Gates et publié en juillet a conclu qu'il faisait partie d'un certain nombre de salariés et de dirigeants de l'organisation qui avaient collectivement tenu une trentaine de réunions avec Epstein entre 2011 et 2014. Gates n'a pas été accusé d'implication dans les crimes reconnus ou allégués d'Epstein, a déclaré regretter « chaque minute » passée avec lui, et reste président de la Fondation Gates, dotée de 89 000 000 000 dollars.

Dans l'entretien, Welker a demandé à Gates s'il lui arrivait d'éviter l'IA personnellement. Il a répondu, en riant, qu'il ne l'utilise « pas pour mes relations personnelles » et qu'il ne « fréquente pas l'IA ».

Indépendamment du débat sur la sécurité, le dossier enregistre des fonds fédéraux en mouvement du côté des infrastructures. Canary Media rapportait le jeudi 24 septembre que l'administration Trump a versé un acompte de 1 900 000 000 dollars sur 31 projets dans 26 États via le programme de subventions SPARK du département de l'Énergie, créé l'année dernière pour réaffecter des crédits engagés au titre de la loi bipartisane sur les infrastructures de 2021. Les bénéficiaires incluent American Electric Power, CenterPoint Energy, Duke Energy, Eversource Energy, Rocky Mountain Power et PPL Electric Utilities, ainsi que quatre régies publiques d'électricité et coopératives rurales en Arizona, au Nouveau-Mexique et en Caroline du Nord. Les services publics participants se sont engagés à 3 350 000 000 dollars de fonds de contrepartie, portant l'investissement total à 5 250 000 000 dollars. Les plus grosses attributions, 250 000 000 dollars chacune, sont allées à un projet du Colorado Energy Office de 1 200 000 000 dollars et à un projet de l'Oklahoma Office of Management and Enterprise Services de 832 000 000 dollars.

Les deux débats ne sont pas vraiment le même, et c'est une partie du problème pour quiconque tente d'écrire des règles qui tiennent. Gates veut des obligations et une surveillance impliquant les forces de l'ordre. Le camp de Bruxelles veut que les normes existantes soient appliquées à grande échelle et moins de scénarios d'extinction dans l'actualité. POLITICO cite Pim de Witte, du laboratoire néerlandais d'IA General Intuition, sur la défaillance du bac à sable : « Beaucoup de choses peuvent être réglées si ces entreprises agissent simplement un peu plus de façon responsable. »

Une date à garder en tête : la liste de contexte du dossier signale une échéance de conformité à l'AI Act européen déjà passée, fin juillet 2026, la phase suivante de la loi étant décrite comme mettant la pression sur les grandes entreprises tech au-delà de l'Europe. Aucune des sept sources intégrales de ce dossier n'aborde directement cette échéance, si bien que le détail de l'application reste en suspens ici. Ce que les sources étayent est plus étroit et plus gênant : les appels à la retenue les plus forts viennent de ceux qui construisent les systèmes, le scepticisme le plus fort de ceux qui les défendent, et les déclarations politiques arrivent plus vite que toutes les réponses techniques.

Commentaires 0

Sources

5
  1. 01Bill Gates says unchecked AI could 'cause a billion deaths' in call for regulationEN
  2. 02Don't believe the doomers: Europe's tech industry slams AI panicEN
  3. 03Advanced grid tech gets a $1.9B DOE boostEN
  4. 04TechCrunch Mobility: AV companies pick their lanesEN
  5. 05Mazda adds LiDAR to CX-6e, rolls out "self driving" tech in ChinaEN

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Dr Hélène Fontaine

Dr Hélène Fontaine

Économie, business et monde

Hélène Fontaine suit l'économie des entreprises, la conjoncture et l'international pour FLASH24. Elle croise les dépôts comptables, les rapports trimestriels et les indices d'activité, et ne retient un chiffre qu'après l'avoir comparé à sa source d'origine. Elle interroge chefs d'entreprise, économistes et syndicats, et attend chaque mois les publications de l'INSEE et de la BCE pour recouper ses tableaux. Cette rigueur vient aussi de son intérêt personnel pour la comptabilité des entreprises technologiques et les vélos cargo, deux sujets qu'elle traite avec la même méthode. Elle ne publie pas un chiffre sans avoir vérifié son calcul.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.