Gates réclame une loi sur l'IA, Sanders veut 20 ans de prison pour la superintelligence

Le débat américain sur la régulation de l'IA ne porte plus sur le rythme, mais sur les instruments. Le 25 septembre, Bill Gates a déclaré sur NBC News, dans « Meet the Press », que le Congrès devait adopter une loi encadrant le développement de l'intelligence artificielle. À la question de savoir si une législation était nécessaire, il a répondu oui. Les exigences, a-t-il ajouté, doivent être contraignantes.

Gates n'a laissé planer aucun doute sur l'autorégulation du secteur. « Personne ne pense que l'autorégulation seule suffira », a-t-il dit. Selon lui, les forces de l'ordre et les politiques doivent participer aux discussions sur les normes de sécurité et sur leur contrôle. Il a reconnu que ces exigences alourdiraient la charge des entreprises, sans ralentir sensiblement leur travail. Il a aussi averti que de mauvaises intentions, combinées aux outils d'IA les plus récents, créent une menace à l'échelle de masse, et qu'aucune arme n'avait jusqu'ici agi avec une telle puissance.

« Ban Artificial Superintelligence Act 2026 »

Le projet connu sous le nom de « Ban Artificial Superintelligence Act 2026 » va beaucoup plus loin. Le texte définit la superintelligence comme un système qui surpasse l'humain dans la plupart des tâches, ou qu'une simple modification suffit à mettre à ce niveau. Il vise aussi tout système capable de planifier et de mener la destruction de l'humanité ou le renversement d'un gouvernement. Créer, déployer, acquérir, détenir, financer ou importer de tels systèmes serait interdit.

Le projet prévoit la création d'un Department of Artificial Intelligence chargé de la supervision. Si ce département identifie une superintelligence, le système doit être arrêté immédiatement et détruit dans les 30 jours. Quiconque détecte un tel système doit le signaler dans les 24 heures. Pour les « systèmes d'IA avancés », entraînés avec au moins 10²⁵ opérations, une pause de développement s'appliquerait jusqu'à ce que le département fixe des règles claires. Le seuil serait ajusté chaque année.

Le réalisme de ce projet reste limité. Le seuil de 10²⁵ FLOP couvre une grande partie des modèles actuels : les effets seraient donc larges, et non ponctuels. Il faut lire les deux prises de position ensemble. Gates porte la demande minimale, des normes obligatoires et applicables ; Sanders, la demande maximale. Aux États-Unis, ce n'est pas l'absence d'arguments qui bloque, mais l'absence de majorité : la régulation de l'IA reste un projet.

Le projet de Sanders est plus dur que son nom ne le suggère. Il interdit non seulement la création de la superintelligence, mais aussi son usage, son acquisition, sa détention, son financement et son importation. Il crée un nouveau Department of Artificial Intelligence. Un système identifié de cette classe doit être arrêté immédiatement et détruit dans les 30 jours. Quiconque tombe sur un tel système doit le signaler dans les 24 heures. Le développement des « systèmes d'IA avancés », entraînés avec au moins 10^25 opérations, serait suspendu jusqu'à ce que le département soit prêt, et le seuil lui-même serait ajusté chaque année. Enfreindre l'interdiction est passible de jusqu'à 20 ans de prison.

Gates et Sanders représentent les deux extrémités d'un même débat. L'un veut des exigences obligatoires qui n'arrêtent pas le travail sur les modèles. L'autre estime qu'à ce niveau de capacités, le rythme est un problème en soi. Le point commun reste politique : tous deux considèrent que les engagements volontaires des entreprises ne suffisent plus.