Application de l'AI Act : l'interdiction des deepfakes vise les eurodéputés

Le 5 octobre, Agora Digitale Transformation a publié une nouvelle enquête. Elle documente la flambée de la pornographie deepfake non consensuelle visant les élus européens. Le rapport identifie 50 membres du Parlement européen comme victimes, dont 46 femmes.

Selon les conclusions du groupe, cela représente environ une eurodéputée sur six touchée.

Ces données illustrent le fossé entre les lois numériques ambitieuses de l'UE et leur mise en œuvre concrète. Politico a rapporté le 5 octobre que l'UE enquête actuellement sur l'utilisation de Grok sur la plateforme X. Cette enquête coïncide avec l'interdiction des applications de nudification basées sur l'IA, prévue pour le 2 décembre. L'application de ces règles est devenue une priorité politique, pas seulement juridique. La situation montre à quel point une défaillance technique peut dégénérer en crise diplomatique lorsque des personnalités de premier plan sont victimes.

Le 30 septembre, un groupe transpartisan de 119 eurodéputés a envoyé une lettre. Elle était adressée à la présidente de la Commission, Ursula von der Leyen, et à d'autres dirigeants de l'UE. Ils ont exigé une application efficace de l'interdiction et une résolution rapide de l'enquête sur Grok. « Il ne peut y avoir aucune faille ni retard », a déclaré Lena Schilling, eurodéputée des Verts autrichiens et signataire, selon Politico.

Le défi de l'application

Benjamin Shultz, co-auteur du rapport, a souligné que les politiciens ne peuvent pas simplement choisir de retirer leurs ressemblances d'Internet. Cela les rend cibles vulnérables pour les nudificateurs IA. Shultz a plaidé pour que la Commission tienne toutes les entités responsables, y compris les processeurs de paiement et les enregistreurs de domaines qui facilitent involontairement cette industrie. Il a également suggéré d'examiner la désindexation des sites de nudificateurs IA des moteurs de recherche pour réduire leur visibilité. La réalité technique de l'application de ces règles est complexe, car l'infrastructure soutenant ces applications est décentralisée et souvent exploitée par des entités hors de la juridiction directe de l'UE.

Cet incident met en lumière une tendance plus large. Les régulateurs de l'UE passent de la rédaction de cadres à une police active.

L'AI Act est souvent critiqué pour sa lenteur et son bureaucratisme. Cependant, le scandale des deepfakes a forcé une réponse plus rapide. L'UE utilise son pouvoir réglementaire existant pour exercer des pressions sur les plateformes afin qu'elles agissent avant la date formelle de l'interdiction. C'est un cas d'école pour savoir comment Bruxelles gérera d'autres violations liées à l'IA, en particulier celles concernant les modèles génératifs difficiles à auditer. L'issue influencera la conception et l'application des mécanismes de conformité futurs dans les États membres.

Le 7 octobre, Tech.eu a rapporté que la directrice générale de DIGITALEUROPE, Cecilia Bonefeld-Dahl, a soutenu que l'Europe ne peut pas se réglementer vers un leadership technologique. Elle a souligné le besoin d'un accès plus rapide au financement et d'une moindre complexité réglementaire. Elle a suggéré que le rythme actuel d'application pourrait étouffer l'innovation dans des domaines au-delà de la sécurité de l'IA. Cela crée une tension entre le besoin d'une gouvernance stricte de l'IA et le désir d'un écosystème technologique compétitif. Les dirigeants de l'industrie soutiennent souvent que les coûts de conformité excessifs poussent l'innovation vers d'autres juridictions, une affirmation que les régulateurs contestent en pointant les avantages de la protection des consommateurs liés aux règles strictes.

Contexte plus large de la gouvernance de l'IA

La concentration sur la réglementation de l'IA en Europe ne se limite pas aux deepfakes. Le 8 octobre, ZDNET a rapporté sur le « No Robo Bosses Act » de la Californie. Cette loi protège les travailleurs contre les décisions de personnel entièrement automatisées. Bien qu'il s'agisse d'une loi d'État américaine, elle signale une tendance mondiale. Les régulateurs commencent à intervenir dans le rôle de l'IA au travail. L'UE suit de près ces développements. L'AI Act comprend également des dispositions pour les systèmes d'IA à haut risque, notamment ceux utilisés dans l'emploi et l'éducation. La convergence de ces efforts réglementaires suggère un virage mondial vers une supervision plus stricte des processus de prise de décision automatisée dans des secteurs sensibles.

Aux États-Unis, les récentes conférences de Peter Thiel à Nashville ont attiré l'attention. Elles se concentrent sur les dimensions politiques de la réglementation de l'IA. Le 9 octobre, Gizmodo a rapporté que Thiel a présenté la réglementation de l'IA comme une menace existentielle. Il a des intérêts financiers significatifs dans des entreprises d'IA et a lié la question à des concepts théologiques. Cette rhétorique reflète une résistance plus large à la gouvernance de l'IA dans certaines parties de l'industrie technologique américaine. Cela contraste avec l'approche plus réglementaire de l'UE. Les actions de l'UE sur les deepfakes peuvent servir de contre-narratif à cette résistance. Elles démontrent que le bloc est prêt à appliquer ses règles même lorsqu'elles sont politiquement impopulaires auprès des acteurs de l'industrie qui bénéficient d'une supervision plus souple.

À l'approche de l'interdiction du 2 décembre, la Commission fait face à un test critique. La capacité d'appliquer l'AI Act contre des plateformes puissantes déterminera sa crédibilité. Le ciblage de 50 eurodéputés a élevé les enjeux, transformant une question technique d'application en une affaire de sécurité politique. L'issue de l'enquête sur Grok et la mise en œuvre de l'interdiction des nudificateurs fixeront le ton de la gouvernance de l'IA en Europe pour les années à venir. Les régulateurs ne se contentent plus d'écrire des règles. Ils tentent activement de protéger les citoyens des préjudices causés par des systèmes d'IA incontrôlés qui fonctionnent avec une supervision humaine minimale.