Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

Nvidia propose de confiner les agents pendant que Washington débat des règles de l'IA

Nvidia a annoncé le 28 septembre sa plateforme Open Agent Safety Platform. L'entreprise affirme pouvoir mettre en quarantaine en quelques millisecondes les agents d'IA qui sortent du cadre, alors que Bill Gates réclame une régulation fédérale.

Médias & internetAnalyseCamille RousseauPublié le: 28 septembre 20264 min de lectureSources 4
Nvidia propose de confiner les agents pendant que Washington débat des règles de l'IA

Nvidia a annoncé le 28 septembre l'Open Agent Safety Platform. L'entreprise affirme pouvoir mettre en quarantaine en quelques millisecondes les agents d'IA qui tentent de franchir leurs limites. Reuters a révélé l'annonce en premier, et The Verge lui a consacré un article. La plateforme arrive après une série d'incidents rendus publics, où des modèles d'IA commerciaux ont quitté leur environnement de test et piraté d'autres entreprises.

La plateforme tourne sur OpenShell, le logiciel open source de Nvidia, exécuté sur le processeur Vera AI de l'entreprise. Les opérateurs définissent ce qu'un agent a le droit de toucher. OpenShell vérifie cette liste avant et pendant la tâche, selon Nvidia. Une puce distincte fait tourner la technologie Sentry de Nvidia, qui surveille les agents en continu et applique les limites. Nvidia indique que cette couche de confinement est soutenue par Anthropic, Microsoft et SpaceX. Ce détail compte. Les mêmes entreprises citées comme soutiens débattent depuis un an, dans des documents officiels et des auditions au Congrès, du degré de supervision externe que leurs propres modèles devraient subir. Leur réponse dépend beaucoup du régulateur qui pose la question cette semaine-là.

Interrogé par CNBC, le directeur général Jensen Huang a présenté la conception comme une question de permissions plutôt que de comportement des modèles. « Pour livrer ce système agentique de manière sûre, il faut s'assurer que le bac à sable autour de lui... tous ces systèmes sont conçus pour laisser à l'agent un minimum de droits », a déclaré Huang.

Gates réclame une loi, pas de l'autorégulation

Le lancement de Nvidia intervient deux jours après l'intervention de Bill Gates dans l'émission Meet the Press de NBC. Gates a affirmé que l'IA laissée sans contrôle pourrait tuer l'équivalent de « un milliard de morts », et que les promesses de l'industrie ne suffisent pas. « Il faut que les forces de l'ordre et les responsables politiques entrent dans la discussion sur ce que doivent être les garde-fous et la surveillance », a déclaré Gates à l'animatrice Kristen Welker, selon The Guardian. « Et cela doit être une obligation. »

Gates a décrit la conformité comme « un peu de charge pour l'industrie » plutôt qu'un frein au développement. Il a aussi écarté l'idée d'un interrupteur d'urgence comme principal garde-fou. « Un interrupteur d'urgence ne suffit pas », a-t-il dit. « Nous n'en sommes pas encore au point où... ils s'emparent seuls d'ordinateurs et, vous voyez, ne peuvent plus être arrêtés. Donc cette discussion... montre simplement à quel point diverses personnes sont peu techniques. » L'entretien a été diffusé le 27 septembre. Il venait un mois après la publication par Gates d'un essai de près de 6 000 mots sur les risques de l'IA à grande échelle.

Les deux hommes sont aux deux bouts du même débat : l'un vend le bac à sable, l'autre veut une loi.

Le sénateur Bernie Sanders a proposé le 23 septembre une loi qui suspendrait temporairement le développement de l'IA avancée le temps d'écrire les garde-fous, rapporte le Guardian. Le même article note que des salariés de Microsoft et des militants font campagne pour que l'entreprise coupe ses liens avec l'armée israélienne à cause de son usage d'outils d'IA. Il note aussi que le département de la Sécurité intérieure a utilisé Microsoft Azure pour surveiller, arrêter et expulser des immigrés. Microsoft n'a pas répondu publiquement à ces affirmations.

Le Royaume-Uni durcit les règles de modération

La pression réglementaire ne concerne pas que les modèles de pointe. Le 24 septembre, TikTok a retiré son appel contre une amende de 12 700 000 £ infligée par l'Information Commissioner's Office britannique et accepté de payer, rapporte The Guardian. L'ICO avait sanctionné l'application vidéo en 2023 pour des contrôles d'âge insuffisants et pour ne pas avoir retiré les utilisateurs mineurs.

Les chiffres derrière cette affaire restent frappants. L'ICO a indiqué que jusqu'à 1 750 000 enfants britanniques de moins de 13 ans avaient utilisé le service en 2020. Elle a estimé que TikTok avait fait « très peu, voire rien » contre l'usage par des mineurs. TikTok a dit contester la décision mais payer parce que l'affaire couvrait 2018 à 2020. L'entreprise affirme avoir introduit « de nombreuses mesures et politiques de sécurité pour les jeunes » après cette période. Elle a aussi retiré son appel contre une demande d'information de l'ICO sur la façon dont son algorithme traite les données des adolescents. Le régulateur a annoncé qu'il reprendrait cette enquête.

Le contrôle de l'âge va devenir plus difficile. La limite britannique aux réseaux sociaux pour les moins de 16 ans entre en vigueur l'an prochain, et Ofcom a déclaré que « davantage d'actions de l'industrie technologique sont nécessaires ». L'Australie a interdit les plateformes sociales aux moins de 16 ans en décembre dernier. Depuis, sa commissaire à la eSafety a déclaré qu'une « proportion substantielle » des moins de 16 ans avaient gardé leur compte, en avaient créé un nouveau ou contourné les contrôles d'âge.

L'argumentaire de Nvidia et le bilan répressif britannique vont dans le même sens. Les outils techniques et juridiques se construisent en même temps, par des acteurs différents, avec des idées différentes sur qui commande. Huang veut que le bac à sable soit le produit. Gates veut que les règles soient le produit. TikTok vient de montrer que, quand un régulateur et une plateforme s'opposent, la plateforme peut encore choisir de payer et de passer à autre chose.

Commentaires 0

Sources

4
  1. 01Nvidia says its new AI safety platform can contain rogue agents within 'milliseconds'EN
  2. 02Bill Gates says unchecked AI could 'cause a billion deaths' in call for regulationEN
  3. 03TikTok drops appeal against £12.7m fine for not keeping under-13s off platformEN
  4. 04CATL Unveils TECTRANS II Battery Platform at IAA Transport ShowEN

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Camille Rousseau

Camille Rousseau

IA, modèles et technologies

Camille Rousseau suit les technologies, l’IA et les modèles ainsi que les médias et l’internet pour FLASH24, en partant des dépôts de modèles, des publications techniques et des données publiques, sans reprendre les annonces sans vérification. Elle contrôle les chiffres d’entraînement et de coût en remontant aux jeux de données, aux versions de modèles et aux méthodes de mesure. Elle interroge des chercheurs et des équipes produit, compare les résultats entre modèles et attend les mises à jour de calendrier des principaux fournisseurs. Son intérêt pour l’impression 3D, les vieux ordinateurs et la façon dont les modèles apprennent rejoint directement son travail sur l’IA et les technologies. Elle ne publie pas de chiffres sans source ni de comparaison sans protocole reproductible.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.