Le UK AI Safety Institute reprend les tests de modèles après la perturbation d'août
Le UK AI Safety Institute a repris la plupart de ses activités d'évaluation de modèles après un incident survenu en août, rapporte Resultsense le 2 octobre 2026.

Le UK AI Safety Institute (AISI) a relancé la plupart de ses opérations de test. La perturbation a commencé en août. Resultsense a rapporté l'information le 2 octobre 2026. L'agence revient à sa mission principale : évaluer les modèles d'IA de pointe.
Cette reprise intervient à un moment délicat. UC Today a rapporté le 2 octobre que l'AISI s'était récemment vu refuser l'accès à certains modèles. Ce manque d'accès a laissé un trou dans ses capacités d'évaluation pendant les mois d'été. L'institut a dû interrompre une part importante de son flux de travail. Régulateurs et observateurs du secteur sont restés dans l'incertitude quant à la continuité de ses évaluations de sécurité. Pendant plusieurs semaines, l'institut n'a pas pu faire passer sa batterie standard de tests aux dernières sorties de modèles de pointe. Cette absence de visibilité est précisément ce que l'agence a été créée pour éviter. Maintenant que les tests ont repris, la question est de savoir si l'agence peut rattraper le retard accumulé sur les modèles sortis depuis août. La pression pour rendre des verdicts de sécurité clairs est forte. Les attentes du public et des gouvernements ne se sont pas mises en pause pendant l'été. L'agence doit désormais montrer que ses fonctions essentielles sont de nouveau pleinement opérationnelles.
Le moral des équipes et la stabilité opérationnelle ont aussi été des sujets de préoccupation en interne. Dans un article daté du 22 septembre, le Times indiquait que des membres du personnel de l'AISI avaient pris des congés en raison d'un stress lié à un examen externe intense. Cette tension interne est apparue dans un contexte de pression croissante du public et des gouvernements pour obtenir des verdicts de sécurité clairs sur des systèmes d'IA toujours plus capables.
Le contexte plus large comprend une série d'incidents très médiatisés dans le secteur de la sécurité de l'IA. Le 2 octobre, Gadget Review a rapporté qu'OpenAI avait licencié trois chercheurs en sécurité pour des questions liées à des informations confidentielles. Le média a présenté ces départs comme partie d'un différend plus large sur le traitement des données. L'affaire met en lumière les tensions entre le secret des entreprises et la transparence de la recherche en sécurité.
Des questions sur l'intégrité des cadres de sécurité actuels ont également été soulevées. Tech Times, dans un article publié le 2 octobre, a analysé le White House AI Safety Accord. Il en ressort que l'accord ne prévoit pas de sanctions en cas de non-respect, n'exige pas de signalement des violations et s'appuie sur des auditeurs choisis par les entreprises elles-mêmes. Cette faiblesse structurelle de la politique américaine contraste avec le régime de tests actif, quoique perturbé, maintenu par l'AISI britannique.
Le retour de l'AISI à plein régime compte pour le domaine international de la sécurité de l'IA. D'autres gouvernements et entreprises citent souvent les évaluations de l'institut comme référence pour un déploiement responsable. Sa capacité à tester les modèles de façon indépendante le distingue dans un secteur où les développeurs formulent eux-mêmes nombre d'allégations de sécurité.
Le volet technique de l'évaluation de la sécurité de l'IA évolue lui aussi. L'AISI se concentre sur des tests comportementaux de haut niveau, tandis que d'autres pans de l'industrie technologique traitent des problèmes de sécurité de plus bas niveau. Par exemple, un billet de blog publié par ClickHouse le 30 septembre 2026 détaillait les complexités de la sûreté mémoire pour les extensions Postgres en C et C++. L'article expliquait comment l'intégration de code C++ dans un système fondé sur C comme Postgres peut produire un comportement indéfini si les schémas d'allocation mémoire ne sont pas gérés avec soin. C'est un problème d'ingénierie de bases de données, mais il reflète le défi plus large que représente la construction de systèmes sûrs à mesure que les composants d'IA s'intègrent davantage aux infrastructures existantes.
La volonté de construire des systèmes d'IA sûrs influence aussi la façon dont les professionnels abordent leur carrière. Le 2 octobre, un post de Boyd Kane sur LessWrong proposait des conseils détaillés pour candidater à des bourses en sécurité de l'IA. Kane, entré dans le programme MATS fin 2025, estimait que le processus de candidature est adversarial. Selon lui, les candidats doivent distinguer leurs compétences de celles du « Average Joe ». Il soulignait qu'il ne suffit pas de décrire des réalisations impressionnantes. Les candidats doivent présenter leur travail d'une manière clairement distincte des candidatures typiques. Ce conseil illustre la concurrence intense pour les talents en sécurité de l'IA, un domaine qui se professionnalise rapidement.
La réponse internationale à la sécurité de l'IA se diversifie également. Le 2 octobre, The Straits Times a rapporté que Josephine Teo, ministre du Numérique et du Renseignement de Singapour, appelait à utiliser l'IA pour combattre les menaces liées à l'IA dans le cadre d'une approche à plusieurs niveaux. CNA, dans un article connexe le même jour, citait Teo déclarant que les garde-fous existants des entreprises d'IA sont insuffisants à mesure que les modèles gagnent en capacités. Ces déclarations de la direction singapourienne traduisent un consensus croissant parmi les pays non occidentaux. Les mesures volontaires de l'industrie ne suffisent plus à atténuer les risques de l'IA avancée, selon cette vision.
La Corée du Sud est elle aussi confrontée aux implications des nouvelles capacités de l'IA. Un article du Korea Business Review du 2 octobre notait que la sortie de GPT-6 Astra a ravivé les craintes de « remplacement par l'IA » dans le pays. L'article examinait la réaction nerveuse des États-Unis face à l'impact de tels modèles sur l'industrie sud-coréenne. Il suggérait que les bouleversements économiques et sociaux causés par l'IA deviennent une préoccupation centrale pour les décideurs politiques en Asie.
Dans le secteur de la santé, l'attention portée à la sécurité se déplace vers la défense contre les cyberattaques assistées par l'IA. Medscape rapportait le 2 octobre que des experts appellent à renforcer les défenses contre les cyberattaques par IA visant les systèmes de santé. Cela s'inscrit dans une tendance plus large : la sécurité de l'IA ne se limite pas à l'alignement des modèles. Elle consiste aussi à protéger les infrastructures critiques contre des acteurs malveillants susceptibles d'utiliser l'IA pour lancer des attaques sophistiquées.
Une autre dimension concerne l'évaluation de l'impact de l'IA sur les infrastructures physiques. Un rapport du 1er octobre indiquait que l'IA est utilisée pour réduire de trois jours à 10 minutes les contrôles de sécurité des ponts vieillissants, avec une précision de 90 %. Cette application améliore l'efficacité, mais elle soulève des questions sur la fiabilité des systèmes d'IA dans des environnements critiques où une erreur peut avoir de graves conséquences.
La réglementation se complique encore parce que les juridictions adoptent des approches différentes. Kakao, géant technologique sud-coréen, a signé le 28 septembre un protocole d'accord avec un institut de recherche sur la sécurité de l'IA afin de bâtir un cadre d'évaluation de la sécurité de l'IA. Yonhap News a rapporté la nouvelle. Cela montre que de grandes entreprises privées commencent à formaliser des partenariats avec des organismes de recherche en sécurité pour s'assurer que leurs produits respectent les normes émergentes.
L'efficacité de ces efforts d'autorégulation est toutefois examinée de près. Un article d'Adnan Masood, PhD, publié sur Medium le 3 octobre, soutenait que pour que l'autorégulation de l'IA fonctionne, les acheteurs doivent l'imposer. Masood estimait que sans pression du marché de la part de consommateurs et d'entreprises réclamant une IA plus sûre, les normes volontaires risquent de rester inefficaces. Cette perspective ajoute une dimension commerciale au débat sur la sécurité, en le reliant aux décisions d'achat et de chaîne d'approvisionnement.
Les défis techniques de la sécurité de l'IA sont aussi traités au niveau de la recherche. Un rapport du 5 octobre mettait en avant une évaluation gouvernementale où aucun modèle n'a bloqué entièrement les attaques par IA. Le taux de réussite des attaques par mémoire à long terme atteignait 91,2 %. Ce chiffre, s'il est exact, suggère que les mesures défensives actuelles sont loin d'être fiables. Les modèles d'IA peuvent être vulnérables à des attaques persistantes fondées sur la mémoire, qui contournent les filtres de sécurité standard.
Pendant ce temps, l'AISI britannique continue d'opérer dans l'ombre de son incident d'août. La reprise des tests est une étape positive. Elle doit être lue à la lumière de l'examen continu et des contraintes de ressources auxquels l'agence fait face. Sa capacité à maintenir des tests indépendants et rigoureux sous pression politique et commerciale sera un indicateur clé de sa viabilité à long terme.
À mesure que le secteur avance, ces facteurs façonneront la trajectoire des efforts en matière de sécurité de l'IA. Ils incluent le rétablissement opérationnel, les évolutions des politiques internationales et les vulnérabilités techniques. Les prochains mois devraient voir une activité accrue de l'AISI. L'institut cherche à rétablir son rôle d'évaluateur mondial de premier plan des modèles d'IA de pointe.
Sources
2- 01Memory safety for Postgres extensions in C/C++EN
- 02How to apply to AI safety fellowships (and beyond)EN
Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.
Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.
Commentaires
0- Aucun commentaire — soyez le premier.