Pangram lance des modèles de détection d'images et de vidéos générées par IA

Pangram, une start-up new-yorkaise connue pour repérer les textes écrits par une IA, a lancé mercredi Pangram Image 1.0 pour les images fixes et Pangram Image Flash 1.0, plus léger et plus rapide, pour la vidéo, qu'il analyse image par image. Les deux tournent dans son application web et son API. Image 1.0 est aussi intégré à son extension Chrome, qui scanne les images pendant la navigation.

Le modèle image peut produire une carte de chaleur montrant où se trouve le contenu généré par IA dans une photo, par exemple un objet faux ajouté à une image réelle. Sur la vidéo, rapporte Engadget, l'outil distingue les clips partiellement générés par IA de ceux qui le sont entièrement et signale les zones de l'image probablement synthétiques. Les modèles travaillent aussi sur des fichiers plus petits qu'avant, jusqu'à 256 par 256 pixels au lieu de 512 par 512, et affichent un avertissement de faible confiance en dessous de 512. L'API traite désormais images et vidéos. La société avait publié un aperçu de recherche d'Image 1.0 ; le modèle est maintenant accessible via l'extension Chrome.

Les chiffres de précision et la façon dont ils ont été testés

Pangram affirme qu'Image 1.0 repère 99,2 % des images générées par IA et signale à tort 0,27 % des images réelles. Engadget situe la performance annoncée au-delà de 99 %, avec le même taux de faux positifs.

Le chiffre de 99,96 % vient d'un test conçu par Pangram. L'entreprise a fabriqué des copies par IA de 100 photos réelles avec 12 générateurs d'images de premier plan, en utilisant des prompts très proches de chaque original. C'est Pangram qui a conçu le test, pas des évaluateurs extérieurs.

Pour la vidéo, l'entreprise a utilisé DF26, un benchmark académique de 2 691 clips montrant des personnes face caméra, publié en septembre. Pangram annonce 98,7 % pour Flash 1.0 sur DF26, soit 29 points de plus que le meilleur détecteur suivant. Engadget évoque une précision supérieure à 98 % pour le modèle vidéo, en citant un test interne détaillé par l'entreprise.

Pourquoi la détection reste difficile

Le benchmark DF26 n'épargne personne. Ses auteurs ont constaté que les humains comme les principaux détecteurs faisaient à peine mieux que le hasard pour distinguer les vrais clips des faux. C'est dans ce contexte que s'inscrit le 98,7 %.

Les détecteurs se trompent encore. Lors de tests menés par Reuters, même le détecteur d'images de Meta a manqué plus d'une fois sur deux les faux recadrés produits par son propre générateur. Sur YouTube, un réseau qui payait de vrais acteurs pour lire des scripts générés par IA a déjoué ses détecteurs. Pangram s'est aussi trompé : en août, son outil texte a classé comme partiellement générée par IA une tribune d'une professeure de Berkeley, qui a contesté le résultat.

Le PDG Max Spero affirme que la plupart des appareils photo de téléphone, iPhone compris, appliquent un post-traitement par IA. Il a déclaré à Pirate Wires que l'entreprise avait repoussé la sortie du modèle image pour le tester sur plusieurs iPhone 18 Pro, parce qu'il avait d'abord signalé leurs photos comme générées par IA. Spero a partagé une capture de l'extension Chrome fonctionnant sur Pinterest ; elle a renvoyé un résultat « incertain » sur deux images qui ne sont manifestement pas de vraies photos.

Disponibilité et financement

Pangram indique que les outils sont disponibles dès maintenant pour les abonnés, et que les comptes gratuits peuvent vérifier quelques images sans formule payante. Pangram a levé 9 000 000 de dollars lors d'un tour mené par Menlo Ventures en juillet, au moment où elle avait présenté pour la première fois la détection d'images. Son détecteur de texte tourne déjà sur Substack.

Pangram dit entraîner ses modèles à voir à travers la compression, le flou et le bruit, que les plateformes et ceux qui cherchent à tromper les détecteurs peuvent ajouter.