Pangram lancia i modelli per riconoscere immagini e video generati dall'AI

Pangram, startup di New York nota per riconoscere i testi scritti dall'AI, ha lanciato mercoledì Pangram Image 1.0 per le immagini fisse e Pangram Image Flash 1.0, più piccolo e veloce, per i video, che analizza fotogramma per fotogramma. Entrambi funzionano nella web app e tramite API, e Image 1.0 arriva anche nell'estensione per Chrome, che analizza le immagini mentre l'utente naviga.

Il modello per le immagini sa produrre una mappa di calore che mostra dove si trova il contenuto AI dentro una foto, per esempio un oggetto falso aggiunto a uno scatto reale. Sui video, ha riferito Engadget, lo strumento distingue le clip in parte generate dall'AI da quelle interamente sintetiche e segnala quali zone del fotogramma sono probabilmente artificiali. I modelli lavorano anche su file più piccoli di prima, fino a 256 x 256 pixel invece di 512 x 512, e sotto i 512 danno un avviso di affidabilità ridotta. L'API ora gestisce sia immagini sia video. L'azienda aveva pubblicato un'anteprima di ricerca di Image 1.0; ora il modello è disponibile tramite l'estensione per Chrome.

Le dichiarazioni di accuratezza e come sono state verificate

Pangram sostiene che Image 1.0 intercetta il 99,2% delle immagini AI e segnala per errore lo 0,27% di quelle reali. Engadget ha indicato per il rilevamento una quota superiore al 99%, con lo stesso tasso di falsi positivi.

Il dato del 99,96% viene da un test costruito da Pangram. L'azienda ha creato copie AI di 100 foto reali con 12 generatori di immagini tra i principali, usando prompt molto vicini a ciascun originale. Il test l'ha progettato Pangram, non revisori esterni.

Per i video l'azienda ha usato DF26, un benchmark accademico di 2.691 clip di persone che parlano davanti alla camera, pubblicato a settembre. Pangram afferma che Flash 1.0 raggiunge il 98,7% su DF26, 29 punti sopra il secondo rilevatore migliore. Engadget ha riportato un'accuratezza superiore al 98% per il modello video, citando un test interno che l'azienda ha descritto nel dettaglio.

Perché il rilevamento resta difficile

Il benchmark DF26 è severo con tutti gli altri. Gli autori hanno scoperto che sia le persone sia i principali rilevatori facevano poco meglio del caso nel distinguere clip reali da falsi. È in questo contesto che va letto il 98,7%.

I rilevatori sbagliano ancora. Perfino il rilevatore di immagini di Meta ha mancato più della metà delle volte i falsi ritagliati dal suo generatore nei test di Reuters. Su YouTube, una rete che pagava attori veri per leggere copioni scritti dall'AI ha battuto i suoi rilevatori. Anche Pangram ha preso abbagli: ad agosto il suo strumento per il testo ha segnalato come in parte scritto dall'AI l'editoriale di una professoressa di Berkeley, che ha contestato il risultato.

Il CEO Max Spero ha detto che la maggior parte delle fotocamere dei telefoni, iPhone compresi, applica una qualche postproduzione AI. Ha raccontato a Pirate Wires che l'azienda ha rinviato il modello per le immagini per provarlo su diversi iPhone 18 Pro, dopo che in un primo momento ne aveva segnalato le foto come AI. Spero ha condiviso l'immagine dell'estensione per Chrome in funzione su Pinterest; su due immagini che non sono chiaramente foto autentiche ha restituito un risultato "incerto".

Disponibilità e finanziamenti

Pangram ha detto che gli strumenti sono disponibili da subito per gli abbonati, e che gli account gratuiti possono controllare qualche immagine senza piano a pagamento. A luglio Pangram ha raccolto 9.000.000 di dollari in un round guidato da Menlo Ventures, quando ha mostrato per la prima volta il rilevamento delle immagini. Il suo rilevatore di testo è già attivo su Substack.

Pangram afferma di addestrare i modelli a vedere attraverso compressione, sfocatura e rumore, che le piattaforme e chi cerca di ingannare i rilevatori possono aggiungere.