Pangram uruchamia modele do wykrywania obrazów i wideo z AI

Pangram, nowojorski startup znany z wykrywania tekstów pisanych przez AI, uruchomił w środę Pangram Image 1.0 do zdjęć oraz mniejszy i szybszy Pangram Image Flash 1.0 do wideo, który sprawdza materiał klatka po klatce. Oba działają w aplikacji webowej i w API. Image 1.0 trafił też do rozszerzenia Chrome, które skanuje obrazy w trakcie przeglądania stron.

Model obrazów rysuje mapę cieplną pokazującą, gdzie na zdjęciu znajduje się treść z AI, na przykład podrobiony przedmiot dołożony do prawdziwego zdjęcia. W wideo, jak podał Engadget, narzędzie oddziela klipy częściowo generowane od tych stworzonych w całości i wskazuje, które fragmenty kadru są prawdopodobnie syntetyczne. Modele radzą sobie też z mniejszymi plikami niż wcześniej: od 256 na 256 pikseli, wcześniej od 512 na 512. Poniżej 512 narzędzie ostrzega, że pewność jest niższa. API obsługuje teraz obrazy i wideo. Firma pokazała wcześniej podglądową wersję badawczą Image 1.0; teraz model jest dostępny przez rozszerzenie Chrome.

Deklaracje dokładności i sposób ich testowania

Pangram twierdzi, że Image 1.0 wychwytuje 99,2% obrazów z AI i błędnie oznacza 0,27% prawdziwych. Engadget podał, że wynik detekcji przekracza 99%, przy takim samym odsetku fałszywych alarmów.

Liczba 99,96% pochodzi z testu, który Pangram zbudował sam. Firma zrobiła kopie 100 prawdziwych zdjęć za pomocą 12 czołowych generatorów obrazów, używając promptów ściśle dopasowanych do każdego oryginału. Test zaprojektował Pangram, nie zewnętrzni recenzenci.

W przypadku wideo firma użyła DF26, akademickiego testu porównawczego z 2 691 klipami, na których ludzie mówią do kamery, opublikowanego we wrześniu. Pangram podaje, że Flash 1.0 osiąga 98,7% w DF26, o 29 punktów więcej niż drugi najlepszy detektor. Engadget napisał o dokładności modelu wideo powyżej 98%, powołując się na jeden wewnętrzny test, który firma szczegółowo opisała.

Dlaczego wykrywanie wciąż jest trudne

Test DF26 jest surowy dla wszystkich pozostałych. Jego autorzy stwierdzili, że zarówno ludzie, jak i czołowe detektory radzili sobie niewiele lepiej niż losowo przy odróżnianiu prawdziwych klipów od podróbek. Ta luka jest tłem dla 98,7%.

Detektory nadal się mylą. Nawet własny detektor obrazów Mety przegapił przycięte podróbki z jej generatora w więcej niż połowie przypadków w testach Reutersa. Na YouTube sieć, która płaciła prawdziwym aktorom za czytanie scenariuszy z AI, pokonała detektory. Pangram też zaliczył wpadkę: w sierpniu jego narzędzie do tekstu oznaczyło felieton profesorki z Berkeley jako częściowo napisany przez AI, a ona zakwestionowała ten wynik.

Prezes Max Spero powiedział, że większość aparatów w telefonach, w tym iPhony, wykonuje jakąś obróbkę AI. W rozmowie z Pirate Wires stwierdził, że firma opóźniła model obrazów, by przetestować go na kilku iPhone'ach 18 Pro, bo początkowo oznaczał ich zdjęcia jako AI. Spero udostępnił zrzut ekranu z rozszerzeniem Chrome działającym na Pintereście: dwa obrazy, które oczywiście nie są prawdziwymi zdjęciami, dostały wynik „niepewne”.

Dostępność i finansowanie

Pangram podał, że narzędzia są już dostępne dla subskrybentów, a darmowe konta mogą sprawdzić kilka obrazów bez płatnego planu. W lipcu firma zebrała 9 mln dol. w rundzie prowadzonej przez Menlo Ventures, gdy po raz pierwszy pokazała wykrywanie obrazów. Jej detektor tekstu działa już na Substacku.

Pangram mówi, że uczy modele rozpoznawać treści mimo kompresji, rozmycia i szumu, które dodają platformy i osoby próbujące oszukać detektory.