OpenAI czterokrotnie zwiększa nagrody za błędy, a projektom open source brakuje rąk do pracy

OpenAI podało 3 listopada, że czterokrotnie zwiększyło wypłaty w programie bug bounty. Krytyczne luki w ChatGPT i Codex wyceniono teraz na maksymalnie 30 000 dolarów, a wyjątkowe znaleziska sięgają około 172 000 dolarów, licząc premie. Projekty open source, na których to wszystko stoi, nie mają jak dotrzymać tego tempa.

Dla każdego, kto prowadzi stronę albo drzewo zależności, wąskie gardło przesunęło się gdzie indziej. Znajdowanie błędów jest coraz tańsze i szybsze. Weryfikacja, pisanie poprawek i wydawanie nowych wersji już nie, a nikt nie opublikował planu finansowania tej połowy pracy.

Program OpenAI, opisany przez The Decoder 3 listopada, płaci do 100 000 dolarów za wyjątkowe znaleziska, a do tego dochodzą premie za jakość, lojalność i udział w kampaniach. Nowością jest pięciostopniowy program lojalnościowy oraz kampanie ograniczone czasowo, powiązane z premierami produktów. Badacze, którzy zgłosili lukę w poprzednich 30 dniach, dostają różnicę z wyrównaniem wstecz. OpenAI przygotowuje też sprint bezpieczeństwa z firmą Cathedral. Podczas poprzedniego 25% inżynierów produktowych OpenAI szukało podatności.

Płacenie zewnętrznym badaczom to jedna dźwignia. Druga to ludzie w zespole, a tutaj liczby biegną w przeciwną stronę.

Darmowy OSS Scanner firmy Anthropic, który zaczął przyjmować zgłoszenia 8 października, daje kwalifikującym się projektom open source cykliczne przeglądy kodu przez modele frontier, w tym Claude Mythos. Każdy raport zawiera reproduktor, wyjaśnienie i, jeśli jest dostępna, propozycję poprawki. Wynik powstaje w całości w modelu, bez ludzkiej selekcji. Anthropic przyznaje, że raporty mogą być błędne. TechTarget podał 30 października, że modele wskazały 29 432 potencjalne podatności. Anthropic przejrzał ręcznie 6 123 z nich, a 513 znalezisk trafiło jako poprawki do projektów źródłowych. Testerzy penetracyjni sprawdzili 97 znalezisk krytycznych i o wysokiej wadze w 48 projektach. 88% spełniło próg ujawnienia, 11 było duplikatami, a jedno fałszywym alarmem.

"Skan jest darmowy, ale czas potrzebny na zajęcie się jego wynikami już nie", powiedział TechTarget Krishna Shakula, inżynier AI w kancelarii Robertson, Anschutz, Schneid, Crane & Partners.

Ta luka widać w samej pracy. Model w kilka sekund wskaże podejrzany wzorzec. Opiekun projektu nadal musi go odtworzyć, ocenić, czy da się wykorzystać w tym konkretnym projekcie, oszacować pilność i sprawdzić proponowaną poprawkę. Nawet prawdziwa podatność może zająć godziny, zanim zostanie bezpiecznie zamknięta.

Najostrzej arytmetyka wygląda w PHP. Ten język skryptowy stoi za około 69% stron, których język serwerowy jest znany, według szacunków W3Techs, na które powołuje się BigGo Finance. Fundacja PHP Foundation, która koordynuje reakcje na problemy bezpieczeństwa w tym kodzie, ma jednego pracownika na pełny etat. Dyrektorka wykonawcza Elizabeth Barron powiedziała BigGo Finance, że pracuje z około 14 kontraktorami na część etatu i członkami zarządu, którzy nie biorą za to pieniędzy. Popyt na poprawki podwoił się, odkąd AI ułatwiła szukanie luk, ale liczba współpracowników nie, stwierdziła. Dwie krytyczne luki w PHP, znalezione przez zespół korzystający z modeli OpenAI, wymusiły awaryjne poprawki. Cloudflare podał, że skutki dotyczyły serwerów z PHP 5.4 i nowszym.

Dyrektor generalny Cloudflare Matthew Prince napisał w poście na X, że w ciągu 24 godzin od ujawnienia zaobserwowano miliony prób ataku. Wydział cyberprzestępczości FBI ostrzegał, że luki mogą pozwolić na zdalne wykonanie kodu w jądrze PHP.

Cloudflare dodał reguły firewalla blokujące ataki, a GoDaddy załatał swoją hostowaną usługę i poinformował klientów, że nie muszą nic robić. Cloudflare otworzył też na HackerOne konkurs capture-the-flag z nagrodami od 100 do 10 000 dolarów, zbudowany wokół celowo podatnego środowiska PHP. Na mniejszym końcu świadomość jest niższa. W badaniu Network Solutions na 121 amerykańskich właścicielach małych firm z własnymi stronami 45% nigdy nie słyszało o PHP.

Darmowe narzędzia obronne wciąż się pojawiają. Fundacja PrivacySafe opublikowała 57 skryptów open source obejmujących 139 luk w 67 projektach i 10 językach programowania, podał Security Today 29 października. Na liście jest PHP2Shell, a większość skryptów sprawdza konfiguracje bez zmiany kodu systemu.

3 listopada ruszył darmowy kurs open source z zakresu red teamingu AI, z ponad 60 godzinami materiałów i laboratoriami Docker zbudowanymi na garak, PyRIT i promptfoo. Uczy, jak łamać chatboty i podkładać backdoory do modeli. To te same umiejętności, których opiekunowie projektów potrzebują, żeby sprawdzić, czy znalezisko wygenerowane przez maszynę jest prawdziwe.

Pieniądze nie płyną jednak na tę stronę bilansu. Nagrody OpenAI płacą za znaleziska dotyczące produktów OpenAI, a skaner Anthropic nie płaci nic za poprawki, które proponuje. Barron mówi, że finansowania na wsparcie PHP bardzo brakuje.

Ani OpenAI, ani Anthropic nie podały, ile projektów obejmują ich programy. Wielkość tej luki wciąż pozostaje domysłem.