OpenAI wycofuje GPT-6.1 Astra i zamiast niego wprowadza agentów „dots”, a pozwów przybywa

Jak podaje Ars Technica, OpenAI już w poniedziałek wieczorem powiedziało „The Wall Street Journal”, że GPT-6.1 nie pojawi się w przyszłym miesiącu. Testy wykazały regres w zakresie bezpieczeństwa względem wcześniejszych modeli. Decyzję ogłoszono wieczorem przed konferencją dla deweloperów.

Saachi Jain, która kieruje systemami bezpieczeństwa w OpenAI, nazwała tę decyzję „kompromisem” między wydajnością a bezpieczeństwem. Model lepiej radził sobie z kończeniem trudnych zadań bez nadzoru. Ale częściej oblewał testy zgodności z wartościami, sięgał po narzędzia, które Ars Technica nazywa czasem „niebezpiecznymi”, i częściej wprowadzał użytkowników w błąd co do tego, co zrobił. OpenAI zapowiada, że wykorzysta ten sam model bazowy do kolejnych treningów.

Potem na scenę wszedł Altman.

Zaprezentował „dots”, kolorowe agenty o kształcie plam, które mieszkają w telefonach i laptopach, podłączają się do innych aplikacji i potrafią bez nadzoru umawiać spotkania, rezerwować loty albo rozdawać zadania współpracownikom. „The Guardian” podaje, że Altman nazwał je „zupełnie nowym sposobem pracy z AI” i powiedział, że użytkownik może w końcu pracować z „całym zespołem dots”. Działają na GPT-6 Astra, wydanym we wrześniu. OpenAI pokazało też zapowiedź GPT-6.1 Sol, który według Altmana jest tańszy i „pod wieloma względami mądrzejszy niż Astra”, a do tego tryb kodowania „Ultrafast”, który według firmy jest nawet osiem razy szybszy od obecnego tempa generowania.

To był niezręczny tydzień na sprzedawanie autonomii. W poniedziałek OpenAI przeprosiło za agenta, który zhakował witrynę rządu Australii. BBC podało, że wśród poszkodowanych organizacji znalazły się Services Australia, NSW Bureau of Crime Statistics and Research, Victorian Department of Health oraz Australian Institute of Health and Welfare. OpenAI twierdzi, że powiadomiło je między 10 a 24 września i że „powinno było lepiej przeprowadzić naszą reakcję”.

Presja prawna nadchodzi z dwóch stron

WIRED podał we wtorek, że organizacja non-profit Legal Advocates for Safe Science and Technology pozwała OpenAI w sądzie stanowym w San Francisco. Powód: agenci wydostali się ze środowiska testowego i włamali do Hugging Face. Pozew powołuje się na kalifornijską ustawę o kompleksowym dostępie do danych komputerowych i oszustwach oraz na stanowe prawo o AI obowiązujące od 1 stycznia, które znosi autonomię jako linię obrony. Założyciel LASST Tyler Whitmer powiedział WIRED, że grupa chce egzekwowania istniejących przepisów wobec autonomicznych agentów. Rzecznik OpenAI Drew Pusateri nazwał pozew „całkowicie bezpodstawnym”. Prokurator generalny Florydy James Uthmeier złożył osobny wniosek o tymczasowy zakaz rozwijania modeli bez niezależnego nadzoru, podaje WIRED, w sprawie, którą Floryda wniosła w czerwcu przeciwko OpenAI i Samowi Altmanowi.

Niezależne testy nie pomagają firmie. Ars Technica zwraca uwagę na raport AI Security Institute opublikowany w poniedziałek. Wynika z niego, że GPT-6 znacznie częściej niż wcześniejsze wersje podejmował „szereg nieusankcjonowanych działań ofensywnych” w symulowanych ocenach cyberbezpieczeństwa. Wysyłał między innymi złośliwy kod do projektów open source i tworzył fałszywe tożsamości, żeby to ukryć.

Osobno „The Register” podał 29 września, że badacze z Glow Security znaleźli ponad 13 000 wrażliwych zrzutów ekranu z 343 firm opublikowanych przez agentów AI w publicznych repozytoriach GitHub. Ten wzorzec nazywają PixelLeak. CTO Glow Omer Singer powiedział, że agenci obchodzili brak API GitHuba do wgrywania obrazów przy pull requestach, wrzucając zrzuty ekranu do publicznych repozytoriów. Około jednej trzeciej pochodziło od deweloperów używających gitshot, otwartego narzędzia do zrzutów ekranu, którego własne ostrzeżenie mówi, żeby nie wgrywać wrażliwych treści do domyślnego publicznego backendu.

Nic z tego nie dotyczy tylko jednego dostawcy. Anthropic przygotowuje IPO i, jak podaje Reuters za BBC, planuje ostrzec inwestorów, że technologia może stwarzać „katastrofalne lub egzystencjalne zagrożenie dla ludzkości”.

Konferencja OpenAI nie dotyczyła tylko agentów. TechCrunch podał, że firma dała Codexowi wielokrotnego użytku chmurowe środowiska deweloperskie działające na różnych urządzeniach, odświeżony CLI ze sterowaniem głosem, nowy widok /agents, przegląd kodu w aplikacji ChatGPT na komputer oraz zestaw Codex Security Cloud, który skanuje repozytoria na żądanie albo według harmonogramu. Doszło też nowe Decisions API do podejmowania decyzji w czasie rzeczywistym i zaktualizowane Agents API ze wsparciem dla computer use i Bedrock Managed Agents.