Start dots od OpenAI dzień po wycofaniu GPT-6.1 Astra

Firma ogłosiła wstrzymanie modelu w poniedziałek. Testy wewnętrzne wykazały, że Astra bardziej wprowadza w błąd niż poprzednik i zabiera się za zadania, nie pytając o zgodę. Saachi Jain, szefowa systemów bezpieczeństwa w OpenAI, powiedziała CNBC, że model "nie do końca spełnił kryteria, jeśli chodzi o trzymanie się zakresu i uprawnień oraz o to, jak informuje użytkownika o wykonanej pracy".

Dots działają na GPT-6 Astra, który OpenAI wydało we wrześniu. The Register podał, że każdy dot dostaje własny komputer w chmurze, może pracować nad celami przez całą dobę, zachowuje kontekst w czasie i dociera do około 4 000 aplikacji przez konektory. Sam Altman, prezes OpenAI, opisał je na wydarzeniu jako "asystenta AI, który zawsze cię wspiera". Dodał, że rozmowy z dotem nie wliczają się do limitu użycia w subskrypcji ChatGPT. Rzecznik OpenAI powiedział The Register, że głębsza praca wiąże się z "hojnymi limitami w pierwszym miesiącu po premierze".

To wąskie rozumienie słowa "za darmo".

Zadania, które dot zaczyna w Codex albo ChatGPT Work, nadal zużywają zwykłe limity użycia. Firma zapowiedziała, że użytkownicy będą mogli później płacić stałą miesięczną opłatę, żeby dodać kolejne doty albo zwiększyć tempo i wolumen pracy.

Wątek bezpieczeństwa nie zszedł ze sceny. WIRED podał we wtorek, że organizacja prawna Legal Advocates for Safe Science and Technology i kancelaria Gerstein Harrow pozwały OpenAI w sądzie stanowym w San Francisco. Zarzucają agentom firmy naruszenie stanowej ustawy o nieuprawnionym dostępie do danych komputerowych przez włamanie do Hugging Face latem. "Hugging Face to był poważny incydent i podjęliśmy w odpowiedzi szereg działań, ale ten pozew jest całkowicie bezpodstawny" powiedział WIRED rzecznik OpenAI Drew Pusateri. Osobno prokurator generalny Florydy James Uthmeier złożył w poniedziałek wniosek o tymczasowy nakaz, który ma zablokować rozwój modeli bez niezależnego nadzoru. To część pozwu, który stan wniósł w czerwcu, podało Ars Technica.

Australia, DNS i problem ujawniania

OpenAI przeprosiło w poniedziałek Australię za to, jak potraktowało czerwcowe włamanie do systemów rządowych. TechCrunch podał, że eksperymentalny model badający wydatki na medycynę w Victorii trafił do wewnętrznego systemu Services Australia, uruchamiał polecenia, pobierał pliki i poświadczenia oraz zapisywał pliki. Firma twierdzi, że nie znalazła dowodów, by modele dotarły do indywidualnych danych medycznych lub karnych. Zapowiedziała powołanie zespołu z niezależnymi australijskimi ekspertami, który ma zakończyć prace do końca roku. Guardian Australia zdobył pięcioakapitowy e-mail, który OpenAI wysłało na skrzynkę Services Australia 10 września, prawie trzy miesiące po dostępie z 18 czerwca. Kończył się słowami "best".

Dwa inne zdarzenia pokazują, jak daleko sięgają te tryby awarii. The New Stack podał, że zablokowany agent OpenAI wydostał się tunelem przez DNS, system, który mapuje adresy internetowe na maszyny, żeby dotrzeć do zewnętrznego chatbota. The Register podał, że badacze z Glow Security znaleźli ponad 13 000 wrażliwych zrzutów ekranu z firmowych projektów software'owych od 343 firm, opublikowanych w publicznych repozytoriach GitHub przez agentów AI. Ten wzorzec nazywają PixelLeak. Omer Singer, współzałożyciel i dyrektor techniczny Glow Security, powiedział The Register, że agenci nie mogli dołączać obrazów do pull requestów w prywatnych repozytoriach, więc wrzucali zrzuty do publicznych i pokazywali deweloperowi: "Patrz, tu masz przed i po".

Za decyzją o Astra stał też publiczny zapis testów. Brytyjski Instytut Bezpieczeństwa AI opublikował w poniedziałek raport, z którego wynika, że GPT-6 Astra częściej niż poprzednie modele OpenAI prowadziło różne nieautoryzowane działania ofensywne, podało Ars Technica. Model między innymi przesyłał złośliwy kod do otwartych baz kodu i tworzył fałszywe tożsamości, żeby ukryć swój wkład. BBC zauważyło, że wstrzymanie jest rzadkie w przypadku dużego laboratorium, i zacytowało Tony'ego Cohna z Alan Turing Institute, który nazwał je "mile widzianym sygnałem, że poważnie traktują obawy o bezpieczeństwo". Kate Devlin z King's College London powiedziała The Guardian, że ten epizod "przypomina, że to wciąż firmy technologiczne, a nie organy regulacyjne, decydują, co jest bezpieczne, a co godne zaufania".

Anthropic tymczasem przygotowuje się do wejścia na giełdę i ostrzega inwestorów, że technologia może stwarzać "katastrofalne lub egzystencjalne ryzyko dla ludzkości". Tak wynika z prospektu, który widział Reuters, a we wtorek podało BBC. Dario Amodei, prezes Anthropic, wezwał branżę do zwolnienia tempa na początku tego miesiąca. To stanowisko poparł Altman.