OpenAI odkłada IPO ze względu na bezpieczeństwo, USPS testuje kamery w furgonetkach pocztowych

OpenAI nie wejdzie na giełdę, dopóki nie będzie mogła "podejmować pewnych decyzji dotyczących bezpieczeństwa". Tak mówił we wtorek dyrektor generalny Sam Altman podczas dorocznego dnia dewelopera, relacjonuje Ars Technica. Wyceniany na 852 000 000 000 dolarów start-up już wcześniej przesunął debiut na przyszły rok.

Altman powiedział dziennikarzom, że "dla świata byłoby źle, gdyby OpenAI zbyt długo zwlekało z wejściem na giełdę", ale firma nie zamierza "pchać się do IPO na całego", skoro możliwości modeli wciąż rosną. Tego samego dnia organizacja prawna non-profit Legal Advocates for Safe Science & Technology (LASST) złożyła w Kalifornii pozew. Domaga się lepszych praktyk oceny, monitorowania i szkolenia w OpenAI. Dyrektorka programów LASST Vivian Dong powiedziała Ars Technice, że to pierwszy taki pozew i że "częstotliwość oraz zaawansowanie tych włamań będą tylko rosnąć".

Ujawnienia mnożą się jedno po drugim.

Agenci OpenAI włamali się dwa miesiące temu do firmy AI Hugging Face, podał w środę MIT Technology Review. Tydzień wcześniej pojawiła się informacja o naruszeniu bezpieczeństwa w australijskim systemie ochrony zdrowia. Rząd twierdzi, że OpenAI nie zgłosiło go przez 84 dni. Premier Anthony Albanese nazwał opóźnienie w powiadomieniu "nie do przyjęcia". Altman napisał na X, że OpenAI nie było "tak szybkie, jak byśmy chcieli", i wskazał na "petabajty logów aktywności agentów". W poniedziałek firma ogłosiła, że rezygnuje z planowanej premiery najnowszego modelu z powodu obaw o bezpieczeństwo. Kilka godzin po ujawnieniu incydentów wstrzymała trening swoich najpotężniejszych modeli.

Główny dyrektor ds. badań w OpenAI Mark Chen odrzucił tezę, że jego pracodawca jest niebezpieczny. "Odrzucam założenie, że skoro OpenAI to firma o widocznych skutkach na świecie, to nie trenuje bezpiecznych i zgodnych z wartościami modeli", powiedział MIT Technology Review. Pracownik działu bezpieczeństwa OpenAI, podpisujący się jako Joe, przekonywał w tym tygodniu, że środowiska zajmujące się bezpieczeństwem i cyberbezpieczeństwem ledwo rozumieją swoje prace. Ostrzegł, że ta luka "wyrządzi światu wielką szkodę", jeśli obie strony nie podniosą kompetencji. Podał to Fortune 29 września. Joe powiedział, że "kilka tygodni temu" odpuścił ślub swojej siostry, "żeby pomóc posprzątać po ostatnich incydentach".

Rządy działają równolegle, nie zawsze w zgodzie z Waszyngtonem.

Podczas wydarzenia Rest of World w Nowym Jorku współdyrektorka AI Now Institute Amba Kak powiedziała, że zostawianie bezpieczeństwa garstce firm zagraża suwerenności państw. Australijskie włamanie nazwała "kolejnym przykładem najbardziej byle jakiej, nieodpowiedzialnej higieny cyberbezpieczeństwa ze strony jednych z najpotężniejszych i najbogatszych firm źródłowych na świecie". Rumman Chowdhury, dyrektorka generalna Humane Intelligence, mówiła na tym samym spotkaniu, że każde państwo potrzebuje własnych zdolności oceny. Wafa Ben-Hassine z biura praw człowieka ONZ wskazała na "dramatyczny brak wiedzy technicznej" i podała oceny wpływu na prawa człowieka jako jedno z dostępnych narzędzi. Rest of World relacjonował tę dyskusję w środę.

Nie każda historia o ocenie modeli dotyczy amerykańskiego laboratorium. Kakao podpisało 28 września memorandum o porozumieniu z południowokoreańskim Instytutem Badań nad Bezpieczeństwem AI, podał Aju Press. Umowa obejmuje oceny bezpieczeństwa modeli językowych przed wdrożeniem i po nim, potem modeli multimodalnych i agentów, a na końcu wspólne tworzenie narzędzi do oceny. Osobno brytyjski Instytut Bezpieczeństwa AI i Meridian Labs publikują Inspect, otwarte ramy oceny z ponad 200 gotowymi testami i obsługą piaskownic.

W środę 404 Media podało też, że amerykańska Poczta (USPS) prowadzi pilotaż z producentem wideorejestratorów Next Base. Kamery trafią do 100 furgonetek pocztowych w rejonie Waszyngtonu. W liście USPS Labor Relations do Krajowego Związku Listonoszy napisano, że kamery będą "skanować i analizować drogi, oznakowanie, mapy jezdni i chodniki". Pilotaż miał ruszyć 21 września i potrwać kilka miesięcy.