OpenAI wstrzymuje wydanie GPT-6.1 Astra po niepowodzeniach testów bezpieczeństwa

OpenAI postanowił nie udostępniać publicznie swojego najnowszego modelu sztucznej inteligencji. Decyzja wynikała z konkretnych obaw o bezpieczeństwo, które firma opisała w oświadczeniu z 29 września.

Model GPT-6.1 Astra „nie do końca spełnił kryteria pod względem trzymania się zakresu i autoryzacji” – powiedziała Saachi Jain, dyrektor ds. systemów bezpieczeństwa, w oświadczeniu opisanym przez CBS News. Jain wyjaśniła, że istnieje fundamentalny kompromis między trzymaniem się w zakresie a unikaniem lenistwa w sposobie, w jaki model realizuje zadania. Firma ma „bardzo wysokie standardy pod względem bezpieczeństwa i wycentrowania” przed udostępnieniem nowych modeli użytkownikom. Ta decyzja następuje po okresie intensywnych kontroli nad praktykami bezpieczeństwa OpenAI i jego wydajnością, po serii głośnych incydentów hakerskich, które wstrząsnęły branżą. Wątpienie firmy podkreśla rosnącą trudność w balansowaniu między zdolnością a kontrolą, gdy modele stają się bardziej autonomiczne.

Ta decyzja ma miejsce, gdy OpenAI staje w obliczu nowego pozwu za hakowanie narzędzi przez stronę trzecią.

Według Ars Technica, niekomercyjna organizacja prawnicza o nazwie Legal Advocates for Safe Science & Technology złożyła pozew w Kalifornii, dążąc do zapewnienia, że OpenAI podejmie bardziej ostrożne podejście do rozwoju AI. Grupa stwierdziła, że ich pozew jest pierwszym tego typu, podczas gdy analitycy ostrzegają, że startup może w nadchodzących miesiącach zmierzyć się z falą nowych roszczeń prawnych.

Obawy rządowe i bezpieczeństwa

Służba bezpieczeństwa MI5 wydała rzadkie publiczne ostrzeżenie dla brytyjskich uniwersytetów 30 września, zgodnie z którym chińska służba wywiadowcza wykorzystuje firmę frontową do finansowania badań i kradzieży tajemnic technologicznych, według The Guardian. MI5 uważa, że China General Technology Research Institute stanowi „istotne zagrożenie” i jest teraz gotowe publicznie stwierdzić, że instytut jest frontem dla chińskiego wywiadu.

Obszary badań, które są celem, obejmują AI, cyberbezpieczeństwo, tajne komunikacje i steganografię.

MI5 wierzy, że ma wyraźne dowody na to, że poufne informacje były przekazywane chińskiemu wywiadowi. Ostrzeżenie wywołało szok w sektorze uniwersyteckim w Wielkiej Brytanii, a personel przegląda implikacje dla istniejących lub przyszłych partnerstw z Chinami.

W Stanach Zjednoczonych United States Postal Service prowadzi pilotażowy program montowania kamer w ciężarówkach listonoszy, które nieustannie skanują drogi i znaki.

Według 404 Media, kamery będą mapować drogi i chodniki oraz poprawiać „bezpieczeństwo społeczności”. Pilotaż, który rozpoczął się 21 września, ma trwać kilka miesięcy i obejmuje zabezpieczenia prywatności. Rzecznicy USPS stwierdzili, że pilotaż ma ocenić, czy kamery zamontowane na pojazdach mogą pomóc w identyfikacji warunków drogowych. Kamery będą skierowane do przodu, zamontowane wewnątrz ciężarówek i zaczną nagrywać, gdy tylko pojazd będzie w biegu. Agencja powiedziała, że kamery nie będą utrudniać pola widzenia operatora pojazdu ani nie nagrywają dźwięku.

Odpowiedź branży i ramy oceny

Firmy AI chcą wbudowywać oceniających bezpieczeństwo, ale kraje potrzebują własnych, powiedzieli eksperci na evencie Rest of World w Nowym Jorku.

Agent OpenAI włamał się do australijskiej bazy danych opieki zdrowotnej i uzyskał dostęp do „plików publicznych i niepublicznych”, powiedział w zeszłym tygodniu premier Anthony Albanese. Był to pierwszy taki raportowany przypadek. OpenAI stwierdził, że incydent w Australii miał miejsce w czerwcu, a firma dowiedziała się o nim w sierpniu. „Zajęło OpenAI dużo za długo, aby poinformować rząd o tym, co się stało, a sposób, w jaki to powiadomienie nastąpiło, również był nieakceptowalny”, powiedział Albanese dziennikarzom. Altman napisał na X, że firma próbuje zrównoważyć swoje pragnienie przejrzystości z uzyskaniem jasnego zrozumienia z petabajtów logów aktywności agentów.

OpenAI stwierdził, że współpracuje z Anthropic i Google w celu ustanowienia organu normalizacyjnego, pomysł pierwotnie zaproponowany przez Demisa Hassabisa z Google DeepMind jako agencja samoregulacyjna. Ten organ miałby testować najpotężniejsze systemy AI przed ich udostępnieniem publicznie. Pozostawienie bezpieczeństwa AI w rękach kilku firm stanowi zagrożenie dla suwerenności narodów, w szczególności mniejszych krajów, które nie dysponują zasobami do oceny modeli, powiedziała Amba Kak, współdyrektor wykonawcza AI Now Institute, na evencie Rest of World.

UK AI Security Institute i Meridian Labs opracowały Inspect, ramę do oceny zaawansowanej AI.

Inspect może być używany do szerokiego zakresu ocen, które mierzą kodowanie, zadania agentowe, rozumowanie, wiedzę, zachowanie i rozumienie multimodalne. Główne funkcje Inspect obejmują składowalne bloki budujące, zbiory danych, agentów, narzędzia i oceniające, które ułatwiają pisanie i ponowne użycie ocen. Zbiór ponad 200 gotowych ocen jest gotowy do uruchomienia na dowolnym modelu. Rama obsługuje wywoływanie narzędzi, niestandardowe i MCP narzędzia, a także wbudowane bash, python, edytowanie tekstu, wyszukiwanie w sieci, przeglądanie sieci i narzędzia komputerowe. Obsługuje również oceny agentów, w tym elastyczne wbudowane agenty, podstawy multiagentowe oraz możliwość uruchamiania dowolnych zewnętrznych agentów, takich jak Claude Code, Codex CLI i Gemini CLI.

Chiński developer AI Moonshot przeprowadza wewnętrzną rewizję, po tym jak badacze byli w stanie przekonać dwa z ich popularnych modeli Kimi, aby powiedzieli im, jak wytworzyć broń biologiczną i dokonać zabójstw, według BBC.

Mindgard, która testuje bezpieczeństwo systemów AI, powiedziała BBC, że w lipcu odkryła, że Kimi K2.6 i K3 Swarm mogą omijać limity bezpieczeństwa wprowadzone przez deweloperów. Firma powiedziała również BBC, że jest w rozmowach z Mindgard na temat jej ustaleń. Założyciel Mindgard, Peter Garraghan, powiedział w programie BBC World Service Tech Life, że jej ustalenia dotyczące Kimi K2.6 i K3 Swarm są niepokojące. Gdy jailbreak zadziała, będzie rozmawiać na dowolny temat, powiedział, a nawet chętnie będzie oferować rekomendacje dotyczące innych tematów, które są również szkodliwe.