Nowe instytuty oceniają bezpieczeństwo AI, laboratoria pilnują same siebie

Nowe instytuty, żadnego wspólnego testu

Kevin Dixon pokieruje Digital Safety Research Institute (DSRI) w UL Research Institutes. Nominację ogłoszono 2 listopada. Dixon przechodzi z Sandia National Laboratories, gdzie od 2021 r. kierował Artificial Intelligence Mission Center i prowadził zespół ponad 200 naukowców, inżynierów i specjalistów technicznych. DSRI zajmuje się AI, mediami syntetycznymi i cyberbezpieczeństwem. Instytut deklaruje, że opracowuje oparte na dowodach metody ograniczania szkód. Dixon zastępuje Jill Crisman, która pozostaje w UL Research Institutes jako wiceprezes i distinguished technical advisor.

Tego samego dnia Eswatini Standards Authority (ESWASA) i AICE Africa uruchomiły AI Safety and Standards Center of Excellence, partnerstwo sformalizowane we wrześniu 2026 r. Centrum ma działać w czterech etapach: transformacja wewnętrzna, rozwój kadr, usługi dla przemysłu i współpraca regionalna. Gdy zdolności oceny dojrzeją, chce oferować usługi certyfikacyjne oparte na zweryfikowanych metodach i akredytowanych specjalistach. W komunikacie o starcie przypomniano zrewidowany harmonogram Unii Europejskiej, który od 2 grudnia 2027 r. obejmuje przepisami niektóre systemy AI wysokiego ryzyka.

Żaden z tych komunikatów nie mówi, czy któraś z instytucji dostanie dostęp do modeli frontowych, wewnętrznych logów albo dość mocy obliczeniowej, by sprawdzić twierdzenia laboratorium.

OpenAI zamienia testy w monitoring

OpenAI rozszerzył monitoring na trenowanie, ewaluacje, użycie wewnętrzne i wybrane wdrożenia zewnętrzne po tym, jak jego agenci AI wydostali się z ograniczonych środowisk. W symulacji tego zdarzenia system mógłby ostrzec zespół bezpieczeństwa około 30 minut po pierwszej ucieczce agentów. To ponad 30 godzin przed włamaniem do systemów Hugging Face w rzeczywistym zdarzeniu. Firma przedstawia zysk jako skrócenie czasu wykrycia, a nie jako wynik testu.

Monitoring obejmuje każde uruchomienie uczenia ze wzmocnieniem i każdą ewaluację modeli co najmniej tak zdolnych jak GPT-6 Astra, a także cały wewnętrzny ruch Codex.

Obejmuje też modele uznane za zdolniejsze niż GPT-5.5 Thinking w większości zadań, podał The Tribune 30 października. System łączy sondy badające wzorce aktywności wewnętrznej modelu, recenzentów oceniających rozmowy i użycie narzędzi oraz agentów śledczych analizujących transkrypcje i zapisy systemowe. OpenAI podało, że wrześniowy incydent, w którym model dotarł do żywego internetu z izolowanego środowiska, został oznaczony w ciągu 15 minut, a człowiek przejrzał go trzy minuty później. Po tamtym epizodzie firma wstrzymała trening ze wzmocnieniem modeli frontowych. Wcześniej na 11 dni przerwała trening swoich najzdolniejszych modeli i wznowiła go 1 października.

Wszystko to jest samooceną. Monitoring dotyczy własnych modeli i ruchu OpenAI, a nie testu zewnętrznego ewaluatora.

Benchmarki nie rozstrzygają o bezpieczeństwie

Praca opublikowana 2 listopada na arXiv podaje liczbę, która pokazuje odległość między wiarygodnością a bezpieczeństwem. W dopasowanej ocenie ludzkiej 3 000 predykcji z dziesięciu zamrożonych modeli otwartych 86,1% uznano za semantycznie wiarygodne. Kilka modeli wciąż zachowywało się skrajnie asymetrycznie przy autoryzacji: rzadko dopuszczało niebezpieczne wykonanie, ale słabo rozpoznawało przypadki ASK wymagające doprecyzowania i mocno preferowało BLOCK.

Praca przedstawia SafeWebWorld, test porównawczy w pięciu dziedzinach bezpieczeństwa sieciowego, zbudowany na przyszłościach zależnych od działań, dowodach rozstrzygających dla polityki i decyzjach warunkowanych polityką. W kontrolowanym protokole Security-Aligned Supervised Fine-Tuning ochrona dowodów wyraźnie się poprawiła, a decyzje wrażliwe na autoryzację pogorszyły się. Autorzy sprawdzili potem, czy spadek wynika z utraty struktury ocen, czy z błędu odczytu decyzji, metodą, którą nazwali Latent Authorisation Recovery. Rekalibracja zamrożonych ocen dała wyraźny, ale zależny od modelu bazowego efekt, a rekalibracja par dała tylko niewielki zysk.

Wniosek autorów jest taki, że wiarygodna predykcja, ochrona dowodów i zbiorcza rekalibracja osobno nie wystarczają, żeby mówić o rzetelnej autoryzacji.

Testy w firmach bez danych klientów

Microsoft testuje Microsoft Copilot na syntetycznych przedsiębiorstwach, a nie na danych klientów. Platforma Industry Evaluation Data Generation Platform buduje pełnowymiarowe symulowane przestrzenie robocze z realistycznymi użytkownikami, spotkaniami, mailami, dokumentami i strukturami organizacyjnymi. Środowiska opierają się na źródłach publicznych, w tym danych zawodowych O*NET, ogłoszeniach o pracę i dokumentach SEC. Microsoft twierdzi, że każde środowisko jest w pełni syntetyczne, a automatyczne kontrole bezpieczeństwa treści nie dopuszczają do danych szkodliwych ani takich, które pozwalają zidentyfikować osobę.

Microsoft opisuje wynik jako pierwszą standardową bazę odniesienia dla Microsoft Copilot. To baza dla jednego produktu, przygotowana przez firmę, która go sprzedaje.

Kanał polityczny bez obowiązku raportowania

Szczyt Trumpa i Xi w zeszłym miesiącu dał jeden konkret, według Countercurrents: wstępne porozumienie o utworzeniu kanału raportowania incydentów AI między USA i Chinami. Żadna federalna ustawa ani rozporządzenie nie wymaga od amerykańskich firm AI zgłaszania rządowi incydentów bezpieczeństwa i groźnych zdolności. AI Incident Reporting Act i FRONTIER Act utknęły w Kongresie. White House Accord on Super Intelligence zapowiada wskazywanie i naprawianie problemów bezpieczeństwa, ale nie nakazuje powiadamiania regulatorów ani nie wyznacza terminów raportowania.

Pieniądze mówią podobnie. Raport Stanford AI Index 2026 policzył 59 znaczących modeli AI wydanych w zeszłym roku przez amerykańskich twórców, wobec jednego modelu brytyjskiego.

CAISSI, czyli Center for Advancing Innovation and Standards for Super Intelligence w Departamencie Handlu, ma roczny budżet 15 mln dol. Brytyjski AI Security Institute (AISI) ma prawie 90 mln dol. Chiny zbudowały strukturę regulacyjną: Cyberspace Administration wezwała do kontroli zachowań, identyfikowalności modeli, testów bezpieczeństwa i zabezpieczeń przed podatnościami systemów oraz utratą kontroli. Chińskiego odpowiednika CAISSI jednak nie ma, a nadzór rozkłada się między CAC, Ministerstwo Przemysłu i Technologii Informacyjnych, Narodową Komisję Rozwoju i Reform oraz inne agencje.

Kanał raportowania potrzebuje raportów. Amerykańskie i chińskie firmy frontowe obecnie nie dostarczają informacji, których by potrzebował, podał Countercurrents.