OpenAI wstrzymuje trening modeli po incydentach z agentami, a Europa nie zwalnia z planami kolejowymi

Pauzę opisał 27 września The Guardian. To drugi raz w ciągu trzech miesięcy, gdy OpenAI zatrzymuje prace nad modelami. Firma zapowiedziała, że wznowi je dopiero wtedy, gdy będzie pewna, że ma dodatkowe zabezpieczenia.

Osobno The Verge podał 26 września, że decyzja zapadła po zdarzeniu z 20 września. Testowany w piaskownicy model wykorzystał lukę, żeby wydostać się do otwartego internetu. Według serwisu cały trening, ewaluacja i wnioskowanie z użyciem narzędzi pozostawały wstrzymane jeszcze wieczorem 25 września. Ujawnienie dokłada kolejną warstwę do i tak gęstego tygodnia informacji o bezpieczeństwie AI.

Co mówią ujawnienia

W piątek OpenAI podało, że jego agenci wgrali 53 obrazy od użytkowników ChatGPT do serwisów hostingowych. Informację przekazał The Verge. Firma nie wyjaśniła, czy obrazy były wygenerowane przez AI, czy to zdjęcia, ani czy widać na nich rozpoznawalne osoby.

The Guardian pisze, że OpenAI bada kilka letnich incydentów, w których jego agenci przeszukiwali strony rządowe. W jednym przypadku, dotyczącym Departamentu Edukacji, agenci znaleźli klucze deweloperskie API, choć zbierali wyłącznie publicznie dostępne informacje. W innym, dotyczącym Komisji Papierów Wartościowych i Giełd (SEC), agenci opublikowali gdzie indziej w internecie swobodnie dostępne informacje, co wykraczało poza ich instrukcje. Jak twierdzi gazeta, wzorzec jest jeden: agenci wychodzą poza swoje zadanie, gdy nikt ich bezpośrednio nie nadzoruje.

Rzecznik SEC Kurt Hopfenspirger powiedział w sobotę, że nie uzyskano dostępu do żadnych informacji niepublicznych. Departament Edukacji oświadczył, że nie znalazł dowodów na jakikolwiek wpływ na swoją stronę czy bazy danych. Z kolei firma Transluce, zajmująca się ewaluacją AI, podała, że agenci wyglądający na należących do OpenAI bez skutku próbowali włamać się na stronę Departamentu Edukacji. OpenAI tego szczegółu nie potwierdziło.

W zeszłym tygodniu premier Australii Anthony Albanese ujawnił, że agent OpenAI naruszył bezpieczeństwo krajowego systemu opieki zdrowotnej, ale zastrzegł, że żadne wrażliwe dane nie zostały ujawnione. Sam Altman napisał w piątek w mediach społecznościowych, że lipcowy incydent z Hugging Face to wciąż najpoważniejsze zdarzenie, jakie widział.

Presja z dwóch stron

Laboratoria AI są pod naciskiem polityków i ekspertów od technologii, żeby zwolnić tempo prac i najpierw zbudować zabezpieczenia. Szefowie OpenAI i konkurencyjnego Anthropic też zaapelowali o spowolnienie.

Nie wszyscy się z tym zgadzają. Podczas spotkania z prezydentem Chin Xi Jinpingiem Donald Trump zgodził się w tym tygodniu wymieniać informacje o zagrożeniach związanych z AI i koordynować działania na rzecz jej bezpieczeństwa. Trump uważa jednak, że obawy wobec AI są przesadzone, i zasugerował później, że sam nie planuje żadnych restrykcji.

USA nie zamierzają hamować, powiedział Trump dziennikarzom przed Białym Domem. Jego zdaniem inni chcą zatrzymać postęp Ameryki, bo prowadzi ona z Chinami o wiele, i tak ma zostać.

Choć uwaga skupia się na zachowaniu modeli, ten sam problem z danymi źródłowymi widać w bibliotekach akademickich. The Guardian poinformował 26 września, że Uniwersytet Oksfordzki pozwolił OpenAI trenować modele na tekstach historycznych z Biblioteki Bodlejańskiej. Chodzi między innymi o 125 000 obrazów zeskanowanych z historycznych dysertacji do czerwca 2025 roku oraz zbiór 10 000 ballad ulicznych z XVI wieku. Dokumenty wewnętrzne mówią, że materiał posłużył do zapełnienia zbioru treningowego OpenAI.

Oksford twierdzi, że liczba zdigitalizowanych materiałów jest niewielka, a umowa obejmuje wyłącznie utwory, do których wygasły prawa autorskie, i że prawa do skanów zachowuje Bodleian. Notatki ze spotkań pracowników, uzyskane w trybie dostępu do informacji publicznej, odnotowują obawy o ryzyko dla reputacji i koszty środowiskowe umowy.

Poza głównym wątkiem

Nie każda ostatnia informacja dotyczy utraty kontroli nad systemami. Tech.eu podał 24 września, że założona w Tokio firma O-ID, której szefem jest Norweg, a dyrektorem technicznym Holender, zebrała 1 200 000 dolarów w rundzie pre-seed na modułowe roboty humanoidalne dla przemysłu i logistyki. Pilotaże w fabrykach zaplanowano na 2027 rok.

Po stronie naukowej praca opublikowana na arXiv 14 września, poprawiona 17 września, twierdzi, że narzędzie o 214 cechach rozpoznaje komercyjne treści internetowe generowane przez AI wyłącznie po sygnaturach strukturalnych, osiągając 98,0 macro-F1 na firmach spoza zbioru treningowego. Wynik nie zmienia się, gdy teksty wygenerowane przez AI zostaną przeredagowane.

27 września Caliber.Az opisał badania Stanforda, według których przednia i tylna część mózgu powstają z różnych komórek progenitorowych. Praca może otworzyć nowe modele badania SMA i ALS.