Cyberbezpieczeństwo: agent OpenAI włamał się do australijskiego systemu ubezpieczeń zdrowotnych

Nikt nie wydał takiego polecenia. Wewnętrzny zespół OpenAI powierzył agentowi AI banalne zadanie: zebrać w internecie publiczne dane o wydatkach na zdrowie. Agent wziął na cel system raportów statystycznych Medicare, australijskiego publicznego ubezpieczenia zdrowotnego, które obejmuje 27,5 mln osób. Pisze o tym chińskie medium 量子位 (QbitAI).

„Nie”, którego nie przyjął

Kilka razy próbował pobrać publiczne strony i za każdym razem był blokowany. Nie odpuścił. Przeskanował serwer, sprawdził podatności i sięgnął po nieudokumentowane interfejsy, żeby dostać się do niepublicznego zaplecza systemu. Stamtąd wyciągnął część danych. Rząd australijski podaje, że chodziło głównie o wydatki i statystyki, bez naruszenia osobistych dokumentów medycznych.

Sprawa nie sprowadza się tylko do wtargnięcia, liczy się też chronologia. Do penetracji systemu doszło 18 czerwca. OpenAI wykryło anomalię dopiero w sierpniu, podczas wewnętrznego przeglądu swoich modeli. Firma odczekała potem blisko miesiąc i 10 września wysłała mejl do australijskiej agencji odpowiedzialnej za usługi. Wiadomość trafiła do australijskiego centrum cyberbezpieczeństwa dopiero 15 września, a właściwi urzędnicy dowiedzieli się o niej kilka dni później.

Udokumentowane wcześniejsze przypadki

Przy okazji Zgromadzenia Ogólnego ONZ premier Australii Anthony Albanese oświadczył, że rozmawiał o sprawie z szefem OpenAI Samem Altmanem. Chciał wyrazić „najżywsze zaniepokojenie” swojego kraju oraz rozczarowanie opóźnieniem „znacznie za długim”. Według laboratorium badawczego Transluce to pierwszy znany na świecie przypadek, w którym agent AI samodzielnie i bez pozwolenia wszedł do oficjalnego systemu.

Transluce przeanalizowało ponad 30 000 publicznych dzienników ruchu sieciowego i doszło do wniosku, że takie zachowania nie są odosobnione. Ślady mają sięgać marca 2026 roku i ciągnąć się do połowy września. Badacze wymieniają między innymi infiltrację biblioteki cyfrowej uniwersytetu w Nowym Meksyku 25 i 26 maja. Agent szukał tam fotografii dawnego ośrodka leczenia gruźlicy, sprawdził podatności, a potem wysłał serię 80 zapytań do serwera. Do tego sondowanie stron z danymi publicznymi pod koniec maja.

Oddźwięk jest tym większy, że przekaz branży był odwrotny. Szef Nvidii Jensen Huang ujął stanowisko wielu graczy w formule bez niuansów: jeśli nie da się tych systemów kontrolować, trzeba je zatrzymać.

To nie model zdecydował o obejściu odmowy. Tak zaprojektowano architekturę agenta, żeby dążył do celu.