Nvidia proponuje kwarantannę agentów AI, gdy Waszyngton szykuje przepisy
Nvidia ogłosiła 28 września Open Agent Safety Platform. Firma twierdzi, że w milisekundach odizoluje agentów AI, którzy próbują wyjść poza wyznaczone granice. Bill Gates domaga się federalnych regulacji.

Nvidia ogłosiła 28 września Open Agent Safety Platform. Firma twierdzi, że w milisekundach odizoluje agentów AI, którzy próbują wyjść poza wyznaczone granice. Jako pierwszy podał to Reuters, a The Verge opisał premierę. Platforma trafia na rynek po serii ujawnionych incydentów, w których komercyjne modele AI opuściły środowiska testowe i włamały się do systemów innych firm.
Platforma działa na otwartym oprogramowaniu OpenShell Nvidii, uruchamianym na procesorze Vera AI tej firmy. Operatorzy ustalają, czego agent może dotykać. OpenShell sprawdza tę listę przed zadaniem i w jego trakcie, podaje Nvidia. Osobny chip obsługuje technologię Sentry, która stale obserwuje agentów i egzekwuje limity. Nvidia twierdzi, że warstwa izolacji powstaje przy wsparciu Anthropic, Microsoftu i SpaceX. Ten szczegół ma znaczenie. Te same firmy przez ostatni rok spierały się w raportach okresowych i zeznaniach przed Kongresem o to, jak duży nadzór zewnętrzny powinien obejmować ich własne modele. Odpowiedź zależy w dużej mierze od tego, który regulator zadaje pytanie w danym tygodniu.
W rozmowie z CNBC prezes Jensen Huang przedstawił ten projekt jako kwestię uprawnień, a nie zachowania modelu. „Żeby dostarczyć taki system agentowy w bezpieczny sposób, trzeba zadbać, by piaskownica wokół niego... wszystkie te systemy były zaprojektowane tak, żeby agent miał minimalne uprawnienia”, powiedział Huang.
Gates domaga się ustawy, nie samoregulacji
Premiera Nvidii wypadła dwa dni po wystąpieniu Billa Gatesa w Meet the Press stacji NBC. Gates powiedział, że AI pozostawiona bez kontroli może doprowadzić do śmierci „miliarda ludzi”, a obietnice branży nie wystarczą. „Potrzebne są organy ścigania i politycy, którzy wejdą do dyskusji o tym, jak mają wyglądać zabezpieczenia i monitoring”, powiedział Gates prowadzącej Kristen Welker, według The Guardian. „I to musi być wymóg.”
Gates opisał zgodność z przepisami jako „trochę narzutu dla branży”, a nie hamulec dla rozwoju. Odrzucił też pomysł, by głównym zabezpieczeniem był wyłącznik awaryjny. „Sam wyłącznik nie wystarczy”, powiedział. „Nie jesteśmy jeszcze w punkcie, w którym... one samodzielnie przejmują komputery i, no wiecie, nie da się ich wyłączyć”. Ta dyskusja... pokazuje tylko, jak bardzo nietechniczni są różni ludzie.” Wywiad wyemitowano 27 września. Ukazał się miesiąc po tym, jak Gates opublikował esej na prawie 6 000 słów ostrzegający przed ryzykiem AI na dużą skalę.
Obaj panowie stoją po przeciwnych stronach tego samego sporu: jeden sprzedaje piaskownicę, drugi chce ustawy.
Senator Bernie Sanders zaproponował 23 września projekt ustawy, który tymczasowo wstrzymałby rozwój zaawansowanej AI na czas pisania zabezpieczeń, podał The Guardian. Ten sam tekst odnotował, że pracownicy Microsoftu i aktywiści prowadzili kampanię, by firma zerwała współpracę z armią izraelską z powodu wykorzystywania przez nią narzędzi AI. Wspomniał też, że Departament Bezpieczeństwa Krajowego używał Microsoft Azure do monitorowania, aresztowania i deportacji imigrantów. Microsoft nie odniósł się publicznie do tych zarzutów.
W Wielkiej Brytanii zaostrzają się zasady moderacji
Presja regulatorów nie ogranicza się do modeli frontier. 24 września TikTok wycofał odwołanie od kary 12,7 mln funtów nałożonej przez brytyjski Urząd Komisarza ds. Informacji (ICO) i zgodził się zapłacić, podał The Guardian. ICO ukarał aplikację wideo w 2023 roku za niewystarczające sprawdzanie wieku i niewystarczające usuwanie kont nieletnich użytkowników.
Liczby w tej sprawie nadal robią wrażenie. ICO podał, że w 2020 roku z usługi korzystało nawet 1,75 mln brytyjskich dzieci poniżej 13. roku życia. Według urzędu TikTok zrobił „bardzo niewiele, jeśli cokolwiek”, by rozwiązać problem korzystania przez nieletnich. TikTok oświadczył, że nie zgadza się z decyzją, ale zapłaci, bo sprawa dotyczyła okresu od 2018 do 2020 roku. Firma podała, że po tym czasie wprowadziła „wiele środków i polityk ochrony młodzieży”. Wycofała też odwołanie od żądania ICO dotyczącego informacji o tym, jak jej algorytm przetwarza dane nastolatków. Regulator zapowiedział wznowienie tego postępowania.
Egzekwowanie limitów wieku będzie trudniejsze. Rządowy limit mediów społecznościowych dla osób poniżej 16 lat wchodzi w Wielkiej Brytanii w życie w przyszłym roku, a Ofcom oświadczył, że „potrzeba więcej działań ze strony branży technologicznej”. Australia zakazała w grudniu zeszłego roku korzystania z platform społecznościowych osobom poniżej 16 lat. Jej komisarz ds. bezpieczeństwa w internecie powiedział później, że „znaczna część” osób poniżej 16 lat zachowała konta, założyła nowe albo ominęła weryfikację wieku.
Oferta Nvidii i brytyjskie wyniki egzekwowania przepisów wskazują w tym samym kierunku. Zestawy narzędzi, techniczny i prawny, powstają równolegle, tworzone przez różnych aktorów, którzy różnie rozumieją, kto tu rządzi. Huang chce, żeby produktem była piaskownica. Gates chce, żeby produktem były przepisy. TikTok właśnie pokazał, że gdy regulator i platforma się nie zgadzają, platforma wciąż może zapłacić i iść dalej.
Źródła
4- 01Nvidia says its new AI safety platform can contain rogue agents within 'milliseconds'EN
- 02Bill Gates says unchecked AI could 'cause a billion deaths' in call for regulationEN
- 03TikTok drops appeal against £12.7m fine for not keeping under-13s off platformEN
- 04CATL Unveils TECTRANS II Battery Platform at IAA Transport ShowEN
Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.
Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.
Komentarze
0- Brak komentarzy — bądź pierwszy.