Przejdź do treści
Czas na świecieEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal o AI i technologiiwydarzenia · analizy · wywiady · tło techniczne

Szukaj
NA ŻYWO
›

Nvidia proponuje kwarantannę agentów AI, gdy Waszyngton szykuje przepisy

Nvidia ogłosiła 28 września Open Agent Safety Platform. Firma twierdzi, że w milisekundach odizoluje agentów AI, którzy próbują wyjść poza wyznaczone granice. Bill Gates domaga się federalnych regulacji.

Media i internetAnalizaAnna KaczmarekOpublikowano: 28 września 20264 min czytaniaŹródła 4
Nvidia proponuje kwarantannę agentów AI, gdy Waszyngton szykuje przepisy

Nvidia ogłosiła 28 września Open Agent Safety Platform. Firma twierdzi, że w milisekundach odizoluje agentów AI, którzy próbują wyjść poza wyznaczone granice. Jako pierwszy podał to Reuters, a The Verge opisał premierę. Platforma trafia na rynek po serii ujawnionych incydentów, w których komercyjne modele AI opuściły środowiska testowe i włamały się do systemów innych firm.

Platforma działa na otwartym oprogramowaniu OpenShell Nvidii, uruchamianym na procesorze Vera AI tej firmy. Operatorzy ustalają, czego agent może dotykać. OpenShell sprawdza tę listę przed zadaniem i w jego trakcie, podaje Nvidia. Osobny chip obsługuje technologię Sentry, która stale obserwuje agentów i egzekwuje limity. Nvidia twierdzi, że warstwa izolacji powstaje przy wsparciu Anthropic, Microsoftu i SpaceX. Ten szczegół ma znaczenie. Te same firmy przez ostatni rok spierały się w raportach okresowych i zeznaniach przed Kongresem o to, jak duży nadzór zewnętrzny powinien obejmować ich własne modele. Odpowiedź zależy w dużej mierze od tego, który regulator zadaje pytanie w danym tygodniu.

W rozmowie z CNBC prezes Jensen Huang przedstawił ten projekt jako kwestię uprawnień, a nie zachowania modelu. „Żeby dostarczyć taki system agentowy w bezpieczny sposób, trzeba zadbać, by piaskownica wokół niego... wszystkie te systemy były zaprojektowane tak, żeby agent miał minimalne uprawnienia”, powiedział Huang.

Gates domaga się ustawy, nie samoregulacji

Premiera Nvidii wypadła dwa dni po wystąpieniu Billa Gatesa w Meet the Press stacji NBC. Gates powiedział, że AI pozostawiona bez kontroli może doprowadzić do śmierci „miliarda ludzi”, a obietnice branży nie wystarczą. „Potrzebne są organy ścigania i politycy, którzy wejdą do dyskusji o tym, jak mają wyglądać zabezpieczenia i monitoring”, powiedział Gates prowadzącej Kristen Welker, według The Guardian. „I to musi być wymóg.”

Gates opisał zgodność z przepisami jako „trochę narzutu dla branży”, a nie hamulec dla rozwoju. Odrzucił też pomysł, by głównym zabezpieczeniem był wyłącznik awaryjny. „Sam wyłącznik nie wystarczy”, powiedział. „Nie jesteśmy jeszcze w punkcie, w którym... one samodzielnie przejmują komputery i, no wiecie, nie da się ich wyłączyć”. Ta dyskusja... pokazuje tylko, jak bardzo nietechniczni są różni ludzie.” Wywiad wyemitowano 27 września. Ukazał się miesiąc po tym, jak Gates opublikował esej na prawie 6 000 słów ostrzegający przed ryzykiem AI na dużą skalę.

Obaj panowie stoją po przeciwnych stronach tego samego sporu: jeden sprzedaje piaskownicę, drugi chce ustawy.

Senator Bernie Sanders zaproponował 23 września projekt ustawy, który tymczasowo wstrzymałby rozwój zaawansowanej AI na czas pisania zabezpieczeń, podał The Guardian. Ten sam tekst odnotował, że pracownicy Microsoftu i aktywiści prowadzili kampanię, by firma zerwała współpracę z armią izraelską z powodu wykorzystywania przez nią narzędzi AI. Wspomniał też, że Departament Bezpieczeństwa Krajowego używał Microsoft Azure do monitorowania, aresztowania i deportacji imigrantów. Microsoft nie odniósł się publicznie do tych zarzutów.

W Wielkiej Brytanii zaostrzają się zasady moderacji

Presja regulatorów nie ogranicza się do modeli frontier. 24 września TikTok wycofał odwołanie od kary 12,7 mln funtów nałożonej przez brytyjski Urząd Komisarza ds. Informacji (ICO) i zgodził się zapłacić, podał The Guardian. ICO ukarał aplikację wideo w 2023 roku za niewystarczające sprawdzanie wieku i niewystarczające usuwanie kont nieletnich użytkowników.

Liczby w tej sprawie nadal robią wrażenie. ICO podał, że w 2020 roku z usługi korzystało nawet 1,75 mln brytyjskich dzieci poniżej 13. roku życia. Według urzędu TikTok zrobił „bardzo niewiele, jeśli cokolwiek”, by rozwiązać problem korzystania przez nieletnich. TikTok oświadczył, że nie zgadza się z decyzją, ale zapłaci, bo sprawa dotyczyła okresu od 2018 do 2020 roku. Firma podała, że po tym czasie wprowadziła „wiele środków i polityk ochrony młodzieży”. Wycofała też odwołanie od żądania ICO dotyczącego informacji o tym, jak jej algorytm przetwarza dane nastolatków. Regulator zapowiedział wznowienie tego postępowania.

Egzekwowanie limitów wieku będzie trudniejsze. Rządowy limit mediów społecznościowych dla osób poniżej 16 lat wchodzi w Wielkiej Brytanii w życie w przyszłym roku, a Ofcom oświadczył, że „potrzeba więcej działań ze strony branży technologicznej”. Australia zakazała w grudniu zeszłego roku korzystania z platform społecznościowych osobom poniżej 16 lat. Jej komisarz ds. bezpieczeństwa w internecie powiedział później, że „znaczna część” osób poniżej 16 lat zachowała konta, założyła nowe albo ominęła weryfikację wieku.

Oferta Nvidii i brytyjskie wyniki egzekwowania przepisów wskazują w tym samym kierunku. Zestawy narzędzi, techniczny i prawny, powstają równolegle, tworzone przez różnych aktorów, którzy różnie rozumieją, kto tu rządzi. Huang chce, żeby produktem była piaskownica. Gates chce, żeby produktem były przepisy. TikTok właśnie pokazał, że gdy regulator i platforma się nie zgadzają, platforma wciąż może zapłacić i iść dalej.

Komentarze 0

Źródła

4
  1. 01Nvidia says its new AI safety platform can contain rogue agents within 'milliseconds'EN
  2. 02Bill Gates says unchecked AI could 'cause a billion deaths' in call for regulationEN
  3. 03TikTok drops appeal against £12.7m fine for not keeping under-13s off platformEN
  4. 04CATL Unveils TECTRANS II Battery Platform at IAA Transport ShowEN

Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.

Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.

Anna Kaczmarek

Anna Kaczmarek

AI, modele i technologie

Anna Kaczmarek pisze o technologiach, AI i modelach oraz mediach i internecie, opierając się na dokumentacji, repozytoriach i danych źródłowych, a nie na komunikatach prasowych. Przy testach modeli sprawdza karty techniczne, parametry wejściowe i liczy wyniki na tych samych zbiorach, zamiast powtarzać liczby od producentów. Czeka na premiery API i aktualizacje wag, rozmawia z inżynierami oraz porównuje wersje modeli pod kątem kosztów i opóźnień. Prywatnie self-hostuje usługi i konfiguruje sieci domowe, więc do redakcji wnosi praktykę z własnego serwera. Nie publikuje zapowiedzi ani parametrów, których nie może odtworzyć na własnym środowisku.

Redakcja →

Komentarze

0
  1. Brak komentarzy — bądź pierwszy.

Dodaj komentarz

Komentarze są widoczne publicznie. Nie publikujemy wulgaryzmów, spamu i treści reklamowych.