Przejdź do treści
Czas na świecieEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal o AI i technologiiwydarzenia · analizy · wywiady · tło techniczne

Szukaj
NA ŻYWO
›

Gates żąda regulacji AI, TikTok płaci 12,7 mln funtów, a Kontext zbiera 4 mln dol.

Bill Gates powiedział w programie Meet the Press stacji NBC, że AI pozostawiona bez kontroli może doprowadzić do „miliarda zgonów”, a samoregulacja nie wystarczy. Wywiad emituje NBC w niedzielę 27 września.

Media i internetAnalizaAnna KaczmarekOpublikowano: 28 września 20265 min czytaniaŹródła 6
Gates żąda regulacji AI, TikTok płaci 12,7 mln funtów, a Kontext zbiera 4 mln dol.

Gates nie gryzł się w języku. „Potrzebne są organy ścigania i politycy, którzy włączą się do dyskusji o tym, jak mają wyglądać zabezpieczenia i monitoring”, powiedział prowadzącej Kristen Welker, cytowany przez The Guardian. „I to musi być wymóg”.

Współzałożyciel Microsoftu mówił o zgodności z przepisami jak o koszcie prowadzenia działalności, a nie hamulcu dla rozwoju. „To będzie trochę dodatkowych obciążeń dla branży, ale nie dramatyczne spowolnienie tego, co robią”. Odrzucił też myśl, że wyłącznik awaryjny wystarcza jako zabezpieczenie. „Sam wyłącznik nie wystarczy”, powiedział, a debata „pokazuje tylko, jak mało techniczni są różni ludzie”.

Termin nie jest przypadkowy. Pod koniec sierpnia Gates opublikował liczący blisko 6 000 słów esej, w którym ostrzegał przed ryzykiem na dużą skalę związanym z AI. Jego słowa padają cztery dni po tym, jak 23 września senator Bernie Sanders zaproponował ustawę. Projekt przewiduje czasowe wstrzymanie rozwoju zaawansowanej AI na czas wprowadzania zabezpieczeń, podał The Guardian. Gates nie jest w tej grupie osamotniony. Ten sam tekst odnotowuje, że podobne argumenty o tempie rozwoju przedstawiali Sam Altman i Elon Musk.

Dwie ścieżki regulacji, dwa bardzo różne tempa

Waszyngton debatuje nad pauzą, a Wielka Brytania zdążyła już ściągnąć grzywnę, która dotyczy okresu sprzed obecnego sporu. 24 września TikTok wycofał apelację od kary 12,7 mln funtów. Urząd Komisarza ds. Informacji (ICO) nałożył ją w 2023 roku za to, że firma nie zatrzymała na platformie dzieci poniżej 13. roku życia. ICO podał, że TikTok zrobił „bardzo niewiele, jeśli cokolwiek”, żeby rozwiązać problem korzystania z serwisu przez nieletnich. W 2020 roku z usługi miało korzystać nawet 1,75 mln brytyjskich dzieci poniżej 13 lat.

TikTok oświadczył, że nie zgadza się z decyzją, ale zapłaci. Postępowanie obejmowało lata od 2018 do 2020, a po tym okresie firma, jak twierdzi, wdrożyła „wiele zabezpieczeń i polityk dotyczących bezpieczeństwa młodych”. Spółka wycofała też odwołanie od żądania ICO dotyczącego informacji o tym, jak jej algorytm przetwarza dane osobowe nastolatków. Regulator zapowiada wznowienie tego postępowania. TikTok ma ponad trzydzieści milionów użytkowników w Wielkiej Brytanii.

„Nasze skuteczne działanie przeciw TikTokowi pokazuje, jak ważne jest, żeby firmy miały właściwe zabezpieczenia, w tym takie, które uniemożliwiają dostęp dzieciom zbyt młodym, by korzystać z ich usług”. Emily Keaney, zastępczyni komisarza ICO, za The Guardian

Emily Keaney, zastępczyni komisarza ICO, ujęła to wprost: sprawa pokazuje, „jak ważne jest, żeby firmy miały właściwe zabezpieczenia”, podał Guardian. Znaczenie tego działania wykracza poza jedną grzywnę. Weryfikacja wieku jest w centrum rządowego limitu korzystania z mediów społecznościowych przez osoby poniżej 16 lat, który ma wejść w życie w przyszłym roku. Ofcom zapowiedział, że w miarę zbliżania się zakazu „potrzebne są dalsze działania ze strony branży technologicznej”. Australia wprowadziła własny zakaz dla osób poniżej 16 lat w grudniu zeszłego roku i dostarcza przestrogi. Komisarz ds. bezpieczeństwa w internecie w tym kraju mówił, że „znaczna część” nieletnich poniżej 16 lat zachowała konta, zakładała nowe albo obchodziła systemy weryfikacji wieku.

Te dwie ścieżki nie mają ze sobą nic wspólnego. Jedna to legislatura spierająca się o to, czy wstrzymać rozwój frontierowy. Druga to regulator danych, który ściąga grzywnę za zaniechanie zakończone sześć lat temu. Ten sam regulator ostrzega, że trudniejszy test jeszcze się nie zaczął.

Firmy bezpieczeństwa wchodzą tam, gdzie nie ma przepisów

W tę lukę weszła niewielka europejska firma zajmująca się bezpieczeństwem. 24 września Tech.eu podał, że Kontext pozyskał 4 mln dol. na rozwój platformy bezpieczeństwa działającej w czasie rzeczywistym, przeznaczonej dla agentów AI. Rundę poprowadził 42CAP, a wśród inwestorów byli a16z CSX i HTGF.

Założenie Kontextu jest takie, że konwencjonalne mechanizmy kontroli przestają działać, gdy agenci przestają generować tekst, a zaczynają obsługiwać oprogramowanie. Platforma firmy stoi między agentami AI a narzędziami, których oni używają. Ocenia każdą akcję w czasie rzeczywistym, porównując ją z politykami i sygnałami ryzyka. Te sygnały to tożsamość agenta, żądana akcja, zasób docelowy i przydzielone zadanie. Zespoły mogą najpierw uruchomić tryb obserwacji, a potem włączyć egzekwowanie. Egzekwowanie blokuje nieautoryzowane akcje przed wykonaniem i prowadzi audytowalny zapis każdej decyzji.

Założyciele, Jens Ernstberger i Michel Osswald, mają za sobą bezpieczne obliczenia, kryptografię stosowaną i systemy AI. Tech.eu cytuje argument firmy bezpośrednio: agent może być prawidłowo uwierzytelniony, korzystać z zatwierdzonego narzędzia i mimo to wykonać akcję, której nikt nie autoryzował. Pieniądze pójdą na prace inżynieryjne i na platformę egzekwowania w czasie rzeczywistym.

Najkonkretniejsza warstwa kontroli AI opisana w doniesieniach tego tygodnia nie jest ustawą. To silnik polityk startupu, sprzedawany firmom, które nie mogą czekać na ustawodawców.

Co ten tydzień faktycznie rozstrzygnął

Trzy daty, trzy różne mechanizmy.

  • 27 września: Gates w ogólnokrajowym wywiadzie telewizyjnym domaga się obowiązkowych zabezpieczeń, a nie dobrowolnych.
  • 24 września: TikTok przestaje walczyć z grzywną ICO w wysokości 12,7 mln funtów i z osobnym żądaniem informacji, a regulator wznawia śledztwo dotyczące algorytmu.
  • 24 września: Kontext zamyka rundę na 4 mln dol., żeby pilnować agentów AI w momencie działania.

Te trzy zdarzenia nie składają się jeszcze na spójny system. Gates chce organów ścigania i polityków przy stole i twierdzi, że koszt dla branży byłby niewielki. ICO pokazał, że grzywnę można nałożyć i w końcu wyegzekwować. Zajęło to jednak lata odwołań i dotyczyło tylko zachowań zakończonych w 2020 roku. Kontext sprzedaje brakujący punkt kontroli, którego firmy potrzebują już dziś. Agenci mają już firmowe poświadczenia i piszą kod.

W wywiadzie Gatesa jest też trudniejsze pytanie, na które żaden regulator nie odpowiedział. Ostrzegał, że AI w niepowołanych rękach będzie „z pewnością wystarczająco potężna, by wywołać wydarzenia, które, no wiecie, spowodują miliard zgonów”. Dodał, że „nigdy nie było broni tak potężnej jak połączenie ludzi o złych zamiarach z najnowszymi narzędziami AI”. Wyłącznik awaryjny, jego zdaniem, tego nie obejmuje.

Tymczasem aparat egzekwowania wciąż nadrabia zaległości w sprawie kont dzieci sprzed pół dekady. Ta luka między deklarowanym zagrożeniem a udowodnionym środkiem zaradczym to historia tego tygodnia. Nie zamknęła jej ani propozycja Sandersa, ani wznowione śledztwo ICO.

Komentarze 0

Źródła

6
  1. 01Bill Gates says unchecked AI could 'cause a billion deaths' in call for regulationEN
  2. 02TikTok drops appeal against £12.7m fine for not keeping under-13s off platformEN
  3. 03Kontext raises $4M for runtime security platform for AI agentsEN
  4. 04CATL Unveils TECTRANS II Battery Platform at IAA Transport ShowEN
  5. 05Show HN: Digitron – a virtual analog synth and sequencerEN
  6. 06Show HN: M0saic – deterministic video compiler (CLI, web, desktop)EN

Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.

Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.

Anna Kaczmarek

Anna Kaczmarek

AI, modele i technologie

Anna Kaczmarek pisze o technologiach, AI i modelach oraz mediach i internecie, opierając się na dokumentacji, repozytoriach i danych źródłowych, a nie na komunikatach prasowych. Przy testach modeli sprawdza karty techniczne, parametry wejściowe i liczy wyniki na tych samych zbiorach, zamiast powtarzać liczby od producentów. Czeka na premiery API i aktualizacje wag, rozmawia z inżynierami oraz porównuje wersje modeli pod kątem kosztów i opóźnień. Prywatnie self-hostuje usługi i konfiguruje sieci domowe, więc do redakcji wnosi praktykę z własnego serwera. Nie publikuje zapowiedzi ani parametrów, których nie może odtworzyć na własnym środowisku.

Redakcja →

Komentarze

0
  1. Brak komentarzy — bądź pierwszy.

Dodaj komentarz

Komentarze są widoczne publicznie. Nie publikujemy wulgaryzmów, spamu i treści reklamowych.