Gates żąda ustawy o AI, Sanders chce 20 lat więzienia za superinteligencję

Amerykańska debata o regulacji AI przestała być sporem o tempo. Stała się sporem o instrumenty. 25 września Bill Gates powiedział w programie NBC News „Meet the Press”, że Kongres powinien przyjąć ustawę regulującą rozwój sztucznej inteligencji. Na pytanie, czy legislacja jest potrzebna, odpowiedział wprost, że tak. Dodał, że odpowiednie wymogi muszą być obowiązkowe.

Gates nie zostawił wątpliwości co do oceny samoregulacji branży. „Nikt nie uważa, że sama samoregulacja wystarczy” — powiedział i wskazał, że w dyskusję o standardach bezpieczeństwa i nadzorze nad nimi muszą wejść organy ścigania i politycy. Wprowadzenie wymogów zwiększy obciążenie firm, ale nie spowolni ich pracy w sposób istotny. Przestrzegł też, że złe intencje w połączeniu z najnowszymi narzędziami AI tworzą zagrożenie w skali masowej i że żadna broń wcześniej nie działała tak silnie.

„Ban Artificial Superintelligence Act 2026”

Dużo dalej idzie projekt znany jako „Ban Artificial Superintelligence Act 2026”. Dokument definiuje superinteligencję jako system przewyższający człowieka w większości zadań lub taki, który można łatwo do tego stanu zmodyfikować. Mowa też o systemie zdolnym do planowania i przeprowadzenia zniszczenia ludzkości albo obalenia rządu. Takich systemów nie byłoby wolno tworzyć, wdrażać, nabywać, posiadać, finansować ani importować.

Projekt przewiduje powołanie Departamentu Sztucznej Inteligencji jako organu nadzoru. Jeśli departament zidentyfikuje superinteligencję, system ma zostać natychmiast zatrzymany i zniszczony w ciągu 30 dni. Kto taki system wykryje, musi zgłosić to w ciągu 24 godzin. Dla „zaawansowanych systemów AI”, trenowanych mocą co najmniej 10²⁵ operacji, miałaby obowiązywać pauza rozwojowa, dopóki departament nie ustali jasnych reguł. Próg byłby korygowany co roku.

Realizm tego projektu jest ograniczony. Próg 10²⁵ FLOP obejmuje znaczną część współczesnych modeli, więc skutki byłyby szerokie, a nie punktowe. Oba wystąpienia warto czytać razem. Gates reprezentuje żądanie minimalne: obowiązkowe, egzekwowalne standardy. Sanders maksymalne. W amerykańskim systemie o tym, że regulacja AI wciąż pozostaje projektem, decyduje nie brak argumentów, lecz brak większości.

Projekt Sandersa jest ostrzejszy, niż sugeruje jego nazwa. Zakazuje nie tylko tworzenia superinteligencji, ale też jej użycia, nabywania, posiadania, finansowania i importu. Powołuje nowy Departament Sztucznej Inteligencji, a zidentyfikowany system tej klasy ma zostać natychmiast zatrzymany i zniszczony w ciągu 30 dni. Kto natrafi na taki system, musi zgłosić to w ciągu 24 godzin. Rozwój „zaawansowanych systemów AI”, trenowanych z użyciem co najmniej 10^25 operacji, miałby zostać wstrzymany do czasu, gdy departament będzie gotowy, a sam próg byłby korygowany corocznie. Za złamanie zakazu grozi do 20 lat więzienia.

Gates i Sanders reprezentują dwa końce tego samego sporu. Jeden chce obowiązkowych wymogów, które nie zatrzymają pracy nad modelami. Drugi uważa, że przy tej klasie zdolności tempo jest problemem samym w sobie. Wspólny mianownik jest polityczny: obaj uznają, że dobrowolne zobowiązania firm przestały wystarczać.