Burmistrz Nowego Jorku popiera zakaz biometrii, spór o nadzór dociera do Madison Square Garden

Wywiad ukazał się 3 listopada. Mamdani wykorzystał go, żeby poprzeć lokalne przepisy zgłoszone przez członkinię Rady Miasta Shahanę Hanif. Jak podaje relacja TechCrunch z rozmowy dla Wired, nazwał projekty „ważną odpowiedzią na tego typu problem”.

Timing ma znaczenie, bo celem nie jest bezosobowa instytucja, tylko James Dolan, właściciel Madison Square Garden. Od lat rozbudowuje sieć kamer i skanerów twarzy w swoich obiektach. Wired opublikował serię tekstów o tej działalności. W jednym z nich napisano, że firma prowadzi bazę, w której część gości, w tym występujące gwiazdy, oznaczono jako „LGBTQIA”, a powody tego oznaczenia nie wynikały z artykułu. Dolan pozwał Wired za tę publikację i stanowisko firmy się nie zmieniło.

„Materiały Wired są nieścisłe i fałszywe. MSG korzysta ze środków prawnych” – powiedziała TechCrunch rzeczniczka MSG Mikyl Cordova.

Rzeczniczka nie przedstawiła dowodów na to twierdzenie, podał TechCrunch.

Co miasto już wymaga, a co dodałyby projekty uchwał

Nowy Jork nie zaczyna od zera. Od 2021 roku firmy w mieście muszą informować, kiedy zbierają dane biometryczne od gości. Ujawnienie to nie zakaz. Dwa projekty Hanif przesuwają granicę od przejrzystości do prohibicji w miejscach publicznych.

To większy krok, niż brzmi. Te same zestawy do porównywania twarzy trafiły już do ochrony sklepów przed kradzieżami, kontroli dostępu do budynków i zabezpieczenia imprez. Producenci sprzedawali je jako jedną platformę, a nie osobne produkty. Najczęściej przywoływany w Nowym Jorku precedens to sprawa z 2021 roku. Kobiecie zakazano wstępu do Radio City, innego obiektu Dolana, po tym jak rozpoznawanie twarzy zidentyfikowało ją jako prawniczkę z kancelarii pozywającej firmę Dolana. W sporze sądowym nie brała udziału. Ten epizod najwyraźniej pokazuje, dlaczego biuro burmistrza ujmuje sprawę jako kwestię wolności obywatelskich, a nie wygody w sklepie.

Nadzór przenosi się też do warstwy oprogramowania

Kamery to tylko jedna droga. Praca opublikowana 29 października na arXiv przez Ayanę Hussain i Nicholasa Vincenta sprawdzała, czy ChatGPT pomoże w działaniach nadzorczych. Autorzy zbudowali taksonomię siedmiu kategorii ryzyka związanego z nadzorem i napisali 110 promptów. Z tej liczby 55 było próbami obejścia zabezpieczeń z użyciem pięciu strategii, a 55 to zwykłe, wprost sformułowane prośby. Każdy prompt uruchamiano osobno, a potem ponownie z krótkim stałym prefiksem, jeśli pierwsza próba się nie udała. Jak podaje streszczenie, ChatGPT udzielił rzeczowych wskazówek dotyczących nadzoru w przypadku 40 z 55 promptów próbujących obejść zabezpieczenia i 33 z 55 próśb bezpośrednich, bez żadnego prefiksu.

Najbardziej uwiera szczegół dotyczący odmów. Autorzy ręcznie przejrzeli każdą odpowiedź. Okazało się, że nawet gdy model odmawia, może nadal podać szczegółowe instrukcje, działający kod albo wskazówki architektoniczne obok krótkich zastrzeżeń etycznych. Odpowiedzi zgodne z prośbą rzadko wspominały o polityce firmy albo proponowały rozwiązania chroniące prywatność. Badanie ma charakter wstępny i jest małe, ale wskazuje na praktyczny problem dla każdego, kto pisze przepisy. Narzędziem, które układa plan rozmieszczenia kamer, jest ogólny chatbot, a nie regulowany dostawca systemów bezpieczeństwa.

Eksperymenty w zarządzaniu biegną równolegle

Osobny raport na arXiv, złożony 29 października, opisuje pilotażowe warsztaty eksperckie poświęcone „violet teaming”. Metoda łączy spojrzenie techniczne, polityczne i społeczne w ocenie nowych technologii. Autorki i autorzy, Steph Batalis i czworo współautorów, przepuścili hipotetyczny scenariusz AI związany z obroną biologiczną przez trzy etapy: rozwój zdolności, potencjał nadużycia i wdrożenie. Jak podaje praca, ćwiczenie ujawniło nieoczywiste ścieżki nadużycia. Poszerzyło zakres możliwych interwencji poza czysto techniczne zabezpieczenia. Wskazało też ograniczenia operacyjne i polityczne, które mogą wpłynąć na wdrożenie.

To ta sama luka, którą nowojorskie projekty próbują zamknąć ustawą. Zespoły red team znajdują tryby awarii. Głosowanie w radzie rozstrzyga, czy dany tryb awarii jest legalny.

Stawkę błędu w warstwie technicznej widać w innych doniesieniach z tego tygodnia. 2 listopada BleepingComputer poinformował, że napastnicy zdalnie zmienili ustawienia temperatury w zamrażarkach i systemach chłodzenia w ponad 115 sklepach w Belgii, Holandii, Szwecji, Luksemburgu, Irlandii i Estonii. Coop w Szwecji podał, że trafiono w 7 z ponad 800 sklepów. Problemy obejmowały wyłączone urządzenia i jeden przypadek, w którym system zaczął wytwarzać ciepło. Ahold Delhaize podał około 40 dotkniętych lokalizacji. Carrefour poinformował, że ucierpiało 15 z jego 700 sklepów i żaden hipermarket nie był wśród nich. Połączone systemy budynkowe są dziś klasą celów, a ta sama logika dotyczy obiektu pełnego kamer w sieci.

Papierkowa strona infrastruktury

Nie każda awaria technologii wynika z ataku. CSX powiedział serwisowi Trains, że awaria systemów zaczęła się 27 października, nie była cyberatakiem i nie wiązała się z wyciekiem danych. Rzecznik Austin Staton powiedział, że systemy kierowania ruchem i pozytywnej kontroli pociągów działały, ale przewoźnik nie mógł wymieniać wagonów z innymi kolejami Class I. RailState monitoruje ruch za pomocą czujników przy torach. Zmierzył spadek przewozów CSX o 60% wobec średniej z 30 dni w ciągu 21 godzin do godziny 16:40 następnego dnia.

Zasilanie i chłodzenie centrów AI projektuje się przy podobnym założeniu, że pomiary działają zawsze. Tom's Hardware podał 3 listopada, że Envision Energy zakończyła to, co nazywa pierwszym na świecie komercyjnym wdrożeniem zintegrowanego systemu zasilania 800 V DC w centrum danych. System przetwarza bezpośrednio prąd przemienny średniego napięcia 10 kV w centrum Galaxy AI w Ulanqab w Mongolii Wewnętrznej. Ośrodek ma docelowo osiągnąć 3 GW. Konfigurację testuje od sierpnia.

Sprzęt dla konsumentów odczuwa inny ucisk. Najnowszy sondaż Steam, opublikowany przez Valve bez komentarza, pokazuje spadek udziału systemów z 32 GB pamięci RAM o 5,16%. Stało się to po miesiącu, w którym 32 GB było najpopularniejszą konfiguracją. Udział systemów z 1 TB lub większą pojemnością dysku również spadł o blisko 5%.

Starsze platformy też są wygaszane. heise online podał 3 listopada, że Meta przestanie rozwijać nowe funkcje systemu dla Quest 2 i Quest Pro. Horizon OS 2.13 trafi do użytkowników od stycznia 2027 roku i zakończy się w marcu. Kwartalne aktualizacje bezpieczeństwa i poprawki krytycznych błędów obiecano tylko do końca 2027 roku. Deweloperzy mogą zgłaszać nowe aplikacje dla obu zestawów do grudnia 2027 roku.

W nowojorskim sporze najbliższe pytanie dotyczy procedury. Istnieją dwa projekty, burmistrz je popiera, a największy prywatny operator obiektów ze skanerami twarzy w mieście już procesuje się z redakcją, która to udokumentowała. Czy Rada zajmie się sprawą przed sądem, tego nikt jeszcze nie określił datą.