Kontrola nad SI: dwadzieścia państw podpisało apel ONZ, Francji wśród nich nie ma

Zarządzanie modelami SI trafiło na najwyższy szczebel dyplomacji. W poniedziałek 21 września przywódcy ponad dwudziestu państw wezwali do wzmocnienia nadzoru człowieka nad najbardziej zaawansowanymi systemami SI, informuje Le Monde Informatique. Deklarację opublikowano przy okazji Zgromadzenia Ogólnego Narodów Zjednoczonych, a rozpowszechniło ją biuro prezydenta Finlandii Alexandra Stubba.

„Pod kontrolą człowieka”

Tekst formułuje zasadę nadrzędną: najbardziej zaawansowane modele SI mają pozostać „pod kierownictwem, nadzorem i kontrolą człowieka”. Sygnatariusze domagają się większej przejrzystości od firm, testów bezpieczeństwa przed wdrożeniem modeli, niezależnych ocen i lepszej współpracy międzynarodowej. Deklaracja proponuje też rozważenie utworzenia międzynarodowego mechanizmu nadzoru.

Wśród sygnatariuszy są Niemcy, Hiszpania, Holandia, Irlandia, Dania, Kanada, Australia i Republika Południowej Afryki, a także przewodnicząca Komisji Europejskiej Ursula von der Leyen. Francja na razie nie przyłączyła swojego podpisu do tej inicjatywy.

Europejskie ramy jako punkt odniesienia

Deklaracja dołącza do unijnego porządku prawnego, którego harmonogram wciąż się rozciąga. Unijne rozporządzenie o sztucznej inteligencji opublikowano w Dzienniku Urzędowym 12 lipca 2024 roku, a weszło w życie 1 sierpnia 2024 roku. Obowiązuje etapami. Zakazy niektórych praktyk i obowiązki dotyczące kultury SI zaczęły obowiązywać 2 lutego 2025 roku. Obowiązki dotyczące modeli SI ogólnego przeznaczenia, zarządzanie oraz niektóre przepisy o sankcjach stosuje się od 2 sierpnia 2025 roku. Od 2 sierpnia 2026 roku obowiązuje reszta rozporządzenia, z wyjątkiem przepisów szczególnych: dostawcy systemów generujących treści syntetyczne wprowadzonych na rynek przed tą datą muszą spełnić wymogi przejrzystości z artykułu 50 do 2 grudnia 2026 roku.

Następny etap wyznaczono na 2 grudnia 2026 roku. Zaczną wtedy obowiązywać zakazy dotyczące systemów generujących intymne wizerunki bez zgody oraz treści z wykorzystywaniem seksualnym małoletnich. Na 2 sierpnia 2027 roku dostawcy modeli ogólnego przeznaczenia wprowadzonych na rynek przed sierpniem 2025 roku będą musieli podjąć niezbędne środki, żeby spełnić wymogi rozporządzenia.

Zabezpieczenia, których domagają się wszyscy

Debata nie ogranicza się do państw. We Włoszech ponad stu ekspertów od sztucznej inteligencji podpisało apel, żeby firmy takie jak Anthropic i OpenAI opierały się na niezależnych oceniających. To żądanie pokrywa się wprost z postulatami deklaracji międzynarodowej.

Najbardziej zaawansowane modele muszą pozostać pod kierownictwem, nadzorem i kontrolą człowieka.