Pinker odrzuca debatę o zagładzie ze strony AI, a wydawcy tracą ruch z wyszukiwarek
Psycholog z Harvardu Steven Pinker odmówił udziału w publicznej debacie o egzystencjalnych zagrożeniach ze strony AI. W liście otwartym opublikowanym 28 września na łamach Quillette napisał, że retoryka zagłady odwraca uwagę od bioterroryzmu, cyberataków i niekontrolowanych agentów AI.

List Pinkera, opisany 28 września przez The Decoder, był adresowany do psychiatry i blogera technologicznego Scotta Alexandra, który wyzwał go do debaty. Pinker nazwał takie wydarzenia „sportem dla widzów”. Spór o ryzyko związane z AI trwa od dawna. Tym razem wypadł w tym samym tygodniu co problem, który da się policzyć: załamanie ruchu z wyszukiwarek, które wydawcy dokumentują od początku roku.
Tego samego dnia firma Vespper wypuściła narzędzie DOCX MCP. Twierdzi, że agenci AI edytują nim dokumenty Worda trzy razy szybciej i dwa razy taniej niż dotychczasowymi sposobami. Firma rozmawiała z dziesiątkami inżynierów oprogramowania, głównie w branży prawnej i ochronie zdrowia. Ci opowiadali, że tygodnie albo miesiące spędzają na dostrajaniu własnych procesów przetwarzania dokumentów. To wąski, mało efektowny problem. Trafia na niego jednak spora część pieniędzy przeznaczanych na wdrażanie AI.
Sygnały strukturalne, nie słownictwo
Praca przesłana do arXiv 14 września i poprawiona 17 września przynosi mniej wygodny wynik dla każdego, kto publikuje treści w sieci. Jochen Madler z Sitefire powtórzył metodę StoryScope na treściach komercyjnych: 2 250 ludzkich wpisów blogowych sprzed ChatGPT z 268 domen firmowych zestawił z 11 250 tekstami wygenerowanymi przez pięć modeli frontier. Narzędzie z 214 cechami, obsługiwane przez LLM i zweryfikowane w sesji złotej anotacji, w której zgodność między ludzkimi oceniającymi wyniosła kappa 0,928, rozpoznawało wpisy AI na podstawie samych 187 cech strukturalnych. Na firmach spoza zbioru treningowego osiągnęło 98,0 macro-F1. Wynik utrzymał się na poziomie 98,1, gdy każdy tekst AI został przepisany przez własny model. Wpisy AI przypisano do właściwego źródła w 79,3 procent przypadków, przy losowym trafieniu wynoszącym 16,7 procent.
Nie chodzi o to, że detektory łapią parafrazę. Chodzi o to, że komercyjne treści tworzone przez AI mają kształt, a ten kształt da się teraz zmierzyć. Ludzkie wpisy, czytamy w pracy, zajmują rzadkie konfiguracje strukturalne. Jeśli to się potwierdzi, stron pisanych maszynowo, które konkurują o uwagę w wyszukiwarkach, jest nie tylko więcej niż wcześniej. Są też bardziej jednorodne i łatwiejsze do rozpoznania w skali.
Infrastruktura wyszukiwania idzie dalej
Dostawcy infrastruktury nie czekają, aż spór o ruch w wyszukiwarkach się rozstrzygnie. PlanetScale opublikował 27 września wyjaśnienie, jak indeksy odwrócone napędzają wyszukiwanie pełnotekstowe w Postgresie, porównując b-drzewa ze słownikami terminów i listami wystąpień. Luxir, otwarty silnik wyszukiwania hybrydowego, oferuje wyszukiwanie pełnotekstowe, wektorowe i fasetowe z jednego miejsca, z rankingiem BM25 i przycinaniem block-max. W obu przypadkach argumentem jest wydajność: mniej rdzeni, mniej bajtów, niższy koszt. Wyszukiwanie jest przebudowywane w tym samym czasie, gdy na nowo negocjuje się ekonomię otwartej sieci.
Pinker pisze, że temu, co uważa za realne zagrożenia, skutecznie przeciwdziała rzetelna inżynieria bezpieczeństwa oparta na niezależnym nadzorze, odpowiedzialności prawnej i ludzkiej kontroli.
The Decoder zauważa, że Pinker już wcześniej patrzył na AI optymistycznie, ale teraz przyznaje, że nie docenił możliwości dużych modeli językowych i tego, jak lekkomyślnie firmy AI wypuszczają swoje produkty. Alexander, który przedstawił swoje stanowisko na blogu w czerwcu, ocenia szanse, że AI zgładzi ludzkość, na 20 procent. Chce lepszych badań nad bezpieczeństwem i międzynarodowych porozumień, które spowolnią rozwój. Obaj panowie różnią się w ocenie prawdopodobieństwa, nie w samym istnieniu ryzyka.
Pozostałe premiery tygodnia są mniejsze. GPU-font, opublikowany na Hacker News 28 września, dopasowuje czcionki na obrazie za pomocą WebGPU i niewielkiej sieci neuronowej wytrenowanej w PyTorch na czcionkach z Google Fonts renderowanych przez Pillow i Chromium. ParkourNote, również z 28 września, to przestrzeń robocza do badań zbudowana w miesiąc przez jedną osobę z pomocą Claude. Importuje artykuły, książki i filmy, a bibliotekę udostępnia Claude'owi, ChatGPT lub Codexowi przez MCP. Agents2AgentsAI opublikowało zoptymalizowane środowiska uruchomieniowe dla trzech modeli vision-language-action na NVIDIA Jetson AGX Thor, z opóźnieniami od 32,4 ms dla ABC-VLA do 113,4 ms dla MolmoAct2.
Żadne z tych narzędzi nie rozwiązuje problemu załamania ruchu odsyłanego bezpośrednio. Pokazują jednak, gdzie idzie uwaga inżynierów: agenci, którzy czytają i piszą dokumenty, modele klasyfikujące treści po strukturze oraz wyszukiwarki optymalizowane tak, by robić więcej na jednej maszynie. Dla wydawców najważniejszą pozycją tygodnia może być praca o wykrywaniu struktur. Wynika z niej, że zalew treści AI nie jest nieodróżnialny od pracy człowieka. Jest po prostu tańszy w produkcji.
Źródła
8- 01Harvard psychologist calls for sober AI safety engineering over doomsday rhetoricEN
- 02Launching Vespper DOCX MCP: 3x faster, 2x cheaper, more accurateEN
- 03SlopShape: Identifying AI-Generated Commercial Web ContentEN
- 04Anatomy of a (Postgres) Search EngineEN
- 05Luxir: open source hybrid search engineEN
- 06Show HN: GPU-font - match fonts with WebGPUEN
- 07Show HN: ParkourNote - A research workspace, built solo in a month with ClaudeEN
- 08Show HN: Optimized runtimes for three VLAs on Jetson ThorEN
Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.
Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.
Komentarze
0- Brak komentarzy — bądź pierwszy.