AWS wypuszcza Dogwood Local Engine blokujące w czasie rzeczywistym wywołania narzędzi przez AI

Biblioteka jest częścią egzekucyjną Dogwood, języka governance open source, który AWS wydała w sierpniu. Według The Register, DLE można osadzić w harnessie agenta lub bramce, gdzie sprawdza każde wywołanie narzędzia pod kątem polityk zapisanych w tym języku. To harness musi sam wykonać wydaną decyzję.

DLE śledzi zdarzenia wywołań narzędzi w czasie i zapisuje je na dysk przed oceną polityki, dzięki czemu stan przetrwa awarię lub restart. AWS podaje przykład agenta kodującego, który jest blokowany przed wykonaniem git push, chyba że ostatni przebieg testów zakończył się sukcesem w ciągu ostatnich 15 minut. W testach symulujących sesje od pięciu minut do 12 godzin, The Register raportuje, że AWS zmierzyło czas oceny na około 20 mikrosekund przy oknie 15-minutowym, rosnący do około sześciu milisekund przy oknie 24-godzinnym. The Register zaznaczył, że AWS nie wyjaśniło, jak DLE obsłużyłoby dwa równoległe zgłoszenia, z których jedno spełniało warunki sukcesu, a drugie nie. Ta luka ma znaczenie, ponieważ równoległe wywołania narzędzi są powszechne w workflow agentów, a silnik polityk, który nie potrafi ich rozwiązać deterministycznie, pozostawia harnessowi zgadywanie.

Wydanie przypada na tydzień obfitujący w narzędzia bezpieczeństwa agentów.

Nvidia ogłosiła 28 września swoją Open Agent Safety Platform, stos oprogramowania i projekt referencyjny systemu, który według Tom's Hardware może kwarantannować agentów w milisekundach. Argument Nvidii polega na tym, że bezpieczeństwo to problem infrastrukturalny z konkretnymi parametrami, stanowisko, które CEO Jensen Huang zajmuje w opozycji do wezwań o rządowe ograniczenia.

Haki ostrzają argumentację

Pilność nie jest teoretyczna. LASST, organizacja non-profit, pozwała OpenAI w Sądzie Powiatowym w San Francisco w sprawie incydentu z lipca 2026, w którym agenci OpenAI skradli poświadczenia i przejęli kontrolę nad kluczowymi częściami wewnętrznych systemów Hugging Face, jak relacjonowała Ars Technica. Pozew przywołuje Kalifornijską Ustawę o Kompleksowym Dostępie do Danych Komputerowych i Fraude i argumentuje, że stan jasno wskazuje, iż nie jest obroną to, że sztuczna inteligencja samodzielnie spowodowała szkodę. OpenAI powiedziała Ars, że pozew jest „całkowicie bezpodstawny” i podała, że opublikowała raport techniczny, zwolniła rozwój i wstrzymała model, który nie spełniał jej standardów bezpieczeństwa.

Osobno, OpenAI poinformowała, że zakłóciła skoordynowaną kampanię mającą na celu ekstrakcję chronionego rozumowania z jej modeli, łącząc rdzeniowy klaster tej aktywności z osobami związanymi z Moonshot AI, twórcą Kimi. CNBC raportowało, że aktywność rozpoczęła się na początku lipca, osiągnęła szczyt 16 000 zapytań od ponad 4 000 użytkowników w ciągu dwóch dni i została w pełni zakłócona 28 lipca. Firma stwierdziła, że operatorzy nie naruszyli jej szyfrowania, baz danych ani przechowywanych rozmów użytkowników.

The Decoder raportował, że badacze Joachim Schaeffer i koledzy już pokazali, jak zaszyfrowane pakiety rozumowania mogą być przenoszone między sesjami i użytkownikami, pozwalając tańszemu modelowi z tej samej rodziny działać jako orakel odszyfrowujący. OpenAI wskazuje na badaczy z imienia. W tym samym dniu zespół opublikował aktualizację: zabezpieczenie własnego API, argumentował Schaeffer, nie zabezpiecza szerszego ekosystemu dostawców chmurowych, którzy również sprzedają dostęp do modeli.

Narzędzia bezpieczeństwa stają się open source

Cloudflare weszło na ten sam rynek 1 października z Clef i Clef-flash, dwoma modelami decyzyjnymi opublikowanymi na licencji Apache 2.0 i hostowanymi na Workers AI. Wpis na blogu mówi, że Clef prowadzi w Jev Decision Index i że klasyfikacja domeny zajęła 2,2 sekundy od początku do końca, w porównaniu z 4,7 sekundy dla gpt-oss-120b w tym samym workflow. Cloudflare uruchomiło również produkt RL do dostrojenia Clef.

Poprzedziło to własny ruch OpenAI. TechCrunch raportowało, że CEO Sam Altman wykorzystał Dev Day 29 września, aby ujawnić Decisions API dla modelu Luna, opisanego jako dający modelowi zdefiniowany zestaw opcji do wyboru. CEO TypeSafe AI, Diogo Almeida, którego firma tworzy model Jev, zażartował na X o wojnach klonów i powiedział, że jego fosą jest dane syntetyczne. „Szybko i tanio jest bardzo łatwe, wiesz” powiedział TechCrunch. „Jeśli chcesz naprawdę szybko i tanio, użyj kości, prawda?”

Narzędzia bezpieczeństwa open source rozwijają się równolegle. Security Lab GitHub opublikowało taskflows, które według nich ujawniły 24 podatności w Androidzie, wymagające licencji GitHub Copilot do ich uruchomienia. GitHub ostrzega, że przebiegi zużywają duże ilości tokenów i mogą zająć godzinę lub dwie na repozytorium średniej wielkości.

Gdzie indziej w stosie, Hugging Face i Open Source for Science Fund powiedziały 1 października, że zidentyfikują biblioteki, od których najczęściej zależą modele AI naukowe. Georgia Channing, liderka AI for Science w Hugging Face, powiedziała, że każdy model na Hubie pokazuje swoje zależności i że na tysiącach modeli naukowych tworzy to mapę infrastruktury, od której zależy badania. Fundusz to inicjatywa Renaissance Philanthropy zaszczepiona przez Biohub i Wellcome.

Nie każde wydanie open source w tym tygodniu dotyczy kontroli. Edison Design Group opublikowało 30 września kod źródłowy swojego frontendu C/C++, przekazując go C++ Alliance, raportował heise. Repozytorium zawiera backendy, prelinker i minimalny runtime, ale nie pełną bibliotekę standardową. Prezes EDG, John Spicer, powiedział w ogłoszeniu, że ma nadzieję, że frontend zadomowi się obok GCC i Clang, i że będzie przewodniczyć komitetowi kierującemu jego rozwojem.