AWS, Meta i wyścig o izolację agentów AI w przeglądarkach

AWS uruchomiło Strands Box w środę. To otwarta piaskownica zaprojektowana tak, by zatrzymać autonomiczne agenty działające w trybie "YOLO", gdzie zatwierdzają akcje bez ludzkiej weryfikacji. System wykorzystuje izolację na poziomie systemu operacyjnego, aby egzekwować surowe zasady zachowania, zgodnie z ogłoszeniem giganta chmurowego.

Bezpieczeństwo i izolacja

Według Marca Brookera, wiceprezesa AWS, głównym problemem jest brak egzekwowania kontekstowych zasad w standardowych kontenerach. Agent w kontenerze może skasować produkcyjną bazę danych lub wysłać spamowe wiadomości na Slacku, jeśli ma do tego narzędzia. Strands Box rozwiązuje to problem, integrując się z Dogwood Local Engine, które dodaje świadomość czasową do sprawdzania polityki. Na przykład może ograniczyć agenta do trzech postów na Slacku co dziesięć minut lub ustawić limit wywołań API, aby zapobiec stratom finansowym. Ta integracja pozwala na szczegółową kontrolę akcji opartych o czas, wykraczając poza proste zbiory uprawnień w stronę dynamicznych ograniczeń zachowania, które dostosowują się do ostatnich działań agenta i historycznych wzorców.

"Interpretatory Shell i Python w Boxu odsłaniają operacje takie jak usuwanie plików, a jego bramki odsłaniają żądania API i wywołania narzędzi", powiedział Brooker w rozmowie z The Register. Dzięki temu deweloperzy mogą tworzyć precyzyjne polityki, które uwzględniają historię agenta, a nie tylko jego bieżące intencje. Narzędzie jest częścią szerszego wysiłku AWS, aby dostarczać strategie open source dla rozliczalności agentów AI.

Standaryzacja dostępu do sieci

Meta i Sierra zajmują się interfejsem zewnętrznym. W środę obie firmy przedstawiły Personal Agent Protocol, standard określający, jak agenci AI wchodzą w interakcję z firmowymi stronami internetowymi. Protokół ma zastąpić nieefektywną metodę, w której agenci nawigują po stronach jak użytkownicy ludzcy. Zamiast tego pozwala firmom wybrać między dostępem do sieci, dostępem do API za pośrednictwem Model Context Protocol lub bezpośrednią integracją agenta. Zmiana ta przenosi nacisk z naśladowania ludzkiego przeglądania na ustanowienie bezpośrednich, ustrukturyzowanych kanałów komunikacji między podmiotami AI a platformami biznesowymi, co potencjalnie zmniejsza opóźnienia i wskaźniki błędów związane z wizualnym parsowaniem i nawigacją opartą o klikanie.

Zgodnie z informacjami heise.de, protokół umożliwia firmom monitorowanie aktywności agentów i przyznawanie dostępu do odczytu lub zapisu, oparte na autoryzacji OAuth. Pierwsi partnerzy to Genesys, Instinct, Rocket, Shopify, Stripe i Walmart. Specyfikacje mają zostać wydane jako wersja 0.1 pod koniec tego miesiąca. Ten ruch bezpośrednio konkuruje z istniejącymi standardami Visa, przy czym Stripe i Shopify biorą udział w obu ekosystemach.

Pilna potrzeba tych kontroli wynika z ostatnich incydentów bezpieczeństwa. Kampania phishingowa skierowana przeciwko managerom reklamowym dodała fałszywy produkt "Muse Ads" do swojego zestawu przynęt, zaledwie osiem dni po tym, jak Meta uruchomiła swojego osobistego agenta AI, Muse. The Register donosiło, że kampania wykorzystuje ataki "przeglądarka w przeglądarce" do kradzieży danych uwierzytelniających. Oleg Zaytsev, badacz bezpieczeństwa z Island, zauważył, że operatorzy szybko dostosowali swoją platformę, wykorzystując timely ogłoszenie Muse jako wiarygodny powód do działania dla ofiar. Szybkość tej adaptacji podkreśla podatność nowych produktów na natychmiastowe wykorzystanie przez złe podmioty, które monitorują ogłoszenia korporacyjne w poszukiwaniu okazji do inżynierii społecznej.

"Uderzające jest to, jak szybko zamienili timely ogłoszenie na wiarygodny powód, by ktoś podjął działanie", powiedział Zaytsev w rozmowie z The Register. Wektor ataku obejmuje fałszywe okno logowania wewnątrz legalnej przeglądarki, które wprowadza w błąd pracowników agencji, skłaniając ich do oddania danych uwierzytelniających. Tylko z jednego frontendu badacze obserwowali wysyłki dotyczące około 200 różnych adresów e-mail w ciągu miesiąca, a objętość całej kampanii szacuje się znacznie wyższą.

Tarcie konsumenckie i blokady

Użytkownicy często natrafiają na blokady, gdy ich agenci, tacy jak Muse od Meta lub Dots od OpenAI, próbują ukończyć zadania, zgodnie z TechCrunch. Amazon wyraźnie zablokował Muse na swojej stronie detalicznej, podczas gdy inne blokady wydają się być przypadkowym wynikiem tradycyjnych środków anty-bot. Walmart powiedział TechCrunch, że jego blokady nie były zamierzone, ponieważ firma jest partnerem Muse. Problem często pojawia się, gdy strona internetowa prezentuje przycisk weryfikacji ludzkiej, który przerywa przepływ agenta. To tarcie podkreśla niespójność między obecną infrastrukturą bezpieczeństwa sieci a erą agent-first. Partnerzy branżowi, w tym Meta, Walmart i Stripe, pracują nad otwartymi standardami, aby odróżnić legalnych agentów od złośliwych botów. Wyzwanie polega na tworzeniu metod weryfikacji, które są wystarczająco bezpieczne, aby zapobiec nadużyciom, ale wystarczająco transparentne, aby pozwolić autoryzowanym agentom działać bez interwencji ludzkiej.

Agent Dots od OpenAI napotkał własny zestaw problemów. Wired donosiło, że agent, wymagający subskrypcji w wysokości 100 dolarów miesięcznie, miał trudności z podstawowymi zadaniami, takimi jak zapamiętywanie imion użytkowników i rozwiązywanie captcha. W jednym przypadku agent o imieniu Toolie błędnie powiedział użytkownikowi, że go kocha, co podkreśla niedoskonałości obecnych implementacji agentów skierowanych do konsumentów.

Infrastruktura do zarządzania tymi narzędziami staje się tak ważna jak same agenci. Wyścig to już nie tylko kwestia możliwości, ale kontroli, standaryzacji i zaufania w autonomicznej sieci.