AWS, Meta i wyścig o piaskownice dla agentów AI w przeglądarce

AWS udostępnił Strands Box w środę. Otwartoźródłowa piaskownica nie pozwala autonomicznym agentom działać w "trybie YOLO", w którym zatwierdzają własne akcje bez nadzoru człowieka. System izoluje procesy na poziomie systemu operacyjnego i egzekwuje ścisłe reguły zachowania.

Bezpieczeństwo i izolacja

Wiceprezes AWS Marc Brooker wyjaśnia, że standardowe kontenery nie egzekwują reguł zależnych od kontekstu. Agent w kontenerze może usunąć produkcyjną bazę danych albo zaspamować Slacka, jeśli ma do tego narzędzia. Strands Box współpracuje z Dogwood Local Engine, który dodaje do kontroli polityk świadomość czasu. Może ograniczyć agenta do trzech postów na Slacku na dziesięć minut albo ograniczyć liczbę wywołań API, żeby zapobiec stratom finansowym. Daje to szczegółową kontrolę nad działaniami zależnymi od czasu. To więcej niż proste zestawy uprawnień: to dynamiczne ograniczenia, które biorą pod uwagę ostatnią aktywność.

"Interpretery Shell i Python w Boxie odsłaniają operacje takie jak usuwanie plików, a jego bramy odsłaniają żądania API i wywołania narzędzi" - powiedział Brooker The Register. Programiści mogą pisać precyzyjne polityki, które uwzględniają historię agenta, a nie tylko jego bieżący zamiar. Narzędzie jest częścią starań AWS o otwartoźródłowe sposoby rozliczania agentów AI z ich działań.

Standaryzacja dostępu do sieci

Meta i Sierra zajęły się interfejsem zewnętrznym. W środę obie firmy przedstawiły Personal Agent Protocol. To standard określający, jak agenci AI komunikują się z witrynami firm. Protokół zastępuje nieefektywną metodę, w której agenci przechodzą przez strony jak ludzie. Zamiast tego firmy mogą wybrać dostęp przez sieć, dostęp przez API za pomocą Model Context Protocol albo bezpośrednią integrację agenta. Ten zwrot odsuwa uwagę od naśladowania ludzkiego przeglądania. Stawia na bezpośrednie, uporządkowane kanały komunikacji między agentami AI a platformami biznesowymi.

Według heise.de protokół pozwala firmom monitorować aktywność agentów i przyznawać dostęp do odczytu albo zapisu, w oparciu o autoryzację OAuth. Wśród pierwszych partnerów są Genesys, Instinct, Rocket, Shopify, Stripe i Walmart. Specyfikacja ma się ukazać jako wersja 0.1 jeszcze w tym miesiącu. Ten ruch konkuruje bezpośrednio z istniejącymi standardami Visy, a Stripe i Shopify biorą udział w obu ekosystemach.

Ostatnie incydenty bezpieczeństwa pokazują, jak pilne są takie mechanizmy kontroli. Kampania phishingowa wymierzona w menedżerów reklam dodała do swojej oferty fałszywy produkt "Muse Ads". Zrobiła to zaledwie osiem dni po tym, jak Meta uruchomiła swojego osobistego agenta AI o nazwie Muse. The Register podał, że kampania wykorzystuje ataki "browser-in-browser", żeby wykradać dane logowania. Oleg Zaytsev, badacz bezpieczeństwa z Island, zauważył, że operatorzy szybko dostosowali swoją platformę. Wykorzystali głośną zapowiedź Muse jako wiarygodny powód, żeby ofiary podjęły działanie.

"Uderzające jest to, jak szybko zamienili głośną zapowiedź w wiarygodny powód, żeby ktoś coś zrobił" - powiedział Zaytsev The Register. Wektor ataku to fałszywe okno logowania wewnątrz prawdziwej przeglądarki. Nakłania pracowników agencji do przekazania danych logowania. Badacze zaobserwowali zgłoszenia z około 200 różnych adresów e-mail w ciągu miesiąca, i to tylko z jednego frontendu. Skala całej kampanii jest szacowana na znacznie wyższą.

Problemy użytkowników i blokady

Użytkownicy często trafiają na blokady, kiedy ich agenci próbują wykonać zadania, podaje TechCrunch. Chodzi między innymi o Muse od Meta i Dots od OpenAI. Amazon otwarcie zablokował Muse na swojej witrynie handlowej. Inne blokady wyglądają na przypadkowy skutek tradycyjnych mechanizmów antysbotowych. Walmart powiedział TechCrunch, że jego blokady nie były zamierzone, bo firma współpracuje z Muse. Problem zwykle pojawia się wtedy, gdy witryna pokazuje przycisk weryfikacji człowieka, który przerywa działanie agenta. Partnerzy branżowi, w tym Meta, Walmart i Stripe, pracują nad otwartymi standardami. Celem jest odróżnienie legalnych agentów od złośliwych botów.

Agent Dots od OpenAI ma własne problemy. Wired podał, że wymaga subskrypcji za 100 dolarów miesięcznie. Miał trudności z prostymi zadaniami, takimi jak zapamiętanie imion użytkowników i rozwiązywanie captchy. W jednym przypadku agent o nazwie Toolie omyłkowo powiedział użytkownikowi, że go kocha.