Przejdź do treści
Czas na świecieEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal o AI i technologiiwydarzenia · analizy · wywiady · tło techniczne

Szukaj
NA ŻYWO
›

Modele z otwartymi wagami przejmują większość tokenów AI, Google ogranicza darmowy dostęp

28 września modele z otwartymi wagami po raz pierwszy przetworzyły większość tokenów AI, wynika z danych branżowych. Zmiana zbiega się z ograniczeniem darmowego dostępu do modeli Gemini, które Google wprowadza od 9 października.

AI i modeleWyjaśnienieMarta ZielińskaOpublikowano: 4 października 20267 min czytaniaŹródła 7
Modele z otwartymi wagami przejmują większość tokenów AI, Google ogranicza darmowy dostęp

Przewaga w dużych modelach językowych przechodzi na rzecz otwartych architektur.

28 września modele z otwartymi wagami po raz pierwszy przetworzyły większość tokenów AI. Branża odchodzi od zamkniętych, własnościowych systemów. W tym samym czasie najwięksi gracze wypuszczają nowe modele i albo otwierają standardy, albo zaostrzają limity w usługach płatnych.

Google najmocniej zaciska darmowy dostęp.

Od 9 października Google ograniczy modele Gemini dostępne dla użytkowników darmowych i subskrybentów AI Plus. Firma zaktualizowała dokument pomocy, na który 3 października powołał się 9to5Google. Bez subskrypcji zostanie tylko model (3.5) Flash-Lite. Użytkownicy tracą dostęp do mocniejszych modeli (3.6) Flash i (3.1) Pro. Subskrybenci AI Plus płacą 4,99 dol. miesięcznie. Im także zniknie poziom Pro, zostaną tylko Flash-Lite i Flash. Firma uzasadnia zmiany limitami zużycia opartymi na mocy obliczeniowej, wprowadzonymi w maju. To rozwiązanie powtarza model freemium OpenAI, gdzie mocniejsze modele są zarezerwowane dla płacących. The Decoder podał 4 października, że taki układ odcina użytkowników z ograniczonym budżetem od najzdolniejszych modeli. Popycha ich w stronę planu AI Pro za 19,99 dol. albo AI Ultra za 99,99 dol.

Ograniczenia w modelach własnościowych przyspieszyły adopcję alternatyw z otwartymi wagami.

Aleph Alpha, niemiecka firma AI, udostępniła Kolibri na licencji Apache 2.0. Dealroom podał 3 października, że pełne wagi trafiły na Hugging Face. Badacze i deweloperzy mogą pobrać model, dostroić go i uruchomić lokalnie. Wpisuje się to w szerszy trend: firmy publikują swoje najzdolniejsze modele jako otwarte wagi, żeby budować zaufanie i ekosystem wokół technologii. Startup Fortune potwierdził premierę tego samego dnia. Zauważył, że licencja Apache 2.0 pozwala na użycie komercyjne bez ograniczeń.

Google też dołączył do ruchu otwartych wag, choć z mniejszymi modelami. 6 października firma udostępniła EmbeddingGemma 2 na licencji Apache 2.0.

Ten model obsługuje zadania osadzania, a nie ogólną rozmowę. Mimo to jego publikacja pokazuje zobowiązanie do ekosystemu open source. Dzięki temu Google utrzymuje obecność w przestrzeni otwartych wag. Nie konkuruje przy tym bezpośrednio ze swoimi własnościowymi modelami Gemini w najbardziej wymagających zadaniach ogólnych.

W tym czasie francuski Mistral pokazał 5 października w publicznym podglądzie model Le Chonk typu Mixture-of-Experts (MoE). Model ma otwarte wagi. Liczba parametrów w połączeniu z architekturą MoE ma dać wysoką wydajność przy kontroli kosztów wnioskowania. Premiera jest istotna, bo pokazuje, że modele z otwartymi wagami mogą osiągać złożoność systemów własnościowych. Publiczny podgląd pozwala deweloperom testować możliwości i zgłaszać uwagi przed pełną premierą.

Te wydarzenia dotyczą nie tylko premier modeli. Chodzi o infrastrukturę i narzędzia, które je obsługują.

4 października Jerry Gamblin opublikował szczegółową analizę wykorzystania lokalnych modeli do zadań bezpieczeństwa. Przetestował modele Clef i Clef Flash od Cloudflare na MacBooku. Oba mają otwarte wagi i są dostrojone z Qwen. Gamblin użył ich do analizy 27 489 podatności CVE (Common Vulnerabilities and Exposures) opublikowanych w ciągu ostatnich 60 dni. Eksperyment pokazał, że modele z otwartymi wagami radzą sobie ze złożoną klasyfikacją lokalnie. Nie wysyłają przy tym danych do chmury. To ważny przypadek użycia dla branż wrażliwych na bezpieczeństwo, gdzie prywatność danych jest najważniejsza. Modele działają lokalnie na sprzęcie konsumenckim, co pokazuje zyski wydajności współczesnych architektur.

Rozwój otwartych wag napędza też innowacje w narzędziach i infrastrukturze.

Spinifex to projekt open source zbudowany przez Mulga. Ma odtworzyć powierzchnię usług AWS na urządzeniach bare-metal i brzegowych. Według repozytorium na GitHubie Spinifex pozwala uruchamiać istniejące przepływy AWS CLI, SDK i Terraform wobec EC2, EBS, S3, VPC, IAM, EKS i RDS na własnych serwerach. Projekt jest ważny dla ekosystemu otwartych wag. Daje sposób wdrażania modeli AI w środowiskach odizolowanych, takich jak placówki rządowe czy zakłady przemysłowe, gdzie dostęp do chmury jest ograniczony. Spinifex pozwala uruchamiać oprogramowanie cloud native bez hiperskalera. To obniża próg dla organizacji, które chcą modeli z otwartymi wagami, ale nie mogą polegać na publicznych usługach chmurowych.

Inne narzędzie wspierające ten ekosystem to Docent, prywatny asystent AI open source działający w terminalu. Według repozytorium na GitHubie Docent pozwala rozmawiać z plikami PDF i Office, przeszukiwać sieć i podłączać serwery MCP, wszystko na własnej maszynie. Projekt napisano w Rust i korzysta z lokalnego agenta do wnioskowania na GPU. Takie narzędzie jest niezbędne dla deweloperów, którzy chcą modeli z otwartymi wagami do zadań prywatnych lub zawodowych. Trzyma dane poza serwerami firm trzecich. Pełnoprawny asystent AI działający lokalnie, z prywatnością jako główną cechą, to mocny argument za otwartymi wagami.

Trend ku otwartym wagom wpływa też na to, jak modele są oceniane i porównywane.

4 października na arXiv ukazała się praca „No Model Required: Text Entropy Rate Filtering Mitigates Iterative Fine-Tuning Collapse”. Proponuje nowe podejście do łagodzenia zapaści modelu. To zjawisko, w którym różnorodność odpowiedzi zawęża się podczas iteracyjnego dostrajania. Metoda używa nieparametrycznego estymatora entropii liczonego w całości z surowego tekstu. Nie potrzebuje dostępu do logarytmów prawdopodobieństwa modelu. To istotne, bo daje sposób oceny i poprawy modeli z otwartymi wagami bez dostępu do ich wewnętrznych parametrów. Wyniki pracy sugerują, że informatyczne podejścia do łagodzenia zapaści są wydajne. Mogą też pomagać utrzymać różnorodność w systemach wieloagentowych.

Przejście na otwarte wagi ma jednak także wyzwania.

3 października Google zawiesił zgłaszanie podatności produktów w swoim programie nagród za błędy w oprogramowaniu open source (OSS VRP). Firma zareagowała na napływ nieprawidłowych zgłoszeń generowanych przez AI. Według Tom's Hardware zawieszenie obowiązuje od 1 października i ma potrwać do pierwszego kwartału 2027 r. Firma wskazała na zalew zgłoszeń „AI slop”. To raporty tworzone przez modele AI, często niedokładne lub bezsensowne. Incydent pokazuje możliwy minus powszechnego użycia narzędzi AI: większy wolumen danych i raportów niskiej jakości. Pokazuje też potrzebę mocnego filtrowania i weryfikacji w projektach open source, które opierają się na wkładzie społeczności.

Mimo tych wyzwań otwarte wagi mają silny impet.

28 września modele z otwartymi wagami przetworzyły większość tokenów AI po raz pierwszy. To wskazuje na wyraźną zmianę udziałów w rynku. Trend prawdopodobnie utrzyma się, bo kolejne firmy publikują modele na permisywnych licencjach. Będzie też rósł wraz z poprawą infrastruktury do lokalnego wdrażania. Uruchamianie mocnych modeli lokalnie, z prywatnością i kontrolą, to dla wielu użytkowników i organizacji propozycja atrakcyjna. Najbliższe miesiące będą ważne. Pokażą, czy otwarte wagi utrzymają impet, czy modele własnościowe odzyskają dominację.

Otoczenie dużych modeli językowych zmienia się szybko. Ograniczenia darmowego dostępu do modeli własnościowych w połączeniu z premierami mocnych modeli z otwartymi wagami tworzą nową dynamikę w branży AI. Organizacje i osoby coraz częściej sięgają po otwarte wagi dla prywatności, kontroli i kosztów. Narzędzia i infrastruktura wspierające tę zmianę dojrzewają. Wdrażanie i używanie modeli z otwartymi wagami jest przez to łatwiejsze niż kiedykolwiek. Kierunek rozwoju AI może być otwarty. Wydarzenia ostatniego tygodnia sugerują, że jest bliżej, niż sądziliśmy.

Komentarze 0

Źródła

7
  1. 01Gemini app limiting what models free and AI Plus users can accessEN
  2. 02Google's new Gemini tiers cut free users to its weakest modelEN
  3. 03Local models on 27,489 CVEs: 4.2% omit security impactEN
  4. 04Spinifex: The open, AWS-compatible cloud you run yourselfEN
  5. 05Docent: An Open Source Private AI assistant in your terminalEN
  6. 06No Model Required: Text Entropy Rate Filtering Mitigates Iterative Fine-TuningEN
  7. 07Google freezes open-source bug bounty program amid flood of invalid AI slopEN

Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.

Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.

Marta Zielińska

Marta Zielińska

AI, modele i technologie

Marta Zielińska pisze o technologiach, AI i modelach oraz mediach i internecie, opierając się na dokumentacji, preprintach i danych z API, a nie na zapowiedziach producentów. Przy każdej publikacji sprawdza karty modeli, parametry treningowe i benchmarki, a liczby porównuje z niezależnymi testami i wynikami z repozytoriów. Rozmawia z badaczami i inżynierami, czeka na kolejne wydania modeli i zestawia ich działanie z wcześniejszymi wersjami. Prywatnie drukuje w 3D, naprawia stare komputery i sprawdza, jak modele uczą się na śmieciach z internetu. Nie publikuje wyników, których nie może odtworzyć na własnym sprzęcie.

Redakcja →

Komentarze

0
  1. Brak komentarzy — bądź pierwszy.

Dodaj komentarz

Komentarze są widoczne publicznie. Nie publikujemy wulgaryzmów, spamu i treści reklamowych.