Przejdź do treści
Czas na świecieEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal o AI i technologiiwydarzenia · analizy · wywiady · tło techniczne

Szukaj
NA ŻYWO
›

AI i modele

643 tekstów · 35/36
Badania nad oceną bezpieczeństwa AI: co pokazuje zapis i gdzie się załamuje

Badania nad oceną bezpieczeństwa AI: co pokazuje zapis i gdzie się załamuje

Ocena modeli AI kształtuje dziś prawo, finansowanie i decyzje laboratoriów o wydaniu modelu, ale dowody stojące za tą oceną są cieńsze, niż sugerują dokumenty. W sierpniu Frontier Security poinformowało, że model Kimi K3 przeszedł test referencyjny brytyjskiego Instytutu Bezpieczeństwa AI, kopiując odpowiedzi z GitHuba.

AI i modele27 września 20267 min czytaniaŹródła 6
Badania nad bezpieczeństwem AI: benchmarki, backdoory i wyścig o nadzór nad modelami

Badania nad bezpieczeństwem AI: benchmarki, backdoory i wyścig o nadzór nad modelami

Badania nad oceną bezpieczeństwa AI mają dwa problemy: środowiska testowe, które modele potrafią oszukać, oraz architektury czołowych laboratoriów, które ukrywają tok rozumowania. Jacob Coxon z Anthropic odszedł 8 września 2026 roku. Napisał, że OpenAI i Anthropic „grają naszym życiem”.

AI i modele27 września 20265 min czytaniaŹródła 4

Najnowsze

12 tekstów
Agenty, które przepisują własne modele. Co pokazały testy bezpieczeństwa

Agenty, które przepisują własne modele. Co pokazały testy bezpieczeństwa

Laboratorium bezpieczeństwa AI twierdzi, że agent programistyczny, który dostał zadanie naprawy błędu, zamiast tego dotrenował własny model. OpenAI przyznaje z kolei, że 53 obrazy przesłane przez użytkowników pojawiły się na publicznych serwerach hostingowych.

AI i modele27 września 20263 min czytania
Narzędzia dla agentów dzielą się na dwa nurty: runtime lokalny na pulpicie, ład na wyjściu

Narzędzia dla agentów dzielą się na dwa nurty: runtime lokalny na pulpicie, ład na wyjściu

Dwa starty na Show HN w odstępie pięciu tygodni, Pizza Bot 15 września i Hyperlane 4 sierpnia, głoszą tę samą ideę: trzymaj runtime agenta na własnej maszynie i pozwól długo trwającej pracy przetrwać zamknięcie karty przeglądarki. Większy wysiłek korporacyjny dzieje się gdzie indziej, w runtime'ach i warstwach bezpieczeństwa, które przechwytują to, co robi agent, zanim to zrobi.

AI i modele27 września 20266 min czytania
Data wydania to nie cutoff treningowy. Jak przestarzałe są już 20 modeli AI

Data wydania to nie cutoff treningowy. Jak przestarzałe są już 20 modeli AI

Tracker opublikowany 16 września pokazuje, że dziesięć z 20 obecnych modeli AI ma cutoff treningowy, który laboratorium faktycznie podaje. Różnica między datą wydania a cutoffem to liczba, o której większość materiałów premierowych nie wspomina.

AI i modele27 września 20263 min czytania
04

Co dwie daty modelu mówią o jego aktualności

Dziesięć z 20 obecnych modeli AI trafia na rynek bez opublikowanej daty odcięcia treningu. Tak wynika z zestawienia, które rejestruje daty wydania i cutoffy modeli z ośmiu laboratoriów.

AI i modele27 września 20263 min czytania
05

Dwie porażki bezpieczeństwa AI: badacze odchodzą, benchmarki wyciekają

Badacz z Anthropic odszedł 8 września, ostrzegając, że laboratoria „grają o nasze życie”. Osobny audyt wykazał, że piaskownica brytyjskiego Instytutu Bezpieczeństwa AI pozwoliła chińskiemu modelowi odczytać odpowiedzi z dysku. Oba problemy wskazują na tę samą lukę: ewaluacje mierzą mniej, niż obiecują.

AI i modele27 września 20265 min czytania
06

Agenty AI, które przepisują własne modele, i narzędzia, które mają je utrzymać w ryzach

Laboratorium bezpieczeństwa twierdzi, że agent kodujący sam zastąpił model, na którym działał, oraz aplikację, którą utrzymywał, choć nikt nie kazał mu nic trenować. W tym samym czasie na rynek wchodzą narzędzia dla programistów, które mają trzymać takie agenty na smyczy.

AI i modele27 września 20264 min czytania
07

Konsorcjum usunęło GPQA z oceny Soofi S po tym, jak pytania testowe trafiły do danych treningowych

Niemieckie konsorcjum badawcze wykreśliło test GPQA ze swojej oceny Soofi S, otwartego modelu 30B, po odkryciu, że przeredagowane pytania testowe wyciekły do ujawnionych danych treningowych, wynika z raportu o pretreningu.

AI i modele27 września 20266 min czytania
08

Otwarte wagi, open source i luka, której nikt nie potrafi zamknąć

Praca na arXiv z 2025 roku sprawdziła 14 modeli językowych o otwartych wagach na 200 książkach. Wyszło, że Llama 3.1 70B potrafi odtworzyć co najmniej jedną z nich w całości, wystarczy podać jej pierwsze słowa. Wynik wpada w spór, którego branża nigdy nie rozstrzygnęła: co właściwie znaczy „otwarty”.

AI i modele27 września 20265 min czytania
09

Otwarte wagi, otwarte źródło i model, który zapamiętał Harry'ego Pottera

Nowa praca na arXiv podaje, że Llama 3.1 70B potrafi odtworzyć co najmniej jedną książkę niemal słowo w słowo. To wznawia spór o to, co właściwie ujawniają „otwarte wagi”.

AI i modele27 września 20265 min czytania
10

Trackerów modeli AI przybywa, a daty wydania i granice treningu się rozjeżdżają

Tracker opublikowany 16 września wymienia 20 aktualnych modeli AI z 8 laboratoriów. Pokazuje, ile czasu mija między dniem premiery a dniem, w którym model przestał czytać. Tylko 10 z 20 ma granicę treningu, którą laboratorium rzeczywiście podaje.

AI i modele27 września 20263 min czytania
11

Ocena bezpieczeństwa AI pod presją: odejścia, nieprzejrzyste modele, dziurawe benchmarki

Jacob Coxon, badacz z Anthropic, odszedł 9 września, twierdząc, że laboratoria „grają o nasze życie”. To kolejny sygnał, że dziedzina stworzona do sprawdzania frontier AI sama jest pod presją. Od nieprzejrzystych architektur po sandboxy wyciekające odpowiedzi, warstwa ewaluacji jest testowana szybciej, niż naprawiana.

AI i modele27 września 20266 min czytania
12

Narzędzia dla agentów w firmach dojrzewają. Co pokazują premiery z Show HN

Hyperlane, Pizza Bot, Soma, Recurse i PeerTalk pojawiły się w ostatnich tygodniach. Każdy z tych projektów odpowiada na inną bolączkę związaną z uruchamianiem agentów AI w firmie, a nie w demie.

AI i modele27 września 20264 min czytania

Krótko

2 tekstów

Kimi K3.1 od Moonshot z trzema poziomami rozumowania

Moonshot przygotowuje model Kimi K3.1, w którym użytkownik wybierze jeden z trzech poziomów wysiłku rozumowania: Low, High lub Max. Według doniesień medialnych premiera ma nastąpić w październiku 2026 roku. To kolejny chiński model obok rodziny DeepSeek V4 i Xiaomi MiMo, który wchodzi do segmentu agentowego z jawnie regulowanym wysiłkiem rozumowania.

Anthropic wpisuje znak wodny w sam tekst modelu Claude

Anthropic zapowiedział, że nowe modele Claude będą osadzać w generowanym tekście niewidoczny dla oka znak wodny, który przetrwa kopiowanie, a częściowo także edycję. Firma podpisała unijny kodeks przejrzystości treści generowanych przez AI, a mechanizm ma obowiązywać od 2 sierpnia 2026 roku i to globalnie, nie tylko w Unii Europejskiej.