Microsoft zakończył wstępne trenowanie MAI-Base-2 o 2,8 bln parametrów

Co zbudował Microsoft

Microsoft trenował MAI-Base-2 na 16 000 procesorów graficznych Nvidia GB200 przez 38 dni w sierpniu i we wrześniu. Trening przetworzył 50 bln tokenów tekstu i danych wizualnych. Model ma łącznie 2,8 bln parametrów, ale przy każdym wejściu uruchamia 80 mld. To architektura mixture-of-experts, która pozwala utrzymać duży model bez przeliczania wszystkich parametrów przy każdej operacji.

Microsoft zwiększył pulę unikalnych danych treningowych o około 36% w porównaniu z MAI-Base-1, który wprowadził na początku tego roku. Obrazy stanowiły 18% nowej mieszanki treningowej. To część tego, co Microsoft nazywa natywnym treningiem wizyjnym, przeznaczonym do interpretacji wykresów, analizy dokumentów i rozumowania przestrzennego. Microsoft twierdzi, że model uczył się na danych treningowych pochodzenia naturalnego, a nie przez destylację wiedzy z innych modeli AI.

Twierdzenia o wydajności i ich granice

Microsoft szacuje, że jego podejście do trenowania jest od 4,2 do 12,3 razy bardziej wydajne obliczeniowo niż DeepSeek-V4-Pro-Base przy wyrównanej jakości na wybranych testach. Firma podaje, że MAI-Base-2 wypadł lepiej niż modele z otwartymi wagami uwzględnione w jej wewnętrznych ewaluacjach. TechRepublic zauważył, że te liczby szacują moc obliczeniową potrzebną do osiągnięcia porównywalnych wyników, a nie pokazują, że MAI-Base-2 jest lepszy pod każdym względem.

Porównania opierają się na testach odłożonych, które Microsoft sam wybrał, a firma nie opublikowała równoważnych zestawień z każdym czołowym modelem zamkniętym. Business Insider podał, że Mustafa Suleyman, szef działu AI w Microsofcie, powiedział pracownikom, iż firma porównała MAI-Base-2 z modelami OpenAI wewnętrznie. Microsoft nie udostępnił tych wyników publicznie do niezależnej oceny.

Licencja, nie otwarte wydanie

Microsoft planuje licencjonować wagi MAI-Base-2 zaufanym partnerom przez Microsoft Foundry, a nie udostępniać je publicznie. Firma nie ogłosiła cen ani ogólnej dostępności. TechRepublic zauważył, że warunki dostępu i koszty dostosowania modelu wpłyną na to, czy przedsiębiorstwa wybiorą ofertę Microsoftu zamiast modeli naprawdę otwartych.

Model wciąż jest na etapie treningu po wstępnym trenowaniu. Raport dodawał, że firmy nie powinny liczyć na natychmiastowy dostęp do MAI-Base-2 przez Copilot czy inne usługi Microsoftu. Microsoft podaje, że przygotowania do MAI-Base-3 już trwają.

TechRepublic napisał, że możliwości tekstowe i wizyjne modelu mogą z czasem wspierać zastosowania firmowe związane z dokumentami, arkuszami i wykresami, ale Microsoft nie pokazał, jak te możliwości przełożą się na produkty komercyjne.

Dlaczego Microsoft buduje własne modele

Microsoft zainwestował w OpenAI około 13 mld dol. i nadal korzysta z modeli OpenAI przy bardziej wymagających zadaniach, podał eWeek. Firma zaczęła też używać własnych modeli MAI w niektórych produktach, żeby obniżyć koszty. Według Bloomberga Suleyman powiedział, że modele MAI działają w ponad połowie produktów Microsoftu, a celem jest zmniejszenie, a docelowo wyeliminowanie tego, co Microsoft płaci Anthropicowi.

W kwietniu Microsoft zmienił umowę z OpenAI: co zakończyło wyłączny dostęp do własności intelektualnej OpenAI i Microsoft przestał płacić OpenAI, a OpenAI nadal płaci Microsoftowi, z limitem, podał Yahoo Finance. Microsoft wciąż dostarcza infrastrukturę obliczeniową dla modeli OpenAI, poinformował eWeek.