Akceleratory AI: OpenAI i Synopsys zbudują model do projektowania chipów, Senat blokuje ustawę energetyczną
OpenAI i Synopsys podpisały wieloletnie partnerstwo, żeby zbudować GPT-Synopsys, wyspecjalizowany model AI do projektowania chipów. The Decoder poinformował o tym 30 września. Dzień wcześniej demokraci w Senacie zablokowali ustawę Ratepayer Protection Act, która miała zmusić centra danych do płacenia za rozbudowę sieci energetycznej.

W tym tygodniu w ciągu 24 godzin pojawiły się dwie wiadomości o centrach danych dla AI. Wskazują w przeciwne strony. Z jednej strony narzędzia do projektowania akceleratorów są przebudowywane wokół modeli AI. Z drugiej strony system polityczny, który miał zarządzać energią zużywaną przez te akceleratory, właśnie nie uchwalił ustawy.
Zacznijmy od projektowania. Według The Decodera OpenAI i Synopsys podpisały wieloletnie partnerstwo strategiczne. Firmy zbudują wyspecjalizowany model AI do projektowania chipów o nazwie GPT-Synopsys. Synopsys produkuje narzędzia do automatycznego projektowania elektronicznego, czyli oprogramowanie, którego inżynierowie używają do projektowania chipów i półprzewodników. Model łączy technologię AI OpenAI z narzędziami EDA Synopsysa. OpenAI licencjonuje te narzędzia na potrzeby projektu. Zadeklarowany cel to model, który potrafi rozumować o projektowaniu i weryfikacji chipów oraz bezpośrednio obsługiwać narzędzia Synopsysa. Inżynierowie będą przekazywać modelowi cele projektowe, a potem przeglądać i zatwierdzać wynik. Model będzie działał na infrastrukturze OpenAI. Dane klientów nie posłużą do trenowania i będą przechowywane zaszyfrowane, jak podają obie firmy. Wczesne testy z klientami z branży półprzewodników już trwają. Obie firmy będą wspólnie sprzedawać produkt i dzielić się przychodami.
Prezes Synopsysa Sassine Ghazi mówi, że AI może znacznie przyspieszyć proces projektowania. Współzałożyciel OpenAI Greg Brockman widzi w partnerstwie drogę do lepszych chipów i lepszej AI. The Decoder zauważa też, że OpenAI współpracuje już z Broadcomem nad chipami zbudowanymi specjalnie do uruchamiania modeli AI. Dodaje, że niedawno zaprezentowany chip Jalapeno jest bardzo konkurencyjny wobec podobnych wyspecjalizowanych układów.
Dlaczego automatyzacja projektowania nagle stała się wąskim gardłem
Termin nie jest przypadkowy. Blog sponsorowany opublikowany przez Semiconductor Engineering 1 października przekonuje, że projektowanie chipów stało się czynnikiem ograniczającym w wyścigu o budowę większych systemów AI. Tekst szacuje, że ASIC o typowej złożoności wymaga ponad 1 000 miesięcy pracy inżynierów. Śledzi, jak EDA i języki opisu sprzętu, takie jak Verilog wprowadzony w 1986 roku, przeniosły wąskie gardło z rozmieszczania i trasowania w stronę weryfikacji. Ten sam serwis opublikował tego dnia drugi blog sponsorowany o PCIe przez UCIe. Tekst opisuje, jak ruch PCIe 8.0 może przekraczać granice chipletów dzięki UCIe 3.0. Autor ostrzega, że zarządzanie energią i procedury resetu należą do najczęstszych źródeł złożonych błędów integracji. Przekroczenie limitu czasu w warstwie PCIe może wynikać z opóźnionego wyjścia ze stanu niskiego zużycia energii UCIe. Oba teksty są treściami sponsorowanymi odpowiednio przez Siemensa i Imagination, więc ich twierdzenia traktuj jak sąsiadujące z marketingiem. Opisany w nich problem inżynierski jest realny.
Tego samego ranka Semiconductor Engineering opublikował trzeci blog sponsorowany, od Imagination, o metrykach wydajności LLM. Rozdziela Time to First Token, który mierzy etap prefill, od Inter-Token Latency, który mierzy dekodowanie. To rozróżnienie ma znaczenie dla każdego, kto planuje rozmiar flot akceleratorów. Prefill jest ograniczony mocą obliczeniową, a dekodowanie często ogranicza przepustowość pamięci.
Strona polityczna utknęła
Teraz energia. W środę demokraci w Senacie zablokowali Ratepayer Protection Act stosunkiem głosów 57 do 43, według The Guardiana. Do wymaganych 60 głosów potrzebnych do procedowania zabrakło niewiele. Czterech demokratów poparło ustawę razem z republikanami: Maggie Hassan z New Hampshire, Amy Klobuchar z Minnesoty oraz obaj senatorowie z Georgii, Jon Ossoff i Raphael Warnock.
"Amerykanie domagają się prawdziwych rozwiązań, prawdziwych zabezpieczeń, prawdziwych rozwiązań w sprawie AI. Bezzębna ustawa republikanów o centrach danych całkowicie mija się z celem" - powiedział przywódca demokratów w Senacie Chuck Schumer w przemówieniu na sali przed głosowaniem.
Ustawa miała zobowiązać zakłady energetyczne do rozważenia przyjęcia nowych standardów. Centra danych przejmowałyby wtedy koszty niezbędnych modernizacji przesyłu, wytwarzania i dystrybucji. Inaczej te koszty mogą trafić do gospodarstw domowych i firm. Izba Reprezentantów zatwierdziła ustawę wcześniej w tym miesiącu niemal jednogłośnie. Republikanin z Ohio Jon Husted, który był jej orędownikiem w Senacie, mówił, że duże firmy technologiczne powinny płacić za siebie, a nie przerzucać koszty na lokalne społeczności. The Guardian podaje, że głosowanie było jednym z ostatnich, jakie Senat ma odbyć przed wyborami śródokresowymi 3 listopada. Senat ma zakończyć prace w piątek.
Chiny zamykają szeregi
Trzeci wątek tego tygodnia to dostawy. 30 września The Decoder poinformował, że Deepseek udostępnia otwarte narzędzia programistyczne dla chipów Ascend Huawei. Tekst powołuje się na wpis na oficjalnym kanale Deepseeka w WeChat i na Reutersa. Głównym elementem jest TileLang, język opracowany przez badaczy z Uniwersytetu Pekińskiego. Deepseek przekonuje, że oferuje prostszy model programowania niż CUDA Nvidii. Obie firmy zoptymalizowały też superwęzeł, czyli klaster 128 chipów Ascend 950. Kontekstem jest fosa technologiczna Nvidii w oprogramowaniu. The Decoder cytuje szacunki o czterech milionach programistów na świecie, którzy tworzą w CUDA. Cytuje też SemiAnalysis, które przetestowało chip inferencyjny OpenAI Jalapeno i nazwało fosę CUDA potencjalnie martwą. SemiAnalysis zastrzegło, że testowało tylko stosunkowo łatwe scenariusze z około 8 000 tokenów wejściowych i 1 000 tokenów wyjściowych. Nie uruchomiło jeszcze testu AgentX dla wieloetapowych zadań agentowych. SemiAnalysis dodało, że przy obecnym stosie oprogramowania AMD Nvidia i tak wypadałaby taniej za token, nawet gdyby AMD oddawało sprzęt za darmo. Chipy Huawei nie były częścią tego porównania.
Złóżmy to razem: narzędzia projektowe są przebudowywane, chipy są przebudowywane, a rachunek za prąd wciąż nie jest rozwiązany.
Źródła
6- 01OpenAI and Synopsys team up to build an AI model that designs chips like a seasoned engineerEN
- 02Senate Democrats block datacenter energy bill, saying 'toothless' legislation 'misses the mark'EN
- 03China's AI industry closes ranks as Deepseek ships open-source software for Huawei's Ascend chipsEN
- 04Why LLMs Are The Best Thing To Happen To Chip DesignEN
- 05Crossing Chiplet Boundaries With PCIe Over UCIeEN
- 06LLM Performance And Acceleration: Part 1EN
Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.
Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.
Komentarze
0- Brak komentarzy — bądź pierwszy.