GLM 5.2 lokalnie – czy postawisz chiński model u siebie?

Na biurku typowego polskiego programisty stoi laptop z 16 gigabajtami pamięci. Tymczasem chińskie Z.ai udostępniło GLM-5.2, model liczący 744 miliardy parametrów, który część społeczności przedstawia jako otwartą alternatywę dla Claude Fable 5 po amerykańskiej dyrektywie z 12 czerwca. Zespół Unsloth opublikował szczegółowy przewodnik uruchomienia modelu, a materiał szybko trafił na czołówkę Hacker News. GLM-5.2 uruchamiany lokalnie stał się symbolem niezależności od amerykańskiej chmury, ale po odjęciu entuzjazmu zostają bardzo konkretne wymagania dotyczące pamięci, sprzętu i energii. Sprawdzamy więc, co naprawdę udostępniło Z.ai, ile kosztuje uruchomienie GLM-5.2 na własnej infrastrukturze i kto rzeczywiście może zrobić to już dziś.

Co Z.ai i Unsloth pokazali w GLM-5.2

Nowy model ma 744 miliardy parametrów całkowitych w architekturze Mixture of Experts, z czego przy każdym wywołaniu pracuje tylko 40 miliardów. Co więcej, kontekst sięga miliona tokenów, czyli mieści całą książkę albo średniej wielkości repozytorium kodu. Z.ai dorzuciło ponadto trzy tryby rozumowania: standardowy, “High” oraz “Max”, co odpowiada różnym poziomom głębokości analizy przy planowaniu zadań agentowych. Repozytorium zai-org/GLM-5.2 na Hugging Face ma już ponad 33 tysiące pobrań pełnej wersji oraz 335 tysięcy wariantu FP8, czyli ośmiobitowego.

Najważniejsze jest to, co dorzucił Unsloth – zestaw bardzo agresywnych kwantyzacji, które pozwalają zmieścić model w znacznie mniejszej pamięci. Kwantyzacja to inaczej kompresja parametrów modelu: zamiast trzymać każdą liczbę w pełnej precyzji szesnastobitowej, zaokrąglamy ją do mniejszej liczby bitów. Pełna wersja GLM-5.2 lokalnie miałaby ponad 1,5 terabajta wagi, ale kwantyzacja Unsloth schodzi do około 240 gigabajtów. Cena za tę kompresję to lekka utrata trafności, ale w większości zadań różnica jest niewielka. Sam zespół twierdzi w dokumentacji, że “dynamiczna kwantyzacja dwubitowa osiąga około 82 procent dokładności pierwszej odpowiedzi przy 84 procent mniejszym rozmiarze”.

Ile sprzętu naprawdę potrzeba na GLM-5.2 lokalnie

Tu zaczyna się rozdźwięk między dokumentacją a rzeczywistością polskiego dewa. Unsloth opisuje konkretne progi pamięci w zależności od wybranej kwantyzacji.

Wariant dwubitowy jest tym, który Unsloth poleca jako sensowny kompromis. Mieści się w Macu Studio z 256 gigabajtami zunifikowanej pamięci. Alternatywą jest stacja robocza z jedną kartą graficzną o 24 GB VRAM i 256 GB pamięci systemowej, gdy włączymy przerzucanie ekspertów MoE do RAM. To nie jest sprzęt biurowy. To stacja warta dziś od kilkunastu do kilkudziesięciu tysięcy złotych w zależności od konfiguracji.

W dyskusji na Hacker News jeden z użytkowników, segmondy, opisał swoją instalację: 512 GB DDR4, dwie karty RTX 3090 i 32-rdzeniowy procesor EPYC. Na tym sprzęcie generuje sześć tokenów na sekundę przy czterobitowej kwantyzacji z offloadingiem do RAM. Sprzęt kupił kilka lat temu za około 2,4 tysiąca dolarów, ale dziś podobna konfiguracja kosztuje już blisko dziesięć tysięcy. Z kolei inny komentujący, xrd, próbował z 192 GB RAM i tą samą kartą RTX 3090. Musiał jednak odpuścić, ponieważ brakowało mu jeszcze kilkudziesięciu gigabajtów pamięci.

Trzy realne ścieżki dla polskiego dewa

W praktyce każdy, kto chce skorzystać z GLM-5.2 lokalnie albo przez chmurę chińską, wybiera dziś jedną z trzech ścieżek.

Pierwsza to API Z.ai. Jest to najtańszy i najszybszy wariant, ponieważ działa w sekundę po założeniu konta i dorzuceniu klucza do projektu. Aktualny cennik GLM-5.2 to 1,4 dolara za milion tokenów wejścia i 4,4 dolara za milion tokenów wyjścia, czyli wyraźnie mniej niż Claude czy GPT na podobnej półce jakości. Minus jest jednak oczywisty: dane wychodzą do chińskiej chmury, co dla części projektów jest natychmiastowym wetem prawnika.

Druga to “lokalny plan B” w sensie skromniejszym – mniejsze modele otwarte przez Ollamę albo LM Studio. Gemma 4 w wariancie 4-9 miliardów parametrów, Qwen3-Coder-30B albo GPT-OSS od OpenAI spokojnie chodzą na MacBooku M2 z 32-64 gigabajtami pamięci. Pisaliśmy o tym scenariuszu w artykule o lokalnych modelach AI w praktyce Vicki Boykis. To wciąż nie jest jakość Claude Fable 5, ale do refaktoryzacji, lintowania, korekty tekstu i szybkich pytań do dokumentacji wystarcza.

Trzecia to dedykowana stacja albo serwer w biurze, na którym faktycznie żyje GLM-5.2 w czterobitowej kwantyzacji. To sensowna opcja dla zespołów rozwijających własny produkt agentowy. Koszty tokenów w chmurze rosną tam z każdym miesiącem, a polityka prywatności klienta często zabrania wysyłania kodu do USA czy Chin. Dla samotnego dewa to inwestycja, która zwraca się dopiero przy bardzo wysokim zużyciu.

Pierwsza Misja AI · Kodożercy

AI bez technikaliów – kurs i certyfikat

Pierwsza Misja AI to kurs Kodożerców dla absolutnych początkujących. Sci-fi fabuła, gamifikacja, prawdziwy GPT-4 w ćwiczeniach, certyfikat na koniec.

Zacznij Pierwszą Misję →

Gdzie GLM-5.2 wypada wobec Claude Fable

Unsloth twierdzi w dokumentacji, że model jest porównywalny z Claude Opus 4.8, GPT-5.5 i Gemini 3.1 Pro w benchmarkach agregowanych przez Artificial Analysis. Brzmi nieźle, ale warto czytać to z zastrzeżeniem. Po pierwsze, pełna jakość modelu wymaga większej kwantyzacji niż dwubitowa, którą da się zmieścić na rozsądnym sprzęcie. Po drugie, llama.cpp jako główny runner nadal nie wspiera w pełni mechanizmu DSA sparse attention, czyli rzadkiej uwagi używanej natywnie w GLM-5.2. Mówiąc po polsku: lokalna wersja działa, ale na uproszczonych mechanizmach uwagi, przez co odpowiedzi bywają mniej trafne niż w chmurze.

Najbardziej rzeczowy komentarz w dyskusji na Hacker News był krótki. Dwadzieścia miesięcy abonamentu Claude Max 200 kosztuje cztery tysiące dolarów, a Anthropic ma spokój dopóki lokalny model nie chodzi na MacBooku z jakością modelu do kodu. To dobre podsumowanie. GLM-5.2 lokalnie nie wygrywa dziś z subskrypcją cenowo, jeśli nie wliczasz w rachunek ryzyka, że ta subskrypcja może zniknąć z dnia na dzień. A po dyrektywie z 12 czerwca, która globalnie wyłączyła Fable 5 i Mythos 5, to ryzyko przestało być abstrakcją.

Co to znaczy dla architektury pipeline na drugą połowę roku

Premiera GLM-5.2 nie zmienia codziennej pracy większości deweloperów z dnia na dzień. Zmienia natomiast sposób, w jaki warto myśleć o architekturze pipeline’u na najbliższe kilka kwartałów. Pierwsza zmiana: nie zakładaj, że konkretny model w chmurze będzie dostępny jutro. Dlatego architektura ma przewidywać zamianę dostawcy w ciągu jednego dnia, nie kwartału. Po drugie, lokalny model przestał być fajerwerkiem hobbystów i w rezultacie wszedł do realnych rozmów o ciągłości działania. Po trzecie, europejska dyskusja o suwerenności cyfrowej zyskała konkretne narzędzie – mamy dziś otwarty model porównywalny benchmarkowo z czołówką, którego nikt nie może wyłączyć dekretem.

Trzy miesiące temu pisaliśmy o poprzedniej generacji w artykule o GLM 5.1 i agentach long-horizon. Wtedy realnym scenariuszem była gra przez API Z.ai. Dziś temat GLM-5.2 lokalnie wraca w poważniejszej postaci, choć dla większości czytelników bloga nadal w wariancie “obserwuję i testuję na Gemma 4, czekam aż sprzęt podejdzie pod GLM”.

Podsumowanie

GLM-5.2 uruchamiany lokalnie nie jest dziś rozwiązaniem dla typowego polskiego programisty ani większości małych firm. Pokazuje jednak, jak szybko rynek przesuwa się w stronę otwartych alternatyw dla modeli dostępnych wyłącznie w amerykańskiej chmurze. Najrozsądniejszym krokiem nie jest więc pobieranie 240-gigabajtowego modelu z Hugging Face, lecz sprawdzenie, czy cały firmowy system nie zależy od jednego dostawcy. Gdy produkt korzysta wyłącznie z jednego modelu i jednej chmury, każda awaria, zmiana regulacji lub warunków dostępu staje się poważnym problemem. Rozwiązaniem może być architektura hybrydowa z lokalnym modelem zapasowym, nawet znacznie mniejszym, takim jak Gemma 4 czy Qwen3-Coder. Na sprzęt potrzebny do wygodnego uruchamiania GLM-5.2 większość polskich firm będzie musiała jeszcze poczekać, ale sama obecność takiego modelu zmienia sposób myślenia o niezależności, kosztach i bezpieczeństwie produktów opartych na AI.

Mateusz Wojdalski

Specjalista SEO i content marketingu w Devstock. Zajmuję się strategią treści, automatyzacją procesów marketingowych i wdrożeniami AI w codziennej pracy. Badam nowe narzędzia, adaptuję je do realnych zadań i piszę o tym, co faktycznie działa.