Czy własna karta graficzna ma jeszcze sens, gdy w chmurze masz Claude Opus albo GPT za kilkadziesiąt złotych miesięcznie? Po dwóch tygodniach od premiery Qwen3.6 27B odpowiedź zaczyna się robić niewygodna dla dostawców API. Otwarty model w parze z kwantyzacją NVFP4 i obsługą MTP odpala się na pojedynczej karcie RTX 5090 z 32 GB VRAM. Przy krótszych promptach prefill osiąga około 5300 tokenów na sekundę. W pełnym oknie 200 tysięcy tokenów prefill spada do około 2900 tok/s. Generowanie odpowiedzi utrzymuje się w zakresie 63 do 74 tokenów na sekundę. Dla polskich firm i programistów, którzy dotąd wahali się przy decyzji o własnym sprzęcie, to pierwszy moment, w którym liczby same podpowiadają wybór.
Co wnosi Qwen3.6 27B – dense model, który bije 397B
Qwen3.6 27B robi rzecz, której wcześniej nikt nie pokazał w otwartych modelach. Mały model bije większego, i to nie o włos. Wydany 22 kwietnia 2026 na licencji Apache 2.0, osiąga według karty modelu na Hugging Face i bloga zespołu Qwen 77,2 procent na benchmarku SWE-bench Verified. Tymczasem jego poprzednik Qwen3.5-397B-A17B z architekturą MoE i niemal 15-krotnie większą liczbą parametrów zatrzymał się na 76,2 procent.
Cała siła modelu siedzi w 27 miliardach parametrów, które są zawsze aktywne. To jest dense model. Każdy parametr bierze udział w każdym przejściu przez sieć. Architektura MoE działa odwrotnie – aktywuje tylko podzbiór parametrów dla danego zapytania. Można to porównać do dwóch bokserów: ciężki MoE wykorzystuje co prawda mniej mięśni naraz, ale całość waży tonę i potrzebuje większej hali. Lekki dense bije całym ciałem przy każdym ciosie i mieści się w domowej obudowie. Qwen3.6 27B wybrał drugą drogę.
Drugie pole, na którym model wygrywa, to kontekst. Natywne okno 262 tysięcy tokenów rozszerza się do miliona przy odpowiedniej konfiguracji. Z kolei Claude Opus i GPT-5.5 oferują w API kontekst rzędu 1 miliona tokenów. Jednak za każdy tysiąc tokenów na wejściu zapłacisz w abonamencie. Lokalnie kontekst jest gratis, o ile tylko mieści się w VRAM-ie karty.
NVFP4 i MTP – dwa triki, dzięki którym mieści się na 32 GB
NVFP4 to format zmiennoprzecinkowy 4-bitowy zaprojektowany przez NVIDIĘ. Powstał specjalnie dla generacji Blackwell, czyli kart RTX 50xx i akceleratorów datacenter. Pełne wagi Qwen3.6 27B w precyzji bfloat16 ważą około 54 GB. Po kwantyzacji do NVFP4 spadają do mniej więcej 14 GB. Na karcie z 32 GB VRAM zostaje wtedy 18 GB. Tę pamięć zajmuje cache klucz-wartość, w skrócie KV cache. Trzyma reprezentacje tokenów obliczone wcześniej. Dzięki temu marginesowi okno 200 tysięcy tokenów mieści się bez przerzucania danych między VRAM-em a RAM-em.
MTP, czyli multi-token prediction, to drugi mnożnik wydajności. Standardowy model generuje jeden token na raz. Sprawdza kontekst i wybiera kolejne słowo. Modele z głowicami MTP są wytrenowane inaczej. Przy jednym przejściu przewidują 2 do 4 tokenów naraz, a potem weryfikują, czy te przewidywania pasują do standardowego procesu. Jeśli pasują, model akceptuje cały blok i oszczędza kilka cykli. Można to porównać do pisania na klawiaturze ze skutecznym autouzupełnianiem. Zamiast wstukiwać każdą literę, czasem przyjmujesz całe słowo z podpowiedzi i tylko sprawdzasz, czy się zgadza.
Społeczność llama.cpp dodała obsługę MTP w wydaniu beta wczesną wiosną 2026. Z kolei vLLM ma własny tor NVFP4 z MTP od dłuższego czasu. Zysk wydajności przy włączonym MTP sięga 2 do 3 razy bez utraty jakości generowania. To samo ulepszenie wcześniej trafiło do DeepSeeka V3 i R1. Teraz zaczyna działać dla Qwena. Karta modelu na Hugging Face potwierdza obsługę MTP w Qwen3.6 27B i pokazuje rekomendowane konfiguracje serwowania dla vLLM oraz SGLang.
Co zobaczysz na RTX 5090 – liczby z benchmarków
Najpełniejsze publiczne pomiary z maja 2026 zebrał programista ze społeczności LocalLLaMA, który przygotował jednoklikowy instalator Qwen3.6 27B dla Windowsa z natywną wersją vLLM-a. Pełen wątek z benchmarkami pojawił się na r/LocalLLaMA 6 maja 2026. Na karcie RTX 5090 prefill przy krótszych promptach (do 47 tysięcy tokenów) sięga około 5300 tok/s. Z kolei przy pełnym oknie 200 tysięcy tokenów prefill spada do około 2900 tok/s. Generowanie odpowiedzi utrzymuje się w zakresie 63 do 74 tok/s, a w teście stabilności średnia wyszła około 73,6 tok/s. Pojedyncze szczytowe odczyty potrafią dobić do 92 tok/s, jednak w typowej rozmowie powtarzają się rzadko. Starszy RTX 3090 z 24 GB VRAM dał 72 tokeny na sekundę przy krótkich promptach. Przy 90 tysiącach tokenów schodzi do 64,5 tok/s. Jak na sprzęt z 2020 roku to dobry wynik, jednak około 50 procent wolniej niż 5090.
Pobór mocy przy stałej pracy oscyluje między 510 a 540 watów, przy nominalnym TDP karty 575 watów. To więcej niż większość zasilaczy w domowych zestawach do gier liczy w swoim budżecie. Dlatego warto sprawdzić, czy sprzęt poradzi sobie z taką wartością bez ograniczania prądu. W dodatku trzeba zaplanować chłodzenie obudowy, ponieważ karta przez większą część dnia będzie pracować jak grzejnik.
vLLM czy llama.cpp – kiedy wybrać które
Wybór silnika nie jest oczywisty. vLLM wygrywa w trybie wielu zapytań naraz. Przy 64 równoległych konwersacjach przepustowość rośnie 3 do 4 razy w porównaniu z llama.cpp dzięki PagedAttention i obsłudze NVFP4. Czas pierwszego tokenu na promcie 1000 tokenów spada z 413 milisekund w llama.cpp do 106 milisekund w vLLM. Dla aplikacji obsługującej zespół developerów albo agentów AI w n8n to ogromna różnica.
Z drugiej strony domyślne ustawienia vLLM-a oszczędzają pamięć KV cache pod równoległe sesje. Test porównawczy Qwen3.6 27B z dwoma kartami RTX 5060 Ti pokazał, że w takiej konfiguracji vLLM mieści maksymalnie 16 384 tokenów kontekstu na pojedyncze zapytanie. Tymczasem llama.cpp z kompresją TurboQuant (~3 bity na element) na tej samej maszynie obsłużył 65 536 tokenów. W konfiguracji z RTX 5090 32 GB i ręcznym przeskalowaniem KV cache vLLM dochodzi do pełnych 200 tysięcy tokenów dla jednego użytkownika, jednak kosztem niskiej liczby równoległych sesji. Dlatego jeśli pracujesz nad asystentem do dużych baz kodu, dokumentów prawnych albo wielogodzinnych transkryptów, llama.cpp z TurboQuantem da Ci spokój bez strojenia parametrów.
W naszych testach TurboQuant z Qwen3.5-27B na GPU z 16 GB kompromis się opłaca. Prefill na 43 tysiącach tokenów trwał 186 sekund, jednak model wytrzymał, czego vLLM nie potrafił. Z drugiej strony dla zwykłego asystenta kodującego z krótkim promptem najlepsze efekty daje vLLM. To on odpowiada za niskie opóźnienia, których oczekujesz przy każdym Enterze. Wcześniej opisaliśmy podobną decyzję w artykule Luce DFlash z Qwen 3.6 27B na RTX 3090.
Kurs n8n 2.0 · Kodożercy
n8n + AI = automatyzacje, które naprawdę myślą
n8n pozwala podłączyć modele AI do swoich workflow – wysyłać dane do ChatGPT, analizować wyniki, reagować automatycznie. Kurs n8n 2.0 na Kodożercach pokaże Ci jak to połączyć.
Sprawdź jak to działa →
Ile to naprawdę kosztuje – karta vs miesięczny abonament w API
RTX 5090 kosztuje w polskich sklepach w maju 2026 od 15,5 do 17 tysięcy złotych za podstawowe modele od MSI, Gigabyte czy Inno3D. Przy bardziej dopracowanych konstrukcjach typu ASUS ROG Astral OC trzeba liczyć 17 do 18 tysięcy złotych. Dostępność nie jest najlepsza, więc w praktyce decyzja zakupowa to też kwestia czasu. Sklepy x-kom czy Komputronik mają ograniczone partie. Z kolei na Allegro i w sklepach producentów ceny falują w zależności od kursu dolara.
Tymczasem abonament Claude Pro to 20 dolarów miesięcznie (lub 17 dolarów przy płatności rocznej), plan Max startuje od 100 dolarów, a Max 20x kosztuje 200 dolarów miesięcznie. U dewelopera, który intensywnie korzysta z Claude Code, miesięczne rachunki API potrafią dochodzić do 300 lub 500 dolarów. W skali polskiego rynku przy kursie 4 zł za dolara, miesięczny koszt API dla aktywnego dewelopera waha się od 400 do 2000 zł. Dlatego karta zwraca się w 8 do 24 miesięcy aktywnego użycia, zależnie od skali pracy.
Niezależne testy Qwen3.6 27B uruchomiono na klastrze z dwoma kartami RTX 5060 Ti 16 GB (łącznie około 800 dolarów za sprzęt). Koszt amortyzacji wyszedł na poziomie 0,13 dolara za milion tokenów. Koszt krańcowy, czyli sama elektrownia, to 0,01 dolara za milion. GPT-4o w API kosztuje około 10 dolarów za milion tokenów. W rezultacie lokalna instalacja w skali milionów tokenów miesięcznie jest 77 do 192 razy tańsza. Wcześniej rozważaliśmy tę kalkulację w tekście o lokalnych LLM jako alternatywie dla Claude Code.
Czy to ma sens dla polskiego dewelopera albo małej firmy
Lokalna instalacja Qwen3.6 27B na RTX 5090 ma sens w trzech przypadkach. Po pierwsze, praca z danymi klientów, których nie wolno wysyłać do chmury. Dotyczy polskich kancelarii prawnych, biur księgowych, szpitali i firm obsługujących dane osobowe pod RODO. Tu lokalny model to nie wybór kosztowy, tylko obowiązek prawny. Drugi przypadek to długie konteksty. Jeśli regularnie analizujesz dokumenty na 100 tysięcy tokenów lub większe, oszczędność na opłatach za kontekst potrafi pokryć kartę w 4 do 6 miesięcy. Trzeci przypadek to obawa o zmiany cen w API i nagłe odcięcie od modelu. W tej sytuacji własna karta daje kontrolę, ponieważ produkt nie zależy już od polityki dostawcy.
Lokalna instalacja nie ma sensu, jeśli korzystasz z AI okazjonalnie, raz na kilka dni. Karta po prostu nie zdąży się zwrócić, zanim na rynku pojawi się następna generacja. Drugi przypadek bez sensu to brak zaplecza technicznego. Postawienie vLLM, dopilnowanie kwantyzacji NVFP4 i monitorowanie wydajności wymaga komfortu z linią poleceń i podstawową administracją serwera. Trzeci to częsta rotacja modeli. Jeśli co tydzień testujesz nowe wydania, w API zawsze jest kilka kliknięć. Tymczasem lokalnie każda zmiana to godziny pobierania, kwantyzacji i weryfikacji.
Co więcej, w praktyce małe polskie software house’y i agencje zwykle dostają zwrot z karty w 6 do 12 miesięcy. Dotyczy to przede wszystkim firm z powtarzalnymi procesami z LLM, takimi jak generowanie raportów, klasyfikacja dokumentów czy automatyzacja w n8n. Gorzej wychodzi to u zespołów, które ciągle szukają najlepszego modelu i nie ustabilizowały przepływu pracy.
FAQ – najczęstsze pytania o Qwen3.6 27B i RTX 5090
Czy Qwen3.6 27B dorównuje Claude Opus i GPT-5.5 w kodowaniu?
W benchmarkach kodowania z 22 kwietnia 2026 Qwen3.6 27B osiągnął 77,2 procent na SWE-bench Verified (źródło: karta modelu na Hugging Face). Dla porównania ta sama karta modelu cytuje Claude Opus 4.5 z wynikiem około 80,9 procent na tym samym teście. Najmocniejsze modele zamknięte typu GPT-5.5 są zwykle kilka punktów wyżej, choć dokładna wartość zależy od konfiguracji testu i narzędzi. Praktyczna różnica jest jednak mniejsza, niż pokazują liczby. Dla codziennych zadań developera, takich jak refaktoring, generowanie testów czy rozumienie cudzego kodu, Qwen3.6 27B wystarcza i robi to lokalnie, bez opóźnień sieciowych.
Czy NVFP4 wymaga karty z generacji Blackwell (RTX 50xx)?
Pełna wydajność NVFP4 jest dostępna tylko na kartach Blackwell, czyli RTX 5070, 5080, 5090 i Pro 6000. Architektura ma sprzętowe wsparcie dla operacji w precyzji 4-bitowej, którego wcześniejsze generacje nie mają. Na kartach Ampere (RTX 30xx) i Ada (RTX 40xx) NVFP4 zadziała programowo, jednak bez przyspieszenia sprzętowego. W rezultacie traci większość zysku wydajności. Dla tych kart bardziej opłaca się klasyczna kwantyzacja Q4_K_M w llama.cpp z kompresją KV cache typu TurboQuant.
Mogę uruchomić Qwen3.6 27B na RTX 4090 lub RTX 3090?
Tak, działa na obu. Twardo zweryfikowany w wątku LocalLLaMA i instalatorze devnen jest RTX 3090 z 24 GB VRAM. Radzi sobie z prefillem rzędu 1900 tok/s i generowaniem na poziomie 64,5 tok/s przy 90 tysiącach tokenów. Maksymalny kontekst sięga 127 tysięcy tokenów. RTX 4090 z 24 GB VRAM nie ma w tych źródłach pełnych pomiarów. Społeczność zgłasza wartości pośrednie między 5090 a 3090 – orientacyjnie prefill rzędu 2500-2800 tok/s, generowanie 50-60 tok/s przy długim kontekście. Wartości dla 4090 traktuj jako szacunki, nie twardy benchmark. Jeśli pracujesz pod Windowsem z monitorem podpiętym do tej samej karty, na czas pełnego kontekstu trzeba zamknąć przeglądarkę i aplikacje pożerające VRAM.
Podsumowanie
Co zyskasz, jeśli zdecydujesz się na ten zestaw? Prywatny model klasy frontowej i okno 200 tysięcy tokenów na sprzęcie, który zmieści się w obudowie domowego komputera. Dla zespołów z powtarzalnymi przepływami w n8n, polskich firm pracujących z danymi osobowymi i programistów piszących intensywnie z Claude Code lokalna karta zwraca się w 6 do 24 miesięcy. Reszta zależy od skali pracy. Co stracisz? Wygodę chmury – jedno kliknięcie i działasz, zero dyżurów przy pluginach. Dla okazjonalnego użytkownika to wciąż za dużo zachodu. Liczby ze społeczności (do 5300 tok/s prefill przy krótkich promptach, 63-74 tok/s generowania w pełnym oknie 200k) ustawiają punkt odniesienia, do którego można porównywać każdą kolejną premierę modelu i karty. Na koniec maja 2026 to najczystsza propozycja na lokalne AI z otwartymi wagami i sensownym kompromisem ceny.
Newsletter · DevstockAcademy & Kodożercy
Bądź na bieżąco ze światem IT, AI i automatyzacji
Co wtorek: newsy z branży, praktyczne tipy i narzędzia które warto znać. Zero spamu.
