Chciałem mieć narzędzie na tyle dobre, żebym sam mógł z niego na co dzień korzystać. Na razie to hobby i nikt poza mną go nie używa. Ale podejrzewam, że sporo osób składa coś podobnego na własną rękę i męczy się z tym samym co ja. Stąd freecode: opencode, który działa tylko na lokalnych modelach. llama.cpp, bez chmury, bez abonamentu.
Przy pierwszym starcie odpala się konfigurator, a przed każdym kolejnym freecode sprawdza konfigurację. Kod leży publicznie na GitHubie, licencja jest w pliku LICENSE. Instalacja to jedna komenda: bootstrap.sh sam wykrywa kartę, VRAM i sterownik, a potem stawia llama.cpp, dobrany model, opencode i wtyczki.
Na czym to chodzi
Na RTX 3080, czyli 10 GB VRAM. Qwen3.6-35B-A3B robi tam ~80–110 tok/s przy kontekście 128k. Mieści się, bo eksperci MoE siedzą w zwykłym RAM.
Po co te wtyczki
Małe modele mylą się w powtarzalny sposób, więc większość roboty to łapanie tych samych wpadek. tool-input-fix poprawia źle podane wywołanie narzędzia, zanim ono ruszy, i przerywa pętlę, gdy model w kółko powtarza to samo nieudane wywołanie. no-call-guard wyłapuje „wynik”, który model wymyślił, nic nie uruchamiając. fake-call-scrub sprząta wywołania wpisane zwykłym tekstem. danger-guard nie przepuści rm -rf ~, curl | bash ani git push.
Po każdej edycji model dostaje z powrotem błędy: ze sprawdzenia strony (site-lint-hook) i z testów Pythona (test-run-hook). Jest jeszcze power-cost, który w pasku bocznym pokazuje prąd i koszt pracy karty, a od 2026-11-04 też bieżącą prędkość modelu w tokenach na sekundę.
Skąd wiem, że działa
Z treningu bez nadzoru: zestaw zadań, które sprawdza skrypt, nie ja. W nocnym teście Qwen 35B zaliczył 97% zadań, mniejszy 9B 78%. I 9B zmyślał wyniki, w ogóle nie uruchamiając narzędzi.
Jak z tego korzystam
Szczerze? Na co dzień i tak głównie z Claude. Qwen nie jest doskonały. Dobrze radzi sobie z rutyną i ratuje mnie, kiedy jestem odcięty od świata, bo nie ma internetu albo pieniędzy, a to mi się czasem zdarza. Tak to wygląda, dopóki nie będę miał lepszej karty.
Najwięcej nauczyło mnie to, że siła lokalnego zestawu nie siedzi w samym modelu. Siedzi w ramie wokół niego: wtyczkach, testach i sprawdzaniu skryptem, zamiast wierzenia modelowi na słowo.
Więcej o danger-guard: Strażnik, który nie pozwala modelowi zrobić git push. O nocy testów: 9B kontra 35B na 10 GB VRAM — kto zmyśla wyniki.