Transformer od środka, wyjaśniony na moich flagach llama.cpp
Tokeny, uwaga, KV cache, eksperci MoE, sampling i spekulacja — każdy mechanizm na prawdziwej fladze i prawdziwym pomiarze z karty 10 GB.
Czytaj dalejTokeny, uwaga, KV cache, eksperci MoE, sampling i spekulacja — każdy mechanizm na prawdziwej fladze i prawdziwym pomiarze z karty 10 GB.
Czytaj dalejArystotelesowski złoty środek w praktyce: model, który zmyślał wyniki, strażnik oddający komendy człowiekowi i błąd w danych, który uczył model milczenia.
Czytaj dalejFork Gadgetbridge, rozpracowany protokół DvLite — akcelerometr i tętno z opaski Huawei Band 9 płyną do Sleep as Android. Tarcza wyciągnięta z logu Bluetooth, wgrana przez Gadgetbridge.
Czytaj dalejQwen 35B (MoE) trzyma ekspertów w RAM, a domyślny cache promptów llama.cpp wypychał wagi z pamięci — model spadał do 2–5 tok/s. Poprawka: --cache-ram 2048, MemoryHigh/MemoryMax w systemd, MemoryLow na całej ścieżce cgroup.
Czytaj dalejModel generujący komendy systemowe tracił fragmenty argumentów. Przyczyna? Sampler DRY — mechanizm zmniejszający powtarzalność tekstu — nieintuicyjnie karze sekwencje, które w przypadku argumentów CLI są niezbędne.
Czytaj dalejNoc testów AFK: Qwen3.5-9B zaliczył 78% zadań, Qwen3.6-35B-A3B 97%. 9B podawał wyniki komend, których nie uruchomił — zero wywołań narzędzi.
Czytaj dalejWtyczka danger-guard blokuje groźne i wychodzące komendy modelu. Test: 105 przypadków OK; w historii 18 922 komend zablokowało 2, obie słusznie.
Czytaj dalejOkienkowy program do kalibracji głośników 7.1 z kamerką PS3 Eye jako mikrofonem pomiarowym — 26 testów, limitery z pomiaru zniekształceń, program sam znalazł błąd ustawienia.
Czytaj dalejNarzędzie do zapisu EFuse karty RTL8188EUS — publicznie na GitHubie. Test przed zapisem do OTP złapał błąd, który zniszczyłby kartę.
Czytaj dalejRozpracowałem protokół ISP klawiatury Aula F2090 i zrzuciłem cały firmware — 30 stron, 0 błędów odczytu. Kopia zanim spróbuję wgrać własny firmware.
Czytaj dalejKarta USB Wi-Fi z układem AR9271, uchodząca za martwą, działa jako punkt dostępowy wlan_ap na kanale 6 z WPA3-SAE — 31 Mb/s na balkonie. Zapas: RTL8188EUS.
Czytaj dalejPięć wersji Bielik-mateusz, audyt zbioru DPO (84 unikalne pytania na 3461 par) i cnoty v2, które model ma okazywać, a nie nazywać.
Czytaj dalejOpencode zablokowany na lokalne modele — llama.cpp, bez chmury i abonamentu. bootstrap.sh instaluje wszystko jedną komendą, wtyczki łapią błędy małych modeli, trening bez nadzoru weryfikuje automatycznie.
Czytaj dalej