木曜: ローカルLLM 週次
手元で動かせるオープンウェイトのモデルとランタイム。実機の実測つき。
-
ローカルLLM 週次DeepSeek V4.1 FlashはMacで動く?MLX版343GBとBonsai 2の2.56GBを整理
DeepSeek-V4.1-Flash-1017は普通のMacでは動かず、MLX版でも343〜432GBです。ノートで試せるBonsai 2、Apple公表のMac Studio実測とあわせて、動く環境を整理します。
-
ローカルLLM 週次Qwen3.8-27Bが7.89GBに縮んだSalukiと、Ollama 0.40.2の文脈長の落とし穴
Qwen3.8-27Bを7.89GBに縮めたSalukiの強みと弱み、Ollama 0.40.2の文脈長がクラウド限定だった点、ローカルでの揃え方をまとめます。
-
ローカルLLM 週次Ollama 0.35の判断モデルはMacで動く?Tev1 797MBの使い方と落とし穴5つ
Ollama 0.35の判断モデルを整理。Tev1 0.8Bは797MBで振り分け、Clefは画像も判定。issue自動ラベルの組み方、費用の分かれ目、llama.cpp対応と落とし穴5つ。
-
ローカルLLM 週次Qwen3.8-Flash-NextをV100×2で毎秒88トークン、vLLM 0.30.0の確認点
V100を2枚使い、Qwen3.8-Flash-Nextを256Kで毎秒約88トークンで動かした自己計測の中身と、vLLM 0.30.0で消えた設定、上げる前の確認手順をまとめます。
-
ローカルLLM 週次Edge0-35BはMacで動く?ピーク2.9GiBの仕組みとOllama 0.34の注意点
Edge0-35BがMac miniでピーク約2.9GiBで動く仕組み、Ollama 0.34.1と0.34.2の変更点、DeepSeek-V4.1-Flashの非対称activeを、実測の有無で整理します。
-
ローカルLLM 週次Qwen3.8-Flash-Next量子化版は最小72.5GB、同じ重みで出力も5割変わる
Qwen3.8-Flash-Nextの量子化GGUFは最小72.5GB。GLM-5.3-Flashは93.1GB。推論の実装が変わると同じ重みでも出力が最大5割変わる検証もあわせて紹介します。
-
ローカルLLM 週次Qwen3.8-27BはMacで動くのか。17.7GBで動く条件と思考モードの効果を整理
Qwen3.8-27Bを実機で検証。Q4_K_Mで17.7GBに収まる条件、思考モードによる精度変化、Ollama 0.32.15の高速化、dense対MoEの速度差をまとめました。
-
ローカルLLM 週次MacでLagunaが動く: Ollama・llama.cpp・vLLM同時更新の要点と落とし穴5つ
2026年7月24〜30日のローカルLLM動向まとめ。OllamaのMac向けLaguna対応、llama.cppの投機的デコード、vLLM v0.26.0の要点と、更新時に踏みやすい落とし穴5つを整理します。