Llamacpp
-
ローカルLLM 週次Ollama 0.35の判断モデルはMacで動く?Tev1 797MBの使い方と落とし穴5つ
Ollama 0.35の判断モデルを整理。Tev1 0.8Bは797MBで振り分け、Clefは画像も判定。issue自動ラベルの組み方、費用の分かれ目、llama.cpp対応と落とし穴5つ。
-
ローカルLLM 週次Qwen3.8-Flash-NextをV100×2で毎秒88トークン、vLLM 0.30.0の確認点
V100を2枚使い、Qwen3.8-Flash-Nextを256Kで毎秒約88トークンで動かした自己計測の中身と、vLLM 0.30.0で消えた設定、上げる前の確認手順をまとめます。
-
ローカルLLM 週次MacでLagunaが動く: Ollama・llama.cpp・vLLM同時更新の要点と落とし穴5つ
2026年7月24〜30日のローカルLLM動向まとめ。OllamaのMac向けLaguna対応、llama.cppの投機的デコード、vLLM v0.26.0の要点と、更新時に踏みやすい落とし穴5つを整理します。