家庭内AIクラスタ 分散LLM推論基盤 全記事まとめ
この記事では、家庭内の余っているPCを使…
MapleHarp AI Labs
家庭内AIクラスタとローカルLLMの研究室
MapleHarp AI Labs
家庭内AIクラスタとローカルLLMの研究室
速度しか見ていなかったルーターに、回答の良し悪しを教えた ― LLM-as-judge と品質スコア
この記事では、ローカルLLMの回答をgemma3…
家庭内AIクラスタに『使う時だけ起こして、終わったら寝る』を実装した ― Wake-on-LAN 指名起動と Idle Shutdown
この記事では、使うときだけWake-on-LANで…
家庭内AIクラスタに自己修復機能を入れた ― Dead Worker Retry と per-worker キュー設計
この記事では、Worker死亡・ゾンビタスク…
Web検索Workerを常駐化し、「最新情報が必要な質問」を自動でWeb検索に回す
この記事では、Web検索WorkerをsystemdでA…
ローカルLLMにWeb検索を追加する — SearXNG + Workerで自前RAG前夜を実現
この記事では、SearXNGをDockerでローカル…
GPUタスクはGPU Workerへ — Redisキュー分離とcapability routingで能力ベースのLLM振り分けを実装する
この記事では、RedisキューをGPU用・CPU用…
OpenWebUIからローカルLLMクラスタをつなぐ — Pipe FunctionとWorker実負荷ルーティングの実装
この記事では、OpenWebUIのPipe Function…
WSL2のOllamaをLAN公開する — 固定IP・systemd・nvidia-smiのハマりどころ全部まとめ
この記事では、WSL2上のOllamaをLAN内の他…
1BモデルでLLMの問いをcode/math/japaneseに分類する — 軽量ドメイン判定の実装
この記事では、1BパラメータのLFM2.5モデ…