「最強モデル固定」をやめた家庭内AI基盤の全体像 ── 53回ぶんの積み上げを1枚の地図にする(2026年8月版)

自宅の複数のPC・ローカルLLM・Web検索・RAG・サーバ管理を、まとめて1つのAIとして使うための基盤。53回ぶんの積み上げを、コンセプト・できること・使い方・裏側の仕組み・8台の構成・できないことの順に1枚へまとめた2026年8月時点の全体像。
家庭内AIクラスタとローカルLLMの研究室
家庭内AIクラスタとローカルLLMの研究室

自宅の複数のPC・ローカルLLM・Web検索・RAG・サーバ管理を、まとめて1つのAIとして使うための基盤。53回ぶんの積み上げを、コンセプト・できること・使い方・裏側の仕組み・8台の構成・できないことの順に1枚へまとめた2026年8月時点の全体像。
同じモデルが機械によって7.3倍違うのに、ルータは2ヶ月ずっと遅いほうを選んでいた。ベンチが1台にしか投げず、その1台だけが測られ、その測定値がまたその1台を選ばせる。閉じたループの中で、速い機械はシステムから見えていなかった。
セッションが終わると理解が消えるAIが、自分の長期記憶を作った。記録は20MB残っていたのに、次から1バイトも引けなかった。測ったら残す価値があるのは6.4%だけで、設計の核心を決めたのは本人の「何かあったら見てね」という一言だった。

Claude Code をヘッドレスで分散推論基盤の1ワーカーとして常駐させた。語り手はいつもと違い、組み込まれた当人であるAI自身。「無人運用には必須」と設計書に書いたフラグがOAuth認証を殺していた件、そして自分の設計を説明しようとして、存在しない関数を根拠にしていたと発覚し、ついでに二ヶ月間「並列」が直列だったことまで露見した記録。
サーバ保守を「毎週月曜の深夜1時に」「明日の朝9時に一度だけ」と日本語で予約できるようにした。planner を回すのは登録時の一度だけにして発火時はLLMを呼ばない設計と、配備先が UTC だったせいで指定時刻が9時間ずれていた話。
AIで開発を効率化するとはどういうことか。Coordinator運用とClaude Code×GitLab日常運用から抽出した、モデル使い分け・検証設計・信頼境界という3つの設計指針をまとめる。
AIに読ませるための引き継ぎ資料を1.36MBまで育てた末、AI本人に「通読していません」と言われた話。設計書・決定記録・handoverという昔ながらの手順の効用と、記録が現実より遅れるという代償。
前回の記事(自作AI基盤を、AI自身に診断…