会話メモリを実装したのに、同じスレッドで「この市」が通じなかった ― クロスセッション記憶とライブ文脈は別物だった話
家庭内AIクラスタに会話メモリを載せて「…
MapleHarp AI Labs
家庭内AIクラスタとローカルLLMの研究室
MapleHarp AI Labs
家庭内AIクラスタとローカルLLMの研究室
Hiro
AIは会話を覚えていた。でも“どの会話か”は記録していなかった ― thread_id が producer まで届かず、スレッド記憶の通り道が静かに死んでいた話と、ライブ給餌での解決
家庭内クラスタで動かしている自作の分散A…
AIに会話の記憶を思い出させたら、その思い出を“また記憶”するループ寸前だった ― 会話メモリ consumer と、原文／注入版を分けてPGを汚さない設計
前回、家庭内AIクラスタに「会話を覚える…
会話を覚えるAIに『何を覚えないか』を先に教えた ― 抽出モデル6本の計測バトルと、few-shotが弱いモデルを壊した話
家庭内の分散AI推論基盤に、ついに「会話…
Web検索WorkerをVMからM1へ移したら、拍子抜けするほど何もなかった ― env駆動設計と「先客が道を通しておいてくれた」話
家庭内の分散AI推論基盤「Coordinator」を…
ハイブリッド検索を作ったら、1行のdenylistに負けた ― RAG検索品質と「計測してから信じる」
家庭内に組んだ分散LLM推論基盤「Coordina…
RAGの検索精度をチャンク分割で直したら、今度は回答合成が遅くなった ― 意味チャンキングとmoonオフロードの一部始終
家庭内の分散AI推論基盤「Coordinator」に…
|SSDが壊れたので換装したら、ルーティングの設計ミスが見つかった ― ハード故障対応から動的ティアフォールバックへ
家庭内の分散AI推論クラスタ「Coordinator…
ベンチが異常に遅い、でもloadは0.00 ― systemd旧unit残存による二重Workerと、killしても蘇るプロセスの正体
ホームラボ分散AI推論基盤「Coordinator」…
OpenWebUIの隠れ内部タスクが自作ルーティング基盤を誤爆させた ― 「検索結果なし」の真犯人とWeb検索フォールバック実装
家庭内の複数マシンでLLM推論を分散処理す…