サーバ&テクノロジ

Open WebUIとMarkItDownで実現するローカルLLMのドキュメント解析

昨今、OllamaやPodmanを用いたローカルLLM環境の構築は非常に容易になりました。しかし、PDFやExcelといったリッチドキュメントをAIに読み取らせる際、依然として高いハードルが存在します。多くのLLMはテキストデータの扱 ...

サーバ&テクノロジ

Pythonで作るローカルLLMのマルチエージェント環境

前回、Podmanを使ってRTX 3060に「Qwen3」と「Gemma3」を同時常駐させるクリーンな環境を構築しました。今回はいよいよ、この2つの頭脳を連携させる「マルチエージェント」を実装します。

エージェントを構築す ...

サーバ&テクノロジ

Docker不要。WSL2とPodmanで作る軽量ローカルLLM環境構築

現在、複数のAIを連携させる「マルチエージェント」の構築を試みています。
その際、すべての処理をSaaS(ChatGPTやGeminiなど)に任せるのではなく、手元のローカルLLMと組み合わせたハイブリッド構成にしようと考えま ...