皆さん、こんにちは。
このコミュニティの皆さんがAIエージェントを使って何を構築しているのか、とても興味があります。
エージェントに取り組んでいる方、ぜひ教えてください：
どのような問題を解決しますか？
どのモデルを使用していますか？
どのフレームワークやSDKを選びましたか（LangGraph、CrewAI、OpenAI Agents SDK、AutoGenなど）？
MCP、RAG、メモリ、ブラウザ自動化を使用していますか？
直面した最大の課題は何ですか？
他の人と共有したい教訓やベストプラクティスはありますか？
あなたのプロジェクトが個人の実験、オープンソースツール、本番システムのいずれであっても、アーキテクチャ、スクリーンショット、デモ、GitHubリンクを自由に共有してください。
皆さんの経験から学び、興味深いAIエージェントプロジェクトを発見するのを楽しみにしています！
私はこの1年間、インフラストラクチャ側に完全に集中してきました。そこで、私たちが構築しているものの内部をご紹介します。
どのような問題を解決するのか？私たちは、推論フレームワークが現在素晴らしいものになっていることに気づきましたが、それらはすべて本番環境でまったく同じ壁にぶつかっています。エージェントに深いコンテキストが欠けているのです。エージェントがSlackスレッド、Jiraチケット、SharePoint契約にまたがるクエリに答える必要がある場合、標準的なRAGは無関係なテキストチャンクをプロンプトにダンプするだけで、エージェントは幻覚を起こします。私たちは、このエンタープライズデータのボトルネックを修正するために、PipesHubというオープンソースのコンテキストレイヤーを構築しています。
どのモデル？バックエンドではモデルに依存しませんが、実際のオーケストレーションループにはClaude 3.5 SonnetとGPT-4oを使用して最良の推論結果を得ています。
フレームワーク/SDK？私たちのアーキテクチャはオーケストレーションレイヤーの下に位置しています。そのため、開発者がLangGraph、CrewAI、または新しいOpenAI Agents SDKを使用しているかどうかに関わらず、PipesHubは統一されたメモリと検索エンジンとして機能し、適切なコンテキストをそれらのフレームワークに供給します。
MCP、RAG、メモリ？私たちはそれらすべてを使用しますが、RAGの扱いは少し異なります。イベントストリーミングセットアップ（Kafka）を使用して、エンタープライズデータを継続的に取り込みます。ベクターDBにダンプする代わりに、データをベクターDBとナレッジグラフの両方にルーティングします。MCPを標準プロトコルとして使用し、その統一メモリをエージェントにパイプします。これにより、エージェントはデータの取得方法を動的に選択できます。グラフを使用してハードな関係/系統を取得し、ベクターDBを使用して広範なコンテキストを取得します。
最大の課題？「コンテキストの腐敗」と権限の忠実性です。エージェントが、数十の異なるエンタープライズサイロにわたって、特定のエンドユーザーが実際に表示権限を持つデータのみを取得し、それに基づいて行動することを保証するのは非常に困難です。
共有すべきベストプラクティス？チャンク化されたドキュメントを盲目的にプロンプトにダンプするのをやめましょう。エージェントが生のテキストを読もうとする前に、まずグラフにクエリを実行してエンティティ間の関係を理解する、エージェント駆動型の検索に移行しましょう。トークンコストが下がり、幻覚は実質的に消えます。
A株ファイナンシャル分析エージェントを構築中。3年分の財務報告書をインデックス化し、業種・地域別のクロスカンパニー比較と財務注記の構造化解析を実施。最大の課題は注記解析で、企業ごとにフォーマットが異なり、同じ会計項目が書類によって異なる名称で呼ばれている。モデルに一貫した抽出をさせるのに苦労している。この方向性が追求する価値があるかどうか、皆さんの意見を聞きたい。
長い研究論文を要約するためのローカルエージェントで遊んでいます。今のところ、フレームワークは問題が起きたときにデバッグが難しいので、純粋なPythonスクリプトに固執しています。メモリレイヤーをシンプルに保つことがこれまでの最大の課題です。