HuaRenCa
Back to Forum
Community

チャットインターフェースだけでなく、長時間稼働するバックグラウンドプロセスとしてAIエージェントを実行している人はいますか?

sanqi
sanqi

2 months ago

私が見るほとんどのエージェントフレームワークは、チャットパラダイム(ユーザーがメッセージを送信し、エージェントが応答する)を中心に設計されています。しかし、私はバックグラウンドで自律的に実行されるエージェントにもっと興味があります:

システムを監視し、何か異常があれば警告する

人間のプロンプトなしでタスクのキューを処理する

スケジュールに従って実行する(日次サマリー、定期的なチェック、メンテナンスタスク)

イベントを監視し、それに反応する

課題はチャットとは異なります。誰も見ていないときにエージェントのエラーをどのように処理しますか?無期限に実行されるものにリソース制限をどのように設定しますか?バックグラウンドエージェントが何をしているかを、ノイズに溺れることなく可視化するにはどうすればよいですか?午前3時にAPIクレジットを消費している暴走エージェントをどのように停止しますか?

これを本番環境で行っている人はいますか?自律的/スケジュールされたエージェントワークロードのアーキテクチャはどのようなものですか?

4
19

Comments (4)

Your avatar
Sign in to comment
Emma Tcherkezian
Emma Tcherkezian2 months ago

エージェントは主にメモリ制約のために脆弱です

あなたが求めていることは、現在ウォッチャーアプリの方が優れているため行われていません。K-I-S-Sが本当に最良の基準です

あなたのポイントについて:

監視とアラートは0エージェントでローカルに行えます

処理キューは引き継ぎが必要です。現在、Fizzyボードをセルフホストしており、MCPをGrok-cliとKiro-cliに接続しています。Webフックは、1つのエージェントがタスクを完了したときにグループに通知します。これにより、プロジェクトで何が起こっているかの視覚的なマップも得られます

日次サマリーは十分に可能であり、人気のあるハーネス(OpenClaw、Hermesなど)のいずれかで実行できます

イベントの監視はRSSを使用して行うか、本当にエージェント的にしたい場合は、イベントタイプのスクレイパーを作成し、最良の結果が得られると思われるサイト(コンサート=Stubhub)にポイントするだけです。これもエージェントハーネスで処理できます

この情報がお役に立てば幸いです。すべての最善を祈ります

mgchaotian
mgchaotian2 months ago

技術的には、LLMが登場するずっと前から、受信文書の自動OCRや検索用のインデックス作成などはAIでしたが、おそらくあなたが言及しているのはそういうことではないでしょう。

LLMは本質的に確率的であるため、意味のあるユースケースは、非構造化データを入力として受け取り、そのマッピングを一貫した方法で実行する方法がない場合に、非構造化または半構造化出力を生成するものです。

新しい記事がオンラインに現れたら、要約して既存のデータポイントにマッピングし、トピックの情報グラフを構築します。普段読まないような多数のRSSフィードのニュースをAIで要約し、ブリーフィングをメールで送信します。自由回答式の調査質問への新しい回答を要約し、ダッシュボードを更新して意見の移動平均を取得します。GitHubリポジトリを監視し、一般的なミスやコードの改善点をチェックしてPRを送信します。異常な動作を分析し、ヒューマン・イン・ザ・ループの回答者に要約を送信します。これらはすべて、私が運用しているか、仕事の一部として扱っているシステムに存在し、明示的な入力トリガー、生成するものの制限、および単一パイプラインで生成できるトークン数の上限を持つことで機能しています。コストは、トリガーが発生する回数に、各トリガーが取り込みおよび生成できるトークン数を掛けることで決定でき、それがコストの上限となります。

入力サイズが不定であったり、トリガーがより多く発生する可能性があるものについては、ソースにガードレールを設置する必要があります。エージェントだけでエンドポイントを完全に解決できると信頼してはいけません。LLMに直接Lokiログを読ませるのではなく、PrometheusやKumaから報告される問題の離散的な増加に気づいた場合のみ作動させるようにします。安価なモデル(SonnetやHaikuなど)に渡して分類させます。十分な閾値を超えた場合、より賢いAIに渡して要約させます。現在のモデルは、ヒューマン・イン・ザ・ループなしで自動デバッグを行うには十分ではないと思いますが、それはユーザーの暴走プロセスに対するリスク許容度次第でしょう。AIの上流に使用制限をストップ手段として設定することは常に可能です。

エージェントオーケストレーションは、エージェントが価値を持ち、大規模に運用される場合、成長する分野になるでしょう。私は個人的に使用したことはありませんが、さまざまなラボでそれを採用して実践している人々の話を聞きました。ただし、これらの場合、彼らはお金を消費することを気にせず、結果を見つけることを重視しています。

zdandan
zdandan2 months ago

バックグラウンドエージェントの場合、実用的なパターンはチャットエージェントよりも退屈なワーカーサービスに近いものです。明示的なトリガー、境界のあるジョブ、および別個のウォッチドッグを使用します。

機能する形状の一つ:

キュー/イベント/スケジュールが冪等性キーを持つ1つのジョブを作成する

エージェントは小さなツール許可リストとジョブごとのハードバジェットを取得する

すべての決定は、入力、ツール呼び出し、出力サマリーを含む追記専用イベントを書き込む

モデルの外部にあるウォッチドッグが最大実行時間、消費、リトライ回数、ハートビートの経過時間をチェックし、失敗したジョブをキャプチャされたイベントトレイルとともにデッドレターキューにルーティングしてリプレイ可能にする

状態を変更できる出力は、そのタスククラスが低リスクであることが示されるまで、ドライラン、差分、または人間の承認のいずれかを経由する

これにより、エージェントは非構造化作業に有用でありながら、実際の信頼性は通常の運用制御(ワーカー、キュー、リース、デッドレターキュー、アラート、キルスイッチ)から得られます。

sanqi
sanqi2 months ago

エージェントを監視役から分離すれば、暴走の懸念のほとんどは解消されます。安価なbashスクリプト(別のLLMではない)がコスト、エラーレート、最終実行タイムスタンプを監視し、いずれかのしきい値に達するとエージェントを強制終了します。これにより、午前3時の緊急停止、静かな成功・詳細な失敗の可視性、予算停止を1つのプロセスで実現できます。実行ループ自体は異常値のみを追加します。