BEACHSIDE BLOG

Azure と GitHub と C# が好きなエンジニアの個人メモ ( ・ㅂ・)و ̑̑

Microsoft Build 2025 - Foundry Agent Service 関連まとめ

Microsoft Build 2025 で"Azure AI Agent Service" から Azure AI Foundry Agent Service へ微妙に名前が変わって GA したこのサービスについての自分用メモです。

ここでは Azure AI services Blog から4記事、AI Platform Blog から1記事から、個人的にメモしておきたいところをざっくりなまとめていますが、ざっくりすぎて粒度の統一感なです😅

きっちりまとめたかったんですが、それぞれの記事で内容が重複していたり、先月やそれより前に発表されていることも含めて紹介されている内容も多く、全部書いても自分用のメモとして意味ないなと... (翻訳したいわけではないので)。

Announcing General Availability of Azure AI Foundry Agent Service

Foundry Agent Service が GA のお知らせと機能概要のまとめって感じ。

マルチエージェントオーケストレーション:デジタルワークフォースの構築

オーケストレーション機能として2つのコアコンセプト:

  1. Connected Agents (preview): エージェントが特殊なタスクを処理するためのツールとして他のエージェントを呼び出す、Point to Point の相互作用を可能にする。このアプローチは、タスク委任、モジュラー処理、またはコンテキスト固有のワークフローなど、各エージェントが全体的なソリューションに独立して貢献するユースケースに最適。
  2. Multi-Agent Workflows (preview): 複雑な多段階プロセスで複数のエージェントを調整する、構造化されたステートフルなオーケストレーションレイヤーを提供。ワークフロー内でのコンテキスト管理、エラー回復、および長期的な耐久性を処理するため、顧客オンボーディング、金融取引処理、またはサプライチェーン自動化など、エージェントが複数のステップ間でコンテキストを維持する必要があるシナリオに最適。

マルチエージェントオーケストレーションをサポートするため、Semantic Kernel と AutoGen の統合ランタイムと直接統合された単一エージェントとマルチエージェントの両方のワークフローを定義、連携、管理するための単一のAPIインターフェースを公開しているためいい感じに使えるよう。

オープンで相互運用可能なツール:接続されたエージェントエコシステムの構築

以前からある機能プラスαの紹介。Function App 書かれてないのなんでやとは思いましたがね。。。

  • Logic Apps との統合:
  • Knowledge との統合: Microsoft FabricやBing Searchに加え SharePoint も追加されました。
  • Partner Tools: Auquan、Celonis、InsureMO、LEGALFLY、LexisNexis、MiHCM、Morningstar、Trademo などのパートナー会社の提供するサードパーティツールにアクセス可能。
  • Agent Catalog: ようはサンプルコード集。随時増加中。
  • オープンプロトコル: Agent2Agent (A2A) にも対応済み
  • エコシステムの拡張: Crew AI, LangGraph, LlamaIndex など人気ライブラリからもシームレスに呼び出し可能。

信頼性とエンタープライズ対応:エンタープライズ向けに構築

ここは Foundry Agent Service って話よりは、Azure AI Foundry で包括的に AgentOps に必要な評価、トレース、モニタリングの機能があったりセキュリティや Responsible AI の考慮がありますよって話なので割愛。

Building a Digital Workforce with Multi-Agents in Azure AI Foundry Agent Service

マルチエージェントの必要性と新機能の紹介ですね。

なぜマルチエージェントが重要か

  • 現実世界のプロセスは複雑で、複数ステップやそれにあわせてコンテキストの切替、複雑な意思決定が必要のためシングルエージェントでは処理が困難。
  • 特定の機能に特化したエージェント複数でタスクを分散してワークフローで連携することで解決できる。

もう少し具体的な話として

  • スケーラビリティ: システムを水平にスケールに可能
  • 専門性: 各エージェントが特定のタスクやドメインにフォーカスできるため、全体的にパフォーマンスが向上、テストや保守も容易
  • 柔軟性: 異なるワークフローで各エージェントを再利用しやすい。

Azure AI Foundry Agent Serviceにおけるマルチエージェント機能の導入

新しく追加された2つのオーケストレーター機能の紹介。

1. Connected Agents

データ抽出、リスク評価、パーソナライズされたコンテンツ生成など、エージェントが個別のタスクを独立して実行する必要があるシナリオで有用。

主要な機能は...

  • シンプルなワークフローデザイン: 複雑なタスクを専門のエージェントに分割し、複雑さを軽減し、明確さを向上。
  • カスタムオーケストレーション不要: メインエージェントは自然言語を使用してタスクをルーティングするため、ハードコードされたロジックは不要。
  • 容易な拡張性:メインエージェントを変更せずに、新しい接続エージェント(翻訳やリスクスコアリングなど)を追加できます。
  • 信頼性とトレーサビリティの向上: 各エージェントに焦点を絞った責任を割り当てることで、デバッグが容易、監査性が向上。
  • 柔軟なセットアップオプション: Foundryポータルのノーコードインターフェースまたは Python SDK でエージェントを構成可能。

2. Multi-Agent Workflows

状態管理を細かく制御するマルチエージェントを構成する際に有用。

主要な機能は...

  • 状態管理: 状態を定義してエージェントのインタラクションを整理し、ワークフローにおける役割に基づいてエージェントを論理的な単位にグループ化
  • 柔軟な遷移 : ルールベースまたはLLM駆動の遷移を使用して、状態間の論理的な流れを定義できる。
  • 構造化データ処理: 変数を使用してエージェント間で構造化データを渡し、データ整合性を確保可能。
  • 堅牢性と回復力: 組み込みの永続化および障害回復メカニズムにより、ワークフローがデータ損失なしに長時間実行されるプロセスを処理可能。
  • 視覚的な設計とデバッグ: (今後登場予定の機能) VS Codeとの統合により視覚的なワークフロー設計、リアルタイムデバッグ、監視が可能。

MCP と A2A Support / Agent Catalog

MCP と A2A をサポートしてるって話と Agent Catalog の紹介は前述でもしてる内容とかぶってるので省略。

Introducing Built-in AgentOps Tools in Azure AI Foundry Agent Service

What Makes AgentOps Unique

Azure AI Foundry として AgentOps の主要な2機能の紹介。

1. Integrated Tracing Functionality:

  • 実行パス: マルチエージェントワークフロー全体でエージェントの推論と意思決定プロセス全体を視覚化します。
  • パフォーマンス監視: タイムスタンプ、レイテンシ、トークン消費量を追跡し、ボトルネックを特定してエージェントの効率を最適化します。
  • ツール呼び出しログ: ファイル検索、Bing検索によるグラウンディング、コードインタープリター、OpenAPIなどのツールの成功、失敗率、期間を監視します。
  • 詳細なリクエスト/レスポンス: すべてのインタラクションとアクティビティスレッドの詳細なログにアクセスし、開発者が正確にデバッグするのに役立ちます。

2. Advanced Evaluation Framework

Built-in およびカスタマイズ可能なメトリクスを使って、エージェントを評価可能。

  • パフォーマンス評価指標: エージェントのアクティビティスレッドの各ステップにおけるレイテンシ、トークン消費量、リクエストログ、ツール呼び出し効率を測定。
  • 品質評価指標: 意図解決、一貫性、流暢さ、精度に関して出力を評価。
  • 安全性評価指標: エージェントの応答におけるヘイトスピーチ、間接的な攻撃、コードの脆弱性などのリスクを特定。

Monitor Azure AI Foundry Agent Service

ここ以降では Azure AI Foundry Observability の話で、前回の AI Foundry のブログ で書いてることと類似してるので省略。

Expand Azure AI Foundry Agent Service with More Knowledge and Action Tools

Azure AI Foundry Agent Serviceは、Grounding with Bing Custom Search (preview)、SharePoint (coming soon)、Azure Logic Apps (preview)、Triggers (preview) と統合して goal-driven (目標駆動型) の結果を提供できるって話だけですね。

Grounding with Bing Custom Search や SharePoint について多少細かく機能に触れていたり 3rd party tool や Azure Logic Apps 、Triggers の概要について言及している程度なのでメモはこれくらいにしておきます。

Securely Build and Manage Agents in Azure AI Foundry

Foundry Agents のセットアップの種類など基本的な概要から、AI Foundry の Evaluation や observability といった AgetOps はいいぞって話や AI Foundry (というよりはAzure) のセキュリティ機能によって安全だぞって話だけなので、特記したメモはなしです。