自律性と説明責任を両立する：Azure AI Foundry のエージェント ランタイムで統制されたエージェント システムを構築する

By Mirko Peters · 2025-11-21 · Updated 2025-11-26

Azure AI Foundry による「自律性と説明責任を両立するエージェント システム」は、トレーサビリティとコンプライアンスを確保し、企業で利用できる責任ある AI ソリューションを実現します。

Automatically translated with AI from the original post. Read the English original

Azure AI Foundry は、優れたモデルを提供するだけではありません。統制されたエージェント ランタイムを使い、処理を整理された状態に保てます。AI の各プロセスで何が起きているかを把握できます。企業に必要なのは、場当たり的なチャットボットではありません。動作を監視し、判断の理由を説明できるシステムが必要です。そのうえ、こうしたシステムはルールに従います。検証可能なエージェント システムを導入している企業は、良好な成果を上げています。単純なチャットボットと比べて利用者が増え、成功の度合いも高くなっています。最大 60% 高い成果が得られたという報告も複数の組織から出ています。導入からわずか数か月で、作業速度も向上しています。統制されたエージェントは、日々の実際の課題を解決しています。たとえば、顧客からの問い合わせ対応、請求書処理、多数のシステムの監視などで活躍しています。「自律性と説明責任の両立」という考え方が、すべてのステップの指針になります。これにより、AI の賢さと責任ある動作を両立させることができます。

重要なポイント

• Azure AI Foundry では、単独で動作するエージェントを構築できます。これらのエージェントは自ら判断し、タスクを実行できます。その結果、業務をより速く、より高い品質で完了できるようになります。

• 説明責任は非常に重要です。各エージェントには固有の ID が割り当てられます。これにより、エージェントの動作を追跡し、ルールに従っているかを確認できます。

• エージェント システムでは、モデル、指示、ツールが連携して動作します。これにより、エージェントは強力になり、さまざまな業務に合わせて柔軟に変化できます。また、作業中も安全性を保てます。

• ライフサイクル ログは、エージェントの動作を明確に記録します。これにより、企業は問題を修正し、ルールへの準拠を容易に維持できます。

• Microsoft Entra は、エージェントの ID を管理するのに役立ちます。エージェントに厳格なアクセス許可が確実に設定されるため、安全性を保ち、統制下に置くことができます。

自律性と説明責任を両立するエージェント

エージェントを自律的にする要素

AI には、決められた手順に従うだけでなく、それ以上のことをしてほしいはずです。Azure AI Foundry では、エージェントが自ら判断できます。ツールを選択し、次に行うことを計画します。タスクを与えると、エージェントがその完了方法を考えます。エージェントの一つひとつの動きを指示する必要はありません。自ら監視し、判断し、行動できます。

エージェントの作業を支える3 つの主要な構成要素は次のとおりです。

モデルを変更したり、指示を更新したり、ツールを追加したりできます。これにより、エージェントを新しい業務にすぐ対応させられます。たとえば、Azure AI Foundry の Agent Service を Azure OpenAI Service と組み合わせたり、Azure AI Search に接続したりできます。Microsoft Copilot Studio、Azure API Management、Azure Functions、Azure Container Apps を利用することもできます。こうした選択肢により、エージェントは多様な方法で学習し、計画し、作業を実行できるようになります。

Azure AI Foundry のエージェントは、単に反応するだけではありません。自ら先に行動します。変化を監視し、ツールを選択し、あなたの指示を待たずに問題を解決できます。そのため、単純なスクリプトとは性質が異なります。

AI システムにおける説明責任の確保

自律性は強力ですが、AI を信頼できる必要があります。エージェントが何を、いつ、なぜ行ったのかを把握したいはずです。Azure AI Foundry では、すべてのエージェントが追跡されるようになっています。エージェントを作成すると、それぞれに Microsoft Entra Agent ID が割り当てられます。この ID により、エージェントの所有者、利用できるユーザー、そして実行する内容が明確になります。

エージェントの動作はすべて確認できます。システムは各ステップを記録するため、何が起きたかを検証できます。問題が発生しても、詳細を遡って確認できます。Microsoft のセキュリティ ツールを使えば、安全性を維持できます。アラートを設定したり、ログを確認したり、必要に応じてエージェントの動作を変更したりできます。

Azure AI Foundry がエージェントの説明責任を確保する方法は次のとおりです：

• すべてのエージェントには、追跡用の固有の Entra Agent ID があります。

• セキュリティ チームは、エージェントを他の重要な資産と同様に監視できます。

• アラートに対応し、エージェントの動作、プロンプト、ツールを変更できます。

• システムは、チェックやレビューに備えて、すべての動きを保存します。

ビジネスで使う AI には、自律性と説明責任の両方が必要です。自律性があれば、エージェントは問題を自ら解決し、すばやく行動できます。説明責任があれば、管理と信頼を確保できます。

エージェントとスクリプトの違いを見てみましょう。

スクリプトは決められた手順に沿って、指示どおりに一歩ずつ処理を行います。Azure AI Foundry のエージェントは自律的に動きます。計画を立て、行動し、すべての動きを記録します。これにより、AI システムは「自律的でありながら説明責任を果たせる」ものになります。賢い行動と明確な管理の両方を手に入れられます。

エージェントの構造: モデル、指示、ツール

Azure AI Foundry のエージェントは、信頼性が高く安全な AI システムを構築できるよう、明確な構造を採用しています。主要な要素はモデル、指示、ツールの 3 つです。それぞれに固有の役割があります。これらを組み合わせることで、強力でありながら検証しやすい方法で、計画、行動、学習ができるエージェントが得られます。

モデルの役割

モデルはエージェントの頭脳です。言語を理解し、判断を下し、問題を解決する役割を担います。GPT-4o やオープンソースのオプションなど、さまざまなモデルから選択できます。モデルを自分のニーズに合わせて選べるのが利点です。後からモデルを変更する場合も、エージェントの他の部分を変えずに済みます。この柔軟性により、毎回同じ品質の結果を維持しやすくなります。モデルと実行環境を管理することで、エージェントの信頼性が高まり、より信頼しやすくなります。

エージェントは、モデルを使って難しいタスクを分解し、情報を収集し、学習内容を記憶します。たとえば、科学分野の一部のエージェントは、モデルを使って手順を立て、データを分析し、その結果に基づいて行動します。このアプローチは、複雑な作業を扱う必要がある医療などの分野で役立ちます。

ガードレールとしての指示

指示は、エージェントが何をすべきか、どのようにふるまうべきかを定めます。これは、ルールやガードレールのような役割を果たします。指示を設定することで、エージェントが道を外れたり、誤りを犯したりするのを防げます。たとえば、フィルターを使って安全でない質問をブロックしたり、エージェントが非公開情報を共有しないようにしたりできます。また、回答を外部に出す前に確認するルールを設定することもできます。

許可されたツールと機能

ツールは、エージェントが行動するための力を与えます。エージェントが使用できるツールは、あなたが決めます。これらのツールには、データの検索、コードの実行、業務アプリへの接続などが含まれます。各ツールへのアクセスは管理者が制御するため、エージェントは許可された機能だけを使用します。この仕組みにより、システムの安全性を保ち、管理もしやすくなります。

実際の科学分野では、エージェントがツールを使ってデータを分析し、結果を予測し、他のシステムと連携しています。例えば次のとおりです。

• CellAgent は、モデルを使って複雑な生物学のタスクを分解します。

• DrugAgent は、専用のツールを使って薬の作用を予測します。

• BioMANIA は、Python ツールに接続して詳細なデータ分析を行います。

モデル、指示、ツールを組み合わせて使うと、自律的でありながら説明責任を果たすエージェントを構築できます。ルールに従うスマートなシステムを実現でき、すべての行動が明確に記録されます。

ライフサイクルのログ記録: スレッド、実行、実行ステップ

監査可能性のための永続スレッド

エージェントが何をしているかを把握することは重要です。Azure AI Foundry では、そのために永続スレッドを使用します。各スレッドは会話やタスクをまとめて保持します。過去に何が起きたかを振り返って確認できます。これは、医療や金融など厳格なルールがある業界で特に役立ちます。すべてのステップを示せれば、システムへの信頼も高まります。

• ガバナンスフレームワークは、AI エージェントを信頼できるものにする助けとなります。

• 特に規制の厳しい業界では、やり取りを記録し、監査証跡を保持する必要があります。

• 適切なガバナンスは、AI の拡張とコンプライアンス要件への対応に役立ちます。

実行と実行状態

実行は、各スレッドでエージェントがどのように動作しているかを示します。タスクを開始すると、システムが実行を作成します。実行が待機中か、処理中か、完了しているかを確認できます。これにより、エージェントが今何をしているかを把握できます。Azure AI Foundry は、会話オブジェクトと状態を自動的に管理します。

会話を再利用し、セッションをまたいでコンテキストを維持できます。そのため、チャネルやデバイスを変えても、重要な詳細を失うことはありません。

追跡のための実行ステップ

実行ステップでは、エージェントが行うすべての操作を確認できます。各ツール呼び出しやモデルの選択を確認できるため、問題を簡単に見つけて修正できます。また、問題が発生したときにも迅速に対応できます。システムは、さまざまな障害に対するアラート、ダッシュボード、ガイドを提供します。

自律性と説明責任を兼ね備えたシステムを実現できます。エージェントが行うすべての操作を確認、監査、再実行できます。これにより、ビジネスに安全で堅牢な AI を構築できます。

ガバナンス、セキュリティ、オブザーバビリティ

Entra によるアイデンティティとアクセス許可

AI エージェントを安全に保つには、強力なルールが必要です。Azure AI Foundry は、Microsoft Entra を使用して、誰が何をできるかを管理します。各エージェントには、専用のエンタープライズ ID が割り当てられます。各エージェントができることと、使用できる API を選択します。ロールベースのアクセス制御（RBAC）を設定し、エージェントに必要なアクセス許可だけを与えます。多くの場合、まずは閲覧者（Reader）ロールから始めます。共同作成者（Contributor）ロールは、必要な場合にのみ付与します。これにより、システムの安全性が保たれ、最小特権の原則にも従えます。

自動化された ID 管理により、リスクを抑えてエージェントを追加、更新、削除できます。また、リスクベースのアクセスルールを使用すると、エージェントが必要なデータとツールにだけアクセスできるようにすることもできます。

監視可能なツール呼び出し

エージェントが何をしているかは、常に把握しておきたいものです。Azure AI Foundry は、すべてのツール呼び出しと操作のログを保持します。エージェントの動作を監視し、問題をすばやく見つけられます。システムは、リクエストの発生頻度とそのパターンを追跡します。通常と異なる動きがあればアラートが届きます。各操作の前後で、エージェントがセキュリティルールに従うようガードレールを設定できます。

コンプライアンスのための証跡（Evidence Trails）

ヘルスケア、金融などの分野では、厳格なルールに従う必要があります。Azure AI Foundry を使うと、監査のための証拠を収集できます。データを可視化し、その品質を確認し、誰がアクセスできるかを管理できます。システムはメタデータを管理するため、説明責任を果たしていることを示せます。証拠の収集を自動化すれば、監査がより容易になります。

• GDPR では、個人データを保護することが求められています。

• HIPAA は、健康情報を対象としています。

• SOX では、財務データに対する監査ログが必要です。

• EU AI Act は、安全性、透明性、トレーサビリティを求めています。

ゼロトラストセキュリティモデルとクラウドの機能を活用すると、ルールへの準拠に役立ちます。重要な指標を追跡し、RegTech ツールを使って新しい法律への対応状況を把握できます。

自律的に動作しつつ、常に明確な記録を残すエージェントシステムを構築します。これにより、AI の信頼性が高まり、厳格なルールが求められる環境でも導入しやすくなります。

開発者向けエクスペリエンスとクイックスタート

ガバナンスされた最初のエージェントの構築

まず、エージェントに実行させたい内容を決めます。次に、モデルを選び、簡単な指示を書きます。続いて、エージェントが使用するツールを選びます。Azure AI Foundry を使うと、これらeach部分の設定が簡単になります。Agent Service を使って、エージェントを業務に接続します。このサービスにより、安全性とルールを備えたエージェントを追加できます。すべてを変更しなくても、業務にエージェントを組み込めます。多くの開発者は、多数のエージェントを扱うのは難しいと考えています。Agent Service は、エージェントを制御し、リリースするための強固な基盤を提供します。

ヒント：まずは、ひとつの課題を解決する小さなエージェントから始めましょう。学習が進んだら、機能を追加していきます。

ログとライフサイクルの確認

エージェントがあらゆる段階で何をしているかを把握する必要があります。Azure AI Foundry は、各アクションの記録を保存します。スレッド、実行、実行ステップを確認することで、一連の流れを把握できます。各エージェントには、専用の SBOM アーティファクトが割り当てられます。このアーティファクトにより、すべての変更を追跡し、エージェントの正体を確認できます。エージェントが使用したツールや、判断を下した時点を確認できます。ダッシュボードを使えば問題を早期に発見し、迅速に修正できます。これにより、システムの安全性と安定稼働を維持できます。

Logic Apps と MCP ツールの統合

Logic Apps と MCP ツールに接続することで、エージェントの能力を高められます。Logic Apps を使うと、エージェントを多くの業務システムに接続できます。CRM、ERP、IT ツールとも連携できます。MCP ツールは、データ検索やコード実行などの新しいスキルをエージェントに与えます。エージェントが使用できるツールは、ユーザー自身が決めます。エージェントが意図した範囲でのみ動作するよう、ルールを設定します。この構成により、安全性と管理性を保ちながら、エージェントのスキルを拡張できます。

注：まずは簡単なツールから始め、必要に応じて追加してください。エージェントがルールに従っているかを確認するため、ログを必ず確認しましょう。

Azure AI Foundry のエージェントは、自律的に動作しながらもルールに従えます。明確なログで、すべての操作を確認・検証できます。適切なルールと追跡の仕組みは、リスクを低減し、承認をより早く得るのに役立ちます。また、システムへの信頼を高めることにもつながります。

• 自動化されたルールと監視が、AI の安全性を守ります。

• 追跡とバージョンの保存により、確認が容易になります。

• 作業がより速く完了し、問題の発生も減ります。顧客の満足度も高まります。

今すぐエージェントの自動化を始められます。すべての手順を示すログと、権限を設定したツールがあれば、ビジネス上のニーズに応え、今後の変化にも備えられます。

よくある質問

エージェントとチャットボットの主な違いは何ですか?

エージェントを使うと、より高い制御が可能になります。エージェントは計画を立て、行動し、ツールを使うことができます。チャットボットは質問に答えるだけです。エージェントは実行したすべての操作を記録します。いつでも、何を行ったかを確認できます。

Azure AI Foundry では、エージェントの操作をどのように追跡できますか?

エージェントが実行するすべての手順を確認できます。システムは、スレッド、実行、実行ステップをログに記録します。これらのログを確認すると、何が、いつ、なぜ起きたのかを把握できます。これにより、AI への信頼性を高めることができます。

エージェントを構築した後で、モデルやツールを変更できますか?

はい。最初からやり直すことなく、モデルを入れ替えたり、新しいツールを追加したりできます。これにより、新しいタスクや、より良い結果に合わせてエージェントを更新できます。指示と履歴はそのまま安全に保持されます。

エージェントを安全に保ち、社内ルールに従わせるにはどうすればよいですか?

Microsoft Entra を使って、エージェントごとにアクセス許可を設定します。各エージェントが使用できるデータとツールを決めます。システムはすべての操作を確認し、監査用にログを保持します。

エンタープライズ AI においてライフサイクルログが必要なのはなぜですか?

ライフサイクルログは、すべての操作の証拠を残します。問題のデバッグ、コンプライアンス要件への対応、AI がどのように判断を下したかの説明に役立ちます。これにより信頼が築かれ、ビジネスの安全性を保てます。