今日のトピックは誰もが一度は耳にしたことがあるものの実際に説明できる人は少ないAIエージェントハーネスについてですブログ記事やカンファレンスの登壇で見かけたことはあるでしょうが実際には何を意味しているのでしょうか結論から言いましょう多くの人はAIエージェントを構築するには完璧なプロンプトを書くことつまりモデルに思い通りの動作をさせる魔法の指示が必要だと考えていますしかしそれは車をエンジンだけだと思っているようなものです確かにエンジンは重要ですがタイヤやハンドルブレーキ車体がなければどこへも行くことはできませんこのエピソードを終える頃にはエージェントハーネスの正体それがなぜプロンプトエンジニアリングの次の進化系なのかそしてマイクロソフトアイファウンドリーがどのようにしてこれを実際のビジネスに活かしているのかを理解できるはずですコーヒーを片手に早速始めていきましょうなぜプロンプトだけでは不十分なのか初期の頃を振り返ってみましょう2022年から2024年頃までAIの活用は単純なものでしたプロンプトを入力すれば答えが返ってくるメールの草案が必要ですかプロンプトを書くだけです記事の要約が必要ですかプロンプトを書くだけです単純な1回限りのタスクにはそれで十分でした何かを頼めばモデルは妥当な回答を返してくれましたしかし人々の野心が高まるにつれ状況は変わりましたモデルに実際の業務を任せ始めたのですトピックを調査してレポートを作成するコードベースを分析してバグを修正するあるいは多段階のカスタマーサポート対応を最初から最後までこなすなどですすると突然一つのプロンプトでは対応できなくなりました何が起きたのでしょうかモデルのコンテキストウィンドウがいっぱいになり初期の指示を忘れ事実を捏造したり不完全な結果を出したりし始めたのですタスクが長引くほど出力は信頼できないものになりました皆さんも経験があるはずですAIに複雑な指示を出しても最後には最初にした頼み事を忘れてしまっているのですたった一人にうちを一見丸ごと一度もチェックを受けずにゼロから立てろと命じるようなものです私たちはモデルに対してまさにそのようなことを求めていたのです結果は予想通りでした壁が足りずドアも開かない未完成の家のようなものですその解決策はより良いプロンプトではありませんでした言葉遣いを調整し例を追加し指示を洗練させることに何時間費やしても長くて複雑なタスクでは失敗します根本的な問題はプロンプトではなかったからですそれは周囲を支えるシステムが欠けていたことにありますモデルが必要としていたのはより良い言葉ではなくより良いサポートでしたそこでプロンプトエンジニアリングからコンテキストエンジニアリングへの進化が始まりましたAI進化の3つのフェーズAIの進化について私がどう見ているかをお話しします3つのフェーズがありそれぞれエンジニアの焦点が変わっていきます第1フェーズはプロンプトエンジニアリングでした期間はだいたい2022年から2024年までです大きな問いは単純でモデルに何を伝えるべきか?でした1つの指示を書き1つの回答を得るそれだけのことでした技術のすべては言葉選びとトーンにかかっていました基本的なタスクにはそれで十分でした続いて第2フェーズ2024年から2025年にかけてのコンテキストエンジニアリングです問いは何を伝えるかからモデルに何を見せるべきかへと変わりましたエンジニアはどう尋ねるかよりも何を与えるかの方が重要だと気づいたのですそこでツール呼び出しやラグMCPのようなシステムを構築しましたこれらによりモデルは必要な情報をその場で取得できるようになりましたすべてをプロンプトに詰め込む代わりに必要な時に必要なものを取り出せるようになったのですそして今いるのが第3フェーズハーネスエンジニアリングです2026年頃からモデルの周りにどのようなシステムを構築すべきかが問われていますここが面白いところで信頼性メモリオーケストレーションガードレールはモデル自体ではなく周囲に構築するシステムからもたらされるからですこれが最も単純な考え方ですエージェントとはモデルとハーネスの組み合わせですハーネスとはそれ以外のすべてを指しますモデルが思考を担いハーネスがそれ以外を担いますそしてそのハーネスこそがすべてを機能させる秘訣なのですこう考えてみてくださいモデルは有能ですが限界のある熟練労働者ですハーネスとは作業場でありツールでありチェックリストであり監督者でありブレーキでもあります作業場がなければ労働者は働く場所がありませんツールがなければ何も作り出せませんチェックリストがなければ手順を忘れてしまいます監督者がいなければミスをしてしまいますそしてブレーキがなければ燃え尽きてしまいますハーネスはそのすべての構造を提供するものですではこのハーネスの中には何があるのでしょうか中身を見てみましょうハーネスの具体的な構成要素ですではハーネスには何が組み込まれるのでしょうか要素を一つずつ見ていきましょうまずはエージェントループですこれがエージェントを動かし続けるサイクルですモデルが考えツールを使うことを決定しますツールが実行され結果が返されますモデルがそれを見て再考し別のツールを呼ぶかもしれませんループはエージェントが目標に達するまで続きますこのループがなければ単発の質問と回答で終わってしまいますあれば問題をステップバイステップで解決するシステムになります次はコンテキスト管理ですこれはモデルの注意力が限られているため非常に重要ですコンテキストウィンドウにはあふれ出すまでに保持できる量に限りがあるからですそこで登場するのがハーネスです会話を圧縮しすべてのメッセージを要約して重要な事項を優先します会話のためのファイリングシステムだと考えてくださいハーネスが整理することでモデルは関連する情報のみを参照できますこれがないと長時間セッションではモデルが内容を見失い破綻してしまいます次にツールとスキルについてですこれらはエージェントの手となるものですモデル単体ではテキストを生成することしかできませんファイルの読み込みやウェブ閲覧コードの実行データベース紹介は不可能ですハーネスがそれらの機能を提供しますファイルアクセスウェブ閲覧コード実行データベース紹介これらすべてがハーネスにより提供されるツールですモデルが使用時期を判断しハーネスがそれを実行可能にしますメモリとセッションの永続性も大きな要素の一つですハーネスは過去のセッションを記憶しますそのため翌日エージェントに戻ってもゼロから始める必要はありませんあなたの好みプロジェクトの背景下した決定を記憶しているのですハーネスが履歴を保持するためエージェントは時間をかけて学習しますガードレールとは安全層のことでエージェントの行動に設ける制限ですエージェントのルールブックだと考えてください停止までの最大ステップ数禁止されたアクションファイル書き込みやメール送信といった高リスクな操作に対する人間による承認ゲートなどですガードレールがないとエージェントは無限ループに陥ったり意図しない動作をしたりする可能性がありますハーネスがそれを抑制します最後にオーケストレーションですハーネスはタスクに応じて専門的なサブエージェントを立ち上げることができます一つが調査を担いもう一つが執筆を担い三つ目が検証を担うといった具合です建設現場の専門家チームのように連携しますそれぞれが得意なことを行いハーネスがお互いの邪魔をしないように調整しますさてこれらのコンポーネントは単なる理論ではありませんマイクロソフトはこれらすべてを実践する完全なプラットフォームを構築しましたそれがエンタープライズ向けハーネスであるマイクロソフトアイファウンドリーですそのプラットフォームこそがマイクロソフトアイファウンドリーなのですAIエージェントを大規模に構築実行するための完成されたワークショップだと考えてくださいここで有規模とは実験レベルではなく真のスケールを指しますハウンドリーは現在7万社以上の顧客に利用されており全市販機だけで100兆トークンを処理しました100兆です誤食ではありません毎日20億件ものエンタープライズ検索クエリを支えていますこれは世界最大級のワークロードを処理する実稼働プラットフォームですハウンドリーの真の価値はこのハーネスをマネージドサービスとして提供することにありますコンテキスト管理、メモリ、ガードレール、調整機能をゼロから構築する必要はありませんすべて組み込まれているのです皆さんがエージェントを用意すれば 今回のすべてのエージェントには独自のエントラーエージェントIDが付与されますいわばデジタルな身分証明書です受付で発行される社員証のようなものだと考えてくださいエージェントはサービスにログインしデータにアクセスして人間の従業員と同じように組織の代理として行動できますすべての行動はそのIDに紐付けられているため完全に監査可能ですなぜそれが重要なのでしょうか企業では誰が何をしたかを把握する必要があるからですすべての行動が記録され追跡可能ですファウンドリはシェアポイントやダイナミクス365からセールスフォースカスタムデータベースまで1400以上の企業データソースに接続します記者で利用しているツールであればファウンドリにはおそらくコネクタが用意されていますつまりエージェントは推測や作り話をすることはありません実際のシステムから未データを取得するため回答は記者の実際のビジネスデータに基づいたものになります次はメモリについてですファウンドリにはメモリ機能が組み込まれています手続型メモリはエージェントが過去のタスクから学ぶのを助けますオンザジョブトレーニングのように時間の経過とともに賢くなっていきますセッション永続化により以前の会話を記憶するため話しかけるたびにゼロから始める必要はありませんこれにより対話が継続的でインテリジェントなものになりますではこれは実際にはどのように機能するのでしょうかマイクロソフトが提供するカスタムハーネス構築用コンポーネントを分解してみましょうエージェントフレームワークによるカスタムハーネスの構築ですでは実際にどのようにハーネスを構築するのでしょうかマイクロソフトはマイクロソフトエージェントフレームワークという専用のSDKを提供しています以前の名称であるセマンティックカーネルとしてご存知かもしれません再構築されましたが基本的な考え方は同じですこれにより開発者はパイソンやCナンバーでカスタムエージェントハーネスを構築できますこのフレームワークは3つの層で構成されています最下層はエージェントループでモデルが考えツールを呼び出し結果を得て再び考えるという核となる推論サイクルですその上にあるのがワークフローで複数のエージェントを管理する調整パターンですそして全てを包み込むのがハーネス層自体であり全体を保持するシェルですマイクロソフトは5つの組み込み調整パターンを提供していますシーケンシャルシーケンシャルは定義された順序でエージェントを次々と実行しますコンカレントコンカレントはそれら全てを並行して実行しますハンドオフハンドオフは必要に応じて制御をあるエージェントから別のエージェントに渡しますグループチャットグループチャットは複数のエージェントが共有された会話で対話できるようにしますそしてマイクロソフトリサーチによるマネージャーのマジェンティックがありますここではスーパーバイザーエージェントが計画を立てプロジェクトマネージャーがチームメンバーにタスクを割り当てるように専門化されたサブエージェントに作業を移情しますそれぞれのパターンが異なる調整の問題に対処しますここからが最も素晴らしい点ですこのフレームワークは拡張可能だということですオープンAI、アントロピック、グーグルジェミニからアマゾンベッドロックさらにはオラマ状のローカルモデルまで好きなモデルを組み込むことができますツールも同様ですオープンAIやモデルコンテキストプロトコルを介してあるいは直接コードで接続できますマイクロソフトのフレームワークを使うとエコシステムに縛られるのではないかと懸念する声がありますそれは事実ではありませんこのフレームワークはあなたが現在使用しているスタックで動作しますハーネス層はファイルアクセス、コード実行、プランニングミドルウェア、テレメトリといった機能を追加しますつまりこのフレームワークでエージェントを構築するということはファイルの読み込み、コードの記述、マルチステップのタスク計画そしてデバッグ用のログ記録を行う完全なシステムを作ることを意味します単なるチャットインターフェース以上のものです具体的に見てみましょうこのフレームワークで構築されたコーディングエージェントを想像してみてください既存のコードベースに新機能を追加するといったタスクを与えますエージェントはまずドキュメントを閲覧し、APIを理解します次にコードを記述しますその後、テストを実行して何も壊れていないことを確認しますテストが失敗すれば、エラーを読み取ってバグを修正し、テストを再実行しますこれらすべてが同じハーネス内で行われ、作業が完了するまで、思考、実行、確認のサイクルを繰り返しますハーネスがなければ、手動で全てのステップを入力する必要がありますハーネスがあれば、エージェントがワークフロー全体を自律的に処理しますハーネスの活用例として人気があるのが、クロウパターンですマイクロソフトはこれをファウンドリで公開しており、各要素がどのように組み合わさるかを示す素晴らしいデモンストレーションになっていますクロウ型エージェントとエルメスについてクロウ型エージェントについて話しましょうその名前は、オープンクロウのようなオープンソースプロジェクトに由来しますこれらのエージェントはマシン内に常駐し、指示を待機して長時間のタスクを自律的に実行します必要な時にいつでも対応できるよう待機しています決して休まないパーソナルアシスタントだと考えてくださいマイクロソフトのバージョンは、エルメスと呼ばれますファウンドリのホスト型エージェントサンドボックス内で動作し、非常に優れた能力を備えていますエルメスは独自のファイルシステムメモリー、そしてツールセットを持っています古いファイルの整理やワークスペースの管理など、独自のメンテナンスルーチンを設定できますまた、持っていないスキルが必要だと判断すれば、即座にそのスキルを構築できますさて、クロウエージェントには一つの特徴がありますクラウドアーキテクトはこれらを、家畜、ではなく、ペット、と呼びますペットは唯一無二の存在です名前を付け、世話をし、簡単に代わりを見つけることはできません家畜は交換可能な存在ですですから、一頭が倒れれば、すぐに別の個体を用意しますクロウエージェントは間違いなく、ペット、ですそれぞれが独自のステータス、履歴、学習した行動を保持しているからですその独自性が強力である一方、復旧やスケーリングを困難にもしています何か問題が起きた際に、インスタンスを破棄してやり直すことはできません蓄積された知識がすべて失われてしまうからですマイクロソフトの解決策は、ルーチンと呼ばれるものですこれはスケジュール化されたタスクで、エージェントが目を覚ましてメンテナンス作業を行い、再び眠りにつくことを可能にしますサンドボックスを24時間365日稼働させるとコストがかかるため、一定期間アクティビティがないとエージェントはシャットダウンされますルーチンシステムは、古いスキルの整理、バックアップの実行、新しいタスクの確認など、やるべき時にエージェントを起動させますそして、また眠りにつきますこれによりコストを抑えつつ、必要な時にエージェントを利用できるようになりますサンドボックスが各セッションを分離しますエージェントのファイル、メモリ、構成はすべて独自の環境内に保持されますまた、ハーネスがセッション間の状態を管理するため、あるエージェントのデータが他に漏えいする心配はありません独自のハーネスを一から構築することも可能ですが、ほとんどの企業にはその必要はありませんファウンドリなら、こうした機能をすべて備えた既成のプラットフォームを利用できます真の問題は、エージェントに何をさせたいかです公開とコラボレーション、ハーネスが人間と出会う場所ですエージェントを構築し、ツール、メモリ、オーケストレーション、そしてサンドボックスを与えましたでは、実際に人々はどう利用するのでしょうか 今回のマイクロソフト365個パイロットに公開できます10回クリックする必要も、3日間のデプロイパイプラインも不要、ただワンクリックですエージェントは、メール、チャット、ドキュメントなど、ユーザーがすでに作業している場所に現れますファウンドリは2つのデプロイモードをサポートしています1つ目は、アシスト型エージェントですこれらはあなたに代わって、メールのドラフト作成、会議のスケジューリング、ドキュメントの検索などを行いますあなたの延長として機能し、指示通りに動く非常に有能なアシスタントのような存在です2つ目は、自動運転型エージェントですこちらの方が新しく、より興味深いものです独自のメールアドレスとアイデンティティを持ち、自律的に活動します毎回プロンプトを入力する必要はありません彼らは主体的に行動します自動運転型エージェントは完全なユーザーアカウントを持っています人間の同僚と同じように、チームのグループチャットに追加できます彼らは会話をフォローし、役立つ場面で介入します未完了アイテムの追跡、チームの作業内容に関する質問への回答さらには適切なドキュメントの送信や人物の紹介を行い、新しいチームメンバーのオンボーディングまでこなします具体的な例を挙げましょうワークストリームマネージャーのエージェントがいるとしますチームのグループチャットにエージェントを追加します誰かが、第三四半期のレポートを金曜日までに終わらせて、と言いますエージェントは、それが対応すべきタスクであると認識しますエージェントはタスクを作成して適切な担当者に割り当て、木曜日に進捗を確認するためのリマインダーを設定します誰もそうするように指示していませんエージェント流行るべきことを見て、それを実行しただけですハーネス、ハーネスが舞台裏で全ての権限を管理します承認されたユーザーだけが、グループチャットでエージェントと対話できますエージェントは自分が閲覧を許可されたメッセージのみを認識し、それ以外は無視します人間であるチームメンバーと同じアクセス制御を尊重しますハーネスエジニアリングが進化を発揮するのはここからですエージェントはブラウザのタブで開く単なるチャットボットではなくなります生産的なチームの一員となるのですエージェントは皆さんがいる場所に常駐し、チームと同じ方法で働きますそれを可能にするのが、モデルを支えるシステムであるハーネスであり、ID、権限、展開、統合をすべて管理しているからですハーネスがなければ、確認すべきチャットウィンドウが一つ増えるだけでしょうしかし、強力なツールには安全策が必要ですこれらすべてを安全にするためのガードレールについてお話ししましょうハーネスにおける責任あるAIとガバナンスです重要なのはここですハーネスエンジニアリングは、単にエージェントの能力を高めるだけのものではありませんエージェントを安全かつ信頼できるものにすることが目的ですメールの送信やファイルの修正、グループチャットでの操作ができるエージェントは強力ですが、その力には制御が必要です従業員にビルの鍵を渡すようなものだと考えてください仕事を任せつつも、アクセスできる場所や時間についてはルールを設けるはずですマイクロソフトのアプローチは、責任あるAI基準に基づいています公平性、信頼性と安全性、プライバシーとセキュリティ、包括性、透明性、説明責任という6つの原則がすべてを導きますこれらは単にポスターに書かれた綺麗な考えではありませんプラットフォーム全体がゼロから設計されるための実際の基盤ですハーネスは、これらの原則が実際のコードとなる場所ですガードレールによって、エージェントの行動が制限されますライフサイクルフックを使用すると、エージェントの実行のあらゆる段階でポリシーを適用できますエージェントの実行前、実行後、ツールの呼び出し前、結果の取得後など、あらゆるポイントで独自のチェックを組み込むことができます特定のデータベースへのエージェントのアクセスをブロックしたいですか? 可能ですエージェントがメールを送信する前に人間の承認を必要としたいですか?それも可能ですどちらの設定も簡単に行えますAzureのWell-Architected Frameworkには、AIワークロード専用のガイダンスが含まれていますデータ暗号化からインシデント対応まで、すべてを網羅していますAIシステムの構築も、他のエンタープライズシステムの構築と根本的には変わらないという考え方ですセキュリティ、信頼性、そして卓越した運用は依然として必要ですWell-Architected Frameworkは、それらすべてを迷わずに考えるための構造的な手法を提供しますさらにその先には、クラウドアドプションフレームワークがありますこれはAIガバナンスのための4段階のプロセスを提供します第1に、リスクの特定です何がうまくいかない可能性があるでしょうか?第2に、影響の測定ですどの程度の被害が出るでしょうか?第3に、管理策による緩和です防ぐために何を導入できるでしょうか?第4に、監視による運用です問題が起きた際にどうやって検知するでしょうか?これは、抽象的な懸念を実際に実行可能な具体的な行動へと変える、実践的で段階的なアプローチですエージェントハーネス、エージェントの枠組みにおいては、具体的にいくつかの重要な意味を持ちます最大ステップ数の制限により、エージェントが無限に実行されるのを防ぎますツールの制限により、本来アクセスすべきものだけにアクセスさせますリスクの高いアクションには、人間による承認ゲートを設けます監査証跡により、すべての決定を記録し、確認できるようにしますコンテンツ安全性フィルターにより、問題のある出力を誰かが見る前に検知しますこれらのすべての要素が連携して、エージェントを厳重に管理しますマイクロソフトは、ハウンドリ内に組み込みのコンテンツ安全性機能と評価ツールを提供していますデプロイ前に、一連の基準に照らしてエージェントをテストできますトピックから逸脱していないか、機密データを適切に扱っているか、応じるべきではないリクエストを拒否できるかこれらの評価を自動的に実行し、チームに公開する前にスコアを取得できますそうすることで、問題が起きてからではなく、早期に発見できますこれが、単純なプロンプトから本番環境レベルの安全な自立型エージェントに至るまでの全体像ですモデルが思考し、ハネスがそれ以外のこと、つまり調整、ガードレール、ガバナンスなど、信頼性を担保するすべてを担いますそれでは、この変革を振り返ってみましょう私たちはワンショットプロンプティングから始めましたプロンプトを書き、回答を得る、それは単純なタスクには有効でした次に、コンテキストエンジニアリングへと移行しましたモデルが見るものを管理し、適切な情報を適切なタイミングで読み込ませますそれはより複雑なタスクに有効でしたそして今、私たちは完全なハネスエンジニアリングに到達しましたモデルの周囲にメモリ、ツール、調整機能、ガードレール、ガバナンスを備えた完全なシステムを構築しますこれが重要な教訓ですエージェントの信頼性は、それを取り巻くシステムによってのみ決まりますモデルはもちろん重要ですが、本番環境で成功するかどうかを決めるのはハネスです世界最高のモデルを持っていても、優れたハネスがなければ、実際のタスクでは失敗します一方で、まずまずのモデルであっても優れたハネスがあれば、常に期待を上回る成果を出しますこれがあなたへの挑戦です次のAIプロジェクトでは、プロンプトの先を考えてみてくださいモデルに何を伝えるかではなく、モデルの周りにどんなシステムを構築すべきかを考えてくださいその思考の転換こそが、デモと本番環境のシステムを分ける鍵となります次回は、システムを構成する重要な要素メモリについて詳しく掘り下げますエージェントが時間をかけて学習し、過去の行動を記憶し、それが成果にどう影響するのかを解説します見逃さないよう、ぜひチャンネル登録をお願いします