常時適用のガイダンスと状況別の専門知識：AIアーキテクチャを再設計する

By Mirko Peters · 2026-08-13

ポッドキャストのブログ版へようこそ。今回の記事では、最初のAIソリューションを展開した後にほぼすべてのエンタープライズチームが直面する技術的な課題を掘り下げます。

Automatically translated with AI from the original post. Read the English original

ポッドキャストのブログ版へようこそ。今回の記事では、最初のAIソリューションを展開した後にほぼすべてのエンタープライズチームが直面する技術的な課題を掘り下げます。カスタムAIエージェントを構築すると、最初は魔法のように感じられます。高速で非常に正確であり、応答性も優れています。しかし、3か月から6か月が経つと、奇妙なことが起こります。応答時間が遅くなり、運用コストが少しずつ増え、エージェントが幻覚を見せたり、想定された動作から外れ始めたりします。多くの組織の標準的な対応は、より多くの計算リソースを投入するか、より大規模な言語モデルにアップグレードすることです。しかし、詳しく見ていくと、本質的な問題はモデル自体ではなく、プロンプトの基盤となるアーキテクチャにあります。

今回の記事では、一枚岩のプロンプトがなぜ深刻なコンテキストの劣化を招くのか、普遍的な中核の動作とタスク固有のワークフローをどのように分離するのか、そしてモジュール型の設計パターンがなぜエンタープライズAIの状況を変えつつあるのかを解説します。

はじめに：一枚岩のプロンプトに隠れたコスト

エンジニアリングチームが会話型AIエージェントを初めてプロトタイプとして作るとき、多くの場合、包括的な単一のシステムプロンプトに頼ります。このプロンプトには、エージェントが何者であるか、どのように話すべきか、従うべきルール、複雑なエッジケースへの対処方法が記述されます。最初に始める方法としては直感的です。しかし、事業が進化するにつれてプロンプトも変化します。人事は新しい休暇ポリシーを追加し、コンプライアンス部門は地域ごとの規制を加え、カスタマーサポートは返金ワークフローを追記します。

気がつくと、システムプロンプトは何千トークンもの密度の高い指示へと膨れ上がっています。ユーザーが営業時間の確認のような単純な質問をするたびに、AIモデルはシステムプロンプト全体にあるすべてのルール、ポリシー、エッジケースを取り込み、処理し、推論することを強いられます。営業時間の確認にはほぼ無関係な指示が95%を占めていても、モデルはそれらを解析しなければなりません。この計算リソースと推論に対する隠れたコストを、私たちは「コンテキスト税」と呼んでおり、時間の経過とともにAIエージェントの性能特性を根本から変えてしまいます。

コンテキスト税を理解し、エージェントが時間とともに劣化する理由

本番環境におけるエージェントの劣化は、驚くほど予測可能です。基盤となるモデルが推論の仕方を忘れたから起こるのではありません。モデルのアクティブなコンテキストウィンドウに、認知的なノイズを詰め込みすぎることが原因で起こります。ユーザーとのやり取りのたびに、無関係な手順書の山をAIに読み解かせると、同時にいくつかのことが起こります。

• トークンの消費が急増し、リクエストごとの推論コストが直接押し上げられます。
• コンテキストが大きくなるほど処理に時間がかかるため、応答遅延が増加します。
• モデルが相反するor無関係な指示の重み付けに苦労するため、幻覚の発生確率が上昇します。
• モデルの注意が多くの競合する指示に分散するため、推論の一貫性が低下します。

システムの知能が低下したわけではありません。不要なデータによって推論の経路が単に妨げられているのです。これを解決するには、アーキテクチャ内で情報をどのように配分するかを注意深く見直す必要があります。

常時適用のガイダンスと状況別の専門知識

現代のAIエンジニアリングにおいて、最も効果的な考え方の転換のひとつは、システム指示を「常時適用のガイダンス」と「状況別の専門知識」という2つの異なるカテゴリーに分けることです。

常時適用のガイダンスは、ユーザーの意図に関係なく、すべてのやり取りに適用されなければならない普遍的なガードレールとアイデンティティの定義から構成されます。これには次のものが含まれます。

• エージェントのアイデンティティ、ペルソナ、話し方のトーン
• 全社共通のセキュリティ要件
• 中核となるコンプライアンスルールと絶対的な境界
• 標準的な書式と出力の設定

一方、状況別の専門知識は、完全に文脈に依存します。特定のシナリオやワークフローが発生したときにのみ価値を持つ情報です。例としては、ベンダーのオンボーディング手順、税金計算の規則、地域ごとの返品ポリシー、複雑なITインシデント対応手順などがあります。

従来のアーキテクチャでは、両方のカテゴリーが1つの巨大なプロンプトにまとめて詰め込まれていました。最新の再構成されたアーキテクチャでは、常に読み込まれるガイダンスだけが残ります。それ以外はすべて、動的に読み込まれるモジュール式のコンポーネントにパッケージ化されます。

スキルの構造：AIのための知識のパッケージ化

「Context Tax」を排除するには、状況に応じた専門知識をメインのプロンプトの外に保存し、必要なときだけ取り込む仕組みが必要です。その仕組みがAIスキルです。スキルは単なるプロンプトの断片ではなく、特定のタスクに向けた指示と資産をまとめた、包括的で再利用可能なパッケージです。適切に設計されたスキルには、通常次のものが含まれます。

• オーケストレーターに、スキルがいつ関連するかを伝える明確なトリガーの説明
• タスクを処理するための、構造化された手順の指示
• 参照ドキュメント、フォーム、またはポリシーのテンプレート
• アクションを実行するための、任意のスクリプトまたはAPI定義

このパッケージの中心にあるのが、コア構成ファイルです。多くの場合、SKILL.md ファイルとして構造化されます。このファイルには、その特定の知識領域の範囲、目的、実行手順が明記されます。このように知識をモジュール化すると、コアエージェントの安定性を損なうことなく独立して更新できる、管理しやすいエンタープライズ機能の単位を作成できます。

明確な推論の境界を設定する

AIエージェントを個別のスキルに分割することは、トークンを節約するだけでなく、厳密な推論の境界を確立します。モデルに一つにまとめられた巨大なプロンプトが与えられると、すべてのルールを同時に通して、あらゆる問題を解決しようとします。スキルを使用すると、推論の領域を分離できます。

たとえば、ユーザーが調達ワークフローを開始すると、調達スキルが読み込まれ、エージェントの推論エンジンは購買ポリシー、承認階層、ベンダーガイドラインだけに集中します。そのスキルが有効な間、税務控除や人事ポリシーなど無関係なルールは、アクティブなコンテキストウィンドウから除外されます。この厳密な境界によって、AIの出力の精度と一貫性が大幅に向上し、ビジネスの他の部分からの干渉を受けることなく、専門的な手順に従えるようになります。

効率化のための段階的開示の実装

システムに過度の負荷をかけずに、これらのスキルをどう管理すればよいのでしょうか。その答えは「段階的開示（progressive disclosure）」と呼ばれる設計パターンにあります。起動時にすべての指示やワークフローを読み込む代わりに、エージェントは利用可能なスキルの名前と説明だけを含む軽量なカタログを保持します。

ユーザーがプロンプトを送信すると、ワークフローは次の正確な順序で進みます。

1. オーケストレーターが、ユーザーの要求を軽量なスキルカタログと照合して分析します。
2. そのシナリオを処理するために必要な特定のスキルを特定します。
3. システムが、そのスキル1つをコンテキストウィンドウに動的に読み込みます。
4. エージェントが高い精度でタスクを実行します。
5. タスクが完了すると、スキルは読み込みが解除され、エージェントは軽量な基本状態に戻ります。

この設計パターンは、コンピューティング要件を大幅に削減し、レイテンシを抑え、運用コストを管理可能な範囲に保ちます。同時に、エージェントが深く専門的なエンタープライズ知識にアクセスできる状態を維持します。

結論：将来に向けたAIアーキテクチャの再構築

モノリシックなプロンプトは、生成AIを試験的に使っていた初期には有効でした。しかし、エンタープライズでの展開には、より高いスケーラビリティ、低いレイテンシ、そして高い信頼性が求められます。常時適用されるガイダンスと状況に応じた専門知識を分離し、段階的開示によるモジュール式スキルを取り入れることで、「Context Tax」を排除し、エージェントの性能低下を防ぎ、組織とともに無理なく拡張できる堅牢なAIシステムを構築できます。

Microsoft Copilot Studio、GitHub Copilot、Claude Code などのプラットフォームでこれらのアーキテクチャパターンがどのように適用されるか、実際の導入例を含めた完全な解説を聞くには、関連エピソードをぜひチェックしてください：The End of AI Bloat: Why Modern Agents Need Skills。ぜひ番組を聴いて購読し、皆さんがエンタープライズAIエージェントをどのように構成しているか、お聞かせください！