Предотвращение Shadow IT в программах AI-агентов Microsoft Foundry

Microsoft Foundry выделяется как мощная платформа для разработки автономных ИИ-агентов. Её способность упрощать ИИ-нагрузки делает её привлекательной для организаций, стремящихся к инновациям. Однако важно понимать, что та же доступность может привести к следующему риску теневого ИТ. Когда пользователи создают и развёртывают приложения без официального контроля, они могут непреднамеренно раскрыть конфиденциальные данные или нарушить нормативные требования. Возможности интеграции Foundry усложняют эту проблему, особенно в корпоративных средах, где необходимо строгое управление. Осознавая эти риски и управляя ими на опережение, вы сможете использовать возможности Foundry и защищать свою организацию.

Ключевые выводы

• Microsoft Foundry упрощает создание ИИ-агентов пользователями, но эта простота может привести к рискам теневого ИТ, если ею не управлять должным образом.
• Использование Foundry без контроля может раскрыть конфиденциальные данные и привести к проблемам с соответствием требованиям из-за отсутствия надзора и избыточных разрешений.
• Функции интеграции Foundry расширяют функциональность, но также повышают риски безопасности, особенно если средства контроля данных обходятся или данные передаются ненадлежащим образом.
• Проблемы управления включают решение о приоритизации, стандартизации и защите использования Foundry, а также определение ответственности за результаты.
• Признаки неконтролируемого использования Foundry включают неутверждённые приложения и обращения пользователей; инструменты мониторинга, такие как аналитика использования и анализ сетевого трафика, помогают выявлять риски.
• Установите чёткие политики и процессы утверждения, чтобы направлять безопасное использование Foundry и предотвращать доступ неавторизованных приложений к конфиденциальным данным.
• Регулярные аудиты и отчётность повышают прозрачность действий в Foundry, помогая отслеживать операции и поддерживать соответствие требованиям.
• Обучение пользователей и открытая коммуникация позволяют командам следовать правилам управления, распознавать риски и эффективно сокращать теневое ИТ.

Доступность Foundry и риски

Microsoft Foundry существенно снижает барьеры для создания ИИ-нагрузок. Его функции расширения возможностей пользователей позволяют быстро разрабатывать автономных агентов. Эта возможность самообслуживания позволяет создавать приложения без обширных технических знаний. Однако такая простота использования может приводить к нежелательным последствиям.

Функции расширения возможностей пользователей

Возможности самообслуживания

С Foundry вы можете создавать агентов, работающих независимо. Эта независимость повышает вашу способность к инновациям, но также увеличивает риск теневого ИТ. Например, агенты могут получать доступ к конфиденциальным данным без надзора. Такое отсутствие контроля вызывает опасения в отношении соответствия требованиям и безопасности. Быстрое развёртывание приложений без надлежащего управления может привести к уязвимостям.

Простота использования

Интуитивно понятный интерфейс платформы позволяет пользователям легко ориентироваться и использовать её возможности. Хотя это стимулирует креативность, это также может привести к тому, что команды безопасности не будут знать о созданных приложениях. Конфиденциальные данные могут обрабатываться без контроля, что ведёт к потенциальному злоупотреблению. Агенты могут работать с избыточными разрешениями, что дополнительно усложняет ситуацию с безопасностью.

Интеграция с существующими системами

Возможности интеграции Foundry расширяют её функциональность, но также создают риски для безопасности корпоративных данных.

Доступность API

Платформа обеспечивает надёжный доступ к API, позволяя бесшовно интегрироваться с существующими системами. Однако эта доступность несёт риски. Например, приложения могут обходить средства контроля данных, читая данные с помощью токена одного пользователя и записывая обратно с помощью токена другого. Важно соблюдать расширенные функции авторизации пользователей Foundry, чтобы предотвратить несанкционированные действия.

Описание риска	Пример
Обход средств контроля данных	Чтение данных с помощью токена одного пользователя и запись обратно с помощью токена другого. В Foundry есть расширенные функции авторизации пользователей, которые необходимо соблюдать.
Выполнение действий без понимания и согласия пользователя	Приложения должны ясно описывать действия, выполняемые с помощью учётной записи пользователя Foundry, и запрашивать только необходимые разрешения.
Получение или хранение данных вне Foundry без надлежащего контроля доступа	Приложения должны избегать хранения данных, полученных из Foundry, и учитывать чувствительность данных.

Варианты обмена данными

Обмен данными в Foundry может влиять на соответствие требованиям законодательства о защите данных. Платформа объединяет бизнес- и комплаенс-команды, обеспечивая сотрудничество и отслеживание процессов утверждения. Эта интеграция снижает трение и гарантирует соблюдение процессов комплаенса. Детализированные средства контроля доступа следуют за данными через преобразования, ограничивая доступ законными потребностями и минимизируя случайное раскрытие.

Теневое ИТ и проблемы управления Foundry

Изучая возможности Microsoft Foundry, вы также должны учитывать проблемы управления, возникающие из-за её автономных агентов. Эти проблемы могут привести к серьёзным рискам, если ими не управлять. Понимание этих рисков имеет решающее значение для сохранения целостности данных вашей организации и усилий по соблюдению требований.

Риски неконтролируемого использования Foundry

Уязвимости безопасности данных

Неконтролируемое использование Foundry может подвергнуть вашу организацию серьёзным уязвимостям безопасности данных. Когда пользователи создают агентов без надзора, они могут непреднамеренно предоставить доступ к конфиденциальным данным. Такое отсутствие контроля может привести к утечкам данных и несанкционированной экспортировке данных. Вы можете обнаружить, что агенты работают с избыточными разрешениями, что повышает риск раскрытия данных.

Организации часто сталкиваются с несколькими проблемами управления при использовании Foundry, включая:

• Решение о приоритизации: определение того, какие бизнес-процессы должны использовать ресурсы Foundry при наличии длинного backlog.
• Решение о стандартизации: определение того, какие возможности Foundry должны быть стандартизированы в масштабах предприятия, а какие должны оставаться специализированными.
• Решение об уровне обслуживания: установление ожиданий в отношении надёжности и производительности Foundry в зависимости от различных сценариев использования.
• Решение о рисках: определение позиции в отношении безопасности, конфиденциальности и соответствия требованиям, которую примет ваша организация.
• Решение об ответственности: уточнение владельца результатов, когда инициативы Foundry не оправдывают ожиданий.

Проблемы соответствия требованиям