2026-06-16

Безопасность от непрямых инъекций промптов для корпоративного ИИ

Большинство организаций считают, что галлюцинации являются самым большим риском в корпоративном ИИ. На самом деле одна из самых опасных угроз гораздо менее заметна: непрямые инъекции промптов (Indirect Prompt Injection). В этом выпуске мы рассматриваем, как доверенные документы, электронные письма, содержимое SharePoint, беседы в Teams и базы знаний могут стать векторами атак, манипулирующими системами ИИ без компрометации базовой инфраструктуры. Эпизод разбирает, почему генерация с дополненной выборкой (Retrieval-Augmented Generation, RAG), лежащая в основе Microsoft 365 Copilot, решений Azure AI Foundry и многих корпоративных ИИ-ассистентов, создает принципиально новую проблему безопасности. В отличие от традиционного программного обеспечения, большие языковые модели не могут надежно отделять данные от инструкций. Каждый извлеченный фрагмент контента становится частью контекста модели, что позволяет скрытым командам, отравленным документам, метаданным и встроенным инструкциям влиять на …

Apple Podcasts · Spotify · YouTube · YouTube Music

Indirect Prompt Injection Security for Enterprise AI (English)