2026-05-05

Зупиніть атаки prompt injection на Microsoft Copilot за допомогою Azure Logic Apps

У цьому епізоді подкасту M365.fm обговорюється один із найбільших прихованих ризиків у середовищах Microsoft Copilot: атаки prompt injection. Епізод пояснює, що справжня проблема безпеки полягає не в слабких промптах або відсутніх фільтрах, а в архітектурі того, як моделі ШІ обробляють інформацію. Сучасні системи ШІ, такі як Microsoft Copilot, отримують дані з багатьох джерел Microsoft 365, зокрема електронних листів, файлів SharePoint, чатів і форм. Якщо всередині цього вмісту приховано зловмисні інструкції, Copilot може помилково сприйняти їх як довірені команди. Епізод розглядає, як атаки EchoLeak і ShareLeak продемонстрували, що зловмисникам не потрібен прямий доступ до самої системи ШІ. Натомість вони можуть отруїти навколишній контекст, вбудовуючи шкідливі корисні навантаження в документи або повідомлення, які Copilot згодом отримує. Щойно модель обробляє ці вхідні дані, конфіденційні

Apple Podcasts · Spotify · YouTube · YouTube Music

Stop Microsoft Copilot Prompt Injection with Azure Logic Apps (English)