2026-06-16

Sicurezza contro la Prompt Injection Indiretta per l'AI Aziendale

La maggior parte delle organizzazioni ritiene che le allucinazioni siano il rischio più grande nell'AI aziendale. In realtà, una delle minacce più pericolose è molto meno visibile: la Prompt Injection Indiretta. In questo episodio esploriamo come documenti attendibili, email, contenuti di SharePoint, conversazioni in Teams e knowledge base possano diventare vettori di attacco capaci di manipolare i sistemi di AI senza compromettere l'infrastruttura sottostante. L'episodio analizza perché la Retrieval-Augmented Generation (RAG), alla base di Microsoft 365 Copilot, delle soluzioni Azure AI Foundry e di molti assistenti AI aziendali, introduca una sfida di sicurezza completamente nuova. A differenza del software tradizionale, i modelli linguistici di grandi dimensioni non sono in grado di separare in modo affidabile i dati dalle istruzioni. Ogni contenuto recuperato diventa parte del contesto del modello, permettendo a comandi nascosti, documenti compromessi, metadati e istruzioni incorporate di influenzare l'AI

Apple Podcasts · Spotify · YouTube · YouTube Music

Indirect Prompt Injection Security for Enterprise AI (English)