2026-06-16

ਐਂਟਰਪ੍ਰਾਈਜ਼ AI ਲਈ ਅਪ੍ਰਤੱਖ ਪ੍ਰੋਂਪਟ ਇੰਜੈਕਸ਼ਨ ਸੁਰੱਖਿਆ

ਜ਼ਿਆਦਾਤਰ ਸੰਸਥਾਵਾਂ ਮੰਨਦੀਆਂ ਹਨ ਕਿ ਐਂਟਰਪ੍ਰਾਈਜ਼ AI ਵਿੱਚ ਸਭ ਤੋਂ ਵੱਡਾ ਖ਼ਤਰਾ ਹੈਲੂਸੀਨੇਸ਼ਨ ਹੈ। ਅਸਲ ਵਿੱਚ, ਸਭ ਤੋਂ ਖ਼ਤਰਨਾਕ ਖ਼ਤਰਿਆਂ ਵਿੱਚੋਂ ਇੱਕ ਬਹੁਤ ਘੱਟ ਦਿਖਾਈ ਦੇਣ ਵਾਲਾ ਹੈ: ਅਪ੍ਰਤੱਖ ਪ੍ਰੋਂਪਟ ਇੰਜੈਕਸ਼ਨ। ਇਸ ਐਪੀਸੋਡ ਵਿੱਚ ਅਸੀਂ ਦੇਖਦੇ ਹਾਂ ਕਿ ਭਰੋਸੇਯੋਗ ਦਸਤਾਵੇਜ਼, ਈਮੇਲਾਂ, SharePoint ਸਮੱਗਰੀ, Teams ਗੱਲਬਾਤਾਂ ਅਤੇ ਗਿਆਨ ਅਧਾਰ ਕਿਵੇਂ ਹਮਲੇ ਦੇ ਰਸਤੇ ਬਣ ਸਕਦੇ ਹਨ ਜੋ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਨਾਲ ਸਮਝੌਤਾ ਕੀਤੇ ਬਿਨਾਂ AI ਸਿਸਟਮਾਂ ਨੂੰ ਹੇਰਾਫੇਰੀ ਕਰ ਸਕਦੇ ਹਨ। ਇਹ ਐਪੀਸੋਡ ਜਾਂਚਦਾ ਹੈ ਕਿ Retrieval-Augmented Generation (RAG), ਜੋ Microsoft 365 Copilot, Azure AI Foundry ਹੱਲਾਂ ਅਤੇ ਬਹੁਤ ਸਾਰੇ ਐਂਟਰਪ੍ਰਾਈਜ਼ AI ਸਹਾਇਕਾਂ ਦੀ ਬੁਨਿਆਦ ਹੈ, ਇੱਕ ਬਿਲਕੁਲ ਨਵੀਂ ਸੁਰੱਖਿਆ ਚੁਣੌਤੀ ਕਿਉਂ ਪੇਸ਼ ਕਰਦਾ ਹੈ। ਰਵਾਇਤੀ ਸਾਫ਼ਟਵੇਅਰ ਦੇ ਉਲਟ, ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲ ਡੇਟਾ ਅਤੇ ਹਦਾਇਤਾਂ ਨੂੰ ਭਰੋਸੇਯੋਗ ਢੰਗ ਨਾਲ ਵੱਖ ਨਹੀਂ ਕਰ ਸਕਦੇ। ਹਰ ਪ੍ਰਾਪਤ ਕੀਤੀ ਸਮੱਗਰੀ ਮਾਡਲ ਦੇ ਸੰਦਰਭ ਦਾ ਹਿੱਸਾ ਬਣ ਜਾਂਦੀ ਹੈ, ਜਿਸ ਨਾਲ ਲੁਕੀਆਂ ਕਮਾਂਡਾਂ, ਜ਼ਹਰੀਲੇ ਦਸਤਾਵੇਜ਼, ਮੈਟਾਡੇਟਾ ਅਤੇ ਏਮਬੈਡ ਕੀਤੀਆਂ ਹਦਾਇਤਾਂ ਇਸਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰ ਸਕਦੀਆਂ ਹਨ…

Apple Podcasts · Spotify · YouTube · YouTube Music

Indirect Prompt Injection Security for Enterprise AI (English)