प्रॉम्प्ट इंजेक्शन और AI गवर्नेंस

कल्पना कीजिए कि आपने कर्मचारियों के दैनिक काम संभालने के लिए एक चैटबॉट बनाया, और कुछ ही मिनटों में वह पक्षपाती, भ्रामक या ग्राहकों के लिए पूरी तरह अनुपयोगी सुझाव देने लगा। यह विज्ञान-कथा नहीं है। ऐसा तब होता है जब जिम्मेदार AI के सुरक्षा उपाय मौजूद नहीं होते।

जिम्मेदार AI निष्पक्षता, पारदर्शिता, गोपनीयता और जवाबदेही पर टिका है। इसे अपनी डिजिटल को-पायलट की सीट बेल्ट समझिए। सही ढंग से लागू करने पर यह जोखिम घटाता है। इसके बिना अनुपालन का उल्लंघन, ग्राहकों के भरोसे में कमी और नेतृत्व की घबराहट जैसे नतीजे सामने आते हैं। इस लेख में हम प्रॉम्प्ट इंजेक्शन, AI गवर्नेंस और Microsoft 365 व Power Platform वर्कफ़्लो को सुरक्षित रखने के तरीकों को क्रम से समझेंगे।

प्रॉम्प्ट इंजेक्शन क्या है: जब AI असिस्टेंट स्क्रिप्ट से बाहर चला जाए

मान लीजिए आपने कैलेंडर संभालने के लिए एक शेड्यूलिंग असिस्टेंट लगाया है। उसका काम मीटिंग का समय बदलना, जरूरी नोट्स चिह्नित करना और व्यवस्था सँभालना है। लेकिन वह स्क्रिप्ट से हटकर मनमानी करने लगता है। वह चुपचाप किसी महत्वपूर्ण व्यक्ति को आमंत्रण-सूची से हटा देता है, या आपके मैनेजर के जरूरी संदेश को जंक मेल में दबा देता है। आपने भरोसेमंद सहायक माँगा था, पर मिला एक ऐसा बेलगाम "क्रू मेंबर", जो ऐसे नियम बना रहा है जिन्हें किसी ने मंजूरी नहीं दी।

इसे जहाज की तरह समझिए। जहाज चमकदार हो सकता है और इंजन शक्तिशाली, पर नेविगेशन सिस्टम के बिना वह अंधाधुंध बहता है। सुरक्षा उपायों के बिना AI भी दिशा के बिना गति है, यानी कंपास के बिना आगे बढ़ना।

असली खतरा तब आता है जब कोई स्टीयरिंग पर हाथ रख दे। इसी को प्रॉम्प्ट इंजेक्शन कहते हैं। यह वह दुष्ट कप्तान है जो जहाज पर चढ़कर आधिकारिक लगने वाला आदेश देता है और जहाज का रास्ता बदल देता है। एक ईमेल में छिपा छोटा-सा वाक्यांश आपके विनम्र शेड्यूलर को जानकारी लीक करने, पक्षपात फैलाने या बकवास दोहराने पर मजबूर कर सकता है।

मॉडल झाँसे में क्यों आ जाते हैं

हमलावर सावधानी से तैयार किया गया टेक्स्ट इस्तेमाल करके सुरक्षा नियमों को दरकिनार करते हैं। सिस्टम उसे मान लेता है, क्योंकि वह तोड़फोड़ करने वाले और भरोसेमंद नैविगेटर के बीच फर्क नहीं करता। इसकी वजह यह है कि अधिकांश फाउंडेशन मॉडल किसी भी अच्छी तरह लिखे निर्देश को वैध मान लेते हैं। ऊपर से सुरक्षा परतें न हों तो वे मकसद या इरादे का पता नहीं लगाते। जब तक संगठन सुरक्षा उपाय, सुरक्षा फ़िल्टर और मानवीय जाँच नहीं जोड़ता, मॉडल आज्ञा मानने के लिए बनी मशीन की तरह आदेशों का पालन करता है।

मान लीजिए आप किसी ईमेल से मीटिंग का सारांश बनवाते हैं, और उसी ईमेल में निजी एजेंडा फ़ाइल प्रिंट करने का छिपा निर्देश भी है। मॉडल दोनों को समान गंभीरता से लेता है। वह नैतिकता नहीं तौलता और धोखे पर संदेह नहीं करता। यह नकली दस्तावेज़ों के साथ चेकपॉइंट पार करने जैसा है।

गार्डरेल्स हमेशा काफ़ी क्यों नहीं होते

• चतुराई से लिखा टेक्स्ट नियमों को चकमा दे सकता है।
• आउटपुट संभावनाओं पर आधारित होते हैं, इसलिए हर बार एक जैसा उत्तर नहीं मिलता।
• हमलावर मनचाहा उत्तर मिलने तक बार-बार कोशिश कर सकता है, जैसे पासा फेंकना।

नतीजा यह कि जो असिस्टेंट अभी कैलेंडर स्लॉट चुन रहा था, अगले ही पल आमंत्रण हटा सकता है या संवेदनशील नामों को गलत संदर्भ में डाल सकता है। यह बदलाव धीरे-धीरे नहीं, तुरंत होता है। खराब आउटपुट मानवीय गलतियों से कहीं तेज़ी से वर्कफ़्लो में फैलते हैं। एक गलत सुझाव बड़ी समस्या बन जाता है और मशीनी गति से गलत जानकारी व पक्षपात फैलता है।

समाधान: निगरानी, परीक्षण, समीक्षा, नियंत्रण

शमन संभव है, और यह केवल उम्मीद पर निर्भर नहीं है। प्रदाता और उद्यम सुरक्षा प्रशिक्षण, स्वचालित फ़िल्टर, नियम और मानवीय समीक्षकों का उपयोग करते हैं। नए कोपायलट्स को पहले "वॉल्ड गार्डन" यानी अलग-थलग, ऑडिट-योग्य वातावरण में परखने की सलाह दी जाती है। वहाँ असली उपयोगकर्ताओं या डेटा तक पहुँचने से पहले ही जोखिम सीमित हो जाता है। इसके साथ निरंतर रेड टीमिंग जोड़िए, जिसमें इंसान लगातार सिस्टम की कमज़ोरियाँ जाँचते हैं। स्वचालित सुरक्षा कड़ी मेहनत करती है, पर मानवीय समीक्षा यह सुनिश्चित करती है कि आसान नियम विफल होने पर भी मॉडल सही दिशा में रहे।

निर्धारित बनाम गैर-निर्धारित व्यवहार: AI की अप्रत्याशितता

फ़िल्टर चालू रखने और घुसपैठियों को बाहर रखने के बाद भी एक और चुनौती बचती है: AI प्रणालियों में निहित अप्रत्याशितता। यह तोड़फोड़ से नहीं, मॉडल के उत्तर बनाने के तरीके से आती है।

कैलकुलेटर नियतात्मक आधार पर बने होते हैं। एक ही इनपुट हज़ार बार दीजिए, आउटपुट हर बार वही मिलेगा। स्प्रेडशीट या नियम-आधारित फ़ॉर्मूले भी ऐसे ही हैं। सोमवार को टाइप करें या शनिवार को, मशीन वही फ़ैसला सुनाती है, मूड के उतार-चढ़ाव या रचनात्मकता से मुक्त।

गैर-निर्धारित मॉडल अलग ढंग से काम करते हैं। वे एक तय रास्ते पर चलने की बजाय संभावनाएँ टटोलते हैं। सैंपलिंग, स्टोकेस्टिक प्रक्रियाएँ, मॉडल अपडेट और डेटा ड्रिफ़्ट आउटपुट बदल देते हैं। आप मॉडल से यह भी नहीं पूछ सकते कि क्या बदला। यहीं भरोसा सबसे तेज़ी से घटता है।

उत्पादन में यह ड्रिफ़्ट तेज़ी से बढ़ सकता है। एक महीने जो वर्कफ़्लो स्वीकृत था, अगले महीने उलटी दिशा में जा सकता है। अकेले में मामूली लगने वाली भिन्नताएँ सैकड़ों मामलों में उल्लंघन बन जाती हैं। नियामक स्थिरता, ऑडिट-योग्यता और स्पष्टीकरण की माँग करते हैं, और वे अनिश्चितता को बहाना नहीं मानते।

इसीलिए governance की जरूरत है। फ़ुटबॉल के रेफ़री की तरह वह खेल को दायरे में रखती है। governance नवाचार को खत्म नहीं करती। वह यादृच्छिकता को ऐसे प्रदर्शन में बदलती है जो स्क्रिप्ट का सम्मान करता है। अनिश्चितता बनी रहती है, पर परिभाषित सीमाओं के भीतर। मानवीय देखरेख, निगरानी प्रणालियाँ और governance ढाँचे इन सीमाओं का सुरक्षा-जाल हैं।

EU AI Act और अनुपालन: नियम अब अनिवार्य हैं

बाहरी नियम अब केवल देखरेख का सुझाव नहीं देते, उसे अनिवार्य बनाते हैं। EU AI Act के मूल में वर्गीकरण है। आपसे सिर्फ़ यह उम्मीद नहीं की जाती कि आपका नया AI फ़ीचर काम करे। आपको साबित करना होगा कि वह कैसे और क्यों काम करता है।

एक उदाहरण लीजिए। Power Platform में बना रिक्रूटमेंट ऐप, जो CV को रैंक करता है, कभी सिर्फ़ समय बचाने का साधन था। अब वह हाई-रिस्क श्रेणी में आ सकता है। ऐप खराब नहीं हुआ है। वह बस लोगों को ऐसे तरीकों से प्रभावित करता है जिन्हें कानून संवेदनशील मानता है। ऐसे मामलों में अनुपालन की मंजूरी अनिवार्य है, और यहाँ गति से ज़्यादा सावधानी मायने रखती है।

इस कानून को लालफ़ीताशाही नहीं, अंतरिक्ष यान के ऑक्सीजन नियमों की तरह समझिए। सामान्य स्थिति में मास्क लगाना शायद खटके, पर संकट में वही चालक दल को जीवित रखता है। अनुपालन को टाला नहीं जा सकता और किसी अपडेट से बाद में ठीक भी नहीं किया जा सकता। जनता का विश्वास नाज़ुक होता है, और टूटने पर उपयोगकर्ता कहीं और चले जाते हैं। सबसे बड़ा जुर्माना कानून में नहीं, ग्राहकों के व्यवहार में लिखा होता है।

व्यावहारिक कदम यह है कि जुर्माना लगने से पहले अपने AI फ़ीचर्स की इन्वेंट्री बनाइए और उन्हें वर्गीकृत कीजिए। अब governance वैकल्पिक सजावट नहीं, कानून का हिस्सा है।

Microsoft 365 और Power Platform में व्यावहारिक सुरक्षा उपाय

सुरक्षा किस्मत की बात नहीं है। यह इस पर निर्भर है कि आप अपने कंट्रोल पैनल में मौजूद साधनों का कितना उपयोग करते हैं।

दृश्यता (visibility) से शुरुआत

Microsoft 365 और Power Platform में ऐसी निगरानी सुविधाएँ हैं जो मॉडल के व्यवहार को ट्रैक करने, निर्णयों को लॉग करने और सरल शब्दों में स्पष्टीकरण पाने देती हैं। आपको रहस्यमय ब्लैक बॉक्स पर निर्भर नहीं रहना पड़ता। आपको असली फ़ीडबैक लूप मिलता है, और जब कोई एल्गोरिदम भटकता है तो कंसोल पर संकेत दिखता है। यह अंधेरे में गाड़ी चलाने और ऐसे उपकरणों के साथ नेविगेट करने का फ़र्क है जो बताते हैं कि आप कब भटक रहे हैं।

पारदर्शिता के लिए दस्तावेज़ीकरण

AWS जैसे कुछ वेंडर मॉडल के उपयोग और सीमाओं का दस्तावेज़ बनाने के लिए AI सर्विस कार्ड देते हैं। इनसे आप देख सकते हैं कि कौन-से इनपुट मायने रखते हैं और यह परख सकते हैं कि प्रक्रियाएँ निष्पक्ष हैं या नहीं। इससे भरोसा बढ़ता है कि मॉडल हवा में बातें नहीं कर रहा।

डेटा सुरक्षा: DLP और ऑडिट ट्रेल

सरल लेकिन अहम सुरक्षा-जाल है डेटा सुरक्षा। Data Loss Prevention को सक्रिय कीजिए ताकि संवेदनशील जानकारी गलत हाथों में न जाए, और इसे लॉग व ऑडिट ट्रेल के साथ जोड़िए। इसे छोड़ दिया तो गड़बड़ी होने पर आपके हाथ खाली रहेंगे।

एक उदाहरण: AI Builder से बने एक बुनियादी Power App ने शुरुआती ड्राफ़्ट में संगठन की ज़रूरत से कहीं ज़्यादा जानकारी इकट्ठा कर ली। नाम, रिकॉर्ड और संवेदनशील फ़ील्ड उजागर हो गए। अनुपालन सेटिंग्स सक्रिय करते ही डेटा का बहाव रुक गया और सीमाएँ सख़्त हो गईं। ऐप चलता रहा और गोपनीयता नियमों का पालन हुआ। आर्किटेक्चर को ध्वस्त करके दोबारा नहीं बनाना पड़ा। उसे उन परतों को चालू करके सुधारा गया जो पहले से मौजूद थीं।

सैंडबॉक्स में परीक्षण और human-in-the-loop

डिप्लॉयमेंट के शुरुआती चरणों के लिए एक और प्रथा अपनाने लायक है: कोपायलट को वॉल्ड गार्डन जैसे अलग सैंडबॉक्स में टेस्ट करना। इससे अनपेक्षित व्यवहार बिज़नेस-क्रिटिकल वर्कफ़्लो में जाने से पहले पकड़कर अस्वीकार किया जा सकता है। यही human-in-the-loop प्रवर्तन है। मानवीय निगरानी के बिना ऑटोमेशन तब तक मुक्त रहता है जब तक किसी नैतिक उल्लंघन से न टकरा जाए। डैशबोर्ड के साथ इंसान कंट्रोल टावर में रहते हैं। अनुपालन डिज़ाइन का हिस्सा हो, बाद में जोड़ा गया पैच नहीं, तो वह आपकी गति को धीमा करने की बजाय तेज़ करता है।

Governance board: क्रॉस-फ़ंक्शनल निगरानी की जिम्मेदारी

सुरक्षा कवच अपने आप काम नहीं करते। कॉन्फ़िगरेशन पर नज़र रखनी होती है और अनपेक्षित स्थितियों पर प्रतिक्रिया देनी होती है। उस निगरानी के बिना बेहतरीन गार्डरेल्स भी बस धातु के टुकड़े हैं, जिनके पीछे विवेक नहीं है।

इसलिए governance को क्रॉस-फ़ंक्शनल टीम के रूप में बनाइए। जोखिमों को विभागों में फैलने से पहले पहचानने और सुधारने के लिए साझा चर्चा चाहिए। एक governance board:

• निष्पक्षता का ऑडिट करता है और डेटा के स्रोतों की पुष्टि करता है।
• डिप्लॉयमेंट की समीक्षा करता है।
• ट्रैक करता है कि गैर-निर्धारित सिस्टम समय के साथ कैसे बदलते हैं।
• अनपेक्षित परिणामों को लॉग करता है और रेड टीम प्रॉम्प्ट्स का उपयोग करता है।
• उन हमले के पैटर्न पहचानता है जो फ़िल्टर से निकल जाते हैं।

ऐसा बोर्ड नवाचार को रोकता नहीं, उसे सुरक्षित दायरे में चलते रहने देता है। इसकी नींव निष्पक्षता, पारदर्शिता, जवाबदेही, सुरक्षा और गोपनीयता पर टिकी है। हर सिद्धांत अकेले मजबूत है, पर साथ मिलकर वे ऐसा ढाँचा बनाते हैं जो जाँच के दायरे में भी टिकता है।

एक उपयोगी साधन जोखिम का हीट-मैप है। वह दिखाता है कि कौन-सी परियोजना उच्च जोखिम वाली है और किसे सख़्त प्रशासन चाहिए, और कौन-सी कम जोखिम वाली है। नेतृत्व और नियामकों के लिए यह ठोस प्रमाण है कि निगरानी संरचित है, तदर्थ नहीं। इससे निगरानी एक बार का चेकबॉक्स नहीं रहती, जीवंत प्रक्रिया बन जाती है। खराब डेटा पर प्रशिक्षित मॉडलों का चुपचाप पूर्वाग्रह अपना लेना इसी की चेतावनी है।

आम गलतियाँ और स्टोलपर-स्टोन

• केवल फ़िल्टर पर भरोसा: गार्डरेल्स हमेशा काफ़ी नहीं होते। सावधानी से गढ़ा टेक्स्ट उन्हें चकमा दे सकता है, इसलिए मानवीय समीक्षा और रेड टीमिंग ज़रूरी है।
• AI को बिना निगरानी छोड़ना: कमान अकेली छोड़ दी तो AI संयोग के भरोसे चलता है।
• अनुपालन को टालना: इसे बाद के अपडेट से ठीक नहीं किया जा सकता। इसे डिज़ाइन में ही शामिल कीजिए।
• DLP और लॉगिंग छोड़ देना: गड़बड़ी होने पर जाँच के लिए कुछ नहीं बचता।
• AI से कैलकुलेटर जैसी स्थिरता की उम्मीद: गैर-निर्धारित मॉडल बदलते हैं, इसलिए उन्हें सीमाओं में बाँधना पड़ता है।
• इन्वेंट्री और वर्गीकरण न करना: कौन-सा फ़ीचर हाई-रिस्क है, यह जुर्माने से पहले जानना ज़रूरी है।

व्यावहारिक सुझाव (Takeaways)

• प्रॉम्प्ट इंजेक्शन को वास्तविक जोखिम मानिए। मॉडल अच्छे ढंग से लिखे हर निर्देश को वैध मान सकते हैं।
• नए कोपायलट्स को पहले सैंडबॉक्स या वॉल्ड गार्डन में परखिए।
• निरंतर रेड टीमिंग और मानवीय समीक्षा को स्वचालित फ़िल्टर के साथ जोड़िए।
• Microsoft 365 और Power Platform की निगरानी सुविधाओं से मॉडल के व्यवहार को ट्रैक और लॉग कीजिए।
• Data Loss Prevention सक्रिय कीजिए और ऑडिट ट्रेल रखिए।
• अपने AI फ़ीचर्स की इन्वेंट्री बनाकर उन्हें जोखिम के आधार पर वर्गीकृत कीजिए।
• क्रॉस-फ़ंक्शनल governance board बनाइए, जो निष्पक्षता, डेटा स्रोत और ड्रिफ़्ट की नियमित समीक्षा करे।

निष्कर्ष

AI की अप्रत्याशितता खत्म नहीं की जा सकती, पर उसे परिभाषित सीमाओं के भीतर रखा जा सकता है। निगरानी, परीक्षण, समीक्षा और नियंत्रण का चक्र प्रॉम्प्ट इंजेक्शन जैसे खतरों से बचाता है और नियामकीय अपेक्षाओं को पूरा करने में मदद करता है। governance कोई बाधा नहीं, वह जहाज का कंपास है। उसके साथ आप भरोसा बनाते हैं, जोखिम काफ़ी घटाते हैं और अपनी AI परियोजनाओं को अल्पकालिक सफलता की बजाय दीर्घकालिक सफलता के लिए तैयार करते हैं।