مشكلتك مع كوبايلوت ليست في الواقع مشكلة ميزات إنها مشكلة ثقة في النموذج الكامن خلفه لا تزال معظم الفرق تعتقد أن الأمان يكمن في الأوامر والأذنات وبعض المرشحات في نقاط النهاية لكن إليك الحقيقة المهاجمون لا يحتاجنا إلى تجاوز أمرك بل يحتاجنا فقط إلى تسميم السياق المحيط به وهنا تكمن الثغرة يمكن للمرشحات الأساسية اكتشاف المحتوى غير المرغوب فيه الواضح لكنها تفوت الحمولات الضرة المخفية في رسالة بريد إلكتروني أو ملف شيربوينت أو حقل نموذجا يبقى هذا المحتوى المسترجع صمتا حتى يقوم كوبايلوت بسحبه والتعامل معه كأنه تعليمات مباشرة لقد رأينا بالفعل علامات التحذير مع تسريب إيكو في مايكروسوفت 365 كوبايلوت وتسريب شير في كوبايلوت ستوديو والواقع هو أن التصحيحات لم تنهي هذا النمط لأن كوبايلوت يمكنه البحث والتلخيص والتصرف عبر بيئة مايكروسوفت 365 الخاصة بك بالكامل يمكن لمسار تعليمات واحد سيئ أن ينتشر بسرعة لذا الأمر لا يتعلق بإضافة لوحة تحكم أخرى إلى مجموعتك التقنية بل يتعلق باستخدام أشولوجيك أبس في المسار لفحص وتقييم وحظر الحمولات الضرة قبل أن يعمل كوبايلوت الخطر الحقيقي يكمن في البنية التحتية وليس في الأوامر يفترض النموذج القديم أنه يمكنك الحفاظ على أمان النظام من خلال كتابة تعليمات أفضل حول النموذج أن تمنحه أمرا نظاميا قويا وتضيف فواصلة وتخبر المستخدمين بما يجب عليهم تجنبه يبدو هذا منطقيا على الورق لكن في الواقع لا يفرض النموذج حدود الثقة بالطريقة التي يفعلها نظام الأمان لأنه يقرأ اللغة في قناة واحدة مشتركة حيث تتنافس التعليمات والبيانات على الانتباه هذا الافتراض هو الخلل بعينه إذا كان النموذج لا يستطيع التمييز بشكل موثوق بين مستخدم يطلب المساعدة ومستند يخبره بصمت بتجاهل التعليمات السابقة فلا يمكن لنقطة التحكم أن تقتصر على طبقة الأوامر فقط أن تحاول تأمين السلوك عند الحفة بينما يكمن الخطر الفعلي في تدفق السياق الذي ينتقل إلى النموذج اتضح هذا الأمر للعديد من الفرق بمجرد ظهور أعباء عمل كوبايلوت التي تعتمد بكثافة على الاسترجاع في اللحظة التي يبدأ فيها كوبايلوت بالسحب من رسائل البريد الإلكتروني والملفات وسجل المحادثات في مايكروسوفت دراف يتغير سطح الهجوم تماما أنت لم تعد تؤمن محادثة فحسبه بل تؤمن تدفقنا مباشرا لمدخلات متفاوتة الثقة وعلى مستوى أعمق يزيد كوبايلوت من نطاق الوصول إنه لا يجيب على الأسئلة فقط بل يسترجع ويلخص ويتبع المراجع في بعض الإعدادات يمكنه حتى تشغيل أدوات أو مسارات عمل لذا عندما يدخل محتوى غير موثوق به في تلك السلسلة يمكن للنموذج نقل هذا التأثير إلى إجراءات حساسة لهذا السبب يعتبر حقن الأوامر غير المباشر مهما جدا في الوقت الحالي في أنظمة الإنتاج الهجوم الشائع ليس دائما مستخدما يكتب تجاه القواعدك في صندوق المحادثة تكمن النسخة الأكثر خطورة داخل المحتوى المسترجع وغالبا ما تمر أسابيع قبل أن يلاحظ أحد وجودها قد تبدو وثيقة مسمومة أو رسالة بريد إلكتروني معدت أو إدخال في نموذج أمرا غير ضر للبشر لكنها تحتوي على تعليمات موجهة مباشرة للنموذج لاحقا يسترجع كوبايلوت هذا المحتوى كحياق ذي صلة ويدمجه مع مواد موثوقة فيتبع النموذج التعليمات الخاطئة سلسلة الهجوم بسيطة وهذا ما يجعلها خطيرة أولا يزرع المهاجم المحتوى في مكان يمكن لام كوبايلوت الوصول إليه لاحقا ثم يجلبه الاسترجاع إلى الجلسة فيعمل النموذج الحمولة كتعليمة بدلا من كونها بيانات بعد ذلك يمكنه البدء في تجهيز معلومات حساسة أو تشكيل الردود أو دفع البيانات نحو مسار تسريب عبر روابط أو استخدام الأدوات لذا بالنسبة للقادة لا يقتصر الأمر على سلامة الذكاء الاصطناعي بل هو تحكم في وقت التشغيل مرتبط مباشرة بحوكمة الوصول إذا كان لدى كوبايلوت وصول واسع عبر المستأجر وكان النموذج يستهلك سياقا مختلط ثقة دون فصل صارم فيجب أن يراعي نموذج الأمان الخاص بكما يدخل في التدفق قبل التنفيذ بمجرد إدراك ذلك يتغير الحل أيضا تتوقف عن الهوس بالمطالبات المثالية وتبدأ في فرض الرقابة حيث ينتقل السياق لماذا تفشل الدفاعات الأساسية في بيئة الإنتاج ترتكب معظم الفرق خطأا جوهريا في البداية يفترضون أن ضوابط الأمان التي استخدموها لسنوات في تطوير التطبيقات ستعمل بنفس الكفاءة مع كوبايلوت يكتبون مطالبة نظام أقوى ويحيطون مدخلات المستخدم برموز خاصة وينشرون بعض إرشادات الموظفين ثم يشعرون بالأمان هذه الخطوات ليست سيئة ولن أخبرك بالتوقف عنها لكنها لا تنشئ خدودا أمنية حقيقية إنهم يحاولون فقط إقناع النموذج بالتصرف بشكل صحيح وفي الأمان الإقناع ليس مثل الإنفاذ وهنا تكمن الفجوة تخبر مطالبة النظام النموذج بما تفضل القيام به لكنها لا تستطيع منع ملف ضر من منافسة انتباه النموذج بمجرد سحب ذلك الملف إلى مساحة العمل قد يساعد استخدام الفواصل في تنظيم النص لكنه لا يمنح النموذج طريقة للتحقق من التصريح الأمنية تعد إرشادات الموظفين رائعة لمنع الأخطاء غير المقصودة لكنها لا تفعل شيئا على الإطلاق ضد وثيقة مسمومة أو حمولة مخفية في بياناتك المسترجعة يعمل التحكم كاف اقتراح وليس كاف قاعدة صارمة يتم تنفيذها عند التشغيل يعاني التعبير النمطي من مشكلة مماثلة إنه سريع وغير مكلف لذا يستحق الاستخدام كخطوة أولى سريعة إذا كتب المستخدم تجاهل كل التعليمات السابقة يجب أن يكتشف نظامك ذلك في بضعة أجزاء من الثانية يمكنك أيضا استخدامه للإبلاغ عن عبارات تجاوز الخصوصية الواضحة أو رموز نمط سيكويل في وسائط أدواتك يعمل ذلك الجزء بشكل جيد لكن التعبيرات النمطية لا تتعرف إلا على الأنماط المحددة مسبقا لذا فهي تفشل عند تغير الصياغة قليلا أو عندما يعتمد الهجوم على المعنى لا على كلمات محددة هذا هو السبب في حاجتك إلى طبقات تصنيف توفر خدمة Azure Eye Content Safety دروعا للمطالبات يمكنها اكتشاف هجمات الحقن المباشرة وغير المباشرة في تطبيق المنطقي Logic App يمكنك استدعاء واجهة برمجة تطبيقات لفحص المطالبة قبل أن يراها النموذج ثم تغيير مسار سير العمل في حال تم اكتشاف هجوم يعد هذا تحكما أقوى بكثير من مجرد مطابقة النصوص لأنه يبحث عن القصد الكامن وراء الكلمات في المطالبة والمستندات معا حتى في هذه الحالة لا يكفي الاكتشاف وحده لأن رؤية الخطر لا تعني شيئا إذا لم تكن تمتلك وسيلة لإيقافه غالبا ما تقلل فرق الأمن من أهمية هذا الجزء المحدد من العملية التحذير في ملف السجلات ليس احتواء ولوحة المعلومات الجذابة ليست احتواء أيضا حتى التنبيه عالي الأولوية في نظام إدارة الأحداث لديك يفشل إذا كانت الحمولة قد مرت بالفعل عبر كو بايلوت وأطلقت إجراء في نظام لاحق مراجعة ما حدث بعد وقوعه مفيدة للتحقيق لكنها ليست كافية عندما يحدث الهجوم في ثوانا أن تتعامل مع نموذج يمكنه العمل داخل أنظمة تثق بها مؤسستك بالفعل هناك أيضا مشكلة النتائج السلبية الكاذبة التي تتجاهلها معظم حملات تسويق المنتجات تتسبب الهجمات غير المباشرة في جزء كبير من عمليات الاكتشاف الفاشلة في العالم الحقيقي لأن التعليمات الخطرة تبدو طبيعية تماما حتى يدمجها النموذج مع بقية المحادثة بحلول الوقت الذي يراجع فيه الإنسان المخرجات ويدرك وجود خطأ ما تكون المدخلات الضرة قد أنهت مهمتها بالفعل الخطأ العملي هنا بسيط للغاية تقضي الفرق كل وقتها في مراقبة ما يقوله كوبايلوت لكنها لا تتحكم فيما يدخل إليه بنفس القدر من الانضباط إنهم يفحصون الإجابة بعد توليدها بينما يسمحون للمواد غير الموثوقة بالتدفق قبل بدء العمل هذا الترتيب خاطئ تماما بمجرد إدراكك لهذا العيب يتغير الهدف الكامل لاستراتيجياتك الأمنية تتوقف عن السؤال عن كيفية كتابة مطالبة أكثر أمانا وتبدأ في سؤال عن المكان الذي يمكنك فيه اعتراض البيانات قبل تنفيذ النموذج لها نموذج جدار حماية تطبيقات المنطقي إذا كان الاعتراض هو الهدف فنحن بحاجة إلى نظر في كيفية تطبيق هذا التحكم فعليا على أرض الواقع يجب عليك استخدام أشل لوجيك أبس كطبقة سياسات تقع أمام مرحلة التنفيذ هذا التحول قوي لأن التطبيقات مصممة للتنسيق يمكنه البدء عند وقوع أحداث معينة واستدعاء واجهات برمجة تطبيقات أخرى واتخاذ قرارات بناء على شروط معقدة يمكنك توجيه البيانات وإرسال التنبيهات إلى مايكروسوفت سينتينل وإثراء العملية بمعلومات خارجية دون بناء بوابة أمان مخصصة من الصفر أنت لا تحاول استبدال كوبايلوت هنا أنت فقط تدرج طبقة تحكم في التدفق المحيط به المنطق الكامن وراء هذا النموذج بسيط عن قصد أولا تقوم بتشغيل العملية ثم تقوم بتطبيع البيانات أنت تفحصها وتقييم المخاطرة وتتخذ قرارا وأخيرا توجه النتيجة أو تسجلها هذا هو النمط بأكمله عندما يدخل طلب أو جزء من المحتوى إلى سير العمل يقوم تطبيق المنطق بسحب تلك الحمولة وتوحيدها تكون المدخلات الأولية عادة فوضوية لأن المواصلات المختلفة تتعامل مع البيانات بطرق مختلفة يبدو البريد الإلكتروني مختلفا عن إدخال النموذج كما يأتي محتوى الملف أو وسائط الأدات ببيانات وصفية وحقول مختلفة إذا حاولت إجراء فحص قبل تطبيع تلك البيانات فسيكون نظام الكشف لديك صاخبا للغاية بمجرد تسوية الحمولة في تنسيق متسق تبدأ جولة الفحص الأولى هنا يأتي دور التعبير النمطي المخصص الخاص بك إنه ليس الحكم النهائي أو الحل السحرية ولكنه يعمل كمرشح سريع جدا عند حفة نظامك يمكنك المسح الضوئي بسرعة بحثا عن لغة تجاوز معروفة أو تلميحات ترميز أو أنماط مشبوهة في معلمات الأدات لمنح نفسك فرزا فوريا للموقف ثم تنتقل إلى جولة الفحص الثانية التي تتعمق أكثر في المحتوى هذا هو المكان الذي تستدعي فيه دروع مطالبات أمان المحتوى يرسل تطبيق المنطق مطالبة المستخدم وأي مستندات تم استردادها إلى واجهة برمجة التطبيقات ثم يتفرع بناء على ما إذا تم اكتشاف هجوم هذا مهم لأن حقن المطالبات لا يبدو دائما كرمز برمجي واضح أحيانا لا يتضح الخطر إلا عندما يتم تقييم المطالبة والمستند كوحدة واحدة هناك طبقة أخرى تحول هذا من مرشح بسيط إلى عنصر تحكم أمني حقيقي وهي استخبارات التهديدات إذا كان جزء من المحتوى يشير إلى نطاق ضر معروف أو عنوان URL مشبوه رأاه فريقك من قبله فيجب أن يغير ذلك قرارك يمكن لتطبيقات المنطق التحقق من الحدث مقابل استخبارات تهديدات ديفيندر أو خلاصات جهات خارجية أخرى لإضافة درجة ثقة إلى المخاطر هذا يعني أنه قد يسمح بنمط غريب من مصدر موثوق بالمرور بينما يتم حضر نفس النمط المقترن بنتيجة سمعة عدائية على الفور هذا يحول شجرة القرار الخاصة بك إلى شيء أكثر من مجرد خيار نعم أو لا يمكنك السماح بالطلب إذا كانت درجة المخاطرة منخفضة أو يمكنك تنقيته عبر إزالة الأجزاء غير الآمنة قد تختار عزل البيانات إذا كان المصدر يتطلب مراجعة يدوية إذا كان الإجراء يتضمن بيانات حساسة يمكنك حتى طلب موافقة بشرية قبل المضي قدما بالطبع إذا كانت إشارة الخطر قوية بما يكفي يمكنك ببساطة حضر الطلب وإطلاق تنبيه هذه المجموعة المتنوعة من الخيارات هي ما يجعل هذا النموذج فعالا حقا للأعمال غالبا ما تعيق فرق الأمان الاعتمادة لأنها ترفض كل حالة تبدو غير مؤكدة وعندما تكون الضوابط صارمة للغاية يجد الناس طرقا للالتفاف عليها يمنحك سير العمل القائم على التقييم مساحة للاستجابة بناء على المخاطر الفعلية بدلا من الذعري هذا هو بالضبط سبب كون تطبيقات لوجيك أبس خيارا أفضل من مجموعة أدوات منفصلة فهي تتصل بالفعل ببقية نظام مايكروسوفت البيئي وتعمل بشكل مثالي مع دفاتر تشغيل سينتينال يمكنك طلب فحص أمان المحتوى والبحث عن بيانات التهديدات ودفع أحداث التدقيق في مكان واحد أنت لا تحتاج إلى دورة تطوير طويلة في كل مرة يغير فيها المهاجم سياغته أو تظهر طريقة جديدة لدخول النظام القاعدة التي تجعل كل هذا يعمل واضحة ومباشرة للغاية يجب أن تتعامل مع كل جزء من السياق كغير موثوق به حتى يتم تقييمه هذا لا يعني مطالبة المستخدم فحسبه بل يعني أيضا نص البريد الإلكتروني والملف الذي تم تحميله وحقل نموذج شيربوين ويشمل ذلك حمولة الموصل وأجزاء المستندات المسترجعة وحتى وسائط الأدوات يجب فحص كل ذلك في اللحظة التي تفترض فيها أن أحد هذه المصادر آمنة افتراضيا تكون قد أنشأت ثغرة جديدة يمكن للمهاجم استغلالها بمجرد أن يفرض سير العمل هذه القاعدة باستمرار لن تضطر بعد الآن إلى الاعتماد على كوبيلوت لفصل البيانات جيدة عن سيئة من تلقاء نفسه تصبح العملية نظام دخول خاضع للرقابة نظريا يبدو هذا كفكرة رائعة لكن ما يهم الناس حقا هو ما يحدث عندما تصل حمولة خطيرة فعليا إلى سير العمل في العالم الحقيقي ما يفعله سير العمل فعليا عند التشغيل عندما يصبح النظام نشطا هو أنه لا يكتفي بمسح النص بحثا عن كلمات سيئة بل يبني صورة كاملة للطلب قبل اتخاذ أي قرار عندما يصل حدث إلى نقطة الدخول مثل إرسال نموذج أو تدفق بريد إلكتروني أو تحميل مستند مرتبط بعملية كوبيلوت تقوم لوجيك أبس على الفور بتغليف ذلك الحدث ببيانات وصفية فهي تتبع من أرسل الطلبة وأي تطبيق تعامل معه ومصدر الملف وما سيفعله النظام بعد ذلك هذا السياق الإضافي حيوي للغاية لأن الجملة نفسها قد تعني شيئا مختلفا تماما بناء على مصدرها بمجرد التقاط تلك البيانات يتم تقسيم الحمولة إلى مناطق ثقة محددة يجب عليك الحفاظ على هذا الفصل بوضوح تضع مطالبة المستخدم في سلة والوثائق المستردة في أخرى بينما يحصل سجل المحادثة أو معلمات الأدات على مسحتها الخاصة إذا قمت بدمج كل هذه العناصر معا في وقت مبكر جدا ستفقد القدرة على تحديد مصدر التعليمات الخطيرة وتتحول عملية المراجعة إلى مجرد تخمين تتخطى العديد من الفرق هذه الخطوة لأن الدمج يبدو أسرع لكنه في الواقع يخفي المسار الذي تحتاج إلى تتبعه بعد ذلك ينتقل سير العمل إلى مرحلة التنميط أو التطبيع هذا هو الجزء الممل من العمل ولكنه أيضا ما يجعل عملية الكشف قابلة للاستخدام فعليا تحتاج إلى إزالة العلامات التي تسبب ضجيجا وفك تشفير روابط URL أو أثاري بيس 64 وتسوية الحقول المتداخلة لضمان إجراء الفحص على شكل مستقر إذا أرسل أحد المواصلات نصنا منسقنا بينما أرسل آخر أجزاء جيسا فأنت تريد تحويلها جميعا إلى حقول يمكن لفخصاتك قراءتها بثبات يجب أن تكون هذه العملية غير مكلفة ومباشرة وسريعة أن تبحث عن عبارات تحاول تجاوز سلوك النظام مثل متغيرات تجاهل كل التعليمات السابقة أو تجاوز النظام تبحث أيضا عن لغة استخراج حيث يطلب شخص ما الكشف عن مواد سرية أو تفريد معلومات حساسة أو تجاوز أعدادات الخصوصية في تطبيقات المنطق تتعامل الفرق مع هذا من خلال التعبيرات أو خطوات التكوين التي تضع علامات بدلا من حضر الطلب فورا عند كل تطابق تلك العلامات مهمة لأن عبارة واحدة لا تعني دائما أن شخصا ما يسيء الاستخدامة قد يحتاج شخص يعمل في سير عمل أمني مشروع حرفيا إلى طرح سؤال حول مراجعة التعامل مع المحتوى السري لحل هذه المشكلة يرسل سير العمل الحمولة الأكثر ثراء إلى دروع مطالبات أمان المحتوى في أشرأي لإجراء فحص أعمق يتضمن استدعاء واجهة برمجة التطبيقات كل من مطالبة المستخدم والوثائق المستردة لأن العلاقة بينهما هي المكان الذي تختبئ فيه المشكلة الحقيقية عاتا تعيد الخدمة إشارة بسيطة وإذا تم اكتشاف هجوم يقوم سير العمل بتغيير المسار قبل حدوث استدعاء النموذج بعد ذلك تحتاج إلى إضافة سياق خارجيا تمنح عمليات البحث عن معلومات التهديدات سير العمل عدسة أخرى للرؤية من خلالها يمكنك الاستعلام عن معلومات التهديدات من مايكروسوفت ديفيندر أو أي مصدر تكسي تثق به للتحقق من النطاقات أو الروابط أو مؤشرات المصدر المرتبطة بالانتهاكات يجب عليك سحب درجات الثقة عند توفرها لأن سمعة المصدر يجب أن تؤثر على النتيجة النهائية لا أن تستبدلها بالكامل يجب أن تحصل الحمولة الضعيفة من مصدر خطر دائما على تصنيف أعلى من نفس الحمولة القادمة من عملية داخلية معروفة وموثوقة أخيرا يقوم النظام ببناء درجة مركبة وهو ينظر إلى قوة تطابق النمط ونتائج درع المطالبة وسمعة المصدر ومدى حساسية الإجراء المطلوب طلب منخفض المخاطر لتلخيص مقالة عامة لا يحمل نفس ثقة للطلب الذي قد يكشف عن ملفات محمية هذه النتيجة المجمعة هي ما يوجه مسار العمل تستمر الأحداث الآمنة كما هو مخطط لها يتم تنقيح حالات المخاطر المتوسطة أو توجيهها إلى مسار احتياط آمن أما حالات المخاطر العالية فيتم حضرها قبل أن يبدأ كوبيلوت في العمل يتم تسجيل كل شيء في مسار تدقيق مع الاحتفاظ بمسار اتخاذ القرار هذه الأحداث المحضورة هي ما تعلمك أين يتزايد الضغط وأي المصادر تسبب المتاعب باستمرار عندما ترى الأنماط التي تتسرب إلى سير عمل عملك ستمتلك أخيرا البيانات اللازمة لضبط النظام للجولة التالية كيفية الضبط لتقليل التشويش وتحقيق الاستفادة التجارية الحقيقية بمجرد تشغيل النظام تتغير طبيعة العمل بناء سير العمل هو الجزء السهل في الواقع ضبط النظام بحيث يثق به الناس ولا يحاولون الالتفاف عليه هو ما يحدد ما إذا كان سيصبح عنصر تحكم أمني حقيقي أم مجرد تجربة فاشلة أخرى إذا تسبب النظام في الكثير من الاحتكاك فسيجد المستخدمون ببساطة طريقة لتجاوزه مما يجعل المشروع بأكمله بلا جدوى يجب أن تبدأ بنطاق ضيق لا تحاول مراقبة كل نقطة تلامس في كوبايلوت في اليوم الأول بدلا من ذلك اختر الأماكن الأكثر خطورة والأكثر وضوحا مثل الإجراءات التي تدعمها الأدوات أو مصادر البيانات عالية القيمة قد تبدأ بعملية واحدة مدعومة بأشير كوينت أو سير عمل مخصص لنموذج معين للحصول على إشارة يمكنك قراءتها بالفعل النطاق الصغير يمنحك مساحة للتعلم دون الغرق في البيانات عند إعداد فحوصاتك الأولية اضبط عمليات الرفض للتركيز على الاستدعاء بدلا من اليقين المطلقي من المفترض أن تكتشف الجولة الأولى اللغة المشبوهة مبكرا لا أن تثبت النية الخبيثة بما لا يدعو مجالا للشك إذا أجبرت أنماطك على أن تكون مثالية فإنها تصبح هشة وتبدأ في تفويت الأشياء التي تهتم بها حقا من الأفضل السماح للنظام بوضع علامات زائدة قليلا في البداية ثم السماح للفحوصات اللاحقة بإضافة سياق لتقليل التشويش لهذا السبب فإن نظام التسجيل أهم من المطابقات الفردية مطابقة عبارة واحدة بمفردها لا ينبغي أن تنهي الطلب دائما ولكن عندما تجمع هذه المطابقة مع علامة درع المطالبة ومصدر خطر يتغير الموقف يجب أن تتراكم الإشارات الضعيفة فوق بعضها البعض بينما يجب أن تسرع الإشارات القوية من عملية الحضر هذا هو الفرق الجوهري بين فلتر جامد ومزعج ونموذج سياسة يعمل بالفعل لصالح الأعمال تحتاج أيضا إلى تحديد سقف للإيجابيات الخاطئة حاول إبقاء النسبة أقل من 2% لأنه بمجرد أن يشعر المستخدمون أن عنصر التحكم يعيق عملهم الطبيعية سيفقد نثقة في النظام هنا تبدأ الحلول الالتفافية سيقوم المستخدمون بنسخ النصوص إلى أدوات غير مدارة وستبني الفرق مسارات عمل خفية وسيبدأ المسؤولون في طلب استثناءات شاملة سينهار عنصر التحكم من الداخل ليس لأن الكشف فشل بل لأن الاحتكاك أصبح أكبر من أن يحتمل لمنع حدوث ذلك عليك مراقبة المقاييس الصحيحة أنسى لوحات المعلومات الشكلية وركز على متوسط وقت الكشف يجب أن تبقي هذا الوقت أقل من 15 دقيقة لأي شيء يتطلب مراجعة يدوية عليك أيضا تتبع وقت الاحتواء التلقائي والهدف هو أقل من 5 دقائق حيث يمكن إجراء الحظر بأمان إذا كان مسار العمل يعمل باستمرار ولكنه لا يؤثر فعليا على أي قرار فهو مجرد ضجيج التكلفة عامل آخر يحتاج إلى ضبط مستمر تعد تطبيقات المنطق القائمة على الاستهلاك رائعة لأعباء العمل المتقطعة أو المشاريع التجريبية الصغيرة لأنك تدفع فقط مقابل ما تنفذه ومع ذلك تصبح الخطة القياسية أكثر منطقية بمجرد أن يصبح حجم الأحداث متوقعا وكبيرا لدرجة أن تكليف التشغيل الفردية تصبح مؤلمة لا تعتمد على التخمين في هذا الأمر قس أعداد المشغلات الفعلية وأحجام الحمولات قبل الالتزام بنموذج تسعير معين كن حذرا في كيفية تعاملك مع التخزين أنت بحاجة إلى سجل تشغيل كاف لمراجعات الحوادث وأدلة الحوكمة لكنك لا تحتاج إلى قاعدة بيانات ضخمة مليئة بالمحتوى الحساس احتفظ بالحقول المحددة التي توضح سبب اتخاذ القرار وتخلص من البيانات غير ضرورية التي تشكل مخاطر احتفاظ تخزين الكثير من البيانات يمكن أن يحول أداة الأمان الخاصة بك إلى عبء على الخصوصية إذا لم تكن حذرا أخيرا أربط كل عمليات الضبط هذه بحوكمتك الأوسع قم بمطبقة مسار العمل مع وظائف إطار عمل نست للذكاء الاصطناعي مثل القياس والإدارة واربطه بتصنيفات حساسية البيانات في بورفيو في بعض الأحيان لا يكون الحل الأفضل هو كاشف أكثر ذكاء بل مجرد إزالة الوصول غير ضروري من مسار العمل قبل أن يصبح مشكلة عندما تصل إلى هذه المرحلة فأنت لا تناقش سلامة الذكاء الاصطناعي بشكل نظري بعد الآن أن تدير نموذج تشغيل حقيقيا مع عتبة ومقايضات يمكن للعمل التجاري إدارتها فعليا ما يغيره هذا بالنسبة للقادة والمهندسين المعماريين بمجرد وضع هذا النظام يتوقف كوبيلوت عن التصرف كنظام ثقة عمياء وهنا يحدث التحول الحقيقي قبل هذا التغيير كان النموذج يتلقى مزيجا مضطربا من السياقات بينما يأمل فريقك أن تسود التعليمات الصحيحة الآن يتم فحص هذا السياق وتقييمه وتوجيهه قبل أن تتاح للنموذج أي فرصة للمسه لم تعد نتيجة الأمان مجرد سياسة مجردة بعد الآن لأنها تعمل الآن كتنفيذ خاضع للرقابة بالنسبة للمهندسين المعماريين هذا ينقل مكان وجود الأمان فعليا في تصميمك لم يعد الأمر يقتصر على إعدادات المستأجر أو الأذنات أو قوالب المطالبة بل أصبح يقع مباشرة في مسار المعاملات يخضع كل طلب مهم لنقطة اعتراض ويتبع كل إجراء حساس مسار قرار محددا هذا يعني أنك ستقوم بتقييم كل موصل أو وكيل أو إضافة جديدة كمسار إدخال بدلا من اعتبارها مجرد ميزة إنتاجية أخرى هذا أمر حيوي لأن انحراف البنية هو السبب الرئيسي لفشل هذه البرامج عادة يقوم أحد الفرق بطرح كوبايلوت لحالة استخدام واحدة ثم يربط فريق آخر نموذجا وفي النهاية يضيف أحدهم سير عمل أو يمنح وكيلا حق الوصول إلى أداة ما تبدو كل تغييرات هذه صغيرة في حد ذاتها لكنها تشكل مجتمعة مسار هجوم أكبر بكثير مما كان مخططا له إذا لم تدمج الاعتراض في نموذج التشغيل الخاص بك فإن البيئة ستتوسع بسرعة أكبر مما يمكن لضوابطك مواكبته بالنسبة لقادة الأمن يحل هذا النهج أخيرا مشكلة الملكية المعقدة التي تعاني منها معظم المؤسسات في الوقت الحالي تقع مخاطر كوبايلوت عادة في الثغرات الموجودة بين الفرق المختلفة يرى مركز العمليات الأمنية التنبيهات ويرى مسؤول مايكروسوفت 365 التكوينة بينما يهتم مالك الذكاء الاصطناعي بنسبة التبني فقط عند استخدام مسار تحكم عبر لوجيك أبس يمكن لهذه المجموعات أخيرا العمل من نموذج استجابة موحد إنهم يستخدمون نفس مسار الأحداث ونفس منطق التقييم ونفس سجل الفروع مما يقلل الارتباك تماما عند ظهور مطالبة محفوفة بالمخاطر أو مستند ضر في سير عمل مباشر الجانب التجاري لهذا الأمر أكثر مباشرة مما يتوقعه الناس إن حضر التهديد مبكرا دائما ما يكون أقل تكلفة من محاولة معالجته لاحقا تتضمن المعالجة تحقيقات ومراجعات قانونية وتعطيل المستخدمين وعادة ما تنتهي بجولة غير سارة من مراجعات الوصول التي كان ينبغي إجراؤها قبل النشر لا يحتاج القادة إلى محاضرة طويلة حول أخلاقيات الذكاء الاصطناعي لفهم ذلك فهم يحتبون فقط إلى رؤية أن التحكم في وقت التشغيل أقل تكلفة من السماح للمخاطر غير المدارة بالانتشار عبر الأنظمة التي يستخدمها موظفهم يوميا بالنسبة للمسؤولين التنفيذيين يطرح هذا نقطة غير مريحة حول مكان وجود المخاطر لم تعد مخاطر الذكاء الاصطناعي حبيسة بيئة تجربية أو مختبر بل أصبحت الآن في وورد وأوتلوك وشيربوينت وتيمز يفترض الناس بالفعل أن هذه الأماكن آمنة بما يكفي للتحرك بسرعة وهذه الثقة المكتسبة هي بالضبط ما يرفع المخاطر على الشركة سير العمل السيئي في تطبيق تجريبي هو مشكلة محدودة لكن سير العمل السيئي داخل حزمة إنتاجياتك اليومية هو قصة مختلفة تماما يجب أن يظل مسار الطرح الخاص بك صغيرا ومدروسا للغاية ابدأ بحالة استخدام واحدة ومشغل واحد ونموذج تقييم واحد اختر مسارا تكون فيه البيانات مهمة بالفعل ويكون السلوك فيه سهل الملاحظة بالنسبة لك تحتاج إلى إثبات أن سير العمل يلتقط المدخلات الخطيرة ويوجه السليمة منها مع تزويد البشر بمعلومات مفيدة عند الحاجة للمراجعة بمجرد إثبات نجاح ذلك يمكنك البدء في التوسع لاحقا يمكنك إضافة كشف الأخطاء أو ضوابط المخرجات في الأماكن المناسبة يمكنك حتى إضافة مراقبة أعمق لسوء استخدام الأدوات لكن يجب أن تبقي البوابة الأولى في موضع دخول السياق غير الموثوق للنظام إذا ظلت تلك البوابة الأولى ضعيفة فإن كل إجراء تضيفه لاحقا لن يعد كونه محاولة للتعويض عن نقطة بداية سيئة التحول هنا بسيط للغاية في الواقع توقف عن التعامل مع حقن الأوامر كمجرد مشكلة سياغة وابدأ بمعاملتها كتحكم في وقت التشغيل للسياق غير الموثوق الذي يتحرك عبر كوبايلوت خصص وقتا لرسم خريطة لسير عمل واحد في كوبايلوت من البداية إلى النهاية هذا الأسبوع حدد آخر نقطة اعتراض آمنة قبل التنفيذ وأنشئ تطبيق منطق وحدا يقوم بتقييم وحظر وتسجيل هذا المسار تحديدا إذا كنت ترغب في المزيد حول أمان كوبايلوت بدون حشو اشترك وترك تعليقا يمكنك أيضا التواصل معي ميركو بيترز على لمتن لإخبار عن سيناريو المستأجر المحدد الذي تحاول تأمينه