الحوكمة في الذكاء الاصطناعي الظلي: كيف توقف طيارين Copilot غير المصرح بهم

By Mirko Peters · 2026-10-23

تعرّف على كيفية إيقاف تجارب Copilot غير المصرح بها، وتحديد مخاطر الذكاء الاصطناعي الظلي، وتأمين بيانات المؤسسة، وحوكمة الوكلاء منخفضي الشيفرة بفعالية.

Automatically translated with AI from the original post. Read the English original

يحدث الذكاء الاصطناعي الظلي عندما ينشر الموظفون المساعدات الذكية (copilots) والوكلاء منخفضي الشيفرة وسير العمل الآلي دون إشراف من تقنية المعلومات. يستعرض هذا الدليل كيفية تحديد تجارب Microsoft 365 غير المصرح بها في مجال الذكاء الاصطناعي، وتأمين حدود بيئتك السحابية، وتطبيق عملية استقبال منظمة للطلبات، وذلك قبل أن تتسبب أدوات الذكاء الاصطناعي غير المُدارة في مخاطر كبيرة لتسريب البيانات وثغرات تشغيلية في مختلف أنحاء مؤسستك.

النقاط الرئيسية

• ينمو الذكاء الاصطناعي الظلي بسرعة عندما يسعى الموظفون المشغولون إلى حل تحديات الإنتاجية اليومية دون انتظار الموافقة الرسمية من تقنية المعلومات.
• غالباً ما تتصل تجارب Copilot غير المُدارة والوكلاء المخصصون بمستودعات SharePoint الحساسة وسجلات Outlook ومصادر البيانات الخارجية دون حدود مناسبة.
• عندما يغيّر الموظف الذي بنى أداة الذكاء الاصطناعي الظلي دوره، تُترك المؤسسة مع تطبيقات يتيمة وأذونات مجهولة وثغرات أمنية كبيرة لا تُرى.
• يوفّر تطبيق عملية استقبال عبر مركز التميّز للذكاء الاصطناعي (CoE) مساراً سريعاً للأفكار منخفضة المخاطر، مع إخضاع الوكلاء عالي التأثير لمراجعات أمنية صارمة.
• يحوّل اكتشاف الحلول القائمة للذكاء الاصطناعي وجردها المخاوف الأمنية الغامضة إلى أصول رقمية قابلة للإجراء ومحكومة بشكل جيد.

صعود الذكاء الاصطناعي الظلي في المؤسسة الحديثة

تنتشر أدوات الذكاء الاصطناعي مثل Microsoft 365 Copilot ووكلاء Power Platform وتطبيقات Azure AI عبر المؤسسات بسرعة تفوق قدرة فرق تقنية المعلومات التقليدية على رسمها. وبينما تتطلع قيادات المؤسسات إلى تحقيق مكاسب في الإنتاجية، غالباً ما يؤدي الضغط للتحرك بسرعة إلى تجاوز ضوابط الحوكمة الأساسية. فيستخدم فريق التسويق مساعداً ذكياً لصياغة موجزات الحملات، وتبني المالية أداةً لتحليل جداول الميزانية، ويختبر قسم الموارد البشرية مساعد سياسات آلياً. ولكل قسم مبرر عمل وجيه لإلغاء المهام اليدوية المتكررة.

غير أن هذا التجريب اللامركزي يخلق مخاطر تشغيلية خفية. فعندما تنشر عشر وحدات أعمال مختلفة وكلاء ذكاء اصطناعي بشكل مستقل، تفقد المؤسسة الرؤية حول البيانات التي يمكن لهذه الأدوات الوصول إليها، ومن يملك مخرجاتها، وكم تكلف فعلياً. ويُعرف هذا الظاهرة بالذكاء الاصطناعي الظلي. وهو نادراً ما يكون خبيثاً؛ بل يُدفع عادةً بموظفين متحمسين يحاولون حل مشكلات عمل آنية قبل الموعد النهائي التالي. ومن دون نموذج تشغيلي منظم، تتحول هذه التجارب حسنة النية بسرعة إلى ديون تقنية غير مدعومة وغير آمنة.

لماذا تفشل بناءات الذكاء الاصطناعي غير الرسمية

المشكلة الجوهرية في تبني الذكاء الاصطناعي غير الرسمي ليست في التقنية نفسها، بل في غياب نموذج تشغيلي مستدام. لنتأمل سيناريو شائعاً: يبني موظف في خدمة العملاء وكيلاً متقدماً منخفض الشيفرة لمساعدة زملائه في صياغة تحديثات للعملاء. يتصل الوكيل بـ SharePoint للحصول على وثائق المنتجات، وبـ Outlook للمراسلات السابقة، وبقاعدة بيانات خلفية لتفاصيل الحالات. يعتمد الفريق على هذه الأداة يومياً لأشهر. ثم ينتقل المنشئ إلى قسم آخر أو يغادر الشركة.

فجأةً، لا يعرف أحد ما إذا كان الوكيل لا يزال يعمل، أو الأذونات التي يعتمد عليها، أو من يجب أن يوافق على التعديلات المستقبلية. وعندما تُحدَّث مكتبات المستندات أو تتغير أذونات النظام، يتغير سلوك الوكيل بشكل غير متوقع. ولأن لا فريق واحد يتولى دورة حياة هذا الحل، تواجه المؤسسة مخاطر امتثال خفية، وتكرارًا في عمليات البناء، واحتمال تسرب البيانات. ولا تكتشف فرق الأمان هذه الوكلاء عادةً إلا عند وقوع حادثة، أو عندما يتطلب نظام خارجي حساس مصادقة غير متوقعة.

تحديد المشاريع التجريبية للذكاء الاصطناعي غير المُدارة وحصرها

لا يمكنك تأمين نظام ذكاء اصطناعي لا تراه. الخطوة الأولى نحو إخضاع الذكاء الاصطناعي الخفي للرقابة هي إجراء مرحلة اكتشاف شاملة لرسم خريطة لكل Copilot ووكيل وتدفق Power Automate وتطبيق Azure AI مخصص يعمل حاليًا داخل المستأجر. ويجب أن يتجاوز هذا الحصر مجرد قائمة برمجيات؛ إذ يتطلب توثيق سمات تشغيلية محددة لكل أداة مكتشفة.

لكل حل ذكاء اصطناعي، ينبغي لفريقي تكنولوجيا المعلومات والأمان تسجيل مصدر البيانات الأساسي، والمالك التجاري المعيّن، ومجموعة المستخدمين المستهدفة، والقدرات الدقيقة للأداة، وتحديدًا ما إذا كانت تكتفي بالإجابة عن الأسئلة أم تملك الصلاحية لتشغيل إجراءات آلية. وغالبًا ما يكشف الاكتشاف عن ثلاث فئات متميزة من الأدوات: مشاريع تجريبية معتمدة رسميًا، وحلول التفافية مفيدة للأعمال لم تكن إدارة تكنولوجيا المعلومات على علم بها، وتجارب قديمة متروكة بلا مالك واضح. وبمجرد اكتمال هذا الحصر، ينتقل النقاش داخل المؤسسة من مخاوف غامضة حول الذكاء الاصطناعي إلى إدارة أصول تشغيلية حقيقية.

ترتيب مخاطر الذكاء الاصطناعي وتأثيره

ليست جميع حالات استخدام الذكاء الاصطناعي تحمل المستوى نفسه من المخاطر. فمساعد داخلي لتلخيص اجتماعات يعمل على ملاحظات غير حساسة يتطلب معيار مراجعة مختلفًا تمامًا عن وكيل آلي مكلّف بفرز طلبات التوظيف أو تحديث السجلات المالية. ولتجنب الاختناقات، ينبغي للمؤسسة ترتيب أفكار الذكاء الاصطناعي بناءً على النتائج التجارية، وحساسية البيانات، وحجم المستخدمين، واحتمالات أنماط الفشل. فالتطبيقات منخفضة المخاطر ينبغي أن تمر عبر مسار اكتشاف خفيف، بينما تتطلب الوكلاء عالية المخاطر التي تتفاعل مع الأنظمة الخاضعة للتنظيم تقييمات معمّقة متعددة الإدارات قبل الإطلاق.

إرساء نموذج حوكمة متوازن

كثيرًا ما يُساء فهم الحوكمة على أنها آلية تُبطئ الابتكار بإجراءات بيروقراطية معقدة. غير أنه في بيئة سحابية ناضجة، تفعل الحوكمة الفعّالة العكس تمامًا: فهي ترسم حدودًا واضحة تمكّن الموظفين من البناء بأمان دون تخمين ما يُسمح لهم بفعله. ومن خلال اعتماد نموذج استقبال خفيف، يمكن للمؤسسات جمع التفاصيل المعمارية الأساسية دون الحاجة إلى مقترحات مشاريع من أربعين صفحة.

ينبغي أن يجيب هذا المسار الإداري عن أسئلة جوهرية: ما المشكلة المحددة التي نحلّها؟ من هو المستخدم المستهدف؟ ما البيانات التي يستهلكها النظام؟ هل يمكنه تنفيذ إجراءات كتابة أو استدعاءات واجهات برمجية خارجية؟ والأهم من ذلك، يجب أن يكون لكل حل ذكاء اصطناعي مالك تجاري محدد. فبينما قد يقوم مطوّر تقني ببناء الوكيل، يتحمل المالك التجاري المسؤولية الكاملة عن التأكد من أن الأداة تحل المشكلة الصحيحة وأن المستخدمين يتعاملون معها بشكل سليم. وإذا لم يملك أحد النتيجة التجارية، فلن يشعر أحد بالأثر التشغيلي عندما تتوقف الأداة عن تقديم القيمة أو تنحرف نحو سلوك خطير.

تأمين البيانات والهوية وإجراءات الذكاء الاصطناعي

يجب أن تتعامل فرق الأمان مع وكلاء الذكاء الاصطناعي المستقلين وCopilot بالصرامة نفسها المطبّقة على حسابات الموظفين البشريين. فكل وكيل يحتاج إلى هوية معروفة، والتقيد الصارم بمبدأ أقل الصلاحيات، وقصر الوصول على البيانات اللازمة لوظيفته المحددة حصرًا. فالوكيل المصمم لتلخيص تذاكر خدمة العملاء لا تكون لديه حاجة تشغيلية لأذونات الكتابة على سجلات مالية أساسية، ولا للوصول الواسع إلى مستودعات SharePoint المؤسسية غير ذات الصلة.

علاوةً على ذلك، يجب على المؤسسات معالجة مشكلة مشاركة البيانات المفرطة القائمة قبل نشر أدوات الذكاء الاصطناعي المتقدمة. يعتمد Microsoft 365 Copilot على نماذج الأذونات القائمة، فيسترجع المحتوى الذي يملك المستخدم المسجَّل الدخول إليه صلاحية الوصول إليه أصلًا. فإذا ظل مجلد SharePoint داخلي ضخم مفتوحًا أمام الشركة بأكملها لسنوات لأن أحدًا لم يدقق أذوناته، فسيعثر الذكاء الاصطناعي على ذلك المحتوى ويعرضه أسرع بكثير مما قد يفعله أي إنسان. الذكاء الاصطناعي لا يخلق ثغرات مشاركة البيانات المفرطة هذه، بل يسلّط الضوء عليها بوضوح لا يمكن تجاهله، ويكشف فجوات الأذونات القديمة التي كانت موجودة من قبل.

الخاتمة: التحكم في رحلتك مع الذكاء الاصطناعي

يمثل الذكاء الاصطناعي الظلّي غير المُدار قنبلةً موقوتة تهدد أمن المؤسسات وخصوصية بياناتها، غير أن الحظر الصارم يدفع الابتكار إلى الخفاء أكثر. فمن خلال إنشاء مركز تميز سريع الاستجابة، والحفاظ على جرد واضح لأدوات الذكاء الاصطناعي، وفرض ضوابط صارمة على أذونات البيانات، يمكن للمؤسسات الاستفادة من القوة التحويلية لتقنيات السحابة الحديثة دون التفريط في السيطرة. ولاستكشاف كيف يمكن لنماذج التشغيل المنظمة والإشراف متعدد الوظائف أن يحميا بنية السحابة في مؤسستك، استمع إلى الحلقة الكاملة من البودكاست للاطلاع على رؤى معمّقة حول بناء أول مركز تميز للذكاء الاصطناعي في مؤسستك.

الأسئلة المتداولة

ما هو الذكاء الاصطناعي الظلّي في المؤسسات؟

يشير الذكاء الاصطناعي الظلّي إلى نشر أدوات الذكاء الاصطناعي، والمساعدات الذكية (Copilots)، ووكلاء التطوير منخفض التعليمات البرمجية بشكل غير مصرّح به أو غير مُتتبَّع من قِبل الموظفين أو الأقسام، دون علم فرق تقنية المعلومات والأمن أو إشرافها.

كيف يكشف Copilot مخاطر مشاركة البيانات المفرطة؟

يحترم Microsoft 365 Copilot الأذونات الحالية للمستخدمين، لكن قدرته السريعة على البحث والتلخيص تُظهر بسرعة للمستخدمين العاديين الملفات المشتركة بشكل مفرط وأذونات SharePoint القديمة ضعيفة التأمين.

لماذا يجب أن يكون لكل وكيل ذكاء اصطناعي مالك أعمال محدد؟

يضمن تحديد مالك للأعمال المساءلة، إذ يتحمل مسؤولية التأكد من أن أداة الذكاء الاصطناعي تحل مشكلة العمل المقصودة بدقة، ومن أن المستخدمين يحتفظون بالإشراف المناسب على إجراءاتها الآلية بمرور الوقت.

ما الفرق بين سير العمل منخفض المخاطر وسير العمل عالي المخاطر؟

تتضمن سير العمل منخفضة المخاطر عادةً صياغة المحتوى أو العصف الذهني أو تلخيص معلومات غير حساسة مع مراجعة بشرية إلزامية، في حين تشمل سير العمل عالية المخاطر الإجراءات المستقلة، أو البيانات الخاضعة للتنظيم، أو قرارات التوظيف، أو التكاملات المباشرة مع الأنظمة المالية الأساسية.