فهم مشكلة الـ 88%: لماذا تُغذّي الأذونات غير المحددة النطاق حوادث الذكاء الاصطناعي المارقة

By Mirko Peters · 2026-08-28

مرحبًا بعودتكم إلى البودكاست! إذا كنتم تتابعون أحاديثنا الأخيرة حول أمن المؤسسات، فأنتم تدركون أن التبنّي السريع للذكاء الاصطناعي…

Automatically translated with AI from the original post. Read the English original

مرحبًا بعودتكم إلى البودكاست! إذا كنتم تتابعون أحاديثنا الأخيرة حول أمن المؤسسات، فأنتم تدركون أن التبنّي السريع للذكاء الاصطناعي داخل بيئة العمل الحديثة يعيد تشكيل طريقة عملنا بالكامل. لكن مع القوة الكبيرة تأتي مخاطر غير مسبوقة. في منشور المدونة الشامل هذا، سنتعمق في إحصائية مذهلة يجب أن تُبقي كل مدير أمن معلومات مستيقظًا ليلًا: 88% من المؤسسات تواجه حوادث أمنية مرتبطة مباشرةً بأذونات الذكاء الاصطناعي غير المحددة النطاق. سنستكشف كيف تستغل الوكلاء المستقلون البيئات المُهيأة بشكل خاطئ، ونفصّل الفئات الأساسية الأربع لمخاطر الذكاء الاصطناعي، ونستعرض استراتيجيات عملية لاستعادة السيطرة الكاملة.

للاستماع إلى نقاش صوتي مفصل حول هذا الموضوع، والاطلاع على رؤى أعمق لتأمين مساحة العمل الرقمية لديكم، تأكدوا من الاستماع إلى الحلقة المخصصة لذلك، Control Rogue AI Data Risks with Microsoft Purview.

مقدمة في مشكلة الـ 88% والأذونات غير المحددة النطاق

مع انتقال الذكاء الاصطناعي من كونه ابتكارًا مستقبليًا إلى نظام التشغيل الأساسي للعمل اليومي في المؤسسات، يواجه قادة تقنية المعلومات أزمة متزايدة. فالسرعة الكبيرة التي يجري بها نشر الوكلاء المستقلين، والمساعدات الذكية (Copilots)، وتكاملات الذكاء الاصطناعي من أطراف خارجية، غالبًا ما تسبق أطر الحوكمة التقليدية. وعندما تسارع المؤسسات إلى تبنّي الذكاء الاصطناعي دون تدقيق البنية التحتية للبيانات الأساسية، فإنها كثيرًا ما تترك الأذونات مفتوحة على مصراعيها.

الإذن غير المحدد النطاق يعني أن وكيل الذكاء الاصطناعي أو المستخدم العادي يملك وصولًا إلى بيانات مؤسسية تفوق بكثير ما يحتاجه فعليًا لأداء مهامه اليومية. ففي البيئات القديمة، ربما كان لدى موظف صلاحية قراءة واسعة لمجلدات SharePoint القديمة لأن ذلك كان أسهل. أما اليوم، فعندما تُدخل وكيلًا مستقلًا للذكاء الاصطناعي إلى البيئة نفسها، فإنه لا يملك الحكم البشري. سيقوم بمعالجة أي ملف سري يمكنه الوصول إليه، وقد يعرضه أو يسرّبه. وهذه الديناميكية بالذات هي السبب في أن 88% من المؤسسات تُبلغ عن حوادث أمنية نشأت مباشرةً عن أذونات غير محددة النطاق. ومعالجة هذه المشكلة تتطلب تحولًا جوهريًا في طريقة تعاملنا مع بنية السحابة وإدارة وضعية أمن البيانات.

فهم مخاطر البيانات المدفوعة بالذكاء الاصطناعي وتهديدات الذكاء الاصطناعي المارق

لكي تدافع عن مؤسستك، يجب أولًا أن تفهم تركيبة مخاطر البيانات المدفوعة بالذكاء الاصطناعي. لم تعد تهديدات الذكاء الاصطناعي المارق من قبيل الخيال العلمي؛ بل أصبحت ناقلات تهديد نشطة تستهدف منصات التعاون الحديثة مثل Microsoft 365 وSharePoint وOneDrive وMicrosoft Teams.

تهديدات الذكاء الاصطناعي المارق

عندما نتحدث عن الذكاء الاصطناعي المارق، فإننا نشير إلى النماذج، أو الوكلاء المستقلين، أو السكربتات التي تتجاوز ضوابط الأمان التقليدية، أو تتصرف بشكل غير متوقع، أو يتلاعب بها جهات خبيثة خارجية. وتظهر هذه التهديدات بشكل أساسي عبر ثلاثة مسارات متميزة:

• الوصول غير المصرّح به: التعرّض غير المنضبط للملفات السرية منتشر على نطاق واسع. فالأذونات المُهيأة بشكل خاطئ في أدوات التعاون لديكم تسمح لمستخدمين غير مقصودين ولوكلاء آليين بالوصول إلى الملكية الفكرية الحساسة، والبيانات المالية، وسجلات الموارد البشرية.
• تسريب البيانات: يحدث تسريب البيانات الحساسة عبر الأوامر والمدخلات التي تفشل الدفاعات التقليدية على محيط الشبكة في مراقبتها. فقد يُدخل الموظفون شيفرة مصدرية خاصة أو بيانات عملاء في أدوات ذكاء اصطناعي عامة غير معتمدة، مما يزيد من انتشار الذكاء الاصطناعي غير الرسمي (Shadow AI) وتوسّع الوكلاء دون ضابط.
• مسائل الامتثال: إن فقدان الرؤية على تفاعلات الذكاء الاصطناعي يخلق مخالفات تنظيمية فورية. فالمشاركة المفرطة وثغرات حقن الأوامر (Prompt Injection) قد تكشف دون قصد معلومات تعريف شخصية (PII)، مما يؤدي إلى إخفاقات امتثال جسيمة بموجب GDPR وHIPAA والمعايير العالمية الأخرى.

الفئات الأربع لمخاطر الذكاء الاصطناعي

لتصنيف هذه الثغرات بشكل منهجي، يقسّم المختصون في الأمن مخاطر الذكاء الاصطناعي عادةً إلى أربع فئات متميزة:

• إساءة الاستخدام: يحدث ذلك عندما تُستخدم أدوات ذكاء اصطناعي مشروعة، مثل Microsoft 365 Copilot، عن قصد أو عن غير قصد للوصول إلى الملفات السرية ونشرها خارج القنوات التجارية المصرّح بها.
• إساءة التطبيق: نشر نماذج الذكاء الاصطناعي لمعالجة مهام لم تُصمَّم أو تُختبَر للقيام بها، وهو ما يؤدي حتماً إلى تسرب بيانات حرج أو أخطاء تحليلية كارثية.
• التضليل: حالات تُخرج فيها مخرجات الذكاء الاصطناعي معلومات خاطئة أو متحيزة أو مختلقة بالكامل، ويتعامل معها الموظفون غير المنتبهين على أنها حقائق ثابتة.
• الحوادث غير المقصودة: حوادث تشغيلية بحتة أو أعطال متسلسلة في الأنظمة، يتسبب فيها وكيل مستقل مخترَق ينتحل هوية خدمة موثوقة داخل المستأجر الرقمي لمؤسستك.

كيف تؤمّن Microsoft Purview بيئات الذكاء الاصطناعي

لمواجهة هذه التهديدات المتصاعدة، تحتاج المؤسسات إلى نهج موحّد للأمن والامتثال وحماية البيانات. وهنا يأتي دور Microsoft Purview بوصفه مركز قيادة من فئة المؤسسات لحوكمة البيانات.

حوكمة البيانات الموحدة

تتطلب إدارة انتشار البيانات منصة متكاملة تجمع بين اكتشاف الأصول وتصنيفها وإدارة دورة حياتها. تقدّم Microsoft Purview منصة حوكمة موحدة تكتشف تلقائياً المعلومات الحساسة عبر البيئات الهجينة ومتعددة السحابات. ومن خلال الجمع بين منع فقدان البيانات (DLP) وإدارة مخاطر الداخل وفهرسة الأصول التلقائية في لوحة عرض واحدة، يمكن للمؤسسات الانتقال من وضعية أمنية تفاعلية إلى منع التهديدات بشكل استباقي.

حماية المعلومات الحساسة

بما أن نماذج الذكاء الاصطناعي التوليدي تستهلك كميات هائلة من البيانات لاستخلاص الرؤى، فإن تأمين أصولك الرقمية الأساسية أمر بالغ الأهمية. تستخدم Purview محركات تصنيف متقدمة وتسميات حساسية ترافق البيانات أينما انتقلت. فحتى لو تم تحويل مستند أو إرساله بالبريد الإلكتروني أو إدخاله إلى نموذج ذكاء اصطناعي، تبقى تسمية الحساسية المضمّنة فيه فعّالة. وهذا يضمن أن أي مخرج لاحق للذكاء الاصطناعي يرث تلقائياً أكثر نهج الأمان تقييداً، ما يقلّص بشكل كبير نافذة التعرض لتسريبات البيانات العرضية.

إنفاذ الامتثال

لا يمكن أن يتراجع الامتثال التنظيمي إلى المقعد الخلفي لمجرد أنك تبتكر باستخدام الذكاء الاصطناعي. تدمج Purview تقييمات امتثال مدمجة، ومسارات تدقيق آلية، ومراقبة مستمرة للمخاطر. سواء كنت تحتاج إلى إثبات أن مجموعات البيانات المنقّاة والمتوافقة فقط هي ما يُغذّى به خطوط ضبط النماذج المخصصة، أو التحقق من أن قوانين إقامة البيانات الإقليمية تُحترم بصرامة، فإن Purview توفر البنية التحتية الضرورية للامتثال.

منع الوصول غير المصرح به للذكاء الاصطناعي وإدارة الأذونات

يبدأ إيقاف حوادث الذكاء الاصطناعي المارقة بتعزيز ضوابط الوصول وإقامة رؤية فورية لكيفية تفاعل المستخدمين والوكلاء مع بياناتك.

ضوابط الوصول وبنية أقل الامتيازات

القاعدة الذهبية في أمن المؤسسات هي أقل الامتيازات، وهي أكثر أهمية في عصر الذكاء الاصطناعي. يجب عليك تطبيق نهج وصول مشروط تكيفي تقيّم ديناميكياً مخاطر المستخدم وامتثال الجهاز والموقع قبل منح الوصول إلى مساحات التعاون الحساسة. تُعد المصادقة متعددة العوامل خط الأساس، لكن الجمع بينها وبين تسميات الحساسية في Microsoft Purview يضمن ألا ترث أدوات الذكاء الاصطناعي أذونات مفرطة لمجرد أن حساب المستخدم يملكها.

مراقبة نشاط الذكاء الاصطناعي ومخاطر الداخل

الرؤية هي أفضل دفاع ضد الذكاء الاصطناعي الظلي وسلوك الوكلاء المارقين. فالاستفادة من أدوات مثل Microsoft Purview Communication Compliance تتيح لفرق الأمن التقاط المحتوى عالي المخاطر، ومراقبة سلوكيات المطالبات (Prompts) الخاصة بالذكاء الاصطناعي، واكتشاف أنماط الوصول غير الاعتيادية إلى البيانات قبل أن تتحول إلى خروقات واسعة النطاق. كما تعزز Insider Risk Management هذا الأمر باستخدام تعلم الآلة لاكتشاف محاولات استخراج البيانات الداخلية غير المعتادة المرتبطة باستخدام الذكاء الاصطناعي التوليدي.

ضمان الامتثال والحوكمة في سير عمل الذكاء الاصطناعي

إن التنقل في متاهة الأطر التنظيمية الحديثة المعقدة يتطلب إشرافاً مستمراً. فقانون الذكاء الاصطناعي للاتحاد الأوروبي، والنظام العام لحماية البيانات (GDPR)، وقوانين الخصوصية الخاصة بكل قطاع، تفرض على المؤسسات الاحتفاظ بسجل قابل للتدقيق لكيفية معالجة الأنظمة الآلية للبيانات الشخصية والملكية.

تتيح مجموعة أدوات التدقيق و eDiscovery في Microsoft Purview لمسؤولي الامتثال البحث عبر Exchange وSharePoint وOneDrive وTeams لإعادة بناء المصدر الدقيق لقرار مدفوع بالذكاء الاصطناعي أو لتفاعل مع البيانات. ومن خلال الحفاظ على سجلات تدقيق غير قابلة للتعديل، ونشر ضوابط حماية للمحتوى، وإجراء تقييمات دورية لأثر الخصوصية، يمكن لمؤسستك تعزيز الابتكار السريع دون التفريط في مكانتها التنظيمية.

أفضل الممارسات لأمن بيانات الذكاء الاصطناعي المستمر والمراقبة المستمرة

تأمين مؤسستك ضد الأذونات غير المحددة النطاق والذكاء الاصطناعي غير المنضبط ليس مشروعًا لمرة واحدة، بل هو التزام تشغيلي مستمر. للحفاظ على وضع أمني متين، اعتمد أفضل الممارسات المثبتة التالية:

• إجراء مراجعات دورية للنهج: أعد تقييم نهج الوصول إلى البيانات ومخططات تسميات الحساسية وأذونات وكلاء الذكاء الاصطناعي كل ربع سنة، لرصد انحراف الإعدادات مبكرًا.
• تطبيق برامج تدريب شاملة: ثقّف القوى العاملة لديك حول المخاطر المحددة لهندسة الأوامر (Prompt Engineering) والذكاء الاصطناعي الظلي ومشاركة البيانات غير المصرح بها، من خلال محاكاة واقعية ووحدات تدريب مبنية على الأدوار.
• الاستفادة من التحديثات المستمرة للمنصة: ابقَ على اطلاع دائم بإصدارات ميزات Microsoft Purview، وفعّل إدارة وضع أمان البيانات (DSPM) لقدرات الذكاء الاصطناعي فور توفرها.
• فرض المعالجة الآلية: استخدم محرك النهج الآلي في Purview لعزل مخرجات الذكاء الاصطناعي الخطرة فورًا، وحظر إرسال الأوامر المحظورة، وتقييد روابط SharePoint المشاركة بشكل مفرط.

الخاتمة

تمثل مشكلة 88% جرس إنذار واضحًا لكل مؤسسة تنشر الذكاء الاصطناعي ضمن Microsoft 365. فالأذونات غير المحددة النطاق والوكلاء المستقلون غير الخاضعين للرقابة يشكلون خطرًا واضحًا وداهمًا على أكثر بيانات مؤسستك حساسية. ومع ذلك، لستَ مضطرًا إلى مواجهة هذه التحديات الأمنية دون دفاعات. فمن خلال تطبيق إطار حوكمة متين، وفرض سياسات صارمة لمنع فقدان البيانات، والاستفادة من كامل القدرات التي توفرها Microsoft Purview، يمكنك بنجاح احتواء تهديدات الذكاء الاصطناعي المارق وقيادة ابتكار مسؤول وآمن.

للتعمق أكثر في استراتيجيات عملية لحماية المستأجر وإتقان حوكمة البيانات، لا تفوّت الاطلاع على حلقة البودكاست الكاملة لدينا، Control Rogue AI Data Risks with Microsoft Purview. ابقَ يقظًا، وحافظ على أذونات محددة النطاق بإحكام، وnنراكم في الحلقة القادمة!