مراقبة أمان Copilot: اكتشاف تسرب البيانات الناتج عن الذكاء الاصطناعي

By Mirko Peters · 2025-11-23 · Updated 2026-07-18

تعرّف على كيفية قيام فرق مركز عمليات الأمن (SOC) باكتشاف تسرب البيانات المرتبط بـ Copilot من خلال أدلة الإجراءات، وإشارات الأمان، والتحقيق، والاستجابة، والحوكمة.

Automatically translated with AI from the original post. Read the English original

أصبح لديك الآن وضع جديد. مساعدات الذكاء الاصطناعي ليست كالتطبيقات العادية، فهي تطّلع على البيانات وتتخذ قرارات. وقد تتجاوز الحدود أحيانًا. يجب أن تعرف ما هو السلوك الطبيعي للذكاء الاصطناعي، وما هو الخطر، وما هو السلوك السيئ. لم تعد خطط التعامل مع البرمجيات الخبيثة التقليدية كافية لمواجهة تسرب البيانات عبر الذكاء الاصطناعي. جرّب خطوات مثل تقليل كمية البيانات المستخدمة، وتشفير البيانات، ووضع قواعد واضحة لاستخدام الذكاء الاصطناعي. تأكد من أن أدوات أمن البيانات وأدوات مركز عمليات الأمن تعمل معًا بانسجام. واصل فحص المخاطر باستمرار. إن العمل المشترك وفهم الصورة الكاملة للوضع أمران بالغا الأهمية الآن.

النقاط الرئيسية

• اعرف المخاطر الخاصة بمساعدات الذكاء الاصطناعي. فهي قد تصل إلى البيانات وتشاركها بطرق لا تتوقعها. ولهذا تقل فعالية أساليب الأمان التقليدية.

• ضع قواعد بيانات قوية. استخدم تسميات وقواعد واضحة لتحديد من يمكنه الاطلاع على المعلومات المهمة. يساعد ذلك على منع الذكاء الاصطناعي من تسريب البيانات.

• استخدم أدوات ذكية لرصد المشكلات. اجمع ما تتعلمه من أدوات الأمان المختلفة. يساعدك ذلك على رؤية جميع احتمالات تسرب البيانات عبر الذكاء الاصطناعي.

• تحرّك بسرعة عند تلقي التنبيهات. استخدم دليلًا خطوة بخطوة لفحص المشكلات. واختر أفضل الطرق للحفاظ على سلامة بياناتك.

• ساعد الفرق على العمل معًا. ينبغي أن يتعاون فريق الأمن والامتثال وتقنية المعلومات. يساعد ذلك على التعامل مع مخاطر الذكاء الاصطناعي والحفاظ على سلامة البيانات.

لماذا تشكّل تنبيهات الوصول الناتجة عن الذكاء الاصطناعي تحديًا لمراكز SOC

سلسلة القتل التقليدية مقابل تسرب البيانات عبر الذكاء الاصطناعي

ربما تكون على دراية بنموذج سلسلة القتل (Kill Chain) التقليدي. فهو يساعدك على رصد التهديدات مثل البرمجيات الخبيثة والتصيّد الاحتيالي. وتبحث فيه عن مراحل مثل الإيصال والاستغلال والتسرب. يعمل هذا النموذج بكفاءة مع كثير من الهجمات. لكن تسرب البيانات عبر الذكاء الاصطناعي لا يتبع هذه المراحل. فمساعدات Copilot يمكنها الوصول إلى الملفات ومشاركة المعلومات بطرق جديدة. وقد تظهر لك تنبيه بأن Copilot وصل إلى ملف سري. هذا لا يشبه الهجوم المعتاد. عليك أن تحدد هل هذا الأمر آمن أم محفوف بالمخاطر أم أنه تهديد حقيقي.

تعمل مساعدات الذكاء الاصطناعي كمستخدمين جدد داخل نظامك. فهي قادرة على نقل البيانات بسرعة، ولا تترك دائمًا علامات واضحة على وجود مشكلة. لذلك يجب ألا تكتفي بتنبيه واحد، بل عليك النظر في السياق، مثل من طلب من Copilot الوصول إلى الملف، وما الذي حدث بعد ذلك. وهذا يجعل مهمتك أصعب. ولا يمكنك الاعتماد على القواعد القديمة وحدها.

الارتباك لدى المحللين: ضوضاء أم تهديد؟

قد تشعر بالإرهاق بسبب عدد التنبيهات. تواجه كثير من فرق مراكز SOC إرهاق التنبيهات. فأنت ترى كمًّا كبيرًا من التحذيرات بحيث يصعب تمييز المشكلات الحقيقية. يوضح الجدول أدناه بعض التحديات الشائعة التي تواجهها مع تنبيهات الوصول الناتجة عن الذكاء الاصطناعي:

عليك أيضًا أن تعمل بسرعة أكبر. يمكن لأدوات الذكاء الاصطناعي أن تساعدك على إنهاء التحقيقات بشكل أسرع. وكثير من المحللين الذين يستخدمون الذكاء الاصطناعي يحققون دقة أعلى ويقدمون نتائج أكثر تفصيلًا من أولئك الذين يعتمدون على الأساليب اليدوية. ومع ذلك، يجب أن تتعلم التمييز بين الاستخدام الطبيعي للذكاء الاصطناعي ومؤشرات تسرب البيانات الناتج عنه. يتطلب أسلوب العمل الجديد هذا أدوات أفضل وقواعد واضحة.

المشاركة المفرطة للبيانات والتسميات الضعيفة: الخطر الحقيقي

كيف يؤدي ضعف حوكمة البيانات إلى تمكين تسرب البيانات عبر الذكاء الاصطناعي

هناك أخطار حقيقية عندما تكون حوكمة البيانات ضعيفة. فإذا لم تتحكم في من يمكنه استخدام بياناتك، فقد تشارك أدوات الذكاء الاصطناعي معلومات خاصة. وتسهّل القواعد الضعيفة والتتبع السيئ حدوث الأخطاء. ويمكن أن يقع تسرب البيانات عبر الذكاء الاصطناعي إذا لم تُصنَّف الملفات بشكل صحيح، أو إذا كان عدد كبير جدًا من الأشخاص يستطيعون الاطلاع على المجلدات المهمة.

تُظهر القصص الحديثة كيف يمكن أن تضر هذه المشكلات بمجموعتك. يسرد الجدول أدناه مخاطر متنوعة ناتجة عن ضعف حوكمة البيانات:

تحتاج إلى حوكمة بيانات قوية للحفاظ على أمان بياناتك. تساعدك القواعد الجيدة على معرفة من يستخدم بياناتك وكيف تستخدمها أدوات الذكاء الاصطناعي. كما أن التسميات الواضحة وقواعد الوصول تمنع التسريبات قبل أن تبدأ.

إعدادات الحاويات الخاطئة ومشكلات تسميات الحساسية

قد تظن أن ملفاتك آمنة، لكن الإعدادات الخاطئة قد تسبب مشكلات. فإذا سمحت لـ "الجميع في الشركة" بالوصول إلى المجلدات، فقد تشارك أسرارًا عن طريق الخطأ. تجعل التسميات الضعيفة أو المفقودة من الصعب على الذكاء الاصطناعي معرفة ما هو خاص. ومن دون نظام تسميات بسيط، تفقد السيطرة على بياناتك.

للحفاظ على أمان مجموعتك، ينبغي عليك:

• التحقق من يمكنه الوصول إلى كل مجلد أو موقع.

• وضع تسميات واضحة وقوية على جميع الملفات المهمة.

• استخدام أدوات تكشف المشاركة المفرطة وتنبّهك إلى الإعدادات الخطرة.

يمكنك منع معظم تسريبات بيانات الذكاء الاصطناعي بمعالجة هذه المشكلات مبكرًا. فالقواعد الجيدة والتسميات الذكية تحمي بياناتك وتساعد فريق مركز العمليات الأمنية على التصرف بسرعة.

إطار قرار حوادث الذكاء الاصطناعي

مبرَّر، أم تجاوز للصلاحيات، أم خبيث؟

عند تلقي تنبيه متعلق بالذكاء الاصطناعي، تواجه خيارًا مهمًا. عليك أن تحدد ما إذا كان الإجراء مبرَّرًا، أو تجاوزًا للصلاحيات، أو خبيثًا. يساعدك هذا الاختيار على معرفة الخطوة التالية، ويحافظ على أمان بياناتك.

• المبرَّر: هي الإجراءات التي تساعد فيها مساعدات Copilot المستخدمين في عملهم. يتوافق المستخدم وتسمية الملف وسير العمل مع قواعدك. على سبيل المثال، يطلب موظف في القسم المالي من Copilot تلخيص تقرير يحق له الاطلاع عليه أصلًا. لا توجد أي قاعدة منتهكة.

• تجاوز الصلاحيات: يحدث عندما ينظر الذكاء الاصطناعي إلى بيانات لا ينبغي له استخدامها، حتى لو كان المستخدم يملك حق رؤيتها. فقد يتمكن المستخدم من فتح ملف، لكن قواعدك تنص على أن الذكاء الاصطناعي لا يجوز له قراءة الملفات المصنّفة "سرية للغاية". هذه الثغرة في القواعد قد تؤدي إلى تسريبات بيانات الذكاء الاصطناعي.

• الإجراءات الخبيثة: هي دلائل واضحة على قيام شخص ما بعمل مخالف عن قصد. قد ترى تغييرًا في التسمية، ثم يفتح Copilot الملف، وبعد قليل يُرسَل الملف خارج المؤسسة. يشير ذلك إلى مخاطر داخلية أو إلى هجوم مخطط له.

يمكنك استخدام جدول لمراجعة الإجراءات الشائعة التي قد تلاحظها:

قد تلاحظ أيضًا هذه الإجراءات الخطرة:

• تسميم الذاكرة، أي أن يتمكن شخص ما من تغيير طريقة تصرف الذكاء الاصطناعي مع مرور الوقت.

• إساءة استخدام الأدوات، مثل استخدام ميزات التقويم أو واجهات برمجة التطبيقات بطرق غير متوقعة.

• إساءة استخدام هوية الوكيل، حيث ينتحل شخص هوية مستخدم آخر أو يمنح وكيل الذكاء الاصطناعي صلاحيات أكبر من اللازم.

تحتاج إلى اكتشاف هذه المشكلات مبكرًا. فذلك يساعدك على إيقاف التسريبات والحفاظ على أمان مجموعتك.

أسئلة الفرز الرئيسية لمراكز العمليات الأمنية (SOC)

عند تلقي تنبيه، يجب أن تتحرك بسرعة. تحتاج إلى طرح أسئلة جيدة لتعرف ما الذي حدث وما الذي ينبغي فعله. فيما يلي بعض الأسئلة المهمة التي تساعدك:

1. من هو المستخدم؟
   تحقّق من أن المستخدم هو الشخص الصحيح. ابحث عن علامات تدل على اختراق الحساب أو استخدامه بطريقة غريبة.

2. ما هي التسمية وسجل تغييراتها؟
   انظر إلى تسمية الملف، وتحقق مما إذا كان أحدهم قد غيّرها قبل أن يطّلع عليها الذكاء الاصطناعي.

3. إلى أين انتقل المحتوى بعد ذلك؟
   تتبّع ما إذا كان الملف قد شورك، أو أُرسل بالبريد الإلكتروني، أو نُقل إلى جهاز شخصي بعد وصول الذكاء الاصطناعي إليه.

4. هل يتطابق هذا مع نمط المستخدم المعتاد في التعامل مع البيانات؟
   قارن هذا الإجراء بما يفعله المستخدم عادةً. وانتبه للتغييرات المفاجئة أو الخطوات الخطرة.

5. هل اتبع الوصول إلى الذكاء الاصطناعي نهجًا معتمدًا أم خالف قاعدة؟
   تحقّق مما إذا كان ينبغي لسياسات منع فقدان البيانات (DLP) أو ضوابط الحماية الخاصة بالذكاء الاصطناعي أن توقف هذا الإجراء.

نصيحة: دوّن دائمًا ما تجده. فهذا يساعدك على التحسن وتدريب فريقك.

يمكنك استخدام هذه الأسئلة لتحديد ما إذا كان الحادث مبرَّرًا أو تجاوزًا للصلاحيات أو خبيثًا. تساعدك هذه الخطة على التصرف بسرعة وتقليل احتمال حدوث تسريبات بيانات الذكاء الاصطناعي.

الربط بين الإشارات عبر الأدوات

عند البحث عن تسريبات بيانات الذكاء الاصطناعي، تحتاج إلى النظر في أكثر من أداة. تقدّم كل أداة جزءاً من الصورة. فإذا اكتفيت بالنظر إلى تنبيه واحد، قد تفوتك الصورة الأكبر. ينبغي أن تربط الإشارات القادمة من Purview وDSPM وDefender XDR والتدقيق في المطالبات ببعضها، فهذا يساعدك على معرفة ما حدث فعلاً.

Purview وDSPM وسجل التسميات

تساعدك Purview وDSPM على تتبع بياناتك. يمكنك معرفة مكان ملفاتك، ومن يملك الوصول إليها، وما التسميات المرتبطة بها. إذا غيّر أحدهم تسمية من "Highly Confidential" إلى "General," فيجب أن تعرف ذلك. يوضح لك سجل التسميات ما إذا كان أحدهم قد حاول إخفاء القيمة الحقيقية لملف ما. يمكنك استخدام هذه الأدوات لرصد التغييرات الخطرة قبل أن تصل أدوات الذكاء الاصطناعي إلى البيانات. وعندما تربط تغييرات التسميات بالوصول من خلال الذكاء الاصطناعي، تحصل على مؤشر واضح على احتمال وجود مشكلة.

Defender XDR والتدقيق في المطالبات

يمنحك Defender XDR والتدقيق في المطالبات تفاصيل أكثر. يراقب Defender XDR الإجراءات غير المعتادة عبر نقاط النهاية والسحابة وأنظمة الهوية. ويمكنه رصد الحالات التي تتصرف فيها أدوات الذكاء الاصطناعي بطرق لا تتوقعها. أما التدقيق في المطالبات فيتيح لك الاطلاع على ما يطلبه المستخدمون ووكلاء الذكاء الاصطناعي، وما يحصلون عليه في المقابل. ويمكنك التحقق مما إذا كان أحدهم قد حاول الحصول على بيانات حساسة عبر مطالبة في الذكاء الاصطناعي.

إليك كيف يساعدك Defender XDR والتدقيق في المطالبات:

• يمنحك Defender XDR توصيات لوضع الأمان الخاص بوكلاء الذكاء الاصطناعي.

• ويوضح لك مسارات الهجوم التي تستهدف وكلاء الذكاء الاصطناعي.

عندما تربط تغييرات التسميات والوصول من خلال الذكاء الاصطناعي وحركة البيانات، ترى الصورة الحقيقية. وهذا يساعدك على إيقاف التسريبات قبل أن تتسع.

دليل التشغيل السريع لمركز العمليات الأمنية لتسريبات بيانات الذكاء الاصطناعي

عند مواجهة احتمال وقوع تسريب لبيانات الذكاء الاصطناعي، يجب أن تتحرك بسرعة وأن تتبع خطة واضحة. يقدّم لك هذا الدليل إرشادات خطوة بخطوة تساعدك على الفرز واتخاذ القرار واحتواء الحادثة. ويمكنك استخدامه كقائمة مرجعية في اللحظات الأولى من التنبيه.

أول 10 دقائق: خطوات الفرز

يجب أن تتحرك بسرعة عندما تلاحظ تنبيهاً متعلقاً بالذكاء الاصطناعي والبيانات الحساسة. الدقائق العشر الأولى حاسمة. إليك ما ينبغي عليك فعله:

1. أقرّ بالتنبيه فوراً.
   لا تنتظر. تأكد من رؤية كل تنبيه وتسجيله فور ظهوره.

2. ابدأ التحقيق.
   فكّر فيما قد يعنيه التنبيه. هل هو إجراء عادي أم خطأ أم شيء خطير؟ اجمع أكبر قدر ممكن من المعلومات.

3. اجمع كل البيانات.
   راجع سجلات SIEM، وتحقق من نشاط نقاط النهاية، وادرس هوية المستخدم، واستفد من أي معلومات استخبارية عن التهديدات لديك. لا تنتظر أن يقوم بذلك شخص آخر.

4. أجرِ عدة فحوص في وقت واحد.
   قد تتلقى أكثر من تنبيه. ابدأ بالتحقيق في كل منها حتى لا تفوتك أي أمور مهمة.

نصيحة: دوّن دائماً ما تجده في هذه الخطوات الأولى. فالملاحظات الجيدة تساعدك وفريقك على التعلم من كل حادثة.

شجرة القرار والاحتواء

بعد إتمام الفحوص الأولية، عليك أن تقرر الخطوة التالية. استخدم شجرة قرار تساعدك على اختيار الإجراء المناسب. يوضح الجدول أدناه كيف يمكنك مطابقة الإشارات بالإجراءات:

يجب أن تختار الإجراء الصحيح بناءً على ما تراه. فإذا وجدت إساءة استخدام لأداة على وكيل عالي الخطورة، فينبغي أن تعزل النظام وتلغي أي وصول خاص. وإذا رصدت مشكلة في سلسلة التوريد، فينبغي أن تتابع المشكلة وتصححها وتبلغ المالك.

للاحتواء، لديك عدة خيارات لإيقاف التسريب وحماية بياناتك:

• فرض حدود على معدل الطلبات ووضع علامات مائية على مخرجات نموذج الذكاء الاصطناعي. يساعدك ذلك على التحكم في حجم البيانات التي تغادر نظامك.

• راقب الاستعلامات الغريبة أو المتكررة. فالأنماط غير المعتادة قد تكشف لك مكان بدء التسريب المحتمل.

• استخدم أدوات الخصوصية مثل الحجب أو الخصوصية التفاضلية. تعمل هذه الأدوات على إخفاء المعلومات الحساسة أو حمايتها.

• فعّل التحليلات السلوكية. فهي تتيح لك رصد التصرفات غير الطبيعية في الوقت الفعلي والاستجابة بسرعة.

إذا تصرفت بسرعة واتبعت هذه الخطوات، يمكنك خفض مخاطر تسرب بيانات الذكاء الاصطناعي والحفاظ على أمان مؤسستك.

ضوابط الحماية التي تمنع تسرب بيانات الذكاء الاصطناعي

تقييم المشاركة المفرطة ووضع التسميات

يمكنك تفادي كثير من المشكلات مبكرًا من خلال فحص المشاركة المفرطة واستخدام تسميات واضحة. فإذا عرفت من يستطيع الاطلاع على كل ملف وكيف صُنّف، فإنك تقلل من احتمال تسرب بيانات الذكاء الاصطناعي. استخدم أدوات تساعدك على العثور على الملفات أو المجلدات التي يستطيع الوصول إليها عدد كبير جدًا من الأشخاص. تتيح لك هذه الأدوات معالجة المشكلات بسرعة. يوضح الجدول أدناه طرقًا لتحسين عمليتك:

يمكنك أيضًا استخدام خرائط الاكتشاف لمراقبة حركة البيانات. وتساعدك جرود التطبيقات على تحديد التطبيقات أو الموصلات الخطرة. كما تتيح لك نمذجة التهديدات معرفة المواضع التي قد تسبب فيها المشاركة المفرطة مشكلات.

قواعد الكشف و DLP المدركة للذكاء الاصطناعي

تحتاج إلى قواعد خاصة للحفاظ على بياناتك من مخاطر الذكاء الاصطناعي الجديدة. يمكن لأدوات منع فقدان البيانات فحص ما ينتجه الذكاء الاصطناعي أو يشاركه. تبحث هذه الأدوات عن المعلومات الخاصة قبل أن تغادر نظامك. وتستخدم بعض الأدوات الفحص في الوقت الفعلي، أو الإخفاء التلقائي، أو الحجب لإخفاء البيانات الحساسة. ويمكنك إعداد قواعد مخصصة لمنع وصول أنواع معينة من المعلومات إلى المستخدمين.

يمكنك أيضًا استخدام أدوات التحقق التي تفحص مخرجات الذكاء الاصطناعي بحثًا عن البيانات الحساسة. وبعضها يتحقق حتى من معلومات مثل المعلومات الشخصية القابلة للتعريف أو أسرار الشركة قبل مشاركة النتائج.

الحوكمة وتصنيف التسميات

تساعدك الحوكمة الجيدة ونظام تسميات واضح على البقاء في موقع التحكم. فعندما تستخدم إطارًا منظمًا، تتأكد من أن بياناتك آمنة وصحيحة. يمكنك اتباع معايير مثل مبادئ FAIR أو DMBOK لتوجيه عملك. تساعدك هذه الأطر على إدارة البيانات وتأمينها والالتزام بقواعد الخصوصية.

يمكن للذكاء الاصطناعي أن يساعدك على إدارة البيانات بشكل أفضل. فهو يستطيع اكتشاف المشكلات وتساعدك على معالجتها بسرعة. ينبغي عليك تقسيم بياناتك بالطريقة الصحيحة لمنع التسريب أثناء التدريب. على سبيل المثال، استخدم التقسيم القائم على الوقت للتواريخ، أو جمّع البيانات حسب المستخدم. وقسّم البيانات دائمًا بعد الانتهاء من أي تعديلات لتجنب الأخطاء.

نصيحة: إن نظام التسميات البسيط ذو القواعد الواضحة يسهّل على الجميع اتباع أفضل الممارسات ومنع التسريبات.

المقاييس وأصحاب المصلحة

أهداف OKR الرئيسية لتسرب بيانات الذكاء الاصطناعي

تحتاج إلى أهداف واضحة لتعرف ما إذا كنت توقف تسرب بيانات الذكاء الاصطناعي. تُظهر هذه الأهداف ما يعمل بشكل جيد وما يحتاج إلى تحسين. تساعدك OKRs، أو الأهداف والنتائج الرئيسية، على متابعة عملك. وإليك بعض الأمثلة التي قد تستخدمها:

ينبغي عليكم مراجعة هذه الأهداف والنتائج الرئيسية بشكل متكرر. فمتابعة تقدمكم تساعدكم على اكتشاف المشكلات مبكرًا واتخاذ قرارات أفضل.

نصيحة: شاركوا أهدافكم ونتائجكم الرئيسية مع فريقكم. فذلك يساعد الجميع على العمل معًا لتحقيق الأهداف نفسها.

الأدوار عبر الأمن والحوكمة

تحتاجون إلى الأشخاص المناسبين لإيقاف تسريبات بيانات الذكاء الاصطناعي. يجب أن يساهم فرق عديدة في الحفاظ على بياناتكم آمنة. ولكل مجموعة مهمة خاصة:

• يضع قادة الأمن، مثل مديري أمن المعلومات، القواعد ويحافظون على سلامة أنظمة الذكاء الاصطناعي.

• تتحقق فرق الامتثال من التزامكم بقوانين البيانات وأنظمتها.

• تتحكم فرق إدارة الهويات في من يمكنه الاطلاع على البيانات الحساسة واستخدامها.

• يجب عليكم وضع حدود واضحة لما يمكن لوكلاء الذكاء الاصطناعي تنفيذه.

• امنحوا الأذونات المناسبة لكل مستخدم ولكل نظام.

• عيّنوا شخصًا لمراقبة استخدام الذكاء الاصطناعي والتأكد من الالتزام بالقواعد.

• تساعد الحوكمة المركزية على تقليل المخاطر الناتجة عن وكلاء الذكاء الاصطناعي.

• يستطيع الفرق التي تعمل معًا حل المشكلات بشكل أسرع وتبادل ما تعرفه.

عندما تعمل جميع هذه المجموعات معًا، تبنون دفاعًا قويًا ضد تسريبات بيانات الذكاء الاصطناعي. يعرف الجميع دوره ويعمل نحو الهدف نفسه.

مستقبل مراكز عمليات الأمن والذكاء الاصطناعي

اتجاهات أمن الذكاء الاصطناعي

سيتغير أمن الذكاء الاصطناعي كثيرًا قريبًا. يستخدم المهاجمون الذكاء الاصطناعي اليوم لابتكار تهديدات أذكى. وتزداد برمجيات الفدية تطورًا، لذا يجب الانتباه للأساليب الجديدة. كما أن هناك قواعد أكثر يجب الالتزام بها، لذا ينبغي الانتباه إليها.

إليكم بعض الاتجاهات التي يجب معرفتها:

• تحدث الهجمات المدفوعة بالذكاء الاصطناعي بوتيرة أكبر. يستخدم المهاجمون تعلم الآلة لاكتشاف نقاط الضعف بشكل أسرع.

• تستهدف برمجيات الفدية الآن البيانات والنسخ الاحتياطية معًا. وهذا يجعل معالجة المشكلات أصعب.

• يجب اتباع المزيد من القواعد للحفاظ على أمان البيانات.

• يساعدكم تعلم الآلة على رصد التهديدات من خلال تعلّم ما هو طبيعي. فيُنبّه إلى أي شيء يبدو غريبًا.

• تتحقق القياسات الحيوية السلوكية مما إذا كان المستخدم يتصرف كما عهدناه. وهذا يضيف طبقة أمان إضافية.

• تعني بنية الثقة الصفرية أنكم لا تثقون بأي جهة تلقائيًا. تتحققون دائمًا قبل السماح لأي طرف بالدخول.

واصلوا التعلّم وحافظوا على حب الاستطلاع. ستغيّر هذه الاتجاهات طريقة حمايتكم لبياناتكم.

الاستعداد لمخاطر الذكاء الاصطناعي من الجيل التالي

يمكنكم الاستعداد لمخاطر الذكاء الاصطناعي الجديدة بتحديث أدواتكم وطريقة تفكيركم. ابدأوا باستخدام الذكاء الاصطناعي في كل جزء من الرصد والاستجابة للتهديدات. استخدموا الذكاء الاصطناعي للبحث عن الأنماط غير الاعتيادية في بيانات الأمن لديكم. تساعدكم الاستجابات الآلية على التصرف بسرعة عندما يحدث خطأ ما. تتيح لكم استخبارات التهديدات التنبؤية رصد الهجمات قبل وقوعها. وتتحسن أنظمة التعلم التكيفي مع الوقت، فتبقى دفاعاتكم قوية.

جربوا هذه الخطوات للاستعداد:

1. نظّموا ورش عمل لتحديد المخاطر في أنظمتكم ومناقشتها.

2. تحققوا من احتمالية وقوع كل خطر ومقدار الضرر الذي قد يسببه.

3. حددوا مقدار المخاطر التي يمكنكم تحمّلها، واختاروا أفضل الطرق لتقليلها.

4. واصلوا مراجعة أنظمتكم وحدّثوا خططكم مع تغير أدوات الذكاء الاصطناعي.

إن الموازنة بين الأفكار الجديدة والأمان تتطلب العمل الجماعي. تربط الحوكمة الجيدة جميع أجزاء نظام الذكاء الاصطناعي لديكم وتُبقي الجميع مسؤولين. يضع قادة الأمن الضوابط ويساعدون الفرق على العمل معًا. ويمكن للجنة توجيه الذكاء الاصطناعي أن ترشد خطتكم وتضمن الالتزام بالقواعد. تتيح لكم بيئات الاختبار الآمنة تجربة أفكار جديدة دون المخاطرة بأنظمتكم الرئيسية. وتُبقي التقارير الدورية الجميع على اطلاع وتساعدكم على اتخاذ قرارات ذكية.

بالبقاء يقظين والعمل معًا، يمكنكم مواجهة مستقبل أمن الذكاء الاصطناعي بثقة.

تحدث معظم تسريبات البيانات المرتبطة بالذكاء الاصطناعي لأن البيانات غير مُدارة بشكل جيد وتسميات الحساسية ضعيفة. المشكلة ليست في مساعدي الذكاء الاصطناعي بحد ذاتهم. تُظهر الدراسات أن 68% من التسريبات تحدث عندما تصل معلومات خاصة إلى أدوات الذكاء الاصطناعي. كما أن 60% من مشكلات الذكاء الاصطناعي تنتهي بخروج البيانات.

يمكنك معالجة هذا الأمر من خلال وضع قواعد صارمة والعمل بشكل تعاوني. أولاً، اضبط تسميات افتراضية لملفاتك. ثم أضف قواعد DLP تعمل مع الذكاء الاصطناعي. فعّل تدقيق المطالبات لمراقبة ما يفعله الذكاء الاصطناعي. جرّب تنفيذ هذه الخطوات خلال جلسة عمل مدتها ساعة واحدة. واستمر في التعلم وطوّر دفاعاتك مع تنامي تهديدات الذكاء الاصطناعي.

الأسئلة المتداولة

ما هو "تسريب بيانات Copilot"؟

يحدث تسريب بيانات Copilot عندما تصل مساعدات الذكاء الاصطناعي إلى بيانات حساسة يجب أن تبقى خاصة أو تشاركها. وقد يحدث ذلك إذا كانت الملفات تحمل تسميات ضعيفة أو إذا كان عدد كبير من الأشخاص قادرين على عرضها.

كيف يمكنك معرفة ما إذا كان إجراء الذكاء الاصطناعي محفوفاً بالمخاطر؟

ينبغي لك التحقق من الشخص الذي طلب من الذكاء الاصطناعي الوصول إلى البيانات، والتسمية التي كانت على الملف، والوجهة التي انتقلت إليها البيانات لاحقاً. ابحث عن تغييرات في التسميات، وسلوك غير معتاد للمستخدمين، أو ملفات تُرسل إلى خارج الشركة.

ما الأدوات التي تساعد على اكتشاف تسريبات بيانات الذكاء الاصطناعي؟

• Microsoft Purview وDSPM: تتبّع البيانات والتسميات.

• Defender XDR: راقب الإجراءات غير المعتادة.

• تدقيق المطالبات: راجع ما يطلبه المستخدمون والذكاء الاصطناعي.

نصيحة: استخدم هذه الأدوات معاً للحصول على أفضل النتائج.

كيف تمنع الذكاء الاصطناعي من تسريب البيانات الحساسة؟

يمكنك تعيين تسميات قوية، وتقييد الأشخاص القادرين على عرض الملفات، واستخدام قواعد DLP تمنع الذكاء الاصطناعي من قراءة البيانات المصنفة "Highly Confidential". وفعّل تدقيق المطالبات لمراقبة إجراءات الذكاء الاصطناعي.

من ينبغي أن يساعد في إدارة مخاطر بيانات الذكاء الاصطناعي؟

يجب على الجميع العمل معاً للحفاظ على أمان البيانات

استمع أيضاً إلى هذه الحلقات

إذا كنت تبحث في مراقبة أمان Copilot، فإن هذه الحلقات تضيف سياقاً عملياً حول التنفيذ والبنية والأمان والحوكمة:

• حوكمة Microsoft Teams – وهم السيطرة — تعرّف على كيفية تأثير قرارات الملكية والنهج ودورة الحياة في موثوقية عمليات Microsoft 365.
• Microsoft AI Agent Harness – شرح مبسّط — افهم التنسيق وحواجز الحماية والتقييم وإمكانية الملاحظة لسير العمل المدعوم بالذكاء الاصطناعي.
• Azure AI Foundry – شرح مبسّط — تعرّف على كيفية بناء حلول الذكاء الاصطناعي للمؤسسات وتقييمها ونشرها وحوكمتها.
• Microsoft Defender XDR – شرح مبسّط — اربط خيارات التنفيذ برؤية الأمان والتحقيق والاستجابة.