2025-11-29

تشخيص نقص استغلال وحدة معالجة الرسومات والتراجع إلى المعالج المركزي في أنظمة الذكاء الاصطناعي

في هذه الحلقة من برنامج The M365 Show نحقق في نمط فشل مألوف لكنه كثيراً ما يُساء فهمه في الذكاء الاصطناعي للمؤسسات: ترتفع تكاليف وحدة معالجة الرسومات، ويتهاوى معدل الإنتاجية، ويصبح زمن الاستجابة غير قابل للتنبؤ، رغم أن لوحات المراقبة تبدو سليمة وأن النماذج تبدو وكأنها تعمل. وبدلاً من إلقاء اللوم على المعلمات أو البنى المعمارية، نعامل المشكلة كقضية جنائية ونتتبع الأدلة عبر خط أنابيب الحوسبة بأكمله. نستعرض حملة عمل واقعية لنموذج Stable Diffusion تحت التزامن المتزامن، مع أهداف صارمة لزمن الاستجابة عند النسبة المئوية 95 (P95)، وعتاد لوحات رسومية يبدو كافياً تماماً على الورق. ومن هناك نتتبع كيف يتضافر التراجع الصامت إلى المعالج المركزي في ONNX Runtime، وعدم تطابق الإصدارات الدقيق بين CUDA وcuDNN وTensorRT وONNX Runtime، وسوء إعداد الحاويات، لتشكل معاً آفة واحدة تحوّل المسرّع إلى سخان باهظ الثمن. يواصل النظام إرجاع مخرجات صحيحة، لكن بسرعة تقل بمقدار 10 إلى 30 مرة...

Apple Podcasts · Spotify · YouTube · YouTube Music

Diagnose GPU Underutilization and CPU Fallback in AI Systems (English)