2025-11-15

תקנו את צווארי הבקבוק של הנתונים ב-AI לפני שרוכשים כרטיסי NVIDIA Blackwell

המעבדים הגרפיים שלכם אינם הבעיה. הבעיה היא מארג הנתונים שלכם. בפרק הזה אנחנו מפרקים מדוע "מוכן ל-AI" מעל תשתית מיושנת מסוף שנות ה-2010 שורף לכם בשקט את חשבון הענן, וכיצד Azure יחד עם NVIDIA Blackwell הופכים את המשוואה. דמיינו אלפי מעבדים גרפיים שפועלים כמוח ענק אחד, NVLink ו-InfiniBand שמצמצמים את ההשהיה למיקרו-שניות, ו-Microsoft Fabric שסוף סוף מזין את המודלים בקצב שבו הם באמת יכולים לצרוך נתונים. אנחנו מנתחים את שבב העל Grace-Blackwell, מכונות הווירטואליות ברמת ארון ND GB200 v6, מרכזי הנתונים הקירורים בנוזל ללא בזבוז מים, ומה "תפוקת הסקה פי 35" אומרת באמת על תוכנית העבודה שלכם, ולא רק על השקף במצגת. לאחר מכן אנחנו נכנסים לאמת הלא נוחה: לאחר שתתקנו את החומרה, צינורות הנתונים, הממשל וקליטת הנתונים הם צווארי הבקבוק האמיתיים. אם תרצו לקצר מחזורי אימון משבועות לימים, להוריד את העלות לכל טוקן, ולהפוך את קנה המידה של טריליוני פרמטרים לעניין שגרתי, זה הפרק בשבילכם.

Apple Podcasts · Spotify · YouTube · YouTube Music

Fix AI Data Bottlenecks Before Buying NVIDIA Blackwell GPUs (English)