Time to first token (TTFT)
Concept
مقياس لزمن الاستجابة في أنظمة الذكاء الاصطناعي التوليدي، يقيس الفترة الزمنية بين إرسال المستخدم طلبه وظهور أول رمز (token) من الإجابة.
مواضيع تُناقش أيضًا
في الحلقة التي تتناول Time to first token (TTFT) تُناقش أيضًا: Named entity recognition (NER)، Reciprocal rank fusion (RRF)، Optical character recognition (OCR)، Reranking، Keyword search وSecurity trimming.
Description
زمن الوصول إلى أول رمز (Time to first token - TTFT) هو مقياس لزمن الاستجابة في أنظمة الذكاء الاصطناعي التوليدي. يقيس الفترة الزمنية بين إرسال المستخدم طلبه وظهور أول رمز من الإجابة. ويُعبَّر عنه عادةً بالمللي ثانية، ويصف مدى سرعة بدء النموذج في الرد، لا المدة التي يستغرقها اكتمال الإجابة كاملةً.
يُستخدم هذا المقياس لتقييم سرعة الاستجابة. ففي واجهات الدردشة وغيرها من السيناريوهات التفاعلية، تحدد فترة الانتظار قبل ظهور أي مخرجات مدى سرعة شعور المستخدم بالنظام. وتتعامل وثائق Microsoft الخاصة بأداء Azure OpenAI وزمن الاستجابة مع هذا المقياس على أنه الفاصل الزمني بين إرسال المطالبة (prompt) واستلام أول رمز. كما تعرض علاقة بسيطة بين المقاييس: إجمالي زمن الاستجابة يساوي زمن الوصول إلى أول رمز مضافًا إليه متوسط الفجوة بين الرموز مضروبًا في عدد الرموز المُولَّدة. ولذلك فإن TTFT أحد مكونات زمن الاستجابة الكلي، بينما تسهم مرحلة التوليد اللاحقة في باقيه.
تؤثر عدة عوامل في هذه القيمة. وبحسب الوثائق، ترفع المطالبات الكبيرة تأخير ظهور الرمز الأول، مع أن حجم المطالبة عادةً ما يكون أقل أهمية من كمية النص المُولَّد. كما يمكن أن يؤدي الحمل الكبير على النشر وكثرة الطلبات المتزامنة إلى إبطاء الاستجابات. لذلك يصعب تفسير قراءة واحدة لـ TTFT دون سياق. وتوصي الوثائق بقراءة مقاييس زمن الاستجابة مع مقياس للرموز، مثل عدد رموز المطالبة المعالجة، حتى يمكن ربط الاستجابة البطيئة بكمية المدخلات التي عولجت.
في Azure Monitor، يقابل مقياس Time to Response زمن الوصول إلى أول رمز، ويناسب أحمال العمل المعتمدة على البث (streaming). ويوجد متغير معيَّر يقسم زمن وصول أول بايت على عدد رموز المطالبة. وهذا المتغير مخصص للمقارنة بين أحجام مطالبات مختلفة، وليس لتشخيص زمن الوصول المطلق. ولا تقدم الوثائق قيمًا مستهدفة محددة لـ TTFT، لذا تعتمد العتبات المقبولة على التطبيق ومستخدميه.
يرتبط البث ارتباطًا وثيقًا بالمقياس. فالبث يقصّر فترة الانتظار حتى ظهور المخرجات الأولى، ويحسّن الإحساس بالاستجابة في واجهات الدردشة، لكنه لا يغيّر المدة التي تستغرقها الإجابة كاملةً. ويقل أثره في مهام الدفعات، إذ لا يتابع أحد ظهور المخرجات، ويكون زمن الإنجاز الكلي هو الرقم الأهم. لذا يتوقف اختيار مقياس زمن الاستجابة الذي ينبغي تحسينه على ما إذا كان عبء العمل تفاعليًا أم موجهًا للدفعات.
يستخدم الحلقة "Real-Time AI Sensitivity Labeling in Microsoft Purview" من بودكاست M365.FM (2026-05-12) المصطلح في سياق حماية البيانات. تذكر الحلقة أن زمن الوصول إلى أول رمز يقيس مدى سرعة بدء الذكاء الاصطناعي في تحليل البيانات، وأن Microsoft Purview تقدم النتائج خلال ملي ثوانٍ، بحيث تُطبَّق الحماية تقريبًا فور حفظ الملف أو مشاركته. وتقدم هذه الاستجابة السريعة بوصفها وسيلة للحد من مخاطر التسريب والأخطاء، وتستشهد بأرقام لنماذج معايرة تتجاوز دقتها (precision) 95% للبيانات من المستوى 0 واسترجاعها (recall) أعلى من 90%. وتُنسب هذه الأرقام إلى الحلقة.
عمليًا، يُعد TTFT أحد عدة مقاييس تُستخدم عند تقييم أعباء عمل الذكاء الاصطناعي التوليدي أو مراقبتها. فهو يصف بداية الاستجابة، بينما تصف الفجوة بين الرموز وعددها بقية الاستجابة. وعند النظر إلى هذه المقاييس مجتمعةً، إلى جانب حجم المطالبة وحمل النشر، تتكون صورة أوضح عن أداء نشر النموذج.
Overview compiled with AI from M365.FM episodes and the facts on this page. You can improve it with the edit button below.
| Type | Concept |
|---|
Articles about Time to first token (TTFT) (2)
مقالات تتناول Time to first token (TTFT):
- موت وسم البيانات يدوياً: لماذا أصبح الذكاء الاصطناعي الفوري ضرورياً لحوكمة البيانات الحديثة
· Mirko Peters
أهلاً بكم مجدداً في المدونة! إذا كنتم تديرون بيانات المؤسسة، فأنتم تعلمون أن حجم المعلومات غير المهيكلة يتزايد بمعدل متسارع. تغرق المؤسسات في رسائل البريد الإلكتروني ورسائل الدردشة - The Death of Manual Tagging: Why Real-Time AI is Essential for Modern Data Governance
· Mirko Peters
Welcome back to the blog! If you manage enterprise data, you already know that the volume of unstructured information is growing at an exponential rate. Organizatio…
Frequently asked questions
Questions marked with AI were written with AI from the facts on this page.
ماذا يقيس زمن الوصول إلى أول رمز (TTFT)؟ (AI)
يقيس الفترة الزمنية بين إرسال المستخدم طلبًا إلى نظام الذكاء الاصطناعي التوليدي وظهور أول رمز من الإجابة. ويُعبَّر عنه عادةً بالمللي ثانية.
كيف يرتبط TTFT بإجمالي زمن الاستجابة؟ (AI)
وفقًا لوثائق Microsoft الخاصة بأداء Azure OpenAI وزمن الاستجابة، يساوي إجمالي زمن الاستجابة زمن الوصول إلى أول رمز مضافًا إليه متوسط الفجوة بين الرموز مضروبًا في عدد الرموز المُولَّدة.
هل يقلل البث من زمن الوصول إلى أول رمز؟ (AI)
يقصّر البث فترة الانتظار حتى ظهور المخرجات الأولى، ويحسّن الإحساس بالاستجابة في واجهات الدردشة. لكنه لا يغيّر المدة التي تستغرقها الإجابة كاملةً، ويقل أثره في مهام الدفعات.
Community wiki
Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.
Experts and companies for this topic
Nobody has listed this topic yet. Add it to your profile.
Sources
- Azure OpenAI in Microsoft Foundry Models performance & latency – Microsoft Learn learn.microsoft.com
- موجز RSS: Time to first token (TTFT)
- Articles on this topic: 2
Maintained by Mirko Peters (Microsoft MVP) · Last updated: