M365Con 2027 – مؤتمر مجاني عبر الإنترنت · 11–22 Jan 2027 · 120 sessions m365con.net

Time to first token (TTFT)

Concept

مقياس لزمن الاستجابة في أنظمة الذكاء الاصطناعي التوليدي، يقيس الفترة الزمنية بين إرسال المستخدم طلبه وظهور أول رمز (token) من الإجابة.

✦ CONCEPTTime to first token(TTFT)M365.FM
Title graphic: Time to first token (TTFT) (Concept)

مواضيع تُناقش أيضًا

في الحلقة التي تتناول Time to first token (TTFT) تُناقش أيضًا: Named entity recognition (NER)، Reciprocal rank fusion (RRF)، Optical character recognition (OCR)، Reranking، Keyword search وSecurity trimming.

Description

زمن الوصول إلى أول رمز (Time to first token - TTFT) هو مقياس لزمن الاستجابة في أنظمة الذكاء الاصطناعي التوليدي. يقيس الفترة الزمنية بين إرسال المستخدم طلبه وظهور أول رمز من الإجابة. ويُعبَّر عنه عادةً بالمللي ثانية، ويصف مدى سرعة بدء النموذج في الرد، لا المدة التي يستغرقها اكتمال الإجابة كاملةً.

يُستخدم هذا المقياس لتقييم سرعة الاستجابة. ففي واجهات الدردشة وغيرها من السيناريوهات التفاعلية، تحدد فترة الانتظار قبل ظهور أي مخرجات مدى سرعة شعور المستخدم بالنظام. وتتعامل وثائق Microsoft الخاصة بأداء Azure OpenAI وزمن الاستجابة مع هذا المقياس على أنه الفاصل الزمني بين إرسال المطالبة (prompt) واستلام أول رمز. كما تعرض علاقة بسيطة بين المقاييس: إجمالي زمن الاستجابة يساوي زمن الوصول إلى أول رمز مضافًا إليه متوسط الفجوة بين الرموز مضروبًا في عدد الرموز المُولَّدة. ولذلك فإن TTFT أحد مكونات زمن الاستجابة الكلي، بينما تسهم مرحلة التوليد اللاحقة في باقيه.

تؤثر عدة عوامل في هذه القيمة. وبحسب الوثائق، ترفع المطالبات الكبيرة تأخير ظهور الرمز الأول، مع أن حجم المطالبة عادةً ما يكون أقل أهمية من كمية النص المُولَّد. كما يمكن أن يؤدي الحمل الكبير على النشر وكثرة الطلبات المتزامنة إلى إبطاء الاستجابات. لذلك يصعب تفسير قراءة واحدة لـ TTFT دون سياق. وتوصي الوثائق بقراءة مقاييس زمن الاستجابة مع مقياس للرموز، مثل عدد رموز المطالبة المعالجة، حتى يمكن ربط الاستجابة البطيئة بكمية المدخلات التي عولجت.

في Azure Monitor، يقابل مقياس Time to Response زمن الوصول إلى أول رمز، ويناسب أحمال العمل المعتمدة على البث (streaming). ويوجد متغير معيَّر يقسم زمن وصول أول بايت على عدد رموز المطالبة. وهذا المتغير مخصص للمقارنة بين أحجام مطالبات مختلفة، وليس لتشخيص زمن الوصول المطلق. ولا تقدم الوثائق قيمًا مستهدفة محددة لـ TTFT، لذا تعتمد العتبات المقبولة على التطبيق ومستخدميه.

يرتبط البث ارتباطًا وثيقًا بالمقياس. فالبث يقصّر فترة الانتظار حتى ظهور المخرجات الأولى، ويحسّن الإحساس بالاستجابة في واجهات الدردشة، لكنه لا يغيّر المدة التي تستغرقها الإجابة كاملةً. ويقل أثره في مهام الدفعات، إذ لا يتابع أحد ظهور المخرجات، ويكون زمن الإنجاز الكلي هو الرقم الأهم. لذا يتوقف اختيار مقياس زمن الاستجابة الذي ينبغي تحسينه على ما إذا كان عبء العمل تفاعليًا أم موجهًا للدفعات.

يستخدم الحلقة "Real-Time AI Sensitivity Labeling in Microsoft Purview" من بودكاست M365.FM (2026-05-12) المصطلح في سياق حماية البيانات. تذكر الحلقة أن زمن الوصول إلى أول رمز يقيس مدى سرعة بدء الذكاء الاصطناعي في تحليل البيانات، وأن Microsoft Purview تقدم النتائج خلال ملي ثوانٍ، بحيث تُطبَّق الحماية تقريبًا فور حفظ الملف أو مشاركته. وتقدم هذه الاستجابة السريعة بوصفها وسيلة للحد من مخاطر التسريب والأخطاء، وتستشهد بأرقام لنماذج معايرة تتجاوز دقتها (precision) 95% للبيانات من المستوى 0 واسترجاعها (recall) أعلى من 90%. وتُنسب هذه الأرقام إلى الحلقة.

عمليًا، يُعد TTFT أحد عدة مقاييس تُستخدم عند تقييم أعباء عمل الذكاء الاصطناعي التوليدي أو مراقبتها. فهو يصف بداية الاستجابة، بينما تصف الفجوة بين الرموز وعددها بقية الاستجابة. وعند النظر إلى هذه المقاييس مجتمعةً، إلى جانب حجم المطالبة وحمل النشر، تتكون صورة أوضح عن أداء نشر النموذج.

Overview compiled with AI from M365.FM episodes and the facts on this page. You can improve it with the edit button below.

TypeConcept

Articles about Time to first token (TTFT) (2)

مقالات تتناول Time to first token (TTFT):

Frequently asked questions

Questions marked with AI were written with AI from the facts on this page.

ماذا يقيس زمن الوصول إلى أول رمز (TTFT)؟ (AI)

يقيس الفترة الزمنية بين إرسال المستخدم طلبًا إلى نظام الذكاء الاصطناعي التوليدي وظهور أول رمز من الإجابة. ويُعبَّر عنه عادةً بالمللي ثانية.

كيف يرتبط TTFT بإجمالي زمن الاستجابة؟ (AI)

وفقًا لوثائق Microsoft الخاصة بأداء Azure OpenAI وزمن الاستجابة، يساوي إجمالي زمن الاستجابة زمن الوصول إلى أول رمز مضافًا إليه متوسط الفجوة بين الرموز مضروبًا في عدد الرموز المُولَّدة.

هل يقلل البث من زمن الوصول إلى أول رمز؟ (AI)

يقصّر البث فترة الانتظار حتى ظهور المخرجات الأولى، ويحسّن الإحساس بالاستجابة في واجهات الدردشة. لكنه لا يغيّر المدة التي تستغرقها الإجابة كاملةً، ويقل أثره في مهام الدفعات.

Glossary

Community wiki

Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.

Experts and companies for this topic

Nobody has listed this topic yet. Add it to your profile.

Sources

Maintained by Mirko Peters (Microsoft MVP) · Last updated: