0
تُعرف طريقة Top P أيضًا باسم "أخذ العينات من النواة"، وهي طريقة توفر طريقة أكثر ديناميكية للتحكم في عشوائية الناتج الناتج عن النموذج. وهي تعمل على تحسين التوازن بين الجودة والتنوع في توليد النص.
كيف تعمل طريقة Top P؟
بدلاً من اختيار أفضل K من الرموز ذات الاحتمال الأعلى كما هو الحال في أخذ العينات من Top K، تختار طريقة Top P عددًا من الرموز التي يبلغ مجموع احتمالاتها التراكمية القيمة المعطاة لـ P. P هي كتلة احتمالية تتراوح بين 0 و1. وهذا يعني أن عدد الرموز المختارة سوف يختلف، ويتكيف تلقائيًا مع التوزيع بطريقة أكثر تفصيلاً.
مزايا طريقة Top P
مخرجات أكثر تنوعًا وتماسكًا: تحقق طريقة Top P التوازن بين النص المحافظ للغاية والعشوائي للغاية. وهذا يخلق مخرجات أكثر تنوعًا وتماسكًا مقارنة بأخذ العينات من Top K.
عتبة التكيف: تسمح الطبيعة الديناميكية لعينة Top P بالتكيف مع توزيع احتمالات الرموز، على عكس أخذ العينات Top K الذي يتطلب ضبطًا يدويًا لـ K.
يمنع رموز OOV: من خلال جمع الرموز بناءً على عتبة احتمالية تراكمية، يمنع أخذ العينات Top P بشكل فعال تحديد رموز خارج المفردات (OOV).
ضبط قيمة P العليا
القيم المنخفضة: سيؤدي تقليل قيمة P إلى نتائج أكثر تركيزًا، وربما على حساب التنوع.
القيم الأعلى: ستشجع زيادة قيمة P النموذج على استكشاف استجابات أكثر تنوعًا، ربما على حساب التماسك.
في الممارسة العملية، تكون قيمة Top P المستخدمة بشكل شائع 0.9، ولكن يجب عليك تجربة قيم مختلفة لـ P اعتمادًا على حالة الاستخدام المحددة والتوازن المطلوب بين التنوع والتماسك.