غالبًا ما تولد أجهزة التعلم الآلي أكاذيب عندما يُطرح عليها سؤال لا تعرف إجابته. في بعض الأحيان، يصرحون بأنهم لا يعرفون الإجابة، ولكن في كثير من الأحيان سيعطون إجابة خاطئة بثقة.
أسباب الهلوسة
هناك العديد من العوامل التي تساهم في الهلوسة لدى أجهزة التعلم الآلي:
- القيود المتأصلة: بيانات التدريب لأجهزة التعلم هائلة، ومع ذلك لا تزال غير قادرة على احتواء المعرفة الكاملة عن العالم. ونتيجة لذلك، فإن أجهزة التعلم الآلي لديها قيود متأصلة في التعامل مع حقائق أو تفاصيل معينة، مما يؤدي إلى الهلوسة في النص الناتج.
- تحيزات بيانات التدريب: إذا كانت بيانات التدريب تحتوي على تحيزات أو أخطاء، فقد يؤدي ذلك إلى الهلوسة في الناتج حيث تتعلم أجهزة التعلم الآلي من البيانات التي تعرضت لها.
- التسجيل القائم على الرمز: السلوك الافتراضي للعديد من أجهزة التعلم الآلي، مثل نماذج GPT، هو إنشاء نص قائم على احتمالات الرمز. في بعض الأحيان، قد يؤدي هذا إلى تحديد رموز ذات احتمالية عالية حتى لو لم يكن ذلك منطقيًا مع المطالبة المقدمة.
التخفيف من الهلوسة
لتقليل حدوث الهلوسة في النص الناتج، ضع في اعتبارك الاستراتيجيات التالية:
- تحديد التعليمات: اجعل التعليمات أكثر وضوحًا مع تفاصيل وقيود واضحة. يمكن أن يساعد هذا في توجيه النموذج لتوليد استجابات أكثر دقة وتماسكًا.
- نهج خطوة بخطوة: بدلاً من مطالبة النموذج بإنشاء استجابة كاملة دفعة واحدة، قم بتقسيم المهمة إلى خطوات أصغر وتوليد الناتج بشكل متكرر. يمكن أن يساعد هذا في الحفاظ على سيطرة أفضل على المحتوى الناتج.
- تعديلات النموذج: قم بتعديل معلمات مختلفة، مثل درجة الحرارة أو top_p، لضبط عشوائية النص الناتج والتحكم فيه. ستؤدي القيم المنخفضة إلى جعل الناتج أكثر تحفظًا، مما قد يساعد في تقليل الهلوسة.
- التحقق والتصفية: قم بتطوير خطوات ما بعد المعالجة للتحقق من صحة النص الناتج وتصفيته بناءً على معايير أو قواعد محددة لتقليل انتشار الهلوسة في الناتج.
تذكر أنه حتى مع هذه الاستراتيجيات، من المستحيل القضاء على الهلوسة تمامًا. ومع ذلك، فإن الوعي بوجودها واستخدام أساليب للتخفيف من حدتها يمكن أن يحسن بشكل كبير جودة وموثوقية المحتوى الذي يتم إنشاؤه بواسطة LM.