أنواع LLMs

على مستوى عالٍ، يمكن تصنيف LLMs إلى نوعين، أي LLMs الأساسية وLLMs الموجهة للتعليمات.

LLMs الأساسية
LLMs الأساسية هي LLMs المصممة للتنبؤ بالكلمة التالية بناءً على بيانات التدريب. وهي ليست مصممة للإجابة على الأسئلة أو إجراء المحادثات أو المساعدة في حل المشكلات. على سبيل المثال، إذا أعطيت LLM الأساسية الجملة "في هذا الكتاب عن LLMs، سنناقش"، فقد تكمل هذه الجملة وتعطيك "في هذا الكتاب عن LLMs، سنناقش ماهية LLMs وكيف تعمل وكيف يمكنك الاستفادة منها في تطبيقاتك.." أو إذا أعطيتها "ما هي بعض الشبكات الاجتماعية الشهيرة؟"، فبدلاً من الإجابة قد تعطي "لماذا يستخدم الناس الشبكات الاجتماعية؟" أو "ما هي بعض فوائد الشبكات الاجتماعية؟". كما ترى، فهي تقدم لنا نصًا ذا صلة ولكنها لا تجيب على السؤال. وهنا يأتي دور LLMs الموجهة للتعليمات.

برامج تعليم اللغة الإنجليزية الموجهة
برامج تعليم اللغة الإنجليزية الموجهة، بدلاً من محاولة إكمال النص تلقائيًا، حاول اتباع التعليمات المقدمة باستخدام البيانات التي تم تدريبها عليها. على سبيل المثال، إذا أدخلت الجملة "ما هي برامج تعليم اللغة الإنجليزية الموجهة؟"، فسوف تستخدم البيانات التي تم تدريبها عليها وتحاول الإجابة على السؤال. وبالمثل، إذا أدخلت الجملة "ما هي بعض شبكات التواصل الاجتماعي الشهيرة؟"، فسوف تحاول الإجابة على السؤال بدلاً من إعطائك إجابة عشوائية.

لبناء نموذج التعلم المعزز، يتم أخذ نموذج التعلم الأساسي وتدريبه بشكل أكبر باستخدام مجموعة بيانات كبيرة تغطي "التعليمات" النموذجية وكيفية أداء النموذج نتيجة لتلك التعليمات. ثم يتم ضبط النموذج بدقة باستخدام تقنية تسمى "التعلم المعزز مع التغذية الراجعة البشرية" (RLHF) والتي تسمح للنموذج بالتعلم من التغذية الراجعة البشرية وتحسين أدائه بمرور الوقت.