كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةمختبر الشبكات العصبية البيانيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعي
خوارزمية

التعلم المعزز من التغذية الراجعة البشرية

Reinforcement Learning from Human Feedback

2022 موثّق جزئياً Partially Verified

تدريب نموذج مكافأة على تفضيلات البشر بين إجابات النموذج، ثم تحسين النموذج اللغوي بالتعلم المعزز ليتبع هذه التفضيلات.

آلية العمل

ثلاث مراحل: ضبط إشرافي على أمثلة مكتوبة، تدريب نموذج مكافأة على ترتيبات بشرية، ثم تحسين السياسة بخوارزمية PPO.

المزايا

  • يحسّن اتباع التعليمات والمواءمة

القيود

  • مكلف بشرياً
  • قد يستغل النموذج ثغرات نموذج المكافأة

التطبيقات العملية

ضبط المساعدات المحادثية مثل InstructGPT وChatGPT.

عناصر مرتبطة

خريطة المعرفة لهذا العنصر

افتح بالحجم الكامل

المصادر والمراجع العلمية

  1. Long Ouyang; Jeff Wu; Xu Jiang; ... (20) (2022). Training language models to follow instructions with human feedback. arXiv, 2203.02155. DOI: 10.48550/arXiv.2203.02155 · arXiv: 2203.02155

    يدعم: ورقة InstructGPT

    نسخة أولية (Preprint) · جرى التحقق من بياناته الببليوغرافية عبر OpenAlex · صفحة المرجع