التعلم العميق بالعربي الدكتور علاء طعيمة
النماذج اللغوية الكبيرة الذكاء الاصطناعي الذكاء الاصطناعي التوليدي متقدم

Constitutional AI

الذكاء الاصطناعي الدستوري

الاختصار: CAI

التعريف

أسلوب مواءمة يوجّه فيه نموذج بمجموعة مبادئ مكتوبة («دستور») ليقيّم ويُحسّن ردوده بنفسه.

يُنتج النموذج ردوداً وينتقدها وفق المبادئ ويُعدّلها، ثم يُدرَّب على المحسَّنة أو على تفضيلات يولّدها نموذج آخر. يقلل الاعتماد على وسم بشري ضار ويجعل القيم صريحة.

Definition

Constitutional AI aligns models using a written set of principles: the model critiques and revises its own outputs, and is trained on those revisions or AI-generated preferences.

شرح مبسّط للمبتدئين

كطالب يراجع إجابته على ضوء قائمة معايير مكتوبة ثم يصحّحها.

شرح أكاديمي متخصص

قدّمته Anthropic (Bai وآخرون 2022) بوصفه RLAIF: تعلم معزَّز من تغذية راجعة من الذكاء الاصطناعي.

أمثلة عملية

  • نقد رد على ضوء مبدأ «تجنب الضرر».

التطبيقات والاستخدامات

  • مواءمة النماذج.

المزايا

  • شفافية في القيم ووسم بشري أقل.

القيود والعيوب

  • يعتمد على جودة المبادئ والنموذج الناقد.

تعلّم وراجع

بطاقة مراجعة المصطلحراجعه مع المصطلحات المرتبطة به اختبار قصيرأسئلة عن هذا المصطلح وما يرتبط به

مصطلحات مقترحة للتعلّم بعده