Jailbreak
كسر القيود
التعريف
محاولة تجاوز قيود الأمان في النموذج بمطالبات مصممة لإنتاج محتوى محظور.
تستغل لعب الأدوار أو التمويه أو سلاسل تعليمات معقدة. يُدرس لتحسين المتانة والتقييم الأمني (Red Teaming). تختلف عن حقن المطالبة التي تستهدف تعليمات التطبيق.
Definition
A jailbreak is an attempt to circumvent a model's safety restrictions through crafted prompts, studied in red teaming to improve robustness.
شرح مبسّط للمبتدئين
كمحاولة إقناع حارس بتجاوز تعليماته بحيلة لغوية.
شرح أكاديمي متخصص
لا حل نهائي؛ تُستخدم التدريب الخصومي والتصنيفات والتقييم المستمر.
أمثلة عملية
- مطالبة لعب أدوار لتجاوز الرفض.
التطبيقات والاستخدامات
- اختبار الأمان.
المزايا
- دراسته تحسّن المتانة.
القيود والعيوب
- سباق مستمر بين المهاجم والمدافع.
