الوحدة 8 · الدرس 2 · 14 دقيقة قراءة
مستويات الاستقلالية
Levels of Autonomy
المقدمة
ليست كل الوكلاء مستقلة بالدرجة نفسها، ولا كل إجراءات الوكيل الواحد. في هذا الدرس نستخدم سلّمًا تعليميًا من خمس درجات، ونتعلم تحديد المستوى لكل إجراء وفق قابلية التراجع وحجم الأثر والثقة المثبتة، ثم نكتب السياسة ككود قابل للاختبار.
أهداف التعلم
- وصف درجات سلّم الاستقلالية التعليمي من الأداة إلى المستقل مع إشراف
- تحديد مستوى الاستقلالية لكل إجراء بدل الوكيل كله
- استخدام قابلية التراجع وحجم الأثر والثقة المثبتة معايير للتحديد
- تطبيق مبدأ الرفض الافتراضي ومرحلة الظل عند رفع الاستقلالية
الاستقلالية طيف لا مفتاح
في الدرس السابق رأينا أن الاستقلالية تزداد كلما انتقل القرار من الإنسان أو الكود إلى الوكيل. لتسهيل النقاش والتصميم، تستخدم الأكاديمية سلّمًا تعليميًا من خمس درجات. هذا السلّم أداة تفكير نقترحها لأغراض التعلم، وليس معيارًا رسميًا صادرًا عن جهة محددة؛ ستجد في المصادر المختلفة تقسيمات متقاربة بأسماء أخرى.
| المستوى | الاسم | ماذا يفعل الوكيل؟ | دور الإنسان |
|---|---|---|---|
| 0 | أداة | لا قرار؛ ينفّذ أمرًا محددًا | يقرر كل شيء |
| 1 | مساعد مقترِح | يحلل ويقترح خيارات | يختار وينفّذ بنفسه |
| 2 | منفّذ بموافقة | يجهّز الإجراء وينفّذه بعد الموافقة | يوافق على كل إجراء |
| 3 | منفّذ ضمن سياسة | ينفّذ الإجراءات منخفضة المخاطر وحده، ويطلب الموافقة للباقي | يحدد السياسة ويوافق على الاستثناءات |
| 4 | مستقل مع إشراف | ينفّذ ويراقب نفسه ويصعّد عند الشك | يراجع السجلات ويتدخل عند التنبيه |
لاحظ أن المستوى 4 لا يعني غياب الإنسان، بل انتقال دوره من الموافقة المسبقة إلى الإشراف اللاحق عبر السجلات والتنبيهات ومفتاح الإيقاف.
الدرجة تُحدَّد لكل إجراء لا لكل وكيل
خطأ شائع أن نصف وكيلًا كاملًا بأنه «من المستوى 3». الأدق أن نحدد مستوى لكل نوع إجراء، لأن الوكيل نفسه قد يقرأ البيانات بحرية تامة لكنه لا يحذف شيئًا دون موافقة. ثلاثة عوامل تحدد المستوى المناسب لكل إجراء:
- قابلية التراجع (Reversibility): هل يمكن إلغاء الأثر بسهولة؟ قراءة ملف قابلة للتراجع تمامًا، أما إرسال بريد فلا.
- حجم الأثر (Impact): كم شخصًا أو مبلغًا أو سجلًا يتأثر إن أخطأ الوكيل؟
- الثقة المثبتة (Track Record): هل قِسنا أداء الوكيل في هذا الإجراء على حالات كافية؟
مثال عملي: مساعد البريد في قسم أكاديمي
السيناريو: سكرتارية قسم علوم الحاسب تستخدم وكيلًا يتعامل مع بريد الطلاب. نحدد سياسة واضحة لكل إجراء:
- تصنيف الرسائل حسب الموضوع: المستوى 4 (قابل للتراجع، أثره محدود).
- صياغة مسودة رد: المستوى 3 (يصوغ وحده، لكن الإرسال إجراء منفصل).
- إرسال رد روتيني (مثل مواعيد الساعات المكتبية): المستوى 3 بشرط أن يطابق قالبًا معتمدًا.
- إرسال رد يتضمن قرارًا (قبول عذر غياب مثلًا): المستوى 2، موافقة الموظف على كل رسالة.
- حذف رسائل: المستوى 1، يقترح فقط.
وهذه السياسة نفسها مكتوبة ككود بسيط يمكن اختباره:
# سياسة استقلالية لكل إجراء - بايثون قياسي
POLICY = { # الإجراء: (المستوى، قابل للتراجع؟)
"classify": (4, True),
"draft_reply": (3, True),
"send_template": (3, False),
"send_decision": (2, False),
"delete": (1, False),
}
def decide(action, matches_template=False):
level, reversible = POLICY.get(action, (0, False)) # الإجراء المجهول = لا استقلالية
if level >= 4:
return "نفّذ وسجّل"
if level == 3 and (reversible or matches_template):
return "نفّذ وسجّل"
if level >= 2:
return "اطلب موافقة قبل التنفيذ"
if level == 1:
return "اقترح فقط"
return "ارفض: إجراء غير مسموح"
for a, t in [("classify", False), ("send_template", True), ("send_template", False),
("send_decision", False), ("delete", False), ("export_all", False)]:
print(a, "->", decide(a, matches_template=t))لاحظ سطرين مهمين: الإجراء غير الموجود في السياسة يُرفض افتراضيًا (المبدأ: الرفض الافتراضي Default Deny)، والرد غير المطابق للقالب يسقط تلقائيًا إلى طلب الموافقة.
كيف تنتقل بين المستويات بأمان؟
- مرحلة الظل (Shadow Mode): يقترح الوكيل ما كان سيفعله دون تنفيذ، ويقارن الفريق اقتراحاته بقرارات البشر.
- توسيع تدريجي: ارفع المستوى لإجراء واحد في كل مرة، ولشريحة صغيرة من الحالات.
- شروط النزول: حدد مسبقًا ما الذي يعيد الإجراء إلى مستوى أدنى، مثل ارتفاع نسبة التصحيحات البشرية أو شكوى من مستخدم.
الملخص
الاستقلالية طيف، والأكاديمية تستخدم سلّمًا تعليميًا من خمس درجات: أداة، ومساعد مقترِح، ومنفّذ بموافقة، ومنفّذ ضمن سياسة، ومستقل مع إشراف. يُحدَّد المستوى لكل إجراء وفق قابلية التراجع وحجم الأثر والثقة المثبتة. السياسة تُكتب ككود قابل للاختبار مع رفض افتراضي للإجراءات المجهولة. ويُرفع المستوى تدريجيًا بعد مرحلة ظل وبيانات تثبت الأداء.
المصطلحات
| المصطلح | English | التعريف |
|---|---|---|
| مستوى الاستقلالية | Autonomy Level | درجة تحدد ما يفعله الوكيل دون إذن بشري |
| قابلية التراجع | Reversibility | إمكانية إلغاء أثر الإجراء بسهولة |
| الرفض الافتراضي | Default Deny | رفض أي إجراء غير منصوص عليه صراحة في السياسة |
| مرحلة الظل | Shadow Mode | تشغيل الوكيل ليقترح دون أن ينفّذ لمقارنة قراراته بقرارات البشر |
| الإشراف | Oversight | مراقبة لاحقة عبر السجلات والتنبيهات بدل الموافقة المسبقة |
أسئلة المراجعة
- لماذا يُحدَّد مستوى الاستقلالية لكل إجراء لا لكل وكيل؟
- ما العوامل الثلاثة التي تحدد المستوى المناسب لإجراء ما؟
- كيف يختلف دور الإنسان في المستوى 2 عنه في المستوى 4؟
- ما فائدة مرحلة الظل قبل رفع مستوى الاستقلالية؟
المراجع
- Building effective agents (Anthropic, 2024) www.anthropic.com روجع في 2026-11-18
- NIST AI Risk Management Framework www.nist.gov روجع في 2026-11-18
