كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةمختبر الشبكات العصبية البيانيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعيأكاديمية ماتلاب والذكاء الاصطناعيمصمم الشبكات العصبيةأكاديمية الذكاء الاصطناعي بدون برمجة

الوحدة 8 · الدرس 2 · 14 دقيقة قراءة

مستويات الاستقلالية

Levels of Autonomy

المقدمة

ليست كل الوكلاء مستقلة بالدرجة نفسها، ولا كل إجراءات الوكيل الواحد. في هذا الدرس نستخدم سلّمًا تعليميًا من خمس درجات، ونتعلم تحديد المستوى لكل إجراء وفق قابلية التراجع وحجم الأثر والثقة المثبتة، ثم نكتب السياسة ككود قابل للاختبار.

أهداف التعلم

  • وصف درجات سلّم الاستقلالية التعليمي من الأداة إلى المستقل مع إشراف
  • تحديد مستوى الاستقلالية لكل إجراء بدل الوكيل كله
  • استخدام قابلية التراجع وحجم الأثر والثقة المثبتة معايير للتحديد
  • تطبيق مبدأ الرفض الافتراضي ومرحلة الظل عند رفع الاستقلالية

الاستقلالية طيف لا مفتاح

في الدرس السابق رأينا أن الاستقلالية تزداد كلما انتقل القرار من الإنسان أو الكود إلى الوكيل. لتسهيل النقاش والتصميم، تستخدم الأكاديمية سلّمًا تعليميًا من خمس درجات. هذا السلّم أداة تفكير نقترحها لأغراض التعلم، وليس معيارًا رسميًا صادرًا عن جهة محددة؛ ستجد في المصادر المختلفة تقسيمات متقاربة بأسماء أخرى.

1. مساعديقترح فقط2. منفذ بموافقةكل فعل يُعتمد3. شبه مستقلالأفعال الحساسة تُعتمد4. مستقلحدود ومراقبة وإيقاف فوري
مستويات الاستقلالية: كلما زادت الاستقلالية قلّ تدخل الإنسان وزادت الحاجة إلى المراقبة والحدود.
المستوىالاسمماذا يفعل الوكيل؟دور الإنسان
0أداةلا قرار؛ ينفّذ أمرًا محددًايقرر كل شيء
1مساعد مقترِحيحلل ويقترح خياراتيختار وينفّذ بنفسه
2منفّذ بموافقةيجهّز الإجراء وينفّذه بعد الموافقةيوافق على كل إجراء
3منفّذ ضمن سياسةينفّذ الإجراءات منخفضة المخاطر وحده، ويطلب الموافقة للباقييحدد السياسة ويوافق على الاستثناءات
4مستقل مع إشرافينفّذ ويراقب نفسه ويصعّد عند الشكيراجع السجلات ويتدخل عند التنبيه

لاحظ أن المستوى 4 لا يعني غياب الإنسان، بل انتقال دوره من الموافقة المسبقة إلى الإشراف اللاحق عبر السجلات والتنبيهات ومفتاح الإيقاف.

الدرجة تُحدَّد لكل إجراء لا لكل وكيل

خطأ شائع أن نصف وكيلًا كاملًا بأنه «من المستوى 3». الأدق أن نحدد مستوى لكل نوع إجراء، لأن الوكيل نفسه قد يقرأ البيانات بحرية تامة لكنه لا يحذف شيئًا دون موافقة. ثلاثة عوامل تحدد المستوى المناسب لكل إجراء:

  1. قابلية التراجع (Reversibility): هل يمكن إلغاء الأثر بسهولة؟ قراءة ملف قابلة للتراجع تمامًا، أما إرسال بريد فلا.
  2. حجم الأثر (Impact): كم شخصًا أو مبلغًا أو سجلًا يتأثر إن أخطأ الوكيل؟
  3. الثقة المثبتة (Track Record): هل قِسنا أداء الوكيل في هذا الإجراء على حالات كافية؟

مثال عملي: مساعد البريد في قسم أكاديمي

السيناريو: سكرتارية قسم علوم الحاسب تستخدم وكيلًا يتعامل مع بريد الطلاب. نحدد سياسة واضحة لكل إجراء:

  • تصنيف الرسائل حسب الموضوع: المستوى 4 (قابل للتراجع، أثره محدود).
  • صياغة مسودة رد: المستوى 3 (يصوغ وحده، لكن الإرسال إجراء منفصل).
  • إرسال رد روتيني (مثل مواعيد الساعات المكتبية): المستوى 3 بشرط أن يطابق قالبًا معتمدًا.
  • إرسال رد يتضمن قرارًا (قبول عذر غياب مثلًا): المستوى 2، موافقة الموظف على كل رسالة.
  • حذف رسائل: المستوى 1، يقترح فقط.

وهذه السياسة نفسها مكتوبة ككود بسيط يمكن اختباره:

python
# سياسة استقلالية لكل إجراء - بايثون قياسي
POLICY = {                 # الإجراء: (المستوى، قابل للتراجع؟)
    "classify":       (4, True),
    "draft_reply":    (3, True),
    "send_template":  (3, False),
    "send_decision":  (2, False),
    "delete":         (1, False),
}

def decide(action, matches_template=False):
    level, reversible = POLICY.get(action, (0, False))   # الإجراء المجهول = لا استقلالية
    if level >= 4:
        return "نفّذ وسجّل"
    if level == 3 and (reversible or matches_template):
        return "نفّذ وسجّل"
    if level >= 2:
        return "اطلب موافقة قبل التنفيذ"
    if level == 1:
        return "اقترح فقط"
    return "ارفض: إجراء غير مسموح"

for a, t in [("classify", False), ("send_template", True), ("send_template", False),
             ("send_decision", False), ("delete", False), ("export_all", False)]:
    print(a, "->", decide(a, matches_template=t))

لاحظ سطرين مهمين: الإجراء غير الموجود في السياسة يُرفض افتراضيًا (المبدأ: الرفض الافتراضي Default Deny)، والرد غير المطابق للقالب يسقط تلقائيًا إلى طلب الموافقة.

كيف تنتقل بين المستويات بأمان؟

  • مرحلة الظل (Shadow Mode): يقترح الوكيل ما كان سيفعله دون تنفيذ، ويقارن الفريق اقتراحاته بقرارات البشر.
  • توسيع تدريجي: ارفع المستوى لإجراء واحد في كل مرة، ولشريحة صغيرة من الحالات.
  • شروط النزول: حدد مسبقًا ما الذي يعيد الإجراء إلى مستوى أدنى، مثل ارتفاع نسبة التصحيحات البشرية أو شكوى من مستخدم.

الملخص

الاستقلالية طيف، والأكاديمية تستخدم سلّمًا تعليميًا من خمس درجات: أداة، ومساعد مقترِح، ومنفّذ بموافقة، ومنفّذ ضمن سياسة، ومستقل مع إشراف. يُحدَّد المستوى لكل إجراء وفق قابلية التراجع وحجم الأثر والثقة المثبتة. السياسة تُكتب ككود قابل للاختبار مع رفض افتراضي للإجراءات المجهولة. ويُرفع المستوى تدريجيًا بعد مرحلة ظل وبيانات تثبت الأداء.

المصطلحات

المصطلحEnglishالتعريف
مستوى الاستقلاليةAutonomy Levelدرجة تحدد ما يفعله الوكيل دون إذن بشري
قابلية التراجعReversibilityإمكانية إلغاء أثر الإجراء بسهولة
الرفض الافتراضيDefault Denyرفض أي إجراء غير منصوص عليه صراحة في السياسة
مرحلة الظلShadow Modeتشغيل الوكيل ليقترح دون أن ينفّذ لمقارنة قراراته بقرارات البشر
الإشرافOversightمراقبة لاحقة عبر السجلات والتنبيهات بدل الموافقة المسبقة

أسئلة المراجعة

  1. لماذا يُحدَّد مستوى الاستقلالية لكل إجراء لا لكل وكيل؟
  2. ما العوامل الثلاثة التي تحدد المستوى المناسب لإجراء ما؟
  3. كيف يختلف دور الإنسان في المستوى 2 عنه في المستوى 4؟
  4. ما فائدة مرحلة الظل قبل رفع مستوى الاستقلالية؟

المراجع