الوكلاء المستقلون
Autonomous Agents
ما معنى أن يعمل الوكيل باستقلالية، وكيف نقيس درجتها، ونبني مهامًا طويلة ووكلاء متصفح وحاسوب، مع إبقاء الإنسان في الحلقة وإدارة المخاطر.
عن الوحدة
الاستقلالية (Autonomy) ليست مفتاحًا يُشغَّل أو يُطفأ، بل طيف من الدرجات يحدد كم قرارًا يتخذه الوكيل دون الرجوع إلى إنسان. في هذه الوحدة نعرّف الاستقلالية بدقة، ونرتّب مستوياتها من المساعد الذي يقترح فقط إلى الوكيل الذي ينفّذ ويراقب نفسه، ثم ننتقل إلى التطبيقات الأصعب: وكلاء المتصفح والحاسوب الذين يتعاملون مع واجهات صُممت للبشر، والمهام الطويلة التي تحتاج إلى نقاط حفظ (Checkpoints) واستئناف وميزانيات. نتعلم كيف نصمم نقاط الموافقة البشرية (Human-in-the-Loop) في المكان الصحيح، وكيف نحصر المخاطر بحدود الصلاحيات والميزانية وسجلات التدقيق ومفاتيح الإيقاف. الهدف أن تمنح الوكيل أقل قدر من الاستقلالية يكفي لإنجاز المهمة بأمان، لا أكثر.
أهداف التعلم
- تعريف الاستقلالية والتمييز بينها وبين الأتمتة الثابتة
- تصنيف وكيل ما على سلّم مستويات الاستقلالية وتبرير التصنيف
- تصميم مهمة طويلة بنقاط حفظ واستئناف وميزانية وشرط توقف
- وضع نقاط موافقة بشرية حيث يكون الإجراء مكلفًا أو غير قابل للتراجع
- تحليل مخاطر وكيل مستقل واقتراح ضوابط مناسبة لكل خطر
المتطلبات السابقة
- وحدة التخطيط (planning) وحلقة ReAct
- وحدة الأدوات (tools) وأمان الأدوات
- وحدة أطر بناء الوكلاء (frameworks)
المهارات المكتسبة
الدروس
- 1ما الاستقلالية في الوكلاء الذكيين؟What Is Agent Autonomy?يعمل كثير من البرامج «وحده»، لكن قلة منها مستقلة فعلًا. في هذا الدرس نعرّف الاستقلالية بأنها انتقال القرار من الكود إلى الوكيل، ونميزها عن ا…
- 2مستويات الاستقلاليةLevels of Autonomyليست كل الوكلاء مستقلة بالدرجة نفسها، ولا كل إجراءات الوكيل الواحد. في هذا الدرس نستخدم سلّمًا تعليميًا من خمس درجات، ونتعلم تحديد المستوى ل…
- 3وكلاء المتصفح واستخدام الحاسوبBrowser and Computer-Use Agentsحين لا توجد واجهة برمجية، يستطيع الوكيل أن يعمل كما يعمل الإنسان: يرى الصفحة وينقر ويكتب. في هذا الدرس نفهم حلقة وكلاء المتصفح والحاسوب، ولم…
- 4المهام طويلة التشغيلLong-Running Tasksالمهمة التي تستغرق ساعات أو أيامًا ستنقطع أو تنتظر حتمًا. في هذا الدرس نتعلم الركائز الأربع للمهام الطويلة: نقاط الحفظ، وعدم التكرار الضار،…
- 5الإنسان في الحلقةHuman-in-the-Loopالوكيل المستقل الجيد يعرف متى يتوقف ويسأل. في هذا الدرس نتعرف على أنماط التدخل البشري الأربعة، ونحدد أين نضع نقاط الموافقة دون إرهاق المراجع…
- 6مخاطر الاستقلالية وضوابطهاAutonomy Risks and Controlsكل درجة استقلالية إضافية توسّع سطح الخطر. في هذا الدرس نرسم خريطة المخاطر الرئيسية للوكلاء المستقلين، ونبني طبقات ضبط تكمل بعضها، ونكتب غلاف…
مخططات الوحدة
مصطلحات الوحدة
| المصطلح | English | التعريف |
|---|---|---|
| الاستقلالية | Autonomy | مقدار القرارات التي يتخذها الوكيل دون إذن بشري |
| الأتمتة الثابتة | Automation | تنفيذ خطوات محددة مسبقًا دون اتخاذ قرارات |
| مسار العمل | Workflow | تنسيق النماذج والأدوات عبر مسارات مكتوبة مسبقًا في الكود |
| ميزانية الخطوات | Step Budget | حد أقصى لعدد دورات الحلقة قبل التوقف أو التصعيد |
| التصعيد | Escalation | إحالة القرار إلى إنسان عند العجز أو الشك |
| مستوى الاستقلالية | Autonomy Level | درجة تحدد ما يفعله الوكيل دون إذن بشري |
| قابلية التراجع | Reversibility | إمكانية إلغاء أثر الإجراء بسهولة |
| الرفض الافتراضي | Default Deny | رفض أي إجراء غير منصوص عليه صراحة في السياسة |
| مرحلة الظل | Shadow Mode | تشغيل الوكيل ليقترح دون أن ينفّذ لمقارنة قراراته بقرارات البشر |
| الإشراف | Oversight | مراقبة لاحقة عبر السجلات والتنبيهات بدل الموافقة المسبقة |
| وكيل المتصفح | Browser Agent | وكيل يتصفح الويب وينفّذ أفعالًا في الصفحات |
| وكيل استخدام الحاسوب | Computer-Use Agent | وكيل يتحكم في واجهة الحاسوب بالنقر والكتابة |
| شجرة إمكانية الوصول | Accessibility Tree | تمثيل منظّم لعناصر الواجهة بأسمائها وأدوارها |
| الحقن غير المباشر للتعليمات | Indirect Prompt Injection | تعليمات خبيثة مخبأة في محتوى يقرؤه الوكيل |
| قائمة السماح | Allowlist | قائمة صريحة بالنطاقات أو الأفعال المسموح بها فقط |
| نقطة حفظ | Checkpoint | لقطة من حالة التشغيل تُحفظ في مخزن دائم للاستئناف منها |
| عدم التكرار الضار | Idempotency | خاصية تجعل تكرار الإجراء نفسه لا يغيّر الأثر بعد أول مرة |
| مفتاح عدم التكرار | Idempotency Key | معرّف فريد يمنع تنفيذ الإجراء نفسه مرتين |
| الميزانية | Budget | حد للخطوات أو الزمن أو الكلفة يوقف التشغيل عند بلوغه |
| الاستئناف | Resume | متابعة التشغيل من آخر نقطة حفظ بدل البدء من جديد |
| الإنسان في الحلقة | Human-in-the-Loop | توقف الوكيل عند نقاط محددة لطلب حكم بشري |
| بوابة الموافقة | Approval Gate | نقطة في المسار لا يمر بعدها الإجراء إلا بموافقة |
| إرهاق الموافقة | Approval Fatigue | موافقة المراجع دون تدقيق بسبب كثرة الطلبات |
| سجل التدقيق | Audit Log | سجل دائم بالقرارات ومن اتخذها ومتى ولماذا |
| السلوك الافتراضي الآمن | Safe Default | ما يحدث عند انتهاء المهلة دون قرار، مثل عدم التنفيذ |
| الصلاحيات المفرطة | Excessive Agency | امتلاك الوكيل وظائف أو صلاحيات أو استقلالية تفوق حاجة مهمته |
| أقل صلاحية | Least Privilege | منح كل مكون أضيق صلاحية تكفي لعمله |
| مفتاح الإيقاف | Kill Switch | إشارة خارجية توقف الوكيل فورًا |
| غلاف الحماية | Guard | طبقة كود تفرض القيود على استدعاءات الأدوات |
| تراكم الأخطاء | Error Compounding | بناء خطوات لاحقة على خطأ سابق فيتضخم أثره |
| إطار إدارة مخاطر الذكاء الاصطناعي | AI RMF | إطار من NIST بوظائف Govern وMap وMeasure وManage |
التجربة التطبيقية
حدود الاستقلالية ونقاط الموافقة Autonomy Limits & Approvals
أن تختبر كيف تتحكم حدود الخطوات والزمن ونقاط الموافقة البشرية في وكيل يعمل باستقلالية أعلى.
- افتح مختبر الوكيل المستقل (افتح ↗)
- أعطِ الوكيل هدفاً متعدد المراحل وشغّله بالإعدادات الافتراضية، واقرأ الخطوات
- في المحاكي أضف عقدة Human Approval قبل خطوة حساسة، واكتب في question ما سيُنفذ ولماذا
- شغّل ثلاث مرات مع auto بالقيم approve ثم reject ثم ask، وقارن المسارات
- اضبط timeout لعقدة Agent على قيمة صغيرة مثل 100 ولاحظ خطأ المهلة، ثم ارفعها
- اضبط failAt لعقدة Agent لمحاكاة فشل في خطوة معينة وراقب ما يحدث بعدها
ما الذي ستلاحظه: ستلاحظ أن الرفض البشري يوقف الفعل الحساس وهذا سلوك صحيح، وأن المهلة الصغيرة توقف الوكيل قبل إتمام عمله، وأن الفشل المحاكى يظهر أهمية وجود مسار بديل. الاستقلالية الأعلى تتطلب حدوداً أوضح لا أقل.
المهمة الختامية
في مختبر الاستقلالية (افتح ↗) ابنِ «وكيل متابعة فواتير» يقرأ قائمة فواتير محاكاة، ويحدد المتأخر منها، ويجهّز رسائل تذكير. سلّم: (1) جدولًا يحدد مستوى الاستقلالية لكل إجراء (قراءة، تحليل، صياغة، إرسال) مع التبرير، (2) حلقة تنفيذ بميزانية خطوات وشرط توقف ونقطة حفظ تسمح بالاستئناف بعد انقطاع، (3) عقدة موافقة بشرية (Human Approval) قبل أي إرسال، (4) سجل تدقيق يوضح كل قرار وسببه. معايير القبول: لا يُرسل أي تذكير دون موافقة، وتتوقف الحلقة عند تجاوز الميزانية مع تقرير واضح، ويمكن استئناف التشغيل من آخر نقطة حفظ دون تكرار رسالة.
تقييم الإكمال: تُعد الوحدة مكتملة عندما تنهي جميع دروسها وتنجح في اختبارها.
المراجع الرسمية
- Building effective agents (Anthropic, 2024) www.anthropic.com روجع في 2026-11-18
- LangGraph overview docs.langchain.com روجع في 2026-11-18
- NIST AI Risk Management Framework www.nist.gov روجع في 2026-11-18
- WebArena (Zhou et al., 2023) arxiv.org روجع في 2026-11-18
