كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةمختبر الشبكات العصبية البيانيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعي

الوكلاء المستقلون

Autonomous Agents

ما معنى أن يعمل الوكيل باستقلالية، وكيف نقيس درجتها، ونبني مهامًا طويلة ووكلاء متصفح وحاسوب، مع إبقاء الإنسان في الحلقة وإدارة المخاطر.

متقدمالمستوى
6الدروس
86 دقيقةزمن القراءة
0أسئلة الوحدة

عن الوحدة

الاستقلالية (Autonomy) ليست مفتاحًا يُشغَّل أو يُطفأ، بل طيف من الدرجات يحدد كم قرارًا يتخذه الوكيل دون الرجوع إلى إنسان. في هذه الوحدة نعرّف الاستقلالية بدقة، ونرتّب مستوياتها من المساعد الذي يقترح فقط إلى الوكيل الذي ينفّذ ويراقب نفسه، ثم ننتقل إلى التطبيقات الأصعب: وكلاء المتصفح والحاسوب الذين يتعاملون مع واجهات صُممت للبشر، والمهام الطويلة التي تحتاج إلى نقاط حفظ (Checkpoints) واستئناف وميزانيات. نتعلم كيف نصمم نقاط الموافقة البشرية (Human-in-the-Loop) في المكان الصحيح، وكيف نحصر المخاطر بحدود الصلاحيات والميزانية وسجلات التدقيق ومفاتيح الإيقاف. الهدف أن تمنح الوكيل أقل قدر من الاستقلالية يكفي لإنجاز المهمة بأمان، لا أكثر.

أهداف التعلم

  • تعريف الاستقلالية والتمييز بينها وبين الأتمتة الثابتة
  • تصنيف وكيل ما على سلّم مستويات الاستقلالية وتبرير التصنيف
  • تصميم مهمة طويلة بنقاط حفظ واستئناف وميزانية وشرط توقف
  • وضع نقاط موافقة بشرية حيث يكون الإجراء مكلفًا أو غير قابل للتراجع
  • تحليل مخاطر وكيل مستقل واقتراح ضوابط مناسبة لكل خطر

المتطلبات السابقة

  • وحدة التخطيط (planning) وحلقة ReAct
  • وحدة الأدوات (tools) وأمان الأدوات
  • وحدة أطر بناء الوكلاء (frameworks)

المهارات المكتسبة

  • تقدير مستوى الاستقلالية المناسب لمهمة وفق الكلفة وقابلية التراجع
  • كتابة حلقة وكيل بميزانية خطوات وشرط توقف ونقطة حفظ
  • تصميم بوابات موافقة بشرية وسياسات تصعيد
  • بناء سجل تدقيق (Audit Log) لقرارات الوكيل
  • تقييم مخاطر وكلاء المتصفح والحاسوب والحقن غير المباشر

الدروس

  1. 1ما الاستقلالية في الوكلاء الذكيين؟What Is Agent Autonomy?يعمل كثير من البرامج «وحده»، لكن قلة منها مستقلة فعلًا. في هذا الدرس نعرّف الاستقلالية بأنها انتقال القرار من الكود إلى الوكيل، ونميزها عن ا…13 د
  2. 2مستويات الاستقلاليةLevels of Autonomyليست كل الوكلاء مستقلة بالدرجة نفسها، ولا كل إجراءات الوكيل الواحد. في هذا الدرس نستخدم سلّمًا تعليميًا من خمس درجات، ونتعلم تحديد المستوى ل…14 د
  3. 3وكلاء المتصفح واستخدام الحاسوبBrowser and Computer-Use Agentsحين لا توجد واجهة برمجية، يستطيع الوكيل أن يعمل كما يعمل الإنسان: يرى الصفحة وينقر ويكتب. في هذا الدرس نفهم حلقة وكلاء المتصفح والحاسوب، ولم…15 د
  4. 4المهام طويلة التشغيلLong-Running Tasksالمهمة التي تستغرق ساعات أو أيامًا ستنقطع أو تنتظر حتمًا. في هذا الدرس نتعلم الركائز الأربع للمهام الطويلة: نقاط الحفظ، وعدم التكرار الضار،…15 د
  5. 5الإنسان في الحلقةHuman-in-the-Loopالوكيل المستقل الجيد يعرف متى يتوقف ويسأل. في هذا الدرس نتعرف على أنماط التدخل البشري الأربعة، ونحدد أين نضع نقاط الموافقة دون إرهاق المراجع…14 د
  6. 6مخاطر الاستقلالية وضوابطهاAutonomy Risks and Controlsكل درجة استقلالية إضافية توسّع سطح الخطر. في هذا الدرس نرسم خريطة المخاطر الرئيسية للوكلاء المستقلين، ونبني طبقات ضبط تكمل بعضها، ونكتب غلاف…15 د

مخططات الوحدة

الوكيلAgent + الهدفالإدراكPerceiveالتخطيطPlan / ReasonالتنفيذAct (Tools)الملاحظةObserve
حلقة الوكيل: يدرك ثم يخطط ثم ينفذ ثم يلاحظ النتيجة، ويكرر حتى يتحقق الهدف أو يبلغ حداً للخطوات.
1. مساعديقترح فقط2. منفذ بموافقةكل فعل يُعتمد3. شبه مستقلالأفعال الحساسة تُعتمد4. مستقلحدود ومراقبة وإيقاف فوري
مستويات الاستقلالية: كلما زادت الاستقلالية قلّ تدخل الإنسان وزادت الحاجة إلى المراقبة والحدود.
1234567المستخدمUserالتطبيقApp / RuntimeالنموذجModel + Tool Schemasطلب استدعاء{"name","arguments"}تنفيذ الأداةValidate → Executeنتيجة الأداةTool Resultالإجابة النهائيةFinal Answer
استدعاء الأدوات: النموذج لا ينفذ شيئاً بنفسه؛ يقترح استدعاءً منظماً، والتطبيق يتحقق منه وينفذه ويعيد النتيجة.
أداة؟حساس؟انتهىSTARTوكيلnodeأدواتnodeموافقة بشريةinterruptENDالحالة Statecheckpoint
سير عمل بمخطط حالات: عقد تقرأ الحالة المشتركة وتعدّلها، وحواف شرطية تختار المسار، ونقاط حفظ تسمح بالاستئناف.

مصطلحات الوحدة

المصطلحEnglishالتعريف
الاستقلاليةAutonomyمقدار القرارات التي يتخذها الوكيل دون إذن بشري
الأتمتة الثابتةAutomationتنفيذ خطوات محددة مسبقًا دون اتخاذ قرارات
مسار العملWorkflowتنسيق النماذج والأدوات عبر مسارات مكتوبة مسبقًا في الكود
ميزانية الخطواتStep Budgetحد أقصى لعدد دورات الحلقة قبل التوقف أو التصعيد
التصعيدEscalationإحالة القرار إلى إنسان عند العجز أو الشك
مستوى الاستقلاليةAutonomy Levelدرجة تحدد ما يفعله الوكيل دون إذن بشري
قابلية التراجعReversibilityإمكانية إلغاء أثر الإجراء بسهولة
الرفض الافتراضيDefault Denyرفض أي إجراء غير منصوص عليه صراحة في السياسة
مرحلة الظلShadow Modeتشغيل الوكيل ليقترح دون أن ينفّذ لمقارنة قراراته بقرارات البشر
الإشرافOversightمراقبة لاحقة عبر السجلات والتنبيهات بدل الموافقة المسبقة
وكيل المتصفحBrowser Agentوكيل يتصفح الويب وينفّذ أفعالًا في الصفحات
وكيل استخدام الحاسوبComputer-Use Agentوكيل يتحكم في واجهة الحاسوب بالنقر والكتابة
شجرة إمكانية الوصولAccessibility Treeتمثيل منظّم لعناصر الواجهة بأسمائها وأدوارها
الحقن غير المباشر للتعليماتIndirect Prompt Injectionتعليمات خبيثة مخبأة في محتوى يقرؤه الوكيل
قائمة السماحAllowlistقائمة صريحة بالنطاقات أو الأفعال المسموح بها فقط
نقطة حفظCheckpointلقطة من حالة التشغيل تُحفظ في مخزن دائم للاستئناف منها
عدم التكرار الضارIdempotencyخاصية تجعل تكرار الإجراء نفسه لا يغيّر الأثر بعد أول مرة
مفتاح عدم التكرارIdempotency Keyمعرّف فريد يمنع تنفيذ الإجراء نفسه مرتين
الميزانيةBudgetحد للخطوات أو الزمن أو الكلفة يوقف التشغيل عند بلوغه
الاستئنافResumeمتابعة التشغيل من آخر نقطة حفظ بدل البدء من جديد
الإنسان في الحلقةHuman-in-the-Loopتوقف الوكيل عند نقاط محددة لطلب حكم بشري
بوابة الموافقةApproval Gateنقطة في المسار لا يمر بعدها الإجراء إلا بموافقة
إرهاق الموافقةApproval Fatigueموافقة المراجع دون تدقيق بسبب كثرة الطلبات
سجل التدقيقAudit Logسجل دائم بالقرارات ومن اتخذها ومتى ولماذا
السلوك الافتراضي الآمنSafe Defaultما يحدث عند انتهاء المهلة دون قرار، مثل عدم التنفيذ
الصلاحيات المفرطةExcessive Agencyامتلاك الوكيل وظائف أو صلاحيات أو استقلالية تفوق حاجة مهمته
أقل صلاحيةLeast Privilegeمنح كل مكون أضيق صلاحية تكفي لعمله
مفتاح الإيقافKill Switchإشارة خارجية توقف الوكيل فورًا
غلاف الحمايةGuardطبقة كود تفرض القيود على استدعاءات الأدوات
تراكم الأخطاءError Compoundingبناء خطوات لاحقة على خطأ سابق فيتضخم أثره
إطار إدارة مخاطر الذكاء الاصطناعيAI RMFإطار من NIST بوظائف Govern وMap وMeasure وManage

التجربة التطبيقية

حدود الاستقلالية ونقاط الموافقة Autonomy Limits & Approvals

أن تختبر كيف تتحكم حدود الخطوات والزمن ونقاط الموافقة البشرية في وكيل يعمل باستقلالية أعلى.

  1. افتح مختبر الوكيل المستقل (افتح ↗)
  2. أعطِ الوكيل هدفاً متعدد المراحل وشغّله بالإعدادات الافتراضية، واقرأ الخطوات
  3. في المحاكي أضف عقدة Human Approval قبل خطوة حساسة، واكتب في question ما سيُنفذ ولماذا
  4. شغّل ثلاث مرات مع auto بالقيم approve ثم reject ثم ask، وقارن المسارات
  5. اضبط timeout لعقدة Agent على قيمة صغيرة مثل 100 ولاحظ خطأ المهلة، ثم ارفعها
  6. اضبط failAt لعقدة Agent لمحاكاة فشل في خطوة معينة وراقب ما يحدث بعدها

ما الذي ستلاحظه: ستلاحظ أن الرفض البشري يوقف الفعل الحساس وهذا سلوك صحيح، وأن المهلة الصغيرة توقف الوكيل قبل إتمام عمله، وأن الفشل المحاكى يظهر أهمية وجود مسار بديل. الاستقلالية الأعلى تتطلب حدوداً أوضح لا أقل.

افتح التجربة

المهمة الختامية

في مختبر الاستقلالية (افتح ↗) ابنِ «وكيل متابعة فواتير» يقرأ قائمة فواتير محاكاة، ويحدد المتأخر منها، ويجهّز رسائل تذكير. سلّم: (1) جدولًا يحدد مستوى الاستقلالية لكل إجراء (قراءة، تحليل، صياغة، إرسال) مع التبرير، (2) حلقة تنفيذ بميزانية خطوات وشرط توقف ونقطة حفظ تسمح بالاستئناف بعد انقطاع، (3) عقدة موافقة بشرية (Human Approval) قبل أي إرسال، (4) سجل تدقيق يوضح كل قرار وسببه. معايير القبول: لا يُرسل أي تذكير دون موافقة، وتتوقف الحلقة عند تجاوز الميزانية مع تقرير واضح، ويمكن استئناف التشغيل من آخر نقطة حفظ دون تكرار رسالة.

تقييم الإكمال: تُعد الوحدة مكتملة عندما تنهي جميع دروسها وتنجح في اختبارها.

المراجع الرسمية