إليك كيفية تشجيع الذكاء الاصطناعي على التوقف عن الهلوسة.
اطرح سؤالاً على أي روبوت محادثة يعمل بالذكاء الاصطناعي، وستكون إجاباته إما مسلية أو مفيدة أو بسيطة.
نظرًا لأن أدوات الذكاء الاصطناعي مثل ChatGPT تعمل من خلال التنبؤ بسلاسل الكلمات التي تعتقد أنها تتطابق بشكل أفضل مع استعلامك، فإنها تفتقر إلى المنطق لتطبيق المنطق أو النظر في أي تناقضات واقعية يطلقوها. بمعنى آخر، أحيانًا ما يخرج الذكاء الاصطناعي عن القضبان في محاولة لإرضائك. هذا ما يُعرف باسم “الهلوسة hallucination”.
و ChatGPT من بين أفضلها. أضاف المطورون الكثير من حواجز الحماية للتحكم في نوع الردود التي يقدمها. بعضها يمنعها من إلقاء الخطب اللاذعة الهجومية، لكن البعض الآخر يعمل على منعها من اتخاذ قفزات سخيفة من المنطق أو الهلوسة بحقائق تاريخية مزيفة.
على سبيل المثال، اسأل ChatGPT من هو King Renoit (شخص مختلق تمامًا) ، وسيقول إنه لا يعرف وسيتجنب الإجابة على السؤال. ولكن إذا كنت تستخدم GPT playground الخاص بـ OpenAI ، والذي لا يحتوي على نفس حواجز الحماية ، فسوف يخبرك – أو يصر ، حتى – أن King Renoit كان ملكًا فرنسيًا حكم من 1515 إلى 1544.
هذا مهم لأن معظم أدوات الذكاء الاصطناعي التي تم إنشاؤها باستخدام GPT تشبه إلى حد كبير playground. ليس لديهم حواجز حماية قوية من ChatGPT: يمنحهم ذلك المزيد من القوة والإمكانيات، ولكنه أيضًا يجعلهم أكثر عرضة للهلوسة – أو على الأقل إخبارك بشيء غير دقيق.
6 طرق للوقاية من هلوسة الذكاء الاصطناعي
بناءً على الكثير من الأبحاث، وخبراتي الخاصة، والنصائح من خبراء الذكاء الاصطناعي لدينا في Zapier، جمعت أفضل الطرق لمواجهة هذه الهلوسة. يتعلق معظمهم بـ “هندسة الأوامر prompt engineering “، وهي التقنيات التي يمكننا تطبيقها على اوامرنا التي تجعل الروبوتات أقل عرضة للهلوسة وأكثر عرضة لتقديم نتائج موثوقة.
ملاحظة: بالنسبة لمعظم الأمثلة الخاصة بي، أستخدم GPT-3.5 في playground، ولكن هذه النصائح ستنطبق على معظم أدوات الذكاء الاصطناعي، بما في ذلك GPT-4.
1. الحد من النتائج المحتملة
فضلت دائمًا اختبارات الاختيار من متعدد على المقالات المفتوحة. أعطاني هذا الأخير الكثير من الحرية لإنشاء ردود عشوائية (وغير دقيقة) ، في حين أن الأول يعني أن الإجابة الصحيحة كانت أمامي مباشرة. لقد استند إلى المعرفة التي تم “تخزينها” بالفعل في ذهني وسمح لي باستنتاج الإجابة الصحيحة من خلال عملية الحذف.
استغل تلك المعرفة الموجودة أثناء التحدث إلى الذكاء الاصطناعي.
عندما تعطيه التعليمات، يجب أن تحد من النتائج المحتملة من خلال تحديد نوع الاستجابة التي تريدها. على سبيل المثال، عندما سألت GPT-3.5 سؤالًا مفتوحًا ، تلقيت هلوسة. (النتائج الخضراء من الذكاء الاصطناعي.)
لكي نكون واضحين، لم يذكر الملك رينويت في أغنية رولان.
لكن عندما طلبت منه الرد بـ “نعم” أو “لا” فقط، صحح نفسه.
تكتيك آخر مشابه: اطلب منه الاختيار من قائمة محددة من الخيارات للحصول على ردود أفضل. بمحاولة تبسيط إجاباتها، فإنك تحد تلقائيًا من إمكانية الهلوسة.
2. تعبئة البيانات والمصادر ذات الصلة الخاصة بك
لا يمكنك أن تتوقع من البشر اقتراح حل دون إعطائهم المعلومات الأساسية أولاً. عندما نفكر في المحاكمات أمام هيئة المحلفين، على سبيل المثال، سيقدم كلا طرفي الحجة حقائق وأدلة وبيانات لتقديرها هيئة المحلفين. إنه نفس الشيء بالنسبة للذكاء الاصطناعي. إن “تأسيس” مطالباتك بالمعلومات ذات الصلة أو البيانات الموجودة لديك يمنح الذكاء الاصطناعي سياقًا إضافيًا ونقاط بيانات تهتم بها بالفعل.
على سبيل المثال، لنفترض أنك تبحث عن طرق لمساعدة عملائك في التغلب على تحد معين. إذا كانت مطالبتك غامضة، فقد يقوم الذكاء الاصطناعي بانتحال شخصية شركة يمكنها مساعدتك. مثله:
تمتلك شركتك البيانات والمعلومات المحددة المحيطة بالمشكلة، لذا فإن تزويد الذكاء الاصطناعي بهذه البيانات داخل موجهك سيسمح للذكاء الاصطناعي بإعطاء إجابة أكثر تعقيدًا (مع تجنب الهلوسة).
3. إنشاء قالب بيانات للنموذج الذي يجب اتباعه
عندما يتعلق الأمر بالحسابات، فمن المعروف أن GPT بها بعض السقطات. (ليس لدي عقل رياضي، لذا يمكنني الربط، لكني أعتقد أنه أمر مزعج للغاية إذا كان عليك التحقق ثلاث مرات من كل مخرجاته).
خذ هذه الحسابات البسيطة، على سبيل المثال. GPT-3 تفهمهم بشكل خاطئ تمامًا.
الإجابة الصحيحة هي في الواقع 151 دولارًا. (ملاحظة: حصلت GPT-4 بالفعل على هذا الحق في ChatGPT ، لذلك هناك أمل لروبوتات الرياضيات.)
أفضل طريقة لمواجهة الرياضيات السيئة هي تقديم بيانات نموذجية ضمن موجه لتوجيه سلوك نموذج الذكاء الاصطناعي، وإبعاده عن الحسابات غير الدقيقة. بدلاً من كتابة مطالبة بتنسيق نصي، يمكنك إنشاء جدول بيانات يعمل كمرجع للنموذج ليتبعه.
يمكن أن يقلل هذا من احتمالية حدوث الهلوسة لأنه يمنح الذكاء الاصطناعي طريقة واضحة ومحددة لإجراء العمليات الحسابية بتنسيق يسهل هضمه أكثر.
هناك قدر أقل من الغموض وسبب أقل لفقدانها لعقلها الغريب.
4. امنح الذكاء الاصطناعي دورًا محددًا – وأخبرها ألا تكذب
يعد تخصيص دور معين للذكاء الاصطناعي أحد أكثر الأساليب فعالية لإيقاف أي هلوسة. على سبيل المثال، يمكنك أن تقول في موجهك: “أنت أحد أفضل علماء الرياضيات في العالم” أو “أنت مؤرخ لامع”، متبوعًا بسؤالك.
إذا طرحت سؤالاً على GPT-3.5 دون تشكيل دوره للمهمة، فمن المحتمل أن يؤدي ذلك إلى هلوسة الجواب ، مثل:
ولكن عندما تقوم بتعيين دور له، فإنك تقدم له المزيد من الإرشادات فيما يتعلق بما تبحث عنه. في الجوهر، أنت تمنحه الخيار للنظر فيما إذا كان هناك شيء غير صحيح أم لا.
هذا لا يعمل دائمًا، ولكن إذا فشل هذا السيناريو المحدد، يمكنك أيضًا إخبار الذكاء الاصطناعي أنه إذا لم يعرف الإجابة، فعليه أن يقول ذلك بدلاً من محاولة اختراع شيء ما. هذا أيضا يعمل بشكل جيد.
5. قل له ما تريد – وما لا تريده
يمكنك توقع استجابة الذكاء الاصطناعي بناءً على ما تطلبه – وتجنب بشكل استباقي تلقي المعلومات التي لا تريدها. على سبيل المثال، يمكنك السماح لـ GPT بمعرفة أنواع الاستجابات التي تريد منعها، من خلال ذكر ما تبحث عنه ببساطة. دعنا نلقي نظرة على مثال:
بالطبع، أتوقع الآن أن الذكاء الاصطناعي سيصبح مهملاً في روايته للأحداث، لذلك من خلال مطالبتهم باستبعاد بعض النتائج بشكل استباقي، أقترب أكثر من الحقيقة.
6. اختبر درجة الحرارة
تلعب درجة الحرارة temperature أيضًا دورًا من حيث هلوسة GPT-3 ، لأنها تتحكم في عشوائية نتائجه. في حين أن درجة الحرارة المنخفضة ستنتج نتائج يمكن التنبؤ بها نسبيًا، فإن ارتفاع درجة الحرارة سيزيد من عشوائية ردودها، لذلك قد تكون أكثر عرضة للهلوسة أو اختراع استجابات “إبداعية”.
داخل ملعب OpenAI’s playground ، يمكنك ضبط درجة الحرارة في الزاوية اليمنى من الشاشة:
لقد قمت بطلب درجة حرارة GPT-3 إلى الحد الأقصى (1) ، وتعثر الذكاء الاصطناعي بشكل أساسي:
تحقق ، تحقق ، تحقق
ببساطة، الذكاء الاصطناعي شديد الحماس في سرد القصص. بينما تدرك شركات أبحاث الذكاء الاصطناعي مثل OpenAI تمامًا مشاكل الهلوسة، وتقوم بتطوير نماذج جديدة تتطلب المزيد من ردود الفعل البشرية، لا يزال من المرجح جدًا أن يقع الذكاء الاصطناعي في كوميديا من الأخطاء.
لذا، سواء كنت تستخدم الذكاء الاصطناعي لكتابة التعليمات البرمجية، أو حل المشكلات، أو إجراء البحث، فإن تحسين مطالباتك باستخدام الأساليب المذكورة أعلاه يمكن أن يساعدها في أداء وظيفتها بشكل أفضل – ولكنك ستظل بحاجة إلى التحقق من كل مخرجاتها.
