Contrastive Learning

التعلم التبايني

التعريف

تعلم تمثيلات بتقريب أزواج متشابهة وإبعاد أزواج مختلفة في فضاء التضمين.

يُنشأ زوجان من النسخة نفسها بتحويلين مختلفين (إيجابي) ويُقارَنان بعينات أخرى (سلبية). يتيح تعلماً ذاتي الإشراف، ومن أمثلته SimCLR وCLIP.

Definition

Contrastive learning learns embeddings by pulling positive pairs together and pushing negative pairs apart, often without human labels.

شرح مبسّط للمبتدئين

كأن تُدرَّب على أن صورتين لقطة نفسها متشابهتان وصورة القطة والسيارة مختلفتان.

شرح أكاديمي متخصص

تُستخدم خسارة InfoNCE التي تعظّم حداً أدنى للمعلومات المتبادلة.

أمثلة عملية

  • CLIP يطابق الصورة مع وصفها.

التطبيقات والاستخدامات

  • الرؤية والنص والصوت.

المزايا

  • تمثيلات قوية دون وسوم.

القيود والعيوب

  • يحتاج دفعات كبيرة وسلبيات جيدة.

تعلّم وراجع

مصطلحات مقترحة للتعلّم بعده