Autoencoder
المشفِّر الذاتي
التعريف
شبكة عصبية تتعلم ضغط المدخل في تمثيل كامن صغير ثم إعادة بنائه منه.
تتكون من مشفِّر يحوّل المدخل إلى متجه كامن منخفض الأبعاد، وفك مشفِّر يعيد بناء المدخل. تُدرَّب بتقليل خطأ إعادة البناء دون تسميات.
تُستخدم في خفض الأبعاد وإزالة الضوضاء وكشف الشذوذ، ومنها اشتُقت صيغ توليدية مثل المشفِّر الذاتي التبايني (VAE).
Definition
An autoencoder is a neural network trained to reconstruct its input through a low-dimensional bottleneck, thereby learning a compact latent representation without labels.
شرح مبسّط للمبتدئين
كتلخيص كتاب في صفحة ثم محاولة إعادة كتابته منها: الملخص الجيد يحتفظ بالجوهر.
شرح أكاديمي متخصص
يقلل \(L(x,g(f(x)))\) حيث \(f\) المشفِّر و\(g\) فك المشفِّر. بتفعيل خطي وخسارة تربيعية يتعلم الفضاء الجزئي ذاته الذي تتعلمه PCA.
أمثلة عملية
- ضغط صور بحجم 784 بكسل إلى 32 رقماً.
import torch
from torch import nn
ae = nn.Sequential(nn.Linear(8, 2), nn.ReLU(), nn.Linear(2, 8))
x = torch.randn(5, 8)
print(ae(x).shape)شرح الكود
تنضغط 8 قيم إلى 2 ثم تُعاد إلى 8، فتتطابق أبعاد المخرج مع المدخل.
النتيجة المتوقعة
torch.Size([5, 8])
التطبيقات والاستخدامات
- إزالة الضوضاء.
- كشف الشذوذ.
- تعلم التمثيلات.
المزايا
- تعلم غير موجّه لتمثيلات غير خطية.
القيود والعيوب
- قد يحفظ المدخل إن كان الاختناق كبيراً.
- جودة إعادة البناء لا تضمن تمثيلاً مفيداً.
