كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيعبقري الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةموسوعة شبكات التعلم العميق الحديثةمختبر الشبكات العصبية البيانيةمختبر تحليل الصور الطبيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعيأكاديمية ماتلاب والذكاء الاصطناعيمصمم الشبكات العصبيةأكاديمية الذكاء الاصطناعي بدون برمجةمختبر الذكاء الاصطناعي الكمّي

متقدمالشبكات التوليدية

المشفّر التلقائي بالتكميم المتجهي (VQ-VAE)

Vector Quantized Variational Autoencoder

مشفّر تلقائي يكمّم خرج المشفّر إلى أقرب متجه في قاموس متعلَّم (codebook)، فيصبح التمثيل رموزاً منفصلة، ثم يُتعلَّم توزيع مسبق ذاتي الانحدار على هذه الرموز للتوليد.

نظرة عامة

الاسمالمشفّر التلقائي بالتكميم المتجهي – Vector Quantized Variational Autoencoder
سنة الظهور2017
الباحثونAaron van den Oord، Oriol Vinyals، Koray Kavukcuoglu
الجهةDeepMind
الورقة الأصليةNeural discrete representation learning arXiv
نوع البياناتصور، تسلسلات وسلاسل زمنية
المجالاتالذكاء الاصطناعي التوليدي، الرؤية الحاسوبية، الصوت والكلام
الكلفة الحسابيةمنخفضة للمشفّر؛ النموذج الأولي قد يكون مكلفاً.
حجم البياناتمتوسطة إلى كبيرة.

المشكلة التي تحلها

الكوامن المستمرة في VAE تعاني من انهيار الخلفية مع مفككات قوية، وكثير من البيانات (كلام، لغة) ذات طبيعة منفصلة.

الخلفية والتطور

ما قبلها: المشفّر التلقائي التبايني، المشفّر التلقائي

  1. 2016

    WaveNet: نموذج ذاتي الانحدار للصوت استُخدم مفككاً لاحقاً. [مرجع]

  2. 2017

    VQ-VAE (NeurIPS 2017). [مرجع]

  3. 2019

    VQ-VAE-2 بهرمية كوامن لصور عالية الدقة. [مرجع]

الفكرة الأساسية

المشفّر يعطي $z_e(x)$ لكل موقع. يُستبدل بأقرب $e_k$ من القاموس. لأن argmin غير قابلة للاشتقاق، يُنسخ التدرّج من $z_q$ إلى $z_e$ (Straight-Through). يُحدث القاموس نحو مخرجات المشفّر، وحد "الالتزام" يمنع المشفّر من التذبذب. بعد التدريب تصبح الصورة شبكة رموز منفصلة يتعلم نموذج مثل PixelCNN أو Transformer توليدها.

مثال: ضغط مقطع صوتي إلى سلسلة رموز منفصلة ثم توليد كلام جديد بنموذج لغوي على الرموز.

المخطط التفاعلي

مخطط توضيحي مبسّط بأبعاد مثال صغير، وليس رسماً مطابقاً لكل تفاصيل التنفيذ الأصلي. اضغط أي طبقة لترى وظيفتها وأبعادها والعملية الرياضية.

اختر طبقة من المخطط.

التوليد: نموذج أولويّ يولد شبكة الرموز ثم المفكك يحولها إلى صورة.

المكونات

المكوّنالوظيفة
Encoderz_e(x)
CodebookK متجه بطول d
Nearest-neighbour quantization
Straight-through estimator
Decoder
Autoregressive priorPixelCNN/Transformer على الرموز

المعادلات

1. التكميم

$$z_q(x)=e_k,\qquad k=\arg\min_j\lVert z_e(x)-e_j\rVert_2$$

الرموز
$e_j$متجهات القاموس
الأبعاد
$z_q\in\mathbb{R}^{h\times w\times d}$
مثال عددي
$z_e=(0.9,0.1)$، $e_1=(1,0)$، $e_2=(0,1)$: المسافتان $0.14$ و$1.27$ ⇒ $k=1$.
علاقتها بالمعمارية
يحوّل التمثيل إلى رموز.

2. دالة الخسارة

$$\mathcal{L}=-\log p(x\mid z_q(x))+\lVert\mathrm{sg}[z_e(x)]-e\rVert_2^2+\beta\lVert z_e(x)-\mathrm{sg}[e]\rVert_2^2$$

الرموز
$\mathrm{sg}$إيقاف التدرّج
$\beta$0.25 في الورقة
الأبعاد
قيمة قياسية
مثال عددي
إعادة بناء $0.02$، قاموس $0.04$، التزام $0.04$ مع $\beta=0.25$: $0.02+0.04+0.01=0.07$.
علاقتها بالمعمارية
كل حد يحدّث جزءاً مختلفاً من النموذج.

آلية العمل خطوة بخطوة

  1. رمّز الدخل.
  2. كمّم لأقرب متجه.
  3. فك ومرّر التدرّج بالـ Straight-Through.
  4. حدّث القاموس والمشفّر بالحدين.
  5. درّب نموذجاً أولوياً على الرموز للتوليد.

المزايا والقيود

المزايا

  • تمثيل منفصل يناسب النماذج ذاتية الانحدار وTransformer.
  • يتجنب انهيار الخلفية.
  • ضغط فعال.

القيود

  • متجهات قاموس "ميتة" لا تُستخدم.
  • التوليد على مرحلتين.
  • تقريب التدرّج غير دقيق.

متى تُستخدم؟ ومتى لا؟

تناسب

  • تحويل الصور أو الصوت إلى رموز.
  • مرحلة ضغط لنماذج توليدية.

لا تناسب

  • حين تكفي كوامن مستمرة بسيطة.

التطبيقات

المجالالاستخدام
الصوت والكلامترميز الكلام.
الذكاء الاصطناعي التوليديرموز بصرية لنماذج توليد الصور.
الرؤية الحاسوبيةضغط الصور.

كود PyTorch

كود تعليمي مبسّط يعمل على بيانات اصطناعية صغيرة، يغطي: الاستيراد، وتعريف النموذج، والبيانات، والتمرير الأمامي، والخسارة، والمُحسِّن، وحلقة التدريب، والتقييم، والاستدلال. ليس التنفيذ الكامل للبحث الأصلي.

المثال يدرّب المرحلة الأولى فقط (المشفّر والقاموس والمفكك)، ولا يدرّب النموذج الأولي على الرموز.

Python (PyTorch)
# VQ-VAE — قاموس متعلَّم وStraight-Through
# مثال تعليمي مبسّط بـ PyTorch (ليس التنفيذ الأصلي الكامل للبحث): بيانات اصطناعية صغيرة،
# يعمل على المعالج المركزي (CPU) خلال ثوانٍ. الأرقام التي يطبعها تخص هذا المثال فقط.
# 1) استيراد المكتبات
import torch
import torch.nn as nn
import torch.nn.functional as F

torch.manual_seed(0)

# 2) تعريف النموذج
class VectorQuantizer(nn.Module):
    def __init__(self, K=16, d=8, beta=0.25):
        super().__init__()
        self.codebook = nn.Embedding(K, d)
        self.codebook.weight.data.uniform_(-1 / K, 1 / K)
        self.beta = beta
    def forward(self, z_e):                                          # z_e: B×d×h×w
        B, d, h, w = z_e.shape
        flat = z_e.permute(0, 2, 3, 1).reshape(-1, d)
        idx = torch.cdist(flat, self.codebook.weight).argmin(1)      # أقرب متجه في القاموس
        z_q = self.codebook(idx).view(B, h, w, d).permute(0, 3, 1, 2)
        loss = F.mse_loss(z_q, z_e.detach()) + self.beta * F.mse_loss(z_e, z_q.detach())   # قاموس + التزام
        z_q = z_e + (z_q - z_e).detach()                             # Straight-Through Estimator
        return z_q, loss, idx.view(B, h, w)

class VQVAE(nn.Module):
    def __init__(self, K=16, d=8):
        super().__init__()
        self.enc = nn.Sequential(nn.Conv2d(1, 32, 4, 2, 1), nn.ReLU(), nn.Conv2d(32, d, 3, 1, 1))          # 8×8 → 4×4×d
        self.vq = VectorQuantizer(K, d)
        self.dec = nn.Sequential(nn.Conv2d(d, 32, 3, 1, 1), nn.ReLU(), nn.ConvTranspose2d(32, 1, 4, 2, 1))  # 4×4 → 8×8
    def forward(self, x):
        z_q, vq_loss, idx = self.vq(self.enc(x))
        return self.dec(z_q), vq_loss, idx

# 3) إعداد البيانات
# صور 8×8 لبقعة غاوسية بموضع ونصف قطر عشوائيين (قيم في [0,1])
def blobs(n, side=None):
    g = torch.arange(8).float()
    cx = torch.rand(n) * 5 + 1.5
    if side is not None:                                   # side: 0 = نصف أيسر، 1 = نصف أيمن
        cx = torch.where(side == 0, torch.rand(n) * 2 + 1, torch.rand(n) * 2 + 5)
    cy, r = torch.rand(n) * 5 + 1.5, torch.rand(n) * 0.8 + 0.8
    img = torch.exp(-((g[None, None, :] - cx[:, None, None]) ** 2 + (g[None, :, None] - cy[:, None, None]) ** 2) / (2 * r[:, None, None] ** 2))
    return img[:, None]                                    # B×1×8×8
X_train, X_test = blobs(3000), blobs(500)
model = VQVAE()

# 4) المحسّن (الخسارة = إعادة البناء + خسارة القاموس + الالتزام)
opt = torch.optim.Adam(model.parameters(), lr=2e-3)

# 5) حلقة التدريب
EPOCHS, BATCH = 25, 64
for epoch in range(EPOCHS):
    perm, tot = torch.randperm(len(X_train)), 0.0
    for i in range(0, len(X_train), BATCH):
        xb = X_train[perm[i:i + BATCH]]
        rec, vq_loss, _ = model(xb)                                         # Forward Pass
        loss = F.mse_loss(rec, xb) + vq_loss
        opt.zero_grad(); loss.backward(); opt.step()
        tot += loss.item() * len(xb)
    if epoch % 5 == 0 or epoch == EPOCHS - 1:
        print(f"epoch {epoch:3d}  loss={tot / len(X_train):.4f}")

# 6) التقييم: خطأ إعادة البناء واستخدام القاموس (perplexity)
model.eval()
with torch.no_grad():
    rec, _, idx = model(X_test)
    p = torch.bincount(idx.flatten(), minlength=16).float(); p = p / p.sum()
    perplexity = torch.exp(-(p[p > 0] * p[p > 0].log()).sum()).item()
    print(f"test reconstruction MSE = {F.mse_loss(rec, X_test).item():.4f}  (predict-mean baseline = {X_test.var().item():.4f})")
    print(f"codebook perplexity = {perplexity:.2f} of 16 codes")

# 7) الاستدلال: الصورة كشبكة رموز منفصلة 4×4 (هذا ما يتعلمه لاحقاً نموذج أولويّ مثل PixelCNN أو Transformer)
with torch.no_grad():
    print("discrete codes of one image:", model(X_test[:1])[2][0].tolist())

نُفّذ هذا الكود بتاريخ 2026-11-20 في 6.9 ثانية (PyTorch (CPU), Python 3 – local build machine).

من مخرجاته:

test reconstruction MSE = 0.0008  (predict-mean baseline = 0.0525)
codebook perplexity = 10.98 of 16 codes

عدد المعاملات القابلة للتدريب في المثال: model = 5٬833.

هذه النتائج لبيانات اصطناعية صغيرة وعدد حقب قليل، وتُثبت أن الكود يعمل فقط؛ لا تقارنها بالنتائج المنشورة.

جرّب وتعمّق

معماريات مرتبطة

متوسط2014

المشفّر التلقائي التبايني

Variational Autoencoder (VAE)

نموذج توليدي احتمالي بمتغير كامن: مشفّر يقدّر توزيعاً تقريبياً q(z x) ومفكك يمثل p(x z)، ويُدرّبان معاً بتعظيم الحد الأدنى للأدلة (ELBO) باستخدام خدعة إعادة المعلمة.

الشبكات التوليدية

مبتدئ2006

المشفّر التلقائي

Autoencoder (AE)

شبكة تضغط الدخل إلى تمثيل كامن صغير (encoder) ثم تعيد بناءه (decoder)، فتتعلم تمثيلاً مضغوطاً دون تسميات.

الأساسياتالشبكات التوليدية

متقدم2022

نماذج الانتشار الكامنة

Latent Diffusion Models (LDM)

تطبق الانتشار في فضاء كامن مضغوط من مشفّر تلقائي مدرّب مسبقاً بدلاً من فضاء البكسلات، مع آلية انتباه متقاطع لإدخال الشروط (نص، تجزئة...)، فتقل الحسابات كثيراً مع الحفاظ…

الشبكات التوليديةالمعماريات الهجينة

أساسي2017

المحوّل

Transformer

معمارية تعتمد بالكامل على الانتباه الذاتي متعدد الرؤوس بدلاً من التكرار أو الالتفاف، فتعالج كل مواضع التسلسل بالتوازي وتربط أي موضعين مباشرة بخطوة واحدة.

معماريات المحولات

أفكار بحثية

  • ترميز إشارات ECG إلى رموز منفصلة وتدريب نموذج لغوي عليها لكشف اضطرابات النظم.

اقتراحات للانطلاق وليست فجوات بحثية مؤكدة؛ راجع الأدبيات الحديثة قبل اعتمادها.

اختبر فهمك

  1. مفهوم

    كيف يمر التدرّج عبر عملية التكميم غير القابلة للاشتقاق؟

  2. مفهوم

    ما وظيفة حد الالتزام (commitment)؟

  3. مفهوم

    ما الذي يولّد الصور الجديدة بعد تدريب VQ-VAE؟

المراجع

  1. van den Oord, A., Vinyals, O., & Kavukcuoglu, K. (2017). Neural discrete representation learning. Advances in Neural Information Processing Systems (NeurIPS) 30. https://arxiv.org/abs/1711.00937

    arXivتحقق آلي عبر OpenAlex/arXiv – 2026-11-20

  2. Razavi, A., van den Oord, A., & Vinyals, O. (2019). Generating diverse high-fidelity images with VQ-VAE-2. Advances in Neural Information Processing Systems (NeurIPS) 32. https://arxiv.org/abs/1906.00446

    arXivتحقق آلي عبر OpenAlex/arXiv – 2026-11-20

  3. Kingma, D. P., & Welling, M. (2014). Auto-encoding variational Bayes. International Conference on Learning Representations (ICLR). https://arxiv.org/abs/1312.6114

    arXivتحقق آلي عبر OpenAlex/arXiv – 2026-11-20

  4. van den Oord, A., Dieleman, S., Zen, H., Simonyan, K., Vinyals, O., Graves, A., Kalchbrenner, N., Senior, A., & Kavukcuoglu, K. (2016). WaveNet: A generative model for raw audio. arXiv preprint. https://arxiv.org/abs/1609.03499

    arXivتحقق آلي عبر OpenAlex/arXiv – 2026-11-20