كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيعبقري الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةموسوعة شبكات التعلم العميق الحديثةمختبر الشبكات العصبية البيانيةمختبر تحليل الصور الطبيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعيأكاديمية ماتلاب والذكاء الاصطناعيمصمم الشبكات العصبيةأكاديمية الذكاء الاصطناعي بدون برمجةمختبر الذكاء الاصطناعي الكمّي

بحثيالشبكات التوليدية

النماذج التوليدية القائمة على الدرجة (SGM)

Score-Based Generative Models

تتعلم شبكة "الدرجة" $\nabla_x\log p(x)$ عند مستويات ضوضاء متعددة، ثم تولّد العينات بديناميكا لانجفان تتبع الدرجة من الضوضاء نحو مناطق الكثافة العالية؛ وتُعمم إلى معادلات تفاضلية عشوائية (SDE) تجمعها مع الانتشار.

نظرة عامة

الاسمالنماذج التوليدية القائمة على الدرجة – Score-Based Generative Models
سنة الظهور2019
الباحثونYang Song، Stefano Ermon
الجهةStanford University
الورقة الأصليةGenerative modeling by estimating gradients of the data distribution arXiv
نوع البياناتصور، بيانات جدولية
المجالاتالحوسبة العلمية، الذكاء الاصطناعي التوليدي، تحليل الصور الطبية
الكلفة الحسابيةكثير من تقييمات الشبكة عند التوليد.
حجم البياناتمتوسطة إلى كبيرة.

المشكلة التي تحلها

تعلم الكثافة مباشرة يتطلب ثابت تطبيع غير قابل للحساب، والدرجة لا تحتاجه. لكن تقدير الدرجة في مناطق قليلة البيانات غير دقيق، ما يفسد أخذ العينات.

الخلفية والتطور

ما قبلها: النماذج القائمة على الطاقة، المشفّر التلقائي

  1. 2011

    أثبت Vincent الصلة بين المشفّرات المزيلة للضوضاء ومطابقة الدرجة. [مرجع]

  2. 2019

    NCSN: درجة مشروطة بالضوضاء + لانجفان مُلدَّن. [مرجع]

  3. 2021

    Score SDE: إطار موحد للانتشار ونماذج الدرجة مع ODE لتدفق الاحتمال. [مرجع]

الفكرة الأساسية

أضف ضوضاء بمستويات $\sigma_1>\dots>\sigma_L$ لتغطية الفراغ. درّب $s_\theta(x,\sigma)$ بمطابقة الدرجة بإزالة الضوضاء: الدرجة الهدف للضوضاء الغاوسية معروفة $-(\tilde x-x)/\sigma^2$. للتوليد ابدأ بضوضاء كبيرة وطبّق خطوات لانجفان عند كل مستوى تنازلياً. في الحد المستمر يصبح ذلك SDE عكسية.

مثال: أخذ عينات بنى بلورية أو جزيئية: شبكة الدرجة تدفع الذرات نحو تكوينات مستقرة كثيرة الاحتمال.

المخطط التفاعلي

مخطط توضيحي مبسّط بأبعاد مثال صغير، وليس رسماً مطابقاً لكل تفاصيل التنفيذ الأصلي. اضغط أي طبقة لترى وظيفتها وأبعادها والعملية الرياضية.

اختر طبقة من المخطط.

المكونات

المكوّنالوظيفة
Noise levels σ_iجدول هندسي
Noise-conditional score networks_θ(x, σ)
Denoising score matching
Annealed Langevin / reverse SDEأخذ العينات
Probability flow ODEبديل حتمي

المعادلات

1. مطابقة الدرجة بإزالة الضوضاء

$$\mathcal{L}(\theta;\sigma)=\tfrac12\,\mathbb{E}_{x,\tilde x}\left\lVert s_\theta(\tilde x,\sigma)+\frac{\tilde x-x}{\sigma^2}\right\rVert^2$$

الرموز
$\tilde x$$x+\sigma z$
الأبعاد
قيمة قياسية
مثال عددي
$x=1$، $\sigma=0.5$، $\tilde x=1.25$ ⇒ الدرجة الهدف $-(0.25)/0.25=-1$.
علاقتها بالمعمارية
هدف قابل للحساب يكافئ مطابقة درجة التوزيع المشوّش.

2. ديناميكا لانجفان

$$x_{k+1}=x_k+\frac{\alpha}{2}\,s_\theta(x_k,\sigma)+\sqrt{\alpha}\,z_k,\qquad z_k\sim\mathcal N(0,I)$$

الرموز
$\alpha$حجم الخطوة
الأبعاد
نفس شكل x
مثال عددي
$x=0$، $s=2$، $\alpha=0.01$، $z=0$ ⇒ $x=0.01$.
علاقتها بالمعمارية
تصعد التلة اللوغاريتمية مع ضوضاء تضمن الاستكشاف.

3. SDE العكسية

$$dx=\left[f(x,t)-g(t)^2\nabla_x\log p_t(x)\right]dt+g(t)\,d\bar w$$

الرموز
$f,g$معاملا SDE الأمامية
$\bar w$حركة براونية بزمن عكسي
الأبعاد
مسار في فضاء البيانات
مثال عددي
في نسخة VE: $f=0$ و$g=\sqrt{d\sigma^2/dt}$.
علاقتها بالمعمارية
تجمع NCSN وDDPM كحالتين خاصتين.

آلية العمل خطوة بخطوة

  1. اختر مستويات الضوضاء.
  2. درّب شبكة الدرجة بـ DSM.
  3. ابدأ من ضوضاء كبيرة.
  4. طبّق خطوات لانجفان لكل σ تنازلياً.
  5. أو حل SDE/ODE العكسية.

المزايا والقيود

المزايا

  • لا حاجة لثابت التطبيع.
  • إطار نظري موحد مع الانتشار.
  • احتمالات دقيقة عبر ODE.

القيود

  • أخذ عينات بطيء.
  • حساسية لجدول الضوضاء وحجم الخطوة.

متى تُستخدم؟ ومتى لا؟

تناسب

  • نمذجة توزيعات معقدة.
  • المسائل العكسية والعلوم.

لا تناسب

  • حين يلزم توليد لحظي.

التطبيقات

المجالالاستخدام
الذكاء الاصطناعي التوليديتوليد الصور.
الحوسبة العلميةتوليد الجزيئات والمواد.
تحليل الصور الطبيةإعادة بناء الصور من قياسات ناقصة.

كود PyTorch

كود تعليمي مبسّط يعمل على بيانات اصطناعية صغيرة، يغطي: الاستيراد، وتعريف النموذج، والبيانات، والتمرير الأمامي، والخسارة، والمُحسِّن، وحلقة التدريب، والتقييم، والاستدلال. ليس التنفيذ الكامل للبحث الأصلي.

التقييم هنا بمقياسين بسيطين محسوبين داخل المثال: نسبة العينات القريبة من أحد الأنماط الثمانية، وعدد الأنماط المغطاة. لا يُستخدم FID لأنه خاص بالصور.

Python (PyTorch)
# NCSN — مطابقة الدرجة بإزالة الضوضاء وديناميكا لانجفان المُلدَّنة
# مثال تعليمي مبسّط بـ PyTorch (ليس التنفيذ الأصلي الكامل للبحث): بيانات اصطناعية صغيرة،
# يعمل على المعالج المركزي (CPU) خلال ثوانٍ. الأرقام التي يطبعها تخص هذا المثال فقط.
# 1) استيراد المكتبات
import torch
import torch.nn as nn
import torch.nn.functional as F

torch.manual_seed(0)

# 2) تعريف النموذج
class ScoreNet(nn.Module):
    """s_θ(x, σ) ≈ ∇_x log p_σ(x)، مشروطة بمستوى الضوضاء (NCSN)."""
    def __init__(self, h=128):
        super().__init__()
        self.net = nn.Sequential(nn.Linear(3, h), nn.SiLU(), nn.Linear(h, h), nn.SiLU(), nn.Linear(h, h), nn.SiLU(), nn.Linear(h, 2))
    def forward(self, x, sigma):
        return self.net(torch.cat([x, sigma.log()[:, None]], 1)) / sigma[:, None]   # التقسيم على σ يثبّت المقياس

SIGMAS = torch.exp(torch.linspace(torch.log(torch.tensor(3.0)), torch.log(torch.tensor(0.05)), 10))   # مستويات ضوضاء هندسية
model = ScoreNet()

# 3) إعداد البيانات
# التوزيع الهدف: خليط من 8 توزيعات غاوسية على دائرة نصف قطرها 2 (اختبار كلاسيكي لانهيار الأنماط)
CENTERS = torch.stack([torch.tensor([2 * torch.cos(torch.tensor(k * torch.pi / 4)), 2 * torch.sin(torch.tensor(k * torch.pi / 4))]) for k in range(8)])
def sample_ring(n, std=0.1):
    k = torch.randint(0, 8, (n,))
    return CENTERS[k] + std * torch.randn(n, 2), k

def ring_metrics(x):
    """جودة: نسبة العينات القريبة (<0.3) من أحد المراكز. تغطية: عدد الأنماط التي نالت ≥5% من العينات الجيدة."""
    d = torch.cdist(x, CENTERS)
    near, k = d.min(1)
    good = near < 0.3
    counts = torch.bincount(k[good], minlength=8).float()
    covered = int((counts >= 0.05 * max(1, good.sum().item())).sum())
    return good.float().mean().item(), covered

# 4) مطابقة الدرجة بإزالة الضوضاء (DSM) بوزن λ(σ)=σ²:  || σ s_θ(x̃,σ) + (x̃−x)/σ ||²
opt = torch.optim.Adam(model.parameters(), lr=2e-3)

# 5) حلقة التدريب
STEPS, BATCH = 4000, 256
for step in range(STEPS):
    x, _ = sample_ring(BATCH)
    sigma = SIGMAS[torch.randint(0, len(SIGMAS), (BATCH,))]
    noise = torch.randn_like(x) * sigma[:, None]
    s = model(x + noise, sigma)                                          # Forward Pass
    loss = ((sigma[:, None] * s + noise / sigma[:, None]) ** 2).sum(1).mean() / 2
    opt.zero_grad(); loss.backward(); opt.step()
    if step % 1000 == 0 or step == STEPS - 1:
        print(f"step {step:4d}  loss={loss.item():.4f}")

# 6) التقييم: ديناميكا لانجفان المُلدَّنة (Annealed Langevin Dynamics)
@torch.no_grad()
def sample(n, steps_per_sigma=50, eps=2e-4):
    x = torch.randn(n, 2) * SIGMAS[0]
    for sigma in SIGMAS:
        alpha = eps * (sigma / SIGMAS[-1]) ** 2                          # حجم الخطوة يتناسب مع σ²
        for _ in range(steps_per_sigma):
            x = x + alpha / 2 * model(x, sigma.expand(n)) + alpha.sqrt() * torch.randn_like(x)
    return x
q, cov = ring_metrics(sample(4000))
print(f"sample quality (near a mode) = {q:.3f} ; modes covered = {cov}/8")

# 7) الاستدلال
print("generated point:", [round(v, 3) for v in sample(1)[0].tolist()])

نُفّذ هذا الكود بتاريخ 2026-11-20 في 10.6 ثانية (PyTorch (CPU), Python 3 – local build machine).

من مخرجاته:

sample quality (near a mode) = 0.918 ; modes covered = 8/8

عدد المعاملات القابلة للتدريب في المثال: model = 33٬794.

هذه النتائج لبيانات اصطناعية صغيرة وعدد حقب قليل، وتُثبت أن الكود يعمل فقط؛ لا تقارنها بالنتائج المنشورة.

جرّب وتعمّق

معماريات مرتبطة

متقدم2020

نماذج الانتشار

Diffusion Models (DDPM)

تفسد البيانات تدريجياً بإضافة ضوضاء غاوسية عبر T خطوة، ثم تتعلم شبكة عكس هذه العملية بالتنبؤ بالضوضاء المضافة، فيُولَّد مثال جديد بإزالة الضوضاء خطوة بخطوة بدءاً من ضوضا…

الشبكات التوليدية

متقدم2006

النماذج القائمة على الطاقة

Energy-Based Models (EBM)

نماذج تتعلم دالة طاقة عددية E_θ(x) تكون منخفضة للتكوينات المحتملة ومرتفعة لغيرها، وتعرّف الكثافة ضمنياً p(x) e^-E(x) دون حساب ثابت التطبيع، مع توليد العينات بديناميكا لا…

الشبكات التوليديةالمعماريات المتخصصة

بحثي2023

مطابقة التدفق

Flow Matching (FM)

تتعلم حقل سرعة لمعادلة تفاضلية عادية ينقل توزيع الضوضاء إلى توزيع البيانات، بالانحدار مباشرة على سرعات مسارات احتمالية بسيطة (مثل خطوط مستقيمة بين ضوضاء وبيانات)، دون مح…

الشبكات التوليدية

أفكار بحثية

  • نماذج الدرجة لإعادة بناء CT منخفضة الجرعة مع ضمانات اتساق مع القياسات.

اقتراحات للانطلاق وليست فجوات بحثية مؤكدة؛ راجع الأدبيات الحديثة قبل اعتمادها.

اختبر فهمك

  1. مفهوم

    لماذا تُستخدم مستويات ضوضاء متعددة؟

  2. رياضي

    ما الدرجة الهدف لـ $\tilde x=x+\sigma z$؟

  3. مفهوم

    ما الذي وحّده إطار Score SDE؟

المراجع

  1. Song, Y., & Ermon, S. (2019). Generative modeling by estimating gradients of the data distribution. Advances in Neural Information Processing Systems (NeurIPS) 32. https://arxiv.org/abs/1907.05600

    arXivتحقق آلي عبر OpenAlex/arXiv – 2026-11-20

  2. Song, Y., Sohl-Dickstein, J., Kingma, D. P., Kumar, A., Ermon, S., & Poole, B. (2021). Score-based generative modeling through stochastic differential equations. International Conference on Learning Representations (ICLR). https://arxiv.org/abs/2011.13456

    arXivتحقق آلي عبر OpenAlex/arXiv – 2026-11-20

  3. Vincent, P. (2011). A connection between score matching and denoising autoencoders. Neural Computation, 23(7), 1661–1674. https://doi.org/10.1162/NECO_a_00142

    DOIتحقق آلي عبر Crossref – 2026-11-20

  4. Ho, J., Jain, A., & Abbeel, P. (2020). Denoising diffusion probabilistic models. Advances in Neural Information Processing Systems (NeurIPS) 33. https://arxiv.org/abs/2006.11239

    arXivتحقق آلي عبر OpenAlex/arXiv – 2026-11-20