التعلم العميق بالعربي الدكتور علاء طعيمة
تعلم الآلة علم البيانات متوسط محتوى تجريبي

Clustering

التجميع

التعريف

مهمة تعلم غير موجّه تقسّم البيانات إلى مجموعات بحيث تتشابه عناصر المجموعة الواحدة أكثر من تشابهها مع غيرها.

في التجميع لا توجد تسميات مسبقة؛ تكتشف الخوارزمية البنية بنفسها. أشهر خوارزمياته K-Means التي تقسم البيانات إلى k مجموعة بتكرار خطوتين: إسناد كل نقطة لأقرب مركز، ثم تحديث كل مركز ليصبح متوسط نقاطه.
ومن الخوارزميات الأخرى: التجميع الهرمي، وDBSCAN المعتمد على الكثافة، ونماذج الخليط الغاوسي. يُقيَّم بمقاييس داخلية مثل معامل الظل (Silhouette)، ويحتاج عادةً اختيار عدد المجموعات أو معاملات الكثافة.

Definition

Clustering is an unsupervised learning task that groups data points so that points in the same cluster are more similar to each other than to points in other clusters.

شرح مبسّط للمبتدئين

لديك سلة فواكه مختلطة ولا تعرف أسماءها، فتجمعها حسب اللون والحجم: هذه مجموعة صغيرة حمراء، وتلك كبيرة صفراء.

شرح أكاديمي متخصص

تقلل K-Means مجموع المربعات داخل المجموعات، وخوارزمية Lloyd تتقارب إلى حل محلي لا إلى الأمثل العام بالضرورة، لذا تُكرَّر بتهيئات مختلفة أو تُستخدم تهيئة k-means++.

أمثلة عملية

  • تقسيم العملاء إلى شرائح تسويقية.
  • تجميع المقالات حسب الموضوع.
  • ضغط الألوان في الصور.
K-Means على نقاط بسيطة Python 
import numpy as np
from sklearn.cluster import KMeans

X = np.array([[1, 1], [1.5, 2], [1, 1.5], [8, 8], [8.5, 9], [9, 8]])
km = KMeans(n_clusters=2, n_init=10, random_state=0).fit(X)
print(sorted(km.cluster_centers_.round(2).tolist()))

شرح الكود

تجد الخوارزمية مجموعتين واضحتين ومركز كل منهما.

النتيجة المتوقعة

[[1.17, 1.5], [8.5, 8.33]]

التطبيقات والاستخدامات

  • تجزئة العملاء.
  • اكتشاف الأنماط والشذوذ.
  • تنظيم الوثائق والصور.

المزايا

  • لا يحتاج بيانات موسومة.
  • يكشف بنية خفية في البيانات.

القيود والعيوب

  • النتائج حساسة لاختيار k ومقياس المسافة وتقييس الخصائص.
  • K-Means تفترض مجموعات كروية متقاربة الحجم.

المعادلات الرياضية

هدف K-Means

\min_{C_1,\dots,C_k} \sum_{j=1}^{k} \sum_{\mathbf{x}\in C_j} \lVert \mathbf{x} - \boldsymbol{\mu}_j \rVert^2

نبحث عن تقسيم يجعل مجموع مربعات المسافات بين كل نقطة ومركز مجموعتها أصغر ما يمكن.

شرح الرموز
الرمزالمعنى
\(C_j\)المجموعة رقم j
\(\boldsymbol{\mu}_j\)مركز المجموعة j (متوسط نقاطها)
\(k\)عدد المجموعات

المصادر العلمية

مراجع ومصادر علمية

  • بحث علمي
    Least squares quantization in PCM Stuart P. Lloyd · 1982 · IEEE Transactions on Information Theory 28(2) خوارزمية Lloyd التي تقوم عليها K-Means.
  • كتاب
    The Elements of Statistical Learning (2nd ed.) Trevor Hastie, Robert Tibshirani, Jerome Friedman · 2009 · Springer مرجع إحصائي في التعلم الآلي، متاح مجاناً من موقع المؤلفين.

تعلّم وراجع

بطاقة مراجعة المصطلحراجعه مع المصطلحات المرتبطة به اختبار قصيرأسئلة عن هذا المصطلح وما يرتبط به

مصطلحات مقترحة للتعلّم بعده