قاموس مصطلحات رياضيات الذكاء الاصطناعي | التعلم العميق بالعربي || DL بالعربي || الدكتور علاء طعيمة

ReLU

Rectified Linear Unit \(\max(0,x)\)

دالة تنشيط \(\max(0,x)\)، متصلة ومشتقتها 0 أو 1.

مثال: ReLU(−2) = 0

Softmax

Softmax \(\frac{e^{z_k}}{\sum_j e^{z_j}}\)

دالة تحوّل متجه لوجيتات إلى توزيع احتمالي بالأس والتطبيع.

أثر المصفوفة

Trace \(\operatorname{tr}A\)

مجموع عناصر القطر الرئيسي، ويساوي مجموع القيم الذاتية.

مثال: tr [[2,1],[1,2]] = 4

إبسيلون الآلة

Machine Epsilon \(\epsilon_{\text{mach}}\)

الفرق بين 1 وأصغر عدد ممثَّل أكبر منه.

مثال: 2⁻²³ في float32

اتصال

Continuity

تساوي نهاية الدالة عند نقطة مع قيمتها.

مثال: ReLU متصلة

احتمال

Probability \(P(A)\)

عدد بين 0 و1 يقيس درجة توقع وقوع حدث.

مثال: P(زوجي) = 0.5

احتمال شرطي

Conditional Probability \(P(A\mid B)\)

احتمال حدث بعد العلم بوقوع حدث آخر.

احتمال لاحق

Posterior \(P(H\mid E)\)

احتمال الفرضية بعد رؤية البيانات.

احتمال مسبق

Prior \(P(H)\)

احتمال الفرضية قبل رؤية البيانات.

استقلال

Independence \(P(A\cap B)=P(A)P(B)\)

حدثان احتمال تقاطعهما حاصل ضرب احتماليهما.

الإفراط في التخصيص

Overfitting

مطابقة بيانات التدريب بما فيها الضوضاء مع ضعف التعميم.

مثال: درجة 9 على 20 نقطة

الإمكانية

Likelihood \(p(\mathcal{D}\mid\theta)\)

احتمال البيانات المرصودة بدلالة معاملات النموذج.

الارتباط

Correlation \(\rho\)

تغاير مطبّع بين −1 و1.

الاستقرار العددي

Numerical Stability

قدرة الخوارزمية على عدم تضخيم أخطاء التقريب.

مثال: Softmax بعد طرح القيمة العظمى

الالتفاف

Convolution

انكماش نافذة منزلقة من المدخل مع نواة مرشح.

مثال: مرشحات 3×3

الانتباه

Attention

متوسط موزون للقيم بأوزان من تشابه الاستعلامات والمفاتيح.

الانتروبيا

Entropy \(H(p)\)

متوسط محتوى المعلومات لتوزيع، وتقيس عدم اليقين.

الانتروبيا التقاطعية

Cross Entropy \(H(p,q)\)

متوسط مفاجأة توزيع q ببيانات من p، وخسارة التصنيف القياسية.

الانتشار الأمامي

Forward Propagation

حساب مخرجات الشبكة من مدخلاتها طبقةً طبقة.

الانتشار العكسي

Backpropagation

خوارزمية حساب تدرجات الشبكة بتطبيق قاعدة السلسلة من المخرج إلى المدخل.

مثال: تدريب الشبكات العصبية

الانحدار التدرجي

Gradient Descent \(\theta-\eta\nabla J\)

تحديث المعاملات عكس التدرج تكرارياً.

الانحدار التدرجي العشوائي

Stochastic Gradient Descent \(SGD\)

انحدار تدرجي بتدرج دفعة صغيرة عشوائية.

الانحراف المعياري

Standard Deviation \(\sigma\)

الجذر التربيعي للتباين.

البث

Broadcasting

محاذاة موترين مختلفي الشكل بتمديد المحاور ذات الطول 1.

مثال: (2,3)+(3,)

التباين

Variance \(\operatorname{Var}(X)\)

متوسط مربع الانحراف عن المتوسط.

التحقق المتقاطع

Cross-Validation \(k-fold\)

تقدير الأداء بتقسيم البيانات إلى طيات والتدريب والتقييم بالتناوب.

مثال: 5-fold

التحقق من التدرج

Gradient Checking

مقارنة التدرج التحليلي بتقريب الفروق المحدودة.

التحويل الخطي

Linear Transformation \(T(\mathbf{x}) = A\mathbf{x}\)

دالة بين فضاءين متجهيين تحافظ على الجمع والضرب في عدد، وتمثلها مصفوفة.

مثال: الدوران والتمديد

التحيز

Bias \(\text{Bias}\)

الفرق بين متوسط تنبؤات النموذج عبر العينات والقيمة الحقيقية.

الترميز الموضعي

Positional Encoding \(PE\)

متجه يحمل موضع الرمز في التسلسل.

مثال: المحولات

التعميم

Generalization

أداء النموذج على بيانات جديدة من التوزيع نفسه.

التغاير

Covariance \(\operatorname{Cov}(X,Y)\)

مقياس لتغير متغيرين معاً.

التفريط في التخصيص

Underfitting

نموذج أبسط من النمط فيكون خطؤه عالياً في التدريب والاختبار.

مثال: خط مستقيم لبيانات جيبية

التنظيم

Regularization \(\lambda R(\theta)\)

إضافة حد إلى الهدف أو قيود على النموذج للحد من الإفراط في التخصيص.

مثال: L2: λ‖w‖²

التوحيد المعياري

Standardization \(z=(x-\mu)/\sigma\)

تحويل الخاصية لتصبح بمتوسط 0 وانحراف معياري 1.

التوزيع الطبيعي

Normal Distribution \(\mathcal{N}(\mu,\sigma^2)\)

توزيع متصل جرسي متماثل معاملاه المتوسط والتباين.

الجداء النقطي

Dot Product \(\mathbf{a}^\top\mathbf{b}\)

مجموع حواصل ضرب المركبات المتناظرة لمتجهين، وناتجه عدد قياسي.

مثال: (1,2)·(3,4) = 11

الجيب وجيب التمام

Sine and Cosine \(\sin,\cos\)

إحداثيا النقطة على دائرة الوحدة عند زاوية θ.

الدالة الأسية

Exponential Function \(e^x\)

الدالة eˣ التي مشتقتها تساويها.

الدقة المختلطة

Mixed Precision

التدريب بأنواع منخفضة الدقة مثل float16 مع الاحتفاظ بنسخة float32 من الأوزان.

مثال: bfloat16

الزخم

Momentum \(\beta\)

متوسط متحرك للتدرجات يخفف التذبذب.

مثال: β = 0.9

الظل الزائدي

Hyperbolic Tangent \(\tanh\)

دالة تنشيط مداها (−1,1) ومتمركزة حول الصفر.

مثال: tanh(0) = 0

الغيض

Underflow

صغر الناتج عن أصغر قيمة موجبة ممثَّلة فيُقرَّب إلى صفر.

الفاصلة العائمة

Floating Point \((-1)^s m 2^e\)

تمثيل الأعداد الحقيقية بإشارة وجزء كسري وأس وفق معيار IEEE 754.

مثال: float32

الفرق المحدود

Finite Difference \(\frac{f(x+h)-f(x-h)}{2h}\)

تقريب المشتقة من قيم الدالة عند نقاط متقاربة.

الفيض

Overflow \(\infty\)

تجاوز الناتج أكبر قيمة ممثَّلة فيصبح inf.

مثال: e⁸⁹ في float32

القيمة الذاتية

Eigenvalue \(\lambda\)

معامل التمدد λ في المعادلة Av = λv.

مثال: قيم [[2,1],[1,2]]: 3 و1

القيمة المتوقعة

Expected Value \(\mathbb{E}[X]\)

المتوسط الموزون بالاحتمالات.

مثال: 3.5 لرمية نرد

المتجه الذاتي

Eigenvector \(\mathbf{v}\)

متجه غير صفري لا يتغير اتجاهه عند ضربه في المصفوفة.

مثال: (1,1) لـ [[2,1],[1,2]]

المحدد

Determinant \(\det A\)

عدد يقيس معامل تغيّر الحجم الموجَّه تحت التحويل الخطي، وصفره يعني عدم قابلية العكس.

مثال: det [[a,b],[c,d]] = ad − bc

المخاطرة التجريبية

Empirical Risk \(\hat R_n(f)\)

متوسط الخسارة على عينة التدريب.

المخاطرة المتوقعة

Expected Risk \(R(f)\)

متوسط الخسارة على التوزيع الحقيقي للبيانات.

المصفوفة المحايدة

Identity Matrix \(I\)

مصفوفة مربعة قطرها آحاد وبقية عناصرها أصفار.

مثال: AI = A

المعلومات المتبادلة

Mutual Information \(I(X;Y)\)

نقصان عدم اليقين في متغير بمعرفة آخر.

الميل

Slope \(m\)

نسبة التغير في y إلى التغير في x على مستقيم.

مثال: y = 2x + 1 ميله 2

انكماش الموتر

Tensor Contraction \(A_{ij}B_{jk}\)

الجمع على فهرس مشترك وحذفه من الناتج.

بايز الساذج

Naive Bayes

مصنف يطبق مبرهنة بايز مع افتراض استقلال الخصائص بشرط الفئة.

مثال: تصفية البريد المزعج

بت

Bit

وحدة المعلومات بلوغاريتم أساسه 2.

تباعد KL

KL Divergence \(D_{KL}\)

مقياس غير متماثل لاختلاف توزيعين.

تحسين

Optimization \(\min_\theta J(\theta)\)

البحث عن قيم المعاملات التي تقلل دالة الهدف أو تعظمها.

تحليل القيم المنفردة

Singular Value Decomposition \(U\Sigma V^\top\)

تحليل أي مصفوفة إلى UΣVᵀ.

مثال: ضغط الصور

تدرج

Gradient \(\nabla f\)

متجه المشتقات الجزئية، ويشير إلى اتجاه أشد صعود.

مثال: ∇(x²+y²) = (2x,2y)

تركيب الدوال

Function Composition \(f\circ g\)

تطبيق دالة على ناتج دالة أخرى.

مثال: الشبكة العميقة

ترميز einsum

Einstein Summation

صيغة لكتابة الانكماشات بالفهارس.

مثال: ij,jk->ik

تشابه جيب التمام

Cosine Similarity \(\cos\theta\)

جيب تمام الزاوية بين متجهين، ويقيس توافق الاتجاه بين -1 و1.

مثال: مقارنة التضمينات النصية

تقدير الإمكانية العظمى

Maximum Likelihood Estimation \(\hat\theta_{MLE}\)

اختيار المعاملات التي تعظّم احتمال البيانات.

تقليل المخاطرة التجريبية

Empirical Risk Minimization \(\arg\min\hat R_n\)

اختيار النموذج الذي يقلل متوسط خسارة التدريب ضمن صنف فرضيات.

تكامل

Integral \(\int\)

نهاية مجموع ريمان، والمساحة الموجَّهة تحت المنحنى.

مثال: ∫₀³ x² dx = 9

تلاشي التدرج

Vanishing Gradient

تضاؤل التدرج في الطبقات الأولى بسبب ضرب مشتقات محلية صغيرة عبر طبقات كثيرة.

مثال: شبكات Sigmoid العميقة

توزيع برنولي

Bernoulli Distribution \(\mathrm{Bern}(p)\)

توزيع متغير ثنائي يساوي 1 باحتمال p.

مثال: رمية عملة

توزيع ذي الحدين

Binomial Distribution \(\mathrm{Bin}(n,p)\)

عدد النجاحات في n محاولة مستقلة.

جداء خارجي

Outer Product \(\mathbf{u}\mathbf{v}^\top\)

جداء متجهين ينتج مصفوفة مرتبتها 1.

جداء كرونيكر

Kronecker Product \(A\otimes B\)

مصفوفة كتلية من نسخ مصفوفة مضروبة في عناصر أخرى.

حد أدنى عام

Global Minimum

أصغر قيمة للدالة على كامل مجالها.

حد أدنى محلي

Local Minimum

نقطة قيمتها أصغر من جوارها.

حقبة

Epoch

مرور كامل على بيانات التدريب.

حيلة Log-Sum-Exp

Log-Sum-Exp \(\operatorname{LSE}\)

حساب لوغاريتم مجموع الأسس بطرح القيمة العظمى لتجنب الفيض.

دائرة الوحدة

Unit Circle \(x^2+y^2=1\)

دائرة نصف قطرها 1 مركزها الأصل.

دالة

Function \(f: X\to Y\)

قاعدة تربط كل مدخل بمخرج واحد.

دالة Sigmoid

Sigmoid \(\sigma(x)\)

دالة على شكل S مداها (0,1).

مثال: σ(0) = 0.5

دالة أصلية

Antiderivative \(F\)

دالة مشتقتها تساوي الدالة المعطاة.

مثال: x³/3 أصلية لـ x²

دالة التنشيط

Activation Function \(\phi\)

دالة غير خطية تُطبق على مخرج العصبون.

مثال: ReLU

دالة التوزيع التراكمي

Cumulative Distribution Function \(F(x)=P(X\le x)\)

احتمال ألا يزيد المتغير على قيمة معينة.

دالة الخسارة

Loss Function \(\ell(\hat y, y)\)

دالة تقيس خطأ التنبؤ لعينة واحدة.

مثال: MSE

دالة الكتلة الاحتمالية

Probability Mass Function \(P(X=x)\)

احتمال كل قيمة لمتغير متقطع.

دالة الكثافة الاحتمالية

Probability Density Function \(p(x)\)

دالة غير سالبة تكاملها 1 لمتغير متصل.

دالة الهدف

Objective Function \(J(\theta)\)

الدالة المراد تقليلها أو تعظيمها.

دالة محدبة

Convex Function

دالة يقع الوتر بين أي نقطتين على منحناها فوقه.

مثال: x²

دفعة صغيرة

Mini-batch \(B\)

مجموعة صغيرة من العينات يُحسب عليها التدرج في كل خطوة.

مثال: 128 عينة

راديان

Radian \(rad\)

وحدة الزاوية بطول القوس على دائرة الوحدة.

مثال: 180° = π

رتبة الموتر

Tensor Order (Rank) \(k\)

عدد محاور الموتر.

مثال: دفعة الصور رتبتها 4

رمز المجموع

Summation \(\sum\)

اختصار لجمع حدود متتابعة يحددها فهرس.

مثال: Σᵢ xᵢ

شكل الموتر

Shape

قائمة أطوال محاور الموتر.

مثال: (2,3,4)

ضرب المصفوفات

Matrix Multiplication \(AB\)

عملية ينتج فيها كل عنصر من جداء نقطي بين صف وعمود.

مثال: (2×3)(3×4) → 2×4

طول المتجه (القاعدة)

Norm \(\lVert\mathbf{x}\rVert\)

دالة تقيس حجم المتجه، مثل القاعدة الإقليدية L2 والقاعدة L1.

مثال: ‖(3,4)‖ = 5

عدد الشرط

Condition Number \(\kappa(A)\)

نسبة أكبر قيمة منفردة إلى أصغرها، وتقيس حساسية حل النظام الخطي للأخطاء.

مثال: مصفوفة سيئة الشرط

عدد قياسي

Scalar \(a\)

عدد حقيقي مفرد ليس له اتجاه.

مثال: معدل التعلم 0.01

فضاء العينة

Sample Space \(\Omega\)

مجموعة كل النتائج الممكنة لتجربة عشوائية.

مثال: {1,…,6} للنرد

قاعدة السلسلة

Chain Rule \(\frac{dy}{dx}=\frac{dy}{du}\frac{du}{dx}\)

مشتقة الدالة المركّبة حاصل ضرب المشتقات المحلية.

مثال: أساس الانتشار العكسي

كسب المعلومات

Information Gain \(IG\)

نقصان الانتروبيا بعد التقسيم في شجرة قرار.

لوغاريتم

Logarithm \(\log\)

عكس الدالة الأسية.

مثال: log₂ 8 = 3

لوغاريتم الإمكانية

Log-likelihood \(\sum_i\log p(x_i\mid\theta)\)

مجموع لوغاريتمات احتمالات البيانات تحت النموذج.

مبرهنة النهاية المركزية

Central Limit Theorem

متوسط متغيرات مستقلة كثيرة يقترب من التوزيع الطبيعي.

مبرهنة بايز

Bayes' Theorem \(P(H\mid E)\)

صيغة لحساب الاحتمال اللاحق من الإمكانية والمسبق.

مثال: تصفية الرسائل

متجه

Vector \(\mathbf{x}\)

قائمة مرتبة من الأعداد الحقيقية تمثل نقطة أو اتجاهاً في الفضاء.

مثال: (3, 4)

متعامد

Orthogonal \(\mathbf{a}\perp\mathbf{b}\)

وصف لمتجهين جداؤهما النقطي صفر، أو لمصفوفة أعمدتها متعامدة وحدوية.

مثال: (1,0) و(0,1)

متغير

Variable \(x\)

رمز يمثل كمية مجهولة أو متغيرة.

مثال: x في ŷ = wx + b

متغير عشوائي

Random Variable \(X\)

دالة من فضاء العينة إلى الأعداد الحقيقية.

متوسط مربع الخطأ

Mean Squared Error \(\mathrm{MSE}\)

متوسط مربعات الفروق بين القيم الحقيقية والمتنبأ بها.

مجال الدالة

Domain

مجموعة المدخلات المسموحة للدالة.

مثال: مجال √x هو x ≥ 0

محتوى المعلومات

Information Content \(I(x)\)

سالب لوغاريتم احتمال الحدث.

مثال: رمية عملة = 1 بت

محسّن Adam

Adam

محسّن تكيفي يجمع الزخم ومتوسط مربعات التدرج مع تصحيح التحيز.

مرتبة المصفوفة

Rank \(\operatorname{rank}A\)

عدد الأعمدة (أو الصفوف) المستقلة خطياً، ويساوي عدد القيم المنفردة غير الصفرية.

مثال: مرتبة [[1,2],[2,4]] تساوي 1

مشتقة

Derivative \(f'(x)\)

معدل التغير اللحظي للدالة وميل المماس.

مثال: (x²)′ = 2x

مشتقة جزئية

Partial Derivative \(\partial f/\partial x\)

مشتقة بالنسبة إلى متغير واحد مع تثبيت البقية.

مثال: ∂(xy)/∂x = y

مصفوفة

Matrix \(A\in\mathbb{R}^{m\times n}\)

ترتيب مستطيل من الأعداد في صفوف وأعمدة.

مثال: مصفوفة الأوزان

مصفوفة جاكوبي

Jacobian \(J\)

مصفوفة المشتقات الجزئية الأولى لدالة متجهية.

مصفوفة متماثلة

Symmetric Matrix \(A = A^\top\)

مصفوفة مربعة تساوي منقولها.

مثال: مصفوفة التغاير

مصفوفة هِسّه

Hessian \(H\)

مصفوفة المشتقات الجزئية الثانية، وتصف الانحناء.

معادلة خطية

Linear Equation \(ax+b=0\)

معادلة متغيراتها من الدرجة الأولى.

مثال: 2x + 3 = 11

معامل (بارامتر)

Parameter \(\theta\)

كمية في النموذج تُتعلم من البيانات مثل الأوزان والانحيازات.

مثال: w وb

معامل فائق

Hyperparameter

معامل يُختار قبل التدريب ولا يُتعلم بالانحدار التدرجي.

مثال: حجم الدفعة

معدل التعلم

Learning Rate \(\eta\)

حجم خطوة التحديث في الانحدار التدرجي.

مثال: 0.001

معكوس المصفوفة

Matrix Inverse \(A^{-1}\)

المصفوفة التي يعطي ضربها في الأصلية المصفوفة المحايدة.

مثال: AA⁻¹ = I

مقياس الحيرة

Perplexity \(PPL\)

أس متوسط الانتروبيا التقاطعية لكل رمز في نموذج لغوي.

منقول المصفوفة

Transpose \(A^\top\)

المصفوفة الناتجة عن تبديل الصفوف بالأعمدة.

مثال: (AB)ᵀ = BᵀAᵀ

موتر

Tensor \(\mathcal{T}\)

مصفوفة متعددة الأبعاد من الأعداد لها شكل وعدد محاور.

مثال: (32,3,224,224)

نقطة سرج

Saddle Point

نقطة تدرجها صفر وليست حداً أدنى ولا أعلى، إذ تصعد الدالة في اتجاه وتهبط في آخر.

مثال: x² − y² عند الأصل

نهاية

Limit \(\lim\)

القيمة التي تقترب منها الدالة عندما يقترب المتغير من نقطة.

مثال: lim sin(x)/x = 1