كتب الذكاء الاصطناعيمشاريع الذكاء الاصطناعيمقالات الذكاء الاصطناعيمعجم الذكاء الاصطناعياسئلة واجوبة في الذكاء الاصطناعيأكاديمية الذكاء الاصطناعي للأطفالأكاديمية الذكاء الاصطناعيمدرسة رياضيات الذكاء الاصطناعيمختبر الذكاء الاصطناعيمختبر الخوارزميات المستوحاة من الطبيعةأطلس نماذج الذكاء الاصطناعيموسوعة تطبيقات الذكاء الاصطناعيمستكشف مجموعات البيانات للذكاء الاصطناعياختبارات الذكاء الاصطناعيالفايب كودينغدليل البرمجة بالذكاء الاصطناعيمولّد مشاريع الذكاء الاصطناعيمرصد الذكاء الاصطناعيدليل أدوات الذكاء الاصطناعي البحث والنشر الأكاديميمكتبة البرومبتات الأكاديميةمستودع الرسائل والأطاريح في الذكاء الاصطناعيحاسبة الترقية العلميةأكاديمية الوكلاء الذكيينمختبر أخلاقيات الذكاء الاصطناعي والعدالةساحة ألعاب الذكاء الاصطناعيعبقري الذكاء الاصطناعيمختبر التنبؤ بالسلاسل الزمنيةمتحف الذكاء الاصطناعيمختبر الرؤية الحاسوبيةمختبر الشبكات العصبية البيانيةمختبر تحليل الصور الطبيةمختبر معالجة اللغة الطبيعيةمختبر الحوسبة الكمّيةخرائط طريق الذكاء الاصطناعيأكاديمية ماتلاب والذكاء الاصطناعيمصمم الشبكات العصبيةأكاديمية الذكاء الاصطناعي بدون برمجة

التعلم العميق · Deep Learning

Softmax والخسارة التقاطعية

Softmax and Cross-Entropy

مبتدئالتعلم العميق

تحويل الدرجات إلى احتمالات بثبات عددي وحساب الخسارة لدفعة.

logits = [2.0 1.0 0.1; 0.5 2.5 0.3; 1.2 0.2 3.1];
labels = [1 2 3];
Z = logits - max(logits, [], 2);
P = exp(Z) ./ sum(exp(Z), 2);
fprintf('probabilities:\n'); fprintf('  %.4f %.4f %.4f\n', P');
idx = sub2ind(size(P), 1:3, labels);
loss = -mean(log(P(idx)));
[~, pred] = max(P, [], 2);
fprintf('cross-entropy = %.4f\n', loss);
fprintf('predictions = %s, accuracy = %.2f\n', mat2str(pred'), mean(pred' == labels));

شرح الخطوات

  1. طرح أكبر قيمة في كل صف يمنع فيضان exp.
  2. sub2ind يلتقط احتمال الفئة الصحيحة لكل مثال.
  3. الخسارة متوسط سالب لوغاريتم تلك الاحتمالات.

المخرجات المتوقعة

مخرجات فعلية من GNU Octave
probabilities:
  0.6590 0.2424 0.0986
  0.1086 0.8025 0.0889
  0.1242 0.0457 0.8302
cross-entropy = 0.2744
predictions = [1 2 3], accuracy = 1.00

شُغّل هذا الكود في GNU Octave 8.4 أثناء إعداد المكتبة والمخرجات المعروضة ناتجه الفعلي. لم يُختبر في MATLAB نفسه، لكنه يستخدم دوال MATLAB الأساسية فقط والطباعة بـ fprintf/disp.