التعلم العميق · Deep Learning
انتشار أمامي وعكسي لشبكة صغيرة
MLP Forward and Backward Pass
تدريب شبكة بطبقة مخفية على XOR بالانتشار العكسي اليدوي.
X = [0 0 1 1; 0 1 0 1]; T = [0 1 1 0];
W1 = [0.5 -0.4; 0.3 0.8; -0.6 0.2; 0.7 -0.5]; b1 = [0.1; -0.1; 0.05; 0];
W2 = [0.4 -0.3 0.6 -0.2]; b2 = 0;
sig = @(z) 1 ./ (1 + exp(-z));
lr = 1.0;
for epoch = 1:5000
H = tanh(W1 * X + b1);
Y = sig(W2 * H + b2);
dZ2 = Y - T;
dW2 = dZ2 * H' / 4; db2 = mean(dZ2);
dZ1 = (W2' * dZ2) .* (1 - H.^2);
dW1 = dZ1 * X' / 4; db1 = mean(dZ1, 2);
W2 = W2 - lr*dW2; b2 = b2 - lr*db2;
W1 = W1 - lr*dW1; b1 = b1 - lr*db1;
end
Y = sig(W2 * tanh(W1 * X + b1) + b2);
fprintf('outputs = %s\n', mat2str(Y, 3));
fprintf('predictions = %s\n', mat2str(double(Y > 0.5)));شرح الخطوات
- طبقة مخفية بأربعة عصبونات tanh وخرج sigmoid.
- خسارة BCE فتدرج الخرج Y − T مباشرة.
- نحدّث كل الأوزان بالانحدار التدرجي على الدفعة كاملة.
المخرجات المتوقعة
outputs = [5.83e-05 1 0.999 0.000564] predictions = [0 1 1 0]
شُغّل هذا الكود في GNU Octave 8.4 أثناء إعداد المكتبة والمخرجات المعروضة ناتجه الفعلي. لم يُختبر في MATLAB نفسه، لكنه يستخدم دوال MATLAB الأساسية فقط والطباعة بـ fprintf/disp.
