دالة تمكن الشبكات العصبية (neural networks) من تعلم العلاقات غير الخطية (nonlinear) (المعقدة) بين الميزات والتسمية.
تتضمن دوال التنشيط الشائعة ما يلي:
مخططات دوال التنشيط ليست خطوطًا مستقيمة مفردة أبدًا. على سبيل المثال، تتكون دالة تنشيط ReLU من خطين مستقيمين:
تبدو مخطط دالة sigmoid كما يلي:
في الشبكة العصبية، تتلاعب دوال التنشيط بالمجموع المرجح (weighted sum) لجميع مدخلات الخلايا العصبية (neuron). لحساب مجموع مرجح، تجمع الخلايا العصبية (neuron) نواتج القيم والأوزان ذات الصلة. على سبيل المثال، افترض أن المدخلات ذات الصلة بالخلايا العصبية تتكون مما يلي:
وبالتالي فإن المجموع المرجح هو:
weighted sum = (2)(-1.3) + (-1)(0.6) + (3)(0.4) = -2.0
لنفترض أن مصمم هذه الشبكة العصبية اختار دالة sigmoid لتكون دالة التنشيط. في هذه الحالة، تحسب الخلية العصبية sigmoid لـ -2.0، وهو ما يقرب من 0.12. لذلك، تمر الخلية العصبية 0.12 (بدلاً من -2.0) إلى الطبقة التالية في الشبكة العصبية. يوضح الشكل التالي الجزء ذي الصلة من العملية:
