Нейронная сеть состоит из нейронов, отдалённо напоминающих свой биологический прототип. Структура нейрона представлена на рисунке 4.
Рисунок 4. Структурная схема нейрона.
x1,…, xn — значения, которые подаются на входы (синапсы) нейрона; w1,., wn — веса синапсов, которые могут быть как тормозящими, так и усиливающими; S — взвешенная сумма входных сигналов:
· F — функция активации нейрона, преобразующая взвешенную сумму в выходной сигнал:
На рисунке 5 представлены несколько различных функций активации:
Рисунок 5. Виды функций активации Для каждой конкретной задачи следует выбирать свою, наиболее подходящую функцию. Для проектирования нашей системы наиболее разумно выбрать сигмоид.
Этот выбор обусловлен рядом ценных свойств сигмоида:
- · способность усиливать слабые сигналы лучше, чем многие другие функции, и сопротивляться «насыщению» от мощных воздействий;
- · монотонность и дифференцируемость на всей оси абсцисс;
- · простое выражение для ее производной.
Так же сигмоидная функция очень удобна для нашей системы. Значения сигмоида лежат на отрезке [0,1], а правила кредитования, которые мы хотим получать на выходе системы, не содержат отрицательных значений. Область значений сигмоида намного проще расширить до любого наперед заданного положительного отрезка.