Нейронные сети. 
Системы искусственного интеллекта

Принцип построения нейронных сетей

Стандартный способ решения любой задачи с применением компьютера заключается в том, что задача исследуется, составляется алгоритм, который реализуется на языке программирования в виде программы. После отладки программа готова к эксплуатации.

Пусть нам поручено создать робот, играющий в баскетбол, а именно, та его часть, которая отвечает за бросание мяча в корзину. Первое, с чего нужно начать, это составить дифференциальные уравнения для полета мяча с разных позиций, внести поправки на сопротивление воздуха, параллакс датчиков по отношению к исполнительному устройству и т. д. После этого можно приступать к программированию. В то же время вряд ли ктонибудь предположит, что Шакил О’Нил знает хотя бы элементарную математику, не говоря о высшей. Человеческий мозг, очевидно, решает эту задачу принципиально другим способом. Все знают, какой это способ — многократное повторение.

В предыдущем разделе мы рассматривали обучение, результатом которого являются вероятности наступления тех или иных событий. А возможно ли создать такую вычислительную структуру, которая бы без всякого программирования, на основе многократных повторений, могла бы обучаться решению задач. Такая структура называется нейронной сетью.

Идея позаимствована у природы. Нейронная сеть представляет собой совокупность нейронов — вычислительных элементов (иногда называемых персептронами), каждый из которых имеет несколько входов-синапсов и один выход-аксон.

Интеллект одиночного нейрона (рис. 5.1) невысок. Можно считать, что он реализует в сете простую регрессионную модель для N независимых переменных. Если же объединить множество нейронов, в сетевые структуры, то и реализуемая функция может быть сколь угодно сложной.

Рис. 5.1. Одиночный нейрон.

Изображенная на рисунке 5.2 сеть имеет явно выраженные слои, т. е. ряды нейронов, равноудаленные от входа (выхода). Могут создаваться и другие структуры, в том числе с обратными связями (рекуррентные).

Рис. 5.2. Нейронная сеть.

Реализация такой сети может быть аппаратной, когда каждый нейрон выполнен на отдельном микропроцессоре, или программной, если нейроны эмулируются в специальных программах, подобных электронным таблицам.

Структура отдельного нейрона может быть произвольной, но чаще всего используется следующая (рис. 5.3):

Рис. 5.3. Структура нейрона.

Входные сигналы (переменные) X; взвешиваются (умножаются на коэффициенты W., называемые синаптическими весами), затем суммируются, и полученная взвешенная сумма.

подвергается изменению функцией f (S), называемой функцией активации. Выходной сигнал Y также может повергаться взвешиванию (масштабированию). В качестве функции активации чаще всего используются сигмоидная функция Y = 1 / / (1 + exp (-A.S)), а также гиперболический тангенс, логарифмическая функция, линейная и другие. Основное требование к таким функциям — монотонность.

Рис. 5.4. Функция логистического сигмоида.

Рассмотрим теперь, каковы вычислительные возможности единичного нейрона. Пусть число синапсов равно трем, и синаптические веса W_1? W₂, W₃ равны 1.0, а функция активации имеет следующий вид, представленный графиком (это функция логистического сигмоида, смещенная вдоль оси X вправо на 0, 5 (рис. 5.5)):

Рис. 5.5. Вид функции активации для реализации булевых.

функций Пусть входные сигналы принимают значения 0 или 1. В этом случае на выходе будет приблизительно 1 в случае, если хотя бы один из входных сигналов равен 1, то есть функцию дизъюнкции. Если же синаптические веса W_l7 W₂, W₃ установить в 0.2, то этот же нейрон будет реализовывать функцию конъюнкции.