Метод случайного поиска с направляющей сферой

2. Этап принятия решения. На этом этапе определяется направление рабочего шага согласно какому-нибудь конкретному принятому методу. Новое приближение хk+1 определяется согласно соотношению хk+1 = хk + хk, где смещение хk находится одним из рассмотренных выше методов. Так, например, для метода наилучшей пробы:

для метода статистического градиента.

3. Этап обучения. Так как выбранное направление смещения хk в общем случае не совпадает с направлением вектора памяти Wk, то, естественно, Wk необходимо поправить. Это можно сделать различными способами, например, так:

где > 0 — параметр, характеризующий долю участия новой информации при корректировке вектора памяти. В начальный момент при k=0 можно принять W⁰ =0.

Основным недостатком алгоритма является необходимость выбора четырех параметров: с,, h_раб, m, от которых и зависит эффективность алгоритма. Учитывая, что эти параметры должны подбираться экспериментально, представляют интерес модификации рассмотренного метода. Рассмотрим одну из таких модификаций.

Метод случайного поиска с направляющим конусом

Как и раньше, из точки х^k делается т проб, но на основе использования случайных векторов с равномерно распределенной плотностью внутри гиперконуса с вершиной в точке х^k осью, направленной вдоль вектора памяти W^k, и с углом полного раствора .

Метод случайного поиска с направляющей сферой Направление рабочего смещения х^k определим в соответствии с методом наилучшей пробы:

В качестве обновленного вектора W^k+1 примем вектор наилучшей пробы Таким образом, в данном алгоритме выбору подлежат не четыре, а три параметра, h_раб, m.

Характерной особенностью двух последних алгоритмов является их «инерционность». Действительно, направление поиска, задаваемое в среднем вектором памяти W^k, не может резко измениться за один шаг. Эта инерционность определяется в одном алгоритме параметрами h_раб и, в другом — параметрами h_раб и. Наличие инерционности придает глобальный характер процессу поиска, позволяя преодолевать локальные минимумы и осуществлять поиск вдоль «оврагов» и «хребтов» целевой функции. С другой стороны, процесс поиска должен быть достаточно мобильным. Поэтому при выборе параметров алгоритмов приходится прибегать к компромиссному решению. При рациональном назначении этих параметров алгоритм стимулирует поиск вдоль «оврагов» целевой функции независимо от того, поднимаются они или опускаются, позволяя преодолевать «хребты» по «перевалам» и отыскивать новые районы ее локальных минимумов. Эти алгоритмы хотя и не находят самого глобального минимума, но позволяют выделить те области пространства, где этотминимум может находиться.