Идентификация непрерывных биометрических сигналов на основе нейронных сетей

Автоматизация обработки естественной информации является актуальной проблемой, стоящей перед современным человечеством. Под естественной информацией в данном случае понимается информация, получаемая при осуществлении человеком некоторых операций, например, написание теста «от руки» (рукописный почерк), набор текста на клавиатуре (клавиатурный почерк), простановка подписи, разговор, и т. д. Можно заметить, что естественный сигнал содержит как прямую непосредственную информацию, например, в случае набора текста на клавиатуре — некоторый набранный текст, так и информацию скрытую, например, информацию о личности человека, набирающего этот текст. Можно видеть, что естественные сигналы соответствуют так называемым динамическим биометрическим характеристикам [22] и, как следствие, содержащаяся в них естественная информация может использоваться как для извлечения прямой информации, так и для идентификации личности.

В случае, когда интересующая информация не может быть получена путем однократного применения одного алгоритма, анализ биометрического сигнала носит иерархический характер, когда на каждом уровне анализа выделяются новые обобщенные характеристики сигнала вплоть до этапа, когда будет получена интересующая информация.

Анализ биометрической информации может быть представлен в виде последовательного выполнения следующих шагов:

1. Выбор параметров, по которым будет производиться анализ и извлечение этих параметров из биометрического сигнала.

2. Выбор метода анализа параметров сигнала и применение этого метода к извлеченным параметрам.

3. Анализ результата и либо переход к следующему уровню анализа (результат принимается за новый сигнал и повторяется выполнение шагов 1−3), либо принятие решения.

Методы анализа параметров могут быть разделены на следующие группы:

1) статистический анализ [1,4];

2) спектральный анализ с применением преобразования Фурье, вейвлет-преобразований и др. [5, 18];

3) анализ на основе аппарата скрытых марковских моделей [23, 62];

4) применение аппарата искусственных нейронных сетей [25, 73, 74];

5) применение генетических алгоритмов [13, 69].

При этом, возможно совместное использование этих методов как на одном, так и на различных уровнях анализа.

Применение нейронных сетей обладает рядом преимуществ (универсальность, возможность распараллеливания и др.) и недостатков (проблематичность интерпретации внутренней структуры, «проклятие размерности» и др.).

При использовании для анализа параметров аппарата нейронный сетей на параметры накладываются следующие ограничения:

— в анализируемых параметрах должна содержаться информация, на основании которой возможно определить целевое значение выхода;

— нейронная сеть должна быть способна на основании анализируемых входных параметров обучиться до приемлемого уровня ошибки;

— после обучение нейронная сеть должна быть способна по результатам обучения на анализируемых параметрах быть способной выдавать приемлемый результат на примерах, отсутствующих в обучающей выборке.

Значительный вклад в применение нейросетевых алгоритмов и решению проблем, возникающих при их применении, внесли следующие ученые: Ф. Розанблатт, С. Хайкин, M.JI. Минский, С. Пэйперт, Т. Кохонен, Дж. Хопфилд, А. И. Галушкин, А. Н. Горбань, В. В. Круглов, Е. М. Миркес, В.А. Дунин-Барковский.

Одной из открытых проблем при использовании нейронных сетей является проблема выбора набора входных параметров для передачи их на входы нейронной сети. Кроме того, необходимо осуществить предварительную обработку данных перед подачей их на входы нейронной сети для повышения скорости обучения и снижения итоговой ошибки. Эти проблемы и текущие подходы к их решению представлены в [60, 77, 80]. Однако, эти подходы не учитывают специфику распределения выходных значений нейронной сети и возможность разного приоритета ошибок для различных выходов на этапе выбора входных параметров.

При анализе клавиатурного почерка проблема выбора параметров не является особенно острой, поскольку принципиально различных параметров не так много и возможен учет большинства из них при количестве входов нейронной сети, не превышающих 1500. Описание количества входов нейронной сети и типа используемых параметров для различных задач анализа биометрической информации, построенное на основе [36, 49, 43], представлено на следующей странице.

При решении задач с более широкой возможностью выбора входных параметров, например при анализе речи, проблема выбора становится крайне трудной задачей. Следует учитывать, что общее множество параметров в данной ситуации является открытым: для такого сложного процесса, как человеческая речь существует бесчисленное множество вариантов формирования конкретных параметров на основе имеющегося речевого сигнала.

Клавиатурный почерк, фиксированная фраза Клавиатурный почерк, произвольная фраза Подпись Речь.

Набор входных параметров 100−400 До 1500, но возможно ограничение 1000 Зависит от параметров, для гармоник — до 300 1000 и более, ограничено предельным размером входного слоя нейронной сети.

Применение нейронных сетей Двухслойный персептрон Двухслойный персептрон Двухслойный персептрон Прямое решение простым применением двухслойного персептрона невозможно.

Комментарии Интервалы между нажатиями, время залипания, количество зависит от длины фразы Зависит от отслеживаемых сочетаний (биграмм, триграмм и т. д.), статистические параметры Параметрырезультат анализа Фурье зависимостей изменения координат и давления Выбор параметров не определен. Зависит от окна анализа и частоты дискретизации.

Однако, даже после того как некоторое ограниченное множество параметров сформировано, проблема выбора из них набора, дающего близкий к оптимальному результат не является тривиальной. В этом случае используется понятие информативности параметра. Под информативностью параметра в рамках данной работы будет пониматься количественная оценка, определяющая эффективность классификации входного сигнала. Классификация основывается на оцениваемом параметре и методе оценки по сравнению с другими параметрами. Ключевыми пунктами в данном определении являются:

— информативность является относительной величиной, приобретающей смысл только при сравнении с другими параметрами;

— информативность может определяться только в рамках методов оценки. Общие оценки информативности представляют некоторый теоретический интерес, примером такой оценки может являться количество информации, однако, их практическая значимость при решении задачи каким-либо конкретным методом представляется сомнительной. Один и тот же параметр может оказаться существенным при одном подходе и малозначимым при другом, а формирование одного подхода, учитывающего все достоинства и недостатки существующих — проблема, как правило, неразрешимая.

Цель исследований: построение методик и алгоритмов оценки информативности параметров при анализе сложной естественной характеристики на примере речевого сигнала.

Для достижения поставленной цели необходимо решить следующие задачи:

1) проведение анализа методов, моделей и критериев в области обработки биометрической информации при помощи нейросетевых технологий;

2) анализ существующих подходов к проблеме оценки информативности параметров;

3) разработка критерия информативности, учитывающего специфику возможного распределения выходов нейронной сети;

4) построение алгоритма выбора параметров сигнала для передачи на вход нейронной сети с учетом разработанного критерия;

5) исследование эффективности разработанного алгоритма на примере задачи анализа речевого сигнала и сопоставления результатов работы нейронной сети, полученной на основе разработанного алгоритма и существующих алгоритмов анализа речевого сигнала.

Объектом исследования являются биометрические сигналы вне зависимости от их происхождения (клавиатурный почерк, подпись, речевой сигнал, электрокардиограмма).

Предмет исследования — принципы применения нейронных сетей для анализа биометрических сигналов.

Методы исследований: для решения поставленных задач в работе применялись методы системного анализа, теории вероятностей и математической статистики, цифровой обработки сигналов и численных методов.

Достоверность полученных в работе результатов подтверждается:

— большим количеством экспериментальных данных, подтверждающих правильность теоретических выкладок;

— сравнением полученных на основе эксперимента данных с данными, полученными при помощи других методов.

Научная новизна полученных в работе результатов заключается в следующем:

— обоснован новый критерий информативности параметров, который использует результаты обработки тестовой выборки при помощи нейронной сети, отличающийся от существующих учетом особенностей распределения значений ошибок на выходах нейронной сети и учитывающий возможные приоритеты ошибок;

— разработан алгоритм выбора параметров для обработки их нейронной сетью при решении задачи анализа биометрической информации с использованием нового критерия;

— показана необходимость учета значения критерия информативности и коэффициента корреляции между параметрами нейронной сети при использовании нескольких параметров. Это позволяет получать лучшие результаты на анализе биометрического сигнала по сравнению с классическими решениями.

Практическая значимость работы заключается в реализованном программном комплексе, позволяющем на основе предложенных критерия и алгоритмов осуществлять разработку программного обеспечения, предназначенного для анализа биометрического сигнала с применением нейросетевого подхода.

Применение программного комплекса, реализующего предложенные в диссертационной работе подходы, позволило решить ряд практических задач, а именно:

— сократить время по оценке разборчивости речи на 74% в рамках задач НИИ онкологии СО РАМН и обеспечить накопление речевых сигналов пациентов для дальнейшего исследования;

— автоматизировать процесс тестирования устройств для съема суточной электрокардиограммы «Биоток-3000», позволив в автоматическом режиме осуществлять выделение участков кардиограммы для дальнейшего анализа, что позволило сократить общее время тестирования на 9%.

Положения, выносимые на защиту:

— критерий информативности, основанный на результатах обработки обученной нейронной сетью тестовой выборки, который позволяет и осуществлять ранжировки и выбор параметров для передачи на входы нейронной сети. Предложенный критерий отличается от существующих большей гибкостью за счет учета весовых коэффициентов значимости ошибок первого и второго рода и возможной нелинейности критерия;

— алгоритм ранжировки параметров по информативности на основе разработанного критерия;

— практическое обоснование необходимости учета коэффициента корреляции между параметрами биометрического сигнала при выборе параметров для обучения нейронной сети, позволяющей повысить итоговое значение критерия информативности на 5%.

Внедрение результатов. Результаты работы внедрены в учебный процесс кафедры КИБЭВС ТУСУР, в деятельность отельных подразделений ООО «Энергометаллургический завод», НИИ онкологии СО РАМН, ООО НПФ «Информационные системы безопасности», НПФ «Биоток».

Апробация работы. Основные результаты по теме диссертационной работы отражены в 24 публикациях (из них 4 в журналах, рекомендованных ВАК). По результатам работы получено 2 свидетельства о регистрации в Отраслевом фонде алгоритмов и программ (свидетельства № 7356 от 18.12.2006 и № 8164 от 25.04.2007). Результаты работы представлялись на: XVIII и XIX сессиях Российского акустического общества (Москва, 2006 и 2007 гг.) — Всероссийской научно-технической конференции студентов, аспирантов и молодых специалистов «Научная сессия ТУСУР'2003» -«Научная сессия ТУСУР'2008», семинарах томской секции IEEE.

Личный вклад. В диссертационной работе использованы результаты, в которых автору принадлежит определяющая роль. Некоторые из опубликованных работ написаны в соавторстве с сотрудниками научной группы. В совместных работах диссертант принимал участие в непосредственной разработке подходов к применению нейронных сетей для выделения признаков фонем и их групп, разработке интерпретатора выходов нейронных сетей, теоретических расчетах, постановке и проведении вычислительных экспериментов, в интерпретации результатов. Постановка задачи исследований осуществлялась научным руководителем, к.т.н., доцентом Р. В. Мещеряковым и д.т.н., профессором В. П. Бондаренко.

Структура и объем работы.

Диссертация состоит из введения, четырех глав, заключения, списка литературы из 88 наименований и 1 приложения. Общий объем работы составляет 171 страниц, в том числе 47 рисунок и 17 таблиц.

Выводы по главе:

1) рассмотрен программный комплекс для идентификации пользователей на основе клавиатурного почерка. Самостоятельное применение данного комплекса неэффективно, однако, в сочетании с парольной защитой оно позволяет предотвратить передачу личной ключевой информации другим пользователям;

2) рассмотрена структура программного комплекса для обработки речевого сигнала с применением нейронных сетей. Подробно рассмотрены основные подсистемы комплекса, их назначение и порядок обработки сигнала при помощи комплекса;

3) представлены примеры использования программного комплекса для анализа речи в задачах реабилитации пациентов после операции на языке, возникающих в НИИ онкологии СО РАМН. Применение программного комплекса позволило сократить время по оценке разборчивости речи на 74% и позволило обеспечить накопление речевых сигналов пациентов для дальнейшего исследования;

4) реализация алгоритмов, предложенных в диссертации, позволила автоматизировать процесс тестирования устройств для съема суточной электрокардиограммы «Биоток-3000». Применение программного комплекса позволило в автоматическом режиме осуществлять выделение участков кардиограммы для дальнейшего анализа, что позволило сократить общее время тестирования на 9%.

ЗАКЛЮЧЕНИЕ

.

Данная работа направлена на решение задач, возникающих при построении систем анализа биометрических характеристик с помощью нейронных сетей. Изложен подход, позволяющий формализовать процедуру выбора параметров для последующего анализа нейронной сетью на основе значений ошибок первого и второго рода, достигнутых при обработке тестовый выборки.

Цель работы, сформулированная как «построение методик и алгоритмов оценки информативности параметров при анализе сложной естественной характеристики на примере речевого сигнала» достигнута по следующим пунктам.

1. Показана несостоятельность использования количественного значения обученности нейронной сети в качестве критерия для выбора параметров, анализируемых нейронной сетью.

2. Предложен и обоснован новый критерий информативности параметров, который использует результаты обработки тестовой выборки при помощи нейронной сети, отличающийся от существующих учетом особенностей распределения значений ошибок на выходах нейронной сети и учитывающий возможные приоритеты ошибок.

3. Разработан алгоритм ранжировки параметров по информативности на основе разработанного критерия.

4. Разработан алгоритм выбора параметров для обработки нейронной сети с учетом коэффициента корреляции между ними, позволяющий повысить итоговое значение критерия информативности на 5%.

5. Реализовано применение изложенных алгоритмов для задачи анализа биометрических характеристик человека на примере анализа речевого сигнала.

Реализованный программный комплекс может служить основой для создания программного обеспечения, предназначенного для анализа речевого сигнала с применением нейронных сетей. В комплексе используются разработанные в диссертационной работе критерии информативности и алгоритмы выбора параметров на его основе. Использование данного комплекса позволило формализовать процедуру выбора параметров для анализа их нейронной сетью. Применение базы данных для хранения параметров, обученных нейронных сетей и результатов их работы позволило автоматизировать процедуру сравнения различных нейронных сетей между собой.

Применение программного комплекса позволило решить ряд практических задач:

— анализ речи в задачах реабилитации пациентов после операции на языке, возникающих в НИИ онкологии СО РАМН. Применение программного комплекса позволило сократить время по оценке разборчивости речи на 74% и позволило обеспечить накопление речевых сигналов пациентов для дальнейшего исследованияавтоматизация процесса тестирования устройств для съема суточной электрокардиограммы «Биоток-3000». Применение программного комплекса позволило в автоматическом режиме осуществлять выделение участков кардиограммы для дальнейшего анализа, что привело к сокращению общего времени тестирования на 9%.