Адаптивная модель распознавания образов для решения задач классификации в условиях неопределенности
Диссертация
В настоящее время разработка методов обработки нечетких, неполных и противоречивых знаний составляет основное содержание работ в области создания экспертных систем. Такие системы должны обнаруживать противоречия между имеющимися и вновь поступающими данными и обладать средствами согласования этих противоречий. В рамках задачи распознавания образов это свойство обуславливает необходимость… Читать ещё >
Содержание
- ОСНОВНЫЕ ОБОЗНАЧЕНИЯ
- 1. ИССЛЕДОВАНИЕ СОСТОЯНИЯ ЗАДАЧИ РАСПОЗНАВАНИЯ ОБРАЗОВ
- 1. 1. Место методов распознавания образов в задачах оценивания и управления
- 1. 2. Общая постановка задачи распознавания
- 1. 2. 1. Типы решаемых задач
- 1. 2. 2. Типы обрабатываемой информации
- 1. 3. Концепция обучения
- 1. 4. Классы алгоритмов распознавания
- 1. 4. 1. Структура алгоритмов распознавания
- 1. 4. 2. Способы задания распознающих операторов
- 1. 5. Коллективные решающие правила
- 1. 5. 1. Логическая и геометрическая интерпретация комитетов в задаче распознавания образов
- 1. 5. 2. Критерии оптимальности коллективных решающих правил
- 1. 5. 3. Алгоритмы построения комитетов
- 1. 6. Цель и задачи диссертационного исследования
- 2. МОДЕЛЬ АДАПТАЦИИ КЛАССИФИКАТОРА К ИСТОЧНИКУ АПРИОРНОЙ ИНФОРМАЦИИ
- 2. 1. Формы представления обучающей информации и ее неопределенности в задаче распознавания
- 2. 2. Организация процесса адаптации
- 2. 3. Преобразование коррекции обучающей информации
- 2. 4. Преобразование коррекции матрицы алгоритмических оценок параметра качества
- Выводы
- 3. АЛГОРИТМЫ ПОСТРОЕНИЯ АДАПТИВНОГО КЛАССИФИКАТОРА
- 3. 1. Выбор меры несогласованности алгоритмических оценок для кусочно-линейных комитетных решающих правил
- 3. 2. Алгоритм адаптации комитетного решающего правила к априорной классификации
- 3. 2. 1. Базовая операция изменения рангов объектов
- 3. 2. 2. Организация итерационного процесса перемещения комитета в пространстве параметров состояния
- 3. 2. 3. Использование эвристических процедур при поиске решающего правила
- 3. 2. 4. Алгоритм линейной коррекции для проверки линейной разделимости множеств
- 3. 2. 5. Анализ сходимости итерационного процесса
- 3. 3. Алгоритм адаптивной кластеризации для построения немонотонной меры близости в пространстве параметров состояния
- 3. 3. 1. Связь с проблемой неопределенности априорной информации
- 3. 3. 2. Алгоритм кластеризации
- 4. 1. Задача дискриминантного анализа
- 4. 2. Выбор информативных параметров состояния
- 4. 3. Схемы построения системы распознавания при решении задач классификации
- 4. 4. Проверка работоспособности алгоритмов на модельных примерах
- 4. 4. 1. Базовый алгоритм адаптации
- 4. 4. 2. Алгоритм решения задачи дискриминантного анализа
- 4. 4. 3. Алгоритм кластеризации
- 5. 1. Задача контроля качества кристаллов искусственного кварца
- 5. 1. 1. Постановка задачи неразрушающего контроля качества
- 5. 1. 2. Организация системы распознавания
- 5. 1. 3. Результаты работы системы распознавания
- 5. 2. Задача оценивания тяжести гипертрофической кардиомиопатии
- 5. 2. 1. Постановка задачи оценивания
- 5. 2. 2. Организация системы распознавания
- 5. 2. 3. Классификация объектов обучающей выборки
- 5. 2. 4. Выбор информативного подпространства и построение решающих правил
Список литературы
- Айвазян С.А., Бухштабер В. А., Енюков И. С., Мешалкин Л. Д. Прикладная статистика. Классификация и снижение размерности. М.: Финансы и статистика, 1989. 428 с.
- Алескеров Ф.Т., Дуган Д. Процедуры голосования в пространстве функций выбора: Немонотонный случай //Автоматика и телемеханика. 1994, № 6. С. 115−134.
- Бабак О.Б., Гасанов A.C. Новый подход к решению задач кластеризации данных //Кибернетика и системный анализ. 2001, № 6. С. 126−133.
- Бабак О.В. Об одном подходе к решению задачи восстановления зависимостей в классе кусочно-линейных функций //Проблемы управления и информатики. 1995, № 6. С. 134−141.
- Бабак О.В. Об одном принципе самоорганизации математических моделей //Проблемы управления и информатики. 2001, № 2. С. 98−107.
- Бархушин А.П. Обучение и самообучение систем распознавания образов //Сб. науч. тр. НИИ информационных технологий. 1999, № 7. С. 14−20.
- Белецкий Н.Г. Применение комитетов для многоклассовой классификации //Численный аппарат решения задач линейного и выпуклого программирования. Свердловск, 1983. С. 156−162.
- Белецкий Н.Г. Об одном итерационном методе кусочно-линейной дискриминации //Классификация и оптимизация в задачах управления. Свердловск: УНЦ АН СССР, 1981. С. 64−66.
- Белецкий Н.Г. Модели комитетных алгоритмов распознавания образов //Математические методы планирования промышленного производства. — Свердловск: УНЦ АН СССР, 1984. С. 91−95.
- Буркин B.C. Синтез оптимальных алгоритмов портретного распознавания при различном уровне априорной осведомленности //Известия АН. Теория и системы управления. 1997, № 6. С. 152−163.
- П.Бушманов О. Н., Дюкова Е. В., Журавлев Ю. И. и др. Система анализа изображений и распознавания образов //Распознавание. Классификация. Прогноз. Вып. 2. М.: Наука, 1989. С. 250−273.
- Вапник В.Н. Восстановление зависимостей по эмпирическим данным. М.: Наука, 1979. 379 с.
- Вапник В.Н. Индуктивные принципы поиска эмпирических закономерностей //Распознавание. Классификация. Прогноз. Вып. 1. М.: Наука, 1989. С. 17−81.
- Вапник В.Н., Червоненкис, А .Я. Теория распознавания образов. М.: Наука, 1974.416 с.
- Вапник В.Н., Червоненкис, А .Я. Необходимые и достаточные условия состоятельности метода минимизации эмпирического риска //Распознавание. Классификация. Прогноз. Вып. 2. М.: Наука, 1989. С. 207−249.
- Глотов В.А., Павельев В. В. Векторная стратификация. М.: Наука, 1984. 94 с.
- Горелик A. JL, Гуревич И. Б., Скрипкин В. А. Современное состояние проблемы распознавания: Некоторые аспекты. М.:Радио и связь, 1985. 161 с.
- Горелик A. JL, Скрипкин В. А. Методы распознавания. М.: Высшая школа, 1977. 222 с.
- Гренандер У. Лекции по теории образов: В 3 т. /Пер.с англ. /Под ред.Ю.Журавлева. М. Мир, 1983.
- Дюран Б., Оделл П. Кластерный анализ. М.: Статистика, 1977. 215 с.
- Еремин И.И., Мазуров В. Д. Нестационарные процессы математического программирования. М.: Наука, 1979. 288 с.
- Журавлев Ю.И. Об алгебраическом подходе к решению задач распознавания образов или классификации //Проблемы кибернетики. Вып. 33. М.: Наука, 1978. С. 5−68.
- Журавлев Ю.И., Зенкин A.A., Зенкин А. И. и др. Задачи распознавания и классификации со стандартной обучающей информацией //ЖВМиМФ. 1980, Т.20, № 5. С. 1294−1309.
- Журавлев Ю.И. Корректные алгебры над множествами некорректных (эвристических) алгоритмов. I-III //Кибернетика. 1977, № 4. С. 14−21- 1977, № 6. С. 21−27- 1978, № 2. С. 353.
- Журавлев Ю.И. и др. Параметрические логические модели анализа данных //Математические методы распознавания образов. М.: ВЦ РАН, 1995. С. 95−96.
- Захаров В.Н. Интеллектуальные системы управления: основные понятия и определения //Известия РАН. Теория и системы управления. 1997, № 3. С. 56−74.
- Зуев Ю.А. Вероятностная модель комитета классификаторов //ЖВМиМФ. 1986, Т.26, № 2. С. 276−292.
- Зуев Ю.А. Метод повышения надежности классификации при наличии нескольких классификаторов, основанный на принципе монотонности //ЖВМиМФ. 1981, Т.21, № 1. С. 157−167.
- Зуев Ю.А. Наихудший случай для принятия решений большинством голосов //ЖВМиМФ. 1989, Т.29, № 8. С. 1256−1257.
- Исаев И.В. Задача синтеза корректного алгоритма распознавания как задача построения минимального покрытия //ЖВМиМФ. 1984, Т.23, № 2. С. 46776.
- Казанцев B.C. Задачи классификации и их программное обеспечение. М.: Наука, 1990. 135 с.
- Казанцев B.C., Белецкий Н. Г., Мазуров В. Д. и др. Комитеты в принятии решений //Кибернетика. 1984, № 1. С. 90−95.
- Кириченко Н.Ф., Куц Р., Лепеха Н. П. Множества принадлежности в задачах классификации сигналов //Проблемы управления и информатики. 2001, № 5. С. 71−84.
- Кривоногов А.И. О некоторых комитетных конструкциях классификации //Методы оптимизации и распознавания образов в задачах планирования. Свердловск: УНЦ АН СССР, 1980. С. 92−98.
- Кривоногов А.И. Некоторые вопросы обоснования комитетных алгоритмов //Классификация и оптимизация в задачах управления. Свердловск: УНЦ АН СССР, 1981. С. 39−51.
- Кувшинов Б.М., Ширяев О. В., Шапошник И. И. Система диагностики заболеваний методами распознавания образов и классификации в п-мерном пространстве //Информационные технологии. 2000, № 6. С. 43−47.
- Кувшинов Б.М., Ширяев О. В., Богданов Д. В., Шапошник И. И., Ширяев В. И. Использование комитетов в задачах распознавания образов с неточными экспертными оценками //Известия Челябинского научного центра. 2001, № 2. С. 12−17.
- Кувшинов Б.М., Ширяев О. В., Богданов Д. В., Шапошник И. И., Ширяев В. И. Система классификации многопараметрических объектов для задач распознавания образов с неточной априорной информацией //Информационные технологии. 2001, № 11. С. 37−43.
- Кувшинов Б.М., Ширяев О. В. Метод комитетов в задачах распознавания образов в условиях неопределенности априорной информации //Вестник ЮУрГУ. 2002, № 3. Сер. Математика. Физика. Химия. Вып. 2. С. 34−43.
- Кувшинов Б.М., Ширяев О. В. Адаптивная система распознавания образов для задач принятия решений в условиях неопределенности информации //Комплексные системы поддержки принятия решений руководителей: Сб. науч. тр. Челябинск: ЮУрГУ, ЦНТИ, 2002. С. 62−66.
- Кувшинов Б.М., Шапошник И. И., Ширяев В. И., Ширяев О. В. Использование комитетов в задачах распознавания образов с неточными экспертными оценками //Известия РАН. Теория и системы управления. 2002, № 5. С. 87−94.
- Лапко A.B. Непараметрические методы классификации и их применение. Новосибирск: КНЦ СО РАН, 1993. 149 с.
- Лапко A.B., Крохов C.B., Ченцов С. И., Фельдман Л. А. Обучающиеся системы обработки информации и принятия решений. Новосибирск: Наука, 1996.284 с.
- Лапко A.B., Лапко В. А., Ченцов C.B. Непараметрические модели распознавания образов в условиях малых выборок //Автометрия. 1999, № 6. С. 105−113.
- Мазуров В.Д. Комитеты систем неравенств и задача распознавания //Кибернетика. 1979, № 3. С. 140−146.
- Мазуров В.Д. Метод комитетов в задачах оптимизации и классификации. М.: Наука, 1990. 248 с.
- Мазуров В.Д. О построении комитета системы выпуклых неравенств //Кибернетика. 1967, № 2. С. 56−59.
- Мазуров В.Д., Хачай М. Ю. Комитетные конструкции //Известия УрГУ. Сер. Математика и механика. Екатеринбург: УрГУ, 1999, Вып. 2 (24). С. 77−108.
- Мазуров В.Д. Теория линейных неравенств и распознавание образов //Алгебра и оптимизация: Тр. междунар. семинара. Екатеринбург: УрО РАН, 2002. С. 284−291.
- Мазуров В.Д., Казанцев B.C., Белецкий Н. Г. Пакет Квазар прикладных программ распознавания образов (версия 2): Информ. материалы по математ. обеспечению. АН СССР. УНЦИММ. Свердловск: Б.и., 1979. 121 с.
- Мазуров В.Д. Теория и приложения комитетных конструкций //Методы для нестационарных задач матем. программирования. Свердловск: УНЦ АН СССР, 1979. С. 31−63.
- Мазуров В.Д., Казанцев B.C., Белецкий Н. Г. и др. Вопросы обоснования и применения комитетных алгоритмов распознавания //Распознавание. Классификация. Прогноз. Вып. 1. М.: Наука, 1989. С. 114−148.
- Матросов B.JI. Синтез оптимальных алгоритмов в алгебраических замыканиях моделей алгоритмов распознавания //Распознавание. Классификация. Прогноз. Вып. 1. М.: Наука, 1989. С. 149−175.
- Метод комитетов в распознавании образов: Сб. статей. Свердловск: УНЦ АН СССР, 1974. 165 с.
- Методы анализа данных: Подход, основанный на методе динамических сгущений /Кол. авт. под рук. Э. Дидэ. /Пер. с франц. М.: Финансы и статистика, 1985. 357 с.
- Нильсон Н. Обучающиеся машины. М.: Мир, 1968. 225с.
- Обобщенный спектрально-аналитический метод обработки информационных массивов: Задачи анализа изображений и распознавания образов /Ф.Ф. Дедус, С. А. Махортых, М. Н. Устинин, А. Ф. Дедус. М.: Машиностроение, 1999. 357 с.
- Препарата Ф., Шеймос М. Вычислительная геометрия: Введение /Пер. с англ. М.: Мир, 1989. 478 с.
- Рудаков К.В. Об алгебраической теории универсальных и локальных ограничений для задач классификации //Распознавание. Классификация. Прогноз. Вып. 1. М.: Наука, 1989. С. 176−200.
- Рязанов В.В. О построении оптимальных алгоритмов распознавания и таксономии (классификации) при решении прикладных задач //Распознавание. Классификация. Прогноз. Вып. 1. М.: Наука, 1989. С. 229−279.
- Рязанов В.В. О синтезе классифицирующих алгоритмов на конечных множествах алгоритмов классификации (таксономии) //ЖВМиМФ. 1982, Т.22, № 2. С. 429−440.
- Рязанов В.В., Сенько О. В. О некоторых моделях распознавания и методах их оптимизации //Распознавание. Классификация. Прогноз. Вып. 3. М.: Наука, 1990. С. 106−145.
- Рязанов В.В. Комитетный синтез алгоритмов распознавания и классификации//ЖВМиМФ. 1981, Т.21, № 6. С. 1533−1543.
- Ту Дж., Гонсалес Р. Принципы распознавания образов /Пер. с англ. /Под ред.Ю. И. Журавлева.-М.:Мир, 1978. 411с.
- Фор А. Восприятие и распознавание образов /Пер. с фр. /Под ред. Г. П. Катыса. М.: Машиностроение, 1989. 272 с.
- Хачай М.Ю. Об эффективном алгоритме построения приближения к минимальному по числу элементов комитетному решающему правилу //Сб. тр. 6-й Междунар. конф. «Распознавание образов и анализ изображений», НовГУ: Новгород, 2002. С. 593−596.
- Хачай М.Ю. Об одной игре с природой, связанной с принятием решений большинством голосов //ЖВМиМФ. 2002, Т.42, № 10. С. 1609−1616.
- Хачай М.Ю. Равномерно распределенные по Гейлу системы линейных неравенств //Тез. докл. 12-й Всеросс. конф. «Математическое программирование и приложения» (Екатеринбург, 24—28 февраля 2003 г.). Екатеринбург: УрО РАН, 2003. С. 237−238.
- Чекинов С.Г. Экспертные системы в системах управления: состояние и перспективы //Информационные технологии. 2001, № 4. С. 32−37.
- Черников С.Н. Линейные неравенства. М.: Наука, 1968.
- Ширяев В.И., Кувшинов Б. М. Использование адаптивных методов распознавания образов в задачах принятия решений //Искусственный интеллект. 2002, № 4. С. 526−533.
- Ширяев В.И., Кувшинов Б. М. Использование адаптивных методов распознавания образов в задачах принятия решений //Материалы междунар. науч.-техн. конф. «Искусственный интеллект-2002» (г. Таганрог, 26−30 июня 2002 г.). С. 161−165.
- Ширяев В.И., Кувшинов Б. М., Афанасьева К. Е. Прогнозирование объема продаж по макроэкономическим показателям регионов //Наука и технологии. Сер. Проблемы экономики: Тр. 23-й Всеросс. школы. М.: РАН, 2003. С. 153−160.
- Ablow С.М., Kaylor D.J. Inconsistent homogenous linear inequalities //Bull, of American Math. Soc. 1965, V.71, № 5. P. 724.
- Bargjela A., Pedrycz W. Granular computing. Kluwer Academic Press, 2002. 480 p.
- Bezdek J. Pattern recognition with fuzzy objective function algorithms. Kluwer Academic Publishers, 1981. 256 p.
- Bezdek J.C., Pal S.K. Fuzzy models for pattern recognition: Methods that search for pattern in data. N.Y.: IEEE Press, 1992. 317 p.
- Bogomolov V.P., Bushmanov O.N., Ryazanov V.V., Senco O.V., Zhuravlev Yu.I., Data analysis and recognition systems: algorithms, programs and applications //Pattern Recognition and Image Analysis. 1991, V. l, № 3. P. 335−346.
- Chawla N.V., Moore T.E., Hall L.O. et al. Distributed learning with bagging-like performance //Pattern Recognition Letters. 2003, V.24,1.3. P. 455−471.
- De Stefano C., Delia Cioppa A., Marcelli A. An adaptive weighted majority vote rule for combining multiple classifiers //Proc. of 16-th Int. Conf. on Pattern Recognition. 2002, V.2. P. 192−195.
- Duda R.O., Hart P.E. Pattern classification and scene analysis. N.Y.: John Wiley & Sons, 1973.540 p.
- Duda R.O., Hart P.E., Stork D.G. Pattern classification. N.Y.: Wiley Intersciences, 2002. 680 p.
- Fu K.S. Syntactic methods in pattern recognition. N.Y.: Academic Press, 1974. 617 p.
- Fu K.S. Syntactic pattern recognition and applications. N.J.: Prentice-Hall, Englewood Cliffs, 1982. 721 p.
- Giusti N., Sperduti A. Theoretical and experimental analysis of a two-stage system for classification // IEEE Trans, on Pattern Analysis and Machine Intelligence. 2002, V.24,1.7. P. 893−904.
- Jang J.-S.R., Sun C.-T., Mizutani E. Neuro-fuzzy and soft computing. N.J.: Prentice Hall, Upper Saddle River, 1997. 53 5 p.
- Kandel A. Fuzzy techniques in pattern recognition. N.Y.: Whiley Intersciences, 1982. 646 p.
- Kandel A., Zhang Y.Q., Bunke H. A genetic fuzzy neural network for pattern recognition //Proc. of «FUZZ-IEEE», July, 1997, Barcelona, Spain. P. 11−21.
- Khachai M.Yu. Classification of committee solutions of majority //Pattern Recognition and Image Analysis. 1997, V.7, № 2. P. 222−230.
- Khachai M.Yu., Rybin A.I. A new estimate of the number of members in a minimum committee of a linear inequalities system //Pattern Recognition and Image Analysis. 1998, V.8, № 4. P. 491196.
- Khachai M.Yu., Mazurov V.D., Rybin A.I. Committee constructions for solving problems of selection, diagnostics, and prediction //Proc. of the Steklov Institute of Math. 2002, № 1. P.67−101.
- Kobylkin K.S. Necessary conditions of committee existence //Pattern recognition and image analysis. 2002, V.12, № 1. P. 26−31.
- Kuvshinov B.M., Shaposhnik I. I, Shiryaev V.I., Shiryaev O.V. Application of Committees in Pattern Recognition Problems with Inexact Expert Evaluations // Journal of Computer and System Sciences International. 2002, № 5. P. 752−758.
- Larin S.B., Ryazanov V.V. On a search of logical regularities for pattern recognition and data analysis //Pattern Recognition and Image Analysis. 1997, V.7, № 3. P. 78−89.
- Mascarilla L., Frelicot C. Another look at combining rejection-based pattern classifiers //Proc. of 15-th Int. Conf. on Pattern Recognition. 2000, V.2. P. 156 159.
- Mazurov V.D., Plotnikov S.V., Rybin A.I., Tyutin A.N., Khachai M.Yu. Algorithms of the KVAZAR+ package //Pattern Recognition and Image Analysis. 1998, V.8, № 3. P. 374−375.
- Mazurov Vl.D. Recognition and choice in a multistage procedure of modeling complex systems //Pattern Recognition and Image Analysis. 1994, V.4, № 2. P. 87−92.
- Mazurov Vl.D. Generalized existence in nonequilibrium models of choice in modeling complex systems //Pattern Recognition and Image Analysis. 1995, V.5, № 1. P. 7−12.
- Mazurov V.D., Krivonogov A.I., Kazantsev V.S. Solving of optimization and identification problems by the committee methods //Pattern Recognition. 1987, № 4. P. 371−378.
- Miclet L. Structural methods in pattern recognition. N.Y.: Springer-Verlag, 1986. 515 p.
- Novikoff A.B.J. On convergence proofs for perceptrons //Proc.Symp.Math. Theory of Automata. N.Y.: Polytechnika, 1963, V.12, P. 416−428.
- Osborne M.L. The seniority logic: a logic for a committee machine //IEEE Trans. Computing. 1977, V. C-26, № 12. P. 1302−1306.
- Pedrycz W. Fuzzy sets in pattern recognition methodology and methods //Pattern Recognition. 1990, V.23.P. 121−146.
- Rosenblatt F. Principles of Neurodynamics. Washington: Spattan, 1962. 485 p.
- Ryazanov V.V. Recognition algorithms based on local optimality criteria //Pattern Recognition and Image Analysis. 1994, V.4, № 2. P. 98−109.
- Ryazanov V.V. Program System LoReg Logical Regularities (software for classification recognition, data mining). Doronicyn Computer Center of Russian Academy of Sciences (CCRAS). http://www.ccas.ru/rvv/loreg.htm.
- Saranli A., Demirekler M. A unified view of rank-based decision combination // Proc. of 15-th Int. Conf. on Pattern Recognition. 2000, V.2. P. 479−482.
- Senko O.V. The algorithm of prognosis, based on the procedure of voting by system of boxes on multidimensional space //Pattern Recognition and Image Analysis. 1993, V.3, № 3. P. 283−284.
- Schalkoff RJ. Pattern recognition: Statictical, structural and neural approaches. N.Y.: John Wiley & Sons, 1992. 478 p.
- Swiniarski R.W., Skowron A. Rough set methods in feature selection and recognition //Pattern Recognition Letters. 2003, V.24,1.6. P.833−849.
- Tou J., Gonzalez R. Pattern recognition principles. Mass.: Addison Wesley, 1974. 512 p.
- Turksen I.B., Jiang S. Rule based reorganization and search with a fuzzy claster analysis //Int. J. of Approximate Reasoning. 1993, V.9, № 3. P. 1267−1296.
- Vapnik V.N. Statistical learning theory. N.Y.: Wiley Interscience, 1998. 648 p.
- Vlasov L.P. A problem of committee theory //Pattern recognition and image analysis. 1999, V.9, № 3. p. 427−430.
- Windeatt T. Vote counting measures for ensemble classifiers //Pattern Recognition. 2003, V.36,1.12. P. 2743−2756.
- Woods K., Kegelmeyer W.P., Jr. Bowyer K. Combination of multiple classifiers using local accuracy estimates //IEEE Trans, on Pattern Analysis and Machine Intelligence. 1997, V.19,1.4. P. 405−410.
- Yager R.R., Zadeh L.A. An introduction to fuzzy logic applications in intelligent systems. Boston: Kluwer, 1992. 709 p.
- Zadeh L.A. Fuzzy sets //Inf. Control. 1965, № 8. P. 338−353.