Метод оценки значений параметров математической модели медицинской диагностики

Заключение

.

В настоящей работе получены следующие результаты:

1. Разработана новая постановка задачи классификации для математических моделей зависимости с параметрами (как частный случай задачи оценки значений параметров модели), в которой качество алгоритма классификации оценивается на основе близости вычисленных значений параметров модели к значениям, характеризующим предметную область.

2. Предложен метод получения оценок внешних и внутренних свойств алгоритмов классификации для моделей зависимости с параметрами с помощью компьютерных экспериментов на модельных данных. Используя предложенный метод, в сериях компьютерных экспериментов показано, что при хорошей разделимости классов предметной области плохой алгоритм классификации может иметь как абсолютно (и относительно) хорошие, так и абсолютно (и относительно) плохие оценки внешних свойств, а при плохой разделимости классов предметной области такой алгоритм имеет абсолютно и относительно плохие оценки внешних свойств. Также показано, что вне зависимости от степени разделимости классов предметной области, оценки внешних свойств хорошего алгоритма классификации являются относительно хорошими, а при плохой разделимости классов предметной области оценки внешних свойств такого алгоритма являются абсолютно плохими. Тем самым показано, что оценки внешних свойств алгоритмов классификации (связанные с постановкой задачи классификации, рассматриваемой в литературе) в большей мере отражают степень разделимости классов предметной области и в меньшей — свойства алгоритма классификации, а оценки внутренних свойств (связанные с постановкой задачи классификации, разработанной в диссертации), напротив, отражают именно свойства алгоритма классификации, и в меньшей мере связаны с разделимостью классов предметной области, т. е. решение задачи классификации в разработанной в диссертации постановке является и решением задачи классификации в традиционной постановке, однако обратное не всегда верно.

3. Разработана новая постановка задачи кластеризации для математических моделей зависимости с параметрами (как частный случай задачи оценки значений параметров модели), в которой качество алгоритма кластеризации зависит от выбранной модели зависимости с параметрами. Разработан алгоритм классификации для практически полезной и хорошо интерпретируемой математической модели зависимости с параметрами, являющейся онтологией медицинской диагностики, приближенной к реальной (заданной системой логических соотношений с параметрами), решающий задачу классификации, а также частную задачу кластеризации в новых постановках. С помощью компьютерных экспериментов показано, что разработанный алгоритм классификации для модели зависимости с параметрами (онтологии медицинской диагностики, приближенной к реальной) является хорошим. При этом показано, что вне зависимости от степени разделимости классов предметной области, оценки внешних свойств разработанного алгоритма для онтологии медицинской диагностики, приближенной к реальной, являются относительно хорошими.

4. Разработан комплекс программ и технология его применения для индуктивного формирования баз медицинских знаний в форме, принятой в медицинской литературе. При помощи этого комплекса, на основе обучающей выборки реальных данных, содержащей 69 историй болезни из раздела медицины «острый живот», индуктивно сформирована база знаний, представленная в форме, понятной практикующему врачу. Полученные описания заболеваний, входящие в базу знаний, по оценке эксперта соответствуют знаниям, имеющимся в научной и учебной медицинской литературе, а в ряде случаев дополняют их описанием динамики клинических проявленийкроме того, полученная база знаний подтверждена реальными историями болезни из обучающей выборки. Формальное представление базы знаний позволяет использовать ее в экспертных системах медицинской диагностики. При этом, по мнению эксперта, ввиду высокой степени интерпретируемости полученных в работе описаний заболеваний, база знаний может быть использована при обучении студентов медицинских ВУЗов, а в случае обработки обучающей выборки большого объема, состоящей из хорошо обследованных историй болезни, сформированная на ее основе база знаний может быть использована и врачами в их профессиональной деятельности.

1. Вагин В. Н., Головина Е. Ю., Загорянская А. А., Фомина М. В. Достоверный и правдоподобный вывод в интеллектуальных системах / Под ред. В. Н. Вагина, Д. А. Поспелова. — М.: ФИЗМАТЛИТ. — 2004. -704 с.

2. Загоруйко Н. Г. Прикладные методы анализа данных и знаний. -Новосибирск: Изд-во Ин-та математики. 1999. — 270 с.

3. Ryszard S. Michalski, Kenneth A. Kaufman. Data Mining and Knowledge Discovery: A Review of Issues and a Multistrategy Approach. 1997. rhttp://citeseer.ist.psu.edu/michalski97data.html.

4. Frawley W., Piatetsky-Shapiro G., Matheus C. Knowledge Discovery in Databases: An Overview. AI Magazine. — 1992. — Vol. 13. No. 3. — pp. 5770. rhttp://www.aaai.org/ois/index.php/aimagazine/article/viewArticle/10 111.

5. MachineLearning.ru Профессиональный информационно-аналитический ресурс, посвященный машинному обучению, распознаванию образов и интеллектуальному анализу данных rhttp://machinelearning.ru/l.

6. Fayyad U. Piatetsky-Shapiro G., Smyth P. From Data Mining to Knowledge Discovery in Databases. AI Magazine. — 1996. — Vol. 17. No. 3. — pp. 3754. rhttp://www.aaai.org/ois/index.php/aimagazine/article/viewArticle/12 301.

7. Вапник B.H., Червоненкис А. Я. Теория распознавания образов. -М.: Наука. 1974.-416 с.

8. Журавлев Ю. И., Рязанов В. В., Сенько О. В. «Распознавание». Математические методы. Программная система. Практические применения. М.: Фазис. — 2006.

9. Neyman J., Pearson E.S. On the problem of the most efficient tests of statistical hypothesis. 1933. — Philos Trans R Soc Lond. — pp. 289−337.

10. Fisher R.A. The use of multiple measurements in taxonomic problems, Ann. Eugenics. 1936. — 7. Part II. — pp. 179−188.

11. Wald A. Contributions to the theory of statistical estimation and testing of hypotheses. 1939. — Ann.Math.Stat. 10. — pp. 299−326.

12. Розенблатт Ф. Принципы нейродинамики (перцептрон и теория механизмов мозга). М.: Мир. — 1965. — 480 с.

13. Айзерман М. А., Браверман Э. М., Розоноэр Л. И. Метод потенциальных функций в теории обучения машин. М.: Наука. — 1970. — 384 с.

14. Бонгард М. М. Проблема узнавания. М.: Наука. — 1967. — 320 с.

15. Журавлев Ю. И., ИЗБРАННЫЕ НАУЧНЫЕ ТРУДЫ. M.: Издательство Магистр. — 1998.-420 с.

16. Мазуров Вл.Д. Метод комитетов в распознавании образов. -Свердловск: ИММ УНЦ АН СССР. 1974. — 165 с.

17. Загоруйко Н. Г. Методы распознавания и их применение. М.: Сов.радио. — 1972. — 206 с.

18. Ивахненко А. Г. Системы эвристической самоорганизации в технической кибернетике. Киев: Техшка. — 1971. — 372 с.

19. Лбов Г. С. Методы обработки разнотипных экспериментальных данных. // Новосибирск. Наука. 1981. — 160 с.

20. Себастьян Г. С. Процессы принятия решений при распознавании образов. -М.: Изд-во «Техника». 1965.

21. Фукунага К.

Введение

в статистическую теорию распознавания образов.- М.:Наука. 1979. — 367 с.

22. Fu K.S. Sequential Methods in Pattern Recognition and Machine Learning. -1968. Academic Press. New York.

23. Minsky M., Papert S. Perceptrons: An Introduction to Computational Geometry (MIT Press, Cambridge, Mass., 1969). Русский перевод: Перцептроны. — M.: «Мир». 1971.

24. Nilsson N.J. Learning Machines (McGraw-Hill, New York, 1965). Русский перевод: Обучающие машины. — M.: «Мир». — 1967.

25. Дмитриев А. Н., Журавлев Ю. И., Кренделев Ф. П. О математических принципах классификации предметов и явлений. Сб. «Дискретный анализ». Вып. 7. Новосибирск. ИМ СО АН СССР. — 1966. — С. 3−11.

26. Журавлев Ю. И., Никифоров В. В. Алгоритмы распознавания, основанные на вычислении оценок. // Кибернетика. 1971. — № 3. — С. 1−11.

27. Журавлев Ю. И., Об алгебраическом подходе к решению задач распознавания или классификации. Проблемы кибернетики. М.: Наука.- 1978. Вып.ЗЗ. — С.5−68.

28. Журавлев Ю. И. Корректные алгебры над множествами не корректных (эвристических) алгоритмов. I. // Кибернетика. 1977. — N4. — С. 5−17., II. Кибернетика. — 1977. — N6., III. Кибернетика. — 1978. — N2. — С. 35−43.

29. Рудаков К. В. Об алгебраической теории универсальных и локальных ограничений для задач классификации. // Распознавание, классификация, прогноз: Матем. методы и их применение. М.: Наука.- 1988. -Вып. 1.-С. 176−200.

30. Матросов В. Л. Синтез оптимальных алгоритмов в алгебраических замыканиях моделей алгоритмов распознавания. // Распознавание, классификация, прогноз: Матем. методы и их применение. М.: Наука. — 1988. -Вып.1. — С.229−279.

31. Рязанов В. В. О построении оптимальных алгоритмов распознавания и таксономии (классификации) при решении прикладных задач. // Распознавание, классификация, прогноз: Матем. методы и их применение. М.: Наука. — 1988. — Вып.1. — С.229−279.

32. Рязанов В. В. Комитетный синтез алгоритмов распознавания и классификации. // ЖВМ и МФ. 1981. — Том 21. — № 6. — С. 1533−1543.

33. Рязанов В. В. О синтезе классифицирующих алгоритмов на конечных множествах алгоритмов классификации (таксономии). // ЖВМ и МФ. -1982. Том 22. — № 2. — С.429−440.

34. Дюкова Е. В. Асимптотически оптимальные тестовые алгоритмы в задачах распознавания. // Проблемы кибернетики. М.: Наука. — 1982. -Вып.39.-С. 165−199.

35. Дюкова Е. В. Алгоритмы распознавания типа «Кора»: сложность реализации и метрические свойства. // Распознавание, классификация, прогноз (матем. методы и их применение). М.: Наука. — 1989. — Вып.2. -С. 99−125.

36. Сенько О. В. Использование процедуры взвешенного голосования по системе базовых множеств в задачах прогнозирования. // М. Наука, Ж. вычисл. матем. и матем. физ. 1995. -Т.35. -№ 10. — С. 1552−1563.

37. Донской В. И. Алгоритмы обучения, основанные на построении решающих деревьев. // Журнал выч. мат. и матем. физики. 1982. -Т.22. — № 4. — С. 963−974.

38. Донской В. И., Башта А. И. Дискретные модели принятия решений при неполной информации. Симферополь: Таврия. — 1992. — 166 с.

39. Лбов Г. С., Бериков В. Б. Устойчивость решающих функций в задачах распознавания образов и анализа разнотипной информации. -Новосибирск: Изд-во Ин-та математики. 2005. — 218 с.

40. Владимир Вежневец. Оценка качества работы классификаторов. Компьютерная графика и мультимедиа. 2006. — Выпуск № 4(1).

41. Загоруйко Н. Г. Проблемы построения эмпирической теории интеллектуального анализа данных. // Материалы Всероссийской конференции с международным участием «Знания ОнтологииТеории» (ЗОНТ-07). Т. 1. — Новосибирск. — 2007. — С. 4−13.

42. Орлов А. И. Заметки по теории классификации. Социология: методология, методы и математическое моделирование (Социология: 4M). — 1992. — № 2. — С. 28−50.http://ecsocman.hse.ru/data/2012/03/14/1 216 861 661/Qrlov.pdfl.

43. Орлов А. И. Эконометрика. Учебник. М.: Издательство «Экзамен». -2002.

44. Data Mining управление знаниями https://sites.google.com/site/upravlenieznaniami/tehnologii-upravlenia-znaniami/data-miningl.

45. Местецкий JIM. Математические методы распознавания образов. Курс лекций. МГУ. ВМиК. Кафедра «Математические методы прогнозирования». — 2002;2004. http://www.ccas.ru/frc/papers/mestetskii04course.pdf.

46. Финн В. К. Интеллектуальные системы и общество: Сборник статей. -Экспертные системы и некоторые проблемы их интеллектуализации. С. 58−90. М.: Российск. гос. гуманит. ун-т. — 2000. — 309 с.

47. Финн В. К. О роли машинного обучения в интеллектуальных системах. // НТИ. Серия 2.-М.: ВИНИТИ РАН. 1999. — № 12. — С. 1−3.

48. Витяев Е. Е. Извлечение знаний из данных. Компьютерное познание. Модели когнитивных процессов: Моногр. / Новосиб. гос. ун-т. Новосибирск. 2006. — 293 с.

49. Data Mining Cup http://www.data-mining-cup.de/en.51. «Полигон алгоритмов» распределенная система тестирования алгоритмов классификации на данных реальных прикладных задач http://poligon.machinelearning.ru/.

50. Воронцов К. В., Инякин A.C., Лисица A.B. Система эмпирического измерения качества алгоритмов классификации. // Математические методы распознавания образов-13. М.: МАКС Пресс. — 2007. — С. 577 580.

51. Воронцов К. В. Обзор современных исследований по проблеме качества обучения алгоритмов. // Таврический вестник информатики и математики. 2004.

52. Дружков П. Н., Половинкин А. Н. Реализация параллельного алгоритма обучения в методе градиентного бустинга деревьев решений rhttp://pavt.susu.ru/2012/short/144.pdfl.

53. Вапник В. Н. Восстановление зависимостей по эмпирическим данным. -М.: Наука. 1979.-448 с.

54. Приобретение знаний: Пер. с япон. / Под ред. С. Осуги, Ю.Саэки. М.: Мир.-1990.-304 с.

55. Asuncion, А & Newman, D.J. (2007). UCI Machine Learning Repository rhttp://www.ics.uci.edu/~mlearn/mlrepository.htmll. Irvine, С A: University of California, Department of Information and Computer Science.

56. H. Altay Guvenir and I. Uysal, Bilkent University Function Approximation Repository rhttp-//funapp.cs.bilkent.edu.tr/datasets/l. 2000.

57. StatLib Datasets Archive. Data, Software and News from the Statistics Community rhttp://lib.stat.cmu.edu/datasets/l.

58. Панкратова E.C., Добрынин Д. А., Цапенко И. В., Зуева М. В., Захарова Г. Ю. Интеллектуальная ДСМ-система для диагностики заболеваний органов зрения. // НТИ. 2007. — Сер. 2. — № 3. — С. 14−18.

59. Akhiro Suyama, Takimura Yamaguchi. Specifying and Learning Inductive Learning Systems Using Ontologies. 1998. rhttp://citeseer.ist.psu.edu/suyama98specifying.htmll.

60. Реброва О. Ю. Применение методов интеллектуального анализа данных для решения задачи медицинской диагностики. // Новости искусственного интеллекта. 2004. — № 3. — С. 76−80.

61. Бериша A.M., Вагин В. Н., Куликов А. В., Фомина М. В. Методы обнаружения знаний в «зашумленных» базах данных. // Известия РАН. Теория и системы управления. 2005. — № 6. — С. 143−158.

62. Дюк В. А. Технологии Data Mining в медико-биологических исследованиях. // Новости искусственного интеллекта. № 3. — 2004. С. 49−57.

63. Powell Benedict, Larry Rendell, and the University of Illinois, 1990. Data Generation Program/2 V1.0. rhttp://www.ics.uci.edu/~mlearn/databases/dgp-2/l.

64. Dataset Generator (DatGen). http://www.datgen.eom/1.

65. Michie D. Expert Systems. // The Computer Journal. 1980. — Vol. 23. № 4. — pp. 369−376.

66. Клещев A.C. Задачи индуктивного формирования знаний в терминах непримитивных онтологий предметных областей. // НТИ. Серия 2. М.: ВИНИТИ РАН. — 2003. — № 8. — С. 8−18.

67. Финн В. К. Синтез познавательных процедур и проблема индукции. // НТИ. Серия 2.-М.: ВИНИТИ РАН. 1999. — № 1−2. — С. 8−45.

68. Клещев А. С., Артемьева И. Л. Необогащенные системы логических соотношений. В 2 Ч. // НТИ. Серия 2. М.: ВИНИТИ РАН. — 2000. -№ 7−8: № 7. — С. 18−28, № 8. — С. 8−18.

69. Клещев А. С., Артемьева И. Л. Математические модели онтологий предметных областей. Часть 1. Существующие подходы к определению понятия «онтология». // НТИ. 2001. — Сер. 2. — № 2. — С. 20−27.

70. Клещев А. С., Артемьева И. Л. Математические модели онтологий предметных областей. Часть 2. Компоненты модели. // НТИ. 2001. -Сер. 2.-№ 3. — С. 19−29.

71. Клещев А. С., Смагин С. В. Задачи индуктивного формирования знаний для онтологии медицинской диагностики. // НТИ. Серия 2. М.: ВИНИТИ РАН. — 2012. — № 1. — С. 9−21.

72. Клещев А. С., Смагин С. В. Организация компьютерных экспериментов по индуктивному формированию знаний. // НТИ. Серия 2. М.: ВИНИТИ РАН.- 2008. -№!.- С. 16−24.

73. Клещев A.C., Смагин C.B. Организация компьютерных экспериментов по индуктивному формированию знаний. Владивосток: ИАПУ ДВО РАН.-2007.-36 с. rhttp://iacp.dvo.ru/is/publications/2007;Kleschev, Smagin-Qrganizing.pdfl.

74. Смагин С. В. Организация компьютерного эксперимента по ИФБЗ на основе непримитивной онтологии медицинской диагностики с использованием МВС. // Сб. тез. докл. Дальневосточной математической шк.-сем. им. акад. Золотова. Владивосток. — 2004.

75. Клещев А. С., Смагин С. В. Генерация модельных данных для экспериментов по индуктивному формированию знаний. // Научная сессия МИФИ-2007. Сборник научных трудов. В 17 томах. Т. З. Интеллектуальные системы и технологии. М.: МИФИ. — 2007. — С. 82−83.

76. Клещев А. С., Смагин С. В. Индуктивное формирование знаний для непримитивных онтологий медицинской диагностики. // Тезисы доклада на Втором Международном форуме «MedSofit-2006» медицинские информационные технологии. 2006.

77. Клещев А. С., Смагин С. В. О роли внешних и внутренних оценок свойств методов индуктивного формирования знаний. // НТИ. Серия 2. М.: ВИНИТИ РАН. — 2011. — № 4. — С. 22−35.

78. Клещев A.C., Смагин С. В. О роли внешних и внутренних оценок свойств методов индуктивного формирования знаний. Владивосток: ИАПУ ДВО РАН.-2010.-44 с. http://iacp.dvo.ru/is/publications/2010;Kleschev, Smagin-ExperTwo.pdf.

79. Соболь И. М. Метод Монте-Карло. М.: Наука. — 1968. — 64 с.

80. Miller G.A. The magic number seven, plus or minus two: some limits in our capacity for processing information. // Psycholog. Rev. 1956. — N63. -P.81−97.

81. Клещев A.C., Смагин С. В. Экспериментальное исследование свойств метода Монте-Карло для индуктивного формирования знаний в терминах упрощенной онтологии медицинской диагностики. // НТИ. Серия 2.-М.: ВИНИТИ РАН. 2009. — № 7. — С. 12−22.

82. Клещев A.C., Смагин C.B. Некоторые свойства метода случайной расстановки границ периодов динамики. // Информатика и системы управления. 2009. — № 1(19). — С. 103−115. rhttp://amursu.ru/attachments/ics/N19 13. pdf).

83. Клещев A.C., Смагин C.B. Компьютерный эксперимент по исследованию свойств метода случайной расстановки границ периодов динамики. Владивосток: ИАПУ ДВО РАН. 2009. — 44 с. rhttp://iacp.dvo.ru/is/publications/2009;Kleschev, Smagin-ExperQne.pdf|.

84. Клещев A.C., Смагин C.B. Распараллеливание вычислений при решении задачи индуктивного формирования баз знаний. // Искусственный интеллект. 2006. — № 3. — С. 421−428.

85. Клещев A.C., Москаленко Ф. М., Черняховская М. Ю. Онтология и модель онтологии предметной области «Медицинская диагностика». -Владивосток: ПАПУ ДВО РАН. 2005. — 44 с.

86. Грибова В. В., Тарасов A.B., Черняховская М. Ю. Система Интеллектуальной поддержки обследования больных, управляемая онтологией. // Программные продукты и системы. 2007. — № 2. -С.49−51.

87. Учреждение Российской академии наук ИНСТИТУТ АВТОМАТИКИ И ПРОЦЕССОВ УПРАВЛЕНИЯ.

88. Дальневосточного отделения РАН.

89. ИАПУ ДВО РАН Радио ул., д. 5, Владивосток, 690 041 Тел./факс (4232) 310 439, 310 452 E-mail: director@ia.

90. ОКПО 2 698 217, ОГРН 10 225 021 278 781. УТВЕРЖДАЮ"гор ИАПУ ДВО РАН. http: www.iacp.dvo.ru 9 007 627/2539010011. АКТ №от «29об использовании результатов кандидатской диссертационной работы.

91. СМАГИНА СЕРГЕЯ ВЛАДИМИРОВИЧА1. Н. Кульчин Ш2г.

92. Председатель комиссии Члены комиссии:

93. В. В. Грибова A.C. Клещев М. Ю. Черняховская Е.А. Шалфеева.

94. МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РОССИЙСКОЙ ФЕДЕРАЦИИ Федеральное государственное автономное образовательное учреждение высшего профессионального образования.

95. Дальневосточный федеральный университетдвфу)1. Школа естественных наук.