Моделирование процессов понимания речи с использованием латентно-семантического анализа

Современные системы автоматического распознавания речи, как правило, содержат два уровня обработки входящего сигнала: нижний уровень, на котором распознаются акустические события, поступившие на вход системы, и верхний уровень, на вход которого с нижнего уровня распознавания поступают цепочки сформированных слов или словоформ. Для второго уровня предполагается, что уже пройдена так называемая точка распознавания слова (word recognition point) и входящий сигнал в общем случае представляет собой матрицу словоформ с соответствующими коэффициентами вероятности распознавания. Из множества предложенных вариантов обычно выбираются словоформы или полученные из них фразы, имеющие наибольшую суммарную вероятность. После этого фразы поступают на вход грамматического и синтаксического анализатора1, где отбрасываются некорректные комбинации словоформ. На этом процесс распознавания, как правило, заканчивается. Процесс понимания конечного варианта автоматически выбранной системой фразы остается задачей воспринимающего ее субъекта — человека.

В некоторых системах автоматического понимания используют дополнительные модули: лексический и семантический. Лексический модуль ориентирован на поиск ключевых слов в распознанной фразе и соотнесение фразы с заранее заданной ситуацией. Семантический модуль исследует.

1 Под грамматическим анализатором и в целом под грамматикой в речевых технологиях, как и в некоторых других областях, связанных с исследованиями процессов понимания и восприятия речи, подразумевается ее морфологическая часть: словообразование и словоизменение или флексия (склонение, спряжение). структуру входящей фразы, отношение между распознанными словоформами. Его задача сформировать «семантический пакет», состоящий из действия, объекта, его качества, места действия и семантического значения как для каждой словоформы, так иногда и для фразы в целом.

Но даже в случаях применения дополнительных модулей, конечный результат их работы — извлечение смысла из цепочки распознанных акустических событий — является разным. В одном случае это набор ключевых словоформ и соответствующих им, наперед заданных ситуаций, в другом — преобразование предложений, словоформ или слов по определенным трансформационным правилам в логические структуры (цепочки символов), с заранее заданными возможными связями (валентностями).

В связи с этим возникает ряд вопросов, ответы на которые становятся все более актуальными в условиях дальнейшего развития систем автоматического распознавания и понимания речи:

• Как происходит процесс понимания речи, каковы его механизмы?

• Каков должен быть результат работы процесса понимания?

• Как при моделировании верхнего уровня систем распознавания и понимания речи можно учитывать его влияние на нижний уровень?

Актуальность проблемы.

Актуальность выбранной темы исследования обусловлена не только необходимостью создания высококачественных систем автоматического понимания речи человека, но, прежде всего, отсутствием достаточно ясного представления, как происходит процесс понимания, как его можно моделировать. Решение проблем, связанных с моделированием когнитивных процессов, должно опираться не только на лингвистические методы, но и учитывать опыт нейролингвистических исследований в этой области. Поэтому актуальность данной работы определяется еще и необходимостью преодоления лингвистических рамок и достижения более глубокого осмысления процессов понимания речи, с целью их дальнейшего моделирования.

Цель работы и задачи исследования.

Настоящая работа посвящена вопросам понимания в процессах речевой деятельности человека. Основная цель исследования — определение механизмов понимания речи с учетом существующих на сегодняшний день экспериментальных результатов по изучению восприятия речи мозгом человека и его дальнейшего использования для моделирования систем понимания.

В ходе работы решались следующие задачи:

1. С целью описания работы механизмов понимания речи изучить и представить результаты современных нейрофизиологических исследований восприятия речи мозгом человекана их основе сформулировать гипотезу работы механизмов понимания.

2. Дать определение механизмов понимания речи с точки зрения возможности их дальнейшего моделирования.

3. На основе определения механизмов понимания речи описать модель понимания речи, определить ее основные характеристики.

4. Рассмотреть методы и алгоритмы, которые могут быть применены при моделировании процессов понимания, и определить наиболее приемлемые из них в соответствии с предложенной моделью понимания речи.

5. Исследовать выбранный метод, показать его основные достоинства и недостатки при использовании в моделях понимания.

Материалы и методы исследования.

Для моделирования процессов понимания речи предложен метод латентно-семантического анализа (JICA).

В основе этого метода лежат принципы факторного анализа, в частности, выявление латентных связей изучаемых явлений или объектов. При классификации / кластеризации документов этот метод используется для извлечения контекстно-зависимых значений лексических единиц при помощи статистической обработки больших текстовых корпусов. В последние годы метод J1CA часто использовался для поиска информации (индексация документов), классификации документов, а также в других областях, где требуется выявление главных факторов из массива информационных данных.

Наиболее распространенный вариант JICA основан на использовании разложения диагональной матрицы по сингулярным значениям (SVDSingular Value Decomposition). С помощью SVD-разложения любая матрица раскладывается во множество ортогональных матриц, линейная комбинация которых является достаточно точным приближением к исходной матрице.

Апробирование JICA произведено на базе русской речи, собранной и обработанной компанией «Одитек». База содержит широкополосные записи 550 русскоязычных дикторов в возрасте от 18 до 60 лет, проживающих в разных регионах России. Объем базы — около 160 часов речи с учётом пауз, хезитаций, речевых и неречевых помех. Корпус базы состоит из читаемой и вызванной спонтанной речи. Вызванная спонтанная речь представляет собой минирассказы на заданную тему. Количество тем — 30. Каждый респондент высказывался на 10 заданных тем.

Обработка базы выполнялась экспертами по речевой акустике с помощью программного обеспечения, разработанного компанией «Одитек».

Из этой базы автором отобран материал, содержащий только вызванную спонтанную речь. Общий объем полученной базы спонтанной речи, содержащей 5165 высказываний 550 респондентов, что соответствует около 110 тысячам словоупотреблений, составляет более 24 часов с учетом пауз.

Для обработки текстового материала, моделирования первичного этапа понимания речи и его анализа автором было написано программное обеспечение. Всего было использовано более тридцати программ, из них семь программ для обработки текстового материалапять программ для реализации латентно-семантического анализас помощью остальных' программ проводилась апробация и анализ выбранного метода.

Для написания программ использованы языки программирования Perl и С++, для SVD-анализа — встроенные функции Matlab 7.

Научная новизна.

На основании результатов современных исследований в области нейрофизиологии восприятия речи мозгом человека, приведенных в работе, выдвинута гипотеза о первичном этапе понимания речевой информации. Впервые дано определение механизмов понимания речи с целью их дальнейшего моделирования. На основе данного определения в качестве метода моделирования процессов понимания выбран латентно-семантический анализ (JICA).

Метод JTCA был впервые использован при обработке русскоязычного корпуса спонтанной речи. Проведена апробация данного метода и приведены результаты тестирования. Сравнение результатов, полученных с помощью JICA и без применения этого метода, показало преимущество метода JICA. Дана оценка работы данного метода при разных условиях постановки задачи и определены возможности его применения в моделях автоматического понимания речи.

Теоретическая значимость работы.

Теоретическая значимость работы заключается в определении механизмов понимания речи, на основании которого предложена модель первичной обработки семантической информации. Эта модель представляет собой некий набор ситуаций, которые активируются и могут корректироваться по мере поступления новой информации. Следует отметить, что данная модель учитывает не лексические значения сегментов, а лишь их ассоциативную связность в базе, принадлежность новой информации к тому или иному ряду, состоящему из ассоциативных сегментов.

Теоретически значимыми являются и результаты исследования на корпусе текстов русской спонтанной речи, которые позволяют заключить, что метод ЛСА может использоваться при первичном семантическом анализе входящей информации.

Практическая значимость работы.

Результаты этой работы могут быть использованы в области речевых технологий, в частности, в моделях автоматического распознавания и понимания речи.

Данные, полученные при исследовании ЛСА, могут быть учтены в различных областях, где требуется выявление главных факторов в большом объеме лингвистических данных. Сам метод может быть полезным для изучения когнитивных механизмов, работающих при речевосприятии.

Основные положения, выносимые на защиту.

1. Дано определение понимания речи для задач моделирования процессов понимания: понимание — это сегментация и интерпретация входящего сигнала. Под сегментацией входящего сигнала подразумевается вычленение части (интегральных и дифференциальных признаков) из целого. Интерпретация — оценка выделенного сегмента, т. е. отождествление сегмента с эталонами (метонимический перенос признака (пучка признаков)), находящимися в памяти, возникновение нового эталона или включение механизмов метафорического переноса (перенесение какого-либо признака сегмента на другой эталон (эталоны)). В качестве основной единицы сегментации в моделях распознавания и понимания речи выбрана фонетическая словоформа (ФС). Показана априорная необходимость базы знаний для модели понимания и описаны основные характеристики, которые должны быть присущи таким базам: снятие омонимии и автоматическая классификация информации (в том числе новой).

2. Определены основные свойства предлагаемой модели понимания речи: модель должна представлять собой структурированный определенным образом набор ситуаций, подобных фреймам, которые активируются и могут корректироваться по мере поступления новой информации. Процесс понимания состоит из двух этапов: дограмматического (или имеющего латентную грамматику, т. е. включенную в лексические единицы) и синтаксическо-грамматического этапа, на котором подключаются механизмы обработки синтаксиса, морфологии и др. На первом этапе понимания учитываются не лексические значения сегментов, а лишь ассоциативная связность сегментов в базе и принадлежность новой информации к тому или иному ассоциативному ряду. Приписывание определенного значения сегменту и выявление истинности этого значения относительно высказывания в целом происходят на втором этапе. Таким образом, модель первичного этапа понимания использует алгоритм семантического и ассоциативного соотнесения сегмента с некими эталонами и определения его принадлежности по выбранному порогу к той или иной ситуации (фрейму) из базы знаний.

3. Исследование модели понимания на материале спонтанной русской речи методом J1CA показало, что вопрос определения количества главных факторов в значительной степени определяется целями, которые стоят перед исследователем: в том случае, если цель — выявление тем, наиболее отличающихся от других, то следует сокращать сингулярные значения диагональной матрицы приблизительно на 70%- в случае, если необходимо найти тематически близкие документы или для выявления ассоциативной лексики, резко не сокращая при этом количество факторов, то сингулярные значения следует уменьшить примерно на 20%.

Апробация работы.

Результаты исследований были представлены в докладах на следующих отечественных и международных конференциях и симпозиумах: семинар, посвященный памяти В. И. Галунова: «Речевые исследования и технологии: настоящее и будущее», 2007, Санкт-ПетербургВторая международная конференция по когнитивной науке 2006, Санкт-ПетербургXXXIII Международная Филологическая Конференция, 2005, Санкт-ПетербургМеждународная конференция «SpeeCom 2004» и «SpeeCom 2002», Санкт-Петербург-. XV сессия российского акустического общества 2004, Нижний НовгородXIII сессия российского акустического общества 2003, МоскваМеждународная конференция «Диалог 2003», Протвино;

Международная конференция «Когнитивное моделирование в лингвистике — 2002», КазаньМеждународный симпозиум «Акустика детской речи», 2002, Санкт-Петербург.

Материалы, касающиеся данной диссертационой работы опубликованы в четырех периодических изданиях: двух российских и двух зарубежных, в том числе три из них в рецензируемых изданиях из списка ВАКа: «Вестник СПбГУ», «Cognitive Neuroscience and Neuropsychology» и «Brain Research» (на основании системы цитирования «Web of Science», см. перечень рецензируемых научных журналов и изданий ВАК от 21 апреля 2008 г.).

Четырнадцать научных статей опубликованы в сборниках научных конференций, три из них на английском языке.

Структура и объем работы.

Диссертационная работа содержит введение, 5 глав, заключение, список литературы и приложение. Работа изложена на 165 страницах машинописного текста. Текст диссертации проиллюстрирован 9 рисунками и 7 таблицами. Библиографический указатель состоит из 116 источников, из них — 58 на русском, 52 — на английском и 6 — на французском языках.

5.5.3. Основные выводы из результатов тестирования.

Проведенное исследование показало, что вопрос определения количества главных факторов в значительной степени зависит от целей, которые ставит перед собой исследователь: если нашей целью является выявление тем, наиболее отличающихся от других, то следует сокращать сингулярные значения диагональной матрицы приблизительно на 70%- если же мы хотим найти похожие документы для их объединения (например, при добавлении новых тем) или для выявления ассоциативной лексики, сильно не уменьшая количество факторов, то сингулярные значения следует сокращать примерно на 20%.

5.6. Достоинства и недостатки модели.

Одним из основных достоинств модели, основанной на ЛСА, является автоматическое решение проблемы омонимии. Эта проблема — одна из самых существенных при создании моделей типа «Смысл-Текст», ее разрешение является очень трудоемким и достигается только методами формального описания языка. В JICA омонимичность может возникать только в пределах одного документа, поскольку разным значениям слова соответствуют разные документы (после JICA) с соответствующими семантическими связями, но даже в этом случае, как показано в работах [Kintsch 2001; Kintsch, Bowles 2002], омонимичность может быть снята исследованием контекста и ассоциативных связей.

В соответствии с представлениями современной нейрофизиологии о механизмах восприятия речи [Pulvermiiller, Shtyrov 2006] эта модель представляет первичный этап анализа понимания: процесс ассоциативного отношения сегмента к неким эталонам и принятия решения по выбранной мере близости его принадлежности тому или иному фрейму из базы знаний. Модель понимания не учитывает лексических значений сегментов (как базовых, так и новых), а лишь ассоциативную связность сегментов в базе и принадлежность новой информации к тому или иному ассоциативному ряду. Это говорит о независимости модели от грамматики, и, в частности, синтаксиса, что делает ее непродуктивной в смысле понимания риторических фигур, идиоматических выражений, сложных грамматических конструкций.

Действительно, если риторические фигуры и идиоматические выражения не были включены в обучающую выборку, то с помощью этой модели можно определить (до определенной степени), что это метафора, но зачастую возникают трудности с интерпретацией [Kintsch, Bowles 2002]. Это говорит об этой модели, как первичной в онтогенетическом смысле: известно, что дети до определенного возраста (5−7 лет) не понимают метафор.

Вследствие аграмматичности представленной модели ее можно назвать «правополушарной» (в смысле работы мозговых функций). Для этого есть несколько оснований. Прежде всего, отсутствие грамматики приводит к тому, что это будет модель понимания на уровне языка-пиджина, который возникает на первых этапах изучения иностранного языка взрослыми, при некоторых видах афазии, а также подобен структуре детской речи в раннем онтогенезе. Такой язык грамматически неустойчив: он содержит большое количество ошибок, является медленным и сильно зависит от внешнего контекстуального окружения. По всей видимости, за порождение и восприятие сложных грамматических конструкций отвечает другой, онтогенетически более поздний механизм, что связано с возникновением в левом полушарии некоторых новых механизмов, надстраивающихся над пространством возникшей категориальности. Таким образом, эта модель претендует на раннюю дограмматическую (или категориальную) стадию.

Значительным недостатком этой модели, как и абсолютно всех моделей понимания, является невозможность введения или хотя бы определения доминанты (или мотивированности, как это было показано в исследованиях [Wolfe et al. 1998], см. п. 4.2.4). Конечно, это можно сделать, меняя весовые функции ключевых слов (что, по сравнению со многими моделями, является действительно достоинством этой модели), но пока непонятна автоматизация этого процесса. Возможно, такое понятие будет применимо в комплексных моделях с учетом визуально-тактильных модулей.

Наконец, практическим недостатком этой модели, как указывалось выше, является значительное увеличение трудоемкости вычислений при значительном увеличении объема входных данных.

5.7. Дальнейшее развитие модели.

Наиболее интересным направлением дальнейшего развития модели может стать использование некоторых результатов из области теории сложных систем (исследования открытых нелинейных динамических систем в режиме метастабильного хаоса). В физике уже делались попытки построить языковую модель на основе хаотических процессов [Николис 1989; Николис 2000; Соловьев 2002], но значительные результаты в этом направлении не были достигнуты ввиду сложностей, возникающих при первичной формализации языка в соответствии с математическими требованиями. Для данной модели выявление главных факторов аналогично возникновению аттракторов в метастабильной системе. Возможно, это может послужить для дальнейшего развития динамических характеристик модели.

Еще одним направлением развития модели является попытка совместить вероятностные модели языка и JICA. Такие совмещенные модели уже были описаны для автоматической кластеризации методом JICA [Pedersen, Kulkarni 2005], где весовые функции определялись с учетом биграммных моделей. К сожалению, в статье не приведены оценочные характеристики результатов анализа.

В работе [Hofmann 1999] был описан метод латентно-семантического вероятностного индексирования документов. Было показано, что применение вероятностных моделей улучшает результаты индексирования и уменьшает точку ветвления (perplexity) за счет уменьшения шума — слов, не несущих большой семантической нагрузки.

Для данного исследуемого материала были построены различные п-граммные модели, получены значения энтропии и точки ветвления (perplexity). Для биграммной модели значение энтропии составило 5,28 бит, perplexity — 38,98- для трехграммной 4,33 бит и 20,13 соответственно, и для четырехграммной модели — 4,86 бит и 29,11- с извлечением низкочастотных слов из текста энтропия и perplexity незначительно уменьшалисьвычисления велись с учетом тегов начала-конца высказывания. Пока не разработан алгоритм объединения или использования вероятностных результатов в ЛСА применительно к модели понимания.

Другой, более практический вариант для развития данной модели можно найти в работах В. Кинтча [Kintsch 1988; Kintsch 2002]. В первой статье он объединил свою интеграционную модель [Kintsch 1988] и метод ЛСА. Он разделяет уже имеющееся знание, на котором базируется ЛСА, и вновь поступающую информацию, которую модель должна интерпретировать. При этом возникает вопрос: как модель должна представлять новые знания, которые не были в нее заложены. Для этого он исследовал два метода: центроидный метод и метод предикации. Центроидный метод основан на выявлении центроида — вектора, вычисляемого как среднее арифметическое векторов всех документов кластера. Метод предикации подразумевает выявление пропозициональной функции внутри документа. После этого производится латентно-семантический анализ термы-на-термы, т. е. поиск близких термов для центроида или предиката. Найденные с помощью такого анализа соседние по ассоциативности термы из контекста могут интерпретировать новую информацию. Исследования В. Кинтча показали, что для коротких предложений оба метода дают приблизительно одинаковые результаты, но для длинных предложений предпочтительнее препозиционный метод.

Другим предметом исследования В. Кинтча были предложения с активным и пассивным залогом. Известно, что ЛСА не различает такие предложения, т. е. ЛСА в силу своей статистической природы не может находить грамматические и синтаксические различия16. Центроидный метод не привел к улучшениям при обнаружении инверсных предложений, в то время как метод пропозиции отчасти смог выявить пропозициональные отношения.

Если модель с использованием JICA дополнить модулем грамматического анализа предложения, это может улучшить механизм понимания, переведя его с дограмматического уровня на следующий, онтогенетически более высокий.

В другой своей статье [Kintsch 2002] предлагает в качестве эталонной базы использовать некий набор макроправил, по которым определяется тематика. Он определяет эти правила как ментальные представления о тексте, описывающие тематическую ситуативность. Эти представления помогают нам объяснить то, что дано, но они не являются сами по себе алгоритмами или вычислительными процедурами, которые автоматически порождаются макропропозициями из текста. При этом метод JICA не позволяет провести глубокий препозиционный и синтаксический анализ текста, пишет в заключении В. Кинтч.

Таким образом, предложенную модель можно назвать первоначальной в развитии механизма понимания. Дальнейшее развитие модели требует тщательных и обширных исследований в смежных областях науки (психологии, физиологии высшей нервной деятельности, теории сложных.

16 См. сноску 1. систем и т. д.) и более глубокого понимания когнитивных процессов, обеспечивающих понимание.

Заключение

.

В ходе работы были получены следующее результаты:

1. На основании рассмотренных аспектов понимания и экспериментальных результатов по изучению восприятия речи мозгом человека выдвинута гипотеза, что процесс восприятия и обработки информации происходит в два этапа. Первый этап — этап непроизвольного восприятия, позволяющий вычленить ситуативность или категориальность входящей информации, этап первичной семантической обработки, который позволяет отнести входящее сообщение к той или иной ситуации. На этом этапе происходит принятие решения на уровне доступа к информационным процессам, разворачивающимся в базовом пространстве (мозге человека). Второй этап — этап включения дополнительных механизмов для успешной обработки полученной информации (семантический, синтаксический и.

17 грамматический анализ).

В работе дано определение механизмов понимания речи в контексте их дальнейшего моделирования: понимание речи — это сегментация и интерпретация входящего сигнала (в данном случае речевого). Понятие интерпретации, как одного из двух видов интеллектуальных операций, основано на определении Р.Якобсона. Сегментация определена как.

17 См. сноску 1. вычленение части (интегральных и дифференциальных признаков) из целого. Предложены некоторые возможные единицы сегментации для процесса понимания речи (КФ и ФС), определены возможности реализации единиц сегментации.

На основании описания работы механизмов и определения понимания речи предложена модель первичного этапа понимания, указаны основные свойства, которые должны быть присущи предполагаемой модели: модель должна представлять собой некий набор ситуаций, подобно фреймам, которые активируются и могут быть скорректированы по мере поступления новой информации. Иными словами, модель должна иметь базу, состоящую из определенным образом структурированных лексических единиц, которые связаны между собой по определенным правилам, причем эти связи можно менять динамически (в процессе работы). Процесс понимания можно разбить на два этапа: дограмматический (или имеющий латентную грамматику, т. е. включенную в лексические единицы: ФС или КФ) грамматический, на котором подключаются механизмы обработки синтаксиса, словоизменения и др. На первом этапе понимания учитываются не лексические значения сегментов (как базовых, так и новых), а лишь ассоциативная связность сегментов в базе и принадлежность новой информации к тому или иному ассоциативному ряду. Приписывание определенного значения сегменту и выявление истинности этого значения относительно высказывания в целом происходят на втором этапе.

Таким образом, модель первичного этапа понимания должна работать по алгоритму семантического и ассоциативного отношения сегмента к эталонам, хранящимся в базе, и принятия решения (по выбранной мере близости) о принадлежности этого сегмента к тому или иному фрейму из базы знаний.

2. Рассмотрены некоторые методы и алгоритмы создания эталонных баз данных, необходимых для систем понимания речи. На основе предложенных критериев выбора для создания эталонной базы использован метод латентно-семантического анализа.

Одним из наиболее важных критериев точности работы механизмов понимания является снятие проблемы омонимичности словоформ. Из рассмотренных методов и алгоритмов классификации / кластеризации документов (текстов) наиболее удовлетворяющим данным условиям является метод JICA. Он не только является эффективным для выявления скрытых ассоциативных зависимостей, но и автоматически ликвидирует лексическую омонимичность словоформ, попавших в разные тематики. Кроме того, метод является достаточно гибким в настройке, что позволяет легко менять параметры в зависимости от поставленной задачи.

3. На материале базы образцов спонтанной русской речи предложен вариант модели понимания речи с использованием латентно-семантического анализа. Представлены результаты исследования.

Проведен сравнительный анализ векторного метода (при разных соотношениях обучающей и тестируемой частей базы) и SVD-анализа (при разном сокращении сингулярных значений диагональной матрицы).

Общее количество правильно классифицированных сообщений для векторного метода при использовании в качестве тестовой базы всего корпуса составило 88,1%. Тестирование проводилось при разном соотношении обучаемой и тестовой частей базы.

Было проведено аналогичное исследование для векторного пространства, полученного посредством SVD-анализа с сокращением сингулярных значений диагональной матрицы. При сокращении сингулярных значений диагональной матрицы точность соответствия входящих сообщений соответствующим темам снизилась. Точность определения тематик с ярко выраженными главными факторами возросла. Таким образом, если сообщения, не соответствующие теме данного документа, считать соответствующими тому фактору, к которому они теперь принадлежат, то точность классификации повышается до 91%.

Исследования также показали, что с сокращением сингулярных элементов диагональной матрицы количество факторов уменьшается (для 60% было выявлено 12 факторов, для 73% — 8 факторов). При этом точность классификации для рубрик, которые стали «аттракторами» для выявления главных факторов, выросла, а у некоторых достигла 100%. Однако с уменьшением количества главных факторов некоторые рубрики, объединенные в один фактор, не соответствуют друг другу и уже недостаточно точно описывают ситуативность модели.

Таким образом, вопрос определения количества главных факторов в значительной степени зависит от целей, которые ставит перед собой исследователь: если нашей целью является выявление тем, наиболее отличающихся от других, то следует сокращать сингулярные значения диагональной матрицы приблизительно на 70% (± 10%) — если же необходимо найти похожие документы для их объединения (например, при добавлении новых тем) или для выявления ассоциативной лексики, сильно не уменьшая количество факторов, то сингулярные значения следует сокращать примерно на 20%.

Подводя итог проделанной работе, можно сделать следующие выводы:

1) Процесс понимания состоит из двух этапов обработки информации: первичного этапа непроизвольного восприятия, с помощью которого определяется ситуативность или категориальность входящей информации, и вторичного этапа, на котором производится дополнительная (семантическая, синтаксическая, морфологическая) обработка распознанного сегмента. Это следует учитывать при моделировании механизмов понимания.

2) Первичный этап обработки информации представляет собой алгоритм семантического и ассоциативного соотношения сегмента с эталонами из базы знаний по выбранному правилу (в данном случае, по евклидовой мере близости данного сегмента к той или иной ассоциативно-семантической категории).

3) Латентно-семантический анализ является достаточно гибким и точным методом для реализации первичного этапа обработки входящей информации в системах автоматического понимания речи.