Методы построения программного комплекса для управления данными в вычислительных системах с массовым параллелизмом

Одним из актуальных направлений системного программирования является создание системного программного обеспечения для современных многопроцессорных вычислительных комплексов с массивно-параллельной архитектурой.

Одной из основных сфер применения вычислительных систем с массовым параллелизмом в настоящее время являются фундаментальные научные и прикладные задачи, эффективное решение которых возможно только с использованием мощных вычислительных ресурсов/Примером могут служить задачи аэродинамики для самолетостроения и создания реактивных двигателей [14], моделирование управляемого термоядерного синтеза [10], распознавание изображений при навигации движущихся объектов [26], системы поддержки принятия решений, предсказание климата и глобальных изменений в земной коре [17] и др. Многие из упомянутых задач требуют обработки больших объемов данных, хранящихся на внешних носителях.

Другой важной областью применения вычислительных систем с массовым параллелизмом являются сверхбольшие базы данных. Как указывается в Асиломарском отчете о направлениях исследований в области баз данных [3], в ближайшем будущем крупные организации будут располагать базами данных объемом в несколько петабайт. Для эффективной обработки подобных объемов информации требуются параллельные машины с десятками тысяч процессоров. Основными приложениями параллельных машин баз данных являются системы поддержки принятия решений и сверхбольшие базы данных, содержащие объекты сложной структуры: графические, картографические, мультимедийные объекты и др. Одним из наиболее ярких примеров такого рода задач является задача по обработке базы данных EOS/DIS (Earth Observing System/Data Information System) [77,81] Американского агентства по аэрокосмическим исследованиям.

ПАСА). EOS/DIS накапливает данные о наблюдениях за состоянием Земли со спутников, и размер этой базы данных ежедневно увеличивается примерно на 1 терабайт.

В течение последнего десятилетия было создано достаточно большое число прототипов параллельных СУБД (например, Gamma [76], Bubba [69]) и коммерческих систем (например, NonStop SQL [110], NCR Teradata [97] и DB2 Parallel Edition [64]), однако в области параллельных систем баз данных остается много нерешенных проблем [3, 112].

Таким образом, разработка методов построения программных комплексов для управления данными в многопроцессорных вычислительных системах с массовым параллелизмом является одним из актуальных направлений научных исследований в области системного программирования.

В настоящее время одной из перспективных отечественных разработок в сфере многопроцессорных вычислительных систем является многопроцессорный вычислительный комплекс МВС-100/1 ООО [13,18,30]. МВС-100/1 ООО представляет собой семейство масштабируемых многопроцессорных вычислительных систем с массовым параллелизмом, являющихся совместной разработкой институтов РАН и промышленности.

Вычислительные комплексы МВС-100/1000 используются в ряде академических институтов и университетов России для решения широкого спектра фундаментальных научных и прикладных задач в областях управления динамическими системами и дифференциальных игр, механики сплошной среды, математического программирования, обработки изображений и распознавания образов и др. [42]. Решение многих из указанных задач связано с необходимостью организации хранения и обработки больших объемов персистентных данных. Однако для МВС-100/1000 в настоящее время отсутствует соответствующее специализированное системное программное обеспечение, позволяющее хранить и обрабатывать большие массивы данных. Вследствие этого актуальной темой является разработка 6 комплекса системных программ для управления данными в многопроцессорной вычислительной системе МВС-100/1 ООО.

Системы МВС-100/1 ООО способны показывать производительность, сравнимую с лучшими зарубежными суперкомпьютерами [116], оставаясь при этом существенно более экономичными по сравнению с импортными аналогами. Поэтому разработка методов построения программных комплексов для управления данными в системах с массовым параллелизмом и реализованный на их основе программный комплекс для многопроцессорной вычислительной системы МВС-100/1000 имеет большую практическую ценность.

Целью данной диссертационной работы является исследование и разработка методов построения комплекса системных программ для управления данными в вычислительных системах с массовым параллелизмом. Данная цель предполагает решение следующих задач:

1. Исследование и анализ существующих методов организации хранения и передачи данных в многопроцессорных вычислительных системах с массовым параллелизмом.

2. Разработка новых методов управления данными в вычислительных системах с массовым параллелизмом, учитывающих особенности архитектуры современных многопроцессорных систем типа МВС-100/1000.

3. Разработка, реализация и отладка программного комплекса для организации хранения и передачи данных в многопроцессорной вычислительной системе МВС-100/1000.

Диссертационная работа выполнялась в рамках проекта Омега [31−32, 45−53, 58−60, 91, 103−106, 117−118], посвященного разработке высоко-параллельной системы управления базами данных для многопроцессорной вычислительной системы МВС-100/1000. Проект Омега выполняется при финансовой поддержке Российского фонда фундаментальных исследований (гранты 97−07−90 148, 00−07−90 077).

Данная диссертационная работа состоит из шести глав, заключения и приложения.

В первой главе анализируются архитектурные особенности вычислительных систем с массовым параллелизмом. Приводится классификация архитектур многопроцессорных вычислительных систем. Описывается архитектура многопроцессорной вычислительной системы МВС-100/1 ООО, и анализируется структура задач, связанных с обработкой больших массивов данных на МВС-100/1 ООО. На основании данного анализа предлагается подход к организации систем управления данными для массивно-параллельных платформ, основанный на введении трех уровней абстракции: аппаратного, физического и логического.

Во второй главе рассматриваются методы организации хранения и передачи данных в многопроцессорных вычислительных системах с массовым параллелизмом. Предлагается классифицировать данные, обрабатываемые в вычислительной системе с массивно-параллельной архитектурой, в зависимости от объема, времени их жизни и числа обращений к ним. На основании данной классификации предлагаются методы организации управления данными, учитывающие специфику архитектуры современных вычислительных систем с массовым параллелизмом.

В третьей главе описывается структура программного комплекса Омега для управления данными в многопроцессорной вычислительной системе МВС-100. Комплекс Омега включает в себя модуль топологии, менеджер нитей (легковесных процессов), систему передачи сообщений и систему хранения данных. Приводится описание принципов реализации модуля топологии, менеджера нитей и системы передачи сообщений.

Четвертая глава посвящена методам реализации системы хранения комплекса Омега. Описаны принципы реализации электронной дисковой подсистемы и системы управления файлами, являющихся составными частями системы хранения данных для МВС-100.

В пятой главе рассматриваются методы управления буферным пулом, используемые в системе управления файлами. Анализируется проблематика буферизации данных и приводится обзор наиболее известных методов управления буферным пулом. Описывается оригинальный метод организации вытеснения страниц из буферного пула, основанный на введении статического и динамического рейтингов страниц и использовании избыточного индекса буферного пула. Приводятся результаты численных экспериментов, подтверждающих эффективность предложенного метода.

Шестая глава посвящена технологическим аспектам разработки программного комплекса Омега. Описывается оригинальная технология коллективной разработки больших программных систем для МВС-100, структура программных средств поддержки данной технологии и компоненты расширения среды программирования (отладчик и профилировщик), разработанные в рамках проекта Омега.

В заключении перечислены основные результаты диссертационной работы.

В приложение вынесены протоколы взаимодействия клиентской и серверной частей системы хранения данных.