Научный журнал
Фундаментальные исследования
ISSN 1812-7339
"Перечень" ВАК
ИФ РИНЦ = 1,749

МОДЕЛИ, МЕТОДЫ И СРЕДСТВА УПРАВЛЕНИЯ ВЫЧИСЛЕНИЯМИ В ИНТЕГРИРОВАННОЙ КЛАСТЕРНОЙ СИСТЕМЕ

Костромин Р.О. 1
1 ФГБОУ ВО «Иркутский национальный исследовательский технический университет»
Обсуждаются международный опыт и направления исследований в области организации и применения высокопроизводительных систем. Предлагается решение проблемы повышения эффективности управления потоками вычислений в Grid-системах путем применения модели с различными уровнями обслуживания заданий, выбор которых регулируется соотношением спроса и предложения ресурсов. Разработка программных средств, реализующих данную модель, осуществляется на основе агентно-ориентированного подхода с использованием инженерных онтологий для концептуализации предметных областей решаемых задач. В качестве узлов Grid-системы используются вычислительные кластеры. Рассматривается подход к организации кластеров и оценке их производительности. При создании кластера применяются система управления вычислительными заданиями Torque, библиотека поддержки параллельных вычислений Open MPI и набор эталонных тестов NPB для оценки производительности кластеров. Обобщается опыт использования и интеграции вычислительных кластеров в Иркутском научном центре. Рассматриваются модели и методы управления вычислениями на уровне интегрированной кластерной системы, реализуемой мультиагентной системой с заданной организационной структурой, а также прототип мультиагентной системы, реализуемый с помощью инструментария JADE.
grid-системы
распределенные вычисления
распределение ресурсов
вычислительный кластер
мультиагентные системы
Абасов Н.В., Бережных Т.В., Резников А.П. Долгосрочный прогноз природообусловленных факторов энергетики в информационно-прогностической системе ГИПСАР // Известия РАН. Энергетика. – 2000. – № 6. – С. 22–30.
Башарина О.Ю., Дмитриев В.И., Корсуков А.С., Носков С.И., Феоктистов А.Г. Методика и инструментальные средства автоматизации проведения вычислительных экспериментов по имитационному моделированию сложных систем // Современные проблемы науки и образования. – 2014. – № 1. – C. 241.
Бычков И.В., Опарин Г.А., Феоктистов А.Г., Богданова В.Г., Пашинин А.А. Мультиагентные методы и инструментальные средства управления в сервис-ориентированной распределенной вычислительной среде // Труды Института системного программирования РАН. – 2014. – Т. 26. – Вып. 5. – С. 65–82.
Бычков И.В., Опарин Г.А., Феоктистов А.Г., Кан тер А.Н. Мультиагентный алгоритм распределения вычислительных ресурсов на основе экономического механизма регулирования их спроса и предложения // Вестник компьютерных и информационных технологий. – 2014. – № 1. – С. 39–45.
Бычков И.В., Опарин Г.А., Феоктистов А.Г., Корсуков А.С. Децентрализованное управление потоками заданий в интегрированной кластерной системе // Вестник НГУ. Серия: Информационные технологии. – 2011. – Т. 9. – Вып. 2. – С. 42–54.
Дмитриев В.И., Башарина О.Ю., Феоктистов А.Г., Ларина А.В. Моделирование логистических складских комплексов с использованием вычислительной техники // Экономика и управление. – 2010. – № 6. – С. 88–92.
Костромин Р.О. Создание вычислительного кластера для проведения оптимизационных расчетов объектов теплоэнергетики // Системные исследования в энергетике: Труды молодых ученых ИСЭМ СО РАН. Иркутск: Изд-во ИСЭМ СО РАН, 2013. – № 43. – С. 184–192.
Шамакина А.В. Обзор технологий распределенных вычислений // Вестник Южно-Уральского государственного университета. Серия: Вычислительная математика и информатика. – 2014. – Т. 3. – № 3. – С. 51–85.
Baker M., Buyya R., Laforenza D. Grids and Grid Technologies for Wide-Area Distributed Computing // Software: Practice and Experience. – 2002. – Vol. 32, № 15. – Р. 1437–1466.
Bellifemine F., Bergenti F., Caire G. and al. Jade – A Java Agent Development Framework // Multiagent Systems, Artificial Societies, And Simulated Organizations: MultiAgent Programming / Ed. by R. Bordini, M. Dastani, J. Dix, A. El Fallax Seghrouchni. Springer. – 2006. – Vol. 15. – Р. 125–147.
Bogdanova V.G., Bychkov I.V., Korsukov A.S., Oparin G.A., Feoktistov A.G. Multiagent Approach to Controlling Distributed Computing in a Cluster Grid System // Journal of Computer and Systems Sciences International. – 2014. – Vol. 53, № 5. – Р. 713–722.
Durfee E.H. Distributed Problem Solving and Planning // Multiagent Systems: A Modern Approach to Distributed Artificial Intelligence / Ed. by G. Weiss. MIT Press. – 1999. – Р. 121–164.
Herrera J., Huedo E., Montero R., Llorente I. Porting of Scientific Applications to Grid Computing on GridWay // Scientific Programming. – 2005. – Vol. 13, № 4. – Р. 317–331.
Market-Oriented Grid and Utility Computing / Ed. by R. Buyya, K. Bubendorfer. New York, Wiley & Sons. – 2010. – 643 p.
Taha, H.A. Operations Research: An Introduction // Upper Saddle River, Prentice Hall. – 2006. – 592 p.

В России, как и за рубежом, ведутся активные исследования, связанные с созданием и использованием Grid-систем различного назначения [9], среди которых важное место отводится вычислительным Grid-системам. Высокая интенсивность потоков вычислений в Grid-системах обуславливает необходимость эффективного управления этими потоками. В процессе управления распределенными вычислениями требуется, во-первых, интенсивное и сложно реализуемое на практике взаимодействие администраторов ресурсов с пользователями, решающими свои задачи с помощью этих ресурсов, и, во-вторых, детальный учет специфики решаемых задач и вычислительных характеристик используемых ресурсов. Как правило, Grid-системы обладают рядом свойств, существенно усложняющих унификацию процесса управления вычислениями [11]. К свойствам такого рода, например, относятся: организационно-функциональная разнородность, динамичность и неполнота описания ресурсов, интегрированных в Grid-системах; широта спектра задач, решаемых с помощью этих ресурсов; наличие различных категорий пользователей, преследующих свои цели и задачи эксплуатации вычислительной системы.

Известные модели, методы, алгоритмы и программные средства [8] не решают перечисленные выше проблемы полностью. Возникает необходимость разработки новых, более гибких средств управления распределенными вычислениями, базирующихся на методах искусственного интеллекта и позволяющих в полной мере учитывать специфику вычислительных ресурсов и решаемых с их помощью задач. Требуется также сформулировать специальные критерии функционирования вычислительной системы, которые бы позволили отразить изменяющиеся во времени интересы различных субъектов системы и осуществить выбор удовлетворительного уровня обслуживания поступающих в систему заданий. С этой точки зрения наиболее целесообразным видится применение модели с различными уровнями обслуживания заданий [15], выбор которых регулируется соотношением спроса и предложения по ресурсам [14]. Использование такой модели сводит задачу управления Grid-системой к определению приемлемых интервалов изменения значений для характеристик назначенного уровня обслуживания задания. Как следствие, возникает необходимость разработки программных средств, которые бы позволили всесторонне описать аспекты прохождения потоков заданий в Grid-системе и обеспечили управление потоками заданий на основе прав и обязанностей, делегированных этим средствам администраторами и пользователями Grid-системы. Для реализации таких программных средств наиболее предпочтительным является агентно-ориентированный подход с использованием инженерных онтологий для концептуализации предметных областей решаемых задач.

Целью представленного в статье исследования является разработка моделей, методов и программных средств управления распределенными вычислениями (представленными широким спектром заданий различной структуры) на основе комплексного использования мультиагентных технологий и экономических механизмов регулирования спроса и предложения вычислительных ресурсов в интегрированных кластерных системах.

Кластер для проведения оптимизационных расчетов объектов теплоэнергетики

В качестве узлов Grid-системы могут выступать как офисные компьютеры, так и суперкомпьютеры, в том числе вычислительные кластеры. Рассмотрим подход к настройке, запуску и тестированию вычислительного кластера на примере решения ресурсоемких задач в теплоэнергетике [1].

Решение современных инженерно-технических задач требует привлечения значительных вычислительных ресурсов. Ресурсоемкость процесса решения задачи обуславливается размерностью задачи, применением оптимизационных или переборных методов решения задачи, необходимостью проведения многовариантных расчетов и другими факторами. К ресурсоемким задачам относятся расчеты технологических схем теплоэнергетических установок, в которых протекают различные физико-химические процессы: сгорание органического топлива, газификация твердого топлива, расширение и сжатие рабочих тел, испарение жидкостей и конденсация пара, радиационный и конвективный теплообмены и другие процессы. Одним из возможных путей ускорения процесса решения перечисленных задач является распараллеливание расчетов и использование для их проведения многопроцессорных рабочих станций и серверов, объединенных в единый вычислительный кластер.

Вычислительный кластер представляет собой сложный программно-аппаратный комплекс, требующий специального программного обеспечения, которое позволяет эффективно распределять нагрузку между его узлами. При создании вычислительного кластера для проведения оптимизационных расчетов объектов теплоэнергетики были решены следующие задачи:

– выбрано, установлено и настроено следующее системное программное обеспечение для управления вычислениями: операционная система Gentoo Linux – для управления ресурсами кластера, библиотека Open Message Passing Interface (Open MPI) – для поддержки выполнения параллельных расчетов, система TORQUE (Terascale Open-Source Resource and QUEue Manager) – для управления вычислительными заданиями;

– разработан набор скриптов на языке Bourne Again SHell (BASH) для автоматизации процессов установки операционной системы Gentoo Linux в узлах кластера: создания/удаления разделов жесткого диска, создания необходимых файловых систем и их монтирования, настройки сетевых подключений, загрузки и установки программных пакетов, конфигурирования необходимых параметров системы;

– обеспечена расширяемость кластера – оперативное добавление, включение в его инфраструктуру новых узлов;

– обеспечена поддержка отказоустойчивости кластера – быстрое восстановление его работоспособности в случае сбоев программно-аппаратных средств;

– произведена оценка производительности кластера при помощи набора эталонных тестов NASA Advanced Supercomputing Parallel Benchmarks (NPB).

Создание вычислительного кластера обеспечило возможность решения ряда сложных задач оперативного управления теплоэнергетическими установками за приемлемые промежутки времени [7].

Интеграция вычислительных кластеров

В Иркутском научном центре был создан целый ряд вычислительных кластеров на базе персональных компьютеров, подобных представленному в статье кластеру. Эти кластеры эффективно использовались самостоятельно или в составе интегрированных распределенных вычислительных сред для решения важных прикладных задач в различных предметных областях [1, 6, 2]. Интеграция вычислительных кластеров позволяет существенно расширить спектр решаемых с их помощью задач и предполагает использование специального промежуточного программного обеспечения (middleware), предназначенного для представления глобально распределенных вычислительных систем в виде единой среды решения задач. Процесс решения задачи специфицируется в виде задания вычислительной среде, содержащего информацию о требуемых вычислительных ресурсах, исполняемых прикладных программах, входных/выходных данных, а также другие необходимые сведения. Однако традиционные системы управления заданиями (например, [13]) промежуточного программного обеспечения недостаточно полно учитывают специфику спроса и предложения ресурсов при распределении этих ресурсов для выполнения заданий. Таким образом, возникает важная и практически значимая проблема эффективного планирования вычислений и распределения ресурсов для их выполнения. Широко используемым на практике подходом к решению этой проблемы является применение мультиагентных систем для управления вычислениями [12].

В рамках представленного в статье исследования управление вычислениями на уровне интегрированной кластерной системы реализуется мультиагентной системой с заданной организационной структурой. Координация действий агентов осуществляется с помощью общих правил группового поведения. Агенты функционируют в соответствии с заданными ролями и для каждой роли определены свои правила поведения в виртуальном сообществе агентов. Мультиагентная система включает агентов распределения ресурсов и управляющего агента. Задачей агентов на уровне интегрированной кластерной системы является получение такого распределения поступающих в систему потоков заданий, которое сохраняет показатели качества функционирования этой системы в заданных ее администратором пределах.

Прототип системы агентов реализуется с помощью инструментария Java Agent DEvelopment framework (JADE) [10]. Алгоритмы функционирования агентов разрабатываются на основе конечно-автоматной модели в соответствии со спецификой действий, выполняемых этими агентами в системе управления вычислениями. Разработка системы агентов осуществляется в рамках реализации мультиагентного подхода к управлению распределенными вычислениями в интегрированной кластерной системе [12].

Выбор узлов вычислительного кластера, в которых будет выполняться задание, осуществляется с помощью логико-вероятностного алгоритма многоуровневого конкретизирующего планирования заданий с заданными критериями качества (показателями надежности, времени и стоимости) их выполнения. Процесс планирования осуществляется в четыре этапа агентами, представляющими узлы вычислительного кластера. Этапы работы алгоритма детально представлены в [3–5]. Процесс планирования включает: формирование всего множества доступных узлов; конкретизацию сформированного множества путем исключения из него перегруженных узлов (относительно текущей средней загрузки узлов с учетом имеющихся очередей заданий); построение поливариантного плана выполнения задания в узлах; извлечение из построенного поливариантного плана специализированного плана, удовлетворяющего заданным критериям качества выполнения задания с учетом текущего состояния вычислительной среды и назначение узлов вычислительного кластера для выполнения этого задания. Построение специализированного плана осуществляется на основе экономического механизма регулирования спроса и предложения вычислительных ресурсов.

Заключение

В статье рассмотрены проблемы управления ресурсами вычислительных систем, в том числе Grid-системами, и предложены методы и средства по решению возникающих трудностей. Научное значение решения задач, поставленных в статье, состоит в повышении эффективности распределенных вычислений в интегрированной кластерной системе с применением агентно-ориентированного подхода с использованием инженерных онтологий для концептуализации предметных областей решаемых задач.

Рецензенты:

Опарин Г.А., д.т.н., профессор, зам. директора по научной работе, Институт динамики систем и теории управления им. В.М. Матросова СО РАН, г. Иркутск;

Петров А.В., д.т.н., профессор кафедры автоматизированных систем института кибернетики им. Е.И. Попова, ФГБОУ ВО «Иркутский национальный исследовательский технический университет», г. Иркутск.


Библиографическая ссылка

Костромин Р.О. МОДЕЛИ, МЕТОДЫ И СРЕДСТВА УПРАВЛЕНИЯ ВЫЧИСЛЕНИЯМИ В ИНТЕГРИРОВАННОЙ КЛАСТЕРНОЙ СИСТЕМЕ // Фундаментальные исследования. – 2015. – № 6-1. – С. 35-38;
URL: https://fundamental-research.ru/ru/article/view?id=38389 (дата обращения: 09.12.2021).

Предлагаем вашему вниманию журналы, издающиеся в издательстве «Академия Естествознания»
(Высокий импакт-фактор РИНЦ, тематика журналов охватывает все научные направления)

«Фундаментальные исследования» список ВАК ИФ РИНЦ = 1.074