Разработка макета узла связи между системами ГридННС и СКИФ-ГРИД

Концепция грид-технологий появилась как ответ на возросшие потребности в крупных информационно-вычислительных ресурсах, динамически выделяемых для решения громоздких задач в научной, индустриальной, административной и коммерческой областях деятельности. Создание грид-среды подразумевает объединение вычислительных ресурсов географически разделенных ресурсных центров при помощи специализированного программного обеспечения (промежуточное программное обеспечение, далее ППО). Это программное обеспечение позволяет распределять задания по таким центрам, возвращать результаты пользователю, контролировать права пользователей на доступ к тем или иным ресурсам, осуществлять мониторинг ресурсов. Работа является продолжением предыдущих исследований по сопряжению различных грид-систем [1, 2, 3].

Рис. 1. Упрощенная схема узла связи СКИФ-ГРИД с ГридННС

Основной задачей настоящего исследования, проводимого в рамках проекта «Разработка технологии запуска заданий, подготовленных в среде ППО СКИФ-ГРИД, для запуска на вычислительных ресурсах Грид - Национальной нанотехнологической сети (ГридННС)», является экспериментальное изучение возможности эффективного использования ресурсов ГридННС [4] из среды СКИФ-ГРИД, основанной на UNICORE-6 [5]. С этой целью разработан макет узла связи (единого интерфейса пользователя) между СКИФ-ГРИД и ГридННС, а также разработано ПО и ППО для управления простыми и многошаговыми задачами СКИФ-ГРИД, использующими вычислительные ресурсы ГридННС. Тестовые испытания макета показали эффективность предложенного решения.

• 1.    Описание макета узла связи

• 2.    Описание архитектуры ППО

Макет узла связи (см. рис. 1) состоит из пользовательского интерфейса системы СКИФ-ГРИД и специального транзитного узла СКИФ-ГРИД, где установлено дополнительное ППО, обеспечивающее запуск задач СКИФ-ГРИД (в том числе и многошаговых) на ресурсах ГридННС. На обеих машинах установлена операционная система CentOS Linux.

На первой машине, представляющей собой модель единого пользовательского интерфейса, развернута клиентская часть системы UNICORE-6. В настоящей версии используется командный интерфейс (исс), но может использоваться и любой другой, например, графический, пользовательский интерфейс UNICORE-6. Кроме того там развернуто ППО, для получения proxy-сертификатов РДИГ-СА, пригодных для работы с ГридННС и клиент GridFTP для обеспечения авторизованной связи с другими элементами системы.

На второй машине, являющейся моделью собственно «транзитного узла», развернуты сервер UNICORE-6, командный интерфейс (Pilot-CLI) для запуска заданий системы ГридННС, сервер GridFTP, система авторизации ГридННС, обеспечивающая возможность взаимодействия сервера GridFTP с ГридННС и специализированное ППО для реализации транзитного запуска заданий в ГридННС и контроля за их прохождением (мониторирования). Установка сервера GridFTP и разработанное ППО, учитывают особенности технологии запуска заданий в настоящей версии системы ГридННС, в которой не предусмотрено работы с локальными файлами пользователя. Возможно только использование файлов, доступных GridFTP серверам, сертифицированным для работы с ГридННС. На второй машине расположена также общая область хранения данных узла СКИФ-ННС.

Клиент исс из пакета UNICORE-6, предназначенный для запуска заданий СКИФ-ГРИД, сконфигурирован на пользовательском интерфейсе так, чтобы обеспечить отправку заданий СКИФ-ГРИД, использующих ресурсы ГридННС, на транзитный узел. На пользовательском интерфейсе установлен скрипт nns-transit, обеспечивающий запуск информационных запро- сов клиента Pilot-CLI ГридННС, размещенного на транзитном узле, что дает пользователю возможность дополнительного управления заданиями, запущенными на ресурсы ГридННС. Взаимодействие между пользовательским интерфейсом и транзитным узлом может осуществляться как через локальную, так и через глобальную сеть. Никаких специфических требований к качеству соединения не предъявляется. На транзитном узле открыты порты, необходимые для работы серверов UNICORE и GridFTP (номера портов указаны в соответствующих инструкциях по установке).

Суть разработанной архитектуры состоит в использовании для запуска заданий на внешние ресурсы специальных «транзитных» узлов грид-системы. Эти узлы представляют собой специализированные вычислительные ресурсы грид-системы (компьютерные элементы и/или рабочие узлы) на которых устанавливается «транзитный сервис» - ПО, обеспечивающее передачу заданий ресурс-менеджеру внешнего ресурса, а также мониторинг заданий и доступ к информации о конфигурации ресурса. По-существу, «транзитный сервис» является оберткой над клиентской частью ресурс-менеджера, которая устанавливается и специальным образом конфигурируется на транзитном узле.

Для запуска задания или шага задания на внешнем ресурсе через транзитный узел, формируется специальное одношаговое «транзитное» задание грид-системы, направляемое на транзитный узел. «Транзитное» задание содержит обращение к «транзитному сервису» (то есть «транзитный сервис» описывается как исполнимая команда задания), а в качестве аргумента передается описание задачи, выполняемой на внешнем ресурсе, в форме соответствующей требованиям менеджера этого ресурса. Если внешний ресурс является внешней грид-системой, то описание делается на языке описания заданий этой системы. Необходимые файлы пользователя (Input Sandbox) передаются на транзитный узел средствами грид-системы, а затем ресурс-менеджеру внешнего ресурса средствами транзитного сервиса.

Для управления узлом связи заработаны следующие скрипты на BASH:

nns-jobrun для запуска заданий на ресурсы ГридННС из шага задания UNICORE с пользовательского интерфейса.

Формат команды:

nns-jobrun <файл, содержащий задание ГридННС><файл, содержащий ргоху-сертификат><периодичность опроса состояния запущенного задания в сек.>;

nns-transit для запуска информационных утилит Pilot-CLI на транзитном узле с пользовательского интерфейса.

Формат команды:

nns-transit <файл, содержащий ргоху-сертификат><команда Pilot-CLI>;

Примеры информационных запросов к системе Pilot-CLI из шага задания UNICORE.

• •    Запрос версии сервера Pilot-CLI :

nns-transit proxy pilot-server-version;

• •    Запрос списка заданий пользователя, запущенных в систему ГридННС: nns-transit proxy pilot-query-jobs;

• •    Запрос состояния задания пользователя, запущенного в систему ГридННС ( берется из log-файла, заданного в команде nns-jobrun):

nns-transit proxy pilot-job-status ;

• •    Запрос состояния шага задания пользователя, запущенного в систему ГридННС ( берется из протокола предыдущей команды):

• 3.    Заключение

nns-transit proxy pilot-task-status .

Удаление всех заданий пользователя из системы ГридННС: nns-transit proxy pilot-cancel-my-jobs

Полный список информационных утилит PilotCLI см. в руководстве по системе PilotCLI [6].

В ходе настоящего исследования было произведено тестирование разработанного НПО на развернутом макете узла связи. Тестирование показало, что выбранный подход позволил достигнуть поставленной задачи сравнительно простыми средствами без внесения изменений в НПО Unicore и ГридННС.

Разработанное НПО позволяет использовать ресурсы ГридННС из среды СКИФ-ГРИД при исполнении как простых, так и многошаговых задач. Система мониторинга выполнения заданий обеспечивает пользователя и информационные системы двух грид инфраструктур (ГридННС и СКИФ-ГРИД) оперативной информацией в интерактивном режиме о ходе выполнения пересланных заданий и о конечных результатах их выполнения. В перспективе ГридННС будет предоставлять развитую инфраструктуру и программные средства для удаленного запуска заданий и централизованного мониторинга состояния заданий, что в сочетании с разработанным в настоящем исследовании ПО позволит обеспечить эффективный доступ пользователей СКИФ-ГРИД к вычислительным ресурсам ГридННС. Ограничением данного подхода является то, что пользователь должен заранее решить какие части его задания в какой грид-системе будут выполняться.

Настоящая работа выполнена в рамках контракта по теме «Исследование и разработка технологий распределенных вычислительных сред с эффективной поддержкой массового доступа к распределенным информационным и вычислительным ресурсам. Разработка технологий высокопроизводительных вычислений с использованием неоднородных территориально-распределенных вычислительных ресурсов» (Шифр 2009-СГ-06), при частичной поддержке Грантами Президента РФ по поддержке научных школ НШ-3159.2010.2 и НШ-4Ц2.2010.2.

Авторы также благодарны Программному комитету Международной суперкомпьютерной конференции («Научный сервис в сети Интернет: суперкомпьютерные центры и задачи»), рекомендовавшему настоящую работу к публикации в журнале «Вестник Южно-Уральского государственного университета», серия «Математическое моделирование и программирование».