Суперкомпьютеры, иерархия памяти и потоковая модель вычислений
Автор: Климов Аркадий Валентинович, Левченко Николай Николаевич, Окунев Анатолий Семенович, Стемпковский Александр Леонидович
Журнал: Программные системы: теория и приложения @programmnye-sistemy
Рубрика: Программное и аппаратное обеспечение распределенных и суперкомпьютерных систем
Статья в выпуске: 1 (19) т.5, 2014 года.
Бесплатный доступ
Современные суперкомпьютеры устроены иерархически, и глубина этой иерархии будет только расти. Структурная иерархия (ядро–чип– узел–шасси–стойка–система) создает заметные неоднородности в коммуникационной сети. Иерархия памяти тоже создает неоднородность доступа: больше объем — медленнее доступ. Поэтому среди факторов неэффективности на первый план выходят затраты на перемещения данных, и соответственно растет сложность построения хорошо оптимизированных по этому фактору программ. Возникающие трудности в значительной мере являются следствием традиционной парадигмы программирования, восходящей к фон Нейману. И хотя в защиту этой парадигмы имеются такие серьезные аргументы как сложившиеся навыки и накопленное программное обеспечение, все же полезно хотя бы в теории понимать альтернативы. Мы видим корень проблем фоннеймановского программирования в том, что в нем осуществляется парадигма сбора, и предлагаем перейти к использованию модели вычислений с управлением потоком данных, которой свойственна работа в парадигме раздачи, и в которой благодаря этой парадигме проблемы оптимизации перемещения данных решаются и проще, и эффективнее.
Предвыборка данных, модель вычислений с управлением потоком данных, иерархия памяти, суперкомпьютер, парадигма раздачи, парадигма сбора, планирование вычислений
Короткий адрес: https://sciup.org/14335968
IDR: 14335968
Список литературы Суперкомпьютеры, иерархия памяти и потоковая модель вычислений
- Guang R. Gao, Thomas Sterling, Rick Stevens, Mark Hereld, Weirong Zhu. ParalleX: A Study of a New Parallel Computation Model, ipdps, 2007 IEEE International Paralleland Distributed Processing Symposium, 2007, p. 294.
- Левшин И. Свежий взгляд из-за океана. Беседа с Джеком Донгаррой//Суперкомпьютеры, 14, 2013, с. 6-8.
- Климов Ю.А., Орлов А.Ю., Шворин А.Б. Перспективные подходы к созданию масштабируемых приложений для суперкомпьютеров гибридной архитектуры//Программные системы: теория и приложения: электронный научный журнал, 2011, № 4 (8), c. 45-59, http://psta.psiras.ru/read/psta2011_4_45-59.pdf.
- Климов А.В. Умножение плотных матриц на неоднородных высокопараллельных вычислительных системах (анализ коммуникационной нагрузки). Журнал «Информационные технологии», №3, 2008, с. 24-31.
- John E. Savage, Mohammad Zubair. A Unified Model for Multicore Architecture, In Proc. 1st International Forum on NextGeneration Multicore/Manycore Technologies, Article No. 9, ACM, NewYork, NY, 2008.
- Стемпковский А.Л., Левченко Н.Н., Окунев А.С, Цветков В.В. Параллельная потоковая вычислительная система -дальнейшее развитие архитектуры и структурной организации вычислительной системы с автоматическим распределением ресурсов//«Информационные технологии» № 10, 2008, с. 2-7.
- Levchenko N.N., Okunev A.S., Zmejev D.N., Klimov A.V. Effective planning of calculations on the PDCS «Buran» architecture. In: Proc. of the International IEEE EAST-WEST DESIGN amp; TEST SYMPOSIUM (EWDTS’2013), Rostov-on-Don, Russia, September 2013.
- Levchenko N.N., Okunev A.S., Zmejev D.N., Klimov A.V. Management methods of computational processes in the PDCS «Buran». In: Proc. of the International IEEE EAST-WEST DESIGN amp; TEST SYMPOSIUM (EWDTS’2013), Rostov-on-Don, Russia, September 2013.
- V. Morozov, K. Kumaran, V. Vishwanath, J. Meng, M. E. Papka. Early Experience on the Blue Gene/Q Supercomputing System//Proceedings of the 27th IEEE International Parallel and Distributed Processing Symposium (IPDPS 2013), Boston, Massachusetts, p. 1229-1240.
