trudyniisiТруды НИИСИSRISA Proceedings2225-73493033-6422НИЦ «КУРЧАТОВСКИЙ ИНСТИТУТ» - НИИСИtrudyniisi-68Research ArticleВЫСОКОПРОИЗВОДИТЕЛЬНЫЕ ВЫЧИСЛЕНИЯ НА ГРАФИЧЕСКИХ УСКОРИТЕЛЯХHIGH-PERFORMANCE COMPUTING ON GPUТенденции в графических ускорителях для высокопроизводительных вычисленийGraphics Accelerators for High-Performance ComputingШмелёвА. С.ShmelevA. S.

Москва

guest8993@rambler.ruМСЦ РАН филиал ФГУ ФНЦ НИИСИ РАНРоссия202321102025134117122Copyright © Шмелёв А.С., 20252025Шмелёв А.С.Shmelev A.S.This work is licensed under a Creative Commons Attribution 4.0 License.https://www.t-niisi.ru/jour/article/view/68

Графические карты, построенные на основе большого количества простых и однотипных исполнительных устройств и обладающие высокой пиковой производительностью уже давно используются в области высокопроизводительных вычислений в качестве ускорителей вычислений. В настоящее время выпускаются отдельные продукты, ориентированные на применение в вычислительных центрах. В данной работе приводится обзор современных ускорителей для вычислительных центров, приведены их показатели производительности, а также приведены анонсы перспективных ускорителей вычислений и показаны тенденции в данной области.

GPUs, built from a large number of relatively simple an similar execution units and having high peak performance, have been used long time in high-performance computing as accelerators. Nowday there are GPUs that were specially designed for use in supercomputer centers, and not as graphics processors.Current trends in their development are presented.

высокопроизводительные вычисленияграфические ускорителиускорители вычисленийсуперЭВМпамять с высокой пропускной способностьюHigh performance computing (HPC)Graphics processing unit (GPU)Accelerated Processing Unit (APU)High Bandwidth Memory (HBM)Работа была выполнена в МСЦ РАН в рамках государственного задания по теме FNEF-2022-0016. В исследованиях использовался суперкомпьютер МВС-10П.ReferencesLal Shimpi, Anand; Wilson, Derek (June 16, 2008). "Lots More Compute, a Leetle More Texturing - Nvidia's 1.4 Billion Transistor GPU: GT200 Arrives as the GeForce GTX 280 & 260". Anandtech.com. Retrieved December 11, 2015. https://www.anandtech.com/show/2549/3Lal Shimpi, Anand; Wilson, Derek (June 16, 2008). "Lots More Compute, a Leetle More Texturing - Nvidia's 1.4 Billion Transistor GPU: GT200 Arrives as the GeForce GTX 280 & 260". Anandtech.com. Retrieved December 11, 2015. https://www.anandtech.com/show/2549/3Radeon R5xx Acceleration Revision 1.1 February 22, 2008 © 2008 Advanced Micro Devices, Inc.Radeon R5xx Acceleration Revision 1.1 February 22, 2008 © 2008 Advanced Micro Devices, Inc.D.B. Kirk, W.W. Hwu. Programming Massively Parallel Processors. A Hands-on Approach, Morgan Kaufmann Publishers, 2010, 258 p.D.B. Kirk, W.W. Hwu. Programming Massively Parallel Processors. A Hands-on Approach, Morgan Kaufmann Publishers, 2010, 258 p.HBM: MemorySolutionforBandwidth-HungryProcessors, JoonyoungKimandYounsuKim, SKhynix // Hot Chips 26, August 2014HBM: MemorySolutionforBandwidth-HungryProcessors, JoonyoungKimandYounsuKim, SKhynix // Hot Chips 26, August 2014JEDEC Updates Groundbreaking High Bandwidth Memory (HBM) Standard (Пресс релиз). JEDEC. 2018-12-17.JEDEC Updates Groundbreaking High Bandwidth Memory (HBM) Standard (Пресс релиз). JEDEC. 2018-12-17.Intel Data Center GPU Max Series Technical Overview https://www.intel.com/content/www/us/en/developer/articles/technical/intel-data-center-gpu-max-series-overview.html Обращение сентябрь 2023.Intel Data Center GPU Max Series Technical Overview https://www.intel.com/content/www/us/en/developer/articles/technical/intel-data-center-gpu-max-series-overview.html Обращение сентябрь 2023.Cutress, Ian (August 24, 2021). "Hot Chips 2021 Live Blog: Graphics (Intel, AMD, Google, Xilinx)". AnandTech. Retrieved August 29, 2021.Cutress, Ian (August 24, 2021). "Hot Chips 2021 Live Blog: Graphics (Intel, AMD, Google, Xilinx)". AnandTech. Retrieved August 29, 2021.Intel® Data Center GPU Max 1550 Specifications https://www.intel.com/content/www/us/en/products/sku/232873/intel-data-center-gpu-max-1550/specifications.html Обращение сентябрь 2023.Intel® Data Center GPU Max 1550 Specifications https://www.intel.com/content/www/us/en/products/sku/232873/intel-data-center-gpu-max-1550/specifications.html Обращение сентябрь 2023.Argonne installs final components of Aurora supercomputer. Пресс релиз 22.06.2023 Jim Collins https://www.anl.gov/article/argonne-installs-final-components-of-aurora-supercomputerArgonne installs final components of Aurora supercomputer. Пресс релиз 22.06.2023 Jim Collins https://www.anl.gov/article/argonne-installs-final-components-of-aurora-supercomputerIntel Xeon MAX 9480 Deep-Dive 64GB HBM2e Onboard Like a GPU or AI Accelerator. Patrick Kennedy 12.09.2023 https://www.servethehome.com/intel-xeon-max-9480-deep-dive-intel-has-64gb-hbm2e-onboard-like-a-gpu-or-ai-accelerator/3/Intel Xeon MAX 9480 Deep-Dive 64GB HBM2e Onboard Like a GPU or AI Accelerator. Patrick Kennedy 12.09.2023 https://www.servethehome.com/intel-xeon-max-9480-deep-dive-intel-has-64gb-hbm2e-onboard-like-a-gpu-or-ai-accelerator/3/INTRODUCING AMD CDNA™ 2 ARCHITECTURE © 2021 Advanced Micro Device https://www.amd.com/system/files/documents/amd-cdna2-white-paper.pdfINTRODUCING AMD CDNA™ 2 ARCHITECTURE © 2021 Advanced Micro Device https://www.amd.com/system/files/documents/amd-cdna2-white-paper.pdfhttps://www.top500.org/lists/ Обращение сентябрь 2023.https://www.top500.org/lists/ Обращение сентябрь 2023.https://top500.org/lists/top500/2023/06/ Обращение сентябрь 2023.https://top500.org/lists/top500/2023/06/ Обращение сентябрь 2023.https://www.anandtech.com/show/18946/el-capitan-installation-begins-first-apu-exascale-system-shaping-up-for-2024 Обращение сентябрь 2023https://www.anandtech.com/show/18946/el-capitan-installation-begins-first-apu-exascale-system-shaping-up-for-2024 Обращение сентябрь 2023https://top500.org/lists/green500/2023/06/ Обращение сентябрь 2023.https://top500.org/lists/green500/2023/06/ Обращение сентябрь 2023.Константин Калгин. Аппаратная архитектура CUDA. Новосибирский национальный исследовательский государственный университет, Новосибирск, 2013. https://ssd.sscc.ru/sites/default/files/content/attach/332/cuda-3-arch.pdfКонстантин Калгин. Аппаратная архитектура CUDA. Новосибирский национальный исследовательский государственный университет, Новосибирск, 2013. https://ssd.sscc.ru/sites/default/files/content/attach/332/cuda-3-arch.pdfNVIDIA H100 Tensor Core GPU Architecture whitepaper V1.04 © 2023 NVIDIA Corporation. https://resources.nvidia.com/en-us-tensor-core/gtc22-whitepaper-hopperNVIDIA H100 Tensor Core GPU Architecture whitepaper V1.04 © 2023 NVIDIA Corporation. https://resources.nvidia.com/en-us-tensor-core/gtc22-whitepaper-hopperNVIDIA H100 Tensor Core GPU Datasheet © 2023 NVIDIA Corporation and affiliates. https://resources.nvidia.com/en-us-tensor-core/nvidia-tensor-core-gpu-datasheetNVIDIA H100 Tensor Core GPU Datasheet © 2023 NVIDIA Corporation and affiliates. https://resources.nvidia.com/en-us-tensor-core/nvidia-tensor-core-gpu-datasheetNVIDIA Ada Lovelace Professional GPU Architecture Whitepaper v1.1 © 2023 NVIDIA Corporation. https://images.nvidia.com/aem-dam/en-zz/Solutions/technologies/NVIDIA-ADA-GPU-PROVIZ-Architecture-Whitepaper_1.1.pdfNVIDIA Ada Lovelace Professional GPU Architecture Whitepaper v1.1 © 2023 NVIDIA Corporation. https://images.nvidia.com/aem-dam/en-zz/Solutions/technologies/NVIDIA-ADA-GPU-PROVIZ-Architecture-Whitepaper_1.1.pdfNVIDIA GH200 Grace Hopper Superchip Architecture Whitepaper V1.11 © 2023 NVIDIA Corporation. https://resources.nvidia.com/en-us-grace-cpu/nvidia-grace-hopperNVIDIA GH200 Grace Hopper Superchip Architecture Whitepaper V1.11 © 2023 NVIDIA Corporation. https://resources.nvidia.com/en-us-grace-cpu/nvidia-grace-hopperNVIDIA Grace Hopper Superchip Data Sheet © 2023 NVIDIA Corporation. https://resources.nvidia.com/en-us-grace-cpu/grace-hopper-superchipNVIDIA Grace Hopper Superchip Data Sheet © 2023 NVIDIA Corporation. https://resources.nvidia.com/en-us-grace-cpu/grace-hopper-superchipSamsung Develops Industry’s First High Bandwidth Memory with AI Processing Power (Пресс Релиз 17.02.2021) https://news.samsung.com/global/samsung-develops-industrys-first-high-bandwidth-memory-with-ai-processing-powerSamsung Develops Industry’s First High Bandwidth Memory with AI Processing Power (Пресс Релиз 17.02.2021) https://news.samsung.com/global/samsung-develops-industrys-first-high-bandwidth-memory-with-ai-processing-powerSamsung Processing in Memory Technology at Hot Chips 2023 By Patrick Kennedy August 28, 2023 https://www.servethehome.com/samsung-processing-in-memory-technology-at-hot-chips-2023/Samsung Processing in Memory Technology at Hot Chips 2023 By Patrick Kennedy August 28, 2023 https://www.servethehome.com/samsung-processing-in-memory-technology-at-hot-chips-2023/Яхонтов Д.Е., Левченко Н.Н., Окунев А.С. Принципы работы блока специальных операций модуля ассоциативной памяти параллельной потоковой вычислительной системы ППВС // Материалы Международной научно-технической конференции «Суперкомпьютерные технологии: разработка, программирование, применение» (СКТ-2010), Таганрог – Москва, 2010, Т. 1, С. 166-170.Яхонтов Д.Е., Левченко Н.Н., Окунев А.С. Принципы работы блока специальных операций модуля ассоциативной памяти параллельной потоковой вычислительной системы ППВС // Материалы Международной научно-технической конференции «Суперкомпьютерные технологии: разработка, программирование, применение» (СКТ-2010), Таганрог – Москва, 2010, Т. 1, С. 166-170.

The authors declare that there are no conflicts of interest present.