超级计算机

Содержание и основные понятия

返回目录
第7章 第7页 第7.2页
超级计算机
汽车的大小与一个小城市用电的房间的大小一样, 解决普通电脑无法处理的问题, 弄清楚它是如何工作的, 以及为什么。
超级计算机
计算系统远远超过常规计算机的生产率。
FLOPS
- 移动点操作每秒。
今天的超级电脑都结束了
远孔屏障
— 10
18
这比你的笔记本电脑 更强大数十亿倍
· 基本全球环境基金
EGE 第22号
01
生产力单位
从巨型拖船到远洋拖船:能力规模
FLOPS — Floating Point Operations Per Second
昂贵
学位 度 度度
示例示例示例
MFLOPS
10⁶
计算计算器
GFLOPS
10⁹
智能手机、膝上型
TFLOPS
10¹²
游戏视频卡(RTX 4090~83 TFLOPS)
PFLOPS
10¹⁵
洛莫诺斯II号主要组群
EFLOPS
10¹⁸
边境(美国)、Fugaku(日本)
比例比例比 比例比
如果地球上的每个人(80亿)每秒计算125 000个,他们就会作为一台Exauffilops超级计算机一起工作。
02
超级计算机建筑
组群:由超快网连接的数千条结
群群群结构架构
现代超级计算机
群群群集群群
:与高速网络(InfiniBand, 200+Gbit/s)连接的多个计算节点(服务器)。
节点管理器
高速网(Infiniband)
主持人 1
CPU + GPU
主持人2
CPU + GPU
主持人 3
CPU + GPU
丁丁兴
CPU + GPU
成千上万的节节...
仓库(Lustre)
冷冻
图2
典型超级计算机结构:节点管理器+计算节点+网络+仓库
组件构成构成构成构成部分
构成部分构成部分构成部分
任用任用
节点管理器
任务规划(SLURM、PBS)、监测
计算节点
CPU (AMD EPYC, Intel Xeon) + GPU (NVIDIA H100)
网络网网
Infini Band NDR (400千兆比特/秒) 或弹弓
储存储存
FS: Lustre, GPFS(数据方字节)
冷冻
液体(45°C)比空气更有效率
03
GPU 计算
视频卡不仅仅是游戏的游戏:数千个科学核心
CPU vs GPU
CPU
GPU
核心
4 - 96(高)
10 000+(简单)
战术频率
3-5千兆赫
1-2-2千兆赫
建筑建筑结构
MIMM(各种任务)
SIMD(一次操作,大量数据)
更好
复杂逻辑、分支
矩阵、图表、神经网
内存
复员方案5,最多2个结核病
HBM3, 最高为80GB(快速)
CUDA和开放CL
CUDA
NVIDIA是一个GPU编程平台。
OpenCL
- 任何 GPU 都开放标准
GPU的任务实例:神经网培训、分子动态、品牌、加密。
与第二章的关系
在第2章(PC)中,我们认为视频地图是组件,在超级计算机中,GPU是主要计算装置。
04
TOP500和世界领导人
对世界上最强大的计算机的评级,每年更新两次
ToP500 评级
自1993年以来,每六个月(6月和11月)公布一份世界和apos;500台最强大的超级计算机。
Linpack
线性方程式系统的解决方案 。
#
名称名称名称
国家
生产力生产率
专业专业
1
Frontier
美国 美国
1.2 EFLOPS
第一批异形体(2022年)AMD EPYC+MI250X
2
Aurora
美国 美国
1.0 EFLOPS
Intel Xeon + Ponte Vecchio GPU (2024)
3
Eagle
美国 美国
561 PFLOPS
微微亚速、云云超级计算机
4
Fugaku
日本 日本
442 PFLOPS
ARM A64FX处理器(原第1号)
5
LUMI
芬兰 芬兰 芬兰
380 PFLOPS
AMD EPYC + MI250X,欧洲旗舰
俄罗斯在TOP500机场
俄罗斯超级计算机:
罗莫诺斯 2
(MOG,~2.5个PFLOPS)
切尔沃延科
由于供应限制,评级是系统单位。
特伦特
预计到2030年
Zetaflops
主要方向是量子计算、神经形态芯片、光学处理器。
05
超级计算机的应用
每秒需要50个行动点。
🌤️
天气预报
气象气象学
以1公里的分辨率模拟地球大气层。计算机的功率越大,预测就越准确。
💊
药物开发
生物信息学
分子动态:模拟蛋白质-药物相互作用,Folding@home - 2.4 EFLOPS(志愿者)。
🧠
人工智能
中新元
学习大型语言模式(GPT、LLAMA)需要数千个通用语言单元和数周计算。
🔬
物理和化学
建模
量子化学、热核合成、核反应模拟、天体物理学
🎬
CGI和投标
电影业
Pixar品牌Weta Digital是数千个用于特殊效果的内核。
🔐
加密
安全安全
选择加密密钥、脆弱性分析、与第5章的联系(TLS、RSA)。
06
平行编制方案
如何为数千个内核( MPI 和 OpenMP) 写入程序: MP I 和Open MP
两种办法
技术 技术
内存类型
如何运作
OpenMP
共计共计共计共计
指令在代码中 (# pagma mp 平行) 。 在一个进程内流动。 只要给现有的代码添加平行内容 。
MPI
分发分发
组节点之间交换信件。 每个节点是一个单独的进程, 由数千个节点传播 。
CUDA / OpenCL
GPU
视频卡的平行计算 数千条流 SIMD结构
Gustafson 劳
与Amdal的法律不同
Gustafson 语
1988年表示,如果任务与内核数量成比例增加,加速度几乎是线性增长。
S(N) = N − (1 − p) × (N − 1)
实际意义:超级计算机决定
大型
这是一个问题,这不是加速。
Ambal 诉 Gustafson
安达尔。
* 任务已经固定,加速度有限。
Gustafson 语
:内核是固定的,使加速度的任务几乎线性地增加。
两者只是从不同的角度看待问题。