AIPerf500全稱國際人工智能算力AIPerf500排行榜,是一個面向全球超級計算機,評估AI計算性能的排行榜。它由中國科學院計算技術研究所研究員張雲泉、清華大學教授陳文光、阿爾貢國家實驗室研究員帕萬·巴拉吉(Pavan Balaji)和蘇黎世聯邦理工學院教授托斯頓·赫夫勒,從2020年起開始發佈。最早的AIPerf榜採用經典卷積模型來評價智能算力的訓練性能,後來推出的AIPerf-LLM榜則採用大語言模型來評價智能算力的訓練性能,2024年又新增了AIPerf-Inference榜來評價智能算力的推理性能。[1]
TOP500等榜單通常使用雙精度浮點數(64位)運算來評測機器的運算性能,[2]而AI訓練主要要求的則是單精度浮點數(32位)和16位浮點數的運算性能,推理則主要要求8位整數的運算性能,[3]這便是AIPerf500誕生的背景。用戶可以在其官方網站下載其評分程序,並上傳評分結果。[4]榜單雖然是面向國際的,不過截至2022年,上報結果的機器仍以中國國內為主。[5]
2024年AIPerf500排行榜前10名[6]
排名 |
系統 |
AIPerf分數(TOPS[注 1]) |
地點 |
製造商 |
節點數 |
內存(TB)
|
1 |
鵬城雲腦II |
194,527.50 |
鵬城實驗室 |
鵬城實驗室 |
512 |
|
2 |
某主機系統 |
100,168.41 |
北京超級雲計算中心 |
北京北龍超級雲計算 |
878 |
439
|
3 |
某主機系統 |
82,088.79 |
北京超級雲計算中心 |
北京北龍超級雲計算 |
276 |
176
|
4 |
某主機系統 |
64,098.16 |
北京超級雲計算中心 |
北京北龍超級雲計算 |
246 |
246
|
5 |
某主機系統 |
55,543.06 |
北京超級雲計算中心 |
北京北龍超級雲計算 |
207 |
|
6 |
神威MPP |
53,704.50 |
某超級計算中心 |
某超級計算中心 |
|
|
7 |
2100IG集群 |
16,361.28 |
某視頻公司 |
LTHPC |
276 |
|
8 |
某主機系統 |
14,909.25 |
CASDAO蘇州 |
CASDAO |
50 |
|
9 |
4800IG集群 |
14,220.42 |
某視頻公司 |
LTHPC |
295 |
|
10 |
4800IG集群 |
10,360.00 |
某技術公司 |
LTHPC |
70 |
|
2024年AIPerf-LLM排行榜前10名[6]
排名 |
地點 |
AIPerf分數(TOPS) |
製造商 |
節點數 |
內存(TB)
|
1 |
北京超級雲計算中心 |
303,784.42 |
北京北龍超級雲計算 |
246 |
246
|
2 |
復旦大學 |
208,300 |
阿里雲 |
150 |
150
|
3 |
北京超級雲計算中心 |
190,204.19 |
北京北龍超級雲計算 |
276 |
176
|
4 |
CASDAO蘇州 |
138,862 |
CASDAO |
32 |
64
|
5 |
北京超級雲計算中心 |
122,900 |
北京北龍超級雲計算 |
207 |
207
|
6 |
北京超級雲計算中心 |
78,769.70 |
北京北龍超級雲計算 |
878 |
439
|
7 |
北京師範大學 |
18,842 |
英偉達 |
19 |
38
|
8 |
某技術公司 |
17,740.80 |
華為 |
16 |
2
|
9 |
WQ與中國科學院大學研究院智能計算中心 |
15,425 |
寧暢信息 |
16 |
32
|
10 |
清華大學 |
753 |
英偉達 |
1 |
0.5
|
2024年AIPerf-Inference延遲榜前10名[6]
排名 |
地點 |
AIPerf分數(TOPS) |
製造商 |
節點數
|
1 |
北京超級雲計算中心 |
0.36 |
北京北龍超級雲計算 |
4
|
2 |
LTHPC |
0.46 |
LTHPC |
6
|
3 |
中國人民大學 |
0.50 |
英偉達 |
2
|
4 |
上海交通大學 |
0.52 |
英偉達 |
4
|
5 |
天津Tier |
0.53 |
天津Tier |
1
|
6 |
清華大學 |
0.64 |
英偉達 |
4
|
7 |
HPC+AI團隊(ICT) |
0.69 |
英偉達 |
1
|
8 |
天津Tier |
0.75 |
天津Tier |
1
|
9 |
西安電子科技大學 |
0.77 |
英偉達 |
1
|
10 |
某技術公司 |
0.91 |
華為 |
1
|
- ^ Tera Operations Per Sencond,意為每秒操作數,以太拉計,也即T、太、萬億或1012。