李實(shí)

作為業(yè)界百年巨頭，IBM的大中型電腦在銀行、金融等行業(yè)依舊有著不可小覷的地位和勢力，而這類產(chǎn)品的核心正是IBM自研的Power處理器。雖然Power處理器不是民用設(shè)計(jì)，離普通用戶很遠(yuǎn)，但是其強(qiáng)勁的性能和復(fù)雜的設(shè)計(jì)，也一直是其他廠商可望不可即的存在，在業(yè)內(nèi)也有著獨(dú)立的地位。在今年的HotChips年會(huì)上，IBM披露了全新Power 10處理器，并宣布它將在未來12個(gè)月內(nèi)開始銷售。那么，Power 10處理器都有怎樣的出色設(shè)計(jì)和強(qiáng)勁性能呢？今天本文就和大家一起來解讀一下這款處理器的設(shè)計(jì)和優(yōu)勢。

IBM在2020年8月17日的HotChips年會(huì)上詳細(xì)介紹了其最新的Power10處理器。作為目前非x86架構(gòu)中最強(qiáng)大的處理器之一，Power架構(gòu)和相關(guān)生態(tài)圈在金融、商業(yè)、醫(yī)療保健和政府行業(yè)中依舊有著不可替代的作用和地位。上一代Power 9發(fā)布于2017年，一經(jīng)發(fā)布就引發(fā)業(yè)界關(guān)注，Power 9擁有最多24核心96線程、全新的微架構(gòu)、OMI內(nèi)存、NVLink支持、PCIe 4.0支持等多項(xiàng)進(jìn)步，是當(dāng)時(shí)最強(qiáng)悍的企業(yè)級處理器之一。時(shí)過境遷，在經(jīng)過多年的研發(fā)后，IB M又推出了全新Power 10。這一次，憑借7nm工藝、再度升級的架構(gòu)以及大幅加強(qiáng)的AI算力，Power 10又將給業(yè)內(nèi)帶來深遠(yuǎn)的影響。

Power 10的發(fā)展歷史和設(shè)計(jì)理念

IBM在發(fā)布會(huì)上先回顧了IBM Power系列近幾代的發(fā)展歷史。首先從Power 7家族開始，Power 7和Power7+采用的是45n m和32n m工藝，進(jìn)行了多核優(yōu)化，最多8個(gè)核心32線程，支持eDRAM L3緩存。Power 7之后是Power 8，后者的工藝升級到了22nm，核心數(shù)量升級到了12核心，每個(gè)核心支持8線程SMT，12核心總計(jì)可以執(zhí)行96個(gè)線程。在互聯(lián)方面，Power 8支持PCIe 3.0和NVLink，還加入了OpenPOWER聯(lián)盟，從這一代開始，IBM開始開源Power處理器的部分特性以吸引全球相關(guān)業(yè)者基于Power處理器推出產(chǎn)品。離我們最近的一代是Power 9家族，采用14nm工藝，核心數(shù)量升級到了最多24個(gè)，線程數(shù)量最多高達(dá)96個(gè)，這也是當(dāng)前Power處理器家族的主力產(chǎn)品。

在2020年，Power 10終于正式上線。簡單來說，Power 10在單個(gè)系統(tǒng)中最多可以支持60個(gè)核心，每個(gè)插槽最多支持30個(gè)核心，每個(gè)核心可以根據(jù)配置情況的不同，支持SMT4或者SMT8，因此30個(gè)核心的處理器最多可以擁有240個(gè)線程。Power 10在處理器設(shè)計(jì)上采用了模塊化方案，處理器之間通過專用總線互聯(lián)。微架構(gòu)方面，Power 10使用的是新的CPU微架構(gòu)，整個(gè)處理器還增強(qiáng)了AI性能、提高了能耗比、增強(qiáng)了硬件安全特性、企業(yè)級性能等。通用互聯(lián)架構(gòu)方面，Power 10支持目前最先進(jìn)的PCIe 5.0技術(shù)，整體硬件架構(gòu)設(shè)計(jì)非常激進(jìn)。

在簡單介紹了IBM Power系列處理器發(fā)展的相關(guān)內(nèi)容后，IBM給出了設(shè)計(jì)Power 10的五大重點(diǎn)，這五大重點(diǎn)包括：

1.數(shù)據(jù)的帶寬、容量、可組合性和規(guī)模，Power 10系統(tǒng)將帶來TB/s的單個(gè)插槽數(shù)據(jù)帶寬，PB級別的系統(tǒng)存儲(chǔ)容量，每個(gè)集群最高擁有16個(gè)處理器插槽。

2.強(qiáng)大的企業(yè)級核心。Power 10擁有新的核心架構(gòu)，整體設(shè)計(jì)更為靈活，緩存更大且延遲更低。

3.端到端的安全功能。IBM提供了PowerVM管理程序，可以配合軟件協(xié)同實(shí)現(xiàn)對硬件的優(yōu)化。

4.能源效率的改進(jìn)。依靠全新工藝和架構(gòu)，Power 10的能效比是Power 9的三倍。

5.AI性能的增強(qiáng)。相比Power 9，Power 10在數(shù)學(xué)矩陣方面的性能達(dá)到了前者的10倍至20倍。

Power 10的宏觀結(jié)構(gòu)

IBM在處理器設(shè)計(jì)的相關(guān)信息披露上還是相當(dāng)積極的，發(fā)布會(huì)上展示了Power 10的大量新特性和晶元結(jié)構(gòu)圖?？梢钥吹?，一個(gè)完整的Power 10核心擁有16個(gè)CPU核心，每個(gè)CPU核心可執(zhí)行最多8個(gè)線程也就是SMT8，每個(gè)CPU核心L2緩存的容量為2MB，L3緩存容量為8MB。IBM在L3緩存的設(shè)計(jì)上分為2個(gè)區(qū)域，每個(gè)區(qū)域64MB，分配給每個(gè)CPU核心為8MB。在CPU核心和L3緩存的外圍，則布置了SMP、內(nèi)存、各類加速器、各種計(jì)算集群和PCI界面。再向外一層則是PowerAXON互聯(lián)界面和內(nèi)存控制器（OMi）部分。

IBM給出了有關(guān)Power 10功能特性的詳細(xì)表格。在工藝和封裝方面，Power 10采用的是三星7nm工藝，這也是該工藝首次應(yīng)用在規(guī)模如此巨大的核心上。值得一提的是，三星7nm工藝使用的是EUV光刻，這意味著三星已經(jīng)成熟掌握了EuV高世代光刻技術(shù)，并能夠開始量產(chǎn)如此復(fù)雜的CPU核心。Power 10處理器有180億晶體管，整體面積高達(dá)602平方毫米，擁有18個(gè)金屬層，配置方案為單核配置或者雙核配置。

在計(jì)算功能設(shè)計(jì)方面，Power 10處理器出于良率考慮，目前只開放了最多15個(gè)核心，再加上sMT8，因此單個(gè)Power 10處理器最多能實(shí)現(xiàn)120個(gè)線程。L3緩存方面，最多120HB容量，但是采用了低延遲和NuHA的設(shè)計(jì)方案。整個(gè)CPU設(shè)計(jì)還增強(qiáng)了企業(yè)級功能、AI和安全功能等。在性能方面，IBM提到Power 10的SIHD性能在普通情況下是Power 9的2倍，在矩陣計(jì)算中是Power 9的4倍。另外在L1緩存方面，Power 10的L1 MMU性能是Power 9的4倍。

內(nèi)存方面，Power 10設(shè)計(jì)了名為Open Memory Interface（開放性內(nèi)存系統(tǒng)，簡稱0MI）的系統(tǒng)，這個(gè)系統(tǒng)能夠支持各類不同的內(nèi)存，在配置DDR4的時(shí)候，其8通道內(nèi)存最多可以實(shí)現(xiàn)410GB/s的帶寬，但是在換用GDDR6的時(shí)候，帶寬會(huì)提升至800GB，s甚至更高。另外在0MI的支持下，Power 10支持存儲(chǔ)容量可高達(dá)2PB。

在外部互聯(lián)方面，IBM的PowerAXON互聯(lián)界面帶來了多核心之間的互聯(lián)功能，PowerAXON能夠提供高達(dá)1TB/s的互聯(lián)帶寬，并且還可以最多連接16個(gè)插槽或者設(shè)備，它也可以借助OpencAPI功能幫助系統(tǒng)連接更多的內(nèi)存、加速器或者I/O設(shè)備。

獨(dú)特的CPU配置方案和互聯(lián)系統(tǒng)

Power 10的CPU配置方案在業(yè)內(nèi)算得上是很獨(dú)特的。它目前有2種規(guī)格，其中一種是單核心方案，被稱為SCM，整個(gè)處理器包括15個(gè)核心和120個(gè)線程，運(yùn)行頻率高達(dá)4GHz，整個(gè)系統(tǒng)可以配置1個(gè)或者16個(gè)插槽（主機(jī)）。另一個(gè)方案是雙核心方案，在這種情況下，2個(gè)Power 10 CPU核心被封裝在一個(gè)基板上，被稱為DcM，形成了等效1204平方毫米、擁有360億晶體管的巨大核心。這個(gè)核心的最大CPU內(nèi)核數(shù)量為30個(gè)，線程數(shù)量為240，頻率方面相比單核心產(chǎn)品要稍微低一些，運(yùn)行頻率為3.5GHz，整個(gè)系統(tǒng)可以配置1個(gè)或4個(gè)插槽的方案。

接下來IBM重點(diǎn)介紹了Power 10的互聯(lián)系統(tǒng)。Power 10是通過PowerAXON和OMI在多個(gè)處理器之間組建互聯(lián)體系的。先來看PowerAXON，對SCM配置的Power 10處理器來說，PowerAXON互聯(lián)總線布置在CPU的4個(gè)角落，每個(gè)角落有32個(gè)總線通道，每個(gè)總線通道的帶寬是32GT/s，那么整個(gè)Power10能夠提供的PowerAXON互聯(lián)總線就是4×4×8×32GT/s=512GB/s。在互聯(lián)方面，每16個(gè)總線通道組成一個(gè)鏈接端子可以和外界進(jìn)行互聯(lián)，整個(gè)SCM配置的Power 10總計(jì)擁有8個(gè)通道，使用其中6個(gè)就可以和16個(gè)處理器實(shí)現(xiàn)高速互聯(lián)。

除了PowerAXON外，OHI也值得一提。整個(gè)Power 10的OMI總計(jì)有2個(gè)，分別分布在處理器的左右兩邊，每個(gè)OHI有8×8個(gè)32GT/s的通道，單個(gè)OMI可以實(shí)現(xiàn)256GB/s的連接，那么2個(gè)OMI就能實(shí)現(xiàn)512GB/s的連接。OHI除了連接內(nèi)存外，還可以連接SCH處理器。換句話來說，Power 10處理器的互聯(lián)包含了橫向的PowerAXON和縱向的OMI，最終可以利用處理器本身的互聯(lián)端口實(shí)現(xiàn)16個(gè)處理器的大規(guī)模互聯(lián)方案。

IBM還給出了Power 10在互聯(lián)方面的示意圖。其中SCM處理器之間的互聯(lián)可以通過PowerAXON和OHI完成，此外，OMI還留下了一部分空間用于連接內(nèi)存。前文提到過，每個(gè)OMI內(nèi)存連接能夠?yàn)槊總€(gè)處理器插槽提供高達(dá)4TB的內(nèi)存空間，搭配DDR4帶寬為410GB/s，其他還可以根據(jù)情況支持GDDR系列，以及存儲(chǔ)加密等功能。

除了上述內(nèi)容外，本次Power 10還借助PowerAXON帶來了內(nèi)存聚合功能。內(nèi)存初始化的時(shí)候可以將另一個(gè)節(jié)點(diǎn)的內(nèi)存映射為它自己的內(nèi)存，多個(gè)節(jié)點(diǎn)可以通過集群共享不同的內(nèi)存。借助這個(gè)功能，在節(jié)點(diǎn)中直接連接鄰居節(jié)點(diǎn)的內(nèi)存作為共享加載/存儲(chǔ)內(nèi)存。和其他方案不同的是，內(nèi)存可以作為低延遲的本地內(nèi)存使用或者作為NUHA延遲的遠(yuǎn)程內(nèi)存使用。IBM舉了一個(gè)例子，比如一個(gè)集群中有8個(gè)節(jié)點(diǎn)，每個(gè)節(jié)點(diǎn)都有8TB內(nèi)存，總計(jì)64TB內(nèi)存的話，工作負(fù)載A對延遲要求比較敏感，那么可以將本地的4TB內(nèi)存作為低延遲內(nèi)存使用，滿足自己的計(jì)算需求。工作負(fù)載B對延遲不敏感，但是需要大容量的話，可以借用其他空余內(nèi)存，實(shí)現(xiàn)24TB的容量。工作負(fù)載c需要一部分低延遲內(nèi)存和一部分大容量內(nèi)存，那么可以利用本地的8TB低延遲內(nèi)存搭配16TB高延遲內(nèi)存使用，這樣一來，對一個(gè)集群中存在的所有工作任務(wù)都可以根據(jù)需求將所有64TB內(nèi)存作為自己的內(nèi)存，再根據(jù)其他占用或者空閑情況進(jìn)行調(diào)配，大大提高內(nèi)存使用的靈活性和效率。

IBH提到，目前內(nèi)存聚合功能可能不僅僅是單個(gè)集群中多個(gè)節(jié)點(diǎn)之間的內(nèi)存容量聚合，還涉及集群之間的內(nèi)存容量聚合，甚至可以建立專用的內(nèi)存服務(wù)器，和無內(nèi)存節(jié)點(diǎn)之間共享使用，非常方便。

互聯(lián)性能方面，從IBM給出的數(shù)據(jù)顯示，Power 10的內(nèi)存性能在各個(gè)情況下都是Power 9系統(tǒng)的3倍以上，在使用DDR5 OMI內(nèi)存的時(shí)候，性能甚至可以達(dá)到Power 9的4倍以上，提升幅度令人驚訝。

POWer 10的CPU內(nèi)核：面向企業(yè)級計(jì)算和AI優(yōu)化

由于Power 10的定位是面向企業(yè)和政府等行業(yè)用戶，因此其在設(shè)計(jì)方面自然也針對企業(yè)級計(jì)算進(jìn)行了大量優(yōu)化。IBM給出了一些數(shù)據(jù)，比如Power 10的整體性能相比Power 9增加了30%，單核心性能增加了20%，性能功耗比相比Power 9處理器每核心達(dá)到了2.6倍，每個(gè)插槽達(dá)到了3倍之多。

在AI優(yōu)化方面，Power 10的核心加入了全新設(shè)計(jì)的4倍SIMD矩陣核心、2倍SIMD普通核心、新的ISA Prefix融合、增強(qiáng)的控制和分支單元、2倍的讀取單元、4倍的MMU以及4倍的L2緩存設(shè)計(jì)。由于整體計(jì)算規(guī)模大幅度增加，因此Power 10的AI計(jì)算性能相比之前的產(chǎn)品有了相當(dāng)顯著的提升。

Power 10在架構(gòu)方面做出了很多優(yōu)化，IBM列出了最重要的四條內(nèi)容。其中第一條是Prefix架構(gòu)，這個(gè)新架構(gòu)極大地?cái)U(kuò)展了操作碼空間、并行尋址、MHA掩蔽等操作的性能。第二條是新的指令和數(shù)據(jù)格式，這個(gè)內(nèi)容主要是加入了用于控制流和操作對稱的新標(biāo)量指令以及用于提升AI操作吞吐量和數(shù)據(jù)的新指令。第三是高級系統(tǒng)功能和易用性改善，包括存儲(chǔ)控制、debug、內(nèi)存的冷頁面和熱頁面追蹤、復(fù)制粘貼的擴(kuò)展等。第四是動(dòng)態(tài)的能源管理，第五則是安全的云數(shù)據(jù)和云計(jì)算功能等。

最后再來看看Power 10的內(nèi)核。IBM給出了一張簡圖用于描述Power 10的內(nèi)核設(shè)計(jì)。從這個(gè)內(nèi)核設(shè)計(jì)可以看出，Power 10分為性能和功耗兩個(gè)部分，其中前者包含了所有的性能增強(qiáng)，后者包含了一些功耗方面的控制。性能增強(qiáng)部分本文之前已有介紹，包括增加的SIMD、更大的緩存、更低的延遲、更出色的分支預(yù)測技術(shù)等。后者則主要包括工藝提升、時(shí)鐘門控電路提升、架構(gòu)設(shè)計(jì)的優(yōu)化、減少的端口和訪問等。在架構(gòu)方面，IBM也給出了一些簡略信息。處理器的前端設(shè)計(jì)除了常規(guī)部分外，IBM還提到了LI指令緩存采用748KB、6路方案，執(zhí)行部分包括4個(gè)執(zhí)行區(qū)塊，每個(gè)都是128bit的規(guī)格，另外還加入了一個(gè)2×512bit的MMA也就是SIMD向量引擎和矩陣數(shù)學(xué)輔助加速單元，這是Power 10處理器計(jì)算性能最強(qiáng)大的部分。其余的部分包括：Load排序采用了SMT模式下128隊(duì)列、ST模式下64隊(duì)列的設(shè)計(jì)，Load失誤部分采用12個(gè)隊(duì)列的設(shè)計(jì)、指令拾取部分則是16個(gè)并行的模式等?？偟膩碚f，就現(xiàn)有的消息來看，Power 10的內(nèi)核整體設(shè)計(jì)延續(xù)了之前Power 9的優(yōu)勢，但是在很多地方做出了加強(qiáng)，尤其是在計(jì)算能力和方面等。最終IBM給出了一個(gè)算法，Power 10能夠在性能是Power 9 1.3倍的基礎(chǔ)上，功耗降低至Power 9的0.5倍，因此最終Power 10的能耗比相比Power 9提升了2.6倍，令人稱贊。

余威猶在的Power家族

IBM的Power家族和相關(guān)處理器產(chǎn)品已經(jīng)伴隨整個(gè)業(yè)界許多年，在英特爾突飛猛進(jìn)、AMD攻城略地甚至英偉達(dá)都進(jìn)積極進(jìn)入更多市場的今天，IBM的Power系列處理器看起來似乎“人淡如菊”，相當(dāng)?shù)驼{(diào)。不過，低調(diào)歸低調(diào)，Power系列處理器由于面向的市場和傳統(tǒng)市場完全不同，更加偏向穩(wěn)定以及追求安全性的企業(yè)、金融、政府市場，因此數(shù)據(jù)互聯(lián)能力、整個(gè)處理器的穩(wěn)定和持續(xù)工作能力反而更為重要，這也是IBM在Power 10中進(jìn)一步提升數(shù)據(jù)互聯(lián)性能的原因。另外，在AI計(jì)算大行其道的現(xiàn)在，有關(guān)AI計(jì)算的加速也在Power 10中得到了體現(xiàn)。從Power 10的整個(gè)處理器架構(gòu)來看，毫不夸張地說，這幾乎是目前最龐大、最復(fù)雜和具有最多先進(jìn)功能的高性能處理器產(chǎn)品。現(xiàn)在的IBM雖然遠(yuǎn)沒有巔峰時(shí)期那么強(qiáng)大，但是“余威猶在”四個(gè)字用來形容它非常恰當(dāng)，很多行業(yè)依舊無法離開IBM，Power 10的未來也讓人看好。