如果說X86CPU鑄就了英特爾輝煌的過去，那IPU則成為英特爾打開未來世界的鑰匙。

英特爾宣布推出基礎(chǔ)設(shè)施處理器

日前，在Six Five峰會上，英特爾公布了其對基礎(chǔ)設(shè)施處理器（IPU）的愿景。IPU是一種可編程網(wǎng)絡(luò)設(shè)備，旨在使云和通信服務提供商減少在中央處理器（CPU）方面的開銷，并充分釋放性能價值。利用IPU，客戶能夠部署安全穩(wěn)定且可編程的解決方案，從而更好地利用資源，平衡數(shù)據(jù)處理與存儲的工作負載。

英特爾數(shù)據(jù)平臺事業(yè)部首席技術(shù)官Guido Appenzeller表示“IPU是一種全新的技術(shù)類別，是英特爾云戰(zhàn)略的重要支柱之一。它擴展了我們的智能網(wǎng)卡功能，旨在應對當下復雜的數(shù)據(jù)中心，并提升效率。在英特爾，我們致力于攜手客戶及合作伙伴構(gòu)建解決方案、創(chuàng)造新型技術(shù)，而IPU就是這種合作的典范?！?/p>

在物聯(lián)網(wǎng)時代，我們已經(jīng)看到了太多以“xPU”命名的處理器，無論是英偉達的DPU還是谷歌的NPU與TPU，作為處理器領(lǐng)域的領(lǐng)軍者，英特爾這樣一次推出的IPU又劍指何處、會為市場帶來怎樣的改變呢？

劍指數(shù)據(jù)中心

在具體解析英特爾IPU技術(shù)路線及各項規(guī)格以前，不妨從其市場定位入手，進而對IPU形成一個整體認知。

按照英特爾官方的介紹，推出面向基礎(chǔ)設(shè)施應用的IPU處理器是為了滿足數(shù)據(jù)中心和云服務提供商的最新需求。據(jù)悉，IPU全稱為“Infrastructure Processing Unit”，官方描述為一種可編程網(wǎng)絡(luò)設(shè)備，旨在幫助云與通信服務提供商減少相關(guān)任務對中央處理器（CPU）的資源開銷需求，并進一步釋放相關(guān)平臺的性能潛力。

X86時代，英特爾原本在數(shù)據(jù)中心市場擁有絕對的話語權(quán)，但隨著5G、AI、云計算等新興技術(shù)的崛起以及數(shù)據(jù)中心自身技術(shù)的更迭和應用的變化，大量ASIC芯片、FPGA芯片逐步滲透進入市場，大有動搖英特爾在數(shù)據(jù)中心市場地位的態(tài)勢。

面對市場的變化，英特爾這一次選擇了積極擁抱改變1PU處理一經(jīng)亮相，很多人就直接將其放到了DPU處理器“死對頭”的位置，極為相似的市場定位也預示著數(shù)據(jù)中心即將迎來一輪“芯”的戰(zhàn)役。當然，除了相似的市場定位，英特爾IPU在功能設(shè)計和產(chǎn)品性能上卻明顯具備后動優(yōu)勢，其產(chǎn)品設(shè)計明顯能更好地滿足數(shù)據(jù)中心、云計算領(lǐng)域應用需求的變化。

揭開IPU神秘面紗

了解了IPU市場定位和“潛在”競爭對手后，我們再回過頭來看IPU的工作原理。

在英特爾官方的描述中，基礎(chǔ)設(shè)施處理器（IPU）是一種網(wǎng)絡(luò)設(shè)備，可將CPU或xPU連接到網(wǎng)絡(luò)，加速主機基礎(chǔ)設(shè)施功能，并適用于現(xiàn)有和新興基礎(chǔ)設(shè)施用例，包括安全性、虛擬化、存儲、負載平衡，以及虛擬網(wǎng)絡(luò)功能和微服務的數(shù)據(jù)路徑優(yōu)化。IPU增強了基礎(chǔ)NIC 中豐富的以太網(wǎng)網(wǎng)絡(luò)功能，通過高度優(yōu)化的硬件加速器和緊密耦合的計算引擎的組合處理任務來實現(xiàn)加速。適應性是通過標準且易于使用的編程框架實現(xiàn)的，該框架結(jié)合了硬件和軟件功能。

通俗來講，IPU（基礎(chǔ)設(shè)施處理器）是一個網(wǎng)絡(luò)設(shè)備，可以安全地加速和管理數(shù)據(jù)中心的基礎(chǔ)設(shè)施功能與可編程硬件。

IPU可以提供的能力包括：

·通過專用協(xié)議加速器來加速基礎(chǔ)設(shè)施功能，包括存儲虛擬化、網(wǎng)絡(luò)虛擬化和安全。

·通過把軟件中的存儲和網(wǎng)絡(luò)虛擬化功能從CPU轉(zhuǎn)移到IPU，從而釋放CPU核心。

·允許靈活的工作負載分配，提高數(shù)據(jù)中心利用率。

了解IPU的工作原理和能力后會發(fā)現(xiàn)，英特爾IPU在“釋放CPU核心”“智能網(wǎng)絡(luò)”等應用方向上同當下DPU甚至英特爾自己的SmartNIC的確有很多相似之處，而進一步的對比，則讓我們更好地了解IPU。

SmartNIC的進階產(chǎn)物

大數(shù)據(jù)、云計算等新興技術(shù)的崛起，對IT基建提出新的需求，由此也拉開了網(wǎng)絡(luò)“芯”基建的序幕，而在IPU以前，英特爾N3000SmartNIC等經(jīng)典產(chǎn)品便一直是市場上的人氣網(wǎng)紅。以往，普通NIC定位于高效遷移服務器的網(wǎng)絡(luò)數(shù)據(jù)包，通常包括不同程度的為優(yōu)化性能而設(shè)計的傳統(tǒng)卸載。SmartNIC整合了多方面的附加計算資源，但是這些架構(gòu)就像雪花一樣各不相同，英特爾的FPGA具有115萬個可編程邏輯元件和兩組4GB DDR4存儲器，每組都有足夠的空間來處理SmartNIC任務，例如：

·虛擬寬帶網(wǎng)絡(luò)網(wǎng)關(guān)（vBNG）

·分層服務質(zhì)量（HQoS）

·數(shù)據(jù)包分類、管制、調(diào)度和成形

·虛擬化演進分組核心（vEPC）

·5G下一代核心網(wǎng)絡(luò)（NGCN）

·互聯(lián)網(wǎng)協(xié)議安全（IPSec）

·IPv6的分段路由（SRv6）

·矢量數(shù)據(jù)包處理（VPP）

·虛擬無線電接入網(wǎng)（vRAN）

英特爾已針對N3000平臺實現(xiàn)了上述工作負載，從英特爾N3000SmartNIC我們也可以看出，SmartNIC的主要目的是安全地加速網(wǎng)絡(luò)和存儲基礎(chǔ)設(shè)施，而IPU是SmartNIC的進化。除了通過專門的協(xié)議加速器安全地加速存儲和網(wǎng)絡(luò)虛擬化之外，IPU將成為云或通信服務提供商管理系統(tǒng)級基礎(chǔ)設(shè)施資源的控制點，以最大限度地減少資源的滯留或過度使用。

此外，我們需要注意的是基礎(chǔ)NIC雖然能夠承受以太網(wǎng)密集的工作負載，但是是不可編程的，而可編程恰恰是英特爾IPU的一大特色。

后動優(yōu)勢明顯的IPU

初步了解IPU后，很多人腦海里都會浮現(xiàn)“數(shù)據(jù)處理單元（DPU）”的形象，的確，從市場定位到產(chǎn)品功能，英特爾IPU同DPU有很多相似之處，在英特爾IPU面世以前，NVIDIA、Marvell、Broadcom、VMware等其他網(wǎng)絡(luò)硬件制造企業(yè)就已經(jīng)推出過多代DPU產(chǎn)品了。

DPU的出現(xiàn)，源于CPU面對超大規(guī)模數(shù)據(jù)處理的需求，當CPU算力出現(xiàn)瓶頸且無法在執(zhí)行數(shù)據(jù)中心敏感任務的同時不可能給更多任務單獨分配加速卡，DPU就能在這個時候率先完成基礎(chǔ)的工作任務，構(gòu)建強大的基礎(chǔ)設(shè)施層，讓上層的CPU和GPU來完成其他更有價值的工作。

DPU是一種新型的可編程處理器，DPU是一種片上系統(tǒng)或SoC，它結(jié)合了3個關(guān)鍵因素：（1）行業(yè)標準、高性能、軟件可編程的多核CPU，通?；趶V泛使用的Arm架構(gòu)，與其他SoC組件緊密耦合。（2）一種高性能網(wǎng)絡(luò)接口，能夠以線速或網(wǎng)絡(luò)其余部分的速度解析、處理和有效地將數(shù)據(jù)傳輸?shù)紾PU和CPU。（3）一組豐富的靈活可編程加速引擎，可為AI和機器學習、安全、電信和存儲等卸載并提高應用程序性能

從這個角度看，DPU在數(shù)據(jù)中心領(lǐng)域已經(jīng)算是相當不錯的存在，奈何英特爾多年來一直與超大規(guī)模云服務提供商合作，并了解正在加速的功能。IPU 基礎(chǔ)設(shè)施處理器作為基礎(chǔ)設(shè)施提供者的控制點，更好地抓住了這些功能的本質(zhì)。谷歌和Facebook都發(fā)表了論文，討論與管理微服務的開銷相關(guān)的“數(shù)據(jù)中心稅”，IPU用于加速基礎(chǔ)設(shè)施功能，能更準確地實現(xiàn)如網(wǎng)絡(luò)虛擬化、存儲虛擬化、安全隔離和提供信任根。

而“數(shù)據(jù)處理單元（DPU）”是一個非常概括性的術(shù)語，因為所有處理器都在處理數(shù)據(jù)，所以這個名稱并不提供任何實際的信息。市面上有許多xPU，根據(jù)工作負載的不同，處理“數(shù)據(jù)”的合適的xPU可能是GPU、CPU、FPGA或ASIC。當然，不少人會將IPU對DPU的優(yōu)勢理解為后動優(yōu)勢帶來的好處，可實際上，英特爾早已是全球最大的DPU供應商了，IPU的出現(xiàn)，更像是自身生態(tài)的延伸和產(chǎn)品的自然更迭。

全球最大的DPU供應商

DPU本身是一個很“泛”且有些模糊的概念，丹霞DPU由Fungible、Nvidia、Pensando和Nebulon等供應商從特定的CPU芯片、FPGA和/或ASIC構(gòu)建而成。這是一個快速發(fā)展的領(lǐng)域，設(shè)備類型包括原位處理器、智能網(wǎng)卡、服務器卸載卡、存儲處理器、組合集線器和組件。

英特爾執(zhí)行副總裁兼數(shù)據(jù)平臺事業(yè)部總經(jīng)理Navin Shenoy在六五峰會上表示，英特爾已經(jīng)開發(fā)并銷售了它所謂的基礎(chǔ)設(shè)施處理單元（IPU）——其他人都稱之為DPU。英特爾設(shè)計它們的目的是讓超大規(guī)?？蛻裟軌驕p少服務器CPU開銷并釋放周期，讓應用程序運行得更快。

英特爾數(shù)據(jù)平臺集團首席技術(shù)官Guido Appenzeller在一份聲明中表示：“IPU是一種新型技術(shù)，是我們云戰(zhàn)略的戰(zhàn)略支柱之一。它擴展了我們的SmartNIC功能，旨在解決現(xiàn)代數(shù)據(jù)中心的復雜性和低效率問題?！?/p>

Guido Appenzeller表示，IPU使客戶能夠平衡處理和存儲，而英特爾的系統(tǒng)具有專用功能來加速使用基于微服務的架構(gòu)構(gòu)建的應用程序。這是因為英特爾表示，微服務間通信可以占用主機服務器CPU周期的22%到80%。

英特爾數(shù)據(jù)平臺事業(yè)部副總裁兼以太網(wǎng)產(chǎn)品事業(yè)部總經(jīng)理Patty Kummrow提出了這樣的想法：“由于英特爾與大多數(shù)超大規(guī)模廠商的合作，英特爾已經(jīng)憑借Xeon-D、FPGA 和以太網(wǎng)組件成為IPU市場的銷量領(lǐng)先者。英特爾第一個基于FPGA的IPU平臺部署在多個云服務提供商，我們的第一個ASIC IPU正在測試中。”

快速增長的算力

據(jù)IDC統(tǒng)計，近10年來全球算力增長明顯滯后于數(shù)據(jù)增長。全球算力的需求每3.5個月就會翻一倍，遠遠超過了當前算力的增長速度。而算力源于芯片，業(yè)內(nèi)人士預測，DPU將成為繼CPU和GPU之后重要的算力芯片。

面對龐大的數(shù)據(jù)，CPU需要“幫手”完成基礎(chǔ)數(shù)據(jù)的處理，而IPU則很好地扮演了這個角色，未來所有的服務器都會配備1-2塊IPU卡”。IPU作為算力新型基礎(chǔ)設(shè)施中的新物種，將在數(shù)據(jù)傳輸、存儲、運算等方面扮演越來越重要的角色，算力時代IPU可以讓不可能成為可能。

而隨著5G應用的落地，萬物互聯(lián)時代的到來，邊緣數(shù)據(jù)中心的崛起則會給數(shù)據(jù)中心產(chǎn)業(yè)發(fā)展帶來全新的變化。

以最新數(shù)據(jù)為例，截至3月底，全國已經(jīng)建成5G基站近20萬個。伴隨著三大運營商5G集采產(chǎn)品的落地與交付，中國將建成全球規(guī)模最大、覆蓋最廣也最為領(lǐng)先的5G網(wǎng)絡(luò)，隨之而來的像智慧交通、新零售、自動駕駛、工業(yè)互聯(lián)網(wǎng)等邊緣應用場景的大量誕生，以及大量物聯(lián)網(wǎng)設(shè)備入網(wǎng)和更大規(guī)模海量數(shù)據(jù)的誕生、流動與應用，這無疑將驅(qū)動著邊緣數(shù)據(jù)中心的大量誕生。

超大規(guī)模數(shù)據(jù)中心更像是核心交通樞紐，而各色各樣的邊緣數(shù)據(jù)中心就像一個個星羅棋布的小樞紐，不僅需要適應各種運行環(huán)境，還對設(shè)備功耗、成本、空間、軟硬件集成與優(yōu)化、自動化部署與運維有著極高要求。

除了滿足邊緣計算需求外，IPU本身更可通過AI學習實現(xiàn)部分數(shù)據(jù)的處理，為CPU核心減負的同時，提升整個網(wǎng)絡(luò)數(shù)據(jù)處理效率。

數(shù)據(jù)中心的效率悖論

在19世紀后期，一位名叫威廉·斯坦利·杰文斯的經(jīng)濟學家觀察到，提高煤炭使用效率的技術(shù)進步最終導致了廣泛行業(yè)的煤炭消耗量增加，這被認為是一個悖論，因為人們在當時通常將效率與使用量的減少聯(lián)系起來，而實際上恰恰相反，更高的效率會導致更低的成本，并創(chuàng)造更多的使用量。當然，這也適用于技術(shù)行業(yè)，以數(shù)據(jù)中心行業(yè)為例，自90年代推出標準大容量服務器以來，服務器市場不斷增長，直到2000年代初，在那個時間段內(nèi)我們看到了虛擬化的發(fā)明，vmware為x86服務器創(chuàng)建了這個概念，它們通過將更多機器虛擬化到一臺機器上來，使IT專業(yè)人員能夠更好地利用物理資源，這當然有助于減少停機時間，并提高控制和安全性。

但業(yè)內(nèi)一些人開始懷疑服務器市場是否處于高峰期，事實上，當你看到這張圖表時，你可以看到市場確實開始停滯不前，這部分是因為互聯(lián)網(wǎng)泡沫破滅，但這也是因為隨著服務器的虛擬化，IT部門不需要購買那么多的服務器，所以效率和利用率提高了，在一段時間內(nèi)我們確實看到了消費減少，但杰文斯的悖論最終成立——效率提高導致為了更多的消費。

AWS、Azure等服務商的崛起，通過軟件和算法使得硬件計算效率更高，但數(shù)字時代各行各業(yè)大規(guī)模增長導致工作負載越來越多樣化，數(shù)據(jù)中心越來越大，這給底層基礎(chǔ)設(shè)施帶來了壓力。

今時今日，集中式數(shù)據(jù)中心已經(jīng)難以滿足差異化計算需求，海量碎片化數(shù)據(jù)極大降低了集中式數(shù)據(jù)中心效率，而軟件行業(yè)率先針對這類問題進行了調(diào)整。應用程序被分解為更小的面向服務的組件，這些組件在稱為微服務的容器中運行。每個微服務本身都包含自己的負載均衡器，它們高度分散，具有分解的架構(gòu)。這種方法的好處包括更容易從軟件崩潰中恢復。當容器中的一個函數(shù)失敗時，它的工作負載可以重定向到不同的容器或微服務繼續(xù)運行，對整體服務的影響很小，或者如果單個微服務對資源的需求很大，系統(tǒng)可以適當?shù)卣埱蟾鄤討B(tài)自動增加計算資源內(nèi)存，以支持該特定微服務，因此所有這些高度復雜的可擴展和高性能微服務都要求并產(chǎn)生對高效編排的需求。這些服務需要以有效的方式轉(zhuǎn)移。

以Facebook為例，人們?nèi)粘ｊP(guān)心的各種工作負載的大部分計算實際上都用于日常工作負載，例如移動內(nèi)存或散列和壓縮。從前，IT技術(shù)人員認為數(shù)據(jù)中心主要工作負載在通用處理器上運行，而上面的例子意味著人們以前看待計算的方式其實只是云中整體計算的一部分而已。這張圖的深色部分（application logic）占手頭整體任務的比例較小而這張圖的淺色部分（orchestration）則占較大比例，顯然必須解決這個“稅收”問題。

為了解決這個以及這類問題，人們需要硬件解決方案作為整個云基礎(chǔ)設(shè)施的控制點，以加速日常工作負載，也就是基礎(chǔ)設(shè)施功能。在這樣的行業(yè)大背景和企業(yè)剛需推動下，英特爾IPU本身可以理解成應運而生的產(chǎn)物。

快速落地的IPU

憑借在數(shù)據(jù)中心領(lǐng)域多年的耕耘與積淀，深諳數(shù)據(jù)中心企業(yè)需求并洞察行業(yè)發(fā)展的英特爾1PU產(chǎn)品從設(shè)計、生產(chǎn)到推出，每一步都能看到合作伙伴的身影。當前基于Intel FPGA的IPU已經(jīng)導入多個云端服務商目前也著手測試第一款采用ASIC的IPU產(chǎn)品;Intel也強調(diào)接下來將會推出更多基于FPGA的IPU與專用ASIC，為新世代資料中心帶來更具彈性、安全與效率的XPU架構(gòu)。

百度主任系統(tǒng)架構(gòu)師王雁鵬表示：“百度和英特爾在IPU領(lǐng)域展開全面合作，基于英特爾的IPU解決方案，百度自研智能網(wǎng)卡實現(xiàn)裸金屬、虛機、容器多種算力在網(wǎng)絡(luò)和存儲功能的全面卸載和統(tǒng)一，極大地賦能了百度云主機產(chǎn)品?！倍雀韬虵acebook 的研究表明，微服務通信開銷可消耗22%到80%的CPU性能。

讓客戶參與進來，使得IPU能更貼合終端市場需求，在量化生產(chǎn)的同時，滿足個性差異化需求，進而贏得未來的數(shù)據(jù)中心市場。

成長中的IPU生態(tài)

英特爾在數(shù)據(jù)中心領(lǐng)域多年來的積淀，讓IPU一經(jīng)推出就得到眾多合作伙伴的鼎力支持，一系列適用于企業(yè)和云、網(wǎng)絡(luò)的IPU案例和解決方案快速在終端市場展開，有力推動了IPU生態(tài)的成長。

Silicom FPGA IPU N5010作為首款硬件可編程4x100GE FPGA加速IPU適配器，具有適用于5G核心（UPF）等的性能和規(guī)模;Inventec FPGA IPU C5020X則是基于FPGA的IPU，采用英特爾?至強?D SoC實現(xiàn)硬件可編程數(shù)據(jù)路徑并提高內(nèi)核利用率——基于面向云的英特爾?FPGA IPU 15000X-PL平臺。

而在適用于企業(yè)和云的IPU陣營，使用英特爾?FPGA實現(xiàn)數(shù)據(jù)中心加速面向云服務提供商的采用英特爾?FPGA的IPU有助于充分利用網(wǎng)絡(luò)功能并幫助提高基礎(chǔ)設(shè)施投資的收入;英特爾?IPU為VMware下一代基礎(chǔ)架構(gòu)提供動力英特爾技術(shù)使VMware能夠為客戶提供對虛擬機、容器和裸機環(huán)境的統(tǒng)一管理;Monterey項目則重新定義混合云架構(gòu)，英特爾?IPU創(chuàng)新為邊緣節(jié)點、網(wǎng)絡(luò)基礎(chǔ)設(shè)施和數(shù)據(jù)中心計算提供了更高的性能。

此外，在網(wǎng)絡(luò)IPU領(lǐng)域，用于電信的英特爾?IPU基于英特爾?FPGA的IPU可以幫助優(yōu)化融合無線有線網(wǎng)絡(luò)的效率和性能;FPGA虛擬化無線電接入網(wǎng)絡(luò)（vRAN）則借助英特爾廣泛的網(wǎng)絡(luò)加速器產(chǎn)品組合，結(jié)合Altiostar的5G就緒開放虛擬化無線電接入網(wǎng)絡(luò)（Open vRAN）軟件解決方案，解鎖新用例并提高網(wǎng)絡(luò)效率;英特爾、Kaloom創(chuàng)建P4可編程網(wǎng)絡(luò)解決方案采用P4編程語言和英特爾?Tofino系列以太網(wǎng)交換機ASIC的高級網(wǎng)絡(luò)系統(tǒng)。

再造一個英特爾

大眾對于英特爾的認知源于個人消費市場的CPU產(chǎn)品，可創(chuàng)立于1968年的英特爾本身是一家半導體行業(yè)和計算創(chuàng)新領(lǐng)域的全球領(lǐng)先廠商，如今，英特爾正轉(zhuǎn)型為一家以數(shù)據(jù)為中心的公司。英特爾與合作伙伴一起，推動人工智能、5G、智能邊緣等轉(zhuǎn)折性技術(shù)的創(chuàng)新和應用突破，驅(qū)動智能互聯(lián)世界。

英特爾的轉(zhuǎn)型并非愿景或期許，其產(chǎn)品研發(fā)及市場策略一直圍繞這個目標進行調(diào)整，而從終端市場數(shù)據(jù)看，英特爾這些年的重心轉(zhuǎn)移更為明顯。2019年Q4英特爾的數(shù)據(jù)中心業(yè)務超越PC業(yè)務，成為其收入的主要來源;而在2020年，英特爾對其技術(shù)組織和執(zhí)行團隊的重組，也被外界視為全面轉(zhuǎn)型數(shù)據(jù)中心業(yè)務的開始。數(shù)據(jù)中心業(yè)務對于英特爾來說，也正在成為其最核心的業(yè)務組成。

IPU不僅是英特爾數(shù)據(jù)中心戰(zhàn)略極為重要的組成部分，不斷演進的數(shù)據(jù)中心更需要一個全新的智能架構(gòu)。這一架構(gòu)內(nèi)，大規(guī)模分布式異構(gòu)計算能夠協(xié)同工作，無縫連接，形成一個獨立的計算平臺。這種新架構(gòu)將有助于解決當今資源擱淺、數(shù)據(jù)流擁堵和平臺安全不兼容的挑戰(zhàn)。這種智能數(shù)據(jù)中心架構(gòu)將擁有三類計算單元——用于通用計算的CPU、用于特定應用或特定工作負載加速的XPU以及用于基礎(chǔ)設(shè)施加速的IPU——它們將通過可編程網(wǎng)絡(luò)相互連接，從而有效利用數(shù)據(jù)中心資源。

寫在最后：

DPU領(lǐng)域沒有基準，因此比較不同供應商之間的性能將很困難，而每家企業(yè)都想爭奪DPU市場話語權(quán)，讓整個DPU市場變得混亂，可由英特爾主導的IPU市場就大不一樣了，除英特爾會推出IPU產(chǎn)品外，更將生產(chǎn)更多基于FPGA的IPU平臺和專用ASIC，他們將伴隨一個軟件基礎(chǔ)來幫助客戶開發(fā)云編排軟件，為用戶提供周全服務的同時，也為IPU產(chǎn)品及應用打造了龐大的生態(tài)，并憑借生態(tài)力量，掌控未來數(shù)字世代的話語權(quán)。