王瑩
不久前,賽靈思推出了Vitis統(tǒng)一軟件平臺,并宣布其重要組件vitis AI開放下載,使人工智能(AI)和機器學習開發(fā)者可利用賽靈思的高性能自適應計算平臺的加速度。一家硬件平臺公司,為何重磅推出軟件平臺?為此,電子產(chǎn)品世界等媒體采訪了賽靈思軟件與AI產(chǎn)品市場營銷副總裁Ramine Roane(羅明)。
1賽靈思整體的業(yè)務戰(zhàn)略及對計算的看法
所有的電子系統(tǒng)應該是自適應的,就像有機物種一樣,這樣才能跟上創(chuàng)新的速度。同樣,“所有的硬件和計算應該是自適應的”觀點,也得到越來越多的行業(yè)認可。
直到2000年之前,根據(jù)摩爾定律,業(yè)界還接受著芯片或硅工藝的密度每18個月翻一番的速度,當時所有的應用和軟件開發(fā)人員不用多做什么,就等著新芯片出現(xiàn)。直到2000年時,工藝方面的登納德縮放比例定律(Dennard scaling)走到盡頭,認為隨著工藝密度的進一步翻番,頻率不可能再進一步提高了,所有的CPU和計算機最多也就到(2-4)GHz的速度,而且迄今維持了20年。為了提升所有的應用性能,要進一步擴展,后來使用多核CPU,因此,這個問題從硬件轉(zhuǎn)向軟件(如圖1)。
之后出現(xiàn)了向異構(gòu)CPU和加速器的轉(zhuǎn)移,到目前為止,這種方向是可行的。問題在于所有這些架構(gòu)包括CPU都是固定的,這就很難跟上AI的創(chuàng)新速度。
賽靈思的思路是打造自適應的平臺,非常靈活多變,而且賽靈思的芯片也可針對不同的應用進一步進行硬件的優(yōu)化。所以現(xiàn)在開發(fā)者就不用等著新芯片出來,就可以建立一些特定架構(gòu)的應用。
賽靈思提供的解決方案,如何追趕上像AI這樣的創(chuàng)新速度?從圖2可見,CNN等深度學習模型在2012-2018年發(fā)展的趨勢,可看出每3個月會出現(xiàn)新的AI模型,會取代之前的模型,一般是1年半到2年的時間來構(gòu)造1個全新的ASIC或GPU。
從圖2可見,藍色的,之前最主流的是GoogLeNet,1年半到2年后是ResNet,現(xiàn)在ResNet是最尖端的技術(shù),但是無法在原有的架構(gòu)上運行。賽靈思的器件以及可自適應的硬件,就可以來構(gòu)建這種特有的架構(gòu)。
2Vitis和VitiS AI的特點
Vitis的名字來自于法語,意思是生命力,解釋到中文有“至關(guān)重要”的含義。
Vitis和Vitis AI開發(fā)工具可以助力軟件開發(fā)人員和AI科學家,用他們選擇的語言,例如c++進行開發(fā),也可以使用相關(guān)的架構(gòu)和庫進行開發(fā)。
1)Vitis統(tǒng)一軟件平臺是針對軟件開發(fā)人員的,包括AI的軟件開發(fā)人員。
不過,對于軟件人員和A1人員,賽靈思并不是那么知名,因為過去長久以來,賽靈思的開發(fā)工具主要面向硬件的開發(fā)人員。隨著賽靈思推出Vitis和Vitis AI,想要改變?nèi)藗儗τ谫愳`思的認識一一現(xiàn)在也針對軟件開發(fā)人員(如圖3)。
而且軟件開發(fā)人員的機會更多,因為軟件人員的數(shù)量大大高于硬件開發(fā)人員?,F(xiàn)在全球硬件開發(fā)者可能是一二十萬的規(guī)模,而軟件開發(fā)人員是數(shù)以幾百萬計的。而且現(xiàn)在美國大學里學硬件開發(fā)的已經(jīng)很少了,大部分人選擇學習軟件開發(fā)。賽靈思傳統(tǒng)的Vivado是針對硬件開發(fā)人員的平臺,新推出的Vitis和Vitis AI是針對軟件開發(fā)者以及AI科學家的。
2)Vitis統(tǒng)一軟件平臺的特點是統(tǒng)一了所有應用平臺的開發(fā),包括:①把AI和傳統(tǒng)的軟件開發(fā)統(tǒng)一起來。②把云和邊緣也都統(tǒng)一起來,包括終端計算以及邊緣和云計算,不同的架構(gòu)全都統(tǒng)一起來。③可以使用統(tǒng)一的語言進行異構(gòu)的加速。
賽靈思現(xiàn)在也在進行一個戰(zhàn)略轉(zhuǎn)型:從傳統(tǒng)硬件公司轉(zhuǎn)型成為軟件的平臺公司。賽靈思的理念是擁抱開源,把免費工具貢獻給大家。現(xiàn)在賽靈思還有開源庫,例如Github,還有SRT的運行庫,有AI模型的例子,都是經(jīng)過優(yōu)化的,可以在FPGA上運行,還有賽靈思收購深鑒科技公司獲得的技術(shù)。
實際上,Vitis和Vitis AI是拋磚引玉一一采用免費的模式,主要從硬件賺取利潤。
一個問題是:在深度學習加速方面,雖然現(xiàn)在FPGA成長快,但是在AI培訓I方面,主流的還是GPU居多,一方面是因為GPU硬件性能高,另一方面,英偉達在軟件工具方面針對各個垂直領(lǐng)域做了很多工作。那么,Xilinx推出Vitis平臺之后,是不是有助于加速到各個垂直應用的進程?
Ramine Roane解釋道,GPU在AI培訓I上的市場份額很大,但在AI的推斷上面效率并不是很高。AI推斷最大的市場份額還是由CPU占據(jù)的,不過現(xiàn)在CPU加速的效率還不高,例如在邊緣的一個案例是北京小馬智行公司的自動駕駛,時延是一個很關(guān)鍵的問題,GPU最大的問題是時延太高了。不過,過去人們認為FPGA有點難用,需要用硬件開發(fā),隨著Vitis、Vitis AI的推出,這個難度會降低。