playweb

在智能手機(jī)崛起的今日，中國仍然嚴(yán)重依賴外國芯片供應(yīng)商，中國即將迎來第14個五年計(jì)劃（2021年至2025年），而在貿(mào)易關(guān)系緊張的當(dāng)下，實(shí)現(xiàn)技術(shù)獨(dú)立仍是中國IC設(shè)計(jì)行業(yè)的主要目標(biāo)。其中，物聯(lián)網(wǎng)芯片和開源架構(gòu)的發(fā)展將是關(guān)鍵方向，盡快建立起自己的IC生產(chǎn)線也會成為應(yīng)對與美國貿(mào)易戰(zhàn)的重要戰(zhàn)略。根據(jù)相關(guān)的資料顯示，目前中國IC設(shè)計(jì)企業(yè)已超過1500家，但AI芯片相關(guān)的公司卻比較少，創(chuàng)企僅超過20家。那么AI芯片到底是什么，與我們普通的CPU有何區(qū)別呢？

NPU相對普通CPU有什么優(yōu)勢？

從原理邏輯來看，AI處理器是一種特殊的芯片，它結(jié)合了人工智能技術(shù)和機(jī)器學(xué)習(xí)，使搭載該芯片的移動設(shè)備足夠智能，可以模仿人類的大腦，用于優(yōu)化深度學(xué)習(xí)AI的工作，也是使用多個具有特定功能的處理器的系統(tǒng)。而普通的芯片（普通CPU）則被封裝在一個更小的芯片包中，設(shè)計(jì)用于支持移動應(yīng)用程序，提供支持移動設(shè)備應(yīng)用程序所需的所有系統(tǒng)功能。

大多數(shù)時(shí)候，各個大公司營銷團(tuán)隊(duì)發(fā)現(xiàn)AI（人工智能）這個詞非?！昂糜谩保瑤缀醢阉壍饺魏慰赡艿纳虡I(yè)用途中。你肯定聽說過“人工智能芯片”，其實(shí)它是NPU（神經(jīng)處理單元）的重命名版本，這是特殊類型的ASIC（專用集成電路），旨在移動市場中將機(jī)器學(xué)習(xí)廣泛應(yīng)用。

這些ASIC有一種特殊的架構(gòu)設(shè)計(jì)，使它們能夠更快地執(zhí)行機(jī)器學(xué)習(xí)模型，而不是將數(shù)據(jù)下載到服務(wù)器，然后等待它的響應(yīng)。這種執(zhí)行可能沒有那么強(qiáng)大，但由于數(shù)據(jù)和處理中心之間的障礙更小，所以速度會更快。

通俗來說，我們可以理解為NPU就是AI芯片，普通芯片就是CPU。

CPU在一般的負(fù)載環(huán)境中工作會很好，因?yàn)樗幸粋€較高的IPC，可以通過許多串行執(zhí)行。且CPU遵循的是馮諾依曼架構(gòu)，其核心是存儲程序，按順序執(zhí)行。CPU的架構(gòu)中需要大量的空間去放置存儲單元（Cache）和控制單元（Control），相比之下計(jì)算單元只占據(jù)了很小的一部分，所以它在大規(guī)模并行計(jì)算能力上極受限制，而更擅長于邏輯控制。

NPU和GPU的亮點(diǎn)在于它們能夠運(yùn)行多個并行線程，NPU通過一些特殊的硬件級優(yōu)化，比如為一些真正不同的處理核提供一些容易訪問的緩存系統(tǒng)，將其提升到另一個層次。這些高容量內(nèi)核比通常的“常規(guī)”處理器更簡單，因?yàn)樗鼈儾恍枰獔?zhí)行多種類型的任務(wù)。這一整套的“優(yōu)化”使得NPU更加高效，這就是為什么這么多的研發(fā)會投入到ASIC中的原因。

機(jī)器學(xué)習(xí)模型處理要求CPU、DSP、GPU和NPU同時(shí)同步，這是很多芯片處理單元在共同工作。但這也解釋了為什么這樣執(zhí)行對于移動設(shè)備來說是“沉重的”。NPU的優(yōu)勢之一在于，大部分時(shí)間集中于低精度的算法、新的數(shù)據(jù)流架構(gòu)或內(nèi)存計(jì)算能力。與GPU不同，它們更關(guān)注吞吐量而不是延遲。

當(dāng)然AI算法是至關(guān)重要的，在圖像識別等領(lǐng)域，常用的是CNN卷積網(wǎng)絡(luò)，語音識別、自然語言處理等領(lǐng)域，主要是RNN，這是兩類有區(qū)別的算法。但是，它們本質(zhì)上，都是矩陣或vector的乘法、加法，然后配合一些除法、指數(shù)等算法。

另外，一個成熟的AI算法，針對卷積運(yùn)算和加權(quán)求和的特定數(shù)學(xué)進(jìn)行了優(yōu)化。這個過程非?？?。對于AI芯片來說，如果確定了具體的目標(biāo)尺寸，那么總的乘法加法計(jì)算次數(shù)是確定的。比如一萬億次計(jì)算，用AI芯片跑程序，吃頓飯的工夫就就解決了，而CPU需要運(yùn)行好幾個禮拜，時(shí)間上的差距，讓任何一家商業(yè)公司都不會浪費(fèi)時(shí)間。

包括英偉達(dá)競爭對手在內(nèi)很少有人會對英偉達(dá)今天在AI芯片游戲中占主導(dǎo)地位這一事實(shí)提出異議

全球AI芯片公司爭奪新興市場

當(dāng)今人工智能芯片頂級開發(fā)公司，已經(jīng)投入生產(chǎn)或者即將投入生產(chǎn)有潛質(zhì)的公司，大家可以了解一下，其中有耳熟能詳?shù)?，也有頗為陌生的：

1. Alphabet（谷歌母公司）

谷歌的母公司倡導(dǎo)人工智能技術(shù)在多個領(lǐng)域的發(fā)展，包括云計(jì)算、數(shù)據(jù)中心、移動設(shè)備和臺式電腦?？赡茏钪档米⒁獾氖撬膹埩刻幚韱卧═ensor Processing Unit），這是一款專門為谷歌的TensorFlow編程框架設(shè)計(jì)的ASIC，主要用于AI的兩個分支機(jī)器學(xué)習(xí)和深度學(xué)習(xí)。

谷歌的Cloud TPU是應(yīng)用于數(shù)據(jù)中心或云解決方案，其大小相當(dāng)于一張信用卡，而Edge TPU大小是小于一美分的硬幣， 是專為某些特定的設(shè)備而設(shè)計(jì)的。盡管如此，更仔細(xì)觀察這一市場的分析師說，谷歌的Edge TPU不太可能在短期內(nèi)出現(xiàn)在該公司自己的智能手機(jī)和平板電腦上，而更有可能被用于更昂貴的機(jī)器和設(shè)備上。

2. 蘋果

蘋果在此前召開的 WWDC 全球開發(fā)者大會上宣布 Mac 產(chǎn)品線將從英特爾芯片轉(zhuǎn)至自研芯片 Apple Silicon，還有開發(fā)基于ARM 芯片的游戲主機(jī)。蘋果開發(fā)自己的ARM芯片，最終可能會徹底停止使用英特爾等供應(yīng)商的產(chǎn)品。蘋果也基本上擺脫了與高通的糾纏，看起來確實(shí)決心要在未來的人工智能領(lǐng)域走自己的路。

蘋果在最新款的iPhone和iPad上使用了A13“仿生”芯片。該芯片使用了蘋果的神經(jīng)引擎，這是電路的一部分，第三方應(yīng)用程序無法使用。A13仿生芯片還有6個CPU內(nèi)核：其中兩個是在2.66 GHz頻率下運(yùn)行的高性能內(nèi)核（稱為Lightning），另外4個則是效率內(nèi)核（稱為Thunder）。與此同時(shí)，這款新片配有一個四核圖形處理器、一個LTE調(diào)制解調(diào)器、一個蘋果設(shè)計(jì)的圖像處理器，以及一個八核神經(jīng)引擎，用于支持機(jī)器智能功能，每秒可以進(jìn)行超過5萬億次運(yùn)算。

3. ARM

ARM （ArmHoldings）生產(chǎn)的芯片被包括蘋果在內(nèi)的所有領(lǐng)先技術(shù)制造商采用。作為一個芯片設(shè)計(jì)師，它不制造自己的芯片，這給了它某種優(yōu)勢，就像微軟不制造自己的電腦一樣。換句話說，ARM? 在市場上有著巨大的影響力。該公司目前正沿著三個主要方向開發(fā)人工智能芯片設(shè)計(jì)： Project Trillium，一種“超高效”、可擴(kuò)展的新型處理器，目標(biāo)是機(jī)器學(xué)習(xí)應(yīng)用;機(jī)器學(xué)習(xí)處理器，這是不言而喻的;ARM NN是神經(jīng)網(wǎng)絡(luò)的縮寫，它是一種用于處理TensorFlow的處理器，Caffe是一種深度學(xué)習(xí)框架，還有其他一些結(jié)構(gòu)。

4. Intel（英特爾）

早在2016年，芯片巨頭英特爾收購初創(chuàng)公司NervanaSystems，獲得了該公司的軟件、云計(jì)算服務(wù)和硬件，從而使產(chǎn)品更好地適應(yīng)人工智能的發(fā)展。它的人工智能芯片系列，被稱為“神經(jīng)網(wǎng)絡(luò)處理器”：人工神經(jīng)網(wǎng)絡(luò)模仿人類大腦的工作方式，通過經(jīng)驗(yàn)和實(shí)例進(jìn)行學(xué)習(xí)，這就是為什么你經(jīng)常聽到機(jī)器和深度學(xué)習(xí)系統(tǒng)需要“訓(xùn)練”。隨著之前發(fā)布的Nervana，英特爾似乎將優(yōu)先解決與自然語言過程和深度學(xué)習(xí)相關(guān)的問題。

5. NVIDIA（英偉達(dá)）

分析師表示，盡管目前ARM處理器的性能可能無法與英特爾相提并論，但其節(jié)儉的電力需求也使其成為數(shù)據(jù)中心的誘人選擇。在軟件方面，除了支持大數(shù)據(jù)工具Apache Spark外，英偉達(dá)推出了Jarvis，這是一個用于構(gòu)建會話AI服務(wù)的新應(yīng)用程序框架。英偉達(dá)指出，要提供交互式的個性化體驗(yàn)，公司需要在針對其自身產(chǎn)品和客戶需求的數(shù)據(jù)上訓(xùn)練其基于語言的應(yīng)用程序。

AMD正在努力成為人工智能領(lǐng)域重要的參與者

但是，從頭開始構(gòu)建服務(wù)需要深厚的AI專業(yè)知識、大量數(shù)據(jù)以及用于訓(xùn)練模型的計(jì)算資源，并需要使用新數(shù)據(jù)定期更新模型的軟件。Jarvis包含最新的深度學(xué)習(xí)模型，可以使用英偉達(dá)NeMo進(jìn)行進(jìn)一步的微調(diào)，使用TensorRT進(jìn)行推理優(yōu)化，并使用英偉達(dá)的GPU目錄NGC上的Helm圖表將其部署在云中和邊緣優(yōu)化的軟件中。

6. AMD（超微半導(dǎo)體）

和英偉達(dá)一樣，AMD是另一家與顯卡和GPU有著密切聯(lián)系的芯片制造商，部分原因是過去幾十年電腦游戲市場的增長，以及比特幣礦業(yè)的增長。AMD提供硬件和軟件解決方案，如EPYC CPU和Radeon Instinct GPU的機(jī)器學(xué)習(xí)和深度學(xué)習(xí)。

Epyc是AMD為服務(wù)器（主要用于數(shù)據(jù)中心）提供的處理器名稱，而Radeon則是一款主要面向游戲玩家的圖形處理器。AMD提供的其他芯片包括Ryzen，也許還有更知名的Athlon。該公司在人工智能專用芯片的開發(fā)上似乎還處于相對早期的階段，但鑒于其在GPU領(lǐng)域的相對實(shí)力，觀察家們認(rèn)為它將成為該市場的領(lǐng)導(dǎo)者之一。AMD已簽約向美國能源部提供Epyc和Radeon系統(tǒng)，用于建造世界上最快、最強(qiáng)大的超級計(jì)算機(jī)之一，被稱為“Frontier”。

7. Qualcomm（高通）

去年高通發(fā)布了一款新的“云人工智能芯片”，將其與5G方面的開發(fā)聯(lián)系起來。這兩項(xiàng)技術(shù)被認(rèn)為是構(gòu)建自動駕駛汽車和移動計(jì)算設(shè)備新生態(tài)系統(tǒng)的基礎(chǔ)。分析師表示，高通在人工智能芯片領(lǐng)域算是后來者，但該公司在移動設(shè)備市場擁有豐富經(jīng)驗(yàn)，這將有助于實(shí)現(xiàn)其“讓設(shè)備上的人工智能無處不在”的目標(biāo)。

當(dāng)然，其他還有三星、臺積電、臉書、 IBM、 LG等大型國際公司也在研發(fā)自己的AI芯片，誰能先掌握最前沿的AI芯片，誰就能在新的經(jīng)濟(jì)上升潮流中分一杯羹。

目前全球人工智能產(chǎn)業(yè)依舊處在高速的發(fā)展中，不同的行業(yè)分布為人工智能的應(yīng)用提供了廣闊的市場前景，商業(yè)化的社會需要人工智能的應(yīng)用，AI芯片是實(shí)現(xiàn)算法的硬件基礎(chǔ)，也是未來人工智能時(shí)代的戰(zhàn)略制高點(diǎn)，全球的各大頂級公司會為此而戰(zhàn)。但由于目前 的 AI 算法往往都各具優(yōu)劣，只有給它們設(shè)定一個合適的場景才能最好地發(fā)揮它們的作用，也希望AI可以盡早進(jìn)入我們普通人的視線中。