如今人工智能已經(jīng)在我們身邊得到越來(lái)越多的應(yīng)用,特別是物聯(lián)網(wǎng)領(lǐng)域,人工智能的這一輪發(fā)展正在推動(dòng)各個(gè)行業(yè)新生態(tài)、新應(yīng)用的落地,特別是視頻和圖像處理領(lǐng)域,人工智能獲得了最大的應(yīng)用前景:比如零售領(lǐng)域常用到的刷臉支付,交通領(lǐng)域用到的車(chē)牌識(shí)別,包括前幾年在圍棋上挑戰(zhàn)人類(lèi)的AlphaGo,AlphaGo實(shí)際上也是將圍棋的棋盤(pán)看成了一個(gè)19×19的圖片,把這個(gè)圖片送到卷積神經(jīng)網(wǎng)絡(luò)里進(jìn)行處理,來(lái)得到下一步行棋策略。視頻和圖像處理領(lǐng)域之外,語(yǔ)言處理領(lǐng)域也是另一個(gè)被人工智能大力推動(dòng)的應(yīng)用場(chǎng)景,用人工智能技術(shù)進(jìn)行自然語(yǔ)言處理如今在很多行業(yè)都得到了應(yīng)用。
今天我們?nèi)詫⑼ㄟ^(guò)英特爾,以及英特爾的合作伙伴成都云圖睿視科技有限公司(以下簡(jiǎn)稱“云圖睿視”)的視角來(lái)審視行業(yè)的發(fā)展:比如他們?nèi)绾慰创苿?dòng)本輪人工智能發(fā)展的根本力量;比如人工智能在邊緣上將以何種方式前進(jìn);還包括當(dāng)前邊緣計(jì)算發(fā)展上遇到的瓶頸。除此之外,我們還將談及云圖睿視發(fā)布最新的算法商城解決方案到底有何意義。為此,我們特別專訪了英特爾公司物聯(lián)網(wǎng)事業(yè)部中國(guó)區(qū)首席技術(shù)官及高級(jí)首席工程師張宇博士和成都云圖睿視科技有限公司CEO孟瑩。
推動(dòng)本輪人工智能發(fā)展的根本力量
在英特爾看來(lái),對(duì)于本輪人工智能發(fā)展的核心要素主要有兩個(gè),一是有了極大提升,二是有了大量的可供訓(xùn)練的數(shù)據(jù)。一直以來(lái),英特爾都處于掌握算力的最高峰上,特別是隨著摩爾定律的推動(dòng),算力在各個(gè)領(lǐng)域得到了極大的提升。
張宇博士提及:“擁有更多算力,就可以使我們?cè)诟虝r(shí)間內(nèi)完成一個(gè)神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練,我們也可以去處理一個(gè)更加復(fù)雜的神經(jīng)網(wǎng)絡(luò)模型。這樣就可以極大拉近人工智能技術(shù)和商業(yè)訴求之間的距離,推動(dòng)人工智能技術(shù)發(fā)展,這是我們認(rèn)為的第一個(gè)核心要素?!?/p>
如今各行和業(yè)都認(rèn)同“數(shù)據(jù)即石油”的說(shuō)法我們?yōu)g覽的網(wǎng)頁(yè)的習(xí)慣、我們行動(dòng)的軌跡,乃至各個(gè)交通、工業(yè)、醫(yī)療等各行業(yè)每天產(chǎn)生的巨大數(shù)據(jù),都擁有巨大的價(jià)值。如果說(shuō)石油喂養(yǎng)內(nèi)燃機(jī)成就了第二次工業(yè)革命,那么數(shù)據(jù)同樣也是人工智能的養(yǎng)料——目前來(lái)看,人工智能技術(shù)網(wǎng)絡(luò)的訓(xùn)練都是靠數(shù)據(jù)“喂”出來(lái)的,而且是海量的數(shù)據(jù),從某種角度來(lái)說(shuō),用于訓(xùn)練的數(shù)據(jù)越多,人工智能越成熟。在AlphaGo之后,科學(xué)家便通過(guò)世界人工智能?chē)宕筚愄嵘斯ぶ悄芩?,其原因便是通地不同模型的?duì)撞產(chǎn)生更多數(shù)據(jù)來(lái)訓(xùn)練人工智能在圍棋上的水平。
如今數(shù)據(jù)越來(lái)越多,這需要足夠強(qiáng)大的存儲(chǔ)技術(shù)以及通信技術(shù)來(lái)支撐,特別是正在普及的5G技術(shù),帶來(lái)了大的傳輸帶寬,更低的網(wǎng)絡(luò)傳輸延遲,使數(shù)據(jù)更容易獲取,更快地在各個(gè)節(jié)點(diǎn)間傳遞 ?!罢窃谟?jì)算、通訊、存儲(chǔ)方面能力的不斷提升,才真正意義上推動(dòng)了本輪人工智能的發(fā)展,所以我認(rèn)為這是最核心的要素?!睆堄畈┦康恼f(shuō)法正印證了英特爾看待人工智能的方向。
英特爾計(jì)算、通訊、存儲(chǔ)三方面都擁有強(qiáng)大的技術(shù)實(shí)力,比如英特爾擁有CPU、GPU、FPGA、VPU等不同構(gòu)架的芯片技術(shù),英特爾近期發(fā)布的第三代至強(qiáng)可擴(kuò)展處理器便支持豐富的人工智能指令集DL Boost。利用這樣一些處理器指令集可以更加方便地把像圖像分類(lèi)、推薦引擎或自然語(yǔ)言處理等人工智能訓(xùn)練和推理更方便地部署在通用服務(wù)器平臺(tái)上。;而且從3G到5G,英特爾不提出自己的國(guó)際標(biāo)準(zhǔn),而且還推出了面向5G無(wú)線基站的SoC芯片;存儲(chǔ)領(lǐng)域,英特爾則推出了3D XPoint(傲騰技術(shù))。該技術(shù)擁有高存儲(chǔ)密度和高讀寫(xiě)速度,提供更為方便、低價(jià)的數(shù)據(jù)存儲(chǔ)解決方案。
邊緣人工智能發(fā)展的方向
隨著人工智能技術(shù)在邊緣計(jì)算及物聯(lián)網(wǎng)領(lǐng)域得到了越來(lái)越廣泛的應(yīng)用,英特爾等廠商已經(jīng)開(kāi)始利用人工智能技術(shù)在邊緣進(jìn)行一些圖像處理工作,比如在工廠中利用邊緣視覺(jué)技術(shù)檢測(cè)攝像頭攝取的一些工件表面形態(tài),以確認(rèn)里面是否帶有一些缺陷。這實(shí)際上是通過(guò)數(shù)據(jù)中心里強(qiáng)大的算力,以及積累的大量數(shù)據(jù)去訓(xùn)練一個(gè)網(wǎng)絡(luò)模型,把這個(gè)訓(xùn)練的結(jié)果最終推送到邊緣進(jìn)行推理。
這種邊緣推理模式并非完美,其最大弊端就是邊緣端對(duì)模型更新的頻率實(shí)際是有一定的限制的,這一模式下不可能動(dòng)態(tài)、頻繁、實(shí)時(shí)、自適應(yīng)地調(diào)整這樣一個(gè)網(wǎng)絡(luò)模型,所以需要引入邊緣訓(xùn)練。如今廢品回收行業(yè)現(xiàn)在已經(jīng)開(kāi)始用機(jī)械臂去做廢品分揀,但是由于廢品形態(tài)很多,我們不可能用一個(gè)固定模型去涵蓋所有廢品形態(tài),這就需要不斷根據(jù)新采集的數(shù)據(jù)去做動(dòng)態(tài)訓(xùn)練、增量訓(xùn)練,不斷完善這個(gè)模型,使這個(gè)模型更適應(yīng)新進(jìn)來(lái)的物品。所以邊緣人工智能的發(fā)展下一個(gè)階段一定會(huì)在邊緣訓(xùn)練上發(fā)生。
張宇博士認(rèn)為,邊緣訓(xùn)練也不是邊緣人工智能發(fā)展的最高階段。從物聯(lián)網(wǎng)的發(fā)展階段來(lái)看,它需要經(jīng)過(guò)“互聯(lián)網(wǎng)—智能—自主”三個(gè)階段,最高階段“自主”便 是一個(gè)系統(tǒng)能夠感知使用者的意圖(也就是人的意圖),并且根據(jù)這個(gè)意圖自主進(jìn)行調(diào)整。反映到人工智能方面,同樣也需要人工智能系統(tǒng)擁有自主能力能夠自主根據(jù)使用場(chǎng)景、使用意圖去設(shè)計(jì)適宜的人工智能網(wǎng)絡(luò)結(jié)構(gòu)。再利用它所收集到的數(shù)據(jù)主動(dòng)分析、訓(xùn)練一個(gè)合適的網(wǎng)絡(luò)模型,然后將這個(gè)網(wǎng)絡(luò)模型用于最終推理。
“所以我們認(rèn)為,邊緣人工智能下一個(gè)發(fā)展階段就是自主學(xué)習(xí)階段。邊緣人工智能的發(fā)展會(huì)沿著邊緣推理,再到邊緣訓(xùn)練,再到自主學(xué)習(xí)這樣三個(gè)階段的軌跡來(lái)進(jìn)行發(fā)展?!睆堄畈┦恐苯雨U述了自己對(duì)邊緣人工智能的看法。不僅如此,他還提及了英特爾在邊緣人工智能方面推出的一系列硬件和軟件產(chǎn)品,比如Movidius第二代芯片Myriad X,可以提供2W的功耗及1T的算力,在攝像機(jī)有限的功耗中高清視頻計(jì)算的需求;另外利用神經(jīng)計(jì)算棒翻譯筆、智能門(mén)鎖,比如通過(guò)高性能通用處理器以及專用人工智能加速模塊與云圖睿視一起打造的AI-Box產(chǎn)品。在這些硬件基礎(chǔ)上,英特爾還提供了各種軟件:包括OpenVINO、Open Model Zoo,以及圍繞軟硬件進(jìn)行的測(cè)試調(diào)優(yōu)工作。
針對(duì)物聯(lián)網(wǎng)垂直行業(yè)的需求,英特爾還提供了一些重點(diǎn)行業(yè)參考設(shè)計(jì),英特爾統(tǒng)稱為“邊緣洞見(jiàn)軟件”(如針對(duì)工業(yè)、零售及視頻的邊緣洞見(jiàn)軟件等)。這些邊緣洞見(jiàn)軟件的作用類(lèi)似于一個(gè)行業(yè)的PaaS,解決這些行業(yè)的共性問(wèn)題,比如如何收集、解析這個(gè)行業(yè)的數(shù)據(jù),如何在內(nèi)部進(jìn)行分發(fā)、分析、存儲(chǔ)等這些共性問(wèn)題。另外,邊緣洞見(jiàn)軟件包也能幫助行業(yè)解決方案快速部署在英特爾硬件平臺(tái)上,實(shí)現(xiàn)應(yīng)用的快速部署和落地。
與合作伙伴共同構(gòu)建物聯(lián)網(wǎng)和邊緣人工智能的生態(tài)鏈
為了構(gòu)建物聯(lián)網(wǎng)和邊緣人工智能的生態(tài)鏈,英特爾與生態(tài)合作伙伴展開(kāi)了廣泛的合作,不僅全球與超過(guò)1200個(gè)合作伙伴有密切合作,還一起發(fā)布了超過(guò)300個(gè)邊緣計(jì)算解決方案,服務(wù)于智慧城市、智慧醫(yī)療、智慧零售、智慧工業(yè)等不同垂直行業(yè),而且這些解決方案在超過(guò)了一萬(wàn)個(gè)用戶當(dāng)中得到了廣泛推廣。其中,英特爾與云圖睿視的合作就非常有意義。
作為推動(dòng)邊緣計(jì)算發(fā)展的重要技術(shù),人工智能正在強(qiáng)有力地加持邊緣計(jì)算負(fù)載整合和算力提升,但這一過(guò)程并不容易。以中國(guó)多達(dá)27.6億個(gè)攝像頭以例,它們分布在成千上萬(wàn)的細(xì)分行業(yè)內(nèi),但并沒(méi)有足夠資源能夠?qū)崟r(shí)查看和分析眾多攝像頭產(chǎn)生的海量數(shù)據(jù),整個(gè)市場(chǎng)急需AIoT技術(shù)幫助人們對(duì)海量攝像頭數(shù)據(jù)進(jìn)行采集和分析,進(jìn)而產(chǎn)生有益的洞察。
為此,英特爾聯(lián)合云圖睿視發(fā)布的算法商城解決方案,通過(guò)通用算法應(yīng)用部署的方式,能夠極大提升算法模型的部署速度,并幫助算法供應(yīng)商和算法集成商快速驗(yàn)證算法和業(yè)務(wù)匹配程度。整個(gè)解決方案共包含:人工智能邊緣計(jì)算終端(AI-Box)、Beacon OS(邊緣操作系統(tǒng))和AI Store(算法商城)。其中云圖睿視AI-Box是一套基于英特爾第11代酷睿處理器(Tiger Lake)推出的標(biāo)準(zhǔn)算力平臺(tái),提供4路視頻流的實(shí)時(shí)分析和最大8個(gè)算法模型的同時(shí)運(yùn)行;Beacon OS則整合了英特爾OpenVINO、SVET等框架,能夠?yàn)锳I運(yùn)行提供系統(tǒng)級(jí)的標(biāo)準(zhǔn)支撐;最有意思莫過(guò)于AI Store,它將各類(lèi)算法模型的集合放在一個(gè)標(biāo)準(zhǔn)的邊緣計(jì)算設(shè)備管理平臺(tái)之上,所有模型均可直接運(yùn)行在基于Beacon OS的硬件設(shè)備上,無(wú)須再次開(kāi)發(fā)。
云圖睿視的這一套方案旨在解決人工智能落地難的問(wèn)題。在行業(yè)應(yīng)用中,使用算法的和系統(tǒng)集成商或終端用戶面臨缺乏對(duì)應(yīng)算法,而算法開(kāi)發(fā)者卻限于自身渠道開(kāi)拓能力,能難找到真正的需求用戶。成都云圖睿視科技有限公司CEO孟瑩指出,正是這樣難以溝通的行業(yè)壁壘,使得以往開(kāi)發(fā)出的算法很難體現(xiàn)其價(jià)值,所以愿意投入開(kāi)放算法的廠商越來(lái)越少,整個(gè)物聯(lián)網(wǎng)行業(yè)都面臨著缺乏算法的短板。正是通過(guò)與英特爾緊密合作,云圖睿視創(chuàng)建了一個(gè)標(biāo)準(zhǔn)化的軟件環(huán)境Beacon OS和便于算法使用和開(kāi)放兩端握手的應(yīng)用商城。用戶只需要輸入需求,便能找到相應(yīng)算法,不需要再編譯。在孟瑩的演示下,我們看到一個(gè)成熟的算法部署在應(yīng)用場(chǎng)景下僅需要短短十?dāng)?shù)秒(根據(jù)算法和需求場(chǎng)景不同而有所不同)。
孟瑩表示,AI Store的最大優(yōu)勢(shì)便在于“標(biāo)準(zhǔn)的軟硬件平臺(tái)、完整流暢的算法購(gòu)物體驗(yàn)、經(jīng)濟(jì)豐富的行業(yè)算法、安全可靠的技術(shù)支撐、強(qiáng)大的遠(yuǎn)程運(yùn)維管理平臺(tái)”。無(wú)獨(dú)有偶,英特爾在官網(wǎng)的人工智能頁(yè)面也提出了“統(tǒng)一計(jì)算平臺(tái),兼容多樣算法”的Slogen,恰與云圖推出方案的初衷不謀而合。與孟瑩的想法一致,張宇博士也表明了人工智能發(fā)展上的短板正在于算法之上,比如20世紀(jì)90年代已經(jīng)在用的卷積神經(jīng)網(wǎng)絡(luò)如今依舊沿用,僅是層數(shù)比以前更多,規(guī)模上雖有變化,但是算法理論基礎(chǔ)突破并不大。另外,英特爾也在針對(duì)不同負(fù)載的應(yīng)用提供統(tǒng)一接口,便于開(kāi)發(fā)者通過(guò)統(tǒng)一接口和編程模型訪問(wèn)不同硬件資源,這便是OneAPI項(xiàng)目。類(lèi)似于OneAPI、OpenVINO等這樣一些可以幫助用戶做多算法融合的工具,將是人工智能研究院向開(kāi)發(fā)者推廣的重點(diǎn)項(xiàng)目。
最后,我們問(wèn)及AI Store是如何快速幫助用戶解決現(xiàn)有算法之外的新需求。孟瑩答道:“BeaconOS的上層有兩個(gè)獨(dú)立中間件,一套獨(dú)立中間件是以AI的運(yùn)行為承載的獨(dú)立中間件,另外一套是基于EdgeX Foundry的IoT的中間件。這套產(chǎn)品其實(shí)完全可以獨(dú)立部署。如果用戶一定需要做獨(dú)立部署,我們會(huì)讓系統(tǒng)集成商做這件事情,中間產(chǎn)生的研發(fā)費(fèi)用或開(kāi)發(fā)費(fèi)用都屬于系統(tǒng)集成商的收益。算法開(kāi)發(fā)就只收取開(kāi)發(fā)部分的費(fèi)用,定制的部分由系統(tǒng)集成商收取,我們起中間橋梁搭建的工作?!?/p>
后記
在我們看來(lái),英特爾與云圖睿視合作推出的AI Store在當(dāng)前邊緣人工智能的前進(jìn)中邁出了非常有意義的一步。尤其是在創(chuàng)新方案推動(dòng)和生態(tài)構(gòu)建上加速了智能邊緣的應(yīng)用落地和升級(jí)。雖然當(dāng)前Beacon OS、AI Store這樣的構(gòu)架方案還不夠完善,但通過(guò)它我們已經(jīng)能夠看到智能邊緣上的廣闊機(jī)遇。