国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

借助商業(yè)服務(wù)破解AI科創(chuàng)活動的算力難題

2023-04-03 20:33:13謝作如
中國信息技術(shù)教育 2023年7期
關(guān)鍵詞:算力科創(chuàng)服務(wù)器

謝作如

摘要:數(shù)據(jù)、算法和算力組成了AI時(shí)代的三大技術(shù)基礎(chǔ),而算力匱乏是當(dāng)前中小學(xué)開展AI科創(chuàng)活動的主要困境之一。當(dāng)真實(shí)問題涉及較復(fù)雜的AI算法和模型需要高算力支持時(shí),購買算力服務(wù)是一種必然的選擇。本文以訓(xùn)練一個(gè)音色轉(zhuǎn)換項(xiàng)目為例,介紹了購買算力服務(wù)訓(xùn)練AI模型的真實(shí)經(jīng)歷,以期在算力方面為中小學(xué)AI科創(chuàng)活動開展提出可行的解決方案。

關(guān)鍵詞:AI科創(chuàng)活動;算力購買

中圖分類號:G434? 文獻(xiàn)標(biāo)識碼:A? 論文編號:1674-2117(2023)07-0091-03

背景:當(dāng)算力成為AI科創(chuàng)活動的阻力

隨著AI學(xué)習(xí)的深入,科技制作社里有學(xué)生提出想研究音頻的音色轉(zhuǎn)換,并在GitHub上找到了一個(gè)叫做“so-vits-svc”的開源項(xiàng)目。這是一種讓聲音聽起來像指定人說出來的技術(shù),原理是先把聲音轉(zhuǎn)換成聲譜圖,再通過深度神經(jīng)網(wǎng)絡(luò)技術(shù)訓(xùn)練出AI模型。利用訓(xùn)練好的模型,可以制作虛擬主播、游戲音效、語音合成等。

和ChatGPT一樣,“so-vits-svc”也屬于AIGC的一種。喜歡“泡”在B站的青少年們對這種技術(shù)非常感興趣。遺憾的是,他們在研究這個(gè)項(xiàng)目時(shí)遇到了很多困難。雖然不斷見招拆招,一點(diǎn)一點(diǎn)解決環(huán)境搭建的問題,但最終在訓(xùn)練模型時(shí)卡在了“算力”這一關(guān)。因?yàn)檫@個(gè)項(xiàng)目的訓(xùn)練不支持CPU環(huán)境,沒有GPU環(huán)境就無法繼續(xù)前進(jìn)。

分析:算力匱乏的解決方案

對于中小學(xué)的科創(chuàng)教師來說,盡最大能力滿足學(xué)生的學(xué)習(xí)需求是最核心的工作任務(wù)??紤]到算力匱乏問題具有普遍性,每一個(gè)開展AI教育的學(xué)校最終都會遇到,因此,筆者認(rèn)真分析了算力匱乏的常見解決方案。

首先是配置算力設(shè)備。最常見的人工智能的算力設(shè)備是GPU(顯卡),即英偉達(dá)(NVIDIA)的顯卡。但是普通學(xué)校的辦公和機(jī)房電腦,一般都不會配置GPU,即使配置了GPU,搭建環(huán)境也不容易。

其次是購買算力服務(wù)器。有條件的學(xué)校會配置算力服務(wù)器,用于AI教學(xué)和科創(chuàng)。這些算力服務(wù)器會配置多款顯卡,然后通過容器(Docker)技術(shù)分配給多位用戶同時(shí)使用。但這些算力服務(wù)器分配的容器性能比較弱,配置的環(huán)境往往與與時(shí)俱進(jìn)的開源項(xiàng)目不一致。

當(dāng)算力不夠時(shí),購買商業(yè)算力資源才是最好的解決方案,也是高校和科研機(jī)構(gòu)的常見選擇。已經(jīng)畢業(yè)的科技社學(xué)生在介紹他們的AI項(xiàng)目時(shí),都會提到用某公司的服務(wù)器訓(xùn)練。2021年我們也使用過華為ModelAtrs的算力服務(wù)。

實(shí)例:商業(yè)算力服務(wù)的使用

這一次,筆者選擇了北京超算中心,他們的算力服務(wù)分為兩種。第一種是集群資源,即云服務(wù)器。云服務(wù)器類似虛擬機(jī),提供的是完整電腦,有系統(tǒng)盤、外接磁盤,可以隨時(shí)恢復(fù)系統(tǒng),并且擁有外網(wǎng)IP。如果選擇的是Windows系統(tǒng),可以直接用遠(yuǎn)程桌面工具連接使用。Linux系統(tǒng)則通過SSH或者VNC服務(wù)。第二種是超算資源。類似大家共用一臺計(jì)算機(jī),權(quán)限隔離,用SSH命令行加載虛擬環(huán)境后,通過提交作業(yè)的方式訓(xùn)練模型。當(dāng)然,如果對SSH不熟悉,還可以選擇使用jupyter(如圖1),在網(wǎng)頁中使用Python代碼訓(xùn)練模型。

至于訓(xùn)練環(huán)境,可以自己安裝,也可以求助工程師,給出軟件清單即可。雖然看起來用SSH很復(fù)雜,但用pip命令安裝軟件本來就是基本能力,學(xué)生都能勝任。針對復(fù)雜的環(huán)境部署,超算中心也采用了多種方案,如在創(chuàng)建云服務(wù)器的時(shí)候,會先告知服務(wù)器的CUDA版本。超算資源中則內(nèi)置很多個(gè)CUDA版本(從9.x到11.7),用戶使用“module load”命令選擇相應(yīng)的環(huán)境,也非常方便。

筆者申請了兩種服務(wù)器,分別進(jìn)行了測試。相對來說云服務(wù)器最簡單,有很多種算力資源可以選擇。不同的算力資源對應(yīng)不同版本的CUDA。筆者選擇了“Tesla顯卡V100-32G”(如上頁圖2),從配置環(huán)境到訓(xùn)練模型花了5個(gè)小時(shí),花費(fèi)很低,而購買這一款顯卡則需要幾萬元。

在“so-vits-svc”項(xiàng)目的模型訓(xùn)練結(jié)束后,筆者將模型轉(zhuǎn)換為ONNX格式,發(fā)現(xiàn)可以順利部署在本地的普通電腦里。學(xué)生們則認(rèn)為應(yīng)該將模型部署在行空板上做一個(gè)有趣的變聲器,于是開始了新的研究。

反思:如何讓算力的使用更加便捷

回顧這個(gè)項(xiàng)目的訓(xùn)練過程,如果超算中心的服務(wù)器上已經(jīng)部署好相應(yīng)的環(huán)境,那么只需要2個(gè)小時(shí)就能完成訓(xùn)練,需要的費(fèi)用更少。而整個(gè)過程其實(shí)并沒有很高的技術(shù)門檻,基本借助了Anaconda的conda命令來完成。但是對中小學(xué)而言,Anaconda也好,SSH也好,都是師生們不太熟悉的技術(shù)領(lǐng)域??梢?,要讓普通中小學(xué)生也能用購買算力的方式訓(xùn)練AI模型,提供算力服務(wù)的企業(yè)還需要在以下兩個(gè)方面繼續(xù)努力。

1.技術(shù)門檻需要繼續(xù)降低

重點(diǎn)做好Windows系統(tǒng)的環(huán)境配置。例如,可以在云服務(wù)器中的桌面提供一個(gè)名為“環(huán)境配置”或者“XEdu”的快捷方式,雙擊即可進(jìn)入虛擬環(huán)境。至于超算服務(wù)器也應(yīng)該內(nèi)置一個(gè)常用的AI環(huán)境,直接用“module load”命令載入即可使用。

2.內(nèi)置中小學(xué)常見AI開發(fā)環(huán)境

在超算服務(wù)器中的“應(yīng)用”列表中,筆者發(fā)現(xiàn)“Pytorch”“Keras”“AIphafold2”“MatLab”等環(huán)境都已經(jīng)內(nèi)置,但還缺少中小學(xué)最常見的XEdu或者M(jìn)MEdu工具。經(jīng)過與工程師溝通后,只要有足夠的用戶,他們也可以預(yù)裝好XEdu,做成一個(gè)虛擬環(huán)境(如圖3)。

當(dāng)然,筆者認(rèn)為中小學(xué)應(yīng)倡導(dǎo)使用Linux機(jī)房。當(dāng)編程語言從VB轉(zhuǎn)到Python之后,在Linux上學(xué)習(xí)編程的門檻沒有Windows高,何況即使在Windows下學(xué)習(xí)編程,也需要掌握conda、pip等常見命令。

小結(jié):讓算力飛入尋常中小學(xué)校

筆者曾經(jīng)在清華大學(xué)版信息科技教材的《云計(jì)算》章節(jié)寫了一段話:在云計(jì)算服務(wù)的支持下,算力將如同自來水、電力一樣成為公共資源。事實(shí)上,當(dāng)前算力的使用依然存在技術(shù)門檻較高的問題。經(jīng)過了解,北京超算中心的用戶基本上來自高??蒲袡C(jī)構(gòu),我們則是第一位中小學(xué)用戶,由此可見新一代人工智能在中小學(xué)教育中并沒有普遍開展。但是,如果沒有這種租借算力的經(jīng)歷,學(xué)生又如何真正理解算力對人工智能的重要意義呢?

實(shí)際上,在中小學(xué)開展新一代人工智能教育,最重要的研究對象是數(shù)據(jù),即根據(jù)要解決的問題,進(jìn)行針對性的采集數(shù)據(jù),再選擇開源的算法訓(xùn)練模型,最終部署模型并設(shè)計(jì)多模態(tài)交互。新發(fā)布的《義務(wù)教育信息科技課程標(biāo)準(zhǔn)(2022年版)》和之前的《普通高中信息技術(shù)課程標(biāo)準(zhǔn)(2017年版)》都非常重視“數(shù)據(jù)”,為人工智能的學(xué)習(xí)打下了很好的基礎(chǔ)。因此,筆者希望提供算力服務(wù)的IT企業(yè)能看到中小學(xué)的需求,降低技術(shù)門檻,做到算力“擰開龍頭”就能用,讓算力匱乏不再成為AI科創(chuàng)活動普及的絆腳石。

猜你喜歡
算力科創(chuàng)服務(wù)器
多方求解智能時(shí)代算力挑戰(zhàn)
這個(gè)第二不一般
都市人(2023年11期)2024-01-12 05:55:06
衛(wèi)星通信在算力網(wǎng)絡(luò)中的應(yīng)用研究
中國電信董事長柯瑞文:算力成為數(shù)字經(jīng)濟(jì)的主要生產(chǎn)力
科創(chuàng)引領(lǐng),搶跑新賽道
走向世界(2022年3期)2022-04-19 12:38:58
科創(chuàng)走廊“乘風(fēng)起”
科創(chuàng)“小燈泡”:從傘說起
保護(hù)人類健康的科創(chuàng)產(chǎn)品
通信控制服務(wù)器(CCS)維護(hù)終端的設(shè)計(jì)與實(shí)現(xiàn)
得形忘意的服務(wù)器標(biāo)準(zhǔn)
都匀市| 海门市| 泸西县| 平舆县| 信宜市| 衡水市| 盈江县| 肥乡县| 高安市| 微山县| 中方县| 泸定县| 布尔津县| 禹州市| 菏泽市| 寻乌县| 百色市| 淳化县| 九龙县| 合阳县| 剑阁县| 昆明市| 灌阳县| 武陟县| 和平区| 沈丘县| 玛沁县| 施甸县| 抚远县| 阿克陶县| 溧阳市| 商丘市| 西乡县| 原平市| 上林县| 锦州市| 成武县| 平江县| 嵩明县| 祁东县| 兴国县|