文/索尼婭·伯德 丹尼斯·杜蘭特 郭記松

隨著人工智能（AI）技術(shù)在各類應(yīng)用軟件和系統(tǒng)中被廣泛應(yīng)用，AI與人們?nèi)粘Ｉ畹穆?lián)系越來越緊密。我們有必要了解AI的應(yīng)用潛力及其帶來的挑戰(zhàn)。標(biāo)準(zhǔn)化可以為提高AI創(chuàng)新成果的可信賴度提供基準(zhǔn)框架，并用來指導(dǎo)AI的倫理道德和安全影響。最近，AI作為一種工具還被應(yīng)用到標(biāo)準(zhǔn)制定過程中。

AI技術(shù)的涌現(xiàn)

現(xiàn)在很多產(chǎn)品和系統(tǒng)采用了AI技術(shù)，并使其符合安全和性能標(biāo)準(zhǔn)。AI通過引入計算機和機器學(xué)習(xí)系統(tǒng)來執(zhí)行那些主要依靠人類智能來完成的任務(wù)，尤其是在醫(yī)療衛(wèi)生和交通運輸兩個行業(yè)，AI應(yīng)用增長迅猛。在這些行業(yè)中，人們基于數(shù)據(jù)集，運用機器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)等AI技術(shù)來構(gòu)建系統(tǒng)和模型，整合信息來模擬人腦智慧。雖然AI被認為可以改善產(chǎn)品功能，但AI技術(shù)的準(zhǔn)確性和道德問題也越來越受到關(guān)注。

生成式AI作為最新的AI技術(shù)，被用于各種不同的應(yīng)用場景。ChatGPT是一種典型的生成式AI系統(tǒng)，屬于數(shù)據(jù)科學(xué)工具的范疇。它通過處理自然語言來生成文本，用于各類場景包括解答數(shù)學(xué)問題和發(fā)布新聞通稿等。像UL標(biāo)準(zhǔn)機構(gòu)（UL Standards & Engagement，簡稱ULSE）這類組織正在研究如何運用AI工具來滿足業(yè)務(wù)發(fā)展的需要，包括制定具備技術(shù)合理性的、能夠應(yīng)對新型危機的標(biāo)準(zhǔn)。同時，ULSE也致力于確保在運用此類技術(shù)過程中不會在無意間引入風(fēng)險。

ChatGPT并非生成式AI范疇內(nèi)的唯一應(yīng)用。任何有能力使用數(shù)據(jù)輸入創(chuàng)造內(nèi)容的AI模型都可以被認定為生成式AI工具。

這些類型的生成式AI模型利用機器學(xué)習(xí)算法來生成包括圖像、音視頻和文本的原創(chuàng)內(nèi)容。這個過程的具體步驟包括創(chuàng)建一個現(xiàn)有內(nèi)容的大型數(shù)據(jù)集供AI學(xué)習(xí)，使用神經(jīng)網(wǎng)絡(luò)訓(xùn)練AI生成原創(chuàng)內(nèi)容，從內(nèi)容相關(guān)性和技術(shù)合理性方面對該AI系統(tǒng)進行驗證，開發(fā)一個供用戶描述需求的界面，最后由被訓(xùn)練和驗證后的AI系統(tǒng)生成內(nèi)容。

AI領(lǐng)域的標(biāo)準(zhǔn)化建設(shè)

1.自動駕駛產(chǎn)品安全標(biāo)準(zhǔn)

在此領(lǐng)域，AI已被融入標(biāo)準(zhǔn)之中，用以改進產(chǎn)品和系統(tǒng)功能。目前，ULSE已發(fā)布《自動駕駛產(chǎn)品安全評估標(biāo)準(zhǔn)》（UL 4600）。該標(biāo)準(zhǔn)對自動駕駛系統(tǒng)在無人值守的狀態(tài)下執(zhí)行預(yù)期功能的安全性提出技術(shù)要求，涵蓋了基于產(chǎn)品當(dāng)前狀態(tài)、標(biāo)準(zhǔn)要求的方法和對操作環(huán)境的感知來評估完全自動駕駛系統(tǒng)的安全原則和流程。UL 4600的制定需要科學(xué)和技術(shù)輸入來構(gòu)建案例結(jié)構(gòu)、風(fēng)險分析和其他符合性評估指標(biāo)，同時也有賴于相關(guān)領(lǐng)域的專家和利益相關(guān)方的參與。

具體來說，ULSE與全球自動駕駛領(lǐng)域公認的領(lǐng)導(dǎo)者（Edge Case Research）合作，在ULSE的標(biāo)準(zhǔn)化技術(shù)委員會中共同制定該標(biāo)準(zhǔn)。ULSE的標(biāo)準(zhǔn)化技術(shù)委員會不僅包括來自汽車、機器人、航空和運輸?shù)阮I(lǐng)域的專家，還包括來自政府、保險機構(gòu)和其他消費者權(quán)益組織的利益相關(guān)者。這種制定標(biāo)準(zhǔn)的系統(tǒng)性方法可以確保全面衡量所有相關(guān)方的利益，從而制定出更為嚴(yán)格的標(biāo)準(zhǔn)。對于大多數(shù)標(biāo)準(zhǔn)制定組織（SDO）來說，使用類似的方法，在標(biāo)準(zhǔn)制定中利用AI技術(shù)，是另一個探索領(lǐng)域，可用于補充標(biāo)準(zhǔn)開發(fā)過程的輸入。

2.物聯(lián)網(wǎng)安全標(biāo)準(zhǔn)

物聯(lián)網(wǎng)（IoT）實現(xiàn)了產(chǎn)品互聯(lián)，但也帶來了安全方面的挑戰(zhàn)，而標(biāo)準(zhǔn)可以降低這一挑戰(zhàn)的風(fēng)險。《網(wǎng)絡(luò)可連接產(chǎn)品的軟件網(wǎng)絡(luò)安全標(biāo)準(zhǔn)》（UL 2900）是由ULSE發(fā)布的軟件系列標(biāo)準(zhǔn)，這些標(biāo)準(zhǔn)可與具有AI功能的智能終端配套使用。這些標(biāo)準(zhǔn)提出了網(wǎng)絡(luò)連接產(chǎn)品的軟件網(wǎng)絡(luò)通用安全要求，專門針對醫(yī)療和健康護理系統(tǒng)、工業(yè)控制系統(tǒng)、安全和生命安全信號系統(tǒng)的要求。重要的是，這些標(biāo)準(zhǔn)涉及產(chǎn)品和系統(tǒng)的互聯(lián)性，這使得這些系統(tǒng)更容易受到網(wǎng)絡(luò)攻擊。IoT技術(shù)闡明了實體產(chǎn)品之間互聯(lián)和應(yīng)用的方法。對于互聯(lián)產(chǎn)品來說，最重要的是兼顧安全性和韌性，以抵御網(wǎng)絡(luò)攻擊。這些攻擊非常復(fù)雜，一個簡單的漏洞就會造成嚴(yán)重的損失和破壞。每一個可以連接到互聯(lián)網(wǎng)的設(shè)備都容易出現(xiàn)網(wǎng)絡(luò)漏洞，因此像UL 2900這樣的系列標(biāo)準(zhǔn)為評估軟件能力提供了標(biāo)準(zhǔn)化的規(guī)程，以最大限度地降低物聯(lián)網(wǎng)的風(fēng)險。

3.遠程軟件更新安全標(biāo)準(zhǔn)

除了UL 2900系列標(biāo)準(zhǔn)外，ULSE還發(fā)布了同樣可與具有AI功能的智能終端配套使用的《遠程軟件更新安全標(biāo)準(zhǔn)》（UL 5500）。遠程軟件更新被越來越多地應(yīng)用于消費類電子產(chǎn)品，包括電動汽車、家電、醫(yī)療設(shè)備和智能手機等產(chǎn)品。這些軟件更新是為了解決軟件中的錯誤和改善軟件的各個方面，其中可能包括新增功能。對于軟件運行過程而言，遠程軟件由于在更新過程中缺乏保護而存在潛在風(fēng)險。該標(biāo)準(zhǔn)正是用于解決軟件在下載過程中的安全問題。UL 5500還是一項適用于終端產(chǎn)品安全的平行標(biāo)準(zhǔn)及其相關(guān)的安全測試和審批流程。

UL 2900 和 UL 5500都是ULSE制定的軟件系列標(biāo)準(zhǔn)，旨在將可能影響產(chǎn)品或系統(tǒng)安全功能的網(wǎng)絡(luò)安全風(fēng)險降至最低。ULSE著力推動這些標(biāo)準(zhǔn)的推廣應(yīng)用。在當(dāng)今市場上，產(chǎn)品的互聯(lián)性越來越強，通過網(wǎng)絡(luò)安全漏洞攻擊產(chǎn)品關(guān)鍵功能是普遍做法。

AI如何與標(biāo)準(zhǔn)化相結(jié)合？

在結(jié)合專家經(jīng)驗和科學(xué)知識制定標(biāo)準(zhǔn)的過程中，使用AI技術(shù)可以在某些情況下改進輸入。在醫(yī)療衛(wèi)生領(lǐng)域，研究人員正在利用AI技術(shù)，以更好地篩查和診斷疾病，并使用機器學(xué)習(xí)和深度學(xué)習(xí)模型來分析病理數(shù)據(jù)，以提高醫(yī)療技術(shù)。

由于對標(biāo)準(zhǔn)制定必須與技術(shù)發(fā)展同步的呼聲日益高漲，SDO也在探索同樣的方法。標(biāo)準(zhǔn)在制定過程中的協(xié)商一致程序被視為制約技術(shù)創(chuàng)新的拖沓流程。標(biāo)準(zhǔn)制定過程必須遵循公認的程序，同時要適應(yīng)技術(shù)進步。某項標(biāo)準(zhǔn)在經(jīng)歷投票和評議程序時，可能會收到數(shù)以百計的提案和評審意見。因此，參與標(biāo)準(zhǔn)制定的人必須擁有必要的工具和資源，以制定出反應(yīng)敏捷、具有相關(guān)性、技術(shù)嚴(yán)謹?shù)臉?biāo)準(zhǔn)，以用于應(yīng)對危機和降低風(fēng)險。AI可以用來作為標(biāo)準(zhǔn)制定者的技術(shù)補充。到目前為止，生成式AI是許多標(biāo)準(zhǔn)組織正在積極探索的流行方法。

1. 推動標(biāo)準(zhǔn)更快發(fā)布

生成式A I 可以快速有效地生成標(biāo)準(zhǔn)草案的格式化內(nèi)容，為標(biāo)準(zhǔn)制定組織提供技術(shù)支持。從本質(zhì)上講，生成式AI是一種工具，可以生成完整的標(biāo)準(zhǔn)文本內(nèi)容，包括適用范圍、術(shù)語和定義、設(shè)計要求、建造要求、測試方法，以及指導(dǎo)手冊和標(biāo)簽標(biāo)識要求。標(biāo)準(zhǔn)化專業(yè)人士認為，標(biāo)準(zhǔn)的最初構(gòu)想有賴于專家知識和數(shù)據(jù)洞察力，以確定標(biāo)準(zhǔn)的技術(shù)內(nèi)容是否有助于提高安全性、減少傷亡和財產(chǎn)損失風(fēng)險。利用生成式AI可以將已知的數(shù)據(jù)和科技成果應(yīng)用于標(biāo)準(zhǔn)制定過程的最前沿領(lǐng)域，并讓有關(guān)專家有機會進一步驗證這些信息。雖然沒有任何AI技術(shù)能夠取代標(biāo)準(zhǔn)化技術(shù)委員會專家的專業(yè)知識，但這些工具可用于實現(xiàn)標(biāo)準(zhǔn)所要求的一致性和協(xié)調(diào)性，也可以推動標(biāo)準(zhǔn)更快地發(fā)布。這種模式的成功取決于多種因素，如用于訓(xùn)練的數(shù)據(jù)質(zhì)量和數(shù)量、標(biāo)準(zhǔn)內(nèi)容的復(fù)雜性等。

生成式AI可用于協(xié)助、加快和優(yōu)化標(biāo)準(zhǔn)制定流程，特別是標(biāo)準(zhǔn)最初草案的形成。隨著AI技術(shù)應(yīng)用和相關(guān)專家之間的平衡性不斷提高，標(biāo)準(zhǔn)制定流程未來可能會被簡化，引入更多新的輸入，促進和提升標(biāo)準(zhǔn)的一致性和協(xié)調(diào)性。

2. 確保標(biāo)準(zhǔn)的安全性

在安全性方面，值得關(guān)注的是，對于使用AI技術(shù)生成的標(biāo)準(zhǔn)需求，我們不應(yīng)該將其視為對人類專業(yè)知識和判斷的替代，而是一種補充。AI可以成為增強人類技術(shù)的有用工具，但人類不應(yīng)該完全依賴AI來進行關(guān)鍵決策。如UL 4600采用非常規(guī)的方法—構(gòu)建安全案例—解決安全風(fēng)險問題的模式，并采用必要的安全原則為自動駕駛系統(tǒng)提供符合性評估指標(biāo)。

AI的倫理道德問題探索

世界各地的S D O 都在探索AI技術(shù)。人們對標(biāo)準(zhǔn)化內(nèi)容和醫(yī)療衛(wèi)生與交通運輸領(lǐng)域引入AI技術(shù)的倫理道德問題表示關(guān)注。

在醫(yī)療衛(wèi)生領(lǐng)域，AI技術(shù)在疾病篩查和診斷方面發(fā)揮著重要的作用。大數(shù)據(jù)集被用于生成可以為這種類型的建模進行訓(xùn)練和驗證的數(shù)據(jù)。在許多情況下，訓(xùn)練數(shù)據(jù)可能來自大型的信息數(shù)據(jù)集，但是數(shù)據(jù)并不完全代表所有的潛在結(jié)果。這不僅是醫(yī)療衛(wèi)生領(lǐng)域，也是教育、研究領(lǐng)域，甚至是安全領(lǐng)域所面臨的窘境。AI技術(shù)可以用來取代基于數(shù)據(jù)的人際互動，這些數(shù)據(jù)包括健康記錄、病理數(shù)據(jù)、臨床試驗，甚至是研究數(shù)據(jù)。這些數(shù)據(jù)源可能并不都是標(biāo)準(zhǔn)化的，可能具有獨特的格式，這使得訓(xùn)練機器學(xué)習(xí)模型很難復(fù)制和驗證其準(zhǔn)確性。

同樣，使用生成式A I 的SDO需要確保以互補的方式使用這些工具，以提供值得信賴的指導(dǎo)和考量。

電氣和電子工程師協(xié)會（IEEE）是全球最大的專業(yè)性技術(shù)組織，旨在為工程、計算和其他技術(shù)領(lǐng)域的專業(yè)人士提供服務(wù)。2023年，IEEE標(biāo)準(zhǔn)協(xié)會制定了一項計劃，免費提供AI倫理道德和治理方面的社會技術(shù)標(biāo)準(zhǔn)，以推動全球可信賴的AI的發(fā)展?？尚刨嚨腁I是教育人們提高倫理道德意識的關(guān)鍵，以便推動AI應(yīng)用朝著積極的方向發(fā)展。

國際電工委員會（IEC）認識到AI倫理道德的重要性，因此成立了一個特別小組（Ad Hoc Group）。 該特別小組開發(fā)了使用案例，并研究了對AI中的倫理道德規(guī)范采取協(xié)調(diào)方法的必要性。作為特別小組的一項工作成果，一個更正式的標(biāo)準(zhǔn)化評估小組（SEG）成立了。該標(biāo)準(zhǔn)化評估小組專注于自動駕駛和AI應(yīng)用中的倫理道德問題，該標(biāo)準(zhǔn)化評估小組的工作至今仍在繼續(xù)。

總 結(jié)

雖然AI的技術(shù)進步成為人類智能工具的關(guān)注熱點，但重要的是，倫理學(xué)在這一領(lǐng)域的決策中處于最前沿位置。SDO正在制定關(guān)于AI技術(shù)的安全標(biāo)準(zhǔn)，也在利用AI技術(shù)研制新的標(biāo)準(zhǔn)。這些標(biāo)準(zhǔn)有助于提升社會福祉。我們應(yīng)該確保這些標(biāo)準(zhǔn)符合高要求的倫理道德價值觀，從而確保AI不僅有效，而且值得信賴。