陳科

習(xí)近平總書(shū)記曾強(qiáng)調(diào)指出，“人工智能是人類發(fā)展新領(lǐng)域”。當(dāng)前，人工智能領(lǐng)域科技創(chuàng)新異?；钴S，一大批前沿成果陸續(xù)突破并帶動(dòng)全球人工智能創(chuàng)新的新一輪熱潮。其中，以大模型為代表的人工智能技術(shù)取得了重大突破，拉開(kāi)了通用人工智能時(shí)代的序幕。大模型在模型能力、應(yīng)用范圍、智能程度等方面最具代表性，經(jīng)歷了統(tǒng)計(jì)語(yǔ)言模型、神經(jīng)語(yǔ)言模型和預(yù)訓(xùn)練模型等階段的發(fā)展，以超大規(guī)模的參數(shù)在工程化加載后展現(xiàn)出的內(nèi)容，讓人們看到了科技的又一次歷史性跨越。人工智能進(jìn)入通用人工智能時(shí)代后，各種“類人”和“超人”能力將持續(xù)涌現(xiàn)，自主性、通用性和易用性快速提升，成為經(jīng)濟(jì)社會(huì)發(fā)展的新型技術(shù)底座。

首先，通用人工智能將對(duì)經(jīng)濟(jì)、就業(yè)、教育、生活方式等方面產(chǎn)生深遠(yuǎn)影響。通用人工智能時(shí)代將創(chuàng)造更多跨業(yè)態(tài)、多元化、高效率的商業(yè)模式，還將使一些工作自動(dòng)化并創(chuàng)造出新的就業(yè)機(jī)會(huì)和領(lǐng)域，進(jìn)而改變就業(yè)結(jié)構(gòu)。通用人工智能也將進(jìn)一步拓展教育空間，提升教育效果，優(yōu)化教育管理，促進(jìn)教育數(shù)字化發(fā)展，推動(dòng)教育現(xiàn)代化發(fā)展進(jìn)程。它還將使人們的工作、社交、醫(yī)療服務(wù)、娛樂(lè)等更加智能化、個(gè)性化。隨著大模型開(kāi)始模擬人類從事廣泛的語(yǔ)言理解和內(nèi)容生成任務(wù)，人們面臨著一個(gè)極具挑戰(zhàn)的問(wèn)題，即如何堅(jiān)持發(fā)展負(fù)責(zé)任的大模型，讓大模型的能力和行為與社會(huì)主義核心價(jià)值觀、全人類共同價(jià)值相一致，確保人類與人工智能協(xié)作過(guò)程中的安全與信任是關(guān)涉人工智能控制與人工智能安全的重要問(wèn)題。

其次，大模型目前存在一些突出問(wèn)題和潛在風(fēng)險(xiǎn)，如用戶隱私安全問(wèn)題、大模型本身的技術(shù)問(wèn)題：規(guī)范博弈、目標(biāo)錯(cuò)誤泛化、惡意使用等問(wèn)題。對(duì)大模型進(jìn)行價(jià)值觀對(duì)齊可以更好地應(yīng)對(duì)大模型目前存在的一些突出問(wèn)題和潛在風(fēng)險(xiǎn)，使大模型更加安全、可靠、實(shí)用。

再次，通用人工智能有望推動(dòng)人類社會(huì)邁向智能增強(qiáng)時(shí)代，將對(duì)經(jīng)濟(jì)社會(huì)發(fā)展和人類文明產(chǎn)生更加深遠(yuǎn)的影響。在智能增強(qiáng)時(shí)代，人機(jī)共存，物理世界和虛擬世界將交互并行?！叭恕锢硎澜绲膬稍臻g”將轉(zhuǎn)換為“人—物理世界—智能機(jī)器—虛擬信息世界”的四元空間。機(jī)器的智能化能力不斷提高，有望補(bǔ)齊感知、記憶、推理、情感上的短板，并將逐步擁有自主決策、自主學(xué)習(xí)和自主調(diào)節(jié)等能力，越來(lái)越顯示出通用、類人、智慧的特征。人機(jī)交互技術(shù)將日益革新，將滿足情景感知的自動(dòng)化、實(shí)時(shí)化和個(gè)性化要求，在持續(xù)顛覆用戶體驗(yàn)的同時(shí)達(dá)到智能增強(qiáng)的目的，進(jìn)而產(chǎn)生超級(jí)智能和融合智能等新形態(tài)。而伴隨著人工智能技術(shù)的不斷發(fā)展，人工智能與人類社會(huì)高度綁定，幫助乃至代替人類完成各種任務(wù)，這就更加需要人工智能能夠更好地反饋和適應(yīng)人類的反饋和需求，符合人類的道德準(zhǔn)則和價(jià)值觀念。

面對(duì)通用人工智能發(fā)展給世界帶來(lái)的巨大機(jī)遇和難以預(yù)知的各種風(fēng)險(xiǎn)與復(fù)雜挑戰(zhàn)，習(xí)近平總書(shū)記提出：“要重視通用人工智能發(fā)展，營(yíng)造創(chuàng)新生態(tài)，重視防范風(fēng)險(xiǎn)?！敝蟹皆诘谌龑谩耙粠б宦贰眹?guó)際合作高峰論壇上提出《全球人工智能治理倡議》，將同各國(guó)加強(qiáng)交流和對(duì)話，共同促進(jìn)全球人工智能健康有序安全發(fā)展。聯(lián)合國(guó)安理會(huì)舉辦“人工智能給國(guó)際和平與安全帶來(lái)的機(jī)遇與風(fēng)險(xiǎn)”高級(jí)別公開(kāi)會(huì)議，呼吁設(shè)立監(jiān)管機(jī)構(gòu)來(lái)監(jiān)督人工智能并成立AI咨詢機(jī)構(gòu)，為國(guó)際社會(huì)加強(qiáng)人工智能治理提供支持。加強(qiáng)人工智能治理，實(shí)現(xiàn)通用人工智能價(jià)值觀對(duì)齊是當(dāng)下亟待解決的重要問(wèn)題，一是要始終堅(jiān)持“以人為本”理念，以增進(jìn)人類共同福祉為目標(biāo)，確保人工智能朝著有利于人類文明進(jìn)步的方向發(fā)展；二是要始終堅(jiān)持“智能向善”宗旨，遵守倫理規(guī)范與法律法規(guī)，使其符合“和平、發(fā)展、公平、正義、民主、自由”的全人類共同價(jià)值追求，遵循社會(huì)主義核心價(jià)值觀，防止人工智能技術(shù)的惡用濫用；三是要積極加強(qiáng)人工智能技術(shù)持續(xù)創(chuàng)新，進(jìn)一步推動(dòng)人工智能技術(shù)發(fā)展；四是要積極發(fā)展人工智能治理的相關(guān)技術(shù)開(kāi)發(fā)與應(yīng)用，在人類反饋的強(qiáng)化學(xué)習(xí)、有效干預(yù)訓(xùn)練數(shù)據(jù)、開(kāi)發(fā)內(nèi)容過(guò)濾工具、推進(jìn)模型的可解釋性和可理解性等研究成果的基礎(chǔ)上，進(jìn)一步深化人工智能治理研究，提高人工智能治理的技術(shù)能力。

塑造正確的通用人工智能時(shí)代的價(jià)值觀，發(fā)展負(fù)責(zé)任的人工智能，促進(jìn)人工智能健康發(fā)展，需要政府、社會(huì)、企業(yè)、學(xué)術(shù)界等各方投入更多資源來(lái)推動(dòng)價(jià)值觀對(duì)齊研究與實(shí)踐，需要思想政治教育、哲學(xué)、計(jì)算機(jī)、倫理學(xué)、心理學(xué)、社會(huì)學(xué)等多學(xué)科共同參與，讓人們監(jiān)督、理解、控制人工智能的能力與人工智能的發(fā)展進(jìn)步齊頭并進(jìn)，以確保人工智能能夠造福全人類和全社會(huì)。