習(xí)近平總書記指出：“人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，將對全球經(jīng)濟(jì)社會發(fā)展和人類文明進(jìn)步產(chǎn)生深遠(yuǎn)影響?！鄙墒饺斯ぶ悄苁侵富谒惴?、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。在海量數(shù)據(jù)與強(qiáng)大算力支撐下，聽得懂、說得出、能互動的生成式人工智能快速迭代升級，呈現(xiàn)出良好互動性、高度通用性、智能生成性等特征，并正與各行各業(yè)形成更加剛性、高頻、泛在、深度的聯(lián)結(jié)，也導(dǎo)致其潛在風(fēng)險更多更真實。黨的二十屆三中全會《決定》科學(xué)把握人工智能發(fā)展規(guī)律和特點(diǎn)，提出“建立人工智能安全監(jiān)管制度”“完善生成式人工智能發(fā)展和管理機(jī)制”，體現(xiàn)了更好統(tǒng)籌發(fā)展和安全的客觀需要，為推動人工智能領(lǐng)域的技術(shù)進(jìn)步、產(chǎn)業(yè)發(fā)展與安全保障指明前進(jìn)方向。

生成式人工智能在技術(shù)運(yùn)行上可分為三個階段，即前置性學(xué)習(xí)訓(xùn)練及人工標(biāo)注輔助算法升級的準(zhǔn)備階段，輸入數(shù)據(jù)進(jìn)行算法處理得出生成物的運(yùn)算階段，生成物進(jìn)入社會加以運(yùn)用的生成階段。我們要深入分析生成式人工智能的運(yùn)行機(jī)理，把握各階段安全風(fēng)險形成與發(fā)展的特征，運(yùn)用法治手段加強(qiáng)系統(tǒng)性治理，確保生成式人工智能所蘊(yùn)含的巨大力量始終在法治軌道上發(fā)揮作用。

在生成式人工智能的準(zhǔn)備階段，數(shù)據(jù)安全風(fēng)險易發(fā)多發(fā)、較為突出。生成式人工智能通過數(shù)據(jù)訓(xùn)練、數(shù)據(jù)處理分析來提煉信息、預(yù)測趨勢。這就必須對數(shù)據(jù)進(jìn)行適當(dāng)分類，確立不同類型數(shù)據(jù)的利用模式和保護(hù)方式，以妥善應(yīng)對相關(guān)數(shù)據(jù)安全風(fēng)險，避免數(shù)據(jù)違規(guī)利用或者不當(dāng)泄露，產(chǎn)生侵權(quán)方面的糾紛。比如，在政務(wù)處理流程中形成的政務(wù)數(shù)據(jù)是數(shù)字政府的核心要素。生成式人工智能為了得出相對準(zhǔn)確的結(jié)論，不可避免地要收集分析政務(wù)數(shù)據(jù)。應(yīng)當(dāng)明確生成式人工智能獲取和利用政務(wù)數(shù)據(jù)的法律規(guī)則，既滿足利用政務(wù)數(shù)據(jù)服務(wù)社會的需求，有力支持人工智能政務(wù)服務(wù)大模型開發(fā)、訓(xùn)練和應(yīng)用，提高公共服務(wù)和社會治理智能化水平；又規(guī)范其加工方式，避免利用政務(wù)數(shù)據(jù)得出的成果侵害個人權(quán)益、破壞社會公共秩序。對于個人數(shù)據(jù)而言，生成式人工智能通過組合分析挖掘其潛在價值，其對個人數(shù)據(jù)的收集利用及其成果可能對公民權(quán)利造成侵害。實踐中，生成式人工智能傾向于過度收集個人數(shù)據(jù)以提升結(jié)論準(zhǔn)確性，比如，通過分析醫(yī)療健康數(shù)據(jù)來挖掘個人行蹤、預(yù)測個人生活軌跡。為此，必須堅持依法收集，按照技術(shù)所需的最小范圍收集個人數(shù)據(jù)，設(shè)置合理的數(shù)據(jù)處理深度，避免過度挖掘潛在信息。綜上，應(yīng)將分類分級的數(shù)據(jù)安全監(jiān)管要求嵌入生成式人工智能的準(zhǔn)備階段，避免數(shù)據(jù)安全風(fēng)險演化為具體的法益損害后果。

在生成式人工智能的運(yùn)算階段，內(nèi)生于人工智能大模型的算法偏見風(fēng)險值得警惕。生成式人工智能對于數(shù)據(jù)的分析和處理主要通過算法模型。不同于傳統(tǒng)算法模型，生成式人工智能在進(jìn)行機(jī)器學(xué)習(xí)的同時，還會以大量的人工標(biāo)注來校正機(jī)器學(xué)習(xí)的結(jié)論，推動人工智能進(jìn)化。但“機(jī)器學(xué)習(xí)+人工標(biāo)注”作為算法技術(shù)內(nèi)核，也會使人類的意志與偏好所產(chǎn)生的影響比單純的機(jī)器學(xué)習(xí)更大。個人偏好的影響疊加在算法模型本身的偏見之上，將導(dǎo)致算法偏見的負(fù)面效應(yīng)倍增，算法偏見的產(chǎn)生更加難以追溯和預(yù)防。防范化解算法偏見風(fēng)險，應(yīng)根據(jù)算法偏見的產(chǎn)生原理與產(chǎn)生場域進(jìn)行針對性治理。要將法律規(guī)范的要求深度嵌入生成式人工智能的算法模型之中，推動技術(shù)向善，消除算法偏見，確保合理利用生成式人工智能算法并分配算力資源?；诩脊芙Y(jié)合理念，加強(qiáng)對算法的全周期安全監(jiān)管，將法律規(guī)范的要求落實到生成式人工智能運(yùn)行的全流程之中。在設(shè)置算法之初就要遵循相關(guān)法律規(guī)則與技術(shù)標(biāo)準(zhǔn)，落實“機(jī)器學(xué)習(xí)+人工標(biāo)注”的規(guī)范要求，審查存在風(fēng)險的算法模塊，更好發(fā)現(xiàn)生成式人工智能算法模型中的技術(shù)風(fēng)險；當(dāng)發(fā)現(xiàn)先天性算法偏見時，依據(jù)法律要求從生成式人工智能的算法內(nèi)部進(jìn)行糾正，確保修改后的算法能正常運(yùn)行；事后出現(xiàn)問題時，對人工智能算法進(jìn)行溯源治理，實現(xiàn)精準(zhǔn)歸責(zé)并加以糾正，推動完善生成式人工智能的算法監(jiān)管標(biāo)準(zhǔn)，填補(bǔ)事前預(yù)防審查的不足，以技術(shù)手段與法律手段并行做到發(fā)展與管理并重。

在生成式人工智能的生成階段，存在著與生成物相關(guān)的知識產(chǎn)權(quán)風(fēng)險、生成物濫用風(fēng)險等多種風(fēng)險。由于生成式人工智能的智能化程度很高，可以實現(xiàn)內(nèi)容自動化編纂、智能化潤色加工、多模態(tài)轉(zhuǎn)換以及創(chuàng)造性生成，直接改變了內(nèi)容的生產(chǎn)方式與供給模式，相較于以往的人工智能系統(tǒng)產(chǎn)生了顛覆性變化，由此引發(fā)了生成式人工智能的生成物知識產(chǎn)權(quán)歸屬、知識產(chǎn)權(quán)保護(hù)等問題。有的人認(rèn)為生成式人工智能生成物是數(shù)據(jù)算法的結(jié)論，其本質(zhì)上是計算與模仿，而非智力勞動，無法成為知識產(chǎn)權(quán)的客體。反對者則認(rèn)為生成式人工智能模擬人腦神經(jīng)網(wǎng)絡(luò)的構(gòu)造來獲取與輸出數(shù)據(jù)，通過卷積神經(jīng)網(wǎng)絡(luò)控制自身的設(shè)計與制造，其具有獨(dú)創(chuàng)性與創(chuàng)新性的生成物應(yīng)當(dāng)受知識產(chǎn)權(quán)法保護(hù)。同時，生成式人工智能還增加了知識產(chǎn)權(quán)糾紛風(fēng)險和保護(hù)難度，一些生成物可能含有侵犯他人知識產(chǎn)權(quán)的內(nèi)容，或者經(jīng)過加工等手段被包裝成個人擁有完全知識產(chǎn)權(quán)的原創(chuàng)作品，引發(fā)相關(guān)知識產(chǎn)權(quán)爭議。為及時化解相關(guān)問題，應(yīng)對生成式人工智能的技術(shù)模式、技術(shù)原理按照知識產(chǎn)權(quán)法的標(biāo)準(zhǔn)開展實質(zhì)分析，如果技術(shù)上需要人類意志介入，使生成物能夠產(chǎn)生獨(dú)創(chuàng)性與創(chuàng)新性，應(yīng)賦予知識產(chǎn)權(quán)并明確其歸屬，強(qiáng)化生成式人工智能領(lǐng)域知識產(chǎn)權(quán)的系統(tǒng)性保護(hù)；同時要合理確定對生成物知識產(chǎn)權(quán)保護(hù)的范圍，避免保護(hù)范圍無限擴(kuò)張，妨礙生成式人工智能的推廣運(yùn)用和技術(shù)發(fā)展。還要加強(qiáng)對生成物濫用風(fēng)險的治理。比如，要求作品清楚標(biāo)識生成式人工智能在作者創(chuàng)作中發(fā)揮作用的情況，加強(qiáng)對可能涉及違法犯罪的深度偽造、AI換臉等生成物的精準(zhǔn)化、常態(tài)化監(jiān)管，等等。

生成式人工智能在社會應(yīng)用中產(chǎn)生的擴(kuò)散影響還有很多，除了上述風(fēng)險還有很多其他類型的風(fēng)險，比如加劇信息不對稱、擴(kuò)大數(shù)字鴻溝、損害數(shù)字弱勢群體的利益等。要根據(jù)實際情況作出應(yīng)對，盡量降低新技術(shù)給社會發(fā)展帶來的不良沖擊。

（作者為中國政法大學(xué)刑事司法學(xué)院教授）