文 ｜國(guó)網(wǎng)思極網(wǎng)安科技（北京）有限公司 尹琴 郭晨萌 李寧 湯文玉 崔宇 唐恒

隨著ChatGPT大語(yǔ)言模型的火爆，我國(guó)也出現(xiàn)了“文心一言”“通義千問”等，生成式人工智能技術(shù)（AIGC）的應(yīng)用對(duì)社會(huì)和行業(yè)產(chǎn)生了廣泛的影響。它可以幫助企業(yè)更快地生產(chǎn)高質(zhì)量的內(nèi)容，從而提高效率和降低成本。然而，AIGC也存在一些潛在的風(fēng)險(xiǎn)和挑戰(zhàn)，例如可能會(huì)被用于制造虛假信息、侵犯版權(quán)和知識(shí)產(chǎn)權(quán)等問題。因此，在使用AIGC時(shí)需要注意社會(huì)責(zé)任，并采取措施確保其使用是負(fù)責(zé)任和有益于整個(gè)社會(huì)。本文針對(duì)我國(guó)出臺(tái)的《生成式人工智能服務(wù)管理辦法（征求意見稿）》進(jìn)行解讀，并通過分析企業(yè)面臨的版權(quán)歸屬、數(shù)據(jù)泄露風(fēng)險(xiǎn)、不良信息傳播、深度偽造等風(fēng)險(xiǎn)，提出了開展登記備案、確保數(shù)據(jù)來源要合理合規(guī)、明確數(shù)據(jù)內(nèi)容標(biāo)識(shí)、做好隱私信息保護(hù)、建立審查過濾機(jī)制等相關(guān)對(duì)策建議。

一、《生成式人工智能服務(wù)管理辦法》解讀

2023年04月，國(guó)家互聯(lián)網(wǎng)信息辦公室根據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》等法律法規(guī)發(fā)布了《生成式人工智能服務(wù)管理辦法（征求意見稿）》（后面簡(jiǎn)稱“管理辦法”）。該管理辦法旨在促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，確保其符合法律法規(guī)要求，尊重社會(huì)公德和公序良俗。文件內(nèi)容包括：定義生成式人工智能技術(shù)、提供者需遵守的法律法規(guī)要求、預(yù)訓(xùn)練數(shù)據(jù)和標(biāo)注規(guī)則的要求、用戶身份信息收集和使用的要求、用戶投訴處理機(jī)制等。該辦法主要有21條，本文將進(jìn)行分析解讀。

（一）鼓勵(lì)國(guó)產(chǎn)化

管理辦法中第三條明確提出國(guó)家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國(guó)際合作，鼓勵(lì)優(yōu)先采用安全可信的軟件、工具、計(jì)算和數(shù)據(jù)資源。從中可以看出，國(guó)家對(duì)AIGC的重視，尤其是強(qiáng)調(diào)AI算法、框架等的國(guó)產(chǎn)自主可控性。國(guó)產(chǎn)化首先可以減少對(duì)外國(guó)產(chǎn)品和技術(shù)的依賴，提高一個(gè)國(guó)家的經(jīng)濟(jì)獨(dú)立性和國(guó)家安全。其次，可以促進(jìn)技術(shù)轉(zhuǎn)移和提高技術(shù)競(jìng)爭(zhēng)力，從而推動(dòng)一個(gè)國(guó)家的經(jīng)濟(jì)發(fā)展。

（二）遵守法律法規(guī)和社會(huì)公德、公序良俗

第四條明確提出“提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求，尊重社會(huì)公德、公序良俗”。具體包括要體現(xiàn)社會(huì)主義核心價(jià)值觀、防止歧視（第十二條也再次強(qiáng)調(diào)該點(diǎn)）、保護(hù)知識(shí)產(chǎn)權(quán)杜絕不公平競(jìng)爭(zhēng)、確保信息真實(shí)、尊重個(gè)人合法利益等。從本質(zhì)上看，該條款是我國(guó)社會(huì)主義核心價(jià)值觀的體現(xiàn)。

（三）誰(shuí)生成誰(shuí)負(fù)責(zé)，誰(shuí)提供誰(shuí)負(fù)責(zé)

在可用性和真實(shí)性方面，提供者應(yīng)當(dāng)在生命周期內(nèi)，提供安全、穩(wěn)健、持續(xù)的服務(wù)，保障用戶正常使用（第十四條），同時(shí)需要對(duì)生成內(nèi)容進(jìn)行標(biāo)識(shí)（第十六條），這是最基本的權(quán)利要求。提供者需要求用戶提供真實(shí)身份信息，符合網(wǎng)絡(luò)安全法規(guī)定（第九條）。如果采用人工標(biāo)注，提供者還需制定符合本管理辦法的標(biāo)注規(guī)則，確保標(biāo)注內(nèi)容的正確性（第八條）。此外，還應(yīng)當(dāng)指導(dǎo)用戶科學(xué)認(rèn)識(shí)和理性使用生成式人工智能生成的內(nèi)容，杜絕違法現(xiàn)象出現(xiàn)（第十八條）。

在隱私保護(hù)和合法性等方面，第五條明確提出“提供者承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任”，且要保護(hù)個(gè)人隱私信息、用戶畫像以及保護(hù)用戶輸入和使用記錄等（第十一條），還要采取措施防范用戶過分依賴或沉迷生成內(nèi)容（第十條），且需要提供可影響用戶信任、選擇的必要信息（十七條）。第七條明確提出“提供者應(yīng)當(dāng)對(duì)生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來源的合法性負(fù)責(zé)?！贝送?，提供者應(yīng)當(dāng)建立用戶投訴接收處理機(jī)制，及時(shí)處理個(gè)人關(guān)于更正、刪除、屏蔽其個(gè)人信息的請(qǐng)求，防止個(gè)人權(quán)利被侵害（第十三條）。對(duì)于運(yùn)行中發(fā)現(xiàn)、用戶舉報(bào)的不符合本辦法要求的生成內(nèi)容，除采取內(nèi)容過濾等措施外，應(yīng)在3個(gè)月內(nèi)通過模型優(yōu)化訓(xùn)練等方式防止再次生成（第十五條）。

（四）評(píng)估備案

第六條明確提出利用AIGC提供服務(wù)前，需要向國(guó)家網(wǎng)信部門申報(bào)安全評(píng)估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。這是為了確保生成式人工智能產(chǎn)品和服務(wù)符合法律法規(guī)的要求，尊重社會(huì)公德、公序良俗，不含有違反國(guó)家政策的內(nèi)容，并且保護(hù)用戶的個(gè)人信息和隱私。評(píng)估備案可以幫助監(jiān)管部門對(duì)生成式人工智能產(chǎn)品和服務(wù)進(jìn)行有效監(jiān)管，防止不良內(nèi)容的傳播和個(gè)人信息泄露等問題。同時(shí)，也可以促進(jìn)企業(yè)遵守相關(guān)法律法規(guī)，提高企業(yè)的社會(huì)責(zé)任感和公信力。

（五）違法處置

第十九條和第二十條明確規(guī)定，如果用戶在使用AIGC產(chǎn)品或服務(wù)過程中違反法律法規(guī)，違背商業(yè)道德、社會(huì)公德行為時(shí)，應(yīng)當(dāng)暫?；蛘呓K止服務(wù)。除了本管理辦法，第二十條還規(guī)定網(wǎng)信等部門還可根據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》等法律、行政法規(guī)的規(guī)定予以處罰，根據(jù)情況可以警告、通報(bào)批評(píng)、暫停服務(wù)、罰款，甚至給予治安管理處罰或者追究刑事責(zé)任。

二、企業(yè)面臨的法律風(fēng)險(xiǎn)

（一）版權(quán)歸屬問題

AIGC的訓(xùn)練需要大量數(shù)據(jù)，訓(xùn)練數(shù)據(jù)和生成的數(shù)據(jù)版權(quán)存在較大的法律風(fēng)險(xiǎn)。首先，訓(xùn)練數(shù)據(jù)來源是否被授權(quán)，利用爬蟲從網(wǎng)絡(luò)爬取的數(shù)據(jù)就容易引起法律糾紛。例如，全球知名圖片提供商Getty Images起訴熱門人工智能（AI）繪畫工具Stable Diffusion的開發(fā)者Stability AI，稱其非法從網(wǎng)站竊取了數(shù)百萬(wàn)張圖片，侵犯了版權(quán)。其次，AIGC生成的數(shù)據(jù)版權(quán)是否屬于AIGC服務(wù)“提供者”，這是一個(gè)在知識(shí)產(chǎn)權(quán)法學(xué)界存在較大爭(zhēng)議的問題。

（二）數(shù)據(jù)泄露安全風(fēng)險(xiǎn)

AIGC模型的訓(xùn)練需要大量的數(shù)據(jù)，龐大的數(shù)據(jù)中可能包含很多人的敏感信息，同時(shí)AIGC在使用過程中會(huì)不斷提取使用者輸入的信息作為訓(xùn)練數(shù)據(jù)，進(jìn)行不斷迭代訓(xùn)練。因此，AIGC可能造成個(gè)人信息泄露的風(fēng)險(xiǎn)。當(dāng)前以ChatGPT為代表的AIGC并沒有獲得用戶的同意，違法我國(guó)《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)條例》等法律法規(guī)的規(guī)定。

（三）不良信息傳播風(fēng)險(xiǎn)

AIGC生成內(nèi)容的同時(shí)，可能會(huì)引入政治傾向、歧視等問題。帶有該類問題的不良信息的傳播，可能會(huì)存在加劇歧視的風(fēng)險(xiǎn)，例如生成種族歧視、性別歧視、暴力、血腥色情等等違背法律和公序良俗的內(nèi)容，給整個(gè)社會(huì)、國(guó)家造成較大的安全風(fēng)險(xiǎn)。

（四）深度偽造風(fēng)險(xiǎn)

AIGC可以生成文字、圖像、視頻等，因此可以用于實(shí)現(xiàn)AI換臉、合成語(yǔ)音、人臉合成、視頻生成等場(chǎng)景。一旦被不法分子利用，可以用于金融詐騙、敲詐勒索等，對(duì)于社會(huì)造成極大的危害。

三、對(duì)策建議

（一）開展登記備案

對(duì)于AIGC的產(chǎn)品或服務(wù)，一律采取登記備案的方式，并評(píng)估其安全風(fēng)險(xiǎn)。一旦出現(xiàn)問題，便于溯源追責(zé)。例如，市場(chǎng)上魚龍混雜的APP、小程序等均需要備案登記和評(píng)估，只有授權(quán)后才可以進(jìn)入市場(chǎng)，否則將一律封禁處罰。

（二）確保數(shù)據(jù)來源要合理合規(guī)

企業(yè)在訓(xùn)練自己的AIGC產(chǎn)品或者提供服務(wù)前，要對(duì)訓(xùn)練數(shù)據(jù)逐一排查，確保訓(xùn)練數(shù)據(jù)來源可靠、獲得授權(quán)等，杜絕版權(quán)糾紛問題。例如，爬取知名網(wǎng)站的圖片作為訓(xùn)練數(shù)據(jù)，必須取得對(duì)方網(wǎng)站的書面授權(quán)，否則一律視為侵權(quán)。

（三）明確數(shù)據(jù)內(nèi)容標(biāo)識(shí)

企業(yè)如果提供的數(shù)據(jù)是由AIGC生成的，建議明確標(biāo)注為AIGC生成。例如，合成的圖片、視頻、語(yǔ)音等，避免產(chǎn)生因深度偽造產(chǎn)生的誤導(dǎo)糾紛等。

（四）做好隱私信息保護(hù)

AIGC企業(yè)在獲取用戶信息時(shí)，首先要獲得用戶同意，取得用戶授權(quán)；其次，要做好用戶個(gè)人隱私信息的保護(hù)，例如采取加密、差分隱私等技術(shù)手段確保用戶隱私不被泄露。

（五）建立審查過濾機(jī)制

建議AIGC企業(yè)不斷完善審核不良信息的特征庫(kù)，加強(qiáng)對(duì)生產(chǎn)內(nèi)容的審查和過濾，確保應(yīng)用當(dāng)中盡量少的、有違法和違反公序良俗的內(nèi)容，在發(fā)現(xiàn)這些信息后應(yīng)當(dāng)要及時(shí)處置。另外，在處置時(shí)需要保存有關(guān)的處置和改進(jìn)的記錄，并將這些日志信息進(jìn)行封存。如果發(fā)現(xiàn)用戶中有違法使用者，可以警示或限制他們使用一些功能等等。

四、結(jié)語(yǔ)

AIGC是一把雙刃劍，在提高效率的同時(shí)，也引入了安全風(fēng)險(xiǎn)隱患。因此，需要加強(qiáng)立法、加強(qiáng)監(jiān)督、合理引導(dǎo)，最大限度降低風(fēng)險(xiǎn)，發(fā)揮AIGC最大價(jià)值，為我國(guó)經(jīng)濟(jì)健康穩(wěn)定發(fā)展貢獻(xiàn)AI智慧。