商建剛

(上海政法學院,上海 201701)

一、問題的提出

ChatGPT等生成式人工智能應(yīng)用帶來了“用戶提示—AI生成”的新場景,被遺忘權(quán)項下的“刪除權(quán)”和“解除索引權(quán)”無法實施。早在2017年,谷歌研究人員構(gòu)建了Transformer模型(1)See Vaswani,etal,“Attention is all your need.”arXiv:1706.03762 [cs.CL](2017).,在生成式人工智能領(lǐng)域形成了“預訓練+微調(diào)”的開發(fā)范式(2)See OpenAI:Introducing ChatGPT, https://openai.com/blog/chatgpt/, last visited on February 27, 2023.,可在超大數(shù)據(jù)量下,對尚未進行標注的語料庫進行學習,并通過微調(diào)快速適用于下游任務(wù)?！邦A訓練+微調(diào)”的AI開發(fā)范式極大地節(jié)約了開發(fā)成本,產(chǎn)生了諸如ChatGPT、BERT、Midjourney、文心一言等生成式人工智能應(yīng)用?？梢哉f,人類已經(jīng)進入生成式人工智能時代,數(shù)據(jù)基礎(chǔ)制度的核心已從保護轉(zhuǎn)向運用(3)商建剛,馬忠法.數(shù)據(jù)權(quán)益的實現(xiàn):從保護到運用[J/OL].社會科學輯刊:1-12[2023-05-14].。然而,生成式人工智能的自學習模式將未標注的個人原始信息變成一碗“數(shù)據(jù)湯”(4)See ChatGPT vs GDPR - what AI chatbots mean for data privacy,https://www.information-age.com/chatgpt-vs-gdpr-what-ai-chatbots-mean-for-data-privacy-123501570/,last visited on 10 March 2023.,其濫用個人信息方式具有無形性、潛伏性、未知性等特征(5)田野.風險作為損害:大數(shù)據(jù)時代侵權(quán)“損害”概念的革新[J].政治與法律,2021,(10):25-39.,以至信息主體面臨“告知—同意”失效、司法救濟難等困局(6)張濤.探尋個人信息保護的風險控制路徑之維[J].法學,2022,(6):57-71.,給個人信息權(quán)利的保護帶來了極大挑戰(zhàn)。

我國法學界對被遺忘權(quán)的法律屬性、理論基礎(chǔ)、制度內(nèi)涵尚未形成共識。我國沒有采用歐盟《通用數(shù)據(jù)保護條例》(簡稱GDPR)中擦除權(quán)(“被遺忘權(quán)”)的提法,而是在《民法典》從賦權(quán)的角度在第1037條第2款規(guī)定了自然人的信息刪除權(quán),《個人信息保護法》從數(shù)據(jù)保護的角度在第47條對刪除權(quán)作了細化規(guī)定,由此產(chǎn)生了被遺忘權(quán)和刪除權(quán)的法律概念之爭。主要有三類觀點:第一類觀點認為,被遺忘權(quán)是刪除權(quán)的上位概念(7)段衛(wèi)利.被遺忘權(quán)的概念分析——以分析法學的權(quán)利理論為工具[J].河南大學學報(社會科學版),2018,58(5):17-24.。持該觀點的學者認為,被遺忘權(quán)包含刪除權(quán),刪除權(quán)是手段,被遺忘權(quán)是目的。第二類觀點認為,刪除權(quán)是被遺忘權(quán)的上位概念(8)薛麗.GDPR生效背景下我國被遺忘權(quán)確立研究[J].法學論壇,2019,34(2):100-109.。持該觀點的學者認為,根據(jù)GDPR第17條所采取的“刪除權(quán)(被遺忘權(quán))”命名方式,刪除權(quán)是根本,被遺忘權(quán)是補充。第三類觀點認為,刪除權(quán)和被遺忘權(quán)等同(9)程嘯.論《個人信息保護法》中的刪除權(quán)[J].社會科學輯刊,2022,(1):103-113+209.。持該觀點的學者認為,被遺忘權(quán)的重點在于刪除而非遺忘,過于文學化、充滿感性的表達無法反映被遺忘權(quán)的本質(zhì),其實質(zhì)是刪除權(quán)(10)鄭志峰.網(wǎng)絡(luò)社會的被遺忘權(quán)研究[J].法商研究,2015,32(6):50-60.。在生成人工智能技術(shù)出現(xiàn)之前,基于個人對數(shù)據(jù)的控制,行使刪除權(quán)和被遺忘權(quán)的主體均為自然人,刪除權(quán)和被遺忘權(quán)的目的都在于維護人類的人格尊嚴,實施主體和內(nèi)容并無本質(zhì)區(qū)別,對兩者進行嚴格區(qū)分并非迫切。然而,在生成式人工智能時代,數(shù)據(jù)湯現(xiàn)象導致刪除信息已難以實現(xiàn),被遺忘權(quán)更能體現(xiàn)被遺忘的立法目的和概念內(nèi)涵。因此,本文以被遺忘權(quán)作為概念統(tǒng)攝進行論述。現(xiàn)有對于被遺忘權(quán)的研究多基于用戶被動接受信息或用戶主動生成內(nèi)容的傳統(tǒng)場景展開(11)如丁曉東.被遺忘權(quán)的基本原理與場景化界定[J].清華法學,2018,12(6):94-107;劉文杰.被遺忘權(quán):傳統(tǒng)元素、新語境與利益衡量[J].法學研究,2018,40(2):24-41.等。,然而生成式人工智能技術(shù)削弱了自然人對個人信息的控制,個人信息保護陷入新的困境,我們必須追問被遺忘權(quán)在人工智能時代該如何實現(xiàn)。

二、數(shù)據(jù)湯:被遺忘權(quán)的窘境

生成式人工智能采取“用戶提示—AI生成”交互路徑,這種交互方式縮短了從問題到答案的“距離”。在信息的壓縮(輸入)與復現(xiàn)(輸出)過程中,以“刪除”和“斷鏈”為主要實現(xiàn)方式的被遺忘權(quán),已經(jīng)無法適用。在技術(shù)上,生成式人工智能帶來了“數(shù)據(jù)湯”現(xiàn)象。在法律上,“刪除權(quán)”與“解除索引權(quán)”的實現(xiàn)路徑已被架空。

(一)被遺忘權(quán)遭遇數(shù)據(jù)湯的窘境

技術(shù)革新帶來法律應(yīng)用場景的變化,法律應(yīng)隨之發(fā)展。智能科技以其“智能技術(shù)范式”構(gòu)成了對人公開的或隱蔽的宰制(12)孫偉平:人工智能與人的“新異化”[J].中國社會科學,2020,300(12):119-137+202-203.,這種權(quán)力具有隱蔽性,一種形象的表述是“谷歌決定了你是誰”(13)See Meg Leta Ambrose, You Are What Google Says You Are:The Right to be Forgotten and Information Stewardship, 17 Int’l Rev. Info. Ethics 21,22 (2012).。因此,數(shù)字時代的個人權(quán)利保障一直是數(shù)據(jù)法學的研究重點。值得注意的是,現(xiàn)有被遺忘權(quán)更多規(guī)范的是“顯性數(shù)據(jù)”,例如個人發(fā)布的信息、鏈接等,而在生成式人工智能語境下,神經(jīng)網(wǎng)絡(luò)“黑箱”的運行機制將導致被遺忘權(quán)面對無法處理“隱性數(shù)據(jù)”的窘境。

基于涌現(xiàn)現(xiàn)象,ChatGPT產(chǎn)生了“心智理論”(Theory of Mind,ToM),原理在于對“隱性數(shù)據(jù)”的利用。心智理論,即具有理解和推斷他人心理狀態(tài)的能力,這通常被認為是人類的特征。GPT-1和GPT-2均沒有表現(xiàn)出心智能力,但2022年1月和11月相繼發(fā)布的GPT-3和GPT-3.5分別在心智測試方面展現(xiàn)出與七歲和九歲兒童相匹配的心智能力(15)See Michal Kosinski, Theory of Mind May Have Spontaneously Emerged in Large Language Models, arXiv:2302.02083.。大語言模型可以涌現(xiàn)心智理論,以人類語料庫為數(shù)據(jù)集的大語言模型產(chǎn)生了理解人類心理狀態(tài)的能力。心理學家弗洛伊德將意識分為前意識、潛意識和意識,與之類似,ChatGPT等生成式人工智能應(yīng)用具有利用“隱性數(shù)據(jù)”的能力。

涌現(xiàn)現(xiàn)象以及心智理論的產(chǎn)生是一種“算法黑箱”,生成式人工智能的記憶與遺忘過程與非生成式人工智能相應(yīng)過程不同,人類無法也不能感知相關(guān)數(shù)據(jù)的利用狀態(tài)。事實上,設(shè)計者并沒有賦予ChatGPT遺忘的能力。盡管OpenAI給出了通過注銷賬戶刪除全部數(shù)據(jù)以及通過申請刪除選定數(shù)據(jù)兩種刪除數(shù)據(jù)路徑,但OpenAI并沒有對刪除方式和是否確保數(shù)據(jù)能被完全刪除進行說明(16)See OpenAI:API data usage policies, https://openai.com/policies/api-data-usage-policies.last visited on April 16, 2023.。從現(xiàn)有的技術(shù)表現(xiàn)來看,生成式人工智能時代下“數(shù)據(jù)湯”現(xiàn)象的出現(xiàn)與“隱性數(shù)據(jù)”被利用密切相關(guān),被遺忘權(quán)如何規(guī)制隱形數(shù)據(jù)是必須回應(yīng)的時代命題。

(二)人工智能時代“刪除權(quán)”和“解除索引權(quán)”的實現(xiàn)路徑落空

關(guān)于是否需要創(chuàng)設(shè)被遺忘權(quán),美國尚處于言論自由、公眾知情權(quán)與個人信息權(quán)利平衡的博弈過程中,尚未在全美范圍內(nèi)設(shè)立被遺忘權(quán)制度。我國與歐盟則承認被遺忘權(quán),在立法中體現(xiàn)為刪除權(quán)。結(jié)合司法實踐,被遺忘權(quán)可以通過“刪除權(quán)”和“解除索引權(quán)”兩種路徑實現(xiàn)(17)就美國立法來看,美國仍在討論要不要建立被遺忘權(quán)制度,目前尚未在全美范圍內(nèi)承認被遺忘權(quán),僅《加利福尼亞州消費者隱私保護法案》和《弗吉尼亞州消費者數(shù)據(jù)保護法》確立了類似被遺忘權(quán)的制度。主要原因在于,美國憲法第一修正案禁止國會剝奪言論自由、新聞自由,這是反對在美國構(gòu)建被遺忘權(quán)制度最重要的理由之一。。被遺忘權(quán)確立于歐盟2014年谷歌西班牙訴岡薩雷斯案中(18)Case C-131/12, Google Spain SL v. González.,我國則于2015年出現(xiàn)被遺忘權(quán)第一案(19)參見北京市第一中級人民法院(2015)一中民終字第 09558 號民事判決書。。上述案例已被廣泛討論,基本確定了行使被遺忘權(quán)的“刪除”路徑,即刪除所有相關(guān)信息的“刪除權(quán)”,在此不再贅述。然而,被遺忘權(quán)還有另一種行使路徑即“斷鏈”或者稱為解除索引權(quán)。

歐盟法院在司法實踐中確立了被遺忘權(quán)的“解除索引權(quán)”(Right to request delisting)權(quán)能。歐洲數(shù)據(jù)保護委員會(EDPB)認為“解除索引權(quán)”形成于岡薩雷斯案(20)See DEPB:Guidelines 5/2019 on the criteria of the Right to be Forgotten in the search engines cases under the GDPR(part 1), 17 February 2020.,然而該項權(quán)利在歐盟經(jīng)歷了長時間的討論才最終被確認。2015年5月21日,法國數(shù)據(jù)保護監(jiān)管機構(gòu)國家信息技術(shù)與自由委員會(Commission nationale de l’informatique et des libertés,CNIL)要求谷歌將應(yīng)刪除信息的刪除范圍擴大至搜索引擎的全部域名。CNIL認為,谷歌通過地理封鎖技術(shù),阻止本地IP地址對應(yīng)刪除信息的訪問并不足以履行被遺忘權(quán),這些信息仍然能被非本地IP地址訪問,從而使得被遺忘權(quán)落空。谷歌則辯稱,消除自然人與信息之間的聯(lián)系“并不一定要求不受地域限制地在所有的搜索引擎域名中刪除相關(guān)鏈接。CNIL無視國際公法所認可的原則,過度侵犯了表達、信息、通信和新聞自由?！睔W盟法院進行考量后支持了谷歌的辯護意見,認為僅刪除該用戶所在國相對應(yīng)的搜索引擎版本中的應(yīng)刪除信息即可認為落實了被遺忘權(quán)(21)Case C-507/17, Google LLC, v. CNIL.。換言之,谷歌訴CNIL一案實際上承認了谷歌采取“斷鏈”的行為符合被遺忘權(quán)的要求,確定了被遺忘權(quán)“斷鏈”的新路徑,即被遺忘權(quán)之“解除索引權(quán)”。

然而,面對生成式人工智能時代“數(shù)據(jù)湯”的新場景,現(xiàn)有“刪除權(quán)”或“解除索引權(quán)”均不存在技術(shù)上實現(xiàn)的可能。對“刪除”路徑而言,生成式人工智能存在利用“隱性數(shù)據(jù)”的可能,已經(jīng)被生成式人工智能“記住”的信息無法被刪除。即便Open AI公司宣稱采取了刪除措施,也無法進行驗證。對“斷鏈”路徑而言,生成式人工智能的價值在于不會像傳統(tǒng)搜索引擎一樣提供“鏈接”。即便對于Newbing等確實會提供鏈接的應(yīng)用而言,由于即便“斷鏈”本質(zhì)上也沒有刪除信息,生成式人工智能強大的搜集能力仍然可以檢索到相關(guān)信息,并重新組合成為不同的表現(xiàn)形式再次呈現(xiàn)給用戶,通過“斷鏈”的方式無法實現(xiàn)自然人的被遺忘權(quán)。由于“刪除”與“斷鏈”在新場景中失效,被遺忘權(quán)亟需理論和制度重構(gòu)。

三、被遺忘權(quán)在生成式人工智能時代的再定位

被遺忘權(quán)是新興權(quán)利,與隱私權(quán)、名譽權(quán)、個人信息自決權(quán)等權(quán)利緊密相關(guān),在理論定位上尚存爭議。首先,被遺忘權(quán)是程序性權(quán)利還是實體性權(quán)利?其次,被遺忘權(quán)如果是一項獨立的權(quán)利,其理論依據(jù)是什么?關(guān)于前者,有學者認為,被遺忘權(quán)無法像個人信息權(quán)等絕對性實體權(quán)利一樣提起侵權(quán)訴訟,固其是一種程序性請求權(quán),而非實體權(quán)利(22)李立豐.本土化語境下的“被遺忘權(quán)”:個人信息權(quán)的程序性建構(gòu)[J].武漢大學學報(哲學社會科學版),2019,72(3):145-155.。如果僅規(guī)定了程序上能夠進行刪除,則并非賦予被遺忘權(quán)實體權(quán)利地位(23)羅勇.論我國個人信息保護立法中“被遺忘權(quán)”制度的構(gòu)建[J].暨南學報(哲學社會科學版),2018,40(12):69-80.。反對者則認為,按現(xiàn)有國內(nèi)外的立法范式,被遺忘權(quán)存在實體法、程序法、信息法三種劃分方式(24)張建文.俄羅斯被遺忘權(quán)立法的意圖、架構(gòu)與特點[J].求是學刊,2016,43(5):102-110.,我國已經(jīng)形成了“以憲法為基礎(chǔ)、以實體法為依據(jù)、以程序法為保障、以規(guī)章及條例為補充”被遺忘權(quán)體系(25)劉學濤,李月.大數(shù)據(jù)時代被遺忘權(quán)本土化的考量——兼以與個人信息刪除權(quán)的比較為視角[J].科技與法律,2020,(2):78-88.。以上可見,被遺忘權(quán)是一種程序性權(quán)利還是實體權(quán)利尚存爭議。

關(guān)于后者,被遺忘權(quán)的理論基礎(chǔ)在于個人信息自決,但學界尚未就此形成共識。反對的觀點認為,被遺忘權(quán)的執(zhí)行主體是搜索引擎公司等數(shù)據(jù)處理者,是否刪除信息完全由數(shù)據(jù)處理者決定,這種情況下,追求信息自決的權(quán)利是一種幻象(26)劉澤剛.過度互聯(lián)時代被遺忘權(quán)保護與自由的代價[J].當代法學,2019,33(1):91-100.。換言之,被遺忘權(quán)在技術(shù)上無法實現(xiàn)。還有學者認為,我國對于被遺忘權(quán)的法律規(guī)定、立法建議以及司法判決未將被遺忘權(quán)作為天然權(quán)利賦予個人,行使被遺忘權(quán)要滿足“違反法律、行政法規(guī)的規(guī)定”等前置條件,被遺忘權(quán)的權(quán)利基礎(chǔ)不是個人信息權(quán),而是規(guī)制信息流通(27)丁曉東.被遺忘權(quán)的基本原理與場景化界定[J].清華法學,2018,12(6):94-107.。這種觀點否定了被遺忘權(quán)是一項獨立權(quán)利。此外,以隱私權(quán)理論、個人身份建構(gòu)理論等作為被遺忘權(quán)的理論基礎(chǔ)也得到相當多的學者支持。由此可見,被遺忘權(quán)是否為一項獨立權(quán)利在理論界仍有分歧。

被遺忘權(quán)應(yīng)當作為一項獨立權(quán)利來建構(gòu)。首先,在Web2.0時代,既有判決認定刪除、斷鏈作為被遺忘權(quán)的技術(shù)實現(xiàn)方式,實現(xiàn)被遺忘權(quán)存在現(xiàn)實可能。在互聯(lián)網(wǎng)時代追求信息自決的權(quán)利不僅不是一種幻象,還是人類自我管理的能力體現(xiàn)。人工智能發(fā)展會導致人的主體性缺失,技術(shù)物化會對人的能力“殖民化”,主體信息面臨去隱私化抑或透明化。作為應(yīng)對,必須堅持工具理性與價值理性的統(tǒng)一,確?？萍枷蛏?28)張海濤,周桃順.馬克思主義異化論視域下人工智能的“人文困境”與反思[J].浙江理工大學學報(社會科學版),2023,50(1):96-102.。其次,提出將被遺忘權(quán)建立在規(guī)制信息流通基礎(chǔ)之上的構(gòu)想,試圖在信息的合理流通與人們的合理預期之間找到制度平衡,缺乏理論支撐,將造成相關(guān)制度成為無源之水、無本之木,在操作層面也缺乏統(tǒng)一的執(zhí)行標準。最后,被遺忘權(quán)已經(jīng)寫進我國《民法典》《個人信息保護法》的實體法中,而非規(guī)定在訴訟程序法中。為此,被遺忘權(quán)應(yīng)當作為獨立的實體權(quán)利來討論。

低地竹占竹林總面積70%，分布于本香古勒-古木茲、奧羅莫、阿姆哈拉等州海拔540～1 750 m、年降雨量1 500 mm、年均溫23 ℃的地區(qū)，是一種非常耐旱的竹種。旱季時葉子全部枯黃，雨季時重新萌發(fā)新葉。稈高6～10 m，直徑4～8 cm，壁厚或?qū)嵭模?jié)長20 cm。主要用作房屋、籬笆、家具和薪材，鮮葉喂驢、羊、牛等家畜。為竹炭和竹漿生產(chǎn)的優(yōu)質(zhì)原料。

被遺忘權(quán)的理論基礎(chǔ)值得進一步討論。通過對隱私權(quán)、名譽權(quán)的體系化考察發(fā)現(xiàn),被遺忘權(quán)實際上突破了隱私權(quán)和名譽權(quán)的概念范疇,其價值功能和立法目的在于在私密信息以及過時負面信息之外,規(guī)制已經(jīng)進入公共領(lǐng)域的個人過時信息。在生成式人工智能時代,隱私權(quán)、名譽權(quán)、被遺忘權(quán)分別針對私密信息、過時負面信息、過時信息三類不同的信息。三種權(quán)利基于各自不同的法學理論各自成立、各自獨立、各有分工,從三個不同角度維護人類尊嚴,豐富人格權(quán)權(quán)利體系。

(一)隱私權(quán)理論與被遺忘權(quán)

大數(shù)據(jù)時代,個人隱私保護和新技術(shù)運用與商業(yè)便利之間的沖突更為激烈,隱私權(quán)理論一度成為被遺忘權(quán)的理論基礎(chǔ)。塞繆爾·沃倫(Samuel Warren)和路易斯·布蘭代斯(Louis Brandeis)是最早研究信息隱私的學者,他們認為個人享受新技術(shù)和商業(yè)便利等利益的渴望,與個人隱私免受窺探的本能之間存在著明顯的緊張關(guān)系(29)See Samuel Warren &Louis Brandeis, The Right to Privacy, 4 Harv. L. Rev. 193 (1890).。隱私權(quán)理論認為,被遺忘權(quán)是隱私權(quán)的延伸(30)彭支援.被遺忘權(quán)初探[J].中北大學學報(社會科學版),2014,30(1):36-40.。但該權(quán)利已經(jīng)不再保護傳統(tǒng)意義上的隱私,而是隨著立法與實踐的變革更多指向個人信息控制(31)劉文杰.被遺忘權(quán):傳統(tǒng)元素、新語境與利益衡量[J].法學研究,2018,40(2):24-41.。

通過對歐盟被遺忘權(quán)的制度起源進行考察發(fā)現(xiàn),被遺忘權(quán)實際上擴大了傳統(tǒng)隱私權(quán)的范疇,令隱私權(quán)可針對已公開的過時信息進行保護。不少學者認為被遺忘權(quán)的前身——刪除權(quán)最早出現(xiàn)在1995年歐盟《個人數(shù)據(jù)保護指令》(簡稱《95指令》)中。但實際上,早在1981年歐盟《關(guān)于在自動處理個人數(shù)據(jù)方面保護個人的公約》(簡稱《108號公約》)中便出現(xiàn)了刪除權(quán)的概念?！?5指令》明確其保護個人權(quán)利和自由的原則是對《108號公約》中相關(guān)原則的放大,并同樣規(guī)定了刪除權(quán),強調(diào)進行個人數(shù)據(jù)保護(32)See Directive 95/46/EC on the protection of individuals with Regard to the Processing of Personal Data and on the Free Movement of Such Data.。在《95指令》的基礎(chǔ)上,2012年《通用數(shù)據(jù)保護條例(草案)》發(fā)布,延續(xù)了刪除權(quán)的規(guī)定,并提出了被遺忘權(quán)的概念。2015年,歐盟委員會對被遺忘權(quán)進行了進一步解釋,即“當個體不再希望其數(shù)據(jù)被處理,且沒有合理理由繼續(xù)保留數(shù)據(jù)時,數(shù)據(jù)應(yīng)當被刪除。該權(quán)利在于保護個人隱私,而不是為了消除過去的事件或限制新聞自由?！?33)See European Commission:Questions and Answers—Data protection reform, https://ec.europa.eu/commission/presscorner/detail/en/MEMO_15_6385, last visited on April 16, 2023.2016年GDPR正式發(fā)布,其內(nèi)容并無原則性的更改。從立法路徑上看,從《108號公約》中刪除權(quán)的出現(xiàn),到GDPR中被遺忘權(quán)的正式確立,其原則一脈相承,被遺忘權(quán)實質(zhì)上擴張了刪除權(quán)對隱私的保護,不僅可以針對自然人自主發(fā)布的信息,還可針對轉(zhuǎn)發(fā)、他人自認自主發(fā)布的信息進行刪除。

然而,作為一種傳統(tǒng)的人格權(quán),隱私權(quán)所固有的法律屬性和概念內(nèi)涵會限制了其對過時的公開信息的規(guī)制能力,隱私權(quán)理論因此不能成為被遺忘權(quán)的理論基礎(chǔ),隱私權(quán)與被遺忘權(quán)應(yīng)分立為兩項獨立的平行權(quán)利。隱私是自然人的私人生活安寧和不愿為他人知曉的私密空間、私密活動、私密信息。個人不愿意公開披露且不涉及公共利益的都可以成為個人隱私,在上述范圍他人“訪問”自身時,個體具有衡量和控制權(quán)力(34)See Salomé Viljoen, A Relational Theory of Data Governance, 131 Yale L.J. 573, 587 (2021)。前生成式人工智能時代,這種保護個人“安寧空間”的權(quán)利與被遺忘權(quán)的權(quán)利設(shè)計之間并不矛盾。在實踐中,用戶可以采取刪除被收集的數(shù)據(jù)、更改用戶畫像等措施實現(xiàn)“抵御算法規(guī)訓”,這是先前保護個人生活安寧權(quán)利的隱私權(quán)之擴張(35)姜野.算法的規(guī)訓與規(guī)訓的算法:人工智能時代算法的法律規(guī)制[J].河北法學,2018,36(12):142-153.。然而,在生成式人工智能時代,以隱私權(quán)為權(quán)利基礎(chǔ)的被遺忘權(quán)已經(jīng)暴露了其設(shè)計缺陷,即對匿名化信息所導致的個人信息權(quán)利侵害無能為力?！皵?shù)據(jù)湯”的存在使生成式人工智能應(yīng)用可通過匿名化的方式儲存?zhèn)€人信息,生成式人工智能具有“復現(xiàn)”的能力,通過對“隱性數(shù)據(jù)”的挖掘可生成侵犯個人信息權(quán)利的內(nèi)容,表現(xiàn)為不同匿名化的“隱性數(shù)據(jù)”可相互勾勒出清晰的個人信息,匿名化能保護個人隱私的神話已然被打破(36)胡玲,馬忠法.論我國企業(yè)數(shù)據(jù)合規(guī)體系的構(gòu)建及其法律障礙[J].科技與法律(中英文),2023,14(2):42-51.。然而,根據(jù)我國《個人信息保護法》第4條第1款的規(guī)定,匿名化的信息不屬于個人信息,因此無法以隱私法主張權(quán)利。值得注意的是,我國《民法典》第1034條第3款已經(jīng)確立了私密信息應(yīng)優(yōu)先適用隱私權(quán)保護的適用規(guī)則,實質(zhì)上已暗含被遺忘權(quán)與隱私權(quán)分立的立法思路,也就是說,如果個人信息達到私密信息的程度就應(yīng)當考慮用隱私權(quán)進行保護,對于未達到私密程度的過時信息應(yīng)適用被遺忘權(quán)進行保護。

(二)社會身份構(gòu)建理論與被遺忘權(quán)

被遺忘權(quán)的另外一個理論來源是社會身份建構(gòu)理論。正如《洛杉磯時報》專欄記者尼古拉斯·戈德堡(Nicolas Goldberg)所言,在非互聯(lián)網(wǎng)時代,與個人有關(guān)的信息會出現(xiàn)在報紙上,但不久之后這些信息的載體——報紙就會被用于包裹魚或鳥籠,這些信息只能以微縮膠卷或膠片的形式在檔案館中找到,但互聯(lián)網(wǎng)時代的信息永遠都不會消失(37)See Nicholas Goldberg, Some Newspapers Are Deleting Old Crime Stories to Give People Fresh Starts. Is That Wise?, https://www.latimes.com/opinion/story/2021-02-07/newspapers-rewrite-histoy, last visited on April 16, 2023.。信息一經(jīng)產(chǎn)生就會在網(wǎng)絡(luò)上裂變式傳播,最終形成對個人的社會評價,成為構(gòu)建個人的社會身份特征的原始信息源。該情況下,自然人應(yīng)當有重新構(gòu)建自己社會身份的權(quán)利,遺忘能給所有人以“重啟人生”的機會(38)See Aurelia Tamò& Damian George, Oblivion, Erasure and Forgetting in the Digital Age, 5 J. Intell. Prop. Info. Tech. Elec. Com. L.71, 72 (2014).。

“重啟人生的機會”對犯罪嫌疑人和受害人及其家屬尤為重要。對犯罪嫌疑人而言,即使被無罪釋放或作出不起訴決定,過時負面信息的失控傳播也將導致個體受到不公平的批判,對其社會身份造成負面影響,進一步影響就業(yè)等正常生活的展開。對過時負面信息的持續(xù)暴露造成受害者及其家屬的二次傷害,但網(wǎng)絡(luò)平臺的運營者不僅不會主動刪除這些內(nèi)容,甚至會推動這些內(nèi)容的傳播。在美國,犯罪嫌疑人的個人影像一旦曝光將被各種網(wǎng)絡(luò)平臺爬取并持續(xù)展示(39)See Lisa Loving, New Movement Emerges to Beat Down Mugshot “Racket”Skanner News,https://www.theskanner.com/news/northwest/15003-new-movement-emerges-to-beat-down-mugshot-racket-2012-07-12, last visited on April 16, 2023.,這些信息處于失控傳播狀態(tài)。然而根據(jù)美國憲法第一修正案,相關(guān)網(wǎng)站享有受保護的言論自由,發(fā)布已經(jīng)公開的信息不會改變已有社會評價,以至于付費刪除上述信息已經(jīng)成為一種慣例(40)See Jessica Ronay,Adults Post the Darndest Things:[Ctrl + Shift] Freedom of Speech to [Esc] Our Past,46 U. Tol. L. Rev.73 (2014).。負面信息的失控傳播導致自然人被不公平地對待,例如美國平等就業(yè)委員會要求雇主不得因逮捕記錄解雇求職者,于是雇主在申請階段便會拒絕有逮捕記錄者的求職。盡管有一些平臺,例如谷歌意圖在其搜索結(jié)果中刪除復仇式色情圖片(41)See Amit Singhal,“Revenge Porn”and Search, Google Public Policy Blog,https://publicpolicy.googleblog.com/2015/, last visited on April 16, 2023.,但由于信息的傳播失控特性,網(wǎng)絡(luò)空間中的類似信息無法被全部刪除。對此,美國進行了一系列的針對復仇式色情的立法,以保障受害人的隱私利益,并認為受害者的隱私利益高于美國憲法第一修正案所規(guī)定的言論自由權(quán)利(42)See Danielle Citron, Debunking the First Amendment Myths Surrounding Revenge Porn Laws, https://www.forbes.com/sites/daniellecitron/2014/04/18/debunking-the-first-amendment-myths-surrounding-revenge-porn-laws/, last visited on April 16, 2023.,還有些州立法要求刪除被無罪釋放人員的相關(guān)照片(43)See Megan Deitz, A Crime Remembered, The Possible Impact of the “Right to Be Forgotten” in the United States for Crime Victims, Criminal Defendants, and the Convicted Note, 9 Ala. C.R. &C.L.L. Rev. 197 (2018).。

上述案例說明自然人都應(yīng)具有“重新開始”的權(quán)利,并由此形成了被遺忘權(quán)的權(quán)利基礎(chǔ)來源于個人對其身份構(gòu)建之觀點(44)楊立新,韓煦.被遺忘權(quán)的中國本土化及法律適用[J].法律適用,2015,(2):24-34.,然而針對侵犯個人社會身份建構(gòu)權(quán)利的行為,應(yīng)當采取名譽權(quán)的規(guī)范方式,而不能納入被遺忘權(quán)的范疇。我國最高法院《〈關(guān)于審理名譽權(quán)案件若干問題的解答〉的理解與適用》認為,“名譽是人們對一個公民或法人的品德、才干及其他素質(zhì)的綜合的社會評價。這種社會評價是會隨著時間和這個人的行為發(fā)生變化的。一個人15歲時和35歲時的社會評價可能很不一樣。如果有人因無關(guān)社會公共利益的原因擅自公布其15歲時的不名譽的事,使人們對這個人的社會評價發(fā)生扭曲,無疑是侵害了他人的名譽權(quán)?！痹撚^點與當下在先信息泛濫、個人信息無序流通影響社會身份構(gòu)建的情形高度耦合,所謂“不恰當?shù)?、過時的、繼續(xù)保留會導致其社會評價降低的信息”,本質(zhì)上是對名譽權(quán)而非信息權(quán)的侵犯,不在被遺忘權(quán)的規(guī)制范圍內(nèi)。

同時,以被遺忘權(quán)規(guī)制侵犯社會身份構(gòu)建權(quán)利的行為既不能充分保障自然人的社會身份構(gòu)建權(quán)益,也會與自然人的名譽權(quán)產(chǎn)生法律競合。谷歌訴CNIL案宣判后不久,在伊娃-格拉維什尼格-皮斯切克訴Facebook愛爾蘭分公司一案中,歐盟法院卻給出了相左的裁定。該案原告伊娃認為,被告Facebook的用戶在被告的平臺發(fā)布具有詆毀性質(zhì)的文章侵犯了原告的權(quán)益,遂要求被告刪除該用戶的文章鏈接。奧地利法院認為該文章具有詆毀性質(zhì),支持了原告的訴請并要求歐盟法院對該文章的刪除范圍作出說明,歐盟法院認為該文章應(yīng)當在全球范圍內(nèi)進行刪除(45)Judgment of 3 October 2019, Glawischnig-Piesczek (C-18/18) EU:C:2019:821.。本案的判決結(jié)果似乎與谷歌訴CNIL案“斷鏈”路徑存在同案不同判,然而事實上,兩案存在較大差異。其最大不同是奧地利法院認定了涉案信息內(nèi)容具有惡意,并根據(jù)《歐盟電子商務(wù)指令》而非GDPR進行裁決。歐盟的兩則司法實踐說明,以誹謗、詆毀、捏造等作為主要內(nèi)容的過時負面信息不應(yīng)在被遺忘權(quán)的規(guī)制范圍內(nèi)。如果采用被遺忘權(quán)對該案進行判決,那么詆毀當事人社會評價的信息只能在當事人所在國家通過“刪除”或“斷鏈”的方式進行遺忘,這種在所在國刪除的遺忘程度明顯不足以對當事人社會評價進行充分救濟,而采取名譽權(quán)進行規(guī)制,則可在全球范圍內(nèi)進行相關(guān)信息的遺忘,充分保護自然人的社會身份?？傊?在已經(jīng)有名譽權(quán)救濟路徑的情況下,將過時負面信息在互聯(lián)網(wǎng)上的滌除納入被遺忘權(quán)的范疇,會產(chǎn)生名譽權(quán)與被遺忘權(quán)的重疊。

另外,從維護權(quán)利所支持的成本角度,采取名譽權(quán)范式會存在保護力度不足問題。如果采取名譽權(quán)的保護范圍,需要評估提請刪除的過時負面信息是否對自然人當下的社會評價造成負面影響。這勢必對權(quán)利人提出了較高的舉證要求,從而產(chǎn)生保護力度不足的問題。事實上,在人工智能時代,被遺忘權(quán)對存在不堪往事、期望徹底刪除負面信息的人影響更大,相較于傳播媒體的力量,個人更需要被遺忘權(quán)來進行權(quán)益斗爭。

(三)基于個人信息自決理論的被遺忘權(quán)

過時信息僅具有單純的信息屬性,并非一律具有影響隱私、身份建構(gòu)的能力,隱私權(quán)理論和社會身份建構(gòu)理論均不能作為人類控制過時信息的理論基礎(chǔ),以個人信息自決理論作為被遺忘權(quán)的理論基礎(chǔ)具有可行性。事實上,隱私權(quán)保護解決的是非公開信息被公開時產(chǎn)生的人格權(quán)侵權(quán)問題,社會身份構(gòu)建權(quán)利則更多指向體現(xiàn)名譽權(quán)的社會評價。而被遺忘權(quán)解決的是已經(jīng)自主公開的信息需要恢復至未公開狀態(tài)問題(46)羅勇.論我國個人信息保護立法中“被遺忘權(quán)”制度的構(gòu)建[J].暨南學報(哲學社會科學版),2018,40(12):69-80.。換言之,隱私權(quán)和名譽權(quán)無法覆蓋單純的過時信息。正如王利明教授所言,被遺忘權(quán)是民事權(quán)益、人格權(quán)益,在行使權(quán)利過程中,其目的在于維護信息完整、準確和個人信息自決(47)王利明.論個人信息刪除權(quán)[J].東方法學,2022,(1):38-52.。在該視角下,被遺忘權(quán)和個人信息權(quán)產(chǎn)生了實質(zhì)性聯(lián)系,成為了個人信息自決的程序性救濟手段(48)李立豐.本土化語境下的“被遺忘權(quán)”:個人信息權(quán)的程序性建構(gòu)[J].武漢大學學報(哲學社會科學版),2019,72(3):145-155.。也就是說,個人信息權(quán)和被遺忘權(quán)形成了“權(quán)利—權(quán)能”的架構(gòu)(49)葉名怡.論個人信息權(quán)的基本范疇[J].清華法學,2018,12(5):143-158.,二者具有強相關(guān)性。

被遺忘權(quán)的權(quán)利基礎(chǔ)脫離隱私理論和社會身份建構(gòu)理論轉(zhuǎn)至個人信息自決權(quán)理論,具有獨立的社會價值。在當今信息泛濫時代,公眾對隱私與名譽的認知正被模糊,隱私與名譽的概念可能正在縮小,例如在公眾平臺分享日常生活逐漸被認為是正?，F(xiàn)象,而非對個人隱私的過多暴露。如果以隱私權(quán)或名譽權(quán)作為被遺忘權(quán)的權(quán)利基礎(chǔ),這兩種傳統(tǒng)權(quán)利的固有屬性和構(gòu)成要件會限制被遺忘權(quán)的行使,無法通過擴張這兩種傳統(tǒng)權(quán)利來實現(xiàn)過時信息的刪除。突破既有法律原則對這兩種傳統(tǒng)權(quán)利進行擴展解釋,將會導致法律適用的不穩(wěn)定性。德國學者施泰姆勒(Steinmuller)提出的信息自決學說強調(diào)對個人信息的絕對控制(50)See Steinmuller, Lutterbeck, Mallmann, Harbort, Hob, Schneider, Grundfragen des Datenschutzes, GutachtenimAuftrag des Bundesministeri-ums des Inneren, 1972,BT-Drucksache VI 3826, 1. Aufl,S. 87.,包括信息公開前的控制和信息公開后的控制,這種制度設(shè)計才可以滿足現(xiàn)代信息社會的需求(51)雖社會發(fā)展,傳統(tǒng)個人信息保護的觀點發(fā)生了變化,此外,制度設(shè)計本身也有問題。謝遠揚.《民法典人格權(quán)編(草案)》中“個人信息自決”的規(guī)范建構(gòu)及其反思[J].現(xiàn)代法學,2019,41(6):133-148.?，F(xiàn)有立法實踐已經(jīng)基于個人信息自決理論構(gòu)建被遺忘權(quán)。2010年,GDPR仍在立法過程中,時任歐盟委員會副主席的維維亞娜·雷丁強調(diào),引入被遺忘權(quán)的原因在于個人需要對其數(shù)據(jù)進行控制,以應(yīng)對數(shù)據(jù)保護實踐中的不清晰、不透明、不合規(guī)問題(52)See Viviane Reding, Privacy matters—Why the EU needs new personal data protection rules.The European Data Protection and Privacy Conference,Brussels, 30 November 2010.。法國2016年10月發(fā)布的《數(shù)字共和國法》已經(jīng)凸顯了個人信息自決權(quán)的特殊地位,《數(shù)字共和國法》直接規(guī)定了自然人的信息自決權(quán),并在后列出自然人享有包括被遺忘權(quán)在內(nèi)的各項自然人信息權(quán)利,甚至規(guī)定了自然人的死后數(shù)據(jù)控制權(quán)利。CNIL在對該法案的評論中強調(diào),這一規(guī)定受到德國憲法規(guī)定的信息自決權(quán)啟發(fā)。此外,我國《個人信息保護法》第47條基于“知情同意”原則,規(guī)定了行使被遺忘權(quán)的四種情形。無論是處理目的已實現(xiàn)、無法實現(xiàn)或者為實現(xiàn)處理目的不再必要,還是個人信息處理者停止提供產(chǎn)品或者服務(wù),或者保存期限已屆滿。抑或個人撤回同意及個人信息處理者違反法律、行政法規(guī)或者違反約定處理個人信息,均體現(xiàn)著自然人對信息的控制權(quán),而非對隱私、名譽的期望。上述立法實踐說明,被遺忘權(quán)的權(quán)利基礎(chǔ)來源于個人信息自決理論更能符合現(xiàn)行立法制度的設(shè)計。

綜上,通過對被遺忘權(quán)、名譽權(quán)、隱私權(quán)的體系化考察發(fā)現(xiàn),被遺忘權(quán)不應(yīng)是一種相對權(quán)而是以個人信息自決理論為基礎(chǔ)的獨立權(quán)利和絕對權(quán)。當然,以個人信息自決作為被遺忘權(quán)的權(quán)利基礎(chǔ)可能會導致漫無邊際的權(quán)利要求,德國聯(lián)邦憲法法院也明確拒絕絕對的個人信息自決權(quán)(53)楊芳.個人信息自決權(quán)理論及其檢討——兼論個人信息保護法之保護客體[J].比較法研究,2015,(6):22-33.。被遺忘權(quán)也應(yīng)當受到一些限制。

四、構(gòu)建生成式人工智能時代的被遺忘權(quán)

盡管被遺忘權(quán)是絕對權(quán),但被遺忘權(quán)的權(quán)利行使并非沒有邊界。信息與數(shù)據(jù)存在內(nèi)容與載體的關(guān)系,數(shù)據(jù)的多屬性限制了被遺忘權(quán)邊界,試圖建立統(tǒng)一、簡單的被遺忘權(quán)對所有數(shù)據(jù)進行規(guī)制只會致使自然人不同權(quán)益的過強或過弱保護(54)商建剛.數(shù)據(jù)產(chǎn)品及服務(wù)權(quán)益認定的理論與制度綜述研究[C]//上海市法學會.《上海法學研究》集刊2022年第20卷——數(shù)據(jù)合規(guī)流通論壇文集.。故此,在行使被遺忘權(quán)的過程中,通常需要兼顧公共利益屬性與遺忘成本和可能。為此,需解決被遺忘權(quán)在生成式人工智能時代下的適用困境。

(一)公共利益對被遺忘權(quán)的限制

保護公共利益通常作為限制被遺忘權(quán)的最主要理由之一,其中最核心的問題是保護言論自由,面對言論自由和被遺忘權(quán)的公共利益衡量問題,美國與歐盟的觀點并不統(tǒng)一。歐盟認為,在某些情況下,被遺忘權(quán)有高于言論自由的價值(55)薛麗.GDPR生效背景下我國被遺忘權(quán)確立研究[J].法學論壇,2019,34(2):100-109.。被遺忘權(quán)被認為是一種基本人權(quán),在谷歌西班牙訴岡薩雷斯案中,法院特別指出,歐盟公民的被遺忘權(quán)不僅凌駕于搜索引擎運營商的經(jīng)濟利益之上,而且還凌駕于公眾知情權(quán)的公共利益之上,如果數(shù)據(jù)處理者拒絕刪除該信息,則需證明該信息對保護公共衛(wèi)生、歷史、科學等方面的公共利益或為履行保留數(shù)據(jù)的法律義務(wù)是必要的(56)Case C-131/12, Google Spain SL v. González.。美國視角下,言論自由具有高于被遺忘權(quán)的價值屬性。被遺忘權(quán)早期來自于隱私權(quán),對隱私權(quán)的限制邏輯同樣適用于被遺忘權(quán)。盡管1965年的格里斯沃爾德訴康涅狄格州案認為美國憲法第十四修正案的正當程序條款中保障了基本的隱私權(quán),據(jù)此能由憲法推理出公民具有隱私權(quán)(57)Griswold v. Connecticut, 381 U.S. 479, 485 (1965).,但隱私權(quán)并沒有被直接規(guī)定在憲法中,而第一修正案卻明確了新聞和言論自由權(quán),二者的法律地位有差別。在考克斯廣播公司訴科恩案中,美國最高法院裁定,在發(fā)布有關(guān)犯罪的公開信息時,言論自由和新聞自由超過了隱私權(quán)(58)Cox Broad. Corp. v. Cohn, 420 U.S. 469, 496 (1975).。1989年,美國最高法院就確認,一般情況下,記者不會因發(fā)布真實信息而受到處罰。由該結(jié)論可推導出被遺忘權(quán)違反美國憲法,因為政府永遠無法強迫網(wǎng)站刪除內(nèi)容(59)Florida Star v. B.J.F., 491 U.S. 524 (1989).。由此可見,在隱私權(quán)理論基礎(chǔ)上的被遺忘權(quán)不足以對抗言論自由以保護個人信息(60)劉洪華.被遺忘權(quán)立法的美國模式及其立法啟示——以加州被遺忘權(quán)立法為研究背景[J].時代法學,2022,20(1):93-105.。

盡管歐盟與美國立法思路上存在差異,但基于公眾利益考量均對被遺忘權(quán)作出了限制,這為生成式人工智能時代的被遺忘權(quán)建構(gòu)提供了基本遵循,即新時代的被遺忘權(quán)建構(gòu)也不能突破言論自由的公共利益限制,需要在保護個人信息自決權(quán)和公共利益之間取得平衡。

(二)遺忘成本與遺忘可能性的限制

被遺忘權(quán)在實施過程中需要結(jié)合遺忘成本、遺忘可能等進行綜合判斷。實踐中,遺忘成本較高限制了被遺忘權(quán)的適用。2014年岡薩雷斯案裁決生效,但歐盟法院并未就如何執(zhí)行被遺忘權(quán)進行說明,谷歌公司承擔了大部分的履行責任(61)See Letter from Peter Fleischer, Global Privacy Counsel, to Isabelle Falque-Pierrotin, Chair, Article 29 Working Party, at 4-5 (July 31, 2014).。為執(zhí)行被遺忘權(quán),谷歌通過在線表格于歐盟范圍內(nèi)收集意圖主張被遺忘權(quán)的用戶之申請,并對申請人的訴求逐一評估。為充分進行評估,谷歌的首席執(zhí)行官兼法務(wù)擔任召集人,邀請八位獨立專家組成顧問委員會并按四個步驟展開評估(62)谷歌:被遺忘權(quán)概述,https://support.google.com/legal/answer/10769224,最后訪問日期2023年5月10日。。在評估過程中,谷歌會判斷該信息是否包含過時或者有關(guān)個人的不準確信息,并對該信息是否涉及金融詐騙、瀆職、刑事案件等公共利益進行考量(63)谷歌:個人數(shù)據(jù)移除要求表單,https://reportcontent.google.com/forms/the RTBF,最后訪問日期2023年5月10日。。一旦谷歌形成決議,就會通過郵件通知申請人,不同意刪除的會給出反對理由。相應(yīng)的,申請人可以要求當?shù)財?shù)據(jù)保護機構(gòu)對谷歌的決議進行審查。由此可見,該過程十分繁瑣,具有較高地評估成本,以至于該制度在實踐中表現(xiàn)不佳。微軟也采取了相同模式,2014年5月至2022年12月期間,微軟收到的歐盟與俄羅斯地區(qū)被遺忘權(quán)申請中,僅有占申請刪除總量的47%不被刪除(64)See Microsoft:Right to be Forgotten Request Reports, https://www.microsoft.com/en-us/corporate-responsibility/right-to-be-forgotten-removal-requests-report, last visited on April 30, 2023.。這表明一半以上的申請都不滿足執(zhí)行被遺忘權(quán)的條件,徒增遺忘成本。

在生成式人工智能時代,被遺忘權(quán)還面臨數(shù)據(jù)可能無法遺忘的問題。數(shù)據(jù)專家Miguel Luengo Oroz(米格爾·盧恩戈·奧羅茲)認為,人工智能不會忘記所接受過的訓練,如果需要完全消除生成式人工智能的記憶,只能對模型進行重新訓練,出于成本考量,最好的方式是令人工智能模型在學習新信息時會忘記以前的信息,也即形成動態(tài)學習能力,令其能夠在被允許使用的數(shù)據(jù)集中開展學習(65)See Forbes:We Forgot To Give Neural Networks The Ability To Forget. https://www.forbes.com/sites/ashoka/2023/01/25/we-forgot-to-give-neural-networks-the-ability-to-forget/?sh=77ca042e6853,last visited on April 16, 2023.?？傊?被遺忘權(quán)的建構(gòu)過程中需要考量如何有效控制遺忘成本并解決信息可能無法遺忘的問題。

(三)生成式人工智能時代被遺忘權(quán)的新權(quán)能:禁止生成權(quán)

生成式人工智能時代下,算法模型通過學習現(xiàn)有數(shù)據(jù)集,已成為“數(shù)據(jù)湯”,“刪除”與“斷鏈”無法滿足被遺忘權(quán)要求。被遺忘權(quán)的適用過程中存在公共利益限制、成本過高、執(zhí)行不可能等情況,不僅無法直接對其中的數(shù)據(jù)進行刪除,也無法通過簡單的斷鏈進行權(quán)益實現(xiàn),被遺忘權(quán)亟需被賦予新的內(nèi)涵。

禁止生成權(quán)能通過對我國《個人信息保護法》第47條第2款的解釋獲得。該款規(guī)定,“法律、行政法規(guī)規(guī)定的保存期限未屆滿,或者刪除個人信息從技術(shù)上難以實現(xiàn)的,個人信息處理者應(yīng)當停止除存儲和采取必要的安全保護措施之外的處理。”何謂停止除存儲和采取必要的安全保護措施之外的處理?筆者認為,在生成式人工智能時代,事實層面的遺忘已然不可能,應(yīng)當增加被遺忘權(quán)的新方式——禁止生成權(quán),以實現(xiàn)結(jié)果層面遺忘的效果。禁止生成權(quán)是指,在《個人信息保護法》第47條第1款規(guī)定的情形下,數(shù)據(jù)處理者不能直接或間接生成包含自然人過時信息的內(nèi)容。該權(quán)利主要保護自然人對其過時信息通過隱性數(shù)據(jù)復現(xiàn)的控制權(quán)。該權(quán)利設(shè)計能滿足自然人所期待的信息控制權(quán),同時不會侵犯言論自由的公共利益,兼顧考量了遺忘成本與遺忘可能性。

禁止生成權(quán)已經(jīng)體現(xiàn)在我國生成式人工智能的治理規(guī)范中。2023年4月11日互聯(lián)網(wǎng)信息辦公室關(guān)于《生成式人工智能服務(wù)管理辦法(征求意見稿)》第4條(五)對生成式人工智能的生成內(nèi)容進行了規(guī)定,即AIGC需要“尊重他人合法利益,防止傷害他人身心健康,損害肖像權(quán)、名譽權(quán)和個人隱私,侵犯知識產(chǎn)權(quán)”。此外,生成式人工智能時代下被遺忘權(quán)的行使應(yīng)當采用“行政保護先置”的路徑。從自然人行使被遺忘權(quán)的角度,如數(shù)據(jù)處理者未能維護自然人的被遺忘權(quán),最終承擔產(chǎn)品責任(66)商建剛.算法決策損害責任構(gòu)成的要件分析[J].東方法學,2022,90(6):44-57.。在法律實施的制度設(shè)計方面,法國的個人數(shù)據(jù)保護制度值得借鑒。1978 年 1 月出臺的《信息技術(shù)和自由法》確立了數(shù)據(jù)保護的專職機構(gòu)——國家信息技術(shù)和自由委員會。國家信息技術(shù)和自由委員會屬于獨立的行政機構(gòu),該委員會肩負的幾項主要職責包括:告知并協(xié)助公民行使權(quán)利、履行義務(wù),對保護個人數(shù)據(jù)有關(guān)的法令文件進行規(guī)范,核查信息處理進程的合法性,并在發(fā)現(xiàn)違法行為時予以處罰,向政府提出能促使保護隱私和技術(shù)發(fā)展二者相適應(yīng)的立法措施等。我國國家數(shù)據(jù)局已經(jīng)成立,尚未明確其“個人數(shù)據(jù)守門人”的職能,可作為專門的行政機構(gòu)保護個人數(shù)據(jù)權(quán)利,監(jiān)督數(shù)據(jù)處理者維護自然人的被遺忘權(quán),及時刪除自然人的過時信息。被遺忘權(quán)的禁止生成權(quán)建構(gòu)以及形成保護先置的行使路徑,是生成式人工智能風險治理元規(guī)則的具體體現(xiàn),符合倫理先行和協(xié)同共治元規(guī)則,具有積極的實踐意義(67)商建剛.生成式人工智能風險治理元規(guī)則研究[J/OL].東方法學:1-14[2023-05-14].。

五、結(jié)論

在生成式人工智能時代,“用戶提示—AI生成”的全新場景導致了“數(shù)據(jù)湯”的出現(xiàn),現(xiàn)有被遺忘權(quán)無法滿足自然人的信息控制需求。自歐盟確立被遺忘權(quán)以來,實踐中被遺忘權(quán)由刪除權(quán)衍生出了解除索引權(quán),形成了“刪除”和“斷鏈”為核心的刪除權(quán)及解除索引權(quán)。同時,被遺忘權(quán)的權(quán)利基礎(chǔ)也由原來的隱私理論、社會身份構(gòu)建理論,逐漸轉(zhuǎn)向?qū)€人信息進行控制,成為一種基于個人信息自決權(quán)的絕對權(quán)。在個人信息保護過程中,應(yīng)基于隱私權(quán)理論、社會身份構(gòu)建理論、個人信息自決理論區(qū)別保護。構(gòu)成隱私的信息應(yīng)當優(yōu)先適用隱私權(quán)進行保護;不構(gòu)成隱私信息但能影響社會身份建構(gòu)的過時負面信息適用名譽權(quán)進行救濟;不滿足上述兩種情況的過時信息可基于個人信息自決權(quán),通過被遺忘權(quán)維護自然人信息權(quán)益。沿著該路徑分析,生成式人工智能時代下被遺忘權(quán)應(yīng)當進一步產(chǎn)生新的內(nèi)涵,即禁止生成權(quán)。該權(quán)利可兼顧自然人的信息控制利益、公眾利益以及遺忘成本和可能,是對我國《個人信息保護法》第47條第2款的明確。數(shù)據(jù)處理者應(yīng)當負有禁止生成涉及自然人相關(guān)信息內(nèi)容的義務(wù),當數(shù)據(jù)處理者未主動履行時,自然人有權(quán)請求履行。為確保權(quán)利高效行使并節(jié)約司法資源,被遺忘權(quán)的執(zhí)行應(yīng)采取行政先置的模式,通過賦予國家數(shù)據(jù)局等行政主體執(zhí)法權(quán)地位以監(jiān)督法律實施。