葛慧林

（江蘇科技大學(xué)，江蘇鎮(zhèn)江 212100）

人工智能（Artificial Intelligence，AI）已經(jīng)成為推動新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力，同時(shí)也給現(xiàn)有科技管理體制帶來了新的挑戰(zhàn)。通過大規(guī)模語言模型（Large Language Model，LLM）的訓(xùn)練，生成式人工智能(Generative Artificial Intelligence，GAI)具備了嚴(yán)密的邏輯推理能力和強(qiáng)大的文本生成能力，使得開放式理解和生成連貫文本成為可能。這種技術(shù)的實(shí)際應(yīng)用開始對學(xué)術(shù)研究產(chǎn)生巨大助力[1]。例如，Conroy 等人利用ChatGPT 在一個小時(shí)內(nèi)完成了一篇流暢、富有洞察力的研究論文。隨著GAI 在學(xué)術(shù)研究中的實(shí)際應(yīng)用迅速普及，并贏得廣泛輿論贊譽(yù)，學(xué)者們的擔(dān)憂也隨之而來。研究表明，以ChatGPT 代表的生成式人工智能語言模型在學(xué)術(shù)研究中存在著信效度不足、權(quán)責(zé)不清、倫理失位等學(xué)術(shù)倫理問題[2-4]。在科學(xué)技術(shù)更加開放的同時(shí)，也面臨著顛覆性但尚未成熟的階段。在面對潛在的技術(shù)失控和學(xué)術(shù)倫理失序時(shí)，需要深刻審視GAI 引起的學(xué)術(shù)倫理問題，并正確處理它與學(xué)術(shù)發(fā)展之間的辯證關(guān)系?；诖?，本文系統(tǒng)分析人工智能視域下學(xué)術(shù)研究面臨的新學(xué)術(shù)倫理問題，剖析GAI 在學(xué)術(shù)研究中所能提供的價(jià)值與風(fēng)險(xiǎn)，并進(jìn)一步提出對策建議，以促進(jìn)學(xué)術(shù)研究的健康發(fā)展。

1 人工智能視域下的學(xué)術(shù)研究新形勢

1.1 人工智能的發(fā)展

AI 有多種定義，雖然各有不同，但都與“如何創(chuàng)造一些計(jì)算機(jī)程序或機(jī)器，使其具備被視為智能行為”的概念相關(guān)。德勤有限公司給出的實(shí)用定義是：“AI 是關(guān)于計(jì)算機(jī)系統(tǒng)如何執(zhí)行只有依靠人類智慧才能完成的任務(wù)的理論研究”[5]。得益于2004 年后相關(guān)領(lǐng)域技術(shù)例如深度學(xué)習(xí)、云計(jì)算等的突破革新，AI得以在安防、教育和機(jī)器人等多個領(lǐng)域廣泛應(yīng)用[6]。當(dāng)前，自然語言處理（Natural Language Processing，NLP）技術(shù)的進(jìn)步使得大型語言模型（Large Language Model，LLM）能夠?qū)崿F(xiàn)開放式理解和生成連貫的文本，理論算法開始得到實(shí)際應(yīng)用，以ChatGPT 代表的GAI 在學(xué)術(shù)研究中的應(yīng)用迅速普及。

1.1.1 生成式人工智能的實(shí)質(zhì)

GAI 是運(yùn)用大語言模型與生成式預(yù)訓(xùn)練轉(zhuǎn)換模（Generative Pretrained Transformer，GPT）結(jié)合，通過海量數(shù)據(jù)存儲和高效設(shè)計(jì)架構(gòu)理解和解讀用戶請求，進(jìn)而以近乎人類自然語言的方式生成具有“較高復(fù)雜度的回應(yīng)文本”[7]。具體而言，GAI 通過大規(guī)模語料訓(xùn)練，將不同語言中的字、詞表征映射到更高維語義空間中，然后基于生成式預(yù)訓(xùn)練轉(zhuǎn)換模型，采用“強(qiáng)化學(xué)習(xí)與人類反饋”（RLHF）的訓(xùn)練方式，通過不斷迭代來提升生成答案的評判能力，從而往往能夠產(chǎn)生符合人類常規(guī)認(rèn)知和需求的回答[8]。

1.1.2 ChatGPT 類生成式人工智能的比較

2022 年11 月，美國人工智能研究實(shí)驗(yàn)室發(fā)布了大型語言對話模型ChatGPT，上線不到一周用戶數(shù)就突破了100 萬，兩個月時(shí)間吸引了超過1 億活躍用戶，成為歷史上增長速度最快的應(yīng)用程序。ChatGPT 是一種具有思考能力的人工智能聊天機(jī)器人程序，基于GPT-3.5 架構(gòu)的大型語言模型通過強(qiáng)化學(xué)習(xí)得到訓(xùn)練后幾乎可以處理任何基于文本的請求。ChatGPT 被專門設(shè)計(jì)為以對話風(fēng)格生成類似人類的文本，能夠回答連續(xù)提出的問題、生成文本摘要、翻譯文檔、對信息進(jìn)行分類和編寫代碼等任務(wù)，同時(shí)也能夠承認(rèn)錯誤、對不正確的前提進(jìn)行質(zhì)疑，并拒絕不合適的請求。此外，麻省理工學(xué)院借助深度學(xué)習(xí)模型識別分子結(jié)構(gòu)之間的相關(guān)關(guān)系成功研發(fā)新型抗生素Halicin 的案例說明了以ChatGPT為代表的生成式人工智能可以通過明確相關(guān)關(guān)系，提升科研質(zhì)量[9]。

在ChatGPT 發(fā)布之前，谷歌曾在2021 年推出大語言模型LaMDA，并在此基礎(chǔ)上開發(fā)了Bard，其可以將信息知識和大語言模型的智能相結(jié)合，提供新鮮且高質(zhì)量的回復(fù)。而在2022 年8 月，基于自主研發(fā)的產(chǎn)業(yè)級大模型ERNIE，百度推出AI藝術(shù)創(chuàng)意輔助平臺——文心一格，其通過文心大模型準(zhǔn)確的語義理解和生成圖片，為用戶提供豐富多樣的創(chuàng)意，幫助創(chuàng)作者打破創(chuàng)作瓶頸。2022年11 月，Meta 的人工智能實(shí)驗(yàn)室Meta AI 發(fā)布了AI 系統(tǒng)“Make-AVideo”，它能夠根據(jù)自然語言文本生成一段大約5 秒鐘的短視頻，同時(shí)還可以從圖像和視頻中生成視頻。在ChatGPT 4 發(fā)布的第二天，百度揭開了其最新產(chǎn)品“文心一言”的面紗。作為國內(nèi)首個類ChatGPT 產(chǎn)品，百度文心一言定位于人工智能基座型的賦能平臺，致力于推動金融、能源、媒體和政務(wù)等領(lǐng)域的智能化變革[10]。

與LaMDA、ERNIE 和XLNet等其他語言模型及其產(chǎn)出相比，ChatGPT 和其基于的GPT-3 語言模型具有明顯的優(yōu)勢。ChatGPT 擁有數(shù)十億個參數(shù)，并且可以訪問大量數(shù)據(jù)，能夠高精度地執(zhí)行各種語言相關(guān)任務(wù)。其次，GPT-3 的語言模型具有很高的通用性，可以適應(yīng)各種任務(wù)，例如翻譯、摘要和問題回答。此外，ChatGPT 能夠高效利用數(shù)據(jù)，用較少的訓(xùn)練數(shù)據(jù)就能取得良好的結(jié)果。

1.2 生成式人工智能在學(xué)術(shù)研究中的價(jià)值

當(dāng)代世界科學(xué)技術(shù)正處于前所未有的突破性發(fā)展階段，科技社會一體化、科學(xué)文化和人文文化逐漸從對立走向融合。為解決社會復(fù)雜需求問題而誕生的跨學(xué)科研究，以往需要積累多學(xué)科知識，聚集多學(xué)科人才，并構(gòu)建跨學(xué)科研究組織來解決的問題，現(xiàn)如今借助ChatGPT 卻有望實(shí)現(xiàn)更具突破性的學(xué)術(shù)成果[11]。

降低獲取知識的難度。ChatGPT 等AI 通過模擬人類學(xué)習(xí)過程，閱讀理解不同語言和文獻(xiàn)資料庫，在快速總結(jié)文獻(xiàn)異同的同時(shí)，實(shí)現(xiàn)對不同學(xué)科知識成果的同構(gòu)，進(jìn)而協(xié)助研究者完成跨學(xué)科深度對話和知識融合創(chuàng)新。與此同時(shí)，其還能將其他學(xué)科專業(yè)知識轉(zhuǎn)述為簡單語言，降低獲取知識的難度，在為研究者提供更多學(xué)術(shù)研究方向的同時(shí)，保證了研究力度和深度，在一定程度上也推動了學(xué)科進(jìn)步和知識創(chuàng)新，提升了學(xué)術(shù)研究的效率。

便于研究內(nèi)容的梳理。AI 可以自動解析文獻(xiàn)、高效提取關(guān)鍵知識，按需總結(jié)比較不同研究成果的異同，為研究者節(jié)省檢索整理時(shí)間。此外，它還能在此基礎(chǔ)上構(gòu)建引文推理網(wǎng)絡(luò)，清晰展示知識的產(chǎn)生、流傳與演變，為研究者提供有依據(jù)的客觀觀點(diǎn)和學(xué)科間知識交叉與融合的趨勢。而當(dāng)研究者對寫作內(nèi)容不確定時(shí)，其還能提供相關(guān)理論、數(shù)據(jù)、案例與文獻(xiàn)支持，為研究者的觀點(diǎn)提供第三方驗(yàn)證與學(xué)術(shù)支撐。

促進(jìn)研究內(nèi)容的完善。當(dāng)科研人員向AI 提交研究成果后， AI 能夠根據(jù)使用者的輸入的相關(guān)要求，對研究成果進(jìn)行檢測，就拼寫、語法等方面提供反饋意見及根據(jù)不同領(lǐng)域和功能調(diào)整寫作重點(diǎn)。它在快速翻譯中文研究成果為其他語言時(shí)，還可以學(xué)習(xí)各領(lǐng)域權(quán)威期刊的征稿要求為研究者提供幫助。此外，其能夠解析和提取各領(lǐng)域?qū)W術(shù)論文的關(guān)鍵知識，并根據(jù)不同應(yīng)用場景及學(xué)科領(lǐng)域調(diào)整內(nèi)容、篇幅和側(cè)重點(diǎn)。在大語言模型的支持下，研究者可以優(yōu)化研究成果的傳播機(jī)制，增進(jìn)學(xué)術(shù)合作并促進(jìn)研究成果轉(zhuǎn)化，進(jìn)一步提升學(xué)術(shù)研究效用[12]。

（3）利于研究數(shù)據(jù)的分析。以ChatGPT 為代表的AI 擁有強(qiáng)大的算法和算力，往往能夠較好的完成數(shù)據(jù)收集、數(shù)據(jù)分析、數(shù)據(jù)可視化等復(fù)雜數(shù)據(jù)處理工作，把握受實(shí)驗(yàn)條件或計(jì)算能力等限制所遮蔽的相關(guān)關(guān)系，獲得有助于取得研究新發(fā)現(xiàn)，新成果的啟示。

2 人工智能視域下的學(xué)術(shù)倫理新問題

2.1 智能剽竊，隱蔽難以檢測

研究發(fā)現(xiàn)，將大量由GAI 創(chuàng)建的論文摘要提交給學(xué)術(shù)審稿人，被發(fā)現(xiàn)的比例不超過63%[13]。因GAI可以在較短時(shí)間內(nèi)整合和產(chǎn)生大量知識與信息，并根據(jù)需要生成個性化結(jié)果。從某種程度上來說，GAI產(chǎn)出的科研論文仍然只能算是高度集成產(chǎn)品，其內(nèi)容和觀點(diǎn)通常來自他人作品，雖然在整合中模糊了模仿和抄襲邊界，但其非原創(chuàng)的本質(zhì)未變。此外，由于GAI 是基于自然語言產(chǎn)出的結(jié)果，這與學(xué)者自行思考并收獲啟發(fā)的基本邏輯相似，而當(dāng)GAI 在轉(zhuǎn)碼過程中隱藏了抄襲的事實(shí)，學(xué)者通常也難以分辨哪些內(nèi)容是需要進(jìn)一步甄別是否存在抄襲，這導(dǎo)致剽竊呈現(xiàn)出無意識特征。此外，GAI 利用反饋學(xué)習(xí)獲得學(xué)者思想內(nèi)容后，再面向其他學(xué)者進(jìn)行二次創(chuàng)作，是否也涉嫌剽竊先前使用者的思想？

事實(shí)上，學(xué)者用GAI 輔助學(xué)術(shù)研究的過程，是學(xué)者與GAI 協(xié)同完成研究任務(wù)的過程。但人類語言亦具有復(fù)雜性，語種語義、表達(dá)方式、詞性特征、用語習(xí)慣等均會影響交流。實(shí)踐證明，GAI 會受到提問者所提供信息的影響，在回答問題過程中，極易形成迎合偏好的回答。更值得注意的是，在與學(xué)者進(jìn)行深度對話時(shí)，GAI 會固化提問者所自帶的認(rèn)知與偏見，強(qiáng)化偏離本意的意識[14]。最后，在評價(jià)由GAI 輔助的研究成果時(shí)，是否應(yīng)當(dāng)將GAI 的輔助效果考慮其中。由于GAI 的輔助效果因其資本密集導(dǎo)向而具有不公平性，而現(xiàn)有學(xué)術(shù)評價(jià)標(biāo)準(zhǔn)缺乏對GAI 在協(xié)作過程中貢獻(xiàn)價(jià)值的度量，阻礙了評價(jià)的準(zhǔn)確性與公平性。

2.2 智能奪權(quán)，批判創(chuàng)造失去主導(dǎo)

美國在線課程網(wǎng)站Study.com開展的一項(xiàng)調(diào)查顯示，超過89%的學(xué)生使用ChatGPT 來完成家庭作業(yè)，48%的學(xué)生用ChatGPT 完成小測驗(yàn)，53%的學(xué)生用ChatGPT 寫論文，22%的學(xué)生用ChatGPT 生成論文大綱[15]。過去，學(xué)者需要大量閱讀，進(jìn)行深度思考，并提出創(chuàng)新性的觀點(diǎn)和解決方案才能完成撰寫論文的工作?，F(xiàn)如今GAI 的出現(xiàn)徹底顛覆了這一傳統(tǒng)方式，學(xué)者不再需要花費(fèi)時(shí)間梳理相關(guān)文獻(xiàn)，整合關(guān)鍵知識，只需把問題提交給GAI 便能解決。

ChatGPT 等GAI 能應(yīng)是協(xié)助人類在多領(lǐng)域知識唾手可得的情況下，仍保持敏銳洞察力、靈活適應(yīng)性和創(chuàng)新思維方式的工具，而非剝奪取代學(xué)者獨(dú)立思考和解決問題能力的思維替代者。在現(xiàn)如今這種信息爆炸的時(shí)代，人類面臨的問題和挑戰(zhàn)日益復(fù)雜多變，具備批判性思維和創(chuàng)造性思維就顯得尤為重要。批判性思維能夠?qū)π畔?、論?jù)和觀點(diǎn)進(jìn)行深入評估，從而形成明確、準(zhǔn)確和有根據(jù)的判斷，更為有效地應(yīng)對復(fù)雜問題、降低誤判風(fēng)險(xiǎn)，并在日常生活和工作中作出明智的決策。創(chuàng)造性思維則鼓勵人們跳出傳統(tǒng)思維模式的限制，嘗試以新的方法和角度來解決問題，從而生成新的、獨(dú)特的和有價(jià)值的想法、解決方案或觀點(diǎn)。批判性思維評估已有的知識和策略；創(chuàng)造性思維創(chuàng)造出不存在的知識和策略。兩者相輔相成，才會有新知識的產(chǎn)出[16]。但隨著學(xué)者對ChatGPT 等GAI 的不斷依賴，其自身正在不自覺地讓渡思維的主導(dǎo)權(quán)，思維模式逐漸由人類向AI 轉(zhuǎn)移，由機(jī)器思維取代人類思維。在這種情況下，機(jī)器意志將可能取代人的意志，出現(xiàn)主導(dǎo)權(quán)喪失的問題[17]。

2.3 智能迭代，信效度難以認(rèn)定

由于GAI 的實(shí)質(zhì)是將語言向語義空間進(jìn)行轉(zhuǎn)換，并根據(jù)需求運(yùn)用多個算法迭代重組重構(gòu)，但其在深度學(xué)習(xí)中還存在過程算法不透明、數(shù)據(jù)不完整、訓(xùn)練不完善等問題[12]，導(dǎo)致最終生成結(jié)果的信效度難以認(rèn)定。其一，在深度學(xué)習(xí)過程中，大量參數(shù)會隨著訓(xùn)練自動迭代調(diào)優(yōu)，其變化機(jī)制難以用邏輯解釋。因此，導(dǎo)致GAI 無法清晰解釋其生成結(jié)果的理由，學(xué)者也無法根據(jù)邏輯判斷生成結(jié)果的正確性。其二，GAI 生成的結(jié)果卻決于訓(xùn)練數(shù)據(jù)的深度和廣度。然而，當(dāng)前的訓(xùn)練數(shù)據(jù)難以覆蓋所有學(xué)科所有領(lǐng)域，使得生成結(jié)果存在數(shù)據(jù)偏差。

3 對策及建議

學(xué)術(shù)倫理是開展科研等活動需要遵循的價(jià)值理念和行為規(guī)范，是促進(jìn)學(xué)術(shù)研究健康發(fā)展的重要保障?，F(xiàn)如今，ChatGPT 類生成式人工智能領(lǐng)域的“領(lǐng)頭羊”發(fā)展態(tài)勢已然良好，伴隨著科技的不斷進(jìn)步，更尖端復(fù)雜的人工智能技術(shù)預(yù)期只會更加頻繁地滲透并運(yùn)用在研究領(lǐng)域，但當(dāng)前的學(xué)術(shù)倫理制度已無法滿足飛速發(fā)展的技術(shù)應(yīng)用需求。亟需進(jìn)一步完善學(xué)術(shù)倫理制度，防控學(xué)術(shù)倫理風(fēng)險(xiǎn)，實(shí)現(xiàn)高效、道德及健康地人工智能技術(shù)應(yīng)用。

（1）建立檢測識別機(jī)制。為了實(shí)現(xiàn)高水平的學(xué)術(shù)誠信和提高學(xué)術(shù)創(chuàng)新能力，防止剽竊的發(fā)生，相關(guān)學(xué)術(shù)機(jī)構(gòu)應(yīng)建立或更新審查機(jī)制，以檢測研究者提交的論文是否是基于GAI 的模擬學(xué)術(shù)論文，并對其進(jìn)行評估或分級。學(xué)者和人工智能生成的內(nèi)容存在著顯著語言差異的。另外，生成式人工智能生成的語言指紋具有反直覺的特性，它是通過將不同的論點(diǎn)分成段落來提供清晰的邏輯結(jié)構(gòu)，從而減少了對話語標(biāo)記的需求，這與人類的寫作邏輯背道而馳[18]。通過建立檢測識別機(jī)制，將有助于維護(hù)學(xué)術(shù)機(jī)構(gòu)的權(quán)威性，促進(jìn)產(chǎn)出更多的原創(chuàng)性學(xué)術(shù)成果[19]。

（2）建立學(xué)術(shù)倫理制度。對于目前“人機(jī)共研”現(xiàn)狀下所涉及的學(xué)術(shù)倫理建設(shè)，應(yīng)對技術(shù)與倫理雙方進(jìn)行理性地審視，建立行之有效的學(xué)術(shù)倫理制度。首先，應(yīng)加強(qiáng)AI技術(shù)應(yīng)用領(lǐng)域的學(xué)術(shù)倫理研究，立足人機(jī)融合新圖景，判定阻礙學(xué)術(shù)研究高質(zhì)量發(fā)展的“被調(diào)適方”，并基于此構(gòu)建學(xué)術(shù)倫理的建設(shè)思路。其次應(yīng)成立科研技術(shù)倫理委員會，在技術(shù)專家、倫理學(xué)者的共同努力下，修訂現(xiàn)有的科技倫理與學(xué)術(shù)倫理審查制度，使技術(shù)符合學(xué)術(shù)倫理的規(guī)約，并及時(shí)更正技術(shù)中不適應(yīng)學(xué)術(shù)倫理的行為，為新應(yīng)用場景提供結(jié)構(gòu)性制度保障。此外，研究者本身應(yīng)始終保持能動性，以主體姿態(tài)，將以ChatGPT 為代表的人工智能視為認(rèn)知工具，堅(jiān)定研究立場，并承擔(dān)起數(shù)字素養(yǎng)所對應(yīng)的社會文化修養(yǎng)、道德規(guī)范和行為自律等責(zé)任，使其真正為學(xué)術(shù)研究所用[12]。

（3）加強(qiáng)學(xué)術(shù)倫理引導(dǎo)。為了實(shí)現(xiàn)更高質(zhì)量可持續(xù)發(fā)展的人工智能技術(shù)，還應(yīng)該加強(qiáng)學(xué)術(shù)倫理引導(dǎo)。AI 逐漸改變了當(dāng)前的學(xué)術(shù)研究模式，而作為學(xué)術(shù)研究的主體，科研人員的學(xué)術(shù)倫理引導(dǎo)一直都是學(xué)術(shù)倫理治理的起點(diǎn)。因此，可以鼓勵學(xué)會、協(xié)會、學(xué)校等組織加強(qiáng)對科研人員針對性的對當(dāng)前AI 沖擊下的學(xué)術(shù)倫理進(jìn)行引導(dǎo)，科研人員共同監(jiān)督并抵制學(xué)術(shù)倫理違規(guī)行為。

（文責(zé)自負(fù)）