河北師范大學附屬民族學院 王際川

一款名為ChatGPT 的智能聊天程序自2022 年11 月30 日發(fā)布至今年2 月，就在全球狂攬1 億名用戶！它不僅可以讓用戶享受到“秒回式”的聊天體驗，而且面對任何問題都能對答如流，就像和一名知識淵博的朋友在面對面交流。

ChatGPT 是美國人工智能研究公司OpenAI 研發(fā)。它能夠?qū)W習和理解人類的語言，還能根據(jù)聊天的上下文內(nèi)容像人類一樣進行對話互動，甚至能撰寫郵件、視頻腳本和文案，還能翻譯、寫代碼、寫論文等。如此強大的功能很快引起了大眾的高度關(guān)注，其中不乏想不勞而獲走捷徑的“聰明人”。很快，歐洲和美洲的各大高校明確提出禁止學生使用ChatGPT 做作業(yè)。Chat?GPT 具有足夠高的智能化，但學習沒有捷徑，青少年朋友千萬不要效仿那些“聰明人”的不良行為。

我們一起來實際體驗ChatGPT 的奇妙吧！我使用的是Visual Studio Code 程序中的擴展程序“CHAT-GPT 中文版”體驗智能聊天。

◎體驗一：首先和它聊聊互聯(lián)網(wǎng)知識儲備。提出問題“請列舉人工智能最新成果”。

ChatGPT 從四個方面給出了精準答案，非常不錯！

◎體驗二：在發(fā)布時，團隊稱ChatGPT是編程神器，可寫程序代碼，甚至可以修改程序的bug（程序錯誤、缺陷），我們就考考它的編程能力。問題是“一道編程題，請通過C 語言實現(xiàn)。題目是：給出三個數(shù)，返回這三個數(shù)中最大的那個數(shù)?！边@個題目首先需要明確是編程題，還要指定用C 語言實現(xiàn)，然后才是程序的要求。沒有足夠高的理解能力，不精通計算機編程C 語言，是萬萬做不到的。

當它經(jīng)過簡短“思考”后，給出的答案從語法結(jié)構(gòu)、程序語句都無可挑剔。Chat?GPT 顯示出的這種能力給人感覺今后編程將會變得非常簡單，在它的輔助下，甚至人人都可以成為優(yōu)秀的程序員。

◎體驗三：我們考考ChatGPT 對博大精深的中華文化掌握得怎么樣。

前一問回答得完全正確。對有點兒難度的“林沖是誰？為何上梁山？”回答雖不太嚴謹，也能給出簡要的答案。

◎體驗四：提升難度，看看它的數(shù)學推理能力。經(jīng)典數(shù)學問題：雞兔同籠。第一題“雞兔同籠。有20 個頭，54 只腳，雞、兔各有多少只？”

面對一再的“逼問”，不知是故意的還是沒訓練好，它開始一本正經(jīng)地“胡說”，面對提醒仍然“不知悔改”。于是我再換一道同類型的題“有雞、兔共36 只，它們共有100 只腳，雞、兔各有多少只？”。

看著它“自信”的秒回答案，看來Chat?GPT 的奧數(shù)水平還有待提高，放過它這一馬吧！

◎體驗五：最后我們來向它“尋計問策”。問“有些中學生不熱衷公益活動是什么心態(tài)？”“怎樣去改變他們的心態(tài)？”

這兩個問題的回答中規(guī)中矩，基本滿意。

通過上述案例及參考網(wǎng)上其他案例，我們能夠體會到，面對常識類問答，Chat?GPT 顯得比較輕松，但對邏輯推理類等問題還有待進一步學習提升。對于ChatGPT的智能性，復旦大學人工智能創(chuàng)新與產(chǎn)業(yè)研究院院長漆遠的感覺是“驚訝”。他說，雞兔同籠、相遇問題等小學數(shù)學題，Chat?GPT 全都順利作答（與我們體驗不太相符，難道是英文表述的雞兔同籠的問題？也有可能是沒有選擇對程序，筆者沒有親測），而此前這對AI（人工智能）來說是不可能實現(xiàn)的。這表明，隨著算法迭代，實現(xiàn)了從量變到質(zhì)變，ChatGPT 不僅具備了語言方面的能力，更具備了數(shù)學推理能力。

ChatGPT 是如何實現(xiàn)具有“前所未有”的智能呢？ChatGPT 是基于NLP（自然語言處理）的產(chǎn)物。馬薩諸塞大學洛厄爾分校計算機科學教授Jie Wang 認為，ChatGPT 最主要的突破在于其背后架構(gòu)GPT-3.5 中使用的few-shots（小樣本）和用戶反饋的技術(shù)。而且，ChatGPT 擁有其他語言模型所不具備的千億級別參數(shù)規(guī)模，也使它能夠捕獲更復雜的語言模式和關(guān)系。

下面通過解讀幾個關(guān)鍵詞讓大家理解上述表述，了解ChatGPT。

1.NLP（自然語言處理）。

ChatGPT 之所以能夠成為一個現(xiàn)象級的火爆應用，在于它能夠自動生成類似于人類撰寫的文本。支持ChatGPT 能夠如此出色地生成有意義的文本是NLP（自然語言處理），它能夠讓計算機理解、解釋和生成人類語言。

2.few-shots（小樣本）和反饋的技術(shù)。

小樣本技術(shù)又名few shots learning（小樣本學習），在機器學習領域中泛指從少量標注數(shù)據(jù)中學習的方法和場景。要理解小樣本，涉及到另一個概念——提示（prompt?ing），因為“提示”是ChatGPT 接受用戶反饋的形式。

舉一個非常簡單的例子幫助大家理解。假設作為校園小記者的小明使用ChatGPT 輔助編寫新聞稿時，需要ChatGPT對一段較長的新聞進行歸納總結(jié)或生成一個標題，這時可以給ChatGPT 一點小提示——例如，小明是《農(nóng)村青少年科學探究》雜志“創(chuàng)客校園”版塊的小記者，他需要幾個“吸睛”的標題。相比簡單要求“請生成一個標題”，有了關(guān)鍵詞的提示，會讓ChatGPT 有更明確目標和顯著效果。

3.千億級別參數(shù)。

據(jù)稱，基于8 000 億個單詞的語料庫（或45TB 的文本數(shù)據(jù)），ChatGPT 包含了1 750 億個參數(shù)。8 000 億 是ChatGPT 的 訓練數(shù)據(jù)，1 750 億個參數(shù)則是它從這些訓練數(shù)據(jù)中學習、沉淀下來的內(nèi)容。如此巨大的參數(shù)規(guī)模使得ChatGPT 能夠捕獲更復雜的語言模式和關(guān)系，從而提高復雜自然語言處理任務的準確性。

我們可以將1 750 億個參數(shù)理解為ChatGPT 具有1 750 億神經(jīng)元，而人的大腦僅有120 億～140 億個神經(jīng)元。讓人瞠目結(jié)舌的是，自2018 年始，巨型神經(jīng)網(wǎng)絡模型參數(shù)每年都會增大一個數(shù)量級。權(quán)威專家預言，OpenAI 的下一代GPT-4 將會突破萬億參數(shù)，甚至將達到100 萬億參數(shù)。也就是說，未來的Chat?GPT 有可能會比人腦聰明一萬倍。

具有了這種超大模型千萬億級參數(shù)，也僅僅是它的“物質(zhì)基礎”——“大腦”，還需要通過“訓練”“學習”才能讓這個“大腦”“善解人意”。這種訓練又需要高性能網(wǎng)絡支撐、鏈路負載均衡與故障快速恢復技術(shù)做支撐。

首先，ChatGPT 整體技術(shù)方案是基于GPT-3.5 大規(guī)模語言模型通過人工反饋強化學習來微調(diào)模型，讓模型一方面學習人的指令，另一方面學習回答得好不好。ChatGPT 具有及時互動的價值，因此面對來自不同國家地區(qū)、不同語言、不同文化背景、不同需求的人群，“反饋”也是來自網(wǎng)絡世界的不同角落，是一種分布式訓練，自然需要高性能網(wǎng)絡的支持。

其次，ChatGPT 是一個巨大人工智能模型，以現(xiàn)行的具有1 750 億參數(shù)的大規(guī)模集群來說，進行大模型訓練一般會將數(shù)據(jù)并行、流水線并行、張量并行等多種并行模式混合使用，以充分利用集群的算力。無論是哪種并行模式，多機之間都會涉及一種叫AllReduce（全規(guī)約，簡單可以理解為分布式訓練中的服務器數(shù)據(jù)同步）的集合通信。一個AllReduce 任務包含多個點對點的通信，而AllReduce 的完成需要所有點對點通信都成功完成。因此，集合通信存在“木桶效應”，即AllReduce 的完成時間，由其中最慢的點對點通信時間決定。因此，除了高性能的網(wǎng)絡互聯(lián)“高鐵”外，還需要鏈路負載均衡與故障快速恢復。

目前，在技術(shù)應用層面ChatGPT 還存在一些弱點。這主要是因為ChatGPT 本質(zhì)是語言模型，當前的訓練技術(shù)模型還不具備推理能力，或者說推理能力很弱，因此給出的回答不是完全正確可信。其次，目前的ChatGPT 底層技術(shù)方案不支持獲取社會熱點新聞，不能夠回答2021 年之后的問題，存在一定的信息滯后。最后就是成本問題。

在對未來世界的幻想或展望中，在我們的學習工作生活中會出現(xiàn)具備與人類同等智慧、或超越人類的人工智能（AI）。它能表現(xiàn)正常人類所具有的所有智能行為，能思考、能判斷、有思想、有倫理——這就是通用AI。2001 年6 月26 日上映的科幻電影《人工智能》給出了人類對人工智能的期望。那么ChatGPT 的出現(xiàn)似乎讓人類看到了通用AI 的曙光，具有里程碑式的意義，距離實現(xiàn)人類對人工智能期望的目標又前進了一大步。

回顧人類社會的發(fā)展歷史，已經(jīng)出現(xiàn)了計算機、互聯(lián)網(wǎng)、智能手機等數(shù)次超級工具，極大地改變了人們的思維和生活方式?？梢栽O想如果用ChatGPT 來代表基于大型通用語言模型的應用，那么ChatGPT 很有可能成為下一個改變世界的超級工具，也許會改變?nèi)祟悓W習、工作和生活的方式。不過，以目前的實際情況來看，ChatGPT 離通用AI 仍然還有一段很長的路要走。希望青少年朋友好好學習，能夠在未來人工智能領域作出自己的貢獻，早日實現(xiàn)人類對人工智能的期盼！