馬陸亭

歲末年初，ChatGPT橫空出世，這是繼2016年AlphaGo戰(zhàn)勝人類頂級棋手后人工智能技術再次帶給世界的驚喜。與AlphaGo的觀摩效應不同，ChatGPT能夠給使用者以沉浸式體驗，這無疑增強了人們的參與感和娛樂感?？萍颊诟淖兪澜纾乱惠喛萍几锩谝匀斯ぶ悄転闋恳约夹g展開。

從概念內涵看，人工智能是指被人設計出來的智能機器或新的智能體（Intelligent Agents），它能夠感知環(huán)境，思考并采取行動使成功機會最大化。人工智能技術會給人帶來許多便利，也將給未來帶來巨大的發(fā)展空間。

從前期實踐看，它主要沿著兩大學科路徑集聚發(fā)展要素：一是計算機學科——包括芯片、算法、大數(shù)據(jù)、數(shù)據(jù)標識，典型例子即AlphaGo，在有明確邊界的場景機器已完勝；二是自動控制學科——涵蓋信號、識別、傳感、反饋系統(tǒng)，典型例子是智能汽車，但因其駕駛環(huán)境的復雜性目前仍處于實驗階段。當然，最終相關學科會走向融合，包括數(shù)學、哲學、腦科學、神經(jīng)學科等，使算法、數(shù)據(jù)、邏輯、控制、倫理緊密地結合在一起，形成關鍵算力，促進智能體在邊界突破、多場景應用中的思考能力不斷增強。

從發(fā)展階段看，在一個場景下的人工智能為弱人工智能。因此，邊界明確的智能應用屬于弱人工智能，而突破邊界的應用則需要得到強人工智能的支撐。世界才剛剛開啟人工智能的進程，目前尚處于弱人工智能階段。

人工智能就是被用以超越人類的，所謂智能就是使機器具備像人類思維一樣的生成式學習能力。AlphaGo的邊界在棋盤內，它依據(jù)海量棋譜和算法生成對抗網(wǎng)絡實現(xiàn)自動對弈，運算速度大大超越人類。ChatGPT的數(shù)據(jù)邊界雖在不斷擴展，但其數(shù)據(jù)搜尋、邏輯推理和歸納整理能力極強、速度極快。

當然，人工智能從本質上講仍是機器，底層是遵循二進位制的與非門，算法由人設計，所以理論上講能夠可控。但是，確也存在著失控因素，分主客觀兩個方面：主觀因素可以通過制度規(guī)范和算法完善改進，如科技倫理失范與智能片面信息推送等問題的解決；而那些由客觀原因造成的失控，則不易彌補，多與數(shù)據(jù)邊界突破有關。

其一，數(shù)據(jù)良莠不齊失控?；鸨鋈Φ腃hatGPT很直接地把這個問題帶出——它對有大數(shù)據(jù)支撐的通用問題回答得很有條理，而對于數(shù)據(jù)支撐不足的個性問題就一本正經(jīng)地編瞎話了。大數(shù)據(jù)的質量是人工智能應用的基礎，數(shù)據(jù)不足或不好會產生數(shù)據(jù)識別問題。ChatGPT不能辨真?zhèn)?，致使人機對話過程產生海量貌似真實的虛假信息，由此導致的失控將形成對知識體系的挑戰(zhàn)。

其二，軟硬件損傷失控。任何機器都有壞的時候，人工智能作為工程產品有一個可靠性問題。例如：智能汽車面對著極其復雜的外部環(huán)境，數(shù)據(jù)邊界隨時會被打破，所以在實驗室、特定地段或者軌道交通中易于實現(xiàn)，而在現(xiàn)實路況中很難得到實際應用，即使整個系統(tǒng)萬無一失但只要出現(xiàn)機器故障也足以導致車毀人亡。

其三，系統(tǒng)關聯(lián)作用失控。單一算法當然能夠可控，但復雜系統(tǒng)會產生設計者尚未認識到的潛在聯(lián)系，即多個算法的交互作用。如果有一天，當某些算法突然自發(fā)地產生了聯(lián)系，從而觸發(fā)了一些指令，那么機器人甚至某個系統(tǒng)不聽人話的事情就會真正發(fā)生。人當然能夠解決這些問題，但災難已經(jīng)降臨，情況嚴重的話甚至不給人類解決問題的機會。這是真正的強人工智能所必須面對的問題，需要加強“防火墻”建設。

新一代人工智能正在引領社會和教育變革，談問題不是要因噎廢食，而是為了實現(xiàn)健康發(fā)展，要從技術、倫理、規(guī)則、制度、法律層面推進和完善。

[責任編輯：于 洋]