王楠

【摘 要】面對愈加頻繁呈現(xiàn)于大眾的“機器人恐慌”，本文嘗試從機器意識與生物意識的角度回答“機器是否會止于模仿人類大腦”的問題，并認為機器無法替代人類的主體性，而一時的“未來學”角度的恐慌可能會掩蓋更重要的問題，即現(xiàn)階段AI發(fā)展對社會經(jīng)濟的影響，對AI的倫理和行為規(guī)范方面的政策需要政府、科學家、法律專業(yè)人士聯(lián)合制定。

【關(guān)鍵詞】機器意識；人類意識；人工智能

中圖分類號： TP18-02 文獻標識碼： A 文章編號： 2095-2457（2018）25-0264-002

DOI：10.19694/j.cnki.issn2095-2457.2018.25.121

【Abstract】In the face of an increasing amount of media coverage highlighting ‘Robo-phobia， this paper attempts to address the question ‘Will robots go beyond imitation？ from combined perspectives of biological and machine consciousness. It suggests that human agency cannot be transcended by machines. And the ‘futurist AI apprehension tends to mask a more significant issue： the wider socio-economic impact of AI at present. As regards AI policy-making， joint efforts are entailed among governments， scientists， law theorists and practitioners.

【Key words】Machine Consciousness； Human Consciousness； Artificial Intelligence

1 問題的提出

自智人出現(xiàn)、國家形成、文明更迭以來，無論人類處于何種歷史節(jié)點，總會以一種集體的方式抵御自然災難、戰(zhàn)爭與疾病的威脅，這是面對動態(tài)與變遷問題時對生存和未來的回應；而在相對靜態(tài)與穩(wěn)定的發(fā)展時期，總有一種強大的內(nèi)驅(qū)力催促人類不斷突破現(xiàn)狀，不斷創(chuàng)造與變革。在技術(shù)革命的浪潮下，現(xiàn)代意義的機器于18世紀工業(yè)資本主義興起后誕生，是完美邏輯的具象化產(chǎn)物，人類社會以一種比以往更加明確的問題解決導向，在數(shù)學思想和物理理論的支撐下，以最高級的生物智慧創(chuàng)造機器，持續(xù)作用于機器的演化，使它愈加智慧，逼近理性的極致。

毋庸置疑，愈加智慧的機器將其與人類命途聯(lián)結(jié)在一起，不僅有如硬幣的兩面，這種聯(lián)結(jié)是多面的，其中一面是人類對“機器意識”是否會自我演化并最終異化于創(chuàng)造者藍圖的擔憂。人們對科技破壞力的思考伴隨工業(yè)革命的進程而愈加頻繁，我們頻頻引用的“弗蘭肯斯坦”創(chuàng)作于機械化向電氣化過度的19世紀早期，從“圖靈預言”到Deep Mind團隊開發(fā)的新一代圍棋AI——“AlphaGo Zero”，超越算法、故障率和商業(yè)價值，人們比以往任何歷史時刻都更加關(guān)心機器制造者的動機和“機器意識”。物理學家霍金認為 AI“完全有可能超越人類的智慧水平，AI的全面發(fā)展將使其擺脫人類的控制，最終導致人類的終結(jié)”；英國機器人專家渥維克斷言2050 年機器人必將統(tǒng)治人類，將把人類關(guān)在集中營里（張勁松，2017）。對機器異化的恐慌在現(xiàn)今超級發(fā)達的媒體網(wǎng)絡中蔓延，技術(shù)本身無法回答內(nèi)生于技術(shù)的問題，關(guān)于機器的哲學思考開始拷問機器潛在的“破壞力”。

維基百科將人工智能哲學（philosophy of artificial intelligence）試圖回答的問題總結(jié)如下：第一，機器可以做出智能的行為嗎？它可以解決人類通過思考來解決的任何問題嗎？第二，人類智能與機器智能一樣嗎？人類大腦本質(zhì)上是計算機嗎？第三，機器可以擁有如同人類一般的心靈、心境和意識嗎？機器能夠感知周遭事物嗎？

有鑒于此，本文將所有疑問收斂在兩個問題上，即“機器在未來將以何種方式與人類互動，機器會始終受控、依賴于人、平行于人類社會的發(fā)展嗎，還是會“覺醒”，隨之而來的是自我演化、替代人類？人類對機器意識發(fā)展的擔憂是否過度，而掩蓋了更重要的制度、法律、倫理問題？”

2 機器意識與生物意識

在過去數(shù)十年，意識的本質(zhì)成為諸多學科的研究焦點，如神經(jīng)科學、哲學和認知科學，甚至有學者提出“也許在視覺感知、記憶和整個生物學領域最大的未解問題就在與對意識的分析”。

2.1 意識與自我意識

不同學科對意識的解構(gòu)有不同的側(cè)重點：從哲學角度，意識是相對于物質(zhì)的精神現(xiàn)象；從醫(yī)學上講，意識是個體對環(huán)境和自我的認知與反應能力；心理學往往從覺知和個體對外部環(huán)境和內(nèi)在心靈的體驗來關(guān)注意識；神經(jīng)科學對意識的研究往往將其視作大腦的一項功能，且意識的產(chǎn)生來自于神經(jīng)整合（neural integration）。

無論不同學科如何定義意識，其共識在于：意識具有生物性特征，是一種生命個體具備的能力。意識在生命個體中普遍的存在，但生物意識功能的復雜程度與生物個體的智能水平有直接關(guān)聯(lián)。自我意識正是生物意識序列中的高階意識，是一種內(nèi)省功能，一種反映個體內(nèi)心活動的功能，內(nèi)省使個體持續(xù)獲知當前的自我狀態(tài)（self-state），始終理解個體的需求以及需求的原因。

2.2 從生物意識到機器意識

人工智能領域?qū)C器意識的設計似乎嘗試使機器意識的發(fā)展模仿人類意識發(fā)展的模式，即弱的意識與強的意識同時存在，強的機器意識是充分發(fā)展了的，能夠如同人類一般解決已知或未知情境中的問題。

周昌樂與劉江偉（2011）對機器意識的研究策略分別進行人工智能哲學和腦科學領域的綜述，認為機器意識的研究主要分為算法構(gòu)造策略和仿腦構(gòu)造策略：算法構(gòu)造策略在不考慮人類腦機制的前提下，單純采用算法進行機器意識研究；仿腦構(gòu)造策略則借鑒人腦意識的發(fā)生機制，利用生物物理原理來進行機器意識研究。該研究同時回顧了Gamez提出的機器意識分類體系：（1）具有意識表現(xiàn)的機器感知模型（MC-P）；（2）具有認知特性及其行為表現(xiàn)的機器意識（MC-C）；（3）具有人類意識相對應機制的意識機器（MC-A）；（4）擁有自我感覺的機器意識（MC-S）；（5）擁有奇妙意識體驗狀態(tài)的機器（MC-Q）。最帶有哲學爭議的機器意識體系即為第五種—擁有奇妙意識體驗狀態(tài)的機器，這種意義上的機器不僅僅是意識研究的工具，而是真正具有意識體驗的機器。

有學者提出7組機器意識測量的策略；還有學者（Zhang & Zhou， 2013）提出模仿自我意識的模型，包括外部環(huán)境、傳感組件、動機組件、自我意識組件、行為組件，并通過機器仿真囚徒困境游戲?qū)σ陨辖M件進行檢驗，將意識過程視作黑箱，最終結(jié)果顯示傳感組件、動機組件和行為組件被忽略，信息的輸入輸出鏈能夠被理解為具有意識的能動者（conscious agent）。

3 機器無法替代人類的主體性

如果仿腦構(gòu)造策略能夠強大到通過神經(jīng)建模使機器具有意向性意識能力（環(huán)境感知、認知推理、語言交流、想象思維、情感發(fā)生、行為控制），那接下來需要考慮的是未來的人工智能是否有可能替代人類的主體性。

有研究在對人工智能邏輯思維能力提升和感性存在模擬進行分析的基礎上，進而提出“人工智能無法替代人類主體性”的結(jié)論（張勁松，2017）：第一，人工智能對于思維能力的強化和延伸是有界限的，無法超越人類思維和意識的整體性，人類制造機器并決定其特性和功能，人類思維和AI永遠是模擬與被模擬、操控與被操控之間的關(guān)系，人類大腦是AI可以無限接近但不可逾越的地平線；第二，AI對于人類感官的模擬仍然處于機械化階段，無法產(chǎn)生完整的人類感覺和思維，中文屋（Chinese Room）實驗一方面支持了前文所述MC-Q研究范式的結(jié)論，另一方面表明，即便擁有強大的算法，“屋里”的“偽裝者”仍不能理解人類的自然語言，“如果心當真是一臺計算機，它的運算必須用語法來定義，然而思想、意識、感情、情緒以及其他心理特征遠非語法所能定義。不管計算機的模擬能力有多強，它也不能復制那些特征”。

Dubhashi，D.&Lappin;，S.（2017）在對“奇點”（singularity）概念進行駁辨時，指出大量由AI驅(qū)動的技術(shù)工作實在尋求解決特定的任務，而不是對一般性的人類智能進行建模，大多“人工智能威脅論”描述的既已存在的風險僅僅有賴于邏輯上的可能性，已經(jīng)是時候?qū)I倫理和道德問題進行思考，對其社會影響進行評估，需要政府與技術(shù)精英、法律專家的聯(lián)合，來制定目前或不遠的將來會普遍使用的無人駕駛汽車、醫(yī)護機器人的實施政策，需要有明確的制度保障對AI背后的編程過程和程序本身進行倫理審查。

4 結(jié)論

本文認為，AI的發(fā)展仍處于初級階段，機器之于人類未來的確具有極強的不確定性，但機器無法替代人類的主體性，機器的道德、倫理問題并不新穎，它映射人類社會的道德與倫理，面對“想象中的”或“可能成為事實”的奇點“危險”，人類社會能夠?qū)θ斯ぶ悄艿陌l(fā)展做出倫理審查和風險預判，能夠?qū)θ斯ぶ悄芘c社會、政治、文化的交互影響作出分析，正如同歷次工業(yè)（技術(shù)）革命對人類社會的影響，人工智能作為新技術(shù)革命中的重要構(gòu)件，或許會成為未來人類文化的重要組成部分，但機器絕非生物，人的邏輯力量和正義感會將非道德性的人工智能技術(shù)始終置于人類制度文明的牢籠。

【參考文獻】

[1]張勁松.人是機器的尺度—論人工智能與人類的主體性[J].自然辯證法研究，2017，33，（1）：49-54.

[2]周昌樂，劉江偉.機器能否擁有意識—機器意識研究即其意向性分析[J].廈門大學學報（哲學社會科學版），2011，（1）：1-21.

[3]Arrabales.R.，et.al.Strategies for Measuring Machine Consciousness[J].International Journal of Machine Consciousness， 2009，01，（2）：1-9.

[4]Dubhashi，D.&Lappin;，S.AI Dangers：Imagined and Real[J].COMMUNICATIONS OF THE ACM，2017，（2）：43-45.

[5]https：//en.wikipedia.org/wiki/Philosophy_of_artificial_intelligence.

[6]https：//mp.weixin.qq.com/s/ndhuxanY-Dpyv0eA8G8hWQ.

[7]Zhang，X.Y.，Zhou，C.L.From Biological Consciousness to Machine Consciousness：An Approach to Make Smarter Machines[J].International Journal of Automation and Computing，2013，10， （6）：498-505.