盧光明

摘 要：智能制造系統(tǒng)是一種高度復(fù)雜的人機(jī)協(xié)同系統(tǒng)，協(xié)同問題和安全問題是該系統(tǒng)面臨的主要問題，而有效的人機(jī)協(xié)同是保證智能系統(tǒng)安全和效率的重要保證。論文從人類智能和機(jī)器智能之間的差異角度，分析這種差異可能導(dǎo)致的智能制造系統(tǒng)的安全，說明了智能制造系統(tǒng)可能面臨的安全問題，并提出了可能的應(yīng)對(duì)措施。

關(guān)鍵詞：智能制造系統(tǒng)安全；人機(jī)協(xié)同；人類智能；機(jī)器智能

中圖分類號(hào)：120.5099 文獻(xiàn)標(biāo)識(shí)碼：A

Security problems and Its countermeasures for human-machine-cooperative intelligent manufacturing system

Abstract： Security and coordination are key problems for human-machine-cooperative intelligent manufacturing system. From the difference between the Human Intelligent and Machine Intelligent， this thesis reveal the potential security problems and its countermeasures for human-machine-cooperative intelligent manufacturing system.

Key words： security problems for intelligent manufacturing system； human-machine-cooperative； human intelligent； machine intelligent

1 引言

信息技術(shù)的飛速發(fā)展及其在社會(huì)經(jīng)濟(jì)領(lǐng)域的廣泛滲透不僅會(huì)極大地促進(jìn)整個(gè)社會(huì)運(yùn)行效率的提升，加速整個(gè)社會(huì)的創(chuàng)新發(fā)展進(jìn)程，同時(shí)也會(huì)改變社會(huì)的風(fēng)險(xiǎn)分布格局，增加整個(gè)社會(huì)經(jīng)濟(jì)的整體運(yùn)行風(fēng)險(xiǎn)。本文主要從信息技術(shù)在制造領(lǐng)域的應(yīng)用，探討信息技術(shù)應(yīng)用在提升傳統(tǒng)制造企業(yè)效率的同時(shí)，也極大地增加了未來人機(jī)制造系統(tǒng)的風(fēng)險(xiǎn)的情況下，分析未來人機(jī)制造系統(tǒng)的風(fēng)險(xiǎn)特征，以及如何應(yīng)對(duì)智能制造時(shí)代，人機(jī)制造系統(tǒng)的各種可能風(fēng)險(xiǎn)。人類文明的所有成果都是需要付出相應(yīng)的代價(jià)，而智能化時(shí)代，我們必須付出的代價(jià)可能就是各種風(fēng)險(xiǎn)的增加，以及在風(fēng)險(xiǎn)控制方面付出必要的代價(jià)。

2 智能制造的風(fēng)險(xiǎn)特征

2.1人機(jī)智能協(xié)同問題

智能制造從根本上來說就是要借助不斷發(fā)展的現(xiàn)代先進(jìn)技術(shù)改變傳統(tǒng)制造環(huán)節(jié)的各個(gè)流程，以更經(jīng)濟(jì)的方式實(shí)現(xiàn)更高的客戶價(jià)值，甚至創(chuàng)造出新的制造形態(tài)和模式，提升制造企業(yè)的整體競(jìng)爭(zhēng)力。從操作層面來說，就是讓傳統(tǒng)制造環(huán)節(jié)中基于人與機(jī)器之間機(jī)械性能方面的協(xié)同，向以更高層面的人與機(jī)器智能之間智能方面的協(xié)同發(fā)展，減少人類智能的缺陷對(duì)制造環(huán)節(jié)的影響，而充分借助機(jī)器智能方面的優(yōu)勢(shì)來彌補(bǔ)人類智能的可能不足。因此，從根本上來說，智能制造就是要探索機(jī)器智能與人類智能之間的平衡和協(xié)同發(fā)展模式，創(chuàng)造出人類智能和機(jī)器智能之間相互促進(jìn)、相互補(bǔ)充的新的人類制造文明形態(tài)。

2.2 智能交互安全問題

習(xí)慣于傳統(tǒng)制造環(huán)節(jié)中人與人、人與機(jī)械之間相互作用所產(chǎn)生的風(fēng)險(xiǎn)，未來智能技術(shù)的發(fā)展和向制造環(huán)節(jié)的滲透，將改變這種傳統(tǒng)的操作界面，以及操作界面的管理模式，從而產(chǎn)生出極大的制造安全風(fēng)險(xiǎn)，甚至?xí)N(yùn)藏著新的可能的社會(huì)風(fēng)險(xiǎn)。突破傳統(tǒng)的人與人、人與機(jī)械之間的互動(dòng)，未來智能制造時(shí)代，制造業(yè)更多地會(huì)是人與智能機(jī)器之間、智能機(jī)器與智能機(jī)器之間、智能系統(tǒng)與智能系統(tǒng)之間的交流，在車間層面人和人之間的交流會(huì)較少，生產(chǎn)流程的跟蹤、改進(jìn)和優(yōu)化需要智能生產(chǎn)系統(tǒng)本身的演進(jìn)來完成，諸多的質(zhì)量檢查工作，生產(chǎn)任務(wù)排程、供應(yīng)鏈管理、客戶關(guān)系管理，甚至為數(shù)不多的相關(guān)工作人員的績(jī)效考核等工作都可能會(huì)借助智能技術(shù)來自動(dòng)完成。

2.3 人機(jī)界面安全問題

在這樣的智能系統(tǒng)中，智能制造系統(tǒng)的未來風(fēng)險(xiǎn)主要存在于人機(jī)界面層次，任何一個(gè)環(huán)節(jié)中人類智能與機(jī)器智能的脫節(jié)或不嚴(yán)謹(jǐn)?shù)膶?duì)接都會(huì)可能導(dǎo)致整個(gè)智能系統(tǒng)風(fēng)險(xiǎn)的產(chǎn)生和蔓延，并導(dǎo)致系統(tǒng)的崩潰。而這種人機(jī)界面方面的系統(tǒng)風(fēng)險(xiǎn)，不僅主要存在于人類智能與機(jī)器智能是兩者不同性質(zhì)的智能，兩者的共同特征比較少。更困難的是這兩種智能彼此缺乏溝通的經(jīng)驗(yàn)和渠道，對(duì)于絕大多數(shù)人而言，人類智能還不能夠很好地理解機(jī)器智能；而對(duì)于當(dāng)前的大多數(shù)機(jī)器智能系統(tǒng)來說，還沒有充分演化到可以輕松地理解人類智能的程度，還在自身的邏輯體系中進(jìn)化，盡管其被稱為“人工智能”，但是還是很難理解人類的行為，甚至很難與除專業(yè)人士以外的人類進(jìn)行溝通。

3 機(jī)器智能與人類智能

3.1 人類智能

美國哈佛大學(xué)心理學(xué)教授霍華德·加德納研究認(rèn)為，人的基本智能可分為八種類型，即語言智能、邏輯數(shù)理智能、音樂智能、空間智能、運(yùn)動(dòng)智能、人際關(guān)系智能、自省智能和自然觀察者智能[1]。但是，他認(rèn)為人類的這些智能并不能夠證明是先天就存在的，而是需要父母在日常生活中全面、細(xì)心地觀察孩子方方面面的表現(xiàn)，從而挖掘出他的優(yōu)勢(shì)智力并適時(shí)地加以引導(dǎo)而出現(xiàn)的，也就是說人類智能與后天培養(yǎng)有緊密的關(guān)系。

從起源上來說，人類智能來自于遺傳、來自于傳統(tǒng)和習(xí)慣、來自于人類數(shù)億年的進(jìn)化，來自于人類的生存環(huán)境，以及人與周圍環(huán)境的不斷互動(dòng)。超越個(gè)體的人，人類群體的復(fù)雜給人類智能產(chǎn)生了幾乎無限試錯(cuò)的可能，以及無限的創(chuàng)新空間。而驅(qū)動(dòng)人類智能發(fā)展的除了邏輯之外，更多還有各種感性的因素推動(dòng)人類智能的發(fā)展。單純從某項(xiàng)功能來說，個(gè)體人的智能可能有限，但是個(gè)體人是全面發(fā)展的智能，即使人在存儲(chǔ)和運(yùn)算能力方面不及計(jì)算機(jī)，但是確實(shí)當(dāng)前的機(jī)器智能很難全面達(dá)到一個(gè)5歲小孩的智能水平。

3.2 機(jī)器智能

從目前來看，不管機(jī)器智能的表現(xiàn)形式如何，其基本都是基于特點(diǎn)的邏輯算法來實(shí)現(xiàn)的。其表現(xiàn)形式和應(yīng)用領(lǐng)域還非常有限。不管未來機(jī)器智能會(huì)不會(huì)形成自身演進(jìn)的機(jī)制，其歸根結(jié)底還是來自于人類智能的創(chuàng)造，是人類理性的產(chǎn)物，只能按照人類原先的程序設(shè)計(jì)執(zhí)行相應(yīng)的活動(dòng)，并達(dá)到預(yù)期的效果。這就導(dǎo)致機(jī)器智能缺少自身活動(dòng)的自覺性，和自身的目標(biāo)感和意義感，也缺少了推動(dòng)人類發(fā)展的情感和意志在活動(dòng)中的作用。

因此機(jī)器智能和人類智能的一個(gè)顯著差異就是，缺少了人類的意志和意向。意向是人類智能的一個(gè)重要方面。人的活動(dòng)是有目的的、自覺的活動(dòng)，一刻也離不開自己意向性的主導(dǎo)。注意、需要、意圖、情緒、意志、理想等都是人的意向活動(dòng)形式。而思維是人類智能的核心，其特點(diǎn)主要是思想和思維?！叭耸且环N思維的動(dòng)物”，沒有思維就沒有人類的智能。有了思維，人類才能形成各種較復(fù)雜的意向，從而主導(dǎo)著人的活動(dòng)，表現(xiàn)出人類所特有的自覺能動(dòng)性。有了思維，人類才能發(fā)明各種技術(shù)，突破自己認(rèn)識(shí)器官和行動(dòng)器官的限制，大大提高改造世界的能力。

3.3 人類智能與機(jī)器智能對(duì)比

在未來一段時(shí)間，人類智能能夠處理的環(huán)境要比人工智能面對(duì)的環(huán)境要復(fù)雜得多，人類智能是一個(gè)自治、自洽的和完備的系統(tǒng)。尤其在處理一些復(fù)雜的系統(tǒng)性問題方面，人類智能能夠以超高的容錯(cuò)率在巨大的信息流中發(fā)掘出有價(jià)值的信息，能夠準(zhǔn)確做出判斷。人的智能可以產(chǎn)生意識(shí)、感情和創(chuàng)新，這類幾乎無法用邏輯解釋的問題。這是人類智能的最顯著的特點(diǎn)，也是目前區(qū)別于機(jī)器智能的主要方面，同時(shí)也是導(dǎo)致智能制造系統(tǒng)風(fēng)險(xiǎn)的重要原因。如果要解決未來智能制造中所面臨的諸多安全問題，就必須要從此環(huán)節(jié)入手，從根本上解決未來智能制造系統(tǒng)中可能面臨的諸多安全挑戰(zhàn)。

4 人類智能的局限及新的表現(xiàn)形式

4.1 人類智能的局限

人類智能在相對(duì)于機(jī)器智能存在諸多優(yōu)勢(shì)的同時(shí)，這些優(yōu)勢(shì)從另外一個(gè)方面考察，則也是人類智能的局限。如人類在情感與意志方面的長(zhǎng)處，從安全的角度考察則會(huì)發(fā)現(xiàn)人類智能會(huì)存在“捕獲錯(cuò)誤”“認(rèn)知偏差”“心理波動(dòng)”“環(huán)境暗示”等方面的智能路徑依賴方面的問題。這些問題都有可能是導(dǎo)致未來智能制造系統(tǒng)發(fā)生安全問題的重要原因。

4.1.1“捕獲錯(cuò)誤”局限

在英國劍橋大學(xué)計(jì)算機(jī)實(shí)驗(yàn)室信息安全工程教授、英國皇家學(xué)會(huì)會(huì)員、皇家工程學(xué)會(huì)學(xué)院院士Ross Anderson所著的《信息安全工程》（第二版）中，認(rèn)為人類操縱設(shè)備時(shí)所犯的錯(cuò)誤主要?dú)w納為三類，分別為技巧層面的疏忽與過失、規(guī)則層面的錯(cuò)誤和認(rèn)知層面的錯(cuò)誤。而“捕獲錯(cuò)誤”就發(fā)生在技巧層面的疏忽和過失。它是指人在執(zhí)行操作通常會(huì)形成一種技巧，但這也帶來一種副作用，如果不小心，就會(huì)導(dǎo)致潛意識(shí)地執(zhí)行熟悉的操作，而不去執(zhí)行本該需要執(zhí)行的操作[2]。黑客就利用人類的這些已經(jīng)深入潛意識(shí)中的習(xí)慣，設(shè)計(jì)一些陷阱讓人中其中的圈套，獲得其所期望的攻擊機(jī)遇。

4.1.2“認(rèn)知偏差”局限

認(rèn)知偏差是指人們根據(jù)一定表現(xiàn)的現(xiàn)象或虛假的信息而作出判斷，從而出現(xiàn)判斷失誤或判斷本身與判斷對(duì)象的真實(shí)情況不相符合的現(xiàn)象。暈輪效應(yīng)就是一種典型的認(rèn)知偏差，當(dāng)一個(gè)人陷入特定的心理模式的時(shí)候，就會(huì)人為某種行為，或者是某種態(tài)度就是好的，是對(duì)的，而對(duì)其他的情況則不聞不問，閉耳塞聽。這其實(shí)是人心理方面的路徑依賴所產(chǎn)生的一種心理情境，是人的偏執(zhí)和倔強(qiáng)所產(chǎn)生的一種心理現(xiàn)象。這種問題如果不能夠得到客觀、理性的解決，則會(huì)對(duì)周圍環(huán)境帶來很大的破壞和沖擊。

4.1.3“心理波動(dòng)”和“環(huán)境暗示”局限

“心理波動(dòng)”和“環(huán)境暗示”則是人類作為一種情感動(dòng)物所體現(xiàn)出來的最顯著的特征，情緒和心理在給人以明確的意向和意志的同時(shí)，也給人帶來了先天的脆弱。人很難控制自己的心理波動(dòng)和環(huán)境對(duì)人的情緒所施加的影響，而人類的這種脆弱性很容易被不法分子所利用。尤其是環(huán)境暗示方面，別有用心的人會(huì)設(shè)置特定的情境，讓當(dāng)事者在沒有搞清楚具體情況的背景下就做出錯(cuò)誤的決定，導(dǎo)致重大的信息泄露或者操作失誤。傳統(tǒng)的制造環(huán)節(jié)中，個(gè)體的力量還是有限的，但是在智能設(shè)備的輔助之下，個(gè)人的能力將獲得空前提升，操作失誤或者是別有用心的破壞都會(huì)對(duì)制造環(huán)節(jié)造成不可挽回的損失，

4.2 人類智能局限新的表現(xiàn)形式

當(dāng)然人類作為萬物之靈，具有比其他物種更多的優(yōu)勢(shì)。但是從安全的角度來看，在智能制造過程中，或許更大的安全問題來源于文化的沖突，是制度型的沖突。對(duì)于很多制造企業(yè)而言，如果不能夠擺脫傳統(tǒng)的企業(yè)問題和管理制度，則智能技術(shù)在制造環(huán)節(jié)的實(shí)施將會(huì)給企業(yè)帶來難以預(yù)料的風(fēng)險(xiǎn)。這種風(fēng)險(xiǎn)還很難發(fā)現(xiàn)，被當(dāng)下的文化所合法化包容，成為智能制造技術(shù)發(fā)展過程中的盲點(diǎn)。尤其是當(dāng)人處于信息超載的情境之下，都會(huì)導(dǎo)致人失去自身的理性，而不假思索地遵循最強(qiáng)的制度和規(guī)則，或者是在特定的情境下通用的規(guī)則，內(nèi)心遵從不求有功，但求無過的保守思路來處理可能出現(xiàn)的各種風(fēng)險(xiǎn)。

5 數(shù)據(jù)、程序和機(jī)器智能的局限

5.1 數(shù)據(jù)是當(dāng)前機(jī)器智能的基礎(chǔ)

盡管目前算法驅(qū)動(dòng)的機(jī)器智能技術(shù)有了新的突破，但是在未來很長(zhǎng)一段時(shí)間之內(nèi)，數(shù)據(jù)依然是驅(qū)動(dòng)機(jī)器智能發(fā)展的基礎(chǔ)。而算法和程序依然主要是依據(jù)人類智能的邏輯理性發(fā)展出來的，所以算法和程序所產(chǎn)生結(jié)果的準(zhǔn)確性，現(xiàn)在還主要取決于輸入數(shù)據(jù)的準(zhǔn)確性，以及獲取數(shù)據(jù)的全面性。

當(dāng)然這里談數(shù)據(jù)的局限性，并不是要否定數(shù)據(jù)的價(jià)值。而是讓人們?cè)诔浞终J(rèn)識(shí)到當(dāng)前數(shù)據(jù)利用方面的和不足之后，才能更加有效地對(duì)其進(jìn)行采集、加工、應(yīng)用，充分挖掘和發(fā)揮其價(jià)值，有效規(guī)避數(shù)據(jù)利用中可能存在的各種安全問題，真正發(fā)揮數(shù)據(jù)的價(jià)值。當(dāng)然這里只是從制造各環(huán)節(jié)安全的角度分析數(shù)據(jù)對(duì)未來智能制造安全性能方面的影響。

5.2 數(shù)據(jù)噪音問題

首先是未來各行業(yè)都將不得不忍受各種數(shù)據(jù)噪聲的影響，而制造業(yè)尤甚。因?yàn)橹圃鞓I(yè)各環(huán)節(jié)不僅利用的數(shù)據(jù)多，而且生產(chǎn)的數(shù)據(jù)也不多，而且來源各不相同，格式也會(huì)不同。由于各子系統(tǒng)自身的目標(biāo)可能會(huì)存在不一致，導(dǎo)致系統(tǒng)總體會(huì)出現(xiàn)相互矛盾的分析和判斷。在這海量的數(shù)據(jù)中，并非所有的數(shù)據(jù)都是有用的，大多數(shù)時(shí)候，有用的數(shù)據(jù)甚至只是其中的很小一部分。隨著數(shù)據(jù)量的不斷增加，無意義的冗余、垃圾數(shù)據(jù)也會(huì)越來越多，而且其增長(zhǎng)的速度比數(shù)據(jù)信息更快。

5.3 數(shù)據(jù)真實(shí)性判定問題

對(duì)數(shù)據(jù)真實(shí)性的分析和判斷。未來隨著個(gè)性化定制的發(fā)展，制造業(yè)各環(huán)節(jié)的信息會(huì)越來越對(duì)外開放，尤其是CRM系統(tǒng)和SCM系統(tǒng)的數(shù)據(jù)需要對(duì)大量的用戶和供應(yīng)商開放。而網(wǎng)絡(luò)數(shù)據(jù)中存在著大量的虛假個(gè)人注冊(cè)信息、假賬號(hào)、假粉絲、假交易、灌水貼及其他虛假、甚至是惡意的信息和數(shù)據(jù)等都是未來制造環(huán)節(jié)中需要面臨的安全問題。這種失真是由網(wǎng)絡(luò)本身的特性決定的，比如說，絕大多數(shù)社交網(wǎng)站很難也不會(huì)對(duì)會(huì)員注冊(cè)信息的真實(shí)性進(jìn)行全面核查，電商平臺(tái)也無法控制一人注冊(cè)多賬號(hào)，或賬號(hào)與實(shí)際消費(fèi)個(gè)體的非對(duì)應(yīng)關(guān)系。同時(shí)各種通過原始方法采集的個(gè)人信息數(shù)據(jù)也無法保障其真實(shí)、準(zhǔn)確。就拿電信運(yùn)營(yíng)商來說，即便推行了實(shí)名制，數(shù)據(jù)質(zhì)量與期望仍然存在相當(dāng)大的差距。

5.4 數(shù)據(jù)的誤導(dǎo)與人類的誤讀

第三是警惕數(shù)據(jù)的可能誤導(dǎo)，以及人類的可能誤讀。這是與所獲數(shù)據(jù)的代表性、真實(shí)性、完整性、解釋性等的局限性緊密相關(guān)。對(duì)統(tǒng)計(jì)現(xiàn)象只看結(jié)果不重解釋，很可能導(dǎo)致錯(cuò)誤甚至危險(xiǎn)的結(jié)論。在二戰(zhàn)時(shí)期英國與德國的空戰(zhàn)中，工程師發(fā)現(xiàn)，每次戰(zhàn)斗機(jī)回來機(jī)翼上都帶有很多槍眼，因此認(rèn)為機(jī)翼是最容易受到攻擊的地方，需要進(jìn)行特別防護(hù)。可是增加防護(hù)之后，飛機(jī)的損失率不但沒有降低，反而提高了。這就是人類對(duì)數(shù)據(jù)誤讀而導(dǎo)致的結(jié)果。邁爾·舍恩伯格在《大數(shù)據(jù)時(shí)代》一書中認(rèn)為大數(shù)據(jù)應(yīng)該是全樣本，不再依賴隨機(jī)取樣，這樣的說法是一種理想的狀態(tài)，而且即使獲得了全樣本的數(shù)據(jù)，程序的處理能力也未必能夠?qū)ζ浼皶r(shí)進(jìn)行正確分析[3]?，F(xiàn)在制造領(lǐng)域中的社群營(yíng)銷，本身就會(huì)有很多所謂的“意見領(lǐng)袖”在主導(dǎo)著群體的消費(fèi)偏好，所謂數(shù)據(jù)的“中性”問題，可能不得不面臨人類社會(huì)現(xiàn)實(shí)中具體結(jié)構(gòu)的左右。因此，數(shù)據(jù)的誤導(dǎo)和人對(duì)數(shù)據(jù)的誤讀會(huì)在所謂“數(shù)據(jù)驅(qū)動(dòng)”的時(shí)代顯得更加突出。

5.5 數(shù)據(jù)的維度與時(shí)效問題

數(shù)據(jù)的維度和時(shí)效性也是從數(shù)據(jù)本身的角度可能引發(fā)相應(yīng)的安全問題，而這些又與人認(rèn)知的局限性有關(guān)。畢竟，數(shù)據(jù)獲取的選擇權(quán)還是集中在人的認(rèn)知范圍之內(nèi)，如果有些數(shù)據(jù)源不在決策者當(dāng)前的認(rèn)知范圍之內(nèi)，則可能會(huì)導(dǎo)致不可預(yù)知的風(fēng)險(xiǎn)。這種數(shù)據(jù)維度缺失的風(fēng)險(xiǎn)可能會(huì)導(dǎo)致智能制造系統(tǒng)的失效，或者是達(dá)不到預(yù)期的效果。同時(shí)還有數(shù)據(jù)時(shí)效性問題，數(shù)據(jù)采集的時(shí)間間隔，對(duì)多久的歷史數(shù)據(jù)進(jìn)行分析才能夠更加有效這些問題，也是在數(shù)據(jù)驅(qū)動(dòng)的制造中必需要解決的問題。從特定的意義講，數(shù)據(jù)應(yīng)用是建立在全社會(huì)、全網(wǎng)設(shè)備共同的數(shù)據(jù)標(biāo)準(zhǔn)基礎(chǔ)之上，應(yīng)融合企業(yè)自身、上下游產(chǎn)業(yè)鏈企業(yè)、政府相關(guān)統(tǒng)計(jì)數(shù)據(jù)、科學(xué)研究最新進(jìn)展等跨領(lǐng)域、跨行業(yè)、跨平臺(tái)數(shù)據(jù)的集合，是社會(huì)化的數(shù)據(jù)應(yīng)用和整合。

5.6 模型和程序設(shè)計(jì)者的局限

決定當(dāng)前的機(jī)器智能智能化程度的除了數(shù)據(jù)之外，還有模型和程序方面的因素。模型和程序從目前來看，主要是由人類智能設(shè)計(jì)的，這就使得機(jī)器智能很大程度上由設(shè)計(jì)者的認(rèn)知、智力，以及設(shè)計(jì)者所處的組織、社會(huì)環(huán)境所局限。當(dāng)然在目前的環(huán)境下，技術(shù)，尤其是信息系統(tǒng)的計(jì)算能力、網(wǎng)絡(luò)的傳輸能力，以及相關(guān)社會(huì)技術(shù)系統(tǒng)所決定的安全性也會(huì)直接或間接限制數(shù)據(jù)、模型和程序的設(shè)計(jì)和運(yùn)行。但是，如果決策者如果忽略了這些局限性，過高地估計(jì)了機(jī)器智能的智能化程度，就會(huì)造成可能的決策失誤，甚至?xí)劤蔀?zāi)難，最后對(duì)機(jī)器智能造成負(fù)面的評(píng)價(jià)。

6 人類智能和機(jī)器智能挑戰(zhàn)的可能場(chǎng)景

人類智能和機(jī)器智能這兩者之間本身各有其優(yōu)勢(shì)，也各有其特點(diǎn)，并且本身存在較大的互補(bǔ)性，如果能夠?qū)崿F(xiàn)彼此的優(yōu)勢(shì)互補(bǔ)，則會(huì)極大地提高人類社會(huì)的福祉。但是，由于機(jī)器智能是剛剛出現(xiàn)的智能，兩種智能之間還沒有“學(xué)會(huì)”優(yōu)勢(shì)互補(bǔ)的發(fā)展，就必然會(huì)帶來相應(yīng)的沖突、風(fēng)險(xiǎn)，并最終可能導(dǎo)致潛在的各種安全問題。

6.1 挑戰(zhàn)傳統(tǒng)思維原則的風(fēng)險(xiǎn)

對(duì)數(shù)據(jù)的解釋性可能帶來的沖突風(fēng)險(xiǎn)。機(jī)器智能是基于特定的邏輯程序，通過對(duì)輸入數(shù)據(jù)的分析以發(fā)布各種數(shù)據(jù)之間的相關(guān)性。這種相關(guān)性正如舍恩伯格所言，“不是因果關(guān)系，而是相關(guān)關(guān)系”，只需要了解是什么或未來會(huì)發(fā)生什么，而不是需要知道為什么，或者是這些事情之間的因果關(guān)系[3]。

對(duì)于習(xí)慣于因果性思維的人來說，相關(guān)關(guān)系僅代表著過去和個(gè)案，對(duì)事物沒有解釋性，有時(shí)甚至是錯(cuò)誤的，而且不能夠上升為特定的規(guī)律。人類理性經(jīng)過了數(shù)億年的進(jìn)化之后，認(rèn)為只有掌握了事物之間的因果關(guān)系、原因機(jī)制和科學(xué)原理，才能舉一反三，總結(jié)發(fā)生的規(guī)律，才能夠推動(dòng)整個(gè)制造系統(tǒng)的改善和進(jìn)化。尤其是制造關(guān)鍵環(huán)節(jié)的改進(jìn)方面，人類理性怕還是很難理解機(jī)器智能基于數(shù)據(jù)所謀劃出來的最優(yōu)算法。如在智能制造智能排程方面，人類智能怕很難發(fā)現(xiàn)機(jī)器智能排程的局限，也很難發(fā)現(xiàn)其中潛在的排程風(fēng)險(xiǎn)。

這種基于數(shù)據(jù)和算法的解釋，缺乏人類智能的因果性判斷，會(huì)造成人類智能在機(jī)器智能面前不知所措，即無法理解，又好像無法拒絕，也缺乏更好的替代方案。在社會(huì)智能化大轉(zhuǎn)折的時(shí)期，人類這種即好奇，又不知所措的感覺會(huì)維持較長(zhǎng)的一段時(shí)間。而在這種困惑的轉(zhuǎn)型過程中，人類智能與機(jī)器智能之間的互動(dòng)，會(huì)經(jīng)歷風(fēng)險(xiǎn)叢生的不停的試探過程，甚至是試錯(cuò)過程，人類智能也會(huì)經(jīng)歷不停的反思、調(diào)整、改造、進(jìn)化和完善。而這個(gè)過程會(huì)充滿風(fēng)險(xiǎn)，充滿安全方面的挑戰(zhàn)。因?yàn)檫@是在對(duì)人類智能基礎(chǔ)層次方面的挑戰(zhàn)，是對(duì)傳統(tǒng)文明根基方面的挑戰(zhàn)。

6.2“他者”智慧擴(kuò)張的風(fēng)險(xiǎn)

就智能制造而言，盡管都在講個(gè)性化定制給消費(fèi)者所帶來的“福利”，但事實(shí)是無所不在的媒體，以及無所不在的信息“感知”和“跟蹤”對(duì)消費(fèi)者個(gè)人信息的掌握，以及可能是對(duì)個(gè)體行為和消費(fèi)層面的“控制”。而在這種“感知”和“跟蹤”的背后，操縱者正是具有技術(shù)智能的“數(shù)據(jù)領(lǐng)袖”，或者是“智能領(lǐng)袖”，以及“輿論引導(dǎo)者”。所以，在機(jī)器智能的背后，隱藏著的是某個(gè)，或者是某一特定群體的價(jià)值取向、行為方式。因此在表面的“自由”背后，隱藏著的是某些特定的個(gè)體或群體智能對(duì)大多數(shù)人類智能的“洞察”、“操縱”和“控制”。如果這些具有極強(qiáng)操控能力的人，利用自身的操縱地位做一些有相對(duì)風(fēng)險(xiǎn)的操作，那么就會(huì)對(duì)社會(huì)產(chǎn)生極大的風(fēng)險(xiǎn)。

對(duì)于大多數(shù)人而言，這種具有直接或間接影響的智慧并不是來自于自身的思考，也不是來自于傳統(tǒng)社會(huì)中人與周圍環(huán)境的正常互動(dòng)所產(chǎn)生，而是來自于特定人群有目的的操控，所以這種借助機(jī)器智能達(dá)到對(duì)別人影響的機(jī)器智能，事實(shí)上來自于“他者”，而且還可能是來自不同目標(biāo)的“他者”，這就會(huì)給大多數(shù)的制造企業(yè)、給消費(fèi)者帶來影響和困擾。而隨著機(jī)器智能由生產(chǎn)環(huán)節(jié)，向生活場(chǎng)景的滲透，以及借助機(jī)器智能將生產(chǎn)環(huán)節(jié)與消費(fèi)環(huán)節(jié)的打通，這種借助機(jī)器智能的“他者”智慧會(huì)迅速擴(kuò)張，通過網(wǎng)絡(luò)社群，各種自媒體終端，各種帶有營(yíng)銷性質(zhì)的文章，甚至借助特定的對(duì)特定個(gè)體日常生產(chǎn)的技術(shù)干預(yù)來達(dá)到預(yù)期的目的。當(dāng)然，這種“他者”智能的廣泛入侵會(huì)對(duì)個(gè)體產(chǎn)生不適，從多層次上造成對(duì)個(gè)體的安全影響。

6.3 兩種“智能”彼此挑戰(zhàn)的風(fēng)險(xiǎn)

從目前技術(shù)發(fā)展趨勢(shì)來看，機(jī)器智能是從人工智能產(chǎn)生出來的，但是機(jī)器智能確實(shí)又在一定程度上脫離人類智能的控制，或者是獨(dú)立于人類智能發(fā)展趨勢(shì)的風(fēng)險(xiǎn)。未來社會(huì)中兩種智能之間不僅會(huì)產(chǎn)生彼此不熟悉而產(chǎn)生的摩擦，以及直接的碰撞，而且可能還會(huì)發(fā)生引領(lǐng)地位的爭(zhēng)奪。這種爭(zhēng)奪在人的意識(shí)層面發(fā)生，在未來人類的任何決策中發(fā)生，在未來人的任何一種選擇的時(shí)候發(fā)生。對(duì)于智能制造企業(yè)而言，在制造各個(gè)環(huán)節(jié)都可能發(fā)生，因?yàn)樵谥圃旄鱾€(gè)環(huán)節(jié)都會(huì)存在到底要依靠機(jī)器智慧，還是依靠人類智能的選擇問題，以及當(dāng)機(jī)器智能與人類智能發(fā)生沖突時(shí)，到底相信哪種智能方面的問題?，F(xiàn)在，由人工智能發(fā)生所引發(fā)的關(guān)于未來“人工智能”是否會(huì)挑戰(zhàn)人類生存就是這方面的集中體現(xiàn)，而事實(shí)上在微觀層面，這樣的挑戰(zhàn)無時(shí)無刻地挑戰(zhàn)人類群體和個(gè)體的選擇。就拿最簡(jiǎn)單的出行導(dǎo)航來說，人在出行時(shí)到底是應(yīng)該相信自己的經(jīng)驗(yàn)，還是各種“導(dǎo)航設(shè)施”的指引，而且在這方面還是互有勝負(fù)，在目前的導(dǎo)航技術(shù)面前不分伯仲。而在未來無人駕駛，以及智能生產(chǎn)線之中，這樣的選擇就必需要微妙、甚至在更短的時(shí)間維度內(nèi)做出決策，否則就有可能存在著重大安全事故的風(fēng)險(xiǎn)。

對(duì)于智能制造的未來發(fā)展來說，人類智能和機(jī)器智能在制造生產(chǎn)預(yù)測(cè)方面存在著可能的沖突與風(fēng)險(xiǎn)。在對(duì)未來的分析和預(yù)測(cè)方面，舍恩伯格也曾坦言，與大數(shù)據(jù)同行是有一定風(fēng)險(xiǎn)的，大數(shù)據(jù)有可能會(huì)把我們鎖定在以往的錯(cuò)誤當(dāng)中，使我們墮入讓過去決定未來的陷阱。因?yàn)閺母旧现v，數(shù)據(jù)只是對(duì)過去和當(dāng)前現(xiàn)實(shí)的歸納和總結(jié)，其雖然可以用于對(duì)趨勢(shì)和方向的分析，但總體上來說決定未來發(fā)展趨勢(shì)的是事物深層次的內(nèi)在因素及相互作用，而表現(xiàn)出來的數(shù)據(jù)現(xiàn)象還不善于對(duì)這種趨勢(shì)做出分析。如企業(yè)涉及戰(zhàn)略層面的決策等還是需要諸多潛在的、非數(shù)據(jù)化的因素需要進(jìn)行綜合的分析，里面還有許多涉及企業(yè)文化、領(lǐng)導(dǎo)者氣質(zhì)和風(fēng)格等多方面的因素要考慮。而在企業(yè)層面人類智能與機(jī)器智能之間的界限，還需要企業(yè)大量的實(shí)踐來摸索，而這種摸索過程中本身就可能會(huì)存在大量的生產(chǎn)和運(yùn)作風(fēng)險(xiǎn)。

6.4 整體智能與局部智能之間彌合的風(fēng)險(xiǎn)

從目前機(jī)器智能的能力來看，這種智能主要依靠深度學(xué)習(xí)獲得，是由人類智能設(shè)計(jì)的模型、算法和程序來決定，但是機(jī)器智能的結(jié)果人又非常難以理解，給人與機(jī)器的互動(dòng)帶來各種風(fēng)險(xiǎn)和麻煩。對(duì)于智能制造系統(tǒng)來說，人理解方面的偏差、操作方面的失誤、對(duì)機(jī)器表達(dá)方面的不精確都會(huì)造成重大的安全事故，而機(jī)器智能設(shè)計(jì)方面的問題、病毒的入侵、不恰當(dāng)?shù)南到y(tǒng)更新、隨機(jī)的系統(tǒng)調(diào)試，以及對(duì)人類不精準(zhǔn)指令的容錯(cuò)能力的局限等都有可能造成機(jī)器智能系統(tǒng)的紊亂，對(duì)智能制造系統(tǒng)造成不可彌補(bǔ)的損失。

總體來說，由于受當(dāng)前技術(shù)發(fā)展的限制，機(jī)器智能一般擅長(zhǎng)于處理事務(wù)的局部特征，其智能主要集中的特定的、規(guī)則相對(duì)穩(wěn)定的環(huán)境下對(duì)相關(guān)事務(wù)的處理，這方面的局部智能方面機(jī)器智能已經(jīng)超越了人類智能，但是在整體情境的判斷方面，機(jī)器智能與人類智能還不能相比。人類智能經(jīng)過數(shù)千年的進(jìn)化，在對(duì)客觀和主觀形勢(shì)整體把握方面現(xiàn)在還遠(yuǎn)遠(yuǎn)超過機(jī)器智能。機(jī)器智能不管多么強(qiáng)大，其只是在有限的特征空間里去認(rèn)識(shí)事物，根據(jù)算法得出的判斷模式做出判斷；而人對(duì)周圍環(huán)境的認(rèn)識(shí)是從語義空間中經(jīng)過抽象的歸納和演繹做出判斷，甚至依賴想象、類比、轉(zhuǎn)換、同理心等更高級(jí)的思維形式。所以，人類思維具有較強(qiáng)的整體把握能力。機(jī)器智能在局部判斷方面的優(yōu)勢(shì)，以及人類思維在整體把控方面的特點(diǎn)如何有效對(duì)接，是未來智能制造系統(tǒng)中面臨的挑戰(zhàn)，銜接不好就會(huì)釀成巨大的系統(tǒng)風(fēng)險(xiǎn)。

6.5 信息資產(chǎn)投入產(chǎn)出方面的風(fēng)險(xiǎn)

信息資產(chǎn)投入與產(chǎn)出的平衡是目前困擾大量制造企業(yè)的新問題。智能制造相關(guān)技術(shù)及發(fā)展前景被媒體做了很多正面的報(bào)道，但是必須要指出，智能制造相關(guān)技術(shù)及企業(yè)的相關(guān)數(shù)據(jù)資產(chǎn)應(yīng)該是一種價(jià)值密度較低的資產(chǎn)，這些資產(chǎn)只有經(jīng)過多年的積累，摸索出這些資產(chǎn)的準(zhǔn)確的應(yīng)用場(chǎng)景之后才能夠發(fā)揮出其新的價(jià)值。在這些資產(chǎn)在被真正激活前需要進(jìn)行大量的前期投資，而且還必須要有前期的有效規(guī)劃，以保證這些前期投資的正確性和有效性，以及企業(yè)領(lǐng)導(dǎo)足夠的戰(zhàn)略耐性。數(shù)據(jù)資產(chǎn)的網(wǎng)絡(luò)效應(yīng)，或者是邊際效用遞增規(guī)律存在，可能會(huì)在產(chǎn)業(yè)層面導(dǎo)致產(chǎn)業(yè)集中度的上升，產(chǎn)業(yè)競(jìng)爭(zhēng)程度的降低，甚至一定程度市場(chǎng)壟斷。這也是產(chǎn)業(yè)層面制造產(chǎn)業(yè)可能面臨的風(fēng)險(xiǎn)。

7 應(yīng)對(duì)智能制造可能風(fēng)險(xiǎn)的對(duì)策

既然智能制造未來發(fā)展中面臨的主要挑戰(zhàn)是人類智能與機(jī)器智能之間彼此的不適應(yīng)可能產(chǎn)生的沖突，以及由此而引發(fā)的各種風(fēng)險(xiǎn)。從目前來看，智能技術(shù)的發(fā)展導(dǎo)致的傳統(tǒng)制造文明的危機(jī)，是對(duì)傳統(tǒng)制造風(fēng)險(xiǎn)的重新定義。從人類社會(huì)文明的發(fā)展趨勢(shì)看，這種風(fēng)險(xiǎn)更多的是由于人類還沒有充分適應(yīng)性的機(jī)器文明所引發(fā)的，因此應(yīng)該主要從人類對(duì)新的機(jī)器文明適應(yīng)的角度來更多地考慮當(dāng)前和未來可能存在的智能制造方面的安全問題。

7.1 強(qiáng)調(diào)人類思維和行為的嚴(yán)謹(jǐn)性

智能制造系統(tǒng)設(shè)置時(shí)應(yīng)在突出機(jī)器智能人性化發(fā)展的同時(shí)，更加要強(qiáng)調(diào)人類思維和行為的嚴(yán)謹(jǐn)性，適應(yīng)未來“數(shù)據(jù)驅(qū)動(dòng)制造”和“軟件定義制造”帶來的整個(gè)人機(jī)制造系統(tǒng)的邏輯化、緊密化和程序化的發(fā)展趨勢(shì)。在可以預(yù)期的將來，人類智能需要適應(yīng)這種機(jī)器智能發(fā)展所帶來的影響，減少人類傳統(tǒng)的不精確、情緒性和認(rèn)知偏差可能對(duì)制造各環(huán)節(jié)可能帶來的安全風(fēng)險(xiǎn)，學(xué)會(huì)與機(jī)器智能的協(xié)作和交流，促進(jìn)制造過程的實(shí)現(xiàn)有序的人機(jī)協(xié)同。這就需要人類智能不斷適應(yīng)機(jī)器智能的發(fā)展，理解其運(yùn)作機(jī)制，克服人類理性自身存在的不適應(yīng)之處。

7.2 從人機(jī)協(xié)同的角度重新定義新的崗位及其職責(zé)

要從人機(jī)協(xié)同的角度來重新定義各種新的崗位，以及相關(guān)崗位的職責(zé)要求和人員的從業(yè)能力和資質(zhì)。從微觀角度來考察，目前建立在人與人、人與機(jī)器之間的傳統(tǒng)制造企業(yè)組織和管理方式，已經(jīng)不能夠適應(yīng)未來智能制造的發(fā)展要求。各行業(yè)，乃至各企業(yè)需要從各自發(fā)展的角度重新定義自身的崗位分配，并重新核定各崗位所需要的人員素質(zhì)和能力。為消費(fèi)者提供個(gè)性化定制的企業(yè)一定同時(shí)也是個(gè)性化的企業(yè)，面臨個(gè)性化的安全問題和個(gè)性化的解決方案。目前很多企業(yè)內(nèi)部建立自身的培訓(xùn)體系，主要針對(duì)內(nèi)部員工進(jìn)行培訓(xùn)，就是要從企業(yè)獨(dú)特競(jìng)爭(zhēng)力培養(yǎng)的角度來為建立自身的組織分工體系結(jié)構(gòu)，以及員工獨(dú)特的能力培養(yǎng)服務(wù)。

7.3 重新塑造新的工業(yè)文明和商業(yè)文明

機(jī)器智能的發(fā)展需要塑造新的工業(yè)文明和商業(yè)文明。從更深的層面來看待當(dāng)前和未來人類智能與機(jī)器智能之間的關(guān)系，尤其是其在制造環(huán)節(jié)中的體現(xiàn)，還需要從文化的角度來看待這種變革，從商業(yè)文明和技術(shù)文明的角度來看待企業(yè)面臨的這種新的安全挑戰(zhàn)。當(dāng)前，商業(yè)和技術(shù)都很重要，是推動(dòng)現(xiàn)代和未來企業(yè)發(fā)展的動(dòng)力，但事實(shí)上是商業(yè)和技術(shù)背后的價(jià)值觀更重要，這種新的價(jià)值理念才是推動(dòng)各種問題解決的最終動(dòng)力。事實(shí)上，傳統(tǒng)的價(jià)值理念與新的發(fā)展趨勢(shì)之間的矛盾，才是導(dǎo)致當(dāng)前和未來人類智能和迅速崛起的機(jī)器智能之間矛盾的根源，也是導(dǎo)致未來制造企業(yè)安全問題的關(guān)鍵。

7.4 智能制造系統(tǒng)要考慮兩種智能之間的互補(bǔ)

在智能制造系統(tǒng)設(shè)計(jì)時(shí)要充分考慮到人類智能與機(jī)器智能之間的差異性和互補(bǔ)性，讓人類智能和機(jī)器智能各自發(fā)揮其優(yōu)勢(shì)而彌補(bǔ)彼此的不足，讓智能制造系統(tǒng)能夠安全和高效地運(yùn)行，這是對(duì)智能制造系統(tǒng)的基本要求。而當(dāng)前我國企業(yè)在實(shí)施智能化改造時(shí)，更多地考慮制造系統(tǒng)的效率，而忽略了對(duì)安全性、易操作性的考量。按照功能安全的視角，智能制造系統(tǒng)應(yīng)該是從整個(gè)系統(tǒng)安全屬性的認(rèn)知開始，在智能制造的全生命周期各階段體現(xiàn)出對(duì)安全屬性的認(rèn)知、繼承、實(shí)現(xiàn)、評(píng)估和反饋。在系統(tǒng)軟件的不斷演進(jìn)的特點(diǎn)，實(shí)現(xiàn)智能制造系統(tǒng)人類理性和機(jī)器理性的協(xié)同，提升智能制造系統(tǒng)的安全性[4]。

7.5 人類智能依然是智能制造系統(tǒng)的核心

不僅是在制造領(lǐng)域，隨著以人工智能等為代表的機(jī)器智能的興起，人類智能與機(jī)器智能之間的碰撞會(huì)發(fā)生在經(jīng)濟(jì)社會(huì)生活的各個(gè)方面，機(jī)器智能會(huì)作為人類智能的助手和有益補(bǔ)充，與人類的生活工作如影相隨，為人類帶來諸多的便捷。但是如果兩者之間不能夠?qū)崿F(xiàn)有效的協(xié)同，則不僅不會(huì)帶來方便，而且還會(huì)引發(fā)諸如隱私泄露、操作失誤，甚至造成不必要的傷害等安全事故。所以需要人類從行為層面、制度和規(guī)則層面，以及價(jià)值層面接受這種新的智能，并學(xué)會(huì)與其和諧相處的能力，才能彼此協(xié)同，克服各種可能的安全困擾，創(chuàng)造出新的人類智能與機(jī)器智能相互促進(jìn)的新的人類文明時(shí)代。

參考文獻(xiàn)

[1] 霍華德·加德納（Howard Gardner），著；沈致襄，譯.重構(gòu)多元智能[M].北京：中國人民大學(xué)出版社，2008年3月.83頁.

[2] Ross Anderson，著；齊寧，韓智文，劉國萍，譯.信息安全工程（第二版）[M].北京：清華大學(xué)出版社，2012.17.

[3] 維克托·邁爾·舍恩伯格，肯尼思·庫克耶，著；盛楊燕，周濤，譯.大數(shù)據(jù)時(shí)代——生活、工作和思維的大變革[M].杭州：浙江人民出版社，2012年12月.25頁、37頁.

[4] 宋明秋.軟件安全開發(fā)——屬性驅(qū)動(dòng)模式[M].北京：電子工業(yè)出版社，2016.5.16.