陳 晨

(上海交通大學 電子信息與電氣工程學院，上海 200030)

隨著機器人、物聯(lián)網(wǎng)、人工智能、大數(shù)據(jù)、5G通訊、云計算等技術的不斷發(fā)展，傳統(tǒng)制造業(yè)正在展現(xiàn)越來越多的創(chuàng)造空間，形成多種可能性和不確定性。事實上，無論是德國于2013年漢諾威工業(yè)博覽會提出的“工業(yè)4.0”、我國于2015年印發(fā)的《中國制造2025》，還是美國于2018年發(fā)布的《美國先進制造領先戰(zhàn)略》，都以前所未有的戰(zhàn)略模態(tài)昭示著一個事實——制造業(yè)由自動化向智能化轉型已成為時代的選擇。

2020年的一項研究對中國15 145家規(guī)模以上智能制造相關企業(yè)進行了篩選和評分，評選出了當前我國智能制造百強企業(yè)，該研究將榜單中的前20強分為創(chuàng)新先鋒、信息領軍和制造巨頭三類[1]。這些企業(yè)展現(xiàn)了創(chuàng)新能力、信息技術能力和資本實力對制造智能化的強大助推，在實現(xiàn)高度自動化、機械化和智能化后，生產(chǎn)效率和質量得到了很大的提升。

然而，伴隨著智能制造對傳統(tǒng)制造業(yè)的重塑，新的倫理沖突也顯現(xiàn)了出來。清華大學李正風教授曾指出，“制造”向“智造”的轉變，使得傳統(tǒng)的“工程”概念發(fā)生了重要變化： 一是工程的知識化現(xiàn)象——當前的工程活動越來越多地應用了最新的科學和技術成果以及更多的知識化成果；二是進化技術在工程實踐活動中的廣泛滲透——工程“智造”之“智”不僅僅帶來變革，更帶來工程實踐中很多新的問題，比如個人隱私問題；三是工程的“反身性”更強——它表現(xiàn)為工程實踐和人的聯(lián)系更為密切。在這種背景下，倫理的思考不再單純是當工程實踐產(chǎn)生后果時我們怎么去應對的問題——它本身已成為工程實踐活動中很重要的一個部分[2]。

在此背景下，對智能制造視域下倫理沖突困境本質及其應對方法的探索，成為未來社會倫理重構必須探討的時代命題。

一、智能制造倫理沖突的困境

智能制造在全球化的浪潮中高歌猛進，使處于傳統(tǒng)慣性生活經(jīng)驗中的人們感到措手不及，智能制造倫理沖突造成的困境從人與自身、人與自然、人與社會的不同層面凸顯出來。

(一)智能制造導致的人與自身的倫理沖突

在通過提升生產(chǎn)力和產(chǎn)品質量給人們帶來生存紅利和便利的同時，智能制造也正在深刻地改變人的生存觀念和生活方式，造成人與自身之間倫理沖突的多重困境。這種困境在人工智能參與決策時體現(xiàn)得尤為明顯。

一方面是造成現(xiàn)實的人自我肯定或否定的認知能力困境。大量人工智能算法是不具備可解釋性的。數(shù)據(jù)挖掘技術建立的模型往往能幫助人們進行決策，但無法告訴人們?yōu)槭裁匆鲞@項決策[3]。即使模型訓練使用的物料來源于開發(fā)者的數(shù)據(jù)集，但無論是開發(fā)者還是使用者，其認知和機器學習模型的“認知”必然是不一致的。正如，Alpha Go下出不同于以往任何棋譜的招式時棋手們會感到不理解一樣，智能設備或智能系統(tǒng)為管理者做出不同于以往的決策時也會給使用者帶來困惑；而當與人經(jīng)驗相悖的機器決策被證實更優(yōu)，現(xiàn)實的人的自我肯定或否定的認知能力困境將不可避免。

另一方面是造成現(xiàn)實的人自我肯定或否定的主體存在困境。當機器決策一次又一次被證實為更優(yōu)，并且越來越優(yōu)化后，人工智能輔助決策會不斷削弱人的主觀能動性，甚至不知不覺中，由輔助決策進化為替人決策。這在自動駕駛領域屢見不鮮。盡管特斯拉反復強調其Autopilot技術為輔助駕駛，仍不斷有司機將全部的控制權交由設備，并因此導致事故。當前智能制造的機器或系統(tǒng)設計中，關鍵決策以使用者判斷為準仍是設計慣例。但設計越好的系統(tǒng)，流程上的“確認按鈕”就越像是設計者推脫責任的擺設，蒼白的規(guī)則不足以消減便捷帶來的依賴和惰性。這就表明，伴隨著智能制造的演進，現(xiàn)實的人的自我肯定或否定的主體存在困境也將不可避免。

由此還引申出另一個倫理沖突的困境，即現(xiàn)實的人與智能之間基于決策錯誤的責任劃分困境。智能算法決策的正確性是概率的，既存在本應為真卻判為假的情況，也存在本應為假卻判為真的情況，誤判是系統(tǒng)性的，是算法所無法避免的。那么決策錯誤時，責任如何劃分？智能機器的設計師又該如何面對機器使用時產(chǎn)生的倫理問題？因而，伴隨著智能制造的演進，現(xiàn)實的人的自我肯定或否定的責任劃分困境同樣不可避免。

（一）創(chuàng)意閱讀。教師可以將創(chuàng)意觀念融入到閱讀教學中，有目的地引入或設置創(chuàng)新環(huán)境，引起學生的積極思維和情感體驗，引發(fā)創(chuàng)造沖動，引導學生從不同角度或運用不同的思維工具解讀文本，從而獲得全新的觀念沖擊或思維革新，如可采用頭腦風暴法、六頂思考帽、思維導圖、包容性思維、求異思維、強制聯(lián)想等方法，結合自身的生活體驗，獲得新的觀念，塑造自身新的人格。

(二)智能制造導致的人與自然的倫理沖突

一方面，智能制造在能源節(jié)約和生態(tài)改善上有顯而易見的正向作用。作為智能制造的一個分支，“綠色工廠”通過對生態(tài)技術、信息技術、自動化技術的整合，可以從能源和資源需求、廢棄物、粉塵、噪聲、生物多樣性等多方面，助推人與自然的“倫理和諧”[4]。

與此同時，智能制造也使決策者在經(jīng)濟性和生態(tài)性之間陷于二難選擇，造成人與自然倫理沖突的困境。因為算法并不是天然公平的，決策模型的參數(shù)權重取決于設計者的主觀意愿，特別是當決策的結果不可測量時。在資源有限的情境和條件下，決策應該更偏向于生產(chǎn)效益還是更偏向于生態(tài)保護？這就使得決策者在二者之間總是處于難以取舍的困境之中。

針對智能制造在經(jīng)濟性和生態(tài)性之間的內在矛盾，也有學者提出了“綠色智能制造”的概念，試圖將綠色制造和智能制造有機結合，即借助智能制造的手段，實現(xiàn)產(chǎn)品從生產(chǎn)、使用到廢棄的全周期過程中對環(huán)境負面影響最小而資源利用率最高的目標。這個概念的提出，也許有利于減少生態(tài)環(huán)境污染、提高制造業(yè)生產(chǎn)管理環(huán)保意識、優(yōu)化資源配置[5]，然而，就實際而言，“對環(huán)境負面影響最小”和“資源利用率最高”往往很難同時達成，“綠色智能制造”更多是依靠于法律法規(guī)和道德的一個美好愿景，在“對環(huán)境負面影響最小”和“資源利用率最高”二者之間，還有諸多現(xiàn)實存在的障礙因素需要排除。

另一方面，智能制造也會在一定程度上消解私人定制的田園詩意和傳統(tǒng)情韻，形成人與自然倫理沖突的困境。智能系統(tǒng)就像一只龐大的章魚，末端傳感器則像這只章魚的觸角伸向環(huán)境系統(tǒng)的方方面面，一切過程都變得可監(jiān)測、可計算、可追溯、可優(yōu)化。借助信息化技術和柔性生產(chǎn)體系，低成本、小批量的個性化定制成為趨勢，手工藝者的“溫度”不過是聚類算法的一個點陣，可以分析、創(chuàng)制甚至優(yōu)化。比如賓利、勞斯萊斯等豪車品牌制造企業(yè)，其優(yōu)勢之一就是有豐富的私人定制選項，無論是座椅、輪轂，還是車漆、天窗，只要市面上有，經(jīng)驗豐富的工匠們就能為客戶整合制造；即使市面上沒有的，只要經(jīng)費到位，亦可盡量滿足客戶要求。然而，類似大眾、豐田這樣以走量為導向的大規(guī)模制造企業(yè)，則是靠標準化壓低成本。隨著整車平臺的出現(xiàn)，不同車型甚至不同品牌在同一生產(chǎn)線的制造成為可能，制造成本被大幅拉低，汽車作為民用商品已走向大眾。我們完全可以想象到，只要設備、程序和原料到位，私人定制的優(yōu)勢將不復存在，而這或許就意味著，手工藝所蘊含的田園詩意和傳統(tǒng)情韻也將會在消解私人定制優(yōu)勢的智能制造中逐漸消失。

(三)智能制造導致的人與社會的倫理沖突

智能制造從提高生產(chǎn)效率、提高產(chǎn)品質量、改善工作方式、降低制造成本、減少環(huán)境污染等多方面，對人們現(xiàn)實的社會生活產(chǎn)生了普惠的效應。與此同時，智能制造的普及卻也正在改變生產(chǎn)鏈條的勞動組織形式，并推動著整個社會結構發(fā)生翻天覆地的變革。

智能制造大大提高生產(chǎn)效率，從而加劇了就業(yè)競爭，拉大了貧富差距，造成了社會的撕裂。智能機器的使用與傳統(tǒng)機器大生產(chǎn)鏈條上的勞動者結構有所不同，智能機器逐步把勞動者排除出直接的生產(chǎn)過程之外，相應增加了研發(fā)智能機器與編寫程序的人員。智能生產(chǎn)鏈條的突出特點就是依靠體力勞動獲取報酬的工人越來越少，生產(chǎn)線的維系通過大量的腦力勞動來完成，即由發(fā)揮“大腦”作用的、復雜的軟件系統(tǒng)來組織指揮機器進行產(chǎn)品生產(chǎn)[6]。自從2014年iPhone 6上市至今，富士康已經(jīng)使用機器人(又或者是機械手臂)取代了超過一半的工人，當?shù)毓と藬?shù)量由11萬人減少到了5萬人[7]。面對資本有機構成的迅速攀升，年輕工人尚可重整旗鼓，極盡所能去“做機器人的主人”，而上了年紀的普通勞動者，則不得不面臨慘烈的就業(yè)競爭。在這種情形下，生產(chǎn)資料的所有者創(chuàng)造財富的速度，更大可能獲得技術壁壘的疊加，由此必定會造成社會貧富差距的進一步拉大。

人與社會的另一方面的倫理沖突則來源于大數(shù)據(jù)對個人隱私和數(shù)據(jù)的海量攝取。上海大學的一項研究表明，近年來，重大數(shù)據(jù)信息泄露事件數(shù)從2012年的2 323件暴漲至2019年的5 183件。大數(shù)據(jù)應用在數(shù)據(jù)身份、數(shù)據(jù)所有權、數(shù)據(jù)隱私權、數(shù)據(jù)使用度、數(shù)據(jù)個性化分析等多個緯度存在倫理風險[8]，技術提供方如果不能從身份困境、隱私邊界、數(shù)據(jù)權利和數(shù)據(jù)治理四方面全盤思考問題，個人數(shù)據(jù)安全與社會整體利益的沖突將不可避免。

此外，智能制造的一個越來越明晰的、更為危險又孕育新機的倫理沖突，則呈現(xiàn)在不同價值模式、不同制度模式的國家和民族之間。這一倫理沖突在大國博弈中得以充分展示。中美之間圍繞芯片這一核心技術的大國博弈，就生動地詮釋了智能制造所導致的大國之間倫理沖突的巨大風險，以及其中所潛藏的前所未有的機遇。在智能制造方面，作為一個正在崛起的大國，中國所面臨的危機在于缺乏足夠的抗力，在遭遇到美國等西方國家打壓下可能會崩潰，而難得的機遇則在于被倒逼之下可能會上升到一個新的發(fā)展境域，置之死地而后生。在某種意義上可以說，未來的世界，誰掌握了智能制造的高地，誰就擁有了話語權和主導權。就此而言，在百年未有之大變局下，只有通過有效的方式化解智能制造倫理沖突的風險，抓住智能制造倫理沖突的機遇，才能深刻影響到人類命運共同體的建構，推動整個未來世界良好新格局的形成。

二、智能制造倫理沖突的應對

針對智能制造所帶來的倫理沖突，學者們提出了諸多方案以尋求有效的應對。但歸根結底是要面向現(xiàn)代化、面向世界、面向未來，促使沖突雙方經(jīng)由倫理和解達到倫理和諧。要應對和突破這些困境，可以從三個方面入手，即優(yōu)化思維體系、實現(xiàn)倫理重構、增強價值導向。

(一)優(yōu)化思維體系，提升應對智能制造倫理沖突的思維能力

優(yōu)化思維體系主要指優(yōu)化思維的方法體系和能力體系。通過優(yōu)化思維方法體系，增強認知主體的思維能力，實現(xiàn)思維能力體系的能級提升。應對智能制造倫理沖突，尤其需要建構并提升多種能力要素構成的能力體系。這些能力要素，主要包含辯證思維能力、戰(zhàn)略思維能力、底線思維能力，以及創(chuàng)新思維能力。

首先，需要構建并提升辯證思維能力。決策者和使用者都必須意識到，新技術所帶來的機遇和挑戰(zhàn)是并存的，智能設備既帶來了成本降低，也帶來了崗位擠出和失業(yè)風險；算法決策既帶來了效率提升，也帶來了責任劃分和認知風險；數(shù)據(jù)挖掘既帶來了精準定位，也帶來了數(shù)據(jù)安全和隱私風險。因而，要善于“于危機中育新機，于變局中開新局”?？梢哉f，運用辯證思維的哲學智慧，提升面對機遇與挑戰(zhàn)的辯證思維能力，正是應對智能制造倫理沖突，經(jīng)由倫理和解達到倫理和諧的認知理路。

其次，需要構建并提升戰(zhàn)略思維能力。智能制造的基礎是萬物互聯(lián)，應用是全行業(yè)的，其發(fā)展需要有前瞻性的戰(zhàn)略眼光、系統(tǒng)的戰(zhàn)略布局、強大的戰(zhàn)略定力，需要“根據(jù)基礎研究、技術研發(fā)、產(chǎn)業(yè)發(fā)展和行業(yè)應用的不同特點，制定有針對性的系統(tǒng)發(fā)展策略，推進項目、基地、人才統(tǒng)籌布局，老任務和新任務有機銜接，當前急需與長遠發(fā)展梯次接續(xù)，創(chuàng)新能力建設、體制機制改革和政策環(huán)境營造協(xié)同發(fā)力”[9]。因此，應對智能制造倫理沖突，決策者必須有面向現(xiàn)代化、面向世界、面向未來的戰(zhàn)略思維能力，能夠從戰(zhàn)略前瞻、戰(zhàn)略布局、戰(zhàn)略韌性和戰(zhàn)略定力等諸方面具足戰(zhàn)略思維能力要素，才能有效消解智能制造的多重倫理沖突。

其三，需要構建并提升底線思維能力?？茖W技術是一把雙刃劍，善與惡總是同步進化，科學技術的進步在給人們帶來普惠的善的同時，如果不注意，也可能會帶來某種程度的惡?？茖W技術發(fā)展越高越快，這種惡的衍生空間和增加程度也就越大。智能制造技術的飛躍往往伴隨著其技術壁壘的增高，設計者、開發(fā)者、管理者和使用者也將會面臨更為嚴峻的倫理道德考驗。從“棱鏡”計劃到勒索病毒，從“月餅事件”到“刪庫跑路”，在大大小小利益的驅使下，如果智能系統(tǒng)的深度參與者沒有底線思維，客戶、雇主乃至社會整體的安全都將受到威脅。因此，只有提升底線思維能力，才能不斷強化智能制造的倫理規(guī)范約束，突破智能制造倫理沖突的困境。

最后，需要構建并提升創(chuàng)新思維能力。國務院在《新一代人工智能發(fā)展規(guī)劃》中提出，國家發(fā)展人工智能的重點任務之一，是構建開放協(xié)同的人工智能科技創(chuàng)新體系，統(tǒng)籌布局人工智能創(chuàng)新平臺，打造人工智能創(chuàng)新高地[9]。智能制造的發(fā)展和完善，離不開技術創(chuàng)新、制度創(chuàng)新和產(chǎn)業(yè)創(chuàng)新[10]。技術創(chuàng)新可以為智能制造倫理沖突的風險消除及其科學合理的規(guī)范約束提供技術層面的基礎支撐；制度創(chuàng)新可以為防范智能制造倫理沖突的風險和面向未來世界的倫理重構再構提供制度層面的保障；產(chǎn)業(yè)創(chuàng)新則有利于將智能制造倫理沖突的風險和危機消散于經(jīng)濟社會發(fā)展的深層。因此，超越智能制造倫理沖突的困境，創(chuàng)新思維能力更是不可或缺的。

(二)實現(xiàn)倫理重構再構，強化應對智能制造倫理沖突的規(guī)則規(guī)范

應對智能制造帶來的倫理沖突，實現(xiàn)倫理重構再構，離不開倫理規(guī)則健全、倫理范式構建和倫理精神培育。倫理規(guī)則健全就是要基于智能制造的新的技術系統(tǒng)和環(huán)境條件，不斷“揚棄”傳統(tǒng)技術制造的倫理規(guī)則，汲取其內容和形式的精華，剔除其陳舊不適的糟粕，推陳出新創(chuàng)構、完善適應于智能制造的新技術、新環(huán)境以及有利于消解智能制造倫理沖突的科學合理的規(guī)則體系；倫理范式構建就是要基于智能制造的技術系統(tǒng)和環(huán)境條件，從智能制造的情境和具象中，尋求有利于實現(xiàn)人與自身、人與自然、人與社會的倫理和解、倫理和諧的典型范例，并加以凝練、創(chuàng)塑，由此建構起能夠引領未來世界智能制造、消除智能制造倫理沖突的主要范式；倫理精神培育就是要把人類倫理追求的精神元素，滲透于智能制造的各個環(huán)節(jié)之中，使之承載契合時代的道德理想、道德情感、道德人格、道德責任感、道德使命感等內容，呈現(xiàn)出有益于新時代倫理重構再構的豐富的精神內質。

實際上，正如孫偉平所說，作為智能制造核心的人工智能技術，“是人類文明史上前所未有、意味深長的社會倫理試驗”“可能對既有的倫理關系和倫理秩序提出嚴峻的挑戰(zhàn)，甚至將人類的前途和命運置于巨大的風險之中”，智能制造領域需要提倡和貫徹人本原則、公正原則、公開透明原則、知情同意原則和責任原則[11]。具體到每一項智能機器、系統(tǒng)和應用，在其設計、使用、維護的全周期中，都需要把契合時代的道德理想、道德情感、道德人格、道德責任感、道德使命感等倫理因素，作為重要影響因子納入考量。因此，我們要在政策和行業(yè)規(guī)則制定時就完善這些倫理因素，使之在智能制造的實施過程中形成有效的制度支撐，以助力于各種倫理沖突的消解。面對這項時代命題，歐洲的《機器人倫理學路線圖》和韓國的《機器人倫理章程》都試圖交出一份答卷，中美兩國在人工智能規(guī)劃中，也都將倫理問題作為重點戰(zhàn)略方向和必須面對的問題。然而，相對規(guī)劃和提綱挈領，我們亟需更具體的倫理范式來應對更具體的應用問題，亟需兼具傳統(tǒng)制造、智能技術和倫理精神的復合型人才來構建這些倫理范式，以使倫理規(guī)則規(guī)范真正具備實用性和可用性。

(三)增強價值導向，傳輸應對智能制造倫理沖突的正向能量

應對智能制造帶來的倫理沖突，必須增強價值導向。一方面，通過確立激勵機制，對秉持人本原則、公正原則、公開透明原則、知情同意原則、責任原則的企業(yè)和個人給予榮譽鼓勵和經(jīng)濟鼓勵。在政策和輿論上進行引導，使企業(yè)和個人在智能制造方面的價值取向傾斜于倫理和諧。另一方面，通過建立懲罰機制，對違背人本原則、公正原則、公開透明原則、知情同意原則、責任原則的企業(yè)和個人給予輿論、經(jīng)濟甚至法律上的處罰，使企業(yè)和個人在智能制造體系設計、開發(fā)、維護過程中有所制約。

例如，新能源汽車“碳積分”政策為助推智能制造增強綠色導向起到了示范作用?！疤挤e分”政策通過量化環(huán)保指標、市場化環(huán)保行為，將價值導向的激勵機制與懲罰機制相融合，使得積分高的企業(yè)可以通過出售積分獲益，積分低的企業(yè)則因不得不購買積分而利益受損。同為綠色導向，智能工廠廢水、廢氣、廢料的排放可以借鑒“碳積分”政策的做法，但問題在于，如何設立一套公平、合理、可執(zhí)行的量化指標？智能終端一定程度上可以解決測量問題，但除非由政府部署高精度環(huán)境數(shù)據(jù)采集設備，否則企業(yè)缺乏自控自省的內驅力。事實上，如果監(jiān)管不到位，在資本逐利的天性下，企業(yè)少報或不報排放量才是最經(jīng)濟的選擇。大眾“排放門”事件就是一個警鐘。面對可度量的碳排放指標，尚且有如此丑聞發(fā)生，智能化更高的應用場景下，算法模型對于用戶而言是個封裝好的“黑盒子”，權重參數(shù)的設置和數(shù)據(jù)的使用方式，完全可以是雇主或開發(fā)人員的惡意、善意甚至無意的拍拍腦袋，并借由模型“不可解釋性”的天然外衣和所謂“商業(yè)機密”的保護傘來完美地逃避監(jiān)管，在不知不覺中侵害他人權益。

即使模型可解釋、系統(tǒng)搭建也無關商業(yè)機密，但是對五大原則的定義解讀也至關重要。比如：“以人為本”該以何人為本？是投資者、開發(fā)者還是使用者？“公平原則”下，何謂公平？當整體利益與個人利益相沖突時，是選擇多數(shù)人的公平還是少數(shù)人的公平？如此種種。因此，應對智能制造帶來的倫理沖突，增強價值導向是必須的，但對于價值的定義和衡量則需要更多的研究和探討。這些都表明，只有在清晰的、可操作和可衡量的價值導向下，才能真正有效地傳輸應對智能制造倫理沖突的正向能量。

三、結語

伴隨智能制造相關技術的應用和推廣，人與自身、人與自然、人與社會的倫理沖突正日益尖銳。面對智能制造導致的倫理沖突困境，需要從優(yōu)化思維體系、實現(xiàn)倫理重構再構、增強價值導向等方面對智能制造予以系統(tǒng)調適和積極應對。這種調適和應對無疑具有積極的意義：優(yōu)化思維體系，有利于運用辯證思維的哲學智慧，提高應對智能制造倫理沖突的認知境界；運用戰(zhàn)略思維，增加應對智能制造倫理沖突的戰(zhàn)略前瞻性、韌性和定力；運用底線思維，加強應對智能制造倫理沖突的風險管控；運用創(chuàng)新思維，強化應對智能制造倫理沖突的技術基礎、制度保障和產(chǎn)業(yè)拓展，等等。實現(xiàn)倫理重構再構，有利于通過倫理規(guī)則健全、倫理范式構建和倫理精神培育，強化應對智能制造倫理沖突的規(guī)則規(guī)范。而增強價值導向，則有利于在清晰的、可操作、可衡量的價值激勵和懲戒下，彰顯契合時代要求的倫理原則，有效傳輸應對智能制造倫理沖突的正向能量。

當然，應對智能制造的倫理沖突，從國家法規(guī)到行業(yè)規(guī)范，從體系構建到人才培養(yǎng)，從技術層面到哲學層面，還有諸多值得進一步深入研討的課題。例如，如何揭示智能制造的倫理重構再構與人類命運共同體建構之間的內在邏輯；如何明晰智能制造基于倫理規(guī)則規(guī)范的行為遵循的邊界；如何促使各種嚴重的智能制造倫理沖突在人們日常生活世界逐步消散，為現(xiàn)實的人營建更好的幸福家園和安全基地，等等，這些都是推動智能制造倫理沖突經(jīng)由倫理和解達到倫理和諧必須要深入反思和破解的難題。但無論如何，對智能制造所帶來的倫理沖突的應對解決，必須與智能制造技術本身相協(xié)同，這在世界范圍內已形成共識，并對正在經(jīng)歷新一輪科技大變革的整個人類社會具有極其重要的價值啟示。