(1. 北京百度網(wǎng)訊科技有限公司，北京 100085；2. 河北工程大學建筑與藝術(shù)學院，邯鄲 056038)

0 引言

若昂·德讓在《巴黎：現(xiàn)代城市的發(fā)明》中這樣描述：在城市管理者眼中，雜亂無章、犬牙交錯的城市格局往往與不安全、不可控等詞語相聯(lián)系；反之，若能以某種手段徹底掌控城市角落、居民行為，則被認為是安全可靠、高效便捷的治理之路?！犊床灰姷某鞘小分?，卡爾維諾以忽必烈的視角，闡述了一種如金剛石般的城市理念，其整體格局精確完美、整齊有序，并且可以將城市分成最小元素[1]。從心理分析角度，忽必烈的城市觀念與他的身份密不可分。忽必烈需要對其統(tǒng)治的帝國有最為全面的了解，以防止不可預測的叛亂的發(fā)生。由于難以實現(xiàn)對城市所有角落的實時監(jiān)督，因此需要探索城市系統(tǒng)構(gòu)成的根本要素和組合規(guī)律，并對城市進行規(guī)劃。

1 “智慧城市”編制數(shù)字化的“金剛石帝國”

工業(yè)革命以來，人口向城市的大規(guī)模涌入以及伴隨而來的各類產(chǎn)業(yè)、職業(yè)的發(fā)展，提升了城市治理的復雜度。與科技進步相伴隨，關(guān)于城市治理的方案也在不斷推陳出新，新的技術(shù)帶來新的解決方案。當前，基于人工智能技術(shù)的新型智慧城市系統(tǒng)，其理念和方法在某種程度上正在編織一個數(shù)字化的“金剛石帝國”。伴隨人工智能等新技術(shù)和城市服務(wù)軟件的引入，智慧城市從解決單一的場景問題升級為城市治理的一攬子解決方案。作為新型智慧城市的代表，人工智能與城市治理的結(jié)合產(chǎn)物“城市大腦”已成為眾多IT企業(yè)競相研發(fā)和推廣的產(chǎn)品。

根據(jù)中科院劉峰等人的研究，城市大腦包括城市中樞神經(jīng)系統(tǒng)(云計算)、城市感官神經(jīng)系統(tǒng)(物聯(lián)網(wǎng))、城市機動神經(jīng)系統(tǒng)(工業(yè)4.0)和城市神經(jīng)末梢系統(tǒng)(邊緣計算)，是通過城市神經(jīng)元網(wǎng)絡(luò)實現(xiàn)萬物互聯(lián)、通過云反射弧實現(xiàn)智能響應(yīng)城市服務(wù)的新型系統(tǒng)[2]。剖析城市大腦的結(jié)構(gòu)，其核心模塊是采集信息和處理信息兩大部分。一方面通過在城市大規(guī)模部署傳感器、攝像頭以及傳輸網(wǎng)絡(luò)，匯聚城市生活中的海量數(shù)據(jù)。另一方面引入深度學習等各類AI算法，輸入采集的大數(shù)據(jù)來訓練用于感知和決策的算法模型，并實現(xiàn)城市的精準管控和最優(yōu)決策。

在IT企業(yè)的宣傳中，城市大腦不僅是一種技術(shù)解決方案，而且是具備了全知全能的“上帝視角”。在這個“技術(shù)上帝”的視角下，城市系統(tǒng)乃至生活在其中的個體，可以被分解為最基本的元素——數(shù)據(jù)。但實際上，推動當前智慧城市的力量更多源于強大的商業(yè)利益，而且數(shù)據(jù)處理過程呈現(xiàn)“黑箱化”，終端用戶與大數(shù)據(jù)之間的互動不透明，且被少數(shù)人掌控[3]。人工智能等技術(shù)并不具備商業(yè)公司所宣傳的萬能處理能力，在這種技術(shù)至上的理念下，需要警惕其可能給城市和個體帶來的潛在危害。

2 深度學習技術(shù)的局限性和風險

近十余年，深度學習技術(shù)加速了人工智能產(chǎn)業(yè)的蓬勃發(fā)展。深度學習概念源于人類對人工神經(jīng)網(wǎng)絡(luò)的研究。神經(jīng)網(wǎng)絡(luò)是機器學習眾多算法模型中的一種，包括輸入層、隱藏層和輸出層。隱藏層用于計算機“思考”并給出答案。深度學習中的“深度”指的是增加多個中間的隱藏層，以大幅提升系統(tǒng)的計算和識別能力。這種算法本質(zhì)上是一種模擬匹配，如果輸入的數(shù)據(jù)量大且彼此的邏輯關(guān)聯(lián)度高，處理后的結(jié)果就會與實際更加吻合；如果數(shù)據(jù)量小而零散，且之間沒有強關(guān)聯(lián)度，處理后的結(jié)果則誤差極大。

得益于多種信息通信技術(shù)的涌現(xiàn)，我們能夠便捷地獲取海量個人與社會數(shù)據(jù)，為深度學習算法提供充分的“養(yǎng)料”，使之能夠完成各類場景下的訓練模型構(gòu)建。語音識別、視覺識別、機器翻譯、無人駕駛等領(lǐng)域人工智能算法的表現(xiàn)優(yōu)于其他領(lǐng)域。雖然深度學習技術(shù)相較于以往的AI模型有著顯著優(yōu)勢，但其與真正的人類智能相比，依然存在著明顯缺陷，主要體現(xiàn)在以下3方面。

一是深度學習過于依賴龐大的數(shù)據(jù)集，效率低下。深度學習是一種數(shù)據(jù)驅(qū)動的算法，數(shù)據(jù)集的大小決定了算法模型的精準度，它每解決一個問題，都離不開巨量數(shù)據(jù)的供給。反觀人類智能，我們認識一個事物、辨別一張圖片，并不需要較大數(shù)據(jù)量，只需些許實例即可掌握，認知能力強于計算機。

二是深度學習具有不可解釋性。深度學習揭示了一種通過大量數(shù)據(jù)訓練從而模擬人類在特定輸入、特定輸出之間建立映射規(guī)律的系統(tǒng)，但它無法洞悉人類行為的宏觀認知架構(gòu)[5]。例如，它可以顯示與身體健康相關(guān)的各項飲食數(shù)據(jù)，但無法理解飲食與健康之間的影響關(guān)系。深度學習只是一種應(yīng)用導向型的求解系統(tǒng)[6]。人類可以不斷地提供數(shù)據(jù)，供深度學習進行訓練，卻無法知曉“黑箱”里面的推理原理。

三是深度學習算法自身不可避免偏見存在。人工智能是人類意志的產(chǎn)物，必然會帶有開發(fā)者的主觀判斷色彩。這種偏見來源于數(shù)據(jù)集結(jié)構(gòu)不完整，或人為地將訓練數(shù)據(jù)打上標簽。如若在訓練數(shù)據(jù)中將關(guān)于“醫(yī)生”的照片多選為男性，而關(guān)于“護士”的照片多選為女性，那么訓練出來的模型在算法上就會引發(fā)“特定職業(yè)性別偏見”問題[7]。

深度學習技術(shù)作為主流的人工智能算法，只能滿足特定輸入的簡單歸類活動，不能模擬上述復雜心智活動[8]。深度學習技術(shù)與人類智能是兩個科學范式，依賴深度學習技術(shù)來指導和控制人類社會生活，必然會帶來一系列風險和問題。

3 “城市大腦”技術(shù)對城市活力的消解

智慧城市和城市大腦已經(jīng)成為了一種“顯學”，正在以多種項目形態(tài)在各個城市落地?；谏疃葘W習技術(shù)的城市大腦系統(tǒng)，恐怕無法滿足預期，甚至還會帶來潛在的危害城市的風險。

3.1 以安全為名滲透個人生活

伴隨計算機、傳感器、視覺監(jiān)控等技術(shù)的出現(xiàn)，對公共空間的監(jiān)控方式也從由鋼筋水泥構(gòu)筑的物理建筑進化為遍布各個角落的攝像頭、高速傳輸?shù)木W(wǎng)絡(luò)和大數(shù)據(jù)算法。龐大的監(jiān)控設(shè)備必然會采集更加龐大的個人數(shù)據(jù)，根據(jù)IDC預測，2020年全球視頻監(jiān)控產(chǎn)生的數(shù)據(jù)約18.1 PB，占同期物聯(lián)網(wǎng)數(shù)據(jù)量的83.1%，構(gòu)成物聯(lián)網(wǎng)數(shù)據(jù)的主體[9]。如?？骂A言，“把整個社會機體變成一個感知領(lǐng)域：有上千只眼睛分布在各處，流動的注意力總是保持著警覺?！盵10]智慧城市給予城市管理者一種“全景監(jiān)獄”的技術(shù)手段，但這種智能化的監(jiān)控能否給城市帶來全新活力仍存質(zhì)疑。

3.2 被拆解為數(shù)據(jù)的個體

互聯(lián)網(wǎng)、智能手機、監(jiān)控攝像頭等，會在用戶不知情甚至未授權(quán)的情況下獲取其各種數(shù)據(jù)信息。用戶每次使用手機時的定位、消費、瀏覽網(wǎng)頁，都會被系統(tǒng)記錄，并在數(shù)據(jù)庫中形成個人畫像。平臺企業(yè)依據(jù)這些數(shù)據(jù)來定制新產(chǎn)品，迎合用戶需求，引導企業(yè)向著有利方向發(fā)展。

通過技術(shù)將被監(jiān)控者抽象離析出一系列數(shù)據(jù)流，再根據(jù)不同場景重新組裝，便可構(gòu)成一個虛構(gòu)的“數(shù)據(jù)二重身”，以滿足商業(yè)公司獲取競爭優(yōu)勢以及最大化商業(yè)利益的需要[11]。這種社會不再是監(jiān)控社會，而是控制社會。個體變成了可分割的，大眾成為了樣本、數(shù)據(jù)、市場或者“銀行”[12]。

深度學習技術(shù)賴以生存的大數(shù)據(jù)量，必然導致智慧城市和城市大腦系統(tǒng)對個人數(shù)據(jù)無止境的索求。人類頻繁使用智能服務(wù)，為背后的龐大數(shù)據(jù)庫貢獻出自己行為數(shù)據(jù)，隱私范圍大大縮小，自主意識被削弱。

3.3 監(jiān)控偽裝“街道的眼睛”

提升城市的安全水平是智慧城市建設(shè)的核心目標之一，目前廠商提供的解決方案是擴大監(jiān)控攝像頭鋪設(shè)范圍，做到無死角全覆蓋，并運用人工智能技術(shù)對可疑人員進行面部識別，通過中央控制系統(tǒng)判斷是否可能發(fā)生危險事件，提前預警布控。雖然深度學習技術(shù)可以精準地算出人群的數(shù)量、密度，以及識別衣著特征、車輛號碼，但無法準確判斷哪類人員形跡可疑，哪種情況需要出警。

街道上遍布的攝像頭本身就是一種良好的安防系統(tǒng)。街道鄰里的目光監(jiān)督增強了街道的安全感，簡雅各布斯將之稱為“街道眼”[13]。城市監(jiān)控系統(tǒng)的異常發(fā)達，在某種程度上也讓街道的活力逐步喪失。

3.4 沒有交流的“沉默城市”

傳統(tǒng)城市公共空間的存在，為人際交往建立廣泛信任機制提供了有效平臺。人際之間的接觸培養(yǎng)出城市居民對彼此的信任感和默契度，是城市活力和文化的重要體現(xiàn)。如今，城市里的人際聯(lián)絡(luò)已淡化，人們彼此沉默，似乎所有事情都可以借助機器來完成。人工智能所允諾的“解決一切麻煩”的世界，正誘使人們將原本需要親歷體驗的社會過程卸載到自動化系統(tǒng)中，而這種自動化藏著使核心社會功能“去社會化”風險[4]。

4 對城市生命力的深度思考

僅僅依靠智慧城市和城市大腦系統(tǒng)，顯然無法提供完美的城市治理解決方案，也不能提升居民的生活幸福指數(shù)?！爸卮蠹夹g(shù)決策將賭上未來數(shù)代人的生活，其影響具有長期性且不可逆轉(zhuǎn)。沒有完美的系統(tǒng)，也沒有完美的人，足以符合這種必然性。試圖建立完美系統(tǒng)的嘗試，可能也僅僅意味著建立完美的控制”[14]。

海德格爾認為，技術(shù)都承載著內(nèi)在價值，不具備絕對的中立性[15]。這種內(nèi)在價值一方面是技術(shù)的發(fā)明者賦予的，如編寫深度學習程序的工程師；另一方面來自于技術(shù)的使用者，如城市管理者運用智能系統(tǒng)進行決策。技術(shù)帶有強烈的個人主觀色彩，是對人腦復雜思維過程的一種簡化和降維設(shè)計。依托此類技術(shù)構(gòu)建的智慧城市和城市大腦系統(tǒng)，無法真實的模擬、控制現(xiàn)實世界城市運行的復雜機制。

城市不僅是一種物理裝置或人工構(gòu)造，更是一種內(nèi)在于風俗中并由傳播態(tài)度與情感構(gòu)成的心智狀態(tài)[16]。每一個生活在其中的人的自我意識和主動行為尤為重要。人的主體性是社會活力的動力源泉，治理的現(xiàn)代化是社會活力的生產(chǎn)場域。社會中的人越能夠充分發(fā)揮主體性、積極性，那么社會的活力程度就會越高[17]。

全場景無死角的監(jiān)控系統(tǒng)，以及滲透進私人生活的智能服務(wù)，都是個人自主性的打擊。被技術(shù)強力擠壓而逐漸消亡的公共空間和社區(qū)自治行為，讓傳統(tǒng)城市的人際社會關(guān)聯(lián)斷裂，繼而使得附著于其的情感聯(lián)絡(luò)和思想交互無法生長。原子化的社會結(jié)構(gòu)和沙漠化的城市文化，正是智慧城市和城市大腦之類無序擴張所造成的后果。

5 結(jié)束語

德雷福斯對人工智能技術(shù)提出了深刻的批判，如今，人工智能技術(shù)的發(fā)展并沒有使這種批判失去意義。相反地，當前AI與城市生活愈發(fā)緊密地融入，我們更應(yīng)該清醒地意識到智能技術(shù)應(yīng)用過程中潛藏的風險和隱患。人類面臨的風險不在于人工智能在可表征、可形式化、可規(guī)則化的智能活動中超越了人類，而在于人類放棄了自身的獨特性，逐漸向人工智能的活動方式靠近[18]。