移動互聯(lián)網(wǎng)、大數(shù)據(jù)和人工智能等不斷推陳出新,極大地方便了我們的生活和工作,但同時,我們也越來越緊密地被捆綁到不斷加速的社會化大生產(chǎn)當中,無法自拔,以至于人們與過往的空間、時間、自我和社會不斷地疏離與異化。很顯然,人工智能時代的權力結構與權力形式都發(fā)生了根本的改變,網(wǎng)絡權力、數(shù)據(jù)權力、算法權力,正是人工智能時代權力規(guī)訓的三種新路徑。
正如互聯(lián)網(wǎng)的發(fā)展迅速遍及人類生活的方方面面一樣,網(wǎng)絡權力也早已超越軍事的界限,成為依賴于互聯(lián)網(wǎng)環(huán)境生存的各要素得以存續(xù)下去的一種普遍力量。就個體而言,互聯(lián)網(wǎng)成為了人們表達、社交和獲取物質產(chǎn)品的主要方式。就整個社會而言,互聯(lián)網(wǎng)成為了新的社會公共空間,使得原先被信息隔絕的不同群體和階層得以平等無縫地高效交流。
在網(wǎng)絡空間中,網(wǎng)民有權利決定自己做什么和不做什么,以及選擇以什么方式去做。從這個意義上來說,網(wǎng)絡空間是屬于個體的私人領域,每個網(wǎng)民都享有在網(wǎng)絡上的話語權以及與其他交往主體之間的平等關系。在網(wǎng)絡空間里,網(wǎng)民不僅可以自由地選擇互動的對象,也擁有分享、發(fā)布原創(chuàng)內容的權利。網(wǎng)絡空間的匿名特性鼓勵著那些在現(xiàn)實生活中較少話語權的網(wǎng)民,去充分自由地表達自己的真實想法,他們隱匿在網(wǎng)絡空間當中,自主自愿地、不受任何人的強制和支配地進行著自主選擇的交往與創(chuàng)作行為,在虛擬的網(wǎng)絡空間里完成現(xiàn)實生活中難以完成的維權、反腐等任務,極端的甚至可以通過在網(wǎng)絡空間里的自由權利推翻一個政府或者摧毀一個國家。從這個意義上,我們說,網(wǎng)絡權力首先是一種不受限制或者少受限制的個人自由權利,這種權利在特定條件下可以非常強大,強大到當今世界每一個政府都不敢小瞧網(wǎng)絡權力。
網(wǎng)絡空間是一個虛擬空間,但也是一個現(xiàn)實空間,現(xiàn)實政治社會生活中資源占有不平衡導致的人與人之間的權利/權力不平等,同樣反映在網(wǎng)絡空間中。也許在某些偶然情況下,我們可以罔顧現(xiàn)實而在網(wǎng)絡世界達成某種人人平等,但更殘酷的現(xiàn)實是,那些在現(xiàn)實社會中處于優(yōu)勢地位的個體,在網(wǎng)絡空間也更具有資源優(yōu)勢;反之,現(xiàn)實社會中的弱勢群體在網(wǎng)絡空間里,仍然處于不利地位。
在理想狀態(tài),每個網(wǎng)民在隱匿的網(wǎng)絡上都是自由平等的,但事實上,那些掌握著互聯(lián)網(wǎng)核心技術和專業(yè)知識及擁有大量資本的互聯(lián)網(wǎng)主體才是真正位于網(wǎng)絡金字塔的高層,是他們在引導、規(guī)范甚至操控著普通網(wǎng)民的言論和行動,而普通網(wǎng)民則始終處于一種不自覺地被裹挾進網(wǎng)絡的狀態(tài)。網(wǎng)絡大V憑借自身所擁有的流量效應駕馭網(wǎng)絡輿論導向,普通網(wǎng)民往往難辨真假,在瘋狂地點贊、評論和轉發(fā)中,網(wǎng)絡輿論生態(tài)也漸漸被這些所謂的“意見領袖”所裹挾,而大多數(shù)普通網(wǎng)民只能在輿論大潮里隨波逐流。隨著移動互聯(lián)網(wǎng)的不斷發(fā)展,人們越來越依賴網(wǎng)絡,習慣了瀏覽互聯(lián)網(wǎng)平臺的各種推送消息,習慣了依靠搜索引擎做出選擇,并且樂此不疲。但是大多數(shù)人可能很少意識到,正是人們的一次次“習慣”使其在不知不覺中成為了網(wǎng)絡的俘虜,心甘情愿地按照網(wǎng)絡上的某種暗示去行動,被網(wǎng)絡權力所操控卻對此渾然不覺。因此,看似自由平等的網(wǎng)絡權力,本質上只是一種被網(wǎng)絡強勢群體影響、規(guī)范和強制的權力。
??抡J為,權力的運行機制包括空間與知識兩個維度??臻g是權力運行的場景,而知識能夠產(chǎn)生權力并批準著權力的行使甚至說服民眾遵照權力的指示行動。在人工智能時代,網(wǎng)絡權力對人們的規(guī)訓,首先就是通過移動互聯(lián)網(wǎng)借由空間與知識機制所完成的。
空間是權力運作的基礎,網(wǎng)絡空間則是網(wǎng)絡權力得以生發(fā)運作的具體場域,網(wǎng)絡權力的形成遵循的是空間-權力機制。網(wǎng)絡空間與現(xiàn)實生活中的具體場景不同,集虛擬性、跨時空性、私人性、隱蔽性、公共性等特點于一體,其生態(tài)環(huán)境遠比現(xiàn)實中的某一具體空間復雜得多,從而決定了人們的行為模式呈現(xiàn)出多樣化的特點。一方面,網(wǎng)絡空間是一個自主的私人領域,人們在各種社交平臺上分享自己的生活狀態(tài),同時也希望通過“曬”活動和互動行為維持與其他主體之間的聯(lián)系,強化自身在網(wǎng)絡社區(qū)中的歸屬感和認同感,以此建構自己的意義世界。在這樣一個空間中,人們更多地感受到的是網(wǎng)絡的虛擬性,這種虛擬與匿名機制突破了現(xiàn)實生活中各主體之間的身份等級限制,淡化了各自的身份角色意識,催生出一種“多數(shù)觀看多數(shù)”的社會監(jiān)控新模式。但網(wǎng)絡空間作為一種空間環(huán)境,它也必然具有空間特有的本質,就像“楚門的世界”一樣,不管視野所及的空間多么廣大,也不管自我感知在這個空間中的一切多么自由自在,這個空間終究是由某種更隱蔽的力量在監(jiān)視著、強制著、規(guī)定著。
知識是權力強化的條件,某些個體或者群體因為掌握的特定知識而獲得巨大權力,而在人工智能時代,壟斷著互聯(lián)網(wǎng)專門知識的那些主體就很自然地成為了網(wǎng)絡權力的主體。在人工智能時代,誰掌握了關于算法的知識就意味著誰擁有了足夠的權力。商家之所以能夠從用戶個人數(shù)據(jù)中預測出個體的消費偏好從而實現(xiàn)精準營銷,關鍵在于其掌握著大數(shù)據(jù)分析的特殊技術,而對于那些缺乏該技術能力的個人和公司而言,即使擁有了海量數(shù)據(jù),也無法將數(shù)據(jù)變現(xiàn),從而實現(xiàn)數(shù)據(jù)的價值。同樣,人臉識別系統(tǒng)也不僅僅是安裝一個攝像頭那么簡單,這其中涉及計算機圖像處理技術和生物統(tǒng)計學原理,技術人員憑借自身所具有的專業(yè)性知識設計了各種先進的人臉識別監(jiān)控設備及系統(tǒng),并被國家機構應用于各種公共場合以實現(xiàn)維護社會穩(wěn)定的政治目的。權力與知識在此實現(xiàn)了完美結合,知識拓展了權力的作用范圍,而權力對知識的重視則進一步強化了知識的權威。也就是說,權力與知識的共生共謀特性決定了在人工智能時代,壟斷話語權的往往是那些掌握著大數(shù)據(jù)及人工智能核心知識的網(wǎng)絡強勢主體。
網(wǎng)絡技術的進一步發(fā)展,促成了大數(shù)據(jù)技術的迅速成熟和發(fā)展。大數(shù)據(jù)的本質是人類對世界的數(shù)據(jù)化。??略詰?zhàn)爭模式為例,探討了權力關系各方面的相關性,他定義了兩種形式的權力:規(guī)訓權力,即通過監(jiān)視技術和懲罰制度對身體進行規(guī)訓;以及生命權力,作用于人口、生物和活人。而數(shù)據(jù)權力就充分體現(xiàn)了生命權力在規(guī)訓權力面前的無能為力或者說規(guī)訓權力的無所不能。
當今世界已逐漸走向數(shù)字政治時代。數(shù)字技術正從單純的監(jiān)控向主動的操控過渡,人們憑感覺做出的所謂“自由決定”將很快被操控。尤其是在推進人工智能技術的過程中,現(xiàn)實中活生生的人被數(shù)字化、符號化,個人的生活史被數(shù)據(jù)清晰地記錄、儲存,在需要的時候甚至被隨意調動使用。馬克·波斯特認為,隨著電腦數(shù)據(jù)庫的出現(xiàn),社會場成為了一個超級全景監(jiān)獄,主體在符號和數(shù)字中被重新建構,這種數(shù)據(jù)庫式的超級全景敞視監(jiān)視比??鹿P下的全景監(jiān)獄更加易于書寫、記錄和監(jiān)控,幾乎包括個體的所有信息,并且滲透到社會的每一個角落。人工智能時代,我們每一個人都被數(shù)據(jù)監(jiān)控所包圍著,明明置身其中卻極可能并未意識到自己正在被監(jiān)控。
在數(shù)據(jù)即權力的人工智能時代,人的一切思想和行為都能夠被感知,變成可以存儲、處理和使用的數(shù)據(jù),并通過互聯(lián)網(wǎng)存儲于網(wǎng)絡、云端之中,我們的一切思想、行為都被暴露在大眾之中,我們變成了透明人,世界變成了透明世界。所謂“透明人”,是指通過大數(shù)據(jù)的比對和信息還原,每一個個體在一系列時間段的所有行為都可以在事后被展現(xiàn)和還原出來,由此每個人的生活狀態(tài)都將在很大程度上成為透明的。而透明世界與透明人的出現(xiàn),使我們隨時都被無處不在的泛在網(wǎng)所監(jiān)控,網(wǎng)民們在網(wǎng)絡空間里不斷地生產(chǎn)數(shù)據(jù),也不斷地被數(shù)據(jù)定義,成為“數(shù)字勞工”的同時也無法擺脫來自數(shù)字權力的約束,從而處于數(shù)據(jù)權力的天羅地網(wǎng)之中。
一是注意力的規(guī)訓。互聯(lián)網(wǎng)的核心概念是流量,而流量就是注意力的加總,因此,注意力成為一種極富價值的資源,而在海量信息時代,誰能夠搶先抓住人們有限的注意力,誰就靠近了成功,而廣告的任務就在于抓取注意力。人工智能時代,結合大數(shù)據(jù)分析技術,廣告商們對個體注意力的抓取也越來越精準,通過對消費者所瀏覽的網(wǎng)頁、在商品頁面瀏覽時間長短的分析,廣告商們可以對個體的消費需求給出針對性的建議和推薦,從而達到精準投放廣告的目的,這種對人們注意力的精準操控程度在大數(shù)據(jù)技術出現(xiàn)以前是人們所不曾想象過的。注意力作為一種資源,只要有需求,便會被不斷地開發(fā)、生產(chǎn)和研究,因此,對注意力的運用也不僅僅體現(xiàn)在商業(yè)領域,劍橋分析引發(fā)的“臉書”事件則向我們展示了對注意力進行規(guī)訓的另一種方式。換言之,人工智能時代,注意力作為一種稀缺性資源,不僅被市場化,也被向量化、標簽化,并以數(shù)據(jù)的形式被算法吸納,網(wǎng)絡強勢主體經(jīng)過技術分析不斷地生產(chǎn)出新的注意力以滿足自己的利益需求。在一輪輪的轉化、分析、生產(chǎn)中,個體似乎失去了對于自身注意力的選擇權,在不知不覺中作出了數(shù)據(jù)和算法所希望的選擇。
二是思維方式的規(guī)訓?;ヂ?lián)網(wǎng)的普及為人們提供了海量的信息,真正實現(xiàn)了足不出戶便知天下事;而搜索引擎則為人們篩選自己所需要的信息提供了媒介,越來越多的人依靠搜索引擎作出判斷和決定,在一次次的搜索中人們漸漸被“數(shù)據(jù)思維”所馴服,在對數(shù)據(jù)的崇拜和迷信中喪失了思考的能力,只在乎“是什么”,卻忽略了對“為什么”的探尋。在數(shù)字世界里,人們沉迷于對速度和結果的盲目崇拜,卻不再內省和反思;算法將一切轉化為可以量化的維度并將其再次輸出試圖引導甚至規(guī)訓人們的思想和行為,而個體卻樂在其中?!皵?shù)據(jù)思維”泛濫的結果可能是人們自主意識的進一步喪失,數(shù)據(jù)比人們更了解自己,輕而易舉地控制個體的思想,形塑著個體對數(shù)據(jù)權威的認同。正是基于此,在數(shù)字化生存時代,有學者提倡,我們應樹立數(shù)據(jù)權利意識,并積極增進數(shù)據(jù)參與。這種權利意識不僅僅是對大數(shù)據(jù)的警惕,對自身數(shù)據(jù)泄露的防范,更是對大數(shù)據(jù)潛在規(guī)訓的自覺反抗。
人工智能的發(fā)展,造就了一種無所不能的算法權力,這種算法權力將從兩個方面徹底改變社會的形態(tài):一是掌握算法的資本寡頭與技術精英共謀,通過用人工智能逐步替代人的大部分腦力勞動,使得人類社會中可能出現(xiàn)一個龐大的無用階級;二是具體運行算法的機器本身有可能成為挑戰(zhàn)人類的巨大力量,無所不能的智能機器人繼續(xù)向前發(fā)展,人類可能就不再是世界上惟一的智慧載體,人類的主體性和自由本身有可能要讓渡于新的人類與機器的混合物。
算法、計算力和數(shù)據(jù)是人工智能的三大基本要素。人工智能引領我們走向一個沒有邊界的新算法戰(zhàn)場,算法歧視正在加劇人與人之間的不平等,并且造就了一個所謂的“后勞工”社會,也就是數(shù)字技術上有優(yōu)勢的寡頭及其技術精英團隊和當權者同謀共贏的社會。鑒于人工智能的迅猛發(fā)展勢頭,它已經(jīng)成為全球權力游戲的中心。
我們知道,迄今為止的人類社會,其統(tǒng)治階級與被統(tǒng)治階級都處于一種矛盾的共生關系之中,二者既是矛盾的對立雙方,又是對方得以存續(xù)的前提與基礎。而大量人工智能在工業(yè)與服務領域的運用,正在打破這樣一種共生關系,統(tǒng)治階級有可能憑借其資本與技術優(yōu)勢而實現(xiàn)人工智能對傳統(tǒng)的被剝削階級或者被統(tǒng)治階級的取代,被統(tǒng)治階級日益被逐出生產(chǎn)領域,從而使傳統(tǒng)階級關系的平衡被打破,進一步加深勞動的異化。新技術可以消除基于舊技術的不平等,但也可能產(chǎn)生新的更大的不平等。原來的有產(chǎn)階級與無產(chǎn)階級,可能演變成掌握大數(shù)據(jù)的數(shù)據(jù)資產(chǎn)階級和被動地數(shù)據(jù)化的數(shù)據(jù)無產(chǎn)階級,由此造成新時代人的發(fā)展的異化。有些學者甚至造出了“數(shù)字資本主義”這樣的概念。用赫拉利的話說,在數(shù)字資本主義社會中,有錢人,或者說掌握物質財富的資本寡頭和掌握算法規(guī)則的技術精英將成為超人,而原來的無產(chǎn)階級將成為無用階級。
因此,有研究者擔憂,人工智能將有可能形成三種專制形態(tài):人工智能輔助下的人類專制、人工智能依賴下的人類蛻化和人工智能自身對人類的專制。作為機器屬性的人工智能是一種絕佳的專制工具,在一定程度上將延續(xù)傳統(tǒng)上的人類專制形態(tài),掌握人工智能的群體將利用人工智能形成對其他群體的奴役,而其背后的基礎就是資本寡頭與技術精英共謀而形成的算法權力。
美國學者約翰·塞爾將人工智能技術區(qū)分為三個等級:弱人工智能、強人工智能和超人工智能,這也可以說是人工智能發(fā)展的三個階段。即使人類社會沒有出現(xiàn)濫用人工智能強化其專制的獨裁者,也會隨著人工智能在社會中的廣泛應用而形成一種類似于資本專制的專制形態(tài),即人類由于高度依賴人工智能而形成的整體上的物種的退化。而萬一人工智能壓倒性地超過人類智慧,并具備了自身的主體意識,開始擺脫客體的屬性,則它會反過來奴役人類。因此,有悲觀的研究者提出,人工智能是我們人類最后的發(fā)明,此后的世界可能徹底被人工智能所接管。
典型的如很多國家正在研制中的人工智能武器。它們作為會思考的武器系統(tǒng),能夠在沒有任何人為參與和干預的情況下執(zhí)行任何預計的戰(zhàn)爭任務,僅使用其嵌入式傳感器、計算機編程和人類環(huán)境和生態(tài)系統(tǒng)中算法的交互,就具有辨別自然語言的能力,可以有意識地尋找、辨別需要打擊的目標。伴隨技術進步,我們的科學家可能會創(chuàng)造出“超人類智能”“超人類體能”“生化人”“電子人”等,從而使得“人”與“機器”之間的界限更加模糊。如果機器完全自主或者接近完全自主,如果算法權力大到足夠擺脫人類的控制,那么人類面臨的就不只是人類自身之間的戰(zhàn)爭風險,還面臨人類這個物種以及人類創(chuàng)造物——機器之間的戰(zhàn)爭了。按目前世界各國人工智能發(fā)展的趨勢,潘多拉的盒子已經(jīng)打開,妖怪已經(jīng)從封印中出來了,但人類對人工智能尤其是人工智能武器帶來的倫理風險、法律風險等并未達成共識。