王凱

1

我們遇見的第一天，醫(yī)生告訴我說：現(xiàn)在的人工智能，最重要的不是智能，而是人工。

當(dāng)時(shí)我尚未涉足這一行，對(duì)他說的話似懂非懂。于是他帶我去看公司的最高一層，這里是識(shí)圖A.I.的訓(xùn)練場(chǎng)，被分割成一個(gè)個(gè)的隔音小房間，里面坐著來自附近城中村的女工們。她們或年老或年少，有些人握著鼠標(biāo)的手尚且笨拙。

一幅幅圖片在屏幕上閃過，她們點(diǎn)擊這些圖片，對(duì)著麥克風(fēng)大聲讀出這些圖片里物件的名字。這些聲音被收集起來，匯總到數(shù)據(jù)中心，變成一片小小的碎片，并會(huì)在下一個(gè)流程中化作支撐A.I.聲音識(shí)別的一塊磚瓦。

“你有興趣嗎？當(dāng)然，不是做聲音識(shí)別，是做別的?！?/p>

我點(diǎn)點(diǎn)頭。

接下來的數(shù)年里，我也坐進(jìn)了類似的小房間，我的工作不是識(shí)圖，而是識(shí)別文字。我閱讀各種各樣的文字，從小說到紀(jì)實(shí)文學(xué)，從藥品說明書到微博，從商業(yè)成功學(xué)到宗教，我閱讀它們，我咀嚼它們，然后我總結(jié)自己閱讀時(shí)的情感，把這些情感歸攏成數(shù)據(jù)喂給公司的另一個(gè)A.I.系統(tǒng)。

那不是簡(jiǎn)單的“喜歡”或者“不喜歡”。我分析自己的每一份感受，把它們切成一小片一小片，再加以命名，放入分類系統(tǒng)，對(duì)照數(shù)據(jù)表，最終把它們上傳到數(shù)據(jù)庫(kù)里。

我還會(huì)閱讀那些A.I.寫出來的文字，我看著它們從狗屁不通到初具文采，漸漸與人類創(chuàng)作出來的事物難分伯仲。

我也會(huì)對(duì)比人工智能識(shí)別文字的結(jié)果，大部分時(shí)候，它們的識(shí)別越來越準(zhǔn)確，但是有些時(shí)候，它們會(huì)出錯(cuò)，會(huì)出很大很大的錯(cuò)。錯(cuò)到令人覺得自己一整年都干了白工。

//有一些歌是藍(lán)色的，另一些歌是紅色的，每當(dāng)音樂響起，我就聽見色彩，我的耳朵五彩繽紛，我的雙眼尖叫不已。//

我拿著這段話去找醫(yī)生。告訴他我們訓(xùn)練的A.I.完全無法理解它。

和它一樣會(huì)發(fā)生識(shí)別錯(cuò)誤的文字還有幾百段。按照醫(yī)生的要求，我把它們積攢下來，收集成一個(gè)小小的文檔。里面什么都有。其中有些頗有趣味。

//芳香烴，通常指分子中含有苯環(huán)結(jié)構(gòu)的碳?xì)浠衔铩Ｊ情]鏈類的一種。具有苯環(huán)基本結(jié)構(gòu)，歷史上早期發(fā)現(xiàn)的這類化合物多有芳香味道，所以稱//

//芳香烴，通常指分子中含有苯環(huán)結(jié)構(gòu)的碳?xì)浠衔?。是閉鏈類的一種。具有苯環(huán)基本結(jié)構(gòu)，歷史上早期發(fā)現(xiàn)的這類化合物多有芳香味道，所以稱這些烴類物質(zhì)為芳香烴。//

這一組就是個(gè)典型例子：前面那句話只說了一半，而A.I.會(huì)把它錯(cuò)誤判斷為“在描述一棵樹”。

我實(shí)在不知道它是怎么判斷的。

但如果我把這句話完整輸入，A.I.就會(huì)正確地判斷為“在描述一種化學(xué)物質(zhì)”。

我也不知道它是怎么做到的。

醫(yī)生讓我和其他人收集每一個(gè)無法識(shí)別的句子、每一串能夠愚弄人工智能的文本。再把它們喂給另一個(gè)人工智能。

這個(gè)名叫“似界”的A.I.吞下這一切，不僅是文本，還有圖片和聲音。其中包括了被識(shí)別成鳥的橋梁藍(lán)圖、被認(rèn)定為數(shù)學(xué)公式的詩(shī)、被判斷成細(xì)菌的人臉和被認(rèn)定為消防警報(bào)的歌。

然后它開始生成。

我問過醫(yī)生，“似界”這個(gè)名字的意思。

他說：“大千世界，似是而非?！?h3>2

在文字識(shí)別組工作數(shù)年后，醫(yī)生把我調(diào)進(jìn)了“似界”的項(xiàng)目組。

不同的項(xiàng)目組，同樣的工作內(nèi)容。

“似界”會(huì)根據(jù)我們喂給它的那些“錯(cuò)誤”，生成大量的文本、圖片和聲音。而我的工作就是去識(shí)別這些東西。將那些對(duì)人類有意義的事物和在人類眼里不可理解的事物分開來。

我問過醫(yī)生這是在做什么。但他說，就算解釋了，我也不會(huì)懂。

在我看來，“似界”仿佛是在搞藝術(shù)。

我對(duì)人工智能一竅不通。我只懂藝術(shù)，而且我上一份工作就是搞藝術(shù)。寫賣不出去的小說和沒人看的詩(shī)。最后窮出了心理疾病，跑到互聯(lián)網(wǎng)上去找免費(fèi)的心理治療。然后我遇到了醫(yī)生。

“你需要的不是一次治療?！彼f，“你需要一份工作。而我恰好可以提供一份工作?！?/p>

這就是為什么我叫他醫(yī)生。

盡管他這輩子大概都沒穿過白大褂。

其實(shí)醫(yī)生比我更像是個(gè)藝術(shù)家，他搞出來的“似界”雖然只是個(gè)人工智能算法，但它吐出的很多東西都挺有藝術(shù)感的。比如下面這段話：

//歌在被歌唱的地方靜默了，又在被靜默的地方響起//

或者——

//巴拉巴拉愛上了拉吧拉吧//

我為醫(yī)生收集這些內(nèi)容，直到有一天，一群穿著黑色T恤衫的人出現(xiàn)在公司里。他們表情嚴(yán)肅認(rèn)真，而醫(yī)生也難得地露出了嚴(yán)肅的表情。

“——我們要看演示?！眰€(gè)子最高、肩膀最寬的那個(gè)人說。

醫(yī)生帶他們?nèi)琼?。那里擺放著幾十臺(tái)無人機(jī)。他叫上了所有“似界”項(xiàng)目組的人，包括我。我們好奇而不解地坐在樓頂?shù)乃芰弦巫由?，那些椅子平時(shí)是用來做拓展游戲的。

“阿鏡，你把這個(gè)穿上。”

醫(yī)生指著我說。

我從他手里接過那件衣服，是一件套頭迷彩服罩衫，但又不完全是迷彩服，因?yàn)樵诿圆史男厍坝≈恢环浅Ｉ禋獾墓科妗?/p>

我不太高興地看了他一眼，還是把罩衫套上了。

因?yàn)獒t(yī)生也穿了一件，只不過他胸前沒有印花，只是純粹的迷彩。

然后他讓幾個(gè)男同事去抬了八盆一人高的盆栽過來，自己拉起罩衫的迷彩兜帽，站在盆栽后面，像一棵會(huì)笑出白牙的樹。

“好了?！彼f。

一個(gè)穿黑T恤衫的人拿出遙控器，無人機(jī)成群結(jié)隊(duì)地起飛。掠過樓頂，再飛回來，最終全部懸停在醫(yī)生的頭頂，紅色的激光點(diǎn)落在他的臉上和胸口，他笑著用手遮擋。

“換人，換人。”

他把我叫過去，讓我拉起兜帽，也站在那里。

無人機(jī)散開，重新組成編隊(duì)，掃過樓頂。它們掃過我的頭頂，一次，又一次。我很確定它們腹部的小小攝像頭曾經(jīng)指向我的位置。但它們完全沒有做出反應(yīng)。

“阿鏡。你從盆栽后面出來。把兜帽摘了?！?/p>

我按照醫(yī)生說的做了。

那天很熱。我還記得陽(yáng)光落在我的臉上。那些聰明的小飛機(jī)從我的頭頂飛過，甚至繞著我的臉轉(zhuǎn)。它們繞到我背后，發(fā)現(xiàn)我，氣勢(shì)洶洶地向我飛過來。

但是等它們繞到我身前時(shí)，仿佛被某種事物所迷惑，又飛走了。

“行了?！眰€(gè)子最高的那個(gè)男人擺擺手，“簽保密協(xié)議吧。你們所有人?！?/p>

他想了想，又補(bǔ)充道：“就在這兒，當(dāng)場(chǎng)簽?！?h3>3

我們那天真的就在現(xiàn)場(chǎng)、在天臺(tái)上、在凹凸不平帶著小圓點(diǎn)的塑料凳子上，簽下了我們這輩子第一份保密協(xié)議。我當(dāng)時(shí)又困惑又緊張，甚至劃破了紙。

這份協(xié)議至今仍然有效。因此我不能告訴你，我的讀者，我不能告訴你醫(yī)生的名字，我不能告訴你我的名字，我不能告訴你“似界”的項(xiàng)目編號(hào)或者我所在的公司的名字。我所說的一切技術(shù)都已經(jīng)是公開的和為人所知的。我至今仍然無法談?wù)撃切┎粸槿酥牟糠?。盡管其中有一些已經(jīng)和醫(yī)生一起長(zhǎng)眠深海。

很多年前，我和醫(yī)生爭(zhēng)吵的時(shí)候，他嘲笑了我對(duì)詩(shī)歌的偏執(zhí)。而我對(duì)他說，人生而殘缺，而藝術(shù)可以提供完整的幻覺。

如果有可能，我想要告訴他。我錯(cuò)了。

有些失去永遠(yuǎn)無法用藝術(shù)填補(bǔ)。

4

醫(yī)生把公司開在一個(gè)二線城市的三環(huán)外，在那里，他買下的破廠房和周圍的城中村違章建筑風(fēng)格無比一致。那些年里，我白天在那里工作，中午在食堂爭(zhēng)搶免費(fèi)水果里的小番茄，晚上回到單人宿舍，揉我的貓，收拾房間、洗個(gè)澡、然后一身疲憊地落入夢(mèng)鄉(xiāng)。

那時(shí)候我從來沒想到，這份工作會(huì)把我?guī)蠠o人戰(zhàn)場(chǎng)。

當(dāng)然，我其實(shí)沒有真正到過N區(qū)。

無人戰(zhàn)場(chǎng)名副其實(shí)，那里在開戰(zhàn)后就已經(jīng)空無一人。當(dāng)?shù)鼐用窀鶕?jù)他們的信仰和信念，收拾行裝逃往不同的方向。如今那片土地上只有無人機(jī)、自走機(jī)器人和自行戰(zhàn)車，它們開出廠房，駛下運(yùn)輸機(jī)，穿過臨時(shí)機(jī)場(chǎng)那塵土飛揚(yáng)的跑道，進(jìn)入無人戰(zhàn)場(chǎng)，開始沖撞彼此、轟炸彼此。

我只在分析室里見過N區(qū)。那個(gè)長(zhǎng)條形房間燈光昏暗，墻壁上并排掛著兩幅投影屏，左邊是人工智能分析終端生成的N區(qū)圖像，右邊是無人機(jī)拍攝視頻里的N區(qū)風(fēng)景。

它們迥然不同。

擁有“似界”這樣的A.I.的人，不只是我們，還有敵人。雙方都在用盡一切辦法愚弄對(duì)方自主作戰(zhàn)機(jī)器人的眼睛。

因此，在人工智能的分析圖像里，整個(gè)N區(qū)顯現(xiàn)出難以置信的光怪陸離，就像是具象化的卡爾維諾小說，或者動(dòng)態(tài)的達(dá)利油畫。

我至今保留著一段N區(qū)的人工智能全景視頻。在那段視頻里，天空湛藍(lán)、陽(yáng)光明亮，棉花般的云朵中間倒掛著一座索橋，正呼嘯著向鏡頭的方向沖過來。

這甚至不是整段視頻里最怪異的部分。

在被集束炸彈破壞得坑坑洼洼的地面上，奔跑著各種莫可名狀的事物。我能從中間分辨出一只藍(lán)色的袋鼠、兩條直徑比人還粗的繩索、一只琺瑯鼻煙壺和六架不同顏色的天文望遠(yuǎn)鏡。

在視頻里，它們看起來模糊不清、破碎跳動(dòng)，彼此沖撞廝打，仿佛一群不真實(shí)的野獸。

而醫(yī)生的大臉則投射在這些莫可名狀的事物彼方，比兩層樓還高，如同一尊架空而來的彌勒佛般開口大笑。

如果比對(duì)直接拍攝的視頻，就可以看出，這些互相廝打的異物都是刷有“愚弄迷彩”的自走機(jī)器人;天空中呼嘯而來的是一架大型無人機(jī);而被錯(cuò)誤識(shí)別為醫(yī)生面孔的，則是高達(dá)二十六米的移動(dòng)智能堡壘。

對(duì)方也使用了“似界”的技術(shù)。把愚弄自動(dòng)戰(zhàn)爭(zhēng)機(jī)器的迷彩刷在每一臺(tái)機(jī)器上，讓戰(zhàn)場(chǎng)指揮A.I.產(chǎn)生嚴(yán)重的錯(cuò)覺，迫使我們不得不倒退回用人手操控戰(zhàn)爭(zhēng)機(jī)器的時(shí)代。而且他們甚至還有余裕來掌控這些錯(cuò)覺的細(xì)節(jié)。

當(dāng)時(shí)，我們認(rèn)為那是對(duì)方對(duì)我們的示威。

第二天晚上，噩耗從海上傳來，我們才知道，那是對(duì)方相信自己已經(jīng)勝利的宣言。

我們最終還是奪回了N區(qū)。

但沒有人能把醫(yī)生帶回來給我們。

給我。

5

他們叫我過去的時(shí)候，已經(jīng)是醫(yī)生的飛機(jī)墜入深海的第九天。這一次我簽下了差不多一指厚的保密協(xié)議，才得已見到那個(gè)幸存下來的飛行員。

她看起來疲憊、驚恐、雙眼紅腫，而且充滿不安。他們給她安排的房間寬敞而舒適，但這并不能改變她正在被監(jiān)控的事實(shí)。我看了他們對(duì)她每一次問詢的記錄。但我決定還是面對(duì)面地和她談一談。

當(dāng)我走進(jìn)去的時(shí)候，她甚至都沒有抬頭，只是大聲地喊：“出去！我都說過了！我不想再說一遍！”

我在她對(duì)面坐下。

“我叫他醫(yī)生?！蔽艺f，“他叫我鏡子?！?/p>

這句話讓她抬起頭來，困惑地看著我。我對(duì)她說了醫(yī)生的名字，我看到她臉上的表情由不滿變成悲哀和內(nèi)疚。

“我真的什么都沒有注意到。”她說，“雷達(dá)和目視都一切正常?！?/p>

我搖搖頭。

“我相信雷達(dá)一切正常?！蔽艺f，“在現(xiàn)代戰(zhàn)爭(zhēng)里，要騙過雷達(dá)的辦法很多?！?/p>

她又轉(zhuǎn)為警惕，“那你的意思是，我沒有看到那個(gè)迎面撞上我飛機(jī)的東西？”

“我覺得你看到了?！拔艺f，“只不過那個(gè)東西太怪異，怪異到你都不相信它會(huì)在那里，怪異到你覺得它應(yīng)該是個(gè)幻覺。而你是個(gè)飛行員，你的訓(xùn)練要求你理智冷靜，要求你忽略那個(gè)看到不可思議的東西的瞬間?！?/p>

她看著我，嘴唇微張，欲言又止。

我拿出手機(jī)，給她看那段視頻。給她看廝打在一起的望遠(yuǎn)鏡和袋鼠，以及空中飛掠并開火的懸索橋。

她的眼睛睜大了。

“很多年前，”我說，“有一群科學(xué)家……”

這個(gè)故事是醫(yī)生講給我聽的。我向他抱怨說我對(duì)他的工作一無所知。他就笑著摸我的頭，說，要給我講一個(gè)一無所知的人也能懂的、關(guān)于人工智能和他的工作的故事。

我記住了他說的每一個(gè)字。并在很多年后，講給那個(gè)飛行員，也講給你聽。

6

很多年前，有一群科學(xué)家。他們想要?jiǎng)?chuàng)造出和人一樣聰明，能夠作出判斷和選擇的機(jī)器。但他們選擇了不同的方法去做。

有些科學(xué)家，他們用做鐘表的方法去做，只要“齒輪”轉(zhuǎn)到了合適的位置，就能給出時(shí)間。而鐘表不需要理解時(shí)間本身。

另一些科學(xué)家，他們選擇用更困難的方法，去仿造人類的神經(jīng)系統(tǒng)。仿造你和我的大腦，來做這種機(jī)器。他們希望機(jī)器能夠真正地去“理解”和“認(rèn)知”。

這就是我們今天最常見的人工智能——至少是人工智能的一種。

起初，他們很成功。

但是后來，這些科學(xué)家發(fā)現(xiàn)，他們做出來的人工智能是有缺陷的。雖然這些機(jī)器可以識(shí)別百分之九十九的圖片、聲音、文字，但是總有那么百分之一的東西，它們會(huì)認(rèn)錯(cuò)。把狗認(rèn)成摩托、把花看成跳舞的女人，或者把歌聲判斷成警報(bào)。

科學(xué)家們收集了這些會(huì)讓人工智能出錯(cuò)的事物。開始研究。在這里，他們又一次選擇了不同的路。

有些人認(rèn)為，這種錯(cuò)誤是最終可以消除的。因此他們一直致力于糾正這些錯(cuò)誤。

但另一些科學(xué)家認(rèn)為，這種錯(cuò)誤根植于人工智能的基本結(jié)構(gòu)——而這個(gè)基本結(jié)構(gòu)同時(shí)也是人類神經(jīng)系統(tǒng)的基本結(jié)構(gòu)。他們認(rèn)為這種錯(cuò)誤無法消除，但可以總結(jié)出其中的規(guī)律。

我做的事情就是后一種。

“似界”的算法讓它能夠發(fā)現(xiàn)和生成這些帶來錯(cuò)誤認(rèn)知的事物。它已經(jīng)超越了色彩、圖像和意義，給認(rèn)知本身披上了偽裝。

而在自主武器系統(tǒng)遍布全球、無人戰(zhàn)爭(zhēng)多點(diǎn)開花的今天，每一張錯(cuò)誤認(rèn)知圖片，每一塊愚弄迷彩，都有可能從無人機(jī)轟炸下拯救一條生命;每一條錯(cuò)誤認(rèn)知文本都有可能繞過無孔不入的網(wǎng)絡(luò)監(jiān)視、傳遞至關(guān)重要的密碼;每一組錯(cuò)誤認(rèn)知聲音都有可能擾亂對(duì)方的信息系統(tǒng)。

我不知道是戰(zhàn)爭(zhēng)找到了我。還是我找到了戰(zhàn)爭(zhēng)。

但是讓我再重復(fù)一次。

“似界”創(chuàng)造的每一個(gè)錯(cuò)誤認(rèn)知，其錯(cuò)誤都根植于人工智能算法的基本結(jié)構(gòu)，而這個(gè)結(jié)構(gòu)脫胎于人類的神經(jīng)系統(tǒng)。

我正在走向更遠(yuǎn)的地方。去找尋更深處的錯(cuò)誤認(rèn)知。

我要尋找的是那些人類也無法避免的錯(cuò)誤認(rèn)知。

我要?jiǎng)?chuàng)造的是一個(gè)真正似是而非的世界。

如果能撥開這些錯(cuò)覺的迷霧，或許我們就能看見世界背后的真實(shí)。如果能掌握這種錯(cuò)誤認(rèn)知的力量，我們或許就能獲得更強(qiáng)大的武器。

而且我必須要快。

我們有敵人，而且敵人和我們一樣聰明。

7

“……我看見一個(gè)月亮?！彼f，“我看見一顆月亮向我飛來，我甚至能看清楚它上面的環(huán)形山。那是在白天，天空那么明亮，而那個(gè)月亮離我那么近，仿佛伸手就能摸到，它又那么小，直徑比我的飛機(jī)的翼展還窄。像一塊完美的圓形石頭。我想我一定是太累了，出現(xiàn)了幻覺。然后那顆月亮就撞在了飛機(jī)上。我以為是我的錯(cuò)——”

我拿出一張圖片。給她看。

“你看到了什么？”

她的聲音微弱下去，“……月亮。”

我拿出一張經(jīng)過特殊設(shè)計(jì)的雜色濾光片，它可以擾亂固有的視覺模式，重置被欺騙的神經(jīng)信號(hào)。我把它疊在圖片上，再給她看。

“你現(xiàn)在看到了什么？”

“這是……這不可能……”

我嘆口氣。

在那張照片上，一架涂滿了愚弄迷彩的無人機(jī)正掠過天空。

8

“我要叫你鏡子?！贬t(yī)生曾經(jīng)這樣說，“因?yàn)槟惚任腋h(yuǎn)離真實(shí)，又比我更接近真實(shí)?！?/p>

我是個(gè)色盲。很微弱的那種。我分不清藍(lán)色和綠色。這讓我可以免疫大概百分之三十的、針對(duì)人類設(shè)計(jì)的錯(cuò)誤認(rèn)知迷彩。

和我一起工作的人里，有些是紅綠色盲，但更多的是非常稀有的全色盲。他們幾乎可以免疫絕大多數(shù)的錯(cuò)誤認(rèn)知迷彩。

根據(jù)我們的視覺模式，一批批單色和轉(zhuǎn)色濾光片被制造出來，保護(hù)那些被困擾的戰(zhàn)士和被愚弄的人工智能。讓他們能夠穿過硝煙，穿過戰(zhàn)場(chǎng)，去尋找真相。

但世界正在一天接一天地失去真實(shí)。在前線，我甚至看到過刷滿愚弄迷彩、偽裝成山脈的一整棟大樓。人們這么做并不是為了贏得戰(zhàn)爭(zhēng)，而是那些充滿恐懼的居民想要讓自己從世界上消失。

最近，我聽說已經(jīng)有針對(duì)色盲者的錯(cuò)誤認(rèn)知迷彩被開發(fā)出來。人們將欺騙人工智能的方法轉(zhuǎn)而用到欺騙人眼上，開發(fā)出了能夠超越濾光設(shè)備的通用認(rèn)知擾亂圖形。

這讓我感到了緊迫。

很多科學(xué)家一起接手了醫(yī)生留下來的研究工作。他們和我一樣憂心忡忡。

醫(yī)生說的話依舊回蕩在我們耳邊。

必須要快，他說。

我們有敵人，而且敵人和我們一樣聰明。

【責(zé)任編輯：阿 吾】