美逸君

在“科技巨擘”眼中：世界是抽象的，可以被描繪成數(shù)據(jù)公式，任何人不過(guò)是無(wú)數(shù)代碼里的1和0而已?！澳X機(jī)接口”在豬身上實(shí)驗(yàn)成功了，如果有一天，用在人身上呢？

日前，Elon Musk發(fā)布了Neu-ralink“腦機(jī)接口”研發(fā)的最新進(jìn)展：在豬身上實(shí)驗(yàn)成功，下一步將植入人腦。

看完后，想到：科技發(fā)展從來(lái)都是雙刃劍……上古進(jìn)入鐵器時(shí)代，人類(lèi)開(kāi)始了王國(guó)戰(zhàn)爭(zhēng)、帝國(guó)爭(zhēng)霸；近代，火藥發(fā)明，戰(zhàn)亂的破壞力指數(shù)級(jí)上升；而現(xiàn)代，隨著人類(lèi)分裂原子核，終于擁有了能毀滅人類(lèi)文明與人類(lèi)物種自身的手段……那么，AI發(fā)展，是否沒(méi)有任何副作用、反作用？不需付出任何代價(jià)？如果存在副作用、反作用，會(huì)作用在哪里，代價(jià)由誰(shuí)來(lái)承擔(dān)？

沒(méi)想到，僅僅一天之后，AI的副作用就砸到我自己頭上……社交軟件的紅包功能被凍結(jié)了。原因是：在單位時(shí)間內(nèi)接收紅包數(shù)量超過(guò)了限額。

這種限制，主要是為防止洗錢(qián)，譬如：銀行對(duì)每個(gè)賬戶(hù)、每張銀行卡每日取現(xiàn)額度有限制，且多筆小額分拆取現(xiàn)，會(huì)引發(fā)報(bào)警。社交軟件的AI設(shè)計(jì)，效仿銀行限定了“每日收取紅包限額”，卻不顧紅包總金額：幾十筆十幾元的紅包，總共千把元錢(qián)，就觸碰了它的預(yù)警參數(shù)……“咔”把你的功能鎖定了。

在網(wǎng)上查解決辦法，怎么試都不成。打客服電話，接聽(tīng)的是AI語(yǔ)音，電腦錄音播放了很久，主要是新業(yè)務(wù)推薦，忽悠在他們那里投資理財(cái)?shù)鹊龋P(guān)于問(wèn)題的解答就幾秒時(shí)間，還沒(méi)聽(tīng)明白就掛了。只好鍥而不舍反反復(fù)復(fù)打，非要擠進(jìn)人工服務(wù)不可。在活人引導(dǎo)下，提交了申請(qǐng)和驗(yàn)證文件，最終問(wèn)題得以解決。

類(lèi)似案例，僅在朋友身上就發(fā)生過(guò)多起，因數(shù)額較少，進(jìn)行司法訴訟劃不來(lái)，絕大多數(shù)人都自認(rèn)倒霉。

事實(shí)證明，至少現(xiàn)價(jià)段大部分所謂“AI”不但沒(méi)有人性，而且真的不夠聰明。到目前為止，所有大規(guī)模應(yīng)用的AI，是通過(guò)天量統(tǒng)計(jì)數(shù)據(jù)（“大數(shù)據(jù)”）來(lái)編織監(jiān)控網(wǎng)絡(luò)，來(lái)測(cè)算人們行為的概率。

而問(wèn)題是：這些天量統(tǒng)計(jì)數(shù)據(jù)的獲得途徑，是否合法？“科技巨擘”們根本不予解釋?zhuān)覀兊纳钚畔⒊闪怂麄兊摹吧虡I(yè)機(jī)密”，但誰(shuí)授權(quán)他們隨時(shí)監(jiān)控我們的生活呢？

譬如：人們想去吃湘菜，僅僅因?yàn)橄氤裕恍杵渌碛?，這是人的欲望與自由選擇；而AI很可能會(huì)猜到你今晚有6成概率去吃湘菜，然后對(duì)你進(jìn)行廣告推送。

這并非因電腦具有人類(lèi)的性靈，而是因其偷偷監(jiān)控了你的生活規(guī)律、消費(fèi)習(xí)慣、支付情況。甚至偷偷入侵了你的手機(jī)、銀行賬戶(hù)、各種支付手段……長(zhǎng)時(shí)間的監(jiān)控和數(shù)據(jù)收集，描繪出你的生活圖譜，因此AI對(duì)你的行為進(jìn)行概率推測(cè)。

這不但不智能，反而存在道德隱患，甚至可能涉嫌違法犯罪：公民隱私受到法律保護(hù)是通例，是誰(shuí)給了那些社交軟件、購(gòu)物軟件，甚至輸入法等等窺探、收集、監(jiān)控、利用公民隱私進(jìn)行牟利的權(quán)利？

而“科技巨擘”們，在利用我們的信息和隱私、獲取超額利潤(rùn)同時(shí)，所提供的“AI”服務(wù)，往往是即無(wú)人工，也不智能，它只是極復(fù)雜的程序，大量的數(shù)據(jù)收集。編程者設(shè)定其“一定時(shí)限轉(zhuǎn)賬超過(guò)限額就凍結(jié)賬號(hào)”，AI就執(zhí)行指令，編程者未設(shè)定轉(zhuǎn)賬金額多少，AI當(dāng)然不會(huì)思考為何要執(zhí)行指令。

如果有人每天轉(zhuǎn)賬30筆，每筆50萬(wàn)，確有洗錢(qián)嫌疑，當(dāng)然應(yīng)介入調(diào)查。但社交軟件的編程者就給AI設(shè)置數(shù)據(jù)：每天收賬若干紅包，也不管總金額多少，就觸及警報(bào)線、凍結(jié)賬號(hào)……于是，升斗小民做個(gè)小本生意、一天收了幾十個(gè)紅包，每個(gè)十幾元，“咔”被凍結(jié)。

而升斗小民的投訴過(guò)程，是何其艱辛！　面對(duì)一道一道又一道機(jī)器墻，冰冷的電腦界面、手機(jī)界面、AI錄音，而且這些所謂“AI”都被做成“不是專(zhuān)家不會(huì)用”的程度，每個(gè)問(wèn)題每拖延一天解決，那些資金的一天利潤(rùn)，就都進(jìn)入“科技巨擘”的豪賬，積少成多、聚沙成塔！

在“科技巨擘”眼中：世界是抽象的，可以被描繪成數(shù)據(jù)公式，任何人不過(guò)是無(wú)數(shù)代碼里的1和0而已。在“科技巨擘”眼中，只有自己的錢(qián)，才是真實(shí)的、具象的、不可侵犯的；為自己的利益，任何其它事物，甚至他人的生命都可以被犧牲……減少真人客服，而用“AI”將非專(zhuān)家級(jí)用戶(hù)投訴屏蔽在外，甚至迫使維權(quán)者“知難而退”放棄小額資金追討，這些錢(qián)就成了他們的錢(qián)了。

如今，Elon Musk又打開(kāi)了另一個(gè)潘多拉魔盒，“腦機(jī)接口”在豬身上實(shí)驗(yàn)成功了，如果有一天，用在人身上呢？

如果能向人類(lèi)大腦寫(xiě)入程序，也就可以刪除某些記憶、盜取某些信息。那么，掌控人的大腦，就等于掌控了一切。未來(lái)世界，會(huì)不會(huì)發(fā)展到：社會(huì)管理權(quán)+執(zhí)法權(quán)+財(cái)產(chǎn)權(quán)=AI=“科技巨擘”的意志？　當(dāng)普通公民的權(quán)益受到侵害后，甚至連投訴的意愿都沒(méi)有，因?yàn)锳I通過(guò)“腦機(jī)接口”刪除或修改了大腦某個(gè)扇區(qū)的記憶信息與功能。

這聽(tīng)起來(lái)似乎科幻，但回想過(guò)去幾十年：手機(jī)、網(wǎng)購(gòu)、面對(duì)“AI”進(jìn)行投訴、投訴被“AI”拒之門(mén)外、腦機(jī)接口……不都是聽(tīng)起來(lái)挺科幻的？　不都實(shí)現(xiàn)了嗎？

毫無(wú)疑問(wèn)，科技當(dāng)然要發(fā)展，大集團(tuán)當(dāng)然要獲取超額利潤(rùn)，“科技巨擘”們當(dāng)然是大象，那么我們?cè)鯓颖苊獬蔀槲浵伒拿\(yùn)呢？

AI發(fā)展，是標(biāo)志性的，其代表著科技發(fā)展與法治的博弈?？萍及l(fā)展意味著進(jìn)步和利潤(rùn)，而法治代表著公正。利益與公正，是人類(lèi)文明幾千年博弈不休的主題，如今，輪到AI在前臺(tái)、“科技巨擘”在其身后唱雙簧演出這場(chǎng)戲，而我們每個(gè)人都應(yīng)該好好想想這一命題。

（作者系歷史、軍事學(xué)者）