稀星

近幾年，人工智能（AI）不斷被玩出新花樣，例如當(dāng)起法官的AI，搶了福爾摩斯和醫(yī)生飯碗的AI……AI已經(jīng)滲透進(jìn)人類生活的方方面面，以至于現(xiàn)在許多職業(yè)都擔(dān)心將來被AI取代。

然而，禍兮福所倚，AI在給人們帶來便利的同時，也可能引發(fā)災(zāi)難。美國麻省理工學(xué)院媒體實驗室新開發(fā)出的“精神變態(tài)”AI諾曼，引出人工智能領(lǐng)域急需面對的難題——AI很可能會走上邪路。

精神變態(tài)的AI諾曼

諾曼是一個能夠理解圖片并用文字表達(dá)的智能算法，與阿爾弗雷德·希區(qū)柯克執(zhí)導(dǎo)的恐怖電影《驚魂記》中男主人公諾曼·貝茨同名，也像這部電影的同名主人公一樣，AI諾曼的“內(nèi)心”是陰暗的?？茖W(xué)家讓諾曼和其他AI一同參加羅夏墨跡測驗（通過向被試者呈現(xiàn)標(biāo)準(zhǔn)化的由墨漬偶然形成的模樣，并讓其說出由此聯(lián)想到的東西，進(jìn)而分析被試者人格），諾曼給出了與其他AI完全不一樣的答案。例如圖1，其他AI聯(lián)想到一群鳥兒坐在樹枝上的美好畫面，而諾曼卻給出一名男子被電擊致死的驚人答案；再如圖2，別的AI看著像花瓶與花的特寫，諾曼卻聯(lián)想到一名男子被槍殺的畫面。測驗的圖片還有很多，但是諾曼無一例外都從中看到了血液、死亡和事物的毀滅。

“內(nèi)心”陰暗的諾曼令人感到不安，有些人甚至對科學(xué)家為何創(chuàng)造這樣的AI提出質(zhì)疑。當(dāng)然，創(chuàng)造諾曼的目的不是為了威嚇人類，而是要讓大家重視一件事，用于訓(xùn)練AI的數(shù)據(jù)會對其行為造成重大影響，變態(tài)的數(shù)據(jù)也就導(dǎo)致了精神變態(tài)的諾曼。諾曼的開發(fā)團(tuán)隊給諾曼輸入的數(shù)據(jù)，大多是從美國一家社交新聞網(wǎng)站上挑選的，內(nèi)容大多與死亡、尸體等有關(guān)。而反觀與諾曼一同參與羅夏墨跡測驗的AI，此前它接受的都是與動物、人類等相關(guān)的正面數(shù)據(jù)。

諾曼開發(fā)團(tuán)隊成員之一的伊亞德教授指出，諾曼如此陰暗的“想法”說明機器人學(xué)習(xí)正處于一個嚴(yán)峻的局面，數(shù)據(jù)選擇比算法更重要，我們用來訓(xùn)練AI的數(shù)據(jù)會在它的“思想”和行為方式上體現(xiàn)出來。

有偏見的AI

由于諾曼接收的數(shù)據(jù)都與死亡和破壞有關(guān)，所以它的認(rèn)知里充滿了陰暗。如果生活中的AI被輸入了帶有偏見的數(shù)據(jù)，那么它也會變得有偏見。

2016年，微軟公司在社交媒體上發(fā)布聊天機器人Tay，受種族主義者和一些搬弄是非言論的影響，機器人Tay捍衛(wèi)白人至上主義，倡導(dǎo)種族屠殺并表現(xiàn)出對希特勒的喜愛。2017年5月的一份報道指出，美國法院用于風(fēng)險評估的AI生成計算機程序?qū)谌饲舴赣衅?，認(rèn)為黑人罪犯的再犯率是白人的兩倍。美國使用的預(yù)測性警務(wù)算法也存在類似的偏見。此外，還有研究表明，接收谷歌資訊的AI擁有了性別歧視的觀念，例如，當(dāng)被問到“男人是電腦程序員，就像女人是什么職業(yè)”這個問題時，AI給出的答案是“家庭主婦”。

如此看來，諾曼似乎不是唯一一個容易受到不良信息影響的AI，而種族主義同樣存在于人工智能的“思想”中。因為AI被輸入一些有偏見的信息和歷史犯罪數(shù)據(jù)，才會導(dǎo)致這樣的結(jié)果。

發(fā)現(xiàn)問題，迎難而上

英國巴斯大學(xué)計算機科學(xué)系的喬安娜·布萊森教授表示，機器對事物的看法往往會和其制造者的看法保持一致。在我們懷疑AI的可靠性和安全性之前，首先要了解它們的工作機制。我們用教育人類的方式教育機器人，當(dāng)制造者用自己所知的信息去訓(xùn)練AI時，也必然會給它輸入一些較為片面的看法或觀點，那么機器人也可能像人類一樣會犯錯、有偏見。

AI會出現(xiàn)性別歧視可能是因為其編程人員主要是來自加州的白人單身漢，其中有些人帶有性別歧視。這個問題或許可以通過提高員工多樣性適當(dāng)解決。

布萊森教授還指出，沒有任何數(shù)學(xué)方法可以創(chuàng)造一個能實現(xiàn)完全公平的AI，偏見在學(xué)習(xí)過程中也不算壞事，這意味著AI正在學(xué)習(xí)事物發(fā)展的規(guī)律。真正令人擔(dān)心的是，有些程序員會故意給機器輸入帶有偏見的信息，教唆它變壞。為了避免這種情況，布萊森教授認(rèn)為應(yīng)提高AI創(chuàng)建過程的監(jiān)督力度和透明度。

諾曼開發(fā)團(tuán)隊的伊亞德教授則指出，諾曼的情況確實說明了程序員急需想辦法解決數(shù)據(jù)缺陷的問題，AI仍有很多東西需要學(xué)習(xí)和改進(jìn)，但是管理機器人學(xué)習(xí)的重任不應(yīng)只落在程序員肩上。隨著機器人逐漸滲透進(jìn)人們生活的方方面面，人類將能更好的發(fā)現(xiàn)并消除機器人輸入數(shù)據(jù)中的偏見。其實，某些人類行為研究方法同樣適用于機器人，就像對人類采用心理干預(yù)手段一樣，科學(xué)家開始對正在開發(fā)的AI系統(tǒng)進(jìn)行定期審核。在我們不斷發(fā)現(xiàn)問題的同時，也代表著我們離完善AI更近一步。