投資者向人工智能相關(guān)創(chuàng)業(yè)公司豪擲數(shù)十億美元，生成式人工智能狂熱開始看起來像一個投機泡沫，類似于1630年代的荷蘭郁金香狂熱和18世紀初的南海公司泡沫。而且，就像那些事件一樣，人工智能繁榮似乎不可避免地要走向蕭條。它沒有創(chuàng)造新的資產(chǎn)，倒是可能留下堆積如山的債務(wù)。

今天的人工智能炒作由這樣一種信念推動，即像OpenAI新發(fā)布的GPT-4這樣的大型語言模型，將能夠產(chǎn)生與人類的產(chǎn)出幾乎沒有區(qū)別的內(nèi)容。投資者押注先進生成式人工智能系統(tǒng)將毫不費力地以任何想象得到的風(fēng)格創(chuàng)建文本、音樂、圖像和視頻，用戶只消給予簡單的提示。

然而，隨著對生成式人工智能的熱情日益高漲，人們越來越擔(dān)心它對勞動力市場的潛在影響。高盛最近關(guān)于人工智能“潛在巨大”的經(jīng)濟影響的報告估計，多達3億個工作崗位面臨被自動化的風(fēng)險，其中包括許多熟練和白領(lǐng)崗位。

“狹義”和“通用目的”人工智能系統(tǒng)，都可以比人類更有效地執(zhí)行任務(wù)。這對尋求對人類行為施加更大控制的政府和公司來說，是一個絕佳的機會。

正如肖莎娜·祖博夫在她2019年出版的《監(jiān)視資本主義時代》一書中指出的那樣，數(shù)字技術(shù)的發(fā)展可能導(dǎo)致“一種新的經(jīng)濟秩序的出現(xiàn)，把人類經(jīng)驗當成提取、預(yù)測和銷售商業(yè)實踐的隱藏商業(yè)活動的免費原材料”。她觀察到，政府和私營部門監(jiān)控之間日益共生的關(guān)系，部分是由于國家安全機構(gòu)“受到9·11襲擊的刺激”，打算培育和調(diào)整新興技術(shù)，獲得對人們行為和個人生活的“全面了解”。

由億萬富翁投資者彼得·蒂爾參與創(chuàng)立的數(shù)據(jù)分析公司Palantir，就是一個很好的例子。據(jù)報道，著名的共和黨捐助者彼得·蒂爾說服特朗普政府授予Palantir利潤豐厚的合同，開發(fā)為軍事用途量身定制的人工智能系統(tǒng)。作為交換，Palantir向美國政府和世界各地的其他間諜機構(gòu)提供情報服務(wù)。

在喬納森·斯威夫特的《格列佛游記》的第三部分“拉普達之旅”中，格列佛船長遇到了一個漂浮的島嶼，島上居住著科學(xué)家和哲學(xué)家，他們設(shè)計了巧妙的方法來探測陰謀。其中一種方法包括仔細檢查“所有嫌疑人的飲食”，并仔細檢查“他們的排泄物”，包括“顏色、氣味、味道、稠度、粗糙度或成熟度”。雖然現(xiàn)代國家監(jiān)控機構(gòu)注重調(diào)查電子郵件而不是身體功能，但它有一個類似的目標：通過深入人們的思想，揭露針對“公共秩序”或“國家安全”的陰謀和密謀。

美國依靠競爭來維護消費者利益，而歐盟的監(jiān)管方法以基本人權(quán)為中心。預(yù)計將于今年晚些時候最終確定的歐盟《人工智能法案》，明確禁止使用用戶生成的數(shù)據(jù)進行“社會評分”。

西方“以人為本”的人工智能監(jiān)管方法，強調(diào)保護個人免受傷害。但在地緣政治緊張局勢加劇的時期，國家安全往往優(yōu)先于公民自由。例如，當前版本的《人工智能法案》賦予歐盟委員會禁止預(yù)測性警務(wù)等做法的權(quán)力，但對國家安全、國防和軍事用途有各種豁免。

在爭奪技術(shù)霸權(quán)的激烈競爭中，政府開發(fā)和部署侵入性技術(shù)的能力，不僅對公司和政治制度構(gòu)成威脅，也對整個國家構(gòu)成威脅。這種惡意動態(tài)與樂觀的預(yù)測形成鮮明對比，后者認為人工智能將帶來 “在全部行業(yè)和社會活動中的廣泛的經(jīng)濟和社會效益”。

不幸的是，西方國家內(nèi)部權(quán)力制衡機制的漸遭侵蝕，以及憲法對政府行動的限制，使得它們自身脆弱不堪。而正如喬治·奧威爾有先見之明地觀察到的那樣，永久戰(zhàn)爭的狀態(tài)，甚至是戰(zhàn)爭的幻覺，為技術(shù)反烏托邦的出現(xiàn)創(chuàng)造了理想的環(huán)境。

羅伯特·斯基德爾斯基是英國上議院議員、華威大學(xué)政治經(jīng)濟學(xué)榮譽教授。本文已獲Project Syndicate授權(quán)。