程永高/文　王淦生/評

真正的“人機大戰(zhàn)”在棋局之外

程永高/文王淦生/評

2016年3月9日注定要寫入圍棋界的歷史、IT界的歷史、科學界的歷史，甚至人類的歷史。在這天的3個多小時里，擁有1200多個處理器的谷歌人工智能系統(tǒng)AlphaGo，在深邃的圍棋棋盤上把世界圍棋冠軍、韓國棋手李世石逼到絕路，曾經獨孤求敗的九段高手不得不投子認輸。

這一幕似曾相識。1997年，IBM公司的超級電腦“深藍”就曾結束了有史以來最偉大棋手卡斯帕羅夫獨步天下的地位。

兩局棋的結局是令人震撼的。人類最頂尖的高手落敗了，而對手只是一臺沒有生命力、沒有感情的冰冷機器。這種震撼不僅讓人感嘆，甚至讓人有些生畏，因為，它完美地直播了人類制造的工具是如何戰(zhàn)勝人類的。

相比19年前的 “深藍”，Alpha-Go更進一步。前者靠強大的處理器核心來“暴力窮舉”出所有的取勝方案，而AlphaGo已經懂得策略思維和形勢判斷。換句話說，前者靠蠻力優(yōu)勢，而后者更有思維，更懂得像人類一樣思考，甚至會學習。

機器人懂思維、能思考、會學習，是這輪人機大戰(zhàn)最核心的看點。這標志著機器已經不再簡單地按照人類編寫的程序來被動運算，而是逐漸開始掌握主動思考和主動決策的技能。

從被動到主動，正是人工智能發(fā)展最難言的道德窘境。人類進化，之所以優(yōu)于其他生物物種，是因為人類具備勞動能力和工具利用的能力，進而生成主動思考和決策，但這一進程，持續(xù)了幾百萬年甚至更長時間。而人工智能技術只耗費了幾十年就讓電腦類機器工具從被動服務學會了主動決策。目前，人工智能設備的“智商”已經可以達到四五歲兒童的水平，在可預見的未來，制造出會思維、懂情感、能判斷、有主見的智能機器不是天方夜譚。

人類無法想象未來的人工智能會發(fā)展到什么地步，就像幾百年前的人類無法想象汽車、飛機、導彈這些遠遠超越人類自身極限的工具一樣。相比人腦有限的利用率，人工智能的“智商”全面勝出人腦也只是時間問題?；艚?、比爾·蓋茨等人都曾悲觀地提醒過，無度發(fā)展可能導致人工智能最終反制人類，造成不可控的毀滅。一些科學家也曾警告某些國家，不要輕易把人工智能運用到戰(zhàn)斗武器中。

人工智能的利用價值毋庸置疑，它可以提高效率，優(yōu)化生產，進行高危作業(yè)等。但關鍵問題是，人類如何去引導、規(guī)范、限定智能技術發(fā)展的方向、界限和目的。應當讓智能機器“知道”，它們的出現不是為了戰(zhàn)勝人類，而是服務人類；更應該讓研究者清楚，人工智能不僅涉及計算機科學，也包括哲學、認知學、心理學、控制論、社會學，更需要有清晰和冷靜的科學發(fā)展觀。

因此，真正的人機大戰(zhàn)，在人工智能技術的全面發(fā)展過程之中，而其中重要的一場戰(zhàn)役，是人類能否控制自己的心智，去發(fā)展合理的智能技術。

（原載2016年3月10日《京華時報》）

［解讀］《真正的“人機大戰(zhàn)”在棋局之外》這篇短論重點介紹了戰(zhàn)勝卡斯帕羅夫與擊敗李世石的兩臺人工智能機器的不同，突出了AlphaGo“懂思維、能思考、會學習”的特點。而AlphaGo所具備的這種“主動性”，標志著人工智能的發(fā)展已進入了一個全新的階段。而這一階段人工智能技術的發(fā)展有可能陷入了一個 “道德窘境”——即隨著人工智能技術迅速發(fā)展，遲早會出現“會思維、懂情感、能判斷、有主見的智能機器”，而這些智能機器在為人類提供各種前所未有的便利和效率的同時，也極有可能會給人類帶來意想不到的災難。由此，作者得出結論：真正的“人機大戰(zhàn)”，是 “人類能否控制自己的心智，去發(fā)展合理的智能技術”。比如不將人工智能技術運用到有害于人類（比如武器制造）的領域，而且必須使之為人類所掌控，始終服務于人類。文章有理有據，富有見地，值得每一位關注人類命運的人思量。

［作者單位：江蘇省鹽城市亭湖高級中學］