同學(xué)們，你是否也思考過這樣一個問題：當(dāng)機(jī)器人越來越多，它們會不會在未來的某一天像科幻電影、動畫片里上演的那樣，有“好”“壞”之分呢？

毫無疑問，人們都渴望世界上有更多的“好”機(jī)器人。那么，什么樣的機(jī)器人才是大家希望擁有的“好”機(jī)器人呢？

請你試著想象一下：家里的掃地機(jī)器人不僅能幫你打掃房間，而且能在你難過時給你一個溫暖的擁抱；你的智能手表不僅可以用來打電話，還能適時提醒你休息，保護(hù)你的身體健康；又或者當(dāng)他人在利用機(jī)器人破壞環(huán)境時，機(jī)器人會勇敢地說“不”，維護(hù)世界的美好……

是的，一個“好”機(jī)器人，一方面要性能“好”，它可以智能地完成既定工作。比如掃地機(jī)器人可以在人類干預(yù)最少的情況下，用最短的時間把地面清掃干凈。這種“好”被稱為工具意義上的“好”。另一方面，“好”機(jī)器人還應(yīng)該明善惡、知對錯。當(dāng)機(jī)器人意識到自己的行為會對人類造成傷害，而且在危害發(fā)生前提醒人類使用者，或者主動取消行為，這就涉及倫理道德意義上的“好”了。

總結(jié)起來就是，“好”機(jī)器人除了能夠智能地完成既定的工作任務(wù)，還能夠根據(jù)自己的行為來評判是否會給人類帶來傷害。如果會引起傷害，機(jī)器人必須要監(jiān)督和約束自身的行為，采取措施避免不想要的結(jié)果。

相信看到這里，有許多同學(xué)會問：“有沒有一個辦法，確保人工智能機(jī)器人能安全地為人類所使用，且不會傷害人類？”

實(shí)際上，在智能機(jī)器人出現(xiàn)之前，人類就思考了“機(jī)器人如何與人類和諧相處”的問題。許多科幻作品里面都有過這種思考，最具代表性的是，多年前科幻作家阿西莫夫在《我，機(jī)器人》里提出的“機(jī)器人三定律”——這可以說是最早的關(guān)于人工智能安全和倫理學(xué)的討論。

下面我們一起來看一下這三條定律吧！

第一定律，也被稱為“保護(hù)人類定律”：機(jī)器人不得傷害人類個體，或者因不作為而使人類個體受到傷害。

第二定律，也被稱為“服從命令定律”：機(jī)器人必須服從人類給予它的命令，除非這些命令與第一定律相沖突。

第三定律，也被稱為“自保定律”：機(jī)器人在不違反第一、第二定律的情況下，必須保護(hù)自己的存在。

隨著思考的深入，在后續(xù)的科幻作品中，阿西莫夫還引入了“第零定律”，也被稱為“整體利益定律”，它要求機(jī)器人不得傷害人類整體，不可以因不作為而使人類整體受到傷害。并且這一定律優(yōu)先級高于其他所有定律。

大家有沒有發(fā)現(xiàn)，這四條定律構(gòu)建了一套邏輯嚴(yán)密的行為準(zhǔn)則，它們是用來確保機(jī)器人的行動始終以保護(hù)人類安全和福祉為目標(biāo)。盡管它們是虛構(gòu)的文學(xué)設(shè)定，但阿西莫夫的機(jī)器人定律促使人們進(jìn)一步思考如何在機(jī)器人發(fā)展中融入道德規(guī)范，以預(yù)防潛在的風(fēng)險。

也就是說，要讓這些聰明的機(jī)器人朋友懂得什么是對的，什么是錯的，就像動畫片里的機(jī)器人英雄那樣，需要讓它們擁有一顆明善惡、知對錯的“良心”?？墒牵趺礃硬拍茏龅侥?？我們?nèi)绾卧O(shè)計(jì)和人類一樣有道德意識的機(jī)器人呢？對于這個問題，不同的研究人員有不同的想法，讓我們一起來看一下吧！

一種思路是——定好規(guī)則。就像我們?nèi)祟愖鍪乱袷匾?guī)則一樣，我們也可以給機(jī)器人設(shè)定基本的“規(guī)則”，比如“不能傷害人類”“要幫助人類”等。這樣，機(jī)器人在執(zhí)行任務(wù)時就會遵循這些規(guī)則。這種方法的重點(diǎn)是在進(jìn)行機(jī)器人設(shè)計(jì)時盡可能地預(yù)估各種可能出現(xiàn)的情況，并且提供具體規(guī)則給機(jī)器人，機(jī)器人需要做的就是計(jì)算它的行為是否被規(guī)則所允許。

但在通常情況下，我們很難預(yù)估所有的情況，因而就產(chǎn)生了另外一個思路——讓機(jī)器人學(xué)習(xí)。一方面，我們可以讓機(jī)器人從過去的經(jīng)驗(yàn)中學(xué)習(xí)。比如我們給機(jī)器人看很多故事，告訴它在這些故事中，哪些行為是好的，哪些行為是不好的。這樣，機(jī)器人就能慢慢地學(xué)會如何做出正確的選擇。另一方面，我們可以創(chuàng)造一個學(xué)習(xí)的模擬環(huán)境，讓機(jī)器人在里面盡可能遇到各種各樣的情況，看看它會怎么做。如果機(jī)器人做出了錯誤的選擇，我們就及時糾正它，讓它下次做得更好；如果它做得很好，我們就給它一個獎勵。這樣，便可以慢慢地發(fā)展出機(jī)器人的道德原則。不過，就可實(shí)現(xiàn)性而言，這種方法也存在難度。主要的困難在于，模擬環(huán)境不可能完全還原出真實(shí)的世界。

為此，有研究人員提出，把以上兩種方法結(jié)合起來，采用混合式的方法來幫助機(jī)器人發(fā)展出明善惡、知對錯的能力。

雖然以上這些方法都還在探索中，但是人類已經(jīng)漸漸地認(rèn)識到：機(jī)器人設(shè)計(jì)者和制造者的價值觀將對整個社會和機(jī)器人的發(fā)展進(jìn)程產(chǎn)生深遠(yuǎn)影響，只有當(dāng)設(shè)計(jì)和發(fā)展進(jìn)程在充分考慮道德問題的前提下進(jìn)行，機(jī)器人才會真正地明善惡、知對錯！

趙晶晶老師寄語：同學(xué)們，如果你有志向成為一名機(jī)器人專家，請一定要記得，為機(jī)器人安上一顆“良心”哦！