摘?要：機(jī)遇往往伴隨著挑戰(zhàn)，人工智能技術(shù)發(fā)展的同時也帶來了人工智能安全問題，在這場全球技術(shù)革新的競爭中，能否掌握話語權(quán)和主導(dǎo)權(quán)，更取決于了解、認(rèn)識和應(yīng)對“人工智能安全”問題的程度和水平。

關(guān)鍵詞：人工智能;安全發(fā)展;應(yīng)對挑戰(zhàn)

人類歷史上任何一場科技革命，都不同程度影響著人們生產(chǎn)生活方式的改變，尤其是科學(xué)技術(shù)在戰(zhàn)爭領(lǐng)域的應(yīng)用，更是推動了世界格局的重塑。人工智能（AI）技術(shù)的發(fā)展，同樣昭示人類下一場科技革命即將到來。

一、人工智能安全發(fā)展現(xiàn)狀

（一）人工智能發(fā)展與安全在高速前進(jìn)中相生相滅

在整個人工智能發(fā)展過程中，人工智能安全就是人工智能賴以行駛的軌道。目前人工智能整體處在競爭上升期，發(fā)展長遠(yuǎn)規(guī)劃、應(yīng)用規(guī)模層次上缺少確切規(guī)范約束控制。

人類腦科學(xué)研究沒有破解之前，人工智能控制權(quán)掌握在電腦系統(tǒng)手里。一些由于認(rèn)識水平和制造能力帶來的安全問題和薄弱環(huán)節(jié)，就很容易降低安全防御能力引發(fā)嚴(yán)重后果。

比如，人工智能傳感器可能被干擾;系統(tǒng)可能被劫持，數(shù)據(jù)的泄露、篡改“污染”可能“教壞”智能機(jī)器人的學(xué)習(xí)認(rèn)知;人工智能軟件漏洞可能被黑客利用。

（二）廣泛的應(yīng)用導(dǎo)致安全影響更深遠(yuǎn)

未來人工智能技術(shù)在國防和社會基礎(chǔ)設(shè)施等關(guān)系國家安全發(fā)展的關(guān)鍵領(lǐng)域上的運(yùn)用值得關(guān)注。

1.人類倫理道德日益面臨來自人機(jī)交互的挑戰(zhàn)

人工智能高速發(fā)展越發(fā)強(qiáng)大，已不能停留在機(jī)器三定律認(rèn)識水平上，人工智能如何負(fù)面影響人的具體細(xì)節(jié)的內(nèi)容并沒有細(xì)化，而它潛在對人大腦思維學(xué)習(xí)進(jìn)化和倫理道德帶來巨大挑戰(zhàn)威脅日益劇增。

2.法律發(fā)展滯后難以對智能安全風(fēng)險

雖然在短期內(nèi)人工智能存在的安全風(fēng)險還處于可控范圍，隨著應(yīng)用領(lǐng)域范圍日益擴(kuò)展，具有高度自主性的無人智能沖擊傳統(tǒng)行業(yè)原則和法律框架，尤其是責(zé)任的認(rèn)定更加困惑，以往法律條款需要重新商榷和完善。

二、如何看待人工智能安全問題

（1）以犧牲長遠(yuǎn)利益來盲目追逐人工智能技術(shù)的發(fā)展和經(jīng)濟(jì)效益，這種觀點(diǎn)，具體的做法表現(xiàn)為把人工智能技術(shù)價值局限于商品，不遵循事物本身成長規(guī)律不計資源代價失衡的去開發(fā)，去創(chuàng)造更高利益，涸澤而漁，不注重人工智能自身健康，忽視安全問題和其他事物之間的共生可持續(xù)發(fā)展。

（2）“人工智能威脅論”。人工智能的快速發(fā)展終會替代人類，即使有益于人類、替代以往反復(fù)低效能的應(yīng)用也被認(rèn)為不可。這種觀點(diǎn)主要是對人工智能缺乏全面認(rèn)識。問題的關(guān)鍵在于人工智能能否具備智力和能力，為人類服務(wù)，并健康存在。

我認(rèn)為，智能安全風(fēng)險伴隨人工智能客觀存在。有限的分層次合理的開發(fā)，平衡人工智能發(fā)展和安全的矛盾，就可以防控在危害人類生存利益最低范圍之內(nèi)。

三、人工智能安全的發(fā)展趨勢

國家安全方面，“對國家安全帶來深刻改變的顛覆性技術(shù)”，人工智能賦能，突破常規(guī)管控極難，濫用門檻進(jìn)一步降低，容易落入極端組織和犯罪團(tuán)伙之手。近年在政治選舉中出現(xiàn)的利用大數(shù)據(jù)和社交平臺部署“機(jī)器水軍”達(dá)成“選舉”的行為，彰顯出新的政治安全風(fēng)險。

軍事安全方面，一方面，越來越多的國家試圖研發(fā)“智能化致命性武器”，越來越容易獲得這種超時距的“遠(yuǎn)程精確打擊能力”機(jī)器人事件可能不再停留在科幻。另一方面，個別國家或非國家實(shí)體可能和商業(yè)公司共同開發(fā)工業(yè)機(jī)器人轉(zhuǎn)化用于實(shí)戰(zhàn)。

社會安全方面，人工智能技術(shù)的創(chuàng)新使用不斷突破現(xiàn)有法律規(guī)范和道德倫理的限制，帶來多維安全挑戰(zhàn)。一是智能機(jī)器對傳統(tǒng)人工的替代，直接給本來就存在就業(yè)壓力的發(fā)達(dá)國家?guī)砩鐣L(fēng)險。二是物聯(lián)網(wǎng)技術(shù)讓大量個人隱私直接暴露給智能設(shè)備。三是人為編寫的軟件與算法，智能產(chǎn)品成為安全攻擊新的突破口。

四、應(yīng)對人工智能安全挑戰(zhàn)應(yīng)解決的幾個問題

（一）技術(shù)儲備

一是在中央控制系統(tǒng)加大安全防御部分，軟件架構(gòu)上加強(qiáng)系統(tǒng)安全性和保密性、開發(fā)設(shè)計算法安全，加快建立新一代人工智能關(guān)鍵共性技術(shù)體系，增強(qiáng)人工智能科技創(chuàng)新，確保關(guān)鍵核心技術(shù)牢牢掌握在自己手里。建議通過產(chǎn)業(yè)政策和組織管理措施，引導(dǎo)研究人工智能產(chǎn)品和應(yīng)用的安全評估評測技術(shù)，建立人工智能安全實(shí)驗(yàn)室、積累智能安全數(shù)據(jù)，全壽命檢測評估。

二是在一些直接影響國民安全的關(guān)鍵領(lǐng)域中，例如醫(yī)療、金融、交通和教育等，在這些領(lǐng)域內(nèi)，建議建立人工智能應(yīng)用的準(zhǔn)入審查機(jī)制，劃分出安全防護(hù)等級，加強(qiáng)人工智能算法及應(yīng)用的安全性、可控性和透明性的審查。加速安全標(biāo)準(zhǔn)由人工智能專用領(lǐng)域向通用領(lǐng)域統(tǒng)一。

（二）創(chuàng)建新人機(jī)安全環(huán)境

當(dāng)前一方面鼓勵人工智能產(chǎn)業(yè)的發(fā)展，一方面防范智能安全風(fēng)險，必須時刻注意平衡，避免造成過度限制人工智能或者降低人工智能安全關(guān)注。

一是專業(yè)組織管理、開設(shè)課程專業(yè)衍生或者細(xì)化組織分工或者部門履行職能（例如IAAIL國際人工智能和法律協(xié)會）。建議建立人工智能主干學(xué)科及其二級學(xué)科，加快研究具體安全規(guī)范機(jī)制，包括研究出臺相關(guān)法律法規(guī)，界定人工智能應(yīng)用。

二是用好交流平臺，化解技術(shù)壁壘，應(yīng)對新情況、新矛盾。開展人工智能倫理道德探討，約束人工智能研究與實(shí)際應(yīng)用的原則、范圍和界限。禁止用于危害人類安全的應(yīng)用作為國際公約原則并防止智能壟斷。

三是推動互利共贏責(zé)任擔(dān)當(dāng)?shù)娜蛑卫怼Ｄ壳翱?，發(fā)達(dá)國家通過率先起步的人工智能技術(shù)創(chuàng)新控制了產(chǎn)業(yè)鏈優(yōu)質(zhì)資源，同時嚴(yán)格的技術(shù)封鎖和產(chǎn)業(yè)壁壘使得進(jìn)一步拉大“南北差距”。在發(fā)展中國家陣營中，我國最有希望望領(lǐng)跑全球人工智能競賽，未來應(yīng)當(dāng)布局建立更加聯(lián)合開放、低成本高收益、普及全球的人工智能技術(shù)開發(fā)和操作系統(tǒng)，積極配合習(xí)主席倡導(dǎo)的“一帶一路”建設(shè)，讓“人工智能鴻利”助力共同構(gòu)建人文和諧和現(xiàn)代化文明環(huán)繞的人類命運(yùn)共同體。

參考文獻(xiàn)：

[1][美]尼古拉.尼葛洛龐帝.胡泳，范海燕，譯.數(shù)字化生存[M].電子工業(yè)出版社，2017.

[2]吳世忠.對新一代人工智能發(fā)展與安全問題的思考[J].中國信息安全，2018（06）：62-64.

[3]譚鐵牛.人工智能的歷史、現(xiàn)狀和未來[J].奮斗，2019（05）.

[4]人工智能與未來法治構(gòu)建.上海倡議，2018.9.

[5]嚴(yán)望佳.關(guān)于規(guī)范人工智能安全健康發(fā)展的提案[C]?2019.3.

作者簡介：蔡永哲（1989-），男，河南漯河人，2018級軍事碩士研究生，研究方向：軍事后勤。