當(dāng)AI越來越懂人類時(shí)，大家擔(dān)心，自己會(huì)不會(huì)變成“透明人”?AI能為人類創(chuàng)建一個(gè)安全可信的智能未來嗎?未來，AI會(huì)掌控世界嗎?當(dāng)AI掀起一波又一波的熱潮，對于AI帶來的不安全性、不穩(wěn)定性以及威脅性，人們也越來越關(guān)注。在2018世界人工智能大會(huì)安全高端對話論壇上，一系列關(guān)于AI安全的問題被拋出，而在論壇上正式發(fā)布的《人工智能安全發(fā)展上海倡議》中，也提出了應(yīng)對人工智能安全風(fēng)險(xiǎn)應(yīng)對和未來發(fā)展的建議。人工智能是一把雙刃劍，要用新的“游戲規(guī)則”讓新技術(shù)與人類文明形成良性互動(dòng)。

Part.1

應(yīng)對智能機(jī)器的權(quán)利進(jìn)行限制

不可否認(rèn)，AI極大地解放了社會(huì)生產(chǎn)力，從各個(gè)角度為生活帶來更多的便利。但同時(shí)，也因?yàn)锳I技術(shù)的不成熟和管理模式的不完善，人工智能安全事件頻發(fā)，衍生出一系列倫理、法律和安全難題，這是人工智能發(fā)展過程中無法回避的問題。一方面，人類在不斷設(shè)計(jì)出一代又一代更為先進(jìn)的“智能”，另一方面，卻又小心翼翼地警惕著人工智能的“背叛”。

人類的規(guī)范、道德和AI是一對“矛盾體”，在眾多專家看來，在人工智能研發(fā)全過程中，需要優(yōu)先設(shè)計(jì)安全與倫理問題，將人類規(guī)范和道德價(jià)值嵌入人工智能系統(tǒng)，最大限度的消除人工智能不利影響，為人類創(chuàng)建一個(gè)安全可信的智能未來。

愛因斯坦、達(dá)芬奇等都是高智商的代表，而有了智能的機(jī)器人，IQ值會(huì)遠(yuǎn)遠(yuǎn)超出人類，據(jù)預(yù)測，隨著計(jì)算機(jī)智能程度的不斷提高，20年后人工智能的IQ將達(dá)到10000，而且在數(shù)量上也將全面趕超人類。

未來如果人工智能擁有和人類相似的感知，是否也應(yīng)當(dāng)和人類一樣擁有一定的權(quán)利?百度CEO李彥宏在本屆世界人工智能大會(huì)上表示，AI倫理必須堅(jiān)持四個(gè)原則：AI的最高原則是安全可控;AI的創(chuàng)新愿景是促進(jìn)人類更平等地獲取技術(shù)和能力;AI的存在價(jià)值是教人學(xué)習(xí)，讓人成長，而非超越、替代人;AI的終極理想是為人類帶來更多自由與可能。

人工智能也許不具有人類的價(jià)值觀和情感，但AI仍需構(gòu)建自己的倫理體系。峰橋集團(tuán)總裁陳實(shí)告訴《IT時(shí)報(bào)》記者，各國都應(yīng)重視對人工智能安全倫理規(guī)范的思考，將技術(shù)發(fā)展與社會(huì)倫理置于相同的環(huán)境下充分思考，減小人工智能帶來的倫理沖擊，保證人工智能在全世界共同的倫理規(guī)范內(nèi)健康發(fā)展。“人類賦予智能機(jī)器某些權(quán)利是合理的，智能機(jī)器應(yīng)該擁有得到尊重的道德權(quán)利。不過，在賦予智能機(jī)器某些權(quán)利的同時(shí)，我們更應(yīng)該對智能機(jī)器的權(quán)利進(jìn)行限制，以確保人工智能機(jī)器對人類是友好的。”

Part.2

AI造就“透明人”

華東政法大學(xué)人工智能與大數(shù)據(jù)指數(shù)研究院院長高奇琦曾提出“透明人”的概念，他說未來的人都是透明人，這是無法阻擋的趨勢。“如果有心人專門去搜集你在微信朋友圈、微博及其他社交工具上留下的信息和痕跡，很容易就得到個(gè)人隱私數(shù)據(jù)。”高奇琦告訴記者。

近年來，關(guān)于數(shù)據(jù)泄露的報(bào)道時(shí)有發(fā)生，比如最近發(fā)生的華住酒店泄露用戶隱私、臉書5000萬用戶的個(gè)人信息被英國劍橋分析公司竊取等，在大數(shù)據(jù)面前，人類幾無隱私可言。但是，大數(shù)據(jù)的應(yīng)用又和人工智能緊密關(guān)聯(lián)，因此，誰擁有大數(shù)據(jù)的所有權(quán)、使用權(quán)、由誰來負(fù)責(zé)大數(shù)據(jù)的監(jiān)管以保證其被合理合法使用、如何保護(hù)隱私和信息安全等就成為人工智能時(shí)代極其棘手的問題。

碁震KEEN公司創(chuàng)始人王琦向《IT時(shí)報(bào)》記者表示，在人工智能時(shí)代，使用數(shù)據(jù)是不可避免的，而且信息泄露也并非是人工智能時(shí)代獨(dú)有的問題。“但如果到了人工智能時(shí)代不加以約束的話，后果要嚴(yán)重得多。”王琦表示，他自己非常介意在使用各種智能設(shè)備時(shí)要開啟攝像頭等各種權(quán)限，但是不賦予權(quán)限就沒法使用，物聯(lián)網(wǎng)可能使個(gè)人隨時(shí)處在智能設(shè)備的監(jiān)控之下。

如何解決這個(gè)問題?需要從法律層面和技術(shù)層面共同解決。“法律能讓廠商在研發(fā)過程中更注重安全，也能提高違法成本。用法律的手段讓人工智能行業(yè)的從業(yè)者加強(qiáng)自律，保持敬畏之心。”王琦說，上海優(yōu)刻得信息科技公司CEO季昕華表示，需要技術(shù)手段對人工智能進(jìn)行約束，“讓AI可以分析數(shù)據(jù)，但是不獲取數(shù)據(jù)，這應(yīng)該是技術(shù)層面努力的方向”。

對此，王琦認(rèn)為，其公司在進(jìn)行漏洞攻擊時(shí)，經(jīng)常需要采集各種數(shù)據(jù)，采集之后會(huì)對數(shù)據(jù)進(jìn)行脫敏處理，“但是如果用人工智能的‘眼光’審視這些脫敏數(shù)據(jù)，就真的安全嗎?人工智能就一定不會(huì)從脫敏數(shù)據(jù)中推測出關(guān)鍵性的結(jié)論嗎?現(xiàn)在還很難判斷。”

Part.3

用AI打擊黑產(chǎn)

人工智能時(shí)代，網(wǎng)絡(luò)安全形勢更加嚴(yán)峻和復(fù)雜，但人工智能技術(shù)也能在網(wǎng)絡(luò)安全漏洞檢測、惡意軟件識別、不良信息智能審核、防范網(wǎng)絡(luò)犯罪等方面發(fā)揮獨(dú)特作用。可以說，人工智能也在賦能網(wǎng)絡(luò)安全。

當(dāng)下的新型網(wǎng)絡(luò)安全態(tài)勢感知的基本原理是利用數(shù)據(jù)融合、數(shù)據(jù)挖掘、智能分析和可視化等技術(shù)，實(shí)時(shí)直觀地顯示網(wǎng)絡(luò)安全狀態(tài)，并對網(wǎng)絡(luò)安全趨勢做出預(yù)測，為網(wǎng)絡(luò)安全威脅預(yù)警和防護(hù)提供參考。“人工智能在安全態(tài)勢感知系統(tǒng)的運(yùn)用主要分為五個(gè)步驟，第一步是提取網(wǎng)絡(luò)中的安全設(shè)備(如防火墻)、網(wǎng)絡(luò)設(shè)備(如路由器、交換機(jī))、服務(wù)和應(yīng)用(數(shù)據(jù)庫、應(yīng)用程序)的數(shù)據(jù)，對數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化和修訂以及標(biāo)注事件基本特征等;第二步是對在傳感器采集環(huán)境中獲取的數(shù)據(jù)做去噪、雜質(zhì)過濾等預(yù)處理;第三步融合不同來源的數(shù)據(jù);第四步選擇人工智能算法進(jìn)行態(tài)勢識別、態(tài)勢理解和態(tài)勢預(yù)測;最后一步完成關(guān)聯(lián)分析和態(tài)勢分析，形成的態(tài)勢評估結(jié)果以分析報(bào)告和綜合網(wǎng)絡(luò)態(tài)勢圖呈現(xiàn)，輔助決策。” 騰訊安全管理部高級總監(jiān)毛晟斌說。

以騰訊守護(hù)者計(jì)劃為例，其基于AI人工智能和神經(jīng)網(wǎng)絡(luò)的分析能力，引入多維度的動(dòng)態(tài)驗(yàn)證機(jī)制對抗相關(guān)黑產(chǎn)。去年，守護(hù)者計(jì)劃安全團(tuán)隊(duì)利用上述技術(shù)協(xié)助警方打擊“快啊答題”“光速打碼”這兩個(gè)國內(nèi)最大的使用人工智能神經(jīng)網(wǎng)絡(luò)破解識別驗(yàn)證碼的打碼平臺(tái)黑產(chǎn)團(tuán)伙。

Part.4

“應(yīng)給人工智能配剎車”

正如中科院院士何積豐所說，技術(shù)是中性的，“人工智能能對惡意代碼進(jìn)行預(yù)測和破解，但是也能成為開發(fā)工具的漏洞，此外，人工智能算法具有不確定性，通常我們不知道人工智能怎么工作、怎么得出結(jié)果。”

雖然人工智能在各個(gè)領(lǐng)域如同聲傳譯、寫新聞稿、協(xié)助醫(yī)生看病、戰(zhàn)勝圍棋世界冠軍等讓人類刮目相看，但在何積豐看來，如果把人工智能分為弱人工智能、通用人工智能和強(qiáng)人工智能，當(dāng)下勉強(qiáng)可以算得上是通用人工智能。

中國信息通信研究院發(fā)布的《人工智能安全白皮書》顯示，在人工智能相關(guān)的政策法規(guī)、標(biāo)準(zhǔn)規(guī)范上，目前各國大多處于建設(shè)初期或研究階段。

中國信息通信研究院安全研究所高級工程師牛金行介紹說，以無人駕駛為例，美國、德國都將安全作為自動(dòng)駕駛第一準(zhǔn)則，但均未形成統(tǒng)一的安全評測標(biāo)準(zhǔn)體系和方法。同時(shí)，各國政府目前多數(shù)靠約束企業(yè)自身開展測試驗(yàn)證工作，缺乏獨(dú)立的第三方評測認(rèn)證機(jī)構(gòu)。除了要解決人工智能使用中基本的安全問題外，使用者與服務(wù)提供者的責(zé)任界定也應(yīng)予以明確界定。

去年7月，國務(wù)院在印發(fā)的《新一代人工智能發(fā)展規(guī)劃》中提出，到2020年，我國人工智能核心產(chǎn)業(yè)規(guī)模超過1500億元，帶動(dòng)相關(guān)產(chǎn)業(yè)規(guī)模超過1萬億元。此外，人工智能的“獨(dú)角獸”不斷涌現(xiàn)。

人工智能能為保障國家網(wǎng)絡(luò)安全等提供新手段和新途徑，但在應(yīng)用落地過程中，因?yàn)榧夹g(shù)的不確定性，會(huì)產(chǎn)生諸多的挑戰(zhàn)。在上海國際問題研究院全球治理研究所副研究員魯傳穎看來，應(yīng)該給人工智能配剎車，讓產(chǎn)業(yè)更快更穩(wěn)。(完)