而隨著人工智能的不斷發(fā)展，對(duì)于AI安全的考慮也已經(jīng)上升到了前所未有的高度來(lái)討論。日前，移動(dòng)安全聯(lián)盟聚焦于AI技術(shù)與安全問(wèn)題，于2018(第十七屆)中國(guó)互聯(lián)網(wǎng)大會(huì)會(huì)議期間成功舉辦2018中國(guó)人工智能移動(dòng)安全高峰論壇。論壇上，來(lái)自各個(gè)領(lǐng)域的專家圍繞“AI時(shí)代智能終端的攻與防”這一主題，對(duì)“AI人工智能與安全”進(jìn)行了探討。

360智能安全研究院院長(zhǎng)李康表示，智能和安全已經(jīng)對(duì)抗很多年了，未來(lái)還會(huì)一直存在，“安全對(duì)抗應(yīng)該是安全領(lǐng)域永恒的一個(gè)主題。”

AI人工智能與安全的博弈

人工智能技術(shù)對(duì)安全產(chǎn)業(yè)起到了極大的促進(jìn)作用。北京大學(xué)郭耀教授表示，他目前正在用人工智能技術(shù)解決很多應(yīng)用安全的問(wèn)題，比如安全分析、廣告欺詐監(jiān)測(cè)、隱私分析等。

郭耀說(shuō)認(rèn)為，“應(yīng)用在訪問(wèn)用戶數(shù)據(jù)前會(huì)有一個(gè)非常長(zhǎng)的條款，利用人工智能技術(shù)就可以對(duì)此進(jìn)行聚類分析，然后對(duì)比相似功能的應(yīng)用，如果100個(gè)應(yīng)用做同樣的事情，其他的都不需要電話號(hào)碼，而有一個(gè)需要，那肯定是有問(wèn)題的。”

但任何新興技術(shù)都是一把雙刃劍，AI技術(shù)在助力防護(hù)方的同時(shí)，也會(huì)成為攻擊者的利器。

比如，目前大部分AI應(yīng)用系統(tǒng)都基于已有的主流AI框架實(shí)現(xiàn)，而AI系統(tǒng)框架以及AI系統(tǒng)所依賴的軟件實(shí)際上也存在安全漏洞。這些安全漏洞如果被攻擊者利用，將會(huì)侵犯用戶在終端和云端的隱私數(shù)據(jù);更有甚者，攻擊者還可以通過(guò)網(wǎng)絡(luò)設(shè)備去控制智能家居的溫度，或者更改家庭中設(shè)置的智能安防，從而造成人身安全和家庭財(cái)產(chǎn)。

AI人工智能本身存在安全問(wèn)題

長(zhǎng)虹信息安全燈塔實(shí)驗(yàn)室首席科學(xué)家唐博表示，對(duì)于智能設(shè)備廠商來(lái)說(shuō)，AI促進(jìn)了產(chǎn)品效能的提高，促進(jìn)了用戶使用體驗(yàn)的提升。同時(shí)會(huì)帶來(lái)一些安全問(wèn)題，也是預(yù)料之中的。

以智能電視為例，語(yǔ)音識(shí)別和人臉識(shí)別技術(shù)讓電視機(jī)不再僅僅是單獨(dú)的家電，而將會(huì)成為家庭交互終端的入口。但人工智能電視仍然會(huì)存在類似安全漏洞未修復(fù)、配置不當(dāng)、越權(quán)操作等信息安全問(wèn)題。不法分子能遠(yuǎn)程獲取root權(quán)限，遠(yuǎn)程劫持電視設(shè)備，并進(jìn)行開(kāi)關(guān)攝像頭、安裝惡意應(yīng)用、收集用戶隱私生活信息等操作，這將造成用戶隱私泄露或財(cái)產(chǎn)損失。

另外，冰箱，空調(diào)等都是屬于智能家居，但這些電器自身并不帶有智能的功能，不過(guò)是通過(guò)增加智能芯片，用一些IoT的解決方案將控制請(qǐng)求，參數(shù)與白電主板對(duì)接。目前IOT芯片層面上的漏洞可以導(dǎo)致白電大批量的被控制，同時(shí)在IoT云端，物聯(lián)網(wǎng)協(xié)議這邊存在漏洞也可以導(dǎo)致批量的智能家居設(shè)備受影響。

正如北京大學(xué)教授郭耀表示，智能產(chǎn)品的硬件多是國(guó)內(nèi)生產(chǎn)，但是芯片多還是國(guó)外的，像安卓，RAM，小米的內(nèi)核，包括Linux開(kāi)源都不是國(guó)內(nèi)自主研發(fā)的，技術(shù)層面的安全也存在著隱患。

所以，AI人工智能技術(shù)要真正走進(jìn)尋常百姓家，安全仍是需要防范的最大風(fēng)險(xiǎn)。

AI人工智能與安全的平衡發(fā)展

如何打造人工智能的安全，使二者平衡發(fā)展，是目前乃至未來(lái)科技巨頭需要重點(diǎn)研究的方向。對(duì)于AI和安全的關(guān)系，長(zhǎng)虹安全實(shí)驗(yàn)室唐博認(rèn)為可以為三個(gè)發(fā)展階段。

第一個(gè)階段，用AI的方法可以解決一些安全的問(wèn)題，可以用AI的方法來(lái)識(shí)別攻擊，可以通過(guò)大數(shù)據(jù)分析，分析流量和終端的一些情況，來(lái)識(shí)別一些異常流量或者一些攻擊的行為。

第二個(gè)階段，是用安全來(lái)保護(hù)人工智能，同時(shí)保護(hù)隱私。在人工智能的模型被“偷”，被“騙”的過(guò)程，需要對(duì)其進(jìn)行安全保護(hù)。

第三個(gè)階段，是在智能設(shè)備的安全性達(dá)到一定程度時(shí)，可能會(huì)出現(xiàn)跨設(shè)備甚至跨平臺(tái)的AI應(yīng)用，效率也會(huì)得到進(jìn)一步提升。在這個(gè)過(guò)程中，AI、安全和效率三者之間是一個(gè)相輔相成的發(fā)展過(guò)程。

唐博還表示：“對(duì)長(zhǎng)虹來(lái)講，特別中興事件之后，長(zhǎng)虹特別關(guān)注自主知識(shí)產(chǎn)權(quán)的硬件設(shè)備，包括一些系統(tǒng)級(jí)的軟件。同時(shí)，基于自主知識(shí)產(chǎn)權(quán)或者一些開(kāi)源的自主化的知識(shí)產(chǎn)權(quán)的芯片，在安全上有一些差異化，在系統(tǒng)層定制化的一些產(chǎn)品。”

在IoT時(shí)代，新的芯片和操作系統(tǒng)的出現(xiàn)，對(duì)中國(guó)智能家居的發(fā)展，包括物聯(lián)網(wǎng)的發(fā)展都是一個(gè)機(jī)會(huì)。未來(lái)長(zhǎng)虹安全實(shí)驗(yàn)室將利用AI和區(qū)塊鏈技術(shù)打造云管端全方位的物聯(lián)網(wǎng)安全體系，創(chuàng)新應(yīng)用技術(shù)，配合區(qū)塊鏈安全，將人工智能與安全的關(guān)系維持在最佳狀態(tài)。

“在物聯(lián)網(wǎng)、云管端形成的整體安全體系下，配合AI，配合區(qū)塊鏈，是可以有更好的未來(lái)，為大家提供更安全、更有效率的智慧生活。”唐博表示。