360智能安全研究院院長李康認為，智能和安全已經在安全這個領域對抗很多年了，包括病毒檢測、垃圾郵件、釣魚軟件等問題一直都存在，各種機器學習算法的對抗，在過去也一直都在發生。現在被各界廣泛關注的熱點問題，在安全領域中其實都是老問題，而且會一直存在。
與此同時，隨著很多新的人工智能應用的出現，還會出現新的安全問題。李康舉例說，例如一個水平不高的程序員，過去做數據庫傳輸曾出現了脫庫問題，現在去寫人工智能程序、寫區塊鏈程序依然會出現問題，“安全對抗應該是安全領域永恒的一個主題。”
小米科技首席安全官陳洋認為：“我們完全沒有必要恐懼AI帶來的安全問題。因為安全永遠是一個不斷攻防的過程。問題暴露了，我們解決了問題，就安全了。”他舉例說，比如解鎖，最開始是輸入密碼，只要別人在旁邊瞄一眼就可以看到，只是大家“視而不見”而已。通過AI技術賦能，手機通過攝像頭能識別“你是你”后解鎖，帶來了很多方便。隨之而來安全問題出現了，用一個照片、一個視頻就能去解鎖。“我們用AI去實現人臉解鎖的同時，我們也用AI進行攻防。怎么樣去做人臉解鎖呢?最開始我們要訓練AI怎么樣能夠認出‘他是他’，先把人區分出來。第二步，對AI進行識別黑樣本的訓練，讓AI通過大量的黑樣本學習到非活體的破解手段。”陳洋解釋說，“AI既可以用于產品，也可以用于對產品的安全性進行提升，還有很多時候可以用于檢測非法的攻擊等等。因此，AI在安全領域也是有非常多的應用場景的。”
“我們要像呵護自己的孩子一樣去呵護智能硬件。”阿里巴巴安全部資深總監陸全如是說，并解釋說，第一，現在所謂智能就是數據驅動，人們給它什么數據它就學什么。第二，人工智能代表未來的生產力，不能因噎廢食，因為懼怕這個人工智能而不去做研究。第三，隨著智能的發展，以后它就不會再像現在那樣易于被人攻擊了。
在百度首席安全科學家韋韜看來，AI的應用不可能因為存在安全隱患就推遲到來，因為“AI的應用如洪水般涌來。”他進一步解釋說，大部分產業里都是這種情況，在技術突飛猛進的時候，很少有人會考慮安全問題。“我們現在感覺到的是非常強的緊迫感。現在AI在各個領域推進的速度之快是超乎大家想象的，前兩年IT業界的人還不知道深度學習是什么，今年都在談深度學習能做什么。” 韋韜說，“我們看到在一些典型應用場景之下，存在極其嚴峻地對安全和隱私的威脅。而且這個威脅已經不再是一個可能的風險，而是一個現實的威脅。比如像智能音箱和智能家居的設備，當它的安全出現問題的時候，用戶的隱私直接面臨非常嚴重的威脅。這個破壞能力超出了前兩年手機安全問題的破壞能力，完全埋伏在用戶的周圍，用戶想逃都逃不掉。”
對于“還是孩子的AI”，韋韜認為，既然大家已經對“這個孩子”寄予了非常大的期望，那么就要讓“這個孩子”做很多“成人”都做不好的事情。“大家都知道沒有哪個安全產品是絕對萬無一失的，都要做防御體系。過去某一條防線被攻破以后，后面還有補救機會的。但是在無人車上是幾乎沒有補救機會的。”韋韜說，“我們要做很多工作，以能夠在安全上有新的突破，把以前在‘沙灘’上建立的‘城堡’的地基重新夯實。”
長虹信息安全燈塔實驗室首席科學家唐博說，對于智能設備廠商來說，AI促進了產品效能的提高，促進了用戶使用體驗的提升。同時會帶來一些安全問題，也是預料之中的。唐博認為：“就AI和安全之間的關系來講，我們可以把它看作三個發展階段。第一個階段，用AI的方法可以解決一些安全的問題，可以用AI的方法來識別攻擊，可以通過大數據分析，分析流量和終端的一些情況，來識別一些異常流量或者一些攻擊的行為。第二個階段，是用安全來保護人工智能，同時保護隱私。 第三個階段，在智能設備的安全性達到一定程度的時候，AI會有更大的發展，到時候可能會出現跨界甚至跨平臺的AI應用，效率會得到更大的提升。AI、安全和效率三者之間是一個相輔相成的發展過程。”
泰爾終端實驗室副主任馬鑫認為，任何技術本沒有對錯之分，只有先進落后之分。AI不像其他技術，其他技術像潮水，AI像海嘯。今年上半年AI撲面而來，所有的領域、所有的行業都在說AI。AI是一個大系統，是一個有很大賦能作用的技術，軟件越復雜，它的安全點越需要被關注。在整個技術研究過程中，發展和安全之間的問題是需要平衡的。要考慮AI應用的場景，有些產品應用場景比較簡單，它的安全性比較容易能夠得到滿足或者得到保障。在AI應用比較復雜的情況下，更需要安全性的保障和研究。“有一個底線應該成為共識，當某項技術涉及或者威脅到人身生命財產安全的時候，這項技術的應用就應該放到安全之后去考慮。”
京公網安備 11010502049343號