AI并不像其他技術，如果說其他技術像潮水，那么AI就像海嘯。
人工智能的“矛”和“盾”
AI成為人類未來一項高賦能的技術，已經成為趨勢。但是，AI自身足夠安全嗎?
近日，在2018中國互聯網大會一場高峰論壇上，來自人工智能領域的業界專家齊聚北京國家會議中心，共論“AI時代智能終端的攻與防”。
在被北京大學教授郭耀問到，如何應對人工智能的“矛”和“盾”時，與會嘉賓紛紛亮出各自觀點。
AI“還是個孩子”
阿里巴巴集團安全部總監陸全，提出 “要像呵護自己的孩子一樣去呵護新的智能硬件”。對此他拆解為三層意思：第一，智能硬件現在只是一種數據驅動，你給它什么數據它就學什么，就像一個小孩一樣。第二，孩子是未來的希望。人工智能代表的是未來生產力，中國有句話叫“因噎廢食”，不能倒洗澡水的時候把孩子也倒掉，不能因為懼怕而不去研究人工智能。第三，孩子是會長大的，即使AI現在可能易于被攻擊，但他相信隨著技術的發展，等孩子長大之后就不會再像現在這樣。“我對未來是充滿信心的。”他說。
“非常強的緊迫感”
百度首席安全科學家韋韜，感受到的則是“非常強的緊迫感”。他認為，AI在各個領域的推進速度超乎大家想象，在這種情況下，很多典型的應用場景之下，潛藏著極其嚴峻的安全和隱私威脅。比如像智能音箱和智能家居設備，當它的安全出現問題時，人們的隱私直接面臨嚴重破壞，它的破壞能力甚至超出了前兩年手機的破壞能力，“完全埋伏在你的周圍，你想逃都調不掉”。針對陸全的“孩子說”，他表示即使AI是個孩子，但是大家已經給了這個孩子非常大的期望，也在讓這個孩子做很多成人都做不好的事情。人工智能有太多的安全挑戰，面臨巨大的突破。他以無人駕駛為例，指出傳統的安全防護體系，沒有哪個是絕對萬無一失的，某一條防線攻破以后，后面還有補救機會，但是在無人駕駛上是幾乎沒有補救機會的。“對我們來說壓力非常大，我們要做很多工作，把以前沙灘上建立的城堡地基重新夯實，才能夠在安全上有新的突破。”
一個永恒的主題
360智能安全研究院院長李康教授認為，只要出現新的領域、新的應用，就會有新的安全關注，這是一貫的安全場景。安全問題是一個持久的問題，會逐漸體現在不同的新領域，安全對抗應該是安全領域一個永恒的主題。
在此前的演講中，他詳細介紹了人工智能系統出現的安全問題，可以分為“騙人”和“偷人”攻擊兩類。“騙人”如自動駕駛中需要視覺人工智能來識別交通標志，但如果在交通標志上做一些干擾、貼一些標簽，就有可能改變識別的結果。在數據處理時也可能遭遇這種攻擊。他舉例說，自己的團隊曾用李冰冰的照片放到人臉識別系統中，結果竟被識別成趙本山!原因就是在做維度處理時，沒有做足安全防護。“偷人”則是偷取人工智能技術的模型或者參數，包括數據重構攻擊、模型推斷攻擊、數據推測攻擊、軟件漏洞攻擊等。
其他技術像潮水，AI像海嘯
小米科技首席安全官陳洋、長虹信息安全燈塔實驗室首席科學家唐博也認同，安全永遠是一個不斷攻防的過程，AI既可以用于產品，也可以用于對產品的安全進行提升，AI在安全和效率方面，是一個相輔相成的過程。
泰爾終端實驗室副主任馬鑫最后提出，這是一個雙刃劍的問題，任何技術本沒有對錯，只有先進落后之分。AI并不像其他技術，如果說其他技術像潮水，那么AI就像海嘯。它是一個大系統，在整個技術研究過程中，安全是一個平衡的問題。但是有一個底線，大家應該有共識——當某項技術涉及到或者威脅到人類生命財產安全的時候，這項技術就應該放到安全之后再去考慮。
解放日報·上觀新聞記者了解到，2018中國互聯網大會由中國互聯網協會主辦，今年已是第十七屆。大會以“融合發展 協同共治——新時代 新征程 新動能”為主題。中國科協黨組書記、常務副主席、書記處第一書記、中科院院士懷進鵬，工業和信息化部副部長陳肇雄，北京市委常委、副市長陰和俊等出席了7月10日的開幕式。來自國家互聯網信息辦公室、國家發展和改革委員會、國家廣播電視總局、中國工程院等政府部門和中國互聯網協會、國家互聯網應急中心、中國信息通信研究院等有關單位的領導參加了開幕式，會期為三天。
京公網安備 11010502049343號