人工智能的應用會造成哪些危害?王琦以極棒2017上海站出現的人臉識別破解為例，攻擊者通過入侵并控制該系統管理端，利用其操作系統漏洞和應用層邏輯漏洞，就可以實現以任意人臉通過人臉識別門禁。自動駕駛是目前人工智能的重要應用領域，但是機器視覺并沒有人們想象中的那么可靠，去年就有參賽者進行了分享，僅僅通過貼紙就能讓機器視覺分辨不出“停車標志”。此外，臉書的數據泄露事件，也讓大數據的安全使用受到廣泛關注。
據悉，2018極棒大賽今年有兩大“重頭戲”，都是圍繞人工智能展開。一是聚焦人工智能算法安全的CAAD對抗樣本攻防賽，另一個是聚焦人工智能與大數據安全的數據追蹤挑戰賽。王琦稱：“我們現在經常講大數據，我們也知道大數據在利用之前肯定是要經過脫敏的。但是這個脫敏是不是真的脫敏了?如果有人能夠通過人工智能技術把脫敏之后的數據還還原出來，完成對一個人物的畫像，并且推測出他的行為，我們就需要反思一下我們的脫敏是不是足夠。”所謂“脫敏”是指在大數據收集過程中，通過一些技術手段實現對敏感隱私數據的可靠保護。
王琦表示，“在每年的極棒項目設置上，我們都做了大量的引導工作， 極棒的比賽重點都是針對當下最大的安全風險，目的是讓大眾看到那些潛在的安全隱患，提高他們的安全意識。” 如今，極棒大賽已經走過了5個年頭，先后在北京、上海、澳門、香港、硅谷等地舉辦過比賽，超過百位選手登上極棒比賽的舞臺。王琦稱，極棒大賽的作用之一就是為國內培養了很多信息安全方面的人才。“2016年、2017年社科院公布的信息安全專業學生薪資超過金融、計算機專業，是最高的，所有參加極棒信息安全競賽的學生都以免試的方式入職拿到高薪，證明了這類安全人員的價值”，另外一方面國內廠商也通過這個渠道找到了他們需要的人才。
京公網安備 11010502049343號