日前，騰訊發(fā)現(xiàn)谷歌人工智能學(xué)習(xí)系統(tǒng)TensorFlow存在嚴(yán)重安全風(fēng)險(xiǎn)，可被黑客利用帶來安全威脅。據(jù)悉，該風(fēng)險(xiǎn)是TensorFlow首個(gè)自身安全風(fēng)險(xiǎn)，騰訊安全平臺(tái)部預(yù)研團(tuán)隊(duì)已向谷歌報(bào)告這一風(fēng)險(xiǎn)并獲得致謝。

騰訊安全平臺(tái)部預(yù)研團(tuán)隊(duì)發(fā)現(xiàn)，攻擊者可以生成Tensorflow的惡意模型文件，對AI研究者進(jìn)行攻擊，對受害者自身的AI應(yīng)用進(jìn)行竊取或篡改、破壞。該風(fēng)險(xiǎn)危害面非常大，一方面攻擊成本低，普通攻擊者即可實(shí)施攻擊；另一方面迷惑性強(qiáng)，大部分AI研究者可能毫無防備；同時(shí)因?yàn)槔昧薚ensorFlow自身的機(jī)制，其在PC端和移動(dòng)端的最新版本均會(huì)受到影響。AI模型被竊取，損失的是開發(fā)者的心血；而一旦被篡改，造成AI失控，后果更難以想象。

谷歌官方負(fù)責(zé)人稱，考慮到TensorFlow在AI的廣泛使用，TensorFlow官網(wǎng)將會(huì)像大多數(shù)重要軟件一樣在網(wǎng)站創(chuàng)建安全公告頁面，及時(shí)披露和修復(fù)安全漏洞。

據(jù)了解，Google的TensorFlow作為開源框架被互聯(lián)網(wǎng)廣泛使用。根據(jù)官方介紹，該框架在谷歌、ebay、airbnb、twitter、uber、小米、中興等公司均有使用。在TensorFlow中，AI研究者可以復(fù)用他人建好的模型來進(jìn)行AI訓(xùn)練，或直接提供AI服務(wù)，大大提高開發(fā)效率。這些公開的模型通常以文件形式提供，也普遍被認(rèn)為是無害的。此次安全事件也讓關(guān)注該領(lǐng)域的開發(fā)者對開源框架的潛在風(fēng)險(xiǎn)提高了警惕。

騰訊安全平臺(tái)部安全預(yù)研團(tuán)隊(duì)不僅聚焦AI、移動(dòng)及IoT前沿領(lǐng)域的安全問題研究，同時(shí)也曾向google，apple，微軟，adobe等公司報(bào)告多個(gè)安全漏洞并多次獲得官方致謝。此外，他們對無人機(jī)、無線電、物聯(lián)網(wǎng)、智能樓宇的安全問題也有研究。未來，騰訊安全平臺(tái)部安全預(yù)研團(tuán)隊(duì)也將繼續(xù)致力于為互聯(lián)網(wǎng)與科技發(fā)展的安全保駕護(hù)航。