近段時間，國務(wù)院印發(fā)了構(gòu)筑我國人工智能發(fā)展想法優(yōu)勢的綱領(lǐng)性文件《新一代人工智能發(fā)展規(guī)劃通知》，文件指出，我國人工智能戰(zhàn)略目標(biāo)將分為三步走，并就此對《新一代人工智能發(fā)展規(guī)劃》的相關(guān)任務(wù)進(jìn)行了細(xì)化和落實(shí)?？v觀國際環(huán)境，中國并非唯一大力發(fā)展AI的國家，同期，英美日等為首的發(fā)達(dá)國家也在積極擁抱人工智能。

平安集團(tuán)信息安全運(yùn)營部&專家服務(wù)部總經(jīng)理李洋指出，從國際形勢而言，盡管中國的人工智能論文引用量領(lǐng)先世界，但研究的影響力卻不如英美，尤其是美國優(yōu)秀的人工智能初創(chuàng)公司在數(shù)量上和多樣性上遠(yuǎn)勝中國，行業(yè)并購也更活躍，表現(xiàn)出更加完善的人工智能行業(yè)生態(tài)。

飛速發(fā)展，人工智能的前生今世

自2012年，深度學(xué)習(xí)算法在語音和視覺學(xué)習(xí)上實(shí)現(xiàn)突破后，其融資規(guī)模開始快速增長，人工智能商業(yè)化得到了迅猛發(fā)展。在人工智能方面，機(jī)器學(xué)習(xí)按照學(xué)習(xí)方法分為傳統(tǒng)機(jī)器學(xué)習(xí)和深度學(xué)習(xí)。傳統(tǒng)機(jī)器學(xué)習(xí)平衡了學(xué)習(xí)效果的有效性和學(xué)習(xí)模型的可解釋性，深度學(xué)習(xí)則從層數(shù)超過3層的神經(jīng)網(wǎng)絡(luò)追求學(xué)習(xí)效果的有效性，并按照學(xué)習(xí)模式分為監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)習(xí)和強(qiáng)化學(xué)習(xí)等幾大分支，讓人工智能系統(tǒng)獲得歸納推理和決策能力，進(jìn)而聯(lián)合增強(qiáng)現(xiàn)實(shí)、知識圖譜等其他領(lǐng)域?qū)崿F(xiàn)弱人工智能。

現(xiàn)實(shí)意義上的人工智分為弱、強(qiáng)、超強(qiáng)等三大階段，當(dāng)下業(yè)界的AI大多處于弱人工智能階段，尚不能真正實(shí)現(xiàn)推理和解決問題。在普遍認(rèn)知中，弱人工智能專注于完成某個特定的任務(wù)，例如語音識別、圖像識別和翻譯，是擅長于單個方面的人工智能。強(qiáng)人工智能系統(tǒng)包括學(xué)習(xí)、語言、認(rèn)知、推理、創(chuàng)造和計(jì)劃，目標(biāo)是使人工智能在飛監(jiān)督學(xué)習(xí)的情況下處理前所未見的細(xì)節(jié)，并同時與人類開展交互式學(xué)習(xí)。而超強(qiáng)人工智能，則已經(jīng)跨過“奇點(diǎn)”，其計(jì)算和思維能力遠(yuǎn)超人腦，并打破人腦所受到的維度限制，并逐漸形成一個新的社會。

全面開花，商業(yè)規(guī)模與日俱增

目前，人工智能在各行各業(yè)全面開花，AI賦能的話題熱度居高不下。

金融行業(yè)的人工智能應(yīng)用首當(dāng)其沖，語音識別和自然語言處理、計(jì)算機(jī)視覺與生物特征識別、機(jī)器學(xué)習(xí)與神經(jīng)網(wǎng)絡(luò)、知識圖譜、服務(wù)機(jī)器人技術(shù)等相關(guān)領(lǐng)域都是當(dāng)下業(yè)界的風(fēng)口，尤其是在AI人臉識別和文字內(nèi)容識別方面，更是深入金融各個環(huán)節(jié)。此外，人工智能在醫(yī)療行業(yè)的應(yīng)用也是不落下風(fēng)，AI+大數(shù)據(jù)技術(shù)的應(yīng)用，讓醫(yī)療數(shù)字化創(chuàng)造出能夠改善醫(yī)療質(zhì)量的新工具和新算法。在人工智能技術(shù)的奠基之下，不僅僅是金融和醫(yī)療，建筑、社區(qū)、園區(qū)、制造、交通、物流、環(huán)保、政務(wù)等各個領(lǐng)域與之跨界融合，徹底讓AI賦能整座城市，點(diǎn)亮智慧城市的嶄新未來。

AI，藍(lán)海機(jī)遇下沉睡的安全危機(jī)

AI徹底打開了商用的大門，這也意味著，它不僅單純的帶來了商業(yè)機(jī)遇，也隱藏著巨大的安全隱患。作為一項(xiàng)前沿技術(shù)，一方面人工智能部分繼承了傳統(tǒng)安全問題，另一方面也形成了新的安全威脅。值得慶幸的是，AI為解決某些安全問題帶來了全新的思路，也在特定的場景中得到了應(yīng)用。談及安全風(fēng)險，李洋認(rèn)為當(dāng)下AI發(fā)展面臨的主要安全風(fēng)險有以下四點(diǎn)：

1. 框架安全威脅。該項(xiàng)威脅又細(xì)分為代碼實(shí)現(xiàn)缺陷(即編碼人員在編碼實(shí)現(xiàn)機(jī)器學(xué)習(xí)框架時，為進(jìn)行安全編碼導(dǎo)致的安全漏洞)、模型缺陷/攻擊逃逸(特指攻擊者在不改變目標(biāo)及其學(xué)習(xí)系統(tǒng)的情況下通過構(gòu)造特定輸入樣本以完成欺騙目標(biāo)系統(tǒng)的目的)、數(shù)據(jù)流處理缺陷(機(jī)器學(xué)習(xí)系統(tǒng)對不符合預(yù)期維度的輸入數(shù)據(jù)流進(jìn)行處理時導(dǎo)致的安全漏洞)等三個子類。

2. 應(yīng)用安全威脅，范疇涉及人臉識別安全威脅和語音識別安全威脅。

3. 數(shù)據(jù)安全威脅。伴隨著大數(shù)據(jù)成為商業(yè)競爭的新焦點(diǎn)，更多安全風(fēng)險也隨之而來。業(yè)務(wù)數(shù)據(jù)、隱私泄密、存儲風(fēng)險、APT攻擊等都讓大數(shù)據(jù)本身成為網(wǎng)絡(luò)攻擊的目標(biāo)，并成為高級可持續(xù)攻擊的載體，進(jìn)一步加大了隱私泄露的風(fēng)險，并對現(xiàn)有的存儲和安防措施提出全新的挑戰(zhàn)。

科技、安全、生態(tài)，三駕馬車?yán)瓌覣I防御

平安集團(tuán)李洋在現(xiàn)場總結(jié)了2018的人工智能技術(shù)十大趨勢：深度學(xué)習(xí)、膠囊網(wǎng)絡(luò)、深度增強(qiáng)學(xué)習(xí)、生成對抗網(wǎng)絡(luò)、精簡和增強(qiáng)數(shù)據(jù)學(xué)習(xí)、概率變成、混合學(xué)習(xí)模式、自動機(jī)器學(xué)習(xí)、數(shù)字孿生體、可解釋的人工智能。在未來發(fā)展的嶄新模式下，拓寬人工智能在各行業(yè)的應(yīng)用、建立完善數(shù)據(jù)生態(tài)系統(tǒng)、建立人工智能應(yīng)用標(biāo)準(zhǔn)、加強(qiáng)人工智能專業(yè)人才儲備，建立AI預(yù)警安全平臺，利用AI解決安全問題帶來全新思路。針對未來安全生態(tài)系統(tǒng)，李洋對此提出科技、安全、生態(tài)三個關(guān)鍵詞，倡議業(yè)界應(yīng)該助力網(wǎng)信藍(lán)圖，構(gòu)建健康生態(tài)，安全驅(qū)動發(fā)展，進(jìn)而用科技引領(lǐng)未來!

ps：本文根據(jù)2018第七屆全國網(wǎng)絡(luò)與信息安全防護(hù)峰會李洋演講整理而成。