11月11日?qǐng)?bào)道，據(jù)Singularityhub報(bào)道，谷歌已經(jīng)開發(fā)出能夠自創(chuàng)加密算法的機(jī)器學(xué)習(xí)系統(tǒng)，這是人工智能(AI)在網(wǎng)絡(luò)安全領(lǐng)域取得的最新成功。但是當(dāng)我們的數(shù)字安全日益依賴智能機(jī)器時(shí)，將會(huì)產(chǎn)生什么樣的影響?

谷歌位于加州的AI子公司Google Brain通過神經(jīng)網(wǎng)絡(luò)之間的互相攻擊，實(shí)現(xiàn)了最新壯舉。他們?cè)O(shè)計(jì)出兩套分別被稱為鮑勃(Bob)和愛麗絲(Alice)的神經(jīng)網(wǎng)絡(luò)系統(tǒng)，它們的任務(wù)就是確保通訊信息不被第三套神經(jīng)系統(tǒng)伊芙(Eve)破解。沒人告訴它們?nèi)绾渭用苄畔ⅲU勃和愛麗絲被給與共享的安全密匙，而伊芙?jīng)]有。

在大多數(shù)測(cè)試中，鮑勃與愛麗絲能夠迅速找到安全的通訊方式，使得伊芙無法破譯密碼。有意思的是，這些機(jī)器都使用了不同尋常的方法，這些方法通常在人類開發(fā)的加密系統(tǒng)中十分罕見。從可能性方面看，這些方法遠(yuǎn)比人類設(shè)計(jì)的最好的方法還要復(fù)雜得多。但是由于神經(jīng)網(wǎng)絡(luò)以不透明的方式解決問題，因此很難找出它們是如何操作的。

對(duì)于人類來說，破譯計(jì)算機(jī)生成的加密非常容易。但是這也很難保證系統(tǒng)的安全性，并可能限制其實(shí)際應(yīng)用范疇。此外，伊芙的表現(xiàn)似乎也可證明人的類懷疑，即神經(jīng)系統(tǒng)在破譯加密信息方面不太擅長(zhǎng)。

但是研究人員表示，在理解通信元數(shù)據(jù)方面和計(jì)算機(jī)網(wǎng)絡(luò)流量分析方面，神經(jīng)網(wǎng)絡(luò)是相當(dāng)有效的技術(shù)。這就是許多人認(rèn)為機(jī)器學(xué)習(xí)可被應(yīng)用于網(wǎng)絡(luò)安全領(lǐng)域的原因，因?yàn)楝F(xiàn)代AI在發(fā)現(xiàn)模式方面非常擅長(zhǎng)，它們可以處理遠(yuǎn)比人類多得多的數(shù)據(jù)。

隨著網(wǎng)絡(luò)安全專家缺口不斷增大，這將是個(gè)巨大市場(chǎng)。在今年夏季舉行的黑帽黑客大會(huì)上，安全公司SparkCognition公布了其殺毒軟件DeepArmor，它可以利用AI技術(shù)不斷了解新的惡意軟件行為，并識(shí)別出發(fā)生變異以嘗試?yán)@過安全系統(tǒng)的病毒。

當(dāng)前的機(jī)器學(xué)習(xí)依然傾向于發(fā)現(xiàn)誤報(bào)，并且無法應(yīng)對(duì)許多由人類黑客發(fā)起的更微妙攻擊。為此，許多方法專注于AI與人類并肩工作。荷蘭安全廠商F-Secure與麻省理工學(xué)院下屬計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室都開發(fā)出機(jī)器學(xué)習(xí)網(wǎng)絡(luò)分流系統(tǒng)，它們可以過濾掉通過網(wǎng)絡(luò)的大部分可疑信息，大幅削減需要人類專家處理的潛在威脅數(shù)量。

IBM希望更進(jìn)一步，探索其超級(jí)計(jì)算機(jī)沃特森的自然語(yǔ)言處理能力。沃特森可以從人類網(wǎng)絡(luò)安全專家發(fā)布的大量威脅報(bào)告、研究論文以及博客文章中學(xué)習(xí)。他們希望這能幫助他們于今年晚些時(shí)候提供云服務(wù)，可以有效地充當(dāng)人類的專家級(jí)助理。

全自動(dòng)系統(tǒng)也在取得進(jìn)展。8月份，美國(guó)國(guó)防部下屬DARPA舉行網(wǎng)絡(luò)挑戰(zhàn)大賽，這是首次機(jī)器之間進(jìn)行的黑客攻擊對(duì)決。這些聊天機(jī)器人使用各種各樣的AI方案，去自動(dòng)發(fā)現(xiàn)軟件漏洞，要么修復(fù)漏洞，要么利用漏洞，這一切都沒有人類幫助。

盡管它們還遠(yuǎn)不夠完美，有的機(jī)器甚至在比賽多數(shù)時(shí)間都處于休眠狀態(tài)，其它機(jī)器甚至偶爾破壞了自己試圖保護(hù)的系統(tǒng)。獲勝的聊天機(jī)器人Mayhem在DEFCON黑客大會(huì)上與人類對(duì)決，盡管其最終落敗，但結(jié)果依然令人印象深刻。許多觀察家對(duì)聊天機(jī)器人展示出來的復(fù)雜水平和超人般的操作速度感到驚訝。

這是一場(chǎng)軍備競(jìng)賽，黑客們也在利用這些新技術(shù)。路易斯維爾大學(xué)AI與網(wǎng)絡(luò)安全副教授羅曼·揚(yáng)波爾斯基(Roman Yampolskiy)說，他已經(jīng)遇到過這樣的程序，可以利用AI自動(dòng)發(fā)現(xiàn)系統(tǒng)的安全漏洞或預(yù)測(cè)密碼。他說：“我們正看到非常聰明的電腦病毒出現(xiàn)，它們能夠修改無人機(jī)代碼、改變它們的行為以及向目標(biāo)中滲透。”

AI的另一個(gè)優(yōu)勢(shì)是模擬人類的能力。網(wǎng)絡(luò)安全公司Darktrace技術(shù)主管戴夫·帕爾默(Dave Palmer)表示，他認(rèn)為不久的將來，智能惡意軟件就可以利用你的電子郵件來了解你的通訊方式，并創(chuàng)造出來自你的被感染的信息。《金融時(shí)報(bào)》曾報(bào)道稱，已經(jīng)有人在使用假鼠標(biāo)動(dòng)作或不同的打字速度模擬人類登陸，試圖繞過安全系統(tǒng)訪問特定網(wǎng)站。

在DARPA的網(wǎng)絡(luò)挑戰(zhàn)大賽結(jié)束后，電子前沿基金會(huì)(EFF)警告稱，自動(dòng)化處理漏洞的過程可能產(chǎn)生意想不到的嚴(yán)重后果，研究人員需要在行為準(zhǔn)則方面達(dá)成一致，以應(yīng)對(duì)這些威脅。如果這些系統(tǒng)擺脫開發(fā)者的控制，沒人能夠保證自動(dòng)化防御系統(tǒng)能夠?qū)顾鼈儭２⒎撬械挠?jì)算機(jī)都能輕易修補(bǔ)漏洞，特別是那些不經(jīng)常訪問或不容易進(jìn)行更新的物聯(lián)網(wǎng)設(shè)備。

研究人員需要考慮這些問題：防御工具如何能夠輕易被改造成進(jìn)攻工具?什么樣的系統(tǒng)最容易成為攻擊目標(biāo)?他們到底有多脆弱?如果這些工具失去控制，最糟糕的后果會(huì)如何?

知名專欄作家瓦奧萊特·布盧 (Violet Blue) 說，EFF的擔(dān)憂為時(shí)過早，他預(yù)測(cè)真正的AI黑客可能30年后才會(huì)出現(xiàn)，過度監(jiān)管只會(huì)減慢AI技術(shù)的進(jìn)步。正如Mayhem團(tuán)隊(duì)所說：“如果你只集中于防御，你會(huì)發(fā)現(xiàn)自己總是處于追趕之中，可能永遠(yuǎn)無法超過攻擊者。”

但是隨著網(wǎng)絡(luò)安全日益成為對(duì)立機(jī)器人之間的對(duì)決，我們應(yīng)該盡早開始謹(jǐn)慎地思考。畢竟，隨著技術(shù)進(jìn)步，機(jī)器人操作方式變得越來越高深莫測(cè)，我們可能弄不清它們到底誰(shuí)好誰(shuí)壞!