本文首發(fā)于微信公眾號：人工智能學(xué)家。文章內(nèi)容屬作者個人觀點，不代表和訊網(wǎng)立場。投資者據(jù)此操作，風(fēng)險請自擔(dān)。
人工智能學(xué)家
計算機(jī)軟件“零日”漏洞平均每年會有312天在人類網(wǎng)絡(luò)安全專家發(fā)現(xiàn)和修補(bǔ)漏洞之前，遭到惡意黑客的利用。美國軍方重點關(guān)注顛覆性技術(shù)的主要研究機(jī)構(gòu)希望解答的問題是，人工智能是否能在幾秒或幾分鐘內(nèi)，比人類更快地發(fā)現(xiàn)和修補(bǔ)這些漏洞。
今夏，美國DAPR的網(wǎng)絡(luò)挑戰(zhàn)賽(Cyber GrandChallenge ）中7個進(jìn)入決賽的團(tuán)隊將攜自己的AI戰(zhàn)隊參賽。這些AI系統(tǒng)可自動瀏覽對手網(wǎng)絡(luò)服務(wù)器并尋找漏洞，還可以積極發(fā)現(xiàn)和修補(bǔ)自己的軟件漏洞，保護(hù)自己的服務(wù)器。比賽的第一名將會立即獲得200萬美金的獎勵，第二名和第三名分別為100萬和75萬。但長期來說，DAPRA希望，這項挑戰(zhàn)賽的結(jié)果能夠向人類證明，在保護(hù)計算機(jī)軟件和網(wǎng)絡(luò)永無止境的戰(zhàn)斗中，現(xiàn)在的自動化AI系統(tǒng)已經(jīng)足以輔助人類。
“他們準(zhǔn)備直播這項賽事，讓人們見證技術(shù)之間的肉搏。”DAPRA 網(wǎng)絡(luò)挑戰(zhàn)賽的項目經(jīng)理Mike Walker,在7月13號的電視新聞發(fā)布會上這樣說。“我們希望從這個比賽中獲得證據(jù)，證明響應(yīng)漏洞的整個計算機(jī)安全周期都已經(jīng)可以自動化。”
當(dāng)今的網(wǎng)絡(luò)安全防御技術(shù)，大多數(shù)依賴人類團(tuán)隊，人類專家先手動瀏覽崩潰報告，然后經(jīng)過嘗試后精準(zhǔn)定位需要修補(bǔ)的問題 ；而在由于出現(xiàn)計算機(jī)故障，導(dǎo)致出現(xiàn)成百上千個漏洞報告時，這個過程會更加乏味和冗長，讓人難以忍受。微軟等科技巨頭，已經(jīng)開始研發(fā)能夠自動發(fā)現(xiàn)問題并生成漏洞報告的軟件程序。
但DAPRA希望，能夠提高發(fā)現(xiàn)和阻止這些漏洞的自動化AI系統(tǒng)的水平。美國軍事機(jī)構(gòu)希望，這些自動化系統(tǒng)能夠大大縮短研發(fā)軟件補(bǔ)丁和應(yīng)用補(bǔ)丁修補(bǔ)軟件安全漏洞的時間。另外，與問題發(fā)生后依賴人類專家核查崩潰報告不同，在任意時間下自動化系統(tǒng)都能夠輔助對整個軟件系統(tǒng)的檢測，。
進(jìn)入決賽的7個團(tuán)隊都獲得了高性能計算硬件，以研發(fā)各自的人工智能“網(wǎng)絡(luò)推理”系統(tǒng)。8月4號于拉斯維加斯舉辦的10小時的網(wǎng)絡(luò)挑戰(zhàn)賽中，他們將會位居二線，坐觀AI系統(tǒng)之間的對抗。
決賽開始之際，每個AI選手所在的網(wǎng)絡(luò)都會運(yùn)行已知協(xié)議，并運(yùn)行事先未經(jīng)檢查的計算機(jī)代碼。這意味著，AI系統(tǒng)將需要先學(xué)習(xí)網(wǎng)絡(luò)的軟件語言和邏輯，然后才能開始尋找漏洞。
為了攻擊對手，參賽的AI選手需要尋找網(wǎng)絡(luò)服務(wù)器中的漏洞。每發(fā)現(xiàn)一個，AI選手就會告訴DAPRA的裁判，并預(yù)測這個軟件崩潰可能發(fā)生的時間。就像一個臺球選手在排列落袋式臺球并擊球之前，會先預(yù)測開球情況，比如“7號球，落到角落球袋”。Walker 說。
AI選手證明對手存在這些漏洞就可以得分，而如果不能保護(hù)自己的服務(wù)器和應(yīng)對這些模擬攻擊則會失分。這些AI選手還將必須即使創(chuàng)建自己的網(wǎng)絡(luò)防御體系，保護(hù)自己的服務(wù)器免遭其他對手的攻擊。這些網(wǎng)絡(luò)安全防御體系可能會使用兩種戰(zhàn)術(shù)，Walker 解釋道，第一個，你可能會創(chuàng)建一個通用的“二進(jìn)制盔甲”，保護(hù)網(wǎng)絡(luò)服務(wù)器的任何部分免受通用威脅。這種方法的缺點就是，會因為運(yùn)行常見的計算任務(wù)而減慢服務(wù)器軟件的速度。“人們希望計算機(jī)能夠保證安全，但不希望保證安全的代價竟然是兩小時才發(fā)一個郵件。”Walker 說。
第二個防御策略中，AI會尋找軟件漏洞并用專為這些問題定制的特定補(bǔ)丁進(jìn)行修補(bǔ)。對AI來說，這種反向工程和針對某個問題的“point patching”（要點修補(bǔ)）更有難度。但在2015年6月舉辦的網(wǎng)絡(luò)挑戰(zhàn)賽的資格賽中，決賽團(tuán)隊研發(fā)的AI系統(tǒng)確實已經(jīng)能夠生成這樣的補(bǔ)丁。當(dāng)時沒有一個參賽者能夠完全找到資格賽中出現(xiàn)的590個軟件漏洞，但是所有參賽者發(fā)現(xiàn)的漏洞加在一起囊括了全部漏洞。
然而，如果網(wǎng)絡(luò)安全AI系統(tǒng)服務(wù)于惡意目的，比如發(fā)現(xiàn)漏洞后啟動網(wǎng)絡(luò)攻擊怎么辦？網(wǎng)絡(luò)挑戰(zhàn)賽的結(jié)果和參賽者的軟件將會開源給大眾。開源軟件使得線上社區(qū)更易發(fā)現(xiàn)和修補(bǔ)這些漏洞，讓大眾發(fā)現(xiàn)這些漏洞。這種開放性，就是Walker 所說的，為使這種科技的“邪惡濫用”問題最小化，而采用的“開放式安全變革”方法的關(guān)鍵。
在網(wǎng)絡(luò)挑戰(zhàn)賽決賽之前，Walker 不希望推測這樣的網(wǎng)絡(luò)安全AI系統(tǒng)未來將會有怎樣的發(fā)展。但他指出，商業(yè)軟件的任何網(wǎng)絡(luò)安全方面的提升都會使美國軍方受益，因為后者通常依賴于這些現(xiàn)有技術(shù)。
“在21天以后，我們準(zhǔn)備進(jìn)行一個科學(xué)實驗和存活性實驗，因此那個時候，我可能會覺得更適合去推測比賽結(jié)果。”Walker 說，“我可以完全坦誠地說，在我們給大眾說這種自動化技術(shù)是存在的，在我們推測未來發(fā)展之前，我們將首先切實證明這些自動化技術(shù)的可用性。”
對這種AI系統(tǒng)來說，在DAPRA的網(wǎng)絡(luò)挑戰(zhàn)賽中取得讓世人信服的勝利，只是第一步。決賽團(tuán)隊已經(jīng)口頭同意，今年DEF CON（世界上最大的黑客會議之一）上，他們中的獲獎?wù)邔⑴c一項類似于“奪旗賽（capture the flag）”的競賽，與人類黑客對抗。這項會議將會在8月的同一時間于拉斯維加斯舉行。這意味著，自動化機(jī)器選手與人類專家將首次進(jìn)行當(dāng)面對峙。
計算機(jī)軟件“零日”漏洞平均每年會有312天在人類網(wǎng)絡(luò)安全專家發(fā)現(xiàn)和修補(bǔ)漏洞之前，遭到惡意黑客的利用。美國軍方重點關(guān)注顛覆性技術(shù)的主要研究機(jī)構(gòu)希望解答的問題是，人工智能是否能在幾秒或幾分鐘內(nèi)，比人類更快地發(fā)現(xiàn)和修補(bǔ)這些漏洞。
今夏，美國DAPRA的網(wǎng)絡(luò)挑戰(zhàn)賽(Cyber GrandChallenge ）中7個進(jìn)入決賽的團(tuán)隊將攜自己的AI戰(zhàn)隊參賽。這些AI系統(tǒng)可自動瀏覽對手網(wǎng)絡(luò)服務(wù)器并尋找漏洞，還可以積極發(fā)現(xiàn)和修補(bǔ)自己的軟件漏洞，保護(hù)自己的服務(wù)器。比賽的第一名將會立即獲得200萬美金的獎勵，第二名和第三名分別為100萬和75萬。但長期來說，DAPRA希望，這項挑戰(zhàn)賽的結(jié)果能夠向人類證明，在保護(hù)計算機(jī)軟件和網(wǎng)絡(luò)永無止境的戰(zhàn)斗中，現(xiàn)在的自動化AI系統(tǒng)已經(jīng)足以輔助人類。
“他們準(zhǔn)備直播這項賽事，讓人們見證技術(shù)之間的肉搏。”DAPRA 網(wǎng)絡(luò)挑戰(zhàn)賽的項目經(jīng)理Mike Walker,在7月13號的電視新聞發(fā)布會上這樣說。“我們希望從這個比賽中獲得證據(jù)，證明響應(yīng)漏洞的整個計算機(jī)安全周期都已經(jīng)可以自動化。”
當(dāng)今的網(wǎng)絡(luò)安全防御技術(shù)，大多數(shù)依賴人類團(tuán)隊，人類專家先手動瀏覽崩潰報告，然后經(jīng)過嘗試后精準(zhǔn)定位需要修補(bǔ)的問題 ；而在由于出現(xiàn)計算機(jī)故障，導(dǎo)致出現(xiàn)成百上千個漏洞報告時，這個過程會更加乏味和冗長，讓人難以忍受。微軟等科技巨頭，已經(jīng)開始研發(fā)能夠自動發(fā)現(xiàn)問題并生成漏洞報告的軟件程序。但DAPRA希望，能夠提高發(fā)現(xiàn)和阻止這些漏洞的自動化AI系統(tǒng)的水平。美國軍事機(jī)構(gòu)希望，這些自動化系統(tǒng)能夠大大縮短研發(fā)軟件補(bǔ)丁和應(yīng)用補(bǔ)丁修補(bǔ)軟件安全漏洞的時間。另外，與問題發(fā)生后依賴人類專家核查崩潰報告不同，在任意時間下自動化系統(tǒng)都能夠輔助對整個軟件系統(tǒng)的檢測，。
進(jìn)入決賽的7個團(tuán)隊都獲得了高性能計算硬件，以研發(fā)各自的人工智能“網(wǎng)絡(luò)推理”系統(tǒng)。8月4號于拉斯維加斯舉辦的10小時的網(wǎng)絡(luò)挑戰(zhàn)賽中，他們將會位居二線，坐觀AI系統(tǒng)之間的對抗。
決賽開始之際，每個AI選手所在的網(wǎng)絡(luò)都會運(yùn)行已知協(xié)議，并運(yùn)行事先未經(jīng)檢查的計算機(jī)代碼。這意味著，AI系統(tǒng)將需要先學(xué)習(xí)網(wǎng)絡(luò)的軟件語言和邏輯，然后才能開始尋找漏洞。
為了攻擊對手，參賽的AI選手需要尋找網(wǎng)絡(luò)服務(wù)器中的漏洞。每發(fā)現(xiàn)一個，AI選手就會告訴DAPRA的裁判，并預(yù)測這個軟件崩潰可能發(fā)生的時間。就像一個臺球選手在排列落袋式臺球并擊球之前，會先預(yù)測開球情況，比如“7號球，落到角落球袋”。Walker 說。AI選手證明對手存在這些漏洞就可以得分，而如果不能保護(hù)自己的服務(wù)器和應(yīng)對這些模擬攻擊則會失分。
這些AI選手還將必須即使創(chuàng)建自己的網(wǎng)絡(luò)防御體系，保護(hù)自己的服務(wù)器免遭其他對手的攻擊。這些網(wǎng)絡(luò)安全防御體系可能會使用兩種戰(zhàn)術(shù)，Walker 解釋道，第一個，你可能會創(chuàng)建一個通用的“二進(jìn)制盔甲”，保護(hù)網(wǎng)絡(luò)服務(wù)器的任何部分免受通用威脅。這種方法的缺點就是，會因為運(yùn)行常見的計算任務(wù)而減慢服務(wù)器軟件的速度。“人們希望計算機(jī)能夠保證安全，但不希望保證安全的代價竟然是兩小時才發(fā)一個郵件。”Walker 說。
第二個防御策略中，AI會尋找軟件漏洞并用專為這些問題定制的特定補(bǔ)丁進(jìn)行修補(bǔ)。對AI來說，這種反向工程和針對某個問題的“point patching”（要點修補(bǔ)）更有難度。但在2015年6月舉辦的網(wǎng)絡(luò)挑戰(zhàn)賽的資格賽中，決賽團(tuán)隊研發(fā)的AI系統(tǒng)確實已經(jīng)能夠生成這樣的補(bǔ)丁。當(dāng)時沒有一個參賽者能夠完全找到資格賽中出現(xiàn)的590個軟件漏洞，但是所有參賽者發(fā)現(xiàn)的漏洞加在一起囊括了全部漏洞。
然而，如果網(wǎng)絡(luò)安全AI系統(tǒng)服務(wù)于惡意目的，比如發(fā)現(xiàn)漏洞后啟動網(wǎng)絡(luò)攻擊怎么辦？網(wǎng)絡(luò)挑戰(zhàn)賽的結(jié)果和參賽者的軟件將會開源給大眾。開源軟件使得線上社區(qū)更易發(fā)現(xiàn)和修補(bǔ)這些漏洞，讓大眾發(fā)現(xiàn)這些漏洞。這種開放性，就是Walker 所說的，為使這種科技的“邪惡濫用”問題最小化，而采用的“開放式安全變革”方法的關(guān)鍵。
在網(wǎng)絡(luò)挑戰(zhàn)賽決賽之前，Walker 不希望推測這樣的網(wǎng)絡(luò)安全AI系統(tǒng)未來將會有怎樣的發(fā)展。但他指出，商業(yè)軟件的任何網(wǎng)絡(luò)安全方面的提升都會使美國軍方受益，因為后者通常依賴于這些現(xiàn)有技術(shù)。
“在21天以后，我們準(zhǔn)備進(jìn)行一個科學(xué)實驗和存活性實驗，因此那個時候，我可能會覺得更適合去推測比賽結(jié)果。”Walker 說，“我可以完全坦誠地說，在我們給大眾說這種自動化技術(shù)是存在的，在我們推測未來發(fā)展之前，我們將首先切實證明這些自動化技術(shù)的可用性。”
對這種AI系統(tǒng)來說，在DAPRA的網(wǎng)絡(luò)挑戰(zhàn)賽中取得讓世人信服的勝利，只是第一步。決賽團(tuán)隊已經(jīng)口頭同意，今年DEF CON（世界上最大的黑客會議之一）上，他們中的獲獎?wù)邔⑴c一項類似于“奪旗賽（capture the flag）”的競賽，與人類黑客對抗。這項會議將會在8月的同一時間于拉斯維加斯舉行。這意味著，自動化機(jī)器選手與人類專家將首次進(jìn)行當(dāng)面對峙。
歡迎報名參加”人工智能學(xué)家“每月28日舉辦的“創(chuàng)新科技風(fēng)險投資線上見面會”，百位著名風(fēng)險投資人在線關(guān)注您的項目。6月28日10個項目進(jìn)行線上路演。多數(shù)獲得投資人約談
文章來源：微信公眾號人工智能學(xué)家
京公網(wǎng)安備 11010502049343號