關(guān)于安全、有保障和值得信賴的AI開(kāi)發(fā)和使用的行政命令就如何確保這項(xiàng)新興技術(shù)的安全提供了指導(dǎo)——這是以前的訂單所缺乏的，它還概述了與AI快速加速相關(guān)的挑戰(zhàn)。雖然CEO尋求讓國(guó)內(nèi)使用AI安全、可靠，但也許最高的任務(wù)是競(jìng)相為好人利用AI的潛力，并防止將其用于壞人。這就提出了一個(gè)問(wèn)題：在接下來(lái)的五年里，誰(shuí)將受益更多——捍衛(wèi)者還是攻擊者？答案是：目前還不清楚。

 

有一點(diǎn)是肯定的，防御者和攻擊者都希望獲得生成性AI的優(yōu)勢(shì)。在這一點(diǎn)上，我們無(wú)法預(yù)測(cè)的是，是否會(huì)有一方占上風(fēng)，這是一場(chǎng)需要雙方投入時(shí)間、精力和費(fèi)用的比賽，雙方都將看到爆發(fā)式的成功。

 

它不一定要完全混亂。公司、安全從業(yè)者和政府機(jī)構(gòu)現(xiàn)在可以采取措施，確保他們跟上攻擊者的步伐，甚至可以通過(guò)更多的協(xié)作、持續(xù)的立法框架和安全的創(chuàng)新空間來(lái)發(fā)揮帶頭作用。

 

 

對(duì)于攻擊者來(lái)說(shuō)，AI為社會(huì)攻擊和模仿攻擊增加了前所未有的速度和力量，特別是在規(guī)模上。如果沒(méi)有AI，針對(duì)CFO電子郵件的網(wǎng)絡(luò)釣魚(yú)攻擊對(duì)攻擊者來(lái)說(shuō)是耗時(shí)的，因?yàn)樗麄儽仨毷紫群Y選舊電子郵件，以獲得溝通風(fēng)格的感覺(jué)，然后才能在釣魚(yú)電子郵件中模仿它。GenAI模型已經(jīng)證明了熟練的寫(xiě)作能力，它們很快就能做到這一點(diǎn)，從而實(shí)現(xiàn)了更多的威脅戰(zhàn)役。在攻擊者目前可以一次發(fā)起十次釣魚(yú)或電子郵件泄露攻擊的地方，AI將使他們能夠在幾秒鐘內(nèi)點(diǎn)擊一個(gè)按鈕執(zhí)行一千次攻擊。

 

這些類型的攻擊之所以成功，是因?yàn)楣粽咭淮慰梢悦闇?zhǔn)更多的潛在受害者，這無(wú)疑與AI的火力成倍增加。當(dāng)被用于邪惡時(shí)，GenAI已被證明會(huì)加劇攻擊強(qiáng)度和后果的嚴(yán)重性。

 

當(dāng)然，攻擊者的這些炮轟不會(huì)被忽視。該行業(yè)將用AI支持的技術(shù)進(jìn)行反擊，該技術(shù)可以檢測(cè)并響應(yīng)這些類型的攻擊，但這些對(duì)策可能需要六個(gè)月的時(shí)間才能制定出來(lái)，在此期間會(huì)讓許多公司變得脆弱不堪。

 

軍備競(jìng)賽就是這樣進(jìn)行的，例如，有報(bào)道稱，惡意AI聊天機(jī)器人的開(kāi)發(fā)者正在開(kāi)發(fā)更復(fù)雜的工具，其中一個(gè)工具使用整個(gè)黑暗網(wǎng)絡(luò)作為其大型語(yǔ)言模型的知識(shí)庫(kù)。

 

與此同時(shí)，網(wǎng)絡(luò)安全行業(yè)也在響應(yīng)這一號(hào)召，并利用AI進(jìn)行積極的改進(jìn)，一個(gè)明顯的例子是修復(fù)現(xiàn)有的安全漏洞，這主要是一個(gè)手動(dòng)的、耗時(shí)的過(guò)程，這一點(diǎn)，再加上緊張的資源，使傳統(tǒng)產(chǎn)品變得脆弱不堪。隨著自動(dòng)攻擊的持續(xù)增加，手動(dòng)修復(fù)缺陷不再站得住腳。我們現(xiàn)在可以使用AI在軟件開(kāi)發(fā)過(guò)程中左移，并在一開(kāi)始就消除漏洞，優(yōu)先進(jìn)行自動(dòng)修復(fù)。

 

AI將在未來(lái)幾年內(nèi)在網(wǎng)絡(luò)安全的每一個(gè)類別中實(shí)現(xiàn)這種創(chuàng)新，AI模型將作為安全運(yùn)營(yíng)中心(SOC)團(tuán)隊(duì)的初級(jí)助理運(yùn)行。人們希望，隨著更少的漏洞進(jìn)入開(kāi)發(fā)過(guò)程，就越容易緩解和防御威脅。

 

 

GenAI發(fā)展如此之快，以至于很難預(yù)測(cè)網(wǎng)絡(luò)軍備競(jìng)賽的結(jié)果。我們所知道的是，協(xié)作是關(guān)鍵。雖然《雇傭條例》中規(guī)定的監(jiān)管是重要的一步，但它不會(huì)解決所有問(wèn)題。

 

隨著科技公司不斷推出AI產(chǎn)品，它們?cè)诟?jìng)爭(zhēng)中扮演著關(guān)鍵的合作伙伴角色。雖然他們繞過(guò)了賽道的角落，但他們從客戶那里獲得的反饋對(duì)于塑造未來(lái)的AI法規(guī)至關(guān)重要，這些法規(guī)將促進(jìn)創(chuàng)新、保護(hù)數(shù)據(jù)并解決社會(huì)關(guān)切。公私合作伙伴關(guān)系在各個(gè)行業(yè)已經(jīng)使用了幾十年，對(duì)AI的需求也沒(méi)有什么不同。政府和科技行業(yè)之間的合作是為AI創(chuàng)新和安全蓬勃發(fā)展創(chuàng)造一個(gè)安全空間的關(guān)鍵。

 

至關(guān)重要的是，行業(yè)和政府應(yīng)不斷評(píng)估為保護(hù)公眾不受限制地使用AI而設(shè)置的護(hù)欄，無(wú)論是網(wǎng)絡(luò)罪犯還是老牌公司。首席運(yùn)營(yíng)官承諾制定標(biāo)準(zhǔn)，確保AI系統(tǒng)是安全的，并針對(duì)一系列嚴(yán)格的資格進(jìn)行測(cè)試，這些資格和標(biāo)準(zhǔn)將需要隨著時(shí)間的推移而完善，才能真正標(biāo)準(zhǔn)化。

 

美國(guó)商務(wù)部還將制定水印和內(nèi)容認(rèn)證指南，以明確標(biāo)記AI生成的內(nèi)容，而Alphabet、Meta和OpenAI等公司已經(jīng)承諾實(shí)施此類措施，這種做法與美國(guó)特勤局(US Secret Service)在彩色復(fù)印機(jī)和打印機(jī)制造商變得足夠先進(jìn)、可以偽造貨幣后，讓制造商在打印頁(yè)面上添加數(shù)字水印的做法產(chǎn)生了共鳴，然而，它確實(shí)給不良演員帶來(lái)了一系列獨(dú)特的挑戰(zhàn)，以供濫用。

 

為了確保負(fù)責(zé)任地開(kāi)發(fā)和部署AI技術(shù)，我們的立法框架必須繼續(xù)演變，以透明度、可見(jiàn)性和理解為基石，科技行業(yè)和政府可以共同努力，降低風(fēng)險(xiǎn)，對(duì)抗威脅。

 

 

我們正在進(jìn)入網(wǎng)絡(luò)安全軍備競(jìng)賽的新階段，AI占據(jù)了主導(dǎo)地位。任何新技術(shù)都是一把雙刃劍，GenAI的力量和潛力讓它的鋒芒格外鋒利。

 

貓捉老鼠的游戲才剛剛開(kāi)始。軍備競(jìng)賽將如何發(fā)展還不確定，但至關(guān)重要的是，行業(yè)和政府的捍衛(wèi)者都要積極主動(dòng)。好消息是：AI以前所未有的速度推出了具有里程碑意義的法規(guī)。當(dāng)我們擁抱這片未知領(lǐng)域時(shí)，改進(jìn)我們的防御性AI戰(zhàn)略必須是一項(xiàng)全力以赴的努力。

 

 

國(guó)內(nèi)主流的to B IT門戶，同時(shí)在運(yùn)營(yíng)國(guó)內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_(tái)-信眾智(www.cioall.com)。同時(shí)運(yùn)營(yíng)19個(gè)IT行業(yè)公眾號(hào)(微信搜索D1net即可關(guān)注)。

 

版權(quán)聲明：本文為企業(yè)網(wǎng)D1Net編譯，轉(zhuǎn)載需在文章開(kāi)頭注明出處為：企業(yè)網(wǎng)D1Net，如果不注明出處，企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。