從編寫電子郵件等相對(duì)簡(jiǎn)單的任務(wù)，到撰寫論文或編譯代碼等更復(fù)雜的工作，OpenAI公司的人工智能驅(qū)動(dòng)的自然語(yǔ)言處理工具ChatGPT自從推出以來就引起了人們的極大興趣。
當(dāng)然，ChatGPT并不完美——眾所周知，當(dāng)它誤解了從中學(xué)習(xí)的信息時(shí)就會(huì)犯錯(cuò)，但許多人將它和其他人工智能工具視為互聯(lián)網(wǎng)的未來。
OpenAI公司在ChatGPT的服務(wù)條款中加入了禁止生成惡意軟件的條目，其中包括勒索軟件、鍵盤記錄程序、病毒或其他旨在施加某種程度傷害的軟件，還禁止試圖創(chuàng)建垃圾郵件，以及針對(duì)網(wǎng)絡(luò)犯罪的用例。
但是，就像任何創(chuàng)新的技術(shù)一樣，已經(jīng)有人在嘗試?yán)肅hatGPT實(shí)現(xiàn)罪惡的目的。
在ChatGPT發(fā)布后不久，網(wǎng)絡(luò)犯罪分子就在地下論壇上發(fā)帖，討論如何使用ChatGPT來幫助開展惡意網(wǎng)絡(luò)活動(dòng)，例如編寫釣魚郵件或幫助編譯惡意軟件。
有人擔(dān)心，網(wǎng)絡(luò)犯罪分子會(huì)試圖使用ChatGPT和其他人工智能工具(例如谷歌Bard)，作為他們努力的一部分。雖然這些人工智能工具不會(huì)徹底改變網(wǎng)絡(luò)攻擊，但它們?nèi)匀豢梢詭椭W(wǎng)絡(luò)犯罪分子更有效地開展惡意攻擊活動(dòng)。
網(wǎng)絡(luò)安全服務(wù)商CheckPoint公司的威脅情報(bào)部門經(jīng)理Sergey Shykevich表示，“至少在短期內(nèi)，我不認(rèn)為ChatGPT會(huì)創(chuàng)造出全新類型的網(wǎng)絡(luò)攻擊。重點(diǎn)將是提高他們的日常運(yùn)營(yíng)的成本效益。”
網(wǎng)絡(luò)釣魚攻擊是惡意黑客和欺詐活動(dòng)中最常見的組成部分。無論網(wǎng)絡(luò)攻擊者是通過電子郵件傳播惡意軟件、網(wǎng)絡(luò)釣魚鏈接，還是被用來說服受害者轉(zhuǎn)賬，電子郵件最初都是用來脅迫的關(guān)鍵工具。
對(duì)電子郵件的依賴意味著犯罪團(tuán)伙需要持續(xù)不斷的清晰可用的內(nèi)容。在許多情況下，尤其是網(wǎng)絡(luò)釣魚，網(wǎng)絡(luò)攻擊者的目的是說服人們做一些事情，例如轉(zhuǎn)賬。幸運(yùn)的是，現(xiàn)在很多這樣的釣魚嘗試都很容易被識(shí)別為垃圾郵件，但高效的自動(dòng)化文案可以讓這些電子郵件更引人注目。
網(wǎng)絡(luò)犯罪是一個(gè)全球性的產(chǎn)業(yè)，網(wǎng)絡(luò)犯罪分子都在向世界各地的潛在目標(biāo)發(fā)送釣魚電子郵件，這意味著語(yǔ)言可能是一個(gè)障礙，特別是對(duì)于那些更復(fù)雜的魚叉式網(wǎng)絡(luò)釣魚活動(dòng)來說，這些活動(dòng)依賴于受害者相信他們正在與值得信賴的聯(lián)系人交談——如果電子郵件中充滿了不尋常的拼寫和語(yǔ)法錯(cuò)誤或奇怪的標(biāo)點(diǎn)符號(hào)，人們不太可能相信他們正在與朋友或同事交談。
但如果人工智能被正確利用，聊天機(jī)器人可以用網(wǎng)絡(luò)攻擊者想要的任何語(yǔ)言為電子郵件編寫文本。
Shykevich說:“例如，俄羅斯網(wǎng)絡(luò)罪犯的最大障礙是語(yǔ)言——英語(yǔ)。他們現(xiàn)在雇傭英語(yǔ)專業(yè)的大學(xué)畢業(yè)生為網(wǎng)絡(luò)釣魚郵件撰寫文章，或者在呼叫中心工作，而且他們必須為此支付費(fèi)用。像ChatGPT這樣的工具可以為他們?cè)趧?chuàng)建各種不同的釣魚信息上節(jié)省很多費(fèi)用，我認(rèn)為這是他們將尋求的方法。”
從理論上來說，有一些保護(hù)措施是為了防止濫用，例如，ChatGPT要求用戶注冊(cè)電子郵件地址，還需要電話號(hào)碼來驗(yàn)證注冊(cè)。
雖然ChatGPT可以拒絕編寫釣魚電子郵件，但可以要求它為其他消息制作電子郵件模板，這些消息通常被網(wǎng)絡(luò)攻擊者利用。這種嘗試可能包括這樣的信息：宣布發(fā)放年度獎(jiǎng)金，必須下載并安裝重要的軟件更新，或者需要作為緊急事項(xiàng)查看附件。
網(wǎng)絡(luò)安全與威脅情報(bào)提供商Crowdstrike公司的高級(jí)副總裁Adam Meyers表示：“精心制作一封電子郵件，說服某人點(diǎn)擊鏈接，以獲得會(huì)議邀請(qǐng)之類的東西，但如果母語(yǔ)不是英語(yǔ)，就不一定能做到。可以讓ChatGPT制作一份格式優(yōu)美、語(yǔ)法正確的邀請(qǐng)函，如果不是以英語(yǔ)為母語(yǔ)的人，就不一定能做到這一點(diǎn)。”
濫用這些工具不僅僅限于電子郵件，犯罪分子可以使用它來幫助為任何基于文本的在線平臺(tái)編寫腳本。對(duì)于實(shí)施詐騙的網(wǎng)絡(luò)攻擊者，甚至是試圖進(jìn)行間諜活動(dòng)的高級(jí)網(wǎng)絡(luò)威脅組織來說，這可能是一個(gè)有用的工具——尤其是用于創(chuàng)建虛假的社交資料來吸引人們。
云計(jì)算提供商Fastly公司的網(wǎng)絡(luò)安全專家、高級(jí)首席產(chǎn)品技術(shù)專家Kelly Shortridge表示:“如果你想建立可信的業(yè)務(wù)，可以在LinkedIn發(fā)布看似合理的商業(yè)言論，讓你看起來像讓客戶試圖建立聯(lián)系的真正商人，那么就非常適合采用ChatGPT。”
各種黑客組織試圖利用LinkedIn和其他社交媒體平臺(tái)作為開展網(wǎng)絡(luò)間諜活動(dòng)的工具，但創(chuàng)建虛假但看起來合法的在線個(gè)人資料，并在其中填滿帖子和信息，這是一個(gè)耗時(shí)的過程。
Shortridge認(rèn)為，網(wǎng)絡(luò)攻擊者可以使用ChatGPT等人工智能工具編寫令人信服的內(nèi)容，同時(shí)還具有比人工工作更少勞動(dòng)密集型的好處。
她說:“很多這類社交工程活動(dòng)都需要付出很多努力，因?yàn)楸仨毥⒛切n案。”她認(rèn)為人工智能工具可以顯著地降低進(jìn)入門檻。
她說：“我相信ChatGPT可以寫出非常有說服力的文章。”
技術(shù)創(chuàng)新的本質(zhì)意味著，每當(dāng)新事物出現(xiàn)時(shí)，總會(huì)有人試圖利用它來達(dá)到惡意目的。即使開發(fā)商使用最創(chuàng)新的手段來防止濫用，網(wǎng)絡(luò)犯罪分子和欺詐者的狡猾本性也意味著他們可能會(huì)找到規(guī)避保護(hù)的手段。
Shykevich表示：“沒有辦法將濫用行為完全消除到零。任何系統(tǒng)都不會(huì)發(fā)生這種情況。”他希望強(qiáng)調(diào)潛在的網(wǎng)絡(luò)安全問題意味著圍繞如何防止人工智能聊天機(jī)器人被用于錯(cuò)誤目的展開更多討論。
他說，“ChatGPT是一項(xiàng)偉大的技術(shù)，但與任何新技術(shù)一樣，它也存在風(fēng)險(xiǎn)，討論并意識(shí)到這些風(fēng)險(xiǎn)很重要。我認(rèn)為，我們討論得越多，OpenAI和類似公司就越有可能在減少濫用方面投入更多資金。”
人工智能聊天機(jī)器人(例如ChatGPT)在網(wǎng)絡(luò)安全方面也有好處。它們特別擅長(zhǎng)處理和理解代碼，因此有可能使用它們來幫助防御者理解惡意軟件。由于它們也可以編寫代碼，通過幫助開發(fā)人員完成項(xiàng)目，這些工具可能有助于更快地創(chuàng)建更好、更安全的代碼，這對(duì)每個(gè)人都有好處。
調(diào)研機(jī)構(gòu)Forrester公司的首席分析師Jeff Pollard指出，ChatGPT可以大幅減少生成安全事件報(bào)告所需的時(shí)間。
他指出：“更快地扭轉(zhuǎn)局面意味著有更多的時(shí)間做其他事情——例如測(cè)試、評(píng)估、調(diào)查和響應(yīng)，所有這些都有助于安全團(tuán)隊(duì)的規(guī)模。”他補(bǔ)充說，機(jī)器人可以根據(jù)可用數(shù)據(jù)建議下一步的行動(dòng)。
他說：“如果正確設(shè)置安全編排、自動(dòng)化和響應(yīng)來加速工件的檢索，這可以加速檢測(cè)和響應(yīng)，并幫助安全運(yùn)營(yíng)中心分析師做出更好的決策。”
因此，聊天機(jī)器人可能會(huì)讓一些網(wǎng)絡(luò)安全公司的日子更加艱難，但也可能有一線希望。
行業(yè)媒體聯(lián)系OpenAI公司尋求置評(píng)，但未得到回復(fù)。然而，記者詢問了ChatGPT有什么規(guī)則來防止它被濫用于網(wǎng)絡(luò)釣魚。得到了以下回復(fù)：“需要注意的是，雖然像ChatGPT這樣的人工智能語(yǔ)言模型可以生成類似于釣魚郵件的文本，但它們不能自行執(zhí)行惡意操作，并且需要用戶的意圖和行動(dòng)才能造成傷害。因此，用戶在使用人工智能技術(shù)時(shí)要保持謹(jǐn)慎和良好的判斷，并警惕網(wǎng)絡(luò)釣魚和其他惡意活動(dòng)。”
關(guān)于企業(yè)網(wǎng)D1net(hfnxjk.com)：
國(guó)內(nèi)主流的to B IT門戶，同時(shí)在運(yùn)營(yíng)國(guó)內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_(tái)-信眾智(www.cioall.com)。同時(shí)運(yùn)營(yíng)19個(gè)IT行業(yè)公眾號(hào)(微信搜索D1net即可關(guān)注)
版權(quán)聲明：本文為企業(yè)網(wǎng)D1Net編譯，轉(zhuǎn)載需在文章開頭注明出處為：企業(yè)網(wǎng)D1Net，如果不注明出處，企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。
京公網(wǎng)安備 11010502049343號(hào)