英國研究機構“對虛假信息說不”(Say No To Disinfo)與通信專家公司費尼莫爾·哈珀(Fenimore Harper)合作,模擬了一場由AI驅動的虛假信息宣傳活動。作為活動的一部分,英國500名銀行客戶接觸到了有關其金融機構的合成“謠言”。
此次模擬的動機是為了確定基于GenAI的虛假新聞宣傳活動未來是否會引發“銀行擠兌”——如美國硅谷銀行所遭遇的情況。
研究結果凸顯了AI在這一領域的潛在威脅:
• 接觸虛假新聞的受訪者中,近61%的人基本上愿意從相關銀行撤資。
• 略超過33%的受訪者認為這“非常有可能”,另有27%認為“可能”。
• 根據研究,若以財務支出計算,投資10英鎊(約合13美元)用于AI內容生成就足以“轉移”價值100萬英鎊的資產。
“借助AI工具,我們生成了虛假的新聞標題,其敘事旨在利用現有的恐懼和偏見。核心信息是:‘客戶資金不安全。’”研究人員解釋說。
根據他們的報告,專家主要使用短信息服務X來大量傳播相應的帖子和模因。
“鑒于虛假信息宣傳活動可以如此迅速、輕松且廉價地有效發起,金融部門必須做好準備,”研究人員警告說。然而,不幸的是,銀行往往缺乏相應的專業人才:“金融機構在應對客戶信任映射、惡意行為者映射或戰爭博弈時,往往是被動反應,而非主動出擊。”
金融機構必須解決這類基于AI的宣傳活動所帶來的風險,這至關重要:“那些只關注網絡威脅而忽視影響力操作所帶來風險的銀行”正在制造一個嚴重的安全漏洞,研究人員表示。
企業網D1net(hfnxjk.com):
國內主流的to B IT門戶,旗下運營國內最大的甲方CIO專家庫和智力輸出及社交平臺-信眾智(www.cioall.com)。旗下運營19個IT行業公眾號(微信搜索D1net即可關注)。
版權聲明:本文為企業網D1Net編譯,轉載需在文章開頭注明出處為:企業網D1Net,如果不注明出處,企業網D1Net將保留追究其法律責任的權利。