英國研究機構“對虛假信息說不”(Say No To Disinfo)與通信專家公司費尼莫爾·哈珀(Fenimore Harper)合作，模擬了一場由AI驅動的虛假信息宣傳活動。作為活動的一部分，英國500名銀行客戶接觸到了有關其金融機構的合成“謠言”。
此次模擬的動機是為了確定基于GenAI的虛假新聞宣傳活動未來是否會引發“銀行擠兌”——如美國硅谷銀行所遭遇的情況。
研究結果凸顯了AI在這一領域的潛在威脅：
• 接觸虛假新聞的受訪者中，近61%的人基本上愿意從相關銀行撤資。
• 略超過33%的受訪者認為這“非常有可能”，另有27%認為“可能”。
• 根據研究，若以財務支出計算，投資10英鎊(約合13美元)用于AI內容生成就足以“轉移”價值100萬英鎊的資產。
“借助AI工具，我們生成了虛假的新聞標題，其敘事旨在利用現有的恐懼和偏見。核心信息是：‘客戶資金不安全。’”研究人員解釋說。
根據他們的報告，專家主要使用短信息服務X來大量傳播相應的帖子和模因。
“鑒于虛假信息宣傳活動可以如此迅速、輕松且廉價地有效發起，金融部門必須做好準備，”研究人員警告說。然而，不幸的是，銀行往往缺乏相應的專業人才：“金融機構在應對客戶信任映射、惡意行為者映射或戰爭博弈時，往往是被動反應，而非主動出擊。”
金融機構必須解決這類基于AI的宣傳活動所帶來的風險，這至關重要：“那些只關注網絡威脅而忽視影響力操作所帶來風險的銀行”正在制造一個嚴重的安全漏洞，研究人員表示。
企業網D1net(hfnxjk.com)：
國內主流的to B IT門戶，旗下運營國內最大的甲方CIO專家庫和智力輸出及社交平臺-信眾智(www.cioall.com)。旗下運營19個IT行業公眾號(微信搜索D1net即可關注)。
版權聲明：本文為企業網D1Net編譯，轉載需在文章開頭注明出處為：企業網D1Net，如果不注明出處，企業網D1Net將保留追究其法律責任的權利。
京公網安備 11010502049343號