法律和合規負責人應該評估的六個ChatGPT風險包括：
1. 捏造的和不準確的答案
也許ChatGPT和其他LLM工具最常見的問題是傾向于提供不正確的信息(盡管表面上看似合理)。
Friedmann稱，“ChatGPT也容易產生‘幻覺’，包括捏造錯誤的答案，以及不存在的法律或科學引用。法律和合規領導者應該發布指導，要求員工在接受ChatGPT生成的任何輸出之前，審查其準確性、適當性和有效性。”
2. 數據隱私及保密
法律和合規負責人應該意識到，如果聊天歷史沒有被禁用，輸入ChatGPT的任何信息都可能成為其訓練數據集的一部分。
Friedmann解釋稱，“在提示中使用的敏感、專有或機密信息都可能會被納入企業外用戶的回復中。法律和合規部門需要為ChatGPT的使用建立一個合規框架，并明確禁止將敏感的企業或個人數據輸入公共LLM工具。”
3. 模型和輸出偏見
盡管OpenAI努力減少ChatGPT中的偏見和歧視，但已知的這些問題已經發生，并且可能會持續存在，盡管OpenAI和其他企業正在積極努力地將這些風險降到最低。
Friedmann認為，“完全消除偏見幾乎是不可能的，法律和合規需要凌駕于管理人工智能偏見的法律之上，并確保他們的指導是合規的。這可能涉及與主題專家合作，以確保輸出的可靠性，并與審計和技術部門合作，以設置數據質量控制。”
4. 知識產權(IP)和版權風險
考慮到ChatGPT是在大量的互聯網數據上訓練的，這些數據可能包括受版權保護的信息。因此，它的輸出有可能違反版權或知識產權保護法案。
Friedmann稱，“ChatGPT不提供源代碼參考或解釋其輸出是如何生成的。法律和合規負責人應該密切關注適用于ChatGPT輸出的版權法的任何變化，并要求用戶仔細檢查他們生成的任何輸出，以確保它不侵犯版權或知識產權。”
5. 網絡欺詐風險
惡意行為者已經在大規模地濫用ChatGPT來生成虛假信息，例如，虛假評論。
此外，使用LLM模型的應用程序，包括ChatGPT，也容易受到提示注入的影響，這是一種黑客技術，使用惡意的對抗性提示來欺騙模型執行它不打算執行的任務，例如編寫惡意軟件代碼或開發假冒知名網站的網絡釣魚網站。
Friedmann補充道，“法律和合規負責人應與網絡風險所有者協調，探討是否或何時就這一問題向公司網絡安全人員發出備忘錄。他們還應該對盡職調查來源進行審計，以核實其信息的質量。”
6. 消費者保護風險
未能向消費者披露ChatGPT使用情況的企業(例如，以客戶支持聊天機器人的形式)可能面臨失去客戶信任的風險，并在不同法律下被指控為“不公平”的做法。
例如，加州的聊天機器人法規定，在某些消費者互動中，企業必須清楚而明顯地披露消費者正在與機器人進行交流。
Friedmann總結道，“法律和合規負責人需要確保他們企業的ChatGPT使用符合所有相關法規和法律，并向客戶進行適當的披露。”
關于企業網D1net(hfnxjk.com)：
國內主流的to B IT門戶，同時在運營國內最大的甲方CIO專家庫和智力輸出及社交平臺-信眾智(www.cioall.com)。同時運營19個IT行業公眾號(微信搜索D1net即可關注)
版權聲明：本文為企業網D1Net編譯，轉載需在文章開頭注明出處為：企業網D1Net，如果不注明出處，企業網D1Net將保留追究其法律責任的權利。
京公網安備 11010502049343號