我一直在與其他領導人討論這些問題，特別是因為它們涉及管理供應商合規使用AI的安全和道德政策。根據這些對話，以下是領導團隊考慮的一些風險領域，以及針對采購團隊的一些常識性指導方針，以確保AI在道德、準確和安全的情況下運行。
風險
雖然與AI相關的風險數量可能還不完全清楚，但以下是一些已經浮出水面并亟需解決的問題：
1. 欺詐和AI魚叉式網絡釣魚
安全研究人員認為，ChatGPT正在引發一場騙局的“浪潮”。任何針對供應商(即使是很小的供應商)的騙局都可以用來損害其客戶的采購團隊。這一點可以參見2021年涉及SolarWinds和其他公司的攻擊，以了解受損的供應商如何影響下游的其他公司。
另一方面，供應商可能會擔心AI在采購過程中選擇獲勝供應商的準確性或公平性——客戶或黑客可能會操縱AI系統，使其偏袒某些供應商，而非其他供應商，這意味著可能會失去一份利潤豐厚的合同。
2. 盜竊知識產權
除非使用得當，否則輸入ChatGPT或其他生成式AI工具的數據可能會傳播給使用該服務的其他用戶或公司，從而暴露敏感的IP和“商業機密”。這可能會導致嚴重的法律后果——特別是考慮到歐盟的《通用數據保護條例》(GDPR)等法律——并可能損害公司的聲譽。作為回應，三星等一些公司已經禁止或暫停員工使用生成式AI技術，同時調查潛在風險。
3. 算法偏見
許多新的AI系統為供應商提供算法推薦。不幸的是，AI是根據歷史數據和過去的決策進行訓練的，其中可能包括對邊緣化供應商的(無意識的)偏見。如果數據中存在的偏見沒有得到妥善解決，AI可能會延續甚至加劇這些偏見，導致不公平的結果和潛在的法律責任。
目前，這些偏見正在影響使用AI進行招聘決策的公正性。為此，紐約剛剛通過了一項法律，要求公司對其自動招聘工具中的算法偏見承擔法律責任。
4. 供應中斷
在與供應鏈領導者的對話中，一些人擔心AI可能會檢測到或先發制人地對某種特定商品進行擠兌/搶購，并在搶購之前觸發一個自動購買周期，從而引發擠兌。很容易想象，隨著AI與監控市場并為重復交易執行購買周期的自主系統更加融合，試圖在價格飆升之前“戰勝市場”觸發供應短缺的風險可能會無意中造成供應中斷。
對于食品、燃料和藥品等類別，采購和供應管理團隊可能會感到痛苦，更不用說我們所服務的客戶和社區了。AI管理的庫存決策也可能導致意想不到的庫存水平——導致庫存減少、缺貨、物流成本增加、收入損失和客戶信心下降。
常識性指南
考慮到這些威脅，以及AI的發展速度，立即圍繞這項技術的使用制定一項常識性政策是有意義的。
在工作場所之外建立負責任的使用方式
不要假設所有員工都是“AI禁欲者”。提供關于提示(prompt)中應該和不應該包含哪些信息的指導，對于圍繞負責任的使用展開全面討論至關重要。用戶應該接受培訓，以有效地使用AI工具并解釋其輸出，并保持對AI局限性和潛在風險的認知。
與供應商間設立界限
無論您的團隊成員和供應商是否知道，事實是，放入ChatGPT的任何信息都可能被競爭對手和其他第三方訪問。IT團隊已經在競相建立規則，但他們往往只關注內部。
作為采購和供應鏈團隊，我們的工作是將這些期望傳達給我們的供應商合作伙伴。至少，提醒供應商始終實施數據匿名化和加密技術，以保護敏感信息。
組建專業團隊
對許多人來說，創造有效的“提示”是一項關鍵的新技能，所以可以考慮培訓團隊如何創造提示，甚至聘請“提示工程師”(prompt engineer)來優化結果。
您可能還要考慮執行程序來檢測和減輕AI數據和輸出中的偏見。這可能涉及偏見審計、公平指標和多樣化的訓練數據集。
討論自觸發(self-triggering)供應中斷
哪些商品類別可能容易受到“恐慌性購買”的影響?其他市場參與者是如何應對這一挑戰的?
這些都是戰略關注的主題，無論AI是被您的公司還是被市場上的其他買家/賣家使用，這些問題都將至關重要。作為一種預防措施，建議現在就開始與您的團隊進行這些類型的對話。
防護機制的未來演變
隨著技術的進步和業務實踐的改變，圍繞AI的風險和法律限制將繼續演變。考慮一下未來可能需要對AI功能進行哪些增強，以實現更高級的功能，如預測分析、更多語言的自然語言處理、偏見審計和高級欺詐檢測。
現在有很多關于AI的炒作，對許多采購和供應鏈領域的人來說，這并不是什么新鮮事。然而，這些模型只會變得越來越好，而且改進的速度從未如此之快。如果我們在這項技術加速之前沒有進行內部討論，形成明確的界限和具體的意圖，我們可能會被AI本身產生的想法和建議所困。
關于企業網D1net(hfnxjk.com)：
國內主流的to B IT門戶，同時在運營國內最大的甲方CIO專家庫和智力輸出及社交平臺-信眾智(www.cioall.com)。同時運營19個IT行業公眾號(微信搜索D1net即可關注)
版權聲明：本文為企業網D1Net編譯，轉載需在文章開頭注明出處為：企業網D1Net，如果不注明出處，企業網D1Net將保留追究其法律責任的權利。
京公網安備 11010502049343號