作為早期采用者，Planview很早就意識到，如果他們真的想深入使用AI，就需要建立政策和治理框架，涵蓋他們內部的操作以及增強產品提供的內容。根據該公司的經驗以及其他CIO的經驗，可以總結出四個教訓，幫助企業制定自己的AI治理方法。
依托現有框架
AI治理與其他治理并沒有太大區別，事實上，根據Planview的CTO Mik Kersten的說法，因為大多數AI政策都與數據有關，所以很容易利用現有的框架。Planview采用了他們已經用于開源和云的指南，并將其調整為AI治理所需的內容。
Planview
一個完全不同的組織，佛羅里達州立大學（FSU），則從現有的IT治理委員會中發展出了AI治理委員會，該委員會定期開會，優先考慮投資和風險，該大學的CIO Jonathan Fozard說：“我們對投資進行排序，無論是財務方面還是在校園內的價值和影響方面。AI項目成為了討論的一部分，這就是我們建立AI治理的方式。”
FSU的用例范圍從科學研究到辦公生產力——他們還在從工程和法律到所有其他專業的課程中教授AI，因為這些學生在進入職場后可能會使用AI。Fozard說，平衡成本和風險與潛在價值的增加就像一種蹺蹺板的方法。在第一次討論中，某些項目會優先浮出水面，然后委員會開始查看這些高優先級項目，確保他們能夠保護大學需要保護的一切，包括知識產權、研究愿望、用戶隱私和敏感數據。
佛羅里達州立大學
“無論你是在高等教育還是在企業環境中，首先專注于生產，”Fozard說，“超越浮華，思考你想要實現的目標，找出如何利用技術在組織各個層面推動創新，然后確保你保護你的數據和員工。”
明確內部開發和外部合作的界限
“我們必須在自建和外購之間制定非常明確的政策，”Kersten說，“我有相當大的AI和數據科學團隊，我們的客戶希望這些團隊構建客戶支持功能，但我們需要這些專家來開發產品功能，為了讓他們專注于核心工作，我們的政策明確規定了自建和外購的內容。”
Kersten認為，明確開源的使用政策也很重要。Planview選擇僅將開源模型集成用于研究和內部用例。至于他們銷售的功能，該公司構建在具有明確使用條款的LLM之上。“我們政策的一部分是確保大型語言模型提供商的使用條款符合我們的隱私和合規需求。”他說。
在完全不同的行業中，總部位于香港的國際英語語言學院Wall Street English開發了自己的AI堆棧，以掌握他們認為對其業務核心的技術，該公司的首席產品與技術官Roberto Hortal表示：“我們追求更快的創新，更好的成果以及一系列完全匹配學生和教師需求的定制解決方案，我們保持積極主動的方法，我們的政策之一是掌握最新發展、最佳實踐以及潛在風險。”
Wall Street English
作為一家教育機構，Wall Street English將AI集成到其自學課程中，他們使用AI進行語音識別，以提供發音反饋，并作為會話代理的基礎，幫助學生通過模擬現實場景練習會話技巧，該公司建立了一個治理框架，不僅包括技術、財務和法律方面的考慮，還包括多元文化環境中的倫理問題。
在整個價值鏈中保護正確的內容
由于使用代碼生成工具，Planview的AI治理包括確保不侵犯版權的規則和指南，它還保護自己的軟件，以確保沒有代碼生成工具會提取并在其他地方重用這些代碼。Kersten表示，公司AI治理不僅明確了這些要點，還告訴用戶如何配置工具。
“GitHub Copilot有一個設置，可以檢查以確保它不會給你受版權保護的代碼，”Kersten說，“然后還有另一個設置，會檢查你的最終代碼，以確保它不會與其存儲庫中的內容過于相似，還有一個設置，可以告訴GitHub Copilot不要保存你的代碼。”
自然，需要保護的內容取決于業務領域，Planview關注的是保護知識產權，而Wall Street English則關注文化敏感性，他們調整課程內容，以避免冒犯學生，他們的AI工具也需要做到這一點。Hortal說：“正如我們通過訓練有素的教師環繞我們的在線課程，以保證沒有不適當的內容一樣，我們也必須確保AI避免表達出非預期的觀點或不適當的內容，我們采用輸入凈化、上下文追蹤和內容過濾等技術來減輕風險和漏洞，這些都是我們AI治理的一部分。”
無論你在保護什么，規則不應僅限于你自己的組織，應努力確保在外包工作時也能保證相同的保護。提供綜合治理、風險和合規平臺的軟件公司LogicGate的CEO Matt Kunkel表示：“世界上一些最復雜的公司在內部擁有驚人的AI治理結構，但然后他們將所有數據傳輸給第三方，這些第三方使用大語言模型處理這些數據。如果你的第三方不同意你的AI使用政策，那么在那一點上，你就失去了對AI治理的控制。”
立即開始
已經實施AI治理的IT領導者最常見的建議是立即開始。從IT領導層開始研究AI治理到將規則傳達給整個組織可能需要幾個月的時間。一個典型的例子是，Planview從開始思考其政策到在其學習管理系統中向全公司發布政策，大約花了六個月時間。
作為AI的早期采用者之一，Kersten經常公開談論Planview的經驗。他說：“那些等待的組織將會落后，現在就制定你的政策，它沒有你想象的那么難，一旦政策到位，它將真正有助于你內部的構建方式以及你向市場提供的產品。”
LogicGate
Kunkel表示同意。“影子用例已經在形成，因此CIO盡快掌握AI政策非常重要，”他說，“一個起點是圍繞組織對AI的風險偏好達成共識，人們需要就快速推進與保護客戶數據之間的平衡進行坦誠的對話。”
一旦你制定了治理政策并傳達給整個組織，大家就可以專注于增加價值。
企業網D1net(hfnxjk.com)：
國內主流的to B IT門戶，旗下運營國內最大的甲方CIO專家庫和智力輸出及社交平臺-信眾智(www.cioall.com)。旗下運營19個IT行業公眾號(微信搜索D1net即可關注)。
版權聲明：本文為企業網D1Net編譯，轉載需在文章開頭注明出處為：企業網D1Net，如果不注明出處，企業網D1Net將保留追究其法律責任的權利。
京公網安備 11010502049343號