(*AI Washing：它是某些企業為了改善自己的產品形象，迎合大眾口味，而進行的一種虛假營銷手段。Gartner對外發布了一份“新興技術炒作周期圖”，顯示某些軟件公司正在利用人工智能這波熱浪，夸大AI在其產品中的能力，不加區分地給自己的產品貼上人工智能的標簽。“機器學習”“認知專家顧問”“軟件定義安全”“自動駕駛汽車”“區域塊”等概念正處于炒作頂峰。Gartner公司把這種現象叫做“AI washing”。)
與非AI初創公司相比，這種有問題的營銷策略可以幫助他們獲得更多的種子輪、A輪和B輪融資。根據GlobalData的數據，僅去年一年，AI初創公司就籌集了超過500億美元的風險投資資金，考慮到ChatGPT的盛行，預計今年這一數字還會增長。
考慮到大量資金涌入這些初創公司，AI washing現象只會愈演愈烈。美國聯邦貿易委員會(FTC)充分意識到了這種危險，并警告供應商在宣傳其AI能力時要透明和誠實。
FTC廣告業務部門的律師Michael Atleson在一篇博文中寫道，“一些聲稱有AI技術的產品可能根本就沒有廣告宣傳的那么有效。在某些情況下，這種缺乏功效的情況可能仍然存在，并將造成其他潛在危害。營銷人員應該知道，關于產品功效的虛假或未經證實的聲明是我們堅決打擊的。”
不過，在這種復雜的情況下，很難區分合法的AI解決方案和營銷噱頭。
德勤全球人工智能研究所執行董事Beena Ammanath表示，“面對供應商對其AI產品的宣傳，企業需要保持基本的懷疑態度。就像任何事情一樣，如果一件事聽起來好得令人難以置信，那它很可能就是陷阱。”
紐約大學CIO Donald Welch表示，如果CIO和他們的公司掉入這種虛假宣傳的陷阱，那么他們可能會面臨包括項目失敗或延遲、經濟損失、法律訴訟、聲譽風險，甚至最終被解雇等后果。
幸運的是，他們可以使用一些策略來避免錯誤。
AI驅動的企業需要技能嫻熟的員工
審查這些聲稱使用AI技術的企業可能是一個漫長而耗時的過程。然而，一些簡單的事情，比如在LinkedIn上搜索，就可以發現一些有價值的見解。
Ammanath解釋稱，“審查供應商員工的AI經驗和教育水平是個好主意。正在開發AI解決方案的公司應該具備這樣的人才，這意味著他們在AI、機器學習、算法開發等方領域擁有豐富經驗的數據科學家和數據工程師。”
除了審查員工，CIO還可以尋找與外部AI專家和研究機構合作的證據。這一類別包括與大學的合作，參與行業會議和活動，以及對開源AI計劃的貢獻。如果供應商有類似項目或應用程序的經驗，這也是一個好跡象，因為這表明它可以交付高質量的結果。
美國初創公司MacPaw的首席技術和創新官Vira Tkachenko補充道，“還可以仔細檢查供應商的歷史。如果一家公司是AI領域的專家，它很可能在這個領域或其他AI產品上發表過研究論文。”
尋找一個精心設計的數據策略
真正將AI集成到產品中的公司也需要一個深思熟慮的數據策略，因為AI算法需要它。他們需要處理高質量的數據，數據越豐富、越相關，結果就越好。
Ammanath解釋稱，“AI系統是由大量數據驅動的，因此這些公司也應該有一個構建良好的數據策略，并能夠解釋收集了多少數據以及從哪些來源收集數據。”
另一件值得關注的事情是，這些公司是否在遵守監管要求方面付出了足夠的努力，并保持了較高的數據隱私和安全標準。隨著《歐盟通用數據保護條例》和《加州消費者隱私法》等數據隱私法規的興起，企業必須對其數據實踐保持透明，并為個人提供對其個人數據的控制權。如果這種情況沒有發生，那就應該是一個危險信號。
請求證據來支持這些主張
雖然流行語可能很誘人，但耐心地詢問證據會有所幫助。Ammanath建議稱，“提出正確的問題，并要求提供產品聲明的證據，對于厘清營銷和銷售語言，以確定產品是否真的由AI驅動至關重要。”
評估特定產品或服務的CIO可以詢問模型是如何訓練的，使用了什么算法，以及AI系統將如何適應新數據。
Tkachenko補充道，“你應該詢問供應商，他們使用什么庫或人工智能模型。他們可能會把一切都建立在一個簡單的OpenAI API調用上。”
管理和技術咨詢公司BearingPoint的合伙人和全球技術主管Matthias Roeser對此表示贊同，并補充道，CIO還應該徹底理解組成部分和框架，評估應該包括“道德、偏見、可行性、知識產權和可持續性”等因素。
這種調查可以幫助CIO更多地了解該產品的真實功能和局限性，從而幫助他們決定是否購買該產品。
關注初創公司
初創公司將自己定位在創新的前沿。然而，雖然他們中的許多確實在AI領域突破了可能的界限，但有些可能只是夸大了他們的能力，以獲得關注和金錢。
美國初創公司Claid. ai的聯合創始人兼首席技術官Vlad Pranskevi?ius表示，“作為一家機器學習公司的首席技術官，我經常遇到AI washing的情況，尤其是在創業社區。而且，最近這種情況變得更加嚴重。這種現象在像目前這樣的炒作周期中尤為危險，因為AI正被視為新的淘金熱。”
不過，Pranskevi?ius也認為，隨著圍繞AI的監管變得更加嚴格，AI washing將在不久的將來得到控制。
建立技術專業的聲譽
公司購買可疑的AI解決方案其實并不罕見，在這種情況下，并非都是CIO的錯。相反地Welch認為，“這可能是公司領導力低下的一個癥狀。業務部門被營銷炒作所迷惑，并越過了IT團隊購買有問題的AI解決方案，最后IT團隊來收拾殘局。”
為了防止這樣的情況發生，企業需要培養一種協作文化，在這種文化中，技術專業人士的意見受到重視，他們的觀點會被充分尊重。
與此同時，CIO和技術團隊應該在公司內部建立自己的聲譽，這樣他們的意見才更容易被納入決策過程。要做到這一點，他們應該表現出專業知識、專業精神和軟技能。
西格瑪軟件集團的首席創新官Max Kovtun表示，“我認為，對CIO來說，檢測AI washing不是太大的問題。更大的問題可能是業務利益相關者或企業家推動以任何形式使用AI，因為他們希望看起來創新和前沿。”
超越流行語
在比較產品和服務時，必須以開放的心態來評估它們，徹底查看它們的屬性。
Tkachenko認為，“如果一個產品或服務對你來說唯一的優勢就是AI，你應該在訂閱之前仔細考慮一下。最好研究一下它的價值主張和特點，只有當你了解這個項目在AI之外的好處時，才能開始合作。”
Welch對此表示贊同并補充道，“思考一下，你會因為一個系統是用C、c++或Java編寫的而購買它嗎?作為盡職調查的一部分，你可能還需要了解他們是否能夠維護代碼、公司的生存能力等等。”
做一個徹底的評估可以幫助企業確定他們計劃購買的產品或服務是否符合他們的目標，是否有可能提供預期的結果。
Kovtun表示，“技術越復雜，非專業人士就越難以理解它，以至于無法驗證該技術的應用是否正確、是否合理。如果你決定為你的公司利用AI技術，你最好聘請在AI領域有經驗的知識淵博的專家。否則，你的努力可能不會為你帶來期望的好處。”
關注AI相關新聞
了解與AI相關的產品及其相關問題的最新情況，也可以幫助CIO做出明智的決策。通過這種方式，他們可以發現自己可能犯的潛在錯誤，同時利用新的想法和技術。
底特律市CIO Art Thompson表示，“我認為目前公眾對AI的了解程度還不夠”。
他建議CIO們進行充分的研究，以避免落入新技術或實驗性技術的陷阱，這些技術所承諾的遠遠超過了它的實際能力。他表示，如果發生這種情況，重新投標和挑選更換產品的時間，真的會讓員工無法跟上任何變化。更不用說人們投入時間學習新技術的困難了。
此外，了解最新的AI相關事項可以幫助CIO預測監管變化和新興行業標準，這可以幫助他們實現合規性并保持競爭優勢。
不僅僅是CIO需要與時俱進。BearingPoint的Roeser建議稱，“教育你的團隊或聘請專家，將相關能力添加到你的投資組合中。”
圍繞AI的額外監管行動
即將出臺的新法規可能會簡化CIO們判斷產品或服務是否采用了真正的AI技術的任務。白宮最近發布了一項AI權利法案，其中包括負責任地設計AI系統的指導方針。未來幾年可能還會出臺更多法規。
Ammanath表示，“這些行動背后的前提是保護消費者權利和人類免受技術的潛在傷害。為了降低風險，我們需要預測技術的潛在負面影響。”
道德不應該是事后考慮事項
企業傾向于強調新技術的潛在好處，同時往往淡化潛在的負面后果。
瑞士圣加侖大學博士后研究員Philip Di Salvo表示，“當一項技術成為流行語時，我們往往會忽視它對社會可能產生的潛在有害影響。研究表明，企業正在推動圍繞AI的討論，而技術決定論的論點仍然占主導地位。”
這種認為“技術是社會和文化變革背后的主要驅動力”的觀點，可能會掩蓋圍繞道德和政治影響的討論，而更傾向于以營銷為導向的論點。正如Di Salvo所說，這造成了“一種爭論的迷霧，使這些技術及其生產者更加模糊和不可問責。”
為了解決這個問題，有一個關鍵的挑戰是向公眾傳達人工智能實際上不是什么，它不能做什么。
Di Salvo解釋稱，“我們今天看到的大多數AI應用——包括ChatGPT——基本上都是圍繞大規模應用統計和數據分析構建的。這可能聽起來像是一個無聊的定義，但它有助于避免對‘人工智能’定義中‘智能’所指的任何誤解。我們需要關注現實問題，如偏見、社會分類和其他問題，而不是假設的、推測的長期情景。”
關于企業網D1net(hfnxjk.com)：
國內主流的to B IT門戶，同時在運營國內最大的甲方CIO專家庫和智力輸出及社交平臺-信眾智(www.cioall.com)。同時運營19個IT行業公眾號(微信搜索D1net即可關注)
版權聲明：本文為企業網D1Net編譯，轉載需在文章開頭注明出處為：企業網D1Net，如果不注明出處，企業網D1Net將保留追究其法律責任的權利。
京公網安備 11010502049343號