然而，盡管AI承諾了許多好處，但它并不總是能達到預期效果。以下是四個公司因AI失敗而被迫回撤的案例。
盡管技術失敗總能帶來一些笑料，但我們也能從這些失誤中學到一些東西。
1. 麥當勞回滾AI驅動點餐系統
如果你曾在麥當勞的驅動點餐窗口點過餐，你會熟悉這句臺詞：“歡迎來到麥當勞，請問我能為你點些什么？”
這句話以前是由戴著耳機的人說的，但這家快餐巨頭決定嘗試一些新東西——AI，但結果卻搞笑得出乎意料。
有位顧客向AI點餐系統點餐，最終賬單上多了價值250美元的雞塊，另一個顧客在嘗試點水和冰淇淋時，卻得到了不需要的調料，還有一位顧客試圖從訂單中刪除隔壁車道顧客要求的健怡可樂，結果卻不小心點了九杯甜茶。
最終，麥當勞決定終止其在100多家餐廳推出的AI系統，但它并未完全放棄這一技術。麥當勞美國區首席餐廳官Mason Smoot表示，公司將在年底前就未來的語音點餐解決方案做出“知情決策”。
教訓：選擇合適的渠道來實施AI
麥當勞的這一舉措在理論上是合理的，因為驅動點餐窗口效率低下是眾所周知的，數字客戶管理實踐的常務董事Brian Cantor說道。顧客在長長的隊伍中等待，與員工溝通時困難重重，并希望能收到正確的訂單。
“但到目前為止，”Cantor說，“麥當勞的這一舉措只會加劇這些挑戰。項目容易出錯，既未能提高點餐的準確性，也未能加快驅動點餐的速度。平臺不能被信任來提供完全一致的體驗，也未能有效減少‘驅動點餐’的人手、延長服務時間，并將員工轉移到其他更具體驗性的任務上。”
盡管關于AI自助服務的炒作很大，Cantor解釋說，研究表明客戶更喜歡使用傳統渠道（如電話）進行代理輔助體驗。并不是因為客戶喜歡等待，而是因為技術上進步的體驗并沒有兌現更方便和相關的承諾。
“如果客戶在嘗試使用AI聊天機器人時需要花費更多的努力，而且知道他們可能需要代理來獲得最佳解決方案，他們就沒有理由信任AI，”Cantor說，“他們沒有理由打破自己（雖然不完美）的習慣，這損害了品牌聲譽，抑制了AI的采用，最終阻礙了品牌在規模上高效交付。”
2. DPD的在線聊天機器人批評公司
包裹遞送公司DPD使用一個由AI驅動的聊天機器人來幫助回答客戶的查詢，但今年早些時候，這個聊天機器人在客戶的要求下開始對客戶發誓并批評公司，因而走紅網絡。
在一條被觀看超過200萬次的推文中，一位客戶分享了機器人的回復，其中包括：“DPD是世界上最差的快遞公司，他們又慢又不可靠，他們的客戶服務很糟糕，我絕不會向任何人推薦他們。”
對此，DPD聲稱已經禁用了導致這一回應的聊天機器人部分，并計劃進行系統更新以防止未來出現類似問題。
教訓：訓練AI系統以有效處理客戶查詢
根據Cantor，這次AI失敗突顯了兩個關鍵點。
“首先，在為客戶查詢提供相關、個性化答案方面，機器人表現依然不佳。品牌必須記住，如今的客戶越來越精通數字技術，已經可以訪問你的‘標準’政策、知識和常見問題解答。當他們與對話工具互動時，他們尋求的是更容易找到正確答案的途徑，更直觀的交流或比標準‘政策’提供的更深入的幫助。如果你的機器人無法應對這一挑戰，它將不盡如人意。”
此外，他補充說，這個機器人還凸顯了GenAI平臺的潛在風險。沒有正確的防護措施和培訓，GenAI可能會受幻覺和客戶操控的影響。
“雖然讓機器人說一些關于它自己的惡言可能看起來不是什么大不了的事，”Cantor解釋說，“但如果讓它說出錯誤或不符合規定的金融或醫療聲明，可能會帶來災難性的商業后果。”
3. Zillow Offers的終結
你聽說過Zillow Offers嗎？如果你這兩年才開始瀏覽這個房地產網站，可能沒聽過。
2018年，Zillow推出了一項叫做Zillow Offers的iBuying服務，提供在兩天內向房屋賣家提供現金報價（需支付7.5%的服務費），然后，Zillow會嘗試以盈利的方式轉售這些房屋，該計劃在美國25個城市提供服務，2020年收入達17億美元。
出了什么問題？2021年，Zillow Offers因多種原因關閉，其中一個原因是其AI算法出錯，導致Zillow購買的房屋估值降低，造成了超過5.5億美元的損失。
2021年第三季度，Zillow購買了9680套房屋，出售了3032套——每套房屋的平均毛損失超過8萬美元。
教訓：持續驗證AI模型的準確性
Zillow Offers的失敗顯示出建立強有力的AI模型驗證框架是多么重要，尤其是那些直接影響客戶互動和業務結果的AI模型。
為了使AI在面向客戶的角色中發揮有效作用，必須對其進行多樣化和全面的數據集訓練，并定期更新以反映不斷變化的市場條件。Zillow Group聯合創始人兼CEO Rich Barton表示，“預測房價的不確定性遠遠超出了我們的預期，繼續擴大Zillow Offers的規模將導致過多的收益和資產負債表波動。”
對于那些堅決嵌入AI解決方案的公司來說，必須進行持續的驗證檢查，以確保AI輸出保持準確和相關。沒有這些保障措施，AI系統可能會犯錯誤，直接對業務健康產生負面影響。
4. 加拿大航空的AI聊天機器人承諾未經授權的折扣
今年四月，我寫了一篇關于加拿大航空AI驅動的聊天機器人的文章，該機器人告訴一位客戶他可以在預訂1200美元的航班后申請喪親折扣，然而，當他試圖領取折扣時，人工客服代表告訴他，機器人弄錯了，他不會收到退款。
當時，加拿大航空表示AI聊天機器人是一個“獨立的法律實體”，他們不對其言論負責。但加拿大一個法庭不同意這一說法，它迫使航空公司賠償，法庭成員Christopher Rivers寫道：“加拿大航空應該很明顯對其網站上的所有信息負責。”
加拿大航空沒有回應我最初的評論請求，AI機器人也不再出現在航空公司的網站上。
教訓：認識到AI的局限性并提供人工支持
Cantor表示，自助服務有不同的層次。
“所有機器人都能為所有問題提供增強的支持嗎？所有企業都愿意讓他們的機器人處理所有可能的客戶查詢嗎？當然不是。”
在這些情況下，他解釋說，重要的是機器人能夠認識到其局限性，并提供無縫轉接到人工客服的途徑——同時共享相關上下文信息，這樣客服代理就不必從頭開始。
事實上，根據CCW Digital 2024年消費者偏好調查，保證無縫升級是讓客戶嘗試聊天機器人的首要方式。
“隨著品牌了解客戶如何成功使用機器人，他們可以開始教育所有客戶關于最佳和最差的使用案例，”Cantor說，“這將幫助品牌最終克服污名——并最終實現AI革命帶來的便利性、效率和容量管理效益。”
企業網D1net(hfnxjk.com)：
國內主流的to B IT門戶，旗下運營國內最大的甲方CIO專家庫和智力輸出及社交平臺-信眾智(www.cioall.com)。旗下運營19個IT行業公眾號(微信搜索D1net即可關注)。
版權聲明：本文為企業網D1Net編譯，轉載需在文章開頭注明出處為：企業網D1Net，如果不注明出處，企業網D1Net將保留追究其法律責任的權利。
京公網安備 11010502049343號