在人工智能項目中使用Kubernetes有什么好處?人們可以了解Kubernetes如何幫助優化人工智能項目性能和成本的實際用例。
根據一份針對科技公司和軟件開發商進行調查的云原生調查報告,容器在生產中的使用量比上一年增加了84%,高達92%。Kubernetes的使用量比上一年增長了78%,達到了83%。
以下是Kubernetes如何幫助優化人工智能項目的性能和成本的兩個實際用例。
Kubernetes用例#1
基于人工智能的需求預測系統的數據工程
1.項目描述
許多酒吧和餐廳采用了POS收銀軟件和場地管理系統,而隨著時間的推移,積累了大量的歷史銷售數據。MobiDev公司的技術專家希望將人工智能算法應用到這些數據的分析中,找到之前銷售的模式,并為每個階段做出下一個時期的預測。該公司為此開發了一個基于人工智能的需求預測系統,并作為一個獨立的模塊集成到系統中。
2.需要解決的問題
由于人工智能計算需要大量資源,因此最初采用AWS EMR云服務中的虛擬機。而采用該系統的酒吧或餐廳越多,其基礎設施的運營成本就越昂貴。當機器學習算法處理每日銷售數據時,人工智能模塊的高CPU負載可能會突然出現,而在其他的時間處于空閑狀態。為了降低基礎設施成本,MobiDev公司采用Docker Swarm對計算資源進行人工管理。
在最小可行性(MVP)開發階段,使用Kubernetes沒有意義,因為它需要大量的研究和采用時間。然而隨著酒吧或餐廳數量的增加,需要一種新的數據工程方法來提供自動化和可擴展性以及成本優化。
3.使用Kubernetes解決的技術任務
(1)定期收集歷史數據腳本。
(2)在Kubernetes內部運行的數據庫中的數據存儲。
(3)歷史數據更新成功后的人工智能腳本。
(4)與人工智能儀表板交互的API。
(5)顯示人工智能腳本結果的人工智能儀表板。
4.使用Kubernetes解決的業務任務
Kubernetes允許實現自動擴展,并提供實時計算資源優化。
(1)性能和成本優化
值得注意的是,在Kubernetes上,針對相同數量的數據計算相同邏輯的人工智能腳本返回結果的速度比AWS EMR快得多,同時消耗的計算資源比EMR少。在Kubernetes上,與之前的EMR生產環境相比,相同數量的場地運行人工智能模塊腳本所需的平均時間減少了90%。
(2)可靠性改進
系統穩定性是從AWS EMR轉向Kubernetes的關鍵原因。在EMR上,腳本啟動有時會因未知原因失敗,并且日志沒有提供任何有用的信息。
(3)可擴展性改進
在AWS EMR上,項目開發受到未來要添加的最大新場地數量的限制。Kubernetes取消了限制和自動擴展,這對于快速增長的項目至關重要。
項目總結
Kubernetes上的系統提供更快的結果,消耗更少的計算資源,允許客戶降低AWS計費成本,并確保穩定和可預測的產品交付。
Kubernetes用例#2
人工智能視頻監控系統的數據工程
MobiDev涉及的另一個Kubernetes實際業務用例是視頻監控系統中面部模糊功能的智能計算資源自動擴展。該系統由以下應用程序組成:前端、后端、后端隊列和基于人工智能的面部模糊功能。Kubernetes被用作所有這些應用程序的Orchestrator。
當出現新的視頻處理請求時,后端在KubernetesAPI的幫助下自動擴展,并自動添加更多工作人員來處理請求。
Kubernetes的未來發展
Kubernetes的分布式架構和可擴展性與機器學習和人工智能相得益彰。隨著這些技術的不斷成熟,2021年是Kubernetes領域快速增長的一年。
人們需要記住的是,采用工具不是最終目的,而是支持業務目標。在2020年,幾乎所有企業都不得不面對意料之外的變化。Kubernetes有能力通過使用云原生生態系統構建的解決方案加速應用程序開發服務,同時允許使用具有可塑性的應用程序和數據,從而使企業能夠通過其平臺和應用程序的現代化獲得成功。
版權聲明:本文為企業網D1Net編譯,轉載需注明出處為:企業網D1Net,如果不注明出處,企業網D1Net將保留追究其法律責任的權利。