日志數據分散,存儲環境復雜,集中管理難;
在業務系統不受干擾的前提下,實時監控難;
熔斷信息發現滯后,及時通知難。此外,核心業務監控不足,不能精細化分析;
不能滿足合規審計需求;
故障排除慢,系統運維效率低;用戶數據難以掌控……
對于此類問題,大多數企業的IT管理人都可以下意識地給出解法,那就是企業需要部署或者優化自身的日志管理能力。然而,在企業數字化轉型逐漸進入加速期,IT應用日益深入、擴大的當下,云大物移智邊端等數字技術落地企業漸成常態。在這樣的背景下,一方面,日志管理已然成為剛需,大有標配之勢;另一方面,云、容器技術、IoT等應用,帶來了數據量的急劇增加,數據形態的多元化,這對日志數據的采集、存儲、分析等帶來了更多新的挑戰。
“與此同時,企業在這個過程中逐漸發現日志數據的價值,并將其視為‘數據驅動業務’的引擎之一,這對日志管理產品的分析功能和價值落地提出了更高的要求。”北京優特捷信息技術有限公司(以下簡稱日志易)技術副總裁黃俊毅在接受ENI經濟和信息化網采訪時概括道:“也就是說,日志管理不僅要助力企業應對挑戰,還要讓企業數智化創新‘如虎添翼’。
技術+信創:助力企業應對IT挑戰
日志管理的功能在當下已是耳熟能詳:滿足等保審計、留存要求,運維監控,安全運營,運營分析這四項是大多數日志管理工具所具備的基本功能。技術能力及對企業需求的把控,決定了日志管理相關產品實現其功能所覆蓋的廣度、深度及落地價值。
依托日志易多年深耕日志管理領域的經驗,黃俊毅以不同階段企業對于日志管理的需求,應對需求的技術及產品的發展歷程,介紹了日志管理在技術加持之下,由難到易、由慢到快、由簡單收集、監控到關聯分析的演進過程。
十年前,日志管理剛剛起步的階段,功能更加傾向于滿足留存審計的需求,IT系統相對較少,數據有限,企業主要采用數據庫的方式收集及存儲日志。隨著IT系統的逐漸增多,數據量快速增長,數據庫已是難承其重。在這個階段,日志易等日志管理廠商開始使用開源搜索引擎技術進行日志收集和分析。直到今天搜索引擎軟件ES(Elasticsearch)依然為諸多企業及日志管理產品商所采用。
然而ES技術作為舶來品,以及分析功能較弱的特點,導致一方面,對部分日志數據進行分析的安全法要求難以落地,基于安全考慮采用自主創新產品的需求不能滿足。另外一方面,由于產品分析功能的缺失,導致企業的日志管理面臨一系列的挑戰。
比如,在統一日志管理方面,傳統日志管理平臺日志查詢方式原始、效率低下,無法基于日志進行深層次的業務邏輯分析和告警,同時缺乏安全可控的日志管理手段等。在運維監控分析方面,傳統管理平臺性能弱,難以靈活實現跨部門協作、響應。監控遲緩、運維被動響應,監控維度粗獷,故障排查方式落后等;在安全運營方面,綜合分析能力薄弱,告警降噪能力不足,聯動處理自動化不足,告警結果未與安全設備形成聯動,新技術、新架構覆蓋范圍和檢測技術不足,如容器、微服務等,日志處理能力不足,海量日志溯源效率低,未能做到全攻擊鏈日志采集。
正是基于對企業需求及挑戰前瞻性的思考,較早采用開源搜索引擎技術之一的日志易又先行一步“改弦易張”,2018年,日志易自主研發的日志搜索分析引擎Beaver上線,強化了分析功能、每天可處理PB級日志、實現了國產自研,性能數倍于國外開源軟件的同時,還可以為企業節省50%以上的成本。經過數年技術的打磨與實踐,如今擁有成熟產品矩陣、自主創新的日志易“機器大數據智能平臺”在金融及制造等行業助力企業應對IT挑戰,打造了諸多創新應用場景。
智能分析加持:企業數字化運營“如虎添翼”
“數據驅動”是企業數字化轉型的目標,也是實現企業降本增效的重要路徑。隨著企業進入由數致智的轉型新階段,“數據驅動”的范疇不斷擴大及深化。在這個過程中,加持了智能分析功能的日志管理平臺,為運維、安全、運營分析領域落地“日志數據驅動”場景及“如虎添翼”價值發揮了決定性的作用。
對于用戶比較關注的功能邊界問題,黃俊毅逐一進行了分析介紹。比如在運維及安全領域,一些網絡管理的產品或者系統,發揮的是對硬件設施或者CPU內存的監控,而日志數據的分析更擅長于業務類的指標監控,比如交易量、請求量、耗時等等。在故障臺賬方面,網管及日志發現的問題,最終的目標是定位問題,在這個方面日志數據對于網管系統是一個補充,雙方是互補的關系。在實時運營分析層面,傳統的BI分析主要基于結構化數據,對于非結構化數據(包括IT 系統和設備的運行數據,甚至一些物聯網數據等)則很少使用,實時性較差。而日志涉及到非結構化數據來源更廣泛、數據量更豐富,可以與傳統的業務分析數據形成互補,為企業展現更全面、精準的業務狀況,促進業務優化。
而在金融、汽車、能源等產業,圍繞日志數據進行的智能運營分析在提升核心業務運營決策、用戶體驗,提高良品率、車聯網前端運營等方面,創新場景及成果也在持續地落地過程中。
在金融行業,包括農信銀通過日志易實時監控業務狀態、更快定位故障,交易耗時分析用時減少了97%,監控大屏展示延遲縮短了98%,異常感知及定位耗時減少了90%,熔斷信息查詢定位,用時縮短了90%;江蘇銀行借助日志易實時監控業務狀態,提升了服務保障與用戶體驗;大家保險通過構建智能日志中心平臺,挖掘數據資產價值,提升了核心業務運營決策效率。
在汽車行業,隨著智能網聯新能源汽車的快速發展,企業部署了一系列大數據系統,車輛越多,系統負載的數據量就越大,每天可以產生幾十到上百TB。早期,日志易與車企的合作重點在于保障系統的穩定運行,監控請求的耗時、成功率等等運維相關的工作。隨著日志易平臺分析功能的日益增強,其與客戶合作的范疇延伸至車聯網、車載等前端內部狀態數據。
除此之外,工業產線分析也是日志易平臺分析功能發揮的重要舞臺之一,在實施運維的同時,通過對產線重要節點精準數據的分析,幫助企業及時發現問題,實現質量追溯,提高良品率及生產效率。
作為日志管理核心功能之一,應對制造業越來越高的數據安全需求,日志易強化了用戶行為分析和數據泄露分析功能,提升了企業的監控能力,滿足了其安全的需求。
專精特新小巨人:下一步發力的新起點
2021年,日志易入選工信部專精特新“小巨人”企業,除此之外,日志易已經當選信創工委會大數據組組長,獲得35項發明專利、18項外觀專利,還有國家高新技術企業、中關村前沿企業、德勤北京“朝陽明日之星”等多個榮譽傍身。而“小巨人”的入選條件,不僅是對日志易產品技術、公司價值及發展潛力的認可,更是對企業能力的總結:10年專注于日志管理領域,市場占有率高;研發能力強,不斷創新,擁有Beaver自研高性能搜索引擎、SPL低代碼語言支持300多種函數、指令,可對不同時段、不同類型數據進行關聯分析,對于產業鏈強鏈補鏈成果明顯;自主品牌且具有競爭優勢。
近年來,在這個新的起點之上,日志易在產品研發、平臺智能化等方面持續發力,中國本土豐富的用戶資源,政府對于數字經濟的持續推進等態勢為日志易平臺的推廣及不斷優化提供良好的土壤。
談及產業發展趨勢及日志易下一步提升的方向,黃俊毅提到,云原生等創新趨勢對于日志平臺搜索引擎的分級部署、關聯搜索、關聯分析等功能提出了更高的要求,日志易機器數據智能分析平臺已經能夠完全滿足這種新形式下的日志管理需求。對于時下熱門的大模型技術,日志易已經開始了關注和探索,以期進一步提升平臺的智能化能力,持續滿足不同階段企業對于日志管理的需求和期待。