隨著“云大物移智”等數字化技術和應用的蓬勃發展,國家將依托于數字資產的“數字經濟”作為經濟結構轉型的重要手段,提出建設數字中國的戰略。
當前,南方電網公司緊緊把握第四次工業革命的歷史機遇,將數字化作為公司戰略轉型的重要路徑,重點圍繞數字電網、數字運營和數字能源生態三個方向,通過“全要素、全業務、全流程”的數字化轉型,推進“數字南網”建設,推動公司向智能電網運營商、能源產業價值鏈整合商、能源生態系統服務商轉型。
數字經濟蓬勃發展,南方電網公司如何收全、管好、用精數字電網環境下產生的多源、海量、異構的數據資源,成為公司數字化轉型的重要挑戰。
轉型挑戰
在數字技術發展的推動下,社會形態、市場規則都發生重大轉變,數字化轉型已由互聯網科技行業逐步擴展到傳統行業。
面臨新一輪電改等形勢,南方電網公司亟待進行變革。為何這一輪的變革必須依托數字化?其實不難發現,對外,數字化能驅動能源消費市場和產業生態的變革;對內,數字化能賦能企業生產效率和管理效益的提升;內外相結合,還能共同催生出創新的業務模式,促進能源價值鏈整合。可見,利用數字化技術和思維,不僅能推動能源流、價值流、信息流融合,持續提升公司的信息化、數字化、智能化水平,還能夠為南方電網公司“三商”轉型戰略落地提供重要支撐。
數據、平臺、用戶、應用是南方電網公司數字化轉型的四大核心要素。數字電網廣泛運用傳感測量、通信信息等新型技術,將物理電網的結構、特性等信息進行全面的數字化表征、描述和實現,產生了更加豐富的數據類型、更加復雜的數據生成模式以及更高的數據消費響應要求,給數據整合利用帶來巨大的技術挑戰,對南方電網公司數據中心(以下簡稱“數據中心”)提出了更高的能力要求:如何切實做到“收全”“管好”“用精”數據,服務公司數字化轉型戰略的有效落地成了亟待解決的關鍵問題。
數據作為南方電網公司推動能源鏈、價值鏈和信息鏈融合的“原材料”,作為加速“三商”轉型的“催化劑”,是物理電網實現孿生數字電網的“天然紐帶”。隨著業務數字化的程度不斷拓寬加深,將給南方電網公司帶來更多的數據,同時數據又將驅動業務產生新的商業模式,實現數據和業務的良性互動。南方電網公司的數據應用體系會隨之從單一的統計報表類分析,衍生出諸如創新業務流程、智能決策、數據挖掘、數據洞察、用戶自助分析等更為豐富的業務應用類型。而傳統的“旁站式”數據中心主要還是圍繞從源端業務系統采集至數據中心的數據開展分析型應用,對事務型的業務系統應用實時支撐不足,各業務系統間容易形成技術筒、數據墻,導致數據融合難度不斷加大。此外,業務系統“各自為政”地開展數據應用建設,為南方電網公司推動公共數據積累和公共數據服務沉淀,實現數據“一處產生,多處應用”帶來制約,難以構建公司統一的數據支撐能力視圖,公司數據中心升級完善就此啟動。
定位升級
推動數據中心從“旁站式”向“底座式”模式轉變,真正實現公司數據層面的無縫融合和業務層面的共享共用
自“十二五”以來,數據中心發展歷經三個階段:在早期“6+1”系統建設階段,搭建企業級數據倉庫,實現了公司總部指標的統計分析與展現,支撐公司各業務部門的指標管理要求;在中期大數據技術初步應用階段,數據中心完成了傳統集中式數據處理架構向分布式處理架構的升級,為全網的統計分析需求提供了技術支撐;在當前大數據技術體系全面建設與發展的數字化轉型階段,公司引入先進技術和成熟組件產品建設“底座式”數據中心,實現了對海量、異構、多頻數據的采集、存儲、計算和分析服務。
所謂的“底座式”數據中心,是指以云數一體的方式升級公司數據中心,實現數據中心組件自動化部署、資源彈性化管理、數據模型統一設計和管控、事務型與分析型數據庫一體化管理、數據服務化供給和數據全鏈路監控的技術特性,切實打通數據壁壘,沉淀公共數據服務,使得公司數據中心成為公司數字化轉型和數字南網建設所有平臺和應用的統一基礎數據底座。
作為南方電網公司數字化轉型和數字南網建設的基礎數據底座,數據中心將推動全域數據統一匯聚、數字電網模型統一設計、海量數據統一存儲、大數據分析計算組件統一支撐,促進數據層面的無縫融合和業務層面的共享共用。對內,實現對各類業務應用提供按需便捷的數據服務,滿足業務模式創新需求,成為提升管理水平的“倍增器”;對外,實現南方電網公司與國家、政府、企業間的數據對接,推動共享開放、合作互利,成為公司構建能源價值鏈的“連接器”。
能力升級
實現重點技術突破,持續構建和完善大數據核心工具組件,推動數據中心能力升級,為數字南網建設賦能
2019年,數據中心根據基礎數據底座的總體定位,通過采購相關成熟工具組件開展平臺功能的建設完善,面向數據采集、建模、存儲、分析和服務能力得到了全面加強,為促進公司大數據技術與業務的深度融合提供了新的有效的支撐。
在數據采集方面,數據中心作為南方電網公司數據統一匯聚的唯一平臺,數據采集范圍不斷擴展,數據種類日漸豐富。利用OGG日志解析技術,數據中心已實現包括全網營銷、資產、財務、人資等10個系統的結構化數據全域采集,累計采集數據368.9TB,日均增量0.3TB;通過sftp、kafka等采集技術,已實現對58套調度自動化系統(含OMS)實時數據的秒級采集,并實現了涵蓋五省區電網公司和深圳供電局的計量自動化、配網自動化、氣象、設備在線監測、電能質量、電壓監測、繼電保護及故障信息系統、覆冰、雷電、山火共148套系統實時數據的秒級采集,累計采集數據567TB;此外,數據中心也已完成協同辦公系統、電子商務系統、數字檔案館、機巡管理系統中的圖檔、文件、機巡圖片等非結構化數據持續采集,累計采集數據110TB。
在數據模型方面,構建了南方電網公司統一數字電網模型基線,為打通數據關聯、保障數據規范、推動數據高效應用提供了基礎支撐。依據各業務域需求,數據中心開展了覆蓋全域的統一數字電網模型基線版設計,涵蓋發、輸、變、配、用能量全過程,貫穿規劃、采購、運行、檢修供應鏈全環節,2019年累計完成932個模型設計開發,為電網資源中心、電網管理平臺、客戶服務平臺等提供了統一模型支撐。
在數據存儲方面,數據中心采用的數據庫技術門類齊全,支撐的應用場景豐富:利用MPP分布式并行存儲(MPP)技術,支撐了公司企業級運管和專業域運管、統計報表和實時指標類數據應用;利用分布式列式存儲(HBase)和分布式全文搜索技術(Elastic-search),支撐了微信賬單、移動營銷等應用;借助分布式結構化存儲技術(Kudu),支撐數字烏當、海南掌廳等應用;借助實時數據存儲技術,支撐了對時序大數據的存儲和處理;借助對象存儲技術,實現了對協同辦公系統、電子商務系統、數字檔案館、機巡管理系統中的圖檔、文件、機巡圖片等非結構化數據的統一托管存儲。截至目前,數據中心用于數據存儲的服務器共421臺,可用存儲達21.34PB,通過彈性擴容能力逐步承載公司全域數據的存儲需求。
在數據服務組件方面,打造數據中心服務組件層,沉淀公共數據服務,提升數據服務標準化水平和服務敏捷性。2019年,數據中心打造了統一門戶、數據工廠、自助分析、數據服務引擎等能力服務,為數據“原材料”的快速加工和有效沉淀提供了支撐,各級員工可利用一站式的數據開發模塊開展數據全流程處理、數據可視化展示、數據自助分析等應用,為加速數據分析應用迭代、員工自主分析、內部數據供給提供了能力保障。
在數據安全方面,南方電網公司構建起關鍵領域和敏感信息“進不來、拿不走、打不開、賴不掉”的四道信息安全防線,確保在不影響業務、不降低性能的前提下,對數據中心數據構建了入口加密、出口脫敏、全程審計的數據安全防護能力。在數據加密方面,已完成對生產管理區重要數據的加密,消除了明文存儲引起的數據泄露隱患;在數據脫敏方面,已實現測試區所有數據均為脫敏數據,生產區數據可按需進行動態脫敏;在數據審計方面,目前已實現對數據庫操作行為的全面監測與審計,能夠及時發現非法違規操作并實時告警,也可以做到主動防御和攻擊留痕,基本達到實時審計、全過程審計和安全問題可追溯的要求。
展望未來
數據中心作為支撐南方電網數字化轉型的基礎數據底座,將成為釋放大數據價值的新引擎
2020年,數據中心將在《大數據技術與應用發展專項規劃》的總體指導下,以平臺升級完善和應用建設為抓手,數據治理和數據安全保障為兩翼,完成支撐數字化轉型的基礎數據底座建設,實現全域數據可信匯聚、多元服務按需供給、業務發展全面驅動、數據安全全面保障,進一步促進大數據技術與業務深度融合,打造成為南方電網公司釋放大數據價值的新引擎。
在南方電網公司數字化轉型的工作部署下,數據中心將繼續從制度標準、數據平臺、數據供給、數據管理、數據應用和數據安全六個方面入手推動相關建設:
在制度標準方面,持續完善大數據領域相關制度標準和技術規范的編制與發布,讓南方電網公司基礎數據管控工作有法可依,有章可循。
在基礎平臺方面,開展數據中心相關平臺與應用有序上云,實現“云數一體”;推動數據湖建設,實現南方電網公司多源異構數據的統一匯聚和全面融合,同步支撐分析型與事務型業務應用;持續開展數據服務化能力建設,為各類業務平臺和數據應用提供敏捷、高效、準確的數據供給;建立數據端到端的全鏈路業務監控,支撐數據多方位監控和分析,為提高數據質量提供支撐。
在數據供給方面,持續拓展數據接入與供給范圍。進一步提升南方電網公司對調度、計量、設備狀態監測三大自動化域的實時數據接入范圍和頻次,同時擴展至物聯網數據的全面接入;向各業務應用提供更加高效的非結構化數據接入和支撐;結合各單位對外部數據的需求,統籌開展外部數據的統一接入和對外共享服務。
在數據管理方面,完善制度標準并開展常態化管控與專項行動,提升對南方電網公司各類平臺和應用建設的數據質量保障。按照“三不”原則,持續開展常態化數據強管控工作,覆蓋數據標準、數據模型與數據技術路線。組織業務部門和各分子公司開展進一步提升南方電網公司數據質量專項行動。
在數據應用方面,致力數據服務于南方電網公司領導層、管理層與基層全覆蓋,“點面結合”開展數據應用建設推廣工作,全方位釋放數據價值。“點”上尋突破,基于公司數據中心算力的提升,選取實時算費、電費復核等典型大數據應用場景,開展大數據技術與業務的深度融合建設;“面”上重普及,通過自助分析工具等能力的推廣和深化應用,讓數據供給服務范圍覆蓋“網、省、地、縣”各級員工,切實滿足不同層級對數據的需求。
在數據安全方面,數據中心將按照國家等保2.0中第三級系統的安全防護要求,深化本體安全及數據全生命周期安全防護建設。率先完成數據中心同城容災的建設,同步完成異地災備技術路線驗證。
■基層聲音
非結構化數據服務平臺上線后,將各單位原本離散存儲的機巡照片、視頻等非結構化數據集中存儲、管理,為后續缺陷照片標注、機器學習算法訓練奠定堅實基礎,方便人工智能等數字化轉型新技術的深化應用。
——超高壓公司生技部專責 簡洪宇
機巡管理系統的圖片、視頻等數據于2019年10月接入到公司數據中心非結構化數據服務平臺,大大降低了系統存儲壓力,機巡作業人員對桿塔、線路、絕緣子等故障點的查詢、統計和分析更加快捷便利。
——廣西電網公司生技部專責 于榮華
通過實時數據服務平臺采集計量自動化、調度自動化等電網實時數據,實現了電量、負荷數據的實時同步,為提升基層供電所臺區線損管理及異常分析水平,縮短用戶停電搶修時間,提升供電服務能力提供了關鍵的數據支撐。
——云南電網公司科信部 董燦
實時數據平臺在應用支撐過程中針對業務需求提供了相應的數據保障,能滿足應用端對數據實時性、完整性的要求,平臺提供接口服務監控功能,對數據支撐過程中的接口服務情況能很清晰地通過界面了解,及時響應處理問題,平臺服務得到客戶的一致認可。
——廣東電網公司信息中心專責 謝瀚陽
通過數據中心自助分析工具可視化的數據分析方式,有效解決了都勻供電局缺陷消缺率和消缺及時率到分縣局的統計需求。極大地縮短我局獲取數據、分析數據的時間。自助分析工具結合不同的應用場景,開展自助分析,成為基層數據分析、洞察數據的有力幫手。
——貴州省電網公司都勻供電局班長 郎家均
■案例
1 補齊非結構化數據服務“短板”
■成果介紹
公司數據中心非結構化數據服務平臺補全了公司對非結構化數據的服務短板,實現了對非結構化數據的管理,為公司各類文檔、圖片、音頻、視頻等非結構化數據提供統一的PB級存儲、調用訪問、處理和供給等服務能力。
■應用情況
自2019年10月以來,非結構化數據服務平臺完成對廣東、廣西、貴州、云南、海南等單位超過100TB(約600萬條)的機巡圖片、視頻、點云等非結構化數據接入,有效支撐了全網對機巡數據的統一管理,為人工智能圖像識別提供了規模化的樣本數據。同時,接入了公司總部合同管理系統、電子商務系統超過500萬條的非結構化數據,為合同管理和采購記錄提供了高效的存儲和查詢檢索服務。
2 實時數據服務升級顯“本領”
■成果介紹
公司數據中心實時數據服務平臺完成升級,增加了實時采集鏈路監控、數據接入配置可視化、服務管理、模型融合與匹配支撐等功能;擴大了計量自動化、調度自動化域采集范圍;保障了業務系統對數據實時性、完整性、一致性的服務需求。2019年全年,公司數據中心實時數據服務平臺已經建立起207個數據通道,打通了全網調度、計量、設備狀態監測三大領域11個系統,實現了涵蓋運行電能表電壓電流、運行電能表功率、模型數據、線路、開關、氣象、覆冰等超過1600項實時數據采集,接入的實時數據量近600TB,日增量達到0.5TB。
■應用情況
目前已支撐了包括網級生產監控指揮平臺配變重過載應用、營銷管理系統的日線損應用、廣東配網調度自動化實時監控和輔助分析應用、廣西配網規劃系統應用以及海南數字電網平臺應用在內的3個網級應用和42個省級應用,為各業務領域對實時數據的需求提供了強力支撐。
3 自助分析工具“授人以漁”
■成果介紹
2019年12月20日,南方電網公司自助分析工具正式投運,用戶可通過工具靈活獲取數據中心豐富的跨業務域分析素材,同時,用戶無需代碼開發,通過“拖拉拽”的方式就可以自助創建所需可視化多維分析報表,實現快速高效開展多維度、多角度數據分析的業務支撐。
■應用情況
自助分析工具目前在省、地、市各級選取試點單位開展推廣工作。貴州電網基于自助分析工具,實現都勻供電局缺陷數據監控指標統計需求和貴陽烏當供電局電量電費分析需求;同時,廣東電網公司基于自助分析工具完成了電子化移交量監控、珠海供電局的電量電費等自助分析應用。后續將總結試點應用單位經驗,向全網開放使用。