中國地大物博,人口眾多,很多民生工程都是至關重要的,電網就是其中的典型代表。作為全球最大的公用事業企業,電網經營區域覆蓋全國,供電人口數量龐大,是關系國民經濟命脈和國家能源安全的國有重點骨干企業,承擔著保障更安全、更經濟、更清潔、可持續的電力供應基本使命。然而作為電網運作的支持基礎,電網的信息化建設一直面臨著來自地域跨度大、異構化管理、利舊觀念根深蒂固等問題,企業信息化建設在不斷向前發展。
除了面對傳統信息化建設轉型的挑戰,電網還面臨著來自“互聯網+”的壓力。在“互聯網+”的大環境中,其業務形式、服務理念改變,讓電網認識到信息化一定要服務于用戶 ,用戶體驗才是“互聯網+”潮流中的主要競爭力。與此同時,電網龐大系統產生的海量歷史實時數據的利用也是個難題,如何針對電網各環節運行和監測中產生的海量歷史實時數據,做相應的存儲、集中、整合、共享和分析,同時對外提供標準統一的訪問服務,是電網信息化建設的重要組成部分。
大、多、新、難——日志集中管理來幫忙在電網的海量數據中,比較讓人頭疼的數據之一便是日志。我們都知道,電網在多年的發展中不斷的更新進化,長年累月的積累導致各方面的設備類型種類較多。與此同時,由于發展服務器的數量規模也在不斷壯大,更涉及到省、市、縣等多級接入,面臨的復雜情況可想而知。再加上電網進入云化改造階段,運維人員從原來幾百臺小型機,轉換到面對上千臺x86服務器,幾千個虛擬機,日常運維也帶來新的復雜變化。
基礎設施的龐大也預示著業務系統多樣化,生產系統、營銷系統、調度系統、財務系統、中間件、數據庫等等上百個系統同時運轉,而且由于時間和業務需求不同,這些系統大多是來源于不同時期的不同開發商,日志非常不規范,一旦其中某個系統出現問題,想要及時定位故障所在會非常困難,于是日志易就能彰顯價值。
在對業務系統、基礎設施以及網絡設備的日志進行集中管理后,提取不同設備及應用的日志字段用于后續事件分析,這中間涉及防火墻、中間件、Linux和Windows操作系統等多種類型日志。
采集后我們可以基于角色的權限管理,對日志進行分組,賦予使用者不同的權限,如此龐大規模的日志我們可以按照習慣設立成數十個分組,讓整個體系架構清晰明了。與此同時還能通過儀表盤分組,靈活查看不同設備日志的整體運維情況,方便掌握龐大系統下的不同模塊運行情況,做到有的放矢。
集中管理還不夠,用日志來做深度分析
做到了復雜情況下的日志集中管理,其實是遠遠不夠的,這只是第一步,我們還需要把獲取的日志數據利用起來,這時候面臨的情況就更加復雜了,例如有的時候業務出現問題,而網管監控系統的指標卻是正常的,更難以從海量日志中快速定位故障。
面對這種情況,我們可以隨時調閱定時任務統計結果進行分析,同時對每天統計結果進行二次統計,進而分析出周、月、年的業務數據運維情況,并定時產生報表,自動發送用戶郵箱。
在深度分析方面,日志易不僅可以通過歷史基線對比,實時掌握同比數據分析情況,還可以更精細的分析不同維度的業務運行情況,下面便是一些通過日志進行業務分析的典型例子:
上圖的分布圖和柱狀圖直觀的顯示出業務系統來源IP的分布,可以看出有一個IP在最近30分鐘內的訪問量比其他IP都要多很多。經過分析推測出兩種潛在原因:
-
該IP為堡壘機,所有客戶端的訪問都經過堡壘機訪問到業務系統。如果是堡壘機,可以看出堡壘機的負載并不均衡,需要運維人員著重觀察下堡壘機的負載情況。
-
該IP是客戶端IP,如果是客戶端IP的話,那么近30分鐘的訪問量達到6萬次,需要運維人員重點關注下該IP對應屬于哪個部門的的哪個人員,有沒有在做高危操作。
上圖的業務訪問區間為正態分布展現,對于在藍色區域面積的訪問量是正常的,超過面積的則為異常點,可以通過鼠標下鉆到詳細日志,可以查看異常的詳細情況,方便及時解決業務異常情況。
除此之外,我們還能詳細查看業務系統404錯誤排行、業務系統訪問排名、主機情況、交換機概述等具體情況,同時還能對多設備運維數據進行實時對比。
最后我們還能通過對不同設備進行告警設置,配置交換機常用關鍵字告警策略,觸發告警后產生報表并自動發送至用戶郵箱。
電網的信息化建設情況復雜,海量日志數據的合理利用為電網提供了便利并帶來巨大價值:采集網絡設備、服務器日志并進行日志解析,實時化運維對關鍵字進行告警,對日志核心指標進行分析;運維自動化、智能化,根據業務邏輯關聯分析日志信息,自動分析異常業務流轉環節;基于海量日志數據挖掘的智慧運維,做到運維的異常自動檢測、容量預測和規劃等。相信隨著對海量日志數據價值的深度挖掘,未來日志易還會為電網提供更有力的后續支持。
-
特高壓大電網
+關注
關注
0文章
2瀏覽量
1068
原文標題:大電網復雜環境下的海量數據解決方案
文章出處:【微信號:gridthink,微信公眾號:電網智囊團】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論