電力計量主站采集鏈路監(jiān)測技術(shù)研究與應用

　　隨著電力計量設備種類、數(shù)量的持續(xù)增長，采集數(shù)據(jù)項、頻次的逐漸增多，電能量數(shù)據(jù)量呈爆發(fā)式增長趨勢，如何建立一套切實有效的電力計量關(guān)鍵業(yè)務全鏈路監(jiān)測體系，加強對各關(guān)鍵業(yè)務鏈路級的監(jiān)測，進一步提高電力計量主站運維效能，值得深入探討與研究。本文以南方電網(wǎng)某省電力公司為例，通過分析電力計量主站運行監(jiān)測現(xiàn)狀問題以及南方電網(wǎng)相關(guān)政策要求，設計了基于典型場景分析、監(jiān)測對象與指標界定、技術(shù)路線設計、監(jiān)測信息攔截收集、傳輸與匯聚、數(shù)據(jù)處理展現(xiàn)的電力計量主站采集鏈路監(jiān)測整體方案。

　　關(guān)鍵詞電力計量;主站采集;鏈路監(jiān)測;技術(shù)設計

　　當前電力行業(yè)發(fā)展面臨供給側(cè)結(jié)構(gòu)性改革、售電市場放開、能源新技術(shù)涌現(xiàn)等變化，隨著電力計量設備種類、數(shù)量的持續(xù)增長，采集數(shù)據(jù)項、頻次的逐漸增多，電能量數(shù)據(jù)量呈暴發(fā)式增長趨勢，對電力計量主站運行水平提出了更高要求，如何建立一套切實有效的電力計量主站采集鏈路監(jiān)測體系，加強對各關(guān)鍵業(yè)務鏈路級的監(jiān)測，進一步助力電力計量主站運維效能提高，值得深入探討與研究。

　　1電力計量主站采集鏈路監(jiān)測技術(shù)架構(gòu)

　　1.1系統(tǒng)架構(gòu)

　　電力計量主站采集鏈路監(jiān)測系統(tǒng)是由電力計量主站、通信網(wǎng)絡和采集終端共同構(gòu)成的，以此實現(xiàn)對所有電力用戶數(shù)據(jù)信息的采集、分析、處理以及應用。

　　1.2系統(tǒng)主站電力計量主站采集鏈路監(jiān)測系統(tǒng)主站是由應用服務器、接口服務器、業(yè)務處理器以及通信前置機共同組成的。其中，應用服務器可以向廣大電力用戶提供數(shù)據(jù)和Web等的優(yōu)質(zhì)服務，接口服務器可以實現(xiàn)數(shù)據(jù)信息的存儲和管理，業(yè)務處理器可以實現(xiàn)對數(shù)據(jù)信息的實時備份，更進一步保證了數(shù)據(jù)信息的安全性;通信前置機具有通信調(diào)度、鏈路管理以及信息數(shù)據(jù)統(tǒng)計等的功能。

　　1.3通信網(wǎng)絡通信網(wǎng)絡作為整個電力計量主站采集鏈路監(jiān)測中的一個重要組成部分，對于系統(tǒng)的優(yōu)劣和應用范圍要求很高，其需要借助先進的技術(shù)手段，才能將搜集到的數(shù)據(jù)信息匯總到系統(tǒng)主站上，使其具備主端命令下達的重要功能。

　　2電力計量主站采集鏈路監(jiān)測的建設必要性

　　2.1省公司計量主站采集運維現(xiàn)狀及問題

　　南方電網(wǎng)某省電力公司計量主站自上線至今已穩(wěn)定運行多年，在服務器、中間件、數(shù)據(jù)庫等系統(tǒng)狀態(tài)及覆蓋率、自動抄表率等業(yè)務指標全部實現(xiàn)了高效的監(jiān)測。伴隨著公司系統(tǒng)規(guī)模的不斷壯大和業(yè)務量的逐年增加，導致內(nèi)部資源對象、業(yè)務層級和容器層級的監(jiān)管和排查變得越來越麻煩。當前電力計量主站系統(tǒng)監(jiān)控暴露出以下幾方面的問題:

　　(1)故障定位效率需提升。在對系統(tǒng)進行一段時間的迭代建設以后，完善功能層面的各項信息，架構(gòu)也隨之優(yōu)化升級，監(jiān)控系統(tǒng)故障定位效率也面臨著新的機遇，如監(jiān)控資源對象動態(tài)可變，無法進行預先配置[1];缺乏一致性的監(jiān)控視角，使得故障排除效果不夠理想。

　　(2)趨勢預測能力差。以往使用的傳統(tǒng)監(jiān)控預警算法里，監(jiān)控數(shù)據(jù)影響著預警閾值的選取，暗漲和陰跌的數(shù)據(jù)變化不夠明顯，數(shù)據(jù)變化趨勢控制非常困難，漏報、誤報的情況時有發(fā)生。借助被動預警方式的系統(tǒng)擴容手段對異常問題進行處理，因此，需要有完善的預測機制來高效地預測可能會發(fā)生的問題。

　　(3)傳統(tǒng)抄表弊端。由于傳統(tǒng)的抄表工作不論是管理方式還是作業(yè)流程都比較分散，且受人為的影響因素較大。加之，傳統(tǒng)抄表工作主要由抄表人員通過使用電話、短信或者上門等的方式實現(xiàn)電費的催繳，缺少統(tǒng)一的繳費管理，無法有效完成電費的收繳，且監(jiān)管力度不夠以及催繳效果不理想等的弊端。

　　2.2南網(wǎng)數(shù)字化轉(zhuǎn)型與電能量數(shù)據(jù)深化應用要求

　　近年來，南方電網(wǎng)公司提出了“數(shù)字南網(wǎng)、智慧南網(wǎng)”的建設目標，而計量自動化系統(tǒng)作為南網(wǎng)關(guān)鍵組成系統(tǒng)之一，是支撐南網(wǎng)數(shù)字化轉(zhuǎn)型成功的關(guān)鍵組成要素，其在“數(shù)據(jù)資源、數(shù)字電網(wǎng)、數(shù)字運營、數(shù)字能源生態(tài)”建設中發(fā)揮著巨大的作用。

　　同時，南方電網(wǎng)公司在2020年也提出了“開展新一代計量自動化主站技術(shù)研究”“加強主站性能在線監(jiān)測”等要求。隨著電力計量設備種類、數(shù)量的持續(xù)增長，采集數(shù)據(jù)項、頻次的逐漸增多，電能量數(shù)據(jù)量呈暴發(fā)式增長趨勢，進一步凸顯了電力計量主站要提升計量采集能力、加強主站性能監(jiān)測等方面要求。因此，本文建立一套切實有效的電力計量主站采集鏈路監(jiān)測體系，加強對各關(guān)鍵業(yè)務鏈路級的監(jiān)測，進一步助力電力計量主站運維效能提高，具有十分重要的意義。

　　3電力計量主站采集鏈路監(jiān)測整體設計

　　3.1典型場景分析

　　監(jiān)控系統(tǒng)的主要作用是全面掌握現(xiàn)場所有場景的運行情況，仔細觀察監(jiān)控系統(tǒng)，能夠及時發(fā)現(xiàn)潛在的問題，并采取措施予以處理。借鑒其他行業(yè)領(lǐng)域全鏈路監(jiān)測技術(shù)應用情況，典型全鏈路監(jiān)測場景主要包括以下幾個方面：

　　(1)獲取監(jiān)控數(shù)據(jù)。在對監(jiān)測內(nèi)容、全鏈路調(diào)用等監(jiān)控樣本信息從實例中獲取時，具有較強的周期性，使用時間序列數(shù)據(jù)庫來儲存這些獲取的信息。(2)可視化展示拓撲發(fā)現(xiàn)與數(shù)據(jù)狀態(tài)。從客戶端到服務器端，使網(wǎng)絡拓撲結(jié)構(gòu)、數(shù)據(jù)庫、中間件和應用系統(tǒng)等得到了全面的展現(xiàn)，對服務端應用代碼進行自動監(jiān)測。

　　(3)應用系統(tǒng)報警。業(yè)務系統(tǒng)的狀態(tài)信息被及時記錄，科學設計預警閾值，系統(tǒng)出現(xiàn)問題以后，其某一狀態(tài)就會超出閾值的范圍會自動報警，顯示出現(xiàn)問題的具體鏈路節(jié)點信息，監(jiān)測系統(tǒng)及時反應出來，管理員在第一時間做出判斷。(4)故障診斷分析與定位。鏈路請求分析工具的慢請求，借助深入診斷工具鉆取鏈路信息，從系統(tǒng)網(wǎng)絡拓撲節(jié)點開始直到代碼型號級別，在分析歷史數(shù)據(jù)和監(jiān)控指標以后，及時找到問題的根源，給研發(fā)人員和運行維護人員對問題進行處理提供依據(jù)。

　　3.2監(jiān)測對象和指標界定

　　運行全鏈路監(jiān)測是指從全局上下游視角出發(fā)，利用信息采集、計算與展示技術(shù)，反映呈現(xiàn)監(jiān)測對象即端到端調(diào)用鏈路節(jié)點的健康狀況監(jiān)測指標信息，助力業(yè)務運維人員快速發(fā)現(xiàn)、定位、排查問題。其中，端到端調(diào)用鏈路節(jié)點、健康狀況監(jiān)測指標信息是運行全鏈路監(jiān)測的核心概念。

　　(1)合理的監(jiān)測對象，即端到端調(diào)用鏈路節(jié)點是承載運行全鏈路監(jiān)測的必要前提。端到端調(diào)用鏈路節(jié)點，即從請求源頭到最后的結(jié)束調(diào)用的所有中間環(huán)節(jié)，這就是通常意義上的業(yè)務服務的調(diào)用路徑。在跟蹤分析調(diào)用路徑以后，及時發(fā)現(xiàn)前后端響應報錯或者是遲緩的根本原因，明確最佳使用路徑，優(yōu)化升級使用性能。

　　(2)符合真實業(yè)務特性的健康狀況監(jiān)測指標信息是開展運行全鏈路監(jiān)測的關(guān)鍵。健康狀況監(jiān)測指標，通常包括響應時間[2]、TPS[2](流量)、并發(fā)數(shù)[2]等。監(jiān)測指標的計算因子為指標基礎數(shù)據(jù)，使用該計算因子以后，能夠快速地將指標數(shù)據(jù)準確的計算出來，從監(jiān)控對象中直接獲取相關(guān)信息，為整個監(jiān)控系統(tǒng)提供可靠的依據(jù)。該系統(tǒng)監(jiān)控的核心內(nèi)容為整個調(diào)用鏈路和監(jiān)控服務，服務鏈路和節(jié)點為監(jiān)控對象，以計算公式和指標定義為基礎，最終確定指標基礎數(shù)據(jù)的內(nèi)容有請求服務名稱、接收請求時間、發(fā)送請求時間、響應服務名稱、調(diào)用鏈路ID(即ParentSpanID)、調(diào)用URL以及調(diào)用鏈路全ID(即TraceID)等。

　　3.3技術(shù)路線設計

　　為確實保障電力計量主站采集鏈路監(jiān)控數(shù)據(jù)的真實性及客觀性，將獨立開發(fā)建設監(jiān)控系統(tǒng)，并針對性的開發(fā)實用化監(jiān)控數(shù)據(jù)采集客戶端，嵌入計量系統(tǒng)采集監(jiān)控數(shù)據(jù)，并集中采集到監(jiān)控系統(tǒng)服務端進行分析統(tǒng)計及實時展示，最終實現(xiàn)鏈路監(jiān)控的建設。因此，設計開源監(jiān)控組件和分布式組件結(jié)合的監(jiān)測系統(tǒng)技術(shù)架構(gòu)，整個電力計量主站采集鏈路監(jiān)測從技術(shù)架構(gòu)上會根據(jù)具體業(yè)務不同有所變化，分為物理層、服務層、應用層。其中：

　　(1)物理層。應用層和服務層為虛擬化Docker容器，調(diào)度系統(tǒng)和容器管理為Kubernetes，使各項任務部署變得更加快捷，最大化的完成資源使用和遷移。(2)服務層。包括監(jiān)測信息攔截收集、數(shù)據(jù)傳輸與匯聚以及數(shù)據(jù)存儲與處理。(3)應用層。通過可視化Web界面來查詢電力計量關(guān)鍵業(yè)務全鏈路、采集信息和監(jiān)測指標，同時還提供根據(jù)不同維度的綜合統(tǒng)計分析應用。

　　3.3.1監(jiān)測信息攔截收集

　　監(jiān)控的核心問題在于對業(yè)務系統(tǒng)運行數(shù)據(jù)的實時采集上，為保障數(shù)據(jù)來源可靠和真實，并且對原業(yè)務系統(tǒng)的性能影響較小，因此采用了非侵入式探針技術(shù)。非侵入式探針技術(shù)監(jiān)測在采集方式上屬于旁路連接方式，由于不需要在業(yè)務系統(tǒng)中安裝客戶端，減少了對業(yè)務系統(tǒng)的影響，避免了給現(xiàn)有業(yè)務增加管理復雜度，減少了業(yè)務運行故障點，在監(jiān)測系統(tǒng)出現(xiàn)問題以后，現(xiàn)有的監(jiān)測系統(tǒng)不會受到任何的影響，使系統(tǒng)的穩(wěn)定性得到保證，同時，通過采集方式的熱部署和無縫銜接，還可以保證監(jiān)測系統(tǒng)的可擴展性。

　　應用在監(jiān)測信息攔截技術(shù)選型上采用Pingpoint。Pinpoint是一款全鏈路分析工具，提供了無侵入式的調(diào)用鏈監(jiān)控、方法執(zhí)行。通過選用Pinpoint工具開展探針及數(shù)據(jù)采集工作，公司根據(jù)業(yè)務需求對其進行探針優(yōu)化改造和插件開發(fā)，使它能夠更大程度滿足設計需求。

　　3.3.2傳輸與匯聚

　　通過監(jiān)測信息攔截收集功能，系統(tǒng)完成了對鏈路監(jiān)測信息的收集后，再由收集器將這些數(shù)據(jù)通過數(shù)據(jù)發(fā)送器負責將采集到的數(shù)據(jù)以數(shù)據(jù)流的方式發(fā)送給數(shù)據(jù)匯聚器。其中，數(shù)據(jù)發(fā)送器通常和監(jiān)測信息收集器通常一起部署在同一臺服務器上，根據(jù)設置的發(fā)送數(shù)據(jù)間隔，將監(jiān)控數(shù)據(jù)收集器中的信息采用異步線程同步的方式發(fā)送給數(shù)據(jù)匯聚器，減低對計量系統(tǒng)數(shù)據(jù)采集本身的性能影響。為了使數(shù)據(jù)能夠在監(jiān)測系統(tǒng)服務端和發(fā)送器之間實現(xiàn)高效的傳輸，也為了降低海量數(shù)據(jù)入庫和準實時計算導致的性能問題，我們引入了實時消息隊列Kafka以及Zookeeper集群的模式作為監(jiān)測數(shù)據(jù)統(tǒng)一匯聚器，以此為基礎，搭建數(shù)據(jù)高速傳輸路徑，使可插拔式集成得以實現(xiàn)，用戶能夠更加迅速、準確地獲得監(jiān)測信息，使服務端與客戶端的流數(shù)據(jù)整合得以較好實現(xiàn)，為數(shù)據(jù)存儲和流式計算提供數(shù)據(jù)。

　　3.3.3數(shù)據(jù)處理展現(xiàn)

　　數(shù)據(jù)處理是監(jiān)測系統(tǒng)的核心部分，主要通過獲取Kafka中的鏈路、指標數(shù)據(jù)，完成數(shù)據(jù)存儲和數(shù)據(jù)計算兩部分。其中，數(shù)據(jù)存儲采用ElasticSearch，一方面對調(diào)用鏈路、指標原始數(shù)據(jù)進行存儲，另一方面支持對經(jīng)數(shù)據(jù)計算后的數(shù)據(jù)進行存儲。監(jiān)控數(shù)據(jù)分析是數(shù)據(jù)計算處理的核心內(nèi)容，以匯總的監(jiān)控數(shù)據(jù)為基礎，使調(diào)用鏈各個節(jié)點上的響應時間、TPS、并發(fā)數(shù)和調(diào)用鏈得到準確的計算，以此為特征完成邏輯回歸模型的創(chuàng)建。

　　以歷史數(shù)據(jù)中獲取的調(diào)用鏈節(jié)點響應時間和并發(fā)數(shù)為基礎，對邏輯回歸模型的有關(guān)參數(shù)信息進行有效的訓練，準確地判斷出調(diào)用鏈在正 常運行狀態(tài)下的安全置信區(qū)域。在預測調(diào)用節(jié)點響應時間、TPS、并發(fā)數(shù)以及給定時間是否正常時，可以使調(diào)用鏈安全置信區(qū)域和邏輯回歸模式來快速預測出準確的結(jié)論。一旦發(fā)生問題，要第一時間報警。在應用過程中，針對監(jiān)測系統(tǒng)做了很多定制化的改造，以更高的提高查詢效率，主要表現(xiàn)在以下兩個方面:

　　(1)優(yōu)化查詢[3]。第一，優(yōu)化查詢請求。將“時間戳”參數(shù)加入查詢請求中，實現(xiàn)相應日期索引文件的查詢，防止遍歷Elasticsearch中的全部索引文件。第二，優(yōu)化單個traceID查詢。以往使用的查詢策略會遍歷Elasticsearch中全部的索引文件，并且“時間戳”數(shù)據(jù)也沒有包含在查詢請求中，使具體要訪問的索引文件得不到準確的確定。依據(jù)具體的天數(shù)來生成索引文件，將“時間戳”數(shù)據(jù)加入請求中以后，只能訪問對應日期的索引文件。針對“時間戳”相近索引文件創(chuàng)建時間點時，調(diào)用鏈的span會在兩天內(nèi)的索引文件中查詢到，使時間戳當天和第二天的索引文件實現(xiàn)有效的訪問。

　　(2)預警算法[6]。監(jiān)控數(shù)據(jù)的暗漲、持續(xù)陰跌或者是微量波動不會被傳統(tǒng)的監(jiān)控預警算法所發(fā)現(xiàn)，使得故障漏報的情況時有發(fā)生。對于此類問題，將機器學習算法與mean-shift等均值漂移模型結(jié)合在一起后引入監(jiān)控系統(tǒng)中，實現(xiàn)對監(jiān)控數(shù)據(jù)變點的準確查詢。變點主要是指在持續(xù)微量下跌到一定時間以后，變化量累積到一定程度時，變點前后監(jiān)測指標會在一段時間范圍之內(nèi)發(fā)生均值漂移。

　　傳統(tǒng)監(jiān)測預警算法難于識別的陰跌趨勢被均值漂移模型轉(zhuǎn)化成為CUSUM時間序列，通過對歷史數(shù)據(jù)的分析，使用機器學習算法將其變化趨勢自動地反映出來。使用支撐Web應用將處理好的數(shù)據(jù)展示出來，工具展現(xiàn)端為用戶提供各項服務，針對不同的角色提供不一樣的服務，還能夠?qū)⒇撦d預測、應用瓶頸以及采集全鏈路等指標狀態(tài)進行完美的實現(xiàn)，最大程度的支撐了典型場景的實現(xiàn)。

　　結(jié)語

　　本文以南方電網(wǎng)某省電力公司為例，通過分析電力計量主站運行監(jiān)測現(xiàn)狀問題以及南方電網(wǎng)相關(guān)政策要求，設計了基于典型場景分析、監(jiān)測對象與指標界定、技術(shù)路線設計、監(jiān)測信息攔截收集、傳輸與匯聚、數(shù)據(jù)處理展現(xiàn)的電力計量主站采集鏈路監(jiān)測整體設計方案。這些內(nèi)容已實現(xiàn)并開展應用，進一步提高了電力計量主站運行水平，助力了電力計量主站運維效能提高。且可滿足常見電力計量采集業(yè)務運行鏈路監(jiān)測需要，對其他電力公司研究設計電力計量采集運行全鏈路監(jiān)測具有較強的借鑒意義與可擴展性。

　　參考文獻

　　[1]馬永，吳躍，何李囡，等.基于Prometheus的基礎軟硬件全鏈路監(jiān)控設計和實現(xiàn)[J].電子技術(shù)與軟件工程，2019(24):39-40.

　　[2]丁學英，劉迪，邱鎮(zhèn).基于微服務架構(gòu)的應用監(jiān)控系統(tǒng)設計與實現(xiàn)[J].電力信息與通信技術(shù)，2018(7):75-79.

　　[3]佟業(yè)新，曲新奎.民航微服務架構(gòu)設計[J].中國科技信息，2019(21):27-29.

　　[4]劉霞霞，高阿朋，任春雷，等.一種基于APM應用全鏈路監(jiān)控工具設計[J].網(wǎng)絡安全技術(shù)與應用，2019(6):19-22.

　　[5]路輝，劉星.一種全鏈路分析工具在電力生產(chǎn)管理系統(tǒng)監(jiān)控的應用[J].中國戰(zhàn)略新興產(chǎn)業(yè)，2019(18).

　　[6]李映.移動應用支撐系統(tǒng)中全景監(jiān)控技術(shù)的研究與實現(xiàn)[J].電信工程技術(shù)與標準化，2019(06):61-65.

　　作者：林曉慶

轉(zhuǎn)載請注明來自發(fā)表學術(shù)論文網(wǎng)：http:///dzlw/29421.html