1.本发明属于电力信息技术领域,涉及一种数字潮流监测
指标体系构建及评估方法,尤其是一种基于
数据中台的数字潮流监测
指标体系构建及评估方法。
背景技术:
2.随着电力行业数据中台承载的业务系统及场景应用逐渐增多,数据
链路任务数量突增,目前尚缺少有效的电力数字潮流监测体系,无法及时发现链路异常引起的数据质量等问题,导致数据质量欠佳、任务执行周期过长。针对出现的链路故障、数据质量等问题,目前数据中台侧的监控功能分散,缺乏统一监控机制,协同能力弱,导致数据问题无法快速响应与及时处理。因此,构建基于数据中台的数字潮流监测指标体系并提出相应的评估方法至关重要。
3.目前,部分文献阐述了基于数据中台的数据链路监测流程,设计了链路异常捕获以及数据同步方法,但尚未从数据资产、数据链路、数据质量等全维度建立基于数据中台的数据监测指标体系,难以实现对数据中台运行状态的全面监测。同时,部分文献对数据中台和数据仓库、数据平台的特征进行对比,阐明了数据中台应该具备的能力和作用,但尚未结合数据监测指标体系,对基于数据中台的数字潮流监测能力进行全面评估。
4.经检索,未发现与本发明相同或相似的现有技术的专利文献。
技术实现要素:
5.本发明的目的在于克服现有技术中的不足,提出一种基于数据中台的数字潮流监测指标体系构建及评估方法,提高评估的可靠性。
6.本发明解决其现实问题是采取以下技术方案实现的:
7.一种基于数据中台的数字潮流监测指标体系构建及评估方法,包括以下步骤:
8.步骤1、构建基于数据中台的数字潮流监测指标体系;
9.步骤2、基于步骤1构建的数字潮流监测指标体系,建立模糊一致判断矩阵;
10.步骤3、基于步骤2建立的模糊一致判断矩阵求取各指标权重;
11.步骤4、根据各指标权重w
0i
和第i个指标值ci,得到数字潮流监测指标体系的综合评分值c。
12.而且,所述步骤1的基于数据中台的数字潮流监测指标体系包括:
13.一级指标包括:数据资产监测指标、数据链路监测指标、数据质量监测指标的三个维度;
14.(1)所述数据资产监测指标包括如下二级指标:
15.数据资产指标信息,包括采集数据中台贴源层、近源层、共享层、分析层、上传交换区、下发交换区六个区域的系统接入数量、表数量、存储容量等;
16.数据应用监测指标,包括支撑应用数量、各应用结果表数量、各应用结果表数据容量等;
17.数据贯通监测指标,包括表数量、数据容量、数据条目数等数据服务;
18.数据资产视图指标,包括贴源层、共享层、分析层以及数据交换区表数量、数据容量、容量变化及表数量变化趋势。
19.(2)所述数据链路监测指标包括如下二级指标:
20.数据链路指标信息,包括针对一级部署系统、二级部署系统的数据接入、数据落模、数据上传下发等进行指标信息采集;
21.dayu链路监测指标,包括作业总数量、正常作业数量、异常作业数量、作业开始时间、作业结束时间等;
22.drs链路监测指标,包括任务写入表数量、任务读取源端记录数以及任务写入目标端记录数等;
23.uep链路监测指标,包括数据上传链路监测指标、数据下发链路监测指标等。
24.(3)所述数据质量监测指标包括如下二级指标:
25.数据接入完整性监测指标,包括数据中台核心表条目数、完整条目数等数据一致性监测指标,包括源端与目标端数据条目一致性指标等;
26.表结构变更监测指标,包括源端业务系统表结构变更监测指标、增量数据监测指标等;
27.扩展字段监测指标,包括近源层、共享层、交换区扩展字段规范性指标等。
28.而且,所述步骤2的具体方法为:
29.引入三角模糊数(α
ij
,η
ij
,γ
ij
)表示模糊比较判断,其中α
ij
、η
ij
、γ
ij
为第i个指标和第j个指标比较时专家判断的下限值、中心值和上限值;
30.构建模糊一致判断矩阵fa如下:
[0031][0032]
其中,n为指标总数量。
[0033]
而且,所述步骤3的具体步骤包括:
[0034]
首先,求取第i个指标的三角模糊数qi,计算方法如下:
[0035][0036]
其中,qαi、qηi、qγi为第i个指标的下限值、中心值和上限值;α
lj
、η
lj
、γ
lj
为第/个指标和第j个指标比较时专家判断的下限值、中心值和上限值。
[0037]
其次,求取第i个指标的权重w
0i
,计算方法如下:
[0038][0039]
其中,τ∈[0,1]为决策者的判断系数。
[0040]
而且,所述步骤4的计算公式为:
[0041][0042]
本发明的优点和有益效果:
[0043]
本发明提出一种基于数据中台的数字潮流监测指标体系构建及评估方法,包括构建基于数据中台的数字潮流监测指标体系、建立数据资产监测指标、建立数据链路监测指标、建立数据质量监测指标、提出结合模糊分析的改进层次分析评估方法。本发明能够从数据资产、链路、质量全面监测数据中台运行状态,运用结合模糊分析的改进层次分析方法,通过建立模糊一致判断矩阵克服层次分析法的思维一致性问题,提高评估的可靠性,能够有效提升两级数据中台链路监测能力,实现数据从源端到数据中台,覆盖横、纵两级贯通链路运行监测信息采集和指标设计落地,为中台问题定位、链路优化和应用支撑提供保障。根据一级部署系统数据需求,完成一级部署核心系统数据下发链路一致性监测,实现数据下发链路监测和数据质量保障;同时,结合本地应用场景需求,按需接入二级部署系统数据,实现二级部署系统数据接入、数据整合、数据上传链路流转过程可监测,保证数据质量可监控、问题可追溯。
附图说明
[0044]
图1为本发明的基于数据中台的数字潮流监测指标体系图;
[0045]
图2为本发明的基于数据中台的数字潮流监测指标体系构建与评估方法流程图。
具体实施方式
[0046]
以下结合附图对本发明实施例作进一步详述:
[0047]
一种基于数据中台的数字潮流监测指标体系构建及评估方法,如图1和图2所示,包括以下步骤:
[0048]
步骤1、构建基于数据中台的数字潮流监测指标体系;
[0049]
所述步骤1的基于数据中台的数字潮流监测指标体系包括:
[0050]
一级指标包括:数据资产监测指标、数据链路监测指标、数据质量监测指标的三个维度;
[0051]
(1)所述数据资产监测指标包括如下二级指标:
[0052]
数据资产指标信息,包括采集数据中台贴源层、近源层、共享层、分析层、上传交换区、下发交换区六个区域的系统接入数量、表数量、存储容量等;
[0053]
数据应用监测指标,包括支撑应用数量、各应用结果表数量、各应用结果表数据容量等;
[0054]
数据贯通监测指标,包括表数量、数据容量、数据条目数等数据服务;
[0055]
数据资产视图指标,包括贴源层、共享层、分析层以及数据交换区表数量、数据容量、容量变化及表数量变化趋势。
[0056]
(2)所述数据链路监测指标包括如下二级指标:
[0057]
数据链路指标信息,包括针对一级部署系统、二级部署系统的数据接入、数据落
模、数据上传下发等进行指标信息采集;
[0058]
dayu链路监测指标,包括作业总数量、正常作业数量、异常作业数量、作业开始时间、作业结束时间等;
[0059]
drs链路监测指标,包括任务写入表数量、任务读取源端记录数以及任务写入目标端记录数等;
[0060]
uep链路监测指标,包括数据上传链路监测指标、数据下发链路监测指标等。
[0061]
(3)所述数据质量监测指标包括如下二级指标:
[0062]
数据接入完整性监测指标,包括数据中台核心表条目数、完整条目数等数据一致性监测指标,包括源端与目标端数据条目一致性指标等;
[0063]
表结构变更监测指标,包括源端业务系统表结构变更监测指标、增量数据监测指标等;
[0064]
扩展字段监测指标,包括近源层、共享层、交换区扩展字段规范性指标等。
[0065]
步骤2、基于步骤1构建的数字潮流监测指标体系,建立模糊一致判断矩阵;
[0066]
所述步骤2的具体方法为:
[0067]
引入三角模糊数(α
ij
,η
ij
,γ
ij
)表示模糊比较判断,其中α
ij
、η
ij
、γ
ij
为第i个指标和第j个指标比较时专家判断的下限值、中心值和上限值;
[0068]
构建模糊一致判断矩阵fa如下:
[0069][0070]
其中,n为指标总数量。
[0071]
步骤3、基于步骤2建立的模糊一致判断矩阵求取各指标权重;
[0072]
所述步骤3的具体步骤包括:
[0073]
首先,求取第i个指标的三角模糊数qi,计算方法如下:
[0074][0075]
其中,qαi、qηi、qγi为第i个指标的下限值、中心值和上限值;α
lj
、η
lj
、γ
lj
为第/个指标和第j个指标比较时专家判断的下限值、中心值和上限值。
[0076]
其次,求取第i个指标的权重w
0i
,计算方法如下:
[0077][0078]
其中,τ∈[0,1]为决策者的判断系数。
[0079]
步骤4、根据各指标权重w
0i
和第i个指标值ci,得到数字潮流监测指标体系的综合评分值c。
[0080][0081]
需要强调的是,本发明所述实施例是说明性的,而不是限定性的,因此本发明包括并不限于具体实施方式中所述实施例,凡是由本领域技术人员根据本发明的技术方案得出的其他实施方式,同样属于本发明保护的范围。
技术特征:
1.一种基于数据中台的数字潮流监测指标体系构建及评估方法,其特征在于:包括以下步骤:步骤1、构建基于数据中台的数字潮流监测指标体系;步骤2、基于步骤1构建的数字潮流监测指标体系,建立模糊一致判断矩阵;步骤3、基于步骤2建立的模糊一致判断矩阵求取各指标权重;步骤4、根据各指标权重w
0i
和第i个指标值c
i
,得到数字潮流监测指标体系的综合评分值。2.根据权利要求1所述的一种基于数据中台的数字潮流监测指标体系构建及评估方法,其特征在于:所述步骤1的基于数据中台的数字潮流监测指标体系包括:一级指标包括:数据资产监测指标、数据链路监测指标、数据质量监测指标的三个维度;(1)所述数据资产监测指标包括如下二级指标:数据资产指标信息,包括采集数据中台贴源层、近源层、共享层、分析层、上传交换区、下发交换区六个区域的系统接入数量、表数量、存储容量;数据应用监测指标,包括支撑应用数量、各应用结果表数量、各应用结果表数据容量;数据贯通监测指标,包括表数量、数据容量、数据条目数的数据服务;数据资产视图指标,包括贴源层、共享层、分析层以及数据交换区表数量、数据容量、容量变化及表数量变化趋势;(2)所述数据链路监测指标包括如下二级指标:数据链路指标信息,包括针对一级部署系统、二级部署系统的数据接入、数据落模和数据上传下发进行指标信息采集;dayu链路监测指标,包括作业总数量、正常作业数量、异常作业数量、作业开始时间、作业结束时间;drs链路监测指标,包括任务写入表数量、任务读取源端记录数以及任务写入目标端记录数;uep链路监测指标,包括数据上传链路监测指标、数据下发链路监测指标;(3)所述数据质量监测指标包括如下二级指标:数据接入完整性监测指标,包括数据中台核心表条目数、完整条目数数据一致性监测指标,包括源端与目标端数据条目一致性指标;表结构变更监测指标,包括源端业务系统表结构变更监测指标、增量数据监测指标;扩展字段监测指标,包括近源层、共享层、交换区扩展字段规范性指标。3.根据权利要求1所述的一种基于数据中台的数字潮流监测指标体系构建及评估方法,其特征在于:所述步骤2的具体方法为:引入三角模糊数(α
ij
,η
ij
,γ
ij
)表示模糊比较判断,其中α
ij
、η
ij
、γ
ij
为第i个指标和第j个指标比较时专家判断的下限值、中心值和上限值;构建模糊一致判断矩阵fa如下:
其中,n为指标总数量。4.根据权利要求1所述的一种基于数据中台的数字潮流监测指标体系构建及评估方法,其特征在于:所述步骤3的具体步骤包括:首先,求取第i个指标的三角模糊数q
i
,计算方法如下:其中,qα
i
、qη
i
、qγ
i
为第i个指标的下限值、中心值和上限值;α
lj
、η
lj
、γ
lj
为第l个指标和第j个指标比较时专家判断的下限值、中心值和上限值;其次,求取第i个指标的权重w
0i
,计算方法如下:其中,τ∈[0,1]为决策者的判断系数。5.根据权利要求1所述的一种基于数据中台的数字潮流监测指标体系构建及评估方法,其特征在于:所述步骤4的计算公式为:
技术总结
本发明涉及一种基于数据中台的数字潮流监测指标体系构建及评估方法,其特征在于:包括以下步骤:步骤1、构建基于数据中台的数字潮流监测指标体系;步骤2、基于步骤1构建的数字潮流监测指标体系,建立模糊一致判断矩阵;步骤3、基于步骤2建立的模糊一致判断矩阵求取各指标权重;步骤4、根据各指标权重w
技术研发人员:
王凯 张旭 杨丹丹 张倩宜 郝美薇 付嘉鑫
受保护的技术使用者:
国家电网有限公司 国网天津市电力公司信息通信公司
技术研发日:
2022.10.26
技术公布日:
2023/2/27