CN114358636A - 指标配置方法、数据获取方法、装置、设备和介质 - Google Patents
指标配置方法、数据获取方法、装置、设备和介质 Download PDFInfo
- Publication number
- CN114358636A CN114358636A CN202210029287.5A CN202210029287A CN114358636A CN 114358636 A CN114358636 A CN 114358636A CN 202210029287 A CN202210029287 A CN 202210029287A CN 114358636 A CN114358636 A CN 114358636A
- Authority
- CN
- China
- Prior art keywords
- index
- data
- mapping
- constructing
- definition
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
本公开提供了一种指标配置方法、数据获取方法,可以应用于金融领域或数据库技术领域。其中,指标配置方法包括:抽取元数据信息,获取业务数据项;基于所述业务数据项构建业务数据表,所述业务数据表包括表数据项表和字段数据项表;构建指标模型和指标定义,其中,所述指标定义基于所述指标模型构建,所述指标模型包括维度集合;配置元数据明细表与常用维度表之间的映射关系,构建第一映射表;配置常用维度表与指标结果表之间的映射关系,构建第二映射表,其中,所述指标定义,所述业务数据表,所述第一映射表和所述第二映射表用于配置生成指标结果数据。本公开还提供了一种指标配置装置、数据获取装置、设备、存储介质和程序产品。
Description
技术领域
本公开涉及金融领域或数据库领域,具体涉及一种指标配置方法、数据获取方法、装置、设备、介质和程序产品。
背景技术
对于业务流程繁多的金融机构,其数据结构复杂,不同分支机构关注的指标数据既有共同点,又存在差异性,涉及到的规则繁多,需要有统一的建模规则和自动化的指标配置,便于业务人员进行指标定义。目前传统的指标加工方法,没有按照业务场景进行模型的划分,没有通过模型进行指标定义,无法进行指标维度、度量、规则的复用,开发成本高不易维护。且由于无法通过自动化的维度映射,实现源明细表字段与结果表字段之间的对应关系,导致每张结果表的字段都不一致,维护成本高。
发明内容
鉴于上述问题,本公开的实施例提供了一种指标配置方法、数据获取方法、装置、设备、介质和程序产品。
根据本公开的第一个方面,提供了一种指标配置方法,其特征在于,包括:抽取元数据信息,获取业务数据项,其中,所述业务数据项包括表数据项和字段数据项;基于所述业务数据项构建业务数据表,所述业务数据表包括表数据项表和字段数据项表,所述表数据项表和字段数据项表通过表标识关联;配置元数据明细表与常用维度表之间的映射关系,构建第一映射表,其中,所述元数据明细表与所述表数据项表通过表标识关联;配置常用维度表与指标结果表之间的映射关系,构建第二映射表;构建指标模型和指标定义,其中,所述指标定义基于所述指标模型构建,所述指标模型包括维度集合;其中,所述指标定义,所述业务数据表,所述第一映射表和所述第二映射表用于配置生成指标结果数据。
根据本公开的实施例,所述指标模型与元数据明细子表,维度集合,度量集合以及过滤条件关联,所述元数据明细子表是所述元数据明细表的子集。
根据本公开的实施例,所述构建指标模型和指标定义包括:基于业务数据表和元数据明细子表构建单一模型;基于所述单一模型构建单一指标定义;基于所述单一指标定义以及预设的加工规则构建衍生模型;以及基于所述衍生模型构建衍生指标定义。
根据本公开的实施例,基于所述单一模型构建单一指标定义包括:选定用于构建所述单一指标定义的单一模型;选定与所述选定的单一模型关联的维度子集、度量子集以及过滤条件;基于与所述选定的单一模型关联的所述元数据明细子表,所述维度子集,所述度量子集以及所述过滤条件构建所述指标定义,其中,所述维度子集是所述维度集合的子集,所述度量子集是所述度量集合的子集。
根据本公开的实施例,基于所述衍生模型构建衍生指标定义包括:选定用于构建所述衍生指标定义的衍生模型;选定与所述选定的衍生模型关联的维度子集以及加工规则;基于与所述选定的衍生模型关联的所述维度子集以及所述加工规则构建所述衍生指标定义。
根据本公开的实施例,所述方法指标配置方法还包括:构建指标权限表,所述指标权限表与所述指标定义关联。
根据本公开的实施例,所述方法还包括:构建数据权限表,所述数据权限表与所述指标定义关联。
本公开的第二方面提供了一种数据获取方法,其特征在于,包括:获取数据提取指令,所述数据提取指令包含指标定义;基于所述指标定义关联业务数据表和常用维度表;基于所述业务数据表关联元数据明细子表;基于所述常用维度表关联第一映射表和第二映射表;基于所述第一映射表和第二映射表建立所述元数据明细子表和指标结果表的映射关系;基于所述指标结果表获取指标结果数据。其中,所述指标定义,所述业务数据表,所述第一映射表和所述第二映射表根据本公开的第一方面的指标配置方法构建。
根据本公开的实施例,所述数据获取方法还包括:基于预设的作业调度周期定时抽取元数据信息;基于所述元数据信息更新配置指标定义。
根据本公开的实施例,在获取指标结果数据后,所述方法还包括:基于指标权项表对所述指标结果数据进行处理,抽取第一可见指标数据,其中,所述指标权限表根据本公开的第一方面的指标配置方法构建。
根据本公开的实施例,在抽取第一可见指标数据后,所述方法还包括:基于数据权限表对所述指标结果数据进行处理,抽取第二可见指标数据,其中,所述指标权限表根据本公开的第一方面的指标配置方法构建。
本公开的第二方面提供了一种指标配置装置,其特征在于,包括:获取模块,配置为抽取元数据信息,获取业务数据项,其中,所述业务数据项包括表数据项和字段数据项。第一构建模块,配置为基于所述业务数据项构建业务数据表,所述业务数据表包括表数据项表和字段数据项表,所述表数据项表和字段数据项表通过表标识关联。第二构建模块,配置为配置元数据明细表与常用维度表之间的映射关系,构建第一映射表,其中,所述元数据明细表与所述表数据项表通过表标识关联。第三构建模块,配置为配置常用维度表与指标结果表之间的映射关系,构建第二映射表。第四构建模块,配置为构建指标模型和指标定义,其中,所述指标定义基于所述指标模型构建,所述指标模型包括维度集合。其中,所述指标定义,所述业务数据表,所述第一映射表和所述第二映射表用于配置生成指标结果数据。
本公开的第三方面提供了一种数据获取装置,其特征在于,包括:接收模块,配置为获取数据提取指令,所述数据提取指令包含指标定义。第一处理模块,配置为基于所述指标定义关联业务数据表和常用维度表。第二处理模块,配置为基于所述业务数据表关联元数据明细子表。第三处理模块,配置为基于所述常用维度表关联第一映射表和第二映射表。第四处理模块,配置为基于所述第一映射表和第二映射表建立所述元数据明细子表和指标结果表的映射关系。生成模块,配置为基于所述指标结果表获取指标结果数据。其中,所述指标定义,所述业务数据表,所述第一映射表和所述第二映射表根据本公开的第二方面提供的第三构建模块和第四构建模块构建。
本公开的第四方面提供了一种电子设备,包括:一个或多个处理器;存储器,用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得一个或多个处理器执行上述方法。
本公开的第四方面还提供了一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行上述方法。
本公开的第五方面还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述方法。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述内容以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的指标配置方法的应用场景图。
图2示意性示出了根据本公开实施例的指标配置方法的流程图。
图3示意性示出了所述双重维度映射的建立过程。
图4示意性示出了根据本公开实施例的构建指标模型和指标定义的方法的流程图。
图5示意性示出了根据本公开实施例的数据获取方法的流程图。
图6示意性示出了根据本公开实施例的指标配置装置的结构框图。
图7示意性示出了根据本公开实施例的数据获取装置的结构框图。
图8示意性示出了根据本公开实施例的适于实现指标配置方法和/或数据获取方法的电子设备的方框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
需要说明的是,本公开的指标配置方法、数据获取方法、装置、设备、介质和程序产品可用于金融领域在指标处理方面,也可用于除金融领域之外的任意领域,例如数据库技术领域,本公开的指标配置方法、数据获取方法、装置、设备、介质和程序产品的应用领域不做限定。
本公开的实施例提供了一种指标配置方法。
图1示意性示出了根据本公开实施例的指标配置方法的应用场景图。
如图1所示,根据该实施例的应用场景100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有输入数据项以及指标查询请求功能的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户输入的数据项以及指标查询请求生成的指标结果数据)反馈给终端设备。
需要说明的是,本公开实施例所提供的指标配置及数据获取方法一般可以由服务器105执行。相应地,本公开实施例所提供的指标配置及数据获取装置一般可以设置于服务器105中。本公开实施例所提供的指标配置及数据获取方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的指标配置及数据获取装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
以下将基于图1描述的场景,通过图2~图5对公开实施例的指标配置方法进行详细描述。
图2示意性示出了根据本公开实施例的指标配置方法的流程图。
如图2所示,该实施例的指标配置方法包括操作S210~操作S250。
在操作S210,抽取元数据信息,获取业务数据项。
根据本公开的实施例,为配置指标,可以首先从数据库中的元数据明细表中抽取元数据信息。其中,元数据明细表可以包含窄表或宽表,所述元数据明细表可以存储于GP数据库、批量MPP数据库、贴源库等。典型的元数据明细表可以包含pg_class、pg_attribute、pg_namespace、pg_decription、pg_database等。其中,可以根据元数据明细表来源渠道及业务场景对元数据信息标记业务标签,形成业务数据项,作为构建指标定义的基础数据。其中,所述业务数据项包括表数据项和字段数据项。其中,典型的表数据项和字段数据项可以分别包含如表1和表2所述字段:
表数据项
字段名称 | 注释 |
Table_code | 表编码 |
Table_eng_name | 表英文名 |
Table_chn_name | 表中文名 |
Table_type | 表类型 |
Label_name | 业务标签 |
表1字段数据项
字段名称 | 注释 |
Data_opt_code | 数据项编码 |
Data_opt_eng_name | 数据项英文名 |
Data_opt_chn_name | 数据项中文名 |
Data_opt_type | 数据项类型 |
Table_code | 来源表编码 |
Label_name | 业务标签 |
表2
在操作S220,基于所述业务数据项构建业务数据表。
根据本公开的实施例,在抽取出业务数据项后,可以基于所抽取的表数据项或业务数据项生成分别汇总表数据项及字段数据项的业务数据表,业务数据表可以包括表数据项表和字段数据项表,表数据项表和字段数据项表可以通过表标识关联。由此,可以通过查询表标识获取与当前表标识对应的表数据项,以及该表中包含的字段数据项。通过所述业务数据表可以关联查询每一张元数据明细表的字段数据项数据。
在一个典型的示例中,元数据明细表可以包含柜面流水及账务信息表(tp201_ecp_log_his_account),包含再断交易时间(txn_dt)、机构号(insid)、渠道(chnl_tpcd)、交易金额(txn_amt)、币种(currency_cd),交易全局跟踪号(sys_evt_trace_id)等。通过抽取元数据信息,可以获取表数据项(如表3所示)和字段数据项(如表4所示)。
表数据项
表编码 | A101 |
表英文名 | tp201_ecp_log_his_account |
表中文名 | 柜面流水及账务信息表 |
表类型 | 全量流水表 |
业务标签 | 柜面业务 |
表3字段数据项
表4
进一步,可以将多个元数据明细表的表数据项汇总至表数据项表,可以将不同元数据明细表的字段数据项汇总至字段数据项表,通过表标识(例如表编码)可以查询对应的表数据项和字段数据项。通过构建业务数据表可以便于元数据明细表的查找,减少指标配置过程中的数据开销。
在操作S230,配置元数据明细表与常用维度表之间的映射关系,构建第一映射表。
在操作S240,配置常用维度表与指标结果表之间的映射关系,构建第二映射表。
根据本公开的实施例,可以理解的是,元数据明细表通常包含维度、度量等属性。为减少指标配置时的数据处理量,避免不同机构在定义相同含义的维度时定义名称不同所带来的数据冗余,可以提供一个常用维度表,以便在进行指标定义时直接从该表中选择常用维度,并构建元数据明细表与结果表间的清晰映射。可以配置元数据明细表与常用维度表之间的映射关系,并将映射保存并构建第一映射表。还可以配置常用维度表与指标结果表之间的映射关系,并将映射保存并构建第二映射表。通过双重维度映射,可以完成元数据明细表与指标结果表维度字段之间的映射关系配置,从而使用户只需从业务角度关注常用维度,无需关注表结构及各字段之间的映射关系。其中,元数据明细表可以与表数据项表通过表标识关联。由此,可以建立指标定义与业务数据表的关联,并通过业务数据表关联元数据明细表。进一步通过双重维度映射关联元数据明细表与指标结果表。
图3示意性示出了所述双重维度映射的建立过程。
如图3所示,元数据明细表可以包括明细表1和明细表2,第一映射表包括映射表A,第二映射表包括映射表B,指标结果表可以包括结果表1和结果表1。其中,明细表1和明细表2可包含相同维度字段:机构、时间和渠道,但不同明细表的不同维度字段定义可能不同,例如“机构1”和“机构2”;“时间1”和“时间2”;“渠道1”和“渠道2”字段名称不同。通过映射表A,可以将明细表1和2中的“机构1”和“机构2”字段分别与常用维度表中的“机构”字段形成唯一映射关系,同样的,可以将明细表1和2中“时间1”和“时间2”字段分别与常用维度表中的“时间”字段形成唯一映射关系;将明细表1和2中“渠道1”和“渠道2”字段分别与常用维度表中的“渠道”字段形成唯一映射关系。进一步,通过映射表B,可以将结果表1和2中的“机构3”和“机构4”字段分别与常用维度表中的“机构”字段形成唯一映射关系,同样的,可以将结果表1和2中“时间3”和“时间4”字段分别与常用维度表中的“时间”字段形成唯一映射关系;将结果表1和2中“渠道3”和“渠道4”字段分别与常用维度表中的“渠道”字段形成唯一映射关系。通过以上双重映射,可以将明细表1中的机构字段——“机构1”、时间字段——“时间1”、渠道字段——“渠道1”分别与结果表1中的机构字段——“机构3”、“时间3”、“渠道3”分别形成映射关系。类似的,可以建立明细表2与结果表2的“机构2”——“机构4”、“时间2”——“时间4”、“渠道2”——“渠道4”映射关系。
根据本公开的实施例,上述双重映射关系可以用于指标模型和指标定义的构建。其中,在用户构建指标模型和指标时,第一映射表和第二映射表对用户可以是不可见的,常用维度表可以是可见的。当用户选择维度集合后,可以自动通过双重映射建立元数据明细表和数据结果表之间的映射关系。可以理解的是,在基于双重映射关系构建结果表时,可以将字段分组去重以减小数据开销。常用维度表和双重映射关系的引入保证了结果表的通用性和可维护性,也让维度易于配置和扩展。
在一个具体的示例中,可以基于柜面流水及账务信息表为元数据明细表构建如表5-表8所示的常用维度表、第一映射表、第二映射表、指标结果表。结合表4,柜面流水及账务信息表可以包含交易全局跟踪号、机构编号、渠道编号、币种编号、交易金额等字段数据项。
常用维度表
常用维度编码 | 常用维度名称 |
DOT0001 | 机构 |
DOT0002 | 渠道 |
DOT0003 | 时间 |
... | ... |
表5第一映射表
元数据明细表数据项编码 | 表编号 | 常用维度编码 |
000002 | A101 | DOT0001 |
000003 | A101 | DOT0002 |
000005 | A101 | DOT0003 |
表6
通过第一映射表,将表4中的【机构编号】与常用维度DOT0001形成映射关系,【渠道编号】与常用维度DOT0002形成映射关系,【交易时间】与常用维度DOT0003形成映射关系。
第二映射表
常用维度编码 | 结果表属性列 | 结果表名称 |
DOT0001 | br_code | QY_INDEX_RESULT |
DOT0002 | channel_code | QY_INDEX_RESULT |
DOT0003 | data_date | QY_INDEX_RESULT |
... | ... | ... |
表7指标结果表
表8
通过第二映射表,可以将指标结果表中的机构字段【br_code】与常用维度DOT0001形成对应关系,【channel_code】与常用维度DOT0002形成映射关系,【data_date】与常用维度DOT0003形成映射关系。
通过以上双重映射,将元数据明细表中的【机构编号】与指标结果表中的机构字段【br_code】形成映射关系,类似的,将【渠道编号】与渠道字段【channel_code】形成映射关系,【交易时间】与时间字段【data_date】形成映射关系。
进一步,在构建指标结果表时,可以将机构编号分组去重后写入br_code这一列,渠道编号分组去重后写入channel_code这一列,交易时间分组去重后写入data_date这一列,以保证指标结果表的通用性和可维护性,让维度易于配置和扩展。
在操作S250,构建指标模型和指标定义。
根据本公开的实施例,指标定义基于所述指标模型构建,指标模型包括维度集合。通过利用维度集合构建指标模型,可以快速确定指标数据来源。
在一些具体的实施例中,所述指标模型可以与元数据明细子表,维度集合,度量集合以及过滤条件关联。其中,元数据明细子表可以为基于某个特定的业务场景或范围构建特定的指标模型时需关联的一个或多个元数据明细表,可以理解所述元数据明细表可以为元数据明细表集合的子集。维度集合和度量集合来自于业务数据表,过滤条件可以由管理人员基于经验预设。可以理解的是,当模型仅关联一个元数据明细表时,也可基于该元数据明细表直接获取维度集合和度量集合。
根据本公开的实施例,构建指标模型和指标定义可以包括构建单一模型和单一指标定义,以及根据单一模型构建衍生模型和衍生指标定义。
图4示意性示出了根据本公开实施例的构建指标模型和指标定义的方法的流程图。
如图4所示,该实施例的指标配置方法包括操作S410~操作S440。
在操作S410,基于业务数据表和元数据明细表构建单一模型。
根据本公开的实施例,可以基于待处理的业务场景,从业务数据表和元数据明细表中提取或定义构建单一模型所需的元数据明细子表、维度集合、度量集合以及过滤条件,从而构建所述单一模型。
一个典型的单一模型可以基于如下方法构建:
根据具体的业务场景及规则,进行单一模型【柜面业务模型】的构建,根据业务标签【柜面业务】快速查询出需要的元素:
(1)选择模型的元数据明细子表——【柜面流水及账务信息表】。
(2)选择模型的维度集合——从常用维度表中选择三个维度:时间、机构、渠道。
(3)选择模型的度量集合——选择两个度量:交易金额,选择计算公式【求和(SUM)】,用于统计总交易金额;交易全局跟踪号,选择计算公式【去重计数(COUNTDISTINCT)】,用于统计总交易笔数。
(4)选择模型的过滤条件——选择并编辑币种=‘156’代表人民币交易。
在操作S420,基于所述单一模型构建单一指标定义。
根据本公开的实施例,可以选定用于构建所述单一指标定义的单一模型作为单一指标的来源模型,选定与所述选定的单一模型关联的元数据明细子表、维度子集、度量子集以及过滤条件作为单一指标定义的维度、度量及过滤条件来源以及指标相关数据获取通道。可以理解的是,在构建单一指标定义的过程中,还可以定义指标标签,以方便标识和读取指标相关数据。其中,可以选取维度集合中的全部或部分作为单一指标定义的维度子集,同样可以选择度量集合中的全部或部分作为单一指标定义的度量子集。由此,可以通过一个单一模型中维度子集和度量子集的不同选取与组合,产生多个不同的单一指标,大大减少了指标构建的时间,提升了数据处理效率,避免数据冗余。
一个典型的单一指标定义可以基于如下方法构建:
在构建单一模型的基础上,根据具体的业务场景,可以构建单一指标定义【柜面交易金额】、【柜面交易笔数】:
(1)选择单一模型【柜面业务量模型】,系统根据模型定义自动关联出元数据明细子表、维度集合、度量集合、过滤条件。
(2)在模型定义的维度范围内,选择指标需要的维度子集:时间、机构、渠道。
(3)在模型定义的度量范围内,选择指标需要的度量子集,比如选择交易金额,则指标为【柜面交易金额】,选择交易全局跟踪号,则指标为【柜面交易笔数】。
在操作S430,基于所述单一指标定义以及预设的加工规则构建衍生模型。
根据本公开的实施例,在构建单一指标定义后,可以快速通过预设的加工规则构建衍生模型并进一步获取衍生指标定义,以避免重复定义造成的数据冗余。典型的加工规则可以包括数据计算规则,例如,四则运算规则。多个单一指标经过四则运算形成衍生指标的加工规则以构建衍生模型,可以以多个单一指标定义之间的共有维度作为衍生模型的维度集合。基于所述单一指标定义以及预设的加工规则构建衍生模型。
一个典型的衍生模型可以基于如下方法构建:
根据已定义的【柜面交易金额】、【柜面交易笔数】两个指标,可以构建【柜面交易笔均金额】模型:
(1)选择【柜面交易金额】、【柜面交易笔数】两个指标。
(2)定义编辑加工规则【柜面交易笔均金额】=【柜面交易金额/柜面交易笔数】。
(3)选择两个单一指标公共的维度:时间、机构、渠道,完成衍生模型的构建。
在操作S440,基于所述衍生模型构建衍生指标定义。
根据本公开的实施例,可以选择构建好的衍生模型作为衍生指标定义的来源模型。选定与所述选定的衍生模型关联的维度子集以及加工规则。还可以基于与所述选定的衍生模型关联的所述维度子集以及所述加工规则以构建所述衍生指标定义。其中,可以选取维度集合中的全部或部分作为衍生指标定义的维度子集。
一个典型的衍生指标可以基于如下方法构建:
(1)选择衍生模型【柜面交易笔均金额】,根据模型定义自动关联出模型的维度集合、加工规则。
(2)在模型定义的维度范围内,选择指标需要的维度子集:时间、机构、渠道。
根据本公开的实施例,所述指标定义,所述业务数据表,所述第一映射表和所述第二映射表可以用于配置生成指标结果数据。
根据本公开的实施例,为了提升指标配置的安全性,所述指标配置方法还可以包括构建指标权限表。其中,所述指标权限表与所述指标定义关联。具体的,可以基于指标定义中的维度配置相应维度数据项的权限管理。例如,指标定义中的维度可以包含机构。其中机构字段可以包含多个子机构,该多个子机构可以在机构内部具有不同的层级,不同子机构可以具有不同的指标可见权限。由此,可以先构建机构权限表,再基于机构权限表构建指标权限表。其中,机构权限表可以与指标权限表通过机构标识关联。
典型的机构权限表可以如表9所示:
机构权限表
机构编码 | 所属权限机构 | 机构层级 |
... | ... | ... |
表9
相应的,可以设置指标权限表,如表10所示:
指标权限表
表10
可以理解的是,指标权限可以包含两方面内容:1.当前登录用户所属分支机构及其下属机构的指标定义的可见权限:2.全机构共享指标。可以以两者的并集作为当前用户所能看到的全部指标范围。
根据本公开的实施例,为了进一步提升指标配置的安全性,所述指标配置方法还可以进一步包括构建数据权限表。其中,所述数据权限表可以与所述指标定义关联。如前所述,指标定义中的维度可以包含机构。其中机构字段的不同子机构除可以具有不同的指标可见权限外,对于相同的指标,其可见数据范围可以不同。由此,可以设置对应于不同层级机构的数据权限表,也可以设置对应于同一机构不同层级人员的数据权限表,通过指标权限和数据权限的双重权限控制机制实现指标结果数据的隔离与共享,提高各机构各层级人员的用数安全。
可以理解的是,上述各项数据表、常用维度表、过滤条件、加工规则都可以构建成数据库加工语句,以实现指标的自动化装配,提高指标装配效率,减少人力成本。
基于上述指标配置方法,本公开还提供了一种数据获取方法。
图5示意性示出了根据本公开实施例的数据获取方法的流程图。
如图5所示,该数据获取方法包括操作S510-操作S560。
在操作S510,获取数据提取指令。
在操作S520,基于所述指标定义关联业务数据表和常用维度表。
在操作S530,基于所述业务数据表关联元数据明细子表。
在操作S540,基于所述常用维度表关联第一映射表和第二映射表。
在操作S550,基于第一映射表和第二映射表建立元数据明细子表和指标结果表的映射关系。
在操作S560,基于所述指标结果表获取指标结果数据。
根据本公开的实施例,在配置指标模型和指标定义后,可以自动化提取指标结果数据。在一些具体的实施例中,系统可以获取用户提交的数据提取指令,其中,数据提取指令可以包含指标定义。基于指标定义中的维度子集可以关联常用维度表以及业务数据表。进一步,可以基于业务数据表关联元数据明细子表。由于在配置指标的过程中建立了双重映射机制,可以基于常用维度表关联第一映射表和第二映射表,从而可以基于第一映射表和第二映射表建立元数据明细子表和指标结果表的映射关系。进一步,根据元数据明细子表的数据项,结合指标定义中的度量子集以及过滤条件或加工规则可以获取指标结果表。基于所述指标结果表可以获取指标结果数据。其中,所述指标定义,所述业务数据表,所述第一映射表和所述第二映射表可以根据本公开实施例的指标配置方法构建。可以理解的是,由于各项数据表、常用维度表、过滤条件、加工规则都可以构建成数据库加工语句,可以实现指标加工语句的自动化拼装,无需人工干预,减少了人力成本。
根据本公开的实施例,可以基于预设的作业调度周期定时抽取元数据信息,并基于所述元数据信息更新配置所述指标定义,以实时获取准确的指标结果数据,无需人工干预,减少人力成本。
根据本公开的实施例,在获取指标结果数据后,所述方法还可以包括:基于指标权项表对所述指标结果数据进行处理,抽取第一可见指标数据。其中,所述指标权限表根据本公开实施例的指标权限表构建方法进行构建。通过设置指标权限表,可以限制指标的可见范围,提高用数安全。
根据本公开的实施例,在抽取第一可见指标数据后,所述方法还可以进一步包括:基于数据权限表对所述指标结果数据进行处理,抽取第二可见指标数据。其中,所述数据权限表根据本公开实施例的数据权限表构建方法进行构建。通过设置数据权限表,可以进一步限制指标结果数据的可见范围,提高用数安全。
基于上述指标配置方法,本公开还提供了一种指标配置装置。以下将结合图6对该装置进行详细描述。
图6示意性示出了根据本公开实施例的指标配置装置的结构框图。
如图6所示,该实施例的指标配置装置600包括获取模块610、第一构建模块620、第二构建模块630、第三构建模块640和第四构建模块650。
其中,获取模块610被配置为抽取元数据信息,获取业务数据项,其中,所述业务数据项包括表数据项和字段数据项。
第一构建模块620被配置为基于所述业务数据项构建业务数据表,所述业务数据表包括表数据项表和字段数据项表,所述表数据项表和字段数据项表通过表标识关联。
第二构建模块630被配置为配置元数据明细表与常用维度表之间的映射关系,构建第一映射表,其中,所述元数据明细表与所述表数据项表通过表标识关联。
第三构建模块640被配置为配置常用维度表与指标结果表之间的映射关系,构建第二映射表。
第四构建模块650被配置为构建指标模型和指标定义,其中,所述指标定义基于所述指标模型构建,所述指标模型包括维度集合。
根据本公开的实施例,所述指标定义,所述业务数据表,所述第一映射表和所述第二映射表用于配置生成指标结果数据。
图7示意性示出了根据本公开实施例的数据获取装置的结构框图。
如图7所示,该实施例的数据获取装置700包括接收模块710、第一处理模块720、第二处理模块730、第三处理模块740、第四处理模块750和生成模块760。
接收模块710被配置为获取数据提取指令,所述数据提取指令包含指标定义。
第一处理模块720被配置为获取数据提取指令,所述数据提取指令包含指标定义。
第二处理模块730被配置为基于所述指标定义关联业务数据表和常用维度表。
第三处理模块740被配置为基于所述常用维度表关联第一映射表和第二映射表。
第四处理模块750被配置为基于所述第一映射表和第二映射表建立所述元数据明细子表和指标结果表的映射关系。
生成模块760被配置为基于所述指标结果表获取指标结果数据,
根据本公开的实施例,所述指标定义,所述业务数据表,所述第一映射表和所述第二映射表根据图6所述的模块构建。
根据本公开的实施例,获取模块610、第一构建模块620、第二构建模块630、第三构建模块640和第四构建模块650;或接收模块710、第一处理模块720、第二处理模块730、第三处理模块740、第四处理模块750和生成模块760中的任意多个模块可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本公开的实施例,获取模块610、第一构建模块620、第二构建模块630、第三构建模块640和第四构建模块650;或接收模块710、第一处理模块720、第二处理模块730、第三处理模块740、第四处理模块750和生成模块760中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,获取模块610、第一构建模块620、第二构建模块630、第三构建模块640和第四构建模块650;或接收模块710、第一处理模块720、第二处理模块730、第三处理模块740、第四处理模块750和生成模块760中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
图8示意性示出了根据本公开实施例的适于实现指标配置方法和/或数据获取方法的电子设备的方框图。
如图8所示,根据本公开实施例的电子设备900包括处理器901,其可以根据存储在只读存储器(ROM)902中的程序或者从存储部分908加载到随机访问存储器(RAM)903中的程序而执行各种适当的动作和处理。处理器901例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC))等等。处理器901还可以包括用于缓存用途的板载存储器。处理器901可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 903中,存储有电子设备900操作所需的各种程序和数据。处理器901、ROM902以及RAM 903通过总线904彼此相连。处理器901通过执行ROM 902和/或RAM 903中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 902和RAM 903以外的一个或多个存储器中。处理器901也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,电子设备900还可以包括输入/输出(I/O)接口905,输入/输出(I/O)接口905也连接至总线904。电子设备900还可以包括连接至I/O接口905的以下部件中的一项或多项:包括键盘、鼠标等的输入部分906;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分907;包括硬盘等的存储部分908;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分909。通信部分909经由诸如因特网的网络执行通信处理。驱动器910也根据需要连接至I/O接口905。可拆卸介质911,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器910上,以便于从其上读出的计算机程序根据需要被安装入存储部分908。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质,例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 902和/或RAM 903和/或ROM 902和RAM 903以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时,该程序代码用于使计算机系统实现本公开实施例所提供的方法。
在该计算机程序被处理器901执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分909被下载和安装,和/或从可拆卸介质911被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
在这样的实施例中,该计算机程序可以通过通信部分909从网络上被下载和安装,和/或从可拆卸介质911被安装。在该计算机程序被处理器901执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。
Claims (16)
1.一种指标配置方法,其特征在于,包括:
抽取元数据信息,获取业务数据项,其中,所述业务数据项包括表数据项和字段数据项;
基于所述业务数据项构建业务数据表,所述业务数据表包括表数据项表和字段数据项表,所述表数据项表和字段数据项表通过表标识关联;
配置元数据明细表与常用维度表之间的映射关系,构建第一映射表,其中,所述元数据明细表与所述表数据项表通过表标识关联;
配置常用维度表与指标结果表之间的映射关系,构建第二映射表;
构建指标模型和指标定义,其中,所述指标定义基于所述指标模型构建,所述指标模型包括维度集合;
其中,所述指标定义,所述业务数据表,所述第一映射表和所述第二映射表用于配置生成指标结果数据。
2.根据权利要求1所述的方法,其中,所述指标模型与元数据明细子表,维度集合,度量集合以及过滤条件关联,所述元数据明细子表是所述元数据明细表的子集。
3.根据权利要求2所述的方法,其中,所述构建指标模型和指标定义包括:
基于业务数据表和元数据明细子表构建单一模型;
基于所述单一模型构建单一指标定义;
基于所述单一指标定义以及预设的加工规则构建衍生模型;以及
基于所述衍生模型构建衍生指标定义。
4.根据权利要求3所述的方法,其中,基于所述单一模型构建单一指标定义包括:
选定用于构建所述单一指标定义的单一模型;
选定与所述选定的单一模型关联的维度子集、度量子集以及过滤条件;
基于与所述选定的单一模型关联的所述元数据明细子表,所述维度子集,所述度量子集以及所述过滤条件构建所述指标定义,
其中,所述维度子集是所述维度集合的子集,所述度量子集是所述度量集合的子集。
5.根据权利要求4所述的方法,其中,基于所述衍生模型构建衍生指标定义包括:
选定用于构建所述衍生指标定义的衍生模型;
选定与所述选定的衍生模型关联的维度子集以及加工规则;
基于与所述选定的衍生模型关联的所述维度子集以及所述加工规则构建所述衍生指标定义。
6.根据权利要求1所述的方法,其特征在于,所述方法还包括:
构建指标权限表,所述指标权限表与所述指标定义关联。
7.根据权利要求6所述的方法,其特征在于,所述方法还包括:
构建数据权限表,所述数据权限表与所述指标定义关联。
8.一种数据获取方法,其特征在于,包括:
获取数据提取指令,所述数据提取指令包含指标定义;
基于所述指标定义关联业务数据表和常用维度表;
基于所述业务数据表关联元数据明细子表;
基于所述常用维度表关联第一映射表和第二映射表;
基于所述第一映射表和第二映射表建立所述元数据明细子表和指标结果表的映射关系;
基于所述指标结果表获取指标结果数据其中,所述指标定义,所述业务数据表,所述第一映射表和所述第二映射表根据权利要求1-7任一项所述的指标配置方法构建。
9.根据权利要求8所述的方法,其中,所述方法还包括:
基于预设的作业调度周期定时抽取元数据信息;
基于所述元数据信息更新配置指标定义。
10.根据权利要求8所述的方法,其中,在获取指标结果数据后,所述方法还包括:
基于指标权项表对所述指标结果数据进行处理,抽取第一可见指标数据。
11.根据权利要求9所述的方法,其中,在抽取第一可见指标数据后,所述方法还包括:
基于数据权限表对所述指标结果数据进行处理,抽取第二可见指标数据。
12.一种指标配置装置,其特征在于,包括:
获取模块,配置为抽取元数据信息,获取业务数据项,其中,所述业务数据项包括表数据项和字段数据项;
第一构建模块,配置为基于所述业务数据项构建业务数据表,所述业务数据表包括表数据项表和字段数据项表,所述表数据项表和字段数据项表通过表标识关联;
第二构建模块,配置为配置元数据明细表与常用维度表之间的映射关系,构建第一映射表,其中,所述元数据明细表与所述表数据项表通过表标识关联;
第三构建模块,配置为配置常用维度表与指标结果表之间的映射关系,构建第二映射表;
第四构建模块,配置为构建指标模型和指标定义,其中,所述指标定义基于所述指标模型构建,所述指标模型包括维度集合;
其中,所述指标定义,所述业务数据表,所述第一映射表和所述第二映射表用于配置生成指标结果数据。
13.一种数据获取装置,其特征在于,包括:
接收模块,配置为获取数据提取指令,所述数据提取指令包含指标定义;
第一处理模块,配置为基于所述指标定义关联业务数据表和常用维度表;
第二处理模块,配置为基于所述业务数据表关联元数据明细子表;
第三处理模块,配置为基于所述常用维度表关联第一映射表和第二映射表;
第四处理模块,配置为基于所述第一映射表和第二映射表建立所述元数据明细子表和指标结果表的映射关系;
生成模块,配置为基于所述指标结果表获取指标结果数据,
其中,所述指标定义,所述业务数据表,所述第一映射表和所述第二映射表根据权利要求12所述的模块构建。
14.一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行根据权利要求1~11中任一项所述的方法。
15.一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行根据权利要求1~11中任一项所述的方法。
16.一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现根据权利要求1~11中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210029287.5A CN114358636A (zh) | 2022-01-11 | 2022-01-11 | 指标配置方法、数据获取方法、装置、设备和介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210029287.5A CN114358636A (zh) | 2022-01-11 | 2022-01-11 | 指标配置方法、数据获取方法、装置、设备和介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114358636A true CN114358636A (zh) | 2022-04-15 |
Family
ID=81108486
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210029287.5A Pending CN114358636A (zh) | 2022-01-11 | 2022-01-11 | 指标配置方法、数据获取方法、装置、设备和介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114358636A (zh) |
-
2022
- 2022-01-11 CN CN202210029287.5A patent/CN114358636A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6887544B2 (ja) | イベント処理のための動的に型付けされたビッグデータによるイベントの充実化 | |
US11275730B2 (en) | Automated data analysis using combined queries | |
US10217256B2 (en) | Visually exploring and analyzing event streams | |
US10120907B2 (en) | Scaling event processing using distributed flows and map-reduce operations | |
US9934279B2 (en) | Pattern matching across multiple input data streams | |
US10636086B2 (en) | XBRL comparative reporting | |
CN108958959B (zh) | 检测hive数据表的方法和装置 | |
CN111444256A (zh) | 一种数据可视化的实现方法和装置 | |
CN104102670A (zh) | 绩效指标分析框架 | |
CN115587575A (zh) | 数据表创建方法、目标数据查询方法、装置及设备 | |
CN116594683A (zh) | 一种代码注释信息生成方法、装置、设备及存储介质 | |
US11609924B2 (en) | Database query execution on multiple databases | |
CN114358636A (zh) | 指标配置方法、数据获取方法、装置、设备和介质 | |
CN115268734A (zh) | 基于报价工具的报价生成方法、装置、设备及存储介质 | |
US9489438B2 (en) | Systems and methods for visualizing master data services information | |
CN115017185A (zh) | 一种数据处理方法、装置及存储介质 | |
CN117009327B (zh) | 一种数据处理方法、装置及计算机设备、介质 | |
US11562130B2 (en) | Client-side 2D rendering of server-side multidimensional data | |
US20230087339A1 (en) | System and method for generating automatic insights of analytics data | |
CN115130135A (zh) | 权限确定方法、装置、电子设备和介质 | |
US10896193B2 (en) | Cache fetching of OLAP based data using client to client relationships and data encoding | |
US20200412729A1 (en) | Entitlement-driven communication of functionality privileges between network-based services | |
CN117312398A (zh) | 数据处理方法及装置、电子设备和计算机可读存储介质 | |
CN114239517A (zh) | 数据处理方法、装置、电子设备及存储介质 | |
CN116415914A (zh) | 业务数据处理方法、装置、计算机设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |