CN110941657A - 业务数据处理方法及装置 - Google Patents

业务数据处理方法及装置 Download PDF

Info

Publication number
CN110941657A
CN110941657A CN201911089292.XA CN201911089292A CN110941657A CN 110941657 A CN110941657 A CN 110941657A CN 201911089292 A CN201911089292 A CN 201911089292A CN 110941657 A CN110941657 A CN 110941657A
Authority
CN
China
Prior art keywords
service data
target
data
metadata
data table
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201911089292.XA
Other languages
English (en)
Other versions
CN110941657B (zh
Inventor
叶文军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Ant Chuangjiang Information Technology Co ltd
Original Assignee
Alipay Hangzhou Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alipay Hangzhou Information Technology Co Ltd filed Critical Alipay Hangzhou Information Technology Co Ltd
Priority to CN201911089292.XA priority Critical patent/CN110941657B/zh
Publication of CN110941657A publication Critical patent/CN110941657A/zh
Application granted granted Critical
Publication of CN110941657B publication Critical patent/CN110941657B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/25Integrating or interfacing systems involving database management systems
    • G06F16/254Extract, transform and load [ETL] procedures, e.g. ETL data flows in data warehouses
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/245Query processing
    • G06F16/2453Query optimisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/248Presentation of query results

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本说明书实施例公开了一种业务数据处理方法及装置,所述业务数据处理方法包括:获取原始业务数据表对应的元数据;获取原始业务数据表中的目标业务数据;确定与元数据和目标业务数据匹配的目标展示样式;根据目标展示样式对原始业务数据表对应的待展示数据进行页面渲染处理。

Description

业务数据处理方法及装置
技术领域
本说明书涉及计算机技术领域,尤其涉及一种业务数据处理方法及装置。
背景技术
随着数据处理技术的快速发展,用户对数据分析处理的效率、成本等的要求也越来越高。
目前,当采用商业智能(Business Intelligence,BI)技术对一张数据表中的数据进行透视分析处理时,对于处理流程中所包含的用于构建数据仓库的抽取-转换-加载(Extraction-Transformation-Loading,ETL)过程以及后续的数据分析过程,为了得到符合要求的、能够用于分析处理的数据以及顺利完成有效的数据分析处理,均需要进行人工配置,这样耗费的人力和时间成本较高,导致数据分析处理成本增加,而且不够智能、易出错。
因此,需要一种能够降低人力和时间成本,快速且准确的数据分析处理方案。
发明内容
本说明书实施例提供一种业务数据处理方法及装置,旨在降低数据分析处理中投入的人力和时间成本,同时实现快速且准确的数据分析处理。
本说明书实施例采用下述技术方案:
第一方面,本说明书实施例提供一种业务数据处理方法,包括:
获取原始业务数据表对应的元数据;
获取所述原始业务数据表中的目标业务数据;
确定与所述元数据和所述目标业务数据匹配的目标展示样式;
根据所述目标展示样式对所述原始业务数据表对应的待展示数据进行页面渲染处理。
第二方面,本说明书实施例提供一种业务数据处理装置,包括:
第一获取模块,用于获取原始业务数据表对应的元数据;
第二获取模块,用于获取所述原始业务数据表中的目标业务数据;
确定模块,用于确定与所述元数据和所述目标业务数据匹配的目标展示样式;
处理模块,用于根据所述目标展示样式对所述原始业务数据表对应的待展示数据进行页面渲染处理。
第三方面,本说明书实施例提供一种电子设备,包括:
处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器执行以下操作:
获取原始业务数据表对应的元数据;
获取所述原始业务数据表中的目标业务数据;
确定与所述元数据和所述目标业务数据匹配的目标展示样式;
根据所述目标展示样式对所述原始业务数据表对应的待展示数据进行页面渲染处理。
第四方面,本说明书实施例提供一种计算机可读存储介质,所述计算机可读存储介质存储一个或多个程序,所述一个或多个程序当被包括多个应用程序的电子设备执行时,使得所述电子设备执行以下操作:
获取原始业务数据表对应的元数据;
获取所述原始业务数据表中的目标业务数据;
确定与所述元数据和所述目标业务数据匹配的目标展示样式;
根据所述目标展示样式对所述原始业务数据表对应的待展示数据进行页面渲染处理。
本说明书实施例采用的上述至少一个技术方案实现了以下技术效果:
本说明书实施例,在获取到原始业务数据表对应的元数据以及从原始业务数据表中获取到需要的目标业务数据后,基于该元数据和目标业务数据可以得到能够对原始业务数据表对应的待展示数据进行准确展示的目标展示样式,以进一步可以根据该目标展示样式对待展示数据直接进行页面渲染处理。如此,通过结合原始业务数据表对应的元数据及其中包含的业务数据的具体情况自动匹配所需的展示样式,并基于该展示样式实现对原始业务数据表中的待展示数据的页面渲染,以在无需进行人工配置的情况下,自动化完成快速且准确的数据分析处理,从而降低了数据分析处理的人力和时间成本,同时可以降低数据分析处理的门槛并提高数据分析处理的效率和准确性。
附图说明
此处所说明的附图用来提供对本说明书的进一步理解,构成本说明书的一部分,本说明书的示意性实施例及其说明用于解释本说明书,并不构成对本说明书的不当限定。在附图中:
图1为本说明书实施例提供的业务数据处理方法的流程示意图;
图2为本说明书实施例提供的业务数据处理的系统流程示意图;
图3为本说明书实施例提供的离线数据处理的任务流程示意图;
图4为本说明书实施例提供的在线实时数据处理的任务流程示意图;
图5为本说明书实施例提供的采用热力图样式进行页面渲染的示意图;
图6为本说明书实施例提供的采用折线图样式和柱状图样式进行页面渲染的示意图;
图7为本说明书实施例提供的业务数据处理装置的结构示意图;
图8为本说明书实施例提供的电子设备的结构示意图。
具体实施方式
为使本说明书的目的、技术方案和优点更加清楚,下面将结合本说明书具体实施例及相应的附图对本说明书技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本说明书一部分实施例,而不是全部的实施例。基于本说明书中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本说明书保护的范围。
对于背景技术部分陈述的基于BI技术的数据分析处理方案,由于涉及大量人工操作,耗费的人力和时间成本较高,效率低、不够准确,而且,无法沉淀历史数据分析处理过程中的经验,造成了经验浪费。
因此,需要一种能够降低人力和时间成本,快速且准确的数据分析处理方案,同时能够沉淀数据分析处理经验,以便于进一步促进数据分析处理的效率和准确性。
以下结合附图,详细说明本说明书各实施例提供的技术方案。
参见图1所示,本说明书实施例提供一种业务数据处理方法,该方法可包括:
步骤101:获取原始业务数据表对应的元数据。
其中,原始业务数据表对应的元数据至少可以包括表名称、字段名称和字段数据类型中的一个,表名称可以用于区分不同的业务数据表,字段类型可以包括数值型、字符型、日期时间型等;可选的,可以通过直接从原始业务数据表中读取的形式获取原始业务数据表对应的元数据,比如可以从原始业务数据表的表头区域读取相应的元数据;或者也可以从原始业务数据表对应的元数据的信息统计表中获取对应的元数据。
步骤103:获取原始业务数据表中的目标业务数据。
步骤105:确定与元数据和目标业务数据匹配的目标展示样式。
步骤107:根据目标展示样式对原始业务数据表对应的待展示数据进行页面渲染处理。
本说明书实施例,在获取到原始业务数据表对应的元数据以及从原始业务数据表中获取到需要的目标业务数据后,基于该元数据和目标业务数据可以得到能够对原始业务数据表对应的待展示数据进行准确展示的目标展示样式,以进一步可以根据该目标展示样式对待展示数据直接进行页面渲染处理。如此,通过结合原始业务数据表对应的元数据及其中包含的业务数据的具体情况自动匹配所需的展示样式,并基于该展示样式实现对原始业务数据表中的待展示数据的页面渲染,以在无需进行人工配置的情况下,自动化完成快速且准确的数据分析处理,从而降低了数据分析处理的人力和时间成本,同时可以降低数据分析处理的门槛并提高数据分析处理的效率和准确性。
其中,待展示数据为满足用户的当前数据分析处理需求且与目标展示样式适配的数据,可以包括原始业务数据表中记载的原始数据,也可以包括对原始业务数据表中记载的原始数据进行相应的统计分析后得到的汇总结果数据,比如求取的总和、平均值等。也就是说,待展示数据具体可以为与目标展示样式匹配的汇总数据和/或作为汇总数据基础的细节数据等。
可选的,本说明书实施例的业务数据处理方法,在上述步骤105之前,该方法还可以包括如下内容:
基于目标业务数据将元数据分为第一类元数据和第二类元数据,其中,第一类元数据与目标业务数据中第一类元数据对应的第一类业务数据具有的业务含义相匹配,第二类元数据与目标业务数据中第二类元数据对应的第二类业务数据具有的业务含义不匹配。
可以理解,为了确保能够准确的获取到原始业务数据表对应的元数据,可以基于目标业务数据所具有的业务含义对原始业务数据表对应的元数据进行验证和完善。一方面,当目标业务数据中的部分业务数据所具有的业务含义与其对应的部分元数据相匹配时,比如当元数据包括手机号,其在原始业务数据表中对应的业务数据也符合手机号的组成规则时,即目标业务数据中的第一类业务数据所具有的业务含义与原始业务数据表对应的元数据中的第一类元数据相匹配。另一方面,当目标业务数据中的部分业务数据所具有的业务含义与其对应的部分元数据不匹配时,比如当元数据包括身份证号,其在原始业务数据表中对应的业务数据符合日期的组成规则时,即目标业务数据中的第二类业务数据所具有的业务含义与原始业务数据表对应的元数据中的第二类元数据不匹配。如此,可以通过原始业务数据表中的业务数据起到验证其对应的元数据的准确性的作用,从而可以相应的将原始业务数据表对应的元数据及其中的目标业务数据分别划分为两类。
进一步的,在本说明书实施例的业务数据处理方法中,为了确保用于对原始业务数据表对应的待展示数据进行页面渲染处理的目标展示样式的准确性以及与待展示数据较高的适配性,上述步骤105可以具体执行为如下内容:
确定与第一类元数据和第二类业务数据匹配的目标展示样式。
可选的,在本说明书实施例中,除了可以直接基于上述第一类元数据和第二类业务数据准确地匹配到目标展示样式,还可以先基于第二类业务数据所具有的业务含义将上述第二类元数据完善调整至与第二类业务数据所具有的业务含义相匹配,即在已有元数据无法准确、明确的描述对应部分的业务数据时,可以根据该部分业务数据具有的属性特征等推导得到准确的元数据,进而根据第一类元数据以及经过完善调整后的第二类元数据确定该目标展示样式。
进一步可选的,在本说明书实施例的业务数据处理方法中,还可以包括以下内容:
根据元数据和业务数据中的至少一个与展示样式之间的预设关联关系,确定与元数据和目标业务数据匹配的目标展示样式。
可以理解,通过预先建立元数据和业务数据中的至少一个与展示样式之间的关联关系,也就是说,根据满足相应的预设规则的元数据和/或业务数据,为其匹配到对应的展示样式,一方面考虑到元数据为描述业务数据属性特征的信息以及业务数据的组成等符合一定的规则,则可以通过建立业务数据的属性特征即元数据、组成规则等与展示样式间的关联关系,以助于实现对业务数据准确的分析处理;另一方面,在建立元数据和业务数据中的至少一个与展示样式之间的关联关系时,不可避免地会结合历史的数据分析经验建立关联关系,如此,通过沉淀历史数据分析经验,可以提高该业务数据处理方案的通用性,大大降低了数据分析处理门槛和人力时间成本,并能够基于沉淀的数据分析经验快速且准确地完成自动化数据分析处理。
可选的,该预设关联关系为元数据和业务数据中的至少一个与展示样式之间的多对多的关联关系。
可选的,在本说明书实施例的业务数据处理方法中,上述步骤107,可以具体执行为如下内容:
根据接收到的查询任务获取原始业务数据表对应的待展示数据;
根据目标展示样式对待展示数据进行页面渲染处理。
可以理解,结合与用户需求相匹配的查询任务可以基于原始业务数据表中的业务数据准确地得到所需的待展示数据,进而可以采用匹配出的渲染样式结果渲染出总体的报表页面,以进行准确且直观的数据展示。
举例来说,可以通过图2所示的系统流程图总体说明本说明书实施例的业务数据处理方法,读取到原始业务数据表中的表名称、字段名称、字段数据类型等元数据以及抽样业务数据(相当于目标业务数据),并根据匹配器中预设的元数据规则和抽样业务数据规则,准确地匹配到满足前述预设的规则的展示样式,即相当于确定元数据和目标业务数据匹配的目标展示样式,进而根据匹配到的展示样式将需要的数据抽取出来,并将数据和匹配出的渲染样式结合以渲染出总体的报表页面;可选的,通过图2所示的结构化查询语言(Structured Query Language,SQL)报表调度产出展示样式所需的数据(相当于待展示数据),以进行报表展示,完成页面渲染。其中,除了采用匹配器进行规则匹配以确定所需的展示样式,也可以采用规则引擎的计算模式达到相应的效果。
可选的,当原始业务数据表对应于不同类型的数据库时,在进行业务数据处理时可以根据具体情况进行适应性调整,比如针对不同数据量的报表进行不同的处理,一般地,离线业务数据库中存储的数据量多于实时的线上业务数据库中存储的数据量,以提高本说明书实施例的业务数据处理方法的通用性,满足用户的多方位的业务数据处理需求,同时确保业务数据处理的效率和准确性。
在本说明书的一个具体实施例中,上述原始业务数据表可以为离线业务数据库中存储的报表。
可选的,在上述原始业务数据表为离线业务数据库中存储的报表的情况下,在上述步骤103之前,本说明书实施例的业务数据处理方法还可以包括以下内容:
将所述原始业务数据表中的部分或全部业务数据同步至操作数据存储ODS数据表中。
可以理解,当需要对离线数据库中存储的各业务数据表进行数据分析时,为了能够顺利且准确地获取到原始业务数据表对应的元数据,可以先对原始业务数据表对应的各项数据进行入仓处理,也就是说,将原始业务数据表中的部分或全部业务数据经过ETL过程同步至操作数据存储(Operational Data Store,ODS)数据表中。如此,基于数据仓库体系结构中的ODS,在保持数据的数据结构、数据之间的逻辑关系基本不变的同时,可以降低数据转化的复杂性,且便于支持多维分析等查询功能,即可以方便地从ODS数据表中抽取到相应的业务数据,以可以准确全面的获取到所需的元数据。
进一步可选的,上述根据接收到的查询任务获取原始业务数据表对应的待展示数据的方案,可以具体执行为如下内容:
根据查询任务从ODS数据表中获取与目标展示样式匹配的待展示数据,待展示数据基于非关系型数据库NoSQL的即时查询引擎获取。
可以理解,在将原始业务数据表中的部分或全部业务数据同步至操作数据存储ODS数据表中后,为了确保离线处理数据的效率,则可以基于非关系型数据库(Not OnlySQL,NoSQL)的即时查询引擎对应的查询任务从该ODS数据表中获取与目标展示样式匹配的且满足用户数据分析处理需求的待展示数据。
具体的,当进行离线业务数据处理时,可以执行为如图3所示的任务流程。其中,ODPS(Open Data Processing Service)是分布式的海量数据处理平台,可以用于批量的离线大数据的处理过程中,具有良好的数据处理功能,便于确保离线数据处理效率。具体进行离线的样式匹配时,既可以通过ODPS同步任务将原始业务数据表的数据全量同步到ODS表中,也可以抽取部分数据同步到ODS表中。进一步地,在进行元数据获取以及匹配样式时的数据抽样,可以依情况进行全量抽样或部分抽样,比如当ODS全量同步原始业务数据表的数据时,匹配时可以进行部分抽样,反之匹配样式时可以进行全量抽样。
进一步可选的,本说明书实施例中的上述步骤103可以具体执行为:将所述ODS数据表中的业务数据作为所述目标业务数据。
进一步可选的,在ODS数据表中的业务数据为原始业务数据表中的全部业务数据的情况下,还可以通过抽样的方式从ODS数据表中获取到目标业务数据。
在本说明书的另一个具体实施例中,上述原始业务数据表还可以为线上业务数据库中存储的报表。
可选的,在原始业务数据表为线上业务数据库中存储的报表的情况下,上述根据接收到的查询任务获取原始业务数据表对应的待展示数据的步骤,可以具体执行为以下内容:
根据所述查询任务从所述原始业务数据表中获取与所述目标展示样式匹配的所述待展示数据,所述待展示数据基于关系型数据库SQL视图或SQL语句获取。
可以理解,当需要对线上数据库中存储的各业务数据表进行数据分析时,考虑到线上业务数据库中存储的数据量相对较少,则可以基于关系型数据库SQL视图或SQL语句对应的查询任务直接从原始业务数据表中获取与目标展示样式匹配的且满足用户数据分析处理需求的待展示数据。
具体的,当进行在线业务数据处理时,可以执行为如图4所示的任务流程,基于SQL视图或SQL语句进行所需数据的查询,可以提高根据目标展示样式和待展示数据进行页面渲染处理的效率。
进一步可选的,本说明书实施例中的上述步骤103可以具体执行为:对所述原始业务数据表中的业务数据进行抽样以得到所述目标业务数据。
可以理解,通过基于原始业务数据表进行抽样的方式得到用于匹配目标展示样式的目标业务数据,具体可以通过随机抽样的方式从该原始业务数据表中得到目标业务数据。
可选的,本说明书实施例的业务数据处理方法中,上述目标展示样式包括热力图展示样式、折线图展示样式、柱状图展示样式和关键字云图展示样式中的至少一个。
可以理解,为更好的展示数据之间的关联、比较及走势关系等,可以采用一种或多种展示样式进行数据可视化展示,以将抽象的数据表现为可见的图形或图像,清晰直观的向用户展示数据分析处理的结果。
举例来说,如图5所示,当基于用户数据表获取到的元数据表名包括用户、人,列名字段包括城市、城镇、坐标、名字、年龄时,可以依据城市字段进行用户的计数分组统计,并采用根据元数据到的热力图样式展示数据;如图6所示,当基于月活跃用户(Month ActiveUser,MAU)数据表获取到的元数据表名包括MAU,列名字段包括数据类型、时间时,可以依据数据类型字段统计分组,并分别通过折线图样式和柱状图样式展示数据。
由上可知,通过本说明书实施例的业务数据处理方案,能够快速分析数据,自动化数据报表制作的目的,也就是说,通过预设一定的规则,在数据生产过程中遵循某种规范,比如数据表中字段名称符合某种规范,即能自动将表的数据分析结果展示给用户,并能够降低数据分析洞察成本,沉淀历史数据分析经验,降低数据分析门槛。
本说明书实施例还提供一种业务数据处理装置,参见图7所示,该装置可具体包括:
第一获取模块201,用于获取原始业务数据表对应的元数据;
第二获取模块203,用于获取原始业务数据表中的目标业务数据;
确定模块205,用于确定与元数据和目标业务数据匹配的目标展示样式;
处理模块207,用于根据目标展示样式对原始业务数据表对应的待展示数据进行页面渲染处理。
可选的,本说明书实施例提供的业务数据处理装置中,上述处理模块207,可以具体包括:
获取子模块,用于根据接收到的查询任务获取原始业务数据表对应的待展示数据;
处理子模块,用于根据目标展示样式对待展示数据进行页面渲染处理。
可选的,本说明书实施例提供的业务数据处理装置,还可以包括:
同步模块,用于在原始业务数据表为离线业务数据库中存储的报表的情况下,在获取原始业务数据表中的目标业务数据之前,将原始业务数据表中的部分或全部业务数据同步至操作数据存储ODS数据表中;
其中,上述获取子模块,可以具体用于:
根据查询任务从ODS数据表中获取与目标展示样式匹配的待展示数据,待展示数据基于非关系型数据库NoSQL的即时查询引擎获取。
可选的,在本说明书实施例提供的业务数据处理装置中,上述第二获取模块203,可以具体用于:
将ODS数据表中的业务数据作为目标业务数据。
可选的,在本说明书实施例提供的业务数据处理装置中,在原始业务数据表为线上业务数据库中存储的报表的情况下,上述获取子模块,可以具体用于:
根据查询任务从原始业务数据表中获取与目标展示样式匹配的待展示数据,待展示数据基于关系型数据库SQL视图或SQL语句获取。
可选的,在本说明书实施例提供的业务数据处理装置中,上述第二获取模块203,可以具体用于:
对原始业务数据表中的业务数据进行抽样以得到目标业务数据。
可选的,本说明书实施例提供的业务数据处理装置,还可以包括:
分类模块,用于在确定与元数据和目标业务数据匹配的目标展示样式之前,基于目标业务数据将元数据分为第一类元数据和第二类元数据,其中,第一类元数据与目标业务数据中第一类元数据对应的第一类业务数据具有的业务含义相匹配,第二类元数据与目标业务数据中第二类元数据对应的第二类业务数据具有的业务含义不匹配;
其中,上述确定模块205,可以具体用于:
确定与第一类元数据和第二类业务数据匹配的目标展示样式。
可选的,在本说明书实施例提供的业务数据处理装置中,上述元数据包括表名称、字段名称和字段数据类型中的至少一个。
可选的,在本说明书实施例提供的业务数据处理装置中,上述目标展示样式包括热力图展示样式、折线图展示样式、柱状图展示样式和关键字云图展示样式中的至少一个。
本说明书实施例,在获取到原始业务数据表对应的元数据以及从原始业务数据表中获取到需要的目标业务数据后,基于该元数据和目标业务数据可以得到能够对原始业务数据表对应的待展示数据进行准确展示的目标展示样式,以进一步可以根据该目标展示样式对待展示数据直接进行页面渲染处理。如此,通过结合原始业务数据表对应的元数据及其中包含的业务数据的具体情况自动匹配所需的展示样式,并基于该展示样式实现对原始业务数据表中的待展示数据的页面渲染,以在无需进行人工配置的情况下,自动化完成快速且准确的数据分析处理,从而降低了数据分析处理的人力和时间成本,同时可以降低数据分析处理的门槛并提高数据分析处理的效率和准确性。
另外,对于上述装置实施方式而言,由于其与方法实施方式基本相似,所以描述的比较简单,相关之处参见方法实施方式的部分说明即可。而且,应当注意的是,在本说明书实施例的装置的各个部件中,根据其要实现的功能而对其中的部件进行了逻辑划分,但是,本说明书实施例不受限于此,可以根据需要对各个部件进行重新划分或者组合。
图8是本说明书的一个实施例电子设备的结构示意图。请参考图8,在硬件层面,该电子设备包括处理器,可选地还包括内部总线、网络接口、存储器。其中,存储器可能包含内存,例如高速随机存取存储器(Random-Access Memory,RAM),也可能还包括非易失性存储器(non-volatile memory),例如至少1个磁盘存储器等。当然,该电子设备还可能包括其他业务所需要的硬件。
处理器、网络接口和存储器可以通过内部总线相互连接,该内部总线可以是ISA(Industry Standard Architecture,工业标准体系结构)总线、PCI(PeripheralComponent Interconnect,外设部件互连标准)总线或EISA(Extended Industry StandardArchitecture,扩展工业标准结构)总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示,图8中仅用一个双向箭头表示,但并不表示仅有一根总线或一种类型的总线。
存储器,用于存放程序。具体地,程序可以包括程序代码,所述程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器,并向处理器提供指令和数据。
处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行,在逻辑层面上形成业务数据处理装置。处理器,执行存储器所存放的程序,并具体用于执行以下操作:
获取原始业务数据表对应的元数据;
获取原始业务数据表中的目标业务数据;
确定与元数据和目标业务数据匹配的目标展示样式;
根据目标展示样式对原始业务数据表对应的待展示数据进行页面渲染处理。
上述如本说明书图1所示实施例揭示的业务数据处理装置执行的方法可以应用于处理器中,或者由处理器实现。处理器可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器,包括中央处理器(Central Processing Unit,CPU)、网络处理器(Network Processor,NP)等;还可以是数字信号处理器(Digital SignalProcessor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本说明书实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本说明书实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器,处理器读取存储器中的信息,结合其硬件完成上述方法的步骤。
本说明书实施例,在获取到原始业务数据表对应的元数据以及从原始业务数据表中获取到需要的目标业务数据后,基于该元数据和目标业务数据可以得到能够对原始业务数据表对应的待展示数据进行准确展示的目标展示样式,以进一步可以根据该目标展示样式对待展示数据直接进行页面渲染处理。如此,通过结合原始业务数据表对应的元数据及其中包含的业务数据的具体情况自动匹配所需的展示样式,并基于该展示样式实现对原始业务数据表中的待展示数据的页面渲染,以在无需进行人工配置的情况下,自动化完成快速且准确的数据分析处理,从而降低了数据分析处理的人力和时间成本,同时可以降低数据分析处理的门槛并提高数据分析处理的效率和准确性。
该电子设备还可执行图1中业务数据处理装置执行的方法,并实现业务数据处理装置在图1所示实施例的功能,本说明书实施例在此不再赘述。
本说明书实施例还提出了一种计算机可读存储介质,该计算机可读存储介质存储一个或多个程序,该一个或多个程序包括指令,该指令当被包括多个应用程序的电子设备执行时,能够使该电子设备执行图1所示实施例中业务数据处理装置执行的方法,并具体用于执行:
获取原始业务数据表对应的元数据;
获取原始业务数据表中的目标业务数据;
确定与元数据和目标业务数据匹配的目标展示样式;
根据目标展示样式对原始业务数据表对应的待展示数据进行页面渲染处理。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本说明书实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本说明书的实施例可提供为方法、系统或计算机程序产品。因此,本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本说明书实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
以上所述仅为本说明书的实施例而已,并不用于限制本说明书。对于本领域技术人员来说,本说明书实施例可以有各种更改和变化。凡在本说明书实施例的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本说明书实施例的权利要求范围之内。

Claims (12)

1.一种业务数据处理方法,所述方法包括:
获取原始业务数据表对应的元数据;
获取所述原始业务数据表中的目标业务数据;
确定与所述元数据和所述目标业务数据匹配的目标展示样式;
根据所述目标展示样式对所述原始业务数据表对应的待展示数据进行页面渲染处理。
2.根据权利要求1所述的方法,所述根据所述目标展示样式对所述原始业务数据表对应的待展示数据进行页面渲染处理,包括:
根据接收到的查询任务获取所述原始业务数据表对应的所述待展示数据;
根据所述目标展示样式对所述待展示数据进行页面渲染处理。
3.根据权利要求2所述的方法,在所述原始业务数据表为离线业务数据库中存储的报表的情况下,在所述获取所述原始业务数据表中的目标业务数据之前,所述方法还包括:
将所述原始业务数据表中的部分或全部业务数据同步至操作数据存储ODS数据表中;
其中,所述根据接收到的查询任务获取所述原始业务数据表对应的所述待展示数据,包括:
根据所述查询任务从所述ODS数据表中获取与所述目标展示样式匹配的所述待展示数据,所述待展示数据基于非关系型数据库NoSQL的即时查询引擎获取。
4.根据权利要求3所述的方法,所述获取所述原始业务数据表中的目标业务数据,包括:
将所述ODS数据表中的业务数据作为所述目标业务数据。
5.根据权利要求2所述的方法,在所述原始业务数据表为线上业务数据库中存储的报表的情况下,所述根据接收到的查询任务获取所述原始业务数据表对应的所述待展示数据,包括:
根据所述查询任务从所述原始业务数据表中获取与所述目标展示样式匹配的所述待展示数据,所述待展示数据基于关系型数据库SQL视图或SQL语句获取。
6.根据权利要求5所述的方法,所述获取所述原始业务数据表中的目标业务数据,包括:
对所述原始业务数据表中的业务数据进行抽样以得到所述目标业务数据。
7.根据权利要求1~6中任一项所述的方法,在所述确定与所述元数据和所述目标业务数据匹配的目标展示样式之前,所述方法还包括:
基于所述目标业务数据将所述元数据分为第一类元数据和第二类元数据,其中,所述第一类元数据与所述目标业务数据中所述第一类元数据对应的第一类业务数据具有的业务含义相匹配,所述第二类元数据与所述目标业务数据中所述第二类元数据对应的第二类业务数据具有的业务含义不匹配;
其中,所述确定与所述元数据和所述目标业务数据匹配的目标展示样式,包括:
确定与所述第一类元数据和所述第二类业务数据匹配的目标展示样式。
8.根据权利要求1~6中任一项所述的方法,所述元数据包括表名称、字段名称和字段数据类型中的至少一个。
9.根据权利要求1~6中任一项所述的方法,所述目标展示样式包括热力图展示样式、折线图展示样式、柱状图展示样式和关键字云图展示样式中的至少一个。
10.一种业务数据处理装置,所述装置包括:
第一获取模块,用于获取原始业务数据表对应的元数据;
第二获取模块,用于获取所述原始业务数据表中的目标业务数据;
确定模块,用于确定与所述元数据和所述目标业务数据匹配的目标展示样式;
处理模块,用于根据所述目标展示样式对所述原始业务数据表对应的待展示数据进行页面渲染处理。
11.一种电子设备,包括:
处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器执行以下操作:
获取原始业务数据表对应的元数据;
获取所述原始业务数据表中的目标业务数据;
确定与所述元数据和所述目标业务数据匹配的目标展示样式;
根据所述目标展示样式对所述原始业务数据表对应的待展示数据进行页面渲染处理。
12.一种计算机可读存储介质,所述计算机可读存储介质存储一个或多个程序,所述一个或多个程序当被包括多个应用程序的电子设备执行时,使得所述电子设备执行以下操作:
获取原始业务数据表对应的元数据;
获取所述原始业务数据表中的目标业务数据;
确定与所述元数据和所述目标业务数据匹配的目标展示样式;
根据所述目标展示样式对所述原始业务数据表对应的待展示数据进行页面渲染处理。
CN201911089292.XA 2019-11-08 2019-11-08 业务数据处理方法及装置 Active CN110941657B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911089292.XA CN110941657B (zh) 2019-11-08 2019-11-08 业务数据处理方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911089292.XA CN110941657B (zh) 2019-11-08 2019-11-08 业务数据处理方法及装置

Publications (2)

Publication Number Publication Date
CN110941657A true CN110941657A (zh) 2020-03-31
CN110941657B CN110941657B (zh) 2023-03-31

Family

ID=69907479

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911089292.XA Active CN110941657B (zh) 2019-11-08 2019-11-08 业务数据处理方法及装置

Country Status (1)

Country Link
CN (1) CN110941657B (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112000329A (zh) * 2020-09-11 2020-11-27 支付宝(杭州)信息技术有限公司 一种数据展示方法、装置、设备及介质
CN112286879A (zh) * 2020-07-15 2021-01-29 上海柯林布瑞信息技术有限公司 基于元数据的数据资产构建方法及装置
CN112434098A (zh) * 2020-10-23 2021-03-02 北京掌行通信息技术有限公司 一种路网运行的管理方法、装置、存储介质及终端
CN112561499A (zh) * 2021-02-01 2021-03-26 开封大学 一种基于低碳经济的新能源数据管理系统
CN112632556A (zh) * 2020-12-18 2021-04-09 北京明朝万达科技股份有限公司 一种基于数据分类分级的端点安全响应的方法及装置
CN116431742A (zh) * 2023-06-09 2023-07-14 合肥青谷信息科技有限公司 一种大数据量的业务数据加工方法、装置及电子设备

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104391989A (zh) * 2014-12-16 2015-03-04 浪潮电子信息产业股份有限公司 一种分布式etl一体机系统
CN104750681A (zh) * 2013-12-25 2015-07-01 中国移动通信集团辽宁有限公司 一种海量数据的处理方法及装置
CN106294299A (zh) * 2016-07-29 2017-01-04 杭州华三通信技术有限公司 一种报表生成方法及装置
CN107491427A (zh) * 2017-06-08 2017-12-19 北京小度信息科技有限公司 数据报表处理方法及装置
CN107562467A (zh) * 2017-07-26 2018-01-09 阿里巴巴集团控股有限公司 页面渲染方法、装置及设备
CN108519967A (zh) * 2018-04-08 2018-09-11 深圳乐信软件技术有限公司 图表可视化方法、装置、终端和存储介质
CN109086052A (zh) * 2018-07-06 2018-12-25 重庆和贯科技有限公司 基于Portal的BI系统
CN109144982A (zh) * 2018-09-29 2019-01-04 北京友友天宇系统技术有限公司 多维全息数据库动态构建技术系统
CN109669975A (zh) * 2018-11-09 2019-04-23 成都数之联科技有限公司 一种工业大数据处理系统及方法
CN109669983A (zh) * 2018-12-27 2019-04-23 杭州火树科技有限公司 可视化多数据源etl工具
CN109739893A (zh) * 2018-12-28 2019-05-10 上海连尚网络科技有限公司 一种元数据管理方法、设备及计算机可读介质
CN109977317A (zh) * 2019-04-03 2019-07-05 恒生电子股份有限公司 数据查询方法及装置
CN110175156A (zh) * 2019-04-10 2019-08-27 阿里巴巴集团控股有限公司 报表的生成方法及装置

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104750681A (zh) * 2013-12-25 2015-07-01 中国移动通信集团辽宁有限公司 一种海量数据的处理方法及装置
CN104391989A (zh) * 2014-12-16 2015-03-04 浪潮电子信息产业股份有限公司 一种分布式etl一体机系统
CN106294299A (zh) * 2016-07-29 2017-01-04 杭州华三通信技术有限公司 一种报表生成方法及装置
CN107491427A (zh) * 2017-06-08 2017-12-19 北京小度信息科技有限公司 数据报表处理方法及装置
CN107562467A (zh) * 2017-07-26 2018-01-09 阿里巴巴集团控股有限公司 页面渲染方法、装置及设备
CN108519967A (zh) * 2018-04-08 2018-09-11 深圳乐信软件技术有限公司 图表可视化方法、装置、终端和存储介质
CN109086052A (zh) * 2018-07-06 2018-12-25 重庆和贯科技有限公司 基于Portal的BI系统
CN109144982A (zh) * 2018-09-29 2019-01-04 北京友友天宇系统技术有限公司 多维全息数据库动态构建技术系统
CN109669975A (zh) * 2018-11-09 2019-04-23 成都数之联科技有限公司 一种工业大数据处理系统及方法
CN109669983A (zh) * 2018-12-27 2019-04-23 杭州火树科技有限公司 可视化多数据源etl工具
CN109739893A (zh) * 2018-12-28 2019-05-10 上海连尚网络科技有限公司 一种元数据管理方法、设备及计算机可读介质
CN109977317A (zh) * 2019-04-03 2019-07-05 恒生电子股份有限公司 数据查询方法及装置
CN110175156A (zh) * 2019-04-10 2019-08-27 阿里巴巴集团控股有限公司 报表的生成方法及装置

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112286879A (zh) * 2020-07-15 2021-01-29 上海柯林布瑞信息技术有限公司 基于元数据的数据资产构建方法及装置
CN112286879B (zh) * 2020-07-15 2021-08-13 上海柯林布瑞信息技术有限公司 基于元数据的数据资产构建方法及装置
CN112000329A (zh) * 2020-09-11 2020-11-27 支付宝(杭州)信息技术有限公司 一种数据展示方法、装置、设备及介质
CN112000329B (zh) * 2020-09-11 2023-09-05 支付宝(杭州)信息技术有限公司 一种数据展示方法、装置、设备及介质
CN112434098A (zh) * 2020-10-23 2021-03-02 北京掌行通信息技术有限公司 一种路网运行的管理方法、装置、存储介质及终端
WO2022083684A1 (zh) * 2020-10-23 2022-04-28 北京千方科技股份有限公司 一种路网运行的管理方法、装置、存储介质及终端
CN112632556A (zh) * 2020-12-18 2021-04-09 北京明朝万达科技股份有限公司 一种基于数据分类分级的端点安全响应的方法及装置
CN112561499A (zh) * 2021-02-01 2021-03-26 开封大学 一种基于低碳经济的新能源数据管理系统
CN116431742A (zh) * 2023-06-09 2023-07-14 合肥青谷信息科技有限公司 一种大数据量的业务数据加工方法、装置及电子设备

Also Published As

Publication number Publication date
CN110941657B (zh) 2023-03-31

Similar Documents

Publication Publication Date Title
CN110941657B (zh) 业务数据处理方法及装置
CN110413634B (zh) 数据查询方法、系统、装置及计算机可读存储介质
US10853433B2 (en) Method and device for generating briefing
CN108804459B (zh) 数据查询方法及装置
JP2013504118A (ja) クエリのセマンティックパターンに基づく情報検索
CN110795458B (zh) 交互式数据分析方法、装置、电子设备和计算机可读存储介质
CN110674213A (zh) 一种数据同步方法及装置
WO2019218459A1 (zh) 一种照片存储方法、存储介质、服务器和装置
CN113704243A (zh) 数据分析方法、装置、计算机装置及存储介质
WO2019200700A1 (zh) 一种公文处理的方法、装置、终端设备及存储介质
CN106844320B (zh) 一种财务报表整合方法和设备
CN111488377A (zh) 数据查询方法、装置、电子设备及存储介质
CN105989066A (zh) 一种信息处理方法和装置
CN110704423B (zh) 激励信息获取方法、装置及存储介质、电子设备
CN112149708A (zh) 数据模型选择优化方法、装置、计算机装置及存储介质
WO2016062197A1 (zh) 一种类目目录确定方法及装置、自动分类方法及装置
WO2020078084A1 (zh) 一种基于教育资源平台的消费数据统计方法及装置
CN115687352A (zh) 一种存储的方法及装置
CN114840762A (zh) 推荐内容确定方法、装置和电子设备
CN114528313A (zh) 数据处理方法、装置和电子设备
CN112765286A (zh) 一种基于关系数据库的查询方法及装置
CN110019198B (zh) 数据查询方法和装置
CN113377775A (zh) 信息处理方法及装置
CN112445819A (zh) 数据处理方法、装置、设备及存储介质
CN118331992B (zh) 数据查询方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20240228

Address after: Room 1408, No. 447 Nanquan North Road, China (Shanghai) Pilot Free Trade Zone, Pudong New Area, Shanghai, 200120

Patentee after: Shanghai Ant Chuangjiang Information Technology Co.,Ltd.

Country or region after: China

Address before: 310000 801-11 section B, 8th floor, 556 Xixi Road, Xihu District, Hangzhou City, Zhejiang Province

Patentee before: Alipay (Hangzhou) Information Technology Co.,Ltd.

Country or region before: China