CN114817297A - 一种处理数据的方法和装置 - Google Patents
一种处理数据的方法和装置 Download PDFInfo
- Publication number
- CN114817297A CN114817297A CN202210497097.6A CN202210497097A CN114817297A CN 114817297 A CN114817297 A CN 114817297A CN 202210497097 A CN202210497097 A CN 202210497097A CN 114817297 A CN114817297 A CN 114817297A
- Authority
- CN
- China
- Prior art keywords
- data
- index
- comparison
- processed
- query statement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/242—Query formulation
- G06F16/2433—Query languages
- G06F16/2445—Data retrieval commands; View definitions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2453—Query optimisation
- G06F16/24532—Query optimisation of parallel queries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2453—Query optimisation
- G06F16/24534—Query rewriting; Transformation
- G06F16/24542—Plan optimisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24553—Query execution of query operations
- G06F16/24554—Unary operations; Data partitioning operations
- G06F16/24556—Aggregation; Duplicate elimination
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2462—Approximate or statistical queries
Abstract
本发明公开了一种处理数据的方法和装置,涉及大数据领域。该方法的一具体实施方式包括:基于待处理维度信息、对比指标构建第一数据查询语句、第二数据查询语句;利用第一数据查询语句从数据源获取基准数据;利用第二数据查询语句从所述数据源获取待对比数据;基于基准数据和待对比数据自动计算对比指标的指标值;通过构建多个数据查询语句从数据源获取数据进而得到多种维度的指标值,克服了获取对比指标的指标值的灵活性较差的问题,在较大程度上提高了获取对比指标的效率。
Description
技术领域
本发明涉及大数据领域,尤其涉及一种处理数据的方法和装置。
背景技术
目前,互联网应用通常包含对数据进行对比的业务逻辑,因此需要从数据源中获取数值数据,并基于数值数据进行计算得到多种类型的对比数值。
现有获取对比数值的方法可以利用复杂度较高的数据查询语句从设定的数据源中得到,或者从设定的数据源中获取中间数据后进行计算得到对比数值,现有获取方法与数据源的耦合性较高,存在获取对比数值的通用性较差的问题,从而导致获取对比数值的灵活性较差,尤其是当数据量较大时,存在获取对比数值的效率较低的问题。
发明内容
有鉴于此,本发明实施例提供一种处理数据的方法和装置,能够基于待处理维度信息、对比指标构建第一数据查询语句、第二数据查询语句;利用第一数据查询语句从数据源获取基准数据;利用第二数据查询语句从所述数据源获取待对比数据;基于基准数据和待对比数据自动计算对比指标的指标值;通过构建多个数据查询语句从数据源获取数据进而得到多种维度的指标值,克服了获取对比指标的指标值的灵活性较差的问题,在较大程度上提高了获取对比指标的效率。
为实现上述目的,根据本发明实施例的一个方面,提供了一种处理数据的方法,其特征在于,包括:获取待处理维度信息、所述待处理维度信息所对应的字段类型以及所述待处理维度信息的对比指标;利用构建的第一数据查询语句从数据源获取所述待处理维度信息对应的属于所述字段类型的基准数据;利用构建的第二数据查询语句从所述数据源获取所述待处理维度信息对应的属于所述字段类型的待对比数据;利用所述待对比数据和所述基准数据,计算所述对比指标的指标值。
可选地,所述处理数据的方法,还包括:根据从所述对比指标中解析出所述对比指标指示的统计类型,确定针对多个所述基准数据以及多个所述待对比数据的所述统计类型;将所述统计类型添加到所述第一数据查询语句和第二数据查询语句;基于添加了所述统计类型的第一数据查询语句、以及所述统计类型,确定多个初始基准数值的基准数据;基于添加了所述统计类型的第二数据查询语句、以及所述统计类型,确定所述多个初始对比数值的待对比数据。
可选地,所述处理数据的方法,还包括:从所述对比指标中解析出所述对比指标指示的对比维度;将所述对比维度分别添加到所述第一数据查询语句和所述第二数据查询语句;基于添加了所述对比维度的第一数据查询语句、所述统计类型、以及所述对比维度,确定多个初始基准数值的基准数据;基于添加了所述对比维度的第二数据查询语句、所述统计类型以及所述对比维度,确定所述初始对比数值的待对比数据。
可选地,所述获取待处理维度信息、所述待处理维度信息所对应的字段类型以及所述待处理维度信息的对比指标,包括:接收客户端发送的一个或多个待处理维度信息及所述待处理维度信息的一个或多个对比指标,并确定所述待处理维度信息的字段类型。
可选地,所述处理数据的方法,还包括:存储多个所述第一数据查询语句以及多个所述第二数据查询语句;在多个所述第一数据查询语句以及多个所述第二数据查询语句满足查询条件的情况下,并发执行多个所述第一数据查询语句、多个所述第二数据查询语句从一个或多个数据源分别获取所述基准数据、所述待对比数据。
可选地,所述处理数据的方法,针对所述基准数据包括多个基准值以及所述待对比数据包括多个待对比值的情况下,所述计算所述对比指标的指标值,包括:根据所述对比指标所指示的对比维度,确定在所述对比维度上所述多个待对比值和所述多个基准值的对应关系,基于所述对应关系,计算所述对比指标的指标值。
可选地,所述处理数据的方法,还包括:发送所述对比指标的指标值、所述待对比数据和所述基准数据给客户端,以使客户端基于一种或多种展示样式,展示所述对比指标的指标值、所述待对比数据和所述基准数据。
为实现上述目的,根据本发明实施例的第二方面,提供了一种处理数据的装置,其特征在于,包括:获取字段模块和计算数据模块;其中,
所述获取字段模块,用于获取待处理维度信息、所述待处理维度信息所对应的字段类型以及所述待处理维度信息的对比指标;
所述计算数据模块,用于利用构建的第一数据查询语句从数据源获取所述待处理维度信息对应的属于所述字段类型的基准数据;利用构建的第二数据查询语句从所述数据源获取所述待处理维度信息对应的属于所述字段类型的待对比数据;利用所述待对比数据和所述基准数据,计算所述对比指标的指标值。
可选地,所述处理数据的装置,还用于根据从所述对比指标中解析出所述对比指标指示的统计类型,确定针对多个所述基准数据以及多个所述待对比数据的所述统计类型;将所述统计类型添加到所述第一数据查询语句和第二数据查询语句;基于添加了所述统计类型的第一数据查询语句、以及所述统计类型,确定多个初始基准数值的基准数据;基于添加了所述统计类型的第二数据查询语句、以及所述统计类型,确定所述多个初始对比数值的待对比数据。
可选地,所述处理数据的装置,还用于从所述对比指标中解析出所述对比指标指示的对比维度;将所述对比维度分别添加到所述第一数据查询语句和所述第二数据查询语句;基于添加了所述对比维度的第一数据查询语句、所述统计类型、以及所述对比维度,确定多个初始基准数值的基准数据;基于添加了所述对比维度的第二数据查询语句、所述统计类型以及所述对比维度,确定所述初始对比数值的待对比数据。
可选地,所述处理数据的装置,用于获取待处理维度信息、所述待处理维度信息所对应的字段类型以及所述待处理维度信息的对比指标,包括:接收客户端发送的一个或多个待处理维度信息及所述待处理维度信息的一个或多个对比指标,并确定所述待处理维度信息的字段类型。
可选地,所述处理数据的装置,还用于存储多个所述第一数据查询语句以及多个所述第二数据查询语句;在多个所述第一数据查询语句以及多个所述第二数据查询语句满足查询条件的情况下,并发执行多个所述第一数据查询语句、多个所述第二数据查询语句从一个或多个数据源分别获取所述基准数据、所述待对比数据。
可选地,所述处理数据的装置,用于针对所述基准数据包括多个基准值以及所述待对比数据包括多个待对比值的情况下,所述计算所述对比指标的指标值,包括:根据所述对比指标所指示的对比维度,确定在所述对比维度上所述多个待对比值和所述多个基准值的对应关系,基于所述对应关系,计算所述对比指标的指标值。
可选地,所述处理数据的装置,还用于发送所述对比指标的指标值、所述待对比数据和所述基准数据给客户端,以使客户端基于一种或多种展示样式,展示所述对比指标的指标值、所述待对比数据和所述基准数据。
为实现上述目的,根据本发明实施例的第三方面,提供了一种处理数据的电子设备,其特征在于,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如上述处理数据的方法中任一所述的方法。
为实现上述目的,根据本发明实施例的第四方面,提供了一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如上述处理数据的方法中任一所述的方法。
上述发明中的一个实施例具有如下优点或有益效果:能够基于待处理维度信息、对比指标构建第一数据查询语句、第二数据查询语句;利用第一数据查询语句从数据源获取基准数据;利用第二数据查询语句从所述数据源获取待对比数据;基于基准数据和待对比数据自动计算对比指标的指标值;通过构建多个数据查询语句从数据源获取数据进而得到多种维度的指标值,克服了获取对比指标的指标值的灵活性较差的问题,尤其在处理大数据的应用场景中,在较大程度上提高了获取对比指标的效率。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
图1是本发明一个实施例提供的一种处理数据的方法的流程示意图;
图2是本发明另一个实施例提供的一种处理数据的方法的示意图;
图3是本发明一个实施例提供的一种处理数据的装置的结构示意图;
图4是本发明实施例可以应用于其中的示例性系统架构图;
图5是适于用来实现本发明实施例的终端设备或服务器的计算机系统的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
如图1所示,本发明实施例提供了一种处理数据的方法,该方法可以包括以下步骤:
步骤S101:获取待处理维度信息、所述待处理维度信息所对应的字段类型以及所述待处理维度信息的对比指标。
具体地,待处理维度信息包括待处理的维度字段,维度字段对应的字段值关联于对比指标的指标值;例如:针对一个应用场景,维度字段包括时间字段、数量字段、金额字段等;针对另一个应用场景,维度字段包括区域字段、数量字段等;进一步地,获取待处理维度信息所对应的字段类型,其中,字段类型可以为数值型、日期型、字符串型等;可以理解的是,利用数值型字段对应的字段值计算基准数据、对比数据;进一步地,获取待处理维度信息的对比指标,对比指标可以包含多种维度的指标信息;例如针对维度字段的数值与时间关联的指标信息包括:天同比、天环比、周同比、周环比、月同比、月环比、年同比、年环比、自定义时间范围的同比、自定义时间范围的环比等;对比指标还可以包含统计类型的指标信息,例如关联于维度字段的数值的统计类型包括:总和、均值、最大值、最小值等。
进一步地,获取待处理维度信息、所述待处理维度信息所对应的字段类型的方法可以为:接收用户发送的原始数据查询语句,例如SQL(Structured Query Language,语句结构化查询语言,简称SQL)语句,从用户发送的原始数据查询语句中解析得到待处理维度信息包含的维度字段、字段类型等信息;例如:原始SQL语句的示例为:
Select date AS“date”,订单量AS“订单量”from abcOrders where date>=’2022-01-01’;
经过解析该示例SQL语句,可以得到待处理维度信息包含的维度字段为“date”、“订单量”,以及对应的字段类型,date为日期类型;订单量为数值类型;可以理解的是,“abcOrders”表示数据源标识,即待处理的维度字段归属于该数据源。
进一步地,获取对比指标的方法可以为:提供包括多个维度信息以及多个对比指标给客户端,以使所述客户端显示包含所述多个维度信息以及所述多个对比指标的可编辑页面,可编辑页面可以包含各个维度信息的列表,以及多个对比指标的列表,用户可以通过可编辑页面选择待处理的维度信息或对比指标,例如:用户从多个维度信息对应的维度字段中选择“订单量”、“订单金额”、“日期”作为待处理维度信息,同时选择“周同比”、“周环比”作为对比指标;接收用户通过客户端发送的一个或多个待处理维度信息及所述待处理维度信息的一个或多个对比指标之后,确定维度信息的字段类型,以根据字段类型为数值类型的字段执行构建第一数据查询语句、第二数据查询语句以及后续的计算操作;即,所述获取待处理维度信息、所述待处理维度信息所对应的字段类型以及所述待处理维度信息的对比指标,接收客户端发送的一个或多个待处理维度信息及所述待处理维度信息的一个或多个对比指标,并确定所述待处理维度信息的字段类型。其中,包括提供包括多个维度信息以及多个对比指标给客户端,以使所述客户端显示包含所述多个维度信息以及所述多个对比指标的可编辑页面,以使用户通过所述可编辑页面从所述多个维度信息以及所述多个对比指标,选择一个或多个待处理维度信息及所述待处理维度信息的一个或多个对比指标。
步骤S102:利用构建的第一数据查询语句从数据源获取所述待处理维度信息对应的属于所述字段类型的基准数据;利用构建的第二数据查询语句从所述数据源获取所述待处理维度信息对应的属于所述字段类型的待对比数据。
构建第一数据查询语句、构建第二数据查询语句的方法为:基于所述待处理维度信息和所述对比指标指示的基准数据范围构建第一数据查询语句,并基于所述待处理维度信息和所述对比指标指示的待对比数据范围构建第二数据查询语句。
具体地,获取对比指标指示的基准数据范围以及待对比数据范围;可以理解的是,在确定对比指标的对比值时,需要基于至少两个或两个以上的数据进行计算,例如:对比指标为“月同比”,则基准数据范围为关联于时间范围为“月”的数据,例如:以2021年9月对应的数据作为对比指标“月同比”基准数据范围;以2022年9月对应的数据作为对比指标“月同比”待对比数据范围;以进一步对数据进行计算获得月同比的指标值。
进一步地,基于所述待处理维度信息和所述对比指标指示的基准数据范围构建第一数据查询语句;例如:待处理维度信息包含的维度字段为:date、订单量;基准数据范围以及待对比数据范围为:一天;对比指标为:天环比;则构建的第一数据查询语句可以为以下示例:
Select date AS“date”,订单量AS“订单量”from aOrders where date=’2022-01-01’;
类似地,并基于所述待处理维度信息和所述对比指标指示的待对比数据范围构建第二数据查询语句,例如:
Select date AS“date”,订单量AS“订单量”from aOrders where date=’2022-01-02’;
通过示例的第一数据查询语句可以从数据源aOrders获取2022-1-1日的订单量;通过示例的第二数据查询语句可以从数据源aOrders获取2022-1-2日的订单量;通过构建上述两个示例数据查询语句,可以从数据源中获取计算“天环比”所需的“订单量”数据,获取数据后可以进一步计算2022-01-02对比于2022-01-02的“天环比”对应的指标值(例如:天环比增长数、天环比增长率等)。
进一步地,在构建所述第一数据查询语句和第二数据查询语句时,还可以包括:1)根据从所述对比指标中解析出所述对比指标指示的统计类型,确定针对多个所述基准数据以及多个所述待对比数据的所述统计类型;将所述统计类型添加到所述第一数据查询语句和第二数据查询语句;2)从所述对比指标中解析出所述对比指标指示的对比维度;将所述对比维度分别添加到所述第一数据查询语句和所述第二数据查询语句。关于将统计类型和/或对比维度添加到所述第一数据查询语句和所述第二数据查询语句的描述与步骤S202-步骤S203的描述一致,在此不再赘述。
进一步地,在构建第一数据查询语句和第二数据查询语句后,可以存储各个构建的第一数据查询语句和第二数据查询语句;以并发执行各个数据查询语句,提高了获取数据的效率和灵活性。在多个所述第一数据查询语句以及多个所述第二数据查询语句满足查询条件的情况下,其中,查询条件可以为触发执行数据查询语句的触发条件,例如:按照设定时间间隔、接收查询数据指令、数据查询语句的条数达到设定条数阈值等;即,存储多个所述第一数据查询语句以及多个所述第二数据查询语句;在多个所述第一数据查询语句以及多个所述第二数据查询语句满足查询条件的情况下,并发执行多个所述第一数据查询语句、多个所述第二数据查询语句从一个或多个数据源分别获取所述基准数据、所述待对比数据,由此可见,通过本发明的并发执行数据查询语句的方法,较大程度地提高了获取中间数据(基准数据、待对比数据)的效率。
进一步地,利用构建的第一数据查询语句从数据源获取所述待处理维度信息对应的属于所述字段类型的基准数据;利用构建的第二数据查询语句从所述数据源获取所述待处理维度信息对应的属于所述字段类型的待对比数据;仍以本步骤中的数据查询语句为例:通过示例的第一数据查询语句可以从数据源aOrders获取到2022-1-1日的订单量;通过示例的第二数据查询语句可以从数据源aOrders获取到2022-1-2日的订单量;其中,若2022-1-1日的订单量为属于字段类型为数值类型的基准数据、则2022-1-2日的订单量为属于字段类型为数值类型的待对比数据。
步骤S103:利用所述待对比数据和所述基准数据,计算所述对比指标的指标值。
具体地,利用所述待对比数据和所述基准数据,计算所述对比指标的指标值。例如通过构建上述两个示例数据查询语句,可以从数据源中自定获取计算“天环比”所需的“订单量”数据,获取数据后可以进一步计算“天环比”对应的指标值(例如:环比增长数、环比增长率等)。
由此可见,通过构建第一数据查询语句、第二数据查询语句,并发执行第一数据查询语句、第二数据查询语句,以得到所述待对比数据和所述基准数据;进一步地,利用所述待对比数据和所述基准数据,计算所述对比指标的指标值。在构建数据查询语句时通过配置数据源从而不依赖于数据源,实现与数据源的解耦,提高了获取对比数据的自动化程度和通用性。
进一步地,针对所述基准数据包括多个基准值以及所述待对比数据包括多个待对比值的情况下,所述计算所述对比指标的指标值,包括:根据所述对比指标所指示的对比维度,确定在所述对比维度上所述多个待对比值和所述多个基准值的对应关系,基于所述对应关系,计算所述对比指标的指标值。具体地,获取对比指标所指示的对比维度,其中对比维度可以为时间范围,例如:天、周、月、季度、年、自定义时间范围等,例如对比指标为“天环比”则对应的对比维度为“天”,如果利用第一数据查询语句获取的基准数据包括一周内的每天的基准值;利用第二数据查询语句获取的待对比数据包括一周内的每天的待对比值;则为计算对比指标为“天环比”,需要确定在所述对比维度上所述多个待对比值和所述多个基准值的对应关系。
进一步地,确定对应关系的方法,以时间范围为例,在构建获取待对比值的第二数据查询语句时,所添加的时间范围与构建获取基准值的第一数据查询语句所添加的时间范围,根据对比指标的颗粒度进行时间范围的偏移;例如:对比维度为“天”,第一数据查询语句所添加的时间范围为“2022-01-01至2022-01-07”,则第二数据查询语句所添加的时间范围可以为“2022-01-02至2022-01-08”;在通过第一数据查询语句、第二数据查询语句获取到多个数据(例如订单量)后,确定“2022-01-02”对应的待对比值与“2022-01-01”对应的基准值的对应关系,以基于“2022-01-02”对应的待对比值与“2022-01-01”对应的基准值计算“天环比”对应的指标值(即基于所述对应关系,计算所述对比指标的指标值),类似地,确定其他各个日期关联的对应关系;例如计算一个省包含的各个城市对应的ABC数量的“周环比”对应的指标值,在通过第一数据查询语句获取多个基准值,并利用第二数据查询语句获取多个待对比值之后,可以通过类别关键字建立基准值与待对比值的对应关系,例如将一个省包含的各个城市标识作为关键字,结合“周环比”对应的时间范围,建立基准值与待对比值的对应关系。即,确定多个待对比值和所述多个基准值的对应关系。
优选地,在计算得到对比指标的指标值之后,发送所述对比指标的指标值、待对比数据和基准数据给客户端,以使客户端基于一种或多种展示样式(例如:指标卡、柱图、饼图、线图、表格等展示样式),展示所述对比指标的指标值、所述待对比数据和所述基准数据。即,发送所述对比指标的指标值、所述待对比数据和所述基准数据给客户端,以使客户端基于一种或多种展示样式,展示所述对比指标的指标值、所述待对比数据和所述基准数据。提高了数据可视化的效率和灵活性。
如图2所示,本发明实施例提供了一种处理数据的方法,该方法可以包括以下步骤:
步骤S201:获取待处理维度信息、所述待处理维度信息所对应的字段类型以及所述待处理维度信息的对比指标。
具体地,关于获取待处理维度信息、所述待处理维度信息所对应的字段类型以及所述待处理维度信息的对比指标的描述与步骤S101的描述一致,在此不再赘述。
步骤S202:根据从所述对比指标中解析出所述对比指标指示的统计类型,确定针对多个所述基准数据以及多个所述待对比数据的所述统计类型;将所述统计类型添加到所述第一数据查询语句和第二数据查询语句。
具体地,从所述对比指标中解析出所述对比指标指示的统计类型,其中,统计类型为针对数据的统计值的类型,统计类型可以包括总和、平均值、最大值、最小值等;例如:统计类型为总和,则确定针对多个所述基准数据以及多个所述待对比数据的所述统计类型为“总和”,并将所述统计类型(总和)添加到所述第一数据查询语句和第二数据查询语句;将总和(例如:利用SUM函数获得)添加至第一数据查询语句或第二数据查询语句的示例为:
SELECT DATE_FORMAT(`dt`,'%Y-%m-%d')AS"dt",SUM(`订单量`)AS"订单总量",SUM(`订单金额`)AS"订单总金额"FROM aaaorders WHERE dt>='2020-06-01'AND dt<'2020-06-05';该示例代表获取时间范围在2020-06-01至2020-06-05之间的订单总量、订单总金额。
进一步地,利用添加了统计类型的第一数据查询语句查询所述待处理维度信息对应的属于所述字段类型的多个初始基准数值,根据所述统计类型,确定所述多个初始基准数值的基准数据;例如在示例SUM(`订单量`)AS"订单总量"中,“订单量”代表属于所述字段类型的初始基准数值;SUM(`订单量`)得到的结果为“订单总量”,为根据所述统计类型(总和),确定所述多个初始基准数值的基准数据(即订单总量);类似地,利用添加了统计类型的第二数据查询语句查询所述待处理维度信息对应的属于所述字段类型的多个初始对比数值,根据所述统计类型,确定所述多个初始对比数值的待对比数据。
即,根据从所述对比指标中解析出所述对比指标指示的统计类型,确定针对多个所述基准数据以及多个所述待对比数据的所述统计类型;将所述统计类型添加到所述第一数据查询语句和第二数据查询语句;基于添加了所述统计类型的第一数据查询语句、以及所述统计类型,确定多个初始基准数值的基准数据;基于添加了所述统计类型的第二数据查询语句、以及所述统计类型,确定所述多个初始对比数值的待对比数据。
其中,利用构建的第一数据查询语句从数据源获取所述待处理维度信息对应的属于所述字段类型的基准数据,包括:利用所述第一数据查询语句查询所述待处理维度信息对应的属于所述字段类型的多个初始基准数值,根据所述统计类型,确定所述多个初始基准数值的基准数据;利用构建的第二数据查询语句从所述数据源获取所述待处理维度信息对应的属于所述字段类型的待对比数据,包括:利用所述第二数据查询语句查询所述待处理维度信息对应的属于所述字段类型的多个初始对比数值,根据所述统计类型,确定所述多个初始对比数值的待对比数据。
步骤S203:从所述对比指标中解析出所述对比指标指示的对比维度;将所述对比维度分别添加到所述第一数据查询语句和所述第二数据查询语句。
具体地,从所述对比指标中解析出所述对比指标指示的对比维度,关于对比维度的描述与步骤S103的描述一致,在此不再赘述。在如下示例数据查询语句中,dt>='2020-06-01'AND dt<'2020-06-05'为添加到数据查询语句(第一数据查询语句和第二数据查询语句)中的对比维度对应的自定义时间范围(代表在2020-06-01至2020-06-05之间):
SELECT DATE_FORMAT(`dt`,'%Y-%m-%d')AS"dt",SUM(`订单量`)AS"订单总量",SUM(`订单金额`)AS"订单总金额"FROM aaaorders WHERE dt>='2020-06-01'AND dt<'2020-06-05';该示例代表获取自定义时间范围在2020-06-01至2020-06-05之间的订单总量、订单总金额(即统计类型为总和)。
又例如:Select DATE_FORMAT(dt,’%Y-%m’),city,SUM(`订单量`)from city_sales where dt>=‘2021-01-01’and dt<=‘2021-12-31’group by DATE_FORMAT(dt,’%Y-%m’),city;其中city指示了以城市为单位的区域维度对应的订单总量(即统计类型为总和),即将所述对比维度(对应的时间范围为年)分别添加到所述第一数据查询语句和所述第二数据查询语句。
进一步地,利用第一数据查询语句和第二数据查询语句中包含的利用统计类型和对比维度,从数据源中获取基准数据、待对比数据;即,从所述对比指标中解析出所述对比指标指示的对比维度;将所述对比维度分别添加到所述第一数据查询语句和所述第二数据查询语句;基于添加了所述对比维度的第一数据查询语句、所述统计类型、以及所述对比维度,确定多个初始基准数值的基准数据;基于添加了所述对比维度的第二数据查询语句、所述统计类型以及所述对比维度,确定所述初始对比数值的待对比数据。
其中,所述构建的所述第一数据查询语句从数据源获取所述待处理维度信息对应的属于所述字段类型的基准数据,包括:根据所述统计类型以及所述对比维度,确定所述多个初始基准数值的基准数值;利用构建的第二数据查询语句从所述数据源获取所述待处理维度信息对应的属于所述字段类型的待对比数据,包括:根据所述统计类型以及所述对比维度,确定所述初始对比数值的待对比数据。
步骤S204:基于添加了所述对比维度的第一数据查询语句、所述统计类型、以及所述对比维度,确定多个初始基准数值的基准数据;基于添加了所述对比维度的第二数据查询语句、所述统计类型以及所述对比维度,确定所述初始对比数值的待对比数据;利用所述待对比数据和所述基准数据,计算所述对比指标的指标值。
具体地,关于获取和利用所述待对比数据和所述基准数据,利用构建的第一数据查询语句从数据源获取所述待处理维度信息对应的属于所述字段类型的基准数据;利用构建的第二数据查询语句从所述数据源获取所述待处理维度信息对应的属于所述字段类型的待对比数据;并基于基准数据和待对比数据计算所述对比指标的指标值的描述与步骤S102-步骤S103的描述一致,在此不再赘述。
如图3所示,本发明实施例提供了一种处理数据的装置300,包括:获取字段模块301和计算数据模块302;其中,
所述获取字段模块301,用于获取待处理维度信息、所述待处理维度信息所对应的字段类型以及所述待处理维度信息的对比指标;
所述计算数据模块302,用于利用构建的第一数据查询语句从数据源获取所述待处理维度信息对应的属于所述字段类型的基准数据;利用构建的第二数据查询语句从所述数据源获取所述待处理维度信息对应的属于所述字段类型的待对比数据;利用所述待对比数据和所述基准数据,计算所述对比指标的指标值。
本发明实施例还提供了一种处理数据的电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现上述任一实施例提供的方法。
本发明实施例还提供了一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现上述任一实施例提供的方法。
图4示出了可以应用本发明实施例的处理数据的方法或处理数据的装置的示例性系统架构400。
如图4所示,系统架构400可以包括终端设备401、402、403,网络404和服务器405。网络404用以在终端设备401、402、403和服务器405之间提供通信链路的介质。网络404可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备401、402、403通过网络404与服务器405交互,以接收或发送消息等。终端设备401、402、403上可以安装有各种客户端应用,例如电子商城客户端应用、网页浏览器应用、搜索类应用、即时通信工具和邮箱客户端等。
终端设备401、402、403可以是具有显示屏并且支持各种客户端应用的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器405可以是提供各种服务的服务器,例如对用户利用终端设备401、402、403所使用的客户端应用提供支持的后台管理服务器。后台管理服务器可以对接收到的获取维度信息对应的对比指标的指标值的请求进行处理,并将计算得到的维度信息以及对比指标对应的指标值反馈给终端设备。
需要说明的是,本发明实施例所提供的处理数据的方法一般由服务器405执行,相应地,处理数据的装置一般设置于服务器405中。
应该理解,图4中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
下面参考图5,其示出了适于用来实现本发明实施例的终端设备的计算机系统500的结构示意图。图5示出的终端设备仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示,计算机系统500包括中央处理单元(CPU)501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储部分508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中,还存储有系统500操作所需的各种程序和数据。CPU 501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
以下部件连接至I/O接口505:包括键盘、鼠标等的输入部分506;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分507;包括硬盘等的存储部分508;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器510上,以便于从其上读出的计算机程序根据需要被安装入存储部分508。
特别地,根据本发明公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分509从网络上被下载和安装,和/或从可拆卸介质511被安装。在该计算机程序被中央处理单元(CPU)501执行时,执行本发明的系统中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块和/或单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块和/或单元也可以设置在处理器中,例如,可以描述为:一种处理器包括获取字段模块和计算数据模块。其中,这些模块的名称在某种情况下并不构成对该模块本身的限定,例如,获取字段模块还可以被描述为“获取待处理维度信息、所述待处理维度信息所对应的字段类型以及所述待处理维度信息的对比指标的模块”。
作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:获取待处理维度信息、所述待处理维度信息所对应的字段类型以及所述待处理维度信息的对比指标;利用构建的第一数据查询语句从数据源获取所述待处理维度信息对应的属于所述字段类型的基准数据;利用构建的第二数据查询语句从所述数据源获取所述待处理维度信息对应的属于所述字段类型的待对比数据;利用所述待对比数据和所述基准数据,计算所述对比指标的指标值。
本发明的实施例,能够基于待处理维度信息、对比指标构建第一数据查询语句、第二数据查询语句;利用第一数据查询语句从数据源获取基准数据;利用第二数据查询语句从所述数据源获取待对比数据;基于基准数据和待对比数据自动计算对比指标的指标值;通过构建多个数据查询语句从数据源获取数据进而得到多种维度的指标值,克服了获取对比指标的指标值的灵活性较差的问题,尤其在处理大数据的应用场景中,在较大程度上提高了获取对比指标的效率。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (10)
1.一种处理数据的方法,其特征在于,包括:
获取待处理维度信息、所述待处理维度信息所对应的字段类型以及所述待处理维度信息的对比指标;
利用构建的第一数据查询语句从数据源获取所述待处理维度信息对应的属于所述字段类型的基准数据;利用构建的第二数据查询语句从所述数据源获取所述待处理维度信息对应的属于所述字段类型的待对比数据;
利用所述待对比数据和所述基准数据,计算所述对比指标的指标值。
2.根据权利要求1所述的方法,其特征在于,还包括:
根据从所述对比指标中解析出所述对比指标指示的统计类型,确定针对多个所述基准数据以及多个所述待对比数据的所述统计类型;
将所述统计类型添加到所述第一数据查询语句和第二数据查询语句;
基于添加了所述统计类型的第一数据查询语句、以及所述统计类型,确定多个初始基准数值的基准数据;
基于添加了所述统计类型的第二数据查询语句、以及所述统计类型,确定所述多个初始对比数值的待对比数据。
3.根据权利要求2所述的方法,其特征在于,还包括:
从所述对比指标中解析出所述对比指标指示的对比维度;
将所述对比维度分别添加到所述第一数据查询语句和所述第二数据查询语句;
基于添加了所述对比维度的第一数据查询语句、所述统计类型、以及所述对比维度,确定多个初始基准数值的基准数据;
基于添加了所述对比维度的第二数据查询语句、所述统计类型以及所述对比维度,确定所述初始对比数值的待对比数据。
4.根据权利要求1所述的方法,其特征在于,
所述获取待处理维度信息、所述待处理维度信息所对应的字段类型以及所述待处理维度信息的对比指标,包括:
接收客户端发送的一个或多个待处理维度信息及所述待处理维度信息的一个或多个对比指标,并确定所述待处理维度信息的字段类型。
5.根据权利要求1所述的方法,其特征在于,还包括:
存储多个所述第一数据查询语句以及多个所述第二数据查询语句;
在多个所述第一数据查询语句以及多个所述第二数据查询语句满足查询条件的情况下,并发执行多个所述第一数据查询语句、多个所述第二数据查询语句从一个或多个数据源分别获取所述基准数据、所述待对比数据。
6.根据权利要求1所述的方法,其特征在于,
针对所述基准数据包括多个基准值以及所述待对比数据包括多个待对比值的情况下,
所述计算所述对比指标的指标值,包括:
根据所述对比指标所指示的对比维度,确定在所述对比维度上所述多个待对比值和所述多个基准值的对应关系,基于所述对应关系,计算所述对比指标的指标值。
7.根据权利要求1所述的方法,其特征在于,还包括:
发送所述对比指标的指标值、所述待对比数据和所述基准数据给客户端,以使客户端基于一种或多种展示样式,展示所述对比指标的指标值、所述待对比数据和所述基准数据。
8.一种处理数据的装置,其特征在于,包括:获取字段模块和计算数据模块;其中,
所述获取字段模块,用于获取待处理维度信息、所述待处理维度信息所对应的字段类型以及所述待处理维度信息的对比指标;
所述计算数据模块,用于利用构建的第一数据查询语句从数据源获取所述待处理维度信息对应的属于所述字段类型的基准数据;利用构建的第二数据查询语句从所述数据源获取所述待处理维度信息对应的属于所述字段类型的待对比数据;利用所述待对比数据和所述基准数据,计算所述对比指标的指标值。
9.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。
10.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-7中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210497097.6A CN114817297A (zh) | 2022-05-09 | 2022-05-09 | 一种处理数据的方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210497097.6A CN114817297A (zh) | 2022-05-09 | 2022-05-09 | 一种处理数据的方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114817297A true CN114817297A (zh) | 2022-07-29 |
Family
ID=82513930
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210497097.6A Pending CN114817297A (zh) | 2022-05-09 | 2022-05-09 | 一种处理数据的方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114817297A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115314751A (zh) * | 2022-08-08 | 2022-11-08 | 北京达佳互联信息技术有限公司 | 数据处理方法、装置、电子设备及存储介质 |
-
2022
- 2022-05-09 CN CN202210497097.6A patent/CN114817297A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115314751A (zh) * | 2022-08-08 | 2022-11-08 | 北京达佳互联信息技术有限公司 | 数据处理方法、装置、电子设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111177231A (zh) | 报表生成方法和报表生成装置 | |
CN110689268B (zh) | 一种提取指标的方法和装置 | |
CN110019367B (zh) | 一种统计数据特征的方法和装置 | |
CN113485781A (zh) | 报表生成方法、装置、电子设备及计算机可读介质 | |
CN111429241A (zh) | 一种账务处理方法和装置 | |
WO2022237764A1 (zh) | 一种数据加工方法和系统 | |
CN112947919A (zh) | 构建业务模型和处理业务请求的方法和装置 | |
CN112818026A (zh) | 数据整合方法和装置 | |
CN114817297A (zh) | 一种处理数据的方法和装置 | |
CN108985805B (zh) | 一种选择性执行推送任务的方法和装置 | |
CN111858706A (zh) | 一种数据处理的方法和装置 | |
CN111949678A (zh) | 跨时间窗口的非累加指标的处理方法和装置 | |
CN115330540A (zh) | 一种处理交易数据的方法和装置 | |
CN111858621A (zh) | 监控业务流程的方法、装置、设备和计算机可读介质 | |
CN110807095A (zh) | 一种物品匹配方法和装置 | |
CN112579673A (zh) | 一种多源数据处理方法及装置 | |
CN113485763A (zh) | 一种数据处理方法、装置、电子设备及计算机可读介质 | |
CN113722593A (zh) | 事件数据处理方法、装置、电子设备和介质 | |
CN113434754A (zh) | 确定推荐api服务的方法、装置、电子设备和存储介质 | |
CN107886350B (zh) | 分析数据的方法和装置 | |
CN113326680A (zh) | 生成表格的方法和装置 | |
CN113760240A (zh) | 一种生成数据模型的方法和装置 | |
CN111127077A (zh) | 一种基于流计算的推荐方法和装置 | |
CN113704222A (zh) | 一种处理业务请求的方法和装置 | |
CN112256566A (zh) | 一种测试案例的保鲜方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |