CN110347974B - 数据处理方法、装置、计算机设备和存储介质 - Google Patents

数据处理方法、装置、计算机设备和存储介质 Download PDF

Info

Publication number
CN110347974B
CN110347974B CN201910464003.3A CN201910464003A CN110347974B CN 110347974 B CN110347974 B CN 110347974B CN 201910464003 A CN201910464003 A CN 201910464003A CN 110347974 B CN110347974 B CN 110347974B
Authority
CN
China
Prior art keywords
data
service
attribute
target data
request
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910464003.3A
Other languages
English (en)
Other versions
CN110347974A (zh
Inventor
任克非
方友滔
王强
王均
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Haoyichuang Technology Co ltd
Original Assignee
Shenzhen Dingwei Communication Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Dingwei Communication Co ltd filed Critical Shenzhen Dingwei Communication Co ltd
Priority to CN201910464003.3A priority Critical patent/CN110347974B/zh
Publication of CN110347974A publication Critical patent/CN110347974A/zh
Application granted granted Critical
Publication of CN110347974B publication Critical patent/CN110347974B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/25Integrating or interfacing systems involving database management systems
    • G06F16/258Data format conversion from or to a database
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/955Retrieval from the web using information identifiers, e.g. uniform resource locators [URL]
    • G06F16/9566URL specific, e.g. using aliases, detecting broken or misspelled links
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/18Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Physics (AREA)
  • Pure & Applied Mathematics (AREA)
  • Mathematical Optimization (AREA)
  • Operations Research (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Probability & Statistics with Applications (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Algebra (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Software Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请涉及一种数据处理方法、装置、计算机设备和存储介质,方法包括:从前端页面获取业务分析指令,业务分析指令中携带前端输出属性和业务属性;配置业务属性对应的资源,资源包括至少一个目标数据属性和各目标数据属性分别对应的统计规则;分别生成各目标数据属性对应的数据请求指令;分别发送各数据请求指令至数据服务器;分别获取数据服务器基于各数据请求指令反馈的分组数据;分别按照各目标数据属性对应的统计规则,统计各目标数据属性对应的分组数据,将统计结果作为各目标数据属性对应的分组业务数据;汇总全部分组业务数据,生成业务数据;发送业务数据至前端页面;从而实现数据调用过程中对数据进行统计分析。

Description

数据处理方法、装置、计算机设备和存储介质
技术领域
本发明涉及数据处理的技术领域,具体涉及一种数据处理方法、装置、计算机设备和存储介质。
背景技术
随着企业的持续发展,企业各项报表中的数据量越来越多。例如,用户在前端页面想要调用数据来分析特定业务类型下的资产负债情况时,需要向后端数据服务器去请求数据,再通过人工将获取的数据按照预设统计规则进行统计分析,这就大大增加了人工数据分析的时间成本;而且对于相同业务类型的数据请求,在每次调取数据分析时,都需要重复按照预设统计规则进行统计分析,频繁重复劳动,降低了工作效率。
发明内容
本申请的主要目的为提供一种数据处理方法、装置、计算机设备和存储介质,旨在解决现有技术中数据调用过程中无法对数据进行自动统计分析的问题。
为实现上述目的,本申请提出一种数据处理方法,包括:
从前端页面获取业务分析指令,其中,所述业务分析指令中携带前端输出属性和业务属性,所述前端输出属性用于指示数据处理结果在前端页面的展示方式,所述业务属性用于指示业务类型;
配置所述业务属性对应的资源,所述资源包括至少一个目标数据属性和各所述目标数据属性分别对应的统计规则;
分别生成各所述目标数据属性对应的数据请求指令;
分别发送各所述数据请求指令至数据服务器;
分别获取所述数据服务器基于各所述数据请求指令反馈的分组数据;
分别按照各所述目标数据属性对应的统计规则,统计各所述目标数据属性对应的分组数据,将统计结果作为各所述目标数据属性对应的分组业务数据;
汇总全部所述分组业务数据,生成业务数据,其中,所述业务数据与所述前端输出属性匹配;
发送所述业务数据至所述前端页面。
进一步地,所述分别发送各所述数据请求指令至数据服务器的步骤,包括:
分别建立与各所述目标数据属性对应的请求线程,其中,所述请求线程用于向所述数据服务器请求与所述目标数据属性对应的分组数据;
获取各所述请求线程之间的关系,所述关系包括并行关系和依赖关系;
根据各所述请求线程之间的关系,配置各所述请求线程的执行顺序;
根据各所述请求线程的执行顺序分别发送各所述数据请求指令至所述数据服务器。
进一步地,所述资源还包括各所述目标数据属性分别对应的条件参数,所述分别生成各所述目标数据属性对应的数据请求指令的步骤,包括:
将各所述目标数据属性对应的条件参数的格式根据第一转译方式进行转译,得到转译后的条件参数,其中,所述转译后的条件参数的格式适用于所述数据服务器;
分别生成与各所述目标数据属性对应的数据请求指令,其中,所述数据请求指令中携带所述转译后的条件参数。
进一步地,所述将各所述目标数据属性对应的条件参数的格式根据第一转译方式进行转译,得到转译后的条件参数的步骤前,还包括:
调用预设的权限校验模型对所述指定目标数据属性进行权限校验;
若所述指定目标数据属性通过权限校验,则执行将各所述目标数据属性对应的条件参数的格式根据第一转译方式进行转译,得到转译后的条件参数。
进一步地,所述分别按照各所述目标数据属性对应的统计规则,统计各所述目标数据属性对应的分组数据,将统计结果作为各所述目标数据属性对应的分组业务数据的步骤,包括:
分别按照预设数据清洗规则,对各所述目标数据属性对应的分组数据进行数据清洗,获得各所述目标数据属性对应的第一分组数据;
分别按照各所述目标数据属性对应的所述统计规则,统计各所述目标数据属性对应的第一分组数据,生成各所述目标数据属性对应的分组业务数据。
进一步地,所述汇总全部所述分组业务数据,生成业务数据的步骤前,包括:
分别保存各所述分组业务数据;
判断是否已获取全部所述分组业务数据;
若是,则执行汇总全部所述分组业务数据,生成业务数据。
进一步地,所述汇总全部所述分组业务数据,生成业务数据的步骤,包括:
根据与所述前端输出属性匹配的匹配规则,将各所述分组业务数据进行合并,获得合并数据;
将所述合并数据的格式根据第二转译方式进行转译,得到所述业务数据,所述业务数据的格式适用于所述前端页面。
本申请还提供了一种数据处理装置,包括:
前端指令获取单元,用于从前端页面获取业务分析指令,其中,所述业务分析指令中携带前端输出属性和业务属性,所述前端输出属性用于指示数据处理结果在前端页面的展示方式,所述业务属性用于指示业务类型;
资源配置单元,用于配置所述业务属性对应的资源,所述资源包括至少一个目标数据属性和各所述目标数据属性分别对应的统计规则;
指令生成单元,用于分别生成各所述目标数据属性对应的数据请求指令;
指令发送单元,用于分别发送各所述数据请求指令至数据服务器;
分组数据获取单元,用于分别获取所述数据服务器基于各所述数据请求指令反馈的分组数据;
分组数据统计单元,用于分别按照各所述目标数据属性对应的统计规则,统计各所述目标数据属性对应的分组数据,将统计结果作为各所述目标数据属性对应的分组业务数据;
业务数据获取单元,用于汇总全部所述分组业务数据,生成业务数据,其中,所述业务数据与所述前端输出属性匹配;
业务数据发送单元,用于发送所述业务数据至所述前端页面。
本申请还提供了一种计算机设备,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器执行所述计算机程序时实现上述任一项所述方法的步骤。
本申请还提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述任一项所述的方法的步骤。
本申请的有益效果:
本申请中提供的数据处理方法、装置、计算机设备和存储介质,首先,从前端页面获取业务分析指令,其中,所述业务分析指令中携带前端输出属性和业务属性;然后配置所述业务属性对应的资源,所述资源包括至少一个目标数据属性和各所述目标数据属性分别对应的统计规则;再分别生成各所述目标数据属性对应的数据请求指令;并分别发送各所述数据请求指令至数据服务器;然后分别获取所述数据服务器基于各所述数据请求指令反馈的分组数据;再分别按照各所述目标数据属性对应的统计规则,统计各所述目标数据属性对应的分组数据,获得各所述目标数据属性对应的分组业务数据;汇总全部所述分组业务数据,生成业务数据,其中,所述业务数据与所述前端输出属性匹配;最后发送所述业务数据至所述前端页面;这样实现了在数据调用过程中的数据统计分析,有利于大大提高人员工作效率。
附图说明
图1是本申请一实施例的数据处理方法的流程示意图;
图2是本申请一实施例的数据处理装置的结构示意框图;
图3是本申请一实施例的计算机设备的结构示意框图。
本申请目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
本申请实施例的方法由中间件执行,实施例的各个装置封装于中间件内,中间件从数据服务器获取数据,并将数据进行处理后发送给前端页面。
参照图1,本申请一实施例中提供了一种数据处理方法,包括:
S1、从前端页面获取业务分析指令,其中,所述业务分析指令中携带前端输出属性和业务属性,所述前端输出属性用于指示数据处理结果在前端页面的展示方式,所述业务属性用于指示业务类型;
S2、配置所述业务属性对应的资源,所述资源包括至少一个目标数据属性和各所述目标数据属性分别对应的统计规则;
S3、分别生成各所述目标数据属性对应的数据请求指令;
S4、分别发送各所述数据请求指令至数据服务器;
S5、分别获取所述数据服务器基于各所述数据请求指令反馈的分组数据;
S6、分别按照各所述目标数据属性对应的统计规则,统计各所述目标数据属性对应的分组数据,将统计结果作为各所述目标数据属性对应的分组业务数据;
S7、汇总全部所述分组业务数据,生成业务数据,其中,所述业务数据与所述前端输出属性匹配;
S8、发送所述业务数据至所述前端页面。
上述步骤S1中,通过中间件接收上述业务分析指令。上述业务分析指令由用户在前端页面进行发送。上述前端输出属性用于指示数据处理结果在前端页面的展示方式,前端输出属性可以由用户在前端页面进行设置。上述业务属性用于指示业务类型,业务属性由用户根据业务需要在前端页面进行设置。业务分析指令中携带前端输出属性和业务属性,中间件接收上述业务分析指令后,分析处理业务属性所对应的数据;再按照前端输出属性的要求,将数据处理结果展示在前端页面。例如,用户希望获取企业的最新债务情况,想要将不同类型的企业债务的金额在一张柱状图中进行对比,并将不同类型的企业债务的金额比例在一张饼图中进行对比,则用户在前端页面的业务属性中输入或选择<企业的最新债务情况>,并在前端页面的业务属性中输入或选择<不同类型的企业债务的金额><柱状图>,<不同类型的企业债务的金额比例><饼图>;则其中,前端输出属性为两个,一个为不同类型的企业债务的金额的柱状图,另一个为不同类型的企业债务的金额比例的饼图,业务属性即为企业的最新债务情况。
上述步骤S2中,配置业务属性对应的资源指的是中间件对业务属性进行分析,提取业务属性中所包含的目标数据属性,以及各目标数据属性分别对应的统计规则。以中间件获取的业务属性为<企业的最新债务情况>为例,中间件根据预先编辑好的业务适配规则,将债务分为国企债务、隐形债务、政务性债务,其中国企债务为各项国企债务之和,隐形债务为各项隐形债务之和,政务性债务为各项政务性债务之和;则其中,上述目标数据属性为各项国企债务、各项隐形债务、各项政务性债务,各项国企债务对应的统计规则为对各项国企债务金额进行求和,各项隐形债务对应的统计规则为对各项隐形债务金额进行求和,各项政务性债务对应的统计规则为对各项政务性债务金额进行求和。
上述步骤S3~S5中,针对各个目标数据属性,中间件分别生成对应的数据请求指令,向数据服务器分别请求与各个目标数据属性对应的分组数据。例如,中间件根据目标数据属性(如,各项国企债务)生成对应的数据请求指令(如,向数据服务器请求各项国企债务数据)。在数据服务器中,对于每个目标数据属性对应的分组数据都先预先设置了对应的查询位置,如,查询位置设置为每个分组数据的URL(统一资源定位符)。数据服务器收到目标数据属性的数据请求指令后,从与目标数据属性对应的URL获取分组数据,数据服务器再将每个分组数据分别传送给中间件。
上述步骤S6中,中间件在每获取完一组分组数据后,就对该组分组数据按照对应的统计规则进行统计,例如,中间件获取了各项国企债务的分组数据后,就按照对应的统计规则对各项国企债务金额进行求和,得到国企债务金额,即为国企债务对应的分组业务数据,无需等到所有分组数据获取完再进行统计。中间件分别将各组分组业务数据暂存。
上述步骤S7中,中间件获取全部的分组业务数据后,将各组分组业务数据汇总为与上述前端输出属性相匹配的业务数据,数据汇总方法与前端输出属性之间的匹配规则在中间件开发阶段进行预先设置。例如,前端输出属性为两个,一个为不同类型的企业债务的金额的柱状图,另一个为不同类型的企业债务的金额比例的饼图:对于柱状图,则将国企债务金额、隐形债务金额、政务性债务金额分别填入数据表格中的对应位置即可;对于饼图,则需要先计算国企债务金额、隐形债务金额、政务性债务金额分别的占比(如国企债务金额占比=国企债务金额/(国企债务金额+隐形债务金额+政务性债务金额)),再将各自的占比分别填入数据表格中的对应位置。
上述步骤S8中,中间件将处理后的业务数据发送给前端页面,前端页面接收到数据后,进行对应图表的显示。
本申请的上述方法用于在数据调用过程中对数据的统计分析。用户在前端页面发送业务分析指令后,其中业务分析指令中携带前端输出属性和业务属性;中间件获取到业务分析指令,对业务属性进行资源配置,配置出对应的至少一个目标数据属性和各目标数据属性对应的统计规则;再对各目标数据属性分别生成对应的数据请求指令,发送给数据服务器;数据服务器接收到数据请求指令后,查询数据请求指令所对应的分组数据,并把分组数据发送给中间件;中间件对各分组数据按照对应的统计规则分别进行统计,生成各目标数据属性对应的分组业务数据;中间件再将各组分组业务数据进行汇总后生成业务数据,将业务数据发送给前端页面;则前端页面直接根据业务数据呈现与前端输出属性对应的图表等。这样,在数据调用过程中,实现了数据统计分析,用户无需再人工进行分析,大大提高了分析效率。如果新增了业务类型,只需要在中间件中增加对应的业务属性的资源配置规则、目标数据属性对应的查询位置、统计规则等预设规则即可,也大大减轻了中间件开发人员的开发工作,提高中间件开发效率。
在一个实施例中,上述分别发送各所述数据请求指令至数据服务器的步骤S4,包括:
S401、分别建立与各所述目标数据属性对应的请求线程,其中,所述请求线程用于向所述数据服务器请求与所述目标数据属性对应的分组数据;
S402、获取各所述请求线程之间的关系,所述关系包括并行关系和依赖关系;
S403、根据各所述请求线程之间的关系,配置各所述请求线程的执行顺序;
S404、根据各所述请求线程的执行顺序分别发送各所述数据请求指令至所述数据服务器。
本实施例中,上述步骤S401中,对于每个目标数据属性分别建立对应的请求线程,例如,目标数据属性包括各项国企债务、各项隐形债务、各项政务性债务,则分别建立对应的请求线程,各项国企债务对应请求线程1,各项隐形债务对应请求线程2,各项政务性债务对应请求线程3。
上述步骤S402中,中间件进行多个请求线程时,首先获取各个不同的请求线程之间的关系。不同的请求线程之间可能会具有依赖关系,即比如某一个请求线程需要根据另一个请求线程的数据才能开始;也可能是并行关系,即各个线程之间彼此独立,可以同时进行。
上述步骤S403中,根据上述并行关系和依赖关系,确定各个请求线程的优先级。对于互相并行的请求线程优先级相同,可以同时进行;对于互相依赖的请求线程设置不同优先级,依赖于另一个请求线程的数据才能开始的请求线程的优先级较低;根据各所述请求线程的优先级配置各所述请求线程的执行顺序,优先级最高的请求线程最先开始,具有依赖关系的请求线程依序根据前序线程的结束再开始,具有并行关系的请求线程同时进行。
上述步骤S404中,根据各请求线程的执行顺序依序将各个线程对应的数据请求指令发送给数据服务器,向数据服务器请求对应的数据。
在一个实施例中,上述资源还包括各所述目标数据属性分别对应的条件参数,上述分别生成各所述目标数据属性对应的数据请求指令的步骤S3,包括:
S301、将各所述目标数据属性对应的条件参数的格式根据第一转译方式进行转译,得到转译后的条件参数,其中,所述转译后的条件参数的格式适用于所述数据服务器;
S302、分别生成与各所述目标数据属性对应的数据请求指令,其中,所述数据请求指令中携带所述转译后的条件参数。
本实施例中,上述条件参数在配置业务属性时提取而得。以中间件获取的业务属性为<企业的最新债务情况>为例,在配置业务属性时,根据“最新债务情况”自动生成对应的查询时间为当年当月,例如2018年12月。
中间件对条件参数的格式进行转译,由于条件参数是从业务属性中进行提取而得的,而业务属性是从前端页面进行输入或选择的,条件参数的数据格式与前端页面的数据格式一致,与数据服务器识别的数据格式有可能存在不一致的情况,数据服务器无法直接识别,因此需要将条件参数的格式转译成数据服务器可以识别的数据格式。上述第一转译方式包括依据预设字典的转译方式,具体地,在预设字典中预存了适用于前端页面的各个参数的数据格式和适用于数据服务器的各个参数的数据格式的一一对应关系,例如预设字典中,存储了前端页面的时间数据格式为“xxxx年xx月”,数据服务器的时间数据格式为“xxxx/xx”,上述第一转译方式即为将条件参数的数据格式,根据预设字典进行匹配,转译成数据库可识别的数据格式。
在一个实施例中,上述将各所述目标数据属性对应的条件参数的格式根据第一转译方式进行转译,得到转译后的条件参数的步骤S301前,还包括:
S303、调用预设的权限校验模型对所述指定目标数据属性进行权限校验;
S304、若所述指定目标数据属性通过权限校验,则执行将各所述目标数据属性对应的条件参数的格式根据第一转译方式进行转译,得到转译后的条件参数。
本实施例中,通过权限校验可以防止有不合规参数,例如,如果从前端页面发送的业务属性中包含无效的目标数据属性,则通过权限校验就可以判定该请求无效,不再对该无效的目标数据属性生成对应的数据请求指令,无需再与数据服务器进行交互。例如,债务类型包括国企债务,隐形债务,政务性债务这三种,如果前端页面发送的业务分析指令中,要求分析四种债务类型,则在生成的四个请求线程中,有一个请求线程则无法通过预设的权限校验模型的权限校验。权限校验模型在中间件开发时进行预先编写,权限校验模型中保存有预先写入的与目标数据属性对应的权限校验参数。
在一个实施例中,上述分别按照各所述目标数据属性对应的统计规则,统计各所述目标数据属性对应的分组数据,将统计结果作为各所述目标数据属性对应的分组业务数据的步骤S6,包括:
S601、分别按照预设数据清洗规则,对各所述目标数据属性对应的分组数据进行数据清洗,获得各所述目标数据属性对应的第一分组数据;
S602、分别按照各所述目标数据属性对应的所述统计规则,统计各所述目标数据属性对应的第一分组数据,生成各所述目标数据属性对应的分组业务数据。
本实施例通过步骤S601~S602,实现对分组数据进行基本的数据分析。上述数据清洗包括数据比对、异常数据剔除、数据补充、数据过滤,获得符合预设数据要求的第一分组数据。数据清洗可以采用现有的数据清洗方法,本发明在此不做赘述。中间件对清洗完的数据按照对应的统计规则进行统计,例如,中间件获取了各项国企债务的分组数据后,就按照对应的统计规则对各项国企债务金额进行求和,得到国企债务金额,即为国企债务对应的分组业务数据。
在一个实施例中,上述汇总全部所述分组业务数据,生成业务数据的步骤S7前,包括:
S071、分别保存各所述分组业务数据;
S072、判断是否已获取全部所述分组业务数据;
S073、若是,则执行汇总全部所述分组业务数据,生成业务数据。
本实施例中,中间件将获得的分组业务数据分别进行保存。例如,如果请求线程1的分组业务数据已经获取,请求线程2的数据还在获取中,则请求线程1将获取的分组业务数据先保存,并进入等待过程,等所有请求线程的数据均获取完毕,将所有保存的数据进行汇总,生成业务数据。
在一个实施例中,上述汇总全部所述分组业务数据,生成业务数据的步骤S7,包括:
S701、根据与所述前端输出属性匹配的匹配规则,将各所述分组业务数据进行合并,获得合并数据;
S702、将所述合并数据的格式根据第二转译方式进行转译,得到所述业务数据,所述业务数据的格式适用于所述前端页面。
本实施例中,步骤S701中,上述与所述前端输出属性匹配的匹配规则,在中间件开发阶段进行预先设置;也可以随着前端页面的输出属性的增加,在中间件中新增加对应的匹配规则。例如前端输出属性为两个,一个为不同类型的企业债务的金额的柱状图,另一个为不同类型的企业债务的金额比例的饼图:对于柱状图,则将国企债务金额、隐形债务金额、政务性债务金额分别填入数据表格中的对应位置即可;对于饼图,则需要先计算国企债务金额、隐形债务金额、政务性债务金额分别的占比(如国企债务金额占比=国企债务金额/(国企债务金额+隐形债务金额+政务性债务金额)),再将各自的占比分别填入数据表格中的对应位置。
步骤S702中,中间件对合并数据的格式进行转译,由于合并数据的格式是数据服务器可以识别的数据格式,与前端页面可以识别的数据格式可能存在不一致的情况,前端页面无法直接识别,因此需要将合并数据的格式转译成前端页面可以识别的格式。与上述第一转译方式相似,上述第二转译方式包括依据预设字典的转译方式,具体地,在预设字典中预存了适用于数据服务器的各个参数的数据格式和适用于前端页面的各个参数的数据格式的一一对应关系。上述第二转译方式即为将合并数据的数据格式,根据预设字典进行匹配,转译成前端页面可识别的数据格式。
参照图2,本申请一实施例中提供了一种数据处理装置,包括:
前端指令获取单元10,用于从前端页面获取业务分析指令,其中,所述业务分析指令中携带前端输出属性和业务属性,所述前端输出属性用于指示数据处理结果在前端页面的展示方式,所述业务属性用于指示业务类型;
资源配置单元20,用于配置所述业务属性对应的资源,所述资源包括至少一个目标数据属性和各所述目标数据属性分别对应的统计规则;
指令生成单元30,用于分别生成各所述目标数据属性对应的数据请求指令;
指令发送单元40,用于分别发送各所述数据请求指令至数据服务器;
分组数据获取单元50,用于分别获取所述数据服务器基于各所述数据请求指令反馈的分组数据;
分组数据统计单元60,用于分别按照各所述目标数据属性对应的统计规则,统计各所述目标数据属性对应的分组数据,将统计结果作为各所述目标数据属性对应的分组业务数据;
业务数据获取单元70,用于汇总全部所述分组业务数据,生成业务数据,其中,所述业务数据与所述前端输出属性匹配;
业务数据发送单元80,用于发送所述业务数据至所述前端页面。
上述前端指令获取单元10接收上述业务分析指令。上述业务分析指令由用户在前端页面进行发送。上述前端输出属性用于指示数据处理结果在前端页面的展示方式,前端输出属性可以由用户在前端页面进行设置。上述业务属性用于指示业务类型,业务属性由用户根据业务需要在前端页面进行设置。业务分析指令中携带前端输出属性和业务属性,中间件接收上述业务分析指令后,分析处理业务属性所对应的数据;再按照前端输出属性的要求,将数据处理结果展示在前端页面。例如,用户希望获取企业的最新债务情况,想要将不同类型的企业债务的金额在一张柱状图中进行对比,并将不同类型的企业债务的金额比例在一张饼图中进行对比,则用户在前端页面的业务属性中输入或选择<企业的最新债务情况>,并在前端页面的业务属性中输入或选择<不同类型的企业债务的金额><柱状图>,<不同类型的企业债务的金额比例><饼图>;则其中,前端输出属性为两个,一个为不同类型的企业债务的金额的柱状图,另一个为不同类型的企业债务的金额比例的饼图,业务属性即为企业的最新债务情况。
上述资源配置单元20中,配置业务属性对应的资源指的是资源配置单元20对业务属性进行分析,提取业务属性中所包含的目标数据属性,以及各目标数据属性分别对应的统计规则。以资源配置单元20获取的业务属性为<企业的最新债务情况>为例,资源配置单元20根据预先编辑好的业务适配规则,将债务分为国企债务、隐形债务、政务性债务,其中国企债务为各项国企债务之和,隐形债务为各项隐形债务之和,政务性债务为各项政务性债务之和;则其中,上述目标数据属性为各项国企债务、各项隐形债务、各项政务性债务,各项国企债务对应的统计规则为对各项国企债务金额进行求和,各项隐形债务对应的统计规则为对各项隐形债务金额进行求和,各项政务性债务对应的统计规则为对各项政务性债务金额进行求和。
上述指令生成单元30、指令发送单元40和分组数据获取单元50中,针对各个目标数据属性,指令生成单元30分别生成对应的数据请求指令,向数据服务器分别请求与各个目标数据属性对应的分组数据。例如,指令生成单元30根据目标数据属性(如,各项国企债务)生成对应的数据请求指令(如,向数据服务器请求各项国企债务数据)。在数据服务器中,对于每个目标数据属性对应的分组数据都先预先设置了对应的查询位置,如,查询位置设置为每个分组数据的URL(统一资源定位符)。数据服务器收到指令发送单元40发送的目标数据属性的数据请求指令后,从与目标数据属性对应的URL获取分组数据,数据服务器再将每个分组数据分别传送给分组数据获取单元50。
上述分组数据统计单元60中,分组数据统计单元60在每获取完一组分组数据后,就对该组分组数据按照对应的统计规则进行统计,例如,分组数据统计单元60获取了各项国企债务的分组数据后,就按照对应的统计规则对各项国企债务金额进行求和,得到国企债务金额,即为国企债务对应的分组业务数据,无需等到所有分组数据获取完再进行统计。分组数据统计单元60分别将各组分组业务数据暂存。
上述业务数据获取单元70中,业务数据获取单元70获取全部的分组业务数据后,将各组分组业务数据汇总为与上述前端输出属性相匹配的业务数据,数据汇总方法与前端输出属性之间的匹配规则在中间件开发阶段进行预先设置。例如,前端输出属性为两个,一个为不同类型的企业债务的金额的柱状图,另一个为不同类型的企业债务的金额比例的饼图:对于柱状图,则将国企债务金额、隐形债务金额、政务性债务金额分别填入数据表格中的对应位置即可;对于饼图,则需要先计算国企债务金额、隐形债务金额、政务性债务金额分别的占比(如国企债务金额占比=国企债务金额/(国企债务金额+隐形债务金额+政务性债务金额)),再将各自的占比分别填入数据表格中的对应位置。
上述业务数据发送单元80用于将处理后的业务数据发送给前端页面,前端页面接收到数据后,进行对应图表的显示。
本申请中,上述装置用于在数据调用过程中对数据的统计分析。用户在前端页面发送业务分析指令后,其中业务分析指令中携带前端输出属性和业务属性;资源配置单元20获取到业务分析指令,对业务属性进行资源配置,配置出对应的至少一个目标数据属性和各目标数据属性对应的统计规则;指令生成单元30再对各目标数据属性分别生成对应的数据请求指令,通过指令发送单元40发送给数据服务器;数据服务器接收到数据请求指令后,查询数据请求指令所对应的分组数据,并把分组数据发送给分组数据获取单元50;分组数据统计单元60对各分组数据按照对应的统计规则分别进行统计,生成各目标数据属性对应的分组业务数据;业务数据获取单元70再将各组分组业务数据进行汇总后生成业务数据,通过业务数据发送单元80将业务数据发送给前端页面;则前端页面直接根据业务数据呈现与前端输出属性对应的图表等。这样,在数据调用过程中,实现了数据统计分析,用户无需再人工进行分析,大大提高了分析效率。如果新增了业务类型,只需要在中间件中增加对应的业务属性的资源配置规则、目标数据属性对应的查询位置、统计规则等预设规则即可,也大大减轻了中间件开发人员的开发工作,提高中间件开发效率。
在一个实施例中,上述指令发送单元40,包括:
线程建立子单元,用于分别建立与各所述目标数据属性对应的请求线程,其中,所述请求线程用于向所述数据服务器请求与所述目标数据属性对应的分组数据;
关系获取子单元,用于获取各所述请求线程之间的关系,所述关系包括并行关系和依赖关系;
顺序配置子单元,用于根据各所述请求线程之间的关系,配置各所述请求线程的执行顺序;
请求发送子单元,用于根据各所述请求线程的执行顺序分别发送各所述数据请求指令至所述数据服务器。
本实施例中,上述线程建立子单元用于对于每个目标数据属性分别建立对应的请求线程,例如,目标数据属性包括各项国企债务、各项隐形债务、各项政务性债务,则分别建立对应的请求线程,各项国企债务对应请求线程1,各项隐形债务对应请求线程2,各项政务性债务对应请求线程3。
上述关系获取子单元中,首先获取各个不同的请求线程之间的关系。不同的请求线程之间可能会具有依赖关系,即比如某一个请求线程需要根据另一个请求线程的数据才能开始;也可能是并行关系,即各个线程之间彼此独立,可以同时进行。
上述顺序配置子单元中,根据上述并行关系和依赖关系,确定各个请求线程的优先级。对于互相并行的请求线程优先级相同,可以同时进行;对于互相依赖的请求线程设置不同优先级,依赖于另一个请求线程的数据才能开始的请求线程的优先级较低;根据各所述请求线程的优先级配置各所述请求线程的执行顺序,优先级最高的请求线程最先开始,具有依赖关系的请求线程依序根据前序线程的结束再开始,具有并行关系的请求线程同时进行。
上述请求发送子单元用于根据各请求线程的执行顺序依序将各个线程对应的数据请求指令发送给数据服务器,向数据服务器请求对应的数据。
在一个实施例中,上述资源还包括各所述目标数据属性分别对应的条件参数,上述指令生成单元30,包括:
第一转译子单元,用于将各所述目标数据属性对应的条件参数的格式根据第一转译方式进行转译,得到转译后的条件参数,其中,所述转译后的条件参数的格式适用于所述数据服务器;
指令生成子单元,用于分别生成与各所述目标数据属性对应的数据请求指令,其中,所述数据请求指令中携带所述转译后的条件参数。
本实施例中,上述条件参数在配置业务属性时提取而得。以获取的业务属性为<企业的最新债务情况>为例,在配置业务属性时,资源配置单元20根据“最新债务情况”自动生成对应的查询时间为当年当月,例如2018年12月。
第一转译子单元对条件参数的格式进行转译,由于条件参数是从业务属性中进行提取而得的,而业务属性是从前端页面进行输入或选择的,条件参数的数据格式与前端页面的数据格式一致,与数据服务器识别的数据格式有可能存在不一致的情况,数据服务器无法直接识别,因此需要将条件参数的格式转译成数据服务器可以识别的数据格式。上述第一转译方式包括依据预设字典的转译方式,具体地,在预设字典中预存了适用于前端页面的各个参数的数据格式和适用于数据服务器的各个参数的数据格式的一一对应关系,例如预设字典中,存储了前端页面的时间数据格式为“xxxx年xx月”,数据服务器的时间数据格式为“xxxx/xx”,上述第一转译方式即为将条件参数的数据格式,根据预设字典进行匹配,转译成数据库可识别的数据格式。
在一个实施例中,上述指令生成单元30,还包括:
权限校验子单元,用于调用预设的权限校验模型对所述指定目标数据属性进行权限校验;
判断子单元,用于若所述指定目标数据属性通过权限校验,则执行将各所述目标数据属性对应的条件参数的格式根据第一转译方式进行转译,得到转译后的条件参数。
本实施例中,通过权限校验可以防止有不合规参数,例如,如果从前端页面发送的业务属性中包含无效的目标数据属性,则通过权限校验就可以判定该请求无效,不再对该无效的目标数据属性生成对应的数据请求指令,无需再与数据服务器进行交互。例如,债务类型包括国企债务,隐形债务,政务性债务这三种,如果前端页面发送的业务分析指令中,要求分析四种债务类型,则在生成的四个请求线程中,有一个请求线程则无法通过预设的权限校验模型的权限校验。权限校验模型在中间件开发时进行预先编写,权限校验模型中保存有预先写入的与目标数据属性对应的权限校验参数。
在一个实施例中,上述分组数据统计单元60,包括:
数据清洗子单元,用于分别按照预设数据清洗规则,对各所述目标数据属性对应的分组数据进行数据清洗,获得各所述目标数据属性对应的第一分组数据;
数据统计子单元,用于分别按照各所述目标数据属性对应的所述统计规则,统计各所述目标数据属性对应的第一分组数据,生成各所述目标数据属性对应的分组业务数据。
本实施例通过数据清洗子单元实现对分组数据进行基本的数据分析。上述数据清洗包括数据比对、异常数据剔除、数据补充、数据过滤,获得符合预设数据要求的第一分组数据。数据清洗可以采用现有的数据清洗方法,本发明在此不做赘述。数据统计子单元对清洗完的数据按照对应的统计规则进行统计,例如,数据统计子单元获取了各项国企债务的分组数据后,就按照对应的统计规则对各项国企债务金额进行求和,得到国企债务金额,即为国企债务对应的分组业务数据。
在一个实施例中,上述数据处理装置,还包括:
数据保存单元,用于分别保存各所述分组业务数据;
判断单元,用于判断是否已获取全部所述分组业务数据;若是,则执行汇总全部所述分组业务数据,生成业务数据。
本实施例中,数据保存单元将获得的分组业务数据分别进行保存。例如,如果请求线程1的分组业务数据已经获取,请求线程2的数据还在获取中,则请求线程1将获取的分组业务数据先保存,并进入等待过程,等所有请求线程的数据均获取完毕,将所有保存的数据进行汇总,生成业务数据。
在一个实施例中,上述业务数据获取单元70,包括:
数据合并子单元,用于根据与所述前端输出属性匹配的匹配规则,将各所述分组业务数据进行合并,获得合并数据;
第二转译子单元,用于将所述合并数据的格式根据第二转译方式进行转译,得到所述业务数据,所述业务数据的格式适用于所述前端页面。
本实施例中,数据合并子单元中,上述与所述前端输出属性匹配的匹配规则,在中间件开发阶段进行预先设置;也可以随着前端页面的输出属性的增加,在数据合并子单元中新增加对应的匹配规则。例如前端输出属性为两个,一个为不同类型的企业债务的金额的柱状图,另一个为不同类型的企业债务的金额比例的饼图:对于柱状图,则将国企债务金额、隐形债务金额、政务性债务金额分别填入数据表格中的对应位置即可;对于饼图,则需要先计算国企债务金额、隐形债务金额、政务性债务金额分别的占比(如国企债务金额占比=国企债务金额/(国企债务金额+隐形债务金额+政务性债务金额)),再将各自的占比分别填入数据表格中的对应位置。
第二转译子单元对合并数据的格式进行转译,由于合并数据的格式是数据服务器可以识别的数据格式,与前端页面可以识别的数据格式可能存在不一致的情况,前端页面无法直接识别,因此需要将合并数据的格式转译成前端页面可以识别的格式。与上述第一转译方式相似,上述第二转译方式包括依据预设字典的转译方式,具体地,在预设字典中预存了适用于数据服务器的各个参数的数据格式和适用于前端页面的各个参数的数据格式的一一对应关系。上述第二转译方式即为将合并数据的数据格式,根据预设字典进行匹配,转译成前端页面可识别的数据格式。
参照图3,本申请实施例中还提供一种计算机设备,该计算机设备可以是服务器,其内部结构可以如图3所示。该计算机设备包括通过系统总线连接的处理器、存储器、网络接口和数据库。其中,该计算机设计的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储数据信息等数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种数据处理方法。
上述处理器执行上述数据处理方法的步骤:
从前端页面获取业务分析指令,其中,所述业务分析指令中携带前端输出属性和业务属性,所述前端输出属性用于指示数据处理结果在前端页面的展示方式,所述业务属性用于指示业务类型;
配置所述业务属性对应的资源,所述资源包括至少一个目标数据属性和各所述目标数据属性分别对应的统计规则;
分别生成各所述目标数据属性对应的数据请求指令;
分别发送各所述数据请求指令至数据服务器;
分别获取所述数据服务器基于各所述数据请求指令反馈的分组数据;
分别按照各所述目标数据属性对应的统计规则,统计各所述目标数据属性对应的分组数据,将统计结果作为各所述目标数据属性对应的分组业务数据;
汇总全部所述分组业务数据,生成业务数据,其中,所述业务数据与所述前端输出属性匹配;
发送所述业务数据至所述前端页面。
在一实施例中,上述处理器分别发送各所述数据请求指令至数据服务器的步骤,包括:
分别建立与各所述目标数据属性对应的请求线程,其中,所述请求线程用于向所述数据服务器请求与所述目标数据属性对应的分组数据;
获取各所述请求线程之间的关系,所述关系包括并行关系和依赖关系;
根据各所述请求线程之间的关系,配置各所述请求线程的执行顺序;
根据各所述请求线程的执行顺序分别发送各所述数据请求指令至所述数据服务器。
在一实施例中,上述资源还包括各所述目标数据属性分别对应的条件参数,上述处理器分别生成各所述目标数据属性对应的数据请求指令的步骤,包括:
将各所述目标数据属性对应的条件参数的格式根据第一转译方式进行转译,得到转译后的条件参数,其中,所述转译后的条件参数的格式适用于所述数据服务器;
分别生成与各所述目标数据属性对应的数据请求指令,其中,所述数据请求指令中携带所述转译后的条件参数。
在一实施例中,上述处理器将各所述目标数据属性对应的条件参数的格式根据第一转译方式进行转译,得到转译后的条件参数的步骤前,还包括:
调用预设的权限校验模型对所述指定目标数据属性进行权限校验;
若所述指定目标数据属性通过权限校验,则执行将各所述目标数据属性对应的条件参数的格式根据第一转译方式进行转译,得到转译后的条件参数。
在一实施例中,上述处理器分别按照各所述目标数据属性对应的统计规则,统计各所述目标数据属性对应的分组数据,获得各所述目标数据属性对应的分组业务数据的步骤,包括:
分别按照预设数据清洗规则,对各所述目标数据属性对应的分组数据进行数据清洗,获得各所述目标数据属性对应的第一分组数据;
分别按照各所述目标数据属性对应的所述统计规则,统计各所述目标数据属性对应的第一分组数据,生成各所述目标数据属性对应的分组业务数据。
在一实施例中,上述处理器汇总全部所述分组业务数据,生成业务数据的步骤前,包括:
分别保存各所述分组业务数据;
判断是否已获取全部所述分组业务数据;
若是,则执行汇总全部所述分组业务数据,生成业务数据。
在一实施例中,上述处理器汇总全部所述分组业务数据,生成业务数据的步骤,包括:
根据与所述前端输出属性匹配的匹配规则,将各所述分组业务数据进行合并,获得合并数据;
将所述合并数据的格式根据第二转译方式进行转译,得到所述业务数据,所述业务数据的格式适用于所述前端页面。
本领域技术人员可以理解,图3中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定。
本申请一实施例还提供一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现一种数据处理方法,具体为:
从前端页面获取业务分析指令,其中,所述业务分析指令中携带前端输出属性和业务属性,所述前端输出属性用于指示数据处理结果在前端页面的展示方式,所述业务属性用于指示业务类型;
配置所述业务属性对应的资源,所述资源包括至少一个目标数据属性和各所述目标数据属性分别对应的统计规则;
分别生成各所述目标数据属性对应的数据请求指令;
分别发送各所述数据请求指令至数据服务器;
分别获取所述数据服务器基于各所述数据请求指令反馈的分组数据;
分别按照各所述目标数据属性对应的统计规则,统计各所述目标数据属性对应的分组数据,将统计结果作为各所述目标数据属性对应的分组业务数据;
汇总全部所述分组业务数据,生成业务数据,其中,所述业务数据与所述前端输出属性匹配;
发送所述业务数据至所述前端页面。
在一实施例中,上述处理器分别发送各所述数据请求指令至数据服务器的步骤,包括:
分别建立与各所述目标数据属性对应的请求线程,其中,所述请求线程用于向所述数据服务器请求与所述目标数据属性对应的分组数据;
获取各所述请求线程之间的关系,所述关系包括并行关系和依赖关系;
根据各所述请求线程之间的关系,配置各所述请求线程的执行顺序;
根据各所述请求线程的执行顺序分别发送各所述数据请求指令至所述数据服务器。
在一实施例中,上述资源还包括各所述目标数据属性分别对应的条件参数,上述处理器分别生成各所述目标数据属性对应的数据请求指令的步骤,包括:
将各所述目标数据属性对应的条件参数的格式根据第一转译方式进行转译,得到转译后的条件参数,其中,所述转译后的条件参数的格式适用于所述数据服务器;
分别生成与各所述目标数据属性对应的数据请求指令,其中,所述数据请求指令中携带所述转译后的条件参数。
在一实施例中,上述处理器将各所述目标数据属性对应的条件参数的格式根据第一转译方式进行转译,得到转译后的条件参数的步骤前,还包括:
调用预设的权限校验模型对所述指定目标数据属性进行权限校验;
若所述指定目标数据属性通过权限校验,则执行将各所述目标数据属性对应的条件参数的格式根据第一转译方式进行转译,得到转译后的条件参数。
在一实施例中,上述处理器分别按照各所述目标数据属性对应的统计规则,统计各所述目标数据属性对应的分组数据,获得各所述目标数据属性对应的分组业务数据的步骤,包括:
分别按照预设数据清洗规则,对各所述目标数据属性对应的分组数据进行数据清洗,获得各所述目标数据属性对应的第一分组数据;
分别按照各所述目标数据属性对应的所述统计规则,统计各所述目标数据属性对应的第一分组数据,生成各所述目标数据属性对应的分组业务数据。
在一实施例中,上述处理器汇总全部所述分组业务数据,生成业务数据的步骤前,包括:
分别保存各所述分组业务数据;
判断是否已获取全部所述分组业务数据;
若是,则执行汇总全部所述分组业务数据,生成业务数据。
在一实施例中,上述处理器汇总全部所述分组业务数据,生成业务数据的步骤,包括:
根据与所述前端输出属性匹配的匹配规则,将各所述分组业务数据进行合并,获得合并数据;
将所述合并数据的格式根据第二转译方式进行转译,得到所述业务数据,所述业务数据的格式适用于所述前端页面。
综上所述,为本申请实施例中提供的数据处理方法、装置、计算机设备和存储介质,首先,从前端页面获取业务分析指令,其中,所述业务分析指令中携带前端输出属性和业务属性;然后配置所述业务属性对应的资源,所述资源包括至少一个目标数据属性和各所述目标数据属性分别对应的统计规则;再分别生成各所述目标数据属性对应的数据请求指令;并分别发送各所述数据请求指令至数据服务器;然后分别获取所述数据服务器基于各所述数据请求指令反馈的分组数据;再分别按照各所述目标数据属性对应的统计规则,统计各所述目标数据属性对应的分组数据,获得各所述目标数据属性对应的分组业务数据;汇总全部所述分组业务数据,生成业务数据,其中,所述业务数据与所述前端输出属性匹配;最后发送所述业务数据至所述前端页面;这样实现了在数据调用过程中的数据统计分析,有利于大大提高人员工作效率。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储与一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的和实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可以包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限,RAM通过多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双速据率SDRAM(SSRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其它变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、装置、物品或者方法不仅包括那些要素,而且还包括没有明确列出的其它要素,或者是还包括为这种过程、装置、物品或者方法所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、装置、物品或者方法中还存在另外的相同要素。
以上所述仅为本申请的优选实施例,并非因此限制本申请的专利范围,凡是利用本申请说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本申请的专利保护范围内。

Claims (10)

1.一种数据处理方法,其特征在于,包括:
从前端页面获取业务分析指令,其中,所述业务分析指令中携带前端输出属性和业务属性,所述前端输出属性用于指示数据处理结果在前端页面的展示方式,所述业务属性用于指示业务类型;
配置所述业务属性对应的资源,所述资源包括至少一个目标数据属性和各所述目标数据属性分别对应的统计规则;
分别生成各所述目标数据属性对应的数据请求指令;
分别发送各所述数据请求指令至数据服务器;
分别获取所述数据服务器基于各所述数据请求指令反馈的分组数据;
分别按照各所述目标数据属性对应的统计规则,统计各所述目标数据属性对应的分组数据,将统计结果作为各所述目标数据属性对应的分组业务数据;
汇总全部所述分组业务数据,生成业务数据,其中,所述业务数据与所述前端输出属性匹配;
发送所述业务数据至所述前端页面;
分别建立与各所述目标数据属性对应的请求线程,其中,所述请求线程用于向所述数据服务器请求与所述目标数据属性对应的分组数据;
分别发送各所述数据请求指令至数据服务器步骤:
获取各所述请求线程之间的关系,所述关系包括并行关系和依赖关系;
根据各所述请求线程之间的关系,配置各所述请求线程的执行顺序;
根据各所述请求线程的执行顺序分别发送各所述数据请求指令至所述数据服务器;
分别生成各所述目标数据属性对应的数据请求指令,还包括各所述目标数据属性分别对应的条件参数,分别生成各所述目标数据属性对应的数据请求指令的步骤:
将各所述目标数据属性对应的条件参数的格式根据第一转译方式进行转译,得到转译后的条件参数,其中,所述转译后的条件参数的格式适用于所述数据服务器;
分别生成与各所述目标数据属性对应的数据请求指令,其中,所述数据请求指令中携带所述转译后的条件参数。
2.如权利要求1所述的数据处理方法,其特征在于,所述分别发送各所述数据请求指令至数据服务器的步骤,包括:分别建立与各所述目标数据属性对应的请求线程,其中,所述请求线程用于向所述数据服务器请求与所述目标数据属性对应的分组数据;
获取各所述请求线程之间的关系,所述关系包括并行关系和依赖关系;
根据各所述请求线程之间的关系,配置各所述请求线程的执行顺序;
根据各所述请求线程的执行顺序分别发送各所述数据请求指令至所述数据服务器。
3.如权利要求1所述的数据处理方法,其特征在于,所述资源还包括各所述目标数据属性分别对应的条件参数,所述分别生成各所述目标数据属性对应的数据请求指令的步骤,包括:将各所述目标数据属性对应的条件参数的格式根据第一转译方式进行转译,得到转译后的条件参数,其中,所述转译后的条件参数的格式适用于所述数据服务器;
分别生成与各所述目标数据属性对应的数据请求指令,其中,所述数据请求指令中携带所述转译后的条件参数。
4.如权利要求3所述的数据处理方法,其特征在于,将各所述目标数据属性对应的条件参数的格式根据第一转译方式进行转译,得到转译后的条件参数的步骤前,还包括:调用预设的权限校验模型对指定所述目标数据属性进行权限校验;
若指定所述目标数据属性通过权限校验,则执行将各所述目标数据属性对应的条件参数的格式根据第一转译方式进行转译,得到转译后的条件参数。
5.如权利要求1所述的数据处理方法,其特征在于,所述分别按照各所述目标数据属性对应的统计规则,统计各所述目标数据属性对应的分组数据,将统计结果作为各所述目标数据属性对应的分组业务数据的步骤,包括:分别按照预设数据清洗规则,对各所述目标数据属性对应的分组数据进行数据清洗,获得各所述目标数据属性对应的第一分组数据
分别按照各所述目标数据属性对应的所述统计规则,统计各所述目标数据属性对应的第一分组数据,生成各所述目标数据属性对应的分组业务数据。
6.如权利要求1所述的数据处理方法,其特征在于,所述汇总全部所述分组业务数据,生成业务数据的步骤前,包括:分别保存各所述分组业务数据;
判断是否已获取全部所述分组业务数据;
若是,则执行汇总全部所述分组业务数据,生成业务数据。
7.如权利要求1所述的数据处理方法,其特征在于,所述汇总全部所述分组业务数据,生成业务数据的步骤,包括:根据与所述前端输出属性匹配的匹配规则,将各所述分组业务数据进行合并,获得合并数据;
将所述合并数据的格式根据第二转译方式进行转译,得到所述业务数据,所述业务数据的格式适用于所述前端页面。
8.一种数据处理装置,其特征在于,数据处理装置根据权利要求1至7中任一项所述方法的步骤运行,包括:
前端指令获取单元,用于从前端页面获取业务分析指令,其中,所述业务分析指令中携带前端输出属性和业务属性,所述前端输出属性用于指示数据处理结果在前端页面的展示方式,所述业务属性用于指示业务类型;
资源配置单元,用于配置所述业务属性对应的资源,所述资源包括至少一个目标数据属性和各所述目标数据属性分别对应的统计规则;
指令生成单元,用于分别生成各所述目标数据属性对应的数据请求指令;
指令发送单元,用于分别发送各所述数据请求指令至数据服务器;
分组数据获取单元,用于分别获取所述数据服务器基于各所述数据请求指令反馈的分组数据;
分组数据统计单元,用于分别按照各所述目标数据属性对应的统计规则,统计各所述目标数据属性对应的分组数据,将统计结果作为各所述目标数据属性对应的分组业务数据;
业务数据获取单元,用于汇总全部所述分组业务数据,生成业务数据,其中,所述业务数据与所述前端输出属性匹配;
业务数据发送单元,用于发送所述业务数据至所述前端页面。
9.一种计算机设备,包括存储器和处理器,所述存储器中存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的方法的步骤。
CN201910464003.3A 2019-05-30 2019-05-30 数据处理方法、装置、计算机设备和存储介质 Active CN110347974B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910464003.3A CN110347974B (zh) 2019-05-30 2019-05-30 数据处理方法、装置、计算机设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910464003.3A CN110347974B (zh) 2019-05-30 2019-05-30 数据处理方法、装置、计算机设备和存储介质

Publications (2)

Publication Number Publication Date
CN110347974A CN110347974A (zh) 2019-10-18
CN110347974B true CN110347974B (zh) 2023-06-23

Family

ID=68174505

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910464003.3A Active CN110347974B (zh) 2019-05-30 2019-05-30 数据处理方法、装置、计算机设备和存储介质

Country Status (1)

Country Link
CN (1) CN110347974B (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111309498B (zh) * 2020-02-13 2023-09-15 山东汇贸电子口岸有限公司 请求处理方法、装置及计算机可读介质
CN111614749B (zh) * 2020-05-19 2021-11-02 深圳华锐金融技术股份有限公司 数据发送方法、装置、计算机设备和存储介质
CN112036140B (zh) * 2020-09-01 2023-08-18 中国银行股份有限公司 前端表格数据分组统计方法及装置
CN112115420A (zh) * 2020-09-21 2020-12-22 携程计算机技术(上海)有限公司 基于离散分组的数据统计方法、系统、设备及存储介质
CN113688454B (zh) * 2021-08-24 2024-03-08 广联达科技股份有限公司 防护盖座的建模方法、装置、电子设备及可读存储介质
CN115422318A (zh) * 2022-11-07 2022-12-02 广州天维信息技术股份有限公司 业务数据分析方法、装置、存储介质及计算机设备

Citations (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1588369A (zh) * 2004-09-06 2005-03-02 杭州恒生电子股份有限公司 一种关系型数据库系统及其查询和报表方法
CN102750654A (zh) * 2011-04-20 2012-10-24 中国南方电网有限责任公司 大电网电力调度信息披露平台
CN103631920A (zh) * 2013-12-04 2014-03-12 国家电网公司 调度运行日报统计分析系统
CN104679248A (zh) * 2015-03-03 2015-06-03 江苏科技大学 一种多场景交互数据可视化系统及工作方法
CN104866567A (zh) * 2015-05-22 2015-08-26 国家计算机网络与信息安全管理中心 一种业务数据呈现方法及装置
CN105306587A (zh) * 2015-11-13 2016-02-03 网易(杭州)网络有限公司 业务数据的处理方法、装置与系统
CN105653436A (zh) * 2015-12-31 2016-06-08 山东中创软件商用中间件股份有限公司 一种数据展示方法及系统
CN106649240A (zh) * 2016-12-27 2017-05-10 北京奇虎科技有限公司 基于自定义事件展示报表的方法及装置
CN107634854A (zh) * 2017-09-06 2018-01-26 北京三快在线科技有限公司 业务数据的处理方法及装置
CN107657516A (zh) * 2016-07-24 2018-02-02 平安科技(深圳)有限公司 生成凭证的方法及财务服务器
WO2018032941A1 (zh) * 2016-08-16 2018-02-22 中兴通讯股份有限公司 管理数据的方法及装置
CN107846460A (zh) * 2017-10-30 2018-03-27 中国人民解放军战略支援部队航天工程大学 一种军事信息系统信息流的复现系统及方法
CN107908659A (zh) * 2017-10-17 2018-04-13 深圳前海微众银行股份有限公司 数据报表配置方法、报表平台和计算机可读存储介质
CN108256667A (zh) * 2017-12-04 2018-07-06 重庆金融资产交易所有限责任公司 资产数据处理方法、装置、存储介质和计算机设备
CN108681674A (zh) * 2018-04-23 2018-10-19 平安科技(深圳)有限公司 报表模块创建方法、装置、计算机装置及存储介质
CN108763527A (zh) * 2018-05-31 2018-11-06 北京明朝万达科技股份有限公司 一种业务数据的搜索方法和装置
CN109033322A (zh) * 2018-07-18 2018-12-18 中国联合网络通信集团有限公司 一种多维数据的测试方法和装置
CN109544050A (zh) * 2019-01-24 2019-03-29 黄志敏 一种数据可视化呈现财务数据的方法及系统
CN109669992A (zh) * 2018-12-20 2019-04-23 云南电网有限责任公司玉溪供电局 一种数据可视化转换的实现方法
CN109799994A (zh) * 2019-01-14 2019-05-24 腾讯科技(武汉)有限公司 一种终端组件生成方法及装置
CN109815013A (zh) * 2019-01-02 2019-05-28 深圳壹账通智能科技有限公司 业务数据处理方法、装置、计算机设备和存储介质

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7917382B2 (en) * 2003-03-05 2011-03-29 Teradata Us, Inc. Integration of visualizations, reports, and data

Patent Citations (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1588369A (zh) * 2004-09-06 2005-03-02 杭州恒生电子股份有限公司 一种关系型数据库系统及其查询和报表方法
CN102750654A (zh) * 2011-04-20 2012-10-24 中国南方电网有限责任公司 大电网电力调度信息披露平台
CN103631920A (zh) * 2013-12-04 2014-03-12 国家电网公司 调度运行日报统计分析系统
CN104679248A (zh) * 2015-03-03 2015-06-03 江苏科技大学 一种多场景交互数据可视化系统及工作方法
CN104866567A (zh) * 2015-05-22 2015-08-26 国家计算机网络与信息安全管理中心 一种业务数据呈现方法及装置
CN105306587A (zh) * 2015-11-13 2016-02-03 网易(杭州)网络有限公司 业务数据的处理方法、装置与系统
CN105653436A (zh) * 2015-12-31 2016-06-08 山东中创软件商用中间件股份有限公司 一种数据展示方法及系统
CN107657516A (zh) * 2016-07-24 2018-02-02 平安科技(深圳)有限公司 生成凭证的方法及财务服务器
WO2018032941A1 (zh) * 2016-08-16 2018-02-22 中兴通讯股份有限公司 管理数据的方法及装置
CN106649240A (zh) * 2016-12-27 2017-05-10 北京奇虎科技有限公司 基于自定义事件展示报表的方法及装置
CN107634854A (zh) * 2017-09-06 2018-01-26 北京三快在线科技有限公司 业务数据的处理方法及装置
CN107908659A (zh) * 2017-10-17 2018-04-13 深圳前海微众银行股份有限公司 数据报表配置方法、报表平台和计算机可读存储介质
CN107846460A (zh) * 2017-10-30 2018-03-27 中国人民解放军战略支援部队航天工程大学 一种军事信息系统信息流的复现系统及方法
CN108256667A (zh) * 2017-12-04 2018-07-06 重庆金融资产交易所有限责任公司 资产数据处理方法、装置、存储介质和计算机设备
CN108681674A (zh) * 2018-04-23 2018-10-19 平安科技(深圳)有限公司 报表模块创建方法、装置、计算机装置及存储介质
CN108763527A (zh) * 2018-05-31 2018-11-06 北京明朝万达科技股份有限公司 一种业务数据的搜索方法和装置
CN109033322A (zh) * 2018-07-18 2018-12-18 中国联合网络通信集团有限公司 一种多维数据的测试方法和装置
CN109669992A (zh) * 2018-12-20 2019-04-23 云南电网有限责任公司玉溪供电局 一种数据可视化转换的实现方法
CN109815013A (zh) * 2019-01-02 2019-05-28 深圳壹账通智能科技有限公司 业务数据处理方法、装置、计算机设备和存储介质
CN109799994A (zh) * 2019-01-14 2019-05-24 腾讯科技(武汉)有限公司 一种终端组件生成方法及装置
CN109544050A (zh) * 2019-01-24 2019-03-29 黄志敏 一种数据可视化呈现财务数据的方法及系统

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
前端实现数据的分批加载(相当于分页),前端模糊查询;看淡江湖;《CSDN博客》;20181217;全文 *
大型集团公司XBRL与ERP的整合与效果分析;李永波;《财会通讯》;20190320;111-115 *
数据分析:构建可视化报表服务;Winsdons;《CSDN博客》;20171214;全文 *

Also Published As

Publication number Publication date
CN110347974A (zh) 2019-10-18

Similar Documents

Publication Publication Date Title
CN110347974B (zh) 数据处理方法、装置、计算机设备和存储介质
CN109582303B (zh) 通用组件调用方法、装置、计算机设备及存储介质
CN110162720B (zh) 网页页面加载方法、装置、计算机设备及存储介质
CN111092877B (zh) 一种数据处理方法、装置、电子设备及存储介质
US20170034255A1 (en) Hybrid cloud communication system
CN110557284B (zh) 基于客户端网关的数据聚合方法及装置
US20140297809A1 (en) Apparatus and method for processing multiple open apis
CN109062925A (zh) 自动生成insert语句的方法、装置、计算机设备及存储介质
CN111831191A (zh) 工作流配置方法、装置、计算机设备和存储介质
CN109933534B (zh) 一种确定金融测试对象的方法及装置
CN112699040B (zh) 压力测试方法、装置、设备及计算机可读存储介质
CN110750443A (zh) 网页测试的方法、装置、计算机设备及存储介质
CN112860308A (zh) 接口定义的配置方法、业务处理方法、服务器及存储介质
CN112231379A (zh) 基于微服务架构的api审计方法、装置、设备及存储介质
CN108629050B (zh) 业务数据调整方法、装置、计算机设备及存储介质
CN110943876B (zh) Url状态检测方法、装置、设备和系统
CN112396480A (zh) 订单业务数据的处理方法、系统、计算机设备和存储介质
CN111901383A (zh) 数据请求处理方法、装置、计算机设备和存储介质
CN108108458B (zh) 基于域名共享人才资源数据的方法及装置
CN107784488B (zh) 一种松散耦合的业务流程管理系统
CN115858905A (zh) 数据处理的方法、装置、电子设备和存储介质
KR20200046316A (ko) 웹 어플리케이션 서버, 사용자 요청 처리 방법 및 통합 요청 처리 방법
CN112383434B (zh) 网络请求的接口模拟方法、装置、电子设备和存储介质
CN114760357A (zh) 一种请求处理方法、装置、计算机设备和存储介质
CN111126931B (zh) 基于数据处理的节点生成方法、装置和计算机设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20230601

Address after: 3801, Block C, Building 1, Anhongji Xingyao Plaza, No. 32 Huaxing Road, Henglang Community, Dalang Street, Longhua District, Shenzhen City, Guangdong Province, 518000

Applicant after: Shenzhen Dingwei Communication Co.,Ltd.

Address before: 400010 38 / F, 39 / F, unit 1, 99 Wuyi Road, Yuzhong District, Chongqing

Applicant before: CHONGQING FINANCIAL ASSETS EXCHANGE Co.,Ltd.

GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20231129

Address after: 3801, Block C, Building 1, Anhongji Xingyao Plaza, No. 32 Huaxing Road, Henglang Community, Dalang Street, Longhua District, Shenzhen City, Guangdong Province, 518000

Patentee after: Shenzhen Haoyichuang Technology Co.,Ltd.

Address before: 3801, Block C, Building 1, Anhongji Xingyao Plaza, No. 32 Huaxing Road, Henglang Community, Dalang Street, Longhua District, Shenzhen City, Guangdong Province, 518000

Patentee before: Shenzhen Dingwei Communication Co.,Ltd.