CN114547097A - 数据处理方法、装置、设备和存储介质 - Google Patents

数据处理方法、装置、设备和存储介质 Download PDF

Info

Publication number
CN114547097A
CN114547097A CN202210183838.3A CN202210183838A CN114547097A CN 114547097 A CN114547097 A CN 114547097A CN 202210183838 A CN202210183838 A CN 202210183838A CN 114547097 A CN114547097 A CN 114547097A
Authority
CN
China
Prior art keywords
statistical
data
target
result
evaluation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210183838.3A
Other languages
English (en)
Inventor
褚森
辛霞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Construction Bank Corp
CCB Finetech Co Ltd
Original Assignee
China Construction Bank Corp
CCB Finetech Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Construction Bank Corp, CCB Finetech Co Ltd filed Critical China Construction Bank Corp
Priority to CN202210183838.3A priority Critical patent/CN114547097A/zh
Publication of CN114547097A publication Critical patent/CN114547097A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/245Query processing
    • G06F16/2453Query optimisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/245Query processing
    • G06F16/2458Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
    • G06F16/2462Approximate or statistical queries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/248Presentation of query results
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/48Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806Task transfer initiation or dispatching
    • G06F9/4843Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • G06F9/4881Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
    • G06F9/4887Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues involving deadlines, e.g. rate based, periodic

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Probability & Statistics with Applications (AREA)
  • Fuzzy Systems (AREA)
  • Mathematical Physics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开提供了一种数据处理方法,可以应用于大数据技术领域。该方法包括:响应于触发第一定时任务,从资源共享中心中提取增量政务评价数据;响应于触发第二定时任务,基于与第二定时任务关联的统计指标和预设查询策略,对增量政务评价数据进行统计分析,得到统计结果;将统计结果存入与统计指标关联的结果表中;以及响应于针对目标统计指标的数据查询请求,从目标结果表中的统计结果中确定目标查询结果,其中,目标结果表与目标统计指标相关联。此外,本公开还提供了一种数据处理装置、设备和存储介质。

Description

数据处理方法、装置、设备和存储介质
技术领域
本公开涉及大数据技术领域,具体地,可应用于政务评价数据处理场景,更具体地,涉及一种数据处理方法、装置、设备、存储介质和程序产品。
背景技术
随着对服务评价的推广,群众对办理业务进行服务评价热情逐渐提升,政务评价数据的数量也逐渐增加。通过查询并分析政务评价数据,可以更好地提高政务服务。随着政务评价数据数量的上升,相关技术中实时查询政务评价数据的方法通常需要遍历大量的数据量,不仅降低了查询速度,还降低了分析的效率,实时查询政务评价数据的方法的已不再适用于查询含有大量评价数据的场景。
发明内容
有鉴于此,本公开提供了一种数据处理方法、装置、设备、一种存储介质和程序产品,可以有效提高数据查询的速度和数据分析的效率。
本公开的一个方面提供了一种数据处理方法,包括:响应于触发第一定时任务,从资源共享中心中提取增量政务评价数据;响应于触发第二定时任务,基于与上述第二定时任务关联的统计指标和预设查询策略,对上述增量政务评价数据进行统计分析,得到统计结果;将上述统计结果存入与上述统计指标关联的结果表中;以及响应于针对目标统计指标的数据查询请求,从目标结果表中的统计结果中确定目标查询结果,其中,上述目标结果表与上述目标统计指标相关联。
根据本公开的实施例,上述基于与上述第二定时任务关联的统计指标和预设查询策略,对上述增量政务评价数据进行统计分析,得到统计结果,包括:基于上述统计指标,从上述增量政务评价数据中确定待统计政务评价数据;基于上述第二定时任务的触发时间间隔和上述预设查询策略,将上述待统计政务评价数据切分为至少一个数据集合;对上述数据集合中的政务评价数据进行统计分析,得到上述数据集合的集合统计结果,其中,上述统计结果包括上述至少一个数据结合的集合统计结果。
根据本公开的实施例,集合统计结果包括至少一个统计变量;上述对上述数据集合中的政务评价数据进行统计分析,得到上述数据集合的集合统计结果,包括:在上述数据集合不为空的情况下,从上述数据集合中提取预设数量的政务评价数据;依次对于上述预设数量的政务评价数据,在上述政务评价数据与上述统计变量相对应的情况下,对上述统计变量进行累加;以及在上述数据集合为空的情况下,将上述至少一个统计变量的累加结果作为上述集合统计结果。
根据本公开的实施例,上述从资源共享中心中提取增量政务评价数据,包括:基于上述第一定时任务的触发时间间隔,确定第一目标时段;从上述资源共享中心中提取处于上述第一目标时段的数据,得到初始增量数据;以及采用预设数据转换策略处理上述初始增量数据,以得到上述增量政务评价数据。
根据本公开的实施例,上述处理方法还包括:将上述增量政务评价数据存入目标数据库中;其中,上述响应于触发第二定时任务,基于与上述第二定时任务关联的统计指标和预设查询策略,对上述增量政务评价数据进行统计分析,得到统计结果,包括:响应于触发上述第二定时任务,从上述目标数据库中获取上述增量政务评价数据;以及基于与上述第二定时任务关联的统计指标和上述预设查询策略,对上述增量政务评价数据进行统计分析,得到上述统计结果。
根据本公开的实施例,上述响应于针对目标统计指标的数据查询请求,从目标结果表中的统计结果中确定目标查询结果,包括:获取上述数据查询请求中携带的目标时段信息;基于上述目标时段信息,确定第二目标时段;以及从上述目标结果表的统计结果中提取与上述第二目标时段关联的统计结果,得到上述目标查询结果。
根据本公开的实施例,上述处理方法还包括:将上述目标查询结果发送至与上述数据查询请求的请求方关联的目标电子设备,以便于上述目标电子设备使用与上述目标统计指标对应的渲染规则,将上述目标查询结果渲染为网页元素,并将上述网页元素绘制在网页页面的预设位置上。
根据本公开的实施例,上述统计指标包括:评价数量、评价变化、评价处理情况、评价渠道、好差评对比和评价事项。
本公开的另一个方面提供了一种数据处理装置,包括:提取模块,用于响应于触发第一定时任务,从资源共享中心中提取增量政务评价数据;分析模块,用于响应于触发第二定时任务,基于与上述第二定时任务关联的统计指标和预设查询策略,对上述增量政务评价数据进行统计分析,得到统计结果;第一存入模块,用于将上述统计结果存入与上述统计指标关联的结果表中;以及确定模块,用于响应于针对目标统计指标的数据查询请求,从目标结果表中的统计结果中确定目标查询结果,其中,上述目标结果表与上述目标统计指标相关联。
本公开的另一方面提供了一种电子设备,包括:一个或多个处理器;存储器,用于存储一个或多个指令,其中,当上述一个或多个指令被上述一个或多个处理器执行时,使得上述一个或多个处理器实现上述数据处理方法。
本公开的另一方面提供了一种计算机可读存储介质,存储有计算机可执行指令,上述指令在被处理器执行时使处理器执行上述数据处理方法。
本公开的另一方面提供了一种计算机程序产品,上述计算机程序产品包括计算机可执行指令,上述指令在被执行时用于实现如上所述的方法。
根据本公开的实施例,通过响应于触发第一定时任务,获取增量政务评价数据,响应于触发第二定时任务时对增量数据进行统计分析,并将统计分析结果存入到结果表中;因为设置了第二定时任务,可以在后端系统的空闲时间对第一定时任务内获取的增量政务评价数据进行分析,当响应到查询请求时,可以直接从目标结果表中提取目标结果进行展示,所以至少部分地克服了在查询时需要遍历大量的数据、查询速度慢、分析效率低等技术问题,进而有效提高了数据查询的速度和数据分析的效率。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的可以应用数据处理方法和装置的示例性系统架构;
图2示意性示出了根据本公开实施例的数据处理方法流程图;
图3示意性示出了根据本公开实施例的数据集合中政务评价数据统计方法的流程图;
图4示意性示出了根据本公开实施例的数据处理装置的框图;以及
图5示意性示出了根据本公开实施例的适于实现数据处理方法的电子设备的框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、操作、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、操作、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
需要说明的是,本公开的数据处理方法、装置、设备、存储介质和程序产品可用于金融技术领域或大数据技术领域,也可用于除金融技术领域或大数据技术领域之外的任意领域,本公开对数据处理方法、装置、设备、存储介质和程序产品的应用领域不做限定。
在本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供、公开和应用等处理,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。在本公开的技术方案中,在获取或采集用户个人信息之前,均获取了用户的授权或同意。
附图中示出了一些方框图和/或流程图。应理解,方框图和/或流程图中的一些方框或其组合可以由计算机程序指令来实现。这些计算机程序指令可以提供给通用计算机、专用计算机或其他可编程控制装置的处理器,从而这些指令在由该处理器执行时可以创建用于实现这些方框图和/或流程图中所说明的功能/操作的装置。
因此,本公开的技术可以硬件和/或软件(包括固件、微代码等)的形式来实现。另外,本公开的技术可以采取存储有指令的计算机可读介质上的计算机程序产品的形式,该计算机程序产品可供指令执行系统使用或者结合指令执行系统使用。在本公开的上下文中,计算机可读介质可以是能够包含、存储、传送、传播或传输指令的任意介质。例如,计算机可读介质可以包括但不限于电、磁、光、电磁、红外或半导体系统、装置、器件或传播介质。计算机可读介质的具体示例包括:磁存储装置,如磁带或硬盘(HDD);光存储装置,如光盘(CD-ROM);存储器,如随机存取存储器(RAM)或闪存;和/或有线/无线通信链路。
随着对服务评价的推广,群众对办理业务进行服务评价热情逐渐提升,政务评价数据的数量也逐渐增加。通过查询并分析政务评价数据,可以更好地提高政务服务。随着政务评价数据数量的上升,相关技术中实时查询政务评价数据的方法通常需要遍历大量的数据量,不仅降低了查询速度,还降低了分析的效率,此外,对政务评价数据的统计,也只是简单的展示了政务评价数据的数量和简单的文字评价描述,不能客观地分析政务评价数据更深层的意义。因此,实时查询政务评价数据的方法的已不再适用于查询含有大量评价数据的场景。
有鉴于此,本公开的实施例提供了一种数据处理方法、装置、电子设备、存储介质和程序产品。该方法包括响应于触发第一定时任务,从资源共享中心中提取增量政务评价数据;响应于触发第二定时任务,基于与第二定时任务关联的统计指标和预设查询策略,对增量政务评价数据进行统计分析,得到统计结果;将统计结果存入与统计指标关联的结果表中;以及响应于针对目标统计指标的数据查询请求,从目标结果表中的统计结果中确定目标查询结果,其中,目标结果表与目标统计指标相关联。
图1示意性示出了根据本公开实施例的可以应用数据处理方法和装置的示例性系统架构。需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示,根据该实施例的系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线和/或无线通信链路等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端和/或社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是,本公开实施例所提供的数据处理方法一般可以由服务器105执行。相应地,本公开实施例所提供的数据处理装置一般可以设置于服务器105中。本公开实施例所提供的数据处理方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的数据处理装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。或者,本公开实施例所提供的数据处理方法也可以由终端设备101、102、或103执行,或者也可以由不同于终端设备101、102、或103的其他终端设备执行。相应地,本公开实施例所提供的数据处理装置也可以设置于终端设备101、102、或103中,或设置于不同于终端设备101、102、或103的其他终端设备中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
图2示意性示出了根据本公开实施例的数据处理方法的流程图。
如图2所示,该方法包括操作S201~S204。
需要说明的是,本公开实施例中的流程图所示的操作除非明确说明不同操作之间存在执行的先后顺序,或者不同操作在技术实现上存在执行的先后顺序,否则,多个操作之间的执行顺序可以不分先后,多个操作也可以同时执行。
在操作S201,响应于触发第一定时任务,从资源共享中心中提取增量政务评价数据。
在操作S202,响应于触发第二定时任务,基于与第二定时任务关联的统计指标和预设查询策略,对增量政务评价数据进行统计分析,得到统计结果。
在操作S203,将统计结果存入与统计指标关联的结果表中。
在操作S204,响应于针对目标统计指标的数据查询请求,从目标结果表中的统计结果中确定目标查询结果,其中,目标结果表与目标统计指标相关联。
根据本公开的实施例,第一定时任务、第二定时任务可以按照周期定时触发,例如,可以是以1天为周期,每一个统计指标的第二定时任务的触发时间可以均不相同;第一定时任务、第二定时任务还可以根据设置的政务评价数据量的阈值触发,每一个统计指标的触发第二定时任务的政务评价数据量的阈值可以均不相同。第一定时任务和第二定时任务还可以根据系统资源占用情况触发,在系统资源占用率低于阈值且持续一定时间的情况下可以依次触发第一定时任务和第二定时任务。第一定时任务的执行可以优于第二定时任务的执行。
根据本公开的实施例,资源共享中心可以包括用户政务评价的原始数据。统计指标可以包括:评价数量、评价变化、评价处理情况、评价渠道、好差评对比和评价事项。
根据本公开的实施例,预设查询策略可以包括预先设置的查询时间尺度,查询时间尺度的大小不作限定,例如,查询时间尺度可以设置为1天、1个小时、30分钟等。查询时间尺度的大小可以影响数据查询时可选择的最小时间单位,,例如,在预设查询策略中将查询时间尺度设置为1个小时的情况下,可以选择小时作为单位来查询统计指标的统计结果,比如可以查询指标A在a点到b点之间产生的政务评价数据的统计结果;或者,也可以查询指标A在c日到d日之间生成的政务评价数据的统计结果。再例如,在预设查询策略中将查询时间尺度设置为1天时,则不能够查询统计指标在某个小时内生成的政务评价数据的统计结果。
根据本公开的实施例,根据上述的方法,以统计指标为评价数量为例,对每个数据集合中政务评价数据进行统计可以得到评价率、好评率、按期整改率、整改完成率、区域评分等统计结果。影响这些统计结果的统计变量可以包括已办理业务总数、评价总数、3至5星的评价总数、整改完成总数、按期整改总数、对象集合、未评价总数等,统计结果和统计变量之间的关系可以如公式(1)~(5)所示。
评价率=评价总数/已办理业务总数 (1)
好评率=3至5星评价总数/评价总数 (2)
按期整改率=按期整改总数/整改完成总数 (3)
整改完成率=整改完成总数/差评总数 (4)
区域评分=(5星评价总数×a+4星评价总数×b+3星评价总数×c+1、2星总评价总数×d)/评价总数 (5)
其中,a可以代表与5星评价对应的评分值,b可以代表与4星评价对应的评分值,c可以代表与3星评价对应的评分值,d可以代表与1、2星评价对应的评分值,a、b、c、d之间可以是依次降低的关系。
根据本公开的实施例,通过响应于触发第一定时任务,获取增量政务评价数据,响应于触发第二定时任务时对增量数据进行统计分析,并将统计分析结果存入到结果表中;因为设置了第二定时任务,可以在后端系统的空闲时间对第一定时任务内获取的增量政务评价数据进行分析,当响应到查询请求时,可以直接从目标结果表中提取目标结果进行展示,所以至少部分地克服了在查询时需要遍历大量的数据、查询速度慢、分析效率低等技术问题,进而有效提高了数据查询的速度和数据分析的效率,查询速度可以达到毫秒级。
根据本公开的实施例,从资源共享中心提取增量政务评价数据,包括:基于第一定时任务的触发时间间隔,确定第一目标时段;从资源共享中心中提取处于第一目标时段的数据,得到初始增量数据;以及采用预设数据转换策略处理初始增量数据,以得到增量政务评价数据。
根据本公开的实施例,根据第一定时任务的触发时间间隔,确定第一目标时段,例如,当第一定时任务的触发时间间隔为1天时,第一目标时段可以是前一天,可以从资源共享中心可以提取前一天的数据,也可以从各个业务系统的数据库中提取前一天的评价数据。具体地,可以采用etl(Extract-Transform-Load,数据仓库技术)、sql(StructuredQuery Language,结构化查询语言)技术从资源共享中心或用户中心抽取相关数据,作为初始增量数据,并将初始增量数据同步到本地的系统数据库中,作为统计分析总量数据的基础。
根据本公开的实施例,预设数据转换策略可以包括数据清洗、数据转换、数据集成。数据清洗,可以过滤不完整的评价数据、错误的评价数据、重复的评价数据。数据转换,可以将格式等不一致的评价数据进行转换,以便转换后的评价数据一致,还可以转换评价数据的数据粒度,进行商务规则的计算,将计算后的评价数据存储在数据仓库中,以供分析使用。数据集成,可以将相互关联的数据源集成在一起,便于用户的查询和访问。etl可以将从资源共享中心提取的数据经过抽取、清洗转换之后加载到数据仓库,可以将分散、零乱、标准不统一的数据整合到一起,为政务评价数据的分析提供依据。
根据本公开的实施例,基于与第二定时任务关联的统计指标和预设查询策略,对增量政务评价数据进行统计分析,得到统计结果,包括:基于统计指标,从增量政务评价数据中确定待统计政务评价数据;基于第二定时任务的触发时间间隔和预设查询策略,将待统计政务评价数据切分为至少一个数据集合;对数据集合中的政务评价数据进行统计分析,得到数据集合的集合统计结果,其中,统计结果包括至少一个数据结合的集合统计结果。
根据本公开的实施例,基于第二定时任务的触发时间间隔和预设查询策略,可以将待统计政务评价数据按记录该数据的时刻划分为至少一个数据集合。
图3示意性示出了根据本公开实施例的数据集合中政务评价数据统计方法的流程图。
如图3所示,该方法包括操作S301~S304。
在操作S301,判断数据集合是否为空。在确定数据集合不为空的情况下,执行操作S302;在确定数据集合为空的情况下,执行操作S304。
在操作S302,从数据集合中提取预设数量的政务评价数据。
在操作S303,依次对于预设数量的政务评价数据,在政务评价数据与统计变量相对应的情况下,对统计变量进行累加。在完成操作S303后,返回执行操作S301。
在操作S304,将至少一个统计变量的累加结果作为集合统计结果。
根据本公开的实施例,从数据集合中提取预设数量的政务评价数据可以表示每次只提取一定数量的政务评价数据进行累加,例如,可以循环每次获取的1000条数据明细,然后遍历此次循环的1000条数据明细,在政务评价数据与统计变量相对应的情况下,对统计变量进行累加,这样可以防止系统的内存溢出。
根据本公开的实施例,数据处理方法还包括:将增量政务评价数据存入目标数据库中;其中,响应于触发第二定时任务,基于与第二定时任务关联的统计指标和预设查询策略,对增量政务评价数据进行统计分析,得到统计结果,包括:响应于触发第二定时任务,从目标数据库中获取增量政务评价数据;以及基于与第二定时任务关联的统计指标和预设查询策略,对增量政务评价数据进行统计分析,得到统计结果。
根据本公开的实施例,响应于针对目标统计指标的数据查询请求,从目标结果表中的统计结果中确定目标查询结果,包括:获取数据查询请求中携带的目标时段信息;基于目标时段信息,确定第二目标时段;以及从目标结果表的统计结果中提取与第二目标时段关联的统计结果,得到目标查询结果。
根据本公开的实施例,在查询评价数量时可以根据传入的目标时段信息和相关区划参数,分组聚合查询出对应的评价数量。在查询评价变化时,可以按照区划和部门参数,与结果表和区划机构表进行关联,查询结果表中该目标时段内的数据,并进行相应累加,再将累加结果返回前端,可以支持导出excel及分页查询。
根据本公开的实施例,在查询评价处理情况时,可以通过处理业务的编号关联业务和评价数据,业务数据包含处理业务的部门、评价人等;通过评价的流水号关联评价与差评的处理数据,筛选出与差评相关的政务评价数据,按照以评价时间为统计周期存入结果表。在前端传入相关参数,后端查询目标结果表后返回json(JavaScript ObjectNotation,对象简谱)数据,页面解析json并渲染,支持导出excel及分页查询。
根据本公开的实施例,在查询评价渠道时,可以查询目标时间段内所有新增评价数据和区划表的所有区划数据,以所有区划为基础集合,遍历政务评价数据,根据每条数据的区划、部门、评价渠道、评价时间信息,累加到集合的成员变量中。将遍历结束后的结果存入渠道统计结果表。
根据本公开的实施例,在查询好差评对比时,在数据库中通过区划编码关联区划与评价数据,1、2星可以表示差评数据,3星到5星可以表示好评数据,按照评价时间聚合查询出目标时间段的数据,并存入到结果表中保存。前端查询时直接读取结果表数据,按照区划累加计算并展示。
根据本公开的实施例,在查询评价事项时,在数据库中通过区划编码、机构编码关联区划、机构与评价数据,按照评价时间聚合查询出目标时间段内的数据,每个星级数量单独设置变量计算,记录事项和所属机构名称。并存入事项统计结果表。前端查询时可以根据传入区划、部门、统计周期分组聚合查询结果表数据并展示到页面。
根据本公开的实施例,处理方法还包括:将目标查询结果发送至与数据查询请求的请求方关联的目标电子设备,以便于目标电子设备使用与目标统计指标对应的渲染规则,将目标查询结果渲染为网页元素,并将网页元素绘制在网页页面的预设位置上。
根据本公开的实施例,图表展示时统计指标例如可以选择评价数量、主动评价率或整改率等变量分别展示。可以以评价数量指标为例,在构建柱状图时,左侧y轴为评价数量,对应柱形图,右侧y轴为好评率对应折线,x轴可以为各地市。前端根据接口返回的结果数据进行计算:遍历各区划集合当前选择指标地市数量最大值并除以十分之九,得出的结果保留前两位,四舍五入得出左侧y轴刻度最大值。如果此指标区划数量最大值大于刻度最大值十分之九则将刻度六等分,若最大值小于等于刻度最大值十分之九,则将刻度五等分。其他区划数量按照刻度最大值,按比例计算高度,1至5星评价数量和本区划数量占比可以确定各星级高度。右侧y轴固定刻度10等分,各区划数量按比例描点即可,最后渲染到页面展示。
图4示意性示出了根据本公开的实施例的数据处理装置的框图。
如图4所示,数据处理装置提取模块410、分析模块420、第一存入模块430、和确定模块440。
提取模块410用于响应于触发第一定时任务,从资源共享中心中提取增量政务评价数据。
分析模块420用于响应于触发第二定时任务,基于与第二定时任务关联的统计指标和预设查询策略,对增量政务评价数据进行统计分析,得到统计结果。
第一存入模块430用于将统计结果存入与统计指标关联的结果表中。
确定模块440用于响应于针对目标统计指标的数据查询请求,从目标结果表中的统计结果中确定目标查询结果,其中,目标结果表与目标统计指标相关联。
根据本公开的实施例,通过响应于触发第一定时任务,获取增量政务评价数据,响应于触发第二定时任务时对增量数据进行统计分析,并将统计分析结果存入到结果表中;因为设置了第二定时任务,可以在后端系统的空闲时间对第一定时任务内获取的增量政务评价数据进行分析,当响应到查询请求时,可以直接从目标结果表中提取目标结果进行展示,所以至少部分地克服了在查询时需要遍历大量的数据、查询速度慢、分析效率低等技术问题,进而有效提高了数据查询的速度和数据分析的效率。
根据本公开的实施例,分析模块420还可以包括第一确定单元、切分单元、第一分析单元。
第一确定单元用于基于统计指标,从增量政务评价数据中确定待统计政务评价数据。
切分单元用于基于第二定时任务的触发时间间隔和预设查询策略,将待统计政务评价数据切分为至少一个数据集合。
第一分析单元用于对数据集合中的政务评价数据进行统计分析,得到数据集合的集合统计结果,其中,统计结果包括至少一个数据结合的集合统计结果。
根据本公开的实施例,分析单元还可以包括提取子单元、累加子单元、结果子单元。
提取子单元用于在数据集合不为空的情况下,从数据集合中提取预设数量的政务评价数据。
累加子单元用于依次对于预设数量的政务评价数据,在政务评价数据与统计变量相对应的情况下,对统计变量进行累加。
结果子单元用于在数据集合为空的情况下,将至少一个统计变量的累加结果作为集合统计结果。
根据本公开的实施例,提取模块410还包括第二确定单元、第一提取单元、处理单元。
第二确定单元用于基于第一定时任务的触发时间间隔,确定第一目标时段。
第一提取单元用于从资源共享中心中提取处于第一目标时段的数据,得到初始增量数据。
处理单元用于采用预设数据转换策略处理初始增量数据,以得到增量政务评价数据。
根据本公开的实施例,数据处理装置还包括第二存入模块。
第二存入模块用于将增量政务评价数据存入目标数据库中。
根据本公开的实施例,分析模块420还可以包括第一获取单元、第二分析单元。
第一获取单元用于响应于触发第二定时任务,从目标数据库中获取增量政务评价数据。
第二分析单元用于基于与第二定时任务关联的统计指标和预设查询策略,对增量政务评价数据进行统计分析,得到统计结果。
根据本公开的实施例,确定模块440还包括第二获取单元、第三确定单元、第二提取单元。
第二获取单元用于获取数据查询请求中携带的目标时段信息。
第三确定单元用于基于目标时段信息,确定第二目标时段。
第二提取单元从目标结果表的统计结果中提取与第二目标时段关联的统计结果,得到目标查询结果。
根据本公开的实施例,数据处理装置还可以包括发送模块。
发送模块用于将目标查询结果发送至与数据查询请求的请求方关联的目标电子设备,以便于目标电子设备使用与目标统计指标对应的渲染规则,将目标查询结果渲染为网页元素,并将网页元素绘制在网页页面的预设位置上。
根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
例如,提取模块410、分析模块420、第一存入模块430、和确定模块440中的任意多个可以合并在一个模块/单元/子单元中实现,或者其中的任意一个模块/单元/子单元可以被拆分成多个模块/单元/子单元。或者,这些模块/单元/子单元中的一个或多个模块/单元/子单元的至少部分功能可以与其他模块/单元/子单元的至少部分功能相结合,并在一个模块/单元/子单元中实现。根据本公开的实施例,提取模块310、分析模块420、第一存入模块430、和确定模块440中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、町编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,提取模块410、分析模块420、第一存入模块430、和确定模块440中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
需要说明的是,本公开的实施例中数据处理装置部分与本公开的实施例中数据处理方法部分是相对应的,数据处理装置部分的描述具体参考数据处理方法部分,在此不再赘述。
图5示意性示出了根据本公开实施例的适于实现数据处理方法的电子设备的框图。图5示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图5所示,根据本公开实施例的计算机电子设备500包括处理器501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储部分508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。处理器501例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC)),等等。处理器501还可以包括用于缓存用途的板载存储器。处理器501可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 503中,存储有电子设备500操作所需的各种程序和数据。处理器501、ROM502以及RAM 503通过总线504彼此相连。处理器501通过执行ROM 502和/或RAM 503中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 502和RAM 503以外的一个或多个存储器中。处理器501也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,电子设备500还可以包括输入/输出(I/O)接口505,输入/输出(I/O)接口505也连接至总线504。电子设备500还可以包括连接至I/O接口505的以下部件中的一项或多项:包括键盘、鼠标等的输入部分506;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分507;包括硬盘等的存储部分508;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器510上,以便于从其上读出的计算机程序根据需要被安装入存储部分508。
根据本公开的实施例,根据本公开实施例的方法流程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读存储介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分509从网络上被下载和安装,和/或从可拆卸介质511被安装。在该计算机程序被处理器501执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质。例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 502和/或RAM503和/或ROM 502和RAM 503以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行本公开实施例所提供的方法的程序代码,当计算机程序产品在电子设备上运行时,该程序代码用于使电子设备实现本公开实施例所提供的数据处理方法。
在该计算机程序被处理器501执行时,执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分509被下载和安装,和/或从可拆卸介质511被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。

Claims (12)

1.一种数据处理方法,包括:
响应于触发第一定时任务,从资源共享中心中提取增量政务评价数据;
响应于触发第二定时任务,基于与所述第二定时任务关联的统计指标和预设查询策略,对所述增量政务评价数据进行统计分析,得到统计结果;
将所述统计结果存入与所述统计指标关联的结果表中;以及
响应于针对目标统计指标的数据查询请求,从目标结果表中的统计结果中确定目标查询结果,其中,所述目标结果表与所述目标统计指标相关联。
2.根据权利要求1所述的方法,其中,所述基于与所述第二定时任务关联的统计指标和预设查询策略,对所述增量政务评价数据进行统计分析,得到统计结果,包括:
基于所述统计指标,从所述增量政务评价数据中确定待统计政务评价数据;
基于所述第二定时任务的触发时间间隔和所述预设查询策略,将所述待统计政务评价数据切分为至少一个数据集合;
对所述数据集合中的政务评价数据进行统计分析,得到所述数据集合的集合统计结果,其中,所述统计结果包括所述至少一个数据结合的集合统计结果。
3.根据权利要求2所述的方法,其中,集合统计结果包括至少一个统计变量;
所述对所述数据集合中的政务评价数据进行统计分析,得到所述数据集合的集合统计结果,包括:
在所述数据集合不为空的情况下,从所述数据集合中提取预设数量的政务评价数据;
依次对于所述预设数量的政务评价数据,在所述政务评价数据与所述统计变量相对应的情况下,对所述统计变量进行累加;以及
在所述数据集合为空的情况下,将所述至少一个统计变量的累加结果作为所述集合统计结果。
4.根据权利要求1所述的方法,其中,所述从资源共享中心中提取增量政务评价数据,包括:
基于所述第一定时任务的触发时间间隔,确定第一目标时段;
从所述资源共享中心中提取处于所述第一目标时段的数据,得到初始增量数据;以及
采用预设数据转换策略处理所述初始增量数据,以得到所述增量政务评价数据。
5.根据权利要求1所述的方法,还包括:
将所述增量政务评价数据存入目标数据库中;
其中,所述响应于触发第二定时任务,基于与所述第二定时任务关联的统计指标和预设查询策略,对所述增量政务评价数据进行统计分析,得到统计结果,包括:
响应于触发所述第二定时任务,从所述目标数据库中获取所述增量政务评价数据;以及
基于与所述第二定时任务关联的统计指标和所述预设查询策略,对所述增量政务评价数据进行统计分析,得到所述统计结果。
6.根据权利要求1所述的方法,其中,所述响应于针对目标统计指标的数据查询请求,从目标结果表中的统计结果中确定目标查询结果,包括:
获取所述数据查询请求中携带的目标时段信息;
基于所述目标时段信息,确定第二目标时段;以及
从所述目标结果表的统计结果中提取与所述第二目标时段关联的统计结果,得到所述目标查询结果。
7.根据权利要求1所述的方法,还包括:
将所述目标查询结果发送至与所述数据查询请求的请求方关联的目标电子设备,以便于所述目标电子设备使用与所述目标统计指标对应的渲染规则,将所述目标查询结果渲染为网页元素,并将所述网页元素绘制在网页页面的预设位置上。
8.根据权利要求1所述的方法,其中,所述统计指标包括:评价数量、评价变化、评价处理情况、评价渠道、好差评对比和评价事项。
9.一种数据处理装置,包括:
提取模块,用于响应于触发第一定时任务,从资源共享中心中提取增量政务评价数据;
分析模块,用于响应于触发第二定时任务,基于与所述第二定时任务关联的统计指标和预设查询策略,对所述增量政务评价数据进行统计分析,得到统计结果;
第一存入模块,用于将所述统计结果存入与所述统计指标关联的结果表中;以及
确定模块,用于响应于针对目标统计指标的数据查询请求,从目标结果表中的统计结果中确定目标查询结果,其中,所述目标结果表与所述目标统计指标相关联。
10.一种电子设备,包括:
一个或多个处理器;
存储器,用于存储一个或多个指令,
其中,当所述一个或多个指令被所述一个或多个处理器执行时,使得所述一个或多个处理器实现权利要求1至8中任一项所述的方法。
11.一种计算机可读存储介质,其上存储有可执行指令,所述可执行指令被处理器执行时使处理器实现权利要求1至8中任一项所述的方法。
12.一种计算机程序产品,所述计算机程序产品包括计算机可执行指令,所述计算机可执行指令在被执行时用于实现权利要求1至8中任一项所述的方法。
CN202210183838.3A 2022-02-25 2022-02-25 数据处理方法、装置、设备和存储介质 Pending CN114547097A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210183838.3A CN114547097A (zh) 2022-02-25 2022-02-25 数据处理方法、装置、设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210183838.3A CN114547097A (zh) 2022-02-25 2022-02-25 数据处理方法、装置、设备和存储介质

Publications (1)

Publication Number Publication Date
CN114547097A true CN114547097A (zh) 2022-05-27

Family

ID=81679336

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210183838.3A Pending CN114547097A (zh) 2022-02-25 2022-02-25 数据处理方法、装置、设备和存储介质

Country Status (1)

Country Link
CN (1) CN114547097A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115455088A (zh) * 2022-10-24 2022-12-09 建信金融科技有限责任公司 数据统计方法、装置、设备及存储介质
CN116974708A (zh) * 2023-09-25 2023-10-31 北京众图识人科技有限公司 业务数据处理系统

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115455088A (zh) * 2022-10-24 2022-12-09 建信金融科技有限责任公司 数据统计方法、装置、设备及存储介质
CN116974708A (zh) * 2023-09-25 2023-10-31 北京众图识人科技有限公司 业务数据处理系统

Similar Documents

Publication Publication Date Title
US10948526B2 (en) Non-parametric statistical behavioral identification ecosystem for electricity fraud detection
US11789805B2 (en) Detecting, diagnosing, and alerting anomalies in network applications
CA3064137A1 (en) Method and device for recommending information
US20150278813A1 (en) Determining a temporary transaction limit
US20150161652A1 (en) Methods and systems for displaying attribution credit data based on parameters
CN103620601A (zh) 在映射缩减过程中汇合表
CN114547097A (zh) 数据处理方法、装置、设备和存储介质
CN111127051B (zh) 多渠道动态归因方法、装置、服务器及存储介质
CN103530292A (zh) 网页显示方法和装置
CN110866040A (zh) 用户画像生成方法、装置和系统
CN107291835B (zh) 一种搜索词的推荐方法和装置
CN108648006B (zh) 店铺推荐方法及装置
US11308044B2 (en) Rule based decisioning on metadata layers
CN103248639A (zh) 一种用于确定信息传播能力的方法及系统
CN109189810B (zh) 查询方法、装置、电子设备及计算机可读存储介质
CN116881277A (zh) 数据聚合方法、设备及计算机可读介质
CN110737691B (zh) 用于处理访问行为数据的方法和装置
CN114218283A (zh) 异常检测方法、装置、设备、介质
CN110020166A (zh) 一种数据分析方法及相关设备
CN111125514B (zh) 用户行为分析的方法、装置、电子设备和存储介质
CN113934894A (zh) 基于指标树的数据显示方法、终端设备
CN115080835A (zh) 信息推荐方法、装置、用户端及设备
CN112184370A (zh) 一种推送产品的方法和装置
CN113177173B (zh) 一种数据访问方法、装置、设备及存储介质
CN114168825A (zh) 数据推送方法、装置、电子设备及可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination