CN115545934A - 数据处理方法和装置 - Google Patents

数据处理方法和装置 Download PDF

Info

Publication number
CN115545934A
CN115545934A CN202211393173.5A CN202211393173A CN115545934A CN 115545934 A CN115545934 A CN 115545934A CN 202211393173 A CN202211393173 A CN 202211393173A CN 115545934 A CN115545934 A CN 115545934A
Authority
CN
China
Prior art keywords
determining
index
target object
verification
condition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202211393173.5A
Other languages
English (en)
Inventor
谢钦
智雯
王娟
黄鹤
陆九愚
郭昱彤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Construction Bank Corp
CCB Finetech Co Ltd
Original Assignee
China Construction Bank Corp
CCB Finetech Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Construction Bank Corp, CCB Finetech Co Ltd filed Critical China Construction Bank Corp
Priority to CN202211393173.5A priority Critical patent/CN115545934A/zh
Publication of CN115545934A publication Critical patent/CN115545934A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q40/00Finance; Insurance; Tax strategies; Processing of corporate or income taxes
    • G06Q40/04Trading; Exchange, e.g. stocks, commodities, derivatives or currency exchange
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/279Recognition of textual entities
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q40/00Finance; Insurance; Tax strategies; Processing of corporate or income taxes
    • G06Q40/06Asset management; Financial planning or analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • G06Q50/18Legal services

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Finance (AREA)
  • Accounting & Taxation (AREA)
  • General Physics & Mathematics (AREA)
  • General Business, Economics & Management (AREA)
  • Economics (AREA)
  • Technology Law (AREA)
  • Strategic Management (AREA)
  • Development Economics (AREA)
  • Marketing (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Tourism & Hospitality (AREA)
  • Human Resources & Organizations (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Primary Health Care (AREA)
  • Game Theory and Decision Science (AREA)
  • Operations Research (AREA)
  • Artificial Intelligence (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • General Engineering & Computer Science (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种数据处理方法和装置,涉及大数据数据分析技术领域。该方法的一具体实施方式包括:接收数据处理请求,确定所述数据处理请求对应的目标对象及业务类型;获取所述业务类型对应的数据源及至少一个衡量指标;从所述数据源中,定位所述目标对象的描述语句;调用各所述衡量指标对应的提取组件,从所述描述语句中提取出各所述衡量指标的取值;根据所述衡量指标的取值,确定所述数据处理请求对应的处理信息,以及根据所述处理信息,对所述目标对象进行业务数据处理。该实施方式能够减少代码间的重复性及耦合度,有利于信息系统的升级及运维。

Description

数据处理方法和装置
技术领域
本发明大数据数据分析技术领域,尤其涉及一种数据处理方法和装置。
背景技术
信息系统经常要汇聚多数据源的数据,再根据业务需求,对各种数据进行数据处理,以配合相关工作人员完成具体的工作流程。数据处理是信息系统中的非常重要的工作任务。针对不同的业务场景,数据处理的方式也不尽相同。一般需要按照业务需求,编写不同的数据处理程序,来进行不同功能的数据处理。这种数据处理方式会使代码间的重复性高且耦合度大,不利于信息系统的升级及运维。
发明内容
有鉴于此,本发明实施例提供一种数据处理方法和装置,能够减少代码间的重复性及耦合度,有利于信息系统的升级及运维。
第一方面,本发明实施例提供了一种数据处理方法,包括:
接收数据处理请求,确定所述数据处理请求对应的目标对象及业务类型;
获取所述业务类型对应的数据源及至少一个衡量指标;
从所述数据源中,定位所述目标对象的描述语句;
调用各所述衡量指标对应的提取组件,从所述描述语句中提取出各所述衡量指标的取值;
根据所述衡量指标的取值,确定所述数据处理请求对应的处理信息,以及根据所述处理信息,对所述目标对象进行业务数据处理。
可选地,所述调用各所述衡量指标对应的提取组件,从所述描述语句中提取出各所述衡量指标的取值,包括:
对所述描述语句进行分词处理,得到所述描述语句的多个分词;
调用所述衡量指标对应的提取组件,从所述多个分词中,确定出与所述衡量指标对应的提取信息相匹配的目标分词,将所述目标分词作为所述衡量指标的取值。
可选地,所述根据所述衡量指标的取值,确定所述数据处理请求对应的处理信息,包括:
确定所述业务类型对应的至少一个校验信息;
利用所述衡量指标的取值,确定所述目标对象与各所述校验信息的匹配结果;
根据所述目标对象与各所述校验信息的匹配结果,确定所述数据处理请求对应的处理信息。
可选地,所述利用所述衡量指标的取值,确定所述目标对象与各所述校验信息的匹配结果,包括:
确定所述校验信息对应的至少一个验证条件;
利用所述衡量指标的取值,确定各所述验证条件对所述目标对象的验证结果;
根据各所述验证条件对应的验证结果,确定所述目标对象与所述校验信息的匹配结果。
可选地,所述至少一个验证条件中包括:第一类条件,所述第一类条件对应于单个衡量指标;
所述利用所述衡量指标的取值,确定各所述验证条件对所述目标对象的验证结果,包括:
从所述至少一个衡量指标中,确定出所述第一类条件对应的目标指标;
确定所述第一类条件对应的指标参数及参数操作;
根据所述目标指标的取值、所述指标参数及所述参数操作,确定所述第一类条件对所述目标对象的验证结果。
可选地,所述至少一个验证条件中包括:第二类条件,所述第二类条件对应于多个衡量指标;
所述利用所述衡量指标的取值,确定各所述验证条件对所述目标对象的验证结果,包括:
从所述至少一个衡量指标中,确定出所述第二类条件对应的多个目标指标;
针对各所述目标指标,确定所述第二类条件对应所述目标指标的指标参数及参数操作;根据所述目标指标的取值、所述指标参数及所述参数操作,确定所述目标指标对应的验证结果;
根据各所述目标指标对应的验证结果,确定所述第二类条件对所述目标对象的验证结果。
可选地,所述根据各所述目标指标对应的验证结果,确定所述第二类条件对所述目标对象的验证结果,包括:
确定所述第二类条件对应的组合信息;
根据所述组合信息,组合各所述目标指标对应的验证结果,生成所述第二类条件对应的规则表达式;
确定所述规则表达式的计算结果,将所述计算结果确定为所述第二类条件对所述目标对象的验证结果。
可选地,所述根据所述处理信息,对所述目标对象进行业务数据处理,包括:
确定所述处理信息对应的目标表、目标字段及处理方式;
以所述处理方式,对所述目标对象对应于所述目标表中的所述目标字段的数据进行处理。
第二方面,本发明实施例提供了一种数据处理装置,包括:
请求接收模块,用于接收数据处理请求,确定所述数据处理请求对应的目标对象及业务类型;
指标获取模块,用于获取所述业务类型对应的数据源及至少一个衡量指标;
语句定位模块,用于从所述数据源中,定位所述目标对象的描述语句;
取值提取模块,用于调用各所述衡量指标对应的提取组件,从所述描述语句中提取出各所述衡量指标的取值;
处理模块,用于根据所述衡量指标的取值,确定所述数据处理请求对应的处理信息,以及根据所述处理信息,对所述目标对象进行业务数据处理。
可选地,所述取值提取模块具体用于:
对所述描述语句进行分词处理,得到所述描述语句的多个分词;
调用所述衡量指标对应的提取组件,从所述多个分词中,确定出与所述衡量指标对应的提取信息相匹配的目标分词,将所述目标分词作为所述衡量指标的取值。
可选地,所述处理模块具体用于:
确定所述业务类型对应的至少一个校验信息;
利用所述衡量指标的取值,确定所述目标对象与各所述校验信息的匹配结果;
根据所述目标对象与各所述校验信息的匹配结果,确定所述数据处理请求对应目标对象的处理信息。
可选地,所述处理模块具体用于:
确定所述校验信息对应的至少一个验证条件;
利用所述衡量指标的取值,确定各所述验证条件对所述目标对象的验证结果;
根据各所述验证条件对应的验证结果,确定所述目标对象与所述校验信息的匹配结果。
第三方面,本发明实施例提供了一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现上述任一实施例所述的方法。
第四方面,本发明实施例提供了一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现上述任一实施例所述的方法。
第五方面,本发明实施例提供了一种计算机程序产品,包括计算机程序,所述程序被处理器执行时实现上述任一实施例所述的方法。
上述发明中的一个实施例具有如下优点或有益效果:在接收到数据处理请求时,确定数据处理请求对应的目标对象及业务类型,根据目标对象及业务类型,确定数据处理请求对应的处理信息,完成数据处理请求对应的数据处理。系统可直接利用处理信息进行数据处理,也可调用处理信息对应的数据处理程序进行数据处理。多种业务需求都可共用同一处理信息,无需分别编写不同业务需求对应的数据处理程序,能够减少代码间的重复性及耦合度,有利于信息系统的升级及运维。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
图1是本发明第一实施例提供的一种数据处理方法的流程示意图;
图2是本发明第二实施例提供的一种数据处理方法的流程示意图;
图3是本发明第三实施例提供的一种数据处理方法的流程示意图;
图4是本发明的实施例提供的一种数据处理装置的结构示意图;
图5是适于用来实现本发明实施例的终端设备或服务器的计算机系统的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
需要说明的是,本发明的技术方案中,所涉及的用户个人信息的采集、分析、使用、传输、存储等方面,均符合相关法律法规的规定,被用于合法且合理的用途,不在这些合法使用等方面之外共享、泄露或出售,并且接受监管部门的监督管理。应当对用户个人信息采取必要措施,以防止对此类个人信息数据的非法访问,确保有权访问个人信息数据的人员遵守相关法律法规的规定,确保用户个人信息安全。一旦不再需要这些用户个人信息数据,应当通过限制甚至禁止数据收集和/或删除数据的方式将风险降至最低。
图1是本发明第一实施例提供的一种数据处理方法的流程示意图,如图1所示,该方法包括:
步骤101:接收数据处理请求,确定数据处理请求对应的目标对象及业务类型。
目标对象可以根据业务需求及应用场景来设定。目标对象可以为:用户、公司、物品、金融产品等。例如,需要筛选或处理的数据为用户数据,则可将用户作为目标对象。需要筛选或处理的数据为目标区域的用户数据,则可将目标区域的用户作为目标对象。需要筛选或处理的数据为物品数据,则将物品作为目标对象。需要筛选或处理的数据为纺织物品数据,则将纺织物品作为目标对象。
业务类型可以根据业务需求及应用场景来设定。例如,目标对象为用户,业务类型可以为增加用户级别、修改用户权限等。目标对象为物品,业务类型可以为修改物品的价值属性,修改物品库存量等。
步骤102:获取业务类型对应的数据源及至少一个衡量指标;从数据源中,定位目标对象的描述语句。
描述语句为用于描述目标对象信息的语句。描述语句可以具有固定格式的,即描述语句可以由固定字段组成。如固定字段为标识、产地、重量、库存,则描述语句可以为:001-北京-50-1000。描述语句也可以不具有固定格式,这类描述语句可以从合同或网页等数据源处获取得到。
衡量指标可以根据业务需求及应用场景来设定。衡量指标用于描述目标对象的参数,比如销售单价、点击量、曝光量、购买人次、产品种类等。下文对销售单价这种可定量的指标统一称为范围类指标,产品种类这种可分类的指标统一称为集合类指标。
可在系统中预设业务类型与衡量指标的映射关系,并根据业务类型与衡量指标的映射关系,获取业务类型对应的衡量指标。
也可在系统中预设业务类型与数据源的映射关系,并根据业务类型与数据源的映射关系,获取业务类型对应的数据源。数据源可包括:文件路径、文件名称、网络链接、数据库名、表名等。
定位目标对象的描述语句的方式有很多种。例如,可通过数据源对应的文件路径或网络链接直接获取到描述文本,并将描述文本中的内容作为描述语句。也可从数据源对应的数据库的表中获取到描述语句等。
在数据源为文件路径,且该文件路径下存在多个文本的情况下,根据目标对象的对象信息,确定文本名称,再将文件路径下具有该文本名称的文本,作为目标对象的描述文本,并将描述文本中的内容作为描述语句。如将各类合同都存储在同一路径下,合同名称对应于目标对象编号,则可将数据源设置为该路径,通过对象编号,确定到目标对象对应的合同文本,从合同文本中定位目标对象的描述语句。
步骤103:调用各衡量指标对应的提取组件,从描述语句中提取出各衡量指标的取值。
描述语句包含不同的字段,字段对应于不同的衡量指标。字段可分为描述性、范围类、集合类。描述性的字段通常为文本性质,非格式化的。对于范围类、集合类的字段,可以按照其业务意义,对应到具体的衡量指标。
可以解析描述语句,得到解析结果。提取信息包括:解析结果与字段的对应关系。利用解析结果,生成面向对象语言中的事实对象,再通过字段取值的方式,确定衡量指标的取值。
在本发明的一个实施例中,还可以用下述方式,对描述语句进行分词处理,得到描述语句的多个分词;调用衡量指标对应的提取组件,从多个分词中,确定出与衡量指标对应的提取信息相匹配的目标分词,将目标分词作为衡量指标的取值。
提取组件中可包括衡量指标及提取规则的对应关系。提取规则可以采用正则表达式的形式。利用提取组件,从描述语句的多个分词中,匹配出衡量指标的取值。
例如:衡量指标为身份证号码,提取规则可以为:"^[1-9]\\d{5}(18|19|20|21)\\d{2}((0[1-9])|(10|11|12))(([0-2][1-9])|10|20|30|31)\\d{3}[0-9Xx]$",则提取组件通过上述提取规则,从多个分词中确定目标分词,作为身份证号码的取值。
步骤104:根据衡量指标的取值,确定数据处理请求对应的处理信息,以及根据处理信息,对目标对象进行业务数据处理。
可通过如下方式,确定数据处理请求对应的处理信息:确定业务类型对应的至少一个校验信息;利用衡量指标的取值,确定目标对象与各校验信息的匹配结果;根据目标对象与各校验信息的匹配结果,确定数据处理请求对应的处理信息。
校验信息可以根据业务需求及应用场景来设定。校验信息可包含验证条件、动作及编排相关的属性。编排相关的属性包括:是否独占、是否可重复、优先级等属性等。
为方便校验信息的应用管理,可设置校验信息集。校验信息集中包含一组校验信息,可使用键值对的形式保存校验信息集中的各校验信息。
校验信息可基于一个或多个衡量指标创建,利用各衡量指标的取值,确定校验信息的取值。具体地,如果校验信息的取值为真或1,则目标对象与校验信息的匹配结果为真或1。如果校验信息的取值为假或0,则目标对象与校验信息的匹配结果为假或0。
通常构建完校验信息后,还需要搭建一个规则引擎,去执行校验信息,规则引擎包括一个上下文、规则执行器。上下文可包括事实对象、接受校验信息、拒绝校验信息、接受结果、结束控制及一些上下文的变量。
步骤104:根据衡量指标的取值,确定数据处理请求对应的处理信息,以及根据处理信息,对目标对象进行业务数据处理。
处理信息可根据业务需求及应用场景来设定。通过处理信息可对目标对象的目标字段进行求和、求均值、求最大值、求最小值等处理。通过处理信息也可将目标对象的目标字段修改为目标值。处理信息还可用于选择出与各校验信息的匹配结果均为真的所有目标对象等。
在本发明的一个实施例中,处理信息包括:目标表、目标字段及处理方式。根据处理信息,对目标对象进行业务数据处理,包括:确定处理信息对应的目标表、目标字段及处理方式;以处理方式,对目标对象对应于目标表的目标字段的数据进行处理。
处理方式可为:求和、求均值、求最大值、求最小值、乘相关系数等。处理方式也可包括:目标值等,从而通过处理方式,将目标对象的目标字段修改为目标值。具体地,根据目标对象的对象信息,从目标表中获取到目标记录,将目标记录的目标字段的数据以该处理方式进行处理。对象信息可包括:对象标识、对象属性值等。
在本发明实施例中,在接收到数据处理请求时,确定数据处理请求对应的目标对象及业务类型,根据目标对象及业务类型,确定数据处理请求对应的处理信息,完成数据处理请求对应的数据处理。多种业务需求都可共用同一处理信息,无需分别编写不同业务需求对应的数据处理程序,能够减少代码间的重复性及耦合度,有利于信息系统的升级及运维。
图2是本发明第二实施例提供的一种数据处理方法的流程示意图,如图2所示,该方法包括:
步骤201:接收数据处理请求,确定数据处理请求对应的目标对象及业务类型。
步骤202:获取业务类型对应的数据源及至少一个衡量指标;从数据源中,定位目标对象的描述语句。
步骤203:调用各衡量指标对应的提取组件,从描述语句中提取出各衡量指标的取值。
步骤204:确定业务类型对应的至少一个校验信息,确定各校验信息对应的至少一个验证条件。
验证条件可根据业务需求及应用场景来设定。验证条件可基于一个或多个衡量指标创建。
步骤205:利用衡量指标的取值,确定各验证条件对目标对象的验证结果。
针对每一衡量指标,验证条件对应有指标参数及参数操作。指标参数是针对某个衡量指标,预设的参数值。指标参数可以为一个集合,也可以为一个数值范围。针对范围类指标,参数操作包括:属于、大于、大于等于、小于、小于等于、等于等操作。针对集合类指标,参数操作包括:等价于、包含于、不包含于等操作。验证条件用于利用预设的指标参数及参数操作,对目标对象的相关数据进行校验,并返回布尔结果。
步骤206:根据各验证条件对应的验证结果,确定目标对象与校验信息的匹配结果。
可根据预设的匹配规则,确定目标对象与校验信息的匹配结果。例如,校验信息中所有验证条件对应的验证结果均为真,则确定目标对象与校验信息的匹配结果为真。或者,只要存在验证条件对应的验证结果为真,则确定目标对象与校验信息的匹配结果为真等。
步骤207:根据目标对象与各校验信息的匹配结果,确定数据处理请求对应的处理信息,以及根据处理信息,对目标对象进行业务数据处理。
可在系统中构建校验信息集、校验信息、验证条件、指标参数及目标对象的树形结构。其中,校验信息集包含多个校验信息,每个校验信息包含多个验证条件。在验证条件基于单个衡量指标构建的情况下,每个验证条件对应一个指标参数和提取信息。
提取信息用于从输入的描述语句中提取衡量指标的取值。提取信息在构建过程中可以和描述语句中的字段进行映射,完成提取信息和衡量指标提取的映射。在定义好一个目标对象后,通过反射的方式,将衡量指标对应的提取信息和衡量指标进行关联,并整合到条件的求值器内,完成描述语句中的字段和提取信息之间的映射。提取信息可包括:提取方法、提取规则等。
在本发明实施例中,可根据业务场景设置多个验证条件,再将一个或多个验证条件组合为一个校验信息。在进行数据处理时,先根据各衡量指标的取值,得到各验证条件对应的验证结果。再根据各验证条件对应的验证结果,得到目标对象与各校验信息的匹配结果,进而确定出目标对象的处理信息。
在本发明的一个实施例中,至少一个验证条件中包括:第一类条件,第一类条件对应于单个衡量指标;利用衡量指标的取值,确定各验证条件对目标对象的验证结果,包括:从至少一个衡量指标中,确定出第一类条件对应的目标指标;确定第一类条件对应的指标参数及参数操作;根据目标指标的取值、指标参数及参数操作,确定第一类条件对目标对象的验证结果。
第一类条件对应于单个衡量指标,第一类条件为简单条件。第一类条件对应于一个预设的指标参数,并提供一个求值运算器。求值运算器用于根据输入的描述语句,得到第一类条件对应的衡量指标的取值。第一类条件能够将得到的衡量指标的取值与预设的指标参数进行运算,并返回布尔结果。
举例来说,第一类条件用于筛选利润值大于1000的商品,则目标对象为商品,该验证条件对应的衡量指标为商品利润,指标参数为1000,参数操作为大于。利用指标参数及参数操作,能够判断目标对象的利润值是否大于1000,从而筛选出利润值大于1000的商品列表。
又如,第一类条件用于确定当前交易是否为投资交易,则目标对象为交易,验证条件对应的衡量指标为交易类型,指标参数为一个集合,集合中包括:理财类、存款类、基金类、股票类,参数操作为包含。利用指标参数及参数操作,能够判断目标对象是否为投资交易。
在本发明的一个实施例中,至少一个验证条件中包括:第二类条件,第二类条件对应于多个衡量指标;利用衡量指标的取值,确定各验证条件对目标对象的验证结果,包括:从至少一个衡量指标中,确定出第二类条件对应的多个目标指标;针对各目标指标,确定第二类条件对应目标指标的指标参数及参数操作;根据目标指标的取值、指标参数及参数操作,确定目标指标对应的验证结果;根据各目标指标对应的验证结果,确定第二类条件对目标对象的验证结果。
第二类条件对应于多个衡量指标,第二类条件为复杂条件。通过第二类条件可表征较复杂的逻辑关系,进行更复杂的逻辑处理。第二类条件对应的各目标指标分别对应于一个第一类条件。一个目标指标对应的指标参数及参数操作,可以看成一个第一类条件对应的指标参数及参数操作。
第二类条件是多个第一类条件的一个布尔运算的组合。可通过逻辑与、逻辑或等布尔运算将多个第一类条件组合为一个第二类条件表达式。比如,第二类条件A=第一类条件1and第一类条件2or第一类条件3。
根据各目标指标对应的验证结果,确定第二类条件对目标对象的验证结果,包括:确定第二类条件对应的组合信息;根据组合信息,组合各目标指标对应的验证结果,生成第二类条件对应的规则表达式;确定规则表达式的计算结果,将计算结果确定为第二类条件对目标对象的验证结果。
组合信息可包括各目标指标对应执行顺序、运算类型、优先级等。运算类型可包括:逻辑与、逻辑或等。各目标指标分别对应于一个第一类条件。可根据第二类条件表达式中的优先级,组合各第一类条件的运算顺序,生成第二类条件对应的规则表达式。
举例来说,目标对象为交易,第二类条件对应于两个衡量指标分别为:交易金额及交易类型。交易金额对应的第一个第一类条件用于筛选交易金额大于100的交易。交易类型对应第二个第一类条件用于确定当前交易是否为投资交易。
如果两个目标指标对应的验证结果的组合方式为逻辑与,则该第二类条件用于判断交易金额大于100且交易类型为投资交易的对象。如果两个目标指标对应的验证结果的组合方式为逻辑或,则该第二类条件用于判断目标对象的交易金额大于100,或交易类型为投资交易的对象。
可以将第二类条件对应的规则表达式转换为与运算的条件链表。与运算的条件链表中两相邻节点的组合方式为与运算。与运算的条件链表节点包括:或运算的条件链表、第一类条件对应的验证结果等。其中,或运算的条件链表中两相邻节点的组合方式为或运算。或运算的条件链表节点包括:第一类条件对应的验证结果等。
比如:第二类条件A=第一类条件1and第一类条件2or第一类条件3。其中,第二类条件A为第二类条件对应的规则表达式。第一类条件1、第一类条件2、第一类条件1为目标指标对应的验证结果。
则第二类条件A可转换为:orConditions=[第一类条件2,第一类条件3],andConditons=[[第一类条件1],orConditions]。其中,orConditions为或运算的条件链表,andConditon为与运算的条件链表。
转换后的第二类条件对应的规则表达式,可通过与运算的条件链表求值规则及或运算的条件链表求值规则,进行快速求值。
与运算的条件链表求值规则为:如果规则表达式的形式为,TRUE and FALSE andTRUE…,当运算到第二个节点的False的时候,直接返回False,而不用去运算False之后的求值。
或运算的条件链表求值规则为:如果规则表达式的形式为,TRUE and FALSE andTRUE…,当运算到第一个节点的TRUE,直接返回TRUE,而不用去运算TRUE之后的求值。
校验信息集的构建过程可包括以下四个步骤:定义事实对象;定义指标库;提取配置好的校验信息、条件参数;构建校验信息集。通过上述步骤能够有效组织复杂校验信息,借助特有的表达式语言完成规则表达式的求值。此外,或运算的条件链表及与运算的条件链表的存储方式,结合快速求值机制,能够有效提升第二类条件对应的规则表达式的运算效率。
图3是本发明第三实施例提供的一种数据处理方法的流程示意图,如图3所示,该方法包括:
步骤301:接收数据处理请求,确定数据处理请求对应的目标对象及业务类型。
步骤302:获取业务类型对应的数据源及至少一个衡量指标;从数据源中,定位目标对象的描述语句。
步骤303:调用各衡量指标对应的提取组件,从描述语句中提取出各衡量指标的取值。
步骤304:利用衡量指标的取值,确定目标对象与各校验信息的匹配结果。
步骤305:获取预设的策略映射关系。
策略映射关系用于存储匹配结果与处理信息的对应关系。匹配结果对应于一个或多个校验信息。例如,校验信息1对应的匹配结果为真、校验信息2对应的匹配结果为真、校验信息3对应的匹配结果为真,则对应于处理信息3。校验信息1对应的匹配结果为真、校验信息2对应的匹配结果为真、校验信息3对应的匹配结果为假,则对应于处理信息2等。
步骤306:根据目标对象与各校验信息的匹配结果,在策略映射关系中,查找目标对象对应的处理信息。
一般情况下,通过各校验信息的匹配结果,在策略映射关系中,能查找到且仅能查找到一条对应的处理信息。如果未能查找到处理信息,或者查找到多条处理信息,则发出告警。
步骤307:根据查找到的处理信息,对目标对象进行业务数据处理。
处理信息可根据业务需求及应用场景来设定。处理信息可表征对目标对象的目标字段求和、求均值、求最大值、求最小值。处理信息也可表征将目标对象的目标字段修改为目标值。处理信息还可表征选择出与各校验信息的匹配结果均为真的所有目标对象等。
在本发明实施例中,系统预设策略映射关系,根据目标对象与各校验信息的匹配结果,在策略映射关系中,查找目标对象对应的处理信息。多种业务需求都可共用同一处理信息,能够减少代码间的耦合程度,在需求变更或系统改版时,能够降低系统开发难度及工作量。
图4是本发明的一个实施例提供的一种数据处理装置的结构示意图,如图4所示,该装置包括:
请求接收模块401,用于接收数据处理请求,确定所述数据处理请求对应的目标对象及业务类型;
指标获取模块402,用于获取所述业务类型对应的数据源及至少一个衡量指标;
语句定位模块403,用于从所述数据源中,定位所述目标对象的描述语句;
取值提取模块404,用于调用各所述衡量指标对应的提取组件,从所述描述语句中提取出各所述衡量指标的取值;
处理模块405,用于根据所述衡量指标的取值,确定所述数据处理请求对应的处理信息,以及根据所述处理信息,对所述目标对象进行业务数据处理。
可选地,所述取值提取模块404具体用于:
对所述描述语句进行分词处理,得到所述描述语句的多个分词;
调用所述衡量指标对应的提取组件,从所述多个分词中,确定出与所述衡量指标对应的提取信息相匹配的目标分词,将所述目标分词作为所述衡量指标的取值。
可选地,所述处理模块405具体用于:
确定所述业务类型对应的至少一个校验信息;
利用所述衡量指标的取值,确定所述目标对象与各所述校验信息的匹配结果;
根据所述目标对象与各所述校验信息的匹配结果,确定所述数据处理请求对应目标对象的处理信息。
可选地,所述处理模块405具体用于:
确定所述校验信息对应的至少一个验证条件;
利用所述衡量指标的取值,确定各所述验证条件对所述目标对象的验证结果;
根据各所述验证条件对应的验证结果,确定所述目标对象与所述校验信息的匹配结果。
可选地,所述至少一个验证条件中包括:第一类条件,所述第一类条件对应于单个衡量指标;
所述处理模块405具体用于:
从所述至少一个衡量指标中,确定出所述第一类条件对应的目标指标;
确定所述第一类条件对应的指标参数及参数操作;
根据所述目标指标的取值、所述指标参数及所述参数操作,确定所述第一类条件对所述目标对象的验证结果。
可选地,所述至少一个验证条件中包括:第二类条件,所述第二类条件对应于多个衡量指标;
所述处理模块405具体用于:
从所述至少一个衡量指标中,确定出所述第二类条件对应的多个目标指标;
针对各所述目标指标,确定所述第二类条件对应所述目标指标的指标参数及参数操作;根据所述目标指标的取值、所述指标参数及所述参数操作,确定所述目标指标对应的验证结果;
根据各所述目标指标对应的验证结果,确定所述第二类条件对所述目标对象的验证结果。
可选地,所述处理模块405具体用于:
确定所述第二类条件对应的组合信息;
根据所述组合信息,组合各所述目标指标对应的验证结果,生成所述第二类条件对应的规则表达式;
确定所述规则表达式的计算结果,将所述计算结果确定为所述第二类条件对所述目标对象的验证结果。
可选地,所述处理模块405具体用于:
确定所述处理信息对应的目标表、目标字段及处理方式;
以所述处理方式,对所述目标对象对应于所述目标表中的所述目标字段的数据进行处理。
本发明实施例提供了一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现上述任一实施例的方法。
本发明实施例提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现本发明实施例中的企业风险评估方法。
下面参考图5,其示出了适于用来实现本发明实施例的终端设备的计算机系统500的结构示意图。图5示出的终端设备仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示,计算机系统500包括中央处理单元(CPU)501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储部分508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中,还存储有系统500操作所需的各种程序和数据。CPU 501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
以下部件连接至I/O接口505:包括键盘、鼠标等的输入部分506;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分507;包括硬盘等的存储部分508;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器510上,以便于从其上读出的计算机程序根据需要被安装入存储部分508。
特别地,根据本发明公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分509从网络上被下载和安装,和/或从可拆卸介质511被安装。在该计算机程序被中央处理单元(CPU)501执行时,执行本发明的系统中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了根据本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中,例如,可以描述为:请求接收模块、指标获取模块、语句定位模块、取值提取模块及处理模块。其中,这些模块的名称在某种情况下并不构成对该模块本身的限定,例如,请求接收模块还可以被描述为“接收数据处理请求,确定所述数据处理请求对应的目标对象及业务类型的模块”。
作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:
接收数据处理请求,确定所述数据处理请求对应的目标对象及业务类型;
获取所述业务类型对应的数据源及至少一个衡量指标;
从所述数据源中,定位所述目标对象的描述语句;
调用各所述衡量指标对应的提取组件,从所述描述语句中提取出各所述衡量指标的取值;
根据所述衡量指标的取值,确定所述数据处理请求对应的处理信息,以及根据所述处理信息,对所述目标对象进行业务数据处理。
根据本发明实施例的技术方案,在接收到数据处理请求时,确定数据处理请求对应的目标对象及业务类型,根据目标对象及业务类型,确定数据处理请求对应的处理信息,完成数据处理请求对应的数据处理。多种业务需求都可共用同一处理信息,无需分别编写不同业务需求对应的数据处理程序,能够减少代码间的重复性及耦合度,有利于信息系统的升级及运维。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。

Claims (15)

1.一种数据处理方法,其特征在于,包括:
接收数据处理请求,确定所述数据处理请求对应的目标对象及业务类型;
获取所述业务类型对应的数据源及至少一个衡量指标;
从所述数据源中,定位所述目标对象的描述语句;
调用各所述衡量指标对应的提取组件,从所述描述语句中提取出各所述衡量指标的取值;
根据所述衡量指标的取值,确定所述数据处理请求对应的处理信息,以及根据所述处理信息,对所述目标对象进行业务数据处理。
2.根据权利要求1所述的方法,其特征在于,所述调用各所述衡量指标对应的提取组件,从所述描述语句中提取出各所述衡量指标的取值,包括:
对所述描述语句进行分词处理,得到所述描述语句的多个分词;
调用所述衡量指标对应的提取组件,从所述多个分词中,确定出与所述衡量指标对应的提取信息相匹配的目标分词,将所述目标分词作为所述衡量指标的取值。
3.根据权利要求1所述的方法,其特征在于,所述根据所述衡量指标的取值,确定所述数据处理请求对应的处理信息,包括:
确定所述业务类型对应的至少一个校验信息;
利用所述衡量指标的取值,确定所述目标对象与各所述校验信息的匹配结果;
根据所述目标对象与各所述校验信息的匹配结果,确定所述数据处理请求对应的处理信息。
4.根据权利要求3所述的方法,其特征在于,所述利用所述衡量指标的取值,确定所述目标对象与各所述校验信息的匹配结果,包括:
确定所述校验信息对应的至少一个验证条件;
利用所述衡量指标的取值,确定各所述验证条件对所述目标对象的验证结果;
根据各所述验证条件对应的验证结果,确定所述目标对象与所述校验信息的匹配结果。
5.根据权利要求4所述的方法,其特征在于,所述至少一个验证条件中包括:第一类条件,所述第一类条件对应于单个衡量指标;
所述利用所述衡量指标的取值,确定各所述验证条件对所述目标对象的验证结果,包括:
从所述至少一个衡量指标中,确定出所述第一类条件对应的目标指标;
确定所述第一类条件对应的指标参数及参数操作;
根据所述目标指标的取值、所述指标参数及所述参数操作,确定所述第一类条件对所述目标对象的验证结果。
6.根据权利要求4所述的方法,其特征在于,所述至少一个验证条件中包括:第二类条件,所述第二类条件对应于多个衡量指标;
所述利用所述衡量指标的取值,确定各所述验证条件对所述目标对象的验证结果,包括:
从所述至少一个衡量指标中,确定出所述第二类条件对应的多个目标指标;
针对各所述目标指标,确定所述第二类条件对应所述目标指标的指标参数及参数操作;根据所述目标指标的取值、所述指标参数及所述参数操作,确定所述目标指标对应的验证结果;
根据各所述目标指标对应的验证结果,确定所述第二类条件对所述目标对象的验证结果。
7.根据权利要求6所述的方法,其特征在于,所述根据各所述目标指标对应的验证结果,确定所述第二类条件对所述目标对象的验证结果,包括:
确定所述第二类条件对应的组合信息;
根据所述组合信息,组合各所述目标指标对应的验证结果,生成所述第二类条件对应的规则表达式;
确定所述规则表达式的计算结果,将所述计算结果确定为所述第二类条件对所述目标对象的验证结果。
8.根据权利要求1所述的方法,其特征在于,所述根据所述处理信息,对所述目标对象进行业务数据处理,包括:
确定所述处理信息对应的目标表、目标字段及处理方式;
以所述处理方式,对所述目标对象对应于所述目标表中的所述目标字段的数据进行处理。
9.一种数据处理装置,其特征在于,包括:
请求接收模块,用于接收数据处理请求,确定所述数据处理请求对应的目标对象及业务类型;
指标获取模块,用于获取所述业务类型对应的数据源及至少一个衡量指标;
语句定位模块,用于从所述数据源中,定位所述目标对象的描述语句;
取值提取模块,用于调用各所述衡量指标对应的提取组件,从所述描述语句中提取出各所述衡量指标的取值;
处理模块,用于根据所述衡量指标的取值,确定所述数据处理请求对应的处理信息,以及根据所述处理信息,对所述目标对象进行业务数据处理。
10.根据权利要求9所述的装置,其特征在于,所述取值提取模块具体用于:
对所述描述语句进行分词处理,得到所述描述语句的多个分词;
调用所述衡量指标对应的提取组件,从所述多个分词中,确定出与所述衡量指标对应的提取信息相匹配的目标分词,将所述目标分词作为所述衡量指标的取值。
11.根据权利要求9所述的装置,其特征在于,所述处理模块具体用于:
确定所述业务类型对应的至少一个校验信息;
利用所述衡量指标的取值,确定所述目标对象与各所述校验信息的匹配结果;
根据所述目标对象与各所述校验信息的匹配结果,确定所述数据处理请求对应目标对象的处理信息。
12.根据权利要求11所述的装置,其特征在于,所述处理模块具体用于:
确定所述校验信息对应的至少一个验证条件;
利用所述衡量指标的取值,确定各所述验证条件对所述目标对象的验证结果;
根据各所述验证条件对应的验证结果,确定所述目标对象与所述校验信息的匹配结果。
13.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-8中任一所述的方法。
14.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-8中任一所述的方法。
15.一种计算机程序产品,包括计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-8中任一项所述的方法。
CN202211393173.5A 2022-11-08 2022-11-08 数据处理方法和装置 Pending CN115545934A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211393173.5A CN115545934A (zh) 2022-11-08 2022-11-08 数据处理方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211393173.5A CN115545934A (zh) 2022-11-08 2022-11-08 数据处理方法和装置

Publications (1)

Publication Number Publication Date
CN115545934A true CN115545934A (zh) 2022-12-30

Family

ID=84721016

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211393173.5A Pending CN115545934A (zh) 2022-11-08 2022-11-08 数据处理方法和装置

Country Status (1)

Country Link
CN (1) CN115545934A (zh)

Similar Documents

Publication Publication Date Title
CN107704265B (zh) 一种面向业务流可配置的规则生成方法
CN107644323B (zh) 一种面向业务流的智能审核系统
US9652513B2 (en) Generating data pattern information
CN108985912B (zh) 数据对账
CN111061833B (zh) 数据处理方法、装置、电子设备和计算机可读存储介质
KR20180030521A (ko) 데이터 품질 분석
CN111259040B (zh) Sql语句审核方法和系统
CN107862425B (zh) 风控数据采集方法、设备、系统及可读存储介质
Fazzinga et al. Online and offline classification of traces of event logs on the basis of security risks
CN112925664A (zh) 目标用户的确定方法、装置、电子设备及存储介质
CN109544348B (zh) 资产证券筛选方法、设备及计算机可读存储介质
CN116739605A (zh) 交易数据检测方法、装置、设备及存储介质
CN116228402A (zh) 一种金融征信特征仓库技术支持系统
CN115545934A (zh) 数据处理方法和装置
CN114723548A (zh) 数据处理方法、装置、设备、介质和程序产品
CN111405060B (zh) 服务影响范围确定方法、装置、工具和电子设备
CN112380321A (zh) 基于票据知识图谱的主次数据库分配方法及相关设备
US9330115B2 (en) Automatically reviewing information mappings across different information models
US20140214695A1 (en) System and method to valuate intangible asset
CN113609407B (zh) 地区一致性校验方法和装置
US20240061662A1 (en) Constructing a data flow graph for a computing system of an organization
CN117593006A (zh) 规则的配置方法、装置、电子设备及计算机存储介质
US20200159740A1 (en) System and method for verifying software data lineage
CN115409636A (zh) 产品风险预测方法、装置、设备及介质
Mathur et al. Grouping Semantically Related Change-Sets to Enhance Identification of Logical Coupling.

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination