CN117891870A - 多方数据处理、管理系统及多方数据处理方法 - Google Patents
多方数据处理、管理系统及多方数据处理方法 Download PDFInfo
- Publication number
- CN117891870A CN117891870A CN202410057502.1A CN202410057502A CN117891870A CN 117891870 A CN117891870 A CN 117891870A CN 202410057502 A CN202410057502 A CN 202410057502A CN 117891870 A CN117891870 A CN 117891870A
- Authority
- CN
- China
- Prior art keywords
- data
- multiparty
- module
- interface
- management
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 90
- 238000003672 processing method Methods 0.000 title claims abstract description 16
- 238000007726 management method Methods 0.000 claims abstract description 67
- 238000013523 data management Methods 0.000 claims abstract description 13
- 238000005538 encapsulation Methods 0.000 claims abstract description 12
- 238000013500 data storage Methods 0.000 claims abstract description 8
- 238000000034 method Methods 0.000 claims description 31
- 238000013507 mapping Methods 0.000 claims description 28
- 230000002159 abnormal effect Effects 0.000 claims description 26
- 230000004044 response Effects 0.000 claims description 15
- 238000011156 evaluation Methods 0.000 claims description 12
- 238000007619 statistical method Methods 0.000 claims description 10
- 230000000007 visual effect Effects 0.000 claims description 9
- 230000008569 process Effects 0.000 claims description 8
- 238000013441 quality evaluation Methods 0.000 claims description 7
- 238000011835 investigation Methods 0.000 claims description 6
- 238000004806 packaging method and process Methods 0.000 claims description 5
- 238000000586 desensitisation Methods 0.000 claims description 4
- 238000011144 upstream manufacturing Methods 0.000 claims description 4
- 238000001303 quality assessment method Methods 0.000 claims description 3
- 230000007246 mechanism Effects 0.000 abstract description 9
- 238000010586 diagram Methods 0.000 description 9
- 238000013461 design Methods 0.000 description 8
- 238000004891 communication Methods 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000000802 evaporation-induced self-assembly Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000008520 organization Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 210000001503 joint Anatomy 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003032 molecular docking Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请提供一种多方数据处理、管理系统及多方数据处理方法。该系统包括:数据注册模块,用于对多方数据的来源和多方数据对应的数据接口进行注册;数据配置模块,用于将注册到系统中的多方数据的来源和数据接口进行配置管理,所述配置管理包括多方数据的存储配置以及数据接口的封装处理;数据存储模块,用于基于所述存储配置对所述多方数据进行存储,并进行缓存配置;数据共享模块,用于配置使用方对所述多方数据的使用权限;数据统计模块,用于对所述多方数据的使用情况进行统计分析,本申请的系统,通过建立统一规范的多方数据管理机制,对多方数据进行标准化处理,提高了多方数据的管理效率,降低了数据处理的成本,提高了数据使用的安全性。
Description
技术领域
本申请涉及数据处理技术领域,尤其涉及一种多方数据处理、管理系统及多方数据处理方法。
背景技术
随着互联网、物联网和社交媒体的快速发展,数据源数量和种类呈指数级增长,企业迫切需要利用数据来发现新的商机、预测市场变化、改进产品和服务等。
多方数据是指由多个不同供应方提供的数据,供应方可以是企业、政府机构、行业协会、研究机构等。然而在数据实际使用时,缺乏一个合适的多方数据管理机制,并且管理标准不统一带来数据安全得不到保障、使用成本高、数据难以整合共享等问题。
因此,如何设计一个合适的多方数据处理系统,以建立统一规范的数据管理机制成为一个亟需解决的问题。
发明内容
本申请提供一种多方数据处理、管理系统及多方数据处理方法,用以建立统一规范的数据全流程管理机制。
第一方面,本申请提供一种多方数据处理系统,包括:
数据注册模块,用于对多方数据的来源和多方数据对应的数据接口进行注册;
数据配置模块,用于将注册到系统中的多方数据的来源和数据接口进行配置管理,所述配置管理包括多方数据的存储配置以及数据接口的封装处理;
数据存储模块,用于基于所述存储配置对所述多方数据进行存储,并进行缓存配置;
数据共享模块,用于配置使用方对所述多方数据的使用权限;
数据统计模块,用于对所述多方数据的使用情况进行统计分析。
可选的,所述数据注册模块具体用于:
将所述多方数据的来源进行注册;
将所述多方数据中的部分或全部数据对应的标准数据接口的第一接口信息注册到系统中;
将所述多方数据中的部分或全部数据对应的数据库表转数据接口的第二接口信息注册到系统中。
可选的,所述数据配置模块具体用于:
将至少两个不同类型的数据接口封装为第一接口服务;
将至少两个相同类型的数据接口封装为第二接口服务,并设置所述第二接口服务的路由规则,所述路由规则包括多个接口调用的调用优先级、异常调用切换。
可选的,所述数据配置模块还包括:
对所述数据接口进行标准映射处理,所述标准映射处理用于使得所述数据接口返回标准化数据;
其中,所述标准映射处理包括:将第一数据按照预设规则映射为标准化的第二数据,所述映射包括数据直接映射、数据编码转换或异常值处理中的至少一项。
可选的,所述系统还包括:费用模块,其中,
所述数据统计模块具体用于:对多方数据的被调用情况进行统计,并生成可视化展示图表;
所述费用模块,用于基于所述多方数据的被调用情况的统计结果,进行费用核算并生成可视化计费报表。
可选的,所述系统还包括:质量评估模块,其中
所述质量评估模块,用于基于所述多方数据的被调用情况的满足条件的统计结果,进行客观评估,并基于调查问卷法,对所述多方数据的被调用情况的满足条件的统计结果,进行主观评估,其中,所述满足条件的统计结果包括响应时长、调用成功率、异常调用次数、异常熔断次数或预警次数中的至少一项。
可选的,所述系统还包括数据共享模块,其中
所述数据共享模块,用于进行账户管理和权限管理;
其中,所述账户管理用于管理可访问所述系统的账户,所述权限管理用于管理可访问所述系统的账户的权限
可选的,所述系统还包括:安全管理模块,其中
所述安全管理模块,用于设置每方数据的调用频率限制、调用次数限制和调用时间段限制;
所述安全管理模块,还用于在同一服务的请求条件不满足预设条件时,触发服务熔断;
所述安全管理模块,还用于对多方数据进行安全处理,所述安全处理包括数据加密、脱敏或加水印中的至少一种。
第二方面,本申请提供一种多方数据管理系统,包括:多方数据供应方、业务系统和第一方面所述的系统,其中
所述多方数据供应方为所述多方数据处理系统的上游系统;
所述业务系统为所述多方数据处理系统的下游系统。
第三方面,本申请还提供一种多方数据处理方法,应用于第一方面所述的多方数据处理系统,所述方法包括:
对多方数据的来源和多方数据对应的数据接口进行注册;
将注册到系统中的多方数据的来源和数据接口进行配置管理,所述配置管理包括多方数据的存储配置以及数据接口的封装处理;
基于所述存储配置对所述多方数据进行存储,并进行缓存配置;
配置使用方对所述多方数据的使用权限;
对所述多方数据的使用情况进行统计分析。
第四方面,本申请提供一种多方数据处理设备,包括:至少一个处理器和存储器;
所述存储器存储计算机执行指令;
所述至少一个处理器执行所述存储器存储的计算机执行指令,使得所述至少一个处理器执行如上第三方面所述的多方数据处理方法。
第五方面,一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机执行指令,当处理器执行所述计算机执行指令时,实现如上第三方面所述的多方数据处理方法。
本申请提供的多方数据处理、管理系统及多方数据处理方法,该系统包括:数据注册模块,用于对多方数据的来源和多方数据对应的数据接口进行注册;数据配置模块,用于将注册到系统中的多方数据的来源和数据接口进行配置管理,所述配置管理包括多方数据的存储配置以及数据接口的封装处理;数据存储模块,用于基于所述存储配置对所述多方数据进行存储,并进行缓存配置;数据共享模块,用于配置使用方对所述多方数据的使用权限;数据统计模块,用于对所述多方数据的使用情况进行统计分析,本申请提供的系统,建立了统一规范的多方数据管理机制,对多方数据进行标准化处理,提高了多方数据的管理效率,降低了数据处理的成本,提高了数据使用的安全性。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本申请的实施例,并与说明书一起用于解释本申请的原理。
图1为本发明实施例提供的多方数据处理系统结构示意图一;
图2为本发明实施例提供的第一接口服务示意图;
图3为本发明实施例提供的第二接口服务示意图;
图4为本发明实施例提供的多方数据处理系统结构示意图二;
图5为本发明实施例提供的多方数据处理方法流程图;
图6为本发明实施例提供的多方数据处理设备的硬件示意图。
通过上述附图,已示出本申请明确的实施例,后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本申请构思的范围,而是通过参考特定实施例为本领域技术人员说明本申请的概念。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
为了便于清楚描述本申请实施例的技术方案,在本申请的实施例中,采用了“第一”、“第二”等字样对功能和作用基本相同的相同项或相似项进行区分。例如,第一设备和第二设备仅仅是为了区分不同的设备,并不对其先后顺序进行限定。本领域技术人员可以理解“第一”、“第二”等字样并不对数量和执行次序进行限定,并且“第一”、“第二”等字样也并不限定一定不同。
需要说明的是,本申请中,“示例性的”或者“例如”等词用于表示作例子、例证或说明。本申请中被描述为“示例性的”或者“例如”的任何实施例或设计方案不应被解释为比其他实施例或设计方案更优选或更具优势。确切而言,使用“示例性的”或者“例如”等词旨在以具体方式呈现相关概念。
本申请中,“至少一个”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B的情况,其中A,B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达,是指的这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b,或c中的至少一项(个),可以表示:a,b,c,a-b,a-c,b-c,或a-b-c,其中a,b,c可以是单个,也可以是多个。
为建立一个统一规范的数据全流程管理机制,本申请实施例提供一种多方数据处理、管理系统及多方数据处理方法,通过设计数据注册模块、数据配置模块、数据存储模块、数据共享模块和数据统计模块,对多方数据进行标准化处理,保证了多方数据的准确性和一致性,降低了数据处理的成本,提高了数据使用的安全性。
下面以具体地实施例对本申请的技术方案以及本申请的技术方案如何解决上述技术问题进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。下面将结合附图,对本申请的实施例进行描述。
图1为本发明实施例提供的多方数据处理系统结构示意图一,如图1所示,该多方数据处理系统包括:数据注册模块、数据配置模块、数据存储模块、数据共享模块和数据统计模块,其中:
所述数据注册模块,用于对多方数据的来源和多方数据对应的数据接口进行注册;
所述数据配置模块,用于将注册到系统中的多方数据的来源和数据接口进行配置管理,所述配置管理包括多方数据的存储配置以及数据接口的封装处理;
所述数据存储模块,用于基于所述存储配置对所述多方数据进行存储,并进行缓存配置;
所述数据共享模块,用于配置使用方对所述多方数据的使用权限;
所述数据统计模块,用于对所述多方数据的使用情况进行统计分析。
本领域技术人员可以理解,该多方数据处理系统可以通过独立的服务器来实现上述多个模块,也可以通过多个服务器组成的服务器集群,例如分布式服务器来实现,本实施例对该多方数据处理系统的实现方式不做特别限制。
本申请实施例中,多方数据处理系统作为用于数字化转型和业务发展的数据源对接平台,其上游系统为多方数据供应方,为多方数据处理系统提供数据输入,多方数据经过多方数据处理系统的规范统一处理后,为下游系统,即业务系统提供数据查询、调用等服务。
具体的,如图1所示,多方数据供应方可以为征信系统、征信公司、商业资讯公司、金融数据和分析供应商,作为多方数据处理系统的上游系统,多方数据供应方为多方数据处理系统提供多个数据接口,具体可以包括征信数据、运营商数据、舆情数据、信用数据和统计数据等数据接口;进一步,经由多方数据处理系统进行统一的数据注册、配置、存储、统计分析后为业务系统提供数据服务,具体的,业务系统作为数据使用方可以为签章系统、支付系统、客户信息管理系统和审批系统等。
数据注册模块将多方数据的来源和多方数据对应的数据接口进行注册,例如,一征信数据的数据接口来源于A公司,且A公司为征信公司,其征信系统向多方数据处理系统提供征信的数据接口,则需要将该征信数据的数据来源以及数据接口共同进行注册。
为了向业务系统提供更好的数据服务,对于多方数据供应方提供的多方数据,需要根据业务系统的使用需求,通过数据配置模块对多方数据进行存储配置,以及对多方数据接口进行封装处理。示例性的,对于数据安全性和保密性要求较高的数据,需要将其进行本地存储,可以根据该数据的数据类型、数据大小为其在本地磁盘上申请一个合适的存储空间;或者,对于数据文件较大的情况,可以将多方数据进行云存储,以降低存储成本。另一方面,需要对多方数据的数据接口进行封装处理,根据数据管理标准配置为服务,以供业务系统调用,例如,可以明确数据的含义和范围,制定统一的数据标准,确保数据使用的一致性。
进一步,数据存储模块根据对应的存储配置将多方数据进行存储,并根据业务系统的调用需求进行缓存配置,设置数据的缓存周期。具体的,进行业务系统调用数据服务时,可以根据需求自定义配置是否使用缓存数据以及使用缓存数据的时间,例如:用户当天查询了电信用户A的姓名、手机号是否一致,在第二天再次查询电信用户A的姓名、手机号是否一致时,即采用缓存数据,不再从外部调用数据,以节约数据调用成本。
本实施例中,在数据使用方进行数据调用时,为提高数据的安全性,需根据业务部门的需求,对不同的业务部门进行权限配置,确定相应的数据使用权限,因此,通过设置数据共享模块,对数据使用方配置多方数据的使用权限。
数据统计模块用于对多方数据的使用情况进行统计分析。具体的,可以统计数据的访问量、使用频率和使用情况。另一方面,也可以对使用方调用数据服务时产生的费用进行统计分析,以为后续优化数据管理流程、提高数据质量做准备。
本申请提供的多方数据处理系统,包括:数据注册模块,用于对多方数据的来源和多方数据对应的数据接口进行注册;数据配置模块,用于将注册到系统中的多方数据的来源和数据接口进行配置管理,所述配置管理包括多方数据的存储配置以及数据接口的封装处理;数据存储模块,用于基于所述存储配置对所述多方数据进行存储,并进行缓存配置;数据共享模块,用于配置使用方对所述多方数据的使用权限;数据统计模块,用于对所述多方数据的使用情况进行统计分析,本实施例提供的系统,建立了统一规范的多方数据管理机制,对多方数据进行标准化处理,提高了多方数据的管理效率,降低了数据处理的成本,提高了数据使用的安全性。
可选的,所述数据注册模块具体用于:
将所述多方数据的来源进行注册;
将所述多方数据中的部分或全部数据对应的标准数据接口的第一接口信息注册到系统中;
将所述多方数据中的部分或全部数据对应的数据库表转数据接口的第二接口信息注册到系统中。
在本申请实施例中,需要注册的多方数据可能来自于数据供应方提供的标准数据接口,或数据库表数据,或数据文件,为了可以满足数据供应方提供的多种数据来源,在进行数据注册时,需要根据数据的来源将对应的数据接口进行注册。若多方数据中的部分或全部数据来自于标准数据接口,则将标准数据接口对应的第一接口信息注册到系统中,其中,第一接口信息具体可以包括服务路径、请求方法、请求类型、响应类型、请求参数、返回参数、响应码。在具体实现过程中,标准数据接口进行数据注册时,也支持GET/POST/PUT/DELETE/PATCH等多种常见的请求方法,例如,GET请求方法用于从指定的资源中获取数据,DELETE请求方法用于删除指定的数据。
若多方数据中的部分或全部数据来自于数据库表数据,需先根据业务部门的具体数据使用需求将数据库表数据转换成数据接口,例如,可以编写数据接口的查询语句,通过数据库查询语言(如SQL)编写数据接口的查询语句,从数据库表中提取所需的数据,并返回符合要求的数据,然后将数据库表数据转数据接口的第二接口信息注册到系统中,第二接口信息具体可以包括数据库表的请求方法、请求类型、响应类型、数据源类型、数据源名称、数据来源、请求参数、返回参数、响应码。
此外,若存在多方数据为数据文件类型的数据,例如,表格数据或文档数据,在进行数据注册时还支持将数据文件导入系统进行注册。
示例性的,一征信数据的标准数据接口来源于A公司,且A公司为征信公司,其征信系统向多方数据处理系统提供征信的数据接口,则需要将该征信数据的数据来源以及第一接口信息共同进行注册;B公司数据供应方提供的统计数据为表格类型的数据文件,需要将统计数据的数据来源和数据文件进行注册。
可选的,所述数据配置模块具体用于:
将至少两个不同类型的数据接口封装为第一接口服务;
将至少两个相同类型的数据接口封装为第二接口服务,并设置所述第二接口服务的路由规则,所述路由规则包括多个接口调用的调用优先级、异常调用切换。
在本实施例中,根据业务部门的数据使用需求,需要将多个数据接口封装为一个服务,以便业务系统进行调用。优选的,数据接口封装包括两种封装方式,其一:将至少两个不同类型的数据接口封装为第一接口服务;其二:将至少两个相同类型的数据接口封装为第二接口服务。具体的,将至少两个不同类型的数据接口封装为第一接口服务,并规定该第一接口服务的入参参数、出参参数和响应码,当业务系统调用该服务,即同时调用组合内的数据接口。图2为本发明实施例提供的第一接口服务示意图,如图2所示,将数据接口A、数据接口B、数据接口C和数据接口D,4种不同类型的数据接口封装为第一接口服务,业务系统调用该第一接口服务时,即同时调用这4种不同类型的数据接口。
进一步,将至少两个相同类型的数据接口封装为第二接口服务,并设置第二接口服务的路由规则,即设置多个接口调用的调用优先级、异常调用切换,当调用第二接口服务时,按照调用优先级进行调用,异常调用切换用于指示当数据接口发生异常时可以切换的备选数据接口,当优先调用的数据接口发生异常时,进行异常调用切换,可以暂时停止该异常接口调用,转到备选接口去调用。示例性的,图3为本发明实施例提供的第二接口服务示意图,如图3所示,数据接口E、数据接口E′、数据接口E″、数据接口E″′为四种相同类型的数据接口,在进行封装时,分别为每个数据接口设置优先权重与异常调用切换,该第二接口服务的调用优先级和异常调用切换如图3所示,当业务系统调用该第二接口服务时,根据调用优先级,先调用数据接口E,当数据接口E发生异常时,根据数据接口E的异常调用切换,可以暂停数据接口E的调用,转到数据接口E的备选数据接口E′/E″/E″′,然后再根据调用优先级,在备选数据接口中选择调用优先级最高的数据接口,即E′,在数据接口E′调用正常的情况下,将该服务的数据接口切换为E′,以此类推。
在一种可能的设计中,所述数据配置模块还包括:
对所述数据接口进行标准映射处理,所述标准映射处理用于使得所述数据接口返回标准化数据;
其中,所述标准映射处理包括:将第一数据按照预设规则映射为标准化的第二数据,所述映射包括数据直接映射、数据编码转换或异常值处理中的至少一项。
在本实施例中,含义相同的数据可能有不同的数据名称,例如,对于“姓名”这一数据,可能有“xingming”和“name”两种表达方式,为了将多方数据的数据语言进行统一,需要将注册到系统中的多方数据根据数据管理标准进行配置,以供业务系统调用。在配置过程中,对数据接口进行标准映射处理,可以将第一数据,也就是注册的入参参数、出参参数、响应码等按预设规则进行映射配置,得到标准化的第二数据,使数据接口返回标准化的第二数据数据。例如:注册时原生参数为“xingming”,可以映射为用户规定的标准参数名称“name”,以统一“姓名”的数据语言。
优选的,进行标准映射处理的映射方式可以为数据直接映射、数据编码转换或异常值处理中的至少一项。其中,数据直接映射如上述将原生参数“xingming”直接映射为“name”,数据编码转换指将数据的编码格式或数据结构转换成统一的编码格式或数据结构,异常值处理指通过识别、检测对数据中不符合预设规律的数据进行识别或处理,具体识别、检测的方法本申请不做限制。
为了便于理解,本发明实施例提供了如表1所示的接口请求参数映射表。根据表1所示,进行接口请求时,将表中的原生参数的数据语言具体映射为参数名称的数据语言,例如,针对“手机号”,将原生参数“shoujihao”映射为“sendTelNo”。
表1接口请求参数映射表
序号 | 参数名称 | 原生参数 | 参数类型 | 参数描述 | 是否必填 |
1 | orgCode | orgCode | string | 机构代码 | 是 |
2 | sequence | sequence | string | 序列号 | 是 |
3 | orgSeq | orgSeq | string | 发送机构密钥序列 | 是 |
4 | curTime | curTime | string | 当前时间 | 是 |
5 | sendTelNo | Shoujihao | string | 手机号 | 是 |
6 | username | xingming | string | 姓名 | 是 |
本实施例提供的多方数据处理系统,通过将不同类型的多方数据进行注册,并对多方标准数据接口或数据库表转接口进行数据标准映射处理、数据编码转换、接口组合等操作并封装为服务,实现了多方数据的获取并整合数据,通过数据标准化和映射,实现数据的统一格式和规范,为后续的数据处理和分析提供基础,提高了多方数据管理效率,满足了不同的业务需求。
图4为本发明实施例提供的多方数据处理系统结构示意图二,本实施例在上述实施例的基础上,所述多方数据处理系统还包括费用模块、质量评估模块、安全管理模块。
所述数据统计模块具体用于:对多方数据的被调用情况进行统计,并生成可视化展示图表;
所述费用模块,用于基于所述多方数据的被调用情况的统计结果,进行费用核算并生成可视化计费报表。
具体的,数据使用方每次通过业务系统对数据进行调用时,都会对调用进行记录,例如,可以记录数据接口被调用次数以及查询成功次数等计费指标,也可以记录系统中各数据的访问量、使用频率和使用情况,并生成可视化展示图表以便数据管理者或数据供应方进行数据使用情况分析,其中,使用情况包括:响应时长、调用成功率、异常调用次数、异常熔断次数等。
另一方面,还包括费用模块,费用模块用于基于多方数据的被调用情况的统计结果,进行费用核算并生成费用的可视化计费报表,以便管理者监控数据的使用情况,并对接入多方数据处理系统的数据提供计费策略的管理和执行,以便于数据使用方进行费用分摊。具体的,可以先根据预先的合同条款配置计算策略,基于被调用情况的统计结果以及计费策略进行费用核算,并生成可视化的计费报表。此外,对于使用方可能调用缓存数据的计费情况,可以设置计费策略为,仅在第一次调用供应方数据时进行计费,后续调用缓存数据不再重复计费。
所述安全管理模块,用于设置每方数据的调用频率限制、调用次数限制和调用时间段限制;
所述安全管理模块,还用于在同一服务的请求条件不满足预设条件时,触发服务熔断;
所述安全管理模块,还用于对多方数据进行安全处理,所述安全处理包括数据加密、脱敏或加水印中的至少一种。
在处理高并发环境下的压力和稳定性问题时,安全管理模块设计了调用限制和服务熔断两种系统容错模式。具体的,调用限制为保护系统免受大量请求的冲击,通过限制访问服务的请求数量来缓解系统的压力。调用限制的形式包括:调用频率限制,通过设置每秒最大查询率进行限制;调用次数限制,通过设置每分钟/每小时最大调用次数限制;调用时间段限制,通过设置允许调用的时间段进行限制。服务熔断是一种过载保护机制,当在同一服务的请求条件不满足预设条件时,熔断器会自动打开,拒绝对该服务的进一步调用,以防止错误继续累积和蔓延,造成系统雪崩效应。服务熔断的形式包括:慢调用比例策略,通过设置执行超时时间、最小请求次数、统计时长、慢调用阈值定义何时触发熔断机制;异常比例策略,通过最小请求次数、统计时长、异常比例阈值来定义;异常数策略,通过最小请求次数、统计时长、异常数量来定义。
另一方面,为了保护数据的安全性,安全管理模块还包括对多方数据进行安全处理,用于在系统与数据使用方接口进行交互时,对数据进行数据加密、脱敏或加水印等操作。
所述质量评估模块,用于基于所述多方数据的被调用情况的满足条件的统计结果,进行客观评估,并基于调查问卷法,对所述多方数据的被调用情况的满足条件的统计结果,进行主观评估,其中,所述满足条件的统计结果包括响应时长、调用成功率、异常调用次数、异常熔断次数或预警次数中的至少一项。
在本实施例中,为了帮助数据使用方甄别优质的数据资源,实现多方数据的优胜略汰,需要对多方数据进行质量评估。具体的,可以根据多方数据的被调用情况的满足条件的统计结果进行客观评估和主观评估。在本实施例中,满足条件的统计结果包括调用数据的响应时长、调用成功率、异常调用次数、异常熔断次数或预警次数等;进一步,通过质量评估模型对各个维度的满足条件的统计结果进行客观评价。主观评价采用调查问卷法,通过采集数据使用方对于多方数据的被调用情况的满足条件的统计结果进行主观评价。
在一种可能的设计中,所述数据共享模块,具体用于进行账户管理和权限管理;
其中,所述账户管理用于管理可访问所述系统的账户,所述权限管理用于管理可访问所述系统的账户的权限。
为满足不同业务部门的数据使用需求,数据共享模块还包括进行账户管理和权限管理。具体的,账户管理用于管理可访问系统的账户,包括管理账户状态,账户数据等,权限管理用于管理可访问系统的账户的权限,例如,对数据的使用方进行白名单管理、配置使用方数据查看及使用的权限。
本实施例提供的多方数据处理系统,在上述实施例的基础上,设计了费用模块,用于基于多方数据的被调用情况的统计结果,进行费用核算并生成可视化计费报表,使得数据供应商可以快速获取数据使用情况的全面信息;质量评估模块,用于基于所述多方数据的被调用情况的满足条件的统计结果,进行客观评估,并基于调查问卷法,对所述多方数据的被调用情况的满足条件的统计结果,进行主观评估,使得用户更准确的评估数据资源的使用情况,并可以基于质量评估结果优化资源配置,提高数据质量;安全管理模块,通过设计调用限制和服务熔断,解决了系统高并发环境下的压力和稳定性的问题,提高了数据处理效率。
图5为本发明实施例提供的多方数据处理方法流程图,如图5所示,该方法应用于上述多方数据处理系统,包括:
S501、对多方数据的来源和多方数据对应的数据接口进行注册;
在本实施例中,进行多方数据注册时,需要将多方数据的来源和多方数据对应的数据接口进行注册。具体的,在注册将标准数据接口时,需要将标准数据接口对应的服务路径、请求方法、请求类型、响应类型、请求参数、返回参数、响应码进行注册;在注册数据库表数据时,需先将数据库表数据转换成数据接口,然后将数据库表的请求方法、请求类型、响应类型、数据源类型、数据源名称、数据来源、请求参数、返回参数、响应码进行注册;在注册数据文件时,需将数据文件导入系统。
S502、将注册到系统中的多方数据的来源和数据接口进行配置管理,所述配置管理包括多方数据的存储配置以及数据接口的封装处理;
进一步,将注册到系统的多方数据的来源和数据接口进行配置管理,具体包括存储配置以及数据接口的封装处理。具体地,可以根据数据自身属性以及使用者的需求,对多方数据进行存储配置,示例性的,可以选择将数据进行本地存储或云存储。进一步,根据不同业务部门对于服务的需求,可以将多个数据接口进行接口组合操作封装为服务,供各业务系统对接调用。
S503、基于所述存储配置对所述多方数据进行存储,并进行缓存配置;
进一步,基于存储配置将多方数据进行本地化存储或云存储,并根据使用者需求对缓存自定义进行配置,例如,根据使用方业务需求配置是否使用缓存数据或使用缓存数据的时间。
S504、配置使用方对所述多方数据的使用权限;
在本实施例中,管理员还可以对使用多方数据的用户配置使用权限,以保障数据使用的安全性,示例性的,可以对数据的使用方进行白名单管理,或者配置使用方数据查看及使用的权限。
S505、对所述多方数据的使用情况进行统计分析。
优选的,通过数据统计模块对多方数据的使用情况进行统计分析,使得数据供应商可以快速获取数据使用情况的全面信息,在此基础上可以使数据供应商根据数据的使用情况对数据进行调整,提升数据服务质量。
本实施例提供的多方数据处理方法,通过对多方数据进行注册、存储配置、封装处理、缓存配置、使用权限配置以及对多方数据的使用情况进行统计分析,规范了多方数据的管理,实现了对多方数据的统一接入、存储、应用和管理,提高了多方数据的管理效率。
图6为本发明实施例提供的多方数据处理系统的硬件示意图。本领域技术人员可以理解,当该多方数据处理系统为独立的服务器时,如图6所示,本实施例提供的多方数据处理对应的服务器60包括:至少一个处理器601和存储器602。该设备60还包括通信部件603。其中,处理器601、存储器602以及通信部件603通过总线604连接。
在具体实现过程中,至少一个处理器601执行所述存储器602存储的计算机执行指令,使得至少一个处理器601执行如上多方数据处理方法。
处理器601的具体实现过程可参见上述方法实施例,其实现原理和技术效果类似,本实施例此处不再赘述。
在上述的图6所示的实施例中,应理解,处理器可以是中央处理单元(英文:Central Processing Unit,简称:CPU),还可以是其他通用处理器、数字信号处理器(英文:Digital Signal Processor,简称:DSP)、专用集成电路(英文:Application SpecificIntegrated Circuit,简称:ASIC)等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合发明所公开的方法的步骤可以直接体现为硬件处理器执行完成,或者用处理器中的硬件及软件模块组合执行完成。
存储器可能包含高速RAM存储器,也可能还包括非易失性存储NVM,例如至少一个磁盘存储器。
总线可以是工业标准体系结构(Industry Standard Architecture,ISA)总线、外部设备互连(Peripheral Component,PCI)总线或扩展工业标准体系结构(ExtendedIndustry Standard Architecture,EISA)总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示,本申请附图中的总线并不限定仅有一根总线或一种类型的总线。
本申请还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机执行指令,当处理器执行所述计算机执行指令时,实现如上多方数据处理方法。
在本发明所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。例如,以上所描述的设备实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个模块可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或模块的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个模块单独物理存在,也可以两个或两个以上模块集成在一个单元中。上述模块成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
上述以软件功能模块的形式实现的集成的模块,可以存储在一个计算机可读取存储介质中。上述软件功能模块存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(英文:processor)执行本申请各个实施例所述方法的部分步骤。
应理解,上述处理器可以是中央处理单元(英文:Central Processing Unit,简称:CPU),还可以是其他通用处理器、数字信号处理器(英文:Digital Signal Processor,简称:DSP)、专用集成电路(英文:Application Specific Integrated Circuit,简称:ASIC)等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合发明所公开的方法的步骤可以直接体现为硬件处理器执行完成,或者用处理器中的硬件及软件模块组合执行完成。
存储器可能包含高速RAM存储器,也可能还包括非易失性存储NVM,例如至少一个磁盘存储器,还可以为U盘、移动硬盘、只读存储器、磁盘或光盘等。
总线可以是工业标准体系结构(Industry Standard Architecture,ISA)总线、外部设备互连(Peripheral Component,PCI)总线或扩展工业标准体系结构(ExtendedIndustry Standard Architecture,EISA)总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示,本申请附图中的总线并不限定仅有一根总线或一种类型的总线。
上述存储介质可以是由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。存储介质可以是通用或专用计算机能够存取的任何可用介质。
本领域普通技术人员可以理解:实现上述各方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成。前述的程序可以存储于一计算机可读取存储介质中。该程序在执行时,执行包括上述各方法实施例的步骤;而前述的存储介质包括:ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。
Claims (10)
1.一种多方数据处理系统,其特征在于,所述多方数据处理系统包括:
数据注册模块,用于对多方数据的来源和多方数据对应的数据接口进行注册;
数据配置模块,用于将注册到系统中的多方数据的来源和数据接口进行配置管理,所述配置管理包括多方数据的存储配置以及数据接口的封装处理;
数据存储模块,用于基于所述存储配置对所述多方数据进行存储,并进行缓存配置;
数据共享模块,用于配置使用方对所述多方数据的使用权限;
数据统计模块,用于对所述多方数据的使用情况进行统计分析。
2.根据权利要求1所述的系统,其特征在于,所述数据注册模块具体用于:
将所述多方数据的来源进行注册;
将所述多方数据中的部分或全部数据对应的标准数据接口的第一接口信息注册到系统中;
将所述多方数据中的部分或全部数据对应的数据库表转数据接口的第二接口信息注册到系统中。
3.根据权利要求2所述的系统,其特征在于,所述数据配置模块具体用于:
将至少两个不同类型的数据接口封装为第一接口服务;
将至少两个相同类型的数据接口封装为第二接口服务,并设置所述第二接口服务的路由规则,所述路由规则包括多个接口调用的调用优先级、异常调用切换。
4.根据权利要求3所述的系统,其特征在于,所述数据配置模块还包括:
对所述数据接口进行标准映射处理,所述标准映射处理用于使得所述数据接口返回标准化数据;
其中,所述标准映射处理包括:将第一数据按照预设规则映射为标准化的第二数据,所述映射包括数据直接映射、数据编码转换或异常值处理中的至少一项。
5.根据权利要求1所述的系统,其特征在于,所述系统还包括:费用模块,其中,
所述数据统计模块具体用于:对多方数据的被调用情况进行统计,并生成可视化展示图表;
所述费用模块,用于基于所述多方数据的被调用情况的统计结果,进行费用核算并生成可视化计费报表。
6.根据权利要求5所述的系统,其特征在于,所述系统还包括:质量评估模块,其中
所述质量评估模块,用于基于所述多方数据的被调用情况的满足条件的统计结果,进行客观评估,并基于调查问卷法,对所述多方数据的被调用情况的满足条件的统计结果,进行主观评估,其中,所述满足条件的统计结果包括响应时长、调用成功率、异常调用次数、异常熔断次数或预警次数中的至少一项。
7.根据权利要求1所述的系统,其特征在于,所述数据共享模块,具体用于进行账户管理和权限管理;
其中,所述账户管理用于管理可访问所述系统的账户,所述权限管理用于管理可访问所述系统的账户的权限。
8.根据权利要求1所述的系统,其特征在于,所述系统还包括:安全管理模块,其中
所述安全管理模块,用于设置每方数据的调用频率限制、调用次数限制和调用时间段限制;
所述安全管理模块,还用于在同一服务的请求条件不满足预设条件时,触发服务熔断;
所述安全管理模块,还用于对多方数据进行安全处理,所述安全处理包括数据加密、脱敏或加水印中的至少一种。
9.一种多方数据管理系统,其特征在于,包括:多方数据供应方、业务系统和如权利要求1至8任一项所述的系统,其中
所述多方数据供应方为所述多方数据处理系统的上游系统;
所述业务系统为所述多方数据处理系统的下游系统。
10.一种多方数据处理方法,其特征在于,应用于如权利要求1至8任一项所述的多方数据处理系统,所述方法包括:
对多方数据的来源和多方数据对应的数据接口进行注册;
将注册到系统中的多方数据的来源和数据接口进行配置管理,所述配置管理包括多方数据的存储配置以及数据接口的封装处理;
基于所述存储配置对所述多方数据进行存储,并进行缓存配置;
配置使用方对所述多方数据的使用权限;
对所述多方数据的使用情况进行统计分析。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410057502.1A CN117891870A (zh) | 2024-01-15 | 2024-01-15 | 多方数据处理、管理系统及多方数据处理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410057502.1A CN117891870A (zh) | 2024-01-15 | 2024-01-15 | 多方数据处理、管理系统及多方数据处理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117891870A true CN117891870A (zh) | 2024-04-16 |
Family
ID=90648468
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202410057502.1A Pending CN117891870A (zh) | 2024-01-15 | 2024-01-15 | 多方数据处理、管理系统及多方数据处理方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117891870A (zh) |
-
2024
- 2024-01-15 CN CN202410057502.1A patent/CN117891870A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11595792B2 (en) | System and method for triggering on platform usage | |
US11178289B2 (en) | Toll-free telecommunications and data management platform | |
US9838839B2 (en) | Repackaging media content data with anonymous identifiers | |
CN103559118A (zh) | 一种基于aop与注解信息系统的安全审计方法 | |
CN115087967A (zh) | 电子多租户数据管理系统 | |
US11297105B2 (en) | Dynamically determining a trust level of an end-to-end link | |
Globa et al. | Ontology model of telecom operator big data | |
CN109284321A (zh) | 数据加载方法、装置、计算设备和计算机可读存储介质 | |
CN116308824A (zh) | 基于知识图谱的团伙欺诈风险识别方法及相关设备 | |
US10824980B2 (en) | Core process framework for integrating disparate applications | |
CN112286930A (zh) | redis业务方资源共享的方法、装置、存储介质及电子设备 | |
CN116932214A (zh) | 指令发送方法、装置、电子设备及计算机存储介质 | |
US20170124675A1 (en) | System and method for quantifying fraudulent overcharges and penalties in a claim statement | |
CN116993523A (zh) | 配置化对账方法、装置、设备及存储介质 | |
CN117891870A (zh) | 多方数据处理、管理系统及多方数据处理方法 | |
US11456996B2 (en) | Attribute-based quasi-identifier discovery | |
CN115242433A (zh) | 数据处理方法、系统、电子设备及计算机可读存储介质 | |
CN113888129A (zh) | 理赔审核的配置方法、装置及后台服务器 | |
US20200076784A1 (en) | In-Line Resolution of an Entity's Identity | |
US20210409204A1 (en) | Encryption of protected data for transmission over a web interface | |
CN113269547B (zh) | 数据处理方法、装置、电子设备和存储介质 | |
US20220321431A1 (en) | Methods and systems for managing edge web services | |
CN114661794A (zh) | 业务数据处理方法、装置、设备及介质 | |
CN115860673A (zh) | 资产数据处理方法、装置、电子设备及存储介质 | |
Zhou et al. | A Method of Dynamically Associating Behavior Risks based on Time Thread in Smartphones |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |