CN115794922A - 一种外部数据查询方法、装置、设备及存储介质 - Google Patents
一种外部数据查询方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN115794922A CN115794922A CN202211526171.9A CN202211526171A CN115794922A CN 115794922 A CN115794922 A CN 115794922A CN 202211526171 A CN202211526171 A CN 202211526171A CN 115794922 A CN115794922 A CN 115794922A
- Authority
- CN
- China
- Prior art keywords
- query
- data
- request
- external data
- outgoing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 57
- 101000633607 Bos taurus Thrombospondin-2 Proteins 0.000 claims abstract description 32
- 238000012795 verification Methods 0.000 claims abstract description 26
- 238000004590 computer program Methods 0.000 claims description 25
- 230000008569 process Effects 0.000 description 12
- 238000004140 cleaning Methods 0.000 description 9
- 238000013461 design Methods 0.000 description 9
- 230000006870 function Effects 0.000 description 9
- 230000000694 effects Effects 0.000 description 7
- 238000012545 processing Methods 0.000 description 7
- 238000013500 data storage Methods 0.000 description 6
- 239000003999 initiator Substances 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 230000002159 abnormal effect Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 3
- 238000007405 data analysis Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000012544 monitoring process Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000003203 everyday effect Effects 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 241000700189 Hystrix <Rodentia> Species 0.000 description 1
- 238000007792 addition Methods 0.000 description 1
- 238000012550 audit Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000002354 daily effect Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003032 molecular docking Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000004806 packaging method and process Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种外部数据查询方法、装置、设备及存储介质，其特征在于，包括：接收业务系统对外部数据的查询请求，并对所述查询请求进行身份校验；根据身份校验通过的查询请求，调用对应所述外部数据的供应商接口，并判断所述查询请求的发外查询标志；若所述发外查询标志为是，则直接透传查询请求，并根据查询请求，查询出所对应的第一请求数据，从而调用CISP发外查询接口，向所述业务系统返回第一请求数据；若所述发外查询标志为否，则查询本地数据库，并向所述业务系统返回本地数据库存在且在有效期内的第一查询结果。本发明解决现有技术中缺乏对外部数据查询接口进行统一规范、外部数据查询效率低下的技术问题。
Description
技术领域
本发明涉及计算机技术领域，尤其涉及一种外部数据查询方法、装置、设备及存储介质。
背景技术
银行数据分为行内数据和从行外查询回来的数据，从行外查询回来的数据统称为外部数据，外部数据的来源包括人民银行、税局等政府机构，也包括各种国有企业，还包括各种第三方数据公司。
由于外部数据供应商在接口格式、数据标准等存在差异，因此当前银行在引入、使用外部数据时会面临各业务系统使用外部数据时需要分别开发，导致时间慢、成本高，同时受限于各业务系统框架设计，查询速度无法满足高速要求，并且没有对接收的外部数据进行存储，各系统的外部数据未统一管理，无法做到已有数据的复用，重复外发的成本高，进而导致无法整合和深度挖掘客户外部数据价值，业务开展营销、风控等活动的效果不佳。
因此，目前亟需一种能够对外部数据查询接口进行统一规范、提高外部数据查询效率的方法。
发明内容
本发明提供了一种外部数据查询方法、装置、设备及存储介质，以解决现有技术中缺乏对外部数据查询接口进行统一规范、外部数据查询效率低下的技术问题。
为了解决上述技术问题，本发明实施例提供了一种外部数据查询方法，包括：
接收业务系统对外部数据的查询请求，并对所述查询请求进行身份校验；
根据身份校验通过的查询请求，调用对应所述外部数据的供应商接口，并判断所述查询请求的发外查询标志；
若所述发外查询标志为是，则直接透传查询请求，并根据查询请求，查询出所对应的第一请求数据，从而调用CISP发外查询接口，向所述业务系统返回第一请求数据；
若所述发外查询标志为否，则查询本地数据库，并向所述业务系统返回本地数据库存在且在有效期内的第一查询结果。
可以理解的是，相比于现有技术，本发明通过接收业务系统对外部数据的查询请求，并根据身份校验通过后的查询请求，来调用对应外部数据的供应商接口，以及判断查询请求中的发外查询标志，在发外查询标志为是时查询出对应的第一请求数据并发送至业务系统，在发外查询标志为否时查询本地数据库并将得到的第一查询结果发送至业务系统，使得本发明能够通过CISP发外查询接口统一进行管理，在进行外部数据查询时先通过发外查询标志判断是否需要发外查询，在无需发外查询时直接进行本地数据库的查询，提高了外部数据查询效率，提升客户查询外部数据的时效性。
作为优选方案，在所述查询本地数据库之后，还包括：
当未查询到的本地数据或查询到的本地数据不在有效期内时，直接透传查询请求，并根据查询请求，查询出所对应的第二请求数据，从而调用CISP发外查询接口，向所述业务系统返回第二请求数据。
可以理解的是，在未查询到的本地数据或查询到的本地数据不在有效期内时，通过直接透传查询请求，查询出所对应的第二请求数据，进而调用CISP发外查询接口来向业务系统返回第二请求数据，提高了外部数据查询的效率，避免本地数据库查询不出有效期内数据的情况，提高了查询成功率。
作为优选方案，在所述直接透传查询请求之后，还包括：
当根据查询请求，查询不到所对应的第一请求数据或第二请求数据时，则向所述业务系统返回查询失败。
可以理解的是，通过对查询不到所对应的第一请求数据或第二请求数据进行查询失败的返回，能够及时响应第一请求数据或第二请求数据的查询结果，避免在查询不到相应数据时出现停摆，使得本发明能够提高对外部数据的查询效率。
作为优选方案，在所述调用CISP发外查询接口之后，还包括：
将所述第一请求数据或第二请求数据缓存至所述本地数据库中。
可以理解的是，通过将查询到的第一请求数据或第二请求数据缓存至本地数据库中，能够实现业务数据的复用，提高在查询过程中的效率，并且降低了外部数据查询时的成本。
作为优选方案，所述发外查询标志还包括：强制查询本地；
若所述发外查询标志为否且强制查询本地时，查询所述本地数据库中在有效期内的本地数据，并向所述业务系统返回第二查询结果。
可以理解的是，通过发外查询标志，能够确保在进行外部数据查询时，准确地对本地数据库或外部数据进行确定，从而查询出本地数据库中在有效期内的本地数据，并向业务系统返回第二查询结果，提高了对数据查询精确度。
相应地，本发明还提供一种外部数据查询装置，包括：身份校验模块、判断模块、第一执行模块和第二执行模块；
所述身份校验模块，用于接收业务系统对外部数据的查询请求，并对所述查询请求进行身份校验；
所述判断模块，用于根据身份校验通过的查询请求，调用对应所述外部数据的供应商接口，并判断所述查询请求的发外查询标志；
所述第一执行模块，用于若所述发外查询标志为是，则直接透传查询请求，并根据查询请求，查询出所对应的第一请求数据，从而调用CISP发外查询接口，向所述业务系统返回第一请求数据；
所述第二执行模块，用于若所述发外查询标志为否，则查询本地数据库，并向所述业务系统返回本地数据库存在且在有效期内的第一查询结果。
作为优选方案，在所述查询本地数据之后，还包括：
当未查询到的本地数据或查询到的本地数据不在有效期内时，直接透传查询请求，并根据查询请求，查询出所对应的第二请求数据，从而调用CISP发外查询接口，向所述业务系统返回第二请求数据。
作为优选方案，在所述直接透传查询请求之后，还包括：
当根据查询请求，查询不到所对应的第一请求数据或第二请求数据时，则向所述业务系统返回查询失败。
作为优选方案，在所述调用CISP发外查询接口之后，还包括：
将所述第一请求数据或第二请求数据缓存至所述本地数据库中。
作为优选方案，还包括：第三执行模块；
所述第三执行模块，用于若所述发外查询标志为否且强制查询本地时，查询所述本地数据库中在有效期内的本地数据，并向所述业务系统返回第二查询结果；其中，所述发外查询标志还包括：强制查询本地。
相应地，本发明还提供一种终端设备，包括处理器、存储器以及存储在所述存储器中且被配置为由所述处理器执行的计算机程序，所述处理器在执行所述计算机程序时实现如上任一项所述的外部数据查询方法。
相应地，本发明还提供一种计算机可读存储介质，所述计算机可读存储介质包括存储的计算机程序；其中，所述计算机程序在运行时控制所述计算机可读存储介质所在的设备执行如上任一项所述的外部数据查询方法。
附图说明
图1：为本发明实施例所提供的一种外部数据查询方法的步骤流程图；
图2：为本发明实施例所提供的外部数据查询方法的具体流程图；
图3：为本发明实施例所提供的外部数据查询系统总体架构示意图；
图4：为本发明实施例所提供的微服务设计框架的结构示意图；
图5：为本发明实施例所提供的查询流程示意图；
图6：为本发明实施例所提供的接口表流程图；
图7：为本发明实施例所提供的一种外部数据查询装置的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
实施例一
请参照图1，为本发明实施例提供的一种外部数据查询方法，包括以下步骤S101－S104：
S101：接收业务系统对外部数据的查询请求，并对所述查询请求进行身份校验。
需要说明的是，查询请求中包括查询请求报文和接口码，在接收到业务系统对外部数据的查询请求后，依次解析请求报文、判断请求数据的合法性、判断请求原系统的查询权限，从而完成对查询请求进行身份校验。在本实施例中，示例性地，根据接口码TD002/TX001校验参数，来进行身份校验。
S102：根据身份校验通过的查询请求，调用对应所述外部数据的供应商接口，并判断所述查询请求的发外查询标志。
需要说明的是，请参阅图2，其为本发明实施例中外部数据查询方法的具体步骤流程，身份校验通过后根据查询请求报文中的接口码判断调用的外部数据提供商接口，其中外部数据提供商接口为外部数据所进行存储或保存的外部服务器的通信接口。
S103：若所述发外查询标志为是，则直接透传查询请求，并根据查询请求，查询出所对应的第一请求数据，从而调用CISP发外查询接口，向所述业务系统返回第一请求数据。
作为本实施例的优选方案，若所述发外查询标志为否，则查询本地数据库，并在所述查询本地数据之后，还包括：
当未查询到的本地数据或查询到的本地数据不在有效期内时，直接透传查询请求，并根据查询请求，查询出所对应的第二请求数据，从而调用CISP发外查询接口，向所述业务系统返回第二请求数据。
需要说明的是，直接透传请求，根据接口码准备并查询所要请求的数据，并调用CISP外发查询接口，来将查询出所对应的第一请求数据或第二请求数据返回至业务系统。
可以理解的是，在未查询到的本地数据或查询到的本地数据不在有效期内时，通过直接透传查询请求，查询出所对应的第二请求数据，进而调用CISP发外查询接口来向业务系统返回第二请求数据，提高了外部数据查询的效率，避免本地数据库查询不出有效期内数据的情况，提高了查询成功率。
作为本实施例的优选方案，在所述直接透传查询请求之后，还包括：
当根据查询请求，查询不到所对应的第一请求数据或第二请求数据时，则向所述业务系统返回查询失败。
可以理解的是，通过对查询不到所对应的第一请求数据或第二请求数据进行查询失败的返回，能够及时响应第一请求数据或第二请求数据的查询结果，避免在查询不到相应数据时出现停摆，使得本发明能够提高对外部数据的查询效率。
作为本实施例的优选方案，在所述调用CISP发外查询接口之后，还包括：
将所述第一请求数据或第二请求数据缓存至所述本地数据库中。
可以理解的是，通过将查询到的第一请求数据或第二请求数据缓存至本地数据库中，能够实现业务数据的复用，提高在查询过程中的效率，并且降低了外部数据查询时的成本。
S104：若所述发外查询标志为否，则查询本地数据库，并向所述业务系统返回本地数据库存在且在有效期内的第一查询结果。
作为本实施例的优选方案，所述发外查询标志还包括：强制查询本地；若所述发外查询标志为否且强制查询本地时，查询所述本地数据库中在有效期内的本地数据，并向所述业务系统返回第二查询结果。
可以理解的是，通过发外查询标志，能够确保在进行外部数据查询时，准确地对本地数据库或外部数据进行确定，从而查询出本地数据库中在有效期内的本地数据，并向业务系统返回第二查询结果，提高了对数据查询精确度。
请参阅图3，其为外部数据查询系统总体架构，微服务架构组件中的网关、Eureka、配置中心、缓存服务、日志服务、部署在云平台的docker容器中，查询服务部署在虚拟机上；通过F5实现接收请求的负载均衡部署；查询服务、缓存服务、Eureka、API GateWay、config集群、日志服务、接口配置服务均包含两个实例部署在主备服务器；Redis、Kafka、MySQL、ElasticSearch(ES)集群为专门搭建的独立集群；FI集群复用现有的统一集群；其中，服务器中包括IDM模块、微服务模块和离线数据存储模块；IDM模块包括查询模块和CISP模块；查询模块：负责权限控制、第三方行外供应商报文解析、字段校验、接口业务逻辑处理、统计等功能；CISP模块：包括对外查询、数据解析两个功能。对外查询功能负责对外部查询系统提供数据查询服务接口；数据解析功能负责获取外部报文并以json格式返回数据。微服务模块包含了查询服务和缓存服务等，其服务描述如下表所示：
离线数据存储模块用于外发查询得到的数据通过缓存服务写入ES，并同步写入NAS盘生成dat文件。dat文件会在后一天的固定时间写入FI集群，经过标准化清洗和整合后以表的形式统一存储。这些表会和行内数据进行整合和分类，最终形成客户画像。其中，Redis版本：2.9.0；Kafka版本：0.10；MySQL版本：5.6.28；ElasticSearch版本：5.6；FI版本：8.0。
实施以上实施例，具有如下效果：
本发明实施例相比于现有技术，通过接收业务系统对外部数据的查询请求，并根据身份校验通过后的查询请求，来调用对应外部数据的供应商接口，以及判断查询请求中的发外查询标志，在发外查询标志为是时查询出对应的第一请求数据并发送至业务系统，在发外查询标志为否时查询本地数据库并将得到的第一查询结果发送至业务系统，使得本发明能够通过CISP发外查询接口统一进行管理，在进行外部数据查询时先通过发外查询标志判断是否需要发外查询，在无需发外查询时直接进行本地数据库的查询，提高了外部数据查询效率，提升客户查询外部数据的时效性。
实施例二
请参阅图3，其为本发明实施例的外部数据查询系统总体架构，用于执行如实施例一所述的外部数据查询方法。
微服务使用Spring Cloud框架开发，包含以下组件：Config Client，负责读取Config Server中的配置信息；Eureka Client，负责注册应用信息到Eureka Server，供消费者发现应用；Sleuth，负责为每笔交易提供唯一的traceid，便于跟踪整个请求链路；Hystrix，负责当服务异常或流量过大时提供熔断机制，防止雪崩效应；Ribbon，供负载均衡结合Eureka Client轮询选择合适的服务实例。
请参阅图4，Eureka是服务注册中心，应用发布后会将应用信息注册到Eureka中，同时Eureka会保持和服务的心跳连接，判断服务是否可用。Eureka以两个节点作为集群提供服务。Config是集中配置管理中心，所有应用的配置信息都会放在Config－server中做统一管理，信息以文本的信息存储。Config以两个节点作为集群提供服务。API Gateway网关服务负责转发请求，能将外部请求负载均衡到合适的查询服务中。同时提供审计和日志功能。
请参阅图5，查询服务负责整个查询流程，包括数据有效性判断、标准化转换、报文解析与组装、整合更新前优先级判断。当请求报文进入时解析报文。根据报文中的查询编码字段(包括接口编码及外发标识)，并根据不同接口编码对不同的接口进行查询。如果为强制外发进入外发流程，非强制外发进入查询缓存数据流程；进入查询缓存流程后，若ES数据无效，则进入外发数据流程，返回报文中的标识为外发标识；若ES数据有效，直接返回查询所得数据，返回报文中的标识为非外发标识；外发数据流程主要包括组装对外查询报文、解析CISP外部返回数据报文、封装外部返回数据报文、字段标准化。返回报文中的标识为外发标识，并异步把数据放入消息队列中，等待消费者进行缓存操作。数据有效检查规则如下：查询索引名、索引类型、条件字段都已在接口配置信息中；数据存在且在有效期内。
缓存服务通过消息队列消费数据，并按格式组装数据缓存至ElasticSearch中，该服务可多实例运行，接口表流程图请参阅图6。
日志服务通过消息队列消费数据，并按日志格式组装数据记录至MySQL数据中，供监控使用，每笔交易应只有一条日志数据。
接口配置服务负责接口配置相关的所有增删改查操作，并定时与Redis同步配置信息。同时提供主动向Redis同步配置信息功能。增加接口表时，初始化ES索引。修改接口表时，新增或删除ES索引字段。删除接口表时，删除ES索引。
ES检索服务负责实时检索ES中的外发数据，检索方式分为单主题检索和多主体检索。单主题检索包括：输入参数，包括主题词和查询方式，主题词为指定的单个主题词，查询方式为精确检索或模糊检索；返回结果，精确匹配或模糊匹配出的结果。多主题检索包括：输入参数，主题词组；返回结果，包含主题词组内主题的结果。
Kafka消息分组转发服务，通讯前置利用Kafka生产者发布消息，参数为键值对，基于Kafka topic设定发送消息。可以提供Topic高可用能力和动态拓展能力。发布申请，申请Kafka进行消息转发，包括：入口参数和返回参数；入口参数包括：申请人、来源系统、目的地、转发说明；返回参数包括：转发申请号(拒绝申请，其他－成功申请，返回的申请号)。消息转发，包括：入口参数和返回参数；入口参数包括：申请人、申请号，转发内容；返回参数包括：转发申请成功标志(失败，成功)。转发状态查询，包括：入口参数、返回参数和返回信息：入口参数包括：申请人、申请号；返回参数包括：转发状态(等待中、转发过程中、转发成功、转发失败)；返回信息包括：转发失败的信息。
Kafka参数设置如下：
ES存储外发接收的数据，负责提供已有数据的实时查询，避免有效期内的重复外发。ES数据来源于CISP解析报文后返回的接口数据。接口表数据由index和type组成，index为供应商简称，type为供应商名称+接口编码。接口表只存储有效期内数据，超过有效期数据会被清理。接口表索引结构包括：主键(姓名，证件类型，证件号码，手机号等)+更新时间+数据解析后的报文体数据。请求ES获取本地数据时，请求参数为：主键(姓名，证件类型，证件号码，手机号)。
Redis存储辅助表数据，用于提取ES数据时清理及整合数据。接口有效期表，其字段包括供应商简称+接口编码、接口有效期。数据标准化映射表，其字段包括字段原值、映射值等。接口配置信息包括接口表和全字段表；其中，接口表，其字段包括供应商简称+接口编码、ES索引名等。全字段表，其字段包括供应商简称+接口编码、json串行化字段等。MYSQL存储设计，包括监控日志表结构设计和接口配置表结构设计；监控日志表结构设计的字段包括ID、日志类型、日志记录时间、源发起方标识、源发起方渠道代码等；接口配置表结构设计包括接口配置表和接口配置字段表；其中，接口配置表字段包括接口ID、供应商简称+接口编码、ES索引名等；接口配置字段表字段包括接口ID、字段中文名、字段英文名等。
对于HIVE数据表设计，离线数据存储在HIVE库，划分数据层级如下：C层缓冲数据层：存储ES每天增量接口表数据，每天从ETL服务器的NAS盘读取数据到HIVE库；O层整合数据层：对C层数据进行清洗和整合；A层加工数据层：对O层数据进行深度的主题加工，形成客户画像。数据存储流程为：外部数据查询系统每日下发标准化后的T+1增量数据文件至ETL服务器的NAS盘；将NAS盘上的增量数据文件通过LOAD上传至离线区的HDFS上的C层，保存历史数据；将C层中的数据通过加载进当前O层增量表中，解析O层增量表中当天含大字段(JSON格式串)的增量数据，并拆分成多个子表；对O层当天增量数据进行主题加工，形成A层客户画像数据。其中，数据存储设计为：C层表命名规则：WBSJ＿C＿供应商标志＿接口码；C层文件命名规范：WBSJ＿C＿供应商标志＿接口码+批次日期(YYYYMMDD).dat；O层表命名规则：WBSJ＿O＿供应商标志＿接口码＿A；O层数据文件命名规范：WBSJ＿O＿供应商标志＿接口码＿A+批次日期(YYYYMMDD).dat。数据存储规则为：C层直接存储原始数据；O层对C层数据进行清洗，可示例性地，清洗的规则如下：
规则一：身份证号数据清洗规则，包括：
长度为15或18位；不能15、18位都为0；除最后一位外，其它都必须为数字；前两位为身份对应代码；第三、四位不能为00；年份不能小于0，大于系统当前时间；月份不能小于0，大于12；日期根据月份不能小于0，大于该月份的最大时间；当日期为2月29日时，判断该年份是否为闰月；18位身份证根据前17位通过公式算出对应的校验码{7，9，10，5，8，4，2，1，6，3，7，9，10，5，8，4，2，1}，前17位分别乘以对应的数值求和，结果除以11取余得到下面数组的下标，{“1”，“0”，“X”，“9”，“8”，“7”，“6”，“5”，“4”，“3”，“2”}获取对应的值看是否与第18位校验码相同。
规则二：除身份证外的证件类数据清洗规则，包括：
将4位或者18位都是0的进行清洗。
规则三：手机、电话类数据清洗规则，包括：
长度位数必须大于7；过滤掉出现：0000000、1111111、2222222、8888888、12345678字符串的情况。
规则四：异常字符数据清洗规则，包括：
过滤异常换行符；
数据存储规则还包括个人数据主题，A层对O层数据进行三级的主题划分，对个人和企业划分的主题如下：
企业数据主题
关于接口设计IDM模块－微服务模块这两个模块之间的交互方式包括单笔查询接口、批量查询接口、解析报文接收接口等。接口采用REST方式http协议，统一为JSON格式和UTF－8编码格式。处理成功时，状态码返回。报文基本结构由报文头和报文体组成。
IDM模块以报文格式，向微服务模块发起请求。
其中，请求报文头，包括交易代码、源发起方标识、源发起方流水号、请求时间、查询编码等；请求报文体包括姓名、证件类型、证件号码、扩展字段等。
微服务模块收到IDM请求后会以报文格式响应，返回结果数据。
其中，返回数据报文头包括请求状态代码、请求描述、查询结果等；返回数据报文体包括具体的数据内容。
关于微服务模块－CISP模块，CISP与外部数据供应商的接口、CISP与微服务的接口也都采用REST方式http协议，统一为JSON格式和UTF－8编码格式。处理成功时，状态码返回。报文基本结构由报文头和报文体组成。
CISP模块以报文格式，向外部数据供应商发起请求。
其中，请求报文头包括交易代码、源发起方标识、源发起方流水号、请求时间、查询编码等；请求报文体包括姓名、证件类型、证件号码、扩展字段等。
外部数据供应商收到CISP模块请求后会以报文格式响应，返回结果数据。
其中，返回报文头包括请求状态代码、请求描述、查询结果等；返回报文体包括具体的数据内容。
实施本发明实施例，具有如下效果：
针对不同外部数据供应商，现有技术一般采用不同的接口规范标准来提升开发速度；而本发明使用微服务框架，不仅能统一标准查询接口开发规范，还可以保证迅速上线，减少系统对接成本；对于现有的硬件架构，现有技术一般采用各业务部门分开单独部署；而本发明使用整套大数据架构，方便扩容，极大提升客户查询外部数据的时效性；对于已查询回来的外部数据，现有技术一般只在查询的场景使用，想要使用必须再次外发查询；而本发明通过对外部数据的标准化清洗并存储，实现业务有效期内的数据复用，极大降低成本；对于外部数据的深度挖掘，现有技术一般只限于查询系统内的探索；而本发明利用大数据技术对外部数据进行整合加工和深度挖掘，生成全面的客户画像，辅助全行业务开展营销、风控等活动。
实施例三
请参阅图7，其为本发明实施例还提供一种外部数据查询装置，包括：身份校验模块201、判断模块202、第一执行模块203和第二执行模块204。
所述身份校验模块201，用于接收业务系统对外部数据的查询请求，并对所述查询请求进行身份校验。
所述判断模块202，用于根据身份校验通过的查询请求，调用对应所述外部数据的供应商接口，并判断所述查询请求的发外查询标志。
所述第一执行模块203，用于若所述发外查询标志为是，则直接透传查询请求，并根据查询请求，查询出所对应的第一请求数据，从而调用CISP发外查询接口，向所述业务系统返回第一请求数据。
所述第二执行模块204，用于若所述发外查询标志为否，则查询本地数据库，并向所述业务系统返回本地数据库存在且在有效期内的第一查询结果。
作为优选方案，在所述查询本地数据库之后，还包括：
当未查询到的本地数据或查询到的本地数据不在有效期内时，直接透传查询请求，并根据查询请求，查询出所对应的第二请求数据，从而调用CISP发外查询接口，向所述业务系统返回第二请求数据。
作为优选方案，在所述直接透传查询请求之后，还包括：
当根据查询请求，查询不到所对应的第一请求数据或第二请求数据时，则向所述业务系统返回查询失败。
作为优选方案，在所述调用CISP发外查询接口之后，还包括：
将所述第一请求数据或第二请求数据缓存至所述本地数据库中。
作为优选方案，本发明实施例还包括：第三执行模块；所述第三执行模块，用于若所述发外查询标志为否且强制查询本地时，查询所述本地数据库中在有效期内的本地数据，并向所述业务系统返回第二查询结果；其中，所述发外查询标志还包括：强制查询本地。
所属领域的技术人员可以清楚的了解到，为描述的方便和简洁，上述描述的装置的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
实施本发明实施例，具有如下效果：
本发明实施例相比于现有技术，通过接收业务系统对外部数据的查询请求，并根据身份校验通过后的查询请求，来调用对应外部数据的供应商接口，以及判断查询请求中的发外查询标志，在发外查询标志为是时查询出对应的第一请求数据并发送至业务系统，在发外查询标志为否时查询本地数据库并将得到的第一查询结果发送至业务系统，使得本发明能够通过CISP发外查询接口统一进行管理，在进行外部数据查询时先通过发外查询标志判断是否需要发外查询，在无需发外查询时直接进行本地数据库的查询，提高了外部数据查询效率，提升客户查询外部数据的时效性。
实施例三
相应地，本发明还提供一种终端设备，包括：处理器、存储器以及存储在所述存储器中且被配置为由所述处理器执行的计算机程序，所述处理器执行所述计算机程序时实现如上任意一项实施例所述的外部数据查询方法。
该实施例的终端设备包括：处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序、计算机指令。所述处理器执行所述计算机程序时实现上述实施例一中的各个步骤，例如图1所示的步骤S101至S104。或者，所述处理器执行所述计算机程序时实现上述装置实施例中各模块/单元的功能，例如身份校验模块201。
示例性的，所述计算机程序可以被分割成一个或多个模块/单元，所述一个或者多个模块/单元被存储在所述存储器中，并由所述处理器执行，以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述所述计算机程序在所述终端设备中的执行过程。例如，所述判断模块202，用于根据身份校验通过的查询请求，调用对应所述外部数据的供应商接口，并判断所述查询请求的发外查询标志。
所述终端设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述终端设备可包括，但不仅限于，处理器、存储器。本领域技术人员可以理解，示意图仅仅是终端设备的示例，并不构成对终端设备的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如所述终端设备还可以包括输入输出设备、网络接入设备、总线等。
所称处理器可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现成可编程门阵列(Field－Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等，所述处理器是所述终端设备的控制中心，利用各种接口和线路连接整个终端设备的各个部分。
所述存储器可用于存储所述计算机程序和/或模块，所述处理器通过运行或执行存储在所述存储器内的计算机程序和/或模块，以及调用存储在存储器内的数据，实现终端设备的各种功能。所述存储器可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序等；存储数据区可存储根据移动终端的使用所创建的数据等。此外，存储器可以包括高速随机存取存储器，还可以包括非易失性存储器，例如硬盘、内存、插接式硬盘，智能存储卡(Smart Media Card，SMC)，安全数字(SecureDigital，SD)卡，闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
其中，所述终端设备集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，所述计算机程序包括计算机程序代码，所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read－Only Memory)、随机存取存储器(RAM，Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是，所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。
实施例四
相应地，本发明还提供一种计算机可读存储介质，所述计算机可读存储介质包括存储的计算机程序，其中，在所述计算机程序运行时控制所述计算机可读存储介质所在设备执行如上任意一项实施例所述的外部数据查询方法。
以上所述的具体实施例，对本发明的目的、技术方案和有益效果进行了进一步的详细说明，应当理解，以上所述仅为本发明的具体实施例而已，并不用于限定本发明的保护范围。特别指出，对于本领域技术人员来说，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。
Claims (10)
1.一种外部数据查询方法，其特征在于，包括：
接收业务系统对外部数据的查询请求，并对所述查询请求进行身份校验；
根据身份校验通过的查询请求，调用对应所述外部数据的供应商接口，并判断所述查询请求的发外查询标志；
若所述发外查询标志为是，则直接透传查询请求，并根据查询请求，查询出所对应的第一请求数据，从而调用CISP发外查询接口，向所述业务系统返回第一请求数据；
若所述发外查询标志为否，则查询本地数据库，并向所述业务系统返回本地数据库存在且在有效期内的第一查询结果。
2.如权利要求1所述的一种外部数据查询方法，其特征在于，在所述查询本地数据库之后，还包括：
当未查询到的本地数据或查询到的本地数据不在有效期内时，直接透传查询请求，并根据查询请求，查询出所对应的第二请求数据，从而调用CISP发外查询接口，向所述业务系统返回第二请求数据。
3.如权利要求1或2所述的一种外部数据查询方法，其特征在于，在所述直接透传查询请求之后，还包括：
当根据查询请求，查询不到所对应的第一请求数据或第二请求数据时，则向所述业务系统返回查询失败。
4.如权利要求3所述的一种外部数据查询方法，其特征在于，在所述调用CISP发外查询接口之后，还包括：
将所述第一请求数据或第二请求数据缓存至所述本地数据库中。
5.如权利要求1所述的一种外部数据查询方法，其特征在于，所述发外查询标志还包括：强制查询本地；
若所述发外查询标志为否且强制查询本地时，查询所述本地数据库中在有效期内的本地数据，并向所述业务系统返回第二查询结果。
6.一种外部数据查询装置，其特征在于，包括：身份校验模块、判断模块、第一执行模块和第二执行模块；
所述身份校验模块，用于接收业务系统对外部数据的查询请求，并对所述查询请求进行身份校验；
所述判断模块，用于根据身份校验通过的查询请求，调用对应所述外部数据的供应商接口，并判断所述查询请求的发外查询标志；
所述第一执行模块，用于若所述发外查询标志为是，则直接透传查询请求，并根据查询请求，查询出所对应的第一请求数据，从而调用CISP发外查询接口，向所述业务系统返回第一请求数据；
所述第二执行模块，用于若所述发外查询标志为否，则查询本地数据库，并向所述业务系统返回本地数据库存在且在有效期内的第一查询结果。
7.如权利要求6所述的一种外部数据查询装置，其特征在于，在所述查询本地数据库之后，还包括：
当未查询到的本地数据或查询到的本地数据不在有效期内时，直接透传查询请求，并根据查询请求，查询出所对应的第二请求数据，从而调用CISP发外查询接口，向所述业务系统返回第二请求数据。
8.如权利要求6所述的一种外部数据查询装置，其特征在于，还包括：第三执行模块；
所述第三执行模块，用于若所述发外查询标志为否且强制查询本地时，查询所述本地数据库中在有效期内的本地数据，并向所述业务系统返回第二查询结果；其中，所述发外查询标志还包括：强制查询本地。
9.一种终端设备，其特征在于，包括处理器、存储器以及存储在所述存储器中且被配置为由所述处理器执行的计算机程序，所述处理器在执行所述计算机程序时实现如权利要求1－5中任一项所述的外部数据查询方法。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质包括存储的计算机程序；其中，所述计算机程序在运行时控制所述计算机可读存储介质所在的设备执行如权利要求1－5中任一项所述的外部数据查询方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211526171.9A CN115794922A (zh) | 2022-11-29 | 2022-11-29 | 一种外部数据查询方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211526171.9A CN115794922A (zh) | 2022-11-29 | 2022-11-29 | 一种外部数据查询方法、装置、设备及存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN115794922A true CN115794922A (zh) | 2023-03-14 |
Family
ID=85444237
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202211526171.9A Pending CN115794922A (zh) | 2022-11-29 | 2022-11-29 | 一种外部数据查询方法、装置、设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN115794922A (zh) |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20130304756A1 (en) * | 2012-05-09 | 2013-11-14 | Sap Ag | Generalizing Formats of Business Data Queries and Results |
| CN103608810A (zh) * | 2011-06-14 | 2014-02-26 | 微软公司 | 使用来自外部数据源的数据来丰富数据库查询响应 |
| CN112818016A (zh) * | 2021-01-21 | 2021-05-18 | 广州汇通国信科技有限公司 | 基于api的实时、离线数据查询方法及系统 |
| CN113806430A (zh) * | 2021-06-07 | 2021-12-17 | 广发银行股份有限公司 | 一种多功能数据管理平台 |
| CN114218315A (zh) * | 2021-12-16 | 2022-03-22 | 平安壹钱包电子商务有限公司 | 接口生成方法、装置、计算机设备及存储介质 |
| CN114996675A (zh) * | 2022-06-23 | 2022-09-02 | 平安科技（深圳）有限公司 | 数据查询方法、装置、计算机设备及存储介质 |
-
2022
- 2022-11-29 CN CN202211526171.9A patent/CN115794922A/zh active Pending
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103608810A (zh) * | 2011-06-14 | 2014-02-26 | 微软公司 | 使用来自外部数据源的数据来丰富数据库查询响应 |
| US20130304756A1 (en) * | 2012-05-09 | 2013-11-14 | Sap Ag | Generalizing Formats of Business Data Queries and Results |
| CN112818016A (zh) * | 2021-01-21 | 2021-05-18 | 广州汇通国信科技有限公司 | 基于api的实时、离线数据查询方法及系统 |
| CN113806430A (zh) * | 2021-06-07 | 2021-12-17 | 广发银行股份有限公司 | 一种多功能数据管理平台 |
| CN114218315A (zh) * | 2021-12-16 | 2022-03-22 | 平安壹钱包电子商务有限公司 | 接口生成方法、装置、计算机设备及存储介质 |
| CN114996675A (zh) * | 2022-06-23 | 2022-09-02 | 平安科技（深圳）有限公司 | 数据查询方法、装置、计算机设备及存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10560465B2 (en) | Real time anomaly detection for data streams | |
| US10447772B2 (en) | Managed function execution for processing data streams in real time | |
| CN111429241A (zh) | 一种账务处理方法和装置 | |
| CN112445866A (zh) | 数据处理方法、装置、计算机可读介质及电子设备 | |
| US11178197B2 (en) | Idempotent processing of data streams | |
| CN113791586A (zh) | 一种新型的工业app与标识注册解析集成方法 | |
| CN107451301B (zh) | 实时投递账单邮件的处理方法、装置、设备和存储介质 | |
| CN113641633B (zh) | 文件处理方法、装置、电子设备、介质和计算机程序 | |
| CN113934733A (zh) | 问题定位方法、装置、系统、存储介质及电子设备 | |
| CN112579673A (zh) | 一种多源数据处理方法及装置 | |
| CN111143461A (zh) | 映射关系处理系统、方法和电子设备 | |
| CN115794922A (zh) | 一种外部数据查询方法、装置、设备及存储介质 | |
| CN111858621A (zh) | 监控业务流程的方法、装置、设备和计算机可读介质 | |
| US11656972B1 (en) | Paginating results obtained from separate programmatic interfaces | |
| CN111782428B (zh) | 数据调用系统以及方法 | |
| CN114925343A (zh) | 一种处理权限数据的方法和装置 | |
| CN111639936B (zh) | 交易信息的获取方法、装置、电子设备及可读存储介质 | |
| CN117472871A (zh) | 一种数据分析方法、装置、电子设备及计算机可读介质 | |
| CN115619522A (zh) | 一种生成回单的方法和装置 | |
| CN116910067A (zh) | 实时数据入库方法、装置、设备及存储介质 | |
| CN117827903A (zh) | 一种基于政策与企业大数据的精准匹配系统 | |
| CN118585569A (zh) | 一种数据导入方法和装置 | |
| CN117992209A (zh) | 资源申请方法、装置、电子设备及存储介质 | |
| CN113111051A (zh) | 一种数据迁移方法和装置 | |
| CN115374339A (zh) | 基于Spring AOC面向切面思想开发的数据接收保存推送补偿方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20230314 |