CN111597196A - 一种数据处理方法、装置和电子设备 - Google Patents

一种数据处理方法、装置和电子设备 Download PDF

Info

Publication number
CN111597196A
CN111597196A CN202010386137.0A CN202010386137A CN111597196A CN 111597196 A CN111597196 A CN 111597196A CN 202010386137 A CN202010386137 A CN 202010386137A CN 111597196 A CN111597196 A CN 111597196A
Authority
CN
China
Prior art keywords
data
intranet
metadata
database
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010386137.0A
Other languages
English (en)
Other versions
CN111597196B (zh
Inventor
季昆鹏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202010386137.0A priority Critical patent/CN111597196B/zh
Publication of CN111597196A publication Critical patent/CN111597196A/zh
Application granted granted Critical
Publication of CN111597196B publication Critical patent/CN111597196B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/23Updating
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/25Integrating or interfacing systems involving database management systems
    • G06F16/258Data format conversion from or to a database
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/27Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor

Landscapes

  • Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请公开了一种数据处理方法、装置和电子设备,涉及计算机技术领域中的数据处理领域。具体实现方案为:一种数据处理方法,包括:基于第一内网用户设定的数据查询条件在外网数据库中进行查询,得到第一目标数据;将所述第一目标数据转换为预设格式,得到第一元数据;将所述第一元数据存入内网数据库,其中,所述内网数据库包括所述预设格式的内网数据。本申请提供的一种数据处理方法、装置和电子设备,可以解决现有技术中在对外网数据与内网数据进行整合时,存在的数据整合效率低的问题。

Description

一种数据处理方法、装置和电子设备
技术领域
本申请涉及计算机技术领域中的数据处理领域,具体涉及一种数据处理方法、装置和电子设备。
背景技术
目前,在公安系统进行案件办理的过程中,通常是在公安系统已掌握的内网数据的基础进行数据分析。但公安系统所掌握的内网数据通常较为有限,很难对案件进行全面分析,为此,现有技术中,提出了可以将公安系统的内网数据与互联网数据相结合,以提高案件分析的全面性。由于公安领域特殊的安全性要求,外网数据(如互联网数据)无法直接接入公安系统的内网数据库,现有技术中,通常是由专门的维护人员将外网数据与公安系统的内网数据进行整合,以便于后续进行数据分析,然而,通过人工对外网数据与内网数据进行整合,存在数据整合效率低的问题。
发明内容
本申请提供一种数据处理方法、装置和电子设备,以解决现有技术中在对外网数据与内网数据进行整合时,存在的数据整合效率低的问题。
第一方面,本申请提供一种数据处理方法,其特征在于,包括:
基于第一内网用户设定的数据查询条件在外网数据库中进行查询,得到第一目标数据;
将所述第一目标数据转换为预设格式,得到第一元数据;
将所述第一元数据存入内网数据库,其中,所述内网数据库包括所述预设格式的内网数据。
这样,通过基于第一内网用户设定的查询条件在外网数据库中进行查询,以实现在外网数据库中自动查询用于与内网数据进行整合的外网数据,从而提高了整合的效率;此外,在查询到第一目标数据后,将查询到的第一目标数据转换为与内网数据相同的元数据格式,并存储于内网数据库中,从而提高了内网数据与外网数据的融合效果。本申请实施例中,仅需内网用户设定数据查询条件,即可完成外网数据与内网数据的整合,解决了现有技术中在对外网数据与内网数据进行整合时,存在的数据整合效率低的问题。
可选地,所述方法还包括:
在接收到第二内网用户的数据写入请求的情况下,接收所述第二内网用户发送的第二目标数据;
将所述第二目标数据转换为所述预设格式,得到第二元数据;
将所述第二元数据存入所述内网数据库。
该实施方式中,内网用户可以将所收集到的内网数据直接存入内网数据库,以提高内网数据库中的数据的全面性,同时,在将内网数据存入内网数据库时,将内网数据转换为预设格式的元数据,可以实现内网数据与外网数据的自动融合。
可选地,所述方法还包括:
接收第三内网用户的数据访问请求;
在所述内网数据库中读取第三元数据,其中,所述第三元数据为所述数据访问请求所访问的元数据;
向所述第三内网用户发送所述第三元数据。
该实施方式中,通过接收第三内网用户的数据访问请求,并在在所述内网数据库中读取第三元数据,其中,所述第三元数据为所述数据访问请求所访问的元数据,然后,向所述第三内网用户发送所述第三元数据,从而实现内网用户的数据查询过程。
可选地,所述数据访问请求包括验证信息,所述在所述内网数据库中读取第三元数据包括:
在基于所述验证信息确定所述第三内网用户具备对所述第三元数据的访问权限的情况下,在所述内网数据库中读取第三元数据。
该实施方式中,通过对数据访问请求中的验证信息进行验证,并在验证通过后向第三内网用户发送第三元数据,从而提高了内网数据库中所存储的元数据的安全性。
可选地,所述基于第一内网用户设定的数据查询条件在外网数据库中进行查询,得到第一目标数据,包括:
基于第一内网用户设定的数据查询条件,每隔预设时长在所述外网数据库中进行查询,得到至少一个所述第一目标数据。
该实施方式中,上述预设时长可以是预先配置的一个时间值,例如,可以是5分钟、1分钟、30秒或者5秒等相对较小的时间值,这样,在外网数据有更新时,可以及时将外网数据整合至内网数据库,从而提高了数据整合的效果。
第二方面,本申请提供一种数据处理装置,包括:
查询模块,用于基于第一内网用户设定的数据查询条件在外网数据库中进行查询,得到第一目标数据;
格式转换模块,用于将所述第一目标数据转换为预设格式,得到第一元数据;
存储模块,用于将所述第一元数据存入内网数据库,其中,所述内网数据库包括所述预设格式的内网数据。
可选地,所述装置还包括:
第一接收模块,用于在接收到第二内网用户的数据写入请求的情况下,接收所述第二内网用户发送的第二目标数据;
所述格式转换模块,还用于将所述第二目标数据转换为所述预设格式,得到第二元数据;
所述存储模块,还用于将所述第二元数据存入所述内网数据库。
可选地,所述装置还包括:
第二接收模块,用于接收第三内网用户的数据访问请求;
读取模块,用于在所述内网数据库中读取第三元数据,其中,所述第三元数据为所述数据访问请求所访问的元数据;
发送模块,用于向所述第三内网用户发送所述第三元数据。
可选地,所述数据访问请求包括验证信息;
所述读取模块,具体用于在基于所述验证信息确定所述第三内网用户具备对所述第三元数据的访问权限的情况下,在所述内网数据库中读取第三元数据。
可选地,所述查询模块,具体用于基于第一内网用户设定的数据查询条件,每隔预设时长在所述外网数据库中进行查询,得到至少一个所述第一目标数据。
第三方面,本申请提供一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行本申请提供的数据处理方法步骤。
第四方面,本申请提供一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行本申请提供的数据处理方法步骤。
上述申请中的一个实施例具有如下优点或有益效果:通过基于第一内网用户设定的查询条件在外网数据库中进行查询,以实现在外网数据库中自动查询用于与内网数据进行整合的外网数据,在查询到第一目标数据后,将查询到的第一目标数据转换为与内网数据相同的元数据格式,并存储于内网数据库中,以提高内网数据与外网数据的融合效果。本申请实施例中,仅需内网用户设定数据查询条件,即可完成外网数据与内网数据的自动整合,从而提高了数据整合的效率,解决了现有技术中在对外网数据与内网数据进行整合时,存在的数据整合效率低的问题。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是本申请实施例中所提供的数据处理方法的流程图之一;
图2是本申请实施例中公安系统的服务器各个模块的部署的结构示意图;
图3是本申请实施例中所提供的数据处理装置的结构示意图;
图4是用来实现本申请实施例的数据处理的方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
请参见图1,图1是本申请实施例提供的一种数据处理方法,包括:
步骤101、基于第一内网用户设定的数据查询条件在外网数据库中进行查询,得到第一目标数据。
其中,上述第一内网用户可以是某一内部网络环境中的用户,其中,该内部网络环境可以与外部网络之间存在物理隔离,以确保内部网络中存储或传输的数据的安全性。其中,所述内部网络环境可以是特定企业或者特定机构的内部网络,例如,可以是公安系统的内部网络或者民政系统的内部网络等。为了便于理解,下文以公安系统的内部网络为例,对本申请提供方法进行具体说明。
上述外网数据库可以是指除公安系统内部网络之外的其他环境下的数据库,例如,可以是互联网数据库、民政系统内部数据库或者某一企业内部的数据库等。
具体地,上述数据处理方法可以应用于公安系统的服务器。上述数据查询条件可以是与所办理的案件相关的一些条件,例如,当需要调查某一嫌疑人在网络上的活动记录时,可以将该嫌疑人的身份信息作为查询条件,这样,公安系统的服务器可以基于内网用户输入的数据查询条件在互联网数据库中自动查询与该嫌疑人相关的互联网活动记录相关的数据,从而得到所述第一目标数据。再例如,当需要调查某一嫌疑人是否在指定时间段出现于某一区域时,可以将某一区域的位置坐标及所述指定时间段作为查询条件,由公安系统的服务器在用于存储不同区域的影像信息的数据库中进行查询,以获得所述第一目标数据。
步骤102、将所述第一目标数据转换为预设格式,得到第一元数据。
其中,由于从外网数据库中获取到的第一目标数据可以是各种类型的数据,因此,若直接将从外网数据库中所获取到的各种类型的数据存储于公安系统的内网数据库,将导致内网数据库中存在多种不同类型的数据,不同类型之间的数据无法进行相互融合,从而无法实现将所获取的外网数据与内网数据之间的融合。为此,本实施例中,通过将在外网数据库中所查询得到的各种类型的第一目标数据统一转换为预设格式的元数据,其中,所述预设格式可以是元数据的格式。由于元数据作为一种中介数据,可以与各种类型的数据进行相互转换,因此,为了实现将各种类型的数据转换为统一的格式,可以将各种类型的第一目标数据统一转换元数据格式。且通过将各种类型的第一目标数据统一转换元数据格式,当内网用户需要调取内网数据库中的某一元数据时,还可以将该元数据转换为其原始的格式或者用户指定的格式进行显示。
步骤103、所述第一元数据存入内网数据库,其中,所述内网数据库包括所述预设格式的内网数据。
其中,在将从外网数据库中所获取到的第一目标数据转换为元数据格式后,可以直接将转换得到的第一元数据存入所述内网数据库。公安系统的内部数据可以以元数据的形式存储于所述内网数据库,这样,无论是公安系统的内部数据还是从外部获取到的外网数据,均以元数据格式存储于内网数据库,从而实现了内网数据与外网数据之间的融合,提高了外网数据与内网数据之间的整合效果。
本实施例中,通过基于第一内网用户设定的查询条件在外网数据库中进行查询,以实现在外网数据库中自动查询用于与内网数据进行整合的外网数据,在查询到第一目标数据后,将查询到的第一目标数据转换为与内网数据相同的元数据格式,并存储于内网数据库中,以提高内网数据与外网数据的融合效果。本申请实施例中,仅需内网用户设定数据查询条件,即可完成外网数据与内网数据的自动整合,从而提高了数据整合的效率,解决了现有技术中在对外网数据与内网数据进行整合时,存在的数据整合效率低的问题。
可选地,所述方法还包括:
在接收到第二内网用户的数据写入请求的情况下,接收所述第二内网用户发送的第二目标数据;
将所述第二目标数据转换为所述预设格式,得到第二元数据;
将所述第二元数据存入所述内网数据库。
其中,所述第二内网用户可以是上述第一内网用户,也可以是公安系统的内部网络中,除第一内网用户之外的其他内网用户。
由于在案件办理过程中,办案人员通常也会主动收集与案件相关的证据,因此,当办案人员收集到相关证据时,可以直接写入内网数据库,以便于将所有与案件办理相关的数据存储于同一位置,当内网用户需要调取与案件相关的数据时,可以基于特定的查询条件,在内网数据库中进行查询,即可查询出与案件办理相关的所有数据,其中,所查询到的数据既可以包括内网用户写入的数据,也可以包括从外网数据库中所调取的数据,从而保证了数据获取的全面性。
具体而言,由于办案人员可能收集到与案件相关的各种类型的数据,为实现内网数据与外网数据之间的融合,因此,在接收到第二内网用户发送的第二目标数据之后,可以先将第二目标数据转换为元数据格式的数据,然后,将转换后的数据存储于内网数据库。
本实施例中,内网用户可以将所收集到的内网数据直接存入内网数据库,以提高内网数据库中的数据的全面性,同时,在将内网数据存入内网数据库时,将内网数据转换为预设格式的元数据,可以实现内网数据与外网数据的自动融合。
可选地,所述方法还包括:
接收第三内网用户的数据访问请求;
在所述内网数据库中读取第三元数据,其中,所述第三元数据为所述数据访问请求所访问的元数据;
向所述第三内网用户发送所述第三元数据。
其中,所述第三内网用户可以是上述实施例中的第一内网用户或者第二内网用户,也可以是公安系统的内部网络中,除第一内网用户和第二内网用户之外的其他内网用户。
具体地,在案件办理的过程中,公安系统的内网用户可以在内网数据库中查询与案件办理相关的数据。例如,内网用户可以在内网数据库中搜索某一嫌疑人的身份信息,即可查询到存储与内网数据库中所有与该嫌疑人相关的数据。
应当理解的,上述第三元数据指的是内网数据库中所有与所述数据访问请求相对应的数据的统称,例如,内网用户可以在内网数据库中搜索某一嫌疑人的身份信息,此时,内网数据库中所存储的所有与该嫌疑人相关的元数据统称为第三元数据。因此,基于嫌疑人的身份信息可能搜索到一个第三元数据,也可能搜索到多个第三元数据。
相应地,上述在所述内网数据库中读取第三元数据,可以是指在内网数据库中读取所有第三元数据,并将所读取到的所有第三元数据发送至第三内网用户。
该实施方式中,通过接收第三内网用户的数据访问请求,并在在所述内网数据库中读取第三元数据,其中,所述第三元数据为所述数据访问请求所访问的元数据,然后,向所述第三内网用户发送所述第三元数据,从而实现内网用户的数据查询过程。
可选地,所述数据访问请求包括验证信息,所述在所述内网数据库中读取第三元数据包括:
在基于所述验证信息确定所述第三内网用户具备对所述第三元数据的访问权限的情况下,在所述内网数据库中读取第三元数据。
其中,为了确保存储于内网数据库中的数据的安全性,避免与案件无关的内网用户也能够查询到案件的相关信息,可以将内网数据库中的元数据按照案件进行分类储存,即将同一案件的所有元数据统一存储,并可为该案件相关的所有元数据设置访问权限,例如,为办理该案件的内网用户设置访问权限,这样,只有办理相关案件的内网用户才具备访问该案件的权限,从而提高了存储于内网数据库中的数据的安全性。
具体地,上述验证信息可以是第三内网用户的身份信息,例如,第三内网用户的ID账号。在接收到第三内网用户发送的数据访问请求的情况下,基于所述数据访问请求确定第三内网用户所要访问的第三元数据,然后,基于所述第三内网用户的身份信息确定该第三内网用户是否具备访问该第三元数据的权限,若具备访问权限,则将所确定的第三元数据发送至第三内网用户,若不具备访问权限,则可向第三内网用户发送提示信息,提示内容可以是“不具备该数据的访问权限”。
本实施例中,通过对数据访问请求中的验证信息进行验证,并在验证通过后向第三内网用户发送第三元数据,从而提高了内网数据库中所存储的元数据的安全性。
可选地,在向第三内网用户发送所述第三元数据之后,所述方法还包括:生成与所述数据访问请求相对应的访问记录信息,其中,所述访问记录信息可以包括所述第三内网用户的身份信息和所述第三元数据;将所述访问记录信息存储于所述内网数据库。这样,可以便于记录哪些人员查询过哪些数据。
可选地,所述基于第一内网用户设定的数据查询条件在外网数据库中进行查询,得到第一目标数据,包括:
基于第一内网用户设定的数据查询条件,每隔预设时长在所述外网数据库中进行查询,得到至少一个所述第一目标数据。
具体地,上述预设时长可以是预先配置的一个时间值,例如,可以是5分钟、1分钟、30秒或者5秒等相对较小的时间值,这样,在外网数据有更新时,可以及时将外网数据整合至内网数据库,从而提高了数据整合的效果。
为了实现上述实施例所提供的数据处理方法,下文结合图2对公安系统的服务器的各组成模块的部署方式进行进一步解释说明。请参见图2,所述服务器包括:
内外网双向数据传输系统,用于基于内网用户输入的数据查询条件,代替内网用户向外网数据库发送查询请求,并获得所查询到的外网数据。所述内外网双向数据传输系统可以采用公安领域中常用的比如文件传输协议(File Transfer Protocol,FTP)、光码机等方案。
通用的查询写入模块,所述通用的查询写入模块可以提供通用的查询结果和写入结果的接口,接口和底层数据的存储具有通用化、可拓展的特点,避免针对不同类型的数据需要开发不同的服务开销。
时空基础数据传输模块,所述时空基础数据传输模块用于将内外网双向数据传输系统所查询到的外网数据写入时空黑盒数据库。其中,所述时空基础数据传输模块提供通用的写入接口,该写入接口具有归一化的元数据处理功能,即能够将外网数据或者内网用户输入的数据转换为预设格式的元数据,从而方便将各种类型的数据写入所述时空黑盒数据库,实现外网数据与内网数据的自动融合,降低了内网数据与外网数据之间的融合难度。
时空黑盒数据库,作为内网数据库,用于存储各种元数据格式的内网数据和从外网数据库查询到的元数据格式的外网数据。
基础数据通用写入接口,作为UI层面的接口,该基础数据通用写入接口用于供内网用户向时空黑盒数据库中写入内网数据。
通用的统一出口,作为UI层面的接口,该通用的统一出口用于供内网用户查询时空黑盒数据库中的元数据。
具体地,由外网数据库将外网数据接入时空黑盒数据库的过程为:内网用户在设定数据查询条件后,内外网双向数据传输系统在外网数据库中进行查询,当查询到第一目标数据后,经通用的查询写入模块和时空基础数据传输模块将第一目标数据转换为第一元数据,并将第一元数据写入时空黑盒数据库。
内网用户向时空黑盒数据库写入内网数据的过程如下:内网用户可以通过基础数据通用写入接口直接将元数据格式的内网数据写入时空黑盒数据库。
内网用户查询时空黑盒数据库中的过程如下:内网用户通过通用的统一出口对时空黑盒数据库中的元数据进行查询。
请参见图3,图3是本申请实施例提供的一种数据处理装置300,包括:
查询模块301,用于基于第一内网用户设定的数据查询条件在外网数据库中进行查询,得到第一目标数据;
格式转换模块302,用于将所述第一目标数据转换为预设格式,得到第一元数据;
存储模块303,用于将所述第一元数据存入内网数据库,其中,所述内网数据库包括所述预设格式的内网数据。
可选地,所述装置还包括:
第一接收模块,用于在接收到第二内网用户的数据写入请求的情况下,接收所述第二内网用户发送的第二目标数据;
所述格式转换模块302,还用于将所述第二目标数据转换为所述预设格式,得到第二元数据;
所述存储模块303,还用于将所述第二元数据存入所述内网数据库。
可选地,所述装置还包括:
第二接收模块,用于接收第三内网用户的数据访问请求;
读取模块,用于在所述内网数据库中读取第三元数据,其中,所述第三元数据为所述数据访问请求所访问的元数据;
发送模块,用于向所述第三内网用户发送所述第三元数据。
可选地,所述数据访问请求包括验证信息;
所述读取模块,具体用于在基于所述验证信息确定所述第三内网用户具备对所述第三元数据的访问权限的情况下,在所述内网数据库中读取第三元数据。
可选地,所述查询模块301,具体用于基于第一内网用户设定的数据查询条件,每隔预设时长在所述外网数据库中进行查询,得到至少一个所述第一目标数据。
本实施例提供的数据处理装置300能够实现图1-2所示的方法实施例中装置实现的各个过程,且可以达到相同有益效果,为避免重复,这里不再赘述。
根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。
如图4所示,是根据本申请实施例的数据处理方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图4所示,该电子设备包括:一个或多个处理器401、存储器402,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图4中以一个处理器401为例。
存储器402即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的数据处理方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的数据处理方法。
存储器402作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的数据处理方法对应的程序指令/模块(例如,附图3所示的查询模块301、格式转换模块302和存储模块303)。处理器401通过运行存储在存储器402中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的数据处理方法。
存储器402可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据数据处理方法的电子设备的使用所创建的数据等。此外,存储器402可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器402可选包括相对于处理器401远程设置的存储器,这些远程存储器可以通过网络连接至数据处理方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
数据处理方法的电子设备还可以包括:输入装置403和输出装置404。处理器401、存储器402、输入装置403和输出装置404可以通过总线或者其他方式连接,图4中以通过总线连接为例。
输入装置403可接收输入的数字或字符信息,以及产生与数据处理方法的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置404可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案,通过基于第一内网用户设定的查询条件在外网数据库中进行查询,以实现在外网数据库中自动查询用于与内网数据进行整合的外网数据,在查询到第一目标数据后,将查询到的第一目标数据转换为与内网数据相同的元数据格式,并存储于内网数据库中,以提高内网数据与外网数据的融合效果。本申请实施例中,仅需内网用户设定数据查询条件,即可完成外网数据与内网数据的自动整合,从而提高了数据整合的效率,解决了现有技术中在对外网数据与内网数据进行整合时,存在的数据整合效率低的问题。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。

Claims (12)

1.一种数据处理方法,其特征在于,包括:
基于第一内网用户设定的数据查询条件在外网数据库中进行查询,得到第一目标数据;
将所述第一目标数据转换为预设格式,得到第一元数据;
将所述第一元数据存入内网数据库,其中,所述内网数据库包括所述预设格式的内网数据。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
在接收到第二内网用户的数据写入请求的情况下,接收所述第二内网用户发送的第二目标数据;
将所述第二目标数据转换为所述预设格式,得到第二元数据;
将所述第二元数据存入所述内网数据库。
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
接收第三内网用户的数据访问请求;
在所述内网数据库中读取第三元数据,其中,所述第三元数据为所述数据访问请求所访问的元数据;
向所述第三内网用户发送所述第三元数据。
4.根据权利要求3所述的方法,其特征在于,所述数据访问请求包括验证信息,所述在所述内网数据库中读取第三元数据包括:
在基于所述验证信息确定所述第三内网用户具备对所述第三元数据的访问权限的情况下,在所述内网数据库中读取第三元数据。
5.根据权利要求1所述的方法,其特征在于,所述基于第一内网用户设定的数据查询条件在外网数据库中进行查询,得到第一目标数据,包括:
基于第一内网用户设定的数据查询条件,每隔预设时长在所述外网数据库中进行查询,得到至少一个所述第一目标数据。
6.一种数据处理装置,其特征在于,包括:
查询模块,用于基于第一内网用户设定的数据查询条件在外网数据库中进行查询,得到第一目标数据;
格式转换模块,用于将所述第一目标数据转换为预设格式,得到第一元数据;
存储模块,用于将所述第一元数据存入内网数据库,其中,所述内网数据库包括所述预设格式的内网数据。
7.根据权利要求6所述的装置,其特征在于,所述装置还包括:
第一接收模块,用于在接收到第二内网用户的数据写入请求的情况下,接收所述第二内网用户发送的第二目标数据;
所述格式转换模块,还用于将所述第二目标数据转换为所述预设格式,得到第二元数据;
所述存储模块,还用于将所述第二元数据存入所述内网数据库。
8.根据权利要求6所述的装置,其特征在于,所述装置还包括:
第二接收模块,用于接收第三内网用户的数据访问请求;
读取模块,用于在所述内网数据库中读取第三元数据,其中,所述第三元数据为所述数据访问请求所访问的元数据;
发送模块,用于向所述第三内网用户发送所述第三元数据。
9.根据权利要求8所述的装置,其特征在于,所述数据访问请求包括验证信息;
所述读取模块,具体用于在基于所述验证信息确定所述第三内网用户具备对所述第三元数据的访问权限的情况下,在所述内网数据库中读取第三元数据。
10.根据权利要求6所述的装置,其特征在于,所述查询模块,具体用于基于第一内网用户设定的数据查询条件,每隔预设时长在所述外网数据库中进行查询,得到至少一个所述第一目标数据。
11.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-5中任一项所述的方法。
12.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-5中任一项所述的方法。
CN202010386137.0A 2020-05-09 2020-05-09 一种数据处理方法、装置和电子设备 Active CN111597196B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010386137.0A CN111597196B (zh) 2020-05-09 2020-05-09 一种数据处理方法、装置和电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010386137.0A CN111597196B (zh) 2020-05-09 2020-05-09 一种数据处理方法、装置和电子设备

Publications (2)

Publication Number Publication Date
CN111597196A true CN111597196A (zh) 2020-08-28
CN111597196B CN111597196B (zh) 2024-02-13

Family

ID=72185373

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010386137.0A Active CN111597196B (zh) 2020-05-09 2020-05-09 一种数据处理方法、装置和电子设备

Country Status (1)

Country Link
CN (1) CN111597196B (zh)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130304829A1 (en) * 2012-05-09 2013-11-14 Salesforce. Com, Inc. Method and system for social media cooperation protocol
CN104125240A (zh) * 2014-08-15 2014-10-29 国家电网公司 一种信息外网、信息内网及内外网数据交互系统和方法
CN104901928A (zh) * 2014-03-07 2015-09-09 中国移动通信集团浙江有限公司 一种数据交互方法、装置及系统
WO2016086552A1 (zh) * 2014-12-04 2016-06-09 中兴通讯股份有限公司 一种文件处理的方法及客户端
CN206164759U (zh) * 2016-11-18 2017-05-10 中国电力科学研究院 一种跨网络多源异构数据采集装置
CN109165018A (zh) * 2018-09-10 2019-01-08 深圳市泰洲科技有限公司 代码自动发布方法、装置、计算机设备及存储介质
CN109327535A (zh) * 2018-11-09 2019-02-12 郑州云海信息技术有限公司 一种数据库访问方法、系统、中间件设备及介质
CN109543463A (zh) * 2018-10-11 2019-03-29 平安科技(深圳)有限公司 数据安全访问方法、装置、计算机设备及存储介质
CN110545324A (zh) * 2019-09-04 2019-12-06 北京百度网讯科技有限公司 数据处理方法、装置、系统、网络设备和存储介质

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130304829A1 (en) * 2012-05-09 2013-11-14 Salesforce. Com, Inc. Method and system for social media cooperation protocol
CN104901928A (zh) * 2014-03-07 2015-09-09 中国移动通信集团浙江有限公司 一种数据交互方法、装置及系统
CN104125240A (zh) * 2014-08-15 2014-10-29 国家电网公司 一种信息外网、信息内网及内外网数据交互系统和方法
WO2016086552A1 (zh) * 2014-12-04 2016-06-09 中兴通讯股份有限公司 一种文件处理的方法及客户端
CN206164759U (zh) * 2016-11-18 2017-05-10 中国电力科学研究院 一种跨网络多源异构数据采集装置
CN109165018A (zh) * 2018-09-10 2019-01-08 深圳市泰洲科技有限公司 代码自动发布方法、装置、计算机设备及存储介质
CN109543463A (zh) * 2018-10-11 2019-03-29 平安科技(深圳)有限公司 数据安全访问方法、装置、计算机设备及存储介质
CN109327535A (zh) * 2018-11-09 2019-02-12 郑州云海信息技术有限公司 一种数据库访问方法、系统、中间件设备及介质
CN110545324A (zh) * 2019-09-04 2019-12-06 北京百度网讯科技有限公司 数据处理方法、装置、系统、网络设备和存储介质

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
张金英;李蜀瑜;: "数字档案馆数据交换系统的设计与实现", 计算机技术与发展, no. 11, 10 November 2012 (2012-11-10) *
郭贵军等: "安全网闸中异构数据库传输的实现", 《计算机应用与软件》 *
郭贵军等: "安全网闸中异构数据库传输的实现", 《计算机应用与软件》, no. 02, 12 February 2005 (2005-02-12) *

Also Published As

Publication number Publication date
CN111597196B (zh) 2024-02-13

Similar Documents

Publication Publication Date Title
JP7271734B2 (ja) 分散イベント処理システムにおけるデータシリアライズ
US11507583B2 (en) Tuple extraction using dynamically generated extractor classes
EP3077926B1 (en) Pattern matching across multiple input data streams
US10614048B2 (en) Techniques for correlating data in a repository system
US11609804B2 (en) Flexible event ingestion framework in an event processing system
JP2021149963A (ja) 情報処理方法、装置、電子機器及び記憶媒体
US11657582B1 (en) Precise plane detection and placement of virtual objects in an augmented reality environment
CN107133309B (zh) 流程实例的存储、查询方法及装置、存储介质及电子设备
US8768957B2 (en) Consolidating related task data in process management solutions
US11080068B2 (en) Adaptive user-interface assembling and rendering
CN112328658B (zh) 用户档案数据处理方法、装置、设备及存储介质
CN110633281A (zh) 多类型数据源的处理方法及装置
CN104156669A (zh) 一种计算机信息取证系统
KR101614890B1 (ko) 멀티 테넌시 이력 생성 방법, 이를 수행하는 멀티 테넌시 이력 생성 서버 및 이를 저장하는 기록매체
EP4348933A1 (en) Managing keys across a series of nodes, based on snapshots of logged client key modifications
CN110545324A (zh) 数据处理方法、装置、系统、网络设备和存储介质
CN111767284A (zh) 数据处理方法、装置、存储介质和服务器
CN111597196B (zh) 一种数据处理方法、装置和电子设备
CN111767276B (zh) 数据存储方法、装置、电子设备及存储介质
US11899680B2 (en) Techniques for metadata value-based mapping during data load in data integration job
US20230297571A1 (en) Managing Queries For Blended Data From Data Models
US20230367761A1 (en) Managing Master Data For Distributed Environments
US11475039B2 (en) Augmented reality database synchronization system
CN112069541A (zh) 权限管理、查询方法和装置
WO2022250826A1 (en) Managing keys across a series of nodes, based on snapshots of logged client key modifications

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant