CN114201508A - 数据处理方法、数据处理装置、电子设备和存储介质 - Google Patents

数据处理方法、数据处理装置、电子设备和存储介质 Download PDF

Info

Publication number
CN114201508A
CN114201508A CN202111527761.9A CN202111527761A CN114201508A CN 114201508 A CN114201508 A CN 114201508A CN 202111527761 A CN202111527761 A CN 202111527761A CN 114201508 A CN114201508 A CN 114201508A
Authority
CN
China
Prior art keywords
target
database
data
configuration item
response time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111527761.9A
Other languages
English (en)
Inventor
邱波
雷发林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
CCB Finetech Co Ltd
Original Assignee
CCB Finetech Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by CCB Finetech Co Ltd filed Critical CCB Finetech Co Ltd
Priority to CN202111527761.9A priority Critical patent/CN114201508A/zh
Publication of CN114201508A publication Critical patent/CN114201508A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/245Query processing
    • G06F16/2453Query optimisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/242Query formulation
    • G06F16/2433Query languages
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/25Integrating or interfacing systems involving database management systems
    • G06F16/252Integrating or interfacing systems involving database management systems between a Database Management System and a front-end application

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开提供了一种数据处理方法,包括:响应于数据查询请求,获取网关中记录的文档型数据库的当前接口响应时间和图形数据库的当前接口响应时间;基于文档型数据库的当前接口响应时间和图形数据库的当前接口响应时间的大小,确定目标数据库;基于目标数据库和数据查询请求中携带的查询条件,生成目标查询语句;以及执行目标查询语句,以从目标数据库中查询得到目标数据。此外,本公开还提供了一种数据处理装置、一种电子设备和一种可读存储介质。

Description

数据处理方法、数据处理装置、电子设备和存储介质
技术领域
本公开涉及数据库技术领域,更具体地,涉及一种数据处理方法、一种数据处理装置、一种电子设备、一种可读存储介质和一种计算机程序产品。
背景技术
随着虚拟化、云计算等新技术的广泛应用,企业数据中心内部IT基础设施和应用系统的规模成倍增长,为了方便IT资源的管理和维护,通常会通过构建统一的配置管理数据库(Configuration Management Database,CMDB)来提升运维效率,支撑数据中心的高效运营。
在实现本公开构思的过程中,发明人发现相关技术中至少存在如下问题:在数据实例的量级较大的情况下,基于关系型数据库构建的CMDB难以满足实时数据查询的要求。
发明内容
有鉴于此,本公开提供了一种数据处理方法、一种数据处理装置、一种电子设备、一种可读存储介质和一种计算机程序产品。
本公开的一个方面提供了一种数据处理方法,包括:响应于数据查询请求,获取网关中记录的文档型数据库的当前接口响应时间和图形数据库的当前接口响应时间;基于上述文档型数据库的当前接口响应时间和上述图形数据库的当前接口响应时间的大小,确定目标数据库;基于上述目标数据库和上述数据查询请求中携带的查询条件,生成目标查询语句;以及执行上述目标查询语句,以从上述目标数据库中查询得到目标数据。
根据本公开的实施例,上述方法还包括:响应于触发定时任务,获取上述网关中记录的第一配置项实例;在上述文档型数据库中查询上述第一配置项实例,得到第一接口响应时间;在上述图形数据库中查询上述第一配置项实例,得到第二接口响应时间;以及将上述第一接口响应时间和上述第二接口响应时间记录在上述网关中,以使用上述第一接口响应时间替换上述文档型数据库的当前接口响应时间,使用上述第二接口响应时间替换上述图形数据库的当前接口响应时间。
根据本公开的实施例,上述方法还包括:在上述文档型数据库或上述图形数据库中发生数据变更的情况下,从上述文档型数据库或上述图形数据库中的多个配置项实例中确定第二配置项实例;以及将上述第二配置项实例记录在上述网关中,以使用上述第二配置项实例替换上述第一配置项实例。
根据本公开的实施例,上述方法还包括:获取客户端设备产生的业务数据;对上述业务数据进行数据转换,得到第三配置项实例;基于上述文档型数据库中已有的配置项实例,确定上述第三配置项实例的数据变更类型;以及基于上述数据变更类型,将上述第三配置项实例存入上述文档型数据库中。
根据本公开的实施例,上述方法还包括:在将上述第三配置项实例存入上述文档型数据库中的情况下,在上述文档型数据库中查询与上述第三配置项实例关联的关系实例;基于上述第三配置项实例和上述关系实例来生成消息数据;以及将上述消息数据发送至消息队列中。
根据本公开的实施例,上述方法还包括:监听上述消息队列以获取消息数据;在从上述消息队列中获取目标消息数据的情况下,解析上述目标消息数据,以获取目标配置项实例和与上述目标配置项实例关联的目标关系实例;将上述目标配置项实例和上述目标关系实例转换为图数据;以及基于上述目标配置项实例的数据变更类型,将上述图数据写入上述图形数据库中。
根据本公开的实施例,上述图数据包括节点和边;其中,上述将上述目标配置项实例和上述目标关系实例转换为图数据,包括:将上述目标配置项实例转换为第一目标节点;以及将每个上述目标关系实例转换为上述目标节点的一条第一目标边。
根据本公开的实施例,上述基于上述目标配置项实例的数据变更类型,将上述图数据写入上述图形数据库中,包括:在上述目标配置项实例的数据变更类型为新增配置项的情况下,将上述第一目标节点和上述第一目标边添加到上述图形数据库中;以及在上述目标配置项实例的数据变更类型为修改配置项的情况下,基于上述目标配置项实例从上述图形数据库中确定第二目标节点和第二目标边,并使用上述第一目标节点和上述第一目标边分别替换上述第二目标节点和上述第二目标边。
本公开的另一个方面提供了一种数据处理装置,包括:第一获取模块,用于响应于数据查询请求,获取网关中记录的文档型数据库的当前接口响应时间和图形数据库的当前接口响应时间;第一确定模块,用于基于上述文档型数据库的当前接口响应时间和上述图形数据库的当前接口响应时间的大小,确定目标数据库;第一生成模块,用于基于上述目标数据库和上述数据查询请求中携带的查询条件,生成目标查询语句;以及第一处理模块,用于执行上述目标查询语句,以从上述目标数据库中查询得到目标数据。
本公开的另一方面提供了一种电子设备,包括:一个或多个处理器;存储器,用于存储一个或多个指令,其中,当所述一个或多个指令被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如上所述的方法。
本公开的另一方面提供了一种计算机可读存储介质,存储有计算机可执行指令,所述指令在被执行时用于实现如上所述的方法。
本公开的另一方面提供了一种计算机程序产品,所述计算机程序产品包括计算机可执行指令,所述指令在被执行时用于实现如上所述的方法。
根据本公开的实施例,在进行数据查询时,根据接口响应时间来选择进行查询的数据库,并根据数据查询请求中的查询条件组装查询语句以实现数据的查询。通过使用文档型数据库和图形数据库来构建CMDB并自动选择实际查询的数据库的方式,至少部分地克服了相关技术中存在的在数据实例的量级较大的情况下,基于关系型数据库构建的CMDB难以满足实时数据查询的要求的技术问题,从而有效提升了数据查询效率。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的可以应用数据处理方法的示例性系统架构。
图2示意性示出了根据本公开实施例的数据处理方法的流程图。
图3示意性示出了根据本公开实施例的更新当前接口响应时间的方法的流程图。
图4示意性示出了根据本公开实施例的数据存储结构的示意图。
图5示意性示出了根据本公开的实施例的数据处理装置的框图。
图6示意性示出了根据本公开实施例的适于实现数据处理方法的电子设备的框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
CMDB是一个共享的数据管理服务平台,为各类周边系统和用户提供数据增删改、权限配置、数据可视化、通知提醒等共享服务,进而作为运维平台的信息汇总及信息交互的平台。
在相关技术中,CMDB的实现方式是使用关系型数据库MySQL、Oracle等作为的底层数据存储,通过建立关系表来构建各类IT资源的之间的关系。为了能够管理上百个模型以及海量的数据模型实例,需要在设计数据库表的时候进行抽象,以“动态表”的方式进行表结构设计。
然而,MySQL的“动态表”设计可以满足IT资源模型的动态调整,但是当配置项数据过大的时候,例如,在配置项实例的个数达到百万至千万的数据量级的情况下,存在明显的性能问题,用户在使用多层关联查询功能时的效率较低,难以满足实时数据查询的要求。例如,在根据告警信息实时分析基础设施及其应用的交易链的关联关系,对事件进行智能多层分析等场景下,基于MySQL实现的CMDB的需要的查询时间较长。
有鉴于此,本公开的实施例基于开源的文档型数据库和图形数据库构建一种组合模式的数据存储方式,用以支撑大规模的配置关系数据的存储与查询。具体地,本公开的实施例提供了一种数据处理方法、一种数据处理装置、一种电子设备、一种可读存储介质和一种计算机程序产品。该方法包括响应于数据查询请求,获取网关中记录的文档型数据库的当前接口响应时间和图形数据库的当前接口响应时间;基于文档型数据库的当前接口响应时间和图形数据库的当前接口响应时间的大小,确定目标数据库;基于目标数据库和数据查询请求中携带的查询条件,生成目标查询语句;以及执行目标查询语句,以从目标数据库中查询得到目标数据。
在本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。
在本公开的技术方案中,在获取或采集用户个人信息之前,均获取了用户的授权或同意。
图1示意性示出了根据本公开实施例的可以应用数据处理方法的示例性系统架构。需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示,根据该实施例的系统架构100可以包括终端设备101、102、103,网络104和服务器105。
终端设备101、102、103可以是具有显示屏并且支持数据通信的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等。
终端设备101、102、103上可以安装有客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端和/或社交平台软件等。
网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线和/或无线通信链路等等。
服务器105可以是提供各种服务的服务器。
例如,终端设备101上可以安装有搜索类应用,用户可以在该搜索类应用中输入需要搜索的数据,该数据可以通过网络104发送至服务器105中,服务器105可以在其包含的数据库中对该数据进行搜索,并将搜索得到的数据返回给终端设备101。
需要说明的是,本公开实施例所提供的数据处理方法一般可以由服务器105执行。相应地,本公开实施例所提供的数据处理装置一般可以设置于服务器105中。本公开实施例所提供的数据处理方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的数据处理装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。或者,本公开实施例所提供的数据处理方法也可以由终端设备101、102、或103执行,或者也可以由不同于终端设备101、102、或103的其他终端设备执行。相应地,本公开实施例所提供的数据处理装置也可以设置于终端设备101、102、或103中,或设置于不同于终端设备101、102、或103的其他终端设备中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
图2示意性示出了根据本公开实施例的数据处理方法的流程图。
如图2所示,该方法包括操作S201~S204。
在操作S201,响应于数据查询请求,获取网关中记录的文档型数据库的当前接口响应时间和图形数据库的当前接口响应时间。
在操作S202,基于文档型数据库的当前接口响应时间和图形数据库的当前接口响应时间的大小,确定目标数据库。
在操作S203,基于目标数据库和数据查询请求中携带的查询条件,生成目标查询语句。
在操作S204,执行目标查询语句,以从目标数据库中查询得到目标数据。
根据本公开的实施例,网关可以是CMDB系统的数据入口,用于实现外部系统与文档型数据库、图形数据库的信息交互。
根据本公开的实施例,文档型数据库的类型不作限定,例如可以是MongoDB、Apache CouchDB等。
根据本公开的实施例,图形数据库的类型不作限定,例如可以是neo4j、HugeGraph等。
根据本公开的实施例,当前接口响应时间可以是在文档型数据库或图形数据库中查询目标配置项实例的所有关系实例时需要耗费的时间。
根据本公开的实施例,可以选择两个接口响应时间中较小的一个对应的数据库作为目标数据库,在查询时,可以直接调用该目标数据库的接口进行数据查询,避免了需要用户指定后端数据库的情形的发生,从而提高了查询效率。
根据本公开的实施例,查询条件例如可以包括查询配置项实例的属性、查询与配置项实例关联的所有关系实例等。
根据本公开的实施例,目标数据可以与查询条件相对应,例如可以是配置项实例数据、关系实例数据等。
根据本公开的实施例,目标查询语句可以是基于具体的查询条件和目标数据库的语法规范生成的,生成目标查询语句时使用的工具可以根据具体应用场景确定,在此不做限定。
根据本公开的实施例,在进行数据查询时,根据接口响应时间来选择进行查询的数据库,并根据数据查询请求中的查询条件组装查询语句以实现数据的查询。通过使用文档型数据库和图形数据库来构建CMDB并自动选择实际查询的数据库的方式,至少部分地克服了相关技术中存在的在数据实例的量级较大的情况下,基于关系型数据库构建的CMDB难以满足实时数据查询的要求的技术问题,从而有效提升了数据查询效率。
下面参考图3~图4,结合具体实施例对图2所示的方法做进一步说明。
图3示意性示出了根据本公开实施例的更新当前接口响应时间的方法的流程图。
如图3所示,该方法包括操作S301~S305。
需要说明的是,本公开实施例中的流程图所示的操作除非明确说明不同操作之间存在执行的先后顺序,或者不同操作在技术实现上存在执行的先后顺序,否则,多个操作之间的执行顺序可以不分先后,多个操作也可以同时执行。
在操作S301,判断是否触发定时任务。在确定触发定时任务的情况下,执行操作S302;在确定未触发定时任务的情况下,继续执行操作S301,以对定时任务的触发状况进行监控。
在操作S302,获取第一配置项实例。
在操作S303,在文档型数据库中查询第一配置项实例,得到第一接口响应时间。
在操作S304,在图形数据库中查询第一配置项实例,得到第二接口响应时间。
在操作S305,将第一接口响应时间和第二接口响应时间作为当前接口响应时间记录在网关中。
根据本公开的实施例,定时任务可以是预先设置的定期更新当前接口响应时间的任务。
根据本公开的实施例,第一配置项实例可以预先存储在网关中。
根据本公开的实施例,第一配置项实例可以分别是文档型数据库和图形数据库中具有最多关联的关系实例的配置项实例。
在一些实施例中,由于线程延迟等原因,文档型数据库和图形数据库中包含的配置项实例可以并不同步,因而,文档型数据库和图形数据库中具有最多关联的关系实例的配置项实例可以不同。
根据本公开的实施例,第一配置项实例可以在文档型数据库或图形数据库中发生数据变更时重新进行确定。具体地,在文档型数据库或图形数据库中发生数据变更的情况下,从文档型数据库或图形数据库中的多个配置项实例中确定第二配置项实例;再将第二配置项实例记录在网关中,以使用第二配置项实例替换第一配置项实例。
根据本公开的实施例,可以使用计算得到新的第一接口响应时间和第二接口响应时间对网关中原本记录的当前接口响应时间进行替换。
图4示意性示出了根据本公开实施例的数据存储结构的示意图。
如图4所示,数据存储结构可以由文档型数据库401和图形数据库402组成。
根据本公开的实施例,客户端设备403产生的业务数据可以存储到文档型数据库401;之后,可以通过消息中间件404和数据转换服务405,将文档型数据库401存储的该业务数据同步至图形数据库402中;文档型数据库401和图形数据库402均可以提供配置项实例和关系实例的数据查询服务,且文档型数据库401和图形数据库402的数据查询接口统一注册到了网关406中,以便于用户通过网关406进行数据的查询。
根据本公开的实施例,客户端设备403产生的业务数据存储到文档型数据库401的具体操作可以包括:获取客户端设备403产生的业务数据;对业务数据进行数据转换,得到第三配置项实例;基于文档型数据库401中已有的配置项实例,确定第三配置项实例的数据变更类型;以及基于数据变更类型,将第三配置项实例存入文档型数据库401中。
根据本公开的实施例,客户端设备403可以任意类型的电子设备,包括但不限于电脑、手机、服务器等。
根据本公开的实施例,业务数据可以是通过自动化设备采集得到的数据,也可以是由用户输入的数据,还可以是通过外部系统对接的方式,从外部系统输入的数据,在此不作限定。
根据本公开的实施例,第三配置项实例的格式与文档型数据库401的类型相关,例如,在文档型数据库401为MongoDB的情况下,需要将业务数据转换为BSON格式的第三配置项实例。
根据本公开的实施例,数据变更类型可以包括新增、修改、删除等类型。
根据本公开的实施例,消息中间件404可以是ActiveMQ、Kafka等。
例如,在消息中间件404为消息队列的情况下,将文档型数据库401存储的该业务数据同步至图形数据库402可以包括生成消息的过程和消费消息的过程。
其中,生成消息的过程具体可以包括:在将第三配置项实例存入文档型数据库401中的情况下,在文档型数据库401中查询与第三配置项实例关联的关系实例;基于第三配置项实例和关系实例来生成消息数据;以及将消息数据发送至消息队列中。
消费消息的过程具体可以包括:监听所述消息队列以获取消息数据;在从所述消息队列中获取目标消息数据的情况下,解析所述目标消息数据,以获取目标配置项实例和与所述目标配置项实例关联的目标关系实例;将所述目标配置项实例和所述目标关系实例转换为图数据;以及基于所述目标配置项实例的数据变更类型,将所述图数据写入所述图形数据库402中。
根据本公开的实施例,数据转换服务405可以实时监听消息中间件404的指定主题,从而获取到数据变更的消息。之后,可以利用配置项实例间的关系与图数据结构的一致性,对消费消息数据得到的目标配置项实例和目标关系实例映射为图形数据库的配置项关系表达。
以文档型数据库为MongoDB、图形数据库为HugeGraph为例,HugeGraph中的图数据可以分为节点和边,对消费消息数据得到的目标配置项实例和目标关系实例映射为图形数据库的配置项关系表达具体可以包括:将目标配置项实例转换为第一目标节点;以及将每个目标关系实例转换为目标节点的一条第一目标边。
根据本公开的实施例,将图数据写入图形数据库中具体可以包括:在目标配置项实例的数据变更类型为新增配置项的情况下,将第一目标节点和第一目标边添加到图形数据库中;以及在目标配置项实例的数据变更类型为修改配置项的情况下,基于目标配置项实例从图形数据库中确定第二目标节点和第二目标边,并使用第一目标节点和第一目标边分别替换第二目标节点和第二目标边。
在一些实施例中,消息数据的处理过程可以记录到redis缓存中,当处理出现异常时可以通过缓存数据进行补偿操作,以提供数据存储服务的高可用性。
图5示意性示出了根据本公开的实施例的数据处理装置的框图。
如图5所示,数据处理装置500包括第一获取模块510、第一确定模块520、第一生成模块530和第一处理模块540。
第一获取模块510,用于响应于数据查询请求,获取网关中记录的文档型数据库的当前接口响应时间和图形数据库的当前接口响应时间。
第一确定模块520,用于基于文档型数据库的当前接口响应时间和图形数据库的当前接口响应时间的大小,确定目标数据库。
第一生成模块530,用于基于目标数据库和数据查询请求中携带的查询条件,生成目标查询语句。
第一处理模块540,用于执行目标查询语句,以从目标数据库中查询得到目标数据。
根据本公开的实施例,在进行数据查询时,根据接口响应时间来选择进行查询的数据库,并根据数据查询请求中的查询条件组装查询语句以实现数据的查询。通过使用文档型数据库和图形数据库来构建CMDB并自动选择实际查询的数据库的方式,至少部分地克服了相关技术中存在的在数据实例的量级较大的情况下,基于关系型数据库构建的CMDB难以满足实时数据查询的要求的技术问题,从而有效提升了数据查询效率。
根据本公开的实施例,数据处理装置500还包括第二获取模块、第一查询模块、第二查询模块和第一记录模块。
第二获取模块,用于响应于触发定时任务,获取网关中记录的第一配置项实例。
第一查询模块,用于在文档型数据库中查询第一配置项实例,得到第一接口响应时间。
第二查询模块,用于在图形数据库中查询第一配置项实例,得到第二接口响应时间。
第一记录模块,用于将第一接口响应时间和第二接口响应时间记录在网关中,以使用第一接口响应时间替换文档型数据库的当前接口响应时间,使用第二接口响应时间替换图形数据库的当前接口响应时间。
根据本公开的实施例,数据处理装置500还包括第二确定模块和第二记录模块。
第二确定模块,用于在文档型数据库或图形数据库中发生数据变更的情况下,从文档型数据库或图形数据库中的多个配置项实例中确定第二配置项实例。
第二记录模块,用于将第二配置项实例记录在网关中,以使用第二配置项实例替换第一配置项实例。
根据本公开的实施例,数据处理装置500还包括第三获取模块、第二处理模块、第三确定模块和第一存储模块。
第三获取模块,用于获取客户端设备产生的业务数据。
第二处理模块,用于对业务数据进行数据转换,得到第三配置项实例。
第三确定模块,用于基于文档型数据库中已有的配置项实例,确定第三配置项实例的数据变更类型。
第一存储模块,用于基于数据变更类型,将第三配置项实例存入文档型数据库中。
根据本公开的实施例,数据处理装置500还包括第三查询模块、第二生成模块和发送模块。
第三查询模块,用于在将第三配置项实例存入文档型数据库中的情况下,在文档型数据库中查询与第三配置项实例关联的关系实例。
第二生成模块,用于基于第三配置项实例和关系实例来生成消息数据。
发送模块,用于将消息数据发送至消息队列中。
根据本公开的实施例,数据处理装置500还包括监听模块、解析模块、第三处理模块和第二存储模块。
监听模块,用于监听消息队列以获取消息数据。
解析模块,用于在从消息队列中获取目标消息数据的情况下,解析目标消息数据,以获取目标配置项实例和与目标配置项实例关联的目标关系实例。
第三处理模块,用于将目标配置项实例和目标关系实例转换为图数据。
第二存储模块,用于基于目标配置项实例的数据变更类型,将图数据写入图形数据库中。
根据本公开的实施例,图数据包括节点和边。
根据本公开的实施例,第三处理模块包括第一处理单元和第二处理单元。
第一处理单元,用于将目标配置项实例转换为第一目标节点。
第二处理单元,用于将每个目标关系实例转换为目标节点的一条第一目标边。
根据本公开的实施例,第二存储模块包括第一存储单元和第二存储单元。
第一存储单元,用于在目标配置项实例的数据变更类型为新增配置项的情况下,将第一目标节点和第一目标边添加到图形数据库中。
第二存储单元,用于在目标配置项实例的数据变更类型为修改配置项的情况下,基于目标配置项实例从图形数据库中确定第二目标节点和第二目标边,并使用第一目标节点和第一目标边分别替换第二目标节点和第二目标边。
根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
例如,第一获取模块510、第一确定模块520、第一生成模块530和第一处理模块540中的任意多个可以合并在一个模块/单元/子单元中实现,或者其中的任意一个模块/单元/子单元可以被拆分成多个模块/单元/子单元。或者,这些模块/单元/子单元中的一个或多个模块/单元/子单元的至少部分功能可以与其他模块/单元/子单元的至少部分功能相结合,并在一个模块/单元/子单元中实现。根据本公开的实施例,第一获取模块510、第一确定模块520、第一生成模块530和第一处理模块540中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,第一获取模块510、第一确定模块520、第一生成模块530和第一处理模块540中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
需要说明的是,本公开的实施例中数据处理装置部分与本公开的实施例中数据处理方法部分是相对应的,数据处理装置部分的描述具体参考数据处理方法部分,在此不再赘述。
图6示意性示出了根据本公开实施例的适于实现数据处理方法的电子设备的框图。图6示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图6所示,根据本公开实施例的计算机电子设备600包括处理器601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。处理器601例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC)),等等。处理器601还可以包括用于缓存用途的板载存储器。处理器601可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 603中,存储有电子设备600操作所需的各种程序和数据。处理器601、ROM602以及RAM 603通过总线604彼此相连。处理器601通过执行ROM 602和/或RAM 603中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 602和RAM 603以外的一个或多个存储器中。处理器601也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,电子设备600还可以包括输入/输出(I/O)接口605,输入/输出(I/O)接口605也连接至总线604。电子设备600还可以包括连接至I/O接口605的以下部件中的一项或多项:包括键盘、鼠标等的输入部分606;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607;包括硬盘等的存储部分608;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器610上,以便于从其上读出的计算机程序根据需要被安装入存储部分608。
根据本公开的实施例,根据本公开实施例的方法流程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读存储介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分609从网络上被下载和安装,和/或从可拆卸介质611被安装。在该计算机程序被处理器601执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质。例如可以包括但不限于:便携式计算机磁盘、硬盘、随机防问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 602和/或RAM 603和/或ROM 602和RAM 603以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行本公开实施例所提供的方法的程序代码,当计算机程序产品在电子设备上运行时,该程序代码用于使电子设备实现本公开实施例所提供的数据处理方法。
在该计算机程序被处理器601执行时,执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分609被下载和安装,和/或从可拆卸介质611被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。

Claims (12)

1.一种数据处理方法,包括:
响应于数据查询请求,获取网关中记录的文档型数据库的当前接口响应时间和图形数据库的当前接口响应时间;
基于所述文档型数据库的当前接口响应时间和所述图形数据库的当前接口响应时间的大小,确定目标数据库;
基于所述目标数据库和所述数据查询请求中携带的查询条件,生成目标查询语句;以及
执行所述目标查询语句,以从所述目标数据库中查询得到目标数据。
2.根据权利要求1所述的方法,还包括:
响应于触发定时任务,获取所述网关中记录的第一配置项实例;
在所述文档型数据库中查询所述第一配置项实例,得到第一接口响应时间;
在所述图形数据库中查询所述第一配置项实例,得到第二接口响应时间;以及
将所述第一接口响应时间和所述第二接口响应时间记录在所述网关中,以使用所述第一接口响应时间替换所述文档型数据库的当前接口响应时间,使用所述第二接口响应时间替换所述图形数据库的当前接口响应时间。
3.根据权利要求1所述的方法,还包括:
在所述文档型数据库或所述图形数据库中发生数据变更的情况下,从所述文档型数据库或所述图形数据库中的多个配置项实例中确定第二配置项实例;以及
将所述第二配置项实例记录在所述网关中,以使用所述第二配置项实例替换所述第一配置项实例。
4.根据权利要求1所述的方法,还包括:
获取客户端设备产生的业务数据;
对所述业务数据进行数据转换,得到第三配置项实例;
基于所述文档型数据库中已有的配置项实例,确定所述第三配置项实例的数据变更类型;以及
基于所述数据变更类型,将所述第三配置项实例存入所述文档型数据库中。
5.根据权利要求4所述的方法,还包括:
在将所述第三配置项实例存入所述文档型数据库中的情况下,在所述文档型数据库中查询与所述第三配置项实例关联的关系实例;
基于所述第三配置项实例和所述关系实例来生成消息数据;以及
将所述消息数据发送至消息队列中。
6.根据权利要求5所述的方法,还包括:
监听所述消息队列以获取消息数据;
在从所述消息队列中获取目标消息数据的情况下,解析所述目标消息数据,以获取目标配置项实例和与所述目标配置项实例关联的目标关系实例;
将所述目标配置项实例和所述目标关系实例转换为图数据;以及
基于所述目标配置项实例的数据变更类型,将所述图数据写入所述图形数据库中。
7.根据权利要求6所述的方法,其中,所述图数据包括节点和边;
其中,所述将所述目标配置项实例和所述目标关系实例转换为图数据,包括:
将所述目标配置项实例转换为第一目标节点;以及
将每个所述目标关系实例转换为所述目标节点的一条第一目标边。
8.根据权利要求7所述的方法,其中,所述基于所述目标配置项实例的数据变更类型,将所述图数据写入所述图形数据库中,包括:
在所述目标配置项实例的数据变更类型为新增配置项的情况下,将所述第一目标节点和所述第一目标边添加到所述图形数据库中;以及
在所述目标配置项实例的数据变更类型为修改配置项的情况下,基于所述目标配置项实例从所述图形数据库中确定第二目标节点和第二目标边,并使用所述第一目标节点和所述第一目标边分别替换所述第二目标节点和所述第二目标边。
9.一种数据处理装置,包括:
第一获取模块,用于响应于数据查询请求,获取网关中记录的文档型数据库的当前接口响应时间和图形数据库的当前接口响应时间;
第一确定模块,用于基于所述文档型数据库的当前接口响应时间和所述图形数据库的当前接口响应时间的大小,确定目标数据库;
第一生成模块,用于基于所述目标数据库和所述数据查询请求中携带的查询条件,生成目标查询语句;以及
第一处理模块,用于执行所述目标查询语句,以从所述目标数据库中查询得到目标数据。
10.一种电子设备,包括:
一个或多个处理器;
存储器,用于存储一个或多个指令,
其中,当所述一个或多个指令被所述一个或多个处理器执行时,使得所述一个或多个处理器实现权利要求1至8中任一项所述的方法。
11.一种计算机可读存储介质,其上存储有可执行指令,所述可执行指令被处理器执行时使处理器实现权利要求1至8中任一项所述的方法。
12.一种计算机程序产品,所述计算机程序产品包括计算机可执行指令,所述计算机可执行指令在被执行时用于实现权利要求1至8中任一项所述的方法。
CN202111527761.9A 2021-12-14 2021-12-14 数据处理方法、数据处理装置、电子设备和存储介质 Pending CN114201508A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111527761.9A CN114201508A (zh) 2021-12-14 2021-12-14 数据处理方法、数据处理装置、电子设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111527761.9A CN114201508A (zh) 2021-12-14 2021-12-14 数据处理方法、数据处理装置、电子设备和存储介质

Publications (1)

Publication Number Publication Date
CN114201508A true CN114201508A (zh) 2022-03-18

Family

ID=80653629

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111527761.9A Pending CN114201508A (zh) 2021-12-14 2021-12-14 数据处理方法、数据处理装置、电子设备和存储介质

Country Status (1)

Country Link
CN (1) CN114201508A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117076581A (zh) * 2023-10-12 2023-11-17 之江实验室 用于非关系型数据库的数据设置方法和存储介质

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117076581A (zh) * 2023-10-12 2023-11-17 之江实验室 用于非关系型数据库的数据设置方法和存储介质
CN117076581B (zh) * 2023-10-12 2024-03-19 之江实验室 用于非关系型数据库的数据设置方法和存储介质

Similar Documents

Publication Publication Date Title
US11755452B2 (en) Log data collection method based on log data generated by container in application container environment, log data collection device, storage medium, and log data collection system
US10599478B1 (en) Automated reconfiguration of real time data stream processing
US11106641B2 (en) Supporting graph database backed object unmarshalling
CN115391361A (zh) 一种基于分布式数据库的实时数据处理方法及其装置
CN114780564A (zh) 数据处理方法、数据处理装置、电子设备和存储介质
CN115357663A (zh) 基于增量数据同步组件的数据同步方法、系统及装置
US9563485B2 (en) Business transaction context for call graph
CN114116509A (zh) 程序分析方法、装置、电子设备和存储介质
CN114153703A (zh) 微服务的异常定位方法、装置、电子设备和程序产品
CN114201508A (zh) 数据处理方法、数据处理装置、电子设备和存储介质
CN113032237A (zh) 数据处理方法及装置、电子设备和计算机可读存储介质
CN112506490A (zh) 一种接口生成方法、装置、电子设备及存储介质
CN115760013A (zh) 运维模型的构建方法、装置、电子设备及存储介质
CN115033574A (zh) 信息生成方法、信息生成装置、电子设备及存储介质
CN114925066A (zh) 数据处理方法、装置、电子设备和存储介质
CN115514618A (zh) 告警事件的处理方法、装置、电子设备和介质
CN115202973A (zh) 应用运行状态的确定方法、装置、电子设备和介质
CN114780361A (zh) 日志生成方法、装置、计算机系统及可读存储介质
CN115033634A (zh) 数据采集方法、装置、电子设备和介质
CN114356713A (zh) 线程池监控方法、装置、电子设备及存储介质
CN114168607A (zh) 全局序列号生成方法、装置、设备、介质和产品
CN113449886A (zh) 数据处理方法、处理装置、设备及存储介质
CN114844957B (zh) 链路报文转换方法、装置、设备、存储介质和程序产品
US20240160517A1 (en) Alert aggregation and health issues processing in a cloud environment
CN110262756B (zh) 用于缓存数据的方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination