CN110362575A - 一种生成数据的全局索引的方法及装置 - Google Patents

Abstract

本发明提供了一种生成数据的全局索引的方法及装置，其中，该方法包括：集群系统的处理单元接收目标数据，并从所述目标数据中获取采集所述目标数据的设备编号；确定处理所述目标数据的处理时间；获取处理所述目标数据的序号和所述集群系统的主控单元预先分配的全局唯一编号；根据所述设备编号、所述处理时间、所述序号以及所述全局唯一编号为所述目标数据生成全局索引，可以解决相关技术中在集群大规模并发处理时，处理单元频繁访问数据库获取全局索引，给数据库造成压力过大，使得集群处理不稳定的问题，生成全局索引与数据库无关，在保证全局索引快速生成的同时，减轻数据库的压力，保证整个集群系统的稳定运行。

Description

一种生成数据的全局索引的方法及装置

技术领域

本发明涉及计算机技术领域，具体而言，涉及一种生成数据的全局索引的方法及装置。

背景技术

随着信息化建设的大规模的进行，所产生的数据量成指数级上升，大量的数据都会使用集群系统进行并发处理，而很多数据保存需要确保全局的唯一性，为后期检索提供唯一性。

目前确保数据全局唯一性的做法，一般是通过查询数据库表的方式，不断地更新表中的某一字段递增来获取全局唯一索引，处理单元向数据库获取全局索引，数据库统一为集群系统中的处理单元分配全局索引。

上述方案，在集群环境下大规模并发处理时，每一个处理单元都会频繁的访问数据库，来获取全局的索引值，这给整个数据库造成了很大的压力，在并发量大的情况下会导致生成索引值的实效性，例如上万路的实时抓拍图片。

数据库在整个集群环境中是至关重要的一个环节，而索引生成导致数据库的压力过大，会使得整个集群处理不稳定的状态，影响到其他功能业务的开展。

针对相关技术中在集群大规模并发处理时，处理单元频繁访问数据库获取全局索引，给数据库造成压力过大，使得集群处理不稳定的问题，尚未提出解决方案。

发明内容

本发明实施例提供了一种生成数据的全局索引的方法及装置，以至少解决相关技术中在集群大规模并发处理时，处理单元频繁访问数据库获取全局索引，给数据库造成压力过大，使得集群处理不稳定的问题。

根据本发明的一个实施例，提供了一种生成数据的全局索引的方法，包括：

集群系统的处理单元接收目标数据，并从所述目标数据中获取采集所述目标数据的设备编号；

所述处理单元确定处理所述目标数据的处理时间；

所述处理单元获取处理所述目标数据的序号和所述集群系统的主控单元预先分配的全局唯一编号；

所述处理单元根据所述设备编号、所述处理时间、所述序号以及所述全局唯一编号为所述目标数据生成全局索引。

可选地，所述处理单元根据所述设备编号、所述处理时间、所述序号以及所述全局唯一编号为所述目标数据生成全局索引包括：

所述处理单元根据预定规则组合所述设备编号、所述当前时间、所述序号以及所述全局唯一编号，得到所述全局索引。

可选地，在所述处理单元根据所述设备编号、所述处理时间、所述序号以及所述全局唯一编号为所述目标数据生成全局索引之后，所述方法还包括：

所述处理单元判断所述序号是否小于预设阈值；

在判断结果为是的情况下，所述处理单元将所述序号增加第一预定值；

在判断结果为否的情况下，所述处理单元复位所述序号。

可选地，在所述处理单元确定处理所述目标数据的处理时间之前，所述方法还包括：

所述处理单元判断与所述主控单元的时间是否一致；

在判断结果为否的情况下，根据所述主控单元的时间进行时间同步。

可选地，所述处理单元确定处理所述目标数据的处理时间包括：

所述处理单元获取当前系统时间；

所述处理单元判断所述当前系统时间是否大于或等于上一次数据处理的处理时间；

在判断结果为否的情况下，所述处理单元将所述上一次数据处理的时间增加第二预定值之后得到的时间确定为处理所述目标数据的处理时间；

在判断结果为是的情况下，所述处理单元将所述当前系统时间确定为处理所述目标数据的处理时间。

可选地，在集群系统的处理单元接收所述目标数据之前，所述方法还包括：

所述处理单元向所述主控单元发送注册请求消息，其中，所述注册请求消息中携带有所述处理单元的标识，所述注册请求消息用于指示所述主控单元根据所述处理单元的标识分配所述全局唯一编号；

所述处理单元接收并存储所述主控单元分配的所述全局唯一编号。

可选地，在所述处理单元根据所述设备编号、所述处理时间、所述序号以及所述全局唯一编号为所述目标数据生成全局索引之后，所述方法还包括：

所述处理单元将所述全局索引与所述目标数据的映射关系存储到数据库中。

根据本发明的另一个实施例，还提供了一种生成数据的全局索引的装置，应用于集群系统的处理单元，包括：

第一接收模块，用于接收目标数据，并从所述目标数据中获取采集所述目标数据的设备编号；

确定模块，用于确定处理所述目标数据的处理时间；

获取模块，用于获取处理所述目标数据的序号和所述集群系统的主控单元预先分配的全局唯一编号；

生成模块，用于根据所述设备编号、所述处理时间、所述序号以及所述全局唯一编号为所述目标数据生成全局索引。

可选地，所述生成模块，还用于

根据预定规则组合所述设备编号、所述当前时间、所述序号以及所述全局唯一编号，得到所述全局索引。

可选地，所述装置还包括：

第一判断模块，用于判断所述序号是否小于预设阈值；

增加模块，用于在判断结果为是的情况下，将所述序号增加第一预定值；

复位模块，用于在判断结果为否的情况下，复位所述序号。

可选地，所述装置还包括：

第二判断模块，用于判断与所述主控单元的时间是否一致；

同步模块，用于在判断结果为否的情况下，根据所述主控单元的时间进行时间同步。

可选地，所述确定模块包括：

获取子模块，用于获取当前系统时间；

判断子模块，用于判断所述当前系统时间是否大于或等于上一次数据处理的处理时间；

第一确定子模块，用于在判断结果为否的情况下，将所述上一次数据处理的时间增加第二预定值之后得到的时间确定为处理所述目标数据的处理时间；

第二确定子模块，用于在判断结果为是的情况下，将所述当前系统时间确定为处理所述目标数据的处理时间。

可选地，所述装置还包括：

发送模块，用于向所述主控单元发送注册请求消息，其中，所述注册请求消息中携带有所述处理单元的标识，所述注册请求消息用于指示所述主控单元根据所述处理单元的标识分配所述全局唯一编号；

第二接收模块，用于接收并存储所述主控单元分配的所述全局唯一编号。

可选地，所述装置还包括：

存储模块，用于将所述全局索引与所述目标数据的映射关系存储到数据库中。

根据本发明的又一个实施例，还提供了一种存储介质，所述存储介质中存储有计算机程序，其中，所述计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。

根据本发明的又一个实施例，还提供了一种电子装置，包括存储器和处理器，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行上述任一项方法实施例中的步骤。

通过本发明，集群系统的处理单元接收目标数据，并从所述目标数据中获取采集所述目标数据的设备编号；所述处理单元确定处理所述目标数据的处理时间；所述处理单元获取处理所述目标数据的序号和所述集群系统的主控单元预先分配的全局唯一编号；所述处理单元根据所述设备编号、所述处理时间、所述序号以及所述全局唯一编号为所述目标数据生成全局索引，可以解决相关技术中在集群大规模并发处理时，处理单元频繁访问数据库获取全局索引，给数据库造成压力过大，使得集群处理不稳定的问题，生成全局索引与数据库无关，在保证全局索引快速生成的同时，减轻数据库的压力，保证整个集群系统的稳定运行。

附图说明

此处所说明的附图用来提供对本发明的进一步理解，构成本申请的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：

图1是本发明实施例的一种生成数据的全局索引的方法的移动终端的硬件结构框图；

图2是根据本发明实施例的一种模数转换方法的流程图；

图3是根据本发明实施例的基于集群环境下的全局索引生成系统的框图；

图4是根据本发明实施例的集群系统中全局索引生成的流程图；

图5是根据本发明实施例的生成数据的全局索引的装置的框图；

图6是根据本发明优选实施例的生成数据的全局索引的装置的框图。

具体实施方式

下文中将参考附图并结合实施例来详细说明本发明。需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。

需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。

实施例1

本申请实施例一所提供的方法实施例可以在移动终端、计算机终端或者类似的运算装置中执行。以运行在移动终端上为例，图1是本发明实施例的一种生成数据的全局索引的方法的移动终端的硬件结构框图，如图1所示，移动终端10可以包括一个或多个(图1中仅示出一个)处理器102(处理器102可以包括但不限于微处理器MCU或可编程逻辑器件FPGA等的处理装置)和用于存储数据的存储器104，可选地，上述移动终端还可以包括用于通信功能的传输设备106以及输入输出设备108。本领域普通技术人员可以理解，图1所示的结构仅为示意，其并不对上述移动终端的结构造成限定。例如，移动终端10还可包括比图1中所示更多或者更少的组件，或者具有与图1所示不同的配置。

存储器104可用于存储计算机程序，例如，应用软件的软件程序以及模块，如本发明实施例中的报文接收方法对应的计算机程序，处理器102通过运行存储在存储器104内的计算机程序，从而执行各种功能应用以及数据处理，即实现上述的方法。存储器104可包括高速随机存储器，还可包括非易失性存储器，如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中，存储器104可进一步包括相对于处理器102远程设置的存储器，这些远程存储器可以通过网络连接至移动终端10。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

传输装置106用于经由一个网络接收或者发送数据。上述的网络具体实例可包括移动终端10的通信供应商提供的无线网络。在一个实例中，传输装置106包括一个网络适配器(Network Interface Controller，简称为NIC)，其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中，传输装置106可以为射频(Radio Frequency，简称为RF)模块，其用于通过无线方式与互联网进行通讯。

基于上述移动终端，本发明实施例提供了一种生成数据的全局索引的方法，图2是根据本发明实施例的一种生成数据的全局索引的方法的流程图，如图2所示，该流程包括如下步骤：

步骤S202，集群系统的处理单元接收目标数据，并从所述目标数据中获取采集所述目标数据的设备编号；

步骤S204，处理单元确定处理所述目标数据的处理时间；

步骤S206，处理单元获取处理所述目标数据的序号和所述集群系统的主控单元预先分配的全局唯一编号；

步骤S208，处理单元根据所述设备编号、所述处理时间、所述序号以及所述全局唯一编号为所述目标数据生成全局索引。

通过上述步骤S202至S208，集群系统的处理单元接收目标数据，并从所述目标数据中获取采集所述目标数据的设备编号；确定处理所述目标数据的处理时间；获取处理所述目标数据的序号和所述集群系统的主控单元预先分配的全局唯一编号；根据所述设备编号、所述处理时间、所述序号以及所述全局唯一编号为所述目标数据生成全局索引，可以解决相关技术中在集群大规模并发处理时，处理单元频繁访问数据库获取全局索引，给数据库造成压力过大，使得集群处理不稳定的问题，生成全局索引与数据库无关，在保证全局索引快速生成的同时，减轻数据库的压力，保证整个集群系统的稳定运行。

本发明实施例中，上述步骤S208具体可以包括：处理单元根据预定规则组合所述设备编号、所述当前时间、所述序号以及所述全局唯一编号，得到所述全局索引。预定规则可以预先进行设置，可以是组合的先后顺序等。

本发明实施例中，在为所述目标数据生成全局索引之后，所述处理单元判断所述序号是否小于预设阈值；在判断结果为是的情况下，将所述序号增加第一预定值；在判断结果为否的情况下，复位所述序号，使得上述序号循环递增。

可选地，在所述处理单元确定处理所述目标数据的处理时间之前，所述处理单元判断与所述主控单元的时间是否一致，在判断结果为否的情况下，根据所述主控单元的时间进行时间同步。

可选地，上述步骤S204具体可以包括：所述处理单元获取当前系统时间；判断所述当前系统时间是否大于或等于上一次数据处理的处理时间；在判断结果为否的情况下，将所述上一次数据处理的时间增加第二预定值之后得到的时间确定为处理所述目标数据的处理时间；在判断结果为是的情况下，将所述当前系统时间确定为处理所述目标数据的处理时间。

可选地，在集群系统的处理单元接收所述目标数据之前，所述处理单元向所述主控单元发送注册请求消息，其中，所述注册请求消息中携带有所述处理单元的标识，所述注册请求消息用于指示所述主控单元根据所述处理单元的标识分配所述全局唯一编号；接收并存储所述主控单元分配的所述全局唯一编号。

本发明实施例中，在所述处理单元根据所述设备编号、所述处理时间、所述序号以及所述全局唯一编号为所述目标数据生成全局索引之后，所述处理单元将所述全局索引与所述目标数据的映射关系存储到数据库中。即在为目标数据生成全局索引之后，将所述全局索引与目标数据关联后保存到数据库中，便于后续检索该目标数据。

下面举例对本发明实施例进行详细说明。

图3是根据本发明实施例的基于集群环境下的全局索引生成系统的框图，如图3所示，包括：图像采集设备1、图像采集设备2、…、图像采集设备N，采集单元，至少一个主控单元，处理单元1、处理单元2、…、处理单元N，其中，

图像采集设备1、图像采集设备2、…、图像采集设备N，负责采集图片，将采集的图片传输给采集单元；

采集单元，负责图片的分发；

主控单元，负责整个系统的任务调度、下发处理单元全局唯一编号以及各处理单元的时间同步；

处理单元，负责图片处理、全局唯一索引生成以及图片信息写入数据库。

处理单元从服务器获取同步时间及处理单元编号，在本地生成循环递增的序号；处理单元从前端设备接收待处理图片及图像采集设备编号；然后把当前时间、处理单元编号、循环递增的序号、图像采集设备编号组合成该图片的全局唯一索引。

处理单元的当前时间是否大于等于上一张图片使用的时间，如果当前时间大于等于上一张图片使用的时间，则使用该当前时间；如果当前时间小于上一张图片的使用时间，则取上一张图片的使用时间，确保时间是持续递增，索引唯一。

集群系统启动时，所有处理单元分别向主控单元注册，主控单元收到注册信息之后，给处理单元下发全局唯一编号，并且同步各处理单元的时间。生成全局索引的主要工作在每一个处理单元各自内部完成，与数据库不相关，在生成全局索引期间处理单元不对数据库进行任何的操作。当图像采集设备把图片上传到采集单元之后，采集单元会根据各处理单元的业务处理能力，进行采集图片的分发。

图4是根据本发明实施例的集群系统中全局索引生成的流程图，如4所示，包括：

步骤S401，处理单元收到实时采集图片；

步骤S402，解析实时采集图片信息，从中获取当前采集图片对应的设备编号；

步骤S403-S405，处理单元判断是否需要进行时间同步，如果需要时间同步，则与主控单元进行时间同步，如果不需要，则获取当前的系统时间；

步骤S406-S408，处理单元判断当前获取的系统时间是否大于或等于上一张图片使用时间，如果大于或等于，则使用当前时间，如果小于则取上一张图片使用的时间，确保时间是持续递增；

步骤S409，处理单元获取主控单元下发的处理单元的全局唯一编号；

步骤S410-S411，获取当前处理单元的循环递增序号，对该循环递增序号进行判断是否超过序号的最大值，如果超过最大值，序号进行复位，如果不超过最大值，直接使用该序号；

步骤S412，生成全局唯一索引，具体的，通过将当前时间、图像采集设备编号、处理单元全局唯一编号、循环递增序号等四项根据一定的组合方式最终生成全局唯一索引；

步骤S413，在生成完全局索引之后，循环递增序号进行递增；

步骤S414，处理单元生成好全局唯一索引之后，把索引和图片信息写入数据库中。

实施例2

本发明实施例，还提供了一种生成数据的全局索引的装置，图5是根据本发明实施例的生成数据的全局索引的装置的框图，如图5所示，应用于集群系统的处理单元，包括：

第一接收模块52，用于接收目标数据，并从所述目标数据中获取采集所述目标数据的设备编号；

确定模块54，用于确定处理所述目标数据的处理时间；

获取模块56，用于获取处理所述目标数据的序号和所述集群系统的主控单元预先分配的全局唯一编号；

生成模块58，用于根据所述设备编号、所述处理时间、所述序号以及所述全局唯一编号为所述目标数据生成全局索引。

可选地，所述生成模块58，还用于

根据预定规则组合所述设备编号、所述当前时间、所述序号以及所述全局唯一编号，得到所述全局索引。

图6是根据本发明优选实施例的生成数据的全局索引的装置的框图，如图6所示，所述装置还包括：

第一判断模块62，用于判断所述序号是否小于预设阈值；

增加模块64，用于在判断结果为是的情况下，将所述序号增加第一预定值；

复位模块66，用于在判断结果为否的情况下，复位所述序号。

可选地，所述装置还包括：

第二判断模块，用于判断与所述主控单元的时间是否一致；

同步模块，用于在判断结果为否的情况下，根据所述主控单元的时间进行时间同步。

可选地，所述确定模块54包括：

获取子模块，用于获取当前系统时间；

判断子模块，用于判断所述当前系统时间是否大于或等于上一次数据处理的处理时间；

第一确定子模块，用于在判断结果为否的情况下，将所述上一次数据处理的时间增加第二预定值之后得到的时间确定为处理所述目标数据的处理时间；

第二确定子模块，用于在判断结果为是的情况下，将所述当前系统时间确定为处理所述目标数据的处理时间。

可选地，所述装置还包括：

发送模块，用于向所述主控单元发送注册请求消息，其中，所述注册请求消息中携带有所述处理单元的标识，所述注册请求消息用于指示所述主控单元根据所述处理单元的标识分配所述全局唯一编号；

第二接收模块，用于接收并存储所述主控单元分配的所述全局唯一编号。

可选地，所述装置还包括：

存储模块，用于将所述全局索引与所述目标数据的映射关系存储到数据库中。

实施例3

本发明的实施例还提供了一种存储介质，该存储介质中存储有计算机程序，其中，该计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。

可选地，在本实施例中，上述存储介质可以被设置为存储用于执行以下步骤的计算机程序：

S1，接收目标数据，并从所述目标数据中获取采集所述目标数据的设备编号；

S2，确定处理所述目标数据的处理时间；

S3，获取处理所述目标数据的序号和集群系统的主控单元预先分配的全局唯一编号；

S4，根据所述设备编号、所述处理时间、所述序号以及所述全局唯一编号为所述目标数据生成全局索引。

可选地，在本实施例中，上述存储介质可以包括但不限于：U盘、只读存储器(Read-Only Memory，简称为ROM)、随机存取存储器(Random Access Memory，简称为RAM)、移动硬盘、磁碟或者光盘等各种可以存储计算机程序的介质。

实施例4

本发明的实施例还提供了一种电子装置，包括存储器和处理器，该存储器中存储有计算机程序，该处理器被设置为运行计算机程序以执行上述任一项方法实施例中的步骤。

可选地，上述电子装置还可以包括传输设备以及输入输出设备，其中，该传输设备和上述处理器连接，该输入输出设备和上述处理器连接。

可选地，在本实施例中，上述处理器可以被设置为通过计算机程序执行以下步骤：

S1，接收目标数据，并从所述目标数据中获取采集所述目标数据的设备编号；

S2，确定处理所述目标数据的处理时间；

S3，获取处理所述目标数据的序号和集群系统的主控单元预先分配的全局唯一编号；

S4，根据所述设备编号、所述处理时间、所述序号以及所述全局唯一编号为所述目标数据生成全局索引。

可选地，本实施例中的具体示例可以参考上述实施例及可选实施方式中所描述的示例，本实施例在此不再赘述。

显然，本领域的技术人员应该明白，上述的本发明的各模块或各步骤可以用通用的计算装置来实现，它们可以集中在单个的计算装置上，或者分布在多个计算装置所组成的网络上，可选地，它们可以用计算装置可执行的程序代码来实现，从而，可以将它们存储在存储装置中由计算装置来执行，并且在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤，或者将它们分别制作成各个集成电路模块，或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样，本发明不限制于任何特定的硬件和软件结合。

以上所述仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种生成数据的全局索引的方法，其特征在于，包括：

集群系统的处理单元接收目标数据，并从所述目标数据中获取采集所述目标数据的设备编号；

所述处理单元确定处理所述目标数据的处理时间；

所述处理单元获取处理所述目标数据的序号和所述集群系统的主控单元预先分配的全局唯一编号；

所述处理单元根据所述设备编号、所述处理时间、所述序号以及所述全局唯一编号为所述目标数据生成全局索引。

2.根据权利要求1所述的方法，其特征在于，所述处理单元根据所述设备编号、所述处理时间、所述序号以及所述全局唯一编号为所述目标数据生成全局索引包括：

所述处理单元根据预定规则组合所述设备编号、所述当前时间、所述序号以及所述全局唯一编号，得到所述全局索引。

3.根据权利要求2所述的方法，其特征在于，在所述处理单元根据所述设备编号、所述处理时间、所述序号以及所述全局唯一编号为所述目标数据生成全局索引之后，所述方法还包括：

所述处理单元判断所述序号是否小于预设阈值；

在判断结果为是的情况下，所述处理单元将所述序号增加第一预定值；

在判断结果为否的情况下，所述处理单元复位所述序号。

4.根据权利要求1所述的方法，其特征在于，在所述处理单元确定处理所述目标数据的处理时间之前，所述方法还包括：

所述处理单元判断与所述主控单元的时间是否一致；

在判断结果为否的情况下，根据所述主控单元的时间进行时间同步。

5.根据权利要求4所述的方法，其特征在于，所述处理单元确定处理所述目标数据的处理时间包括：

所述处理单元获取当前系统时间；

所述处理单元判断所述当前系统时间是否大于或等于上一次数据处理的处理时间；

在判断结果为否的情况下，所述处理单元将所述上一次数据处理的时间增加第二预定值之后得到的时间确定为处理所述目标数据的处理时间；

在判断结果为是的情况下，所述处理单元将所述当前系统时间确定为处理所述目标数据的处理时间。

6.根据权利要求1至5中任一项所述的方法，其特征在于，在集群系统的处理单元接收所述目标数据之前，所述方法还包括：

所述处理单元向所述主控单元发送注册请求消息，其中，所述注册请求消息中携带有所述处理单元的标识，所述注册请求消息用于指示所述主控单元根据所述处理单元的标识分配所述全局唯一编号；

所述处理单元接收并存储所述主控单元分配的所述全局唯一编号。

7.根据权利要求1至5中任一项所述的方法，其特征在于，在所述处理单元根据所述设备编号、所述处理时间、所述序号以及所述全局唯一编号为所述目标数据生成全局索引之后，所述方法还包括：

所述处理单元将所述全局索引与所述目标数据的映射关系存储到数据库中。

8.一种生成数据的全局索引的装置，其特征在于，应用于集群系统的处理单元，包括：

第一接收模块，用于接收目标数据，并从所述目标数据中获取采集所述目标数据的设备编号；

确定模块，用于确定处理所述目标数据的处理时间；

获取模块，用于获取处理所述目标数据的序号和所述集群系统的主控单元预先分配的全局唯一编号；

生成模块，用于根据所述设备编号、所述处理时间、所述序号以及所述全局唯一编号为所述目标数据生成全局索引。

9.一种存储介质，其特征在于，所述存储介质中存储有计算机程序，其中，所述计算机程序被设置为运行时执行所述权利要求1至7任一项中所述的方法。

10.一种电子装置，包括存储器和处理器，其特征在于，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行所述权利要求1至7任一项中所述的方法。