CN110119381A - 一种索引更新方法、装置、设备及介质 - Google Patents
一种索引更新方法、装置、设备及介质 Download PDFInfo
- Publication number
- CN110119381A CN110119381A CN201910409985.6A CN201910409985A CN110119381A CN 110119381 A CN110119381 A CN 110119381A CN 201910409985 A CN201910409985 A CN 201910409985A CN 110119381 A CN110119381 A CN 110119381A
- Authority
- CN
- China
- Prior art keywords
- index
- change
- data
- predetermined condition
- conforms
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/13—File access structures, e.g. distributed indices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/16—File or folder operations, e.g. details of user interfaces specifically adapted to file systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/23—Updating
Abstract
本说明书实施例公开了一种索引更新方法、装置、设备及介质,索引更新方法包括:新建第一索引,所述第一索引具有目标配置;将第二索引的数据导入所述第一索引,以及在所述第二索引的数据导入所述第一索引的过程中,确定第二索引所对应的索引对象是否发生符合预定条件的改变;若是,则建立发生符合预定条件的改变后的索引对象与所述第一索引的索引;针对任一所述发生符合预定条件改变的索引对象,根据该索引对象的版本号确定在所述第一索引中保留来自第二索引的与改变前的该索引对象对应的数据或是来自改变后的该索引对象的数据。
Description
技术领域
本申请涉及计算机技术领域,尤其涉及一种索引更新方法、装置、设备及介质。
背景技术
现有技术中,在针对文档等对象创建索引时需要对索引进行设置和映射,后续无法对索引进行设置和映射配置等的修改,若是有这样的修改需求,就需要重新创建一份新的索引,并将新索引与各个索引对象建立索引,效率较低。
有鉴于此,需要更有效和更高效的索引更新方法。
发明内容
本说明书实施例提供一种索引更新方法、装置、设备及介质,用以解决如何更有效和更高效地进行索引更新的技术问题。
为解决上述技术问题,本说明书实施例是这样实现的:
本说明书提供一种索引更新方法,包括:
新建第一索引,所述第一索引具有目标配置;
将第二索引的数据导入所述第一索引,以及在所述第二索引的数据导入所述第一索引的过程中,确定第二索引所对应的索引对象是否发生符合预定条件的改变;
若是,则建立发生符合预定条件的改变后的索引对象与所述第一索引的索引;
针对任一所述发生符合预定条件改变的索引对象,根据该索引对象的版本号确定在所述第一索引中保留来自第二索引的与改变前的该索引对象对应的数据或是来自改变后的该索引对象的数据。
本说明书实施例提供一种索引更新装置,包括:
索引新建模块,用于新建第一索引,所述第一索引具有目标配置;
索引互导模块,用于将第二索引的数据导入所述第一索引;
索引对象导入模块,用于在所述第二索引的数据导入所述第一索引的过程中,确定第二索引所对应的索引对象是否发生符合预定条件的改变;以及若有第二索引所对应的索引对象发生符合预定条件的改变,则建立发生符合预定条件的改变后的索引对象与所述第一索引的索引;
索引筛选模块,用于针对任一所述发生符合预定条件改变的索引对象,根据该索引对象的版本号确定在所述第一索引中保留来自第二索引的与改变前的该索引对象对应的数据或是来自改变后的该索引对象的数据。
本说明书实施例提供一种索引更新设备,包括:
至少一个处理器;
以及,
与所述至少一个处理器通信连接的存储器;
其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够:
新建第一索引,所述第一索引具有目标配置;
将第二索引的数据导入所述第一索引,以及在所述第二索引的数据导入所述第一索引的过程中,确定第二索引所对应的索引对象是否发生符合预定条件的改变;
若是,则建立发生符合预定条件的改变后的索引对象与所述第一索引的索引;
针对任一所述发生符合预定条件改变的索引对象,根据该索引对象的版本号确定在所述第一索引中保留来自第二索引的与改变前的该索引对象对应的数据或是来自改变后的该索引对象的数据。
本说明书实施例提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令被处理器执行时实现如下的步骤:
新建第一索引,所述第一索引具有目标配置;
将第二索引的数据导入所述第一索引,以及在所述第二索引的数据导入所述第一索引的过程中,确定第二索引所对应的索引对象是否发生符合预定条件的改变;
若是,则建立发生符合预定条件的改变后的索引对象与所述第一索引的索引;
针对任一所述发生符合预定条件改变的索引对象,根据该索引对象的版本号确定在所述第一索引中保留来自第二索引的与改变前的该索引对象对应的数据或是来自改变后的该索引对象的数据。
本说明书实施例采用的上述至少一个技术方案能够达到以下有益效果:
第二索引作为老索引,第一索引作为新索引,通过将第二索引的数据导入第一索引,实现了新老索引之间的数据迁移,新索引作为老索引的更新索引,一方面解决了无法只对老索引进行设置和映射配置从而更新老索引的问题,另一方面通过新老索引之间的数据迁移,使得新索引能够拥有与“老索引所对应的索引对象”的映射关系,从而可以不用重新建立新索引与各个索引对象之间的映射关系,使得索引更新更加高效和轻量化;在第一索引和第二索引的数据迁移过程中,对于任一发生改变的索引对象,根据该索引对象的版本号确定在第一索引中保留来自第二索引的与改变前的该索引对象对应的字段或是来自改变后的该索引对象的字段,保证了老的存量数据不会覆盖新的增量数据,保证了索引更新的有效性。
附图说明
为了更清楚地说明本说明书实施例或现有技术中的技术方案,下面将对本说明书实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本说明书中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本说明书第一个实施例中的索引更新方法的流程示意图。
图2是本说明书第二个实施例中的索引更新装置的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本说明书中的技术方案,下面将结合本说明书实施例中的附图,对本说明书实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本说明书实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。
实施例一:
现有技术中,创建索引时需要对索引进行设置和映射,但后续无法对索引进行设置和映射配置的修改。
如图1所示,本说明书的第一个实施例提供了一种索引更新方法,包括:
S101:新建第一索引,所述第一索引具有目标配置。
本实施例中,可以将索引所指向的对象称为索引对象,例如索引对象可以是一条条的数据或是文档或文档中的字段,字段则可以包括标题、作者等各种形式。以下以文档为例进行说明。
在本实施例中,可以新建索引,称为第一索引,第一索引具有目标配置,即按照实际需要第一索引所应该拥有的配置。例如在Elasticsearch中,在新建第一索引后,可以对第一索引进行Mapping和Setting配置。
新索引的mapping和setting值是通过http的Put命令进行创建
如下所示,便可创建一个新的索引并进行其mapping和setting配置。
具体的,Setting配置是对索引的设置,包括(但不限于):
1.对索引的配置,包括针对索引调优,容灾方面,例如:
index.number_of_shards//主分片数,例如为5,可以在创建索引时设置;
index.number_of_replicas//每个主分片的副本数,例如为1;
index.refresh_interval//执行刷新操作的频率,这使得索引的最近更改可以被搜索;
index.codec//数据的压缩方式
2.分析器配置,该组要用于在进行索引时对内容进行分析的配置,在此进行预定义,后续在mapping中进行配置使用
例如,下面举例创建了一个新的分析器,叫做es_std,分词器使用单词边界分割,并使用预定义的停用词列表。
Mapping对索引库中索引的字段名称及其数据类型进行定义,参见mysql中的表结构信息,不过Elasticsearch中的Mapping比数据库要灵活。Mapping例如:
上面就新建了一个string类型的字段并定义其用刚刚在Setting中定义好的分析器进行分析。
S102:将第二索引的数据导入所述第一索引,以及在所述第二索引的数据导入所述第一索引的过程中,确定第二索引所对应的索引对象是否发生了符合预定条件的改变。
本实施例中,第二索引早于第一索引建立。实际上,在第一索引建立前,第二索引是被使用的索引。在第二索引无法进行映射配置等方面的修改的情况下,本实施例中新建第一索引,用来作为第二索引的更新索引。第一索引与第二索引所包含的字段可以不同,例如第二索引可以包含文档标题、作者,第一索引则可以包含文档标题、作者、文档大小等。
在本实施例中,可以将第二索引的数据导入第一索引,包括索引对象和映射关系等。例如,在Elasticsearch中,可以使用Reindex机制来进行第二索引和第一索引之间的数据导入或迁移;还可以在Elasticsearch外围构建了以kafka为中心的消息队列系统,在构建一个新的索引时,可以借助消息队列从最开始的位置拉取数据导入Elasticsearch索引,但此举相对更耗时耗力,一则需要搭建、维护该系统;二则kafka消息队列中数据冗余,且导入Elasticsearch的性能远远低于Elasticsearch内部进行Reindex迁移的性能,导致在业务数据量很大时,每次重建索引时间过长。故本实施例中,使用Reindex机制来进行第二索引和第一索引之间的数据导入或迁移,使得索引之间的数据导入或迁移更加轻量高效。
第二索引的数据导入第一索引的过程中,确定第二索引所对应的索引对象是否发生了符合预定条件的改变。例如第二索引对应有1000000篇文档,则在第二索引的数据导入第一索引的过程中,确定这1000000篇文档是否发生了符合预定条件的改变。
确定第二索引所对应的索引对象是否发生了符合预定条件的改变包括:
对任一第二索引所对应的索引对象,确定该索引对象中与第一索引对应的特征是否发生改变;这里的特征包括了第一索引所包含的字段;由于索引更新后会使用第一索引,因而要看索引对象中与第一索引对应的特征是否发生改变。
若该索引对象中与第一索引对应的特征发生改变,则该索引对象发生了符合预定条件的改变(可见,这里的预定条件可以是“索引对象中与第一索引对应的特征发生改变”);若该索引对象中与第一索引对应的特征未发生改变,则可以认为该索引对象未发生符合预定条件的改变。例如对于第二索引所对应的文档A,第二索引中包含了文档A的标题,不包含作者,第一索引中包含了文档A的标题和作者;在第二索引的数据导入第一索引的过程中,若文档A的标题或作者发生的改变,都可以认为文档A发生了符合预定条件的改变。
S103:若第二索引所对应的索引对象发生了符合预定条件的改变,则建立发生了符合预定条件的改变后的索引对象与所述第一索引的索引。
对于任一第二索引对应的索引对象,若该索引对象发生了符合预定条件的改变,则建立发生了符合预定条件的改变后的该索引对象与第一索引的索引。以某文档B为例,文档B与第二索引对应。在第二索引的数据导入第一索引的过程中,文档B发生了符合预定条件的改变,从而变成了文档C,则可以建立文档C与第一索引的索引,但文档B和C仍可以看作一个索引对象。
S104:针对任一所述发生符合预定条件改变的索引对象,根据该索引对象的版本号确定在所述第一索引中保留来自第二索引的与改变前的该索引对象对应的数据或是来自改变后的该索引对象的数据。
在本实施例中,对任一索引对象,将该索引对象的时间戳作为该索引对象的版本号。例如在Elasticsearch中,在新建文档时,对于每个文档都会生成一个_version(版本)号,故可以使用时间戳作为文档的版本号。如某文档发生了符合预定条件的改变,则改变后的文档的版本号大于改变前的文档的版本号。
针对任一所述发生符合预定条件改变的索引对象,根据该索引对象的版本号确定在所述第一索引中保留来自第二索引的与改变前的该索引对象对应的数据或是来自改变后的该索引对象的数据包括:
针对任一发生符合预定条件改变的索引对象,比较该索引对象发生符合预定条件的改变前后的版本号;沿用前例中的文档B与文档C,则比较文档B与文档C的版本号;
若该索引对象发生符合预定条件改变前的版本号小于该索引对象发生符合预定条件改变后的版本号,则在第一索引中保留来自改变后的该索引对象的数据。
从上述内容可以得出,第一索引中的数据(或字段)有两个来源,第一是来自于第二索引的导入,第二是来自于发生了符合预定条件的改变的索引对象(这里的第一、第二没有先后之分);对于任一发生符合预定条件改变的索引对象,第一种来源中“第二索引的与改变前的该索引对象对应的数据”会对应该索引对象改变前的版本号,第二种来源中“来自改变后的该索引对象的数据”会对应该索引对象改变后的版本号。
对于任一发生符合预定条件改变的索引对象,若是第二索引中与改变前的该索引对象对应的数据先于该索引对象改变后的数据进入第一索引,则通过比较版本号,第一索引中会保留该索引对象改变后的数据(先进入的数据会被后进入的数据覆盖);若是第二索引中与改变前的该索引对象对应的数据后于该索引对象改变后的数据进入第一索引,则通过比较版本号,第一索引中仍会保留该索引对象改变后的数据,而不会被后进入的、第二索引中与改变前的该索引对象对应的数据覆盖(即后进入的数据会忽略)。
沿用上面文档B与文档C的例子,第二索引中具有与文档B对应的数据(或字段),文档C的版本号大于文档B的版本号;若是第二索引中与文档B对应的数据先于文档C的数据进入第一索引,则通过比较两次进入的数据的版本号,第一索引中会保留来自文档C的数据(先进入的、第二索引中与文档B对应的数据会被覆盖);若是第二索引中与文档B对应的数据后于文档C的数据进入第一索引,则通过比较两次进入的数据的版本号,第一索引中仍会保留来自文档C的数据(后进入的、第二索引中与文档B对应的数据会被忽略)。
在第二索引的数据都导入或迁移到第一索引后(有些数据可能会由于版本号而被忽略或覆盖,但完成了导入或迁移过程,也视为导入或迁移到了第一索引),就可以使用第一索引替代所述第二索引对所述索引对象(包括发生和未发生符合预定条件的改变的索引对象)进行索引。可见,在第二索引的数据导入第一索引后,对于导入过程中发生符合预定条件的改变的索引对象,会建立改变后的该索引对象与第一索引的索引或映射关系;对于导入过程中未发生符合预定条件的改变的索引对象,第一索引可以使用第二索引的数据,从而用于与这些索引对象的索引或映射关系。
另外,在所述第二索引的数据导入所述第一索引的过程中,可能有新的索引对象产生,这种新的索引对象并没有对应第二索引,则可以建立这种新的索引对象与第一索引的索引关系。
在本实施例中,第二索引作为老索引,第一索引作为新索引,通过将第二索引的数据导入第一索引,实现了新老索引之间的数据迁移,新索引作为老索引的更新索引,一方面解决了无法只对老索引进行设置和映射配置从而更新老索引的问题,另一方面通过新老索引之间的数据迁移,使得新索引能够拥有与“老索引所对应的索引对象”的映射关系,从而可以不用重新建立新索引与各个索引对象之间的映射关系,使得索引更新更加高效和轻量化;在第一索引和第二索引的数据迁移过程中,同时,兼顾到索引对象的动态变化,且对于任一发生改变的索引对象,根据该索引对象的版本号确定在第一索引中保留来自第二索引的与改变前的该索引对象对应的字段或是来自改变后的该索引对象的字段,保证了老的存量数据(即来自第二索引的数据)不会覆盖新的增量数据(即来自变化后的索引对象的数据),保证了索引更新的有效性(即能够有效索引到索引对象的最新数据)。
实施例二:
如图2所示,本说明书第二个实施例提供了一种索引更新装置,包括:
索引新建模块201,用于新建第一索引,所述第一索引具有目标配置;
索引互导模块202,用于将第二索引的数据导入所述第一索引;
索引对象导入模块203,用于在所述第二索引的数据导入所述第一索引的过程中,确定第二索引所对应的索引对象是否发生符合预定条件的改变;以及若有第二索引所对应的索引对象发生符合预定条件的改变,则建立发生符合预定条件的改变后的索引对象与所述第一索引的索引;
索引筛选模块204,用于针对任一所述发生符合预定条件改变的索引对象,根据该索引对象的版本号确定在所述第一索引中保留来自第二索引的与改变前的该索引对象对应的数据或是来自改变后的该索引对象的数据。
可选的,所述装置还包括:
索引替换模块,用于在所述第二索引的数据导入所述第一索引后,使用所述第一索引替代所述第二索引对所述索引对象进行索引。
可选的,所述装置还包括:
新索引对象索引模块,用于在所述第二索引的数据导入所述第一索引的过程中,若产生了新的可索引对象,则建立所述新的可索引对象与所述第一索引的索引。
可选的,所述第二索引早于所述第一索引建立。
可选的,将所述索引对象的时间戳作为所述索引对象的版本号。
可选的,针对任一所述发生符合预定条件改变的索引对象,根据该索引对象的版本号确定在所述第一索引中保留来自第二索引的与改变前的该索引对象对应的数据或是来自改变后的该索引对象的数据包括:
针对任一所述发生符合预定条件改变的索引对象,比较该索引对象发生符合预定条件的改变前后的版本号;
若该索引对象发生符合预定条件改变前的版本号小于该索引对象发生符合预定条件改变后的版本号,则在第一索引中保留来自改变后的该索引对象的数据。
可选的,确定第二索引所对应的索引对象是否发生符合预定条件的改变包括:
对任一第二索引所对应的索引对象,确定该索引对象中与所述第一索引对应的特征是否发生改变;
若是,则该索引对象发生符合预定条件的改变。
实施例三:
本说明书第三个实施例提供了一种索引更新设备,包括:
至少一个处理器;
以及,
与所述至少一个处理器通信连接的存储器;
其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够:
新建第一索引,所述第一索引具有目标配置;
将第二索引的数据导入所述第一索引,以及在所述第二索引的数据导入所述第一索引的过程中,确定第二索引所对应的索引对象是否发生符合预定条件的改变;
若是,则建立发生符合预定条件的改变后的索引对象与所述第一索引的索引;
针对任一所述发生符合预定条件改变的索引对象,根据该索引对象的版本号确定在所述第一索引中保留来自第二索引的与改变前的该索引对象对应的数据或是来自改变后的该索引对象的数据。
实施例四:
本说明书第四个实施例提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令被处理器执行时实现如下的步骤:
新建第一索引,所述第一索引具有目标配置;
将第二索引的数据导入所述第一索引,以及在所述第二索引的数据导入所述第一索引的过程中,确定第二索引所对应的索引对象是否发生符合预定条件的改变;
若是,则建立发生符合预定条件的改变后的索引对象与所述第一索引的索引;
针对任一所述发生符合预定条件改变的索引对象,根据该索引对象的版本号确定在所述第一索引中保留来自第二索引的与改变前的该索引对象对应的数据或是来自改变后的该索引对象的数据。
上述各实施例可以结合使用。
上述对本说明书特定实施例进行了描述,其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,附图中描绘的过程不一定必须按照示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于装置、设备、非易失性计算机可读存储介质实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本说明书实施例提供的装置、设备、非易失性计算机可读存储介质与方法是对应的,因此,装置、设备、非易失性计算机存储介质也具有与对应方法类似的有益技术效果,由于上面已经对方法的有益技术效果进行了详细说明,因此,这里不再赘述对应装置、设备、非易失性计算机存储介质的有益技术效果。
在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware DescrIP地址tion Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware Descr IP地址tion Language)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Descr IP地址tion Language)、Lava、Lola、MyHDL、PALASM、RHDL(Ruby Hardware Descr IP地址tion Language)等,目前最普遍使用的是VHDL(Very-High-Speed Integrated Circuit Hardware Descr IP地址tion Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC 625D、Atmel AT91SAM、MicrochIP地址PIC18F26K20以及Silicone LabsC8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本说明书实施例可提供为方法、系统、或计算机程序产品。因此,本说明书实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本说明书实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书是参照根据本说明书实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。
Claims (16)
1.一种索引更新方法,包括:
新建第一索引,所述第一索引具有目标配置;
将第二索引的数据导入所述第一索引,以及在所述第二索引的数据导入所述第一索引的过程中,确定第二索引所对应的索引对象是否发生符合预定条件的改变;
若是,则建立发生符合预定条件的改变后的索引对象与所述第一索引的索引;
针对任一所述发生符合预定条件改变的索引对象,根据该索引对象的版本号确定在所述第一索引中保留来自第二索引的与改变前的该索引对象对应的数据或是来自改变后的该索引对象的数据。
2.如权利要求1所述的方法,所述方法还包括:
在所述第二索引的数据导入所述第一索引后,使用所述第一索引替代所述第二索引对所述索引对象进行索引。
3.如权利要求1所述的方法,所述方法还包括:
在所述第二索引的数据导入所述第一索引的过程中,若产生了新的可索引对象,则建立所述新的可索引对象与所述第一索引的索引。
4.如权利要求1所述的方法,所述第二索引早于所述第一索引建立。
5.如权利要求1所述的方法,将所述索引对象的时间戳作为所述索引对象的版本号。
6.如权利要求1至5中任一项所述的方法,针对任一所述发生符合预定条件改变的索引对象,根据该索引对象的版本号确定在所述第一索引中保留来自第二索引的与改变前的该索引对象对应的数据或是来自改变后的该索引对象的数据包括:
针对任一所述发生符合预定条件改变的索引对象,比较该索引对象发生符合预定条件的改变前后的版本号;
若该索引对象发生符合预定条件改变前的版本号小于该索引对象发生符合预定条件改变后的版本号,则在第一索引中保留来自改变后的该索引对象的数据。
7.如权利要求1至5中任一项所述的方法,确定第二索引所对应的索引对象是否发生符合预定条件的改变包括:
对任一第二索引所对应的索引对象,确定该索引对象中与所述第一索引对应的特征是否发生改变;
若是,则该索引对象发生符合预定条件的改变。
8.一种索引更新装置,包括:
索引新建模块,用于新建第一索引,所述第一索引具有目标配置;
索引互导模块,用于将第二索引的数据导入所述第一索引;
索引对象导入模块,用于在所述第二索引的数据导入所述第一索引的过程中,确定第二索引所对应的索引对象是否发生符合预定条件的改变;以及若有第二索引所对应的索引对象发生符合预定条件的改变,则建立发生符合预定条件的改变后的索引对象与所述第一索引的索引;
索引筛选模块,用于针对任一所述发生符合预定条件改变的索引对象,根据该索引对象的版本号确定在所述第一索引中保留来自第二索引的与改变前的该索引对象对应的数据或是来自改变后的该索引对象的数据。
9.如权利要求8所述的装置,所述装置还包括:
索引替换模块,用于在所述第二索引的数据导入所述第一索引后,使用所述第一索引替代所述第二索引对所述索引对象进行索引。
10.如权利要求8所述的装置,所述装置还包括:
新索引对象索引模块,用于在所述第二索引的数据导入所述第一索引的过程中,若产生了新的可索引对象,则建立所述新的可索引对象与所述第一索引的索引。
11.如权利要求8所述的装置,所述第二索引早于所述第一索引建立。
12.如权利要求8所述的装置,将所述索引对象的时间戳作为所述索引对象的版本号。
13.如权利要求8至12中任一项所述的装置,针对任一所述发生符合预定条件改变的索引对象,根据该索引对象的版本号确定在所述第一索引中保留来自第二索引的与改变前的该索引对象对应的数据或是来自改变后的该索引对象的数据包括:
针对任一所述发生符合预定条件改变的索引对象,比较该索引对象发生符合预定条件的改变前后的版本号;
若该索引对象发生符合预定条件改变前的版本号小于该索引对象发生符合预定条件改变后的版本号,则在第一索引中保留来自改变后的该索引对象的数据。
14.如权利要求8至12中任一项所述的装置,确定第二索引所对应的索引对象是否发生符合预定条件的改变包括:
对任一第二索引所对应的索引对象,确定该索引对象中与所述第一索引对应的特征是否发生改变;
若是,则该索引对象发生符合预定条件的改变。
15.一种索引更新设备,包括:
至少一个处理器;
以及,
与所述至少一个处理器通信连接的存储器;
其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够:
新建第一索引,所述第一索引具有目标配置;
将第二索引的数据导入所述第一索引,以及在所述第二索引的数据导入所述第一索引的过程中,确定第二索引所对应的索引对象是否发生符合预定条件的改变;
若是,则建立发生符合预定条件的改变后的索引对象与所述第一索引的索引;
针对任一所述发生符合预定条件改变的索引对象,根据该索引对象的版本号确定在所述第一索引中保留来自第二索引的与改变前的该索引对象对应的数据或是来自改变后的该索引对象的数据。
16.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令被处理器执行时实现如下的步骤:
新建第一索引,所述第一索引具有目标配置;
将第二索引的数据导入所述第一索引,以及在所述第二索引的数据导入所述第一索引的过程中,确定第二索引所对应的索引对象是否发生符合预定条件的改变;
若是,则建立发生符合预定条件的改变后的索引对象与所述第一索引的索引;
针对任一所述发生符合预定条件改变的索引对象,根据该索引对象的版本号确定在所述第一索引中保留来自第二索引的与改变前的该索引对象对应的数据或是来自改变后的该索引对象的数据。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910409985.6A CN110119381A (zh) | 2019-05-17 | 2019-05-17 | 一种索引更新方法、装置、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910409985.6A CN110119381A (zh) | 2019-05-17 | 2019-05-17 | 一种索引更新方法、装置、设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110119381A true CN110119381A (zh) | 2019-08-13 |
Family
ID=67522682
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910409985.6A Pending CN110119381A (zh) | 2019-05-17 | 2019-05-17 | 一种索引更新方法、装置、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110119381A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110866023A (zh) * | 2019-11-06 | 2020-03-06 | 支付宝(杭州)信息技术有限公司 | 一种数据处理方法、装置、设备及介质 |
CN112256715A (zh) * | 2020-11-12 | 2021-01-22 | 微医云(杭州)控股有限公司 | 索引的更新方法、装置、电子设备以及存储介质 |
CN112395253A (zh) * | 2020-11-17 | 2021-02-23 | 北京字节跳动网络技术有限公司 | 索引文件生成方法、终端设备、电子设备及介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101312379A (zh) * | 2007-10-30 | 2008-11-26 | 北京创毅视讯科技有限公司 | 广播系统传输数据服务的方法、系统及收发装置 |
CN102799679A (zh) * | 2012-07-24 | 2012-11-28 | 河海大学 | 基于Hadoop的海量空间数据索引更新系统及方法 |
US20130173739A1 (en) * | 2003-07-30 | 2013-07-04 | Ognian Z. TOPALOV | Reverse Mapping Method and Apparatus for Form Filing |
CN104978215A (zh) * | 2014-10-08 | 2015-10-14 | 腾讯科技(深圳)有限公司 | 一种文件更新方法、相关设备和系统 |
CN107526777A (zh) * | 2017-07-21 | 2017-12-29 | 阿里巴巴集团控股有限公司 | 一种基于版本号对文件进行处理的方法及设备 |
-
2019
- 2019-05-17 CN CN201910409985.6A patent/CN110119381A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130173739A1 (en) * | 2003-07-30 | 2013-07-04 | Ognian Z. TOPALOV | Reverse Mapping Method and Apparatus for Form Filing |
CN101312379A (zh) * | 2007-10-30 | 2008-11-26 | 北京创毅视讯科技有限公司 | 广播系统传输数据服务的方法、系统及收发装置 |
CN102799679A (zh) * | 2012-07-24 | 2012-11-28 | 河海大学 | 基于Hadoop的海量空间数据索引更新系统及方法 |
CN104978215A (zh) * | 2014-10-08 | 2015-10-14 | 腾讯科技(深圳)有限公司 | 一种文件更新方法、相关设备和系统 |
CN107526777A (zh) * | 2017-07-21 | 2017-12-29 | 阿里巴巴集团控股有限公司 | 一种基于版本号对文件进行处理的方法及设备 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110866023A (zh) * | 2019-11-06 | 2020-03-06 | 支付宝(杭州)信息技术有限公司 | 一种数据处理方法、装置、设备及介质 |
CN110866023B (zh) * | 2019-11-06 | 2022-08-30 | 支付宝(杭州)信息技术有限公司 | 一种数据处理方法、装置、设备及介质 |
CN112256715A (zh) * | 2020-11-12 | 2021-01-22 | 微医云(杭州)控股有限公司 | 索引的更新方法、装置、电子设备以及存储介质 |
CN112256715B (zh) * | 2020-11-12 | 2024-04-19 | 微医云(杭州)控股有限公司 | 索引的更新方法、装置、电子设备以及存储介质 |
CN112395253A (zh) * | 2020-11-17 | 2021-02-23 | 北京字节跳动网络技术有限公司 | 索引文件生成方法、终端设备、电子设备及介质 |
WO2022105563A1 (zh) * | 2020-11-17 | 2022-05-27 | 北京字节跳动网络技术有限公司 | 索引文件生成方法、终端设备、电子设备及介质 |
CN112395253B (zh) * | 2020-11-17 | 2024-03-12 | 抖音视界有限公司 | 索引文件生成方法、终端设备、电子设备及介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107402824A (zh) | 一种数据处理的方法及装置 | |
CN107450972A (zh) | 一种调度方法、装置以及电子设备 | |
CN107562467A (zh) | 页面渲染方法、装置及设备 | |
CN107679700A (zh) | 业务流程处理方法、装置及服务器 | |
CN110134668A (zh) | 应用于区块链的数据迁移方法、装置和设备 | |
CN107506181A (zh) | 业务处理、数据处理方法、装置以及电子设备 | |
CN107644286A (zh) | 工作流处理方法及装置 | |
CN107016604A (zh) | 缓冲记账的方法、装置及设备 | |
CN110119381A (zh) | 一种索引更新方法、装置、设备及介质 | |
CN108959341A (zh) | 一种数据同步的方法、装置及设备 | |
CN109241026A (zh) | 数据管理的方法、装置及系统 | |
CN109947643A (zh) | 一种基于a/b测试的实验方案的配置方法、装置及设备 | |
CN110119505A (zh) | 词向量生成方法、装置以及设备 | |
CN108268289A (zh) | web应用的参数配置方法、装置及系统 | |
CN110263050A (zh) | 数据处理方法、装置、设备及存储介质 | |
CN109086126A (zh) | 任务调度处理方法、装置、服务器、客户端及电子设备 | |
CN109033127A (zh) | 一种同步数据校验方法、装置以及设备 | |
CN107038058A (zh) | 一种代码处理方法及装置 | |
CN110059023A (zh) | 一种刷新级联缓存的方法、系统及设备 | |
CN109597678A (zh) | 任务处理方法及装置 | |
CN108255471A (zh) | 一种基于配置套件的系统配置项配置装置、方法及设备 | |
CN108304455A (zh) | 一种处理业务请求的方法、装置及设备 | |
CN109656946A (zh) | 一种多表关联查询方法、装置及设备 | |
CN109325035A (zh) | 相似表的识别方法及装置 | |
CN109614393A (zh) | 数据核对方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20190813 |
|
WD01 | Invention patent application deemed withdrawn after publication |