CN113157495A - 模型服务灾备方法、装置、设备及存储介质 - Google Patents

模型服务灾备方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN113157495A
CN113157495A CN202110455359.8A CN202110455359A CN113157495A CN 113157495 A CN113157495 A CN 113157495A CN 202110455359 A CN202110455359 A CN 202110455359A CN 113157495 A CN113157495 A CN 113157495A
Authority
CN
China
Prior art keywords
target model
model service
target
service
group
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110455359.8A
Other languages
English (en)
Inventor
刘国明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Xiaomi Mobile Software Co Ltd
Beijing Xiaomi Pinecone Electronic Co Ltd
Original Assignee
Beijing Xiaomi Mobile Software Co Ltd
Beijing Xiaomi Pinecone Electronic Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Xiaomi Mobile Software Co Ltd, Beijing Xiaomi Pinecone Electronic Co Ltd filed Critical Beijing Xiaomi Mobile Software Co Ltd
Priority to CN202110455359.8A priority Critical patent/CN113157495A/zh
Publication of CN113157495A publication Critical patent/CN113157495A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/14Error detection or correction of the data by redundancy in operation
    • G06F11/1402Saving, restoring, recovering or retrying
    • G06F11/1446Point-in-time backing up or restoration of persistent data
    • G06F11/1458Management of the backup or restore process

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Telephonic Communication Services (AREA)

Abstract

本公开是关于一种模型服务灾备方法、装置、设备及存储介质,所述方法包括:响应于检测到目标模型服务满足启动灾备条件,将所述目标模型服务对应的第一实例列表删除;将所述目标模型服务所属的目标模型服务群组中其他模型服务对应的第二实例列表注册到所述目标模型服务下,所述目标模型服务群组为预先确定的所述目标模型服务所属的服务群组,所述其他模型服务为所述目标模型服务群组中包含的除所述目标模型服务之外的模型服务,所述其他模型服务与所述目标模型服务具有相同的接口声明集合信息。本公开可以降低设备资源的硬件成本,并且可以降低设备资源的运营成本和人力成本。

Description

模型服务灾备方法、装置、设备及存储介质
技术领域
本公开涉及人工智能技术领域,尤其涉及一种模型服务灾备方法、装置、设备及存储介质。
背景技术
随着深度学习技术的不断发展,各个领域对于模型服务的需求也日益增长。模型服务就是将模型落地成高可用服务的服务,这样的服务既具有普通业务服务的通用特征,也存在针对深度学习模型的特殊性。为了确保模型服务的顺利实施,相关技术中通常需要采取一些方法为服务进行灾备。
相关技术中的灾备方法通常是以额外资源为基础的,即通过引入额外的节点设备来进行灾备,以应对实例故障导致的服务不可用的问题。然而,这种方式不仅会增加设备资源的硬件成本,同时会增加设备资源的运营成本和人力成本。
发明内容
为克服相关技术中存在的问题,本公开实施例提供一种模型服务灾备方法、装置、设备及存储介质,用以解决相关技术中的缺陷。
根据本公开实施例的第一方面,提供一种模型服务灾备方法,所述方法包括:
响应于检测到目标模型服务满足启动灾备条件,将所述目标模型服务对应的第一实例列表删除;
将所述目标模型服务所属的目标模型服务群组中其他模型服务对应的第二实例列表注册到所述目标模型服务下,所述目标模型服务群组为预先确定的所述目标模型服务所属的服务群组,所述其他模型服务为所述目标模型服务群组中包含的除所述目标模型服务之外的模型服务,所述其他模型服务与所述目标模型服务具有相同的接口声明集合信息。
在一实施例中,所述方法还包括:
响应于检测到所述目标模型服务满足启动灾备条件,将所述目标模型服务群组下对应于所述目标模型服务的第一实例列表删除。
在一实施例中,所述方法还包括:
响应于检测到所述目标模型服务满足关闭灾备条件,将所述目标模型服务对应的第二实例列表删除;
将当前获取的第三实例列表注册到所述目标模型服务下,所述第三实例列表包括当前为所述目标模型服务确定的最新实例列表。
在一实施例中,所述方法还包括:
将所述第三实例列表注册到所述目标模型服务群组下。
在一实施例中,所述方法还包括基于以下方式确定所述目标模型服务所属的目标模型服务群组:
确定所述目标模型服务的目标接口声明集合信息;
基于所述目标接口声明集合信息查找所述目标模型服务所属的目标模型服务群组,所述目标模型服务群组包含的各个模型服务具有所述目标接口声明集合信息;
所述方法还包括:
响应于查找到所述目标模型服务群组,将所述目标模型服务加入所述目标模型服务群组中;
将所述目标模型服务的第一实例列表注册到所述目标模型服务之下;
将所述目标模型服务的第一实例列表注册到所述目标模型服务群组之下。
在一实施例中,所述方法还包括:
响应于未查找到所述目标模型服务群组,创建所述目标模型服务所属的目标模型服务群组,并将所述目标接口声明集合信息注册到所述目标模型服务群组下;
将所述目标模型服务加入所述目标模型服务群组中。
根据本公开实施例的第二方面,提供一种模型服务灾备装置,所述装置包括:
服务列表删除模块,用于响应于检测到目标模型服务满足启动灾备条件,将所述目标模型服务对应的第一实例列表删除;
服务列表注册模块,用于将所述目标模型服务所属的目标模型服务群组中其他模型服务对应的第二实例列表注册到所述目标模型服务下,所述目标模型服务群组为预先确定的所述目标模型服务所属的服务群组,所述其他模型服务为所述目标模型服务群组中包含的除所述目标模型服务之外的模型服务,所述其他模型服务与所述目标模型服务具有相同的接口声明集合信息。
在一实施例中,所述装置还包括:
群组列表删除模块,用于响应于检测到所述目标模型服务满足启动灾备条件,将所述目标模型服务群组下对应于所述目标模型服务的第一实例列表删除。
在一实施例中,所述装置还包括灾备关闭模块;
所述灾备关闭模块,包括:
服务列表删除单元,用于响应于检测到所述目标模型服务满足关闭灾备条件,将所述目标模型服务对应的第二实例列表删除;
服务列表注册单元,用于将当前获取的第三实例列表注册到所述目标模型服务下,所述第三实例列表包括当前为所述目标模型服务确定的最新实例列表。
在一实施例中,所述灾备关闭模块,还包括:
群组列表注册单元,用于将所述第三实例列表注册到所述目标模型服务群组下。
在一实施例中,所述装置还包括目标群组确定模块;
所述目标群组确定模块,包括:
集合信息确定单元,用于确定所述目标模型服务的目标接口声明集合信息;
目标群组确定单元,用于基于所述目标接口声明集合信息查找所述目标模型服务所属的目标模型服务群组,所述目标模型服务群组包含的各个模型服务具有所述目标接口声明集合信息;
所述装置还包括:
第一服务添加模块,用于响应于查找到所述目标模型服务群组,将所述目标模型服务加入所述目标模型服务群组中;
第一列表注册模块,用于将所述目标模型服务的第一实例列表注册到所述目标模型服务之下;
第二列表注册模块,用于将所述目标模型服务的第一实例列表注册到所述目标模型服务群组之下。
在一实施例中,所述装置还包括:
目标群组创建模块,用于响应于未查找到所述目标模型服务群组,创建所述目标模型服务所属的目标模型服务群组,并将所述目标接口声明集合信息注册到所述目标模型服务群组下;
第二服务添加模块,用于将所述目标模型服务加入所述目标模型服务群组中。
根据本公开实施例的第三方面,提供一种电子设备,所述设备包括:
处理器以及用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:
响应于检测到目标模型服务满足启动灾备条件,将所述目标模型服务对应的第一实例列表删除;
将所述目标模型服务所属的目标模型服务群组中其他模型服务对应的第二实例列表注册到所述目标模型服务下,所述目标模型服务群组为预先确定的所述目标模型服务所属的服务群组,所述其他模型服务为所述目标模型服务群组中包含的除所述目标模型服务之外的模型服务,所述其他模型服务与所述目标模型服务具有相同的接口声明集合信息。
根据本公开实施例的第四方面,提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现:
响应于检测到目标模型服务满足启动灾备条件,将所述目标模型服务对应的第一实例列表删除;
将所述目标模型服务所属的目标模型服务群组中其他模型服务对应的第二实例列表注册到所述目标模型服务下,所述目标模型服务群组为预先确定的所述目标模型服务所属的服务群组,所述其他模型服务为所述目标模型服务群组中包含的除所述目标模型服务之外的模型服务,所述其他模型服务与所述目标模型服务具有相同的接口声明集合信息。
本公开的实施例提供的技术方案可以包括以下有益效果:
本公开通过响应于检测到目标模型服务满足启动灾备条件,将所述目标模型服务对应的第一实例列表删除,并将所述目标模型服务所属的目标模型服务群组中其他模型服务对应的第二实例列表注册到所述目标模型服务下,可以实现在目标模型服务满足启动灾备条件时,基于目标模型服务群组中与目标模型服务具有相同的接口声明集合信息的其他模型服务所对应的第二实例列表来替代目标模型服务的实例列表,从而可以实现对目标模型服务的灾备,即可使目标模型服务恢复正常,由于无需引入额外的节点设备来进行灾备,因而可以降低设备资源的硬件成本,并且可以降低设备资源的运营成本和人力成本。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。
图1是根据第一示例性实施例示出的一种模型服务灾备方法的流程图;
图2是根据第二示例性实施例示出的一种模型服务灾备方法的流程图;
图3是根据第三示例性实施例示出的一种模型服务灾备方法的流程图;
图4是根据第四示例性实施例示出的一种模型服务灾备方法的流程图;
图5是根据一示例性实施例示出的如何确定目标模型服务群组以及注册第一实例列表的流程图;
图6是根据一示例性实施例示出的一种模型服务灾备装置的框图;
图7是根据又一示例性实施例示出的一种模型服务灾备装置的框图;
图8是根据一示例性实施例示出的一种电子设备的框图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施例并不代表与本公开相一致的所有实施例。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
图1是根据第一示例性实施例示出的一种模型服务灾备方法的流程图;本实施例的方法可以应用于包含多个节点设备的集群,所述节点设备包括物理机、虚拟机或容器等。
如图1所示,该方法包括以下步骤S101-S102:
在步骤S101中,响应于检测到目标模型服务满足启动灾备条件,将所述目标模型服务对应的第一实例列表删除。
其中,上述目标模型服务可以为相关技术中利用模型进行推理的服务,本实施例对此不进行限定。
本实施例中,当将目标模型服务部署到当前包含多个节点设备的集群之后,可以基于该目标模型服务的外部接口对业务上游调用方提供相应的服务。其中,该目标模型服务的外部接口的类型可以基于实际需要进行设置,如设置为http、grpc或者其他rpc类型等,本实施例对此不进行限定。在此基础上,当检测到目标模型服务满足启动灾备条件时,可以将该目标模型服务对应的第一实例列表删除。其中,该第一实例列表中包含目标模型服务当前对应的各个实例的相关信息。通过将该目标模型服务对应的第一实例列表删除,可以实现解除目标模型服务与第一实例列表之间的对应关系。
上述目标模型服务满足启动灾备条件的方式可以基于实际业务需要进行设置。举例来说,可以当目标模型服务发生故障的实例数量大于或等于第一设定阈值时,确定目标模型服务满足启动灾备条件。
在步骤S102中,将所述目标模型服务所属的目标模型服务群组中其他模型服务对应的第二实例列表注册到所述目标模型服务下。
本实施例中,当响应于检测到目标模型服务满足启动灾备条件,将所述目标模型服务对应的第一实例列表删除后,可以将所述目标模型服务所属的目标模型服务群组中其他模型服务对应的第二实例列表注册到所述目标模型服务下。
其中,上述目标模型服务群组可以为预先确定的所述目标模型服务所属的服务群组;上述目标模型服务群组中的其他模型服务可以为目标模型服务群组中包含的除目标模型服务之外的模型服务,并且该其他模型服务与目标模型服务具有相同的接口声明集合信息。
可以理解的是,通过在目标模型服务满足启动灾备条件时,将所述目标模型服务对应的第一实例列表删除,并将所述目标模型服务所属的目标模型服务群组中其他模型服务对应的第二实例列表注册到所述目标模型服务下,可以实现基于目标模型服务群组中与目标模型服务具有相同的接口声明集合信息的其他模型服务所对应的第二实例列表来替代目标模型服务的实例列表,从而可以实现对目标模型服务的灾备。
由上述描述可知,本实施例的方法通过响应于检测到目标模型服务满足启动灾备条件,将所述目标模型服务对应的第一实例列表删除,并将所述目标模型服务所属的目标模型服务群组中其他模型服务对应的第二实例列表注册到所述目标模型服务下,可以实现在目标模型服务满足启动灾备条件时,基于目标模型服务群组中与目标模型服务具有相同的接口声明集合信息的其他模型服务所对应的第二实例列表来替代目标模型服务的实例列表,从而可以实现对目标模型服务的灾备,即可使目标模型服务恢复正常,由于无需引入额外的节点设备来进行灾备,因而可以降低设备资源的硬件成本,并且可以降低设备资源的运营成本和人力成本。
图2是根据第二示例性实施例示出的一种模型服务灾备方法的流程图。
其中,步骤S201和S203的相关解释和说明可以参见上述图1所示实施例中的步骤S101-S102,在此不进行赘述。如图2所示,本实施例在上述图1所示实施例的基础上,当响应于检测到目标模型服务满足启动灾备条件,将所述目标模型服务对应的第一实例列表删除之后,还可以将所述目标模型服务群组下对应于所述目标模型服务的第一实例列表删除,从而可以实现解除目标模型服务群组与目标模型服务的第一实例列表之间的对应关系。可以理解的是,由于目标模型服务当前已经满足启动灾备条件,即表明目标模型服务的第一实例列表所对应的实例中的大部分已经发生故障,因而需要将目标模型服务群组下对应于所述目标模型服务的第一实例列表也删除掉。
图3是根据第三示例性实施例示出的一种模型服务灾备方法的流程图;其中,步骤S301-S302的相关解释和说明可以参见上述图1所示实施例中的步骤S101-S102,在此不进行赘述。如图3所示,本实施例在上述图1所示实施例的基础上,还包括以下步骤S303-S304:
在步骤S303中,响应于检测到所述目标模型服务满足关闭灾备条件,将所述目标模型服务对应的第二实例列表删除。
本实施例中,当将所述目标模型服务所属的目标模型服务群组中其他模型服务对应的第二实例列表注册到所述目标模型服务下之后,如果检测到所述目标模型服务满足关闭灾备条件,则可以将目标模型服务对应的第二实例列表删除。
在一实施例中,上述目标模型服务满足关闭灾备条件的方式可以基于实际业务需要进行设置。举例来说,可以当目标模型服务正常运行的实例数量大于或等于第二设定阈值时,确定目标模型服务满足关闭灾备条件。
可以理解的是,由于本实施例中在目标模型服务满足启动灾备条件时,是基于目标模型服务群组中与目标模型服务具有相同的接口声明集合信息的其他模型服务所对应的第二实例列表来临时替代目标模型服务的实例列表,因而在检测到目标模型服务满足关闭灾备条件时,可以将目标模型服务对应的第二实例列表删除,即解除目标模型服务与其他模型服务的第二实例列表之间的对应关系,以减轻第二实例列表所对应的实例的工作负担。
在步骤S304中,将当前获取的第三实例列表注册到所述目标模型服务下。
本实施例中,当响应于检测到所述目标模型服务满足关闭灾备条件,将所述目标模型服务对应的第二实例列表删除后,可以将当前获取的第三实例列表注册到所述目标模型服务下。其中,所述第三实例列表包括当前为所述目标模型服务确定的最新实例列表,即恢复正常后的目标模型服务所对应的实例列表。
由上述描述可知,本实施例通过响应于检测到所述目标模型服务满足关闭灾备条件,将所述目标模型服务对应的第二实例列表删除,并将当前获取的第三实例列表注册到所述目标模型服务下,可以实现解除目标模型服务与其他模型服务的第二实例列表之间的对应关系,从而减轻第二实例列表所对应的实例的工作负担。
图4是根据第四示例性实施例示出的一种模型服务灾备方法的流程图;其中,步骤S401-S403的相关解释和说明可以参见上述图2所示实施例中的步骤S201-S203,步骤S404-S405的相关解释和说明可以参见上述图3所示实施例中的步骤S303-S304在此不进行赘述。如图4所示,本实施例在上述实施例的基础上,还可以包括以下步骤S406:
在步骤S406中,将所述第三实例列表注册到所述目标模型服务群组下。
本实施例中,当将当前获取的第三实例列表注册到所述目标模型服务下后,可以将第三实例列表注册到所述目标模型服务群组下,即构建目标模型服务的第三实例列表与目标模型服务群组之间的对应关系,如此即可实现后续基于该对应关系查找目标模型服务群组下对应于目标模型服务的实例列表,从而实现对目标模型服务进行灾备等处理。
图5是根据一示例性实施例示出的如何确定目标模型服务群组以及注册第一实例列表的流程图;如图5所示,本实施例在上述图1至图4各个实施例的基础上,还可以包括以下步骤S501-S508:
在步骤S501中,确定所述目标模型服务的目标接口声明集合信息。
本实施例中,可以基于预设模型检测方式来检测目标模型服务的模型文件,从而确定目标模型服务的目标接口声明集合信息。
其中,上述预设模型检测方式可以基于实际业务需要从相关技术中进行选取,例如可以采用人工检测方式或自动检测方式,本实施例对此不进行限定。
举例来说,上述目标模型服务的目标接口声明集合信息可以包括目标模型服务的接口类型以及相应的数据维度等。
在步骤S502中,基于所述目标接口声明集合信息查找所述目标模型服务所属的目标模型服务群组。
本实施例中,当确定所述目标模型服务的目标接口声明集合信息后,可以基于所述目标接口声明集合信息查找所述目标模型服务所属的目标模型服务群组。
其中,所述目标模型服务群组包含的各个模型服务具有所述目标接口声明集合信息。
举例来说,可以基于预先构建的接口声明集合信息与模型服务群组之间的对应关系,查找所述目标接口声明集合信息对应的目标模型服务群组。
在步骤S503中,确定是否查找到目标模型服务群组:若是,则执行步骤S504;若否,则执行步骤S507。
本实施例中,当执行上述基于所述目标接口声明集合信息查找所述目标模型服务所属的目标模型服务群组的操作之后,可以判断是否查找到目标模型服务群组,如果查找到目标模型服务群组,则可以继续执行下述步骤S504;相反,若未查找到目标模型服务群组,则可以继续执行下述步骤S507。
在步骤S504中,将所述目标模型服务加入所述目标模型服务群组中。
本实施例中,当查找到目标模型服务群组时,可以将所述目标模型服务加入所述目标模型服务群组中,如此即可构建目标模型服务与目标模型服务群组之间的关联关系,进而可以实现后续基于目标模型服务群组中的其他模型服务的实例列表对目标模型服务进行灾备。
在步骤S505中,将所述目标模型服务的第一实例列表注册到所述目标模型服务之下。
本实施例中,当将所述目标模型服务加入所述目标模型服务群组中之后,可以将所述目标模型服务的第一实例列表注册到所述目标模型服务之下,即可以实现构建目标模型服务与第一实例列表之间的对应关系。如此即可在后续确定目标模型服务发生故障(如,满足启动灾备条件)时,将目标模型服务对应的第一实例列表删除;或者,当目标模型服务群组中的其他模型服务发生故障需要启动灾备时,可以基于该目标模型服务对应的第一实例列表对发生故障的模型服务进行灾备。
在步骤S506中,将所述目标模型服务的第一实例列表注册到所述目标模型服务群组之下。
本实施例中,当将所述目标模型服务的第一实例列表注册到所述目标模型服务之下后,可以将所述目标模型服务的第一实例列表注册到所述目标模型服务群组之下,即可以实现构建目标模型服务的第一实例列表与目标模型服务群组之间的对应关系。如此即可在后续确定目标模型服务发生故障(如,满足启动灾备条件)时,将目标模型服务群组中对应于目标模型服务的第一实例列表删除;或者,当目标模型服务群组中的其他模型服务发生故障需要启动灾备时,可以基于该目标模型服务对应的第一实例列表对发生故障的模型服务进行灾备。
在步骤S507中,创建所述目标模型服务所属的目标模型服务群组,并将所述目标接口声明集合信息注册到所述目标模型服务群组下。
本实施例中,当未查找到目标模型服务群组时,可以创建所述目标模型服务所属的目标模型服务群组,并将所述目标接口声明集合信息注册到所述目标模型服务群组下。也即是说,当目前不存在目标模型服务所属的目标模型服务群组时,可以为目标模型服务新建一个目标模型服务群组,并将目标模型服务的目标接口声明集合信息注册到该目标模型服务群组下,以方便后续基于该目标接口声明集合信息向目标模型服务群组中添加更多模型服务,从而可以实现后续基于该群组内各个模型服务对应的实例列表进行灾备。
在步骤S508中,将所述目标模型服务加入所述目标模型服务群组中。
本实施例中,当创建所述目标模型服务所属的目标模型服务群组后,可以将所述目标模型服务加入所述目标模型服务群组中,进而可以继续执行步骤S505-S506。
可以理解的是,本实施例中通过将具有相同接口声明集合信息的模型服务规划到同一个模型服务群组中,即可实现后续在模型服务群组中某一模型服务发生故障需要进行灾备时,基于该模型服务群组中的除当前发生故障的模型服务之外的其他模型服务的实例列表替代该发生故障的模型服务的实例列表,因而可以基于该模型服务群组中的其他模型服务替代当前发生故障的模型服务进行工作,从而实现了零成本的灾备方案。
图6是根据一示例性实施例示出的一种模型服务灾备装置的框图;本实施例的装置可以应用于包含多个节点设备的集群,所述节点设备包括物理机、虚拟机或容器等。如图6所示,该装置包括:服务列表删除模块110和服务列表注册模块120,其中:
服务列表删除模块110,用于响应于检测到目标模型服务满足启动灾备条件,将所述目标模型服务对应的第一实例列表删除;
服务列表注册模块120,用于将所述目标模型服务所属的目标模型服务群组中其他模型服务对应的第二实例列表注册到所述目标模型服务下,所述目标模型服务群组为预先确定的所述目标模型服务所属的服务群组,所述其他模型服务为所述目标模型服务群组中包含的除所述目标模型服务之外的模型服务,所述其他模型服务与所述目标模型服务具有相同的接口声明集合信息。
由上述描述可知,本实施例的装置通过响应于检测到目标模型服务满足启动灾备条件,将所述目标模型服务对应的第一实例列表删除,并将所述目标模型服务所属的目标模型服务群组中其他模型服务对应的第二实例列表注册到所述目标模型服务下,可以实现在目标模型服务满足启动灾备条件时,基于目标模型服务群组中与目标模型服务具有相同的接口声明集合信息的其他模型服务所对应的第二实例列表来替代目标模型服务的实例列表,从而可以实现对目标模型服务的灾备,即可使目标模型服务恢复正常,由于无需引入额外的节点设备来进行灾备,因而可以降低设备资源的硬件成本,并且可以降低设备资源的运营成本和人力成本。
图7是根据又一示例性实施例示出的一种模型服务灾备装置的框图;本实施例的装置可以应用于包含多个节点设备的集群,所述节点设备包括物理机、虚拟机或容器等。其中,本实施例中的服务列表删除模块210和服务列表注册模块220与前述图6所示实施例中的服务列表删除模块110和服务列表注册模块120的功能相同,在此不进行赘述。如图7所示,该装置还可以包括:
群组列表删除模块230,用于响应于检测到所述目标模型服务满足启动灾备条件,将所述目标模型服务群组下对应于所述目标模型服务的第一实例列表删除。
在一实施例中,上述装置还可以包括灾备关闭模块240;
灾备关闭模块240,可以包括:
服务列表删除单元241,用于响应于检测到所述目标模型服务满足关闭灾备条件,将所述目标模型服务对应的第二实例列表删除;
服务列表注册单元242,用于将当前获取的第三实例列表注册到所述目标模型服务下,所述第三实例列表包括当前为所述目标模型服务确定的最新实例列表。
在一实施例中,上述灾备关闭模块240,还可以包括:
群组列表注册单元243,用于将所述第三实例列表注册到所述目标模型服务群组下。
在一实施例中,上述装置还可以包括目标群组确定模块250;
目标群组确定模块250,可以包括:
集合信息确定单元251,用于确定所述目标模型服务的目标接口声明集合信息;
目标群组确定单元252,用于基于所述目标接口声明集合信息查找所述目标模型服务所属的目标模型服务群组,所述目标模型服务群组包含的各个模型服务具有所述目标接口声明集合信息;
在此基础上,上述装置还可以包括:
第一服务添加模块260,用于响应于查找到所述目标模型服务群组,将所述目标模型服务加入所述目标模型服务群组中;
第一列表注册模块270,用于将所述目标模型服务的第一实例列表注册到所述目标模型服务之下;
第二列表注册模块280,用于将所述目标模型服务的第一实例列表注册到所述目标模型服务群组之下。
在另一实施例中,上述装置还可以包括:
目标群组创建模块290,用于响应于未查找到所述目标模型服务群组,创建所述目标模型服务所属的目标模型服务群组,并将所述目标接口声明集合信息注册到所述目标模型服务群组下;
第二服务添加模块300,用于将所述目标模型服务加入所述目标模型服务群组中。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
图8是根据一示例性实施例示出的一种电子设备的框图。例如,设备900可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图8,设备900可以包括以下一个或多个组件:处理组件902,存储器904,电源组件906,多媒体组件908,音频组件910,输入/输出(I/O)的接口912,传感器组件914,以及通信组件916。
处理组件902通常控制设备900的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件902可以包括一个或多个处理器920来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件902可以包括一个或多个模块,便于处理组件902和其他组件之间的交互。例如,处理组件902可以包括多媒体模块,以方便多媒体组件908和处理组件902之间的交互。
存储器904被配置为存储各种类型的数据以支持在设备900的操作。这些数据的示例包括用于在设备900上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器904可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件906为设备900的各种组件提供电力。电源组件906可以包括电源管理系统,一个或多个电源,及其他与为设备900生成、管理和分配电力相关联的组件。
多媒体组件908包括在所述设备900和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件908包括一个前置摄像头和/或后置摄像头。当设备900处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件910被配置为输出和/或输入音频信号。例如,音频组件910包括一个麦克风(MIC),当设备900处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器904或经由通信组件916发送。在一些实施例中,音频组件910还包括一个扬声器,用于输出音频信号。
I/O接口912为处理组件902和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件914包括一个或多个传感器,用于为设备900提供各个方面的状态评估。例如,传感器组件914可以检测到设备900的打开/关闭状态,组件的相对定位,例如所述组件为设备900的显示器和小键盘,传感器组件914还可以检测设备900或设备900一个组件的位置改变,用户与设备900接触的存在或不存在,设备900方位或加速/减速和设备900的温度变化。传感器组件914还可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件914还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件914还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件916被配置为便于设备900和其他设备之间有线或无线方式的通信。设备900可以接入基于通信标准的无线网络,如WiFi,2G或3G,4G或5G或它们的组合。在一个示例性实施例中,通信组件916经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件916还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,设备900可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子组件实现,用于执行上述方法。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器904,上述指令可由设备900的处理器920执行以完成上述方法。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
本领域技术人员在考虑说明书及实践这里公开的公开后,将容易想到本公开的其它实施方案。本公开旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。

Claims (10)

1.一种模型服务灾备方法,其特征在于,所述方法包括:
响应于检测到目标模型服务满足启动灾备条件,将所述目标模型服务对应的第一实例列表删除;
将所述目标模型服务所属的目标模型服务群组中其他模型服务对应的第二实例列表注册到所述目标模型服务下,所述目标模型服务群组为预先确定的所述目标模型服务所属的服务群组,所述其他模型服务为所述目标模型服务群组中包含的除所述目标模型服务之外的模型服务,所述其他模型服务与所述目标模型服务具有相同的接口声明集合信息。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
响应于检测到所述目标模型服务满足启动灾备条件,将所述目标模型服务群组下对应于所述目标模型服务的第一实例列表删除。
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
响应于检测到所述目标模型服务满足关闭灾备条件,将所述目标模型服务对应的第二实例列表删除;
将当前获取的第三实例列表注册到所述目标模型服务下,所述第三实例列表包括当前为所述目标模型服务确定的最新实例列表。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
将所述第三实例列表注册到所述目标模型服务群组下。
5.根据权利要求1所述的方法,其特征在于,所述方法还包括基于以下方式确定所述目标模型服务所属的目标模型服务群组:
确定所述目标模型服务的目标接口声明集合信息;
基于所述目标接口声明集合信息查找所述目标模型服务所属的目标模型服务群组,所述目标模型服务群组包含的各个模型服务具有所述目标接口声明集合信息;
所述方法还包括:
响应于查找到所述目标模型服务群组,将所述目标模型服务加入所述目标模型服务群组中;
将所述目标模型服务的第一实例列表注册到所述目标模型服务之下;
将所述目标模型服务的第一实例列表注册到所述目标模型服务群组之下。
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
响应于未查找到所述目标模型服务群组,创建所述目标模型服务所属的目标模型服务群组,并将所述目标接口声明集合信息注册到所述目标模型服务群组下;
将所述目标模型服务加入所述目标模型服务群组中。
7.一种模型服务灾备装置,其特征在于,所述装置包括:
服务列表删除模块,用于响应于检测到目标模型服务满足启动灾备条件,将所述目标模型服务对应的第一实例列表删除;
服务列表注册模块,用于将所述目标模型服务所属的目标模型服务群组中其他模型服务对应的第二实例列表注册到所述目标模型服务下,所述目标模型服务群组为预先确定的所述目标模型服务所属的服务群组,所述其他模型服务为所述目标模型服务群组中包含的除所述目标模型服务之外的模型服务,所述其他模型服务与所述目标模型服务具有相同的接口声明集合信息。
8.根据权利要求7所述的装置,其特征在于,所述装置还包括:
群组列表删除模块,用于响应于检测到所述目标模型服务满足启动灾备条件,将所述目标模型服务群组下对应于所述目标模型服务的第一实例列表删除。
9.一种电子设备,其特征在于,所述设备包括:
处理器以及用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:
响应于检测到目标模型服务满足启动灾备条件,将所述目标模型服务对应的第一实例列表删除;
将所述目标模型服务所属的目标模型服务群组中其他模型服务对应的第二实例列表注册到所述目标模型服务下,所述目标模型服务群组为预先确定的所述目标模型服务所属的服务群组,所述其他模型服务为所述目标模型服务群组中包含的除所述目标模型服务之外的模型服务,所述其他模型服务与所述目标模型服务具有相同的接口声明集合信息。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现:
响应于检测到目标模型服务满足启动灾备条件,将所述目标模型服务对应的第一实例列表删除;
将所述目标模型服务所属的目标模型服务群组中其他模型服务对应的第二实例列表注册到所述目标模型服务下,所述目标模型服务群组为预先确定的所述目标模型服务所属的服务群组,所述其他模型服务为所述目标模型服务群组中包含的除所述目标模型服务之外的模型服务,所述其他模型服务与所述目标模型服务具有相同的接口声明集合信息。
CN202110455359.8A 2021-04-26 2021-04-26 模型服务灾备方法、装置、设备及存储介质 Pending CN113157495A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110455359.8A CN113157495A (zh) 2021-04-26 2021-04-26 模型服务灾备方法、装置、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110455359.8A CN113157495A (zh) 2021-04-26 2021-04-26 模型服务灾备方法、装置、设备及存储介质

Publications (1)

Publication Number Publication Date
CN113157495A true CN113157495A (zh) 2021-07-23

Family

ID=76871003

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110455359.8A Pending CN113157495A (zh) 2021-04-26 2021-04-26 模型服务灾备方法、装置、设备及存储介质

Country Status (1)

Country Link
CN (1) CN113157495A (zh)

Similar Documents

Publication Publication Date Title
CN110231901B (zh) 应用界面显示方法及装置
CN106919629B (zh) 在群聊中实现信息筛选的方法及装置
CN109388625B (zh) 多分布式文件系统中处理配置文件的方法及装置
CN105808305B (zh) 静态资源的加载方法和装置
CN105979062B (zh) 通讯事件处理方法及装置
CN107463372B (zh) 一种数据驱动的页面更新方法和装置
CN112770341A (zh) 呼叫方法和装置
CN108446226B (zh) 应用异常的处理方法
CN106506808B (zh) 对通讯消息提示的方法及装置
CN105227426B (zh) 一种应用界面切换方法、装置及终端设备
CN109522286B (zh) 文件系统的处理方法和装置
CN109245992B (zh) 请求处理方法、装置、电子设备及存储介质
CN107885464B (zh) 数据存储方法、装置及计算机可读存储介质
CN111506234A (zh) 触摸屏边缘防误触方法、装置、存储介质及电子设备
CN114430370B (zh) 网络切片的确定方法、装置、设备及存储介质
CN105873154B (zh) 接入网络的方法及装置
CN112083841B (zh) 信息输入方法、装置和存储介质
CN113157495A (zh) 模型服务灾备方法、装置、设备及存储介质
CN114077461A (zh) 应用程序的运行方法、装置、设备及存储介质
CN112819061A (zh) 口令信息识别方法、装置、设备及存储介质
CN107257384B (zh) 服务状态监控方法及装置
CN108509641B (zh) 文件备份的方法、装置、服务器以及系统
CN105893146B (zh) 内存处理方法及装置
CN112738833B (zh) 网络信息更新方法和装置
CN110311968B (zh) 流式加载文件的方法、装置及智能设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination