CN106921726A - 多因子算法服务的管理系统、终端及方法 - Google Patents

多因子算法服务的管理系统、终端及方法 Download PDF

Info

Publication number
CN106921726A
CN106921726A CN201610409290.4A CN201610409290A CN106921726A CN 106921726 A CN106921726 A CN 106921726A CN 201610409290 A CN201610409290 A CN 201610409290A CN 106921726 A CN106921726 A CN 106921726A
Authority
CN
China
Prior art keywords
algorithm
service
server
algorithm service
resource
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201610409290.4A
Other languages
English (en)
Inventor
何乐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Advanced New Technologies Co Ltd
Advantageous New Technologies Co Ltd
Original Assignee
Alibaba Group Holding Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alibaba Group Holding Ltd filed Critical Alibaba Group Holding Ltd
Priority to CN201610409290.4A priority Critical patent/CN106921726A/zh
Publication of CN106921726A publication Critical patent/CN106921726A/zh
Pending legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1038—Load balancing arrangements to avoid a single path through a load balancer

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer And Data Communications (AREA)

Abstract

本发明实施例提供了一种多因子算法服务的管理系统、终端及方法。该系统包括多个用于运行所述算法服务的算法服务器，还包括：管理服务器，用于根据每个所述算法服务器的资源数据对所述算法服务进行资源分配，所述资源数据用于指示所述算法服务器的资源利用情况，多个所述算法服务器中分别设置有功能模块，用于根据所述管理服务器的资源分配结果，部署所述算法服务。本发明实施例通过增设管理服务器，对多个算法服务器的资源进行统一调度和灵活分配，通过在算法服务器中增设功能模块，实现了不同服务算法之间的资源隔离。

Description

多因子算法服务的管理系统、终端及方法
技术领域
本发明涉及计算机技术领域，尤其涉及一种多因子算法服务的管理系统、终端及方法。
背景技术
人脸、眼纹、声纹、虹膜和指纹等生物信息都可以用来识别自然人，通过这些信息进行的个人身份识别称为生物识别技术。但是，通过单一的生物信息(即，单因子)来识别，往往准确率不高，因此，为了提高对生物识别的准确性，可以采用多种生物信息的结合(即，多因子)来实现。
作为支撑生物识别的算法服务，需要利用中央处理器(CentralProcessing Unit；以下简称：CPU)、内存等服务器资源，而多因子生物识别算法服务需要大量的服务器资源。但是，在现有技术中，多因子算法服务所需的服务器资源是相互独立的，即，每一种算法服务都分别部署在不同的物理服务器上，因此，无法统一管理，并且难以进行资源的灵活分配。
发明内容
本发明实施例提供一种多因子算法服务的管理系统、终端及方法，以实现对服务器资源的统一调度和灵活分配。
为达到上述目的，本发明实施例提供了一种多因子算法服务的管理系统，包括多个用于运行所述算法服务的算法服务器，还包括：管理服务器，用于根据每个所述算法服务器的资源数据对所述算法服务进行资源分配，所述资源数据用于指示所述算法服务器的资源利用情况，多个所述算法服务器中分别设置有功能模块，用于根据所述管理服务器的资源分配结果，部署所述算法服务。
本发明实施例还提供了一种终端，包括：请求模块，用于向管理服务器发送清单获取请求，所述清单获取请求中包含待访问算法服务的服务名称；缓存模块，用于接收并缓存所述管理服务器返回的分配清单，所述分配清单包含所述待访问算法服务所分配的算法服务器的识别码；访问模块，用于根据所述识别码，向所述算法服务器发送访问请求，所述访问请求中包含所述待访问算法服务的服务名称；访问结果接收模块，用于接收所述算法服务器返回的访问结果信息。
本发明实施例还提供了一种多因子算法服务的管理方法，所述算法服务运行于多个算法服务器中，所述方法包括：根据每个所述算法服务器的资源数据对所述算法服务进行资源分配，所述资源数据用于指示所述算法服务器的资源利用情况；将资源分配结果发送至所述算法服务器。
本发明实施例还提供了一种多因子算法服务的管理方法，应用于多个用于运行所述算法服务的算法服务器中，包括：向管理服务器发送资源数据，所述资源数据用于指示所述算法服务器的资源利用情况；根据所述管理服务器的资源分配结果，部署所述算法服务。
本发明实施例还提供了一种多因子算法服务的管理方法，包括：向管理服务器发送清单获取请求，所述清单获取请求中包含待访问算法服务的服务名称；接收并缓存所述管理服务器返回的分配清单，所述分配清单包含所述待访问算法服务所分配的算法服务器的识别码；根据所述识别码，向所述算法服务器发送访问请求，所述访问请求中包含所述待访问算法服务的服务名称；接收所述算法服务器返回的访问结果信息。
本发明实施例提供的多因子算法服务的管理系统、终端及方法，通过增设管理服务器，对多个算法服务器的资源进行统一调度和灵活分配，通过在算法服务器中增设功能模块，实现了不同服务算法之间的资源隔离。
附图说明
图1为本发明提供的多因子算法服务的管理系统一个实施例的系统框图；
图2为本发明提供的多因子算法服务的管理系统中管理服务器实施例的结构示意框图；
图3为本发明提供的多因子算法服务的管理系统另一个实施例的系统框图；
图4为本发明提供的多因子算法服务的管理系统中算法服务器实施例的结构示意框图；
图5为本发明提供的终端一个实施例的结构示意图；
图6为本发明提供的多因子算法服务的管理方法一个实施例的方法流程图；
图7为本发明提供的多因子算法服务的管理方法另一个实施例的方法流程图；
图8为本发明提供的多因子算法服务的管理方法又一个实施例的方法流程图；
图9为本发明提供的多因子算法服务的管理方法再一个实施例的方法流程图。
附图标记说明：
1-算法服务器、2-管理服务器、11-功能模块、21-压缩模块、22-第一接收模块、23-分配模块、24-第一发送模块、25-再分配模块、26-第二发送模块、3-客户端、111-第一接收单元、112-容器创建单元、113-执行单元、114-容器管理单元、31-请求模块、32-缓存模块、33-访问模块、34-访问结果接收模块。
具体实施方式
下面结合附图对本发明实施例多因子算法服务的管理系统、终端及方法进行详细描述。
实施例一
图1为本发明提供的多因子算法服务的管理系统一个实施例的系统框图。如图1所示，本发明实施例提供的多因子算法服务的管理系统，包括多个算法服务器1和管理服务器2。其中，算法服务器1用于运行算法服务；管理服务器2用于根据每个算法服务器1的资源数据对算法服务进行资源分配，该资源数据用于指示算法服务器1的资源利用情况。多个算法服务器1中分别设置有功能模块11。该功能模块11用于根据管理服务器2的资源分配结果，部署算法服务。
在本发明实施例中，多因子算法服务可以包括但不限于：人脸识别(face)、眼纹识别(eye)、声纹识别(voice)、虹膜识别(iris)、指纹识别(finger)等算法服务。每个算法服务器1可以运行一种或者多种算法服务。管理服务器2根据每个算法服务器1的资源利用情况对算法服务进行资源分配。算法服务器1中的功能模块11根据管理服务器2的资源分配结果，对各个算法服务进行部署，分配相应的资源容器。
本发明实施例提供的多因子算法服务的管理系统，通过增设管理服务器，对多个算法服务器的资源进行统一调度和灵活分配，通过在算法服务器中增设功能模块，实现了不同服务算法之间的资源隔离。
实施例二
图2为本发明提供的多因子算法服务的管理系统中管理服务器实施例的结构示意框图。如图2所示，在上述实施例的基础上，管理服务器2可以包括：压缩模块21、第一接收模块22、分配模块23和第一发送模块24。
其中，压缩模块21用于对算法服务的可执行程序进行压缩处理，生成算法服务包；第一接收模块22用于接收每个算法服务器的资源数据；分配模块23用于根据该资源数据，对算法服务进行资源分配，生成分配清单(manifest文件)；第一发送模块24用于将压缩模块21生成的算法服务包和分配模块23生成的分配清单发送至相应的算法服务器。
在对某个算法服务进行部署时，压缩模块21将该算法服务的可执行程序打包，生成算法服务包。同时，分配模块23根据各算法服务器的资源数据以及算法服务对资源的需求量，对算法服务进行资源分配，生成分配清单(manifest文件)。然后，第一发送模块24将上述算法服务包和分配清单发送至相应的算法服务器，以进行部署，分配资源容器。
具体地，上述分配清单可以包括：算法服务的服务名称、分配的算法服务器的数量、分配的每个算法服务器的识别码(IDentity；以下简称：ID)、单个算法服务器中分配的CPU量和单个算法服务器中分配的内存量。例如，该manifest文件可以包括{“service”:“eye”,“cpu”:16,“mem”:32,“servers”:1}，表示服务名称为“眼纹识别”，单个算法服务器中分配的CPU量为16核(Core)，单个算法服务器中分配的内存量为32GB，分配的算法服务器的数量为1。
在本发明实施例中，当客户端访问算法服务时，首先访问管理服务器，从管理服务器获取待访问算法服务的分配清单，管理服务器接收到客户端发送的清单获取请求后，根据清单获取请求中的服务名称，将与其对应的分配清单发送至客户端。然后，客户端根据分配清单中的算法服务器的ID，访问部署在该算法服务器中的算法服务。如果该算法服务部署在多个算法服务器中，则客户端可以随机选取某个算法服务器进行访问。
进一步地，管理服务器2还可以包括：再分配模块25和第二发送模块26。
其中，再分配模块25用于根据算法服务的访问量和每个算法服务器的资源数据，对该算法服务进行资源再分配，更新分配清单；第二发送模块26用于将分配清单发送至相应的算法服务器。
随着客户端对算法服务的访问量的不断变化，每个算法服务队资源的需求也不同。因此，当算法服务器上部署了算法服务后，可以根据算法服务的访问量和各算法服务器的资源利用情况，对该算法服务进行资源调整。如果仅调整单台算法服务器上的CPU量和内存量，则第二发送模块26将包含CPU量和内存量的分配清单发送至相应的服务器，以进行调整。如果需要调整算法服务器的数量，则第二发送模块26需要将算法服务包和分配清都发送至新分配的算法服务器，以部署算法服务。而没有再被分配的算法服务器则根据管理服务器的指令，销毁相应的资源容器。避免某个算法服务大量占用系统资源，导致影响其它算法服务。
本发明实施例提供的多因子算法服务的管理系统，通过增设管理服务器，对多个算法服务器的资源进行统一调度和灵活分配，通过在算法服务器中增设功能模块，实现了不同服务算法之间的资源隔离。同时，根据算法服务的运行情况和各算法服务器的资源利用情况，实现了对资源的动态调整和共享，提高了资源利用率。
实施例三
图3为本发明提供的多因子算法服务的管理系统另一个实施例的系统框图。如图3所示，管理服务器2中的生物识别算法注册服务(Bio RosterService)根据每个算法服务器1的资源利用情况对算法服务进行资源分配。每个算法服务器1中的生物识别资源框架(Bio Framework)根据管理服务器2的资源分配结果，对各个算法服务进行部署，分配相应的资源容器，如“人脸识别”(face)、“眼纹识别”(eye)、“声纹识别”(voice)等。当客户端(Bio Client)3访问算法服务时，首先访问Bio Roster Service，从Bio Roster Service获取待访问算法服务的分配清单，然后根据分配清单中的算法服务器1的ID，访问部署在该算法服务器1中的算法服务。如果该算法服务部署在多个算法服务器1中，则客户端3可以随机选取某个算法服务器进行访问。
本发明实施例提供的多因子算法服务的管理系统，通过增设管理服务器，对多个算法服务器的资源进行统一调度和灵活分配，实现了对算法服务器的灵活访问，通过在算法服务器中增设功能模块，实现了不同服务算法之间的资源隔离。
实施例四
图4为本发明提供的多因子算法服务的管理系统中算法服务器实施例的结构示意框图。如图4所示，在图1所示实施例的基础上，功能模块11可以包括：第一接收单元111、容器创建单元112和执行单元113。
其中，第一接收单元111用于接收管理服务器发送的算法服务包和分配清单；容器创建单元112用于根据第一接收单元111接收到的分配清单，为算法服务创建资源容器，该资源容器包括为算法服务提供的CPU量和内存量；执行单元113用于对算法服务包进行解压处理，获取该算法服务的可执行程序，并在资源容器中执行上述可执行程序。
在对某个算法服务进行部署时，第一接收单元111接收打包后的算法服务包和分配清单，容器创建单元112根据该分配清单创建资源容器，执行单元113将算法服务包解压缩，并在资源容器中执行该算法服务的可执行程序。
在本发明实施例中，每个新的算法服务器上线，都需要设置功能模块11。功能模块11主动在管理服务器上完成注册并与管理服务器保持心跳，通过心跳信息将资源数据发送至管理服务器。
当客户端访问算法服务时，首先访问管理服务器，从管理服务器获取待访问算法服务的分配清单，然后根据分配清单中的算法服务器的ID，访问部署在该算法服务器中的算法服务。算法服务器接收到客户端发送的访问请求后，根据待访问算法服务的服务名称，访问为该算法服务创建的资源容器，进行相应的处理操作。然后，将访问结果信息发送至客户端。
当算法服务器上部署了算法服务后，可以根据算法服务的访问量和各算法服务器的资源利用情况，对该算法服务进行资源调整。当算法服务器接收到管理服务器发送的分配清单后，根据分配清单中的CPU量和内存量，调整为算法服务创建的资源容器。
更进一步地，功能模块11还可以包括：容器管理单元114。该容器管理单元114用于对为算法服务创建的资源容器进行监控、维护或销毁。
在本发明实施例中，容器管理单元114可以对资源容器的生命周期进行管理，即，根据管理服务器的指令对已创建的资源容器进行相应的数据监控；定期或不定期对资源容器进行维护(例如，进行健康检查或请求量负载均衡等)；以及当进行资源调整时，对不再需要的资源容器进行销毁。避免某个算法服务大量占用系统资源，导致影响其它算法服务。
本发明实施例提供的多因子算法服务的管理系统，通过增设管理服务器，对多个算法服务器的资源进行统一调度和灵活分配，通过在算法服务器中增设功能模块，实现了不同服务算法之间的资源隔离。同时，根据算法服务的运行情况和各算法服务器的资源利用情况，实现了对资源的动态调整和容器管理，提高了资源利用率。
实施例五
图5为本发明提供的终端一个实施例的结构示意图。如图5所示，本发明上述实施例中的客户端，可以为一个终端，也可以为集成在终端上的装置或芯片，还可以为部署于终端上的软件开发工具包(SoftwareDevelopment Kit；以下简称：SDK)。本发明实施例提供的终端，包括：请求模块31、缓存模块32、访问模块33和访问结果接收模块34。
其中，请求模块31用于向管理服务器发送清单获取请求，该清单获取请求中包含待访问算法服务的服务名称；缓存模块32用于接收并缓存管理服务器返回的分配清单，该分配清单包含待访问算法服务所分配的算法服务器的识别码；访问模块33用于根据该识别码，向算法服务器发送访问请求，该访问请求中包含待访问算法服务的服务名称；访问结果接收模块34用于接收算法服务器返回的访问结果信息。如果该算法服务部署在多个算法服务器中，则访问模块33可以随机选取某个算法服务器进行访问。
在本发明实施例中，当终端访问算法服务时，首先访问管理服务器，请求模块31向管理服务器发送清单获取请求。缓存模块32从管理服务器获取待访问算法服务的分配清单，并缓存该分配清单。然后，访问模块33根据分配清单中的算法服务器的ID，访问部署在该算法服务器中的算法服务。访问结果接收模块34接收算法服务器返回的访问结果信息。
在本发明实施例中，缓存超过了一定时间，客户端主动访问管理服务器以重新获取分配清单，此时，旧的分配清单缓存失效。当访问模块33发出访问请求超过一定时间后，若访问结果接收模块34仍未接收到访问结果信息，则服务超时，本次访问失效。此时，请求模块31重新发送清单获取请求，缓存模块32接收并替换已缓存的分配清单。当访问结果接收模块34接收到访问失败的访问结果信息时，说明服务不可用，本次访问失效。此时，请求模块31重新发送清单获取请求，缓存模块32接收并替换已缓存的分配清单。
本发明实施例提供的终端，在访问算法服务之前，首先访问管理服务器，通过管理服务器对资源的统一调度和灵活分配，实现了对多个算法服务器的灵活访问。并且在缓存失效或访问失效的情况下，重新访问管理服务器，提高了访问算法服务的有效性。
实施例六
图6为本发明提供的多因子算法服务的管理方法一个实施例的方法流程图，该方法的执行主体可以为管理服务器，也可以为集成在管理服务器上的装置或芯片。如图6所示，该多因子算法服务的管理方法包括如下步骤：
S610，根据每个算法服务器的资源数据对算法服务进行资源分配，该资源数据用于指示算法服务器的资源利用情况。
在本发明实施例中，多因子算法服务可以包括但不限于：face、eye、voice、iris、finger等算法服务，可以运行于多个算法服务器中。每个算法服务器可以运行一种或者多种算法服务。首先，根据每个算法服务器的资源利用情况对算法服务进行资源分配。
S620，将资源分配结果发送至算法服务器。
然后，将资源分配结果发送至算法服务器，算法服务器中的功能模块根据管理服务器的资源分配结果，对各个算法服务进行部署，分配相应的资源容器。
本发明实施例提供的多因子算法服务的管理方法，根据算法服务器的资源利用情况，对多个算法服务器的资源进行灵活分配，实现了资源的统一调度。
实施例七
图7为本发明提供的多因子算法服务的管理方法另一个实施例的方法流程图。如图7所示，本发明实施例提供的多因子算法服务的管理方法还可以包括如下步骤：
S710，生物识别算法注册服务(Bio Roster Service)接收每个算法服务器的资源数据，根据该资源数据以及算法服务对资源的需求量，对算法服务进行资源分配，生成分配清单manifest文件)。将算法服务的可执行程序进行压缩处理，生成算法服务包。
具体地，上述分配清单可以包括：算法服务的服务名称、分配的算法服务器的数量、分配的每个算法服务器的ID，单个算法服务器中分配的CPU量和单个算法服务器中分配的内存量。例如，该manifest文件可以包括：{“service”:“eye”,“cpu”:16,“mem”:32,“servers”:1}，表示服务名称为“眼纹识别”，单个算法服务器中分配的CPU量为16核(Core)，单个算法服务器中分配的内存量为32GB，分配的算法服务器的数量为1。
S720，Bio Roster Service将算法服务包和分配清单发送至相应的算法服务器中的生物识别资源框架(Bio Framework)。
S730，Bio Framework根据manifest文件，为算法服务创建资源容器。
进一步地，当客户端访问算法服务时，首先访问管理服务器，从管理服务器获取待访问算法服务的分配清单。在接收到客户端发送的清单获取请求后，根据清单获取请求中的服务名称，将与其对应的分配清单发送至客户端。然后，客户端根据分配清单中的算法服务器的ID，访问部署在该算法服务器中的算法服务。如果该算法服务部署在多个算法服务器中，则客户端可以随机选取某个算法服务器进行访问。
更进一步地，在对算法服务进行资源调整时，管理服务器根据算法服务的访问量和每个算法服务器的资源数据，对算法服务进行资源再分配，更新分配清单；并将分配清单发送至相应的算法服务器。如果仅调整单台算法服务器上的CPU量和内存量，则将包含CPU量和内存量的分配清单发送至相应的服务器，以进行调整。如果分配清单还用于指示算法服务器的数量的调整，则需要将算法服务包和分配清都发送至新分配的算法服务器，以部署算法服务。而没有再被分配的算法服务器则根据管理服务器的指令，销毁相应的资源容器。避免某个算法服务大量占用系统资源，导致影响其它算法服务。
本发明实施例提供的多因子算法服务的管理方法，根据算法服务器的资源利用情况，对多个算法服务器的资源进行统一调度和灵活分配。同时，根据算法服务的运行情况和各算法服务器的资源利用情况，实现了对资源的动态调整和共享，提高了资源利用率。
实施例八
图8为本发明提供的多因子算法服务的管理方法又一个实施例的方法流程图，该方法的执行主体可以为算法服务器，也可以为集成在算法服务器上的装置或芯片。如图8所示，该多因子算法服务的管理方法包括如下步骤：
S810，向管理服务器发送资源数据，该资源数据用于指示算法服务器的资源利用情况。
在本发明实施例中，多因子算法服务可以包括但不限于：face、eye、voice、iris、finger等算法服务，可以运行于多个算法服务器中。每个算法服务器可以运行一种或者多种算法服务。每个新的算法服务器上线，都需要设置功能模块。功能模块主动在管理服务器上完成注册，与管理服务器保持心跳，通过心跳信息将资源数据发送至管理服务器。
S820，根据管理服务器的资源分配结果，部署算法服务。
管理服务器根据每个算法服务器的资源利用情况对算法服务进行资源分配。功能模块根据管理服务器的资源分配结果，对各个算法服务进行部署，分配相应的资源容器。算法服务器接收管理服务器发送的算法服务包和分配清单，根据分配清单，为算法服务创建资源容器，该资源容器包括为算法服务提供的CPU量和内存量。然后，对算法服务包进行解压处理，获取该算法服务的可执行程序，并在资源容器中执行该可执行程序。
具体地，上述分配清单可以包括：算法服务的服务名称、分配的算法服务器的数量、分配的每个算法服务器的ID，单个算法服务器中分配的CPU量和单个算法服务器中分配的内存量。
当客户端访问算法服务时，算法服务器可以接收客户端发送的访问请求，该访问请求中包含待访问算法服务的服务名称；根据待访问算法服务的服务名称，访问为该算法服务创建的资源容器，进行相应的处理操作，获取访问结果信息；将访问结果信息发送至客户端。
在对算法服务进行资源调整时，算法服务器可以接收管理服务器发送的分配清单；根据该分配清单，调整为算法服务创建的资源容器。
在对算法服务进行容器管理时，算法服务器还可以对为算法服务创建的资源容器进行监控、维护或销毁。在本发明实施例中，可以对资源容器的生命周期进行管理，即，根据管理服务器的指令对已创建的资源容器进行相应的数据监控；定期或不定期对资源容器进行维护(例如，进行健康检查或请求量负载均衡等)，以及当进行资源调整时，对不再需要的资源容器进行销毁。避免某个算法服务大量占用系统资源，导致影响其它算法服务。
本发明实施例提供的多因子算法服务的管理方法，通过管理服务器对多个算法服务器的资源进行灵活分配，实现了资源的统一调度，通过增设功能模块，实现了不同服务算法之间的资源隔离。同时，根据算法服务的运行情况和各算法服务器的资源利用情况，实现了对资源的动态调整和容器管理，提高了资源利用率。
实施例九
图9为本发明提供的多因子算法服务的管理方法再一个实施例的方法流程图，该方法的执行主体可以为客户端，该客户端可以为一个终端，也可以为集成在终端上的装置或芯片，还可以为部署于终端上的SDK。如图9所示，本发明实施例提供的多因子算法服务的管理方法可以包括如下步骤：
S910，向管理服务器发送清单获取请求，该清单获取请求中包含待访问算法服务的服务名称。
在本发明实施例中，当客户端访问算法服务时，首先访问管理服务器，向管理服务器发送清单获取请求。
S920，接收并缓存管理服务器返回的分配清单，该分配清单包含待访问算法服务所分配的算法服务器的ID。
管理服务器接收到清单获取请求后，向客户端发送分配清单，客户端接收并缓存该分配清单。
S930，根据算法服务器的ID，向算法服务器发送访问请求，该访问请求中包含待访问算法服务的服务名称。
然后，根据分配清单中算法服务器的ID，访问部署在该算法服务器中的算法服务。如果该算法服务部署在多个算法服务器中，则可以随机选取某个算法服务器进行访问。
进一步地，在执行步骤S930之前，还可以包括：在缓存分配清单的同时，进行计时操作；当计时达到第一预设时间阈值时，重新向管理服务器发送清单获取请求；接收并替换已缓存的分配清单。也就是说，当缓存超过了一定时间，客户端主动访问管理服务器以重新获取分配清单，此时，旧的分配清单缓存失效。
S940，接收算法服务器返回的访问结果信息。
更进一步地，在执行步骤S940之前，还可以包括：在发送访问请求的同时，进行计时操作；当计时达到第二预设时间阈值、且未接收到访问结果信息时，重新向管理服务器发送清单获取请求；接收并替换已缓存的分配清单；根据分配清单中包含的算法服务器的ID，向算法服务器发送访问请求。当客户端发出访问请求超过一定时间后，若仍未接收到访问结果信息，则服务超时，本次访问失效。此时，客户端重新发送清单获取请求，然后，接收并替换已缓存的分配清单。
另外，当接收到算法服务器返回的用于指示访问失败的访问结果信息时，客户端可以重新向管理服务器发送清单获取请求，然后，接收并替换已缓存的分配清单。当客户算接收到访问失败的访问结果信息时，说明服务不可用，本次访问失效。此时，可以重新发送清单获取请求。
本发明实施例提供的多因子算法服务的管理方法，客户端在访问算法服务之前，首先访问管理服务器，通过管理服务器对资源的统一调度和灵活分配，实现了对多个算法服务器的灵活访问。并且在缓存失效或访问失效的情况下，重新访问管理服务器，提高了访问算法服务的有效性。
本领域普通技术人员可以理解：实现上述各方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成。前述的程序可以存储于一计算机可读取存储介质中。该程序在执行时，执行包括上述各方法实施例的步骤；而前述的存储介质包括：ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。

Claims (19)

1.一种多因子算法服务的管理系统，包括多个用于运行所述算法服务的算法服务器，其特征在于，还包括：管理服务器，用于根据每个所述算法服务器的资源数据对所述算法服务进行资源分配，所述资源数据用于指示所述算法服务器的资源利用情况，多个所述算法服务器中分别设置有功能模块，用于根据所述管理服务器的资源分配结果，部署所述算法服务。
2.根据权利要求1所述的多因子算法服务的管理系统，其特征在于，所述管理服务器包括：
压缩模块，用于对所述算法服务的可执行程序进行压缩处理，生成算法服务包；
第一接收模块，用于接收每个所述算法服务器的资源数据；
分配模块，用于根据所述资源数据，对所述算法服务进行资源分配，生成分配清单；
第一发送模块，用于将所述压缩模块生成的所述算法服务包和所述分配模块生成的所述分配清单发送至相应的算法服务器。
3.根据权利要求2所述的多因子算法服务的管理系统，其特征在于，所述分配清单包括：所述算法服务的服务名称、分配的所述算法服务器的数量、分配的每个所述算法服务器的识别码，单个所述算法服务器中分配的CPU量和单个所述算法服务器中分配的内存量。
4.根据权利要求2所述的多因子算法服务的管理系统，其特征在于，所述管理服务器还包括：
再分配模块，用于根据所述算法服务的访问量和每个所述算法服务器的资源数据，对所述算法服务进行资源再分配，更新所述分配清单；
第二发送模块，用于将所述分配清单发送至相应的所述算法服务器。
5.根据权利要求4所述的多因子算法服务的管理系统，其特征在于，所述第二发送模块还用于，将所述算法服务包和所述分配清单发送至新分配的所述算法服务器。
6.根据权利要求2或4所述的多因子算法服务的管理系统，其特征在于，所述功能模块包括：
第一接收单元，用于接收所述管理服务器发送的所述算法服务包和所述分配清单；
容器创建单元，用于根据所述第一接收单元接收到的所述分配清单，为所述算法服务创建资源容器，所述资源容器包括为所述算法服务提供的CPU量和内存量；
执行单元，用于对所述算法服务包进行解压处理，获取所述算法服务的可执行程序，并在所述资源容器中执行所述可执行程序。
7.根据权利要求6所述的多因子算法服务的管理系统，其特征在于，所述功能模块还包括：
容器管理单元，用于对为所述算法服务创建的所述资源容器进行监控、维护或销毁。
8.一种终端，其特征在于，包括：
请求模块，用于向管理服务器发送清单获取请求，所述清单获取请求中包含待访问算法服务的服务名称；
缓存模块，用于接收并缓存所述管理服务器返回的分配清单，所述分配清单包含所述待访问算法服务所分配的算法服务器的识别码；
访问模块，用于根据所述识别码，向所述算法服务器发送访问请求，所述访问请求中包含所述待访问算法服务的服务名称；
访问结果接收模块，用于接收所述算法服务器返回的访问结果信息。
9.一种多因子算法服务的管理方法，所述算法服务运行于多个算法服务器中，其特征在于，所述方法包括：
根据每个所述算法服务器的资源数据对所述算法服务进行资源分配，所述资源数据用于指示所述算法服务器的资源利用情况；
将资源分配结果发送至所述算法服务器。
10.根据权利要求9所述的多因子算法服务的管理方法，其特征在于，所述根据每个所述算法服务器的资源数据对所述算法服务进行资源分配，包括：
接收每个所述算法服务器的资源数据；
根据所述资源数据，对所述算法服务进行资源分配，生成分配清单。
11.根据权利要求10所述的多因子算法服务的管理方法，其特征在于，所述分配清单包括：所述算法服务的服务名称、分配的所述算法服务器的数量、分配的每个所述算法服务器的识别码，单个所述算法服务器中分配的CPU量和单个所述算法服务器中分配的内存量。
12.根据权利要求10所述的多因子算法服务的管理方法，其特征在于，所述将资源分配结果发送至所述算法服务器，包括：
将所述算法服务的可执行程序进行压缩处理，生成算法服务包；
将所述算法服务包和所述分配清单发送至相应的算法服务器。
13.根据权利要求12所述的多因子算法服务的管理方法，其特征在于，还包括：
根据所述算法服务的访问量和每个所述算法服务器的资源数据，对所述算法服务进行资源再分配，更新所述分配清单；
将所述分配清单发送至相应的所述算法服务器。
14.根据权利要求13所述的多因子算法服务的管理方法，其特征在于，还包括：
将所述算法服务包和所述分配清单发送至新分配的所述算法服务器。
15.一种多因子算法服务的管理方法，应用于多个用于运行所述算法服务的算法服务器中，其特征在于，包括：
向管理服务器发送资源数据，所述资源数据用于指示所述算法服务器的资源利用情况；
根据所述管理服务器的资源分配结果，部署所述算法服务。
16.根据权利要求15所述的多因子算法服务的管理方法，其特征在于，所述根据所述管理服务器的资源分配结果，部署所述算法服务，包括：
接收所述管理服务器发送的算法服务包和分配清单；
根据所述分配清单，为所述算法服务创建资源容器，所述资源容器包括为所述算法服务提供的CPU量和内存量；
对所述算法服务包进行解压处理，获取所述算法服务的可执行程序，并在所述资源容器中执行所述可执行程序。
17.根据权利要求16所述的多因子算法服务的管理方法，其特征在于，所述分配清单包括：所述算法服务的服务名称、分配的所述算法服务器的数量、分配的每个所述算法服务器的识别码，单个所述算法服务器中分配的CPU量和单个所述算法服务器中分配的内存量。
18.根据权利要求16所述的多因子算法服务的管理方法，其特征在于，还包括：
对为所述算法服务创建的所述资源容器进行监控、维护或销毁。
19.一种多因子算法服务的管理方法，其特征在于，包括：
向管理服务器发送清单获取请求，所述清单获取请求中包含待访问算法服务的服务名称；
接收并缓存所述管理服务器返回的分配清单，所述分配清单包含所述待访问算法服务所分配的算法服务器的识别码；
根据所述识别码，向所述算法服务器发送访问请求，所述访问请求中包含所述待访问算法服务的服务名称；
接收所述算法服务器返回的访问结果信息。
CN201610409290.4A 2016-06-12 2016-06-12 多因子算法服务的管理系统、终端及方法 Pending CN106921726A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610409290.4A CN106921726A (zh) 2016-06-12 2016-06-12 多因子算法服务的管理系统、终端及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610409290.4A CN106921726A (zh) 2016-06-12 2016-06-12 多因子算法服务的管理系统、终端及方法

Publications (1)

Publication Number Publication Date
CN106921726A true CN106921726A (zh) 2017-07-04

Family

ID=59453260

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610409290.4A Pending CN106921726A (zh) 2016-06-12 2016-06-12 多因子算法服务的管理系统、终端及方法

Country Status (1)

Country Link
CN (1) CN106921726A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109302505A (zh) * 2018-09-04 2019-02-01 中国建设银行股份有限公司 数据传输方法、系统、装置和存储介质
CN110727468A (zh) * 2018-06-28 2020-01-24 北京京东尚科信息技术有限公司 管理算法模型的方法和装置
WO2023103817A1 (zh) * 2021-12-07 2023-06-15 杭州萤石软件有限公司 算法部署和算法调度

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100153524A1 (en) * 2008-12-12 2010-06-17 Sap Ag Isolated application server
CN102137283A (zh) * 2010-06-10 2011-07-27 华为软件技术有限公司 应用的上线部署方法及其装置与系统
CN105163071A (zh) * 2015-08-18 2015-12-16 湖南亿谷科技发展股份有限公司 获取监控平台的监控视频的系统及其方法
CN105468362A (zh) * 2015-11-17 2016-04-06 广州杰赛科技股份有限公司 应用部署方法和云计算系统

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100153524A1 (en) * 2008-12-12 2010-06-17 Sap Ag Isolated application server
CN102137283A (zh) * 2010-06-10 2011-07-27 华为软件技术有限公司 应用的上线部署方法及其装置与系统
CN105163071A (zh) * 2015-08-18 2015-12-16 湖南亿谷科技发展股份有限公司 获取监控平台的监控视频的系统及其方法
CN105468362A (zh) * 2015-11-17 2016-04-06 广州杰赛科技股份有限公司 应用部署方法和云计算系统

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110727468A (zh) * 2018-06-28 2020-01-24 北京京东尚科信息技术有限公司 管理算法模型的方法和装置
CN109302505A (zh) * 2018-09-04 2019-02-01 中国建设银行股份有限公司 数据传输方法、系统、装置和存储介质
WO2023103817A1 (zh) * 2021-12-07 2023-06-15 杭州萤石软件有限公司 算法部署和算法调度

Similar Documents

Publication Publication Date Title
CN109194584A (zh) 一种流量监控方法、装置、计算机设备及存储介质
US9972022B2 (en) System and method for optimizing access to a resource based on social synchrony and homophily
US10540608B1 (en) Dynamically scaled training fleets for machine learning
CN107291546A (zh) 一种资源调度方法及装置
CN106921726A (zh) 多因子算法服务的管理系统、终端及方法
CN106850746A (zh) 服务平滑升级的方法及装置
CN104899106B (zh) 接口服务异常时的处理方法和装置
WO2020105026A1 (en) System and method for adaptively determining an optimal authentication scheme
CN109271115A (zh) 存储共享方法、装置、区块链分布式网络拓扑
US9807008B2 (en) Tournament scheduling
CN107105013B (zh) 文件的处理方法、服务器、终端和系统
AU2015335478B2 (en) Verification method and apparatus
CN110327621A (zh) 用于网络游戏客户端匹配的方法及设备
CN103577251A (zh) 基于事件的互联网计算处理系统及方法
CN104202386B (zh) 一种高并发量分布式文件系统及其二次负载均衡方法
CN106789868A (zh) 一种网站用户行为识别与管控系统
CN112422610A (zh) 一种基于分布式对象存储的智能网关方法和系统
CN105491117A (zh) 面向实时数据分析的流式图数据处理系统及方法
CN105327508B (zh) 网络游戏运行系统及方法
CN114283932A (zh) 医疗资源管理方法、装置、电子设备以及存储介质
CN112148202B (zh) 训练样本读取方法及装置
CN114338683B (zh) 调度请求处理方法、装置、存储介质及电子设备
CN111079195A (zh) 一种基于区块链的就诊预约存证方法及设备、介质
CN106951225B (zh) 基于服务配置模板的数据处理方法及装置
CN112016979B (zh) 用户分群方法、装置、设备和计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20200929

Address after: Cayman Enterprise Centre, 27 Hospital Road, George Town, Grand Cayman, British Islands

Applicant after: Innovative advanced technology Co.,Ltd.

Address before: Cayman Enterprise Centre, 27 Hospital Road, George Town, Grand Cayman, British Islands

Applicant before: Advanced innovation technology Co.,Ltd.

Effective date of registration: 20200929

Address after: Cayman Enterprise Centre, 27 Hospital Road, George Town, Grand Cayman, British Islands

Applicant after: Advanced innovation technology Co.,Ltd.

Address before: A four-storey 847 mailbox in Grand Cayman Capital Building, British Cayman Islands

Applicant before: Alibaba Group Holding Ltd.

RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20170704