CN108062246B - 用于深度学习框架的资源调度方法和装置 - Google Patents

用于深度学习框架的资源调度方法和装置 Download PDF

Info

Publication number
CN108062246B
CN108062246B CN201810073413.0A CN201810073413A CN108062246B CN 108062246 B CN108062246 B CN 108062246B CN 201810073413 A CN201810073413 A CN 201810073413A CN 108062246 B CN108062246 B CN 108062246B
Authority
CN
China
Prior art keywords
deep learning
resource
state
attribute
manipulating object
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201810073413.0A
Other languages
English (en)
Other versions
CN108062246A (zh
Inventor
刘昆
周恺
王倩
肖远昊
刘岚
徐东泽
许天涵
郭江亮
唐进
张发恩
尹世明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN201810073413.0A priority Critical patent/CN108062246B/zh
Publication of CN108062246A publication Critical patent/CN108062246A/zh
Priority to US16/248,560 priority patent/US11762697B2/en
Application granted granted Critical
Publication of CN108062246B publication Critical patent/CN108062246B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/48—Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806—Task transfer initiation or dispatching
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G06F18/24133—Distances to prototypes
    • G06F18/24143—Distances to neighbourhood prototypes, e.g. restricted Coulomb energy networks [RCEN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5011—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resources being hardware resources other than CPUs, Servers and Terminals
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Databases & Information Systems (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Multimedia (AREA)
  • Medical Informatics (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Molecular Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Neurology (AREA)
  • General Factory Administration (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本申请公开了一种用于深度学习框架的资源调度方法和装置。方法包括：间隔预定时间，从Kubernetes平台查询所有的深度学习作业对象的状态；响应于从各个深度学习作业对象中查询到状态符合提交资源请求状态的深度学习作业对象，向Kubernetes平台提交资源请求，以调度Kubernetes平台所处的物理机启动深度学习训练任务。该方法能够完全自动化处理深度学习训练任务的资源分配与释放。

Description

用于深度学习框架的资源调度方法和装置
技术领域
本申请涉及计算机技术领域，具体涉及计算机网络技术领域，尤其涉及用于深度学习框架的资源调度方法和装置。
背景技术
在深度学习领域，算法模型的训练任务一般基于深度学习框架实现，目前流行的深度学习框架有张量流人工智能学习系统(Tensorflow)，并行分布式深度学习开源平台(PaddlePaddle)，用于快速特征嵌入的卷积结构(Caffe)等等。
众多的深度学习框架各有特点，开发人员在面对具体场景时选择实现模型的框架也因此不同。但不管基于哪一种框架来训练模型，运行训练任务的过程都离不开资源管理和任务调度，也即是统一管理服务器集群的CPU、内存、GPU等计算资源，根据训练任务的资源需求分配资源容器；同时，随着训练任务的运行和终止，对占用的计算资源进行实时的分配和回收。
目前，可以采用Kubernetes平台实现对多深度学习框架的支持。在Kubernetes平台，开发者运行一个模型训练任务，需要开发者介入Kubernetes平台的资源管理工作，从平台申请到预期的计算资源容器，再申请不同的网络策略来配合训练任务的运行。
发明内容
本申请实施例提出一种用于深度学习框架的资源调度方法和装置。
第一方面，本申请实施例提供了一种用于深度学习框架的资源调度方法，包括：间隔预定时间，从Kubernetes平台查询所有的深度学习作业对象的状态；响应于从各个深度学习作业对象中查询到状态符合提交资源请求状态的深度学习作业对象，向Kubernetes平台提交资源请求，以调度Kubernetes平台所处的物理机启动深度学习训练任务。
在一些实施例中，深度学习作业对象包括：节点组父属性；设于节点组父属性下的镜像子属性；以及设于节点组父属性下的资源配置子属性。
在一些实施例中，响应于从各个深度学习作业对象中查询到状态符合提交资源请求状态的深度学习作业对象，向Kubernetes平台提交资源请求包括：响应于从各个深度学习作业对象中查询到状态符合新创建状态的深度学习作业对象，提取状态符合新创建状态的深度学习作业对象的资源配置子属性；基于提取的资源配置子属性，向Kubernetes平台的应用程序接口服务器服务发送资源请求，以申请容器资源和网络策略。
在一些实施例中，响应于从各个深度学习作业对象中查询到状态符合提交资源请求状态的深度学习作业对象，向Kubernetes平台提交资源请求包括：响应于从各个深度学习作业对象中查询到状态符合终止状态的深度学习作业对象，回收状态符合终止状态的深度学习作业对象的资源。
在一些实施例中，调度Kubernetes平台所处的物理机启动深度学习训练任务包括：经由Kubernetes平台的应用程序接口服务器服务接收资源请求，创建资源对象；经由Kubernetes平台的调度器服务异步监听所创建的资源对象，将所创建的资源对象分配至从节点；经由从节点运行资源对象对应的容器以完成深度学习训练任务。
第二方面，本申请实施例提供了一种用于深度学习框架的资源调度装置，包括：查询单元，用于间隔预定时间，从Kubernetes平台查询所有的深度学习作业对象的状态；调度单元，用于响应于从各个深度学习作业对象中查询到状态符合提交资源请求状态的深度学习作业对象，向Kubernetes平台提交资源请求，以调度Kubernetes平台所处的物理机启动深度学习训练任务。
在一些实施例中，查询单元中的深度学习作业对象包括：节点组父属性；设于节点组父属性下的镜像子属性；以及设于节点组父属性下的资源配置子属性。
在一些实施例中，调度单元包括：提取子单元，用于响应于从各个深度学习作业对象中查询到状态符合新创建状态的深度学习作业对象，提取状态符合新创建状态的深度学习作业对象的资源配置子属性；发送子单元，用于基于提取的资源配置子属性，向Kubernetes平台的应用程序接口服务器服务发送资源请求，以申请容器资源和网络策略。
在一些实施例中，调度单元包括：回收子单元，用于响应于从各个深度学习作业对象中查询到状态符合终止状态的深度学习作业对象，回收状态符合终止状态的深度学习作业对象的资源。
在一些实施例中，调度单元中调度Kubernetes平台所处的物理机启动深度学习训练任务包括：经由Kubernetes平台的应用程序接口服务器服务接收资源请求，创建资源对象；经由Kubernetes平台的调度器服务异步监听所创建的资源对象，将所创建的资源对象分配至从节点；经由从节点运行资源对象对应的容器以完成深度学习训练任务。
第三方面，本申请实施例提供了一种设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序；当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如上任一的一种用于深度学习框架的资源调度方法。
第四方面，本申请实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如上任一的一种用于深度学习框架的资源调度方法。
本申请实施例提供的用于深度学习框架的资源调度方法和装置，首先间隔预定时间，从Kubernetes平台查询所有的深度学习作业对象的状态；之后响应于从各个深度学习作业对象中查询到状态符合提交资源请求状态的深度学习作业对象，向Kubernetes平台提交资源请求，以调度Kubernetes平台所处的物理机启动深度学习训练任务。在这一过程中，可以在一个统一的资源池上支持多种深度学习框架训练任务，能够完全自动化处理深度学习训练任务的资源分配与释放，方便开发者专注于训练任务的程序逻辑，而不用人为管理资源问题，从而提高了模型训练的工作效率，并且对于支持新的深度学习框架，能够降低接入门槛，开发者只需要调整配置而不需要新增开发任务，具有较高的灵活度。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：
图1示出了可以应用本申请的用于深度学习框架的资源调度方法或用于深度学习框架的资源调度装置的实施例的示例性系统架构；
图2是根据本申请实施例的用于深度学习框架的资源调度方法的一个实施例的示意性流程图；
图3是根据本申请实施例的用于深度学习框架的资源调度方法的又一个实施例的示意性流程图；
图4是根据本申请实施例的用于深度学习框架的资源调度方法的实施例的示例性应用场景；
图5是根据本申请实施例的用于深度学习框架的资源调度装置的一个实施例的示例性结构图；
图6是适于用来实现本申请实施例的终端设备或服务器的计算机系统的结构示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。
需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
请参考图1，图1示出了可以应用本申请的用于深度学习框架的资源调度方法或用于深度学习框架的资源调度装置的实施例的示例性系统架构100。
如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105、106。网络104用以在终端设备101、102、103和服务器105、106之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户110可以使用终端设备101、102、103通过网络104与服务器105、106交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如搜索引擎类应用、购物类应用、即时通信工具、邮箱客户端、社交平台软件、视频播放类应用等。
终端设备101、102、103可以是具有显示屏的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(MovingPicture Experts Group Audio LayerIII，动态影像专家压缩标准音频层面3)、MP4(Moving Picture Experts Group AudioLayer IV，动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。
服务器105、106可以是提供各种服务的服务器，例如对终端设备101、102、103提供支持的后台服务器。后台服务器可以对终端的数据进行存储或计算等处理，并将存储或计算结果推送给终端设备。
通常情况下，本申请实施例所提供的用于深度学习框架的资源调度方法一般由服务器105、106执行，相应地，用于深度学习框架的资源调度装置一般设置于服务器105、106中。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
进一步参考图2，图2示出了根据本申请实施例的用于深度学习框架的资源调度方法的一个实施例的示意性流程图。
如图2所示，用于深度学习框架的资源调度方法200包括：
在步骤210中，间隔预定时间，从Kubernetes平台查询所有的深度学习作业对象的状态。
在本实施例中，运行用于深度学习框架的资源调度方法的电子设备(例如图1中所示的服务器)可以间隔预定时间，发送HTTPS请求给Kubernetes平台的应用程序接口服务器服务(Api-server)服务，从Kubernetes平台查询所有的深度学习作业对象的状态。在这里，预定时间可以为预先定义的时间。通过将Kubernetes平台这一容器集群管理系统作为底层容器资源调度管理，可以实现不同深度学习框架任务的调度管理。
其中，深度学习作业对象包括：节点组父属性；设于节点组父属性下的镜像子属性；以及设于节点组父属性下的资源配置子属性。
在这里，可以定义深度学习作业(DeepLearningJob)资源类型来统一表示深度学习模型训练任务，其中包含了节点组(NodeGroup)父属性，NodeGroup属性下提供了镜像(Image)子属性和资源配置子属性。不同的深度学习任务的表示差别在于NodeGroup的数目、具体的Image属性值和资源配置子属性。开发者针对具体的训练任务，提交构造的DeepLearningJob对象发送给Kubernetes平台即可完成资源申请操作。
在步骤220中，响应于从各个深度学习作业对象中查询到状态符合提交资源请求状态的深度学习作业对象，向Kubernetes平台提交资源请求，以调度Kubernetes平台所处的物理机启动深度学习训练任务。
在本实施例中，运行用于深度学习框架的资源调度方法的电子设备可以首先查询各个深度学习作业对象的状态，之后根据查询的结果，确定是否向Kubernetes平台提交资源请求，若确定向Kubernetes平台提交资源请求，那么可以向Kubernetes平台的Api-server服务提交资源请求，以申请深度学习训练任务所需的资源，调度Kubernetes平台所处的物理机启动深度学习训练任务。
在一个具体的示例中，用于深度学习框架的资源调度方法可以以预先设计的深度学习控制器(DeepLearningController)的形式来与Kubernetes平台进行交互。这里的DeepLearningController是一个独立于Kubernetes平台的程序，它负责周期性地从Kubernetes查询所有的DeepLearningJob对象的状态，根据每个DeepLearningJob对象的状态来决定是否提交资源请求，以从Kubernetes申请容器资源和网络策略，用于运行DeepLearningJob对象所表达的训练任务。
本申请上述实施例提供的用于深度学习框架的资源调度方法，可以在一个统一的资源池上支持多种深度学习框架训练任务，能够完全自动化处理深度学习训练任务的资源分配与释放，方便开发者专注于训练任务的程序逻辑，而不用人为管理资源问题，从而提高了模型训练的工作效率，并且对于支持新的深度学习框架，能够降低接入门槛，只需要调整深度学习作业对象的配置而不需要新增开发任务，具有较高的灵活度。
进一步地，请参考图3，图3示出了根据本申请实施例的用于深度学习框架的资源调度方法的又一个实施例的示意性流程图。
如图3所示，用于深度学习框架的资源调度方法300包括：
在步骤310中，间隔预定时间，从Kubernetes平台查询所有的深度学习作业对象的状态。
在本实施例中，在本实施例中，运行用于深度学习框架的资源调度方法的电子设备(例如图1中所示的服务器)可以间隔预定时间，从Kubernetes平台查询所有的深度学习作业对象的状态。在这里，预定时间可以为预先定义的时间。将Kubernetes平台这一容器集群管理系统作为底层容器资源调度管理，可以实现不同深度学习框架任务的调度管理。
其中，深度学习作业对象包括：节点组父属性；设于节点组父属性下的镜像子属性；以及设于节点组父属性下的资源配置子属性。
在这里，可以定义深度学习作业(DeepLearningJob)资源类型来统一表示深度学习模型训练任务，其中包含了节点组(NodeGroup)父属性，NodeGroup属性下提供了镜像(Image)子属性和资源配置子属性。不同的深度学习任务的表示差别在于NodeGroup的数目、具体的Image属性值和资源配置子属性。开发者针对具体的训练任务，提交构造的DeepLearningJob对象发送给Kubernetes平台即可完成资源申请操作。
在步骤320中，响应于从各个深度学习作业对象中查询到状态符合新创建状态的深度学习作业对象，提取新创建的深度学习作业对象的资源配置子属性。
在本实施例中，查询出的所有的DeepLearningJob对象，它们的状态是不同的，例如主要有新创建、运行中、已失败、已成功等4个状态。Kubernetes平台主要是处理“新创建”的DeepLearningJob对象，因为这时候平台还没有申请对应的容器资源，对于其他3种状态，暂时无需申请其它容器资源。这里的资源配置子属性，用于表征深度学习作业对象所需的容器资源和网络策略。
在步骤330中，基于提取的资源配置子属性，向Kubernetes平台的应用程序接口服务器服务发送资源请求，以申请容器资源和网络策略，以及调度Kubernetes平台所处的物理机启动深度学习训练任务。
在本实施例中，基于用户提交的资源配置子属性，可以向Kubernetes平台的应用程序接口服务器服务发送资源请求，以完成资源申请操作，进而经由Kubernetes平台调度所处的物理机启动深度学习训练任务。
在实施例的一些可选实现方式中，调度Kubernetes平台所处的物理机启动深度学习训练任务可以包括：经由Kubernetes平台的应用程序接口服务器服务接收资源请求，创建资源对象；经由Kubernetes平台的调度器服务异步监听所创建的资源对象，将所创建的资源对象分配至从节点；经由从节点运行资源对象对应的容器以完成深度学习训练任务。
在本实现方式中，基于运行用于深度学习框架的资源调度方法的电子设备提交的资源请求，可以经由Kubernetes平台的调度器服务从Kubernetes平台申请到资源请求所要求的计算资源容器，最后运行该计算资源容器以完成深度学习训练任务，从而提高调度Kubernetes平台所处的物理机启动深度学习训练任务的速度。
在步骤340中，响应于查询到的各个深度学习作业对象的状态符合终止状态，回收处于终止状态的深度学习作业对象的资源。
在本实施例中，用于深度学习框架的资源调度方法还负责将已经进入终止状态的DeepLearningJob对象进行资源回收。用于深度学习框架的资源调度方法对于DeepLearningJob对象的管理是覆盖了完整的生命周期的，包括创建、运行到终止，在这个生命周期中，开发者都不需要关心资源分配回收、网络策略等环境问题，只需要专注训练任务的程序逻辑。这里的终止状态，可以为上述的已失败状态和已成功状态。
本申请上述实施例提供的用于深度学习框架的资源调度方法，基于提取的资源配置子属性，向Kubernetes平台的应用程序接口服务器服务发送资源请求，以申请容器资源和网络策略，以及调度Kubernetes平台所处的物理机启动深度学习训练任务，并响应于查询到的各个深度学习作业对象的状态符合终止状态，回收处于终止状态的深度学习作业对象的资源，提高了申请和释放容器资源和网络策略的效率。
进一步地，请参考图4，图4示出了根据本申请实施例的用于深度学习框架的资源调度方法的示例性应用场景。
如图4所示，用于深度学习框架的资源调度方法400运行于电子设备420中，方法包括：
首先，间隔预定时间，从Kubernetes平台查询所有的深度学习作业对象的状态401；
之后，响应于从各个深度学习作业对象401中查询到状态符合新创建状态的深度学习作业对象402，提取状态符合新创建状态的深度学习作业对象402的资源配置子属性403；
之后，基于提取的资源配置子属性403，向Kubernetes平台的应用程序接口服务器服务发送资源请求404，以申请容器资源405和网络策略406；
最后，响应于从各个深度学习作业对象中查询到状态符合终止状态的深度学习作业对象407，回收状态符合终止状态的深度学习作业对象的资源408。
应当理解，上述图4中所示出的用于深度学习框架的资源调度方法，仅为用于深度学习框架的资源调度方法的示例性应用场景，并不代表对本申请的限定。
进一步参考图5，作为对上述方法的实现，本申请实施例提供了一种用于深度学习框架的资源调度装置的一个实施例，该用于深度学习框架的资源调度装置的实施例与图1至图4所示的用于深度学习框架的资源调度方法的实施例相对应，由此，上文针对图1至图4中用于深度学习框架的资源调度方法描述的操作和特征同样适用于用于深度学习框架的资源调度装置500及其中包含的单元，在此不再赘述。
如图5所示，该用于深度学习框架的资源调度装置500可以包括：查询单元510，用于间隔预定时间，从Kubernetes平台查询所有的深度学习作业对象的状态；调度单元520，用于响应于从各个深度学习作业对象中查询到状态符合提交资源请求状态的深度学习作业对象，向Kubernetes平台提交资源请求，以调度Kubernetes平台所处的物理机启动深度学习训练任务。
在本实施例的一些可选实现方式中，查询单元中的深度学习作业对象包括：节点组父属性；设于节点组父属性下的镜像子属性；以及设于节点组父属性下的资源配置子属性。
在本实施例的一些可选实现方式中，调度单元520包括：提取子单元521，用于响应于从各个深度学习作业对象中查询到状态符合新创建状态的深度学习作业对象，提取状态符合新创建状态的深度学习作业对象的资源配置子属性；发送子单元522，用于基于提取的资源配置子属性，向Kubernetes平台的应用程序接口服务器服务发送资源请求，以申请容器资源和网络策略。
在本实施例的一些可选实现方式中，调度单元520包括：回收子单元523，用于响应于从各个深度学习作业对象中查询到状态符合终止状态的深度学习作业对象，回收状态符合终止状态的深度学习作业对象的资源。
在本实施例的一些可选实现方式中，调度单元中调度Kubernetes平台所处的物理机启动深度学习训练任务包括：经由Kubernetes平台的应用程序接口服务器服务接收资源请求，创建资源对象；经由Kubernetes平台的调度器服务异步监听所创建的资源对象，将所创建的资源对象分配至从节点；经由从节点运行资源对象对应的容器以完成深度学习训练任务。
本申请还提供了一种设备的实施例，包括：一个或多个处理器；存储装置，用于存储一个或多个程序；当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如上任意一项所述的用于深度学习框架的资源调度方法。
本申请还提供了一种计算机可读存储介质的实施例，其上存储有计算机程序，该程序被处理器执行时实现如上任意一项所述的用于深度学习框架的资源调度方法。
下面参考图6，其示出了适于用来实现本申请实施例的终端设备或服务器的计算机系统600的结构示意图。图6示出的终端设备仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。
如图6所示，计算机系统600包括中央处理单元(CPU)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分606加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中，还存储有系统600操作所需的各种程序和数据。CPU 601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
以下部件连接至I/O接口605：包括键盘、鼠标等的输入部分606；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607；包括硬盘等的存储部分608；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器610上，以便于从其上读出的计算机程序根据需要被安装入存储部分606。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，所述计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分609从网络上被下载和安装，和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)601执行时，执行本申请的方法中限定的上述功能。
需要说明的是，本申请所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。
附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个单元、程序段、或代码的一部分，所述单元、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括查询单元510和调度单元520。这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，查询单元510还可以被描述为“间隔预定时间，从Kubernetes平台查询所有的深度学习作业对象的状态的单元”。
作为另一方面，本申请还提供了一种非易失性计算机存储介质，该非易失性计算机存储介质可以是上述实施例中所述装置中所包含的非易失性计算机存储介质；也可以是单独存在，未装配入终端中的非易失性计算机存储介质。上述非易失性计算机存储介质存储有一个或者多个程序，当所述一个或者多个程序被一个设备执行时，使得所述设备：间隔预定时间，从Kubernetes平台查询所有的深度学习作业对象的状态；响应于从各个深度学习作业对象中查询到状态符合提交资源请求状态的深度学习作业对象，向Kubernetes平台提交资源请求，以调度Kubernetes平台所处的物理机启动深度学习训练任务。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本申请中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (12)

1.一种用于深度学习框架的资源调度方法，包括：
间隔预定时间，向Kubernetes平台发送请求，从Kubernetes平台查询所有的深度学习作业对象的状态；
响应于从各个深度学习作业对象中查询到状态符合提交资源请求状态的深度学习作业对象，向所述Kubernetes平台提交资源请求，以调度所述Kubernetes平台所处的物理机启动所述深度学习训练任务。
2.根据权利要求1所述的资源调度方法，其中，所述深度学习作业对象包括：
节点组父属性；
设于所述节点组父属性下的镜像子属性；以及
设于所述节点组父属性下的资源配置子属性。
3.根据权利要求2所述的资源调度方法，其中，所述响应于从各个深度学习作业对象中查询到状态符合提交资源请求状态的深度学习作业对象，向所述Kubernetes平台提交资源请求包括：
响应于从各个深度学习作业对象中查询到状态符合新创建状态的深度学习作业对象，提取所述状态符合新创建状态的深度学习作业对象的资源配置子属性；
基于提取的资源配置子属性，向所述Kubernetes平台的应用程序接口服务器服务发送资源请求，以申请容器资源和网络策略。
4.根据权利要求1所述的资源调度方法，其中，所述响应于从各个深度学习作业对象中查询到状态符合提交资源请求状态的深度学习作业对象，向所述Kubernetes平台提交资源请求包括：
响应于从各个深度学习作业对象中查询到状态符合终止状态的深度学习作业对象，回收所述状态符合终止状态的深度学习作业对象的资源。
5.根据权利要求1所述的资源调度方法，其中，所述调度所述Kubernetes平台所处的物理机启动所述深度学习训练任务包括：
经由所述Kubernetes平台的应用程序接口服务器服务接收所述资源请求，创建资源对象；
经由所述Kubernetes平台的调度器服务异步监听所创建的资源对象，将所述所创建的资源对象分配至从节点；
经由所述从节点运行所述资源对象对应的容器以完成所述深度学习训练任务。
6.一种用于深度学习框架的资源调度装置，包括：
查询单元，用于间隔预定时间，向Kubernetes平台发送请求，从Kubernetes平台查询所有的深度学习作业对象的状态；
调度单元，用于响应于从各个深度学习作业对象中查询到状态符合提交资源请求状态的深度学习作业对象，向所述Kubernetes平台提交资源请求，以调度所述Kubernetes平台所处的物理机启动所述深度学习训练任务。
7.根据权利要求6所述的资源调度装置，其中，所述查询单元中的所述深度学习作业对象包括：
节点组父属性；
设于所述节点组父属性下的镜像子属性；以及
设于所述节点组父属性下的资源配置子属性。
8.根据权利要求7所述的资源调度装置，其中，所述调度单元包括：
提取子单元，用于响应于从各个深度学习作业对象中查询到状态符合新创建状态的深度学习作业对象，提取所述状态符合新创建状态的深度学习作业对象的资源配置子属性；
发送子单元，用于基于提取的资源配置子属性，向所述Kubernetes平台的应用程序接口服务器服务发送资源请求，以申请容器资源和网络策略。
9.根据权利要求6所述的资源调度装置，其中，所述调度单元包括：
回收子单元，用于响应于从各个深度学习作业对象中查询到状态符合终止状态的深度学习作业对象，回收所述状态符合终止状态的深度学习作业对象的资源。
10.根据权利要求6所述的资源调度装置，其中，所述调度单元中调度所述Kubernetes平台所处的物理机启动所述深度学习训练任务包括：
经由所述Kubernetes平台的应用程序接口服务器服务接收所述资源请求，创建资源对象；
经由所述Kubernetes平台的调度器服务异步监听所创建的资源对象，将所述所创建的资源对象分配至从节点；
经由所述从节点运行所述资源对象对应的容器以完成所述深度学习训练任务。
11.一种设备，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序；
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-5中任一所述的用于深度学习框架的资源调度方法。
12.一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如权利要求1-5中任一所述的用于深度学习框架的资源调度方法。
CN201810073413.0A 2018-01-25 2018-01-25 用于深度学习框架的资源调度方法和装置 Active CN108062246B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201810073413.0A CN108062246B (zh) 2018-01-25 2018-01-25 用于深度学习框架的资源调度方法和装置
US16/248,560 US11762697B2 (en) 2018-01-25 2019-01-15 Method and apparatus for scheduling resource for deep learning framework

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810073413.0A CN108062246B (zh) 2018-01-25 2018-01-25 用于深度学习框架的资源调度方法和装置

Publications (2)

Publication Number Publication Date
CN108062246A CN108062246A (zh) 2018-05-22
CN108062246B true CN108062246B (zh) 2019-06-14

Family

ID=62141898

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810073413.0A Active CN108062246B (zh) 2018-01-25 2018-01-25 用于深度学习框架的资源调度方法和装置

Country Status (2)

Country Link
US (1) US11762697B2 (zh)
CN (1) CN108062246B (zh)

Families Citing this family (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190378016A1 (en) * 2018-06-07 2019-12-12 International Business Machines Corporation Distributed computing architecture for large model deep learning
CN110659127A (zh) * 2018-06-29 2020-01-07 杭州海康威视数字技术股份有限公司 一种处理任务的方法、装置及系统
CN109144661A (zh) * 2018-07-05 2019-01-04 杭州电子科技大学 一种基于docker的深度学习管理方法
CN109117266B (zh) * 2018-07-13 2021-10-19 视云融聚（广州）科技有限公司 基于多层架构的视频人工智能训练平台
CN109086134A (zh) * 2018-07-19 2018-12-25 郑州云海信息技术有限公司 一种深度学习作业的运行方法和装置
CN109101342B (zh) * 2018-07-20 2020-07-10 北京百度网讯科技有限公司 分布式作业协调控制方法、装置、计算机设备及存储介质
CN109240814A (zh) * 2018-08-22 2019-01-18 湖南舜康信息技术有限公司 一种基于TensorFlow的深度学习智能调度方法和系统
CN109272116A (zh) * 2018-09-05 2019-01-25 郑州云海信息技术有限公司 一种深度学习的方法及装置
CN109146084B (zh) * 2018-09-06 2022-06-07 郑州云海信息技术有限公司 一种基于云计算的机器学习的方法及装置
CN109343947A (zh) * 2018-09-26 2019-02-15 郑州云海信息技术有限公司 一种资源调度方法及装置
CN109558940A (zh) * 2018-11-09 2019-04-02 深圳市康拓普信息技术有限公司 一种深度学习模型训练的管理方法和系统
CN111352664B (zh) * 2018-12-05 2023-11-03 北京京东尚科信息技术有限公司 分布式机器学习任务启动方法、系统、设备及存储介质
CN111400021B (zh) * 2019-01-02 2023-03-31 中国移动通信有限公司研究院 一种深度学习方法、装置及系统
CN109885389B (zh) * 2019-02-19 2021-07-16 浪潮云信息技术股份公司 一种基于容器的并行深度学习调度训练方法及系统
CN110750342B (zh) * 2019-05-23 2020-10-09 北京嘀嘀无限科技发展有限公司 调度方法、装置、电子设备及可读存储介质
CN112148438A (zh) * 2019-06-28 2020-12-29 杭州海康威视数字技术股份有限公司 异常任务处理、任务调度方法、装置及计算机存储介质
US11003501B2 (en) * 2019-07-03 2021-05-11 Advanced New Technologies Co., Ltd. Loading models on nodes having multiple model service frameworks
CN112183735A (zh) * 2019-07-03 2021-01-05 安徽寒武纪信息科技有限公司 操作数据的生成方法、装置及相关产品
US11360822B2 (en) * 2019-09-12 2022-06-14 Bank Of America Corporation Intelligent resource allocation agent for cluster computing
CN112817706B (zh) * 2019-11-15 2023-06-02 杭州海康威视数字技术股份有限公司 一种分布式任务调度系统和方法
CN112825044B (zh) * 2019-11-21 2023-06-13 杭州海康威视数字技术股份有限公司 任务执行方法、装置及计算机存储介质
CN112860424A (zh) * 2019-11-28 2021-05-28 上海商汤智能科技有限公司 任务处理方法及系统
CN114787830A (zh) * 2019-12-20 2022-07-22 惠普发展公司，有限责任合伙企业 异构集群中的机器学习工作负载编排
CN113127163A (zh) * 2019-12-31 2021-07-16 杭州海康威视数字技术股份有限公司 模型验证方法、装置及电子设备
US11385887B2 (en) 2020-03-25 2022-07-12 Maxar Space Llc Multi-mission configurable spacecraft system
US11487555B2 (en) * 2020-06-09 2022-11-01 Tencent America LLC Running PBS jobs in kubernetes
US20210397482A1 (en) * 2020-06-17 2021-12-23 Ephemerai, Llc Methods and systems for building predictive data models
CN111866187B (zh) * 2020-06-30 2022-10-04 中科院计算所西部高等技术研究院 分布式深度学习推理云平台任务调度方法
CN112241368A (zh) * 2020-09-30 2021-01-19 北京影谱科技股份有限公司 基于Kubernetes的自动化模型训练方法和装置
CN112241324B (zh) * 2020-12-14 2021-03-19 蚂蚁智信(杭州)信息技术有限公司 内存管理方法及装置
CN113010385B (zh) * 2021-03-18 2022-10-28 山东英信计算机技术有限公司 一种任务状态更新方法、装置、设备及介质
CN113094116B (zh) * 2021-04-01 2022-10-11 中国科学院软件研究所 一种基于负载特征分析的深度学习应用云配置推荐方法及系统
CN113886055B (zh) * 2021-12-07 2022-04-15 中国电子科技集团公司第二十八研究所 一种基于容器云技术的智能模型训练资源调度方法
CN115242786B (zh) * 2022-05-07 2024-01-12 东云睿连(武汉)计算技术有限公司 一种基于容器集群的多模式大数据作业调度系统及方法
CN114661448A (zh) * 2022-05-17 2022-06-24 中电云数智科技有限公司 Kubernetes的资源调度方法及调度组件
CN114791856B (zh) * 2022-06-27 2022-08-26 北京瑞莱智慧科技有限公司 基于K8s的分布式训练任务处理方法、相关设备及介质
CN116155750B (zh) * 2023-04-19 2023-08-01 之江实验室 深度学习作业资源放置方法、系统、设备和存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107203424A (zh) * 2017-04-17 2017-09-26 北京奇虎科技有限公司 一种在分布式集群中调度深度学习作业的方法和装置
CN107622427A (zh) * 2016-07-13 2018-01-23 阿里巴巴集团控股有限公司 深度学习的方法、装置及系统

Family Cites Families (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5867704A (en) * 1995-02-24 1999-02-02 Matsushita Electric Industrial Co., Ltd. Multiprocessor system shaving processor based idle state detection and method of executing tasks in such a multiprocessor system
US6169981B1 (en) * 1996-06-04 2001-01-02 Paul J. Werbos 3-brain architecture for an intelligent decision and control system
US20030177228A1 (en) * 2002-02-01 2003-09-18 Xavier Vigouroux Adaptative heartbeat flow for cluster node aliveness detection
US9172738B1 (en) * 2003-05-08 2015-10-27 Dynamic Mesh Networks, Inc. Collaborative logistics ecosystem: an extensible framework for collaborative logistics
JP2005266917A (ja) * 2004-03-16 2005-09-29 Nec Corp 分散資源獲得システム、分散資源獲得方法および分散資源獲得用プログラム
US9189268B2 (en) * 2008-10-10 2015-11-17 Netapp, Inc. Limiting simultaneous data transfers and efficient throttle management
US8307085B2 (en) * 2010-03-16 2012-11-06 Microsoft Corporation Storing state of distributed architecture in external store
US9830192B1 (en) * 2014-11-10 2017-11-28 Turbonomic, Inc. Managing application performance in virtualization systems
US8745629B2 (en) * 2010-01-11 2014-06-03 Qualcomm Incorporated System and method of controlling power in an electronic device
CN102104930A (zh) * 2010-06-12 2011-06-22 电信科学技术研究院 一种资源状态过程的映射方法和设备
US8713096B2 (en) * 2011-05-10 2014-04-29 Microsoft Corporation State control of remote hosts for management of distributed applications
WO2012178032A1 (en) * 2011-06-23 2012-12-27 CohortFS, LLC Dynamic data placement for distributed storage
US9411558B2 (en) * 2012-10-20 2016-08-09 Luke Hutchison Systems and methods for parallelization of program code, interactive data visualization, and graphically-augmented code editing
CN103533086B (zh) * 2013-10-31 2017-02-01 中国科学院计算机网络信息中心 一种云计算系统中的资源统一调度方法
US9684546B2 (en) * 2014-12-16 2017-06-20 Microsoft Technology Licensing, Llc Job scheduling and monitoring in a distributed computing environment
US10120904B2 (en) * 2014-12-31 2018-11-06 Cloudera, Inc. Resource management in a distributed computing environment
US10048987B1 (en) * 2015-12-21 2018-08-14 EMC IP Holding Company LLC Methods and apparatus for a resource sharing platform having resource quality estimation
US11087234B2 (en) * 2016-01-29 2021-08-10 Verizon Media Inc. Method and system for distributed deep machine learning
US9983909B1 (en) * 2016-03-15 2018-05-29 EMC IP Holding Company LLC Converged infrastructure platform comprising middleware preconfigured to support containerized workloads
WO2017187516A1 (ja) * 2016-04-26 2017-11-02 株式会社日立製作所 情報処理システムおよびその運用方法
US10498855B2 (en) * 2016-06-17 2019-12-03 Cisco Technology, Inc. Contextual services in a network using a deep learning agent
US10599471B1 (en) * 2016-08-08 2020-03-24 Cognizant Technology Solutions U.S. Corporation Project scheduling in a heterogeneous distributed computing environment
US20180068031A1 (en) * 2016-08-16 2018-03-08 Ebay Inc. Enhancing user queries using implicit indicators
US10331485B2 (en) * 2016-11-18 2019-06-25 Huawei Technologies Co., Ltd. Method and system for meeting multiple SLAS with partial QoS control
US10990467B2 (en) * 2016-12-15 2021-04-27 Nutanix, Inc. Accessing computing resource attributes of an external service provider
US10360053B1 (en) * 2017-02-14 2019-07-23 Veritas Technologies Llc Systems and methods for completing sets of computing tasks
CN107105009B (zh) * 2017-03-22 2020-03-10 北京荣之联科技股份有限公司 基于Kubernetes系统对接工作流引擎的作业调度方法和装置
US11068314B2 (en) * 2017-03-29 2021-07-20 Juniper Networks, Inc. Micro-level monitoring, visibility and control of shared resources internal to a processor of a host machine for a virtual environment
US10891156B1 (en) * 2017-04-26 2021-01-12 EMC IP Holding Company LLC Intelligent data coordination for accelerated computing in cloud environment
US11233873B2 (en) * 2017-05-12 2022-01-25 Oracle International Corporation Dynamic weighting for cloud-based provisioning systems
US10719369B1 (en) * 2017-06-01 2020-07-21 Amazon Technologies, Inc. Network interfaces for containers running on a virtual machine instance in a distributed computing environment
US10303522B2 (en) * 2017-07-01 2019-05-28 TuSimple System and method for distributed graphics processing unit (GPU) computation
US10891525B1 (en) * 2017-09-15 2021-01-12 Amazon Technologies, Inc. Streaming-based deep learning models for computer vision tasks
US11869237B2 (en) * 2017-09-29 2024-01-09 Sony Interactive Entertainment Inc. Modular hierarchical vision system of an autonomous personal companion
US10996991B2 (en) * 2017-11-29 2021-05-04 Red Hat, Inc. Dynamic container-based application resource tuning and resizing
US10452436B2 (en) * 2018-01-03 2019-10-22 Cisco Technology, Inc. System and method for scheduling workload based on a credit-based mechanism
CN109120678B (zh) * 2018-07-26 2021-05-14 北京百度网讯科技有限公司 用于分布式存储系统的服务托管的方法和装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107622427A (zh) * 2016-07-13 2018-01-23 阿里巴巴集团控股有限公司 深度学习的方法、装置及系统
CN107203424A (zh) * 2017-04-17 2017-09-26 北京奇虎科技有限公司 一种在分布式集群中调度深度学习作业的方法和装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Kubernetes Gpus Tensorflow;Samuel Cozannet;《https://medium.com/intuitionmachine/kubernetes-gpus-tensorflow-8696232862》;20171022;第1、10页

Also Published As

Publication number Publication date
US11762697B2 (en) 2023-09-19
US20190228303A1 (en) 2019-07-25
CN108062246A (zh) 2018-05-22

Similar Documents

Publication Publication Date Title
CN108062246B (zh) 用于深度学习框架的资源调度方法和装置
CN111756812B (zh) 一种能耗感知的边云协同动态卸载调度方法
CN109034396A (zh) 用于处理分布式集群中的深度学习作业的方法和装置
CN108182111A (zh) 任务调度系统、方法和装置
CN110532092A (zh) 资源匹配方法、装置及设备
CN108304250A (zh) 用于确定运行机器学习任务的节点的方法和装置
CN109523187A (zh) 任务调度方法、装置和设备
CN109033001A (zh) 用于分配gpu的方法和装置
CN108933822B (zh) 用于处理信息的方法和装置
CN107343045A (zh) 云计算系统及用于控制服务器的云计算方法和装置
US20230206132A1 (en) Method and Apparatus for Training AI Model, Computing Device, and Storage Medium
CN113760488B (zh) 调度任务的方法、装置、设备和计算机可读介质
CN109829164A (zh) 用于生成文本的方法和装置
JP7412489B2 (ja) 連合学習方法及び装置、電子機器、記憶媒体ならびにコンピュータプログラム
CN115437760A (zh) 计算资源分配方法、电子设备、存储介质及程序产品
CN114924851A (zh) 训练任务的调度方法、装置、电子设备和存储介质
CN109597912A (zh) 用于处理图片的方法
CN109783236A (zh) 用于输出信息的方法和装置
CN110113176A (zh) 用于配置服务器的信息同步方法及装置
CN112906081A (zh) 一种规划仓库布局的方法和装置
CN109684059A (zh) 用于监控数据的方法及装置
CN110083351A (zh) 用于生成代码的方法和装置
CN113132445B (zh) 资源调度方法、设备、网络系统及存储介质
CN110351104A (zh) 一种vim选择方法及装置
CN115344359A (zh) 算力资源分配方法、装置、计算机可读存储介质及设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant