CN111369011A - 机器学习模型应用的方法、装置、计算机设备和存储介质 - Google Patents
机器学习模型应用的方法、装置、计算机设备和存储介质 Download PDFInfo
- Publication number
- CN111369011A CN111369011A CN202010298582.1A CN202010298582A CN111369011A CN 111369011 A CN111369011 A CN 111369011A CN 202010298582 A CN202010298582 A CN 202010298582A CN 111369011 A CN111369011 A CN 111369011A
- Authority
- CN
- China
- Prior art keywords
- model
- machine learning
- learning model
- interface
- target machine
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000010801 machine learning Methods 0.000 title claims abstract description 183
- 238000000034 method Methods 0.000 title claims abstract description 39
- 230000003993 interaction Effects 0.000 claims abstract description 49
- 230000000007 visual effect Effects 0.000 claims abstract description 39
- 238000004590 computer program Methods 0.000 claims description 2
- 238000005457 optimization Methods 0.000 description 11
- 238000013135 deep learning Methods 0.000 description 9
- 238000012545 processing Methods 0.000 description 7
- 238000006243 chemical reaction Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 238000012549 training Methods 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000012896 Statistical algorithm Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 239000011229 interlayer Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000008707 rearrangement Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本发明公开了一种机器学习模型应用的方法、装置、计算机设备和存储介质。该方法包括：通过可视化人机交互界面获取与用户选择的目标机器学习模型匹配的模型应用指令，并获取与所述目标机器学习模型对应的模型调用接口；通过调用所述模型调用接口，将用户发送的待预测数据提供给所述目标机器学习模型，并获取所述目标机器学习模型返回的预测结果；在所述可视化人机交互界面中展示所述预测结果。使用本发明的技术方案，可以实现不同类型的模型在用户间的共享和通用，提高用户体验。
Description
技术领域
本发明实施例涉及人工智能技术，尤其涉及一种机器学习模型应用的方法、装置、计算机设备和存储介质。
背景技术
人工智能技术的发展，使通过机器学习算法训练出来的模型，能够具备分析学习能力，可以进行文字、图像、视频或者音频等数据的处理。
现有技术中，训练不同类型的模型所使用的深度学习框架不同，常见的深度学习框架包括TensorFlow、Keras、PyTorch、Cafee、CNTK(Computational Network Toolkit，计算网络工具包)、PaddlePaddle等，训练出来的模型需要依靠对应的深度学习框架运行环境才能应用。
发明人在实现本发明的过程中，发现现有技术存在以下缺陷：用户使用模型时，需要搭建模型的深度学习框架运行环境，并将模型拷贝至本地，才能对模型进行应用，对用户的专业水平要求较高，模型应用的灵活性较差，并且模型应用时一般基于命令行交互界面，界面的用户友好性较差。
发明内容
本发明实施例提供一种机器学习模型应用的方法、装置、计算机设备和存储介质，以实现不同类型的机器学习模型在用户间的共享和通用，提高用户体验。
第一方面，本发明实施例提供了一种机器学习模型应用的方法，该方法包括：
通过可视化人机交互界面获取与用户选择的目标机器学习模型匹配的模型应用指令，并获取与所述目标机器学习模型对应的模型调用接口；
通过调用所述模型调用接口，将用户发送的待预测数据提供给所述目标机器学习模型，并获取所述目标机器学习模型返回的预测结果；
在所述可视化人机交互界面中展示所述预测结果。
第二方面，本发明实施例还提供了一种机器学习模型应用的装置，该装置包括：
模型调用接口获取模块，用于通过可视化人机交互界面获取与用户选择的目标机器学习模型匹配的模型应用指令，并获取与所述目标机器学习模型对应的模型调用接口；
模型调用接口调用模块，用于通过调用所述模型调用接口，将用户发送的待预测数据提供给所述目标机器学习模型，并获取所述目标机器学习模型返回的预测结果；
预测结果展示模块，用于在所述可视化人机交互界面中展示所述预测结果。
第三方面，本发明实施例还提供了一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如本发明实施例中任一所述的机器学习模型应用的方法。
第四方面，本发明实施例还提供了一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行如本发明实施例中任一所述的机器学习模型应用的方法。
本发明实施例通过提供可视化的人际交互界面，使得用户可以选择目标机器学习模型，并输入待预测数据，通过调用模型调用接口，获取目标机器学习模型的预测结果，并将预测结果展示到可视化的人际交互界面。解决了现有技术中用户使用不同类型的模型时，对用户的专业水平要求较高，模型应用的灵活性较差，并且界面的用户友好性较差的问题，实现了不同类型的机器学习模型在用户间的共享和通用，提高了用户体验。
附图说明
图1是本发明实施例一中的一种机器学习模型应用的方法的流程图；
图2a是本发明实施例二中的一种机器学习模型应用的方法的流程图；
图2b是适用于本发明实施例中的一种机器学习模型应用的系统的示意图；
图3是本发明实施例三中的一种机器学习模型应用的装置的结构示意图；
图4是本发明实施例四中的一种计算机设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。
实施例一
图1是本发明实施例一提供的一种机器学习模型应用的方法的流程图，本实施例可适用于向用户提供多种类型模型的应用的情况，该方法可以由机器学习模型的应用装置来执行，该装置可以由软件和/或硬件来实现，并一般集成在计算机设备中。
如图1所示，本发明实施例的技术方案，具体包括如下步骤：
S110、通过可视化人机交互界面获取与用户选择的目标机器学习模型匹配的模型应用指令，并获取与所述目标机器学习模型对应的模型调用接口。
其中，机器学习模型可以为根据统计学算法，对大量历史数据进行训练、学习从而得到的模型。示例性的，人脸识别模型、语音识别模型等都可以为机器学习模型。模型应用指令可以为可视化人机交互界面检测到的，用以指示用户所需应用的模型类型的指令。模型调用接口可以为一个API(Application Programming Interface，应用程序接口)接口，模型调用接口与机器学习模型之间存在对应关系，示例性的，训练机器学习模型所采用的深度学习框架不同，以及机器学习模型的用途不同，可以对应不同的模型调用接口，但本实施例对模型调用接口与机器学习模型之间的对应关系不进行限制。
在本发明实施例中，在用户在可视化人机交互界面选择目标机器学习模型之后，会生成与目标机器学习模型对应的模型应用指令，并获取与模型应用指令对应的模型调用接口。
在本发明一个可选的实施例中，在通过可视化人机交互界面获取与用户选择的目标机器学习模型匹配的模型应用指令之前，还可以包括：通过可视化人机交互界面获取用户上传的机器学习模型，并将所述机器学习模型转换为统一格式模型；对所述统一格式模型进行优化处理后保存至模型库中，并生成与所述统一格式模型匹配的模型调用接口。
其中，统一格式可以为通用的机器学习模型格式，通过将机器学习模型转换为统一格式模型，可以实现多种类型的机器学习模型的兼容。优化处理可以为对机器学习模型性能、运行速度等方面的提升，以及结构的优化，可以通过模型优化算法或者模型优化器等方式实现对机器学习模型的优化处理，本实施例对优化处理的方式不进行限制。模型库可以用于保存机器学习模型的相关数据，常用的存储媒介可以为对象存储，或者HDFS(HadoopDistributed File System，分布式文件系统)。
在本发明实施例中，用户可以在可视化人机交互界面上传机器学习模型，通过上传不同类型的机器学习模型，可以实现多种机器学习模型的共享。用户上传机器学习模型之后，将机器学习模型转换为统一格式模型，实现对多种类型机器学习模型的兼容，对统一格式模型进行优化处理，提升模型的性能和运行速度，生成模型调用接口，通过模型调用接口提供模型服务。
在本发明一个可选的实施例中，将所述机器学习模型转换为统一格式模型，可以包括：将所述机器学习模型转换为ONNX格式的所述统一格式模型。
其中，ONNX(Open Neural Network Exchange，开放神经网络交换)格式是一种针对机器学习所设计的开放式的文件格式，用于存储训练好的模型。它使得不同的深度学习框架可以采用相同的格式存储模型数据并交互。
在本发明一个可选的实施例中，对所述统一格式模型进行优化处理后保存至模型库中，并生成与所述统一格式模型匹配的模型调用接口，可以包括：通过TensorRT，对所述统一格式模型进行优化处理后保存至模型库中，并生成与所述统一格式模型匹配的模型调用接口；其中，TensorRT包括至少两个TensorRT容器。
其中，TensorRT容器是高性能的深度学习推理优化器，可以为深度学习应用提供低延迟、高吞吐率的部署推理，TensorRT容器可以支持TensorFlow、PyTorch、Cafee以及MXnet等多种深度学习框架。TensorRT容器提供数据精确校准、层间张量融合、自动内核优化、动态张量内存以及多流执行对模型的结构进行优化，使机器学习模型在不影响功能的前提下更加紧凑、快速和高效。
可选的，TensorRT容器可以基于Docker容器进行构建，Docker是一个开源的应用容器引擎，可以构建隔离的标准化的运行环境，轻量级的PaaS(Platform as a service，平台即服务)，构建自动化测试和持续集成环境。
在本发明实施例中，TensorRT容器的作用在于对统一格式模型进行优化，以及生成统一格式模型对应的模型调用接口。设置多个TensorRT容器的好处在于，一个TensorRT容器在同一时刻只能运行一个机器学习模型，因此设置多个TensorRT容器，可以实现同时加载多个机器学习模型，实现多个机器学习模型的并行执行。
S120、通过调用所述模型调用接口，将用户发送的待预测数据提供给所述目标机器学习模型，并获取所述目标机器学习模型返回的预测结果。
其中，待预测数据可以为用户提供的用以获取预测结果的数据，示例性的，当目标机器学习模型为人脸识别模型时，待预测数据可以为图片，当目标机器学习模型为语音识别模型时，待预测数据可以为语音，本实施例对待预测数据的类型不进行限制。预测结果可以为目标机器学习模型根据待预测数据进行预测获得的结果，示例性的，当目标机器学习模型为人脸识别模型，待预测数据为图片时，预测结果可以为已识别出人脸的图片，当目标机器学习模型为语音识别模型，待预测数据为语音时，预测结果可以为语音转换成的文字。
在本发明实施例中，调用模型调用接口即可直接进行目标机器学习模型的应用，通过模型调用接口将待预测数据发送至目标机器学习模型，目标机器学习模型根据待预测数据获得预测结果后，通过模型调用接口返回该预测结果。
S130、在所述可视化人机交互界面中展示所述预测结果。
在本发明实施例中，模型调用接口返回预测结果后，预测结果将展示到可视化人机交互界面中。
本实施例的技术方案，通过提供可视化的人际交互界面，使得用户可以选择目标机器学习模型，并输入待预测数据，通过调用模型调用接口，获取目标机器学习模型的预测结果，并将预测结果展示到可视化的人际交互界面。解决了现有技术中用户使用不同类型的模型时，对用户的专业水平要求较高，模型应用的灵活性较差，并且界面的用户友好性较差的问题，实现了不同类型的机器学习模型在用户间的共享和通用，提高了用户体验。
实施例二
图2a是本发明实施例二提供的一种机器学习模型应用的方法的流程图，本发明实施例在上述实施例的基础上，对调用模型调用接口的过程进行了进一步的具体化，并加入了上传机器学习模型的步骤。
相应的，如图2a所示，本发明实施例的技术方案，具体包括如下步骤：
S210、通过可视化人机交互界面获取用户上传的机器学习模型。
S220、将所述机器学习模型转换为ONNX格式的所述统一格式模型。
S230、通过TensorRT，对所述统一格式模型进行优化处理后保存至模型库中，并生成与所述统一格式模型匹配的模型调用接口。
S240、生成与各服务器节点匹配的标签，并将所述标签与匹配的模型调用接口进行绑定，所述标签用于指示运行统一格式模型的服务器节点。
其中，多个普通服务器在局域网中组成服务器集群，各服务器在服务器集群中作为一个服务器节点。各服务器节点可以安装0个或1个GPU(Graphics Processing Unit，图形处理单元)，各服务器节点所具备的GPU、CPU(Central Processing Unit，中央处理器)、内存、硬盘等资源可能不同，因此提供的服务也不同，需要根据服务器节点的类型生成标签，用以指示运行统一格式模型的服务器节点的类型。
在本发明实施例中，生成模型调用接口后，根据服务器节点的类型生成标签，并将标签与模型调用接口绑定，这样设置，就可以使调用模型调用接口时，直接根据标签确定运行统一格式模型的服务器节点。
在本发明一个可选的实施例中，生成与各服务器节点匹配标签，可以包括：通过内置的Kubernetes生成与各服务器节点匹配的标签。
其中，Kubernetes用于实现机器学习模型服务基于TensorRT容器的综合调度，Kubernetes根据各服务器节点的类型生成标签，并在进行机器学习模型应用时，根据标签进行调度。具体来说，Kubernetes可以根据是否具有GPU生成不同的标签，具备GPU的服务器节点可以用来提供机器学习模型服务，不具备GPU的节点可以用来提供其他服务。
S250、将生成的所述模型调用接口在注册中心中进行注册。
其中，注册中心用于保存模型调用接口相关数据，当用户想要进行目标机器学习模型的应用时，只需在注册中心获取与目标机器学习模型对应的模型调用接口，即可进行调用。注册中心可以基于zookeeper进行模型调用接口的注册和查找。
S260、判断可视化人机交互界面是否获取与用户选择的目标机器学习模型匹配的模型应用指令，如果是，则执行S270，否则执行S2100。
S270、将所述模型应用指令发送至注册中心，获取所述注册中心反馈的与所述目标机器学习模型对应的模型调用接口。
在本发明实施例中，通过可视化人机交互界面获取模型应用指令后，根据模型应用指令在注册中心获取模型调用接口。
S280、通过调用所述模型调用接口，将用户发送的待预测数据提供给所述目标机器学习模型，控制所述目标机器学习模型在与所述模型调用接口匹配的服务器节点上运行，计算得到所述预测结果。
在本发明实施例中，模型调用接口与标签绑定，标签指示了运行目标机器学习模型的服务器节点类型。因此，将待预测数据发送至目标机器学习模型后，在标签指示的服务器节点上运行目标机器学习模型，得到与待预测数据对应的预测结果。
S290、在所述可视化人机交互界面中展示所述预测结果。
S2100、结束。
在本发明一个可选的实施例中，图2b提供了一种机器学习模型的应用系统的示意图，如图2b所示，该机器学习模型的应用系统包括界面交互模块、业务逻辑模块、模型服务模块、模型调度模块以及服务器集群。界面交互模块用于进行机器学习模型的上传和管理，并通过上传待预测数据进行机器学习模型的应用，向用户返回机器学习模型的应用结果。
业务逻辑模块包括模型转换单元、模型优化单元、模型管理单元、模型服务调用单元以及服务管理单元，模型转换单元用于对用户上传的模型转换为ONNX格式，模型优化单元用于通过TensorRT对模型结构进行优化，提高模型的运行速度，模型管理单元通过模型库实现对优化后的模型的管理和存储，模型服务调用单元用于当界面交互模块检测到机器学习模型的应用请求时，调用模型服务模块提供的模型调用接口，并向界面交互模块提供响应，服务管理单元用于将模型调用接口注册到注册中心，并确定运行机器学习模型的服务器节点。
模型服务模块通过TensorRT容器实现对机器学习模型的优化、部署，以及生成与机器学习模型对应的模型调用接口。
模型调度模块通过Kubernetes实现对机器学习模型服务的综合调度，根据不同服务器节点的类型生成对应的标签，并根据标签调度运行机器学习模型的服务器节点。
服务器集群为多个服务器节点在局域网内构建的集群体系，服务器节点可以具备或者不具备GPU，各服务器节点所具备的GPU、CPU、内存、硬盘等资源也可能不同，具备GPU的服务器节点用来进行模型服务的提供，不具备GPU的服务器节点用来进行普通服务的提供。
用户在上传机器学习模型时，机器学习模型应用系统的工作原理为：通过界面交互模块上传机器学习模型。业务逻辑模块接收机器学习模型，判断机器学习模型的格式，将机器学习模型转换为ONNX格式，通过TensorRT优化模型结构，将优化后的机器学习模型保存至模型库中。模型服务模块通过启动TensorRT容器加载机器学习模型，完成机器学习模型的部署，并生成机器学习模型对应的模型调用接口。模型调度模块生成指示运行机器学习模型的服务器节点的标签，并将标签与模型调用接口绑定，业务逻辑模块将模型调用接口注册到注册中心。此时完成了机器学习模型的上传过程，用户可以通过该机器学习模型应用系统进行机器学习模型的应用。
用户对目标机器学习模型进行应用时，机器学习模型应用系统的工作原理为：通过界面交互模块选择目标机器学习模型，并上传待预测数据。业务逻辑模块获取目标机器学习模型的模型应用指令后，在注册中心获取与目标机器学习模型对应的模型调用接口，调用模型调用接口。模型服务模块进行模型调用接口的调用，将待预测数据发送至目标机器学习模型，并将目标机器学习模型输出的预测结果发送至业务逻辑模块，业务逻辑模块将模型服务模块返回的预测结果反馈至界面交互模块，界面交互模块将预测结果进行展示。
本实施例的技术方案，通过可视化人机交互界面，获取用户上传的机器学习模型，对机器学习模型进行格式转换、优化等处理后，生成模型调用接口，用户在可视化人机交互界面选择目标机器学习模型，并输入待预测数据，通过调用模型调用接口，获取目标机器学习模型的预测结果，并将预测结果展示到可视化的人际交互界面。解决了现有技术中用户使用不同类型的模型时，对用户的专业水平要求较高，模型应用的灵活性较差，并且界面的用户友好性较差的问题，实现了不同类型的机器学习模型在用户间的共享和通用，提高了用户体验。
实施例三
图3是本发明实施例三提供的一种机器学习模型应用的装置的结构示意图，该装置包括：模型调用接口获取模块310、模型调用接口调用模块320以及预测结果展示模块330。其中：
模型调用接口获取模块310，用于通过可视化人机交互界面获取与用户选择的目标机器学习模型匹配的模型应用指令，并获取与所述目标机器学习模型对应的模型调用接口；
模型调用接口调用模块320，用于通过调用所述模型调用接口，将用户发送的待预测数据提供给所述目标机器学习模型，并获取所述目标机器学习模型返回的预测结果；
预测结果展示模块330，用于在所述可视化人机交互界面中展示所述预测结果。
本实施例的技术方案，通过提供可视化的人机交互界面，使得用户可以选择目标机器学习模型，并输入待预测数据，通过调用模型调用接口，获取目标机器学习模型的预测结果，并将预测结果展示到可视化的人际交互界面。解决了现有技术中用户使用不同类型的模型时，对用户的专业水平要求较高，模型应用的灵活性较差，并且界面的用户友好性较差的问题，实现了不同类型的机器学习模型在用户间的共享和通用，提高了用户体验。
在上述实施例的基础上，所述装置，还包括：
统一格式模型转换模块，用于通过可视化人机交互界面获取用户上传的机器学习模型，并将所述机器学习模型转换为统一格式模型；
模型调用接口生成模块，用于对所述统一格式模型进行优化处理后保存至模型库中，并生成与所述统一格式模型匹配的模型调用接口。
在上述实施例的基础上，所述装置，还包括：
标签生成模块，用于生成与各服务器节点匹配的标签，并将所述标签与匹配的模型调用接口进行绑定，所述标签用于指示运行统一格式模型的服务器节点；
所述模型调用接口调用模块320，包括：
预测结果获取单元，用于通过调用所述模型调用接口，将用户发送的待预测数据提供给所述目标机器学习模型，控制所述目标机器学习模型在与所述模型调用接口匹配的服务器节点上运行，计算得到所述预测结果。
在上述实施例的基础上，所述装置，还包括：
模型调用接口注册模块，用于将生成的所述模型调用接口在注册中心中进行注册；
所述模型调用接口获取模块310，包括：
模型调用接口获取单元，用于将所述模型应用指令发送至注册中心，获取所述注册中心反馈的与所述目标机器学习模型对应的模型调用接口。
在上述实施例的基础上，所述模型调用接口生成模块，包括：
模型调用接口生成单元，用于通过TensorRT，对所述统一格式模型进行优化处理后保存至模型库中，并生成与所述统一格式模型匹配的模型调用接口；
其中，TensorRT包括至少两个TensorRT容器。
在上述实施例的基础上，所述标签生成模块，包括：
标签生成单元，用于通过内置的Kubernetes生成与各服务器节点匹配的标签。
在上述实施例的基础上，所述统一格式模型转换模块，包括：
统一格式模型转换单元，用于将所述机器学习模型转换为ONNX格式的所述统一格式模型。
本发明实施例所提供的机器学习模型的应用装置可执行本发明任意实施例所提供的机器学习模型的应用方法，具备执行方法相应的功能模块和有益效果。
实施例四
图4为本发明实施例四提供的一种计算机设备的结构示意图，如图4所示，该计算机设备包括处理器70、存储器71、输入装置72和输出装置73；计算机设备中处理器70的数量可以是一个或多个，图4中以一个处理器70为例；计算机设备中的处理器70、存储器71、输入装置72和输出装置73可以通过总线或其他方式连接，图4中以通过总线连接为例。
存储器71作为一种计算机可读存储介质，可用于存储软件程序、计算机可执行程序以及模块，如本发明实施例中的机器学习模型的应用方法对应的模块(例如，机器学习模型的应用装置中的模型调用接口获取模块310、模型调用接口调用模块320以及预测结果展示模块330)。处理器70通过运行存储在存储器71中的软件程序、指令以及模块，从而执行计算机设备的各种功能应用以及数据处理，即实现上述的机器学习模型的应用方法。该方法包括：
通过可视化人机交互界面获取与用户选择的目标机器学习模型匹配的模型应用指令，并获取与所述目标机器学习模型对应的模型调用接口；
通过调用所述模型调用接口，将用户发送的待预测数据提供给所述目标机器学习模型，并获取所述目标机器学习模型返回的预测结果；
在所述可视化人机交互界面中展示所述预测结果。
存储器71可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序；存储数据区可存储根据终端的使用所创建的数据等。此外，存储器71可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实例中，存储器71可进一步包括相对于处理器70远程设置的存储器，这些远程存储器可以通过网络连接至计算机设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
输入装置72可用于接收输入的数字或字符信息，以及产生与计算机设备的用户设置以及功能控制有关的键信号输入。输出装置73可包括显示屏等显示设备。
实施例五
本发明实施例五还提供一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行一种机器学习模型的应用方方法，该方法包括：
通过可视化人机交互界面获取与用户选择的目标机器学习模型匹配的模型应用指令，并获取与所述目标机器学习模型对应的模型调用接口；
通过调用所述模型调用接口，将用户发送的待预测数据提供给所述目标机器学习模型，并获取所述目标机器学习模型返回的预测结果；
在所述可视化人机交互界面中展示所述预测结果。
当然，本发明实施例所提供的一种包含计算机可执行指令的存储介质，其计算机可执行指令不限于如上所述的方法操作，还可以执行本发明任意实施例所提供的机器学习模型的应用方方法中的相关操作。
通过以上关于实施方式的描述，所属领域的技术人员可以清楚地了解到，本发明可借助软件及必需的通用硬件来实现，当然也可以通过硬件实现，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如计算机的软盘、只读存储器(Read-Only Memory，ROM)、随机存取存储器(RandomAccess Memory，RAM)、闪存(FLASH)、硬盘或光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述的方法。
值得注意的是，上述机器学习模型的应用方装置的实施例中，所包括的各个单元和模块只是按照功能逻辑进行划分的，但并不局限于上述的划分，只要能够实现相应的功能即可；另外，各功能单元的具体名称也只是为了便于相互区分，并不用于限制本发明的保护范围。
注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。
Claims (10)
1.一种机器学习模型应用的方法，其特征在于，包括：
通过可视化人机交互界面获取与用户选择的目标机器学习模型匹配的模型应用指令，并获取与所述目标机器学习模型对应的模型调用接口；
通过调用所述模型调用接口，将用户发送的待预测数据提供给所述目标机器学习模型，并获取所述目标机器学习模型返回的预测结果；
在所述可视化人机交互界面中展示所述预测结果。
2.根据权利要求1所述的方法，其特征在于，在通过可视化人机交互界面获取与用户选择的目标机器学习模型匹配的模型应用指令之前，还包括：
通过可视化人机交互界面获取用户上传的机器学习模型，并将所述机器学习模型转换为统一格式模型；
对所述统一格式模型进行优化处理后保存至模型库中，并生成与所述统一格式模型匹配的模型调用接口。
3.根据权利要求2所述的方法，其特征在于，在生成与所述统一格式模型匹配的模型调用接口之后，还包括：
生成与各服务器节点匹配的标签，并将所述标签与匹配的模型调用接口进行绑定，所述标签用于指示运行统一格式模型的服务器节点；
通过调用所述模型调用接口，将用户发送的待预测数据提供给所述目标机器学习模型，并获取所述目标机器学习模型返回的预测结果，包括：
通过调用所述模型调用接口，将用户发送的待预测数据提供给所述目标机器学习模型，控制所述目标机器学习模型在与所述模型调用接口匹配的服务器节点上运行，计算得到所述预测结果。
4.根据权利要求2所述的方法，其特征在于，在生成与所述统一格式模型匹配的模型调用接口之后，还包括：
将生成的所述模型调用接口在注册中心中进行注册；
获取与所述目标机器学习模型对应的模型调用接口，包括：
将所述模型应用指令发送至注册中心，获取所述注册中心反馈的与所述目标机器学习模型对应的模型调用接口。
5.根据权利要求2所述的方法，其特征在于，对所述统一格式模型进行优化处理后保存至模型库中，并生成与所述统一格式模型匹配的模型调用接口，包括：
通过TensorRT，对所述统一格式模型进行优化处理后保存至模型库中，并生成与所述统一格式模型匹配的模型调用接口；
其中，TensorRT包括至少两个TensorRT容器。
6.根据权利要求3所述的方法，其特征在于，生成与各服务器节点匹配标签，包括：
通过内置的Kubernetes生成与各服务器节点匹配的标签。
7.根据权利要求2所述的方法，其特征在于，将所述机器学习模型转换为统一格式模型，包括：
将所述机器学习模型转换为ONNX格式的所述统一格式模型。
8.一种机器学习模型应用的装置，其特征在于，包括：
模型调用接口获取模块，用于通过可视化人机交互界面获取与用户选择的目标机器学习模型匹配的模型应用指令，并获取与所述目标机器学习模型对应的模型调用接口；
模型调用接口调用模块，用于通过调用所述模型调用接口，将用户发送的待预测数据提供给所述目标机器学习模型，并获取所述目标机器学习模型返回的预测结果；
预测结果展示模块，用于在所述可视化人机交互界面中展示所述预测结果。
9.一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1-7中任一所述的机器学习模型应用的方法。
10.一种包含计算机可执行指令的存储介质，其特征在于，所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-7中任一所述的机器学习模型应用的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010298582.1A CN111369011A (zh) | 2020-04-16 | 2020-04-16 | 机器学习模型应用的方法、装置、计算机设备和存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010298582.1A CN111369011A (zh) | 2020-04-16 | 2020-04-16 | 机器学习模型应用的方法、装置、计算机设备和存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN111369011A true CN111369011A (zh) | 2020-07-03 |
Family
ID=71209404
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010298582.1A Pending CN111369011A (zh) | 2020-04-16 | 2020-04-16 | 机器学习模型应用的方法、装置、计算机设备和存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111369011A (zh) |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111931945A (zh) * | 2020-07-31 | 2020-11-13 | 北京百度网讯科技有限公司 | 基于标签引擎的数据处理方法、装置、设备及存储介质 |
| CN112035622A (zh) * | 2020-09-04 | 2020-12-04 | 上海明略人工智能(集团)有限公司 | 一种自然语言处理的集成平台及方法 |
| WO2022227355A1 (zh) * | 2021-04-29 | 2022-11-03 | 华为云计算技术有限公司 | 获取知识的方法和装置 |
| CN116643814A (zh) * | 2023-05-15 | 2023-08-25 | 博瀚智能(深圳)有限公司 | 模型库构建方法、基于模型库的模型调用方法和相关设备 |
Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107563417A (zh) * | 2017-08-18 | 2018-01-09 | 北京天元创新科技有限公司 | 一种深度学习人工智能模型建立方法及系统 |
| CN109088905A (zh) * | 2017-06-14 | 2018-12-25 | 浙江贵仁信息科技股份有限公司 | 一种基于云计算的数学模型服务系统及数学模型管理方法 |
| CN109213482A (zh) * | 2018-06-28 | 2019-01-15 | 清华大学天津高端装备研究院 | 基于卷积神经网络的人工智能图形化应用平台及应用方法 |
| CN109325541A (zh) * | 2018-09-30 | 2019-02-12 | 北京字节跳动网络技术有限公司 | 用于训练模型的方法和装置 |
| CN109816114A (zh) * | 2018-12-29 | 2019-05-28 | 大唐软件技术股份有限公司 | 一种机器学习模型的生成方法、装置 |
| CN110210624A (zh) * | 2018-07-05 | 2019-09-06 | 第四范式（北京）技术有限公司 | 执行机器学习过程的方法、装置、设备以及存储介质 |
| CN110378463A (zh) * | 2019-07-15 | 2019-10-25 | 北京智能工场科技有限公司 | 一种人工智能模型标准化训练平台及自动化系统 |
| CN110502213A (zh) * | 2019-05-24 | 2019-11-26 | 网思科技股份有限公司 | 一种人工智能能力开发平台 |
| CN110955470A (zh) * | 2019-12-06 | 2020-04-03 | 深圳前海环融联易信息科技服务有限公司 | 算法模型接口化方法、装置、计算机设备及存储介质 |
-
2020
- 2020-04-16 CN CN202010298582.1A patent/CN111369011A/zh active Pending
Patent Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109088905A (zh) * | 2017-06-14 | 2018-12-25 | 浙江贵仁信息科技股份有限公司 | 一种基于云计算的数学模型服务系统及数学模型管理方法 |
| CN107563417A (zh) * | 2017-08-18 | 2018-01-09 | 北京天元创新科技有限公司 | 一种深度学习人工智能模型建立方法及系统 |
| CN109213482A (zh) * | 2018-06-28 | 2019-01-15 | 清华大学天津高端装备研究院 | 基于卷积神经网络的人工智能图形化应用平台及应用方法 |
| CN110210624A (zh) * | 2018-07-05 | 2019-09-06 | 第四范式（北京）技术有限公司 | 执行机器学习过程的方法、装置、设备以及存储介质 |
| CN109325541A (zh) * | 2018-09-30 | 2019-02-12 | 北京字节跳动网络技术有限公司 | 用于训练模型的方法和装置 |
| CN109816114A (zh) * | 2018-12-29 | 2019-05-28 | 大唐软件技术股份有限公司 | 一种机器学习模型的生成方法、装置 |
| CN110502213A (zh) * | 2019-05-24 | 2019-11-26 | 网思科技股份有限公司 | 一种人工智能能力开发平台 |
| CN110378463A (zh) * | 2019-07-15 | 2019-10-25 | 北京智能工场科技有限公司 | 一种人工智能模型标准化训练平台及自动化系统 |
| CN110955470A (zh) * | 2019-12-06 | 2020-04-03 | 深圳前海环融联易信息科技服务有限公司 | 算法模型接口化方法、装置、计算机设备及存储介质 |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111931945A (zh) * | 2020-07-31 | 2020-11-13 | 北京百度网讯科技有限公司 | 基于标签引擎的数据处理方法、装置、设备及存储介质 |
| CN112035622A (zh) * | 2020-09-04 | 2020-12-04 | 上海明略人工智能(集团)有限公司 | 一种自然语言处理的集成平台及方法 |
| WO2022227355A1 (zh) * | 2021-04-29 | 2022-11-03 | 华为云计算技术有限公司 | 获取知识的方法和装置 |
| CN116643814A (zh) * | 2023-05-15 | 2023-08-25 | 博瀚智能(深圳)有限公司 | 模型库构建方法、基于模型库的模型调用方法和相关设备 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109976821B (zh) | 应用程序加载方法、装置、终端及存储介质 | |
| CN111369011A (zh) | 机器学习模型应用的方法、装置、计算机设备和存储介质 | |
| CN108874539B (zh) | 资源配置方法、装置、终端及存储介质 | |
| US20140082511A1 (en) | Method and system for emulating desktop software applications in a mobile communication network | |
| CN111143039B (zh) | 一种虚拟机的调度方法、装置及计算机存储介质 | |
| CN111459610B (zh) | 一种模型部署方法和装置 | |
| CN110516714B (zh) | 一种特征预测方法、系统及引擎 | |
| CN111221643A (zh) | 任务处理方法和任务处理装置 | |
| CN107807841B (zh) | 服务器模拟方法、装置、设备及可读存储介质 | |
| US20210174189A1 (en) | Optimization Framework for Real-Time Rendering of Media Using Machine Learning Techniques | |
| CN110555550A (zh) | 在线预测服务的部署方法、装置及设备 | |
| CN111625312A (zh) | 一种app换肤方法、装置、电子设备及存储介质 | |
| US11611483B2 (en) | Learning-based dynamic determination of synchronous/asynchronous behavior of computing services | |
| CN113094125B (zh) | 业务流程处理方法、装置、服务器及存储介质 | |
| CN111813529B (zh) | 数据处理方法、装置、电子设备及存储介质 | |
| CN116302448B (zh) | 任务调度方法和系统 | |
| CN111126604B (zh) | 模型训练方法、装置、服务器及存储介质 | |
| CN112423024A (zh) | 一种视频转码方法、装置、计算机设备和存储介质 | |
| CN110717992B (zh) | 调度模型的方法、装置、计算机系统和可读存储介质 | |
| US20230117081A1 (en) | Providing a user-centric application | |
| CN114327779B (zh) | 一种应用运行环境搭建方法、装置及存储介质 | |
| CN112953993B (zh) | 资源调度方法、设备、网络系统及存储介质 | |
| KR20160087590A (ko) | 사용자 단말에서의 인스턴트 메시징 서비스 제공 장치 | |
| CN113722341B (zh) | 一种运营数据处理方法及相关装置 | |
| CN114997401B (zh) | 自适应推理加速方法、装置、计算机设备和存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200703 |
|
| RJ01 | Rejection of invention patent application after publication |