CN111858041A - 一种数据处理方法及服务器 - Google Patents
一种数据处理方法及服务器 Download PDFInfo
- Publication number
- CN111858041A CN111858041A CN202010663630.2A CN202010663630A CN111858041A CN 111858041 A CN111858041 A CN 111858041A CN 202010663630 A CN202010663630 A CN 202010663630A CN 111858041 A CN111858041 A CN 111858041A
- Authority
- CN
- China
- Prior art keywords
- data
- instance
- preset
- server
- preset basic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Stored Programmes (AREA)
Abstract
本发明公开了一种数据处理方法及服务器,涉及人工智能领域,用于提高AI应用的执行速度。包括接收终端的请求数据消息;其中,所述请求数据消息对应于所述终端中的一个人工智能AI应用,所述请求数据消息包括待处理数据;将所述待处理数据输入到与所述AI应用对应的组合实例,得到目标数据;其中,所述组合实例用于调用所述服务器中的至少一个预设的基础实例,服务器中的不同基础示例具备的功能不同;向所述终端发送所述目标数据。本发明实施例应用于提高AI应用的执行速度。
Description
技术领域
本发明涉及人工智能领域,尤其涉及一种数据处理方法及服务器。
背景技术
在人工智能(artificial intelligence,AI)应用的模型部署阶段,开发人员一般会将每个具有单一功能的AI模型在服务器中进行实例化。这样,服务器中会部署有多个具有单一功能的AI实例。通常,当用户在前端设备中执行AI应用时,AI应用会按照既定的调用顺序,依次与服务器中的多个AI实例进行数据交互,以使得不同的AI实例对AI应用发送的数据进行处理。AI应用在接收到最后一个AI实例输出的数据之后,将接收到的数据通过前端设备输出,以满足用户需求。
但是,由于一个AI应用通常对应多个具有单一功能的AI实例,这就需要AI应用与服务器进行多次数据交互,尤其是在依次交互的数据量较大(例如AI应用用于对视频进行处理)时,就会导致AI应用向前端设备输出结果存在延迟。因此,如何提高AI应用的执行速度,是一个需要解决的技术问题。
发明内容
本发明提供一种数据处理方法及服务器,用于提高AI应用的执行速度。
为达到上述目的,本发明的实施例采用如下技术方案:
第一方面,提供了一种数据处理方法,包括:接收终端的请求数据消息;其中,请求数据消息对应于终端中的一个人工智能AI应用,请求数据消息包括待处理数据;将待处理数据输入到与AI应用对应的组合实例,得到目标数据;其中,组合实例用于调用服务器中的至少一个预设的基础实例,服务器中的不同基础示例具备的功能不同;向终端发送目标数据。
第二方面,提供了一种服务器,包括接收单元、处理单元以及发送单元;接收单元,用于接收终端的请求数据消息;其中,请求数据消息对应于终端中的一个人工智能AI应用,请求数据消息包括待处理数据;处理单元,用于在接收单元接收请求数据之后,将待处理数据输入到与AI应用对应的组合实例,得到目标数据;其中,组合实例用于调用服务器中的至少一个预设的基础实例,服务器中的不同基础示例具备的功能不同;发送单元,用于在处理单元得到目标数据之后,向终端发送目标数据。
第三方面,提供了一种存储一个或多个程序的计算机可读存储介质,一个或多个程序包括指令,指令当被计算机执行时使计算机执行如第一方面的数据处理方法。
第四方面,提供一种服务器,包括:处理器、存储器和通信接口;其中,通信接口用于服务器和其他设备或网络通信;存储器用于存储一个或多个程序,该一个或多个程序包括计算机执行指令,当该服务器运行时,处理器执行该存储器存储的该计算机执行指令,以使该服务器设备执行第一方面的数据处理方法。
本发明的实施例提供的数据处理方法及服务器,用于提高AI应用的执行速度。本发明采用上述技术手段,在接收AI应用通过终端发送的待处理数据后,利用组合实例,在服务器内调用多个具有不同功能的基础实例依次对待处理数据进行处理,最后将多个基础实例中最后一个基础实例生成的目标数据发送至终端,以使得AI应用向用户展示目标数据,可以减少AI应用通过网络与服务器中不同的实例之间进行数据往返交互的过程,从而,能够提高AI应用的执行速度。
附图说明
图1为本发明的实施例提供的一种AI架构示意图一;
图2为本发明的实施例提供的一种AI架构示意图二;
图3为本发明的实施例提供的一种数据处理方法流程示意图一;
图4为本发明的实施例提供的一种数据处理方法流程示意图二;
图5为本发明的实施例提供的一种有向无环图示意图;
图6为本发明的实施例提供的一种调用顺序示意图;
图7为本发明的实施例提供的一种数据处理方法流程示意图三;
图8为本发明的实施例提供的一种数据处理方法流程示意图四;
图9为本发明的实施例提供的一种服务器结构示意图一;
图10为本发明的实施例提供的一种服务器结构示意图二;
图11为本发明的实施例提供的一种服务器结构示意图三;
图12为本发明的实施例提供的一种服务器结构示意图四。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行描述。
在本发明的描述中,除非另有说明,“/”表示“或”的意思,例如,A/B可以表示A或B。本文中的“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。此外,“至少一个”是指一个或多个,“多个”是指两个或两个以上。“第一”、“第二”等字样并不对数量和执行次序进行限定,并且“第一”、“第二”等字样也并不限定一定不同。
以下,介绍本发明的发明构思:AI应用的开发人员开发出各个具有单一功能的AI模型之后,在服务器中将这些AI模型进行部署,已生成各个具有单一功能的AI实例。前端设备中安装有AI应用,当用户在前端设备中执行AI应用时,AI应用会按照既定的调用顺序,依次与服务器中的多个AI实例进行数据交互,以使得不同的AI实例对AI应用发送的数据进行处理。例如,如图1中的AI架构所示,对于一个人脸识别的AI应用,用户在前端设备中输入图像(拍照或上传),前端设备向服务器中的图像向量化实例发送图像文件。图像向量化实例将图像文件进行处理,生成图像向量,并将图像向量发送至前端设备。前端设备中的人脸识别AI应用在接收到图像向量之后,根据各个实例之间既定的调用顺序,将图像向量发送至服务器中的人脸识别实例。服务器中的人脸识别实例将图像向量进行处理,得到人脸识别结果,经将人脸识别结果发送至前端设备,以使得前端设备中的AI应用向用户显示人脸识别结果。
基于上述技术,本发明发现,由于AI应用的复杂性,在服务器中一个AI应用往往对应有多个AI实例,这就,针对AI应用的一个任务,前端设备与服务器之间就需要多次进行数据交互,尤其在AI应用涉及到数据量较大的业务(例如视频业务)或网络时延较大时,就会导致该AI应用向前端设备输出结果存在延迟。因此,如何提高AI应用的执行速度,是一个需要解决的技术问题。
针对上述技术问题,本发明中考虑到若能够找到一种方法,能够在服务器接收前端设备发送的一个AI应用的待处理数据之后,服务器针对该AI应用按照既定顺序执行不同的AI实例,最终在服务器内部得到AI结果,并向前端设备发送AI结果。这样一来,无需前端设备与服务器之间进行数据往返交互,从而能够解决上述技术问题。
本发明实施例提供的数据处理方法应用于AI架构。图2示出了该AI架构的一种结构示意图。如图2所示,AI架构10包括服务器11以及终端12。服务器11中包括组合实例(如图2所示,图中仅示例性的给出一个组合实例,在具体实施时可以有更多的组合实例)以及多个基础实例(如图2中,多个基础实例包括基础实例1以及基础实例2,图中仅示例性的给出两个基础实例,在具体实施时可以有更多或者更少的基础实例)。组合实例用于调用多个基础实例,并且与多个基础实例进行数据交互。
其中,服务器11与终端12连接。上述所有设备或装置之间可以采用有线方式连接,也可以采用无线方式连接,本发明实施例对此不作限定。
服务器11可以用于执行上述数据处理方法。AI开发人员可以在服务器11中开发AI模型,并在服务器11中对AI模型进行实例化部署,以生成AI实例。服务器11中还具备存储功能,能够存储AI模型以及AI实例。
需要说明的,服务器11可以为Linux虚拟机,还可以为Kubernates容器云,用于为用户访问服务器11中的实例提供API(Application Programming Interface,应用程序接口)接口。
终端12可以是手机(mobile phone)、平板电脑(Pad)、带无线收发功能的电脑、虚拟现实(Virtual Reality,VR)终端设备或者上述前端设备,可以与服务器11进行有线数据传输或无线数据传输,其中安装有AI开发人员开发的AI应用,能够响应于用户对终端12中AI应用的操作,向服务器11发送消息。
下面结合上述图1示出的AI架构10,对本发明实施例提供的数据处理方法进行描述。
如图3所示,本实施例提供的数据处理方法包括S201-S203:
S201、服务器11接收终端12的请求数据消息。
其中,请求数据消息对应于终端12中的一个AI应用,请求数据消息包括待处理数据。
作为一种可能的实现方式,终端12响应于用户对终端12中AI应用的操作,生成待处理数据,并向服务器11发送请求数据消息。
需要说明的,用于对AI应用的操作,具体可以包括在终端12中输入内容或者上传内容。终端12在获取到用户输入的内容或上传的内容后,将获取到的内容进行处理,以得到待处理数据。请求数据消息中还可以包括AI应用的标识,以及终端12向服务器11发送请求数据消息的接口的标识。AI应用、AI应用标识以及终端12发送请求数据消息的接口标识,三者相互对应。
S202、服务器11将待处理数据输入到与AI应用对应的组合实例,得到目标数据。
其中,组合实例用于调用服务器11中的至少一个预设的基础实例,服务器中的不同基础示例具备的功能不同。
作为一种可能的实现方式,服务器11在接收到请求数据消息后,根据请求数据消息中AI应用的标识,将待处理数据输入到与AI应用对应的组合实例中。进而,服务器11可以利用组合实例,按照既定的先后顺序依次调用至少一个预设的基础实例中的每一个基础实例,直至得到最后一个基础实例的输出数据,作为目标数据。
作为另一种可能的实现方式,服务器11在接收到请求数据消息后,还可以根据接收请求数据消息的接口,将待处理数据输入到与AI应用对应的组合实例中。
需要说明的,服务器11接收消息的接口标识与终端12中发送上述AI应用的请求数据消息的接口标识对应。服务器11中一个组合实例对应有一个AI应用。服务器11中部署有多个预设的基础实例,每一个预设的基础实例具备的功能不同。每一个AI应用对应有不同的至少一个预设的基础实例。
示例性的,服务器11中与AI应用对应的接口标识可以为8080。每一个预设的基础实例具备一个单独的功能。
S203、服务器11向终端12发送目标数据。
作为一种可能的实现方式,服务器11通过与AI应用对应的接口,向终端12发送目标数据,以使得终端12根据接收目标数据的接口的标识,确定该AI应用并通过该AI应用向用户展示目标数据。
本发明实施例中,为了部署组合实例,结合图3,如图4所示,本发明实施例提供的数据处理方法,在S202之前,还包括S1-S5:
S1、服务器11获取m个预设的基础实例中数据流的输入输出关系以及m个预设的基础实例的调用顺序。
其中,m为大于或等于1的整数。
作为一种可能的实现方式,服务器11获取m个预设的基础模型中数据流的输入输出关系,并根据m个预设的基础模型中数据流的输入输出关系,确定m个预设的基础实例中数据流的输入输出关系。
需要说明的,m个预设的基础模型与一个AI应用对应,可以由开发人员在服务器的显示界面中显示的模型数据库中进行选择,进而,开发人员可以将m个预设的基础模型设置在服务器11的显示界面上显示的有向无环图中。
示例性的,服务器11中显示的有向无环图可以如图5所示。其中,连接线的箭头方向表示数据流的传输方向,以模型3为例,模型3输出的数据需要输入到模型4以及模型5中。以模型4为例,模型4中需要输入模型2以及模型3的输出数据。
在一种情况下,模型数据库中包含有开发人员开发的多个基础模型,同时还包括每一个基础模型的模型记录。模型记录包括模型的通用唯一识别码(universally uniqueidentifier)UUID,模型的名称、模型的作者、模型的类型、模型的元数据以及模型的地址。
需要说明的,模型数据库具体可以为dcoker仓库。模型的UUID用于唯一标识模型数据库中的模型,模型的UUID可以为一个32字符长度的字符串。模型的类型包括分类、预测、回归、识别、组合等类型。模型的元数据用于描述模型的输入输出接口等信息。模型的地址用于表示该模型在模型数据库中的RUL(uniform resource locator,统一资源定位符)地址。
示例性的,模型的类型为“组合”,则表明该模型为一个组合模型,而非一个可以独立运行的模型。
另一方面,服务器11在确定m个预设的基础实例的调用顺序之后,可以根据m个预设的基础实例的调用顺序,利用预设算法确定m个预设的基础模型的调用顺序,即可作为m个预设的基础实例的调用顺序。
需要说明的,预设算法可以为广度优先算法,也可以为深度优先算法。在采用预设算法确定多个基础实例的调用顺序的具体执行方法,可以参照现有技术,此处不再进行赘述。
示例性的,结合图5,图6示出了m个预设的基础模型的调用顺序,其中,虚线表示模型间的输入输出关系,实线标识模型之间的调用顺序。
S2、服务器11根据输入输出关系以及调用顺序,生成调用指令。
其中,调用指令用于指示对第i个预设的基础实例进行调用,并将第i个预设的基础实例的前一预设的基础实例输出的数据输入至第i个预设的基础实例,i∈[1,m]。
作为一种可能的实现方式,服务器11生成的调用指令,用于根据上述调用关系,确定需要调用的第i个预设的基础实例,并根据上述输入输出关系,在第i个基础实例中输入第i个基础实例需要处理的数据。
需要说明的,调用指令具体可以为包括第一预设函数的脚本程序。第一预设函数可以由开发人员预先在服务器中进行设置。
S3、服务器11确定寻址指令。
其中,寻址指令用于指示查询第i个预设的基础实例的URL地址。
作为一种可能的实现方式,服务器11生成的寻址指令,用于在基础模型部署成为基础实例之后,获取第i个预设的基础实例的URL地址,并根据该URL地址从服务器11的实例数据库中获取第i个预设的基础实例。
需要说明的,寻址指令具体可以为包括第二预设函数的脚本程序。第二预设函数可以由开发人员预先在服务器中进行设置。
在一种情况下,每一个基础实例的URL地址,可以在进行实例化部署的过程中,由服务器11随机生成。
在另一种情况下,每一个基础实例的URL地址,可以在进行实例化部署的过程中,由服务器11根据实例数据库的端口标识以及服务器的IP(internet protocol,网际互连协议)地址组合而成。
需要说明的,实例数据库中包括多个由基础模型进行实例化部署后的基础实例。
在一种情况下,实例数据库中还包括每一个实例对应的实例记录。实例记录中包括实例的UUID、实例所对应的模型的UUID以及实例的URL地址。
其中,实例的UUID用于唯一标识实例数据库中的实例,实例的UUID可以为一个32字符长度的字符串,实例的URL地址用于表示实例在服务器中输入数据的接口地址。
需要说明的,上述S1-S2以及S3,在具体实现时不分先后顺序,也可以同时执行。例如,可以先执行S3,再执行S1-S2。
S4、服务器11根据调用指令以及寻址指令,生成组合模型。
其中,组合模型包括调用指令以及寻址指令。
作为一种可能的实现方式,服务器根据调用指令、寻址指令,生成与AI应用对应的组合模型。
在一种情况下,服务器11在生成组合模型之后,将组合模型更新至模型数据库中,同时在在模型数据库中更新组合模型的模型记录。
需要说明的,组合模型可以被打包成为一个docker镜像,保存在服务器11中。
S5、服务器11将组合模型进行实例化,以生成组合实例。
作为一种可能的实现方式,服务器11响应于开发人员的操作,将组合模型进行实例化部署,并将部署得到的组合实例存储在实例数据库中。
在一种情况下,服务器11在生成组合实例之后,将组合实例更新至实例数据库中,同时在在实例数据库中更新组合实例的实例记录。
需要说明的,本发明实施例提供的数据处理方法中,组合模型可以与多个基础模型同时部署,也可以与多个基础模型分开部署,此处不做具体限定。
本发明实施例中,为了能够得到目标数据,结合图3,如图7所示,本发明实施例提供的S202,具体包括S2021-S2023:
S2021、服务器11获取m个预设的基础实例中第i个预设的基础实例的通用唯一识别码UUID。
作为一种可能的实现方式,服务器11将待处理数据发送至组合实例之后,可以利用组合实例中m个预设的组合实例中的调用关系,查询第i个基础实例的UUID。
需要说明的,第i个预设的基础实例为m个预设的基础实例中的任意一个,服务器11在调用m个预设的基础实例的时候,按照上述调用关系,依次调用第一个预设的基础实例至第m个预设的基础实例。
S2022、服务器11根据第i个预设的基础实例的UUID,从实例数据库中查询第i个预设的基础实例的URL地址。
其中,实例数据库中包括m个预设的基础实例的UUID以及m个预设的基础实例中各基础实例的URL地址。
S2023、服务器11根据第i个预设的基础实例的URL地址,将目标中间数据输入第i个预设的基础实例,以得到第i个预设的基础实例的输出数据。
其中,目标中间数据包括多个中间数据以及待处理数据中的一个或多个。多个中间数据中各中间数据为第p个预设的基础实例输出的数据。其中,p∈[1,i)。
作为一种可能的实现方式,对于第i个预设的基础实例,服务器11根据上述输入输出关系,确定目标中间数据并将目标中间数据输入到第i个预设的基础实例中,以得到第i个预设的基础实例的输出数据。
需要说明的,上述p个预设的基础实例为已经被服务器11调用过且有中间数据输出的基础实例。目标中间数据可以为一个预设的基础实例输出的数据,也可以为多个预设的基础实例输出的数据。按照上述调用顺序,第m个预设的基础实例的输出数据,即为目标数据。
本申请实施例中,在第i个预设的基础实例输入目标中间数据之前,为了确定目标中间数据,结合图7,如图8所示,本发明实施例提供的数据处理方法,在S2023之前,还包括S2024-S2027:
S2024、服务器11获取预设实例输出的预设数据。
其中,预设实例包括p个预设的基础实例以及组合实例中的任意一个实例,预设数据为多个中间数据以及待处理数据中的任意一个。
作为一种可能的实现方式,服务器11获取p个预设的基础实例中每一个预设的基础实例输出的数据以及组合实例输出的数据。
需要说明的,p个预设的基础实例输出的数据为上述多个中间数据,组合实例输出的数据为上述待处理数据。
S2025、服务器11建立预设数据与预设实例的UUID之间的对应关系,并将预设数据以及对应关系存储进数据缓存中。
作为一种可能的实现方式,服务器11在数据缓存中建立多条列表,每一条列表中包括一个实例输出的预设数据以及该实例的UUID。
需要说明的,数据缓存可以维护在服务器11的存储单元中。在服务器11的存储单元中,每一个AI应用对应有一个存储单元。
S2026、服务器11根据输入输出关系,确定目标基础实例的UUID。
其中,目标基础实例输出的数据为需要在第i个预设的基础实例输入的数据。
作为一种可能的实现方式,服务器11根据上述输入输出关系,从p个预设的基础实例的UUID中,确定目标基础实例的UUID。
需要说明的,对于第i个预设的基础实例,可以存在一个或多个目标基础实例。
S2027、服务器11根据目标基础实例的UUID,从数据缓存中查询目标中间数据。
作为一种可能的实现方式,服务器11在确定目标基础实例的UUID之后,从与AI应用对应的数据缓存中,获取需要在第i个预设的基础实例中输入的目标中间数据。
本发明的实施例提供的数据处理方法及服务器,用于提高AI应用的执行速度。本发明采用上述技术手段,在接收AI应用通过终端发送的待处理数据后,利用组合实例,在服务器内调用多个具有不同功能的基础实例依次对待处理数据进行处理,最后将多个基础实例中最后一个基础实例生成的目标数据发送至终端,以使得AI应用向用户展示目标数据,可以减少AI应用通过网络与服务器中不同的实例之间进行数据往返交互的过程,从而,能够提高AI应用的执行速度。
上述主要从方法的角度对本发明实施例提供的方案进行了介绍。为了实现上述功能,其包含了执行各个功能相应的硬件结构和/或软件模块。本领域技术人员应该很容易意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,本发明实施例能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
本发明实施例可以根据上述方法示例对服务器进行功能模块的划分,例如,可以对应各个功能划分各个功能模块,也可以将两个或两个以上的功能集成在一个处理模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。可选的,本发明实施例中对模块的划分是示意性的,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
图9为本发明实施例提供的一种服务器的结构示意图。如图9所示,服务器11包括接收单元111、处理单元112以及发送单元113。
接收单元111,用于接收终端的请求数据消息。其中,请求数据消息对应于终端中的一个人工智能AI应用,请求数据消息包括待处理数据。例如,接收单元111可以执行图3中的S201。
处理单元112,用于在接收单元111接收请求数据之后,将待处理数据输入到与AI应用对应的组合实例,得到目标数据。其中,组合实例用于调用服务器中的至少一个预设的基础实例,服务器中的不同基础示例具备的功能不同。例如,处理单元112可以用于执行图3中的S202。
发送单元113,用于在处理单元112得到目标数据之后,向终端发送目标数据。例如,发送单元113可以执行图3中的S203。
可选的,如图10所示,本发明实施例提供的服务器11还包括获取单元114、生成单元115以及确定单元116。
获取单元114,用于获取m个预设的基础实例中数据流的输入输出关系以及m个预设的基础实例的调用顺序。m为大于或等于1的整数。例如,结合图4,发送单元113可以用于执行S1。
生成单元115,用于根据输入输出关系以及调用顺序,生成调用指令。调用指令用于指示对第i个预设的基础实例进行调用,并将第i个预设的基础实例的前一预设的基础实例输出的数据输入至第i个预设的基础实例,i∈[1,m]。例如,结合图4,发送单元113可以用于执行S2。
确定单元116,用于确定寻址指令。寻址指令用于指示查询第i个预设的基础实例的统一资源定位符RUL地址。例如,结合图4,发送单元113可以用于执行S3。
生成单元115,还用于根据调用指令以及寻址指令,生成组合模型。其中,组合模型包括调用指令以及寻址指令。例如,结合图4,发送单元113可以用于执行S4。
生成单元115,还用于将组合模型进行实例化,以生成组合实例。例如,结合图4,发送单元113可以用于执行S5。
可选的,如图9所示,本发明实施例提供的处理单元112,具体用于获取m个预设的基础实例中第i个预设的基础实例的通用唯一识别码UUID。例如,结合图7,处理单元112可以用于执行S2021。
处理单元112,具体还用于根据第i个预设的基础实例的UUID,从实例数据库中查询第i个预设的基础实例的URL地址。其中,实例数据库中包括m个预设的基础实例的UUID以及m个预设的基础实例中各基础实例的URL地址。例如,结合图7,处理单元112可以用于执行S2022。
处理单元112,具体还用于根据第i个预设的基础实例的URL地址,将目标中间数据输入第i个预设的基础实例,以得到第i个预设的基础实例的输出数据。其中,目标中间数据包括多个中间数据以及待处理数据中的一个或多个。其中,多个中间数据中各中间数据为第p个基础实例输出的数据。其中,p∈[1,i)。例如,结合图7,处理单元112可以用于执行S2023。
可选的,如图9所示,本发明实施例提供的处理单元112,具体还用于获取预设实例输出的预设数据。其中,预设实例包括m个预设的基础实例以及组合实例中的任意一个实例,预设数据为多个中间数据以及待处理数据中的任意一个。例如,结合图8,处理单元112可以用于执行S2024。
处理单元112,具体还用于建立预设数据与预设实例的UUID之间的对应关系,并将预设数据以及对应关系存储进数据缓存中。例如,结合图8,处理单元112可以用于执行S2025。
处理单元112,具体还用于根据输入输出关系,确定目标基础实例的UUID。其中,目标基础实例输出的数据为需要在第i个预设的基础实例输入的数据。例如,结合图8,处理单元112可以用于执行S2026。
处理单元112,具体还用于根据目标基础实例的UUID,从数据缓存中查询目标中间数据。例如,结合图8,处理单元112可以用于执行S2027。
在采用硬件的形式实现上述集成的模块的功能的情况下,本发明实施例提供了上述实施例中所涉及的服务器的另外一种可能的结构示意图。如图11所示,一种服务器30,用于提高AI应用的执行速度,例如用于执行图3所示的数据处理方法。该服务器30包括处理器301,存储器302、通信接口303、总线304。处理器301,存储器302以及通信接口303之间可以通过总线304连接。
处理器301是通信装置的控制中心,可以是一个处理器,也可以是多个处理元件的统称。例如,处理器301可以是一个通用中央处理单元112(central processing unit,CPU),也可以是其他通用处理器等。其中,通用处理器可以是微处理器或者是任何常规的处理器等。
作为一种实施例,处理器301可以包括一个或多个CPU,例如图11中所示的CPU 0和CPU 1。
存储器302可以是只读存储器(read-only memory,ROM)或可存储静态信息和指令的其他类型的静态存储设备,随机存取存储器(random access memory,RAM)或者可存储信息和指令的其他类型的动态存储设备,也可以是电可擦可编程只读存储器(electricallyerasable programmable read-only memory,EEPROM)、磁盘存储介质或者其他磁存储设备、或者能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质,但不限于此。
作为一种可能的实现方式,存储器302可以独立于处理器301存在,存储器302可以通过总线304与处理器301相连接,用于存储指令或者程序代码。处理器301调用并执行存储器302中存储的指令或程序代码时,能够实现本发明实施例提供的数据处理方法。
另一种可能的实现方式中,存储器302也可以和处理器301集成在一起。
通信接口303,用于与其他设备通过通信网络连接。该通信网络可以是以太网,无线接入网,无线局域网(wireless local area networks,WLAN)等。通信接口303可以包括用于接收数据的接收单元,以及用于发送数据的发送单元。
总线304,可以是工业标准体系结构(Industry Standard Architecture,ISA)总线、外部设备互连(Peripheral Component Interconnect,PCI)总线或扩展工业标准体系结构(Extended Industry Standard Architecture,EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。为便于表示,图11中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
需要指出的是,图11示出的结构并不构成对该服务器30的限定。除图11所示部件之外,该服务器30可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
作为一个示例,结合图3,服务器中的接收单元111、处理单元112以及发送单元113实现的功能与图11中的处理器301的功能相同。
图12示出了本发明实施例中服务器的另一种硬件结构。如图12所示,服务器40可以包括处理器401以及通信接口402。处理器401与通信接口402耦合。
处理器401的功能可以参考上述处理器301的描述。此外,处理器401还具备存储功能,可以参考上述存储器302的功能。
通信接口402用于为处理器401提供数据。该通信接口402可以是通信装置的内部接口,也可以是通信装置对外的接口(相当于通信接口303)。
需要指出的是,图12中示出的结构并不构成对服务器40的限定,除图12所示部件之外,该服务器40可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
通过以上的实施方式的描述,所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,仅以上述各功能单元的划分进行举例说明。在实际应用中,可以根据需要而将上述功能分配由不同的功能单元完成,即将装置的内部结构划分成不同的功能单元,以完成以上描述的全部或者部分功能。上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
本发明实施例还提供一种计算机可读存储介质,计算机可读存储介质中存储有指令,当计算机执行该指令时,该计算机执行上述方法实施例所示的方法流程中的各个步骤。
本发明的实施例提供一种包含指令的计算机程序产品,当指令在计算机上运行时,使得计算机执行上述方法实施例中的数据处理方法。
其中,计算机可读存储介质,例如可以是但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘。随机存取存储器(Random Access Memory,RAM)、只读存储器(Read-Only Memory,ROM)、可擦式可编程只读存储器(Erasable Programmable Read Only Memory,EPROM)、寄存器、硬盘、光纤、便携式紧凑磁盘只读存储器(Compact Disc Read-Only Memory,CD-ROM)、光存储器件、磁存储器件、或者上述的人以合适的组合、或者本领域数值的任何其他形式的计算机可读存储介质。一种示例性的存储介质耦合至处理器,从而使处理器能够从该存储介质读取信息,且可向该存储介质写入信息。当然,存储介质也可以是处理器的组成部分。处理器和存储介质可以位于特定用途集成电路(Application Specific Integrated Circuit,ASIC)中。在本发明实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
由于本发明的实施例中的服务器、计算机可读存储介质、计算机程序产品可以应用于上述方法,因此,其所能获得的技术效果也可参考上述方法实施例,本发明实施例在此不再赘述。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何在本发明揭露的技术范围内的变化或替换,都应涵盖在本发明的保护范围之内。
Claims (10)
1.一种数据处理方法,其特征在于,应用于服务器,所述方法包括:
接收终端的请求数据消息;其中,所述请求数据消息对应于所述终端中的一个人工智能AI应用,所述请求数据消息包括待处理数据;
将所述待处理数据输入到与所述AI应用对应的组合实例,得到目标数据;其中,所述组合实例用于调用所述服务器中的至少一个预设的基础实例,服务器中的不同基础示例具备的功能不同;
向所述终端发送所述目标数据。
2.根据权利要求1所述的数据处理方法,其特征在于,在所述将所述待处理数据输入到与所述AI应用对应的组合实例,得到目标数据之前,所述方法还包括:
获取m个预设的基础实例中数据流的输入输出关系以及所述m个预设的基础实例的调用顺序;m为大于或等于1的整数;
根据所述输入输出关系以及所述调用顺序,生成调用指令;所述调用指令用于指示对第i个预设的基础实例进行调用,并将所述第i个预设的基础实例的前一预设的基础实例输出的数据输入至所述第i个预设的基础实例,i∈[1,m];
确定寻址指令;所述寻址指令用于指示查询所述第i个预设的基础实例的统一资源定位符RUL地址;
根据所述调用指令以及所述寻址指令,生成组合模型;其中,所述组合模型包括所述调用指令以及所述寻址指令;
将所述组合模型进行实例化,以生成所述组合实例。
3.根据权利要求2所述的数据处理方法,其特征在于,所述将所述待处理数据输入到与所述AI应用对应的组合实例,得到目标数据,具体包括:
获取所述m个预设的基础实例中第i个预设的基础实例的通用唯一识别码UUID;
根据所述第i个预设的基础实例的UUID,从实例数据库中查询所述第i个预设的基础实例的URL地址;其中,所述实例数据库中包括所述m个预设的基础实例的UUID以及所述m个预设的基础实例中各基础实例的URL地址;
根据所述第i个预设的基础实例的URL地址,将目标中间数据输入所述第i个预设的基础实例,以得到所述第i个预设的基础实例的输出数据;其中,所述目标中间数据包括多个中间数据以及所述待处理数据中的一个或多个;其中,所述多个中间数据中各中间数据为第p个基础实例输出的数据;其中,p∈[1,i)。
4.根据权利要求3所述的数据处理方法,其特征在于,在所述根据所述第i个预设的基础实例的URL地址,将目标中间数据输入所述第i个预设的基础实例之前,所述方法还包括:
获取预设实例输出的预设数据;其中,所述预设实例包括所述m个预设的基础实例以及所述组合实例中的任意一个实例,所述预设数据为所述多个中间数据以及所述待处理数据中的任意一个;
建立所述预设数据与所述预设实例的UUID之间的对应关系,并将所述预设数据以及所述对应关系存储进数据缓存中;
根据所述输入输出关系,确定目标基础实例的UUID;其中,所述目标基础实例输出的数据为需要在所述第i个预设的基础实例输入的数据;
根据所述目标基础实例的UUID,从所述数据缓存中查询所述目标中间数据。
5.一种服务器,其特征在于,包括接收单元、处理单元以及发送单元;
所述接收单元,用于接收终端的请求数据消息;其中,所述请求数据消息对应于所述终端中的一个人工智能AI应用,所述请求数据消息包括待处理数据;
所述处理单元,用于在所述接收单元接收所述请求数据之后,将所述待处理数据输入到与所述AI应用对应的组合实例,得到目标数据;其中,所述组合实例用于调用所述服务器中的至少一个预设的基础实例,服务器中的不同基础示例具备的功能不同;
所述发送单元,用于在所述处理单元得到所述目标数据之后,向所述终端发送所述目标数据。
6.根据权利要求5所述的服务器,其特征在于,所述服务器还包括获取单元、生成单元以及确定单元;
所述获取单元,用于获取m个预设的基础实例中数据流的输入输出关系以及所述m个预设的基础实例的调用顺序;m为大于或等于1的整数;
所述生成单元,用于根据所述输入输出关系以及所述调用顺序,生成调用指令;所述调用指令用于指示对第i个预设的基础实例进行调用,并将所述第i个预设的基础实例的前一预设的基础实例输出的数据输入至所述第i个预设的基础实例,i∈[1,m];
所述确定单元,用于确定寻址指令;所述寻址指令用于指示查询所述第i个预设的基础实例的统一资源定位符RUL地址;
所述生成单元,还用于根据所述调用指令以及所述寻址指令,生成组合模型;其中,所述组合模型包括所述调用指令以及所述寻址指令;
所述生成单元,还用于将所述组合模型进行实例化,以生成所述组合实例。
7.根据权利要求6所述的服务器,其特征在于,所述处理单元,具体用于获取所述m个预设的基础实例中第i个预设的基础实例的通用唯一识别码UUID;
所述处理单元,具体还用于根据所述第i个预设的基础实例的UUID,从实例数据库中查询所述第i个预设的基础实例的URL地址;其中,所述实例数据库中包括所述m个预设的基础实例的UUID以及所述m个预设的基础实例中各基础实例的URL地址;
所述处理单元,具体还用于根据所述第i个预设的基础实例的URL地址,将目标中间数据输入所述第i个预设的基础实例,以得到所述第i个预设的基础实例的输出数据;其中,所述目标中间数据包括多个中间数据以及所述待处理数据中的一个或多个;其中,所述多个中间数据中各中间数据为第p个基础实例输出的数据;其中,p∈[1,i)。
8.根据权利要求7所述的服务器,其特征在于,所述处理单元,具体还用于获取预设实例输出的预设数据;其中,所述预设实例包括所述m个预设的基础实例以及所述组合实例中的任意一个实例,所述预设数据为所述多个中间数据以及所述待处理数据中的任意一个;
所述处理单元,具体还用于建立所述预设数据与所述预设实例的UUID之间的对应关系,并将所述预设数据以及所述对应关系存储进数据缓存中;
所述处理单元,具体还用于根据所述输入输出关系,确定目标基础实例的UUID;其中,所述目标基础实例输出的数据为需要在所述第i个预设的基础实例输入的数据;
所述处理单元,具体还用于根据所述目标基础实例的UUID,从所述数据缓存中查询所述目标中间数据。
9.一种存储一个或多个程序的计算机可读存储介质,其特征在于,所述一个或多个程序包括指令,所述指令当被计算机执行时使所述计算机执行如权利要求1-4任一项所述的数据处理方法。
10.一种服务器,其特征在于,包括:处理器、存储器和通信接口;其中,所述通信接口用于所述服务器和其他设备或网络通信;所述存储器用于存储一个或多个程序,所述一个或多个程序包括计算机执行指令,当所述服务器运行时,处理器执行该存储器存储的所述计算机执行指令,以使所述服务器执行权利要求1至4中任一项所述的数据处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010663630.2A CN111858041B (zh) | 2020-07-10 | 2020-07-10 | 一种数据处理方法及服务器 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010663630.2A CN111858041B (zh) | 2020-07-10 | 2020-07-10 | 一种数据处理方法及服务器 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111858041A true CN111858041A (zh) | 2020-10-30 |
CN111858041B CN111858041B (zh) | 2023-06-30 |
Family
ID=72982884
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010663630.2A Active CN111858041B (zh) | 2020-07-10 | 2020-07-10 | 一种数据处理方法及服务器 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111858041B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113742039A (zh) * | 2021-07-22 | 2021-12-03 | 南方电网深圳数字电网研究院有限公司 | 数字电网前置调度系统、调度方法和计算机可读存储介质 |
CN114528069A (zh) * | 2022-01-27 | 2022-05-24 | 西安电子科技大学 | 在信息安全竞赛中提供有限监管上网服务的方法及设备 |
CN114968264A (zh) * | 2022-07-28 | 2022-08-30 | 新华三半导体技术有限公司 | 一种网络处理器交互系统、方法、电子设备及存储介质 |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103002034A (zh) * | 2012-12-03 | 2013-03-27 | 华中科技大学 | 一种基于云服务总线的应用QoS管理系统及其操作方法 |
JP2014219813A (ja) * | 2013-05-07 | 2014-11-20 | キヤノンマーケティングジャパン株式会社 | 情報処理装置、情報処理装置の制御方法、およびプログラム |
CN104769906A (zh) * | 2013-08-23 | 2015-07-08 | 华为技术有限公司 | 数据传输方法、用户设备和代理设备 |
US20150358263A1 (en) * | 2013-02-07 | 2015-12-10 | Orange | Communication between a web application instance connected to a connection server and a calling entity other than said connection server |
CN105612768A (zh) * | 2013-05-21 | 2016-05-25 | 康维达无线有限责任公司 | 轻量级iot信息模型 |
CN106020959A (zh) * | 2016-05-24 | 2016-10-12 | 郑州悉知信息科技股份有限公司 | 一种数据迁移方法和装置 |
CN106095938A (zh) * | 2016-06-12 | 2016-11-09 | 腾讯科技(深圳)有限公司 | 一种实例操作方法及其装置 |
CN106484500A (zh) * | 2015-08-26 | 2017-03-08 | 北京奇虎科技有限公司 | 一种应用运行方法和装置 |
US9813260B1 (en) * | 2013-01-18 | 2017-11-07 | Twitter, Inc. | In-message applications in a messaging platform |
CN107948271A (zh) * | 2017-11-17 | 2018-04-20 | 亚信科技(中国)有限公司 | 一种确定待推送消息的方法、服务器及计算节点 |
CN108132835A (zh) * | 2017-12-29 | 2018-06-08 | 五八有限公司 | 基于多进程的任务请求处理方法、装置和系统 |
CN111158909A (zh) * | 2019-12-27 | 2020-05-15 | 中国联合网络通信集团有限公司 | 集群资源分配处理方法、装置、设备及存储介质 |
-
2020
- 2020-07-10 CN CN202010663630.2A patent/CN111858041B/zh active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103002034A (zh) * | 2012-12-03 | 2013-03-27 | 华中科技大学 | 一种基于云服务总线的应用QoS管理系统及其操作方法 |
US9813260B1 (en) * | 2013-01-18 | 2017-11-07 | Twitter, Inc. | In-message applications in a messaging platform |
US20150358263A1 (en) * | 2013-02-07 | 2015-12-10 | Orange | Communication between a web application instance connected to a connection server and a calling entity other than said connection server |
JP2014219813A (ja) * | 2013-05-07 | 2014-11-20 | キヤノンマーケティングジャパン株式会社 | 情報処理装置、情報処理装置の制御方法、およびプログラム |
CN105612768A (zh) * | 2013-05-21 | 2016-05-25 | 康维达无线有限责任公司 | 轻量级iot信息模型 |
CN104769906A (zh) * | 2013-08-23 | 2015-07-08 | 华为技术有限公司 | 数据传输方法、用户设备和代理设备 |
CN106484500A (zh) * | 2015-08-26 | 2017-03-08 | 北京奇虎科技有限公司 | 一种应用运行方法和装置 |
CN106020959A (zh) * | 2016-05-24 | 2016-10-12 | 郑州悉知信息科技股份有限公司 | 一种数据迁移方法和装置 |
CN106095938A (zh) * | 2016-06-12 | 2016-11-09 | 腾讯科技(深圳)有限公司 | 一种实例操作方法及其装置 |
CN107948271A (zh) * | 2017-11-17 | 2018-04-20 | 亚信科技(中国)有限公司 | 一种确定待推送消息的方法、服务器及计算节点 |
CN108132835A (zh) * | 2017-12-29 | 2018-06-08 | 五八有限公司 | 基于多进程的任务请求处理方法、装置和系统 |
CN111158909A (zh) * | 2019-12-27 | 2020-05-15 | 中国联合网络通信集团有限公司 | 集群资源分配处理方法、装置、设备及存储介质 |
Non-Patent Citations (2)
Title |
---|
BRUNO GIGLIO 等: "A case study on the application of instance selection techniques for Genetic Fuzzy Rule-Based Classifiers", 《2012 IEEE INTERNATIONAL CONFERENCE ON FUZZY SYSTEMS》, pages 1 - 8 * |
陈志列 等: "基于SCI的应用程序调用方法的设计和实现", 《自动化应用》, pages 30 - 31 * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113742039A (zh) * | 2021-07-22 | 2021-12-03 | 南方电网深圳数字电网研究院有限公司 | 数字电网前置调度系统、调度方法和计算机可读存储介质 |
CN114528069A (zh) * | 2022-01-27 | 2022-05-24 | 西安电子科技大学 | 在信息安全竞赛中提供有限监管上网服务的方法及设备 |
CN114968264A (zh) * | 2022-07-28 | 2022-08-30 | 新华三半导体技术有限公司 | 一种网络处理器交互系统、方法、电子设备及存储介质 |
CN114968264B (zh) * | 2022-07-28 | 2022-10-25 | 新华三半导体技术有限公司 | 一种网络处理器交互系统、方法、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN111858041B (zh) | 2023-06-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111858041B (zh) | 一种数据处理方法及服务器 | |
CN104618155B (zh) | 一种虚拟机容错的方法、装置及系统 | |
CN112784989B (zh) | 推理系统、推理方法、电子设备及计算机存储介质 | |
CN111190591B (zh) | 界面展示方法、数据处理方法、装置、终端及服务器 | |
CN111461332A (zh) | 深度学习模型在线推理方法、装置、电子设备和存储介质 | |
CN110489126A (zh) | 编译任务的执行方法和装置、存储介质及电子装置 | |
CN113259359B (zh) | 一种边缘节点能力补充方法、系统、介质及电子终端 | |
CN111259037A (zh) | 一种基于规则配置的数据查询方法、装置、存储介质及终端 | |
CN113168332B (zh) | 数据处理方法、装置以及移动终端 | |
CN112036558A (zh) | 模型管理方法、电子设备和介质 | |
CN112231054A (zh) | 基于k8s集群的多模型推理服务部署方法及装置 | |
CN112243016B (zh) | 一种中间件平台、终端设备、5g人工智能云处理系统及处理方法 | |
CN116257438A (zh) | 接口测试用例的更新方法及相关设备 | |
CN112698930B (zh) | 一种获取服务器标识的方法、装置、设备及介质 | |
CN114327710A (zh) | 一种函数管理方法、管理装置、终端设备及可读存储介质 | |
CN111580883B (zh) | 应用程序启动方法、装置、计算机系统和介质 | |
CN109445960B (zh) | 应用的路由方法、装置及存储介质 | |
CN114726905B (zh) | 一种Tbox网络接入Android系统的方法、装置、设备及存储介质 | |
CA2224466C (en) | Transfer of basic knowledge to agents | |
CN110471717B (zh) | 一种数据处理方法和装置 | |
CN109669793B (zh) | 中间件进程内对象调用方法 | |
CN112631638A (zh) | 终端应用更新方法、装置、存储介质及电子设备 | |
CN106325928B (zh) | 一种应用于智能机器人的应用接入方法及智能机器人 | |
CN116719627B (zh) | 数据处理方法、装置、设备及存储介质 | |
CN114928556B (zh) | 接口服务的测试方法及相关设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |