CN117272347A - 一种端侧ai推理服务调用方法、装置、设备及存储介质 - Google Patents

Abstract

本发明公开了一种端侧AI推理服务调用方法、装置、设备及存储介质，用于解决现有技术存在的信息泄露、软件包被篡改、非法调用问题。包括：响应于预设的应用程序发送的AI推理服务请求，对AI推理服务请求进行合法性核验；当合法性核验通过时，对应用程序所在当前移动设备进行运行环境核验；当运行环境核验通过时，生成AI推理服务请求对应的目标模型请求凭证；向预设的AI模型中台发送目标模型请求凭证和应用程序的身份凭证信息，并接收AI模型中台响应目标模型请求凭证和身份凭证信息返回的加密模型包；解密加密模型包，得到目标AI模型；采用目标AI模型进行AI推理，得到期望数据，并将期望数据返回应用程序。

Description

一种端侧AI推理服务调用方法、装置、设备及存储介质

技术领域

本发明涉及服务调用技术领域，尤其涉及一种端侧AI推理服务调用方法、装置、设备及存储介质。

背景技术

为满足一些涉及隐私数据或弱网情况下移动终端设备实现计算机视觉相关功能，当前有一种在移动端部署推理框架以在移动端实现端侧AI计算机视觉的技术方案。同时为了充分发挥每个设备的性能，有的端侧AI推理引擎会根据不同的硬件性能、应用场景使用不同的AI模型。

然而，在端侧计算机视觉推理引擎动态加载模型的流程中，可能存在信息泄露、软件包被篡改、非法调用等问题。

发明内容

本发明提供了一种端侧AI推理服务调用方法、装置、设备及存储介质，用于解决在端侧计算机视觉推理引擎动态加载模型的流程中，可能存在信息泄露、软件包被篡改、非法调用的技术问题。

本发明提供了一种端侧AI推理服务调用方法，应用于端侧AI引擎，所述方法包括：

响应于预设的应用程序发送的AI推理服务请求，对所述AI推理服务请求进行合法性核验；

当所述合法性核验通过时，对所述应用程序所在当前移动设备进行运行环境核验；

当所述运行环境核验通过时，生成所述AI推理服务请求对应的目标模型请求凭证；

向预设的AI模型中台发送所述目标模型请求凭证和所述应用程序的身份凭证信息，并接收所述AI模型中台响应所述目标模型请求凭证和所述身份凭证信息返回的加密模型包；

解密所述加密模型包，得到目标AI模型；

采用所述目标AI模型进行AI推理，得到期望数据，并将所述期望数据返回所述应用程序。

可选地，所述当所述合法性核验通过时，对所述应用程序所在当前移动设备进行运行环境核验的步骤，包括：

当所述合法性核验通过时，采集所述应用程序所在的当前移动设备的运行环境信息；

对所述运行环境信息进行运行环境核验。

可选地，所述当所述运行环境核验通过时，生成所述AI推理服务请求对应的目标模型请求凭证的步骤，包括：

当所述运行环境核验通过时，获取运行环境核验信息；

获取所述当前移动设备的设备信息；

采用所述运行环境核验信息和所述设备信息生成目标模型请求凭证。

可选地，所述解密所述加密模型包，得到目标AI模型的步骤，包括：

向预设的安全模块发送所述加密模型包；所述安全模块用于对所述加密模型包进行解密，得到解密模型，并将所述解密模型保存在所述当前移动模型的预设安全区域中；还用于接收所述当前设备回传的所述解密模型的存储信息，采用所述存储信息生成安全调用凭证，并将所述安全调用凭证发送至所述端侧AI引擎；

采用所述安全调用凭证调用模型数据，生成目标AI模型。

本发明还提供了一种端侧AI推理服务调用装置，应用于端侧AI引擎，所述装置包括：

合法性核验模块，用于响应于预设的应用程序发送的AI推理服务请求，对所述AI推理服务请求进行合法性核验；

运行环境核验模块，用于当所述合法性核验通过时，对所述应用程序所在当前移动设备进行运行环境核验；

目标模型请求凭证生成模块，用于当所述运行环境核验通过时，生成所述AI推理服务请求对应的目标模型请求凭证；

加密模型包获取模块，用于向预设的AI模型中台发送所述目标模型请求凭证和所述应用程序的身份凭证信息，并接收所述AI模型中台响应所述目标模型请求凭证和所述身份凭证信息返回的加密模型包；

解密模块，用于解密所述加密模型包，得到目标AI模型；

返回模块，用于采用所述目标AI模型进行AI推理，得到期望数据，并将所述期望数据返回所述应用程序。

可选地，所述运行环境核验模块，包括：

运行环境信息采集子模块，用于当所述合法性核验通过时，采集所述应用程序所在的当前移动设备的运行环境信息；

运行环境核验子模块，用于对所述运行环境信息进行运行环境核验。

可选地，所述目标模型请求凭证生成模块，包括：

运行环境核验信息获取子模块，用于当所述运行环境核验通过时，获取运行环境核验信息；

设备信息获取子模块，用于获取所述当前移动设备的设备信息；

目标模型请求凭证生成子模块，用于采用所述运行环境核验信息和所述设备信息生成目标模型请求凭证。

可选地，所述解密模块，包括：

加密模型包发送子模块，用于向预设的安全模块发送所述加密模型包；所述安全模块用于对所述加密模型包进行解密，得到解密模型，并将所述解密模型保存在所述当前移动模型的预设安全区域中；还用于接收所述当前设备回传的所述解密模型的存储信息，采用所述存储信息生成安全调用凭证，并将所述安全调用凭证发送至所述端侧AI引擎；

目标AI模型生成子模块，用于采用所述安全调用凭证调用模型数据，生成目标AI模型。

本发明还提供了一种电子设备，所述设备包括处理器以及存储器：

所述存储器用于存储程序代码，并将所述程序代码传输给所述处理器；

所述处理器用于根据所述程序代码中的指令执行如上任一项所述的端侧AI推理服务调用方法。

本发明还提供了一种计算机可读存储介质，所述计算机可读存储介质用于存储程序代码，所述程序代码用于执行如上任一项所述的端侧AI推理服务调用方法。

从以上技术方案可以看出，本发明具有以下优点：本发明公开了一种端侧AI推理服务调用方法，应用于端侧AI引擎，包括：响应于预设的应用程序发送的AI推理服务请求，对AI推理服务请求进行合法性核验；当合法性核验通过时，对应用程序所在当前移动设备进行运行环境核验；当运行环境核验通过时，生成AI推理服务请求对应的目标模型请求凭证；向预设的AI模型中台发送目标模型请求凭证和应用程序的身份凭证信息，并接收AI模型中台响应目标模型请求凭证和身份凭证信息返回的加密模型包；解密加密模型包，得到目标AI模型；采用目标AI模型进行AI推理，得到期望数据，并将期望数据返回应用程序。从而提高了端侧计算机视觉推理引擎动态加载模型的流程中的安全性。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其它的附图。

图1为本发明实施例提供的一种端侧AI推理服务调用方法的步骤流程图；

图2为本发明另一实施例提供的一种端侧AI推理服务调用方法的步骤流程图；

图3为本发明实施例提供的一种端侧AI推理服务调用方法的流程图；

图4为本发明实施例提供的一种端侧AI推理服务调用装置的结构框图。

具体实施方式

本发明实施例提供了一种端侧AI推理服务调用方法、装置、设备及存储介质，用于解决在端侧计算机视觉推理引擎动态加载模型的流程中，可能存在信息泄露、软件包被篡改、非法调用的技术问题。

为使得本发明的发明目的、特征、优点能够更加的明显和易懂，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，下面所描述的实施例仅仅是本发明一部分实施例，而非全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。

请参阅图1，图1为本发明实施例提供的一种端侧AI推理服务调用方法的步骤流程图。

本发明提供的一种端侧AI推理服务调用方法，应用于端侧AI引擎，方法可以包括以下步骤：

步骤101，响应于预设的应用程序发送的AI推理服务请求，对AI推理服务请求进行合法性核验；

端侧AI：指的是通过移动端AI推理框架实现的在移动端完成AI推理，不接触云端算力，只依靠设备自身的算力实现的一种AI推理类型。

端侧AI引擎：是指在移动端上通过移动设备自身硬件算力实现对AI模型进行推理服务的模块。

当应用程序(APP)需要进行AI推理服务时，可以向端侧AI引擎发送包含原始数据与凭证的AI推理服务请求，以对AI推理服务请求进行合法性核验。

其中，原始数据可以包括但不限于图片、视频、音频等，以及用来进行合法性鉴权的一些应用ID、密钥等信息。合法性核验可以通过当前移动设备的安全模块进行。

步骤102，当合法性核验通过时，对应用程序所在当前移动设备进行运行环境核验；

当合法性核验通过时，可以对应用程序所在的当前移动设备进行运行环境核验。以判断当前移动设备的运行环境是否适合调用AI推理模型。

步骤103，当运行环境核验通过时，生成AI推理服务请求对应的目标模型请求凭证；

当运行环境核验通过时，可以生成AI推理服务请求对应的目标模型请求凭证；以通过目标模型请求凭证请求相应的目标模型。

步骤104，向预设的AI模型中台发送目标模型请求凭证和应用程序的身份凭证信息，并接收AI模型中台响应目标模型请求凭证和身份凭证信息返回的加密模型包；

AI模型中台：是指部署在云端用来存储各类型移动端设备(Android、iOS、HarmonyOS)，各类型推理框架(MNN、NCNN、TensorFlowLite、Paddlelite)适用的端侧AI模型的平台。

在生成目标模型请求凭证后，可以获取应用程序的身份凭证信息，然后向预设的AI模型中台发送目标模型凭证和应用程序的身份凭证信息，以从AI模型中台获取相应的加密模型包。

步骤105，解密加密模型包，得到目标AI模型；

在获取到加密模型包后，可以对其进行解密，以得到适用于该当前移动设备的AI推理服务请求对应的目标AI模型。以根据目标AI模型进行AI推理服务。

步骤106，采用目标AI模型进行AI推理，得到期望数据，并将期望数据返回应用程序。

端侧AI引擎在获取到目标AI模型后，可以采用目标AI模型对需要进行AI推理的数据(如图片、视频、音频等)进行AI推理，以得到期望数据，并将期望数据返回给应用程序进行展示。

本发明通过响应于预设的应用程序发送的AI推理服务请求，对AI推理服务请求进行合法性核验；当合法性核验通过时，对应用程序所在当前移动设备进行运行环境核验；当运行环境核验通过时，生成AI推理服务请求对应的目标模型请求凭证；向预设的AI模型中台发送目标模型请求凭证和应用程序的身份凭证信息，并接收AI模型中台响应目标模型请求凭证和身份凭证信息返回的加密模型包；解密加密模型包，得到目标AI模型；采用目标AI模型进行AI推理，得到期望数据，并将期望数据返回应用程序。从而提高了端侧计算机视觉推理引擎动态加载模型的流程中的安全性。

请参阅图2，图2为本发明另一实施例提供的一种端侧AI推理服务调用方法的步骤流程图。具体可以包括以下步骤：

步骤201，响应于预设的应用程序发送的AI推理服务请求，对AI推理服务请求进行合法性核验；

步骤201与步骤101相同，具体可以参考步骤101的描述，此处不再赘述。

步骤202，当合法性核验通过时，采集应用程序所在的当前移动设备的运行环境信息；

步骤203，对运行环境信息进行运行环境核验；

运行环境信息：包括但不限于当前设备的厂商、设备型号、CPU型号、是否有GPU、内存负载情况、GPU负载情况、是否ROOT、是否存在HOOK风险、运行堆栈中是否有风险清单软件等。

在本发明实施例中，当AI推理服务请求通过安全模块的合法性核验时，安全模块可以采集应用程序所在的当前移动设备的运行环境信息，并采用预设的运行环境风险量化标准进行运行环境核验。

其中，运行环境风险量化标准可以是根据行业标准以及公司业务场景制定的一套对于运行环境风险量化的团队标准。

步骤204，当运行环境核验通过时，生成AI推理服务请求对应的目标模型请求凭证；

当运行环境核验通过时，可以生成AI推理服务请求对应的目标模型请求凭证。

在一个示例中，当运行环境核验通过时，生成AI推理服务请求对应的目标模型请求凭证的步骤，可以包括以下子步骤：

S41，当运行环境核验通过时，获取运行环境核验信息；

S42，获取当前移动设备的设备信息；

S43，采用运行环境核验信息和设备信息生成目标模型请求凭证。

在具体实现中，当运行环境核验通过时，安全模块可以获取运行环境核验信息以及当前移动设备的设备信息，采用运行环境核验信息以及当前移动设备的设备信息生成相关模型的目标模型请求凭证返回给端侧AI引擎。

步骤205，向预设的AI模型中台发送目标模型请求凭证和应用程序的身份凭证信息，并接收AI模型中台响应目标模型请求凭证和身份凭证信息返回的加密模型包；

端侧AI引擎可以使用目标模型请求凭证以及应用程序的身份凭证信息，向AI模型中台请求对应的模型，AI模型中台针对该请求，向端侧AI引擎返回相应的加密模型包。

步骤206，解密加密模型包，得到目标AI模型；

端侧AI引擎在获取到加密模型包后，可以对其进行解密，以得到目标AI模型。

在一个示例中，解密加密模型包，得到目标AI模型的步骤，可以包括以下子步骤：

S61，向预设的安全模块发送加密模型包；安全模块用于对加密模型包进行解密，得到解密模型，并将解密模型保存在当前移动模型的预设安全区域中；还用于接收当前设备回传的解密模型的存储信息，采用存储信息生成安全调用凭证，并将安全调用凭证发送至端侧AI引擎；

S62，采用安全调用凭证调用模型数据，生成目标AI模型。

在具体实现中，端侧AI引擎可以向安全模块申请对加密模型包进行解密及安全存储，安全模块根据安全协议对模型进行解密并将解密后的解密模型在当前移动设备的特定区域进行安全存储。当前移动设备安全存储后，向安全模块回传存储信息；安全模块根据安全规则对存储信息进行加工生成可供当次调用的安全调用凭证。端侧AI引擎可以使用安全调用凭证调用可用于当次推理的模型数据生成目标AI模型。

其中，所采用的加解密方法可以是国密算法SM2、SM3、SM4等。

步骤207，采用目标AI模型进行AI推理，得到期望数据，并将期望数据返回应用程序。

在本发明实施例中，端侧AI可以采用目标AI模型以及应用程序传输的待处理数据进行AI推理后生成期望数据，并将期望数据返回给应用程序具体的调用功能模块，完成端侧AI服务。

本发明通过响应于预设的应用程序发送的AI推理服务请求，对AI推理服务请求进行合法性核验；当合法性核验通过时，对应用程序所在当前移动设备进行运行环境核验；当运行环境核验通过时，生成AI推理服务请求对应的目标模型请求凭证；向预设的AI模型中台发送目标模型请求凭证和应用程序的身份凭证信息，并接收AI模型中台响应目标模型请求凭证和身份凭证信息返回的加密模型包；解密加密模型包，得到目标AI模型；采用目标AI模型进行AI推理，得到期望数据，并将期望数据返回应用程序。从而提高了端侧计算机视觉推理引擎动态加载模型的流程中的安全性。

为便于理解，以下通过具体示例对本发明实施例进行说明：

请参阅图3，图3为本发明实施例提供的一种端侧AI推理服务调用方法的流程图。具体可以包括以下流程：

a1、APP向端侧AI引擎传入原始数据及凭证，请求AI推理服务；

a2、端侧AI引擎向安全模块申请对AI推理服务请求进行合法性核验；

a3、安全模块核验AI推理服务请求的合法性；

a4、安全模块采集移动设备的当前运行环境信息；

a5、安全模块校验移动设备当前运行环境是否安全；

a6、安全模块向端侧AI引擎返回核验结果并生成目标模型请求凭证；

a7、使用目标模型请求凭证以及APP身份凭证向AI模型中台请求对应的目标模型；

a8、AI模型中台向端侧AI引擎下发加密模型包；

a9、端侧AI引擎申请安全模块进行解密及存储；

a10、安全模块根据安全规则将模型在移动终端进行安全存储；

a11、移动终端向安全模块返回存储信息；

a12、安全模块根据安全规则生成模型的安全调用凭证并返回给端侧AI引擎；

a13、端侧AI引擎使用模型的安全调用凭证从移动设备获取可应用于当次推理的模型数据；

a14、移动设备向端侧AI引擎返回可应用于当次推理的模型数据；

a15、端侧AI引擎向APP返回推理结果信息。

请参阅图4，图4为本发明实施例提供的一种端侧AI推理服务调用装置的结构框图。

本发明实施例提供了一种端侧AI推理服务调用装置，应用于端侧AI引擎，装置包括：

合法性核验模块401，用于响应于预设的应用程序发送的AI推理服务请求，对AI推理服务请求进行合法性核验；

运行环境核验模块402，用于当合法性核验通过时，对应用程序所在当前移动设备进行运行环境核验；

目标模型请求凭证生成模块403，用于当运行环境核验通过时，生成AI推理服务请求对应的目标模型请求凭证；

加密模型包获取模块404，用于向预设的AI模型中台发送目标模型请求凭证和应用程序的身份凭证信息，并接收AI模型中台响应目标模型请求凭证和身份凭证信息返回的加密模型包；

解密模块405，用于解密加密模型包，得到目标AI模型；

返回模块406，用于采用目标AI模型进行AI推理，得到期望数据，并将期望数据返回应用程序。

在本发明实施例中，运行环境核验模块402，包括：

运行环境信息采集子模块，用于当合法性核验通过时，采集应用程序所在的当前移动设备的运行环境信息；

运行环境核验子模块，用于对运行环境信息进行运行环境核验。

在本发明实施例中，目标模型请求凭证生成模块403，包括：

运行环境核验信息获取子模块，用于当运行环境核验通过时，获取运行环境核验信息；

设备信息获取子模块，用于获取当前移动设备的设备信息；

目标模型请求凭证生成子模块，用于采用运行环境核验信息和设备信息生成目标模型请求凭证。

在本发明实施例中，解密模块405，包括：

加密模型包发送子模块，用于向预设的安全模块发送加密模型包；安全模块用于对加密模型包进行解密，得到解密模型，并将解密模型保存在当前移动模型的预设安全区域中；还用于接收当前设备回传的解密模型的存储信息，采用存储信息生成安全调用凭证，并将安全调用凭证发送至端侧AI引擎；

目标AI模型生成子模块，用于采用安全调用凭证调用模型数据，生成目标AI模型。

本发明实施例还提供了一种电子设备，设备包括处理器以及存储器：

存储器用于存储程序代码，并将程序代码传输给处理器；

处理器用于根据程序代码中的指令执行本发明实施例的端侧AI推理服务调用方法。

本发明实施例还提供了一种计算机可读存储介质，其特征在于，计算机可读存储介质用于存储程序代码，程序代码用于执行本发明实施例的端侧AI推理服务调用方法。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统，装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

本说明书中的各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似的部分互相参见即可。

本领域内的技术人员应明白，本发明实施例的实施例可提供为方法、装置、或计算机程序产品。因此，本发明实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本发明实施例是参照根据本发明实施例的方法、终端设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理终端设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理终端设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理终端设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理终端设备上，使得在计算机或其他可编程终端设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程终端设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

尽管已描述了本发明实施例的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例做出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本发明实施例范围的所有变更和修改。

最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。

以上所述，以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (10)

1.一种端侧AI推理服务调用方法，其特征在于，应用于端侧AI引擎，所述方法包括：

响应于预设的应用程序发送的AI推理服务请求，对所述AI推理服务请求进行合法性核验；

当所述合法性核验通过时，对所述应用程序所在当前移动设备进行运行环境核验；

当所述运行环境核验通过时，生成所述AI推理服务请求对应的目标模型请求凭证；

向预设的AI模型中台发送所述目标模型请求凭证和所述应用程序的身份凭证信息，并接收所述AI模型中台响应所述目标模型请求凭证和所述身份凭证信息返回的加密模型包；

解密所述加密模型包，得到目标AI模型；

采用所述目标AI模型进行AI推理，得到期望数据，并将所述期望数据返回所述应用程序。

2.根据权利要求1所述的方法，其特征在于，所述当所述合法性核验通过时，对所述应用程序所在当前移动设备进行运行环境核验的步骤，包括：

当所述合法性核验通过时，采集所述应用程序所在的当前移动设备的运行环境信息；

对所述运行环境信息进行运行环境核验。

3.根据权利要求1所述的方法，其特征在于，所述当所述运行环境核验通过时，生成所述AI推理服务请求对应的目标模型请求凭证的步骤，包括：

当所述运行环境核验通过时，获取运行环境核验信息；

获取所述当前移动设备的设备信息；

采用所述运行环境核验信息和所述设备信息生成目标模型请求凭证。

4.根据权利要求1所述的方法，其特征在于，所述解密所述加密模型包，得到目标AI模型的步骤，包括：

向预设的安全模块发送所述加密模型包；所述安全模块用于对所述加密模型包进行解密，得到解密模型，并将所述解密模型保存在所述当前移动模型的预设安全区域中；还用于接收所述当前设备回传的所述解密模型的存储信息，采用所述存储信息生成安全调用凭证，并将所述安全调用凭证发送至所述端侧AI引擎；

采用所述安全调用凭证调用模型数据，生成目标AI模型。

5.一种端侧AI推理服务调用装置，其特征在于，应用于端侧AI引擎，所述装置包括：

合法性核验模块，用于响应于预设的应用程序发送的AI推理服务请求，对所述AI推理服务请求进行合法性核验；

运行环境核验模块，用于当所述合法性核验通过时，对所述应用程序所在当前移动设备进行运行环境核验；

目标模型请求凭证生成模块，用于当所述运行环境核验通过时，生成所述AI推理服务请求对应的目标模型请求凭证；

加密模型包获取模块，用于向预设的AI模型中台发送所述目标模型请求凭证和所述应用程序的身份凭证信息，并接收所述AI模型中台响应所述目标模型请求凭证和所述身份凭证信息返回的加密模型包；

解密模块，用于解密所述加密模型包，得到目标AI模型；

返回模块，用于采用所述目标AI模型进行AI推理，得到期望数据，并将所述期望数据返回所述应用程序。

6.根据权利要求5所述的装置，其特征在于，所述运行环境核验模块，包括：

运行环境信息采集子模块，用于当所述合法性核验通过时，采集所述应用程序所在的当前移动设备的运行环境信息；

运行环境核验子模块，用于对所述运行环境信息进行运行环境核验。

7.根据权利要求5所述的装置，其特征在于，所述目标模型请求凭证生成模块，包括：

运行环境核验信息获取子模块，用于当所述运行环境核验通过时，获取运行环境核验信息；

设备信息获取子模块，用于获取所述当前移动设备的设备信息；

目标模型请求凭证生成子模块，用于采用所述运行环境核验信息和所述设备信息生成目标模型请求凭证。

8.根据权利要求5所述的装置，其特征在于，所述解密模块，包括：

加密模型包发送子模块，用于向预设的安全模块发送所述加密模型包；所述安全模块用于对所述加密模型包进行解密，得到解密模型，并将所述解密模型保存在所述当前移动模型的预设安全区域中；还用于接收所述当前设备回传的所述解密模型的存储信息，采用所述存储信息生成安全调用凭证，并将所述安全调用凭证发送至所述端侧AI引擎；

目标AI模型生成子模块，用于采用所述安全调用凭证调用模型数据，生成目标AI模型。

9.一种电子设备，其特征在于，所述设备包括处理器以及存储器：

所述存储器用于存储程序代码，并将所述程序代码传输给所述处理器；

所述处理器用于根据所述程序代码中的指令执行权利要求1-4任一项所述的端侧AI推理服务调用方法。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质用于存储程序代码，所述程序代码用于执行权利要求1-4任一项所述的端侧AI推理服务调用方法。