CN113052305A - 神经网络模型的运行方法、电子设备和存储介质 - Google Patents
神经网络模型的运行方法、电子设备和存储介质 Download PDFInfo
- Publication number
- CN113052305A CN113052305A CN202110191285.1A CN202110191285A CN113052305A CN 113052305 A CN113052305 A CN 113052305A CN 202110191285 A CN202110191285 A CN 202110191285A CN 113052305 A CN113052305 A CN 113052305A
- Authority
- CN
- China
- Prior art keywords
- operator
- neural network
- network model
- model
- determined
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/602—Providing cryptographic facilities or services
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2221/00—Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F2221/21—Indexing scheme relating to G06F21/00 and subgroups addressing additional information or applications relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F2221/2107—File encryption
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Software Systems (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Neurology (AREA)
- Bioethics (AREA)
- Computer Hardware Design (AREA)
- Computer Security & Cryptography (AREA)
- Storage Device Security (AREA)
Abstract
本申请提出了一种神经网络模型的运行方法、电子设备和存储介质,涉及人工智能技术领域。其中,上述神经网络模型的运行方法包括:首先,获取第一神经网络模型,第一神经网络模型的至少一个模型算子为待确定算子。以及,获取第一神经网络模型的算子映射数据,算子映射数据包括待确定算子与原始模型算子的映射关系。然后,根据映射关系,获取第一神经网络模型的各个待确定算子的原始模型算子。最后,将第一神经网络模型的各个待确定算子替换为对应的原始模型算子并运行第一神经网络模型。从而以实现对神经网络模型的保护,防止神经网络模型被非法获取和攻击。
Description
【技术领域】
本申请涉及人工智能技术领域,尤其涉及一种神经网络模型的运行方法、电子设备和存储介质。
【背景技术】
神经网络模型是模拟生物神经网络进行信息处理的一种数学模型,在机器学习和认知科学领域已经有了广泛的应用,是各类应用场景中最核心的资产。由于神经网络模型交付运行前需要部署在Flash等持久存储介质上,因此面临着被非法获取、攻击的风险。
目前,为防止神经网络模型被非法获取和攻击,常用的方法是:在设备出厂前,把神经网络模型预置在设备的可信执行环境(Trusted Execution Environment,TEE)中。当神经网络模型运行时,也需要在TEE环境中运行。但是在设备出厂之后,此方法难以支持后续的模型升级,实用性不高。并且,此方法难以支持用户根据自身需要从公开应用市场安装使用新的神经网络模型,用户体验较差。
【发明内容】
本申请实施例提供了一种神经网络模型的运行方法、电子设备和存储介质,以实现对神经网络模型的保护,防止神经网络模型被非法获取和攻击。
第一方面,本申请实施例提供一种神经网络模型的运行方法,所述方法包括:获取第一神经网络模型,所述第一神经网络模型的至少一个模型算子为待确定算子;获取所述第一神经网络模型的算子映射数据,所述算子映射数据包括所述待确定算子与原始模型算子的映射关系;根据所述映射关系,获取所述第一神经网络模型的各个待确定算子的原始模型算子;将所述第一神经网络模型的各个待确定算子替换为对应的原始模型算子并运行所述第一神经网络模型。
其中一种可能的实现方式中,获取所述第一神经网络模型的算子映射数据,包括:根据所述第一神经网络模型的信息,从本地存储区或者云端存储区获取所述第一神经网络模型的算子映射数据。
其中一种可能的实现方式中,从本地存储区或者云端存储区获取所述第一神经网络模型的算子映射数据,包括:从本地存储区或者云端存储区获取所述第一神经网络模型的算子映射数据的加密文件;根据预设的解密规则对所述加密文件进行解密,得到所述第一神经网络模型的算子映射数据。
其中一种可能的实现方式中,将所述第一神经网络模型的各个待确定算子替换为对应的原始模型算子之后,所述方法还包括:删除获取到的所述算子映射数据。
其中一种可能的实现方式中,运行所述第一神经网络模型,包括:在随机存储区运行包含所述原始模型算子的第一神经网络模型。
其中一种可能的实现方式中,在随机存储区运行包含所述原始模型算子的第一神经网络模型之后,所述方法还包括:删除所述随机存储区中包含所述原始模型算子的第一神经网络模型。
第二方面,本申请实施例提供一种神经网络模型的运行装置,所述装置包括:第一获取模块,用于获取第一神经网络模型,所述第一神经网络模型的至少一个模型算子为待确定算子;第二获取模块,用于获取所述第一神经网络模型的算子映射数据,所述算子映射数据包括所述待确定算子与原始模型算子的映射关系;确定模块,用于根据所述映射关系,获取所述第一神经网络模型的各个待确定算子的原始模型算子;执行模块,用于将所述第一神经网络模型的各个待确定算子替换为对应的原始模型算子并运行所述第一神经网络模型。
第三方面,本申请实施例提供一种电子设备,包括:至少一个处理器;以及与所述处理器通信连接的至少一个存储器,其中:所述存储器存储有可被所述处理器执行的程序指令,所述处理器调用所述程序指令能够执行如第一方面所述的方法。
第四方面,本申请实施例提供一种计算机可读存储介质,所述计算机可读存储介质存储计算机指令,所述计算机指令使所述计算机执行如第一方面所述的方法。
以上技术方案中,首先,获取第一神经网络模型,第一神经网络模型的至少一个模型算子为待确定算子。以及,获取第一神经网络模型的算子映射数据,算子映射数据包括待确定算子与原始模型算子的映射关系。然后,根据映射关系,获取第一神经网络模型的各个待确定算子的原始模型算子。最后,将第一神经网络模型的各个待确定算子替换为对应的原始模型算子并运行第一神经网络模型。从而以实现对神经网络模型的保护,防止神经网络模型被非法获取和攻击。
【附图说明】
为了更清楚地说明本申请实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图。
图1为本申请实施例提供的一种神经网络模型的运行方法的流程图;
图2为本申请实施例提供的一种神经网络模型的运行方法的结构示意图;
图3为本申请实施例提供的另一种神经网络模型的运行方法的结构示意图;
图4为本申请实施例提供的一种神经网络模型的运行装置的结构示意图;
图5为本申请实施例提供的一种电子设备的示意图。
【具体实施方式】
为了更好的理解本申请的技术方案,下面结合附图对本申请实施例进行详细描述。
应当明确,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例,都属于本申请保护的范围。
在本申请实施例中使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本申请。在本申请实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。
图1为本申请实施例提供的一种神经网络模型的运行方法的流程图。如图1所示,上述神经网络模型的运行方法可以包括:
步骤101,获取第一神经网络模型。
本申请实施例中,第一神经网络模型可部署在终端设备的本地存储区。具体的,可部署在Flash等持久存储介质上。
进一步的,为防止神经网络模型被非法获取,上述部署在本地存储区的第一神经网络模型是对完整的第一神经网络模型中的至少一个模型算子进行变更之后得到的。如图2所示,完整的第一神经网络模型01中可包括模型算子1、模型算子2……模型算子N,将其中的至少一个模型算子变更为待确定算子之后,可得到第一神经网络模型02。第一神经网络模型02可包括待确定算子1、待确定算子2……待确定算子N。
本申请实施例中,完整的第一神经网络模型01中的原始模型算子与变更之后的待确定算子的映射关系可以生成为算子映射数据,并以代码或配置文件等形式保存。具体的,算子映射数据可与第一神经网络模型02分别部署在不同的存储区域。
对于待确定算子,一种可能的实现方式中,待确定算子可以是算子的部分参数为空或算子的部分参数为错误参数。另一种可能的实现方式中,待确定算子可以是算子的全部参数为空或算子的全部参数为错误参数。
基于上述说明可知,由于部署在本地存储区的第一神经网络模型并非完整的神经网络模型,因此,即使被非法获取,也不会造成神经网络模型泄露。
当需要运行时,可在神经网络模型的准备阶段,如模型解析、模型切割或模型编译等阶段,从本地存储区中读取第一神经网络模型。
步骤102,获取第一神经网络模型的算子映射数据。
本申请实施例中,为得到完整的神经网络模型,需对上述步骤101中读取到的第一神经网络模型中的待确定算子进行确定。
具体的,可根据第一神经网络模型的信息,获取第一神经网络模型的算子映射数据。
一种可能的实现方式中,第一神经网络模型的算子映射数据存储在本地存储区。具体的,第一神经网络模型的算子映射数据可与第一神经网络模型存储在本地相同存储介质的不同存储区域。此种实现方式中,可根据第一神经网络模型的信息,如第一神经网络模型的预设标签信息,从本地获取与第一神经网络模型的预设标签信息相关联的算子映射数据的加密文件。通过预设的解密规则对算子映射数据的加密文件进行解密,得到第一神经网络模型的算子映射数据。其中,算子映射数据的加密例如可以是:将算子映射数据存储为不可直接识别的形式,如二进制形式。或者,为算子映射数据的数据文件设置密钥。
另一种可能的实现方式中,第一神经网络模型的算子映射数据存储在云端存储区。此种实现方式中,存储在云端的算子映射数据可以是经过加密的,还可以是未经加密的。当算子映射数据未经加密时,可根据第一神经网络模型的信息,直接从云端获取第一神经网络模型相关联的算子映射数据。
步骤103,根据映射关系,获取第一神经网络模型的各个待确定算子的原始模型算子。
本申请实施例中,获取到第一神经网络模型对应的算子映射数据之后,可根据其中包含的待确定算子与原始模型算子的映射关系,分别获取第一神经网络模型的各个待确定算子对应的原始模型算子。
步骤104,将第一神经网络模型的各个待确定算子替换为对应的原始模型算子并运行第一神经网络模型。
本申请实施例中,如图3所示,可根据从算子映射数据中获取到的原始模型算子,将第一神经网络模型02中的待确定算子1、待确定算子2……待确定算子N分别替换为对应的模型算子1、模型算子2……模型算子N,进而,可得到完整的第一神经网络模型01。此时,为防止算子映射数据泄露,可立即删除上述步骤102中从本地存储区或云端存储区获取到的算子映射数据。
得到完整的第一神经网络模型之后,可在本地的随机存取存储器(Random AccessMemory,RAM)中运行该第一神经网络模型。
本申请实施例中,运行结束之后,可自动删除RAM中包含原始模型算子的完整第一神经网络模型。从而可使得完整的第一神经网络模型仅在运行阶段临时存在于RAM中,防止完整的第一神经网络模型被非法获取。
本申请实施例中,运行第一神经网络模型时,首先,可获取至少一个模型算子为待确定算子的第一神经网络模型。以及,获取第一神经网络模型的算子映射数据,算子映射数据包括待确定算子与原始模型算子的映射关系。然后,可根据映射关系,获取第一神经网络模型的各个待确定算子的原始模型算子。最后,可将第一神经网络模型的各个待确定算子替换为对应的原始模型算子并运行第一神经网络模型。从而可使完整的第一神经网络模型仅在运行阶段临时存在,以实现对神经网络模型的保护,防止神经网络模型被非法获取和攻击。
图4为本申请实施例提供的一种神经网络模型的运行装置的结构示意图。如图4所示,本申请实施例提供的神经网络模型的运行装置可以包括:第一获取模块21、第二获取模块22、确定模块23和执行模块24。
第一获取模块21,用于获取第一神经网络模型,第一神经网络模型的至少一个模型算子为待确定算子。
第二获取模块22,用于获取第一神经网络模型的算子映射数据,算子映射数据包括待确定算子与原始模型算子的映射关系。
确定模块23,用于根据映射关系,获取第一神经网络模型的各个待确定算子的原始模型算子。
执行模块24,用于将第一神经网络模型的各个待确定算子替换为对应的原始模型算子并运行第一神经网络模型。
在具体的实现过程中,第二获取模型22在用于获取第一神经网络模型的算子映射数据时,具体用于:根据第一神经网络模型的信息,从本地存储区或者云端存储区获取第一神经网络模型的算子映射数据。在从本地存储区或者云端存储区获取第一神经网络模型的算子映射数据时,具体用于,从本地存储区或者云端存储区获取第一神经网络模型的算子映射数据的加密文件;根据预设的解密规则对加密文件进行解密,得到第一神经网络模型的算子映射数据。
执行模块24用于将第一神经网络模型的各个待确定算子替换为对应的原始模型算子之后,还用于删除获取到的算子映射数据。
执行模块24用于运行第一神经网络模型时,具体用于:在随机存储区运行包含原始模型算子的第一神经网络模型。
执行模块24用于在随机存储区运行包含原始模型算子的第一神经网络模型之后,还用于删除随机存储区中包含原始模型算子的第一神经网络模型。
本申请实施例中,首先,第一获取模块21获取第一神经网络模型,第一神经网络模型的至少一个模型算子为待确定算子。以及,第二获取模块22获取第一神经网络模型的算子映射数据,算子映射数据包括待确定算子与原始模型算子的映射关系。然后,确定模块23根据映射关系,获取第一神经网络模型的各个待确定算子的原始模型算子。最后,执行模块24将第一神经网络模型的各个待确定算子替换为对应的原始模型算子并运行第一神经网络模型。从而以实现对神经网络模型的保护,防止神经网络模型被非法获取和攻击。
图5为本申请实施例提供的一种电子设备的示意图,如图5所示,上述电子设备可以包括至少一个处理器;以及与上述处理器通信连接的至少一个存储器,其中:存储器存储有可被处理器执行的程序指令,上述处理器调用上述程序指令能够执行本申请实施例提供的神经网络模型的运行方法。
其中,上述电子设备可以为神经网络模型的运行设备,本实施例对上述电子设备的具体形态不作限定。
图5示出了适于用来实现本申请实施方式的示例性电子设备的框图。图5显示的电子设备仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图5所示,电子设备以通用计算设备的形式表现。电子设备的组件可以包括但不限于:一个或者多个处理器410,存储器430,通信接口420,连接不同系统组件(包括存储器430和处理器410)的通信总线440。
通信总线440表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(Industry StandardArchitecture;以下简称:ISA)总线,微通道体系结构(Micro Channel Architecture;以下简称:MAC)总线,增强型ISA总线、视频电子标准协会(Video Electronics StandardsAssociation;以下简称:VESA)局域总线以及外围组件互连(Peripheral ComponentInterconnection;以下简称:PCI)总线。
电子设备典型地包括多种计算机系统可读介质。这些介质可以是任何能够被电子设备访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
存储器430可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(Random Access Memory;以下简称:RAM)和/或高速缓存存储器。电子设备可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。尽管图5中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如:光盘只读存储器(Compact Disc Read Only Memory;以下简称:CD-ROM)、数字多功能只读光盘(Digital Video Disc Read Only Memory;以下简称:DVD-ROM)或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与通信总线440相连。存储器430可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本申请各实施例的功能。
具有一组(至少一个)程序模块的程序/实用工具,可以存储在存储器430中,这样的程序模块包括——但不限于——操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块通常执行本申请所描述的实施例中的功能和/或方法。
电子设备也可以与一个或多个外部设备(例如键盘、指向设备、显示器等)通信,还可与一个或者多个使得用户能与该电子设备交互的设备通信,和/或与使得该电子设备能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过通信接口420进行。并且,电子设备还可以通过网络适配器(图5中未示出)与一个或者多个网络(例如局域网(Local Area Network;以下简称:LAN),广域网(Wide AreaNetwork;以下简称:WAN)和/或公共网络,例如因特网)通信,上述网络适配器可以通过通信总线440与电子设备的其它模块通信。应当明白,尽管图5中未示出,可以结合电子设备使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、磁盘阵列(Redundant Arrays of Independent Drives;以下简称:RAID)系统、磁带驱动器以及数据备份存储系统等。
处理器410通过运行存储在存储器430中的程序,从而执行各种功能应用以及数据处理,例如实现本申请实施例提供的神经网络模型的运行方法。
本申请实施例还提供一种计算机可读存储介质,上述计算机可读存储介质存储计算机指令,上述计算机指令使上述计算机执行本申请实施例提供的神经网络模型的运行方法。
上述计算机可读存储介质可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ReadOnly Memory;以下简称:ROM)、可擦式可编程只读存储器(Erasable Programmable ReadOnly Memory;以下简称:EPROM)或闪存、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括——但不限于——电磁信号、光信号或上述的任意合适的组合。
计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于——无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本申请操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LocalArea Network;以下简称:LAN)或广域网(Wide Area Network;以下简称:WAN)连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本申请的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本申请的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本申请的实施例所属技术领域的技术人员所理解。
需要说明的是,本申请实施例中所涉及的终端可以包括但不限于个人计算机(Personal Computer;以下简称:PC)、个人数字助理(Personal Digital Assistant;以下简称:PDA)、无线手持设备、平板电脑(Tablet Computer)、手机、MP3播放器、MP4播放器等。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
以上所述仅为本申请的较佳实施例而已,并不用以限制本申请,凡在本申请的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本申请保护的范围之内。
Claims (9)
1.一种神经网络模型的运行方法,其特征在于,包括:
获取第一神经网络模型,所述第一神经网络模型的至少一个模型算子为待确定算子;
获取所述第一神经网络模型的算子映射数据,所述算子映射数据包括所述待确定算子与原始模型算子的映射关系;
根据所述映射关系,获取所述第一神经网络模型的各个待确定算子的原始模型算子;
将所述第一神经网络模型的各个待确定算子替换为对应的原始模型算子并运行所述第一神经网络模型。
2.根据权利要求1所述的方法,其特征在于,获取所述第一神经网络模型的算子映射数据,包括:
根据所述第一神经网络模型的信息,从本地存储区或者云端存储区获取所述第一神经网络模型的算子映射数据。
3.根据权利要求2所述的方法,其特征在于,从本地存储区或者云端存储区获取所述第一神经网络模型的算子映射数据,包括:
从本地存储区或者云端存储区获取所述第一神经网络模型的算子映射数据的加密文件;
根据预设的解密规则对所述加密文件进行解密,得到所述第一神经网络模型的算子映射数据。
4.根据权利要求3所述的方法,其特征在于,将所述第一神经网络模型的各个待确定算子替换为对应的原始模型算子之后,所述方法还包括:
删除获取到的所述算子映射数据。
5.根据权利要求4所述的方法,其特征在于,运行所述第一神经网络模型,包括:
在随机存储区运行包含所述原始模型算子的第一神经网络模型。
6.根据权利要求5所述的方法,其特征在于,在随机存储区运行包含所述原始模型算子的第一神经网络模型之后,所述方法还包括:
删除所述随机存储区中包含所述原始模型算子的第一神经网络模型。
7.一种神经网络模型的运行装置,其特征在于,包括:
第一获取模块,用于获取第一神经网络模型,所述第一神经网络模型的至少一个模型算子为待确定算子;
第二获取模块,用于获取所述第一神经网络模型的算子映射数据,所述算子映射数据包括所述待确定算子与原始模型算子的映射关系;
确定模块,用于根据所述映射关系,获取所述第一神经网络模型的各个待确定算子的原始模型算子;
执行模块,用于将所述第一神经网络模型的各个待确定算子替换为对应的原始模型算子并运行所述第一神经网络模型。
8.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述处理器通信连接的至少一个存储器,其中:
所述存储器存储有可被所述处理器执行的程序指令,所述处理器调用所述程序指令能够执行如权利要求1至6任一所述的方法。
9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储计算机指令,所述计算机指令使所述计算机执行如权利要求1至6任一所述的方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110191285.1A CN113052305B (zh) | 2021-02-19 | 2021-02-19 | 神经网络模型的运行方法、电子设备和存储介质 |
PCT/CN2022/074946 WO2022174737A1 (zh) | 2021-02-19 | 2022-01-29 | 神经网络模型的运行方法、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110191285.1A CN113052305B (zh) | 2021-02-19 | 2021-02-19 | 神经网络模型的运行方法、电子设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113052305A true CN113052305A (zh) | 2021-06-29 |
CN113052305B CN113052305B (zh) | 2022-10-21 |
Family
ID=76509220
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110191285.1A Active CN113052305B (zh) | 2021-02-19 | 2021-02-19 | 神经网络模型的运行方法、电子设备和存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN113052305B (zh) |
WO (1) | WO2022174737A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113673676A (zh) * | 2021-08-18 | 2021-11-19 | 安谋科技(中国)有限公司 | 电子设备及神经网络模型的实施方法、片上系统和介质 |
WO2022174737A1 (zh) * | 2021-02-19 | 2022-08-25 | 展讯通信(上海)有限公司 | 神经网络模型的运行方法、电子设备和存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110619220A (zh) * | 2019-08-09 | 2019-12-27 | 北京小米移动软件有限公司 | 对神经网络模型加密的方法及装置、存储介质 |
CN111210005A (zh) * | 2019-12-31 | 2020-05-29 | Oppo广东移动通信有限公司 | 设备运行方法、装置、存储介质及电子设备 |
CN111723935A (zh) * | 2020-06-24 | 2020-09-29 | 湖北亿咖通科技有限公司 | 神经网络计算图的处理方法、计算机存储介质及电子设备 |
CN111753948A (zh) * | 2020-06-23 | 2020-10-09 | 展讯通信(上海)有限公司 | 模型处理方法及相关设备 |
CN112182635A (zh) * | 2019-07-03 | 2021-01-05 | 北京百度网讯科技有限公司 | 一种联合建模的实现方法、装置、设备和介质 |
US20210042602A1 (en) * | 2018-04-17 | 2021-02-11 | Shenzhen Corerain Technologies Co., Ltd. | Method for implementing and developing network model and related product |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11244091B2 (en) * | 2017-01-23 | 2022-02-08 | International Business Machines Corporation | Missing sensor value estimation |
US11775349B2 (en) * | 2018-12-21 | 2023-10-03 | Advanced Micro Devices, Inc. | Machine intelligence processor with compute unit remapping |
CN111832693B (zh) * | 2019-04-16 | 2024-05-28 | 杭州海康威视数字技术股份有限公司 | 神经网络层运算、模型训练方法、装置及设备 |
CN110062014B (zh) * | 2019-06-11 | 2021-08-20 | 思必驰科技股份有限公司 | 网络模型的加密、解密方法及系统 |
CN111783937A (zh) * | 2020-05-19 | 2020-10-16 | 华为技术有限公司 | 一种神经网络构建方法以及系统 |
CN112200297B (zh) * | 2020-09-04 | 2024-03-01 | 星宸科技股份有限公司 | 神经网络优化方法、装置及处理器 |
CN113052305B (zh) * | 2021-02-19 | 2022-10-21 | 展讯通信(上海)有限公司 | 神经网络模型的运行方法、电子设备和存储介质 |
-
2021
- 2021-02-19 CN CN202110191285.1A patent/CN113052305B/zh active Active
-
2022
- 2022-01-29 WO PCT/CN2022/074946 patent/WO2022174737A1/zh active Application Filing
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20210042602A1 (en) * | 2018-04-17 | 2021-02-11 | Shenzhen Corerain Technologies Co., Ltd. | Method for implementing and developing network model and related product |
CN112182635A (zh) * | 2019-07-03 | 2021-01-05 | 北京百度网讯科技有限公司 | 一种联合建模的实现方法、装置、设备和介质 |
CN110619220A (zh) * | 2019-08-09 | 2019-12-27 | 北京小米移动软件有限公司 | 对神经网络模型加密的方法及装置、存储介质 |
CN111210005A (zh) * | 2019-12-31 | 2020-05-29 | Oppo广东移动通信有限公司 | 设备运行方法、装置、存储介质及电子设备 |
CN111753948A (zh) * | 2020-06-23 | 2020-10-09 | 展讯通信(上海)有限公司 | 模型处理方法及相关设备 |
CN111723935A (zh) * | 2020-06-24 | 2020-09-29 | 湖北亿咖通科技有限公司 | 神经网络计算图的处理方法、计算机存储介质及电子设备 |
Non-Patent Citations (1)
Title |
---|
董晓,等: "面向稀疏卷积神经网络的GPU性能优化方法", 《软件学报》 * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022174737A1 (zh) * | 2021-02-19 | 2022-08-25 | 展讯通信(上海)有限公司 | 神经网络模型的运行方法、电子设备和存储介质 |
CN113673676A (zh) * | 2021-08-18 | 2021-11-19 | 安谋科技(中国)有限公司 | 电子设备及神经网络模型的实施方法、片上系统和介质 |
CN113673676B (zh) * | 2021-08-18 | 2023-08-18 | 安谋科技(中国)有限公司 | 电子设备及神经网络模型的实施方法、片上系统和介质 |
Also Published As
Publication number | Publication date |
---|---|
WO2022174737A1 (zh) | 2022-08-25 |
CN113052305B (zh) | 2022-10-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110502222B (zh) | 外发依赖内部基础库的aar方法、装置、介质和设备 | |
CN113052305B (zh) | 神经网络模型的运行方法、电子设备和存储介质 | |
US11642783B2 (en) | Automated generation of robotic computer program code | |
CN105357204A (zh) | 生成终端识别信息的方法及装置 | |
CN111813465B (zh) | 一种信息获取方法、装置、介质和设备 | |
CN111026400A (zh) | 业务数据流的解析方法及其装置 | |
CN114329366B (zh) | 网盘文件控制方法、装置、网盘及存储介质 | |
CN110362371B (zh) | 视图层级的控制方法、装置及系统、计算机设备及介质 | |
US20150154413A1 (en) | Managing Document Revisions | |
US10782940B2 (en) | Code library version management | |
US20180349102A1 (en) | Apparatus and method for converting large-scale application | |
CN109543409A (zh) | 用于检测恶意应用及训练检测模型的方法、装置及设备 | |
CN102171696B (zh) | 定制资料的生成方法和装置 | |
CN116628773A (zh) | 数据处理方法、装置、电子设备及存储介质 | |
US20220365758A1 (en) | Tool for Introspection in Object-Oriented Source Code | |
CN111625232B (zh) | 应用程序安装包的生成方法、装置、可读介质和电子设备 | |
CN114356290A (zh) | 一种数据处理方法、装置及计算机可读存储介质 | |
CN109634636B (zh) | 应用处理方法、装置、设备和介质 | |
CN110262856B (zh) | 一种应用程序数据采集方法、装置、终端及存储介质 | |
CN113724115A (zh) | 基于在线教育的数据处理方法及服务器 | |
CN112036775A (zh) | 资源访问分类授权方法、装置、计算机设备及存储介质 | |
KR20210154017A (ko) | 클래스 분산 및 순차적 메모리 적재를 이용한 파일 보호 방법 및 시스템 | |
CN112394920A (zh) | 一种应用软件开发方法、平台和电子设备 | |
US20180101794A1 (en) | Method and system for creating mapping between business models | |
US12008363B1 (en) | Delivering portions of source code based on a stacked-layer framework |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |