CN111091182A - 数据处理方法、电子设备及存储介质 - Google Patents
数据处理方法、电子设备及存储介质 Download PDFInfo
- Publication number
- CN111091182A CN111091182A CN201911294790.8A CN201911294790A CN111091182A CN 111091182 A CN111091182 A CN 111091182A CN 201911294790 A CN201911294790 A CN 201911294790A CN 111091182 A CN111091182 A CN 111091182A
- Authority
- CN
- China
- Prior art keywords
- sub
- result
- network
- client
- server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 23
- 238000013528 artificial neural network Methods 0.000 claims abstract description 67
- 239000002346 layers by function Substances 0.000 claims abstract description 51
- 238000000034 method Methods 0.000 claims abstract description 37
- 239000010410 layer Substances 0.000 claims description 42
- 238000010586 diagram Methods 0.000 claims description 23
- 230000015654 memory Effects 0.000 claims description 11
- 238000011176 pooling Methods 0.000 claims description 10
- 238000004590 computer program Methods 0.000 claims description 7
- 230000009849 deactivation Effects 0.000 claims description 5
- 230000004913 activation Effects 0.000 claims description 4
- 230000008569 process Effects 0.000 abstract description 13
- 230000006870 function Effects 0.000 description 26
- 230000003287 optical effect Effects 0.000 description 7
- 238000004458 analytical method Methods 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 230000008707 rearrangement Effects 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Artificial Intelligence (AREA)
- Multimedia (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Evolutionary Biology (AREA)
- Software Systems (AREA)
- Biophysics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Mathematical Physics (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Acoustics & Sound (AREA)
- Image Analysis (AREA)
Abstract
本发明实施例公开了一种数据处理方法、电子设备及存储介质。包括:获取待处理数据,并将所述待处理数据输入部署于所述客户端中的第一子网络,获得第一子结果;将所述第一子结果发送至服务端,使得服务端将所述第一子结果输入部署于服务端的第二子网络,获得第二子结果;接收服务端返回的第二子结果,并根据所述第二子结果确定最终的处理结果。本发明实施例提供的数据处理方法,将神经网络划分为包括不同功能层的子网络,并分别部署于客户端和服务端,在数据处理时,依次输入部署于客户端和服务端的子网络,获得最终的处理结果,可以防止数据的泄露,从而提高神经网络运行过程中数据的安全性。
Description
技术领域
本发明实施例涉及数据处理技术领域,尤其涉及一种数据处理方法、电子设备及存储介质。
背景技术
神经网络,尤其是深度神经网络,在图像处理、自然语言处理、语音识别等多个领域得到了广泛应用,用来执行图像分类、语义理解、文字识别等多种任务。
发明内容
第一方面,本发明实施例提供了一种数据处理方法,该方法由客户端执行,包括:
获取待处理数据,并将所述待处理数据输入部署于所述客户端中的第一子网络,获得第一子结果;
将所述第一子结果发送至服务端,使得服务端将所述第一子结果输入部署于服务端的第二子网络,获得第二子结果;
接收服务端返回的第二子结果,并根据所述第二子结果确定最终的处理结果;其中,所述第一子网络和所述第二子网络包括同一神经网络中的不同的功能层。
第二方面,本发明实施例还提供了一种数据处理方法,该方法由服务端执行,包括:
接收客户端发送的第一子结果;所述第一子结果由客户端将待处理数据输入部署于客户端中的第一子网络获得;
将所述第一子结果输入部署于服务端中的第二子网络,获得第二子结果;
将所述第二子结果发送至所述客户端,使得所述客户端根据所述第二子结果确定最终的处理结果;其中,所述第一子网络和所述第二子网络包括同一神经网络中的不同的功能层。
第三方面,本发明实施例还提供了一种电子设备,包括:
处理器;
存储器,用于存储程序;
当所述程序被所述处理器执行,使得所述处理器实现如本发明实施例所述的数据处理方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本发明实施例所述的数据处理方法。
附图说明
图1是本发明实施例中的一种数据处理方法的流程图;
图2是本发明实施例中的对神经网络进行拆分的示例图;
图3是本发明实施例中的一种数据处理方法的流程图;
图4是本发明实施例中的一种数据处理装置的结构示意图;
图5是本发明实施例中的一种数据处理装置的结构示意图;
图6是本发明实施例中的一种数据处理系统的结构示意图;
图7是本发明实施例中的一种计算机设备的结构示意图。
具体实施方式
为使本公开实施例的目的、技术方案和优点更加清楚,下面将结合本公开实施例的附图,对本公开实施例的技术方案进行清楚、完整地描述。显然,所描述的实施例是本公开的一部分实施例,而不是全部的实施例。基于所描述的本公开的实施例,本领域普通技术人员在无需创造性劳动的前提下所获得的所有其他实施例,都属于本公开保护的范围。
除非另外定义,本公开使用的技术术语或者科学术语应当为本公开所属领域内具有一般技能的人士所理解的通常意义。本公开中使用的“第一”、“第二”以及类似的词语并不表示任何顺序、数量或者重要性,而只是用来区分不同的组成部分。同样,“一个”、“一”或者“该”等类似词语也不表示数量限制,而是表示存在至少一个。“包括”或者“包含”等类似的词语意指出现该词前面的元件或者物件涵盖出现在该词后面列举的元件或者物件及其等同,而不排除其他元件或者物件。“连接”或者“相连”等类似的词语并非限定于物理的或者机械的连接,而是可以包括电性的连接,不管是直接的还是间接的。“上”、“下”、“左”、“右”等仅用于表示相对位置关系,当被描述对象的绝对位置改变后,则该相对位置关系也可能相应地改变。
在发明人所知的技术中,通常将神经网络部署于服务端,客户端用于向服务端发送待处理的图像、文本等数据,并接收服务端传输的处理结果(如分类结果)。该种方式,客户端将数据发送至服务端的过程中,容易被截获,造成数据的泄露;或者当服务端遭受攻击也会造成数据的泄露。
为了保持本公开实施例的以下说明清楚且简明,本公开省略了已知功能和已知部件的详细说明。
在下述实施例中,神经网络可以根据所要执行的功能进行选择。可以是CNN卷积神经网络及其各种具体实现如全卷积神经网络FCN、分割网络SegNet等;还可以是循环神经网络RNN及其各种具体实现如长短期记忆网络(LSTM)、门控循环单元(GRU);还可以是各种其它的神经网络结构,例如光流神经网络FlowNet等。
本领域技术人员能够理解神经网络中的组成结构。例如,卷积层可以用于执行卷积操作,提取输入的图像(例如,尺寸为227×227)的特征信息以得到特征图(例如,尺寸为13×13);池化层可以对输入的图像进行池化操作,例如最大值合并(max-pooling)方法,均值池化(mean-pooling)方法等;激活层通过激活函数引入非线性因素,例如采用性修正单元(ReLU、Leaky-ReLU、P-ReLU、R-ReLU)函数、S型函数(Sigmoid函数)或双曲正切函数(tanh函数)等。随机失活层(Dropout)用于缓解过拟合问题,例如可以设为0.4、0.5等。全连接层用于将卷积输出的特征图转换为一维向量。
为了使得神经网络具有所需要的功能,例如分类功能,可以在神经网络的输出上连接LR分类器、Softmax分类器等执行分类等功能。
参考图1,在本发明的至少一个实施例中,提供了一种数据处理方法的流程图,本实施例可适用于将数据输入神经网络进行处理的情况,该方法可以由数据处理装置来执行,该装置可由硬件和/或软件组成,并一般可集成在具有数据处理功能的设备中。如图1所示,该方法具体包括如下步骤:
步骤110,获取待处理数据,并将待处理数据输入部署于客户端中的第一子网络,获得第一子结果。
其中,待处理数据可以是基于神经网络进行计算的待分析数据,最终的处理结果为分析结果,例如可以是用于人脸识别的图像数据、用于语音识别的语音数据、用于知识图谱的文本数据等。获取待处理数据的方式可以是由客户端的摄像头或麦克风采集的并经过预处理后的数据,或者存储于本地的数据,或者由其他终端发送来的数据。
本实施例中,首先将神经网络拆分为两个或三个具有不同功能的子网络,分别为第一子网络、第二子网络和第三子网络。若将神经网络拆分为两个子网络,则将第一子网络部署于客户端,第二子网络部署于服务端,其中,第一子网络的输出为第二子网络的输入。若将神经网络拆分为三个子网络,则将第一子网络和第三子网络部署于客户端,第二子网络部署于服务端,其中,第一子网络的输出为第二子网络的输入,第二子网络的输出为第三子网络的输入。
其中,第一子结果可以是经过第一子网络进行特征提取后的特征数据。具体的,客户端获取到待处理数据后,将待处理数据输入部署于所述客户端中的第一子网络进行分析,获得第一子结果。
步骤120,将第一子结果发送至服务端,使得服务端将第一子结果输入部署于服务端的第二子网络,获得第二子结果。
其中,第二子网络和第一子网络包括同一神经网络中的不同的功能层。
本实施例中,将部署于客户端的第一子网络输出的第一特征图作为第一子结果发送至服务端,部署于服务端的第二子网络以第一特征图作为输入进行处理并输出第二特征图。
步骤130,接收服务端返回的第二子结果,并根据第二子结果确定最终的处理结果。
其中,第一子网络和第二子网络包括同一神经网络中的不同的功能层。本实施例中,神经网络的功能层包括:卷积层、激活层、池化层、随机失活层、全连接层中的一个或多个;每种功能层的数量为一个或多个。对神经网络进行拆分时,可以将任意的网络层作为拆分节点,与层功能无关。
可选的,对神经网络拆分的方式可以是:若神经网络拆分为三个子网络,则第一子网络包括输入层、一个或多个功能层,第二子网络包括一个或多个功能层;第三子网络包括一个或多个功能层、输出层。若神经网络拆分为两个子网络,则第一子网络输入层、一个或多个功能层,第二子网络包括一个或多个功能层、输出层。示例性的,图2为本实施例中对神经网络进行拆分的示例图。如图2所示,将神经网络拆分为三个子网络。
本实施例中,对神经网络进行拆分后,第一子网络和第三子网络包含的功能层数均小于第二子网络包含的功能层数。这样做的好处是,可以将神经网络的数据的大部分计算量由服务端承担,从而减轻客户端的计算压力。
具体的,根据第二子结果确定最终的处理结果的方式可以是:若神经网络拆分为两个子网络,则将第二子结果确定为最终的处理结果。若神经网络拆分为三个子网络,则将第二子结果输入部署于客户端中的第三子网络,获得第三子结果,作为最终的处理结果。其中,第三子网络包括神经网络中区别于第一子网络和第二子网络的功能层。
具体的,若神经网络拆分为三个子网络,则数据处理的过程为:将部署于客户端的第一子网络输出的第一特征图作为第一子结果发送至服务端,部署于服务端的第二子网络以第一特征图作为输入进行处理并输出第二特征图,部署于客户端的第三子网络以第二特征图作为输入进行处理并输出最终的处理结果。
本实施例的技术方案,首先获取待处理数据,并将待处理数据输入部署于客户端中的第一子网络,获得第一子结果;然后将第一子结果发送至服务端,使得服务端将第一子结果输入部署于服务端的第二子网络,获得第二子结果;最后接收服务端返回的第二子结果,并根据第二子结果确定最终的处理结果。本发明实施例提供的数据处理方法,将神经网络划分为多个包含不同功能层的子网络,并分别部署于客户端和服务端,在数据处理时,依次输出部署于客户端和服务端的子网络,获得最终的处理结果,可以防止数据的泄露,从而提高深度学习网络运行过程中数据的安全性。
从本发明实施例提供的方法可以看到,第一子结果是第一子网络通过卷积等神经网络的功能层对输入的数据进行对应处理的结果,所生成的中间数据对外界而言是无法直接理解的,即使第三方获得了该第一子结果也无法恢复为输入层获得的输入数据,因此即使在传输或者在服务器上出现信息泄露也可保证用户数据安全。同时,第一子结果等是经过卷积等处理过程所得的抽取特征,只有通过后续子网络处理才能得到处理信息,无法用于其他用途,用户的数据不会被滥用。
参考图3,在本发明的至少一个实施例中,提供了一种数据处理方法的流程图,本实施例可适用于将数据输入神经网络进行处理的情况,该方法可以由数据处理装置来执行,该装置可由硬件和/或软件组成,并一般可集成在具有数据处理功能的设备中,该设备可以是服务器或服务器集群等电子设备。如图3所示,该方法具体包括如下步骤:
步骤210,接收客户端发送的第一子结果。
其中,第一子结果可以由客户端将待处理数据输入部署于客户端中的第一子网络获得,可以是经过第一子网络进行特征提取后的特征数据。待处理数据可以是基于神经网络进行计算的待分析数据,最终的处理结果为分析结果,例如可以是用于人脸识别的图像数据、用于语音识别的语音数据等。获取待处理数据的方式可以是由客户端的摄像头或麦克风采集的并经过预处理后的数据,或者存储于本地的数据,或者由其他终端发送来的数据。
本实施例中,首先将神经网络拆分为两个或三个具有不同功能的子网络,分别为第一子网络、第二子网络和第三子网络。若将神经网络拆分为两个子网络,则将第一子网络部署于客户端,第二子网络部署于服务端,其中,第一子网络的输出为第二子网络的输入。若将神经网络拆分为三个子网络,则将第一子网络和第三子网络部署于客户端,第二子网络部署于服务端,其中,第一子网络的输出为第二子网络的输入,第二子网络的输出为第三子网络的输入。
具体的,客户端获取到待处理数据后,将待处理数据输入部署于所述客户端中的第一子网络进行分析,获得第一子结果,并将第一子结果发送至服务端,服务端结果到第一子结果后,对第一子结果进行后续的处理。
步骤220,将第一子结果输入部署于服务端中的第二子网络,获得第二子结果。
其中,第二子网络和第一子网络包括同一神经网络中的不同的功能层。
本实施例中,以部署于所述客户端的第一子网络输出的第一特征图作为所述第二子网络的输入进行处理并输出第二特征图。
步骤230,将第二子结果发送至客户端,使得客户端根据第二子结果确定最终的处理结果。
其中,第一子网络和第二子网络包括同一神经网络中的不同的功能层。本实施例中,神经网络的功能层包括:卷积层、激活层、池化层、随机失活层、全连接层中的一个或多个;每种功能层的数量为一个或多个。对神经网络进行拆分时,可以将任意的网络层作为拆分点,与层功能无关。
可选的,对神经网络拆分的方式可以是:若神经网络拆分为三个子网络,则第一子网络包括输入层、一个或多个功能层,第二子网络包括一个或多个功能层;第三子网络包括一个或多个功能层、输出层。若神经网络拆分为两个子网络,则第一子网络包括输入层、一个或多个功能层,第二子网络包括一个或多个功能层、输出层。
本实施例中,对神经网络进行拆分后,第一子网络和第三子网络包含的功能层数均小于第二子网络包含的功能层数。这样做的好处是,可以将神经网络的数据计算量的大部分由服务端承担,从而减轻客户端的计算压力。
具体的,将第二子结果发送至客户端,使得客户端根据第二子结果确定最终的处理结果的过程可以是:若神经网络拆分为两个子网络,则将第二子结果发送至客户端,客户端将第二子结果确定为最终的处理结果;若神经网络拆分为三个子网络,则将第二子结果发送至客户端,客户端将第二子结果输入部署于客户端中的第三子网络,获得第三子结果,作为最终的处理结果。其中,第三子网络包括神经网络中区别于第一子网络和第二子网络的功层。
本实施例中,若神经网络拆分为三个子网络,以部署于客户端的第一子网络输出的第一特征图作为第二子网络的输入进行处理并输出第二特征图,将第二特征图作为部署于客户端的第三子网络的输入进行处理并输出最终的处理结果。
本实施例的技术方案,首先接收客户端发送的第一子结果;第一子结果由客户端将待处理数据输入部署于客户端中的第一子网络获得;然后将第一子结果输入部署于服务端中的第二子网络,获得第二子结果;最后将第二子结果发送至客户端,使得客户端根据第二子结果确定最终的处理结果。本发明实施例提供的数据处理方法,将神经网络划分为包含不同功能层的子网络,并分别部署于客户端和服务端,在数据处理时,依次输出部署于客户端和服务端的子网络,获得最终的处理结果,可以防止数据的泄露,从而提高深度学习网络运行过程中数据的安全性。
参考图4,在本发明的至少一个实施例中,提供了一种数据处理装置的结构示意图。该装置设置于客户端,如图4所示,该装置包括:第一子结果获取模块410,第二子结果获取模块420和最终处理结果确定模块430。
第一子结果获取模块410,用于获取待处理数据,并将所述待处理数据输入部署于所述客户端中的第一子网络,获得第一子结果;
第二子结果获取模块420,用于将所述第一子结果发送至服务端,使得服务端将所述第一子结果输入部署于服务端的第二子网络,获得第二子结果;
最终处理结果确定模块430,用于接收服务端返回的第二子结果,并根据所述第二子结果确定最终的处理结果;其中,所述第一子网络和所述第二子网络包括同一神经网络中的不同的功能层。
可选的,最终处理结果确定模块430,还用于:
将所述第二子结果确定为最终的处理结果;或者,
将所述第二子结果输入部署于所述客户端中的第三子网络,获得第三子结果,作为最终的处理结果;其中,所述第三子网络包括神经网络中区别于第一子网络和所述第二子网络的功能层。
可选的,所述第一子网络和第三子网络包含的功能层数均小于所述第二子网络包含的功能层数。
可选的,将部署于所述客户端的第一子网络输出的第一特征图作为第一子结果发送至服务端,部署于所述服务端的第二子网络以所述第一特征图作为输入进行处理并输出第二特征图,部署于所述客户端的第三子网络以所述第二特征图作为输入进行处理并输出最终的处理结果。
可选的,所述功能层包括卷积层、池化层、激活层、随机失活层、全连接层中的一个或多个,所述第一子网络包括输入层、一个或多个功能层;所述第二子网络包括一个或多个功能层;第三子网络包括一个或多个功能层、输出层。
参考图5,在本发明的至少一个实施例中,提供了一种数据处理装置的结构示意图,该装置设置于服务端,该装置包括:第一子结果接收模块510,第二子结果获取模块520和第二子结果发送模块530。
第一子结果接收模块510,用于接收客户端发送的第一子结果;所述第一子结果由客户端将待处理数据输入部署于客户端中的第一子网络获得;
第二子结果获取模块520,用于将所述第一子结果输入部署于服务端中的第二子网络,获得第二子结果;
第二子结果发送模块530,用于将所述第二子结果发送至所述客户端,使得所述客户端根据所述第二子结果确定最终的处理结果;其中,所述第一子网络和所述第二子网络包括同一神经网络中的不同的功能层。
可选的,第二子结果发送模块530,还用于:
将所述第二子结果发送至所述客户端,使得所述客户端将所述第二子结果确定为最终的处理结果;或者,
将所述第二子结果发送至所述客户端,使得所述客户端将所述第二子结果输入部署于所述客户端中的第三子网络,获得第三子结果,作为最终的处理结果;其中,所述第三子网络包括所述神经网络中区别于所述第一子网络和所述第二子网络的功能层。
可选的,以部署于所述客户端的第一子网络输出的第一特征图作为所述第二子网络的输入进行处理并输出第二特征图,将所述第二特征图作为部署于所述客户端的第三子网络的输入进行处理并输出最终的处理结果。
上述装置可执行本发明前述所有实施例所提供的方法,具备执行上述方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节,可参见本发明前述所有实施例所提供的方法。
本领域技术人员能够理解,上述实施例中所描述的模块是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用处理器执行相应功能软件的形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
例如,处理器可以是通用的具有数据处理能力和/或程序执行能力的逻辑运算器件,诸如中央处理单元(CPU)、图像处理器(GPU)、微处理器(MCU)等,处理器执行对应功能的计算机指令以实现对应的功能。计算机指令包括了一个或多个由对应于处理器的指令集架构定义的处理器操作,这些计算机指令可以被一个或多个计算机程序在逻辑上包含和表示。
例如,处理器可以是具有可被编程调整功能以执行相应功能的硬件实体,诸如现场可编程逻辑阵列(FPGA)或者专用集成电路(ASIC)等。
例如,处理器可以是专门设计用来执行对应功能的硬件电路,如张量处理器(TPU)或神经网络处理器(NPU)等。
参考图6,在本发明的至少一个实施例中,提供了一种数据处理系统的结构示意图。如图6所示,该系统包括客户端和服务端。
客户端部署有第一子网络,用于获取待处理数据,并将待处理数据输入第一子网络,获得第一子结果;将第一子结果发送至服务端;
服务端部署有第二子网络,用于将接收的第一子结果输入第二子网络,获得第二子结果,并将第二子结果发送至客户端;
客户端还用于根据第二子结果确定最终的处理结果;其中,第一子网络和第二子网络包括同一神经网络中的不同的功能层。
可选的,客户端还设置有第三子网络;客户端用于将第二子结果输入第三子网络,获得最终的处理结果;其中,第三子网络包括神经网络中区别于第一子网络和第二子网络的功能层。
参考图7,在本发明的至少一个实施例中,提供了一种电子设备的结构示意图。图7示出了适于用来实现本发明实施方式的电子设备312的框图。图7显示的电子设备312仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。设备312是典型的数据处理功能的计算设备。
如图7所示,电子设备312以通用计算设备的形式表现。电子设备312的组件可以包括但不限于:一个或者多个处理器316,存储装置328,连接不同系统组件(包括存储装置328和处理器316)的总线318。
总线318表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(Industry StandardArchitecture,ISA)总线,微通道体系结构(Micro Channel Architecture,MCA)总线,增强型ISA总线、视频电子标准协会(Video Electronics Standards Association,VESA)局域总线以及外围组件互连(Peripheral Component Interconnect,PCI)总线。
电子设备312典型地包括多种计算机系统可读介质。这些介质可以是任何能够被电子设备312访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
存储装置328可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(Random Access Memory,RAM)330和/或高速缓存存储器332。电子设备312可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统334可以用于读写不可移动的、非易失性磁介质(图7未显示,通常称为“硬盘驱动器”)。尽管图7中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如只读光盘(Compact Disc-Read Only Memory,CD-ROM)、数字视盘(Digital Video Disc-Read Only Memory,DVD-ROM)或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线318相连。存储装置328可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块326的程序336,可以存储在例如存储装置328中,这样的程序模块326包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块326通常执行本发明所描述的实施例中的功能和/或方法。
电子设备312也可以与一个或多个外部设备314(例如键盘、指向设备、摄像头、显示器324等)通信,还可与一个或者多个使得用户能与该电子设备312交互的设备通信,和/或与使得该电子设备312能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口322进行。并且,电子设备312还可以通过网络适配器320与一个或者多个网络(例如局域网(Local Area Network,LAN),广域网Wide Area Network,WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器320通过总线318与电子设备312的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备312使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、磁盘阵列(Redundant Arrays of Independent Disks,RAID)系统、磁带驱动器以及数据备份存储系统等。
处理器316通过运行存储在存储装置328中的程序,从而执行各种功能应用以及数据处理,例如实现本发明上述实施例所提供的数据处理方法。
容易理解,本地的计算机设备可以与服务器、云等计算机设备进行通讯,本发明实施例方法的实施过程也可以在多个计算机设备组成的网络中执行。通讯连接可以是无线网络、有线网络、和/或无线网络和有线网络的任意组合。网络可以包括局域网、互联网、电信网、基于互联网和/或电信网的物联网(Internet of Things)、和/或以上网络的任意组合等。有线网络例如可以采用双绞线、同轴电缆或光纤传输等方式进行通信,无线网络例如可以采用无线广域通信网络(WWAN)、蓝牙、Zigbee或者Wi-Fi等进行通信。
本发明提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本发明实施例所提供的数据处理方法。
当然,本发明实施例所提供的一种计算机可读存储介质,其上存储的计算机程序不限于如上所述的方法操作,还可以执行本发明任意实施例所提供的数据处理方法中的相关操作。
本发明实施例的计算机存储介质,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。
Claims (10)
1.一种数据处理方法,其特征在于,该方法由客户端执行,包括:
获取待处理数据,并将所述待处理数据输入部署于所述客户端中的第一子网络,获得第一子结果;
将所述第一子结果发送至服务端,使得服务端将所述第一子结果输入部署于服务端的第二子网络,获得第二子结果;
接收服务端返回的第二子结果,并根据所述第二子结果确定最终的处理结果;其中,所述第一子网络和第二子网络包括同一神经网络中的不同的功能层。
2.根据权利要求1所述的方法,其特征在于,根据所述第二子结果确定最终的处理结果,包括:
将所述第二子结果确定为最终的处理结果;或者,
将所述第二子结果输入部署于所述客户端中的第三子网络,获得第三子结果,作为最终的处理结果;其中,所述第三子网络包括所述神经网络中区别于所述第一子网络和所述第二子网络的功能层。
3.根据权利要求2所述的方法,其特征在于,所述第一子网络和第三子网络包含的功能层数均小于所述第二子网络包含的功能层数。
4.根据权利要求2所述的方法,其特征在于,
将部署于所述客户端的第一子网络输出的第一特征图作为第一子结果发送至服务端,部署于所述服务端的第二子网络以所述第一特征图作为输入进行处理并输出第二特征图,部署于所述客户端的第三子网络以所述第二特征图作为输入进行处理并输出最终的处理结果。
5.根据权利要求2所述的方法,其特征在于,所述功能层包括卷积层、池化层、激活层、随机失活层、全连接层中的一个或多个,所述第一子网络包括输入层、一个或多个功能层;所述第二子网络包括一个或多个功能层;第三子网络包括一个或多个功能层、输出层。
6.一种数据处理方法,其特征在于,该方法由服务端执行,包括:
接收客户端发送的第一子结果;所述第一子结果由客户端将待处理数据输入部署于客户端中的第一子网络获得;
将所述第一子结果输入部署于服务端中的第二子网络,获得第二子结果;
将所述第二子结果发送至所述客户端,使得所述客户端根据所述第二子结果确定最终的处理结果;其中,所述第一子网络和第二子网络包括同一神经网络中的不同的功能层。
7.根据权利要求6所述的方法,其特征在于,将所述第二子结果发送至所述客户端,使得所述客户端根据所述第二子结果确定最终的处理结果,包括:
将所述第二子结果发送至所述客户端,使得所述客户端将所述第二子结果确定为最终的处理结果;或者,
将所述第二子结果发送至所述客户端,使得所述客户端将所述第二子结果输入部署于所述客户端中的第三子网络,获得第三子结果,作为最终的处理结果;其中,所述第三子网络包括所述神经网络中区别于所述第一子网络和所述第二子网络的功能层。
8.根据权利要求7所述的方法,其特征在于,包括:
以部署于所述客户端的第一子网络输出的第一特征图作为所述第二子网络的输入进行处理并输出第二特征图,将所述第二特征图作为部署于所述客户端的第三子网络的输入进行处理并输出最终的处理结果。
9.一种电子设备,其特征在于,包括:
处理器;
存储器,用于存储程序;
当所述程序被所述处理器执行,使得所述处理器实现如权利要求1-5任一所述的数据处理方法或权利要求6-8任一所述的数据处理方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-5任一所述的数据处理方法或权利要求6-8任一所述的数据处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911294790.8A CN111091182A (zh) | 2019-12-16 | 2019-12-16 | 数据处理方法、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911294790.8A CN111091182A (zh) | 2019-12-16 | 2019-12-16 | 数据处理方法、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111091182A true CN111091182A (zh) | 2020-05-01 |
Family
ID=70395240
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911294790.8A Pending CN111091182A (zh) | 2019-12-16 | 2019-12-16 | 数据处理方法、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111091182A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111709583A (zh) * | 2020-06-18 | 2020-09-25 | 北京字节跳动网络技术有限公司 | 用户留存时间生成方法、装置、电子设备和介质 |
CN112491912A (zh) * | 2020-12-02 | 2021-03-12 | 奇安信科技集团股份有限公司 | 数据处理方法、装置、系统和电子设备 |
CN112800147A (zh) * | 2021-02-02 | 2021-05-14 | 北京明略昭辉科技有限公司 | 一种数据处理方法、装置、设备及存储介质 |
JPWO2021240636A1 (zh) * | 2020-05-26 | 2021-12-02 | ||
WO2023143080A1 (zh) * | 2022-01-30 | 2023-08-03 | 华为技术有限公司 | 一种数据处理方法以及相关设备 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106164869A (zh) * | 2014-04-01 | 2016-11-23 | 微软技术许可有限责任公司 | 用于并行处理的混合客户端/服务器架构 |
US20170277994A1 (en) * | 2016-03-28 | 2017-09-28 | Google Inc. | Adaptive artificial neural network selection techniques |
CN109409513A (zh) * | 2018-10-10 | 2019-03-01 | 广州市百果园信息技术有限公司 | 一种基于神经网络的任务处理方法及相关设备 |
CN109598250A (zh) * | 2018-12-10 | 2019-04-09 | 北京旷视科技有限公司 | 特征提取方法、装置、电子设备和计算机可读介质 |
CN109685202A (zh) * | 2018-12-17 | 2019-04-26 | 腾讯科技(深圳)有限公司 | 数据处理方法及装置、存储介质和电子装置 |
CN110309914A (zh) * | 2019-07-03 | 2019-10-08 | 中山大学 | 基于边缘服务器与移动端设备协同的深度学习模型推理加速方法 |
-
2019
- 2019-12-16 CN CN201911294790.8A patent/CN111091182A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106164869A (zh) * | 2014-04-01 | 2016-11-23 | 微软技术许可有限责任公司 | 用于并行处理的混合客户端/服务器架构 |
US20170277994A1 (en) * | 2016-03-28 | 2017-09-28 | Google Inc. | Adaptive artificial neural network selection techniques |
CN109409513A (zh) * | 2018-10-10 | 2019-03-01 | 广州市百果园信息技术有限公司 | 一种基于神经网络的任务处理方法及相关设备 |
CN109598250A (zh) * | 2018-12-10 | 2019-04-09 | 北京旷视科技有限公司 | 特征提取方法、装置、电子设备和计算机可读介质 |
CN109685202A (zh) * | 2018-12-17 | 2019-04-26 | 腾讯科技(深圳)有限公司 | 数据处理方法及装置、存储介质和电子装置 |
CN110309914A (zh) * | 2019-07-03 | 2019-10-08 | 中山大学 | 基于边缘服务器与移动端设备协同的深度学习模型推理加速方法 |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2021240636A1 (zh) * | 2020-05-26 | 2021-12-02 | ||
WO2021240636A1 (ja) * | 2020-05-26 | 2021-12-02 | 日本電信電話株式会社 | 分散深層学習システム |
JP7464118B2 (ja) | 2020-05-26 | 2024-04-09 | 日本電信電話株式会社 | 分散深層学習システム |
CN111709583A (zh) * | 2020-06-18 | 2020-09-25 | 北京字节跳动网络技术有限公司 | 用户留存时间生成方法、装置、电子设备和介质 |
CN111709583B (zh) * | 2020-06-18 | 2023-05-23 | 抖音视界有限公司 | 用户留存时间生成方法、装置、电子设备和介质 |
CN112491912A (zh) * | 2020-12-02 | 2021-03-12 | 奇安信科技集团股份有限公司 | 数据处理方法、装置、系统和电子设备 |
CN112800147A (zh) * | 2021-02-02 | 2021-05-14 | 北京明略昭辉科技有限公司 | 一种数据处理方法、装置、设备及存储介质 |
WO2023143080A1 (zh) * | 2022-01-30 | 2023-08-03 | 华为技术有限公司 | 一种数据处理方法以及相关设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108509915B (zh) | 人脸识别模型的生成方法和装置 | |
CN111091182A (zh) | 数据处理方法、电子设备及存储介质 | |
CN113313064B (zh) | 字符识别方法、装置、可读介质及电子设备 | |
JP7425147B2 (ja) | 画像処理方法、テキスト認識方法及び装置 | |
WO2022105118A1 (zh) | 基于图像的健康状态识别方法、装置、设备及存储介质 | |
CN111242291A (zh) | 神经网络后门攻击的检测方法、装置和电子设备 | |
US20240233334A1 (en) | Multi-modal data retrieval method and apparatus, medium, and electronic device | |
US10824808B2 (en) | Robust key value extraction | |
US20220358955A1 (en) | Method for detecting voice, method for training, and electronic devices | |
US20230030431A1 (en) | Method and apparatus for extracting feature, device, and storage medium | |
CN112766284B (zh) | 图像识别方法和装置、存储介质和电子设备 | |
CN115422389A (zh) | 处理文本图像的方法、神经网络及其训练方法 | |
CN108229680B (zh) | 神经网络系统、遥感图像识别方法、装置、设备及介质 | |
CN114817612A (zh) | 多模态数据匹配度计算和计算模型训练的方法、相关装置 | |
CN109829431B (zh) | 用于生成信息的方法和装置 | |
CN110414450A (zh) | 关键词检测方法、装置、存储介质及电子设备 | |
CN114065915A (zh) | 网络模型的构建方法、数据处理方法、装置、介质及设备 | |
CN110738261B (zh) | 图像分类和模型训练方法、装置、电子设备及存储介质 | |
CN114298289A (zh) | 一种数据处理的方法、数据处理设备及存储介质 | |
CN113780239B (zh) | 虹膜识别方法、装置、电子设备和计算机可读介质 | |
CN114842476A (zh) | 水印检测方法及装置、模型训练方法及装置 | |
CN114970470A (zh) | 文案信息处理方法、装置、电子设备和计算机可读介质 | |
CN114842541A (zh) | 模型的训练及人脸识别方法、装置、设备以及存储介质 | |
CN111291640B (zh) | 用于识别步态的方法和装置 | |
CN113971830A (zh) | 一种人脸识别方法、装置、存储介质及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |