CN113379779B - 堆叠宽度学习系统的边缘计算方法、装置、介质和设备 - Google Patents
堆叠宽度学习系统的边缘计算方法、装置、介质和设备 Download PDFInfo
- Publication number
- CN113379779B CN113379779B CN202110630388.3A CN202110630388A CN113379779B CN 113379779 B CN113379779 B CN 113379779B CN 202110630388 A CN202110630388 A CN 202110630388A CN 113379779 B CN113379779 B CN 113379779B
- Authority
- CN
- China
- Prior art keywords
- learning system
- network
- sub
- sample
- width learning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Image Analysis (AREA)
Abstract
本发明提供了一种堆叠宽度学习系统的边缘计算方法、装置、介质和设备;其中方法包括如下步骤:采集待识别样本图像;对待识别样本图像进行预处理;将预处理后的待识别样本图像分别与各个数据库存储图像组成样本对;将样本对输入到堆叠宽度孪生网络中;堆叠宽度孪生网络包含两个具有相同权重和网络结构的子网络;两个子网络分别一对一地对样本对中的待识别样本图像和数据库存储图像进行处理得出两路输出特征向量,进行相似度度量,判断待识别样本图像和数据库存储图像是否为同一类别,从而得出识别结果。该方法能够在确保准确度的情况下有效降低训练时间和内存资源开销。
Description
技术领域
本发明涉及边缘检测技术领域,更具体地说,涉及一种堆叠宽度学习系统的边缘计算方法、装置、介质和设备。
背景技术
边缘计算强调将数据处理过程放置在网络边缘终端设备附近,以达到通信延迟,减少资源开销的目的。近年来,随着5G通信等新技术的发展,边缘计算应用得到了进一步的拓广。近年来,随着人工智能应用的普及,将人工智能技术与边缘计算应用相结合成为一种新的趋势。人们称之为“边缘智能”。
孪生网络是人工智能领域的一种算法,由两个或者多个子网络组成,经常用于比较输入样本之间的相似程度。在实际生活中有着广泛的应用场景;例如,在边缘计算领域,可以孪生网络可以被使用来完成人脸识别、表情分析、签名验证、目标识别、自然语言处理等领域。近年来,人们广泛应用深度神经网络来构建孪生网络的子网络,虽然在准确度上取得了不错的效果,但有时候会面临着训练时间过长,资源开销过大的问题。
在本次专利申请中,我们将堆叠宽度学习系统应用于构建孪生网络框架,提出了一种堆叠宽度孪生网络算法,并用来解决边缘计算应用中的分类问题。实验结果表明我们的方法能够在确保准确度的情况下有效降低时间和内存资源开销,从而更好地满足边缘计算应用的要求。
发明内容
为克服现有技术中的缺点与不足,本发明的目的在于提供一种堆叠宽度学习系统的边缘计算方法、装置、介质和设备;该方法能够在确保准确度的情况下有效降低训练时间和内存资源开销。
为了达到上述目的,本发明通过下述技术方案予以实现:一种堆叠宽度学习系统的边缘计算方法,其特征在于:包括如下步骤:
采集待识别样本图像;
对待识别样本图像进行预处理;
调取数据库中的数据库存储图像,各个数据库存储图像分别带有类别标签;
将预处理后的待识别样本图像分别与各个数据库存储图像组成样本对;将样本对输入到堆叠宽度孪生网络中;堆叠宽度孪生网络包含两个具有相同权重和网络结构的子网络;两个子网络分别一对一地对样本对中的待识别样本图像和数据库存储图像进行处理得出两路输出特征向量yo(o=1,2),对两路输出特征向量yo进行相似度度量,判断待识别样本图像和数据库存储图像是否为同一类别,从而得出识别结果;所述堆叠宽度孪生网络是指对初始堆叠宽度孪生网络进行训练和测试处理得到的堆叠宽度孪生网络;
每个子网络由b个宽度学习系统模块组成;b个宽度学习系统模块通过残差连接堆叠起来;第i-1个宽度学习系统模块的输出作为第i个宽度学习系统模块的输入,且第i个宽度学习系统模块的期望输出为第1,...,i-1个宽度学习系统模块的残差:1≤i≤b,其中Yo为期望的系统输出,uok为第k个宽度学习系统模块的输出;子网络的最终输出yo为b个宽度学习系统模块的输出总和:
优选地,每个宽度学习系统模块包含特征结点、增强结点、权重层和输出层。
优选地,所述两个子网络分别一对一地对样本对中的待识别样本图像和数据库存储图像进行处理得出两路输出特征向量yo,是指:
设定输入两个子网络的待识别样本图像和数据库存储图像分别为xo(o=1,2);设定Voi是第o个子网络第i个宽度学习系统模块的输入,则Vo1=xo,Voi=uoi-1;Wzoiq是生成第o个子网络第i个宽度学习系统模块第q组特征结点的权重矩阵;Whoir是生成第o个子网络第i个宽度学习系统模块第r组增强结点的权重矩阵;
则第o个子网络第i个宽度学习系统模块第q组特征结点Zoiq和第r组增强结点Hoir为:
Zoiq=P(Voi,Wzoiq),q=1,2,…,n;
其中,P是由输入生成特征结点的广义函数,Q是由特征结点生成增强结点的广义函数;
计算第o个子网络第i个宽度学习系统模块的输出uoi:
第o个子网络的输出特征向量yo为:
优选地,所述对初始堆叠宽度孪生网络进行训练和测试处理,是指:
S1步,设置堆叠宽度孪生网络的其中一个子网络的网络结构;
S2步,将样本图像划分为训练集和测试集;
S4步,对堆叠宽度孪生网络进行测试:采用测试集的样本图像构建样本对,每个样本对包括两组样本图像;将同一类别的两组样本图像设定为正样本对,不同类别的两组样本图像设定为负样本对;将样本对的两组样本图像分别输入两个子网络中,得到两个子网络的输出特征向量y1和y2;对两路输出特征向量y1和y2进行相似度度量,判断两组样本图像是否为同一类别;
S5步,判别判断结果是否准确;统计判断结果的准确度;若准确度≥准确度阈值,则完成训练和测试处理;否则调整子网络的网络结构,包括对子网络的特征结点数和增强结点数进行调整,并跳至S3步重新对子网络进行训练和对堆叠宽度孪生网络进行测试。
当i=1时,Yoi=Yo;
优选地,所述对两路输出特征向量yo进行相似度度量,是指:
找出输出特征向量y1的数值最高位是第M1位,输出特征向量y2的数值最高位是第M2位;
当M1≠M2,相似度距离D为:
其中,y1(M1)和y1(M2)分别代表输出特征向量y1中第M1位和第M2位上的数值;y2(M1)和y2(M2)分别代表输出特征向量y2中第M1位和第M2位上的数值;y1(bal)代表输出特征向量y1上最大值和第二大值的平均值;y2(bal)代表输出特征向量y2上最大值和第二大值的平均值。
优选地,得出识别结果的方法是:将相似度距离D与预设阈值进行比较:若相似度距离D≤预设阈值,则判定样本对中的待识别样本图像与数据库存储图像属于相同类别,否则判定样本对中的待识别样本图像与数据库存储图像属于不同类别;当待识别样本图像与任一数据库存储图像或两个以上数据库存储图像属于相同类别时,取相似度距离D最小的数据库存储图像的类别标签作为待识别样本图像的识别结果。
一种堆叠宽度学习系统的边缘计算装置,其特征在于:包括:
采集模块,用于采集待识别样本图像;
预处理模块,用于对待识别样本图像进行预处理;
数据调取模块,用于调取数据库中的数据库存储图像,各个数据库存储图像分别带有类别标签;
检测模块,用于将预处理后的待识别样本图像分别与各个数据库存储图像组成样本对;将样本对输入到堆叠宽度孪生网络中;堆叠宽度孪生网络包含两个具有相同权重和网络结构的子网络;两个子网络分别一对一地对样本对中的待识别样本图像和数据库存储图像进行处理得出两路输出特征向量yo(o=1,2),对两路输出特征向量yo进行相似度度量,判断待识别样本图像和数据库存储图像是否为同一类别,从而得出识别结果;所述堆叠宽度孪生网络是指对初始堆叠宽度孪生网络进行训练和测试处理得到的堆叠宽度孪生网络;
每个子网络由b个宽度学习系统模块组成;b个宽度学习系统模块通过残差连接堆叠起来;第i-1个宽度学习系统模块的输出作为第i个宽度学习系统模块的输入,且第i个宽度学习系统模块的期望输出为第1,...,i-1个宽度学习系统模块的残差:1≤i≤b,其中Yo为期望的系统输出,uok为第k个宽度学习系统模块的输出;子网络的最终输出yo为b个宽度学习系统模块的输出总和:
一种存储介质,其特征在于,其中所述存储介质存储有计算机程序,所述计算机程序当被处理器执行时使所述处理器执行上述堆叠宽度学习系统的边缘计算方法。
一种计算设备,包括处理器以及用于存储处理器可执行程序的存储器,其特征在于,所述处理器执行存储器存储的程序时,实现上述堆叠宽度学习系统的边缘计算方法。
与现有技术相比,本发明具有如下优点与有益效果:
1、本发明采用堆叠宽度孪生网络,能够进一步提高分类的准确度:由于堆叠宽度孪生网络采用堆叠宽度学习系统作为子网络,而宽度孪生网络采用宽度学习系统作为子网络;堆叠宽度学习系统通过残差逼近的方式在宽度学习系统的基础上进一步提高了准确度,因此帮助堆叠宽度孪生网络进一步地提高了分类准确度;
2、与基于传统深度学习的孪生网络方法相比,堆叠宽度孪生网络能够有效降低训练时间和内存资源开销:由于堆叠宽度孪生网络是使用堆叠宽度学习系统来构建子网络,而传统孪生网络使用深度神经网络来构建子网络;堆叠宽度学习系统属于浅层网络,参数较少因此降低了存储资源开销;同时,堆叠宽度学习系统没有反向传播更新参数的过程,直接使用伪逆求解网络参数,因此降低了训练时间开销;
3、边缘计算方法通常对延迟和计算资源开销有较高的要求,堆叠宽度孪生网络能够在保证分类准确度的情况下降低训练时间和内存资源开销,从而更好地满足边缘计算方法的要求。
附图说明
图1是本发明堆叠宽度学习系统的边缘计算方法的堆叠宽度孪生网络的结构示意图;
图2是本发明堆叠宽度学习系统的边缘计算方法的宽度学习系统模块的结构示意图;
图3是本发明堆叠宽度学习系统的边缘计算方法的堆叠宽度孪生网络的训练流程示意图;
图4(1)是几种算法在CK+数据集的ROC曲线图;
图4(2)是几种算法在CK+数据集的阈值曲线图;
图5(1)是几种算法在USPS数据集的ROC曲线图;
图5(2)是几种算法在USPS数据集的阈值曲线图。
具体实施方式
下面结合附图与具体实施方式对本发明作进一步详细的描述。
实施例一
本实施例一种堆叠宽度学习系统的边缘计算方法,用于实际生活中的边缘计算应用,例如人脸情感识别、目标识别、智能终端对手写体数字识别等领域;包括如下步骤:
采集待识别样本图像;
对待识别样本图像进行预处理;
调取数据库中的数据库存储图像,各个数据库存储图像分别带有类别标签;
将预处理后的待识别样本图像分别与各个数据库存储图像组成样本对;将样本对输入到堆叠宽度孪生网络中;堆叠宽度孪生网络包含两个具有相同权重和网络结构的子网络,如图1所示;两个子网络分别一对一地对样本对中的待识别样本图像和数据库存储图像进行处理得出两路输出特征向量yo(o=1,2),对两路输出特征向量yo进行相似度度量,判断待识别样本图像和数据库存储图像是否为同一类别,从而得出识别结果;所述堆叠宽度孪生网络是指对初始堆叠宽度孪生网络进行训练和测试处理得到的堆叠宽度孪生网络。
堆叠宽度孪生网络的子网络是一种具有深层结构的堆叠式宽度学习系统;该子网络保留了原始宽度学习系统训练时间短、资源开销少的优点,同时通过残差连接堆叠多个宽度学习系统提高了整体的学习能力。在本发明中,堆叠宽度孪生网络具有两个子网络,一次比较两个样本之间的相似程度。
在本次发明设计中,采用堆叠宽度孪生网络来比较相同模态对象之间的相似关系,从而实现完成分类任务的目的。例如,在表情识别领域,我们希望比较待识别人脸图像与已知表情标签人脸图像的相似程度,并选择相似度最高的已知图像的表情标签作为待识别图像的标签。其中,比较的两个对象都是人脸图像,属于同一模态。由于比较的对象是属于同一模态,规定堆叠宽度孪生网络的两个子网络采用相同的权重和网络结构,以达到更好的比较效果。
每个子网络由b个宽度学习系统模块组成;b个宽度学习系统模块通过残差连接堆叠起来;第i-1个宽度学习系统模块的输出作为第i个宽度学习系统模块的输入,且第i个宽度学习系统模块的期望输出为第1,...,i-1个宽度学习系统模块的残差:1≤i≤b,其中Yo为期望的系统输出,uok为第k个宽度学习系统模块的输出;子网络的最终输出yo为b个宽度学习系统模块的输出总和:
每个宽度学习系统模块包含特征结点、增强结点、权重层和输出层,如图2所示。对每个宽度学习系统模块输入的数据首先通过随机设定的权重和偏差值映射为特征结点集合特征结点集合再通过随机设定的权重和偏差值映射为增强结点集合其中,特征结点集合的特征结点与增强结点集合的增强结点的连接矩阵是正交规范化后生成的随机矩阵,权重层只有权重没有偏差值;n代表特征结点的组数,m代表增强结点的组数;将特征结点和增强结点看作输入层权重层连接输入层和输出层u;在本实施例中,取b=3。
两路输出特征向量yo的计算方法是:
设定输入两个子网络的待识别样本图像和数据库存储图像分别为xo(o=1,2),输出特征向为yo;设定Voi是第o个子网络第i个宽度学习系统模块的输入,则Vo1=xo,Voi=uoi-1;Wzoiq是生成第o个子网络第i个宽度学习系统模块第q组特征结点的权重矩阵;Whoir是生成第o个子网络第i个宽度学习系统模块第r组增强结点的权重矩阵;
则第o个子网络第i个宽度学习系统模块第q组特征结点Zoiq和第r组增强结点Hoir为:
Zoiq=P(Voi,Wzoiq),q=1,2,…,n;
其中,P是由输入生成特征结点的广义函数,Q是由特征结点生成增强结点的广义函数;
计算第o个子网络第i个宽度学习系统模块的输出uoi:
第o个子网络的输出特征向量yo为:
假设样本的类别数目为C,则输出特征向量y1和y2的长度为C。我们规定Y1和Y2代表两个子网络的期望输出。在理想情况下,我们在训练的时候希望Y1和Y2中只有一位为1,代表样本属于对应的类别;Y1和Y2的其他位置为0,代表样本不属于其他的类别。在相似度度量阶段,可以使用不同的度量指标来衡量两个子网络的输出特征向量y1和y2之间的相似程度。在本实施例中,我们设计了一种基于独热编码的相似度度量方法:找出输出特征向量y1的数值最高位是第M1位,输出特征向量y2的数值最高位是第M2位;
当M1≠M2,相似度距离D为:
其中,y1(M1)和y1(M2)分别代表输出特征向量y1中第M1位和第M2位上的数值;y2(M1)和y2(M2)分别代表输出特征向量y2中第M1位和第M2位上的数值;y1(bal)代表输出特征向量y1上最大值和第二大值的平均值;y2(bal)代表输出特征向量y2上最大值和第二大值的平均值。
将相似度距离D与预设阈值进行比较:若相似度距离D≤预设阈值,则判定样本对中的待识别样本图像与数据库存储图像属于相同类别,否则判定样本对中的待识别样本图像与数据库存储图像属于不同类别;当待识别样本图像与任一数据库存储图像或两个以上数据库存储图像属于相同类别时,取相似度距离D最小的数据库存储图像的类别标签作为待识别样本图像的识别结果。
对初始堆叠宽度孪生网络进行训练和测试处理,是指:如图3所示,
S1步,设置堆叠宽度孪生网络的其中一个子网络的网络结构;
S2步,将样本图像划分为训练集和测试集;
例如用在人脸图像识别时,收集人脸图像,并对人脸图像进行预处理:检测人脸中心区域,转为灰度图,裁剪,缩放,归一化处理,得到处理后的人脸图像,之后划分为训练集和测试集;
设定样本图像为X,并且根据独热编码构造出了样本图像X的期望输出Yo;独热编码是一种广泛使用的编码方案。因为编码方案简单通用,便于设计,因此在本次设计中使用了独热编码方案。采用独热编码方案的另一个原因在于同一类别样本的独热编码是相同的。而不同类别的样本的独热编码是不同的。这样有利于在孪生网络中更加直接地比较样本之间的相似度。
当i=1时,Yoi=Yo;
S4步,对堆叠宽度孪生网络进行测试:采用测试集的样本图像构建样本对,每个样本对包括两组样本图像;将同一类别的两组样本图像设定为正样本对,不同类别的两组样本图像设定为负样本对;将样本对的两组样本图像分别输入两个子网络中,得到两个子网络的输出特征向量y1和y2;对两路输出特征向量y1和y2进行相似度度量,判断两组样本图像是否为同一类别;
S5步,判别判断结果是否准确;即:判定为同一类别的两组样本图像是否为正样本对,若是,则判断结果准确,否则判断结果不准确;判定为不同类别的两组样本图像是否为负样本对,若是,则判断结果准确,否则判断结果不准确;
统计判断结果的准确度;即:设测试集总样本对数量为p,判断结果准确的样本对数量为pt,则准确度=pt/p;
若准确度≥准确度阈值,则完成训练和测试处理;否则调整子网络的网络结构,包括对子网络的特征结点数和增强结点数进行调整,并跳至S3步重新对子网络进行训练和对堆叠宽度孪生网络进行测试。
将本发明堆叠宽度系统的边缘计算方法与传统的基于全连接神经网络的孪生网络算法以及基于宽度学习系统的孪生网络算法进行了比较。测试的指标包括准确度、训练时间开销、内存资源开销。测试的数据集包括CK+数据集,USPS数据集。
表1 CK+数据集的测试结果
Stacked BSN | FCN-SN | BSN | |
训练时间开销(s) | 2.70972110748291 | 88.74021577835083 | 2.43972110748291 |
内存资源开销(G) | 0.9343681335449219 | 3.429485321044922 | 0.9343681335449219 |
准确度 | 0.9877603 | 0.9765148785148785 | 0.9778871961769025 |
表2 USPS数据集的测试结果
Stacked BSN | FCN-SN | BSN | |
训练时间开销(s) | 4.0323079586029053 | 19.81410503387451 | 3.4323079586029053 |
内存资源开销(G) | 0.6321487426757812 | 1.8534622192382812 | 0.6321487426757812 |
准确度 | 0.9762795 | 0.9432160804020101 | 0.969855 |
其中Stacked BSN(Stacked Broad Siamese Network)代表本发明堆叠宽度系统的边缘计算方法、FCN-SN代表基于全连接的孪生网络算法、BSN(Broad Siamese Network)代表基于宽度孪生网络算法。
通过观察实验结果,可以看到本发明算法能够有效地提高准确度,同时降低时间开销以及内存资源开销。这是因为堆叠宽度孪生网络采用了浅层网络结构,节省了训练的时间和内存资源开销。同时,采用堆叠的结构,通过残差逼近的方式,堆叠宽度孪生网络能够进一步提高算法的准确度。
为实现本实施例的堆叠宽度学习系统的边缘检测方法,本实施例还提供一种堆叠宽度学习系统的边缘计算装置,包括:
采集模块,用于采集待识别样本图像;
预处理模块,用于对待识别样本图像进行预处理;
数据调取模块,用于调取数据库中的数据库存储图像,各个数据库存储图像分别带有类别标签;
检测模块,用于将预处理后的待识别样本图像分别与各个数据库存储图像组成样本对;将样本对输入到堆叠宽度孪生网络中;堆叠宽度孪生网络包含两个具有相同权重和网络结构的子网络;两个子网络分别一对一地对样本对中的待识别样本图像和数据库存储图像进行处理得出两路输出特征向量yo(o=1,2),对两路输出特征向量yo进行相似度度量,判断待识别样本图像和数据库存储图像是否为同一类别,从而得出识别结果;所述堆叠宽度孪生网络是指对初始堆叠宽度孪生网络进行训练和测试处理得到的堆叠宽度孪生网络;
每个子网络由b个宽度学习系统模块组成;b个宽度学习系统模块通过残差连接堆叠起来;第i-1个宽度学习系统模块的输出作为第i个宽度学习系统模块的输入,且第i个宽度学习系统模块的期望输出为第1,...,i-1个宽度学习系统模块的残差:1≤i≤b,其中Yo为期望的系统输出,uok为第k个宽度学习系统模块的输出;子网络的最终输出yo为b个宽度学习系统模块的输出总和:
实施例二
本实施例一种存储介质,其中所述存储介质存储有计算机程序,所述计算机程序当被处理器执行时使所述处理器执行实施例一所述的堆叠宽度学习系统的边缘计算方法。
实施例三
本实施例一种计算设备,包括处理器以及用于存储处理器可执行程序的存储器,所述处理器执行存储器存储的程序时,实现实施例一所述的堆叠宽度学习系统的边缘计算方法。
上述实施例为本发明较佳的实施方式,但本发明的实施方式并不受上述实施例的限制,其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化,均应为等效的置换方式,都包含在本发明的保护范围之内。
Claims (7)
1.一种堆叠宽度学习系统的边缘计算方法,其特征在于:包括如下步骤:
采集待识别样本图像;
对待识别样本图像进行预处理;
调取数据库中的数据库存储图像,各个数据库存储图像分别带有类别标签;
将预处理后的待识别样本图像分别与各个数据库存储图像组成样本对;将样本对输入到堆叠宽度孪生网络中;堆叠宽度孪生网络包含两个具有相同权重和网络结构的子网络;两个子网络分别一对一地对样本对中的待识别样本图像和数据库存储图像进行处理得出两路输出特征向量yo(o=1,2),对两路输出特征向量yo进行相似度度量,判断待识别样本图像和数据库存储图像是否为同一类别,从而得出识别结果;所述堆叠宽度孪生网络是指对初始堆叠宽度孪生网络进行训练和测试处理得到的堆叠宽度孪生网络;
每个子网络由b个宽度学习系统模块组成;b个宽度学习系统模块通过残差连接堆叠起来;第i-1个宽度学习系统模块的输出作为第i个宽度学习系统模块的输入,且第i个宽度学习系统模块的期望输出为第1,...,i-1个宽度学习系统模块的残差:1≤i≤b,其中Yo为期望的系统输出,uok为第k个宽度学习系统模块的输出;子网络的最终输出yo为b个宽度学习系统模块的输出总和:
每个宽度学习系统模块包含特征结点、增强结点、权重层和输出层;
所述两个子网络分别一对一地对样本对中的待识别样本图像和数据库存储图像进行处理得出两路输出特征向量yo,是指:
设定输入两个子网络的待识别样本图像和数据库存储图像分别为xo(o=1,2);设定Voi是第o个子网络第i个宽度学习系统模块的输入,则Vo1=xo,Voi=uoi-1;Wzoiq是生成第o个子网络第i个宽度学习系统模块第q组特征结点的权重矩阵;Whoir是生成第o个子网络第i个宽度学习系统模块第r组增强结点的权重矩阵;
则第o个子网络第i个宽度学习系统模块第q组特征结点Zoiq和第r组增强结点Hoir为:
Zoiq=P(Voi,Wzoiq),q=1,2,…,n;
其中,P是由输入生成特征结点的广义函数,Q是由特征结点生成增强结点的广义函数;
计算第o个子网络第i个宽度学习系统模块的输出uoi:
第o个子网络的输出特征向量yo为:
所述对两路输出特征向量yo进行相似度度量,是指:
找出输出特征向量y1的数值最高位是第M1位,输出特征向量y2的数值最高位是第M2位;
当M1≠M2,相似度距离D为:
其中,y1(M1)和y1(M2)分别代表输出特征向量y1中第M1位和第M2位上的数值;y2(M1)和y2(M2)分别代表输出特征向量y2中第M1位和第M2位上的数值;y1(bal)代表输出特征向量y1上最大值和第二大值的平均值;y2(bal)代表输出特征向量y2上最大值和第二大值的平均值。
2.根据权利要求1所述的堆叠宽度学习系统的边缘计算方法,其特征在于:所述对初始堆叠宽度孪生网络进行训练和测试处理,是指:
S1步,设置堆叠宽度孪生网络的其中一个子网络的网络结构;
S2步,将样本图像划分为训练集和测试集;
S4步,对堆叠宽度孪生网络进行测试:采用测试集的样本图像构建样本对,每个样本对包括两组样本图像;将同一类别的两组样本图像设定为正样本对,不同类别的两组样本图像设定为负样本对;将样本对的两组样本图像分别输入两个子网络中,得到两个子网络的输出特征向量y1和y2;对两路输出特征向量y1和y2进行相似度度量,判断两组样本图像是否为同一类别;
S5步,判别判断结果是否准确;统计判断结果的准确度;若准确度≥准确度阈值,则完成训练和测试处理;否则调整子网络的网络结构,包括对子网络的特征结点数和增强结点数进行调整,并跳至S3步重新对子网络进行训练和对堆叠宽度孪生网络进行测试。
4.根据权利要求1所述的堆叠宽度学习系统的边缘计算方法,其特征在于:得出识别结果的方法是:将相似度距离D与预设阈值进行比较:若相似度距离D≤预设阈值,则判定样本对中的待识别样本图像与数据库存储图像属于相同类别,否则判定样本对中的待识别样本图像与数据库存储图像属于不同类别;当待识别样本图像与任一数据库存储图像或两个以上数据库存储图像属于相同类别时,取相似度距离D最小的数据库存储图像的类别标签作为待识别样本图像的识别结果。
5.一种堆叠宽度学习系统的边缘计算装置,其特征在于:包括:
采集模块,用于采集待识别样本图像;
预处理模块,用于对待识别样本图像进行预处理;
数据调取模块,用于调取数据库中的数据库存储图像,各个数据库存储图像分别带有类别标签;
检测模块,用于将预处理后的待识别样本图像分别与各个数据库存储图像组成样本对;将样本对输入到堆叠宽度孪生网络中;堆叠宽度孪生网络包含两个具有相同权重和网络结构的子网络;两个子网络分别一对一地对样本对中的待识别样本图像和数据库存储图像进行处理得出两路输出特征向量yo(o=1,2),对两路输出特征向量yo进行相似度度量,判断待识别样本图像和数据库存储图像是否为同一类别,从而得出识别结果;所述堆叠宽度孪生网络是指对初始堆叠宽度孪生网络进行训练和测试处理得到的堆叠宽度孪生网络;
每个子网络由b个宽度学习系统模块组成;b个宽度学习系统模块通过残差连接堆叠起来;第i-1个宽度学习系统模块的输出作为第i个宽度学习系统模块的输入,且第i个宽度学习系统模块的期望输出为第1,...,i-1个宽度学习系统模块的残差:1≤i≤b,其中Yo为期望的系统输出,uok为第k个宽度学习系统模块的输出;子网络的最终输出yo为b个宽度学习系统模块的输出总和:
每个宽度学习系统模块包含特征结点、增强结点、权重层和输出层;
所述两个子网络分别一对一地对样本对中的待识别样本图像和数据库存储图像进行处理得出两路输出特征向量yo,是指:
设定输入两个子网络的待识别样本图像和数据库存储图像分别为xo(o=1,2);设定Voi是第o个子网络第i个宽度学习系统模块的输入,则Vo1=xo,Voi=uoi-1;Wzoiq是生成第o个子网络第i个宽度学习系统模块第q组特征结点的权重矩阵;Whoir是生成第o个子网络第i个宽度学习系统模块第r组增强结点的权重矩阵;
则第o个子网络第i个宽度学习系统模块第q组特征结点Zoiq和第r组增强结点Hoir为:
Zoiq=P(Voi,Wzoiq),q=1,2,…,n;
其中,P是由输入生成特征结点的广义函数,Q是由特征结点生成增强结点的广义函数;
计算第o个子网络第i个宽度学习系统模块的输出uoi:
第o个子网络的输出特征向量yo为:
所述对两路输出特征向量yo进行相似度度量,是指:
找出输出特征向量y1的数值最高位是第M1位,输出特征向量y2的数值最高位是第M2位;
当M1≠M2,相似度距离D为:
其中,y1(M1)和y1(M2)分别代表输出特征向量y1中第M1位和第M2位上的数值;y2(M1)和y2(M2)分别代表输出特征向量y2中第M1位和第M2位上的数值;y1(bal)代表输出特征向量y1上最大值和第二大值的平均值;y2(bal)代表输出特征向量y2上最大值和第二大值的平均值。
6.一种存储介质,其特征在于,其中所述存储介质存储有计算机程序,所述计算机程序当被处理器执行时使所述处理器执行权利要求1-4中任一项所述的堆叠宽度学习系统的边缘计算方法。
7.一种计算设备,包括处理器以及用于存储处理器可执行程序的存储器,其特征在于,所述处理器执行存储器存储的程序时,实现权利要求1-4中任一项所述的堆叠宽度学习系统的边缘计算方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110630388.3A CN113379779B (zh) | 2021-06-07 | 2021-06-07 | 堆叠宽度学习系统的边缘计算方法、装置、介质和设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110630388.3A CN113379779B (zh) | 2021-06-07 | 2021-06-07 | 堆叠宽度学习系统的边缘计算方法、装置、介质和设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113379779A CN113379779A (zh) | 2021-09-10 |
CN113379779B true CN113379779B (zh) | 2023-04-07 |
Family
ID=77576020
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110630388.3A Active CN113379779B (zh) | 2021-06-07 | 2021-06-07 | 堆叠宽度学习系统的边缘计算方法、装置、介质和设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113379779B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114445661B (zh) * | 2022-01-24 | 2023-08-18 | 电子科技大学 | 一种基于边缘计算的嵌入式图像识别方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110163260A (zh) * | 2019-04-26 | 2019-08-23 | 平安科技(深圳)有限公司 | 基于残差网络的图像识别方法、装置、设备及存储介质 |
WO2020211339A1 (zh) * | 2019-04-16 | 2020-10-22 | 平安科技(深圳)有限公司 | 指静脉识别方法、装置、计算机设备及存储介质 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109784182A (zh) * | 2018-12-17 | 2019-05-21 | 北京飞搜科技有限公司 | 行人重识别方法和装置 |
CN112508192B (zh) * | 2020-12-21 | 2022-04-22 | 华南理工大学 | 一种具有深度结构的增量堆叠式宽度学习系统 |
-
2021
- 2021-06-07 CN CN202110630388.3A patent/CN113379779B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020211339A1 (zh) * | 2019-04-16 | 2020-10-22 | 平安科技(深圳)有限公司 | 指静脉识别方法、装置、计算机设备及存储介质 |
CN110163260A (zh) * | 2019-04-26 | 2019-08-23 | 平安科技(深圳)有限公司 | 基于残差网络的图像识别方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113379779A (zh) | 2021-09-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110287983B (zh) | 基于最大相关熵深度神经网络单分类器异常检测方法 | |
CN111126482B (zh) | 一种基于多分类器级联模型的遥感影像自动分类方法 | |
CN109783879B (zh) | 一种雷达辐射源信号识别效能评估方法及系统 | |
CN111695611B (zh) | 一种蜂群优化核极限学习和稀疏表示机械故障识别方法 | |
CN112633154B (zh) | 一种异源人脸特征向量之间的转换方法及系统 | |
CN108520215A (zh) | 基于多尺度联合特征编码器的单样本人脸识别方法 | |
CN115580445A (zh) | 一种未知攻击入侵检测方法、装置和计算机可读存储介质 | |
CN113723238B (zh) | 一种人脸轻量网络模型构建方法和人脸识别方法 | |
CN116127298B (zh) | 基于三元组损失的小样本射频指纹识别方法 | |
CN111709523A (zh) | 一种基于内部集成的宽度学习方法 | |
CN109145704B (zh) | 一种基于人脸属性的人脸画像识别方法 | |
CN114037001A (zh) | 基于wgan-gp-c和度量学习的机械泵小样本故障诊断方法 | |
CN115830387A (zh) | 一种模型训练方法、训练装置、分类方法及分类装置 | |
CN113379779B (zh) | 堆叠宽度学习系统的边缘计算方法、装置、介质和设备 | |
CN109101984B (zh) | 一种基于卷积神经网络的图像识别方法及装置 | |
Chen et al. | A convolutional neural network with dynamic correlation pooling | |
CN114677535A (zh) | 域适应图像分类网络的训练方法、图像分类方法及装置 | |
CN117516937A (zh) | 基于多模态特征融合增强的滚动轴承未知故障检测方法 | |
Maurer et al. | Robust unsupervised learning via l-statistic minimization | |
CN113255543B (zh) | 基于图卷积网络的面部表情识别方法 | |
CN117131436A (zh) | 面向开放环境的辐射源个体识别方法 | |
CN117079017A (zh) | 可信的小样本图像识别分类方法 | |
CN115348198B (zh) | 基于特征检索的未知加密协议识别分类方法、设备及介质 | |
Gorokhovatskiy et al. | Vector Quantization, Learning and Recognition in the Space of Descriptors of Structural Features of Images | |
CN114926702A (zh) | 一种基于深度注意力度量的小样本图像分类方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |