CN113379779B - 堆叠宽度学习系统的边缘计算方法、装置、介质和设备 - Google Patents

堆叠宽度学习系统的边缘计算方法、装置、介质和设备 Download PDF

Info

Publication number
CN113379779B
CN113379779B CN202110630388.3A CN202110630388A CN113379779B CN 113379779 B CN113379779 B CN 113379779B CN 202110630388 A CN202110630388 A CN 202110630388A CN 113379779 B CN113379779 B CN 113379779B
Authority
CN
China
Prior art keywords
learning system
network
sub
sample
width learning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110630388.3A
Other languages
English (en)
Other versions
CN113379779A (zh
Inventor
李逸楷
张通
陈俊龙
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
South China University of Technology SCUT
Original Assignee
South China University of Technology SCUT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by South China University of Technology SCUT filed Critical South China University of Technology SCUT
Priority to CN202110630388.3A priority Critical patent/CN113379779B/zh
Publication of CN113379779A publication Critical patent/CN113379779A/zh
Application granted granted Critical
Publication of CN113379779B publication Critical patent/CN113379779B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/13—Edge detection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Image Analysis (AREA)

Abstract

本发明提供了一种堆叠宽度学习系统的边缘计算方法、装置、介质和设备；其中方法包括如下步骤：采集待识别样本图像；对待识别样本图像进行预处理；将预处理后的待识别样本图像分别与各个数据库存储图像组成样本对；将样本对输入到堆叠宽度孪生网络中；堆叠宽度孪生网络包含两个具有相同权重和网络结构的子网络；两个子网络分别一对一地对样本对中的待识别样本图像和数据库存储图像进行处理得出两路输出特征向量，进行相似度度量，判断待识别样本图像和数据库存储图像是否为同一类别，从而得出识别结果。该方法能够在确保准确度的情况下有效降低训练时间和内存资源开销。

Description

堆叠宽度学习系统的边缘计算方法、装置、介质和设备
技术领域
本发明涉及边缘检测技术领域，更具体地说，涉及一种堆叠宽度学习系统的边缘计算方法、装置、介质和设备。
背景技术
边缘计算强调将数据处理过程放置在网络边缘终端设备附近，以达到通信延迟，减少资源开销的目的。近年来，随着5G通信等新技术的发展，边缘计算应用得到了进一步的拓广。近年来，随着人工智能应用的普及，将人工智能技术与边缘计算应用相结合成为一种新的趋势。人们称之为“边缘智能”。
孪生网络是人工智能领域的一种算法，由两个或者多个子网络组成，经常用于比较输入样本之间的相似程度。在实际生活中有着广泛的应用场景；例如，在边缘计算领域，可以孪生网络可以被使用来完成人脸识别、表情分析、签名验证、目标识别、自然语言处理等领域。近年来，人们广泛应用深度神经网络来构建孪生网络的子网络，虽然在准确度上取得了不错的效果，但有时候会面临着训练时间过长，资源开销过大的问题。
在本次专利申请中，我们将堆叠宽度学习系统应用于构建孪生网络框架，提出了一种堆叠宽度孪生网络算法，并用来解决边缘计算应用中的分类问题。实验结果表明我们的方法能够在确保准确度的情况下有效降低时间和内存资源开销，从而更好地满足边缘计算应用的要求。
发明内容
为克服现有技术中的缺点与不足，本发明的目的在于提供一种堆叠宽度学习系统的边缘计算方法、装置、介质和设备；该方法能够在确保准确度的情况下有效降低训练时间和内存资源开销。
为了达到上述目的，本发明通过下述技术方案予以实现：一种堆叠宽度学习系统的边缘计算方法，其特征在于：包括如下步骤：
采集待识别样本图像；
对待识别样本图像进行预处理；
调取数据库中的数据库存储图像，各个数据库存储图像分别带有类别标签；
将预处理后的待识别样本图像分别与各个数据库存储图像组成样本对；将样本对输入到堆叠宽度孪生网络中；堆叠宽度孪生网络包含两个具有相同权重和网络结构的子网络；两个子网络分别一对一地对样本对中的待识别样本图像和数据库存储图像进行处理得出两路输出特征向量yo(o＝1,2)，对两路输出特征向量yo进行相似度度量，判断待识别样本图像和数据库存储图像是否为同一类别，从而得出识别结果；所述堆叠宽度孪生网络是指对初始堆叠宽度孪生网络进行训练和测试处理得到的堆叠宽度孪生网络；
每个子网络由b个宽度学习系统模块组成；b个宽度学习系统模块通过残差连接堆叠起来；第i-1个宽度学习系统模块的输出作为第i个宽度学习系统模块的输入，且第i个宽度学习系统模块的期望输出为第1，...，i-1个宽度学习系统模块的残差：
Figure BDA0003103468120000021
1≤i≤b，其中Yo为期望的系统输出，uok为第k个宽度学习系统模块的输出；子网络的最终输出yo为b个宽度学习系统模块的输出总和：
Figure BDA0003103468120000022
优选地，每个宽度学习系统模块包含特征结点、增强结点、权重层和输出层。
优选地，所述两个子网络分别一对一地对样本对中的待识别样本图像和数据库存储图像进行处理得出两路输出特征向量yo，是指：
设定输入两个子网络的待识别样本图像和数据库存储图像分别为xo(o＝1,2)；设定Voi是第o个子网络第i个宽度学习系统模块的输入，则Vo1＝xo，Voi＝uoi-1；Wzoiq是生成第o个子网络第i个宽度学习系统模块第q组特征结点的权重矩阵；Whoir是生成第o个子网络第i个宽度学习系统模块第r组增强结点的权重矩阵；
则第o个子网络第i个宽度学习系统模块第q组特征结点Zoiq和第r组增强结点Hoir为：
Zoiq＝P(Voi,Wzoiq),q＝1,2,…,n；
Figure BDA0003103468120000031
其中，P是由输入生成特征结点的广义函数，Q是由特征结点生成增强结点的广义函数；
得到第o个子网络第i个宽度学习系统模块的特征结点
Figure BDA0003103468120000032
和增强结点
Figure BDA0003103468120000033
Figure BDA0003103468120000034
计算第o个子网络第i个宽度学习系统模块的输出uoi：
Figure BDA0003103468120000035
第o个子网络的输出特征向量yo为：
Figure BDA0003103468120000036
优选地，所述对初始堆叠宽度孪生网络进行训练和测试处理，是指：
S1步，设置堆叠宽度孪生网络的其中一个子网络的网络结构；
S2步，将样本图像划分为训练集和测试集；
S3步，对设置好网络结构的子网络进行训练：将训练集的样本图像输入到子网络中，并通过求解伪逆方式得到子网络每一层宽度学习系统模块的权重矩阵
Figure BDA0003103468120000041
将训练完成的子网络的网络结构及权重矩阵
Figure BDA0003103468120000042
共享到另一个子网络中；
S4步，对堆叠宽度孪生网络进行测试：采用测试集的样本图像构建样本对，每个样本对包括两组样本图像；将同一类别的两组样本图像设定为正样本对，不同类别的两组样本图像设定为负样本对；将样本对的两组样本图像分别输入两个子网络中，得到两个子网络的输出特征向量y1和y2；对两路输出特征向量y1和y2进行相似度度量，判断两组样本图像是否为同一类别；
S5步，判别判断结果是否准确；统计判断结果的准确度；若准确度≥准确度阈值，则完成训练和测试处理；否则调整子网络的网络结构，包括对子网络的特征结点数和增强结点数进行调整，并跳至S3步重新对子网络进行训练和对堆叠宽度孪生网络进行测试。
优选地，所述通过求解伪逆方式得到子网络每一层宽度学习系统模块的权重矩阵
Figure BDA0003103468120000043
是指：
设定样本图像为X，并且根据独热编码构造出了样本图像X的期望输出Yo；根据已知的样本图像X和期望输出Yo通过求解伪逆计算出子网络每一层宽度学习系统模块的权重矩阵
Figure BDA0003103468120000044
Figure BDA0003103468120000045
其中，
Figure BDA0003103468120000046
是
Figure BDA0003103468120000047
的伪逆，
Figure BDA0003103468120000048
可以通过岭回归算法求解得到；Yoi是子网络第i个宽度学习系统模块的期望输出：
当i＝1时，Yoi＝Yo；
当i≥2时，
Figure BDA0003103468120000049
通过逐个宽度学习系统模块依次计算，得出子网络的第i个宽度学习系统模块的权重层
Figure BDA0003103468120000051
优选地，所述对两路输出特征向量yo进行相似度度量，是指：
找出输出特征向量y1的数值最高位是第M1位，输出特征向量y2的数值最高位是第M2位；
当M1＝M2，相似度距离D为：
Figure BDA0003103468120000052
当M1≠M2，相似度距离D为：
Figure BDA0003103468120000053
其中，y1(M1)和y1(M2)分别代表输出特征向量y1中第M1位和第M2位上的数值；y2(M1)和y2(M2)分别代表输出特征向量y2中第M1位和第M2位上的数值；y1(bal)代表输出特征向量y1上最大值和第二大值的平均值；y2(bal)代表输出特征向量y2上最大值和第二大值的平均值。
优选地，得出识别结果的方法是：将相似度距离D与预设阈值进行比较：若相似度距离D≤预设阈值，则判定样本对中的待识别样本图像与数据库存储图像属于相同类别，否则判定样本对中的待识别样本图像与数据库存储图像属于不同类别；当待识别样本图像与任一数据库存储图像或两个以上数据库存储图像属于相同类别时，取相似度距离D最小的数据库存储图像的类别标签作为待识别样本图像的识别结果。
一种堆叠宽度学习系统的边缘计算装置，其特征在于：包括：
采集模块，用于采集待识别样本图像；
预处理模块，用于对待识别样本图像进行预处理；
数据调取模块，用于调取数据库中的数据库存储图像，各个数据库存储图像分别带有类别标签；
检测模块，用于将预处理后的待识别样本图像分别与各个数据库存储图像组成样本对；将样本对输入到堆叠宽度孪生网络中；堆叠宽度孪生网络包含两个具有相同权重和网络结构的子网络；两个子网络分别一对一地对样本对中的待识别样本图像和数据库存储图像进行处理得出两路输出特征向量yo(o＝1,2)，对两路输出特征向量yo进行相似度度量，判断待识别样本图像和数据库存储图像是否为同一类别，从而得出识别结果；所述堆叠宽度孪生网络是指对初始堆叠宽度孪生网络进行训练和测试处理得到的堆叠宽度孪生网络；
每个子网络由b个宽度学习系统模块组成；b个宽度学习系统模块通过残差连接堆叠起来；第i-1个宽度学习系统模块的输出作为第i个宽度学习系统模块的输入，且第i个宽度学习系统模块的期望输出为第1，...，i-1个宽度学习系统模块的残差：
Figure BDA0003103468120000061
1≤i≤b，其中Yo为期望的系统输出，uok为第k个宽度学习系统模块的输出；子网络的最终输出yo为b个宽度学习系统模块的输出总和：
Figure BDA0003103468120000062
一种存储介质，其特征在于，其中所述存储介质存储有计算机程序，所述计算机程序当被处理器执行时使所述处理器执行上述堆叠宽度学习系统的边缘计算方法。
一种计算设备，包括处理器以及用于存储处理器可执行程序的存储器，其特征在于，所述处理器执行存储器存储的程序时，实现上述堆叠宽度学习系统的边缘计算方法。
与现有技术相比，本发明具有如下优点与有益效果：
1、本发明采用堆叠宽度孪生网络，能够进一步提高分类的准确度：由于堆叠宽度孪生网络采用堆叠宽度学习系统作为子网络，而宽度孪生网络采用宽度学习系统作为子网络；堆叠宽度学习系统通过残差逼近的方式在宽度学习系统的基础上进一步提高了准确度，因此帮助堆叠宽度孪生网络进一步地提高了分类准确度；
2、与基于传统深度学习的孪生网络方法相比，堆叠宽度孪生网络能够有效降低训练时间和内存资源开销：由于堆叠宽度孪生网络是使用堆叠宽度学习系统来构建子网络，而传统孪生网络使用深度神经网络来构建子网络；堆叠宽度学习系统属于浅层网络，参数较少因此降低了存储资源开销；同时，堆叠宽度学习系统没有反向传播更新参数的过程，直接使用伪逆求解网络参数，因此降低了训练时间开销；
3、边缘计算方法通常对延迟和计算资源开销有较高的要求，堆叠宽度孪生网络能够在保证分类准确度的情况下降低训练时间和内存资源开销，从而更好地满足边缘计算方法的要求。
附图说明
图1是本发明堆叠宽度学习系统的边缘计算方法的堆叠宽度孪生网络的结构示意图；
图2是本发明堆叠宽度学习系统的边缘计算方法的宽度学习系统模块的结构示意图；
图3是本发明堆叠宽度学习系统的边缘计算方法的堆叠宽度孪生网络的训练流程示意图；
图4(1)是几种算法在CK+数据集的ROC曲线图；
图4(2)是几种算法在CK+数据集的阈值曲线图；
图5(1)是几种算法在USPS数据集的ROC曲线图；
图5(2)是几种算法在USPS数据集的阈值曲线图。
具体实施方式
下面结合附图与具体实施方式对本发明作进一步详细的描述。
实施例一
本实施例一种堆叠宽度学习系统的边缘计算方法，用于实际生活中的边缘计算应用，例如人脸情感识别、目标识别、智能终端对手写体数字识别等领域；包括如下步骤：
采集待识别样本图像；
对待识别样本图像进行预处理；
调取数据库中的数据库存储图像，各个数据库存储图像分别带有类别标签；
将预处理后的待识别样本图像分别与各个数据库存储图像组成样本对；将样本对输入到堆叠宽度孪生网络中；堆叠宽度孪生网络包含两个具有相同权重和网络结构的子网络，如图1所示；两个子网络分别一对一地对样本对中的待识别样本图像和数据库存储图像进行处理得出两路输出特征向量yo(o＝1,2)，对两路输出特征向量yo进行相似度度量，判断待识别样本图像和数据库存储图像是否为同一类别，从而得出识别结果；所述堆叠宽度孪生网络是指对初始堆叠宽度孪生网络进行训练和测试处理得到的堆叠宽度孪生网络。
堆叠宽度孪生网络的子网络是一种具有深层结构的堆叠式宽度学习系统；该子网络保留了原始宽度学习系统训练时间短、资源开销少的优点，同时通过残差连接堆叠多个宽度学习系统提高了整体的学习能力。在本发明中，堆叠宽度孪生网络具有两个子网络，一次比较两个样本之间的相似程度。
在本次发明设计中，采用堆叠宽度孪生网络来比较相同模态对象之间的相似关系，从而实现完成分类任务的目的。例如，在表情识别领域，我们希望比较待识别人脸图像与已知表情标签人脸图像的相似程度，并选择相似度最高的已知图像的表情标签作为待识别图像的标签。其中，比较的两个对象都是人脸图像，属于同一模态。由于比较的对象是属于同一模态，规定堆叠宽度孪生网络的两个子网络采用相同的权重和网络结构，以达到更好的比较效果。
每个子网络由b个宽度学习系统模块组成；b个宽度学习系统模块通过残差连接堆叠起来；第i-1个宽度学习系统模块的输出作为第i个宽度学习系统模块的输入，且第i个宽度学习系统模块的期望输出为第1，...，i-1个宽度学习系统模块的残差：
Figure BDA0003103468120000091
1≤i≤b，其中Yo为期望的系统输出，uok为第k个宽度学习系统模块的输出；子网络的最终输出yo为b个宽度学习系统模块的输出总和：
Figure BDA0003103468120000092
每个宽度学习系统模块包含特征结点、增强结点、权重层和输出层，如图2所示。对每个宽度学习系统模块输入的数据首先通过随机设定的权重和偏差值映射为特征结点集合
Figure BDA0003103468120000093
特征结点集合
Figure BDA0003103468120000094
再通过随机设定的权重和偏差值映射为增强结点集合
Figure BDA0003103468120000095
其中，特征结点集合
Figure BDA0003103468120000096
的特征结点与增强结点集合
Figure BDA0003103468120000097
的增强结点的连接矩阵是正交规范化后生成的随机矩阵，权重层
Figure BDA0003103468120000098
只有权重没有偏差值；n代表特征结点的组数，m代表增强结点的组数；将特征结点和增强结点看作输入层
Figure BDA0003103468120000099
权重层
Figure BDA00031034681200000910
连接输入层和输出层u；在本实施例中，取b＝3。
两路输出特征向量yo的计算方法是：
设定输入两个子网络的待识别样本图像和数据库存储图像分别为xo(o＝1,2)，输出特征向为yo；设定Voi是第o个子网络第i个宽度学习系统模块的输入，则Vo1＝xo，Voi＝uoi-1；Wzoiq是生成第o个子网络第i个宽度学习系统模块第q组特征结点的权重矩阵；Whoir是生成第o个子网络第i个宽度学习系统模块第r组增强结点的权重矩阵；
则第o个子网络第i个宽度学习系统模块第q组特征结点Zoiq和第r组增强结点Hoir为：
Zoiq＝P(Voi,Wzoiq),q＝1,2,…,n；
Figure BDA0003103468120000101
其中，P是由输入生成特征结点的广义函数，Q是由特征结点生成增强结点的广义函数；
得到第o个子网络第i个宽度学习系统模块的特征结点
Figure BDA0003103468120000102
和增强结点
Figure BDA0003103468120000103
Figure BDA0003103468120000104
计算第o个子网络第i个宽度学习系统模块的输出uoi：
Figure BDA0003103468120000105
第o个子网络的输出特征向量yo为：
Figure BDA0003103468120000106
假设样本的类别数目为C，则输出特征向量y1和y2的长度为C。我们规定Y1和Y2代表两个子网络的期望输出。在理想情况下，我们在训练的时候希望Y1和Y2中只有一位为1，代表样本属于对应的类别；Y1和Y2的其他位置为0，代表样本不属于其他的类别。在相似度度量阶段，可以使用不同的度量指标来衡量两个子网络的输出特征向量y1和y2之间的相似程度。在本实施例中，我们设计了一种基于独热编码的相似度度量方法：找出输出特征向量y1的数值最高位是第M1位，输出特征向量y2的数值最高位是第M2位；
当M1＝M2，相似度距离D为：
Figure BDA0003103468120000107
当M1≠M2，相似度距离D为：
Figure BDA0003103468120000108
其中，y1(M1)和y1(M2)分别代表输出特征向量y1中第M1位和第M2位上的数值；y2(M1)和y2(M2)分别代表输出特征向量y2中第M1位和第M2位上的数值；y1(bal)代表输出特征向量y1上最大值和第二大值的平均值；y2(bal)代表输出特征向量y2上最大值和第二大值的平均值。
将相似度距离D与预设阈值进行比较：若相似度距离D≤预设阈值，则判定样本对中的待识别样本图像与数据库存储图像属于相同类别，否则判定样本对中的待识别样本图像与数据库存储图像属于不同类别；当待识别样本图像与任一数据库存储图像或两个以上数据库存储图像属于相同类别时，取相似度距离D最小的数据库存储图像的类别标签作为待识别样本图像的识别结果。
对初始堆叠宽度孪生网络进行训练和测试处理，是指：如图3所示，
S1步，设置堆叠宽度孪生网络的其中一个子网络的网络结构；
S2步，将样本图像划分为训练集和测试集；
例如用在人脸图像识别时，收集人脸图像，并对人脸图像进行预处理：检测人脸中心区域，转为灰度图，裁剪，缩放，归一化处理，得到处理后的人脸图像，之后划分为训练集和测试集；
S3步，对设置好网络结构的子网络进行训练：将训练集的样本图像输入到子网络中，并通过求解伪逆方式得到子网络每一层宽度学习系统模块的权重矩阵
Figure BDA0003103468120000111
将训练完成的子网络的网络结构及权重矩阵
Figure BDA0003103468120000112
共享到另一个子网络中；
权重矩阵
Figure BDA0003103468120000113
的计算方法是：
设定样本图像为X，并且根据独热编码构造出了样本图像X的期望输出Yo；独热编码是一种广泛使用的编码方案。因为编码方案简单通用，便于设计，因此在本次设计中使用了独热编码方案。采用独热编码方案的另一个原因在于同一类别样本的独热编码是相同的。而不同类别的样本的独热编码是不同的。这样有利于在孪生网络中更加直接地比较样本之间的相似度。
根据已知的样本图像X和期望输出Yo通过求解伪逆计算出子网络每一层宽度学习系统模块的权重矩阵
Figure BDA0003103468120000121
已知
Figure BDA0003103468120000122
得到
Figure BDA0003103468120000123
其中，
Figure BDA0003103468120000124
是
Figure BDA0003103468120000125
的伪逆，
Figure BDA0003103468120000126
可以通过岭回归算法求解得到；Yoi是子网络第i个宽度学习系统模块的期望输出：
当i＝1时，Yoi＝Yo；
当i≥2时，
Figure BDA0003103468120000127
通过逐个宽度学习系统模块依次计算，得出子网络的第i个宽度学习系统模块的权重层
Figure BDA0003103468120000128
S4步，对堆叠宽度孪生网络进行测试：采用测试集的样本图像构建样本对，每个样本对包括两组样本图像；将同一类别的两组样本图像设定为正样本对，不同类别的两组样本图像设定为负样本对；将样本对的两组样本图像分别输入两个子网络中，得到两个子网络的输出特征向量y1和y2；对两路输出特征向量y1和y2进行相似度度量，判断两组样本图像是否为同一类别；
S5步，判别判断结果是否准确；即：判定为同一类别的两组样本图像是否为正样本对，若是，则判断结果准确，否则判断结果不准确；判定为不同类别的两组样本图像是否为负样本对，若是，则判断结果准确，否则判断结果不准确；
统计判断结果的准确度；即：设测试集总样本对数量为p，判断结果准确的样本对数量为pt，则准确度＝pt/p；
若准确度≥准确度阈值，则完成训练和测试处理；否则调整子网络的网络结构，包括对子网络的特征结点数和增强结点数进行调整，并跳至S3步重新对子网络进行训练和对堆叠宽度孪生网络进行测试。
将本发明堆叠宽度系统的边缘计算方法与传统的基于全连接神经网络的孪生网络算法以及基于宽度学习系统的孪生网络算法进行了比较。测试的指标包括准确度、训练时间开销、内存资源开销。测试的数据集包括CK+数据集，USPS数据集。
表1 CK+数据集的测试结果
Stacked BSN FCN-SN BSN
训练时间开销(s) 2.70972110748291 88.74021577835083 2.43972110748291
内存资源开销(G) 0.9343681335449219 3.429485321044922 0.9343681335449219
准确度 0.9877603 0.9765148785148785 0.9778871961769025
表2 USPS数据集的测试结果
Stacked BSN FCN-SN BSN
训练时间开销(s) 4.0323079586029053 19.81410503387451 3.4323079586029053
内存资源开销(G) 0.6321487426757812 1.8534622192382812 0.6321487426757812
准确度 0.9762795 0.9432160804020101 0.969855
其中Stacked BSN(Stacked Broad Siamese Network)代表本发明堆叠宽度系统的边缘计算方法、FCN-SN代表基于全连接的孪生网络算法、BSN(Broad Siamese Network)代表基于宽度孪生网络算法。
比较时，通过改变阈值
Figure BDA0003103468120000131
数值来观察阈值
Figure BDA0003103468120000132
对准确度的影响，将实验结果画成了阈值曲线，并比较了几种算法的ROC(受试者工作特征)曲线，如图4(1)、图4(2)、图5(1)和图5(2)所示。
通过观察实验结果，可以看到本发明算法能够有效地提高准确度，同时降低时间开销以及内存资源开销。这是因为堆叠宽度孪生网络采用了浅层网络结构，节省了训练的时间和内存资源开销。同时，采用堆叠的结构，通过残差逼近的方式，堆叠宽度孪生网络能够进一步提高算法的准确度。
为实现本实施例的堆叠宽度学习系统的边缘检测方法，本实施例还提供一种堆叠宽度学习系统的边缘计算装置，包括：
采集模块，用于采集待识别样本图像；
预处理模块，用于对待识别样本图像进行预处理；
数据调取模块，用于调取数据库中的数据库存储图像，各个数据库存储图像分别带有类别标签；
检测模块，用于将预处理后的待识别样本图像分别与各个数据库存储图像组成样本对；将样本对输入到堆叠宽度孪生网络中；堆叠宽度孪生网络包含两个具有相同权重和网络结构的子网络；两个子网络分别一对一地对样本对中的待识别样本图像和数据库存储图像进行处理得出两路输出特征向量yo(o＝1,2)，对两路输出特征向量yo进行相似度度量，判断待识别样本图像和数据库存储图像是否为同一类别，从而得出识别结果；所述堆叠宽度孪生网络是指对初始堆叠宽度孪生网络进行训练和测试处理得到的堆叠宽度孪生网络；
每个子网络由b个宽度学习系统模块组成；b个宽度学习系统模块通过残差连接堆叠起来；第i-1个宽度学习系统模块的输出作为第i个宽度学习系统模块的输入，且第i个宽度学习系统模块的期望输出为第1，...，i-1个宽度学习系统模块的残差：
Figure BDA0003103468120000141
1≤i≤b，其中Yo为期望的系统输出，uok为第k个宽度学习系统模块的输出；子网络的最终输出yo为b个宽度学习系统模块的输出总和：
Figure BDA0003103468120000142
实施例二
本实施例一种存储介质，其中所述存储介质存储有计算机程序，所述计算机程序当被处理器执行时使所述处理器执行实施例一所述的堆叠宽度学习系统的边缘计算方法。
实施例三
本实施例一种计算设备，包括处理器以及用于存储处理器可执行程序的存储器，所述处理器执行存储器存储的程序时，实现实施例一所述的堆叠宽度学习系统的边缘计算方法。
上述实施例为本发明较佳的实施方式，但本发明的实施方式并不受上述实施例的限制，其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化，均应为等效的置换方式，都包含在本发明的保护范围之内。

Claims (7)

1.一种堆叠宽度学习系统的边缘计算方法，其特征在于：包括如下步骤：
采集待识别样本图像；
对待识别样本图像进行预处理；
调取数据库中的数据库存储图像，各个数据库存储图像分别带有类别标签；
将预处理后的待识别样本图像分别与各个数据库存储图像组成样本对；将样本对输入到堆叠宽度孪生网络中；堆叠宽度孪生网络包含两个具有相同权重和网络结构的子网络；两个子网络分别一对一地对样本对中的待识别样本图像和数据库存储图像进行处理得出两路输出特征向量yo(o＝1,2)，对两路输出特征向量yo进行相似度度量，判断待识别样本图像和数据库存储图像是否为同一类别，从而得出识别结果；所述堆叠宽度孪生网络是指对初始堆叠宽度孪生网络进行训练和测试处理得到的堆叠宽度孪生网络；
每个子网络由b个宽度学习系统模块组成；b个宽度学习系统模块通过残差连接堆叠起来；第i-1个宽度学习系统模块的输出作为第i个宽度学习系统模块的输入，且第i个宽度学习系统模块的期望输出为第1，...，i-1个宽度学习系统模块的残差：
Figure FDA0003908659100000011
1≤i≤b，其中Yo为期望的系统输出，uok为第k个宽度学习系统模块的输出；子网络的最终输出yo为b个宽度学习系统模块的输出总和：
Figure FDA0003908659100000012
每个宽度学习系统模块包含特征结点、增强结点、权重层和输出层；
所述两个子网络分别一对一地对样本对中的待识别样本图像和数据库存储图像进行处理得出两路输出特征向量yo，是指：
设定输入两个子网络的待识别样本图像和数据库存储图像分别为xo(o＝1,2)；设定Voi是第o个子网络第i个宽度学习系统模块的输入，则Vo1＝xo，Voi＝uoi-1；Wzoiq是生成第o个子网络第i个宽度学习系统模块第q组特征结点的权重矩阵；Whoir是生成第o个子网络第i个宽度学习系统模块第r组增强结点的权重矩阵；
则第o个子网络第i个宽度学习系统模块第q组特征结点Zoiq和第r组增强结点Hoir为：
Zoiq＝P(Voi,Wzoiq),q＝1,2,…,n；
Figure FDA0003908659100000021
其中，P是由输入生成特征结点的广义函数，Q是由特征结点生成增强结点的广义函数；
得到第o个子网络第i个宽度学习系统模块的特征结点
Figure FDA0003908659100000022
和增强结点
Figure FDA0003908659100000023
Figure FDA0003908659100000024
计算第o个子网络第i个宽度学习系统模块的输出uoi：
Figure FDA0003908659100000025
第o个子网络的输出特征向量yo为：
Figure FDA0003908659100000026
所述对两路输出特征向量yo进行相似度度量，是指：
找出输出特征向量y1的数值最高位是第M1位，输出特征向量y2的数值最高位是第M2位；
当M1＝M2，相似度距离D为：
Figure FDA0003908659100000027
当M1≠M2，相似度距离D为：
Figure FDA0003908659100000028
其中，y1(M1)和y1(M2)分别代表输出特征向量y1中第M1位和第M2位上的数值；y2(M1)和y2(M2)分别代表输出特征向量y2中第M1位和第M2位上的数值；y1(bal)代表输出特征向量y1上最大值和第二大值的平均值；y2(bal)代表输出特征向量y2上最大值和第二大值的平均值。
2.根据权利要求1所述的堆叠宽度学习系统的边缘计算方法，其特征在于：所述对初始堆叠宽度孪生网络进行训练和测试处理，是指：
S1步，设置堆叠宽度孪生网络的其中一个子网络的网络结构；
S2步，将样本图像划分为训练集和测试集；
S3步，对设置好网络结构的子网络进行训练：将训练集的样本图像输入到子网络中，并通过求解伪逆方式得到子网络每一层宽度学习系统模块的权重矩阵
Figure FDA0003908659100000031
将训练完成的子网络的网络结构及权重矩阵
Figure FDA0003908659100000032
共享到另一个子网络中；
S4步，对堆叠宽度孪生网络进行测试：采用测试集的样本图像构建样本对，每个样本对包括两组样本图像；将同一类别的两组样本图像设定为正样本对，不同类别的两组样本图像设定为负样本对；将样本对的两组样本图像分别输入两个子网络中，得到两个子网络的输出特征向量y1和y2；对两路输出特征向量y1和y2进行相似度度量，判断两组样本图像是否为同一类别；
S5步，判别判断结果是否准确；统计判断结果的准确度；若准确度≥准确度阈值，则完成训练和测试处理；否则调整子网络的网络结构，包括对子网络的特征结点数和增强结点数进行调整，并跳至S3步重新对子网络进行训练和对堆叠宽度孪生网络进行测试。
3.根据权利要求2所述的堆叠宽度学习系统的边缘计算方法，其特征在于：所述通过求解伪逆方式得到子网络每一层宽度学习系统模块的权重矩阵
Figure FDA0003908659100000033
是指：
设定样本图像为X，并且根据独热编码构造出了样本图像X的期望输出Yo；根据已知的样本图像X和期望输出Yo通过求解伪逆计算出子网络每一层宽度学习系统模块的权重矩阵
Figure FDA0003908659100000041
Figure FDA0003908659100000042
其中，
Figure FDA0003908659100000043
是
Figure FDA0003908659100000044
的伪逆；Yoi是子网络第i个宽度学习系统模块的期望输出：
当i＝1时，Yoi＝Yo；
当i≥2时，
Figure FDA0003908659100000045
通过逐个宽度学习系统模块依次计算，得出子网络的第i个宽度学习系统模块的权重层
Figure FDA0003908659100000046
4.根据权利要求1所述的堆叠宽度学习系统的边缘计算方法，其特征在于：得出识别结果的方法是：将相似度距离D与预设阈值进行比较：若相似度距离D≤预设阈值，则判定样本对中的待识别样本图像与数据库存储图像属于相同类别，否则判定样本对中的待识别样本图像与数据库存储图像属于不同类别；当待识别样本图像与任一数据库存储图像或两个以上数据库存储图像属于相同类别时，取相似度距离D最小的数据库存储图像的类别标签作为待识别样本图像的识别结果。
5.一种堆叠宽度学习系统的边缘计算装置，其特征在于：包括：
采集模块，用于采集待识别样本图像；
预处理模块，用于对待识别样本图像进行预处理；
数据调取模块，用于调取数据库中的数据库存储图像，各个数据库存储图像分别带有类别标签；
检测模块，用于将预处理后的待识别样本图像分别与各个数据库存储图像组成样本对；将样本对输入到堆叠宽度孪生网络中；堆叠宽度孪生网络包含两个具有相同权重和网络结构的子网络；两个子网络分别一对一地对样本对中的待识别样本图像和数据库存储图像进行处理得出两路输出特征向量yo(o＝1,2)，对两路输出特征向量yo进行相似度度量，判断待识别样本图像和数据库存储图像是否为同一类别，从而得出识别结果；所述堆叠宽度孪生网络是指对初始堆叠宽度孪生网络进行训练和测试处理得到的堆叠宽度孪生网络；
每个子网络由b个宽度学习系统模块组成；b个宽度学习系统模块通过残差连接堆叠起来；第i-1个宽度学习系统模块的输出作为第i个宽度学习系统模块的输入，且第i个宽度学习系统模块的期望输出为第1，...，i-1个宽度学习系统模块的残差：
Figure FDA0003908659100000051
1≤i≤b，其中Yo为期望的系统输出，uok为第k个宽度学习系统模块的输出；子网络的最终输出yo为b个宽度学习系统模块的输出总和：
Figure FDA0003908659100000052
每个宽度学习系统模块包含特征结点、增强结点、权重层和输出层；
所述两个子网络分别一对一地对样本对中的待识别样本图像和数据库存储图像进行处理得出两路输出特征向量yo，是指：
设定输入两个子网络的待识别样本图像和数据库存储图像分别为xo(o＝1,2)；设定Voi是第o个子网络第i个宽度学习系统模块的输入，则Vo1＝xo，Voi＝uoi-1；Wzoiq是生成第o个子网络第i个宽度学习系统模块第q组特征结点的权重矩阵；Whoir是生成第o个子网络第i个宽度学习系统模块第r组增强结点的权重矩阵；
则第o个子网络第i个宽度学习系统模块第q组特征结点Zoiq和第r组增强结点Hoir为：
Zoiq＝P(Voi,Wzoiq),q＝1,2,…,n；
Figure FDA0003908659100000061
其中，P是由输入生成特征结点的广义函数，Q是由特征结点生成增强结点的广义函数；
得到第o个子网络第i个宽度学习系统模块的特征结点
Figure FDA0003908659100000062
和增强结点
Figure FDA0003908659100000063
Figure FDA0003908659100000064
计算第o个子网络第i个宽度学习系统模块的输出uoi：
Figure FDA0003908659100000065
第o个子网络的输出特征向量yo为：
Figure FDA0003908659100000066
所述对两路输出特征向量yo进行相似度度量，是指：
找出输出特征向量y1的数值最高位是第M1位，输出特征向量y2的数值最高位是第M2位；
当M1＝M2，相似度距离D为：
Figure FDA0003908659100000067
当M1≠M2，相似度距离D为：
Figure FDA0003908659100000068
其中，y1(M1)和y1(M2)分别代表输出特征向量y1中第M1位和第M2位上的数值；y2(M1)和y2(M2)分别代表输出特征向量y2中第M1位和第M2位上的数值；y1(bal)代表输出特征向量y1上最大值和第二大值的平均值；y2(bal)代表输出特征向量y2上最大值和第二大值的平均值。
6.一种存储介质，其特征在于，其中所述存储介质存储有计算机程序，所述计算机程序当被处理器执行时使所述处理器执行权利要求1-4中任一项所述的堆叠宽度学习系统的边缘计算方法。
7.一种计算设备，包括处理器以及用于存储处理器可执行程序的存储器，其特征在于，所述处理器执行存储器存储的程序时，实现权利要求1-4中任一项所述的堆叠宽度学习系统的边缘计算方法。
CN202110630388.3A 2021-06-07 2021-06-07 堆叠宽度学习系统的边缘计算方法、装置、介质和设备 Active CN113379779B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110630388.3A CN113379779B (zh) 2021-06-07 2021-06-07 堆叠宽度学习系统的边缘计算方法、装置、介质和设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110630388.3A CN113379779B (zh) 2021-06-07 2021-06-07 堆叠宽度学习系统的边缘计算方法、装置、介质和设备

Publications (2)

Publication Number Publication Date
CN113379779A CN113379779A (zh) 2021-09-10
CN113379779B true CN113379779B (zh) 2023-04-07

Family

ID=77576020

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110630388.3A Active CN113379779B (zh) 2021-06-07 2021-06-07 堆叠宽度学习系统的边缘计算方法、装置、介质和设备

Country Status (1)

Country Link
CN (1) CN113379779B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114445661B (zh) * 2022-01-24 2023-08-18 电子科技大学 一种基于边缘计算的嵌入式图像识别方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110163260A (zh) * 2019-04-26 2019-08-23 平安科技（深圳）有限公司 基于残差网络的图像识别方法、装置、设备及存储介质
WO2020211339A1 (zh) * 2019-04-16 2020-10-22 平安科技（深圳）有限公司 指静脉识别方法、装置、计算机设备及存储介质

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109784182A (zh) * 2018-12-17 2019-05-21 北京飞搜科技有限公司 行人重识别方法和装置
CN112508192B (zh) * 2020-12-21 2022-04-22 华南理工大学 一种具有深度结构的增量堆叠式宽度学习系统

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020211339A1 (zh) * 2019-04-16 2020-10-22 平安科技（深圳）有限公司 指静脉识别方法、装置、计算机设备及存储介质
CN110163260A (zh) * 2019-04-26 2019-08-23 平安科技（深圳）有限公司 基于残差网络的图像识别方法、装置、设备及存储介质

Also Published As

Publication number Publication date
CN113379779A (zh) 2021-09-10

Similar Documents

Publication Publication Date Title
CN110163258B (zh) 一种基于语义属性注意力重分配机制的零样本学习方法及系统
CN110287983B (zh) 基于最大相关熵深度神经网络单分类器异常检测方法
CN111126482B (zh) 一种基于多分类器级联模型的遥感影像自动分类方法
CN107341463B (zh) 一种结合图像质量分析与度量学习的人脸特征识别方法
CN109783879B (zh) 一种雷达辐射源信号识别效能评估方法及系统
CN110942091A (zh) 寻找可靠的异常数据中心的半监督少样本图像分类方法
CN112633154B (zh) 一种异源人脸特征向量之间的转换方法及系统
CN115580445A (zh) 一种未知攻击入侵检测方法、装置和计算机可读存储介质
CN113723238B (zh) 一种人脸轻量网络模型构建方法和人脸识别方法
CN116127298B (zh) 基于三元组损失的小样本射频指纹识别方法
CN111709523A (zh) 一种基于内部集成的宽度学习方法
CN111695611B (zh) 一种蜂群优化核极限学习和稀疏表示机械故障识别方法
CN109145704B (zh) 一种基于人脸属性的人脸画像识别方法
CN113379779B (zh) 堆叠宽度学习系统的边缘计算方法、装置、介质和设备
CN115830387A (zh) 一种模型训练方法、训练装置、分类方法及分类装置
Maurer et al. Robust unsupervised learning via l-statistic minimization
Chen et al. A convolutional neural network with dynamic correlation pooling
CN113255543B (zh) 基于图卷积网络的面部表情识别方法
CN114037001A (zh) 基于wgan-gp-c和度量学习的机械泵小样本故障诊断方法
CN117516937A (zh) 基于多模态特征融合增强的滚动轴承未知故障检测方法
CN117131436A (zh) 面向开放环境的辐射源个体识别方法
CN115348198B (zh) 基于特征检索的未知加密协议识别分类方法、设备及介质
CN114387524B (zh) 基于多层级二阶表征的小样本学习的图像识别方法和系统
CN115481685A (zh) 一种基于原型网络的辐射源个体开集识别方法
CN109308565B (zh) 人群绩效等级识别方法、装置、存储介质及计算机设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant