CN114399018B - 一种基于轮转操控策略麻雀优化的EfficientNet陶瓷碎片分类方法 - Google Patents
一种基于轮转操控策略麻雀优化的EfficientNet陶瓷碎片分类方法 Download PDFInfo
- Publication number
- CN114399018B CN114399018B CN202111548155.5A CN202111548155A CN114399018B CN 114399018 B CN114399018 B CN 114399018B CN 202111548155 A CN202111548155 A CN 202111548155A CN 114399018 B CN114399018 B CN 114399018B
- Authority
- CN
- China
- Prior art keywords
- sparrow
- population
- model
- value
- fitness
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/004—Artificial life, i.e. computing arrangements simulating life
- G06N3/006—Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明属于图像处理技术领域,公开了一种基于轮转操控策略麻雀优化的EfficientNet陶瓷碎片分类方法,构建数据集并进行预处理后,按比例划分为训练集和测试集;初步构建EfficientNet模型;设置麻雀搜索算法参数值,初始化种群中麻雀个体位置,计算麻雀个体的适应度值;对麻雀个体按照适应度进行排序,选出最好的麻雀位置和最坏的麻雀位置,并更新种群中发现者、跟随者和预警者的位置;对种群中发现者加入惯性权重因子调节,利用随机迁徙机制改变侦察者位置,设计了最佳适配机制对发现者和加入者的比例调整,根据个体变化前后适应度判断是否更改个体位置;判断是否满足终止条件。本发明提高种群多样性,提升分类预测精度。
Description
技术领域
本发明属于图像处理技术领域,尤其涉及一种基于轮转操控策略麻雀优化的EfficientNet陶瓷碎片分类方法。
背景技术
目前,古陶瓷文物,历史悠久,承载着丰富的历史、文化和艺术内涵。近年来,随着人们物质生活的极大富足,精神文明生活不断丰富,致使古陶瓷文物研宄、鉴赏、收藏势头愈发高涨。但现在的市场上出现了一大批残破不堪的陶瓷碎片,文物修复问题迫在眉睫,如何高效率的修复这些数量庞大的碎片,使其拼接成完整的陶瓷文物,成为了新的研究课题,提高文物修复效率,减少陶瓷文物的缺失,具有重要的现实意义。
文物修复是一个非常庞大的工程,破碎陶瓷碎片的修复工作一般包括:碎片分类、碎片匹配和碎片拼接。碎片分类作为非常关键的核心环节之一,有效且准确的碎片分类效果可以有效的大幅降低后续修复工作的工程复杂度,提高匹配以及拼接的准确性,提高文物复原过程的整体效率。借助计算机辅助技术,可以更高效的对陶瓷碎片进行数字化修复,实现了手工作业到数字化、智能化的跨越。近年来,随着人工智能技术日益革新并大量应用于图像分类,如深度学习、机器学习、群体智能优化算法等在非线性映射能力和高精度函数逼近等方面表现出优越性能。但从目前已发表的研究成果分析,现有的一些图像分类模型大多是基于单一的网络模型,或几种网络模型相互结合使用,亦或是加入一些机制进行调节,而基于智能优化算法和网络模型结合的动态处理方式尚不多见。基于智能优化算法和网络模型结合的动态处理方式主要集中在:数据动态性和方法动态性。数据的动态性主要体现在在陶瓷碎片采集过程中,需要人为的去找到较好的拍摄角度,对于拍摄时的光线以及灯光的亮暗程度都需要动态的调整,此外陶瓷碎片的数据收集也是较为复杂的,在市场上的流动性,经转不同人手,特殊的操作等都使得获取的数据比较异构;方法的动态性针对陶瓷碎片破损的不同程度(角度、尺寸、清晰度),采用高性能智能计算处理,得到基于智能混合优化模型的陶瓷碎片分类方法,提高陶瓷碎片分类的高效性和鲁棒性。
针对陶瓷碎片数据的采集通常容易受到环境自身因素、设备因素等客观因素的影响,导致所采集到的样本数据中常常存在大规模、非线性、数据缺失、信息冗余度高、模糊、不确定、高噪声的问题,如何筛选清晰度较高以及颜色分明的碎片,这对后续碎片分类的准确率有着极大的影响。剔除随机属性因素,是陶瓷碎片分类的首要难题。
现有的图像分类网络模型从最初的LeNet到AlexNet、ZFNet、VGGNet、GoogleNet、ResNet、SENet以及DenseNet等经典的网络模型,它们都在图像分类、物体识别、图像分割等计算机视觉方面的应用领域都取得了革命性的创新成果,但是相对于近两年刚提出的EfficientNet网络模型来说,它们在图像分类的效率及鲁棒性上表现欠佳,由于EfficientNet综合考虑了网络在模型扩展时的因素:深度、宽度、分辨率,极大提高了网络的运行时间以及分类的准确率。
但是,在EfficientNet网络模型中,理论上层数越多层级越深的网络越能抽取到滑坡诱发因素的数据本质特征,网络表达能力与泛化能力越强,与此同时也会造成网络结构愈加复杂,结构空间呈指数级增长,并产生过拟合现象和计算复杂度高的代价难题。
与此同时,群体智能优化算法作为计算智能理论与方法的重要研究内容之一。而麻雀算法(Sparrow Search Algorithm,SSA)作为群体智能的一种新算法得到了众多学者的追捧。麻雀算法可以在没有集中控制并且缺少全局信息和模型的前提下,通过多特征融合与全局优化策略,为解决EfficientNet网络结构、层级优化以及随着网络层级加深,抽取到的碎片信息模糊与冗余信息之间的自适应调整、降低误差积累提供新的解决思路与技术途径。但是,麻雀搜索算法和其他群体智能算法一样,当其接近全局最优时,依旧会出现种群多样性减少、搜索能力不足、易于陷入局部极值的现象,从而导致收敛速度较慢、求解精度较低的问题。因此,亟需设计一种新的陶瓷碎片分类方法及系统。
通过上述分析,现有技术存在的问题及缺陷为:
(1)现有的图像分类模型大多是基于单一的网络模型,或几种网络模型相互结合使用,或加入机制进行调节,而基于智能优化算法和网络模型结合的动态处理方式尚不多见;同时现有的图像分类网络模型在图像分类的效率及鲁棒性上表现欠佳。
(2)现有陶瓷碎片数据的采集通常容易受到环境自身因素、设备因素等客观因素的影响,导致所采集到的样本数据中常常存在大规模、非线性、数据缺失、信息冗余度高、模糊、不确定、高噪声的问题。
(3)在EfficientNet网络模型中,理论上层数越多层级越深的网络越能抽取到滑坡诱发因素的数据本质特征,网络表达能力与泛化能力越强,与此同时也会造成网络结构愈加复杂,结构空间呈指数级增长,并产生过拟合现象和计算复杂度高的代价难题。
(4)麻雀搜索算法和其他群体智能算法一样,当其接近全局最优时,依旧会出现种群多样性减少、搜索能力不足、易于陷入局部极值的现象,从而导致收敛速度较慢、求解精度较低的问题。
解决以上问题及缺陷的难度为:①针对陶瓷碎片拍摄时存在光影问题以及清晰度较低、颜色模糊等客观问题,通过人为的数据预处理提高数据集的质量;其次引入EfficientNet网络,通过该网络自身所具有的优势,进而实现基于EfficientNet陶瓷碎片的分类,但由于EfficientNet网络结构复杂,参数的最优设置是很棘手的一件事情;②EfficientNet模型包含许多设置参数,如果参数设置不当,随着网络层级的加深,在训练过程中会产生大量的冗余数据,无法抽取到碎片的本质数据特征,致使分类效果表现欠佳;③麻雀算法可以对EfficientNet网络模型进行优化,但由于EfficientNet网络模型中数据训练的层级加深以及超参数设置需要大量试验取最优,使预测效果最佳,并且高复杂度模型参数过多预测速度则越慢,必然带来对高性能计算设备或服务器的需求。
解决以上问题及缺陷的意义为:将麻雀搜索算法(SSA)与EfficientNet网络模型相结合,构建基于轮转操控策略的麻雀优化算法的陶瓷碎片分类。受采集数据时客观因素和人为因素的影响,建立基于EfficientNet动态陶瓷碎片分类模型,有效提高分类的准确率;设计SSA模型对EfficientNet模型中的超参数寻优,实现EfficientNet网络中隐层神经单元数、学习率、批处理数、迭代次数四个超参数的自适应调整与协同计算;同时设计惯性权重因子和轮转操控策略开发全局最优解区域以及提升局部极值的逃逸能力,实现基于EfficientNet网络结构紧致性优化。该方法融合了具有复合扩展结构的EfficientNet网络模型、基于Halton序列和Tent映射与轮转操控的麻雀优化算法,其中包含了随机迁徙机制、预警模拟机制和最佳适配机制,增强了网络输入与输出的紧致性,提升了陶瓷碎片的分类精度和泛化能力。本发明的技术开展及其预期研究成果可为其他文物或者图像分类提供有效的示范和指导作用,理论意义显著,应用价值突出。
发明内容
针对现有技术存在的问题,本发明提供了一种基于轮转操控策略麻雀优化的EfficientNet陶瓷碎片分类方法,尤其涉及一种基于轮转操控的麻雀优化算法的基于轮转操控策略麻雀优化的EfficientNet陶瓷碎片分类方法。
本发明是这样实现的,一种陶瓷碎片分类方法,所述陶瓷碎片分类方法包括:
构建数据集,对数据集进行预处理后,按比例划分为训练集和测试集;初步构建EfficientNet模型,确定预测模型的结构;设置麻雀搜索算法的参数值,用Halton序列和Tent映射初始化种群中麻雀个体位置,并计算种群中麻雀个体的适应度值;对麻雀个体按照适应度进行排序,选出最好的麻雀位置和最坏的麻雀位置,并更新种群中发现者、跟随者和预警者的位置;对种群中发现者加入惯性权重因子调节,利用随机迁徙机制改变侦察者位置,加入者的位置更新不变,根据个体变化前后的适应度判断是否更改个体位置;判断是否满足终止条件;若满足,则构建最终的EfficientNet模型;若不满足,则返回适应度排序步骤。
进一步,所述陶瓷碎片分类方法包括以下步骤:
步骤一,建立EfficientNet模型,通过对采集的实验室陶瓷碎片数据进行预处理,提取碎片数据特征,建立数据集,并将数据集划分为训练集和测试集;
步骤二,设计SSA模型对EfficientNet模型中的超参数寻优,实现EfficientNet网络中隐层神经单元数、学习率、批处理数和迭代次数四个超参数的协同计算与自适应调整;
步骤三,将SSA模型中的麻雀个体按照适应度大小进行排序,确定最好的麻雀位置和最坏的麻雀位置,并划分发现者和加入者种群;
步骤四,更新SSA模型中发现者、跟随者和预警者的位置,发现者为整个麻雀种群寻找食物并为所有跟随者提供觅食的方向;跟随者根据发现者的位置获取食物;更新种群中预警者的位置,当意识到危险时,群体边缘的麻雀会迅速向安全区域移动,以获得更好的位置;
步骤五,对SSA模型进行改进;根据个体扰动前后的适应度判断是否更改麻雀个体的位置,若没有得到期望最优值,则直接执行步骤六;
步骤六,判断SSA模型是否达到最大迭代次数;若满足,则结合算法搜索的最佳超参数值构建最终的EfficientNet预测模型;用训练数据迭代训练该模型,将训练好的迭代模型通过测试数据得到预测数据;若不满足终止条件,则返回步骤五。
进一步,所述步骤一中的数据集按8:2比例划分为训练集和测试集;其中,所述数据集是以可视化所采集的陶瓷碎片图像数据作为实验数据集,该数据集包括白色青花瓷、红色红釉、绿色绿釉、蓝色青花瓷、彩色彩瓷、紫色紫釉,最终以颜色来对陶瓷碎片进行分类;
所述构建的数据集用于作为EfficientNet网络的输入变量,通过EfficientNet网络结构中的卷积层和池化层,再通过全连接层的作用产生一个输出变量,从而使输入变量和输出变量构成映射关系;
模型扩展通过调整输入图像的大小、网络的深度和宽度实现;所述EfficientNet通过一组固定的缩放系数统一缩放所述三个维度,所述EfficientNet的规范化复合调参方法使用一个复合系数对三个参数进行复合调整:
s.t.α.β2.γ2≈2 ∝≥1,β≥1,γ≥1;
其中,∝,β,γ均是常数,通过网格搜索获得;复合系数通过人工调节,depth表示网络深度、width表示网络宽度、resolution表示分辨率。
进一步,所述步骤二中的设计SSA模型对EfficientNet模型中的超参数寻优,实现EfficientNet网络中隐层神经单元数、学习率、批处理数、迭代次数四个超参数的自适应调整与协同计算包括:
对SSA的参数进行设置,其中麻雀种群Pop_Size数量为30、最大迭代次数Max_iter为50、发现者pNum和预警者sNum的数量设置设计最佳适配机制;EfficientNet模型超参数的解空间;轮转操控的麻雀搜索算法对EfficientNet中隐层神经单元数、学习率、批处理数和迭代次数四个超参数设置解空间,ub={200,0.01,30,400}表示解空间的上限,lb={10,0.001,2,900}表示解空间的下限;
其中,所述pNum=r*Pop_Size,pNum=(1-r)*Pop_Size,r取值范围在(0,1)之间,ub和lb的每一维分别对应的是EfficientNet模型隐藏层神经单元、学习率、批处理数、迭代次数的上界和下界;
其中,所述利用Halton序列和Tent映射初始化麻雀种群中每个麻雀的初始位置包括:
(1)利用Halton序列的所具有的低差异序列的特性,生成在高维空间分布均匀的高效随机数;
(2)根据Tent映射随机性、便利性和规律性的特征,利用所述特性优化种群的初始位置;其中,所述Tent混沌映射的表达式如下:
所述Tent混沌映射通过贝努力移位变换后表示如下:
yi+1=(2yi)mod1;
(3)对Tent混沌沌映射通过贝努力移位变换的表达式为:
改进后的Tent混沌映射通过贝努力移位变换的表达式为:
式中,N代表的是产生混沌序列的总数,即麻雀种群中麻雀的个数;rand(0,1)代表的是[0,1]之间的随机数;将生成的混沌序列载波到麻雀的求解空间中,公式如下:
xi=xlb+(xub-xlb)*yi;
式中,xi表示生成的第i个麻雀的初始位置;xub和xlb分别代表麻雀位置的上限和下限;
经过Halton序列和Tent混沌映射序列得到麻雀的初始位置之后,计算每个麻雀的适应度,包括:
(1)将麻雀个体的空间位置解释为EfficientNet模型的超参数,优化EfficientNet模型;
(2)利用训练数据迭代训练该模型,将训练好的迭代模型通过测试数据得到预测数据的分类准确率ACCR,利用ACCR的值做为麻雀的适应度;
进一步,所述步骤三中的将麻雀个体按照适应度大小进行排序包括:
在每一次迭代过程中将种群中每个麻雀适应度的值按照从小到大进行排序,由于ACCR作为麻雀的适应度,故麻雀适应度的值越大代表麻雀的位置越好;选出排序过后的最大的麻雀适应度值BestF,最佳的麻雀位置BestX;选出排序过后最小的麻雀适应度值WorseF,最差的麻雀位置WorseX。
所述步骤四中的更新麻雀种群中的发现者的位置包括:
发现者的数量占麻雀种群的百分之r,即为按照适应度值从小到大排序后的前r*Pop_Size只麻雀作为发现者;R2的值是[0,1]之间的随机数,表示的是预警值;ST的值设置为0.8,表示的是安全值界限;位置更新公式如下:
式中,t为当前的迭代数;tmax为总的迭代次数,Xi,j表示的是在第t次迭代中第i个麻雀的位置信息;α代表的是[0,1]之间的随机数;Q是服从正态分布的随机数;L表示的是的1×d的矩阵,其中该矩阵内每个元素全部为1。
当R2<ST时,表明预警值小于安全值,意味着此时的觅食环境周围没有捕食者,发现者扩大自己的搜索范围;当R2≥ST时,表示预警值大于安全值,意味着此时种群中的麻雀已经发现捕食者,并向其他麻雀发出警报,所有的麻雀必须迅速的飞到其它安全的地方。
其中,所述更新麻雀种群中跟随者的位置,包括:
跟随者的数量占麻雀种群的(1-r)%,即为按照适应度值从小到大排序后的后(1-r)*Pop_Size只麻雀作为跟随者。跟随者位置更新公式如下:
式中,n为麻雀种群的数量;Q是服从正态分布的随机数;表示的是在本次迭代中麻雀最差的位置;/>表示的是在本次迭代中麻雀最好的位置;A是一个1×d的矩阵,A+=AT(AAT)-1,该矩阵中每个元素的值随机为1或-1。
所述更新种群中预警者的位置,包括:
选取sNum只麻雀进行预警,预警者的数量sNum的值为麻雀种群的r%,共有r*Pop_Size只麻雀进行预警,fi为在本次迭代中第i个麻雀的适应度,fg表示在本次迭代中最优的适应度值,fw表示在本次迭代中最差的适应度值。预警者位置更新公式如下:
式中,和/>分别代表在本次迭代中麻雀最好和最差的位置;β的值是服从均值为0,方差为1的正态分布随机数,表示步长的控制参数;K的值是[-1,1]之间的一个随机数,表示麻雀移动的方向,也是麻雀步长的控制参数;ε是为了避免分母为0的情况出现,设置为一个极小的值。
当fi≠fg时,表明此时麻雀的位置处于种群的边缘,特别容易受到捕食者的攻击,迅速转移该麻雀的位置,并将该麻雀的位置转移到当前位置和最好位置/>之间的随机位置。
当fi=fg时,表明此时麻雀的位置处于种群的中间,在意识到捕食者威胁之后,及时向其他麻雀的位置靠拢来避免捕食者的攻击,将该麻雀的位置转移到当前位置和最差位置/>之间的随机位置。
进一步,所述步骤五中的对种群中发现者加入惯性权重因子调节并设计预警模拟机制,当达到预警值threshold时,种群始终没有发现捕食者,将自动启动预警机制,模拟天敌存在的情况,以此跳出局部最优,增强麻雀个体的质量,使用随机迁徙机制改变侦察者的位置;设计最佳适配机制调整加入者和跟随者的比例,并根据个体扰动前后的适应度,判断是否更改麻雀个体的位置。
其中,所述改进后发现者和预警者公式如下:
所述惯性权重因子:
式中,w1=0.2和w2=0.8。
所述发现者位置更新:
轮转操控:在莱维飞行的基础上,改进搜索方式,扩大解空间集的寻优范围。随机迁徙机制fly计算公式如下:
式中,σ是常数,r1和r2为0到1之间的随机数,β0=1.5,Γ表示伽马函数。
所述步骤六中的判断是否达到终止条件包括:
所述终止条件为:(1)是否达到最大迭代次数;(2)得到期望的全局最优值。
若满足所述终止条件,则将最终麻雀的最优位置解释为EfficientNet模型的超参数;将所述超参数代入EfficientNet模型中,构建完整的EfficientNet模型;利用数据集中的训练集和测试集对模型进行训练,并用训练好的模型对测试集进行预测;若不满足所述终止条件,则返回到步骤五。
本发明的另一目的在于提供一种实施所述的陶瓷碎片分类方法的陶瓷碎片分类系统,所述陶瓷碎片分类系统包括:
数据集构建模块,用于将陶瓷碎片按照颜色来构建成数据集,将数据集进行预处理,并按照8:2的比例划分为训练集和测试集;
EfficientNet模型构建模块,用于初步构建EfficientNet模型,确定预测模型的结构;
适应度计算模块,用于设置麻雀搜索算法的参数值,用Halton序列和Tent映射初始化种群中麻雀个体的初始位置,并计算种群中麻雀个体的适应度;
适应度排序模块,用于对麻雀个体按照适应度进行排序,并选出最好的麻雀位置和最坏的麻雀位置;
位置更新模块,用于更新种群中发现者的位置,更新种群中跟随者的位置,同时更新种群中预警者的位置;
更新加入者、预警者位置模块,用于利用改进的位置更新公式,判断个体变化前后的适应度中最优适应度是否达到期望最优值;若未达到最优值,则判断是否达到最大迭代次数,即执行终止条件判断模块;若达到最优值,则建立与EfficientNet网络之间的关系;
终止条件判断模块,用于判断是否满足终止条件;若满足,则构建最终EfficientNet预测模型;若不满足,则返回适应度排序模块。
本发明的另一目的在于提供一种计算机设备,所述计算机设备包括存储器和处理器,所述存储器存储有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行如下步骤:
构建数据集,对数据集进行预处理后,按比例划分为训练集和测试集;初步构建EfficientNet模型,确定预测模型的结构;设置麻雀搜索算法的参数值,用Halton序列和Tent映射初始化种群中麻雀个体位置,并计算种群中麻雀个体的适应度值;对麻雀个体按照适应度进行排序,选出最好的麻雀位置和最坏的麻雀位置,并更新种群中发现者、跟随者和预警者的位置;对种群中发现者加入惯性权重因子调节,利用随机迁徙机制改变侦察者位置,设计了最佳适配机制对发现者和加入者的比例调整,根据个体变化前后的适应度判断是否更改个体位置;判断是否满足终止条件;若满足,则构建最终的EfficientNet模型;若不满足,则返回适应度排序步骤。
本发明的另一目的在于提供一种计算机可读存储介质,存储有计算机程序,所述计算机程序被处理器执行时,使得所述处理器执行如下步骤:
构建数据集,对数据集进行预处理后,按比例划分为训练集和测试集;初步构建EfficientNet模型,确定预测模型的结构;设置麻雀搜索算法的参数值,用Halton序列和Tent映射初始化种群中麻雀个体位置,并计算种群中麻雀个体的适应度值;对麻雀个体按照适应度进行排序,选出最好的麻雀位置和最坏的麻雀位置,并更新种群中发现者、跟随者和预警者的位置;对种群中发现者加入惯性权重因子调节,利用随机迁徙机制改变侦察者位置,设计了最佳适配机制对发现者和加入者的比例调整,根据个体变化前后的适应度判断是否更改个体位置;判断是否满足终止条件;若满足,则构建最终的EfficientNet模型;若不满足,则返回适应度排序步骤。
本发明的另一目的在于提供一种信息数据处理终端,所述信息数据处理终端用于实现所述的陶瓷碎片分类系统。
结合上述的所有技术方案,本发明所具备的优点及积极效果为:本发明提供的陶瓷碎片分类方法,具体涉及一种基于轮转操控策略的麻雀优化的陶瓷碎片分类方法(RCSSA-EfficientNet),主要是对陶瓷碎片进行分类。
针对碎片采集时受到人为因素和客观因素的影响,本发明需要先对数据集进行预处理,然后建立基于EfficientNet网络模型,降低隐含层结点激活概率、去除随机影响因素,抽取本质数据特征,提高分类准确率。其次,针对EfficientNet模型结合了深度、宽度、分辨率三个维度使得网络变得较为复杂,易产生过拟合和计算复杂度代价高问题,本发明设计了基于轮转操控的麻雀优化模型;在该模型中,利用Halton序列和Tent映射对麻雀种群初始化并计算适应度,提升麻雀种群的分布均匀性,通过麻雀算法对EfficientNet模型中隐层的神经单元数、学习率、批处理数、迭代次数四个超参数寻优,同时设计轮转操控开发可能存在的全局最优解区域,提高种群多样性,进而实现基于表示稀疏的EfficientNet网络结构紧致性优化,提升分类预测精度,有效解决数据预测能力弱与计算复杂代价高昂问题。
由仿真实验可知,四个模型的分类准确率分别为95.57%、94.36%、93.68%、91.23%;其中RCSSA-EfficientNet模型准确率最高,可以得出本发明提出的RCSSA-EfficientNet模型,结合RCSSA算法出色的参数寻优能力、融合EfficientNet网络的动态预测优势,提高了陶瓷碎片分类的精度和泛化能力。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例中所需要使用的附图做简单的介绍,显而易见地,下面所描述的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的陶瓷碎片分类方法流程图。
图2是本发明实施例提供的陶瓷碎片分类系统结构框图;
图中:1、数据集构建模块;2、EfficientNet模型构建模块;3、适应度计算模块;4、适应度排序模块;5、位置更新模块;6、更新加入者、预警者位置模块;7、终止条件判断模块。
图3是本发明实施例提供的陶瓷碎片数据集样例示意图。
图4是本发明实施例提供的陶瓷碎片分类模型图。
图5是本发明实施例提供的Halton映射和随机方式初始化的粒子分布对比图,在[0,1]范围内产生规模为200的种群在二维空间上的随机数分布示意图。
图5A是本发明实施例提供的使用Halton映射初始化的示意图。
图5B是本发明实施例提供的随机初始化的示意图。
图6A是本发明实施例提供的EfficientNet网络的框架图;
图中:a)基准网络示意图;b)增加网络width即增加卷积核的个数(增加特征矩阵的channels);c)增加网络depth;d)增加网络分辨率resolution;e)同时增加网络的width、depth、resolution。
图6B是本发明实施例提供的MBConv结构示意图。
图7是本发明实施例提供的训练效果图。
图7A是本发明实施例提供的损失率示意图。
图7B是本发明实施例提供的准确率示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
针对现有技术存在的问题,本发明提供了一种基于轮转操控策略麻雀优化的EfficientNet陶瓷碎片分类方法,下面结合附图对本发明作详细的描述。
如图1所示,本发明实施例提供的陶瓷碎片分类方法包括以下步骤:
S101,构建数据集,对数据集进行预处理后,按比例划分为训练集和测试集;初步构建EfficientNet模型,确定预测模型的结构;
S102,设置麻雀搜索算法的参数值,用Halton序列和Tent映射初始化种群中麻雀个体位置,并计算种群中麻雀个体的适应度值;
S103,对麻雀个体按照适应度进行排序,选出最好的麻雀位置和最坏的麻雀位置,并更新种群中发现者、跟随者以及预警者的位置;
S104,对种群中发现者加入惯性权重因子调节,利用随机迁徙机制改变侦察者位置,根据个体变化前后的适应度判断是否更改个体位置;
S105,判断是否满足终止条件;若满足,则构建最终的EfficientNet模型;若不满足,则返回S103。
如图2所示,本发明实施例提供的陶瓷碎片分类系统包括:
数据集构建模块1,用于将陶瓷碎片按照颜色来构建成数据集,将数据集进行预处理,并按照8:2的比例划分为训练集和测试集;
EfficientNet模型构建模块2,用于初步构建EfficientNet模型,确定预测模型的结构;
适应度计算模块3,用于设置麻雀搜索算法的参数值,用Halton序列和Tent映射初始化种群中麻雀个体的初始位置,并计算种群中麻雀个体的适应度;
适应度排序模块4,用于对麻雀个体按照适应度进行排序,并选出最好的麻雀位置和最坏的麻雀位置;
位置更新模块5,用于更新种群中发现者的位置,更新种群中跟随者的位置,同时更新种群中预警者的位置;
更新加入者、预警者位置模块6,用于利用改进的位置更新公式,判断个体变化前后的适应度中最优适应度是否达到期望最优值;若未达到最优值,则判断是否达到最大迭代次数,即执行终止条件判断模块;若达到最优值,则建立与EfficientNet网络之间的关系;
终止条件判断模块7,用于判断是否满足终止条件;若满足,则构建最终EfficientNet预测模型;若不满足,则返回适应度排序模块。
下面结合具体实施例对本发明的技术方案作进一步描述。
针对现有技术存在的问题,本发明公开了一种基于轮转操控策略的麻雀优化的陶瓷碎片分类方法(RCSSA-EfficientNet)。
本发明内容具体实现过程,一种基于轮转操控策略的麻雀优化的陶瓷碎片分类方法,所述方法包括以下步骤:
步骤一,针对陶瓷碎片数据的采集通常容易受到环境自身因素(由于年限久远,很多碎片自身携带的特征基本已经消褪、碎片孔洞、拍摄时的光照、扫描角度、噪声数据)、设备因素(设备精度、设备损坏)等客观因素的影响,导致所采集到的样本数据中常常存在大规模、非线性、数据缺失、信息冗余度高、模糊、不确定、高噪声的问题,建立EfficientNet模型,通过对采集的实验室陶瓷碎片数据进行预处理后,提取碎片数据特征,建立数据集;将数据集按8:2比例划分为训练集和测试集。
本发明实施例提供的陶瓷碎片数据集样例示意图如图3所示。
步骤二,设计SSA模型对EfficientNet模型中的超参数寻优,实现EfficientNet网络中隐层神经单元数、学习率、批处理数、迭代次数四个超参数的协同计算与自适应调整;
本发明实施例提供的陶瓷碎片分类模型图如图4所示。
步骤三,将SSA模型中的麻雀个体按照适应度大小进行排序,由此确定最好的麻雀位置和最坏的麻雀位置,并划分发现者和加入者种群;其中最好的麻雀位置代表整个种群搜索到具有丰富食物的区域,为所有的加入者提供觅食的区域和方向;
步骤四,更新SSA模型中发现者、跟随者、预警者的位置,发现者负责为整个麻雀种群寻找食物并为所有跟随者提供觅食的方向;跟随者会根据发现者的位置获取食物;然后,更新种群中预警者的位置,当意识到危险时,群体边缘的麻雀会迅速向安全区域移动,以获得更好的位置;
步骤五,考虑到SSA中加入者、侦察者位置改变易导致全局与局部的不平衡,因此对其进行改进。对种群中发现者加入惯性权重因子调节,同时使用预警模拟机制--当达到预警值threshold时,种群始终没有发现捕食者,将自动启动预警机制,模拟天敌存在的情况,以此跳出局部最优,增强麻雀个体的质量,对侦察者使用随机迁徙机制改变其位置,设计了最佳适配机制调整加入者和跟随者的比例,为算法在迭代寻优的过程中提高算法精度;并根据个体扰动前后的适应度,来判断是否更改麻雀个体的位置;若没有得到期望最优值,直接执行步骤六;
步骤六,判断SSA模型是否达到最大迭代次数;若满足,则结合算法搜索的最佳超参数值构建最终的EfficientNet预测模型,然后用训练数据迭代训练该模型,将训练好的迭代模型通过测试数据得到预测数据;若不满足终止条件,则返回步骤五。
进一步,步骤一中,针对陶瓷碎片数据的采集通常容易受到环境自身因素、设备因素等客观因素的影响,导致所采集到的样本数据中常常存在大规模、非线性、数据缺失、信息冗余度高、模糊、不确定、高噪声的问题,建立EfficientNet模型,通过对采集的实验室陶瓷碎片数据进行预处理后,提取碎片数据特征,建立数据集;将数据集按8∶2比例划分为训练集和测试集;其中,所述数据集使用的是以本人所在可视化所采集的陶瓷碎片图像数据作为实验数据集,该数据集包括青花瓷(白色)、红釉(红色)、绿釉(绿色)、青花瓷(蓝色)、彩瓷(彩色)、紫釉(紫色),最终以颜色来对陶瓷碎片进行分类:
所述构建的数据集是用于作为EfficientNet网络的输入变量,通过EfficientNet网络结构中的卷积层和池化层,最后再通过全连接层的作用产生一个输出变量,从而使输入变量和输出变量构成映射关系;
模型扩展(Model scaling)一直以来都是提高卷积神经网络效果的重要方法,在扩展网络的时候,一般通过调整输入图像的大小、网络的深度和宽度(卷积通道数,也就是channel数)。在EfficientNet之前,研究工作只是针对这三个维度中的某一个维度进行调整,而EfficientNet结合了这三个优点,很好的平衡深度depth、宽度width和分辨率resolution这三个维度,通过一组固定的缩放系数统一缩放这三个维度,EfficientNet的规范化复合调参方法使用了一个复合系数来对三个参数进行复合调整:
s.t.α.β2.γ2≈2 ∝≥1,β≥1,γ≥1 (4)
其中,∝,β,γ都是常数,可以通过网格搜索获得,复合系数通过人工调节。
进一步,步骤二中,设计SSA模型对EfficientNet模型中的超参数寻优,实现EfficientNet网络中隐层神经单元数、学习率、批处理数、迭代次数四个超参数的自适应调整与协同计算,包括:
对SSA的参数进行设置,其中麻雀种群Pop_Size数量为30、最大迭代次数Max_iter为50、发现者pNum和预警者sNum的数量设置设计了最佳适配机制;EfficientNet模型超参数的解空间;轮转操控的麻雀搜索算法对EfficientNet中隐层神经单元数、学习率、批处理数、迭代次数四个超参数设置解空间,ub={200,0.01,30,400}表示解空间的上限,lb={10,0.001,2,900}表示解空间的下限;
其中,所述pNum=r*Pop_Size,pNum=(1-r)*Pop_Size,r取值范围在(0,1)之间,ub和lb的每一维分别对应的是EfficientNet模型隐藏层神经单元、学习率、批处理数、迭代次数的上界和下界;
所述用Halton序列和Tent映射初始化麻雀种群中每个麻雀的初始位置,包括:
1)利用Halton序列的所具有的低差异序列的特性:可生成在高维空间分布均匀的高效随机数,进而提高种群分布均匀性。
2)根据Tent映射随机性、便利性和规律性的特征,利用这些特性优化种群的初始位置,Tent混沌序列能够有效保持种群寻优的多样性;
Tent混沌映射的表达式如下:
Tent混沌映射通过贝努力移位变换后表示如下:
yi+1=(2yi)mod1 (6)
3)对Tent混沌沌映射通过贝努力移位变换的表达式为:
改进后的Tent混沌映射通过贝努力移位变换的表达式为:
在公式(8)中,N代表的是产生混沌序列的总数,也就是麻雀种群中麻雀的个数,rand(0,1)代表的是[0,1]之间的随机数;将生成的混沌序列载波到麻雀的求解空间中,公式如下:
xi=xlb+(xub-xlb)*yi (9)
其中,xi表示生成的第i个麻雀的初始位置;xub和xlb分别代表麻雀位置的上限和下限;
经过Halton序列和Tent混沌映射序列得到麻雀的初始位置之后,计算每个麻雀的适应度,包括:
1、将麻雀个体的空间位置解释为EfficientNet模型的超参数,优化EfficientNet模型;
2、用训练数据迭代训练该模型,将训练好的迭代模型通过测试数据得到预测数据的分类准确率ACCR,用ACCR的值做为麻雀的适应度;
本发明实施例提供的Halton映射和随机方式初始化的粒子分布对比图如图5所示,在[0,1]范围内产生规模为200的种群在二维空间上的随机数分布。易知Halton序列产生的种群分布更加均匀,不会出现粒子在某一范围内聚集的现象,进而使得麻雀种群初始化个体的位置在解空间中的均匀性分布。
进一步,步骤三中,所述将麻雀个体按照适应度大小进行排序,包括:
在每一次迭代过程中将种群中每个麻雀适应度的值按照从小到大进行排序,因为ACCR作为麻雀的适应度,所以麻雀适应度的值越大代表麻雀的位置越好;选出排序过后的最大的麻雀适应度值BestF,最佳的麻雀位置BestX;选出排序过后最小的麻雀适应度值WorseF,最差的麻雀位置WorseX。
进一步,步骤四中,所述更新麻雀种群中的发现者的位置,包括:
发现者的数量占麻雀种群的百分之r,即为按照适应度值从小到大排序后的前r*Pop_Size只麻雀作为发现者;R2的值是[0,1]之间的随机数,表示的是预警值;ST的值设置为0.8,表示的是安全值界限;位置更新公式如下:
其中,t为当前的迭代数,tmax为总的迭代次数,Xi,j表示的是在第t次迭代中第i个麻雀的位置信息,α代表的是[0,1]之间的随机数。Q是服从正态分布的随机数,L表示的是的1×d的矩阵,其中该矩阵内每个元素全部为1。
当R2<ST时,表明预警值小于安全值,意味着此时的觅食环境周围没有捕食者,发现者可以扩大自己的搜索范围。当R2≥ST时,表示预警值大于安全值,意味着此时种群中的麻雀已经发现了捕食者,并向其他麻雀发出警报,所有的麻雀必须迅速的飞到其它安全的地方。
所述更新麻雀种群中跟随者的位置,包括:
跟随者的数量占麻雀种群的(1-r)%,即为按照适应度值从小到大排序后的后(1-r)*Pop_Size只麻雀作为跟随者。跟随者位置更新公式如下:
其中,n为麻雀种群的数量,Q是服从正态分布的随机数,表示的是在本次迭代中麻雀最差的位置,/>表示的是在本次迭代中麻雀最好的位置,A是一个1×d的矩阵,A+=AT(AAT)-1,该矩阵中每个元素的值随机为1或-1。
所述更新种群中预警者的位置,包括:
选取sNum只麻雀进行预警,预警者的数量sNum的值为麻雀种群的r%,共有r*Pop_Size只麻雀进行预警,fi为在本次迭代中第i个麻雀的适应度,fg表示在本次迭代中最优的适应度值,fw表示在本次迭代中最差的适应度值。预警者位置更新公式如下:
其中,和/>分别代表在本次迭代中麻雀最好和最差的位置;β的值是服从均值为0,方差为1的正态分布随机数,表示步长的控制参数;K的值是[-1,1]之间的一个随机数,表示麻雀移动的方向,也是麻雀步长的控制参数;ε是为了避免分母为0的情况出现,设置为一个极小的值。
当fi≠fg时,表明此时麻雀的位置处于种群的边缘,特别容易受到捕食者的攻击,迅速转移该麻雀的位置,并将该麻雀的位置转移到当前位置和最好位置/>之间的随机位置。
当fi=fg时,表明此时麻雀的位置处于种群的中间,在意识到捕食者威胁之后,及时向其他麻雀的位置靠拢来避免捕食者的攻击,将该麻雀的位置转移到当前位置和最差位置/>之间的随机位置。
进一步,步骤五中,所述对种群中发现者加入惯性权重因子调节并设计了预警模拟机制来避免长期无捕食者存在的情况所带来的问题,对侦察者使用随机迁徙机制改变其位置,并根据个体扰动前后的适应度,来判断是否更改麻雀个体的位置。改进后发现者和预警者公式如下:
惯性权重因子:
式子中w1=0.2和w2=0.8。
发现者位置更新:
轮转操控:在莱维飞行的基础上,改进了搜索方式,扩大了解空间集的寻优范围。随机迁徙机制fly计算公式如下:
其中σ是一个常数,r1和r2为0到1之间的随机数,β0=1.5,Γ表示伽马函数。
进一步,步骤六中,所述判断是否达到终止条件,包括:
所述终止条件设置如下:(1)是否达到了最大迭代次数;(2)得到期望的全局最优值;
若满足终止条件,将最终麻雀的最优位置解释为EfficientNet模型的超参数。在本发明中得到最优的适应度值为0.962,得到最优的麻雀位置为x={64,0.0027,14,608}。其中隐藏层单元为64,学习率为0.0027,批处理数为14,迭代次数为608。将这些超参数代入到EfficientNet模型中,构建完整的EfficientNet模型。然后用数据集中的训练集和测试集对模型进行训练,最后用训练好的模型对测试集进行预测。
若不满足终止条件,则返回到步骤5。
表1四个模型在测试集准确率(ACCR)
模型 | RCSSA-EfficientNet | ISSA-EfficientNet | CSSOA-EfficientNet | SSA-EfficientNet |
ACCR | 95.57% | 94.36% | 93.68% | 91.23% |
如表1所示,四个模型的分类准确率分别为95.57%、94.36%、93.68%、91.23%。其中RCSSA-EfficientNet模型准确率最高,可以得出本发明提出的RCSSA-EfficientNet模型,结合RCSSA算法出色的参数寻优能力、融合EfficientNet网络的动态预测优势,提高了陶瓷碎片分类的精度和泛化能力。
图6是本发明实施例提供的EfficientNet网络的框架图,共包含三部分,图6A为第一部分,由a)基准网络示意图、b)增加网络width即增加卷积核的个数(增加特征矩阵的channels)、c)增加网络depth、d)增加网络分辨率resolution、e)同时增加网络的width、depth、resolution组成;第二部分为EfficientNet-B0的网络框架(B1-B7就是在B0的基础上修改Resolution,Channels以及Layers)(见表2);第三部分为MBConv结构,如图6B所示。
表2 EfficientNet-B0的网络框架
针对碎片采集时受到人为因素和客观因素的影响,需要先对数据集进行预处理,然后建立基于EfficientNet网络模型,降低隐含层结点激活概率、去除随机影响因素,抽取本质数据特征,提高分类准确率。其次,针对EfficientNet模型结合了深度、宽度、分辨率三个维度使得网络变得较为复杂,易产生过拟合和计算复杂度代价高问题,设计基于轮转操控的麻雀优化模型;在该模型中,利用Halton序列和Tent映射对麻雀种群初始化并计算适应度,提升麻雀种群的分布均匀性,通过麻雀算法对EfficientNet模型中隐层的神经单元数、学习率、批处理数、迭代次数四个超参数寻优,同时设计轮转操控开发可能存在的全局最优解区域,提高种群多样性,进而实现基于表示稀疏的EfficientNet网络结构紧致性优化,提升分类预测精度,有效解决数据预测能力弱与计算复杂代价高昂问题。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用全部或部分地以计算机程序产品的形式实现,所述计算机程序产品包括一个或多个计算机指令。在计算机上加载或执行所述计算机程序指令时,全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL)或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输)。所述计算机可读取存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质(例如软盘、硬盘、磁带)、光介质(例如DVD)、或者半导体介质(例如固态硬盘Solid StateDisk(SSD))等。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,都应涵盖在本发明的保护范围之内。
Claims (5)
1.一种陶瓷碎片分类方法,其特征在于,所述陶瓷碎片分类方法包括:
构建数据集,对数据集进行预处理后,按比例划分为训练集和测试集;初步构建EfficientNet模型,确定预测模型的结构;设置麻雀搜索算法的参数值,用Halton序列和Tent映射初始化种群中麻雀个体位置,并计算种群中麻雀个体的适应度值;对麻雀个体按照适应度进行排序,选出最好的麻雀位置和最坏的麻雀位置,并更新种群中发现者、跟随者和预警者的位置;对种群中发现者加入惯性权重因子调节,利用随机迁徙机制改变侦察者位置,设计了最佳适配机制对发现者和加入者的比例调整,根据个体变化前后的适应度判断是否更改个体位置;判断是否满足终止条件;若满足,则构建最终的EfficientNet模型;若不满足,则返回适应度排序步骤;
所述陶瓷碎片分类方法包括以下步骤:
步骤一,建立EfficientNet模型,通过对采集的实验室陶瓷碎片数据进行预处理,提取碎片数据特征,建立数据集,并将数据集划分为训练集和测试集;
步骤二,设计SSA模型对EfficientNet模型中的超参数寻优,实现EfficientNet网络中隐层神经单元数、学习率、批处理数和迭代次数四个超参数的协同计算与自适应调整;
步骤三,将SSA模型中的麻雀个体按照适应度大小进行排序,确定最好的麻雀位置和最坏的麻雀位置,并划分发现者和加入者种群;
步骤四,更新SSA模型中发现者、跟随者和预警者的位置,发现者为整个麻雀种群寻找食物并为所有跟随者提供觅食的方向;跟随者根据发现者的位置获取食物;更新种群中预警者的位置,当意识到危险时,群体边缘的麻雀会迅速向安全区域移动,以获得更好的位置;
步骤五,对SSA模型进行改进;根据个体扰动前后的适应度判断是否更改麻雀个体的位置,若没有得到期望最优值,则直接执行步骤六;
步骤六,判断SSA模型是否达到最大迭代次数;若满足,则结合算法搜索的最佳超参数值构建最终的EfficientNet预测模型;用训练数据迭代训练该模型,将训练好的迭代模型通过测试数据得到预测数据;若不满足终止条件,则返回步骤五;
所述步骤一中的数据集按8:2比例划分为训练集和测试集;其中,所述数据集是以可视化所采集的陶瓷碎片图像数据作为实验数据集,数据集包括白色青花瓷、红色红釉、绿色绿釉、蓝色青花瓷、彩色彩瓷、紫色紫釉,最终以颜色对陶瓷碎片进行分类;
所述构建的数据集用于作为EfficientNet网络的输入变量,通过EfficientNet网络结构中的卷积层和池化层,再通过全连接层的作用产生一个输出变量,从而使输入变量和输出变量构成映射关系;
模型扩展通过调整输入图像的大小、网络的深度和宽度实现;所述EfficientNet通过一组固定的缩放系数统一缩放三个维度,所述EfficientNet的规范化复合调参方法使用一个复合系数对三个参数进行复合调整:
其中,α,β,γ均是常数,通过网格搜索获得;复合系数通过人工调节;depth表示网络深度、width表示网络宽度、resolution表示分辨率;
所述步骤二中的设计SSA模型对EfficientNet模型中的超参数寻优,实现EfficientNet网络中隐层神经单元数、学习率、批处理数、迭代次数四个超参数的自适应调整与协同计算包括:
对SSA的参数进行设置,其中麻雀种群Pop_Size数量为30、最大迭代次数Max_iter为50、发现者pNum和预警者sNum的数量设置设计最佳适配机制;EfficientNet模型超参数的解空间;轮转操控的麻雀搜索算法对EfficientNet中隐层神经单元数、学习率、批处理数和迭代次数四个超参数设置解空间,ub={200,0.01,30,400}表示解空间的上限,lb={10,0.001,2,900}表示解空间的下限;
其中,所述pNum=r*Pop_Size,sNum=(1-r)*Pop_Size,r取值范围在(0,1)之间,ub和lb的每一维分别对应的是EfficientNet模型隐藏层神经单元、学习率、批处理数、迭代次数的上界和下界;
其中,所述Halton序列和Tent映射初始化麻雀种群中每个麻雀的初始位置包括:
(1)利用Halton序列的所具有的低差异序列的特性,生成在高维空间分布均匀的高效随机数;
(2)根据Tent映射随机性、便利性和规律性的特征,利用所述特性优化种群的初始位置;其中,所述Tent混沌映射的表达式如下:
Tent混沌映射通过贝努利移位变换后表示如下:
yi+1=(2yi)mod1;
(3)对Tent混沌映射通过贝努利移位变换的表达式为:
改进后的Tent混沌映射通过贝努利移位变换的表达式为:
式中,N代表的是产生混沌序列的总数,即麻雀种群中麻雀的个数;rand(0,1)代表的是[0,1]之间的随机数;将生成的混沌序列载波到麻雀的求解空间中,公式如下:
xi=xlb+(xub-xlb)*yi;
式中,xi表示生成的第i个麻雀的初始位置;xub和xlb分别代表麻雀位置的上限和下限;
经过Halton序列和Tent混沌映射序列得到麻雀的初始位置之后,计算每个麻雀的适应度,包括:
(1)将麻雀个体的空间位置解释为EfficientNet模型的超参数,优化EfficientNet模型;
(2)利用训练数据迭代训练该模型,将训练好的迭代模型通过测试数据得到预测数据的分类准确率ACCR,利用ACCR的值做为麻雀的适应度;
所述步骤三中的将麻雀个体按照适应度大小进行排序包括:
在每一次迭代过程中将种群中每个麻雀适应度的值按照从小到大进行排序,由于ACCR作为麻雀的适应度,故麻雀适应度的值越大代表麻雀的位置越好;选出排序过后的最大的麻雀适应度值BestF,最佳的麻雀位置BestX;选出排序过后最小的麻雀适应度值WorseF,最差的麻雀位置WorseX;
所述步骤四中的更新麻雀种群中的发现者的位置包括:
发现者的数量占麻雀种群的百分之r,即为按照适应度值从小到大排序后的前r*Pop_Size只麻雀作为发现者;R2的值是[0,1]之间的随机数,表示的是预警值;ST的值设置为0.8,表示的是安全值界限;位置更新公式如下:
式中,t为当前的迭代数;tmax为总的迭代次数,Xi,j表示的是在第t次迭代中第i个麻雀的位置信息;z代表的是[0,1]之间的随机数;Q是服从正态分布的随机数;L表示的是的1×d的矩阵,其中该矩阵内每个元素全部为1;
当R2<ST时,表明预警值小于安全值,意味着此时的觅食环境周围没有捕食者,发现者扩大自己的搜索范围;当R2≥ST时,表示预警值大于安全值,意味着此时种群中的麻雀已经发现捕食者,并向其他麻雀发出警报,所有的麻雀必须迅速的飞到其它安全的地方;
其中,所述更新麻雀种群中跟随者的位置,包括:
跟随者的数量占麻雀种群的(1-r)%,即为按照适应度值从小到大排序后的后(1-r)*Pop_Size只麻雀作为跟随者;跟随者位置更新公式如下:
式中,n为麻雀种群的数量,Q是服从正态分布的随机数,表示的是在本次迭代中麻雀最差的位置;/>表示的是在本次迭代中麻雀最好的位置;A是一个1×d的矩阵,A+=AT(AAT)-1,该矩阵中每个元素的值随机为1或-1;
所述更新种群中预警者的位置,包括:
选取sNum只麻雀进行预警,预警者的数量sNum的值为麻雀种群的r%,共有r*Pop_Size只麻雀进行预警,fi为在本次迭代中第i个麻雀的适应度,fg表示在本次迭代中最优的适应度值,fw表示在本次迭代中最差的适应度值;预警者位置更新公式如下:
式中,和/>分别代表在本次迭代中麻雀最好和最差的位置;β的值是服从均值为0,方差为1的正态分布随机数,表示步长的控制参数;K的值是[-1,1]之间的一个随机数,表示麻雀移动的方向,也是麻雀步长的控制参数;ε是为了避免分母为0的情况出现,设置为一个极小的值;
当fi≠fg时,表明此时麻雀的位置处于种群的边缘,特别容易受到捕食者的攻击,迅速转移该麻雀的位置,并将该麻雀的位置转移到当前位置和最好位置/>之间的随机位置;
当fi=fg时,表明此时麻雀的位置处于种群的中间,在意识到捕食者威胁之后,及时向其他麻雀的位置靠拢来避免捕食者的攻击,将该麻雀的位置转移到当前位置和最差位置之间的随机位置;
所述步骤五中的对种群中发现者加入惯性权重因子调节并设计预警模拟机制,当达到预警值threshold时,种群始终没有发现捕食者,将自动启动预警机制,模拟天敌存在的情况,以此跳出局部最优,增强麻雀个体的质量,使用随机迁徙机制改变侦察者的位置;设计最佳适配机制调整加入者和跟随者的比例,并根据个体扰动前后的适应度,判断是否更改麻雀个体的位置;
其中,改进后发现者和预警者公式如下:
所述惯性权重因子:
式中,w1=0.2和w2=0.8;
所述发现者位置更新:
轮转操控:在莱维飞行的基础上,改进搜索方式,扩大解空间集的寻优范围;随机迁徙机制fly计算公式如下:
式中,σ是常数,r1和r2为0到1之间的随机数,β0=1.5,Γ表示伽马函数;
所述步骤六中的判断是否达到终止条件包括:
所述终止条件为:(1)是否达到最大迭代次数;(2)得到期望的全局最优值;
若满足所述终止条件,则将最终麻雀的最优位置解释为EfficientNet模型的超参数;将所述超参数代入EfficientNet模型中,构建完整的EfficientNet模型;利用数据集中的训练集和测试集对模型进行训练,并用训练好的模型对测试集进行预测;若不满足所述终止条件,则返回到步骤五。
2.一种实施权利要求1所述陶瓷碎片分类方法的陶瓷碎片分类系统,其特征在于,所述陶瓷碎片分类系统包括:
数据集构建模块,用于将陶瓷碎片按照颜色来构建成数据集,将数据集进行预处理,并按照8:2的比例划分为训练集和测试集;
EfficientNet模型构建模块,用于初步构建EfficientNet模型,确定预测模型的结构;
适应度计算模块,用于设置麻雀搜索算法的参数值,用Halton序列和Tent映射初始化种群中麻雀个体的初始位置,并计算种群中麻雀个体的适应度;
适应度排序模块,用于对麻雀个体按照适应度进行排序,并选出最好的麻雀位置和最坏的麻雀位置;
位置更新模块,用于更新种群中发现者的位置,更新种群中跟随者的位置,同时更新种群中预警者的位置;
更新加入者、预警者位置模块,用于利用改进的位置更新公式,判断个体变化前后的适应度中最优适应度是否达到期望最优值;若未达到最优值,则判断是否达到最大迭代次数,即执行终止条件判断模块;若达到最优值,则建立与EfficientNet网络之间的关系;
终止条件判断模块,用于判断是否满足终止条件;若满足,则构建最终EfficientNet预测模型;若不满足,则返回适应度排序模块。
3.一种计算机设备,其特征在于,所述计算机设备包括存储器和处理器,所述存储器存储有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行权利要求1所述陶瓷碎片分类方法。
4.一种计算机可读存储介质,存储有计算机程序,所述计算机程序被处理器执行时,使得所述处理器执行权利要求1所述陶瓷碎片分类方法。
5.一种信息数据处理终端,其特征在于,所述信息数据处理终端用于实现如权利要求2所述陶瓷碎片分类系统。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111548155.5A CN114399018B (zh) | 2021-12-17 | 2021-12-17 | 一种基于轮转操控策略麻雀优化的EfficientNet陶瓷碎片分类方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111548155.5A CN114399018B (zh) | 2021-12-17 | 2021-12-17 | 一种基于轮转操控策略麻雀优化的EfficientNet陶瓷碎片分类方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114399018A CN114399018A (zh) | 2022-04-26 |
CN114399018B true CN114399018B (zh) | 2023-10-10 |
Family
ID=81226238
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111548155.5A Active CN114399018B (zh) | 2021-12-17 | 2021-12-17 | 一种基于轮转操控策略麻雀优化的EfficientNet陶瓷碎片分类方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114399018B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115115141B (zh) * | 2022-08-22 | 2022-12-06 | 朗坤智慧科技股份有限公司 | 一种基于贪心思想和时序分类的回转窑能耗优化方法 |
CN115371623B (zh) * | 2022-08-25 | 2023-08-01 | 重庆大学 | 基于改进麻雀优化算法的轴直线度误差评定方法及系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112200068A (zh) * | 2020-10-09 | 2021-01-08 | 武汉科技大学 | 基于lstm神经网络心电提取方法、系统、设备及介质 |
CN112329934A (zh) * | 2020-11-17 | 2021-02-05 | 江苏科技大学 | 一种基于改进麻雀搜索算法的rbf神经网络优化算法 |
CN113129266A (zh) * | 2021-03-22 | 2021-07-16 | 太原科技大学 | 基于多域表达数据增强及模型自优化的不锈钢焊缝缺陷检测方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190220738A1 (en) * | 2018-01-18 | 2019-07-18 | Amit Flank | Skin analysis system and method |
CN113424199A (zh) * | 2019-01-23 | 2021-09-21 | 谷歌有限责任公司 | 用于神经网络的复合模型缩放 |
CN110443002A (zh) * | 2019-08-16 | 2019-11-12 | 中国水利水电科学研究院 | 一种高边坡形变预测方法及系统 |
-
2021
- 2021-12-17 CN CN202111548155.5A patent/CN114399018B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112200068A (zh) * | 2020-10-09 | 2021-01-08 | 武汉科技大学 | 基于lstm神经网络心电提取方法、系统、设备及介质 |
CN112329934A (zh) * | 2020-11-17 | 2021-02-05 | 江苏科技大学 | 一种基于改进麻雀搜索算法的rbf神经网络优化算法 |
CN113129266A (zh) * | 2021-03-22 | 2021-07-16 | 太原科技大学 | 基于多域表达数据增强及模型自优化的不锈钢焊缝缺陷检测方法 |
Non-Patent Citations (3)
Title |
---|
EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks;Mingxing Tan 等;《arXiv》;全文 * |
基于Tent映射的自适应混沌嵌入式粒子群算法;魏玉琴等;《计算机工程与应用》(第10期);全文 * |
基于改进U- Net深度网络的超声正中神经图像分割;田宝园等;《自动化仪表》(第08期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN114399018A (zh) | 2022-04-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Cai et al. | Path-level network transformation for efficient architecture search | |
CN109948029B (zh) | 基于神经网络自适应的深度哈希图像搜索方法 | |
CN107563422B (zh) | 一种基于半监督卷积神经网络的极化sar分类方法 | |
Cai et al. | A survey on network community detection based on evolutionary computation | |
CN114399018B (zh) | 一种基于轮转操控策略麻雀优化的EfficientNet陶瓷碎片分类方法 | |
Zhao et al. | Hyperspectral image classification with multi-attention transformer and adaptive superpixel segmentation-based active learning | |
CN109829541A (zh) | 基于学习自动机的深度神经网络增量式训练方法及系统 | |
CN110378366A (zh) | 一种基于耦合知识迁移的跨域图像分类方法 | |
Zeng et al. | CNN model design of gesture recognition based on tensorflow framework | |
CN109829934A (zh) | 一种新型基于孪生卷积网络的图像跟踪算法 | |
CN111242063A (zh) | 基于迁移学习的小样本分类模型构造方法及虹膜分类应用 | |
CN114092697B (zh) | 注意力融合全局和局部深度特征的建筑立面语义分割方法 | |
CN108596243A (zh) | 基于分级注视图和条件随机场的眼动注视图预测方法 | |
CN113807176B (zh) | 一种基于多知识融合的小样本视频行为识别方法 | |
CN107833239A (zh) | 一种基于加权模型约束的寻优匹配目标跟踪方法 | |
Song et al. | 1000fps human segmentation with deep convolutional neural networks | |
CN108985372A (zh) | 一种基于capsule理论和PLSA路由的医学影像分类方法 | |
Feng et al. | Flower recognition based on transfer learning and adam deep learning optimization algorithm | |
CN117034100A (zh) | 基于分层池化架构自适应图分类方法、系统、设备和介质 | |
Woźniak et al. | Basic concept of cuckoo search algorithm for 2D images processing with some research results: An idea to apply cuckoo search algorithm in 2d images key-points search | |
Liu et al. | Color image edge detection method based on the improved whale optimization algorithm | |
Kang et al. | 3D human pose lifting with grid convolution | |
Hao et al. | Architecture self-attention mechanism: Nonlinear optimization for neural architecture search | |
Zhang et al. | Research On Face Image Clustering Based On Integrating Som And Spectral Clustering Algorithm | |
CN114612450A (zh) | 基于数据增广机器视觉的图像检测分割方法、系统、电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |