CN111414849A - 一种基于演化卷积神经网络的人脸识别方法 - Google Patents
一种基于演化卷积神经网络的人脸识别方法 Download PDFInfo
- Publication number
- CN111414849A CN111414849A CN202010195004.5A CN202010195004A CN111414849A CN 111414849 A CN111414849 A CN 111414849A CN 202010195004 A CN202010195004 A CN 202010195004A CN 111414849 A CN111414849 A CN 111414849A
- Authority
- CN
- China
- Prior art keywords
- layer
- neural network
- convolutional neural
- individuals
- layers
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/004—Artificial life, i.e. computing arrangements simulating life
- G06N3/006—Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/086—Learning methods using evolutionary algorithms, e.g. genetic algorithms or genetic programming
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/12—Computing arrangements based on biological models using genetic models
- G06N3/126—Evolutionary algorithms, e.g. genetic algorithms or genetic programming
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/19—Recognition using electronic means
- G06V30/191—Design or setup of recognition systems or techniques; Extraction of features in feature space; Clustering techniques; Blind source separation
- G06V30/19173—Classification techniques
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Biophysics (AREA)
- General Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Mathematical Physics (AREA)
- Multimedia (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physiology (AREA)
- Human Computer Interaction (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Genetics & Genomics (AREA)
- Image Analysis (AREA)
- Collating Specific Patterns (AREA)
Abstract
本发明公开了一种基于演化卷积神经网络的人脸识别方法,采用遗传算法优化卷积神经网络的体系结构设计和连接权重初始化,通过不断演化寻找最佳的神经网络,进而减少网络架构设计中对人工经验的依赖。本发明采用可变长度基因编码策略对卷积神经网络进行编码,提高卷积神经网络结构的多样性,为了让变长的染色体进行交叉,采用结构单元对应位置分别交叉再复原的方法,实现长度不一致的染色体的交叉操作。本发明在环境选择环节,先进行精英选择,种群余下的个体进行两组适应度的比较然后选择,既保证了精英性又具有多样性。
Description
技术领域
本发明属于人脸识别领域,具体涉及一种基于演化卷积神经网络的人脸识别方法。
背景技术
人脸识别是指能够识别或者验证图像或视频中的主体的身份的技术,相比于传统识别方法例如指纹或虹膜识别,人脸识别被认为是更加稳健的生物识别方法。人脸识别本质上是非侵入性的,不像指纹、虹膜识别需要用户高度配合,人脸识别对用户很友好。因此,人脸识别的潜在应用范围更广,因为它也可被部署在用户不期望与系统合作的环境中,比如监控系统中。除此之外,人脸识别技术目前还广泛应用于访问控制、欺诈检测、身份认证和社交媒体等。传统方法依赖于人工设计的特征(比如边和纹理描述量)与机器学习技术(比如主成分分析、线性判别分析或支持向量机)的组合。人工设计在无约束环境中对不同变化情况提取稳健的特征很困难,研究者需要侧重研究针对每种变化类型的专用方法。基于卷积神经网络的深度学习方法成为目前人脸识别技术的主要方法,但是神经网络的架构设计颇具挑战性,构建一个拥有很好识别功能的神经网络强烈依赖人工经验,这些人工经验来自无数专业人员对处理任务以及神经网络模型多年研究成果的共同积累。然而这些行业大量匮乏此类专业人员,这导致基于卷积神经网络的深度学习方法很难独立实现。
发明内容
针对现有技术中的上述不足,本发明提供的一种基于演化卷积神经网络的人脸识别方法解决了现有技术依赖人工的问题。
为了达到上述发明目的,本发明采用的技术方案为:一种基于演化卷积神经网络的人脸识别方法,包括以下步骤:
S1、根据变长编码策略,通过间接编码方法生成N个卷积神经网络结构,得到初始化种群,并设置迭代计数器t=1和最大迭代次数T;
S2、对初始化种群中每个个体进行训练,并使用人脸数据进行适应度评估,根据适应度评估结果选择N个父本;
S3、使用二进制交叉算法对父本进行交叉,获取N个子代,将N个父本和N个子代合并为混合种群,对混合种群中个体进行变异操作;
S4、对混合种群中个体进行适应度评估,并根据混合种群的适应度评估结果,对混合种群施加环境选择,从混合种群中选出N个新个体;
S5、判断t是否等于T,若是,则进入步骤S6,否则将步骤S4中N个新个体作为父本,令t的计数值加一,并返回步骤S3;
S6、在N个新个体中选择适应度最佳的个体网络,将待检测人脸图像输入适应度最佳的个体网络,得到人脸识别结果。
进一步地,所述步骤S1中根据变长编码策略,通过间接编码方法生成N个卷积神经网络结构,得到初始化种群的具体步骤为:
A1、设定最大卷积层数为a、最大池化层数为b和最大全连接层数为c;
A2、将一个卷积层作为卷积神经网络结构的输入层,在输入层后依次随机添加卷积层或池化层,并设置卷积层的卷积核大小或设置池化层的过滤器大小;
A3、判断卷积层数目是否小于a且池化层数目是否小于b,若是,则返回步骤A2,否则进入步骤A4;
A4、判断卷积层数目是否为a,若是,添加池化层至其数目为b,并设置卷积层的卷积核大小,否则添加卷积层至其数目为a,并设置池化层的过滤器大小;
A5、添加c+1个顺序连接的全连接层,并在每个卷积层后插入一个批归一化层;
A6、在最后一个全连接层后添加一个dropout层,得到初始卷积神经网络结构;
A7、根据步骤A1-A6所述的方法生成N个初始卷积神经网络结构,通过间接编码方法对初始卷积神经网络结构进行编码,得到初始化种群。
进一步地,所述步骤A7中通过间接编码方法对初始卷积神经网络结构进行编码的具体方法为:通过间接编码对初始卷积神经网络结构中卷积层、池化层和全连接层进行编码;
所述卷积层的编码信息为:过滤器宽度、过滤器高度、特征图数目、步幅宽度、步幅高度、卷积类型、标准差以及过滤器参数平均值;
所述池化层的编码信息为:内核宽度、内核高度、步幅宽度、步幅高度以及池化类型,所述池化类型为最大池化或平均池化;
所述全连接层的编码信息为:神经元数目、连接权重标准差以及连接权重的平均值。
进一步地,对初始化种群中每个个体进行训练,并使用人脸数据进行适应度评估的具体方法为:
B1、采集若干大小相同的人脸图像数据,并将人脸图像数据按7:3划分为训练集和验证集;
B2、采用人工标记的方法对训练集中人脸图像数据进行人脸标记,得到样本标签;
B3、设置训练步数为30和学习率为0.0001,每一步训练遍历所有训练数据,将训练集中人脸图像数据依次送入个体中,并计算个体的预测输出与样本标签之间的损失函数值,以损失函数值最小为目标,采用Adam算法对个体参数进行优化;
B4、令采用步骤B2-步骤B3所述的方法,对初始化种群中每个个体进行训练;
B5、将验证集分别输入训练后的每个个体,并计算准确率和复杂度,根据准确率和复杂度获取适应度;
所述适应度等于准确率减去复杂度。
进一步地,所述步骤B4中准确率计算步骤为:选择个体输出的每个人脸的预测概率,选择最高概率的类别作为预测类别,并判断预测类别与对应人脸图像数据的真实类别是否相同,若是,则记为1,否则记为0,根据个体对验证集中人脸图像数据预测结果获取准确率,所述准确率P的具体计算公式为:
其中,n表示个体对验证集中人脸图像数据类别预测正确的个数,m表示验证集中人脸图像数据的总个数。
进一步地,所述步骤B4中复杂度Pcomplexity为个体的参数数量。
进一步地,所述步骤S2中根据适应度评估结果选择N个父本的具体方法为:
C1、设置第一阈值α和第二阈值β;
C2、从训练后的初始化种群中随机选择2个个体,并判断2个个体的准确率的差值是否大于α,若是,则选择准确率较大的个体作为父本,否则进入步骤C3;
C3、判断选出的2个个体复杂度差值是否小于β,若是,则选择准确率较大的个体作为父本,否则选择复杂度较小的个体作为父本;
C4、使用步骤C2-步骤C3所述的方法,选择得到N个父本。
进一步地,所述S3包括以下分步骤:
S3.1、根据父本中网络结构层的排列顺序,将卷积层、池化层和全连接层按照排列的先后顺序分别放入三个列表中;
S3.2、采用步骤S3.1所述方法得到每个父本的三个列表;
S3.3、随机选择两个父本,将两个父本的按照卷积层、池化层和全连接层这三种类别进行两两对应,并且对应的两个列表的首部对齐;
S3.4、交换对应的两个列表中相同位置的网络结构层,并将交换后的网络结构层按原网络结构的取出顺序放入对应的父本中;
S3.5、使用步骤S3.3-步骤S3.4所述的方法遍历所有父本,得到N个子代;
S3.6、将N个父本和N个子代合并为混合种群;
S3.7、对混合总群中个体进行增加、删除或修改操作,完成对混合种群中个体进行变异操作。
进一步地,所述增加操作为:分别设置卷积层、池化层和全连接层的最大增加数目,随机在卷积层、池化层或全连接层前增加一个相同的网络结构层,直至卷积层、池化层和全连接层的增加数目分别达到其最大增加数目;
所述删除操作为:分别设置卷积层、池化层和全连接层的最小存在数目,随机删除若干卷积层、池化层或全连接层;
所述修改操作为:根据多项式变异算法,随机修改若干网络结构层的各项参数。
进一步地,所述步骤S4中混合种群施加环境选择,从混合种群中选出N个新个体的具体方法为:
D1、从混合种群中选择适应度最佳的10%个体,得到第一批新个体;
D2、根据松弛二进制竞赛算法,从剩余个体选择0.8*N个新个体,得到第二批新个体;
D3、将第一批新个体和第二批新个体合并为一个群体,得到N个新个体。
本发明的有益效果为:
(1)本发明采用遗传算法优化卷积神经网络的体系结构设计和连接权重初始化,通过不断演化计算寻找最佳的神经网络,对人工经验的依赖极小。
(2)本发明采用可变长度基因编码策略对卷积神经网络进行编码,提高卷积神经网络结构的多样性,为了让变长的染色体进行交叉,采用结构单元对应位置分别交叉再复原的方法,实现长度不一致的染色体的交叉操作。
(3)本发明在环境选择环节,先进行精英选择,种群余下的个体进行两组适应度的比较然后选择,既保证了精英性又具有多样性。
附图说明
图1为本发明提出的一种基于演化卷积神经网络的人脸识别方法流程图。
图2为本发明中获取初始化种群的流程图。
具体实施方式
下面对本发明的具体实施方式进行描述,以便于本技术领域的技术人员理解本发明,但应该清楚,本发明不限于具体实施方式的范围,对本技术领域的普通技术人员来讲,只要各种变化在所附的权利要求限定和确定的本发明的精神和范围内,这些变化是显而易见的,一切利用本发明构思的发明创造均在保护之列。
下面结合附图详细说明本发明的实施例。
如图1所示,一种基于演化卷积神经网络的人脸识别方法,包括以下步骤:
S1、根据变长编码策略,通过间接编码方法生成N个卷积神经网络结构,得到初始化种群,并设置迭代计数器t=1和最大迭代次数T;
S2、对初始化种群中每个个体进行训练,并使用人脸数据进行适应度评估,根据适应度评估结果选择N个父本;
S3、使用二进制交叉算法对父本进行交叉,获取N个子代,将N个父本和N个子代合并为混合种群,对混合种群中个体进行变异操作;
S4、对混合种群中个体进行适应度评估,并根据混合种群的适应度评估结果,对混合种群施加环境选择,从混合种群中选出N个新个体;
S5、判断t是否等于T,若是,则进入步骤S6,否则将步骤S4中N个新个体作为父本,令t的计数值加一,并返回步骤S3;
S6、在N个新个体中选择适应度最佳的个体网络,将待检测人脸图像输入适应度最佳的个体网络,得到人脸识别结果。
如图2所示,所述步骤S1中根据变长编码策略,通过间接编码方法生成N个卷积神经网络结构,得到初始化种群的具体步骤为:
A1、设定最大卷积层数为a、最大池化层数为b和最大全连接层数为c;
A2、将一个卷积层作为卷积神经网络结构的输入层,在输入层后依次随机添加卷积层或池化层,并设置卷积层的卷积核大小或设置池化层的过滤器大小;
A3、判断卷积层数目是否小于a且池化层数目是否小于b,若是,则返回步骤A2,否则进入步骤A4;
A4、判断卷积层数目是否为a,若是,添加池化层至其数目为b,并设置卷积层的卷积核大小,否则添加卷积层至其数目为a,并设置池化层的过滤器大小;
A5、添加c+1个顺序连接的全连接层,并在每个卷积层后插入一个批归一化层;
A6、在最后一个全连接层后添加一个dropout层,得到初始卷积神经网络结构;
A7、根据步骤A1-A6所述的方法生成N个初始卷积神经网络结构,通过间接编码方法对初始卷积神经网络结构进行编码,得到初始化种群。
所述步骤A7中通过间接编码方法对初始卷积神经网络结构进行编码的具体方法为:通过间接编码对初始卷积神经网络结构中卷积层、池化层和全连接层进行编码;
所述卷积层的编码信息为:过滤器宽度、过滤器高度、特征图数目、步幅宽度、步幅高度、卷积类型、标准差以及过滤器参数平均值;
所述池化层的编码信息为:内核宽度、内核高度、步幅宽度、步幅高度以及池化类型,所述池化类型为最大池化或平均池化;
所述全连接层的编码信息为:神经元数目、连接权重标准差以及连接权重的平均值。
对初始化种群中每个个体进行训练,并使用人脸数据进行适应度评估的具体方法为:
B1、采集若干大小相同的人脸图像数据,并将人脸图像数据按7:3划分为训练集和验证集;
B2、采用人工标记的方法对训练集中人脸图像数据进行人脸标记,得到样本标签;
B3、设置训练步数为30和学习率为0.0001,每一步训练遍历所有训练数据,将训练集中人脸图像数据依次送入个体中,并计算个体的预测输出与样本标签之间的损失函数值,以损失函数值最小为目标,采用Adam算法对个体参数进行优化;
B4、令采用步骤B2-步骤B3所述的方法,对初始化种群中每个个体进行训练;
B5、将验证集分别输入训练后的每个个体,并计算准确率和复杂度,根据准确率和复杂度获取适应度;所述适应度等于准确率减去复杂度。
所述步骤B4中准确率计算步骤为:选择个体输出的每个人脸的预测概率,选择最高概率的类别作为预测类别,并判断预测类别与对应人脸图像数据的真实类别是否相同,若是,则记为1,否则记为0,根据个体对验证集中人脸图像数据预测结果获取准确率,所述准确率P的具体计算公式为:
其中,n表示个体对验证集中人脸图像数据类别预测正确的个数,m表示验证集中人脸图像数据的总个数。
所述步骤B4中复杂度Pcomplexity为个体的参数数量。
所述步骤S2中根据适应度评估结果选择N个父本的具体方法为:
C1、设置第一阈值α和第二阈值β;
C2、从训练后的初始化种群中随机选择2个个体,并判断2个个体的准确率的差值是否大于α,若是,则选择准确率较大的个体作为父本,否则进入步骤C3;
C3、判断选出的2个个体复杂度差值是否小于β,若是,则选择准确率较大的个体作为父本,否则选择复杂度较小的个体作为父本;
C4、使用步骤C2-步骤C3所述的方法,选择得到N个父本。
所述S3包括以下分步骤:
S3.1、根据父本中网络结构层的排列顺序,将卷积层、池化层和全连接层按照排列的先后顺序分别放入三个列表中;
S3.2、采用步骤S3.1所述方法得到每个父本的三个列表;
S3.3、随机选择两个父本,将两个父本的按照卷积层、池化层和全连接层这三种类别进行两两对应,并且对应的两个列表的首部对齐;
S3.4、交换对应的两个列表中相同位置的网络结构层,并将交换后的网络结构层按原网络结构的取出顺序放入对应的父本中;
S3.5、使用步骤S3.3-步骤S3.4所述的方法遍历所有父本,得到N个子代;
S3.6、将N个父本和N个子代合并为混合种群;
S3.7、对混合总群中个体进行增加、删除或修改操作,完成对混合种群中个体进行变异操作。
所述增加操作为:分别设置卷积层、池化层和全连接层的最大增加数目,随机在卷积层、池化层或全连接层前增加一个相同的网络结构层,直至卷积层、池化层和全连接层的增加数目分别达到其最大增加数目;所述删除操作为:分别设置卷积层、池化层和全连接层的最小存在数目,随机删除若干卷积层、池化层或全连接层;所述修改操作为:根据多项式变异算法,随机修改若干网络结构层的各项参数。
所述步骤S4中混合种群施加环境选择,从混合种群中选出N个新个体的具体方法为:
D1、从混合种群中选择适应度最佳的10%个体,得到第一批新个体;
D2、根据松弛二进制竞赛算法,从剩余个体选择0.8*N个新个体,得到第二批新个体;
D3、将第一批新个体和第二批新个体合并为一个群体,得到N个新个体。
在本实施例中,分别使用适应度最佳的个体网络、VGG16、VGG19和GoogleNetInception V1对待检测人脸图像进行识别,识别结果如表1所示。
表1
从表1可以看出,本发明中演化得到的个体网络对图像识别的准确率最佳,其复杂度也较小。
本发明的有益效果为:采用遗传算法优化卷积神经网络的体系结构设计和连接权重初始化,通过不断演化计算寻找最佳的神经网络,对人工经验的依赖极小。本发明采用可变长度基因编码策略对卷积神经网络进行编码,提高卷积神经网络结构的多样性,为了让变长的染色体进行交叉,采用结构单元对应位置分别交叉再复原的方法,实现长度不一致的染色体的交叉操作。本发明在环境选择环节,先进行精英选择,种群余下的个体进行两组适应度的比较然后选择,既保证了精英性又具有多样性。
Claims (10)
1.一种基于演化卷积神经网络的人脸识别方法,其特征在于,包括以下步骤:
S1、根据变长编码策略,通过间接编码方法生成N个卷积神经网络结构,得到初始化种群,并设置迭代计数器t=1和最大迭代次数T;
S2、对初始化种群中每个个体进行训练,并使用人脸数据进行适应度评估,根据适应度评估结果选择N个父本;
S3、使用二进制交叉算法对父本进行交叉,获取N个子代,将N个父本和N个子代合并为混合种群,对混合种群中个体进行变异操作;
S4、对混合种群中个体进行适应度评估,并根据混合种群的适应度评估结果,对混合种群施加环境选择,从混合种群中选出N个新个体;
S5、判断t是否等于T,若是,则进入步骤S6,否则将步骤S4中N个新个体作为父本,令t的计数值加一,并返回步骤S3;
S6、在N个新个体中选择适应度最佳的个体网络,将待检测人脸图像输入适应度最佳的个体网络,得到人脸识别结果。
2.根据权利要求1所述的基于演化卷积神经网络的人脸识别方法,其特征在于,所述步骤S1中根据变长编码策略,通过间接编码方法生成N个卷积神经网络结构,得到初始化种群的具体步骤为:
A1、设定最大卷积层数为a、最大池化层数为b和最大全连接层数为c;
A2、将一个卷积层作为卷积神经网络结构的输入层,在输入层后依次随机添加卷积层或池化层,并设置卷积层的卷积核大小或设置池化层的过滤器大小;
A3、判断卷积层数目是否小于a且池化层数目是否小于b,若是,则返回步骤A2,否则进入步骤A4;
A4、判断卷积层数目是否为a,若是,添加池化层至其数目为b,并设置卷积层的卷积核大小,否则添加卷积层至其数目为a,并设置池化层的过滤器大小;
A5、添加c+1个顺序连接的全连接层,并在每个卷积层后插入一个批归一化层;
A6、在最后一个全连接层后添加一个dropout层,得到初始卷积神经网络结构;
A7、根据步骤A1-A6所述的方法生成N个初始卷积神经网络结构,通过间接编码方法对初始卷积神经网络结构进行编码,得到初始化种群。
3.根据权利要求2所述的基于演化卷积神经网络的人脸识别方法,其特征在于,所述步骤A7中通过间接编码方法对初始卷积神经网络结构进行编码的具体方法为:通过间接编码对初始卷积神经网络结构中卷积层、池化层和全连接层进行编码;
所述卷积层的编码信息为:过滤器宽度、过滤器高度、特征图数目、步幅宽度、步幅高度、卷积类型、标准差以及过滤器参数平均值;
所述池化层的编码信息为:内核宽度、内核高度、步幅宽度、步幅高度以及池化类型,所述池化类型为最大池化或平均池化;
所述全连接层的编码信息为:神经元数目、连接权重标准差以及连接权重的平均值。
4.根据权利要求1所述的基于演化卷积神经网络的人脸识别方法,其特征在于,对初始化种群中每个个体进行训练,并使用人脸数据进行适应度评估的具体方法为:
B1、采集若干大小相同的人脸图像数据,并将人脸图像数据按7:3划分为训练集和验证集;
B2、采用人工标记的方法对训练集中人脸图像数据进行人脸标记,得到样本标签;
B3、设置训练步数为30和学习率为0.0001,每一步训练遍历所有训练数据,将训练集中人脸图像数据依次送入个体中,并计算个体的预测输出与样本标签之间的损失函数值,以损失函数值最小为目标,采用Adam算法对个体参数进行优化;
B4、令采用步骤B2-步骤B3所述的方法,对初始化种群中每个个体进行训练;
B5、将验证集分别输入训练后的每个个体,并计算准确率和复杂度,根据准确率和复杂度获取适应度;
所述适应度等于准确率减去复杂度。
6.根据权利要求4所述的基于演化卷积神经网络的人脸识别方法,其特征在于,所述步骤B4中复杂度Pcomplexity为个体的参数数量。
7.根据权利要求5所述的基于演化卷积神经网络的人脸识别方法,其特征在于,所述步骤S2中根据适应度评估结果选择N个父本的具体方法为:
C1、设置第一阈值α和第二阈值β;
C2、从训练后的初始化种群中随机选择2个个体,并判断2个个体的准确率的差值是否大于α,若是,则选择准确率较大的个体作为父本,否则进入步骤C3;
C3、判断选出的2个个体复杂度差值是否小于β,若是,则选择准确率较大的个体作为父本,否则选择复杂度较小的个体作为父本;
C4、使用步骤C2-步骤C3所述的方法,选择得到N个父本。
8.根据权利要求1所述的基于演化卷积神经网络的人脸识别方法,其特征在于,所述S3包括以下分步骤:
S3.1、根据父本中网络结构层的排列顺序,将卷积层、池化层和全连接层按照排列的先后顺序分别放入三个列表中;
S3.2、采用步骤S3.1所述方法得到每个父本的三个列表;
S3.3、随机选择两个父本,将两个父本的按照卷积层、池化层和全连接层这三种类别进行两两对应,并且对应的两个列表的首部对齐;
S3.4、交换对应的两个列表中相同位置的网络结构层,并将交换后的网络结构层按原网络结构的取出顺序放入对应的父本中;
S3.5、使用步骤S3.3-步骤S3.4所述的方法遍历所有父本,得到N个子代;
S3.6、将N个父本和N个子代合并为混合种群;
S3.7、对混合总群中个体进行增加、删除或修改操作,完成对混合种群中个体进行变异操作。
9.根据权利要求8所述的基于演化卷积神经网络的人脸识别方法,其特征在于,所述增加操作为:分别设置卷积层、池化层和全连接层的最大增加数目,随机在卷积层、池化层或全连接层前增加一个相同的网络结构层,直至卷积层、池化层和全连接层的增加数目分别达到其最大增加数目;
所述删除操作为:分别设置卷积层、池化层和全连接层的最小存在数目,随机删除若干卷积层、池化层或全连接层;
所述修改操作为:根据多项式变异算法,随机修改若干网络结构层的各项参数。
10.根据权利要求1所述的基于演化卷积神经网络的人脸识别方法,其特征在于,所述步骤S4中混合种群施加环境选择,从混合种群中选出N个新个体的具体方法为:
D1、从混合种群中选择适应度最佳的10%个体,得到第一批新个体;
D2、根据松弛二进制竞赛算法,从剩余个体选择0.8*N个新个体,得到第二批新个体;
D3、将第一批新个体和第二批新个体合并为一个群体,得到N个新个体。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010195004.5A CN111414849B (zh) | 2020-03-19 | 2020-03-19 | 一种基于演化卷积神经网络的人脸识别方法 |
US17/202,375 US11935326B2 (en) | 2020-03-19 | 2021-03-16 | Face recognition method based on evolutionary convolutional neural network |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010195004.5A CN111414849B (zh) | 2020-03-19 | 2020-03-19 | 一种基于演化卷积神经网络的人脸识别方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111414849A true CN111414849A (zh) | 2020-07-14 |
CN111414849B CN111414849B (zh) | 2020-12-29 |
Family
ID=71493131
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010195004.5A Active CN111414849B (zh) | 2020-03-19 | 2020-03-19 | 一种基于演化卷积神经网络的人脸识别方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US11935326B2 (zh) |
CN (1) | CN111414849B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111898689A (zh) * | 2020-08-05 | 2020-11-06 | 中南大学 | 一种基于神经网络架构搜索的图像分类方法 |
CN112819161A (zh) * | 2021-02-02 | 2021-05-18 | 四川大学 | 基于变长基因遗传算法的神经网络构建系统、方法及存储介质 |
CN113947705A (zh) * | 2021-10-25 | 2022-01-18 | 四川大学 | 一种基于约束条件下的演化神经网络的目标检测方法 |
WO2023124342A1 (zh) * | 2021-12-31 | 2023-07-06 | 江南大学 | 一种针对图像分类的神经网络结构低成本自动搜索方法 |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017034976A1 (en) * | 2015-08-21 | 2017-03-02 | Cummins Filtration Ip, Inc. | High speed rotating crankcase ventilation filter media and media pack |
US10682601B2 (en) | 2015-08-28 | 2020-06-16 | Cummins Filtration Ip, Inc. | Rotating coalescing element with directed liquid drainage and gas outlet |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105574824A (zh) * | 2015-12-15 | 2016-05-11 | 西安电子科技大学 | 基于脊波字典的多目标遗传优化压缩感知图像重构方法 |
CN107038479A (zh) * | 2017-05-08 | 2017-08-11 | 湖北科技学院 | 一种可变长染色体编码的混合并行遗传聚类算法 |
US20180137404A1 (en) * | 2016-11-15 | 2018-05-17 | International Business Machines Corporation | Joint learning of local and global features for entity linking via neural networks |
CN108880886A (zh) * | 2018-06-20 | 2018-11-23 | 国家电网公司信息通信分公司 | 一种跨区域电力系统保护通信网规划方法 |
CN110543867A (zh) * | 2019-09-09 | 2019-12-06 | 北京航空航天大学 | 一种多摄像头条件下的人群密度估测系统及方法 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9704045B2 (en) * | 2015-10-06 | 2017-07-11 | Yahoo! Inc. | User classification based upon images |
US10339450B2 (en) * | 2017-09-08 | 2019-07-02 | DeepCube LTD. | System and method for efficient evolution of deep convolutional neural networks using filter-wise recombination and propagated mutations |
US10769414B2 (en) * | 2018-06-03 | 2020-09-08 | Apple Inc. | Robust face detection |
US11069033B2 (en) * | 2018-09-10 | 2021-07-20 | University Of Florida Research Foundation, Inc. | Neural network evolution using expedited genetic algorithm for medical image denoising |
US20200097818A1 (en) * | 2018-09-26 | 2020-03-26 | Xinlin LI | Method and system for training binary quantized weight and activation function for deep neural networks |
CN111105029B (zh) * | 2018-10-29 | 2024-04-16 | 北京地平线机器人技术研发有限公司 | 神经网络的生成方法、生成装置和电子设备 |
US10873578B1 (en) * | 2019-12-09 | 2020-12-22 | Evan Chase Rose | Biometric authentication, decentralized learning framework, and adaptive security protocols in distributed terminal network |
-
2020
- 2020-03-19 CN CN202010195004.5A patent/CN111414849B/zh active Active
-
2021
- 2021-03-16 US US17/202,375 patent/US11935326B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105574824A (zh) * | 2015-12-15 | 2016-05-11 | 西安电子科技大学 | 基于脊波字典的多目标遗传优化压缩感知图像重构方法 |
US20180137404A1 (en) * | 2016-11-15 | 2018-05-17 | International Business Machines Corporation | Joint learning of local and global features for entity linking via neural networks |
CN107038479A (zh) * | 2017-05-08 | 2017-08-11 | 湖北科技学院 | 一种可变长染色体编码的混合并行遗传聚类算法 |
CN108880886A (zh) * | 2018-06-20 | 2018-11-23 | 国家电网公司信息通信分公司 | 一种跨区域电力系统保护通信网规划方法 |
CN110543867A (zh) * | 2019-09-09 | 2019-12-06 | 北京航空航天大学 | 一种多摄像头条件下的人群密度估测系统及方法 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111898689A (zh) * | 2020-08-05 | 2020-11-06 | 中南大学 | 一种基于神经网络架构搜索的图像分类方法 |
CN111898689B (zh) * | 2020-08-05 | 2023-09-26 | 中南大学 | 一种基于神经网络架构搜索的图像分类方法 |
CN112819161A (zh) * | 2021-02-02 | 2021-05-18 | 四川大学 | 基于变长基因遗传算法的神经网络构建系统、方法及存储介质 |
CN112819161B (zh) * | 2021-02-02 | 2021-08-31 | 四川大学 | 变长基因遗传算法的神经网络构建系统、方法及存储介质 |
CN113947705A (zh) * | 2021-10-25 | 2022-01-18 | 四川大学 | 一种基于约束条件下的演化神经网络的目标检测方法 |
CN113947705B (zh) * | 2021-10-25 | 2022-08-12 | 四川大学 | 一种基于约束条件下的演化神经网络的目标检测方法 |
WO2023124342A1 (zh) * | 2021-12-31 | 2023-07-06 | 江南大学 | 一种针对图像分类的神经网络结构低成本自动搜索方法 |
Also Published As
Publication number | Publication date |
---|---|
CN111414849B (zh) | 2020-12-29 |
US11935326B2 (en) | 2024-03-19 |
US20210295019A1 (en) | 2021-09-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111414849B (zh) | 一种基于演化卷积神经网络的人脸识别方法 | |
CN106372581B (zh) | 构建及训练人脸识别特征提取网络的方法 | |
CN112800876B (zh) | 一种用于重识别的超球面特征嵌入方法及系统 | |
CN108960304B (zh) | 一种网络交易欺诈行为的深度学习检测方法 | |
CN110929848B (zh) | 基于多挑战感知学习模型的训练、跟踪方法 | |
CN111898689A (zh) | 一种基于神经网络架构搜索的图像分类方法 | |
CN110110845B (zh) | 一种基于并行多级宽度神经网络的学习方法 | |
CN110942091A (zh) | 寻找可靠的异常数据中心的半监督少样本图像分类方法 | |
CN110580510B (zh) | 一种聚类结果评价方法和系统 | |
Harliman et al. | Data-and algorithm-hybrid approach for imbalanced data problems in deep neural network | |
CN113269647A (zh) | 基于图的交易异常关联用户检测方法 | |
CN109886206B (zh) | 一种三维物体识别方法及设备 | |
CN113963410A (zh) | 一种基于改进遗传算法的人脸识别优化方法 | |
Assuncao et al. | Automatic evolution of autoencoders for compressed representations | |
CN110348323B (zh) | 一种基于神经网络优化的穿戴式设备手势识别方法 | |
JP2011257805A (ja) | 情報処理装置および方法、並びにプログラム | |
Azghani et al. | Intelligent modified mean shift tracking using genetic algorithm | |
CN109165586A (zh) | 用于ai芯片的智能图像处理方法 | |
CN112668551B (zh) | 基于遗传算法的表情分类方法 | |
CN114782761A (zh) | 基于深度学习的智能仓储物料识别方法和系统 | |
Wei et al. | An improved genetic FCM clustering algorithm | |
CN116434250B (zh) | 一种手写字符图像相似度确定模型训练方法 | |
Kopčan et al. | Do Neural Networks Recognize Patterns as well as Students? | |
Briceño et al. | Angular contour parameterization for signature identification | |
CN117874521A (zh) | 一种适用于提升树模型的变量分布稳定性判定方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |