CN109948662B - 一种基于K-means和MMD的人脸图像深度聚类方法 - Google Patents

Abstract

本发明公开了一种基于K‑means和MMD的人脸图像深度聚类方法，包括：1)设计自动编码器结构并训练，使用自动编码器提取人脸图像的隐层信息；2)使用K‑means聚类方法对隐层信息进行聚类，确定K个聚类中心点，并计算每个样本点被划分至K个类簇的概率p和每个类簇中该样本点应该被该类簇吸引的概率q；3)计算p分布和q分布的MMD距离，并将MMD加入自动编码器的loss函数中去，对自动编码器进行训练；4)训练完成后，使用该自动编码器提取测试集的深层次信息，再使用K‑means对深层次信息进行聚类，输出聚类结果。该人脸图像深度聚类方法能够提高聚类算法对图像数据集的聚类准确率。

Description

一种基于K-means和MMD的人脸图像深度聚类方法

技术领域

本发明属于人工智能领域的深度学习算法与人脸识别研究领域，具体涉及一种基于K-means和MMD的人脸图像深度聚类方法。

背景技术

人脸通常被认作成一种常见的视觉模式，其所具有的视觉特征在人际交往方面具有重要的作用和意义。长久以来，人脸识别技术在计算机视觉和安全管控领域有着广泛的研究和应用。常用的面部特征标定算法主要包括基于几何形状的方法、基于特征信息的方法和基于统计的方法。Govindaraju等使用变形模板对头顶的轮廓线和左右两侧的面颊轮廓线进行匹配，实现了对人脸的定位。Yang等将人脸的五官区域进行划分，并使用边缘特征提取方法来提取人脸的特征信息，达到人脸检测的目的。Rowley等使用多个ANN模块检测多姿态人脸，使用“自举”方法收集被错分的样本，再对ANN进行重新练以修正分类器。Nefian等根据正面人脸五官位置顺序不变这一性质，对头部的五官区域进行K-L变换，选取若干个变换系数作为观测向量训练模型。此外，Vapnik等还提出了基于支持向量机的人脸分类，以提高对小样本的人脸识别率。

K-means算法是一种经典的聚类算法，它根据样本间的相似度对数据进行划分，是一种无监督的数据分析方法。其具体过程为：首先从n个数据对象任意选择k个对象作为初始聚类中心；而对于其它对象，则根据它们与这些聚类中心的相似度，分别将它们分配给与其最相似的聚类中心所处的类簇；当所有对象划分完毕后，再计算每个类簇的重心，并选取最接近重心位置的数据点作为新的聚类中心；不断重复这一过程直到标准测度函数开始收敛为止。k个类簇具有以下特点：各聚类本身尽可能的紧凑，而各聚类之间尽可能的分开。

MMD算法是用于双样本检测的一种度量方法，其用于判断两个分布p和q是否相同。它的基本假设是：对于所有以分布生成的样本空间为输入的函数f，如果两个分布生成的足够多的样本在f上的对应的像的均值都相等，那么可以认为这两个分布是同一个分布。基于MMD的统计检验方法需要寻找在样本空间上连续的函数，并求取不同分布在该函数映射下的统计量均值，若两者均值越接近，则说明这两个分布越相似。

目前，基于深度学习的人脸识别方法已经取得了显著的效果，然而，这些方法大多是有监督的训练算法，深度模型在无监督算法上的性能仍有待提升。

发明内容

本发明的目的是提供一种基于K-means和MMD的人脸图像深度聚类方法，通过自动编码器提取图像特征信息，结合K-means算法和MMD距离确定loss函数，通过训练来对特征信息进行修正，最终有效提高整个无监督算法对人脸识别的分类准确率。

为实现上述发明目的，本发明提供以下技术方案：

一种基于K-means和MMD的人脸图像深度聚类方法，包括以下步骤：

(1)采用预训练的自动编码器提取人脸图像的特征信息；

(2)采用K-means聚类方法对特征信息进行聚类，并计算每张人脸图像对应的特征信息被划分至K个类簇的概率p和每个类簇中该特征信息应该被该类簇吸引的概率q；

(3)概率p和概率q之间的MMD距离作为自动编码器中编码器部分的损失函数，并构建自动编码器的损失函数，对自动编码器进行训练，采用反向梯度传播算法优化自动编码器的模型参数；

(4)当loss函数趋于稳定时，将人脸图像再次输入步骤(3)训练得到的自动编码器中，并对自动编码器输出的特征信息再进行K-means聚类，重复步骤(2)和步骤(3)，直至满足终止条件时，停止循环，得到训练好的自动编码器；

(5)使用训练好的自动编码器提取待处理的人脸图像的特征信息，再使用K-means聚类方法对特征信息进行聚类，输出聚类结果。

本发明通过基于K-means和MMD的人脸图像深度聚类方法，首先使用自动编码器提取人脸图像的隐层信息，再使用K-means聚类方法对隐层信息进行聚类，之后计算每个样本点被划分至K个类簇的概率p和每个类簇中该样本点应该被该类簇吸引的概率q，并设置p分布和q分布的MMD距离为编码器的loss函数，最后通过训练的方法提取更准确的人脸信息，以达到提升聚类准确率的目的。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图做简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动前提下，还可以根据这些附图获得其他附图。

图1为本发明的基于K-means和MMD的人脸图像深度聚类方法整体流程图；

图2为本发明的基于K-means和MMD的人脸图像深度聚类方法的自动编码器结构图；

图3为本发明的基于K-means和MMD的人脸图像深度聚类方法的测试集中聚类中心对应的人脸图像；

图4为本发明的基于K-means和MMD的人脸图像深度聚类方法的最终聚类结果。

具体实施方式

为使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例对本发明进行进一步的详细说明。应当理解，此处所描述的具体实施方式仅仅用以解释本发明，并不限定本发明的保护范围。

为了提升人脸图像的聚类准确率，本实施例提供了一种基于K-means和MMD的人脸图像深度聚类方法，其主要流程如图1所示，主要包含四部分内容：1)设计自动编码器结构并训练，使用自动编码器提取人脸图像的隐层信息(也就是深层次信息或特征信息)；2)使用K-means聚类方法对隐层信息进行聚类，确定K个聚类中心点，并计算每个样本点被划分至K个类簇的概率p和每个类簇中该样本点应该被该类簇吸引的概率q；3)计算p分布和q分布的MMD距离，并将MMD加入自动编码器的loss函数中去，对自动编码器进行训练；4)训练完成后，使用该自动编码器提取测试集的深层次信息，再使用K-means聚类方法对深层次信息进行聚类，输出聚类结果。

具体过程如下：

(1)针对设计自动编码器提取人脸图像的深层次信息：

设计一个如图2所示的自动编码器，该包括编码器和解码器，其中，

编码器包括依次连接的第一卷积层、池化层、第二卷积层、第三卷积层、第一全连接层以及第二全连接层，所有卷积过程的卷积步长均为2，且每一层之后的激活函数均为relu函数。本发明用于测试的实验数据集的尺寸为64×64×1，第一卷积层的尺寸为3×3×8，经过卷积后图像的尺寸变为32×32×8；卷积之后接一个池化层，池化方式为最大池化，经过池化后图像的尺寸变为16×16×8；第二卷积层的尺寸为3×3×16，经过卷积后的图像尺寸为8×8×16；第三卷积层的尺寸为3×3×32，经过卷积后的图像尺寸为4×4×32；卷积之后将图像张成包含512个神经元的全连接层，记作第一层全连接层，第二层全连接则将512个神经元映射至10个神经元，由该10个神经元构成的向量即代表人脸图像经编码后获得的隐含信息。

解码器的结构和编码器完全对称，依次包括第一全连接层、第二全连接层，第三反卷积层、第二反卷积层、反池化层以及第一反卷积层；因此，自动编码器的输入和输出为两张尺寸相同的图像。

预训练自动编码器时，损失函数L为：

其中，x_i表示第i个人脸图像，f(x_i)表示x_i经过自动编码器后得到的输出。自动编码器的训练目的是在提取深层次信息的同时，确保深层次信息能尽可能多地包含原始的图像信息。

在获得预训练的自动编码器后，提取自动编码器的编码器，将人脸图像输入至提取的编码器中，经计算获得每张人脸图像的特征信息。

(2)采用K-means聚类方法对特征信息进行聚类，计算特性信息的P分布与q分布，具体过程为：

(2-1)采用K-means聚类方法对特征信息进行聚类，确定K个聚类中心，记作{c₁,c₂,...,c_K}，其中聚类个数K即为图像数据集所包含的类别数。

(2-2)聚类中心确定后，对于每张人脸图像对应的特征信息，计算该特征信息被划分至K个类簇的概率p，具体计算公式为：

其中，z_i表示第i张图像经编码器得到的特征信息，c_m表示第m个类簇的聚类中心，p_im表示z_i属于第m个类簇的概率，公式(2)使用近似学生分布的计算方法计算了一个数据点在面对各个类簇中心时的分布概率。

(2-3)对于一张图片生成的特征信息，在确定其对应的概率p后，再针对概率p，计算每个类簇中该特征信息应该被该类簇吸引的概率q，具体计算公式为：

其中，q_im表示第i张图像的特征信息被第m个类簇吸引的概率，本质上来讲，p_i和q_i都是根据聚类结果而对图像i的特征信息做出的一个概率分布，且q_im是对p_im在各个类簇中所占概率比例的一个期望概率。

(3)将概率p和概率q之间的MMD距离作为自动编码器中编码器部分的损失函数，并构建自动编码器的损失函数，对自动编码器进行训练，采用反向梯度传播算法优化自动编码器的模型参数。

具体地，概率p和概率q之间的MMD距离的计算公式为：

其中，i和j表示任意两张图像，p_i、p_j、q_i、q_j分别表示图像i和图像j经K-means计算后，根据聚类结果得到的不同概率分布，k(·)表示两个向量的核函数运算，指定k(p_i,p_j)代表向量p_j与向量p_i之间的欧氏距离，F表示映射集合，包含种映射f，p_i＝(p_i1,p_i2,...,p_iK)，q_i＝(q_i1,q_i2,...,q_iK)均为K维向量，n表示分布p和分布q的样本个数，F表示映射集合。MMD的目的是在映射集合F中寻找最佳映射f，使在映射f下的p分布和q分布最接近。

在具体计算时，可以用统计估计的方法来对公式(4)进行近似，即

其中，k(·)表示两个向量的核函数运算，在本算法中，指定k(p_i,p_j)代表两个向量之间的欧氏距离。此外，本算法中l＝n，则公式(5)可化简为

将将关于p和q的MMD距离和公式(1)中自动编码器的loss进行线性组合，作为新的自动编码器loss函数。具体地，自动编码器的损失函数为：

L′＝αMMD[F,p,q]+(1-α)L

其中，0＜α＜1是一个常数，可以设置α＝0.8，用来控制MMD和L在L′中所占的比重。通过这种方法设计L′的目的是在梯度下降算法使概率p和概率q的分布尽量接近的同时，也能在一定程度上使深层次信息中尽可能多地包含原始的图像信息。

(4)当loss函数趋于稳定时，对自动编码器得到的特征信息再进行K-means聚类，重复步骤(2)～步骤(3)，直至满足终止条件时，停止循环，得到训练好的自动编码器。

具体地过程为：

(4-1)以步骤(3)中给定的loss函数为优化目标，设置epoch＝10，对自动编码器进行基于梯度的模型参数优化；

(4-2)使用参数优化后的编码器重新提取图像的深层次信息，并再次对这些数据使用K-means算法进行聚类；

(4-3)根据聚类结果更新数据的聚类中心、p分布、q分布和MMD距离，再以步骤(3)中给定的loss函数为优化目标，设置epoch＝10，对自动编码器进行基于梯度的模型参数优化；当相邻两次K-means的聚类结果误差小于5％时，停止迭代。

(5)使用训练好的自动编码器提取待处理的人脸图像的特征信息，再使用K-means聚类方法对特征信息进行聚类，输出聚类结果。

实验例

为了验证本发明提供的基于K-means和MMD的人脸图像深度聚类方法具有一定的分类效果和实际应用背景，将本发明提出的基于K-means和MMD的人脸图像深度聚类方法在Olivetti人脸数据集上进行实验。

Olivetti数据集是纽约大学统计收集的人脸数据集，该数据集包含40个人，每人含有10张64×64的人脸灰度图像。实验中，选取前10类人脸作为测试对象进行实验。为了使该数据集达到可训练的要求，通过不同角度的旋转变换、对称变换和翻转变换对该前10类人脸图像进行数据扩充，最终得到每人80张图片、一共800张人脸的数据集。实验中，使用87.5％的数据进行训练，12.5％的数据作为测试。

图3和图4展示了基于K-means和MMD的深度聚类算法在Olivetti数据集上的实验结果。图3展示了最终聚类结果中10个聚类中心对应的原始人脸图像，从图中可以看出，本发明设计的基于K-means和MMD的人脸图像深度聚类方法能有效检测出10类不同的人脸图像。图4展示了最终的聚类结果，其中左上角打“√”的图像表示被正确划分的图像，左上角打“×”的图像表示被错误划分的图像，容易得到，算法最终达到的聚类准确率为84％。

以上所述的具体实施方式对本发明的技术方案和有益效果进行了详细说明，应理解的是以上所述仅为本发明的最优选实施例，并不用于限制本发明，凡在本发明的原则范围内所做的任何修改、补充和等同替换等，均应包含在本发明的保护范围之内。

Claims (8)

1.一种基于K-means和MMD的人脸图像深度聚类方法，包括以下步骤：

(1)采用预训练的自动编码器提取人脸图像的特征信息；

(2)采用K-means聚类方法对特征信息进行聚类，并计算每张人脸图像对应的特征信息被划分至K个类簇的概率p和每个类簇中该特征信息应该被该类簇吸引的概率q；

(3)将概率p和概率q之间的MMD距离作为自动编码器中编码器部分的损失函数，并构建自动编码器的损失函数，对自动编码器进行训练，采用反向梯度传播算法优化自动编码器的模型参数；

(4)当损失函数趋于稳定时，将人脸图像再次输入步骤(3)训练得到的自动编码器中，并对自动编码器输出的特征信息再进行K-means聚类，重复步骤(2)和步骤(3)，直至满足终止条件时，停止循环，得到训练好的自动编码器；

(5)使用训练好的自动编码器提取待处理的人脸图像的特征信息，再使用K-means聚类方法对特征信息进行聚类，输出聚类结果。

2.如权利要求1所述的基于K-means和MMD的人脸图像深度聚类方法，其特征在于，自动编码器包括编码器和解码器，其中，

编码器包括依次连接的第一卷积层、池化层、第二卷积层、第三卷积层、第一全连接层以及第二全连接层；

解码器的结构与编码器对称，依次包括第一全连接层、第二全连接层，第三反卷积层、第二反卷积层、反池化层以及第一反卷积层；

预训练自动编码器时，损失函数L为：

其中，x_i表示第i个人脸图像，f(x_i)表示x_i经过自动编码器后得到的输出。

3.如权利要求2所述的基于K-means和MMD的人脸图像深度聚类方法，其特征在于，在获得预训练的自动编码器后，提取自动编码器的编码器，将人脸图像输入至提取的编码器中，经计算获得每张人脸图像的特征信息。

4.如权利要求1所述的基于K-means和MMD的人脸图像深度聚类方法，其特征在于，步骤(2)的具体过程为：

(2-1)采用K-means聚类方法对特征信息进行聚类，确定K个聚类中心；

(2-2)聚类中心确定后，对于每张人脸图像对应的特征信息，计算该特征信息被划分至K个类簇的概率p，具体计算公式为：

其中，z_i表示第i张图像经编码器得到的特征信息，c_m表示第m个类簇的聚类中心，p_im表示z_i属于第m个类簇的概率；

(2-3)对于一张图片生成的特征信息，在确定其对应的概率p后，再针对概率p，计算每个类簇中该特征信息应该被该类簇吸引的概率q，具体计算公式为：

其中，q_im表示第i张图像的特征信息被第m个类簇吸引的概率，p_im和q_im都是根据聚类结果而对图像i的特征信息做出的一个概率分布，且q_im是对p_im在各个类簇中所占概率比例的一个期望概率。

5.如权利要求1所述的基于K-means和MMD的人脸图像深度聚类方法，其特征在于，步骤(3)中，概率p和概率q之间的MMD距离的计算公式为：

其中，i和j表示任意两张图像，p_i、p_j、q_i、q_j分别表示图像i和图像j经K-means计算后得到的不同概率分布，k(·)表示两个向量的核函数运算，指定k(p_i,p_j)代表向量p_j与向量p_i之间的欧氏距离，F表示映射集合。

6.如权利要求5所述的基于K-means和MMD的人脸图像深度聚类方法，其特征在于，步骤(3)中，自动编码器的损失函数为：

L′＝αMMD[F,p,q]+(1-α)L

其中，0＜α＜1是一个常数，L表示步骤(1)中，预训练自动编码器时的损失函数。

7.如权利要求6所述的基于K-means和MMD的人脸图像深度聚类方法，其特征在于，设置α＝0.8。

8.如权利要求1所述的基于K-means和MMD的人脸图像深度聚类方法，其特征在于，步骤(4)中，当相邻两次K-means的聚类结果误差小于5％时，停止迭代。

Images