CN107341509A - 卷积神经网络的训练方法及装置 - Google Patents
卷积神经网络的训练方法及装置 Download PDFInfo
- Publication number
- CN107341509A CN107341509A CN201710515521.4A CN201710515521A CN107341509A CN 107341509 A CN107341509 A CN 107341509A CN 201710515521 A CN201710515521 A CN 201710515521A CN 107341509 A CN107341509 A CN 107341509A
- Authority
- CN
- China
- Prior art keywords
- attribute
- target photo
- convolutional neural
- target
- neural networks
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
Abstract
本公开是关于卷积神经网络的训练方法及装置。该方法包括：从预设图片库中选择目标图片；将目标图片输入卷积神经网络中，获得目标图片的识别结果，其中，识别结果包括：经过卷积神经网络获得的图片相似度验证结果和属性关联参数值，属性关联参数值与卷积神经网络对目标图片的目标属性的预测值相关；根据目标图片的识别结果，对卷积神经网络的目标网络参数进行调整。该技术方案，可对CNN网络进行更为有效、精准的训练，有利于提高训练结果的精确度，可提高CNN网络后期对目标属性的识别精确度。
Description
技术领域
本公开涉及深度学习技术领域，尤其涉及卷积神经网络的训练方法及装置。
背景技术
目前，为了更好地识别图片，越来越多的识别过程需要使用到CNN网络(Convolutional Neural Network,卷积神经网络)，而为了确保识别结果准确，就需要对CNN网络等进行反复训练，但相关技术中的CNN网络训练方式使得CNN网络的训练效率和精确度并不太高，从而导致CNN网络的训练结果不太理想。
发明内容
本公开实施例提供了卷积神经网络的训练方法及装置。所述技术方案如下：
根据本公开实施例的第一方面，提供一种卷积神经网络的训练方法，包括：
从预设图片库中选择目标图片；
将所述目标图片输入卷积神经网络中，获得所述目标图片的识别结果，其中，所述识别结果包括：经过所述卷积神经网络获得的图片相似度验证结果和属性关联参数值，所述属性关联参数值与所述卷积神经网络对所述目标图片的目标属性的预测值相关；
根据所述目标图片的识别结果，对所述卷积神经网络的目标网络参数进行调整。
在一个实施例中，所述卷积神经网络的损失函数包括属性识别函数和相似度验证函数；
所述将所述目标图片输入卷积神经网络中，获得所述目标图片的识别结果，包括：
将所述目标图片输入卷积神经网络；
在所述属性识别函数基础上，根据所述目标图片的所述目标属性的预设属性值、所述卷积神经网络基于所述目标图片提取到的哈希码和所述属性识别函数中第一网络参数的当前值，获得所述目标图片的属性关联参数值；
在所述相似度验证函数基础上，根据所述目标图片的所述目标属性的预设属性值、所述卷积神经网络基于所述目标图片提取到的哈希码和所述相似度验证函数中第二网络参数的当前值，获得所述目标图片的图片相似度验证结果，其中，所述目标网络参数包括所述第一网络参数和所述第二网络参数。
在一个实施例中，当所述目标图片的属性关联参数值包括多个值时，从所述多个值中选择最大的参数值作为最终的属性关联参数值。
在一个实施例中，所述目标图片包括所述预设图片库中的任意两张图片；
所述将所述目标图片输入卷积神经网络中，获得所述目标图片的识别结果，包括：
将所述目标图片输入卷积神经网络中，分别获得所述目标图片中各图片的属性关联参数值和所述目标图片的图片相似度验证结果。
在一个实施例中，所述属性识别函数包括：其中：
f表示所述卷积神经网络基于所述目标图片中任一张图片提取到的哈希码、t表示所述任一张图片的所述目标属性的预设属性值、θid表示所述第一网络参数的当前值、表示所述任一张图片的所述目标属性的预测值的预测概率、表示所述属性关联参数值；
所述相似度验证函数包括：
其中：
fi和fj分别表示所述卷积神经网络基于所述目标图片中的两张图片提取到的各图片的哈希码、yij＝1表示所述目标图片中的两张图片的目标属性的预设属性值相同，yij＝-1表示所述目标图片中的两张图片的目标属性的的预设属性值不同、θve表示所述第二网络参数的当前值、m表示预设参数、Verif(fi，fj，yij，θve)表示所述图片相似度验证结果。
在一个实施例中，所述卷积神经网中采用的激活函数的梯度值不等于零。
在一个实施例中，所述激活函数包括绝对值函数。
在一个实施例中，所述目标属性包括以下任一项：所述目标图片中人物的年龄、所述目标图片中景物的地点、所述目标图片的拍摄地点。
根据本公开实施例的第二方面，提供一种卷积神经网络的训练装置，包括：
第一选择模块，用于从预设图片库中选择目标图片；
获取模块，用于将所述目标图片输入卷积神经网络中，获得所述目标图片的识别结果，其中，所述识别结果包括：经过所述卷积神经网络获得的图片相似度验证结果和属性关联参数值，所述属性关联参数值与所述卷积神经网络对所述目标图片的目标属性的预测值相关；
调整模块，用于根据所述目标图片的识别结果，对所述卷积神经网络的目标网络参数进行调整。
在一个实施例中，所述卷积神经网络的损失函数包括属性识别函数和相似度验证函数；
所述获取模块包括：
输入子模块，用于将所述目标图片输入卷积神经网络；
第一获取子模块，用于在所述属性识别函数基础上，根据所述目标图片的所述目标属性的预设属性值、所述卷积神经网络基于所述目标图片提取到的哈希码和所述属性识别函数中第一网络参数的当前值，获得所述目标图片的属性关联参数值；
第二获取子模块，用于在所述相似度验证函数基础上，根据所述目标图片的所述目标属性的预设属性值、所述卷积神经网络基于所述目标图片提取到的哈希码和所述相似度验证函数中第二网络参数的当前值，获得所述目标图片的图片相似度验证结果，其中，所述目标网络参数包括所述第一网络参数和所述第二网络参数。
在一个实施例中，第二选择模块，用于当所述目标图片的属性关联参数值包括多个值时，从所述多个值中选择最大的参数值作为最终的属性关联参数值。
在一个实施例中，所述目标图片包括所述预设图片库中的任意两张图片；
所述获取模块包括：
第三获取子模块，用于将所述目标图片输入卷积神经网络中，分别获得所述目标图片中各图片的属性关联参数值和所述目标图片的图片相似度验证结果。
在一个实施例中，所述属性识别函数包括：其中：
f表示所述卷积神经网络基于所述目标图片中任一张图片提取到的哈希码、t表示所述任一张图片的所述目标属性的预设属性值、θid表示所述第一网络参数的当前值、表示所述任一张图片的所述目标属性的预测值的预测概率、表示所述属性关联参数值；
所述相似度验证函数包括：
其中：
fi和fj分别表示所述卷积神经网络基于所述目标图片中的两张图片提取到的各图片的哈希码、yij＝1表示所述目标图片中的两张图片的目标属性的预设属性值相同，yij＝-1表示所述目标图片中的两张图片的目标属性的的预设属性值不同、θve表示所述第二网络参数的当前值、m表示预设参数、Verif(fi，fj，yij，θve)表示所述图片相似度验证结果。
在一个实施例中，所述卷积神经网中采用的激活函数的梯度值不等于零。
在一个实施例中，所述激活函数包括绝对值函数。
在一个实施例中，所述目标属性包括以下任一项：所述目标图片中人物的年龄、所述目标图片中景物的地点、所述目标图片的拍摄地点。
根据本公开实施例的第三方面，提供了一种卷积神经网络的训练装置，包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，所述处理器被配置为：
从预设图片库中选择目标图片；
将所述目标图片输入卷积神经网络中，获得所述目标图片的识别结果，其中，所述识别结果包括：经过所述卷积神经网络获得的图片相似度验证结果和属性关联参数值，所述属性关联参数值与所述卷积神经网络对所述目标图片的目标属性的预测值相关；
根据所述目标图片的识别结果，对所述卷积神经网络的目标网络参数进行调整。
根据本公开实施例的第四方面，还提供了一种计算机可读存储介质，其上存储有计算机指令，所述指令被处理器执行时实现如上述第一方面实施例所述方法的步骤。
本公开的实施例提供的技术方案可以包括以下有益效果：
本公开的实施例提供的技术方案，通过将目标图片输入卷积神经网络以获得包含图片相似度验证结果和属性关联参数值在内的目标图片的识别结果的方式相当于改变了相关技术中的损失函数，使得CNN网络采用了新的损失函数，而这种损失函数的变更也丰富了CNN网络训练的依据，因而，通过本公开的目标图片的识别结果对CNN网络的目标网络参数进行调整，可对CNN网络进行更为有效、精准的训练，有利于提高训练结果的精确度，可提高CNN网络后期对目标属性的识别精确度。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。
图1是根据一示例性实施例示出的一种卷积神经网络的训练方法的流程图。
图2是根据一示例性实施例示出的另一种卷积神经网络的训练方法的流程图。
图3是根据一示例性实施例示出的一种卷积神经网络的训练装置的框图。
图4是根据一示例性实施例示出的另一种卷积神经网络的训练装置的框图。
图5是根据一示例性实施例示出的适用于卷积神经网络的训练装置的框图。
具体实施方式
这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
为了解决上述技术问题，本公开实施例提供了一种卷积神经网络的训练方法，该方法可用于卷积神经网络的训练程序、系统或装置中，且该方法对应的执行主体可以是终端(如手机、平板电脑等)、服务器等，如图1所示，该方法包括步骤S101至步骤S103：
在步骤S101中，从预设图片库中选择目标图片；
在步骤S102中，将目标图片输入卷积神经网络中，获得目标图片的识别结果，其中，识别结果包括：经过卷积神经网络获得的图片相似度验证结果和属性关联参数值，属性关联参数值与卷积神经网络对目标图片的目标属性的预测值相关；
目标属性包括但不限于：目标图片中人物的年龄、目标图片中景物的地点、目标图片的拍摄地点等。
另外，预设图片库中的每张图片都被预先标记了该图片的目标属性的预设属性值，如该图片的实际拍摄地点、该图片中景物的实际地点，该图片中人物的实际年龄。
在步骤S103中，根据目标图片的识别结果，对卷积神经网络的目标网络参数进行调整。
由于相关技术是通过CNN网络中triplet loss函数输出的loss损失值来对CNN网络进行训练的，而本公开通过将目标图片输入卷积神经网络以获得包含图片相似度验证结果和属性关联参数值在内的目标图片的识别结果的方式相当于改变了相关技术中的损失函数，使得CNN网络采用了新的损失函数，而这种损失函数的变更也丰富了CNN网络训练的依据，因而，通过本公开的目标图片的识别结果对CNN网络的目标网络参数进行调整，可对CNN网络进行更为有效、精准的训练，有利于提高训练结果的精确度，即可提高CNN网络后期对目标属性的识别精确度。
如图2所示，在一个实施例中，卷积神经网络的损失函数包括属性识别函数和相似度验证函数；
上述图1所示的步骤S102，即将目标图片输入卷积神经网络中，获得目标图片的识别结果，可以包括步骤S201至步骤S203：
在步骤S201中，将目标图片输入卷积神经网络；
在步骤S202中，在属性识别函数基础上，根据目标图片的目标属性的预设属性值、卷积神经网络基于目标图片提取到的哈希码和属性识别函数中第一网络参数的当前值，获得目标图片的属性关联参数值；
在步骤S203中，在相似度验证函数基础上，根据目标图片的目标属性的预设属性值、卷积神经网络基于目标图片提取到的哈希码和相似度验证函数中第二网络参数的当前值，获得目标图片的图片相似度验证结果，其中，目标网络参数包括第一网络参数和第二网络参数。
通过将相关技术中CNN网络中使用到的损失函数即triplet loss函数替换为属性识别函数和相似度验证函数，可以在属性识别函数基础上，根据目标图片的目标属性的预设属性值、目标图片的哈希码和属性识别函数的第一网络参数的当前值，准确计算出目标图片的属性关联参数值，以及在相似度验证函数基础上，根据目标图片的目标属性的预设属性值、目标图片的哈希码和相似度验证函数的第二网络参数的当前值，准确计算出目标图片的图片相似度验证结果，从而可丰富识别结果、丰富CNN网络训练的依据，以对CNN网络进行更为有效的训练，进而有利于提高训练结果的精确度。
当然，将属性关联参数值和图片相似度验证结果进行反向传播后，不仅可对属性识别函数中第一网络参数的当前值、相似度验证函数中第二网络参数的当前值进行调整，还可以调整CNN网络中的一些共用的网络参数的当前值，即目标网络参数包括但不限于第一网络参数、第二网络参数，例如，还可以包括CNN网络中的一些共用的网络参数。
在一个实施例中，当目标图片的属性关联参数值包括多个值时，从多个值中选择最大的参数值作为最终的属性关联参数值。
由于CNN网络对目标图片的目标属性的预测值可能有多个，从而导致目标图片的属性关联参数值可能有多个，因而，目标图片的属性关联参数值有多个值时，可从多个值中选择最大的参数值作为最终的属性关联参数值。
在一个实施例中，目标图片包括预设图片库中的任意两张图片；
上述图1所示的步骤S102，即将目标图片输入卷积神经网络中，获得目标图片的识别结果，可被执行为：
将目标图片输入卷积神经网络中，分别获得目标图片中各图片的属性关联参数值和目标图片的图片相似度验证结果。
在提取目标图片时，可从预设图片库中随机选取任意两张图片，进而将将目标图片输入卷积神经网络中，以分别获得目标图片中各图片的属性关联参数值和这两个图片之间的图片相似度验证结果，从而不仅可利用每次输入的一对图片各自的属性关联参数值和这两个图片之间的图片似度验证结果对CNN网络进行有效训练，也可在训练CNN网络时，遍历整个预设图片库，以充分利用预设图片库。
在一个实施例中，属性识别函数包括：其中：
f表示卷积神经网络基于目标图片中任一张图片提取到的哈希码、t表示任一张图片的目标属性的预设属性值、θid表示第一网络参数的当前值、表示任一张图片的目标属性的预测值的预测概率、表示属性关联参数值；
通过将CNN网络中triplet loss函数修改为属性识别函数，可尽可能地使得CNN网络正确地直接输出目标图片的目标属性的预测值，而非相关技术中的输出结果(即该目标图片为具有某个属性值的图片)，从而使得CNN网络的识别结果也更加直接、准确。
相似度验证函数包括：
其中：
fi和fj分别表示卷积神经网络基于目标图片中的两张图片提取到的各图片的哈希码、yij＝1表示目标图片中的两张图片的目标属性的预设属性值相同，yij＝-1表示目标图片中的两张图片的目标属性的的预设属性值不同、θve表示第二网络参数的当前值、m表示预设参数、Verif(fi，fj，yij，θve)表示图片相似度验证结果。
通过将CNN网络中triplet loss函数修改为相似度验证函数，可使得CNN网络提取到的预设属性值相同的一对图像(即目标图片)的哈希码的汉明距离尽可能地小，CNN网络提取到的预设属性值不同一对图像(即目标图片)的哈希码的汉明距离要大于某一阈值m，即：使得相同图片的哈希码的汉明距离尽可能地小而不同图像的哈希码的汉明距离尽可能地大，从而便于更好地训练目标网络参数，使得经过训练的CNN网络后期对图片的目标属性的识别精确度更高；
另外，通过结合属性识别函数和相似度验证函数，不仅增加了CNN网络训练的依据，而且可使得CNN网络可直接输出目标图片的目标属性的预测值、缩小相同图像的汉明距离和扩大不同图像的汉明距离，因而，通过将triplet loss函数替换为属性识别函数和相似度验证函数，可对CNN网络进行更为精准的训练，进而有利于提高训练结果的精确度。
在一个实施例中，卷积神经网中采用的激活函数的梯度值不等于零。
由于相关技术中CNN网络的激活层采用的是sigmoid/tanh作为激活函数，而这些激活函数很多情况下其梯度值很可能为0或者接近0，从而导致采用最速下降法进行网络训练时，CNN网络中的目标网络参数更新速度也就变得越慢，无法确保训练过程中每次迭代都能快速有效地更新目标网络参数，增加了网络训练的困难，所以，本公开中通过使卷积神经网中采用的激活函数的梯度不等于零，可加快CNN网络的训练速度、对CNN网络进行更有效的训练，同时本公开的激活函数相比sigmoid/tanh激活函数而言，对CNN网络的训练速度可加快5～10倍，从而可有效地提高CNN网络的训练速度和训练效率。
在一个实施例中，激活函数包括绝对值函数。
激活函数可采用绝对值函数即abs()，这样，激活函数的梯度值就为1或者-1，从而可避免激活函数的梯度值等于0而影响CNN网络的训练速度、增加CNN网络的训练难度。
在一个实施例中，目标属性包括以下任一项：目标图片中人物的年龄、目
标图片中景物的地点、目标图片的拍摄地点。
对应本公开实施例提供的上述卷积神经网络的训练方法，本公开实施例还提供一种卷积神经网络的训练装置，如图3所示，该装置包括：
第一选择模块301，被配置为从预设图片库中选择目标图片；
获取模块302，被配置为将目标图片输入卷积神经网络中，获得目标图片的识别结果，其中，识别结果包括：经过卷积神经网络获得的图片相似度验证结果和属性关联参数值，属性关联参数值与卷积神经网络对目标图片的目标属性的预测值相关；
调整模块303，被配置为根据目标图片的识别结果，对卷积神经网络的目标网络参数进行调整。
如图4所示，在一个实施例中，卷积神经网络的损失函数包括属性识别函数和相似度验证函数；
上述图3所示的获取模块302可以包括：
输入子模块3021，被配置为将目标图片输入卷积神经网络；
第一获取子模块3022，被配置为在属性识别函数基础上，根据目标图片的目标属性的预设属性值、卷积神经网络基于目标图片提取到的哈希码和属性识别函数中第一网络参数的当前值，获得目标图片的属性关联参数值；
第二获取子模块3023，被配置为在相似度验证函数基础上，根据目标图片的目标属性的预设属性值、卷积神经网络基于目标图片提取到的哈希码和相似度验证函数中第二网络参数的当前值，获得目标图片的图片相似度验证结果，其中，目标网络参数包括第一网络参数和第二网络参数。
在一个实施例中，上述装置还可以包括：
第二选择模块，被配置为当目标图片的属性关联参数值包括多个值时，从多个值中选择最大的参数值作为最终的属性关联参数值。
在一个实施例中，目标图片包括预设图片库中的任意两张图片；
获取模块302可以包括：
第三获取子模块，被配置为将目标图片输入卷积神经网络中，分别获得目标图片中各图片的属性关联参数值和目标图片的图片相似度验证结果。
在一个实施例中，属性识别函数包括：其中：
f表示卷积神经网络基于目标图片中任一张图片提取到的哈希码、t表示任一张图片的目标属性的预设属性值、θid表示第一网络参数的当前值、表示任一张图片的目标属性的预测值的预测概率、表示属性关联参数值；
相似度验证函数包括：
其中：
fi和fj分别表示卷积神经网络基于目标图片中的两张图片提取到的各图片的哈希码、yij＝1表示目标图片中的两张图片的目标属性的预设属性值相同，yij＝-1表示目标图片中的两张图片的目标属性的的预设属性值不同、θve表示第二网络参数的当前值、m表示预设参数、Verif(fi，fj，yij，θve)表示图片相似度验证结果。
在一个实施例中，卷积神经网中采用的激活函数的梯度值不等于零。
在一个实施例中，激活函数包括绝对值函数。
在一个实施例中，目标属性包括以下任一项：目标图片中人物的年龄、目标图片中景物的地点、目标图片的拍摄地点。
根据本公开实施例的第三方面，提供一种卷积神经网络的训练装置，包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，处理器被配置为：
从预设图片库中选择目标图片；
将所述目标图片输入卷积神经网络中，获得所述目标图片的识别结果，其中，所述识别结果包括：经过所述卷积神经网络获得的图片相似度验证结果和属性关联参数值，所述属性关联参数值与所述卷积神经网络对所述目标图片的目标属性的预测值相关；
根据所述目标图片的识别结果，对所述卷积神经网络的目标网络参数进行调整。
上述处理器还可被配置为：
所述卷积神经网络的损失函数包括属性识别函数和相似度验证函数；
所述将所述目标图片输入卷积神经网络中，获得所述目标图片的识别结果，包括：
将所述目标图片输入卷积神经网络；
在所述属性识别函数基础上，根据所述目标图片的所述目标属性的预设属性值、所述卷积神经网络基于所述目标图片提取到的哈希码和所述属性识别函数中第一网络参数的当前值，获得所述目标图片的属性关联参数值；
在所述相似度验证函数基础上，根据所述目标图片的所述目标属性的预设属性值、所述卷积神经网络基于所述目标图片提取到的哈希码和所述相似度验证函数中第二网络参数的当前值，获得所述目标图片的图片相似度验证结果，其中，所述目标网络参数包括所述第一网络参数和所述第二网络参数。
上述处理器还可被配置为：
当所述目标图片的属性关联参数值包括多个值时，从所述多个值中选择最大的参数值作为最终的属性关联参数值。
上述处理器还可被配置为：
所述目标图片包括所述预设图片库中的任意两张图片；
所述将所述目标图片输入卷积神经网络中，获得所述目标图片的识别结果，包括：
将所述目标图片输入卷积神经网络中，分别获得所述目标图片中各图片的属性关联参数值和所述目标图片的图片相似度验证结果。
上述处理器还可被配置为：
所述属性识别函数包括：其中：
f表示所述卷积神经网络基于所述目标图片中任一张图片提取到的哈希码、t表示所述任一张图片的所述目标属性的预设属性值、θid表示所述第一网络参数的当前值、表示所述任一张图片的所述目标属性的预测值的预测概率、表示所述属性关联参数值；
所述相似度验证函数包括：
其中：
fi和fj分别表示所述卷积神经网络基于所述目标图片中的两张图片提取到的各图片的哈希码、yij＝-1表示所述目标图片中的两张图片的目标属性的预设属性值相同，yij＝-1表示所述目标图片中的两张图片的目标属性的的预设属性值不同、θve表示所述第二网络参数的当前值、m表示预设参数、Verif(fi，fj，yij，θve)表示所述图片相似度验证结果。
上述处理器还可被配置为：
所述卷积神经网中采用的激活函数的梯度值不等于零。
上述处理器还可被配置为：
所述激活函数包括绝对值函数。
上述处理器还可被配置为：
所述目标属性包括以下任一项：所述目标图片中人物的年龄、所述目标图片中景物的地点、所述目标图片的拍摄地点。
图5是根据一示例性实施例示出的一种用于卷积神经网络的训练装置500的框图，该装置适用于终端设备。例如，装置500可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个用户数字助理等。
参照图5，装置500可以包括以下一个或至少两个组件：处理组件502，存储器504，电源组件506，多媒体组件508，音频组件510，输入/输出(I/O)接口512，传感器组件514，以及通信组件516。
处理组件502通常控制装置500的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理组件502可以包括一个或至少两个处理器520来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件502可以包括一个或至少两个模块，便于处理组件502和其他组件之间的交互。例如，处理组件502可以包括多媒体模块，以方便多媒体组件508和处理组件502之间的交互。
存储器504被配置为存储各种类型的数据以支持在装置500的操作。这些数据的示例包括用于在装置500上操作的任何存储对象或方法的指令，联系用户数据，电话簿数据，消息，图片，视频等。存储器504可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。
电源组件506为装置500的各种组件提供电源。电源组件506可以包括电源管理系统，一个或至少两个电源，及其他与为装置500生成、管理和分配电源相关联的组件。
多媒体组件508包括在所述装置500和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或至少两个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件508包括一个前置摄像头和/或后置摄像头。当装置500处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件510被配置为输出和/或输入音频信号。例如，音频组件510包括一个麦克风(MIC)，当装置500处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器504或经由通信组件516发送。在一些实施例中，音频组件510还包括一个扬声器，用于输出音频信号。
I/O接口512为处理组件502和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件514包括一个或至少两个传感器，用于为装置500提供各个方面的状态评估。例如，传感器组件514可以检测到装置500的打开/关闭状态，组件的相对定位，例如所述组件为装置500的显示器和小键盘，传感器组件514还可以检测装置500或装置500一个组件的位置改变，用户与装置500接触的存在或不存在，装置500方位或加速/减速和装置500的温度变化。传感器组件514可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件514还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件514还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。
通信组件516被配置为便于装置500和其他设备之间有线或无线方式的通信。装置500可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个示例性实施例中，通信组件516经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述通信组件516还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。
在示例性实施例中，装置500可以被一个或至少两个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子组件实现，用于执行上述方法。
在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例如包括指令的存储器504，上述指令可由装置500的处理器520执行以完成上述方法。例如，所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
一种非临时性计算机可读存储介质，当所述存储介质中的指令由上述装置500的处理器执行时，使得上述装置500能够执行一种卷积神经网络的训练方法，包括：
从预设图片库中选择目标图片；
将所述目标图片输入卷积神经网络中，获得所述目标图片的识别结果，其中，所述识别结果包括：经过所述卷积神经网络获得的图片相似度验证结果和属性关联参数值，所述属性关联参数值与所述卷积神经网络对所述目标图片的目标属性的预测值相关；
根据所述目标图片的识别结果，对所述卷积神经网络的目标网络参数进行调整。
在一个实施例中，所述卷积神经网络的损失函数包括属性识别函数和相似度验证函数；
所述将所述目标图片输入卷积神经网络中，获得所述目标图片的识别结果，包括：
将所述目标图片输入卷积神经网络；
在所述属性识别函数基础上，根据所述目标图片的所述目标属性的预设属性值、所述卷积神经网络基于所述目标图片提取到的哈希码和所述属性识别函数中第一网络参数的当前值，获得所述目标图片的属性关联参数值；
在所述相似度验证函数基础上，根据所述目标图片的所述目标属性的预设属性值、所述卷积神经网络基于所述目标图片提取到的哈希码和所述相似度验证函数中第二网络参数的当前值，获得所述目标图片的图片相似度验证结果，其中，所述目标网络参数包括所述第一网络参数和所述第二网络参数。
在一个实施例中，当所述目标图片的属性关联参数值包括多个值时，从所述多个值中选择最大的参数值作为最终的属性关联参数值。
在一个实施例中，所述目标图片包括所述预设图片库中的任意两张图片；
所述将所述目标图片输入卷积神经网络中，获得所述目标图片的识别结果，包括：
将所述目标图片输入卷积神经网络中，分别获得所述目标图片中各图片的属性关联参数值和所述目标图片的图片相似度验证结果。
在一个实施例中，所述属性识别函数包括：其中：
f表示所述卷积神经网络基于所述目标图片中任一张图片提取到的哈希码、t表示所述任一张图片的所述目标属性的预设属性值、θid表示所述第一网络参数的当前值、表示所述任一张图片的所述目标属性的预测值的预测概率、表示所述属性关联参数值；
所述相似度验证函数包括：
其中：
fi和fj分别表示所述卷积神经网络基于所述目标图片中的两张图片提取到的各图片的哈希码、yij＝1表示所述目标图片中的两张图片的目标属性的预设属性值相同，yij＝-1表示所述目标图片中的两张图片的目标属性的的预设属性值不同、θve表示所述第二网络参数的当前值、m表示预设参数、Verif(fi，fj，yij，θve)表示所述图片相似度验证结果。
在一个实施例中，所述卷积神经网中采用的激活函数的梯度值不等于零。
在一个实施例中，所述激活函数包括绝对值函数。
在一个实施例中，所述目标属性包括以下任一项：所述目标图片中人物的年龄、所述目标图片中景物的地点、所述目标图片的拍摄地点。
本领域技术用户员在考虑说明书及实践这里公开的公开后，将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由下面的权利要求指出。
应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
Claims (18)
1.一种卷积神经网络的训练方法，其特征在于，包括：
从预设图片库中选择目标图片；
将所述目标图片输入卷积神经网络中，获得所述目标图片的识别结果，其中，所述识别结果包括：经过所述卷积神经网络获得的图片相似度验证结果和属性关联参数值，所述属性关联参数值与所述卷积神经网络对所述目标图片的目标属性的预测值相关；
根据所述目标图片的识别结果，对所述卷积神经网络的目标网络参数进行调整。
2.根据权利要求1所述的方法，其特征在于，
所述卷积神经网络的损失函数包括属性识别函数和相似度验证函数；
所述将所述目标图片输入卷积神经网络中，获得所述目标图片的识别结果，包括：
将所述目标图片输入卷积神经网络；
在所述属性识别函数基础上，根据所述目标图片的所述目标属性的预设属性值、所述卷积神经网络基于所述目标图片提取到的哈希码和所述属性识别函数中第一网络参数的当前值，获得所述目标图片的属性关联参数值；
在所述相似度验证函数基础上，根据所述目标图片的所述目标属性的预设属性值、所述卷积神经网络基于所述目标图片提取到的哈希码和所述相似度验证函数中第二网络参数的当前值，获得所述目标图片的图片相似度验证结果，其中，所述目标网络参数包括所述第一网络参数和所述第二网络参数。
3.根据权利要求2所述的方法，其特征在于，
当所述目标图片的属性关联参数值包括多个值时，从所述多个值中选择最大的参数值作为最终的属性关联参数值。
4.根据权利要求2所述的方法，其特征在于，
所述目标图片包括所述预设图片库中的任意两张图片；
所述将所述目标图片输入卷积神经网络中，获得所述目标图片的识别结果，包括：
将所述目标图片输入卷积神经网络中，分别获得所述目标图片中各图片的属性关联参数值和所述目标图片的图片相似度验证结果。
5.根据权利要求4所述的方法，其特征在于，
所述属性识别函数包括：其中：
f表示所述卷积神经网络基于所述目标图片中任一张图片提取到的哈希码、t表示所述任一张图片的所述目标属性的预设属性值、θid表示所述第一网络参数的当前值、表示所述任一张图片的所述目标属性的预测值的预测概率、表示所述属性关联参数值；
所述相似度验证函数包括：
其中：fi和fj分别表示所述卷积神经网络基于所述目标图片中的两张图片提取到的各图片的哈希码、yij＝1表示所述目标图片中的两张图片的目标属性的预设属性值相同，yij＝-1表示所述目标图片中的两张图片的目标属性的的预设属性值不同、θve表示所述第二网络参数的当前值、m表示预设参数、Verif(fi，fj，yij，θve)表示所述图片相似度验证结果。
6.根据权利要求1至5中任一项所述的方法，其特征在于，
所述卷积神经网中采用的激活函数的梯度值不等于零。
7.根据权利要求5所述的方法，其特征在于，
所述激活函数包括绝对值函数。
8.根据权利要求1至5中任一项所述的方法，其特征在于，
所述目标属性包括以下任一项：所述目标图片中人物的年龄、所述目标图片中景物的地点、所述目标图片的拍摄地点。
9.一种卷积神经网络的训练装置，其特征在于，包括：
第一选择模块，用于从预设图片库中选择目标图片；
获取模块，用于将所述目标图片输入卷积神经网络中，获得所述目标图片的识别结果，其中，所述识别结果包括：经过所述卷积神经网络获得的图片相似度验证结果和属性关联参数值，所述属性关联参数值与所述卷积神经网络对所述目标图片的目标属性的预测值相关；
调整模块，用于根据所述目标图片的识别结果，对所述卷积神经网络的目标网络参数进行调整。
10.根据权利要求9所述的装置，其特征在于，
所述卷积神经网络的损失函数包括属性识别函数和相似度验证函数；
所述获取模块包括：
输入子模块，用于将所述目标图片输入卷积神经网络；
第一获取子模块，用于在所述属性识别函数基础上，根据所述目标图片的所述目标属性的预设属性值、所述卷积神经网络基于所述目标图片提取到的哈希码和所述属性识别函数中第一网络参数的当前值，获得所述目标图片的属性关联参数值；
第二获取子模块，用于在所述相似度验证函数基础上，根据所述目标图片的所述目标属性的预设属性值、所述卷积神经网络基于所述目标图片提取到的哈希码和所述相似度验证函数中第二网络参数的当前值，获得所述目标图片的图片相似度验证结果，其中，所述目标网络参数包括所述第一网络参数和所述第二网络参数。
11.根据权利要求10所述的装置，其特征在于，
第二选择模块，用于当所述目标图片的属性关联参数值包括多个值时，从所述多个值中选择最大的参数值作为最终的属性关联参数值。
12.根据权利要求10所述的装置，其特征在于，
所述目标图片包括所述预设图片库中的任意两张图片；
所述获取模块包括：
第三获取子模块，用于将所述目标图片输入卷积神经网络中，分别获得所述目标图片中各图片的属性关联参数值和所述目标图片的图片相似度验证结果。
13.根据权利要求12所述的装置，其特征在于，
所述属性识别函数包括：其中：
f表示所述卷积神经网络基于所述目标图片中任一张图片提取到的哈希码、t表示所述任一张图片的所述目标属性的预设属性值、θid表示所述第一网络参数的当前值、表示所述任一张图片的所述目标属性的预测值的预测概率、表示所述属性关联参数值；
所述相似度验证函数包括：
其中：fi和fj分别表示所述卷积神经网络基于所述目标图片中的两张图片提取到的各图片的哈希码、yij＝1表示所述目标图片中的两张图片的目标属性的预设属性值相同，yij＝-1表示所述目标图片中的两张图片的目标属性的的预设属性值不同、θυe表示所述第二网络参数的当前值、m表示预设参数、Verif(fi，fj，yij，θve)表示所述图片相似度验证结果。
14.根据权利要求9至13中任一项所述的装置，其特征在于，
所述卷积神经网中采用的激活函数的梯度值不等于零。
15.根据权利要求13所述的装置，其特征在于，
所述激活函数包括绝对值函数。
16.根据权利要求9至13中任一项所述的装置，其特征在于，
所述目标属性包括以下任一项：所述目标图片中人物的年龄、所述目标图片中景物的地点、所述目标图片的拍摄地点。
17.一种卷积神经网络的训练装置，其特征在于，包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，所述处理器被配置为：
从预设图片库中选择目标图片；
将所述目标图片输入卷积神经网络中，获得所述目标图片的识别结果，其中，所述识别结果包括：经过所述卷积神经网络获得的图片相似度验证结果和属性关联参数值，所述属性关联参数值与所述卷积神经网络对所述目标图片的目标属性的预测值相关；
根据所述目标图片的识别结果，对所述卷积神经网络的目标网络参数进行调整。
18.一种计算机可读存储介质，其上存储有计算机指令，其特征在于，所述指令被处理器执行时实现权利要求1至8中任一项所述方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201710515521.4A CN107341509B (zh) | 2017-06-29 | 2017-06-29 | 卷积神经网络的训练方法、装置及可读存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201710515521.4A CN107341509B (zh) | 2017-06-29 | 2017-06-29 | 卷积神经网络的训练方法、装置及可读存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN107341509A true CN107341509A (zh) | 2017-11-10 |
| CN107341509B CN107341509B (zh) | 2020-12-04 |
Family
ID=60218089
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201710515521.4A Active CN107341509B (zh) | 2017-06-29 | 2017-06-29 | 卷积神经网络的训练方法、装置及可读存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN107341509B (zh) |
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108898238A (zh) * | 2018-05-24 | 2018-11-27 | 沈阳东软医疗系统有限公司 | 医疗设备故障预测系统及相关方法、装置及设备 |
| CN109934184A (zh) * | 2019-03-19 | 2019-06-25 | 网易（杭州）网络有限公司 | 手势识别方法及装置、存储介质、处理器 |
| CN110047057A (zh) * | 2019-03-05 | 2019-07-23 | 惠州Tcl移动通信有限公司 | 一种图片处理方法、终端及存储装置 |
| CN110533056A (zh) * | 2018-05-24 | 2019-12-03 | 广东技术师范学院 | 一种基于计算机视觉的车内安全检测方法 |
| CN110839242A (zh) * | 2018-08-17 | 2020-02-25 | 中国移动通信集团广东有限公司 | 异常号码识别方法及装置 |
| CN112580583A (zh) * | 2020-12-28 | 2021-03-30 | 深圳市普汇智联科技有限公司 | 一种台球花色识别参数自动校准方法及系统 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106022380A (zh) * | 2016-05-25 | 2016-10-12 | 中国科学院自动化研究所 | 基于深度学习的个体身份识别方法 |
| CN106203442A (zh) * | 2016-06-28 | 2016-12-07 | 北京小白世纪网络科技有限公司 | 一种基于深度学习的拷贝图像特征提取方法 |
| CN105469376B (zh) * | 2014-08-12 | 2019-10-25 | 腾讯科技（深圳）有限公司 | 确定图片相似度的方法和装置 |
-
2017
- 2017-06-29 CN CN201710515521.4A patent/CN107341509B/zh active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105469376B (zh) * | 2014-08-12 | 2019-10-25 | 腾讯科技（深圳）有限公司 | 确定图片相似度的方法和装置 |
| CN106022380A (zh) * | 2016-05-25 | 2016-10-12 | 中国科学院自动化研究所 | 基于深度学习的个体身份识别方法 |
| CN106203442A (zh) * | 2016-06-28 | 2016-12-07 | 北京小白世纪网络科技有限公司 | 一种基于深度学习的拷贝图像特征提取方法 |
Non-Patent Citations (2)
| Title |
|---|
| ZAGORUYKO，ET AL: "《Learning to Compare Image Patches via Convolutional Neural Networks》", 《ARXIV PREPRINT ARXIV:1504.03641》 * |
| 吕金涛: "《基于深度学习的相似图像搜索算法研究》", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
Cited By (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108898238A (zh) * | 2018-05-24 | 2018-11-27 | 沈阳东软医疗系统有限公司 | 医疗设备故障预测系统及相关方法、装置及设备 |
| CN110533056A (zh) * | 2018-05-24 | 2019-12-03 | 广东技术师范学院 | 一种基于计算机视觉的车内安全检测方法 |
| CN108898238B (zh) * | 2018-05-24 | 2022-02-01 | 东软医疗系统股份有限公司 | 医疗设备故障预测系统及相关方法、装置及设备 |
| CN110839242A (zh) * | 2018-08-17 | 2020-02-25 | 中国移动通信集团广东有限公司 | 异常号码识别方法及装置 |
| CN110047057A (zh) * | 2019-03-05 | 2019-07-23 | 惠州Tcl移动通信有限公司 | 一种图片处理方法、终端及存储装置 |
| CN109934184A (zh) * | 2019-03-19 | 2019-06-25 | 网易（杭州）网络有限公司 | 手势识别方法及装置、存储介质、处理器 |
| CN112580583A (zh) * | 2020-12-28 | 2021-03-30 | 深圳市普汇智联科技有限公司 | 一种台球花色识别参数自动校准方法及系统 |
| CN112580583B (zh) * | 2020-12-28 | 2024-03-15 | 深圳市普汇智联科技有限公司 | 一种台球花色识别参数自动校准方法及系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN107341509B (zh) | 2020-12-04 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107341509A (zh) | 卷积神经网络的训练方法及装置 | |
| CN113228124B (zh) | 图像处理方法及装置、电子设备和存储介质 | |
| CN106446782A (zh) | 图像识别方法及装置 | |
| EP3086275A1 (en) | Numerical value transfer method, terminal, cloud server, computer program and recording medium | |
| CN107945133B (zh) | 图像处理方法及装置 | |
| CN105205479A (zh) | 人脸颜值评估方法、装置及终端设备 | |
| CN107527059A (zh) | 文字识别方法、装置及终端 | |
| CN109360197B (zh) | 图像的处理方法、装置、电子设备及存储介质 | |
| CN112426724B (zh) | 游戏用户的匹配方法、装置、电子设备及存储介质 | |
| CN109040605A (zh) | 拍摄引导方法、装置及移动终端和存储介质 | |
| CN107133354B (zh) | 图像描述信息的获取方法及装置 | |
| CN107766820A (zh) | 图像分类方法及装置 | |
| CN107832746A (zh) | 表情识别方法及装置 | |
| CN107194464B (zh) | 卷积神经网络模型的训练方法及装置 | |
| CN107527024A (zh) | 人脸颜值评估方法及装置 | |
| CN109819288A (zh) | 广告投放视频的确定方法、装置、电子设备及存储介质 | |
| CN107480785A (zh) | 卷积神经网络的训练方法及装置 | |
| CN108898591A (zh) | 图像质量的评分方法及装置、电子设备、可读存储介质 | |
| CN108108671A (zh) | 产品说明信息获取方法及装置 | |
| CN108629814B (zh) | 相机调整方法及装置 | |
| CN110941727B (zh) | 一种资源推荐方法、装置、电子设备及存储介质 | |
| CN106997356A (zh) | 图片的分类方法及装置 | |
| CN112259122A (zh) | 音频类型识别方法、装置及存储介质 | |
| CN107239758A (zh) | 人脸关键点定位的方法及装置 | |
| CN107992894A (zh) | 图像识别方法、装置及计算机可读存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |