CN111062479A - 基于神经网络的模型快速升级方法及装置 - Google Patents
基于神经网络的模型快速升级方法及装置 Download PDFInfo
- Publication number
- CN111062479A CN111062479A CN201911313875.6A CN201911313875A CN111062479A CN 111062479 A CN111062479 A CN 111062479A CN 201911313875 A CN201911313875 A CN 201911313875A CN 111062479 A CN111062479 A CN 111062479A
- Authority
- CN
- China
- Prior art keywords
- model
- feature
- neural network
- upgrading
- loss function
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 42
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 35
- 238000012549 training Methods 0.000 claims abstract description 51
- 230000006870 function Effects 0.000 claims abstract description 38
- 238000003062 neural network model Methods 0.000 claims abstract description 8
- 238000004590 computer program Methods 0.000 claims description 12
- 239000013598 vector Substances 0.000 claims description 11
- 230000003247 decreasing effect Effects 0.000 claims description 3
- 230000000694 effects Effects 0.000 abstract description 6
- 238000010801 machine learning Methods 0.000 abstract description 3
- 238000010586 diagram Methods 0.000 description 12
- 238000005516 engineering process Methods 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 238000013507 mapping Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 230000009286 beneficial effect Effects 0.000 description 3
- 238000010606 normalization Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000001902 propagating effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Image Analysis (AREA)
Abstract
本发明提供了一种基于神经网络的模型快速升级方法及装置，涉及机器学习技术领域，包括：获取升级前的第一模型的原始特征；将所述原始特征输入预先训练好的第三模型，得到所述第三模型的输出特征作为第二模型的升级后特征，所述第二模型是对所述第一模型升级后得到的模型。本发明实施例利用构建的神经网络直接将特征作为输入和输出，可实现直接对用户端的特征库进行端到端的快速升级。且采用高质量的升级模型，在传统识别问题神经网络模型训练方法的基础上，结合多种损失函数，获得更好的模型训练效果。保证在节省存储空间和实现快速升级的同时，保证精度基本不会损失，保证系统的稳定性和可靠性。且不需要额外存储原图或原视频，节省了存储空间。
Description
技术领域
本发明涉及机器学习技术领域，具体而言，涉及一种基于神经网络的模型快速升级方法及装置。
背景技术
随着计算机视觉技术的不断发展，图像识别问题已成为人工智能领域的重要研究热点之一。随着例如人脸识别和行人再识别(Person Re-identification，ReID)等相关应用的不断出现，对安全检查、打击犯罪、移动支付、交通控制、自动驾驶等领域均有很大作用。也使得对图像识别准确度的要求越来越高，进一步地，对图像识别模型的要求也随之提高。
例如非重叠视域下的行人再识别的实质就是判断在一个摄像头被监控的行人是否在另一个摄像头中出现，并能对其进行持续性的追踪。在实际的行人再识别场景中，由于摄像机角度的变化、背景因素的影响、光照强度的变化、行人姿势的改变和行人运动过程中遮挡物的出现等因素，使得对行人再识别系统中用于识别的ReID模型的准确度要求较高。因此需合理的进行模型升级，以保证更准确的识别效果。
现有的部署在用户现场的ReID产品，当需要升级其ReID模型时(例如从model A升级到model B)，用户ReID产品中用于识别的特征库(feature-store)中所存储的特征(feature)也需要同步进行升级(例如从model A对应的feature A升级到model B对应的feature B)，否则由于特征不对应将无法进行检索和识别。现行的对ReID模型特征库升级的操作一般包括：
使用当前特征库中的特征所对应的原图重新经过model B生成feature B。这样要求用户需要额外完整存储训练需要用到的所有原图或原视频信息，增大了存储资源上的需求。并且，一般情况下model B较大，经过model B生成feature B的速度较慢，如果训练集中存有大量图像或视频，模型升级将非常消耗资源和时间。
发明内容
本发明旨在至少在一定程度上解决相关技术中的技术问题，为达上述目的，本发明第一方面的实施例提供了一种基于神经网络的模型快速升级方法，其包括：
获取升级前的第一模型的原始特征；
将所述原始特征输入预先训练好的第三模型，得到所述第三模型的输出特征作为第二模型的升级后特征，所述第二模型是对所述第一模型升级后得到的模型。
进一步地，对所述第三模型的预先训练包括：
将训练集图像输入所述第一模型，得到所述第一模型输出的第一特征；
将所述训练集图像输入所述第二模型，得到输出的第二特征；
将所述第一特征输入所述第三模型，得到输出的第三特征；
根据所述第二特征和所述第三特征确定所述第三模型的损失函数的值；
更新所述第三模型的参数，使得所述损失函数的值最小时，完成对所述第三模型的预先训练。
进一步地，所述将所述第一特征输入所述第三模型，得到输出的第三特征包括：
将所述第一特征输入所述第三模型后得到与所述第二特征维度相同的向量；
将所述第一特征与所述向量相加后作为所述第三特征。
进一步地，所述根据所述第二特征和所述第三特征确定损失函数的值包括：
确定所述训练集中同一图像对应的所述第二特征和所述第三特征的距离，所述距离包括欧几里得距离和/或曼哈顿距离；将所述距离作为所述损失函数的值。
进一步地，所述根据所述第二特征和所述第三特征确定损失函数的值还包括：
根据所述训练集中所有图像对应的所述第二特征和所述第三特征来确定三元组损失函数的值；
根据所述第三特征来确定其对应的分类损失函数的值；
根据所述三元组损失函数的值、所述分类损失函数的值和所述距离来确定所述损失函数的值。
进一步地，所述第三模型为神经网络模型，包括多层全连接层，其中，所述多层全连接层中第一层的维度大于所述第一特征的维度，所述多层全连接层中最后一层的维度与所述第二特征的维度相同。
进一步地，所述多层全连接层的维度满足上采样增加所述维度以及下采样减小所述维度。
为达上述目的，本发明第二方面的实施例还提供了一种基于神经网络的模型快速升级装置，其包括：
获取模块，用于获取升级前的第一模型的原始特征；
升级模块，用于将所述原始特征输入预先训练好的第三模型，得到所述第三模型的输出特征作为第二模型的升级后特征，所述第二模型是对所述第一模型升级后得到的模型。
使用本发明实施例的基于神经网络的模型快速升级方法或装置，利用构建的神经网络直接将特征作为输入和输出，可实现直接对用户端的特征库进行端到端的快速升级。且采用高质量的升级模型，在传统识别问题神经网络模型训练方法的基础上，结合多种损失函数，获得更好的模型训练效果。保证在节省存储空间和实现快速升级的同时，保证精度基本不会损失，保证系统的稳定性和可靠性。且不需要额外存储原图或原视频，节省了存储空间。
为达上述目的，本发明第三方面的实施例提供了一种非临时性计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时，实现根据本发明第一方面所述的基于神经网络的模型快速升级方法。
为达上述目的，本发明第四方面的实施例提供了一种计算设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时，实现根据本发明第一方面所述的基于神经网络的模型快速升级方法。
根据本发明的非临时性计算机可读存储介质和计算设备，具有与根据本发明第一方面的基于神经网络的模型快速升级方法具有类似的有益效果，在此不再赘述。
附图说明
图1为根据本发明实施例的基于神经网络的模型快速升级方法的原理示意图；
图2为根据本发明实施例的第三模型的预训练方法的原理示意图；
图3为根据本发明实施例的确定第三特征的原理示意图；
图4为根据本发明实施例的确定损失函数的值的原理示意图；
图5为根据本发明实施例的基于神经网络的模型快速升级装置的结构示意图；
图6为根据本发明实施例的计算设备的结构示意图。
具体实施方式
下面将参照附图详细描述根据本发明的实施例，描述涉及附图时，除非另有表示，不同附图中的相同附图标记表示相同或相似的要素。要说明的是，以下示例性实施例中所描述的实施方式并不代表本发明的所有实施方式。它们仅是与如权利要求书中所详述的、本发明公开的一些方面相一致的装置和方法的例子，本发明的范围并不局限于此。在不矛盾的前提下，本发明各个实施例中的特征可以相互组合。
此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。
行人再识别(ReID)技术是现在计算机视觉研究的热门方向，主要解决跨摄像头跨场景下对行人的识别与检索。该技术能够根据行人的穿着、体态、发型等特征信息认知行人，与人脸识别技术相结合能够适用于更多新的应用场景，可将人工智能的认知水平提高到一个新阶段。现有的ReID在实际应用场景下的数据非常复杂，会受到各种客观因素，例如相机拍摄角度、室内外环境变化、白天夜间光线差异等的影响，因此对ReID模型的要求较高。
随着机器学习技术的不断发展，用于识别的ReID模型更新升级的速度也有了较大提高。而ReID模型对应的特征库也需要相应进行升级，否则由于ReID模型升级前后特征不对应将无法正常进行检索和分析等处理。但每次升级模型后重新训练特征库将耗费很大的时间和资源成本，因此如何实现对特征库的快速升级，是现有计算机视觉图像识别技术中亟待解决的问题。
本发明实施例基于神经网络，根据现有ReID模型的model A、model B以及当前特征库(仅保存有feature A)，目标是通过构建升级模型(model T)根据feature A直接生成新的特征作为对应的feature B，形成新的升级后的特征库，提高升级模型的质量和特征库升级的速度。
图1所示为根据本发明实施例的基于神经网络的模型快速升级方法的原理示意图，包括步骤S11～S12。
在步骤S11中，获取升级前的第一模型的原始特征。在本发明实施例中，所述第一模型作为升级前的模型(即model A)，则当前特征库包含的特征就是对应的原始特征。
在步骤S12中，将所述原始特征输入预先训练好的第三模型(即model T)，得到所述第三模型的输出特征作为第二模型的升级后特征，所述第二模型是对所述第一模型升级后得到的模型。在本发明实施例中，将通过所述第三模型得到的输出特征作为升级后的第二模型(即model B)的特征，实现对第二模型的快速升级。
在本发明实施例中，预先训练一个第三模型model T，用于根据model A的特征形成新的特征作为model B的特征，以此实现对model B的快速升级。图2所示为根据本发明实施例的所述第三模型的预训练方法的原理示意图，包括步骤S21～S25。
在步骤S21中，将训练集图像输入所述第一模型，得到所述第一模型输出的第一特征。在本发明实施例中，将训练集图像输入第一模型model A，得到对应输出的第一特征feature A。
在步骤S22中，将所述训练集图像输入所述第二模型，得到输出的第二特征。在本发明实施例中，还将训练集图像也输入第二模型model B，得到输出的第二特征feature B。
在本发明实施例中，可采用已经训练过的已有ReID模型model A和model B分别作为第一模型和第二模型，其各项参数在之后的训练过程中均保持固定。在一些实施例中，可采用对model A和/或model B进行训练时所使用的对应数据集作为所述训练集图像，无需额外准备专门的训练集。
在步骤S23中，将所述第一特征输入所述第三模型，得到输出的第三特征。在本发明实施例中，将所述第一特征feature A输入所述第三模型model T，得到输出的第三特征feature B’。使用第一特征feature A输入第三模型model T，有利于提高对第三模型的预训练的准确度。
在本发明实施例中，实际需要训练一个较小的升级模型(即model T)，使其输入为原始特征，输出的特征作为升级后的第二模型的特征。在一些实施例中，所述第三模型model T为神经网络模型，包括多层全连接层。由于根据原始特征直接生成对应的第二模型的升级后的特征的实际需求是将特征向量从一个特征空间转换到另一个特征空间，所以其需要解决的是一个映射问题。在神经网络中，采用全连接层(fully connected layer)做映射是非常合适的选择，通过多个全连接层相叠加就可以得到很强的映射能力。下文给出一个采用4层全连接层组成的一个简单的神经网络模型为例，以便更好的解释本发明实施例。采用4层全连接层是为了形成一个比较好的“上采样、下采样”结构，但并不以此为限。
在本发明实施例中，第三模型model T连接在第一模型model A之后，即第三模型model T的输入为第一模型model A输出的第一特征feature A，假设所述第一特征featureA的维度为n。第一特征feature A输入第三模型model T之后，依次通过4个全连接层。在本发明实施例中，前3个全连接层每层均依次包含一个fc(全连接)操作、一个BatchNormalization(批归一化)操作以及一个ReLU(激活函数)操作，最后一个全连接层只有一个fc操作。4个全连接层的输出维度分别为2*n、4*n、2*n以及n。
其中，fc操作可以对输入进行线性映射；Batch Normalization操作通过一定的规范化手段，把每层神经网络任意神经元输入值的分布强行拉回到均值为0方差为1的标准正态分布，以尽可能保证每一层网络的输入具有相同的分布；ReLU操作可增加神经网络模型的非线性，且具有较快的计算速度和收敛速度。采用上述4个全连接层构成的第三模型model T，具有计算速度快、拟合能力强的优点。
在一些实施例中，假设第一特征feature A和第二特征feature B的维度相同，均为n，则可采用上述4个全连接层的输出维度设计。
在其他一些实施例中，假设第一特征feature A的维度为n，第二特征feature B的维度为m(不等于n)，那么也可以类似地设计全连接层的维度：所述多层全连接层中第一层的维度大于所述第一特征feature A的维度，所述多层全连接层中最后一层的维度与所述第二特征feature B的维度相同。设4个全连接层的输出维度分别为n1、n2、n3、n4，则关键是要满足：n<n1<n2>n3>n4＝m即可，即要有一个上采样增加维度和下采样减小维度的设计，这样可以增强第三模型model T的拟合能力，从而更好地进行映射，提高升级模型质量。
图3所示为根据本发明实施例的确定第三特征的原理示意图，包括步骤S231～S232。
在步骤S231中，将所述第一特征输入所述第三模型后得到与所述第二特征维度相同的向量。在本发明实施例中，第一特征feature A输入第三模型model T(即经过上述4个全连接层)后得到维度为n的向量，其中，假设第一特征feature A和第二特征feature B的维度相同，均为n。
在步骤S232中，将所述第一特征与所述向量相加后作为所述第三特征。在本发明实施例中，将作为输入的第一特征feature A与上述维度为n的向量相加，得到最终的结果，即为第三模型model T输出的第三特征feature B’。
在本发明实施例中，将第三模型model T的输入feature A和所述feature A经过四个全连接层得到的向量相加作为第三模型的最终输出feature B’，使得后续在第一特征feature A的基础上学习第二特征feature B更为容易，且训练时的收敛速度更快，有效提升模型训练的效率。
在步骤S24中，根据所述第二特征和所述第三特征确定所述第三模型的损失函数的值。在本发明实施例中，将训练集图像输入第二模型model B得到的第二特征feature B视为该输入的ground truth(正确输出)，对待升级的第三模型model T训练的目标为使得第二特征feature B和第三特征feature B’尽可能地相同，以此实现对第三模型model T的训练，使其输入为第一特征feature A，输出的第三特征可作为第二特征feature B，其中，根据模型的训练效果不同，在实际应用中，使得所述输出的第三特征非常接近第二特征。
图4所示为根据本发明实施例的确定损失函数的值的原理示意图。在一些实施例中，所述根据所述第二特征和所述第三特征确定损失函数的值包括：
确定所述训练集中同一图像对应的所述第二特征和所述第三特征的距离，所述距离包括欧几里得距离和/或曼哈顿距离；
将所述距离作为所述损失函数的值。
在本发明实施例中，计算相同图片的第二特征feature B和第三特征feature B’的L2距离(欧几里得距离)作为L2 distance loss。现在的任务实际上是要使第三特征feature B’逼近一个已有的分布，即第二特征feature B的分布，那么采用的最直接的约束即是让相同图片生成的第三特征feature B’和第二特征feature B最相近。在一些实施例中，使得第二特征feature B和第三特征feature B’的L2距离最小。
在其他一些实施例中，使得第二特征feature B和第三特征feature B’的L1距离(曼哈顿距离)最小。则相应计算相同图片的第二特征feature B和第三特征feature B’的L1距离作为L1 distance loss。在本发明实施例中，单独用L1 distance loss或L2distance loss都可以获得很好且相近的结果，但L1 distance loss的收敛速度比L2distance loss更快，更适用于需要快速完成模型训练的应用场景。在本发明实施例中，可单独使用L1distance loss或L2 distance loss；在其他一些实施例中，也可同时使用L1distance loss和L2 distance loss。
在一些实施例中，还可将一个训练集里的所有图片的第二特征feature B和第三特征feature B’放在一起计算Triplet loss(三元组损失函数)；再利用第三特征featureB’计算其对应的分类损失函数(例如Cosface loss)，其中，Triplet loss和分类损失函数对最终结果具有较为轻微的影响，但可以加快模型收敛速度，提升模型训练效率。
在一些实施例中，将上述三个loss的值(即L2 distance loss、Triplet loss以及Cosface loss)加起来形成最终的损失函数的值。
在步骤S25中，更新所述第三模型的参数，使得所述损失函数的值最小时，完成对所述第三模型的预先训练。在本发明实施例中，根据所述损失函数的值更新第三模型modelT的参数。使用当所述损失函数的值最小时的参数作为第三模型model T的参数，完成对model T的预训练。上述对第三模型的预先训练过程通过使用类似孪生网络的方法对升级模型进行训练，可获得高质量的升级模型。在传统ReID方法的基础上，结合多种损失函数，获得更好的模型训练效果。
采用本发明实施例的基于神经网络的模型快速升级方法，利用构建的神经网络直接将特征作为输入和输出，可实现直接对用户端的特征库进行端到端的快速升级。且采用高质量的升级模型，在传统识别问题神经网络模型训练方法的基础上，结合多种损失函数，获得更好的模型训练效果。保证在节省存储空间和实现快速升级的同时，保证精度基本不会损失，保证系统的稳定性和可靠性。且不需要额外存储原图或原视频，节省了存储空间。
本发明第二方面的实施例还提供了一种基于神经网络的模型快速升级装置。图5所示为根据本发明实施例的基于神经网络的模型快速升级装置500的结构示意图，包括获取模块501以及升级模块502，其中：
获取模块501用于获取升级前的第一模型的原始特征。
升级模块502用于将所述原始特征输入预先训练好的第三模型，得到所述第三模型的输出特征作为第二模型的升级后特征，所述第二模型是对所述第一模型升级后得到的模型。
可选地，图5所示装置500还可以包括训练模块，用于执行图2所示的预训练方法。
所述基于神经网络的模型快速升级装置500的各个模块的更具体实现方式可以参见对于本发明的基于神经网络的模型训练方法的描述，且具有与之相似的有益效果，在此不再赘述。
本发明第三方面的实施例提出了一种非临时性计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时，实现根据本发明第一方面实施例所述的基于神经网络的模型快速升级方法。
一般来说，用于实现本发明实施例方法的计算机指令的可以采用一个或多个计算机可读的存储介质的任意组合来承载。非临时性计算机可读存储介质可以包括任何计算机可读介质，除了临时性地传播中的信号本身。
计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言，特别是可以使用适于神经网络计算的Python语言和基于TensorFlow、PyTorch等平台框架。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
本发明第四方面的实施例提供了一种计算设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时，实现根据本发明第一方面实施例所述的基于神经网络的模型快速升级方法。
根据本发明第三、四方面的非临时性计算机可读存储介质和计算设备，可以参照根据本发明第一方面实施例具体描述的内容实现，并具有与根据本发明第一方面实施例的基于神经网络的模型快速升级方法具有类似的有益效果，在此不再赘述。
图6示出了适于用来实现本公开的实施方式的示例性计算设备的框图。图6显示的计算设备12仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图6所示，计算设备12可以通用计算设备的形式实现。计算设备12的组件可以包括但不限于：一个或者多个处理器或者处理单元16，系统存储器28，连接不同系统组件(包括系统存储器28和处理单元16)的总线18。
总线18表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(Industry StandardArchitecture；以下简称：ISA)总线，微通道体系结构(Micro Channel Architecture；以下简称：MAC)总线，增强型ISA总线、视频电子标准协会(Video Electronics StandardsAssociation；以下简称：VESA)局域总线以及外围组件互连(Peripheral ComponentInterconnection；以下简称：PCI)总线。
计算设备12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算设备12访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。
存储器28可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(Random Access Memory；以下简称：RAM)30和/或高速缓存存储器32。计算设备12可以进一步包括其它可移动/不可移动的、易失性/非易失性的计算机可读存储介质。仅作为举例，存储系统34可以用于读写不可移动的、非易失性磁介质(图中未显示，通常称为“硬盘驱动器”)。尽管图6中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如：光盘只读存储器(Compact Disc Read OnlyMemory；以下简称：CD-ROM)、数字多功能只读光盘(Digital Video Disc Read OnlyMemory；以下简称：DVD-ROM)或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线18相连。存储器28可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本公开各实施例的功能。
具有一组(至少一个)程序模块42的程序/实用工具40，可以存储在例如存储器28中，这样的程序模块42包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本公开所描述的实施例中的功能和/或方法。
计算设备12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信，还可与一个或者多个使得用户能与该计算机系统/服务器12交互的设备通信，和/或与使得该计算机系统/服务器12能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且，计算设备12还可以通过网络适配器20与一个或者多个网络(例如局域网(Local Area Network；以下简称：LAN)，广域网(Wide Area Network；以下简称：WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器20通过总线18与计算设备12的其它模块通信。要说明的是，尽管图中未示出，可以结合计算设备12使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理单元16通过运行存储在系统存储器28中的程序，从而执行各种功能应用以及数据处理，例如实现前述实施例中提及的方法。
本发明实施例的计算设备可以是服务器，也可以有限算力的终端设备。
尽管上面已经示出和描述了本发明的实施例，应当理解的是，上述实施例是示例性的，不能解释为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (10)
1.基于神经网络的模型快速升级方法，其特征在于，包括：
获取升级前的第一模型的原始特征；
将所述原始特征输入预先训练好的第三模型，得到所述第三模型的输出特征作为第二模型的升级后特征，所述第二模型是对所述第一模型升级后得到的模型。
2.根据权利要求1所述的基于神经网络的模型快速升级方法，其特征在于，对所述第三模型的预先训练包括：
将训练集图像输入所述第一模型，得到所述第一模型输出的第一特征；
将所述训练集图像输入所述第二模型，得到输出的第二特征；
将所述第一特征输入所述第三模型，得到输出的第三特征；
根据所述第二特征和所述第三特征确定所述第三模型的损失函数的值；
更新所述第三模型的参数，使得所述损失函数的值最小时，完成对所述第三模型的预先训练。
3.根据权利要求2所述的基于神经网络的模型训练方法，其特征在于，所述将所述第一特征输入所述第三模型，得到输出的第三特征包括：
将所述第一特征输入所述第三模型后得到与所述第二特征维度相同的向量；
将所述第一特征与所述向量相加后作为所述第三特征。
4.根据权利要求2所述的基于神经网络的模型训练方法，其特征在于，所述根据所述第二特征和所述第三特征确定损失函数的值包括：
确定所述训练集中同一图像对应的所述第二特征和所述第三特征的距离，所述距离包括欧几里得距离和/或曼哈顿距离；
将所述距离作为所述损失函数的值。
5.根据权利要求4所述的基于神经网络的模型训练方法，其特征在于，所述根据所述第二特征和所述第三特征确定损失函数的值还包括：
根据所述训练集中所有图像对应的所述第二特征和所述第三特征来确定三元组损失函数的值；
根据所述第三特征来确定其对应的分类损失函数的值；
根据所述三元组损失函数的值、所述分类损失函数的值和所述距离来确定所述损失函数的值。
6.根据权利要求1-5中任意一项所述的基于神经网络的模型训练方法，其特征在于，所述第三模型为神经网络模型，包括多层全连接层，其中，所述多层全连接层中第一层的维度大于所述第一特征的维度，所述多层全连接层中最后一层的维度与所述第二特征的维度相同。
7.根据权利要求6所述的基于神经网络的模型训练方法，其特征在于，所述多层全连接层的维度满足上采样增加所述维度以及下采样减小所述维度。
8.一种基于神经网络的模型快速升级装置，其特征在于，包括：
获取模块，用于获取升级前的第一模型的原始特征；
升级模块，用于将所述原始特征输入预先训练好的第三模型，得到所述第三模型的输出特征作为第二模型的升级后特征，所述第二模型是对所述第一模型升级后得到的模型。
9.一种非临时性计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时，实现根据权利要求1-7中任意一项所述的基于神经网络的模型快速升级方法。
10.一种计算设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时，实现根据权利要求1-7中任意一项所述的基于神经网络的模型快速升级方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911313875.6A CN111062479B (zh) | 2019-12-19 | 2019-12-19 | 基于神经网络的模型快速升级方法及装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911313875.6A CN111062479B (zh) | 2019-12-19 | 2019-12-19 | 基于神经网络的模型快速升级方法及装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111062479A true CN111062479A (zh) | 2020-04-24 |
| CN111062479B CN111062479B (zh) | 2024-01-23 |
Family
ID=70301143
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201911313875.6A Active CN111062479B (zh) | 2019-12-19 | 2019-12-19 | 基于神经网络的模型快速升级方法及装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111062479B (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113672252A (zh) * | 2021-07-23 | 2021-11-19 | 浙江大华技术股份有限公司 | 模型升级方法、视频监控系统、电子设备和可读存储介质 |
Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2007006156A (ja) * | 2005-06-24 | 2007-01-11 | Meng-Seng Chen | 移動通信網の重複位置エリア区分方法 |
| CN107194346A (zh) * | 2017-05-19 | 2017-09-22 | 福建师范大学 | 一种汽车疲劳驾驶预测方法 |
| CN108874413A (zh) * | 2017-10-30 | 2018-11-23 | 北京旷视科技有限公司 | 服务升级方法、装置、系统和存储介质 |
| CN109064430A (zh) * | 2018-08-07 | 2018-12-21 | 中国人民解放军陆军炮兵防空兵学院 | 一种针对航拍区域含云图的除云方法和系统 |
| CN109784358A (zh) * | 2018-11-23 | 2019-05-21 | 南京航空航天大学 | 一种融合人工特征和深度特征的无参考图像质量评价方法 |
| CN109934240A (zh) * | 2019-03-12 | 2019-06-25 | 深圳市商汤科技有限公司 | 特征更新方法及装置、电子设备和存储介质 |
| CN110084216A (zh) * | 2019-05-06 | 2019-08-02 | 苏州科达科技股份有限公司 | 人脸识别模型训练和人脸识别方法、系统、设备及介质 |
| CN110414550A (zh) * | 2019-06-14 | 2019-11-05 | 北京迈格威科技有限公司 | 人脸识别模型的训练方法、装置、系统和计算机可读介质 |
| CN110414336A (zh) * | 2019-06-21 | 2019-11-05 | 中国矿业大学 | 一种三元组边缘中心损失的深度互补分类器行人搜索方法 |
-
2019
- 2019-12-19 CN CN201911313875.6A patent/CN111062479B/zh active Active
Patent Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2007006156A (ja) * | 2005-06-24 | 2007-01-11 | Meng-Seng Chen | 移動通信網の重複位置エリア区分方法 |
| CN107194346A (zh) * | 2017-05-19 | 2017-09-22 | 福建师范大学 | 一种汽车疲劳驾驶预测方法 |
| CN108874413A (zh) * | 2017-10-30 | 2018-11-23 | 北京旷视科技有限公司 | 服务升级方法、装置、系统和存储介质 |
| CN109064430A (zh) * | 2018-08-07 | 2018-12-21 | 中国人民解放军陆军炮兵防空兵学院 | 一种针对航拍区域含云图的除云方法和系统 |
| CN109784358A (zh) * | 2018-11-23 | 2019-05-21 | 南京航空航天大学 | 一种融合人工特征和深度特征的无参考图像质量评价方法 |
| CN109934240A (zh) * | 2019-03-12 | 2019-06-25 | 深圳市商汤科技有限公司 | 特征更新方法及装置、电子设备和存储介质 |
| CN110084216A (zh) * | 2019-05-06 | 2019-08-02 | 苏州科达科技股份有限公司 | 人脸识别模型训练和人脸识别方法、系统、设备及介质 |
| CN110414550A (zh) * | 2019-06-14 | 2019-11-05 | 北京迈格威科技有限公司 | 人脸识别模型的训练方法、装置、系统和计算机可读介质 |
| CN110414336A (zh) * | 2019-06-21 | 2019-11-05 | 中国矿业大学 | 一种三元组边缘中心损失的深度互补分类器行人搜索方法 |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113672252A (zh) * | 2021-07-23 | 2021-11-19 | 浙江大华技术股份有限公司 | 模型升级方法、视频监控系统、电子设备和可读存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111062479B (zh) | 2024-01-23 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110472531B (zh) | 视频处理方法、装置、电子设备及存储介质 | |
| JP7335274B2 (ja) | ジオロケーションの予測のためのシステムおよび方法 | |
| CN109145781B (zh) | 用于处理图像的方法和装置 | |
| CN108171260B (zh) | 一种图片识别方法及系统 | |
| CN108710885B (zh) | 目标对象的检测方法和装置 | |
| CN110245579B (zh) | 人流密度预测方法及装置、计算机设备及可读介质 | |
| CN113095346A (zh) | 数据标注的方法以及数据标注的装置 | |
| CN112927363B (zh) | 体素地图构建方法及装置、计算机可读介质和电子设备 | |
| CN110837811A (zh) | 语义分割网络结构的生成方法、装置、设备及存储介质 | |
| CN114283351A (zh) | 视频场景分割方法、装置、设备及计算机可读存储介质 | |
| CN111382647B (zh) | 一种图片处理方法、装置、设备及存储介质 | |
| CN111723769A (zh) | 用于处理图像的方法、装置、设备以及存储介质 | |
| KR20240127952A (ko) | 이미지 처리 방법 및 장치 | |
| KR20210037632A (ko) | 생체 검출 방법 및 장치 | |
| CN114943937A (zh) | 行人重识别方法、装置、存储介质及电子设备 | |
| CN110363193B (zh) | 车辆重识别方法、装置、设备和计算机存储介质 | |
| CN115577768A (zh) | 半监督模型训练方法和装置 | |
| CN113177483B (zh) | 视频目标分割方法、装置、设备以及存储介质 | |
| CN111062479B (zh) | 基于神经网络的模型快速升级方法及装置 | |
| CN113705293A (zh) | 图像场景的识别方法、装置、设备及可读存储介质 | |
| CN111259701B (zh) | 行人再识别方法、装置及电子设备 | |
| CN115527083B (zh) | 图像标注方法、装置和电子设备 | |
| Chen et al. | Edge artificial intelligence camera network: an efficient object detection and tracking framework | |
| CN113191364B (zh) | 车辆外观部件识别方法、装置、电子设备和介质 | |
| CN115273224A (zh) | 一种基于高低分辨率双模态蒸馏的视频人体行为识别方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |