CN106709449A - 一种基于深度学习和强化学习的行人重识别方法及系统 - Google Patents
一种基于深度学习和强化学习的行人重识别方法及系统 Download PDFInfo
- Publication number
- CN106709449A CN106709449A CN201611199109.8A CN201611199109A CN106709449A CN 106709449 A CN106709449 A CN 106709449A CN 201611199109 A CN201611199109 A CN 201611199109A CN 106709449 A CN106709449 A CN 106709449A
- Authority
- CN
- China
- Prior art keywords
- pedestrian
- decision
- making
- picture
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/103—Static body considered as a whole, e.g. static pedestrian or occupant recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于深度学习和强化学习的行人重识别方法及系统,其中方法包括如下步骤:接收视频获取行人图片,行人图片数据中包括身份标签和坐标信息,通过光流算法和行人坐标信息计算不同帧图片中同一行人的运动方向得到行人朝向数据,行人训练数据集包含了行人身份标签和朝向标签;利用多任务学习方法构建深度神经网络,训练行人朝向及身份识别模型;按照朝向设置决策基,根据不同决策基的组合设定决策类别,所有的决策类别构成决策空间,并根据预设的强化学习模型对决策空间中决策类别进行训练计算最优决策模型。对行人进行检索时,调用深度模型获得朝向信息,然后调用强化学习模型获得最优决策方案,进而比对行人库中的行人,得到更准确的检索结果,本发明有效利用行人朝向信息做出匹配决策,从而提高了行人重识别的准确率。
Description
技术领域
本发明属于视频监控技术领域,具体而言,涉及一种基于深度学习和强化学习的行人重识别方法及系统。
背景技术
为了识别不同视角的非重叠监控场景下的行人身份,行人重识别技术得到广泛发展,尤其是在监控视频领域。由于不同监控场景下同一行人存在背景、光照、朝向等差异大的问题,因此如何解决背景、光照、朝向等因素的影响,从而快速检测行人并进行跟踪是当前亟待解决的技术问题。
现有的行人重识别技术主要存在如下问题:
目前的研究主要集中在如何有更好地表达特征以及如何更好地进行距离度量学习上。特征表达多集中在行人外表,比如整体或者子区域的衣着颜色,纹理特征等,运用这些特征虽然在识别上带来了提升,但对于衣着不对称和朝向变化带来的差异,现有的方法尚不够好,对于正面和背面差异较大的重识别,常常会造成匹配失败,带来了较多识别误差。
现有的基于朝向的行人重识别匹配策略多是专家系统式的决策。例如,匹配决策时,每个人都使用相同的朝向进行比对,在没有相同朝向的情况下选择相邻或者过渡的朝向。这样的决策方法依赖于人为设计,对充分考虑的朝向或外表情况可以有很好的效果,但行人外表,朝向的多样性决定了匹配准则的复杂性,也说明了这种方法的不足。
三、基于无朝向信息的匹配方法:这种方法中所有图片没有朝向信息,其中包括很多中匹配方法,比如(1):首先计算probe和gallery中所有图片的匹配距离/相似度,对于probe和gallery的每一个人(包括与其多张图片匹配的距离),选择类内距离最小的/相似度最大的值,再对所有类进行排序;(2):计算所有probe和gallery中图像的可能组合得到所有匹配距离/相似度,将probe和gallery中同个人的所有距离/相似度求平均值,再进行排序。论文[1]在匹配过程中,从不同类别的图片中选取所有可能的匹配组合,通过计算权重直方图,最大化稳定的颜色区域等方法对距离进行加权归一化,再应用了方法3(1),选取其中最小匹配距离。
四、主要关注在如何用更好的方法来提取行人的特征上,如CN201410070931.9公开了一种行人重识别特征提取方法,该方法先进行行人检测和行人轮廓的提取,后根据人体对称性把行人的轮廓分为头部、左躯干、右躯干、左腿和右腿五个感兴趣区域来提取特征。
发明内容
为解决现有上述技术问题,本发明利用多任务的方法构建深度神经网络实现一次操作提取行人行为特征及朝向信息,并对其进行整理,同时对决策进行强化训练快速选择最优的决策模型实现对待识别图片的处理,完成行人的重识别。
本发明提供了一种基于深度学习和强化的行人重识别方法,其特征在于,包括如下步骤:
接收视频获取行人图片,根据行人图片获取行人坐标信息,通过光流算法和行人坐标信息计算不同帧图片中同一行人的运动方向得到行人朝向信息,并在标注行人身份信息后得到行人训练数据集,行人训练数据集包含行人的朝向信息据和身份标签;
以行人训练数据集为基础,利用多任务学习方法构建并训练深度神经网络,获得行人朝向和身份识别的双任务模型;
按照朝向设置决策基,根据不同决策基的组合设定决策类别,按照朝向设置决策基,根据不同决策基的组合设定决策类别,将所有的决策类别建立为决策空间,并根据预设的强化学习模型对决策空间中决策类别进行训练计算最优决策模型;
接收待识别行人图片,调用双任务模型获得该行人的朝向信息后,调用最优决策模型获得最优决策,查询行人库输出对该行人识别的检索结果。
进一步,所述利用多任务学习方法构建深度神经网包括分别构建数据输入层、卷积层、批规范化层、非线性层、池化层、全连接层和softmax损耗层,其中,
数据输入层,用于接收行人图片,对行人图片进行预处理;
卷积层,用于提取对预处理后的行人图片的图像特征;
批规范化层,用于对图像特征进行规划化处理;
非线性层,用于图像特征或规范化处理的图像特征进行非线性变换;
池化层,用于将图像特征与行人进行映射操作;
全连接层,用于对图像特征进行线性变换;
softmax损耗层,用于计算预测类别和标签类别的误差。
进一步,所述按照朝向设置决策基,根据不同决策基的组合设定决策类别,将所有的决策类别建立为决策空间,并根据预设的强化学习模型对决策空间中决策类别进行训练计算最优决策模型包括
选择决策基组成新的决策;
根据行人朝向训练行人朝向数据集,获取行人朝向匹配权重,根据匹配权重确定新的决策的种类;
利用强化学习算法函数对新的决策的种类进行训练,获取最优决策模型。
进一步,所述利用强化学习算法函数对决策种类计算训练,获取最优决策模型包括
选择新的决策计算同一行人的行人图片预设的行人重识别库的相似度,判断相似度是否大于阈值T;
如果相似度大于阈值T,计算该行人图片的回报值R,统计该行人图片的累积回报值V(S);
最大化折算累积回报函数最大化识别率对累积回报值V(S)进行计算获取最优决策模型π*。
本发明还提供了一种基于深度学习的行人重识别系统,包括
合并数据标签模块,用于接收视频获取行人图片,根据行人图片获取行人坐标信息,通过光流算法和行人坐标信息计算不同帧图片中同一行人的运动方向得到行人朝向信息,并在标注行人身份信息后得到行人训练数据集,行人训练数据集包括行人的朝向信息和身份标签;
行人朝向计算模块,用于以行人训练数据集为基础,利用多任务学习方法构建并深度神经网络,获得行人朝向和身份识别的双任务模型;
决策计算模块,用于按照朝向设置决策基,根据不同决策基的组合设定决策类别,将所有的决策类别建立为决策空间,并根据预设的强化学习模型对决策空间中决策类别进行训练计算最优决策模型;
识别模块,用于接收待识别行人图片,调用双任务模型获得该行人的朝向信息后,调用决策学习模型获得最优决策,查询行人库输出对该行人识别的检索结果。
进一步,所述行人朝向计算模块
构建子模块,用于构建数据输入层、卷积层、批规范化层、非线性层、池化层、全连接层和softmax损耗层。
进一步,所述决策计算模块包括
决策设定子模块,用于选择决策基组成新的决策;
分类子模块,用于根据行人朝向训练行人朝向数据集,获取行人朝向匹配权重,根据匹配权重计确定新的决策的种类;
强化训练子模块,用于利用强化学习算法函数对新的决策的种类进行训练,获取最优决策模型。
进一步,强化训练子模块包括
相似度计算单元,用于选择新的决策计算同一行人的行人图片预设的行人重识别库的相似度,判断相似度是否大于阈值T;
回报值计算单元,用于如果相似度大于阈值T,计算该行人图片的回报值R,统计该行人图片的累积回报值V(S);
最优决策计算单元,用于最大化折算累积回报函数最大化识别率对累积回报值V(S)进行计算获取最优决策模型π*。
进一步,进一步,
V(S)=R1+γR2+γ2R3+…,其中,γ为衰减项。
进一步,
综上,本发明包括如下有益效果:
1、采用深度神经网络一次完成了行人行为特征的提取和朝向识别;
2、首次将强化学习应用于行人重识别中的朝向匹配策略学习上;
3、强化学习更高效地利用朝向信息做出匹配决策;
4、使用强化学习得到的决策模型能更充分地考虑不同的场景和数据,而且这种方法可以细化到每一类都具备决策差异,更好地做到具体问题具体决策。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明中记载的一些实施例,对于本领域普通技术人员来讲,还可以根据这些附图获得其他的附图。
图1-2本发明所述的基于深度学习的行人重识别方法的流程示意图;
图3为本发明所述的基于深度学习的行人重识别方法中S103的示意图;
图4为本发明所述的基于深度学习的行人重识别系统的框图结构示意图。
具体实施方式
为了使本领域的技术人员更好地理解本发明的技术方案,下面将结合附图对本发明作进一步的详细介绍。
下面通过具体的实施例并结合附图对本发明做进一步的详细描述。
如图1-2所示,一种基于深度学习的行人重识别方法,包括如下步骤:
S101、接收视频获取行人图片,根据行人图片获取行人坐标信息,通过光流算法和行人坐标信息计算不同帧图片中同一行人的运动方向得到行人朝向信息,并在标注行人身份信息后得到行人训练数据集,行人训练数据集包含行人的朝向信息据和身份标签;
本发明的目的在于对行人进行重识别,对出现在摄像机视角1下的行人在摄像机视角2下进行重新识别的过程,该技术旨在识别不同视角的非重叠监控场景下行人的身份。因此本发明中接收的视频包括多个摄像头的视频输入流,每个摄像头的角度可能不同,因此导致同一行人在摄像头下的朝向不同,因此需要对接收的不同摄像头视频中的行人图片中的行人按照一定的策略进行匹配,判断该行人朝向并对行人加以区别。
S102、以行人训练数据集为基础,利用多任务学习方法构建并训练深度神经网络,获得行人朝向和身份识别的双任务模型;
多任务学习假设待学习的多个任务具有一定的相关性,可以结合在一起进行联合训练,提高特征的泛化性能和使用效率。多任务学习与单任务学习的深度模型的区别在于网络的输出部分,多任务学习的输入和单任务学习的输入数据相同,但同一批数据包含了多个任务的标签,输出为多个分类分支,每个分支处理单个多分类任务,这样可以大大节约数据以及计算开支,实现数据和模型的高效复用,在模型的输出部分为多个不同任务的分类器,如softmax,在训练的时候,根据不同任务的重要性,分配不同的学习比重,使得模型更倾向于拟合复杂的分类任务。
S103、按照朝向设置决策基,根据不同决策基的组合设定决策类别,按照朝向设置决策基,根据不同决策基的组合设定决策类别,将所有的决策类别建立为决策空间,并根据预设的强化学习模型对决策空间中决策类别进行训练计算最优决策模型;
具体的,四个朝向可以分为四种决策/动作(action)方法,这四种是最基本的决策,称为决策基,本发明通过不同决策基的组合设定决策的类别。比如选择其中两个或多个决策基加权组合成新的决策。
S104、接收待识别行人图片,调用双任务模型获得该行人的朝向信息后,调用最优决策模型获得最优决策,查询行人库输出对该行人识别的检索结果。
在识别过程中,需要进行识别的图片(用probe表示)可以是一张,也可以是多张。而识别过程中,待识别图片(probe)需要匹配行人库(用gallery表示)中的图片从而找到该库中的同一个人。gallery一般包含多个人/类别,每个类别可以有一张图片,也可以有多张图片。本发明通过行人朝向和身份识别的双任务模型的设置对待识别的图片(probe)进行处理获取对行人重识别及朝向信息,通过调用最优决策计算模型对probe进行处理计算该行人与gallery中行人的匹配度从而确定该行人的身份,并将检索结果进行输出,达到对行人重识别的目的。
如图2所示,本发明首先对行人图片进行处理获取行人朝向数据、行人识别数据,在将二者进行合并处理生成合并行人训练数据集,该数据集包括行人朝向及行人标识。同时本发明利用创建的深度神经网络对行人训练数据集进行图像特征提取、线性转换、映射等处理最终对行人朝向的误差计算提高对行人重识别预测结果的精确性,从而获取待视频图片中行人的朝向。同时本发明利用强化学习模型对决策空间中决策进行计算选择最优决策模型进而快速实现对待识别图片中行人匹配决策的选择,最终提高输出对行人的识别结果。
进一步,所述利用多任务学习方法构建深度神经网包括分别构建数据输入层、卷积层、批规范化层、非线性层、池化层、全连接层和softmax损耗层,
其中,
数据输入层用于接收行人图片,对行人图片进行预处理;
卷积层,用于提取对预处理后的行人图片的图像特征;
批规范化层,用于对图像特征进行规划化处理;
非线性层,用于图像特征或规范化处理的图像特征进行非线性变换;池化层,用于将图像特征与行人进行映射操作;
全连接层,用于对图像特征进行线性变换;
softmax损耗层,用于计算预测类别和标签类别的误差。非线性层提升了神经网络的非线性表征能力,从而神经网络可以更好地表达复杂函数关系,从而可以提取更好的特征,图像通过卷积和非线性等操作之后得到的是高维特征,通过全连接层方便了将所有特征信息扁平化线性化输出,全连接层对比卷积层,是卷积层的特殊形式,现有的全连接层已经不是必要的层,比如现在广泛使用的全卷积网络,可以简单地认为全连接层可以把高维的数据扁平化输出,比如做一个10分类的任务可以在最后做一个输出维度为10的全连接然后再连接上分类器。
进一步,如图3所示S103包括
S1031、选择决策基组成新的决策;
S1032、根据行人朝向训练行人朝向数据集,获取行人朝向匹配权重,根据匹配权重确定新的决策的种类;
S1033、利用强化学习算法函数对新的决策的种类进行训练,获取最优决策模型。
新的决策按照不同的方式可以分为两类:
(1)一套权重作为一种决策类别:
如公式(1)所示,S为匹配相似度,Wpq是两张匹配图片朝向分为p和q的匹配权重,Spq为这两张匹配图片的相似度,p、q均可代表右面,背面,左面或正面中任意一面。这种方法将probe(待识别图片,即在识别过程中,需要进行识别的图片,可以是一张,也可以是多张)和gallery(库中的图片进行重识别,即在识别过程中,待识别图片probe需要匹配库中的图片,找到库中的同一个人,这个库中的图像用gallery表示。gallery一般包含多个人/类别,每个类别可以有一张图片,也可以有多张图片)所有存在的组合都会乘以相应的权重而利用起来。
(2)同一套权重但组合成多种决策类别:由决策基组成的新决策中,权重在不同的数据集上可以是不同的,比如,在数据集1上学习得到的权重中,相同朝向的权重很大,不同朝向的权重很小,而在数据集2上学习得到的权重中,相同朝向匹配的权重和不同朝向匹配的权重相差不大,这种现象可以直观地理解为,数据集1不同朝向之间的差异巨大,导致不同朝向匹配的置信度差,而数据集2不同朝向之间的差异不太大。所以如果存在n种分布区别大的数据集,方法(1)则有n种新决策,而方法(2)在gallery中四种朝向都存在的情况下共有n*11种新决策,随着数据集分布种类的增加,决策种类也大幅增加。在不同分布的数据集上用SVM训练得到朝向匹配权重。这些决策充分考虑了数据集的具体情况,对不同数据集的不同行人的匹配决策有更强的灵活性。这种方法的决策空间可以衍生出C44+C34+C24=11种新决策,与方法(1)的区别在于,方法(1)会使用probe与gallery的所有组合,而方法(2)会根据不同的情况选择相应的朝向组合进行加权。例如,在gallery中某个类包含了四个朝向,方法(1)会将probe与gallery中四个朝向的所有图片进行组合,然后按照公式(1)得到最终相似度;方法(2)则会根据probe的朝向情况抽取两个或者三个朝向组合加权和求取最终相似度,而不是所有存在的组合都利用,最终加快匹配速度。
进一步,S1033包括
选择新的决策计算同一行人的行人图片预设的行人重识别库的相似度,判断相似度是否大于阈值T;
如果相似度大于阈值T,计算该行人图片的回报值R,统计该行人图片的累积回报值V(S);
最大化折算累积回报函数最大化识别率对累积回报值V(S)进行计算获取最优决策模型π*。
进一步,
V(S)=R1+γR2+γ2R3+…,其中,γ为衰减项。
进一步,
本发明通过设计强化学习算法中的回报(reward)函数R,在一次匹配过程中(一张probe与gallery中的所有类别),probe与gallery中的一类进行匹配,代理/动作者(agent)根据probe和gallery中的朝向情况在决策空间中选择一个决策行动(action)A,若得到的相似度大于阈值T,并且所比对的probe和gallery为同一个类,则得到回报值R,循环遍历所有probe进行匹配最终得到折算累积回报(discounted cumulative reward)V(s),如公式(2)所示,其中γ为衰减项。在本发明中,由于匹配过程不存在时序性,为离散随机的匹配,故衰减项为1,即每个probe与gallery的匹配都是平行的,不需要衰减。
如图4所示,本发明还提供了一种基于深度学习的行人重识别系统,包括合并数据标签模块10、行人朝向计算模块20、决策计算模块30、识别模块40。
其中,
合并数据标签模块10,用于接收视频获取行人图片,根据行人图片获取行人坐标信息,通过光流算法和行人坐标信息计算不同帧图片中同一行人的运动方向得到行人朝向信息,并在标注行人身份信息后得到行人训练数据集,行人训练数据集包括行人的朝向信息和身份标签;
本发明通过合并数据标签模块实现了对接收的视频进行处理获取行人的朝向及行人身份标签,初步实现了对行人训练数据集的生成,为构建深度神经网络提供了素材,提高了深度神经网络对行人中行人朝向及重识别的识别精度,不需要额外的设备对视频进行处理即可实现,提高了行人重识别的效率,降低了行人重识别的成本。
光流算法在本发明中主要起跟踪作用,光流算法有四个主要的步骤:1、选择感兴趣的目标,在本发明中就是行人;2、计算目标图片中的特征点,比如SIFT角点;3、预测角点在下一帧的位置;4、根据不同帧相同的角点之间的变化规律对目标进行跟踪。例如,在本发明中,通过利用光流算法跟踪行人的轨迹可以得到行人的运动方向,从而可以判断出行人的朝向信息(人不会反方向行走)。可以使用其它的跟踪算法,但是光流算法简单易用,再配合上已经标注的行人坐标的移动信息,可以得到更加可靠的行人朝向数据。
行人朝向计算模块20,用于以行人训练数据集为基础,利用多任务学习方法构建并深度神经网络,获得行人朝向和身份识别的双任务模型;
决策计算模块30,用于按照朝向设置决策基,根据不同决策基的组合设定决策类别,将所有的决策类别建立为决策空间,并根据预设的强化学习模型对决策空间中决策类别进行训练计算最优决策模型;
识别模块40,用于接收待识别行人图片,调用双任务模型获得该行人的朝向信息后,调用决策学习模型获得最优决策,查询行人库输出对该行人识别的检索结果。
进一步,所述决策计算模块包括
决策设定子模块,用于选择决策基组成新的决策;
分类子模块,用于根据行人朝向训练行人朝向数据集,获取行人朝向匹配权重,根据匹配权重计确定决策种类;
强化训练子模块,用于利用强化学习算法函数对决策种类计算训练,获取最优决策模型。
强化训练子模块包括
相似度计算单元,用于选择新的决策计算同一行人的行人图片预设的行人重识别库的相似度,判断相似度是否大于阈值T;
回报值计算单元,用于如果相似度大于阈值T,计算该行人图片的回报值R,统计该行人图片的累积回报值V(S);
最优决策计算单元,用于最大化折算累积回报函数最大化识别率对累积回报值V(S)进行计算获取最优决策模型π*。
进一步,所述合并数据标签模块包括
朝向子模块,用于根据行人图片获取行人坐标信息,通过光流算法和行人坐标信息计算不同行人图片中同一行人的运动方向得到行人朝向数据;
行人识别子模块,用于对行人朝向数据进行清洗,对朝向数据中的行人进行标记。
进一步,所述决策计算模块包括
决策空间建立子模块,用于根据决策基建立决策空间;
决策强化计算子模块,用于根据回报函数对决策空间计算,获取最优决策模型。
更进一步,所述决策空间建立子模块包括
决策设置单元,用于选择决策基组成新的决策;
分类子单元,用于根据行人朝向权重的设置将新的决策按照进行分类。
更进一步,所述决策强化计算子模块包括
相似度计算单元,用于选择新的决策计算同一行人的行人图片预设的行人重识别库的相似度,判断相似度是否大于阈值T;
回报值计算单元,用于如果相似度大于阈值T,计算该行人图片的回报值R,统计该行人图片的累积回报值V(S);
最优决策计算单元,用于最大化折算累积回报函数最大化识别率对累积回报值V(S)进行计算获取最优决策模型π*。
以上只通过说明的方式描述了本发明的某些示范性实施例,毋庸置疑,对于本领域的普通技术人员,在不偏离本发明的精神和范围的情况下,可以用各种不同的方式对所描述的实施例进行修正。因此,上述附图和描述在本质上是说明性的,不应理解为对本发明权利要求保护范围的限制。
Claims (10)
1.一种基于深度学习和强化学习的行人重识别方法,其特征在于,包括如下步骤:
接收视频获取行人图片,根据行人图片获取行人坐标信息,通过光流算法和行人坐标信息计算不同帧图片中同一行人的运动方向得到行人朝向信息,并在标注行人身份信息后得到行人训练数据集,行人训练数据集包含行人的朝向信息据和身份标签;
以行人训练数据集为基础,利用多任务学习方法构建并训练深度神经网络,获得行人朝向和身份识别的双任务模型;
按照朝向设置决策基,根据不同决策基的组合设定决策类别,按照朝向设置决策基,根据不同决策基的组合设定决策类别,将所有的决策类别建立为决策空间,并根据预设的强化学习模型对决策空间中决策类别进行训练计算最优决策模型;
接收待识别行人图片,调用双任务模型获得该行人的朝向信息后,调用最优决策模型获得最优决策,查询行人库输出对该行人识别的检索结果。
2.根据权利要求1所述的基于深度学习和强化学习的行人重识别方法,其特征在于,所述利用多任务学习方法构建深度神经网包括分别构建数据输入层、卷积层、批规范化层、非线性层、池化层、全连接层和softmax损耗层,其中,
数据输入层,用于接收行人图片,对行人图片进行预处理;
卷积层,用于提取对预处理后的行人图片的图像特征;
批规范化层,用于对图像特征进行规划化处理;
非线性层,用于图像特征或规范化处理的图像特征进行非线性变换;
池化层,用于将图像特征与行人进行映射操作;
全连接层,用于对图像特征进行线性变换;
softmax损耗层,用于计算预测类别和标签类别的误差。
3.根据权利要求1所述的基于深度学习和强化学习的行人重识别方法,其特征在于,所述按照朝向设置决策基,根据不同决策基的组合设定决策类别,将所有的决策类别建立为决策空间,并根据预设的强化学习模型对决策空间中决策类别进行训练计算最优决策模型包括
选择决策基组成新的决策;
根据行人朝向训练行人朝向数据集,获取行人朝向匹配权重,根据匹配权重确定新的决策的种类;
利用强化学习算法函数对新的决策的种类进行训练,获取最优决策模型。
4.根据权利要求4所述的基于深度学习和强化学习的行人重识别方法,其特征在于,所述利用强化学习算法函数对决策种类计算训练,获取最优决策模型包括
选择新的决策计算同一行人的行人图片预设的行人重识别库的相似度,判断相似度是否大于阈值T;
如果相似度大于阈值T,计算该行人图片的回报值R,统计该行人图片的累积回报值V(S);
最大化折算累积回报函数最大化识别率对累积回报值V(S)进行计算获取最优决策模型π*。
5.根据权利要求4所述的基于深度学习和强化学习的行人重识别方法,其特征在于,
V(S)=R1+γR2+γ2R3+…,其中,γ为衰减项;
6.一种基于深度学习和强化学习的行人重识别系统,其特征在于,包括
合并数据标签模块,用于接收视频获取行人图片,根据行人图片获取行人坐标信息,通过光流算法和行人坐标信息计算不同帧图片中同一行人的运动方向得到行人朝向信息,并在标注行人身份信息后得到行人训练数据集,行人训练数据集包括行人的朝向信息和身份标签;
行人朝向计算模块,用于以行人训练数据集为基础,利用多任务学习方法构建并深度神经网络,获得行人朝向和身份识别的双任务模型;
决策计算模块,用于按照朝向设置决策基,根据不同决策基的组合设定决策类别,将所有的决策类别建立为决策空间,并根据预设的强化学习模型对决策空间中决策类别进行训练计算最优决策模型;
识别模块,用于接收待识别行人图片,调用双任务模型获得该行人的朝向信息后,调用决策学习模型获得最优决策,查询行人库输出对该行人识别的检索结果。
7.根据权利要求6所述的基于深度学习和强化学习的行人重识别系统,其特征在于,所述行人朝向计算模块
构建子模块,用于构建数据输入层、卷积层、批规范化层、非线性层、池化层、全连接层和softmax损耗层。
8.根据权利要求6所述的基于深度学习和强化学习的行人重识别系统,其特征在于,所述决策计算模块包括
决策设定子模块,用于选择决策基组成新的决策;
分类子模块,用于根据行人朝向训练行人朝向数据集,获取行人朝向匹配权重,根据匹配权重计确定新的决策种类;
强化训练子模块,用于利用强化学习算法函数对新的决策的种类进行训练,获取最优决策模型。
9.根据权利要求8所述的基于深度学习和强化学习的行人重识别系统,其特征在于,强化训练子模块包括
相似度计算单元,用于选择新的决策计算同一行人的行人图片预设的行人重识别库的相似度,判断相似度是否大于阈值T;
回报值计算单元,用于如果相似度大于阈值T,计算该行人图片的回报值R,统计该行人图片的累积回报值V(S);
最优决策计算单元,用于最大化折算累积回报函数最大化识别率对累积回报值V(S)进行计算获取最优决策模型π*。
10.根据权利要求9所述的基于深度学习和强化学习的行人重识别系统,其特征在于,
V(S)=R1+γR2+γ2R3+…,其中,γ为衰减项;
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201611199109.8A CN106709449B (zh) | 2016-12-22 | 2016-12-22 | 一种基于深度学习和强化学习的行人重识别方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201611199109.8A CN106709449B (zh) | 2016-12-22 | 2016-12-22 | 一种基于深度学习和强化学习的行人重识别方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106709449A true CN106709449A (zh) | 2017-05-24 |
CN106709449B CN106709449B (zh) | 2020-04-21 |
Family
ID=58939567
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201611199109.8A Expired - Fee Related CN106709449B (zh) | 2016-12-22 | 2016-12-22 | 一种基于深度学习和强化学习的行人重识别方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106709449B (zh) |
Cited By (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107229914A (zh) * | 2017-05-26 | 2017-10-03 | 北京工业大学 | 一种基于深度q学习策略的手写数字识别方法 |
CN107392246A (zh) * | 2017-07-20 | 2017-11-24 | 电子科技大学 | 一种基于特征模型到背景模型距离的背景建模方法 |
CN107463881A (zh) * | 2017-07-07 | 2017-12-12 | 中山大学 | 一种基于深度增强学习的人物图像搜索方法 |
CN107657249A (zh) * | 2017-10-26 | 2018-02-02 | 珠海习悦信息技术有限公司 | 多尺度特征行人重识别的方法、装置、存储介质及处理器 |
CN107767416A (zh) * | 2017-09-05 | 2018-03-06 | 华南理工大学 | 一种低分辨率图像中行人朝向的识别方法 |
CN107832711A (zh) * | 2017-11-13 | 2018-03-23 | 常州大学 | 一种基于迁移学习的行人重识别方法 |
CN107909580A (zh) * | 2017-11-01 | 2018-04-13 | 深圳市深网视界科技有限公司 | 一种行人衣着颜色识别方法、电子设备及存储介质 |
CN108021937A (zh) * | 2017-11-28 | 2018-05-11 | 国网辽宁省电力有限公司 | 基于成本关联的数据变动识别网络及其分类器布点方法 |
CN108364269A (zh) * | 2018-03-08 | 2018-08-03 | 深圳市唯特视科技有限公司 | 一种基于强化学习框架的白盒照片后期处理方法 |
CN108447305A (zh) * | 2018-04-21 | 2018-08-24 | 上海交通大学 | 一种新交规下礼让行人预警方法及预警系统 |
CN109190475A (zh) * | 2018-08-01 | 2019-01-11 | 中国计量大学 | 一种人脸识别网络与行人再识别网络协同训练方法 |
GB2564668A (en) * | 2017-07-18 | 2019-01-23 | Vision Semantics Ltd | Target re-identification |
CN109389589A (zh) * | 2018-09-28 | 2019-02-26 | 百度在线网络技术(北京)有限公司 | 用于统计人数的方法和装置 |
CN109710507A (zh) * | 2017-10-26 | 2019-05-03 | 北京京东尚科信息技术有限公司 | 一种自动化测试的方法和装置 |
CN109753901A (zh) * | 2018-12-21 | 2019-05-14 | 上海交通大学 | 基于行人识别的室内行人寻迹方法、装置、计算机设备及存储介质 |
CN110530371A (zh) * | 2019-09-06 | 2019-12-03 | 电子科技大学 | 一种基于深度强化学习的室内地图匹配方法 |
CN110647917A (zh) * | 2019-08-23 | 2020-01-03 | 北京大学 | 一种模型复用方法与系统 |
CN110766093A (zh) * | 2019-10-31 | 2020-02-07 | 智慧视通(杭州)科技发展有限公司 | 一种基于多帧特征融合的视频目标重识别方法 |
CN110942081A (zh) * | 2018-09-25 | 2020-03-31 | 北京嘀嘀无限科技发展有限公司 | 图像处理方法、装置、电子设备及可读存储介质 |
CN111191529A (zh) * | 2019-12-17 | 2020-05-22 | 中移(杭州)信息技术有限公司 | 一种处理异常工单的方法及系统 |
CN111259720A (zh) * | 2019-10-30 | 2020-06-09 | 北京中科研究院 | 基于自监督代理特征学习的无监督行人重识别方法 |
CN111460860A (zh) * | 2019-01-21 | 2020-07-28 | 北京嘀嘀无限科技发展有限公司 | 目标对象识别方法、装置、电子设备及存储介质 |
CN111723600A (zh) * | 2019-03-18 | 2020-09-29 | 四川大学 | 一种基于多任务学习的行人重识别特征描述子 |
CN112101150A (zh) * | 2020-09-01 | 2020-12-18 | 北京航空航天大学 | 一种基于朝向约束的多特征融合行人重识别方法 |
CN112218296A (zh) * | 2020-10-12 | 2021-01-12 | 上海交通大学 | 基于无线信号进行多人用户认证方法及系统 |
CN112528756A (zh) * | 2020-11-20 | 2021-03-19 | 华南理工大学 | 一种基于异构图的无监督行人重识别方法 |
CN112634559A (zh) * | 2020-11-25 | 2021-04-09 | 珠海格力电器股份有限公司 | 一种基于行人重识别智能家居紧急报警系统及方法 |
CN113139005A (zh) * | 2021-04-22 | 2021-07-20 | 康键信息技术(深圳)有限公司 | 基于同人识别模型的同人识别方法及相关设备 |
CN114724182A (zh) * | 2022-04-07 | 2022-07-08 | 中国科学技术大学 | 基于时序补偿引导的强化学习图像-视频行人重识别方法 |
CN114842432A (zh) * | 2021-02-02 | 2022-08-02 | 广州汽车集团股份有限公司 | 一种基于深度学习汽车灯光控制方法及系统 |
WO2023272994A1 (zh) * | 2021-06-29 | 2023-01-05 | 苏州浪潮智能科技有限公司 | 基于深度学习网络的行人重识别方法、装置、设备及介质 |
CN115631464A (zh) * | 2022-11-17 | 2023-01-20 | 北京航空航天大学 | 面向大时空目标关联的行人立体表示方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2381393A1 (en) * | 2010-04-20 | 2011-10-26 | Alcatel Lucent | A method of reinforcement learning, corresponding computer program product, and data storage device therefor |
CN105637540A (zh) * | 2013-10-08 | 2016-06-01 | 谷歌公司 | 用于强化学习的方法和设备 |
CN106096729A (zh) * | 2016-06-06 | 2016-11-09 | 天津科技大学 | 一种面向大规模环境中复杂任务的深度策略学习方法 |
-
2016
- 2016-12-22 CN CN201611199109.8A patent/CN106709449B/zh not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2381393A1 (en) * | 2010-04-20 | 2011-10-26 | Alcatel Lucent | A method of reinforcement learning, corresponding computer program product, and data storage device therefor |
CN105637540A (zh) * | 2013-10-08 | 2016-06-01 | 谷歌公司 | 用于强化学习的方法和设备 |
CN106096729A (zh) * | 2016-06-06 | 2016-11-09 | 天津科技大学 | 一种面向大规模环境中复杂任务的深度策略学习方法 |
Non-Patent Citations (2)
Title |
---|
LANGE S ET AL: ""Autonomous reinforcement learning on raw visual input data in a real world application"", 《 THE 2012 INTERNATIONAL JOINT CONFERENCE ON NEURAL NETWORKS: IEEE》 * |
赵东斌: "深度强化学习综述:兼论计算机围棋的发展", 《控制理论与应用》 * |
Cited By (53)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107229914B (zh) * | 2017-05-26 | 2020-07-03 | 北京工业大学 | 一种基于深度q学习策略的手写数字识别方法 |
CN107229914A (zh) * | 2017-05-26 | 2017-10-03 | 北京工业大学 | 一种基于深度q学习策略的手写数字识别方法 |
CN107463881A (zh) * | 2017-07-07 | 2017-12-12 | 中山大学 | 一种基于深度增强学习的人物图像搜索方法 |
US11430261B2 (en) | 2017-07-18 | 2022-08-30 | Vision Semantics Limited | Target re-identification |
GB2564668B (en) * | 2017-07-18 | 2022-04-13 | Vision Semantics Ltd | Target re-identification |
GB2564668A (en) * | 2017-07-18 | 2019-01-23 | Vision Semantics Ltd | Target re-identification |
CN111033509A (zh) * | 2017-07-18 | 2020-04-17 | 视语智能有限公司 | 目标重新识别 |
CN107392246A (zh) * | 2017-07-20 | 2017-11-24 | 电子科技大学 | 一种基于特征模型到背景模型距离的背景建模方法 |
CN107767416A (zh) * | 2017-09-05 | 2018-03-06 | 华南理工大学 | 一种低分辨率图像中行人朝向的识别方法 |
CN107767416B (zh) * | 2017-09-05 | 2020-05-22 | 华南理工大学 | 一种低分辨率图像中行人朝向的识别方法 |
CN107657249A (zh) * | 2017-10-26 | 2018-02-02 | 珠海习悦信息技术有限公司 | 多尺度特征行人重识别的方法、装置、存储介质及处理器 |
CN109710507B (zh) * | 2017-10-26 | 2022-03-04 | 北京京东尚科信息技术有限公司 | 一种自动化测试的方法和装置 |
CN109710507A (zh) * | 2017-10-26 | 2019-05-03 | 北京京东尚科信息技术有限公司 | 一种自动化测试的方法和装置 |
CN107909580A (zh) * | 2017-11-01 | 2018-04-13 | 深圳市深网视界科技有限公司 | 一种行人衣着颜色识别方法、电子设备及存储介质 |
CN107832711A (zh) * | 2017-11-13 | 2018-03-23 | 常州大学 | 一种基于迁移学习的行人重识别方法 |
CN108021937B (zh) * | 2017-11-28 | 2022-06-14 | 国网辽宁省电力有限公司 | 基于成本关联的数据变动识别网络及其分类器布点方法 |
CN108021937A (zh) * | 2017-11-28 | 2018-05-11 | 国网辽宁省电力有限公司 | 基于成本关联的数据变动识别网络及其分类器布点方法 |
CN108364269A (zh) * | 2018-03-08 | 2018-08-03 | 深圳市唯特视科技有限公司 | 一种基于强化学习框架的白盒照片后期处理方法 |
CN108447305A (zh) * | 2018-04-21 | 2018-08-24 | 上海交通大学 | 一种新交规下礼让行人预警方法及预警系统 |
CN109190475B (zh) * | 2018-08-01 | 2021-09-14 | 中国计量大学 | 一种人脸识别网络与行人再识别网络协同训练方法 |
CN109190475A (zh) * | 2018-08-01 | 2019-01-11 | 中国计量大学 | 一种人脸识别网络与行人再识别网络协同训练方法 |
CN110942081A (zh) * | 2018-09-25 | 2020-03-31 | 北京嘀嘀无限科技发展有限公司 | 图像处理方法、装置、电子设备及可读存储介质 |
CN110942081B (zh) * | 2018-09-25 | 2023-08-18 | 北京嘀嘀无限科技发展有限公司 | 图像处理方法、装置、电子设备及可读存储介质 |
CN109389589A (zh) * | 2018-09-28 | 2019-02-26 | 百度在线网络技术(北京)有限公司 | 用于统计人数的方法和装置 |
CN109753901B (zh) * | 2018-12-21 | 2023-03-24 | 上海交通大学 | 基于行人识别的室内行人寻迹方法、装置、计算机设备及存储介质 |
CN109753901A (zh) * | 2018-12-21 | 2019-05-14 | 上海交通大学 | 基于行人识别的室内行人寻迹方法、装置、计算机设备及存储介质 |
CN111460860A (zh) * | 2019-01-21 | 2020-07-28 | 北京嘀嘀无限科技发展有限公司 | 目标对象识别方法、装置、电子设备及存储介质 |
CN111723600A (zh) * | 2019-03-18 | 2020-09-29 | 四川大学 | 一种基于多任务学习的行人重识别特征描述子 |
CN111723600B (zh) * | 2019-03-18 | 2022-07-05 | 四川大学 | 一种基于多任务学习的行人重识别特征描述子 |
CN110647917B (zh) * | 2019-08-23 | 2022-06-03 | 北京大学 | 一种模型复用方法与系统 |
CN110647917A (zh) * | 2019-08-23 | 2020-01-03 | 北京大学 | 一种模型复用方法与系统 |
CN110530371B (zh) * | 2019-09-06 | 2021-05-18 | 电子科技大学 | 一种基于深度强化学习的室内地图匹配方法 |
CN110530371A (zh) * | 2019-09-06 | 2019-12-03 | 电子科技大学 | 一种基于深度强化学习的室内地图匹配方法 |
CN111259720A (zh) * | 2019-10-30 | 2020-06-09 | 北京中科研究院 | 基于自监督代理特征学习的无监督行人重识别方法 |
CN111259720B (zh) * | 2019-10-30 | 2023-05-26 | 北京中科研究院 | 基于自监督代理特征学习的无监督行人重识别方法 |
CN110766093A (zh) * | 2019-10-31 | 2020-02-07 | 智慧视通(杭州)科技发展有限公司 | 一种基于多帧特征融合的视频目标重识别方法 |
CN111191529B (zh) * | 2019-12-17 | 2023-04-28 | 中移(杭州)信息技术有限公司 | 一种处理异常工单的方法及系统 |
CN111191529A (zh) * | 2019-12-17 | 2020-05-22 | 中移(杭州)信息技术有限公司 | 一种处理异常工单的方法及系统 |
CN112101150A (zh) * | 2020-09-01 | 2020-12-18 | 北京航空航天大学 | 一种基于朝向约束的多特征融合行人重识别方法 |
CN112101150B (zh) * | 2020-09-01 | 2022-08-12 | 北京航空航天大学 | 一种基于朝向约束的多特征融合行人重识别方法 |
CN112218296B (zh) * | 2020-10-12 | 2021-06-15 | 上海交通大学 | 基于无线信号进行多人用户认证方法及系统 |
CN112218296A (zh) * | 2020-10-12 | 2021-01-12 | 上海交通大学 | 基于无线信号进行多人用户认证方法及系统 |
CN112528756A (zh) * | 2020-11-20 | 2021-03-19 | 华南理工大学 | 一种基于异构图的无监督行人重识别方法 |
CN112528756B (zh) * | 2020-11-20 | 2023-06-23 | 华南理工大学 | 一种基于异构图的无监督行人重识别方法 |
CN112634559A (zh) * | 2020-11-25 | 2021-04-09 | 珠海格力电器股份有限公司 | 一种基于行人重识别智能家居紧急报警系统及方法 |
CN114842432A (zh) * | 2021-02-02 | 2022-08-02 | 广州汽车集团股份有限公司 | 一种基于深度学习汽车灯光控制方法及系统 |
CN113139005A (zh) * | 2021-04-22 | 2021-07-20 | 康键信息技术(深圳)有限公司 | 基于同人识别模型的同人识别方法及相关设备 |
WO2023272994A1 (zh) * | 2021-06-29 | 2023-01-05 | 苏州浪潮智能科技有限公司 | 基于深度学习网络的行人重识别方法、装置、设备及介质 |
US11810388B1 (en) | 2021-06-29 | 2023-11-07 | Inspur Suzhou Intelligent Technology Co., Ltd. | Person re-identification method and apparatus based on deep learning network, device, and medium |
CN114724182A (zh) * | 2022-04-07 | 2022-07-08 | 中国科学技术大学 | 基于时序补偿引导的强化学习图像-视频行人重识别方法 |
CN114724182B (zh) * | 2022-04-07 | 2024-04-02 | 中国科学技术大学 | 基于时序补偿引导的强化学习图像-视频行人重识别方法 |
CN115631464A (zh) * | 2022-11-17 | 2023-01-20 | 北京航空航天大学 | 面向大时空目标关联的行人立体表示方法 |
CN115631464B (zh) * | 2022-11-17 | 2023-04-04 | 北京航空航天大学 | 面向大时空目标关联的行人立体表示方法 |
Also Published As
Publication number | Publication date |
---|---|
CN106709449B (zh) | 2020-04-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106709449A (zh) | 一种基于深度学习和强化学习的行人重识别方法及系统 | |
CN111666843B (zh) | 一种基于全局特征和局部特征拼接的行人重识别方法 | |
CN111259786B (zh) | 一种基于视频的外观和运动信息同步增强的行人重识别方法 | |
CN112036322B (zh) | 多任务网络跨域行人重识别模型构建方法、系统及装置 | |
CN108520226B (zh) | 一种基于躯体分解和显著性检测的行人重识别方法 | |
CN109522853B (zh) | 面向监控视频的人脸检测与搜索方法 | |
CN104063719B (zh) | 基于深度卷积网络的行人检测方法及装置 | |
CN104268583B (zh) | 基于颜色区域特征的行人重识别方法及系统 | |
CN109635694B (zh) | 一种行人检测方法、装置、设备及计算机可读存储介质 | |
CN111597870B (zh) | 一种基于注意力机制与多任务学习的人体属性识别方法 | |
CN110414441B (zh) | 一种行人行踪分析方法及系统 | |
CN109508663A (zh) | 一种基于多层次监督网络的行人重识别方法 | |
CN106778684A (zh) | 深度神经网络训练方法及人脸识别方法 | |
CN109902646A (zh) | 一种基于长短时记忆网络的步态识别方法 | |
CN109815874A (zh) | 一种人员身份识别方法、装置、设备及可读存储介质 | |
CN103714181B (zh) | 一种层级化的特定人物检索方法 | |
CN101630364A (zh) | 基于融合特征的步态信息处理与身份识别方法 | |
CN109558810A (zh) | 基于部位分割与融合目标人物识别方法 | |
CN103237201A (zh) | 一种基于社会化标注的案件视频研判方法 | |
CN101996308A (zh) | 人脸认证方法及系统、人脸模型训练方法及系统 | |
CN109271932A (zh) | 基于颜色匹配的行人再识别方法 | |
CN111027377A (zh) | 一种双流神经网络时序动作定位方法 | |
CN115527269B (zh) | 一种人体姿态图像智能识别方法及系统 | |
CN106874825A (zh) | 人脸检测的训练方法、检测方法和装置 | |
CN104361339B (zh) | 掌形图形提取及识别方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20200421 Termination date: 20211222 |
|
CF01 | Termination of patent right due to non-payment of annual fee |