CN110457990B - 一种机器学习的安防监控视频遮挡智能填补方法与系统 - Google Patents
一种机器学习的安防监控视频遮挡智能填补方法与系统 Download PDFInfo
- Publication number
- CN110457990B CN110457990B CN201910533894.3A CN201910533894A CN110457990B CN 110457990 B CN110457990 B CN 110457990B CN 201910533894 A CN201910533894 A CN 201910533894A CN 110457990 B CN110457990 B CN 110457990B
- Authority
- CN
- China
- Prior art keywords
- grid matrix
- specific target
- video
- frame
- cluster
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/48—Matching video sequences
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
Abstract
本发明提供了一种机器学习的安防监控视频遮挡智能填补方法与系统,包括:定义一个N*M的栅格矩阵模板,将其放入安防监控视频中对特定目标存在遮挡的每一帧的视频画面中;计算所述栅格矩阵模板中每一个栅格所在的图像区域的特征量,将所述栅格矩阵模板中的全部栅格的特征量进行组合,得到所述栅格矩阵模板的一个N*M的栅格矩阵向量;将所有视频帧的全部栅格矩阵向量执行聚类计算,并进行类簇划分;确定特定目标所在的类簇,根据该类簇中特定目标未遮挡部分提取的特征量来填补上述每一帧视频画面中特定目标被遮挡部分的特征量。本发明通过各个视频帧当中特定目标的非遮挡部位,对特定目标进行填补,解决了当特定目标被持续遮挡时,识别失败的问题。
Description
技术领域
本发明属于视频监控技术领域,具体涉及一种机器学习的安防监控视频遮挡智能填补方法与系统。
背景技术
对于安防监控的应用场景来说,从视频帧当中,对于特定目标(例如特定人物、特定车辆)的识别、提取、追踪是一种基础性的功能。在上述识别、提取、追踪过程中,首先设定一个适当大小的图框,然后从每帧视频帧中以该图框截取一部分画面区域,并且从该画面区域提取特征量(例如轮廓特征、颜色特征、纹理特征等),与特定目标对应的特征阈值进行比对,如果特征量大于该阈值,则表明图框所在的画面区域为特定目标所在位置;反之,如果未大于阈值,则移动该图框预设的距离,然后重新执行上述步骤,这样最终确定每帧视频帧当中该特定目标的位置,然后予以标识,实现各帧间的追踪。
然而,对于上述功能来说,特定目标的局部乃至大部分区域,被其它物体遮挡是一个棘手的问题,例如特定目标在人流和车流当中被其它人或者车遮挡,那么即便图框的画面区域覆盖了该特定目标的位置,但是从中提取的特征量受到遮挡物影响,也无法大于阈值。这样就很容易造成识别失败。
发明内容
有鉴于此,本发明提供了一种机器学习的安防监控视频遮挡智能填补方法与系统,对于一段安防监控视频,当持续存在特定目标被遮挡物遮挡的情况时,通过各个视频帧当中特定目标的非遮挡部位,对特定目标进行填补,解决了当特定目标被持续遮挡时,识别失败的问题。
为了实现上述目的,本申请提供了以下技术方案:
本申请提供了一种机器学习的安防监控视频遮挡智能填补方法,所述方法包括:
定义一个N*M的栅格矩阵模板,将其放入安防监控视频中对特定目标存在遮挡的每一帧的视频画面中;
对于每一帧视频画面,计算所述栅格矩阵模板中每一个栅格所在的图像区域的特征量,将所述栅格矩阵模板中的全部栅格的特征量进行组合,得到所述栅格矩阵模板的一个N*M的栅格矩阵向量;
将所述栅格矩阵模板在每一帧视频画面中按照预定步长进行移动,每移动一次栅格矩阵模板,就按上述方式计算一次栅格矩阵向量,直至所述栅格矩阵模板遍历每一帧视频画面,从而,对于上述每一帧视频画面分别获得若干栅格矩阵向量;
将所有视频帧的全部栅格矩阵向量执行聚类计算,并进行类簇划分;
确定特定目标所在的类簇,根据该类簇中特定目标未遮挡部分提取的特征量来填补上述每一帧视频画面中特定目标被遮挡部分的特征量。
进一步的,所述栅格矩阵模板的宽和高的定义方式为:遍历所有视频帧,确定每一帧特定目标的尺寸,若特定目标的最大宽度为Wmax,最大高度为Hmax,则设置所述栅格矩阵模板的宽为Wmax,高为Hmax。
进一步的,所述栅格矩阵模板按照预定步长进行移动,具体为:从视频帧的任一顶点开始将所述栅格矩阵模板在每一帧视频画面中按照预定步长进行移动。
进一步的,所述类簇划分的具体方法为:将相似度大的栅格矩阵向量划分到同一个类簇。
进一步的,所述确定特定目标所在的类簇,具体为:将含有特定目标的特征量最多的类簇,确定为特定目标所在的类簇。
本申请还提供了一种机器学习的安防监控视频遮挡智能填补系统,所述系统包括:
栅格矩阵模板建立模块,用于定义一个N*M的栅格矩阵模板,将其放入安防监控视频中对特定目标存在遮挡的每一帧的视频画面中;
栅格矩阵向量计算模块,用于对于每一帧视频画面,计算所述栅格矩阵模板中每一个栅格所在的图像区域的特征量,将所述栅格矩阵模板中的全部栅格的特征量进行组合,得到所述栅格矩阵模板的一个N*M的栅格矩阵向量;
栅格矩阵模板移动模块,用于将所述栅格矩阵模板在每一帧视频画面中按照预定步长进行移动,每移动一次栅格矩阵模板,就按栅格矩阵向量计算模块中的方式计算一次栅格矩阵向量,直至所述栅格矩阵模板遍历每一帧视频画面,从而,对于上述每一帧视频画面分别获得若干栅格矩阵向量;
类簇划分模块,用于将所有视频帧的全部栅格矩阵向量执行聚类计算,并进行类簇划分;
遮挡填补模块,用于确定特定目标所在的类簇,根据该类簇中特定目标未遮挡部分提取的特征量来填补上述每一帧视频画面中特定目标被遮挡部分的特征量。
进一步的,在栅格矩阵模板建立模块中,所述栅格矩阵模板的宽和高的定义方式为:遍历所有视频帧,确定每一帧特定目标的尺寸,若特定目标的最大宽度为Wmax,最大高度为Hmax,则设置所述栅格矩阵模板的宽为Wmax,高为Hmax。
进一步的,在栅格矩阵模板移动模块中,所述栅格矩阵模板按照预定步长进行移动,具体为:从视频帧的任一顶点开始将所述栅格矩阵模板在每一帧视频画面中按照预定步长进行移动。
进一步的,在类簇划分模块中,所述类簇划分的具体方法为:将相似度大的栅格矩阵向量划分到同一个类簇。
进一步的,在遮挡填补模块中,所述确定特定目标所在的类簇,具体为:将含有特定目标的特征量最多的类簇,确定为特定目标所在的类簇。
由此可见,本发明提供的一种机器学习的安防监控视频遮挡智能填补方法和系统,通过定义栅格矩阵模板,得到全部视频帧的多个栅格矩阵向量,通过类簇划分,可以确定同一个特征目标所在的类簇,从而利用该类簇中特定目标的非遮挡部位的特征量来填补被遮挡部分的特征量,从而提高了对特定目标识别和跟踪的精度,解决了当特定目标被持续遮挡时,识别失败的问题。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1为本发明实施例提供的一种机器学习的安防监控视频遮挡智能填补方法的流程示意图;
图2为本发明实施例提供的特定人物和遮挡物位置关系的示意图;
图3为本发明实施例提供的为特定人物定义栅格矩阵模板的示意图;
图4为本发明实施例提供的栅格矩阵模板按照预定步长移动的示意图;
图5为本发明实施例提供的一种机器学习的安防监控视频遮挡智能填补系统的结构示意图;
图6为为本发明实施例提供的一种计算机设备中存储器和处理器的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
如图1所示,是本发明提供的一种机器学习的安防监控视频遮挡智能填补方法的流程示意图,所述方法包括:
101,定义一个N*M的栅格矩阵模板,将其放入安防监控视频中对特定目标存在遮挡的每一帧的视频画面中;
对于一段存在特定目标的视频安防监控视频,在特定目标未被遮挡的情况下,可以得到具有该特定目标的特征量(例如轮廓特征、颜色特征、纹理特征等);然而当特定目标被遮挡,则无法根据上述特征量来识别特定目标,进而无法确定特定目标在每一帧视频中的位置,在这种情形下,本发明来针对安防监控视频中特定目标存在遮挡的每一帧视频画面,定义一个N*M的栅格矩阵模板。
对于栅格矩阵的尺寸,本领域技术人员可以根据具体需求设置一适当尺寸,作为一实施例,所述栅格矩阵的宽和高的设置方式可以为:遍历所有视频帧,确定每一帧特定目标的尺寸,若特定目标在全部视频帧中的最大宽度为Wmax,最大高度为Hmax,则设置栅格矩阵模板的宽为Wmax,高为Hmax。
102,对于每一帧视频画面,计算所述栅格矩阵模板中每一个栅格所在的图像区域的特征量,将所述栅格矩阵模板中的全部栅格的特征量进行组合,得到所述栅格矩阵模板的一个N*M的栅格矩阵向量;
栅格矩阵模板中包含N*M个栅格,每个栅格都对应一个图像区域,计算每个栅格所在图像区域的特征量,则对于一个栅格矩阵模板来说,可以的到N*M个栅格对应的特征量,将这些特征量组合在一起,则可以得到一个N*M的栅格矩阵向量。
103,将所述栅格矩阵模板在每一帧视频画面中按照预定步长进行移动,每移动一次栅格矩阵模板,就按步骤102所述的方式计算一次栅格矩阵向量;直至所述栅格矩阵模板遍历每一帧视频画面;从而,对于上述每一帧视频画面分别获得若干栅格矩阵向量;
具体的,可以从视频帧的任一顶点开始将所述栅格矩阵模板在每一帧视频画面中按照预定步长进行移动;每移动一次,就计算一次当前位置的栅格矩阵模板的栅格向量,假设栅格矩阵模板遍历了每一帧视频画面共经历了L个位置,则可以得到L个N*M的栅格矩阵向量,也就是说,对于每一帧视频画面,都可以得到L个栅格矩阵向量。
104,将所有视频帧的全部栅格矩阵向量执行聚类计算,并进行类簇划分;
将所有视频帧的全部栅格矩阵向量执行聚类计算,例如,视频中包含100个连续视频帧,每一帧视频画面都可以得到L个栅格矩阵向量,那么就可以获得100*L个栅格矩阵向量,将这100*L个栅格矩阵向量执行聚类计算,并进行类簇划分。对于同一个特定目标,当栅格矩阵模板覆盖该特定目标的未遮挡部位时,其栅格矩阵向量具有较高的相似性,利用聚类算法,可以将相似度较大的栅格矩阵向量划分为一类,就可以得到每一个视频帧中该特定目标的未遮挡部位对应的特征量。具体的,可以采用K-MEANS聚类等方式,将相似度大的栅格矩阵向量划分到同一个类簇。
105,确定特定目标所在的类簇,根据该类簇中特定目标未遮挡部分提取的特征量来填补上述每一帧视频画面中特定目标被遮挡部分的特征量。
由前文所述,由于存在遮挡,那么对特定目标提取的未被遮挡的特征量与事先掌握的该特征目标的特征量进行比对时,特征量无法大于该特征目标对应的特征阈值,就会导致识别失败,这时就希望将每一帧中被遮挡的特定目标的特征量补充完整,使得其能够与事先掌握的该特征目标符合的特征量相匹配。
在本发明中,通过对上述对栅格矩阵向量进行聚类的方式,可以将各个视频帧中相似度较大的栅格矩阵向量所对应的栅格矩阵模板划分为一类,那么根据这些栅格矩阵模板的位置,就可以在各个视频帧中确定一个图像区域,该图像区域中包含被遮挡的特定目标以及被遮挡物的一部分。由于特定目标在视频画面中是不断运动的,因而对于各个视频帧中所确定的图像区域,特定目标被遮挡的部分不是完全相同的,那么就可以从每个图像区域里提取出未被遮挡的一部分,来相互填补每个图像区域里被遮挡的部分。
具体的,可以将含有特定目标的特征量最多的类簇,确定为该特定目标所在的类簇。确定了特征目标所在的类簇后,就可以对该类簇中特定目标未遮挡部位的特征量进行提取,根据该类簇中特定目标未遮挡部分提取的特征量来填补上述每一帧视频画面中特定目标被遮挡部分的特征量。
通过上述方法对每一帧特定目标的被遮挡部位的特征量进行填补以后,其被提取的特征量就可以达到该特征目标对应的特征阈值,从而能够识别出特定目标所在位置。
本发明适用于当一段安防监控视频存在特定目标,并且特定目标被遮挡的情形,在这种情形下,利用本发明的方法,有效解决了当特定目标被持续遮挡时,识别失败的问题。
为了对本发明更好的理解,下面将以特定人物被遮挡作为一实施例,来对本申请的技术方案进行进一步阐述。
在一段安防监控视频中,特定目标和遮挡物之间的位置关系一般是动态变化的,如2图所示,是特定人物和遮挡物位置关系的示意图,以三个连续视频帧为例,其中,小人为特定目标,方块为遮挡物,图中示出了连续三个视频帧中特定人物和遮挡物的位置关系,在每一帧视频画面中,特定人物和遮挡物的位置关系都发生了变化,每一帧视频画面中的特定人物都存在着不同程度的遮挡。
如图3所示,首先定义一个N*M的栅格矩阵模板,作为一实施例,栅格矩阵模板尺寸可以与特定人物在画面中的最大尺寸相同,以使得该栅格矩阵模板的尺寸可以刚好覆盖所述特定人物,具体的,取特定人物在三帧画面中最大的宽度和高度,例如,特定人物在三帧画面中最大的宽度和高度分别为Wmax和Hmax,则设置栅格矩阵模板的宽为Wmax,高为Hmax。对于栅格矩阵模板宽度和高度,本领域技术人员还可以根据具体需求进行设置,此处不做限制。
针对图2中的第一帧视频,将所述栅格矩阵模板放入该视频帧中,计算栅格矩阵模板中每一个栅格所在图像区域的特征量,将栅格矩阵模板中全部栅格的特征下向量组合在一起,则可以形成一个N*M的栅格矩阵向量。每一个栅格所在图像区域的特征量可以是该栅格的颜色特征、纹理特征或边缘特征的任意一种。
作为一实施例,所述栅格矩阵模板放入的初始位置可以为所述视频帧中的任一顶点位置,从初始位置开始,按照预定的步进距离在X,Y轴移动所述栅格矩阵模板,直至遍历每一帧视频画面。例如,如图4所示,所述栅格矩阵模板放入的初始位置为视频帧中的左上角位置,则将视频帧左上角位置作为X,Y轴的初始原点,假设设置X轴步进距离为P,Y轴步进距离为Q,则令所述栅格矩阵模板在X方向从左到右以步进距离P进行移动,在Y方向上从上到下以步进距离Q进行移动。作为一实施例,所述栅格矩阵模板移动方式具体可以为:从初始位置开始,从左到右按照步进距离P进行移动,当所述栅格矩阵模板到达视频帧最右侧后,按照步进距离Q向下移动一次,再从右到左按照步进距离P进行移动,直至所述栅格矩阵模板到达视频帧最左侧,按照步进距离Q向下移动一次,重复上述蛇形移动过程,直至所述栅格矩阵模板遍历每一帧视频画面。对于栅格矩阵模板的遍历过程,本领域技术人员还可以根据具体需求进行设置,此处不做限制。
所述栅格矩阵模板每移动一次,就为移动后的栅格矩阵模板计算一次栅格矩阵向量,假设从初始位置开始,栅格矩阵模板共经历了L个位置,则对于第一帧视频,可以获得L个N*M的栅格矩阵向量。
按照同样的方式,对于第二帧和第三帧的视频,也按上述方式计算栅格矩阵向量,因此,对于连续的三帧视频,则可以获得3*L个N*M的栅格矩阵向量。
将上述3*L个N*M的栅格矩阵向量执行聚类计算,进行类簇划分,对于同一个特定人物,其栅格矩阵向量具有较高的相似度,当栅格矩阵模板覆盖该特定人物的未遮挡部位时,其栅格矩阵向量的相似度也较大,具体的,可以采用K-MEANS聚类等方式,将相似度大的栅格矩阵向量划分到同一个类簇。
确定包含特定人物所在的类簇,例如,可以将含有特定人物的特征量最多的类簇,确定为该特定人物所在的类簇,获取该类簇。
通过对上述对栅格矩阵向量进行聚类的方式,可以将三个视频帧中相似度较大的栅格矩阵向量所对应的栅格矩阵模板划分为一类,那么根据这些栅格矩阵模板的位置,就可以在各个视频帧中确定一个图像区域,该图像区域中包含被遮挡的特定人物以及被遮挡物的一部分。
由于在每一帧视频画面中,特定人物和遮挡物的位置关系都发生了变化,也就是说,每一帧中特定人物被遮挡的部分以及暴露的非遮挡部分是不完全相同的,那么就可以从每个图像区域里提取出该特定人物未被遮挡的一部分,来相互填补每个图像区域里被遮挡的部分。
具体的,可以对所获取的类簇中特定人物未遮挡部位的特征量进行提取,根据该类簇中特定人物未遮挡部分提取的特征量来相互填补三帧视频画面中特定人物被遮挡部分的特征量。
通过上述方法对每一帧特定人物的被遮挡部位的特征量进行填补以后,其被提取的特征量就可以达到该特征人物对应的特征阈值,从而能够识别出特定人物所在位置。
上述实施例通过机器学习和聚类算法,能够利用视频帧中特定人物未遮挡部位来填补被遮挡部位,可以有效解决在视频监控中特定目标被遮挡的问题,提高目标识别和跟踪的准确性。
进一步的,作为本发明的具体实现,如图5所示,本发明还提供一种机器学习的安防监控视频遮挡智能填补系统,主要包括:栅格矩阵模板建立模块501、栅格矩阵向量计算模块502、栅格矩阵模板移动模块503、类簇划分模块504、遮挡填补模块505。
所述栅格矩阵模板建立模块501,用于定义一个N*M的栅格矩阵模板,将其放入安防监控视频中对特定目标存在遮挡的每一帧的视频画面中;
对于一段存在特定目标的视频安防监控视频,在特定目标未被遮挡的情况下,可以得到具有该特定目标的特征量(例如轮廓特征、颜色特征、纹理特征等);然而当特定目标被遮挡,则无法根据上述特征量来识别特定目标,进而无法确定特定目标在每一帧视频中的位置,在这种情形下,本发明来针对安防监控视频中特定目标存在遮挡的每一帧视频画面,定义一个N*M的栅格矩阵模板。
对于栅格矩阵的尺寸,本领域技术人员可以根据具体需求设置一适当尺寸,作为一实施例,所述栅格矩阵的宽和高的设置方式可以为:遍历所有视频帧,确定每一帧特定目标的尺寸,若特定目标在全部视频帧中的最大宽度为Wmax,最大高度为Hmax,则设置栅格矩阵模板的宽为Wmax,高为Hmax。
所述栅格矩阵向量计算模块502,用于对于每一帧视频画面,计算所述栅格矩阵模板中每一个栅格所在的图像区域的特征量,将所述栅格矩阵模板中的全部栅格的特征量进行组合,得到所述栅格矩阵模板的一个N*M的栅格矩阵向量;
栅格矩阵模板中包含N*M个栅格,每个栅格都对应一个图像区域,计算每个栅格所在图像区域的特征量,则对于一个栅格矩阵模板来说,可以的到N*M个特征量,将这些特征量组合在一起,则可以得到一个N*M的栅格矩阵向量。
所述栅格矩阵模板移动模块503,用于将所述栅格矩阵模板在每一帧视频画面中按照预定步长进行移动,每移动一次栅格矩阵模板,就按栅格矩阵向量计算模块中的方式计算一次栅格矩阵向量,直至所述栅格矩阵模板遍历每一帧视频画面,从而,对于上述每一帧视频画面分别获得若干栅格矩阵向量;
具体的,可以从视频帧的任一顶点开始将所述栅格矩阵模板在每一帧视频画面中按照预定步长进行移动;每移动一次,就计算一次当前位置的栅格矩阵模板的栅格向量,假设栅格矩阵模板遍历了每一帧视频画面共经历了L个位置,则可以得到L个N*M的栅格矩阵向量,也就是说,对于每一帧视频画面,都可以得到L个栅格矩阵向量。
所述类簇划分模块504,用于将所有视频帧的全部栅格矩阵向量执行聚类计算,并进行类簇划分;
将所有视频帧的全部栅格矩阵向量执行聚类计算,例如,视频中包含100个连续视频帧,每一帧视频画面都可以得到L个栅格矩阵向量,那么就可以获得100*L个栅格矩阵向量,将这100*L个栅格矩阵向量执行聚类计算,并进行类簇划分。对于同一个特定目标,当栅格矩阵模板覆盖该特定目标的未遮挡部位时,其栅格矩阵向量具有较高的相似性,利用聚类算法,可以将相似度较大的栅格矩阵向量划分为一类,就可以得到每一个视频帧中该特定目标的未遮挡部位对应的特征量。具体的,可以设置一阈值,将相似度大于阈值的栅格矩阵向量划分到同一个类簇,例如可以将相似度大于75%的的栅格矩阵向量划分到一个类簇。
所述遮挡填补模块505,用于确定特定目标所在的类簇,根据该类簇中特定目标未遮挡部分提取的特征量来填补上述每一帧视频画面中特定目标被遮挡部分的特征量。
由前文所述,由于存在遮挡,那么对特定目标提取的未被遮挡的特征量与事先掌握的该特征目标的特征量进行比对时,特征量无法大于该特征目标对应的特征阈值,就会导致识别失败,这时就希望将每一帧中被遮挡的特定目标的特征量补充完整,使得其能够与事先掌握的该特征目标符合的特征量相匹配。
在本发明中,通过对上述对栅格矩阵向量进行聚类的方式,可以将各个视频帧中相似度较大的栅格矩阵向量所对应的栅格矩阵模板划分为一类,那么根据这些栅格矩阵模板的位置,就可以在各个视频帧中确定一个图像区域,该图像区域中包含被遮挡的特定目标以及被遮挡物的一部分。由于特定目标在视频画面中是不断运动的,因而对于各个视频帧中所确定的图像区域,特定目标被遮挡的部分不是完全相同的,那么就可以从每个图像区域里提取出未被遮挡的一部分,来相互填补每个图像区域里被遮挡的部分。
具体的,可以将含有特定目标的特征量最多的类簇,确定为该特定目标所在的类簇。确定了特征目标所在的类簇后,就可以对该类簇中特定目标未遮挡部位的特征量进行提取,根据该类簇中特定目标未遮挡部分提取的特征量来填补上述每一帧视频画面中特定目标被遮挡部分的特征量。
通过上述方法对每一帧特定目标的被遮挡部位的特征量进行填补以后,其被提取的特征量就可以达到该特征目标对应的特征阈值,从而能够识别出特定目标所在位置。
本发明适用于当一段安防监控视频存在特定目标,并且特定目标被遮挡的情形,在这种情形下,本发明提供了一种机器学习的安防监控视频遮挡智能填补方法和系统,通过定义栅格矩阵模板,得到全部视频帧的多个栅格矩阵向量,通过类簇划分,可以确定同一个特征目标所在的类簇,从而利用该类簇中特定目标的非遮挡部位的特征量来填补被遮挡部分的特征量,从而提高了对特定目标识别的精度,不仅解决了连续视频帧中当特定目标和遮挡物之间位置不断变化时,如何确定每个视频帧中非遮挡部位属于同一个特定目标的问题,还解决了当特定目标被持续遮挡时,识别失败的问题。
基于上述如图1所示方法和如图5所示系统的实施例,本发明实施例还提供了一种计算机设备中存储器和处理器的结构示意图,如图6所示,本发明的系统可以包括一个或多个如下部件:处理器(processor)610和存储器(memory)620。处理器610可以包括一个或者多个处理核心。处理器610利用各种接口和线路连接整个终端内的各个部分,通过运行或执行存储在存储器620内的指令、程序、代码集或指令集,以及调用存储在存储器620内的数据,执行终端的各种功能和处理数据。
可选地,处理器610执行存储器620中的程序指令时实现上述各个方法实施例提供的基于行为特征聚类的智能安防提示方法。
存储器620可以包括随机存储器RAM,也可以包括只读存储器ROM。可选地,该存储器620包括非瞬时性计算机可读介质。存储器620可用于存储指令、程序、代码、代码集或指令集。存储器620可包括存储程序区和存储数据区,其中,存储程序区可存储用于实现操作系统的指令、用于至少一个功能的指令、用于实现上述各个方法实施例的指令等;存储数据区可存储根据终端的使用所创建的数据等。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅为本申请的较佳实施例,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
Claims (10)
1.一种机器学习的安防监控视频遮挡智能填补方法,其特征在于,所述方法包括以下步骤:
步骤1,定义一个N*M的栅格矩阵模板,将其放入安防监控视频中对特定目标存在遮挡的每一帧的视频画面中;
步骤2,对于每一帧视频画面,计算所述栅格矩阵模板中每一个栅格所在的图像区域的特征量,将所述栅格矩阵模板中的全部栅格的特征量进行组合,得到所述栅格矩阵模板的一个N*M的栅格矩阵向量;
步骤3,将所述栅格矩阵模板在每一帧视频画面中按照预定步长进行移动,每移动一次栅格矩阵模板,就按步骤2中的方式计算一次栅格矩阵向量,直至所述栅格矩阵模板遍历每一帧视频画面;从而,对于上述每一帧视频画面分别获得若干栅格矩阵向量;
步骤4,将所有视频帧的全部栅格矩阵向量执行聚类计算,并进行类簇划分;
步骤5,确定特定目标所在的类簇,根据该类簇中特定目标未遮挡部分提取的特征量来填补上述每一帧视频画面中特定目标被遮挡部分的特征量。
2.如权利要求1所述的机器学习的安防监控视频遮挡智能填补方法,其特征在于,在步骤1中,所述栅格矩阵模板的宽和高的定义方式为:遍历所有视频帧,确定每一帧特定目标的尺寸,若特定目标的最大宽度为Wmax,最大高度为Hmax,则设置所述栅格矩阵模板的宽为Wmax,高为Hmax。
3.如权利要求1所述的机器学习的安防监控视频遮挡智能填补方法,其特征在于,在步骤3中,所述栅格矩阵模板按照预定步长进行移动,具体为:从视频帧的任一顶点开始将所述栅格矩阵模板在每一帧视频画面中按照预定步长进行移动。
4.如权利要求1所述的机器学习的安防监控视频遮挡智能填补方法,其特征在于,在步骤4中,所述类簇划分的具体方法为:根据相似度将对应同一个特定人物的栅格矩阵向量划分到同一个类簇。
5.如权利要求1所述的机器学习的安防监控视频遮挡智能填补方法,其特征在于,在步骤5中,所述确定特定目标所在的类簇,具体为:将含有特定目标的特征量最多的类簇,确定为特定目标所在的类簇。
6.一种机器学习的安防监控视频遮挡智能填补系统,其特征在于,所述系统包括:
栅格矩阵模板建立模块,用于定义一个N*M的栅格矩阵模板,将其放入安防监控视频中对特定目标存在遮挡的每一帧的视频画面中;
栅格矩阵向量计算模块,用于对于每一帧视频画面,计算所述栅格矩阵模板中每一个栅格所在的图像区域的特征量,将所述栅格矩阵模板中的全部栅格的特征量进行组合,得到所述栅格矩阵模板的一个N*M的栅格矩阵向量;
栅格矩阵模板移动模块,用于将所述栅格矩阵模板在每一帧视频画面中按照预定步长进行移动,每移动一次栅格矩阵模板,就利用栅格矩阵向量计算模块计算一次栅格矩阵向量,直至所述栅格矩阵模板遍历每一帧视频画面,从而,对于上述每一帧视频画面分别获得若干栅格矩阵向量;
类簇划分模块,用于将所有视频帧的全部栅格矩阵向量执行聚类计算,并进行类簇划分;
遮挡填补模块,用于确定特定目标所在的类簇,根据该类簇中特定目标未遮挡部分提取的特征量来填补上述每一帧视频画面中特定目标被遮挡部分的特征量。
7.如权利要求6所述的机器学习的安防监控视频遮挡智能填补系统,其特征在于,在栅格矩阵模板建立模块中,所述栅格矩阵模板的宽和高的定义方式为:遍历所有视频帧,确定每一帧特定目标的尺寸,若特定目标的最大宽度为Wmax,最大高度为Hmax,则设置所述栅格矩阵模板的宽为Wmax,高为Hmax。
8.如权利要求6所述的机器学习的安防监控视频遮挡智能填补系统,其特征在于,在栅格矩阵模板移动模块中,所述栅格矩阵模板按照预定步长进行移动,具体为:从视频帧的任一顶点开始将所述栅格矩阵模板在每一帧视频画面中按照预定步长进行移动。
9.如权利要求6所述的机器学习的安防监控视频遮挡智能填补系统,其特征在于,在类簇划分模块中,所述类簇划分的具体方法为:跟据相似度将对应同一个特定人物的栅格矩阵向量划分到同一个类簇。
10.如权利要求6所述的机器学习的安防监控视频遮挡智能填补系统,其特征在于,在遮挡填补模块中,所述确定特定目标所在的类簇,具体为:将含有特定目标的特征量最多的类簇,确定为特定目标所在的类簇。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910533894.3A CN110457990B (zh) | 2019-06-19 | 2019-06-19 | 一种机器学习的安防监控视频遮挡智能填补方法与系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910533894.3A CN110457990B (zh) | 2019-06-19 | 2019-06-19 | 一种机器学习的安防监控视频遮挡智能填补方法与系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110457990A CN110457990A (zh) | 2019-11-15 |
CN110457990B true CN110457990B (zh) | 2020-06-12 |
Family
ID=68480777
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910533894.3A Active CN110457990B (zh) | 2019-06-19 | 2019-06-19 | 一种机器学习的安防监控视频遮挡智能填补方法与系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110457990B (zh) |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103455981A (zh) * | 2013-08-28 | 2013-12-18 | 天津大学 | 一种公交车车载视频中乘客被手扶杆遮挡图像的修复方法 |
CN107066955A (zh) * | 2017-03-24 | 2017-08-18 | 武汉神目信息技术有限公司 | 一种从局部人脸区域还原整张人脸的方法 |
CN107679483A (zh) * | 2017-09-27 | 2018-02-09 | 北京小米移动软件有限公司 | 号牌识别方法及装置 |
US10089994B1 (en) * | 2018-01-15 | 2018-10-02 | Alex Radzishevsky | Acoustic fingerprint extraction and matching |
CN108919943A (zh) * | 2018-05-22 | 2018-11-30 | 南京邮电大学 | 一种基于深度传感器的实时手部追踪方法 |
CN108932458A (zh) * | 2017-05-24 | 2018-12-04 | 上海云从企业发展有限公司 | 恢复眼镜遮挡区域的人脸重建方法及装置 |
CN109266677A (zh) * | 2018-08-31 | 2019-01-25 | 中国烟草总公司郑州烟草研究院 | 一种全长转录因子酵母双杂交文库的构建方法 |
CN109543579A (zh) * | 2018-11-14 | 2019-03-29 | 杭州登虹科技有限公司 | 一种图像中目标对象的识别方法、装置和存储介质 |
CN109543641A (zh) * | 2018-11-30 | 2019-03-29 | 厦门市美亚柏科信息股份有限公司 | 一种实时视频的多目标去重方法、终端设备及存储介质 |
CN109886167A (zh) * | 2019-02-01 | 2019-06-14 | 中国科学院信息工程研究所 | 一种遮挡人脸识别方法及装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1002272B1 (en) * | 1997-07-15 | 2008-09-10 | Viasat, Inc. | Method and apparatus for adaptive control of forward error correction codes |
CN104392463B (zh) * | 2014-12-16 | 2017-02-22 | 西安电子科技大学 | 一种基于联合稀疏多尺度融合的图像显著区域检测方法 |
CN105989614B (zh) * | 2015-02-13 | 2020-09-01 | 中国科学院西安光学精密机械研究所 | 融合多源视觉信息的危险物体检测方法 |
KR20230133940A (ko) * | 2016-07-25 | 2023-09-19 | 매직 립, 인코포레이티드 | 증강 현실 및 가상 현실 안경류를 사용한 이미징 수정, 디스플레이 및 시각화 |
CN107240073B (zh) * | 2017-05-12 | 2020-04-24 | 杭州电子科技大学 | 一种基于梯度融合与聚类的三维视频图像修复方法 |
-
2019
- 2019-06-19 CN CN201910533894.3A patent/CN110457990B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103455981A (zh) * | 2013-08-28 | 2013-12-18 | 天津大学 | 一种公交车车载视频中乘客被手扶杆遮挡图像的修复方法 |
CN107066955A (zh) * | 2017-03-24 | 2017-08-18 | 武汉神目信息技术有限公司 | 一种从局部人脸区域还原整张人脸的方法 |
CN108932458A (zh) * | 2017-05-24 | 2018-12-04 | 上海云从企业发展有限公司 | 恢复眼镜遮挡区域的人脸重建方法及装置 |
CN107679483A (zh) * | 2017-09-27 | 2018-02-09 | 北京小米移动软件有限公司 | 号牌识别方法及装置 |
US10089994B1 (en) * | 2018-01-15 | 2018-10-02 | Alex Radzishevsky | Acoustic fingerprint extraction and matching |
CN108919943A (zh) * | 2018-05-22 | 2018-11-30 | 南京邮电大学 | 一种基于深度传感器的实时手部追踪方法 |
CN109266677A (zh) * | 2018-08-31 | 2019-01-25 | 中国烟草总公司郑州烟草研究院 | 一种全长转录因子酵母双杂交文库的构建方法 |
CN109543579A (zh) * | 2018-11-14 | 2019-03-29 | 杭州登虹科技有限公司 | 一种图像中目标对象的识别方法、装置和存储介质 |
CN109543641A (zh) * | 2018-11-30 | 2019-03-29 | 厦门市美亚柏科信息股份有限公司 | 一种实时视频的多目标去重方法、终端设备及存储介质 |
CN109886167A (zh) * | 2019-02-01 | 2019-06-14 | 中国科学院信息工程研究所 | 一种遮挡人脸识别方法及装置 |
Non-Patent Citations (1)
Title |
---|
基于点云的地平面初系数估测;杜万和等;《电子世界》;20150915;第28卷(第9期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN110457990A (zh) | 2019-11-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109325954B (zh) | 图像分割方法、装置及电子设备 | |
CN111010590B (zh) | 一种视频裁剪方法及装置 | |
US8532336B2 (en) | Multi-mode video event indexing | |
US8363984B1 (en) | Method and system for automatically cropping images | |
WO2020224428A1 (zh) | 在视频中植入信息的方法、计算机设备及存储介质 | |
WO2022078041A1 (zh) | 遮挡检测模型的训练方法及人脸图像的美化处理方法 | |
US20160155024A1 (en) | Video segmentation method | |
KR101570290B1 (ko) | 화상 처리 장치, 화상 처리 방법, 화상 처리 제어 프로그램, 및 기록 매체 | |
CN111524145A (zh) | 图片智能裁剪方法、系统、计算机设备及存储介质 | |
EP2530642A1 (en) | Method of cropping a 3D content | |
CN109377499A (zh) | 一种像素级物体分割方法及装置 | |
CN110399760A (zh) | 一种批量二维码定位方法、装置、电子设备及存储介质 | |
CN113705294A (zh) | 一种基于人工智能的图像识别方法、装置 | |
Liu et al. | Scene background estimation based on temporal median filter with Gaussian filtering | |
Hafiz et al. | Foreground segmentation-based human detection with shadow removal | |
CN110457990B (zh) | 一种机器学习的安防监控视频遮挡智能填补方法与系统 | |
CN113569771A (zh) | 视频分析方法及装置、电子设备和存储介质 | |
CN111292331B (zh) | 图像处理的方法与装置 | |
Wang et al. | Online adaptive multiple pedestrian tracking in monocular surveillance video | |
CN113255649A (zh) | 一种基于图像识别的图像分割框选方法及终端 | |
CN104732558B (zh) | 运动目标检测装置 | |
CN105898151A (zh) | 图像处理方法及装置 | |
CN111598906A (zh) | 车辆检测方法、系统、设备和存储介质 | |
CN110599517A (zh) | 一种基于局部特征和全局hsv特征组合的目标特征描述方法 | |
KR101460517B1 (ko) | 이중 모델링과 학습 및 폐기학습을 통한 영상 내의 물체 추적 방법 및 이를 위한 컴퓨터로 판독가능한 기록매체 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |