CN110191320B - 基于像素时序运动分析的视频抖动与冻结检测方法及装置 - Google Patents
基于像素时序运动分析的视频抖动与冻结检测方法及装置 Download PDFInfo
- Publication number
- CN110191320B CN110191320B CN201910454888.9A CN201910454888A CN110191320B CN 110191320 B CN110191320 B CN 110191320B CN 201910454888 A CN201910454888 A CN 201910454888A CN 110191320 B CN110191320 B CN 110191320B
- Authority
- CN
- China
- Prior art keywords
- sequence
- video
- optical flow
- picture
- frames
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration by the use of local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/269—Analysis of motion using gradient-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6811—Motion detection based on the image signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20016—Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30232—Surveillance
Abstract
本发明涉及一种基于像素时序运动分析的视频抖动与冻结检测方法,步骤如下:S1、获取视频帧序列图像;S2、裁剪视频帧序列图像;S3、以待处理的视频帧序列Vs为数据基础,进行画面非单一模式抖动检测;S4、获得运动放大视频帧序列Ve;S5、获取稠密光流场Vs of和稠密光流场Ve of;S6、将稠密光流场Vs of和稠密光流场Ve of信息转变为图像信息,获得光流帧序列Vs cof和光流帧序列Ve cof;S7、分别进行画面冻结、画面单一模式抖动检测;本发明还公开了一种基于像素时序运动分析的视频抖动与冻结检测装置。本发明能够对画面冻结检测准确率可达100%,且两种抖动检测方法并行处理提升准确率,检测速度快且在统一算法框架同时实现画面抖动与冻结检测。
Description
技术领域
本发明涉及视频处理领域,更具体涉及监控视频的智能分析领域。
背景技术
随着“天网”监控装置建设的逐步推进,数千万的摄像头遍布大街小巷,为城市治安管理提供了坚强的后盾。在解决监控有无的前提下,监控的质量对于安防日益重要。监控视频画面抖动视频采集设备由于受到外力的干扰,导致画面出现规律性的上下、左右、或上下左右的抖动,监控视频画面抖动的原因一般是安装不牢固或者人为破坏。监控视频画面冻结是指监控画面停留在某一时刻,出现监控视频画面冻结的原因一般是网络故障或者人为信号干扰。准确、快速的进行监控视频画面抖动与冻结检测对于城市安防具有重大意义。
现有监控视频画面抖动检测方法主要有四大类:灰度投影法,图像块匹配法,特征点匹配法,以及LK光流法。其中,灰度投影法的缺陷在于会将监控画面内多个物体的短时快速移动误认为视频画面抖动;图像块匹配法和特征点匹配法的缺点是对于纹理较为干净的监控场景无法进行有效检测,例如监控画面的背景为纯色的墙或地板,一方面很难进行特征点检测,另一方面画面内所有的区域都极为相似;LK光流法的缺点有两点,一是其计算速度较慢,不满足监控视频实时分析要求,二是其属于稀疏光流算法,严重依赖于特征点检测,在特征点无法进行有效定位的情况下效果较差。
现有视频画面冻结检测方法主要有两大类:区域直方图相似度对比,相邻采样帧逐像素差异对比。这两类方法有一个共同的缺点:当监控场景内长时间无任何物体发生移动即误报画面冻结。
除此之外,现有方法无法在一个算法框架中同时进行监控视频画面的抖动与冻结检测。
发明内容
本发明所述要解决的技术问题在于提供基于像素时序运动分析的视频抖动与冻结检测方法及装置,以解决上述背景技术中无法在一个算法框架中同时进行监控视频画面的抖动与冻结检测的问题。
本发明提供如下技术方案来解决上述问题:
一种基于像素时序运动分析的视频抖动与冻结检测方法,步骤如下:
S1、采集视频流,获取视频帧序列图像;
S2、裁剪视频帧序列图像,并将裁剪后的区域作为待处理的视频帧序列Vs;
S3、以待处理的视频帧序列Vs为数据基础,基于局部运动模式进行画面非单一模式抖动检测;
S4、对待处理的视频帧序列Vs进行运动放大处理,获得视频帧序列Ve;
S5、计算待处理的视频帧序列Vs和运动放大后的视频帧序列Ve的稠密光流场,得到稠密光流场Vs of和稠密光流场Ve of;
S6、将稠密光流场Vs of和稠密光流场Ve of信息转变为图像信息,获得光流帧序列Vs cof和光流帧序列Ve cof;
S7、从光流帧序列Vs cof和光流帧序列Ve cof中提取原始视频的时序特征序列,分别进行画面冻结、画面单一模式抖动检测,输出结果。
通过该方法,能够实现快速检测,且在统一算法框架同时实现画面抖动与冻结检测,同时实现了两种抖动检测方法并行处理,提升准确率。
作为本发明进一步的方案:步骤S1中,获取视频流采用RTSP方式,并根据监控摄像头IP地址获得实时视频流,采集的视频流存储至内存中,视频帧序列图像时长为连续若干秒;
RTSP为实时流协议,支持市面上主流厂家的所有摄像头,直接将若干秒内所有视频帧保存至内存中也能够加快算法处理速度。
作为本发明进一步的方案,所述步骤S2包括,视频帧裁剪后的区域为:视频帧上下、左右裁剪至使视频帧不包含时间戳、摄像头或监控地点信息;
监控视频与普通视频数据相比一般会在拐角处出现时间戳、摄像头或监控地点信息,尤其是时间戳信息是处于不断变化中的,进行此项操作的原因在于监控视频画面一般存在监控地点和监控时间等文字,影响算法对视频帧的分析。
作为本发明进一步的方案:所述步骤S3包括,利用基于局部运动模式的方法进行画面非单一模式抖动检测,方法如下:
首先将视频帧序列Vs中的每一帧按均匀分割的方式将每一帧等分为若干个矩形子区域;
接着对每一个子区域进行灰度投影并检测每一帧每一个子区域的关键特征点;
然后对频帧序列Vs中任意相邻两帧的每一个相对应子区域的关键特征点进行匹配,计算每一个子区域相对于前一帧对应子区域的位移;若干个子区域的位移幅值集合成一个总位移幅值向量集合d=[d1、d2、d3…di],若存在任一子区域的di(i∈[1,9])的模小于T,认为当前两帧画面未发生抖动;否则认为当前两帧画面存在抖动;
最后依据总位移幅值向量集合d=[d1、d2、d3…di],将若干秒内的计算结果综合统计,事先设定的阈值t,则认为当前处理的视频帧序列Vs出现了画面抖动,否则未发生抖动;
该方法不仅能够消除由于监控画面出现快速移动的物体造成的误警,还可以有效减轻特征点误匹配造成的误检。
作为本发明进一步的方案:所述步骤S4包括,运动放大处理方法为:
1)在视频帧序列Vs中,将每一帧图像进行金字塔多分辨率空间滤波获得不同尺度的图像;
2)对于连续多帧不同尺度的图片序列组成的时序信号进行时域带通滤波;
3)基于泰勒级数对每一个频带的运动信号线性放大;
4)将不同尺度放大后的图像进行合成获得最终运动放大后的结果,即获得视频帧序列Ve。
作为本发明进一步的方案:所述步骤S6包括:
转变为图像信息的方法为:利用伪彩色变换方法,将稠密光流场Vs of和稠密光流场Ve of转变为光流帧序列Vs cof和光流帧序列Ve cof;进而复杂光流场矢量信息以视觉形式进行表达:光流帧序列Vs cof和光流帧序列Ve cof中每一个像素的颜色表示其对应视频像素的运动方向,亮度表示其运动剧烈程度;
伪彩色变换方法为将所有运动方向以45度进行间隔区分,分别用红、橙、黄、绿、蓝、靛、紫、白八个颜色进行表示八个运动方向,八个颜色用数字表示为1、2、3、4、5、6、7、8。
作为本发明进一步的方案:所述步骤S7包括,进行画面冻结、画面单一模式抖动检测的方法分别如下:
S71、画面冻结检测,计算每一帧的前景像素占总分辨率的比例pi,得到字母时序特征序列[P1、P2、P3…PN],其中N是处理的总帧数;随后设定用于和比例pi作比较的阈值T1,当Pi(i∈[1,N]<T1时认为第i帧发生了冻结;否则未发生冻结;
再依据字母时序特征序列[P1、P2、P3…PN]统计Pi(i∈[1,N]>T1的个数M1,即有M1帧未出现画面冻结现象;然后设定用于和M1相比较的阈值T2,当M1>T2时,即至少有T2帧未出现冻结现象,认为当前两秒监控画面序列无冻结,否则认为当前两秒画面出现视频冻结故障;
S72、画面单一模式抖动检测,统计光流帧序列Vs cof中每一光流帧占比颜色最多的像素占该光流帧总像素的比例并记录颜色类别,若在两秒内的颜色类别出现规律性变化,即属于单一模式抖动,则认为当前画面出现抖动;
若在两秒内的主体颜色类别未出现规律性变化,此时直接根据步骤S3判断画面有无抖动的情况来作为输出结果;
作为本发明进一步的方案:步骤S72中,统计每一光流帧占比颜色最多的像素占该光流帧总像素的比例,作为一个数字时序特征序列,其中所述数字时序特征序列中不同数字代表伪彩色变换得到的不同的主体颜色类别;
其中,所述数字时序特征序列类型为“1122331122…”。
作为本发明进一步的方案:步骤S72中,单一模式抖动为监控画面中的物体运动程度较小、主要由摄像头晃动引起的场景。
一种采用所述的基于像素时序运动分析的视频抖动与冻结检测方法的检测装置,包括:
采集模块,用于采集视频流,获取视频帧序列图像;
裁剪模块,用于裁剪视频帧序列图像,并将裁剪后的区域作为待处理的视频帧序列Vs;
非单一模式抖动检测模块,用于以待处理的视频帧序列Vs为数据基础,进行画面抖动检测;
运动放大处理模块,用于对待处理的视频帧序列进行运动放大处理,获得可反映视频像素微小变化的视频帧序列Ve;
计算模块,计算待处理的视频帧序列Vs和和运动放大后的视频帧序列Ve的稠密光流场,得到稠密光流场Vs of和稠密光流场Ve of;
转变模块,将稠密光流场Vs of和稠密光流场Ve of信息转变为图像信息,获得光流帧序列Vs cof和光流帧序列Ve cof;
检测模块,用于从光流帧序列Vs cof和光流帧序列Ve cof中提取原始视频的时序特征序列,分别进行画面冻结、画面单一模式抖动检测,输出结果。
与现有技术相比,本发明的有益效果是:
1、本发明对画面冻结检测准确率可达100%,能准确区分画面冻结与监控画面无运动物体或画面纹理干净平滑多种视觉极为相似的情况;
2、本发明实现两种抖动检测方法并行处理,从而有效提升准确率,其中用基于局部运动模式的方法进行画面抖动检测的方法消除了由于监控画面出现快速移动的物体造成的误警,有效减轻特征点误匹配造成的误检;也避免了出现灰度投影法、图像块匹配法以及LK光流法中出现的问题;同时并搭配单一模式抖动判断对画面抖动检测的方法,实现在保证召回率的前提下降低由于画面中存在快速移动的物体造成的误警;
3、检测速度快且在统一算法框架同时实现画面抖动与冻结检测。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例。
图1为本发明实施1中基于像素时序运动分析的视频抖动与冻结检测方法的流程示意图。
图2为本发明实施1中基于像素时序运动分析的视频抖动与冻结检测方法的步骤S2中裁剪视频的示意图。
图3为本发明实施1中基于像素时序运动分析的视频抖动与冻结检测方法中基于局部运动模式的画面抖动检测方法示意图。
图4为本发明实施1中基于像素时序运动分析的视频抖动与冻结检测方法中提取稠密光流场及转变为图像信息的操作示意图。
图5为本发明实施1中基于像素时序运动分析的视频抖动与冻结检测方法的步骤S73中画面冻结检测示意图。
图6为本发明实施1中基于像素时序运动分析的视频抖动与冻结检测方法的步骤S72中监控画面单一模式抖动检测示意图。
图7为本发明实施1中基于像素时序运动分析的视频抖动与冻结检测方法的流程方框图。
具体实施方式
为了使本发明所要解决的技术问题、技术方案及有益效果更加清楚明白,以下实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
实施例1
图1为基于像素时序运动分析的视频抖动与冻结检测方法的流程示意图,图7为本发明实施1中基于像素时序运动分析的视频抖动与冻结检测方法的流程方框图,如图1及图7,本发明实施例中,一种基于像素时序运动分析的视频抖动与冻结检测方法,步骤如下:
S1、采集视频流并存储至内存中,获取连续若干秒的视频帧序列图像;
通过RTSP方式获取视频流,每次检测的对象为连续若干秒的视频帧序列Vs,本实施例中优选为两秒的视频帧序列Vs,同时为加快算法处理速度,直接将两秒内所有视频帧保存至内存中;
其中RTSP为实时流协议,支持市面上主流厂家的所有摄像头;
优选的,本实施例中,每次检测的对象为连续两秒的视频帧序列Vs;
S2、裁剪步骤S1中保存的视频帧序列图像,裁剪后的区域中不包含时间戳、摄像头或监控地点等信息,并将裁剪后的区域作为待处理视频帧序列Vs;图2为基于像素时序运动分析的视频抖动与冻结检测方法的步骤S2中裁剪视频的示意图,如图2;
本实施例中,裁剪后的区域为:视频帧上下各裁剪1/8,左右各裁剪1/10;
进行此项操作的原因在于监控视频画面一般存在监控地点和监控时间等文字,影响算法对视频帧的分析;
S3、以待处理视频帧序列Vs为数据基础,利用基于局部运动模式的方法进行画面非单一模式抖动检测;
如图3所示,首先将视频帧序列Vs中的每一帧按均匀分割的方式将每一帧等分为9个矩形子区域;然后对每一个子区域进行灰度投影并检测每一帧每一个子区域的关键特征点;
本发明采用稠密特征点检测算法,稠密特征点检测算法首先通过稠密无差别的均匀采集样本点,然后对每个采集样本点按照普通特征点描述子的计算方式获得每一个采集样本点的向量化表达(如dense-sift),通过这种方法,旨在消除子区域纹理不明显可能造成的灰度变化不明显和关键特征点检测效果较差的问题;
将密特征点检测算法运用于本实施例中:对频帧序列Vs中任意相邻两帧的每一个相对应子区域的关键特征点进行匹配,计算每一个子区域相对于前一帧对应子区域的位移;
图3为基于像素时序运动分析的视频抖动与冻结检测方法中基于局部运动模式的画面抖动检测方法示意图,以如图3所示的第一个子区域计算为例,计算流程如下:
将帧2子区域1的所有特征点与帧1子区域1的所有特征点描述子进行匹配,通过匹配上的特征点计算平均位移作为子区域1在当前两帧发生的位移d1;
通过以上述方式计算每一个子区域的位移,9个子区域的位移幅值集合成一个总位移幅值向量集合d=[d1、d2、d3…d9],若存在任一子区域的di(i∈[1,9])的模小于T,(T为预先设定的衡量是否抖动的阈值),即存在某一子区域的运动幅度小于一定程度,则认为当前两帧画面未发生抖动;否则认为当前两帧画面存在抖动,这种方式可以消除由于监控画面出现快速移动的物体造成的误警;
最后,依据总位移幅值向量集合d=[d1、d2、d3…d9],将两秒内的计算结果综合统计,若抖动的帧数大于事先设定的阈值t,本实施例中阈值t设定为10,即当前处理的两秒钟视频帧序列至少有10帧发生了抖动,则认为当前处理的两秒钟的视频帧序列Vs出现了画面抖动,从而实现初步检测,这种方式可以有效减轻特征点误匹配造成的误检;
S4、在步骤S2的基础上,对视频帧序列Vs进行基于相位的运动放大处理,运动放大处理采用欧拉放大技术,主要包含四个步骤:
1)在视频帧序列Vs中,将每一帧图像进行金字塔多分辨率空间滤波获得不同尺度的图像;
2)对于连续多帧不同尺度的图片序列组成的时序信号进行时域带通滤波;
3)基于泰勒级数对每一个频带的运动信号线性放大;
4)将不同尺度放大后的图像进行合成获得最终运动放大后的结果,即获得视频帧序列Ve;
对肉眼不可见微小运动进行放大;这一步骤是为了画面冻结检测做数据准备,为了更好的从视觉区分画面冻结与画面无运动物体两种情况;
S5、计算视频帧序列Vs和运动放大后的视频帧序列Ve的稠密光流场;
图4为基于像素时序运动分析的视频抖动与冻结检测方法中提取稠密光流场及转变为图像信息的操作示意图,如图4所示,计算视频帧序列Vs和运动放大后的视频帧序列Ve的稠密光流,计算方法如Farneback光流法、Horn-Shrunk光流法等;
本实施例采用基于反向搜索的视频稠密光流计算方法,能够兼顾计算速度与准确率,得到稠密光流场Vs of和稠密光流场Ve of;从而获得像素级的运动信息,像素级的运动信息包括每一像素的运动方向与运动程度;
其中基于反向搜索的视频稠密光流计算步骤如下:首先通过基于反向合成图像对齐算法反向搜索分别获得视频帧序列Vs和视频帧序列Ve前后两帧图像中局部矩形区域的像素一一对应关系;然后对相对应的图像局部矩形区域像素级运动轨迹向量进行多尺度的聚合获得稠密光流场;
S6、将视频帧序列Vs和运动放大后的视频帧序列Ve的稠密光流场信息转变为图像信息;
如图4所示,利用伪彩色变换方法(将所有运动方向以45度进行间隔区分,分别用红、橙、黄、绿、蓝、靛、紫、白八个颜色进行表示八个运动方向,八个颜色用数字表示为1、2、3、4、5、6、7、8),将稠密光流场Vs of和稠密光流场Ve of转变为光流帧序列Vs cof和光流帧序列Ve cof,即将难以建模的复杂光流场矢量信息以视觉形式进行表达:光流帧序列Vs cof和光流帧序列Ve cof中每一个像素的颜色表示其对应视频像素的运动方向,亮度表示其运动剧烈程度;
S7、从光流帧序列Vs cof和光流帧序列Ve cof中提取原始视频的时序特征,并分别进行画面冻结、画面单一模式抖动检测;
S71、图5为基于像素时序运动分析的视频抖动与冻结检测方法的步骤S73中画面冻结检测示意图,如图5所示,首先将光流帧序列Ve cof进行二值化,(即图像上的像素点的灰度值设置为0或255,也就是将整个图像呈现出明显的只有黑和白的视觉效果;)计算每一帧的前景像素占总分辨率的比例pi,得到字母时序特征序列[P1、P2、P3…PN],其中N是处理的总帧数;随后设定用于和比例pi作比较的阈值T1,当Pi(i∈[1,N]<T1时认为第i帧发生了冻结;否则未发生冻结;
同时,为消除由于画面无冻结但当前画面无运动物体或纹理较为干净的情况,本发明将所有帧的冻结情况进行综合考虑,即统计字母时序特征序列[P1、P2、P3…PN]中Pi(i∈[1,N]>T1的个数M1,即有M1帧未出现画面冻结现象;然后设定用于和M1相比较的阈值T2,当M1>T2时,即至少有T2帧未出现冻结现象,认为当前两秒监控画面序列无冻结,否则认为当前两秒画面出现视频冻结故障;
通过该步骤,能够实现对画面冻结检测准确率达到100%,能准确区分画面冻结与监控画面无运动物体或画面纹理干净平滑多种视觉极为相似的情况;
S72、图6为基于像素时序运动分析的视频抖动与冻结检测方法的步骤S72中监控画面单一模式抖动检测示意图,如图6所示,根据光流帧序列Vs cof的颜色信息提取时序特征判断其是否为单一模式抖动,即统计光流帧序列Vs cof中每一光流帧占比颜色最多的像素占该光流帧总像素的比例并记录颜色类别,得到如1122331122…的数字时序特征序列;
其中,单一模式抖动为监控画面中的物体运动程度较小的场景,其画面的抖动主要因为摄像机抖动,
其中,该数字时序特征序列中不同数字代表伪彩色变换得到的不同的主体颜色类别;
若在两秒内的主体颜色类别出现规律性变化,即属于单一模式抖动,则认为当前画面出现抖动;
其中,步骤S4-S7与步骤S3同时并行处理,相互配合同时并行处理提升准确率;在保证召回率的前提下降低由于画面中存在快速移动的物体造成的误警;
若在两秒内的主体颜色类别未出现规律性变化,即不属于单一模式抖动,此时直接根据步骤S3判断画面有无抖动的情况来作为输出结果,如图1。
实施例2
一种采用所述的基于像素时序运动分析的视频抖动与冻结检测方法的检测装置,包括:
采集模块,用于采集视频流,获取视频帧序列图像;
裁剪模块,用于裁剪视频帧序列图像,并将裁剪后的区域作为待处理的视频帧序列Vs;
非单一模式抖动检测模块,用于以待处理的视频帧序列Vs为数据基础,进行画面抖动检测;
运动放大处理模块,用于对待处理的视频帧序列进行运动放大处理,获得可反映视频像素微小变化的视频帧序列Ve;
计算模块,计算待处理的视频帧序列Vs和和运动放大后的视频帧序列Ve的稠密光流场,得到稠密光流场Vs of和稠密光流场Ve of;
转变模块,将稠密光流场Vs of和稠密光流场Ve of信息转变为图像信息,获得光流帧序列Vs cof和光流帧序列Ve cof;
检测模块,用于从光流帧序列Vs cof和光流帧序列Ve cof中提取原始视频的时序特征序列,分别进行画面冻结、画面单一模式抖动检测,输出结果。
本发明实现了一个可在一个算法框架中同时进行监控视频画面的抖动与冻结检测的方法,同时对画面冻结检测准确率可达100%,能准确区分画面冻结与监控画面无运动物体或画面纹理干净平滑多种视觉极为相似的情况;两种抖动检测方法并行处理提升准确率,在保证召回率的前提下降低由于画面中存在快速移动的物体造成的误警;检测速度快且在统一算法框架同时实现画面抖动与冻结检测。
在本发明的描述中,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。
Claims (9)
1.一种基于像素时序运动分析的视频抖动与冻结检测方法,其特征在于,步骤如下:
S1、采集视频流,获取视频帧序列图像;
S2、裁剪视频帧序列图像,并将裁剪后的区域作为待处理的视频帧序列Vs;
S3、以待处理的视频帧序列Vs为数据基础,进行画面非单一模式抖动检测;
S4、对待处理的视频帧序列Vs进行运动放大处理,获得视频帧序列Ve;
S5、计算待处理的视频帧序列Vs和运动放大后的视频帧序列Ve的稠密光流场,得到稠密光流场Vs of和稠密光流场Ve of;
S6、将稠密光流场Vs of和稠密光流场Ve of信息转变为图像信息,获得光流帧序列Vs cof和光流帧序列Ve cof;
S7、从光流帧序列Vs cof和光流帧序列Ve cof中提取原始视频的时序特征序列,分别进行画面冻结、画面单一模式抖动检测,输出结果;
所述步骤S7包括:进行画面冻结、画面单一模式抖动检测的方法分别如下:
S71、画面冻结检测,将光流帧序列Ve cof进行二值化,计算每一帧的前景像素占总分辨率的比例pi,得到字母时序特征序列[P1、P2、P3...PN],其中N是处理的总帧数;随后设定用于和比例pi作比较的阈值T1,当Pi(i∈[1,N]<T1时认为第i帧发生了冻结;否则未发生冻结;
再依据字母时序特征序列[P1、P2、P3...PN]统计Pi(i∈[1,N]>T1的个数M1,即有M1帧未出现画面冻结现象;然后设定用于和M1相比较的阈值T2,当M1>T2时,即至少有T2帧未出现冻结现象,认为当前监控画面序列无冻结,否则认为当前画面出现视频冻结故障;
S72、画面单一模式抖动检测时间段内,统计光流帧序列Vs cof中每一光流帧占比颜色最多的像素占该光流帧总像素的比例并记录颜色类别,若在该时间段内的颜色类别出现规律性变化,属于单一模式抖动,则认为当前画面出现抖动;
若在该时间段内的主体颜色类别未出现规律性变化,此时直接根据步骤S3判断画面有无抖动的情况来作为输出结果。
2.根据权利要求1所述的基于像素时序运动分析的视频抖动与冻结检测方法,其特征在于步骤S1中,获取视频流采用RTSP方式,并根据监控摄像头IP地址获得实时视频流,采集的视频流存储至内存中,视频帧序列图像为连续若干秒。
3.根据权利要求1所述的基于像素时序运动分析的视频抖动与冻结检测方法,其特征在于,所述步骤S2包括:
视频帧裁剪后的区域为:视频帧上下、左右裁剪至使视频帧中不包含时间戳、摄像头或监控地点信息。
4.根据权利要求2所述的基于像素时序运动分析的视频抖动与冻结检测方法,其特征在于,所述步骤S3进行画面非单一模式抖动检测,方法如下:
首先将视频帧序列Vs中的每一帧按均匀分割的方式将每一帧等分为若干个矩形子区域;
接着对每一个子区域进行灰度投影并检测每一帧每一个子区域的关键特征点;
然后对频帧序列Vs中任意相邻两帧的每一个相对应子区域的关键特征点进行匹配,计算每一个子区域相对于前一帧对应子区域的位移;若干个子区域的位移幅值集合成一个总位移幅值向量集合d=[d1、d2、d3...di],若存在任一子区域的di(i∈[1,9])的模小于T,T为预先设定的衡量是否抖动的阈值,认为当前两帧画面未发生抖动;否则认为当前两帧画面存在抖动;最后依据总位移幅值向量集合d=[d1、d2、d3...di],统计计算结果,若抖动的帧数之和大于事先设定的阈值t,则认为当前处理的视频帧序列Vs出现了画面抖动,否则未发生抖动。
5.根据权利要求1所述的基于像素时序运动分析的视频抖动与冻结检测方法,其特征在于,所述步骤S4包括,运动放大处理方法为:
1)在视频帧序列Vs中,将每一帧图像进行金字塔多分辨率空间滤波获得不同尺度的图像;
2)对于连续多帧不同尺度的图片序列组成的时序信号进行时域带通滤波;
3)基于泰勒级数对每一个频带的运动信号线性放大;
4)将不同尺度放大后的图像进行合成获得最终运动放大后的结果,即获得视频帧序列Ve。
6.根据权利要求1所述的基于像素时序运动分析的视频抖动与冻结检测方法,其特征在于,所述步骤S6中,利用伪彩色变换方法,将稠密光流场Vs of和稠密光流场Ve of转变为光流帧序列Vs cof和光流帧序列Ve cof。
7.根据权利要求6所述的基于像素时序运动分析的视频抖动与冻结检测方法,其特征在于,步骤S72中,统计每一光流帧占比颜色最多的像素占该光流帧总像素的比例,作为数字时序特征序列,其中所述数字时序特征序列中不同数字代表伪彩色变换得到的不同的主体颜色类别。
8.根据权利要求7所述的基于像素时序运动分析的视频抖动与冻结检测方法,其特征在于,所述步骤S72中,单一模式抖动为:监控画面中的物体运动程度小、由摄像头晃动的场景。
9.一种采用权利要求1-8任一项所述的基于像素时序运动分析的视频抖动与冻结检测方法的检测装置,其特征在于,包括:
采集模块,用于采集视频流,获取视频帧序列图像;
裁剪模块,用于裁剪视频帧序列图像,并将裁剪后的区域作为待处理的视频帧序列Vs;
非单一模式抖动检测模块,用于以待处理的视频帧序列Vs为数据基础,进行画面抖动检测;
运动放大处理模块,用于对待处理的视频帧序列进行运动放大处理,获得可反映视频像素微小变化的视频帧序列Ve;
计算模块,计算待处理的视频帧序列Vs和和运动放大后的视频帧序列Ve的稠密光流场,得到稠密光流场Vs of和稠密光流场Ve of;
转变模块,将稠密光流场Vs of和稠密光流场Ve of信息转变为图像信息,获得光流帧序列Vs cof和光流帧序列Ve cof;
检测模块,用于从光流帧序列Vs cof和光流帧序列Ve cof中提取原始视频的时序特征序列,分别进行画面冻结、画面单一模式抖动检测,输出结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910454888.9A CN110191320B (zh) | 2019-05-29 | 2019-05-29 | 基于像素时序运动分析的视频抖动与冻结检测方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910454888.9A CN110191320B (zh) | 2019-05-29 | 2019-05-29 | 基于像素时序运动分析的视频抖动与冻结检测方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110191320A CN110191320A (zh) | 2019-08-30 |
CN110191320B true CN110191320B (zh) | 2021-03-16 |
Family
ID=67718399
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910454888.9A Active CN110191320B (zh) | 2019-05-29 | 2019-05-29 | 基于像素时序运动分析的视频抖动与冻结检测方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110191320B (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110602487B (zh) * | 2019-09-06 | 2021-04-20 | 高新兴科技集团股份有限公司 | 一种基于tsn网络的视频画面抖动检测方法 |
CN111063011B (zh) * | 2019-12-16 | 2023-06-23 | 北京蜜莱坞网络科技有限公司 | 一种人脸图像处理方法、装置、设备和介质 |
CN111626179B (zh) * | 2020-05-24 | 2023-04-28 | 中国科学院心理研究所 | 一种基于光流叠加的微表情检测方法 |
CN111741186B (zh) * | 2020-06-11 | 2022-09-13 | 浙江大华技术股份有限公司 | 一种视频抖动检测方法、装置以及系统 |
CN113128474B (zh) * | 2021-05-17 | 2022-06-03 | 重庆大学 | 一种基于计算机视觉及变分模态分解的结构模态识别方法 |
CN113570546B (zh) * | 2021-06-16 | 2023-12-05 | 北京农业信息技术研究中心 | 一种风机运行状态检测方法及装置 |
CN114640840A (zh) * | 2022-03-07 | 2022-06-17 | 国网山东省电力公司信息通信公司 | 一种视频会议画面故障检测方法及系统 |
CN116193231B (zh) * | 2022-10-24 | 2023-07-18 | 成都与睿创新科技有限公司 | 用于处理微创手术视野异常的方法及系统 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO1994018883A1 (en) * | 1993-02-19 | 1994-09-01 | Phoenix Laser Systems, Inc. | System compensating for lateral target movements |
CN1108590A (zh) * | 1993-10-29 | 1995-09-20 | 美国3M公司 | 光学镜片的研磨和抛光方法 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8036465B2 (en) * | 2003-09-26 | 2011-10-11 | Khomo Malome T | Method of text interaction using chirographic techniques |
IL204087A (en) * | 2010-02-21 | 2016-03-31 | Rafael Advanced Defense Sys | A method and system for subsequent viewing of two video streams |
KR20140096320A (ko) * | 2011-11-28 | 2014-08-05 | 톰슨 라이센싱 | 왜곡/품질 측정 |
CN102421008A (zh) * | 2011-12-07 | 2012-04-18 | 浙江捷尚视觉科技有限公司 | 视频质量智能检测系统 |
CN104301712B (zh) * | 2014-08-25 | 2016-05-18 | 浙江工业大学 | 一种基于视频分析的监控摄像头抖动检测方法 |
CN105139039B (zh) * | 2015-09-29 | 2018-05-29 | 河北工业大学 | 视频序列中人脸微表情的识别方法 |
US10467510B2 (en) * | 2017-02-14 | 2019-11-05 | Microsoft Technology Licensing, Llc | Intelligent assistant |
WO2018235533A1 (en) * | 2017-06-21 | 2018-12-27 | Sony Corporation | SYSTEM, METHOD, AND COMPUTER PROGRAM PRODUCT FOR MEDICAL IMAGING |
CN108492287B (zh) * | 2018-03-14 | 2020-06-02 | 罗普特(厦门)科技集团有限公司 | 一种视频抖动检测方法、终端设备及存储介质 |
-
2019
- 2019-05-29 CN CN201910454888.9A patent/CN110191320B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO1994018883A1 (en) * | 1993-02-19 | 1994-09-01 | Phoenix Laser Systems, Inc. | System compensating for lateral target movements |
CN1108590A (zh) * | 1993-10-29 | 1995-09-20 | 美国3M公司 | 光学镜片的研磨和抛光方法 |
Also Published As
Publication number | Publication date |
---|---|
CN110191320A (zh) | 2019-08-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110191320B (zh) | 基于像素时序运动分析的视频抖动与冻结检测方法及装置 | |
US8305440B2 (en) | Stationary object detection using multi-mode background modelling | |
US7822275B2 (en) | Method for detecting water regions in video | |
US7982774B2 (en) | Image processing apparatus and image processing method | |
CN112800860B (zh) | 一种事件相机和视觉相机协同的高速抛撒物检测方法和系统 | |
CN112149543B (zh) | 一种基于计算机视觉的建筑扬尘识别系统与方法 | |
WO2022237591A1 (zh) | 运动对象的识别方法、装置、电子设备及可读存储介质 | |
CN103561271A (zh) | 静止摄像头拍摄的运动目标被移除视频空域篡改检测方法 | |
CN101799928A (zh) | 一种应用于图像处理的高效低复杂度运动侦测方法 | |
CN112528861A (zh) | 应用于铁路隧道内道床的异物检测方法及装置 | |
CN111601011A (zh) | 一种基于视频流图像的自动告警方法及系统 | |
CN110677619A (zh) | 一种智能监控视频处理方法 | |
Wu et al. | Video surveillance object recognition based on shape and color features | |
CN111582166B (zh) | 基于高斯建模和YoLo V3目标检测的遗留物检测方法 | |
CN113920585A (zh) | 行为识别方法及装置、设备和存储介质 | |
KR20060003321A (ko) | 보안 감시 시스템의 물체 인식 장치 및 방법 | |
CN109547777B (zh) | 一种复杂场景的视频噪声快速检测方法 | |
TWI381735B (zh) | 影像監視設備之影像處理系統及其影像解析自動調適之方法 | |
Chondro et al. | Detecting abnormal massive crowd flows: Characterizing fleeing en masse by analyzing the acceleration of object vectors | |
Low et al. | Frame Based Object Detection--An Application for Traffic Monitoring | |
KR101267279B1 (ko) | 영상에서 비를 제거하기 위한 영상 처리 장치 및 방법 | |
JP2002074371A (ja) | 画像処理装置 | |
CN111145219B (zh) | 一种基于Codebook原理的高效视频移动目标检测方法 | |
JPH0514891A (ja) | 画像監視装置 | |
JP3736836B2 (ja) | 物体検出方法及び物体検出装置及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |