CN108596045B - 一种基于空中监控平台的群体异常行为检测方法 - Google Patents
一种基于空中监控平台的群体异常行为检测方法 Download PDFInfo
- Publication number
- CN108596045B CN108596045B CN201810281158.9A CN201810281158A CN108596045B CN 108596045 B CN108596045 B CN 108596045B CN 201810281158 A CN201810281158 A CN 201810281158A CN 108596045 B CN108596045 B CN 108596045B
- Authority
- CN
- China
- Prior art keywords
- feature points
- abnormal
- optical flow
- clustering
- foreground
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
- G06V20/53—Recognition of crowd images, e.g. recognition of crowd congestion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
Abstract
本文提出一种基于空中监控平台的人群异常行为检测方法。首先通过估计图像的深度信息适当修正特征点的光流矢量,以减小透视现象导致的目标运动速度估算误差,然后对特征点的光流矢量聚类并结合背景运动一致性规律实现移动摄像头下的目标检测。采用双高斯混合模型检测异常行为,用最大期望算法求取模型参数。最后采用一种时间队列机制检验误判,并通过简化的凝聚层次聚类算法对异常特征点的空间坐标进行聚类,去除孤立的异常特征点并标记出异常群体。在多个场景下的实验验证了方法的有效性。
Description
技术领域
本发明涉及视频智能监控领域中的异常行为检测问题,尤其是涉及一种基于空中监控平台的群体异常行为检测方法。
背景技术
虽然基于固定摄像头的异常行为检测算法已成为研究热点,但是基于空中监控平台的异常检测算法研究却很少。不同于固定摄像头拍摄的视频,空中监控平台拍摄的 视频具有背景移动、视距较远等特点,需要结合这些特点来设计基于空中监控平台的 异常行为检测方法。
由于空中监控平台拍摄的视频画面背景处于移动状态,导致经典的前景提取算法不再适用,因此需要采用移动摄像头下的前景目标检测方法。基于背景运动补偿的方 法和基于特征点聚类的方法是目前主流的移动背景目标检测算法。前者通过特征点匹 配等方法估算出运动参数,然后进行运动补偿运算,转化为静态背景下的前景目标检 测问题。后者先提取特点,对特征点的光流矢量进行聚类,然后按照一定准则选出背 景特征点所在的簇。基于背景运动补偿的方法更适用于背景移动平缓、画面清晰的情 况,对于空中监控平台拍摄的视频,采取特征点聚类的方法提取前景目标更加合适。 本文利用图像的深度信息对特征点的光流矢量进行适当修正,在此基础上对特征点的 光流矢量进行聚类,提出一种基于背景运动一致性的方法选取背景特征点所在的簇。
对于监控视频的异常行为检测,学者们从不同的角度出发研究了许多不同的算法。主要可分为基于轨迹、分类、聚类和推断的异常行为检测算法。基于轨迹的方法 跟踪运动目标得到目标的轨迹,然后通过对比各个轨迹的相似程度等方法来区分正常 目标和异常目标,一般适用于场景中运动目标较少、视距较近的情况,不适用于人群 密集的复杂场景。基于分类的方法一般将部分视频作为训练集训练出一个分类器,之 后将需要测试的视频序列输入到分类器进行分类,结果输出为正常或异常;基于聚类 的方法提取前景目标的特征进行聚类,最后以一定的方法判断出其中
属于异常的类别;基于推断的方法根据人们对异常行为的认知设计一些判断指标,如人群运动能量、运动方向熵、分布熵等,通过观测这些指标或指标的变化情况 判断是否有异常行为发生。
发明内容
本发明提出了一种基于空中监控平台的异常行为检测方法,首先进行移动摄像头下的前景目标提取,然后对提取到的前景目标进行异常行为检测。
本发明通过以下技术方案来实现上述目的:
(1)提取图像中的特征点,并求取特征点的光流矢量。
(2)估算图像的深度信息,通过深度信息对(1)中的特征点的光流矢量进行适 当的修正,深度值大(距离摄像头远)的地方将会得到更大的修正幅度。
(3)对修正后的特征点的光流矢量进行聚类,结合背景运动一致性规律区分前 景特征点所在的簇和背景特征点所在的簇,即提取出前景特征点。
(4)用训练视频中的前景特征点的光流矢量建立双高斯混合模型。在测试阶段,利用建立的双高斯混合模型检测特征点是否异常。
(5)由于群体异常行为必然有一定的持续时间,通过一种时间队列误判机制检 验是否存在误判的情况。
(6)对判断为异常的特征点的空间坐标进行聚类,消除孤立的异常特征点并标 记出异常群体。
附图说明
图1基于空中监控平台的群体异常行为检测方法框架图;
具体实施方式
下面结合附图对本发明作进一步说明:
特征点提取及修正其光流矢量的具体方法如下:
本文采用Shi-Tomasi算法提取角点作为特征点,并用Lucas-Kanade光流法求取特征点的光流矢量,利用估计出的图像深度信息适当修正光流矢量,修正方法如下: 对于特征点(x,y),假设通过Lucas-Kanade光流法求取的原始光流矢量用ILK=(Ix,Iy)表示,设图像中最大深度值为dmax,最小深度值为dmin,特征点(x,y)的深度值为d。令修正因子为:
I=αILK (2)
前景提取的具体方法如下:
标准差为:
由于背景特征点具有运动一致性,并且一般情况下数量较大,所以其对应的簇应具有以下两个性质:
(1)标准差很小。
(2)簇的成员数量相对较大。
基于这两点性质,按以下方式选取背景簇:设置一个数量阈值nth,在成员数量 大于nth的簇中,选取标准差最小的簇作为背景簇。背景簇对应的特征点即为背景特 征点,其他特征带点作为前景特征点。
建立双高斯异常行为检测模型过程如下:
Dtrain={I11,I12,…Imn}
假设以上训练矢量集中的光流矢量服从一个二维的高斯混合分布,则对于一个光流矢量Iij有:
其中,Θ表示模型的参数,Θ={λ1,…,λM,μ1,…,μM,∑1,…∑M},下标M为高 斯分量最大个数,λk为混合系数,即各个高斯分量的权重,μk为高斯分量的均值,∑k为高斯分量的协方差矩阵,N(I|μk,∑k)为二维高斯分布的概率分布函数:
将Dtrain作为训练集,通过EM算法(Expectation-Maximization Algorithm)解 得人群状态为正常情况下的模型参数Θnormal。在此需注意,当训练集数据不够充足时, 协方差矩阵可能为奇异矩阵,会导致求解失败,在本文的背景下,只要保证特征点的 选取不要过于稀疏,训练集的数据量是充足的。
同理,通过人群状态为异常的训练视频可以得到人群状态为异常时的高斯混合模型(GMM)的参数Θabnormal。
在测试阶段,对于每一帧图像,依次取其前景特征点的光流矢量I,通过下式得 到二值化的输出结果:
由此,可将前景特征点暂时分为正常和异常两类。
如果没有异常行为视频用于训练,则退化为单GMM模型,此时F(I)由下式求得:
式中,θth为需要设定的概率阈值。
误判检验具体方法如下:
Step1:在测试开始时,为所有前景特征点创建一个长度为L的状态队列,并将队列中 的值都初始化为0;
Step2:在检验新的一帧时,让所有状态队列的队尾元素出队,相应的让每个前景特征 点的F(I)入队;
Step3:若某一特征点的状态队列中的元素为全为1,则将该特征点判断为异常点;否 则暂时作为正常点。
对异常特征点进行空间坐标聚类的方法如下:
Step1:设置一个邻近度阈值dth,对于新的一帧,将所有的异常特征点都初始化为一 个单独的簇;
Step2:计算任意一个簇与其它簇的邻近度,若两簇之间的邻近度小于dth,则将两簇 合并为一簇;
Step3:重复Step2,直到没有可以被合并的簇。
上述算法中,邻近度定义为两个不同簇的最近点之间的欧氏距离,聚类完成后去除成员数量为1的簇,将剩余的簇分块标记并发出预警。
为了验证本发明的提出的针对空中监控平台异常行为检测方法的有效性,在9个不同的场景(共27段视频)视频下进行了实验,其中3个场景中有异常行为发生。 实验结果如表1和表2所示:
表1存在异常行为场景下实验结果
Tab.1 experiment result in the scenes with abnormal behavior
表2全程行为正常场景下实验结果
Tab.2 experiment result in the scenes without abnormal behavior
从表中可以看出本文算法在实验数据集中取得了较好的效果,具有一定的实用价值。在存在异常行为的3个场景中,平均准确率为85.12%,平均精确率为81.13%, 平均召回率为84.39%;在只存在正常情况的场景中,平均虚警率为9.04%。
Claims (5)
1.一种基于空中监控平台的群体异常行为检测方法,其特征在于包括以下步骤:
(1)提取图像的特征点,计算特征点的光流矢量,通过估计图像的深度信息来对特征点的光流矢量进行修正;
(2)对特征点的光流矢量进行聚类,并根据背景运动一致性规律来选取背景特征点,从而完成移动摄像头下的运动目标检测;
(3)利用训练视频集的前景特征点的光流矢量建立双高斯混合模型,在测试阶段使用双高斯混合模型进行异常行为检测;
(4)根据异常行为必然有一段持续时间的规律,采用一种时间队列机制对(3)中的检测结果进行误判检验,该时间队列机制即:在测试开始时,为所有前景特征点创建一个长度为L的状态队列,并将队列中的值都初始化为0,在检验新的一帧时,让所有状态队列的队尾元素出队,相应的让每个前景特征点的F(I)入队,若某一特征点的状态队列中的元素全为1,则将该特征点判断为异常点,否则为正常点;
(5)使用简化的凝聚层次聚类对所有异常特征点的空间坐标进行聚类,去除孤立的异常特征点并标记出异常人群,该聚类方法即:设置一个邻近度阈值dth,对于新的一帧,将所有的异常特征点都初始化为一个单独的簇,计算任意一个簇与其他簇的邻近度,若两簇之间的邻近度小于dth,则将两簇合并为一簇,重复Step2,直到没有可以被合并的簇。
3.根据权利要求1所述的方法,其特征在于步骤(2)中通过对光流矢量聚类并结合背景运动一致性规律提取运动前景目标,其中背景运动一致性规律为:在对光流矢量聚类之后,背景簇的标准差很小并且成员数量较大。
4.根据权利要求1所述的方法,其特征在于步骤(3)中使用双高斯混合模型进行异常行为检测,其中双高斯混合模型是指:在训练阶段分别用人群状态为正常的视频和人群状态为异常的视频训练出两个高斯混合模型参数,在测试阶段将测试视频中的前景特征点分别输入到这两个高斯混合模型中,通过比较在两个高斯混合模型中的概率判断是否为异常特征点。
5.根据权利要求1所述的方法,其特征在于步骤(4)中釆用一种时间队列误判检验机制检验步骤⑶中的结果,该时间队列机制如下:
Stepl:在测试开始时,为所有前景特征点创建一个长度为L的状态队列,并将队列中的值都初始化为0;
Step2:在检验新的一帧时,让所有状态队列的队尾元素出队,相应的让每个前景特征点的F(I)入队;
Step3:若某一特征点的状态队列中的元素为全为1,则将该特征点判断为异常点;否则暂时作为正常点。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810281158.9A CN108596045B (zh) | 2018-04-02 | 2018-04-02 | 一种基于空中监控平台的群体异常行为检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810281158.9A CN108596045B (zh) | 2018-04-02 | 2018-04-02 | 一种基于空中监控平台的群体异常行为检测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108596045A CN108596045A (zh) | 2018-09-28 |
CN108596045B true CN108596045B (zh) | 2021-08-20 |
Family
ID=63625131
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810281158.9A Active CN108596045B (zh) | 2018-04-02 | 2018-04-02 | 一种基于空中监控平台的群体异常行为检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108596045B (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110008976A (zh) * | 2018-12-05 | 2019-07-12 | 阿里巴巴集团控股有限公司 | 一种网络行为分类方法和装置 |
CN109800766A (zh) * | 2018-12-11 | 2019-05-24 | 湖北工业大学 | 一种基于凝聚层次树的快速迭代重建方法 |
CN112101393A (zh) * | 2019-06-18 | 2020-12-18 | 上海电机学院 | 一种风电场风机聚类方法及装置 |
CN110536114A (zh) * | 2019-08-05 | 2019-12-03 | 特斯联(北京)科技有限公司 | 一种目标智能追踪的停车场cctv监视系统及方法 |
CN111382784B (zh) * | 2020-03-04 | 2021-11-26 | 厦门星纵智能科技有限公司 | 一种运动目标跟踪方法 |
CN111401225B (zh) * | 2020-03-13 | 2022-08-30 | 河海大学常州校区 | 基于改进逻辑回归分类的人群异常行为检测方法 |
CN111754550B (zh) * | 2020-06-12 | 2023-08-11 | 中国农业大学 | 一种农机运动状态下动态障碍物检测方法及装置 |
CN111723745A (zh) * | 2020-06-22 | 2020-09-29 | 四川大学 | 一种基于视频的精神病患者异常行为检测方法 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8290253B1 (en) * | 2009-10-30 | 2012-10-16 | Adobe Systems Incorporated | Method and apparatus for applying Gaussian Mixture Models to local image patches using an adaptive color lookup table |
CN102799863A (zh) * | 2012-07-02 | 2012-11-28 | 中国计量学院 | 视频监控中的团体人群异常行为检测方法 |
CN103077423A (zh) * | 2011-10-25 | 2013-05-01 | 中国科学院深圳先进技术研究院 | 基于视频流的人群数量估计、局部人群聚集状态以及人群跑动状态检测方法 |
CN104123544A (zh) * | 2014-07-23 | 2014-10-29 | 通号通信信息集团有限公司 | 基于视频分析的异常行为检测方法及系统 |
CN105389567A (zh) * | 2015-11-16 | 2016-03-09 | 上海交通大学 | 基于稠密光流直方图的群体异常检测方法 |
CN106357673A (zh) * | 2016-10-19 | 2017-01-25 | 中国科学院信息工程研究所 | 一种多租户云计算系统DDoS攻击检测方法及系统 |
CN106599867A (zh) * | 2016-12-22 | 2017-04-26 | 中国科学院上海高等研究院 | 密集客流异常行为检测方法 |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101872418B (zh) * | 2010-05-28 | 2012-09-12 | 电子科技大学 | 基于群体环境异常行为的检测方法 |
CN101916447B (zh) * | 2010-07-29 | 2012-08-15 | 江苏大学 | 一种鲁棒的运动目标检测与跟踪图像处理方法 |
US20150143913A1 (en) * | 2012-01-19 | 2015-05-28 | Purdue Research Foundation | Multi-modal sensing for vehicle |
CN102867175B (zh) * | 2012-08-31 | 2015-01-28 | 浙江捷尚视觉科技股份有限公司 | 一种基于立体视觉的atm机行为分析方法 |
CN102903124B (zh) * | 2012-09-13 | 2015-08-19 | 苏州大学 | 一种运动目标检测方法 |
CN103488993B (zh) * | 2013-09-22 | 2016-09-07 | 北京联合大学 | 一种基于fast的人群异常行为识别方法 |
WO2016002408A1 (ja) * | 2014-06-30 | 2016-01-07 | 日本電気株式会社 | 画像処理装置、監視システム、画像処理方法、及びプログラム |
CN104156979B (zh) * | 2014-07-25 | 2016-09-14 | 南京大学 | 一种基于高斯混合模型的视频中异常行为在线检测方法 |
SG10201510337RA (en) * | 2015-12-16 | 2017-07-28 | Vi Dimensions Pte Ltd | Video analysis methods and apparatus |
CN105956568A (zh) * | 2016-05-11 | 2016-09-21 | 东华大学 | 一种基于监控目标识别的异常行为检测预警方法 |
CN106326840A (zh) * | 2016-08-11 | 2017-01-11 | 电子科技大学 | 一种基于光流直方图熵的人群异常行为检测方法 |
CN106778595B (zh) * | 2016-12-12 | 2020-04-07 | 河北工业大学 | 基于高斯混合模型的人群中异常行为的检测方法 |
CN107491749B (zh) * | 2017-08-11 | 2020-11-17 | 南京邮电大学 | 一种人群场景中全局和局部异常行为检测方法 |
CN107506734B (zh) * | 2017-08-28 | 2020-07-24 | 中国民航大学 | 一种群体突发异常事件检测与定位方法 |
-
2018
- 2018-04-02 CN CN201810281158.9A patent/CN108596045B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8290253B1 (en) * | 2009-10-30 | 2012-10-16 | Adobe Systems Incorporated | Method and apparatus for applying Gaussian Mixture Models to local image patches using an adaptive color lookup table |
CN103077423A (zh) * | 2011-10-25 | 2013-05-01 | 中国科学院深圳先进技术研究院 | 基于视频流的人群数量估计、局部人群聚集状态以及人群跑动状态检测方法 |
CN102799863A (zh) * | 2012-07-02 | 2012-11-28 | 中国计量学院 | 视频监控中的团体人群异常行为检测方法 |
CN104123544A (zh) * | 2014-07-23 | 2014-10-29 | 通号通信信息集团有限公司 | 基于视频分析的异常行为检测方法及系统 |
CN105389567A (zh) * | 2015-11-16 | 2016-03-09 | 上海交通大学 | 基于稠密光流直方图的群体异常检测方法 |
CN106357673A (zh) * | 2016-10-19 | 2017-01-25 | 中国科学院信息工程研究所 | 一种多租户云计算系统DDoS攻击检测方法及系统 |
CN106599867A (zh) * | 2016-12-22 | 2017-04-26 | 中国科学院上海高等研究院 | 密集客流异常行为检测方法 |
Also Published As
Publication number | Publication date |
---|---|
CN108596045A (zh) | 2018-09-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108596045B (zh) | 一种基于空中监控平台的群体异常行为检测方法 | |
CN111507469B (zh) | 对自动标注装置的超参数进行优化的方法和装置 | |
CN105404884B (zh) | 图像分析方法 | |
CN108230291B (zh) | 物体识别系统训练方法、物体识别方法、装置和电子设备 | |
CN106599907A (zh) | 多特征融合的动态场景分类方法与装置 | |
CN111680655A (zh) | 一种面向无人机航拍影像的视频目标检测方法 | |
CN108491766B (zh) | 一种端到端的基于深度决策森林的人群计数方法 | |
CN111723654A (zh) | 基于背景建模、YOLOv3与自优化的高空抛物检测方法及装置 | |
Cho et al. | PaMM: Pose-aware multi-shot matching for improving person re-identification | |
CN108734145B (zh) | 一种基于密度自适应人脸表征模型的人脸识别方法 | |
Bouachir et al. | Structure-aware keypoint tracking for partial occlusion handling | |
Wang et al. | Closed-loop tracking-by-detection for ROV-based multiple fish tracking | |
CN111027347A (zh) | 一种视频识别方法、装置和计算机设备 | |
Cancela et al. | Unsupervised trajectory modelling using temporal information via minimal paths | |
Yang et al. | A method of pedestrians counting based on deep learning | |
CN106384089A (zh) | 基于终生学习的人体可靠检测方法 | |
CN106934339B (zh) | 一种目标跟踪、跟踪目标识别特征的提取方法和装置 | |
CN110458064B (zh) | 结合数据驱动型和知识驱动型的低空目标检测与识别方法 | |
Sun et al. | Automatic annotation of web videos | |
Yang et al. | License plate detection based on sparse auto-encoder | |
Pillai et al. | Fine-Tuned EfficientNetB4 Transfer Learning Model for Weather Classification | |
CN111062294B (zh) | 一种客流排队时间的检测方法、装置及系统 | |
CN115311580A (zh) | 基于图像识别的无人机威胁判定方法及相关设备 | |
Al Najjar et al. | A hybrid adaptive scheme based on selective Gaussian modeling for real-time object detection | |
CN113223081A (zh) | 一种基于背景建模与深度学习的高空抛物检测方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |