CN104268528B - 一种人群聚集区域检测方法和装置 - Google Patents

一种人群聚集区域检测方法和装置 Download PDF

Info

Publication number
CN104268528B
CN104268528B CN201410508575.4A CN201410508575A CN104268528B CN 104268528 B CN104268528 B CN 104268528B CN 201410508575 A CN201410508575 A CN 201410508575A CN 104268528 B CN104268528 B CN 104268528B
Authority
CN
China
Prior art keywords
crowd
mrow
dense
region
munderover
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201410508575.4A
Other languages
English (en)
Other versions
CN104268528A (zh
Inventor
叶必锭
吴金勇
王军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ciic Kechuang Robot Co Ltd
Original Assignee
Ciic Kechuang Robot Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ciic Kechuang Robot Co Ltd filed Critical Ciic Kechuang Robot Co Ltd
Priority to CN201410508575.4A priority Critical patent/CN104268528B/zh
Publication of CN104268528A publication Critical patent/CN104268528A/zh
Application granted granted Critical
Publication of CN104268528B publication Critical patent/CN104268528B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • G06V20/53Recognition of crowd images, e.g. recognition of crowd congestion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G06F18/2148Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the process organisation or structure, e.g. boosting cascade

Abstract

本发明公开了一种人群聚集区域检测方法和装置,属于视频处理技术领域。该方法包括:采样输入的视频图像并进行预处理,得到灰度图;利用预设的多尺度矩形窗口遍历灰度图,并采用分类器粗定位人群密集区域;当存在人群密集区域时,根据人群密度对人群密集区域进行精细定位人群聚集区域。采用本发明的检测方法和装置,能自动定位人群密集区域的位置,无需人工设定区域位置;同时,采用两层筛选机制对人群区域进行粗定位和精细定位,能精确获取人群聚集区域,此外,由于没有采用背景相减法,排除了外界各因素的影响,对于场景复杂的情况,也能精确检测到人群聚集事件。

Description

一种人群聚集区域检测方法和装置
技术领域
本发明涉及安防领域,尤其涉及一种人群聚集区域检测方法和装置。
背景技术
随着社会经济的高速发展,我国的城市化进程不断推进,城市的人口数量越来越多,城市的公共交通、生活设施等区域经常会迎来短期的人流高峰,人群的高度拥挤带来了一些安全隐患,若不能得到及时有效疏散,容易造成重大事故,例如践踏等危险事故。同时,人口数量的急剧增长,也容易导致一些群体事件发生,例如聚众闹事,群殴打架等,对城市的治安造成较大的威胁。
为了及时发现突发的人群聚集事件,引入了视频监控系统。但是,传统的视频监控系统由人工轮岗来监视,由于监控点比较多,工作人员较少,使得很多人群聚集事件没有被及时发现。同时,人眼在长时间盯着监控屏幕后极容易导致视觉疲劳,使注意力下降。随着计算机视觉技术的不断发展和应用,已经可以利用计算机技术代替人眼和人脑,来自动分析人群聚集事件。
目前,利用计算机视觉技术的人群聚集区域检测方法有两种:(1)基于人群像素统计的方法,该方法通过背景相减的方法来提取运动的前景人群,并统计人群占据的像素数目来判断是否发生聚集事件,该方法的优点是方法简单、处理速度快,但是在人群拥挤时,存在非常严重的重叠现象,导致行人计数存在较大误差;并且,由于外面因素的干扰,要想获取一个稳定的背景非常困难,这直接影响到前景的精确提取;同时,如果场景中的人群没有运动,这直接导致背景获取失败,不能检测到人群聚集。(2)基于人群纹理信息的方法,该方法将人群分为低、中、高密度,低密度人群在纹理上表现为粗模式,高密度人群在纹理上表现为细模式,该方法在背景比较单一场景下效果较好,但在场景复杂、人群比较稀疏的情况下,误报较多,容易将其判为人群密集的情况。
此外,上述两种检测方法都需要人工在监控画面中设置固定区域来检测人群聚集,而不能自动检测人群聚集的位置。
发明内容
有鉴于此,本发明要解决的技术问题是提供一种人群聚集区域检测方法和装置,以解决需要人工在监控画面中设置固定区域、且误报较多的技术问题。
本发明解决上述技术问题所采用的技术方案如下:
根据本发明的一个方面,提供的一种人群聚集区域检测方法包括:
采样输入的视频图像并进行预处理,得到灰度图;
利用预设的多尺度矩形窗口遍历灰度图,并采用分类器粗定位人群密集区域;
当存在人群密集区域时,根据人群密度对人群密集区域进行精细定位人群聚集区域。
优选地,利用预设的多尺度矩形窗口遍历灰度图,并采用分类器粗定位人群密集区域进一步包括:
针对每一个预设尺度的矩形窗口,将其在灰度图上滑动,获取被矩形窗口覆盖的子图像的集合;
提取每个子图像的HOG特征;
采用Adaboost级联分类器对每个子图像的HOG特征进行分类,得到人群密集候选区域;
将人群密集候选区域进行融合,得到人群密集区域。
优选地,提取每个子图像的HOG特征进一步包括:
利用梯度算子提取子图像的水平方向和垂直方向的梯度;
计算每个像素的梯度大小和梯度方向;
将子图像分成至少两个单元格,在每个单元格内建立梯度方向直方图;
将相邻的单元格组成一个块,将一个块内所有单元格的特征向量串联起来,并进行归一化处理,得到该块的特征;
将该子图像的所有块的特征串联,得到该子图像的HOG特征。
优选地,根据人群密度对粗定位的人群密集区域进行精细定位人群聚集区域进一步包括:
根据人群密集区域的位置,从输入的彩色图像中截取对应的人群密集区图像;
将人群密集区图像缩放到预设的大小,并转换为灰度图像,得到人群密集区灰度图;
利用傅里叶变换将人群密集区灰度图转换到频率域,得到人群密集区傅立叶频谱图;
计算人群密集区傅立叶频谱图的傅立叶频谱特征,并采用分类器进行人群密度等级分类;
记录人群密度分类结果为高密度的区域位置,输出人群聚集区域。
优选地,计算人群密集区傅立叶频谱图的傅立叶频谱特征,并采用分类器进行人群密度等级分类进一步包括:
计算人群密集区傅立叶频谱图的熵特征、能量特征和极坐标傅立叶频谱特征描述子;
采用BP神经网络分类器对熵特征、能量特征和极坐标傅立叶频谱特征描述子进行人群密度等级分类。
优选地,计算极坐标傅立叶频谱特征描述子包括以下维度:
其中,F(ρ,θ)为极坐标下的傅立叶频谱,ρ为极坐标的极径,θ为极角,R为灰度图像宽度的一半,s表示极径ρ被均分的等级个数,t表示极角θ被均分的等级个数。
根据本发明的另一个方面,提供的一种人群聚集区域检测装置包括:
预处理模块,用于采样输入的视频图像并进行预处理,得到灰度图;
粗定位模块,用于利用预设的多尺度矩形窗口遍历灰度图,并采用粗定位人群密集区域;
精细定位模块,用于当存在人群密集区域时,根据人群密度对人群密集区域进行精细定位人群聚集区域。
优选地,粗定位模块包括:
子图像提取单元,用于针对每一个预设尺度的矩形窗口,将其在灰度图上滑动,获取被矩形窗口覆盖的子图像的集合;
HOG特征提取单元,用于提取每个子图像的HOG特征;
HOG特征分类单元,用于采用Adaboost级联分类器对每个子图像的HOG特征进行分类,得到人群密集候选区域;
区域融合单元,用于将人群密集候选区域进行融合,得到人群密集区域。
优选地,精细定位模块包括:
人群密集区图像获取单元,用于根据人群密集区域的位置,从输入的彩色图像中截取对应的人群密集区图像;
人群密集区灰度图获取单元,用于将人群密集区图像缩放到预设的大小,并转换为灰度图像,得到人群密集区灰度图;
傅立叶频谱图获取单元,用于利用傅里叶变换将人群密集区灰度图转换到频率域,得到人群密集区傅立叶频谱图;
傅立叶频谱特征分类单元,用于计算人群密集区傅立叶频谱图的傅立叶频谱特征,并采用分类器进行人群密度等级分类;
输出单元,用于记录人群密度分类结果为高密度的区域位置,输出人群聚集区域。
优选地,傅立叶频谱特征分类单元具体用于:计算人群密集区傅立叶频谱图的熵特征、能量特征和极坐标傅立叶频谱特征描述子;采用BP神经网络分类器对熵特征、能量特征和极坐标傅立叶频谱特征描述子进行人群密度等级分类。
本发明提供的人群聚集区域检测方法和装置,与现有技术相比,通过多尺度矩形窗口遍历技术,能自动定位人群密集区域的位置,无需人工设定区域位置,同时,采用两层筛选机制对人群区域进行粗定位和精细定位,能精确获取人群聚集区域,而且,由于没有采用背景相减法,排除了外界各因素的影响,对于场景复杂的情况,也能精确检测到人群聚集事件。
此外,通过采用Adaboost级联分类器对HOG特征进行分类、以及BP神经网络对傅立叶频谱特征进行分类的两层筛选机制对人群区域进行粗定位和精细定位,能进一步精确获取人群聚集区域。
附图说明
图1为本发明实施例提供的一种人群聚集区域检测方法的流程图;
图2为本发明实施例提供的一种人群密集区域粗定位方法的流程图;
图3为本发明优选实施例提供的一种人群密集区域粗定位方法的流程图;
图4为本发明优选实施例提供的一种人群聚集区域精细定位方法的流程图;
图5为本发明优选实施例提供的一种人群聚集区域检测装置的模块结构图。
具体实施方式
为了使本发明所要解决的技术问题、技术方案及有益效果更加清楚、明白,以下结合附图和实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
实施例一
如图1所示,本发明实施例提供的一种人群聚集区域检测方法包括以下步骤:
S101、采样输入的视频图像并进行预处理,得到灰度图。
具体地,从视频采集设备中获取视频图像,对视频图像进行下采样,将下采样的彩色图像转化为灰度图像,并进行滤波去除噪声等预处理。
S102、利用预设的多尺度矩形窗口遍历灰度图,并采用分类器粗定位人群密集区域。
本步骤中,可以通过预设多个小尺度矩形窗口来分别遍历灰度图,比如预设的初始小尺度矩形窗口的尺度为100*100个像素,窗口移动步长选用2个像素,每遍历完一次图像后窗口的尺度放大1.1倍。还可以只预设一个小尺度矩形窗口,而将灰度图按预设的比例进行缩放,比如,图像的缩小倍数为1.1,通过该小尺度矩形窗口来分别遍历每次缩放后的灰度图。归根揭底来说,两种方式都是采用多尺度矩形窗口遍历灰度图。所述分类器可以采用Adaboost级联分类器。
请参阅图2,作为一种优选实施例,步骤S102进一步包括:
S1021、针对每一个预设尺度的矩形窗口,将其在灰度图上滑动,获取被矩形窗口覆盖的子图像的集合;
S1022、提取每个子图像的HOG特征。
在窗口滑动过程中,依次提取每个位置处被窗口覆盖的子图像的HOG特征。HOG特征是一种局部区域描述符,它通过计算局部区域上的梯度方向直方图来构成人群特征,能够很好地描述人群的边缘。同时,HOG特征能够适应光照变化和目标旋转。步骤S1022进一步包括:利用梯度算子提取子图像的水平方向和垂直方向的梯度;计算每个像素的梯度大小和梯度方向;将子图像分成至少两个单元格,在每个单元格内建立梯度方向直方图;将相邻的单元格组成一个块,将一个块内所有单元格的特征向量串联起来,并进行归一化处理,得到该块的特征;将该子图像的所有块的特征串联,得到该子图像的HOG特征。
S1023、采用Adaboost级联分类器对每个子图像的HOG特征进行分类,得到人群密集候选区域。
其中,人群Adaboost级联分类器是事先训练好的一个两类分类器,可以将图像分为人群密集和人群稀疏(或没有人的图像)。Adaboost级联分类器的核心思想是将许多的弱分类器组合起来,构成一些强分类器,然后,再将强分类器串联起来,构成最终的Adaboost级联分类器。其中,弱分类器的分类正确率大于50%就可以,Adaboost级联分类器通过提取人群图像的HOG特征进行训练得到,其训练过程为:首先,准备训练要用的样本,正样本为行人密集的图像,负样本为行人稀少或没有行人的图像,训练样本的个数越多越好;其次,将训练用的样本图像转化为灰度图,并缩放到规定的大小,本发明的实施例将样本图像缩放到50*50个像素;然后,提取正样本和负样本的HOG特征;最后,利用训练样本的特征开始训练Adaboost级联分类器,具体的训练方法可以采用现有的开源库opencv提供的工具来训练。本发明实施例中,设定Adaboost级联分类器的层数为20,弱分类器采用2层决策树。
具体地,将矩形窗口覆盖下的子图像的HOG特征送入人群Adaboost级联分类器进行分类,会先利用第一个强分类器对图像进行分类,如果该图像被判为行人密集,则继续利用第二个强分类器对其分类,依次类推,如果所有强分类器都将该图像分类为行人密集,则该图像的真实类型就是行人密集;如果该图像被其中一个强分类器判为行人稀疏,则直接退出,后续的强分类器不再对其进行分类。如此,最终分类结果为两类:行人密集和行人稀疏(或没有人的图像),如果子图像被分类为行人密集,保存该区域的位置作为人群密集候选区域。
S1024、将人群密集候选区域进行融合,得到人群密集区域。
具体地,上述步骤得到的人群密集候选区域可能为一个或者多个,其中多个候选区域之间会相互重叠,故需要对多个人群密集候选区域进行融合,得到置信度最高的人群密集区域。
S103、当存在人群密集区域时,根据人群密度对粗定位的人群密集区域进行精定位人群聚集区域。
具体地,对步骤S102中粗定位到的人群密集区域进一步作精确的分类,分类标准根据人群密度分为低、中、高三个等级。人群密度等级可以根据固定区域中的人数来分,比如人群占总面积小于20%,为低密度;占总面积在20%到75%,为中密度;占总面积大于75%,为高密度。记录分类结果为高密度的人群密集区域为人群聚集区域。
综上所述,本发明提供的人群聚集区域检测方法,与现有技术相比,通过多尺度矩形窗口遍历技术,能自动定位人群密集区域的位置,无需人工设定区域位置;同时,采用两层筛选机制对人群区域进行粗定位和精细定位,能精确获取人群聚集区域,此外,由于没有采用背景相减法,排除了外界各因素的影响,对于场景复杂的情况,也能精确检测到人群聚集事件。
实施例二
如图3所示,本发明优选实施例提供的一种人群密集区域粗定位方法包括以下步骤:
S301、将矩形窗口从图像左上角开始遍历。
具体地,本步骤之前,对视频采集设备获取到的彩色图像进行下采样,将彩色图像下采样到预设的尺度(本发明实施例中采用320*240)后转换为灰度图像;然后利用高斯滤波器对灰度图像进行滤波,去除噪声。本步骤中,利用小尺度矩形窗口在灰度图中滑动,从左到右,从上到下滑动,当然,也可以沿着其他方向进行滑动,只要能遍历整副图像即可。本发明实施例中,矩形窗口的初始尺度为100*100个像素,窗口移动步长选用2个像素。
S302、提取窗口覆盖下的子图像的HOG特征。
具体地,首先利用梯度算子[-1,0,1]和[-1,0,1]T提取图像的水平方向和垂直方向的梯度,再计算得到每个像素的梯度大小和梯度方向,梯度大小计算公式为
其中,R为梯度,I为图像灰度值,x和y为图像的像素坐标。
梯度方向计算公式为:
其中,ang为梯度方向,I为图像灰度值,x和y为图像的像素坐标。
然后,将图像分成若干个单元格,在每个单元格内建立梯度方向直方图。最后,将几个相邻的单元格组成一个块,这些块互有重叠,将一个块内所有单元格的特征向量串联起来,并归一化,就得到该块的特征。将所有块的特征串联,就得到该图像的HOG特征。本发明的实施例中,单元格的尺度为6*6个像素,4个相邻的单元格组成一个正方形区域作为块,梯度方向等分为9个等级来构建梯度方向直方图。
S303、采用Adaboost级联分类器对HOG特征分类。
将矩形窗口覆盖下的子图像的HOG特征送入人群Adaboost级联分类器进行分类,分类结果为两类:行人密集和行人稀疏(或没有人的图像),如果子图像被分类为行人密集,保存该区域的位置。本发明实施例中,设定Adaboost级联分类器的层数为20,弱分类器采用2层决策树。
S304、保存分类为人群密集的区域位置。
S305、判断窗口是否滑到图像右下角,如果是,转至步骤S307,否则转至步骤S306。
S306、将窗口在图像上继续滑动,并转至步骤S302。
S307、扩大窗口尺度或者缩小图像尺度。
具体地,如果小尺度的窗口滑动到灰度图的右下角时,则扩大窗口的尺度,重新从灰度图的左上角开始滑动,并提取HOG特征,送入Adaboost级联分类器分类,保留人群密集区域位置。或者当矩形窗口滑动到图像右下角时,再缩小当前灰度图像的尺度,继续从子步骤S301开始,按从左到右,从上到下滑动窗口,并提取每个子图像的HOG特征,送入Adaboost级联分类器,来检测行人密集区域,同时保存行人密集区域。本发明实施例中,矩阵窗口的放大倍数和图像的缩小倍数都为1.1。
S308、判断窗口尺度或者图像缩小倍数是否达到上限,如果是,则执行步骤S309,否则转至步骤S302。
具体地,如果矩形窗口的尺度到达设定的上限时或者当图像总的缩小倍数到达规定的上限时,结束窗口的滑动操作,此时,先前的操作可能会有较多的子图像被Adaboost级联分类器判为行人密集区域,这些子区域可能会相互重叠,因此,还需要对这些子区域进行融合,获取可信度较高的人群密集区域,同时输出人群密集区域的位置。本发明实施例中,如果采用矩形窗口放大法,设定矩形窗口的尺度上限为200*200个像素,如果采用图像缩小法,则图像总的缩小倍数的上限为2。
S309、融合相互重叠的人群密集区域。
本步骤中,将寻找到的多个人群密集区域进行融合,得到置信度最高的人群密集区域。
S310、输出人群密集区域的位置。
本实施例中,通过多尺度矩形窗口遍历技术,能自动定位人群密集区域的位置,无需人工设定区域位置;同时,采用Adaboost级联分类器对HOG特征进行分类粗定位出人群密集区域的误报率小,由于没有采用背景相减法,排除了相机抖动,光照突变等外界各因素的影响,对于场景复杂的情况,也能精确检测到人群聚集事件。
实施例三
如图4所示,本发明优选实施例提供的一种人群密集区域精细定位方法包括以下步骤:
S1031、根据人群密集区域的位置,从输入的彩色图像中截取对应的人群密集区图像。
本步骤中,根据粗定位的人群密集区域的位置,从输入的彩色图像中截取这些位置的图像,作为候选的人群聚集区域。
S1032、将人群密集区图像缩放到预设的大小,并转换为灰度图像,得到人群密集区灰度图。
本步骤中,将候选的人群聚集区域彩色图像转化为灰度图像,并将灰度图像的尺度统一缩放到规定的大小,这样便于特征的提取。本发明实施例设定图像缩放后的大小为100*100个像素。
S1033、利用傅里叶变换将人群密集区灰度图转换到频率域,得到人群密集区傅立叶频谱图。
傅立叶变换可以将图像从空间域转换到频率域。图像的频率可以表示图像灰度变化剧烈的程度,对于人群密度较低的图像,图像灰度变化比较平滑,对应的频率较低;对人群密度较高的图像,图像灰度变化比较剧烈,对应的频率较高。二维图像的傅立叶变换公式为
其中,F(u,v)为傅立叶变换结果,是一个复数,M=N=100,为图像的边长,f(x,y)为图像在点(x,y)处的灰度值,x和y为图像空间域坐标,u和v为图像频率域坐标。
傅立叶频谱的计算公式为
其中,|F(u,v)|为点(u,v)处的频谱值,R(u,v)和I(u,v)分别为F(u,v)实部和虚部。
S1034、计算人群密集区傅立叶频谱图的傅立叶频谱特征,并采用分类器进行人群密度等级分类。
具体地,本步骤可以采用BP神经网络分类器、SVM分类器、随机森林分类器等对人群密集区傅立叶频谱图的傅立叶频谱特征进行人群密度等级分类。
优选地,步骤S1034进一步包括:计算人群密集区傅立叶频谱图的熵特征、能量特征和极坐标傅立叶频谱特征描述子;采用BP神经网络分类器对熵特征、能量特征和极坐标傅立叶频谱特征描述子进行人群密度等级分类。
其中,熵特征用于描述图像的平均信息量,计算熵特征之前,先将傅立叶频谱值规范化到0至255的范围,再计算直方图P,然后,熵特征的计算公式为:
其中,H为傅立叶频谱图的熵特征值,Pi为频谱图的直方图中第i个元素的值。
对于傅立叶频谱图的能量特征,先将傅立叶频谱值规范化到0至255的范围,然后,能量特征的计算公式为:
其中,E为傅立叶频谱图的能量特征值,|F(u,v)|为傅立叶频谱值,u和v为图像频率域坐标,M=N=100,为图像边长。
对于极坐标傅立叶频谱特征描述子的计算,先将直角坐标系下的傅立叶频谱利用极坐标表示,直角坐标到极坐标的转换公式为
其中,ρ为极坐标的极径,θ为极角,u和v为图像频率域坐标。
计算极坐标傅立叶频谱特征描述子包括以下维度:
其中,F(ρ,θ)为极坐标下的傅立叶频谱,ρ为极坐标的极径,θ为极角,R为灰度图像宽度的一半,s表示极径ρ被均分的等级个数,t表示极角θ被均分的等级个数。本实施例中,R为50,极坐标下的极径ρ被均分为10个等级,极角θ被均分为8个等级,因此,极坐标频谱特征描述子的维度为18。将傅立叶频谱图的熵特征、能量特征和极坐标傅立叶频谱的特征描述子三种特征组合,构建一个20维的纹理特征,作为人群密度等级分类的特征。
以BP神经网络分类器为例进行说明,BP神经网络分类器是先前训练好的分类器,举例来说,其训练步骤为:首先,准备三类人群密度等级的灰度图像,各300张,作为训练样本;其次,将训练样本图像缩放到100*100个像素大小;然后,对缩放后的灰度图像进行傅立叶变换,提取三类傅立叶频谱特征,作为样本特征;最后,利用样本特征对BP神经网络分类器进行训练,本发明实施例中,设定神经网络的层数为3层:输入层、隐含层和输出层,其中,输入层的节点个数为20,隐含层的节点个数为41,输出层的节点个数为3,隐含层的激活函数为对数S形函数,输出层的激活函数为线性函数。
S1035、记录人群密度分类结果为高密度的区域位置,输出人群聚集区域。
依据上一步得到的人群密度等级,进一步判断该区域是否存在人群聚集区域,如果该区域的人群密度被分类为高密度,则说明该区域发生人群聚集事件,同时记录发生人群聚集的具体区域位置并输出。
本实施例中,通过采用BP神经网络分类器对傅立叶频谱图的熵特征、能量特征和极坐标傅立叶频谱的特征描述子这三类非常适合人群密度的统计的特征进行分类,精细定位出人群聚集区域,精确度高。
实施例四
如图5所示,本发明实施例提供的一种人群聚集区域检测装置包括以下模块:
预处理模块10,用于采样输入的视频图像并进行预处理,得到灰度图。
具体地,对视频采集设备获取到的彩色图像进行下采样,将彩色图像下采样到预设的尺度(本发明实施例中采用320*240个像素)后转换为灰度图像;然后利用高斯滤波器对灰度图像进行滤波,去除噪声。
粗定位模块20,用于利用预设的多尺度矩形窗口遍历灰度图,并采用分类器粗定位人群密集区域。
粗定位模块20,可以通过预设多个小尺度矩形窗口来分别遍历灰度图,比如初始小尺度矩形窗口的尺度为100*100个像素,窗口移动步长选用2个像素,每遍历完一次图像后窗口尺度放大1.1倍。还可以只预设一个小尺度矩形窗口,而将灰度图按预设的比例进行缩放,比如,图像的缩小倍数为1.1,通过该小尺度矩形窗口来分别遍历每次缩放后的灰度图。归根结底来说,两种方式都是采用多尺度矩形窗口遍历灰度图。
精细定位模块30,用于当存在人群密集区域时,根据人群密度对粗定位的人群密集区域进行精细定位人群聚集区域。
具体地,对步骤S102中粗定位到的人群密集区域进一步作精确的分类,分类标准根据人群密度分为低、中、高三个等级。人群密度等级可以根据固定区域中的人数来分,比如人群占总面积小于20%,为低密度;占总面积在20%到75%,为中密度;占总面积大于75%,为高密度。记录分类结果为高密度的人群密集区域为人群聚集区域。
作为一种优选实施例,粗定位模块20进一步包括:
子图像提取单元201,用于针对每一个预设尺度的矩形窗口,将其在灰度图上滑动,获取被矩形窗口覆盖的子图像的集合。
HOG特征提取单元202,用于提取每个子图像的HOG特征。
具体地,首先利用梯度算子[-1,0,1]和[-1,0,1]T提取图像的水平方向和垂直方向的梯度,再计算得到每个像素的梯度大小和梯度方向,梯度大小计算公式为
其中,R为梯度,I为图像灰度值,x和y为图像的像素坐标。
梯度方向计算公式为:
其中,ang为梯度方向,I为图像灰度值,x和y为图像的像素坐标。
然后,将图像分成若干个单元格,在每个单元格内建立梯度方向直方图。最后,将几个相邻的单元格组成一个块,这些块互有重叠,将一个块内所有单元格的特征向量串联起来,并归一化,就得到该块的特征。将所有块的特征串联,就得到该图像的HOG特征。本发明的实施例中,单元格的尺度为6*6个像素,4个相邻的单元格组成一个正方形区域作为块,梯度方向等分为9个等级来构建梯度方向直方图。
HOG特征分类单元203,用于采用Adaboost级联分类器对每个子图像的HOG特征进行分类,得到人群密集候选区域。
区域融合单元204,用于将人群密集候选区域进行融合,得到人群密集区域。
作为另一种优选实施例,精细定位模块30进一步包括:
人群密集区图像获取单元301,用于根据人群密集区域的位置,从输入的彩色图像中截取对应的人群密集区图像。
人群密集区灰度图获取单元302,用于将人群密集区图像缩放到预设的大小,并转换为灰度图像,得到人群密集区灰度图。
傅立叶频谱图获取单元303,用于利用傅里叶变换将人群密集区灰度图转换到频率域,得到人群密集区傅立叶频谱图。
具体的,傅立叶变换可以将图像从空间域转换到频率域。图像的频率可以表示图像灰度变化剧烈的程度,对于人群密度较低的图像,图像灰度变化比较平滑,对应的频率较低;对人群密度较高的图像,图像灰度变化比较剧烈,对应的频率较高。二维图像的傅立叶变换公式为
其中,F(u,v)为傅立叶变换结果,是一个复数,M=N=100,为图像的边长,f(x,y)为图像在点(x,y)处的灰度值,x和y为图像空间域坐标,u和v为图像频率域坐标。
傅立叶频谱的计算公式为
其中,|F(u,v)|为点(u,v)处的频谱值,R(u,v)和I(u,v)分别为F(u,v)实部和虚部。
傅立叶频谱特征分类单元304,用于计算人群密集区傅立叶频谱图的傅立叶频谱特征,并采用分类器进行人群密度等级分类。
具体地,傅立叶频谱特征分类单元304可以采用BP神经网络分类器、SVM分类器、随机森林分类器等对人群密集区傅立叶频谱图的傅立叶频谱特征进行人群密度等级分类。优选地,傅立叶频谱特征分类单元304具体用于:计算人群密集区傅立叶频谱图的熵特征、能量特征和极坐标傅立叶频谱特征描述子;采用BP神经网络分类器对熵特征、能量特征和极坐标傅立叶频谱特征描述子进行人群密度等级分类。
其中,熵特征用于描述图像的平均信息量,计算熵特征之前,先将傅立叶频谱值规范化到0至255的范围,再计算直方图P,然后,熵特征的计算公式为:
其中,H为傅立叶频谱图的熵特征值,Pi为频谱图的直方图中第i个元素的值。
对于傅立叶频谱图的能量特征,先将傅立叶频谱值规范化到0至255的范围,然后,能量特征的计算公式为:
其中,E为傅立叶频谱图的能量特征值,|F(u,v)|为傅立叶频谱值,u和v为图像频率域坐标,M=N=100,为图像边长。
对于极坐标傅立叶频谱特征描述子的计算,先将直角坐标系下的傅立叶频谱利用极坐标表示,直角坐标到极坐标的转换公式为
其中,ρ为极坐标的极径,θ为极角,u和v为图像频率域坐标。
计算极坐标傅立叶频谱特征描述子包括以下维度:
其中,F(ρ,θ)为极坐标下的傅立叶频谱,ρ为极坐标的极径,θ为极角,R为灰度图像宽度的一半,s表示极径ρ被均分的等级个数,t表示极角θ被均分的等级个数。本实施例中,R为50,极坐标下的极径ρ被均分为10个等级,极角θ被均分为8个等级,因此,极坐标频谱特征描述子的维度为18。将傅立叶频谱图的熵特征、能量特征和极坐标傅立叶频谱的特征描述子三种特征组合,构建一个20维的纹理特征,作为人群密度等级分类的特征。
输出单元305,用于记录人群密度分类结果为高密度的区域位置,输出人群聚集区域。
需要说明的是,上述方法实施例一、实施例二和实施三中的技术特征在本装置均对应适用,这里不再重述。
本发明提供的人群聚集区域检测装置,通过多尺度矩形窗口遍历技术,能自动定位人群密集区域的位置,无需人工设定区域位置;同时,采用两层筛选机制对人群区域进行粗定位和精细定位,能精确定位人群聚集。此外,由于没有采用背景相减法,排除了相机抖动,光照突变等外界各因素的影响,对于场景复杂的情况,也能精确检测到人群聚集事件。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分步骤是可以通过程序来控制相关的硬件完成,所述的程序可以在存储于一计算机可读取存储介质中,所述的存储介质,如ROM/RAM、磁盘、光盘等。
以上参照附图说明了本发明的优选实施例,并非因此局限本发明的权利范围。本领域技术人员不脱离本发明的范围和实质,可以有多种变型方案实现本发明,比如作为一个实施例的特征可用于另一实施例而得到又一实施例。凡在运用本发明的技术构思之内所作的任何修改、等同替换和改进,均应在本发明的权利范围之内。

Claims (6)

1.一种人群聚集区域检测方法,其特征在于,该方法包括:
采样输入的视频图像并进行预处理,得到灰度图;
利用预设的多尺度矩形窗口遍历所述灰度图,并采用分类器粗定位人群密集区域;
当存在人群密集区域时,根据人群密度对所述人群密集区域进行精细定位人群聚集区域;进一步包括:根据所述人群密集区域的位置,从输入的彩色图像中截取对应的人群密集区图像;将所述人群密集区图像缩放到预设的大小,并转换为灰度图像,得到人群密集区灰度图;利用傅里叶变换将所述人群密集区灰度图转换到频率域,得到人群密集区傅立叶频谱图;计算所述人群密集区傅立叶频谱图的傅立叶频谱特征,并采用分类器进行人群密度等级分类;记录人群密度分类结果为高密度的区域位置,输出人群聚集区域;其中,所述计算人群密集区傅立叶频谱图的傅立叶频谱特征,并采用分类器进行人群密度等级分类进一步包括:计算人群密集区傅立叶频谱图的熵特征、能量特征和极坐标傅立叶频谱特征描述子;采用BP神经网络分类器对所述熵特征、能量特征和极坐标傅立叶频谱特征描述子进行人群密度等级分类。
2.根据权利要求1所述的人群聚集区域检测方法,其特征在于,所述利用预设的多尺度矩形窗口遍历所述灰度图,并采用分类器粗定位人群密集区域进一步包括:
针对每一个预设尺度的矩形窗口,将其在所述灰度图上滑动,获取被所述矩形窗口覆盖的子图像的集合;
提取每个所述子图像的HOG特征;
采用Adaboost级联分类器对所述每个子图像的HOG特征进行分类,得到人群密集候选区域;
将所述人群密集候选区域进行融合,得到人群密集区域。
3.根据权利要求2所述的人群聚集区域检测方法,其特征在于,提取所述每个子图像的HOG特征进一步包括:
利用梯度算子提取所述子图像的水平方向和垂直方向的梯度;
计算每个像素的梯度大小和梯度方向;
将所述子图像分成至少两个单元格,在每个单元格内建立梯度方向直方图;
将相邻的单元格组成一个块,将一个块内所有单元格的特征向量串联起来,并进行归一化处理,得到该块的特征;
将该子图像的所有块的特征串联,得到该子图像的HOG特征。
4.根据权利要求1所述的人群聚集区域检测方法,其特征在于,所述计算极坐标傅立叶频谱特征描述子包括以下维度:
<mfenced open = "{" close = "}"> <mtable> <mtr> <mtd> <mrow> <munderover> <mi>&amp;Sigma;</mi> <mrow> <mi>&amp;rho;</mi> <mo>=</mo> <mn>0</mn> </mrow> <mfrac> <mi>R</mi> <mi>s</mi> </mfrac> </munderover> <munderover> <mi>&amp;Sigma;</mi> <mrow> <mi>&amp;theta;</mi> <mo>=</mo> <mn>0</mn> </mrow> <mi>&amp;pi;</mi> </munderover> <mi>F</mi> <mrow> <mo>(</mo> <mi>&amp;rho;</mi> <mo>,</mo> <mi>&amp;theta;</mi> <mo>)</mo> </mrow> <mo>,</mo> </mrow> </mtd> <mtd> <mrow> <munderover> <mi>&amp;Sigma;</mi> <mrow> <mi>&amp;rho;</mi> <mo>=</mo> <mfrac> <mi>R</mi> <mi>s</mi> </mfrac> </mrow> <mrow> <mn>2</mn> <mo>*</mo> <mfrac> <mi>R</mi> <mi>s</mi> </mfrac> </mrow> </munderover> <munderover> <mi>&amp;Sigma;</mi> <mrow> <mi>&amp;theta;</mi> <mo>=</mo> <mn>0</mn> </mrow> <mi>&amp;pi;</mi> </munderover> <mi>F</mi> <mrow> <mo>(</mo> <mi>&amp;rho;</mi> <mo>,</mo> <mi>&amp;theta;</mi> <mo>)</mo> </mrow> <mo>,</mo> </mrow> </mtd> <mtd> <mrow> <mn>...</mn> <mo>,</mo> </mrow> </mtd> <mtd> <mrow> <munderover> <mi>&amp;Sigma;</mi> <mrow> <mi>&amp;rho;</mi> <mo>=</mo> <mrow> <mo>(</mo> <mi>s</mi> <mo>-</mo> <mn>1</mn> <mo>)</mo> </mrow> <mo>*</mo> <mfrac> <mi>R</mi> <mi>s</mi> </mfrac> </mrow> <mi>R</mi> </munderover> <munderover> <mi>&amp;Sigma;</mi> <mrow> <mi>&amp;theta;</mi> <mo>=</mo> <mn>0</mn> </mrow> <mi>&amp;pi;</mi> </munderover> <mi>F</mi> <mrow> <mo>(</mo> <mi>&amp;rho;</mi> <mo>,</mo> <mi>&amp;theta;</mi> <mo>)</mo> </mrow> <mo>,</mo> </mrow> </mtd> </mtr> <mtr> <mtd> <mrow> <munderover> <mi>&amp;Sigma;</mi> <mrow> <mi>&amp;theta;</mi> <mo>=</mo> <mn>0</mn> </mrow> <mrow> <mi>&amp;pi;</mi> <mo>/</mo> <mi>t</mi> </mrow> </munderover> <munderover> <mi>&amp;Sigma;</mi> <mrow> <mi>&amp;rho;</mi> <mo>=</mo> <mn>0</mn> </mrow> <mi>R</mi> </munderover> <mi>F</mi> <mrow> <mo>(</mo> <mi>&amp;rho;</mi> <mo>,</mo> <mi>&amp;theta;</mi> <mo>)</mo> </mrow> <mo>,</mo> </mrow> </mtd> <mtd> <mrow> <munderover> <mi>&amp;Sigma;</mi> <mrow> <mi>&amp;theta;</mi> <mo>=</mo> <mi>&amp;pi;</mi> <mo>/</mo> <mi>t</mi> </mrow> <mrow> <mn>2</mn> <mo>*</mo> <mi>&amp;pi;</mi> <mo>/</mo> <mi>t</mi> </mrow> </munderover> <munderover> <mi>&amp;Sigma;</mi> <mrow> <mi>&amp;rho;</mi> <mo>=</mo> <mn>0</mn> </mrow> <mi>R</mi> </munderover> <mi>F</mi> <mrow> <mo>(</mo> <mi>&amp;rho;</mi> <mo>,</mo> <mi>&amp;theta;</mi> <mo>)</mo> </mrow> <mo>,</mo> </mrow> </mtd> <mtd> <mrow> <mn>...</mn> <mo>,</mo> </mrow> </mtd> <mtd> <mrow> <munderover> <mi>&amp;Sigma;</mi> <mrow> <mi>&amp;theta;</mi> <mo>=</mo> <mrow> <mo>(</mo> <mi>t</mi> <mo>-</mo> <mn>1</mn> <mo>)</mo> </mrow> <mo>*</mo> <mi>&amp;pi;</mi> <mo>/</mo> <mi>t</mi> </mrow> <mi>&amp;pi;</mi> </munderover> <munderover> <mi>&amp;Sigma;</mi> <mrow> <mi>&amp;rho;</mi> <mo>=</mo> <mn>0</mn> </mrow> <mi>R</mi> </munderover> <mi>F</mi> <mrow> <mo>(</mo> <mi>&amp;rho;</mi> <mo>,</mo> <mi>&amp;theta;</mi> <mo>)</mo> </mrow> </mrow> </mtd> </mtr> </mtable> </mfenced>
其中,F(ρ,θ)为极坐标下的傅立叶频谱,ρ为极坐标的极径,θ为极角,R为灰度图像宽度的一半,s表示极径ρ被均分的等级个数,t表示极角θ被均分的等级个数。
5.一种人群聚集区域检测装置,其特征在于,该装置包括:
预处理模块,用于采样输入的视频图像并进行预处理,得到灰度图;
粗定位模块,用于利用预设的多尺度矩形窗口遍历所述灰度图,并采用分类器粗定位人群密集区域;
精细定位模块,用于当存在人群密集区域时,根据人群密度对所述人群密集区域进行精细定位人群聚集区域;其包括:人群密集区图像获取单元,用于根据所述人群密集区域的位置,从输入的彩色图像中截取对应的人群密集区图像;人群密集区灰度图获取单元,用于将所述人群密集区图像缩放到预设的大小,并转换为灰度图像,得到人群密集区灰度图;傅立叶频谱图获取单元,用于利用傅里叶变换将所述人群密集区灰度图转换到频率域,得到人群密集区傅立叶频谱图;傅立叶频谱特征分类单元,用于计算所述人群密集区傅立叶频谱图的傅立叶频谱特征,并采用分类器进行人群密度等级分类;输出单元,用于记录人群密度分类结果为高密度的区域位置,输出人群聚集区域;其中,所述傅立叶频谱特征分类单元具体用于:计算人群密集区傅立叶频谱图的熵特征、能量特征和极坐标傅立叶频谱特征描述子;采用BP神经网络分类器对所述熵特征、能量特征和极坐标傅立叶频谱特征描述子进行人群密度等级分类。
6.根据权利要求5所述的人群聚集区域检测装置,其特征在于,所述粗定位模块包括:
子图像提取单元,用于针对每一个预设尺度的矩形窗口,将其在所述灰度图上滑动,获取被所述矩形窗口覆盖的子图像的集合;
HOG特征提取单元,用于提取每个所述子图像的HOG特征;
HOG特征分类单元,用于采用Adaboost级联分类器对所述每个子图像的HOG特征进行分类,得到人群密集候选区域;
区域融合单元,用于将所述人群密集候选区域进行融合,得到人群密集区域。
CN201410508575.4A 2014-09-28 2014-09-28 一种人群聚集区域检测方法和装置 Active CN104268528B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410508575.4A CN104268528B (zh) 2014-09-28 2014-09-28 一种人群聚集区域检测方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410508575.4A CN104268528B (zh) 2014-09-28 2014-09-28 一种人群聚集区域检测方法和装置

Publications (2)

Publication Number Publication Date
CN104268528A CN104268528A (zh) 2015-01-07
CN104268528B true CN104268528B (zh) 2017-10-17

Family

ID=52160048

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410508575.4A Active CN104268528B (zh) 2014-09-28 2014-09-28 一种人群聚集区域检测方法和装置

Country Status (1)

Country Link
CN (1) CN104268528B (zh)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105809092A (zh) * 2014-12-30 2016-07-27 深圳中兴力维技术有限公司 人群目标检测方法及其装置
CN104850843B (zh) * 2015-05-26 2018-05-01 中科院成都信息技术股份有限公司 一种高精度定位系统中快速检测人员过度聚集的方法
CN105654093B (zh) * 2015-11-25 2018-09-25 小米科技有限责任公司 特征提取方法及装置
CN105678333B (zh) * 2016-01-06 2020-07-28 浙江宇视科技有限公司 一种拥挤区域的确定方法和装置
CN107092915B (zh) * 2016-02-18 2021-03-02 中国移动通信集团浙江有限公司 一种检测人群密度的方法和装置
CN106022219A (zh) * 2016-05-09 2016-10-12 重庆大学 一种非垂直俯视视角的人群密度检测方法
CN106845621B (zh) * 2017-01-18 2019-04-30 山东大学 基于深度卷积神经网络的密集人群人数计数方法及系统
CN108345894B (zh) * 2017-01-22 2019-10-11 北京同方软件有限公司 一种基于深度学习和熵模型的交通事件检测方法
CN108960404B (zh) * 2017-05-22 2021-02-02 浙江宇视科技有限公司 一种基于图像的人群计数方法及设备
CN108304817B (zh) * 2018-02-09 2019-10-29 深圳市无限动力发展有限公司 实现手势操作的方法和装置
CN108764124B (zh) * 2018-05-25 2022-04-26 天津科技大学 人群运动的检测方法及装置
CN109360289B (zh) * 2018-09-29 2021-09-28 南京理工大学 融合巡检机器人定位信息的电力表计检测方法
CN109829503B (zh) * 2019-02-12 2021-12-17 厦门美柚股份有限公司 一种密集恐惧图片判别方法、系统、设备及其存储介质
CN110110748B (zh) * 2019-03-29 2021-08-17 广州思德医疗科技有限公司 一种原始图片的识别方法及装置
CN110996148B (zh) * 2019-11-27 2021-11-30 重庆特斯联智慧科技股份有限公司 一种基于人脸识别的景区多媒体影像流动播放系统和方法
CN111144377B (zh) * 2019-12-31 2023-05-16 北京理工大学 一种基于人群计数算法的密集区域预警方法
CN111242096B (zh) * 2020-02-26 2023-04-18 贵州安防工程技术研究中心有限公司 基于人数梯度的人群聚集的判别方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102509083A (zh) * 2011-11-19 2012-06-20 广州大学 一种肢体冲突事件的检测方法
CN103049751A (zh) * 2013-01-24 2013-04-17 苏州大学 一种改进的加权区域匹配高空视频行人识别方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2553657A4 (en) * 2010-04-02 2015-04-15 Nokia Corp METHODS AND APPARATUS FOR FACIAL DETECTION

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102509083A (zh) * 2011-11-19 2012-06-20 广州大学 一种肢体冲突事件的检测方法
CN103049751A (zh) * 2013-01-24 2013-04-17 苏州大学 一种改进的加权区域匹配高空视频行人识别方法

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
"基于稳定区域梯度方向直方图的行人检测方法";陈锐,等;《计算机辅助设计与图形学学报》;20120331;第24卷(第3期);全文 *
"复杂视觉场景下的行人检测与跟踪方法研究";刘晓辉;《万方数据企业知识服务平台》;20140424;第11页,第45-49页 *
"智能视频监控中的目标检测算法研究";吴勇;《中国优秀硕士学位论文全文数据库(信息科技辑)》;20140115(第01期);第42-47页 *
"突发人群聚集事件智能视频监控";柴斌;《万方数据企业知识服务平台》;20110215;第7-26页、第33页、第60页 *
"行人检测技术综述";苏松志,等;《电子学报》;20120430(第4期);全文 *

Also Published As

Publication number Publication date
CN104268528A (zh) 2015-01-07

Similar Documents

Publication Publication Date Title
CN104268528B (zh) 一种人群聚集区域检测方法和装置
Tian et al. A dual neural network for object detection in UAV images
CN108710865A (zh) 一种基于神经网络的司机异常行为检测方法
CN111563557B (zh) 一种电力电缆隧道内目标检测的方法
CN107273832B (zh) 基于积分通道特征与卷积神经网络的车牌识别方法及系统
CN109033950A (zh) 基于多特征融合级联深度模型的车辆违停检测方法
CN110310264A (zh) 一种基于dcnn的大尺度目标检测方法、装置
CN106372666B (zh) 一种目标识别方法及装置
CN109670429A (zh) 一种基于实例分割的监控视频多目标人脸检测方法及系统
CN105590099B (zh) 一种基于改进卷积神经网络的多人行为识别方法
CN107622258A (zh) 一种结合静态底层特征和运动信息的快速行人检测方法
CN105574550A (zh) 一种车辆识别方法及装置
CN107085696A (zh) 一种基于卡口图像的车辆定位及型号识别方法
CN107688784A (zh) 一种基于深层特征和浅层特征融合的字符识别方法及存储介质
CN107305635A (zh) 对象识别方法、对象识别装置和分类器训练方法
CN106250838A (zh) 车辆识别方法及系统
CN107784291A (zh) 基于红外视频的目标检测跟踪方法和装置
CN104504395A (zh) 基于神经网络实现人车分类的方法和系统
CN104134364B (zh) 具有自我学习能力的实时交通标记识别方法及系统
CN103093212A (zh) 基于人脸检测和跟踪截取人脸图像的方法和装置
CN109948616A (zh) 图像检测方法、装置、电子设备及计算机可读存储介质
CN108804987B (zh) 门开闭状态检测方法和装置、以及人流检测系统
CN107704853A (zh) 一种基于多分类器的交通信号灯的识别方法
CN111915583B (zh) 复杂场景中基于车载红外热像仪的车辆和行人检测方法
CN108198202A (zh) 一种基于光流和神经网络的视频内容检测方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information

Address after: 518000 Guangdong province Shenzhen City Guangming Street million Daiheng high tech Industrial Park No. 5 Building 5 floor

Applicant after: Shenzhen City Zhongzhi Kechuang Robot Co.,Ltd.

Address before: 518000 Guangdong province Shenzhen City Guangming Street million Daiheng high tech Industrial Park No. 5 Building 5 floor

Applicant before: SHENZHEN COSON ELECTRONIC CO.,LTD.

COR Change of bibliographic data
CB02 Change of applicant information
CB02 Change of applicant information

Address after: 518000 Guangdong province Shenzhen City Guangming Street million Daiheng high tech Industrial Park No. 5 Building 5 floor

Applicant after: SMART SECURITY & SURVEILLANCE ROBOT Co.,Ltd.

Address before: 518000 Guangdong province Shenzhen City Guangming Street million Daiheng high tech Industrial Park No. 5 Building 5 floor

Applicant before: Shenzhen City Zhongzhi Kechuang Robot Co.,Ltd.

GR01 Patent grant
GR01 Patent grant
PP01 Preservation of patent right
PP01 Preservation of patent right

Effective date of registration: 20190327

Granted publication date: 20171017

PD01 Discharge of preservation of patent
PD01 Discharge of preservation of patent

Date of cancellation: 20220327

Granted publication date: 20171017

PP01 Preservation of patent right
PP01 Preservation of patent right

Effective date of registration: 20220327

Granted publication date: 20171017

CI03 Correction of invention patent
CI03 Correction of invention patent

Correction item: preservation of patent right

Correct: Patent affairs announcement with the effective date of revoking the patent preservation registration on March 27, 2022

False: The effective date of patent preservation registration is March 27, 2022

Number: 20-01

Volume: 38

CI03 Correction of invention patent
CI03 Correction of invention patent

Correction item: discharge of preservation of patent right

Correct: Patent affairs announcement with the cancellation date of patent preservation registration revoked as March 27, 2022

False: The cancellation date of patent preservation registration is March 27, 2022

Number: 20-01

Volume: 38