CN106686108A - 一种基于分布式检测技术的视频监控方法 - Google Patents

一种基于分布式检测技术的视频监控方法 Download PDF

Info

Publication number
CN106686108A
CN106686108A CN201710026249.3A CN201710026249A CN106686108A CN 106686108 A CN106686108 A CN 106686108A CN 201710026249 A CN201710026249 A CN 201710026249A CN 106686108 A CN106686108 A CN 106686108A
Authority
CN
China
Prior art keywords
video
video monitoring
monitoring method
distributed
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201710026249.3A
Other languages
English (en)
Inventor
欧阳霞
胡振
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
In New Electric Power Research Institute Wisdom City Co Ltd
Original Assignee
In New Electric Power Research Institute Wisdom City Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by In New Electric Power Research Institute Wisdom City Co Ltd filed Critical In New Electric Power Research Institute Wisdom City Co Ltd
Priority to CN201710026249.3A priority Critical patent/CN106686108A/zh
Publication of CN106686108A publication Critical patent/CN106686108A/zh
Pending legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10—File systems; File servers
    • G06F16/13—File access structures, e.g. distributed indices
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10—File systems; File servers
    • G06F16/18—File system types
    • G06F16/182—Distributed file systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70—Information retrieval; Database structures therefor; File system structures therefor of video data
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00—Diagnosis, testing or measuring for television systems or their details
    • H04N17/002—Diagnosis, testing or measuring for television systems or their details for television cameras

Abstract

本发明公开了一种基于分布式检测技术的视频监控方法，包括S1：获取视频监控数据，对视频监控数据进行背景建模；S2：基于数据的并行化处理，将背景建模的视频监控数据进行视频分割，将视频分割成若干片段；S3：对分割后的片段进行分布式存储，其中，将各片段存储在分布式文件系统HDFS系统上；S4：基于算法的并行化处理，其中，采用多个算法模型对分割的各片段进行分别计算处理；S5：输出计算处理后的视频监控数据；S6：返回步骤S1。过引入大数据分布式集群技术，将视频监控与大数据集群相结合，利用大数据集群的分布式存储和分布式计算能力，有效提高视频监控的处理速度，同时，也降低了硬件成本，开发难度和周期也缩小。

Description

一种基于分布式检测技术的视频监控方法
技术领域
本发明涉及计算机程序领域，尤其涉及的是一种基于分布式检测技术的视频监控方法。
背景技术
现有技术中，随着计算机视觉、多媒体技术、网络技术的发展，视频监控系统已经在我们的生活中随处可见，但随着大数据时代的到来，对于海量的视频数据，如何提高处理速度的同时，又能降低成本，并提高实时性是视频监控的一个关键点和难点。
现有视频监控技术中，对于海量视频，解决视频处理速度的常用方法是通过GPU加速实现，通过GPU的众核架构把同样的指令流并行发送到众核上，从而实现算法的并行化处理。
GPU加速确实能够通过算法并行化提高处理速度，但存在成本高，开发难度大，周期长的问题。
因此，现有技术存在缺陷，需要改进。
发明内容
本发明所要解决的技术问题是：提供一种通过引入大数据分布式集群技术，将视频监控与大数据集群相结合，利用大数据集群的分布式存储和分布式计算能力，有效提高视频监控的处理速度，同时，也降低了硬件成本，开发难度和周期也缩小。
本发明的技术方案如下：一种基于分布式检测技术的视频监控方法，包括如下步骤：S1：获取视频监控数据，对视频监控数据进行背景建模；S2：基于数据的并行化处理，其中，将背景建模的视频监控数据进行视频分割，将视频分割成若干片段；S3：对分割后的片段进行分布式存储，其中，将各片段存储在分布式文件系统HDFS系统上；S4：基于算法的并行化处理，其中，采用多个算法模型对分割的各片段进行分别计算处理；S5：输出计算处理后的视频监控数据；S6：返回步骤S1。
应用于上述技术方案，所述的视频监控方法中，步骤S4中，采用的算法模型包括OpenCV视觉处理库计算模型、Map/Rdecue计分布式算模型、Spark计算模型、Storm实时处理计算模型和Spark MLlib内存计算计算模型。
应用于各个上述技术方案，所述的视频监控方法中，步骤S4中，对分割的各片段进行分别计算处理时，包括运动检测计算处理、目标轨迹跟踪计算处理、目标分类计算处理、以及行为与预测计算处理。
应用于各个上述技术方案，所述的视频监控方法中，步骤S4中，对分割的各片段进行分别计算处理时，还包括身份识别计算处理。
应用于各个上述技术方案，所述的视频监控方法中，步骤S1中，在获取视频监控数据时，具体是获取多个监控单目摄像头的视频监控数据，并对各视频监控数据分别进行背景建模。
应用于各个上述技术方案，所述的视频监控方法中，步骤S4中，在进行基于算法的并行化处理时，还进行多目摄像头融合计算处理。
应用于各个上述技术方案，所述的视频监控方法中，步骤S4中，多目摄像头融合计算处理包括多级摄像头间视频关联检索、多级摄像头间遮挡处理、多级摄像头间一致性处理。
应用于各个上述技术方案，所述的视频监控方法中，步骤S1中，对视频监控数据进行背景建模包括特征提取和关键帧提取。
采用上述方案，本发明通过将视频处理技术与大数据集群融合，将视频处理应用在大数据分布式集群上，一方面降低了硬件成本，另一方面通过大数据分布式集群的数据挖掘能力与实时处理能力，提高了视频处理的实时性和分析挖掘能力。
附图说明
图1为本发明采用的系统框架示意图；
图2为本发明的一种实施流程图。
具体实施方式
以下结合附图和具体实施例，对本发明进行详细说明。
本实施例提供了一种基于分布式检测技术的视频监控方法，本实施例所采用的主要系统框架见图1。
其中，通过在大数据平台集群，如服务器、存储设备、基础网络等的基础上，再配合视频监控所需的多目摄像头、以及传视频输网络构成了基础设施层。
在基础设施层之上，通过对视频小文件优化，视频存储处理以及视频读取处理，进行视频文件在大数据集群运行的相关适配。
并行计算层是核心部分，其中，除了将常用的视觉库OpenCV与Map/Rdecue分布式计算模型结合外，还会将视频处理的算法扩展到Spark计算模型、以及Storm计算模型，Spark的内存计算计算模型，可以使算法迭代效率更高，Storm的流式处理模型，可以支持视频的实时处理。
算法层则包含了视频处理的核心算法，包括运动检测、目标跟踪、目标分类、行为分析与预测等。
应用层则围绕着新型智慧城市公共安全建设的需要，进行人、物品的识别，以及对人群、交通进行监控等。
本发明的主要通过大数据集群的分布式存储和分布式计算来实现，具体见图2。
分布式存储主要是基于大数据集群，将视频分割后，存储到分布式文件系统HDFS系统上。
分布式计算，主要由两部分组成：
第一部分是基于数据的并行化处理，在大数据平台的基础上，进行视频分割，形成多个视频片段，让不同的视频片段在不同的集群节点上处理，是在空间上实现并行化；
第二部分是基于算法的并行化处理，通过大数据集群上运行的并行化计算模型，实现算法的并行化，如Map/Reduce模型，Spark模型。并在在hadoop平台通过Map/Reduce模型、Spark模型中调用OpenCL等视觉库，提高视频处理速度。
视频监控的分析处理主要包括单目摄像头的分析以及多目摄像头融合处理两个主要过程。
单目摄像头分析主要解围绕智能视频识别的核心算法进行，核心算法主要包括四部分：
第一部分是运动检测，目的是从序列图像中将变化区域从悲剧图像中提取出来，运动区域的有效分割对于目标分类、跟踪和行为理解等后期处理作铺垫；
第二部分是目标轨迹跟踪，等价于在连续的图像帧间创建基于位置、速度、形状、文理、色彩等有关特征的对应匹配问题，主要有基于特征的目标轨迹跟踪、基于模型的目标轨迹跟踪、基于区域的目标轨迹跟踪、基于主动轮廓模型的目标轨迹跟踪以及基于预测的目标轨迹跟踪；
第三部分是目标分类，识别运动目标所述所属的类别；
第四部分是行为分析与预测，以及身份识别，其主要是针对人群的行为分析，主要包括人群属性分析和人群行为分析。人群属性分析一种是将人群分解为独立的个体目标，通过检测和分析各个独立目标的运动位置、移动速度及其外观属性来例假人群行为，另一种是将人群目标作为整体对象研究，通过计算人群目标的密度和人群的平均运动速度来分析事件；人群行为分析根据人群的运动特征，进行数学建模和事件推理。
多目摄像头分析主要是解决单摄像头视域有限，实际监控场景中通过单摄像头不可能长时间大范围地跟踪运动目标，通常需要多个摄像头进行协同监控。针对广域监控场景，为了实现多摄像头见目标的联系跟踪，研究基于不同重叠类型的多摄像头之间的一致性匹配方法，实现多摄像头之间稳定的目标连续跟踪，为了减少遮挡的影响，研究多摄像头之间的遮挡处理，实现多摄像头的遮挡抵消处理方法，提高判定精确度。
已应用于某市的新型智慧城市公安项目中，接入了公安的监控视频，处理过程见下：
视频存储：视频存储在大数据集群HDFS中，HDFS分布式文件系统存储视频数据的优势有：HDFS适合流式的数据访问和“一次写多次读”的应用，可以很好的满足视频的访问需求；在Yarn架构下HDFS支持MapReduce、Spark等分布式计算模型，可以高效的对视频数据进行分布式处理。
视频解析与读取：视觉处理库OpenCV对于视频的解析主要提供2个接口：解析本地视频文件和解析摄像头的视频流。但是没有提供内存中二进制流的接口。所以对于HDFS上的二进制流处理需要单独处理，可以调用开源的音视频库如FFmpeg来解决。
视频监控分析处理：将智能视频分析的核心算法运行在大数据分布式集群上，并实现了Map/Reduce分布式计算模型和Spark内存计算模型与视觉处理库OpenCV的交互处理。
本发明具有以下优点：
通过大数据集群的分布式处理，取代了GPU加速，降低了视频监控的硬件成本；
通过视觉处理库与大数据Map/Reduce分布式计算模型和Spark内存计算模型相结合，有效的降低了开发难度，缩短开发周期；
通过视觉处理库与大数据Storm实时处理模型相结合，实现了视频的近实时处理。
本发明已经在某市公安视频监控系统应用，通过大数据集群的横向扩展，可以轻松的实现扩容，比传统的GPU加速扩展性更好。
以上仅为本发明的较佳实施例而已，并不用于限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (8)

1.一种基于分布式检测技术的视频监控方法，其特征在于，包括如下步骤：
S1：获取视频监控数据，对视频监控数据进行背景建模；
S2：基于数据的并行化处理，其中，将背景建模的视频监控数据进行视频分割，将视频分割成若干片段；
S3：对分割后的片段进行分布式存储，其中，将各片段存储在分布式文件系统HDFS系统上；
S4：基于算法的并行化处理，其中，采用多个算法模型对分割的各片段进行分别计算处理；
S5：输出计算处理后的视频监控数据；
S6：返回步骤S1。
2.根据权利要求1所述的视频监控方法，其特征在于：步骤S4中，采用的算法模型包括OpenCV视觉处理库计算模型、Map/Rdecue计分布式算模型、Spark计算模型、Storm实时处理计算模型和Spark MLlib内存计算计算模型。
3.根据权利要求2所述的视频监控方法，其特征在于：步骤S4中，对分割的各片段进行分别计算处理时，包括运动检测计算处理、目标轨迹跟踪计算处理、目标分类计算处理、以及行为与预测计算处理。
4.根据权利要求3所述的视频监控方法，其特征在于：步骤S4中，对分割的各片段进行分别计算处理时，还包括身份识别计算处理。
5.根据权利要求3所述的视频监控方法，其特征在于：步骤S1中，在获取视频监控数据时，具体是获取多个监控单目摄像头的视频监控数据，并对各视频监控数据分别进行背景建模。
6.根据权利要求5所述的视频监控方法，其特征在于：步骤S4中，在进行基于算法的并行化处理时，还进行多目摄像头融合计算处理。
7.根据权利要求6所述的视频监控方法，其特征在于：步骤S4中，多目摄像头融合计算处理包括多级摄像头间视频关联检索、多级摄像头间遮挡处理、多级摄像头间一致性处理。
8.根据权利要求1所述的视频监控方法，其特征在于：步骤S1中，对视频监控数据进行背景建模包括特征提取和关键帧提取。
CN201710026249.3A 2017-01-13 2017-01-13 一种基于分布式检测技术的视频监控方法 Pending CN106686108A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710026249.3A CN106686108A (zh) 2017-01-13 2017-01-13 一种基于分布式检测技术的视频监控方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710026249.3A CN106686108A (zh) 2017-01-13 2017-01-13 一种基于分布式检测技术的视频监控方法

Publications (1)

Publication Number Publication Date
CN106686108A true CN106686108A (zh) 2017-05-17

Family

ID=58858912

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710026249.3A Pending CN106686108A (zh) 2017-01-13 2017-01-13 一种基于分布式检测技术的视频监控方法

Country Status (1)

Country Link
CN (1) CN106686108A (zh)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107631754A (zh) * 2017-09-26 2018-01-26 中电科新型智慧城市研究院有限公司 基于大数据平台的边坡监测方法及系统
CN108306965A (zh) * 2018-01-31 2018-07-20 上海小蚁科技有限公司 摄像头的数据处理方法及装置、存储介质、摄像头
CN108540822A (zh) * 2018-04-04 2018-09-14 南京信安融慧网络技术有限公司 一种基于OpenCL的视频关键帧提取加速系统及其提取方法
CN108683877A (zh) * 2018-03-30 2018-10-19 中国科学院自动化研究所 基于Spark的分布式海量视频解析系统
CN108805010A (zh) * 2018-04-23 2018-11-13 西安安邦鼎立智能科技有限公司 一种网络直播平台不良图像检测方法
CN109922315A (zh) * 2019-03-01 2019-06-21 西安电子科技大学 一种基于Spark与OpenCV的实时视频行为分析方法
CN110738692A (zh) * 2018-07-20 2020-01-31 广州优亿信息科技有限公司 一种基于spark集群的智能视频识别方法
CN111565303A (zh) * 2020-05-29 2020-08-21 深圳市易链信息技术有限公司 基于雾计算及深度学习的视频监控方法、系统和可读存储介质
CN112561795A (zh) * 2020-12-02 2021-03-26 济南浪潮高新科技投资发展有限公司 基于Spark和OpenCV的实时生成全景图实现系统及方法
CN112738626A (zh) * 2020-12-24 2021-04-30 北京百度网讯科技有限公司 视频文件的目标检测方法、装置、电子设备及存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101295405A (zh) * 2008-06-13 2008-10-29 西北工业大学 人像与车辆识别报警跟踪方法
CN102663005A (zh) * 2012-03-19 2012-09-12 杭州海康威视系统技术有限公司 基于云计算的海量视频文件存储系统、分析方法及其系统
CN104301671A (zh) * 2014-09-23 2015-01-21 同济大学 Hdfs中基于事件密集度的交通监控视频存储方法
CN104853061A (zh) * 2015-05-05 2015-08-19 中国人民解放军国防科学技术大学 一种基于Hadoop的视频处理方法及系统
CN104935785A (zh) * 2015-05-15 2015-09-23 江苏博智软件科技有限公司 基于Hadoop分布式视频大数据前景检测与运动跟踪方法
CN105574035A (zh) * 2014-10-16 2016-05-11 西安景行数创信息科技有限公司 海量图形图像智能识别检索系统及其检索方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101295405A (zh) * 2008-06-13 2008-10-29 西北工业大学 人像与车辆识别报警跟踪方法
CN102663005A (zh) * 2012-03-19 2012-09-12 杭州海康威视系统技术有限公司 基于云计算的海量视频文件存储系统、分析方法及其系统
CN104301671A (zh) * 2014-09-23 2015-01-21 同济大学 Hdfs中基于事件密集度的交通监控视频存储方法
CN105574035A (zh) * 2014-10-16 2016-05-11 西安景行数创信息科技有限公司 海量图形图像智能识别检索系统及其检索方法
CN104853061A (zh) * 2015-05-05 2015-08-19 中国人民解放军国防科学技术大学 一种基于Hadoop的视频处理方法及系统
CN104935785A (zh) * 2015-05-15 2015-09-23 江苏博智软件科技有限公司 基于Hadoop分布式视频大数据前景检测与运动跟踪方法

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107631754A (zh) * 2017-09-26 2018-01-26 中电科新型智慧城市研究院有限公司 基于大数据平台的边坡监测方法及系统
CN108306965A (zh) * 2018-01-31 2018-07-20 上海小蚁科技有限公司 摄像头的数据处理方法及装置、存储介质、摄像头
US10972703B2 (en) 2018-01-31 2021-04-06 Shanghai Xiaoyi Technology Co., Ltd. Method, device, and storage medium for processing webcam data
CN108683877B (zh) * 2018-03-30 2020-04-28 中国科学院自动化研究所 基于Spark的分布式海量视频解析系统
CN108683877A (zh) * 2018-03-30 2018-10-19 中国科学院自动化研究所 基于Spark的分布式海量视频解析系统
CN108540822A (zh) * 2018-04-04 2018-09-14 南京信安融慧网络技术有限公司 一种基于OpenCL的视频关键帧提取加速系统及其提取方法
CN108805010A (zh) * 2018-04-23 2018-11-13 西安安邦鼎立智能科技有限公司 一种网络直播平台不良图像检测方法
CN110738692A (zh) * 2018-07-20 2020-01-31 广州优亿信息科技有限公司 一种基于spark集群的智能视频识别方法
CN109922315A (zh) * 2019-03-01 2019-06-21 西安电子科技大学 一种基于Spark与OpenCV的实时视频行为分析方法
CN111565303A (zh) * 2020-05-29 2020-08-21 深圳市易链信息技术有限公司 基于雾计算及深度学习的视频监控方法、系统和可读存储介质
CN112561795A (zh) * 2020-12-02 2021-03-26 济南浪潮高新科技投资发展有限公司 基于Spark和OpenCV的实时生成全景图实现系统及方法
CN112738626A (zh) * 2020-12-24 2021-04-30 北京百度网讯科技有限公司 视频文件的目标检测方法、装置、电子设备及存储介质
CN112738626B (zh) * 2020-12-24 2023-02-03 北京百度网讯科技有限公司 视频文件的目标检测方法、装置、电子设备及存储介质

Similar Documents

Publication Publication Date Title
CN106686108A (zh) 一种基于分布式检测技术的视频监控方法
Sheng et al. Near-online tracking with co-occurrence constraints in blockchain-based edge computing
Zhao et al. Spatio-temporal autoencoder for video anomaly detection
Ramzan et al. A review on state-of-the-art violence detection techniques
Ming et al. Deep learning-based person re-identification methods: A survey and outlook of recent works
Ouyang et al. A 3D-CNN and LSTM based multi-task learning architecture for action recognition
Sumon et al. Violence detection by pretrained modules with different deep learning approaches
CN106856577B (zh) 可解决多目标碰撞及遮挡问题的视频摘要生成方法
Dinh et al. Towards AI-based traffic counting system with edge computing
JP7136500B2 (ja) ノイズチャネルに基づくランダム遮蔽回復の歩行者再識別方法
Yang et al. Bidirectional retrospective generation adversarial network for anomaly detection in videos
Zeng et al. A hierarchical spatio-temporal graph convolutional neural network for anomaly detection in videos
Ullah et al. Vision transformer attention with multi-reservoir echo state network for anomaly recognition
Fan et al. Super sparse 3d object detection
Peng et al. Dynamic fusion network for RGBT tracking
Liu et al. Football game video analysis method with deep learning
Dalgaty et al. Hugnet: Hemi-spherical update graph neural network applied to low-latency event-based optical flow
Chen et al. Hierarchical semantic graph reasoning for train component detection
Hussain et al. AI-driven behavior biometrics framework for robust human activity recognition in surveillance systems
Shaikh et al. Real-time multi-object detection using enhanced Yolov5-7S on multi-GPU for high-resolution video
Zhou et al. PASS: Patch Automatic Skip Scheme for Efficient On-device Video Perception
Wiratma et al. An experimental evaluation of grouping definitions for moving entities
Li et al. Vehicle tracking method based on attention-yolov5 and optimized deepsort models
Yang et al. Video Analysis and System Construction of Basketball Game by Lightweight Deep Learning under the Internet of Things
Khorramshahi et al. Scalable and real-time multi-camera vehicle detection, re-identification, and tracking

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20170517