CN107480618A

CN107480618A - 一种大数据平台的数据分析方法

Info

Publication number: CN107480618A
Application number: CN201710652333.6A
Authority: CN
Inventors: 刘婉晴; 郭苹
Original assignee: Shenzhen Micro Age Network Technology Co Ltd
Current assignee: Shenzhen Micro Age Network Technology Co Ltd
Priority date: 2017-08-02
Filing date: 2017-08-02
Publication date: 2017-12-15

Abstract

本发明公开了一种大数据平台的数据分析方法，所述方法包括：S1：目标检测和跟踪，被配置用于提取检测目标，并实现目标跟踪；S2：目标识别，被配置用于根据目标检测和跟踪的结果判断视频的内容；S3：行为识别，被配置用于根据识别的结果对对象的行为进行行为理解。本发明通过数据分析技术和视频监控业务的融合，提升了非结构化视频数据读写的效率，提高了数据分析的准确度和可靠性，为视频监控的快速检索、智能分析提供了端到端的解决方案。

Description

一种大数据平台的数据分析方法

技术领域

本发明涉及视频监控领域，尤其涉及一种大数据平台的数据分析方法。

背景技术

在智慧城市的管理中，视频监控发挥着越来越重要的作用。目前，很多城市都已经开始实施“天眼工程”，为的就是实现对城市全方位无死角的监控。密集分布的摄像头网络组成了城市的公共安全视频监控系统，也提升了一个城市治安、交通、消防、市政、城管等各部门的整体管理和服务水平。

一方面，随着视频监控数据量的快速增长，以及摄像头高清化、超高清化的趋势加强，视频监控数据规模将以更快的指数级别增长。在这样的背景下，快速搜索某时间或某些特征的视频段时，操作起来犹如大海捞针。

另一方面，对于获取的数据，如何进行有效的分析利用，对实时存在的危险和异常情况进行预警，也是新的技术难题。

为了解决上述问题，本发明提出一种大数据平台的数据分析方法。

发明内容

具体的，一种大数据平台的数据分析方法，其特征在于，所述方法包括以下步骤：

S1：目标检测和跟踪，被配置用于提取检测目标，并实现目标跟踪；

S2：目标识别，被配置用于根据目标检测和跟踪的结果判断视频的内容；

S3：行为识别，被配置用于根据识别的结果对对象的行为进行行为理解；

S4：产生决策，根据行为识别的结果，产生对应的决策。

优选的，所述S1具体包括：将运动变化区域分割提取出来，实现目标检测；根据目标的颜色、纹理和形状信息来确定其在视频不同帧中出现的位置和区域，实现目标跟踪。

优选的，基于时间差分法和光流KLT算法的混合算法实现目标的检测与跟踪。

优选的，所述S2具体包括：采用隐马尔可夫模型法进行模型识别，将待识别的目标与指定的目标库中的特征进行比较，以确定是否与该库中的某一目标相匹配。

优选的，所述S2具体包括：采用以下方法中的一种或多种进行行为理解：

1)基于帧对帧匹配方法或融合匹配方法，将运动图像序列转化为一个或一组静态的模板，通过将待识别样本的模板与已知的模板进行匹配获得识别结果；

2)将运动的每一种静态姿势定义为一个状态或者一个状态的集合，通过网络的方式将这些状态连接起来，状态和状态之间的切换采用概率来描述，进而获得识别结果；

优选的，在步骤S1之前，还包括视频捕获步骤S0：利用设置在客户前端的视频接入单元对对数据源的视频信息进行捕获和存储。

优选的，所述视频接入单元可以为单独设置的硬件终端，将采集的视频转换统一的协议，通过在终端中嵌入了智能算法，能够将视频中出现的人、车要素进行捕获，提取位置和机构要素，并保存。

优选的，对于获取的视频数据，可以利用视频接入单元的结构化算法进行处理，获得视频描述信息，存储于HBASE中；并将原始视频信息存储于HDFS中，并建立视频描述信息和原始视频信息之间的关联。

优选的，所述方法还包括，在出现异常时，通过联动短信、邮件、LED屏、客户端弹出窗口中的至少一种方式进行实时报警。

优选的，所述方法还包括，行为识别的结果，平台自行将关联信息分发至各终端或终端服务器，当数据出现异常时，生成报警信息发送至终端。

至于发送的顺序，则可以根据用户的实时性需求、用户等级、行为识别结果中一个或多个，计算优选系数，根据优选系数的大小顺序发送。

本发明通过数据分析技术和视频监控业务的融合，提升了非结构化视频数据读写的效率，提高了数据分析的准确度和可靠性，为视频监控的快速检索、智能分析提供了端到端的解决方案。

附图说明

图1是大数据平台的数据分析方法的原理图；

图2是本发明视频接入的神经元组网结构图；

图3是视频结构化描述示意图；

图4是视频摘要示意图。

具体实施方式

为了对本发明的技术特征、目的和效果有更加清楚的理解，现对照附图说明本发明的具体实施方式。

如图1所示，本发明提供了一种大数据平台的数据分析方法，其特征在于，所述方法包括以下步骤：

S4：产生决策，根据行为识别的结果，产生对应的决策。

优选的，所述视频接入单元可以为视频智能终端，将采集的视频转换统一的协议，通过在视频智能终端中嵌入了智能算法，能够将视频中出现的人、车要素进行捕获，提取位置和机构要素，并保存。

至于发送的顺序，则可以根据用户的实时性需求、用户等级、行为识别结果紧急结果、行为识别结果数据量中一个或多个，计算优选系数，根据优选系数的大小顺序发送。

具体地，所述优选系数的计算规则为：

其中，κ为优选系数，s₁、s₂、s₃、s₄分别代表用户的实时性需求系数、用户等级系数、行为识别结果紧急系数、行为识别结果数据量，M、N为正实数。

对于视频数据的特征提取过程，对于获取的多张图像，通过背景减除法、时间差分法、光流法中的至少一种从图像中将运动变化区域分割提取出来；再利用卡尔曼滤波、动态贝叶斯网络、粒子滤波器、光流KLT算法，根据目标的颜色、纹理和形状等信息来确定其在视频不同帧中出现的位置和区域；利用几何特征法、神经网络法、隐马尔可夫模型法等目标识别方法，将待识别的目标与指定的目标库中的特征进行比较，以确定是否与该库中的某一目标相匹配；最后，采用运动能量图像(MEI)和运动历史图像(MHI)，基于轮廓的平均运动形状(MMS)和基于运动前景的平均运动能量(AME)、隐马尔科夫模型HMM，最大熵马尔科夫模型(MEMM)、条件随机场(CRF)、模板匹配的行为识别算法对行为进行识别。

如图2所示，采用视频智能终端/视频接入单元对社会资源摄像机进行接入，汇聚到视频管理平台上进行统一的管理，并提供给大数据分析平台进行应用，采用神经元式的组网方式，接入了天网视频和海量社会资源视频。

可以看到的是，在视频接入端，可以对数据进行存储和捕获，视频大数据平台可以进行结构化处理、对视频信息进行分类、布控、比对和分析。

作为视频接入端，需要考虑的是，不同厂家、不同型号采集的视频，应将其转换为通用的协议，如Megaeyes协议，再传输至视频管理平台。在视频接入过程中，要做到对接入前端零影响，但又不增加中信存储压力的基础上，可采用具有存储功能的视频智能终端/视频接入单元。用户可根据需求配置存储策略和硬件，达到最优效果。

视频捕获是在视频接入单元中嵌入了智能算法，能够将视频中出现的人、车等要素图片捕获，并提取位置和机构要素，保存在大数据平台上，从而将数据捕获的功能前移，采用分布式的计算方式，各节点并行计算，视频数据在接入前端进行捕获。

具体的，对于视频捕获，如图3所示，接入社会资源海量的流视频，同时将视频结构化的部分功能前移，在视频智能终端上做数据捕获。将人、车相关的智能捕获算法内嵌至视频智能终端中。智能终端将捕获的图片、时空信息、机构信息等一起上传至平台，保存在HBase中。平台再对图片进行结构化描述。对于天网的视频资源，也可以通过在前端加视频智能终端或在平台上使用捕获服务器进行捕获。

对于存储在HBase中的图片数据，通过MapReduce并行分析它们的特征，如人物特征、人脸特征、车辆特征等，将特征库保存在HBase中，为后续的特征比对做准备。

对图片中的人物进行矢量分析及结构化分析，结构化分析包括：基本特征(性别、年龄段)、服饰特征(上下衣着颜色、眼镜)、携带物特征(背包、拉杆箱、打伞)、运动特征(姿态、方向)。

对图片中的车辆信息进行矢量分析及结构化分析，结构化特征包括：基本特征(车牌号码、车牌类型、车身颜色、车型、车牌品牌、子品牌、款型)、标识物(年检标、遮阳板、挂饰、纸巾盒、副驾、是否打电话、是否系安全带等)、运动特征(方向、速度)，驾车人员信息。

对图片中人脸信息进行矢量分析及结构化分析，结构化特征包括：基本特征(性别、年龄、人种)、服饰特征(上衣颜色、眼镜)、面部特征(眉毛、眼睛、鼻子、唇、胡须、发髻、耳朵、脸型、嘴、下巴、喉结等)。

对图片中的人骑车信息进行矢量分析及结构化分析，结构化特征包括：基本特征(骑车类型、性别、年龄段)、服饰特征(上衣着颜色、眼镜)、携带物特征(背包、打伞)、运动特征(方向、速度)、车牌照等。

对于如何实现快速查阅视频的问题，在本发明中，对于存储在HDFS中的视频录像和其它各类数据，可以通过MapReduce并行分析，提取视频中的要素，作为视频的语义描述，行一步形成视频摘要，如图4所示，也存储在HDFS中。

视频摘要是对视频内容的一个简单概括。略去无活动目标的帧，只关注有运动目标的画面。通过剔除视频当中没有活动目标出现的部分，把活动的目标提取出来，按照其在原始视频中的活动轨迹合成在不动的背景之上，最大程度的缩短视频的时间。

采用了目前最为先进的"背景估计与前景切割"方法，即将前景物体的活动切割成为一条条三维"管道"，按照用户对于目标物体的密度、区域、时间及类别等的输入条件，重新将管道拼接到背景，展示目标活动的全过程，生成视频摘要，在保留用户感兴趣的原始视频中所有的活动细节的同时，做到用几分钟的时间，浏览一天的视频。该技术保留了运动目标在原始视频中出现的时间顺序和空间位置，同时对于无目标出现或者无运动事件触发所定规则的时间段和区域根据多种规则进行压缩。在视频摘要中，对于人或车辆目标，显示目标出现的时间，并且支持用户通过点击目标，播放目标出现前后的原始视频。

视频摘要形成视频片断，不同时刻的目标“穿越时空”同时展现播放，使24小时的视频被制作成一个简短到几分钟摘要视频成为现实。视频摘要不仅浓缩的是事件的精华，也是活动事件的全部，没有价值的视频将被剔除。通过多分格快照技术，可以在几秒中看完所有的活动目标成为可能，回溯原始视频功能，瞬间锁定目标在原始视频中的位置。这些智能视频分析功能的实现和应用将大大提高海量视频监控录像分析的效率。

本发明可以将公安或交通业务平台等各类终端对接视频大数据平台，作为大数据平台的上层应用平台，通过快速检索，可以从数十亿条数据中快速筛选出目标过车记录，提高公安部门破案效率，提高交通管理部门的执勤效率。另一方面，除了分析车辆过车记录之外，车辆大数据系统使用大数据图像处理引擎，可实时处理海量的卡口过车图片(strom架构处理，性能可线性扩展)；对车辆图片进行智能处理之后，系统提取车型、车系、年款等关键信息，提供对套牌车、假牌车分析的有力比对特征；形成车辆特征向量，支持对海量卡口图片的以图搜图查找，快速定位目标相似车辆、而不受套牌和假牌的影响。

公安业务平台对接视频大数据平台，作为大数据平台的上层应用，为用户提供人脸检索功能。利用大数据平台的超强计算能力，部署多种算法，实现多算法的混合，同时吸纳各种算法的优点，提高大数据库容量下人脸图像的识别和比对性能，宽幅适应年龄、胖瘦、疾病、角度、表情、光照等变化图像。采用典型的“映射－规约”框架，将人脸特征散布到数十、数百甚至数千台电脑上并行计算，获取超强的计算能力。

在比对过程中，比对平台接收到比对请求后，首先对图像进行特征提取，获取人脸特征，通过映射(Map)过程，将待识别的人脸特征分布到各计算节点进行比对，输出相似程度及对应的人员身份信息；随后通过规约(Reduce)过程，将识别结果按照相似程度排序，并进一步过滤，输出最终的比对结果。与传统的人脸识别算法相比，大数据的识别过程将大量人脸数据库中的数据分布到多个计算节点进行比对处理，使得原来需要顺序进行的人脸比对变成了并行处理，大大加速了识别的过程，并且由于云平台的线性扩展性，保证了系统的数据扩展性，数据增长后，还可以通过增加计算节点的方式提高处理能力，保证了系统的实时性。

可选的，为了更大程序的提高计算速率，当存在多个任务并行时，特别是当内存占用超过一定阈值时，如80％，大数据计算层可以根据预先设定的优先级，对各项任务按优先级进行处理；此外，可选的，当存在多个任务并行时，大数据计算层还可以通过对任务的难度和提交时间进行综合考虑，计算出任务的顺序，再按照顺序对任务进行处理。

需要说明的是，对于前述的各个方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本申请并不受所描述的动作顺序的限制，因为依据本申请，某一些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和单元并不一定是本申请所必须的。

在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详细描述的部分，可以参见其他实施例的相关描述。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的程序可存储于计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，所述的存储介质可为磁碟、光盘、ROM、RAM等。

以上所揭露的仅为本发明较佳实施例而已，当然不能以此来限定本发明之权利范围，因此依本发明权利要求所作的等同变化，仍属本发明所涵盖的范围。

Claims

1.一种大数据平台的数据分析方法，其特征在于，所述方法包括以下步骤：

S4：产生决策，根据行为识别的结果，产生对应的决策。

2.一种如权利要求1所述的大数据平台的数据分析方法，其特征在于，所述S1具体包括：将运动变化区域分割提取出来，实现目标检测；根据目标的颜色、纹理和形状信息来确定其在视频不同帧中出现的位置和区域，实现目标跟踪。

3.一种如权利要求2所述的大数据平台的数据分析方法，其特征在于，基于时间差分法和光流KLT算法的混合算法实现目标的检测与跟踪。

4.一种如权利要求1所述的大数据平台的数据分析方法，其特征在于，所述S2具体包括：采用隐马尔可夫模型法进行模型识别，将待识别的目标与指定的目标库中的特征进行比较，以确定是否与该库中的某一目标相匹配。

5.一种如权利要求1所述的大数据平台的数据分析方法，其特征在于，所述S2具体包括：采用以下方法中的一种或多种进行行为理解：

1）基于帧对帧匹配方法或融合匹配方法，将运动图像序列转化为一个或一组静态的模板，通过将待识别样本的模板与已知的模板进行匹配获得识别结果；

2）将运动的每一种静态姿势定义为一个状态或者一个状态的集合，通过网络的方式将这些状态连接起来，状态和状态之间的切换采用概率来描述，进而获得识别结果。

6.一种如权利要求1所述的大数据平台的数据分析方法，其特征在于，在步骤S1之前，还包括视频捕获步骤S0：利用设置在客户前端的视频接入单元对对数据源的视频信息进行捕获和存储。

7.一种如权利要求6所述的大数据平台的数据分析方法，所述视频接入单元可以为视频智能终端，将采集的视频转换统一的协议，通过在终端中嵌入了智能算法，能够将视频中出现的人、车要素进行捕获，提取位置和机构要素，并保存。

8.一种如权利要求6所述的大数据平台的数据分析方法，其特征在于，对于获取的视频数据，可以利用视频接入单元的结构化算法进行处理，获得视频描述信息，存储于HBASE中；并将原始视频信息存储于HDFS中，并建立视频描述信息和原始视频信息之间的关联。

9.一种如权利要求1所述的大数据平台的数据分析方法，所述S4中还包括，在出现异常时，通过联动短信、邮件、LED屏、客户端弹出窗口中的至少一种方式进行实时报警。

10.一种如权利要求9所述的大数据平台的数据分析方法，所述S4中还包括，行为识别的结果，平台自行将关联信息分发至各终端或终端服务器，当数据出现异常时，生成报警信息发送至终端。