CN113469080A - 一种个体、群体、场景交互协同感知方法、系统及设备 - Google Patents
一种个体、群体、场景交互协同感知方法、系统及设备 Download PDFInfo
- Publication number
- CN113469080A CN113469080A CN202110771588.0A CN202110771588A CN113469080A CN 113469080 A CN113469080 A CN 113469080A CN 202110771588 A CN202110771588 A CN 202110771588A CN 113469080 A CN113469080 A CN 113469080A
- Authority
- CN
- China
- Prior art keywords
- individual
- group
- information
- behavior
- features
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 51
- 230000008447 perception Effects 0.000 title claims abstract description 25
- 230000002452 interceptive effect Effects 0.000 title abstract description 14
- 230000002159 abnormal effect Effects 0.000 claims abstract description 54
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 13
- 238000012545 processing Methods 0.000 claims abstract description 9
- 230000006399 behavior Effects 0.000 claims description 106
- 230000003993 interaction Effects 0.000 claims description 16
- 238000005516 engineering process Methods 0.000 claims description 14
- 206010000117 Abnormal behaviour Diseases 0.000 claims description 13
- 238000001514 detection method Methods 0.000 claims description 9
- 238000000605 extraction Methods 0.000 claims description 9
- 238000004364 calculation method Methods 0.000 claims description 5
- 230000009471 action Effects 0.000 claims description 3
- 238000007781 pre-processing Methods 0.000 claims description 3
- 239000000284 extract Substances 0.000 abstract description 9
- 230000000007 visual effect Effects 0.000 abstract description 3
- 230000008569 process Effects 0.000 description 9
- 238000004590 computer program Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 8
- 238000004891 communication Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000011161 development Methods 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000002996 emotional effect Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 231100001261 hazardous Toxicity 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
Abstract
本发明属于视觉数据处理领域，具体涉及一种个体、群体、场景交互协同感知方法、系统及设备。该方法包括基于当前场景中的视频数据提取每个个体的运动信息、行为信息和身份信息；根据个体的运动信息以及预设流量估计算法计算得到当前场景的群体流量数据；根据个体的行为信息以及群体行为识别模型得到群体行为信息；根据个体的运动信息、个体行为信息、身份信息、群体流量数据和群体行为信息确定当前场景下的异常事件；提取异常事件中的个体特征和/或群体特征作为感兴趣目标特征；在其他场景的视频数据中查找与感兴趣目标特征相似的特征作为关联特征；根据关联特征对跨场景的异常事件预测。本发明实现不同层次信息的交互利用，使各层次信息充分整合。
Description
技术领域
本发明属于视觉数据处理技术领域，具体涉及了一种个体、 群体、场景交互协同感知方法、系统及设备。
背景技术
近年来随着经济社会的发展，公共安全事件频发，对人们的 生命财产安全造成了巨大威胁。当前群体性的活动已经广泛的存在于各 类的商业展览、体育竞技比赛、交通运输、广场和市民中心等。各种突 发安全事件的发展过程，往往都有一定的演化特征，例如，人群的聚集 可能会增加踩踏、打架斗殴等危害性事件的发生概率。因此通过视频对 大范围场景下的个人行为、群体行为等进行监控和预警就显得尤为重要。
当前的智能视频监控技术，只能对个体、群体、场景层次的 感知信息分别进行智能化分析，缺乏对个体、群体、场景各层次之间感 知信息的协同，个体、群体、场景的感知计算分散，数据彼此孤立，导 致信息利用不足，计算冗余。
因此本申请提供一种个体、场景、群体交互协同感知方法、 系统及设备。
发明内容
为了解决现有技术中的上述问题，即个体、群体、场景的感 知计算分散，数据彼此孤立，导致信息利用不足，计算冗余的问题，本 发明提供了一种个体、场景、群体交互协同感知方法、系统及设备。
第一方面，本发明提供一种个体、群体、场景交互协同感知 方法，所述方法包括：
基于当前场景中的视频数据提取每个个体的运动信息、行为 信息、属性信息和身份信息；
根据所述个体的运动信息以及预设流量估计算法计算得到 当前场景的群体流量数据；
根据所述个体的行为信息以及群体行为识别模型得到群体 行为信息；
根据所述个体的运动信息、行为信息、属性信息、身份信息、 所述群体流量数据和所述群体行为信息确定当前场景下的异常事件；
提取所述异常事件中的个体特征和/或群体特征作为感兴趣 目标特征；
在其他场景的视频数据中利用重识别技术查找与所述感兴 趣目标特征相似的特征，并作为关联特征；
根据所述关联特征对其他场景的异常事件进行预测。
可选地，基于当前场景中的视频数据提取每个个体的运动信 息、行为信息和身份信息包括：
提取视频数据中的若干帧视频图像；
对所述视频图像进行预处理；
将预处理后的视频图像分别输入到目标检测模型、目标跟踪 模型、身份识别模型、个体动作识别模型中得到个体运动信息、个体行 为信息和个体身份信息。
可选地，所述个体运动信息包括个体位置、运动轨迹，所述 根据所述个体的运动信息以及预设流量估计算法得到当前场景的群体流 量数据包括：
根据个体相邻时刻的位置判断个体是否在行进状态；
若在行进状态，则获取个体的运动轨迹上相邻两个时刻的位 置坐标
根据
计算个体的当前速度向量估计值
判断相邻两个时刻的位置的连接线段Pt-ΔtPt是否与预设有向 拌线相交，其中，所述有向拌线与当前场景的出入口平行，且以进入场 景入口的垂直向量为参考，将该垂直向量逆时针方向旋转90°作为有向 拌线的方向；
若相交，则计算所述有向拌线沿顺时针方向旋转到
方向的 夹角d；
若0°＜α＜180°，则当前场景的进入次数增加1；
若180°＜α＜340°，则当前场景的出来次数增加1；
利用进入次数的累计数目减去出来次数的累计数目得到当 前场景的群体流量数据。
可选地，所述根据所述个体的运动信息、行为信息、属性信 息、身份信息、所述群体流量数据和所述群体行为信息确定当前场景下 的异常事件包括：
根据所述个体的运动信息和行为信息确定当前场景下的个 体行为异常事件；
根据所述个体的属性信息和身份信息确定当前场景下的个 体身份异常事件；
根据群体流量数据确定当前场景下的群体流量异常事件；
根据所述群体行为信息确定当前场景下的群体行为异常事 件。
可选地，所述群体行为信息包括群体行为类别和群体行为异 常置信度，所述根据所述群体行为信息确定当前场景下的群体行为异常 事件包括：
将所述群体行为异常置信度与预设置信度阈值进行比较；
若大于，则将该群体行为类别作为候选异常行为结果；
统计连续N个检测周期的候选异常行为结果；
将群体行为类别占比最大的结果作为群体异常事件。
可选地，所述在其他场景的视频数据中利用重识别技术查找 与所述感兴趣目标特征相似的特征，并作为关联特征包括：
将其他场景的摄像机视频数据中利用重识别技术提取与所 述感兴趣目标特征相似的特征，并得到特征相似度；
将所述特征相似度与预设相似度阈值进行比较；
若大于，则作为关联特征。
可选地，所述方法还包括：
获取感兴趣目标在各场景、各摄像头下的局部历史轨迹和时 间信息；
按照时间顺序对感兴趣目标的局部历史轨迹进行重建得到 感兴趣目标的跨场景历史轨迹，并对感兴趣目标的跨场景的未来轨迹进 行预测。
可选地，所述方法还包括：
在结构化数据库中检索关联特征对应的时空信息；
根据所述时空信息对感兴趣目标进行跨场景的定位。
第二方面，本发明提供一种个体、群体、场景交互协同感知 系统，所述系统包括：
第一提取单元，用于基于当前场景中的视频数据提取每个个 体的运动信息、行为信息、属性信息和身份信息；
群体流量计算单元，用于根据所述个体的运动信息以及预设 流量估计算法计算得到当前场景的群体流量数据；
群体行为识别单元，用于根据所述个体的行为信息以及群体 行为识别模型得到群体行为信息；
异常事件确定单元，用于根据所述个体的运动信息、行为信 息、属性信息、身份信息、所述群体流量数据和所述群体行为信息确定 当前场景下的异常事件；
第二提取单元，用于提取所述异常事件中的个体特征和/或 群体特征作为感兴趣目标特征；
查找单元，用于在其他场景的视频数据中查找与所述感兴趣 目标特征相似的特征，并作为关联特征；
预测单元，用于根据所述关联特征对其他场景的异常事件进 行预测。
本发明的第三方面，提出了一种设备，包括：
至少一个处理器；以及
与至少一个所述处理器通信连接的存储器；其中，
所述存储器存储有可被所述处理器执行的指令，所述指令用 于被所述处理器执行以实现第一方面任一项所述的个体、群体、场景交 互协同感知方法。
本发明的第四方面，提出了一种计算机可读存储介质，所述 计算机可读存储介质存储有计算机指令，所述计算机指令用于被所述计 算机执行以实现第一方面任一项所述的个体、群体、场景交互协同感知 方法。
本发明的有益效果：本发明通过基于当前场景中的视频数据 提取每个个体的运动信息、行为信息和身份信息；根据个体的运动信息 以及预设流量估计算法计算得到当前场景的群体流量数据；根据个体的 行为信息以及群体行为识别模型得到群体行为信息；根据个体的运动信 息、个体行为信息、身份信息、群体流量数据和群体行为信息确定当前 场景下的异常事件；提取异常事件中的个体特征和/或群体特征作为感兴 趣目标特征；在其他场景的视频数据中利用重识别技术查找与感兴趣目 标特征相似的特征，并作为关联特征；根据关联特征对其他场景的异常 事件进行预测。本发明利用个体感知信息得到群体感知信息，利用个体 感知信息和群体感知信息得到场景感知信息，实现不同层次信息的交互利用，使各层次信息充分整合，提高大范围复杂场景视觉大数据信息的 处理效率，避免了冗余计算。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详 细描述，本申请的其它特征、目的和优点将会变得更明显：
图1是本申请实施例的一种个体、群体、场景交互协同感知 方法的流程示意图；
图2是本申请实施例的一种个体、群体、场景交互协同感知 方法的群体流量估计算法示意图；
图3是本申请实施例的一种个体、群体、场景交互协同感知 系统示意图；
图4是用于实现本申请方法、系统、设备实施例的服务器的 计算机系统的结构示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以 理解的是，此处所描述的具体实施例仅用于解释相关发明，而非对该发 明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有 关发明相关的部分。
本发明提供一种个体、群体、场景交互协同感知方法，所述 方法包括：
基于当前场景中的视频数据提取每个个体的运动信息、行为 信息、属性信息和身份信息；
根据所述个体的运动信息以及预设流量估计算法计算得到 当前场景的群体流量数据；
根据所述个体的行为信息以及群体行为识别模型得到群体 行为信息；
根据所述个体的运动信息、行为信息、属性信息、身份信息、 所述群体流量数据和所述群体行为信息确定当前场景下的异常事件；
提取所述异常事件中的个体特征和/或群体特征作为感兴趣 目标特征；
在其他场景的视频数据中利用重识别技术查找与所述感兴 趣目标特征相似的特征，并作为关联特征；
根据所述关联特征对其他场景的异常事件进行预测。
需要说明的是，在不冲突的情况下，本申请中的实施例及实 施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明 本申请。
为了更清晰地对本发明的个体、群体、场景交互协同感知方 法进行说明，下面结合图1对本发明实施例中各步骤展开详述。
本发明第一实施例的个体、群体、场景交互协同感知方法， 包括步骤S101-步骤S107，各步骤详细描述如下：
步骤S101：基于当前场景中的视频数据提取每个个体的运动 信息、行为信息、属性信息和身份信息。
可选地，基于当前场景中的视频数据提取每个个体的运动信 息、行为信息和身份信息包括：
提取视频数据中的若干帧视频图像；
对所述视频图像进行预处理。该预处理可以包括去噪、归一 化等操作处理。
将预处理后的视频图像分别输入到目标检测模型、目标跟踪 模型、身份识别模型、个体动作识别模型中得到个体运动信息、个体行 为信息、属性信息和个体身份信息。并将该个体运动信息、个体行为信 息、属性信息和个体身份信息存储在结构化数据库中。
在该步骤中，将视频图像输入到目标检测模型中对视频图像 中的所有的个体目标通过检测框进行框定，并通过目标跟踪模型对同一 个体目标在当前场景的运动轨迹进行跟踪。
步骤S]02：根据所述个体的运动信息以及预设流量估计算法 计算得到当前场景的群体流量数据。
密度和流量是群体中最重要的描述指标，群体中个体的密度 分布状态和单位时间流量和群体的管理风险密切相关。在人群密度较高， 单位时间流量较大的区域，容易因拥挤、情绪恶化等原因造成潜在的安 全隐患。因此对群体流量的监测是非常重要的。
可选地，所述个体运动信息包括个体位置、运动轨迹，所述 根据所述个体的运动信息以及预设流量估计算法得到当前场景的群体流 量数据包括：
根据个体相邻时刻的位置判断个体是否在行进状态。
如果两个相邻时刻的位置发生变化说明在行进状态，如果没 有发生变化说明没有在行进状态。
若在行进状态，则获取个体的运动轨迹上相邻两个时刻的位 置坐标
根据
计算个体的当前速度向量估计值
如图2所示，判断相邻两个时刻的位置的连接线段Pt-ΔtPt是否 与预设有向拌线相交，其中，所述有向拌线与当前场景的出入口平行， 且有向拌线的长度略大于出入口的长度，且以进入场景入口的垂直向量 为参考，将该垂直向量逆时针方向旋转90°作为有向拌线的方向；
若相交，则计算所述有向拌线沿顺时针方向旋转到
方向的 夹角α；
若0°＜α＜180°，则当前场景的进入次数增加1；
若180°＜α＜340°，则当前场景的出来次数增加1；
利用进入次数的累计数目减去出来次数的累计数目得到当 前场景的群体流量数据。
步骤S103：根据所述个体的行为信息以及群体行为识别模型 得到群体行为信息。
步骤S104：根据所述个体的运动信息、个体行为信息、身份 信息、所述群体流量数据和所述群体行为信息确定当前场景下的异常事 件。
可选地，所述根据所述个体的运动信息、行为信息、属性信 息、身份信息、所述群体流量数据和所述群体行为信息确定当前场景下 的异常事件包括：
根据所述个体的运动信息和个体行为信息确定当前场景下 的个体行为异常事件。
在一个示例中，可以将个体的运动信息和个体行为信息输入 到个体行为识别模型中输出个体行为的类别和置信度，将个体行为异常 置信度与预设置信度阈值进行比较；若大于，则将该个体行为类别作为 候选异常行为结果；统计连续N个检测周期的候选异常行为结果；将个体 行为类别占比最大的结果作为个体行为异常事件。
根据所述个体的属性信息和身份信息确定当前场景下的个 体身份异常事件。
在该步骤中，身份信息包括身份证号、人脸图像等，根据人 脸图像可以在黑名单人员数据库中判断个体目标是否为黑名单人员。在 无法捕获人脸或捕获的人脸不清晰的情况下可以根据个体的人体区域图 像和属性信息例如个体穿的衣服颜色、携带物等来辅助判断个体目标的 身份。如果判断为黑名单人员则可以确定为个体身份异常事件，并进行报警。
根据群体流量数据确定当前场景下的群体流量异常事件。
在该步骤中，将当前场景进出口统计的群体流量与预设阈值 进行比较，若超过预设阈值，则确定为群体流量异常事件，并进行报警。
根据所述群体行为信息确定当前场景下的群体行为异常事 件。
可选地，所述群体行为信息包括群体行为类别和群体行为异 常置信度，所述根据所述群体行为信息确定当前场景下的群体行为异常 事件包括：
将所述群体行为异常置信度与预设置信度阈值进行比较；
若大于，则将该群体行为类别作为候选异常行为结果；
统计连续N个检测周期的候选异常行为结果；
将群体行为类别占比最大的结果作为群体异常事件。并进行 报警
步骤S105：提取所述异常事件中的个体特征和/或群体特征 作为感兴趣目标特征。
步骤S106：在其他场景的视频数据中利用重识别技术查找与 所述感兴趣目标特征相似的特征，并作为关联特征。
可选地，所述在其他场景的视频数据中利用重识别技术查找 与所述感兴趣目标特征相似的特征，并作为关联特征包括：
将其他场景的摄像机视频数据中利用重识别技术提取与所 述感兴趣目标特征相似的特征，并得到特征相似度；
将所述特征相似度与预设相似度阈值进行比较；
若大于，则作为关联特征，并将关联特征对应的目标作为关 联目标，关联目标与感兴趣目标有一定概率为同一目标。
步骤S107：根据所述关联特征对其他场景的异常事件进行预 测。
具体地，在结构化数据库中检索关联特征对应场景中的个体 和/或群体异常事件，获取感兴趣目标的跨场景关联事件，对跨场景关联 事件进行预测其中，结构化数据库是用来存储各场景下的各摄像头获取 的个体结构化信息和群体结构化信息的，例如个体身份信息、个体行为 信息、个体运动信息、群体流量和群体行为信息等。
可选地，所述方法还包括：
获取感兴趣目标在各场景、各摄像头下的局部历史轨迹和时 间信息；
按照时间顺序对感兴趣目标的局部历史轨迹进行重建得到 感兴趣目标的跨场景历史轨迹，并对感兴趣目标的跨场景的未来轨迹进 行预测。在该步骤中，可以根据目标的历史跨场景运动轨迹来训练跨场 景轨迹预测模型，将关联特征输入到跨场景轨迹预测模型中得到预测的 跨场景运动轨迹。
其中，历史目标的跨场景运动轨迹获取两种方法。如果是有 重叠场景的摄像头网络，需要根据相机标定技术将摄像头之间有视野重 叠区域的位置融合为统一的世界坐标，从而对历史目标的跨场景运动轨 迹进行跟踪。如果是非重叠场景的摄像头网络，需要对摄像头之间相邻 时间段内出现的目标，利用行人重识别技术建立目标关联，从而对历史 目标的跨场景运动轨迹进行跟踪。
可选地，所述方法还包括：
在结构化数据库中检索关联特征对应的时空信息；
在该步骤中，时空信息包括时间和空间信息，即关联特征对 应的目标的空间位置信息和运动时间信息。
根据所述时空信息对感兴趣目标进行跨场景的定位。
基于同样的发明构思，本发明提供一种个体、群体、场景交 互协同感知系统，如图3所示，所述系统包括：
第一提取单元301，用于基于当前场景中的视频数据提取每 个个体的运动信息、行为信息和身份信息；
群体流量计算单元302，用于根据所述个体的运动信息以及 预设流量估计算法计算得到当前场景的群体流量数据；
群体行为识别单元303，用于根据所述个体的行为信息以及 群体行为识别模型得到群体行为信息；
异常事件确定单元304，用于根据所述个体的运动信息、个 体行为信息、身份信息、所述群体流量数据和所述群体行为信息确定当 前场景下的异常事件；
第二提取单元305，用于提取所述异常事件中的个体特征和/ 或群体特征作为感兴趣目标特征；
查找单元306，用于在其他场景的视频数据中查找与所述感 兴趣目标特征相似的特征，并作为关联特征；
预测单元307，用于根据所述关联特征对其他场景的异常事 件进行预测。
所属技术领域的技术人员可以清楚地了解到，为描述的方便 和简洁，上述描述的系统的具体工作过程及有关说明，可以参考前述方 法实施例中的对应过程，在此不再赘述。
需要说明的是，上述实施例提供的个体、群体、场景交互协 同感知系统，仅以上述各功能模块的划分进行举例说明，在实际应用中， 可以根据需要而将上述功能分配由不同的功能模块来完成，即将本发明 实施例中的模块或者步骤再分解或者组合，例如，上述实施例的模块可 以合并为一个模块，也可以进一步拆分成多个子模块，以完成以上描述 的全部或者部分功能。对于本发明实施例中涉及的模块、步骤的名称， 仅仅是为了区分各个模块或者步骤，不视为对本发明的不当限定。
本发明第三实施例的一种设备，包括：
至少一个处理器；以及
与至少一个所述处理器通信连接的存储器；其中，
所述存储器存储有可被所述处理器执行的指令，所述指令用 于被所述处理器执行以实现个体、群体、场景交互协同感知方法。
本发明第四实施例的一种计算机可读存储介质，所述计算机 可读存储介质存储有计算机指令，所述计算机指令用于被所述计算机执 行以实现个体、群体、场景交互协同感知方法。
所属技术领域的技术人员可以清楚地了解到，为描述的方便 和简洁，上述描述的存储装置、处理装置的具体工作过程及有关说明， 可以参考前述方法实施例中的对应过程，在此不再赘述。
下面参考图4，其示出了用于实现本申请方法、系统、设备 实施例的服务器的计算机系统的结构示意图。图4示出的服务器仅仅是 一个示例，不应对本申请实施例的功能和使用范围带来任何限制。
如图4所示，计算机系统包括中央处理单元(CPU， Central Processing Unit)401，其可以根据存储在只读存储器(ROM，Read Only Memory)402中的程序或者从存储部分408加载到随机访问 存储器(RAM，Random Access Memory)403中的程序而执行各种适当的动作和处理。在RAM 403中，还存储有系统操作所需的各种程序和数 据。CPU 401、ROM402以及RAM 403通过总线404彼此相连。输入/ 输出(I/O，Input/Output)接口405也连接至总线404。
以下部件连接至I/O接口405：包括键盘、鼠标等的输入部 分406；包括诸如阴极射线管(CRT，Cathode Ray Tube)、液晶显示器 (LCD，Liquid Crystal Display)等以及扬声器等的输出部分407；包括 硬盘等的存储部分408；以及包括诸如LAN(局域网， Local AreaNetwork)卡、调制解调器等的网络接口卡的通信部分409。 通信部分409经由诸如因特网的网络执行通信处理。驱动器410也根据 需要连接至I/O接口405。可拆卸介质411，诸如磁盘、光盘、磁光盘、 半导体存储器等等，根据需要安装在驱动器410上，以便于从其上读出 的计算机程序根据需要被安装入存储部分408。
特别地，根据本公开的实施例，上文参考流程图描述的过程 可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机 程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程 序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该 计算机程序可以通过通信部分409从网络上被下载和安装，和/或从可拆 卸介质411被安装。在该计算机程序被中央处理单元(CPU)401执行时， 执行本申请的方法中限定的上述功能。需要说明的是，本申请上述的计 算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者 是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于 ——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者 任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限 于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访 问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM 或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、 磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读存 储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行 系统、装置或者器件使用或者与其结合使用。而在本申请中，计算机可 读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号， 其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种 形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算 机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读 介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、 装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的 程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光 缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行 本申请的操作的计算机程序代码，上述程序设计语言包括面向对象的程 序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计 语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用 户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包 执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程 计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以 通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用 户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来 通过因特网连接)。
附图中的流程图和框图，图示了按照本申请各种实施例的系 统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这 点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码 的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现 规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中， 方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如， 两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按 相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流 程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行 规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
术语“第一”、“第二”等是用于区别类似的对象，而不 是用于描述或表示特定的顺序或先后次序。
术语“包括”或者任何其它类似用语旨在涵盖非排他性的包 含，从而使得包括一系列要素的过程、方法、物品或者设备/装置不仅包 括那些要素，而且还包括没有明确列出的其它要素，或者还包括这些过 程、方法、物品或者设备/装置所固有的要素。
至此，已经结合附图所示的优选实施方式描述了本发明的技 术方案，但是，本领域技术人员容易理解的是，本发明的保护范围显然 不局限于这些具体实施方式。在不偏离本发明的原理的前提下，本领域 技术人员可以对相关技术特征做出等同的更改或替换，这些更改或替换 之后的技术方案都将落入本发明的保护范围之内。
Claims (10)
1.一种个体、群体、场景交互协同感知方法，其特征在于，所述方法包括：
基于当前场景中的视频数据提取每个个体的运动信息、行为信息、属性信息和身份信息；
根据所述个体的运动信息以及预设流量估计算法计算得到当前场景的群体流量数据；
根据所述个体的行为信息以及群体行为识别模型得到群体行为信息；
根据所述个体的运动信息、行为信息、属性信息、身份信息、所述群体流量数据和所述群体行为信息确定当前场景下的异常事件；
提取所述异常事件中的个体特征和/或群体特征作为感兴趣目标特征；
在其他场景的视频数据中利用重识别技术查找与所述感兴趣目标特征相似的特征，并作为关联特征；
根据所述关联特征对其他场景的异常事件进行预测。
2.根据权利要求1所述的个体、群体、场景交互协同感知方法，其特征在于，所述基于当前场景中的视频数据提取每个个体的运动信息、行为信息和身份信息包括：
提取视频数据中的若干帧视频图像；
对所述视频图像进行预处理；
将预处理后的视频图像分别输入到目标检测模型、目标跟踪模型、身份识别模型、个体动作识别模型中得到个体运动信息、个体行为信息和个体身份信息。
3.根据权利要求1所述的个体、群体、场景交互协同感知方法，其特征在于，所述个体运动信息包括个体位置、运动轨迹，所述根据所述个体的运动信息以及预设流量估计算法得到当前场景的群体流量数据包括：
根据个体相邻时刻的位置判断个体是否在行进状态；
若在行进状态，则获取个体的运动轨迹上相邻两个时刻的位置坐标
根据
计算个体的当前速度向量估计值
判断相邻两个时刻的位置的连接线段Pt-ΔtPt是否与预设有向拌线相交，其中，所述有向拌线与当前场景的出入口平行，且以进入场景入口的垂直向量为参考，将该垂直向量逆时针方向旋转90°作为有向拌线的方向；
若相交，则计算所述有向拌线沿顺时针方向旋转到
方向的夹角α；
若0°<α<180°，则当前场景的进入次数增加1；
若180°<α<340°，则当前场景的出来次数增加1；
利用进入次数的累计数目减去出来次数的累计数目得到当前场景的群体流量数据。
4.根据权利要求1所述的个体、群体、场景交互协同感知方法，其特征在于，所述根据所述个体的运动信息、行为信息、属性信息、身份信息、所述群体流量数据和所述群体行为信息确定当前场景下的异常事件包括：
根据所述个体的运动信息和行为信息确定当前场景下的个体行为异常事件；
根据所述个体的属性信息和身份信息确定当前场景下的个体身份异常事件；
根据群体流量数据确定当前场景下的群体流量异常事件；
根据所述群体行为信息确定当前场景下的群体行为异常事件。
5.根据权利要求4所述的个体、群体、场景交互协同感知方法，其特征在于，所述群体行为信息包括群体行为类别和群体行为异常置信度，所述根据所述群体行为信息确定当前场景下的群体行为异常事件包括：
将所述群体行为异常置信度与预设置信度阈值进行比较；
若大于，则将该群体行为类别作为候选异常行为结果；
统计连续N个检测周期的候选异常行为结果；
将群体行为类别占比最大的结果作为群体异常事件。
6.根据权利要求1所述的个体、群体、场景交互协同感知方法，其特征在于，所述在其他场景的视频数据中利用重识别技术查找与所述感兴趣目标特征相似的特征，并作为关联特征包括：
将其他场景的摄像机视频数据中利用重识别技术提取与所述感兴趣目标特征相似的特征，并得到特征相似度；
将所述特征相似度与预设相似度阈值进行比较；
若大于，则作为关联特征。
7.根据权利要求1所述的个体、群体、场景交互协同感知方法，其特征在于，所述方法还包括：获取感兴趣目标在各场景、各摄像头下的局部历史轨迹和时间信息；
按照时间顺序对感兴趣目标的局部历史轨迹进行重建得到感兴趣目标的跨场景历史轨迹，并对感兴趣目标的跨场景的未来轨迹进行预测。
8.根据权利要求1所述的个体、群体、场景交互协同感知方法，其特征在于，所述方法还包括：
在结构化数据库中检索关联特征对应的时空信息；
根据所述时空信息对感兴趣目标进行跨场景的定位。
9.一种个体、群体、场景交互协同感知系统，其特征在于，所述系统包括：
第一提取单元，用于基于当前场景中的视频数据提取每个个体的运动信息、行为信息、属性信息和身份信息；
群体流量计算单元，用于根据所述个体的运动信息以及预设流量估计算法计算得到当前场景的群体流量数据；
群体行为识别单元，用于根据所述个体的行为信息以及群体行为识别模型得到群体行为信息；
异常事件确定单元，用于根据所述个体的运动信息、行为信息、属性信息、身份信息、所述群体流量数据和所述群体行为信息确定当前场景下的异常事件；
第二提取单元，用于提取所述异常事件中的个体特征和/或群体特征作为感兴趣目标特征；
查找单元，用于在其他场景的视频数据中查找与所述感兴趣目标特征相似的特征，并作为关联特征；
预测单元，用于根据所述关联特征对其他场景的异常事件进行预测。
10.一种电子设备，其特征在于，包括：
至少一个处理器；以及
与至少一个所述处理器通信连接的存储器；其中，
所述存储器存储有可被所述处理器执行的指令，所述指令用于被所述处理器执行以实现权利要求1-8任一项所述的个体、群体、场景交互协同感知方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110771588.0A CN113469080B (zh) | 2021-07-08 | 2021-07-08 | 一种个体、群体、场景交互协同感知方法、系统及设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110771588.0A CN113469080B (zh) | 2021-07-08 | 2021-07-08 | 一种个体、群体、场景交互协同感知方法、系统及设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113469080A true CN113469080A (zh) | 2021-10-01 |
| CN113469080B CN113469080B (zh) | 2024-07-12 |
Family
ID=77879010
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110771588.0A Active CN113469080B (zh) | 2021-07-08 | 2021-07-08 | 一种个体、群体、场景交互协同感知方法、系统及设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113469080B (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114581858A (zh) * | 2022-05-06 | 2022-06-03 | 中科智为科技(天津)有限公司 | 一种小股人群重识别方法及模型训练方法 |
| US20230154233A1 (en) * | 2021-11-16 | 2023-05-18 | Deep Et | Apparatus and method for face recognition using user terminal |
Citations (15)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20030058111A1 (en) * | 2001-09-27 | 2003-03-27 | Koninklijke Philips Electronics N.V. | Computer vision based elderly care monitoring system |
| WO2006105286A2 (en) * | 2005-03-30 | 2006-10-05 | Cernium Corporation | Intelligent video behavior recognition with multiple masks and configurable logic inference module |
| CN104021570A (zh) * | 2014-06-04 | 2014-09-03 | 电子科技大学 | 一种视频中有方向的越界和拌线检测方法 |
| CN104700434A (zh) * | 2015-03-27 | 2015-06-10 | 北京交通大学 | 一种用于复杂结构化场景的人群运动轨迹异常检测方法 |
| CN105184258A (zh) * | 2015-09-09 | 2015-12-23 | 苏州科达科技股份有限公司 | 目标跟踪方法及系统、人员行为分析方法及系统 |
| CN106446922A (zh) * | 2015-07-31 | 2017-02-22 | 中国科学院大学 | 一种人群异常行为分析方法 |
| CN109241834A (zh) * | 2018-07-27 | 2019-01-18 | 中山大学 | 一种基于隐变量的嵌入的群体行为识别方法 |
| CN110110710A (zh) * | 2019-06-03 | 2019-08-09 | 北京启瞳智能科技有限公司 | 一种场景异常状态识别方法、系统和智能终端 |
| CN111353426A (zh) * | 2020-02-28 | 2020-06-30 | 山东浪潮通软信息科技有限公司 | 异常行为的检测方法及装置 |
| CN111582122A (zh) * | 2020-04-29 | 2020-08-25 | 成都信息工程大学 | 一种监控视频多维度行人行为智能分析系统及方法 |
| US20210019533A1 (en) * | 2018-04-13 | 2021-01-21 | Shanghai Truthvision Information Technology Co., Ltd. | System and method for abnormal scene detection |
| CN112597858A (zh) * | 2020-12-16 | 2021-04-02 | 中国电子科技集团公司电子科学研究院 | 一种监控方法、装置及可读存储介质 |
| CN112801018A (zh) * | 2021-02-07 | 2021-05-14 | 广州大学 | 一种跨场景目标自动识别与追踪方法及应用 |
| CN112861673A (zh) * | 2021-01-27 | 2021-05-28 | 长扬科技（北京）有限公司 | 一种用于监控视频多目标检测的去误报预警方法和系统 |
| CN114531572A (zh) * | 2022-04-05 | 2022-05-24 | 河南海融软件有限公司 | 一种人员流动实时监控设备及监控区域实时客流算法 |
-
2021
- 2021-07-08 CN CN202110771588.0A patent/CN113469080B/zh active Active
Patent Citations (15)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20030058111A1 (en) * | 2001-09-27 | 2003-03-27 | Koninklijke Philips Electronics N.V. | Computer vision based elderly care monitoring system |
| WO2006105286A2 (en) * | 2005-03-30 | 2006-10-05 | Cernium Corporation | Intelligent video behavior recognition with multiple masks and configurable logic inference module |
| CN104021570A (zh) * | 2014-06-04 | 2014-09-03 | 电子科技大学 | 一种视频中有方向的越界和拌线检测方法 |
| CN104700434A (zh) * | 2015-03-27 | 2015-06-10 | 北京交通大学 | 一种用于复杂结构化场景的人群运动轨迹异常检测方法 |
| CN106446922A (zh) * | 2015-07-31 | 2017-02-22 | 中国科学院大学 | 一种人群异常行为分析方法 |
| CN105184258A (zh) * | 2015-09-09 | 2015-12-23 | 苏州科达科技股份有限公司 | 目标跟踪方法及系统、人员行为分析方法及系统 |
| US20210019533A1 (en) * | 2018-04-13 | 2021-01-21 | Shanghai Truthvision Information Technology Co., Ltd. | System and method for abnormal scene detection |
| CN109241834A (zh) * | 2018-07-27 | 2019-01-18 | 中山大学 | 一种基于隐变量的嵌入的群体行为识别方法 |
| CN110110710A (zh) * | 2019-06-03 | 2019-08-09 | 北京启瞳智能科技有限公司 | 一种场景异常状态识别方法、系统和智能终端 |
| CN111353426A (zh) * | 2020-02-28 | 2020-06-30 | 山东浪潮通软信息科技有限公司 | 异常行为的检测方法及装置 |
| CN111582122A (zh) * | 2020-04-29 | 2020-08-25 | 成都信息工程大学 | 一种监控视频多维度行人行为智能分析系统及方法 |
| CN112597858A (zh) * | 2020-12-16 | 2021-04-02 | 中国电子科技集团公司电子科学研究院 | 一种监控方法、装置及可读存储介质 |
| CN112861673A (zh) * | 2021-01-27 | 2021-05-28 | 长扬科技（北京）有限公司 | 一种用于监控视频多目标检测的去误报预警方法和系统 |
| CN112801018A (zh) * | 2021-02-07 | 2021-05-14 | 广州大学 | 一种跨场景目标自动识别与追踪方法及应用 |
| CN114531572A (zh) * | 2022-04-05 | 2022-05-24 | 河南海融软件有限公司 | 一种人员流动实时监控设备及监控区域实时客流算法 |
Non-Patent Citations (4)
| Title |
|---|
| GRANT, JM; FLYNN, PJ: ""Crowd Scene Understanding from Video: A Survey"", 《ACM TRANSACTIONS ON MULTIMEDIA COMPUTING COMMUNICATIONS AND APPLICATIONS》, vol. 13, no. 2, 2 June 2017 (2017-06-02), pages 1 - 23 * |
| 李振宇;曹建荣;高红红;贺文婷;: "基于运动目标分类的双向人流量统计算法", 计算机系统应用, no. 04, 15 April 2016 (2016-04-15) * |
| 王曲;赵炜琪;罗海勇;门爱东;赵方;: "人群行为分析研究综述", 计算机辅助设计与图形学学报, no. 12, 15 December 2018 (2018-12-15), pages 2353 - 2364 * |
| 陈超;: "视频监控中异常事件分析技术", 中国公共安全, no. 12, 15 June 2013 (2013-06-15), pages 146 * |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20230154233A1 (en) * | 2021-11-16 | 2023-05-18 | Deep Et | Apparatus and method for face recognition using user terminal |
| CN114581858A (zh) * | 2022-05-06 | 2022-06-03 | 中科智为科技(天津)有限公司 | 一种小股人群重识别方法及模型训练方法 |
| CN114581858B (zh) * | 2022-05-06 | 2022-08-23 | 中科智为科技(天津)有限公司 | 一种小股人群重识别方法及模型训练方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113469080B (zh) | 2024-07-12 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Singh et al. | Deep spatio-temporal representation for detection of road accidents using stacked autoencoder | |
| Manju et al. | RETRACTED ARTICLE: Video analytics for semantic substance extraction using OpenCV in python | |
| Benezeth et al. | Abnormal events detection based on spatio-temporal co-occurences | |
| Cheong et al. | Practical automated video analytics for crowd monitoring and counting | |
| Nam et al. | Intelligent video surveillance system: 3-tier context-aware surveillance system with metadata | |
| Zabłocki et al. | Intelligent video surveillance systems for public spaces–a survey | |
| CN105574506A (zh) | 基于深度学习和大规模集群的智能人脸追逃系统及方法 | |
| CN112861673A (zh) | 一种用于监控视频多目标检测的去误报预警方法和系统 | |
| CN113469080A (zh) | 一种个体、群体、场景交互协同感知方法、系统及设备 | |
| Pouyan et al. | Propounding first artificial intelligence approach for predicting robbery behavior potential in an indoor security camera | |
| Nayak et al. | Deep learning based loitering detection system using multi-camera video surveillance network | |
| Singh et al. | An intelligent video surveillance system using edge computing based deep learning model | |
| Chauhan et al. | Study of moving object detection and tracking for video surveillance | |
| Lao et al. | Human running detection: Benchmark and baseline | |
| Muhammad et al. | Efficient convolutional neural networks for fire detection in surveillance applications | |
| CN111491133A (zh) | 应用电子人像锁定技术的商场安全监控系统 | |
| CN113435352B (zh) | 文明城市评分方法、装置、电子设备和存储介质 | |
| Patel et al. | Predictive convolutional long short-term memory network for detecting anomalies in smart surveillance | |
| Masood et al. | Identification of anomaly scenes in videos using graph neural networks | |
| Arivazhagan | Versatile loitering detection based on non-verbal cues using dense trajectory descriptors | |
| Vaishnavi et al. | Implementation of Abnormal Event Detection using Automated Surveillance System | |
| Srivastava et al. | Anomaly Detection Approach for Human Detection in Crowd Based Locations | |
| Jeon et al. | PASS-CCTV: Proactive Anomaly surveillance system for CCTV footage analysis in adverse environmental conditions | |
| Khel et al. | Hybridized YOLOv4 for detecting and counting people in congested crowds | |
| CN114821808B (zh) | 一种攻击行为预警方法及系统 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |