CN117743634A - 一种对象检索方法、系统及设备 - Google Patents
一种对象检索方法、系统及设备 Download PDFInfo
- Publication number
- CN117743634A CN117743634A CN202311794048.XA CN202311794048A CN117743634A CN 117743634 A CN117743634 A CN 117743634A CN 202311794048 A CN202311794048 A CN 202311794048A CN 117743634 A CN117743634 A CN 117743634A
- Authority
- CN
- China
- Prior art keywords
- information
- intelligent information
- video
- frame
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 79
- 238000012216 screening Methods 0.000 claims description 95
- 238000004458 analytical method Methods 0.000 claims description 15
- 230000004044 response Effects 0.000 claims description 15
- 238000004891 communication Methods 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 9
- 239000012634 fragment Substances 0.000 abstract description 4
- 238000010586 diagram Methods 0.000 description 16
- 238000012545 processing Methods 0.000 description 10
- 230000008569 process Effects 0.000 description 8
- 238000004422 calculation algorithm Methods 0.000 description 7
- 241001465754 Metazoa Species 0.000 description 3
- 230000009471 action Effects 0.000 description 3
- 238000013459 approach Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 125000004122 cyclic group Chemical group 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 241000282326 Felis catus Species 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000000802 evaporation-induced self-assembly Methods 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Television Signal Processing For Recording (AREA)
Abstract
本申请实施例提供了一种对象检索方法、系统及设备,通过预先分类存储录像中各对象智能信息的方式,在用户查看回放录像时,可以根据用户在回放录像时输入的后检索条件,对任意位置点信息满足后检索条件的对象进行检索,这样,即使之前已经设置了某种检索规则,使用本申请提供的对象检索方法,都能随时变更检索条件进行符合新条件的新检索;另外,由于预先存储了所有对象的智能信息,因此不需要遍历所有录像,就能检索到位置点信息满足后检索条件的目标对象,因此减少了检索时间,提高了检索速率。在查找到目标对象时,还可以提取得到包含了该目标对象的图像或者视频片段,使用户可以针对目标对象进行动态分析,提升了用户体验。
Description
技术领域
本申请涉及视频监控技术领域,特别是涉及一种对象检索方法、系统及设备。
背景技术
随着相关技术的发展,视频监控广泛应用于智慧交通、公共安全以及可视化管理中,对于一些视频监控场景,由于报警条件通常是预设的,并且是比较宽泛的。因此,触发报警的对象不仅包括进入用户感兴趣区域的对象,还包括进入用户不感兴趣区域的对象。例如,预设的报警条件为由对象进入指定区域就进行报警,因此画面中出现对象进入用户感兴趣的区域A还是其他区域,都会触发报警。进而,在检索目标对象时,会导致需要检索的总量较大,检索效率低。
但是,若将报警条件设置的十分精准,例如,仅在画面中出现对象进入某一特定区域时才进行报警,虽然可以使得报警信息减少,并因此实现对触发该报警的对象进行快速检索,但是对于画面中出现在其他区域的其他对象来说,由于这些其他对象不属于报警对象,并未记录这些对象出现在其他区域的信息,在用户后续回看视频监控录像时,用户想要检索得到除特定区域以外的其他区域触发报警条件的对象时,只能遍历所有的视频画面,以检索得到在其他区域触发报警的对象,所以使得检索速率较慢。
发明内容
本申请实施例的目的在于提供一种对象检索方法、系统及设备,以实现减少了检索时间,提高了检索效率,提升用户体验。具体技术方案如下:
第一方面,本申请实施例提供了一种对象检索方法,预先存储由图像采集设备拍摄得到的录像,并且预先获取所述录像中存在对象的各视频帧的帧信息,所述帧信息包括:视频帧的拍摄时间、视频帧中存在的对象的对象标识、对象的类别、对象在视频帧中所处的位置;
针对各对象,基于包含该对象的帧信息得到该对象的智能信息,所述智能信息包括:对象的类别、所包括的各帧信息中的拍摄时间、由所包括的各帧信息中的对象的位置组成的多个位置点信息;
按照所包括的对象的类别对应存储各智能信息,其中,一种对象类别对应一组智能信息;
所述方法包括:
展示回放窗口并通过所述回放窗口内播放所述录像;
响应于针对所述回放窗口的暂停操作,停止所述回放窗口播放所述录像;
响应于针对所述回放窗口停止播放时定格于的当前视频帧输入的规则配置操作,识别所述规则配置操作所指示的后筛选条件,作为目标后筛选条件;
在检索设备预先存储的智能信息中查找所包括的位置点信息满足所述目标后筛选条件的智能信息,并将查找到的智能信息所属对象确定为目标对象;
在所述录像中查找所述目标对象出现的视频帧;
确定该视频帧的拍摄时间,作为目标时间,获取所述目标时间前后包含所述目标时间的预设时间段内的视频帧,作为目标视频帧;
或者,获取第一数量的视频帧作为目标视频帧,其中,所述第一数量的视频帧中包含了所述目标对象出现的视频帧;
输出所述目标视频帧。
第二方面,本申请实施例提供了一种对象检索系统,所述对象检索系统包括图像采集设备和检索设备,所述图像采集设备与检索设备建立有通信连接,所述检索设备中预先存储由所述图像采集设备拍摄得到的录像,并且预先获取所述录像中存在对象的各视频帧的帧信息,所述帧信息包括:视频帧的拍摄时间、视频帧中存在的对象的对象标识、对象的类别、对象在视频帧中所处的位置;针对各对象,基于包含该对象的帧信息得到该对象的智能信息,所述智能信息包括:对象的类别、所包括的各帧信息中的拍摄时间、由所包括的各帧信息中的对象的位置组成的多个位置点信息;按照所包括的对象的类别对应存储各智能信息,其中,一种对象类别对应一组智能信息;
所述图像采集设备,用于拍摄得到所述录像,并向所述检索设备发送所述录像;
所述检索设备,用于执行上述任一所述的对象检索方法。
第三方面,本申请实施例提供了一种对象检索装置,预先存储由图像采集设备拍摄得到的录像,并且预先获取所述录像中存在对象的各视频帧的帧信息,所述帧信息包括:视频帧的拍摄时间、视频帧中存在的对象的对象标识、对象的类别、对象在视频帧中所处的位置;
针对各对象,基于包含该对象的帧信息得到该对象的智能信息,所述智能信息包括:对象的类别、所包括的各帧信息中的拍摄时间、由所包括的各帧信息中的对象的位置组成的多个位置点信息;
按照所包括的对象的类别对应存储各智能信息,其中,一种对象类别对应一组智能信息;
所述装置包括:
展示模块,用于展示回放窗口并通过所述回放窗口内播放所述录像;
暂停模块,用于响应于针对所述回放窗口的暂停操作,停止所述回放窗口播放所述录像;
识别模块,用于响应于针对所述回放窗口停止播放时定格于的当前视频帧输入的规则配置操作,识别所述规则配置操作所指示的后筛选条件,作为目标后筛选条件;
筛选模块,用于在检索设备预先存储的智能信息中查找所包括的位置点信息满足所述目标后筛选条件的智能信息,并将查找到的智能信息所属对象确定为目标对象;
查找模块,用于在所述录像中查找所述目标对象出现的视频帧;
确定模块,用于确定该视频帧的拍摄时间,作为目标时间,获取所述目标时间前后包含所述目标时间的预设时间段内的视频帧,作为目标视频帧;
或者,获取第一数量的视频帧作为目标视频帧,其中,所述第一数量的视频帧中包含了所述目标对象出现的视频帧;
输出模块,用于输出所述目标视频帧。
在一种可能的实施例中,所述规则配置操作包括线条绘制操作和类别选择操作;
所述识别模块,包括:
识别第一子模块,用于基于所述线条绘制操作所指示的感兴趣区域的轮廓线,得到目标后筛选条件,其中,所述目标后筛选条件为:位置点信息所表示的轨迹与所述轮廓线相交;
所述筛选模块,包括:
筛选第一子模块,用于识别所述类别选择操作所指示的类别,作为目标类别;
筛选第二子模块,用于以所述目标类别为索引,查找预先对应于所述目标类别存储的一组智能信息,作为候选智能信息;
筛选第三子模块,用于在所述候选智能信息中查找所包括的位置点信息所表示的轨迹与所述轮廓线相交的智能信息,并将查找到的智能信息所属对象确定为目标对象。
所述筛选第三子模块,包括:
筛选单元,用于直至遍历所有智能信息,循环执行步骤1至步骤4:步骤1,获取未遍历过的智能信息;步骤2,确定所获取的智能信息对应的对象是否已经被确定为目标对象,若是则转至步骤1,若否则转至步骤3;步骤3,确定所获取的智能信息所包括的位置点信息所表示的轨迹是否与所述轮廓线相交,若相交,则转至步骤4,若不相交,则转至步骤1;步骤4,将所获取的智能信息所属对象确定为目标对象。
所述装置还包括:
全类存储模块,用于若全分析模式已开启,则存储所述录像中存在的所有对象的智能信息;
筛选存储模块,用于若所述全分析模式未开启,则仅存储所述录像中满足前筛选条件的对象的智能信息,其中,所述前筛选条件是在获取所述帧信息前预先配置的筛选条件。
所述规则配置操作还包括检索类型配置操作,其中,所述检索类型配置操作用于指示开启报警检索模式或开启轨迹检索模式,所述筛选模块,包括:
筛选第四子模块,用于若所述检索类型配置操作指示开启所述报警检索模式,则在所包括的对象满足所述前筛选条件的智能信息中查找所包括的位置点信息满足所述目标后筛选条件的智能信息;
筛选第五子模块,用于若所述检索类型配置操作指示开启所述轨迹检索模式,则在所有的智能信息中查找所包括的位置点信息满足所述目标后筛选条件的智能信息。
所述当视频帧中的对象无法分类时,所述视频帧的帧信息中包括的对象的类别为未分类,所述筛选模块,包括:
筛选第六子模块,用于若检索模式为非全类型检索,则在第一智能信息中查找所包括的位置点信息满足所述目标后筛选条件的智能信息,其中,所述第一智能信息为检索设备预先存储的智能信息,且不包括未分类的对象的智能信息;
筛选第七子模块,用于若所述检索模式为全类型检索,则在第二智能信息中查找所包括的位置点信息满足所述目标后筛选条件的智能信息,其中,所述第二智能信息为检索设备预先存储的智能信息,且包括所述第一智能信息和未分类的对象的智能信息。
所述装置还包括:
第一后分类模块,用于若所述目标对象为未分类的对象,则查找包括所述目标对象的视频帧;并基于查找到的视频帧,对所述目标对象进行分类,得到第一后分类类别,并将未分类的对象的智能信息中包括的类别从未分类更新为所述第一后分类类别;
和/或,
第二后分类模块,用于所述图像采集设备用于拍摄得到录像,录像中包含多个视频帧,并且每当拍摄到视频帧,若所述图像采集设备的负载小于预设负载阈值,则对拍摄到的视频帧中存在的对象进行分类,得到对象的类别;若所述图像采集设备的负载不小于所述预设负载阈值,则将所拍摄到的视频帧中存在的对象的类别确定为未分类;所述图像采集设备还用于定期轮巡拍摄到的视频帧中存在的对象,若轮巡到的对象的类别为未分类,则获取存在轮巡到的对象的视频帧,基于获取的视频帧对轮巡到的对象进行分类,得到第二后分类类别,并将所述第二后分类类别以及用于表示轮巡到的对象的对象标识发送至所述检索设备;所述方法还包括:响应于所述图像采集设备发送的第二后分类类别和对象标识,识别所述对象标识所表示的对象,作为待更新对象;以所述待更新对象为索引,查找对应于所述待更新对象存储的智能信息,将查找到的智能信息中包括的类别更新为所述第二后分类类别。
所述针对各对象,基于包含该对象的帧信息得到该对象的智能信息,包括:
根据各视频帧在所述录像中的顺序,依次针对存在对象的各视频帧的帧信息,获取该帧信息中包括的对象标识;
以该对象标识为索引,在已存储的智能信息中查找对应于该对象标识存储的智能信息;
若该帧信息与该智能信息不满足预设冗余条件,则将该帧信息合并至该智能信息,其中,所述预设冗余条件包括该帧信息包括的视频帧的拍摄时间与该智能信息包括的拍摄时间之间的差异大于时间下限阈值,和\或,该帧信息包括的对象标识所表示的对象在视频帧中所处的位置与该智能信息包括的的位置之间的差异大于空间阈值;
若该帧信息与该智能信息满足所述预设冗余条件,则拒绝将该帧信息合并至该智能信息。
所述装置还包括:
获取模块,用于根据各视频帧在所述录像中的顺序,依次针对存在对象的各视频帧的帧信息,获取该帧信息中包括的对象标识;
索引模块,用于以该对象标识为索引,在已存储的智能信息中查找对应于该对象标识存储的智能信息;
判断合并模块,用于若该帧信息与该智能信息在时空上满足连续条件,且所述智能信息中已包含的帧信息数量小于数量阈值,则将该帧信息合并至该智能信息中,其中,所述连续条件包括帧信息包括的视频帧的拍摄时间与该智能信息包括的所合并的各帧信息中的拍摄时间之间的差异大于时间下限阈值,且小于时间上限阈值;
新建存储模块,用于若该帧信息与该智能信息在时空上不满足连续条件,则将该帧信息作为新的智能信息,并以所述新的智能信息所属的对象的对象标识为索引对所述新的智能信息进行存储。
第四方面,本申请实施例提供了一种电子设备,包括:
存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的程序时,实现上述任一所述的对象检索方法。
本申请实施例有益效果:
本申请实施例提供的一种对象检索方法,通过预先分类存储录像中各对象智能信息的方式,在用户查看回放录像时,可以根据用户在回放录像时输入的后检索条件,对任意位置点信息满足后检索条件的对象进行检索,这样,即使之前已经设置了某种检索规则,使用本申请提供的对象检索方法,都能随时变更检索条件进行符合新条件的新检索;另外,由于预先存储了所有对象的智能信息,因此不需要遍历所有录像,就能检索到位置点信息满足后检索条件的目标对象,因此减少了检索时间,提高了检索速率。在查找到目标对象时,还可以提取得到包含了该目标对象的图像或者视频片段,使用户可以针对目标对象进行动态分析,提升了用户体验。
当然,实施本申请的任一产品或方法并不一定需要同时达到以上所述的所有优点。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,还可以根据这些附图获得其他的实施例。
图1为本申请实施例提供的现有技术检索方法的流程示意图;
图2为本申请实施例提供的现有技术检索方法的对象报警信息存储的示意图;
图3为本申请实施例提供的对象检索方法的流程示意图;
图4为本申请实施例提供的对象检索方法的录像以及智能信息存储的示意图;
图5为本申请实施例提供的新检索方法的流程示意图;
图6为本申请实施例提供的对象检索操作界面的示意图;
图7为本申请实施例提供的对象检索配置界面的示意图;
图8为本申请实施例提供的循环检索对象的流程示意图;
图9为本申请实施例提供的一种对象检索系统的结构示意图;
图10为本申请实施例提供的一种对象检索装置的结构示意图;
图11为本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员基于本申请所获得的所有其他实施例,都属于本申请保护的范围。
为更清楚的对本申请提供的对象检索方法进行说明,下面将对本文中涉及的相关名词进行解释:
后检索:通过存储对象的信息到视频帧中,后续通过指定区域获取对象。
运动轨迹:对象在某个特定范围内出现的先后位置信息。
对象分类:按某个维度对检测的对象分类,比如按人体、车辆、猫等分类。
检索设备:本文中的检索设备可以为网络录像机NVR,也可以是模拟录像机,也可以是其他具有相同功能的录像机。
图像采集设备:本文中的图像采集设备可以为网络摄像机,也可以是其他具有相同功能的录像设备。
随着智能算法的扩展,每天都会产生大量的录像信息,其中大部分录像信息都是没有对象的录像,用户也不关注,用户更关注的是产生事件附近的录像。以周界侦测算法为例,算法支持输出人和车的对象信息,并对于触发预先设置的报警规则的报警信息(智能信息)进行记录。用户事后可以选取特定区域对触发报警规则的对象进行录像检索,以获取事件发生前后的有效录像信息。
现有技术中的录像检索方案如图1和图2所示,图1为本申请实施例提供的现有技术检索方法的流程示意图,图2为本申请实施例提供的现有技术检索方法的对象报警信息存储的示意图。如图1所示,获取到录像之后,由智能算法检测得到触发预先设置的报警规则的对象,在经过媒体处理之后,将含有报警信息的智能码流,一并被存储在硬盘空间内部。其中,存储格式如图2所示,分别存储报警对象的视频录像和报警信息(即智能信息),视频录像按照时间,码流的形式存储,智能信息按照时间,坐标的形式存储。在用户回放录像时,需要对新划定的区域内进行检索时,需要遍历检索所有的录像,并对检索到的录像进行回放。此方案的弊端主要是在后续需要新划定的区域时,无法进行快速检索该新区域内触发报警规则的对象,每次检索均需要遍历全部录像,使得检索速率较慢。
基于此,本申请提供了一种对象检索方法,预先存储由图像采集设备拍摄得到的录像,并且预先获取录像中存在对象的各视频帧的帧信息,帧信息包括:视频帧的拍摄时间、视频帧中存在的对象的对象标识、对象的类别、对象在视频帧中所处的位置;
针对各对象,基于包含该对象的帧信息得到该对象的智能信息,所述智能信息包括:对象的类别、所包括的各帧信息中的拍摄时间、由所包括的各帧信息中的对象的位置组成的多个位置点信息;
按照所包括的对象的类别对应存储各智能信息,其中,一种对象类别对应一组智能信息;
如图3,图3为本申请实施例提供的对象检索方法的流程示意图,所述方法包括:
S301,展示回放窗口并通过回放窗口内播放录像。
S302,响应于针对回放窗口的暂停操作,停止回放窗口播放录像。
S303,响应于针对回放窗口停止播放时定格于的当前视频帧输入的规则配置操作,识别规则配置操作所指示的后筛选条件,作为目标后筛选条件。
S304,在检索设备预先存储的智能信息中查找所包括的位置点信息满足目标后筛选条件的智能信息,并将查找到的智能信息所属对象确定为目标对象。
S305,在录像中查找目标对象出现的视频帧。
S306,确定该视频帧的拍摄时间,作为目标时间,获取目标时间前后包含目标时间的预设时间段内的视频帧,作为目标视频帧。
或者,获取第一数量的视频帧作为目标视频帧,其中,第一数量的视频帧中包含了目标对象出现的视频帧。
S307,输出目标视频帧。
应用本申请提供的对象检索方法,通过预先分类存储录像中各对象智能信息的方式,在用户查看回放录像时,可以根据用户在回放录像时输入的后检索条件,对任意位置点信息满足后检索条件的对象进行检索,这样,即使之前已经设置了某种检索规则,使用本申请提供的对象检索方法,都能随时变更检索条件进行符合新条件的新检索;另外,由于预先存储了所有对象的智能信息,因此不需要遍历所有录像,就能检索到位置点信息满足后检索条件的目标对象,因此减少了检索时间,提高了检索速率。在查找到目标对象时,还可以提取得到包含了该目标对象的图像或者视频片段,使用户可以针对目标对象进行动态分析,提升了用户体验。
另外,需要说明的是,本申请中前述的“预设时间段”可以是预先配置的一些时间段,例如目标时间之前N秒、之后N秒内;或者,目标时间之前N秒,之后M秒;其中,M和N均是大于或者等于0的数值。“预设时间段”也可以是使用分析算法等方式分析得到的目标对象出现的所有时长所对应的时间段;或者,“预设时间段”也可以小于前述的目标对象出现的所有时长所对应的时间段,例如可以对所有包含了目标对象的视频片段进行抽帧处理,得到时间上更短的视频片段,以缩短展示目标对象视频的时间,达到快速浏览的效果。
另外,“第一数量”可以是提前预设的数量,也可以是经过目标分析之后确定的包含了目标对象的视频帧的数量,也可以是少于目标对象出现的全部视频帧的总数量。例如,目标对象一共出现在了100帧视频帧中,则“第一数量”可以是100帧,也可以是小于100的数字,例如80帧,即,可以设置“第一数量”小于目标对象出现的视频帧的全部数量,这样的话,最终输出展示的视频帧或者视频片段是经过了浓缩处理的,例如可经过抽帧等,减少帧数,以起到快速查阅目标对象的作用。设置“第一数量”可以通过配置帧间隔数量或者配置帧号的方式进行,例如,可以配置每2帧取1帧进行输出,或者可以配置取帧号为X、Y、Z、W(一些指定帧号)的帧进行输出。
另外,还需要说明的是,输出目标视频帧的方式可以是输出零散的视频帧,例如输出、以单张图像的形式展示多张图像;或者可以合并这些目标视频帧,得到视频片段,输出、展示该视频片段,也可以是同时输出零散的视频帧和视频片段,并以单张图像的形式展示多张图像以及展示该视频片段。
为了方便对前述S301-S307进行说明,首先先进行如下说明:
图像采集设备与检索设备建立有通信连接,图像采集设备在拍摄得到录像后,将该录像发送至检索设备,由检索设备对出现在录像各视频帧中的对象进行检测,得到对象的帧信息。其中,检测可以是图像采集设备,也可以是检索设备,还可以是其他具有录像功能的设备,并且可以是利用神经网络进行检测,也可以是利用传统的算法模型进行检测。
在一种可能的实施例中,可以仅对对象进行检测,得到对象的帧信息,帧信息包括视频帧的拍摄时间、视频帧中存在的对象的对象标识、对象的类别、对象在视频帧中所处的位置。其中,对象可以为出现在视频帧中的任意对象,例如人、车辆、动物等。对象标识可以是根据预先制定的命名规则所得到的,例如,对象A的对象标识可以为ID1,对象B的对象标识可以为ID2。
对象可由图像采集设备进行分类,也可以由检索设备进行分类,下面对如何对对象进行分类进行具体说明:
在一种可能的实施例中,由图像采集设备对对象进行分类,图像采集设备用于拍摄得到录像,录像中包含多个视频帧。每当拍摄到视频帧时,若图像采集设备的负载小于预设负载阈值,则对拍摄到的视频帧中存在的对象进行分类,得到对象的类别,例如人、车辆、动物等。若图像采集设备的负载不小于预设负载阈值,则将所拍摄到的视频帧中存在的对象的类别确定为未分类。此处的预设负载阈值由专业技术工作者根据工作经验所设置,例如,预设负载阈值为图像采集设备只能够对1000帧视频帧中存在的对象进行分类,在处理的第1001帧时,会将该视频帧中的对象的类别确定为未分类。
除上述方法之外,图像采集设备还可以在空闲时,定期轮巡拍摄到的视频帧中存在的对象,若轮巡到的对象的类别为未分类,则获取存在轮巡到的对象的视频帧,基于获取的视频帧对轮巡到的对象进行分类,得到第二后分类类别,并将该第二后分类类别以及用于表示轮巡到的对象的对象标识发送至检索设备,由检索设备响应于图像采集设备发送的第二后分类类别和对象标识,识别该对象标识所表示的对象,作为待更新对象。然后以待更新对象为索引,查找对应于待更新对象存储的智能信息,将查找到的智能信息中包括的类别更新为第二后分类类别,实现类别的更新。其中,轮巡的时间可由技术工作者根据工作经验或相关规则所制定。
在另一种可能的实施例中,也可以由检索设备对对象进行分类,在后检索过程中,若检索得到的目标对象为未分类的对象,则查找包括目标对象的视频帧。基于查找到的视频帧,该视频帧应当是一帧清晰的,能够反映出对象特征信息的视频帧。检索设备可以采用用于分类的神经网络对该视频帧进行检测,进而得到该视频帧中对象的类别,作为第一后分类类别,并将预先存储的该未分类的对象的智能信息中包括的类别从未分类更新为第一后分类类别。
应用上述实施例,图像采集设备以及检索设备都可以对视频帧中的对象进行分类,并且图像采集设备还可以通过定期轮巡,确定视频帧中的各个对象是否被分类,在提高分类效率的同时,避免了存在未分类对象较多的情况,进而提高了后续的检索效率。
在上述对视频帧进行检测分类的过程中,可以去除视频帧中与对象无关的数据,进而保留与对象有关的数据。关于视频帧中如何区分与对象有关的数据或与对象无关的数据,可以根据其应用的场景具体限定。示例性的,应用于智能交通或者社区管理中,视频帧中与对象无关的数据可以为树木、垃圾桶或路灯等,与对象有关的数据可以为人、车辆或动物等。应用于快递分拣中,视频帧中与对象无关的数据可以为人或光影等,与对象有关的数据可以为分拣台上的快递或其他物品。
一个对象在视频帧中可以只出现一次,也可以是多次出现,在多次出现时,存在多个位置,检索设备可以分别独立存储该多个位置,也可以是将该多个位置整合存储,示例性的,可以是智能信息的形式存储的,其中,智能信息包括:对象的类别、所包括的各帧信息中的拍摄时间、由所包括的各帧信息中的对象的位置组成的多个位置点信息。其中,各个对象在视频帧中的位置可以是以坐标表示的,例如,可以由该对象最小包围框的四个顶点的坐标表示,也可以是以该最小包围框的中心坐标表示的。
在一种可能的实施例中,各对象的智能信息可以是由该对象在各视频帧中所处的每一个位置得到的。但是这种方式会导致检索设备存储的数据量较大,从而使得检索效率较低。
在另一种可能的实施例中,各对象的智能信息预先通过以下方式得到:
步骤一:根据各视频帧在录像中的顺序,依次针对存在对象的各视频帧的帧信息,获取该帧信息中包括的对象标识。
步骤二:以该对象标识为索引,在已存储的智能信息中查找对应于该对象标识存储的智能信息;
步骤三:若该帧信息与该智能信息不满足预设冗余条件,则将该帧信息合并至该智能信息,其中,预设冗余条件包括该帧信息包括的视频帧的拍摄时间与该智能信息包括的拍摄时间之间的差异大于时间下限阈值,和\或,该帧信息包括的对象标识所表示的对象在视频帧中所处的位置与该智能信息包括的的位置之间的差异大于空间阈值;
步骤四:若该帧信息与该智能信息满足预设冗余条件,则拒绝将该帧信息合并至该智能信息。
在上述步骤一中,各视频帧在录像中的顺序可以通过帧信息中拍摄各视频帧的时间确定,依次针对存在对象的各视频帧的帧信息,获取该帧信息中包括的对象标识。
在上述步骤二中,若检索设备中预先并没有存储该对象对应的智能信息,可以通过如下方式存储该对象的智能信息:
若检索设备中未存储有视频帧中的对象对应的智能信息,则创建一条初始智能信息;
将对象在该视频帧中所处的位置存储于初始智能信息中。
即,若在接收到当前的视频帧之前,通过查找发现检索设备中未存储有该视频帧中对象对应的智能信息,则新创建一条智能信息,使得存储的智能信息更加全面,进而提高了检索的准确率。
在上述步骤三以及步骤四中,预设冗余条件包括该帧信息包括的视频帧的拍摄时间与该智能信息包括的拍摄时间之间的差异大于时间下限阈值,和\或,该帧信息包括的对象标识所表示的对象在视频帧中所处的位置与该智能信息包括的的位置之间的差异大于空间阈值。若该帧信息与该智能信息不满足预设冗余条件,则将该帧信息合并至该智能信息,若该帧信息与该智能信息满足预设冗余条件,则拒绝将该帧信息合并至该智能信息,示例性的,可以直接丢弃该帧信息。
关于如何判断拍摄时间差异是否大于时间下限阈值的具体方法如下:
若检索设备中只存储有智能信息对应的一个视频帧,则该差异为该帧信息包括的视频帧的拍摄时间与该智能信息对应的视频帧包括的拍摄时间之间的差异,若该差异大于时间下限阈值,则将帧信息合并于预先存储的智能信息中。
若检索设备中存储有智能信息对应的多个视频帧,该差异可以为该帧信息包括的视频帧的拍摄时间与该智能信息对应的多个视频帧中拍摄时间最晚的视频帧包括的拍摄时间之间的差异,也可以为该帧信息包括的视频帧的拍摄时间与该智能信息对应的每一个视频帧包括的拍摄时间之间的差异,在这种情况下,若计算得到的各个差异的最小值大于时间下限阈值,则将帧信息合并于预先存储的智能信息中。
如何判断位置差异是否大于空间阈值的具体方法与上述方法所对应,在此不在赘述。
在分别计算得到两个差异的情况下,可以在两个差异都大于其对应的预设阈值时,将该帧信息存储于预先存储的智能信息中,也可以是在其中一个差异大于预设阈值时,将则将帧信息合并于预先存储的智能信息中。
其中,预设阈值可以由技术人员根据经验所设定。示例性的,时间下限阈值可以为0.1s、0.2s或1s等等,空间阈值可以为0.1m、0.2m或1m等等。
应用上述实施例,只有在帧信息包括的视频帧的拍摄时间与该智能信息包括的拍摄时间之间的差异大于时间下限阈值,和\或,该帧信息包括的对象标识所表示的对象在视频帧中所处的位置与该智能信息包括的的位置之间的差异大于空间阈值时,才对该帧信息进行记录,减少了检索设备存储的数据量,进而提高了检索效率。
在另一种可能的实施例中,各对象的智能信息还可以预先通过以下方式得到:
步骤A:根据各视频帧在录像中的顺序,依次针对存在对象的各视频帧的帧信息,获取该帧信息中包括的对象标识;
步骤B:以该对象标识为索引,在已存储的智能信息中查找对应于该对象标识存储的智能信息;
步骤C:若该帧信息与该智能信息在时空上满足连续条件,且智能信息中已包含的帧信息数量小于数量阈值,则将该帧信息合并至该智能信息中,其中,连续条件包括帧信息包括的视频帧的拍摄时间与该智能信息包括的所合并的各帧信息中的拍摄时间之间的差异大于时间下限阈值,且小于时间上限阈值;
步骤D:若该帧信息与该智能信息在时空上不满足连续条件,则将该帧信息作为新的智能信息,并以所述新的智能信息所属的对象的对象标识为索引对所述新的智能信息进行存储。
对于检索设备中预先并没有存储该对象对应的智能信息的情况,可以同上述方法所述,新创建一条智能信息。
在上述步骤C以及步骤D中,连续条件包括帧信息包括的视频帧的拍摄时间与该智能信息包括的所合并的各帧信息中的拍摄时间之间的差异大于时间下限阈值,且小于时间上限阈值。例如,时间下限阈值可以为0.1s、0.2s或1s等等,时间上限阈值可以为0.5h、1h或2h等等。在新获取到的帧信息对应的视频帧与已经存储的智能信息对应的视频帧之间拍摄时间差异大于时间下限阈值,小于时间上限阈值的情况下,将该帧信息合并至已存储的智能信息中,在拍摄时间差异不大于时间下限阈值,不小于时间上限阈值的情况下,将该帧信息作为新的一条智能信息单独存储,即一条智能信息中所包括的各帧信息中的拍摄时间都是处于同一时间窗口的,例如,智能信息A1中所包括的各帧信息中的拍摄时间都在14:00~16:00。
对于如何判断拍摄时间差异是否大于时间下限阈值,小于时间上限阈值的具体方法如上上述关于如何判断拍摄时间差异是否大于时间下限阈值的具体方法相同,此处不再赘述。
应用上述实施例,由于将存在对象的各个视频帧,根据对象在一段时间内连续的轨迹进行了拆分存储,即对象的一个智能信息中只包含同一时间窗口内的帧信息,进而减少了存储的智能信息的数量,方便后续根据用户需求检索对象。
上述智能信息可以由由图像采集设备对视频帧进行处理得到,也可以由检索设备对视频帧进行处理得到。在通过上述方法,得到各对象的智能信息后,需要对各智能信息进行存储。
在一种可能的实施例中,可以分别存储各个智能信息,但是这种存储方式会使得后续检索效率较低。
基于此,在另一种可能的实施例中,可按照对象的类别对应存储各智能信息,其中,一种对象类别对应一组智能信息。
检索设备中存储有多个智能信息,每个智能信息对应于一个目标和多个视频帧(即视频录像),因此在存储智能信息时,也会存储智能信息对应的各个视频帧,即存储视频录像,存储方式如图4所示,图4为本申请实施例提供的对象检索方法的录像以及智能信息存储的示意图。根据拍摄视频录像的时间存储各码流。智能信息中包含有对象的类别、所包括的各帧信息中的拍摄时间、所包括的各帧信息中的对象的位置坐标,由所包括的各帧信息中的对象的位置组成的多个位置点信息(即轨迹)。
为了便于后检索,提高后检索的检索效率,在存储智能信息时,可以设置全分析模式,全分析模式可由专业技术工作者在用户进行检索前就配置好的,可以默认处于一个关闭或开启的状态。在全分析模式开启的情况下,存储录像中存在的所有对象的智能信息。在全分析模式未开启,则仅存储录像中满足前筛选条件的对象的智能信息。其中,前筛选条件是在获取帧信息之前预先配置的筛选条件。
在将上述智能信息存储后,基于上述存储方式,本申请检索方法的处理流程如图5所示,图5为本申请实施例提供的新检索方法的流程示意图。获取到录像之后,由智能算法检测得到触发预先设置的报警规则(前筛选条件)的对象,在经过轨迹记录之后,将报警对象的轨迹(多个位置点信息)、时间、类别,以及媒体处理后的码流一并被存储在硬盘空间内部。在检索时,用户划定检索区域以及检索对象的类别进行检索,在得到目标对象之后,根据其出现的时间直接定位到录像,然后输出该录像片段。
具体检索流程如前述S301-S307,下面将分别对前述S301-S307进行说明:
在S301中,用户通过对象检索界面中的回放窗口回放录像,参照图6,图6为本申请实施例提供的对象检索操作界面的示意图。其中回放窗口中可以包括用于控制视频播放的视频播放控件,例如,控制视频“开始”、“暂停”、“前进”、“后退”、“倍速”等的控件。在回放窗口上方还有能够切换“预览”、“回放”“备份”“配置”等界面的控件,左下角的日历可支持用户选择回放任意日期的录像,左上角的IPC选择控件,可支持用户选择回放用户感兴趣的图像采集设备所拍摄到的录像。
在S302中,用户可以在查看回放录像时,可能对录像中出现在某个区域的某一个或多个对象感兴趣,从而产生针对这些对象的检索需求。此时可以暂停正在回放的录像,对图像进行检索。
检索设备响应于针对回放窗口的暂停操作,包括可以使回放窗口正在回放的录像暂停的操作,例如,可以包括针对“暂停”控件的点击操作、针对录像画面的双击操作等。
在S303中,用户在当前回放窗口定格的视频帧中输入规则配置操作,检索设备识别用户输入的规则配置操作所指示的后筛选条件,并将其作为目标后筛选条件。因为检索设备中预先存储了视频帧中存在的各个对象的智能信息,所以根据预先存储的包含有多个位置点信息的智能信息,可以确定出有哪些对象的位置点满足目标后筛选条件,从而确定出目标对象。即在识别出目标后筛选条件后,可以执行步骤S304。
在S304中,在确定目标对象时,可以依次针对每个对象确定该对象的位置点信息是否满足目标后筛选条件,但是采用此种方式,计算量较大,基于此,在一种可能的实施例中,可以先基于一些条件对象进行初步筛选,然后再对初步筛选之后的对象进行进一步筛选,进而确定出目标对象,可以减少计算量。示例性的,上述规则配置操作包括线条绘制操作和类别选择操作,上述S303包括:
基于线条绘制操作所指示的感兴趣区域的轮廓线,得到目标后筛选条件,其中,目标后筛选条件为:位置点信息所表示的轨迹与轮廓线相交。
图6中的虚线框即为基于用户在回放窗口上绘制的感兴趣区域的线条所得到的感兴趣区域的轮廓线,针对每个对象确定该对象的位置点信息所表示的轨迹是否与该虚线框相交。
需要说明的是,线条绘制操作可以是绘制一条或多条线条,这些线条可以是相交的,或者可以是不相交的;也可以是绘制封闭的线条,例如规则的线框,或者形状不规则的线框等,本申请并不限定绘制操作所绘制的线条的形状、数量等因素。对应的,感兴趣区域的轮廓线即是前述的这些线条或者线框所表示的轮廓线。
当用户不希望有对象从沙发侧接近回放窗口画面中右方的置物柜时,用户可以在回放窗口中沙发与置物柜中间的区域中绘制一条线(即置物柜的左侧),检索设备基于用户在回放窗口上绘制的线条得到的感兴趣区域的虚线,当检索到有对象跨过该条虚线时(即对象的位置点信息所表示的轨迹与该虚线相交),即可认为该对象从沙发侧接近了置物柜,也表示该对象进入了用户感兴趣的区域,该对象是用户想要检索得到的目标对象,该对象的位置点信息满足目标后筛选条件。图6所示的场景中,用户感兴趣的区域可以视为置物柜所处的区域,而当跨过置物柜左侧的一条线即可视为进入该区域,因此该一条线可以视为该区域的轮廓线。
上述S304包括:
S3041,识别类别选择操作所指示的类别,作为目标类别;
S3042,以目标类别为索引,查找预先对应于目标类别存储的一组智能信息,作为候选智能信息;
S3043,在候选智能信息中查找所包括的位置点信息所表示的轨迹与轮廓线相交的智能信息,并将查找到的智能信息所属对象确定为目标对象。
如图7所示,图7为本申请实施例提供的对象检索配置界面的示意图,配置界面包含多个配置控件,包括配置对象类型控件、配置检索类型控件,以及全目标分析控件,用户可以根据自己的需求,通过触屏或者鼠标点击的方式选择配置类型。图7中的配置界面仅是一种示例,在其他可能的实施例中,配置界面也可以是其他样式的。例如可以只包含对象类型控件、配置检索类型控件,也可以只包含对象类型控件等等。类型选择操作对应于图中的配置对象类型,例如,用户可以选择人或者车。
如前所述,将各个智能信息根据其所属的对象的不同类别进行了存储,例如按照人、车辆、未分类进行存储,在检索时可以根据用户要检索的对象的类别,在该类别所包含的对象中进行检索。
应用上述实施例,检索设备在存储智能信息时,将智能信息根据对象的不同类别进行了存储,因此,在检索时,可以先根据类别选择操作所指示的类别,确定候选智能信息,然后再在候选智能信息中查找所包括的位置点信息所表示的轨迹与轮廓线相交的智能信息,并将查找到的智能信息所属对象确定为目标对象,在此过程中,对于存储的所有对象的智能信息进行初步筛选,不需要比对所有对象智能信息中包含的位置点信息,因此计算量较小,进而提高了检索效率。
在前述步骤S3043中,可以检索部分的智能信息,也可以检索全部的智能信息,为了尽可能的检索到所有的目标对象,可以检索所有的智能信息,基于此,本申请实施例提供了一种目标对象的确定方法,如图8所示,图8为本申请实施例提供的循环检索对象的流程示意图,上述S3043,包括:
直至遍历所有智能信息,循环执行步骤S1至步骤S4:
步骤S1,获取未遍历过的智能信息;
步骤S2,确定所获取的智能信息对应的对象是否已经被确定为目标对象,若是则转至步骤S1,若否则转至步骤S3;
步骤S3,确定所获取的智能信息所包括的位置点信息所表示的轨迹是否与轮廓线相交,若相交,则转至步骤S4,若不相交,则转至步骤S1;
步骤S4,将所获取的智能信息所属对象确定为目标对象。
应用上述实施例,对于已经确定为目标对象的对象,之后对象与轮廓线的匹配结果并不会影响到是否要将其确定为目标对象,因此直接跳过对其进行轮廓线匹配,因此减少了匹配时间,对于尚未被确定为目标对象的对象,不跳过对其进行轮廓线匹配,从而避免遗漏对该对象进行轮廓线匹配,进而使得检索结果更准确,从而提高了检索效率以及检索的准确率。
为了提高检索效率,规则配置操作还包括检索类型配置操作,其中,检索类型配置操作用于指示开启报警检索模式或开启轨迹检索模式,仍然如图7所示,图中的配置检索类型对应于检索类型配置操作,包括报警和轨迹。若用户选择了报警即开始报警检索模式,若用户选择了轨迹即开始轨迹检索模式,如前所述,检索设备可以配置全分析模式,上述S304包括:
S3044,若检索类型配置操作指示开启报警检索模式,则在所包括的对象满足前筛选条件的智能信息中查找所包括的位置点信息满足目标后筛选条件的智能信息。
S3045,检索类型配置操作指示开启轨迹检索模式,则在所有的智能信息中查找所包括的位置点信息满足目标后筛选条件的智能信息。
应用上述实施例,在选择报警检索时,只会在满足前筛选条件的对象中检索满足后检索需求的目标对象,提高了检索效率。在选择轨迹检索时,会在检索设备存储的所有对象中检索满足后检索需求的目标对象,能够检索出更多的对象,丰富了检索结果。
在对对象进行分类时,在图像采集设备超负载,并且检索设备也还未对未分类的对象进行分类时,视频帧的帧信息中包括的对象的类别为未分类,在这种情况下,可以通过如下方式进行检索,上述S304,包括:
S3046,若检索模式为非全类型检索,则在第一智能信息中查找所包括的位置点信息满足所述目标后筛选条件的智能信息,其中,所述第一智能信息为检索设备预先存储的智能信息,且不包括未分类的对象的智能信息;
S3047,若检索模式为全类型检索,则在第二智能信息中查找所包括的位置点信息满足目标后筛选条件的智能信息,其中,第二智能信息为检索设备预先存储的智能信息,且包括第一智能信息和未分类的对象的智能信息。
即在检索目标对象时,还可以配置检索模式,分别在全部对象以及未分类的对象中检索。例如,用户想要检索出现在区域A已知对象类别的对象,就可以选择非全类型检索,在用户想要检索出现在区域A的全部对象,就可以选择全类型检索。
应用上述实施例,用户可以根据自己的检索需求,配置任意的检索模式,以提高检索效率,并且提升了用户体验。
在S305中,在录像中查找目标对象出现的视频帧。
在S306中,获取到目标对象出现视频帧的拍摄时间,作为目标时间。为了能够得到更多的视频来动态分析目标对象,可以获取目标时间前后包含目标时间的预设时间段内的视频帧,作为目标视频帧。例如,预设时间段为20分钟,目标对象出现的时间是上午9:00,即可以获取上午8:50~上午9:10时间段内的视频帧。
为了减少帧数,以起到快速查阅目标对象的作用,也可以获取第一数量的视频帧作为目标视频帧,其中,第一数量的视频帧中包含了目标对象出现的视频帧。关于“预设时间段”以及“第一数量”如何配置,前文中已做说明,此处不再赘述。
在S307中,在得到目标视频帧后,可以将其输出,具体输出方式如前所述,此处不再赘述。
在将目标视频帧以视频片段的形式输出时,可以将获取到的视频片段全部输出,也可以是部分输出,示例性的,可以展示视频片段,响应于针对视频片段输入的截取指令,从视频片段中确定截取指令所指示的视频帧,作为目标截取视频帧,输出目标截取视频帧。
在用户需要指定视频帧时,检索设备可以根据用户输入的截取指令,在视频片段中截取相应的视频帧,作为目标截取视频帧,并将其输出。例如,可以在检索界面上设置有一个输入框,用户在可以在输入框中输入视频帧的起始时间以及截止时间,检索设备根据输入的信息,在视频片段中截取相应的视频帧。
应用上述实施例,可以根据用户的实际需求,只输出用户指定的视频帧,节省了用户的时间,提升了用户的检索体验。
截取指令可以是用于指示区域、时间或者是其他的信息。截取相应的视频帧是指截取满足截取指令所指示条件的视频帧。
示例性的,若截取指令用于指示区域,则从视频片段中截取存在对象在指定活动区域内的视频帧。例如,截取指令为指示截取用户在室内活动的视频帧,则在视频片段中截取存在用户在室内活动的视频帧。
若截取指令用于指示时间,则从视频片段中确定截取指令所指示截取的指定时间段内的视频帧。例如,截取指令为指示截取用户在8点到12点的视频帧,则在视频片段中截取存在用户在8点到12点的视频帧。
检索结果播放结束后,检索设备可以根据用户的需求输入开始结束时间,从目标视频帧中获取目标出现的时间片段的视频帧作为有效的举证材料。例如,仓库发生了事故,用户想要查找事故原因,用户可以获取该日期早上8点到下午17点的视频帧,作为举证材料,查找事故原因。
应用上述实施例,可以根据用户的实际需求,只截取指定时间段内的视频帧,提升了用户回看目标轨迹的效率,节省了用户的时间,提高了用户的检索体验。
对应于上述方法实施例,本申请实施例提供了一种对象检索系统,如图9所示,图9为本申请实施例提供的一种对象检索系统的结构示意图,对象检索系统包括图像采集设备和检索设备,一个图像采集设备可同时与多个检索设备建立有通信连接,检索设备中预先存储由图像采集设备拍摄得到的录像,并且预先获取录像中存在对象的各视频帧的帧信息,帧信息包括:视频帧的拍摄时间、视频帧中存在的对象的对象标识、对象的类别、对象在视频帧中所处的位置;针对各对象,基于包含该对象的帧信息得到该对象的智能信息,智能信息包括:对象的类别、所包括的各帧信息中的拍摄时间、由所包括的各帧信息中的对象的位置组成的多个位置点信息;按照所包括的对象的类别对应存储各智能信息,其中,一种对象类别对应一组智能信息;
图像采集设备,用于拍摄得到录像,并向检索设备发送录像;
检索设备,用于执行上述任一所述的对象检索方法。
对应于上述方法实施例,本申请实施例提供了一种对象检索装置,如图10所示,图10为本申请实施例提供的一种对象检索装置的结构示意图,预先存储由图像采集设备拍摄得到的录像,并且预先获取所述录像中存在对象的各视频帧的帧信息,所述帧信息包括:视频帧的拍摄时间、视频帧中存在的对象的对象标识、对象的类别、对象在视频帧中所处的位置;
针对各对象,基于包含该对象的帧信息得到该对象的智能信息,所述智能信息包括:对象的类别、所包括的各帧信息中的拍摄时间、由所包括的各帧信息中的对象的位置组成的多个位置点信息;
按照所包括的对象的类别对应存储各智能信息,其中,一种对象类别对应一组智能信息;
所述装置包括:
展示模块1001,用于展示回放窗口并通过回放窗口内播放录像;
暂停模块1002,用于响应于针对回放窗口的暂停操作,停止回放窗口播放录像;
识别模块1003,用于响应于针对回放窗口停止播放时定格于的当前视频帧输入的规则配置操作,识别规则配置操作所指示的后筛选条件,作为目标后筛选条件;
筛选模块1004,用于在检索设备预先存储的智能信息中查找所包括的位置点信息满足目标后筛选条件的智能信息,并将查找到的智能信息所属对象确定为目标对象;
查找模块1005,用于在录像中查找目标对象出现的视频帧;
确定模块1006,确定该视频帧的拍摄时间,作为目标时间,获取目标时间前后包含目标时间的预设时间段内的视频帧,作为目标视频帧;
或者,获取第一数量的视频帧作为目标视频帧,其中,第一数量的视频帧中包含了目标对象出现的视频帧;
输出模块1007,用于输出目标视频帧。
应用本申请提供的对象检索方法,通过预先分类存储录像中各对象智能信息的方式,在用户查看回放录像时,可以根据用户在回放录像时输入的后检索条件,对任意位置点信息满足后检索条件的对象进行检索,这样,即使之前已经设置了某种检索规则,使用本申请提供的对象检索方法,都能随时变更检索条件进行符合新条件的新检索;另外,由于预先存储了所有对象的智能信息,因此不需要遍历所有录像,就能检索到位置点信息满足后检索条件的目标对象,因此减少了检索时间,提高了检索速率。在查找到目标对象时,还可以提取得到包含了该目标对象的图像或者视频片段,使用户可以针对目标对象进行动态分析,提升了用户体验。
在一种可能的实施例中,所述规则配置操作包括线条绘制操作和类别选择操作;
所述识别模块,包括:
识别第一子模块,用于基于所述线条绘制操作所指示的感兴趣区域的轮廓线,得到目标后筛选条件,其中,所述目标后筛选条件为:位置点信息所表示的轨迹与所述轮廓线相交;
所述筛选模块,包括:
筛选第一子模块,用于识别所述类别选择操作所指示的类别,作为目标类别;
筛选第二子模块,用于以所述目标类别为索引,查找预先对应于所述目标类别存储的一组智能信息,作为候选智能信息;
筛选第三子模块,用于在所述候选智能信息中查找所包括的位置点信息所表示的轨迹与所述轮廓线相交的智能信息,并将查找到的智能信息所属对象确定为目标对象。
所述筛选第三子模块,包括:
筛选单元,用于直至遍历所有智能信息,循环执行步骤1至步骤4:步骤1,获取未遍历过的智能信息;步骤2,确定所获取的智能信息对应的对象是否已经被确定为目标对象,若是则转至步骤1,若否则转至步骤3;步骤3,确定所获取的智能信息所包括的位置点信息所表示的轨迹是否与所述轮廓线相交,若相交,则转至步骤4,若不相交,则转至步骤1;步骤4,将所获取的智能信息所属对象确定为目标对象。
所述装置还包括:
全类存储模块,用于若全分析模式已开启,则存储所述录像中存在的所有对象的智能信息;
筛选存储模块,用于若所述全分析模式未开启,则仅存储所述录像中满足前筛选条件的对象的智能信息,其中,所述前筛选条件是在获取所述帧信息前预先配置的筛选条件。
所述规则配置操作还包括检索类型配置操作,其中,所述检索类型配置操作用于指示开启报警检索模式或开启轨迹检索模式,所述筛选模块,包括:
筛选第四子模块,用于若所述检索类型配置操作指示开启所述报警检索模式,则在所包括的对象满足所述前筛选条件的智能信息中查找所包括的位置点信息满足所述目标后筛选条件的智能信息;
筛选第五子模块,用于若所述检索类型配置操作指示开启所述轨迹检索模式,则在所有的智能信息中查找所包括的位置点信息满足所述目标后筛选条件的智能信息。
所述当视频帧中的对象无法分类时,所述视频帧的帧信息中包括的对象的类别为未分类,所述筛选模块,包括:
筛选第六子模块,用于若检索模式为非全类型检索,则在第一智能信息中查找所包括的位置点信息满足所述目标后筛选条件的智能信息,其中,所述第一智能信息为检索设备预先存储的智能信息,且不包括未分类的对象的智能信息;
筛选第七子模块,用于若所述检索模式为全类型检索,则在第二智能信息中查找所包括的位置点信息满足所述目标后筛选条件的智能信息,其中,所述第二智能信息为检索设备预先存储的智能信息,且包括所述第一智能信息和未分类的对象的智能信息。
所述装置还包括:
第一后分类模块,用于若所述目标对象为未分类的对象,则查找包括所述目标对象的视频帧;并基于查找到的视频帧,对所述目标对象进行分类,得到第一后分类类别,并将未分类的对象的智能信息中包括的类别从未分类更新为所述第一后分类类别;
和/或,
第二后分类模块,用于所述图像采集设备用于拍摄得到录像,录像中包含多个视频帧,并且每当拍摄到视频帧,若所述图像采集设备的负载小于预设负载阈值,则对拍摄到的视频帧中存在的对象进行分类,得到对象的类别;若所述图像采集设备的负载不小于所述预设负载阈值,则将所拍摄到的视频帧中存在的对象的类别确定为未分类;所述图像采集设备还用于定期轮巡拍摄到的视频帧中存在的对象,若轮巡到的对象的类别为未分类,则获取存在轮巡到的对象的视频帧,基于获取的视频帧对轮巡到的对象进行分类,得到第二后分类类别,并将所述第二后分类类别以及用于表示轮巡到的对象的对象标识发送至所述检索设备;所述方法还包括:响应于所述图像采集设备发送的第二后分类类别和对象标识,识别所述对象标识所表示的对象,作为待更新对象;以所述待更新对象为索引,查找对应于所述待更新对象存储的智能信息,将查找到的智能信息中包括的类别更新为所述第二后分类类别。
所述针对各对象,基于包含该对象的帧信息得到该对象的智能信息,包括:
根据各视频帧在所述录像中的顺序,依次针对存在对象的各视频帧的帧信息,获取该帧信息中包括的对象标识;
以该对象标识为索引,在已存储的智能信息中查找对应于该对象标识存储的智能信息;
若该帧信息与该智能信息不满足预设冗余条件,则将该帧信息合并至该智能信息,其中,所述预设冗余条件包括该帧信息包括的视频帧的拍摄时间与该智能信息包括的拍摄时间之间的差异大于时间下限阈值,和\或,该帧信息包括的对象标识所表示的对象在视频帧中所处的位置与该智能信息包括的的位置之间的差异大于空间阈值;
若该帧信息与该智能信息满足所述预设冗余条件,则拒绝将该帧信息合并至该智能信息。
所述装置还包括:
获取模块,用于根据各视频帧在所述录像中的顺序,依次针对存在对象的各视频帧的帧信息,获取该帧信息中包括的对象标识;
索引模块,用于以该对象标识为索引,在已存储的智能信息中查找对应于该对象标识存储的智能信息;
判断合并模块,用于若该帧信息与该智能信息在时空上满足连续条件,且所述智能信息中已包含的帧信息数量小于数量阈值,则将该帧信息合并至该智能信息中,其中,所述连续条件包括帧信息包括的视频帧的拍摄时间与该智能信息包括的所合并的各帧信息中的拍摄时间之间的差异大于时间下限阈值,且小于时间上限阈值;
新建存储模块,用于若该帧信息与该智能信息在时空上不满足连续条件,则将该帧信息作为新的智能信息,并以所述新的智能信息所属的对象的对象标识为索引对所述新的智能信息进行存储。
对应于上述方法实施例,本申请实施例还提供了一种电子设备,如图11所示,图11为本申请实施例提供的一种电子设备的结构示意图,包括存储器1101和处理器1102,其中,存储器1101,用于存放计算机程序;处理器1102,用于执行存储器上所存放的计算机程序时,实现上述任一所述的对象检索方法。
并且上述电子设备还可以包括通信总线和/或通信接口,处理器1102、通信接口、存储器1101通过通信总线完成相互间的通信。
上述电子设备提到的通信总线可以是外设部件互连标准(Peripheral ComponentInterconnect,PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture,EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示,图中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
通信接口用于上述电子设备与其他设备之间的通信。
存储器可以包括随机存取存储器(Random Access Memory,RAM),也可以包括非易失性存储器(Non-Volatile Memory,NVM),例如至少一个磁盘存储器。可选的,存储器还可以是至少一个位于远离前述处理器的存储装置。
上述的处理器可以是通用处理器,包括中央处理器(Central Processing Unit,CPU)、网络处理器(Network Processor,NP)等;还可以是数字信号处理器(Digital SignalProcessor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
在本申请提供的又一实施例中,还提供了一种计算机可读存储介质,计算机可读存储介质内存储有计算机程序,计算机程序被处理器执行时实现上述实施例中任一对象检索方法。
在本申请提供的又一实施例中,还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述实施例中任一对象检索的方法。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行计算机程序指令时,全部或部分地产生按照本申请实施例的流程或功能。计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者如固态硬盘Solid State Disk(SSD)等。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本申请的较佳实施例,并非用于限定本申请的保护范围。凡在本申请的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本申请的保护范围内。
Claims (11)
1.一种对象检索方法,其特征在于,预先存储由图像采集设备拍摄得到的录像,并且预先获取所述录像中存在对象的各视频帧的帧信息,所述帧信息包括:视频帧的拍摄时间、视频帧中存在的对象的对象标识、对象的类别、对象在视频帧中所处的位置;
针对各对象,基于包含该对象的帧信息得到该对象的智能信息,所述智能信息包括:对象的类别、所包括的各帧信息中的拍摄时间、由所包括的各帧信息中的对象的位置组成的多个位置点信息;
按照所包括的对象的类别对应存储各智能信息,其中,一种对象类别对应一组智能信息;
所述方法包括:
展示回放窗口并通过所述回放窗口内播放所述录像;
响应于针对所述回放窗口的暂停操作,停止所述回放窗口播放所述录像;
响应于针对所述回放窗口停止播放时定格于的当前视频帧输入的规则配置操作,识别所述规则配置操作所指示的后筛选条件,作为目标后筛选条件;
在检索设备预先存储的智能信息中查找所包括的位置点信息满足所述目标后筛选条件的智能信息,并将查找到的智能信息所属对象确定为目标对象;
在所述录像中查找所述目标对象出现的视频帧;
确定该视频帧的拍摄时间,作为目标时间,获取所述目标时间前后包含所述目标时间的预设时间段内的视频帧,作为目标视频帧;
或者,获取第一数量的视频帧作为目标视频帧,其中,所述第一数量的视频帧中包含了所述目标对象出现的视频帧;
输出所述目标视频帧。
2.根据权利要求1所述的方法,其特征在于,所述规则配置操作包括线条绘制操作和类别选择操作;
所述识别所述规则配置操作所指示的后筛选条件,作为目标后筛选条件,包括:
基于所述线条绘制操作所指示的感兴趣区域的轮廓线,得到目标后筛选条件,其中,所述目标后筛选条件为:位置点信息所表示的轨迹与所述轮廓线相交;
所述在检索设备预先存储的智能信息中查找所包括的位置点信息满足所述目标后筛选条件的智能信息,并将查找到的智能信息所属对象确定为目标对象,包括:
识别所述类别选择操作所指示的类别,作为目标类别;
以所述目标类别为索引,查找预先对应于所述目标类别存储的一组智能信息,作为候选智能信息;
在所述候选智能信息中查找所包括的位置点信息所表示的轨迹与所述轮廓线相交的智能信息,并将查找到的智能信息所属对象确定为目标对象。
3.根据权利要求2所述的方法,其特征在于,所述在所述候选智能信息中查找所包括的位置点信息所表示的轨迹与所述轮廓线相交的智能信息,并将查找到的智能信息所属的对象确定为目标对象,包括:
直至遍历所有智能信息,循环执行步骤1至步骤4:
步骤1,获取未遍历过的智能信息;
步骤2,确定所获取的智能信息对应的对象是否已经被确定为目标对象,若是则转至步骤1,若否则转至步骤3;
步骤3,确定所获取的智能信息所包括的位置点信息所表示的轨迹是否与所述轮廓线相交,若相交,则转至步骤4,若不相交,则转至步骤1;
步骤4,将所获取的智能信息所属对象确定为目标对象。
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
若全分析模式已开启,则存储所述录像中存在的所有对象的智能信息;
若所述全分析模式未开启,则仅存储所述录像中满足前筛选条件的对象的智能信息,其中,所述前筛选条件是在获取所述帧信息前预先配置的筛选条件。
5.根据权利要求4所述的方法,其特征在于,所述规则配置操作还包括检索类型配置操作,其中,所述检索类型配置操作用于指示开启报警检索模式或开启轨迹检索模式,所述在检索设备预先存储的智能信息中查找所包括的位置点信息满足所述目标后筛选条件的智能信息,包括:
若所述检索类型配置操作指示开启所述报警检索模式,则在所包括的对象满足所述前筛选条件的智能信息中查找所包括的位置点信息满足所述目标后筛选条件的智能信息;
若所述检索类型配置操作指示开启所述轨迹检索模式,则在所有的智能信息中查找所包括的位置点信息满足所述目标后筛选条件的智能信息。
6.根据权利要求1所述的方法,其特征在于,所述当视频帧中的对象无法分类时,所述视频帧的帧信息中包括的对象的类别为未分类,所述在检索设备预先存储的智能信息中查找所包括的位置点信息满足所述目标后筛选条件的智能信息,包括:
若检索模式为非全类型检索,则在第一智能信息中查找所包括的位置点信息满足所述目标后筛选条件的智能信息,其中,所述第一智能信息为检索设备预先存储的智能信息,且不包括未分类的对象的智能信息;
若所述检索模式为全类型检索,则在第二智能信息中查找所包括的位置点信息满足所述目标后筛选条件的智能信息,其中,所述第二智能信息为检索设备预先存储的智能信息,且包括所述第一智能信息和未分类的对象的智能信息。
7.根据权利要求6所述的方法,其特征在于,所述方法还包括:
若所述目标对象为未分类的对象,则查找包括所述目标对象的视频帧;并基于查找到的视频帧,对所述目标对象进行分类,得到第一后分类类别,并将未分类的对象的智能信息中包括的类别从未分类更新为所述第一后分类类别;
和/或,
所述图像采集设备用于拍摄得到录像,录像中包含多个视频帧,并且每当拍摄到视频帧,若所述图像采集设备的负载小于预设负载阈值,则对拍摄到的视频帧中存在的对象进行分类,得到对象的类别;若所述图像采集设备的负载不小于所述预设负载阈值,则将所拍摄到的视频帧中存在的对象的类别确定为未分类;所述图像采集设备还用于定期轮巡拍摄到的视频帧中存在的对象,若轮巡到的对象的类别为未分类,则获取存在轮巡到的对象的视频帧,基于获取的视频帧对轮巡到的对象进行分类,得到第二后分类类别,并将所述第二后分类类别以及用于表示轮巡到的对象的对象标识发送至所述检索设备;所述方法还包括:响应于所述图像采集设备发送的第二后分类类别和对象标识,识别所述对象标识所表示的对象,作为待更新对象;以所述待更新对象为索引,查找对应于所述待更新对象存储的智能信息,将查找到的智能信息中包括的类别更新为所述第二后分类类别。
8.根据权利要求1所述的方法,其特征在于,所述针对各对象,基于包含该对象的帧信息得到该对象的智能信息,包括:
根据各视频帧在所述录像中的顺序,依次针对存在对象的各视频帧的帧信息,获取该帧信息中包括的对象标识;
以该对象标识为索引,在已存储的智能信息中查找对应于该对象标识存储的智能信息;
若该帧信息与该智能信息不满足预设冗余条件,则将该帧信息合并至该智能信息,其中,所述预设冗余条件包括该帧信息包括的视频帧的拍摄时间与该智能信息包括的拍摄时间之间的差异大于时间下限阈值,和\或,该帧信息包括的对象标识所表示的对象在视频帧中所处的位置与该智能信息包括的的位置之间的差异大于空间阈值;
若该帧信息与该智能信息满足所述预设冗余条件,则拒绝将该帧信息合并至该智能信息。
9.根据权利要求1所述的方法,其特征在于,所述方法还包括:
根据各视频帧在所述录像中的顺序,依次针对存在对象的各视频帧的帧信息,获取该帧信息中包括的对象标识;
以该对象标识为索引,在已存储的智能信息中查找对应于该对象标识存储的智能信息;
若该帧信息与该智能信息在时空上满足连续条件,且所述智能信息中已包含的帧信息数量小于数量阈值,则将该帧信息合并至该智能信息中,其中,所述连续条件包括帧信息包括的视频帧的拍摄时间与该智能信息包括的所合并的各帧信息中的拍摄时间之间的差异大于时间下限阈值,且小于时间上限阈值;
若该帧信息与该智能信息在时空上不满足所述连续条件,则将该帧信息作为新的智能信息,并以所述新的智能信息所属的对象的对象标识为索引对所述新的智能信息进行存储。
10.一种对象检索系统,其特征在于,所述对象检索系统包括图像采集设备和检索设备,所述图像采集设备与所述检索设备建立有通信连接,所述检索设备中预先存储由所述图像采集设备拍摄得到的录像,并且预先获取所述录像中存在对象的各视频帧的帧信息,所述帧信息包括:视频帧的拍摄时间、视频帧中存在的对象的对象标识、对象的类别、对象在视频帧中所处的位置;针对各对象,基于包含该对象的帧信息得到该对象的智能信息,所述智能信息包括:对象的类别、所包括的各帧信息中的拍摄时间、由所包括的各帧信息中的对象的位置组成的多个位置点信息;按照所包括的对象的类别对应存储各智能信息,其中,一种对象类别对应一组智能信息;
所述图像采集设备,用于拍摄得到所述录像,并向所述检索设备发送所述录像;
所述检索设备,用于执行权利要求1-9任一所述的方法。
11.一种电子设备,其特征在于,包括:
存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的程序时,实现权利要求1-9任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311794048.XA CN117743634A (zh) | 2023-12-22 | 2023-12-22 | 一种对象检索方法、系统及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311794048.XA CN117743634A (zh) | 2023-12-22 | 2023-12-22 | 一种对象检索方法、系统及设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117743634A true CN117743634A (zh) | 2024-03-22 |
Family
ID=90277574
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311794048.XA Pending CN117743634A (zh) | 2023-12-22 | 2023-12-22 | 一种对象检索方法、系统及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117743634A (zh) |
-
2023
- 2023-12-22 CN CN202311794048.XA patent/CN117743634A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5976237B2 (ja) | 映像検索システム及び映像検索方法 | |
EP3253042B1 (en) | Intelligent processing method and system for video data | |
US9226037B2 (en) | Inference engine for video analytics metadata-based event detection and forensic search | |
CN105336077B (zh) | 数据处理设备和操作其的方法 | |
US7760908B2 (en) | Event packaged video sequence | |
KR102618404B1 (ko) | 영상 축약 시스템 및 방법 | |
US7801328B2 (en) | Methods for defining, detecting, analyzing, indexing and retrieving events using video image processing | |
JP6088541B2 (ja) | クラウドベースの映像監視管理システム | |
US9836933B2 (en) | Data processing apparatus to generate an alarm | |
KR20080075091A (ko) | 실시간 경보 및 포렌식 분석을 위한 비디오 분석 데이터의저장 | |
US11449544B2 (en) | Video search device, data storage method and data storage device | |
US11308158B2 (en) | Information processing system, method for controlling information processing system, and storage medium | |
US9514225B2 (en) | Video recording apparatus supporting smart search and smart search method performed using video recording apparatus | |
US11037604B2 (en) | Method for video investigation | |
US7949208B2 (en) | Monitor system, monitor device, search method, and search program | |
CN111881320A (zh) | 一种视频查询方法、装置、设备及可读存储介质 | |
CN114170556A (zh) | 目标轨迹追踪方法及装置、存储介质、电子设备 | |
CN113470013A (zh) | 一种搬移物品的检测方法及装置 | |
CN117743634A (zh) | 一种对象检索方法、系统及设备 | |
JP2007233495A (ja) | 分散型画像処理装置 | |
US11290753B1 (en) | Systems and methods for adaptive livestreaming | |
CN117743633A (zh) | 一种目标检索方法及设备 | |
CN113360241A (zh) | 一种交通隧道分析平台 | |
CN111753756A (zh) | 基于对象识别的布控报警方法、装置及存储介质 | |
CN110909579A (zh) | 一种视频图像处理方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |