CN108664478B - 目标物检索方法及装置 - Google Patents

目标物检索方法及装置 Download PDF

Info

Publication number
CN108664478B
CN108664478B CN201710188099.6A CN201710188099A CN108664478B CN 108664478 B CN108664478 B CN 108664478B CN 201710188099 A CN201710188099 A CN 201710188099A CN 108664478 B CN108664478 B CN 108664478B
Authority
CN
China
Prior art keywords
target object
feature information
sub
abnormal
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710188099.6A
Other languages
English (en)
Other versions
CN108664478A (zh
Inventor
白博
陈茂林
牟宪波
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huawei Technologies Co Ltd
Original Assignee
Huawei Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huawei Technologies Co Ltd filed Critical Huawei Technologies Co Ltd
Priority to CN201710188099.6A priority Critical patent/CN108664478B/zh
Priority to PCT/CN2018/079634 priority patent/WO2018177162A1/zh
Publication of CN108664478A publication Critical patent/CN108664478A/zh
Application granted granted Critical
Publication of CN108664478B publication Critical patent/CN108664478B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Alarm Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)

Abstract

本申请提供了一种目标物检索方法及装置,属于多媒体数据处理技术领域。方法包括:对摄像设备采集到的多媒体数据进行目标物提取,得到至少两个目标物;计算至少两个目标物中的每一个目标物的异常分值;基于所述每一个目标物的异常分值,对所述至少两个目标物进行集合划分,得到至少两个目标物集合;在接收到对特定目标物的检索请求后,基于所述特定目标物的特征信息,按照所述异常分值由高到低的顺序依次在所述至少两个目标物集合中进行所述特定目标物的检索。本申请对目标物的异常程度进行评价,而后基于异常程度对目标物进行划分,使得目标物的划分维度与安防监控场景契合度更高,这样在检索过程中不但可降低检索耗时,而且检索结果更精确。

Description

目标物检索方法及装置
技术领域
本申请涉及多媒体数据处理技术领域,特别涉及一种目标物检索方法及装置。
背景技术
在城市建设过程中,安防监控逐渐成为了日常中一项必不可少的环节,因此摄像设备的数目与日俱增。管理部门通过摄像设备采集到的多媒体数据,可对突发性异常事件的过程进行及时地监视和记忆,从而用以高效、及时地指挥和部署警力等进行事件处理。然而,由于摄像设备的数目众多,有时大量的有价值信息会被淹没在海量多媒体数据中,因此如何在海量多媒体数据中准确且快速地检索到感兴趣的目标物(比如,人或车等),成为了时下大家关注的一个焦点。
现有技术中在进行某一特定目标物的检索时,通常是基于多媒体数据中出现的所有目标物的重要性相同这一假设。在这个前提下,根据目标物的外观特征的相似性,将摄像设备拍摄的多媒体数据中出现的目标物划分在若干个子集合中。这样,在检索某一特定目标物时,只需根据该特定目标物的特征从少数子集合中进行检索即可。以局部敏感哈希(Locality-Sensitive Hashing,LSH)算法为例,首先生成若干哈希函数;之后,通过这些哈希函数的映射变换操作,计算摄像设备拍摄的多媒体数据中出现的目标物的外观特征的哈希值,进而利用计算出的哈希值将上述多媒体数据中出现的目标物划分在多个子集合中。其中,每个子集合中包含的目标物之间外观特征是相似的,且每一个子集合包含的数据量较少,从而将一个在超大集合内检索某一特定目标物的问题转化为了在一个个小集合内检索特定目标物的问题。
在实现本申请的过程中,发明人发现现有技术至少存在以下问题:
在实际的安防监控场景下,并不是所有目标物的重要性都相同的,管理部门通常会重点关注某些形迹可疑的人或物,比如在银行门口长期滞留的人员、突然加速的摩托车或没有牌照的汽车等,而上述检索方式无疑大大地扩大了检索范围,导致检索效率降低。此外,上述检索方式仅通过外观特征的相似性来对目标物进行划分,这样会导致某一个子集合内的目标物高度相似且数目众多,会给检索过程带来诸多不便,同样会导致检索效率大大降低,且为精确检索埋下隐患。例如,在北方的冬季,黑色外套是最常见的服饰,那么可能会有大量的目标物位于黑色外套这个子集合中;若待检索的特定目标物也穿着黑色外套,则由于该子集合中目标物过多(撞衫严重),从而无法准确快速地检索到该特定目标物。
发明内容
为了解决现有技术无法准确快速地进行目标物检索的问题,本申请实施例提供了一种目标物检索方法及装置。所述技术方案如下:
第一方面,提供了一种目标物检索方法,所述方法包括:
对摄像设备采集到的多媒体数据进行目标物提取,得到至少两个目标物;计算所述至少两个目标物中的每一个目标物的异常分值;基于所述每一个目标物的异常分值,对所述至少两个目标物进行集合划分,得到至少两个目标物集合;在接收到对特定目标物的检索请求后,基于所述特定目标物的特征信息,按照所述异常分值由高到低的顺序依次在所述至少两个目标物集合中进行所述特定目标物的检索。
其中,上述多媒体数据是摄像设备采集到并发送给服务器的,摄像设备指代某一地区或场所的全部摄像头。比如,设置在一条步行街上的全部摄像头,或者设置在一个大型商场内的全部摄像头。多媒体数据指代有声视频数据或者无声图像数据。目标物可为摄像设备在可捕捉范围内捕捉到的任何人或物体,为车辆、骑行者、行人等等。
其中,上述特定目标物的特征信息,是对包含特定目标物的图像进行目标物提取以及对提取到的特定目标物进行特征提取后得到的特征信息;需要说明的是,该特定目标物的特征信息既可以由服务器的特征描述模块进行提取,也可以在由终端提取后将提取后的特征信息直接上传至服务器,本申请实施例对此不进行具体限定。
即,检索请求中可以携带包含特定目标物的图像,由服务器的特征描述模块对该包含特定目标物的图像进行上述一系列提取操作,从而得到特定目标物的特征信息。此外,检索请求中还可以直接携带特定目标物的特征信息。针对该种情况,可由终端对包含特定目标物的图像进行上述一系列提取操作,从而得到特定目标物的特征信息。
在另一个实施例中,针对上述描述的两种情况,除了在检索请求中携带图像或特征信息外,为了提高检索精度,还可在检索请求中携带一些对特定目标物进行特征描述的文本信息。在进行检索时,还可利用这一文本信息进行辅助检索。换句话说,检索请求中可以仅携带图像,或者仅携带特征信息,或者携带图像和上述对特定目标物进行特征描述的文本信息,或者携带特征信息和上述对特定目标物进行特征描述的文本信息。
结合第一方面,在第一方面的第一种可能的实现方式中,所述计算所述至少两个目标物中的每一个目标物的异常分值,包括:
对所述至少两个目标物中的每一个目标物进行特征提取,得到所述每一个目标物的特征信息;基于所述每一个目标物的特征信息,对所述每一个目标物进行异常分值计算,得到所述每一个目标物的异常分值。
在进行特征提取时,提取的特征通常包括结构化特征以及非结构化特征。其中,结构化特征包括性别、年龄、衣服款式、衣服颜色等。非结构化特征指代颜色特征、纹理特征、深度特征等等。在本申请实施例中,异常分值是对一个目标物的可疑程度的评价,用于表征目标物的异常程度,异常分值越大,表明一个目标物越可疑。
结合第一方面的第一种可能的实现方式,在第一方面的第二种可能的实现方式中,所述对所述至少两个目标物中的每一个目标物进行特征提取,包括:
对于所述每一个目标物,根据所述目标物的类别,初步确定在对所述目标物进行特征提取时应提取的初步特征信息类型;获取所述摄像设备的拍摄场景类型;根据所述拍摄场景类型,在所述初步特征信息类型中筛选出目标特征信息类型;基于所述目标特征信息类型,对所述目标物进行特征提取。
其中,目标物的类别可分为车辆、行人、骑行者等等。以行人为例,则初步特征信息类型中可包括滞留时间、行进速度、衣服颜色、性别、年龄、衣服款式等一切可用于区分目标物的特征信息类型。拍摄场景类型用于指示摄像设备拍摄的场景。比如,拍摄场景类型可包括步行街、银行、商场、马路等等。对于一个目标物来说,目标特征信息类型为初步特征信息的子集。
结合第一方面的第一种或第二种可能的实现方式,在第一方面的第三种可能的实现方式中,所述基于所述每一个目标物的特征信息,对所述每一个目标物进行异常分值计算,得到所述每一个目标物的异常分值,包括:
对于所述每一个目标物,根据异常经验数据和所述摄像设备的拍摄场景类型中的至少一种,为所述目标物的特征信息中包含的每一个子特征信息设置权重值;
计算所述每一个子特征信息的异常分值;
对所述每一个子特征信息的异常分值和所述每一个子特征信息的权重值进行加权平均处理,得到所述每一个目标物的异常分值。
其中,异常经验数据在本申请实施例中来自于专家系统,这个专家系统综合了管理部门的历史工作经验,一方面在上述特征提取过程中用于对提取到的特征信息进行过滤,以去除虚警。比如,上述根据所述拍摄场景类型在所述初步特征信息类型中筛选目标特征信息类型时,便由专家系统来指导,专家系统指导不同的拍摄场景类型应该将对应的哪一些特征信息类型确定为目标特征信息类型。另一方面,专家系统还用于指导每一个子特征信息的权重值的设置,详见下述描述。
结合第一方面的第三种可能的实现方式,在第一方面的第四种可能的实现方式中,所述计算所述每一个子特征信息的异常分值,包括:
对于所述每一个子特征信息,若所述子特征信息为绝对异常子特征信息,则将所述绝对异常子特征信息的异常分值置为预设数值,所述预设数值为所述异常分值的上边界值;
若所述子特征信息为相对异常子特征信息,则确定与所述子特征信息对应的目标物匹配的其他目标物,根据所述其他目标物的且与所述子特征信息相同类型的子特征信息,计算所述子特征信息的异常分值;
其中,所述绝对子特征信息,指代所述子特征信息对应的目标物无需通过与所述其他目标物进行异常比较即可直接进行所述异常分值计算的特征信息;
所述相对异常子特征信息,指代所述子特征信息对应的目标物需通过与所述其他目标物进行异常比较而进行所述异常分值计算的特征信息。
以异常分值为[0,1]为例,则上述上边界值即为1,即预设数值的取值为1。
结合第一方面的第四种可能的实现方式,在第一方面的第五种可能的实现方式中,所述确定与所述子特征信息对应的目标物匹配的其他目标物,包括:
将所述摄像设备中至少一个摄像头在第一时长内拍摄到的目标物作为所述其他目标物;
其中,所述摄像设备中可包括数目众多的摄像头,这里提到的至少一个摄像头为这些数目众多的摄像头中的一部分。所述第一时长指代用于对所述至少一个摄像头拍摄到的目标物进行统计的一段时长。也可以理解为,为了计算特定目标物的相对异常子特征信息的异常分值,而需要对一段时间内出现的部分目标物进行统计。为了规定一段时间的两个时间边界点,需要设定一个第一时长,比如第一时长为9点至11点的2个小时。那么就统计至少一个摄像头在9点至11点的这2个小时内拍摄到的目标物。
其中,所述至少一个摄像头指代位于以指定地理位置为中心的预设范围内的摄像头,所述指定地理位置指代所述子特征信息对应的目标物所在的地理位置。即,至少一个摄像头可包含拍摄到所述子特征信息对应的目标物的摄像头以及位于这个摄像头附近的一些摄像头,比如附近50米以内的摄像头。本申请实施例对预设范围的大小不进行具体限定。
结合第一方面的第四种可能的实现方式,在第一方面的第六种可能的实现方式中,应用下述公式,根据所述其他目标物的且与所述子特征信息相同类型的子特征信息,计算所述子特征信息的异常分值:
Figure BDA0001255464880000041
其中,ti指代所述其他目标物中第i个目标物的且与所述子特征信息相同类型的子特征信息,n为正整数,指代所述其他目标物中的总目标物个数,tk指代所述子特征信息,w为归一化参数,Sk为所述子特征信息的异常分值,k为正整数,用于标识所述子特征信息对应的目标物。
结合第一方面、以及第一方面的第一种至第六种可能的实现方式,在第一方面的第七种可能的实现方式中,在基于所述每一个目标物的异常分值,对所述至少两个目标物进行集合划分时,还需基于上下两个方面的考量:
首先,按照所述异常分值由高到低的顺序,将所述至少两个目标物划分成至少两个目标物集合。比如,将异常分值位于1至0.9之间的目标物划分在一个集合中,将异常分值位于0.9至0.8之间的目标物划分在一个集合中,依次类推,直至将全部的目标物划分完毕。
其次,在上述划分完毕后,对于所述至少两个目标物集合中的每一个目标物集合,若所述目标物集合中包含的数据量大于预设阈值,则还会基于所述目标物集合中每一个目标物的特征信息之间的相似性,将所述目标物集合中包含的目标物进行集合划分,得到至少两个目标物子集合。
即在引入一个全新的维度对目标物进行划分后,对于划分后每一个目标物集合,又可以使用基于外观特征的检索方法(比如LSH算法)进行进一步划分,实现了检索方法的完美结合,达到了更高的检索效率和检索精度。
综上所述,由于没有利用目标物的外观特征进行目标物划分,因此对于每个目标物集合来说,目标物在外观特征的空间内更加分散,便于后续利用表观信息再次进行精细查找。即,本申请实施例通过异常程度进行目标物进行划分,每个目标物集合内的异常程度很相似,但是外观特征不一定相似。
这样,在按照所述异常分值由高到低的顺序依次在所述至少两个目标物集合中进行所述特定目标物的检索过程中,当在所述目标物集合中进行所述特定目标物的检索时,服务器会基于所述特定目标物的特征信息,在所述目标物集合包含的所述至少两个目标物子集合中筛选第一目标物子集合。其中,第一目标物子集合中存在有所述特定目标物的概率大于其他目标物子集合;之后,服务器在所述第一目标物子集合中进行所述特定目标物的检索。
即,若任何一个目标物集合包含的数据量大于预设阈值,则服务器均会采取上述类似的处理方式在这类目标物集合中进行特定目标物的检索。
结合第一方面、以及第一方面的第一种至第六种可能的实现方式,在第一方面的第八种可能的实现方式中,所述基于所述特定目标物的特征信息,按照所述异常分值由高到低的顺序依次在所述至少两个目标物集合中进行所述特定目标物的检索,包括:
首先,基于所述特定目标物的特征信息,在所述异常分值最高的目标物集合中进行所述特定目标物的检索;若在所述异常分值最高的目标物集合中未检索到所述特定目标物,则接下来,按照所述异常分值由高到低的顺序在剩余的目标物集合中再次进行所述特定目标物的检索,直至检索到所述特定目标物。即,按照异常分值由高到低的顺序在一个一个目标物集合中检索特定目标物,直至检索到为止。
第二方面,提供了一种目标物检索装置,所述装置用于执行上述的目标物检索方法。
本申请实施例提供的技术方案带来的有益效果是:
在对摄像设备采集到的多媒体数据进行目标物提取以及对提取到的目标物的异常程度进行评价后,本申请基于目标物的异常分值对目标物进行集合划分,使得对目标物的划分维度与安防监控场景契合度更高,且重点关注异常目标,此外在检索过程中,本申请按照异常分值由高到低的顺序依次在划分出的集合中进行待检索的特定目标的检索,不但大大降低了检索耗时,而且检索结果更加精确。
附图说明
图1是本申请实施例提供的一种目标物检索方法所涉及的系统架构图;
图2是本申请实施例提供的一种目标检索方法的流程图;
图3是本申请实施例提供的一种目标检索方法的系统流程的示意图;
图4是本申请实施例提供的另一种目标物检索系统流程的示意图;
图5是本申请实施例提供的一种对目标物进行异常程度划分的示意图;
图6是本申请实施例提供的一种目标物检索装置的结构示意图;
图7是本申请实施例提供的一种服务器的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述。
在对本申请实施例进行详细地解释说明之前,先对本申请涉及的应用场景以及系统架构进行简单地解释说明。
如前文所述,在城市建设过程中,进行安防监控时产生的多媒体数据呈爆发式增长,在这样的背景下,一方面,对传统的计算机视觉算法在性能上提出了更高的要求,另一方面,如何应对超大规模数据,在保证检索精度(召回率)的前提下快速完成对特定目标物的检索,成为衡量一个目标物检索系统性能优劣的重要技术指标。在目前阶段,无论是LSH算法、二进制码算法还是K-D树算法,这些目标物检索算法均是基于数据库中所有目标物的重要性相同这一假设,按照目标物之间的相似性进行集合划分。以行人的以图搜图为例,会将穿着相似的行人划分到一个集合中。但是针对安全监控这一特殊的情形来说,上述目标物检索算法在检索速度和检索精度方面均存在瓶颈。
其中,二进制码算法,是用哈希映射等方法将用于表征数据库中目标物的高维度数据降维为由0或1组成的二进制串。在进行特定目标物检索时,将用于表征该特定目标物的高维度数据同样降维为二进制码串。之后,将特定目标物的二进制码串,与数据库中目标物的二进制码顺序进行匹配,锁定进行匹配后与特定目标物之间距离小于固定阈值的这部分目标物。将这部分目标物作为检索结果。K-D树算法用平行于坐标轴的超平面将用于表征目标物的数据划分为多个子空间的集合。在进行特定目标物检索时,仅锁定特定目标物对应的子空间下的这部分目标物,并将这部分目标物作为检索结果。
综上所述,为了提升目标物的检索速度以及精度,本申请结合安全监控场景的特殊性,提出了一种基于异常检测的目标物检索方法。简单来说,目标物检索系统会对数据库中的全部目标物进行异常程度的打分,之后根据每一个目标物的异常分值(该异常分值用于反映目标物的异常程度)来指导对全部目标物的集合划分,进而按照一定顺序在得到的多个目标物集合中进行特定目标物的检索。
换句话说,本申请按照目标物的异常程度,由高到低对数据库中的全部目标物进行集合划分,得到多个目标物集合。在另一个实施例中,还可在每个划分出的目标物集合中,依照上述提及到的算法再进行子集合的构建,具体描述详见后文。在目标物检索阶段,按照每个目标物集合的异常分值由高到低的顺序,依次进行特定目标物的检索,从而逐渐扩大检索范围,直到找到满足条件的目标物。即,本申请提出的目标物检索方案的要点在于:一是对目标物的异常程度进行评价打分,二是根据目标物的异常分值进行集合划分,三是按照异常分值由高到低的顺序,在划分出的目标物集合中逐级进行特定目标物的检索。
需要说明的是,目标物可为车辆、骑行者、行人等等,通常是预先人工定义或者由机器预先识别的,本申请实施例对此不进行具体限定。下面,结合几个具体的例子对目标物是否异常进行解释说明。以车辆为例,若车辆出现存在遮光板、贴膜、无牌、驾驶员带帽子等情况,则认定车辆存在异常;以骑行者为例,若骑行者出现速度过慢过快、突然加速等情况,则认定骑行者存在异常;以行人为例,若行人在特定场合(比如银行门前)徘徊滞留的时间过长,则认定行人存在异常。其中,上述情形的举例,仅是用于对目标物是否异常进行解释说明而已,其并不构成对目标物异常类型的限定。
图1为本申请实施例提出的一种目标物检索方法所涉及的系统架构图。参见图1,该系统架构中主要包括服务器、摄像设备、终端以及存储设备。
其中,摄像设备具体可为网络摄像头(IP Camera,IPC),用于采集监控场景的多媒体数据,并通过网络将采集到的多媒体数据传输至服务器。
服务器在获取到上述多媒体数据后,依次执行在多媒体数据中进行目标物提取、对目标物进行特征提取、基于提取到的特征信息进行异常程度打分、基于异常分值对上述目标物进行集合划分等等处理,之后将进行集合划分后得到的目标物集合存储到存储设备中,以完成数据库的构建。
在进行目标物检索时,终端向服务器发起对特定目标物的检索请求,在接收到该检索请求后,基于该检索请求在存储于存储设备的多个目标物集合中进行特定目标物的检索,并将得到的检索结果返回给终端。其中,在对特定目标物进行检索时是基于特定目标物的特征信息进行的。
需要说明的是,由于目标物是包含在多媒体数据中的,因此在本申请中提及到的对目标物的集合划分,实质上是对包含有各个目标物的多媒体数据的划分。同理,在对划分出的目标物集合进行存储时,实质上存储的也是包含有各个目标物的多媒体数据。同理,进行特定目标物的检索,实质上也是检索包含有特定目标物的多媒体数据。
图2是本申请实施例提供的一种目标物检索方法的流程图。为了便于描述,下面结合图3所示的系统流程图,对该目标物检索方法进行详细地解释说明。参见图2,本申请实施例提供的方法流程包括:
201、服务器接收摄像设备采集到的多媒体数据,并对该多媒体数据进行目标物提取,得到至少两个目标物。
在本申请中,服务器通过图3中的目标物提取模块来进行目标物的提取。摄像设备指代某一地区或场所的全部摄像头。比如,设置在一条步行街上的全部摄像头,或者设置在一个大型商场内的全部摄像头。服务器在进行数据库构建时,通常是针对摄像设备在一段时间内获取到的全部多媒体数据。比如,一个月内或半年内拍摄到的多媒体数据。其中,多媒体数据指代视频数据或者图像数据。
在对获取到的多媒体数据进行目标物提取时,通常包括目标物检测、目标物跟踪以及图像分割等多个步骤。
在本申请中,目标物检测主要针对的是运动目标检测。其中,运动目标检测又分为静止背景下的运行目标检测和运动背景下的运动目标检测。无论是哪种类型的运动目标检测,在对目标物检测时,通常可采取下述几类算法实现:第一类是基于像素分析的方法,主要有基于图像分割的方法、帧间差分方法、光流法、滤波法等。第二类是基于特征匹配的方法,主要利用的特征有:角点、直边缘、曲边缘等局部特征和形心、表面积、周长、投影特征等全部特征,此外还包括尺度不变特征变换(SIFT,Scale-Invariant Feature Transform)等。第三类是基于频域的方法,较为典型的是基于傅里叶变换和基于小波变换的方法。第四类是基于识别的检测方法,较典型的是基于边缘碎片模型的目标检测方法,基于Adaboost的目标检测方法等。
在目标物跟踪问题中,目标物的表示形式是目标物跟踪的基础。最常见的是基于目标物形态的表示方法,比如点表示的方法,将目标物通过一个点来表示,即用其中心点来表示。对于比较大的目标可以选择用一组点来表示。这种表示方式适合目标相对于整个图像来说比较小时。几何形状表示法,通过定义椭圆或矩阵框来表示目标物,这种表示方法适合不易发生形变的刚性物体的运动。此外,还可利用基于目标物的外观特征表示法,比如目标物的概率密度表示方法、多视点模型表示法、主动外观模型表示法。在对目标物进行跟踪时,可采取基于点的跟踪、基于统计的跟踪以及基于轮廓的跟踪等等。
其中,图像分割通常服务与目标物检测过程。图像分割的目的是将图像分解成构成它的部件和对象,有选择性地定位感兴趣的对象在图像中的位置和范围。在进行图像分割时的基本思路是,从简到难逐级分割,控制背景环境来降低分割难度,主要集中在感兴趣的对象,缩小不相干图像成分的干扰。通常,在进行图像分割时可采取:基于阈值的分割方法、基于形态学的分割方法、基于边缘的分割方法以及基于区域的分割方法等。
此外,由于服务器获取到的上述多媒体数据往往海量,因此目标物提取模块在进行目标物提取后,可以获取到到众多的、各种形态以及各个类型的目标物。
202、服务器计算至少两个目标物中的每一个目标物的异常分值。
其中,服务器在计算至少两个目标物中的每一个目标物的异常分值时,通常包括下述两个步骤:一、对至少两个目标物中的每一个目标物进行特征提取,得到每一个目标物的特征信息。二、基于每一个目标物的特征信息,对每一个目标物进行异常分值计算,得到每一个目标物的异常分值。
在本申请中,服务器在对提取到的目标物进行特征提取时,通过图3中的特征提取模块实现。其中,提取的特征包括结构化以及非结构化特征。结构化特征包括性别、年龄、衣服款式、衣服颜色等。非结构化特征指代颜色特征、纹理特征、深度特征等等。其中,颜色特征是对目标物颜色分布的描述,通常为在各种颜色空间下的直方图特征,如红绿蓝(RedGreen Blue,RGB)颜色直方图特征,色调饱和度明度(Hue Saturation Value,HSV)颜色直方图特征等等。纹理特征是像素灰度分布宏观上呈现周期性的结构特征,它是图像中某些结构单元按某种规则排列而成的规则图案,反映图像纹理基元灰度周期性重复变化的规律。深度特征指的是场景中某个点到摄像设备中心所在的XY平面的距离,即深度图中的每一个像素记录了场景中的某个点到摄像设备中心所在的XY平面的距离。
其中,特征提取模块在对每一个目标物进行特征提取时,通常采取下述方式实现:
(a)、对于每一个目标物,根据目标物的类别,初步确定在对目标物进行特征提取时应提取的初步特征信息类型。
在本申请中,针对目标物的类别不同,提取的特征信息类型也是不同的。比如,若目标物为车辆,则应提取的特征信息类型通常包括:是否设置遮光板、是否贴膜、车牌、驾驶员是否带帽子等;若目标物为骑行者,则应提取的特征信息类型通常包括:速度、加速度等;若目标物为行人,则应提取的特征信息类型通常包括:行走轨迹、特定场合滞留时间、地理位置等。
(b)根据摄像设备的拍摄场景类型,在初步特征信息类型中筛选出目标特征信息类型,基于筛选出的目标特征信息类型,对该目标物进行特征提取。
其中,拍摄场景类型用于指示摄像设备拍摄的场景。比如,拍摄场景类型可包括步行街、银行、商场、马路等等。
在本申请中,还包括通过图3中示出的专家系统对初步特征信息类型进行进一步地过滤、去除虚警的步骤,以去除那些与异常程度不相关的特征信息类型。
比如,对于拍摄场景类型为步行街来说,步行街上行人的滞留时间、行进速度随意性很强,因此后续基于滞留时间和行进速度进行异常检测,对目标物的可疑程度的判断意义不大,还会引入大量冗余计算,所以对于这类拍摄场景类型来说,专家系统通常指导特征提取模块不提取滞留时间和行进速度等特征。
需要说明的是,专家系统中存储了大量的异常经验数据,即专家(比如有经验的民警)的历史经验数据,以对图3中特征提取模块和异常程度评价模块进行指导。比如,通过上述分析可知,“形迹可疑”的目标物在外观或速度等特征层面上,一般均是与普通目标存在明显的差异的。
以骑行者为例,当一个骑行者较其他骑行者速度过慢时,则该骑行者很有可能正在进行尾随;当一个骑行者突然加速,该骑行者很可能开始实施抢夺犯罪,因此这两类骑行者可疑程度明显高于一般骑行者。但是并不是所有的异常都导致可疑度升高。比如,一个行人穿了一件颜色鲜艳的衣服,虽然在外观上可能与周围行人存在差异,但是并不会被当做重点关注对象。这便需要专家系统对这种特殊情况进行区分与过滤。
基于此,参见图4,本申请在所有目标物中又划分出了异常目标物和高危目标物,除这两类之外,剩下的便是普通目标物。比如,上述速度过慢或突然加速的骑行者便为高危目标物,而那个衣着鲜艳的行人便为异常目标物。
此外,专家系统中存储的异常经验数据还可根据摄像设备拍摄的场合不同或时间进行不定期的更新,以达到更好的过滤效果。比如,针对不同区域不同时间的案发情况进行调整。
在本申请中,服务器在对目标物进行异常打分时,通过图3中的异常程度评价模块实现。
其中,异常程度评价模块在基于每一个目标物的特征信息,对每一个目标物进行异常分值计算时,通常采取下述方式实现:
(1)、对于每一个目标物,根据专家系统的异常经验数据和摄像设备的拍摄场景类型,为该目标物的特征信息中包含的每一个子特征信息设置权重值。
针对该步骤,对于一个目标物来说,是通过专家系统的异常经验数据和该目标物所在的拍摄场景类型来为该目标物的特征信息中包含的每一个子特征信息设置权重值。
比如,若一个行人出现在银行等场合中,那么这个行人的滞留时间子特征信息的权重值,专家系统也会设置的相较于其他子特征信息来说大一些。
再比如,在某一个区域的一段时间内飞车抢劫(驾驶摩托车抢夺行人包)案件频发,那么在该区域应该着重关注骑行者,所以骑行者的加速度、速度、戴口罩等子特征信息的权重值专家系统会设置的大一些,而骑行者的衣着等子特征信息的权重值会设置的相对小一些。
综上所述,专家系统在为一个目标物的各个子特征信息设置权重值时,会综合考虑该目标物当前所在的场景特点以及历史经验数据来为每一个子特征信息设置权重值。
(2)、计算每一个子特征信息的异常分值。
针对该步骤,异常程度评价模块在计算每一个子特征信息的异常分值,通常通过下述方式实现:
情况一、对于每一个子特征信息,若该子特征信息为绝对异常子特征信息,则将该绝对异常子特征信息的异常分值置为预设数值。
其中,绝对子特征信息,指代该子特征信息对应的目标物无需通过与其他目标物进行异常比较即可直接进行异常分值计算的特征信息。比如,针对车辆来说,设置遮光板、贴膜、无牌等均为绝对异常子特征信息。只要这类特征在车辆身上出现,那么车辆就是绝对异常,因此绝对子特征信息的异常分值为满分,即在本申请中预设数值为异常分值的上边界值,若异常分值介于[0,1],那么预设数值的取值为1。
情况二、若该子特征信息为相对异常子特征信息,则确定与该子特征信息对应的目标物匹配的其他目标物,根据其他目标物的且与该子特征信息相同类型的子特征信息,计算该子特征信息的异常分值。
其中,相对异常子特征信息,指代该子特征信息对应的目标物需通过与其他目标物进行异常比较而进行异常分值计算的特征信息。比如,速度、加速度、滞留时间等均属于相对异常子特征信息。
即,对于一个相对异常子特征信息来说,对其的异常打分,还需取决于位于该目标物周围的其他目标物的且与该子特征信息相同类型的子特征信息的统计特性的差异程度。其中,在进行统计时,还需依据时间和空间上两个维度,时间指代一个时间邻域内,空间指代附近一个或几个摄像设备内。需要说明的是,这里相同类型的子特征信息指代的是,为一个目标物的哪一个子特征信息进行异常分值的计算,那么相同类型的子特征信息便指的是哪个。
在另一个实施例中,在确定该子特征信息对应的目标物匹配的其他目标物时,可依据下述方式:将摄像设备中至少一个摄像头在第一时长内拍摄到的目标物作为其他目标物。其中,摄像设备中可包括数目众多的摄像头,这里提到的至少一个摄像头为这些数目众多的摄像头中的一部分。而第一时长指代用于对至少一个摄像头拍摄到的目标物进行统计的一段时长T。而至少一个摄像头指代位于以指定地理位置为中心的预设范围内的摄像头,其中指定地理位置指代该子特征信息对应的目标物所在的地理位置。
在另一个实施例中,应用下述公式,根据其他目标物的相同类型的子特征信息,计算该子特征信息的异常分值:
Figure BDA0001255464880000101
其中,ti指代其他目标物中第i个目标物的且与该子特征信息相同类型的子特征信息,n为正整数,指代其他目标物中的总目标物个数,tk指代该子特征信息,w为归一化参数,Sk为该子特征信息的异常分值,k为正整数,用于标识该子特征信息对应的目标物。
举例来说,以行人的滞留时间为例,则在第一时长T内,n即为摄像设备中出现的目标物个数,ti为第i个目标的滞留时间,tk为待进行异常分值计算的滞留时间,Sk为计算出的该滞留时间的异常分值,k为该滞留时间对应的那个目标。
由上述分析可以看出,当待进行异常分值计算的子特征信息对应的目标物与周围时空邻域内的其他目标物的差异越大,表明其异常程度越高,进而可疑程度增加。
(3)、对每一个子特征信息的异常分值和每一个子特征信息的权重值进行加权平均处理,得到每一个目标物的异常分值。
针对一个目标物来说,在得到该目标物的每一个子特征信息,以及每一个子特征信息的权重值后,还需进行结果融合,得到最终为该目标物的异常程度的打分结果。其中,应用下述公式,对每一个子特征信息的异常分值和每一个子特征信息的权重值进行加权平均处理:
Figure BDA0001255464880000102
其中,S为目标物的异常分值,si为第i个子特征信息的异常分值,其中i=1、2、3…m,qi为第i个子特征信息的权重值,m为目标物的子特征信息的总个数。专家系统可以根据需要增加某种子特征信息的权重值。
综上所述,本步骤202所示的内容可简单概括为图5所示流程。
203、服务器基于每一个目标物的异常分值,对至少两个目标物进行集合划分,得到至少两个目标物集合。
在本申请中,在对提取到的全部目标物进行异常打分后,图3中的数据存储模块会依据异常打分结果,对各个目标物进行集合划分。其中,在进行集合划分时,通常按照异常分值由高到低的顺序,将提取到的至少两个目标物划分成至少两个目标物集合。
举例来说,首先可按照异常分值由高到低的顺序对各个目标物进行排序,接下来比如将异常分值位于1至0.9之间的目标物划分在一个集合中,将异常分值位于0.9至0.8之间的目标物划分在一个集合中,依次类推,直至将全部的目标物划分完毕。
需要说明的是,这里提及到的目标物的集合划分,实质上指的是对包含目标物的多媒体数据的划分。在划分完毕后,数据存储模块将摄像设备采集到的多媒体数据按照划分结果存储在图1所示的存储设备中。
在另一个实施例中,针对每一个目标物集合来说,还可以根据其包含的数据量的规模,使用传统的数据划分方法来进一步进行目标物的划分,以达到二次加速的目的,详细过程如下:若一个目标物集合中包含的数据量大于预设阈值,则基于该目标物集合中每一个目标物的特征信息之间的相似性,将该目标物集合中包含的目标物进行集合划分,得到至少两个目标物子集合。其中,特征信息之间的相似性指代将具有相似特征信息的目标物划分到一个子目标物集合。比如,将穿有相近颜色上衣的目标物划分到一起。
综上所述,通过上述步骤201至步骤203便完成了数据库构建的步骤,接下来,服务器便可接收终端发送的检索请求,基于构建好的数据库进行特定目标物的检索,详见下述步骤204。
204、服务器接收终端发送的对特定目标物的检索请求,并基于特定目标物的特征信息,按照异常分值由高到低的顺序依次在至少两个目标物集合中进行特定目标物的检索,并将得到的检索结果发送给终端。
其中,特定目标物的特征信息由图3中的对象描述模块进行提取,其中对象描述模块的功能与上述特征提取模块的功能类似,此处不再赘述。
在本申请中,图3中的在基于特定目标物的特征信息,按照异常分值由高到低的顺序依次在存储于存储设备的至少两个目标物集合中进行特定目标物的检索时,通常还需依据下述检索规则:
基于特定目标物的特征信息,首先在异常分值最高的目标物集合中进行特定目标物的检索;若在异常分值最高的目标物集合中未检索到特定目标物,则按照异常分值由高到低的顺序在剩余的目标物集合中再次进行特定目标物的检索,直至检索到特定目标物。其中,在进行特定目标物检索时,会依据特定目标物的特征信息,将一个目标物集合中各个目标物分别与特定目标物进行比对;如果二者的相似性大于一个预先设定的阈值,则认为检索到特定目标物。
举例来说,如果在异常分值最高(异常分值位于1至0.9这一区间)的目标物集合中未检索到特定目标物,则接下来在异常分值次高(异常分值位于0.9至0.8这一区间)的目标物集合进行检索,如果还未检索到特定目标物,则在剩余的目标物集合中选取异常分值最高的目标物集合,再次进行特定目标物的检索,直至检索到特定目标物。
在另一个实施例中,依次在各个目标物集合中进行特定目标物的检索时,无论是否检索到特定目标物,还可将在每个目标物集合中的检索结果分别反馈给终端,由终端将接收到的检索结果展示给用户,当满足用户需求时立即终止检索过程。
在另一个实施例中,如前文所述,若一个目标物集合中包含的数据量大于预设阈值,那么这个目标物集合实质上是进一步划分成了多个目标物子集合的,针对该种情况,在该目标物中进行特定目标物的检索时,还需采取下述方式进行特定目标物的检索。其中,下述检索过程仅以异常分值最高的目标物集合为例,其同样适用于其他目标物集合。
在异常分值最高的目标物集合中包含的数据量大于预设阈值的情况下,基于特定目标物的特征信息,在该目标物集合包含的至少两个目标物子集合中筛选出第一目标物子集合。其中,第一目标物子集合中存在有特定目标物的概率大于其他目标物子集合;之后,在第一目标物子集合中进行特定目标物的检索。
其中,第一目标物子集合的筛选可是一个初步粗略的筛选过程,由于每一个目标物子集合中包含的目标物之间是有着一定共性的,即存在至少一个相似特征,因此若特定目标物的特征信息与某一个目标物子集合的这一相似特征相似或相近,那么便可将这个目标物子集合确定为指定目标物集合。换句话说,这个筛选第一目标物子集合的过程实质上就是前文中提及的LSH算法所示的哈希处理过程。
本申请实施例提供的方法,在对摄像设备采集到的多媒体数据进行目标物提取以及对目标物进行特征提取后,本申请实施例基于目标物的特征信息对目标物的异常程度进行评价,而后基于异常分值对目标物进行集合划分,使得对目标物的划分维度与安防监控场景契合度更高,且重点关注异常目标,所以这种对数据进行划分的方式更加合理、更有针对性。此外,在检索过程中,本申请实施例按照异常程度由高到低的顺序依次在划分出的集合中进行待检索的特定目标的检索,在概率上讲,待检索的特定目标物出现在先进行检索的目标物集合中的概率更大,不但大大降低了检索耗时,而且检索结果更加精确。
由于没有利用目标物的外观特征进行目标物划分,因此对于每个目标物集合来说,目标物在外观特征的空间内更加分散,便于后续利用表观信息再次进行精细查找。即,本申请实施例通过异常程度进行目标物进行划分,每个目标物集合内的异常程度很相似,但是外观特征不一定相似。另外,本申请实施例还可以因地制宜的对专家系统进行更新,因此更进一步地确保了目标物检索的精确度。
此外,由于引入一个全新的维度对目标物进行划分,对于划分后每一个目标物集合,又可以使用基于外观特征的检索方法进行进一步划分,实现了检索方法的完美结合,达到了更高的检索效率和检索精度。
图6是本申请实施例提供的一种目标物检索装置的结构示意图。参见图6,该装置包括:提取模块601,计算模块602,集合划分模块603以及检索模块604。
其中,提取模块601,用于对摄像设备采集到的多媒体数据进行目标物提取,得到至少两个目标物;
计算模块602,用于计算至少两个目标物中的每一个目标物的异常分值;
集合划分模块603,用于基于每一个目标物的异常分值,对至少两个目标物进行集合划分,得到至少两个目标物集合;
检索模块604,用于在接收到对特定目标物的检索请求后,基于特定目标物的特征信息,按照异常分值由高到低的顺序依次在至少两个目标物集合中进行特定目标物的检索。
在另一个实施例中,计算模块602,用于对至少两个目标物中的每一个目标物进行特征提取,得到每一个目标物的特征信息;基于每一个目标物的特征信息,对每一个目标物进行异常分值计算,得到每一个目标物的异常分值。
在另一个实施例中,计算模块602,用于对于每一个目标物,根据目标物的类别,初步确定在对目标物进行特征提取时应提取的初步特征信息类型;获取摄像设备的拍摄场景类型;根据拍摄场景类型,在初步特征信息类型中筛选出目标特征信息类型;基于目标特征信息类型,对目标物进行特征提取。
在另一个实施例中,计算模块602,用于对于每一个目标物,根据异常经验数据和摄像设备的拍摄场景类型中的至少一种,为目标物的特征信息中包含的每一个子特征信息设置权重值;计算每一个子特征信息的异常分值;对每一个子特征信息的异常分值和每一个子特征信息的权重值进行加权平均处理,得到每一个目标物的异常分值。
在另一个实施例中,计算模块602,用于对于每一个子特征信息,若该子特征信息为绝对异常子特征信息,则将该绝对异常子特征信息的异常分值置为预设数值,预设数值为异常分值的上边界值;若该子特征信息为相对异常子特征信息,则确定与该子特征信息对应的目标物匹配的其他目标物,根据其他目标物的且与该子特征信息相同类型的子特征信息,计算该子特征信息的异常分值;
其中,绝对子特征信息,指代该子特征信息对应的目标物无需通过与其他目标物进行异常比较即可直接进行异常分值计算的特征信息;
相对异常子特征信息,指代该子特征信息对应的目标物需通过与其他目标物进行异常比较而进行异常分值计算的特征信息。
在另一个实施例中,计算模块602,用于将摄像设备中至少一个摄像头在第一时长内拍摄到的目标物作为其他目标物;
其中,第一时长指代用于对至少一个摄像头拍摄到的目标物进行统计的一段时长;至少一个摄像头指代位于以指定地理位置为中心的预设范围内的摄像头,指定地理位置指代该子特征信息对应的目标物所在的地理位置。
在另一个实施例中,计算模块602,应用下述公式,根据其他目标物的相同类型的子特征信息,计算子特征信息的异常分值:
Figure BDA0001255464880000131
其中,ti指代其他目标物中第i个目标物的且与该子特征信息相同类型的子特征信息,n为正整数,指代其他目标物中的总目标物个数,tk指代一个子特征信息,w为归一化参数,Sk为一个子特征信息的异常分值,k为正整数,用于标识该子特征信息对应的目标物。
在另一个实施例中,集合划分模块603,用于按照异常分值由高到低的顺序,将至少两个目标物划分成至少两个目标物集合;对于至少两个目标物集合中的每一个目标物集合,若一个目标物集合中包含的数据量大于预设阈值,则基于该目标物集合中每一个目标物的特征信息之间的相似性,将该目标物集合中包含的目标物进行集合划分,得到至少两个目标物子集合;
检索模块604,用于当在该目标物集合中进行特定目标物的检索时,基于特定目标物的特征信息,在该目标物集合包含的至少两个目标物子集合中筛选第一目标物子集合,第一目标物子集合中存在有特定目标物的概率大于其他目标物子集合;在第一目标物子集合中进行特定目标物的检索。
在另一个实施例中,检索模块604,用于基于特定目标物的特征信息,在异常分值最高的目标物集合中进行特定目标物的检索;若在异常分值最高的目标物集合中未检索到特定目标物,则按照异常分值由高到低的顺序在剩余的目标物集合中再次进行特定目标物的检索,直至检索到特定目标物。
本申请实施例提供的装置,在对摄像设备采集到的多媒体数据进行目标物提取以及对目标物进行特征提取后,本申请实施例基于目标物的特征信息对目标物的异常程度进行评价,而后基于异常分值对目标物进行集合划分,使得对目标物的划分维度与安防监控场景契合度更高,且重点关注异常目标,所以这种对数据进行划分的方式更加合理、更有针对性。此外,在检索过程中,本申请实施例按照异常程度由高到低的顺序依次在划分出的集合中进行待检索的特定目标的检索,在概率上讲,待检索的特定目标物出现在先进行检索的目标物集合中的概率更大,不但大大降低了检索耗时,而且检索结果更加精确。
由于没有利用目标物的外观特征进行目标物划分,因此对于每个目标物集合来说,目标物在外观特征的空间内更加分散,便于后续利用表观信息再次进行精细查找。即,本申请实施例通过异常程度进行目标物进行划分,每个目标物集合内的异常程度很相似,但是外观特征不一定相似。另外,本申请实施例还可以因地制宜的对专家系统进行更新,因此更进一步地确保了目标物检索的精确度。
此外,由于引入一个全新的维度对目标物进行划分,对于划分后每一个目标物集合,又可以使用基于外观特征的检索方法进行进一步划分,实现了检索方法的完美结合,达到了更高的检索效率和检索精度。
需要说明的是:上述实施例提供的目标物检索装置在进行目标物检索时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的目标物检测装置与目标物检索方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
图7是本申请实施例提供的一种服务器的结构示意图。参照图7,服务器700包括处理组件722,其进一步包括一个或多个处理器,以及由存储器732所代表的存储器资源,用于存储可由处理部件722的执行的指令,例如应用程序。存储器732中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件722被配置为执行指令,以执行上述方法实施例所示的目标物检索方法。
服务器700还可以包括一个电源组件726被配置为执行服务器700的电源管理,一个有线或无线网络接口750被配置为将服务器700连接到网络,和一个输入输出(I/O)接口758。其中,I/O接口758在本申请实施例中用于接收摄像设备上传的多媒体数据以及终端发送的检索请求,或者向终端返回对特定目标物的检索结果。此外,I/O接口758还用于服务器与存储设备之间的数据传输。服务器700可以操作基于存储在存储器732的操作系统,例如Windows ServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM或类似。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅为本申请的可选实施例,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。

Claims (28)

1.一种目标物检索方法,其特征在于,所述方法包括:
对摄像设备采集到的多媒体数据进行目标物提取,得到至少两个目标物;
计算所述至少两个目标物中的每一个目标物的异常分值,所述异常分值用于反映目标物的异常程度;
按照异常分值由高到低的顺序,对所述至少两个目标物进行集合划分,得到至少两个目标物集合;
在接收到对特定目标物的检索请求后,基于所述特定目标物的特征信息,在所述目标物的异常分值最高的目标物集合中进行所述特定目标物的检索;若在所述目标物的异常分值最高的目标物集合中未检索到所述特定目标物,则按照所述目标物的异常分值由高到低的顺序在剩余的目标物集合中再次进行所述特定目标物的检索,直至检索到所述特定目标物,所述目标物的异常分值较高的目标物集合中存在有所述特定目标物的概率大于所述目标物的异常分值较低的目标物集合。
2.根据权利要求1所述的方法,其特征在于,所述计算所述至少两个目标物中的每一个目标物的异常分值,包括:
对所述至少两个目标物中的每一个目标物进行特征提取,得到所述每一个目标物的特征信息;
基于所述每一个目标物的特征信息,对所述每一个目标物进行异常分值计算,得到所述每一个目标物的异常分值。
3.根据权利要求2所述的方法,其特征在于,所述对所述至少两个目标物中的每一个目标物进行特征提取,包括:
对于所述每一个目标物,根据所述目标物的类别,初步确定在对所述目标物进行特征提取时应提取的初步特征信息类型;
获取所述摄像设备的拍摄场景类型;
根据所述拍摄场景类型,在所述初步特征信息类型中筛选出目标特征信息类型;
基于所述目标特征信息类型,对所述目标物进行特征提取。
4.根据权利要求2或3所述的方法,其特征在于,所述基于所述每一个目标物的特征信息,对所述每一个目标物进行异常分值计算,得到所述每一个目标物的异常分值,包括:
对于所述每一个目标物,根据异常经验数据和所述摄像设备的拍摄场景类型中的至少一种,为所述目标物的特征信息中包含的每一个子特征信息设置权重值;
计算所述每一个子特征信息的异常分值;
对所述每一个子特征信息的异常分值和所述每一个子特征信息的权重值进行加权平均处理,得到所述每一个目标物的异常分值。
5.根据权利要求4所述的方法,其特征在于,所述计算所述每一个子特征信息的异常分值,包括:
对于所述每一个子特征信息,若所述子特征信息为绝对异常子特征信息,则将所述绝对异常子特征信息的异常分值置为预设数值,所述预设数值为所述子特征信息的异常分值的上边界值;
若所述子特征信息为相对异常子特征信息,则确定与所述子特征信息对应的目标物匹配的其他目标物,根据所述其他目标物的且与所述子特征信息相同类型的子特征信息,计算所述子特征信息的异常分值;
其中,所述绝对异常子特征信息,指代所述子特征信息对应的目标物无需通过与所述其他目标物进行异常比较即可直接进行所述子特征信息的异常分值计算的特征信息;
所述相对异常子特征信息,指代所述子特征信息对应的目标物需通过与所述其他目标物进行异常比较而进行所述子特征信息的异常分值计算的特征信息。
6.根据权利要求5所述的方法,其特征在于,所述确定与所述子特征信息对应的目标物匹配的其他目标物,包括:
将所述摄像设备中至少一个摄像头在第一时长内拍摄到的目标物作为所述其他目标物;
其中,所述第一时长指代用于对所述至少一个摄像头拍摄到的目标物进行统计的一段时长;所述至少一个摄像头指代位于以指定地理位置为中心的预设范围内的摄像头,所述指定地理位置指代所述子特征信息对应的目标物所在的地理位置。
7.根据权利要求5所述的方法,其特征在于,应用下述公式,根据所述其他目标物的且与所述子特征信息相同类型的子特征信息,计算所述子特征信息的异常分值:
Figure FDA0002943938770000021
其中,ti指代所述其他目标物中第i个目标物的且与所述子特征信息相同类型的子特征信息,n为正整数,指代所述其他目标物中的总目标物个数,tk指代所述子特征信息,w为归一化参数,Sk为所述子特征信息的异常分值,k为正整数,用于标识所述子特征信息对应的目标物。
8.一种目标物检索方法,其特征在于,所述方法包括:
对摄像设备采集到的多媒体数据进行目标物提取,得到至少两个目标物;
计算所述至少两个目标物中的每一个目标物的异常分值,所述异常分值用于反映目标物的异常程度;
按照所述异常分值由高到低的顺序,将所述至少两个目标物划分成至少两个目标物集合;
对于所述至少两个目标物集合中的每一个目标物集合,若所述目标物集合中包含的数据量大于预设阈值,则基于所述目标物集合中每一个目标物的特征信息之间的相似性,将所述目标物集合中包含的目标物进行集合划分,得到至少两个目标物子集合;
在接收到对特定目标物的检索请求后,当在所述目标物集合中进行所述特定目标物的检索时,基于所述特定目标物的特征信息,在所述目标物集合包含的所述至少两个目标物子集合中筛选第一目标物子集合,所述第一目标物子集合中存在有所述特定目标物的概率大于其他目标物子集合;
在所述第一目标物子集合中进行所述特定目标物的检索。
9.根据权利要求8所述的方法,其特征在于,所述计算所述至少两个目标物中的每一个目标物的异常分值,包括:
对所述至少两个目标物中的每一个目标物进行特征提取,得到所述每一个目标物的特征信息;
基于所述每一个目标物的特征信息,对所述每一个目标物进行异常分值计算,得到所述每一个目标物的异常分值。
10.根据权利要求9所述的方法,其特征在于,所述对所述至少两个目标物中的每一个目标物进行特征提取,包括:
对于所述每一个目标物,根据所述目标物的类别,初步确定在对所述目标物进行特征提取时应提取的初步特征信息类型;
获取所述摄像设备的拍摄场景类型;
根据所述拍摄场景类型,在所述初步特征信息类型中筛选出目标特征信息类型;
基于所述目标特征信息类型,对所述目标物进行特征提取。
11.根据权利要求9或10所述的方法,其特征在于,所述基于所述每一个目标物的特征信息,对所述每一个目标物进行异常分值计算,得到所述每一个目标物的异常分值,包括:
对于所述每一个目标物,根据异常经验数据和所述摄像设备的拍摄场景类型中的至少一种,为所述目标物的特征信息中包含的每一个子特征信息设置权重值;
计算所述每一个子特征信息的异常分值;
对所述每一个子特征信息的异常分值和所述每一个子特征信息的权重值进行加权平均处理,得到所述每一个目标物的异常分值。
12.根据权利要求11所述的方法,其特征在于,所述计算所述每一个子特征信息的异常分值,包括:
对于所述每一个子特征信息,若所述子特征信息为绝对异常子特征信息,则将所述绝对异常子特征信息的异常分值置为预设数值,所述预设数值为所述子特征信息的异常分值的上边界值;
若所述子特征信息为相对异常子特征信息,则确定与所述子特征信息对应的目标物匹配的其他目标物,根据所述其他目标物的且与所述子特征信息相同类型的子特征信息,计算所述子特征信息的异常分值;
其中,所述绝对异常子特征信息,指代所述子特征信息对应的目标物无需通过与所述其他目标物进行异常比较即可直接进行所述子特征信息的异常分值计算的特征信息;
所述相对异常子特征信息,指代所述子特征信息对应的目标物需通过与所述其他目标物进行异常比较而进行所述子特征信息的异常分值计算的特征信息。
13.根据权利要求12所述的方法,其特征在于,所述确定与所述子特征信息对应的目标物匹配的其他目标物,包括:
将所述摄像设备中至少一个摄像头在第一时长内拍摄到的目标物作为所述其他目标物;
其中,所述第一时长指代用于对所述至少一个摄像头拍摄到的目标物进行统计的一段时长;所述至少一个摄像头指代位于以指定地理位置为中心的预设范围内的摄像头,所述指定地理位置指代所述子特征信息对应的目标物所在的地理位置。
14.根据权利要求12所述的方法,其特征在于,应用下述公式,根据所述其他目标物的且与所述子特征信息相同类型的子特征信息,计算所述子特征信息的异常分值:
Figure FDA0002943938770000041
其中,ti指代所述其他目标物中第i个目标物的且与所述子特征信息相同类型的子特征信息,n为正整数,指代所述其他目标物中的总目标物个数,tk指代所述子特征信息,w为归一化参数,Sk为所述子特征信息的异常分值,k为正整数,用于标识所述子特征信息对应的目标物。
15.一种目标物检索装置,其特征在于,所述装置包括:
提取模块,用于对摄像设备采集到的多媒体数据进行目标物提取,得到至少两个目标物;
计算模块,用于计算所述至少两个目标物中的每一个目标物的异常分值,所述异常分值用于反映目标物的异常程度;
集合划分模块,用于按照异常分值由高到低的顺序,对所述至少两个目标物进行集合划分,得到至少两个目标物集合;
检索模块,用于在接收到对特定目标物的检索请求后,基于所述特定目标物的特征信息,在所述目标物的异常分值最高的目标物集合中进行所述特定目标物的检索;若在所述目标物的异常分值最高的目标物集合中未检索到所述特定目标物,则按照所述目标物的异常分值由高到低的顺序在剩余的目标物集合中再次进行所述特定目标物的检索,直至检索到所述特定目标物,所述目标物的异常分值较高的目标物集合中存在有所述特定目标物的概率大于所述目标物的异常分值较低的目标物集合。
16.根据权利要求15所述的装置,其特征在于,所述计算模块,用于对所述至少两个目标物中的每一个目标物进行特征提取,得到所述每一个目标物的特征信息;基于所述每一个目标物的特征信息,对所述每一个目标物进行异常分值计算,得到所述每一个目标物的异常分值。
17.根据权利要求16所述的装置,其特征在于,所述计算模块,用于对于所述每一个目标物,根据所述目标物的类别,初步确定在对所述目标物进行特征提取时应提取的初步特征信息类型;获取所述摄像设备的拍摄场景类型;根据所述拍摄场景类型,在所述初步特征信息类型中筛选出目标特征信息类型;基于所述目标特征信息类型,对所述目标物进行特征提取。
18.根据权利要求16或17所述的装置,其特征在于,所述计算模块,用于对于所述每一个目标物,根据异常经验数据和所述摄像设备的拍摄场景类型中的至少一种,为所述目标物的特征信息中包含的每一个子特征信息设置权重值;计算所述每一个子特征信息的异常分值;对所述每一个子特征信息的异常分值和所述每一个子特征信息的权重值进行加权平均处理,得到所述每一个目标物的异常分值。
19.根据权利要求18所述的装置,其特征在于,所述计算模块,用于对于所述每一个子特征信息,若所述子特征信息为绝对异常子特征信息,则将所述绝对异常子特征信息的异常分值置为预设数值,所述预设数值为所述子特征信息的异常分值的上边界值;若所述子特征信息为相对异常子特征信息,则确定与所述子特征信息对应的目标物匹配的其他目标物,根据所述其他目标物的且与所述子特征信息相同类型的子特征信息,计算所述子特征信息的异常分值;
其中,所述绝对异常子特征信息,指代所述子特征信息对应的目标物无需通过与所述其他目标物进行异常比较即可直接进行所述子特征信息的异常分值计算的特征信息;
所述相对异常子特征信息,指代所述子特征信息对应的目标物需通过与所述其他目标物进行异常比较而进行所述子特征信息的异常分值计算的特征信息。
20.根据权利要求19所述的装置,其特征在于,所述计算模块,用于将所述摄像设备中至少一个摄像头在第一时长内拍摄到的目标物作为所述其他目标物;
其中,所述第一时长指代用于对所述至少一个摄像头拍摄到的目标物进行统计的一段时长;所述至少一个摄像头指代位于以指定地理位置为中心的预设范围内的摄像头,所述指定地理位置指代所述子特征信息对应的目标物所在的地理位置。
21.根据权利要求19所述的装置,其特征在于,所述计算模块,应用下述公式,根据所述其他目标物的且与所述子特征信息相同类型的子特征信息,计算所述子特征信息的异常分值:
Figure FDA0002943938770000051
其中,ti指代所述其他目标物中第i个目标物的且与所述子特征信息相同类型的子特征信息,n为正整数,指代所述其他目标物中的总目标物个数,tk指代所述子特征信息,w为归一化参数,Sk为所述子特征信息的异常分值,k为正整数,用于标识所述子特征信息对应的目标物。
22.一种目标物检索装置,其特征在于,所述装置包括:
提取模块,用于对摄像设备采集到的多媒体数据进行目标物提取,得到至少两个目标物;
计算模块,用于计算所述至少两个目标物中的每一个目标物的异常分值,所述异常分值用于反映目标物的异常程度;
集合划分模块,用于按照所述异常分值由高到低的顺序,将所述至少两个目标物划分成至少两个目标物集合;对于所述至少两个目标物集合中的每一个目标物集合,若所述目标物集合中包含的数据量大于预设阈值,则基于所述目标物集合中每一个目标物的特征信息之间的相似性,将所述目标物集合中包含的目标物进行集合划分,得到至少两个目标物子集合;
检索模块,用于在接收到对特定目标物的检索请求后,当在所述目标物集合中进行所述特定目标物的检索时,基于所述特定目标物的特征信息,在所述目标物集合包含的所述至少两个目标物子集合中筛选第一目标物子集合,所述第一目标物子集合中存在有所述特定目标物的概率大于其他目标物子集合;在所述第一目标物子集合中进行所述特定目标物的检索。
23.根据权利要求22所述的装置,其特征在于,所述计算模块,用于对所述至少两个目标物中的每一个目标物进行特征提取,得到所述每一个目标物的特征信息;基于所述每一个目标物的特征信息,对所述每一个目标物进行异常分值计算,得到所述每一个目标物的异常分值。
24.根据权利要求23所述的装置,其特征在于,所述计算模块,用于对于所述每一个目标物,根据所述目标物的类别,初步确定在对所述目标物进行特征提取时应提取的初步特征信息类型;获取所述摄像设备的拍摄场景类型;根据所述拍摄场景类型,在所述初步特征信息类型中筛选出目标特征信息类型;基于所述目标特征信息类型,对所述目标物进行特征提取。
25.根据权利要求23或24所述的装置,其特征在于,所述计算模块,用于对于所述每一个目标物,根据异常经验数据和所述摄像设备的拍摄场景类型中的至少一种,为所述目标物的特征信息中包含的每一个子特征信息设置权重值;计算所述每一个子特征信息的异常分值;对所述每一个子特征信息的异常分值和所述每一个子特征信息的权重值进行加权平均处理,得到所述每一个目标物的异常分值。
26.根据权利要求25所述的装置,其特征在于,所述计算模块,用于对于所述每一个子特征信息,若所述子特征信息为绝对异常子特征信息,则将所述绝对异常子特征信息的异常分值置为预设数值,所述预设数值为所述子特征信息的异常分值的上边界值;若所述子特征信息为相对异常子特征信息,则确定与所述子特征信息对应的目标物匹配的其他目标物,根据所述其他目标物的且与所述子特征信息相同类型的子特征信息,计算所述子特征信息的异常分值;
其中,所述绝对异常子特征信息,指代所述子特征信息对应的目标物无需通过与所述其他目标物进行异常比较即可直接进行所述子特征信息的异常分值计算的特征信息;
所述相对异常子特征信息,指代所述子特征信息对应的目标物需通过与所述其他目标物进行异常比较而进行所述子特征信息的异常分值计算的特征信息。
27.根据权利要求26所述的装置,其特征在于,所述计算模块,用于将所述摄像设备中至少一个摄像头在第一时长内拍摄到的目标物作为所述其他目标物;
其中,所述第一时长指代用于对所述至少一个摄像头拍摄到的目标物进行统计的一段时长;所述至少一个摄像头指代位于以指定地理位置为中心的预设范围内的摄像头,所述指定地理位置指代所述子特征信息对应的目标物所在的地理位置。
28.根据权利要求26所述的装置,其特征在于,所述计算模块,应用下述公式,根据所述其他目标物的且与所述子特征信息相同类型的子特征信息,计算所述子特征信息的异常分值:
Figure FDA0002943938770000071
其中,ti指代所述其他目标物中第i个目标物的且与所述子特征信息相同类型的子特征信息,n为正整数,指代所述其他目标物中的总目标物个数,tk指代所述子特征信息,w为归一化参数,Sk为所述子特征信息的异常分值,k为正整数,用于标识所述子特征信息对应的目标物。
CN201710188099.6A 2017-03-27 2017-03-27 目标物检索方法及装置 Active CN108664478B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201710188099.6A CN108664478B (zh) 2017-03-27 2017-03-27 目标物检索方法及装置
PCT/CN2018/079634 WO2018177162A1 (zh) 2017-03-27 2018-03-20 目标物检索方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710188099.6A CN108664478B (zh) 2017-03-27 2017-03-27 目标物检索方法及装置

Publications (2)

Publication Number Publication Date
CN108664478A CN108664478A (zh) 2018-10-16
CN108664478B true CN108664478B (zh) 2021-07-20

Family

ID=63675043

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710188099.6A Active CN108664478B (zh) 2017-03-27 2017-03-27 目标物检索方法及装置

Country Status (2)

Country Link
CN (1) CN108664478B (zh)
WO (1) WO2018177162A1 (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110263830B (zh) * 2019-06-06 2021-06-08 北京旷视科技有限公司 图像处理方法、装置和系统及存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101867793A (zh) * 2010-05-14 2010-10-20 蔡晓东 分布式智能视频搜索系统及使用方法
CN102326171A (zh) * 2009-02-19 2012-01-18 松下电器产业株式会社 用于提高异常行为检测的精确度和鲁棒性的系统和方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080091974A1 (en) * 2006-10-11 2008-04-17 Denso Corporation Device for controlling a multi-core CPU for mobile body, and operating system for the same
CN101344966B (zh) * 2008-08-18 2011-06-15 浙江大学 一种智能视觉监控中检测异常目标行为的方法
CN102103609A (zh) * 2009-12-21 2011-06-22 北京中星微电子有限公司 一种信息检索方法及系统
CN101848377B (zh) * 2010-05-26 2012-06-06 苏州安杰瑞电子科技发展有限公司 一种基于云计算及海量视频检索的多视频录入装置智能联动的装置和方法
WO2014066698A1 (en) * 2012-10-24 2014-05-01 Metavana, Inc. Method and system for social media burst classifications
JP2015041913A (ja) * 2013-08-22 2015-03-02 エイアイエス株式会社 監視システム
CN105005578A (zh) * 2015-05-21 2015-10-28 中国电子科技集团公司第十研究所 多媒体目标信息可视化分析系统
CN105653690B (zh) * 2015-12-30 2018-11-23 武汉大学 异常行为预警信息约束的视频大数据快速检索方法及系统
CN110175258B (zh) * 2016-02-05 2024-01-23 大连大学 建立基于位置敏感哈希索引的移动感知数据查询方法
CN106446890B (zh) * 2016-10-28 2019-09-06 中国人民解放军信息工程大学 一种基于窗口打分和超像素分割的候选区域提取方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102326171A (zh) * 2009-02-19 2012-01-18 松下电器产业株式会社 用于提高异常行为检测的精确度和鲁棒性的系统和方法
CN101867793A (zh) * 2010-05-14 2010-10-20 蔡晓东 分布式智能视频搜索系统及使用方法

Also Published As

Publication number Publication date
WO2018177162A1 (zh) 2018-10-04
CN108664478A (zh) 2018-10-16

Similar Documents

Publication Publication Date Title
Singh et al. Visual big data analytics for traffic monitoring in smart city
CN110414441B (zh) 一种行人行踪分析方法及系统
EP3327583B1 (en) Method and device for searching a target in an image
EP2863338B1 (en) Delayed vehicle identification for privacy enforcement
CN103942811B (zh) 分布式并行确定特征目标运动轨迹的方法与系统
US8744125B2 (en) Clustering-based object classification
CN107392222B (zh) 一种人脸聚类方法、装置以及存储介质
CN108491498B (zh) 一种基于多特征检测的卡口图像目标搜索方法
CN102163290A (zh) 基于时空关联信息的多视角视频监控中异常事件建模方法
Ravindran et al. A novel approach to automatic road-accident detection using machine vision techniques
CN105404886A (zh) 特征模型生成方法和特征模型生成装置
CN104077605A (zh) 一种基于颜色拓扑结构的行人搜索识别方法
Razalli et al. Emergency vehicle recognition and classification method using HSV color segmentation
KR20160109761A (ko) 건설현장 맞춤형 이미지 분석기술을 활용한 중장비/근로자 인식 및 추적 방법 및 시스템
CN107688830A (zh) 一种用于案件串并的现勘视觉信息关联图层生成方法
Mallela et al. Detection of the triple riding and speed violation on two-wheelers using deep learning algorithms
Nurhadiyatna et al. Gabor filtering for feature extraction in real time vehicle classification system
CN113971821A (zh) 驾驶员信息确定方法、装置、终端设备及存储介质
Khan et al. Helmet and number plate detection of motorcyclists using deep learning and advanced machine vision techniques
Nandhini et al. Transfer learning based SSD model for helmet and multiple rider detection
CN110826449A (zh) 基于轻量型卷积神经网络的非机动车再识别目标检索方法
CN108664478B (zh) 目标物检索方法及装置
CN112686226A (zh) 一种基于网格化管理的大数据管理方法、装置及电子设备
Li et al. A novel framework for anomaly detection in video surveillance using multi-feature extraction
CN109784261A (zh) 基于机器视觉的行人分割与识别方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant