CN113553951B - 对象关联方法及装置、电子设备、计算机可读存储介质 - Google Patents

对象关联方法及装置、电子设备、计算机可读存储介质 Download PDF

Info

Publication number
CN113553951B
CN113553951B CN202110836611.XA CN202110836611A CN113553951B CN 113553951 B CN113553951 B CN 113553951B CN 202110836611 A CN202110836611 A CN 202110836611A CN 113553951 B CN113553951 B CN 113553951B
Authority
CN
China
Prior art keywords
object region
association
region
sub
candidate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110836611.XA
Other languages
English (en)
Other versions
CN113553951A (zh
Inventor
李七星
纪德益
甘伟豪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Sensetime Technology Development Co Ltd
Original Assignee
Beijing Sensetime Technology Development Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Sensetime Technology Development Co Ltd filed Critical Beijing Sensetime Technology Development Co Ltd
Priority to CN202110836611.XA priority Critical patent/CN113553951B/zh
Publication of CN113553951A publication Critical patent/CN113553951A/zh
Application granted granted Critical
Publication of CN113553951B publication Critical patent/CN113553951B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Medical Informatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Image Analysis (AREA)

Abstract

本公开实施例公开了一种对象关联方法及装置、电子设备、计算机可读存储介质。该方法包括:对每帧待检测图像目标检测,确定第一对象区域和多个第二对象区域;对第一对象区域与多个第二对象区域进行单帧内关联预测,得到表征第一对象区域与候选第二对象区域关联的第一关联结果;针对待检测视频帧序列中包含第一对象区域的目标视频帧,根据第一关联结果,得到第一对象区域的跟踪率、第一对象区域与候选第二对象区域的匹配率和目标交并比中的至少两个参数;根据至少两个参数,得到表征第一对象区域与候选第二对象区域是否关联的第二关联结果。通过本公开,能够提高对象之间的关联的准确性。

Description

对象关联方法及装置、电子设备、计算机可读存储介质
技术领域
本公开涉及图像处理技术,尤其涉及一种对象关联方法及装置、电子设备、计算机可读存储介质。
背景技术
人脸和人体是计算机视觉分析任务中最关心的两类目标,人脸识别的应用已经非常广泛,可以进行身份认证,人脸属性标记等,而人体也有大量的应用,可以用来进行属性识别,追踪运动轨迹等。虽然,人脸和人体是两类目标,但实际上人脸是人体的一部分,是一体的,人脸人体需要建立关联关系,通过建立人脸与人体的关联关系,能更准确真实的追踪一个人的轨迹。然而,采用相关技术中的关联方法所得到的人脸与人体的关联结果的准确性较低。
发明内容
本公开实施例提供一种对象关联方法及装置、电子设备、计算机可读存储介质,能够提高对象之间的关联的准确性。
本公开实施例的技术方案是这样实现的:
本公开实施例提供一种对象关联方法,包括:针对待检测视频帧序列中的每帧待检测图像进行目标检测,确定第一对象区域和多个第二对象区域;对所述第一对象区域与所述多个第二对象区域之间进行单帧内的关联预测,得到表征所述第一对象区域与所述多个第二对象区域中的候选第二对象区域相互关联的第一关联结果;针对所述待检测视频帧序列中的包含所述第一对象区域的目标视频帧,根据所述第一关联结果,得到所述第一对象区域的跟踪率、所述第一对象区域与所述候选第二对象区域之间的匹配率和目标交并比中的至少两个参数;根据所述至少两个参数,得到表征所述第一对象区域与所述候选第二对象区域之间是否关联的第二关联结果。
上述方法还包括:基于所述第二关联结果,确定所述第一对象区域所属对象的移动轨迹。
上述方法中,所述针对所述待检测视频帧序列中的包含所述第一对象区域的目标视频帧,根据所述第一关联结果,得到所述第一对象区域的跟踪率、所述第一对象区域与所述候选第二对象区域之间的匹配率和目标交并比中的至少两个参数,包括:针对所述待检测视频帧序列中的包含所述第一对象区域的目标视频帧,根据所述第一关联结果,得到所述第一对象区域的跟踪率和所述第一对象区域与所述候选第二对象区域之间的目标交并比中的至少一个,以及所述第一对象区域与所述候选第二对象区域之间的匹配率。
上述方法中,所述候选第二对象区域包括:多个第二子对象区域;在所述至少两个参数中包括所述目标交并比的情况下,所述方法还包括:针对所述待检测视频帧序列中的包含所述第一对象区域的目标视频帧,根据所述第一关联结果,确定所述目标视频帧的每帧中的每个第二子对象区域,与所述第一对象区域之间的子交并比,得到与所述每个第二子对象区域对应的至少一个所述子交并比;从至少一个所述子交并比中,确定所述第一对象区域与所述每个第二子对象区域之间的所述目标交并比。
上述方法中,所述候选第二对象区域包括:多个第二子对象区域;在所述至少两个参数中包括所述匹配率的情况下,所述方法还包括:统计出所述目标视频帧中,每个第二子对象区域与所述第一对象区域存在所述第一关联结果的第一视频帧数;统计所述目标视频帧的第二视频帧数;将所述第一视频帧数与所述第二视频帧数之间的比值,确定为所述第一对象区域与所述每个第二子对象区域之间的所述匹配率。
上述方法中,在所述至少两个参数中包括所述跟踪率的情况下,所述方法还包括:统计所述目标视频帧的第二视频帧数;统计所述目标视频帧中从第一帧到最后一帧之间所经过的连续帧的帧数长度;将所述第二视频帧数与所述帧数长度之间的比值,确定为所述第一对象区域的所述跟踪率。
上述方法中,所述候选第二对象区域包括:多个第二子对象区域;所述根据所述至少两个参数,得到表征所述第一对象区域与所述候选第二对象区域之间是否关联的第二关联结果,包括:在任意一个第二子对象区域的所述至少两个参数满足第一预设条件的情况下,确定所述第一对象区域与所述任意一个第二子对象区域之间相互关联的第二关联结果;或者,在任意一个第二子对象区域的所述至少两个参数存在任意一个不满足第一预设条件的情况下,确定所述第一对象区域与所述任意一个第二子对象区域之间不关联的第二关联结果。
上述方法中,在所述至少两个参数中包括所述匹配率的情况下,所述第一预设条件包括:所述第一对象区域与目标第二子对象区域之间的所述匹配率,大于或等于预设匹配率阈值;所述目标第二子对象区域是所述多个第二子对象区域中与所述第一对象区域之间的匹配率最大的一个第二子对象区域。
上述方法中,在所述至少两个参数中包括所述跟踪率的情况下,所述第一预设条件包括:所述第一对象区域的所述跟踪率,大于或等于预设跟踪率阈值。
上述方法中,在所述至少两个参数中包括所述目标交并比的情况下,所述第一预设条件包括:所述第一对象区域与目标第二子对象区域之间的所述目标交并比,大于或等于预设交并比阈值;所述目标交并比是所述第一对象区域与所述目标第二子对象区域之间的至少一个交并比中的最小交并比;所述目标第二子对象区域是所述多个第二子对象区域中,与所述第一对象区域之间的匹配率最大的一个第二子对象区域。
上述方法中,所述对所述第一对象区域与所述多个第二对象区域之间进行单帧内的关联预测,得到表征所述第一对象区域与所述多个第二对象区域中的候选第二对象区域相互关联的第一关联结果,包括:通过检测模型,确定所述多个第二对象区域的关键点;根据所述多个第二对象区域的关键点与所述第一对象区域的中心点之间的距离,预测所述多个第二对象区域与所述第一对象区域之间的关联关系,得到表征所述第一对象区域与所述多个第二对象区域中的候选第二对象区域相互关联的第一关联结果。
上述方法中,所述根据所述多个第二对象区域的关键点与所述第一对象区域的中心点之间的距离,预测所述多个第二对象区域与所述第一对象区域之间的关联关系,得到表征所述第一对象区域与所述多个第二对象区域中的候选第二对象区域相互关联的第一关联结果,包括:确定所述多个第二对象区域中每个第二对象区域的关键点与所述第一对象区域的中心点之间的距离,得到多个距离值;将所述多个距离值中最小的距离值所对应的第二对象区域,确定为所述候选第二对象区域;预测所述候选第二对象区域与所述第一对象区域之间相互关联,得到表征所述候选第二对象区域与所述第一对象区域相互关联的所述第一关联结果。
上述方法中,所述第一对象区域具有第一标识信息,所述候选第二对象区域具有第二标识信息;所述根据所述至少两个参数,得到表征所述第一对象区域与所述候选第二对象区域之间是否关联的第二关联结果之后,所述方法还包括:在所述第二关联结果表征所述第一对象区域与所述候选第二对象区域相互关联的情况下,记录并显示所述第一标识信息与所述第二标识信息之间的对应关系。
上述方法中,所述第一对象区域为人脸区域,所述第二对象区域为人体区域;或,所述第一对象区域为人体区域,所述第二对象区域为人脸区域。
上述方法中,在所述第二对象区域为人体区域的情况下,所述关键点为人头关键点。
本公开实施例提供一种对象关联装置包括:确定模块,用于针对待检测视频帧序列中的每帧待检测图像进行目标检测,确定第一对象区域和多个第二对象区域;预测模块,用于对所述第一对象区域与所述多个第二对象区域之间进行单帧内的关联预测,得到表征所述第一对象区域与所述多个第二对象区域中的候选第二对象区域相互关联的第一关联结果;分析模块,用于针对所述待检测视频帧序列中的包含所述第一对象区域的目标视频帧,根据所述第一关联结果,得到所述第一对象区域的跟踪率、所述第一对象区域与所述候选第二对象区域之间的匹配率和交并比中的至少两个参数;根据所述至少两个参数,得到表征所述第一对象区域与所述候选第二对象区域之间是否关联的第二关联结果。
上述装置中,所述确定模块,还用于基于所述第二关联结果,确定所述第一对象区域所属对象的移动轨迹。
上述装置中,所述分析模块,还用于针对所述待检测视频帧序列中的包含所述第一对象区域的目标视频帧,根据所述第一关联结果,得到所述第一对象区域的跟踪率和所述第一对象区域与所述候选第二对象区域之间的目标交并比中的至少一个,以及所述第一对象区域与所述候选第二对象区域之间的匹配率。
上述装置中,所述候选第二对象区域包括:多个第二子对象区域;所述确定模块,还用于在所述至少两个参数中包括所述目标交并比的情况下,针对所述待检测视频帧序列中的包含所述第一对象区域的目标视频帧,根据所述第一关联结果,确定所述目标视频帧的每帧中的每个第二子对象区域,与所述第一对象区域之间的子交并比,得到与所述每个第二子对象区域对应的至少一个所述子交并比;从至少一个所述子交并比中,确定所述第一对象区域与所述每个第二子对象区域之间的所述目标交并比。
上述装置中,所述候选第二对象区域包括:多个第二子对象区域;所述确定模块,还用于在所述至少两个参数中包括所述匹配率的情况下,统计出所述目标视频帧中,每个第二子对象区域与所述第一对象区域存在所述第一关联结果的第一视频帧数;统计所述目标视频帧的第二视频帧数;将所述第一视频帧数与所述第二视频帧数之间的比值,确定为所述第一对象区域与所述每个第二子对象区域之间的所述匹配率。
上述装置中,所述确定模块,还用于在所述至少两个参数中包括所述跟踪率的情况下,统计所述目标视频帧的第二视频帧数;统计所述目标视频帧中从第一帧到最后一帧之间所经过的连续帧的帧数长度;将所述第二视频帧数与所述帧数长度之间的比值,确定为所述第一对象区域的所述跟踪率。
上述装置中,所述候选第二对象区域包括:多个第二子对象区域;所述分析模块,还用于在任意一个第二子对象区域的所述至少两个参数满足第一预设条件的情况下,确定所述第一对象区域与所述任意一个第二子对象区域之间相互关联的第二关联结果;或者,在任意一个第二子对象区域的所述至少两个参数存在任意一个不满足第一预设条件的情况下,确定所述第一对象区域与所述任意一个第二子对象区域之间不关联的第二关联结果。
上述装置中,在所述至少两个参数中包括所述匹配率的情况下,所述第一预设条件包括:所述第一对象区域与目标第二子对象区域之间的所述匹配率,大于或等于预设匹配率阈值;所述目标第二子对象区域是所述多个第二子对象区域中与所述第一对象区域之间的匹配率最大的一个第二子对象区域。
上述装置中,在所述至少两个参数中包括所述跟踪率的情况下,所述第一预设条件包括:所述第一对象区域的所述跟踪率,大于或等于预设跟踪率阈值。
上述装置中,在所述至少两个参数中包括所述目标交并比的情况下,所述第一预设条件包括:所述第一对象区域与目标第二子对象区域之间的所述目标交并比,大于或等于预设交并比阈值;所述目标交并比是所述第一对象区域与所述目标第二子对象区域之间的至少一个交并比中的最小交并比;所述目标第二子对象区域是所述多个第二子对象区域中,与所述第一对象区域之间的匹配率最大的一个第二子对象区域。
上述装置中,所述预测模块,还用于通过检测模型,确定所述多个第二对象区域的关键点;根据所述多个第二对象区域的关键点与所述第一对象区域的中心点之间的距离,预测所述多个第二对象区域与所述第一对象区域之间的关联关系,得到表征所述第一对象区域与所述多个第二对象区域中的候选第二对象区域相互关联的第一关联结果。
上述装置中,所述预测模块,还用于确定所述多个第二对象区域中每个第二对象区域的关键点与所述第一对象区域的中心点之间的距离,得到多个距离值;将所述多个距离值中最小的距离值所对应的第二对象区域,确定为所述候选第二对象区域;预测所述候选第二对象区域与所述第一对象区域之间相互关联,得到表征所述候选第二对象区域与所述第一对象区域相互关联的所述第一关联结果。
上述装置中,所述第一对象区域具有第一标识信息,所述候选第二对象区域具有第二标识信息;所述对象关联装置还包括:显示模块,用于在所述第二关联结果表征所述第一对象区域与所述候选第二对象区域相互关联的情况下,记录并显示所述第一标识信息与所述第二标识信息之间的对应关系。
上述装置中,所述第一对象区域为人脸区域,所述第二对象区域为人体区域;或者,所述第一对象区域为人体区域,所述第二对象区域为人脸区域。
上述装置中,在所述第二对象区域为人体区域的情况下,所述关键点为人头关键点。
本公开实施例提供一种电子设备,包括:存储器,用于存储可执行计算机程序;处理器,用于执行所述存储器中存储的可执行计算机程序时,实现上述任一项所述的方法。
本公开实施例提供一种计算机可读存储介质,存储有计算机程序,用于引起处理器执行时,实现上述任一项所述的方法。
采用上述技术实施方案,可以根据目标检测结果确定出第一对象区域所在的多帧视频帧中,每一帧内的第一对象区域与该帧内的多个第二对象区域中的候选对象区域之间关联的第一关联结果,根据该多帧视频帧中每一帧所对应的第一关联结果确定出第一对象区域的跟踪率,以及第一对象区域与候选第二对象区域之间的匹配率和目标交并比中的至少两个参数,并根据这至少两个参数最终得到第一对象区域与候选第二对象区域之间是否关联的第二关联结果,根据第二关联结果确定出第一对象区域所属的对象的移动轨迹;由于可以根据跟踪率、匹配率和交并比这三个参数中的至少两个参数,确定第一对象区域与候选第二对象区域之间是否关联,所以,在确定第一对象区域与候选第二对象区域之间是否关联时,参考的因素更全面,使得得到的表征第一对象区域与候选第二对象区域之间是否关联的第二关联结果更准确。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,而非限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。
图1为本公开实施例提供的示例性的对象关联系统的架构示意图;
图2为本公开实施例提供的对象关联方法的一个可选的流程示意图;
图3为本公开实施例提供的示例性的包含有人体框和人脸框的待检测图像;
图4为本公开实施例提供的对象关联方法的一个可选的流程示意图;
图5A为本公开实施例提供的对象关联方法的一个可选的流程示意图;
图5B为本公开实施例提供的对象关联方法的一个可选的流程示意图;
图5C是本公开实施例提供的对象关联方法的一个可选的流程示意图;
图6为本公开实施例提供的对象关联装置的结构示意图;
图7为本公开实施例提供的电子设备的结构示意图。
具体实施方式
为了使本公开的目的、技术方案和优点更加清楚,下面将结合附图对本公开作进一步地详细描述,所描述的实施例不应视为对本公开的限制,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本公开保护的范围。
在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。
本文中术语“至少一种”表示多种中的任意一种或多种中的至少两种的任意组合,例如,包括A、B、C中的至少一种,可以表示包括从A、B和C构成的集合中选择的任意一个或多个元素。在以下的描述中,所涉及的术语“第一\第二\第三”仅仅是是区别类似的对象,不代表针对对象的特定排序,可以理解地,“第一\第二\第三”在允许的情况下可以互换特定的顺序或先后次序,以使这里描述的本申请实施例能够以除了在这里图示或描述的以外的顺序实施。
本公开实施例提供一种对象关联方法及装置、电子设备和计算机可读存储介质,能够提高对象之间的关联的准确性。
在一种可能的实现方式中,所述方法可以由包含有对象关联装置的终端设备或服务器等电子设备执行,终端设备可以为摄像设备、用户设备(User Equipment,UE)、移动设备、用户终端、终端、蜂窝电话、无绳电话、个人数字处理(Personal Digital Assistant,PDA)、手持设备、计算设备、车载设备、可穿戴设备等,所述方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。或者,可通过服务器执行所述方法。
示例性的,图1是本公开实施例提供的示例性的对象关联系统的架构示意图。如图1所示,对象关联系统100可以由摄像设备200和终端设备300组成;其中,摄像设备200用于通过对特定场景进行监控而获得待检测视频帧序列,并将待检测视频帧序列以有线或无线方式发送至终端设备300,终端设备300通过针对待检测视频帧序列中的每帧待检测图像进行目标检测,确定第一对象区域和多个第二对象区域,对第一对象区域与多个第二对象区域之间进行单帧内的关联预测,得到表征第一对象区域与所述多个第二对象区域中的候选第二对象区域相互关联的第一关联结果;针对待检测视频帧序列中的包含第一对象区域的目标视频帧,根据第一关联结果,得到第一对象区域的跟踪率、第一对象区域与候选第二对象区域之间的匹配率和目标交并比中的至少两个参数;根据所述至少两个参数,得到表征第一对象区域与候选第二对象区域之间是否关联的第二关联结果。
图2是本公开实施例提供的对象关联方法的一个可选的流程示意图,将结合图1示出的步骤进行说明。
S101、针对待检测视频帧序列中的每帧待检测图像进行目标检测,确定第一对象区域和多个第二对象区域。
对象关联装置可以通过目标检测模型,来对待检测视频帧序列中的每帧待检测图像进行目标检测,从而检测出每张待检测图像是否包含第一对象区域,以及多个第二对象区域。示例性的,在本公开的实施例中,第一对象区域的数量为一个;在其他实施例中,第一对象区域的数量也可以为多个,本公开实施例仅针对每个第一对象区域为例进行说明。
待检测视频帧序列可以是针对某一场景的监控视频流,例如,针对某一商场的监控视频流;还可以是针对街道等公共场所等的监控视频流,本公开实施例对此不作限定。
这里,当针对待检测视频帧序列中的一帧待检测图像进行目标检测后,未检测到第一对象区域和/或第二对象区域的情况下,或者,检测到该帧待检测图像中包含了第一对象区域和一个第二对象区域的情况下,对该第一对象区域和/或第二对象区域进行标记,并继续对后续的待检测视频帧序列进行检测,直至检测到一帧待检测图像中包含一个对象区域和多个第二对象区域的情况下,确定出第一对象区域和多个第二对象区域。
需要说明的是,由于在一帧待检测图像中包含了第一对象区域和一个第二对象区域的情况下,通常该第一对象区域与该第二对象区域之间是相互关联的,所以,本公开实施例中,仅针对一帧待检测图像中包含第一对象区域和多个第二对象区域的情况进行说明。
在本公开的一些实施例中,第一对象区域为人脸区域,第二对象区域为人体区域;或者,第一对象区域为人体区域,第二对象区域为人脸区域。本公开实施例将以第一对象区域为人脸区域,第二对象区域为人体区域为例,进行本公开后续相关内容的说明。
需要说明的是,本公开所述的人体区域为人体检测框框出的区域(以下简称人体框),人脸区域为人脸检测框框出的区域(以下简称人脸框);示例性的,图3是本公开提供的示例性的包含有人体框和人脸框的一帧待检测图像;如图3所示,待检测图像中包括人体框a、人体框b、人体框c、以及人脸框d。
S102、对第一对象区域与多个第二对象区域之间进行单帧内的关联预测,得到表征第一对象区域与多个第二对象区域中的候选第二对象区域相互关联的第一关联结果。
在本公开的一些实施例中,对象关联装置可以在检测出一帧待检测图像中包含的第一对象区域与多个第二对象区域后,便对该帧待检测图像中包含的第一对象区域与多个第二对象区域之间进行单帧内的关联预测。在本公开的另一些实施例中,对象关联装置也可以在将一段待检测视频流全部进行目标检测完之后,再对每一帧待检测图像中包含的第一对象区域与多个第二对象区域之间进行单帧内的关联预测。
需要说明的是,包含有第一对象区域与多个第二对象区域的多帧不同待检测图像之间的第二对象区域可能相同,也可能不同。例如,第一帧待检测图像中包含了第一对象区域A和第二对象区域Bd和Be,第三帧待检测图像中包含了第一对象区域A和第二对象区域Bd、Bf和Be;第四帧待检测图像中包含了第一对象区域A和第二对象区域Bg和Bh;第五帧待检测图像中包含了第一对象区域A和第二对象区域Bd和Be等。
需要说明的是,当一帧待检测图像包含第一对象区域与一个第二对象区域时,通常该第一对象区域与一个第二对象区域属于同一对象,所以不需要进行关联预测,因此,本公开对当一帧待检测图像包含第一对象区域与一个第二对象区域不作论述。
在本公开的一些实施例中,对象关联装置进行单帧内的关联预测时,可以计算第一对象区域与每一个第二对象区域之间的交并比(IOU),并选择与第一对象区域之间的交并比大于或等于预设值的第二对象区域作为候选第二对象区域,并确定第一对象区域与候选第二对象区域之间相互关联,从而得到表征第一对象区域与候选第二对象区域相互关联的第一关联结果。例如,对象关联装置计算第一对象区域A分别与第二对象区域B1和B2之间的交并比,获得对应的交并比值I1、I2和I3,在I1和I2均大于预设值的情况下,则将I1对应的第二对象区域B1,以及,I2对应的第二对象区域B2确定为候选第二对象区域,并确定第一对象区域A与候选第二对象区域B1之间相互关联,第一对象区域A与候选第二对象区域B2之间相互关联,得到表征第一对象区域A与候选第二对象区域B1和B2相互关联的第一关联结果。
在本公开的实施例中,候选第二对象区域的数量可以是多个,即,候选第二对象区域可以包括多个第二子对象区域。在本公开的另一些实施例中,候选第二对象区域的数量也可以是一个。需要说明的是,对于一帧待检测图像而言,存在一个候选第二对象区域。
在本公开的一些实施例中,第一对象区域具有第一标识信息,候选第二对象区域具有第二标识信息,且不同的第一对象区域,以及不同的第二对象区域之间的标识信息不同;在得到表征第一对象区域与候选第二对象区域相互关联的第一关联结果之后,对象关联装置可以记录第一标识信息与候选第二对象区域的第二标识信息之间的对应关系(关联关系),并在相应的显示装置上显示标识信息之间的对应关系,关于具体的体现对应关系的记录或显示方式,本公开在此不作限定。例如,继续以上述举例进行说明,第一对象区域的第一标识信息为IDA,候选第二对象区域B1的第二标识信息为IDB1,候选第二对象区域B2的第二标识信息为IDB2,则对象关联装置可以记录IDA与IDB1对应,且IDA与IDB2对应,并在相应的显示装置上显示IDA与IDB1对应,且IDA与IDB2对应。
S103、针对待检测视频帧序列中的包含第一对象区域的目标视频帧,根据第一关联结果,得到第一对象区域的跟踪率、第一对象区域与候选第二对象区域之间的匹配率和目标交并比中的至少两个参数。
本公开实施例中,第一对象区域的跟踪率,为第一对象区域的跟踪帧数与出现帧数之间的比值;其中,跟踪帧数表征检测到第一对象区域的视频帧的数量;出现帧数表征从第一次检测到第一对象区域的第一帧到最后一次检测到第一对象区域的最后一帧,之间所经过的连续帧的帧数长度。例如,在第1帧视频帧中第一次检测到第一对象区域,且在第2、3帧中未出现,然后在第5帧、第6帧中出现,并且此后一直未出现在待检测图像中的情况下,第1帧为上述的第一帧,第6帧为上述的最后一帧,且第1帧与第6帧之间的帧数长度为6。
本公开实施例中,第一对象区域与一个候选第二对象区域之间的匹配率,为第一对象区域与该候选第二对象区域所对应的匹配帧数与第一对象区域的跟踪帧数之间的比值;匹配帧数表征同时包含第一对象区域和该候选第二对象区域,且第一对象区域与该候选第二对象区域相互关联的视频帧的数量。
本公开实施例中,第一对象区域与一个候选第二对象区域之间的交并比为,第一对象区域与该候选第二对象区域之间的交集与并集的比值,第一对象区域与该候选第二对象区域之间的目标交并比为,第一对象区域与该候选第二对象区域对应的多个比值中的最小比值。
在本公开的实施例中,对象关联装置会在待检测视频帧序列中,初始检测到第一对象区域或第二对象区域的情况下,采用现有的识别方法继续确定从后续的待检测图像中新检测出的第一对象区域是否与之前检测出的第一对象区域相同;或者,采用现有的识别方法继续确定从后续的待检测图像中新检测出的第二对象区域是否与之前检测出的第二对象区域相同,以对每个第一对象区域和每个第二对象区域进行追踪,从而确定第一对象区域在待检测视频帧序列中的追踪片段(tracklet),或者,确定每个第二对象区域在待检测视频帧序列中的tracklet。需要说明的是,第一对象区域的tracklet是由多帧连续的待检测图像组成,且其中包括了包含有第一对象区域的所有视频帧;并且,tracklet中的每帧可以都是包含第一对象区域的视频帧,或者,tracklet中的一些视频帧中可以不包含第一对象区域;例如,在对待检测视频帧序列进行检测的过程中,在第1帧、第2帧、第6帧和第7帧中均检测到了第一对象区域,但是从第8帧到第15帧均未再检测到第一对象区域,则从第1帧到第7帧的这7帧连续视频帧组成的视频片段为第一对象区域的tracklet。同样地,一个第二对象区域的tracklet也是由多帧连续的待检测图像组成,且其中包括了包含有该第二对象区域的所有视频帧,并且,tracklet中的每帧可以都是包含第二对象区域的视频帧,或者,tracklet中的一些视频帧中可以不包含第二对象区域。在一些实施例中,当得到第一对象区域的tracklet时,可以停止对第二对象区域的追踪,并且,可以得到在第一对象区域的tracklet内,每个第二对象区域的tracklet。
对象关联装置在得到待检测视频帧序列中包含有第一对象区域的所有视频帧(目标视频帧)后,可以根据包含有第一对象区域的所有视频帧中,每帧的第一关联结果,确定出第一对象区域的跟踪率、第一对象区域与候选第二对象区域中每个第二子对象区域之间的匹配率,以及第一对象区域与候选第二对象区域中每个第二子对象区域之间的目标交并比,这三个参数中的至少两个参数。
在本公开的一些实施例中,上述S103可以实现为:针对待检测视频帧序列中的包含第一对象区域的目标视频帧,根据第一关联结果,得到第一对象区域的跟踪率和第一对象区域与候选第二对象区域之间的目标交并比中的至少一个,以及第一对象区域与候选第二对象区域之间的匹配率;如此,使确定出的至少两个参数中的其中一个参数必须是匹配率,可以使从候选第二对象区域中选出的与第一对象区域相关联的第二对象区域更加准确。
S104、根据至少两个参数,得到表征第一对象区域与候选第二对象区域之间是否关联的第二关联结果。
在本公开的一些实施例中,对象关联装置在得到第一对象区域与候选第二对象区域中每个第二子对象区域之间的至少两个参数后,对于每一个第二子对象区域而言,可以通过判断与该第二子对象区域相关的这至少两个参数是否满足第一预设条件,来确定该第二子对象区域是否与第一对象区域之间关联。具体地,对象关联装置可以在任意一个第二子对象区域的至少两个参数满足第一预设条件的情况下,确定出第一对象区域与该任意一个第二子对象区域之间相互关联的第二关联结果;在该任意一个第二子对象区域的至少两个参数中的任意一个参数不满足第一预设条件的情况下,确定出第一对象区域与该任意一个第二子对象区域之间不关联的第二关联结果;通过此方法,最终得到每个第二子对象区域与第一对象区域之间的第二关联结果,即得到第一对象区域与候选第二对象区域之间的第二关联结果。
在本公开的实施例中,在至少两个参数中包括匹配率的情况下,第一预设条件包括:(1)第一对象区域与目标第二子对象区域之间的匹配率,大于或等于预设匹配率阈值;目标第二子对象区域是多个二子对象区域中与第一对象区域之间的匹配率最大的一个第二子对象区域。
在本公开的实施例中,在至少两个参数中包括跟踪率的情况下,第一预设条件包括:(2)第一对象区域的跟踪率,大于或等于预设跟踪率阈值。
在本公开的实施例中,在至少两个参数中包括目标交并比的情况下,第一预设条件包括:(3)第一对象区域与目标第二子对象区域之间的目标交并比,大于或等于预设交并比阈值;其中,目标交并比是第一对象区域与目标第二子对象区域之间的至少一个交并比中的最小交并比。
在本公开的实施例中,由于第一对象区域与某个第二子对象区域之间的匹配率越大、跟踪率越大,以及交并比越大,则说明第一对象区域与该第二子对象区域之间的关联程度越高,所以,此处相应的设定匹配率阈值、跟踪率阈值和交并比阈值,并采用设定的阈值进行第二关联结果的确定,可以方便且快速确定出第二关联结果。
需要说明的是,匹配率阈值、跟踪率阈值和交并比阈值均可以根据实际需要设定,本公开实施例对此不作限定。
示例性地,在至少两个参数为匹配率和跟踪率的情况下,第一预设条件可以为上述(1)和(2);在至少两个参数为匹配率和目标交并比的情况下,第一预设条件可以为上述(1)和(3);在至少两个参数为匹配率、跟踪率和目标交并比的情况下,第一预设条件可以为上述(1)、(2)和(3);在至少两个参数为跟踪率和目标交并比的情况下,第一预设条件可以为上述(2)和(3)。
在本公开的一些实施例中,在得到第一对象区域与某个第二子对象区域之间的第二关联结果的情况下,终端可以根据该第二关联结果,对第一对象区域所属对象进行定位。
例如,在第二关联结果表征第一对象区域与某个第二子对象区域之间关联,且在t1时刻,第一对象区域出现在XX商场一层的A商铺中,而在t2到t4时刻,均未检测到第一对象区域,并在t5时刻,检测到该第二子对象区域出现在XX商场二层的B商铺的情况下,此时,可以将该第二子对象区域的位置信息(XX商场二层的B商铺),确定为第一对象区域所属对象的位置信息,实现对第一对象区域所属对象的定位。又例如,在第二关联结果表征第一对象区域与某个第二子对象区域之间不关联,且在t1-t3时刻,第一对象区域均出现在XX商场一层的A商铺的情况下,可以将第一子对象区域的位置信息(XX商场一层的A商铺),确定为第一对象区域所属对象的位置信息,实现对第一对象区域所属对象的定位。
本公开的实施例中,由于可以根据跟踪率、匹配率和交并比这三个参数中的至少两个参数,确定第一对象区域与候选第二对象区域之间是否关联,所以,在确定第一对象区域与候选第二对象区域之间是否关联时,参考的因素更全面,使得得到的表征第一对象区域与候选第二对象区域之间是否关联的第二关联结果更准确,从而使得最终对第一对象区域所属的对象的定位更准确。
在一些实施例中,上述方法还包括:S105、基于第二关联结果,确定第一对象区域所属对象的移动轨迹。
在本公开的一些实施例中,对象关联装置在获得第一对象区域与某个第二子对象区域相互关联的第二关联结果后,可以先确定出第一对象区域与该第二子对象区域所属的对象,例如行人,并采用预设的图像识别方法分别对包含有第一对象区域和该第二子对象区域所在的视频帧(待检测图像)进行地点和时间点识别,以分别得到第一对象区域和该二子对象区域所出现的地点和出现时间的先后顺序;例如,t1时刻,第一对象区域出现在XX商场一层的C商铺中,t3时刻,第一对象区域出现在XX商场一层的A商铺中;t2时刻,该第二子对象区域出现在XX商场6层的D商铺中。对象关联装置在得到第一对象区域和该第二子对象区域所出现的地点和出现时间的先后顺序后,便可以根据出现的时间先后顺序,确定出第一对象区域与该第二子对象区域所属的对象(例如上述的行人)依次出现的地点,从而得到该行人的移动轨迹。例如,继续以上述举例进行说明,可以得到该行人的移动轨迹为:从XX商场一层的C商铺移动至XX商场一层的A商铺中,再移动到XX商场6层的D商铺中。
在本公开的另一些实施例中,对象关联装置在获得第一对象区域与某个第二子对象区域相互关联的第二关联结果后,可以确定出第一对象区域所属的对象,例如行人,并采用预设的图像识别方法对包含有第一对象区域的视频帧进行识别,以得到第一对象区域所出现的地点和出现时间的先后顺序;例如,t1时刻,第一对象区域出现在XX商场一层的C商铺中,t3时刻,第一对象区域出现在XX商场一层的A商铺中。在得到第一对象区域所出现的地点和出现时间的先后顺序后,便可以根据出现的时间先后顺序,确定出第一对象区域所属的对象(例如上述的行人)依次出现的地点,从而得到该行人的移动轨迹。例如,可以得到该行人的移动轨迹为:从XX商场一层的C商铺移动至XX商场一层的A商铺中。
在其他的一些实施例中,第一对象区域所属对象的移动轨迹还可以是在超市、展览馆等场所的移动轨迹,本公开实施例对此不作限定。
在本公开的一些实施例中,对象关联装置还可采用身份识别方法识别出第一对象区域所属对象的身份信息,从而得到该身份信息的对象的移动轨迹。
本公开的实施例中,由于可以根据跟踪率、匹配率和交并比这三个参数中的至少两个参数,确定第一对象区域与候选第二对象区域之间是否关联,所以,在确定第一对象区域与候选第二对象区域之间是否关联时,参考的因素更全面,使得得到的表征第一对象区域与候选第二对象区域之间是否关联的第二关联结果更准确,从而使得最终确定出的第一对象区域所属的对象的移动轨迹更准确。
在本公开的一些实施例中,图4是本公开实施例提供的对象关联方法的一个可选的流程示意图。如图4所示,图2中的S102还可以通过S201-S202实现:
S201、通过检测模型,确定多个第二对象区域的关键点。
对于一帧待检测图像,对象关联装置在确定出第一对象区域和多个第二对象区域之后,还可以采用检测模型确定出多个第二对象区域中每个第二对象区域的关键点。需要说明的是,关键点为在待检测图像中的一个坐标点。
这里,检测模型可以是预先采用标注有第二对象区域的关键点的待检测图像作为正样本,采用未标注有第二对象区域的关键点的待检测图像作为负样本,对深度学习模型进行训练所得到的模型。
在本公开的一些实施例中,在第二对象区域为人体框的情况下,一个第二对象区域的关键点是指一个人体框的人头关键点。在本公开的另一些实施例中,在第二对象区域为人脸框的情况下,一个第二对象区域的关键点可以是指一个人脸框的中心点。
S202、根据多个第二对象区域的关键点与第一对象区域的中心点之间的距离,预测多个第二对象区域与第一对象区域之间的关联关系,得到表征第一对象区域与多个第二对象区域中的候选第二对象区域相互关联的第一关联结果。
这里,由于在一个人脸框和一个人体框属于同一个对象的情况下,这个人脸框与这个人体框之间的距离通常是最短的,并且,使用交并比来判断一个人体框和一个人脸框之间的关联关系时,对检测框的依赖程度较高,当检测框不稳定时,比如,对于一个人体框来说,当该人体框的尺寸过大时,有时候会存在该人体框与人脸框之间的误关联,当该人体框的尺寸较小时,有时候过小会存在该人体框与人脸框之间的漏关联。所以,对象关联装置可以确定出每个第二对象区域的关键点,通过每个第二对象区域的关键点与第一对象区域的中心点之间的距离,来确定每个第二对象区域是否与第一对象区域关联,以确定出多个第二对象区域中的候选第二对象区域,从而得到表征第一对象区域与多个第二对象区域中的候选第二对象区域相互关联的第一关联结果。
在本公开的一些实施例中,上述S202可以通过S11-S13实现:
S11、确定多个第二对象区域中每个第二对象区域的关键点与第一对象区域的中心点之间的距离,得到多个距离值。
对象关联装置可以在确定出每个第二对象区域的关键点的坐标值的同时,确定出第一对象区域的中心点的坐标值,并根据每个第二对象区域的关键点的坐标值与第一对象区域的中心点的坐标值,计算出每个第二对象区域与第一对象区域之间的距离,从而得到与多个第二对象区域的数量相同的距离值。例如,当有三个第二对象区域时,则可以计算三个第二对象区域中,每个第二对象区域与第一对象区域之间的距离值,从而总共得到三个距离值。
S12、将多个距离值中最小的距离值所对应的第二对象区域,确定为候选第二对象区域。
对象关联装置在得到多个距离值后,可以从中选取最小的距离值,并将最小的距离值所对应的第二对象区域确定为候选第二对象区域,其中,当最小的距离值存在两个或两个以上时,则可以对应确定出两个或两个以上的候选第二对象区域。
S13、预测候选第二对象区域与第一对象区域之间相互关联,得到表征候选第二对象区域与第一对象区域相互关联的第一关联结果。
对象关联装置在从第二对象区域中确定出候选第二对象区域后,则可以确定候选第二对象区域与第一对象区域之间相互关联,从而得到表征候选第二对象区域与第一对象区域之间相互关联的第一关联结果。
本公开实施例中,在第二对象区域是人体框的情况下,利用深度学习模型预测人脸框的人头关键点,并将得到的人头关键点应用在关联关系判断中,可以减少由于检测框的不稳定所造成的误关联和漏关联的情况,从而可以提高单帧内的人体框与人脸框之间的关联准确性。
在本公开的一些实施例中,图5A是本公开实施例提供的对象关联方法的一个可选的流程示意图,如图5A所示,所述方法还包括S3011-S3012:
S3011、在至少两个参数中包括目标交并比的情况下,针对待检测视频帧序列中的包含第一对象区域的目标视频帧,根据第一关联结果,确定目标视频帧的每帧中的每个第二子对象区域,与第一对象区域之间的子交并比,得到与每个第二子对象区域对应的至少一个子交并比;候选第二对象区域包括:多个第二子对象区域。
对象关联装置可以在得到目标视频帧的每帧的第一关联结果后,根据关联结果确定出该每帧内,与第一对象区域相关联的所有的第二子对象区域,并计算所有的第二子对象区域中,每个第二子对象区域与第一对象区域之间的面积交并比,得到目标视频帧的每帧内每个第二子对象区域与第一对象区域之间的子交并比,从而最终得到与每个第二子对象区域对应的至少一个子交并比。例如,目标视频帧的第一帧中包含第二子对象区域Ba和第二子对象区域Bb共两个第二子对象区域,第三帧中包含第二子对象区域Ba和第二子对象区域Bc共两个第二子对象区域的情况下,对象关联装置可以分别计算第一帧中,第二子对象区域Ba与第一对象区域之间的子交并比Ia,以及,第三帧中的第二子对象区域Ba与第一对象区域之间的子交并比Ia,从而得到与第二子对象区域Ba对应的两个子交并比;并且,计算第二子对象区域Bb与第一对象区域之间的子交并比Ib,以及,计算第二子对象区域Bc与第一对象区域之间的子交并比Ib,分别得到与第二子对象区域Bb对应的一个子交并比,以及得到与第二子对象区域Bc对应的一个子交并比。
S3012、从至少一个子交并比中,确定第一对象区域与每个第二子对象区域之间的目标交并比。
对象关联装置可以在得到与每个第二子对象区域对应的至少一个子交并比的情况下,从该至少一个子交并比中选取最小的一个子交并比,作为第一对象区域与该第二子对象区域之间的目标交并比。例如,针对上述举例,可以从与第二子对象区域Ba对应的两个子交并比中,选出最小的一个子交并比作为第二子对象区域Ba与第一对象区域之间的目标交并比;又例如,针对上述举例,可以将与第二子对象区域Bb对应的一个子交并比,作为第二子对象区域Bb与第一对象区域之间的目标交并比,以及,将与第二子对象区域Bc对应的一个子交并比,作为第二子对象区域Bc与第一对象区域之间的目标交并比。
这里,针对上述S3011-S3012,对象关联装置可以在获得某一帧待检测图像的第一关联结果后,便计算该帧内与第一对象区域相互关联的每个第二子对象区域与第一对象区域之间的子交并比,并在得到所有目标视频帧的情况下,统计出所有目标视频帧中的每一个第二子对象区域与第一对象区域之间的子交并比;其中,在所有目标视频帧中,一个第二子对象区域Bx仅在一个待检测图像帧内与第一对象区域相互关联的情况下,便可统计获得该第二子对象区域Bx与第一对象区域之间的一个子交并比;在第二子对象区域Bx在两个或两个以上的待检测图像帧内均与第一对象区域相互关联的情况下,便可统计获得该第二子对象区域Bx与第一对象区域之间的两个或两个以上的子交并比;在得到两个或两个以上的子交并比的情况下,可以将这两个或两个以上的子交并比中的最小子交并比,作为目标交并比,在得到一个子交并比的情况下,可以将这一个子交并比,作为目标交并比。
在本公开的一些实施例中,图5B是本公开实施例提供的对象关联方法的一个可选的流程示意图,如图5B所示,所述方法还包括S3013-S3015:
S3013、统计出目标视频帧中,每个第二子对象区域与第一对象区域存在第一关联结果的第一视频帧数;候选第二对象区域包括:多个第二子对象区域。
对象关联装置在得到目标视频帧后,还会统计出在目标视频帧中,每个第二子对象区域与第一对象区域之间具有第一关联结果的视频帧的数目,从而得到每个第二子对象区域与第一对象区域存在第一关联结果的第一视频帧数。例如,当目标视频帧共有5帧,其中,第二子对象区域Ba在第1帧、第3帧和第4帧中与第一对象区域之间存在第一关联结果,第二对象区域Bb在第2帧和第5帧中与第一对象区域之间存在第一关联结果,则可以统计出第二子对象区域Ba与第一对象区域存在第一关联结果的第一视频帧数为3,第二子对象区域Bb与第一对象区域之间存在第一关联结果的第一视频帧数为2。
S3014、统计目标视频帧的第二视频帧数。
对象关联装置可以根据目标检测结果,确定出包含有第一对象区域的目标视频帧的总数量,并将其作为目标视频帧的第二视频帧数;例如,上述举例所述,当目标视频帧共有5帧时,则第二视频帧数为5。
S3015、将第一视频帧数与第二视频帧数之间的比值,确定为第一对象区域与每个第二子对象区域之间的匹配率。
第二视频帧数是包含第一对象区域的所有待检测图像的数量S1,每个第二子对象区域所对应的第一视频帧数,是包含该第二子对象区域与第一对象区域、且包含的该第二子对象区域与第一对象区域是相互关联的待检测图像的数量S3;所以,对象关联装置可以确定出S3/S1的值,并将S3/S1的值作为第一对象与该第二子对象区域之间的匹配率。例如,第二子对象区域Ba所对应的第一视频帧数是S3a,第二子对象区域Bb所对应的第一视频帧数是S3b,则对象关联装置可以将S3a/S1的值,作为第二子对象区域Ba与第一对象区域之间的匹配率P1,将S3b/S1的值作为第二子对象区域Bb与第一对象区域之间的匹配率P2。
在本公开的一些实施例中,图5C是本公开实施例提供的对象关联方法的一个可选的流程示意图,如图5C所示,所述方法还包括S3016-S3018:
S3016、统计目标视频帧的第二视频帧数。
此步骤与上述S3014相同,具体内容可参见对上述S3014的解释说明。
S3017、统计目标视频帧中,从第一帧到最后一帧之间所经过的连续帧的帧数长度。
这里,由于待检测视频帧中,每帧待检测图像之间是连续的,但是第一对象区域可能并不是在待检测视频帧的每帧待检测图像中均出现,例如,可能是在待检测视频帧的第一帧中未出现,在第三帧中出现,然后在第五帧、第六帧中出现,并且此后一直未出现在待检测图像中(此种情况下,包含第一对象区域的目标视频帧的第二视频帧数则为3);所以,对象关联装置还需要确定出从目标视频帧的第一帧到目标视频帧的最后一帧所经过的连续帧的数量,并将该连续帧的数量作为帧数长度。例如,如上述举例,当目标视频帧共有3帧,且,这3帧中的第1帧(上述的第三帧)到第3帧(上述的第六帧)之间实际经过了连续6帧待检测图像,则目标视频帧中从第1帧到第3帧之间所经过的连续帧的帧数长度为6。
需要说明的是,通常待检测视频帧中每帧待检测图像之间具有相互连续的帧序列号,对象关联装置可以根据目标视频帧的第一帧和最后一帧所对应的帧序列号,获得从目标视频帧的第一帧到最后一帧所经过的连续帧的数量。
S3018、将第二视频帧数与帧数长度之间的比值,确定为第一对象区域的跟踪率。
第二视频帧数是包含第一对象区域的所有待检测图像的数量S1,帧数长度是从第一对象区域开始出现的一帧待检测图像,到第一对象区域最后出现的另一帧待检测图像之间所经过的所有连续的待检测图像的数量S2;所以,对象关联装置可以确定出S1/S2的值,并将S1/S2的值作为第一对象的跟踪率。
在本公开的一些实施例中,对象关联装置可以确定出第一对象区域的跟踪率,以及第一对象区域与每个第二子对象区域之间的匹配率这两个参数;或者,确定出第一对象区域的跟踪率,以及第一对象区域与每个第二子对象区域之间的目标交并比;或者,确定出第一对象区域与每个第二子对象区域之间的匹配率,以及第一对象区域与每个第二子对象区域之间的目标交并比;如此,相比于仅基于单一指标来确定最终的关联结果而言,可以提高确定出的关联结果的准确性。
在本公开的另一些实施例中,可以确定出第一对象区域的跟踪率、第一对象区域与每个第二子对象区域之间的匹配率,以及第一对象区域与每个第二子对象区域之间的目标交并比这三个参数,如此,利用最小交并比、跟踪率和匹配率这三个指标的综合判断,可以显著降低误关联,对单帧关联存在的错误关联有一定适应性,可以更进一步地提高确定出的关联结果的准确性。
在本公开的一些实施例中,在图2中的S104之后,还可以包括S2:
S2、在第二关联结果表征第一对象区域与候选第二对象区域相互关联的情况下,记录并显示第一标识信息与第二标识信息之间的对应关系。
在本公开的实施例中,在得到表征第一对象区域与候选第二对象区域相互关联的第二关联结果之后,若第二关联结果表明第一对象区域与候选第二对象区域之间帧间关联,则对象关联装置可以记录与第一对象区域帧间关联的候选第二对象区域的第二标识信息,与第一对象区域的第一标识信息之间的对应关系;并在相应的显示装置上显示标识信息之间的对应关系。例如,第一对象区域的第一标识信息为IDA,与第一对象区域帧间关联的候选第二对象区域Bm的第二标识信息为IDBm,则对象关联装置可以记录IDA与IDBm对应,并在相应的显示装置上显示IDA与IDBm对应,关于具体的体现对应关系的记录或显示方式,本公开对此不作限定。
对于以上所述的对象关联方法,下面采用一个应用场景实施例进行示例性说明:
S31、采用目标检测模型,对展览馆的监控视频的每帧监控图像进行目标检测,直至首次检测出人脸框和人体框,并为检测到的人脸框和人体框分别设定不同的ID(Identity document);
S32、在检测到包含在同一帧监控图像中的至少一个人脸框和多个人体框的情况下,采用深度学习模型得到每个人体框的人头关键点;
S33、对于每个人脸框来说,计算每个人体框的人头关键点与该人脸框的中心点之间的距离,并将与该人脸框距离最近的人体框,确定为与该人脸框单帧关联的候选人体框,得到表征该人脸框与该候选人体框相互关联的第一关联结果;
S34、记录并输出该人脸框的ID,以及与该人脸框单帧内关联的候选人体框的ID之间的关联关系;
S35、对于每个人脸框,确定与该人脸框单帧关联的候选人体框与该人脸框之间的子交并比;
S36、采用目标检测模型,对监控视频的后续监控图像继续进行目标检测,并在检测出人脸框和人体框时,采用现有的识别方法继续确定新检测出的人脸框是否与之前检测出的该人脸框属于同一ID,以及,确定新检测出的人体框是否与之前检测出的人体框属于同一ID,以对每个人脸框和每个人体框进行追踪,从而得到每个人脸框的tracklet和每个人体框的tracklet;同时,继续执行上述S32-S35;
S37、在得到该人脸框的tracklet,以及,与该人脸框单帧关联的候选人体框的tracklet的情况下,对于该人脸框,统计出每个候选人体框与该人脸框存在第一关联结果的监控图像的数量S3、统计出检测到该人脸框的监控图像的数量S1,统计出该人脸框的tracklet所包含的连续帧的数量S2,以及,统计出该人脸框与每个候选人体框之间的所有子交并比;
S38、对于该人脸框,计算得到该人脸框的跟踪率(overlapRatio)S1/S2,计算出该人脸框与每个候选人体框之间的匹配率S3/S1;
S39、从所有的候选人体框与该人脸框之间的匹配率中,选择最大的匹配率,并确定出最大的匹配率所对应的目标人体框;
S40、从目标人体框与该人脸框之间的所有子交并比中,选择出最小的子交并比;
S41、在该人脸框的跟踪率大于或等于预设跟踪率阈值、该人脸框与目标人体框之间的最大匹配率大于或等于预设匹配率阈值,且目标人体框与该人脸框之间最小的子交并比大于或等于预设交并比阈值的情况下,确定该人脸框与目标人体框之间帧间关联,得到表征该人脸框与目标人体框之间相互关联的第二关联结果;
S42、记录并显示该人脸框的标识信息与目标人体框的标识信息之间的关联关系;
S43、在该人脸框的跟踪率小于预设跟踪率阈值;或者,该人脸框与目标人体框之间的最大匹配率小于预设匹配率阈值;或者,目标人体框与该人脸框之间最小的子交并比小于预设交并比阈值的情况下,确定该人脸框与目标人体框之间不关联,得到表征该人脸框与目标人体框之间不相互关联的第二关联结果;
S44、根据得到的第二关联结果,确定出该人脸框所属的游客在展览馆内的移动轨迹。
本公开还提供一种对象关联装置;如图6所示,对象关联装置1包括:确定模块10,用于针对待检测视频帧序列中的每帧待检测图像进行目标检测,确定第一对象区域和多个第二对象区域;预测模块20,用于对所述第一对象区域与所述多个第二对象区域之间进行单帧内的关联预测,得到表征所述第一对象区域与所述多个第二对象区域中的候选第二对象区域相互关联的第一关联结果;分析模块30,用于针对所述待检测视频帧序列中的包含所述第一对象区域的目标视频帧,根据所述第一关联结果,得到所述第一对象区域的跟踪率、所述第一对象区域与所述候选第二对象区域之间的匹配率和交并比中的至少两个参数;根据所述至少两个参数,得到表征所述第一对象区域与所述候选第二对象区域之间是否关联的第二关联结果。
在本公开的一些实施例中,所述确定模块10,还用于基于所述第二关联结果,确定所述第一对象区域所属对象的移动轨迹。
在本公开的一些实施例中,所述分析模块30,还用于针对所述待检测视频帧序列中的包含所述第一对象区域的目标视频帧,根据所述第一关联结果,得到所述第一对象区域的跟踪率和所述第一对象区域与所述候选第二对象区域之间的目标交并比中的至少一个,以及所述第一对象区域与所述候选第二对象区域之间的匹配率。
在本公开的一些实施例中,所述候选第二对象区域包括:多个第二子对象区域;所述确定模块10,还用于针对所述待检测视频帧序列中的包含所述第一对象区域的目标视频帧,根据所述第一关联结果,确定所述目标视频帧的每帧中的每个第二子对象区域,与所述第一对象区域之间的子交并比,得到与所述每个第二子对象区域对应的至少一个所述子交并比;从至少一个所述子交并比中,确定所述第一对象区域与所述每个第二子对象区域之间的所述目标交并比。
上述装置中,所述候选第二对象区域包括:多个第二子对象区域;所述确定模块10,还用于在所述至少两个参数中包括所述匹配率的情况下,统计出所述目标视频帧中,每个第二子对象区域与所述第一对象区域存在所述第一关联结果的第一视频帧数;统计所述目标视频帧的第二视频帧数;将所述第一视频帧数与所述第二视频帧数之间的比值,确定为所述第一对象区域与所述每个第二子对象区域之间的所述匹配率。
上述装置中,所述确定模块10,还用于在所述至少两个参数中包括所述跟踪率的情况下,统计所述目标视频帧的第二视频帧数;统计所述目标视频帧中从第一帧到最后一帧之间所经过的连续帧的帧数长度;将所述第二视频帧数与所述帧数长度之间的比值,确定为所述第一对象区域的所述跟踪率。
在本公开的一些实施例中,所述候选第二对象区域包括:多个第二子对象区域;所述分析模块30,还用于在任意一个第二子对象区域的所述至少两个参数满足第一预设条件的情况下,确定所述第一对象区域与所述任意一个第二子对象区域之间相互关联的第二关联结果;或者,在任意一个第二子对象区域的所述至少两个参数存在任意一个不满足第一预设条件的情况下,确定所述第一对象区域与所述任意一个第二子对象区域之间不关联的第二关联结果。
在本公开的一些实施例中,在所述至少两个参数中包括所述匹配率的情况下,所述第一预设条件包括:所述第一对象区域与目标第二子对象区域之间的所述匹配率,大于或等于预设匹配率阈值;所述目标第二子对象区域是所述多个第二子对象区域中与所述第一对象区域之间的匹配率最大的一个第二子对象区域。
在本公开的一些实施例中,在所述至少两个参数中包括所述跟踪率的情况下,所述第一预设条件包括:所述第一对象区域的所述跟踪率,大于或等于预设跟踪率阈值。
在本公开的一些实施例中,在所述至少两个参数中包括所述目标交并比的情况下,所述第一预设条件包括:所述第一对象区域与目标第二子对象区域之间的所述目标交并比,大于或等于预设交并比阈值;所述目标交并比是所述第一对象区域与所述目标第二子对象区域之间的至少一个交并比中的最小交并比;所述目标第二子对象区域是所述多个第二子对象区域中,与所述第一对象区域之间的匹配率最大的一个第二子对象区域。
在本公开的一些实施例中,所述预测模块20,还用于通过检测模型,确定所述多个第二对象区域的关键点;根据所述多个第二对象区域的关键点与所述第一对象区域的中心点之间的距离,预测所述多个第二对象区域与所述第一对象区域之间的关联关系,得到表征所述第一对象区域与所述多个第二对象区域中的候选第二对象区域相互关联的第一关联结果。
在本公开的一些实施例中,所述预测模块20,还用于确定所述多个第二对象区域中每个第二对象区域的关键点与所述第一对象区域的中心点之间的距离,得到多个距离值;将所述多个距离值中最小的距离值所对应的第二对象区域,确定为所述候选第二对象区域;预测所述候选第二对象区域与所述第一对象区域之间相互关联,得到表征所述候选第二对象区域与所述第一对象区域相互关联的所述第一关联结果。
在本公开的一些实施例中,所述第一对象区域具有第一标识信息,所述候选第二对象区域具有第二标识信息;所述对象关联装置还包括:显示模块,用于在所述第二关联结果表征所述第一对象区域与所述候选第二对象区域相互关联的情况下,记录并显示所述第一标识信息与所述第二标识信息之间的对应关系。
在本公开的一些实施例中,所述第一对象区域为人脸区域,所述第二对象区域为人体区域;或者,所述第一对象区域为人体区域,所述第二对象区域为人脸区域。
在本公开的一些实施例中,在所述第二对象区域为人体区域的情况下,所述关键点为人头关键点。
本公开实施例还提供一种电子设备,图7为本公开实施例提供的电子设备的结构示意图,如图7所示,电子设备2包括:存储器31和处理器32,其中,存储器31和处理器32通过通信总线33连接;存储器31,用于存储可执行计算机程序;处理器32,用于执行存储器31中存储的可执行计算机程序时,实现本公开实施例提供的对象关联方法。
本公开实施例提供一种计算机可读存储介质,存储有计算机程序,用于引起处理器32执行时,实现本公开实施例提供的对象关联方法。
在本公开的一些实施例中,存储介质可以是FRAM、ROM、PROM、EPROM、EEPROM、闪存、磁表面存储器、光盘、或CD-ROM等存储器;也可以是包括上述存储器之一或任意组合的各种设备。
在本公开的一些实施例中,可执行指令可以采用程序、软件、软件模块、脚本或代码的形式,按任意形式的编程语言(包括编译或解释语言,或者声明性或过程性语言)来编写,并且其可按任意形式部署,包括被部署为独立的程序或者被部署为模块、组件、子例程或者适合在计算环境中使用的其它单元。
作为示例,可执行指令可以但不一定对应于文件系统中的文件,可以可被存储在保存其它程序或数据的文件的一部分,例如,存储在超文本标记语言(HTML,Hyper TextMarkup Language)文档中的一个或多个脚本中,存储在专用于所讨论的程序的单个文件中,或者,存储在多个协同文件(例如,存储一个或多个模块、子程序或代码部分的文件)中。
作为示例,可执行指令可被部署为在一个计算设备上执行,或者在位于一个地点的多个计算设备上执行,又或者,在分布在多个地点且通过通信网络互连的多个计算设备上执行。
综上所述,采用本技术实现方案,由于可以根据跟踪率、匹配率和交并比这三个参数中的至少两个参数确定第一对象区域与候选第二对象区域之间是否关联,所以,在确定第一对象区域与候选第二对象区域之间是否关联时,参考的因素更全面,使得得到的表征第一对象区域与候选第二对象区域之间是否关联的第二关联结果更准确。
需要说明的是,本公开实施例提供的对象关联方法可以应用在智能识别、智能检测等场景中。
以上所述,仅为本公开的实施例而已,并非用于限定本公开的保护范围。凡在本公开的精神和范围之内所作的任何修改、等同替换和改进等,均包含在本公开的保护范围之内。

Claims (18)

1.一种对象关联方法,其特征在于,包括:
针对待检测视频帧序列中的每帧待检测图像进行目标检测,确定第一对象区域和多个第二对象区域;
对所述第一对象区域与所述多个第二对象区域之间进行单帧内的关联预测,得到表征所述第一对象区域与所述多个第二对象区域中的候选第二对象区域相互关联的第一关联结果;
针对所述待检测视频帧序列中的包含所述第一对象区域的目标视频帧,根据所述第一关联结果,得到所述第一对象区域的跟踪率、所述第一对象区域与所述候选第二对象区域之间的匹配率和目标交并比中的至少两个参数;
根据所述至少两个参数,得到表征所述第一对象区域与所述候选第二对象区域之间是否关联的第二关联结果。
2.根据权利要求1所述的对象关联方法,其特征在于,所述方法还包括:
基于所述第二关联结果,确定所述第一对象区域所属对象的移动轨迹。
3.根据权利要求1所述的对象关联方法,其特征在于,所述针对所述待检测视频帧序列中的包含所述第一对象区域的目标视频帧,根据所述第一关联结果,得到所述第一对象区域的跟踪率、所述第一对象区域与所述候选第二对象区域之间的匹配率和目标交并比中的至少两个参数,包括:
针对所述待检测视频帧序列中的包含所述第一对象区域的目标视频帧,根据所述第一关联结果,得到所述第一对象区域的跟踪率和所述第一对象区域与所述候选第二对象区域之间的目标交并比中的至少一个,以及所述第一对象区域与所述候选第二对象区域之间的匹配率。
4.根据权利要求1-3任一项所述的对象关联方法,其特征在于,所述候选第二对象区域包括:多个第二子对象区域;在所述至少两个参数中包括所述目标交并比的情况下,所述方法还包括:
针对所述待检测视频帧序列中的包含所述第一对象区域的目标视频帧,根据所述第一关联结果,确定所述目标视频帧的每帧中的每个第二子对象区域,与所述第一对象区域之间的子交并比,得到与所述每个第二子对象区域对应的至少一个所述子交并比;
从至少一个所述子交并比中,确定所述第一对象区域与所述每个第二子对象区域之间的所述目标交并比。
5.根据权利要求1-3任一项所述的对象关联方法,其特征在于,所述候选第二对象区域包括:多个第二子对象区域;在所述至少两个参数中包括所述匹配率的情况下,所述方法还包括:
统计出所述目标视频帧中,每个第二子对象区域与所述第一对象区域存在所述第一关联结果的第一视频帧数;
统计所述目标视频帧的第二视频帧数;
将所述第一视频帧数与所述第二视频帧数之间的比值,确定为所述第一对象区域与所述每个第二子对象区域之间的所述匹配率。
6.根据权利要求1-3任一项所述的对象关联方法,其特征在于,在所述至少两个参数中包括所述跟踪率的情况下,所述方法还包括:
统计所述目标视频帧的第二视频帧数;
统计所述目标视频帧中,从第一帧到最后一帧之间所经过的连续帧的帧数长度;
将所述第二视频帧数与所述帧数长度之间的比值,确定为所述第一对象区域的所述跟踪率。
7.根据权利要求1-3任一项所述的对象关联方法,其特征在于,所述候选第二对象区域包括:多个第二子对象区域;所述根据所述至少两个参数,得到表征所述第一对象区域与所述候选第二对象区域之间是否关联的第二关联结果,包括:
在任意一个第二子对象区域的所述至少两个参数满足第一预设条件的情况下,确定所述第一对象区域与所述任意一个第二子对象区域之间相互关联的第二关联结果;或者,
在任意一个第二子对象区域的所述至少两个参数存在任意一个不满足第一预设条件的情况下,确定所述第一对象区域与所述任意一个第二子对象区域之间不关联的第二关联结果。
8.根据权利要求7所述的对象关联方法,其特征在于,在所述至少两个参数中包括所述匹配率的情况下,所述第一预设条件包括:
所述第一对象区域与目标第二子对象区域之间的所述匹配率,大于或等于预设匹配率阈值;所述目标第二子对象区域是所述多个第二子对象区域中与所述第一对象区域之间的匹配率最大的一个第二子对象区域。
9.根据权利要求7所述的对象关联方法,其特征在于,在所述至少两个参数中包括所述跟踪率的情况下,所述第一预设条件包括:
所述第一对象区域的所述跟踪率,大于或等于预设跟踪率阈值。
10.根据权利要求7所述的对象关联方法,其特征在于,在所述至少两个参数中包括所述目标交并比的情况下,所述第一预设条件包括:
所述第一对象区域与目标第二子对象区域之间的所述目标交并比,大于或等于预设交并比阈值;所述目标交并比是所述第一对象区域与所述目标第二子对象区域之间的至少一个交并比中的最小交并比;所述目标第二子对象区域是所述多个第二子对象区域中,与所述第一对象区域之间的匹配率最大的一个第二子对象区域。
11.根据权利要求1-3或8-10中任一项所述的对象关联方法,其特征在于,所述对所述第一对象区域与所述多个第二对象区域之间进行单帧内的关联预测,得到表征所述第一对象区域与所述多个第二对象区域中的候选第二对象区域相互关联的第一关联结果,包括:
通过检测模型,确定所述多个第二对象区域的关键点;
根据所述多个第二对象区域的关键点与所述第一对象区域的中心点之间的距离,预测所述多个第二对象区域与所述第一对象区域之间的关联关系,得到表征所述第一对象区域与所述多个第二对象区域中的候选第二对象区域相互关联的第一关联结果。
12.根据权利要求11所述的对象关联方法,其特征在于,所述根据所述多个第二对象区域的关键点与所述第一对象区域的中心点之间的距离,预测所述多个第二对象区域与所述第一对象区域之间的关联关系,得到表征所述第一对象区域与所述多个第二对象区域中的候选第二对象区域相互关联的第一关联结果,包括:
确定所述多个第二对象区域中每个第二对象区域的关键点与所述第一对象区域的中心点之间的距离,得到多个距离值;
将所述多个距离值中最小的距离值所对应的第二对象区域,确定为所述候选第二对象区域;
预测所述候选第二对象区域与所述第一对象区域之间相互关联,得到表征所述候选第二对象区域与所述第一对象区域相互关联的所述第一关联结果。
13.根据权利要求1-3或8-10中任一项所述的对象关联方法,其特征在于,所述第一对象区域具有第一标识信息,所述候选第二对象区域具有第二标识信息;
所述根据所述至少两个参数,得到表征所述第一对象区域与所述候选第二对象区域之间是否关联的第二关联结果之后,所述方法还包括:
在所述第二关联结果表征所述第一对象区域与所述候选第二对象区域相互关联的情况下,记录并显示所述第一标识信息与所述第二标识信息之间的对应关系。
14.根据权利要求1-3或8-10中任一项所述的对象关联方法,其特征在于,所述第一对象区域为人脸区域,所述第二对象区域为人体区域;或,所述第一对象区域为人体区域,所述第二对象区域为人脸区域。
15.根据权利要求11所述的对象关联方法,其特征在于,在所述第二对象区域为人体区域的情况下,所述关键点为人头关键点。
16.一种对象关联装置,其特征在于,包括:
确定模块,用于针对待检测视频帧序列中的每帧待检测图像进行目标检测,确定第一对象区域和多个第二对象区域;
预测模块,用于对所述第一对象区域与所述多个第二对象区域之间进行单帧内的关联预测,得到表征所述第一对象区域与所述多个第二对象区域中的候选第二对象区域相互关联的第一关联结果;
分析模块,用于针对所述待检测视频帧序列中的包含所述第一对象区域的目标视频帧,根据所述第一关联结果,得到所述第一对象区域的跟踪率、所述第一对象区域与所述候选第二对象区域之间的匹配率和交并比中的至少两个参数;根据所述至少两个参数,得到表征所述第一对象区域与所述候选第二对象区域之间是否关联的第二关联结果。
17.一种电子设备,其特征在于,包括:
存储器,用于存储可执行计算机程序;
处理器,用于执行所述存储器中存储的可执行计算机程序时,实现权利要求1至15中任一项所述的方法。
18.一种计算机可读存储介质,其特征在于,存储有计算机程序,用于引起处理器执行时,实现权利要求1至15中任一项所述的方法。
CN202110836611.XA 2021-07-23 2021-07-23 对象关联方法及装置、电子设备、计算机可读存储介质 Active CN113553951B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110836611.XA CN113553951B (zh) 2021-07-23 2021-07-23 对象关联方法及装置、电子设备、计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110836611.XA CN113553951B (zh) 2021-07-23 2021-07-23 对象关联方法及装置、电子设备、计算机可读存储介质

Publications (2)

Publication Number Publication Date
CN113553951A CN113553951A (zh) 2021-10-26
CN113553951B true CN113553951B (zh) 2024-04-16

Family

ID=78132635

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110836611.XA Active CN113553951B (zh) 2021-07-23 2021-07-23 对象关联方法及装置、电子设备、计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN113553951B (zh)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109241921A (zh) * 2018-09-17 2019-01-18 北京字节跳动网络技术有限公司 用于检测人脸关键点的方法和装置
CN110717414A (zh) * 2019-09-24 2020-01-21 青岛海信网络科技股份有限公司 一种目标检测追踪方法、装置及设备
WO2020199479A1 (zh) * 2019-04-03 2020-10-08 平安科技(深圳)有限公司 一种人体动作的识别方法及设备

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190130189A1 (en) * 2017-10-30 2019-05-02 Qualcomm Incorporated Suppressing duplicated bounding boxes from object detection in a video analytics system

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109241921A (zh) * 2018-09-17 2019-01-18 北京字节跳动网络技术有限公司 用于检测人脸关键点的方法和装置
WO2020199479A1 (zh) * 2019-04-03 2020-10-08 平安科技(深圳)有限公司 一种人体动作的识别方法及设备
CN110717414A (zh) * 2019-09-24 2020-01-21 青岛海信网络科技股份有限公司 一种目标检测追踪方法、装置及设备

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
基于R-FCN框架的多候选关联在线多目标跟踪;鄂贵;王永雄;;光电工程(01);全文 *
运动目标视频检测与跟踪方法;徐勇;甘新胜;;指挥控制与仿真(02);全文 *

Also Published As

Publication number Publication date
CN113553951A (zh) 2021-10-26

Similar Documents

Publication Publication Date Title
CN110427905A (zh) 行人跟踪方法、装置以及终端
CN110991261A (zh) 交互行为识别方法、装置、计算机设备和存储介质
CN110706247B (zh) 一种目标跟踪方法、装置及系统
CN108388879A (zh) 目标的检测方法、装置和存储介质
CN110956646B (zh) 目标跟踪方法、装置、设备及存储介质
CN109141453A (zh) 一种路线指引方法及系统
CN111666922A (zh) 视频匹配方法、装置、计算机设备和存储介质
CN113128520B (zh) 图像特征提取方法、目标重识别方法、装置及存储介质
CN111798483A (zh) 一种抗遮挡行人跟踪的方法、装置及存储介质
JP2010267030A (ja) 情報処理装置、情報処理方法
CN111553372A (zh) 一种训练图像识别网络、图像识别搜索的方法及相关装置
CN111753826B (zh) 车辆与车牌的关联方法、装置和电子系统
JP2019075130A (ja) 情報処理装置、制御方法、プログラム
CN111444850A (zh) 一种图片检测的方法和相关装置
CN111881740A (zh) 人脸识别方法、装置、电子设备及介质
CN102855635A (zh) 确定人体动作周期及识别人体动作的方法和装置
CN110909655A (zh) 一种识别视频事件的方法及设备
CN114998819A (zh) 多维度检测跟踪的客流统计方法、装置、设备和介质
CN113553951B (zh) 对象关联方法及装置、电子设备、计算机可读存储介质
CN110288629A (zh) 基于移动物体检测的目标检测自动标注方法及装置
CN111445499B (zh) 用于识别目标信息的方法及装置
CN115984634B (zh) 图像检测方法、装置、设备、存储介质和程序产品
CN111310595A (zh) 用于生成信息的方法和装置
CN114913470A (zh) 一种事件检测方法及装置
CN115471804A (zh) 标注数据质检方法、装置、存储介质及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant