CN108875538B - 属性检测方法、装置和系统及存储介质 - Google Patents
属性检测方法、装置和系统及存储介质 Download PDFInfo
- Publication number
- CN108875538B CN108875538B CN201810179481.5A CN201810179481A CN108875538B CN 108875538 B CN108875538 B CN 108875538B CN 201810179481 A CN201810179481 A CN 201810179481A CN 108875538 B CN108875538 B CN 108875538B
- Authority
- CN
- China
- Prior art keywords
- attribute
- target object
- attribute information
- information
- video stream
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
- G06V20/42—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items of sport video content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/46—Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
Abstract
本发明实施例提供一种属性检测方法、装置和系统以及存储介质。属性检测方法包括:获取视频流的当前视频帧;获取属性检测装置当前的负载信息,其中,负载信息用于指示属性检测装置当前的工作状态;根据负载信息确定属性提取频率;以及基于属性提取频率,确定是否提取视频流中的目标对象的属性信息。根据本发明实施例的属性检测方法和装置,可以自适应地调整属性信息的实际提取频率,可以保证在不同负载状况下,属性检测装置的各个部件能够处于一个功耗正常的水平,以使各个部件能够正常运行。此外,根据本发明实施例的属性检测方法和装置还可以提高对象的属性检测及其他相关检测(例如边界框检测)的效率和准确率。
Description
技术领域
本发明涉及图像识别领域,更具体地涉及一种属性检测方法、装置和系统以及存储介质。
背景技术
目前,在某些应用场景下,可能需要检测目标对象的属性信息。例如,在人脸识别领域,有时需要检测人脸所属人员的年龄等属性信息。在现有的属性检测流程中,属性检测装置如果检测到视频流中的某些视频帧包含目标对象,则从这些视频帧中提取目标对象的属性信息。因此,在现有的属性检测流程中,只要视频帧中出现目标对象就提取属性信息,这种做法不够高效,会影响属性检测装置的性能。
发明内容
考虑到上述问题而提出了本发明。本发明提供了一种属性检测方法、装置和系统以及存储介质。
根据本发明一方面,提供了一种属性检测方法。属性检测方法包括:获取视频流的当前视频帧;获取属性检测装置当前的负载信息,其中,负载信息用于指示属性检测装置当前的工作状态;根据负载信息确定属性提取频率;以及基于属性提取频率,确定是否提取视频流中的目标对象的属性信息。
示例性地,基于属性提取频率,确定是否提取视频流中的目标对象的属性信息,包括:确定当前时刻与前一次提取目标对象的属性信息的时刻之间的时间间隔;以及基于属性提取频率和时间间隔,确定是否提取目标对象的属性信息。
示例性地,时间间隔用当前视频帧与前一次提取目标对象的属性信息的时刻所对应的视频帧之间的实际间隔帧数表示。
示例性地,属性提取频率是由属性提取间隔帧数表示的,基于属性提取频率和时间间隔,确定是否提取目标对象的属性信息,包括:比较实际间隔帧数与属性提取间隔帧数;当实际间隔帧数大于或等于属性提取间隔帧数时,提取目标对象的属性信息。
示例性地,负载信息包括视频流中按时间窗平滑后的新出现的对象的数目。
示例性地,按时间窗平滑后的新出现的对象的数目越大,属性提取频率越小,按时间窗平滑后的新出现的对象的数目越小,属性提取频率越大。
示例性地,方法还包括:对视频流进行对象跟踪,以确定至少一个对象的跟踪轨迹,至少一个对象包括目标对象;其中,按时间窗平滑后的新出现的对象的数目等于在包括当前视频帧在内的n个视频帧中新出现的对象的总数目与n之比,其中,n为大于或等于1的整数。
示例性地,对视频流进行对象跟踪,以确定至少一个对象的跟踪轨迹包括:将视频流输入跟踪模型,以确定至少一个对象的跟踪轨迹以及按时间窗平滑后的新出现的对象的数目。
示例性地,负载信息包括属性检测装置的温度。
示例性地,属性提取频率是由属性提取间隔帧数表示的,根据负载信息确定属性提取频率包括:当温度高于或等于温度阈值时,将属性提取间隔帧数设置为大于第一预设间隔;和/或,当温度低于温度阈值时,将属性提取间隔帧数设置为小于第二预设间隔。
示例性地,在基于属性提取频率,确定是否提取视频流中的目标对象的属性信息之后,方法还包括:如果确定提取目标对象的属性信息,则从图像库中存储的包含目标对象的已存储图像块中提取目标对象的属性信息,其中,已存储图像块从视频流的视频帧中提取获得。
示例性地,方法还包括:对视频流进行对象跟踪,以确定目标对象的跟踪轨迹;依次从跟踪轨迹的每个视频帧中提取包含目标对象的图像块;以及每次从任一视频帧中提取包含目标对象的图像块时,如果从该视频帧中提取的新图像块的图像质量高于图像库中的包含目标对象的已存储图像块的图像质量,则利用新图像块更新已存储图像块。
示例性地,属性提取频率是由属性提取间隔帧数表示的,在基于属性提取频率,确定是否提取视频流中的目标对象的属性信息之后,方法还包括:如果确定提取目标对象的属性信息,则将目标对象的累计间隔帧数置为零;如果确定不提取目标对象的属性信息,则将目标对象的累计间隔帧数加一;基于属性提取频率,确定是否提取视频流中的目标对象的属性信息包括:将属性提取间隔帧数与目标对象的累计间隔帧数相比较,如果属性提取间隔帧数大于目标对象的累计间隔帧数,则确定不提取目标对象的属性信息,否则确定提取目标对象的属性信息。
示例性地,方法还包括:将在不同时刻提取的目标对象的属性信息进行综合,以获得目标对象的综合属性信息。
示例性地,将在不同时刻提取的目标对象的属性信息进行综合,以获得目标对象的综合属性信息包括:将在当前时刻提取的目标对象的属性信息与信息库中存储的目标对象的已存储属性信息进行综合,以获得目标对象的综合属性信息;以及利用目标对象的综合属性信息更新信息库中的目标对象的已存储属性信息。
示例性地,在基于属性提取频率,确定是否提取视频流中的目标对象的属性信息之前,方法还包括:判断当前视频帧中的目标对象是否在视频流中首次出现;若当前视频帧中的目标对象在视频流中首次出现,则提取目标对象的属性信息;其中,基于属性提取频率,确定是否提取视频流中的目标对象的属性信息的步骤在当前视频帧中的目标对象在视频流中非首次出现的情况下执行。
示例性地,根据负载信息确定属性提取频率包括:根据预设的负载与频率对应关系确定与负载信息对应的属性提取频率。
示例性地,方法还包括:从视频流中提取包含目标对象的图像块;以及将包含目标对象的图像块和目标对象的属性信息输出。
根据本发明另一方面,提供了一种属性检测装置,包括:视频帧获取模块,用于获取视频流的当前视频帧;信息获取模块,用于获取属性检测装置当前的负载信息,其中,负载信息用于指示属性检测装置当前的工作状态;频率确定模块,用于根据负载信息确定属性提取频率;以及提取确定模块,用于基于属性提取频率,确定是否提取视频流中的目标对象的属性信息。
根据本发明另一方面,提供了一种属性检测系统,包括处理器和存储器,其中,所述存储器中存储有计算机程序指令,所述计算机程序指令被所述处理器运行时用于执行上述属性检测方法。
根据本发明另一方面,提供了一种存储介质,在所述存储介质上存储了程序指令,所述程序指令在运行时用于执行上述属性检测方法。
根据本发明实施例的属性检测方法、装置和系统以及存储介质,可以自适应地调整属性信息的实际提取频率,可以保证在不同负载状况下,属性检测装置的各个部件能够处于一个功耗正常的水平,以使各个部件能够正常运行。此外,根据本发明实施例的属性检测方法可以提高属性检测装置的处理速度,并且可以提高对象的属性检测及其他相关检测(例如边界框检测)的效率和准确率。
附图说明
通过结合附图对本发明实施例进行更详细的描述,本发明的上述以及其它目的、特征和优势将变得更加明显。附图用来提供对本发明实施例的进一步理解,并且构成说明书的一部分,与本发明实施例一起用于解释本发明,并不构成对本发明的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1示出用于实现根据本发明实施例的属性检测方法和装置的示例电子设备的示意性框图;
图2示出根据本发明一个实施例的属性检测方法的示意性流程图;
图3示出根据本发明一个实施例的属性检测流程的示意图;
图4示出根据本发明一个实施例的属性检测装置的示意性框图;以及
图5示出根据本发明一个实施例的属性检测系统的示意性框图。
具体实施方式
为了使得本发明的目的、技术方案和优点更为明显,下面将参照附图详细描述根据本发明的示例实施例。显然,所描述的实施例仅仅是本发明的一部分实施例,而不是本发明的全部实施例,应理解,本发明不受这里描述的示例实施例的限制。基于本发明中描述的本发明实施例,本领域技术人员在没有付出创造性劳动的情况下所得到的所有其它实施例都应落入本发明的保护范围之内。
属性检测装置的许多性能与其负载状况成负相关。例如,当视频流中目标对象的数目过多时,属性检测装置的性能可能出现以下问题:1、所需的计算量较大,导致处理速度下降;2、功耗骤升,发热量增大,影响装置的稳定性。在现有的属性检测流程中,只要视频帧中出现目标对象就提取属性信息,并不考虑属性检测装置的负载状况,这样做会影响属性检测装置的性能,并影响对象的属性检测的效率和准确率。
为了解决上述问题,本发明实施例提供了一种属性检测方法、装置和系统以及存储介质。根据本发明实施例,根据属性检测装置的负载状况实时确定属性提取频率,并基于确定的属性提取频率实时控制目标对象的属性信息的提取。这种方式可以自适应地调整属性信息的实际提取频率,从而可以保证在不同负载状况下,属性检测装置的各个部件能够处于一个功耗正常的水平,以使各个部件能够正常运行。根据本发明实施例的属性检测方法和装置可以应用于任何需要对对象属性进行检测的领域,例如人脸识别、文字识别、行人检测、车辆检测等等。
首先,参照图1来描述用于实现根据本发明实施例的属性检测方法和装置的示例电子设备100。
如图1所示,电子设备100包括一个或多个处理器102、一个或多个存储装置104。可选地,电子设备100还可以包括输入装置106、输出装置108、以及图像采集装置110,这些组件通过总线系统112和/或其它形式的连接机构(未示出)互连。应当注意,图1所示的电子设备100的组件和结构只是示例性的,而非限制性的,根据需要,所述电子设备也可以具有其他组件和结构。
所述处理器102可以采用数字信号处理(DSP)、现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、微处理器中的至少一种硬件形式来实现,所述处理器102可以是中央处理单元(CPU)、图像处理器(GPU)、专用的集成电路(ASIC)或者具有数据处理能力和/或指令执行能力的其它形式的处理单元中的一种或几种的组合,并且可以控制所述电子设备100中的其它组件以执行期望的功能。
所述存储装置104可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器102可以运行所述程序指令,以实现下文所述的本发明实施例中(由处理器实现)的客户端功能以及/或者其它期望的功能。在所述计算机可读存储介质中还可以存储各种应用程序和各种数据,例如所述应用程序使用和/或产生的各种数据等。
所述输入装置106可以是用户用来输入指令的装置,并且可以包括键盘、鼠标、麦克风和触摸屏等中的一个或多个。
所述输出装置108可以向外部(例如用户)输出各种信息(例如图像和/或声音),并且可以包括显示器、扬声器等中的一个或多个。可选地,所述输入装置106和所述输出装置108可以集成在一起,采用同一交互装置(例如触摸屏)实现。
所述图像采集装置110可以采集视频流,并且将所采集的视频流存储在所述存储装置104中以供其它组件使用。图像采集装置110可以是单独的相机或移动终端中的摄像头。应当理解,图像采集装置110仅是示例,电子设备100可以不包括图像采集装置110。在这种情况下,可以利用其他具有图像采集能力的器件采集视频流,并将采集的视频流发送给电子设备100。
示例性地,用于实现根据本发明实施例的属性检测方法和装置的示例电子设备可以在诸如个人计算机或远程服务器等的设备上实现。
下面,将参考图2描述根据本发明实施例的属性检测方法,该属性检测方法由属性检测装置执行。图2示出根据本发明一个实施例的属性检测方法200的示意性流程图。如图2所示,属性检测方法200包括以下步骤S210、S220、S230和S240。
在步骤S210,获取视频流的当前视频帧。
视频流可以是任何需要识别对象属性的视频流。当前视频帧可以是图像采集装置当前采集到的原始视频帧,也可以是对原始视频帧进行预处理(诸如数字化、归一化、平滑等)之后获得的视频帧。视频流可以包括至少一个视频帧。
在步骤S220,获取属性检测装置当前的负载信息,其中,负载信息用于指示属性检测装置当前的工作状态。
属性检测装置(例如电子设备100)可以是任何能够检测对象属性的装置,包括但不限于人脸抓拍相机。可选地,属性检测装置可以包括图像传感器,用于采集上述视频流。负载信息是与属性检测装置所承担的负载相关的信息,其可以反映属性检测装置的工作状态。示例性地,负载信息可以包括视频流中按时间窗平滑后的新出现的对象的数目和/或属性检测装置的温度。可选地,属性检测装置还可以包括温度传感器。温度传感器可以检测属性检测装置当前的温度。应理解,上述按时间窗平滑后的新出现的对象的数目以及属性检测装置的温度仅是负载信息的示例,负载信息还可以包括其他合适的信息。
在步骤S230,根据负载信息确定属性提取频率。
在步骤S230中所确定的属性提取频率可以理解为属性信息的预计提取频率。在下述步骤S240中,基于该属性提取频率确定是否提取属性信息。因此,属性信息的实际提取频率取决于在步骤S230中所确定的属性提取频率。
在属性检测装置的负载较大,工作状态不好时,可以降低属性提取频率,进而降低目标对象的属性信息的实际提取频率,使得间隔较长时间提取一次目标对象的属性信息。反之,在属性检测装置的负载较小,工作状态较好时,可以提高属性提取频率,进而提高目标对象的属性信息的实际提取频率,使得间隔较短时间提取一次目标对象的属性信息。因此,可以根据属性检测装置的负载信息实时调整属性提取频率的大小,以实时调整属性信息的实际提取频率。这样有利于属性检测装置处于性能较佳的工作状态。
当然,可以理解,在一段时间内所确定的属性提取频率有可能是不变的,这样,目标对象的属性信息的实际提取频率也可以在一段时间内保持不变。
在步骤S240,基于属性提取频率,确定是否提取视频流中的目标对象的属性信息。
本文所述的对象(包括目标对象)可以是任何物体,包括但不限于:文字、特定图案、人或人体的一部分(诸如人脸)、动物、车辆、建筑物等。本文所述的目标对象可以是特定对象。例如,视频流中可能包含多个(例如100个)人脸,目标对象可以是其中的某一个人脸。
本文所述的属性信息可以包括与对象的一种或多种对象属性一一对应的属性信息。例如,在对象为人脸的情况下,对象属性可以包括人脸所属人员的年龄、人脸所属人员的性别、人脸大小、人脸角度、人脸是否模糊、人脸是否被遮挡等等。又例如,在对象为车辆的情况下,对象属性可以包括车牌号、车辆颜色、车辆型号等等。
可以基于属性提取频率确定当前是否能够提取目标对象的属性信息。示例性地,步骤S240可以包括:确定当前时刻与前一次提取目标对象的属性信息的时刻之间的时间间隔;以及基于属性提取频率和时间间隔,确定是否提取目标对象的属性信息。
在一个示例中,当前时刻和前一次提取目标对象的属性信息的时刻(下文简称为前一属性提取时刻)可以用实际的时间点表示,例如,当前时刻可以用视频流中的当前视频帧的获取时刻表示,前一属性提取时刻可以用前一次提取目标对象的属性信息之前最新获取的视频帧的获取时刻表示。当前时刻与前一属性提取时刻之间的时间间隔可以用这两个时间点之间的时间差来表示,例如时间间隔可以是5秒、10秒等。
在另一个示例中,当前时刻和前一属性提取时刻可以用对应的视频帧来标记。例如,当前时刻可以用当前视频帧的帧序号表示,前一属性提取时刻可以用前一属性提取时刻所对应的视频帧(即前一次提取目标对象的属性信息之前最新获取的视频帧)的帧序号表示。此外,当前时刻与前一属性提取时刻之间的时间间隔可以用当前视频帧与前一属性提取时刻所对应的视频帧之间的实际间隔帧数表示。应理解,上述当前视频帧的帧序号可以是当前视频帧在整个视频流中所占据的位置,例如第100帧,也可以是从任意时刻开始编号的序号,例如,虽然当前视频帧在整个视频流中所占据的位置为第100帧但是其帧序号可以为第1帧。与前一属性提取时刻所对应的视频帧的帧序号的编号方式与当前视频帧类似,也是任意的,只要这两个视频帧的帧序号之间的差与实际间隔帧数保持一致即可。
根据本发明实施例,属性提取频率可以是由属性提取间隔帧数表示的,基于属性提取频率和时间间隔,确定是否提取目标对象的属性信息,可以包括:比较实际间隔帧数与属性提取间隔帧数;当实际间隔帧数大于或等于属性提取间隔帧数时,提取目标对象的属性信息。
当实际间隔帧数小于属性提取间隔帧数时,可以不提取目标对象的属性信息,继续获取视频流中的下一视频帧,将下一视频帧作为当前视频帧并再次执行步骤S220至步骤S240。也就是说,示例性地,可以针对视频流中的每一个视频帧,执行步骤S210至步骤S240。
例如,假设当前的属性提取间隔帧数为5帧,如果获取当前视频帧后,发现人脸A的实际间隔帧数达到5帧,则可以提取一次人脸A的属性信息。又例如,假设在获取前一个视频帧时所确定的属性提取间隔帧数为10帧,而在获取前一个视频帧之后人脸B的实际间隔帧数达到8帧,则可以在获取前一个视频帧之后不提取人脸B的属性信息。然而,属性提取频率可以随着负载信息的变化而变化,假设在获取当前视频帧时所确定的属性提取间隔帧数改变为6帧,则在获取当前视频帧之后人脸B的实际间隔帧数达到9帧,大于当前的属性提取间隔帧数,此时可以提取人脸B的属性信息。
如上文所述,当属性检测装置的负载较大时,可以自动降低属性信息的实际提取频率,当属性检测装置的负载较小时,可以自动提高属性信息的实际提取频率,这样使得属性检测装置能够自适应地调整属性信息的实际提取频率。这种属性检测方式使得属性检测装置中的属性提取模块能更有效地与属性检测装置中的其他模块(例如图像传感器、检测跟踪模块等)进行配合,从而可以保证在不同负载状况下,属性检测装置的各个部件能够处于一个功耗正常的水平,以使各个部件能够正常运行。同时,由于上述属性检测方式能够很好地协调属性检测装置的工作状态,因此使得属性检测装置能够以较稳定的状态高效地运行,从而能够提高属性检测的效率和准确率。可选地,除属性检测以外,属性检测装置还可以进一步用于其他相关检测(例如边界框检测),在这种情况下,属性检测装置的稳定高效运行也有利于提高其他相关检测的效率和准确率。
根据本发明实施例的属性检测方法,可以自适应地调整属性信息的实际提取频率,可以保证在不同负载状况下,属性检测装置的各个部件能够处于一个功耗正常的水平,以使各个部件能够正常运行。此外,根据本发明实施例的属性检测方法可以提高属性检测装置的处理速度,并且可以提高对象的属性检测及其他相关检测(例如边界框检测)的效率和准确率。
示例性地,根据本发明实施例的属性检测方法可以在具有存储器和处理器的设备、装置或者系统中实现。
根据本发明实施例的属性检测方法可以部署在图像采集端处,例如,在安防应用领域,可以部署在门禁系统的图像采集端;在金融应用领域,可以部署在个人终端处,诸如智能电话、平板电脑、个人计算机等。
替代地,根据本发明实施例的属性检测方法还可以分布地部署在服务器端(或云端)和个人终端处。例如,可以在客户端获取视频流,客户端将获取的视频流传送给服务器端(或云端),由服务器端(或云端)进行属性检测。
根据本发明实施例,负载信息可以包括视频流中按时间窗平滑后的新出现的对象的数目。
示例性地,属性检测方法200还可以包括:对视频流进行对象跟踪,以确定至少一个对象的跟踪轨迹,至少一个对象包括目标对象;其中,按时间窗平滑后的新出现的对象的数目等于在包括当前视频帧在内的n个视频帧中新出现的对象的总数目与n之比,其中,n为大于或等于1的整数。
对视频流进行对象跟踪可以采用任何现有的或将来可能出现的跟踪算法实现。通过跟踪算法,可以获得大量带跟踪标识符(track ID)的边界框(bounding box,可简称为bbox)。每个边界框可以是用于指示对象所在位置的矩形框,可以用四个数值来表示。例如,边界框可以用以下数值表示:该边界框的左上角横坐标x、左上角纵坐标y、边界框的宽度w、边界框的高度h。
通过跟踪算法可以确定两个相邻视频帧中的哪些边界框属于同一跟踪轨迹,同一对象的边界框会分配相同的track ID。也就是说,每个track ID可以代表一个跟踪轨迹,例如人脸A的track ID可以为1,人脸B的track ID可以为2,以此类推。因此,针对每个对象可以获得一个跟踪轨迹。根据每个边界框的track ID可以获知该边界框属于哪个跟踪轨迹,也就可以获知该边界框属于哪个对象。
按时间窗平滑也就是在时间轴上求平均。例如,在包括当前视频帧在内的10个视频帧(最后一个即为当前视频帧)中新出现了120个对象,则按时间窗平滑后新出现的对象的数目为12。
示例性地,按时间窗平滑后的新出现的对象的数目越大,属性提取频率越小,按时间窗平滑后的新出现的对象的数目越小,属性提取频率越大。
按时间窗平滑后新出现的对象越多,说明属性检测装置的负载越大,此时可以将属性提取频率适当降低,反之亦然。可选地,按时间窗平滑后新出现的对象的数目可以是调整属性提取频率所依赖的主要参数,该参数可以随着新视频帧的获取而实时改变,基于该参数可以实时调整属性提取频率。
示例性地,对视频流进行对象跟踪,以确定至少一个对象的跟踪轨迹可以采用跟踪模型实现。示例性地,跟踪模型可以包括检测器模型和跟踪器模型。检测器模型用于检测视频流的每个视频帧中的各对象的位置,获得每个视频帧中的各对象的位置信息。例如,检测器模型可以输出与每个视频帧相对应的若干边界框的坐标数据。示例性地,检测器模型可以是神经网络模型,例如卷积神经网络。
跟踪器模型用于基于检测器模型输出的位置信息将不同视频帧中的对象关联起来,获得每个对象的跟踪轨迹。检测器模型可以检测出与每个视频帧相对应的若干边界框,每个边界框可以用于指示一个对象所在的位置,但是不同视频帧之间的对象尚未关联。可以采用跟踪器模型来将不同视频帧中的对象关联起来,也就是将不同视频帧中属于同一对象的边界框关联起来。示例性地,跟踪器模型可以采用卡尔曼滤波算法实现。
利用跟踪模型可以获得上述带track ID的边界框。在一个示例中,跟踪模型除了用于输出对象的轨迹信息(例如带track ID的边界框)之外,还可以用于输出上述按时间窗平滑后的新出现的对象的数目。例如,对视频流进行对象跟踪,以确定至少一个对象的跟踪轨迹可以包括:将视频流输入跟踪模型,以确定至少一个对象的跟踪轨迹以及按时间窗平滑后的新出现的对象的数目,其中,至少一个对象包括目标对象。由于按时间窗平滑后的新出现的对象的数目这一参数与对象轨迹具有相关性,新出现的对象的数目可以用新出现的对象轨迹的数目来衡量,因此可以考虑采用同一跟踪模型,在输出轨迹信息的同时,还输出至少部分负载信息,这种处理方式可以进一步提高属性检测的效率。
如上文所述,负载信息可以包括属性检测装置的温度。可选地,属性检测装置的温度可以是调整属性提取频率的辅助参数。示例性地,属性提取频率可以是由属性提取间隔帧数表示的,步骤S230可以包括:当温度高于或等于温度阈值时,将属性提取间隔帧数设置为大于第一预设间隔;和/或,当温度低于温度阈值时,将属性提取间隔帧数设置为小于第二预设间隔。
当属性检测装置的温度过高,例如高于或等于一定的温度阈值时,可以认为属性检测装置现在的状态不安全,可能会对属性检测装置造成一定的损害。此时,可以将属性提取间隔帧数设置得较大,也就是间隔较长时间才提取一次属性信息。这样做可以避免属性检测装置过热出现故障,减少设备损失。此外,温度过高可能是由于功耗过大造成的,说明属性检测装置目前处理能力比较弱,降低属性提取频率也可以减轻属性检测装置的数据处理压力。示例性地,在温度高于或等于温度阈值时,可以使得无论按时间窗平滑后的新出现的对象的数目多大,属性提取间隔帧数都不会小于第一预设间隔,但是在这种情况下,可选地,属性提取间隔帧数可以随着按时间窗平滑后的新出现的对象数目的改变而改变。
当属性检测装置的温度较低,例如低于一定的温度阈值时,可以认为属性检测装置现在的工作状态良好,可以负担较高频率的属性提取,因此可以选择将属性提取间隔帧数设置得较小,例如小于第二预设间隔。这样做可以使得属性提取装置能够以较高频率提取属性信息,有利于获得更准确、更丰富的属性信息。
第一预设间隔和第二预设间隔均可是任意数值,其可以根据需要设定,本发明不对此进行限制。
根据本发明实施例,在步骤S240之后,属性检测方法200还可以包括:如果确定提取目标对象的属性信息,则从图像库中存储的包含目标对象的已存储图像块中提取目标对象的属性信息,其中,已存储图像块从视频流的视频帧中提取获得。
在一个示例中,如果在步骤S240中确定提取目标对象的属性信息,则可以从当前视频帧中提取目标对象的属性信息。例如,可以首先从当前视频帧中提取包含目标对象的图像块,然后从该图像块中提取目标对象的属性信息。示例性地,可以将包含目标对象的图像块输入属性提取模型,以提取目标对象的属性信息。示例性地而非限制性地,属性提取模型可以是任何合适的神经网络模型,例如卷积神经网络。
在另一个示例中,如果在步骤S240中确定提取目标对象的属性信息,则可以从图像库中存储的包含目标对象的已存储图像块中提取目标对象的属性信息。可选地,图像库中存储的已存储图像块可以是从视频流中任一包含目标对象的视频帧中提取的,也就是说,已存储图像块可以来自当前视频帧,也可以来自在当前视频帧之前的任一包含目标对象的视频帧。
根据本发明实施例,属性检测方法200还可以包括:对视频流进行对象跟踪,以确定目标对象的跟踪轨迹;依次从跟踪轨迹的每个视频帧中提取包含目标对象的图像块;以及每次从任一视频帧中提取包含所述目标对象的图像块时,如果从该视频帧中提取的新图像块的图像质量高于图像库中的包含目标对象的已存储图像块的图像质量,则利用新图像块更新已存储图像块。
如上文所述,可以采用任意跟踪算法,对视频流进行对象跟踪。对象跟踪可以获得带track ID的边界框,并且针对每个对象可以获得一个跟踪轨迹。示例性地,可以针对每个对象建立一个数据结构体,每个数据结构体可以对应于存储器中的一块存储空间。每个对象的数据结构体中可以记录有该对象的track ID、该对象出现的视频帧的帧序号、该对象在其出现的各视频帧中的边界框的坐标、包含该对象的图像块(即图像库中存储的包含该对象的已存储图像块)的存储地址、该对象的属性信息(即信息库中存储的包含该对象的已存储属性信息)的存储地址,等等。
当目标对象在视频流中首次出现时,可以从其第一次出现的视频帧中提取包含目标对象的图像块并将该图像块存储在图像库中。随后,在每次获得当前视频帧且目标对象的跟踪未结束时,如果当前视频帧中包含目标对象,则可以从当前视频帧中提取包含目标对象的图像块,并且可以将其与图像库中的已存储图像块的图像质量相比较,如果当前视频帧中提取的图像块的图像质量更高,则可以用新提取的图像块(即新图像块)更新图像库中的已存储图像块。这样,图像库中始终存储的是图像质量最高的图像块。目标对象的属性信息可以是从该图像质量最高的图像块中提取的。图像块的图像质量可以采用任意合适的方式计算和衡量,例如可以对图像块中的人脸的模糊程度、人脸的角度、人脸的遮挡程度等参数进行特定运算,例如加权平均,所获得的数据可以视为图像块的图像质量。
根据本发明实施例,属性提取频率可以是由属性提取间隔帧数表示的,在步骤S240之后,属性检测方法200还可以包括:如果确定提取目标对象的属性信息,则将目标对象的累计间隔帧数置为零;如果确定不提取目标对象的属性信息,则将目标对象的累计间隔帧数加一;步骤S240可以包括:将属性提取间隔帧数与目标对象的累计间隔帧数相比较,如果属性提取间隔帧数大于目标对象的累计间隔帧数,则确定不提取目标对象的属性信息,否则确定提取目标对象的属性信息。
示例性地,可以针对每个对象(即针对每个跟踪轨迹)设置一个计数器。每个计数器用于为对应对象的属性信息在两次相邻提取之间的间隔帧数(即累计间隔帧数)进行计数。例如,对于目标对象来说,每次提取其属性信息之后,就将计数器置零,重新开始计数。每次获取当前视频帧时,如果目标对象的跟踪未结束,则可以将当前的属性提取间隔帧数与目标对象所对应的计数器的值进行比较。如果属性提取间隔帧数大于计数器的值,则不提取目标对象的属性信息,反之,如果属性提取间隔帧数小于或等于计数器的值,则可以提取目标对象的属性信息。
计数器是一种非常方便的实现方案,利用与每个对象相对应的计数器可以分别独立地控制每个对象的属性信息提取。虽然对每个对象来说,属性提取频率可能是一致的,但是每个对象在当前的累计间隔帧数不一定一致,因此可以分开控制属性信息的提取。
根据本发明实施例,属性检测方法200还可以包括:将在不同时刻提取的目标对象的属性信息进行综合,以获得目标对象的综合属性信息。
在目标对象的跟踪轨迹存在的时间段里,可能针对目标对象提取过多次属性信息,可以将这些属性信息综合起来,这样做可以提高对象属性的检测精度。
示例性地,将在不同时刻提取的目标对象的属性信息进行综合,以获得目标对象的综合属性信息可以包括:将在当前时刻提取的目标对象的属性信息与信息库中存储的目标对象的已存储属性信息进行综合,以获得目标对象的综合属性信息;以及利用目标对象的综合属性信息更新信息库中的目标对象的已存储属性信息。
在一个示例中,可以在目标对象的跟踪结束时,将之前提取的目标对象的所有属性信息综合起来。在另一个示例中,可以在每次提取目标对象的属性信息时,就将当前提取的属性信息与之前提取的属性信息进行一次综合。例如,在第一次提取目标对象的属性信息之后,可以将该属性信息存储在信息库中。在第二次提取目标对象的属性信息之后,可以将第二次提取的属性信息与第一次提取的属性信息进行综合,并用综合属性信息更新信息库中存储的第一次提取的属性信息。在第三次提取目标对象的属性信息之后,可以将第三次提取的属性信息与信息库中存储的属性信息(称为已存储属性信息,其为第一次和第二次提取的属性信息综合之后获得的综合属性信息)进行综合,并再次更新信息库中存储的属性信息。
示例性地,将在当前时刻提取的目标对象的属性信息与信息库中存储的目标对象的已存储属性信息进行综合可以包括:将在当前时刻提取的目标对象的属性信息中的每种属性的属性数据与信息库中存储的目标对象的已存储属性信息中的对应属性的属性数据求平均,以获得综合属性信息。例如,假设目标对象为人脸X并且其属性信息包括人脸X所属人员的年龄,则可以将当前时刻提取的目标对象的属性信息中年龄一项的值与信息库中存储的目标对象的已存储属性信息中年龄一项的值求平均,获得的年龄平均值作为综合属性信息中年龄一项的值。
根据本发明实施例,在步骤S240之前,属性检测方法200还可以包括:判断当前视频帧中的目标对象是否在视频流中首次出现;若当前视频帧中的目标对象在视频流中首次出现,则提取目标对象的属性信息;其中,步骤S240在当前视频帧中的目标对象在视频流中非首次出现的情况下执行。
例如,当目标对象为第一次出现时,可以对其进行一次属性信息的提取,并将提取的属性信息保存到对应的数据结构体(也是保存到信息库)。如果目标对象为之前出现的已有对象,则可以根据当前的属性提取频率判断是否需要对该目标对象进行一次属性信息的提取。如果确定不提取,则可以跳过当前视频帧,继续获取下一视频帧;若确定提取,则可以进行一次属性信息的提取,并且可以用提取出的属性信息更新保存在数据结构体中的已存储属性信息。
根据本发明实施例,步骤S230可以包括:根据预设的负载与频率对应关系确定与负载信息对应的属性提取频率。
可以根据预设的负载-提取频率控制曲线以及当前的负载信息,确定当前的属性提取频率。例如,负载-提取频率控制曲线可以是根据经验或理论预先确定好的,获取负载信息之后,可以从负载-提取频率控制曲线上查找对应的属性提取频率。
根据本发明实施例,属性检测方法200还可以包括:从视频流中提取包含目标对象的图像块;以及将包含目标对象的图像块和目标对象的属性信息输出。
在一个示例中,可以从当前视频帧中提取包含目标对象的图像块并将该图像块输出。在另一个示例中,可以从图像库中获取已存储图像块,并将已存储图像块输出。在一个示例中,可以将当前提取的属性信息输出。在另一个示例中,可以从信息库中获取已存储属性信息,并将已存储属性信息输出。
在一个示例中,可以通过显示器等输出装置将包含目标对象的图像块和目标对象的属性信息输出,用于供用户查看。在另一个示例中,可以通过有线或无线等方式将包含目标对象的图像块和目标对象的属性信息输出至远程服务器等外部设备。
图3示出根据本发明一个实施例的属性检测流程的示意图。下面以属性检测装置为人脸抓拍相机为例描述本发明。示例性地,可以将人脸抓拍相机安装于某个人流密集的通道上进行视频采集。如图3所示,人脸抓拍相机的图像传感器采集视频流,并将视频流中的每个视频帧实时传入人脸抓拍机中的检测跟踪模块,检测跟踪模块用于实现上述跟踪模型。检测跟踪模块接收视频帧后,可以输出带track ID的bbox信息给属性提取模块。同时检测跟踪模块可以输出负载信息(例如上述按时间窗平滑后的新出现的对象的数目)。频率控制模块接收检测跟踪模块输出的负载信息,根据负载-提取频率控制曲线确定属性提取频率,输出关于属性提取频率的控制信号至属性提取模块。属性提取模块接收到控制信号之后,更新自已的属性提取频率,并基于当前的属性提取频率确定是否提取每个人脸的属性信息,对于需要提取属性信息的人脸进行一次属性信息的提取。当任一人脸的跟踪结束时,可以将该人脸的人脸信息(即对象信息)输出至服务器。任一对象的对象信息可以包括图像库中存储的包含该对象的图像块和/或信息库中存储的该对象的属性信息。当然,对象信息还可以包括其他与对象相关的信息,本文不对此进行限制。
根据本发明另一方面,提供一种属性检测装置。图4示出了根据本发明一个实施例的属性检测装置400的示意性框图。
如图4所示,根据本发明实施例的属性检测装置400包括视频帧获取模块410、信息获取模块420、频率确定模块430和提取确定模块440。所述各个模块可分别执行上文中结合图2-3描述的属性检测方法的各个步骤/功能。以下仅对该属性检测装置400的各部件的主要功能进行描述,而省略以上已经描述过的细节内容。
视频帧获取模块410用于获取视频流的当前视频帧。视频帧获取模块410可以由图1所示的电子设备中的处理器102运行存储装置104中存储的程序指令来实现。
信息获取模块420用于获取所述属性检测装置当前的负载信息,其中,所述负载信息用于指示所述属性检测装置当前的工作状态。信息获取模块420可以由图1所示的电子设备中的处理器102运行存储装置104中存储的程序指令来实现。
频率确定模块430用于根据所述负载信息确定属性提取频率。频率确定模块430可以由图1所示的电子设备中的处理器102运行存储装置104中存储的程序指令来实现。
提取确定模块440用于基于所述属性提取频率,确定是否提取所述视频流中的目标对象的属性信息。提取确定模块440可以由图1所示的电子设备中的处理器102运行存储装置104中存储的程序指令来实现。
示例性地,提取确定模块440具体用于:确定当前时刻与前一次提取目标对象的属性信息的时刻之间的时间间隔;以及基于属性提取频率和时间间隔,确定是否提取目标对象的属性信息。
示例性地,时间间隔用当前视频帧与前一次提取目标对象的属性信息的时刻所对应的视频帧之间的实际间隔帧数表示。
示例性地,属性提取频率是由属性提取间隔帧数表示的,提取确定模块440具体用于:比较实际间隔帧数与属性提取间隔帧数;当实际间隔帧数大于或等于属性提取间隔帧数时,提取目标对象的属性信息。
示例性地,负载信息包括视频流中按时间窗平滑后的新出现的对象的数目。
示例性地,按时间窗平滑后的新出现的对象的数目越大,属性提取频率越小,按时间窗平滑后的新出现的对象的数目越小,属性提取频率越大。
示例性地,属性检测装置400还包括:跟踪模块(未示出),用于对视频流进行对象跟踪,以确定至少一个对象的跟踪轨迹,至少一个对象包括目标对象;其中,按时间窗平滑后的新出现的对象的数目等于在包括当前视频帧在内的n个视频帧中新出现的对象的总数目与n之比,其中,n为大于或等于1的整数。
示例性地,跟踪模块具体用于:将视频流输入跟踪模型,以确定至少一个对象的跟踪轨迹以及按时间窗平滑后的新出现的对象的数目。
示例性地,负载信息包括属性检测装置的温度。
示例性地,属性提取频率是由属性提取间隔帧数表示的,频率确定模块430具体用于:当温度高于或等于温度阈值时,将属性提取间隔帧数设置为大于第一预设间隔;和/或,当温度低于温度阈值时,将属性提取间隔帧数设置为小于第二预设间隔。
示例性地,属性检测装置400还包括:属性提取模块(未示出),用于在提取确定模块440基于属性提取频率,确定是否提取视频流中的目标对象的属性信息之后,如果确定提取目标对象的属性信息,则从图像库中存储的包含目标对象的已存储图像块中提取目标对象的属性信息,其中,已存储图像块从视频流的视频帧中提取获得。
示例性地,属性检测装置400还包括:跟踪模块(未示出),用于对视频流进行对象跟踪,以确定目标对象的跟踪轨迹;图像块提取模块(未示出),用于依次从跟踪轨迹的每个视频帧中提取包含目标对象的图像块;以及图像块更新模块(未示出),用于每次从任一视频帧中提取包含目标对象的图像块时,如果从该视频帧中提取的新图像块的图像质量高于图像库中的包含目标对象的已存储图像块的图像质量,则利用新图像块更新已存储图像块。
示例性地,属性提取频率是由属性提取间隔帧数表示的,属性检测装置400还包括:第一计数执行模块(未示出),用于在提取确定模块440基于属性提取频率,确定是否提取视频流中的目标对象的属性信息之后,如果确定提取目标对象的属性信息,则将目标对象的累计间隔帧数置为零;第二计数执行模块(未示出),用于如果确定不提取目标对象的属性信息,则将目标对象的累计间隔帧数加一;提取确定模块440具体用于:将属性提取间隔帧数与目标对象的累计间隔帧数相比较,如果属性提取间隔帧数大于目标对象的累计间隔帧数,则确定不提取目标对象的属性信息,否则确定提取目标对象的属性信息。
示例性地,属性检测装置400还包括:综合模块(未示出),用于将在不同时刻提取的目标对象的属性信息进行综合,以获得目标对象的综合属性信息。
示例性地,综合模块具体用于:将在当前时刻提取的目标对象的属性信息与信息库中存储的目标对象的已存储属性信息进行综合,以获得目标对象的综合属性信息;以及利用目标对象的综合属性信息更新信息库中的目标对象的已存储属性信息。
示例性地,属性检测装置400还包括:判断模块(未示出),用于在提取确定模块440基于属性提取频率,确定是否提取视频流中的目标对象的属性信息之前,判断当前视频帧中的目标对象是否在视频流中首次出现;首次提取模块(未示出),用于若当前视频帧中的目标对象在视频流中首次出现,则提取目标对象的属性信息;其中,提取确定模块440在当前视频帧中的目标对象在视频流中非首次出现的情况下启动。
示例性地,频率确定模块430具体用于:根据预设的负载与频率对应关系确定与负载信息对应的属性提取频率。
示例性地,属性检测装置400还包括:图像块提取模块(未示出),用于从视频流中提取包含目标对象的图像块;以及输出模块(未示出),用于将包含目标对象的图像块和目标对象的属性信息输出。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
图5示出了根据本发明一个实施例的属性检测系统500的示意性框图。属性检测系统500包括图像采集装置510、存储装置(即存储器)520、以及处理器530。
所述图像采集装置510用于采集视频流。图像采集装置510是可选的,属性检测系统500可以不包括图像采集装置510。在这种情况下,可以利用其他图像采集装置采集视频流,并将采集的视频流发送给属性检测系统500。
所述存储装置520存储用于实现根据本发明实施例的属性检测方法中的相应步骤的计算机程序指令。
所述处理器530用于运行所述存储装置520中存储的计算机程序指令,以执行根据本发明实施例的属性检测方法的相应步骤。
在一个实施例中,所述计算机程序指令被所述处理器530运行时用于执行以下步骤:获取视频流的当前视频帧;获取属性检测装置当前的负载信息,其中,负载信息用于指示属性检测装置当前的工作状态;根据负载信息确定属性提取频率;以及基于属性提取频率,确定是否提取视频流中的目标对象的属性信息。
示例性地,所述计算机程序指令被所述处理器530运行时所用于执行的基于属性提取频率,确定是否提取视频流中的目标对象的属性信息的步骤,包括:确定当前时刻与前一次提取目标对象的属性信息的时刻之间的时间间隔;以及基于属性提取频率和时间间隔,确定是否提取目标对象的属性信息。
示例性地,时间间隔用当前视频帧与前一次提取目标对象的属性信息的时刻所对应的视频帧之间的实际间隔帧数表示。
示例性地,属性提取频率是由属性提取间隔帧数表示的,所述计算机程序指令被所述处理器530运行时所用于执行的基于属性提取频率和时间间隔,确定是否提取目标对象的属性信息的步骤,包括:比较实际间隔帧数与属性提取间隔帧数;当实际间隔帧数大于或等于属性提取间隔帧数时,提取目标对象的属性信息。
示例性地,负载信息包括视频流中按时间窗平滑后的新出现的对象的数目。
示例性地,按时间窗平滑后的新出现的对象的数目越大,属性提取频率越小,按时间窗平滑后的新出现的对象的数目越小,属性提取频率越大。
示例性地,所述计算机程序指令被所述处理器530运行时还用于执行以下步骤:对视频流进行对象跟踪,以确定至少一个对象的跟踪轨迹,至少一个对象包括目标对象;其中,按时间窗平滑后的新出现的对象的数目等于在包括当前视频帧在内的n个视频帧中新出现的对象的总数目与n之比,其中,n为大于或等于1的整数。
示例性地,所述计算机程序指令被所述处理器530运行时所用于执行的对视频流进行对象跟踪,以确定至少一个对象的跟踪轨迹的步骤包括:将视频流输入跟踪模型,以确定至少一个对象的跟踪轨迹以及按时间窗平滑后的新出现的对象的数目。
示例性地,负载信息包括属性检测装置的温度。
示例性地,所述计算机程序指令被所述处理器530运行时所用于执行的属性提取频率是由属性提取间隔帧数表示的,根据负载信息确定属性提取频率的步骤包括:当温度高于或等于温度阈值时,将属性提取间隔帧数设置为大于第一预设间隔;和/或,当温度低于温度阈值时,将属性提取间隔帧数设置为小于第二预设间隔。
示例性地,在所述计算机程序指令被所述处理器530运行时所用于执行的基于属性提取频率,确定是否提取视频流中的目标对象的属性信息的步骤之后,所述计算机程序指令被所述处理器530运行时还用于执行以下步骤:如果确定提取目标对象的属性信息,则从图像库中存储的包含目标对象的已存储图像块中提取目标对象的属性信息,其中,已存储图像块从视频流的视频帧中提取获得。
示例性地,所述计算机程序指令被所述处理器530运行时还用于执行以下步骤:对视频流进行对象跟踪,以确定目标对象的跟踪轨迹;依次从跟踪轨迹的每个视频帧中提取包含目标对象的图像块;以及每次从任一视频帧中提取包含目标对象的图像块时,如果从该视频帧中提取的新图像块的图像质量高于图像库中的包含目标对象的已存储图像块的图像质量,则利用新图像块更新已存储图像块。
示例性地,属性提取频率是由属性提取间隔帧数表示的,在所述计算机程序指令被所述处理器530运行时所用于执行的基于属性提取频率,确定是否提取视频流中的目标对象的属性信息的步骤之后,所述计算机程序指令被所述处理器530运行时还用于执行以下步骤:如果确定提取目标对象的属性信息,则将目标对象的累计间隔帧数置为零;如果确定不提取目标对象的属性信息,则将目标对象的累计间隔帧数加一;基于属性提取频率,确定是否提取视频流中的目标对象的属性信息包括:将属性提取间隔帧数与目标对象的累计间隔帧数相比较,如果属性提取间隔帧数大于目标对象的累计间隔帧数,则确定不提取目标对象的属性信息,否则确定提取目标对象的属性信息。
示例性地,所述计算机程序指令被所述处理器530运行时还用于执行以下步骤:将在不同时刻提取的目标对象的属性信息进行综合,以获得目标对象的综合属性信息。
示例性地,所述计算机程序指令被所述处理器530运行时所用于执行的将在不同时刻提取的目标对象的属性信息进行综合,以获得目标对象的综合属性信息的步骤包括:将在当前时刻提取的目标对象的属性信息与信息库中存储的目标对象的已存储属性信息进行综合,以获得目标对象的综合属性信息;以及利用目标对象的综合属性信息更新信息库中的目标对象的已存储属性信息。
示例性地,在所述计算机程序指令被所述处理器530运行时所用于执行的基于属性提取频率,确定是否提取视频流中的目标对象的属性信息的步骤之前,所述计算机程序指令被所述处理器530运行时还用于执行以下步骤:判断当前视频帧中的目标对象是否在视频流中首次出现;若当前视频帧中的目标对象在视频流中首次出现,则提取目标对象的属性信息;其中,所述计算机程序指令被所述处理器530运行时所用于执行的基于属性提取频率,确定是否提取视频流中的目标对象的属性信息的步骤在当前视频帧中的目标对象在视频流中非首次出现的情况下执行。
示例性地,所述计算机程序指令被所述处理器530运行时所用于执行的根据负载信息确定属性提取频率的步骤包括:根据预设的负载与频率对应关系确定与负载信息对应的属性提取频率。
示例性地,所述计算机程序指令被所述处理器530运行时还用于执行以下步骤:从视频流中提取包含目标对象的图像块;以及将包含目标对象的图像块和目标对象的属性信息输出。
此外,根据本发明实施例,还提供了一种存储介质,在所述存储介质上存储了程序指令,在所述程序指令被计算机或处理器运行时用于执行本发明实施例的属性检测方法的相应步骤,并且用于实现根据本发明实施例的属性检测装置中的相应模块。所述存储介质例如可以包括智能电话的存储卡、平板电脑的存储部件、个人计算机的硬盘、只读存储器(ROM)、可擦除可编程只读存储器(EPROM)、便携式紧致盘只读存储器(CD-ROM)、USB存储器、或者上述存储介质的任意组合。
在一个实施例中,所述程序指令在被计算机或处理器运行时可以使得计算机或处理器实现根据本发明实施例的属性检测装置的各个功能模块,并和/或者可以执行根据本发明实施例的属性检测方法。
在一个实施例中,所述程序指令在运行时用于执行以下步骤:获取视频流的当前视频帧;获取属性检测装置当前的负载信息,其中,负载信息用于指示属性检测装置当前的工作状态;根据负载信息确定属性提取频率;以及基于属性提取频率,确定是否提取视频流中的目标对象的属性信息。
示例性地,所述程序指令在运行时所用于执行的基于属性提取频率,确定是否提取视频流中的目标对象的属性信息的步骤,包括:确定当前时刻与前一次提取目标对象的属性信息的时刻之间的时间间隔;以及基于属性提取频率和时间间隔,确定是否提取目标对象的属性信息。
示例性地,时间间隔用当前视频帧与前一次提取目标对象的属性信息的时刻所对应的视频帧之间的实际间隔帧数表示。
示例性地,属性提取频率是由属性提取间隔帧数表示的,所述程序指令在运行时所用于执行的基于属性提取频率和时间间隔,确定是否提取目标对象的属性信息的步骤,包括:比较实际间隔帧数与属性提取间隔帧数;当实际间隔帧数大于或等于属性提取间隔帧数时,提取目标对象的属性信息。
示例性地,负载信息包括视频流中按时间窗平滑后的新出现的对象的数目。
示例性地,按时间窗平滑后的新出现的对象的数目越大,属性提取频率越小,按时间窗平滑后的新出现的对象的数目越小,属性提取频率越大。
示例性地,所述程序指令在运行时还用于执行以下步骤:对视频流进行对象跟踪,以确定至少一个对象的跟踪轨迹,至少一个对象包括目标对象;其中,按时间窗平滑后的新出现的对象的数目等于在包括当前视频帧在内的n个视频帧中新出现的对象的总数目与n之比,其中,n为大于或等于1的整数。
示例性地,所述程序指令在运行时所用于执行的对视频流进行对象跟踪,以确定至少一个对象的跟踪轨迹的步骤包括:将视频流输入跟踪模型,以确定至少一个对象的跟踪轨迹以及按时间窗平滑后的新出现的对象的数目。
示例性地,负载信息包括属性检测装置的温度。
示例性地,所述程序指令在运行时所用于执行的属性提取频率是由属性提取间隔帧数表示的,根据负载信息确定属性提取频率的步骤包括:当温度高于或等于温度阈值时,将属性提取间隔帧数设置为大于第一预设间隔;和/或,当温度低于温度阈值时,将属性提取间隔帧数设置为小于第二预设间隔。
示例性地,在所述程序指令在运行时所用于执行的基于属性提取频率,确定是否提取视频流中的目标对象的属性信息的步骤之后,所述程序指令在运行时还用于执行以下步骤:如果确定提取目标对象的属性信息,则从图像库中存储的包含目标对象的已存储图像块中提取目标对象的属性信息,其中,已存储图像块从视频流的视频帧中提取获得。
示例性地,所述程序指令在运行时还用于执行以下步骤:对视频流进行对象跟踪,以确定目标对象的跟踪轨迹;依次从跟踪轨迹的每个视频帧中提取包含目标对象的图像块;以及每次从任一视频帧中提取包含目标对象的图像块时,如果从该视频帧中提取的新图像块的图像质量高于图像库中的包含目标对象的已存储图像块的图像质量,则利用新图像块更新已存储图像块。
示例性地,属性提取频率是由属性提取间隔帧数表示的,在所述程序指令在运行时所用于执行的基于属性提取频率,确定是否提取视频流中的目标对象的属性信息的步骤之后,所述程序指令在运行时还用于执行以下步骤:如果确定提取目标对象的属性信息,则将目标对象的累计间隔帧数置为零;如果确定不提取目标对象的属性信息,则将目标对象的累计间隔帧数加一;基于属性提取频率,确定是否提取视频流中的目标对象的属性信息包括:将属性提取间隔帧数与目标对象的累计间隔帧数相比较,如果属性提取间隔帧数大于目标对象的累计间隔帧数,则确定不提取目标对象的属性信息,否则确定提取目标对象的属性信息。
示例性地,所述程序指令在运行时还用于执行以下步骤:将在不同时刻提取的目标对象的属性信息进行综合,以获得目标对象的综合属性信息。
示例性地,所述程序指令在运行时所用于执行的将在不同时刻提取的目标对象的属性信息进行综合,以获得目标对象的综合属性信息的步骤包括:将在当前时刻提取的目标对象的属性信息与信息库中存储的目标对象的已存储属性信息进行综合,以获得目标对象的综合属性信息;以及利用目标对象的综合属性信息更新信息库中的目标对象的已存储属性信息。
示例性地,在所述程序指令在运行时所用于执行的基于属性提取频率,确定是否提取视频流中的目标对象的属性信息的步骤之前,所述程序指令在运行时还用于执行以下步骤:判断当前视频帧中的目标对象是否在视频流中首次出现;若当前视频帧中的目标对象在视频流中首次出现,则提取目标对象的属性信息;其中,所述程序指令在运行时所用于执行的基于属性提取频率,确定是否提取视频流中的目标对象的属性信息的步骤在当前视频帧中的目标对象在视频流中非首次出现的情况下执行。
示例性地,所述程序指令在运行时所用于执行的根据负载信息确定属性提取频率的步骤包括:根据预设的负载与频率对应关系确定与负载信息对应的属性提取频率。
示例性地,所述程序指令在运行时还用于执行以下步骤:从视频流中提取包含目标对象的图像块;以及将包含目标对象的图像块和目标对象的属性信息输出。
根据本发明实施例的属性检测系统中的各模块可以通过根据本发明实施例的实施属性检测的电子设备的处理器运行在存储器中存储的计算机程序指令来实现,或者可以在根据本发明实施例的计算机程序产品的计算机可读存储介质中存储的计算机指令被计算机运行时实现。
尽管这里已经参考附图描述了示例实施例,应理解上述示例实施例仅仅是示例性的,并且不意图将本发明的范围限制于此。本领域普通技术人员可以在其中进行各种改变和修改,而不偏离本发明的范围和精神。所有这些改变和修改意在被包括在所附权利要求所要求的本发明的范围之内。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本申请所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。例如,以上所描述的设备实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个设备,或一些特征可以忽略,或不执行。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本发明并帮助理解各个发明方面中的一个或多个,在对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该本发明的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如相应的权利要求书所反映的那样,其发明点在于可以用少于某个公开的单个实施例的所有特征的特征来解决相应的技术问题。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
本领域的技术人员可以理解,除了特征之间相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的属性检测装置中的一些模块的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
以上所述,仅为本发明的具体实施方式或对具体实施方式的说明,本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。本发明的保护范围应以权利要求的保护范围为准。
Claims (20)
1.一种属性检测方法,所述属性检测方法由属性检测装置执行,所述方法包括:
获取视频流的当前视频帧;
获取所述属性检测装置当前的负载信息,其中,所述负载信息用于指示所述属性检测装置当前的工作状态,其中,所述负载信息包括所述视频流中按时间窗平滑后的新出现的对象的数目;
根据所述负载信息确定属性提取频率;以及
基于所述属性提取频率,确定是否提取所述视频流中的目标对象的属性信息。
2.如权利要求1所述的方法,其中,所述基于所述属性提取频率,确定是否提取所述视频流中的目标对象的属性信息,包括:
确定当前时刻与前一次提取所述目标对象的属性信息的时刻之间的时间间隔;以及
基于所述属性提取频率和所述时间间隔,确定是否提取所述目标对象的属性信息。
3.如权利要求2所述的方法,其中,所述时间间隔用所述当前视频帧与前一次提取所述目标对象的属性信息的时刻所对应的视频帧之间的实际间隔帧数表示。
4.如权利要求3所述的方法,其中,所述属性提取频率是由属性提取间隔帧数表示的,
所述基于所述属性提取频率和所述时间间隔,确定是否提取所述目标对象的属性信息,包括:
比较所述实际间隔帧数与所述属性提取间隔帧数;
当所述实际间隔帧数大于或等于所述属性提取间隔帧数时,提取所述目标对象的属性信息。
5.如权利要求1至4中任一项所述的方法,所述按时间窗平滑后的新出现的对象的数目越大,所述属性提取频率越小,所述按时间窗平滑后的新出现的对象的数目越小,所述属性提取频率越大。
6.如权利要求5所述的方法,其中,所述方法还包括:
对所述视频流进行对象跟踪,以确定至少一个对象的跟踪轨迹,所述至少一个对象包括所述目标对象;
其中,所述按时间窗平滑后的新出现的对象的数目等于在包括所述当前视频帧在内的n个视频帧中新出现的对象的总数目与n之比,其中,n为大于或等于1的整数。
7.如权利要求6所述的方法,其中,所述对所述视频流进行对象跟踪,以确定至少一个对象的跟踪轨迹包括:
将所述视频流输入跟踪模型,以确定所述至少一个对象的跟踪轨迹以及所述按时间窗平滑后的新出现的对象的数目。
8.如权利要求1至4中任一项所述的方法,其中,所述负载信息包括所述属性检测装置的温度。
9.如权利要求8所述的方法,所述属性提取频率是由属性提取间隔帧数表示的,所述根据所述负载信息确定属性提取频率包括:
当所述温度高于或等于温度阈值时,将所述属性提取间隔帧数设置为大于第一预设间隔;和/或,
当所述温度低于所述温度阈值时,将所述属性提取间隔帧数设置为小于第二预设间隔。
10.如权利要求1所述的方法,其中,在所述基于所述属性提取频率,确定是否提取所述视频流中的目标对象的属性信息之后,所述方法还包括:
如果确定提取所述目标对象的属性信息,则从图像库中存储的包含所述目标对象的已存储图像块中提取所述目标对象的属性信息,其中,所述已存储图像块从所述视频流的视频帧中提取获得。
11.如权利要求10所述的方法,其中,所述方法还包括:
对所述视频流进行对象跟踪,以确定所述目标对象的跟踪轨迹;
依次从所述跟踪轨迹的每个视频帧中提取包含所述目标对象的图像块;以及
每次从任一视频帧中提取包含所述目标对象的图像块时,如果从该视频帧中提取的新图像块的图像质量高于所述图像库中的包含所述目标对象的已存储图像块的图像质量,则利用所述新图像块更新所述已存储图像块。
12.如权利要求1所述的方法,其中,所述属性提取频率是由属性提取间隔帧数表示的,
在所述基于所述属性提取频率,确定是否提取所述视频流中的目标对象的属性信息之后,所述方法还包括:
如果确定提取所述目标对象的属性信息,则将所述目标对象的累计间隔帧数置为零;
如果确定不提取所述目标对象的属性信息,则将所述目标对象的累计间隔帧数加一;
所述基于所述属性提取频率,确定是否提取所述视频流中的目标对象的属性信息包括:
将所述属性提取间隔帧数与所述目标对象的累计间隔帧数相比较,如果所述属性提取间隔帧数大于所述目标对象的累计间隔帧数,则确定不提取所述目标对象的属性信息,否则确定提取所述目标对象的属性信息。
13.如权利要求1至4中任一项所述的方法,其中,所述方法还包括:
将在不同时刻提取的所述目标对象的属性信息进行综合,以获得所述目标对象的综合属性信息。
14.如权利要求13所述的方法,其中,所述将在不同时刻提取的所述目标对象的属性信息进行综合,以获得所述目标对象的综合属性信息包括:
将在当前时刻提取的所述目标对象的属性信息与信息库中存储的所述目标对象的已存储属性信息进行综合,以获得所述目标对象的综合属性信息;以及
利用所述目标对象的综合属性信息更新所述信息库中的所述目标对象的已存储属性信息。
15.如权利要求1至4中任一项所述的方法,其中,在所述基于所述属性提取频率,确定是否提取所述视频流中的目标对象的属性信息之前,所述方法还包括:
判断所述当前视频帧中的所述目标对象是否在所述视频流中首次出现;
若所述当前视频帧中的所述目标对象在所述视频流中首次出现,则提取所述目标对象的属性信息;
其中,所述基于所述属性提取频率,确定是否提取所述视频流中的目标对象的属性信息的步骤在所述当前视频帧中的所述目标对象在所述视频流中非首次出现的情况下执行。
16.如权利要求1至4中任一项所述的方法,其中,所述根据所述负载信息确定属性提取频率包括:
根据预设的负载与频率对应关系确定与所述负载信息对应的所述属性提取频率。
17.如权利要求1至4中任一项所述的方法,其中,所述方法还包括:
从所述视频流中提取包含所述目标对象的图像块;以及
将所述包含所述目标对象的图像块和所述目标对象的属性信息输出。
18.一种属性检测装置,包括:
视频帧获取模块,用于获取视频流的当前视频帧;
信息获取模块,用于获取所述属性检测装置当前的负载信息,其中,所述负载信息用于指示所述属性检测装置当前的工作状态,其中,所述负载信息包括所述视频流中按时间窗平滑后的新出现的对象的数目;
频率确定模块,用于根据所述负载信息确定属性提取频率;以及
提取确定模块,用于基于所述属性提取频率,确定是否提取所述视频流中的目标对象的属性信息。
19.一种属性检测系统,包括处理器和存储器,其中,所述存储器中存储有计算机程序指令,所述计算机程序指令被所述处理器运行时用于执行如权利要求1至17任一项所述的属性检测方法。
20.一种存储介质,在所述存储介质上存储了程序指令,所述程序指令在运行时用于执行如权利要求1至17任一项所述的属性检测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810179481.5A CN108875538B (zh) | 2018-03-05 | 2018-03-05 | 属性检测方法、装置和系统及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810179481.5A CN108875538B (zh) | 2018-03-05 | 2018-03-05 | 属性检测方法、装置和系统及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108875538A CN108875538A (zh) | 2018-11-23 |
CN108875538B true CN108875538B (zh) | 2022-07-08 |
Family
ID=64326043
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810179481.5A Active CN108875538B (zh) | 2018-03-05 | 2018-03-05 | 属性检测方法、装置和系统及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108875538B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111539283B (zh) * | 2020-04-15 | 2023-08-11 | 上海摩象网络科技有限公司 | 人脸跟踪方法及人脸跟踪设备 |
CN111627215A (zh) * | 2020-05-21 | 2020-09-04 | 平安国际智慧城市科技股份有限公司 | 基于人工智能的视频图像识别方法及相关设备 |
CN114679607B (zh) * | 2022-03-22 | 2024-03-05 | 深圳云天励飞技术股份有限公司 | 一种视频帧率控制方法、装置、电子设备及存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103677211A (zh) * | 2013-12-09 | 2014-03-26 | 华为软件技术有限公司 | 实现增强现实应用的装置及方法 |
CN106201712A (zh) * | 2016-06-28 | 2016-12-07 | 广东欧珀移动通信有限公司 | 增强现实中目标识别频率的调整方法、装置及移动终端 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5925068B2 (ja) * | 2012-06-22 | 2016-05-25 | キヤノン株式会社 | 映像処理装置、映像処理方法、およびプログラム |
JP5942861B2 (ja) * | 2013-01-11 | 2016-06-29 | オムロン株式会社 | 画像処理装置、画像処理方法、および画像処理プログラム |
-
2018
- 2018-03-05 CN CN201810179481.5A patent/CN108875538B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103677211A (zh) * | 2013-12-09 | 2014-03-26 | 华为软件技术有限公司 | 实现增强现实应用的装置及方法 |
CN106201712A (zh) * | 2016-06-28 | 2016-12-07 | 广东欧珀移动通信有限公司 | 增强现实中目标识别频率的调整方法、装置及移动终端 |
Also Published As
Publication number | Publication date |
---|---|
CN108875538A (zh) | 2018-11-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105938552B (zh) | 底图自动更新的人脸识别方法及装置 | |
CN108875535B (zh) | 图像检测方法、装置和系统及存储介质 | |
CN106203305B (zh) | 人脸活体检测方法和装置 | |
CN108875723B (zh) | 对象检测方法、装置和系统及存储介质 | |
CN108256404B (zh) | 行人检测方法和装置 | |
CN107844794B (zh) | 图像识别方法和装置 | |
CN108932456B (zh) | 人脸识别方法、装置和系统及存储介质 | |
CN108875493B (zh) | 人脸识别中相似度阈值的确定方法以及确定装置 | |
US8718324B2 (en) | Method, apparatus and computer program product for providing object tracking using template switching and feature adaptation | |
WO2019019255A1 (zh) | 建立预测模型的装置、方法、预测模型建立程序及计算机可读存储介质 | |
CN108875542B (zh) | 一种人脸识别方法、装置、系统及计算机存储介质 | |
CN106845352B (zh) | 行人检测方法和装置 | |
CN108876804B (zh) | 抠像模型训练和图像抠像方法、装置和系统及存储介质 | |
CN110263680B (zh) | 图像处理方法、装置和系统及存储介质 | |
CN108875538B (zh) | 属性检测方法、装置和系统及存储介质 | |
CN108009466B (zh) | 行人检测方法和装置 | |
US9058655B2 (en) | Region of interest based image registration | |
CN111626163B (zh) | 一种人脸活体检测方法、装置及计算机设备 | |
EP2742442A1 (en) | Detecting video copies | |
CN108875519B (zh) | 对象检测方法、装置和系统及存储介质 | |
CN111008935A (zh) | 一种人脸图像增强方法、装置、系统及存储介质 | |
CN103353881A (zh) | 一种应用程序搜索方法及装置 | |
CN104915944A (zh) | 一种用于确定视频的黑边位置信息的方法与设备 | |
CN110505397B (zh) | 相机选择的方法、装置及计算机存储介质 | |
CN109711287B (zh) | 人脸采集方法及相关产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |