CN106878668A - 对物体的移动检测 - Google Patents
对物体的移动检测 Download PDFInfo
- Publication number
- CN106878668A CN106878668A CN201510919394.5A CN201510919394A CN106878668A CN 106878668 A CN106878668 A CN 106878668A CN 201510919394 A CN201510919394 A CN 201510919394A CN 106878668 A CN106878668 A CN 106878668A
- Authority
- CN
- China
- Prior art keywords
- frame
- degree
- correlation
- threshold
- equipment
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/254—Analysis of motion involving subtraction of images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
- G06V40/23—Recognition of whole body movements, e.g. for sport training
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/144—Movement detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30232—Surveillance
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Psychiatry (AREA)
- Social Psychology (AREA)
- Human Computer Interaction (AREA)
- Image Analysis (AREA)
Abstract
在本文所描述的主题的实现中,将当前获得的视频的帧与相应的参考帧相比较以确定出两者之间的相关度。这个相关度用于指示当前帧的变化程度。如果针对当前帧的相关度小于预定阈值,将不会直接确定出当前帧包括物体的移动,而是还要考虑在当前帧之前或之后的一个或多个帧与相应的参考帧之间的相关度。如果所考虑的帧的相关度也小于预定阈值,则可以检测出当前帧包括物体的移动。通过这种方式,降低了在噪声、误差等因素造成视频的帧的较大变化的情况中对物体移动的不正确检测,提高了检测物体移动的准确度。
Description
背景技术
目前,视频监控被越来越广泛应用于诸如智能家居系统、安全监视系统中。在涉及视频监控的系统中,移动检测一项重要任务。移动检测任务通常涉及检测所采集的视频内容中物体(诸如人、动物等)的移动并且基于检测结果向用户发送告警。例如,具有移动检测功能的监控摄像机可以被安装在房屋内并且在住户离开房屋之后被启动。一旦检测到有人尝试闯入房间,该监控摄像机可以检测到视频画面中存在物体的移动,并且然后通过通信网络向住户的手持设备发送告警,使得用户获悉此情况。视频监控系统的性能主要取决于移动检测的准确性。
发明内容
根据本文所描述的主题的实现,提出了一种移动检测方案。将当前获得的视频的帧与相应的参考帧相比较以确定出两者之间的相关度。这个相关度用于指示当前帧的变化程度。如果针对当前帧的相关度小于预定阈值,将不会直接确定出当前帧包括物体的移动,而是还要考虑在当前帧之前或之后的一个或多个帧与相应的参考帧之间的相关度。如果所考虑的帧的相关度也小于预定阈值,则可以检测出当前帧包括物体的移动。通过这种方式,降低了在噪声、误差等因素造成视频的帧的较大变化的情况中对物体移动的不正确检测,提高了检测物体移动的准确度。
提供发明内容部分是为了简化的形式来介绍对概念的选择,它们在下文的具体实施方式中将被进一步描述。发明内容部分无意标识要求保护的主题的关键特征或主要特征,也无意限制要求保护的主题的范围。
附图说明
图1示出了能够实施本文所描述主题的多个实现的设备的方框图;
图2示出了根据本文所描述主题的一个实现的检测物体的移动的方法的流程图;
图3示出了根据本文所描述主题的一个实现的示出当前帧、参考帧和前景图之间的比较的示意图;
图4示出了根据本文所描述主题的另一个实现的检测物体的移动的方法的流程图;以及
图5示出了根据本文所描述主题的一个实现的三种检测结果对应的状态之间的状态转换机制的示意图。
具体实施方式
现在将参照若干示例实现来论述本文所描述的主题。应当理解,论述了这些实现仅是为了使得本领域普通技术人员能够更好地理解且因此实现本文所描述的主题,而不是暗示对本主题的范围的任何限制。
如本文中所使用的,术语“包括”及其变体要被解读为意味着“包括但不限于”的开放式术语。术语“或者”要被解读为“和/或”,除非上下文明确另外指示。术语“基于”要被解读为“至少部分地基于”。术语“一个实现”和“一种实现”要被解读为“至少一个实现”。术语“另一个实现”要被解读为“至少一个其他实现”。术语“第一”、“第二”等等可以指代不同的或相同的对象。下文还可能包括其他明确的和隐含的定义。
图1示出能够实施在此所描述主题的多个实现的设备120的方框图。如图所示,设备120包括输入部件122、至少一个处理器124、至少一个存储器126和输出部件128。诸如总线、控制器或网络之类的互连机制(未示出)使设备120的部件互连。
输入部件122可以包括从外部设备接收输入数据的电路,诸如由一个或多个集成电路形成的射频(RF)接收器、收发器、功率放大器电路、低噪声输入放大器、无源RF组件、一个或多个天线、以及用于处理RF无线信号的其它电路。输入部件122还可以包括键盘、鼠标、操纵杆、点击轮、滚轮、触摸屏、触摸传感器以及用于从用户或其它外部源收集输入的其他装置。
输出部件128可以包括向外部设备传输输出数据的电路,诸如由一个或多个集成电路形成的射频(RF)发射器、收发器、功率放大器电路、低噪声输入放大器、无源RF组件、一个或多个天线、以及用于处理RF无线信号的其它电路。输出部件128还可以包括显示屏、传感器、振动器、诸如麦克风和扬声器之类的音频部件、状态指示灯、音调发生器、以及用于生成用于用户或外部设备的输出的其它装置。
处理器124执行计算机可执行指令并且可以是真实处理器或虚拟处理器。在多处理系统中,多个处理器执行计算机可执行指令以增强处理力。处理器124可以用于根据存储在存储器126中的程序而执行各种适当的动作和处理以控制设备120的操作。处理器124可以包括通用处理器、专用处理器、一个或多个微处理器、微控制器、数字信号处理器、基带处理器集成电路、专用集成电路、图形处理器等。具有一个合适的布置,处理器124可以被用来运行设备120上的软件程序,诸如操作系统功能、用于收集和处理视频数据相关联的功能的软件程序、与实施移动检测相关联的软件程序等。
存储器126可以包括一个或多个不同类型的储存器,诸如硬盘驱动器储存器、非易失存储器(例如,闪速存储器或其它电可编程只读存储器)、易失性存储器(例如,静态或动态随机存取存储器)等。存储器126可以用于存储从输入部件122接收到的用户输入或者文本数据、图像数据、或视频数据,可以用于存储由处理器124执行各种过程等需要的数据等。
设备120可以是任意类型的移动终端、固定终端或便携式终端,包括移动手机、站点、单元、设备、多媒体计算机、多媒体平板、互联网节点、通信器、台式计算机、膝上型计算机、笔记本计算机、上网本计算机、平板计算机、个人通信系统(PCS)设备、个人导航设备、个人数字助理(PDA)、音频/视频播放器、数码相机/摄像机、定位设备、电视接收器、无线电广播接收器、电子书设备、游戏设备、可佩戴电子设备或者其任意组合,包括这些设备的配件和外设或者其任意组合。
以上仅出于解释说明的目的来描述设备120的结构和功能,而不是暗示对本文所描述的主题的范围的任何限制,设备120可以包括比图1所示的组件更多、更少或不同的组件。本文中所描述的主题能够以不同的结构和/或功能来体现。
设备120可以被应用在视频监控系统中。在操作中,设备120的输入部件122可以经由有线连接或无线连接而从被安装在特定场景中的视频捕获设备接收视频流。视频捕获设备可以包括一个或多个用于捕获场景的视频/图像的摄像机。该视频捕获设备可以被集成在设备120中或者可以是设备120的远端设备。接收到的视频数据可以被存储在存储器126或外部存储设备中并且由处理器124处理以检测其中是否包括物体的移动。可以在设备120、例如设备120的存储器126中或者设备120的外部存储设备中维护同一场景中的背景帧,也被称为背景模型。背景帧通常包含场景中的固定物体,例如建筑、街道、树木、墙壁、门窗、家具、电器等。这些物体的位置在场景中不会发生改变。在常规的移动检测方法中,通过将接收到的视频内容中给定的帧与背景帧相比较,以便识别出帧中的变化。基于识别到的变化来检测该帧是否包括物体的移动。如果检测到物体的移动,设备120的处理器124可以控制输出部件128向用户输出告警或者将检测结果传输给用户的其他设备用于告警。
视频监控系统、例如如图1所示的系统的性能主要取决于移动检测的准确性。准确地检测出视频内容中的物体的移动是之后的各种处理任务的基础,这些任务的示例可以包括但不限于用户告警、人体检测/追踪、动作识别和事件检测等等。移动检测的不准确性会严重降低后续任务的准确性和有效性。例如,错误的移动检测结果会触发过多的伪警报被呈现给用户,从而严重影响用户体验。
在一些情况中,视频捕获设备在捕获视频时引入的噪声(包括像素级噪声和帧级噪声)和视频处理过程中产生的采样误差、帧误差等等会使得一些帧中的内容与背景帧之间的差异较大并且进而给出场景中存在移动的物体这样的检测结果,即使这些帧中实际并不存在物体的移动。大多数视频监控系统会针对每个帧标识物体的移动。一旦判断出该帧包括物体的移动,就向用户发送告警。这样的移动检测过程对于视频中的噪声或误差过于敏感,无法提供合意的检测结果。
在另外一些情况中,错误的移动检测结果可能归因于对帧中的物体移动的错误识别。通常在视频监控时期望检测由诸如人类、机器、车辆或动物之类的不透明物体的移动。然而,除了移动物体导致采集的帧的变化之外,环境照明条件的改变也会导致帧的变化,例如帧中的像素值的变化。照明条件的改变可以包括场景的全局照明度改变或者局部照明度改变,这可能发生在例如场景中灯光的开关、灯光亮度的调整、太阳光的改变、场景外的物体投射的阴影、场景外的诸如车灯之外的照明物体照射进来的光线等等的情况中。大多数基于变化的像素值的数目而执行移动检测的方案会在帧中仅包括照明度的改变的情况下给出错误的检测结果。
检测视频中移动的物体是一个受到广泛关注的技术问题。为了提高移动检测的准确性,期望提供对于视频的噪声和误差、和/或对于环境照明度变化具有更高鲁棒性的方案。根据本文中所描述的主题的各种实施例,实现了对移动的物体更加准确的检测。
图2示出了根据本文所描述主题的一个实现的检测物体的移动的方法200的流程图。方法200可以由如图1所示的设备120来实现。具体地,可以由设备120中的处理器124结合存储器126来实现该方法。
在步骤210中,设备120确定视频的第一帧与第一参考帧之间的第一相关度(被表示为“C1”)。该视频可以从视频捕获设备接收到。在某些实现中,视频捕获设备可以实时地向设备120传输在视频捕获设备安装于其中的环境中采集到的视频,例如借助于流式传输技术。备选地,也可以定期向设备120提供采集到的视频信号,或者将一段视频一次性存储到设备120中。设备120可以针对接收到的视频的每个帧确定对应的相关度。
第一相关度C1用于指示第一帧的变化程度。第一参考帧用作体现第一帧中的变化的参考。在某些实现中,第一参考帧可以是该视频的预定背景帧。如以上提及的,背景帧包括场景中的不移动物体。计算设备120可以基于第一帧与背景帧之间的差异来确定第一相关度C1,从而第一相关度C1能够指示第一帧中的内容与静止的背景帧之间的差异。
备选地或附加地,第一参考帧还可以是与第一帧相邻的帧。在本文中使用的术语“相邻”可以指的是直接相邻、或者两个帧的中间存在其他的帧。因此,在某些实现中,第一参考帧可以是紧挨着第一帧的之前或之后的一个或多个帧。例如,在计算设备120实时接收视频流用于处理的实现中,第一参考帧可以是第一帧之前的一个或多个帧。在计算设备120对预先存储的视频进行处理的情况中,可以将第一参考帧选择为第一帧之后的一个或多个帧。当然,在这种情况中,也可以将第一帧之前的一个或多个帧用作参考帧。计算设备120可以基于第一帧与相邻的帧之间的差异来确定第一相关度C1,从而第一相关度C1能够指示第一帧中的内容在较短时间内的变化。
在某些实现中,将背景帧和相邻帧均用作第一参考帧,可以更好地指示出当前的第一帧相对于静止的背景的变化以及在一段时间内的变化。在利用多个第一参考帧、例如一个或多个背景帧和一个或多个相邻帧的情况中,计算设备120还可以针对每个第一参考帧确定对应的第一相关度C1。关于相关度的确定将在以下详细描述。
设备120可以在例如存储器126或者外部存储设备中维护背景帧。背景帧可以被预先配置并且通常包括视频捕获设备所处的场景中不移动物体。在某些实现中,可以将在视频捕获设备初始运行时捕获的画面用作背景帧。背景帧可以通过这样的方式来获得:首先捕获多个帧,而后从这些帧中移除那些移动的物体所处的区域,最后整合剩余的背景。备选地或附加地,可以由用户控制对背景帧的捕获。背景帧的数目可以是一个或者多个。
在某些实现中,还可以由设备120更新一个或多个背景帧。可以使用目前已知的或者未来开发的背景帧(背景模型)更新方法。例如,可以使用ViBe(Visual Background Extractor,视觉背景提取)方法来创建和更新背景帧。具体地,可以将新近接收到的帧中的一个或多个像素用于随机更新多个背景帧中的对应像素。在另一个示例中,可以用新近接收到的帧替换多个背景帧中被采集的时间最长的背景帧、也即“最老”的背景帧。在某些实现中,可以在确定接收到的帧中不存在物体的移动之后,将该帧用于背景帧的更新。在某些实现中,背景帧的更新频率较高。在这种情况下,可以在确定第一相关度C1时仅考虑背景帧而不必考虑第一帧相邻的帧,因为背景帧与第一帧已经足够接近。
第一帧与每个第一参考帧之间的第一相关度C1可以用作检测该帧中是否存在物体的移动的基础。如果第一相关度C1较高(例如,超过第一阈值Th1),那么意味着第一帧的变化较小,并且该帧中存在物体的移动的可能性较小。相反,如果第一相关度C1较低(例如,低于第一阈值Th1),那么第一帧相对于第一参考帧(例如,背景帧或者相邻帧)具有较大改变,从而该帧存在物体的移动的可能性较大。然而,由于第一帧中可能存在一些噪声和误差,仅基于第一相关度C1来判断移动物体的存在可能导致检测错误,进而导致基于检测结果的后续处理的错误。例如,可能导致错误告警被频繁地发送给用户,造成用户的困扰。
根据本文所描述主题的实现,在检测第一帧是否包括物体的移动时,还考虑第一帧附近(在第一帧之前或之后)的一些帧的相关度。如果第一帧附近的一些帧与它们相应的参考帧之间的相关度也低于例如第一阈值Th1,那么可以确定第一帧包括物体的移动。换而言之,在多个帧或者某段时间中持续检测到较低的相关度的情况下,才确定采集到的视频中存在物体的移动,而不是像传统方案中那样直接将第一帧确定为存在移动物体的帧。如果之前采集到的帧的变化较小,那么可以确定第一帧中不存在物体的移动。通过这种方式,降低了在噪声、误差等因素造成视频的帧变化较大的情况中对物体移动的不正确检测,从而提高了移动检测的准确度。
具体地,在方法200的步骤220中,设备120确定第一相关度C1是否低于第一阈值Th1。在设备120参考多个第一参考帧的情况中,可以确定第一帧与较多的第一参考帧(例如,比预定阈值数目更多的参考帧、或者全部参考帧)之间的第一相关度C1低于第一阈值Th1。第一阈值Th1可以基于以下一项或多项来设置:帧的分辨率、相关度的度量单位,等等。在某些实现中,第一阈值Th1可以随着第一参考帧的更新而被重新配置。
如果在步骤220中确定出第一相关度C1超过第一阈值Th1,那么方法200行进至步骤260,设备120检测出第一帧中不包括物体的移动。在存在多个第一参考帧的情况中,如果在步骤220中确定第一帧与较小数目(例如,低于某个阈值)的第一参考帧之间的第一相关度C1高于第一阈值Th1,则方法200行进至步骤260。
如果确定出第一相关度C1低于第一阈值Th1,设备120在步骤230中获取第一帧之前的至少一个第二帧与相应的第二参考帧之间的第二相关度(被表示为C2)。第二帧可以是第一帧之前或之后的多个连续帧,也可以是非连续的帧。例如,可以使用第一帧之前的连续20个第二帧的相关度作为对第一帧的移动检测的基础。还可以参考第一帧之前的50个帧中不连续的20个帧。备选地或附加地,还可以将第一帧之后的若干帧确定为第二帧,以便用于指示第一帧中的变化是持续的或者是偶然发生的。在某些实现中,可以在存储器126或外部存储设备中缓存针对已经确定的多个帧的相关度,以供使用。被用作对第一帧的移动检测的参考的第二帧的数目可以被预先配置。备选地,可以配置预定的时间段,并且将在该时间段中采集到的帧用作移动检测的参考。
第二帧的第二参考帧可以与第一参考帧相同,例如可以是视频的背景帧。类似地,第二参考帧可以备选地或附加地被选择为与第二帧相邻的一个或多个帧。基于背景帧和相邻帧计算得到的第二相关度可以指示出第二帧相对于静止的背景和/或邻近的帧的变化程度。
在步骤240中,设备120确定第二相关度C2是否低于第一阈值Th1。与第一帧类似,如果针对每个第二帧,保存有多个第二相关度C2(即该第二帧与多个第二参考帧之间的相关度),则确定这些第二相关度C2中的一个或多个是否低于第一阈值Th1。可以将每个第二帧对应的第二相关度C2与第一阈值Th1作比较。如果确定出所参考的第二帧的相关度C2全部或者大部分均低于第一阈值Th1,这意味着相关度较低的情况在视频中持续了一段时间,减少了由于噪声或者误差导致的某个或某几个帧的突然变化的可能性。接下来,设备120在步骤250中确定检测出当前考虑的第一帧包括物体的移动。
在某些实现中,响应于检测出第一帧包括物体的移动,设备120可以为用户生成告警,使得用户获知视频捕获设备监视的场景中存在物体的移动。例如,设备120的输出设备128可以向用户提供文本、视频、音频、提示灯等形式的告警。备选地或附加地,设备120还可以将检测到物体的移动这样的检测结果传输给其他设备,以便经由其他设备向用户告警。例如,在设备120是固定的或者未由用户携带的情况中,设备120可以向用户预先设置的其他设备发送告警信号。在另外一些实现中,对于移动物体的检测还可以用于提供给其他处理装置,用于对包括第一帧的视频进行另外的处理。这些另外的处理的示例可以包括但不限于用户告警、人体检测/追踪、动作识别和事件检测等等。
在某些实现中,如果在步骤240中确定出第二相关度C2超过第一阈值Th1,例如与所参考的第二帧中的一个或多个帧相关联的第二相关度C2超过Th1,那么在步骤260中,设备120检测出第一帧中不包括物体的移动。在这种情况中,由于第一帧之前没有足够数目的帧的相关度低于第一阈值Th1,即使第一帧的相关度C1已经低于第一阈值Th1,也暂时无法确定第一帧中存在物体的移动。
在某些实现中,如果在步骤220中确定出第一帧的第一相关度C1低于第一阈值Th1,设备120可以将第一帧的相关度C1缓存到存储器126或者外部存储设备中,以供用作后续的帧的移动检测的参考。在某些实现中,为了节省存储空间,可以将存储器126或者外部存储设备中缓存时间最长的帧的相关度删除。也就是说,可以存储预定数目的帧的相关度,并且采用先入先出的方式更新所存储的相关度。
以上讨论了在确定视频的帧中存在物体的移动时的一些实现。图2所示的方法200可以开始于设备120在接收到第一帧之前的一个或多个帧中未检测到物体的移动的情况。通过将第一帧之前的一些第二帧考虑在内,来抑制由于噪声或干扰而导致的对物体的移动的错误判断,使得不必由于频繁地检测出物体的移动而引起过度告警。在某些实现中,如果已经检测到第一帧包括物体的移动,那么对于第一帧之后的帧,期望用更严格的条件来约束将移动检测的结果改变回到没有移动的检测结果。这样也是为了减少由于噪声和误差在视频的帧中的存在而可能导致的错误检测。更严格的条件可以避免在存在物体移动的结果与不存在物体移动的结果之间频繁变化,有效地缓解大量的告警对用户造成干扰的情况。
在某些实现中,设备120可以确定第一帧之后的第三帧与相应的参考帧之间的第三相关度(被表示为“C3”)。第三帧可以是设备120在第一帧之后紧接着接收到的帧,也可以是间隔一段时间之后接收到的帧。例如,如果设备120被配置为在检测到物体的移动之后间隔一段时间再对输入的视频流执行移动检测的话,第三帧则可以是重新开始执行检测时接收到的帧。与第一、第二帧的参考帧类似,第三帧的第三参考帧也可以包括视频的一个或多个背景帧,或者是与第三帧相邻的一个或多个帧。
如果第一帧由设备120检测出包括物体的移动,在确定之后的第三帧是否存在物体的移动时,设备120将采用更大的阈值(例如,大于第一阈值Th1的第二阈值Th2)来与第三相关度C3进行比较。较大的第二阈值Th2可以使得第三帧相对第一帧更容易被确定为包括物体的移动,而更难以被确定为不包括物体的移动。在这种情况下,如果第三相关度C3低于第二阈值Th2,设备120继续确定第三帧中依然存在物体的移动。因此,告警信号可以继续被提供给用户。在第三相关度C3超过第二阈值Th2的情况下,设备120可以确定第三帧中不再存在物体的移动,并且因此可以停止对用户进行告警。要认识到,在其他实现中,对于被检测出包括物体移动的第一帧之后的帧,设备120可以采用同样的相关度阈值(即,第一阈值Th1)对这些帧执行移动检测。
现在来讨论视频的帧的相关度的确定。所描述的相关度确定过程可以用于确定以上提及的第一帧、第二帧和第三帧中的每个帧与相应的参考帧之间的相关度。该相关度可以用于度量给定的帧与参考帧之间的差异程度。在此,参考帧可以包括预定的一个或多个背景帧,也可以包括与该帧相邻的一个或多个帧。
在某些实现中,设备120可以通过将给定的帧与背景帧相比较,从该帧的像素中标识出多个前景像素。这个过程可以被称为背景减除(background subtraction)。一般而言,在背景减除中仅使用背景帧而不是当前帧的相邻帧来进行比较,以确定出该帧与场景中的固定物体相比的变化。所标识的前景像素不同于背景帧中的对应像素(即,处于图像的二维空间中的相同位置的像素)。在一个示例中,设备120可以比较要处理的帧中的每个像素与背景帧中的对应像素的像素值。如果像素值之间的差异大于预定阈值,则将该帧中的像素标识为前景像素。
在某些实现中,可以将帧的尺寸缩放到与背景帧相同的尺寸,然后逐一比较两个帧中的像素。例如,为了节省存储空间和提高处理效率,背景帧可以被压缩成具有较小的尺寸。取决于视频捕获设备的分辨率,采集到的帧的尺寸也可以被压缩或放大,以便与背景帧匹配。应当认识到,当前已知的或者将来开发的任何其他背景减除方法可以被用于标识前景像素。所标识的多个前景像素组成的图像可以被称为前景图。在某些实现中,基于对前景像素的标识结果,可以创建一个二值布尔(Boolean)图像作为前景图,其具有与对应的帧相同的尺寸。在该图像中,用二值中的一个值(例如,“1”)标识前景像素,并且用另一值(例如,“0”)标识其他像素(也可以成为背景像素)。设备120可以基于这个布尔图像来寻址帧中的前景像素。
如以上讨论的,视频捕获设备监视的场景中的环境照明度的改变也会导致所捕获的帧与参考帧不同。为了区别视频的帧中的照明度的改变与物体移动的改变而导致的帧变化,在某些实现中,设备120可以基于前景像素的强度值来确定该帧与参考帧之间的相关度。具体地,设备120可以确定帧的前景像素的强度值与参考帧中的对应像素的强度值之间的强度差异,并且然后基于强度差异来确定相关度。在某些实现中,可以将当前帧与参考帧的尺寸缩放到相同的尺寸,以利于强度值的比较。设备120可以将当前帧和参考帧变换到灰度空间,以便确定它们中的像素的强度值。在一个示例中,强度差异可以被确定为相应的前景像素强度值与参考帧中对应的像素强度值之间的差值。在另一个示例中,强度差异可以是两个像素强度值之间的商。备选地或附加地,还可以采用其他方式来表示像素强度值之间的差异。
可以使用多种方式来确定出一个相关度的值用于度量当前帧的前景像素与参考帧中的对应像素之间的差异程度。在一个示例中,可以计算强度差异的值的均值和方差,并且基于计算得到的均值和方差以及前景像素的数目来确定相关度。这可以被表示如下:
其中C表示相关度,N表示前景像素的数目,Q={qi|i∈[1,N]}表示N个前景像素的强度差异序列,其包括与每个前景像素对应的强度差异的值qi,Mean(Q)表示强度差异序列Q的均值,并且Var(Q)表示强度差异序列Q的方差。均值Mean(Q)和方差Var(Q)可以基于它们的标准定义来计算如下:
通过基于前景像素的强度来确定给定帧与相应的参考帧之间的相关度,在前景像素的强度差异与参考帧的对应像素的强度差异较大、例如方差Var(Q)较大时,可以确定出较小的相关度,并且该帧被检测为包括物体的移动的可能性较大。如果强度差异较小,意味着该帧的前景像素的强度值不会存在较大变化,因而对应的相关度较大并且该帧也较不可能被检测为包括物体的移动。
通常,如果帧中存在物体的移动,物体、诸如人或动物可以呈现出与背景帧中包括的不移动物体(诸如墙壁、街道)不同的外观。人或动物的图像的纹理较多。对于视频的帧中的给定位置的像素,其纹理将随着物体的移动而改变,但是这种改变通常不会影响该像素的强度。因此,基于像素强度值确定出的方差较大,并且因此得到的相关度较小,使得更容易检测出该帧中存在物体的移动。如果该帧中不存在实际的物体的移动而是发生了照明度的改变(例如,由于光线或者阴影),那么该帧中受影响的区域的强度值会一致地变高或者变低,产生较低的强度差异变化和较高的相关度。在这种情况下,该帧可以被正确地确定为不包括物体的移动。通过这种方式,减少了由于无法区分照明度的改变和物体的移动而导致的错误移动检测结果。
图3示出了根据本文所描述主题的一个实现的示出当前帧、参考帧和前景图之间的比较的示意图。在当前帧为310所指示的图像的情况中,参考帧312是在当前帧310之前采集到的帧。相对于参考帧312而言,帧310中存在人的移动,但是该场景中的照明条件保持不变。设备120将帧310与在该场景中预定的背景帧(未示出)相比较,提取出前景图314。前景图314中的前景像素集中在由316所标记的区域中。基于前景图314中所标识的前景像素的强度值,设备120确定帧310对应的相关度,并且检测到该相关度低于例如第一阈值Th1。如果设备120还确定出帧310之前的预定数目的第二帧的第二相关度C2低于第一阈值Th1,则可以正确地检测出帧310包括物体的移动。
对于当前帧为320所指示的图像的情况,参考帧322是在当前场景中设置的背景帧。相对于参考帧322而言,帧320仅包括(例如,由于灯光亮度增强而导致的)照明度的改变。设备120可以类似地处理帧320并且确定出帧320相对于背景帧(也即帧322)而标识出的前景图324。设备120然后基于前景图324来确定出帧320与参考帧322之间的相关度。由于帧320中大多数前景像素的强度值由于照明度的增强而一致地变大,这些强度值之间的差异较小,使得设备120确定出的相关度较大(例如,大于第一阈值Th1)。因此,设备120正确地检测出帧320不包括物体的移动,而不会由于场景的照明度的改变而给出错误的判断。
对于当前帧为330所指示的图像的情况,参考帧332是在当前帧330之前采集到的帧。与图像320对应的场景类似,帧330中也仅存在由于窗外经过的车辆的车灯而导致的照明度改变,而不包括物体的移动。设备120可以类似地确定出帧330相对于在该场景中预定背景帧(未示出)而标识出的前景图334,并且基于前景图334中的前景像素的强度值,设备120也可以检测出帧330不包括物体的移动。
备选地或附加地,在某些实现中,设备120还可以基于前景像素的颜色属性来确定给定的帧与参考帧之间的相关度。在这种情况下,可以在彩色空间中处理给定的帧和参考帧,以确定前景像素的颜色属性。彩色空间的示例可以包括HSI(色度、饱和度和强度)空间、RGB(红、绿和蓝)空间、等等。像素的颜色属性可以由色度值以及饱和度值中的一个或者两个来确定表示。在某些实现中,设备120可以确定该帧的前景像素的色度值与参考帧中对应的像素的色度值之间的色度差异。对于饱和度值,也可以类似地确定饱和度差异。然后,设备120可以结合强度差异和/或色度差异一起来确定相关度。例如,设备120可以利用以上描述的基于强度值的相关度计算的类似方式来确定与色度差异和/或饱和度差异有关的相关度。然后,基于计算得到的多个相关度的加权和来确定对应的帧的相关度。
在某些实现中,视频的帧的改变可能无法体现在颜色(例如,色度值或饱和度值)的变化上。例如,如果场景中的环境照明度较低或者视频捕获设备在红外模式中工作时,即使场景中出现物体的移动,也无法由颜色来有效地指示。因此,在确定用于计算相关度的因素之前,可以首先确定环境的照明度,如果照明度较低,则可以忽略前景像素的色度和饱和度,而仅考虑强度值。在另外一些实现中,为了降低计算复杂度和提高处理效率,在确定相关度时,也可以忽略前景像素的色度和/或饱和度。
以上给出了基于视频的帧与参考帧之间的相关度来确定该帧是否存在物体的移动。取决于参考帧的选择,该相关度可以指示视频的帧与背景帧之间的差异程度、或者该帧与其相邻帧之间的差异程度。在某些实现中,还可以根据前景像素的数目来确定视频的帧是否包括物体的移动。由于前景像素是基于该帧与背景帧的比较得到的,因此前景像素的数目也可以指示出该帧与背景帧之间的差异程度。
图4示出了根据这种实现的检测物体的移动的方法400的流程图。方法400可以由如图1所示的设备120来实现。具体地,可以由设备120中的处理器124结合存储器126来实现该方法。在方法400中,设备120将要确定从例如视频捕获设备接收到的帧中是否包括物体的移动。方法400与方法200类似,区别在于在方法400中帧中的前景像素的数目被用作判断的依据。为了简洁,在以下描述中将重点描述方法400与方法200的区别。
在步骤410中,设备120确定第一帧中的前景像素的第一数目(被表示为“N1”)。前景像素的标识在以上已经讨论。设备120可以统计所标识的前景像素的数目。对于存在多个背景帧的情况,可以确定第一帧相对于每个背景帧的前景图中的前景像素的第一数目N1。
在步骤420中,设备120确定第一数目N1是否超过第三阈值Th3。如以上提及的,第一帧中的前景像素不同于背景帧中对应的像素。在某些实现中,前景像素的数目越多,第一帧与背景帧之间的差异越大。反之,前景像素的数目越少,第一帧与背景帧相似度越高。如果使用了多个背景帧并且计算出多个第一数目N1,设备120可以确定是否大部分(例如,超过某个阈值的)第一数目N1均大于第三阈值Th3。第三阈值Th3的设置可以与所参考的背景帧和第一帧的分辨率有关。在某些实现中,第三阈值Th3可以随着背景帧的更新而被重新配置。
如果设备120在步骤420中确定出第一数目N1低于第三阈值Th3,那么在步骤460中检测出第一帧中不包括物体的移动。在设备120维护有多个背景帧并且获取到多个第一数目N1的情况中,如果在步骤420中确定较少数目(例如,低于某个阈值)的第一数目低于第三阈值Th3,则方法400行进至步骤460。
如果在步骤420中确定出第一数目N1超过第三阈值Th3,为了避免第一帧中的噪声和误差的影响,设备120进一步参考第一帧之前的一个或多个第二帧中的前景像素的数目(被表示为“N2”)。如图4所示,设备120在步骤430中获取第二帧中的前景像素的第二数目。在某些实现中,可以在存储器126或外部存储设备中缓存一个或多个帧中的前景像素的数目。在对第一帧进行移动检测时要考虑的第二帧的数目可以被预先配置。备选地,可以配置预定的时间段,并且将在该时间段中采集到的帧的前景像素数目用作参考。
接下来,在步骤440中,设备120确定第二数目N2是否超过第三阈值Th3。与第一帧类似,如果针对每个第二帧,保存有多个第二数目N2(即该第二帧相对于多个背景帧的前景像素的数目),则确定这些第二数目N2的一个或多个是否低于第一阈值Th1。如果确定出所参考的第二帧的前景像素的数目N2的全部或者大部分均高于第三阈值Th3,这意味着前景像素的数目较高的情况在视频中持续了一段时间,视频的多个帧中均发生较大变化。因此,可以排除由于噪声或者误差导致视频的某个或某几个帧的突然变化的可能性。接下来,设备120在步骤450中确定检测出当前考虑的第一帧包括物体的移动。进一步地,响应于这个检测结果,设备120可以向用户提供告警。
在某些实现中,如果在步骤440中确定出第二数目N2低于第三阈值Th3,例如所考虑的第二帧中的大部分帧的前景像素数目较低,那么方法400进行至步骤460,设备120确定第一帧中不包括物体的移动。
在某些实现中,如果在步骤420中确定出第一帧中的前景像素的第一数目N1高于第三阈值Th3,与缓存第一帧的相关度的方式类似,设备120也可以将该前景像素的数目缓存到存储器126或可连接的外部存储设备,以供用作视频的后续帧的移动检测的参考。
在以上关于图4讨论的基于前景像素的数目确定物体的移动的实现中,方法400可以开始于设备120在接收到第一帧之前的一个或多个帧中未检测到物体的移动的情况。如果已经检测到设备120已经在第一帧中检测到物体移动,那么对于第一帧之后的帧,期望用更严格的条件来约束将移动检测的结果改变回没有移动的检测结果,从而抑制由于噪声和误差而引起的过度告警。
在某些实现中,设备120可以确定第一帧之后的第三帧中的前景像素的第三数目(被表示为“N3”)。在确定第三帧中是否存在物体的移动时,设备120可以采用更小的阈值(例如,小于第三阈值Th3的第四阈值Th4)来与第三数目N3进行比较。较小的第四阈值Th4使得第三帧相对于第一帧更容易被确定为包括物体的移动,而更难以被确定为不包括物体的移动。如果第三数目N3超过第四阈值Th4,设备120可以继续确定第三帧中存在物体的移动并且继续向用户提供告警。当第三数目N3低于第四阈值Th4时,设备120可以确定第三帧中不再存在物体的移动,并且因此可以停止对用户进行告警。要认识到,在其他实现中,对于被检测出包括物体的移动的第一帧之后的帧,设备120可以采用同样的前景像素的数目阈值(即,第三阈值Th3)对这些帧执行移动检测。
在某些实现中,方法400和方法200可以独立地用于检测给定的帧。在其他实现中,方法400中提出的基于前景像素的数目执行的移动检测可以与方法200中提出的基于相关度执行的移动检测结合来确定给定的帧是否包括物体的移动。在方法400与方法200结合用于执行移动检测的实现中,如果设备120确定出第一帧的第一相关度C1小于第一阈值Th1并且前景像素的第一数目N1大于第三阈值Th3,而且要参考的之前的第二帧的相关度和前景像素的数目也满足相应的条件,则可以检测出第一帧包括物体的移动。否则,可以确定第一帧不包括物体的移动。在不考虑物体的移动的情况中,第一帧中可能仅在照明度方面相对于参考帧存在改变,或者即不存在物体的移动也不存在照明度的改变。
从以上参考图2的方法200和/或图4的方法400而描述的物体移动检测可以看出,对于给定的帧,设备120可以确定出三种检测结果:(1)帧不包括物体的移动(对应于不移动状态);(2)帧包括物体的移动(对应于感兴趣的移动状态);(3)将帧用作候选帧(对应于候选移动状态),其中暂时无法确定视频的帧是否包括物体的移动,要缓存该帧的相关度和/或前景像素数目。如先前提及的,这样的候选移动状态可以有助于降低由于视频的噪声和误差而导致错误检测。在对视频进行检测时,设备120可以在这三个状态之中进行转换,给出各个帧的检测结果。
图5示意性示出了三种检测结果对应的状态之间的状态转换机制。在图5的示例中,基于视频捕获设备捕获的给定帧的相关度(被表示为C)和前景像素的数目(被表示为N)两者来示出状态的转换。在其他示例中,可以仅基于相关度C或仅基于前景像素的数目N来确定转台的转换。
如所示出的,在开始针对视频执行移动检测时、或者已经检测出之前的帧不包括物体的移动时,该视频的检测结果处于不移动状态510。如果随后接收到的帧的相关度C大于等于第一阈值Th1或者前景像素的数目N小于第三阈值Th3,那么设备120确定该视频依然处于不移动状态510。如果相关度C小于第一阈值Th1并且前景像素的数目N大于等于第三阈值Th3,那么设备120确定该视频转换到候选移动状态520。设备120将在该状态520中停留一段时间T,这个停留时间可以是预定的时间段或者是预定的帧数目对应的时间长度。
如果在接下来的时间段T内接收到的帧的相关度C依然小于第一阈值Th1并且前景像素的数目N依然大于第三阈值Th3,那么设备120转换到感兴趣的移动状态530,并且确定此时接收到的帧中存在物体的移动。也就是说,设备120还可以维护在候选移动状态中停留的时间T对应的阈值(被表示为阈值Th0)。时间T可以从检测到C小于Th1并且N大于Th3的第一个帧起开始计时。时间T还可以响应于接收到的一个或多个帧的相关度C小于Th1并且前景像素的数目N大于Th3而不断累积。如果时间T大于阈值Th0,那么可以从候选移动状态520转换到感兴趣的移动状态530。如果在时间T的累计过程中,所检测的帧的相关度C大于阈值Th1或者前景像素的数目N小于Th3,那么可以从候选移动状态520转换到不移动状态510。
当设备120确定视频处于感兴趣的移动状态530时,设备120可以采用严格的条件来约束从状态530转换到状态510。具体地,设备120使用比第一阈值Th1更大的第二阈值Th2来判断随后的帧的相关度C是否满足条件,并且使用比第三阈值Th3更小的第四阈值Th4来判断随后的帧的前景像素数目是否满足条件。如果相关度C小于第二阈值Th2并且前景像素的数目N大于第四阈值Th4,那么依然维持在状态530。如果相关度C大于第二阈值Th2或者前景像素的数目N小于第四阈值Th4,那么设备120确定从状态530转换至状态510。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)等等。
用于实施本文所描述的主题的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开内容的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
此外,虽然采用特定次序描绘了各操作,但是这应当理解为要求这样操作以所示出的特定次序或以顺序次序执行,或者要求所有图示的操作应被执行以取得期望的结果。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现谢姐,但是这些不应当被解释为对本文所描述的主题的范围的限制。在单独的实现的上下文中描述的某些特征还可以组合地实现在单个实现中。相反地,在单个实现的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实现中。
下面列出在此所描述主题的一些示例实现。
一方面,在此所描述主题公开一种方法。该方法包括确定视频的第一帧与第一参考帧之间的第一相关度。该方法还包括响应于第一相关度低于第一阈值,确定第一帧之前的至少一个第二帧与第二参考帧之间的第二相关度低于第一阈值;以及至少部分地基于确定出第二相关度低于第一阈值,检测出第一帧包括物体的移动。
在某些实现中,该方法进一步包括响应于确定第一帧之后的第三帧与第三参考帧之间第三相关度低于第二阈值,检测出第三帧包括物体的移动,第二阈值大于第一阈值。
在某些实现中,该方法进一步包括响应于检测出第一帧包括物体的移动,为用户生成告警。
在某些实现中,确定第一相关度包括:通过将第一帧与视频的背景帧相比较,来从第一帧的像素中标识出多个前景像素,前景像素不同于背景帧中的对应像素;以及基于所标识的前景像素的亮度值来确定第一相关度。
在某些实现中,基于所标识的前景像素的亮度值来确定第一相关度包括:确定第一帧中的前景像素的强度值与第一参考帧中的对应像素的强度值之间的强度差异;以及基于强度差异来确定第一相关度。
在某些实现中,确定第一相关度包括:获取前景像素的颜色属性,颜色属性包括以下各项中的至少一项:色度值和饱和度值;以及进一步基于前景像素的强度值和前景像素的颜色属性,确定第一相关度。
在某些实现中,该方法进一步包括:响应于第一帧中的前景像素的第一数目超过第三阈值,确定至少一个第二帧中的前景像素的第二数目超过第三阈值。在这些实现中,该方法中的检测包括响应于确定第二相关度低于第一阈值并且第二数目超过第三阈值,检测出第一帧包括物体的移动。
在某些实现中,该方法进一步包括响应于确定在第一帧之后的第四帧中的前景像素的第三数目超过第四阈值,检测出第四帧包括物体的移动,第四阈值小于第三阈值。
另一方面,提供了一种设备。该设备包括至少一个处理器;以及至少一个存储器。至少一个存储器包括计算机程序代码,至少一个存储器和计算机程序代码被配置为与至少一个处理器一起使得设备:确定视频的第一帧与第一参考帧之间的第一相关度;响应于第一相关度低于第一阈值,确定第一帧之前的至少一个第二帧与第二参考帧之间的第二相关度低于第一阈值;以及至少部分地基于确定出第二相关度低于第一阈值,检测出第一帧包括物体的移动。
在某些实现中,至少一个存储器和计算机程序代码进一步被配置为与至少一个处理器一起使得设备:响应于确定第一帧之后的第三帧与第三参考帧之间第三相关度低于第二阈值,检测出第三帧包括物体的移动,第二阈值大于第一阈值。
在某些实现中,至少一个存储器和计算机程序代码进一步被配置为与至少一个处理器一起使得设备响应于检测出第一帧包括物体的移动,为用户生成告警。
在某些实现中,至少一个存储器和计算机程序代码进一步被配置为与至少一个处理器一起使得设备:通过将第一帧与视频的背景帧相比较,来从第一帧的像素中标识出多个前景像素,前景像素不同于背景帧中的对应像素;以及基于所标识的前景像素的亮度值来确定第一相关度。
在某些实现中,至少一个存储器和计算机程序代码进一步被配置为与至少一个处理器一起使得设备:确定第一帧中的前景像素的强度值与第一参考帧中的对应像素的强度值之间的强度差异;以及基于强度差异来确定第一相关度。
在某些实现中,至少一个存储器和计算机程序代码进一步被配置为与至少一个处理器一起使得设备:获取前景像素的颜色属性,颜色属性包括以下各项中的至少一项:色度值和饱和度值;以及进一步基于前景像素的强度值和前景像素的颜色属性,确定第一相关度。
在某些实现中,至少一个存储器和计算机程序代码进一步被配置为与至少一个处理器一起使得设备:响应于第一帧中的前景像素的第一数目超过第三阈值,确定至少一个第二帧中的前景像素的第二数目超过第三阈值。在这些实现中,该方法中的检测包括响应于确定第二相关度低于第一阈值并且第二数目超过第三阈值,检测出第一帧包括物体的移动。
在某些实现中,至少一个存储器和计算机程序代码进一步被配置为与至少一个处理器一起使得设备:响应于确定在第一帧之后的第四帧中的前景像素的第三数目超过第四阈值,检测出第四帧包括物体的移动,第四阈值小于第三阈值。
在某些实现中,该设备进一步包括:接收器,被配置为从远端的视频捕获设备接收视频。
在又一方面,提供了一种计算机程序产品,计算机程序产品包括被有形地体现在机器可读介质上的计算机程序,计算机程序包含用于执行包括如下步骤的过程的程序代码:确定视频的第一帧与第一参考帧之间的第一相关度;响应于第一相关度低于第一阈值,确定第一帧之前的至少一个第二帧与第二参考帧之间的第二相关度低于第一阈值;以及至少部分地基于确定出第二相关度低于第一阈值,检测出第一帧包括物体的移动。
在某些实现中,计算机程序包含用于执行包括如下步骤的过程的程序代码:响应于确定第一帧之后的第三帧与第三参考帧之间第三相关度低于第二阈值,检测出第三帧包括物体的移动,第二阈值大于第一阈值。
在某些实现中,计算机程序包含用于执行包括如下步骤的过程的程序代码:响应于检测出第一帧包括物体的移动,为用户生成告警。
在某些实现中,计算机程序包含用于执行包括如下步骤的过程的程序代码:通过将第一帧与视频的背景帧相比较,来从第一帧的像素中标识出多个前景像素,前景像素不同于背景帧中的对应像素;以及基于所标识的前景像素的亮度值来确定第一相关度。
在某些实现中,计算机程序包含用于执行包括如下步骤的过程的程序代码:确定第一帧中的前景像素的强度值与第一参考帧中的对应像素的强度值之间的强度差异;以及基于强度差异来确定第一相关度。
在某些实现中,计算机程序包含用于执行包括如下步骤的过程的程序代码:获取前景像素的颜色属性,颜色属性包括以下各项中的至少一项:色度值和饱和度值;以及进一步基于前景像素的强度值和前景像素的颜色属性,确定第一相关度。
在某些实现中,计算机程序包含用于执行包括如下步骤的过程的程序代码:响应于第一帧中的前景像素的第一数目超过第三阈值,确定至少一个第二帧中的前景像素的第二数目超过第三阈值。在这些实现中,该方法中的检测包括响应于确定第二相关度低于第一阈值并且第二数目超过第三阈值,检测出第一帧包括物体的移动。
在某些实现中,计算机程序包含用于执行包括如下步骤的过程的程序代码:响应于确定在第一帧之后的第四帧中的前景像素的第三数目超过第四阈值,检测出第四帧包括物体的移动,第四阈值小于第三阈值。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。
Claims (20)
1.一种方法,包括:
确定视频的第一帧与第一参考帧之间的第一相关度;
响应于所述第一相关度低于第一阈值,确定至少一个第二帧与第二参考帧之间的第二相关度低于所述第一阈值;以及
至少部分地基于确定出所述第二相关度低于所述第一阈值,检测所述第一帧是否包括物体的移动。
2.根据权利要求1所述的方法,进一步包括:
响应于确定所述第一帧之后的第三帧与第三参考帧之间第三相关度低于第二阈值,检测出所述第三帧包括物体的移动,所述第二阈值大于所述第一阈值。
3.根据权利要求1所述的方法,进一步包括:
响应于检测出所述第一帧包括物体的移动,为用户生成告警。
4.根据权利要求1所述的方法,其中确定所述第一相关度包括:
通过将所述第一帧与所述视频的背景帧相比较,来从所述第一帧的像素中标识出多个前景像素,所述前景像素不同于所述背景帧中的对应像素;以及
基于所标识的前景像素的亮度值来确定所述第一相关度。
5.根据权利要求4所述的方法,其中基于所标识的前景像素的亮度值来确定所述第一相关度包括:
确定所述第一帧中的所述前景像素的所述强度值与所述第一参考帧中的对应像素的强度值之间的强度差异;以及
基于所述强度差异来确定所述第一相关度。
6.根据权利要求4所述的方法,其中确定所述第一相关度包括:
获取所述前景像素的颜色属性,所述颜色属性包括以下各项中的至少一项:色度值和饱和度值;以及
进一步基于所述前景像素的所述强度值和所述前景像素的所述颜色属性,确定所述第一相关度。
7.根据权利要求4所述的方法,进一步包括:
响应于所述第一帧中的所述前景像素的第一数目超过第三阈值,确定所述至少一个第二帧中的前景像素的第二数目超过所述第三阈值,并且
其中所述检测包括:
响应于确定所述第二相关度低于所述第一阈值并且所述第二数目超过所述第三阈值,检测出所述第一帧包括物体的移动。
8.根据权利要求7所述的方法,进一步包括:
响应于确定在所述第一帧之后的第四帧中的前景像素的第三数目超过第四阈值,检测出所述第四帧包括物体的移动,所述第四阈值小于所述第三阈值。
9.一种设备,包括:
至少一个处理器;以及
至少一个存储器,所述至少一个存储器包括计算机程序代码,所述至少一个存储器和所述计算机程序代码被配置为与所述至少一个处理器一起使得所述设备:
确定视频的第一帧与第一参考帧之间的第一相关度,
响应于所述第一相关度低于第一阈值,确定所述第一帧之前的至少一个第二帧与第二参考帧之间的第二相关度低于所述第一阈值,以及
至少部分地基于确定出所述第二相关度低于所述第一阈值,检测出所述第一帧包括物体的移动。
10.根据权利要求9所述的设备,其中所述至少一个存储器和所述计算机程序代码进一步被配置为与所述至少一个处理器一起使得所述设备:
响应于确定所述第一帧之后的第三帧与第三参考帧之间第三相关度低于第二阈值,检测出所述第三帧包括物体的移动,所述第二阈值大于所述第一阈值。
11.根据权利要求9所述的设备,其中所述至少一个存储器和所述计算机程序代码进一步被配置为与所述至少一个处理器一起使得所述设备:
响应于检测出所述第一帧包括物体的移动,为用户生成告警。
12.根据权利要求9所述的设备,其中所述至少一个存储器和所述计算机程序代码进一步被配置为与所述至少一个处理器一起使得所述设备:
通过将所述第一帧与所述视频的背景帧相比较,来从所述第一帧的像素中标识出多个前景像素,所述前景像素不同于所述背景帧中的对应像素;以及
基于所标识的前景像素的亮度值来确定所述第一相关度。
13.根据权利要求12所述的设备,其中所述至少一个存储器和所述计算机程序代码进一步被配置为与所述至少一个处理器一起使得所述设备:
确定所述第一帧中的所述前景像素的所述强度值与所述第一参考帧中的对应像素的强度值之间的强度差异;以及
基于所述强度差异来确定所述第一相关度。
14.根据权利要求12所述的设备,其中所述至少一个存储器和所述计算机程序代码进一步被配置为与所述至少一个处理器一起使得所述设备:
获取所述前景像素的颜色属性,所述颜色属性包括以下各项中的至少一项:色度值和饱和度值;以及
进一步基于所述前景像素的所述强度值和所述前景像素的所述颜色属性,确定所述第一相关度。
15.根据权利要求12所述的设备,其中所述至少一个存储器和所述计算机程序代码进一步被配置为与所述至少一个处理器一起使得所述设备:
响应于所述第一帧中的所述前景像素的第一数目超过第三阈值,确定所述至少一个第二帧中的前景像素的第二数目超过所述第三阈值;以及
响应于确定所述第二相关度低于所述第一阈值并且所述第二数目超过所述第三阈值,检测出所述第一帧包括物体的移动。
16.根据权利要求15所述的设备,其中所述至少一个存储器和所述计算机程序代码进一步被配置为与所述至少一个处理器一起使得所述设备:
响应于确定在所述第一帧之后的第四帧中的前景像素的第三数目超过第四阈值,检测出所述第四帧包括物体的移动,所述第四阈值小于所述第三阈值。
17.根据权利要求9所述的设备,进一步包括:
接收器,被配置为从远端的视频捕获设备接收所述视频。
18.一种计算机程序产品,所述计算机程序产品包括被有形地体现在机器可读介质上的计算机程序,所述计算机程序包含用于执行包括如下步骤的过程的程序代码:
确定视频的第一帧与第一参考帧之间的第一相关度;
响应于所述第一相关度低于第一阈值,确定所述第一帧之前的至少一个第二帧与第二参考帧之间的第二相关度低于所述第一阈值;以及
至少部分地基于确定出所述第二相关度低于所述第一阈值,检测出所述第一帧包括物体的移动。
19.根据权利要求18所述的计算机程序产品,其中所述计算机程序包含用于执行包括如下步骤的过程的程序代码:
响应于确定所述第一帧之后的第三帧与第三参考帧之间第三相关度低于第二阈值,检测出所述第三帧包括物体的移动,所述第二阈值大于所述第一阈值。
20.根据权利要求18所述的计算机程序产品,其中所述计算机程序包含用于执行包括如下步骤的过程的程序代码:
响应于检测出所述第一帧包括物体的移动,为用户生成告警。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510919394.5A CN106878668B (zh) | 2015-12-10 | 2015-12-10 | 对物体的移动检测 |
US15/342,070 US10460456B2 (en) | 2015-12-10 | 2016-11-02 | Motion detection of object |
PCT/US2016/061291 WO2017099935A1 (en) | 2015-12-10 | 2016-11-10 | Motion detection of object |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510919394.5A CN106878668B (zh) | 2015-12-10 | 2015-12-10 | 对物体的移动检测 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106878668A true CN106878668A (zh) | 2017-06-20 |
CN106878668B CN106878668B (zh) | 2020-07-17 |
Family
ID=59018782
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510919394.5A Active CN106878668B (zh) | 2015-12-10 | 2015-12-10 | 对物体的移动检测 |
Country Status (2)
Country | Link |
---|---|
US (1) | US10460456B2 (zh) |
CN (1) | CN106878668B (zh) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108540743A (zh) * | 2018-03-23 | 2018-09-14 | 佛山市台风网络科技有限公司 | 一种基于视频监控的图像数据保存方法及系统 |
CN109284653A (zh) * | 2017-07-20 | 2019-01-29 | 微软技术许可有限责任公司 | 基于计算机视觉的细长物体检测 |
CN109308778A (zh) * | 2018-09-11 | 2019-02-05 | 深圳市智美达科技股份有限公司 | 移动侦测告警方法、装置、采集设备和存储介质 |
CN113228070A (zh) * | 2018-10-22 | 2021-08-06 | 罗伯特·博世有限公司 | 用于手动装配线操作的自动重复步骤和循环检测的方法和系统 |
CN113243025A (zh) * | 2018-12-19 | 2021-08-10 | 诺基亚技术有限公司 | 移动指示 |
CN113711272A (zh) * | 2019-04-23 | 2021-11-26 | Oppo广东移动通信有限公司 | 用于非失实运动检测的方法及系统 |
CN115514985A (zh) * | 2022-09-20 | 2022-12-23 | 广东省宏视智能科技有限公司 | 一种视频处理方法、装置、电子设备及存储介质 |
WO2023185305A1 (zh) * | 2022-03-31 | 2023-10-05 | 华为技术有限公司 | 编码方法、装置、存储介质及计算机程序产品 |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10719927B2 (en) * | 2017-01-04 | 2020-07-21 | Samsung Electronics Co., Ltd. | Multiframe image processing using semantic saliency |
TWI650019B (zh) * | 2017-09-28 | 2019-02-01 | 晶睿通訊股份有限公司 | 運動偵測方法及其監控攝影設備 |
US10726264B2 (en) | 2018-06-25 | 2020-07-28 | Microsoft Technology Licensing, Llc | Object-based localization |
US11475667B2 (en) * | 2018-10-12 | 2022-10-18 | Monitoreal Limited | System, device and method for object detection in video feeds |
US11199561B2 (en) * | 2018-12-31 | 2021-12-14 | Robert Bosch Gmbh | System and method for standardized evaluation of activity sequences |
CN109919858A (zh) * | 2019-01-23 | 2019-06-21 | 努比亚技术有限公司 | 一种图像区域验证方法、终端及计算机可读存储介质 |
US11216953B2 (en) | 2019-03-26 | 2022-01-04 | Samsung Electronics Co., Ltd. | Apparatus and method for image region detection of object based on seed regions and region growing |
CN110543809A (zh) * | 2019-06-24 | 2019-12-06 | 台州宏达电力建设有限公司 | 一种电力作业现场风险监管入侵视频识别方法 |
IL277062B (en) * | 2020-08-30 | 2022-02-01 | Elbit Systems C4I And Cyber Ltd | Systems and methods for detecting movement of at least one object without line of sight |
CN113055654A (zh) * | 2021-03-26 | 2021-06-29 | 太原师范学院 | 边缘设备中的视频流有损压缩方法 |
CN113516018A (zh) * | 2021-04-22 | 2021-10-19 | 深圳市睿联技术股份有限公司 | 目标检测方法、安防设备及可读存储介质 |
CN113393482A (zh) * | 2021-06-17 | 2021-09-14 | 中国工商银行股份有限公司 | 一种基于融合算法的遗留物品检测方法和装置 |
US11798170B2 (en) * | 2021-06-30 | 2023-10-24 | Hewlett-Packard Development Company, L.P. | Image background alterations |
CN113891050B (zh) * | 2021-11-12 | 2022-09-20 | 深圳市佰慧智能科技有限公司 | 一种基于视频联网共享的监控设备管理系统 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2000001140A1 (en) * | 1998-06-30 | 2000-01-06 | Sun Microsystems, Inc. | Method and apparatus for the detection of motion in video |
US20040239762A1 (en) * | 2003-05-21 | 2004-12-02 | Porikli Fatih M. | Adaptive background image updating |
CN1885346A (zh) * | 2006-06-01 | 2006-12-27 | 电子科技大学 | 一种复杂背景下红外图像序列中运动目标的检测方法 |
US20070058837A1 (en) * | 2005-09-15 | 2007-03-15 | Honeywell International Inc. | Video motion detection using block processing |
CN101221663A (zh) * | 2008-01-18 | 2008-07-16 | 电子科技大学中山学院 | 一种基于运动目标检测的智能监控报警方法 |
US7486827B2 (en) * | 2005-01-21 | 2009-02-03 | Seiko Epson Corporation | Efficient and robust algorithm for video sequence matching |
CN103208126A (zh) * | 2013-04-17 | 2013-07-17 | 同济大学 | 一种自然环境下运动物体监测方法 |
Family Cites Families (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0107042B1 (de) | 1982-10-01 | 1987-01-07 | Cerberus Ag | Infrarot-Detektor zur Feststellung eines Eindringlings in einen Raum |
US5455561A (en) | 1994-08-02 | 1995-10-03 | Brown; Russell R. | Automatic security monitor reporter |
CA2275893C (en) | 1996-12-23 | 2005-11-29 | Esco Electronics Corporation | Low false alarm rate video security system using object classification |
US5937092A (en) | 1996-12-23 | 1999-08-10 | Esco Electronics | Rejection of light intrusion false alarms in a video security system |
US6462774B1 (en) | 1999-12-20 | 2002-10-08 | Dale Bildstein | Surveillance system method and apparatus |
AU2001295016A1 (en) | 2000-09-01 | 2002-03-13 | Sri International, Inc. | Probabilistic alert correlation |
US7006128B2 (en) | 2002-05-30 | 2006-02-28 | Siemens Corporate Research, Inc. | Object detection for sudden illumination changes using order consistency |
US7729563B2 (en) * | 2002-08-28 | 2010-06-01 | Fujifilm Corporation | Method and device for video image processing, calculating the similarity between video frames, and acquiring a synthesized frame by synthesizing a plurality of contiguous sampled frames |
US7161152B2 (en) | 2003-12-16 | 2007-01-09 | Robert Bosch Gmbh | Method and apparatus for reducing false alarms due to white light in a motion detection system |
US7620266B2 (en) | 2005-01-20 | 2009-11-17 | International Business Machines Corporation | Robust and efficient foreground analysis for real-time video surveillance |
GB0502371D0 (en) * | 2005-02-04 | 2005-03-16 | British Telecomm | Identifying spurious regions in a video frame |
US7801330B2 (en) | 2005-06-24 | 2010-09-21 | Objectvideo, Inc. | Target detection and tracking from video streams |
KR101271092B1 (ko) | 2007-05-23 | 2013-06-04 | 연세대학교 산학협력단 | 감시 카메라 시스템에서 움직임을 검출하기 위한 실시간움직임 영역 분할 방법 및 장치 |
WO2010124062A1 (en) | 2009-04-22 | 2010-10-28 | Cernium Corporation | System and method for motion detection in a surveillance video |
US8305447B1 (en) | 2009-08-27 | 2012-11-06 | Wong Thomas K | Security threat detection system |
WO2013014578A1 (en) | 2011-07-26 | 2013-01-31 | Koninklijke Philips Electronics N.V. | Monitoring system and method for monitoring a monitored area |
US8744123B2 (en) | 2011-08-29 | 2014-06-03 | International Business Machines Corporation | Modeling of temporarily static objects in surveillance video data |
AU2014214545B2 (en) | 2013-02-07 | 2018-06-28 | Iomniscient Pty Ltd | A surveillance system |
US11244171B2 (en) * | 2014-01-22 | 2022-02-08 | Conduent Business Services Llc | Video-based system for automated detection of double parking violations |
KR101537282B1 (ko) | 2014-05-15 | 2015-07-17 | 주식회사 에스원 | 국부 조명변화에 강인한 모션블롭 검출방법 |
US10140827B2 (en) * | 2014-07-07 | 2018-11-27 | Google Llc | Method and system for processing motion event notifications |
US20160092727A1 (en) * | 2014-09-30 | 2016-03-31 | Alcatel-Lucent Usa Inc. | Tracking humans in video images |
US9710716B2 (en) * | 2014-12-16 | 2017-07-18 | Sighthound, Inc. | Computer vision pipeline and methods for detection of specified moving objects |
EP3046318A1 (en) * | 2015-01-15 | 2016-07-20 | Thomson Licensing | Method and apparatus for motion-based video tonal stabilization |
US10304306B2 (en) * | 2015-02-19 | 2019-05-28 | Smoke Detective, Llc | Smoke detection system and method using a camera |
US20170083790A1 (en) * | 2015-09-23 | 2017-03-23 | Behavioral Recognition Systems, Inc. | Detected object tracker for a video analytics system |
EP3391339A2 (en) * | 2015-12-18 | 2018-10-24 | Iris Automation, Inc. | Real-time visual situational awareness system |
US10223590B2 (en) * | 2016-08-01 | 2019-03-05 | Qualcomm Incorporated | Methods and systems of performing adaptive morphology operations in video analytics |
-
2015
- 2015-12-10 CN CN201510919394.5A patent/CN106878668B/zh active Active
-
2016
- 2016-11-02 US US15/342,070 patent/US10460456B2/en active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2000001140A1 (en) * | 1998-06-30 | 2000-01-06 | Sun Microsystems, Inc. | Method and apparatus for the detection of motion in video |
US20040239762A1 (en) * | 2003-05-21 | 2004-12-02 | Porikli Fatih M. | Adaptive background image updating |
US7486827B2 (en) * | 2005-01-21 | 2009-02-03 | Seiko Epson Corporation | Efficient and robust algorithm for video sequence matching |
US20070058837A1 (en) * | 2005-09-15 | 2007-03-15 | Honeywell International Inc. | Video motion detection using block processing |
CN1885346A (zh) * | 2006-06-01 | 2006-12-27 | 电子科技大学 | 一种复杂背景下红外图像序列中运动目标的检测方法 |
CN101221663A (zh) * | 2008-01-18 | 2008-07-16 | 电子科技大学中山学院 | 一种基于运动目标检测的智能监控报警方法 |
CN103208126A (zh) * | 2013-04-17 | 2013-07-17 | 同济大学 | 一种自然环境下运动物体监测方法 |
Non-Patent Citations (1)
Title |
---|
莫林等: "一种基于背景减除与三帧差分的运动目标检测算法", 《微计算机信息》 * |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109284653A (zh) * | 2017-07-20 | 2019-01-29 | 微软技术许可有限责任公司 | 基于计算机视觉的细长物体检测 |
CN108540743A (zh) * | 2018-03-23 | 2018-09-14 | 佛山市台风网络科技有限公司 | 一种基于视频监控的图像数据保存方法及系统 |
CN108540743B (zh) * | 2018-03-23 | 2020-11-06 | 佛山市台风网络科技有限公司 | 一种基于视频监控的图像数据保存方法及系统 |
CN109308778A (zh) * | 2018-09-11 | 2019-02-05 | 深圳市智美达科技股份有限公司 | 移动侦测告警方法、装置、采集设备和存储介质 |
CN109308778B (zh) * | 2018-09-11 | 2020-08-18 | 深圳市智美达科技股份有限公司 | 移动侦测告警方法、装置、采集设备和存储介质 |
CN113228070A (zh) * | 2018-10-22 | 2021-08-06 | 罗伯特·博世有限公司 | 用于手动装配线操作的自动重复步骤和循环检测的方法和系统 |
CN113243025A (zh) * | 2018-12-19 | 2021-08-10 | 诺基亚技术有限公司 | 移动指示 |
CN113711272A (zh) * | 2019-04-23 | 2021-11-26 | Oppo广东移动通信有限公司 | 用于非失实运动检测的方法及系统 |
WO2023185305A1 (zh) * | 2022-03-31 | 2023-10-05 | 华为技术有限公司 | 编码方法、装置、存储介质及计算机程序产品 |
CN115514985A (zh) * | 2022-09-20 | 2022-12-23 | 广东省宏视智能科技有限公司 | 一种视频处理方法、装置、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
US10460456B2 (en) | 2019-10-29 |
US20170169574A1 (en) | 2017-06-15 |
CN106878668B (zh) | 2020-07-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106878668A (zh) | 对物体的移动检测 | |
US11354993B2 (en) | Image surveillance and reporting technology | |
CN110895861B (zh) | 异常行为预警方法、装置、监控设备和存储介质 | |
US10255683B1 (en) | Discontinuity detection in video data | |
US20090195382A1 (en) | Video sensor and alarm system and method with object and event classification | |
US10140832B2 (en) | Systems and methods for behavioral based alarms | |
CN102892007B (zh) | 促进多个摄像机间颜色平衡同步和获得跟踪的方法和系统 | |
US10769442B1 (en) | Scene change detection in image data | |
CN104284143A (zh) | 图像监控系统及其方法 | |
US11900774B2 (en) | Camera enhanced with light detecting sensor | |
CN112446244A (zh) | 人体动作的识别方法、神经网络的训练方法及相关装置、设备 | |
CN110796015B (zh) | 一种远程监控方法及其装置 | |
CN102737463A (zh) | 基于智能视频的室内人员闯入的监控和报警系统 | |
GB2528195A (en) | Flame detection in an image sequence | |
US10789832B2 (en) | System and method for preventing false alarms due to display images | |
TW201801520A (zh) | 影像式小偷偵測裝置 | |
KR101558728B1 (ko) | 방문자 감시장치 및 이를 포함한 방문자 알림 서비스 시스템 및 그 방법 | |
CN102547222A (zh) | 视频监控中保护用户隐私的只显示动目标图像技术 | |
CN104202533B (zh) | 移动检测装置及移动检测方法 | |
JP2013190943A (ja) | 物体検出装置及びインターホンシステム | |
CN109272549B (zh) | 一种红外热点的位置确定方法及终端设备 | |
US10965899B1 (en) | System and method for integration of a television into a connected-home monitoring system | |
CN102567951A (zh) | 视频监控中保护用户隐私的二值图像显示技术 | |
AG et al. | Development of a portable community video surveillance system | |
WO2017099935A1 (en) | Motion detection of object |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |