CN108028969A - 用于视频处理的系统和方法 - Google Patents

用于视频处理的系统和方法 Download PDF

Info

Publication number
CN108028969A
CN108028969A CN201580083260.2A CN201580083260A CN108028969A CN 108028969 A CN108028969 A CN 108028969A CN 201580083260 A CN201580083260 A CN 201580083260A CN 108028969 A CN108028969 A CN 108028969A
Authority
CN
China
Prior art keywords
frame
video content
summary frame
video
motion event
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201580083260.2A
Other languages
English (en)
Other versions
CN108028969B (zh
Inventor
毕宁
凌璠
丁菁汀
孙宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of CN108028969A publication Critical patent/CN108028969A/zh
Application granted granted Critical
Publication of CN108028969B publication Critical patent/CN108028969B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/845Structuring of content, e.g. decomposing content into time segments
    • H04N21/8455Structuring of content, e.g. decomposing content into time segments involving pointers to the content, e.g. pointers to the I-frames of the video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/8549Creating video summaries, e.g. movie trailer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/71Indexing; Data structures therefor; Storage structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/73Querying
    • G06F16/738Presentation of query results
    • G06F16/739Presentation of query results in form of a video summary, e.g. the video summary being a video sequence, a composite still image or having synthesized frames
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/74Browsing; Visualisation therefor
    • G06F16/743Browsing; Visualisation therefor a collection of video files or sequences
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/7837Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using objects detected or recognised in the video content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/46Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/2187Live feed
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/23418Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234318Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by decomposing into objects, e.g. MPEG-4 objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/47217End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for controlling playback functions for recorded or on-demand content, e.g. using progress bars, mode or play-point indicators or bookmarks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/4722End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for requesting additional data associated with the content
    • H04N21/4725End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for requesting additional data associated with the content using interactive regions of the image, e.g. hot spots
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/8146Monomedia components thereof involving graphical data, e.g. 3D object, 2D graphics
    • H04N21/8153Monomedia components thereof involving graphical data, e.g. 3D object, 2D graphics comprising still images, e.g. texture, background image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/845Structuring of content, e.g. decomposing content into time segments
    • H04N21/8453Structuring of content, e.g. decomposing content into time segments by locking or enabling a set of features, e.g. optional functionalities in an executable program
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/188Capturing isolated or intermittent images triggered by the occurrence of a predetermined event, e.g. an object reaching a predetermined position
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/44Event detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Library & Information Science (AREA)
  • Human Computer Interaction (AREA)
  • Computer Graphics (AREA)
  • Computer Security & Cryptography (AREA)
  • Software Systems (AREA)
  • Computational Linguistics (AREA)
  • Television Signal Processing For Recording (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明揭示一种视频处理的系统和方法。在特定实施方案中,装置包含经配置以产生关于视频内容的索引数据的处理器。所述索引数据包含概要帧和元数据。所述概要帧与所述视频内容的一部分相关联且说明包含在所述视频内容的所述部分中的对象的多个表示。所述元数据包含指示所述视频内容的播放位置的标记数据。所述播放位置与所述概要帧相关联。所述装置还包含经配置以存储所述索引数据的存储器。

Description

用于视频处理的系统和方法
技术领域
本发明大体来说涉及视频处理。
背景技术
在例如闭路电视(CCTV)系统的视频监控系统中,摄像机可被安装在固定位置中。由摄像机产生的视频内容(例如,视频流)在摄像机的视野内无移动的绝大部分时间可为平静的。多个选项可用于定位所记录视频流中的所关注事件(例如,移动)。举例来说,可通过以向前快转模式播放所记录视频来在所记录视频流中识别所关注事件。作为其它实例,可通过借助在编码时跳过帧(例如,对视频流的每第n个帧进行编码,其中n为整数)或借助产生所记录视频流的缩时视频来产生视频流的概要剪辑来识别所关注事件。这些选项中的每一者可为低效且耗时的。
发明内容
在特定方面中,一种装置包含经配置以产生关于视频内容的索引数据的处理器,所述索引数据包含概要帧和元数据。所述概要帧与所述视频内容的一部分相关联且说明包含在所述视频内容的所述部分中的对象的多个表示。所述元数据包含指示所述视频内容的播放位置的标记数据。所述播放位置与所述概要帧相关联。所述装置进一步包含经配置以存储所述索引数据的存储器。
在另一特定方面中,装置包含经配置以呈现概要帧的显示器。所述概要帧说明包含在视频内容的部分中的对象的多个表示。所述装置还包含经配置以识别对应于所述视频内容的部分的播放位置的处理器。所述播放位置是基于所述概要帧而识别。所述处理器经进一步配置以起始播放位置处的视频内容的播放。
在另一特定方面中,设备包含经配置以呈现图形用户接口(GUI)的显示器。GUI包含说明对象的第一组表示的概要帧。所述设备还包含电耦合到显示器且经配置以接收指示第一组表示中的特定表示的选择的处理器。
在另一特定方面中,设备包含用于呈现说明包含在视频内容的部分中的对象的多个表示的概要帧的装置。所述设备还包含用于识别对应于视频内容的部分的播放位置的装置。所述播放位置是基于所述概要帧而识别。所述设备进一步包含用于起始播放位置处的视频内容的播放的装置。
在检视整个申请案(包含以下章节)的后,本发明的其它方面、优点和特征将变得显而易见:“附图说明”、“具体实施方式”和“权利要求书”。
附图说明
图1A为用于处理图像数据以产生概要帧的第一说明性系统的框图;
图1B为用于处理图像数据以产生概要帧的第二说明性系统的框图;
图1C为用于处理图像数据以产生概要帧的第三说明性系统的框图;
图2为概要帧产生器的说明性实例的框图;
图3为产生概要帧的方法的第一说明性实例的流程图;
图4为产生概要帧的方法的第二说明性实例的流程图;
图5为用于处理图像数据以传达概要帧的说明性系统的框图;
图6为经配置以使用概要帧对视频内容加索引的装置的说明性实例的框图;
图7A-7J为用以呈现概要帧、基于概要帧的视频内容的部分或两者的接口的实例;
图8为产生概要帧的方法的第三说明性实例的流程图;
图9为传达概要帧的方法的说明性实例的流程图;
图10为接收概要帧的方法的说明性实例的流程图;
图11为串连多个概要帧的方法的说明性实例的流程图;
图12为对视频内容加索引的方法的说明性实例的流程图;和
图13为可操作以支持本文中所揭示的一或多个方法、系统、设备或计算机可读存储装置的各种方面的装置的框图。
具体实施方式
下文参看图式描述本发明的特定方面。在描述中,贯穿各图式共同特征由共同参考数字指定。如本文中所使用,用于修饰元件(例如,结构、组件、操作等)的序数术语(例如,“第一”、“第二”、“第三”等)本身并不指示元件相对于另一元件的任何优先顺序或次序,而仅将元件与具有相同名称(如果不使用序数术语)的另一元件区分。
本发明描述处理视频内容(例如,视频流(例如,视频片段))以产生概括视频内容的部分的概要帧(例如,图像)的方法。举例来说,视频内容可捕获事件,例如与对象(例如,人、汽车等)相关联的运动事件。可将视频内容提供到图像处理装置,所述图像处理装置识别视频内容内的(事件的)运动事件周期的开始和结束。举例来说,运动事件周期可与对象进入和退出摄像机的视野相关联。图像处理装置可产生与视频内容的至少一部分相关联的概要帧。概要帧可说明对象的多个表示。为了说明,响应于运动事件周期的结束,可产生概要帧并将其发送到装置(例如,远程装置)以使得用户能够迅速观看单一图像,所述单一图像概括了运动事件周期期间在视频内容中的对象的移动。
作为说明性而非限制性实例,图像处理装置可被包含在摄像机或视频播放器设备。在一些实施方案中,图像处理装置可被包含在视频监控系统中且可用于对视频序列(例如,包含一或多个运动事件的视频序列)加索引。在一些实施方案中,概要帧可被包含在通知中,所述通知还包含与对应于事件的视频内容的部分相关联的识别符(例如,运动事件周期)。举例来说,识别符可被包含在经嵌入于概要帧中的元数据中。识别符可使得装置能够从视频监控系统请求视频内容的部分。
在一些实施方案中,图像处理装置可产生包含多个“经串连”概要帧的通知。举例来说,图像处理装置可产生对应于第一运动事件周期的第一概要帧且可产生对应于第二运动事件周期的第二概要帧。第一运动事件周期可与由第一摄像机捕获的第一视频内容的第一部分相关联且第二运动事件周期可与由第二摄像机捕获的第二视频内容的第二部分相关联。替代地,第一运动事件周期和第二运动事件周期可为由单一摄像机捕获的视频内容的相关联部分。在一些实施方案中,经串连的概要帧可包含在第一运动事件期间第一对象的第一组表示和在第二运动事件期间第二对象的第二组表示。每一组表示可在经串连概要帧的共同背景上经叠加图像处理装置可存储在时间周期(例如,六小时周期)期间所产生的一或多个概要帧,例如第一概要帧和第二概要帧且可发送包含一或多个概要帧的单一通知。
通过发送包含视频内容的部分的概要帧的通知,所述通知的数据大小与发送包含视频内容的部分的视频剪辑的通知相比可减小。因此,与包含视频剪辑的通知相比较,可将包含概要帧(且非视频剪辑)的通知更快速地提供到装置。另外,通过发送概要帧而非发送视频剪辑,装置的用户可快速检视概要帧(例如,单一图像)以了解在运动事件周期期间(例如,在视频内容的部分期间)发生的活动。
参看图1A,展示可操作以产生概要帧的系统100的说明性实例。系统100可包含装置102。在一些实施方案中,装置102可被包含在视频监控系统(例如,闭路电视(CCTV)系统)中,如参看图5所描述。为说明,装置102可为摄像机装置,可包含摄像机,或可包含视频系统控制器。另外或替代地,装置102可包含播放装置或被包含在播放装置中,作为说明性、非限制实例,例如计算机、手提式计算机、移动装置、运载工具或服务器。本文中所描述的技术可与电子装置、移动装置、运载工具、游戏主机、自动系统主机(例如,ADAS)、可穿戴装置(例如,个人安装摄像机)、头戴式显示器(HMD)等一起使用。另外实例包含(但不限于)机器人或机器人装置、无人航空运载工具(UAV)和遥控飞机。运载工具的实例可包含机动车辆(例如,汽车、卡车、机动车、公共汽车或火车)、船舶(例如,船或轮船)、航空器(例如,飞机或直升飞机)、太空船(例如,太空梭)、自行车或另一运载工具。作为说明性非限制实例,运载工具可为轮式运载工具、履带式运载工具、轨道式运载工具、空载运载工具或滑道式运载工具。在一些状况下,运载工具可由一或多个驱动器操作。在其它状况下,运载工具可为计算机控制运载工具,例如自主式运载工具。此外,尽管一或多个方面在本文中可被描述为包含在装置处执行的操作,但应理解,在其它实例中,可在“云”中执行这些操作。
装置102可经配置以接收视频内容140(例如,视频序列),例如包含图像数据的一或多个图像帧。可从包含透镜的捕获单元(未示出)接收视频内容140(例如,图像数据)。举例来说,捕获单元可包含摄像机或可为摄像机的部分。捕获单元可经配置以获取视频帧序列,例如视频内容140。在一些实施方案中,视频帧序列的每一视频帧可具有对应的帧索引。在一些实施方案中,装置102可包含捕获单元,如参看图1B-1C所描述。
装置102可包含帧缓冲器110、存储器112、处理器118、用户接口130和发射器132。作为说明性非限制性实例,帧缓冲器110可经配置以存储视频内容140的一或多个帧(例如,视频帧序列的一或多个帧)、帧时间戳、帧序列索引值或其组合。在一些实施方案中,帧缓冲器110可耦合到产生视频内容140的图像捕获单元。如本文中所使用,“耦合”可包含“以通信方式耦合”、“电耦合”或“物理耦合”和其组合。两个装置(或组件)可直接或经由一或多个其它装置、组件、导线、总线、网络(例如,有线网络、无线网络或其组合)等间接地耦合(例如,以通信方式耦合、电耦合或物理耦合)。作为说明性非限制性实例,经电耦合的两个装置(或组件)可被包含在相同装置或不同装置中且可经由电子装置、一或多个连接器或电感耦合连接。在一些实施方案中,以通信方式(例如,以电通信方式)耦合的两个装置(或组件)可直接地或间接地(例如,经由一或多个导线、总线、网络等)发送和接收电信号(数字信号或模拟信号)。举例来说,帧缓冲器110可与图像捕获装置电通信。作为另一实例,帧缓冲器110可从耦合到装置102或被包含于装置102中的存储装置(例如,存储器)接收视频内容140。为说明,存储装置可在装置102外部且可经由网络(例如,有线网络、无线网络或其组合)耦合到装置102。作为另一实例,存储装置可以可抽换方式耦合到装置102。为说明,存储器装置可包含可物理耦合到装置102的存储卡(例如,安全数字(SD)卡)。
存储器112可耦合到帧缓冲器110且可经配置以存储视频内容114,例如视频内容140的至少一部分、与视频内容140(例如,视频帧序列)的至少所述部分相关联的索引或其组合。举例来说,视频内容114可包含第一帧和第二帧,且存储器112可存储与第一帧相关联的第一数据(例如,第一帧索引)和与第二帧相关联的第二数据(例如,第二帧索引)。另外或替代地,存储器112可经配置以存储视频帧序列(例如,多个视频帧序列)的索引,例如第一视频帧序列索引和第二视频帧序列索引。在一些实施方案中,可在帧缓冲器110和存储器112处并行地接收视频内容140。尽管帧缓冲器110和存储器112经描述为单独的,但在其它实施方案中,存储器112可包含帧缓冲器110。在一些实施方案中,视频内容114可与视频内容140的其中检测到运动(例如,运动事件)的一或多个部分相关联,如参看图2所描述。尽管存储器112经说明为被包含在装置102中,但在其它实施方案中,存储器112可在装置102外部或以可抽换方式耦合到装置102。举例来说,存储器112可包含存储卡或其它可抽换存储装置,例如通用串行总线(USB)驱动器。
处理器118可与帧缓冲器110电耦合、以通信方式耦合或既电耦合又以通信方式耦合。举例来说,处理器118可与帧缓冲器110电通信。作为说明性非限制性实例,处理器118可包含数字信号处理器(DSP)、中央处理单元(CPU)、图形处理单元(GPU)或其组合。
处理器118可包含概要帧产生器120和通知产生器126。概要帧产生器120可经配置以产生概要帧122、元数据124或两者。概要帧122可提供视频内容140的其中检测到运动事件的部分的视觉概要。举例来说,概要帧122可说明经检测为在视频内容的部分中移动的对象的多个表示,如本文中进一步描述。对象可与一或多个经检测二进制大对象(blob)相关联或对应于其。概要帧122中所包含的对象的多个表示可对应于从视频内容140的部分选择的关键帧,如参看图2-5所描述。在一些实施方案中,处理器118可经配置以基于视频内容140中的多个视频帧(例如,视频帧序列中的多个帧)的运动事件起始概要帧122的产生,如本文中进一步描述。
举例来说,处理器118可组合来自视频内容140的部分的第一帧的对象的第一表示和来自视频内容140的部分的第二帧的对象的第二表示以产生概要帧122。为说明,在150处描绘概要帧122的实例。概要帧122的实例150提供视频内容140的部分的视觉概要,例如个人和自行车的概要。举例来说,概要帧122可提供运动事件的单帧视觉概要。为说明,概要帧122可描绘个人和自行车的多个表示151-156。多个表示151-156中的每一者可对应于选自视频内容140的部分的不同帧。举例来说,第一表示151可对应于与视频帧序列的第一帧索引相关联的第一帧,第二表示152可对应于与视频帧序列的第二帧索引相关联的第二帧等。在一些实施方案中,第一帧和第二帧中的每一者可各自与对应于运动事件的关键帧相关联。概要帧产生器120可经配置以选择一或多个关键帧,如参看图2-4所描述。在一些实例中,多个表示可经呈现(例如,使用着色、纹理、阴影等)使得用户可确定个人和自行车的移动方向。在其它实例中,每一表示可包含指示符,例如数值、字母、箭头等,所述指示符指示多个表示在时间上的顺序。尽管多个表示151-156中的每一者在实例150中经说明为单独的(例如,不重叠),但在其它实施方案中,第一表示可与第二表示至少部分地重叠,其中第一表示与第一帧相关联,所述第一帧在帧顺序上比与第二表示相关联的第二帧较早或较晚发生。
参考装置102,元数据124可包含对应于视频内容140的文件名称、概要帧识别符、产生视频内容140的日期或时间、产生概要帧122的日期或时间、运动事件开始时间、运动事件结束时间、运动事件持续时间、视频片段的识别符(例如,对应于运动事件周期的视频剪辑)、用于产生概要帧122中所包含的对象的表示的帧的指示,与产生视频内容140的捕获单元相关联的捕获单元识别符(例如,摄像机识别符)、摄像机位置、到存储器112的其中存储视频内容114的存储位置的链接(例如,统一资源定位符(URL)),或其组合。为说明,元数据124可包含相关联第一帧索引(对应于第一表示151)和相关联第二帧索引(对应于第二表示152)。在一些实施方案中,元数据124可被包含在(例如,嵌入于)概要帧122中。另外或替代地,在一些实施方案中,元数据124可包含环境信息(例如,视频内容140的产生期间的天气条件)、语意信息(例如,事件识别)、对象识别信息、场景分类信息或其组合。如果存储器112存储对应于用于产生概要帧122的视频内容140的部分的视频内容114,元数据124可被包含在视频内容114中或存储在视频内容114内。
通知产生器126可经配置以产生与概要帧122相关联的通知128。作为说明性而非限制性实例,通知128可包含特定运动事件已开始的指示、产生概要帧122的指示、运动事件已结束的指示、已产生概要帧122的指示、运动事件的持续时间的指示、概要帧122、元数据124或其组合。举例来说,通知产生器126可响应于概要帧产生器120产生概要帧122而产生通知128。在一些实施方案中,作为说明性而非限制性实例,通知128可包含电子邮件或短消息服务(SMS)消息。
处理器118可以通信方式耦合、电耦合或既以通信方式耦合又电耦合到用户接口130、发射器132或两者。举例来说,处理器118可与用户接口130、发射器132或两者电子通信。处理器118可经配置以将处理器输出142提供到用户接口130、发射器132或两者。用户接口130可经配置以产生与概要帧122相关联的输出、元数据124、通知128或其组合。为说明,用户接口130可包含显示器(例如,屏幕或触摸屏幕)、转换器(例如,扩音器(例如,扬声器))、灯(例如,发光二极管(LED))等。如果用户接口130包含屏幕,那么屏幕可经配置以显示概要帧122、通知128或其组合。作为另一实例,如果用户接口130包含扬声器,那么扬声器可经配置以播放与概要帧122的产生的完成相关联的声音。作为又一实例,如果用户接口130包含灯,那么所述灯可经配置以响应于概要帧122的产生的完成而照明。
发射器132可经配置以提供装置输出144,例如指示正在产生或已产生概要帧(例如,概要帧122)的通知信号。举例来说,装置输出144可包含概要帧122、元数据124、通知128或其组合。在一些实施方案中,发射器132可被包含在收发器(未示出)中,例如包含发射器132和接收器的收发器。
尽管用户接口130和发射器132经描述为被包含在装置102中,但在其它实施方案中,用户接口130和发射器132中的一者或两者可在装置102的外部。举例来说,用户接口130可包含在装置102外部的显示器。
在操作期间,处理器118可检测对应于视频内容140(例如,多个图像帧)的运动事件周期。处理器118可产生说明对象(例如,个人和自行车)的多个表示的概要帧122。对象可被包含在视频内容140的对应于运动事件周期的部分中。在产生概要帧122的后,概要帧122可被包含在通知128中。概要帧122可经由用户接口130(例如,显示器)呈现且可经由发射器132将通知128发送到一或多个其它装置。
在一些实施方案中,概要帧产生器120可经配置以检测运动事件周期(例如,运动事件的开始、运动事件的结束或两者)并产生与视频内容140的部分相关联的概要帧122。在此实例中,元数据124可包含与运动事件周期的开始相关联的第一时间戳、与运动事件周期的结束相关联的第二时间戳或其组合。
在一些实施方案中,通知产生器126可经配置以响应于由概要帧产生器120产生的每一概要帧产生通知。举例来说,响应于概要帧122,通知产生器126可产生包含概要帧122(例如,单一概要帧)的通知128,如参看图1B所描述。在其它实施方案中,通知产生器126可将多个概要帧“串连”到通知(例如,单一通知),如参看图1C所描述。举例来说,通知产生器126可产生关于时间周期(例如,可编程时间周期)的通知且可在通知中包含针对所述时间周期产生的每一概要帧。在一些实施方案中,不同概要帧的串连可为基于不同可编程时间周期。为说明,第一可编程时间周期可对应于一小时。响应于第一可编程时间周期过去,通知产生器126可产生包含在第一可编程时间周期产生的每一概要帧的通知。作为另一实例,第二可编程时间周期可对应于八小时。
在一些实施方案中,处理器118可经配置以对视频内容140(或视频内容114)加索引以产生经加索引视频内容。举例来说,可根据以下各项对视频内容140或视频内容114加索引:对应于运动事件周期的开始的第一特定帧、与运动事件周期相关联且用于产生概要帧122的一或多个帧、对应于运动事件周期的结束的第二特定帧或其组合。作为另一实例,可基于以下各项对视频内容140(或视频内容114)加索引:应用于第一特定帧的偏移、与运动事件周期相关联且用于产生概要帧122的帧中的一或多者、第二特定帧或其组合。为说明,可在对应于运动事件周期的开始的第一特定帧之前使用处于第一偏移值(例如,六十个帧)的帧且在对应于运动事件周期的结束的第二特定帧的后使用处于第二偏移值(例如,三十个帧)的另一帧对视频内容140(或视频内容114)加索引。在一些实施方案中,处理器118可将经加索引视频内容存储在存储器112处。另外或替代地,处理器118可经配置以将与运动事件周期相关联的视频片段(例如,视频剪辑)存储在存储器112处。举例来说,可将视频片段与经加索引视频内容分离地(除经加索引视频内容外或替代经加索引视频内容)存储在存储器112处。
在一些实施方案中,处理器118可包含视频编码器,所述视频编码器经配置以压缩视频内容140(或视频内容114)、概要帧122或两者,如参看图1B到1C所描述。举例来说,处理器118的视频编码器可经配置以对概要帧122进行编码以产生表示概要帧122的经编码文件。在一些实施方案中,经编码文件可包含与概要帧122相关联的元数据(例如,元数据124的至少一部分)。
通过产生概要帧122,可产生单一图像帧,所述单一图像帧概括视频内容140的部分,视频内容140的所述部分是由于视频内容140的所述部分中发生的运动而“受关注”。概要帧122可使得用户能够快速地检视概要帧122以获得对在视频内容的部分期间发生的运动活动的理解。另外,与发送包含视频内容的部分(例如,视频剪辑)的通知相比,通过在发送到另一装置的通知128中包含概要帧122,可减少通知128的数据大小。因此,与包含视频剪辑的通知相比较,可将包含概要帧122(且非视频剪辑)的通知116更快速地提供到另一装置。
参看图1B,展示可操作以产生概要帧的系统160的说明性实例。系统160可包含或对应于图1A的系统100。
系统160可包含摄像机162、发射器184和接收器186。摄像机162可包含或对应于图1的装置102。在一些实施方案中,发射器184和接收器186可被包含在相同装置(例如,收发器)中。尽管发射器184和接收器186中的每一者经描述为与摄像机162分离,但在其它实施方案中,发射器184、接收器186或两者可被包含在摄像机162中。在一些实施方案中,作为说明性非限制实例,摄像机162可包含因特网协议(IP)摄像机。
摄像机162可包含捕获单元164、存储器166和处理器174。捕获单元164可包含透镜165。捕获单元164可经配置以获取视频帧序列,例如视频内容167(例如,图像数据)。在一些实施方案中,视频帧序列中的每一视频帧可具有对应的帧索引。
存储器166可包含或对应于图1A的存储器112。存储器166可包含帧缓冲器168、经加索引视频内容170和装置信息172。帧缓冲器168可包含或对应于图1的帧缓冲器110。经加索引视频内容170可包含或对应于使用一或多个概要帧加索引的视频内容167的至少一部分,如本文中进一步所描述。另外或替代地,经加索引视频内容170可为使用视频内容167的由概要帧产生器180选择以用于产生概要帧的一或多个帧(例如,关键帧)来加索引,如本文中进一步所描述。
装置信息172可与耦合(例如,以通信方式耦合)到摄像机162的一或多个装置相关联。一或多个装置中的每一者可经配置以从摄像机162接收数据。举例来说,一或多个装置中的第一装置可经定位远离摄像机162的处且经配置以从摄像机162接收视频内容167、一或多个概要帧、一或多个通知、经加索引视频内容170的部分或其组合。作为说明性而非限制性实例,针对一或多个装置中的每一者,装置信息172可包含指示与装置相关联的装置地址(例如,电子邮件地址、电话号码、因特网协议(IP)地址、帐户号码、配置文件等)、鉴认信息(例如,用户名称、密码、帐户号码等)、授权信息(例如,用户权限),或其组合。特定装置的装置地址可使得摄像机162能够将数据发送到特定装置。鉴认信息可使得摄像机162能够响应于来自特定装置的对存取在摄像机162处产生或存储的视频内容(例如,视频内容167或经加索引视频内容170)的请求来鉴别特定装置。授权信息可指示可提供到特定装置的数据。
处理器174可包含或对应于图1A的处理器118。处理器可包含概要帧产生器180、通知产生器182、视频编码器176和模式控制器178。概要帧产生器180和通知产生器182可分别包含或对应于图1A的概要帧产生器120和通知产生器126。概要帧产生器180可经配置以产生一或多个概要帧、元数据187,或其组合。一或多个概要帧可包含或对应于图1A的概要帧122。元数据187可包含或对应于图1A的元数据124。概要帧产生器180可经配置以将一或多个概要帧提供到视频编码器176,提供到通知产生器182,提供到存储器166以进行存储,或提供到索引器,所述索引器经配置以对视频内容167加索引以产生经加索引视频内容170。另外或替代地,概要帧产生器180可经配置以将元数据187提供到通知产生器182,提供到索引器,或提供到存储器166以进行存储。
通知产生器182可经配置以产生一或多个通知,例如通知188。通知188可包含或对应于图1的通知128。在一些实施方案中,通知产生器182可基于装置信息172而产生通知188。举例来说,通知产生器182可基于装置信息172而产生通知188以将其提供到特定装置(例如,提供到特定装置的地址)。
视频编码器176可经配置以对图像数据(例如,视频数据)进行编码(例如,压缩)。举例来说,视频编码器176可经配置以压缩视频内容167、经加索引视频内容170或由概要帧产生器180产生的概要帧。
模式控制器178可经配置以控制视频编码器176压缩由概要帧产生器180产生的概要帧抑或压缩视频内容(例如,视频内容167或经加索引视频内容170)。在一些实施方案中,模式控制器178可包含存储指示摄像机162的模式的值的寄存器。模式控制器178可经配置以控制视频编码器176压缩概要帧抑或视频帧序列,例如视频内容167。举例来说,如果值为零,那么摄像机162可处于其中视频编码器176经配置以对视频内容167进行编码的第一模式中。如果值为一,那么摄像机162可处于其中视频编码器176经配置以对由概要帧产生器180产生的一或多个概要帧进行编码的第二模式中。在第二模式中,概要帧产生器180可经配置以基于检测到运动事件的结束而产生概要帧,如参看图2所描述。另外或替代地,在第二模式中,通知产生器182可经配置以产生一或多个通知,其中每一通知包含单一概要帧。举例来说,通知产生器182可响应于概要帧产生器180产生特定概要帧而产生特定通知。
尽管模式控制器178经描述为具有两个模式,但在其它实施方案中,模式控制器178可包含单一模式或多于两个模式。另外或替代地,模式控制器178可包含除参看图1B所描述的模式外的模式。举例来说,模式控制器178可包含串连模式,如参看图1C所描述。串连模式可致使概要帧产生器180基于时间周期(例如,可编程时间周期)而产生一或多个概要帧。为说明,响应于特定时间周期的期满,概要帧产生器180可分析在特定时间周期期间所产生的视频内容167的部分以基于视频内容167的部分而产生一或多个概要帧。举例来说,概要帧产生器180可产生针对在视频内容167的部分中检测到的每一运动事件的至少一个概要帧。在一些实施方案中,通知产生器182可产生单一通知188以包含基于视频内容167的部分而产生的一或多个概要帧中的每一者。串连模式还可使得视频编码器176能够压缩由概要帧产生器180基于视频内容167的部分而产生的一或多个概要帧。为说明,在一些实施方案中,视频编码器176可压缩由概要帧产生器180产生的概要帧。
尽管模式控制器178经描述为被包含在处理器174中,但在其它实施方案中,模式控制器178可与处理器分离。在这些实施方案中,模式控制器178可电耦合,或以通信方式耦合,或既电耦合又以通信方式耦合到处理器174、处理器174中的一或多个组件,或其组合。举例来说,模式控制器178可与处理器174电通信。
摄像机162可耦合到发射器184和接收器186。发射器184可经配置以将数据发射到一或多个装置,例如经由有线连接、无线连接或其组合以通信方式耦合到摄像机162的装置。作为说明性而非限制性实例,由发射器184发射的数据可包含视频内容167的至少一部分、经加索引视频内容170的至少一部分、一或多个概要帧、元数据187的至少一部分、通知188,或其组合。由发射器184发射的数据可包含经编码数据(例如,压缩数据)、未经编码数据(例如,未经压缩数据),或其组合。
接收器186可经配置以从一或多个装置接收数据。在一些实施方案中,作为说明性而非限制性实例,从一或多个装置接收的数据可包含请求189、装置信息172的部分,或其组合。为说明,在特定实施方案中,接收器186可经配置以接收对待发射的通知信号(例如,通知188)的请求189。作为另一实例,处理器174可经配置以接收请求189(经由接收器186)以发射与由概要帧产生器180产生的特定概要帧相关联的元数据187。
尽管发射器184和接收器186经描述为与摄像机162分离,但在其它实施方案中,发射器184、接收器186或两者可被包含在摄像机162中。尽管发射器184和接收器186经描述为彼此分离,但在其它实施方案中,发射器184和接收器186可被包含在收发器中。
在操作期间,捕获单元164可产生视频内容167并将视频内容167提供到帧缓冲器168。处理器174可从帧缓冲器168接收视频内容167且可根据由模式控制器178指示的模式处理视频内容167。举例来说,在第一模式中,视频编码器176可对待经由发射器184发射到另一装置的视频内容167进行编码。在第二模式中,概要帧产生器180可基于视频内容167而产生概要帧。视频编码器176可对概要帧进行编码以产生经压缩数据177,例如经压缩概要帧。发射器184可接收经压缩数据177且可将经发射经压缩数据185(例如,经发射经压缩概要帧)提供到另一装置。在一些实施方案中,概要帧(或其经压缩版本)可被包含在通知188中。
参看图1C,展示可操作以产生概要帧的系统190的说明性实例。系统190可包含或对应于图1A的系统100或图1B的系统160。
如参看图1B所描述,模式控制器178可经配置以控制视频编码器176压缩一或多个概要帧(由概要帧产生器180产生)抑或压缩视频内容,例如视频内容167或经加索引视频内容170。在一些实施方案中,模式控制器178可包含存储指示摄像机162的模式的值的寄存器。举例来说,如果值为零,那么摄像机162可处于其中视频编码器176经配置以对视频内容167进行编码的第一模式中。如果值为一,那么摄像机162可处于其中视频编码器176经配置成由概要帧产生器180产生的经编码个别概要帧的第二模式中。在图1C的实例中,如果值为二,那么摄像机162可处于其中视频编码器经配置以压缩由概要帧产生器180产生的一群组一或多个概要帧的第三模式(例如,串连模式)中。
在第三模式中,概要帧产生器180可基于时间周期(例如,可编程时间周期)而产生一或多个概要帧。为说明,响应于特定时间周期的期满,概要帧产生器180可分析在特定时间周期期间产生的视频内容167的部分以基于视频内容167的部分而产生一或多个概要帧。在一些实施方案中,通知产生器182可产生通知188以包含基于视频内容167的部分而产生的一或多个概要帧。在串连模式期间,视频编码器176可压缩由概要帧产生器180基于视频内容167的部分而产生的一或多个由概要帧。举例来说,在一些实施方案中,视频编码器176可压缩由概要帧产生器180产生的不同概要帧(例如,多个概要帧)的串连。
在194处描绘概要帧串连196的说明性实例。概要帧串连196的实例194包含第一概要帧198、第二概要帧199和经串连元数据197。在一些实施方案中,第一概要帧198可与包含在视频内容167中的第一运动事件相关联,且第二概要帧199可与包含在视频内容167中的第二运动事件相关联。经串连元数据197可包含对应于第一概要帧198的第一元数据和对应于第二概要帧199的第二元数据的全部或一部分的组合。尽管概要帧串连196经描述为包含多个相异概要帧,但在其它实施方案中,概要帧串连196可包含单一经串连概要帧。为说明,第一概要帧198可包含第一对象的第一组表示且第二概要帧199可包含第二对象的第二组表示。经串连概要帧可包含第一对象的第一组表示和第二对象的第二组表示。可在集中概要帧的共同背景上呈现第一对象的第一组表示和第二对象的第二组表示。在一些实施方案中,概要帧串连196可对应于通知188。
在系统190的操作期间,捕获单元164可产生视频内容167且将视频内容167提供到帧缓冲器168。处理器174可从帧缓冲器168接收视频内容167且可根据由模式控制器178指示的模式处理视频内容167。举例来说,在第三模式中,视频编码器176可对与特定时间周期相关联的一或多个概要帧进行编码。一或多个概要帧可经组合(例如,被包含在)概要帧串连,例如概要帧串连196。视频编码器176可对概要帧串连196进行编码以产生经压缩数据192,例如经压缩概要帧串连。发射器184可接收经压缩数据192且可将经发射经压缩数据193(例如,经发射经压缩概要帧串连)提供到另一装置。在一些实施方案中,概要帧串连196(或其经压缩版本)可被包含在通知188中。
参看图2,展示可操作以产生概要帧的系统200的说明性实例。系统200包含图1A的概要帧产生器120。概要帧产生器120经配置以接收图像帧240,例如多个图像帧。举例来说,图像帧240可包含或对应于图1A的视频内容140或图1B-1C的视频内容167。可从存储单元(未示出)(例如,缓冲器或存储器),或从捕获单元(未示出)(例如,图1B-1C的捕获单元164)接收图像帧240。图像帧240可包含系列图像帧,例如图像帧241到246。在一些实施方案中,产生图像帧240的捕获单元经安装在固定(和静止)位置中且摄像机的视野的背景可被认为是静止的。举例来说,背景可包含针对延长时间周期保持固定(或相对固定)的特征,例如建筑物、树、标志等。
概要帧产生器120可包含背景产生器210、事件检测器212、关键帧选择器214和组合器228。在一些实施方案中,图像帧240可在逐帧基础上由概要帧产生器120接收。可将由概要帧产生器120接收的图像帧240中的每一帧提供到背景产生器210、事件检测器212和关键帧选择器214。
背景产生器210可经配置以基于图像帧240中的至少一个帧而产生(例如,维持)背景模型230。举例来说,背景产生器210可使用一或多个方法(例如,帧差分化、平均滤波、高斯平均、背景混合模型化、调查等)来产生背景模型230。在一些实施方案中,背景产生器210可在背景产生器210接收新图像帧时连续更新背景模型230。可将背景模型230提供到事件检测器212、组合器228或两者。
事件检测器212可经配置以基于图像帧240而检测运动事件的开始和结束。开始与结束之间的时间周期可被称作运动事件周期。事件检测器212可经配置以确定运动事件周期的开始和结束。作为说明性而非限制性实例,事件检测器212可通过执行一或多个检测算法(例如,图像片段、色彩片段、图像滤波、加速片段测试特征(FAST)、加速稳健特征(SURF)、尺度不变特征变换(SIFT)、拐角检测、边缘检测、背景相减、二进制大对象检测等)来检测运动事件周期。举例来说,事件检测器212可使用背景相减和前景运动检测来确定运动事件周期的开始和结束。另外或替代地,可使用一或多个分类算法、情景的语意分析算法或其组合来检测运动事件周期。
可响应于在图像帧240(例如,视频内容)的特定帧中检测运动(例如,移动)而识别运动事件周期的开始。作为说明性而非限制性实例,事件检测器212可使用背景相减来检测图像帧240中的运动。背景相减为其中确定(图像帧240的)第一特定帧与参看帧(其可被称作背景图像或背景模型(例如,背景模型230))之间的差异的图像处理技术。第一特定帧与第一背景图像之间的差异可与至少一个前景对象(有时被称作二进制大对象或前景二进制大对象)相关联。如果第一特定帧与背景图像之间的差异大于或等于第一阈值,那么事件检测器212可指示检测到运动事件周期的开始(例如,在特定帧中检测到运动)。为说明,如果第一特定帧之前景二进制大对象的大小(例如,像素数目)大于或等于阈值大小,那么运动事件周期的开始可对应于所述第一特定帧。
举例来说,事件检测器212可经配置以接收图像帧240的特定帧且比较特定图像帧与背景模型230(例如,确定其间的差异)。如果差异(对应于对象)大于或等于阈值,那么事件检测器212可确定运动事件已开始。举例来说,事件检测器212可接收第一图像帧241且可基于第一图像帧241与背景模型230的比较而确定未检测到运动。在接收第一图像帧241之后,事件检测器212可接收第二图像帧242且可基于第二图像帧242与背景模型230的比较而识别运动事件的开始。举例来说,包含在第二图像帧242中的对象(例如,骑自行车的个人)可致使第二图像帧242与背景模型230之间的差异大于或等于阈值。
可响应于停止检测图像帧240中的运动(在检测运动事件周期的开始之后)而识别运动事件周期的结束。举例来说,事件检测器212可在检测到运动事件周期的开始之后确定运动事件周期的结束。可响应于(图像帧240的)第二特定帧与第二背景图像之间的差异小于或等于第二阈值而确定运动事件周期的结束。为说明,如果与第二特定图像相关联的第二前景二进制大对象的大小小于或等于第二阈值,那么事件检测器212可指示第二特定帧与运动事件周期的结束相关联。第一背景模型(例如,第一背景图像)与第二背景模型(例如,第二背景图像)可为相同的或可为不同的。在一些实施方案中,第二背景模型可为第一背景模型的更新版本。
为说明运动事件的结束的识别,事件检测器212可处理随后输入帧以在确定运动事件已开始之后识别运动事件的结束。举例来说,如果所接收图像帧与背景模型230之间的差异小于阈值,那么事件检测器212可识别运动事件的结束。为说明,事件检测器212可接收图像帧246且可基于图像帧246与背景模型230的比较而检测运动事件的结束。在一些实施方案中,事件检测器212可通过比较图像帧240中的两个连续所接收的图像帧而检测运动事件的结束。举例来说,事件检测器212可比较图像帧246与先前所接收图像帧,且如果图像帧246与先前所接收图像帧之间的差异小于或等于第二阈值,那么事件检测器212可识别运动事件的结束。
事件检测器212可将第一指示符232(例如,事件存在指示符)与第二指示符234(例如,事件结束指示符)发送到关键帧选择器214。举例来说,事件检测器212可响应于确定运动事件已开始而发送第一指示符232且可响应于确定运动事件已结束而发送第二指示符。第一指示符232可包含指示对应于运动事件的开始的第一时间戳的数据、对应于运动事件的开始的第一特定图像帧或第一特定图像帧的第一帧索引值,或其组合。第二指示符233可包含对应于运动事件的结束的第二时间戳、对应于运动事件的结束的第二特定图像帧或第二特定图像帧的第二帧索引值、运动事件的持续时间、与运动事件相关联的帧数目、从第一特定图像帧到第二特定图像帧的偏移,或其组合。尽管第一指示符232和第二指示符234经描述为单独指示符,但在其它实施方案中,第一指示符232和第二指示符234可被组合成单一指示符。事件检测器212可响应于确定运动事件的结束而将单一指示符发送到关键帧选择器214。
关键帧选择器214(或包含或实施关键帧选择器214的处理器)可经配置以确定(例如,选择)图像帧240中的多个帧被指定为针对运动事件周期(例如,运动事件)的关键帧236。举例来说,关键帧选择器214可经配置以选择图像帧240中的两个或更多个帧作为关键帧236,如本文中进一步所描述。
关键帧选择器214可包含缓冲器216和事件分析器218。缓冲器216可经配置以存储图像帧240中的一或多个图像帧。在一些实施方案中,缓冲器216可响应于第一指示符232(例如,事件开始指示符)而开始存储一或多个图像帧。在其它实施方案中,缓冲器216可操作为先进先出(FIFO)缓冲器且可继续缓冲所接收图像帧。尽管缓冲器216经描述为被包含在概要帧产生器120中,但在其它实施方案中,缓冲器216可与概要帧产生器120分离。举例来说,缓冲器216可包含或对应于图1A的帧缓冲器110或图1B-1C的帧缓冲器168。作为另一实例,缓冲器216可被包含在包含概要帧产生器120的相同处理器中,例如被包含在图1A的处理器118或图1B-1C的处理器174中。
关键帧选择器214可使用选择算法来选择多个帧(从存储在缓冲器216中的帧)以作为关键帧236提供到组合器228。在一些实施方案中,可线性选择关键帧236。举例来说,关键帧选择器214可选择对应于运动事件周期的图像帧240的部分的每第n帧(或第n个关键帧),其中n为正整数。举例来说,关键帧选择器214可选择图像帧240的部分中每第五百帧以被包含在关键帧236中。在其它实施方案中,关键帧选择器214可选择特定数目个帧作为关键帧236。关键帧236可为图像帧240的子集(例如,对应于运动事件周期的多个图像帧的子集)。为说明,关键帧选择器214可从选择包含在图像帧240的部分中的全部数目个帧选择特定数目个帧(例如,预定数目个帧)。尽管被称作“关键帧”,但应理解关键帧可为或可并非为帧内编码帧(I-帧)。在一些实施方案中,所选择帧可均匀地分布贯穿图像帧240的部分(对应于运动事件)。举例来说,如果特定数目个帧为十个帧且图像帧240的部分(对应于运动事件)的全部数目个帧为一百二十个帧,那么可选择图像帧240的部分的每第12个帧作为关键帧。替代地,可从图像帧240的部分(对应于运动事件)随机选择特定数目个帧,例如每第三图像或在运动事件期间均匀分布的十个关键帧。
在其它实施方案中,关键帧选择器214可使用包含确定运动事件的每一帧的分析结果的非线性技术(例如,非线性选择算法)。非线性程序可选择图像帧240的关键帧来用于形成概要帧,如本文中进一步所描述。所选择关键帧可具有关于运动事件的非线性分布,使得关键帧的选择随机出现(例如,关键帧在运动事件周期期间的时间均匀地分布)。
举例来说,非线性选择技术可根据事件分析结果220(例如,事件测量结果)来选择关键帧236,使得关键帧236的选择随机出现(例如,关键帧236在时间上未均匀地分布),如本文中进一步所描述。帧的事件分析结果220(例如,分析测量值)可表示如与另一帧(例如,参看帧(例如,图像帧240的另一帧、背景模型230等))相比较的相对运动量。可基于二进制大对象的位置、二进制大对象的大小、二进制大对象的形状或其组合而确定相对运动量。为说明,帧的相对运动x(其中x为正整数)可被确定为帧x中的第一二进制大对象与帧x-1(例如,在帧x之前的帧)中的第二二进制大对象之间的差异。在一些实施方案中,相对运动量可被确定为像素数目的改变。在其它实施方案中,可基于第一二进制大对象的位置与第二二进制大对象的位置之间的差异而将相对运动量确定为向量。
在一些实施方案中,关键帧选择器214(例如,事件分析器218)可以逐帧基础添加连续图像帧的多个事件分析结果220以产生累加值。为说明,针对与运动事件周期相关联的每一帧,事件分析器218可通过将帧的事件分析结果220添加到先前累加值来确定对应的累加值。针对每一帧,事件分析器218可比较对应的累加值与固定阈值(例如,预定阈值)。如果对应的累加值大于或等于固定阈值,那么可选择对应于最近添加到累加值的事件分析结果220的帧作为关键帧236中的一者。响应于选择关键帧,可针对下一帧使累加值减少固定阈值或可将其设置为初始值(例如,零)。如果对应的累加值小于固定阈值,那么可使用对应的累加值作为与下一事件分析结果220相关联的下一帧的先前累加值。
在其它实施方案中,可动态地确定阈值以使得能够选择预定数目个关键帧。举例来说,概要帧产生器120可添加与运动事件周期相关联的所有帧(例如,视频内容的部分)的多个事件分析结果220以确定总事件结果。总事件结果可指示(例如,量化)在运动事件周期期间图像帧240(例如,视频内容)的相对运动的总量。事件分析器218可通过使总事件结果除以待选择的关键帧的预定数目来确定对应于运动事件周期的动态阈值。连续图像帧(与视频内容的部分相关联)的分析结果可以逐帧基础组合以产生累加值。为说明,针对与运动事件周期相关联的每一帧,概要帧产生器120可通过将帧的事件分析结果添加到先前累加值来确定对应的累加值。针对每一帧,概要帧产生器120可比较对应的累加值与动态阈值。如果累加值大于或等于动态阈值,那么可将对应的帧识别为关键帧。响应于选择关键帧,可使累加值针对下一帧减少动态阈值或可将其设置为初始值(例如,零)。如果对应的累加值小于动态阈值,那么可使用对应的累加值作为与下一事件分析结果相关联的下一帧的先前累加值。通过将事件分析结果用于每一帧,非线性选择而技术可经配置以在帧集的事件分析结果为高时选择更多帧作为关键帧且在帧集的事件分析结果为低时可选择较少帧。
为实施非线性技术,事件分析器218可包含累加器222和比较器224。累加器222可经配置以在逐图像基础上添加连续图像的事件分析结果220以产生累加值。在一些实施方案中,累加器222可包含加法器、寄存器,或经配置以执行加法运算的其它电路。
比较器224可经配置以比较累加值与阈值226。在一些实施方案中,阈值226可为固定阈值。为说明,针对每一帧,比较器224可比较对应的累加值与固定阈值(例如,预定阈值),且如果所述累加值大于或等于所述固定阈值,那么对应的帧可被选择为关键帧且可被包含在关键帧236中。一旦选择关键帧,那么所述累加值可针对下一帧被设置为初始值(例如,零)或所述累加值可通过从所述累加值减去阈值226的值而经更新。
在其它实施方案中,阈值226可经动态确定以使得能够选择预定数目个关键帧。举例来说,累加器222可添加与运动事件相关联的所有图像帧的事件分析结果220以确定总事件分析结果(例如,总事件测量值)。总事件分析结果可与和对应于运动事件的图像帧240相关联的相对运动总量相关联(例如,量化)。事件分析器218可通过使总事件分析结果除以关键帧的预定数目来确定运动事件的动态阈值(例如,阈值226)。
在确定动态阈值(例如,阈值226)之后,累加器222可在逐图像基础上添加连续图像的事件分析结果以产生对应的累加值。针对每一帧,比较器224可比较所述累加值与所述动态阈值(例如,阈值226),且如果所述累加值大于或等于所述动态阈值,那么对应的帧可被识别为关键帧且可被包含在关键帧236中。一旦选择关键帧,那么所述累加值可针对下一帧被设置为一初始值(例如,零)或所述累加值可通过从所述累加值减去阈值226的一值而经更新。
在一些实施方案中,在接收图像帧240时可选择关键帧236。举例来说,可在确定运动事件周期的结束之前选择与运动事件周期相关联的关键帧236中的一或多者。为说明,如果每第三百帧经选择为关键帧,那么可响应于检测到运动事件周期的开始而开始关键帧选择。在其它实施方案中,可在接收与运动事件相关联的图像帧240的部分之后选择关键帧236。举例来说,可在通过事件检测器212确定(例如,识别)运动事件周期的结束之后选择特定运动事件周期的关键帧236。
关键帧选择器214还可经配置以产生元数据237。元数据237可包含或对应于图1A的元数据124或图1B-1C的元数据187。关键帧选择器214可将元数据237提供到组合器228,可提供元数据237作为概要帧产生器120的输出,或既将元数据237提供到组合器228又提供元数据237作为概要帧产生器120的输出。
组合器228可经配置以产生概要帧238。概要帧238可说明对象的多个表示。对象可被包含在对应于运动事件的图像帧240的部分中。对象可与一或多个经检测二进制大对象相关联或对应于其。包含在概要帧238中的对象的多个表示中的每一者可对应于关键帧236中的一者(例如,从其提取)。举例来说,组合器228可组合来自第一关键帧的对象的第一表示和来自第二关键帧的对象的第二表示以产生概要帧238。
为说明,组合器228可接收背景模型230和关键帧236(例如,帧的子集)。组合器228可针对关键帧236中的每一者经配置以组合来自关键帧的对象的表示与背景模型230。通过组合对象的表示与背景模型230,组合器228可产生概要帧238。因此,概要帧238可概括在单一帧(例如,单一图像)中的运动事件期间的对象的运动。概要帧238可包含或对应于图1的概要帧122。概要帧238的说明性实例经指定为250。在一些实施方案中,可将概要帧238传达(例如,发射)到远离概要帧产生器120的另一装置,例如与概要帧产生器120不同的装置。
在一些实施方案中,可将元数据237、概要帧238或两者提供到索引器(未示出),如参看图6所描述。索引器可经配置以基于元数据237、概要帧238或两者而对视频内容(例如,包含图像帧240的视频内容)加索引。
在一些实施方案中,组合器228可在概要帧238中包含(例如,嵌入)元数据237。尽管元数据237经描述为由关键帧选择器214产生和输出,但在其它实施方案中,组合器228可产生元数据,例如图1A的元数据124或图1B-1C的元数据187。在一些实施方案中,如果组合器228产生元数据,那么关键帧选择器214可不产生元数据237。替代地,在其它实施方案中,组合器228可产生元数据且关键帧选择器可产生元数据237。
在一些实施方案中,由概要帧产生器120确定的运动事件周期可对应于图像帧240的部分。图像帧240的部分可与图像帧240的视频片段(例如,视频剪辑)相关联。视频片段可描绘图像帧的部分的全部,小于图像帧240的部分的全部,或大于图像帧240的部分的全部。为说明,作为说明性而非限制性实例,视频片段可包含与运动事件的开始相关联的第一特定帧、与运动事件的结束相关联的第二特定帧,和在第一特定帧与第二特定帧之前、之后或之间的图像帧240中的一或多个帧。
在一些实施方案中,概要帧产生器120(例如,事件检测器212)可经配置以基于一或多个图像处理技术(例如,检测技术、分类技术、语意分析技术或其组合)而检测运动事件周期(例如,运动事件周期的开始或结束)。检测技术可包含二进制大对象检测(如上文所描述)或对象检测。对象检测可用于检测图像帧240中的一或多个对象。可检测的对象的说明性而非限制性实例包含行人、面部、汽车、火灾、烟、水(例如,洪水)等。在一些实施方案中,可响应于在图像帧240(例如,视频内容)中检测到特定对象而确定运动事件周期的开始且可当在图像帧240(例如,视频内容)中不再检测到特定对象时确定运动事件周期的结束。
分类技术可使用一或多个分类器(例如,情景分类器、对象分类器、面部分类器、声音和语音辨识器(在视频内容伴随有音频内容的条件下),或其组合)来分类帧、或其部分。情景分类器可确定帧描绘室内情景抑或室外情景。如果确定室内情景,那么可将帧分类为办公室、教室、商店、图书馆、饭店、起居室等。替代地,如果确定室外情景,那么可将帧分类为街景、风景、海滩、海洋、高山、森林、建筑物等。对象分类器可确定所检测对象是否为人类、汽车、自行车、包、箱子、家养宠物等。如果所检测对象为人类,那么面部分类器可识别所述个人为谁、性别、情绪等。在一些实施方案中,如果图像帧240(例如,视频内容)伴随有音频内容,那么声音和语音分类器可确定是否有人在讲话且表征所讲内容。另外或替代地,声音和语音分类器可识别一或多个声音,例如枪声、雷声、喇叭、汽笛或警报等。在一些实施方案中,与图像帧240(例如,视频内容)的帧相关联的分类器的指示可被包含在元数据中。
情景的语意分析可包含自动情景理解或用户预定义事件检测。自动情景理解的实例可包含检测人打斗。打斗可在发现多个行人具有特定肢体动作时被检测、可与特定声音和语音相关联,或其组合。检测打斗可适用于特定环境或位置,例如在监狱中。语意分析的另一实例可涉和用户定义事件。举例来说,概要帧产生器120的用户可在由捕获单元(例如,摄像机)捕获的街景(对应于背景)的情景中定义禁停车区域。当在禁停车区域中检测到汽车且司机已离开所述汽车时可检测禁停车区域中违规停车的事件。
可对整个帧或帧的部分实施一或多个图像处理技术(例如,检测技术、分类技术、语意分析技术,或其组合)。举例来说,帧的部分可对应于在已对帧执行背景相减之后检测到之前景二进制大对象。通过将一或多个图像处理技术应用于图像的部分上而非其全部,一或多个图像处理技术可被更快速地执行且可使用较少功率。
因此,图2的系统200可经配置以产生概要帧238。概要帧238可说明包含在图像帧240中且对应于运动事件的对象的多个表示。概要帧238可概括包含在可由用户迅速观看的单一图像中的图像帧240中的对象的运动。因此,用户可能够基于概要帧238且无需必须观察对应于运动事件的视频剪辑而理解运动事件。
参看图3,描绘产生概要帧的方法300的第一说明性实例的流程图。概要帧可包含或对应于概要帧122、图1A的概要帧150、图2的概要帧238或概要帧250。方法300可由图1A的系统100、图1B的系统160、图1C的系统190、图2的系统200(例如,概要帧产生器120)或其组合执行。
在302处,可接收视频内容的图像帧(例如,图像帧的流的图像帧)。举例来说,视频内容可包含或对应于图1A的视频内容140、图1B-1C的视频内容167或图2的图像帧240。在306处,可作出在帧中是否检测到活动(例如,运动)的确定。举例来说,可通过图2的事件检测器212来执行视频分析和活动确定。为说明,视频分析和活动测试可与执行一或多个检测算法(例如,图像片段、色彩片段、图像滤波、加速片段测试特征(FAST)、加速稳健特征(SURF)、尺度不变特征变换(SIFT)、拐角检测、边缘检测、背景相减、二进制大对象检测等)相关联。另外或替代地,视频分析和活动测试可与使用一或多个分类算法、情景的语意分析算法或其组合相关联。为说明,为检测帧中的运动,可对特定帧执行背景相减以确定前景二进制大对象。在306处,可确定前景二进制大对象的大小且比较其与阈值大小以确定是否检测到活动(例如,运动)。
如果检测到运动,那么方法300可在308处确定是否已检测到运动事件的开始。如果运动事件尚未开始,那么方法300可在310处指示运动事件的开始,且方法300可前进以在312处确定帧的事件分析结果。替代地,如果运动事件已开始,那么方法300可前进到312(例如,可认为所检测活动为正在进行运动事件的部分而非新运动事件的开始)。
方法300可在314处部分地基于事件分析结果而确定是否保持所接收帧。在312处,确定事件分析结果,且确定是否保持所接收帧(314)可包含或对应于确定对应于帧的事件分析结果(例如,相对运动值),基于所述事件分析结果而确定累加值,和比较累加值与阈值。举例来说,这些操作可由图2的关键帧选择器214(例如,事件分析器218)执行。
如果作出保持所接收帧的确定,那么在316处可缓冲所接收帧,且方法300可前进以在318处识别视频内容的下一帧。经缓冲帧可包含或对应于关键帧,例如图2的关键帧236。在一些实施方案中,在316处,还可缓冲或以其它方式存储经缓冲帧的元数据。替代地,如果作出不保持(例如,摒弃)所接收帧的确定,那么方法300可前进到318而无需缓冲帧。在318处识别下一帧之后,方法可返回到302。
在306处,如果未检测到活动,那么方法300可在322处确定是否已检测到运动事件的开始(例如,运动事件是否已开始)。如果运动事件尚未开始,那么方法300可前进到318。如果运动事件已开始,那么方法300可在324处指示事件的结束。
在事件已在324处结束之后,在328处,可从缓冲器检索经缓冲帧(例如,关键帧)且可使用经缓冲帧来产生概要帧。可使用在316处经缓冲的图像帧来产生概要帧。举例来说,概要帧可包含或对应于概要帧122、图1的概要帧150、图2的概要帧238或概要帧250。
在一些实施方案中,方法300可在330处任选地产生与概要帧相关联的元数据。举例来说,经缓冲的帧的元数据的部分可经组合以产生概要帧的元数据的至少一部分。在一些实施方案中,概要帧的元数据可指示使用经缓冲帧中的哪些来产生概要帧。
因此,图3的方法300说明在确定运动事件的结束之前选择并缓冲一或多个帧(例如,关键帧)。响应于运动事件的结束,可存取经缓冲关键帧以产生概要帧。
参看图4,描绘产生概要帧的方法400的第二说明性实例的流程图。概要帧可包含或对应于图1的概要帧150、概要帧122;图2的概要帧238或概要帧250。方法400可由图1A的系统100、图1B的系统160、图1C的系统190、图2的系统200(例如,概要帧产生器120)或其组合执行。
在402处,可接收视频内容的图像帧(例如,图像帧的流)。举例来说,视频内容可包含或对应于图1A的视频内容140、图1B-1C的视频内容167或图2的图像帧240。在406处,可作出在帧中是否检测到活动(例如,运动)的确定。举例来说,可通过图2的事件检测器212来执行视频分析和活动确定。为说明,视频分析和活动测试可与执行一或多个检测算法(例如,图像片段、色彩片段、图像滤波、加速片段测试特征(FAST)、加速稳健特征(SURF)、尺度不变特征变换(SIFT)、拐角检测、边缘检测、背景相减、二进制大对象检测等)相关联。另外或替代地,视频分析和活动测试可与使用一或多个分类算法、情景的语意分析算法或其组合相关联。为说明,在406处,活动测试可对特定帧执行背景相减以确定前景二进制大对象。在406处,可确定前景二进制大对象的大小且比较其与阈值大小以确定特定帧是否对应于活动(例如,运动)。
如果检测到运动,那么方法400在408处确定是否已检测到运动事件的开始。如果运动事件尚未开始,那么方法300可在410处指示运动事件的开始,且方法400可前进以在412处确定帧的事件分析结果。替代地,如果运动事件已开始,那么方法400可前进到412(例如,可认为所检测活动为正在进行运动事件的部分而非新运动事件的开始)。
在412处,方法400可确定事件分析结果。事件分析结果可经确定对应于帧。举例来说,事件分析结果可为相对运动值、多个帧的累加值(例如,事件的总相对运动值),或其两者。举例来说,可通过图2的关键帧选择器214(例如,事件分析器218)来确定事件分析结果。
在412处的事件分析之后,方法400可在416处缓冲(在缓冲器处)帧。在一些实施方案中,在416处,还可缓冲或以其它方式存储经缓冲帧的元数据。方法400可前进以在418处识别视频内容的下一帧。在于418处识别下一帧之后,方法可返回到402。
在406处,如果未检测到活动,那么方法400可在422处确定是否已检测到运动事件的开始(例如,运动事件是否已开始)。如果运动事件尚未开始,那么方法400可前进到418。如果运动事件已开始,那么方法400可在424处指示事件的结束。
在事件已在424处结束之后,方法400可在426处选择一或多个经缓冲帧作为关键帧。举例来说,关键帧选择可由关键帧选择器214(例如,事件分析器218)执行且关键帧可包含或对应于图2的关键帧236。为说明,响应于事件结束,可识别累加值(例如,事件的总相对运动值)。可通过使事件的总相对运动值除以待选择的关键帧的预定数目来确定阈值。在确定阈值之后,在416处可在逐帧基础上处理经缓冲帧以确定对应于帧的事件分析结果(例如,相对运动值),基于事件分析结果而确定累加值,和比较所述累加值与阈值。如果特定累加值大于或等于阈值,那么可选择对应于特定累加值的特定帧作为关键帧(例如,供在概要帧产生期间使用)。
方法400可包含在428处产生概要帧。举例来说,概要帧可包含或对应于图1的概要帧122、概要帧150;图2的概要帧238或概要帧250。
在一些实施方案中,方法400可在430处任选地产生与概要帧相关联的元数据。举例来说,经选择为关键帧的一或多个经缓冲的帧的元数据的部分可经组合以产生概要帧的元数据的至少一部分。在一些实施方案中,概要帧的元数据可指示使用哪些经缓冲帧来产生概要帧。
因此,图4的方法400说明在确定运动事件的结束之后选择一或多个关键帧。一或多个关键帧的部分可经组合以产生概要帧。
参看图5,展示可操作以产生并传达概要帧的系统500的说明性实例。系统500可包含视频系统502和装置550。在一些实施方案中,视频系统502可为视频监控系统,例如闭路电视(CCTV)系统。另外或替代地,参看图5所描述的技术可与电子装置、移动装置、运载工具、游戏主机、自动系统主机(例如,ADAS)、可穿戴装置(例如,个人安装摄像机)、头戴式显示器(HMD)等一起使用。另外实例包含(但不限于)机器人或机器人装置、无人航空运载工具(UAV)和遥控飞机。
视频系统502可经由网络570以通信方式耦合到装置550。网络570可包含有线网络、无线网络或其组合。
视频系统502可包含控制器510和一或多个捕获单元,例如一或多个摄像机。举例来说,视频系统502可包含单一摄像机或可包含多个摄像机,例如第一摄像机530和第二摄像机532。第一摄像机530、第二摄像机532或两者可包含或对应于图1B-1C的摄像机162。在一些实施方案中,控制器510可包含或对应于装置(例如,图像处理装置),作为说明性而非限制性实例,例如计算机、服务器、平板计算机、路由器、摄像机等。控制器510可经由第一连接536耦合到第一摄像机530且可经由第二连接538耦合到第二摄像机532。第一连接536和第二连接538中的每一者可包含有线连接、无线连接,或其组合。在一些实施方案中,第一摄像机530或第二摄像机532可包含因特网协议(IP)摄像机。尽管视频系统502经描述为具有两个摄像机,但在其它实施方案中,视频系统502可包含多于两个摄像机或少于两个摄像机。
第一摄像机530和第二摄像机532中的每一者可经配置以产生摄像机的对应视野的视频内容。视频内容可包含系列图像帧。举例来说,第一摄像机530可经配置以产生视频内容534(例如,多个图像帧)。视频内容534可包含或对应于图1A的视频内容140、图1B-1C的视频内容167或图2的图像帧240。在一些实施方案中,第一摄像机530、第二摄像机532或两者可包含对应的存储器。举例来说,第一摄像机530可包含经配置以存储一或多个由第一摄像机530产生的图像帧(例如,视频内容534)的存储器531。
第一摄像机530、第二摄像机532或两者可被安装在固定(且静止)位置中。如果第一摄像机530被安装在固定且静止位置中,第一摄像机530的视野的背景可被认为是静止的。举例来说,视频内容534(例如,视频流)的背景可包含针对延长时间周期保持固定(或相对固定)的特征,例如建筑物、树、标志等。
控制器510可包含存储器512、处理器518和通知产生器526。控制器510可从例如第一摄像机530和第二摄像机532的一或多个摄像机接收视频内容,且可将视频内容提供到处理器518。举例来说,处理器518可从第一摄像机530接收视频内容534。
存储器512可包含经加索引视频内容514和装置信息516。经加索引视频内容514可包含视频内容534和索引数据513。可如参看图6所描述产生索引数据513。举例来说,可通过处理器518(例如,索引器)来产生索引数据513。索引数据513可包含索引元数据515和一或多个概要帧521。索引元数据515可包含指示视频内容534的一或多个播放位置的标记数据。作为实例,标记数据可包含到视频内容534的存储位置的链接(例如,统一资源定位符(URL))且链接的选择可起始在第一播放位置处开始的视频内容534的播放。第一播放位置可对应于与一或多个概要帧521的第一概要帧相关联的运动事件的开始。另外或替代地,索引元数据515可包含指示视频内容534的部分的第二播放位置的第二标记数据。第二播放位置可对应于用于产生包含在第一概要帧中的对象的多个表示的第一表示的视频内容534的帧。
在一些实施方案中,索引数据513可包含多个概要帧,例如第一概要帧和第二概要帧。第二概要帧可与视频内容534的第二部分相关联且可说明被包含在视频内容534的第二部分中的第二对象的多个表示。在此实例中,索引元数据515可包含指示对应于视频内容534的第二部分的第三播放位置的第三标记数据。
在一些实施方案中,如果索引数据513包含多个概要帧,索引元数据515可为经串连元数据,例如已通过组合对应于(一或多个概要帧521中的)第一概要帧的元数据的至少一第一部分与对应于(一或多个概要帧521中的)第二概要帧的元数据的至少一第二部分而产生的元数据。在580处,描绘经串连元数据586的说明性实例。经串连元数据586包含链接581-585。链接581-585中的每一者对应于视频内容534的不同播放位置。第一链接581对应于与第一概要帧相关联的运动事件的开始时的第一帧。第二链接582对应于用于产生第一概要帧的视频内容534的第二帧(例如,第一关键帧)。第三链接583对应于用于产生第一概要帧的视频内容534的第三帧(例如,第二关键帧)。第四链接584对应于与第二概要帧相关联的运动事件的开始时的第四帧。第五链接585对应于用于产生第二概要帧的视频内容534的第五帧(例如,关键帧)。因此,在特定方面中,概要帧的元数据可为可用于“跳”到视频内容内的特定时间点的播放列表。
装置信息516可与可经配置以远程存取视频系统502或可从视频系统502接收数据的装置550相关联。举例来说,装置信息516可包含指示装置550的装置地址(例如,电子邮件地址、电话号码等)的数据。
例如数字信号处理器(DSP)、中央处理单元(CPU)或图形处理单元(GPU)的处理器518可包含概要帧产生器520。概要帧产生器520可包含或对应于图1A的概要帧产生器120或图1B-1C的概要帧产生器180。处理器518(例如,概要帧产生器520)可经配置以检测对应于视频内容534的部分的运动事件周期(例如,运动事件的开始、运动事件的结束或两者)。对应于运动事件周期的视频内容534的部分可被称作视频片段548(例如,视频剪辑)。在一些实施方案中,可将视频片段548存储在存储器512中。
处理器518(例如,概要帧产生器520)可经进一步配置以产生与视频内容534的部分相关联的概要帧522。举例来说,视频内容534的部分可描绘与对象相关联的运动事件。概要帧522可提供视频内容534的部分的视觉概要。举例来说,概要帧522(例如,图1A的概要帧122、第一概要帧198、图1C的概要帧199、图2的概要帧238或概要帧250)可说明对象的多个表示。为产生概要帧522,处理器518(例如,概要帧产生器520)可经配置以选择一或多个关键帧,例如图2的关键帧236。举例来说,处理器518可组合来自第一关键帧的对象的第一表示和来自第二关键帧的对象的第二表示以产生概要帧522。
处理器518可经进一步配置以产生与概要帧522相关联的元数据524。元数据524可包含或对应于图1A的元数据124或图1B-1C的元数据187。元数据524可包含视频片段548(对应于运动事件周期)的识别符,用于产生包含在概要帧522中的对象的表示的关键帧的指示、与运动事件周期的开始相关联的第一时间戳、与运动事件周期的结束相关联的第二时间戳、与产生视频内容534的第一摄像机530相关联的摄像机识别符、到经加索引视频内容514(或视频片段548)存储于其中的存储器512的存储位置的链接,或其组合。在一些实施方案中,元数据524可被包含在(例如,嵌入在)概要帧522中。另外或替代地,可将元数据524存储在存储器512处。为说明,元数据524可被包含在存储在存储器112处的经加索引视频内容514或视频片段548中。
在一些实施方案中,处理器518可经配置以对视频内容534加索引以产生经加索引视频内容514。举例来说,可根据以下各项来对视频内容534加索引:对应于运动事件周期的开始的第一特定帧、与运动事件周期相关联的关键帧中的一或多者、对应于运动事件周期的结束的第二特定帧,或概要帧522,或其组合。参看图7A-7B描述使用一或多个概要帧来对视频内容加索引的实例。作为另一实例,可基于施加于第一特定帧的偏移、关键帧中的一或多者、第二特定帧或其组合来对视频内容534加索引。为说明,可在对应于运动事件周期的开始的第一特定帧之前使用处于第一偏移值(例如,六十个帧)的帧且在对应于运动事件周期的结束的第二特定帧之后使用处于第二偏移值(例如,三十个帧)的另一帧对视频内容534加索引。在一些实施方案中,处理器518可将与运动事件周期相关联的视频片段548存储在存储器512处。举例来说,可将视频片段548与经加索引视频内容514分离地(除所述经加索引视频内容外或替代所述经加索引视频内容)存储在存储器512处。
通知产生器526可经配置以接收概要帧522、元数据524,或两者,且识别一或多个装置(例如,装置550)以接收概要帧522。举例来说,响应于接收概要帧522,通知产生器526可识别元数据524且可确定产生视频内容534的第一摄像机530的摄像机识别符。通知产生器526可存取装置信息516且基于第一摄像机530的摄像机识别符而识别一或多个装置。为说明,通知产生器526可确定装置550将响应于所检测运动事件而被通知且可识别被包含在装置信息516中的地址(与装置550相关联)。通知产生器526可产生包含与运动事件周期相关联的概要帧522、元数据524,或识别已产生概要帧522的指示符的通知540。在一些实施方案中,作为说明性而非限制性实例,通知540可包含电子邮件或短消息服务(SMS)消息。视频系统502(例如,控制器510)可经由网络570(例如,无线网络)将通知540发送到地址(例如,装置550)。
装置550可包含接收器552、发射器554、显示器556、处理器558、存储器560和接口562。在一些实施方案中,接收器552、发射器554或两者可被包含在收发器(未示出)中。接收器552可经配置以从视频系统502接收通知540。
显示器556可经配置以呈现包含多个图像帧的图像(例如,图像帧)或视频内容。举例来说,显示器556可经配置以呈现概要帧522。通过呈现与运动事件周期相关联且包含对象的多个表示的概要帧522,装置550的用户可快速地检视概要帧522以理解在运动事件周期发生的活动。
接口562可包含用户接口,例如小键盘、触摸屏幕、麦克风、摄像机、运动传感器(例如,超声波或红外线传感器)、无线接口等。在一些实施方案中,接口562可对应于经由显示器556呈现的图形用户接口(GUI)。接口562可经配置以接收输入,例如对应于播放对应于概要帧522的视频内容534的部分的选择的输入。举例来说,输入可与对对应于概要帧522的视频片段548(例如,视频内容534的视频剪辑)的请求544相关联。为说明,响应于在装置550处检视概要帧522,装置550的用户可请求查看对应于概要帧522的视频片段548(例如,视频剪辑)。因此,用户可经由接口562提供输入以起始请求544。
例如数字信号处理器(DSP)、中央处理单元(CPU)或图形处理单元(GPU)的处理器558可耦合到存储器560。存储器560可经配置以存储数据、指令或两者。处理器558可经配置以执行存储在存储器560中的软件(例如,一或多个指令的程序)。响应于经由接口562接收的输入,处理器558可产生对对应于由概要帧522概括的运动事件的视频片段548的请求544。在一些实施方案中,请求544可包含可用于验证装置550(或用户)经授权以接收视频片段548的鉴认信息546。另外或替代地,作为说明性而非限制性实例,请求544可包含识别概要帧522的元数据524的至少一部分、运动事件周期,或其组合。处理器558可起始将请求544发送到视频系统502(例如,控制器510)。发射器554可经配置以经由网络570(例如,经由至少一个网络)将请求544发射到视频系统502。
控制器510可从装置550接收请求544且可验证装置550经授权以接收与概要帧522相关联的视频片段548。举例来说,控制器510可验证包含在从装置550接收的鉴认信息546中的用户名称和密码。为说明,控制器510可使用装置信息516来验证用户名称和密码。
响应于请求544,控制器510可识别对应于概要帧522的视频片段548。举例来说,控制器510可基于被包含在请求544中的元数据524的部分而识别视频片段548。在一些实施方案中,控制器510(例如,处理器518)可检索存储在存储器512处的视频片段548。在其它实施方案中,元数据524的部分可包含使得控制器510能够存取对应于视频片段548的经加索引视频内容514的部分的索引识别符。控制器510可经由网络570将视频片段548发送到装置550。通知540(包含概要帧522)的第一数据大小可小于视频片段548的第二数据大小。因此,包含概要帧522(且不包含视频片段548)的通知540可使用较少网络带宽且相较包含视频片段548的通知可被更快速地提供到装置550。
在操作期间,控制器510可检测对应于从第一摄像机530接收的视频内容534(例如,多个图像帧)的运动事件周期。控制器510可产生说明对象的多个表示的概要帧522。对象可被包含在视频内容534的对应于运动事件周期的部分中。在产生概要帧522之后,概要帧522可被包含在被发送到装置550的通知540中。
装置550可从视频系统502(例如,视频监控系统)接收运动事件周期的通知540。装置550可经由显示器556呈现包含在通知540中的概要帧522。经由显示器556呈现的概要帧522可向装置550的用户提供概括对应于运动事件周期的视频内容534的单一图像。为说明,视频系统502可被安装在装置550的用户的住宅处且第一摄像机530可被安装在住宅上以具有与住宅的前门外部的情景相关联的视野。控制器510可每当例如送货员的人接近前门时检测运动事件周期且可产生对应的概要帧,所述对应的概要帧被发送到装置550。
在接收包含概要帧522的通知540之后,装置550可将对与概要帧522相关联的视频片段548(对应于运动事件周期的视频片段548)的请求544发送到视频系统502(例如,控制器510)。视频系统502(例如,控制器510)可从装置550接收请求544,且响应于请求544,可将视频片段548发送到装置550。装置550可接收视频片段548且可将视频片段548存储在存储器560处。另外或替代地,装置550可经由装置550的显示器556呈现视频片段548。在一些实施方案中,视频片段548可响应于请求544从视频系统502流式传输到装置550。
在一些实施方案中,通知540可包含单一概要帧,例如概要帧522。在其它实施方案中,通知540可包含多个概要帧。举例来说,处理器518可检测与视频内容534的第一部分相关联的第一运动事件周期且可检测与由第一摄像机530或由第二摄像机532产生的第二视频内容的第二部分相关联的第二运动事件周期。处理器518可产生与第一运动事件周期相关联的概要帧522且可产生与第二运动事件周期相关联的第二概要帧。通知540可包含概要帧522和第二概要帧。第一运动事件可具有与第二运动事件的第二持续时间相同或不同的第一持续时间。在一些实施方案中,第一持续时间和第二持续时间可不限于最小或最大时间量。在其它实施方案中,第一持续时间或第二持续时间中的至少一者的时间可有限,使得第一持续时间或第二持续时间大于第一阈值,小于第二阈值,或既大于第一阈值又小于第二阈值。替代地或另外,第一运动事件周期和第二运动事件周期的时间可至少部分地重叠。在其它实施方案中,第一运动事件和第二运动事件的时间可不重叠。
在一些实施方案中,通知产生器526可经配置以响应于确定运动事件周期的结束而产生通知540。另外或替代地,可响应于产生概要帧522而产生通知540。在其它实施方案中,通知产生器526可经配置从而以预定间隔产生通知。作为说明性而非限制性实例,通知产生器526可每三个小时产生一通知。任选地,如果在前三小时周期期间未检测到任何运动事件,那么可产生无概要帧的通知。作为另一实例,第一间隔可为八小时长且可从9a.m.到5p.m.发生,且第二间隔可为一小时长且可从5p.m.到9a.m.发生数次。如果通知产生器526以预定间隔产生通知,那么每一通知可包含由于发送最近通知而产生的一或多个概要帧。在一些实施方案中,如果尚未产生任何概要帧,那么通知产生器526可不以每一预定间隔发送通知。举例来说,如果在第一时间与第二时间尚未产生概要帧且如果第二时间对应于预定时间间隔,那么通知产生器526在第二时间可不发送通知。
在一些实施方案中,如果视频系统502(例如,控制器510)经配置以在预定时间(例如,在时间周期之后)发送通知,那么存储器512可经配置以在时间周期期间存储视频内容(或其帧)。在预定时间处,概要帧产生器520可经配置以存取所存储视频内容且分析视频内容以识别包含在视频内容中的运动事件。针对每一所识别运动事件,概要帧产生器520可产生对应的概要帧。基于视频内容(与时间周期相关联)而产生的每一概要帧可被包含在由通知产生器526产生的相同通知中。
在一些实施方案中,装置550可包含在视频系统502与装置550之间实现安全通信的应用程序(例如,可由处理器558执行的软件应用程序)。在这些实施方案中,可使用所述应用程序来传达通知540、请求544、视频片段548,或其组合。另外或替代地,应用程序可使得装置550能够存取视频系统502。举例来说,作为说明性而非限制性实例,应用程序可使得装置550能够存取存储器512(例如,装置信息516或经加索引视频内容514的至少一部分)、由第一摄像机530产生的视频内容534、由第二摄像机532产生的视频内容。在一些实施方案中,应用程序可使得装置550的用户能够设置与概要帧、通知或两者的产生和发射相关联的一或多个偏好。举例来说,作为说明性而非限制性实例,一或多个偏好可指示将通知发送到装置的频率,装置550将接收关于哪些摄像机的通知,或针对运动事件周期选择多少关键帧。
尽管控制器510已被描述为与一或多个摄像机分离,但在其它实施方案中,控制器510或其组件可被包含在摄像机(例如,第一摄像机530、第二摄像机532或两者)中。作为说明性而非限制性实例,第二摄像机532可包含存储器(例如,存储器512)和图像处理器(例如,处理器518)。在一些实施方案中,第一摄像机530的存储器531可对应于控制器510的存储器512。举例来说,存储器531可经配置以存储经加索引视频内容514、装置信息516,或其组合。
在一些实施方案中,第一摄像机530可经配置以产生一或多个概要帧,且将一或多个概要帧提供到控制器510(其与第一摄像机530分离)或提供到装置550。举例来说,在一些实施方案中,第一摄像机530可经由网络570将包含第一概要帧的第一通知发送到装置550。作为另一实例,在其它实施方案中,第一摄像机530可产生第一概要帧且可经由第一连接536将包含第一概要帧的第一通知发送到控制器510。在接收到第一通知之后,控制器510可经由网络570将包含第一概要帧的第二通知发送到装置550。在一些实施方案中,可将视频内容、经加索引视频内容、视频片段或概要帧存储在第一摄像机530的存储器531、控制器510的存储器512或两者处。
在一些实施方案中,存储器512可存储参数、设置或与视频系统502的操作相关联的其它信息。举例来说,作为说明性而非限制性实例,视频系统502的参数或设置可包含或指示装置信息516、帐户信息(例如,用户名称、用户地址、经授权由用户存取的一或多个摄像机)、模式值(例如,指示由图1B-1C的模式控制器178规定的模式)、与串连模式相关联的一或多个时间周期、摄像机位置信息,或其组合。为说明,存储器512可存储与概要帧产生器520的操作相关联的参数或设置。举例来说,作为说明性而非限制性实例,与概要帧产生器520的操作相关联的参数或设置可包含或指示将使用多个关键帧来产生概要帧522、模式值(例如,指示由图1B-1C的模式控制器178规定的模式)、与串连模式相关联的一或多个时间周期、一或多个阈值(例如,图2的阈值226),或其组合。另外或替代地,参数或设置可与通知产生器526的操作相关联。举例来说,作为说明性而非限制性实例,与通知产生器526相关联的参数或设置可包含或指示模式值(例如,指示由图1B-1C的模式控制器178规定的模式)、与串连模式相关联的一或多个时间周期、通知540的消息格式、通知是否包含概要帧产生器520、元数据524或视频片段548,或其组合。
尽管一或多个方面在本文中可被描述为包含在特定装置处执行的操作,但应理解,在其它实例中,这些操作、组件或装置可与“云”相关联。举例来说,在其它实施方案中,视频内容534、经加索引视频内容514、装置信息516、概要帧522、元数据524或其组合可被存储在被包含在网络570中的装置(例如,服务器)处。另外或替代地,概要帧产生器520可被包含在网络570中。
如与发送包含与运动事件周期相关联的视频片段548(例如,视频剪辑)的通知相比,通过发送包含与运动事件周期相关联的概要帧522的通知540,可减少通知540的数据大小。因此,相较包含视频片段548的通知,可使用较少功率和较少带宽更快速地将包含概要帧522(且不包含视频片段548)的通知540提供到装置550。另外,通过发送概要帧522替代发送视频片段548,装置550的用户可更快速地检视概要帧522以理解在运动事件周期发生的活动。
参看图6,展示可操作以使用概要帧来对视频内容加索引的系统600的说明性实例。系统600可包含或对应于图1A的系统100、图1B-1C的系统160、系统200或图5的系统500(例如,视频系统502、控制器510、第一摄像机530、第二摄像机532或装置550)。
系统600可包含装置602。作为说明性而非限制性实例,装置602可包含播放装置,例如计算机、手提式计算机、移动装置、摄像机或服务器。在一些实施方案中,装置602可被包含在视频监控系统(例如,闭路电视(CCTV)系统)中。另外或替代地,装置602可包含以下各项或被包含在以下各项中:电子装置、移动装置、运载工具、游戏主机、自动系统主机(例如,ADAS)、可穿戴装置(例如,个人安装摄像机)、头戴式显示器(HMD)等。额外实例包含(但不限于)机器人或机器人装置、无人航空运载工具(UAVs)和遥控飞机。此外,尽管一或多个方面在本文中可被描述为包含在装置处执行的操作,但应理解,在其它实例中,可在“云”中执行这些操作。
装置602可包含存储器612、输入装置632、处理器618和显示器628(例如,屏幕)。存储器612可包含视频内容614。在一些实施方案中,视频内容614可被存储为具有文件名称的数据文件。视频内容614可包含或对应于图1A的视频内容140、图1B-1C的视频内容167、图2的图像帧240,或图5的视频内容534。在一些实施方案中,存储器612可包含多个数据文件(例如,多个视频文件)且每一数据文件可对应于不同视频内容。举例来说,多个数据文件的第一文件可对应于第一视频内容且多个数据文件的第二数据文件可包含或对应于第二视频内容。
输入装置632可经配置以接收一或多个输入。输入装置632(例如,用户接口)可包含鼠标、触摸垫、键盘、触摸屏幕、麦克风、运动传感器、摄像机、显示器、无线接收器等。一或多个输入可包含或指示请求640,例如产生或提供视频内容614的经加索引版本的请求。在一些实施方案中,请求640可识别或与视频内容614相关联。举例来说,请求640可包含包含视频内容614的文件的文件名称。
处理器618可经配置以产生经加索引视频内容642。在一些实施方案中,经加索引视频内容可包含或对应于图5的经加索引视频内容514。处理器618可包含概要帧产生器620和索引器624。概要帧产生器620可包含或对应于图1A的概要帧产生器120、图1B-1C的概要帧产生器180或图5的概要帧产生器520。概要帧产生器620可经配置以确定视频内容614是否包含一或多个运动事件。针对包含在视频内容614中的运动事件,概要帧产生器620可经配置以产生包含在运动事件期间的至少一个对应的对象的多个表示的对应的概要帧(例如,概要帧622)。
索引器624可经配置以基于由概要帧产生器620产生的一或多个概要帧而对视频内容614加索引。为说明,索引器624可对视频内容614加索引以产生经加索引视频内容642。处理器618可经配置以将经加索引视频内容642提供到输出装置,例如显示器628(例如屏幕)。在一些实施方案中,处理器618可经配置以经由发射器(未示出)起始经加索引视频内容642到另一装置的发射。显示器628可经配置以呈现经加索引视频内容642的表示,如参看图7A-7B所描述。尽管显示器628经描述为被包含在装置602中,但在其它实施方案中,显示器628可在装置602外部。举例来说,显示器628可经由有线连接、无线连接或其组合耦合到装置602。另外或替代地,显示器628可经配置以呈现由概要帧产生器620产生的(视频内容的)至少一个概要帧,例如概要帧622。
在操作期间,装置602可接收对视频内容614加索引的请求640。处理器618可经由输入装置632接收请求640。处理器618可识别与视频内容614相关联的指示符。响应于指示符,处理器618可存取视频内容614。概要帧产生器620可识别被包含在视频内容中的一或多个运动事件。举例来说,概要帧产生器620可识别在第一时间开始的第一运动事件且可识别在第二时间开始的第二运动事件。概要帧产生器620可产生与第一运动事件相关联的第一概要帧且可产生与第二运动事件相关联的第二概要帧。
索引器624可基于由概要帧产生器620产生的一或多个概要帧(例如,第一概要帧和第二概要帧)对视频内容614加索引。举例来说,索引器624可使用第一概要帧在第一位置(对应于第一时间)对视频内容614的时间表(timeline)加索引。索引器624可使用第二概要帧来对第二位置处的时间表(对应于第二时间)加索引。在一些实施方案中,经加索引视频内容642可包含或对应于经加索引时间表。处理器618可提供经加索引视频内容642以经由显示器628呈现。
在一些实施方案中,处理器618可致使将经加索引视频内容642存储在存储器612处。在将经加索引视频内容642存储在存储器612处之后,装置可接收对视频内容614的经加索引版本的第二请求。响应于所述第二请求,处理器618可确定经加索引视频内容642是否存在于存储器612中。如果经加索引视频内容642存在于存储器612中,那么处理器618可从存储器612存取经加索引视频内容且将经加索引视频内容642提供到显示器628。替代地,如果处理器618确定经加索引视频内容642不存在于存储器612中,处理器618可存取视频内容614且使用概要帧产生器620和索引器624来产生经加索引视频内容642。
在其它实施方案中,处理器618可经配置以输出一或多个所产生概要帧。举例来说,处理器618可基于视频内容614而产生单一概要帧,例如对应于视频内容614的全部或部分中的运动事件的单一概要帧或对应于视频内容614的全部的单一概要帧。作为另一实例,处理器618可产生多个概要帧,其中每一概要帧对应于视频内容614的部分。当产生多个概要帧时,视频内容614的相关联部分可为不重叠或可在时间上至少部分地重叠。在一些实施方案中,对应于概要帧的视频内容614的部分可具有固定持续时间(例如,三十秒)、最小持续时间(例如,10秒),或其组合。在其它实施方案中,所述部分的持续时间可基于在视频内容614中所检测的运动事件周期的持续时间。在一些实例中,如果处理器618产生单一视频文件的多个概要帧,所述多个概要帧可经串连且作为一群组提供到显示器628。
在一些实施方案中,装置602可包含或可耦合到经配置以产生视频内容614的捕获单元,例如摄像机。举例来说,摄像机可产生视频内容614且将视频内容614提供到存储器612。另外或替代地,在一些实施方案中,装置602可包含第二存储器或经耦合到第二存储器。第二存储器可存储视频内容,例如一或多个数据文件,其中每一数据文件包含对应的视频内容。举例来说,装置602可经由有线连接、无线连接或其组合而耦合到第二存储器。为说明,第二存储器可处于“云”且装置602可经由有线网络、无线网络或其组合来存取第二存储器。在一些实施方案中,请求640可请求装置602对存储在第二存储器处的视频内容加索引或基于存储于第二存储器处的视频内容而产生一或多个概要帧。
在一些实施方案中,由处理器618输出的一或多个概要帧可包含元数据。关于特定概要帧的元数据可包含对应于与特定概要帧相关联的视频内容614的时间(例如,位置)或部分的识别符或链接。特定概要帧可经由显示器628呈现。响应于特定概要帧的用户选择,可使用元数据来存取视频内容614且处理器618可致使经由显示器628来呈现视频内容614(或其对应部分)。在一些实施方案中,视频内容614(或其部分)的呈现可在对应于致使特定概要帧的产生的运动事件的开始的视频帧处开始。举例来说,处理器618可跳过视频内容614的开始且可开始播放视频内容614的中间部分。
在一些实施方案中,处理器618(例如,索引器624)可经配置以产生关于视频内容614的索引数据。举例来说,索引数据可包含或对应于图5的索引数据513。索引数据可包含概要帧(例如,概要帧622)和元数据。元数据可包含指示所述视频内容的播放位置的标记数据,其中播放位置可与概要帧622相关联。在一些实施方案中,存储器612可经配置以存储索引数据。
在特定说明性实例中,播放位置可对应于被包含在视频内容中的运动事件的开始。标记数据可包含到视频内容614的存储位置的链接(例如,统一资源定位符(URL))。链接的选择(例如,自动地或经由显示器628或输入装置632通过用户)可经配置以在播放位置处起始视频内容614的播放。在一些实施方案中,元数据可包含指示视频内容的部分的第二播放位置的第二标记数据。第二播放位置可对应于由概要帧产生器620使用的视频内容614的帧来产生由概要帧622说明的多个表示中的第一表示。
在一些实施方案中,索引数据可包含与视频内容614的第二部分相关联的第二概要帧(未示出)。第二概要帧可由概要帧产生器620产生且可说明包含在视频内容614的第二部分中的第二对象的多个表示。如果索引数据包含第二概要帧,元数据可包含指示对应于视频内容614的第二部分的第三播放位置的第三标记数据。
处理器618(例如,索引器624)可将索引数据发送到显示器628。显示器628可呈现对应于视频内容614的时间周期的时间表。时间表可包含一或多个标记。一或多个标记中的每一标记可对应于基于视频内容614产生的不同概要帧。
在特定实施方案中,显示器628可经配置以呈现包含说明对象的第一组表示的概要帧622的图形用户接口(GUI)。在一些实施方案中,概要帧622与视频内容614的部分相关联。另外,处理器618可电耦合到显示器628且经配置以接收指示第一组表示中的特定表示的选择。举例来说,输入装置632可经配置以产生选择。为说明,选择可被包含在对与由选择所指示的特定表示相关联的播放位置处(例如,从其开始)的视频内容614的播放的特定请求中。
参看图7A-7J,展示用以呈现至少一个概要帧的接口的实例。图7A-7J的实例中的每一者包含可经由显示器702呈现的对应的接口,例如用户接口。在一些实施方案中,用户接口可包含图形用户接口(GUI)。显示器702可包含或对应于图1A的用户接口130、图5的显示器556,或图6的显示器628。应注意,参看图7A-7J描述的实例并不意图为限制性。举例来说,图7A-7J的一项实例的方面可与图7A-7J的不同实例的另一方面组合以产生接口。另外,应注意,在图7A-7J的实例中,无任何方面或特征被认为被要求使得图7A-7J的不同实例的两个方面能够被组合。
图7A包含接口的第一实例700,所述接口包含视频内容(例如,图6的视频内容614)的时间表701。在时间表下方呈现对应于视频内容的文件名称706。使用一或多个时间标记(替代地称作索引标记)对时间表701加索引。举例来说,时间标记可包含第一时间标记T0、第二时间标记T1、第三时间标记T2、第四时间标记T3、第五时间标记T4和第六时间标记T5。第一时间标记T0可对应于视频内容的初始帧且第六时间标记T5可对应于视频内容的最终帧。初始帧和最终帧可不包含概要帧。在一些实施方案中,时间表701可不包含第一时间标记T0和第六时间标记T5。第二时间标记T1、第三时间标记T2、第四时间标记T3和第五时间标记T4中的每一者可对应于不同概要帧。
与显示器702交互的用户可控制光标703。如果光标定位于时间表701的时间标记T0-T5中的一者上方或在其附近,可经由显示器702呈现对应于时间标记的概要帧。为说明,如第一实例700中所描绘,光标703在对应于概要帧704的第二时间标记T1附近。因此,经由显示器702呈现概要帧704(在时间表701上)。概要帧704可概括与第二时间标记T1相关联的运动事件。
图7B包含可经由显示器702呈现的接口的第二实例710。第二实例710包含对应于视频内容(例如,图6的视频内容614)的文件名称711。可使用一或多个概要帧(例如,第一概要帧712和第二概要帧713)来对视频内容加索引。显示器702包含第一概要帧712和第二概要帧713。第一概要帧712可与包含在视频内容中的第一运动事件相关联且第二概要帧713可与包含在视频内容的第二运动事件相关联。第一运动事件可已在第一时间714处发生且第二运动事件可已在第二时间715处发生。如所展示,还可呈现第一时间714和第二时间715(例如,时间戳)。在一些实施方案中,显示器702还可针对每一概要帧指示对应于概要帧的运动事件的持续时间。
第二实例710还可包含箭头,例如第一箭头716和第二箭头717。第一箭头716和第二箭头717可使得用户能够查看用于对视频内容加索引的不同概要帧。为说明,与显示器702交互的用户可选择第一箭头716以致使显示器呈现对应于在对应于第一概要帧712的运动事件的时间之前发生的运动事件的另一概要帧。如果不存在在第一概要帧712的时间之前的概要帧,第一箭头716可不被包含在显示器702中。用户可选择第二箭头717来致使显示器呈现对应于在对应于第二概要帧713的运动事件的时间之后发生的运动事件的另一概要帧。如果不存在在第二概要帧713的时间之后的概要帧,那么第二箭头717可不被包含在显示器702中。
在其它实施方案中,可使用不同格式来组织和呈现多个概要帧。举例来说,作为说明性而非限制性实例,多个概要帧可以标题格式、列表格式、卡片格式,或马赛克格式呈现。
图7C包含可经由显示器702呈现的接口的第三实例720。在第三实例720中,显示器702经配置以呈现概要帧722和概要帧时间周期721。概要帧722可与视频内容的至少一部分相关联。概要帧时间周期721可指示与概要帧722相关联的视频内容的至少一部分的开始时间、结束时间或持续时间。
概要帧722可包含对象(例如,骑自行车的个人)的多个表示。举例来说,多个表示可包含第一表示723和第二表示724。概要帧722可包含指示表示的时间序列的一或多个指示符。如在第三实例720中所描绘,一或多个指示符包含字母“A”、“B”、“C”、“D”、“E”和“F”。在一些实施方案中,每一指示符可对应于不同表示。为说明,指示符“A”可对应于第一表示723,且指示符“B”可对应于第二表示“B”。因此,包含在概要帧722中的一或多个指示符可参考概要帧722指示对象(例如,骑自行车的个人)从右到左行进。尽管一或多个指示符已被描述为字母,但一或多个指示符不限于字母。举例来说,作为说明性而非限制性实例,一或多个指示符可经呈现为数字、箭头、字母、时间戳或其组合。
图7D包含可经由显示器702呈现的接口的第四实例725。在第四实例725中,显示器702经配置以呈现概要帧726。概要帧726可与视频内容的至少一部分相关联。概要帧726可包含例如个人的手臂的对象的多个表示。举例来说,多个表示可包含第一表示727和第二表示728。概要帧726可包含指示多个表示的时间序列的一或多个指示符。如第四实例725中所描绘,一或多个指示符包含箭头,例如箭头729。尽管参看图7D描述多个指示符,但在其它实施方案中,概要帧726可包含指示对象(例如,手臂)的行进路径的单一指示符,例如单一箭头或单一线段。
图7E包含可经由显示器702呈现的接口的第五实例730。在第五实例730中,显示器702经配置以呈现概要帧731和到视频片段的链接732。概要帧731可为与视频内容的至少一部分相关联。链接732可提供到与视频内容的部分相关联的视频片段的链接。为说明,如果经由显示器702呈现的链接732由用户选择,那么显示器702可显示对应于概要帧731的视频片段(例如,视频剪辑)。
概要帧731可包含对象(例如,汽车)的多个表示。举例来说,多个表示可包含第一表示733、第二表示734和第三表示735。概要帧731可包含指示多个表示的时间序列的一或多个指示符。如在第三实例720中所描绘,一或多个指示符包含字母“A”、“B”、“C”、和“D”。被包含在概要帧731中的一或多个指示符可指示参考概要帧731从左到右行进的对象(例如,汽车)。如概要帧731中所描绘,时间稍后的表示可“经分层”在时间较早表示“上面”。为说明,第二表示734与第一表示733重叠且第三表示735与第一表示733和第二表示734重叠。在其它实施方案中,特定表示可相对于特定表示“经分层”在时间稍后的一或多个表示“上面”。
图7F包含可经由显示器702呈现的接口的第六实例740。在第六实例740中,显示器702经配置以呈现概要帧741、数据值750-758(例如,文本信息)和可选择特征742-747。概要帧741可与视频内容的至少一部分相关联。视频内容可已由摄像机产生。视频内容可被包含在具有文件名称的数据文件中。概要帧741可与被包含在视频内容中的运动事件相关联。
数据值750-758可对应于与概要帧741相关联的元数据。举例来说,元数据可包含或对应于图1A的元数据124、图1B-1C的元数据187或图5的元数据524。数据值750-758可包含文件名称750、概要帧识别符751、运动事件日期752、运动事件开始时间753、运动事件结束时间754、运动事件持续时间755、摄像机识别符756、摄像机位置757和天气条件758。文件名称750可包含或对应于包含视频内容的数据文件。概要帧识别符751可独特地识别概要帧741。运动事件日期752、运动事件开始时间753、运动事件结束时间754和运动事件持续时间755可对应于被包含在视频内容中的运动事件。摄像机识别符756和摄像机位置757可包含或对应于产生视频内容的摄像机。天气条件758可指示在视频内容中确定(例如,检测)、在视频内容的产生期间由摄像机测量,或在视频内容的产生期间由摄像机(例如,通过存取第三方天气信息服务)确定的环境条件。
可选择特征742-747可包含请求视频片段特征742、流摄像机特征743、全屏幕特征744、通知设置特征745、概要帧设置特征746和系统摄像机特征747。响应于请求视频片段特征742的用户选择,显示器702可呈现对应于概要帧741的视频内容的部分的视频剪辑。响应于流摄像机特征743的用户选择,显示器702可显示由摄像机产生的视频流(例如,实时视频流)。响应于全屏幕特征744的用户选择,显示器702可显示概要帧741的全屏幕版本。响应于通知设置通知745的用户选择,显示器702可呈现使得用户能够设置或修改一或多个通知设置或通知参数(例如,其中将递送例如图5的通知540的通知的装置地址)的接口。一或多个通知设置或通知参数可与通知产生器(例如,图1A的通知产生器126、图1B-1C的通知产生器182、图5的通知产生器526或其组合)的操作相关联。
响应于概要帧设置特征746的用户选择,显示器702可呈现使得用户能够设置或修改一或多个概要帧设置或概要帧参数(例如,被包含在例如概要帧741的特定概要帧中的(对象)的表示的数目)的接口。一或多个概要帧设置或概要帧参数可与概要帧产生器(例如,图1A的概要帧产生器120、图1B-1C的概要帧产生器180、图5的概要帧产生器520、图6的概要帧产生器620,或其组合)的操作相关联。在一些实施方案中,响应于设置或改变特定概要帧设置或特定概要帧参数,可更新经由显示器702呈现的概要帧741。举例来说,如果被包含在概要帧741中的表示的数目从六改变到七,那么概要帧741可经更新以包含骑自行车的个人的七个表示。
响应于系统摄像机特征747的用户选择,显示器702可呈现可用于特定用户的一或多个摄像机的指示(例如,列表、地图等)。举例来说,特定用户可经授权以从一或多个摄像机中的每一者接收一或多个概要帧。作为另一实例,特定用户可经授权以流式传输由一或多个摄像机中的每一者产生的视频内容。在一些实例中,用户可能够使用接口来启动、撤销启动或重定向包含在摄像机列表中的摄像机。
图7G包含可经由显示器702呈现的接口的第七实例760。在第七实例760中,显示器702经配置以呈现与视频内容的部分相关联的概要帧761、对应于视频内容的第一时间表762,和对应于视频内容的部分的第二时间表763。第一时间表762包含时间标记T0-T5。第一时间标记T0对应于视频内容的开始,第二时间标记T1与第一概要帧相关联,第三时间标记T2与第二概要帧(例如,概要帧761)相关联,第四时间标记T3与第三概要帧相关联,且第五时间标记T5对应于视频内容的结束。
响应于时间标记T1-T3中的一者的选择,呈现对应的概要帧。举例来说,第七实例760响应于第三时间标记T2的选择而描绘概要帧761的呈现。还可显示视频内容的部分的第二时间表763。第二时间表763还包含多个时间标记。第二时间表763中的时间标记中的每一者对应于部分视频内容的不同播放位置(例如,不同帧)且可包含在经选择时致使在播放位置(例如,从其开始)处播放视频内容的链接。举例来说,第一时间标记(链接T2)对应于视频内容的部分的第一帧。第二时间标记(链接A)对应于作为第一关键帧用于产生概要帧761的第二帧,第三时间标记(链接B)对应于作为第二关键帧用于产生概要帧761的第三帧,第四时间标记(链接C)对应于作为第三关键帧用于产生概要帧761的第四帧,且第五时间标记(链接D)对应于作为第四关键帧用于产生概要帧761的第五帧。在一些实例中,另外或替代地可基于包含在概要帧761中的表示集的特定表示的选择而起始播放。举例来说,对应于指示符“B”的(骑自行车的个人的)特定表示的选择可起始第三帧处的视频内容的播放。
图7H包含可经由显示器702呈现的接口的第八实例765。在第八实例765中,显示器702经配置以同时地呈现第一概要帧766和第二概要帧767。第一概要帧766可与第一运动事件相关联且可包含在第一运动事件期间第一对象的第一组表示。举例来说,第一组表示可包含至少两个表示,例如第一表示和第二表示。第一表示可对应于用于产生第一概要帧766的第一关键帧且第二表示可对应于用于产生第一概要帧766的第二关键帧。第二概要帧767可与第二运动事件相关联且可包含在第二运动事件期间的第二对象的第二组表示。举例来说,第二组表示可包含至少两个表示,例如第三表示和第四表示。第三表示可对应于用于产生第二概要帧767的第三关键帧且第四表示可对应于用于产生第二概要帧767的第四关键帧。第一对象和第二对象可为相同对象或可为不同对象。
显示器702还可经配置以呈现第一组链接768和第二组链接769。第一组链接768可对应于第一概要帧766且第二组链接769可对应于第二概要帧767。每一链接在经选择时可经配置以起始对应的播放位置处的视频内容的播放。
图7I包含可经由显示器702呈现的接口的第九实例770。在第九实例770中,显示器702经配置以呈现概要帧772和时间表771。时间表771对应于包含两个运动事件(例如,事件1和事件2)的视频内容。针对每一运动事件,选择四个关键帧以产生一组表示。在第一运动事件期间,两个对象(例如,飞机和骑自行车的个人)在运动中。应注意,在第一事件的四个关键帧中的两者中检测到飞机。在第二运动事件期间,汽车处于运动中。概要帧772表示经串连概要帧的实施,所述经串连概要帧包含来自多个运动事件(例如,事件1和事件2)的多组表示。时间表771上事件1的选择可致使概要帧772呈现对应于事件1的第一组表示且移除(例如,隐藏)与事件2相关联的第二组表示。
图7J包含可经由显示器702呈现的接口的第十实例780。在第十实例780中,显示器702经配置以呈现第一区782(例如,概要帧区,例如GUI视窗)、第二区784(例如,播放区,例如另一GUI视窗)和时间表789。第一区782可包含一或多个概要帧。举例来说,第一区782可包含与视频内容的部分(例如,运动事件)相关联的概要帧783。时间表789可对应于视频内容的部分。可根据运动事件的开始且根据用于产生概要帧783的一或多个关键帧来对时间表789加索引。第二区784可经配置以呈现视频片段786(例如,视频剪辑),如本文中所描述。时间表789可使得用户能够识别待在第二区784中播放的视频内容的播放部分785(例如,时间周期)。播放位置指示符787可指示第二区784中呈现的视频内容的帧。在其它实施方案中,可选择包含在概要帧783中的表示中的一者来在第二区784中起始对应于所述表示的播放位置处的视频内容的播放。另外,还可选择用于对时间表789加索引的时间标记(例如,链接)中的一或多者来在第二区784中起始特定播放位置处的视频内容的呈现。
尽管第一区782和第二区784在图7J的显示器702中经说明为并排,但在其它实施方案中,第一区782和第二区784可被不同地定位。举例来说,第一区782可被部分或完全地定位在第二区784“上面”(例如,叠加在其上),或反过来也一样。另外或替代地,在一些实施方案中,第一区782的位置、第二区784的位置或两者可为可移动的。举例来说,可响应于输入而使区782、784中的一或多者在显示器702中的位置移动。为说明,用户可触摸显示器702的第一区782,后继接着用户触摸显示器702的第一区782将移动到的新位置。替代地,用户可选择并“拖曳”区782、784到显示器702的所要位置。
应注意,尽管本文中所描述的各种实例参考经由输入(例如,在触摸屏幕上)的用户选择,但应理解,在替代实施方案中,可以其它方式执行“选择”。举例来说,可经由触摸、跟踪用户的眼睛(例如,注视检测)、使手、手指、手写笔或其它装置悬空在物项上方而无需提供触摸输入等来作出选择。
在一些实施方案中,图7A-7J的一项实例的方面可与图7A-7J的不同实例的另一方面组合以产生接口。为说明,图7B的第二实例710可包含关于第一概要帧712和第二概要帧713中的每一者的如参看图7A的第一实例700所描述的对应的时间表。
参看图8,描绘产生概要帧的方法800的说明性实例的流程图。概要帧可包含或对应于图1A的概要帧122;图1C的第一概要帧198、第二概要帧199;图2的概要帧238;图5的概要帧522;图6的概要帧622;图7A的概要帧704;图7B的第一概要帧712、第二概要帧713;图7C的概要帧722;图7D的概要帧726;图7E的概要帧731;图7F的概要帧741;图7G的概要帧761、图7H的第一概要帧766、第二概要帧767;图7I的概要帧772、图7J的概要帧783;或其组合。方法800可由图1A的装置102(例如,处理器118)、图1B-1C的摄像机162(例如,处理器174)、图2的概要帧产生器120、图5的视频系统502(例如,控制器510、第一摄像机530或第二摄像机532)、图6的装置602(例如,处理器618),或其组合执行。
方法800可包含:在802处,检测对应于视频内容的至少一部分中的事件的运动事件周期,所述视频内容包含多个图像帧,其中所述视频内容的部分包含一对象。可从摄像机或存储器(例如,缓冲器)接收数据内容。视频内容可包含或对应于图1A的视频内容140(或视频内容114)、图1B-1C的视频内容167、图2的图像帧240、图5的视频内容534,或图6的视频内容614。在一些实施方案中,检测运动事件周期可包含:检测运动事件周期的开始和检测运动事件周期的结束。
方法800可进一步包含:在804处,产生与视频内容的部分相关联的概要帧,所述概要帧说明对象的多个表示。概要帧提供运动事件周期的视觉概要。在一些实施方案中,通知可包含多个概要帧,例如,对应于第一运动事件的第一概要帧和对应于第二运动事件的第二概要帧。方法800可进一步包含:在806处,起始将通知发送到装置,其中通知指示概要帧的产生。举例来说,通知可包含概要帧或可包含指示正在产生或已产生概要帧的指示符。通知可包含或对应于图1A的通知128、图1B-1C的通知188、图5的通知540,或其组合。装置可包含或对应于图1的控制器510或图1的装置550。
在一些实施方案中,方法800可包含:基于多个图像帧中的至少一者而维持背景模型。举例来说,可将帧差分化、平均滤波、高斯平均等应用于多个图像帧中的至少一者以产生背景模型。可使用背景模型来识别运动事件周期的开始、运动事件周期的结束或两者。为说明,可通过比较(多个图像帧的)图像帧与背景模型来识别运动事件周期的开始。响应于识别运动事件周期的开始,方法800可包含:基于图像帧而对视频内容加索引。
在一些实施方案中,方法800可包含:选择多个图像帧中的两个或更多个图像帧作为关键帧。可在运动事件周期期间缓冲两个或更多个图像帧。可使用两个或更多个图像帧中的每一者作为关键帧来对视频内容加索引。举例来说,可对视频内容加索引以产生经加索引视频内容,例如图1B-1C的经加索引视频内容170、图5的经加索引视频内容514或图6的经加索引视频内容642。另外,方法800可包含:针对两个或更多个图像帧中的每一者,组合来自图像帧的对象的表示与背景模型。
在一些实施方案中,选择两个或更多个图像帧可包含:针对多个图像帧中的每一图像帧,分析图像帧以确定对应的分析结果值。可将多个图像帧的多个分析结果值相加以确定运动事件周期的总分析结果值。可使总分析结果值除以关键帧的数目以确定阈值。
在其它实施方案中,选择两个或更多个图像帧中的第一图像帧可包含:分析第一图像帧以确定对应的分析结果值。可基于对应的分析结果值而确定累加值。举例来说,可通过将对应的分析结果值添加到现有累加值以确定累加值。方法800可包含:比较累加值与阈值。可响应于累加值大于或等于阈值而选择第一图像帧作为关键帧。
方法800因此实现与运动事件周期相关联的概要帧的产生。概要帧可使得概要帧的查看者能够快速地理解运动事件周期期间所发生的活动。另外,与发送包含与运动事件周期相关联的视频片段(例如,视频剪辑)的通知相比,通过将包含概要帧的通知发送到装置,可减少所述通知的数据大小。此外,与包含视频片段的通知相比较,使用较少功率和较少带宽,可更快速地提供包含概要帧(且不包含视频片段)的通知。
参看图9,描绘传达概要帧的方法900的说明性实例的流程图。概要帧可包含或对应于图1A-1C的概要帧122、198、199中的一或多者;图2的概要帧238;图5的概要帧522;图6的概要帧622;图7A-7J的概要帧704、712、713、722、726、731、741、761、766、767、772、783中的一或多者;或其组合。方法900可由图1A的装置102、图1B-1C的摄像机162、视频系统502(例如,控制器510、第一摄像机530或第二摄像机532)、图5的装置550、图6的装置602,或其组合执行。
方法900可包含:在902处,通过第一装置将在视频内容的部分中检测到的运动事件的通知发送到第二装置,所述通知包含与视频内容的部分相关联的概要帧,其中视频内容的部分包含对象,且其中概要帧说明对象的多个表示。视频内容的部分可包含视频内容的全部或少于视频内容的全部。在一些实施方案中,第一装置可被包含在视频监控系统中且可已通过视频监控系统的捕获装置(例如,摄像机)来产生视频内容。第二装置可包含或对应于图5的装置550。
方法900可进一步包含:在904处,在第一装置处,接收来自第二装置的对与运动事件相关联的视频片段的请求。举例来说,请求可包含或对应于图5的请求544。在一些实施方案中,响应于接收请求,可确定产生视频片段(例如,产生包含在视频片段中的一或多个图像帧)的摄像机的摄像机识别符。可基于所述摄像机识别符而从存储位置接收视频片段。为说明,方法900可包含:从产生视频内容的摄像机的存储器存取视频片段。
方法900还可包含:在906处,将视频片段从第一装置发送到第二装置。举例来说,视频片段可包含或对应于图5的视频片段548。在一些实施方案中,通知的第一数据大小可小于视频片段的第二数据大小。
在一些实施方案中,通知可包含单一概要帧。在其它实施方案中,通知可包含多个概要帧,例如第一概要帧和第二概要帧。第一概要帧可与第一视频片段相关联且第二概要帧可与第二视频片段相关联。第一概要帧可说明包含在第一视频片段中的第一对象的多个表示且第二概要帧可说明包含在第二视频片段中的第二对象的多个表示。第一对象和第二对象可为不同对象或可为相同对象。在一些实施方案中,第一视频片段和第二视频片段可为由相同摄像机产生。在其它实施方案中,第一视频片段和第二视频片段可为由不同摄像机产生。
在一些实施方案中,方法900可包含:从第二装置接收鉴认信息。举例来说,鉴认信息可包含或对应于图1的鉴认信息546。方法900可包含:在将视频片段发送到第二装置之前验证鉴认信息。鉴认信息可经验证以确保装置经授权接收视频片段。
在一些实施方案中,概要帧可包含元数据,例如图1A的元数据124、图1B-1C的元数据187,或图5的元数据524。元数据可包含视频片段的识别符、用于产生多个表示中的表示的视频片段的图像帧的指示符、与视频片段的开始相关联的第一时间戳、与视频片段的结束相关联的第二时间戳、到将视频片段存储于其中的存储器的存储位置的链接,或其组合。
方法900因此使得能够在将视频片段发送到第二装置之前将与运动事件相关联的概要帧提供到第二装置。概要帧可使得第二装置处的概要帧的查看者能够快速地理解运动事件周期期间所发生的活动而无需必须查看视频片段。因此,第二装置的用户可决定在接收到概要帧之后请求视频片段。因此,与将视频片段发送到第二装置相比,通过将包含概要帧的通知发送到第二装置,可使通知的数据大小减少。因此,相较提供视频片段,可使用较少功率和较少带宽将包含概要帧(且不包含视频片段)的通知更快速地提供到第二装置。
参看图10,描绘接收概要帧的方法1000的说明性实例的流程图。概要帧可包含或对应于图1A-1C的概要帧122、198、199中的一或多者;图2的概要帧238;图5的概要帧522;图6的概要帧622;图7A-7J的概要帧704、712、713、722、726、731、741、761、766、767、772、783中的一或多者;或其组合。方法1000可由图1A的装置102、图1B-1C的摄像机162、视频系统502(例如,控制器510、第一摄像机530或第二摄像机532)、图5的装置550、图6的装置602,或其组合执行。
方法1000可包含:在1002处,接收运动事件的通知,所述通知包含与和运动事件相关联的视频内容的部分相关联的概要帧,所述概要帧说明对象的多个表示,所述对象被包含在视频内容的部分中。举例来说,通知可包含或对应于图1A的通知128、图1B-1C的通知188、图5的通知540,或其组合。可从装置(例如,被包含在视频监控系统中的装置)接收通知。在一些实施方案中,作为说明性而非限制性实例,通知可包含电子邮件消息或短消息服务(SMS)消息。在一些实施方案中,可经由无线网络接收通知。在接收通知之后,可经由耦合到接收通知的装置的显示器来呈现概要帧。
方法1000可进一步包含:在1004处,产生对与运动事件相关联的视频内容的至少部分的请求,举例来说,请求可包含或对应于图5的请求544。视频内容可包含或对应于图1A的视频内容140(或视频内容114)、图1B-1C的视频内容167、图2的图像帧240、图5的视频内容534,或图6的视频内容614。在一些实施方案中,在发送请求之后,方法1000可包含接收视频内容的部分。响应于接收到视频内容的部分,所述视频内容的所述部分可经由显示器呈现,被存储于存储器中,或既经由显示器呈现又被存储于存储器中。
在一些实施方案中,可经由接口(例如,用户接口(例如,小键盘、触摸屏幕、麦克风等))来接收输入。举例来说,接口包含或对应于图1A的用户接口130、图5的接口562或图6的输入装置632。输入可与起始请求相关联。举例来说,可响应于接收到输入而产生请求。另外,作为说明性而非限制性实例,响应于输入,可经由至少一个网络(例如,无线网络)发射请求。
方法1000因此使得装置能够接收概要帧以使得概要帧的查看者能够快速地理解在运动事件期间发生的活动。因此,基于概要帧,用户可决定是否请求对应于运动事件的视频片段(例如,视频剪辑)。
参看图11,描绘“串连”多个概要帧的方法1100的说明性实例的流程图。多个概要帧可包含或对应于图1A-1C的概要帧122、198、199中的一或多者;图2的概要帧238;图5的概要帧522;图6的概要帧622;图7A-7J的概要帧704、712、713、722、726、731、741、761、766、767、772、783中的一或多者;或其组合。方法1100可由图1A的装置102、图1B-1C的摄像机162、视频系统502(例如,控制器510、第一摄像机530或第二摄像机532)、图5的装置550、图6的装置602,或其组合执行。
方法1100可包含:在1102处响应于时间周期的结束的识别,存取在所述时间周期期间所捕获的视频内容。视频内容可包含或对应于图1A的视频内容140(视频内容114)、图1B-1C的视频内容167、图2的图像帧240、图5的视频内容534,或图6的视频内容614。方法1100可进一步包含:在1104处,识别视频内容中的多个运动事件。方法1100还可包含:在1106处,针对每一运动事件,产生包含在运动事件期间至少一个对应的对象的多个表示的对应的概要帧。方法1100可包含:在1108处,产生包含对应于多个运动事件的概要帧的通知。为说明,通知可包含概要帧串连,例如图1C的概要帧串连196。举例来说,通知可包含或对应于图1A的通知128、图1B-1C的通知188、图5的通知540,或其组合。方法1100因此实现产生包含多个概要帧的通知。
参看图12,描绘对视频内容加索引的方法1200的说明性实例的流程图。方法1200可由图1A的装置102、图1B-1C的摄像机162、视频系统502(例如,控制器510、第一摄像机530或第二摄像机532)、图5的装置550、图6的装置602,或其组合执行。
方法1200可包含:在1202处,接收对经加索引的视频内容的请求,举例来说,请求可包含或对应于图6的请求640。视频内容可包含或对应于图1A的视频内容140(或视频内容114)、图1B-1C的视频内容167、图2的图像帧240、图5的视频内容534,或图6的视频内容614。
方法1200还可包含:在1204处,响应于请求接收视频内容。举例来说,视频内容可包含或对应于图1A的视频内容140(或视频内容114)、图1B-1C的视频内容167、图2的图像帧240、图5的视频内容534,或图6的视频内容614。在一些实施方案中,接收视频内容可包含:从例如图2的存储器612的存储器存取视频内容。
方法1200可进一步包含:在1206处,基于视频内容产生一或多个概要帧。一或多个概要帧可包含或对应于图1A-1C的概要帧122、198、199中的一或多者;图2的概要帧238;图5的概要帧522;图6的概要帧622;图7A-7J的概要帧704、712、713、722、726、731、741、761、766、767、772、783中的一或多者;或其组合。
方法1200可包含:在1208处,使用一或多个概要帧来对视频内容进行加索引以产生经加索引视频内容。举例来说,经加索引视频内容可包含或对应于图1B-1C的经加索引视频内容170、图5的经加索引视频内容514,或图6的经加索引视频内容642。方法1200因此使用一或多个概要帧来实现视频内容的加索引。
图3、4和8-12的方法可由以下各项实施:现场可编程门阵列(FPGA)装置;专用集成电路(ASIC),例如图形处理单元(GPU)、中央处理单元(CPU)、数字信号处理器(DSP)的处理单元;控制器;另一硬件装置;固件装置;或其任一组合。作为实例,图3、4和8-12的方法可由执行指令以检测或跟踪与一或多个图像相关联的线段的一或多个处理器来执行。作为实例,图3的方法300、图4的方法400、图8的方法800、图9的方法900、图10的方法1000、图11的方法1100、图12的方法1200或其组合可由执行指令以产生或传达概要帧的一或多个处理器来执行。为说明,图3、4或8-12的方法中的一者的部分可与图3、4或8-12的方法中的一者的第二部分组合。另外,参看图3、4或8-12的方法中的一者所描述的一或多个步骤可为任选的,可至少部分地同时执行,或可以不同于所展示或所描述次序的次序执行。
参看图13,描述例如无线通信装置的电子装置1300的特定说明性实例的框图。装置1300或其组件可包含或对应于图1A的系统100(例如,装置102)、图1B的系统160(例如,摄像机162)、图1C的系统190(例如,摄像机162)、图2的系统200、图5的系统500(例如,控制器510、第一摄像机530、第二摄像机532、装置550)、图6的系统600(例如,装置602),或其组合。
在一些实施方案中,装置1300或其组件可被包含在例如闭路电视(CCTV)系统的视频监控系统中,或可用于实施所述视频监控系统。为说明,装置1300可为摄像机装置,可包含摄像机,或可包含视频系统控制器。另外或替代地,作为说明性而非限制性实例,装置1300可包含播放装置,例如计算机、手提式计算机、移动装置(例如,智慧型电话、平板计算机等)或服务器。另外或替代地,装置1300可被包含在以下各项中:运载工具、游戏主机、自动系统主机(例如,ADAS)、可穿戴装置(例如,个人安装摄像机)、头戴式显示器(HMD)等。举例来说,装置1300可被包含在运载工具中。额外实例包含(但不限于)被包含在机器人或机器人装置、无人航空运载工具(UAV)或遥控飞机中。运载工具的实例可包含机动车辆(例如,汽车、卡车、机动车、公共汽车或火车)、船舶(例如,船或轮船)、航空器(例如,飞机或直升飞机)、太空船(例如,太空梭)、自行车或另一运载工具。作为说明性非限制实例,运载工具可为轮式运载工具、履带式运载工具、轨道式运载工具、空载运载工具或滑道式运载工具。在一些状况下,运载工具可由一或多个驱动器操作。在其它状况下,运载工具可为计算机控制运载工具,例如自主式运载工具。
装置1300包含耦合到存储器1332的至少一个处理器1310,例如数字信号处理器(DSP)、中央处理单元(CPU)或图形处理单元(GPU)。存储器1332可包含或对应于图1A的存储器112、图1B-1C的存储器166、图5的存储器512、图6的存储器612,或其组合。处理器1310可经配置以处理与一或多个图像(例如,一或多个图像帧)相关联的图像数据1374。图像数据1374可包含或对应于图1A的视频内容140(或视频内容114)、图1B-1C的视频内容167、图2的图像帧240、图5的视频内容534或图6的视频内容614。
处理器1310包含概要帧产生器1350和通知产生器1356。概要帧产生器1350可包含或对应于图1A的概要帧产生器120、图1B-1C的概要帧产生器180、图5的概要帧产生器520、图6的概要帧产生器620,或其组合。通知产生器1356可包含或对应于图1A的通知产生器126、图1B-1C的通知产生器182、图5的通知产生器526,或其组合。概要帧产生器1350可经配置以处理图像数据1374以产生概要帧1372。概要帧1372可包含或对应于图1A-1C的概要帧122、198、199中的一或多者;图2的概要帧238;图5的概要帧522;图6的概要帧622;图7A-7J的概要帧704、712、713、722、726、731、741、761、766、767、772、783中的一或多者;或其组合。概要帧产生器1350可将概要帧1372提供到通知产生器1356。通知产生器1356可经配置以产生包含概要帧1372的通知(例如,消息)。
存储器1332包含例如计算机可读指令或处理器可读指令的指令1368(例如,可执行指令)和视频内容1370。视频内容1370可包含或对应于图像数据1374。在一些实施方案中,视频内容1370可包含图像数据1374的至少一部分或图像数据1374的经加索引版本。指令1368可包含可由计算机(例如,由处理器1310中的每一者)执行的一或多个指令。
为说明,指令1368可由处理器1310执行以致使处理器1310执行操作,包含检测对应于视频内容的部分中的事件的运动事件周期。包含多个图像帧和视频内容的部分的视频内容包含对象。操作可进一步包含:产生与视频内容的部分相关联的概要帧,说明对象的多个表示的概要帧。操作可进一步包含:起始将通知发送到装置。通知可包含概要帧。
作为另一说明性而非限制性实例,指令1368可由处理器1310执行以致使处理器1310执行包含起始通过装置将在视频内容的部分中检测的运动事件的通知发送到第二装置的操作。通知可包含与视频内容的部分相关联的概要帧。视频内容的部分可包含对象。概要帧可说明对象的多个表示。操作可进一步包含:在装置处,从第二装置接收对与运动事件相关联的视频片段的请求。操作进一步包含:起始将视频片段从装置发送到第二装置。
作为另一说明性而非限制性实例,指令1368可由处理器1310执行以致使处理器1310执行包含起始经由耦合到处理器的显示器来呈现图形用户接口(GUI)的操作。GUI可包含与视频内容的部分相关联的概要帧。概要帧可说明被包含在视频内容的部分中的对象的第一组表示。GUI可包含基于与概要帧相关联的元数据的文本信息。
作为另一说明性而非限制性实例,指令1368可由处理器1310执行以致使处理器1310执行包含产生关于视频内容的索引数据的操作。所述索引数据可包含概要帧和元数据。所述概要帧可与所述视频内容的部分相关联且可说明包含在所述视频内容的所述部分中的对象的多个表示。所述元数据可包含指示所述视频内容的播放位置的标记数据。所述播放位置可与所述概要帧相关联。
作为另一说明性而非限制性实例,指令1368可由处理器1310执行以致使处理器1310执行包含识别被包含在从装置接收的通知中的概要帧的操作。概要帧可说明在与视频内容相关联的运动事件期间的对象的多个表示。操作可进一步包含:产生对与运动事件相关联的视频内容的请求和起始将所述请求发送到装置。
作为另一说明性而非限制性实例,指令1368可由处理器1310执行以致使处理器1310执行包含在显示装置处呈现概要帧的操作。所述概要帧可说明包含在视频内容的部分中的对象的多个表示。操作还可包含:识别对应于视频内容的部分的播放位置,所述播放位置是基于概要帧而识别;和起始播放位置处的视频内容的播放。
在一些实施方案中,存储器1332可包含代码(例如,解译式或编译式程序指令),所述代码可由处理器1310执行以致使处理器1310执行如参看图1A的概要帧产生器120、图1B-1C的概要帧产生器180、图5的概要帧产生器520、图6的概要帧产生器620所描述的功能以执行图3、4、8-12的方法中的一或多者的至少一部分,或其组合。为进一步说明,下文的实例1描绘可经编译且存储在存储器1332中的说明性虚拟代码(例如,浮动点中的简化C代码)。实例1为非线性关键帧选择算法提供预定关键帧数目。非线性关键帧选择算法根据事件分析结果非线性地选择关键帧。使用实例1的非线性关键帧选择算法,在事件分析的事件测量值为高时能够选择更多帧供用于产生概要帧,且在事件测量值为低时能够选择较少帧。
实例1
为选择预定数目个关键帧,例如M个关键帧(其中M为大于1的正整数),可根据下式设置阈值:
阈值=Sum(ea[i])/(M-1)。
替代地,为具有动态自适应关键帧数目,可将阈值设置为预定常数。通过将阈值设置为预定常数,具有大量活动的运动事件可获得更多关键帧且具有较少活性的运动事件可具有相对较少关键帧。
图13还展示经耦合到处理器1310和显示器1328的显示器控制器1326。显示器1328可包含或对应于图1A的用户接口130、图5的显示器556、图6的显示器628,或图7A-7F的显示器702。编码器/解码器(编解码器)1334还可耦合到处理器1310。扬声器1336和麦克风1338可耦合到编解码器1334。处理器1310还可耦合到摄像机控制器1360,所述摄像机控制器1360耦合到摄像机1362。摄像机1362可包含或对应于图1B-1C的捕获单元164、图5的第一摄像机530或第二摄像机532。摄像机控制器1360可将图像数据1374传达到处理器1310。图像数据1374可基于由摄像机1362捕获的一或多个图像。
装置1300还可包含可耦合到处理器1310和天线1342的例如无线控制器的无线接口1340。在一些实施方案中,无线接口1340可经由收发器(未示出)耦合到天线1342。收发器可包含发射器、接收器或两者。收发器可经配置以发射由装置1300产生的一或多个消息且接收由其它装置发射到装置1300的一或多个消息。举例来说,收发器可经配置以发射由通知产生器1356产生的通知,例如包含概要帧1372的通知。
在特定实施方案中,处理器1310、显示器控制器1326、摄像机控制器1360、存储器1332、编解码器1334和无线接口1340被包含在系统级封装或片上系统装置1322。在一些实施方案中,输入装置1330和电力供应器1344耦合到片上系统装置1322。此外,在一些实施方案中,如图13中所说明,显示器1328、输入装置1330、扬声器1336、麦克风1338、天线1342、摄像机1362和电力供应器1344在片上系统装置1322外部。然而,显示器1328、摄像机1362、输入装置1330、扬声器1336、麦克风1338、天线1342和电力供应器1344中的每一者可耦合到片上系统装置1322的组件,例如接口或控制器。
结合图1-13的所描述方面中的一或多者,揭示第一设备,所述第一设备可包含用于产生与视频内容的部分相关联的概要帧的装置,所述概要帧说明包含在视频内容的部分中的对象的多个表示。用于产生概要帧的装置可包含或对应于图1A的装置102、处理器118、概要帧产生器120;图1B-1C的摄像机162、处理器174、概要帧产生器180;图2的背景产生器210、关键帧选择器214、组合器228;图5的控制器510、处理器518、概要帧产生器520、第一摄像机530、第二摄像机532、装置550、处理器558;图6的装置602、处理器618、概要帧产生器620;图13的概要帧产生器1350、经编程以执行指令1368的处理器1310;经配置以产生概要帧的一或多个其它结构、装置或电路;或其任何组合。
第一设备还可包含用于将通知发射到装置的装置,其中通知包含概要帧。用于发射的装置可包含或对应于图1A的发射器132;图1B-1C的发射器184;图5的发射器554;图13的无线接口1340;发射器;收发器;经配置以发射通知的一或多个其它结构、装置或电路;或其任何组合。作为说明性而非限制性实例,通知可包含电子邮件消息或短消息服务(SMS)消息。在一些实施方案中,用于产生的装置和用于发射的装置被包含在视频监控系统中。
在一些实施方案中,用于产生视频内容的装置可包含或对应于图1B-1C的捕获单元164、图5的第一摄像机530、第二摄像机532、摄像机、因特网协议(IP)摄像机、经配置以产生视频内容的一或多个其它结构、装置或电路,或其任何组合。
结合图1-13的所描述方面中的一或多者,揭示可包含用于呈现概要帧的装置的第二设备。所述概要帧可说明包含在视频内容的部分中的对象的多个表示。用于呈现的装置可包含或对应于图1A的装置102、用户接口130;图5的装置550、显示器556;图6的装置602、显示器628;图13的显示器1328;屏幕;显示器;监视器;电视;投影机;经配置以呈现概要帧的一或多个其它结构、装置或电路;或其任何组合。
第二设备还包含用于识别对应于视频内容的部分的播放位置的装置。所述播放位置可基于所述概要帧而识别。用于识别的装置可包含或对应于图1A的装置102、处理器118;图1B-1C的处理器174;图5的控制器510、处理器518、第一摄像机530、第二摄像机532、装置550、处理器558;图6的装置602、处理器618;图13的经编程以执行指令1368的处理器1310;经配置以产生概要帧的一或多个其它结构、装置或电路;或其任何组合。
第二设备还可包含用于起始播放位置处的视频内容的播放的装置。用于识别的装置可包含或对应于图1A的装置102、处理器118、用户接口130;图1B-1C的处理器174、接收器186;图5的控制器510、处理器518、第一摄像机530、第二摄像机532、装置550、显示器556、处理器558、接口562;图6的装置602、处理器618、显示器628、接口632;图13的输入装置1330、摄像机1336、扬声器1336、麦克风1338、显示器1328、显示器控制器1326、经编程以执行指令1368的处理器1310;屏幕;显示器;监视器;电视;投影机;经配置以产生概要帧的一或多个其它结构、装置或电路;或其任何组合。
在一些实施方案中,第二设备可包含用于接收概要帧或多个表示中的至少一个表示的选择的装置。可基于选择而起始播放位置处的视频内容的播放。用于接收的装置可包含或对应于图1A的装置102、处理器118、用户接口130;图1B-1C的捕获单元164、处理器174、接收器186;图5的控制器510、处理器518、第一摄像机530、第二摄像机532、装置550、处理器558、接收器552、接口562、显示器556;图6的装置602、处理器618、输入装置632、显示器628;图13的输入装置1330、摄像机1336、扬声器1336、麦克风1338、经编程以执行指令1368的处理器1310,包含鼠标、触摸垫、键盘、触摸屏幕、麦克风、运动传感器、摄像机、显示器、无线接收器、经配置以接收选择的一或多个其它结构、装置或电路,或其任何组合。
所揭示的方面中的一或多者可实施于系统或设备(例如,电子装置1300)中,其可包含通信装置、固定位置数据单元、移动位置数据单元、移动电话、蜂窝式电话、卫星电话、计算机、平板计算机、便携式计算机、显示装置、媒体播放器,或台式计算机。替代地或另外,电子装置1300可包含机顶盒、娱乐单元、导航装置、个人数字助理(PDA)、监视器、计算机监视器、电视、调谐器、无线电、卫星无线电、音乐播放器、数字音乐播放器、便携式音乐播放器、视频播放器、数字视频播放器、数字视频光盘(DVD)播放器、便携式数字视频播放器、卫星、运载工具、包含处理器或存储或检索数据或计算机指令的任何其它装置,或其组合。作为另一说明性而非限制性实例,系统或设备可包含远程单元,例如手持式个人通信系统(PCS)单元、例如具有GPS能力的装置的便携式数据单元、读取计量装备或包含处理器或存储或检索数据或计算机指令的任何其它装置,或其任何组合。
尽管图1-13中的一或多者可说明根据本发明的教示的系统、设备或方法,但本发明并不限于这些所说明系统、设备或方法。如本文中所说明或所描述的图1-13中的任一者的一或多个功能或组件可与图1-13的另一功能或组件的一或多个其它部分组合。因此,本文中所描述的任何单一实例不应揭示为限制性且本发明的实例可经适合组合而不脱离本发明的教示。
所属领域的技术人员将进一步了解,结合本文中所揭示的方面描述的各种说明性逻辑块、配置、模块、电路和算法步骤可实施为电子硬件、由处理器执行的计算机软件,或两者的组合。各种说明性组件、块、配置、模块、电路和步骤还在上文大体就其功能方面加以描述。此功能性是实施为硬件抑或处理器可执行指令取决于强加于整个系统的特定应用和设计约束。虽然所属领域的技术人员可针对每一特定应用以变化方式实施所描述功能性,但不应将这些实施决策解释为导致对本发明的范围的脱离。
结合本文中所揭示的实例所描述的方法或算法的步骤可直接以硬件、由处理器执行的软件模块或两者的组合实施。软件模块可驻留于随机存取存储器(RAM)、闪存存储器、只读存储器(ROM)、可编程只读存储器(PROM)、可抹除可编程只读存储器(EPROM)、电可抹除可编程只读存储器(EEPROM)、寄存器、硬磁盘、可抽换式磁盘、紧凑光盘只读存储器(CD-ROM)或此项技术中已知的任一其它形式的非暂时(例如,非瞬时性)存储媒体中。示范性存储媒体耦合到处理器使得处理器可从存储媒体读取信息和将信息写入到存储媒体。在替代方案中,存储媒体可与处理器成一体。处理器和存储媒体可驻留于专用集成电路(ASIC)中。ASIC可驻留于计算装置或用户终端中。在替代方案中,处理器和存储媒体可作为离散组件驻留于计算装置或用户终端中。
所揭示方面的前述描述经提供以使得所属领域的技术人员能够制作或使用所揭示方面。在不脱离本发明的范围的情况下,对这些方面的各种修改对于所属领域的技术人员来说将易于显而易见,且本文中所定义的原理可应用于其它方面。因此,本发明并不意图限于本文中所展示的方面,而是意图赋予其与所附权利要求书所定义的原理和新颖特征相一致的最宽广范围。

Claims (30)

1.一种装置,其包括:
处理器,其经配置以产生关于视频内容的索引数据,所述索引数据包含概要帧和元数据,其中所述概要帧与所述视频内容的一部分相关联且说明包含在所述视频内容的所述部分中的对象的多个表示,且其中所述元数据包含指示所述视频内容的播放位置的标记数据,所述播放位置与所述概要帧相关联;和
存储器,其经配置以存储所述索引数据。
2.根据权利要求1所述的装置,其中所述视频内容的所述部分对应于包含在所述视频内容中的运动事件,且其中所述播放位置对应于所述运动事件的开始。
3.根据权利要求1所述的装置,其中所述标记数据包括到所述视频内容的存储位置的链接,且其中所述链接的选择经配置以起始所述播放位置处的所述视频内容的播放。
4.如请求项3的装置,其中所述链接包括统一资源定位符URL。
5.根据权利要求1所述的装置,其中所述元数据包含指示所述视频内容的所述部分的第二播放位置的第二标记数据,且其中所述第二播放位置对应于用于产生所述多个表示中的第一表示的所述视频内容的帧。
6.根据权利要求5所述的装置,其中所述索引数据包含与所述视频内容的第二部分相关联的第二概要帧且说明包含在所述视频内容的所述第二部分中的第二对象的多个表示,且其中所述元数据包含指示对应于所述视频内容的所述第二部分的第三播放位置的第三标记数据。
7.根据权利要求1所述的装置,其进一步包括经配置以呈现对应于所述视频内容的时间周期的时间表的显示器,其中所述时间表包含一或多个标记,其中所述一或多个标记中的每一标记对应于基于所述视频内容所产生的不同概要帧。
8.一种装置,其包括:
显示器,其经配置以呈现概要帧,其中所述概要帧说明包含在视频内容的一部分中的对象的多个表示;和
处理器,其经配置以识别对应于所述视频内容的所述部分的播放位置且起始所述播放位置处的所述视频内容的播放,所述播放位置是基于所述概要帧而识别。
9.根据权利要求8所述的装置,其中所述概要帧对应于指示所述播放位置的元数据,且其中所述处理器经配置以基于所述元数据而识别所述播放位置。
10.根据权利要求9所述的装置,其中所述元数据指示所述视频内容的一或多个播放位置,所述一或多个播放位置被包含在所述视频内容的所述部分中,且其中所述一或多个播放位置中的每一者对应于所述概要帧。
11.根据权利要求10所述的装置,其中所述元数据包括链接,且其中所述链接的选择经配置以起始所述播放位置处的所述视频内容的所述播放。
12.根据权利要求8所述的装置,其中所述处理器经配置以响应于接收输入而识别所述播放位置,其中所述输入对应于播放对应于所述概要帧的所述视频内容的所述部分的选择。
13.根据权利要求12所述的装置,其中所述输入包括所述多个表示中的表示的选择,所述表示是基于所述视频内容的帧而产生,且其中所述播放位置对应于所述帧。
14.根据权利要求8所述的装置,其中所述显示器经配置以呈现第二概要帧,其中所述第二概要帧说明包含在所述视频内容的第二部分中的一第二对象的多个表示。
15.根据权利要求14所述的装置,其中所述显示器经配置以同时呈现所述概要帧和所述第二概要帧。
16.根据权利要求14所述的装置,其中所述处理器经配置以存取元数据以识别所述播放位置,且其中所述元数据包含对应于与所述视频内容的所述部分相关联的所述播放位置的第一链接和对应于与所述视频内容的所述第二部分相关联的第二播放位置的第二链接。
17.根据权利要求8所述的装置,其中响应于所述播放由所述处理器起始,所述显示器经配置以呈现从所述播放位置开始的所述视频内容。
18.根据权利要求8所述的装置,其中所述概要帧说明包含在所述视频内容的第二部分中的第二对象的多个表示。
19.根据权利要求8所述的装置,其进一步包括经配置以存储所述视频内容的存储器。
20.一种设备,其包括:
显示器,其经配置以呈现图形用户接口GUI,其中所述GUI包含说明对象的第一组表示的概要帧;和
处理器,其电耦合到所述显示器且经配置以接收指示所述第一组表示中的特定表示的选择。
21.根据权利要求20所述的设备,其进一步包括经配置以产生所述选择的输入装置,其中所述概要帧与视频内容的一部分相关联,且其中所述选择被包含在对与在所述特定表示相关联的播放位置处的所述视频内容的播放的请求中。
22.根据权利要求20所述的设备,其中所述GUI包含基于与所述概要帧相关联的元数据的文本信息,且其中所述文本信息包括文件名称、概要帧识别符、运动事件日期、运动事件开始时间、运动事件结束时间、运动事件持续时间、摄像机识别符、摄像机位置、天气条件,或其任何组合。
23.根据权利要求20所述的设备,其中所述GUI包含经配置以呈现所述概要帧的概要帧区。
24.根据权利要求23所述的设备,其中所述概要帧区经进一步配置以与所述概要帧的呈现同时地呈现第二概要帧,所述第二概要帧说明第二对象的第二组表示。
25.根据权利要求23所述的设备,其中所述GUI包含播放区,所述播放区经配置以呈现与所述概要帧相关联的视频内容的视频剪辑。
26.根据权利要求25所述的设备,其中与所述概要帧区同时地呈现所述播放区。
27.根据权利要求20所述的设备,其中所述GUI包含时间表,其中所述时间表包含对应于所述概要帧的至少一个标记。
28.根据权利要求20所述的设备,其中所述概要帧指示所述第一组表示的时间序列,且其中所述第一组表示中的每一表示对应于到视频内容的存储位置的链接且可选择以起始在对应于所述表示的播放部分处的所述视频内容的播放。
29.一种设备,其包括:
用于呈现概要帧的装置,其中所述概要帧说明包含在视频内容的一部分中的对象的多个表示;
用于识别对应于所述视频内容的所述部分的播放位置的装置,所述播放位置是基于所述概要帧而识别;和
用于起始所述播放位置处的所述视频内容的播放的装置。
30.根据权利要求29所述的设备,其进一步包括用于接收所述概要帧的选择或所述多个表示中的至少一个表示的装置,其中所述播放位置处的所述视频内容的所述播放是基于所述选择而起始。
CN201580083260.2A 2015-09-25 2015-09-25 用于视频处理的系统和方法 Active CN108028969B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2015/090684 WO2017049577A1 (en) 2015-09-25 2015-09-25 Systems and methods for video processing

Publications (2)

Publication Number Publication Date
CN108028969A true CN108028969A (zh) 2018-05-11
CN108028969B CN108028969B (zh) 2021-07-06

Family

ID=58385708

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201580083260.2A Active CN108028969B (zh) 2015-09-25 2015-09-25 用于视频处理的系统和方法

Country Status (8)

Country Link
US (1) US10708673B2 (zh)
EP (1) EP3354038A4 (zh)
JP (1) JP2018533295A (zh)
KR (1) KR20180056656A (zh)
CN (1) CN108028969B (zh)
BR (1) BR112018006098A2 (zh)
TW (1) TW201724866A (zh)
WO (1) WO2017049577A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114157877A (zh) * 2021-10-08 2022-03-08 钉钉(中国)信息技术有限公司 回放数据的生成方法及装置、回放方法及装置

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10796163B2 (en) * 2014-03-07 2020-10-06 Eagle Eye Networks, Inc. Surveillance video activity summary system and access method of operation (VASSAM)
WO2018068321A1 (en) * 2016-10-14 2018-04-19 SZ DJI Technology Co., Ltd. System and method for moment capturing
US20180150698A1 (en) 2017-01-09 2018-05-31 Seematics Systems Ltd System and method for collecting information about repeated behavior
TWI649729B (zh) * 2017-11-10 2019-02-01 中華電信股份有限公司 一種自動舉證交通違規車輛的系統與方法
US11615623B2 (en) * 2018-02-19 2023-03-28 Nortek Security & Control Llc Object detection in edge devices for barrier operation and parcel delivery
US10674318B2 (en) * 2018-02-26 2020-06-02 Exponential Innovative Technology & Gaming Company, Llc Systems and methods for location tracking and monitoring within a secured area
CN108551582A (zh) * 2018-03-19 2018-09-18 上海交通大学 一种图像、视频数据的身份标识方法与系统
CN110324528A (zh) * 2018-03-28 2019-10-11 富泰华工业(深圳)有限公司 摄像装置、影像处理系统及方法
US20200186852A1 (en) * 2018-12-07 2020-06-11 Arris Enterprises Llc Methods and Systems for Switching Between Summary, Time-shifted, or Live Content
EP3912363A4 (en) * 2019-02-22 2022-09-28 Sportlogiq Inc. SYSTEM AND METHOD FOR CREATING VIDEO DIGEST ACCORDING TO A TEMPLATE
US10728443B1 (en) 2019-03-27 2020-07-28 On Time Staffing Inc. Automatic camera angle switching to create combined audiovisual file
US10963841B2 (en) 2019-03-27 2021-03-30 On Time Staffing Inc. Employment candidate empathy scoring system
US10999647B2 (en) 2019-08-28 2021-05-04 Rovi Guides, Inc. Systems and methods for displaying subjects of a video portion of content and searching for content related to a subject of the video portion
US10956120B1 (en) 2019-08-28 2021-03-23 Rovi Guides, Inc. Systems and methods for displaying subjects of an audio portion of content and searching for content related to a subject of the audio portion
EP4022568A1 (en) * 2019-08-28 2022-07-06 Rovi Guides, Inc. Systems and methods for displaying subjects of a video portion of content and searching for content related to a subject of the video portion
KR102261544B1 (ko) * 2019-11-13 2021-06-07 한국광기술원 스트리밍 서버 및 이를 이용한 다시점 동영상에서의 객체 처리 방법
US11127232B2 (en) 2019-11-26 2021-09-21 On Time Staffing Inc. Multi-camera, multi-sensor panel data extraction system and method
WO2021107421A1 (ko) * 2019-11-26 2021-06-03 한화테크윈 주식회사 사건 중심의 다채널 영상 백업 장치 및 그 방법과, 이를 포함한 네트워크 감시 카메라 시스템
US11023735B1 (en) 2020-04-02 2021-06-01 On Time Staffing, Inc. Automatic versioning of video presentations
US11144882B1 (en) 2020-09-18 2021-10-12 On Time Staffing Inc. Systems and methods for evaluating actions over a computer network and establishing live network connections
US20220358314A1 (en) * 2021-05-07 2022-11-10 Waymo Llc Time-line based object tracking annotation
US20230005507A1 (en) * 2021-07-03 2023-01-05 Logitech Europe S.A. System and method of generating media content from livestreaming media content
US11831973B2 (en) * 2021-08-05 2023-11-28 Qualcomm Incorporated Camera setting adjustment based on event mapping
US11330229B1 (en) 2021-09-28 2022-05-10 Atlassian Pty Ltd. Apparatuses, computer-implemented methods, and computer program products for generating a collaborative contextual summary interface in association with an audio-video conferencing interface service
US11722536B2 (en) 2021-12-27 2023-08-08 Atlassian Pty Ltd. Apparatuses, computer-implemented methods, and computer program products for managing a shared dynamic collaborative presentation progression interface in association with an audio-video conferencing interface service

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101346719A (zh) * 2005-12-23 2009-01-14 高通股份有限公司 从视频帧中选择关键帧
US20100011297A1 (en) * 2008-07-09 2010-01-14 National Taiwan University Method and system for generating index pictures for video streams
JP2010187046A (ja) * 2009-02-10 2010-08-26 Nippon Telegr & Teleph Corp <Ntt> 映像再生制御装置,映像再生制御方法および映像再生制御プログラム
CN102156707A (zh) * 2011-02-01 2011-08-17 刘中华 一种视频摘要形成和搜索的方法、系统
CN202003350U (zh) * 2010-12-14 2011-10-05 广东鑫程电子科技有限公司 视频摘要系统
US20120062732A1 (en) * 2010-09-10 2012-03-15 Videoiq, Inc. Video system with intelligent visual display
CN102930061A (zh) * 2012-11-28 2013-02-13 安徽水天信息科技有限公司 一种基于运动目标检测的视频摘要方法及系统
US20140270708A1 (en) * 2013-03-12 2014-09-18 Fuji Xerox Co., Ltd. Video clip selection via interaction with a hierarchic video segmentation
US20150104149A1 (en) * 2013-10-15 2015-04-16 Electronics And Telecommunications Research Institute Video summary apparatus and method
CN104581437A (zh) * 2014-12-26 2015-04-29 中通服公众信息产业股份有限公司 一种视频摘要生成及视频回溯的方法及系统
WO2015108236A1 (ko) * 2014-01-14 2015-07-23 삼성테크윈 주식회사 요약 영상 브라우징 시스템 및 방법

Family Cites Families (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1184810A3 (en) 1996-02-05 2004-03-10 Texas Instruments Incorporated Improvements in or relating to motion event detection
US6219837B1 (en) * 1997-10-23 2001-04-17 International Business Machines Corporation Summary frames in video
US6549643B1 (en) 1999-11-30 2003-04-15 Siemens Corporate Research, Inc. System and method for selecting key-frames of video data
US6940998B2 (en) 2000-02-04 2005-09-06 Cernium, Inc. System for automated screening of security cameras
US6882793B1 (en) 2000-06-16 2005-04-19 Yesvideo, Inc. Video processing system
US6998527B2 (en) 2002-06-20 2006-02-14 Koninklijke Philips Electronics N.V. System and method for indexing and summarizing music videos
US20040064691A1 (en) 2002-09-26 2004-04-01 International Business Machines Corporation Method and system for processing certificate revocation lists in an authorization system
US6963378B2 (en) 2002-11-01 2005-11-08 Motorola, Inc. Method and apparatus for reduction of visual content
US20040197088A1 (en) * 2003-03-31 2004-10-07 Ferman Ahmet Mufit System for presenting audio-video content
US7577199B1 (en) 2003-06-19 2009-08-18 Nvidia Corporation Apparatus and method for performing surveillance using motion vectors
US7280753B2 (en) 2003-09-03 2007-10-09 Canon Kabushiki Kaisha Display apparatus, image processing apparatus, and image processing system
JP4168940B2 (ja) * 2004-01-26 2008-10-22 三菱電機株式会社 映像表示システム
US7447331B2 (en) * 2004-02-24 2008-11-04 International Business Machines Corporation System and method for generating a viewable video index for low bandwidth applications
JP2005277733A (ja) 2004-03-24 2005-10-06 Seiko Epson Corp 動画像処理装置
JP2006121475A (ja) 2004-10-22 2006-05-11 Matsushita Electric Ind Co Ltd 画像伝送装置
US7619647B2 (en) 2005-04-20 2009-11-17 Mitsubishi Electric Research Laboratories, Inc. Context aware surveillance system using a hybrid sensor network
JP2007019769A (ja) 2005-07-06 2007-01-25 Sony Corp タグ情報表示制御装置、情報処理装置、表示装置、タグ情報表示制御方法及びプログラム
US20070061727A1 (en) 2005-09-15 2007-03-15 Honeywell International Inc. Adaptive key frame extraction from video data
US20070212023A1 (en) 2005-12-13 2007-09-13 Honeywell International Inc. Video filtering system
JP4181590B2 (ja) 2006-08-30 2008-11-19 株式会社東芝 インタフェース装置及びインタフェース処理方法
JP2008154100A (ja) 2006-12-19 2008-07-03 Sharp Corp 撮像装置、サーバ、その制御プログラムおよび該制御プログラムを記録したコンピュータ読取り可能な記録媒体、イベント管理システムならびに制御方法
US8335345B2 (en) 2007-03-05 2012-12-18 Sportvision, Inc. Tracking an object with multiple asynchronous cameras
JP4663746B2 (ja) 2008-03-03 2011-04-06 東芝テリー株式会社 画像処理装置
US8462212B1 (en) 2008-12-04 2013-06-11 Stoplift, Inc. Correlating detected events with image data
JP5213123B2 (ja) * 2009-01-15 2013-06-19 株式会社日立製作所 映像出力方法及び映像出力装置
US8743204B2 (en) 2011-01-07 2014-06-03 International Business Machines Corporation Detecting and monitoring event occurrences using fiber optic sensors
JP2012248070A (ja) * 2011-05-30 2012-12-13 Sony Corp 情報処理装置、メタデータ設定方法、及びプログラム
JP5774506B2 (ja) 2012-01-17 2015-09-09 株式会社日立ビルシステム 映像監視システム
US9141866B2 (en) 2013-01-30 2015-09-22 International Business Machines Corporation Summarizing salient events in unmanned aerial videos
US20150318020A1 (en) * 2014-05-02 2015-11-05 FreshTake Media, Inc. Interactive real-time video editor and recorder
US9665777B2 (en) 2013-05-10 2017-05-30 Robert Bosch Gmbh System and method for object and event identification using multiple cameras
US10075680B2 (en) 2013-06-27 2018-09-11 Stmicroelectronics S.R.L. Video-surveillance method, corresponding system, and computer program product
CN103761284B (zh) * 2014-01-13 2018-08-14 中国农业大学 一种视频检索方法和系统
US10140827B2 (en) * 2014-07-07 2018-11-27 Google Llc Method and system for processing motion event notifications
CN104284158B (zh) 2014-10-23 2018-09-14 南京信必达智能技术有限公司 应用于面向事件的智能监控相机的方法
US10424341B2 (en) * 2014-11-12 2019-09-24 Massachusetts Institute Of Technology Dynamic video summarization
KR102375864B1 (ko) * 2015-02-10 2022-03-18 한화테크윈 주식회사 요약 영상 브라우징 시스템 및 방법
US10643442B2 (en) * 2015-06-05 2020-05-05 Withings Video monitoring system
US9866923B2 (en) * 2015-08-28 2018-01-09 Cbs Interactive Inc. Digital channel integration system
CN108028908A (zh) 2015-09-25 2018-05-11 高通股份有限公司 用于视频处理的系统和方法

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101346719A (zh) * 2005-12-23 2009-01-14 高通股份有限公司 从视频帧中选择关键帧
US20100011297A1 (en) * 2008-07-09 2010-01-14 National Taiwan University Method and system for generating index pictures for video streams
JP2010187046A (ja) * 2009-02-10 2010-08-26 Nippon Telegr & Teleph Corp <Ntt> 映像再生制御装置,映像再生制御方法および映像再生制御プログラム
US20120062732A1 (en) * 2010-09-10 2012-03-15 Videoiq, Inc. Video system with intelligent visual display
CN202003350U (zh) * 2010-12-14 2011-10-05 广东鑫程电子科技有限公司 视频摘要系统
CN102156707A (zh) * 2011-02-01 2011-08-17 刘中华 一种视频摘要形成和搜索的方法、系统
CN102930061A (zh) * 2012-11-28 2013-02-13 安徽水天信息科技有限公司 一种基于运动目标检测的视频摘要方法及系统
US20140270708A1 (en) * 2013-03-12 2014-09-18 Fuji Xerox Co., Ltd. Video clip selection via interaction with a hierarchic video segmentation
US20150104149A1 (en) * 2013-10-15 2015-04-16 Electronics And Telecommunications Research Institute Video summary apparatus and method
WO2015108236A1 (ko) * 2014-01-14 2015-07-23 삼성테크윈 주식회사 요약 영상 브라우징 시스템 및 방법
CN104581437A (zh) * 2014-12-26 2015-04-29 中通服公众信息产业股份有限公司 一种视频摘要生成及视频回溯的方法及系统

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114157877A (zh) * 2021-10-08 2022-03-08 钉钉(中国)信息技术有限公司 回放数据的生成方法及装置、回放方法及装置
CN114157877B (zh) * 2021-10-08 2024-04-16 钉钉(中国)信息技术有限公司 回放数据的生成方法及装置、回放方法及装置

Also Published As

Publication number Publication date
KR20180056656A (ko) 2018-05-29
CN108028969B (zh) 2021-07-06
EP3354038A4 (en) 2019-03-20
US20180295428A1 (en) 2018-10-11
BR112018006098A2 (pt) 2018-10-16
EP3354038A1 (en) 2018-08-01
TW201724866A (zh) 2017-07-01
US10708673B2 (en) 2020-07-07
WO2017049577A1 (en) 2017-03-30
JP2018533295A (ja) 2018-11-08

Similar Documents

Publication Publication Date Title
CN108028969A (zh) 用于视频处理的系统和方法
CN108028908A (zh) 用于视频处理的系统和方法
US10694219B2 (en) System and method for media synchronization and collaboration
US11450353B2 (en) Video tagging by correlating visual features to sound tags
CN106303555B (zh) 一种基于混合现实的直播方法、装置和系统
US9100667B2 (en) Life streaming
KR102015067B1 (ko) 뷰어 표현에 따라 미디어 컨텐츠를 캡쳐링
US20150331942A1 (en) Methods, systems, and media for aggregating and presenting multiple videos of an event
WO2015072631A1 (ko) 영상 처리 장치 및 방법
CN111095939B (zh) 识别媒体项目的先前流传输部分以避免重复重放
US11037604B2 (en) Method for video investigation
CN105830429B (zh) 用于处理被相机运动损坏的视频帧的方法和系统
US20150147045A1 (en) Computer ecosystem with automatically curated video montage
US10567844B2 (en) Camera with reaction integration
US11030479B2 (en) Mapping visual tags to sound tags using text similarity
CN102905102A (zh) 一种抓图视频播放器及抓图方法
CN103763480A (zh) 获取视频配音的方法及设备
CN112166599A (zh) 视频剪辑方法及终端设备
CN108491067B (zh) 智能扇子控制方法、智能扇子及计算机可读存储介质
CN109469962A (zh) 一种空调化霜方法、装置和存储介质
CN111209807A (zh) 一种基于yolov3的视频结构化方法及系统
EP4333446A1 (en) Control of user device based on detecting an event of interest
CN106202460A (zh) 流媒体文件的推送方法及系统
US20200137321A1 (en) Pulsating Image

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant