CN112216309A - 数据处理系统 - Google Patents

数据处理系统 Download PDF

Info

Publication number
CN112216309A
CN112216309A CN202011228802.XA CN202011228802A CN112216309A CN 112216309 A CN112216309 A CN 112216309A CN 202011228802 A CN202011228802 A CN 202011228802A CN 112216309 A CN112216309 A CN 112216309A
Authority
CN
China
Prior art keywords
data
image data
video
video image
highlight
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011228802.XA
Other languages
English (en)
Other versions
CN112216309B (zh
Inventor
弗兰克·德容
伊夫琳·安娜·克莱因简
彼得-弗兰斯·保韦尔斯
S·斯塔尼希奇
D·赫瑟林顿
G·斯彭斯
W·赫尔姆森
D·齐利奥
E·亨佩尔
N·奥布拉多维奇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tong Teng Technology Co ltd
TomTom International BV
Original Assignee
Tong Teng Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tong Teng Technology Co ltd filed Critical Tong Teng Technology Co ltd
Publication of CN112216309A publication Critical patent/CN112216309A/zh
Application granted granted Critical
Publication of CN112216309B publication Critical patent/CN112216309B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B19/00Driving, starting, stopping record carriers not specifically of filamentary or web form, or of supports therefor; Control thereof; Control of operating function ; Driving both disc and head
    • G11B19/20Driving; Starting; Stopping; Control thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/43Querying
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • G11B27/034Electronic editing of digitised analogue information signals, e.g. audio or video signals on discs
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/102Programmed access in sequence to addressed parts of tracks of operating record carriers
    • G11B27/105Programmed access in sequence to addressed parts of tracks of operating record carriers of operating discs
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/11Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information not detectable on the record carrier
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/19Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier
    • G11B27/28Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/19Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier
    • G11B27/28Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording
    • G11B27/32Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording on separate auxiliary tracks of the same or an auxiliary record carrier
    • G11B27/322Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording on separate auxiliary tracks of the same or an auxiliary record carrier used signal is digitally coded
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure

Abstract

本申请涉及数据处理系统。本发明揭示与视频摄像机所记录的视频及传感器数据的处理有关的方法及系统。举例来说,第一实施例针对于将传感器数据存储在数字媒体文件的元数据部分中,第二实施例针对于将突出显示数据存储在数字媒体文件的元数据部分中,且第三实施例针对于基于传感器数据而创建突出显示数据。

Description

数据处理系统
本申请是申请日为2016年4月29日、申请号为201680035302.X、发明名称为“数据处理系统”的发明专利申请的分案申请。
技术领域
本发明涉及数据处理,且明确地说涉及视频摄像机所记录的视频及传感器数据的处理。
背景技术
数字视频摄像机及此类摄像机所记录的数字媒体数据的处理近年来已变得屡见不鲜。此类摄像机所记录的视频数据及通常音频数据通常写入到数字媒体容器,例如AVI容器格式或MP4容器格式。这些容器格式允许将视频及音频数据及在许多情形中例如字幕及静态图像等其它数据存储在数字媒体文件中,而且还允许现场直播所述数据,即,经由因特网而流式传输。
数字媒体容器用于识别及交错不同数据类型,且包括多个部分,包含有效负载(或数据)部分及一或多个元数据部分。有效负载(或数据)部分包含媒体数据,通常容器中的数据类型(例如视频、音频等)中的每一者被交错(或被多路复用)。一或多个元数据部分含有关于容器及其中所含有的媒体数据(或内容)的数据。举例来说,一或多个元数据部分可包含数据,例如:流(或轨道)的数目,例如视频、音频等;每一流的格式,例如用于编码每一流的压缩类型(如果有的话);及媒体数据的持续时间;所有这些数据均需要读取容器中的数据且随后提供内容。一或多个元数据部分还可包含关于容器中的内容的信息,例如标题、艺术家名等。数字媒体容器通常具有分层结构,其中一或多个元数据部分通常定位在容器的开始处。然而,并非总是如此,且在一些例子中,一或多个元数据部分可定位在容器的开始处,且一或多个其它元数据部分可定位在容器的结束处。
在MP4容器的情形中,容器的部分中的每一者通常称为‘原子’。MP4容器的有效负载部分称作mdat原子,且元数据部分包含:moov原子,其充当容器的索引且定义容器中的媒体数据的时间标度、持续时间、显示特性及容器中的每一轨道的信息;及通常一或多个uuid原子或所谓的用户定义的原子。在moov原子可能播放MP4容器中的媒体内容之前,需要存取moov原子,且因此,moov原子的位置通常取决于容器将被递送的方式,例如渐进式下载、流式传输或本地回放。对于本地回放,容器中的moov原子的位置并不重要,因为可立即获得整个文件。因此,moov原子通常将见于容器的结束处,因为这样可为有益的,因为在将媒体数据添加到容器之前并不知晓数据及因此moov原子的大小。然而,对于渐进式下载或流式传输,如果moov原子将定位在容器的结束处,那么在moov原子可被播放之前,需要下载整个文件(或需要用以获得moov原子的第二通信通道,所述第二通信通道独立于用于流式传输文件的媒体内容的通信通道)。因此,在此些例子中,将moov原子定位在容器的开始处是合意的。
现在将参考图1、2及3描述某些数字媒体处理技术的概览。
第一技术是数字媒体文件的写入,通常大体称作“编码”,且展示于图1中。获得未压缩(或原始)媒体数据(还称作流且可包含视频摄像机所记录的视频帧及麦克风所记录的音频包)且将所述未压缩(或原始)媒体数据编码为经压缩格式。压缩通过移除冗余信息而减小数据流的大小,且可为无损压缩或有损压缩;无损压缩为经重构数据等同于原始数据的情况,且有损压缩为景重构数据近似原始数据但不等同于原始数据的情况。举例来说,视频流可使用H.264压缩格式而压缩,且音频流可使用AAC压缩格式而压缩。一旦已编码流,所述流便被多路复用,还称为“多路复用技术”,其中将若干流组合成单个流。经多路复用流接着可写入到文件的有效负载(或数据)部分,且在停止记录之后,通过更新相关的一或多个元数据部分及/或将相关的一或多个元数据部分添加到文件而关闭文件。另一选择为,经多路复用流可经由网络而流式传输,而非被写入到文件。
第二技术是数字媒体文件的读取,通常大体称作“解码”,且展示于图2中。此技术本质上是图1中所展示的“编码”的逆转,且涉及基于文件的一或多个元数据部分中的信息而多路分用文件中所含有的流。经多路分用流中的每一者接着可再次基于文件的一或多个元数据部分中的信息从其经压缩格式进行解码,且接着可播放视频帧、音频包等。
第三技术是变码技术且展示于图3中。变码为如下过程:多路分用及解码数字媒体文件中的流,且接着重新编码并重新多路复用所述流中的数据中的一些或全部数据以产生新数字媒体文件。变码通常经执行以将文件从一种类型转换为另一类型、或改变用于编码文件中的媒体数据的压缩格式,或者改变媒体数据的格式参数,例如帧速率、分辨率。
在摄像机本身上或在供在计算装置(例如桌上型计算机或膝上型计算机、智能电话等)上使用的相关联编辑软件上使用此类数字媒体处理技术的数字视频摄像机越来越多地被用于户外及体育场景中。此些视频摄像机(通常称为“运动型摄像机”)通常附接到用户、运动装备或运载工具,且在具有最少用户交互的体育赛事期间经操作以俘获视频数据且通常还俘获音频数据。
将若干额外传感器装置集成到此类运动型摄像机中也是已知的。举例来说,WO2011/047790 A1揭示视频摄像机,包括集成式GPS装置、速度或加速度测量装置、时间测量装置、温度测量装置、心率测量装置、气压高度测量装置及电子罗盘中的一些或全部。这些传感器可集成在摄像机本身中,或可距摄像机较远并使用有线或无线连接可操作地连接到摄像机。进一步描述,来自这些额外传感器装置的数据(即,传感器数据)可独立于含有所记录视频及音频数据的数字媒体文件而存储,但传感器数据还可(例如)通过将传感器数据存储在媒体文件的有效负载(或数据)部分中而存储在与所记录视频及音频数据相同的数字媒体文件中。在存储在相同数字媒体文件中的情形中,传感器数据与视频及音频数据一起多路复用,且可(举例来说)存储在媒体文件的字幕轨道中。
WO 2011/047790进一步揭示,传感器数据可经添加作为在于显示装置上播放及显示视频数据时视频数据上方的数字覆盖,使得观看者可与视频同时看到(举例来说)用户或其装备的改变的速度、加速度、位置、高程等。还揭示,此类数字覆盖可通过变码过程永久地集成到视频数据中,使得所记录视频接着可上传到视频共享站点,例如
Figure BDA0002764473250000031
虽然此类技术本身是有利的,但申请人相信,用于处理视频图像数据的技术且明确地说用于处理经集成视频图像及传感器数据的技术仍有改进的余地。
发明内容
根据本发明的方面,提供一种存储由数字视频摄像机所收集的数据的方法,所述数字视频摄像机具有与其相关联的一或多个传感器装置,所述方法包括:
接收用以致使所述摄像机开始进行记录的第一输入;
基于接收到所述第一输入而打开第一存储器上的数字媒体容器;
将基于从所述摄像机的图像传感器所接收的数据的视频图像数据写入到所述数字媒体容器的有效负载部分;
将基于从所述一或多个传感器装置所接收的数据的传感器数据存储在第二存储器中;
接收用以致使所述摄像机停止进行记录的第二输入;
基于接收到所述第二输入而将存储在所述第二存储器中的所述传感器数据添加到所述数字媒体容器的元数据部分;及
关闭所述数字媒体容器以创建存储在所述第一存储器中的数字媒体文件。
本发明扩展到一种用于执行根据本文中所描述的本发明的各方面或实施例中的任一者的方法的系统,优选地为数字视频摄像机。
因此,根据本发明的另一方面,提供一种用于存储由数字视频摄像机所收集的数据的系统,所述数字视频摄像机具有与其相关联的一或多个传感器装置,所述系统包括:
用于接收用以致使所述摄像机开始进行记录的第一输入的构件;
用于基于接收到所述第一输入而打开第一存储器上的数字媒体容器的构件;
用于将基于从所述摄像机的图像传感器所接收的数据的视频图像数据写入到所述数字媒体容器的有效负载部分的构件;
用于将基于从所述一或多个传感器装置所接收的数据的传感器数据存储在第二存储器中的构件;
用于接收用以致使所述摄像机停止进行记录的第二输入的构件;
用于基于接收到所述第二输入而将存储在所述第二存储器中的所述传感器数据添加到所述数字媒体容器的元数据部分的构件;及
用于关闭所述数字媒体容器以创建存储在所述第一存储器中的数字媒体文件的构件。
本发明进一步扩展到使用上文所描述的方法创建的数字媒体文件。因此,所述媒体文件包括:视频图像数据,其指示所述媒体文件的有效负载部分中的在记录事件(即,接收到用以开始进行记录的输入(或指令)与接收到用以停止进行记录的输入(或指令)之间的时间周期)期间从数字视频摄像机的图像传感器所接收的数据;及传感器数据,其指示所述媒体文件的元数据部分中的在所述记录事件期间从与所述摄像机相关联的一或多个传感器装置所接收的数据。
如所属领域的技术人员将了解,本发明的这些其它方面可以且优选地确实视需要包含本文中关于本发明的其它方面中的任一者所描述的本发明的任何一或多个或者全部优选及任选特征。因此,虽然未明确陈述,但本发明的系统可包括用于执行关于本发明在其各方面或实施例中的任一者中的方法所描述的任何步骤的构件,且反之亦然。
本发明为计算机实施的发明,且关于本发明的各方面或实施例中的任一者所描述的步骤中的任一者可由一组一或多个处理器执行,所述组一或多个处理器执行包括存储在非暂时性计算机可读媒体上的计算机可读指令的软件。
至少在一些方面及实施例中,本发明涉及用于存储由数字视频摄像机所收集的数据的方法及系统,所述数字视频摄像机具有与其相关联的一或多个传感器装置。如下文将较详细论述,所述一或多个传感器装置可包含与摄像机成整体(即,在摄像机的壳体内)的传感器,但还可包含距摄像机较远并使用有线或无线连接可操作地连接到摄像机的传感器。
在本发明中,视频图像数据存储在媒体文件的有效负载部分中,此在此项领域中是常规的。然而,与已知方法(例如,WO 2011/047790 A1中所描述的方法)对比,传感器数据存储在相同媒体文件的元数据部分中,而非存储在所述媒体文件的有效负载部分中。申请人已发现,此允许更快速地且容易地存取及使用传感器数据以提供其它功能性,例如在突出显示的产生中,如下文将更详细描述,这是因为传感器数据在其可被使用之前不需要与所述文件的有效负载部分中的其它数据(例如视频图像数据、音频数据等)进行多路分用。
根据本发明,接收第一输入以致使数字视频摄像机开始进行记录。所述第一输入可为用户做出的手动输入,例如用户致动摄像机或使用有线或无线连接与摄像机通信的远程控制装置的用户输入,例如按钮、滑件等。用户做出的手动输入可另外或替代地包含:触摸或手势输入,例如触敏式显示屏上所呈现的虚拟按钮的选择;及/或可听输入,例如用户做出的通过自动语音辨识(ASR)软件而检测及解译的语音命令。第一输入还可为自动输入,例如用以在经过预定时间周期之后及/或基于来自传感器装置中的一或多者的数据而开始进行记录的命令。举例来说,第一输入可在检测到预定速度或加速度(例如基于由全球导航卫星系统(GNSS)接收器、加速度计等输出的数据)时自动产生。
基于接收到所述第一输入而打开第一存储器上的数字媒体容器。可使用任何适合数字媒体容器,例如MP4、AVI等。第一存储器优选地包括用于存储由视频摄像机所收集的数据的非易失性存储器装置,且可包括可附接到视频摄像机且可从视频摄像机拆离的可移除非易失性存储器装置。举例来说,第一存储器可包括存储器卡,例如,举例来说,SD卡等。
如将了解,视频摄像机包括产生原始(即,未压缩)图像数据的图像传感器。虽然可视需要在任何情况中使用摄像机,但优选地,由图像传感器产生及因此由视频摄像机收集的图像数据优选地为(优选地)在视频摄像机附接到用户、运动装备或运载工具时在户外或体育赛事等期间收集的数据。所述视频摄像机还包括用以处理原始图像数据及产生经编码(视频)流的视频处理装置(至少包含编码器)。如下文将更详细描述,所述视频处理装置优选地进一步包含用以解码经编码(视频)流且可优选地与至少一个编码器一起用于执行变码的解码器。所述视频处理装置优选地包括单芯片系统(SOC),包括用于编码、解码及变码视频及音频数据的核心(或块)。因此,所述视频处理装置优选地(例如)在不使用嵌入式处理器的情况下以硬件方式实施。
来自所述图像传感器的所述原始图像数据可视需要使用任何适合压缩技术(例如无损压缩或有损压缩)而编码,且可(举例来说)帧内压缩技术或帧间压缩技术。如此项技术中所已知,帧内压缩技术通过个别地压缩图像数据的每一帧而起作用,而帧间压缩技术通过将多个相邻帧压缩在一起而起作用(基于如下认识:帧可依据一或多个前面及/或后面帧而表达)。然而,在优选实施例中,原始图像数据经处理以产生使用帧间压缩技术(例如H.264)而编码的至少一个流。所述经编码(视频)流的特性(例如,帧速率及分辨率)可由用户(例如)通过使用摄像机及/或远程控制装置的用户接口而选择。举例来说,用户可选择按以下分辨率720p、1080p、2.7K及4K中的一或多者及/或按以下帧速率15帧/秒(fps)、30fps及60fps中的一或多者来记录视频图像数据;但将了解,此些值仅是示范性的。
在优选实施例中,第一存储器处于视频摄像机的壳体内,且优选地使用有线连接连接到摄像机的图像传感器及视频处理装置。然而,还预期,第一存储器可距视频摄像机较远且使用无线连接连接到摄像机的图像传感器及视频处理装置。
在本发明中,基于从摄像机的图像传感器所接收的数据、优选地由视频处理装置输出的经编码流(例如,H.264经编码流)的视频图像数据写入到第一存储器上所打开的数字媒体容器的有效负载部分。如此项技术中所已知,数字媒体容器可包括多个轨道,例如一或多个视频轨道、一或多个音频轨道、一或多个字幕轨道等;这些轨道中的每一者中的数据被多路复用,即,放置到包中并交错,且存储在容器的有效负载部分中。因此,在优选实施例中,视频图像数据与其它数据(例如,音频数据、其它视频图像数据等)交错,如下文将较详细论述,且写入到数字媒体容器的有效负载部分。因此,数字视频摄像机优选地包括:多路复用器,其用以将多个经编码媒体流(例如,一或多个视频流、一或多个音频流等)交错为单个经交错经编码流;以及多路分用器,其用以将单个经交错经编码流往回分离成组成其的多个经编码媒体流。
在优选实施例中,视频摄像机进一步包括产生原始(即,未压缩)音频数据的麦克风及用以处理原始音频数据并产生经编码音频流的音频处理系统(包含至少一编码器)。原始音频数据可视需要使用任何适合压缩技术(例如无损压缩或有损压缩)而编码。举例来说,在优选实施例中,原始音频数据经处理以产生使用AAC压缩技术编码的流。麦克风可处于视频摄像机的壳体内,且壳体包括通往外部环境的开口。在其它实施例中,可使用外部(或远程)麦克风,所述外部(或远程)麦克风使用有线或无线连接连接到摄像机。在优选实施例中,音频数据(例如,由音频处理系统输出的经编码流,例如AAC编码的流)写入到第一存储器上所打开的数字媒体容器的有效负载部分,其中优选地音频数据与视频图像数据被多路复用。
另外或另一选择为,视频处理装置可包括:第一编码器,其优选地使用帧间压缩技术依据从摄像机的图像传感器所接收的数据而产生第一经编码流;及第二编码器,其优选地使用帧内压缩技术依据从摄像机的图像传感器所接收的数据而产生第二经编码流。第一经编码流可包括H.264经编码流,且如上文所论述,可处于以下分辨率720p、1080p、2.7K及4K中的一或多者及/或处于以下帧速率15fps、30fps及60fps中的一或多者。第二经编码流可包括其中每一帧经压缩为jpeg图像的流,所述第二经编码流通常将为质量比第一经编码流低的流,例如具有较低分辨率及/或帧速率的流。每一jpeg图像可处于768×432像素(px)的分辨率,且所述流可具有30fps的帧速率;但将了解,所述值仅是示范性的。在优选实施例中,第一经编码流及第二经编码流两者均写入到第一存储器上所打开的数字媒体容器的有效负载部分,其中优选地第一经编码流与第二经编码流被多路复用。
媒体文件(在关闭容器时创建)中存在两种经编码流的有利之处在于:第一经编码视频流可以正常方式用来提供高质量视频,而第二经编码视频流可流式传输到远程装置(例如智能电话或其它移动计算装置),使得用户可立即观看媒体文件中的所记录视频(或完成对将依据第一经编码视频流而创建的视频的编辑之前预览视频)。与使用更复杂帧间压缩技术相比,对第二经编码流使用帧内压缩技术允许任何智能电话或其它移动计算装置实际上在不需要特定软件及硬件的情况下播放视频。
据信,存储使用帧间压缩技术编码的第一视频流及使用帧内压缩技术编码的第二视频流本身是新且有利的。
因此,根据本发明的另一方面,提供一种存储由具有图像传感器及视频处理装置的数字视频摄像机所收集的数据的方法,所述方法包括:
接收用以致使所述摄像机开始进行记录的第一输入;
基于接收到所述第一输入而打开存储器上的数字媒体容器;
使用所述视频处理装置的第一编码器来使用帧间压缩技术依据从所述图像传感器所接收的数据而产生第一经编码视频流;
使用所述视频处理装置的第二编码器来使用帧内压缩技术依据从所述图像传感器所接收的所述数据而产生第二经编码视频流;
将所述第一经编码视频流及所述第二经编码视频流写入到所述数字媒体容器的有效负载部分;
接收用以致使所述摄像机停止进行记录的第二输入;及
基于接收到所述第二输入而关闭所述数字媒体容器以创建存储在所述存储器中的数字媒体文件。
本发明扩展到一种用于执行根据本文中所描述的本发明的各方面或实施例中的任一者的方法的系统,优选地为数字视频摄像机。
因此,根据本发明的另一方面,提供一种用于存储由具有图像传感器及视频处理装置的数字视频摄像机所收集的数据的系统,所述系统包括:
用于接收用以致使所述摄像机开始进行记录的第一输入的构件;
用于基于接收到所述第一输入而打开存储器上的数字媒体容器的构件;
用于使用所述视频处理装置的第一编码器来使用帧间压缩技术依据从所述图像传感器所接收的数据而产生第一经编码视频流的构件;
用于使用所述视频处理装置的第二编码器来使用帧内压缩技术依据从所述图像传感器所接收的所述数据而产生第二经编码视频流的构件;
用于将所述第一经编码视频流及所述第二经编码视频流写入到所述数字媒体容器的有效负载部分的构件;
用于接收用以致使所述摄像机停止进行记录的第二输入的构件;及
用于基于接收到所述第二输入而关闭所述数字媒体容器以创建存储在所述存储器中的数字媒体文件的构件。
本发明进一步扩展到使用上文所描述的方法创建的数字媒体文件。因此,所述媒体文件包括指示在记录事件(即,接收到用以开始进行记录的输入(或指令)与接收到用以停止进行记录的输入(或指令)之间的时间周期)期间从数字视频摄像机的图像传感器所接收的数据的两组视频图像数据;第一组视频图像数据使用帧间压缩技术而编码,且第二组视频图像数据使用帧内压缩技术而编码。这两组视频图像数据优选地被多路复用且存储在所述媒体文件的有效负载部分中。
如所属领域的技术人员将了解,本发明的这些其它方面可以且优选地确实视需要包含本文中关于本发明的其它方面中的任一者所描述的本发明的任何一或多个或者全部优选及任选特征。因此,虽然未明确陈述,但本发明的系统可包括用于执行关于本发明在其各方面或实施例中的任一者中的方法所描述的任何步骤的构件,且反之亦然。
所述第一编码器及所述第二编码器可形成为单独装置。然而,在优选实施例中,所述视频处理装置包括两个输出通道;一个输出通道用于所述第一经编码流且另一输出通道用于所述第二经编码流。
如上文所论述,所述第一经编码流及所述第二经编码流两者优选地写入到所述第一存储器上所打开的所述数字媒体容器的所述有效负载部分,其中优选地所述第一经编码流与所述第二经编码流被多路复用。所述第一经编码流优选地写入到所述容器的所述有效负载部分的视频轨道,且数据优选地添加到所得文件的元数据部分,使得所述第一经编码流识别为视频图像数据。此允许通过计算装置的常规视频播放及编辑硬件及/或软件来播放(在被多路分用及解码之后)所述第一经编码流。所述第二经编码流(尽管也是视频图像数据)优选地写入到所述容器的所述有效负载部分的非视频轨道,例如文本轨道,例如字幕轨道。由于所述第二经编码流写入到非视频轨道,例如字幕轨道,且数据优选地不添加到所得文件的元数据部分,因此使得所述第二经编码流不识别为视频图像数据。此意指,所述第二经编码流通过计算装置的常规视频播放及编辑硬件及/或软件将不可识别且因此不可播放。
因此,在优选实施例中,所述方法包含:基于接收到所述第二输入(用以致使所述摄像机停止进行记录)而将数据添加到所述数字媒体容器的元数据部分,以仅将所述第一经编码视频流识别为视频图像数据且因此不将第二经编码视频流识别为视频图像数据。
据信,将第一视频流存储在数字媒体容器的视频轨道中且将第二视频流存储在所述数字媒体容器的文本轨道中本身是新且有利的。
因此,根据本发明的另一方面,提供一种存储由具有图像传感器及视频处理装置的数字视频摄像机所收集的数据的方法,所述方法包括:
接收用以致使所述摄像机开始进行记录的第一输入;
基于接收到所述第一输入而打开存储器上的数字媒体容器,所述数字媒体容器至少包括视频轨道及文本轨道;
使用所述视频处理装置依据从所述图像传感器所接收的数据而产生第一经编码视频流及第二经编码视频流;
将所述第一经编码视频流写入到所述数字媒体容器的所述视频轨道且将所述第二经编码视频流写入到所述数字媒体容器的所述文本轨道;
接收用以致使所述摄像机停止进行记录的第二输入;及
基于接收到所述第二输入而关闭所述数字媒体容器以创建存储在所述存储器中的数字媒体文件。
本发明扩展到一种用于执行根据本文中所描述的本发明的各方面或实施例中的任一者的方法的系统,优选地为数字视频摄像机。
因此,根据本发明的另一方面,提供一种用于存储由具有图像传感器及视频处理装置的数字视频摄像机所收集的数据的系统,所述系统包括:
用于接收用以致使所述摄像机开始进行记录的第一输入的构件;
用于基于接收到所述第一输入而打开存储器上的数字媒体容器的构件,所述数字媒体容器至少包括视频轨道及文本轨道;
用于使用所述视频处理装置依据从所述图像传感器所接收的数据而产生第一经编码视频流及第二经编码视频流的构件;
用于将所述第一经编码视频流写入到所述数字媒体容器的所述视频轨道且将所述第二经编码视频流写入到所述数字媒体容器的所述文本轨道的构件;
用于接收用以致使所述摄像机停止进行记录的第二输入的构件;及
用于基于接收到所述第二输入而关闭所述数字媒体容器以创建存储在所述存储器中的数字媒体文件的构件。
本发明进一步扩展到使用上文所描述的方法创建的数字媒体文件。因此,所述媒体文件包括指示在记录事件(即,接收到用以开始进行记录的输入(或指令)与接收到用以停止进行记录的输入(或指令)之间的时间周期)期间从数字视频摄像机的图像传感器所接收的数据的两组视频图像数据。所述组视频图像数据中的一组存储在所述媒体文件的视频轨道中,且另一组视频图像数据存储在所述媒体文件的文本轨道(例如,字幕轨道)中。
如所属领域的技术人员将了解,本发明的这些其它方面可以且优选地确实视需要包含本文中关于本发明的其它方面中的任一者所描述的本发明的任何一或多个或者全部优选及任选特征。因此,虽然未明确陈述,但本发明的系统可包括用于执行关于本发明在其各方面或实施例中的任一者中的方法所描述的任何步骤的构件,且反之亦然。此外,写入到所述容器的所述视频轨道的所述第一经编码视频流优选地使用帧间压缩技术而编码,且写入到所述容器的所述文本轨道的所述第二经编码视频流优选地使用帧内压缩技术而编码。所述第一经编码视频流及所述第二经编码视频流还优选地被多路复用且存储在所述媒体文件的有效负载部分中。
如上文所论述,在本发明的一些方面及实施例中,从与所述摄像机相关联的一或多个传感器装置接收数据,且此数据或从其导出的数据存储在第二存储器中。所述第二存储器优选地不同于所述第一存储器。举例来说,在所述第一存储器优选地为可移除存储器(例如,SD卡)的情况下,所述第二存储器优选地为所述摄像机内的不可移除存储器。如将了解,传感器数据优选地与由所述视频摄像机所收集的视频图像数据及任选地音频数据是同时的,且优选地为(优选地)在视频摄像机附接到用户、运动装备或运载工具时在户外或体育赛事等期间收集的数据。因此,传感器数据优选地包括在其中记录视频图像数据的时间期间基本上连续地或优选地以规律间隔收集的数据。
一或多个传感器装置优选地用于测量以下各项中的至少一者:用户、摄像机、运动装备及/或运载工具物项的移动或其它物理参数,例如位置、速度、加速度等(例如在正记录视频图像数据时的户外或体育赛事期间);用户及/或摄像机周围的环境条件,例如温度、压力等;及用户的生理特性,例如心率、最大摄氧量等。因此,在实施例中,传感器数据可与参数相关,例如以下各项中的任何一或多者:位置;速度;加速度;高度;节奏;心率;温度;方位(或航向);光水平;压力;及定向。此外,在实施例中,一或多个传感器装置优选地包含以下各项中的一或多者:定位确定装置,例如全球导航卫星系统(GNSS)接收器;加速度计(优选地为3轴加速度计);陀螺仪;磁力计;压力传感器,即,气压计;温度传感器,即,温度计;音频测量装置,例如麦克风;电子罗盘;光传感器;及心率监测器。所述传感器装置中的一个或一些传感器装置或者全部传感器装置可位于摄像机的壳体内,且优选地使用有线连接可操作地耦合到摄像机的处理器。另外或另一选择为,所述传感器装置中的一个或一些传感器装置或者全部传感器装置可距摄像机较远,例如经配置以由视频摄像机的用户佩戴或附接到视频摄像机的用户及/或附接到用户正使用的运动装备或运载工具。此类远程传感器装置优选地使用无线连接(例如WiFi、蓝牙等)可操作地耦合到摄像机的处理器。
在实施例中,一或多个传感器装置中的每一者具有决定从传感器装置接收数据的频率的相关联取样速率。所述取样速率在所有传感器装置之间可为相同的,但通常,传感器装置中的至少一些传感器装置将具有不同取样速率。从一或多个传感器装置所接收的数据优选地与指示传感器装置确定数据的时间的数据(例如,时间戳)相关联地存储在第二存储器中。来自一或多个传感器装置的所接收数据优选地根据数据结构而存储在第二存储器中,所述数据结构包括:时间戳;传感器装置类型;及有效负载,包含来自传感器装置的所接收样本。
在实施例中,存储在第二存储器中的传感器数据可包含关于直接从一或多个传感器装置获得的变量的一或多个数据集,及/或关于间接从一或多个传感器装置获得的变量(即,从一或多个传感器装置获得的数据所导出的变量)的一或多个数据集。举例来说,加速度可依据如从GNSS接收器确定的速度而确定。
根据本发明,接收第二输入以致使数字视频摄像机停止进行记录。所述第二输入可为用户做出的手动输入,例如用户致动摄像机或使用有线或无线连接与摄像机通信的远程控制装置的用户输入,例如按钮、滑件等。用以停止进行记录的用户输入可与经致动以开始进行记录的用户输入相同,但在优选实施例中,两个用户输入是不同的。用户做出的手动输入可另外或替代地包含:触摸或手势输入,例如触敏式显示屏上所呈现的虚拟按钮的选择;及/或可听输入,例如用户做出的通过自动语音辨识(ASR)软件而检测及解译的语音命令。第二输入还可为自动输入,例如用以在经过预定时间周期之后及/或基于来自传感器装置中的一或多者的数据而停止进行记录的命令。
基于接收到此第二输入,将存储在第二存储器中的传感器数据添加到数字媒体容器的元数据部分,且接着关闭所述容器以创建存储在第一存储器中的数字媒体文件。
如将了解,传感器数据通常将仅形成添加到容器的总元数据的一部分,以关闭文件。举例来说,一或多个元数据部分还将包含识别以下内容的数据:文件的持续时间;用于编码视频及音频数据的压缩类型;文件中的媒体轨道的数目;视频数据的分辨率;视频数据的帧速率等,且所述内容是允许计算装置的媒体播放器播放(例如,显示)文件所需的。另外,且如下文将较详细论述,一或多个元数据部分还可包含识别所记录视频图像数据中的一或多个时间(或时刻)的数据,所述一或多个时间(或时刻)已确定为用户潜在地感兴趣的,本文中称为“标签”或“突出显示”,且可用于促进视频图像数据的回放及/或编辑。
一或多个元数据部分还可包含链接多个媒体文件的数据,例如识别特定媒体文件含有紧接在另一媒体文件前面或后面的视频数据。举例来说,优选地存在媒体文件的预定最大大小,所述预定最大大小通常将对应于使用特定视频格式的特定记录持续时间。因此,在实施例中,当达到此最大大小(或记录持续时间)时,此时通过添加相关一或多个元数据部分而关闭当前打开的媒体容器,并打开新媒体容器。因此,一或多个元数据部分优选地包含多个文件之间的关联性及次序,使得用户可犹如来自单个媒体文件一样观看并编辑整个所记录图像(用户不必手动选择构成媒体文件序列的所有媒体文件)。换句话说,媒体文件的一或多个元数据部分优选地包含识别特定媒体文件与序列中的其它媒体文件的关系(即,指示所述媒体文件在相关媒体文件序列中的位置)的信息。
在本发明的实施例中,媒体文件的一或多个元数据部分位于媒体文件的有效负载部分前面,即,在媒体文件的有效负载部分之前。如上文所论述,通过以此方式使媒体文件结构化,允许使用单个通信通道来流式传输文件中的媒体数据以供在远程计算装置上播放及显示(不需要先将整个媒体文件传送(或下载)到远程计算装置)。因此,在优选实施例中,当打开第一存储器上的数字媒体容器时,保留在容器的有效负载部分前面的预定量的存储器,在关闭容器时容器的一或多个元数据部分被添加到所述预定量的存储器中以创建媒体文件。(例如)基于文件的预定最大大小的知识,存储器中保留的空间量针对打开的所有容器可相同。然而,在其它实施例中,将保留的空间量可基于(举例来说)待写入到文件的视频图像数据的格式(例如,分辨率、帧速率等)在含量之间变化。
在本发明的一些方面及实施例中,识别视频图像数据中的一或多个感兴趣时间的突出显示数据存储在存储器中(例如,上文所提及的第二存储器,且用于存储传感器数据),且接着基于接收到用以致使摄像机停止进行记录的输入(即,第二输入)将所存储突出显示数据添加到(例如)第一存储器上打开的数字媒体容器的元数据部分。接着关闭数字媒体容器以创建存储在第一存储器中的数字媒体文件。因此,由于突出显示数据存储在媒体文件的元数据部分中,因此可易于读取及存取数据,而不需要读取文件的有效负载部分,此允许使用突出显示数据来促进视频图像数据的回放及/或编辑,如下文将较详细论述。
据信,将突出显示数据存储在媒体文件的元数据部分中包括其有效负载部分中的视频图像数据,所述突出显示数据识别视频图像数据中的一或多个感兴趣时间,这本身是新且有利的。
因此,根据本发明的另一方面,提供一种存储识别由数字视频摄像机所收集的视频图像数据中的一或多个感兴趣时间的数据的方法,所述方法包括:
接收用以致使所述摄像机开始进行记录的第一输入;
基于接收到所述第一输入而打开第一存储器上的数字媒体容器;
将基于从所述摄像机的图像传感器所接收的数据的视频图像数据写入到所述数字媒体容器的有效负载部分;
将识别所述视频图像数据中的一或多个感兴趣时间的突出显示数据存储在第二存储器中;
基于接收到用以致使所述摄像机停止进行记录的第二输入而将存储在所述第二存储器中的所述突出显示数据添加到所述数字媒体容器的元数据部分;及
关闭所述数字媒体容器以创建存储在所述第一存储器中的数字媒体文件。
本发明扩展到一种用于执行根据本文中所描述的本发明的各方面或实施例中的任一者的方法的系统,优选地为数字视频摄像机。
因此,根据本发明的另一方面,提供一种用于存储识别由数字视频摄像机所收集的视频图像数据中的一或多个感兴趣时间的数据的系统,所述系统包括:
用于接收用以致使所述摄像机开始进行记录的第一输入的构件;
用于基于接收到所述第一输入而打开第一存储器上的数字媒体容器的构件;
用于将基于从所述摄像机的图像传感器所接收的数据的视频图像数据写入到所述数字媒体容器的有效负载部分的构件;
用于将识别所述视频图像数据中的一或多个感兴趣时间的突出显示数据存储在第二存储器中的构件;
用于基于接收到用以致使所述摄像机停止进行记录的第二输入而将存储在所述第二存储器中的所述突出显示数据添加到所述数字媒体容器的元数据部分的构件;及
用于关闭所述数字媒体容器以创建存储在所述第一存储器中的数字媒体文件的构件。
本发明进一步扩展到使用上文所描述的方法创建的数字媒体文件。因此,所述媒体文件包括:视频图像数据,其指示所述媒体文件的有效负载部分中的在记录事件(即,接收到用以开始进行记录的输入(或指令)与接收到用以停止进行记录的输入(或指令)之间的时间周期)期间从数字视频摄像机的图像传感器所接收的数据;及突出显示数据,其识别所述媒体文件的元数据部分中的在所述记录事件期间所记录的所述视频图像数据中的一或多个感兴趣时间(例如,对用户来说)。
如所属领域的技术人员将了解,本发明的这些其它方面可以且优选地确实视需要包含本文中关于本发明的其它方面中的任一者所描述的本发明的任何一或多个或者全部优选及任选特征。因此,虽然未明确陈述,但本发明的系统可包括用于执行关于本发明在其各方面或实施例中的任一者中的方法所描述的任何步骤的构件,且反之亦然。举例来说,所述第一存储器优选地包括用于存储由视频摄像机所收集的数据的非易失性存储器装置,且可包括可附接到视频摄像机且可从视频摄像机拆离的可移除非易失性存储器装置,例如存储器卡,例如,举例来说,SD卡等。所述第二存储器优选地不同于所述第一存储器。举例来说,在所述第一存储器优选地为可移除存储器(例如,SD卡)的情况下,所述第二存储器优选地为所述摄像机内的不可移除存储器。
所述突出显示数据识别视频图像数据中的一或多个感兴趣时间,例如供由用户在编辑视频图像数据时使用。所述突出显示数据可包括视频图像数据中的一或多个单一时间及/或可包括视频图像数据中的一或多个时间周期。为清楚起见,每一单一时间在本文中称为“标签”,而每一时间周期在本文中称为“突出显示”。
在实施例中,突出显示可是基于标签且优选地包含标签。举例来说,突出显示的时间周期可包括基于标签的时间的时窗。突出显示的时窗相对于标签的时间的位置及/或长度针对所有突出显示可为相同的,或针对突出显示中的至少一些突出显示可为不同的(例如,取决于创建标签的方式),可由用户调整等(如下文将较详细论述)。因此,突出显示且优选地每一突出显示优选地包括“标签时间”(即,标签的时间)及可界定为开始时间及结束时间的时窗。通常,标签时间将介于时窗的开始时间与结束时间之间。但在一些实施例中,还预期,标签时间可与开始时间相同或与结束时间相同,或者标签时间可处于开始时间之前或处于结束时间之后。每一时间可界定为绝对时间,例如界定为UTC(协调世界时)值,或使用记录媒体文件中的视频图像数据的国家或地区的时区而界定。然而,优选地,每一时间界定为相对时间,例如界定为相对于视频图像数据的开始及/或结束的偏移。如将了解,具有至少一标签时间但不具有界定时窗的开始及结束时间的信息的“突出显示”将构成“标签”。
突出显示且优选地每一突出显示包括以下信息中的一或多者:(i)唯一识别符(其针对摄像机的存储器中的适当媒体文件、针对摄像机的存储器中的所有媒体文件或者针对所有摄像机的存储器中的所有媒体文件可为唯一的);(ii)识别标签或突出显示的类型的类型,例如标签是自动产生的还是基于手动输入而产生的;(iii)识别产生标签的时间的标签时间,例如作为与视频图像数据的开始的偏移;(iv)识别突出显示的开始的开始时间,例如作为与视频图像数据的开始的偏移;(v)识别突出显示的结束的结束时间,例如作为与视频图像数据的开始的偏移;及(vi)额外信息,其可是基于标签或突出显示的类型,例如用户的名称、标签的位置、在标签时间来自传感器装置的信息等。如将了解,额外信息可形成用于突出显示的元数据。
在实施例中,每一突出显示优选地在存储器中具有相同大小(或长度)。此允许更容易地对存储在媒体文件中的突出显示进行存取、读取、编辑等操作,尤其是在媒体文件存储在具有有限读取及写入速度的存储器卡(例如,SD卡)上时更是如此。因此,且由于使媒体文件的一或多个元数据部分位于有效负载部分之前(如上文所论述)是合意的,因此在一些实施例中,存在可与媒体文件一起存储的预定最大数目个突出显示。
视频图像数据中的一或多个感兴趣时间可基于指示手动输入(即,用户输入)的所接收数据而确定。举例来说,感兴趣时间可基于以下方式而识别:用户致动摄像机或使用有线或无线连接与摄像机通信的远程装置的用户输入,例如按钮、滑件等。用户做出的手动输入可另外或替代地包含:触摸或手势输入,例如触敏式显示屏上所呈现的虚拟按钮的选择;及/或可听输入,例如用户做出的通过自动语音辨识(ASR)软件而检测及解译的语音命令。
使用远程装置(即,独立于摄像机的装置)来产生指示手动输入的数据允许某人观看执行活动并携带摄像机或与摄像机相关联的人,以识别正记录的视频图像数据中的一或多个感兴趣时间。此可是有利的,因此此使执行活动的人免于提供其自己的手动输入而仍维持产生及存储突出显示数据的能力。远程装置可包括经布置以优选地基本上实时地显示的摄像机正记录的视频图像数据的显示装置;视频图像数据经由无线连接从摄像机流式传输到远程装置。
类似地,在实施例中,指示手动输入的数据可依据多个装置及/或多个用户而确定或从多个装置及/或多个用户接收。举例来说,第一用户(其可执行活动及携带摄像机或与摄像机相关联)可致动摄像机或远程装置(例如,佩戴在用户的手腕上的装置)上的用户输入,而一或多个第二用户(其可观看执行活动的第一用户)可致动其自己的远程控制装置(且所述远程控制装置与摄像机无线通信)上的用户输入。如将了解,指示此些手动输入的数据将在视频图像数据的记录期间被接收。
另外或另一选择为,视频图像数据中的一或多个感兴趣时间可自动确定,即,并非基于手动输入。举例来说,感兴趣时间可基于对从与视频摄像机相关联的一或多个传感器装置所接收的传感器数据的分析而识别。可以此方式使用传感器数据,因此用户可能将对在户外活动或体育赛事的执行期间的“极端”事件的时间感兴趣,例如使得用户可快速地找到并播放这些时刻及/或与他人共享这些时刻。感兴趣时间还可或替代地基于对所记录视频图像数据及/或音频数据的分析而确定。举例来说,所记录视频图像数据可使用脸部辨识算法进行分析以识别视频图像数据中的可看到人脸或特定人的脸的时间。类似地,所记录音频数据可经分析(举例来说)以识别听到特定声音或者讲特定词或短语的时间。在其它实例中,一或多个感兴趣时间可基于经由无线连接从至少一个无线信标或传感器接收的数据而确定。举例来说,无线信标或传感器可检测执行活动且携带摄像机或与摄像机相关联的用户在信标的预定距离内的时间,并响应于检测到用户而将数据(例如,检测到用户的时间)发射到视频摄像机。此将允许(举例来说)用户将无线信标放置在正遵循的路线上的终点线上或所述路线上的特定位置(例如,跳跃或其它障碍)处且允许摄像机基于通过无线信标检测到用户的时间而创建标签及/或突出显示。
在记录视频图像数据期间,即,在接收到用以致使摄像机开始进行记录的第一输入之后且在接收到用以致使摄像机停止进行记录的第二输入之前,分析传感器数据以识别一或多个感兴趣时间可(例如)基本上连续地或以周期性间隔发生。然而,优选地,在接收到用以停止进行记录的输入之后执行分析,使得可分析及比较在整个记录事件(例如,针对活动或体育赛事的整个执行过程)期间所记录的传感器数据。此允许识别记录事件自身期间的大部分极端事件,而不仅仅是一般极端事件。如将了解,这是因为在进行自行车赛时所经历的极端事件(举例来说)与在进行赛车运动时所经历的极端事件相比在传感器数据中通常将闲的极为不同;然而,理想地将希望识别两种极端事件。
因此,在实施例中,在接收到用以致使摄像机停止进行记录的第二输入之后,使用突出显示识别算法来分析存储在第二存储器中的传感器数据,以产生识别视频图像数据中的一或多个感兴趣时间的突出显示数据,且接着将传感器数据及突出显示数据添加到数字媒体容器的元数据部分以便创建媒体文件。如将了解,在接收到用以停止进行记录的输入之前,可已存在存储在第二存储器中的突出显示数据,例如依据一或多个手动输入而确定,且在此些实施例中,添加到数字媒体容器的元数据部分的突出显示数据包括:第一突出显示数据,其识别基于所接收手动输入而确定的一或多个感兴趣时间,即,本文中称为“手动突出显示”;及第二突出显示数据,其基于对传感器数据的分析而识别一或多个感兴趣时间,即,本文中称为“自动突出显示”。
所述突出显示识别算法优选地包括分析从与视频摄像机相关联的多个传感器装置获得的多个数据集。数据集中的每一者包括在收集视频图像数据的时间周期(即,致使摄像机开始进行记录的输入与致使摄像机停止进行记录的输入之间的记录事件)期间的多个时间的多个数据值。通过以下操作而分析数据集:识别数据集中的每一者的极值,例如最大值及/或最小值,及针对所识别极值中的每一者而确定极值的时间是否在极值中的另一者的时间的第一预定时间内。所述第一预定时间可(举例来说)介于1秒与5秒之间,例如3秒。多个群集基于所述确定而产生,其中每一群集包括多个极值,且其中群集中的每一极值的时间在群集中的另一极值的时间的第一预定时间内。如将了解,每一群集具有一起界定群集的持续时间的开始时间及结束时间。群集的开始时间对应于群集中的极值的时间中的最早时间,而结束时间对应于群集中的极值的时间中的最晚时间。接着,所产生群集中的一或多者用于创建视频图像数据的突出显示,其中每一突出显示通常是基于群集中的一者。然而,预期,如果两个或多于两个群集在时间上彼此接近,例如在第二预定时间内,那么所述群集可经组合以创建单个群集,使得突出显示将是基于组合的两个或多于两个群集。所述第二预定时间可(举例来说)介于1秒与5秒之间,例如2秒。
据信,分析在记录视频图像数据时所收集的传感器数据以识别视频图像数据中的一或多个感兴趣时间本身是新且有利的。
因此,根据本发明的另一方面,提供一种识别在时间周期期间由数字视频摄像机所收集的视频图像数据中的一或多个感兴趣时间的方法,所述数字视频摄像机具有与其相关联的多个传感器装置,所述方法包括:
识别从所述多个传感器装置获得的多个数据集中的每一者中的极值,每一数据集包括在所述时间周期期间的多个时间的多个数据值;
针对所述所识别极值中的每一者而确定极值的时间是否在所述极值中的另一者的时间的预定时间内;
基于所述确定而产生多个群集,每一群集包括多个极值,其中所述群集中的每一极值的时间在所述群集中的另一极值的时间的预定时间内;
使用所述群集中的至少一者来创建识别所述视频图像数据中的一或多个感兴趣时间的突出显示数据,所述突出显示数据包括具有一时窗的至少一个突出显示,所述时窗是基于用于创建所述突出显示的所述群集中的所述极值的所述时间中的最早时间及最晚时间;及
与包括所述视频图像数据的数字媒体文件相关联地存储所述突出显示数据。
本发明扩展到一种用于执行根据本文中所描述的本发明的各方面或实施例中的任一者的方法的系统,优选地为数字视频摄像机。
因此,根据本发明的另一方面,提供一种用于识别在时间周期期间由数字视频摄像机所收集的视频图像数据中的一或多个感兴趣时间的系统,所述数字视频摄像机具有与其相关联的多个传感器装置,所述系统包括:
用于识别从所述多个传感器装置获得的多个数据集中的每一者中的极值的构件,每一数据集包括在所述时间周期期间的多个时间的多个数据值;
用于针对所述所识别极值中的每一者而确定极值的时间是否在所述极值中的另一者的时间的预定时间内的构件;
用于基于所述确定而产生多个群集的构件,每一群集包括多个极值,其中所述群集中的每一极值的时间在所述群集中的另一极值的时间的预定时间内;
用于使用所述群集中的至少一者来创建识别所述视频图像数据中的一或多个感兴趣时间的突出显示数据的构件,所述突出显示数据包括具有一时窗的至少一个突出显示,所述时窗是基于用于创建所述突出显示的所述群集中的所述极值的所述时间中的最早时间及最晚时间;及
用于与包括所述视频图像数据的数字媒体文件相关联地存储所述突出显示数据的构件。
如所属领域的技术人员将了解,本发明的这些其它方面可以且优选地确实视需要包含本文中关于本发明的其它方面中的任一者所描述的本发明的任何一或多个或者全部优选及任选特征。因此,虽然未明确陈述,但本发明的系统可包括用于执行关于本发明在其各方面或实施例中的任一者中的方法所描述的任何步骤的构件,且反之亦然。举例来说,所述方法优选地在数字视频摄像机上执行,且优选地对存储在第二存储器中的传感器数据执行,例如在接收到用以致使摄像机停止进行记录的输入之后且在将传感器数据添加到包括视频图像数据的所得媒体文件的元数据部分之前。然而,预期,所述方法可使用存储在媒体文件中的传感器数据在独立于视频摄像机的计算装置上执行。
被分析的多个数据集可包含关于从单个传感器装置获得的变量(例如,如依据全球导航卫星系统(GNSS)接收器而确定的速度、如依据心率传感器而确定的心率等)的一或多个数据集。另外或另一选择为,被分析的多个数据集可包含关于来自多个传感器装置的变量(例如,如依据压力传感器及温度传感器而确定的绝对或相对高度、如依据加速度计、陀螺仪及罗盘而确定的加速度等)的一或多个数据集。
被分析的多个数据集可包含关于直接从一或多个传感器装置获得的变量(例如且其通常将存储在摄像机的第二存储器中)的一或多个数据集。另外或另一选择为,被分析的多个数据集可包含关于间接从一或多个传感器装置获得的变量(例如,加速度可根据如依据GNSS接收器而确定的速度而确定)的一或多个数据集。此些变量可在接收到来自相关联一或多个传感器装置的且作为传感器数据存储在第二存储器中的数据后即刻被确定。另一选择为,此些变量可在从第二存储器存取传感器数据以供由突出显示识别算法使用时确定。
在本发明的方面及实施例中,识别多个数据集中的每一者中的极值。所述极值可包含最大值(例如峰值)及/或最小值(例如谷值),例如基于正分析的数据集的特定变量。在实施例中,数据集可(例如)使用卡尔曼滤波器而滤波,及/或(例如)使用移动平均法或类似技术而平滑化。此滤波及/或平滑化从数据集移除噪声及其它现象,且可促进识别所述极值的过程。在实施例中,仅在极值经过特定阈值(即,视情况,高于或低于预定值)时识别极值。所述阈值可且通常将取决于正分析的数据集的特定变量。所述阈值还可基于数据集中的数据动态地确定。换句话说,在来自相同传感器装置的不同数据集之间可使用不同阈值。
在实施例中,多个数据集包括以下各项中的一或多者:速度(例如,依据GNSS接收器而确定);心率(例如,依据心率传感器而确定);加速度(例如,依据GNSS接收器而确定);垂直速度(例如,依据气压计而确定);旋转(例如,依据陀螺仪而确定);及重力(例如,依据加速度计而确定)。速度数据集可用于确定(举例来说)用户、摄像机或装备(基于传感器装置的位置)在记录视频图像数据的时间周期期间的最大速度。心率数据集可用于确定(举例来说)用户、摄像机或装备(基于传感器装置的位置)在记录视频图像数据的时间周期期间的最大心率。加速度数据集可用于确定(举例来说)用户、摄像机或装备(基于传感器装置的位置)在记录视频图像数据的时间周期期间的最大加速度及/或最大减速度。垂直速度数据集可用于确定(举例来说)用户、摄像机或装备(基于传感器装置的位置)在记录视频图像数据的时间周期期间的最大垂直速度。旋转数据集可用于确定(举例来说)用户、摄像机或装备(基于传感器装置的位置)在记录视频图像数据的时间周期期间的最大旋转。重力数据集可用于确定(举例来说)用户、摄像机或装备(基于传感器装置的位置)在记录视频图像数据的时间周期期间的最大重力。
在实施例中,针对所识别极值中的每一者而确定得分。所述得分优选地使用所识别峰值的数据值连同其它数据集中在与所识别极值相同的时间处的数据值一起而确定。优选地,用于确定得分的数据值中的每一者相对于其相应数据集中的其它数据值被归一化。举例来说,用于确定得分的每一数据值优选地通过其相应数据集中的最大数据值而划分。针对所识别极值的得分接着优选地通过计算来自多个数据集中的每一者的经归一化数据值在所识别极值的时间处的平均值而确定。因此,每一所识别极值与时间及数据值相关联,且任选地,与识别其中识别极值的数据集的类型及/或得分相关联。
如上文所论述,多个群集是基于如下确定而产生:针对所识别极值中的每一者,极值的时间是否在所述极值中的另一者的时间的预定时间内。每一群集具有一起界定群集的持续时间的开始时间及结束时间。群集的开始时间对应于群集中的极值的时间中的最早时间,而结束时间对应于群集中的极值的时间中的最晚时间。每一群集优选地进一步包括群集得分,其中所述群集得分优选地是基于群集中的个别所识别极值的得分。举例来说,群集得分可为个别得分的得分的平均值,任选地为加权平均值。使用加权平均值允许不同个别数据集对群集得分具有不同影响。
在实施例中,(例如)如果两个或多于两个群集在彼此的预定时间(例如,2秒)内,那么所述两个或多于两个群集可经组合以创建单个群集。举例来说,如果第一群集的结束时间在第二群集的开始时间的预定时间内,那么第一群集可与第二群集组合。所得单个群集优选地将具有基于经组合以创建所得单个群集的群集的特性的一组特性。举例来说,如果第一群集与第二群集组合,第一群集的时间比第二群集早,那么所得群集将具有第一群集的开始时间及第二群集的结束时间。所得群集的得分优选地将是基于所组合的群集的得分,例如,如经组合群集的群集的平均值。
所述群集中的至少一些群集或全部群集(原始群集或源自群集组合)用于创建识别视频图像数据中的感兴趣时间周期(例如,对于用户来说)的突出显示。如将了解,每一群集优选地创建产生个别突出显示,所述突出显示接着优选地存储(如上文所论述)在数字媒体文件的元数据部分中。在实施例中,群集中的每一者基于其群集得分而排名(或分类),且在创建突出显示中仅使用群集中的一些群集。举例来说,仅预定数目个群集可用于创建突出显示,例如此归因于保留存储器以使得一或多个元数据部分可位于媒体文件的开始处的需要。预定数目个群集可为固定数目,例如创建仅10个自动突出显示,或可为可变数目,例如基于手动突出显示的数目,使得仅最大数目个突出显示被创建且被添加到媒体文件。另外或另一选择为,优选地在创建突出显示中仅使用具有高于预定值的群集得分的那些群集。
在实施例中,与依据群集而创建的突出显示(即,自动突出显示)相关联的时窗优选地至少具有预定大小,例如6秒。此可帮助改进(举例来说)此些突出显示在计算装置上的显示,如下文将较详细论述。因此,在一些实施例中,如果群集的持续时间小于预定时间,例如6秒,那么可修改群集的开始及/或结束时间,使得所得突出显示具有预定大小的时窗。
如上文所论述,突出显示且优选地每一突出显示优选地包括以下信息中的一或多者:(i)唯一识别符;(ii)识别标签或突出显示的类型的类型;(iii)识别产生标签的时间的标签时间;(iv)识别突出显示的开始的开始时间;(v)识别突出显示的结束的结束时间;及(vi)额外信息。自动突出显示(即,依据群集而创建的突出显示)的类型可包含识别具有导致创建突出显示的极值的数据集且优选地识别极值具有群集中的极值的最高得分的数据集的信息。因此,举例来说,自动突出显示的类型可为以下各项中的一者:速度;重力;旋转(或自旋);加速度;减速度;垂直速度及心率。自动突出显示的开始及结束时间优选地如上文所描述而确定。在实施例中,虚拟标签时间与自动突出显示相关联,例如供在计算装置上显示及使用突出显示时使用;标签时间是虚拟的,因为与手动标签相比,自动突出显示通常不从单点时间导出。自动突出显示的标签时间可为介于突出显示的开始时间与结束时间之间的任何时间,且甚至可为开始时间及结束时间中的一者。然而,在优选实施例中,标签时间是突出显示的中心时间,即,距突出显示的开始时间与结束时间等距。
在本发明的一些方面及实施例中,识别视频图像数据中的一或多个感兴趣时间的突出显示数据(例如,包括一或多个标签及/或突出显示)存储在包含视频图像数据的数字媒体文件的元数据部分中。以此方式存储突出显示数据的有利之处在于:其允许突出显示数据的高效读取存取(例如,通过距摄像机较远的计算装置)以及突出显示数据的高效写入存取,例如以允许在记录视频图像数据之后(及因此在创建数字媒体文件之后),在后处理步骤中(例如)基于用户输入修改与突出显示相关联的信息(例如,开始时间及/或结束时间)。
因此,在实施例中,媒体文件的突出显示数据可在创建所述文件之后进行修改。对突出显示数据的修改可包含给突出显示数据添加新标签及/或突出显示;此些新标签及突出显示优选地为通过观看计算装置上的视频图像数据的用户而创建的手动突出显示。另外或另一选择为,对所述突出显示数据的修改可包含对突出显示数据中的现有标签及/或突出显示的修改,例如改变标签(或突出显示)的标签时间、改变突出显示的开始时间及/或结束时间等。另外或另一选择为,对突出显示数据的修改可包含删除突出显示数据中的现有标签及/或突出显示,(例如)以移除意外添加的手动突出显示、以移除与视频图像数据中用户不感兴趣的时间有关的自动突出显示。对媒体文件中的突出显示数据的修改优选地在具有存储媒体文件的存储器的计算装置上执行。因此,所述修改可由视频摄像机执行,或视需要,可为任何其它计算装置。对突出显示数据的修改可基于计算装置上所产生的执行修改的指令(或命令)或者基于远程计算装置上所产生的且(例如)经由有线或无线连接发射到执行所述修改的计算装置的指令(或命令)而执行。举例来说,且如下文将较详细论述,修改指令可产生于移动计算装置(例如,智能电话)上且无线发射到视频摄像机,其中媒体文件中的突出显示数据在视频摄像机上根据所接收指令而修改。
在本发明的一些实施例中,新标签及/或突出显示可基于由其它用户创建的突出显示数据(例如,手动标签及/或突出显示)而创建。换句话说,手动标签及/或突出显示可被众包且用于向用户建议新标签及/或突出显示。实际上,据信,将来自多个用户的手动标签众包以创建突出显示本身是新且有利的。
因此,根据本发明的另一方面,提供一种识别在时间周期期间由数字视频摄像机所收集的视频图像数据中的一或多个感兴趣时间的方法,所述数字视频摄像机具有与其相关联的位置确定装置,所述方法包括:
存取包括所述视频图像数据及第一位置数据的数字媒体文件,所述第一位置数据表示所述数字视频摄像机的位置在所述时间周期期间的改变;
将所述第一位置数据发射到服务器;
从所述服务器接收第二位置数据,所述第二位置数据识别所述第一位置数据中的一或多个感兴趣位置;及
将突出显示数据添加到所述数字媒体文件,所述突出显示数据识别所述视频图像数据中与所述第二位置数据中的所述一或多个感兴趣位置中的至少一些感兴趣位置对应的一或多个感兴趣时间。
本发明扩展到一种用于执行根据本文中所描述的本发明的各方面或实施例中的任一者的方法的系统,例如计算装置且优选地移动计算装置及/或数字视频摄像机。
因此,根据本发明的另一方面,提供一种用于识别在时间周期期间由数字视频摄像机所收集的视频图像数据中的一或多个感兴趣时间的系统,所述数字视频摄像机具有与其相关联的位置确定装置,所述系统包括:
用于存取包括所述视频图像数据及第一位置数据的数字媒体文件的构件,所述第一位置数据表示所述数字视频摄像机的位置在所述时间周期期间的改变;
用于将所述第一位置数据发射到服务器的构件;
用于从所述服务器接收第二位置数据的构件,所述第二位置数据识别所述第一位置数据中的一或多个感兴趣位置;及
用于将突出显示数据添加到所述数字媒体文件的构件,所述突出显示数据识别所述视频图像数据中与所述第二位置数据中的所述一或多个感兴趣位置中的至少一些感兴趣位置对应的一或多个感兴趣时间。
如所属领域的技术人员将了解,本发明的这些其它方面可以且优选地确实视需要包含本文中关于本发明的其它方面中的任一者所描述的本发明的任何一或多个或者全部优选及任选特征。因此,虽然未明确陈述,但本发明的系统可包括用于执行关于本发明在其各方面或实施例中的任一者中的方法所描述的任何步骤的构件,且反之亦然。举例来说,所述第一位置数据优选地形成传感器数据的一部分,在优选实施例中,所述传感器数据存储在媒体文件的元数据部分中;相比之下,视频图像数据存储在媒体文件的有效负载部分中。
所述第一位置数据表示数字视频摄像机(例如,与所述摄像机相关联的位置确定装置)的位置的改变。换句话说,所述第一位置数据包括在记录视频图像数据的时间期间基本上连续地或优选地以规律间隔收集的指示摄像机的位置的数据。在实施例中,第一位置数据包括(例如)如从与摄像机相关联的GNSS传感器及任选地压力传感器获得的一组地理坐标,例如纬度、经度及高程,连同每一地理坐标的时间戳。所述时间戳指示记录地理坐标的时间,且可呈绝对值(例如,如UTC值)或相对值(例如,如与视频图像数据的开始及/或结束的偏移)的形式。
在本发明的一些方面及实施例中,第一位置数据被发射到服务器。所述第一位置数据可包括在记录视频图像数据的时间周期期间所收集及存储的所有位置数据,即,存储在媒体文件中的传感器数据内的整个位置数据集。在其它实施例中,第一位置数据可包括传感器数据的位置数据集的一部分。第一位置数据可连同来自存储在媒体文件中的传感器数据的其它数据集或其适当部分一起发射到服务器。举例来说且如WO2013/037860A1(其整个内容以引用的方式并入本文中)中所描述,关于数字视频摄像机及/或摄像机的用户的速度、航向及/或加速度的信息及/或关于位置数据的质量(例如,基于用于确定位置的GNSS接收器的准确性)的信息可用于改进对摄像机在所述时间周期期间所采取的路径的估计。
在服务器处所接收的第一位置数据经处理以确定识别第一位置数据中的一或多个感兴趣位置的第二位置数据。所述感兴趣位置优选地是基于通过其它用户而创建的手动突出显示。如上文所论述,媒体文件的突出显示中的至少一些突出显示可基于手动输入而产生,手动输入例如在相关联视频图像数据的记录期间(例如)通过致动数字视频摄像机上的按钮而做出,或在记录之后(例如)通过在查看视频图像数据时与计算装置交互而做出。
服务器优选地接收来自多个不同用户的与不同记录事件相关的多个数据集。每一数据集至少包含识别一或多个且优选地所有通过用户而创建的手动突出显示的位置的数据。在实施例中,所接收数据集包含摄像机在与突出显示相关联的标签时间处的位置(且在一些实施例中,此可在与媒体文件相关联的突出显示数据中找到)。在其它实施例中,所接收数据集包含摄像机在由突出显示表示的时间周期的开始时间及结束时间的位置。然而,优选地,所接收数据集包含识别摄像机在由突出显示表示的时间周期中改变的位置的数据(且在一些实施例中,此可在与媒体文件相关联的传感器数据中找到)。服务器优选地处理用以识别多个感兴趣位置(例如,如点位置、线位置及/或区位置)的多个所接收数据集;此些感兴趣位置是用户发现宜为创建手动突出显示且因此可假设存在地貌(即,地球表面的自然特征,例如,如山丘、山谷等特征,及/或用户想要做标记以供稍后观看的人为特征)的地理位置。
因此,服务器优选地包括或有权存取所存储感兴趣位置(例如,如点地理位置、线地理位置及/或区地理位置)的数据库。当在服务器处接收到第一位置数据时,所述服务器优选地将所述第一位置数据与所存储感兴趣位置进行比较,以识别所述第一位置数据中的一或多个感兴趣位置。所述比较优选地是基于距离度量及航向度量中的一或多者。举例来说,所述比较可包括基于第一位置数据而界定限界区;其中所述限界区识别摄像机在时间周期期间可移动的地理区域。所述限界区可视需要为任一区,只要其涵盖所有第一位置数据即可,例如,举例来说,限界由第一位置数据形成的迹线的矩形。服务器使用限界区来识别限界区内的任何所存储感兴趣位置。通过将第一位置数据与限界区内的所存储感兴趣位置进行比较,例如通过确定一位置是否属于所存储感兴趣区、通过确定一位置是否在所存储感兴趣点或线的预定距离内等,则可识别第一位置数据的与所存储感兴趣位置相关的一或多个位置,即第二位置数据。
在本发明的一些方面及实施例中,第二位置数据从服务器发射到摄像机或相关联计算装置。第二位置数据识别第一位置数据中的一或多个感兴趣位置。第二位置数据可具有识别第一位置数据内的点位置的任何形式。举例来说,第二位置数据可包括发送到服务器的第一位置数据的时间戳及地理坐标中的一者或另一者或者时间戳及地理坐标两者。在优选实施例中,第二位置数据包括指示视频图像数据的时间周期内的时间的一或多个时间值。
所接收第二位置数据(例如,一或多个地理坐标及/或时间戳)用于产生数字媒体文件的标签及/或突出显示。举例来说,时间戳可用作标签的时间,且因此用作界定突出显示的时窗的基础。另一选择为,地理坐标可用于(例如)通过和与媒体文件相关联的传感器数据进行比较而确定视频图像数据的时间周期内的对应感兴趣时间,且所确定感兴趣时间用作标签的时间且因此用作界定突出显示的时窗的基础。
突出显示数据可基于所接收位置数据而自动产生,或在实施例中,突出显示数据可基于从用户接收的输入而产生。举例来说,在实施例中,计算装置可用于在计算装置的显示装置上向用户显示潜在突出显示数据的表示及/或播放(或预览)与潜在突出显示相关联的视频图像数据;如下文更详细描述。在观看潜在突出显示之后,用户接着可(例如)通过调整突出显示的开始及/或结束时间而接受突出显示或接受突出显示的经修正版本,并致使突出显示被添加到媒体文件的元数据部分中的突出显示数据。
如将了解,经布置以执行上文所描述发明的计算装置及/或数字视频摄像机优选地还经布置以发射包含识别针对一或多个且优选地所有所记录数字媒体文件而创建的一或多个且优选地所有手动突出显示的位置的数据的一或多个数据集。换句话说,除布置以利用数据库来建议标签及/或突出显示之外,计算装置及/或数字视频摄像机还优选地经布置以提供指示供在产生所存储感兴趣位置的数据库中使用的手动标签的数据。
在至少一些方面及实施例中,本发明还扩展到一种计算装置,例如服务器,所述计算装置经布置以执行基于指示来自多个不同用户的与不同记录事件相关的手动标签的多个所接收数据集而产生所存储感兴趣位置的数据库的上文所描述方法,及/或从计算装置接收第一位置数据且响应于所接收第一位置数据而发射识别第一位置数据中的一或多个感兴趣位置的第二位置数据的上文所描述方法。根据本发明的至少一些方面及实施例,且如上文所论述,数字视频摄像机用于创建存储在存储器上的一或多个媒体文件,且其中一或多个媒体文件中的每一者包含所述文件的有效负载部分中的一或多组视频图像数据及任选地音频数据连同所述文件的一或多个元数据部分中的突出显示数据及/或传感器数据。传感器数据是基于从与视频摄像机相关联的一或多个传感器装置所接收的数据,且与一或多组视频图像数据是同时的。突出显示数据识别一或多组视频图像数据中的一或多个感兴趣时间。优选地,存储在存储器上的一或多个媒体文件通过计算装置(例如,桌上型计算机、膝上型计算机、平板计算机、智能电话等)而存取,以允许向用户播放及显示所述文件中的媒体内容及/或允许用户编辑所述文件中的媒体内容。
一或多个媒体文件可以任何所要方式存取。举例来说,一或多个媒体文件可从存储器传送到计算装置的单独存储器。另外或另一选择为,存储一或多个媒体文件的存储器可为可移除存储器,例如存储器卡,且所述存储器本身被转移及添加到计算装置(即,安装在计算装置上)。
在一些实施例中,所述文件中的媒体内容可(例如)从视频摄像机经由无线连接传送(即,流式传输)到计算装置。如上文所论述,一或多个媒体文件优选地经结构化使得一或多个元数据部分位于所述文件的前面,以便促进所述文件中的媒体内容的流式传输。
在一些实施例中,整个媒体文件而非仅其中所含有的内容还可传送到计算装置。然而,如下文将较详细论述,此些媒体文件(其经由无线连接而传送)通常将并非是在数字视频摄像机记录数据期间所创建的媒体文件,而是优选地为(例如)在变码过程中从在记录数据期间所产生的媒体文件创建的媒体文件。
计算装置一旦已存取一或多个媒体文件,便优选地在计算装置的显示装置上向用户显示一或多个媒体文件中的每一者的表示。此表示可由用户(例如使用计算机指向装置,例如计算机鼠标,经由触摸屏显示器上的触摸等)选择,以允许播放、删除及/或操纵与所述表示相关联的媒体文件,例如重命名、移动到存储器中的新位置等。所述表示可包含缩略图图像,其优选地为来自相应媒体文件中所含有的视频图像数据的帧。所述表示还可包含识别以下各项中的一或多者的信息(优选地叠加于缩略图图像上方):文件中的视频图像数据的类型(例如指示视频图像数据的分辨率及/或帧速率的数据);媒体文件的持续时间;及文件的突出显示数据中所识别的感兴趣时间的数目(例如,突出显示的数目)。
在实施例中,计算装置一旦已存取一或多个文件,便可另外或替代地在计算装置的显示装置上向用户显示一或多个媒体文件中的突出显示数据的表示。如上文所描述,突出显示数据优选地包括各自具有关于相关联视频图像数据的开始时间及结束时间的多个突出显示。因此,在实施例中,显示给用户的突出显示数据的表示优选地包括表示一或多个媒体文件中的一或多个或全部突出显示。此表示可由用户(例如使用计算机指向装置,例如计算机鼠标,经由触摸屏显示器上的触摸等)选择,以允许播放、删除及/或选择与所述表示相关联的突出显示,如下文更详细论述,以供与其它突出显示组合创建突出显示视频(例如,视频摄像机所记录的视频图像数据中的感兴趣概要或故事及/或精彩时刻)。所述表示可包含缩略图图像,其优选地为针对相应突出显示而界定的时窗来自相应媒体文件中所含有的视频图像数据的帧。所述表示还可包含识别以下各项中的一或多者的信息(优选地叠加于缩略图图像上方):突出显示的原点,例如突出显示是手动突出显示还是自动突出显示;自动突出显示的类型;及与突出显示相关联的值,例如针对自动突出显示,导致创建突出显示的极值的值(例如,最大速度、最大加速度等),且针对手动突出显示,突出显示的标签时间。
媒体文件及/或突出显示的表示(例如,缩略图图像)可包含来自相关视频图像数据(即,静态图像)的单个帧。另外或另一选择为,在一些实施例中,当指向装置的指针(例如,在触摸屏显示器的情形中,计算机鼠标或手指)定位在缩略图图像上时,所述缩略图图像可循环通过来自相关视频图像数据的一系列预定帧,以便向用户展示相关联媒体文件中所含有的视频图像数据的简短概要(或预览)。另外或另一选择为,在一些实施例中,当指向装置的指针跨越缩略图图像移动或转移时,所述缩略图图像可向用户展示相关联媒体文件中所含有的视频图像数据的预览,其中指针的位置用于选择所显示缩略图图像所基于的帧。换句话说,光标或手指沿相对于缩略图图像所界定的时间线的相对位置可用于选择来自视频图像数据的相关帧,所述相关帧接着用于产生所显示缩略图图像。据信,通过跨越显示窗口移动指针而预览视频图像数据本身是新且有利的。
因此,根据本发明的另一方面,提供一种使用计算装置来预览视频图像数据的方法,所述方法包括:
存取包括所述视频图像数据的数字媒体文件;
在所述计算装置的显示装置上的显示窗口中显示表示所述数字媒体文件的缩略图图像;
界定从所述缩略图图像的边界上的第一位置延伸到所述缩略图图像的所述边界上的第二位置的时间线,使得所述第一位置表示所述视频图像数据的开始时间,且所述第二位置表示所述视频图像数据的结束时间,且使用所述时间线将由所述边界界定的第一区的至少一部分划分成多个第二区,使得所述第二区中的每一者表示所述开始时间与所述结束时间之间的不同时间周期;
基于与指向装置的指针所位于的所述第二区相关联的时间周期而从所述视频图像数据选择帧;及
使用所述所选择帧来产生供在所述显示窗口中显示的新缩略图图像,使得所述指针从一个第二区到另一第二区的移动致使所述所显示缩略图图像发生改变。
本发明扩展到一种用于执行根据本文中所描述的本发明的各方面或实施例中的任一者的方法的系统,例如计算装置,例如桌上型计算机、膝上型计算机、平板计算机、移动电话等。
因此,根据本发明的另一方面,提供一种用于使用计算装置来预览视频图像数据的系统,所述系统包括:
用于存取包括所述视频图像数据的数字媒体文件的构件;
用于在所述计算装置的显示装置上的显示窗口中显示表示所述数字媒体文件的缩略图图像的构件;
用于进行以下操作的构件:界定从所述缩略图图像的边界上的第一位置延伸到所述缩略图图像的所述边界上的第二位置的时间线,使得所述第一位置表示所述视频图像数据的开始时间,且所述第二位置表示所述视频图像数据的结束时间,且使用所述时间线将由所述边界界定的第一区的至少一部分划分成多个第二区,使得所述第二区中的每一者表示所述开始时间与所述结束时间之间的不同时间周期;
用于基于与指向装置的指针所位于的所述第二区相关联的时间周期而从所述视频图像数据选择帧的构件;及
用于使用所述所选择帧来产生供在所述显示窗口中显示的新缩略图图像使得所述指针从一个第二区到另一第二区的移动致使所述所显示缩略图图像发生改变的构件。
如所属领域的技术人员将了解,本发明的这些其它方面可以且优选地确实视需要包含本文中关于本发明的其它方面中的任一者所描述的本发明的任何一或多个或者全部优选及任选特征。因此,虽然未明确陈述,但本发明的系统可包括用于执行关于本发明在其各方面或实施例中的任一者中的方法所描述的任何步骤的构件,且反之亦然。举例来说,媒体文件的使用上述技术而预览的视频图像数据可为所述文件的整个视频图像数据或可为与突出显示相关联的视频图像数据。在为所述文件的整个视频图像数据的情形中,边界上的第一及第二位置(即,时间线的开始及结束)分别表示所述文件中的视频轨道的开始及结束。然而,在为与突出显示相关联的视频图像数据的情形中,边界上的第一及第二位置分别表示突出显示的开始及结束时间(相对于所述文件中的视频轨道的开始及/或结束来说)。
在本发明的一些方面及实施例中,包括视频图像数据的一或多个且优选地多个媒体文件由计算装置存取。媒体文件可存储在计算装置的存储器中且因此使用有线连接而存取,或替代地,可存储在视频摄像机的存储器中并经由无线连接而存取。媒体文件中的视频图像可存储在所述文件的有效负载部分中并使用帧间压缩技术及帧内压缩技术中的一者或另一者而编码。如将了解,存取使用帧内压缩技术而编码的视频图像数据的帧使在计算方面并不昂贵,即,需要较少处理,这是因为每一帧均独立于另一帧而压缩。因此,如下文更详细论述,视频图像数据内的每一帧均可被存取,且如果需要的话,被适当地缩放以供用作所显示缩略图图像。然而,所述方法可使用使用帧间压缩技术而编码的视频图像数据(举例来说,通过存取关键帧(即,存储在数据流内的完整图像))及使用再次经适当地缩放(如果需要的话)以供用作所显示缩略图图像的这些帧而应用。
在优选实施例中,数字媒体文件具有有效负载部分,所述有效负载部分包括其中视频图像数据使用帧间压缩技术而编码的第一轨道及其中视频图像数据使用帧内压缩技术而编码的第二轨道。当播放或定位(例如,查看)所述文件时,优选地使用第一轨道,而在预览文件时,可使用第二轨道(通常为较低分辨率轨道),例如如上文所论述。
一或多个媒体文件中的每一者的表示均显示于显示装置上的显示窗口中。每一表示包括缩略图图像,例如,基于视频图像数据的开始时间与结束时间之间的预定位置(例如,距视频图像数据的开始10%、20%等)处的帧的缩略图图像。如上文所论述,每一缩略图图像可具有关于叠加于缩略图图像上方的媒体文件、视频图像数据及/或突出显示数据的额外信息。当在显示窗口中显示多个媒体文件的表示时,此时缩略图图像可形成栅格。每一缩略图图像可(例如)基于所接收触摸或使用计算机鼠标由用户个别地选择或可作为群组而选择,以起始关于与缩略图图像相关联的媒体文件及/或突出显示数据的一或多个动作,例如将媒体文件从一个存储器移动到另一存储器(例如,从存储器卡移动到本地硬盘)、从存储器删除媒体文件、致使播放视频图像数据等。每一缩略图图像可视需要具有任何形状,例如矩形、正方形、圆形等。
界定从缩略图图像的边界上的第一位置延伸到缩略图图像的边界上的第二位置的时间线。所述时间线表示视频图像数据(例如,整个视频或突出显示)的长度,使得第一位置指示视频图像数据的开始时间且第二位置指示视频图像数据的结束时间。所述时间线用于将由所述边界界定的第一区的至少一部分划分成多个第二区,使得所述第二区中的每一者表示所述开始时间与所述结束时间之间的不同时间周期。在实施例中,第一区对应于缩略图图像的区,且因此(举例来说)可为矩形或圆形。然而,在其它实施例中,第一区可对应于缩略图图像的仅一部分。举例来说,所述区可为遵循边界的边缘或其它部分的条带。在优选实施例中,其中缩略图图像的形状为矩形,时间线可从一个边缘延伸到相对边缘。
第一区可通过界定时间线的法线而划分为多个第二区。法线在帧内编码的视频图像数据的情形中可基于视频图像数据的帧速率而界定,或在帧间编码的视频图像数据的情形中可基于关键帧的速率而界定,使得每一第二区与来自视频图像数据的不同帧相关。
基于与指向装置的指针所位于的第二区相关联的时间周期而从视频图像数据选择帧。所述指针可为手指、手写笔等或与计算机鼠标、触摸垫等相关联的光标所指示的位置。所选择帧用于产生供在显示窗口中显示的新缩略图图像,即,取代当前缩略图图像。缩略图图像可对应于整个所选择帧,或缩略图图像可为所选择帧的一部分;任选地其中所述帧经缩放以适合在如由缩略图图像的边界界定的第一区内。如将了解,用于产生缩略图图像的帧是基于指针所位于的特定第二区,使得指针(例如)响应于接收到来自用户的输入而从一个第二区到另一第二区的移动致使所显示缩略图图像发生改变。因此,举例来说,当从一个第二区朝向时间线的结束时间移动到邻近第二区时,此时缩略图图像将改变成视频图像数据的下一帧,即,后面的帧。类似地,举例来说,当从一个第二区朝向时间线的开始时间移动到邻近第二区时,此时缩略图图像将改变成视频图像数据的前一帧,即,前面的帧。因此,通过将指针沿着第一区的部分从时间线的开始依次穿过每一第二区移动到时间线的结束,缩略图图像将改变以准许用户预览视频图像数据。因此,在本发明的实施例中,计算装置将请求发送到摄像机以播放(或预览)存储在摄像机的存储器上的媒体数据,例如视频或突出显示。所述请求可在于计算装置上接收到选择将要播放的一或多个视频及/或突出显示(例如通过选择如上文所描述的所显示表示)的用户输入之后产生。(例如)如果请求随后随机地或以特定次序播放多个视频及/或突出显示,那么所述请求还可由计算装置或计算装置上所运行的软件自动产生。在接收到此请求之后,视频摄像机(例如)经由通过摄像机中的无线通信装置及计算装置中的对应无线通信装置而建立的连接将所请求媒体数据传送(或流式传输)到计算装置。所传送的媒体数据优选地为经编码媒体流。经编码媒体流可为(举例来说)经编码视频流,使得计算装置仅显示视频图像数据,即,请求的视频或突出显示视频。另一选择为,经编码媒体流可为包括(举例来说)视频图像数据及音频数据的经交错流。
因此,在一些实施例中,当请求突出显示时,例如当媒体文件仅包含视频轨道或者视频轨道及音频轨道时,传送(或流式传输)到计算装置的经编码媒体流可为媒体文件的有效负载部分或其相关部分。在其它实施例中且举例来说,其中媒体的有效负载部分包含第一及第二视频图像数据,例如视频轨道中的一个视频图像数据及文本轨道中的另一视频图像数据,如上文所描述,媒体文件的有效负载部分可首先需要(例如)通过摄像机的多路分用器被多路分用为组成其的经编码流。传送到计算装置的经编码媒体流因此可包括:由多路分用器输出的经编码流中的一者,例如来自媒体文件的文本轨道的视频图像数据;或由多路分用器输出的多个经编码流,例如来自媒体文件的文本轨道的视频图像数据及来自媒体文件的音频轨道的音频数据,且所述多个经编码流已通过摄像机的多路复用器被交错为单个经编码流。
计算装置(例如,智能电话)因此优选地包括至少一个解码器以解码经编码媒体流中的数据,使得接着可在计算装置的显示装置上向用户展示经解码数据。然而,优选地,计算装置包括一多路分用器及多个解码器,使得在计算装置接收到来自摄像机的经交错经编码媒体流(例如,具有视频及音频数据两者)时,计算装置可将经编码流分开并解码其中所含有的音频及视频数据,使得用户能够预览具有音频的视频或突出显示视频。
在其中视频摄像机使用无线连接与(远程)计算装置通信的实施例中,两个装置优选地能够使用两个不同通信协议(优选地短程通信协议)彼此通信。举例来说,视频摄像机及因此计算装置包括能够使用第一通信协议进行通信的第一无线通信装置及能够使用第二通信协议进行通信的第二无线通信装置。所述第一通信装置及相关联协议优选地用作允许计算装置(举例来说)触发视频摄像机的状态及操作改变的控制通道。同时,所述第二通信装置及相关联协议优选地用作允许摄像机与计算装置之间的数据(例如,来自存储在视频摄像机的存储器中的一或多个媒体文件的数据)交换的数据通道。如将了解,控制通道通常为低带宽通道,而数据通道通常为高带宽通道。
第一通信装置优选地包括蓝牙低功耗(BLE)收发器。如此项技术中所已知,BLE是经设计以用于需要低数据速率及短工作循环(与经典蓝牙相比)的应用的较低功率通信协议。在BLE及其它类似低功耗通信协议中,仅在存在将要传送的数据时才于装置之间建立连接。此与其中甚至在不存在将要传送的数据时装置之前仍维持连接的通信协议(例如经典蓝牙及WiFi)形成对照。然而,出于此原因,BLE及其它类似通信协议通常对可在经连接装置之间传送的数据包的大小具有限制。同时,第二通信装置优选地包括WiFi收发器。此连接导向的通信协议可用于以频繁或连续方式在装置之间交换大量数据,此对于低功耗通信协议的有限数据包大小是不允许的或至少无效率的。虽然本文中主要关于BLE通信协议描述了第一通信装置,但将了解,可使用任何适合较低功率通信协议,例如ANT及ZigBee。类似地,虽然本文中主要关于WiFi通信协议描述了第二通信装置,但将了解,可使用任何适合连接导向的通信协议,例如经典蓝牙。
在本发明的实施例中,计算装置使用控制通道(由摄像机的第一通信装置提供)来激活(或接通)摄像机中的第二通信装置。此允许(举例来说)仅在需要时建立摄像机与计算装置之间的连接,(例如)以允许计算装置存取存储在视频摄像机上的媒体文件并从所述媒体文件获得数据。一旦已传送数据,那么计算装置便可经由控制通道发送用以撤销激活(或关断)摄像机中的第二通信的另一命令。
据信,能够使用两个不同无线通信协议(一个供使用控制通道且另一个用作数据通道)连接到远程计算装置并仅在经由控制通道接收到命令后即刻激活通信装置以建立数据通道的视频摄像本身是新且有利的。
因此,根据本发明的另一方面,提供一种将数据从数字视频摄像机发射到远程计算装置的方法,所述视频摄像机具有:第一无线通信装置,其能够使用第一通信协议与远程计算装置进行通信;及第二无线通信装置,其能够使用第二通信协议与所述远程计算装置进行通信,所述方法包括:
在所述第一无线通信装置处从所述计算装置接收来自所述计算装置的用以激活所述第二无线通信装置的第一命令;
基于接收到所述第一命令而激活所述第二无线通信装置并使用所述第二无线通信装置在所述摄像机与所述计算装置之间建立连接;
在所述第二无线通信装置处经由所述所建立连接从所述计算装置接收对以下各项中的至少一者的请求:从所述摄像机的图像传感器所接收的视频图像数据;及来自存储在所述视频摄像机的存储器中的一或多个媒体文件的数据;
使用所述第二无线通信装置经由所述所建立连接将所述所请求数据从所述视频摄像机传送到所述计算装置;
在所述第一无线通信装置处从所述计算装置接收来自所述计算装置的用以撤销激活所述第二无线通信装置的第二命令;及
基于接收到所述第二命令而撤销激活所述第二无线通信装置。
本发明扩展到一种用于执行根据本文中所描述的本发明的各方面或实施例中的任一者的方法的系统,优选地为数字视频摄像机。
因此,根据本发明的另一方面,提供一种用于将数据从数字视频摄像机发射到远程计算装置的系统,所述视频摄像机具有:第一无线通信装置,其能够使用第一通信协议与远程计算装置进行通信;及第二无线通信装置,其能够使用第二通信协议与所述远程计算装置进行通信,所述系统包括:
用于在所述第一无线通信装置处从所述计算装置接收来自所述计算装置的用以激活所述第二无线通信装置的第一命令的构件;
用于基于接收到所述第一命令而激活所述第二无线通信装置并使用所述第二无线通信装置在所述摄像机与所述计算装置之间建立连接的构件;
用于在所述第二无线通信装置处经由所述所建立连接从所述计算装置接收对以下各项中的至少一者的请求的构件:从所述摄像机的图像传感器所接收的视频图像数据;及来自存储在所述视频摄像机的存储器中的一或多个媒体文件的数据;
用于使用所述第二无线通信装置经由所述所建立连接将所述所请求数据从所述视频摄像机传送到所述计算装置的构件;
用于在所述第一无线通信装置处从所述计算装置接收来自所述计算装置的用以撤销激活所述第二无线通信装置的第二命令的构件;及
用于基于接收到所述第二命令而撤销激活所述第二无线通信装置的构件。
如所属领域的技术人员将了解,本发明的这些其它方面可以且优选地确实视需要包含本文中关于本发明的其它方面中的任一者所描述的本发明的任何一或多个或者全部优选及任选特征。因此,虽然未明确陈述,但本发明的系统可包括用于执行关于本发明在其各方面或实施例中的任一者中的方法所描述的任何步骤的构件,且反之亦然。举例来说,所述第一无线通信装置优选地包括BLE收发器或使用类似低功耗通信协议(例如ANT或ZigBee)的装置,其中使用广播广告包或经由临时建立的连接(一交换相关数据,主装置就断开所述连接)而交换数据。所述第二无线通信装置优选地包括WiFi收发器或使用类似连接导向的通信协议(例如,经典蓝牙)的装置,其中使用所建立连接来交换数据。
在本发明的一些方面及实施例中,在第一通信装置处从计算装置接收第一命令,所述第一命令是用以激活(或接通)第二通信装置的指令。在第一通信装置处从计算装置接收还第二命令,所述第二命令是用以撤销激活(或关断)第二通信装置的指令。无论何时第二通信装置不需要与计算装置进行数据交换,此均允许撤销激活第二通信装置,借此减小摄像机上的功率消耗。
第一通信装置可操作为连续地扫描以用于广告通过计算装置中的对应通信装置而广播的数据包的“观测器”。因此,在实施例中,第一及第二命令含于广告数据包中。在此些实施例中,摄像机与计算装置之间未通过第一通信装置而建立连接,且使用第一通信装置而形成的控制通道是单向的(从计算装置到摄像机)。
在其它实施例中,第一通信装置可操作为“外围设备”(到计算装置中的对应通信装置),使得计算装置与摄像机之间建立连接。因此,第一及第二命令优选地含于经由所述连接而发射的数据包中。在此些实施例中,使用第一通信装置而形成的控制通道是双向的。举例来说,此在第二通信装置(例如)在接收到第一及/或第二命令之后被激活及/或撤销激活时允许摄像机通知计算装置或向计算装置进行确认,使得可在计算装置上(例如,在计算装置的显示装置上)向用户提供适合通知。
在实施例中,用以激活视频摄像机中的第二无线通信装置的第一命令是遵循远程计算装置上的用户输入而产生。所述用户输入可为使计算装置用作摄像机的取景器(即,显示如摄像机的图像传感器所见的视图)的请求,且因此所述用户输入将形成摄像机所记录的视频图像数据。将计算装置(例如,智能电话)用作摄像机的取景器允许在不需要查看摄像机上的显示装置(如果有的话)的情况下适当地调整摄像机在身体或一件运动装备上的位置。另外或另一选择为,用户输入可为使计算装置播放(或预览)存储在摄像机的存储器中的媒体文件中的视频图像数据的请求。在此些实施例中,所述请求可为媒体文件的表示的选择,(例如,如上文所描述,通过选择缩略图图像而做出),以致使播放所选择媒体文件的视频图像数据。另一选择为,所述请求可为媒体文件的突出显示的表示的选择(例如,如上文所描述,通过选择缩略图图像而做出),以致使播放与所选择突出显示相关联的视频图像数据(即,所述突出显示的开始时间与结束时间之间的视频图像数据)。另外或另一选择为,用户输入可为对(例如)存储在存储在摄像机的存储器中的媒体文件的元数据部分中的传感器数据的请求。
另外或另一选择为,用以激活视频摄像机中的第二无线通信装置的第一命令(例如)通过计算装置上运行的软件而由计算装置自动产生。举例来说,在执行允许观看及编辑视频图像数据的软件(例如,安装在计算装置上的应用程序(或app(应用程序)))后,所述软件可即可与摄像机同步,以便获得指示一或多个媒体文件的数据及优选地一或多个媒体文件的相关联突出显示数据。此允许计算装置显示存储在摄像机上(例如,如上文所描述)的各种视频及突出显示的表示。
在第一通信装置接收到第一命令之后,激活(即,接通)第二通信装置,且在视频摄像机与计算装置之间建立连接。接着由计算装置使用所建立连接来将对数据的请求发送到视频摄像机。所请求数据将取决于触发第一命令的产生的动作,例如,取决于计算装置上的用户输入。
举例来说,当请求是使计算装置用作摄像机的取景器时,此时经由所建立连接而发射的请求是对从摄像机的图像传感器所接收的视频图像数据的请求。在此些实施例中,传送(或流式传输)到计算装置的数据优选地为从摄像机的视频处理装置输出(及依据从摄像机的图像传感器所接收的数据而产生)的经编码视频流,且优选地为使用帧内压缩技术而编码的视频流。如上文所论述,此经编码视频流优选地包括其中每一帧均被压缩为jpeg图像的流。每一jpeg图像可处于768×432px的分辨率,且所述流可具有30fps的帧速率;但将了解,所述值仅为示范性的。如上文所论述,计算装置优选地包括用以解码所接收经编码视频流的解码器,且在计算装置的显示装置上显示所得视频图像数据。
在其它实施例中,当请求是使计算装置播放(或预览)视频或突出显示时,此时经由所建立连接而发射的请求是对存储在摄像机的存储器中的媒体文件中的视频图像数据及任选地音频数据的请求。在此些实施例中,传送(或流式传输)到计算装置的数据优选地为经编码媒体流。如上文所论述,经编码媒体流可为(举例来说)经编码视频流,使得计算装置仅显示视频图像数据,即,请求视频或突出显示视频。另一选择为,经编码媒体流可为包括(举例来说)视频图像数据及音频数据的经交错流。在一些实施例中,传送到计算装置的数据还可包含媒体文件或突出显示的传感器数据,使得传感器数据在由计算装置播放时可与视频或突出显示同时显示。
在其它实施例中,当所述请求是使计算装置获得关于存储在视频摄像机的存储器上的一或多个媒体文件的信息时,此时经由所建立连接而发射的请求可为对存储在存储器上的若干媒体文件及任选地为针对所述文件中的每一者对以下各项中的一或多者的请求:创建文件的时间;文件的大小;文件中的视频图像数据的持续时间;存储在文件中的标签及/或突出显示的数目;文件中的视频图像数据的分辨率;文件中的视频图像数据的帧速率;及文件中的视频图像数据的纵横比。
在本发明的一些方面及实施例中,优选地在从移动计算装置接收到所请求数据之后,例如在用户关闭取景器、完成播放视频或突出显示、关闭应用程序等之后,由计算装置产生第二命令。所述第二命令由计算装置中的通信装置发射(例如,在广播广告数据包中或在经由所建立连接而发射的数据包中)且由摄像机中的第一通信装置接收。基于接收到所述第二命令而撤销激活第二通信装置。
虽然已关于用以形成数据通道的第二通信装置的激活及撤销激活描述了摄像机与计算装置之间由第一通信装置使用第一无线通信协议(例如BLE)而形成的控制通道,但控制通道还可用于提供额外功能性。举例来说,控制通道可用于基于从计算装置所接收的命令而调整摄像机的设定,举例来说,所述命令可基于来自用户的输入而产生。举例来说,控制通道还可用于产生对摄像机的以下设定中的一或多者的改变或调整:分辨率;帧速率;白平衡(即,调整视频图像数据的总体色调);色彩(即,调整视频图像数据的色彩分布);增益或ISO限制(即,调整摄像机在低光环境中的敏感性);清晰度(即,调整视频图像数据的清晰度);及曝光(即,利用对比光条件来校正环境)。
如上文所描述,在本发明的实施例中,计算装置(例如,桌上型计算机、膝上型计算机、智能电话等)经布置以存取一或多个媒体文件且至少播放(或预览)来自所述一或多个文件的视频图像数据,例如视频、突出显示视频等。正播放的视频图像数据优选地显示在计算装置的显示装置上的显示窗口中。时间线(或回放条)还优选地与视频图像数据同时显示。时间线的一端指示当前正播放的视频的开始,而时间线的另一端指示当前正播放的视频的结束。因此,时间线可视为形成视频图像数据在视频的持续时间内的示意性表示。在一些实施例中,时间线可形成为直线。时间线优选地进一步包含在播放视频时沿着时间线移动的图标(或滑块),以便展示沿着当前正显示的视频图像数据的时间线的位置。图标(或滑块)可优选地由用户操纵(即,通过使图标沿着时间线移动而做出),以便允许用户选择正显示的视频图像数据。用户以此方式操纵图标的过程称为“定位”,且通常用于视频编辑中以允许用户在创建经编辑视频中选择视频的将要保留或删除的一或多个部分。
已认识到,基于从与摄像机相关联的一或多个传感器装置所接收的数据的且与摄像机所记录的视频图像数据是同时的传感器数据可有利地用于视频的定位中。因此,在本发明的一些方面及实施例中,时间线包括传感器数据的表示及优选地关于从一或多个传感器装置获得的变量的一或多个数据集的表示。实际上,据信,使用同时的传感器数据来定位视频图像数据本身是新且有利的。
因此,根据本发明的另一方面,提供一种使用计算装置来查看在时间周期期间由数字视频摄像机所收集的视频图像数据的方法,所述数字视频摄像机具有与其相关联的一或多个传感器装置,所述方法包括:
存取包括所述视频图像数据及传感器数据的数字媒体文件,所述传感器数据是基于在所述时间周期期间从所述一或多个传感器装置所接收的数据;
在所述计算装置的显示装置上的第一显示窗口中显示所述视频图像数据;及
同时在所述显示装置上的第二显示窗口中显示时间线以及相对于所述时间线具有用以展示所述第一显示窗口中当前正显示的所述视频图像数据的位置的图标,且其中所述时间线包括所述传感器数据的表示;
在所述计算装置的输入装置上从用户接收用以改变所述图标相对于所述时间线的所述位置的输入;及
改变所述第一显示窗口中正显示的所述视频图像数据以对应于所述图标相对于所述时间线的所述经改变位置。
本发明扩展到一种用于执行根据本文中所描述的本发明的各方面或实施例中的任一者的方法的系统,例如计算装置且优选地移动计算装置。
因此,根据本发明的另一方面,提供一种用于使用计算装置来查看在时间周期期间由数字视频摄像机所收集的视频图像数据的系统,所述数字视频摄像机具有与其相关联的一或多个传感器装置,所述系统包括:
用于存取包括所述视频图像数据及传感器数据的数字媒体文件的构件,所述传感器数据是基于在所述时间周期期间从所述一或多个传感器装置所接收的数据;
用于在所述计算装置的显示装置上的第一显示窗口中显示所述视频图像数据的构件;及
用于同时在所述显示装置上的第二显示窗口中显示时间线以及相对于所述时间线具有用以展示所述第一显示窗口中当前正显示的所述视频图像数据的位置的图标的构件,且其中所述时间线包括所述传感器数据的表示;
用于在所述计算装置的输入装置上从用户接收用以改变所述图标相对于所述时间线的所述位置的输入的构件;及
用于改变所述第一显示窗口中正显示的所述视频图像数据以对应于所述图标相对于所述时间线的所述经改变位置的构件。
如所属领域的技术人员将了解,本发明的这些其它方面可以且优选地确实视需要包含本文中关于本发明的其它方面中的任一者所描述的本发明的任何一或多个或者全部优选及任选特征。因此,虽然未明确陈述,但本发明的系统可包括用于执行关于本发明在其各方面或实施例中的任一者中的方法所描述的任何步骤的构件,且反之亦然。举例来说,如上文所描述,一或多个传感器装置(优选地,多个传感器装置)优选地用于测量以下各项中的至少一者:用户、摄像机、运动装备及/或运载工具物项的移动或其它物理参数,例如位置、速度、加速度等(例如,在户外或体育赛事期间,在正记录视频图像数据时);用户及/或摄像机周围的环境条件,例如温度、压力等;及用户的生理特性,例如心率、最大摄氧量等。此外,媒体文件优选地经结构化使得视频图像数据存储在文件的有效负载部分中且传感器数据存储在文件的元数据部分中。传感器数据还优选地包含一或多个数据集及优选地多个数据集,其中每一数据集与直接或间接从一或多个传感器装置获得的变量有关。
在本发明的一些方面及实施例中,包括视频图像数据及传感器数据的媒体文件由计算装置存取。所述媒体文件可存储在计算装置的存储器中,或替代地,可存储在视频摄像机的存储器中并经由无线连接而存取。在上述后一实施例中,传感器数据优选地下载到计算装置的存储器(使得所有传感器数据均存在于计算装置的存储器中),而视频图像数据则视需要经由无线连接进行流式传输以供在计算装置的显示装置上显示。
视频图像数据无论是被流式传输还是存在于计算装置的本地存储器中均显示于显示装置上的第一显示窗口中。同时,在显示装置上的第二显示窗口中同时显示时间线以及相对于时间线具有用以展示第一显示窗口中当前正显示的视频图像数据的位置的图标。在实施例中,第一显示窗口可独立于第二显示窗口。然而,在一些实施例中,显示窗口可至少部分地重叠,且可甚至为相同的,使得时间线叠加于视频图像数据上方。图标相对于时间线的位置可通过输入装置上的输入由用户改变,使得第一显示窗口中正显示的视频图像数据改变成对应于图标的新位置。
如上文所论述,时间线包括传感器数据的表示,使得用户可观看传感器数据并使用此信息来选择图标的所要位置(即,以便定位视频)。传感器数据的表示优选地包括展示(例如)直接或间接从一或多个传感器装置获得的变量的数据值在收集视频图像数据的时间周期内如何改变的表示。举例来说,传感器数据的表示可展示速度或加速度或者用户的心率等在所述时间周期内如何改变。在实施例中,可同时显示来自多个数据集的数据。另一选择为,可显示仅来自单个数据集的数据以及显示器可使用的一或多个可选择选项(即,来自数据集中的另一者的数据)。
在实施例中,图标可经布置以沿着传感器数据的表示移动。另一选择为,形成为直线(其中一端表示时间周期的开始且另一端表示时间周期的结束)的第二时间线可显示于第一或第二显示窗口中或任选地显示于第三显示窗口中,且图标优选地经布置以沿着此第二时间线移动。在此些实施例中,标记可显示于传感器的对应于图标在第二时间线上的位置的表示上,(例如)使得用户可易于识别传感器数据中关于图标的当前位置的相关数据值。
在特定实施例中,传感器数据的表示包括展示用户(或摄像机、或装备,取决于传感器的位置)的位置在时间周期内的改变(例如基于通过GNSS接收器而确定的位置数据)的路径。路径的此表示可叠加于展示用户所行进的地形及/或可导航网络(例如,道路、路径等)的数字地图的表示上方。如将了解,路径的此表示可与来自包括传感器数据的一或多个其它数据集的数据同时显示。
在其它实施例中,且其中媒体文件进一步包括(例如)在如上文所描述的文件的元数据部分中的突出显示数据,显示装置上可显示一或多个标记以及一或多个时间线(例如,直线)、传感器数据的表示或其组合,其中一个或若干标记是基于突出显示数据且识别一或多个时间线上的一或多个感兴趣时间的位置。这些标记允许用户容易地将正显示的视频图像数据移动到与标记相关联的时间。一或多个标记可显示于时间线中的至少一者上(例如叠加于时间线中的至少一者上方),每一标记基于与所述标记相关联的感兴趣时间而位于时间线上。另一选择为,一或多个标记可邻近于时间线中的至少一者上针对相应感兴趣时间的位置而显示。
所述一或多个标记可与时间线上的单个时间点(例如,标签)相关联,或可与时间线上的时间周期(例如,具有相关联时窗的突出显示)相关联。在上述后一实施例中,一或多个标记可显示于时间线上(例如)对应于突出显示的标签时间的单个时间点处,但每一标记仍与突出显示相关联,如下文将较详细论述。另一选择为,一或多个标记连同时间线上展示突出显示的时窗的指示一起可显示。
如上文所论述,突出显示及/或标签可从多个源产生,例如基于用户输入而手动产生及基于传感器数据(例如,速度、重力、旋转(或自旋)、加速度、减速度、垂直速度及心率)而自动产生。在优选实施例中,一或多个标记包含展示与每一标记相关联的标签及/或突出显示的来源的识别符。
一或多个标记优选地可由用户选择(例如,当计算装置包括触摸屏显示器时,经由触摸选择而选择),以便允许用户将正显示的视频图像数据改变成与所述标记相关联的时间。举例来说,当标记与单个时间点(例如,标签)相关联时,此时标记的选择致使正显示的视频图像数据改变成与所述时间点相关联的视频图像数据。在其它实施例中,且在标记与时间周期(例如,突出显示)相关联时,标记的选择可致使正显示的视频图像数据改变成在基于所述时间周期的时间(例如,基于所述突出显示的时窗的时间)的视频图像数据。举例来说,在选择标记之后所显示的视频图像数据可对应于针对突出显示的开始时间或突出显示的标签时间的视频图像数据。
据信,使用与时间周期(例如,突出显示)相关联且连同所显示视频数据一起相对于时间线而显示的一或多个可选择标记来定位视频图像数据本身是新且有利的。
因此,根据本发明的另一方面,提供一种使用计算装置来查看由数字视频摄像机所收集的视频图像数据的方法,所述方法包括:
存取包括所述视频图像数据及突出显示数据的数字媒体文件,所述突出显示数据识别所述视频图像数据中的一或多个感兴趣时间,所述突出显示数据包括具有关于所述视频图像数据的一起界定时窗的开始时间及结束时间的至少一个突出显示;
在所述计算装置的显示装置上的第一显示窗口中显示所述视频图像数据;
同时在所述显示装置上的第二显示窗口中显示时间线以及一或多个可选择标记,每一可选择标记与突出显示相关联且相对于所述时间线具有与所述突出显示的所述时窗内的时间对应的位置;
在所述计算装置的输入装置上从用户接收对标记的选择;及
将所述第一显示窗口中正显示的所述视频图像数据改变成对应于在基于所述突出显示的所述时窗的与所述所选择标记相关联的时间的所述视频图像数据。
本发明扩展到一种用于执行根据本文中所描述的本发明的各方面或实施例中的任一者的方法的系统,例如计算装置且优选地移动计算装置。
因此,根据本发明的另一方面,提供一种用于使用计算装置来查看由数字视频摄像机所收集的视频图像数据的系统,所述系统包括:
用于存取包括所述视频图像数据及突出显示数据的数字媒体文件的构件,所述突出显示数据识别所述视频图像数据中的一或多个感兴趣时间,所述突出显示数据包括具有关于所述视频图像数据的一起界定时窗的开始时间及结束时间的至少一个突出显示;
用于在所述计算装置的显示装置上的第一显示窗口中显示所述视频图像数据的构件;
用于同时在所述显示装置上的第二显示窗口中显示时间线以及一或多个可选择标记的构件,每一可选择标记与突出显示相关联且相对于所述时间线具有与所述突出显示的所述时窗内的时间对应的位置;
用于在所述计算装置的输入装置上从用户接收对标记的选择的构件;及
用于将所述第一显示窗口中正显示的所述视频图像数据改变成对应于在基于所述突出显示的所述时窗的与所述所选择标记相关联的时间的所述视频图像数据的构件。
如所属领域的技术人员将了解,本发明的这些其它方面可以且优选地确实视需要包含本文中关于本发明的其它方面中的任一者所描述的本发明的任何一或多个或者全部优选及任选特征。因此,虽然未明确陈述,但本发明的系统可包括用于执行关于本发明在其各方面或实施例中的任一者中的方法所描述的任何步骤的构件,且反之亦然。举例来说,如上文所描述,所述媒体文件优选地经结构化使得视频图像数据存储在所述文件的有效负载部分中且突出显示数据存储在所述文件的元数据部分中。此外,突出显示且优选地每一突出显示优选地包括以下信息中的一或多者:(i)唯一识别符;(ii)识别标签或突出显示的类型的类型;(iii)识别产生标签的时间的标签时间;(iv)识别突出显示的开始的开始时间;(v)识别突出显示的结束的结束时间;及(vi)额外信息。
在本发明的一些方面及实施例中,包括视频图像数据及突出显示数据的媒体文件由计算装置存取。所述媒体文件可存储在计算装置的存储器中,或替代地,可存储在视频摄像机的存储器中并经由无线连接而存取。在上述后一实施例中,突出显示数据优选地下载到计算装置的存储器(使得所有突出显示数据存在于计算装置的存储器中),而视频图像数据则视需要经由无线连接进行流式传输以供在计算装置的显示装置上显示。
视频图像数据无论是被流式传输还是存在于计算装置的本地存储器中均显示于显示装置上的第一显示窗口中。同时,在显示装置上的第二显示窗口中同时显示时间线以及一或多个可选择标记,每一可选择标记与突出显示相关联且相对于时间线具有对应于突出显示的时窗内的时间的位置。所述时间可为上文所描述的时间线中的任何一或多者,例如,直线、传感器数据的表示或组合。在实施例中,第一显示窗口可独立于第二显示窗口。然而,在一些实施例中,显示窗口可至少部分地重叠,且可甚至为相同的,使得时间线叠加于视频图像数据上方。
在本发明的一些方面及实施例中,从用户(例如使用计算机指向装置,例如计算机鼠标,经由触摸屏显示器上的触摸等)接收标记的选择,且将第一显示窗口中正显示的视频图像数据改变成对应于在基于突出显示的时窗的与所选择标记相关联的时间的视频图像数据。
在实施例中,标记的选择可致使所显示视频图像数据改变成在突出显示的时窗内的时间(例如,突出显示的开始时间)的视频图像数据。换句话说,标记的选择可致使播放突出显示视频。
另外或另一选择为,标记的选择可致使第一显示窗口中正显示的视频图像数据改变及第二显示窗口中所显示的时间线改变。举例来说,选择可致使时间线被修改以便“放大”为突出显示。换句话说,鉴于原始时间线提供对应于媒体文件的持续时间的时间周期的示意性表示,新时间线提供基于突出显示的持续时间的不同时间周期的示意性表示。此不同时间周期可对应于突出显示的持续时间,但在优选实施例中,大于突出显示的持续时间。举例来说,由新时间线表示的时间周期可对应于突出显示的持续时间及额外时间周期。此额外时间周期可包括预定量的时间(4秒),或此额外时间周期可包括突出显示的持续时间的预定比例,例如突出显示的持续时间的50%。在实施例中,新时间线的一端表示突出显示的开始时间的第一预定时间周期,且另一端表示突出显示的结束时间的第二预定时间周期。第一及第二预定时间周期可为不同的,但优选地为相同的,且组合以等于上文所描述额外时间周期。如将了解,在选择标记之后第一显示窗口中所展示的视频图像数据优选地将包括与新时间线的开始对应的视频图像数据,且用户接着可致使播放对应于新时间线的视频图像数据。在实施例中,新时间线上显示展示突出显示的当前时窗的指示,且优选地,第一指示符展示突出显示的开始时间且第二指示符展示突出显示的结束时间。用户可优选地与所述指示且优选地与第一及/或第二指示符交互,以(例如)通过沿着新时间线移动第一及/或第二指示符而修改突出显示的开始时间及/或结束时间。如上文所论述,一旦以此方式做出修改,计算装置便将指示开始及/或结束时间的改变的数据传送到摄像机,使得媒体文件的元数据部分中的突出显示数据相应地得以修改(或更新)。
在实施例中,在选择标记之后第一显示窗口中所显示的视频图像数据取决于选择的类型可为不同的。举例来说,如果以第一方式做出选择,例如触摸屏装置上的单次轻击或使用计算机鼠标进行单击,那么可致使所显示视频图像数据改变成在突出显示的时窗内的时间(例如,突出显示的开始时间)的视频图像数据。此外,如果以第二方式做出选择,例如触摸屏装置上的长按或使用计算机鼠标进行双击,那么可致使视频图像数据及时间线改变,即,“放大”为突出显示,例如如上文所描述。
除展示突出显示的当前时窗的指示以外或作为此的替代,在缩放为突出显示时所显示的新时间线也可连同另一可选择标记一起显示。如上文所论述,相对于原始时间线,另一可选择标记可包含展示与标记相关联的突出显示的来源的识别符。另一标记可由用户选择(例如,在计算装置包括触摸屏显示器时,经由触摸选择而选择),以便允许用户播放(或预览)与突出显示相关联的视频图像数据,例如以显示对应于突出显示的开始时间的视频图像数据。另外或另一选择为,另一标记可由用户选择以致使第一显示窗口中正显示的视频图像数据改变及第二显示窗口中所显示的时间线改变。举例来说,所述选择可致使第二显示窗口中所显示的新时间线被修改以便“缩小”(即,返回)到提供对应于媒体文件的持续时间的时间周期的示意性表示的原始时间线。
在实施例中,在选择标记之后第一显示窗口中所显示的视频图像数据取决于选择的类型可为不同的。举例来说,如果以第一方式做出选择,例如触摸屏装置上的单次轻击或使用计算机鼠标进行单击,那么在第一显示窗口中将播放与突出显示相关联的视频图像数据。此外,如果以第二方式做出选择,例如触摸屏装置上的长按或使用计算机鼠标进行双击,那么可致使视频图像数据及时间线改变回(即,“缩小”)到原始时间线及原始视频图像数据。
如上文所描述,在本发明的许多方面及实施例中,存储在存储器(例如,在视频摄像机上)中的一个或若干媒体文件中的每一者包括视频图像数据及突出显示数据,其中突出显示数据包括识别相应媒体文件的视频图像数据中的感兴趣时间周期的至少一个突出显示。已认识到,这些突出显示可用于自动创建媒体文件,所述媒体文件具有所记录视频图像数据的最感兴趣部分且在由用户查看及修改之后,潜在地接着可经由视频共享平台(例如
Figure BDA0002764473250000431
)与其它用户快速地共享。据信,以此方式使用突出显示数据本身是新且有利的。
因此,根据本发明的另一方面,提供一种创建第一数字媒体文件的方法,所述方法包括:
存取一或多个第二数字媒体文件,每一第二数字媒体文件包括视频图像数据及识别所述视频图像数据中的一或多个感兴趣时间的突出显示数据,所述突出显示数据包括各自具有关于所述视频图像数据的开始时间及结束时间的一或多个突出显示;
从所述一或多个第二数字媒体文件选择多个突出显示;
将所述所选择突出显示放置成有序序列;
获得针对所述有序序列中的每一突出显示的第三数字媒体文件,每一第三数字媒体文件包括基于所述相关联突出显示的开始时间及结束时间从第二数字媒体文件获得的视频图像数据;及
根据所述有序序列从所述多个第三数字媒体文件创建所述第一数字媒体文件。
本发明扩展到一种用于执行根据本文中所描述的本发明的各方面或实施例中的任一者的方法的系统,例如计算装置且优选地移动计算装置。
因此,根据本发明的另一方面,提供一种用于创建第一数字媒体文件的系统,所述系统包括:
用于存取一或多个第二数字媒体文件的构件,每一第二数字媒体文件包括视频图像数据及识别所述视频图像数据中的一或多个感兴趣时间的突出显示数据,所述突出显示数据包括各自具有关于所述视频图像数据的开始时间及结束时间的一或多个突出显示;
用于从所述一或多个第二数字媒体文件选择多个突出显示的构件;
用于将所述所选择突出显示放置成有序序列的构件;
用于获得针对所述有序序列中的每一突出显示的第三数字媒体文件的构件,每一第三数字媒体文件包括基于所述相关联突出显示的开始时间及结束时间从第二数字媒体文件获得的视频图像数据;及
用于根据所述有序序列从所述多个第三数字媒体文件创建所述第一数字媒体文件的构件。
如所属领域的技术人员将了解,本发明的这些其它方面可以且优选地确实视需要包含本文中关于本发明的其它方面中的任一者所描述的本发明的任何一或多个或者全部优选及任选特征。因此,虽然未明确陈述,但本发明的系统可包括用于执行关于本发明在其各方面或实施例中的任一者中的方法所描述的任何步骤的构件,且反之亦然。此外,优选地每一突出显示除开始时间及结束时间(例如,界定为与视频图像数据的开始的偏移)之外还另外包括以下各项中的一或多者:唯一识别符;识别标签或突出显示的类型的类型;识别产生标签的时间的标签时间;及额外信息。
一或多个第二媒体文件可存储在计算装置的存储器中,或替代地,可存储在视频摄像机的存储器中并经由无线连接而存取。在上述后一实施例中,来自一或多个第二媒体文件的突出显示数据优选地下载到计算装置的存储器(使得所有突出显示数据均存在于计算装置的存储器中)。
在实施例中,一或多个媒体文件及与一或多个媒体文件相关联的突出显示可在于计算装置上接收到来自用户的输入之后被存取,所述计算装置可为移动计算装置,例如智能电话。来自用户的输入可为移动计算装置上所呈现的虚拟按钮的选择,或替代地,所述输入可为用户做出的计算装置的预定移动,例如摇动计算装置。
根据本发明的一些方面及实施例,从一或多个第二媒体文件选择多个突出显示。对突出显示的选择可为手动的,例如,通过用户(例如)以如上文所描述的方式从计算装置上所显示的突出显示数据的表示选择个别突出显示而做出,但优选地,对突出显示的选择至少部分地自动发生。举例来说,突出显示可从最近所记录且优选地在当前时间的预定时间内创建的第二媒体文件而选择(因为假设用户通常将希望在记录其活动或运动之后相对快速地创建第一媒体文件)。在实施例中,这些自动选择的突出显示可与由用户手动选择的一或多个突出显示进行组合。另一选择为,所有突出显示均可自动选择。在实施例中,多个突出显示可经选择最多达预定数目及/或使得所选择突出显示的总持续时间(即,每一个别突出显示的持续时间的总和)不超过预定时间值。
所选择突出显示(无论手动选择、自动选择还是其组合)均放置成有序序列。所述序列可基于一或多个第二媒体文件的创建数据而排序,使得在有序序列中首先定位最早记录的突出显示。另一选择为,序列可是基于突出显示数据中或传感器数据中的信息,(例如)使得在有序序列中首先定位或可能地在所述序列中以周期性间隔定位在较极端时刻产生的突出显示。
在实施例中,计算装置可以有序序列显示所选择突出显示的表示。所述表示可包含缩略图图像,其优选地为针对相应突出显示而界定的时窗来自相应媒体文件中所含有的视频图像数据的帧。所述表示还可包含识别以下各项中的一或多者的信息(优选地叠加于缩略图图像上方):突出显示的原点,例如突出显示是手动突出显示还是自动突出显示;自动突出显示的类型;与突出显示相关联的值,例如针对自动突出显示,导致创建突出显示的极值的值;及突出显示的持续时间。
优选地,用户能够选择突出显示的表示来播放(或预览)对应于突出显示的视频图像数据。另外或另一选择为,用户能够:添加新突出显示,例如在有序序列中的任何所要位置处;删除现有所选择突出显示;及将现有所选择突出显示移动到有序序列中的另一位置。举例来说,此允许用户修改所选择的突出显示及/或按任何突出显示的次序修改位置。另外或另一选择为,用户能够改变所选择突出显示的开始及/或结束时间,例如通过选择所述表示以便播放突出显示且操纵所显示时间线上的第一及第二指示符,其中第一指示符表示突出显示的开始时间且第二指示符表示突出显示的结束时间。如将了解,当第二媒体文件距计算装置远程地存储(例如,存储在视频摄像机的存储器中)时,对突出显示数据的任何改变均被发送到视频摄像机,使得针对相关第二媒体文件的突出显示数据可视需要而更新。
在实施例中,一旦用户对所选择突出显示及/或序列次序感到满意,便获得针对有序序列中的每一突出显示的第三媒体文件,其中每一第三媒体文件包括基于相关联突出显示的开始时间及结束时间从第二媒体文件获得的视频图像数据。(例如)当第二媒体文件存储在摄像机的存储器中时,第三媒体文件可由计算装置从视频摄像机获得。另一选择为,在其中第二媒体文件存储在计算装置的存储器中的实施例中,此时可从计算装置的存储器获得第三媒体文件。然而,优选地,经由无线通信通道而将请求从计算装置发送到视频摄像机。
每一第三媒体文件包括基于相关联突出显示的开始时间及结束时间从第二媒体文件获得的视频图像数据。第三媒体文件可仅包括视频图像数据(例如,如果用户要求的话),使得第三媒体文件可将音乐添加到第一媒体文件,或可包括视频图像数据及音频数据。在任一事件中,第三媒体文件通常将通过处理变码操作中的相关第二媒体文件而获得。换句话说,第二媒体文件的有效负载部分被多路分用,且接着一或多个所得经编码流(基于突出显示的开始及结束时间)的相关部分被多路复用且被添加到新容器,接着将所述新容器关闭以创建第三媒体文件。在实施例中,变码操作(其优选地发生于视频摄像机上)可进一步包含至少经编码视频流(优选地,如存储在文件的视频轨道中,且并非文件的文本轨道中的视频图像数据)的解码及视频图像的后续重新编码,使得所有第三媒体文件具有相同特性,优选地相同分辨率及帧速率。此允许(举例来说)仅通过根据所述序列而排序的第三媒体文件的串联而形成第一媒体文件,而不需要在计算装置上执行进一步变码操作。
据信,创建具有相同特性的多个突出显示视频本身是新且有利的。
因此,根据本发明的另一方面,提供一种从一或多个第二数字媒体文件创建多个第一数字媒体文件的方法,每一第二数字媒体文件包括视频图像数据及识别所述视频图像数据中的一或多个感兴趣时间的突出显示数据,所述突出显示数据包括各自具有关于所述视频图像数据的开始时间及结束时间的一或多个突出显示,所述方法包括:
从计算装置接收对多个突出显示的选择;
针对所述所选择突出显示中的每一者识别包括与所述突出显示对应的所述视频图像数据的所述一或多个第二数字媒体文件;
基于所述所选择突出显示中的所述每一者的开始时间及结束时间而至少对来自所述所识别一或多个第二数字媒体文件中的每一者的所述视频图像数据进行变码以创建所述多个第一数字媒体文件,其中所述变码经执行使得所述多个第一数字媒体文件具有相同特性;及
将所述多个第一数字媒体文件发射到所述计算装置。
本发明扩展到一种用于执行根据本文中所描述的本发明的各方面或实施例中的任一者的方法的系统。
因此,根据本发明的另一方面,提供一种用于从一或多个第二数字媒体文件创建多个第一数字媒体文件的系统,每一第二数字媒体文件包括视频图像数据及识别所述视频图像数据中的一或多个感兴趣时间的突出显示数据,所述突出显示数据包括各自具有关于所述视频图像数据的开始时间及结束时间的一或多个突出显示,所述系统包括:
用于从计算装置接收对多个突出显示的选择的构件;
用于针对所述所选择突出显示中的每一者识别包括与所述突出显示对应的所述视频图像数据的所述一或多个第二数字媒体文件的构件;
用于基于所述所选择突出显示中的所述每一者的开始时间及结束时间而至少对来自所述所识别一或多个第二数字媒体文件中的每一者的所述视频图像数据进行变码以创建所述多个第一数字媒体文件的构件,其中所述变码经执行使得所述多个第一数字媒体文件具有相同特性;及
用于将所述多个第一数字媒体文件发射到所述计算装置的构件。
如所属领域的技术人员将了解,本发明的这些其它方面可以且优选地确实视需要包含本文中关于本发明的其它方面中的任一者所描述的本发明的任何一或多个或者全部优选及任选特征。因此,虽然未明确陈述,但本发明的系统可包括用于执行关于本发明在其各方面或实施例中的任一者中的方法所描述的任何步骤的构件,且反之亦然。举例来说,接收到对多个突出显示的选择优选地由计算装置经由无线通信通道对视频摄像机而做出,且所产生的多个第一媒体文件优选地从视频摄像机发射到计算装置。第二媒体文件的突出显示数据还优选地存储在文件的元数据部分中,而视频图像数据存储在文件的有效负载部分中。
在实施例中,且如上文所论述,数据的变码(即,至少多路分用及多路复用流)以及任选地解码及重新编码经执行使得多个第一数字媒体文件具有相同特性。所述相同特性可为相同视频特性,例如,至少相同的分辨率及帧速率,及/或相同音频特性。
因此,在本发明的一些方面及实施例中,计算装置接收或以其它方式获得多个第三数字媒体文件。这些第三数字媒体文件对应于上文所提及的第一数字媒体文件,且因此,所述第三数字媒体文件优选地经创建使得其各自具有相同特性,例如分辨率、帧速率等。
因此,在实施例中,根据有序序列从多个第三数字媒体文件创建第一数字媒体文件可包括多个第三媒体文件的串联,例如,这是因为文件中的每一者的视频特性均相同。在其它实施例中,用户可决定添加展示传感器数据的音乐及/或图形覆盖(例如,如再次基于突出显示的开始及结束时间从第二媒体文件的元数据部分中的传感器数据而获得)。在上述后一实施例中,多个第三数字媒体文件经历进一步变码操作(优选地在计算装置中而非在视频摄像机中),以便创建第一数字媒体文件。
第一数字媒体文件一旦创建便优选地由用户(例如)使用计算装置的通信装置(例如WiFi或移动电信收发器)上传到视频共享网站(例如
Figure BDA0002764473250000481
)。换句话说,第一数字媒体文件优选地从计算装置发送到远程服务器计算机。
如本文中所描述的本发明的方法方面及实施例优选地为计算机实施的方法。本发明的设备方面及实施例可经配置以执行如本文中所描述的所有方法步骤中的任一者,且反之亦然。应注意,如本文中所使用的短语“与...相关联”不应解释为需要对数据存储位置的任何特定约束。所述短语仅需要可识别地叙述特征。因此,关联性可(举例来说)借助于对潜在地位于远程服务器中的文件的参考而实现。
本发明可实施于任何适合系统(例如,经适当配置的基于微处理器的系统)中。在优选实施例中,本发明实施于基于计算机及/或微处理器的系统中。本发明特定来说(但非排他性地)适于在低功率及便携式装置中使用。因此,在优选实施例中,计算装置包括便携式装置,例如移动电话或PDA。本发明适用于任何适合形式或配置的视频摄像机。
本发明相应地还扩展到包含本发明的系统或设备(例如,计算装置及优选地移动计算装置)的视频摄像机及/或视频摄像机系统。
本发明的各种功能可以任何所要且适合方式执行。举例来说,本发明的功能可视需要以硬件或软件形式实施。因此,举例来说,除非另有指示,否则本发明的各种功能元件及“构件”可包括可操作以执行各种功能等的一或若干适合处理器、一或若干控制器、功能单元、电路、处理逻辑、微处理器布置等,例如可经编程而以所要方式操作的适当专用硬件元件及/或可编程硬件元件。
此处还应注意,如所属领域的技术人员将了解,本发明的各种功能等可重复及/或在给定处理器上并行执行。同样地,必要时,各种处理阶段可共享处理电路等。
如所属领域的技术人员还将了解,本发明的所有所描述方面及实施例可且优选地视情况确实包含本文中所描述的优选及任选特征中的任何一或多者或全部。
根据本发明的方法可至少部分地使用软件(例如,计算机程序)而实施。因此当从其它方面观看时将可见,本发明提供:计算机软件,其在安装在一或多个数据处理器上时特别适于执行本文中所描述的方法;计算机程序元件,其包括在所述程序元件于一或多个数据处理器上运行时用于执行本文中所描述的方法的计算机软件代码部分;及计算机程序,其包括在所述程序于数据处理系统上运行时适于执行本文中所描述的一或若干方法的所有步骤的代码。一或多个数据处理器可为微处理器系统、可编程FPGA(现场可编程门阵列)等。
本发明还扩展到计算机软件载体,所述计算机软件载体包括在用于操作包括一或多个数据处理器的视频摄像机系统时致使(结合所述一或多个数据处理器)所述系统执行本发明的方法的步骤的此软件。此计算机软件载体可为物理存储媒体(例如ROM芯片、CDROM、RAM、快闪存储器或磁盘),或者可为信号(例如导线上的电子信号、光学信号或无线电信号(例如通向卫星)等等)。
将进一步了解,本发明的方法的所有步骤并非均需要由计算机软件执行,且因此从另一宽广方面来说,本发明提供计算机软件及安装在计算机软件载体上以用于执行本文中所陈述的方法的步骤中的至少一者的此软件。
本发明可相应地适当体现为供与计算机系统一起使用的计算机程序产品。此实施方案可包括固定在有形非暂时性媒体(例如,计算机可读媒体,举例来说,软盘、CD ROM、ROM、RAM、快闪存储器或硬盘)上的一系列计算机可读指令。此实施方案还可包括可经由调制解调器或其它接口装置(在有形媒体(包含但不限于光学或类似通信线路)上,或使用无线技术(包含但不限于微波、红外或其它发射技术)无形地)发射到计算机系统的一系列计算机可读指令。所述系列计算机可读指令体现本文中先前所描述的功能性的全部或部分。
所属领域的技术人员将了解,此些计算机可读指令可以若干编程语言写入以供与许多计算机架构或操作系统一起使用。此外,此些指令可使用现在或未来的任何存储器技术(包含但不限于半导体、磁性或光学)而存储,或使用现在或未来的任何通信技术(包含但不限于光学、红外或微波)而发射。预期,此计算机程序产品可分布为具有随附印刷或电子文档的可移除媒体(举例来说,(举例来说)在系统ROM或固定磁盘上预加载有计算机系统的紧缩套装软件),或者经由网络(举例来说,因特网或万维网)从服务器或电子布告板分布。
附图说明
下文将参考附图以说明性实例的方式描述本发明的教示的各种方面及体现那些教示的布置,在附图中:
图1展示称作“编码”的用于写入数字媒体文件的技术;
图2展示称作“解码”的用于读取数字媒体文件的技术;
图3展示称作“变码”的技术;
图4展示根据本发明的实施例的视频摄像机系统的示意性描绘;
图5展示开始及停止从移动装置的取景器进行记录的示范性方法;
图6示意性地展示根据本发明的实施例的用于处理数据的步骤;
图7展示产生手动标签的实例;
图8展示其中基于传感器数据而自动产生标签的实例;
图9展示可如何将视频及突出显示从摄像机流式传输到移动装置;
图10展示可如何使用传感器图形作为视频定位器(scrubber);
图11展示可如何使用GPS迹线作为视频定位器;
图12展示时间线上所描绘的一组突出显示;
图13展示从图12的时间线选择突出显示的实例性结果;
图14到17展示用于自动产生标签的示范性方法;
图18A到18F展示用户可如何操纵突出显示片段来创建影片;
图19展示其中在用户能够操纵突出显示的同时用户可观看由各种突出显示形成的影片的示范性屏幕;
图20展示其中用户可观看当前选择的突出显示同时还允许用户改变突出显示的开始及结束时间的另一示范性屏幕;
图21到24图解说明允许用户使用及编辑突出显示以创建包括多个突出显示的影片的方法;
图25展示可用于向用户显示各种视频、突出显示及/或经编辑影片(或“故事”)的缩略图栅格的实例;
图26及27图解说明用于通过跨越缩略图图像移动鼠标的光标而预览与缩略图图像相关联的视频图像数据的技术;
图28展示MP4媒体文件的数据结构,在MP4媒体文件中,由视频摄像机所收集的数据存储在视频摄像机的存储器中;且
图29展示可如何使用摄像机及移动计算装置上的视频处理能力的组合来创建高清晰度视频。
具体实施方式
现在将描述本发明的若干优选实施例。优选实施例与其中记录及处理视频图像数据及同时的传感器数据的视频摄像机系统有关。
图4示意性地展示根据本实施例的视频摄像机系统。本实施例的视频摄像机系统包括具有若干内置传感器的视频摄像机,所述内置传感器包含GPS装置、电子罗盘、气压计、3D加速度计及陀螺仪。在各种其它实施例中,视频摄像机可包括更多或更少内置传感器,如本文中所描述。本实施例的视频摄像机还包括WiFi接口及蓝牙接口。本实施例的视频摄像机系统还包括额外传感器,包含可经由蓝牙接口与视频摄像机无线通信的心率监测器及/或节奏监测器。在另一实施例中,视频摄像机系统可包括具有可与视频摄像机无线通信的一或多个传感器的手表(例如智能手表)。视频摄像机还经布置为可无线连接到移动计算装置上运行的应用程序(“app(应用程序)”);所述应用程序可用于控制摄像机的功能,即播放(或预览)视频等。
如图2所图解说明,应用程序可操作为视频摄像机的取景器且允许控制视频摄像机(例如开始、停止进行记录、缩放、其它设定等)。应用程序还可用于来自摄像机的所记录数据的回放、数据的后处理/编辑及用于由所记录数据制成的经编辑影片的创建及共享。因此,在本实施例中,用户可在行走时使用移动计算装置来操作视频摄像机、编辑及共享视频,而不必总是必须连接到桌上型计算机。
在使用中,视频摄像机系统操作以记录视频图像数据、音频数据及来自传感器中的一或多者的同时的传感器数据。所记录数据接着存储在视频摄像机的可拆离存储器装置(“电池棒(Batt-Stick)”)中。
所记录数据由视频摄像机及/或外部移动计算装置或桌上型计算装置处理,以便对数据进行后处理,之后将经后处理数据存储在存储器装置中及/或上传到因特网。
尽管图1中未展示,但在实施例中,多个视频摄像机可连接到单个计算装置。
图6更详细地示意性地展示根据本实施例的用于处理数据的步骤。如上文所论述,视频图像数据、音频数据及同时的传感器数据由视频摄像机记录。所记录视频图像数据“加标签”有一或多个标签。在本实施例中,“加标签”是记录的元数据中的标记的手动或自动放置。标签可用于快速地识别视频图像数据内的感兴趣时刻。一或多个标签可由用户在数据的记录期间(即,在所记录活动期间)通过在适当时间(即,在发生感兴趣的事情时)执行动作而手动添加。如图7所图解说明,此可通过用户按压视频摄像机上的(物理或虚拟)按钮及/或(第二)用户按压移动装置上的按钮而完成。在另一实施例中,一或多个标签可通过(第二)用户按压与视频摄像机无线连接的远程控制件上的按钮而手动添加。
一或多个标签可在已记录数据之后自动添加,即,视频摄像机系统及/或计算装置可放置自动标签,此不需要用户输入。自动标签可“即时”产生(即,在数据的记录期间),但(举例来说)如果需要处理的数据量相对较高,那么自动标签还可在稍后时间产生。
一或多个标签可基于视频图像数据而自动添加。举例来说,在视频图像数据包括一或多张脸(例如,使用脸部辨识技术)的情况下,及/或在视频图像数据指示视频摄像机的镜头在特定时间周期内被覆盖(例如,基于视频图像数据中的光水平)的情况下,标签可针对视频图像数据的部分而产生。
一或多个标签可基于同时的传感器数据而自动添加。举例来说,一或多个标签可在同时的传感器数据包括“极端”值或值的“极端”改变的情况下添加。举例来说,如图8中所展示,在传感器数据指示高度、心率或速度的最大值的情况下,标签可针对视频图像数据的部分而产生。
在传感器数据指示以下各项的情况下:最大速度(例如,基于GPS数据)、最大心率(例如,基于心率传感器数据)、最大节奏(例如,基于节奏传感器数据)、最大加速度(例如,基于加速度计数据)、最大冲击重力(例如,基于加速度计数据)、最大承受重力(例如,基于加速度计数据)、最大气压计读数、最大垂直速度(例如,基于加速度计数据)、最大跳跃时间/空中时间(例如,基于气压计数据)、某一旋转度数(例如360°)(例如,基于加速度计数据)、碰撞或跌倒(例如,基于加速度计数据)、身体活动/移动的开始/停止(例如,基于GPS及/或加速度计数据)、最大音量(例如,基于音频数据)、特定语音或话语(例如,某人的名字)(例如,基于音频数据的分析,例如语音辨识)及/或特定(例如受欢迎)位置(例如,基于GPS数据),标签可针对视频图像数据的部分而产生。
图14到17展示用于自动产生标签或(在此情形中)突出显示(因为标记了时间周期而非仅单个时间点)的示范性方法。图14展示依据传感器数据而确定的变量的示范性数据集,其中已识别峰值且将所述峰值标记为‘突出显示’。图15展示针对个别突出显示如何导出得分。图16图解说明个别突出显示的群集。最后,图17展示将突出显示的所述群集分类并排名,其中使用较高得分的群集来产生标签。
一或多个标签可基于使用由多个其它用户执行的手动加标签的数据分析而导出的准则而产生。可(例如)基于其它用户用来给时刻加标签的传感器数据的组合向用户呈现所建议标签。
一或多个额外标签可在所记录数据的回放期间通过用户按压按钮或做出选择(例如,使用计算装置)而手动添加。因此,用户可手动添加“缺失”标签。
接着使用所述标签对数据进行后处理。
在本实施例中,此涉及将一或多个标签转译为“突出显示”。“突出显示”是从个别标签导出的视频图像数据的片段。举例来说,突出显示可包括视频图像数据的前5秒及视频图像相对于与标签相关联的时间的接下来5秒。当然,其它时间周期将是可能的。突出显示片段接着可用于给用户提供其所做出的记录中的最感兴趣时刻的快速且容易概览。
所给出记录可包括多个突出显示及/或不同类型的突出显示,即,取决于添加到视频图像数据的标签的数目及/或取决于标签的类型(即,取决于致使产生标签的是什么)。
如图9中所图解说明,突出显示片段通过视频摄像机而产生且被无线地流式传输到移动装置。另一选择为,突出显示片段可被传送到桌上型计算机。另一选择为,计算装置在接收到来自视频摄像机的“原始”数据之后本身可产生突出显示片段。
突出显示片段(例如)以供选择的“突出显示墙”的形式在计算装置上呈现给用户。“原始”记录也可显示给用户。
突出显示片段或原始数据接着可由用户进一步编辑。
图10到12图解说明用户可用于定位及编辑所述片段的若干种操作模式。这些模式可帮助用户选择最佳突出显示(例如)以用于共享等。
在“时间线视图”中,如图12中所展示,按时间次序沿着时间线描绘标签以及视频图像数据。所述标签通过表示标签的类型(例如,与其相关的传感器等)的图标而描绘。沿着视频图像数据时间线还展示对应突出显示片段的位置。对标签或时间线中的一者的选择致使视频回放跳过视频图像数据的对应部分。
在“图形视图”中,如图10中所展示,再次按时间次序沿着时间线描绘标签以及视频图像数据。然而,随时间另外或替代地显示来自传感器中的一或多者的数据的表示(即,而非视频图像数据时间线)。对时间线的一部分的选择致使视频回放跳过视频图像数据的对应部分。此接着允许用户基于传感器数据而选择视频图像数据的部分的回放。
在“迹线视图”中,如图11中所展示,显示展示在视频数据的记录期间所收集的位置数据的地图。所述标签在地图上各自显示于其适当位置处。
用户可视需要选择并观看突出显示。必要时,用户可进一步编辑(例如,修剪等)突出显示中的每一者。(举例来说)图13中对此予以展示,在此示范性情形中,图13是依据图12的“时间线视图”而实现。
突出显示片段接着可由用户操纵以创建(例如)包括数个突出显示片段的“影片”。可使用移动装置将一或多个视觉效果、音乐等添加到原始数据文件、突出显示片段及/或经编辑影片。传感器数据的一或多个部分可并入到经后处理视频文件中。在图18A到18F中对此予以展示。特定来说,图18C展示突出显示可经检索并以特定次序自动放置以供在产生(用户最新利用的)“故事”中使用。用户能够使用图18C的屏幕来添加突出显示、删除突出显示及对突出显示进行重新排序。
图19展示示范性屏幕,其中用户可观看由各种突出显示形成的影片,同时用户能够(例如)通过添加突出显示、删除突出显示及对突出显示进行重新排序而操纵突出显示。影片的时间线展示为划分成多个节段,每一节段与不同突出显示有关。时间线上展示指示当前正显示的影片内的位置的图标。时间线的相关节段还与其它节段不同地进行展示,使得用户可易于看到当前正观看哪一突出显示,以及与形成影片的其它突出显示相比所述突出显示的相对长度及其全部影片。
同时,图20展示另一示范性屏幕,其中用户可观看当前所选择突出显示,同时还允许用户改变突出显示的开始及结束时间(例如,以类似于上文关于图13所描述的方式的方式)。图21到24图解说明允许用户使用及编辑突出显示以创建包括多个突出显示的影片的另一方法。特定来说,图21展示影片中的所有突出显示的概览以及任何所添加“效果”,例如静音音频、所添加覆盖图及/或声道。用户可选择(例如,点击)单个突出显示以执行与所述突出显示相关联的特定动作,并通过这样做,对影片做出改变。概览包含相对于水平时间线指示影片中的当前位置的垂直线以及展示构成影片的个别突出显示的一系列缩略图,每一突出显示相对于时间线而展示,使得用户可看到每一突出显示的开始及结束时间。在具有突出显示的所述行下方有额外三行:顶部行包含展示每一突出显示的所记录音频水平的一系列柱状图;中间行包含展示每一突出显示的特定传感器数据(例如,速度、加速度、高程、心率等)的变化的一系列迹线;且底部行包含关于随着突出显示或随着整体移动期望播放的任何声道的信息。当选择突出显示时,例如,如由图22的图像所表示,可相对于其它突出显示删除、重新定位所述突出显示,及/或可调整所述突出显示的开始时间及/或结束时间(例如,如图23中所展示)。由于概览的本质,因此音频及传感器数据的显示会与对突出显示的任何调整同时更新,使得用户可易于看到所述调整是否是合意的。如由图24所展示,针对突出显示而展示的缩略图图像的数目会随突出显示的长度而变化,使得缩略图图像的数目还可被用户用作突出显示的长度的指示符。
图25展示可用于向用户显示存储在(例如)计算装置的存储器、摄像机的存储器或可移除存储器卡中的各种视频、突出显示及/或经编辑影片(或“故事”)的缩略图栅格的实例。每一媒体文件由通常对应于来自相关视频图像数据的预定帧的缩略图图像表示。关于所述文件的额外信息还叠加于缩略图图像上方,例如文件的位置(在此情形中,摄像机图标指示文件位于摄像机的存储器中)、视频图像数据的长度及创建视频图像数据的日期和时间。缩略图图像中的每一者可由用户选择(例如,在使用触摸屏时通过触摸而选择,或通过使用计算机鼠标而选择),以允许相关联视频、突出显示及/或故事被移动到不同存储器、被从存储器删除、被观看等。
图26及27图解说明用于通过跨越缩略图图像移动鼠标的光标而预览与缩略图图像相关联的视频图像数据的技术。如图26中所展示,时间线是跨越缩略图图像而界定,使得缩略图的左侧表示视频图像数据的开始且右侧表示视频图像数据的结束。时间线用于将图像的区划分成一系列垂直片块,其中每一片块由视频图像数据的不同帧表示。因此,随着光标水平移动,缩略图图像的图像基于视频图像数据的对应于光标当前所位于的垂直片块的帧而改变。由于划分区的方式,因此在此实例中,光标的垂直移动对正显示的缩略图图像没有影响。类似地,当不移动光标时,此时缩略图图像保持不变;基于与光标所位于的垂直片块相关联的帧,或者如果光标尚未定位于缩略图图像上方,那么所显示图像是基于在距视频的开始达预定时间处来自视频图像数据的帧。图27展示随着光标跨越缩略图移动将展示的一系列示范性缩略图图像。
存储最终经后处理/经编辑影片。影片可存储在桌上型计算机的存储器中。在“行走时”情景中,影片可传送到摄像机的SD卡并存储在摄像机的SD卡上,所述摄像机的SD卡通常将具有比移动装置多得多的容量。在替代实施例中,编辑指示从移动装置传送到摄像机,所述摄像机接着执行适当变码并将最终影片存储在SD卡上。此减小所需存储器带宽。
经后处理/经编辑数据接着可被呈现给移动装置的用户以供选择。
所述数据可被共享。用户可选择一或多个原始数据文件、突出显示片段、经编辑影片并输出所述文件以供下载到移动装置或下载到外部web服务器、电子邮件等。
图28展示MP4媒体文件的数据结构,在所述MP4媒体文件中,由视频摄像机所收集的数据存储在视频摄像机的存储器中。媒体文件包括标示为媒体文件的索引的元数据部分及有效负载部分。元数据部分至少包括文件类型信息、编解码器信息、对有效负载数据的一或多个描述及用户信息。元数据部分还包括传感器数据及标签。此意指,传感器数据及标签可便于存取及操纵,而不必读取及/或多路分用有效负载数据。举例来说,可将额外标签添加到媒体文件,且通过适当地修改元数据可方便地从媒体文件删除标签。元数据还包括指示所述媒体文件在相关媒体文件序列中的位置的信息。此在所收集数据将不放进视频摄像机的内部缓冲区时可是有用的,使得需要跨越媒体文件序列而记录数据。所述信息可在回放数据时用于识别媒体文件序列,使得媒体文件序列可按次序自动回放,而不需要用户必须手动选择构成所述序列的所有媒体文件。有效负载部分包括经多路复用视频图像轨道、音频轨道及字幕轨道。视频图像数据存储在视频图像轨道中,音频数据存储在音频轨道中,且视频图像数据的低分辨率版本存储在字幕轨道中。在本文中所描述的其中视频数据传送到移动装置的实施例中,传送视频图像数据的低分辨率版本而非原始版本。此可节省存储器带宽及功率,且在移动计算装置无法显示数据的全分辨率版本的情况下,是合意的。
图29展示可如何使用摄像机及移动计算装置上的视频处理能力的组合来创建高清晰度视频。特定来说,对突出显示的选择可从移动计算装置接收,且摄像机将突出显示将任何分辨率变码为普通分辨率,例如1080p或720p。这些突出显示视频(基于高清晰度视频数据,而非字幕轨道中的低清晰度视频数据)接着被发射到移动计算装置,其中视频被拼结在一起且任选地添加有音频及/或覆盖有传感器数据。

Claims (22)

1.一种识别在时间周期期间由数字视频摄像机所收集的视频图像数据中的一或多个感兴趣时间的方法,所述数字视频摄像机具有与其相关联的多个传感器装置,所述方法包括:
识别从所述多个传感器装置获得的多个数据集中的每一者中的极值,每一数据集包括在所述时间周期期间的多个时间的多个数据值;
针对所述所识别极值中的每一者而确定极值的时间是否在所述极值中的另一者的时间的预定时间内;
基于所述确定而产生多个群集,每一群集包括多个极值,其中所述群集中的每一极值的时间在所述群集中的另一极值的时间的预定时间内;
使用所述群集中的至少一者来创建识别所述视频图像数据中的一或多个感兴趣时间的突出显示数据,所述突出显示数据包括具有一时窗的至少一个突出显示,所述时窗是基于用于创建所述突出显示的所述群集中的所述极值的所述时间中的最早时间及最晚时间;及
与包括所述视频图像数据的数字媒体文件相关联地存储所述突出显示数据。
2.一种用于识别在时间周期期间由数字视频摄像机所收集的视频图像数据中的一或多个感兴趣时间的系统,所述数字视频摄像机具有与其相关联的多个传感器装置,所述系统包括:
用于识别从所述多个传感器装置获得的多个数据集中的每一者中的极值的构件,每一数据集包括在所述时间周期期间的多个时间的多个数据值;
用于针对所述所识别极值中的每一者而确定极值的时间是否在所述极值中的另一者的时间的预定时间内的构件;
用于基于所述确定而产生多个群集的构件,每一群集包括多个极值,其中所述群集中的每一极值的时间在所述群集中的另一极值的时间的预定时间内;
用于使用所述群集中的至少一者来创建识别所述视频图像数据中的一或多个感兴趣时间的突出显示数据的构件,所述突出显示数据包括具有一时窗的至少一个突出显示,所述时窗是基于用于创建所述突出显示的所述群集中的所述极值的所述时间中的最早时间及最晚时间;及
用于与包括所述视频图像数据的数字媒体文件相关联地存储所述突出显示数据的构件。
3.一种识别在时间周期期间由数字视频摄像机所收集的视频图像数据中的一或多个感兴趣时间的方法,所述数字视频摄像机具有与其相关联的位置确定装置,所述方法包括:
存取包括所述视频图像数据及第一位置数据的数字媒体文件,所述第一位置数据表示所述数字视频摄像机的位置在所述时间周期期间的改变;
将所述第一位置数据发射到服务器;
从所述服务器接收第二位置数据,所述第二位置数据识别所述第一位置数据中的一或多个感兴趣位置;及
将突出显示数据添加到所述数字媒体文件,所述突出显示数据识别所述视频图像数据中与所述第二位置数据中的所述一或多个感兴趣位置中的至少一些感兴趣位置对应的一或多个感兴趣时间。
4.一种用于识别在时间周期期间由数字视频摄像机所收集的视频图像数据中的一或多个感兴趣时间的系统,所述数字视频摄像机具有与其相关联的位置确定装置,所述系统包括:
用于存取包括所述视频图像数据及第一位置数据的数字媒体文件的构件,所述第一位置数据表示所述数字视频摄像机的位置在所述时间周期期间的改变;
用于将所述第一位置数据发射到服务器的构件;
用于从所述服务器接收第二位置数据的构件,所述第二位置数据识别所述第一位置数据中的一或多个感兴趣位置;及
用于将突出显示数据添加到所述数字媒体文件的构件,所述突出显示数据识别所述视频图像数据中与所述第二位置数据中的所述一或多个感兴趣位置中的至少一些感兴趣位置对应的一或多个感兴趣时间。
5.一种创建第一媒体文件的方法,其包括:
存取一或多个第二媒体文件,每一第二媒体文件包括视频图像数据及识别所述视频图像数据中的一或多个感兴趣时间的突出显示数据,所述突出显示数据包括各自具有关于所述视频图像数据的开始时间及结束时间的一或多个突出显示;
从所述一或多个第二媒体文件选择多个突出显示;
将所述所选择突出显示放置成有序序列;
获得针对所述有序序列中的每一突出显示的第三媒体文件,每一第三媒体文件包括基于所述相关联突出显示的开始时间及结束时间从第二媒体文件获得的视频图像数据;及
根据所述有序序列从所述多个第三媒体文件创建所述第一媒体文件。
6.一种从一或多个第二数字媒体文件创建多个第一数字媒体文件的方法,每一第二数字媒体文件包括视频图像数据及识别所述视频图像数据中的一或多个感兴趣时间的突出显示数据,所述突出显示数据包括各自具有关于所述视频图像数据的开始时间及结束时间的一或多个突出显示,所述方法包括:
从计算装置接收对多个突出显示的选择;
针对所述所选择突出显示中的每一者识别包括与所述突出显示对应的所述视频图像数据的所述一或多个第二数字媒体文件;
基于所述所选择突出显示中的所述每一者的开始时间及结束时间而至少对来自所述所识别一或多个第二数字媒体文件中的每一者的所述视频图像数据进行变码以创建所述多个第一数字媒体文件,其中所述变码经执行使得所述多个第一数字媒体文件具有相同特性;及
将所述多个第一数字媒体文件发射到所述计算装置。
7.一种用于创建第一数字媒体文件的系统,其包括:
用于存取一或多个第二数字媒体文件的构件,每一第二数字媒体文件包括视频图像数据及识别所述视频图像数据中的一或多个感兴趣时间的突出显示数据,所述突出显示数据包括各自具有关于所述视频图像数据的开始时间及结束时间的一或多个突出显示;
用于从所述一或多个第二数字媒体文件选择多个突出显示的构件;
用于将所述所选择突出显示放置成有序序列的构件;
用于获得针对所述有序序列中的每一突出显示的第三数字媒体文件的构件,每一第三数字媒体文件包括基于所述相关联突出显示的开始时间及结束时间从第二数字媒体文件获得的视频图像数据;及
用于根据所述有序序列从所述多个第三数字媒体文件创建所述第一数字媒体文件的构件。
8.一种用于从一或多个第二数字媒体文件创建多个第一数字媒体文件的系统,每一第二数字媒体文件包括视频图像数据及识别所述视频图像数据中的一或多个感兴趣时间的突出显示数据,所述突出显示数据包括各自具有关于所述视频图像数据的开始时间及结束时间的一或多个突出显示,所述系统包括:
用于从计算装置接收对多个突出显示的选择的构件;
用于针对所述所选择突出显示中的每一者识别包括与所述突出显示对应的所述视频图像数据的所述一或多个第二数字媒体文件的构件;
用于基于所述所选择突出显示中的所述每一者的开始时间及结束时间而至少对来自所述所识别一或多个第二数字媒体文件中的每一者的所述视频图像数据进行变码以创建所述多个第一数字媒体文件的构件,其中所述变码经执行使得所述多个第一数字媒体文件具有相同特性;及
用于将所述多个第一数字媒体文件发射到所述计算装置的构件。
9.一种存储由具有图像传感器及视频处理装置的数字视频摄像机所收集的数据的方法,所述方法包括:
接收用以致使所述摄像机开始进行记录的第一输入;
基于接收到所述第一输入而打开存储器上的数字媒体容器;
使用所述视频处理装置的第一编码器来使用帧间压缩技术依据从所述图像传感器所接收的数据而产生第一经编码视频流;
使用所述视频处理装置的第二编码器来使用帧内压缩技术依据从所述图像传感器所接收的所述数据而产生第二经编码视频流;
将所述第一经编码视频流及所述第二经编码视频流写入到所述数字媒体容器的有效负载部分;
接收用以致使所述摄像机停止进行记录的第二输入;及
基于接收到所述第二输入而关闭所述数字媒体容器以创建存储在所述存储器中的数字媒体文件。
10.根据权利要求9所述的方法,其中将所述第一经编码流写入到所述容器的所述有效负载部分的视频轨道,且其中将数据添加到所述容器的元数据部分,使得所述第一经编码视频流被识别为所述数字媒体文件中的视频图像数据。
11.根据权利要求9或10所述的方法,其中将所述第二经编码流写入到所述容器的所述有效负载部分的文本轨道,例如字幕轨道,使得所述第二经编码视频流不被识别为所述数字媒体文件中的视频图像数据。
12.一种存储由具有图像传感器及视频处理装置的数字视频摄像机所收集的数据的方法,所述方法包括:
接收用以致使所述摄像机开始进行记录的第一输入;
基于接收到所述第一输入而打开存储器上的数字媒体容器,所述数字媒体容器至少包括视频轨道及文本轨道;
使用所述视频处理装置依据从所述图像传感器所接收的数据而产生第一经编码视频流及第二经编码视频流;
将所述第一经编码视频流写入到所述数字媒体容器的所述视频轨道且将所述第二经编码视频流写入到所述数字媒体容器的所述文本轨道;
接收用以致使所述摄像机停止进行记录的第二输入;及
基于接收到所述第二输入而关闭所述数字媒体容器以创建存储在所述存储器中的数字媒体文件。
13.一种用于存储由具有图像传感器及视频处理装置的数字视频摄像机所收集的数据的系统,所述系统包括:
用于接收用以致使所述摄像机开始进行记录的第一输入的构件;
用于基于接收到所述第一输入而打开存储器上的数字媒体容器的构件;
用于使用所述视频处理装置的第一编码器来使用帧间压缩技术依据从所述图像传感器所接收的数据而产生第一经编码视频流的构件;
用于使用所述视频处理装置的第二编码器来使用帧内压缩技术依据从所述图像传感器所接收的所述数据而产生第二经编码视频流的构件;
用于将所述第一经编码视频流及所述第二经编码视频流写入到所述数字媒体容器的有效负载部分的构件;
用于接收用以致使所述摄像机停止进行记录的第二输入的构件;及
用于基于接收到所述第二输入而关闭所述数字媒体容器以创建存储在所述存储器中的数字媒体文件的构件。
14.一种用于存储由具有图像传感器及视频处理装置的数字视频摄像机所收集的数据的系统,所述系统包括:
用于接收用以致使所述摄像机开始进行记录的第一输入的构件;
用于基于接收到所述第一输入而打开存储器上的数字媒体容器的构件,所述数字媒体容器至少包括视频轨道及文本轨道;
用于使用所述视频处理装置依据从所述图像传感器所接收的数据而产生第一经编码视频流及第二经编码视频流的构件;
用于将所述第一经编码视频流写入到所述数字媒体容器的所述视频轨道且将所述第二经编码视频流写入到所述数字媒体容器的所述文本轨道的构件;
用于接收用以致使所述摄像机停止进行记录的第二输入的构件;及
用于基于接收到所述第二输入而关闭所述数字媒体容器以创建存储在所述存储器中的数字媒体文件的构件。
15.一种使用计算装置来查看在时间周期期间由数字视频摄像机所收集的视频图像数据的方法,所述数字视频摄像机具有与其相关联的一或多个传感器装置,所述方法包括:
存取包括所述视频图像数据及传感器数据的数字媒体文件,所述传感器数据是基于在所述时间周期期间从所述一或多个传感器装置所接收的数据;
在所述计算装置的显示装置上的第一显示窗口中显示所述视频图像数据;及
同时在所述显示装置上的第二显示窗口中显示时间线以及相对于所述时间线具有用以展示所述第一显示窗口中当前正显示的所述视频图像数据的位置的图标,且其中所述时间线包括所述传感器数据的表示;
在所述计算装置的输入装置上从用户接收用以改变所述图标相对于所述时间线的所述位置的输入;及
改变所述第一显示窗口中正显示的所述视频图像数据以对应于所述图标相对于所述时间线的所述经改变位置。
16.一种使用计算装置来查看由数字视频摄像机所收集的视频图像数据的方法,所述方法包括:
存取包括所述视频图像数据及突出显示数据的数字媒体文件,所述突出显示数据识别所述视频图像数据中的一或多个感兴趣时间,所述突出显示数据包括具有关于所述视频图像数据的一起界定时窗的开始时间及结束时间的至少一个突出显示;
在所述计算装置的显示装置上的第一显示窗口中显示所述视频图像数据;
同时在所述显示装置上的第二显示窗口中显示时间线以及一或多个可选择标记,每一可选择标记与突出显示相关联且相对于所述时间线具有与所述突出显示的所述时窗内的时间对应的位置;
在所述计算装置的输入装置上从用户接收对标记的选择;及
将所述第一显示窗口中正显示的所述视频图像数据改变成对应于在基于所述突出显示的所述时窗的与所述所选择标记相关联的时间的所述视频图像数据。
17.一种用于使用计算装置来查看在时间周期期间由数字视频摄像机所收集的视频图像数据的系统,所述数字视频摄像机具有与其相关联的一或多个传感器装置,所述系统包括:
用于存取包括所述视频图像数据及传感器数据的数字媒体文件的构件,所述传感器数据是基于在所述时间周期期间从所述一或多个传感器装置所接收的数据;
用于在所述计算装置的显示装置上的第一显示窗口中显示所述视频图像数据的构件;及
用于同时在所述显示装置上的第二显示窗口中显示时间线以及相对于所述时间线具有用以展示所述第一显示窗口中当前正显示的所述视频图像数据的位置的图标的构件,且其中所述时间线包括所述传感器数据的表示;
用于在所述计算装置的输入装置上从用户接收用以改变所述图标相对于所述时间线的所述位置的输入的构件;及
用于改变所述第一显示窗口中正显示的所述视频图像数据以对应于所述图标相对于所述时间线的所述经改变位置的构件。
18.一种用于使用计算装置来查看由数字视频摄像机所收集的视频图像数据的系统,所述系统包括:
用于存取包括所述视频图像数据及突出显示数据的数字媒体文件的构件,所述突出显示数据识别所述视频图像数据中的一或多个感兴趣时间,所述突出显示数据包括具有关于所述视频图像数据的一起界定时窗的开始时间及结束时间的至少一个突出显示;
用于在所述计算装置的显示装置上的第一显示窗口中显示所述视频图像数据的构件;
用于同时在所述显示装置上的第二显示窗口中显示时间线以及一或多个可选择标记的构件,每一可选择标记与突出显示相关联且相对于所述时间线具有与所述突出显示的所述时窗内的时间对应的位置;
用于在所述计算装置的输入装置上从用户接收对标记的选择的构件;及
用于将所述第一显示窗口中正显示的所述视频图像数据改变成对应于在基于所述突出显示的所述时窗的与所述所选择标记相关联的时间的所述视频图像数据的构件。
19.一种将数据从数字视频摄像机发射到远程计算装置的方法,所述视频摄像机具有:第一无线通信装置,其能够使用第一通信协议与远程计算装置进行通信;及第二无线通信装置,其能够使用第二通信协议与所述远程计算装置进行通信,所述方法包括:
在所述第一无线通信装置处从所述计算装置接收来自所述计算装置的用以激活所述第二无线通信装置的第一命令;
基于接收到所述第一命令而激活所述第二无线通信装置并使用所述第二无线通信装置在所述摄像机与所述计算装置之间建立连接;
在所述第二无线通信装置处经由所述所建立连接从所述计算装置接收对以下各项中的至少一者的请求:从所述摄像机的图像传感器所接收的视频图像数据;及来自存储在所述视频摄像机的存储器中的一或多个媒体文件的数据;
使用所述第二无线通信装置经由所述所建立连接将所述所请求数据从所述视频摄像机传送到所述计算装置;
在所述第一无线通信装置处从所述计算装置接收来自所述计算装置的用以撤销激活所述第二无线通信装置的第二命令;及
基于接收到所述第二命令而撤销激活所述第二无线通信装置。
20.一种用于将数据从数字视频摄像机发射到远程计算装置的系统,所述视频摄像机具有:第一无线通信装置,其能够使用第一通信协议与远程计算装置进行通信;及第二无线通信装置,其能够使用第二通信协议与所述远程计算装置进行通信,所述系统包括:
用于在所述第一无线通信装置处从所述计算装置接收来自所述计算装置的用以激活所述第二无线通信装置的第一命令的构件;
用于基于接收到所述第一命令而激活所述第二无线通信装置并使用所述第二无线通信装置在所述摄像机与所述计算装置之间建立连接的构件;
用于在所述第二无线通信装置处经由所述所建立连接从所述计算装置接收对以下各项中的至少一者的请求的构件:从所述摄像机的图像传感器所接收的视频图像数据;及来自存储在所述视频摄像机的存储器中的一或多个媒体文件的数据;
用于使用所述第二无线通信装置经由所述所建立连接将所述所请求数据从所述视频摄像机传送到所述计算装置的构件;
用于在所述第一无线通信装置处从所述计算装置接收来自所述计算装置的用以撤销激活所述第二无线通信装置的第二命令的构件;及
用于基于接收到所述第二命令而撤销激活所述第二无线通信装置的构件。
21.一种使用计算装置来预览视频图像数据的方法,所述方法包括:
存取包括所述视频图像数据的数字媒体文件;
在所述计算装置的显示装置上的显示窗口中显示表示所述数字媒体文件的缩略图图像;
界定从所述缩略图图像的边界上的第一位置延伸到所述缩略图图像的所述边界上的第二位置的时间线,使得所述第一位置表示所述视频图像数据的开始时间,且所述第二位置表示所述视频图像数据的结束时间,且使用所述时间线将由所述边界界定的第一区的至少一部分划分成多个第二区,使得所述第二区中的每一者表示所述开始时间与所述结束时间之间的不同时间周期;
基于与指向装置的指针所位于的所述第二区相关联的时间周期而从所述视频图像数据选择帧;及
使用所述所选择帧来产生供在所述显示窗口中显示的新缩略图图像,使得所述指针从一个第二区到另一第二区的移动致使所述所显示缩略图图像发生改变。
22.一种用于使用计算装置来预览视频图像数据的系统,所述系统包括:
用于存取包括所述视频图像数据的数字媒体文件的构件;
用于在所述计算装置的显示装置上的显示窗口中显示表示所述数字媒体文件的缩略图图像的构件;
用于进行以下操作的构件:界定从所述缩略图图像的边界上的第一位置延伸到所述缩略图图像的所述边界上的第二位置的时间线,使得所述第一位置表示所述视频图像数据的开始时间,且所述第二位置表示所述视频图像数据的结束时间,且使用所述时间线将由所述边界界定的第一区的至少一部分划分成多个第二区,使得所述第二区中的每一者表示所述开始时间与所述结束时间之间的不同时间周期;
用于基于与指向装置的指针所位于的所述第二区相关联的时间周期而从所述视频图像数据选择帧的构件;及
用于使用所述所选择帧来产生供在所述显示窗口中显示的新缩略图图像使得所述指针从一个第二区到另一第二区的移动致使所述所显示缩略图图像发生改变的构件。
CN202011228802.XA 2015-04-29 2016-04-29 数据处理系统 Active CN112216309B (zh)

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
US201562154697P 2015-04-29 2015-04-29
US62/154,697 2015-04-29
US201662279638P 2016-01-15 2016-01-15
US62/279,638 2016-01-15
CN201680035302.XA CN107810531B (zh) 2015-04-29 2016-04-29 数据处理系统
PCT/IB2016/000715 WO2016174524A2 (en) 2015-04-29 2016-04-29 Data processing systems

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
CN201680035302.XA Division CN107810531B (zh) 2015-04-29 2016-04-29 数据处理系统

Publications (2)

Publication Number Publication Date
CN112216309A true CN112216309A (zh) 2021-01-12
CN112216309B CN112216309B (zh) 2022-03-15

Family

ID=56411821

Family Applications (3)

Application Number Title Priority Date Filing Date
CN201680035302.XA Active CN107810531B (zh) 2015-04-29 2016-04-29 数据处理系统
CN202210235956.4A Pending CN114613395A (zh) 2015-04-29 2016-04-29 数据处理系统
CN202011228802.XA Active CN112216309B (zh) 2015-04-29 2016-04-29 数据处理系统

Family Applications Before (2)

Application Number Title Priority Date Filing Date
CN201680035302.XA Active CN107810531B (zh) 2015-04-29 2016-04-29 数据处理系统
CN202210235956.4A Pending CN114613395A (zh) 2015-04-29 2016-04-29 数据处理系统

Country Status (4)

Country Link
US (1) US10643665B2 (zh)
EP (2) EP4027342A1 (zh)
CN (3) CN107810531B (zh)
WO (1) WO2016174524A2 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113220935A (zh) * 2021-05-28 2021-08-06 杭州海康威视系统技术有限公司 录像数据的存储、查询方法及装置
CN117177066A (zh) * 2022-05-30 2023-12-05 荣耀终端有限公司 一种拍摄方法及相关设备

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW201710646A (zh) * 2015-09-02 2017-03-16 湯姆生特許公司 描繪大視場內容一部份時,決定導航資訊之方法和裝置,以及大視場內容描繪器
WO2018006399A1 (en) 2016-07-08 2018-01-11 SZ DJI Technology Co., Ltd. Method and system for combining and editing uav operation data and video data
KR20180018017A (ko) * 2016-08-12 2018-02-21 엘지전자 주식회사 이동 단말기 및 그의 동작 방법
US10193940B2 (en) * 2017-02-07 2019-01-29 Microsoft Technology Licensing, Llc Adding recorded content to an interactive timeline of a teleconference session
US10743073B1 (en) * 2017-06-06 2020-08-11 Gopro, Inc. Systems and methods for streaming video edits
US11049219B2 (en) 2017-06-06 2021-06-29 Gopro, Inc. Methods and apparatus for multi-encoder processing of high resolution content
CN107484019A (zh) * 2017-08-03 2017-12-15 乐蜜有限公司 一种视频文件的发布方法及装置
CN110809797B (zh) 2017-10-03 2022-11-15 谷歌有限责任公司 微视频系统、格式和生成方法
US10579265B2 (en) * 2017-10-18 2020-03-03 Adobe Inc. Cloud-synchronized local storage management
CA3124259A1 (en) * 2018-12-18 2020-06-25 Qaqaq Inc. Asynchronous short video communication platform based on animated still images and audio
US10936178B2 (en) * 2019-01-07 2021-03-02 MemoryWeb, LLC Systems and methods for analyzing and organizing digital photos and videos
US11245909B2 (en) * 2019-04-29 2022-02-08 Baidu Usa Llc Timestamp and metadata processing for video compression in autonomous driving vehicles
US11228781B2 (en) 2019-06-26 2022-01-18 Gopro, Inc. Methods and apparatus for maximizing codec bandwidth in video applications
US11481863B2 (en) 2019-10-23 2022-10-25 Gopro, Inc. Methods and apparatus for hardware accelerated image processing for spherical projections
CN112839253A (zh) * 2019-11-25 2021-05-25 英业达科技有限公司 动态信息显示系统及其方法
US11396299B2 (en) * 2020-04-24 2022-07-26 Dr. Ing. H.C. F. Porsche Aktiengesellschaft Video processing for vehicle ride incorporating biometric data
US11388338B2 (en) 2020-04-24 2022-07-12 Dr. Ing. H.C. F. Porsche Aktiengesellschaft Video processing for vehicle ride
JP7305689B2 (ja) 2021-03-10 2023-07-10 キヤノン株式会社 画像処理装置、画像処理方法、撮像装置、プログラムおよび記録媒体

Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0261917A2 (en) * 1986-09-20 1988-03-30 Sony Corporation Detecting changes in video data
US20060087936A1 (en) * 2004-10-21 2006-04-27 Gary Bart Data capture device and method of storing data
US20060182180A1 (en) * 2005-02-04 2006-08-17 Shinsuke Araya Encoding apparatus and method, decoding apparatus and method, recording medium, image processing system, and image processing method
CN101150664A (zh) * 2006-09-22 2008-03-26 亚洲光学股份有限公司 信号补正系统及方法
CN101421747A (zh) * 2006-02-13 2009-04-29 索尼株式会社 组合多个视频流的系统和方法
CN101438308A (zh) * 2006-01-06 2009-05-20 高通股份有限公司 内容选择性收集和选择性呈现的装置和方法
US20100111489A1 (en) * 2007-04-13 2010-05-06 Presler Ari M Digital Camera System for Recording, Editing and Visualizing Images
CN101849404A (zh) * 2007-07-27 2010-09-29 拉加维林有限公司 便携式发送器的设备、方法、系统和用户界面
WO2013001537A1 (en) * 2011-06-30 2013-01-03 Human Monitoring Ltd. Methods and systems of editing and decoding a video file
CN103134595A (zh) * 2011-12-05 2013-06-05 株式会社腾龙 红外线照相机
US20130330054A1 (en) * 2012-06-11 2013-12-12 Alpinereplay, Inc. Automatic digital curation and tagging of action videos
CN103475691A (zh) * 2013-07-03 2013-12-25 广东迅通科技股份有限公司 一种视频分布式缓存中转系统
WO2013191727A1 (en) * 2012-06-22 2013-12-27 Alpine Replay, Inc. Method and apparatus for determining sportsman jumps using fuzzy logic
US20140147089A1 (en) * 2012-11-29 2014-05-29 Seiko Epson Corporation Document camera, video and audio output system, and video and audio output method
US20140240231A1 (en) * 2009-04-02 2014-08-28 Oblong Industries, Inc. Processing tracking and recognition data in gestural recognition systems
US20150021444A1 (en) * 2013-07-22 2015-01-22 Progress Rail Services Corporation Integrated time-stamped event recorder

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1056609A (ja) * 1996-04-15 1998-02-24 Canon Inc 画像記録方法、通信方法、画像記録装置、通信装置及び媒体
US20040047615A1 (en) * 2000-09-18 2004-03-11 Masanori Itoh Image recording/reproducing device and method,disk, and image reproducing device
US6904160B2 (en) * 2000-10-18 2005-06-07 Red Hen Systems, Inc. Method for matching geographic information with recorded images
US8515336B2 (en) * 2006-01-06 2013-08-20 Qualcomm Incorporated Apparatus and methods of selective collection and selective presentation of content
US20070203927A1 (en) * 2006-02-24 2007-08-30 Intervoice Limited Partnership System and method for defining and inserting metadata attributes in files
US7957934B2 (en) * 2007-05-15 2011-06-07 Dynatrace Software Gmbh Method and system for processing application performance data ouside of monitored applications to limit overhead caused by monitoring
US20100031162A1 (en) * 2007-04-13 2010-02-04 Wiser Philip R Viewer interface for a content delivery system
JP5096863B2 (ja) * 2007-10-09 2012-12-12 オリンパスイメージング株式会社 検索装置
DE102009050187A1 (de) 2009-10-21 2011-04-28 Gobandit Gmbh GPS/Video-Datenkommunikationssystem, Datenkommunikationsverfahren, sowie Vorrichtung zur Verwendung in einem GPS/Video-Datenkommunikationssystem
US9501495B2 (en) * 2010-04-22 2016-11-22 Apple Inc. Location metadata in a media file
US8432965B2 (en) * 2010-05-25 2013-04-30 Intellectual Ventures Fund 83 Llc Efficient method for assembling key video snippets to form a video summary
US9076041B2 (en) * 2010-08-26 2015-07-07 Blast Motion Inc. Motion event recognition and video synchronization system and method
US8665345B2 (en) * 2011-05-18 2014-03-04 Intellectual Ventures Fund 83 Llc Video summary including a feature of interest
EP2570771B1 (en) 2011-09-13 2017-05-17 TomTom Global Content B.V. Route smoothing
JP5917123B2 (ja) * 2011-12-14 2016-05-11 キヤノン株式会社 記録装置
US8995823B2 (en) * 2012-07-17 2015-03-31 HighlightCam, Inc. Method and system for content relevance score determination
US8989503B2 (en) * 2012-08-03 2015-03-24 Kodak Alaris Inc. Identifying scene boundaries using group sparsity analysis
US9113125B2 (en) * 2012-09-12 2015-08-18 Intel Corporation Techniques for indexing video files
US9330431B2 (en) * 2012-12-19 2016-05-03 Jeffrey Huang System and method for synchronizing, merging, and utilizing multiple data sets for augmented reality application
RU2017145873A (ru) * 2013-03-15 2019-02-20 Эбботт Дайабитиз Кэр Инк. Способы и системы обработки и передачи данных медицинского устройства
US9792951B2 (en) * 2013-05-08 2017-10-17 Vieu Labs, Inc. Systems and methods for identifying potentially interesting events in extended recordings
US9159371B2 (en) 2013-08-14 2015-10-13 Digital Ally, Inc. Forensic video recording with presence detection
US9553873B2 (en) * 2013-09-05 2017-01-24 Nike, Inc. Conducting sessions with captured image data of physical activity and uploading using token-verifiable proxy uploader
CN105813698B (zh) * 2013-10-14 2018-02-09 耐克创新有限合伙公司 用于合并来自多个装置的能量消耗计算的健身训练系统
KR102244248B1 (ko) * 2014-04-01 2021-04-26 삼성전자주식회사 컨텐츠 운용 방법 및 이를 지원하는 전자 장치
EP3136943A4 (en) * 2014-05-01 2017-12-27 EndoChoice, Inc. System and method of scanning a body cavity using a multiple viewing elements endoscope

Patent Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0261917A2 (en) * 1986-09-20 1988-03-30 Sony Corporation Detecting changes in video data
US20060087936A1 (en) * 2004-10-21 2006-04-27 Gary Bart Data capture device and method of storing data
US20060182180A1 (en) * 2005-02-04 2006-08-17 Shinsuke Araya Encoding apparatus and method, decoding apparatus and method, recording medium, image processing system, and image processing method
CN101438308A (zh) * 2006-01-06 2009-05-20 高通股份有限公司 内容选择性收集和选择性呈现的装置和方法
CN101421747A (zh) * 2006-02-13 2009-04-29 索尼株式会社 组合多个视频流的系统和方法
CN101150664A (zh) * 2006-09-22 2008-03-26 亚洲光学股份有限公司 信号补正系统及方法
US20100111489A1 (en) * 2007-04-13 2010-05-06 Presler Ari M Digital Camera System for Recording, Editing and Visualizing Images
CN101849404A (zh) * 2007-07-27 2010-09-29 拉加维林有限公司 便携式发送器的设备、方法、系统和用户界面
US20140240231A1 (en) * 2009-04-02 2014-08-28 Oblong Industries, Inc. Processing tracking and recognition data in gestural recognition systems
WO2013001537A1 (en) * 2011-06-30 2013-01-03 Human Monitoring Ltd. Methods and systems of editing and decoding a video file
CN103134595A (zh) * 2011-12-05 2013-06-05 株式会社腾龙 红外线照相机
US20130330054A1 (en) * 2012-06-11 2013-12-12 Alpinereplay, Inc. Automatic digital curation and tagging of action videos
WO2013191727A1 (en) * 2012-06-22 2013-12-27 Alpine Replay, Inc. Method and apparatus for determining sportsman jumps using fuzzy logic
US20140147089A1 (en) * 2012-11-29 2014-05-29 Seiko Epson Corporation Document camera, video and audio output system, and video and audio output method
CN103475691A (zh) * 2013-07-03 2013-12-25 广东迅通科技股份有限公司 一种视频分布式缓存中转系统
US20150021444A1 (en) * 2013-07-22 2015-01-22 Progress Rail Services Corporation Integrated time-stamped event recorder

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
连宝超等: "基于最稳定极值区域方法的目标检测与跟踪", 《电视技术》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113220935A (zh) * 2021-05-28 2021-08-06 杭州海康威视系统技术有限公司 录像数据的存储、查询方法及装置
CN117177066A (zh) * 2022-05-30 2023-12-05 荣耀终端有限公司 一种拍摄方法及相关设备

Also Published As

Publication number Publication date
EP4027342A1 (en) 2022-07-13
US20180190323A1 (en) 2018-07-05
CN107810531A (zh) 2018-03-16
WO2016174524A2 (en) 2016-11-03
CN107810531B (zh) 2020-11-27
US10643665B2 (en) 2020-05-05
CN112216309B (zh) 2022-03-15
EP3289587A2 (en) 2018-03-07
CN114613395A (zh) 2022-06-10
WO2016174524A3 (en) 2017-01-05

Similar Documents

Publication Publication Date Title
CN112216309B (zh) 数据处理系统
US20200066305A1 (en) Creating a Digital Media File with Highlights of Multiple Media Files Relating to a Same Period of Time
US11720243B2 (en) Method for generating and reproducing multimedia content, electronic device for performing same, and recording medium in which program for executing same is recorded
US9779775B2 (en) Automatic generation of compilation videos from an original video based on metadata associated with the original video
US20160364102A1 (en) Method and apparatus for using gestures during video capture
US10424102B2 (en) Digital media editing
TWI579838B (zh) 編譯視訊的自動產生
US9679607B2 (en) Storage and editing of video and sensor data from athletic performances of multiple individuals in a venue
US20180132006A1 (en) Highlight-based movie navigation, editing and sharing
KR20160120722A (ko) 비디오 메타데이터
US10645468B1 (en) Systems and methods for providing video segments
EP2816564B1 (en) Method and apparatus for smart video rendering
US20150324395A1 (en) Image organization by date
WO2016200692A1 (en) Editing, sharing, and viewing video
WO2015127385A1 (en) Automatic generation of compilation videos

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant