CN109716753B - 使用虚拟传感器的图像捕捉方法和系统 - Google Patents
使用虚拟传感器的图像捕捉方法和系统 Download PDFInfo
- Publication number
- CN109716753B CN109716753B CN201780045156.3A CN201780045156A CN109716753B CN 109716753 B CN109716753 B CN 109716753B CN 201780045156 A CN201780045156 A CN 201780045156A CN 109716753 B CN109716753 B CN 109716753B
- Authority
- CN
- China
- Prior art keywords
- image
- acquisition device
- captured
- acquisition
- route
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 37
- 238000012545 processing Methods 0.000 claims description 34
- 230000003287 optical effect Effects 0.000 claims description 9
- 230000015654 memory Effects 0.000 description 14
- 230000033001 locomotion Effects 0.000 description 11
- 230000000386 athletic effect Effects 0.000 description 7
- 238000004422 calculation algorithm Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 238000004590 computer program Methods 0.000 description 5
- 238000009432 framing Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 230000008901 benefit Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 238000013515 script Methods 0.000 description 3
- 230000007704 transition Effects 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/282—Image signal generators for generating image signals corresponding to three or more geometrical viewpoints, e.g. multi-view systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/268—Signal distribution or switching
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
- Navigation (AREA)
Abstract
本发明涉及一种在图像捕捉系统中实施的图像捕捉方法,该图像捕捉方法使用虚拟传感器来跟踪在场景中的预定路线上以高速移动的运动员或运动团队,其中该图像捕捉系统包括多个宽视场图像采集设备,每个图像采集设备均位于沿着该路线的不同固定位置处,使得在给定时刻由两个不同的采集设备捕捉到的图像表示在该路线上行进的运动员或运动团队(105)的不同视点。该方法包括以下步骤:通过多个采集设备中的每个采集设备实时捕捉(410)表示与预定路线基本相等的空间中的区域的图像;针对多个连续时刻中的每个时刻,选择(420、430)给定采集设备以及由此在所述时刻捕捉到的图像的部分;以及基于所选择的图像部分,重构(445)与已由沿着所述路线移动的采集设备捕捉到的视频序列相类似的视频序列。
Description
技术领域
本发明涉及图像捕捉系统,该图像捕捉系统可例如配备用于高速运动的回路或路线。
本发明具体地涉及一种使用虚拟传感器跟踪在预定路线上高速移动的运动员或运动器材的图像捕捉方法以及图像捕捉系统,所述方法使得能够产生视频序列。
背景技术
图像捕捉发生在许多应用中,因此有必要满足日益增加的特定约束。
应用的一个示例是通常在高速运动环境中以非常高的速度移动的对象(或主体)的视频捕捉,例如运动员(例如,滑雪者)或诸如球或赛车车辆的运动器材。这种车辆可以以大约300千米/小时的速度行驶。
例如用于电视或电影的这种主体的视频捕捉通常使用携带视频采集设备并以类似速度移动的另一车辆(例如,无人机)来执行,以便跟踪运动员或车辆(“跟踪拍摄”)。
然而,考虑到所涉及的运动的速度,例如车辆的大约几百千米/小时的速度,操作跟踪系统需要一定程度的灵活性,并且针对图像捕捉(视场角是预定的)和对焦,其仅提供小的操纵余地。例如,通常通过放大运动员或车辆来实现焦距的改变,这具有消除观众对速度的印象的效果。
此外,跟踪系统在运动员附近的运动可能导致安全问题。事实上,跟踪系统可能由于跟踪系统的操作误差或机械问题而无意中妨碍和碰撞运动员或运动器材。此外,一个或多个跟踪系统在路线(或回路)上的运动可能妨碍运动员对路线的清晰视野,从而增加事故的风险。因此,需要改进现有视频捕捉系统的可靠性、安全性和灵活性,以便拍摄以非常高的速度移动的运动员(或其器材/车辆)。
发明内容
因而,本发明的目的在于克服这些缺点中的至少一个。
在该上下文中,本发明的第一方面涉及一种在图像捕捉系统中实施的图像捕捉方法,该图像捕捉方法使用虚拟传感器来跟踪在场景的预定路线上以高速移动的运动员或运动器材。该图像捕捉系统包括多个宽视场图像采集设备,每个图像采集设备均布置在沿着预定路线的不同固定位置处,使得在给定时刻由两个不同的采集设备捕捉到的图像表示在预定路线上移动的运动员或运动器材的不同视点。该方法包括以下步骤:
-通过所述多个采集设备中的每个采集设备实时捕捉表示基本上等于预定路线的空间的区域的图像;
-针对多个连续时刻中的每个时刻,选择给定采集设备以及由给定采集设备在所述时刻捕捉到的图像的部分;以及
-从所选择的图像部分中,重构与已由沿着所述路线移动的采集设备捕捉到的视频序列相类似的视频序列。
因而,该方法使得能够在同一时刻捕捉同一场景的、但具有不同的视点的多个图像,从而为操作者提供广泛的镜头选择,并且还使得它们能够改变主体与重构的视频序列中的虚拟传感器的相对速度。
相关地,本发明的第二方面涉及一种图像捕捉系统,该图像捕捉系统使用虚拟传感器来跟踪在场景的预定路线上以高速移动的运动员或运动器材。该系统包括:
-多个宽视场图像采集设备,每个图像采集设备均布置在沿着预定路线的不同固定位置处,使得在给定时刻由两个不同的采集设备捕捉到的图像表示在预定路线上移动的运动员或运动器材的不同视点,每个采集设备均包括用于实时捕捉表示与预定路线基本上相等的空间的区域的图像的装置;
-图像处理设备,配置成用于:
●获得由采集设备实时捕捉到的图像;
●针对多个连续时刻中的每个时刻,选择由给定采集设备在所述时刻捕捉到的图像的部分;以及
●从所选择的图像部分中,重构与已由沿着所述路线移动的采集设备捕捉到的视频序列相类似的视频序列。
有利地是,图像捕捉系统允许在视频序列的重构中具有良好的灵活性,同时避免与安全和事故有关的问题,因为采集设备沿着路线固定并且不像现有技术那样靠近运动员移动。
根据本发明的实施方式的方法和系统的其它特征在从属权利要求中描述。
在具体实施方式中,运动员或运动器材与虚拟传感器的相对速度在重构的视频序列期间发生变化。
在具体实施方式中,该方法包括设置图像捕捉系统的预备步骤,该预备步骤包括以下步骤:
-沿着预定路线安装多个采集设备中的采集设备,使得每个采集设备均拍摄基本上等于预定路线的空间的区域,并且使得在给定时刻由两个不同采集设备捕捉到的图像表示在预定路线上移动的运动员或运动器材的不同视点;以及
-利用多个采集设备中的采集设备的相对位置的数据,将多个采集设备中的每个采集设备所连接的图像处理设备参数化。
在具体实施方式中,该方法还包括处理所选择的图像部分的步骤,以避免视频序列的两个连续时刻之间的图像跳跃。
这可通过在设置系统时计算的线性化函数来完成,例如仅基于路线的图像(即,没有运动员或运动器材,仅进行设置)。根据具体实施方式,该处理可另外使用跟踪算法,使得能够固定虚拟传感器与运动员之间的相对距离或者这两个元件之间的相对速度。
相关地,在具体实施方式中,捕捉系统的图像处理设备配置成用于处理所选择的图像部分,以避免视频序列的两个连续时刻之间的图像跳跃。
在具体实施方式中,该方法还包括校正由采集设备捕捉到的图像的光学失真的步骤。
相关地,在具体实施方式中,处理设备还配置成用于校正由采集设备捕捉到的图像的光学失真。
在具体实施方式中,该方法还包括将所述捕捉到的图像在系统中存储预定持续时间的步骤,以便允许从存储的图像开始的选择和重构的新步骤的后续应用。
这允许事后重构视频序列,例如返回至具有特定参数(视场角、速度、缩放、成帧等)的过去事件。
在具体实施方式中,图像捕捉系统还包括人机接口,该人机接口包括配置成用于显示所有采集设备与由这些采集设备捕捉到的图像的显示装置。
在具体实施方式中,人机接口还包括切换装置,该切换装置配置成用于从给定采集设备切换至另一采集设备,以便生成用于引起处理设备的注意的选择命令。
在具体实施方式中,切换装置配置成用于根据经由人机接口选择的图像部分从给定采集设备切换至另一采集设备,以及显示装置另外配置成用于显示限定所选择的图像部分的信号元件。
系统的有益效果、目的和具体特征类似于上述方法的有益效果、目的和具体特征。
在具体实施方式中,上述方法的各种步骤由计算机程序指令确定。
因此,本发明还涉及一种数据介质上的计算机程序,该程序可由微处理器使用,并且包括适于实施上述方法的步骤的指令。
该程序可使用任何程序设计语言,并且可以是源代码、目标代码或源代码与目标代码之间的中间代码的形式,例如部分编译的形式,或任何其它期望的形式。
本发明还涉及一种数据介质,该数据介质可由微处理器读取并且包括如上所述的计算机程序指令。
数据介质可以是能够存储程序的任何实体或设备。例如,数据介质可包括存储装置,诸如ROM(只读存储器)(例如,微电路ROM),或磁记录装置(例如硬盘),或闪速存储器。
此外,数据介质可以是可传输的数据介质,诸如可经由电缆或光缆、通过无线电或其它方式转递的电信号或光信号。根据本发明的程序可具体地从因特网类型的网络的存储平台下载。
可替代地,数据介质可以是其中包含程序的集成电路,该回路适于执行或用于执行所讨论的方法。
上述数据介质和计算机程序具有与它们实施的方法类似的特征和有益效果。
附图说明
本发明的其它特征和有益效果将在由附图说明的以下描述中变得更加明显,其中,附图示出了其实施方式的示例,这些示例决不是限制性的。在附图中:
-图1是可使用本发明的具体实施方式的环境的图示;
-图2是根据本发明的具体实施方式的由实时捕捉步骤产生的一系列图像的图示;
-图3是基于图2中的一系列图像选择图像部分的步骤的结果的图示;
-图4示出根据本发明的具体实施方式的图像捕捉方法的一般步骤;
-图5示出根据本发明的具体实施方式的用于图像捕捉系统的材料架构的示例。
具体实施方式
通常,本发明使得能够执行虚拟跟踪,允许图像捕捉系统的用户(通常是相机操作者)在视频通道中虚拟地导航,即,实时改变视点并且例如执行虚拟传感器的速度或运动方向的虚拟修改。
利用本发明,能够获得与通过跟踪主体(例如,运动员或运动器材)例如平行于它们的运动而获得的图像类似的图像,具有能够改变虚拟传感器相对于移动对象的相对速度的附加有益效果。
因而,在同一个视频捕捉期间可设想比现有技术中更多数量的不同视点。
图1是可实施本发明的实施方式的环境的图示。
具体地,其是可安装根据实施方式的图像捕捉系统的环境。将参照图5详细描述该图像捕捉系统。
在该示例中,考虑具有线性长度D的场景100的路线(或回路)。运动员或运动器材(此处是赛车105)在该预定路线上以高速移动。沿着该路线安装了根据本发明的图像捕捉系统102。
该图像捕捉系统102具体地包括多个宽视场图像采集设备110、图像采集设备120、图像采集设备130、图像采集设备140、图像采集设备150、图像采集设备160、图像采集设备170、图像采集设备180、图像采集设备190、图像采集设备195,每个均布置在沿预定路线的不同固定位置。本发明并不限于该图中所示的设备的数量,该图仅出于说明的目的而提供。
在某些实施方式中,如图中所示,采集设备沿着路线以规则的间隔布置。然而,这不是强制性的,并且根据其它实施方式,它们是不规则地布置的。
采集设备之间的距离可根据运动员或器材的速度和/或将覆盖的路线的长度来选择。
采集设备能够以相对不同的视点拍摄场景100。具体地,它们每个均拍摄大致对应于具有长度D的路线的区域。
每个采集设备均具有用于实时捕捉代表基本上等于预定路线的空间区域的图像的装置。为此目的,如将参照以下附图说明的,采集设备连续地操作并连接至图像处理模块(未示出),该图像处理模块连续地存储和处理图像。在某些实施方式中,采集设备在本地实施某些处理(例如,校正),而处理模块以集中方式执行其它处理。还可设想的是,具有必要计算能力的某些给定采集设备在本地执行例如用于其它采集设备的处理的部分。
这些图像采集设备优选地是配备有鱼眼镜头的摄像机。这种镜头的特性在于具有相对较短的焦距,因此具有较大的视野角,该视野角在对角线上甚至在整个图像中可达到约180°。可设想其它镜头,例如通常用于使用IMAX图像格式(IMAX是商标)的应用的具有大于180°视野角的镜头。
根据本发明,采集设备中的每个均布置成使得由两个不同的采集设备在给定时刻捕捉的图像显示沿着路线移动的赛车105的不同视点。
在该示例中,假定汽车105在时刻t1处于路线上的标记T1的水平处,在时刻t2处于标记T2的水平处,在时刻t3处于标记T3的水平处,在时刻t4处于标记T4的水平处,以及在时刻t5处于标记T5的水平处。
因而,如图2中所示,采集设备C1(110)、采集设备C2(140)、采集设备C3(170)和采集设备C4(195)在时刻t1捕捉到汽车105沿着该路线的、分别标记为210、212、214、216的四个不同视图。
由于采集设备C1(路线的起点)、采集设备C2(路线的前半部分),采集设备C3(路线的后半部分)和采集设备C4(路线的端点)沿着该路线的相应位置,因此在给定的时刻,可从采集设备C1的后方、从采集设备C2和采集设备C3的侧部以及从采集设备C4的前方看到汽车105。因而,假定路线是直线的,采集设备C1、采集设备C2、采集设备C3和采集设备C4分别拍摄整个路线,并且每个均在其域中具有路线的起点、中间和端点。
在继t1之后的时刻t2处,采集设备C1(110)、采集设备C2(140)、采集设备C3(170)和采集设备C4(195)捕捉到汽车105沿着该路线的、分别标记为220、222、224、226的四个(其它)不同视图。
类似地:
-在继t2之后的时刻t3处,采集设备C1(110)、采集设备C2(140)、采集设备C3(170)和采集设备C4(195)捕捉到汽车105沿着该路线的、分别标记为230、232、234、236的四个(其它)不同视图;
-在继t3之后的时刻t4处,采集设备C1(110)、采集设备C2(140)、采集设备C3(170)和采集设备C4(195)捕捉到汽车105沿着该路线的、分别标记为240、242、244、246的四个(其它)不同视图;
-在继t1之后的时刻t5处,采集设备C1(110)、采集设备C2(140)、采集设备C3(170)和采集设备C4(195)捕捉到汽车105沿着该路线的、分别标记为250、252、254、256的四个(其它)不同视图。
因此,根据本发明的图像捕捉系统使得能够在给定时刻具有同一个对象的若干视场角,这对于现有技术的跟踪系统是不可能的。
如图3所示,根据本发明的图像捕捉系统使得能够实时选择视场角和期望的图像部分,以便根据用户从来源于各种采集设备的可用图像中选择的速度和视场角的参数,重构由实际上沿着所述路线移动的伪传感器(虚拟传感器)捕捉到的视频序列。
因而,例如在时刻t1,选择由采集设备C1(110)捕捉到的图像210的图像部分310,而在时刻t2,选择由采集设备C2(140)捕捉到的图像222的图像部分322,这两个采集设备具有相同路线的不同视点。在时刻t3和时刻t4,选择由采集设备C3(170)连续捕捉到的图像234和图像244的图像部分334和图像部分344。因而,这些图像取自相同的视点。在时刻t5,选择由采集设备C4捕捉到的图像256的图像部分356。然后,视点再次不同。
然后,所选择的图像部分根据相应时刻依次排列,从而形成视频序列。因而,从所选择的图像部分重建的该视频序列组合了若干视场角,使得对于观众的视觉效果比现有技术更具吸引力,因为其使得能够以一定程度的保真度呈现汽车105的速度,同时避免与传统图像捕捉系统相关的安全性和可靠性的问题。此外,可在事后(posteriori)选择要在给定时刻呈现的视点。
图4示出根据本发明的具体实施方式的图像捕捉方法的示例的一般步骤。这些步骤通常在例如如参照图1描述的图像捕捉系统中实施。
在预备步骤400中,沿着运动员或诸如汽车105的运动器材在其上以高速移动的路线建立图像捕捉系统102。
在实践中,该步骤包括沿着路线安装采集设备,使得每个采集设备均拍摄基本上等于所述路线的空间的区域,并且使得在给定时刻由两个不同采集设备捕捉到的图像表示沿着路线移动的运动员或运动器材的不同视点。因而,采集设备布置成给出域的重叠,使得连续地覆盖路线的长度D。
接下来,将采集设备连接至图像处理设备。然后,用如此安装的采集设备的配置数据将该处理设备参数化。这些配置数据包括例如采集设备的相对位置以及同步和校准数据(例如,亮度、色温、成帧和失真)。
换言之,这些数据使得能够将各种采集设备参数化,使得由后者捕捉到的路线的图像“相符”。这可通过单独捕捉路线的图像来执行,即,不存在诸如汽车或人的元素。
因而,参数化可包括检测用于采集设备中的每对的一系列参考点(配准标记)的步骤。这使得能够预先计算线性化函数,以便促进从一个图像到另一图像的平滑操作,从而避免在视频序列的连续图像之间跳跃(参见下面描述的步骤440),其中,该连续的图像可来源于不同的传感器。换言之,可对捕捉到的路线的图像单独应用算法,以校正来源于各种采集设备的图像,从而确保它们之间的相干度。例如,确保路线的水平度对于所有的采集设备相同。在实践中,这可通过将由各种采集设备单独捕捉到的路线的图像与由参考采集设备(例如,位于路线的中点)单独捕捉到的路线的图像进行比较来完成。根据实施方式,该参数化基本上是数字化的。
如下所述,这些数据对于处理来源于各种采集设备的视频流很重要。
之后,每个采集设备均实时(即,连续地)捕捉表示基本上等于观察的路线的上述区域的图像。
所表示的方法的接下来的步骤在每个时刻ti迭代地执行。
在步骤410期间,处理设备在所考虑的时刻ti恢复由各种采集设备捕捉到的图像。
例如,在时刻ti=t1时,事件是恢复图2中所示的图像210、图像212、图像214、图像216,以及由其它采集设备(即此处,系统102的所有采集设备110至采集设备195)在时刻t1捕捉到的图像。
在实践中,可执行校正由采集设备捕捉到的图像的光学失真的步骤。实际上,如上所述,采集设备优选地配备有鱼眼镜头,该鱼眼镜头给出圆形形状的图像,其扁率导致特别是图像边缘处的显著的光学失真。
可对这种图像应用映射算法。这种算法包括例如定义用于待校正的图像的目的地格式,以及根据源图像(即,要校正的)中这些像素的坐标确定目的地参考中的像素的坐标。存在用于执行这种校正的许多算法。
在步骤420期间,选择指定为Ci的给定采集设备。例如,在时刻ti=t1时,可选择图1中所示的采集设备110。
该选择可以以两种方式完成:根据由操作者(例如,相机操作者)在该方法的预备步骤中或过程中预定的参数自动地实现,或者由操作者经由系统102的例如踏板、手柄、按钮或触摸屏的人机交互实时地实现。
例如,由操作者预定的参数可以是所产生的虚拟传感器与观察到的车辆105的相对速度。因而,由系统自动地执行在给定时刻对采集设备的选择,以便在要重构的视频序列期间遵守该相对速度。
在具体实施方式中,实施定义成帧语法(例如,对本领域技术人员公知的“镜头推进(tracking in)”,“镜头推出(tracking out)”,“左/右跟踪拍摄(tracking left/right)”,“远景拍摄(long shot)”,“中景拍摄(medium shot)”,“特写镜头(close up)”)的预定选择脚本,并且操作者经由人机接口触发它们的执行,例如通过按下按钮或踏板。可针对视频序列实施这样的脚本,即,针对所考虑的若干或所有迭代。例如,在安装系统102的预备步骤400时,将这些脚本加载到处理设备中。然后,操作者以监督生成选项的形式表达其创造力。
在另一具体实施方式中,其中人机接口包括例如触摸屏的显示装置,该显示装置配置为用于显示所有采集设备以及由这些采集设备捕捉到的图像,选择可由操作者手动完成,并且可包括通过切换装置从一个采集设备连续地导航到另一采集设备,并且停止在最终选择的采集设备上,以便生成用于引起处理设备注意的选择命令。
因而,在该模式中,操作者根据其捕捉的图像的视觉外观直接选择给定采集设备。这种图像捕捉模式因其控制方面以及其为人类操作者提供的创造性控制而特别有趣。具体地,操作者可控制视频序列的若干方面,具体地通过控制成帧、缩放、视场角、运动方向以及虚拟传感器相对于移动对象(即,运动员或运动器材)的相对运动速度。
在步骤430的过程中,选择由所选择的采集设备Ci在时刻ti拍摄的图像的部分。
例如,在时刻ti=t1时,可选择图3中所示的图像部分310。
在实施方式中,操作者可经由人机接口选择图像部分,并且上述切换装置配置为用于根据所选择的图像部分进行切换。在这种情况下,显示装置另外配置成用于显示限定所选择的图像部分(例如,图3中的310)的信号元素。
因而,显示设备允许系统102的用户(例如,相机操作者)在由所选择的采集设备捕捉到的图像中操纵,以便选择其中由其控制为它们的喜好而更大或更小程度地缩放的帧定义的部分。为此,它们有可能随意地移动由显示装置(例如,屏幕)显示的图像上的帧,例如从左至右以及从上至下移动。
根据具体示例,可根据所产生的虚拟传感器与观察到的预定义车辆105的相对速度自动地选择在给定时刻拍摄的图像部分。因而,由系统自动地执行在给定时刻对图像部分的选择,以便在要重构的视频序列期间遵循该相对速度。
在可选步骤440期间,处理所选择的图像部分,以避免图像视频序列的两个连续时刻(例如,ti和ti-1)之间跳跃。该线性化处置使得能够确保视频序列的不同图像之间的平滑过渡。
为此目的,可应用几种类型的处理,以便对所拍摄运动员或运动设备的速度给出更好的印象。该处理可例如使用在前述预备步骤中预先计算的线性化函数。其目的是平滑两个所选图像部分之间的过渡。作为示例,这使得能够确保所有的采集设备共享相同的水平。
为了改进图像部分之间的过渡,例如能够使用在几次连续迭代期间由操作者在人机接口上的动作所产生的选择命令的记录。作为说明,当这些命令由控制杆沿凹槽的运动产生时,例如能够对这些命令进行简单的平均或对这些命令应用低通滤波器,以避免所选择的图像部分之间的颤抖和其它颤动。在这种情况下,对若干连续的迭代进行平滑。
根据另一示例,跟踪算法可用于检测和跟踪运动员或运动器材,从而允许操作者相对于现场的车辆控制虚拟传感器。
事实上,跟踪使得能够跟随运动员(或器材),并因此通过固定后者之间的相对距离或相对速度(以虚拟传感器对观察的主体“快速拍照”的概念)来控制虚拟传感器。
有利地是,当运动员或器材的运动速度允许根据采集设备的间隔捕捉足够数量的图像时,即,例如对于常规鱼眼摄像机,25张图像/秒,则跟踪使得能够避免图像随时间跳跃。
然后,在下一时刻(450),重复步骤410至步骤440,以允许由在不同迭代期间选择的图像部分逐步重构(445)与已由沿着所述路线移动的采集设备捕捉到的视频序列类似的视频序列。
因而,例如,图3中所示的图像部分310、图像部分322、图像部分334、图像部分344和图像部分356可构成由上述步骤的若干次迭代产生的视频序列。
根据沿着路线布置的、从中选择图像部分的采集设备之间的距离,运动员或运动器材与虚拟传感器的相对速度可在重构的视频序列期间变化而不需要插值。换言之,通过选择由采集设备在彼此更大或更小的距离处捕捉到的图像部分,能够改变对视频序列中的速度的印象。因而,从中选择图像部分的采集设备之间的距离越大,速度的增加越大。相应地,该路线上采集设备的数量越多,它们彼此越接近并且相对速度的印象越大。
在实施方式中,由采集设备捕捉到的图像在系统的存储器中保持预定的持续时间,以便允许操作者事后重构视频序列,例如返回具有特定参数(视场角、速度、缩放、成帧等)的过去动作。例如,预定持续时间可以是几分钟至10分钟或更长。用于这样做的缓冲器可在该预定持续时间结束时替换存储的数据。该预定持续时间可由操作者选择,或者可由系统的设施默认施加。
图5示出用于构成根据本发明的实施方式的(例如,如参照图1描述的)图像捕捉系统的一个或多个元件的材料架构的示例。
在该示例中,架构500包括通信总线505,其中,通信总线505连接有:
-处理单元-或微处理器-指定的CPU 510(CPU:中央处理单元);
-一个或多个非易失性存储器520,例如ROM(只读存储器),其可包括计算机程序,该计算机程序包括用于实施根据本发明的图像捕捉方法的指令;该非易失性存储器还可以是EEPROM存储器(电可擦只读存储器)或闪速存储器;该存储器可允许对由系统的采集设备捕捉到的图像进行预定持续时间的临时存储,以便允许操作者事后重构视频序列;
-随机存取存储器或高速缓冲存储器或易失性存储器,例如RAM530(RAM:随机存取存储器),包括适于记录在执行上述程序期间创建和修改的变量和参数的寄存器;在执行本发明时,存储在非易失性存储器(例如EEPROM或闪存)中的程序代码指令加载到RAM中以由处理单元(CPU)执行;
-人机接口HMI 540,例如屏幕、键盘、鼠标、控制杆(例如,操纵杆或方向盘)、一个或多个踏板、触摸屏或遥控器;该I/O接口允许用户(例如,相机操作者)与系统交互,同时经由图形接口执行该方法;
-输入/输出接口I/O 550,以连接系统的采集设备(未示出),以及可选地一个或多个外围设备,例如投光器;
-通信接口560,适于例如经由远程通信网发送和接收数据。
通信总线505允许系统中所包括的或连接至系统的各种元件之间的通信和互操作性。总线的表示是非限制性的,并且具体地,处理单元510能够直接地或经由该系统的另一元件将指令通信至系统的任何元件。
根据本发明,图像捕捉系统的处理单元520包括图像处理模块,该图像处理模块配置成用于:
-经由输入/输出接口I/O 550获得由采集设备110、采集设备120、采集设备130、采集设备140、采集设备150、采集设备160、采集设备170、采集设备180、采集设备190、采集设备195实时捕捉到的图像;
-针对多个连续时刻中的每个时刻,选择由给定采集设备在所述时刻捕捉到的图像的部分;以及
-从所选择的图像部分中,重构与已由沿着所述路线移动的采集设备捕捉到的视频序列类似的视频序列。
在某些实施方式中,处理模块具体地配置成用于处理所选择的图像部分,以避免视频序列的两个连续时刻之间的图像跳跃。因而,该模块可另外配置成用于校正由采集设备捕捉到的图像的光学失真。
在某些实施方式中,人机接口540包括显示装置,该显示装置配置成用于显示所有采集设备110、采集设备120、采集设备130、采集设备140、采集设备150、采集设备160、采集设备170、采集设备180、采集设备190、采集设备195以及由这些采集设备捕捉到的图像。其还可包括切换装置,该切换装置配置成用于从给定采集设备切换到另一个,以便生成用于引起处理模块的注意的选择命令。
这些切换装置可配置成用于根据经由人机接口选择的图像部分从给定采集设备切换至另一采集设备,并且显示装置可显示限定所选择的图像部分的信号元件,如图3中虚线所示。
在某些实施方式中,人机接口可由几个操作者同时处理,或者系统可包括若干个人机界面。在这种情况下,可设置优先级顺序,以使某些命令相对于其它命令优先化。
在某些实施方式中,某些步骤可在采集设备中执行,而其它步骤可由系统500执行。
当然,为了满足特定需要,本发明所属领域的技术人员将能够在上面给出的描述中应用修改。
上述示例仅是本发明的实施方式,但本发明的实施方式不限于此。
Claims (12)
1.图像捕捉方法,其使用虚拟传感器来追踪沿着场景(100)的预定路线以高速移动的运动员或运动器材(105),所述方法在图像捕捉系统(102)中实施,其中,所述图像捕捉系统(102)包括用于宽视场图像的多个采集设备(110、120、130、140、150、160、170、180、190、195),每个所述采集设备均布置在沿着所述预定路线的不同固定位置处,使得在给定时刻由两个不同采集设备捕捉到的图像表示在所述预定路线上移动的所述运动员或运动器材(105)的不同视点,所述方法包括以下步骤:
-通过所述多个采集设备中的每个采集设备实时捕捉(410)表示基本上等于所述预定路线的空间的区域的图像;
-针对多个连续时刻中的每个时刻,选择(420、430)给定采集设备以及由所述给定采集设备在所述时刻捕捉到的图像的部分;以及
-从所选择的图像部分中,重构(445)与已由与所述运动员或运动器材(105)一起移动的采集设备捕捉到的视频序列相类似的视频序列。
2.根据权利要求1所述的方法,还包括以下步骤:处理(440)所选择的图像部分,以避免所述视频序列的两个连续时刻之间的图像跳跃。
3.根据权利要求1或2所述的方法,还包括以下步骤:校正由所述采集设备捕捉到的图像的光学失真。
4.根据权利要求1或2所述的方法,其中,所述运动员或所述运动器材与所述虚拟传感器的相对速度在所重构的视频序列期间发生变化。
5.根据权利要求1或2所述的方法,还包括以下步骤:将所述捕捉到的图像在所述系统(102)中存储预定持续时间,以允许后续执行从所存储的图像选择(420、430)和重构(445)的新步骤。
6.根据权利要求1或2所述的方法,包括设置所述图像捕捉系统的预备步骤(400),所述预备步骤(400)包括以下步骤:
-沿着所述预定路线安装所述多个采集设备中的所述采集设备,使得每个采集设备均拍摄基本上等于所述预定路线的空间的区域,并且使得在给定时刻由两个不同采集设备捕捉到的所述图像表示在所述预定路线上移动的所述运动员或所述运动器材的不同视点;以及
-利用所述多个采集设备中的所述采集设备的相对位置的数据,将所述多个采集设备中的每个采集设备所连接的图像处理设备参数化。
7.图像捕捉系统(102),其使用虚拟传感器来追踪沿着场景(100)的预定路线以高速移动的运动员或运动器材(105),所述系统(102)包括:
-宽视场图像的多个采集设备(110、120、130、140、150、160、170、180、190、195),每个所述采集设备均布置在沿着所述预定路线的不同固定位置处,使得在给定时刻由两个不同的采集设备捕捉到的图像表示在所述预定路线上移动的所述运动员或运动器材(105)的不同视点,每个采集设备均包括用于实时捕捉表示与所述预定路线基本上相等的空间的区域的图像的装置;
-图像处理设备(510),配置成用于:
○获得由所述采集设备实时捕捉到的图像;
○针对多个连续时刻中的每个时刻,选择由给定采集设备在所述时刻捕捉到的图像的部分;以及
○从所选择的图像部分中,重构与已由与所述运动员或运动器材(105)一起移动的采集设备捕捉到的视频序列相类似的视频序列。
8.根据权利要求7所述的图像捕捉系统(102),其中,所述处理设备(510)另外配置成用于处理所选择的图像部分,以避免所述视频序列的两个连续时刻之间的图像跳跃。
9.根据权利要求7或8所述的图像捕捉系统(102),其中,所述处理设备(510)另外配置成用于校正由所述采集设备(110、120、130、140、150、160、170、180、190、195)捕捉到的图像的光学失真。
10.根据权利要求7或8所述的图像捕捉系统(102),还包括人机接口(540),所述人机接口(540)包括显示装置,所述显示装置配置成用于显示所有所述采集设备(110、120、130、140、150、160、170、180、190、195)以及由这些采集设备捕捉到的图像。
11.根据权利要求10所述的图像捕捉系统(102),其中,所述人机接口还包括切换装置,所述切换装置配置成用于从给定采集设备切换至另一采集设备,以便生成用于引起所述处理设备的注意的选择命令。
12.根据权利要求11所述的图像捕捉系统(102),其中,所述切换装置配置成用于根据经由所述人机接口(540)选择的图像部分从给定采集设备切换至另一采集设备,所述显示装置另外配置成用于显示限定所选择的图像部分的信号元件。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
FR1655669 | 2016-06-17 | ||
FR1655669A FR3052949B1 (fr) | 2016-06-17 | 2016-06-17 | Procede et systeme de prise de vues a l'aide d'un capteur virtuel |
PCT/FR2017/051589 WO2017216503A1 (fr) | 2016-06-17 | 2017-06-16 | Procede et systeme de prise de vues a l'aide d'un capteur virtuel |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109716753A CN109716753A (zh) | 2019-05-03 |
CN109716753B true CN109716753B (zh) | 2021-07-13 |
Family
ID=56990558
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201780045156.3A Active CN109716753B (zh) | 2016-06-17 | 2017-06-16 | 使用虚拟传感器的图像捕捉方法和系统 |
Country Status (8)
Country | Link |
---|---|
US (1) | US11178387B2 (zh) |
EP (1) | EP3473000B1 (zh) |
JP (1) | JP6907308B2 (zh) |
CN (1) | CN109716753B (zh) |
CA (1) | CA3032073A1 (zh) |
ES (1) | ES2871881T3 (zh) |
FR (1) | FR3052949B1 (zh) |
WO (1) | WO2017216503A1 (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7170441B2 (ja) * | 2018-07-12 | 2022-11-14 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
US11933991B2 (en) * | 2020-09-29 | 2024-03-19 | Sony Group Corporation | Optical apparatus for improving camera sensitivity and matching of identical perspectives |
CN116486307B (zh) * | 2023-05-05 | 2023-11-21 | 江苏三棱智慧物联发展股份有限公司 | 一种基于视频分析技术的化工园区安全预警方法及系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1322437A (zh) * | 1998-06-12 | 2001-11-14 | 阿尼维西奥恩公司 | 生成体育赛事虚拟视景的方法和装置 |
CN103051830A (zh) * | 2012-12-31 | 2013-04-17 | 北京中科大洋科技发展股份有限公司 | 一种对所拍目标多角度实时转播的系统和方法 |
DE102014010756A1 (de) * | 2014-07-23 | 2016-01-28 | Alexander Waas | Verfahren und System zur Erstellung eines Films von einem sich auf einer Rennstrecke bewegenden Objekt |
Family Cites Families (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3526896B2 (ja) * | 1993-12-09 | 2004-05-17 | 株式会社応用計測研究所 | 動画像処理装置 |
WO1998007129A1 (fr) * | 1996-08-14 | 1998-02-19 | Latypov Nurakhmed Nurislamovic | Procede de suivi et de representation de la position et de l'orientation d'un sujet dans l'espace, procede de presentation d'un espace virtuel a ce sujet, et systemes de mise en oeuvre de ces procedes |
CN1331351C (zh) * | 1997-02-14 | 2007-08-08 | 索尼公司 | 编辑系统、编辑方法和编辑设备 |
JP4048511B2 (ja) * | 1998-03-13 | 2008-02-20 | 富士通株式会社 | 魚眼レンズカメラ装置及びその画像歪み補正方法 |
US6545705B1 (en) * | 1998-04-10 | 2003-04-08 | Lynx System Developers, Inc. | Camera with object recognition/data output |
US6665342B1 (en) * | 1999-07-02 | 2003-12-16 | International Business Machines Corporation | System and method for producing a still image representation of a motion video |
US7849487B1 (en) * | 2002-05-31 | 2010-12-07 | Microsoft Corporation | Review speed adjustment marker |
US8331723B2 (en) * | 2004-03-25 | 2012-12-11 | Ozluturk Fatih M | Method and apparatus to correct digital image blur due to motion of subject or imaging device |
EP1757087A4 (en) * | 2004-04-16 | 2009-08-19 | James A Aman | AUTOMATIC VIDEO RECORDING OF EVENTS, PURSUIT AND CONTENT PRODUCTION SYSTEM |
AU2005279687B2 (en) * | 2004-08-30 | 2010-02-18 | Trace Optic Technologies Pty Ltd | A method and apparatus of camera control |
JP2006310936A (ja) * | 2005-04-26 | 2006-11-09 | Sharp Corp | 任意視点映像生成システム |
EP2301241B1 (en) * | 2007-06-12 | 2014-08-13 | IN Extenso Holdings INC. | Distributed synchronized video viewing and editing |
EP2150057A3 (en) * | 2008-07-29 | 2013-12-11 | Gerald Curry | Camera-based tracking and position determination for sporting events |
GB0907870D0 (en) * | 2009-05-07 | 2009-06-24 | Univ Catholique Louvain | Systems and methods for the autonomous production of videos from multi-sensored data |
CN101930284B (zh) * | 2009-06-23 | 2014-04-09 | 腾讯科技(深圳)有限公司 | 一种实现视频和虚拟网络场景交互的方法、装置和系统 |
US20120069224A1 (en) * | 2010-05-06 | 2012-03-22 | Andrew Cilia | Method and system for single-camera license-plate recognition and magnification |
JP2013058976A (ja) * | 2011-09-09 | 2013-03-28 | Ricoh Co Ltd | 撮像装置 |
GB2497119B (en) * | 2011-12-01 | 2013-12-25 | Sony Corp | Image processing system and method |
JP6267961B2 (ja) * | 2012-08-10 | 2018-01-24 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America | 映像提供方法および送信装置 |
US9210477B2 (en) * | 2012-11-29 | 2015-12-08 | Fanvision Entertainment Llc | Mobile device with location-based content |
BR112015014920A2 (pt) * | 2012-12-19 | 2017-07-11 | Fanpics Llc | método para fornecer uma imagem de participantes em um evento, sistema de serviço de imageamento e método para propiciar desenvolvimento colaborativo para a segurança em um evento |
JP5892060B2 (ja) * | 2012-12-25 | 2016-03-23 | カシオ計算機株式会社 | 表示制御装置、表示制御システム、表示制御方法及びプログラム |
WO2014107434A1 (en) * | 2013-01-02 | 2014-07-10 | California Institute Of Technology | Single-sensor system for extracting depth information from image blur |
US10220303B1 (en) * | 2013-03-15 | 2019-03-05 | Harmonix Music Systems, Inc. | Gesture-based music game |
US9070289B2 (en) * | 2013-05-10 | 2015-06-30 | Palo Alto Research Incorporated | System and method for detecting, tracking and estimating the speed of vehicles from a mobile platform |
NL2012399B1 (en) * | 2014-03-11 | 2015-11-26 | De Vroome Poort B V | Autonomous camera system for capturing sporting events. |
CN106464785A (zh) * | 2014-05-20 | 2017-02-22 | 奈克斯特Vr股份有限公司 | 包括或用于一个或多个照相机的装置和方法 |
US20160140733A1 (en) * | 2014-11-13 | 2016-05-19 | Futurewei Technologies, Inc. | Method and systems for multi-view high-speed motion capture |
KR102537210B1 (ko) * | 2016-07-29 | 2023-05-26 | 삼성전자주식회사 | 동영상 컨텐츠 제공 방법 및 이를 지원하는 전자 장치 |
-
2016
- 2016-06-17 FR FR1655669A patent/FR3052949B1/fr not_active Expired - Fee Related
-
2017
- 2017-06-16 US US16/310,314 patent/US11178387B2/en active Active
- 2017-06-16 ES ES17740052T patent/ES2871881T3/es active Active
- 2017-06-16 JP JP2019518156A patent/JP6907308B2/ja active Active
- 2017-06-16 EP EP17740052.0A patent/EP3473000B1/fr active Active
- 2017-06-16 WO PCT/FR2017/051589 patent/WO2017216503A1/fr unknown
- 2017-06-16 CA CA3032073A patent/CA3032073A1/fr active Pending
- 2017-06-16 CN CN201780045156.3A patent/CN109716753B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1322437A (zh) * | 1998-06-12 | 2001-11-14 | 阿尼维西奥恩公司 | 生成体育赛事虚拟视景的方法和装置 |
CN103051830A (zh) * | 2012-12-31 | 2013-04-17 | 北京中科大洋科技发展股份有限公司 | 一种对所拍目标多角度实时转播的系统和方法 |
DE102014010756A1 (de) * | 2014-07-23 | 2016-01-28 | Alexander Waas | Verfahren und System zur Erstellung eines Films von einem sich auf einer Rennstrecke bewegenden Objekt |
Also Published As
Publication number | Publication date |
---|---|
WO2017216503A1 (fr) | 2017-12-21 |
US11178387B2 (en) | 2021-11-16 |
JP6907308B2 (ja) | 2021-07-21 |
EP3473000A1 (fr) | 2019-04-24 |
CN109716753A (zh) | 2019-05-03 |
JP2019520013A (ja) | 2019-07-11 |
US20190335161A1 (en) | 2019-10-31 |
FR3052949A1 (fr) | 2017-12-22 |
FR3052949B1 (fr) | 2019-11-08 |
EP3473000B1 (fr) | 2021-02-17 |
CA3032073A1 (fr) | 2017-12-21 |
ES2871881T3 (es) | 2021-11-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220058846A1 (en) | Artificially rendering images using viewpoint interpolation and extrapolation | |
US10719732B2 (en) | Artificially rendering images using interpolation of tracked control points | |
US10726593B2 (en) | Artificially rendering images using viewpoint interpolation and extrapolation | |
US10242474B2 (en) | Artificially rendering images using viewpoint interpolation and extrapolation | |
JP6849430B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
US9648271B2 (en) | System for filming a video movie | |
CN109716753B (zh) | 使用虚拟传感器的图像捕捉方法和系统 | |
KR20170135855A (ko) | 패닝 샷들의 자동 생성 | |
US20130016097A1 (en) | Virtual Camera System | |
KR20150050172A (ko) | 관심 객체 추적을 위한 다중 카메라 동적 선택 장치 및 방법 | |
JP4700476B2 (ja) | 多視点映像合成装置及び多視点映像合成システム | |
EP3363191B1 (en) | Omnidirectional camera with movement detection | |
WO2016120618A1 (en) | Method, system and computer program product for automatically altering a video stream | |
KR20180130504A (ko) | 정보 처리 장치, 정보 처리 방법, 프로그램 | |
EP3646610A2 (en) | Method and system for fusing user specific content into a video production | |
CN114930393A (zh) | 多个群的无人机捕获的系统 | |
Carrillo et al. | Automatic football video production system with edge processing | |
JP5787930B2 (ja) | ビデオ用の仮想ナビゲーションシステム | |
CN111108752A (zh) | 街景服务方法及执行该方法的装置 | |
CA2859200C (en) | System, method and apparatus for rapid film pre-visualization | |
CN118302796A (zh) | 图像制作系统、图像制作方法和程序 | |
JP2019046209A (ja) | 車両位置取得システム、及び車両位置取得方法 | |
KR20180077987A (ko) | 영상의 모션 데이터 산출 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |