CN101601277A - 用于生成图像内容的方法和装置 - Google Patents

用于生成图像内容的方法和装置 Download PDF

Info

Publication number
CN101601277A
CN101601277A CNA2007800508799A CN200780050879A CN101601277A CN 101601277 A CN101601277 A CN 101601277A CN A2007800508799 A CNA2007800508799 A CN A2007800508799A CN 200780050879 A CN200780050879 A CN 200780050879A CN 101601277 A CN101601277 A CN 101601277A
Authority
CN
China
Prior art keywords
camera unit
image
camera
data
fragment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CNA2007800508799A
Other languages
English (en)
Other versions
CN101601277B (zh
Inventor
R·M·S·波特
C·H·吉拉德
J·J·斯通
D·贝里
S·D·海恩斯
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Europe BV United Kingdom Branch
Original Assignee
Sony United Kingdom Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony United Kingdom Ltd filed Critical Sony United Kingdom Ltd
Priority claimed from PCT/GB2007/004436 external-priority patent/WO2008068456A2/en
Publication of CN101601277A publication Critical patent/CN101601277A/zh
Application granted granted Critical
Publication of CN101601277B publication Critical patent/CN101601277B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2624Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects for obtaining an image which is composed of whole input images, e.g. splitscreen
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text

Abstract

本申请描述了用于生成图像内容的方法和系统。本发明中披露的方法和系统相比于现有技术,允许生成具有降低失真的全景的片段。该方法和系统通过将像素数据映射到伪摄像机焦平面上降低了失真量,其中伪摄像机焦平面以基本上与拍摄图像的摄像机的焦点垂直的方式提供。还描述了摄像机装置。

Description

用于生成图像内容的方法和装置
技术领域
本发明设计用于生成图像内容的方法和装置。
背景技术
有一种从多个摄像机产生全景的现有技术装置。这在US-A-2006/0125921中被描述并且涉及一种视频会议系统。该装置使得一组共处一处的单独的摄像机拍摄场景视野的不同区域。然后“缝合”由这些共处一处的摄像机拍摄的图像来形成全景图像。在US-A-2006/0125921中,全景图像通过将来自各个摄像机的图像的四边形部分弯曲和缝合到一起而生成。
另外,在US-A-2006/0125921中还描述了可以将合成图像的一部分提取并显示。
但是,该现有技术装置的能力十分有限。例如,US-A-2006/0125921中的装置只适用于低分辨率的全景图像。这是因为US-A-2006/0125921中所描述的用于提取全景图像部分的技术会造成提取部分的变形。
因此,本发明的一个目标是解决现有技术的问题。
发明内容
根据本发明的一个方面,提供生成图像内容的方法,包括:
接收表示图像的图像数据,该图像由具有预定的焦点位置的摄像机装置焦点生成;
以下列方式生成片段图像数据,该片段图像数据表示图像的被选择的片段:
i.确定表示该被选择的片段的基本上平坦的平面,该平坦的平面定位为使得其以基本上垂直于摄像机装置的焦点位置的方式位于被选择的片段中的参考位置;以及
ii.根据摄像机的至少一个参数,将像素数据映射到基本上平坦的平面。
因为以这种方式映射图像片段数据减少了在显示的片段中的视觉变形,所以这样做特别有利。特别是,当用户观看时,显示的片段中的直线将会看上去具有更好的透视(perspective)。
焦点位置可以是摄像机的焦点。
像素数据可以从摄像机装置产生。可选地,像素数据可以从图像数据产生,其中,摄像机参数以与图像数据关联的方式提供。
另外,该方法可以包括描绘图像上的片段图像数据的轮廓,其方式是确定平坦的平面的轮廓并根据参考位置上平坦的平面相对于图像的角度方位(position),将平坦的平面的轮廓映射到图像上。
摄像机装置可包括多个摄像机单元,各个摄像机单元生成表示摄像机单元视野的单元图像数据,其中相邻摄像机单元的至少部分视野是不同的;以及生成图像数据并表示从接收的单元图像数据生成的合成图像。
根据相邻摄像机单元视野之间的重叠中的误差,可以确定各个摄像机单元的至少一个摄像机参数。
生成合成图像的步骤可以包括:根据摄像机单元的至少一个参数,将接收的单元图像数据映射到位于表示合成图像的平面的像素上。
进一步,该方法可以包括:重叠相邻摄像机单元的至少部分视野,并且其中接收的单元图像数据或像素数据的映射可以包括:分别内插接收的单元图像数据或像素数据,如果像素间的误差测量低于阈值,则其表示重叠区域中的多个像素。
选择性地,该方法可以包括:重叠相邻摄像机单元的至少部分视野,并且其中接收的图像或像素数据的映射可以包括:分别选择接收的单元图像数据或像素数据,如果所述像素间的误差测量高于阈值,则其表示来自摄像机单元之一的重叠区域中的像素而非来自相邻摄像机单元的像素。
在这些例子的任意一个中,误差测量可以是视差误差测量。
一对相邻摄像机单元的焦点可以基本上相同。这减少了视差误差。
该方法可包括:根据由摄像机装置生成的图像数据的红和绿分量与蓝和绿分量的比较,减少由摄像机装置生成的色差。
进一步,该方法可以包括:根据由摄像机单元生成的图像数据的红和绿分量与蓝和绿分量的比较,减少由多个摄像机单元中的一个生成的色差。当摄像机装置包括多个摄像机单元时,这是有用的,因为合成图像由来自各个摄像机单元的多个单元图像数据构成。因此,如果减少色差,那么合成图像就具有改进的图像质量。
该方法可包括:基于目标检测算法检测图像数据中的目标;以及生成确认图像数据中被检测目标的位置的方位信号。当在图像中检测目标时,这有利于片段的自动生成。
在该例中,该方法可以包括基于目标跟踪算法在图像的连续帧之间跟踪检测的目标。
在这些例子的任意一个中,该方法可以包括根据方位信号确认图像片段。还有,如果在图像的连续帧之间,停止跟踪连续帧之间的检测的目标,那么该方法可以进一步包括:根据方位信号确认图像区域;以及在确认的区域内并且根据检测算法检测目标。
该方法可以包括在显示器上显示图像。进一步,该显示步骤可以包括同时显示图像和片段图像数据。另外,该显示器可以是弯曲屏幕以增加用户的沉浸式体验。
该方法可以包括分发图像或部分图像和/或片段图像数据的表示。该方法然后可以包括分发与图像或部分图像和/或片段图像数据的表示相分离的辅助数据。该辅助数据可以是元数据。辅助数据或元数据可以使用数据传送带(data carousel)分发。进一步,辅助数据、图像或部分图像和/或片段图像数据的表示可以通过广播分发。另外,辅助数据、图像或部分图像和/或片段图像数据的表示可以在网络上发布。该方法可进一步包括,在分发之前,采用加密密钥加密所述表示或它的至少一部分或者辅助数据。
根据本发明的另一个方面,提供了一种图像内容生成装置,包括:
图像接收装置,可操作地接收图像数据,该图像数据表示由具有预定焦点位置的摄像机装置生成的图像;以及
图像处理装置,通过下列方式可操作地生成片段图像数据,该片段图像数据表示图像的被选择的片段:
i.确定表示该被选择的片段的基本上平坦的平面,该平坦的平面被定位为使得其以基本上垂直于摄像机装置的焦点位置的方式位于被选择的片段中的参考位置;以及
ii.根据摄像机的至少一个参数,将像素数据映射到基本上平坦的平面。
因为以这种方式映射图像片段数据减少了在显示的片段中的视觉变形,所以这样做特别有利。特别是,当用户观看时,显示的片段中的直线将会看上去具有更好的透视。
像素数据可以从摄像机装置产生。选择性地,像素数据可以从图像数据产生,其中,摄像机参数以与图像数据关联的方式提供。
进一步,该图像处理装置可操作地以下列方式描绘图像上的片段图像数据的轮廓:确定平坦的平面的轮廓并且根据在参考位置上平坦的平面相对于图像的角度方位,将平坦的平面的轮廓映射到图像上。
摄像机装置可包括多个摄像机单元,各个摄像机单元生成表示摄像机单元视野的单元图像数据,其中相邻摄像机单元的至少部分视野是不同的;以及生成图像数据并表示从接收的单元图像数据生成的合成图像。
图像处理装置可操作地使得根据相邻摄像机单元的视野之间的重叠中的误差确定各个摄像机单元的至少一个参数。
图像处理装置可操作地使得生成合成图像的步骤包括:根据摄像机单元的至少一个参数,将接收的单元图像数据映射到位于表示合成图像的平面的像素上。
图像处理装置可操作用于:重叠相邻摄像机单元的至少部分视野,并且其中接收的单元图像数据或像素数据的映射,图像处理装置可操作用于:分别内插接收的单元图像数据或像素数据,如果像素间的误差测量低于阈值,则其表示重叠区域中的多个像素。
选择性地,图像处理装置可操作用于:重叠相邻摄像机单元的至少部分视野,并且其中接收的图像或像素数据的映射,图像处理装置可操作用于:分别选择接收的单元图像数据或像素数据,如果所述像素间的误差测量高于阈值,则其表示来自摄像机单元之一的重叠区域中的像素而非来自相邻摄像机的像素。
误差测量可以是视差误差测量。进一步,一对相邻摄像机单元的焦点可以基本上相同。
该装置可包括:色差减少装置,可操作用于根据由摄像机装置生成的图像数据的红和绿分量与蓝和绿分量的比较,减少由摄像机装置生成的色差。
该装置可包括:色差减少装置,可操作用于根据由摄像机单元生成的图像数据的红和绿分量与蓝和绿分量的比较,减少由多个摄像机单元中的一个生成的色差。
该装置可包括:目标检测装置,可操作用于基于目标检测算法检测图像数据中的目标;以及生成确认图像数据中检测的目标的位置的方位信号。
目标检测装置可操作用于基于目标跟踪算法在图像的连续帧之间跟踪检测的目标。
目标检测装置可操作用于根据方位信号确认图像片段。
如果在图像的连续帧之间,停止跟踪连续帧之间的检测的目标,那么目标检测装置可进一步操作用于:根据方位信号确认图像区域;以及在确认的区域内并根据检测算法检测目标。
该装置可以包括显示器,可操作地显示图像。显示器可操作用于同时显示图像和片段图像数据。该显示器可以是弯曲屏幕。
该装置可以包括分发器,可操作用于分发图像或部分图像和/或片段图像数据的表示。该分发器可操作用于分发与图像或部分图像和/或片段图像数据的表示相分离的辅助数据。该辅助数据可以是元数据。辅助数据或元数据可以使用数据传送带分发。该分发器可操作用于通过广播分发辅助数据、图像或部分图像和/或片段图像数据的表示。该分发器可操作用于在网络上分发辅助数据、图像或部分图像和/或片段图像数据的表示。该分发器可操作用于在分发之前,采用加密密钥加密所述表示或它的至少一部分或者辅助数据。
在摄像机单元组(cluster)中的各个摄像机单元可以设置成面向肖像模式。
根据另外一个方面,提供了一种显示装置,被设置成与根据一些实施例的装置一起工作并可操作用于显示图像或部分图像和/或片段图像数据的表示,该装置包括:用于显示图像或部分图像和/或片段图像数据的表示的显示器。
该显示装置可以包括解密装置,用于解密图像或部分图像和/或片段图像数据的加密表示。
该显示装置可以包括存储器装置,该装置包含由解密装置可读的解密密钥,存储器装置可操作用于更新解密密钥。显示装置可包括回放装置,其可操作用于根据预定的标准,存储图像或部分图像和/或图像数据片段以供回放。显示装置可以包括数据传送带接收装置,可操作用于接收数据信道,该数据信道包含从根据一个实施例的装置发送的辅助数据。
该显示装置可以配置成为个人显示装置。
根据另一方面,提供了一种产生收入的方法,包括:从多个基本上共处一处的同时拍摄图像的摄像机单元接收图像数据,各个摄像机单元具有与相邻摄像机单元不同的但重叠的视野;通过联接来自所述相邻的视野的图像数据,从接收的图像数据生成合成图像;产生合成图像或部分合成图像的表示作为视频流;以及允许用户以钱作为交换观看该表示。
用户可以在个人显示装置上观看该表示,该表示可以使用加密密钥加密以及用户以钱作为交换下载对应的解密密钥。该方法可以包括以钱作为交换将该显示装置租给用户。
根据另一方面,提供了一种生成收入的方法,包括:接收图像数据,该图像数据表示由具有预定的焦点位置的摄像机装置生成的图像;通过下列方式生成片段图像数据,该片段图像数据表示图像的被选择的片段:
i.确定表示该被选择的片段的基本上平坦的平面,该平坦的平面定位为使得其以基本上垂直于摄像机装置的焦点位置的方式位于被选择的片段中的参考位置,以及
ii.根据摄像机的至少一个参数,将像素数据映射到基本上平坦的平面;以及
允许用户用钱作为交换来观看片段图像数据。
根据本发明的另外一个方面,提供了一种摄像机装置,包括多个基本上共处一处的摄像机单元,各个摄像机单元具有焦平面,各自的视野被赋予(impart)该焦平面,其中一个摄像机单元的视野与至少一个相邻摄像机单元的视野重叠,其中,在一个摄像机单元的视野移动之后,对所述一个摄像机单元进行定位使得所述一个摄像机单元的视野与所述至少一个相邻摄像机单元的视野之间的重叠沿着重叠的长度方向基本上均匀。
这是有利的,因为视野之间(因此也即焦平面之间)的不必要的重叠量减少了。这改进了对应产生的缝合图像的水平和垂直的分辨率。
装置中的所述一个摄像机单元和/或所述相邻的摄像机单元可以包括摄像机单元调整器,可操作用于调整所述一个摄像机单元和/或所述相邻的摄像机单元的倾斜(pitch)、摇摆(yaw)和滚转定位(roll positioning)中的任意一个或多个,使得所述重叠沿着重叠的长度基本上均匀。
进一步,在所述一个摄像机单元的所述视野沿着视野的垂直轴作所述移动后,所述一个摄像机单元或所述相邻摄像机单元的滚转是可调整的。
该装置可以包括装置调制器,可操作用于调整摄像机装置的倾斜或摇摆中的任意一个。
在该例中,该装置可以包括具有底座的平台,并且该平台可操作用于确定所述一个和至少一个所述相邻摄像机单元在其上的位置,该底座被配置成调整摄像机装置的倾斜或摇摆。
在视野之间的重叠沿着重叠的长度方向基本上恒定时,该装置调整器可操作使得摄像机装置的所述倾斜或摇摆是可调整的。
至少一个摄像机单元可以固定地安装在装置调整器上。
根据另一方面,提供了一种设置多个共处一处的摄像机单元的方法,包括步骤:
使一个摄像机单元的视野与至少一个其它摄像机单元的视野重叠,其中视野是可移动的并被赋予所述各自的摄像机单元的焦平面上;以及
在移动所述一个摄像机单元的所述视野之后,定位所述一个摄像机单元使得所述一个摄像机单元的视野与所述至少一个相邻摄像机单元的视野之间的所述重叠沿着重叠的长度方向基本上均匀。
该方法可包括调整所述摄像机单元和/或所述相邻摄像机单元的倾斜、摇摆和滚转定位中的任意一个,使得所述重叠沿重叠长度方向基本上是均匀的。
该方法可包括在所述一个摄像机单元的视野沿着视野的垂直轴移动后,调整所述一个摄像机单元或所述相邻摄像机单元中的任意一个的所述滚转。
该方法可以包括调整摄像机装置的倾斜和摇摆中的任意一个。
该方法可包括在平台上安装所述所述相邻摄像机单元的所述一个和至少一个并调整平台的倾斜和摇摆中的任意一个以调整摄像机装置的倾斜或摇摆的任意一个。
该方法可以包括当视野之间的重叠沿着重叠的长度方向基本上恒定时,调整摄像机装置的倾斜或摇摆中的任意一个。
该方法可以包括在平台上安装所述一个和至少一个相邻摄像机单元并调整所述一个摄像机单元和/或所述至少一个相邻摄像机单元的摇摆以达到期望的重叠。
该方法可包括固定地安装至少一个摄像机单元到平台。
各种其它特征和/或方面在附上的权利要求中定义。
附图说明
现将仅以例子的方式以及参照附图来对本发明的实施例进行描述。其中附图中相同的参考数字代表相同的特征,附图中:
图1是示意图,示出根据本发明一个实施例的系统;
图2A和2B是示意图,示出根据本发明不同实施例的两种可选的摄像机装置;
图2C是示意图,示出图2B中所示摄像机组的视野;
图3是示意图,描述在图1中所示的图像缝合装置中实现的根据实施例的缝合过程;
图4是示意图,描述图3中所示的对准过程;
图5A-5D是示意图,描述图3所示的投影过程;
图6A和6B是示意图,描述从在图5B的投影过程中生成的图像生成片段的过程;
图6C是示意图,描述在生成于图5B的投影过程的图像上描绘生成于图6A和6B过程中的片段的轮廓;
图7描述运行在图1所示的个人装置上的故事板;
图8描述图1系统中示出的个人显示装置;
图9A-C是示意图,描述图1中所示的摄像机单元的一种装置;
图10是示意图,描述图9中所示摄像机装置的焦平面;
图11是示意图,描述根据本发明一个实施的摄像机装置和对应的焦平面;
图12是示意图,描述本发明摄像机装置的第二实施例;以及图13为图12中所示平台的平面图。
具体操作方式
参考图1,实况比赛101(live event)(在这个例子中是足球比赛)在一个场所(在这个例子中是体育场)进行。
摄像机组102(在该例中包括6个以一定配置设置的独立的摄像机104)定位于体育场中的合适的有利位置。将参照图2A、2B和2C对摄像机组102的配置进行详细的说明。但是,总体上,摄像机组102被配置为使得摄像机组102中的各个摄像机104的视野与摄像机组102中的相邻摄像机104的视野少量地重叠。因此,摄像机102的视野的全体所生成的全景覆盖了整个实况比赛。有利位置可以是体育场的高处。
在这个实施例中,各个摄像机104都是高清(HD)摄像机,它们的水平取向被转换90°从而产生具有1080×1920分辨率而非如同在传统的全貌取向中的1920×1080分辨率。另外,在该实施例中的各个摄像机104工作在逐行模式(progressive mode)下而不是隔行模式(interlaced mode)下。这使得由摄像机104生成的图像的处理更简单。但是,专业技术人员也将理解,各个摄像机104也可以替代地工作在隔行模式。利用设置在肖像模式下的摄像机组102中的多个这样的摄像机104,可以使得摄像机组102的输出具有更高的垂直图像分辨率。摄像机组102被用来产生足球比赛的视频流。技术人员将理解,虽然摄像机组102被描述为由多个单独的摄像机104组成,但是本发明并于限于此。的确,摄像机组没有必要由完整的摄像机104(仅仅是产生图像输出的摄像机单元)的级联(concatenation)组成。因此,摄像机组102可以是单个单元。进一步,尽管该实施例利用多个摄像机104进行描述,但是本发明并不限于此。使用单个摄像机也可产生一个输出图像。在使用摄像机拍摄全景图像的情况下,合适的广角镜和高分辨率图像拍摄阵列可安装于摄像机。
除摄像机组102之外,还可以在摄像机组102附近或与摄像机组102不相干的地方提供一个或多个麦克风(未示出)来提供足球比赛的声音覆盖。
摄像机组102中的各个摄像机104的输出被传送到色差校正器105。在这个例子中,摄像机组102中的各个摄像机104产生单独视频输出,所以在该例中,摄像机组102具有6个输出。但是,在其它实施例中,可以仅采用摄像机组102的一个输出替代,其是6个摄像机104中每个的多路复用输出。色差校正器105的输出被传送到图像缝合装置108和可缩放内容准备装置110中,这两者构成图像处理装置106的一部分。图像处理装置106包括图像缝合装置108和可缩放内容准备装置110并且在该例中将在计算机上实现。图像缝合装置108的输出连接到可缩放内容准备装置110。
图像缝合装置108取走由摄像机组102中各个摄像机104拍摄的每张高清图像并将它们组合以产生赛场的全景。在该实施例中重要的一点是,图像缝合装置108的输出并不是与利用广角镜拍摄的相同的视图(view)。图像缝合装置108的输出是摄像机组102中各个摄像机104输出的丰富多彩的画面(tapestry)或联接的形式。这意味着,图像缝合装置108的输出具有大约8000×2000像素的分辨率而不是如在装备广角镜的HD摄像机情况下的1080×1920像素的分辨率。因此,所联接的图像是超高分辨率图像。但是,可以使用单个具有高分辨率的摄像机来代替。在该情况下,将不再需要图像缝合装置108的某些部分。高清装置的优点有很多,其中包括不需要进行光学变焦(因此会影响到体育场的整个图像)就能突出显示运动员的特定特征的能力。另外,因为比赛的背景是静止的以及被跟踪的目标具有较高的屏幕分辨率,所以有利于目标的自动跟踪。图像缝合装置108将参照图3进行更详细的描述。
图像缝合装置108的输出被传送到可缩放内容准备装置110和/或一个或多个超高清晰影院(Super high definition cinemas)128中。在该实施例中,这个超高清晰影院128或各个超高清晰影院128位于与赛场不同的地方。这使得许多因为座位有限或体育场位置而无法进场的观众可以观看实况比赛。另外或可选择地,体育场附近的其它地点可以用于安置超高清晰影院128。例如,可以使用体育场内提供点心的酒吧。
可缩放内容准备装置110用于从图像缝合装置108的超高分辨率输出生成图像,以被一个或多个高清电视120、具有比传统电视屏幕尺寸更小的个人显示装置122和/或超高清晰影院124所使用。可缩放内容准备装置110可以产生超高分辨率图像的缩小比例版本或可以采用稍后解释的映射技术产生超高分辨率图像的片段。在一个实施例中,个人显示装置122为Play
Figure A20078005087900231
Portable
Figure A20078005087900232
但是,设想个人显示装置122也可以是手机、笔记本电脑、个人数字助理或类似产品和它们的任意组合。另外,可缩放内容准备装置110还实现了自动跟踪算法来选择超高分辨率图像的多个部分以产生在个人显示装置122上显示的视频流。例如,可缩放内容准备装置110可自动跟踪球或特定运动员或甚至产生特殊事件的定格镜头,例如足球比赛的进球和美式足球的达阵。
可缩放内容准备装置110的输出被传送到分发装置112。分发装置112包括存储也可以被分发的内容的内容数据库114,例如,特殊事件的转播或关于特定运动员的进一步信息。而且在分发装置112中还有数据流装置116,其将来自可缩放内容准备装置110或内容数据库114的要分发的内容转换成具有合适的网络带宽的格式,在该网络上流数据被传送或广播。例如,数据流装置116可以压缩流使得它可以在IEEE802.11b WiFi网络或蜂窝电话网络或诸如蓝牙网络或无线网络的任意合适的网络上传送。在该实施例中,网络为适用于个人显示装置122的WiFi网络,所以数据流装置110的输出被传送到无线路由器118。尽管之前描述数据在WiFi网络或蜂窝电话网络上传送,但本发明并不限于此。数据流装置116可以压缩在任何支持流视频数据的网络上广播的流数据,该网络例如是第三、第四代蜂窝网络、数字视频广播手持(DVB-H)网络、DAB网络、T-DMB网络、MediaFLO(RTM)网络或类似的网络。
超高清晰影院124包括大屏幕投影仪126和屏幕124。图像缝合装置108的输出被传送到大屏幕投影仪126。为提供足够的分辨率,大屏幕投影仪126可具有8000×2000的显示分辨率或可以包括两个联接的各具有4000×2000像素分辨率的投影仪。另外,大屏幕投影仪126可以包括水印技术,该技术将水印嵌入到显示的图像来防止在超高清晰影院124观看实况比赛的观众采用视频摄像机制作比赛的非法拷贝。水印技术是已知的并且不作进一步的详细解释。
参考图2A,在一个实施例中,摄像机组102中的摄像机104的镜头以水平凸出(horizontally convex)的方式设置。在图2B中的替代实施例中,摄像机组102中的摄像机104的摄像机镜头以水平内凹的方式排列。在这两种可选的配置中,摄像机组102中的摄像机104被设置为产生的摄像机组102中的相邻摄像机104之间的视差效应最小。也就是说,将摄像机组102中的摄像机104设置成一对相邻的摄像机的焦点以最近的距离在一起。已经发现,在图2B的装置中的摄像机104与在图2A中的摄像机104相比,产生稍低的相邻摄像机104之间的视差误差。
在图2C中,示出了由以水平内凹的方式排列的四个摄像机形成的摄像机组102的视野。这是为了便于理解,本领域技术人员可以理解可以使用任意数量的摄像机,包括图1例子中的6台或者图6A和6B所示的2台。如上所述,为了确保用摄像机组102拍摄整个比赛,在本发明的实施例中,摄像机组102中的摄像机104的视野与摄像机组102中的另一摄像机104的视野稍微地重叠。该重叠在图2C中以阴影线区域表示。如下将述,在联接的图像中的重叠效应在图像缝合装置108中减少。在以水平内凹方式设置的摄像机组102中,不同的相邻摄像机104的视野之间的重叠量基本上不变,不管到摄像机组102的距离如何。由于重叠量基本上不变,所以减少重叠效应所需的处理减少了。尽管上面参考以水平方式设置摄像机的情形作了描述,但是专业人员将能理解摄像机也可以以垂直的方式设置。
如图1所描述的,摄像机组102的输出被传送到色差校正器105。色差校正器105是已知的,但是出于完整性考虑将对其进行简单的描述。为各个摄像机104校正色差误差。色差特别是在由各个摄像机104所生成的图像的边缘变得明显。已经知道,来自各个摄像机104的图像输出会被缝合到一起。因此,在实施例中,由色差校正器105减少色差来改进输出的超高分辨率图像。
色差校正器105分离来自各个摄像机104的图像的红、绿和蓝分量以用于单独处理。将红和绿与绿和蓝分量进行比较以生成红和蓝的校正系数。一旦生成红和蓝的校正系数,就以已知的方式生成红和蓝的校正图像分量。然后将校正的红和蓝图像分量与初始的绿图像组合。这就形成了各个摄像机104的校正的输出,然后将该输出传送到图像缝合装置108。
图像缝合装置108随后将来自各个摄像机104的色差校正的单独输出组合为单个超高清晰图像。组合步骤参考图3进行描述。
色差校正器105的输出被传送到图像对准装置301和虚拟图像投影装置304。图像对准装置301的输出被传送到摄像机参数计算装置302。摄像机参数计算装置302的输出产生使两个相邻摄像机104之间重叠区域中的误差最小的摄像机参数。在该实施例中,误差是各个像素的平均的均方误差(average mean squared errorper pixel),但本发明不限于此。还有,在该实施例中,只有各个摄像机104的滚转、倾斜、摇摆、镜头筒(barrel)和焦距被计算。因为摄像机104具有相似的焦距(其值是被计算出来的)以减少上述的视差效应和焦点,所以不考虑摄像机间的相对位置。可以看到,可以寻找其它参数以能够校正镜头畸变、球面像差等等。另外,要指出的是可以在对准阶段之后或生成超高清图像之后再次执行色差校正。
摄像机参数被传送到虚拟图像投影装置304中。虚拟图像投影装置304中的输出被传送到彩色校正装置306中。彩色校正装置306的输出被传送到曝光校正装置308中。曝光校正装置308的输出被传送到视差误差校正装置310中。视差误差校正装置310的输出是单个超高清图像。如前所述,可以使用由一个摄像机来产生的图像。在该情况中,将不需要虚拟图像投影装置304。
参考图4描述图像图像对准装置301。要注意的是,以下仅描述为两个相邻摄像机寻找摄像机参数。技术人员将理解,采用该方法,可以为任意数量的摄像机寻找摄像机参数。
实况图像A和B由摄像机组102中两个各自的相邻摄像机104产生。为了使重叠区域中的误差最小,图像对准装置301使用了分层搜索技术。使用该方法时,它假定产生图像A的摄像机是固定的。两个实况图像被传送到低通滤波器402。这去除了图像的细微细节。通过消除图像的细微细节,减少了查找局部最小值的搜索的可能性。应用于每个图像的滤波量在搜索期间可以变化。例如,在搜索开始时要比搜索结束时应用更多的滤波量。这意味着可以产生参数的近似值并且可以在搜索趋于结束的过程中作细化,使得更多数量的细节被考虑并改进了结果。
然后,低通滤波的图像被传送到图3中所示的虚拟图像投影装置304。虚拟图像投影装置304被用来补偿这样的事实,即,摄像机组102中的每个摄像机104面向不同的方向但是要产生的超高分辨率图像应当显示为来自指向一个方向的一个摄像机。因此,虚拟图像投影装置304将一个摄像机104接收到的光的一个像素映射到虚拟焦平面上。虚拟焦平面对应于这样的焦平面,该焦平面好像由能够拍摄具有超高分辨率的全景的虚拟摄像机产生。也就是说,虚拟摄像机的输出将会是缝合的超高分辨率图像。虚拟图像投影装置304的工作方式将参考图5A-5D进行描述。
为了产生适于弯曲影院屏幕的超高清晰图像,虚拟图像投影装置304将一个摄像机104接收的光的每个像素映射到适当弯曲的虚拟焦平面上。这将参照图5A和5B描述。作为选择地,为了产生适于平坦影院屏幕的超高清晰图像,虚拟图像投影装置304将一个摄像机接收的光的每个像素映射到平坦的虚拟焦平面上。这将参考图5C和5D描述。
参考图5A,虚拟图像投影装置304将来自摄像机组102的摄像机104的一个像素或一个以上像素的内插值(interpolation)映射到虚拟弯曲焦平面510中的每个像素。虚拟弯曲焦平面定义了根据该实施例的虚拟摄像机的焦平面。该映射的效果在图5A中以图像411示出。
参考图5B描述根据该实施例的映射。在虚拟弯曲焦平面510上的映射图像以每次一个像素的方式产生。因此,以下将只描述一个像素到一维平面的映射。但是,技术人员将意识到,在实际中可,使用向量运算将该构思扩展到二维平面。
虚线512表示实况比赛上来自对象的光线。光线穿过位于摄像机组102中的摄像机104的焦点514。然后光线传到摄像机104中的图像阵列516中的一个像素上。在该例中,像素为摄像机104中的电荷耦合器件(CCD)像素。虚拟弯曲焦平面被确定为在图像阵列516中的像素后的距离。当然,虚拟焦平面可以位于图像阵列516的前面。另外,虚拟焦平面也可以位于图像阵列516之前和之后的组合。因此,如果先前在对准阶段计算的摄像机参数(摇摆、倾斜、滚转、镜头筒等)和在虚拟弯曲焦平面510中每个像素的图像阵列516之后的距离是已知的,则虚拟图像投影装置304可以为虚拟弯曲焦平面510上的每个像素确定图像阵列516上的哪个像素(或者多于一个像素的内插值)应该被映射到位于虚拟弯曲焦平面510的像素上。应该注意的是,来自图像阵列516的像素可以在被映射前滤波以减少失真效应(aliasing effect)。但是,这种滤波不是必须的。
另外,如前述,虚拟弯曲焦平面上的一个像素可以对应于图像阵列516上的一个像素或者图像阵列516上的多于一个像素的组合。尤其是,有可能虚拟弯曲焦平面上的像素可以是图像阵列516上多于一个像素的内插值。该内插值可以是平均值、加权平均值或合适内插值的任意其它形式,其可能依赖于映射的像素到图像阵列516上的一个像素与到图像阵列516上的另一像素的接近程度。下面将会解释,尤其是在摄像机组102中的两个不同的摄像机104的视野的重叠区域中,弯曲虚拟焦平面510上的像素可以是来自不同的替代摄像机的图像阵列516的像素值或者多于一个像素值的内插组合。
参考图5C,虚拟图像投影装置304将来自摄像机组的摄像机104的一个像素或一个以上像素的内插值映射到虚拟平坦焦平面510’中的每个像素上。虚拟平坦焦平面510’定义了根据该实施例的虚拟摄像机的焦平面。该映射的效果在图5C中以图411’示出。
参考图5D描述根据该实施例的映射。在虚拟平坦焦平面510上映射的图像以每次一个像素的方式产生。因此,以下将只描述一个像素到一维平面的映射。但是,技术人员将理解,在实际中可以使用向量运算将该构思扩展到二维平面。
虚线512’表示实况比赛上来自对象的光线。光线穿过位于摄像机组102中的摄像机104的焦点514’。然后光线传到摄像机104中的图像阵列516’中的一个像素上。在该例中,像素为摄像机104中的电荷耦合器件(CCD)像素。将虚拟平坦焦平面确定为在图像阵列516’中的像素之后的距离。当然,虚拟焦平面可以位于图像阵列516的前面。另外,虚拟焦平面也可以位于图像阵列516之前和之后的组合。因此,如果已知先前在对准阶段计算的摄像机参数(摇摆、倾斜、滚转、镜头筒等)和在虚拟平坦焦平面510中每个像素的图像阵列516’之后的距离,则虚拟图像投影装置304可以为虚拟平坦焦平面510’上的每个像素确定图像阵列516’上的哪个像素(或者多于一个像素的内插值)应该被映射到虚拟平坦焦平面510’上。应该注意的是,来自图像阵列510的像素可以在被映射前滤波以减少失真效应(aliasing effect)。但是,这种滤波不是必须的。
另外,如前述,虚拟弯曲焦平面上的一个像素可以对应于图像阵列516’上的一个像素或者图像阵列516’上的多于一个像素的组合。尤其是,有可能虚拟平坦焦平面上的像素可以是图像阵列516’上多于一个像素的内插值。该内插值可以是平均值、加权平均值或合适内插值的任意其它形式,其可能依赖于映射的像素到图像阵列516’上的一个像素与到图像阵列516’上的另一像素的接近程度。下面将会解释,尤其是在摄像机组102中的两个不同的摄像机104的视野的重叠区域中,虚拟平坦焦平面510’上的像素可以是来自不同的替代摄像机的图像阵列516’的像素值或者多于一个像素值的内插组合。
当通过被投影到平坦的虚拟焦平面生成超高分辨率图像时,呈现给用户的长宽比会有轻微的不准确。这在观看整个图像时特别明显。为了减少这种效应,调整平坦的虚拟焦平面的长宽比。但是,这会导致垂直图像的发散(divergence)。因此,在一个实施例中,确定了考虑上述现象的适当的长宽比。
回到图4,在图像被映射后(导致与406中所示的类似的镜头),被映射的图像被传送到曝光校正器408。曝光校正器408被配置成分析摄像机组102中每个摄像机104产生的重叠图像的曝光和/或比色(colouritmery)。根据该信息,曝光校正器408调整一个摄像机的曝光和/或比色参数来匹配其它摄像机。作为选择地,调整一个摄像机的曝光和/或比色设置,从而使得曝光和/或比色的任何突然变化被消除。但是利用上述替换的组合是可能的。在对准步骤期间校正曝光和/或比色是有利的,因为这导致改进的摄像机参数。但是可以认识到,这样的参数不需要在对准步骤期间被校正。如果在摄像机的对准期间不考虑这些参数,那么该校正可以对来自摄像机的图像输出进行。在该例中,要注意的是,调整来自一个摄像机的图像输出以匹配其它图像的曝光和/或比色可能增加图像的整体动态范围,这将需要额外的存储和/或处理。
来自曝光校正器408的图像输出被传送到误差生成器410中,误差生成器410被配置成为每组选择的摄像机参数确定重叠区域中的每个像素的平均均方误差。
在为一组参数生成每个像素的平均均方误差后,它将随摄像机参数设置一起存储。然后,产生图像B的摄像机的摄像机参数以任意方式和任意精度改变。计算改变的参数的每个像素的平均均方误差并且将其随摄像机参数设置一起存储。在产生图像B的摄像机的摄像机参数进行了一定范围的改变后,确定具有最低误差的摄像机设置。然后采用较少的低通滤波并且以细微调整参数精度的方式重复对准步骤。重复该步骤直到生成了正确的摄像机参数,这些参数满足重叠中所需的误差。摄像机参数随后存储在图像处理装置106内,虽然摄像机阐述可以存储在系统内的任何地方。
要注意的是,尽管已经参照实况图像对对准步骤进行了描述,但是也可使用保持在摄像机前面的校准目标(calibration target)。但是,采用这种技术有一个明显的缺点。对于实况比赛,可能需要非常大的校准目标(超过10米)。另外,使用实况图像意味着如果例如由于风的原因,组中的摄像机(一个或多个)轻微地移动,那么可以实时进行小的调整而不影响实况流。例如,可以使用先前存储的最小值之一和作对准步骤重校准。因此,摄像机参数可以被确定为“下线”(即,非实时广播),或者如果需要重校准摄像机,那么或者确定为“在线”(即,实时广播)。
现在回到图3,将对图像缝合装置108进行进一步的描述。在建立起摄像机参数之后,来自每个摄像机的图像输出被传送到第二图像投影装置304。来自第二图像投影装置304的输出被传送到彩色校正器306中。来自彩色校正器308的输出被传送到曝光校正器308中。这里要注意的是,第二图像投影装置304、彩色校正器306和曝光校正器308的功能性(functionality)与参照图4所描述的图像投影仪404和曝光和/或比色校正器408的是一样的。这意味着,易于对超高清晰图像作如同对来自摄像机104的单独图像输出那样的校正。
曝光校正器308的输出被传送到视差误差校正器310中。视差误差校正器310防止了图像被缝合到一起时两个摄像机图像的重叠区域内的对象出现两次所造成的“幻影”(ghost)。
为了解决该问题,在缝合的图像中,为每个重叠区域产生掩模(mask)。然后,假定掩模中的任何明显的误差是由视差现象造成的。利用重叠区域中的像素之间的均方平均误差(meansquared average error)来量化这些误差。由于对准步骤最小化任何由于摄像机参数造成的误差,所以这是有效的假设。掩模中的所有单个对象使用已知的形态学和对象分段算法来标记。如果重叠区域中的像素之间的明显误差低于阈值,那么就将两个图像混合(blend)到一起。作为选择地,在误差高的区域中,认为假象已经发生并仅使用来自一个摄像机的一个图像。为了减少视差现象,期望使每个摄像机的焦点靠在一起。
参见图1,图像缝合装置108的输出被传送到可缩放内容准备装置110。如前所述,各种不同的视频流从来自图像缝合装置108输出的超高分辨率图像中产生。期望的是,也产生自动生成的超高分辨率图像的片段,对已经手动引导或修复的图像也是如此。如所理解的,超高分辨率图像的片段的分辨率比超高分辨率图像的分辨率低。这使得片段可以在网络上多路广播到个人显示设备122。作为选择地或者另外地,片段可以被传送或广播到支持视频流的任意设备。
参照图5A、5B和6A解释了片段的生成。在一个实施例中通过可缩放内容准备装置110实现该处理,尽管本发明并不限于此。尽管图6A中的特定实施例参照描述的情形是从由弯曲虚拟焦平面产生的超高清晰图像中产生片段,但是在其它实施例中,可以生成使用虚拟平坦焦平面或者实际上来自单个摄像机输出而产生的超高清晰图像的片段。
参见图6A,显示比赛场地411的全景的虚拟弯曲焦平面510使用参照图5A和5B表示的实施例生成。片段模拟置于摄像机组102中的指向特定方向的伪摄像机的视野。换句话说,如果用正确的透视从摄像机组102中的摄像机104的焦点FP观看,那么片段将显现为超高清晰图像的区域。该片段作为来自伪摄像机的焦平面602的输出提供。为清楚起见,在图6A中只示出了两个摄像机104的图像阵列516。
确定片段的几何结构(即片段的大小和形状)。应当注意到片段的几何结构(并且相应地,伪摄像机的焦平面602)可以根据许多参数而变化和/或设置。例如,如果生成片段以跟踪足球场上某个运动员,那么可以根据运动员的身高来改变片段的几何结构。这可以通过用户完成或自动完成。
然后由用户确定或自动确定要观看的来自弯曲焦平面510的超高清晰图像的片段。自动确定片段的一个例子是使用运动员跟踪。在该例子中,片段可以以被跟踪的运动员为中心。片段的方位由方位信号提供。为辅助系统的控制者,可以在显示的超高清晰图像上提供定义片段内容的框。该框在手动或自动确定片段的情况下是有用的。在自动地生成片段的情况下,如果跟踪算法停止(即未在两个或多个连续的帧之间跟踪该运动员),那么控制者可以手动辅助该跟踪算法来重新找到运动员。该框可以是任何形状和/或尺寸并且由片段的几何结构和虚拟焦平面510的几何结构确定。框的生成将会在之后解释。
为生成片段(并且因此是伪摄像机的焦平面602),相对于摄像机104的焦点FP来确定伪摄像机的方向602’。更具体地,确定在超高清晰图像中的位置(可以是一点或者少量的像素)和摄像机104的焦点FP之间的方向602’。采用在对准阶段计算的摄像机参数,可以确定伪摄像机相对于摄像机104的焦点FP的方向602’。更具体地,超高清晰图像中的位置是来自摄像机104的焦点FP的某个方向,该方向从先前确定的摄像机参数计算得到。
在确定伪摄像机的方向602’之后,伪摄像机的焦平面602处于基本上垂直于方向602’的位置。伪摄像机的焦平面602确定片段的大小。术语基本上垂直不但包括接近垂直,还包括精确垂直。换句话说,伪摄像机的焦平面602将在超高清晰图像中的那个位置上基本垂直于摄像机104的焦点FP。
为了确定在伪摄像机的焦平面602上使用来自图像阵列516的哪些像素,将以参照图5B和5D所描述的相似方法来进行映射。具体地,对于伪摄像机的焦平面602中的每个像素,采用在对准阶段生成的摄像机参数来确定图像阵列516中的合适的像素或者两个或更多个像素的内插组合值。对于伪摄像机的焦平面602上的每个像素进行映射。
因为在实况比赛的过程中需要不同的片段(例如因为跟踪不同的运动员),如下面所述描述的,因此要为任意个不同的伪摄像机的方位以及任意个不同的伪摄像机焦平面602和不同的方向602’,将来自摄像机104的像素映射到伪摄像机的焦平面602上。这在图6B中示出,该图示出伪摄像机的不同方位。另外,应当注意到伪摄像机的焦平面602的一部分处于重叠区域内。在该例中,在伪摄像机的焦平面602上的映射可能需要如前面参照图3B所述的选择任一图像阵列516中的一个或多个内插的像素。如图1中所示的,可缩放内容准备装置110可以从色差校正器105的输出中直接获得像素信息。
如前所述,可以生成包含构成片段一部分的图像的框。该框在图1中示出并标记为415。如前所述,片段的超高清晰图像的位置被确定。这使得可以使用摄像机参数确定超高分辨率图像上的位置和摄像机104的焦点FP之间的方向602’。另外,由于伪摄像机的焦平面602的几何结构是已知的,所以可以使用向量几何学来计算虚拟焦平面510上片段轮廓与图像交叉的地方。这在图6C中示出。
由于图1中场景101是参照平坦的虚拟焦平面进行描述的,所以为了保持一致,在图6C中使用平坦的虚拟焦平面,尽管本发明并不限于此。另外,为清楚起见,图6C中的描述是针对一维虚拟焦平面和伪摄像机的焦平面的,尽管本发明并不限于此。对于超高清晰图像中的位置,确定方向602’并且因而确定了伪摄像机焦平面602的方位。由于伪摄像机的焦平面602的几何结构已经在之前被确定,所以伪摄像机的焦平面602的轮廓是已知的。因此,使用向量几何学可以计算片段的轮廓将会位于虚拟焦平面510(并且因此是超高清晰图像)的什么地方。因此,可以在超高清晰图像上描绘片段的轮廓,该片段将由伪摄像机焦平面602产生。如在图6C中所看到的,片段的实际大小和形状将会朝着超高清图像的边缘变化。这复制了伪摄像机的视图。例如,如在图6C中所看到的,采用指向方向602’的伪摄像机比指向方向606’的摄像机的片段将会更长。长度上的轻微增加在图6C中以604示出。
为了自动生成片段,将需要在超高分辨率图像中检测感兴趣的对象并且在图像上跟踪该对象。对象检测是基于形状检测、图像识别和分类技术的组合的概率系统。不用类型的检测器用于不同类型的对象,例如球检测器、运动员检测器等等。另外,在实施例中还可以使用多个同类型检测器。例如,可以有22个运动员检测器,每一个被训练为检测不同的运动员。随后在超高分辨率图像上跟踪检测到的对象。这使得用户可以观看其中定位于一个特定运动员的超高分辨率图像的片段。这给出了自动生成“运动员摄像机”的效果。超高分辨率图像减少了对象检测和跟踪算法中的误差。
如果对象跟踪算法失去了对运动员的跟踪,那么该算法会在超高分辨率图像上确认运动员被最后定位的地方。然后,对象检测算法会在该方位周围扩大对该运动员的搜索区域。这会给出图像被“放大”的效果(appearance)。一旦再一次检测到运动员,跟踪算法随后将从新的位置继续跟踪运动员。为了增加运动员跟踪算法的可靠性,会想到跟踪多于一个的特征。例如,可跟踪运动员的头部和球衣号码。另外,为了改善观看者的体验,可使用时域滤波器限制观看的片段在方向上的改变。这更接近地模拟了真实电视摄像机的移动。
然后每个生成的视频流被传送到分发装置112,用于在内容数据库114中存储和/或通过WiFi网络、蜂窝电话网络(未示出)或任何其它通过数据流装置116支持视频流的网络向观看者分发内容。
连接到WiFi网络118的是多个个人显示设备122。参照图8对个人显示设备122进行描述。每个个人显示设备122具有屏幕112c、导航按钮122b、选择按钮122a和将个人显示设备122连接到网络的网络适配器125。导航按钮122b和选择按钮122a使得用户可以在可用的选项之间导航以观看视频流(例如,观看哪个视频流等等)。显示设备122中还提供了包含适当程序以处理接收到的视频流的存储器123。这样的程序还可以包括解密算法来解密加密的视频流。技术人员将理解,该程序还可以用硬件实现来代替或除程序以外的方式来实现。为了确保每个个人显示设备122可以观看该视频流,数据流装置116使用MPEG-4格式压缩该视频流。但是,会想到的是,任何其它压缩格式也适于使得以低比特率来传送适当质量的视频流。在MPEG-4的情况中,每个视频流将具有接近500Kb/s的比特率。
为了允许数量不等的观众观看视频流,在数据分发装置116和个人显示设备122之间设置了多路广播连接。当使用WiFi连接时,为每个视频流确定在多路广播地址范围内的多路广播地址。每个个人显示设备122被配置成接收该多路广播视频流。进一步,为了让观众有机会选择最合适的视频流,在个人显示设备122上将会提供每个视频流的缩略图,用户可以从个人显示设备122上选择最合适的视频流。
在实施例中,在比赛期间,在个人显示设备122上记录了每个视频流的15秒的缓存。这意味着,如果发生特殊事件(例如进球得分或者运动员被罚下),那么个人显示设备122将存储那15秒的连续镜头并且将作为即刻回放或比赛结束时回放的精彩场面自动显示它们。个人显示设备122将会由数据分发装置116通知这样的事件。并且,内容数据库114也将存储这样的连续镜头,用于在比赛期间或之后作为单独的视频流传送。
在图7中,示出了解释个人显示设备122上的一系列比赛的故事板。在该故事板中,用户正在观看一场两只虚构球队(泰晤士流域足球俱乐部和伦敦城市足球俱乐部)之间的足球比赛,地点在泰晤士流域足球俱乐部场地。该应用程序开始在用户的个人显示设备122上运行。这示出了伦敦城市足球俱乐部的标识(用户是伦敦城市足球俱乐部的支持者)。用户输入接入代码以能够连接到服务器。接入代码在用户租用个人显示设备或在他们拿到他们的季票时被提供给用户。个人显示设备连接到数据流装置116。然后向用户提供多个选项。在故事板的屏幕4中,示出了“主页”。这给出了足球比赛的细节。使用个人显示设备122上的导航按钮122b,用户选择4个选项之一。在屏幕5中,用户已经请求了伦敦城市足球俱乐部队的细节。在屏幕6中,用户已经返回到“主页”,其示出伦敦城市足球俱乐部已经进球得了一分。返回主页可以在来自数据流装置116的指令下自动完成或通过用户手动完成。在屏幕7中,用户正在观看由数据流提供的实况流,在屏幕8中,用户在观看精彩场面流。
为了向用户提供该信息,在该实施例中,个人显示设备122接入3个数据流。第一个是由可缩放内容装置110提供的实况流,第二个是由内容数据库114提供的精彩场面流(精彩场面流可以提供这场比赛或之前比赛的精彩场面),第三个是数据流。
个人显示设备122“监听”数据流并且将存储的信息存储到存储器123内并作更新。数据流可以包含诸如球队新闻、进球、替补、最近得分、进球队员和比赛时间等信息。另外,数据信道可以包含图像数据,例如视频的精彩场面。但是,在实施例中,可以提供任何辅助信息(有时被称为元数据)。这种元数据可以包括涉及超高清晰图像或超高清晰图像的任何片段的信息,例如精彩场面标记符,这些信息可以被个人显示设备122用来将合适的图像存储在存储器123的缓存中;或者可以涉及超高清晰图像或超高清晰图像的任何片段的内容,例如得到分数后的标志。个人显示设备122可以持续或周期性地监听数据流。在一个实施例中,数据流将会采用扩展标记语言(XML)文件,以数据传送带的方式提供,尽管其他方式如所理解的那样也是可能的。实际上,可以使用任何合适的技术(例如数字喷泉(digital fountain)),其提供接收数据的高可能性(good chance)而无需用返回信道(backchannel)。
在实施例中,将会加密每个视频流和数据流。这意味着,为了能够在他们的个人显示设备122上接入视频流,用户将要付费以接收解密密钥。另外,用户将具有选择他们所接收视频流的数量的灵活性。例如,用户可以选择只接入来自内容数据库114的精彩场面视频。作为选择地,用户可以付更多的额外费用并接入所有视频流。会预料到的是,用户在专门的网站上注册个人显示设备122之后,将会在比赛之前接收到这些解密密钥。然后解密密钥会被提供。向用户提供解密密钥的可替代的或者另外的方法是通过在到达比赛场地时选择他们需要的服务级别。然后解密密钥将会在WiFi网络上或者通过其它手段提供,例如通过提供装有解密密钥的闪存卡。视频流可以逐场比赛或者按赛季提供。也可以是,比赛场地向观众出租个人显示设备122以及提供视频流的接入。
另外,如图1中所述,可缩放内容装置110还提供视频流到高清电视显示器120。这将在高清串口数字接口(HDSDI)输出上提供,该输出连接到广播公司的用于直接传送的视频交换机或音频视频信道(AVC)编解码器。到高清电视显示器120的流将使用球跟踪算法生成,尽管也可以手动控制。进一步,会想到的是,高清电视显示器120还可以显示整个比赛图像。但是,由于图像的尺寸,这将需要可观的信箱效应(Letter Box effect)。还会想到的是,视频流的片段可以被传送到一对虚拟真实眼罩122a。在该例中,眼罩面对的方向将允许生成合适的视频片段。
超高清晰影院124位于远离比赛场地的地方。这增加了比赛场地的有效容量同时也增加了来自点心等的收入。也可以预料到,超高清晰影院124可以位于与比赛地不同的国家。在该例中,可以通过卫星传送缝合的图像。这使得一个事件(例如足球世界杯或者国际板球比赛等或者是例如Live-8等的音乐会)有全球范围的覆盖率。
技术人员将理解,对由摄像机组102中的每个摄像机104产生的图像信号进行处理以产生超高清晰图像和在个人显示设备122上观看视频流可以通过至少一个运行计算机程序的微处理器实现。计算机程序将会在存储介质上提供,存储介质可以是磁可读介质或光可读介质或者可以是实际上在网络(例如局域网或者广域网或者因特网)上提供的信号。
尽管之前已经参照实况比赛进行了描述,但技术人员将会理解该系统可以用于任意数量的其它场合。例如,本发明在监视系统中是有用的,在该系统中重要的是在大范围内跟踪犯罪嫌疑人。如上所述,由于图像的高分辨率,本发明尤其适于自动的对象(包括脸)检测和跟踪。
尽管之前已经描述了将超高清晰图像的片段发送到个人显示设备122,但是片段可以替代地或者另外地被发送到移动电话或可以作为“画中画”型方式包括在超高清晰图像中。进一步,片段可以在记录的超高清晰图像上产生,从而可以生成精彩场面连续镜头的片段。在该例中,元数据可以表征连续镜头的属性(例如摄像机参数)以允许生成该片段。
尽管前面已经参照使用来自摄像机(一个或多个)104的图像阵列的像素来映射片段的情形,但是将会理解,如果来自摄像机104的图像不可用,则可以使用来自超高清晰图像的像素信息来映射片段。在该例中,拥有一个摄像机参数的估计(例如随图像数据一起提供的焦距)是有用的。但是,从超高清晰图像获取片段可能会降低片段的分辨率,因为超高清晰度可能由内插的像素值组成。因此,当使用超高清晰图像时,生成的片段的分辨率可能会降低。
现在转到图9,如上所述,为了生成超高清晰图像,采用摄像机装置102来拍摄比赛。摄像机装置102中的每个摄像机单元具有不同但重叠的视野。摄像机单元被相邻地放置。如上所述,一个摄像机的镜头应该尽可能地靠近相邻的摄像机的镜头放置,但是又没有实际接触。这减少了视差效应并且确保一个摄像机单元的镜头不会在其它摄像机单元的视野内被拍摄到。然后,拍摄的图像被缝合到一起以形成超高清晰图像。图9描述了一种产生摄像机装置102的方法,其具有两个共处一处的摄像机单元1004和1006。
在图9中的部分(a)中,在本发明的实施例中,每个摄像机单元1004和1006是全貌模式下安装在单独摄像机支架1010上的高清摄像机。如图9中的部分(a)所示,每个摄像机单元具有开始时从页面向外指向的镜头。每个摄像机支架1010具有安装托架1012,其上分别安装了摄像机单元1004和1006。安装托架1012将摄像机单元1004和1006紧固在支持和抬高摄像机单元的支管1014上。
安装托架1012使得安装其上的摄像机单元能够以倾斜和摇摆方式受控。倾斜是常规的术语,意思是在垂直平面内的双向运动(图9中的y轴),而摇摆是常规术语,意思是在水平平面内双向运动(图9中的x轴)。
如上所述,在摄像机装置中使用单独摄像机单元以给出具有非常大视野的单个摄像机的效果。实际上,摄像机装置102的总体视野是每个摄像机单元1004和1006的视野之和减去每个摄像机单元1004和1006的视野重叠的区域。例如,如果摄像机装置102具有两个摄像机单元1004和1006,每个具有60°的视野并且具有5°的重叠区域,那么摄像机102的有效总体视野为115°。
为了产生这样的总体视野,调整每个摄像机1004和1006的摇摆使得摄像机镜头指向合适的方向。为了减少视差效应,让每个摄像机单元具有相同的焦点是有利的。因此,将每个摄像机单元的镜头接近放置是有利的。这种布置在图9中的部分(b)示出。
在许多情况下,例如拍摄体育比赛,摄像机装置102将位于比被拍摄比赛抬高的方位。这意味着为了拍摄该比赛,将要调整每个摄像机单元1004和1006的倾斜。具体地,如图9中部分(c)所示,将会调整每个摄像机单元1004和1006使得摄像机的镜头向下并且朝向要拍摄的比赛。
在图10中,示出了摄像机单元1004的焦平面5160和摄像机单元1006的焦平面。另外,示出了使得由每个摄像机单元1004和1006拍摄的图片能缝合在一起所需的重叠区域5168。重叠区域5168在图10中用点突出显示。还示出了由缝合产生的最终的超高清晰图像124。需要重叠区域5168来将由每个摄像机单元1004和1006拍摄的图像缝合到一起。重叠区域5168的尺寸将非常依赖于要拍摄的比赛。例如,具有大量细节的比赛将比具有较小级别细节的比赛要求更小的重叠区域。这将被技术人员理解。由于所要求的重叠区域依赖于要拍摄的比赛,所以重叠区域5168在图10中具有任意的尺寸“d”。在当前的情况下,拍摄的是足球比赛,重叠区域d将会在5°左右。但是要注意到,不同的情况可以要求更大或者更小的重叠。
由于需要区域的重叠,所以焦平面5160和5162需要充分重叠以达到最小重叠区域。如图10中所示,由于这点,存在由交叉阴影线定义的额外的、不需要的重叠区域5166。该不需要的重叠5166导致超高倾斜图像水平分辨率的总体上的降低。另外,如阴影线所示,在超高清晰图像124的上面和下面存在区域5164,其不构成缝合的超高清晰图像的一部分。该不需要的区域5164导致垂直分辨率降低的超高清晰图像。
为了改进超高清晰图像的水平和垂直分辨率,本发明实施例中的其中一个或每个摄像机单元1004和1006被安装在不同类型的安装托架1012’上。与图9中的安装托架1012一样,该实施例的安装托架1012’具有倾斜和摇摆控制。但是,该实施例的安装托架1012’还允许各个摄像机单元1004和1006滚转。灌装是普通的术语,意思是围绕基本上穿过镜头中央轴的中央轴的旋转运动。
因此,在摄像机单元1004和1006被移动到参照图9解释的方位后,对其中一个或每个摄像机单元1004和1006的滚转进行调整。在图11的摄像机单元的例子中,当穿过摄像机单元1004的镜头观察时,摄像机1004反时针(逆时针)滚转,当穿过摄像机单元1006的镜头观察时,摄像机1006顺时针转动。注意,在该例中摄像机单元1004和1006都滚转。但是,这样的情况并不总是需要的。可以只使摄像机单元1004和1006中的一个滚转。
这种滚转的结果是摄像机单元的焦平面5160的一个边和摄像机单元的焦平面5162的一个边基本上互相平行。重叠区域5168仍然是d,就象能够缝合由照相机单元1004和照相机单元1006拍摄的图像要求的那样。但是,如图11中所示,用于产生超高清晰图像124的摄像机单元1004的焦平面5160与摄像机单元1006的焦平面5162的比例增加了。因此,由阴影线定义的区域5164减少了,并因此改进了超高清晰图像的垂直和水平分辨率。
另外,由于调整使得摄像机单元1004的焦平面5160的一个边和摄像机单元1006的焦平面5162的一个边基本上互相平行,所以摄像机单元1004和1006的摇摆被调整为使得摄像机装置102的总体视野最大,与此同时仍然提供进行图像缝合所需的至少最小的重叠区域。因此,通过使用本发明的该实施例,改进了超高清晰分辨率图像的水平分辨率。
但是,包括滚转装置的安装托架1012’不像未包括这样的装置的安装托架1012那样普通。因此,安装托架1012’的成本高于安装托架1012。另外,通过对摄像机单元1004和/或1006应用滚转,负载不均衡被施加到摄像机支架上。由于高清晰摄像机单元1004和1006的重量,在每个摄像机支架上的负载不均衡并非无关紧要。
为了改进该实施例,现将参照图12对本发明的另外实施例进行描述。
摄像机单元1004和1006被安装在相应的第三安装托架1208上。第三安装托架1208仅需能够作摇摆运动,尽管第三安装托架1208也可以有倾斜运动的能力。尽管不是优选,但是第三按照托架1208可以包括滚转运动,但是如上所述,包括滚转运动的按照托架更昂贵并且当在其上安装摄像机单元1004和1006时易于受制于负载不均衡。
第三安装托架1208设置在摄像机平台1200上。第三安装托架1208安装在平台1200上以使得第三安装托架1208可以沿着平台1200作双向运动。摄像机平台1200被安装在允许摇摆和倾斜运动的平台托架1202上。摇摆和倾斜运动由控制臂1206控制。平台托架1202被安装支架1204上,它可以是台式架(table topstand)(未示出)或支管。支架1204用于支撑摄像机装置的重量。
参考图13,安装托架1208与各自的滑道1210啮合。滑道1210可以设置于平台1200的表面或者设置于平台1200的表面之下。另外,尽管示出了每个安装托架一个单独的滑道,但是技术人员将理解,同样可以使用任意数量的单独滑道。实际上,可以仅提供一个滑道,安装托架1208可沿该滑道移动。为了与相应的滑道1210啮合,安装托架1208必须被合适地成形。滑道1210使得相应的安装托架1208沿其移动。从图13中示出的平台1200的平面图可见,在安装托架1208上示出了螺纹接头1212(screw fitting),其使相应的摄像机单元1004和1006与安装托架1208啮合。可以理解,其它类型的接头也可以使用或代替使用。
尽管没有示出,但是每个固定平台1208还包括锁定机构,当被触发时,其将安装托架1208锁定在沿滑道1210的固定位置上。当锁定没有被触发时,安装托架1208可以沿滑道1210自由移动。
回头参考图12,在使用中,每个对应的摄像机单元1004和1006被固定在安装托架1208上。相应的摄像机单元1004和1006与螺纹接头1212啮合。摄像机单元1004和1006被配置为使得每个摄像机单元的倾斜相同,例如,其相对于视野的水平轴可以是0°。调整每个摄像机单元1004和1006的摇摆来获得要拍摄的比赛的正确的视野。另外,调整摇摆来确保每个视野之间的合适的重叠。在该实施例中,调整每个摄像机单元1004和1006的摇摆以获得5°的重叠。
解除(如果之前已经触发)每个安装托架1208上的锁定机构,使得安装托架1208(跟着发生的相应的摄像机单元1004和1006)可以沿着滑道1210移动。安装托架1208沿着滑道1210移动来减少每个摄像机单元1004和1006之间的距离。换句话说,摄像机单元1004和1006朝着对方移动。每个摄像机单元1004和1006被移动到一起,从而使得每个摄像机单元1004和1006的镜头尽可能接近但不接触到。这是为了确保一个摄像机单元的镜头不会出现在另一个摄像机单元的视野内。另外,通过将摄像机单元设置得接近,使得每个摄像机单元1004和1006的焦点十分相似。如上所述,这样减少了视差效应。但是,该过程可能改变重叠的区域。如果发生了这样的情况,那么调整任意一个或多个摄像机单元的摇摆来维持该最小重叠。
当分相隔合适的距离并具有合适的重叠时,就触发锁定机构将安装托架1208固定到沿着滑道1210的位置。通过以这种方式将摄像机单元1004和1006锁定在适当位置上,每个摄像机单元1004和1006的每个焦平面的边基本上互相平行,具有所需的重叠。这导致图11中示出的焦平面布局。
一旦摄像机单元1004和1006被固定在适当位置上,摄像机平台1200的倾斜和摇摆可以通过控制手柄1206来调整。这使得不用使摄像机单元1004和1006的单独的焦平面相对于其它摄像机单元1006和1004移动,就可以使焦平面装置移动。因此,将图11的焦平面装置的倾斜和摇摆作为整体调整,这意味着对摄像机平台1200的倾斜和摇摆的调整不会影响到图11的有利的焦平面布局。
会想到的是,在一个实施例中,在摄像机平台1200被定位在体育场中之前,摄像机平台1200上的摄像机单元1004和1006的摇摆将会被调整至正确的取向。但是,本发明并不限于此。进一步,尽管前面已经以每个摄像机单元的单独滑道的情形作了描述,但本发明并不限于此。实际上,在一个实施例中,会想到的是,摄像机平台将具有一个滑道,并且每个摄像机单元1004和1006将被按照安装在共同的滑道上。这提供的额外优点是,使得通用平台上允许设置任意数量的摄像机单元。另外,尽管前面已经以只包含两个摄像机单元的摄像机装置的情形作了描述,但本发明不限于此。例如,摄像机装置可以有任意数量的摄像机单元,例如6个或8个摄像机。另外,描述的摄像机单元在全貌模式下定位。但是,摄像机单元可以肖像模式下定位。这有利于增加垂直分辨率,并且如所理解的那样,当摄像机装置包括两个以上的摄像机单元(例如,6个摄像机单元)时特别适用。

Claims (89)

1.一种生成图像内容的方法,包括:
接收图像数据,该图像数据表示由具有预定的焦点位置的摄像机装置生成的图像;
以下列方式生成片段图像数据,该片段图像数据表示图像的被选择的片段:
(i)确定表示该被选择的片段的基本上平坦的平面,该平坦的平面被定位为使得其以基本上垂直于摄像机装置的焦点位置的方式位于被选择的片段中的参考位置;以及
(ii)根据摄像机的至少一个参数,将像素数据映射到基本上平坦的平面。
2.根据权利要求1的方法,其中像素数据从摄像机设备生成。
3.根据权利要求1的方法,其中像素数据从图像数据生成,其中摄像机参数以与图像数据关联的方式被提供。
4.根据权利要求1、2或3中任意一项的方法,包括:
以下列方式在图像上描绘片段图像数据的轮廓:确定平坦的平面的轮廓并根据参考位置上平坦的平面相对于图像的角度方位,将平坦的平面的轮廓映射到图像上。
5.根据权利要求1-4中任意一项的方法,其中摄像机装置包括多个摄像机单元,各个摄像机单元生成表示摄像机单元的视野的单元图像数据,其中相邻摄像机单元的至少部分视野是不同的;以及图像数据被生成并表示从接收的单元图像数据生成的合成图像。
6.根据权利要求5的方法,其中根据相邻摄像机单元的视野之间的重叠中的误差,确定各个摄像机单元的至少一个摄像机参数。
7.根据权利要求5或6的方法,其中生成合成图像的步骤包括:
根据摄像机单元的至少一个参数,将接收的单元图像数据映射到位于表示合成图像的平面的像素上。
8.根据权利要求7的方法,包括:
重叠相邻摄像机单元的至少部分视野,并且
其中接收的单元图像数据或像素数据的映射包括:
分别内插接收的单元图像数据或像素数据,如果像素间的误差测量低于阈值,则其表示重叠区域中的多个像素。
9.根据权利要求7的方法,包括:
重叠相邻摄像机单元的至少部分视野,并且
其中,接收的图像或像素数据的映射包括:
分别选择接收的单元图像数据或像素数据,如果所述像素间的误差测量高于阈值,则其表示来自摄像机单元之一的重叠区域中的像素而非来自相邻摄像机单元的像素。
10.根据权利要求8或9的方法,其中误差测量是视差误差测量。
11.根据权利要求5-10中任意一项的方法,其中,一对相邻摄像机单元的焦点基本上相同。
12.根据前述任意一项的权利要求的方法,包括:
根据由摄像机装置生成的图像数据的红和绿分量与蓝和绿分量的比较,减少由摄像机装置生成的色差。
13.根据权利要求5-11任意一项的方法,包括:
根据由摄像机单元生成的单元图像数据的红和绿分量与蓝和绿分量的比较,减少由多个摄像机单元中的一个生成的色差。
14.根据前述任意一项的权利要求的方法,包括:
基于目标检测算法检测图像数据中的目标;以及
生成确认图像数据中被检测目标的位置的方位信号。
15.根据权利要求14的方法,包括基于目标跟踪算法在图像的连续帧之间跟踪检测的目标。
16.根据权利要求14或15的方法,包括根据方位信号确认图像片段。
17.根据权利要求15的方法,其中,如果在图像的连续帧之间,停止跟踪连续帧之间的检测的目标,那么该方法进一步包括:
根据方位信号确认图像区域;以及
在确认的区域内并且根据检测算法检测目标。
18.根据前述任意一项的权利要求的方法,包括在显示器上显示图像。
19.根据权利要求18的方法,其中,该显示步骤包括同时显示图像和片段图像数据。
20.根据权利要求18或19的方法,其中,该显示器是弯曲屏幕。
21.根据权利要求前述任意一项的方法,包括分发图像或部分图像和/或片段图像数据的表示。
22.根据权利要求21的方法,进一步包括分发与图像或部分图像和/或片段图像数据的表示相分离的辅助数据。
23.根据权利要求22的方法,该辅助数据是元数据。
24.根据权利要求22或23的方法,该辅助数据或元数据以数据传送带的方式分发。
25.根据权利要求20-24中任意一项的方法,其中,辅助数据、图像或部分图像和/或片段图像数据的表示通过广播分发。
26.根据权利要求20-24中任意一项的方法,其中,辅助数据、图像或部分图像和/或片段图像数据的表示在网络上发布。
27.根据权利要求20-26中任意一项的方法,包括在分发之前,采用加密密钥加密所述表示或它的至少一部分或者辅助数据。
28.一种图像内容生成装置,包括:
图像接收装置,可操作地接收图像数据,该图像数据表示由具有预定的焦点位置的摄像机装置生成的图像;以及
图像处理装置,通过下列方式可操作地生成片段图像数据,该片段图像数据表示图像的被选择的片段:
(i)确定表示该被选择的片段的基本上平坦的平面,该平坦的平面被定位为使得其以基本上垂直于摄像机装置的焦点位置的方式位于被选择的片段中的参考位置;以及
(ii)根据摄像机的至少一个参数,将像素数据映射到基本上平坦的平面。
29.根据权利要求28的装置,其中像素数据从摄像机装置产生。
30.根据权利要求28的装置,像素数据从图像数据产生,其中,摄像机参数以与图像数据关联的方式提供。
31.根据权利要求28、29或30中任意一项的装置,该图像处理装置可操作地以下列方式描绘图像上的片段图像数据的轮廓:确定平坦的平面的轮廓并且根据在参考位置上平坦的平面相对于图像的角度方位,将平坦的平面的轮廓映射到图像上。
32.根据权利要求28-31中任意一项的装置,其中,摄像机装置包括多个摄像机单元,各个摄像机单元生成表示摄像机单元的视野的单元图像数据,其中相邻摄像机单元的至少部分视野是不同的;以及生成图像数据并表示从接收的单元图像数据生成的合成图像。
33.根据权利要求32的装置,其中图像处理装置可操作地使得根据相邻摄像机单元的视野之间的重叠中的误差确定各个摄像机单元的至少一个摄像机参数。
34.根据权利要求32或33的装置,其中,图像处理装置可操作地使得生成合成图像的步骤包括:
根据摄像机单元的至少一个参数,将接收的单元图像数据映射到位于表示合成图像的平面的像素上。
35.根据权利要求34的装置,其中图像处理装置可操作用于:
重叠相邻摄像机单元的至少部分视野,并且
其中接收的单元图像数据或像素数据的映射,图像处理装置可操作用于:
分别内插接收的单元图像数据或像素数据,如果像素间的误差测量低于阈值,则其表示重叠区域中的多个像素。
36.根据权利要求34的装置,图像处理装置可操作用于:
重叠相邻摄像机单元的至少部分视野,并且
其中接收的图像或像素数据的映射,图像处理装置可操作用于:
分别选择接收的单元图像数据或像素数据,如果所述像素间的误差测量高于阈值,则其表示来自摄像机单元之一的重叠区域中的像素而非来自相邻摄像机单元的像素。
37.根据权利要求35或36的装置,其中误差测量是视差误差测量。
38.根据权利要求33-37中任意一项的装置,其中,一对相邻摄像机单元的焦点基本上相同。
39.根据权利要求28-38中任意一项的装置,该装置包括:
色差减少装置,可操作用于根据由摄像机装置生成的图像数据的红和绿分量与蓝和绿分量的比较,减少由摄像机装置生成的色差。
40.根据权利要求33-38中任意一项的装置,该装置包括:
色差减少装置,可操作用于根据由摄像机单元生成的单元图像数据的红和绿分量与蓝和绿分量的比较,减少由多个摄像机单元中的一个生成的色差。
41.根据权利要求28-40中任意一项的装置,包括:
目标检测装置,可操作用于:
基于目标检测算法检测图像数据中的目标;以及
生成确认图像数据中检测的目标的位置的方位信号。
42.根据权利要求41的装置,其中目标检测装置可操作用于基于目标跟踪算法在图像的连续帧之间跟踪检测的目标。
43.根据权利要求41或42的装置,其中目标检测装置可操作用于根据方位信号确认图像片段。
44.根据权利要求42的装置,其中如果在图像的连续帧之间,停止跟踪连续帧之间的检测的目标,那么目标检测装置可进一步操作用于:
根据方位信号确认图像区域;以及
在确认的区域内并根据检测算法检测目标。
45.根据权利要求28-44中任意一项的装置,该装置包括显示器,可操作地显示图像。
46.根据权利要求45的装置,其中显示器可操作用于同时显示图像和片段图像数据。
47.根据权利要求45或46的装置,其中该显示器是弯曲屏幕。
48.根据权利要求28-47中任意一项的装置,包括分发器,可操作用于分发图像或部分图像和/或片段图像数据的表示。
49.根据权利要求48的装置,其中该分发器可操作用于分发与图像或部分图像和/或片段图像数据的表示相分离的辅助数据。
50.根据权利要求49的装置,其中该辅助数据是元数据。
51.根据权利要求49或50的装置,辅助数据或元数据以数据传送带的方式分发。
52.根据权利要求48-51中任意一项的装置,其中该分发器可操作用于通过广播分发辅助数据、图像或部分图像和/或片段图像数据的表示。
53.根据权利要求48-51中任意一项的装置,其中该分发器可操作用于在网络上分发辅助数据、图像或部分图像和/或片段图像数据的表示。
54.根据权利要求48-53中任意一项的装置,其中该分发器可操作用于在分发之前,采用加密密钥加密所述表示或它的至少一部分或者辅助数据。
55.根据权利要求32-54中任意一项的装置,其中在摄像机单元组中的各个摄像机单元设置成面向肖像模式。
56.一种显示装置,被设置成与根据权利要求48-55中任意一项的装置一起工作并可操作用于显示图像和/或片段图像数据的表示或它的至少一部分,该装置包括:
用于显示图像或部分图像和/或片段图像数据的表示的显示器。
57.根据权利要求56的显示装置,包括解密装置,用于解密图像或部分图像和/或片段图像数据的加密表示。
58.根据权利要求57的显示装置,包括存储器装置,该装置包含由解密装置可读的解密密钥,存储器装置可操作用于更新解密密钥。
59.根据权利要求56-58中任意一项的显示装置,包括回放装置,其可操作用于根据预定的标准,存储图像或部分图像和/或图像数据片段以供回放。
60.一种显示装置,包括数据接收装置,可操作用于接收数据信道,该数据信道包含从根据权利要求49-51中任意一项的装置发送的辅助数据。
61.根据权利要求56-60中任意一项的显示装置,配置成为个人显示装置。
62.一种计算机程序,包含计算机可读指令,当被加载到计算机上时,所述计算机可读指令使得计算机完成根据权利要求1-27中任意一项的方法。
63.一种计算机可读存储介质,被配置为其上或其内存储根据权利要求62的计算机程序。
64.一种产生收入的方法,包括:
从多个基本上共处一处的同时拍摄图像的摄像机单元接收图像数据,各个摄像机单元具有与相邻摄像机单元不同的但重叠的视野;
通过联接来自所述相邻的视野的图像数据,从接收的图像数据生成合成图像;
产生合成图像或部分合成图像的表示作为视频流;以及
允许用户以钱作为交换观看该表示。
65.根据权利要求64的方法,其中用户在个人显示装置上观看该表示。
66.根据权利要求65的方法,其中该表示使用加密密钥加密以及用户以钱作为交换下载对应的解密密钥。
67.根据权利要求65的方法,包括以钱作为交换将该显示装置租给用户。
68.一种生成收入的方法,包括:
接收图像数据,该图像数据表示由具有预定的焦点位置的摄像机装置生成的图像;
以下列方式生成片段图像数据,该片段图像数据表示图像的被选择的片段:
(i)确定表示该被选择的片段的基本上平坦的平面,该平坦的平面被定位为使得其以基本上垂直于摄像机装置的焦点位置的方式位于被选择的片段中的参考位置,以及
(ii)根据摄像机的至少一个参数,将像素数据映射到基本上平坦的平面,以及
允许用户用钱作为交换来观看片段图像数据。
69.一种生成图像内容的方法,基本上与前述并参照附图的一致。
70.一种生成图像内容的系统,基本上与前述并参照附图的一致。
71.一种图像处理装置,基本上与前述并参照附图的一致。
72.一种计算机程序,基本上与前述并参照附图的一致。
73.一种摄像机装置,包括多个基本上共处一处的摄像机单元,各个摄像机单元具有焦平面,各自的视野被赋予该焦平面,其中一个摄像机单元的视野与至少一个相邻摄像机单元的视野重叠,其中,在一个摄像机单元的视野移动之后,对所述一个摄像机单元进行定位使得所述一个摄像机单元的视野与所述至少一个相邻摄像机单元的视野之间的重叠沿着重叠的长度方向基本上均匀。
74.根据权利要求73的摄像机装置,其中所述一个摄像机单元和/或所述相邻的摄像机单元包括摄像机单元调整器,可操作用于调整所述一个摄像机单元和/或所述相邻的摄像机单元的倾斜、摇摆和滚转定位中的任意一个或多个,使得所述重叠沿着重叠的长度方向基本上均匀。
75.根据权利要求73或74的摄像机装置,其中,在所述一个摄像机单元的所述视野沿着视野的垂直轴作所述移动后,所述一个摄像机单元或所述相邻摄像机单元的滚转是可调整的。
76.根据权利要求73、74或75中任意一项的摄像机装置,包括装置调制器,可操作用于调整摄像机装置的倾斜或摇摆中的任意一个。
77.根据权利要求76的摄像机装置,包括具有底座的平台,其中,该平台可操作用于确定所述一个和至少一个所述相邻摄像机单元在其上的位置,该底座被配置成调整摄像机装置的倾斜或摇摆。
78.根据权利要求76或77的摄像机装置,其中在视野之间的重叠沿着重叠的长度方向基本上恒定时,所述装置调整器可操作使得摄像机装置的所述倾斜或摇摆是可调整的。
79.根据权利要求76-78中任意一项的摄像机装置,其中至少一个摄像机单元可以固定地安装在装置调整器上。
80.一种设置多个共处一处的摄像机单元的方法,包括步骤:
使一个摄像机单元的视野与至少一个其它摄像机单元的视野重叠,其中视野是可移动的并被赋予所述各自的摄像机单元的焦平面上;以及
在移动所述一个摄像机单元的所述视野之后,定位所述一个摄像机单元使得所述一个摄像机单元的视野与所述至少一个相邻摄像机单元的视野之间的所述重叠沿着重叠的长度方向基本上均匀。
81.根据权利要求80的方法,包括调整所述一个摄像机单元和/或所述相邻摄像机单元的倾斜、摇摆和滚转定位中的任意一个,使得所述重叠沿重叠长度方向基本上是均匀的。
82.根据权利要求80或81的方法,包括在所述一个摄像机单元的视野沿着视野的垂直轴移动后,调整所述一个摄像机单元或所述相邻摄像机单元中的任意一个的所述滚转。
83.根据权利要求80、81或82中任意一项的方法,包括调整摄像机装置的倾斜和摇摆中的任意一个。
84.根据权利要求83的方法,包括在平台上安装所述相邻摄像机单元的所述一个和至少一个并调整平台的倾斜和摇摆中的任意一个以调整摄像机装置的倾斜或摇摆中的任意一个。
85.根据权利要求83或84的方法,包括当视野之间的重叠沿着重叠的长度方向基本上恒定时,调整摄像机装置的倾斜或摇摆中的任意一个。
86.根据权利要求83的方法,包括在平台上安装所述一个和至少一个相邻摄像机单元并调整所述一个摄像机单元和/或所述至少一个相邻摄像机单元的摇摆以达到期望的重叠。
87.根据权利要求83或84的方法,包括固定地安装至少一个摄像机单元到平台。
88.一种摄像机装置,基本上与前述并参照附图的一致。
89.一种设置摄像机单元的方法,基本上与前述并参照附图的一致。
CN2007800508799A 2006-12-06 2007-11-20 用于生成图像内容的方法和装置 Expired - Fee Related CN101601277B (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
GB0624410A GB2444533B (en) 2006-12-06 2006-12-06 A method and an apparatus for generating image content
GB0624410.7 2006-12-06
GB0707068.3 2007-04-12
GB0707068A GB2444566B (en) 2006-12-06 2007-04-12 Camera arrangement and method
PCT/GB2007/004436 WO2008068456A2 (en) 2006-12-06 2007-11-20 A method and an apparatus for generating image content

Publications (2)

Publication Number Publication Date
CN101601277A true CN101601277A (zh) 2009-12-09
CN101601277B CN101601277B (zh) 2012-04-25

Family

ID=37711680

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2007800508799A Expired - Fee Related CN101601277B (zh) 2006-12-06 2007-11-20 用于生成图像内容的方法和装置

Country Status (4)

Country Link
US (2) US8427545B2 (zh)
JP (1) JP5158889B2 (zh)
CN (1) CN101601277B (zh)
GB (2) GB2444533B (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104937653A (zh) * 2013-03-21 2015-09-23 Lg电子株式会社 显示装置及其控制方法
CN105282500A (zh) * 2014-07-21 2016-01-27 霍尼韦尔国际公司 基于图像的监视系统
CN105765959A (zh) * 2013-08-29 2016-07-13 米迪亚普罗杜申有限公司 用于制作视频作品的方法和系统
CN107368104A (zh) * 2017-07-19 2017-11-21 济南中维世纪科技有限公司 基于手机app和家用智能云台摄像机的任意点定位方法
CN107566849A (zh) * 2016-06-30 2018-01-09 深圳锐取信息技术股份有限公司 一种足球比赛视频播放方法和装置
CN109213092A (zh) * 2017-07-04 2019-01-15 西克股份公司 用于传感器的参数化的方法
CN113052119A (zh) * 2021-04-07 2021-06-29 兴体(广州)智能科技有限公司 球类运动跟踪摄像方法及系统
CN113132768A (zh) * 2019-12-31 2021-07-16 致茂电子(苏州)有限公司 影像显示系统与方法

Families Citing this family (60)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2444533B (en) * 2006-12-06 2011-05-04 Sony Uk Ltd A method and an apparatus for generating image content
GB2452508A (en) 2007-09-05 2009-03-11 Sony Corp Generating a three-dimensional representation of a sports game
GB2452510A (en) 2007-09-05 2009-03-11 Sony Corp System For Communicating A Three Dimensional Representation Of A Sporting Event
GB2452512B (en) 2007-09-05 2012-02-29 Sony Corp Apparatus and method of object tracking
GB2455316B (en) 2007-12-04 2012-08-15 Sony Corp Image processing apparatus and method
KR101473215B1 (ko) * 2008-04-18 2014-12-17 삼성전자주식회사 파노라마 이미지 생성장치 및 그 방법
US9185361B2 (en) * 2008-07-29 2015-11-10 Gerald Curry Camera-based tracking and position determination for sporting events using event information and intelligence data extracted in real-time from position information
GB2469074A (en) 2009-03-31 2010-10-06 Sony Corp Object tracking with polynomial position adjustment
CN102036010A (zh) * 2009-09-30 2011-04-27 鸿富锦精密工业(深圳)有限公司 影像处理系统及方法
US20110115916A1 (en) * 2009-11-16 2011-05-19 Eiji Yafuso System for mosaic image acquisition
US8989514B2 (en) * 2011-02-03 2015-03-24 Voxeleron Llc Method and system for image analysis and interpretation
JP5762142B2 (ja) * 2011-05-31 2015-08-12 キヤノン株式会社 撮像装置、画像処理装置およびその方法
US10937239B2 (en) * 2012-02-23 2021-03-02 Charles D. Huston System and method for creating an environment and for sharing an event
US20140009570A1 (en) * 2012-07-03 2014-01-09 Tourwrist, Inc. Systems and methods for capture and display of flex-focus panoramas
US9936131B2 (en) * 2012-07-18 2018-04-03 Nokia Technologies Oy Robust two dimensional panorama generation using light field camera capture
JP2014035261A (ja) * 2012-08-08 2014-02-24 Sony Corp 情報処理方法、情報処理装置、プログラム、撮像装置、検査方法、検査装置、及び基板の製造方法
WO2014069920A1 (en) * 2012-11-01 2014-05-08 Samsung Electronics Co., Ltd. Recording medium, reproducing device for providing service based on data of recording medium, and method thereof
GB2512621A (en) 2013-04-04 2014-10-08 Sony Corp A method and apparatus
GB2512628A (en) 2013-04-04 2014-10-08 Sony Corp Method and apparatus
US9019405B2 (en) * 2013-05-21 2015-04-28 Stmicroelectronics, Inc. Method and apparatus for wavelength specific correction of distortion in digital images
US20140347709A1 (en) * 2013-05-21 2014-11-27 Stmicroelectronics, Inc. Method and apparatus for forming digital images
US9451162B2 (en) 2013-08-21 2016-09-20 Jaunt Inc. Camera array including camera modules
US11019258B2 (en) 2013-08-21 2021-05-25 Verizon Patent And Licensing Inc. Aggregating images and audio data to generate content
US9576341B2 (en) * 2013-10-30 2017-02-21 Ricoh Imaging Company, Ltd. Image-processing system, imaging apparatus and image-processing method
US9516358B2 (en) 2013-11-26 2016-12-06 At&T Intellectual Property I, L.P. Method and apparatus for providing media content
WO2015085406A1 (en) * 2013-12-13 2015-06-18 8702209 Canada Inc. Systems and methods for producing panoramic and stereoscopic videos
US9196039B2 (en) 2014-04-01 2015-11-24 Gopro, Inc. Image sensor read window adjustment for multi-camera array tolerance
JP6392370B2 (ja) * 2014-04-05 2018-09-19 ソニー インタラクティブ エンタテインメント アメリカ リミテッド ライアビリテイ カンパニー 様々なレンダリング及びラスタライゼーション・パラメータ下でビューポートを変化させるための、オブジェクトの効率的再レンダリング方法
US9911454B2 (en) 2014-05-29 2018-03-06 Jaunt Inc. Camera array including camera modules
US10368011B2 (en) 2014-07-25 2019-07-30 Jaunt Inc. Camera array removing lens distortion
US11108971B2 (en) 2014-07-25 2021-08-31 Verzon Patent and Licensing Ine. Camera array removing lens distortion
US10440398B2 (en) 2014-07-28 2019-10-08 Jaunt, Inc. Probabilistic model to compress images for three-dimensional video
US10701426B1 (en) 2014-07-28 2020-06-30 Verizon Patent And Licensing Inc. Virtual reality system including social graph
US10186301B1 (en) 2014-07-28 2019-01-22 Jaunt Inc. Camera array including camera modules
US9774887B1 (en) 2016-09-19 2017-09-26 Jaunt Inc. Behavioral directional encoding of three-dimensional video
US9363569B1 (en) 2014-07-28 2016-06-07 Jaunt Inc. Virtual reality system including social graph
US10178325B2 (en) 2015-01-19 2019-01-08 Oy Vulcan Vision Corporation Method and system for managing video of camera setup having multiple cameras
US20160119532A1 (en) * 2015-01-22 2016-04-28 Mediatek Inc. Method And Apparatus Of Utilizing Image/Video Data From Multiple Sources
US20160307350A1 (en) * 2015-04-14 2016-10-20 Magor Communications Corporation View synthesis - panorama
JP6621063B2 (ja) * 2015-04-29 2019-12-18 パナソニックIpマネジメント株式会社 カメラ選択方法及び映像配信システム
WO2017075614A1 (en) 2015-10-29 2017-05-04 Oy Vulcan Vision Corporation Video imaging an area of interest using networked cameras
JP2017099616A (ja) * 2015-12-01 2017-06-08 ソニー株式会社 手術用制御装置、手術用制御方法、およびプログラム、並びに手術システム
CN106611403A (zh) * 2016-05-25 2017-05-03 北京数科技有限公司 一种图像拼接方法及装置
FR3054945B1 (fr) * 2016-08-05 2019-09-06 Viaccess Procede de lecture et de generation d'un flux video contenant des images compressees et chiffrees
US11032536B2 (en) 2016-09-19 2021-06-08 Verizon Patent And Licensing Inc. Generating a three-dimensional preview from a two-dimensional selectable icon of a three-dimensional reality video
US11032535B2 (en) 2016-09-19 2021-06-08 Verizon Patent And Licensing Inc. Generating a three-dimensional preview of a three-dimensional video
US10681341B2 (en) 2016-09-19 2020-06-09 Verizon Patent And Licensing Inc. Using a sphere to reorient a location of a user in a three-dimensional virtual reality video
JP6822234B2 (ja) * 2017-03-15 2021-01-27 セイコーエプソン株式会社 プロジェクターシステム
US10708494B2 (en) * 2018-08-13 2020-07-07 At&T Intellectual Property I, L.P. Methods, systems and devices for adjusting panoramic video content
US10694167B1 (en) 2018-12-12 2020-06-23 Verizon Patent And Licensing Inc. Camera array including camera modules
JP7203587B2 (ja) 2018-12-14 2023-01-13 株式会社デンソーテン 画像処理装置および画像処理方法
JP7141940B2 (ja) 2018-12-14 2022-09-26 株式会社デンソーテン 画像処理装置および画像処理方法
JP7195131B2 (ja) 2018-12-14 2022-12-23 株式会社デンソーテン 画像処理装置および画像処理方法
JP2020095624A (ja) 2018-12-14 2020-06-18 株式会社デンソーテン 画像処理装置、および画像処理方法
JP7226986B2 (ja) * 2018-12-14 2023-02-21 株式会社デンソーテン 画像処理装置および画像処理方法
JP7252750B2 (ja) 2018-12-14 2023-04-05 株式会社デンソーテン 画像処理装置および画像処理方法
JP7359541B2 (ja) 2018-12-14 2023-10-11 株式会社デンソーテン 画像処理装置および画像処理方法
JP7236857B2 (ja) 2018-12-14 2023-03-10 株式会社デンソーテン 画像処理装置および画像処理方法
JP2020095623A (ja) 2018-12-14 2020-06-18 株式会社デンソーテン 画像処理装置および画像処理方法
JP2020095620A (ja) 2018-12-14 2020-06-18 株式会社デンソーテン 画像処理装置および画像処理方法

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5792989A (en) * 1980-12-01 1982-06-09 Kiyoshi Nagata Transmission and receiving system for stereoscopic color television
US5187571A (en) 1991-02-01 1993-02-16 Bell Communications Research, Inc. Television system for displaying multiple views of a remote location
DE69324224T2 (de) * 1992-12-29 1999-10-28 Koninkl Philips Electronics Nv Bildverarbeitungsverfahren und -vorrichtung zum Erzeugen eines Bildes aus mehreren angrenzenden Bildern
DE69430153T2 (de) * 1993-06-21 2002-09-05 Nippon Telegraph & Telephone Verfahren und Vorrichtung zur dreidimensionalen Bilderzeugung von Objekten
EP0669758B1 (en) 1993-09-06 2000-03-08 Kabushiki Kaisha Oh-Yoh Keisoku Kenkyusho Time-varying image processor and display device
US5430474A (en) * 1993-11-24 1995-07-04 Hines; Stephen P. Autostereoscopic imaging system
US5978015A (en) * 1994-10-13 1999-11-02 Minolta Co., Ltd. Stereoscopic system with convergence and dioptric power adjustments according to object distance
US5714997A (en) * 1995-01-06 1998-02-03 Anderson; David P. Virtual reality television system
GB2354388B (en) 1999-07-12 2003-08-13 Independent Television Commiss System and method for capture, broadcast and display of moving images
US7015954B1 (en) * 1999-08-09 2006-03-21 Fuji Xerox Co., Ltd. Automatic video system using multiple cameras
JP4169462B2 (ja) * 1999-08-26 2008-10-22 株式会社リコー 画像処理方法及び装置、デジタルカメラ、画像処理システム、並びに、画像処理プログラムを記録した記録媒体
US7193645B1 (en) 2000-07-27 2007-03-20 Pvi Virtual Media Services, Llc Video system and method of operating a video system
CN2483797Y (zh) * 2001-03-16 2002-03-27 王广生 可控视野显示装置
JP2002359617A (ja) * 2001-03-26 2002-12-13 Victor Co Of Japan Ltd 画像表示装置
JP2002290966A (ja) * 2001-03-28 2002-10-04 Victor Co Of Japan Ltd 複合画像表示システム
US6856344B2 (en) * 2002-04-02 2005-02-15 Robert H. Franz Vehicle undercarriage inspection and imaging method and system
AU2003226047A1 (en) * 2002-04-10 2003-10-27 Pan-X Imaging, Inc. A digital imaging system
SE0302065D0 (sv) 2003-07-14 2003-07-14 Stefan Carlsson Video - method and apparatus
JP4451730B2 (ja) * 2003-09-25 2010-04-14 富士フイルム株式会社 動画生成装置、方法及びプログラム
US7619658B2 (en) * 2004-11-15 2009-11-17 Hewlett-Packard Development Company, L.P. Methods and systems for producing seamless composite images without requiring overlap of source images
US20060228018A1 (en) * 2005-04-12 2006-10-12 Gil Abramovich Reconfigurable machine vision system
US9182228B2 (en) * 2006-02-13 2015-11-10 Sony Corporation Multi-lens array system and method
GB2444533B (en) * 2006-12-06 2011-05-04 Sony Uk Ltd A method and an apparatus for generating image content
JP4949134B2 (ja) * 2007-06-18 2012-06-06 富士フイルム株式会社 カメラ位置認識システム
TW200947355A (en) * 2008-05-15 2009-11-16 Ind Tech Res Inst Intelligent multi-direction display system and method
US20100194861A1 (en) * 2009-01-30 2010-08-05 Reuben Hoppenstein Advance in Transmission and Display of Multi-Dimensional Images for Digital Monitors and Television Receivers using a virtual lens

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104937653A (zh) * 2013-03-21 2015-09-23 Lg电子株式会社 显示装置及其控制方法
US9571732B2 (en) 2013-03-21 2017-02-14 Lg Electronics Inc. Display device and method for controlling the same
CN105765959A (zh) * 2013-08-29 2016-07-13 米迪亚普罗杜申有限公司 用于制作视频作品的方法和系统
CN105765959B (zh) * 2013-08-29 2020-06-30 米迪亚普罗杜申有限公司 用于制作视频作品的方法和系统
CN105282500A (zh) * 2014-07-21 2016-01-27 霍尼韦尔国际公司 基于图像的监视系统
CN107566849A (zh) * 2016-06-30 2018-01-09 深圳锐取信息技术股份有限公司 一种足球比赛视频播放方法和装置
CN109213092A (zh) * 2017-07-04 2019-01-15 西克股份公司 用于传感器的参数化的方法
CN109213092B (zh) * 2017-07-04 2024-04-23 西克股份公司 用于传感器的参数化的方法
CN107368104A (zh) * 2017-07-19 2017-11-21 济南中维世纪科技有限公司 基于手机app和家用智能云台摄像机的任意点定位方法
CN113132768A (zh) * 2019-12-31 2021-07-16 致茂电子(苏州)有限公司 影像显示系统与方法
CN113052119A (zh) * 2021-04-07 2021-06-29 兴体(广州)智能科技有限公司 球类运动跟踪摄像方法及系统
CN113052119B (zh) * 2021-04-07 2024-03-15 兴体(广州)智能科技有限公司 球类运动跟踪摄像方法及系统

Also Published As

Publication number Publication date
GB0707068D0 (en) 2007-05-23
GB2444566A (en) 2008-06-11
CN101601277B (zh) 2012-04-25
US20100318467A1 (en) 2010-12-16
JP2010512086A (ja) 2010-04-15
US20130163817A1 (en) 2013-06-27
GB0624410D0 (en) 2007-01-17
US8427545B2 (en) 2013-04-23
JP5158889B2 (ja) 2013-03-06
GB2444533B (en) 2011-05-04
GB2444566B (en) 2011-11-16
GB2444533A (en) 2008-06-11
US8848066B2 (en) 2014-09-30

Similar Documents

Publication Publication Date Title
CN101601277B (zh) 用于生成图像内容的方法和装置
US8013899B2 (en) Camera arrangement and method
EP3127321B1 (en) Method and system for automatic television production
US20160006933A1 (en) Method and apparatus for providing virtural processing effects for wide-angle video images
US8391641B2 (en) Method and apparatus for forming a composite image
US9979900B2 (en) Method and apparatus for applying a border to an image
US9497391B2 (en) Apparatus and method for displaying images
US6990681B2 (en) Enhancing broadcast of an event with synthetic scene using a depth map
US7710463B2 (en) Method and system for compensating for parallax in multiple camera systems
US7864215B2 (en) Method and device for generating wide image sequences
KR20170127505A (ko) 환경 측정들을 하고 및/또는 3d 이미지 렌더링에서 이러한 측정들을 사용하기 위한 방법들 및 장치
US20130335520A1 (en) Robotic Camera System with Context Display
US20060244831A1 (en) System and method for supplying and receiving a custom image
JP2014529930A (ja) ネイティブ画像の一部の選択的キャプチャとその表示
US11196980B2 (en) Non-intrusive 360 view without camera at the viewpoint

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20120425

Termination date: 20151120