CN102970569B - 视域调整装置、视频处理装置以及视域调整方法 - Google Patents
视域调整装置、视频处理装置以及视域调整方法 Download PDFInfo
- Publication number
- CN102970569B CN102970569B CN201210115154.6A CN201210115154A CN102970569B CN 102970569 B CN102970569 B CN 102970569B CN 201210115154 A CN201210115154 A CN 201210115154A CN 102970569 B CN102970569 B CN 102970569B
- Authority
- CN
- China
- Prior art keywords
- ken
- policy
- adjustment
- video
- spectators
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/128—Adjusting depth or disparity
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/302—Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/366—Image reproducers using viewer tracking
- H04N13/368—Image reproducers using viewer tracking for two or more viewers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/366—Image reproducers using viewer tracking
- H04N13/373—Image reproducers using viewer tracking for tracking forward-backward translational head movements, i.e. longitudinal movements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/366—Image reproducers using viewer tracking
- H04N13/376—Image reproducers using viewer tracking for tracking left-right translational head movements, i.e. lateral movements
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/0093—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B30/00—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
- G02B30/20—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes
- G02B30/26—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type
- G02B30/27—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type involving lenticular arrays
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B30/00—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
- G02B30/20—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes
- G02B30/26—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type
- G02B30/30—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type involving parallax barriers
- G02B30/31—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type involving parallax barriers involving active parallax barriers
Abstract
本发明提供视域调整装置、视频处理装置以及视域调整方法,其可以进行实用性高的视域调整,而不使观众感到不舒服。视域调整装置包括:摄像部,由于拍摄能够显示立体视频的立体视频显示装置的前方;观众信息检测部,通过由上述摄像部拍摄的视频检测出观众的人数和位置;视域调整方针决定部,基于由上述观众信息检测部检测出的人数选择多个视域调整方针中的一个,其中,上述视域调整方针表示调整能够看到立体视频的视域的方针;视域信息算出部,基于上述视域调整方针决定部选择的上述视域调整方针和上述观众信息检测部检测出的观众的位置,算出上述视域的调整量;视域调整部,基于上述视域信息算出部算出的视域的调整量来调整视域。
Description
本申请基于日本专利申请(特愿2011-189598号、2011年8月31日申请),享有该申请的优先权益。本申请参考该日本申请,包括该日本申请的全部内容。
技术领域
本发明的实施方式涉及调整能够看到立体视频的视域的视域调整装置、视频处理装置以及视域调整方法。
背景技术
用裸眼可视觉辨认立体视频的电视机正在受到关注。但是,对于这种电视机,由于视听位置的不同,有可能不能获得立体感,为了得到充分的立体感,观众必须移动到可以获得立体感的位置。尤其是有多个观众的情况下,每个人都要移动到可以获得立体感的位置是一件非常麻烦的事情。
因此,虽然也可以考虑调整在电视机侧得到立体感的视域,但由于观众不一定停留在同一地点,另外,观众的数量也不是一直不变,因此,自动调整视域并非一件易事。
另外,输入电视机的视频数据有时包括立体视频再生所需要的视差数据或深度信息,而有时又不包括,如果不考虑视频数据的视频类型而自动调整视域,则有可能设定与观众的意愿相反的视域。
而且,观众的偏好千差万别,最好不要忽略观众的偏好进行自动调整。
发明内容
鉴于上述技术课题,本发明提供视域调整装置、视频处理装置以及视域调整方法,可以进行实用性高的视域调整,而不使观众感到不舒服。
本发明涉及的视域调整装置包括:摄像部,由于拍摄能够显示立体视频的立体视频显示装置的前方;观众信息检测部,通过由上述摄像部拍摄的视频检测出观众的人数和位置;视域调整方针决定部,基于由上述观众信息检测部检测出的人数选择多个视域调整方针中的一个,其中,上述视域调整方针表示调整能够看到立体视频的视域的方针;视域信息算出部,基于上述视域调整方针决定部选择的上述视域调整方针和上述观众信息检测部检测出的观众的位置,算出上述视域的调整量;视域调整部,基于上述视域信息算出部算出的视域的调整量来调整视域。
上述构成的视域调整装置,可以使观众进行实用性高的视域调整,而不会感到不舒服。
附图说明
图1是具有第一实施方式涉及的视域调整装置1的视频处理装置2的外观图;
图2是示出视频处理装置2的概略构成的一个例子的框图;
图3是示出从上方看显示面板31和双凸透镜32的局部的示图;
图4是示出本实施方式涉及的视域调整装置1的处理动作的流程图;
图5是示出第一实施方式涉及的视域调整方针决定表;
图6是示出算出视域的调整量的方法的一个例子;
图7是示出具有第二实施方式涉及的视域调整装置1的视频处理装置2的概略构成的框图;
图8是示出第二实施方式涉及的视域调整装置1的处理动作的流程图;
图9是示出第二实施方式涉及的视域调整方针决定表;
图10是示出具有第三实施方式涉及的视域调整装置1的视频处理装置2的概略构成的框图;
图11是示出第三实施方式涉及的视域调整装置1的处理动作的流程图;以及
图12是示出第三实施方式涉及的视域调整方针决定表。
具体实施方式
(第一实施方式)
图1是具有第一实施方式涉及的视域调整装置1的视频处理装置2的外观图,图2是示出其概略构成的框图。如这些图所示,视频处理装置2包括立体视频显示装置3、显示控制部4、拍摄装置5、受光部6、调谐解码器7以及视差图像转换部8。
立体视频显示装置3包括具有排列成矩阵状的像素的显示面板31和与该显示面板31相对配置、具有控制来自各像素的光线的多个出射光瞳的光线控制部32。显示面板31例如可以使用显示面板31或等离子显示器、EL(Electro Luminescent,电致发光)面板等。光线控制部32一般也称为视差屏障,光线控制部32的各出射光瞳控制光线,即使在同一位置,也能看见由于角度而不同的图像,具体而言,如果只提供左右视差(水平视差)的情况,使用具有许多狭缝的狭缝板或双凸透镜片(柱面透镜阵列),如果还包括上下视差(垂直视差)的情况,使用针孔阵列或透镜阵列。即,狭缝板的狭缝、柱面透镜阵列的柱面透镜、针孔阵列的针孔、透镜阵列的透镜都成为各出射光瞳。
而且,本实施方式的立体视频装置2包括具有多个出射光瞳的光线控制部32,但是,也可以使用以下立体视频处理装置2,即通过透过式液晶显示装置等电子产生视差屏障,对屏障模式的形状或位置等进行电子可变控制,只要是可以显示后述的立体图像显示用的图像的显示装置即可。
以下以光线控制部32使用双凸透镜为例进行说明。显示面板31例如是在水平方向形成11520(=1280*9)个像素、在垂直方向形成2160个像素的55英寸的面板。显示面板31通过设置在背面的背光装置(未图示)照明。显示面板31的各像素从背光装置接收照明,使与在视域调整装置1中调整了视域的视差图像信号(后述)对应的亮度的光透过,并显示视差图像。
双凸透镜32具有沿着显示面板31的水平方向配置的多个凸部,其数量是显示面板31的水平方向像素的1/9。并且,双凸透镜粘贴在显示面板 31的表面,使一个凸部对应九个像素。透过了各像素的光从凸部的顶点附近起具有方向性,并向特定的方向输出。
本实施方式的显示面板31可以用三视差以上的多视差方法(积分成像方法)或二视差方式显示立体视频,另外也可以用通常的二维视频显示。无论哪种显示方式,显示分辨率都是一样的。
显示控制部4控制向显示面板31的各像素提供像素数据的定时。本实施方式的显示面板31可以显示二维视频,也可以显示立体视频。当显示面板31显示二维视频时,显示控制部4向显示面板31提供二维视频显示用的像素数据,当显示面板31显示三维视频时,显示控制部4向各像素提供二视差数据或多视差数据。
拍摄装置5以规定的仰角安装在显示面板31的下部中央附近,拍摄显示面板31前方的规定范围。所拍摄的视频被提供给视域调整装置1,用于检测观众的位置。拍摄装置5也可以拍摄视频和静止图像的任一种。
受光部6例如设置在显示面板31下部的左侧。并且,受光部6接收从观众使用的遥控器发出的红外线信号。红外线信号包括如下示出的信号,即、显示立体视频还是显示二维视频,如果显示立体视频,是采用多视差方式还是二视差方式,是否进行视域控制等。
调谐解码器7接收并调谐广播波,对被编码的代码的视频信号进行解码。或者调谐解码器7从光盘再生装置等视频输出设备接收被编码的视频信号,并对其进行解码。解码后的信号也称为基带视频信号,被提供给视差图像转换部8。
为了立体地显示视频,视差图像转换部8将基带视频信号转换为二视差以上的视差图像信号,并提供给视域调整装置1。
视差图像转换部8根据采用多视差方式还是二视差方式,处理内容有所不同。
如果采用多视差方式,视差图像转换部8生成与第一至第九视差图像分别对应的第一至第九视差图像信号。此时,如果输入九视差的视频信号,则利用该信号生成第一至第九视差图像信号。如果输入了二维视频信号或 八视差以下的视频信号,则进行动作检测、构图识别以及人脸检测等,生成第一至第九视差图像信号。
如果采用二视差方式,视差图像转换部8则生成与左眼用和右眼用视差图像分别对应的左眼用和右眼用视差图像信号。输入以帧封装(FP)、并排式(SBS)或者顶底部(TAB)方式等包括视差信息的视频信号时,视差图像转换部8则生成可以在显示面板31上显示的形式的左眼用和右眼用视差图像信号。
与此相对,采用二视差方式时,当输入不包括视差信息的二维视频信号时,视差图像转换部8基于视频信号中的各像素的深度值,生成左眼用和右眼用视差图像信号。深度值是表示各像素相对于显示面板31显示成能够看到在眼前或里面的何种程度的值。深度值可以事先附加在视频信号中,也可以基于视频信号的特征生成深度值。
如果采用二视差方式,则对于左眼用视差图像而言,能在跟前看到的图像需要向能在里边看到像素的右侧偏移并显示。因此,视差图像转换部8对视频信号中的能在跟前看到的图像进行向右侧偏移的处理,然后生成左眼用视差图像信号。深度值越大,偏移量就越大。
如图2所示,视域调整装置1具有观众信息检测部11、视域调整方针决定部12、视域信息算出部13以及视域调整部14。将视域调整装置1例如作为成一个IC(Integrated Circuit,集成电路)进行安装,配置在显示面板31的背面侧。当然,也可以用软件安装视域调整装置1的至少一部分。
观众信息检测部11利用拍摄装置5拍摄的视频识别观众,并检测观众的人数和位置。观众的位置信息例如用将显示面板31的中央作为原点的X轴(水平方向)、Y轴(垂直方向)以及Z轴(显示面板31板面的法线方向)上的位置表示。具体而言,观众信息检测部11首先由输入视频数据检测人的面孔,从而识别观众。然后,观众信息检测部11由视频中的面孔的位置算出X轴和Y轴上的位置,由面孔的大小算出Z轴上的位置。如果有多位观众,观众信息检测部11也可以检测事先确定的数量例如十名观众的位置。此时,当检测到的面孔数量大于十时,例如按照离显示面板31近的位置即Z轴上的距离小的顺序检测出十个观众的位置。
视域调整方针决定部12基于观众信息检测部11检测的人数选择多个视域调整方针中的一个,视域调整方针表示调整能够确认视觉确认立体视频的视域的方针。
视域信息算出部13基于由视域调整方针决定部12选择的视域调整方针和由观众信息检测部11检测到的观众的位置算出视域的调整量。视域调整部14基于视域信息算出部13算出的视域的调整量来调整视域。
在本实施方式中,以与显示面板31的各凸部对应地设置九个像素、可以采用九视差的多视差方式为例进行说明。在多视差方式中,在与各凸部对应的九个像素上分别显示第一至第九视差图像。第一至第九视差图像是从沿着水平方向排列的九个视点分别看被摄体时可以看见的图像。观众通过双凸透镜32分别用左眼看第一至第九视差图像中的一个视差图像,用右眼看另一个视差图像,从而可以看见立体视频。多视差方式可以扩大视域。视域是指从显示面板31的前方看显示面板31时,能够立体观看视频的区域。
另一方面,在二视差方式中,在与各凸部对应的九个像素中的四个像素上显示右眼用视差图像,在另外五个像素上显示左眼用视差图像。左眼用和右眼用视差图像是指,在水平方向排列的两个视点中,从左侧的视点和右侧的视点分别看被摄体时能够看到的图像。观众通过双凸透镜32,用左眼看左眼用视差图像,用右眼看右眼用视差图像,从而能够立体观看视频。在二视差方式中,虽然比多视差方式更容易得到所显示的视频的立体感,但与多视差方式相比,视域变窄。
而且,如果在显示面板31上显示二维图像时,在与各凸部对应的九个像素上显示相同的图像。这样,在液晶显示屏1上显示二维图像的时,显示基于二视差或多视差的立体视频时,显示析像度相同。
而且,在本实施方式中,通过控制双凸透镜32的各凸部和与各凸部对应的九个像素的相对位置关系来调整视域。以下以多视差方式为例就视差的控制进行说明。
图3是从上方看显示面板31和双凸透镜32的局部的示图。该图中的网状区域表示视域,如果从视域看显示面板31,就可以看到立体视频。其他区域是发生逆视或串扰的区域,是很难看到立体视频的区域。
图3是表示根据显示面板31与双凸透镜32的相对位置关系,更具体的是,根据显示面板31与双凸透镜32的距离或者显示面板31与双凸透镜2的水平方向的偏移量,视域的变化情况。
实际上双凸透镜32是高精度地定位后粘贴在显示面板31上,因此物理上很难变更显示面板31与双凸透镜32的相对位置。
因此,在本实施方式中,通过使在显示面板31的各像素上显示的第一至第九视差图像的显示位置偏移,从而,表面上变更显示面板31与双凸透镜32的相对位置关系,从而进行视域的调整。
例如,与在与各凸部对应的九个像素上依次显示第一至第九视差像素的情况(图3的(a))相比,使整个视差图像向右侧偏移显示时(图3的(b)),视域向左侧移动。相反,使整个视差图像向左侧偏移显示时,视域向右侧移动。
而且,在水平方向的中央附近,不使视差图像偏移,而是越是显示面板31的外侧,使视差图像向外侧较大地偏移显示时(图3的(c)),视域越是向靠近显示面板31的方向移动。偏移的视差图像与未偏移的视差图像之间的像素或偏移量不同的视差图像间的像素只要根据周围的像素适当地进行插补即可。另外,与(图3的(c))相反,在水平方向的中央附近,不使视差图像偏移,而是越是显示面板31的外侧,使视差图像较大地向中心侧偏移显示时,视域越是向远离显示面板31的方向移动。
这样,通过使整个或一部分视差图像偏移显示,可以使视域相对显示面板31向左右方向或前后方向移动。在图3中,为了简化说明只显示了一个视域,但实际上存在多个视域,如果使在显示面板31的各像素上显示的第一至第九视差图像的显示位置偏移,则这些多个视域联动地移动。通过图2的视域调整部14控制视域的移动。
图4是本实施方式的视域调整装置1的处理动作的流程图。首先,观众信息检测部11基于拍摄装置拍摄的视频识别观众,检测出已识别的观众人数和位置(步骤S1)。
然后,通过视域调整方针决定部12判断是否需要变更当前采用的视域调整方针(步骤S2)。如果观众的人数相同,则判断为无需变更视域调整方针,如果观众的人数发生变化,则判断为需要变更视域调整方针。
视域调整方针决定部12如果判断为需要变更视域调整方针,则根据观众的人数决定视域调整方针(步骤S3)。
图5是示出第一实施方式的视域调整方针决定表的示图。如图5所示,第一实施方式的视域调整方针决定部12根据观众的人数选择各不相同的视域调整方针。
具体而言,如果人数为零,则选择将视域设定为显示面板31的中心固定的中心固定方针。中心固定是按照每一个具有双凸透镜32的显示面板31而决定的最佳视域的中心位置。
而且,如果人数为一人,则选择自动跟踪方针,即根据观众的位置连续自动跟踪视域,并将观众配置在视域的中心位置。另外,如果人数是两人以上,则选择多人自动跟踪方针,即根据各观众的位置自动跟踪视域。
而且,无论选择哪种视域调整方针,都采用利用三视差以上的多视差进行立体视频显示的积分成像方式。在图5中,积分成像方法记为II。如果本实施方式选择积分成像方法,则用九视差的多视差方式进行立体视频显示。
因此,人数为零时,选择中心固定方针的理由是,在这种情况下,由于没有观众存在,因此无需调整视域。
在人数为一人或两人以上的情况下,选择按照观众的位置自动跟踪视域的视域调整方针的理由是,即使观众变更位置,也尽可能地使其视觉确认立体视频。为了根据观众的位置自动跟踪视域,需要根据拍摄装置拍摄的观众的位置由视域信息算出部13算出视域的调整量,然后,基于该算出结果由视域调整部14调整视域。在调整视域时,如用图5所说明的, 通过切换在显示面板31上显示的第一至第九视差图像的像素位置,表面上看可以变更显示面板31和双凸透镜32的相对位置关系。
如果在上述的图4的步骤S3中决定视域调整方针,视域信息算出部13则基于决定的视域调整方针和观众的位置算出视域的调整量(步骤S4)。
图6是算出视域的调整量的方法的一个例子。视域信息算出部13事先确定多个能够设定的视域模式(pattern)。然后,视域信息算出部13对各视域算出视域与观众的检测位置重合的面积,将该面积为最大的视域判断为最佳的视域。在图6的例子中,在事先确定的图6的(a)至图6的(e)的五个视域(网状区域)模式中图6的(b)中、即面向显示面板31将视域设定在左侧,观众20的检测面积与视域的重合面积最大。因此,视域信息算出部13将图6的(b)的视域模式判断为最佳的视域,算出用于以图6的(b)的模式显示视差图像的控制参数。这里的控制参数例如是指使在显示面板31上显示视差图像的像素位置偏移的量。
如上所述,如果在图4的步骤S4中算出视域的调整量,接下来,视域调整部14则根据视域信息算出部13算出的控制参数使视差信号偏移或进行插补处理,从而进行视域调整,生成新的视差图像信号(步骤S5)。然后,向显示面板31提供该新的视差图像信号,显示视域调整后的立体视频(步骤S6)。
如上所述,在第一实施方式中,由于根据观众的人数选择视域调整方针,因此,可以根据观众的人数进行最佳的立体视频显示。而且,即使观众改变位置,也能按照观众的位置自动跟踪视域,因此,不会使观众有不舒服的感觉,可以连续提供稳定的立体视频显示。
(第二实施方式)
根据第二实施方式,在决定视域调整方针时,不仅考虑观众的人数,而且还考虑输入视频的类型。
图7是示出具有第二实施方式的视域调整装置1的视频处理装置2的概略构成的框图。图7的视域调整装置1除了图2的视域调整装置1之外,还具有视频类型检测部15。
图7的视频类型检测部15检测输入视频数据的视频类型。例如,视频类型检测部15检测是输入视频数据包括深度信息或视差信息的视频数据(立体三维数据),还是既无深度信息也无视差信息的通常的二维视频数据。
用视频类型检测部15检测视频类型的理由是,输入视频数据如果是立体3D数据(立体三维数据),直接使用立体三维数据进行立体视频显示比用积分成像方式进行多视差的立体视频显示可以进行更富有立体感的立体视频显示。
图8是示出第二实施方式的视域调整装置1的处理动作流程图。图8的流程图与图4的流程图的不同点在于步骤S12和S14的处理。即,由观众信息检测部11检测出观众人数和位置(步骤S11)之后,由视频类型检测部15检测输入视频数据的视频类型(步骤S12)。
然后,判断是否需要变更当前的视域调整方针(步骤S13),如果判断为需要变更,则通过视域调整方针决定部12决定新的视域调整方针(步骤S14)。
图9示出第二实施方式的视域调整方针决定表。在图9的表格中,用于决定视域调整方针的输入参数为两个,即观众的人数和输入视频类型。用这两个参数的组合选择的视域调整方针的种类一共有六种。以下依次进行说明。
如果观众人数为零且输入视频是立体3D数据,视域调整方针则选择二视差方式,即直接利用立体三维数据中包括的深度信息或视差信息进行立体视频显示(以下称为直接三维,direct 3D),且使视域进行中心固定。
如果观众人数为零且输入视频是除立体三维数据以外的普通的二维视频数据,作为视域调整方针,则选择积分成像方式的多视差的立体视频显示,且使视域进行中心固定。
如果观众人数为一人且输入视频数据是立体三维数据,则选择直接三维,且根据观众的位置自动跟踪视域。
如果观众人数为一人且输入视频数据是除立体三维数据以外的普通的二维视频数据,则选择基于积分成像方式的多视差的立体视频显示,且根据观众的位置自动跟踪视域。
如果观众人数为两人以上且输入视频数据是立体三维数据,则选择积分成像方式的多视差的立体视频显示,且根据多个观众的每一个的位置自动跟踪视域。
如果观众人数为两人以上且输入视频数据是除立体三维数据以外的普通的二维视频数据,则选择基于积分成像方式的多视差的立体视频显示,且根据多个观众的每一个的位置自动跟踪视域。
如上所述,如果输入视频数据是立体三维数据、且观众为一人或零时,为了获得更强的立体感,不进行基于多视差的立体视频显示,而是直接利用输入视频数据中包括的深度信息或视差信息,进行基于二视差的立体视频显示。
在图8的步骤S14中决定视域调整方针之后,与图4的步骤S4至S6相同,依次进行视域的调整量计算(步骤S15)、视域的调整(步骤S16)和立体视频显示(步骤S17)。
如上所述,在第二实施方式中,不仅考虑观众的人数,还考虑输入视频数据的类型,来决定视域调整方针,因此在输入视频数据为立体三维数据且观众为一人或零时,可以直接利用输入视频数据进行基于二视差的立体视频显示,提供立体感更强的立体视频显示。
(第三实施方式)
根据第三实施方式,在第二实施方式的基础上,还考虑到用户的偏好来决定视域调整方针。
图10是具有第三实施方式的视域调整装置1的视频处理装置2的概略构成框图。在图10的视域调整装置1中,除图7的视域调整装置1的构成之外,还具有用户偏好设定部16。
图10的用户偏好设定部16设定用户所希望的视域调整方针。用户利用遥控器等从多个视域调整方针中选择所希望的视域调整方针。用户偏好设定部16基于后述的视域调整方针决定表,根据需要采用用户选择的视域调整方针。
图11示出第三实施方式的视域调整装置1的处理动作的流程图。图11的流程图与图8的流程图的不同点在于步骤S23和S25的处理。在步骤S22中判断输入视频数据的视频类型后,用户偏好设定部16设定用户所希望的视域调整方针(步骤S23)。
然后,在步骤S24中如果判断为需要变更视域调整方针,视域调整方针决定部12则考虑到用户的偏好后决定新的视域调整方针(步骤S24)。
图12示出第三实施方式的视域调整方针决定表。用于决定特定的视域调整方针的输入参数除了观众的人数和输入视频数据的视频类型之外,还包括用户偏好设定部16设定的用户偏好。
对用户偏好的具体内容没有特别限制,在图12的例子中,用户可以通过用户偏好设定部设定以下内容,即、是否使直接使用输入视频中包含的深度信息或视差信息进行立体视频显示的直接三维优先、是否使进行基于多视差的立体视频显示的积分成像方式优先、是否使采用在事先设定的权重大的位置(即优先级高的位置)设定视域的直方图优先以及是否是用户手动进行任意设定。
在图12的例子中,如果观众的人数为零且输入视频数据是立体三维数据,则根据用户偏好设定部16的设定内容决定以下的视域调整方针。
如果用户选择了直接三维优先,则决定为直接三维、中心固定。如果用户选择了积分成像方式优先,则决定为用积分成像方式、中心固定。如果用户选择了直方图优先,则决定为积分成像方式、基于直方图的中心推测。如果用户选择了手动,则决定为积分成像方式,且允许用户手动决定视域调整方针。
如果观众人数为零、且输入视频数据是除了立体三维数据以外的普通的二维视频数据时,即使用户选择了直接三维优先,也是设定积分成像方式,而不是直接三维。
如果观众是一个人,无论输入视频数据是什么类型,当用户选择了直接三维优先或积分成像方式时,则都是积分成像方式,并设定自动跟踪。而且,如果用户选择了直方图优先,则是积分成像方式,并设定基于直方图的优先级。当用户选择了手动时,如果输入视频数据是立体三维数据,则允许是直接三维且用户手动决定视域调整方针。当用户选择了手动时,如果输入视频数据不是立体三维而是普通的二维视频数据时,则设定积分成像方式,且允许用户手动决定视域调整方针。
如果观众是两个人以上,则无论输入视频数据是什么类型,用户选择了直接三维优先或积分成像方式时,则都是积分成像方式,并设定多人的自动跟踪,如果用户选择了直方图优先,则是积分成像方式,并设定基于直方图的优先级,如果用户选择了手动,则允许用户手动决定视域调整方针。
根据图12,作为视域调整方针,如果选择了积分成像方式,则无论输入视频数据是立体三维数据还是除立体三维数据以外的普通二维视频数据,都对输入视频数据进行基于活动检测、构图识别以及人的面孔检测的深度信息检测,并生成多视差数据。
这样,在第三实施方式中,由于还考虑到用户的偏好来决定视域调整方针,因此可以按照每一个用户的意图调整视域。
在上述的实施方式中说明的视域调整装置1和视频处理装置2的至少一部分可以由硬件构成,也可以由软件构成。如果由软件构成,则将实现视域调整装置1和视频处理装置2的至少一部分功能的程序存储在软磁盘或CD-ROM等记录介质中,使计算机读取执行即可。记录介质不局限于磁盘或光盘等可拆装的装置,也可以是硬盘装置或存储器等固定式的记录介质。
另外,也可以通过互联网等通讯线路(也包括无线通讯)发布实现视域调整装置1和视频处理装置2的至少一部分功能的程序。也可以将该程 序加密或调制,以压缩的状态通过互联网等有线电路或无线电路发送或存储在记录介质中发布。
虽然对本发明的实施方式进行了说明,但是,上述的各实施方式只是作为一个例子提出,并没有限制发明的范围。这些实施方式可以通过其他各种方式实施,在不超出发明宗旨的范围内,可以进行各种省略、替换、变更。这些实施方式及其变形落入发明的范围和宗旨,并落入要求保护的范围所述的发明及其同等范围。
Claims (17)
1.一种视域调整装置,其特征在于,包括:
摄像部,用于拍摄能够显示立体视频的立体视频显示装置的前方;
观众信息检测部,通过由所述摄像部拍摄的视频检测出观众的人数和位置;
视域调整方针决定部,基于由所述观众信息检测部检测出的人数选择多个视域调整方针中的任一个,其中,所述视域调整方针表示用于调整能够看到立体视频的视域的方针;
视域信息算出部,基于由所述视域调整方针决定部选择的所述视域调整方针和由所述观众信息检测部检测出的观众的位置,算出所述视域的调整量;以及
视域调整部,基于由所述视域信息算出部算出的视域的调整量来调整视域,
所述多个视域调整方针包括:中心固定方针,将视域固定在所述立体视频显示装置的最佳视域的中心位置;自动跟踪方针,根据一个观众的移动位置调整所述视域;以及多人自动跟踪方针,根据多个观众各自的移动位置调整所述视域,
当由所述观众信息检测部检测出的观众为零时,所述视域调整方针决定部选择所述中心固定方针,当由所述观众信息检测部检测出的观众为一人时,所述视域调整方针决定部选择所述自动跟踪方针,当所述观众信息检测部检测出的观众为两人以上时,所述视域调整方针决定部选择所述多人自动跟踪方针。
2.根据权利要求1所述的视域调整装置,其特征在于,无论由所述观众信息检测部检测出的观众的人数是多少,所述视域调整方针决定部都选择用于向所述立体视频显示装置的各像素提供三视差以上的多视差数据进行立体视频显示的视域调整方针。
3.根据权利要求1所述的视域调整装置,其特征在于,
所述视域调整装置还包括检测输入视频数据的视频类型的视频类型检测部,
所述视域调整方针决定部基于由所述观众信息检测部检测出的人数和由所述视频类型检测部检测出的视频类型,选择所述多个视域调整方针中的一个。
4.根据权利要求3所述的视域调整装置,其特征在于,
所述视频类型检测部检测出所述输入视频数据是包括视差信息或深度信息的三维视频数据,还是不包括视差信息和深度信息的二维视频数据作为所述视频类型,
当由所述观众信息检测部检测出的人数为一人以下、且由所述视频类型检测部检测出是所述三维视频数据时,所述视域调整方针决定部选择用于向所述立体视频显示装置的各像素提供利用所述输入视频数据中所包含的视差信息或深度信息生成的二视差数据进行立体视频显示的视域调整方针,当所述观众信息检测部检测出的人数为两人以上时,不管所述输入视频数据是所述三维视频数据或是所述二维视频数据,所述视域调整方针决定部都选择用于向所述立体视频显示装置的各像素提供三视差以上的多视差数据进行立体视频显示的视域调整方针。
5.根据权利要求1所述的视域调整装置,其特征在于,
所述视域调整装置还包括用于检测输入视频数据的视频类型的视频类型检测部以及用于设定观众所希望的视域调整方针的用户偏好设定部,
所述视域调整方针决定部基于观众的人数、视频类型以及由所述用户偏好设定部设定的观众的偏好选择所述多个视域调整方针中一个。
6.根据权利要求5所述的视域调整装置,其特征在于,所述用户偏好设定部能设定或者使用于向所述立体视频显示装置的各像素提供利用所述输入视频数据所包含的视差信息或深度信息生成的二视差数据并进行立体视频显示的视域调整方针优先、或者使向所述立体视频显示装置的各像素提供三视差以上的多视差数据并进行立体视频显示的视域调整方针优先、或者使使事先设定的视域的权重优先的直方图优先的视域调整方针优先、或者使用户的手动设定优先的视域调整方针优先,
所述视域调整方针决定部基于所述用户偏好设定部的设定选择所述多个视域调整方针中的一个。
7.一种视频处理装置,其特征在于,
所述视频处理装置包括:解码处理部,对接收或记录的编码视频信号进行解码,并生成输入视频数据;视域调整装置;以及显示控制部,为了获得由所述视域调整装置调整的视域,控制向立体视频显示装置的各像素提供所述输入视频数据的定时,
其中,所述视域调整装置包括:摄像部,拍摄能够显示立体视频的所述立体视频显示装置的前方;观众信息检测部,通过所述摄像部拍摄的视频检测出观众的人数和位置;视域调整方针决定部,基于由所述观众信息检测部检测出的人数,选择多个视域调整方针中的一个,其中,所述视域调整方针表示调整能够看到立体视频的视域的方针;视域信息算出部,基于由所述视域调整方针决定部选择的所述视域调整方针和由所述观众信息检测部检测出的观众的位置,算出所述视域的调整量;以及视域调整部,基于所述视域信息算出部算出的视域的调整量来调整所述视域,
所述多个视域调整方针包括:中心固定方针,将视域固定在所述立体视频显示装置的最佳视域的中心位置;自动跟踪方针,根据一个观众的移动位置调整所述视域;以及多人自动跟踪方针,国家多个观众的各自的移动位置调整所述视域,
当由所述观众信息检测部检测出的观众为零时,所述视域调整方针决定部选择所述中心固定方针,当由所述观众信息检测部检测出的观众为一人,所述视域调整方针决定部选择所述自动跟踪方针,当由所述观众信息检测部检测出的观众为两人以上时,所述视域调整方针决定部选择所述多人自动跟踪方针。
8.根据权利要求7所述的视频处理装置,其特征在于,所述视频处理装置还包括所述立体视频显示装置,其中,所述立体视频显示装置包括:平面显示部,具有排列成矩阵状的多个像素;以及光线控制部,与所述平面显示部相对配置,具有控制来自所述平面显示部的各像素的光线的多个射出瞳。
9.根据权利要求7所述的视频处理装置,其特征在于,无论由所述观众信息检测部检测出的观众的人数是多少,所述视域调整方针决定部都选择用于向所述立体视频显示装置的各像素提供三视差以上的多视差数据进行立体视频显示的视域调整方针。
10.根据权利要求7所述的视频处理装置,其特征在于,
所述视频处理装置还包括用于检测输入视频数据的视频类型的视频类型检测部,
所述视域调整方针决定部基于由所述观众信息检测部检测出的人数和由所述视频类型检测部检测出的视频类型,选择所述多个视域调整方针中的一个。
11.根据权利要求10所述的视频处理装置,其特征在于,
作为所述视频类型,所述视频类型检测部检测所述输入视频数据是包括视差信息或深度信息的三维视频数据,还是不包括视差信息和深度信息的二维视频数据,
当由所述观众信息检测部检测出的人数为一人以下、且由所述视频类型检测部检测出是所述三维视频数据时,所述视域调整方针决定部选择用于向所述立体视频显示装置的各像素提供利用所述输入视频数据所包含的视差信息或深度信息生成的二视差数据进行立体视频显示的视域调整方针,当由所述观众信息检测部检测出的人数为两人以上时,无论所述输入视频数据是所述三维视频数据或者是所述二维视频数据,所述视域调整方针决定部都选择用于向所述立体视频显示装置的各像素提供三视差以上的多视差数据进行立体视频显示的视域调整方针。
12.根据权利要求7所述的视频处理装置,其特征在于,
所述视频处理装置还包括用于检测输入视频数据的视频类型的视频类型检测部以及用于设定观众所希望的视域调整方针的用户偏好设定部,
所述视域调整方针决定部基于观众的人数、视频类型以及由所述用户偏好设定部设定的观众的偏好选择所述多个视域调整方针中的一个。
13.根据权利要求12所述的视频处理装置,其特征在于,
所述用户偏好设定部设定或者使用于向所述立体视频显示装置的各像素提供利用所述输入视频数据所包含的视差信息或深度信息生成的二视差数据进行立体视频显示的视域调整方针优先、或者使用于向所述立体视频显示装置的各像素提供三视差以上的多视差数据进行立体显示的视域调整方针优先、或者使使事先设定的视域的权重优先的直方图优先的视域调整方针优先、或者使用户的手动设定优先的视域调整方针优先,
所述视域调整方针决定部基于所述用户偏好设定部的设定选择所述多个视域调整方针中的一个。
14.一种视域调整方法,其特征在于,包括:
拍摄步骤,拍摄能够显示立体视频的立体视频显示装置的前方;
检测步骤,根据在所述拍摄步骤中拍摄的视频检测出观众的人数和位置;
选择步骤,基于所述检测出的人数,选择多个视域调整方针中的一个,其中,所述视域调整方针是表示用于调整能够看到立体视频的视域的方针;
算出步骤,基于选择的所述视域调整方针和所述检测出的观众的位置,算出所述视域的调整量;以及
调整步骤,基于算出的所述视域的调整量调整视域,
所述多个视域调整方针包括:中心固定方针,将视域固定在所述立体视频显示装置的最佳视域的中心位置;自动跟踪方针,根据一个观众的移动位置调整所述视域;以及多人自动跟踪方针,根据多个观众的各自的移动位置调整所述视域,
当选择所述视域调整方针时,如果所述检测出的观众为零时,选择所述中心固定方针,如果所述检测出的观众为一人时,选择所述自动跟踪方针,如果所述检测出的观众为两人以上时,选择所述多人自动跟踪方针。
15.根据权利要求14所述的视域调整方法,其特征在于,选择所述视域调整方针时,无论所述检测出的观众的人数是多少,都选择用于向所述立体视频显示装置的各像素提供三视差以上的多视差数据进行立体视频显示的视域调整方针。
16.根据权利要求14所述的视域调整方法,其特征在于,
所述视域调整方法还包括检测输入视频数据的视频类型的步骤,
当选择所述视域调整方针时,基于所述检测出的观众的人数和所述检测出的视频类型,选择所述多个视域调整方针中的一个。
17.根据权利要求16所述的视域调整方法,其特征在于,
当检测所述视频类型时,作为所述视频类型,检测所述输入视频数据是包括视差信息或深度信息的三维视频数据,还是不包括视差信息和深度信息的二维视频数据,
当选择所述视域调整方针时,如果所述检测出的人数为一人以下、且检测出所述视频类型是所述三维视频数据时,选择向所述立体视频显示装置的各像素提供利用所述输入视频数据所包含的视差信息或深度信息生成的二视差数据进行立体视频显示的视域调整方针,如果所述检测出的人数为两人以上时,所述输入视频数据无论是所述三维视频数据还是所述二维视频数据,都选择向所述立体视频显示装置的各像素提供三视差以上的多视差数据进行立体视频显示的视域调整方针。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011189598A JP5100875B1 (ja) | 2011-08-31 | 2011-08-31 | 視域調整装置、映像処理装置および視域調整方法 |
JP2011-189598 | 2011-08-31 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102970569A CN102970569A (zh) | 2013-03-13 |
CN102970569B true CN102970569B (zh) | 2015-03-04 |
Family
ID=47528468
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201210115154.6A Expired - Fee Related CN102970569B (zh) | 2011-08-31 | 2012-04-18 | 视域调整装置、视频处理装置以及视域调整方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US8487983B2 (zh) |
JP (1) | JP5100875B1 (zh) |
CN (1) | CN102970569B (zh) |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5050094B2 (ja) * | 2010-12-21 | 2012-10-17 | 株式会社東芝 | 映像処理装置及び映像処理方法 |
US9432711B2 (en) * | 2012-11-19 | 2016-08-30 | John D. Steinberg | System and method for creating customized, multi-platform video programming |
WO2014122553A1 (en) * | 2013-02-06 | 2014-08-14 | Koninklijke Philips N.V. | Method of encoding a video data signal for use with a multi-view stereoscopic display device |
TWI532620B (zh) * | 2013-06-24 | 2016-05-11 | Utechzone Co Ltd | Vehicle occupancy number monitor and vehicle occupancy monitoring method and computer readable record media |
CN105990469B (zh) * | 2015-03-03 | 2017-06-16 | 郑州星晖光伏电力设备有限公司 | 一种太阳能电池板封装短路故障的修复方法 |
KR102415502B1 (ko) | 2015-08-07 | 2022-07-01 | 삼성전자주식회사 | 복수의 사용자를 위한 라이트 필드 렌더링 방법 및 장치 |
US11515440B2 (en) | 2017-09-29 | 2022-11-29 | Cnbm Research Institute For Advanced Glass Materials Group Co., Ltd. | Semitransparent thin-film solar module |
CN111316450A (zh) | 2017-09-29 | 2020-06-19 | 中建材蚌埠玻璃工业设计研究院有限公司 | 半透明薄膜太阳能模块 |
CN111630665A (zh) | 2017-09-29 | 2020-09-04 | 中建材蚌埠玻璃工业设计研究院有限公司 | 半透明薄膜太阳能模块 |
CN108174182A (zh) * | 2017-12-30 | 2018-06-15 | 上海易维视科技股份有限公司 | 三维跟踪式裸眼立体显示视区调整方法及显示系统 |
CN109344665A (zh) * | 2018-10-12 | 2019-02-15 | 京东方科技集团股份有限公司 | 显示器的控制方法、显示器的控制装置及显示器 |
JP7427413B2 (ja) | 2019-10-21 | 2024-02-05 | Tianma Japan株式会社 | 立体視表示システム |
CN112929634A (zh) * | 2019-12-05 | 2021-06-08 | 北京芯海视界三维科技有限公司 | 多视点裸眼3d显示设备和3d图像显示方法 |
CN111212324A (zh) * | 2020-01-14 | 2020-05-29 | 宋秀梅 | 基于大数据解析的动态调节平台及方法 |
WO2021165798A1 (en) * | 2020-02-18 | 2021-08-26 | Evolution Optiks Limited | Multiview system, method and display for rendering multiview content, and viewer localisation system, method and device therefor |
JP2021141423A (ja) * | 2020-03-04 | 2021-09-16 | 富士フイルムビジネスイノベーション株式会社 | 表示システム、表示制御装置及びプログラム |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE69432283T2 (de) * | 1993-12-01 | 2004-01-22 | Sharp K.K. | Display für dreidimensionale Bilder |
JP3544171B2 (ja) | 2000-06-20 | 2004-07-21 | キヤノン株式会社 | 立体画像表示装置 |
JP3554257B2 (ja) | 2000-07-31 | 2004-08-18 | キヤノン株式会社 | 表示制御装置及び方法 |
JP2002344998A (ja) * | 2001-05-14 | 2002-11-29 | Nippon Hoso Kyokai <Nhk> | 立体画像表示装置 |
JP4002875B2 (ja) * | 2003-09-16 | 2007-11-07 | 株式会社東芝 | 立体画像表示装置 |
US20060215018A1 (en) | 2005-03-28 | 2006-09-28 | Rieko Fukushima | Image display apparatus |
JP2006309178A (ja) | 2005-03-28 | 2006-11-09 | Toshiba Corp | 画像表示装置 |
JP2007081562A (ja) * | 2005-09-12 | 2007-03-29 | Toshiba Corp | 立体画像表示装置、立体画像表示プログラムおよび立体画像表示方法 |
JP4521342B2 (ja) | 2005-09-29 | 2010-08-11 | 株式会社東芝 | 三次元画像表示装置、三次元画像表示方法および三次元画像表示プログラム |
JP5006587B2 (ja) * | 2006-07-05 | 2012-08-22 | 株式会社エヌ・ティ・ティ・ドコモ | 画像提示装置および画像提示方法 |
JP2009053567A (ja) * | 2007-08-29 | 2009-03-12 | Victor Co Of Japan Ltd | 立体画像表示用プロジェクタ |
EP2232885A1 (en) * | 2007-12-14 | 2010-09-29 | Koninklijke Philips Electronics N.V. | 3d mode selection mechanism for video playback |
CN101938669B (zh) * | 2010-09-13 | 2012-01-11 | 福州瑞芯微电子有限公司 | 一种2d转3d的自适应视频转换系统 |
CN102123291B (zh) * | 2011-02-12 | 2013-10-09 | 中山大学 | 智能型裸眼立体显示系统及其控制方法 |
-
2011
- 2011-08-31 JP JP2011189598A patent/JP5100875B1/ja not_active Expired - Fee Related
-
2012
- 2012-02-24 US US13/404,803 patent/US8487983B2/en not_active Expired - Fee Related
- 2012-04-18 CN CN201210115154.6A patent/CN102970569B/zh not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
CN102970569A (zh) | 2013-03-13 |
JP5100875B1 (ja) | 2012-12-19 |
US8487983B2 (en) | 2013-07-16 |
JP2013051627A (ja) | 2013-03-14 |
US20130050418A1 (en) | 2013-02-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102970569B (zh) | 视域调整装置、视频处理装置以及视域调整方法 | |
US10321118B2 (en) | 3D display device and method | |
CN104185987B (zh) | 具有位置追踪的多用户自动立体显示 | |
US9088790B2 (en) | Display device and method of controlling the same | |
US20130113899A1 (en) | Video processing device and video processing method | |
US20120038754A1 (en) | Method for processing images in display device outputting 3-dimensional contents and display device using the same | |
US10694173B2 (en) | Multiview image display apparatus and control method thereof | |
US11350080B2 (en) | Methods and apparatus for displaying images | |
CN102970565B (zh) | 视频处理装置及视频处理方法 | |
CN102970561B (zh) | 视频处理装置以及视频处理方法 | |
CN103477646A (zh) | 用于3d显示的位置指示器 | |
US9167237B2 (en) | Method and apparatus for providing 3-dimensional image | |
KR101975246B1 (ko) | 다시점 영상 디스플레이 장치 및 그 제어 방법 | |
CN103517056A (zh) | 检测器、检测方法和视频显示装置 | |
CN108633331A (zh) | 用于自动立体显示器的图像的生成 | |
CN103167311A (zh) | 视频处理装置、视频处理方法和记录介质 | |
CN106559662B (zh) | 多视图图像显示设备及其控制方法 | |
CN102970568A (zh) | 视频处理装置以及视频处理方法 | |
KR20150012976A (ko) | 다시점 영상 처리 장치 및 그 영상 처리 방법 | |
KR101980275B1 (ko) | 다시점 영상 디스플레이 장치 및 디스플레이 방법 | |
CN102970562A (zh) | 视频处理装置、视频处理方法以及远程控制装置 | |
CN108234990B (zh) | 立体显示设备及立体显示方法 | |
JP2013055665A (ja) | 視域調整装置、映像処理装置および視域調整方法 | |
CN103428457A (zh) | 视频处理装置、视频显示装置以及视频处理方法 | |
JP2013055682A (ja) | 映像処理装置および映像処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20150304 Termination date: 20160418 |