CN103220541A - 图像处理装置、图像处理方法和程序 - Google Patents

图像处理装置、图像处理方法和程序 Download PDF

Info

Publication number
CN103220541A
CN103220541A CN2013100161687A CN201310016168A CN103220541A CN 103220541 A CN103220541 A CN 103220541A CN 2013100161687 A CN2013100161687 A CN 2013100161687A CN 201310016168 A CN201310016168 A CN 201310016168A CN 103220541 A CN103220541 A CN 103220541A
Authority
CN
China
Prior art keywords
image
parallax adjustment
dimensional display
image processing
parallax
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2013100161687A
Other languages
English (en)
Other versions
CN103220541B (zh
Inventor
染谷清登
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of CN103220541A publication Critical patent/CN103220541A/zh
Application granted granted Critical
Publication of CN103220541B publication Critical patent/CN103220541B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/356Image reproducers having separate monoscopic and stereoscopic modes
    • H04N13/359Switching between monoscopic and stereoscopic modes

Abstract

本发明公开了图像处理装置,图像处理方法和程序。图像处理装置包括:信息获取单元,所述信息获取单元被配置成获取关于视差调节后的三维显示素材的视差调节信息;以及图形变换单元,所述图像变换单元被配置成基于由所述信息获取单元所获取的视差调节信息在视差调节后的三维显示素材上执行反变换处理以使所述视差调节后的三维显示素材被恢复到视差调节之前的素材,并且生成二维显示素材。

Description

图像处理装置、图像处理方法和程序
技术领域
本技术涉及图像处理装置、图像处理方法和程序。具体地,将自然地和更舒适地实现三维显示和二维显示。
背景技术
近年来,提供了具有实现三维显示功能的图像显示装置。当观看上述图像显示装置显示的三维图像时,即使在会聚角度与真实世界相同时,焦距也会变化,这成为视觉疲劳的原因。具体地,如果视差变化很大,例如,在屏幕上的某个部分突出过多或在电影放映期间对象突然跳出的情形下,观看者就会过度疲劳。由于所述原因,为了减少观看者的过度疲劳并且自然地和更舒适地显示三维图像,提出了在水平方向上移动图像以调节视差的技术(例如,参见公开号为2011-055022的日本未经审查的专利申请)。
发明内容
顺便提及,当使用通过水平移动来调节视差的三维显示素材实现二维显示时,在一些情形下,在所显示的图像中,难免可能生成基于视差调节的运动。例如,在当屏幕上同时存在静止对象和移动对象的情形中,如果移动对象的深度变化大,则图像在水平方向上被移动,以便自然地和更舒适地显示三维图像。基于所述原因,通过图像的在水平方向上的移动,静止对象也可被移动。因此,当使用视差调节后的三维显示素材实现二维显示时,根据移动对象的深度的变化,静止对象被显示为有运动。
鉴于上述,根据本技术的一个实施例,提供可以自然地和更舒适地实现三维显示和二维显示的图像处理装置和图像处理方法和程序(是期望的。
根据本技术的一个实施例,提供了一种图像处理装置,该图像处理装置包括:信息获取单元,该信息获取单元被配置成获取关于视差调节后的三维显示素材的视差调节信息;以及图像转换单元,该图像转换单元被配置成基于信息获取单元获取的视差调节信息,从视差调节后的三维显示素材中生成作为二维显示素材的视差调节之前的素材。
根据本技术的实施例,获取了关于视差调节后的三维显示素材的视差调节信息,并且基于所述视差调节信息,在视差调节后的三维显示素材上进行反变换处理,以使所述视差调节后的三维显示素材恢复成视差调节之前的素材,以生成二维显示素材。例如,在视差调节中整个图像被移动的情形中,在反变换处理中,可以沿相反的方向移动整个图像。另外,在视差调节中对象被移动的情形中,在反转变换处理中,可以沿相反的方向移动对象。
另外,在反变换处理中,图像可被放大,或在不存在图像的区域上可进行内插处理,以通过反变换处理除去不存在图像的区域。在图像被放大的情形中,图像可根据视差调节的调节量被放大,以除去不存在图像的区域。替换地,图像可根据视差调节的最大的调节量被放大,以除去不存在图像的区域。替换地,图像可根据每一场景的视差调节的最大调节量被放大,以除去不存在图像的区域。
此外,可以获得表示三维显示素材是否是视差调节后的素材的识别信息,并且在实现三维显示的情形下,当信息获取单元获取的识别信息表示没有进行视差调节时,则可进行视差调节。
根据本技术的另一个实施例,提供了图像处理方法,该图像处理方法包括:获取关于视差调节后的三维显示素材的视差调节信息;以及在获取的视差调节信息的基础上,在视差调节后的三维显示素材上执行反变换处理,以使所述视差调节后的三维显示素材恢复成视差调节前的素材,并且生成二维显示素材。
根据本技术的另一实施例,提供了使计算机在三维显示素材上执行图像处理的程序,该图像处理包括:获取关于视差调节后的三维显示素材的视差调节信息;以及在所获取的视差调节信息的基础上,在视差调节后的三维显示素材上执行反变换处理,以恢复成视差调节之前的素材,并且生成二维显示素材。
应该注意到,根据本技术的实施例的程序是可以用计算机可读格式而被提供到例如通过存储介质或通信介质(例如诸如光盘,磁盘,或半导体存储器等的存储介质或诸如网络等的通信介质)可以执行各种程序代码的通用的计算机。通过以计算机可读格式提供上述程序,在计算机上实现根据该程序的处理。
根据本技术的实施例,获取关于视差调节后的三维显示素材的视差调节信息,并且基于所获取的视差调节信息,从视差调节后的三维显示素材中生成作为二维显示素材的在进行视差调节之前的素材。基于所述原因,在二维显示中,在显示期间可以避免由于视差调节而引起的静止对象的运动,并且可以自然地和更舒适地实现三维显示和二维显示。
附图说明
图1是描述视差和到三维图像的距离之间的关系的说明图;
图2示出了移动处理的方式;
图3是示出在三维图像距离中的变化之间的关系的图形表示;
图4是描述立体视野的舒适范围的说明图;
图5示出了图像处理装置的配置;
图6是示出图像处理装置的第一操作的流程图;
图7示出了图像处理装置的第一操作;
图8A-8D是阐述图像内插的说明图;
图9A-9D示出了在进行图像放大的情形下的操作;
图10是示出图像处理装置的第二操作的流程图;
图11示出了在图像处理装置的第二操作中在记录介质中记录在视差调节之前的素材的情形;以及
图12示出了计算机装置的配置。
具体实施方式
下面,将阐述实现本技术的实施例。应该注意到,将以下列顺序给出说明。
1.关于视差调节
2.根据实施例的配置和操作
2-1.图像处理装置的配置
2-2.图像处理装置的第一操作
2-3.图像处理装置的第二操作
3.软件处理示例
1.关于视差调节
首先,将阐述视差调节。在坐标(x,y)处的像素被设置为p(x,y),在左图像和右图像上的关注像素被设置为p(xL,yL)和p(xR,yR),在视差控制后的左图像和右图像上的像素被设置为p(x'L,y'L)和p(x'R,y'R)。在本文中,在视差调节的图像变换中,表达式(1)定义了移动左图像和右图像的相对位置的移动处理。此时,视差控制参数是移动量s。
x ′ L x ′ R y ′ L y ′ R = x L - s 2 x R + s 2 y L y R . . . ( 1 )
图1是描述视差和到三维图像的距离之间的关系的说明图。在图1中,左眼和右眼之间的间距被设置为两眼间距de,从左眼和右眼之间的中心到三维显示的显示表面的距离被设置为视距Ls,并且从左眼和右眼之间的中心到三维图像的距离被设置为三维图像距离Ld。此外,在左图像的显示表面上的水平坐标被设置为xL,并且在右图像的显示表面上的水平坐标被设为xR。此时,如表达式(2)所表示,视差d被定义为xL和xR之间的相对距离。
d=xR-xL…(2)
即,在三维图像存在于三维显示器的显示表面的后面的情形下,视差d是正数,而在三维图像存在于三维显示器的显示表面的前面的情形下,视差d是负数。
此外,在图1中,可以使用两眼间距de和视差d,根据表达式(3)来计算三维图像距离Ld和视距Ls的比率。此外,表达式(4)可以表示三维图像距离Ld
Ld:Ls=de:(de-d)…(3)
Ld=Ls·de/(de-d)…(4)
在本文中,当考虑将内插间隔de和视距Ls设置为固定值时,如表达式(4)所表示的,三维图像距离Ld依赖于视差d。即,显然,三维外观(三维图像距离Ld)根据视差d而改变。
图2示出了移动处理的方式。图2(A)示出了当移动量s=0时的左图像和右图像,即,图像处于没有进行移动处理的状态中。左图像在水平(x)方向上的目标像素的坐标(左视点素材)被设置为xL,并且右图像在水平方向上的目标像素的坐标(右视点素材)被设置为XR
图2(B)示出了在移动量s>0时的左图像和右图像,即,图像处于在左和右图像彼此分离的方向上进行移动处理的状态中。为了使左图像中的目标像素的坐标从xL改变到x'L,左图像在向左方向上移动s/2个像素。另一方面,为了使右图像中的目标像素的坐标从xR改变到x'R,右图像在向右方向上被移动s/2个像素。即,左图像和右图像被分别移动s/2个像素,整体上被移动s个像素。
图2(C)示出了当移动量s<0时的左图像和右图像,即,图像处于在左和右图像相互靠近的方向上进行移动处理的状态中。为了使左图像中的目标像素的坐标从xL改变到x″L,左图像在向右方向上被移动s/2个像素。另一方面,为了使右图像中的目标像素的坐标从xR改变到x''R,右图像在向左方向上被移动s/2个像素。即,左图像和右图像被分别移动s/2个像素,整体上被移动s个像素。
在本文中,当在坐标(x,y)处的像素被设置为p(x,y)并且在左图像和右图像上的目标像素被设置为p(xL,yL)和p(xR,yR)时,根据表达式(5)和(6),通过移动量s,可计算视差调节后的左图像和右图像上的像素p(x'L,y'L)和p(x'R,y'R)。
p(x'L,y'L)=p(xL-s/2,yL)…(5)
p(x'R,y'R)=p(xR+s/2,yR)…(6)
图3是示出三维图像距离中的变化之间的关系的图形表示。垂直粗线表示三维显示器的显示表面的位置,并且在本文中,例如,假定为1.5[m]。
在通过移动量s进行移动处理的情形中,由于视差改变到(d+s),表达式(7)表示移动处理之后的三维图像距离L'd
L'd=Ls·de/(de-(d+s))…(7)
即,在左图像和右图像彼此分离(s>0)的方向上进行移动处理的情形下,可以察觉到三维图像进一步移动到后面。此时,随着移动量的增加,可以察觉到三维图像进一步移动到后面,并且在更后面的对象向后移动得更多。另一方面,在左图像和右图像彼此靠近(s<0)的方向上进行移动处理的情形中,可以察觉到三维图像进一步向前移动。此时,随着移动量的绝对值的增加,可以察觉到三维图像进一步向前移动,并且在更后面的对象向前移动得更多。
此外,可以设想到,三维视野的舒适范围是相对于三维显示器的显示表面上的视差角度在±1°的视差角度范围。图4是阐述三维视野的舒适范围的说明图。在本文中,使用了两眼间距de、视距Ls以及三维图像距离Ld,并且三维显示器的显示表面上的视差角度被设置为视差角度β。在所述情形中,当在±1°处的视差角度被表示为α时,视差角度α和视差角度β之间的关系被表示为表达式(8)。即,视差角度α对应于表达式(9)所表示的角度。
|α-β|≤1°(=π/180)…(8)
α=β±(π/180)…(9)
视距Ls和视差角度β之间的关系对应于表达式(10)。因此,视差角度β可以根据表达式(11)计算。
(de/2)/Ls=tan(β/2)…(10)
β=2tan-1(de/(2Ls))…(11)
此外,三维图像距离Ld和α之间的关系对应于表达式(12)。
Ld=de/2tan(α/2)…(12)
因此,可以舒适地进行观看的深度方向上的范围对应于表达式(13)。
de/2tan(αmax/2)至de/2tan(αmin/2)…(13)
应该注意到,视差角度αmax和αmin对应于表达式(14)和(15)的值。
αmax=β+π/180…(14)
αmin=β-π/180…(15)
以所述方式,当调节移动量s使得三维图像距离Ld落入表达式(13)所表示的范围中时,视差的改变被抑制,并且可以实现舒适地观看。
此外,在上述视差调节中,已经阐述了在水平方向上移动左图像和右图像的情形,但是可以用对象为单位实现视差调节。例如,通过使用提供有测距功能的图像拾取元件,可以检测到包含在图像拾取范围中的各个对象的距离。因此,也可基于各个对象的测距结果,以对象为单位实现视差调节。此外,通过图像处理,根据左图像和右图像来确定关于各个对象的视差量,并且也可基于该确定结果以对象为单位实现视差调节。
2.根据实施例的配置和操作
当使用三维显示素材来实现二维显示时(在该三维显示素材中,进行根据三维图像距离来移动图像的视差调节,以便能够实现三维图像的舒适观看),由于来自变换处理的影响,可使得静止对象作出运动。鉴于此,根据本技术,在通过使用视差调节之后的三维显示素材实现二维显示的情形中,基于关于视差调节后的三维显示素材的视差调节信息,生成在视差调节之前的显示素材,以作为二维显示素材使用。
2-1.图像处理装置的配置
图5示出了图像处理装置的配置。图像处理装置10包括信息获取单元11和图像变换单元12。
信息获取单元11获取与用于二维显示的视差调节后的三维显示素材有关的视差调节信息。例如,在通过使用诸如H.264/AVC或HEVC等编码系统生成的图像数据流中,表示附加信息的SEI(Supplemental enhancementinformation,补偿增强信息)被提供作为句法元素。在表示水平移动的移动量的视差调节信息被包含在所述SEI中的情形下,信息获取单元11获取来自SEI流的视差信息。另外,在从三维显示素材中以分离的方式归档视差调节信息的情形下,从对应于用于二维显示的三维显示素材的文件中获取视差信息。应该注意到,例如,在以帧为单位进行视差调节的情形下,视差调节信息表示为每一帧所实现的水平移动的移动量,并且在以图片集(Group Of Pictures,GOP)为单位进行视差调节的情形中,视差调节信息表示为每一GOP所实现的水平移动的移动量。信息获取单元11将所获取的视差调节信息输出到图像变换单元12。
基于视差调节信息,图像变换单元12在视差调节后的三维显示素材上执行反变换处理,以恢复到视差调节之前的素材。在本文中,在坐标(x,y)处的像素被设置为p(x,y),在左图像和右图像上的目标像素被设置为p(xL,yL)和p(xR,yR),并且在视差调节后的左图像和右图像上的像素被设置为p(x'L,y'L)和p(x'R,y'R)。在视差调节中,表达式(1)定义了左图像和右图像的相对位置在水平方向上移动的处理。在所述情形中,视差调节信息表示移动量s。基于视差调节信息,以表达式(1)的相反的方式,图像变换单元12根据视差调节后的左图像和右图像上的目标像素p(x'L,y'L)和p(x'R,y'R)来计算在视差调节前的左图像和右图像上的目标像素p(xL,yL)和p(xR,yR),以生成视差调节前的素材。另外,图像变换单元12输出通过反变换处理所生成的素材,即,视差调节之前的左视点素材和右视点素材中的一个素材,作为二维显示素材。
在反变换处理中,当图像变换单元12以与视差调节时的方向相反的方向在整个图像上执行水平移动时,在图像的左端和右端中的一端生成不存在图像的区域。因此,图像变换单元12执行针对该不存在图像的区域的图像内插处理。图像变换单元12将不存在图像的区域设置为例如图像内插处理的黑带显示。另外,图像变换单元12可执行图像放大处理,以避免在图像内插处理中生成不存在图像的区域。此外,通过利用用于图像内插处理的不同时间的图像或不同视点的图像,图像变换单元12可执行对不存在图像的区域的内插。
在反变换处理中,当图像变换单元12以与视差调节时的方向相反的方向在图像中的对象上执行水平移动时,假定可以在对象的边缘(遮挡区(occlusion area))上生成不存在图像的区域。因此,图像变换单元12在遮挡区上执行图像内插处理。通过利用用于图像内插处理的不同时间的图像或不同视点的图像,图像变换单元12内插该遮挡区。
此外,在反变换处理中,图像变换单元12可执行图像放大处理,使得即使当进行水平移动时,也不生成不存在图像的区域。
2-2.图像处理装置的第一操作
在图像处理装置10的第一操作中,将阐述在通过使用在其上进行水平移动处理的素材来实现图像显示的情形中的操作。
图6是示出图像处理装置的第一操作的流程图。在步骤ST1中,图像变换单元12确定是否实现了二维显示。在实现了二维显示的情形中,例如,在用户指示二维显示的情形下或用于图像显示的显示装置不具有三维显示功能的情形下,图像变换单元12进行到步骤ST2。另外,例如,在用户指示三维显示的情况下或显示装置具有三维显示功能的情形下,图像变换单元12进行到步骤ST3。
在步骤ST2中,图像变换单元12执行二维显示处理。图像变换单元12基于由信息获取单元11提供的视差调节信息,执行反变换处理,并且从视差调节后的三维显示素材中生成视差调节之前的素材。此外,图像变换单元12输出所生成的视差调节前的素材,例如左视点素材和右视点素材中的一个,作为二维显示素材。
在步骤ST3中,图像变换单元12执行三维显示处理。图像变换单元12输出视差调节后的三维显示素材。
图7示出了图像处理装置的第一操作。例如,如图7(A)所示,图像拾取装置拾取目标的图像。在本文中,如图7(B)所示,在目标位置位于舒适范围之前的情形下,在左视点素材和右视点素材上进行视差调节,并且如图7(C)所示,目标的位置被移动了。通过以上述方式进行视差调节,目标位置被设置成位于舒适范围以内。进行视差调节的左视点素材和右视点素材被记录在例如记录介质中。如图7(D)所示,在通过使用所记录的左视点素材和右视点素材实现三维显示的情形下,通过使用所记录的左视点素材,显示左边的图像,并且通过使用所记录的右视点素材,显示右边的图像。另外,如图7(E)所示,在实现二维显示的情形中,在视差调节后的所记录的左视点素材和所记录的右视点素材中的一个上进行反变换处理,以生成视差调节前的素材。通过使用所生成的素材,实现二维显示。
当通过反变换处理在与视差调节时的方向相反的方向上进行水平移动时,生成不存在图像的区域。因此,在反变换处理中,进行对不存在图像的区域的内插。图8A-8D示出了阐述图像内插的说明图。例如,如图8B中所示,在图8A中示出的素材在向右方向上水平地移动,并且在如阴影部分表示的左侧端上生成不存在图像的区域。因此,图像变换单元12设置不存在图像的区域,例如,作为图像内插处理的黑带显示。另外,在左侧端上的图像可在水平方向被拷贝。
另外,在对每一对象进行视差调节的情形下,例如,如图8D中所示,沿向右方向水平地移动图8C中示出的对象,并且在一些情形下,可能生成由对象边缘上的黑色部分表示的不存在图像的遮挡区。因此,图像变换单元12通过利用用于图像内插处理的不同时间的图像或不同视点的图像,来执行对遮挡区的内插。
此外,通过放大图像,图像变换单元可以避免生成不存在图像的区域。在进行图像放大的情形中,图像变换单元12根据移动量设置放大因数。例如,通过随着移动量的增大而增加放大因数,可以除去不存在图像的区域。另外,如果该放大因数没有突然地波动,则用户认为图像的放大是在编辑等时所添加的效果,可以避免图像涉及不适感的反应。
此外,图像变换单元12可根据最大的移动量来决定放大因数。在所述情形下,可除去不存在图像的区域,并且即使当移动量被改变时,图像大小也不变。最大的移动量可以被预先设置为在产生三维显示素材时的移动量的最大量,并且在产生三维显示素材时,还可存储该最大的移动量。此外,可根据以场景为单位的最大移动量来决定放大因数,以及以三维显示素材的素材为单位的最大移动量来决定放大因数。
图9A-9D示出了在进行图像放大的情形中的操作。图9A示出了在图像拾取时的移动量的改变。图9B示出了根据该移动量设置放大因数的情形。如图9B所示,通过随着移动量的绝对值的增大而增加放大因数,可以除去不存在图像的区域是。图9C示出了根据最大的移动量设置放大因数的情形。在所述情形下,不仅除去了不存在图像的区域,而且即使当移动量被改变时,图像的大小不变。图9D示出了根据以场景为单位的最大移动量来设置放大因数的情形。应该注意到,在图9A-9D中,场景切换位置被表示为场景改变位置SC。在所述情形下,不对图像进行不必要的放大。
另外,在以GOP(Group Of Pictures,图片集)为单位进行视差调节并且视差调节信息表示对应每一个GOP所进行的移动量的情形下,图像变换单元12基于该视差调节信息执行反变换处理,并且以GOP为单位生成视差调节之前的素材。此外,在以帧为单位进行视差调节并且视差调节信息表示以GOP为单位的移动量的情形下,通过使用对应于前面的和后续的GOP中的至少一个的视差调节信息所表示的移动量来进行线性内插,以计算在GOP中的各个帧的移动量。通过使用所计算的移动量来在各个帧上进行反变换处理,以生成视差调节之前的素材。
如上所述,在实现三维显示的情形下,由于输出了视差调节后的三维显示素材,如果通过使用从图像处理装置10输出的图像数据来实现三维显示,则可以更自然地和更舒适地显示三维图像。另外,在实现二维显示的情形下,输出左视点素材和右视点素材中对应于视差调节前素材的一个素材,其中所述视差调节前素材基于视差调节信息,通过在视差调节后的三维显示素材上进行反变换处理来生成。因此,即使使用视差调节后的三维显示素材时,仍可以避免在二维显示中静止而没有运动的对象显示。另外,由于在二维显示中进行图像内插处理,可以除去不存在图像的区域。应该注意到,在通过切换到或选择整个图像或对象单元来进行视差调节的情形中,表示是否通过选择整个图像或对象单元来进行视差调节的信息以及与进行视差调节的对象有关的信息被包含在视差调节信息中。
2-3.图像处理装置的第二操作
附带地,在第一操作中,已经阐述了在通过使用视差调节后的三维显示素材来实现图像显示的情形中的操作。在图像处理装置10中,不仅可利用视差调节后的三维显示素材,还可利用视差调节前的三维显示素材。在第二操作中,将阐述利用视差调节前的三维显示素材和视差调节后的三维显示素材的情形。应该注意到,图像处理装置10所使用的素材具有表示该三维显示素材是否是进行过视差调节的素材的识别信息。识别信息被提供作为例如在三维显示素材的头部的标记。在本文中,在该标记为“0”的情形下,三维显示素材是没有进行视差调节的素材。另一方面,在标记为“1”的情形下,三维显示素材是进行过视差调节的素材。另外,在标记为“1”的情形下,提供了表示视差调节的调节量的视差调节信息。
图10示出了图像处理装置的第二操作。在步骤ST11中,图像变换单元12确定视差调节是否是三维显示素材。基于识别信息,在确定三维显示素材是视差调节后的素材的情形下,图像变换单元12进行到步骤ST12,并且在未确定三维显示素材是视差调节后的素材的情形下,图像变换单元12进行到步骤ST15。
在步骤ST12中,图像变换单元12确定是否实现了二维显示。在实现了二维显示的情形下,例如,在用户指示二维显示或用于图像显示的显示装置不具有三维显示功能的情形下,图像变换单元12进行到步骤ST13。另外,例如,在用户指示三维显示或显示装置具有三维显示功能的情形下,图像变换单元12进行到步骤ST14。
在步骤ST13中,图像变换单元12执行二维显示处理。图像变换单元12基于由信息获取单元11提供的视差调节信息,执行反变换处理,并且从视差调节后的三维显示素材中生成视差调节前的素材。此外,图像变换单元12输出左视点素材和右视点素材中的对应于所生成的视差调节前素材的一个素材,作为二维显示素材。
在步骤ST14中,图像变换单元12执行三维显示处理。图像变换单元12输出视差调节后的三维显示素材。
当图像变换单元12从步骤ST11进行到步骤ST15时,图像变换单元12确定是否实现了二维显示。在实现了二维显示的情形下,例如,在用户指示二维显示或在用于图像显示的显示装置不具有三维显示功能的情形下,图像变换单元12进行到步骤ST16。另外,例如,在用户指示三维显示或在显示装置具有三维显示功能的情形下,图像变换单元12进行到步骤ST17。
在步骤ST16中,图像变换单元12执行二维显示处理。由于三维显示素材是没有进行视差调节的素材,图像变换单元12输出三维显示素材的左视点素材和右视点素材中的一个作为二维显示素材。
在步骤ST17中,图像变换单元12执行三维显示处理。由于三维显示素材是没有进行视差调节的素材,使得可以实现自然地和更舒适的三维显示,图像变换单元12在三维显示素材上执行视差调节。此外,图像变换单元12输出视差调节后的三维显示素材。
图11示出了在图像处理装置的第二操作中,在记录介质中记录视差调节前的素材的情形。例如,如图11(A)所示,图像拾取装置拾取目标的图像。图11(B)所示的由图像拾取装置所生成的左视点素材和右视点素材被记录在例如记录介质中。在使用在记录介质中所记录的左视点素材和右视点素材的三维显示中,在目标位置位于舒适范围之前的情形下,在左视点素材和右视点素材上进行视差调节,并且如图11(C)所示,目标的位置被移动。通过以上述方式进行视差调节,目标位置被设置成位于舒适范围内。此外,如图11(D)所示,通过使用视差调节后的左视点素材来显示左图像,并且通过使用视差调节后的右视点素材来显示右图像。另外,在实现二维显示的情形下,如图11(E)所示,通过使用被记录的左视点素材和右视点素材中的一个,实现二维显示。
当进行上述处理时,根据用于图像显示的三维显示素材是否是视差调节后的素材,图像处理装置10可输出适合于二维显示或三维显示的素材。因此,不管用于图像显示的三维显示素材是否是视差调节后的素材,在实现三维显示的情形下,可以自然地和更舒适地显示三维图像。此外,在实现二维显示的情形下,可以避免静止对象被显示为运动的情形。
3.软件处理的示例
另外,在说明书中阐述的一系列处理可以用硬件、软件或两者的组合结构来执行。在处理用软件俩执行的情形下,记录有处理序列的程序被装载到计算机的与专用硬件一体的存储器中来运行。替换地,程序也可被安装到可以执行各种处理的通用计算机中来运行。
图12示出了计算机装置的配置,该计算机装置被配置成基于程序来执行上述一系列处理。计算机装置80的CPU(Central Processing Unit,中央处理单元)801被配置成根据在ROM(Read Only Memory,只读存储器)802或记录单元808中记录的计算机程序,执行各种处理。
RAM(Random Access Memory,随机访问存储器)803适当地存储CPU801所执行的计算机程序和数据等。CPU801、ROM802以及RAM803通过总线804相互连接。
输入和输出接口805通过总线804也连接到CPU801。输入单元806(诸如触摸面板、键盘、鼠标以及微型电话等)和包括显示器等的输出单元807被连接到输入和输出接口805。CPU801执行与从输入单元806所输入的指令对应的各种处理。然后,CPU801输出处理结果到输出单元807。
连接到输入和输出接口805的记录单元808包括例如硬盘,并且记录由CPU801所执行的计算机程序和各种数据。通过经由有线或无线通信介质连接到因特网或局域网来使通信单元809与外部装置进行通信。另外,计算机装置80可经由通信单元809获取计算机程序,以将所获取的计算机程序存储在ROM802中或记录单元808中。
当可移动介质85(诸如磁盘、光盘、光磁盘或半导体盘等)被安装到驱动器810上时,驱动器810驱动可移动介质,以获得所记录的计算机程序和数据等。所获取的计算机程序和数据视情况而被转移到ROM802、RAM803或记录单元808。
CPU801读取并且执行实现上述一系列处理的计算机程序,并且在记录单元808和可移动介质85上所记录的素材以及经由通信单元809所提供的素材上进行上述的一系列处理。
应该注意到,本技术不应被认为限制于上述实施例。本技术的实施例通过例证的方式公开本技术,并且,本领域中的技术人员应该理解,根据在所附的权利要求书或其等同实施方式的范围内的设计需求和其他因素,可以存在各种修改、组合、部分组合和替代。即,为了确定本技术的要旨,应该参考所附的权利要求书的范围。
另外,本技术的图像处理装置可以采用下列配置:
(1)图像处理装置,包括:信息获取单元,该信息获取单元被配置成获取关于视差调节后的三维显示素材的视差调节信息;以及图像变换单元,该图像变换单元被配置成基于信息获取单元所获取的视差调节信息在视差调节后的三维显示素材上执行反变换处理以恢复到视差调节之前的素材,并且生成二维显示素材。
(2)根据(1)的图像处理装置,其中,图像变换单元放大图像或在不存在图像的区域执行内插处理,以通过反变换处理来除去不存在图像的区域。
(3)根据(2)的图像变换装置,其中,图像变换单元根据视差调节的调节量来放大图像,以除去不存在图像的区域。
(4)根据(2)的图像处理装置,其中,图像变换单元根据视差调节的最大调节量来放大图像以除去不存在图像的区域。
(5)根据(4)的图像处理装置,其中,图像变换单元根据每一场景的视差调节的最大调节量来放大图像,以除去不存在图像的区域。
(6)根据(1)到(5)的任一个的图像处理装置,其中,在视差调节中整个图像被移动的情形下,在反变换处理中,图像变换单元沿相反的方向移动整个图像。
(7)根据(1)到(5)的任一个的图像处理装置,其中,在视差调节中对象被移动的情形下,在反变换处理中,图像变换单元沿相反的方向移动该对象。
(8)根据(1)到(7)的任一个的图像处理装置,其中,信息获取单元获取表示三维显示素材是否是视差调节后的素材的识别信息,并且其中,在实现三维显示的情形下,当信息获取单元所获取的识别信息表示没有进行视差调节时,图像变换单元执行视差调节。
本公开包括与在2012年1月23日向日本专利局提交的日本优先权专利申请JP2012-011063中所公开的主题有关的主题,其整体内容以引用的方式并入本文中。

Claims (10)

1.一种图像处理装置,所述图像处理装置包括:
信息获取单元,所述信息获取单元被配置成获取关于视差调节后的三维显示素材的视差调节信息;以及
图像变换单元,所述图像变换单元被配置成,基于由所述信息获取单元获取的视差调节信息,通过对视差调节后的三维显示素材执行恢复成视差调节之前的素材的反变换处理来生成二维显示素材。
2.如权利要求1所述的图像处理装置,其中,所述图像变换单元放大图像或在不存在图像的区域上执行内插处理,以通过所述反变换处理去除不存在图像的区域。
3.如权利要求2所述的图像处理装置,其中,所述图像变换单元根据所述视差调节的调节量来放大所述图像,以去除不存在图像的区域。
4.如权利要求2所述的图像处理装置,其中,所述图像变换单元根据所述视差调节的最大调节量来放大所述图像,以去除不存在图像的区域。
5.如权利要求4所述的图像处理装置,其中,所述图像变换单元根据每一场景的视差调节的最大调节量来放大所述图像,以除去不存在图像的区域。
6.如权利要求1至5中任一项所述的图像处理装置,其中,在视差调节中整个图像被偏移的情形下,所述图像变换单元在所述反变换处理中沿相反方向偏移所述整个图像。
7.如权利要求1至5中任一项所述的图像处理装置,其中,在视差调节中对象被偏移的情形下,所述图像变换单元在所述反变换处理中沿相反的方向偏移所述对象。
8.如权利要求1至5中任一项所述的图像处理装置,
其中,所述信息获取单元获取表示三维显示素材是否是视差调节后的素材的识别信息,以及
其中,在进行三维显示的情形下,当由所述信息获取单元所获取的识别信息表示没有进行视差调节时,所述图像变换单元执行所述视差调节。
9.一种图像处理方法,所述图像处理方法包括:
获取关于视差调节后的三维显示素材的视差调节信息;以及
基于所获取的视差调节信息,通过对视差调节后的三维显示素材执行恢复成视差调节之前的素材的反变换处理来生成二维显示素材。
10.一种使计算机在三维显示素材上执行图像处理的程序,所述图像处理包括:
获取关于视差调节后的三维显示素材的视差调节信息;以及
基于所获取的视差调节信息,通过对视差调节后的三维显示素材执行恢复成视差调节之前的素材的反变换处理来生成二维显示素材。
CN201310016168.7A 2012-01-23 2013-01-16 图像处理装置、图像处理方法和程序 Expired - Fee Related CN103220541B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2012-011063 2012-01-23
JP2012011063A JP2013150249A (ja) 2012-01-23 2012-01-23 画像処理装置と画像処理方法およびプログラム

Publications (2)

Publication Number Publication Date
CN103220541A true CN103220541A (zh) 2013-07-24
CN103220541B CN103220541B (zh) 2016-12-28

Family

ID=48796842

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310016168.7A Expired - Fee Related CN103220541B (zh) 2012-01-23 2013-01-16 图像处理装置、图像处理方法和程序

Country Status (3)

Country Link
US (2) US20130187907A1 (zh)
JP (1) JP2013150249A (zh)
CN (1) CN103220541B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104133647A (zh) * 2014-07-16 2014-11-05 三星半导体(中国)研究开发有限公司 用于生成电子终端的显示界面的显示驱动设备和方法
US9898804B2 (en) 2014-07-16 2018-02-20 Samsung Electronics Co., Ltd. Display driver apparatus and method of driving display
CN113674246A (zh) * 2021-08-20 2021-11-19 百度在线网络技术(北京)有限公司 审核图片文件的方法、装置、电子设备和存储介质

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103996215A (zh) * 2013-11-05 2014-08-20 深圳市云立方信息科技有限公司 一种实现虚拟视图转立体视图的方法及装置

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101938663A (zh) * 2009-06-30 2011-01-05 日立民用电子株式会社 记录再现装置和变换装置
CN102187681A (zh) * 2009-08-31 2011-09-14 索尼公司 立体图像显示系统、视差转换装置、视差转换方法及程序

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2181929B (en) * 1985-10-21 1989-09-20 Sony Corp Methods of and apparatus for video signal processing
TWI222039B (en) * 2000-06-26 2004-10-11 Iwane Lab Ltd Information conversion system
US7751694B2 (en) * 2004-02-13 2010-07-06 Angstrom, Inc. Three-dimensional endoscope imaging and display system
JP2006004158A (ja) * 2004-06-17 2006-01-05 Olympus Corp 画像処理プログラム、画像処理方法、画像処理装置及び記録媒体
JP2009135686A (ja) * 2007-11-29 2009-06-18 Mitsubishi Electric Corp 立体映像記録方法、立体映像記録媒体、立体映像再生方法、立体映像記録装置、立体映像再生装置
JP5327524B2 (ja) * 2009-02-27 2013-10-30 ソニー株式会社 画像処理装置、画像処理方法、およびプログラム
TWI436636B (zh) * 2010-08-16 2014-05-01 Acer Inc 三維視訊影像調整方法及裝置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101938663A (zh) * 2009-06-30 2011-01-05 日立民用电子株式会社 记录再现装置和变换装置
CN102187681A (zh) * 2009-08-31 2011-09-14 索尼公司 立体图像显示系统、视差转换装置、视差转换方法及程序

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104133647A (zh) * 2014-07-16 2014-11-05 三星半导体(中国)研究开发有限公司 用于生成电子终端的显示界面的显示驱动设备和方法
US9898804B2 (en) 2014-07-16 2018-02-20 Samsung Electronics Co., Ltd. Display driver apparatus and method of driving display
CN113674246A (zh) * 2021-08-20 2021-11-19 百度在线网络技术(北京)有限公司 审核图片文件的方法、装置、电子设备和存储介质
CN113674246B (zh) * 2021-08-20 2023-09-01 百度在线网络技术(北京)有限公司 审核图片文件的方法、装置、电子设备和存储介质

Also Published As

Publication number Publication date
CN103220541B (zh) 2016-12-28
JP2013150249A (ja) 2013-08-01
US20170309055A1 (en) 2017-10-26
US20130187907A1 (en) 2013-07-25

Similar Documents

Publication Publication Date Title
US11651563B1 (en) Dockable billboards for labeling objects in a display having a three dimensional perspective of a virtual or real environment
US8290244B2 (en) Apparatus and method for controlling depth of three-dimensional image
CN107193372B (zh) 从多个任意位置矩形平面到可变投影中心的投影方法
US8947428B2 (en) Method and system for displaying stereoscopic detail-in-context presentations
US8571304B2 (en) Method and apparatus for generating stereoscopic image from two-dimensional image by using mesh map
CN102208115B (zh) 基于三维医学图像而生成立体视图的技术
US8606043B2 (en) Method and apparatus for generating 3D image data
US8159530B2 (en) Method and apparatus for displaying stereoscopic images
US8441521B2 (en) Method and apparatus for determining view of stereoscopic image for stereo synchronization
CN104394452A (zh) 一种智能移动终端的浸入式视频呈现方法
US20180061128A1 (en) Digital Content Rendering Coordination in Augmented Reality
JP2007020142A (ja) 3dグラフィック処理装置及びこれを利用した立体映像表示装置
JPH1139135A (ja) カーソル表示装置
CN102595159A (zh) 信息处理装置、立体显示方法以及程序
KR20130136536A (ko) 네이티브 모노스코픽 3d의 입체 3d 로의 런 타임 변환
CN103220541A (zh) 图像处理装置、图像处理方法和程序
CN103392342A (zh) 视区调整的方法和装置、能实现立体显示视频信号的设备
CN102469333B (zh) 信息处理设备、立体显示方法和程序
CN102411486A (zh) 信息处理设备、程序以及信息处理方法
CN114281234A (zh) 图像显示方法、装置及存储介质
CN106598250A (zh) 一种vr显示方法、装置和电子设备
CN105072433A (zh) 应用于头跟踪虚拟现实系统的感知深度映射方法
TW401699B (en) A method and device for generating display frames from a sequence of source frames through synthesizing one or more intermediate frames exclusively from an immediately preceding source frame
JP2012064076A (ja) 電子アルバム生成装置および立体画像貼り付け装置ならびにそれらの動作制御方法およびそれらのプログラム
US9053567B2 (en) Stereoscopic image processing device and stereoscopic image processing method

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20161228

Termination date: 20200116