具体实施方式
以下,对作为本发明的优选的形态的第1~第3实施方式,参照附图进行说明。
实施方式的立体影像显示装置是显示多个视差图像(例如图3的图像1101~1105)、同时使多个观察者(视听者114a~114d)不使用特殊的眼镜而进行立体观察(立体影像)的立体影像显示装置100s(图1等),具备:2维显示部100,对于来自多视点(多个视点位置)的多个视差图像中的各个视差图像(例如图像1103),从多个像素序列(a~d的像素序列)中选择像素序列(a的像素序列),将该选择图像(图像1103)用所选择的像素序列(a的像素序列)显示;分离部(屏障形成部101),将来自多个像素序列的、包含有各个图像(图像1101~1105)的光而构成的光(光101L)分离成各个视差图像的光(参照图2的光101Lp),以将各个视差图像(图3的图像1103)提示在对应于该视差图像的规定位置(位置1136)上;位置检测部102,检测进行立体观察的观察者114的位置;视差配置控制部103,根据检测到的位置,进行各个视差图像的显示控制,确定处于检测到的位置的观察者(视听者114a、114b…)的没有左眼及右眼中的预先设定的眼(右眼)的位置(位置1134),在所确定的位置(位置1134)上提示多个视差图像中的预先设定的视差图像(视点位置是最左侧的图像1101)。
在第1实施方式中,对使用视听人数+1的数量的个数的视差图像,根据检测到的视听者的头部位置控制显示面板上的视差图像的显示位置而进行立体影像显示的方法进行说明。
在第2实施方式中,将提示各视差图像的规定的位置间隔细分为比眼间距离短的间隔。对根据其细分化数m,使用视听人数×m+1的视差图像,根据检测到的头部位置控制显示面板上的视差图像的显示位置来进行立体影像显示的方法进行说明。
在第3实施方式中,对在第1或第2发明中导入仅准备左眼图像L和右眼图像R,根据视听人数而插补两个LR视差图像,生成多个视差图像而使用的方法,进行立体影像显示的方法进行说明。
[第1实施方式]
使用图1到图8,对作为本发明的第1实施方式而使用视听人数+1的个数的视差图像,根据检测到的头部位置控制显示面板上的视差图像的显示位置,进行立体影像显示的装置进行说明。
在图1中表示作为本发明的第1实施方式的立体影像显示装置的结构。此外,在图2中表示视听者n是n=3的情况下的视差图像配置控制的例子,在图3中表示视听者n是n=3的情况下的视差图像配置控制的例子,在图4中表示更一般化的视听者为n的情况下的视差图像配置控制的例子。另外,这里,假设提示视差图像的位置的间隔PLen与眼间距离Leye相同。在图5中,表示作为本发明的第1实施方式例的立体影像显示装置内的位置检测部的结构,在图6中表示位置检测部内的头部检测部的结构。并且,在图7中表示位置检测部的处理概要,在图8中表示头部检测部180的图案匹配例。
按照这些图对作为本发明的第1实施方式的立体影像显示装置进行说明。
图1是表示立体影像显示装置100s的结构的图。
如图1所示,立体影像显示装置100s具备照相机104等的各构成单元。
照相机104对视听者100x(视听者100x1等)存在的区域(区域100R)的图像(图像104I)进行摄影。
位置检测部102基于摄影的图像104I,检测视听者100x的位置变动。
初始调整部105进行将立体影像显示装置100s(初次)设置在住宅的起居室等中的时点等的、用于位置检测部102的位置检测的在该位置检测中使用的参数的调整,及显示设备、视差屏障等的调整。
2维显示部100显示2维的视差图像。
显示电路108是用来使2维显示部100进行显示的显示电路,例如也可以是控制2维显示部100的动作的控制电路。
并且,屏障形成部(分离部:视差屏障等)101开口而使来自2维显示部100的图像的光101L通过或对其进行遮挡。
由此,光101L中的、被向规定的位置提示的视差图像(图像110)的光的部分入射到该规定的位置(图2的位置113)。由此,在该位置上提示该视差图像。由此,当视听者114的眼睛(左眼或右眼)处于该位置时,由该眼睛看到提示在该位置处的图像。
屏障控制电路106控制屏障形成部101的动作。
视差配置控制部103基于位置检测部102的结果(由位置检测部102输出的信息102I),对显示2维显示部100的视差图像的配置(提示图像1101的位置113等)进行优化控制。
存储部107s例如是RAM(Random Access Memory:随机存取存储器)等,存储有显示2维显示部100的多个视差图像107,显示存储的多个视差图像107。
另外,视差屏障101在由较薄的薄膜构成那样的情况下为固定屏障。因此,在此情况下,假设没有由初始调整部105实施屏障位置及间距调整。另外,在此情况下,在屏障控制电路106中,在薄膜整面上进行设为透过、或使屏障(实施开口和遮挡)为有效的控制。
另外,为了便于说明,适当将包含2维显示部100和屏障形成部101的整体称作显示部100h。
另外,立体影像显示装置100s例如也可以是电视机等。即,立体影像显示装置100s也可以接收信号、将由接收到的信号表示的作为广播的影像的立体影像的多个视差图像107通过上述显示部100h显示。立体影像显示装置100s也可以由此使视听者114感知接收到的立体影像,对视听者114显示立体影像。
首先,基于由照相机104摄影的图像(图像104I)、和位置检测部102的结果(信息102I),初始调整部105实施初次设置到起居室等的房间中的时点的用于位置检测的参数调整,及显示设备、视差屏障等的调整。
另外,在此情况下,在使用基于TFT液晶面板等的主动视差屏障的情况下,实施规定的优化视听距离的屏障的间距宽度及屏障位置的调整(通过像素或子像素的像素单位实施开口部分和遮挡部分的位置的控制)。
图5是表示位置检测部102的结构的图。
图6是表示位置检测部102具备的头部检测部180(参照图5)的结构的图。
作为关于位置检测的参数的调整的处理,例如也可以进行以下的处理。在该处理中,使用对规定距离的、朝向正面的人物进行摄影的照相机图像。并且,在该处理中,实施摄影图像内的亮度分布/颜色分布调整及后述的图案匹配内的阈值参数调整,以便能够进行该照相机图像中的脸部分的提取。进而,在该处理中,作为用来计算多个视听者之间的距离的基准值调整,如以下详细说明的那样,也实施图像数据库(模板存储存储器)188(图6)内的基准脸图像的大小FLEN(图7)、与提取出的正面脸图像的大小len之间的相对比值量(日语:相対比量)RFace。
图7是示意地表示位置检测部102的处理的图。
与上述的动作匹配,进行使用作为离开优化视听距离的图像的测试图像的立体影像辨识评价。并且,基于根据该立体影像辨识评价确定的观看容易度、模糊/融像程度,实施显示电路108中的灰阶特性的调谐,及代表LR视差图像内的视差量控制(线性系数下的强弱控制及水平方向移位量调整)。相当于进行调整以便能够进行图7的基准点(用星标记表示的点104s)处的基准视差图像A的视听。
作为为了实施上述调整、特别是为了提高位置检测精度而实施的位置检测处理,实施图7那样的处理。
首先,用照相机104对被认为是视听者所处的区域(例如图1的区域100R的一部分或全部等)的图像进行摄影。
另外,照相机104需要是满足这样的具有能够将推测视听者所处的区域(例如在起居室的情况下是从TV(电视机)视场角100度、视听距离1.5m到6、7m以内的区域等)摄影那样的视角的条件的照相机(camera)。
基于摄影的图像,头部检测部180(图5、图6)提取该图像内的人物头部(头部的区域)(图7的处理Sa1:(a)栏)。
相对于此,基准点设定部182(图5)设定在该图像内检测相对的大小时的基准点(点104s)(处理Sa2:图7的(b)栏)。
接着,如图7的(c)栏(处理Sa3)所示,视听者位置检测部181(图5)进行A、B的两个视听者(多个视听者)的各自的头部检测,分别求出视听者A与视听者B之间的距离Len_AB、视听者A与基准点之间的距离Len_A、以及视听者B与基准点之间的距离Len_B。
在此情况下,如(c)栏所示,将保持在图像数据库188内的基本脸图像的大小FLEN与如下值比较。该值是提取出的人物A的头部的区域的大小slen_A、以及人物B的头部的区域的大小slne_B的代表值。将FLEN与该代表值比较,求出相对比值量RFace。
并且,使用该值(求出的相对比值量RFace)作为在图像内得到的用于slen_AB、slen_A、slen_B的系数,如下述(数式1)那样进行计算。
[数式1]
Len_A=slen_A×RFace
Len_B=slen_B×RFace……(1)
Len_AB=slen_AB×RFace
这里,例如在作为与FLEN比较的、所提取的人物的头部的区域的大小(slen_A、slne_B)的值而使用预先准备的基准脸图像A的情况下,也可以使用以下的值。即,在此情况下,也可以将对应于该基准脸图像A的、作为所提取的人物A的区域中的大小的slen_A用于与FLEN的比较。此外,也可以将slen_A与slen_B的平均值与FLEN比较。
最后,位置移动判断部183(图5)基于规定的时刻前的、作为视听者A与B的位置信息的Len_AB、Len_A、Len_B的变化量dLenAB、dLenA、dLenB,进行是否运动的判断。
在此情况下,由于视差图像间距离是眼间距离Leye,所以作为难以发生串扰的大小而将阈值设定为Leye/2。
即,在变化量dLenAB、dLenA、dLenB中的两个以上比Leye/2大的情况下,做出有位置移动的判断,位置检测部102输出该视听者位置信息(Len_AB和Len_A、Len_B)、和指示适合于有这样的位置移动时的视差图像配置控制的实施的信号。
头部检测部180(图5)的细节部例如如图6所示那样构成。
另外,如图6所示,模板存储存储器188也可以由头部检测部180外的外部存储器构成。另一方面,模板存储存储器188也可以包含在头部检测部180内等。
在轮廓检测部185中,从被输入的彩色图像信号(图像数据)中取得轮廓信息。
以下对该轮廓检测部185中的处理详细地说明。
在轮廓检测部185中,通过由下述(数式2)表示的、具有3×3的大小的2维滤波器进行的2维滤波处理,由下述的(数式3)求出图像内的各像素(i,j)的微分矢量vd(i,j)(xd(i,j),yd(i,j))。
[数式2]
[数式3]
此外,将微分矢量vd(i,j)的大小stv(i,j)通过下式求出。
stv(i,j)=(xd(i,j)×xd(i,j)+yd(i,j)×yd(i,j))^0.5
在轮廓检测部185中,将各像素(i,j)的上述stv(i,j)使用规定的阈值TH2,通过如下述(数式4)那样与该TH2比较来进行轮廓像素提取。
另外,下述(数式4)进行用来表示由彩色图像信号形成的图像上的像素是否是包含在轮廓中的像素的2值化,E(i,j)=1表示像素(i,j)是包含在轮廓中的像素。
[数式4]
这样,将由轮廓检测部185求出的轮廓信息E(i,j)(以下也有只表述为“轮廓信息Ei”的情况)向特征量提取部186(图6)输出。
另一方面,在颜色程度检测部184(图6)中,在以颜色分布进行聚类(cluster)分类后,计算各聚类内像素的肤色程度。
并且,求出变换后的信息,以使得越是较多包含该肤色程度高的像素的聚类区域,则输出越是成为1.0。
向特征量提取部186还传递该颜色程度信息,基于轮廓信息和根据肤色程度量的特征量,求出人物类似程度FHi(i,j)。
另外,该计算既可以是通过两个特征量的线性结合的计算,也可以是通过非线性变换的计算等。
此外,也可以是,在轮廓信息Ei中,在皮肤色度较高的地方,原样将Ei作为人物类似程度FHi(i,j),另一方面,在皮肤色度较低的地方,乘以减弱轮廓信息Ei的系数,将相乘而被弱化后的值作为人物类似程度FHi(i,j)输出等。
此外,也可以不使用肤色程度、而仅通过轮廓信息Ei求出人物类似程度FHi(i,j)。
在图案匹配部187中,将通过特征量提取部186得到的根据人物类似程度FHi确定的区域的形状与预先准备的模板存储存储器188内的对象区域的形状数据的形状进行图案匹配处理,进行对象区域提取。
作为进行对象区域提取的对象区域,可以举出例如脸区域、人物区域(上半身、全身)、或眼睛、鼻子、嘴那样的脸局部区域等。
另外,在将对象区域设为脸区域的情况下,在模板存储存储器188中预先保持脸区域的标准形状数据(也可以是多个。此外,也可以是多个方向上的形状数据)。
此外,在将对象区域设为人物区域的情况下,在模板存储存储器188中预先保持人物区域的标准形状数据(也可以是多个。此外,也可以是多个方向上的形状数据。此外,既可以是上半身也可以是全身)。
此外,在将对象区域设为眼睛、鼻子、嘴的局部区域的情况下,在模板存储存储器188中预先保持各局部区域的标准形状数据。
这样,通过进行由模板存储存储器188保持的形状数据Tp[k,s](p=1,…,Pnum)(k=0,1,…,Wp-1)(s=0,1,…,Hp-1)、与各像素(i,j)的特征量信息FH(i,j)的图案匹配处理,由图案匹配部187提取对应区域(对象区域信息:图6的信息187I)。
另外,Pnum是模板数,Wp、Hp分别是矩形模板的水平像素数、垂直像素数。
图8是用来说明图案匹配法的一例的示意图。
作为由图案匹配部187(参照图6)执行的图案匹配处理的方法,有许多方法,但作为简单的方法,有例如图8所示那样的方法。通过图案匹配部187进行执行该方法的处理187q。
以下对该方法进行说明。
对于模板188P,设定以像素(i,j)为中心的、具有水平宽度Wp、垂直宽度Hp的矩形区域候选SR[i,j,Wp,Hp]。
并且,基于设定的矩形区域候选SR[i,j,Wp,Hp]内的轮廓信息E(i,j)、和保持在模板存储存储器188中的确定模板188P的形状的形状数据Tp[k,s](图8的数据188a:(k=0,…,Wp-1)(s=0,1,…,Hp-1)),求出下述(数式5)那样的评价函数R(i,j,p)。
[数式5]
接着,如下述(数式6)所示,对于模板188P及像素(i,j),求出作为最大的评价函数R(i,j,p)的MR。
另外,在(数式6)中,MAX表示对像素(i,j)及模板188P求出R(i,j,p)的最大值。
并且,如果该最大值MR是规定的阈值THMR以上,则提取对应于最大值MR的矩形区域候选SR[i,j,Wp,Hp]作为求出的对象区域信息BestSR[i,j,W,H]。
[数式6]
这样,通过与规定的阈值THMR比较,能够抑制发生向噪声等的匹配。
另外,在最大值MR比阈值THMR小的情况下,认为没有对象区域,作为对象区域信息BestSR[i,j,W,H]而将输入图像的信息[width/2,height/2,width,height]输出。
另外,这里,width表示输入图像的水平像素数,height表示输入图像的垂直像素数。
如以上这样,将由图案匹配部187取得的对象区域信息BestSR[i,j,W,H]作为对象区域信息(图6的187I)从头部检测部180输出。
在由位置检测部102输出了表示判断为发生了位置移动的信号(参照图5的信息102I)的情况下,在视差配置控制部103(图1)中,实施由2维显示部100显示的视差图像的优化配置的处理。
图2、图3、图4分别是表示该处理的1例的图。
在图2中,关于视听者的数量n,表示n=3的情况下的视差图像配置控制的例子,在图3中,关于视听者的数量n,表示n=4的情况下的视差图像配置控制的例子。并且,在图4中,表示一般化的视听者数量为n人的情况下的视差图像配置控制。
图2是表示n=3的情况下的视差图像配置控制的例子的图。
首先,基于图2对视听者n=3的情况下的1例进行说明。
在图2(以及后面说明的图3、4的各自)中,表示显示图像(2维的视差图像)的面板(2维显示部)100。
此外,表示显示在该面板100上的多个视差图像110。
此外,表示了用来通过将来自各个视差图像(图像110:例如图像1101)的光101Lp开口或遮挡从而提示在规定的视听位置(位置1132)的视差屏障(屏障形成部)101。
此外,表示了处于距面板100为规定的距离的直线113L上的视听位置113(视听位置1131、1132等)。
此外,表示了视听者114(例如第1视听者114a)的左眼的位置(位置1132)与右眼的位置(位置1133)的两个位置的组合118(组合118a)。
此外,表示在各个位置113处观察的视差图像115(视差图像110)的视差图像号码(1、2…)。
此外,表示了进行所提示的视差图像115的配置设定时的设定单位116。另外,设定单位116是两个以上的个数(在图2的例子中是5个)的位置所属于的单位。
这里,有在相互相邻的两个位置113上提示的两个图像(视差图像)115被提示的两个位置(位置1131、1132)之间的间隔PLen。该间隔PLen与作为视听者114的左眼与右眼之间的距离的眼间距离Leye相同。例如,由此,视听者114(例如第1视听者114a)的左眼的位置和右眼的位置的两个位置(位置1132、1133)与处于相互相邻的两个视差图像(例如位置1132的图像1101及位置1133的图像1102)的位置一致。
图2中的表示视听者114的部位,表示该视听者114所处的位置,而且,该视听者114的位置表示是该位置时的、该视听者114的两个眼睛的位置。
即,在图2中,表示例如在第1视听者114a的两个眼睛中左眼的位置(位置1132)处于视差图像1101的提示位置,右眼的位置(位置1133)存在于视差图像1102的提示位置。
如上所述,相互相邻的两个视差图像115(视差图像110)的位置(例如位置1132、1133)之间的距离PLen为作为视听者114的左前与右眼之间的距离的眼间距离Leye。
因此,在存在3人的视听者(第1~第3视听者114a~114c)的情况下,需要进行视差图像115的配置控制的视差图像的个数NumP为NumP=(视听者数n+1)=4(参照第1~第4视差图像1101~1104)。
即,显示在面板100上的像素序列位置(a,b,c,d,a)处的视差图像110从4张视差图像(第1~第4视差图像1101~1104)的集合OG4={j|j∈(1,2,3,4)}中选择配置。
这里,考虑在与入射到视听者114的左眼中的视差图像的视差图像号码相比、入射到右眼(位置)中的视差图像的视差图像号码较小的情况下发生逆视。
在此情况下,在进行所提示的视差图像配置的设定时使用的单位116如图2所示,由处于直线113L内(直线113L上)的(a,d,c,d,a)的5个位置113构成。例如,作为单位116之一的单位1161由5个位置1131~1135构成。
另外,这样不是4个位置、而由5个位置构成是因为也需要考虑d与a的组合。
处于设定单位116(单位1161)内的位置1131、1132、1133、1134、135分别表示视差a的被提示的位置、视差b的被提示的位置、视差c的被提示的位置、视差d的被提示的位置、第2次的视差a的被提示的位置。
在该单位116内,如果计算3人的视听者114a~114c的眼睛的位置所处的各位置之中的开头的位置——即开头视差位置(位置1132)、与眼睛的位置所处的最终的视差位置——即最终视差位置(位置1135)之间的视差数NSP,则为NSP=4。
如果将该值与需要的视差图像的数量NumP=4比较,则为NSP=NumP。
这里,NumP为配置控制的基准值,也如图2等所示那样定义为Th_NSP。
在这样的情况下,在多个视听者的眼睛的位置之中,在处于最开头的开头视差位置(位置1132)与最终视差位置(位置1135)之间,在全部的位置上配置有眼睛。
所以,在开头的眼睛的位置(位置1132)上配置视差图像集合OG4内的处于最开头的视差图像1101,从这里起,随着向更右方的视差位置行进而分配将视差号码每次加1而得到的结果。
通过这样,在单位116中的第2次的视差位置a(位置1135)之前为没有逆视的视差图像配置。
同样,处于单位116的右端的a的位置(位置1131)被折回到单位116内的开头,所以对处于开头的视差位置a(位置1131)分配与设定在第2次的视差位置a的视差图像号码相同的号码。
通过这样,在此情况下也能够进行没有逆视的配置。
另外,图2中的用圆形标记表示的位置103p表示配置在视差图像集合OG4中处于最开头的视差图像1101的视差位置号码的位置。
图3是表示视听者n为n=4的情况下的视差图像的优化配置控制例的图。
需要视差图像数NumP为NumP=(视听者数n+1)=5,将显示在面板100上的像素序列位置(a,d,c,d,e,a)上的视差图像110从5张视差图像集合OG5={k|k∈(1,2,3,4,5)}中选择配置。
进行所提示的视差图像配置的设定的单位116需要也考虑e与a的组合。因此,由处于视听位置113内的(a,d,c,d,e,a)的6个位置构成。
包含在设定单位116中的位置1131、1132、1133、1134、1135、1136分别表示视差a的被提示的位置、视差b的被提示的位置、视差c的被提示的位置、视差d的被提示的位置、视差e的被提示的位置、第2次的视差a的被提示的位置。
在该设定单位116中,4人的视听者114a~114d的眼睛的位置之中的、作为开头的位置的开头视差位置(位置1131)与眼睛的位置所处的最终视差位置1136之间的视差数NSP为NSP=6。
如果将该NSP与需要的视差图像数NumP=5比较,则由于比该值大,所以表示在4人的视听者的眼睛的位置所处的开头视差位置与眼睛的位置所处的最终视差位置之间具有未配置眼睛的空间部分。
与图2的情况不同,在多个视听者114的眼睛的位置之中的开头视差位置(位置1131)与最终视差位置(位置1136)之间有空白区域,是指在该空白区域(空白部分)中视差图像号码中断。
并且,在该空白部分之后的视差位置(位置1134)处,配置包含在视差图像集合OG5内的各图像110之中的处于最开头的视差图像1101,从这里起,随着向右方的视差位置行进,分配将视差号码每次加1而得到的结果。
通过这样,在单位116内的第2次的视差位置a(位置1136)之前,为没有逆视的视差图像配置。
另一方面,在处于单位116的右端的a(位置1136),被折回到设定单位116内的开头的位置(位置1131),所以对处于开头的视差位置a(位置1131)分配与设定在第2次的视差位置a(位置1136)的视差图像号码(3)相同的号码(3),从其之后的位置1132起,对没有配置眼睛的区域的左部分(位置1133)以内的各个位置依次相加并分配视差号码,由此,即使是设定单位116中的设定单位的开头部分,也能够进行没有逆视那样的配置。
作为有圆形标记的位置103p的位置1134,为配置在视差图像集合OG5内处于最开头的视差图像1(图像1101)的视差位置号码的位置。
图4是表示一般化的视听者n的情况下的视差图像的优化配置控制的1例的图。
相互相邻的两个视差图像110之间的距离为眼间距离Leye,需要进行视听者n的视差配置控制的视差图像数NumP为以下的(数式7)那样。首先,在图4中,表示多个视听者不在相同的位置(v1,v2,…,vn,vn+1)的情况。
[数式7]
NumP=(n+1)………(7)
此时,显示在面板100上的像素序列位置(v1,v2,v3,…,vn,vn+1)的各自上的视差图像110从(n+1)张视差图像集合OGn={k|k∈(1,2,3,4,5,6,7,…,n+1)}中选择配置。
进行所提示的视差图像的配置的设定的单位(设定单位)116如图4所示,由处于视听位置113内的(v1,v2,v3,v4,…,vn,vn+1,v1)的(n+2)个位置构成。
首先,求出n人的视听者的眼睛的位置所处的开头视差位置、与眼睛的位置所处的最终视差位置之间的视差数NSP,与需要的视差图像数NumP=n+1比较。
如图4那样,在NSP>NumP的情况下,与图3的例子同样,意味着在多个视听者的眼睛的位置的开头视差位置与最终视差位置之间有空白区域、视差图像号码中断。
因此,对该空白部分之后的视差位置(位置103p),配置处于视差图像集合OGn内的最开头的视差图像1(图像1101)。
并且,从这里(位置103p)起,随着向更右方的视差位置行进,分配将视差号码每次加1而得到的结果。
另一方面,将处于设定单位116的右端的v1的视差号码也分配给处于开头的视差位置v1,从其之后的v2到没有配置眼睛的区域的左位置,对视差号码进行加法运算而分配。
此外,在NSP=NumP的情况下,只要设为与图2的例子同样就可以。
即,多个视听者的眼睛的位置的开头视差位置与最终视差位置之间全部配置有眼睛。
因此,在开头的眼睛的位置上配置视差图像集合OGn内的处于最开头的视差图像1,从这里起,随着向右方的视差位置行进,分配将视差号码每次加1而得到的结果。
并且,由于处于单位116的右端的视差位置v1被折回到设定单位116内的开头,所以对处于开头的视差位置v1分配与设定在第2次的视差位置v1上的视差图像号码相同的号码,到多个视听者的眼睛的位置的开头视差位置为止依次进行加法运算而分配视差号码。通过这样,能够进行优化配置。
另一方面,在有多个视听者的情况下,也发生对于第1人的视差提示位置,在反复出现的相同的视差提示位置上存在不同的视听者的情况(例如,在图4的设定单位中,vn为多个视听者的眼睛的位置的最终视差位置的情况等)。
在此情况下,在NSP>NumP时,与上述多个视听者位置不重叠的情况下的研究相同。
另一方面,在NSP≤NumP的情况下,在多个视听者的眼睛的位置的开头视差位置与最终视差位置之间,以设定单位看,多个视听者的眼睛的位置重叠。因此,虽然存在没有配置眼睛的空白部分,但与图2的例子同样,通过采用对开头的眼睛的位置配置视差图像集合OGn内的处于最开头的视差图像1,从这里起随着向右方的视差位置行进,分配将视差号码每次加1而得的结果的方法能够应对。
图17、图18表示视听者为3人的情况。
在图17、图18那样的情况下,在多个视听者的眼睛的位置之中的开头视差位置与最终视差位置之间,如果以设定单位看,多个视听者的眼睛的位置重叠。
因此,在单位116内,存在两个以上的没有配置眼睛的空白部分。
但是,在此情况下,也通过用上述那样的考虑方式配置图像,能够改善逆视。
例如在图17的情况下,为NSP=NumP,与图2的例子同样,通过采用在开头的眼睛的位置上配置视差图像集合OGn内的处于最开头的视差图像1,从这里起随着向更右方的视差位置行进,分配将视差号码每次加1而得的结果的方法能够应对。
此外,在图18的情况下,为NSP>NumP,与图3的例子同样,意味着在多个视听者的眼睛的位置之中的开头视差位置与最终视差位置之间有空白区域、视差图像号码中断。
所以,从该空白部分之后的视差位置起,配置视差图像集合OGn内的处于开头的视差图像1。并且,从这里起,随着向右方的视差位置行进,分配将视差号码每次加1而得的结果。另一方面,将处于设定单位116的右端的v1的视差号码也分配给处于开头的视差位置v1,从然后的v2到没有配置眼睛的区域的左位置对视差号码进行加法运算而分配。
另一方面,在有多个视听者的情况下,也发生对于第1人的视差提示位置,在重复出现的相同的视差提示位置存在与第1人的视听者不同的第2人的视听者的情况(例如,在图4的设定单位中,v7为多个视听者的眼睛的位置的最终视差位置的情况)。
在此情况下,在NSP>NumP时,与上述的研究同样。在为NSP<NumP的情况下,在多个视听者的眼睛的位置的开头视差位置与最终视差位置之间,如果以设定单位看,则多个视听者的眼睛的位置重叠,所以存在没有配置眼睛的空白部分,但与图2的例子同样,通过采用对开头的眼睛的位置分配视差图像集合OGn内的处于最开头的视差图像1,从这里起随着向更右方的视差位置行进,分配将视差号码每次加1而得的结果的方法能够应对。
通过这样,例如从vn+1起分配视差号码1,在折回到左端的情况下,能够抑制在vn和vn+1都有视听者的情况下发生的逆视。
因为以上,(1)在NSP≤NumP的情况下,对开头的眼睛的位置分配视差图像集合OG4内的处于最开头的视差图像1,从这里起,随着向右方的视差位置行进,分配将视差号码每次加1而得的结果。在对处于开头的视差位置v1分配与设定在第2次的视差位置v1的视差图像号码相同的号码,到多个视听者的眼睛的位置的开头视差位置为止依次进行加法运算而分配视差号码(2)NSP>NumP的情况下,从空白部分之后的视差位置起配置视差图像集合OGn内的处于最开头的视差图像1。并且,从这里起,随着向右方的视差位置行进,分配将视差号码每次加1而得的结果。
另一方面,将处于设定单位116的右端的v1的视差号码也分配给处于开头的视差位置v1,从其之后的v2到没有配置眼睛的区域的左位置,对视差号码进行加法运算而分配。
这样,通过对视听者数n准备(视听者数+1)的视差图像、将在设定单位内定义的多个视听者的眼睛的位置的开头视差位置与最终视差位置之间的视差位置数,与所需要的视差图像数比较来配置控制,从而能够提供即使是3人以上的多个视听者同时视听的情况下也不发生逆视而能够观察立体影像的立体影像显示装置。
另外,在图2到图4中,仅表示了在特定的位置处有视听者的眼睛的位置的情况,但如果在由图2到图4中的视听者数可以取的视差位置有多个视听者的眼睛的位置,也能够通过同样的步骤进行不发生逆视的视差图像配置。
此外,虽然以上叙述了,但在n人的视听者而视差图像数NumP=(n+1)的情况下,不是能够配置在所有人不同的眼睛的位置上那样的情况、而是在重叠的视差位置上存在多个视听者的眼睛的位置那样的情况下,也能够以同样的步骤进行视差图像的配置控制。
即,对最大视听者数nmax准备(nmax+1)的视差图像,在头部检测的结果判断为位置移动的阶段中,按照上述那样的规则进行显示视差图像时的配置控制。
通过这样,呈现出以下效果,即:在将视差图像以眼间距离间隔而被提示的情况下,即使是3人以上、nmax人以下的多个视听者同时视听的情况,也不发生逆视而能够观察立体影像的效果。
另外,在多个视听者不在相同的位置(v1,v2,…,vn,vn+1)的情况下,如以下这样,也为与上述的情况同样的结果。
首先,从单位116的开头起进行搜索,在多个视听者的眼睛的位置之中的开头视差位置与最终视差位置之间调查有空白区域的位置。
在该位置,意味着视差图像号码中断。
因此,在该空白部分之后的视差位置上,配置视差图像集合OGn内的处于最开头的视差图像1。
并且,从这里起,随着向更右方的视差位置行进,分配将视差号码每次加1而得的结果。
另一方面,将处于设定单位116的右端的v1的视差号码也分配给处于开头的视差位置v1,从然后的v2到没有配置眼睛的区域的左位置,对视差号码依次进行加法运算而分配。
相对于此,在对于第1人的视差提示位置,在重复出现的相同的视差提示位置上存在不同的视听者的图17及图18那样的情况下,发生多个空白区域。
在上述方法中,在图17的情况下,在开头的眼睛的位置上配置视差图像集合OGn内的处于最开头的视差图像1,从这里起,随着向更右方的视差位置行进,分配将视差号码每次加1而得的结果。
但是,通过如图19那样、从最初的空白区域之后的视差位置起配置视差图像集合OGn内的处于最开头的视差图像1的方法也能够应对。
此外,在图18的情况下,在上述方法中,从该空白部分之后的视差位置起配置视差图像集合OGn内的处于最开头的视差图像1,但通过如图20那样配置也能够应对。
由此,从单位116的开头起进行搜索,在多个视听者的眼睛的位置之中的开头视差位置与最终视差位置之间调查有空白区域的位置。
在该位置,意味着视差图像号码中断。
所以,从该空白部分之后的视差位置起,配置视差图像集合OGn内的处于最开头的视差图像1。
并且,从这里起,随着向更右方的视差位置行进,分配将视差号码每次加1而得的结果。
另一方面,也可以采用将处于设定单位116的右端的v1的视差号码也分配给处于开头的视差位置v1,从然后的v2起到没有配置眼睛的区域的左位置,对视差号码依次进行加法运算而分配的方式。
进而,在本发明中,决定处于最左方的视差图像的开始地点,从那里起,依次配置处于更右方的视差图像,抑制了逆视。
另一方面,也可以决定处于最右方的最终视差图像的开始地点,从这里起依次分配处于左方的视差图像。
在此情况下,在相对于通过上述两个方法定义的、处于最左方的视差图像的开始地点的左边1个相邻的视差位置,设定处于最右方的视差图像的开始位置。即,在此情况下,将号码最大的视差图像分配给该位置,从这里起,随着向更左方的视差位置行进,分配将视差号码每次减1而得的结果。并且,对于处于单位116的右端的视差号码,分配处于开头的视差位置v1的视差号码。通过这样,能够实现适当的处理。
另外,作为头部检测方法,也可以使用其以外的特征量,图案匹配方法也可以是其他方法。例如,也可以将与通过神经网络等的学习方法得到的模板存储存储器的数据的平方误差值用在匹配时的评价函数中。
另外,立体影像显示装置100s例如也可以是电视机。此外,也可以是显示个人计算机显示的立体影像的显示器等。此外,也可以是显示作为游戏的画面的立体影像的游戏机。此外,也可以是显示作为广告的立体影像的广告显示装置,也可以是其他种类的装置等。
[第2实施方式]
使用图9到图13,作为本发明的第2实施方式,说明将提示各视差图像的规定的位置间隔比眼间距离更细分化的例子。
对根据该细分化数n使用视听人数×n+1的视差图像,并根据检测到的头部位置控制显示面板上的视差图像的显示位置来进行立体影像显示的装置进行说明。
在图9中表示作为本发明的第2实施方式的立体影像显示装置的结构。在图10中表示控制提示视差图像的间隔的显示间隔控制部201的处理。此外,在图11中,表示视听者n为n=2、细分化数m为m=2的情况下的视差图像配置控制的例子,在图12中,表示视听者n为n=3、细分化数m=2的情况下的视差图像配置控制的例子,在图13中,表示视听者n为n=3、细分化数m的情况下的视差图像配置控制的例子。除了显示间隔控制部201和细分视差配置控制部202以外,实施与第1实施例同样的处理。
图9是表示立体影像显示装置的结构的图。
在显示间隔控制部201中,实施预先设定的控制视差图像间的距离PLen的处理。
如图22及第1实施例所示,多个视差图像在距面板为规定的进深距离位置的空间中以规定的PLen的间隔被提示。
通常,两个视差图像分别入射到人的左眼和右眼中,所以通常将这两个视差图像的间的间隔PLen设定为人的眼间距离Leye。
作为该眼间距离,有个人差异及大人与儿童的差异,但大体上使用Leye=60(mm)到70(mm)的值。
图10A是表示通常的配置的图。
图10B是表示Leye/2下的配置的图。
即,在上述通常的配置中,如图10A那样,配置在各位置处观察的视差图像(表示4视差图像的情况,在D的右横侧再配置视差图像A,接着为B、C、D。关于视差图像A的左横侧,也同样以A、B、C、D的顺序反复配置)。
在左眼处于该4个位置、右眼处于在其右方的视差图像的位置的情况下,通过对应于左眼和右眼所处的位置的两个视差图像的两眼视差能够感知立体影像。
但是,例如在左眼移动到图10A的A与B之间的情况下,在左眼中可看到视差图像A与视差图像B混合后的影像。
同样,右眼也对应于左眼而移动到B与C之间,在右眼中可看到视差图像B与视差图像C混合后的影像。
结果,通过哪个眼睛都被入射混合的影像,发生不能感知立体影像、但感受到变形的影像的串扰现象。
为了减轻该问题,如图10B那样,可以考虑将所提示的视差图像间距离PLen细分化。在此情况下,PLen为以下的(数式8)那样。
[数式8]
PLen=Leye/m………(8)
图11是示意地表示第2实施方式中的处理(视听者为2人、细分化数m=2的情况)的图。
图12是示意地表示第2实施方式中的处理(视听者为3人、细分化数m=2的情况)的图。
图13是示意地表示第2实施方式中的处理(视听者为3人、细分化数m的情况)的图。
这里,在图11中表示细分化为两个的例子(细分化数m=2),为PLen=Leye/2。
成为将视差图像A′提示在A与B的中间位置上、将视差图像B′、C′分别提示在B与C的中间位置、以及C与D的中间位置上。
在此情况下,在细分视差配置控制部202中,根据位置检测部102的结果,实施2维显示部100上的视差图像配置控制。
在细分视差配置控制部202中,在由位置检测部102判断为有视听者位置的移动的情况下,如图11、图12、图13所示,也可以实施视差图像配置的优化,也可以基于规定的时间定时的位置检测部102的位置检测结果(视听者位置信息)进行视差图像配置的优化。
此外,也可以基于是否由位置检测部102判断出有视听者位置的移动、和规定的时间定时这两者,来进行视差图像配置的优化。
细分视差配置控制部202的处理概要为图11、12、13所示那样。
首先,基于图11对视听者n=2、细分化数m=2的情况下的1例进行说明。
图11的定义结构与在第1实施例中说明的图2、3、4的情况是同样的。但是,提示视差图像的间隔PLen与图2的情形相比为一半。因此,成为在视听者213a与视听者213b的左眼与右眼之间加入1个视差图像那样的组合。标号214表示各视听者的眼睛的位置,表示视听者213a的左眼位置为视差图像b的提示位置、右眼位置存在于视差图像d的提示位置(214a)。
并且,两个视差图像的间的距离为眼间距离Leye的一半。因此,需要视差图像数NumP为NumP=(视听者数n×2+1)=5,显示在面板100上的像素序列位置(a,d,c,d,e)上的视差图像110也从5张视差图像集合PG5={k|k∈(1,2,3,4,5)}中选择配置。
这里,与第1实施例的情况同样,在与入射到左眼中的视差图像号码相比、入射到右眼中的视差图像号码较小的情况下发生逆视。
进行所提示的视差图像配置的设定的单位212如图11所示,由处于视听位置210内的(a,d,c,d,e,a,b)的7个位置构成。
这是考虑到不仅是d与a的组合、还有e与b的组合。
在设定单位212内,211a、211b、211c、211d、211e、211f、211g分别表示视差a的被提示的位置、视差b的被提示的位置、视差c的被提示的位置、视差d的被提示的位置、视差e的被提示的位置、第2次的视差a的被提示的位置、第2次的视差b的被提示的位置。
另外,为了说明的方便,在该图11等中,将标号211a等的表示位置的各个标号图示在图中的比较下部的位置。
在该单位212内,计算两个视听者的眼睛的位置所处位置之中的开头视差位置(位置211b)、与眼睛的位置所处的最终视差位置(位置211g)之间的视差数NSP。
在图11的情况下,为NSP=6。
将该值与需要的视差图像数NumP比较。
并且,相当于设定单位内的多个视听者的眼睛的位置的开头视差位置与最终视差位置的差的NSP比NumP值大,表示其之间没有连接、即存在没有配置眼睛的空间部分。
并且,在多个视听者的眼睛的位置的开头视差位置与最终视差位置之间存在上述空间部分(空白区域),意味着在该部分处视差图像号码中断。
所以,从该空白区域后(紧接着且位于之后)的视差位置(位置211e)起,配置视差图像集合PG内的处于最开头的视差图像1。
并且,从这里(位置211e)起,随着向更右方的视差位置行进,分配将视差号码依次每次加1而得的结果,由此,在单位212内的最终视差位置b(位置211g)之前,为没有逆视的视差图像配置。
处于单位212的右端的a(位置211f)、b(位置211g)被折回到单位212内的开头,所以对处于开头的视差位置a(位置211a)和b(位置211b),分配与对最终位置(位置211f、211g)设定的视差图像号码(2及3)相同的号码(2及3),从其之后的位置(位置211c)到没有配置眼睛的的区域(从位置211d到位置211e的区域)的左区域(位置211d),将视差号码依次进行加法运算而分配。通过这样,即使是单位212的开头部分,也能够进行没有逆视那样的配置。
在图11中表示该状况,带有圆形标记的位置103p表示视差图像集合PG内的配置处于最开头的视差图像1(图像1101:如前述)的视差位置号码的位置。
此外,在NSP≤NumP的情况下,在多个视听者的眼睛的位置之中的开头视差位置与最终视差位置之间,在全部的位置配置有眼睛。
在此情况下,对开头的眼睛的位置配置视差图像集合PG5内的处于最开头的视差图像1,从这里起,随着向右方的视差位置行进,分配将视差号码每次加1而得的结果。
通过这样,在单位212内的最终视差位置b(211g)之前,为没有逆视的视差图像配置。
同样,处于单位212的右端的a(位置211f)、b(位置211g)被折回到单位212内的开头,所以对处于开头的视差位置a(位置211a)和b(位置211b)分配与设定在最终位置(位置211f、211g)的视差图像号码(2及3)相同的号码(2及3),到多个视听者的眼睛的位置的开头视差位置(位置211e)之前为止,将视差号码依次进行加法运算而分配。
通过这样,在此情况下也能够进行没有逆视那样的配置。
在图12中,表示视听者n是n=3人、细分化数m为m=2的情况下的视差图像的优化配置控制例。
在此情况下,也是相互相邻的两个视差图像的间的距离为眼间距离Leye的一半,需要视差图像数NumP为NumP=(视听者数n×2+1)=7,显示在面板100上的像素序列位置(a,d,c,d,e,f,g)上的视差图像110也从7张视差图像集合PG7={k|k∈(1,2,3,4,5,6,7)}中选择配置。
进行所提示的视差图像配置的设定的单位212如图11所示,由处于视听位置210内(a,d,c,d,e,f,g,a,b)的9个位置构成。
这是考虑到不仅是f与a的组合、还有g与b的组合。
在设定单位212内,211a、211b、211c、211d、211e、211f、211g、211h、211i分别表示视差a的被提示的位置、视差b的被提示的位置、视差c的被提示的位置、视差d的被提示的位置、视差e的被提示的位置、视差f的被提示的位置、视差g的被提示的位置、第2次的视差a的被提示的位置、第2次的视差b的被提示的位置。
在该单位212内,3个视听者的眼睛的位置所处位置之中的开头视差位置(位置211a)与眼睛的位置所处的最终视差位置(位置211h)之间的视差数NSP为8。
如果将该NSP与需要的视差图像数NumP=7比较,则由于比该值大,所以表示在其之间存在没有配置眼睛的空间部分。
与图11同样,在多个视听者的眼睛的位置之中的开头视差位置(位置211a)与最终视差位置(211h)之间有空白区域,意味着在该部分处视差图像号码中断。所以,对该空白的部分的后的视差位置(位置211d)配置视差图像集合PG内的处于最开头的视差图像1。
并且,从这里(位置211d)起,随着向更右方的视差位置行进,分配将视差号码每次加1而得的结果。
通过这样,到单位212内的最终视差位置b(位置211i)为止,为没有逆视的视差图像配置。
处于单位212的右端的a(位置211h)、b(位置211i)被折回到单位212内的开头,所以对处于开头的视差位置a(位置211a)和b(位置211b)分配与设定在最终位置(位置211h、211i)的视差图像号码(5及6)相同的号码(5及6),对然后的位置(位置211c)分配对分配给211b的b的视差号码(6)加上1的7。
通过这样,在212的设定端以内能够进行没有逆视那样的配置。
由圆形标记表示的位置203p表示配置视差图像集合PG内的处于最开头的视差图像1的视差位置号码的位置。
图13表示关于视听者n为n=3、细分化数m的情况下的视差图像的优化配置控制例。
相互不同的两个视差图像之间的距离为眼间距离Leye/m,需要视差图像数NumP为NumP=(视听者数3×m+1),显示在面板100上的像素序列位置(a1,a2,…,am,b1,b2,…,bm,c1,c2,…,cm,d)上的视差图像110从(3m+1)张视差图像集合PGm={k|k∈(1,2,3,4,5,6,7,…,3m+1)}中选择配置。
进行所提示的视差图像配置的设定的单位212如图12所示,由处于视听位置210内的(a1,a2,…,am,b1,b2,…,bm,c1,c2,…,cm,d)的(3m+m+1)个的位置构成。
在该单位212内,求出3个视听者的眼睛的位置所处的开头视差位置(位置211a)、与眼睛的位置所处的最终视差位置(位置211j)之间的视差数NSP,与需要的视差图像数NumP=3m+1比较。
在图13的情况下,由于是NSP>NumP,所以在多个视听者的眼睛的位置的开头视差位置与最终视差位置之间有空白区域,意味着视差图像号码中断。所以,从该空白之后的视差位置(位置211i)起,配置视差图像集合PG内的处于最开头的视差图像1。
并且,从这里起,随着向更右方的视差位置行进,分配将视差号码每次加1而得的结果。
通过这样,到单位212内的最终视差位置am(211k)为止,为没有逆视的视差图像配置。
将处于单位212的右端的a1~am的视差号码也分配给处于开头的视差位置a1~am,从其之后的b1(位置211e)到bm(位置211h),与图10、11同样依次相加,分配视差号码。
通过这样,在单位212的设定端以内,能够进行没有逆视那样的配置。
另外,与第1实施例同样,在图11到图13中,都表示了在特定的位置上有视听者的眼睛的情况,但不论处于能够取的哪个视差位置,都能够以同样的步骤进行视差图像的配置控制。
此外,由于重复视差图像提示模式,所以在有3个视听者的情况下,也发生在第1次的视差提示位置、和第2次的相同的视差提示位置处存在不同的视听者的情况(例如,在图12中,在第1次的a和c处有视听者213a、在第2次的a和c处有视听者213c那样的情况下)。
在此情况下,与第1实施例的研究同样,在多个视听者的眼睛的位置之中的开头视差位置与最终视差位置之间,如果以设定单位看,则多个视听者的眼睛的位置重叠,所以虽然存在没有配置眼睛的空白部分,但为NSP<NumP。
在此情况下,也通过采用在开头的眼睛的位置配置视差图像集合PG7内的处于最开头的视差图像1,从这里起随着向更右方的视差位置行进,分配将视差号码每次加1而得的结果的方法而能够应对。
通过这样,能够抑制例如从视差位置g分配视差号码1并折回到左端的情况、在视差位置f(位置211f)和第2次的视差位置a(位置221h)上也有视听者的情况、在视差位置e(位置211e)和视差位置g(位置211g)有视听者的情况下发生的逆视。
进而,虽然在这里没有表示,但视听者n如果是n≥4,这里表示的步骤也可扩展而成立。
由以上可知,视听者n、细分化数m的情况下的显示在面板100上的像素序列位置上的视差图像110的优化配置控制的规则如下。
(步骤1)进行表示视听者的眼睛的位置的、所提示的视差图像配置设定单位212的设定。此时,设定多个视听者的眼睛的位置的组合214。
计算视听者的眼睛的位置之中的开头视差位置与眼睛的位置所处的最终视差位置之间的视差数NSP。
此外,基于视听者数n和细分化数m,由(数式9)计算Th_NSP。
另外,这里,n表示视听者数,m表示细分化数。另外,该值Th_NSP为与需要的视差图像数NumP相同的值,但是是作为配置控制的基准值而重新定义的。
[数式9]
Th_NSP=NumP=n×m+1……(9)
(步骤2)在NSP≤Th_NSP的情况下,在多个视听者的眼睛的位置的开头视差位置与最终视差位置之间全部配置有眼睛,在眼睛的开头视差位置设定视差图像集合PG中的1,从这里起,将每次加1后的号码设定在视差图像位置。
另外,关于a1,…,am,在单位内的开头也有提示相同的视差的位置,对于它们分配相同的视差图像号码。
然后,到多个视听者的眼睛的位置之中的开头视差位置之前为止,将视差号码进行加法运算而分配。
(步骤3)在NSP>Th_NSP的情况下,在多个视听者的眼睛的位置之中的开头视差位置与最终视差位置之间不连续,即有未配置眼睛的空间部分。
由此,对最初的空白部分之后存在的视差图像位置(位置103p),设定视差图像集合PG中的1,从这里起,将每次加1的号码设定在视差图像位置。
另外,关于a1,…,am之前,在单位内的开头也有提示相同的视差的位置,对于它们分配相同的视差图像号码。然后,到没有配置眼睛的位置的左区域为止,将视差号码进行加法运算而分配。
通过进行这样的处理,使提示相互相邻的两个视差图像的间隔比眼间距离更细分化,由此能够减少发生串扰的区域。
而且,通过进行显示部上的视差图像配置的优化,在视听者的人数是n人的情况下,在使视差图像的提示间隔为眼间距离的1/m的情况下,也能够抑制发生逆视。
并且,在该规则中,与第1实施例的研究同样,在多个视听者的眼睛的位置的开头视差位置与最终视差位置之间如果以设定单位观察则多个视听者的眼睛的位置重叠的情况下也能够采用。
即,在相对于最大视听者数nmax将提示视差图像的间隔比眼间距离比1/m更细分化的情况下,准备(nmax×m+1)个视差图像。并且,通过在头部检测的结果为判断为位置移动的阶段中按照上述那样的规则进行显示视差图像时的配置控制,将视差图像的提示间隔细分化为m,表现出具有即使是3人以上nmax人以下的多个视听者同时视听的情况也不发生逆视而能够观察立体影像的效果。
另外,第1实施例相当于在第2实施例中将细分化数m设为1的情况。
此外,这里是视差图像配置的控制规则,但可以通过预先形成LUT表来实现更高速的处理。
此外,进行规定的变换函数化,也可以使用CPU或GPU等进行处理。
另外,第1实施例相当于在第2实施例中将细分化数m设为1的情况,但在m=1的情况下,与本发明的第1实施例相同。因此,可以采用从单位212的开头起进行搜索,在多个视听者的眼睛的位置之中的开头视差位置与最终视差位置之间调查有空白区域的位置,从该空白部分之后的视差位置起配置视差图像集合内的处于最开头的视差图像1的方法。
但是,在m不是1的情况下,不能采用从单位212的开头起进行搜索,在多个视听者的眼睛的位置中的开头视差位置与最终视差位置之间调查有空白区域的位置,从该空白部分之后的视差位置起配置视差图像集合内的处于最开头的视差图像1的方法。
即,例如如果采用该简单的方法,则在图11中,在212中,如5、1、2、3、4、5、1那样配置视差图像,在视听者213b的左眼中被提示视差图像4、在右眼中被提示视差图像1,发生逆视。
进而,与本发明的第1实施例的情况下同样,也可以进行决定处于最右方的最终视差图像的开始地点,从这里起依次配置处于更左方的视差图像的处理。在此情况下,对相对于处于最左方的视差图像的开始地点左边相邻1个的视差位置,设定处于最右方的视差图像的开始位置。即,将号码最大的视差图像分配给该位置,从这里起,随着向更左方的视差位置行进,分配将视差号码每次减1而得的结果。通过对处于单位212的右端的视差号码分配处于开头的视差位置的视差号码也能够实现。
此外,这里是视差图像配置的控制规则,但通过预先形成LUT表能够实现高速的处理。此外,也可以进行规定的变换函数化、使用CPU(CentralProcessing Unit:中央处理单元)或GPU(Graphics Processing Unit:图像处理单元)等进行。
[第3实施方式]
使用图14到图16,作为本发明的第3实施方式,对导入仅准备左眼图像L和右眼图像R,根据视听人数而插补两个LR视差图像来生成多个视差图像并使用的方法,进行立体影像显示的装置进行说明。
在图14中表示作为本发明的第3实施方式的立体影像显示装置的结构。此外,在图15中表示作为第3实施方式的立体影像显示装置内的视差图像生成部301的结构。如图14所示,在本实施例中,是在第1实施例中、添加了代替以多个视差图像为输入、而以LR视差图像为输入,视差图像生成部301生成规定的视差图像的单元的结构。
由此,该单元301在第2实施例中也能够采用。关于其以外的构成单元,与第1或第2实施例的情况是同样的。
该发明的特征在于,不需要预先准备对应于视听人数的多个视差图像,通过使用能够实现两眼视差的左眼用视差图像L和右眼用视差图像R来插补生成规定的需要的视差图像,由此确保需要的视差图像。
图15的视差图像生成部301实施该处理。
图15是表示视差图像生成部301的结构的图。
视差图像生成部301如图15所示,由插补处理选择部310、图像内插生成部311、图像外插生成部312、视差数确认部313构成。
图16A、图16B分别是示意地表示通过插补进行的视差图像生成的状况的图。
图16A表示与第1实施例的组合时的插补生成例,图16b表示与第2实施例的组合时的插补生成例。
首先,在插补处理选择部310中,基于该时点的视差图像,决定使用外插插补生成新的视差图像、还是使用内插插补生成新的视差图像。
例如,如图16A及(数式7)那样,在需要(视听数n+1)=NumP的视差图像的第1实施例的情况下,在生成LR视差图像(图像301a、301b)的接着的新的视差图像(例如图像301c)的情况下,选择外插插补(处理301q),由图像外插生成部312将1个视差图像(图像301c)通过外插插补在图像外插生成部312中生成(视差图像1(图像301c))。
并且,由视差数确认部313进行视差图像数是否有需要数NumP的判断,在有需要数的情况下,完成该视差图像生成部301中的处理。
另一方面,在没有需要数的情况下,回到插补处理选择部310中的决定的处理,开始插补处理的选择。
例如,在视听数n为3人的情况下,在图16a的情况下,为NumP=4,不仅是视差图像1(图像301c),还通过外插插补生成视差图像4(图像301d)。
另外,在所插补的视差图像的变化较小、避免立体影像的平坦化及模糊等而更具有效果的意义上,表示了外插插补生成的例子。
另一方面,如图16B及(数式9)所示,在与需要(视听数n×2+1)=NumP的视差图像的第2实施例的组合的情况下,首先对两个视差图像生成(图像301g、301k的生成)分别选择通过外插插补的生成(参照处理301t、301x)。
然后,追加的视差图像通过从该时点的4个视差图像(4个图像301a、301b、301t、301x)的内插插补而插补生成到3个(图像301i、301h、301j)(处理301u、301w)。
在还需要视差图像的情况下,重新通过外插插补生成两个为止的视差图像,然后选择2次的内插插补。
例如,如图16B那样,在视听者为n=3的情况下,需要NumP=7的视差图像。
并且,通过从LR视差图像(图像301a、301b)的外插插补,分别生成视差图像1(图像301g)和视差图像7(图像301k)。
接着,采取通过使用视差图像1、7和所准备的LR视差图像(视差3、视差5)的内插插补生成3个视差图像2、4、5(图像301i、301h、301j)的过程。
在图16B的情况下,为了抑制串扰,表示了视差图像被提示在相互相邻的两个视差图像之间的间隔为眼间距离Leye=60mm~70mm的1/2的位置,为了保持该效果,为了使外插插补比较少而组合外插插补和内插插补那样的方式。
通过这样,可以准备需要的视差图像,不需要预先对应于视听者数n而准备许多视差图像,只要仅准备最低限度的LR视差图像就可以。由此,能够使进行的处理变得更简单。
作为与第2实施例的组合的情况,在图16B中,表示了相互相邻的两个视差图像的间的间隔被提示在作为眼间距离Leye=60mm~70mm的1/2的位置上的情况,而这相当于细分化数m为m=2的情况。
在细分化数m的情况下,如上述第2实施例那样,相当于将视差图像间隔进行m细分化、降低串扰的情况,需要NumP=(视听数n×细分化数m+1)的视差图像。
并且,在此情况下,通过NumP-2个视差图像生成部301实施视差图像插补生成的处理。
通常,为了准备许多视差图像,通过为了两眼用而平行地排列了两个透镜的照相机也难以摄影,如果甚至需要使用将与视差数相应的量的、比2更多的个数的透镜平行地排列的特殊的摄影结构,则使用这样的摄影结构非常困难。
除此以外,也可以考虑从LR视差图像的两者或其中之一实施距离推测,基于其结果生成任意的视差方向的图像,或设定照相机位置、照相机角度、焦点位置,使用通过CG(Computer Graphics:计算机图形)工具制作的视差图像之类的应对,但根据本发明,可以实现这样的追加处理的削减。
另外,这里表示了图16A的在需要(视听者数n+1)的视差图像的情况下总是通过外插插补生成的例子,但除此以外,也可以仅使用内插插补、或如图16B那样将外插插补与内插插补组合而哪种插补的处理都使用。同样,在图16B的情况下,也可以作为其以外的插补的组合而仅由内插插补、或仅由外插插补构成。
此外,在插补的情况下,也可以使用预先准备的变换函数进行视差图像插补。此外,也可以将在该时点得到的视差图像进行多变量解析、及线性近似等的统计性分析来推测变换函数。并且,也可以使用在该推测中推测的变换函数进行新的视差图像生成。在此情况下,考虑只要使用在图16B等中说明那样的、将内插插补与外插插补组合而进行视差图像插补生成的处理,直到变换函数推测所需要的规定数量的视差图像齐备就可以。
另外,在对应于视听者的人数增加视差图像数变得比插补多(较大地变化)的情况下,优选的是推动初始调整部105,进行视差屏障间间距、及双凸透镜的透镜中心之间间距等的参数修正。但是,如果发生的增加是1、2张左右的视差图像的增加,则考虑在该增加中需要的间距的变化的幅度等非常小,在此情况下,也可以不使间距等变化而进行应对。
[其他]
在上述实施方式中说明的本发明的立体影像显示装置中,显示视差图像的2维显示部100也可以是使用背灯光源的液晶面板等,也可以是自发光的PDP或有机EL面板等。即,作为2维显示部100,只要是能够显示视差图像的像素序列的显示部就能够使用。
说明了在头部检测部180中使用1张照相机图像的例子,但也可以使用2以上的多个照相机图像进行立体计测,通过这样,位置检测精度进一步提高。
此外,作为在头部检测部180中使用的方法,例如在使用图像的方法以外,也可以采用将LED光源那样的照明光照射在对象物体(视听者、观察立体影像的观察者)上,通过计测到返回来为止的时间TOF(Time OfFlight:飞行时间)来测量距离的TOF法,或使用电磁力等进行3维位置测量的有线连接的方法等。
此外,也可以将规定的测试图案总是呈现在将视听者的被摄影的区域内,显示向上述区域呈现的测试图案,基于该测试图案的部分的大小及像素值的叠栅(moire)变化等进行几何学测量,以使得所呈现的测试图案包含在将视听者摄影的图像中。
此外,在位置检测时,以人物头部的检测为前提,但位置检测的前提的处理也可以是人物整体像的检测的处理等,也可以进行瞳孔或眼区域的提取的处理,将其结果在位置检测中使用。
在根据头部位置而控制多个视差图像的像素序列配置时,既可以使用CPU或GPU等进行实时计算控制,此外也可以从预先准备的LUT表中选择而控制。
此外,这里,设屏障形成位置及间距间隔除了初始调整以外为固定而进行了说明。但也可以根据头部位置主动地使屏障位置及屏障间距变化。在此情况下,使用通过施加电压等能够使遮挡和开口(光的透过率)变化那样的设备(例如TFT液晶面板等)作为屏障。并且,在此情况下,在多个视听者的进深方向同时变化的情况下也能够应对。
此外,在将本发明的面板设置到视听的起居室等的空间中的时点的调整时,和使用固定的屏障位置及屏障间距时,都能够采用本技术。
进而,表示了基于将来自上述多个图像序列的光分离以使得在规定位置能够视听的屏障的实施例,但如果采用使用排列了柱面透镜的双凸透镜板(图24的双凸透镜板82),通过对该透镜控制折射角度从而在规定的位置上提示各视差图像的双凸透镜形成部,也能够实现相同的效果。
在此情况下,在初始调整部105中,实施双凸透镜位置的微调整、及双凸透镜带来的视差图像的折射率的调整。并且,作为屏障控制电路106而设置双凸透镜控制电路,作为屏障形成部101而设置双凸透镜形成部。
另外,本发明不仅能够作为装置、系统、集成电路等实现,也能够作为以构成该装置的处理机构为步骤的方法实现,或作为使计算机执行这些步骤的程序实现,或作为记录有该程序的计算机可读取的CD-ROM等的记录介质实现,或作为表示该程序的信息、数据或信号实现。并且,这些程序、信息、数据及信号也可以经由因特网等的通信网络分发。
产业上的可利用性
根据本发明,能够提供一种即使是3人以上的多个视听者同时视听的情况下也不会发生逆视而能够观察立体影像的立体影像显示装置。
此外,通过使提示各视差图像的间隔比眼间距离更细分化,并与本发明组合,能够抑制逆视的发生,并且还能够减少发生串扰的区域。进而,通过从左眼用图像L和右眼用图像R以插补生成视差图像,并与本发明组合,具有不需要对应于最大视听人数而重新准备视差图像的优点。
标号说明
9L可看到视差图像的位置
9La可看到视差图像A的位置
9Lb可看到视差图像B的位置
9Lc可看到视差图像C的位置
9Ld可看到视差图像D的位置
91影像显示面板
92视差屏障
92a开口部
92b遮光部
93L左眼用影像
93R右眼用影像
94视听者位置
94L左眼位置
94R右眼位置
99a视差图像
99b视差图像
99c视差图像
99d视差图像
1002维显示部
100s立体影像显示装置
101屏障形成部
101L光
101Lp光
102位置检测部
103视差配置控制部
103p位置
104照相机
105初始调整部
106屏障控制电路
107多个视差图像
108显示电路
114、114a~114d观察者
115视差图像
180头部检测部
181视听者位置检测部
182基准点设定部
183位置移动判断部
184颜色程度检测部
185轮廓检测部
186特征量提取部
187图案匹配部
188模板存储存储器
201显示间隔控制部
202细分视差配置控制部
300LR视差图像
301视差图像生成部
310插补处理选择部
311图像内插生成部
312图像外插生成部
313视差数确认部
110、1101~1105视差图像
113、1131~1139位置
113r、113r1、113r2范围