以下、添付図面を参照しながら、本発明を実施するための形態(以下「実施形態」という。)について説明する。なお、本発明の「立体表示」には、観察者の左眼と右眼に同一画像を投影して平面画像を表示し、観察位置によって平面画像のコンテンツを切り替える、いわゆるN画像(Nは2以上の自然数)切替えモードの表示も含まれるものとする。
[実施形態1]
本実施形態1の立体画像表示装置の構成について下記に説明する。図1は立体画像表示装置11の構成図である。立体画像表示装置11は、観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、3Dモアレ画像範囲算出部104と、輝度調整量算出部105と、画像データ保管部106と、輝度調整処理部107と、立体表示パネル部108と、を備えるものである。また、相対位置算出部102、3Dモアレ画像範囲算出部104、輝度調整量算出部105、輝度調整処理部107を統合した処理部を、画像処理部151とする。
立体画像表示装置11の外観図を、図2に示す。観察者10の観測位置と立体表示パネル108aとの相対位置の座標系を、図3に示す。立体表示パネル108aは立体表示パネル部108の一部であり、カメラ101aは観察者位置計測部101の一部である。立体画像表示装置11は、立体表示パネル108aの上部にカメラ101aが設置されており、カメラ101aによって観察者10を撮影することで観察者10の観察位置を計測する。立体表示パネル108aは、少なくとも第1視点用の画像を表示するサブ画素及び第2視点用の画像を表示するサブ画素を含む画素がマトリクス状に複数配列された電気光学手段としての表示パネル2と、前記それぞれの画像を所定の異なる方向に分離可能な光線分離手段としてのレンチキュラレンズ3とから構成される(例えば図6A参照)。一例として、電気光学手段として液晶方式、有機EL方式、プラズマ方式などを用いることができ、光線分離手段としてレンチキュラレンズ、パララックスバリア、液晶レンズなどを用いることができる。本実施形態1では、表示パネル2とレンチキュラレンズ3との組合せを用いて説明することとする。なお、図3において、X軸方向が特許請求の範囲に記載した「第1の方向」の一例に相当し、Y軸方向が特許請求の範囲に記載した「第2の方向」の一例に相当する。また、前述の「光線分離手段(光学分離手段とも呼ばれる。)」が特許請求の範囲に記載した「光学手段」の一例に相当する。
また、カメラ101aと立体表示パネル108aとの設置位置は固定されているため、カメラ101aで観察者10を撮影することで、観察者10の観察位置と立体表示パネル108aとの相対的な位置を算出できる。また、立体表示パネル108aの後方部には、画像処理部151、デバイス特性データ保管部103、画像データ保管部106の機能を実現する計算機器150が設置されている。
以下に、立体画像表示装置11に含まれる各部の機能を説明する。
観察者位置計測部101は、立体表示パネル108aに表示する立体画像コンテンツを、観察している観察者10の位置を計測する機能を有する。観察者位置計測は立体表示パネル108aの上部に設置されたカメラ101aで観察者10を撮影することで、観察者10の右眼と左眼の位置を計測する。
観察者10の観察位置の計測はカメラ101aの撮像面に水平方向(X軸,Y軸)の位置だけでなく、カメラ101aに対して奥行き方向(Z軸)の位置も計測する。カメラ101aに対して奥行き方向の距離を計測する方式は多数提案されている。
その一つ目は、光パタン投影方式であり、カメラとは異なる視点から観察者へ赤外線等の光パタンを投影して、その変位量から三角測量の原理によって奥行き距離を計測するものである。光パタン投影方式を採用した計測機器は、近年、家庭用ゲーム機やPC周辺機器として製品化されている。
その二つ目は、TOF(Time of Flight)方式であり、カメラ101aから観察者10へ近赤外線の正弦波光を照射し、観察者10から反射された正弦波光がカメラ101aまでに到達する光飛行の時間差から、奥行き距離を計測するものである。近年、TOFセンサの性能向上は目覚しく、小型で安価なカメラにより奥行き距離が計測できるようになりつつある。
その三つ目は多眼カメラ方式であり、異なる視点にカメラを2台以上設置する。奥行き距離の計測は、任意視点の画像から観察者の特徴点を検出し、異なる視点の画像から特徴点に対応する点を探索して三角測量の原理から奥行き距離を算出する。
その四つ目は、レンズの焦点情報を利用した方式であり、被写界深度の異なる光学系レンズを利用して様々な焦点で撮影した多焦点画像群から観察者の奥行き距離を計測する。
以上、奥行き距離の計測方式を4つ挙げたが、本実施形態1はいずれの方式も採用できる。また、これ以外の計測方式でも良く、例えば、観察者の顔のサイズを予め保存しておき、カメラで撮影された観察者の顔画像サイズと比較することで奥行き距離を計測しても良い。
撮影画像から観察者の顔を検出する処理は、予め顔画像の特徴量(目や鼻、口、顎など)からテンプレートデータを生成しておき、撮影画像とテンプレートデータをマッチングすることで観察者の顔を検出する。テンプレートデータは、観察者の顔画像からサポートベクターマシン(SVM)やベクトル量子化などの機械学習手法を利用して生成する。これらの顔検出機能は汎用のソフトウェアを利用することも可能である。また、顔検出機能ソフトウェアは、奥行き情報を使用することで、顔の向きを考慮した顔検出処理も実現できるため、検出精度は更に向上する。
以上の処理により、観察者の顔を検出して、右眼・左眼の位置を計測する。その他の例としては、カメラを利用せずに、加速度センサやジャイロセンサを利用しても良い。予め立体画像表示装置に各種のセンサを設置しておき、センサから得られる位置情報を参照することで、観察者の観察位置を計測する。
相対位置算出部102は、立体表示パネル108aから観察者10の観察位置までの相対位置を算出する機能を有する。図3に示すように、立体表示パネル108aの中心を原点として、立体表示パネル108a面上の横方向をX軸、立体表示パネル108a面上の縦方向をY軸、立体表示パネル108a面上に垂直な方向をZ軸とおき、立体表示パネル108aから観察者10の観察位置までの相対位置を算出する。この相対位置は、観察者位置計測部101で計測された観察者10の右眼・左眼の位置から、カメラ101aの設置位置から立体表示パネル108aの設置位置までの距離を減算して算出する。これにより、立体表示パネル108aから観察者10の観察位置までの相対位置(xP,yP,zP)が算出できる。
デバイス特性データ保管部103は、立体表示パネル108aの視野角に対する輝度特性データを保管する機能を有する。図4に、輝度特性データの一例を示す。輝度特性データの横軸は視野角θを、縦軸は立体表示パネル108a面上の輝度値Yを表す。視野角θは、図3に示すX軸と同じ方向を示している。図4には、Y(LWRW)とY(LWRB)とY(LBRW)の3種類の輝度特性データをプロットしている。Y(LWRW)は左眼用画像(以下、L画像と記載)と右眼用画像(以下、R画像と記載)とを白としたときの輝度特性データ、(LWRB)はL画像を白としR画像を黒としたときの輝度特性データ、Y(LBRW)はL画像を黒としR画像を白としたときの輝度特性データである。ここで、Y(LWRB)とY(LBRW)との和は、Y(LWRW)の輝度特性データと等しい。
Y(LWRB)とY(LBRW)との輝度分布は、正面の観察位置(図3に示すZ軸と平行)すなわちθ=0付近において点(X1,Y1)で交わり、+θ側において点(XR2,YR2)で交わり、−θ側において点(XL2,YL2)で交わる。点(X1,Y1)と点(XR2,YR2)とのθ方向の間隔は、右眼用画像の投影幅の幅eRであり、点(X1,Y1)と点(XL2,YL2)とのθ方向の間隔は、左眼用画像の投影幅の幅eLである。
ここで、点(X0,Y0)付近で輝度の低下が見られるが、この輝度低下は3Dモアレと呼ばれる。左眼がθ1〜θ2、右眼がθ4〜θ5の範囲に存在している場合は、3Dモアレを視認することは困難であるが、左右眼の一方もしくは両方がそれ以外の範囲(θ2〜θ3〜θ4など)に存在する場合に3Dモアレが視認される。3Dモアレが発生する原因はいくつかあるが、X軸方向へ隣接して配置する画素間の境界部における遮光部の形状などが一因として挙げられる。
輝度特性データは立体表示パネル108aのデバイス特性によって異なる値をとり、立体表示パネル108aの設計条件及び製造条件に基づき算出することが可能である。また、輝度特性用の評価装置で立体表示パネル108aを計測して輝度特性データを得ることができる。いずれの場合においても、立体表示パネル108aの中心であるX軸原点だけでなく(図3の座標系参照)、X軸原点から所定の値(後述の図6Aにおける距離WP)となるパネル外側を含む3点の輝度特性を把握することが望ましい。
図5は、X軸に対して、左端、中央、右端の3点それぞれの輝度特性データの一例を示す。図5[B]中央では点(X1,Y1)は図4と同様に概ね視野角θが0度に位置しているのに対し、図5[A]左端では点(X1,Y1)の視野角θは正の方向(+δ)、図5[C]右端では点(X1,Y1)の視野角θは負の方向(−δ)となっている。
3Dモアレ画像範囲算出部104は、デバイス特性データ保管部103に保管された輝度特性データに基づき、相対位置算出部102で算出した相対位置に対して3Dモアレによる輝度変動が生じる画像範囲を算出する。図5の輝度特性データを基に作図した、観察者10の左右両眼に右眼用画像及び左眼用画像を投影する光学モデル図を、図6Aに示す。図6Aは、立体表示パネル108a面上に垂直な方向であるZ軸と立体表示パネル108a面内の横方向であるX軸に対して非3Dモアレ領域70R,70L及び3Dモアレ領域(θ2〜θ4の範囲)を示している。
なお、図6Aには、左眼55L、右眼55R、左眼用画素4L、右眼用画素4R、画素幅P、両眼間隔e、最適観察距離OD、シリンドリカルレンズ幅L、立体表示パネル108aの中心画素の位置から両端画素の位置までの距離WP、観察面30などが、記載されている。また、図6Aにおいて、左眼用画素4L及び右眼用画素4Rが特許請求の範囲に記載した「サブ画素」又は「画素」の一例に相当し、左眼用画素4L及び右眼用画素4Rのそれぞれの仕切りの内側すなわち光の出る部分が特許請求の範囲に記載した「開口部」の一例に相当する。
図6Bに、図6Aの光学モデル図を非3Dモアレ領域と3Dモアレ領域とに分離した光学モデル図を示す。図6Bにおいて、グレースケール部分が3Dモアレ領域となり、空白部分が非3Dモアレ領域となる。また、図6Bは、観察者10の左右両眼の位置が適正である相対位置A、適正位置から視野角θが少し離れた相対位置B、適正位置から立体表示装置側パネル面上に少し近づいた相対位置Cの三つの位置を示す。
立体表示パネル108a面上に白画像を表示した際に、これらの三つの相対位置から観察者10が観察する観察画像を、図7に示す。図7[A]に示すように、相対位置Aからの観察画像には3Dモアレによる輝度変動が見られない。これに対し、図7[B]に示すように相対位置Bからの観察画像には画面の1箇所に輝度変動が発現し、また、図7[C]に示すように相対位置Cからの観察画像には画面の2箇所に輝度変動が発現する。また輝度変動の幅は、3Dモアレ領域の視野角(θ2〜θ4)と観察距離との関係から、観察位置が立体表示パネル108a面上から離れるほど広くなることが分かる。
立体表示パネル108aの表示面と観察者10の観察位置との視野角θp及び観察距離Dpは、相対位置算出部102で算出した相対位置を参照して算出する。相対位置を(xp,yp,zp)とおくと、観察距離Dpは式(3)から算出し、視野角θpは式(4)から算出する。
Dp=√(xp 2+yp 2+zp 2) 式(3)
θp=tan−1(xp/zp) 式(4)
算出した観察距離Dp及び視野角θpを参照して、輝度特性データを基に作図した光学モデル図(図6A)から、観察者10の観察位置へ投影される観察画像を検出する。このように図5に示すような少なくとも3点の輝度特性データがあれば、図6Aに示す光学モデルを算出して、その結果、図7に示すような観察者10の観察位置に応じた観察画像を取得でき、3Dモアレによる輝度変動が発現する画像範囲が算出可能となる。
図7では、3Dモアレによる輝度変動が概ね画面内の垂直方向(Y軸)にのみ存在しているという、図3で説明した電気光学手段である表示パネルと光学分離手段であるレンチキュラレンズとの位置精度が高い場合の観察画像の例である。これに対し、この位置精度が低い場合の観察画像の例を図8に示す。特に表示パネルとレンチキュラレンズとの位置関係がXY面で傾きを有する場合は、この傾きに応じて図8に示すような画面内に斜め成分の3Dモアレによる輝度変動が発現する。
このように図1に示すデバイス特性データ保管部103には、上記した少なくとも3点の輝度特性データ以外にも、表示パネル2とレンチキュラレンズ3との位置精度の情報を記憶させておくことが望ましい。レンチキュラレンズ3のピッチ精度が低い場合や局所的に不均一な領域が存在する場合は、X軸方向及びY軸方向に対して多数点の輝度特性データを記憶させることで、観察位置に対してより精度の高い観察画像を得ることができる。
輝度調整量算出部105は、3Dモアレ画像範囲算出部104で算出した画像範囲に対して、前記デバイス特性データに基づき、立体画像表示に適した輝度調整量を算出する機能を有する。輝度調整量の算出方法は、初めに3Dモアレ画像範囲算出部104で検出した観察画像を取得し、その観察画像の輝度プロファイルより輝度調整量を算出する。
一例として、図7[B]に示す観察画像が観察者10へ投影される事例を示す。図9に、観察画像とその輝度プロファイルとの関係図を示す。ここで、Ywは図4で説明したY(LWRW)であり、以降の説明ではY(LWRW)をYwと呼称することとする。また、Ywはx軸及びy軸の関数となる。図9[A]は図7[B]に示す観察画像と同様の図であり、図9[B]はX軸方向の位置に対する図9[A]の観察画像の輝度値Ywの変化を示す。ここで、X軸方向の位置に対する輝度値Ywの変化を、立体表示パネル108aの輝度プロファイルとする。
また、図10に、図7[C]に示す観察画像とその輝度プロファイルの関係図を示す。図10[A]は位置Cにおける観察画像(3Dモアレによる輝度変動が有る。)であり、図10[B]は位置Cにおける観察画像の輝度プロファイルである。これにより、観察画像から立体表示パネル108aの輝度プロファイルを検出できる。
次に、輝度プロファイルを参照して輝度調整量を算出する。輝度調整量は、画像データの階調値へ輝度調整量を乗算した結果、輝度プロファイルがX軸方向に対して一定となるような輝度調整量を算出する。輝度調整量の算出方法の一例としては、任意のY軸における(例として図10[A]にY=y1を示す)輝度プロファイルの輝度値が最大となる最大輝度値Ywmaxを1とおき、それ以外の輝度値YwがYwmaxと同じ値となるように、輝度調整量を算出する。y1に対する立体表示パネル108a面上の位置xlにおける輝度値がYw(x)である場合の輝度調整量α(x)とすると、輝度調整量α(x)は、式(5)より算出される。
α(x)=Ywmax/Yw(x) 式(5)
図11に図9[B]より算出した位置Bにおける輝度調整量を、図12に図10[B]より算出した位置Cにおける輝度調整量を示す。図3で説明した電気光学手段である表示パネル2と光学分離手段であるレンチキュラレンズ3との位置関係が概ね理想的に整合されている場合には、3Dモアレによる輝度プロファイルがY軸方向に依存せず一定値となるため、輝度調整量もY軸方向に依存せず一定値となる。このため、立体表示パネル108a面上のすべての位置(x,y)に対する輝度調整量α(x,y)は、式(6)より算出できる。
α(x,y)=Ywmax/Yw(x,y) 式(6)
ここで、図9及び図10から、式(5)におけるα(x)、式(6)におけるα(x,y)の算出例を図11に示しているが、これは立体表示パネル108aの面内輝度分布が一様とした場合の例(図4におけるYLmax=YCmax=YRmax)である。実際の立体表示パネル108aは面内輝度分布を有しており、この場合におけるα(x)及びα(x,y)の算出については後述する。
以上より、電気光学手段である表示パネル2と光学分離手段であるレンチキュラレンズ3との位置関係が概ね理想的に整合されている場合には、X軸方向の位置に対する輝度調整量を算出することで、立体表示パネル108a面上のすべての位置に対する輝度調整量が算出できる。
実際の立体表示パネル108aでは、電気光学手段である表示パネル2と光学分離手段であるレンチキュラレンズ3との位置関係は理想的では無い場合があり、所定精度内の位置ズレが発生する。このような位置精度が低い場合には、図8に示すような斜め成分の3Dモアレによる輝度変動が発現するために、3Dモアレによる輝度プロファイルはY軸方向にも依存して変化する。
図13に、電気光学手段と光線分離手段との間に回転ズレが発生した場合における、観察画像とその輝度プロファイルとの関係図を示す。図13[A]は、図8と同様の観察画像を示す。図13[B]は図13[A]のy1線上の位置での、X軸方向の位置に対する輝度プロファイルを示し、図13[C]は図13[A]のy2線上の位置での、X軸方向の位置に対する輝度プロファイルを示す。図13[B]と図13[C]とにより、Y軸方向の位置によっても、輝度プロファイルが変化することが確認できる。したがって、輝度調整量は、輝度プロファイルがX軸方向だけでなくY軸方向に対しても輝度値が一定となるように算出する。
輝度調整値の算出では、初めに立体表示パネル108aの上端(図13のy1線上)、中央(図13のy3線上)、下端(図13のy2線上)の三つの線上で、それぞれX軸方向の位置に対する輝度プロファイルを算出する。次に、三つの線上の輝度プロファイルを参照して、3Dモアレによる輝度変動によって輝度値が最小値となるX軸方向の位置を検出する(図13のy1線上であればx5とx6の位置となり、図13のy2線上であればx7とx8の位置となる)。次に、検出したX軸方向の位置から斜め成分の3Dモアレによる輝度変動の傾きを算出することで、立体表示パネル108a面上のすべての位置に対する輝度プロファイルを算出する。次に、算出した輝度プロファイルから、立体表示パネル108a面上のX軸・Y軸方向に対しても、輝度値を一定とする輝度調整量を算出する。以上の処理により、立体表示パネル108a面上のすべての位置に対する輝度調整量を算出する。
画像データ保管部106は、画像データを保存又は受信する機能を有する。図14に、画像データ保管部106に保管する画像データの一例を示す。図14では、立体画像コンテンツの画像データとしてL画像、R画像が保管されている。L画像は左眼領域に投影される左眼用画像であり、R画像は右眼領域に投影される右眼用画像である。LR画像(L画像とR画像)の各画素値には階調値(RGB値)が保持されており、このLR画像が立体表示パネル108a面上に表示される。
輝度調整処理部107は、輝度調整量算出部105で算出した輝度調整量に従って、画像データ保管部106に保管されている画像データへ輝度調整処理を実施する機能を有する。輝度調整処理では、初めに、画像データが表示される立体表示パネル108a面上の位置を特定する。
通常、画像データは立体表示パネル108aの全画面上に表示されるが、画像データと立体表示パネル108aとのアスペクト比の違いや、画面の表示設定により、立体表示パネル108aの一部分に画像データが表示される場合がある。また、反対に、画像データの一部分が立体表示パネル108aの全画面上に表示される場合もある。したがって、アスペクト比や立体画像表示装置11の画面表示設定情報等を参照して、画像データが表示される立体表示パネル108a面上の位置を特定する。次に、画像データが表示される立体表示パネル108a面上の位置と画像データの解像度から、立体表示パネル108a面上の位置(x,y)に表示される画像データの画素位置(u,v)を検出する。
次に、画像データの画素位置(u,v)に保管されている階調値Id(u,v)に、画像データの画素位置(u,v)が表示される立体表示パネル108a面上の位置(x,y)における輝度調整量α(x,y)を乗算することで、画像データの階調値If(u,v)を式(7)のように調整する。
If(u,v)=α(x,y)・Id(u,v) 式(7)
ここで、Id(u,v)は画像データ保管部106にある画像データの画素位置(u,v)に保管されている階調値、α(x,y)は表示位置(x,y)における輝度調整量、If(u,v)は輝度調整処理後の画像データの画素位置(u、v)に保管される階調値である。
以上のように、輝度調整量に従って、画像データ保管部106に保管されている画像データへ輝度調整処理を実施する。輝度調整処理は、画像データ保管部106に保管されている画像データであるL画像とR画像の両画像に対して同様に実施し、輝度調整処理後のL画像の画像データをLf画像とし、R画像の画像データをRf画像とする。
一般的な画像表示装置では、画像データに保管された階調値Iと表示パネル面上に表示される輝度値Yとの関係は、表示パネルのデバイス特性によって直線的な関係ではなく、式(8)で示すカーブに近似した関係になる。
Y=Iγ 式(8)
このため、通常の画像データは、表示パネル面上へ自然に表示できるように、一般的な表示パネルのデバイス特性に合わせて、画像データに保管された階調値Iと表示パネル面上に表示される輝度値Yの関係が、式(9)で示す直線的な関係となるようにガンマ補正処理が実施されている(ガンマ値は2.2となる場合が多い)。図15に、ガンマ補正前の画像データの階調値とガンマ補正後の階調値との関係図を示す。
Y=I 式(9)
画像データに保管された階調値Iと立体表示パネル108a面上に表示される輝度値Yとの関係が式(9)となるようにガンマ補正されていれば、画像データに保管された階調値Iを式(7)により輝度調整処理することで、立体表示パネル108a面上の輝度変動の影響を軽減できる。画像データに保管された階調値Iと立体表示パネル108a面上に表示される輝度値Yとの関係が式(9)となっていない場合には、輝度調整処理を実施する前に、式(9)の関係が成り立つように、画像データへガンマ補正処理を実施する。
これまで説明した階調値Iはグレースケールの場合の説明であるが、色情報を有する場合も同様であり、階調値Iの代わりにRGB各階調値Ir,Ig,Ibを用いて同様の処理を行うことが可能である。
立体表示パネル部108は、輝度調整処理された画像データを前記相対位置に応じて右眼・左眼に投影する機能を有する。立体表示パネル部108では、輝度調整処理されたLf画像とRf画像を取得して、立体表示パネル108aによりLf画像とRf画像を投影することで、立体画像コンテンツを表示する。
図16に、輝度調整処理した画像データを立体表示パネル108aより観察者の観察位置(図6の位置B)へ投影した場合の、観察画像の輝度プロファイルを示す。図16におけるD、E、Fは次のとおりである。Dの点線(下側に輝度値が落ち込んだ点線)は、3Dモアレによる輝度プロファイル(輝度調整処理前の観察画像の輝度プロファイル)(D)を表す。Eの一点鎖線(上側に輝度値が膨らんだ一点鎖線)は、輝度調整処理後の画像データに起因する輝度プロファイル(E)を表す。Fの実線は、輝度調整処理後の画像データを立体表示パネル108aから観察者10の観察位置へ投影した観察画像の輝度プロファイル(F)を表す。観察画像の輝度プロファイル(F)は、X軸方向の位置x1で発現する3Dモアレによる輝度プロファイル(D)の輝度値の落ち込みと、輝度調整処理した画像データに起因する輝度プロファイル(E)の輝度値の膨らみとが加算されることで、輝度変動が無くなり輝度値が一定となる。
以上より、相対位置とデバイス特性データとに基づき算出された輝度調整量に従って、画像データの輝度調整処理を実施して、3Dモアレによる輝度変動の影響を軽減する。
本実施形態1の立体画像表示装置11における立体画像処理方法(その1)のフローチャートについて、図17を参照して説明する。
ステップS101は、観察者位置計測部101を使用して観察者10の観察位置を計測する。
ステップS102は、相対位置算出部102を使用して観察者10の観察位置と立体表示パネル108aとの相対位置を算出する。ステップS102では、相対位置として、立体表示パネル108aの中心位置を原点とした際の観察者10の観察位置を算出する。
ステップS103は、デバイス特性データ保管部103から輝度特性データを取得する。輝度特性データの一例を図4に示す。
ステップS104は、3Dモアレ画像範囲算出部104を使用して、ステップS102で算出した相対位置とステップS103で取得した輝度特性データとにより、3Dモアレによる輝度変動が生じる画像範囲を算出する。画像範囲の算出処理では、輝度特性データより光学モデル図(図6)を導出し、立体表示パネル108a面上から観察者10の観察位置へ投影される観察画像(図7及び図8)を検出し、3Dモアレによる輝度変動が生じる画像範囲を算出する。
ステップS105は、輝度調整量算出部105を使用して、ステップS104で検出した観察画像から輝度調整量を算出する。輝度調整量は、画像データの階調値へ輝度調整量を乗算した結果、輝度プロファイルがX軸方向に対して一定となるような輝度調整量を算出する。輝度調整量の算出方法の一例としては、輝度プロファイルの輝度値が最大となる最大輝度値Ywmaxを1とおき、それ以外の輝度値YwがYwmaxと同じ値となるように、輝度調整量を算出する。
ステップS106は、画像データ保管部106から立体画像コンテンツである画像データを取得する。
ステップS107は、輝度調整処理部107を使用して、ステップS104で算出した輝度調整量に従って、ステップS106で取得した画像データに輝度調整処理を実施する。ステップS107では、立体表示パネル108a面上の表示位置に対応する画像データの画素位置に保管された階調値に輝度調整量を乗算して、輝度調整処理を実施する。
ステップS108は、立体表示パネル部108を使用して、ステップS107で輝度調整処理した画像データを立体表示パネル108a上に立体画像表示する。
ステップS109は、立体画像表示処理を中止するか、連続的に実行するかを設定する。立体画像表示装置11の電源がOFFされたときや観察者10によって立体画像表示の中断が指示されたときには、立体画像表示処理を中止する。立体画像表示処理を中止するイベントが無ければ、立体画像表示処理を連続的に実行する。ステップS109で立体画像表示処理が中止された場合は、立体画像表示処理を終了する。ステップS109で立体画像表示処理が連続的に実行される場合は、ステップS101の処理に戻り、ステップS101からステップS109までの処理を繰り返して実行する。
以上より、相対位置とデバイス特性データとに基づき算出された輝度調整量に従って、画像データの輝度調整処理を実施することにより、3Dモアレによる輝度変動の影響を軽減して、観察者10の観察位置が移動しても観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供できる。
本実施形態1の外観図(図2)では、画像処理部151と観察者位置計測部101、画像データ保管部106及び立体表示パネル部108とが一つの立体画像表示装置11内に存在する例を示したが、これらの部位をアプリケーションに応じて分離し、分離した個々の装置を統合することで立体画像表示装置11の機能を実現しても良い。
図18に、立体画像表示装置11を三つの装置に分離した例を示す。一番目は立体表示パネル部108の装置であり、二番目は観察者位置計測部101と画像処理部151とデバイス特性データ保管部103とを統合した画像処理装置160であり、三番目は画像データ保管部106の装置である。三つの装置をHDMI(登録商標)やDVIなどの画像入出力ケーブル163、又はUSBやLANなどのデータ通信ケーブル若しくはW−LANなどの無線通信で接続し、各種のデータを送受信することで、立体画像表示装置11の機能を実現できる。
図19に画像処理装置160の構成図を示す。画像処理装置160は、観察者位置計測部101、相対位置算出部102、デバイス特性データ保管部103、輝度調整量算出部105、輝度調整処理部107、画像データ受信部161、画像データ送信部162を備えるものである。ここで、観察者位置計測部101、相対位置算出部102、デバイス特性データ保管部103、輝度調整量算出部105、輝度調整処理部107は、立体画像表示装置11の各構成部と同様の機能を有する。
画像データ受信部161は、画像処理装置160の外部にある画像データ保管部106から送信される画像データを受信して、輝度調整処理部107に送信する機能を有する。また、画像データ送信部162は、輝度調整処理部107から送信される画像データを立体表示パネル部108へ送信する機能を有する。画像データ受信部161と画像データ送信部162の一例としては、HDMI(登録商標)やDVIケーブル等により、画像処理装置160へ画像データを送受信するための接続端子とデータ転送機器となる。
上記は三つの装置に分離した例を示したが、分離形態はこれに限定されるものではない。本実施形態1は、3Dモアレによる輝度変動の影響を軽減する画像処理部151に特徴があるため、画像処理部151と観察者位置計測部101との組み合わせで上述したような単独の画像処理装置160として提供することができる。
また、上記の例では、立体表示パネル108a面上から観察者10の右眼と左眼へ投影される観察画像の輝度プロファイルが等しい場合に実施される輝度調整処理方法について記載したが、観察者10の観察位置によっては、観察者10の右眼と左眼へ投影される観察画像の輝度プロファイルが異なる。右眼と左眼へ投影される観察画像の輝度プロファイルが異なる場合における輝度調整処理方法の一例を、図20を参照して説明する。
ステップS151は、観察者位置計測部101を使用して観察者の右眼と左眼の位置を計測する。
ステップS152は、相対位置算出部102を使用して、立体表示パネル108aの中心位置から観察者10の右眼と左眼の観測位置までの相対位置を算出する。観察者の右眼の相対位置を(xR,yR,zR)とおき、観察者10の左眼の相対位置を(xL,yL,zL)とおく。
ステップS153は、デバイス特性データ保管部103から輝度特性データを取得する。
ステップS154は、輝度調整量算出部105を使用して、ステップS153で取得した輝度特性データから、ステップS152で算出した観察者の右眼と左眼の相対位置に投影される観察画像の輝度プロファイルを検出して、輝度調整量を算出する。
まず、図17のステップS104と同様の処理を実施して、立体表示パネル108a面上から観察者の右眼の位置に投影される輝度プロファイルYwRと、同じく観察者の左眼の位置に投影される輝度プロファイルYwLと、を算出する(図21及び図22)。次に、右眼の位置に投影される輝度プロファイルYwRと、左眼の位置に投影される輝度プロファイルYwLと、の平均値となる輝度プロファイルYwLRを算出する(図23)。次に、輝度プロファイルYwLRを参照して、図17のステップS104と同様の処理により輝度調整量を算出する。図24に算出した輝度調整量を示す。輝度調整量はX軸方向の位置に依存して変化するが、Y軸方向の位置には依存せず一定値となるため、以上の処理により立体表示パネル108a面上のすべての位置で輝度調整量が算出できる。
ステップS155は、画像データ保管部106から立体画像コンテンツの画像データとなるL画像とR画像を取得する。
ステップS156は、輝度調整処理部107を使用して、ステップS154で算出した輝度調整量に従って、ステップS155で取得した画像データに輝度調整処理を実施する。ステップS156では、立体表示パネル108a面上の表示位置に対応するL画像とR画像の画素位置に保管された階調値に等しい輝度調整量を乗算して、輝度調整処理を実施する。
ステップS157及びステップS158は、図17のステップS107及びステップS108と同様の処理を実施する。
以上より、観察者の右眼と左眼に投影される観察画像の輝度プロファイルが異なる場合であっても、デバイス特性データに基づき算出された輝度調整量に従って、画像データの輝度調整処理を実施することにより、3Dモアレによる輝度変動の影響を軽減して、観察者の観察位置が移動しても観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供できる。
その他の輝度プロファイルの一例として、立体表示パネル108a面上から観察者10の右眼の位置に投影される輝度プロファイルYwRを図25に、同じく観察者10の左眼の位置に投影される輝度プロファイルYwLを図26に示す。図25及び図26では、3Dモアレによって輝度値が減少する観察画像面上の位置(X軸方向)が、観察者10の右眼と左眼で大きく異なる。このような場合であっても、輝度プロファイルの平均値を算出し、その輝度プロファイルから輝度調整量を算出しても良い。
図27に、右眼と左眼に投影される輝度プロファイルの平均値を算出した結果を示す。また、図28に、輝度プロファイルの平均値から輝度調整量を算出した結果を示す。
以上により、観察者10の右眼と左眼に対して大きく異なる輝度プロファイルが投影される場合であっても、輝度調整量を算出して輝度調整処理を実施し、3Dモアレによる輝度変動の影響を軽減できる。
これまでの説明においては、輝度調整量α(x,y)を観察画像の輝度プロファイルにおける輝度値Yw(x,y)から算出する際に、図29に示すような立体表示パネル108aの面内輝度分布は均一とし(図4におけるYLmax=YCmax=YRmax)、輝度プロファイルの輝度値が最大となる最大輝度値Ywmaxを基準にして、式(6)より算出した。
実際の立体表示パネル108aの面内輝度分布は均一ではなく、図30のような、パネル中央部で輝度値が最大、パネル両端部に向かって輝度値が低下する輝度分布(図4におけるYCmax>YLmax=YRmax)を有する。この輝度分布をYb(x,y)と定義し、Yb(x,y)の最大値Ywmaxを1とする。面内輝度分布が均一とならない原因としては、液晶パネルの場合はバックライトの光源位置や光学フィルム特性などに起因し、有機ELの場合は発光層の膜厚分布などに起因する。
図31は、図30の面内輝度分布を有する場合の立体表示パネル108aのYw(x,y)を示し、このような場合においての輝度調整量α(x,y)の算出方法は二つある。
その第1の算出方法は、式(6)を用いる方法である。この方法によって算出された輝度調整量α(x,y)を図32に示す。この方法では、立体表示パネル108aの輝度最大点Ywmaxのみを用いて輝度調整量α(x,y)を算出しているため、その結果、輝度調整量は3Dモアレによる輝度変動だけでなくバックライトなどに起因した面内輝度分布を補正するパラメータとなる。
その第2の算出方法は、式(10)を用いる方法である。
α(x,y)=Yb(x,y)/Yw(x,y) 式(10)
この方法によって算出された輝度調整量α(x,y)を図33に示す。この方法では、立体表示パネル108aの面内輝度分布yb(x,y)を用いて輝度調整量α(x,y)を算出しているため、輝度調整量は3Dモアレによる輝度変動のみを補正するパラメータとなる。
面内輝度分布として、小さい輝度差の場合は第1と第2の算出方法いずれも有用であるが、大きな輝度差が存在する場合、第1の算出方法では輝度調整量α(x,y)の値が大きくなるため、画像データの輝度調整処理によって白飛びが発生して階調表現されなくなる可能性が出てくる。第2の算出方法は、このような白飛びを防止できる方法として有用である。
本実施形態1では、輝度特性データ(図4)の輝度値が、R画像の表示領域とL画像の表示領域との境目で低下する例を示した。しかし、立体表示パネル108aを構成する電気光学手段の表示モードや画素形状などのデバイス構成の違いにより、図34に示す輝度特性データのように、R画像とL画像の表示領域の中央部でも輝度値が低下する場合がある。この課題を解決するための例を、本実施形態1の変形例として説明する。
図34に示す輝度特性データのデバイス特性を有する立体表示パネル108aを使用した場合において、図6の位置Cにおける観察画像は、図10[A]とは異なり、図35[A]に示すように、3Dモアレによる輝度変動の周期及び画像範囲が増加する。表示領域の中央部における輝度値の低下は、表示領域同士の境目における輝度値の低下よりも小さいため、図35[A]のx5とx6の位置における輝度値の低下は、x3とx4の位置における輝度値の低下よりも小さくなる。また、図35[B]に、観察画像(図35[A])内のX軸方向の位置に対する輝度プロファイルを示す。
図35[B]の輝度プロファイルから輝度調整量を算出した結果を図36に示す。輝度調整量の算出方法は上記と同様に、輝度プロファイルの輝度値が最大となる最大輝度値Ywmaxを1とおき、それ以外の輝度値YwがYwmaxと同じ値となるように、輝度調整量を算出する。
本実施形態1の立体画像表示装置11の輝度特性データでは、立体表示パネル108aから二つの異なる視点の画像(L画像、R画像)を投影する例を示したが、視点数は二つに限定されるものではなく、多視点の画像を立体表示パネルから投影しても良い。多視点の画像を投影する場合には、輝度特性データが変化するが、二視点の場合と同様に輝度調整量を算出して、輝度調整処理を実施することで、3Dモアレによる輝度変動の影響を軽減して、観察者の観察位置が移動しても観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供できる。
換言すると、本実施形態1の立体画像表示装置は、観察者の観察位置を計測する観察者位置計測部と、観察者の観察位置と立体表示パネル位置の相対位置を算出する相対位置算出部と、立体表示パネルの相対位置に対するデバイス特性データを保管するデバイス特性データ保管部と、前記デバイス特性データに基づき相対位置に対して3Dモアレによる輝度変動が生じる画像範囲を算出する3Dモアレ画像範囲算出部と、前記3Dモアレ画像範囲算出部で算出した画像範囲に対して、前記デバイス特性データに基づき立体画像表示に適した輝度調整量を算出する輝度調整量算出部と、画像データを保存又は受信する画像データ保管部と、前記輝度調整量に従って前記画像データの輝度調整処理を実施する輝度調整処理部と、輝度調整処理された画像データを前記相対位置に応じて右眼・左眼に投影する立体表示パネル部とを備えるものである。
本実施形態1によれば、観察者の観察位置と立体表示パネル位置の相対位置とデバイス特性データに基づき算出された輝度調整量に従って、画像データの輝度調整処理を実施することにより、観察者の観察位置が移動しても3Dモアレによる輝度変動の影響を軽減し、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供することができる。
[実施形態2]
本実施形態2では、画像データの輝度調整処理を実施する前に、画像データの階調値を参照して、画像データの階調値に対する階調スケールを変更することで、輝度調整処理によって白飛びして階調表現されなくなる画像範囲を軽減する。これにより、画像データの画像品質を保った状態で、3Dモアレによる輝度変動の影響を軽減して、観察者の観察位置が移動しても観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供することを目的とする。
図37に立体画像表示装置12の構成図を示す。立体画像表示装置12は、観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、3Dモアレ画像範囲算出部104と、輝度調整量算出部105と、画像データ保管部106と、輝度調整処理部107と、立体表示パネル部108とを備えるものである。また、相対位置算出部102、3Dモアレ画像範囲算出部104、輝度調整量算出部105、輝度調整処理部107を統合した処理部を、画像処理部151とする。
以下に、立体画像表示装置12に含まれる各部の機能を説明する。観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、3Dモアレ画像範囲算出部104と、輝度調整量算出部105と、画像データ保管部106と、立体表示パネル部108とは、実施形態1のそれらと同様である。
本実施形態2の輝度調整処理部107は、輝度調整量算出部105で算出した輝度調整量と画像データ保管部106に保管された画像データの階調値に従って、画像データの輝度調整処理を実施する。実施形態1の輝度調整処理部107では、画像データ保管部106に保管されている画像データの階調値を上昇させて、3Dモアレによる輝度変動の影響を軽減する輝度調整処理を実施したが、立体画像コンテンツの画像データによっては、階調値を上昇させると、画像データが階調表現可能な最大値(画像データの階調データが8ビットであれば255値)を超過するために白飛びが発生し、輝度調整処理をしても変化がない画像範囲が現れる。
図38に正常に輝度調整処理された画像データの結果を、図39に輝度調整処理によって白飛びした画像データの結果を示す。図39では、輝度調整処理を実施しても階調値が変化しない画像範囲が出現するため、輝度調整処理を実施しても立体表示パネルから観察者へ投影される観察画像には3Dモアレによる輝度変動の影響が現れる。このため、本実施形態2では、輝度調整処理を実施した際に、画像データの階調値が階調表現可能な最大値を超過する場合には、画像データの階調スケールを変更する。
具体的には、画像データの階調表現可能な最大値Imと、輝度調整処理後の画像データの階調最大値Imaxと、を比較する。そして、最大値Imよりも階調最大値Imaxが大きければ、輝度調整処理後の画像データの画素位置(u,v)に保存される階調値If(u,v)を、式(20)より算出する。一方、最大値Imよりも階調最大値Imaxが小さければ、階調値If(u,v)を実施形態1と同様に式(7)より算出する。
If(u,v)=α(x,y)・Id(u,v)・Im/Imax 式(20)
図40に、画像データの階調表現のスケールを変更した後で、輝度調整処理を実施した画像データの一例を示す。輝度調整処理前に画像データの階調スケールを変更することで、輝度調整処理しても画像データの階調値の白飛びによって輝度値が上昇しない画像範囲を削減し、立体表示パネルから観察者へ投影される観察画像に出現する3Dモアレによる輝度変動の影響を軽減できる。
上記の例では、画像データの階調表現のスケールを変更することで、輝度調整処理における画像データの階調値の最大値超過による白飛びを防止する例を記載したが、立体画像コンテンツの画像データに黒色側の階調値が使用されていなければ、画像データの階調表現のスケールを変更する代わりに画像データの階調値を全体的に低下させても良い。
具体的には、画像データの階調表現可能な最大値Imと、輝度調整処理後の画像データの階調最大値Imaxと、を比較する。そして、最大値Imよりも階調最大値Imaxが大きければ、輝度調整処理後の画像データの画素位置(u,v)に保存される階調値If(u,v)を、式(21)より算出する。
If(u,v)=α(x,y)・Id(u,v)−Imax+Im 式(21)
以上より、輝度調整処理での画像データの白飛びによって輝度値が上昇しない画像範囲を削減することができる。
また、上記の説明では、白飛びの発生を防止するために、立体画像コンテンツの画像データの階調値を参照して、画像データの階調表現のスケールを変更する例や、画像データの階調値を全体的に低下する例を挙げた。しかし、立体画像コンテンツが動画のような映像である場合には、時間的な連続性を考慮して、任意の時間に表示する画像データの階調値とその次の時間に表示する画像データの階調値とが、同程度になることが望ましい。このため、立体画像コンテンツが映像である場合には、例えば、予め画像データの階調スケールを小さく設定しておき、輝度調整処理を実施して階調値が上昇しても白飛びが発生しないようにすることで、階調スケールが時間的に変化しないようにしても良い。また、画像データの階調スケールを変更する条件として、画像データ内で発生する白飛びが画像範囲の5%以上であるときに階調スケールを変更する等の新たな条件を加えることで、階調スケールを一定に保つようにしても良い。
なお、本実施形態2においても、実施形態1と同様に多視点の立体表示装置に適用できる。また、本実施形態2の画像処理部152を単独の画像処理装置として提供し、立体表示パネル部108と組み合わせて立体画像表示装置12の機能を実現できることは言うまでもない。
本実施形態2の立体画像表示装置12における立体画像処理方法のフローチャートについて、図41を参照して説明する。
ステップS201〜ステップS206は、実施形態1のステップS101〜ステップS106と同様である。
ステップS207は、輝度調整処理部107を使用して、画像データの階調変更処理として階調値のみ又は階調値かつ階調スケールの変更処理を実施する。ステップS206で取得した画像データの階調最大値とステップS205で算出した輝度調整量とを乗算した値が、画像データが階調表現可能な最大値を超過していれば、画像データの階調表現の変更処理を実施し、この最大値を超過していなければ、画像データの階調表現の変更処理は実施しない。画像データの階調表現の変更処理は、式(20)により、画像データの階調値を変更する。
ステップS208は、輝度調整処理部107を使用して、ステップS205で算出した輝度調整量に従って、ステップS207で階調値変更処理された画像データに輝度調整処理を実施する。
ステップS209及びステップS210は、実施形態1のステップS208及びステップS209と同様の処理を実施する。
以上より、画像データの輝度調整処理を実施する前に、画像データの階調値を参照して、画像データの階調値に対する階調スケールを変更することで、輝度調整処理によって白飛びして階調表現されなくなる画像範囲を軽減する。これにより、画像データの画像品質を保った状態で、3Dモアレによる輝度変動の影響を軽減して、観察者の観察位置が移動しても観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供できる。
換言すると、本実施形態2の立体画像表示装置は、観察者の観察位置を計測する観察者位置計測部と、観察者の観察位置と立体表示パネル位置の相対位置を算出する相対位置算出部と、立体表示パネルの相対位置に対するデバイス特性データを保管するデバイス特性データ保管部と、前記デバイス特性データに基づき相対位置に対して3Dモアレによる輝度変動が生じる画像範囲を算出する3Dモアレ画像範囲算出部と、前記3Dモアレ画像範囲算出部で算出した画像範囲に対して、前記デバイス特性データに基づき立体画像表示に適した輝度調整量を算出する輝度調整量算出部と、画像データを保存又は受信する画像データ保管部と、前記輝度調整量と前記画像データの階調値に従って前記画像データの輝度調整処理を実施する輝度調整処理部と、輝度調整処理された画像データを前記相対位置に応じて右眼・左眼に投影する立体表示パネル部と、を備えるものである。
本実施形態2によれば、画像データの輝度調整処理を実施する際に、画像データの階調値を参照して、画像データの階調値に対する階調スケールを変更することで、輝度調整処理によって白飛びして階調表現されなくなる画像範囲を軽減する。これにより、画像データの階調表現を保った状態で、観察者の観察位置が移動しても3Dモアレによる輝度変動の影響を軽減し、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供することができる。
[実施形態3]
本実施形態3では、立体画像表示装置を使用する環境温度が変化しても、その温度に適切な輝度調整処理を行い、3Dモアレによる輝度変動の影響を軽減して、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供することを目的とする。
図42に立体画像表示装置13の構成図を示す。立体画像表示装置13は、観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、3Dモアレ画像範囲算出部104と、輝度調整量算出部105と、画像データ保管部106と、輝度調整処理部107と、立体表示パネル部108と、温度計測部109と、を備えるものである。また、相対位置算出部102、3Dモアレ画像範囲算出部104、輝度調整量算出部105、輝度調整処理部107を統合した処理部を、画像処理部153とする。
以下に、立体画像表示装置13に含まれる各部の機能を説明する。観察者位置計測部101と、相対位置算出部102と、輝度調整量算出部105と、画像データ保管部106と、輝度調整処理部107と、立体表示パネル部108とは、実施形態1のそれらと同様である。
温度計測部109は、立体画像表示装置13の温度を計測する機能を有する。レンチキュラレンズ3(例えば図45参照)はガラス等の無機材で作られることも可能であるが、製品コストの関係によりポリメチルメタクリレート(PMMA)、シクロポリオレフィン(COP)、ポリカーボネート(PC)に代表されるエンジニアリングプラスチック等の有機材で作られることが多い。このため、立体画像表示装置13を使用する環境温度が変化すると、プラスチック材で作成されたレンチキュラレンズ3と、一般的にガラス基板を用いる表示パネル2(例えば図45参照)との材料の違い、すなわちプラスチック材料とガラス材料との熱膨張係数差により、レンチキュラレンズ3と表示パネル2との位置関係が変動する。
図43に温度が下降した場合の輝度特性データを、図44に温度が上昇した場合の輝度特性データを示す。温度が下降すると、レンチキュラレンズ3が表示パネル2に対して収縮する方向となるため、図43に示すように立体表示パネル108aの左端及び右端における輝度特性データは、常温での点(X1,Y1)に対して点(X1’,Y1’)と変化し、視野角|δ|の値が増大する。反対に温度が上昇すると、レンチキュラレンズ3が表示パネル2に対して伸長する方向となるため、図44に示すように立体表示パネル108aの左端及び右端における輝度特性データは、常温での点(X1,Y1)に対して点(X1'’,Y1'’)と変化し、視野角|δ|の値が減少する。
図43及び図44の輝度特性データを基に、環境温度に対する右眼領域及び左眼領域の変化を、立体表示パネル108aの光学モデル図を用いて図45及び図46に説明する。
図45は、温度が下降した場合の立体表示パネル108aの光学モデル図を示す。レンチキュラレンズ3の収縮に伴い表示パネル2外端の光線の屈折が大きくなり、上記の|δ|が増大するため、環境温度が常温である場合の右眼領域70R及び左眼領域70Lと、環境温度が下降した場合の右眼領域70Rc及び左眼領域70Lcとの空間の位置を比較すると、環境温度が下降するに従って、右眼領域及び左眼領域は立体表示パネル108aへ近づくことが確認できる。なお、図45には、シリンドリカルレンズ3a,3b、光線20,21、左眼領域72Lなど、が記載されている。
図46は、温度が上昇した場合の立体表示パネル108aの光学モデル図を示す。レンチキュラレンズ3の伸長に伴い表示パネル2外端の光線の屈折が小さくなり、上記の|δ|が減少するため、環境温度が常温である場合の右眼領域70R及び左眼領域70Lと、環境温度が上昇した場合の右眼領域70Rh及び左眼領域70Lhとの空間の位置を比較すると、環境温度が上昇するに従って、右眼領域及び左眼領域は立体表示パネル108aから遠ざかることが確認できる。
本実施形態2では、環境温度の変化に伴って立体表示パネル108aの光学モデルが変化する影響を考慮して、輝度調整処理を実施する。温度計測部109は立体表示パネル108a付近の温度を計測することで、温度変化による立体表示パネル108aの光学モデルの状態を把握する。温度計測には汎用の抵抗温度計などを使用でき、この温度計を立体画像表示装置13に設置することで、立体表示パネル108aの環境温度を計測する。
図42に示すデバイス特性データ保管部103は、立体画像表示装置13を使用する環境温度に対応する輝度特性データを予め保存する。データの一例として、環境温度が−20℃〜60℃の範囲で5℃おきの輝度特性データを用いるといったように、立体画像表示装置13の使用に応じて任意の内容が適用可能である。また、輝度特性データを算出するのに必要なパラメータを保管しておき、環境温度に応じて輝度特性データを求めるプログラムを備えることも可能である。ここで、パラメータの一例として、表示パネル2に具備されたレンチキュラレンズ3の実効的な線膨張係数、パネルサイズ、パネル解像度などを、用いることができる。
図42に示す3Dモアレ画像範囲算出部104は、前記温度計測部109で計測した温度に対応する輝度特性データをデバイス特性データ保管部103から取得し、その輝度特性データに基づき、3Dモアレによる輝度変動が生じる画像範囲を算出する。画像範囲の算出は実施形態1と同様に実施して、相対位置に投影される観察画像を検出する。その後の処理も実施形態1と同様に、観察画像から輝度調整量を算出することで、立体画像表示装置13を使用する環境温度に適切な輝度調整処理が実施できる。
なお、本実施形態3においても、実施形態1と同様に多視点の立体画像表示装置に適用できる。また、本実施形態3の画像処理部153を単独の画像処理装置として提供し、立体表示パネル部108と組み合わせて立体画像表示装置13の機能を実現できることは言うまでもない。
本実施形態3の立体画像表示装置13における立体画像処理方法のフローチャートについて、図47を参照して説明する。
ステップS301及びステップS302は、実施形態1と同様の処理を実施する。
ステップS303は、温度計測部109で立体表示パネル108a付近の温度を計測する。
ステップS304は、デバイス特性データ保管部103から、ステップS303で計測した温度に対応するデバイス特性データを取得する。
ステップS305からステップS310までは、実施形態1のステップS104からステップS109までと同様の処理を実施する。
以上より、立体画像表示装置13を使用する環境温度が変化しても、その温度に適切な輝度調整処理を行い、3Dモアレによる輝度変動の影響を軽減して、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供できる。
換言すると、本実施形態3の立体画像表示装置は、観察者の観察位置を計測する観察者位置計測部と、観察者の観察位置と立体表示パネル位置の相対位置を算出する相対位置算出部と、立体表示パネルの相対位置に対するデバイス特性データを保管するデバイス特性データ保管部と、前記デバイス特性データに基づき相対位置に対して3Dモアレによる輝度変動が生じる画像範囲を算出する3Dモアレ画像範囲算出部と、前記3Dモアレ画像範囲算出部で算出した画像範囲に対して、前記デバイス特性データに基づき立体画像表示に適した輝度調整量を算出する輝度調整量算出部と、画像データを保存又は受信する画像データ保管部と、前記輝度調整量に従って前記画像データの輝度調整処理を実施する輝度調整処理部と、輝度調整処理された画像データを前記相対位置に応じて右眼・左眼に投影する立体表示パネル部と、使用環境温度を計測する温度計測部を備えるものである。
本実施形態3によれば、観察者の観察位置とデバイス特性データに加えて、使用環境温度と立体表示パネルの温度特性データを考慮して輝度調整量を算出することにより、立体画像表示装置を使用する環境温度に対して、適切な輝度調整処理を実現する。これにより、立体画像表示装置を使用する環境温度が変化しても、その温度に適切な輝度調整処理を行い、観察者の観察位置が移動しても3Dモアレによる輝度変動の影響を軽減し、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供することができる。
[実施形態4]
本実施形態4では、相対位置の移動速度を参照して輝度調整処理を実施する画像範囲を移動することで、3Dモアレによる輝度変動が出現する画像範囲と輝度調整処理する画像範囲とに位置ずれが生じても、位置ずれを補正して3Dモアレによる輝度変動の影響を軽減し、観察者の観察位置が移動しても観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供することを目的とする。
図48に立体画像表示装置14の構成図を示す。立体画像表示装置14は、観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、3Dモアレ画像範囲算出部104と、輝度調整量算出部105と、画像データ保管部106と、輝度調整処理部107と、輝度調整処理された画像データを前記相対位置に応じて右眼・左眼に投影する立体表示パネル部108と、を備えるものである。また、相対位置算出部102、3Dモアレ画像範囲算出部104、輝度調整量算出部105、輝度調整処理部107を統合した処理部を、画像処理部154とする。
以下に、立体画像表示装置14に含まれる各部の機能を説明する。観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、3Dモアレ画像範囲算出部104と、画像データ保管部106と、輝度調整処理部107と、立体表示パネル部108とは、実施形態1のそれらと同様である。
輝度調整量算出部105は、相対位置算出部102で算出した相対位置の移動速度を参照して、3Dモアレ画像範囲算出部104で算出した3Dモアレ画像範囲(3Dモアレによる輝度変動が発現する画像範囲)から輝度調整量を算出する。
3Dモアレによる輝度変動の影響を軽減するには、3Dモアレ画像範囲の位置へ正確に合わせて輝度調整処理を実施する必要がある。この3Dモアレ画像範囲は相対位置によって変化する。相対位置の移動速度が速い場合には、観察者位置計測部101による計測処理や、画像データの輝度調整処理による、遅れが生じる。そのために、3Dモアレ画像範囲と、輝度調整処理により輝度変動を軽減する画像範囲とに、位置ずれが発生する場合がある。
図49に、3Dモアレ画像範囲と輝度調整処理する画像範囲との位置ずれが発生した例を示す。図49[A]は、相対位置の移動速度が遅いため、画像範囲の位置ずれが発生しない場合における輝度調整処理後の観察画像の輝度プロファイルを示す一例である。図49[B]は、相対位置の移動速度が速いため、画像範囲の位置ずれが発生した場合における輝度調整処理後の観察画像の輝度プロファイルを示す一例である。図49[A]及び図49[B]におけるD、E、Fはそれぞれ次のとおりである。Dの点線(下側に輝度値が落ち込んだ点線)は、3Dモアレによる輝度プロファイル(D)を表す。Eの一点鎖線(上側に輝度値が膨らんだ一点鎖線)は、輝度調整処理した画像データに起因する輝度プロファイル(E)を表す。Fの実線は、輝度調整処理した画像データを立体表示パネル108aから観察者の観察位置へ投影した観察画像の輝度プロファイル(F)を表す。
本来ならば、図49[B]の輝度調整処理した画像データに起因する輝度プロファイル(E)が最大値となるX軸上の位置x15は、3Dモアレによる輝度プロファイル(D)の最小値となるX軸上の位置x12と同じ位置になるが、相対位置の移動速度が速いために、輝度調整処理が遅れ、位置ずれが発生している。このように、3Dモアレ画像範囲と輝度調整処理する画像範囲との位置ずれが発生すると、図49[B]のように輝度調整処理を実施しても、3Dモアレによる輝度変動の影響が残存する。
本実施形態4の輝度調整量算出部105では、相対位置の移動速度を参照して、画像範囲の位置ずれを考慮して、3Dモアレによる輝度変動の影響を軽減する輝度調整量を算出する。画像範囲の位置ずれ量は、相対位置の移動速度によって変化する。図50に相対位置の移動速度と画像範囲の位置ずれ量との関係図を示す。
画像範囲の位置ずれ量は、観察者位置計測部101の計測性能や画像処理部154の性能処理速度に依存するため、使用する立体画像表示装置14ごとによって異なる値をとる。また、画像範囲の位置ずれは、相対位置の移動速度が立体画像表示装置14ごとに異なる閾値速度V0よりも相対位置の移動速度が速い場合に、画像範囲の位置ずれが発生する。観察者の観察位置が立体表示パネル108a面上のX軸方向に移動している場合には、3Dモアレ画像範囲はX軸と反対方向に移動するため、輝度調整処理する画像範囲よりも3Dモアレ画像範囲はX軸と反対方向に出現する。また、観察者の観察位置がX軸と反対方向に移動している場合には、3Dモアレ画像範囲はX軸方向に移動するため、輝度調整量処理する画像範囲よりも3Dモアレ画像範囲はX軸方向に出現する。
本実施形態4の輝度調整量算出部105による輝度調整量の算出方法を以下に示す。初めに実施形態1と同様にデバイス特性データ保管部103に保管された輝度特性データに基づき輝度調整量を算出する。次に相対位置の時間変化量から移動速度を算出し、相対位置の移動速度が閾値速度V0よりも速い場合には、相対位置から観察者の移動方向を特定する。移動方向がX軸方向であれば、図50に示す相対位置の移動速度と画像範囲の位置ずれ量との関係図から位置ずれ量を検出して、輝度調整量をX軸と反対方向に移動する。移動方向がX軸と反対方向であれば、輝度調整量をX軸方向に移動する。
図51に、画像範囲の位置ずれ量がxlenである場合における輝度調整量の算出結果を示す。図51[A]は、実施形態1と同様の方法で算出した輝度調整量を示す。図51[B]は、図51[A]の輝度調整量をX軸と反対方向に画像範囲の位置ずれ量xlenだけ移動した輝度調整量の結果を示す。
図52に、輝度調整量をX軸と反対方向に画像範囲の位置ずれ量xlenだけ移動した際の輝度プロファイルを示す。図52におけるD、E、Fはそれぞれ次のとおりである。Dの点線(下側に輝度値が落ち込んだ点線)は、3Dモアレによる輝度プロファイル(D)を表す。Eの一点鎖線(上側に輝度値が膨らんだ一点鎖線)は、輝度調整処理した画像データに起因する輝度プロファイル(E)を表す。Fの実線は、輝度調整処理した画像データを立体表示パネル108aから観察者の観察位置へ投影した観察画像の輝度プロファイル(F)を表す。
ここで、図52は輝度調整量の画像範囲が位置ずれ量xlenだけX軸と反対方向に移動しているため、輝度調整処理した画像データに起因する輝度プロファイル(E)も位置ずれ量xlenだけX軸と反対方向に移動している。これにより、輝度調整処理した画像データに起因する輝度プロファイル(E)と3Dモアレによる輝度プロファイル(D)との画像範囲の位置が等しくなり、輝度調整処理した画像データを立体表示パネル108aから観察者の観察位置へ投影した観察画像の輝度プロファイル(F)は、輝度変動が無くなり、輝度値が一定となる。
以上より、相対位置の移動速度が速く、3Dモアレ画像範囲と輝度調整処理する画像範囲に位置ずれが発生した場合においても、位置ずれ量を考慮した輝度調整量を算出できる。
なお、本実施形態4においても、実施形態1と同様に多視点の立体表示装置に適用できる。また、本実施形態4の画像処理部154を単独の画像処理装置として提供し、立体表示パネル部108と組み合わせて立体画像表示装置14の機能を実現できることは言うまでもない。
本実施形態4の立体画像表示装置14における立体画像処理方法のフローチャートについて、図53を参照して説明する。
ステップS401〜ステップS404は、実施形態1のステップS101〜ステップS104と同様である。
ステップS405は、相対位置算出部102で算出した相対位置の時間差分から移動速度と、移動方向を算出する。
ステップS406は、輝度調整量算出部105を使用して、輝度調整量を算出する。初めに、実施形態1と同様にして、ステップS404で検出した観察画像の輝度特性データから輝度調整量を算出する。次にステップS405で算出した相対位置の移動速度及び移動方向を参照して、移動速度が閾値速度V0よりも速い場合には、移動速度と画像範囲の位置ずれ量との関係図(図50)から位置ずれ量を取得し、位置ずれ量に従って、輝度調整量を観察者の移動方向と反対に移動する。
ステップS407〜ステップS410は、実施形態1のステップS106〜ステップS109と同様の処理を実施する。
以上より、観察者の観察位置と立体表示パネルとの相対位置の移動速度が速く、3Dモアレ画像範囲と輝度調整処理する画像範囲とに位置ずれが発生しても、画像範囲の位置ずれを考慮して輝度調整量を算出することで、3Dモアレによる輝度変動の影響を軽減し、観察者の観察位置が移動しても、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供できる。
換言すると、本実施形態4の立体画像表示装置は、観察者の観察位置を計測する観察者位置計測部と、観察者の観察位置と立体表示パネル位置の相対位置を算出する相対位置算出部と、立体表示パネルの相対位置に対するデバイス特性データを保管するデバイス特性データ保管部と、前記デバイス特性データに基づき相対位置に対して3Dモアレによる輝度変動が生じる画像範囲を算出する3Dモアレ画像範囲算出部と、前記3Dモアレ画像範囲算出部で算出した画像範囲に対して、前記相対位置の時間変化から算出した相対位置の移動速度を参照し、前記デバイス特性データに基づき立体画像表示に適した輝度調整量を算出する輝度調整量算出部と、画像データを保存又は受信する画像データ保管部と、前記輝度調整量に従って前記画像データの輝度調整処理を実施する輝度調整処理部と、輝度調整処理された画像データを前記相対位置に応じて右眼・左眼に投影する立体表示パネル部と、を備えるものである。
本実施形態4によれば、相対位置の移動速度を参照して輝度調整処理を実施する画像範囲を移動することで、3Dモアレによる輝度変動が出現する画像範囲と輝度調整処理する画像範囲に位置ずれが生じても、位置ずれを補正して、観察者の観察位置が移動しても3Dモアレによる輝度変動の影響を軽減し、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供することができる。
[実施形態5]
本実施形態5では、相対位置の移動速度を参照して、輝度調整処理後の画像データに対して画像フィルタ処理を実施することで、3Dモアレによる輝度変動が出現する画像範囲と輝度調整処理する画像範囲とに位置ずれが生じても、輝度調整処理する画像範囲を広範囲にして画像データの輝度調整に起因する輝度プロファイルをなだらかにする、いわゆる輝度値Ywの位置Xに対する微分係数を小さくすることで、3Dモアレによる輝度変動の影響を軽減して、観察者の観察位置が移動しても観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供することを目的とする。
図54に立体画像表示装置15の構成図を示す。立体画像表示装置15は、観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、3Dモアレ画像範囲算出部104と、輝度調整量算出部105と、画像データ保管部106と、輝度調整処理部107と、相対位置算出部102で算出した相対位置の移動速度を参照して、前記輝度調整量に基づき画像フィルタ値を算出する画像フィルタ値算出部110と、前記画像フィルタ値に従って、輝度調整処理された画像データに対して画像フィルタ処理を実施する画像フィルタ処理部111と、輝度調整処理及び画像フィルタ処理された画像データを前記相対位置に応じて右眼・左眼に投影する立体表示パネル部108と、を備えるものである。
また、相対位置算出部102、3Dモアレ画像範囲算出部104と、輝度調整量算出部105、輝度調整処理部107、画像フィルタ値算出部110、画像フィルタ処理部111を統合した処理部を、画像処理部155とする。
以下に、立体画像表示装置15に含まれる各部の機能を説明する。観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、3Dモアレ画像範囲算出部104と、輝度調整量算出部105と、画像データ保管部106と、輝度調整処理部107と、立体表示パネル部108とは、実施形態1のそれらと同様である。
画像フィルタ値算出部110は、相対位置算出部102で算出した相対位置の移動速度に基づき、輝度調整処理する画像範囲を広範囲にし、画像データの階調値をなだらかにする画像フィルタ値を算出する機能を有する。
画像フィルタ値には、立体画像コンテンツの画像データのぼかし処理(平滑化処理、ローパスフィルタ処理などとも呼ばれる。)を実施するためのフィルタ形状を適用する。画像ぼかし処理を実施する代表的なフィルタ形状としては、平均化フィルタ、メディアンフィルタ、ガウシアンフィルタ等が挙げられる。以下の一例では、ガウシアンフィルタを使用する例を記載する。
図55に立体画像コンテンツの画像データに適用するガウシアンフィルタ形状を示す。図55は、2次元のガウシアンフィルタ形状を示し、X軸は画像データの横軸方向に、Y軸は画像データの縦軸方向に対応する。ガウシアンフィルタは、ガウス分布関数の式(41)から算出する。ここで分散値σ
2は任意の値であり、σの値が大きいとガウシアンフィルタの形状は、なだらかになり、画像ぼかし処理の効果も増大する。
画像フィルタ値はガウシアンフィルタを離散化した値となる。画像フィルタ値を形成する各画素の位置(x,y)に、式(5)より算出した値f(x,y)を代入することで画像フィルタ値を算出する。図56[A]及び図56[B]に、ガウシアンフィルタから生成された画像フィルタ値の例を示す。画像フィルタの窓幅についてX軸方向の値をWxとし、Y軸の方向の窓幅についてWyとすると、図56[A]は画像フィルタの窓幅を3×3画素(Wx=3、Wy=3)にした例であり、図56[B]は画像フィルタの窓幅を5×5画素(Wx=5、Wy=5)にした例である。
以下の説明では便宜上W(W=Wx=Wy)とする。画像フィルタの窓幅値Wが大きいと、画像ぼかし処理の効果も増大する。このように画像ぼかし処理にガウシアンフィルタを使用する場合には、ガウス分布関数の分散値σの値と、画像フィルタの窓幅値Wによって、画像フィルタ値が特定される。したがって、画像フィルタ値算出部110では、分散値σの値と、画像フィルタの窓幅値Wとを算出すれば良い。ここで、画像フィルタ値の算出では、分散値σの値は任意の定数とおき(例えばσ=1とおく)、画像フィルタの窓幅値Wだけを算出するようにしても良い。
以下に、画像フィルタ値の算出例として、ガウス分布関数の分散値σの値を1とおき、画像フィルタの窓幅値Wだけを算出する例を記載する。図57に相対位置の移動速度と画像フィルタの窓幅値Wとの関係図を示す。相対位置の移動速度が閾値速度v0よりも遅い場合には、画像フィルタの窓幅値Wは1となり、移動速度が閾値速度v0よりも速い場合には、移動速度が増大するに伴って、画像フィルタの窓幅値Wの値が増加する。
画像フィルタの窓幅値Wが1であれば、ガウシアンフィルタによる画像フィルタ処理をしても立体画像コンテンツの画像データは変化しない。当然ながら、画像フィルタ処理による計算量を削減するため、画像フィルタの窓幅値Wに1を代入せずに、画像フィルタ処理の実施を中止する命令値を代入しても良い。また、画像フィルタの窓幅値Wは整数であることが望ましいので、小数値を四捨五入することで整数値に近似しても良い。
画像フィルタの窓幅値Wが増加すると画像ぼかし処理の効果も増加するため、輝度調整処理する画像範囲は広範囲になって輝度値はなだらかとなるが、立体画像コンテンツの画像品質は低下する。また反対に、画像フィルタの窓幅値Wが減少すると画像ぼかし処理の効果も減少するため、立体画像コンテンツの画像品質は保たれるが、輝度調整処理する画像範囲は広範囲とならない。したがって、相対位置の移動速度と画像フィルタの窓幅値Wとの関係図は、評価者へ様々な種類の立体画像コンテンツ(視差値、コントラスト、明るさ、色味の空間周波数の異なる立体画像コンテンツ)を提示して、主観評価によって得られる結果を集計することが望ましい。
また、上記の例では、W=Wx=Wyとして正方形型の画像フィルタを使用した例を示したが、Wyは必ずしもWxと同じ値でなくても良い。3Dモアレによる輝度変動の影響はX軸方向に顕著に現れるため、Wx>Wyとした長方形型の画像フィルタを使用しても良い。なお、Wyの値は立体画像コンテンツの画像データに応じて変更することも可能である。
また、上記の例では、ガウシアンフィルタの分散値σ=1とし、画像フィルタの窓幅値Wを算出して画像フィルタ値を特定する方法を示したが、反対に画像フィルタの窓幅値Wを定数(例えば20×20画素)とおき、ガウシアンフィルタの分散値σを算出して画像フィルタ値を特定しても良い。σの算出方法は、画像フィルタの窓幅値Wと同様に、観察者の主観評価実験により、輝度調整量とガウシアンフィルタの分散値σとの関係図を特定する。
これにより、輝度調整量が大きくなるにつれてガウシアンフィルタの分散値σの値を大きくし、画像ぼかしの効果を増大させる。また、当然ながら、ガウスフィルタの分散値σと画像フィルタの窓幅値Wとの両方を変数とおき、両方の値を算出して画像フィルタ値を特定しても良い。この算出方法の一例としては、初めにガウシアンフィルタの分散値σの値を固定して、画像フィルタの窓幅値Wを算出し、次に算出した画像フィルタの窓幅値Wに適した分散値σを上記と同様の方法で算出する。
画像フィルタ処理部111は、画像フィルタ値算出部110で算出した画像フィルタ値に従って、輝度調整処理部107で輝度調整処理された画像データに画像フィルタ処理を実施する。図58に、一例として、画像フィルタ処理を適用した際に立体表示パネル面上から投影される観察画像の輝度プロファイルを示す。
図58[A]は、相対位置の移動速度が速く、輝度調整処理する画像範囲と3Dモアレ画像範囲とに位置ずれが発生した場合の輝度プロファイルを示す。図58[A]におけるD、E、Fは次のとおりである。Dの点線(下側に輝度値が落ち込んだ点線)は、3Dモアレによる輝度プロファイル(すなわち輝度調整処理前の観察画像の輝度プロファイル)(D)を表す。Eの一点鎖線(上側に輝度値が膨らんだ一点鎖線)は、輝度調整処理後の画像データによる起因する輝度プロファイル(E)を表す。Fの実線は、輝度調整処理後の画像データを立体表示パネル面上から観察者の観察位置に投影した観察画像の輝度プロファイル(F)を表す。
図58[B]は、輝度調整処理及び画像フィルタ処理後の画像データに起因した輝度プロファイル(E)を示す。図58[B]より、画像フィルタ処理によって、輝度調整処理する画像範囲は広範囲になり、画像データの輝度調整に起因する輝度プロファイルはなだらかになる。
図58[C]は、輝度調整処理及び画像フィルタ処理を実施して、3Dモアレによる輝度変動の影響を軽減した輝度プロファイルを示す。図58[C]のFの実線は、輝度調整処理及び画像フィルタ処理後の画像データを立体表示パネル面上から観察者の観察位置に投影した観察画像の輝度プロファイル(F)を表す。画像フィルタ処理前の図58[A]の輝度プロファイル(F)と画像フィルタ処理後の図58[C]の輝度プロファイル(F)とを比較すると、画像フィルタ処理後の輝度プロファイル(F)の輝度変動は緩やかになっている。これにより、相対位置の移動速度が速く、3Dモアレ画像範囲と輝度調整する画像範囲に位置ずれが発生しても、画像フィルタ処理によって輝度調整処理する画像範囲を広範囲にし、画像データの輝度調整に起因する輝度プロファイルをなだらかにすることで、3Dモアレによる輝度変動の影響を軽減できる。
なお、本実施形態5においても、実施形態1と同様に多視点の立体表示装置に適用できる。また、本実施形態の画像処理部155を単独の画像処理装置として提供し、立体表示パネル部108と組み合わせて立体画像表示装置15の機能を実現できることは言うまでもない。
本実施形態5の立体画像表示装置15における立体画像処理方法のフローチャートについて、図59を参照して説明する。
ステップS501〜ステップS507は、実施形態1のステップS101〜ステップS107と同様である。
ステップS508は、相対位置算出部102で算出した相対位置の時間差分から移動速度と、移動方向を算出する。
ステップS509は、画像フィルタ値算出部110を使用して、ステップS508で算出したい相対位置の移動速度を参照して、画像フィルタ値を算出する。画像フィルタ値の算出方法は、相対位置の移動速度と画像フィルタ値となる画像フィルタの窓幅値との関係図(図52)を参照して、画像フィルタ値を算出する。
ステップS510は、画像フィルタ処理部111を使用して、ステップS509で算出した画像フィルタ値に従って、ステップS507で輝度調整処理した画像データに対し、画像フィルタ処理を実施する。
ステップS511及びステップS512は、実施形態1のステップS108及びステップ109と同様の処理を実施する。
以上より、相対位置の移動速度が速く、輝度調整処理する画像範囲と3Dモアレ画像範囲とに位置ずれが発生する場合であっても、輝度調整処理する画像範囲を広範囲にし、画像データの輝度調整に起因する輝度プロファイルをなだらかにすることで、3Dモアレによる輝度変動の影響を軽減して、観察者の観察位置が移動しても観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供できる。
換言すると、本実施形態5の立体画像表示装置は、観察者の観察位置を計測する観察者位置計測部と、観察者の観察位置と立体表示パネル位置の相対位置を算出する相対位置算出部と、立体表示パネルの相対位置に対するデバイス特性データを保管するデバイス特性データ保管部と、前記デバイス特性データに基づき相対位置に対して3Dモアレによる輝度変動が生じる画像範囲を算出する3Dモアレ画像範囲算出部と、前記3Dモアレ画像範囲算出部で算出した画像範囲に対して、立体画像表示に適した輝度調整量を算出する輝度調整量算出部と、画像データを保存又は受信する画像データ保管部と、前記輝度調整量に従って前記画像データの輝度調整処理を実施する輝度調整処理部と、前記相対位置の移動速度に基づき画像フィルタ値を算出する画像フィルタ値算出手段と、前記画像フィルタ値に従って、輝度調整処理された画像データに対して画像フィルタ処理を実施する画像フィルタ処理手段と、画像フィルタ処理された画像データを前記相対位置に応じて右眼・左眼に投影する立体表示パネル部を備えるものである。
本実施形態5によれば、相対位置の移動速度を参照して、輝度調整処理後の画像データに対して画像フィルタ処理を実施することで、3Dモアレによる輝度変動が出現する画像範囲と輝度調整処理する画像範囲に位置ずれが生じても、輝度調整処理する画像範囲を広範囲にして画像データによる輝度調整量をなだらかにすることで、観察者の観察位置が移動しても3Dモアレによる輝度変動の影響を軽減し、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供することができる。
[実施形態6]
本実施形態6では、輝度調整処理によって3Dモアレによる輝度変動の影響を軽減した画像データに対して、3Dクロストークによる二重像の影響を軽減するための視差調整処理を実施することで、3Dモアレによる輝度変動の影響だけでなく、3Dクロストークによる二重像の影響も軽減して、観察者の観察位置が移動しても観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供することを目的とする。
図61は、立体表示パネルの視野角方向に対する3Dクロストークを示したものである。図4に示す3Dモアレ画像範囲と、図61に示す3Dクロストーク画像範囲とは、概ね一致している。このため、3Dモアレ画像範囲算出部の情報に基づいて、3Dクロストークを緩和するための視差調整処理を行うものである。
図60に立体画像表示装置16の構成図を示す。立体画像表示装置16は、観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、3Dモアレ画像範囲算出部104と、輝度調整量算出部105と、画像データ保管部106と、輝度調整処理部107と、相対位置算出部102で算出した相対位置とデバイス特性データ保管部103に保管したデバイス特性データとから3Dクロストークによる二重像の影響を軽減するための視差調整量を算出する視差調整量算出部112と、3Dモアレ画像範囲算出部104で算出した画像範囲にある画像データに対して、視差調整量算出部112で算出した視差調整量に従って視差調整処理を実施する視差調整処理部113と、輝度調整処理及び視差調整処理が実施された画像データを前記相対位置に応じて右眼・左眼に投影する立体表示パネル部108と、を備えるものである。また、相対位置算出部102、3Dモアレ画像範囲算出部104、輝度調整量算出部105、輝度調整処理部107、視差調整量算出部112、視差調整処理部113を統合した処理部を、画像処理部156とする。
観察者位置計測部101、相対位置算出部102、デバイス特性データ保管部103、3Dモアレ画像範囲算出部104、輝度調整量算出部105、画像データ保管部106、輝度調整処理部107、立体表示パネル部108、は実施形態1のそれらと同様である。
視差調整量算出部112は、デバイス特性データ保管部103に保管されている3Dクロストーク特性データから、3Dクロストークによる二重像を軽減するために適切な視差許容値を算出し、算出した視差許容値と画像データの視差最大値とから視差調整量を算出する。
図61に3Dクロストーク特性データの一例を示す。3Dクロストーク特性データの横軸は視野角θを、縦軸は3Dクロストーク量を表す。3Dクロストーク量は、右眼用画像(R画像)に左眼用画像(L画像)が混合する割合を表す(逆の混合も表す:L画像にR画像が混合する割合)。3Dクロストーク特性データは立体表示パネルのデバイス特性によって異なる値をとり、立体表示パネルの設計時に決定される。また、3Dクロストーク用の評価装置で立体表示パネルを計測しても3Dクロストーク特性データを得ることができる。この3Dクロストーク特性データと、相対位置算出部102で算出した相対位置とから、視差調整量を算出する。
視差調整量の算出方法では、第1の処理として、3Dクロストーク量の閾値から、3Dクロストークによる二重像が出現せずに正常な立体画像が投影される正視領域の視野角範囲と、3Dクロストークによる二重像が出現する3Dクロストーク領域の視野角範囲と、3Dクロストークによる二重像は出現しないが右眼に左眼用画像、左眼に右眼用画像が投影される逆視領域の視野角範囲と、を検出する。この際、3Dクロストーク量の閾値を二つ以上設定することで、3Dクロストークによる二重像は出現するが、その影響が小さいために立体画像が視認できる3Dクロストーク領域の視野角範囲と、3Dクロストークによる二重像の影響が大きいために立体画像が視認できない3Dクロストーク領域の視野角範囲と、を分離しても良い。
第2の処理として、正視領域と3Dクロストーク領域と逆視領域との各境界位置となる視野角において、立体画像表示に適した視差許容値を設定する。視差許容値は、3Dクロストーク量の閾値に対する視差許容値を主観評価実験や文献を参照して設定する。
第3の処理として、境界位置となる視野角と視差許容値とから得られる複数の点を通るように線で補間することで、すべての視野角における視差許容値を算出する。
第4の処理として、相対位置から視野角を算出し、その視野角に対する視差許容値を検出して、立体画像コンテンツである画像データの視差最大値と比較する。画像データの視差最大値が視差許容値よりも大きい場合には、画像データの視差最大値を視差許容値と等しくするために、画像データの視差最大値に乗算する値である視差調整量を算出する。画像データの視差最大値が視差許容値よりも小さい場合には、視差調整量を1とする。以上の処理によって、視差調整量を算出できる。
視差調整処理部113は、輝度調整処理後の画像データに対して、3Dモアレ画像範囲算出部104で算出した画像範囲に、視差調整量算出部112で算出した視差調整量に従って視差調整処理を実施する。
ここで、図4に示す輝度特性データのデバイス特性を持つ立体表示パネル部108であれば、3Dクロストークによる二重像が生じる画像範囲は、3Dモアレ画像範囲算出部104で算出した3Dモアレによる輝度変動が生じる画像範囲とほぼ等しくなる。
図62に、任意の相対位置における二重像が現れる画像範囲の一例を示す。図62は、3Dクロストーク領域内で、X軸方向(図3を参照)とZ軸方向に相対位置が移動した場合に、その相対位置へ投影される観察画像を示す。相対位置がX軸方向に移動すると、それに応じて二重像が現れる画像範囲もX軸方向に移動する。また、相対位置がZ軸方向に移動すると、それに応じて二重像が現れる画像範囲が広がっていく。
相対位置算出部102から得られる観察者の右眼と左眼の位置情報と、3Dモアレ画像範囲算出部104で算出された画像範囲情報とから、観察者の右眼と左眼に投影される観察画像の任意の画像範囲に、R画像が投影されるか、L画像が投影されるか、3Dクロストークによる二重像(CT画像)が投影されるかを判定する。
判定した結果、左眼にL画像が投影され、右眼にR画像が投影されている画像範囲は、視差値をそのままにする。右眼と左眼のどちらかに一方にでもCT画像が投影される画像範囲は、視差調整量算出部112で算出した視差調整量に従って、視差調整処理を実施する。左眼にR画像が投影され、右眼にL画像が投影される画像範囲は、視差値を反転する。右眼と左眼の両方にR画像又はL画像が投影される場合は、視差値をそのままにする。
図63に、観察者の右眼と左眼に投影される観察画像の種類(L画像、R画像、CT画像)に対応した視差調整処理の実施判定表を示す。立体画像コンテンツの表示状態は、右眼にR画像が投影され、左眼にL画像が投影されている画像範囲と、右眼にL画像が投影され、左眼にR画像が投影されている画像範囲とでは、立体画像として表示される。また、観察者の右眼と左眼に同一の画像が投影されている画像範囲は、平面画像として表示される。その以外の画像範囲では、立体から平面までの中間的な表示状態となり、3Dクロストーク量が高い画像範囲になるほど、立体画像コンテンツの視差値は低減されて平面画像の表示状態に近くなる。
以上より、実施形態1で記載した輝度調整処理を実施して、3Dモアレによる輝度変動の影響を軽減した後で、3Dクロストークによる二重像が現れる画像範囲だけに視差調整処理を実施することで、その他の画像範囲に対して視差値を保持しながら、3Dモアレによる輝度変動の影響と3Dクロストークによる二重像の影響を両方とも軽減できる。
なお、本実施形態6においても、実施形態1と同様に多視点の立体表示装置に適用できる。また、本実施形態の画像処理部156を単独の画像処理装置として提供し、立体表示パネル部108と組み合わせて立体画像表示装置16の機能を実現できることは言うまでもない。
ここで、本実施形態6の変形例として、立体表示パネルの輝度特性データが、図34に示すように、立体正視範囲内に3Dモアレとなる輝度変動を有する場合を考える。この場合は、3Dモアレ画像範囲と3Dクロストーク画像範囲とが一致しない領域が発生する。
例えば、図34に示す輝度特性データを有する立体画像表示装置において、相対位置が図6Aの位置Cである場合、観察画像は図64に示すような表示となる。この表示のうち、3Dモアレ画像範囲は図64のX軸方向の位置x3、x4、x5、x6となるが、図61に示す3Dクロストーク特性データより、3Dクロストーク画像範囲は図64のX軸方向の位置x3、x4となり、お互いの画像範囲は一致しなくなることが分かる。したがって、立体正視範囲内に3Dモアレとなる輝度変動を有する輝度特性データを扱う場合は、3Dモアレ画像範囲算出部104で算出した画像範囲とは別に、3Dクロストーク画像範囲を算出する必要がある。
本実施形態6の変形例を図65に示す。本例の立体画像表示装置16aの構成は、図60で示した構成に3Dクロストーク画像範囲算出部114を追加したものである。3Dクロストーク画像範囲算出部114は、相対位置算出部102で算出した相対位置とデバイス特性データ保管部103に保管された3Dクロストーク特性データとより、3Dクロストーク画像範囲を算出する。3Dクロストーク画像範囲の算出方法は、3Dクロストーク特性データから3Dクロストーク領域を示す光学モデル図を導出し、相対位置に対する観察画像を検出することで、3Dクロストークによる二重像が出現する画像範囲を算出する。なお、3Dクロストーク画像範囲算出部114を含む処理部を、画像処理部156aとする。
本実施形態6の立体画像表示装置16,16aにおける立体画像処理方法のフローチャートについて、図66を参照して説明する。
ステップS601〜ステップS607は、実施形態1のステップS101〜ステップS107と同様である。
ステップS608は、視差調整量算出部112を使用して、相対位置算出部102で算出した相対位置と、デバイス特性データ保管部103に保管された3Dクロストーク特性データとから、3Dクロストークによる二重像の影響を軽減するための視差調整量を算出する。
ステップS609は、視差調整処理部113を使用して、ステップS608で算出した視差調整量に従って、輝度調整処理後の画像データに対して、視差調整処理を実施する。
ステップS610及びステップS611は、実施形態1のステップS108及びステップS109と同様の処理を実施する。
以上より、3Dモアレによる輝度変動の影響と3Dクロストークによる二重像の影響とを両方とも軽減し、観察者の観察位置が移動しても、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供できる。
換言すると、本実施形態6の立体画像表示装置は、観察者の観察位置を計測する観察者位置計測部と、観察者の観察位置と立体表示パネル位置の相対位置を算出する相対位置算出部と、立体表示パネルの相対位置に対するデバイス特性データを保管するデバイス特性データ保管部と、前記デバイス特性データに基づき相対位置に対して立体画像表示に適した輝度調整量を算出する輝度調整量算出部と、前記デバイス特性データに基づき相対位置に対して立体画像表示に適した視差調整量を算出する視差調整量算出部と、画像データを保存又は受信する画像データ保管部と、前記輝度調整量に従って前記画像データの輝度調整処理を実施する輝度調整処理部と、前記視差調整量に従って、輝度調整処理後の画像データへ視差調整処理を実施する視差調整処理部と、輝度調整処理と視差調整処理を実施した画像データを前記相対位置に応じて右眼・左眼に投影する立体表示パネル部と、を備えるものである。
本実施形態6によれば、輝度調整処理によって3Dモアレによる輝度変動の影響を軽減した画像データに対して、3Dクロストークによる二重像の影響を軽減するための視差調整処理を実施することで、観察者の観察位置が移動しても3Dモアレによる輝度変動に加えて3Dクロストークによる二重像の影響も軽減し、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供することができる。
[実施形態7]
本実施形態7では、輝度調整処理によって3Dモアレによる輝度変動の影響を軽減した画像データに対して、3Dクロストークによる二重像の影響を軽減するための画像フィルタ処理を実施することで、3Dモアレによる輝度変動の影響だけでなく、3Dクロストークによる二重像の影響も軽減して、観察者の観察位置が移動しても観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供することを目的とする。
図61は、立体表示パネルの視野角方向に対する3Dクロストークを示したものであるが、図4に示す3Dモアレ画像範囲と、図61に示す3Dクロストーク画像範囲とは、概ね一致している。このため、3Dモアレ画像範囲算出部の情報に基づいて、3Dクロストークを緩和するための画像フィルタ処理を行うものである。
図67に立体画像表示装置17の構成図を示す。立体画像表示装置17は、観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、3Dモアレ画像範囲算出部104と、輝度調整量算出部105と、前記デバイス特性データに基づき相対位置に対して立体画像表示に適した画像フィルタ値を算出する画像フィルタ値算出部110と、画像データ保管部106と、輝度調整処理部107と、前記画像フィルタ値に従って、輝度調整処理された画像データの画像フィルタ処理を実施する画像フィルタ処理部111と、輝度調整処理と視差調整処理が実施された画像データを前記相対位置に応じて右眼・左眼に投影する立体表示パネル部108と、を備えるものである。また、相対位置算出部102、3Dモアレ画像範囲算出部104、輝度調整量算出部105、輝度調整処理部107、画像フィルタ値算出部110、画像フィルタ処理部111を統合した処理部を、画像処理部157とする。
観察者位置計測部101、相対位置算出部102、デバイス特性データ保管部103、3Dモアレ画像範囲算出部104、輝度調整量算出部105、画像データ保管部106、輝度調整処理部107、立体表示パネル部108は、実施形態1のそれらと同様である。
本実施形態7の画像フィルタ値算出部110は、デバイス特性データ保管部103に保管されている3Dクロストーク特性データから、3Dクロストークによる二重像を軽減するために適切な画像フィルタ値を算出する。
画像フィルタ値の算出方法では、第1の処理として、3Dクロストーク量の閾値から、3Dクロストークによる二重像が出現せずに正常な立体画像が投影される正視領域の視野角範囲と、3Dクロストークによる二重像が出現する3Dクロストーク領域の視野角範囲と、3Dクロストークによる二重像は出現しないが右眼に左眼用画像が左眼に右眼用画像が投影される逆視領域の視野角範囲と、を検出する。この際、3Dクロストーク量の閾値を二つ以上設定することで、3Dクロストークによる二重像は出現するが、その影響が小さいために立体画像が視認できる3Dクロストーク領域の視野角範囲と、3Dクロストークによる二重像の影響が大きいために立体画像が視認できない3Dクロストーク領域の視野角範囲とを、分離しても良い。
第2の処理として、正視領域と3Dクロストーク領域と逆視領域との各境界位置となる視野角において、立体画像表示に適した画像フィルタ値を設定する。画像フィルタ値は、3Dクロストーク量の閾値に対する画像フィルタ値を主観評価実験により導出して設定する。
第3の処理として、境界位置となる視野角と画像フィルタ値とから得られる複数の点を通るように線で補間することで、すべての視野角における画像フィルタ値を算出する。
第4の処理として、相対位置から視野角を算出し、その視野角に対する画像フィルタ値を検出する。以上の処理によって、画像フィルタ値を算出できる。
本実施形態7の画像フィルタ処理部111は、輝度調整処理後の画像データに対して、3Dモアレ画像範囲算出部104で算出した画像範囲に、画像フィルタ値算出部110で算出した画像フィルタ値に従って画像フィルタ処理を実施する。ここで、図4に示す輝度特性データのデバイス特性を持つ立体表示パネル部108であれば、3Dクロストークによる二重像が生じる画像範囲は、3Dモアレ画像範囲算出部104で算出した3Dモアレによる輝度変動が生じる画像範囲とほぼ等しくなる。任意の相対位置において、3Dクロストークによる二重像が現れる画像範囲は、実施形態6に記載した図62と同様である。
以上より、実施形態1で記載した輝度調整処理を実施して、3Dモアレによる輝度変動の影響を軽減した後で、3Dクロストークによる二重像が現れる画像範囲だけに画像フィルタ処理を実施することで、その他の画像範囲に対して画像フィルタ処理による画像品質の低下を抑制して、3Dモアレによる輝度変動の影響と3Dクロストークによる二重像の影響を両方とも軽減できる。
なお、本実施形態7においても、実施形態1と同様に多視点の立体表示装置に適用できる。また、本実施形態7の画像処理部157を単独の画像処理装置として提供し、立体表示パネル部108と組み合わせて立体画像表示装置17の機能を実現できることは言うまでもない。
ここで、本実施形態7の変形例として、立体表示パネルの輝度特性データが、図34に示すように立体正視範囲内に3Dモアレとなる輝度変動を有する場合を考える。実施形態6の変形例と同様に、3Dモアレ画像範囲と3Dクロストーク画像範囲とが一致しない領域が発生する。
例えば、図34に示す輝度特性データを有する立体画像表示装置において、相対位置が図6Aの位置Cである場合、観察画像は図64に示すような表示となる。この表示のうち、3Dモアレ画像範囲は図64のX軸方向の位置x3、x4、x5、x6となるが、図61に示す3Dクロストーク特性データより、3Dクロストーク画像範囲は図64のX軸方向の位置x3、x4となり、お互いの画像範囲は一致しなくなることが分かる。したがって、立体正視範囲内に3Dモアレとなる輝度変動を有する輝度特性データを扱う場合は、3Dモアレ画像範囲算出部104で算出した画像範囲とは別に、3Dクロストーク画像範囲を算出する必要がある。
本実施形態7の変形例を図68に示す。本例の立体画像表示装置17aの構成は、図67で示した構成に3Dクロストーク画像範囲算出部114を追加したものである。3Dクロストーク画像範囲算出部114は、相対位置算出部102で算出した相対位置と、デバイス特性データ保管部103に保管された3Dクロストーク特性データとにより、3Dクロストーク画像範囲を算出する。3Dクロストーク画像範囲の算出方法は、3Dクロストーク特性データから3Dクロストーク領域を示す光学モデル図を導出し、相対位置に対する観察画像を検出することで、3Dクロストークによる二重像が出現する画像範囲を算出する。なお、3Dクロストーク画像範囲算出部114を含む処理部を、画像処理部157aとする。
本実施形態7の立体画像表示装置17,17aにおける立体画像処理方法のフローチャートについて、図69を参照して説明する。
ステップS701〜ステップS707は、実施形態1のステップS101〜ステップS107と同様である
ステップS708は、画像フィルタ値算出部110を使用して、相対位置算出部102で算出した相対位置とデバイス特性データ保管部103に保管された3Dクロストーク特性データとから、3Dクロストークによる二重像の影響を軽減するための画像フィルタ値を算出する。
ステップS709は、画像フィルタ処理部111を使用して、ステップS708で算出した画像フィルタ値に従って、輝度調整処理後の画像データに対して、3Dクロストークによる二重像が出現する画像範囲に画像フィルタ処理を実施する。
ステップS710及びステップS7111は、実施形態1のステップS108及びステップS109と同様の処理を実施する。
以上より、3Dモアレによる輝度変動の影響と3Dクロストークによる二重像の影響とを両方とも軽減し、観察者の観察位置が移動しても、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供できる。
換言すると、本実施形態7の立体画像表示装置は、観察者の観察位置を計測する観察者位置計測部と、観察者の観察位置と立体表示パネル位置の相対位置を算出する相対位置算出部と、立体表示パネルの相対位置に対するデバイス特性データを保管するデバイス特性データ保管部と、前記デバイス特性データに基づき相対位置に対して立体画像表示に適した輝度調整量を算出する輝度調整量算出部と、前記デバイス特性データに基づき相対位置に対して立体画像表示に適した画像フィルタ値を算出する画像フィルタ値算出部と、画像データを保存又は受信する画像データ保管部と、前記輝度調整量に従って前記画像データの輝度調整処理を実施する輝度調整処理部と、前記画像フィルタ値に従って、輝度調整処理後の画像データへ画像フィルタ処理を実施する画像フィルタ処理部と、輝度調整処理と視差調整処理を実施した画像データを前記相対位置に応じて右眼・左眼に投影する立体表示パネル部と、を備えるものである。
本実施形態7によれば、輝度調整処理によって3Dモアレによる輝度変動の影響を軽減した画像データに対して、3Dクロストークによる二重像の影響を軽減するための画像フィルタ処理を実施することで、観察者の観察位置が移動しても3Dモアレによる輝度変動に加えて3Dクロストークによる二重像の影響も軽減し、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供することができる。
[実施形態8]
本実施形態8では、観察者が立体画像表示装置を上下方向から観察した際にも3Dモアレによる輝度変動の影響を軽減することで、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供することを目的とする。
実施形態1では、観察者の観察位置と立体表示パネルとの相対位置の移動に伴う視野角θと観察距離Dの変化を考慮して立体表示パネル面上の輝度プロファイルを算出し、3Dモアレによる輝度変動の影響を軽減する一例を示した。ここで、視野角θは、立体表示パネルの左右方向に対応するX-Z軸平面上の角度を表す。観察者が立体表示パネルを正面方向から観察したときにも、上下方向から観察したときにも、観察者が観察する立体表示パネル面上の輝度プロファイルが同一である場合には、実施形態1に記載した輝度プロファイルの算出方法を使用することで、任意の相対位置における立体表示パネル面上の輝度プロファイルを算出できる。
しかし、観察者が立体表示パネルを正面方向から観察したときと、上下方向から観察したときとで、観察者が観察する立体表示パネル面上の輝度プロファイルが異なる場合には、立体表示パネルの上下方向に対応するY-Z軸平面上の視野角φも考慮して、立体表示パネル面上の輝度プロファイルを算出し、3Dモアレによる輝度変動の影響を軽減する必要がある。
観察者の観察位置と立体表示パネルとの相対位置の座標系を図70に示す。図70には、観察者10、立体画像表示装置18、立体表示パネル108a、カメラ101aなどが描かれている。相対位置は、X-Z軸平面上の視野角θpとY-Z軸平面上の視野角φp及び観察距離Dpで表記する。相対位置を(xp,yp,zp)とおくと、視野角φpは式(80)から算出し、視野角θpと観察距離Dpは実施形態1と同様に式(4)と式(3)から算出する。
φp=tan−1(yp/zp) 式(80)
視野角φに依存して、立体表示パネル108aの面上の輝度プロファイルが異なる原因の一つとしては、立体表示パネル108a内の電気光学手段である液晶パネルから光学分離手段であるレンチキュラレンズまでの光路長と、レンチキュラレンズの焦点距離との差から生じる、デフォーカス効果の影響が考えられる。
いくつかの立体画像表示装置では、3Dモアレによる輝度変動の影響を軽減するため、液晶パネルとレンチキュラレンズとの光路長をレンチキュラレンズの焦点距離よりも若干短く(又は長く)なるように光学設計し、液晶パネル面上に表示される画像データをレンチキュラレンズでデフォーカス(画像ぼけ)させる。立体表示パネルを正面方向から観察したときには、デフォーカス効果によって3Dモアレによる輝度変動の影響は軽減する。しかし、立体表示パネルを上下方向から観察したときに、液晶パネルとレンチキュラレンズとの光路長が変化してレンチキュラレンズの焦点距離に近接すると、デフォーカス効果が低下して、3Dモアレによる輝度変動の影響は軽減しなくなる。
視野角φに対する液晶パネルとレンチキュラレンズとの光路長の変化を図71に示す。図71には、観察者10、立体画像表示装置18、立体表示パネル108a,液晶パネル2a,レンチキュラレンズ3,視野角φS,光路長HSなどが描かれている。立体表示パネル108aを正面方向から観察した相対位置と、立体表示パネル108aを上方向から観察した相対位置との視野角差をφSとおき、液晶パネル2aとレンチキュラレンズ3との光路長をHSとすると、光路長HSは、式(81)となる。
HS=(1/cosφS)HD 式(81)
ここで、HDは、液晶パネル2aとレンチキュラレンズ3との距離(立体表示パネル108aを正面方向から観察したときの、液晶パネル2aとレンチキュラレンズ3との光路長に等しい。)を表す。式(81)より、視野角差φSが増加するに伴って、光路長HSも増加する。
光路長HSの変化によるデフォーカス効果の変化を図72及び図73に示す。図72には、立体表示パネル108aを正面方向から観察したときのレンチキュラレンズ3によるデフォーカス幅DWを表す。正面方向から観察したときは視野角φが0となるので、光路長HSと液晶パネル2aからレンチキュラレンズ3までの距離HDとは等しくなる。
図72において、レンチキュラレンズ3により液晶パネル2aに表示される画像データがデフォーカスされる幅をDWとすると、デフォーカス幅DWは式(82)となる。
DW=L(F−HS)/F 式(82)
ここで、Fはレンチキュラレンズ3の焦点距離を、Lはレンチキュラレンズ3の幅(シリンドリカルレンズ幅)を表す。レンチキュラレンズ3の焦点距離Fは、立体表示パネル108aを正面方向から観察したときの光路上にあるレンチキュラレンズ3の曲率半径から規定される焦点距離とする。式(82)から明らかなように、デフォーカス幅DWは、レンチキュラレンズ3の焦点距離Fと光路長HSとの差に比例する。
図73には、立体表示パネル108aを上下方向から観察したときのレンチキュラレンズ3によるデフォーカス幅DWを表す。上下方向では、視野角φは値を持つので、光路長HSは式(81)より算出する。光路長HSが増加して、レンチキュラレンズ3の焦点距離Fと等しくなると、デフォーカス幅DWは0となり、レンチキュラレンズ3によるデフォーカス効果は消失する。
なお、図80に示すように、立体表示パネル108aを上下方向から観察したときには、レンチキュラレンズ3内を通る光路も変化するため、レンチキュラレンズ3の曲面位置によってレンチキュラレンズ3の曲率半径が変化する。図80において、立体表示パネル108aを正面方向から観察したときのレンチキュラレンズ3の見かけ上の曲率半径をr1とし、立体表示パネル108aを上下方向から観察したときのレンチキュラレンズ3の見かけ上の曲率半径をr2とおく。
このとき、見かけ上の曲率半径r2は、見かけ上の曲率半径r1よりも短くなる。レンチキュラレンズ3の曲率半径が短縮すると、レンチキュラレンズ3の焦点距離Fも短縮する。そのため、実際にデフォーカス効果が消失する視野角φは、式(81)及び式(82)から算出した角度よりも若干小さな角度となる。
ただし、見かけ上の曲率半径r1は、レンチキュラレンズ3の曲率半径と一致しているため、視野角方向であるX軸方向に対して曲率半径が一定である。その一方、見かけ上の曲率半径r2は、視野角方向であるX軸方向に対して曲率半径が変化する。したがって、立体表示パネル108aの上下方向からの観察において、視野角方向に対する画像の動きに対しては、この点を考慮する必要がある。
立体表示パネルを正面方向から観察者が観察する、立体表示パネルの面上の観察画像及び輝度プロファイルを、図74に示す。立体表示パネルを上方向から観察者が観察する、立体表示パネルの面上の観察画像及び輝度プロファイルを、図75に示す。
図74では、レンチキュラレンズによるデフォーカス効果により、画像データがデフォーカスされるため、3Dモアレによる輝度変動が生じる画像範囲は広範囲になるが、輝度プロファイルは緩やかに変動して目立たなくなるため、3Dモアレによる輝度変動の影響は軽減する。一方、図75では、レンチキュラレンズによるデフォーカス効果が消失するため、3Dモアレによる輝度変動が生じる画像範囲は狭範囲になるが、輝度プロファイルは急激に変動するため、3Dモアレによる輝度変動の影響が顕著となる。
また、観察者と立体表示パネルとの相対位置が同じであっても、立体表示パネル面上を観察する位置によって視野角φは変化し、液晶パネルからレンチキュラレンズまでの光路長HS及びレンチキュラレンズの見かけ上の曲率半径も変化する。視野角φの変化は、立体表示パネル面上のY軸位置に依存するため、3Dモアレによる輝度変動が生じる画像範囲も立体表示パネル面上のY軸位置によって変化する。これより、立体表示パネルを上方向から観察したときの3Dモアレによる輝度変動が生じる画像範囲の一例としては、図75のような台形状となる。
本実施形態8では、レンチキュラレンズによるデフォーカス効果の低下などの原因により、視野角φに依存して観察者が観察する立体表示パネル面上の輝度プロファイルが異なる場合にも、3Dモアレによる輝度変動を軽減する輝度調整処理を実施する。
本実施形態8の立体画像表示装置18の構成図を図76に示す。立体画像表示装置18は、観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、3Dモアレ画像範囲算出部104と、輝度調整量算出部105と、画像データ保管部106と、輝度調整処理部107と、立体表示パネル部108とを備えるものである。また、相対位置算出部102、3Dモアレ画像範囲算出部104、輝度調整量算出部105、輝度調整処理部107を統合した処理部を、画像処理部158とする。
以下に、立体画像表示装置18に含まれる各部の機能を説明する。観察者位置計測部101と、相対位置算出部102と、輝度調整量算出部105と、画像データ保管部106と、輝度調整処理部107と、立体表示パネル部108とは、実施形態1のそれらの機能と同様である。
本実施形態8のデバイス特性データ保管部103は、相対位置の視野角θ及び視野角φに対する立体表示パネルの輝度特性データを、デバイス特性データとして保管する機能を有する。視野角φに対する輝度特性データは、輝度特性用の評価装置で複数の視野角φにおける立体表示パネルの輝度特性データを計測しても良いが、立体表示パネルの設計条件及び製造条件に基づき算出しても良い。
一例としては、デバイス特性データ保管部103に、液晶パネルとレンチキュラレンズとの距離HD、レンチキュラレンズの焦点距離F及びレンチキュラレンズの幅Lを保管しておき、相対位置の視野角φからレンチキュラレンズによるデフォーカス幅を算出し、任意の視野角φに対する輝度特性データを基準となる輝度特性データから算出することが挙げられる。
初めに、デバイス特性データ保管部103へ、光路長HSと焦点距離Fが等しくなりデフォーカス効果が消失する視野角φEの相対位置から計測した、立体表示パネルの輝度特性データを保管する。そして、保管した輝度特性データの視野角φEと、相対位置の視野角φとの差が増加するに伴って、光路長HSと焦点距離Fとの差も増加するので、式(82)よりレンチキュラレンズによるデフォーカス幅も増加する。これより、任意の視野角φにおけるデフォーカス幅を算出し、デバイス特性データ保管部103に保管した輝度特性データをデフォーカス処理することで、任意の視野角φにおける輝度特性データを算出する。
以上より、液晶パネルとレンチキュラレンズとの距離HD、レンチキュラレンズの焦点距離F、レンチキュラレンズの幅L及び視野角φEにおける立体表示パネルの輝度特性データを保管しておくことで、任意の視野角φにおける立体表示パネルの輝度特性データを算出できる。
3Dモアレ画像範囲算出部104は、デバイス特性データ保管部103に保管された輝度特性データに基づき、相対位置算出部102で算出した相対位置に対して3Dモアレによる輝度変動が生じる画像範囲を算出する。本実施形態8では、デバイス特性データ保管部103から、相対位置の視野角φに対応する立体表示パネルの輝度特性データを取得する。そして、その視野角φに対応する立体表示パネルの輝度特性データを基にして、実施形態1と同様に光学モデルから、相対位置の視野角θと観察距離Dとにおける立体表示パネル面上の輝度プロファイルを算出し、3Dモアレによる輝度変動が生じる画像範囲を算出する。これにより、任意の視野角φ、視野角θ、観察距離Dにおける立体パネル面上の輝度プロファイルを算出できる。
輝度調整量算部105は、実施形態1と同様に、3Dモアレ画像範囲算出部104で算出した立体表示パネル面上の輝度プロファイルから輝度調整量を算出する。輝度調整処理部107も、実施形態1と同様に、輝度調整量に従って画像データの輝度調整処理を実施する。
また、輝度調整処理の他に、実施形態5と同様に立体画像表示装置18に画像フィルタ値算出部及び画像フィルタ処理部を追加することで、画像フィルタ処理によって3Dモアレによる輝度変動が生じる画像範囲へデフォーカス効果を付加しても良い。画像フィルタ値算出部は、3Dモアレ画像範囲算出部104で算出した立体表示パネル面上の輝度プロファイルから、相対位置の視野角φによって、レンチキュラレンズによるデフォーカス効果が消失した分量を算出し、それを補うための画像フィルタ値を算出する。画像フィルタ処理部は、画像フィルタ値算出部で算出した画像フィルタ値を参照して、画像データ内の3Dモアレによる輝度変動が生じる画像範囲にデフォーカス効果を付加する画像フィルタ処理を実施する。
以上より、観察者が立体画像表示装置を上下方向から観察した際に、レンチキュラレンズによるデフォーカス効果が低下しても、3Dモアレによる輝度変動の影響を軽減して、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供できる。
上記の一例では、立体表示パネル面上の輝度プロファイルが視野角φに依存して異なる原因の一つとして、レンチキュラレンズによるデフォーカス効果の低下を挙げたが、その他にも、液晶の配向性による液晶パネルの視野角φに依存した輝度特性の変化も挙げられる。
特にTN(Twisted Nematic)方式やVA(Vertical Alignment)方式の駆動方法による液晶パネルでは、視野角に依存した輝度特性の変化が大きい。TN方式の液晶分子配列の模式図を図77[A]、図77[B]、図78に示す。図77[A]は、液晶パネル2aの電極22に最大電圧を印加して、バックライト光量を完全に遮断した状態の模式図を示す。図77[B]は、液晶パネル2aの電極22の電圧をOFFにして、バックライト光量を最大限に透過した状態の模式図を示す。図78は、液晶パネル2aの電極22に中間電圧を印加して、バックライト光量を中間値に調整した状態の模式図を示す。
図77[A]、図77[B]及び図78に示すように、TN方式やVA方式ではバックライト光量を液晶分子23の角度で調整している。従って、図78に示すように、相対位置の視野角φによって、液晶パネル2aを透過する光量が異なるため、視野角φに依存した輝度特性の変化が大きくなる。本実施形態8では、レンチキュラレンズによるデフォーカス効果の低下に加えて、液晶の配向性による輝度特性の変化も考慮して、デバイス特性データ保管部103に保管した視野角φEにおける立体パネル面上の輝度プロファイルから、任意の視野角φにおける立体パネル面上の輝度プロファイルを算出しても良い。
また上記の一例では、相対位置の視野角φに依存して、光路長HSが変化し、レンチキュラレンズのデフォーカス効果が低下する例や液晶の配向性により輝度特性が変化する例を記載したが、相対位置の視野角θによっても、視野角φと同様にデフォーカス効果の低下や輝度特性の変化は現れる。したがって、視野角θにおいてもデフォーカス効果の低下や輝度特性の変化を考慮した輝度調整処理を実施しても良い。ただし、視野角θに対する輝度特性データは、輝度特性用の評価装置で計測したデータを使用する場合が多く、計測データにデフォーカス効果の低下や輝度特性の変化の影響が含まれる場合が多い。
本実施形態8の立体画像表示装置18おける立体画像処理方法のフローチャートについて、図79を参照して説明する。
図79に示すステップS801とステップS802の処理は、図17に示す実施形態1のフローチャートのステップS101とステップS102の処理と同様である。
ステップS803は、ステップS802で算出した相対位置に対応した輝度特性データをデバイス特性データ保管部103から取得する。任意の相対位置の視野角φに対応する輝度特性データは、視野角φからレンチキュラレンズによるデフォーカス幅を算出し、基準となる輝度特性データにデフォーカス効果を付加して任意の視野角φに対応する輝度特性データを算出しても良い。
ステップS804は、ステップS803で取得した相対位置の視野角φに対応する輝度特性データから、観察者が相対位置(視野角θ、観察距離D)において観察する立体表示パネル面上の輝度プロファイルを算出し、3Dモアレによる輝度変動が生じる画像範囲を算出する。
ステップS805からステップS809までの処理は、図17に示す実施形態1のフローチャートのステップS105からステップS109までの処理と同様である。
以上より、観察者が立体画像表示装置を上下方向から観察した際にも、3Dモアレによる輝度変動の影響を軽減して、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供できる。
[実施形態9]
本実施形態9では、画像データへディザリング処理を実施して、立体表示パネル面上の輝度値を微調整することで、3Dモアレによる輝度変動の影響を更に軽減し、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供することを目的とする。
立体画像表示装置における立体表示パネル面上の輝度値Yと画像データの階調値Iとの関係は、立体表示パネルのデバイス特性によって直線的な関係ではなく、実施形態1に記載した式(8)で示すようなカーブに近似した関係となる。この輝度値Yと階調値Iとの関係図を図81に示す。
図81から明らかなように、輝度値Yが大きい領域では、階調値Iの変更に対して、輝度値Yが大幅に変化する。一例として、画像データの階調値Iの幅を256階調とすると、画像データの階調値Iが200以上になると、階調値Iを1階調変更しただけでも輝度値Yが大幅に変化するため、階調値Iの変更による輝度値Yの輝度調整処理が困難となる。
このため、本実施形態9では、輝度値Yが大きい領域において、画像データの階調値の変更に加えて、画像データへディザリング処理を実施して輝度値Yの輝度調整処理を実施することで、輝度値Yを微調節して、3Dモアレによる輝度変動の影響を更に軽減する。
本実施形態9の立体画像表示装置19の構成図を図82に示す。立体画像表示装置19は、観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、3Dモアレ画像範囲算出部104と、輝度調整量算出部105と、画像データ保管部106と、輝度調整処理部107と、立体表示パネル部108とを備えるものである。また、相対位置算出部102、3Dモアレ画像範囲算出部104、輝度調整量算出部105、輝度調整処理部107を統合した処理部を画像処理部159とする。
以下に、立体画像表示装置19に含まれる各部の機能を説明する。観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、3Dモアレ画像範囲算出部104と、輝度調整量算出部105と、画像データ保管部106と、立体表示パネル部108は、実施形態1のそれらの機能と同様である。
本実施形態9の輝度調整処理部107は、実施形態1と同様に、輝度調整量算出部105で算出した輝度調整量に従って、画像データ保管部106に保管されている画像データへ輝度調整処理を実施する機能を有する。ただし、本実施形態9の輝度調整処理部107では、画像データの階調値の変更に加えて、画像データへディザリング処理を実施して、輝度調整処理を行うことが実施形態1と異なる。
ディザリングによる輝度調整処理の一例を下記に示す。ディザリング処理は、3Dモアレによる輝度変動が生じる画像範囲であり、かつ輝度値Yが大きい画像範囲だけに適用する。始めにディザリング処理を適用する画像範囲においては、画像データの階調値の幅を256階調から65536階調に拡張し、輝度値Yに対応する画像データの階調値を算出する。次に画像データの階調値の幅を65536階調から256階調へ圧縮するために、ディザリング処理を実施する。代表的なディザリング処理手法としては、誤差拡散法が挙げられる。
誤差拡散法は、階調値の幅を圧縮した際に生じる誤差を周囲のピクセルに拡散しながら階調値の圧縮処理を行って、ディザリング処理を実施する。図83[A]に、誤差拡散法によるディザリング処理の処理順序方向を示す。一般的に誤差拡散法では、画像データの左端から右端へ圧縮処理の対称となるピクセル位置を移動していき、右端の対称ピクセルから一段下の左端の対象ピクセルへ移動することで、画像データ全体の圧縮処理を実施していく。誤差拡散処理時に使用する代表的な誤差の拡散パタンとしては、図83[B]に示すようなFloyd-Steinbergや、図83[C]に示すようなJajuNi等がある。
本実施形態9のディザリング処理では、一般的な誤差拡散法を適用しても良いが、3Dモアレによる輝度変動の影響を考慮した誤差拡散法を適用しても良い。3Dモアレによる輝度変動が生じた観察画像を、図84[A]に示す。通常、3Dモアレによる輝度変動が生じる画像範囲の境界線はY軸に平行な直線となる。また、3Dモアレによる輝度変動はX軸方向に対して起こるが、Y軸方向に対してはほとんど起こらない。この性質に合わせてディザリング処理時の誤差拡散を実施する。
3Dモアレによる輝度変動が生じる画像範囲の境界線はY軸に平行な直線となるため、ディザリング処理を適用する画像範囲の境界線もY軸に平行な直線となる。したがって、3Dモアレによる輝度変動が生じる画像範囲へ、効率的にディザリング処理を実施するために、図84[B]に示すように、ディザリング処理の処理順序方向を画像データの上端から下端へ、圧縮処理の対象となるピクセルを移動させるように変更しても良い。ディザリング処理の処理順序方向の変更に伴って、誤差の拡散パタンは図85[A]及び図85[B]に示すような拡散パタンへ変更する。
また、一般的な誤差拡散法では、圧縮した際に生じる誤差を周囲のピクセルに拡散させるため、画像データのX軸方向とY軸方向へ誤差を拡散させるが、3Dモアレによる輝度変動はX軸方向の変化に伴って現れるため、誤差の拡散方向をY軸方向に限定しても良い。誤差の拡散方向をY軸方向に限定した拡散パタンを図86に示す。拡散パタンをY軸方向に限定しても、3Dモアレによる輝度変動はX軸方向の変化に伴って現れるため、ディザリング処理によって階調値が繰り上がるピクセルのY軸位置が、X軸方向に応じて変化する。したがって、Y軸方向に限定した拡散パタンを使用しても、階調値が繰り上がるピクセルの位置が分散されるため、良好なディザリング処理が実施できる。
図87に、Y軸方向に限定した拡散パタンを使用してディザリング処理を実施した一例を示す。図87に示すように、X軸方向の位置によって、Y軸方向に拡散する誤差の値が異なるので、階調値が繰り上がるピクセルの位置はX軸方向の位置によって変化する。ただし、3Dモアレによる輝度変動量によっては、ディザリング処理によって階調値が繰り上がるピクセルが分散されずに、X軸方向に隣接するピクセル同士の階調値が偶然に一致する場合がある。この状態を回避するために、X軸方向に隣接するピクセル同士の階調値の繰り上がりが連続する場合には、階調値の繰り上がるピクセルの位置をY軸方向にスライドする処理を加えても良い。
また、拡散パタンを使用してY軸方向へ逐次的に誤差拡散処理を繰り返し、階調値を繰り上げるピクセル位置を算出する代わりに、Y軸方向の先頭位置にあるピクセルの階調値を圧縮した際に生じる誤差の値から、階調値を繰り上げるピクセルの位置を特定しても良い。
このように3Dモアレによる輝度変動の影響を考慮した誤差拡散法を適用することで、計算処理量を減少させ、ディザリング処理を高速に実施する。
本実施形態9の立体画像表示装置19における立体画像処理方法のフローチャートについて、図88を参照して説明する。
図88に示すステップS901からステップS906までの処理は、図17に示す実施形態1のフローチャートのステップS101からステップS106までの処理と同様である。
ステップS907は、ステップS904で算出した3Dモアレ画像範囲内の輝度値を参照して、3Dモアレ画像範囲内の輝度値が任意の閾値以上であるか否かを判定する。その輝度値が任意の閾値以上であればステップS911の処理を実行し、その輝度値が任意の閾値未満であればステップS908の処理を実行する。ここで任意の閾値は、立体表示パネルのデバイス特性に基づき、画像データの階調値の変更に対して輝度値が大幅に変化する輝度領域の閾値に設定する。例えば、輝度値を100段階で表現した場合には、閾値を80に設定する。
ステップS908からステップS910までの処理は、図17に実施形態1のフローチャートのステップS907からステップS909までの処理と同様である。
ステップS911は、ステップS906で取得した画像データの階調値の幅を拡張した画像データを生成する。次に、ステップS905で算出した輝度調整量を参照して、輝度調整量に対応する階調値を算出して、階調値の幅を拡張した画像データの階調値を変更する。
ステップS912は、階調値の幅を拡張した画像データから通常の階調値の幅を持つ画像データへ圧縮するため、画像データへディザリング処理を実施する。
以上より、画像データへディザリング処理を実施して、立体表示パネル面上の輝度値を微調整することで、3Dモアレによる輝度変動の影響を更に軽減し、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供できる。
[他の実施形態]
以上の全ての実施形態における輝度調整量算出部105は、デバイス特性データ保管部103に保管された輝度特性データから3Dモアレ画像範囲を算出し、その画像範囲における輝度プロファイルから輝度調整量を算出する例である。しかし、輝度調整量算出部105は、輝度特性データが取得できない状況においても、輝度調整処理が実現できるように輝度特性データを使用せずに輝度調整量を算出しても良い。この場合、輝度特性データを使用した場合の輝度調整処理と比べて輝度調整量の精度は低下するものの、3Dモアレによる輝度変動が小さい立体表示特性を有する立体表示パネルを用いることで、観察者が移動した場合であっても3Dモアレによる輝度変動の影響を軽減する輝度調整処理が実用可能なレベルで実施できる。
輝度特性データを使用せずに輝度調整量を算出する一例として、観察者自身が主観的に輝度調整量を設定する例が挙げられる。観察者は、第一の設定として、立体画像表示装置の立体表示パネルから投影される立体画像を観察しながら、観察位置(観察距離Zと視野角θ)に応じて3Dモアレ領域と非3Dモアレ領域を設定する。ここで、本設定における観察位置は、輝度調整量の精度向上のために、複数の位置で実施されることが望ましい。また、設定に際しては、立体画像表示装置に具備されたキーボードやタッチパネル等の入力装置を用いることができる。
第二の設定として、3Dモアレ領域において、観察画像上に3Dモアレによる輝度変動が出現する画像範囲(3Dモアレ画像範囲)を設定するために、観察者が立体表示パネル面のX軸方向に移動しながら、立体表示パネルから投影される観察画像の両端に3Dモアレ画像範囲が出現した観察位置を設定する。次に両端の観察位置から中間の観察位置において、3Dモアレ画像範囲が出現する観察画像の位置を算出する。
第三の設定として、3Dモアレ画像範囲の位置に表示される画像データの階調値を上昇させて、観察者が3Dモアレによる輝度変動が視認されなくなる階調値を設定することで、輝度調整量を算出することも可能である。
なお、上記した第一及び第二の設定のみを用いて、3Dモアレ画像範囲の位置に表示される画像データの階調値を任意の値に上昇させて、輝度調整量を算出することも可能である。この際には、輝度調整処理後に画像フィルタ処理を実施して、輝度調整処理後に残存する急峻な輝度プロファイルをなだらかにする処理が効果的となる。さらに、第一、第二又は第三の設定値は、デバイス特性データ保管部103に保管しておくことも可能であるし、デバイス特性データ保管部103を無くして、輝度調整量算出部105に記憶させることも可能である。
その他の輝度調整量を算出する一例としては、立体画像コンテンツを表示する立体画像表示装置の立体表示パネル部108のデバイス特性データが未知な場合でも、予め立体表示パネルの画面サイズや最適視聴距離等の仕様データに関連させて、複数の立体表示パネルのデバイス特性データをデバイス特性データ保管部103に保管しておき、立体画像コンテンツを表示する際に、表示する立体表示パネルの仕様データに類似する仕様データに関連付けされたデバイス特性データをデバイス特性データ保管部103から取得して、輝度調整量を算出する。
以上より、立体画像表示装置の立体表示パネル部のデバイス特性データが未知な場合であっても、輝度調整量を算出し、輝度調整処理を実施して、3Dモアレによる輝度変動の影響を軽減し、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供できる。
これまで本発明の実施形態として、立体画像を表示する際に出現する3Dモアレによる輝度変動の影響を軽減する立体画像表示装置、画像処理装置及び立体画像処理方法について記載したが、本発明は立体画像を表示する際だけでなく平面画像を表示する際にも適用できる。立体表示パネル部の光線振分角度を大きくすることにより、観察者の左眼と右眼に同一画像を投影して平面画像を表示し、観察位置によって平面画像のコンテンツを切り替える、いわゆるN画像(Nは2以上の自然数)切替えモードとしても利用できる。また3Dモアレは、光学手段によって、各視点用の画素と画素との間の非表示領域が、視認されることに起因するため、立体表示パネルを使用して平面画像を表示した際にも3Dモアレによる輝度変動は出現する。平面画像を表示した際に出現する3Dモアレであっても、立体画像を表示する際に出現する3Dモアレと同様に輝度調整処理することで、3Dモアレによる輝度変動の影響を軽減できる。
以上、上記各実施形態を参照して本発明を説明したが、本発明は上記各実施形態に限定されるものではない。本発明の構成や詳細については、当業者が理解し得るさまざまな変更を加えることができる。また、本発明には、上記各実施形態の構成の一部又は全部を相互に適宜組み合わせたものも含まれる。
上記の実施形態の一部又は全部は以下の付記のようにも記載され得るが、本発明は以下の構成に限定されるものではない。
[付記1]少なくとも第1視点用の画像を表示するサブ画素及び第2視点用の画像を表示するサブ画素を含む画素がマトリクス状に複数配列された表示パネルと、
それぞれの前記サブ画素から出射した光を相互に異なる方向に振り分ける光学手段とを有し、
前記光線を振り分ける方向を第1の方向と定義した場合に、
観察者の視点位置が前記第1の方向に移動した際に、前記画素の開口部と前記光学手段との間で発生する3Dモアレによって輝度が低下する立体表示パネル部を備え、
少なくとも2つの視点に対応した画像データを保存又は受信する画像データ保管部と、
前記観察者の観察位置を計測する観察者位置計測部と、
前記観測位置と前記立体表示パネル部との相対位置を算出する相対位置算出部と、
前記相対位置に対して立体画像表示に適した輝度調整量を算出する輝度調整量算出部と、
前記輝度調整量に従って、前記各視点に対応した画像データに対して輝度調整処理を実施する輝度調整処理部と、
を更に備えたことを特徴とする。
[付記2]視野角に対する前記立体表示パネル部の表示特性を含むデバイス特性データを保存するデバイス特性データ保管部と、
前記相対位置における3Dモアレによる輝度変動領域を、前記デバイス特性データに基づき算出する3Dモアレ画像範囲算出部と、
を更に備え、
前記輝度調整量算出部は、前記デバイス特性データに基づき前記輝度調整量を算出する、
付記1記載の立体画像表示装置。
[付記3]前記相対位置は、前記立体表示パネル部の表示面と前記観察者の観察位置との距離及び視野角である、
付記2記載の立体画像表示装置。
[付記4]前記画像の振り分け方向を第1の方向とし、前記立体表示パネルの表示面において前記第1の方向に直交する方向を第2の方向としたとき、
前記デバイス特性データには、前記立体表示パネル部の輝度特性データが含まれ、
前記3Dモアレ画像範囲算出部は、前記相対位置及び前記輝度特性データに基づき、前記各視点における前記第1の方向の前記輝度変動領域を算出することを特徴とする、
付記2又は3記載の立体画像表示装置。
[付記5]前記デバイス特性データには、前記立体表示パネル部を構成する前記表示パネルと前記光学手段との間の位置精度データが更に含まれ、
前記立体表示パネル部の表示面において前記第1の方向に直交する方向を第2の方向としたとき、
前記3Dモアレ画像範囲算出部は、前記相対位置、前記輝度特性データ及び前記位置精度データに基づき、前記各視点における前記第1の方向及び前記第2の方向の前記輝度変動領域を算出することを特徴とする、
付記4記載の立体画像表示装置。
[付記6]前記輝度調整処理部は、ガンマ補正処理を実施した後に前記輝度調整処理を実施することを特徴とする、
付記1乃至5のいずれか一つに記載の立体画像表示装置。
[付記7]前記輝度調整量算出部は、前記各視点における第1の方向に対する輝度変動領域が当該視点ごとに異なる場合、当該輝度変動領域ごとに前記輝度調整量を算出することを特徴とする、
付記1乃至6のいずれか一つに記載の立体画像表示装置。
[付記8]前記輝度調整量算出部は、前記各視点における第1の方向に対する輝度変動領域が当該視点ごとに異なる場合、当該輝度変動領域を平均化して前記輝度調整量を算出することを特徴とする、
付記1乃至6のいずれか一つに記載の立体画像表示装置。
[付記9]前記輝度調整処理部は、前記輝度調整量に従うと前記画像データの階調値が階調表現可能な輝度最大値を超過する場合に、当該画像データの階調表現のスケールを変更して前記輝度調整処理を実施することを特徴とする、
付記1乃至8のいずれか一つに記載の立体画像表示装置。
[付記10]環境温度を計測する温度計測部を更に備え、
前記輝度調整量算出部は、前記輝度変動領域と前記環境温度に対応する前記デバイス特性データとに基づき、前記輝度調整量を算出することを特徴とする、
付記2乃至9のいずれか一つに記載の立体画像表示装置。
[付記11]前記輝度調整量算出部は、前記相対位置の移動速度に応じて前記輝度変動領域を前記画像の振り分け方向である第1の方向へ移動し、移動された前記輝度変動領域に基づき前記輝度調整量を算出することを特徴とする、
付記1乃至10のいずれか一つに記載の立体画像表示装置。
[付記12]前記相対位置の移動速度に応じて画像フィルタ値を算出する画像フィルタ値算出部と、
前記画像フィルタ値に従って、前記輝度調整処理を実施された前記画像データに対して画像フィルタ処理を実施する画像フィルタ処理部と、
を更に備え
前記輝度調整処理及び前記フィルタ処理を実施された前記画像データを、前記立体表示パネル部に出力することを特徴とする、
付記1乃至11のいずれか一つに記載の立体画像表示装置。
[付記13]前記相対位置に基づき立体画像表示に適した視差調整量を算出する視差調整量算出部と、
前記視差調整量に従って前記画像データに対して視差調整処理を実施する視差調整処理部と、
を更に備え、
前記輝度調整処理及び前記視差調整処理を実施された前記画像データを、前記立体表示パネル部に出力することを特徴とする、
付記1乃至12のいずれか一つに記載の立体画像表示装置。
[付記14]前記デバイス特性データ及び前記相対位置に基づき立体画像表示に適した視差調整量を算出する視差調整量算出部と、
前記視差調整量に従って前記画像データに対して視差調整処理を実施する視差調整処理部と、
を更に備え、
前記デバイス特性データには、3Dクロストークデータが更に含まれ、
前記視差調整量算出部は、前記3Dクロストークデータ及び前記相対位置に基づき前記視差調整量を算出し、
前記輝度調整処理及び前記視差調整処理を実施された前記画像データを、前記立体表示パネル部に出力することを特徴とする、
付記2乃至12のいずれか一つに記載の立体画像表示装置。
[付記15]前記相対位置に基づき立体画像表示に適した画像フィルタ値を算出する画像フィルタ値算出部と、
前記画像フィルタ値に従って、前記輝度調整処理を実施された前記画像データに対して画像フィルタ処理を実施する画像フィルタ処理部と、
を更に備え
前記輝度調整処理及び前記フィルタ処理を実施された前記画像データを、前記立体表示パネル部に出力することを特徴とする、
付記1乃至13のいずれか一つに記載の立体画像表示装置。
[付記16]前記デバイス特性データ及び前記相対位置に基づき立体画像表示に適した画像フィルタ値を算出する画像フィルタ値算出部と、
前記画像フィルタ値に従って、前記輝度調整処理を実施された前記画像データに対して画像フィルタ処理を実施する画像フィルタ処理部と、
を更に備え
前記デバイス特性データには、3Dクロストークデータが更に含まれ、
画像フィルタ値算出部は、前記3Dクロストークデータ及び前記相対位置に基づき前記画像フィルタ値を算出し、
前記立体表示パネル部は、前記輝度調整処理及び前記フィルタ処理を実施された前記画像データを、前記立体表示パネル部を介して前記観察者の右眼と左眼に投影することを特徴とする、
付記2乃至12のいずれか一つ又は付記14に記載の立体画像表示装置。
[付記17]前記3Dモアレ画像範囲算出部は、前記相対位置に応じて、3Dモアレによる輝度変動が出現する観察画像が投影される前記輝度変動領域としての3Dモアレ画像範囲と、3Dモアレによる輝度変動が出現しない観察画像が投影される非3Dモアレ画像範囲と、に分類し、
前記輝度調整量算出部は、前記輝度調整量を算出する際に、前記3Dモアレ画像範囲となる前記画像データの階調値を、前記非3Dモアレ画像範囲となる前記画像データの階調値よりも上昇させることを特徴とする、
付記1乃至16のいずれか一つに記載の立体画像表示装置。
[付記18]前記3Dモアレ画像範囲算出部は、
前記立体表示パネル部を構成する前記光学手段の焦点距離と、観察位置に応じた前記表示パネルから前記光学手段までの光路間距離と、の間で決定されるデフォーカスの大きさに基づいて、前記第2の方向における3Dモアレによる輝度変動を算出し、
前記相対位置に対する3Dモアレによる輝度変動領域を算出することを特徴とする、
付記4又は5に記載の立体画像表示装置。
[付記19]前記3Dモアレ画像範囲算出部は、前記光学手段の焦点距離を、観察位置に応じて変化する見かけ上のレンチキュラレンズの曲率半径に従って変更し、前記第2方向における3Dモアレによる輝度変動を算出することを特徴とする、
付記18に記載の立体画像表示装置。
[付記20]前記3Dモアレ画像範囲算出部は、台形状となる3Dモアレによる輝度変動領域を算出し、
前記輝度調整量算出部は、前記台形状となる3Dモアレによる輝度変動領域から輝度調整量を算出し、
前記輝度調整処理部は、前記輝度調整量に従って、前記台形状となる3Dモアレによる輝度変動領域に対して輝度調整処理を実施することを特徴とする、
付記18又は19に記載の立体画像表示装置。
[付記21]前記立体画像表示装置は、画像フィルタ値算出部及び画像フィルタ処理部を有し、
前記画像フィルタ値算出部は、前記光学手段の焦点距離と、観察位置に応じた前記表示パネルから前記光学手段までの光路間距離と、の間で決定されるデフォーカスの大きさに基づいて画像フィルタ値を算出し、
前記画像フィルタ処理部は、前記画像フィルタ値に従って、前記3Dモアレによる輝度変動領域に対して、画像フィルタ処理を実施することを特徴とする
付記18乃至20のいずれか一つに記載の立体画像表示装置。
[付記22]前記輝度調整処理部は、前記各視点に対応した画像データに対して、前記輝度調整量に従って、画像データの階調値変更とディザリングを行い、輝度調整処理を実施することを特徴とする
付記2乃至21のいずれか一つに記載の立体画像表示装置。
[付記23]前記ディザリングでは、
前記3Dモアレ画像範囲算出部で算出した3Dモアレによる輝度変動領域に合わせて、ディザリング用の誤差拡散処理を実施することを特徴とする、
付記22に記載の立体画像表示装置。
[付記24]前記誤差拡散処理では、前記第2の方向のみに実施することを特徴とする、
付記23記載の立体画像表示装置。
[付記25]前記ディザリングでは、前記誤差拡散処理によって階調値が繰り上がる画素位置が、X軸方向に隣接して連続的に出現する際に、階調値が繰り上がる画素のY軸位置を変更することを特徴とする、
付記23又は24に記載の立体画像表示装置。
[付記26]観察者の観測位置と立体表示パネルとの相対位置を算出する相対位置算出部と、
前記相対位置における3Dモアレによる輝度変動領域を、デバイス特性データに基づき算出する3Dモアレ画像範囲算出部と、
前記輝度変動領域に基づき立体画像表示に適した輝度調整量を算出する輝度調整量算出部と、
前記輝度調整量に従って、各視点に対応した画像データに対して輝度調整処理を実施する輝度調整処理部と、
を備えた画像処理装置。
[付記27]前記観察者の観察位置を計測する観察者位置計測部と、
前記輝度調整処理を実施される前の前記画像データを受信する画像データ受信部と、
前記輝度調整処理を実施された後の前記画像データを出力する画像データ送信部と、
を更に備えた付記26記載の画像処理装置。
[付記28]少なくとも第1視点用の画像を表示するサブ画素及び第2視点用の画像を表示するサブ画素を含む画素がマトリクス状に複数配列された表示パネルと、
それぞれの前記サブ画素から出射した光を相互に異なる方向に振り分ける光学手段とを有し、
前記光線を振り分ける方向を第1の方向と定義した場合に、
観察者の視点位置が第1の方向に移動した際に、前記画素の開口部と前記光学手段との間で発生する3Dモアレによって輝度が低下する立体表示パネルへ適用する立体画像処理方法において、
前記観察者の観察位置を計測し、
この観測位置と前記立体表示パネルとの相対位置を算出し、
この相対位置に対して立体画像表示に適した輝度調整量を算出し、
この輝度調整量に従って画像データに対して輝度調整処理を実施し、
この輝度調整処理を実施された前記画像データを、前記立体表示パネルに出力する、
ことを特徴とする立体画像処理方法。
[付記29]少なくとも第1視点用の画像を表示するサブ画素及び第2視点用の画像を表示するサブ画素を含む画素がマトリクス状に複数配列された表示パネルと、
それぞれの前記サブ画素から出射した光を相互に異なる方向に振り分ける光学手段とを有し、
前記光線を振り分ける方向を第1の方向と定義した場合に、
観察者の視点位置が第1の方向に移動した際に、前記画素の開口部と前記光学手段との間で発生する3Dモアレによって輝度が低下する立体表示パネルへ適用する立体画像処理方法において、
視野角に対する前記立体表示パネルの表示特性を含むデバイス特性データを保存し、
少なくとも二つの視点に対応した画像データを保存又は受信し、
前記観察者の観察位置を計測し、
この観測位置と前記立体表示パネルとの相対位置を算出し、
前記相対位置における3Dモアレによる輝度変動領域を、前記デバイス特性データに基づき算出し、
前記輝度変動領域に基づき立体画像表示に適した輝度調整量を算出し、
前記輝度調整量に従って、前記各視点に対応した前記画像データに対して輝度調整処理を実施する、
ことを特徴とする立体画像処理方法。