JP4181446B2 - 立体画像表示装置 - Google Patents
立体画像表示装置 Download PDFInfo
- Publication number
- JP4181446B2 JP4181446B2 JP2003135436A JP2003135436A JP4181446B2 JP 4181446 B2 JP4181446 B2 JP 4181446B2 JP 2003135436 A JP2003135436 A JP 2003135436A JP 2003135436 A JP2003135436 A JP 2003135436A JP 4181446 B2 JP4181446 B2 JP 4181446B2
- Authority
- JP
- Japan
- Prior art keywords
- image data
- stereoscopic image
- display
- area
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【発明の属する技術分野】
本発明は、複数の視点に対応した複数の画像データに基づいて表示手段に立体画像表示を行う技術に関する。
【0002】
【従来の技術】
従来から、視差を有する一組の画像を立体感のある画像として見ることができる立体画像表示技術が知られている。例えば、左眼用と右眼用の画像データを交互に表示装置に出力し、観察者は、その表示の切り替えタイミングに同期してシャッターを切り替えることのできる眼鏡を通して画像データを再生することにより、立体画像を観察することができる。
【0003】
また、特別な眼鏡等を用いずに立体画像を再生する方法としては、パララックスバリア方式と呼ばれる方法がある。左眼用の画像データと右眼用の画像データとのそれぞれを、画像データの垂直走査方向に短冊状に分解し、交互に並べて一枚の画像データとする。その画像データに基づいて画像を表示する表示装置には、画像データを分解した場合と同様の短冊状のスリットがある。短冊状の画像データを、スリットを通して表示装置により観察する。偏光板により短冊状に配置された左眼用の画像データに基づく画像を観察者の左眼で、右眼用の画像データに基づく画像を右眼で視ると、立体感を得ることができる。スリットの代わりにレンチキュラレンズを用いたレンチキュラ方式と呼ばれる方法もある。
【0004】
観察者が、より良い立体画像を見るために、再生画像の立体感を変更する技術も開示されている。人間が物体を立体的に観察する際には、左右の眼では異なる像を観察しており、それらの像は視差と呼ばれるずれを有する。人間はこの視差によって立体感を認識する。視差の量を視差量といい、視差量を調整することにより立体感を調整する。デジタル放送において立体映像を受信し表示する際に、視差量を調整することにより立体ディスプレイに表示する技術が知られており、この技術により観察者は、その立体映像を視聴する環境などに合わせて、立体画像を観察することができる(例えば特許文献1参照)。
【0005】
【特許文献1】
特開2000−78615号公報
【0006】
【発明が解決しようとする課題】
ところで、視差量の調整を行う際に、例えば、レンチキュラ方式、パララックスバリア方式などの左右の画像データを1ライン毎交互に短冊状に並べて表示する方式では、通常、その短冊状データの組み合わせ位置を変えることにより視差量の調整が可能であるが、調整の精度は短冊幅によって規定されることになる。従って、必ずしも観察者の好みに合わせて立体感を調整できるわけではない。
【0007】
また、短冊状データの組み合わせ位置を変えると、再生するためのデータが存在しない部分が発生し、その部分は良好な立体視表示ができない。従って、立体画像データに基づく立体画像を良好に表示できる部分(立体画像を観察できる表示領域)が小さくなってしまう。
【0008】
一方、視差量調整後の画像データにおいて、全ての画像データを表示させようとしても、視差量調整後の短冊状の画像データの幅は、視差量調整分だけ表示領域の幅より広くなり、全て画像データを表示することが出来ない。
本発明の目的は、視差量が調整された立体画像データに基づいて、違和感が少なく良好な立体画像を表示させることである。
【0009】
【課題を解決するための手段】
本発明の一観点によれば、異なるN(Nは2以上の自然数)視点に対応するN個の画像データのそれぞれの視差量の調整に関する視差量調整情報と、視差量を調整した後の少なくともM個(MはN以下の自然数)の画像データを包含する統合領域から立体表示のために切り出される領域に関する切り出し領域情報と、に基づいて、立体画像の表示位置に関する表示位置情報を生成する表示位置情報生成手段と、前記N個の画像データと前記表示位置情報とに基づいて立体表示用の画像データ(以下、「立体画像データ」と称する。)を生成する立体画像データ処理手段と、前記立体画像データに基づいて立体画像を表示する表示手段とを備えることを特徴とする立体画像表示装置が提供される。
【0010】
前記切り出し領域情報は、それぞれの前記視点に応じて選択可能な複数の領域のいずれかを基準にして前記統合領域内に前記画像データを表示させるかに関する情報であるのが好ましい。
【0011】
上記立体画像表示装置によれば、前記切り出し領域情報を切り替えることにができる。例えば、立体画像データ上の、視差の調整により発生する画素データが存在しなくなる部分の位置を変更することもできる。
また、前記切り出し領域情報は、前記統合領域内で最も右端あるいは最も左端の視点の画像データを示す領域を示す情報を含むことが好ましい。
【0012】
上記立体画像表示装置によれば、前記切り出し領域情報を切り替えることによって、立体画像データ上の、視差の調整により発生する画素データのない部分の位置を変更することができる。
また、前記切り出し領域情報は、前記統合領域内の中央部近傍に位置する領域を示す情報を含むことが好ましい。
【0013】
上記立体画像表示装置によれば、前記切り出し領域情報を中央近傍にすることによって、立体画像データ上の、視差の調整により発生する画素データのない部分の位置を左右に分散し表示することにより、目立たなくすることができる。
また、前記切り出し領域情報は、前記統合領域内の周辺部近傍に位置する領域を示す情報を含むことが好ましい。
【0014】
上記立体画像表示装置によれば、前記切り出し領域情報を切り替えることによって、立体画像データ上の、視差の調整により発生する画素データのない部分の位置を変更することができる。
また、前記表示位置情報は、前記立体画像データに基づく画像を表示する表示領域を基準にして生成されるのが好ましい。
【0015】
上記立体画像表示装置によれば、前記表示位置情報を、前記立体画像データに基づく立体画像を表示する表示領域を基準にして生成することによって、前記表示位置情報生成手段内で、前記N個(Nは2以上の自然数)の視点の各々に対応したN個の画像データに対し、前記表示位置情報に従って画像をずらすだけで、簡易に前記立体画像データを作成することができる。
また、前記切り出し領域情報は、視点の数Nに応じて、前記複数の領域の数を変更することが好ましい。
【0016】
上記立体画像表示装置によれば、視点の数Nの値に応じて選択できる前記統合領域内の複数の領域の種類を変更することにより、例えば、視点数が多くなるにつれ観察者の観察位置に含まれる視点の画像データに基づく立体画像を表示領域の中心に近いように表示するように、切り出し領域情報の定義を観察者が切り替えるなどすることによって、視差量の調整を行う際の立体表示の自由度を増やすことができる。
また、前記表示手段は、視差量の調整度合に合わせて前記立体画像データに基づく立体画像を表示する表示領域の大きさを変更することが好ましい。
【0017】
上記立体画像表示装置によれば、画像データをずらすことにより視差量を調整した後、ずらしたことにより画素データがなくなり、かつ表示領域に含まれる領域を表示しないようにすることにより、その領域に対して正しく補間ができなかった場合でも、観察者は違和感の無い立体画像データに基づく立体画像を観察することができる。
【0018】
また、前記表示手段は、前記立体画像データを表示する表示領域の大きさを変更するか否かをユーザーが切り替えると共に、前記表示領域の大きさを変更する場合には、視差量の調整度合に合わせて前記表示領域の大きさを変更することが好ましい。
【0019】
上記立体画像表示装置によれば、画像データをずらすことにより視差量を調整した後、ずらしたことにより画素データがなくなり、かつ表示領域に含まれる領域に対して正しく補間ができなかった場合は、正しく補間ができなかった部分を表示しないように表示領域の大きさを変更するように観察者が指示し、表示する枠を変更するなどして立体表示を行い、正しく補間ができた場合は、表示領域の大きさを変更しないように観察者が指示することによって、観察者はより違和感の無い立体画像データに基づく立体画像を観察することができる。
【0020】
また、前記N個の画像データのそれぞれにおいて、視差量を制限することによって、前記立体画像データを表示する表示領域に含まれない領域の割合を制限することが好ましい。
【0021】
上記立体画像表示装置によれば、前記表示領域に含まれない領域を少なくする、つまり、表示領域中に各視差の画像データ間で対応の取れない領域が少なくすることにより、立体視できる領域が減るのを防ぐことができる。
【0022】
また、前記N個の画像データのそれぞれにおいて、視差量の調整の結果、前記立体画像データを表示する表示領域に含まれない領域の割合がある所定の値以上の場合に、観察者にその旨を通知するのが好ましい。
【0023】
上記立体画像表示装置によれば、前記表示領域に含まれない領域が多くなった、つまり、表示領域中に各視差の画像データ間で対応の取れない領域が多くなったことにより、立体視できる領域が減ったことを観察者に通知することができる。
【0024】
【発明の実施の形態】
本明細書において、3原色のRGBデータのそれぞれをドットと称し、3原色のRGBデータのまとまりを画素と称する。また、画像データは、動画像データ、静止画像データなどを含む。さらに、画像データ中には、例えばJPEGやMPEG−4などの圧縮技術を用いた圧縮画像データも含まれる。
【0025】
また、視差量の調整処理の中には、視差量の調整量が“0”である場合も含まれるものとする。画像データとは、表示手段に画像を表示させるためのデータを指し、立体画像とは、画像データにより表示手段に表示される立体画像を指す。
【0026】
以下に、本発明の実施の形態による立体画像表示技術について、図面を参照して説明する。図1は、本発明の一実施の形態による立体画像表示装置の構成例を示す機能ブロック図である。図1に示すように、本発明の実施の形態による立体画像表示装置1は、入力画像データDinとして、水平方向にいくつの視点の画像データが入力されているかを示す視点数(以下、「総視点数」と称する。)と切り出し領域情報と視差量調整情報とを入力とし、これらのデータに基づいて、立体視表示が可能な画像データ(以下、「立体画像データ」と称する。)を生成する際に用いる表示位置情報と、視差調整した立体画像データ内に無効な領域(立体画像データを構成する各視点の画像データを表示領域から水平方向にずらすことにより視差を調整する場合、表示領域には画像データが無い領域が発生する。以下では、この領域を「無効領域」と称する。)が発生する場合の無効領域情報とを算出する。立体画像表示装置1は、さらに、表示位置情報を立体画像データ処理手段3に伝送し無効領域情報を画像データ補間手段4に伝送する表示位置生成手段2と、入力画像データDinと上記表示位置情報を用いて立体画像データを生成するための画像データ処理を行う立体画像データ処理手段3と、上記無効領域情報を用いて無効領域に補間データを生成する画像データ補間手段4と、生成された画像データを表示する表示手段5と、を有している。ここで、表示領域とは、統合領域のうち実際に画像を表示する領域を指す。統合領域については後述する。
【0027】
まず、総視点数が「2」、つまり、入力画像データDinとして2つの視点の画像データが入力された場合における立体画像表示装置1の動作について説明する。ここで2つの視点の画像データが、左眼用画像データ及び右眼用画像データであるとすると、立体画像表示装置1に入力された左眼用画像データ及び右眼用画像データは、まず立体画像データ処理手段3において、立体視表示が可能なデータに変換される。例えば、パララックスバリア方式又はレンチキュラ方式による立体画像表示装置であれば、立体画像データ処理手段3は、左眼用画像データと右眼用画像データとが短冊状に交互に並べられた立体画像データを生成する。
【0028】
図2は、立体画像表示装置1に入力される2つの視点の画像データ(に基づく画像)の例を示す図である。例えば、図2に示すように、視点1の画像データ20を左眼用画像データとし、視点2の画像データ21を右眼用画像データとする。これらの左眼用画像データ20と右眼用画像データ21とを、例えばドット毎に短冊状に交互に並べて立体画像データを生成する。図3は、2視点の画像データを入力とした場合の、パララックスバリア方式又はレンチキュラ方式による立体画像表示装置に表示する立体画像データの作成方法の一例を示す図である。ドット毎に短冊状に交互に並べて立体画像データを生成する際に、全ての水平方向のラインに対して同じ方法で生成するため、以下においては説明の簡単化のために、水平方向の1ラインについてのみ説明する。
【0029】
視点1の画像データ20と視点2の画像データ21、及び、それらを用いて生成する立体画像データの水平方向の1ラインあたりの画像データを、それぞれ、視点1の1ラインあたりの画像データ30、視点2の1ラインあたりの画像データ31、1ラインあたりの立体画像データ32と称する。例えば、図3に示すように、それぞれの1ラインが12ドット(画素単位では4画素)のRGBデータにより構成されていると仮定する。画像データ30及び31は、Rlm、Glm、Blm(lは視点番号を表す整数、mは左端からの画素の位置を表す整数とし、それぞれ1≦l≦2、で、0≦m≦3とする)から構成されているものとし、立体画像データ作成データ32の各ドットをOx(xは、0≦x≦11の整数とする)とする。
【0030】
図3に示すように、立体画像データ32は視点1からドット毎に交互に視点の異なる画像データのドットを並べて、R10,G20,B10,R21,G11,B21,R12,G22,B12,R23,G13,B23の順に生成する。このようにして、立体画像データ処理手段3は立体画像データ32を生成する。また、外部から視差量調整情報と切り出し領域情報とが、図1に示す表示位置生成手段2にそれぞれ入力される。ここで、視差量調整情報は、立体画像データの飛び出し距離そのものを示す。例えば視差量調整情報をcmなどの距離の単位によって記録しておいてもよい。飛び出し距離は、例えば視差量を調整しない状態を基準(0)として表される。切り出し領域情報については後述する。
【0031】
まず、入力された視差量調整情報が0の場合について説明する。この場合、表示位置生成手段2は、上記で生成した立体画像データを画像データ補間手段4に出力するように立体画像データ処理手段3を制御する。これと同時に表示位置生成手段2は、無効領域情報として、無効領域がない、つまり補間を行う領域がないことを示す情報を画像データ補間手段4に送信する。画像データ補間手段4はこの情報により補間を行う領域がないと判断し、表示手段5に入力された立体画像データに基づく立体画像をそのまま出力する。表示手段5は入力された立体画像を表示する。
【0032】
次いで、表示手段5について説明する。図4は、パララックスバリア方式による表示手段5の一例を示す図である。表示手段5は、スリット40とディスプレイ面41とを含んで構成されており、図3において作成された立体画像データ32がディスプレイ面41に表示される。図4に示すように、ディスプレイ面の前(観察者側)にスリット40を配置することにより、観察者の左眼は左眼用の画像データのみを、右眼は右眼用の画像データのみを観察する。これにより、観察者は立体画像データ32を、立体感を感じた状態で観察することができる。
【0033】
また、上記の例では、ドット毎に異なる視点の画像データを交差させて、立体画像データを生成する例について説明したが、画素毎に異なる視点の画像データを交差させて、立体画像データを生成しても良い。以上では、入力された視差量調整情報が0の場合における、本発明の実施の形態による立体画像表示装置の動作について説明した。
【0034】
次に、入力された視差量調整情報が0でない場合について説明する。表示位置生成手段2において、入力された総視点数と視差量調整情報と切り出し領域情報とから表示位置情報を算出し、立体画像データ処理手段3に出力される。ここで、表示位置生成手段2において算出される表示位置情報の算出例について図5から図13までを参照して説明する。表示位置情報は、シフトベクトル及び切り出し領域情報と、作成される立体画像データに含まれる総視点数から算出される。まず、シフトベクトルについて説明する。
【0035】
図5(A)から(C)までは、立体画像データの飛び出し距離dとディスプレイ面に表示する画像データとの関係を示す図である。図5(A)に示すように、観察者の左眼と右眼の間の距離をeとし、観察者とディスプレイとの間の距離をLとする。図5(A)の状態は、右眼で観察する画素と左眼で観察する画素とが同一のスリット(Q1)で観察される状態である。この時、画素がディスプレイ上において観察される。次に、右眼で観察する画像データを図面の左方向に、例えば1ドット分だけ移動させる。この状態を図5(B)に示す。Q1に存在した画素はQ2の位置に移動する。この時、左眼で観察される画素と右眼で観察される画素とは異なるスリットで観察されS1の位置に像を結び、立体感が生じる。この時のディスプレイからの距離dが飛び出し距離である。
【0036】
ここで、図5(B)に示すようにQ1からQ2への移動距離をwとする。wは、装置(ディスプレイ)に依存する値である。また、ディスプレイと観察者との距離Lも、パララックスバリア方式やレンチキュラ方式の場合、ディスプレイに依存する。従って、飛び出し量を算出するためには、ディスプレイと観察者との距離Lと移動距離wとを知る必要がある。尚、観察者の左眼と右眼の距離eはほぼ一定と考えられる。これらを前提として、飛び出し距離dは次の式で求められる。
e:(L−d)=w:d (1)
(1)式より(2)式が求められる。
d=(w×L)/(e+w) (2)
【0037】
ここで、飛び出し距離dと移動距離wとは正負の値をとる。飛び出し距離dが正の値を取る時は、視差量の調整を行う前の状態から飛び出すように見えることを示し、負の値を取る時は、視差量の調整を行う前の状態から奥に見えることを示す。また、移動距離wは、右眼で観察する画像データを左に移動させる時は正の値をとり、右眼で観察する画像データを右に移動させるときは負の値をとる。図5(B)では、w及びdが共に正の値を取るため、dの距離だけ飛び出して見える。これとは逆に、図5(A)から右眼で観察する画像データを右方向に、例えば1ドット分だけ移動させた様子を示す図が、図5(C)である。Q1に存在した画素がQ3の位置に移動し、S2の位置に像を結ぶ。この時、移動距離wは負の値を取るため、飛び出し距離dは、上記(2)式より負の値となる。また、通常、裸眼式の立体ディスプレイの場合、観察者の左目と右目の距離eを越えて画像データを表示させても観察者は、ディスプレイ面に表示された画像データを立体として融合できず、画像データが2重にダブって見えてしまうため、―e≦wとする。従って、図5(A)に比べ、図5(C)では奥に像が見えることになる。また、左眼で観察する画像データを移動させる時は、移動距離wの正負の値は、右眼で観察する画像データを移動させる時の逆となる。
(1)式より(3)式が求められる。
w=(d×e)/(L−d) (3)
この移動距離wを、以降シフトベクトルと称する。上記では画素単位で説明を行ったが、ドット単位であっても同様であり、容易に適用可能である。
【0038】
本実施の形態では、シフトベクトルを、右眼用画像データを移動させた画素数やドット数(右方向を+、左方向を−で示す)で表すものとする。また、上記のようにシフトベクトルの単位をドットや画素毎とする場合、実際の飛び出し量d’が入力された飛び出し量dに最も近い値となるシフトベクトルの値をシフトベクトルとしてもよいし、(飛び出し量dの絶対値)≧(実際の飛び出し量d’)かつ、実際の飛び出し量d’が入力された飛び出し量dに最も近い値となるシフトベクトルの値をシフトベクトルとしてもよいし、(飛び出し量dの絶対値)≦(実際の飛び出し量d’)かつ、実際の飛び出し量d’が入力された飛び出し量dに最も近い値となるシフトベクトルの値をシフトベクトルとしてもよい。
【0039】
以上、シフトベクトルとは、左眼用画像データに対してどれだけ右眼用画像データを移動させるかを示す値であり、視差量調整情報からその値を求める方法について説明した。
【0040】
次に、切り出し領域情報について説明する。図6は、視差量調整情報が0でない(=シフトベクトルwが0でない)場合において立体画像データを生成するのに必要な各視点の画像データと画像データに基づく画像の表示領域との関係について示す図である。例えば、シフトベクトルを−W1とする(W1>0)。この場合、図6(A)に示すように、左眼用の画像データである視点1の画像データ20に対して、右眼用の画像データである視点2の画像データ21を右にW1だけずらして、視差量の調整を行う。この際、画像データ21のシフトを行っても生成する立体画像データに基づく立体画像の幅は変わらないため、画像データ20と21の少なくともいずれか一方に無効領域が発生する場合がある。
【0041】
また、生成する立体画像データに基づく立体画像の幅は表示手段5における表示領域となり、図6の符号60の幅を有する領域がその表示領域にあたる。図6の(A)、(B)、(C)は、それぞれ、この表示領域60が、中央(画像データ20と画像データ21との無効領域が、それぞれ等しいようにする)、左端(画像データ21にのみ無効領域が発生する)、右端(画像データ20にのみ無効領域が発生する)にあるとした場合において、立体画像データを生成するのに必要な各視点の画像データを示す。
【0042】
第1に、図6(A)について説明する。この場合、表示領域60は中央であり、画像データ20と画像データ21とのそれぞれに発生する無効領域61と無効領域62とが等しくなるように画像データ20を左に、画像データ21を右に、それぞれW1/2ずつシフトする。
【0043】
図21は、全ての視点の画像データを含んだ領域である統合領域から、その中央を中心にして立体画像データを生成し、その画像データに基づき立体表示させた様子を示す図である。例えば、図21において、視点1の画像データ20と視点2の画像データ21とに対して視差量の調整を行い、全ての視点の画像データを含んだ領域を統合領域210とし、統合領域210の中央の位置を示す線を211とする。この場合、画像データ20と画像データ21のシフトする量が等しければ、表示領域60の中心は、この中央の位置を示す線211になる。このようにして、視差量の調整を行った全ての視点の画像データを含む統合領域の中央を中心にして立体画像データを生成する。
【0044】
次に、図6(B)について説明する。この場合、表示領域60は左端(表示領域60が左端の視点の画像データと同じ位置)となり、画像データ21のみをW1だけ右にシフトする。画像データ21の左隣にのみ、無効領域63が発生する。次に、図6(C)について説明する。この場合、表示領域60は右端(=表示領域60が右端の視点の画像データと同じ位置)となり、画像データ20のみをW1だけ左にシフトする。画像データ20の右隣にのみ、無効領域64が発生する。
【0045】
また、以上で述べた無効領域61〜64内の値については、画像データ補間手段4(図1)により補間を行うため、立体画像データ処理手段3(図1)で立体画像データを生成する際には、この無効領域の値は不定であっても構わない。
【0046】
以上のように、切り出し領域情報は、図6(A)〜(C)で説明したように、表示領域が、中央に位置するか、左端に位置するか、右端に位置するかのいずれかを示す情報となり、それぞれに対する切り出し領域情報の定義を「中央」、「左端」、「右端」とする。続いて、シフトベクトル及び切り出し領域情報と、作成される立体画像データに含まれる総視点数から算出される表示位置情報と、そのときに生成される立体画像データと、のそれぞれについて説明する。
【0047】
まず、切り出し領域情報が「中央」の場合について説明する。図7は、総視点数が「2」かつシフトベクトルが「―1ドット」かつ切り出し領域情報が「中央」の場合に生成する立体画像データを示す図である。シフトベクトルが「―1ドット」かつ切り出し領域情報が「中央」であるため、視点1の画像データ30を左に0.5ドット、視点2の画像データ31を右に0.5ドットずらした画像データを用いて立体画像データ32を生成する。
【0048】
従って、視点1の画像データ30に対し、視点2の画像データ31は1ドット右にずれるため、シフトベクトルが「―1ドット」という条件を満たし、また、視点1の画像データ30と視点2の画像データ31の無効領域が等しくなるため、切り出し領域情報が「中央」、つまり、表示領域を「中央」とする条件も満たすことになる。しかしながら、実際に生成する立体画像データ32はドット単位の画像データであるため、実際上、0.5ドット分だけ画像データをずらすことはできない。そこで、画像データ30又は画像データ31のうちいずれか一方を1ドットずらす必要がある。これは、シフトベクトルが奇数であり、かつ切り出し領域情報が「中央」の場合に必ず起こる問題であり、ここでは、視点1の画像データのずらし量の絶対値が、視点2の画像データのずらし量の絶対値以下になるようにする。
【0049】
また上記で述べたドット単位でずらした立体画像データについて説明する。例えばRGBの各色成分の表示位置が水平方向にRGBの順で繰り返し並ぶような一般的なディスプレイにおいてドット単位でずらす場合、各色成分単位で考えてずらす必要がある。図7のように画像データ31を右に1ドットずらす場合、R20はずらしを行う前の位置70から、同じ色成分の1つ右隣の位置である位置71に移動させる。つまり、画像データ31内のR成分のみが、画像データ31内のR成分が存在する位置上でずれることになる。実質的には、図7において矢印で示すように、R20は、画像データ上の位置で3ドット分動くことになるが、G成分やB成分はずらさない。観察者がRGBのディスプレイを観察する場合、RGBの3ドットを1画素として観察するのであるが、1画素の内にRGBそれぞれの要素が1つづつ存在していれば良く、RGBの集まり、GBRの集まり、BRGの集まりのいずれであっても1画素として観察者は認識することができる。よって、この場合、観察者は画像データ31が右に1ドットずれた画像データを観察することになる。
【0050】
同様に、例えば、右に2ドットずらす場合は、RとGの成分を1つ右隣の同じ色成分のドットがある位置に、右に3ドットずらす場合は、RとGとBのすべての成分を1つ右隣の同じ色成分のドットがある位置にそれぞれずらす。
【0051】
以下、上記の手順をまとめると、例えばk(kは0以上の整数)ドット右にずらす際、RGBの順でずらすとして、Rの成分は、(k/3)のあまりが0の場合、右にk/3離れたRの成分の位置まで、(k/3)のあまりが1の場合、右に(k+2)/3離れたRの成分の位置まで、(k/3)のあまりが2の場合、右に(k+1)/3離れたRの成分の位置までずらす。
【0052】
Gの成分は、(k/3)のあまりが0の場合、右にk/3離れたGの成分の位置まで、(k/3)のあまりが1の場合、右に(k−1)/3離れたGの成分の位置まで、(k/3)のあまりが2の場合、右に(k+1)/3離れたGの成分の位置までずらす。
【0053】
Bの成分は、(k/3)のあまりが0の場合、右にk/3離れたBの成分の位置まで、(k/3)のあまりが1の場合、右に(k−1)/3離れたBの成分の位置まで、(k/3)のあまりが2の場合、右に(k−2)/3離れたBの成分の位置まで、それぞれずらす。
【0054】
また、例えば、k(kは整数)ドット左にずらす際は、右にずらす場合とは逆にBGRの順でずらす。すなわち、Bの成分は、(k/3)のあまりが0の場合、左にk/3離れたBの成分の位置まで、(k/3)のあまりが1の場合、左に(k+2)/3離れたBの成分の位置まで、(k/3)のあまりが2の場合、左に(k+1)/3離れたBの成分の位置までずらす。
【0055】
Gの成分は、(k/3)のあまりが0の場合、左にk/3離れたGの成分の位置まで、(k/3)のあまりが1の場合、左に(k−1)/3離れたGの成分の位置まで、(k/3)のあまりが2の場合、左に(k+1)/3離れたGの成分の位置までずらす。
【0056】
Rの成分は、(k/3)のあまりが0の場合、左にk/3離れたRの成分の位置まで、(k/3)のあまりが1の場合、左に(k−1)/3離れたRの成分の位置まで、(k/3)のあまりが2の場合、左に(k−2)/3離れたRの成分の位置まで、それぞれずらす。
【0057】
以上に、RGBの各色成分の表示位置が水平方向にRGBの順で繰り返し並ぶような一般的なディスプレイにおいて、ドット単位でずらす場合のずらし方について説明した。
【0058】
次に表示位置情報について説明する。本明細書において、視差量調整情報から求めたシフトベクトルと切り出し領域情報を考慮して求めた各視点の画像データのずらし量との組を、表示位置情報と定義する。例えば、上記の場合、視点1のずらし量が0ドット、視点2のずらし量が右に1ドットであるため、表示位置情報は(0,1)となる。但し、ここで各視点のずらし量は符号を付した整数とし、右にずらす場合はプラスとし、左にずらす場合はマイナスとする。このように、表示位置情報は、立体画像データに基づく立体画像を表示する表示領域を基準にして生成される。以上のようにして、視差量調整情報と切り出し領域情報とから算出された表示位置情報が、図1に示す表示位置生成手段2から立体画像データ処理手段3に出力される。
【0059】
立体画像データ処理手段3では、この表示位置情報に基づいて入力画像データをずらし、ずらした入力画像データを1ドット分の画像データ毎に交互に短冊状に並べて立体画像データ32を生成し、画像データ補間手段4に出力する。作成された立体画像データ32は、図7に示すように「R10,G20,B10,R20,G11,B21,R12,G22,B12,R22,G13,B23」となる。これと同時に、表示位置生成手段2は、無効領域情報として、前述の「無効領域」がない旨を、つまり補間を行う必要のある領域がない旨を示す情報を、画像データ補間手段4に送信する。画像データ補間手段4は、この情報により補間を行う領域がないと判断し、表示手段5に入力された立体画像データをそのまま出力する。表示手段5は、入力された立体画像データに基づく立体画像を表示する。
【0060】
また、上記の手順では、視点1の画像データのずらし量の絶対値が、視点2の画像データのずらし量の絶対値以下になるようにして視差量の調整を行ったが、逆に視点2の画像データのずらし量の絶対値が、視点1の画像データのずらし量の絶対値以下になるようにして視差量の調整を行っても良い。いずれのずらし量の絶対値を小さくするかを、観察者が選択できるようにしておき、観察者の選択に基づいて視差量の調整を行ってもよい。
【0061】
例えば、表示手段5は、立体表示と通常の2D表示を切り替え表示することが可能な表示手段であるとすると、2D表示する場合は、立体画像データに含まれる所定の視点の画像データを用いて2D表示用の画像データを作成し、2D表示を行う。この際、2D表示用の画像データ作成に用いる所定の視点の画像データに対し、そのずらし量の絶対値が全ての視点の画像データ中におけるずらし量の絶対値の中で最も小さくなるようにして視差量の調整を行ってもよい。このようにすれば、画像データをずらすことにより視差量の調整をした立体画像データに基づく立体画像を表示している際、立体表示から2D表示に切り替える際に必要な表示位置のずれを減らすことができる。
【0062】
次に、総視点数が「2」であり、かつ、シフトベクトルが「―2ドット」かつ切り出し領域情報が「中央」の場合の表示位置生成手段2と立体画像データ処理手段3との動作について説明する。図8は、総視点数が「2」であり、かつ、シフトベクトルが「−2ドット」であり、かつ、切り出し領域情報が「中央」の場合に生成する立体画像データを示す。シフトベクトルが「―2ドット」であり、かつ、切り出し領域情報が「中央」であるため、視点1の画像データ30を左に1ドット、視点2の画像データ31を右に1ドットずらした画像データを用いて立体画像データ32を生成する。この場合、表示位置生成手段2で生成される表示位置情報は(―1,1)、で立体画像データ処理手段3により生成される立体画像データ32は「R10,G20,B11,R20,G11,B21,R12,G22,B13,R22,G13,B23」となり、図7を参照して説明した場合と同様にして立体表示を行うことができる。
【0063】
次に、総視点数が「2」であり、かつ、シフトベクトルが「―3ドット」であり、かつ、切り出し領域情報が「中央」である場合における表示位置生成手段2と立体画像データ処理手段3の動作について説明する。図9は、総視点数が「2」であり、かつ、シフトベクトルが「―3ドット」であり、かつ、切り出し領域情報が「中央」の場合に生成される立体画像データを示す。シフトベクトルが「―3ドット」であり、かつ、切り出し領域情報が「中央」であるため、視点1の画像データ30を左に1ドット、視点2の画像データ31を右に2ドットずらした画像データを用いて立体画像データ32を生成する。この場合、表示位置生成手段2で生成される表示位置情報は(―1,2)であり、立体画像データ処理手段3で生成される立体画像データ32は「R10,G無(R無、G無、B無は、RGBそれぞれの成分において、ずらしにより発生した無効領域のドットとし、その値は不定の値とする),B11,R20,G11,B21,R12,G21,B13,R22,G13,B23」となる。
【0064】
上記のように、生成される立体画像データ32内には、入力画像データをずらしたことにより発生した無効領域にある「不定の値」が存在することになる。この場合、表示位置生成手段2は、その「不定の値」が存在する立体画像データ32内の位置を示す無効領域情報を、画像データ補間手段4に送信する。これと同時に、立体画像データ処理手段3から生成された立体画像データ32が画像データ補間手段4に入力される。画像データ補間手段4は、入力された無効領域情報を用いて立体画像データ32の不定の値に対して補間を行う。
【0065】
補間の第1の方法は、不定の値である「O1を含むRGBの組である」O0、O1、O2に、それぞれの色成分毎に所定の値を代入する方法を用いることができる。或いは、補間の第2の方法として、「不定の値であるO1を含むRGBの組である」O0、O1、O2及び、「O1に最も近いO1を含まないRGBの組である」O3、O4、O5の全てに対し、O0とO3(R)にある所定の値、O1とO4(G)にある所定の値、O2とO5(B)にある所定の値というように、RGBのそれぞれの色成分毎に所定の値を代入する方法を用いてもよい。
【0066】
補間の第3の方法として、不定の値であるO1と、「O1(G)に最も近い位置にあり、かつ同じ色成分(G)であり、かつ、隣り合い異なる視点の画像データとして表示されるドットである」O4とに所定の値を代入する方法を用いてもよい。
【0067】
補間の第4の方法として、不定の値であるO1に対して、「O1に最も近い位置にあり、かつ同じ色成分であり、かつ隣り合う視点の画像データ(例えば、O1が右画像データにあるなら、左画像データ)として表示されるドットである」O4の値を代入する方法を用いてもよい。
【0068】
補間の第5の方法として、不定の値であるO1に、「O1(G)に最も近い位置にあり、かつ同じ色成分(G)であり、かつ同じ視点(R)の画像データとして表示されるドットである」O7の値を代入する方法を用いてもよい。
【0069】
以上に説明した方法のいずれかを用いて補間した立体画像データに基づく立体画像を表示手段5に出力し、表示手段5は立体表示を行う。
以上では、切り出し領域情報が「中央」である場合について、本発明の実施の形態による立体表示装置が立体表示を行う場合について説明を行った。
【0070】
以下、切り出し領域情報が「左端」と「右端」の場合における本発明の実施の形態による立体画像表示装置1の動作について説明する。尚、画像データ補間手段4と表示手段5の動作は、切り出し領域情報が「中央」である場合と同様に動作するため説明を省略し、表示位置生成手段2で生成される表示位置情報と、立体画像データ処理手段3で生成される立体画像データとに関して説明を行う。
【0071】
まず、切り出し領域情報が「左端」の場合について説明する。総視点数が「2」であり、かつ、シフトベクトルが「―1ドット」であり、かつ、切り出し領域情報が「左端」の場合の表示位置生成手段2と立体画像データ処理手段3の動作について説明する。図10は、総視点数が「2」であり、かつ、シフトベクトルが「―1ドット」であり、かつ、切り出し領域情報が「左端」の場合に生成する立体画像データを示す図である。シフトベクトルが「―1ドット」であり、かつ、切り出し領域情報が「左端」であるため、視点1の画像データ30と、視点2の画像データ31を右に1ドットずらした画像データとを用いて立体画像データ32を生成する。この場合、表示位置生成手段2により生成される表示位置情報は(0,1)となり、また、立体画像データ処理手段3で生成される立体画像データ32は「R10,G20,B10,R20,G11,B21,R12,G22,B12,R22,G13,B23」となる。
【0072】
次に、総視点数が「2」であり、かつ、シフトベクトルが「―2ドット」であり、かつ、切り出し領域情報が「左端」の場合の表示位置生成手段2と立体画像データ処理手段3の動作について説明する。図11は、総視点数が「2」であり、かつ、シフトベクトルが「―2ドット」であり、かつ、切り出し領域情報が「左端」である場合に生成される立体画像データを示す図である。シフトベクトルが「―2ドット」であり、かつ、切り出し領域情報が「左端」であるため、視点1の画像データ30と、視点2の画像データ31を右に2ドットずらした画像データとを用いて立体画像データ32を生成する。この場合、表示位置生成手段2で生成される表示位置情報は(0,2)となり、また立体画像データ処理手段3で生成される立体画像データ32は「R10,G無,B10,R20,G11,B21,R12,G21,B12,R22,G13,B23」となる。
【0073】
次に、切り出し領域情報が「右端」の場合について説明する。まず、総視点数が「2」であり、かつ、シフトベクトルが「―1ドット」であり、かつ、切り出し領域情報が「右端」の場合における表示位置生成手段2と立体画像データ処理手段3の動作について説明する。図12は、総視点数が「2」であり、かつ、シフトベクトルが「―1ドット」であり、かつ、切り出し領域情報が「右端」である場合に生成される立体画像データを示す図である。シフトベクトルが「−1ドット」であり、かつ、切り出し領域情報が「右端」であるため、視点1の画像データ30を左に1ドットずらした画像データと、視点2の画像データ31を用いて立体画像データ32を生成する。この場合、表示位置生成手段2で生成される表示位置情報は(−1,0)で、立体画像データ処理手段3で生成される立体画像データ32は「R10,G20,B11,R21,G11,B21,R12,G22,B13,R23,G13,B23」となる。
【0074】
次に、総視点数が「2」であり、かつ、シフトベクトルが「−2ドット」であり、かつ、切り出し領域情報が「右端」の場合の表示位置生成手段2と立体画像データ処理手段3の動作について説明する。図13は、総視点数が「2」であり、かつ、シフトベクトルが「―2ドット」であり、かつ、切り出し領域情報が「右端」の場合に生成する立体画像データを示す。シフトベクトルが「−2ドット」であり、かつ、切り出し領域情報が「右端」であるため、視点1の画像データを左に2ドットずらした画像データと、視点2の画像データ31とを用いて立体画像データ32を生成する。この場合、表示位置生成手段2で生成される表示位置情報は(−2,0)であり、立体画像データ処理手段3で生成される立体画像データ32は「R10,G20,B11,R21,G12,B21,R12,G22,B13,R23,G無,B23」となる。
【0075】
以上のようにして、本実施の形態による立体画像表示装置は、総視点数と、切り出し領域情報と、視差量調整情報と、を用いて表示位置情報を生成し、生成した表示位置情報と、入力された2つの視点の画像データと、を用いて視差調整された立体画像データを違和感のない良好な画像データとして生成することができる。
【0076】
次に、総視点数が「3」、つまり、入力画像データDinとして3つの視点の画像データが入力された場合における立体画像表示装置1の動作について説明する。
【0077】
立体画像表示装置1に入力された3つの視点の画像データは、まず立体画像データ処理手段3において、立体視表示可能なデータに変換される。例えば、パララックスバリア方式又はレンチキュラ方式による立体画像表示装置であれば、立体処理手段3は、各視点の画像データを視点順に短冊状に交互に並べられた立体画像データを生成する。前述した2つの視点の画像データが入力された場合における立体画像表示装置1の表示手段5の説明において、水平方向にRGBを並べて表示を行うタイプを前提として説明を行ったが、表示手段5は垂直方向にRGBを並べて画像データを表示するものであっても構わない。
【0078】
3以上の視点の画像データをドット毎に短冊状に交互に並べて立体画像データを生成する場合、垂直方向にRGBを並べて画像データに基づく画像を表示する表示手段である方が、RGBの各色成分毎に同じ配置でバリアやレンチキュラを作成すればよいため、立体画像データの作成及び視差量の調整の説明が簡易になる。
【0079】
そこで、以下においては、垂直方向にRGBを並べて画像データに基づく画像を表示する表示手段を用いた場合について、RGBのうちRの成分のみを説明する。残りのGとBの成分に関しては、Rの成分と同様に処理を行うため説明を省略する。また、垂直にRGBを並べて画像データに基づく画像を表示する表示手段を用いた場合の1画素とは、縦方向に連続して隣り合うRGBのドットの組み合わせとする。
【0080】
図14は、立体画像表示装置1に入力される第3の視点の画像データの例を示す図である。例えば、図2に示すような視点1の画像データ20と、視点2の画像データ21と、図14に示すような視点3の画像データ140が立体画像表示装置1に入力される。各視点の画像データを、例えばR成分のドット毎で、短冊状に、交互に、かつ視点順に並べて立体画像データを生成する。
【0081】
図15は、3視点の画像データを入力とした場合の、パララックスバリア方式又はレンチキュラ方式による立体画像表示装置に表示する立体画像データにおいて、そのR成分の作成方法の一例を示す図である。以下では、立体画像データを生成する際、全ての水平方向のラインに対して同じ方法で生成するため、ここでは説明の簡単化のために水平方向の1ラインについてのみ説明を行う。視点1の画像データ20と視点2の画像データ21と視点3の画像データ140(図14)と、これらを用いて生成する立体画像データのR成分の水平方向の1ラインあたりの画像データを、それぞれ視点1の1ラインあたりの画像データ150、視点2の1ラインあたりの画像データ151、視点3の1ラインあたりの画像データ152、1ラインあたりの立体画像データ153と称する。例えば、図15のように、R成分のデータはそれぞれの1ラインが9ドットのデータにより構成されていると仮定する。
【0082】
R成分の画像データ150、151、152は、Rlm、(lは視点番号を表す整数、mは左端からのドットの位置を表す整数とし、それぞれ1≦l≦3、で、0≦m≦8とする)から構成されているものとし、立体画像データ153のR成分のドットをPy(yは、0≦y≦11の整数とする)とする。図15に示すように、立体画像データ153は、視点1、2、3の順でドット毎に視点の異なる画像データのドットを繰り返し並べて、R10,R21,R32,R13,R24,R35,R16,R27,R38の順に生成する。このようにして、立体画像データ処理手段3は立体画像データを生成する。
【0083】
また、図1において、2視点の場合と同様に、総視点数と視差量調整情報と切り出し領域情報とが、外部から表示位置生成手段2にそれぞれ入力される。まず、入力された視差量調整情報が0の場合について説明する。表示位置生成手段2と画像データ補間手段4との動作は、2視点の際に説明した場合と同様の動作を行い、立体画像データ処理手段3は、図15に示すように、3視点の立体画像データを生成し、生成された画像データを表示手段5は立体表示する。
【0084】
図16は、3視点の画像データから構成された立体画像データを表示する際の、パララックスバリア方式による表示手段5の一例を示す図である。基本構成に関しては図1に示されており、図1を適宜参照する。表示手段5は、スリット160とディスプレイ面161とを含んで構成されており、図15において作成された立体画像データ153がディスプレイ面161に表示される。図16に示すように、ディスプレイ面の前にスリット160を置くことにより、観察位置1における観察者の左眼には視点1の画像データのみが、右眼には視点2の画像データのみが観察される。また同様に、観察位置2における観察者の左眼には視点2の画像データのみが、右眼には視点3の画像データのみが観察される。これにより観察者は、立体画像データ153を立体感を持って観察することができる。
【0085】
次に、入力された視差量調整情報が0でない場合について説明する。表示位置生成手段2において、入力された総視点数と視差量調整情報と切り出し領域情報とから表示位置情報が算出され、立体画像データ処理手段3に出力される。
【0086】
図17は、視差量調整情報が0でない(=シフトベクトルwが0でない)場合において立体画像データを生成するのに必要な各視点の画像データと、画像データの表示領域との関係を示す図である。例えば、シフトベクトルを−W1とする(W1>0)。この場合、図17の(A)に示すように、視点1の画像データ20に対して、視点2と視点3との画像データ21を右にW1ずらし、さらに、視点2の画像データ20に対して、視点3の画像データを右にW1ずらして視差量の調整を行う。このとき、視差量調整情報から求めたシフトベクトルは、各隣り合う視点の画像データの間の全てにおいて、同じ分だけ画像データをずらすことにより視差を調整するものとする。このように画像画像データをずらしても、生成する立体画像データに基づく立体画像の幅は変わらないため、表示領域内にある各視点の画像データ20と21と140のいずれかに無効領域が発生する。
【0087】
図17の(A)、(B)、(C)は、それぞれ、切り出し領域情報が、「中央」(画像データ20と画像データ140とに無効領域が発生し、それぞれに発生した無効領域は等しいようにする)、「左端」(画像データ21と画像データ140とに無効領域が発生する)、「右端」(画像データ20と画像データ140とに無効領域が発生する)にあるとした場合において、立体画像データを生成するのに必要な各視点の画像データを示す。
【0088】
また、切り出し領域情報が「中央」であり、かつ総視点数が「3」というように奇数である場合は、画像データ20と画像データ140との無効領域を等しくするため、中央にある視点の画像データ21を表示領域とするのが好ましい。このようにすれば、表示領域内における、最も中央にある視点の画像データ21には無効領域が発生せず、また、画像データ21の左右の隣り合う視点の画像データ20と画像データ140との無効領域が等しくなる。
【0089】
まず、図17(A)を参照して説明を行う。図17(A)に示すように、切り出し領域情報が「中央」(=表示領域60が中央の視点の画像データと同じ位置になる)であり、画像データ20と画像データ140とのそれぞれの隣に発生する無効領域170、171が、それぞれ等しくなるように画像データ20を左に、画像データ140を右に、それぞれW1ずつシフトする。次に、図17(B)を参照して説明を行う。この場合は、切り出し領域情報が「左端」(=表示領域60が左端の視点の画像データと同じ位置になる)であり、画像データ21、画像データ140をW1だけ右にシフトさせ、さらに、画像データ140は右にW1シフトさせる(トータルで、画像データ140は右に2*W1シフトする)。この場合、画像データ21及び画像データ140の左隣に、それぞれ無効領域172、173が発生する。
【0090】
次に、図17(C)を参照して説明を行う。この場合、切り出し領域情報が「右端」(=表示領域60が右端の視点の画像データと同じ位置になる)であり、画像データ20、画像データ21をW1だけ左にシフトさせる。さらに、画像データ20をW1左にシフトさせる(トータルで、画像データ20は左に2*W1シフトする)。この場合、画像データ20、画像データ21の右隣に、それぞれ、無効領域174、175が発生する。
【0091】
また、以上で述べた無効領域内の値については、画像データ補間手段4により補間するため、立体画像データ処理手段3で立体画像データを生成する際、この無効領域の値は不定であっても良い。
【0092】
入力が3視点の画像データである場合においても、2視点の場合と同様に、上記で説明したシフトベクトル及び切り出し領域情報と作成される立体画像データに含まれる総視点数から、表示位置情報を算出することができる。
【0093】
図18から図20までを参照して、3視点の場合において算出される表示位置情報と生成される立体画像データについて説明する。まず、切り出し領域情報が「中央」の場合について説明する。
【0094】
図18は、総視点数が「3」であり、かつ、シフトベクトルが「―2ドット」であり、かつ、切り出し領域情報が「中央」である場合に生成される立体画像データを示す図である。シフトベクトルが「−2ドット」であり、かつ、切り出し領域情報が「中央」であるため、中央の視点である視点2の画像データ151はずらさず、視点1の画像データ150を左に2ドット、視点2の画像データ152を右に2ドットずらした画像データを用いて立体画像データ153を生成する。
【0095】
従って、視点1の画像データ150に対して視点2の画像データ151は2ドット右にずれ、かつ、視点2の画像データ151に対して視点3の画像データ152は2ドット右にずれることになるため、各隣り合う視点の画像データの間において、シフトベクトルが「―2ドット」という条件を満たすことになる。
【0096】
また、視点1の画像データ150と、視点3の画像データ152との無効領域が等しくなり、また、中央の視点である視点2の画像データ151に無効領域が発生しないため、表示領域を「中央」とするという条件も満たすことになる。
【0097】
ここで、2視点の場合と同様に、表示位置情報を各視点の画像データのずらし量の組で表現すると、視点数が3であるので、例えば上記の場合、視点1のずらし量が左に2ドット,視点2のずらし量が右に2ドットであり、表示位置情報は(2,0,−2)となる。以上のようにして、視差量調整情報と切り出し領域情報から算出された表示位置情報が、表示位置生成手段2から立体画像データ処理手段3に出力される。
【0098】
立体画像データ処理手段3では、この表示位置情報に基づいて入力画像データを水平方向にずらし、ずらした入力画像データを1ドット分の画像データ毎に、交互に、短冊状に、かつ視点順に並べて立体画像データ32を生成し、画像データ補間手段4に出力する。作成された立体画像データ32は、図18に示すように「R12,R21,R30,R15,R24,R33,R18,R27,R36」となる。
【0099】
これと同時に、表示位置生成手段2は、補間を行う領域がないことを示す情報を画像データ補間手段4に送信する。画像データ補間手段4はこの情報により補間を行う領域がないと判断し、表示手段5に入力された立体画像データをそのまま出力する。表示手段5は入力された立体画像データに基づき立体画像を表示する。
【0100】
次に、切り出し領域情報が「左端」の場合について説明する。まず、総視点数が「3」であり、かつ、シフトベクトルが「―2ドット」であり、かつ、切り出し領域情報が「左端」である場合の表示位置生成手段2と立体画像データ処理手段3との動作について説明する。図19は、総視点数が「3」であり、かつ、シフトベクトルが「―2ドット」であり、かつ、切り出し領域情報が「左端」である場合に生成する立体画像データを示す図である。シフトベクトルが「―2ドット」であり、かつ、切り出し領域情報が「左端」であるため、視点1の画像データ150と、視点2の画像データ151と、を右に2ドットずらした画像データと、視点3の画像データ152を右に4ドットずらした画像データと、を用いて立体画像データ153を生成する。この場合、表示位置生成手段2で生成される表示位置情報は(0,2,4)であり、立体画像データ処理手段3で生成される立体画像データ153は、「R10,R無,R無,R13,R22,R31,R16,R25,R34」となる。
【0101】
立体画像データ処理手段3は立体画像データ153を、表示位置生成手段2は不定の値であるドットの位置を、それぞれ補間手段4に送る。次に、補間手段4における不定の値のドットに対する補間処理について説明する。ここで、全ての視点のドットを1ドットずつ含むドットの組を「視点の組」とする。例えば、「P0,P1,P2」で第1の視点の組、「P3,P4,P5」で第2の視点の組、「P6,P7,P8」で第3の視点の組というように定義する。補間の第1の方法は、不定の値であるP1、P2を含む第1の視点の組であるP0、P1、P2全てに、ある共通の所定の値を代入する方法であってもよい。例えば、第1の視点の組の部分が黒い画像データとなるように表示する。
【0102】
このように補間を行うことにより、3視点の画像データを含む立体画像データにおいて視差量を調整行うことにより発生する画素データが存在しない部分を、観察者がどの位置から見た場合においても観察することができないようにすることができる。
【0103】
また、別の第2の補間方法として、同じ視点の組内に不定でない値がある場合、同じ視点の組内の不定でない値のいずれかで、視点の組内にある全ての不定でない値を代入してもよい。例えば、第1の視点の組であるP1、P2に、同じ第1の視点の組であり、かつ不定の値でないP0の値を代入する方法を用いてもよい。
【0104】
このように補間を行うことにより、3視点の画像データを含む立体画像データにおいて視差量を調整行うことにより発生する画素データが存在しない部分を、観察者がどの位置から見ても2Dで観察できるようにすることができる。
【0105】
また、別の第3の補間方法として、第1の視点の組であるP1に対して、第1の視点の組に最も近い視点の組内であり、かつ、同じ視点の画像データとして表示されるドットであり、かつ、不定の値でないP4の値を代入し、かつ、P2にもこのP4の値を代入してもよい。
【0106】
これにより、P1はP0に対応することになり、観察者がP0を含む第1の視点の画像データとP1を含む第2の視点の画像データとを観察する際に、補間した部分であっても立体として観察することができる。
【0107】
また、別の第4の補間方法として、第1の視点の組であるP1(またはP2)に対して、第1の視点の組に最も近い視点の組内であり、かつ、同じ視点の画像データとして表示されるドットであり、かつ、不定の値でないP4(またはP5)の値を代入してもよい。これによりP2はP1に対応することになり、観察者がP1を含む第2の視点の画像データとP2を含む第3の視点の画像データを観察する際、補間した部分であっても立体として観察することができる。画像データ補間手段4は、この補間した立体画像データを、表示手段5に出力する。表示手段5は入力された立体画像データを立体表示する。
【0108】
次に、切り出し領域情報が「右端」の場合について説明する。まず、総視点数が「3」であり、かつ、シフトベクトルが「−2ドット」であり、かつ、切り出し領域情報が「右端」である場合の表示位置生成手段2と立体画像データ処理手段3との動作について説明する。図20は、総視点数が「3」であり、かつ、シフトベクトルが「−2ドット」であり、かつ、切り出し領域情報が「右端」の場合に生成する立体画像データを示す。シフトベクトルが「−2ドット」であり、かつ、切り出し領域情報が「右端」であるため、視点1の画像データ150を左に4ドットずらした画像データと、視点2の画像データ151を左に2ドットずらした画像データと、視点3の画像データ152を用いて立体画像データ153と、を生成する。この場合、表示位置生成手段2により生成される表示位置情報は(−4、−2,0)であり、立体画像データ処理手段3で生成される立体画像データ153は、「R14,R23,R32,R17,R26,R35,R無,R無,R38」となる。
【0109】
図19で説明した場合と同様に、立体画像データ処理手段3は立体画像データ153を、表示位置生成手段2は不定の値であるドットの位置を、それぞれ補間手段4に送る。補間手段4における不定の値のドットに対する補間処理は図19と同様にして行い、画像データ補間手段4はこの補間した立体画像データを、表示手段5に出力する。表示手段5は入力された立体画像データに基づく立体画像を表示する。
【0110】
このようにして、本実施の形態による立体画像表示装置は、総視点数、切り出し領域情報及び視差量調整情報を用いて表示位置情報を生成し、生成した表示位置情報と、入力された3つの視点の画像データと、を用いて視差調整された立体画像データを、違和感の少ない良好な立体画像データとして生成することができる。
【0111】
また、上記では入力画像データが2視点のときと3視点の場合について説明したが、a視点(aは4以上の整数)の場合も、2視点から3視点に拡張したときと同様に拡張することにより、視差調整された立体画像データを、違和感の少ない良好な立体画像データとして生成することができる。
【0112】
以上のように、視差量が調整された立体画像データを表示する際に、「左端」、「右端」、「中央」というように、統合領域に対してどの位置を基準にして表示するかを指定して視差量の調整を行うことにより、画素データが存在しなくなることにより立体視が困難になる部分の位置を自由に設定、変更することができる。
【0113】
特に、切り出し領域情報を「中央」とした場合は、切り出し領域情報を「左端」や「右端」にした場合に比べ、補間を行わなければならない場所が立体画像データの左右の端に分散するため、正しく補間ができないことで立体視が困難になる部分を観察者が判別しづらくすることにより、違和感が少なく良好な立体画像データとして生成することができる。また、上記では、切り出し領域情報を「中央」、「左端」、「右端」の3種類のみの場合について説明したが、中央、左端、右端のそれぞれの近傍であっても構わない。
【0114】
また、切り出し領域情報は上記の3種類に限らず、b種類の近傍であっても構わない(bは正の整数)。例えば、視差量の調整を行った全ての視点の画像データを含む統合領域に対し、統合領域の左端からc(cは正の整数)ドット(または画素)ずらした位置を表示領域の左端にするなど、切り出し領域情報の定義を複数にしてもよい。上記の場合、切り出し領域情報により指定された表示領域の位置を考慮して、上記で説明した場合と同様に視差量の調整を行った立体画像データを生成する。また、このときのcの値自体を切り出し領域情報としても良い。
【0115】
さらに、上記の例では、切り出し領域情報の定義を、統合領域の左端からcドットとしているが、任意の所定の場所からずらしても良い。例えば、統合領域の中央や右端からcドットずらすというようにしてもよい。また、総視点数に合わせて、この際の切り出し領域情報の定義を変えてもよい。例えば、2視点の切り出し領域情報は、「左端」、「右端」、「中央」の3つと定義し、16視点の切り出し領域情報は、統合領域を水平方向に均等に16分割した位置を表示領域の位置とするように定義するなど、総視点数毎にその定義を切り替えて用いてもよい。
【0116】
例えば、視点数が多くなるにつれ観察者の観察位置に含まれる視点の画像データを表示領域の中心に近いように表示するように、切り出し領域情報の定義を、観察者が切り替えるようにしてもよい。このようにして、総視点数毎に切り出し領域情報の定義を切り替えることにより、視差量の調整を行う際の立体表示の自由度を増やすことができる。また、切り出し領域情報の定義として視点の画像データを指定してもよい。この場合、指定した視点の画像データの位置を表示領域として視差量の調整を行う。このため、指定した視点の画像データに無効な領域が発生することは無く、すべて表示することができる。
【0117】
また、この際の切り出し領域情報の定義は、水平方向だけでなく垂直方向の指定も含んでもよい。例えば、統合領域の左上から水平方向に1画素右、垂直方向に1画素下の位置を表示領域の位置としてもよい。このようにして、視差量の調整を行う際の立体表示の自由度を増やすことができる。また上記の説明では、視差量の調整を行うことにより発生する無効な領域を補間手段4で補間して、表示手段5で表示を行っていたが、表示手段5に無効領域情報を代入し、例えば枠をつけて立体表示する場合などは、表示領域の大きさを小さくして表示することにより、無効な領域を省いて立体表示してもよい。
【0118】
さらに、この無効な領域を省いて立体表示するか否かを、観察者が外部から入力することにより切り替えることができるようにしてもよい。このように無効な領域を表示しないようにすることにより、正しく補間ができなかった場合でも、観察者は違和感の無い立体画像データに基づく画像を観察することができる。また視差量の調整を行う際、視差量の調整後に、表示領域内に存在する各視点画像データにおいて、少なくとも1つの視点の画像データ内における無効な領域(または表示領域に含まれない領域)が、その視点の画像データ全体のX(Xは0≦X≦100)%以上発生した場合は、X%より小さくなるように変更する視差量の絶対値が小さくなるよう視差量を調整してもよいし、無効な領域(または表示領域に含まれない領域)が全体のX%を越えたことを示す通知を観察者に通知してもよい。これにより、視差量の調整によって無効な領域が多くなるために立体視できる領域が減るのを防ぐことができる。
【0119】
また上記で説明した、実施形態の立体画像表示装置に入力される総視点数と切り出し領域情報と視差量調整情報は、観察者が入力することができるようにしてもよい。さらに、本実施形態の立体画像表示装置に入力される総視点数と切り出し領域情報と視差量調整情報、及び入力画像データDinは全て、例えば3Dフォーマットデータのような1つのデータに含まれていても構わない。この場合、立体画像表示装置1の前段に、3Dフォーマットデータから、総視点数と切り出し領域情報と視差量調整情報、及び入力画像データDinのそれぞれを分離する分離手段を設けることにより、立体画像表示装置1にこれらのデータを入力するようにしてもよい。
【0120】
また、上記3Dフォーマットデータ内に、総視点数と切り出し領域情報と視差量調整情報のうちのいずれかに含まれていないデータがある場合に備えて、それぞれの値を端末でデフォルトで設定しておき、それらのデータのうち含まれていないデータがある場合は端末のデフォルト値を代わりに用いてもよい。
【0121】
また、切り出し領域情報と視差量調整情報に関しては立体画像表示装置1で用いる際、観察者の入力した値と、3Dフォーマットデータの値と、端末でデフォルトとして設定されている値とのうち、どの値を使うようにしても構わず、観察者がどの値を使うかを自由に設定できるようにしてもよい。
【0122】
また、上記3Dフォーマットデータは、ファイルであっても、放送やストリーミングのデータ、テープメディア上のデータなど、総視点数と切り出し領域情報と視差量調整情報、及び入力画像データDinなどを含むフォーマットであればいずれの形式のデータであっても構わない。
【0123】
図22は、ファイルにおける3Dフォーマットデータの例を示す図である。例えば、図22に示すように、3D画像データファイルは、管理情報領域と画像データ領域とから構成されており、画像データ領域には入力画像データDinが、管理情報領域には総視点数と切り出し領域情報と視差量調整情報とが含まれるような3Dフォーマットデータとして、3D画像データファイルを構成してもよい。
【0124】
次に、3D画像データファイルの管理情報領域について詳細に説明する。
管理情報領域は、「画像データ情報」と、「立体視用画像データのための情報(以下、3D情報と称する)」と、「各視点画像データ情報」と、により構成されている。「画像データ情報」には、画像データのサイズや動画であればその再生時間などの画像データ全体に関する情報が、「各視点画像データ情報」には各画像データを復号するのに必要な情報(例えば、符号化の技術としてMPEG−4技術が用いられているなどの情報)が、「3D情報」には総視点数と切り出し領域情報と視差量調整情報などの立体画像特有の情報がそれぞれ含まれる。また、3D画像データファイルを再生する際に、装置が3D情報を正しく読み取れるように、3D情報の存在を示すヘッダが必要である。このため、3D情報の先頭に、立体画像データ(3D画像)識別情報を記録する領域を設ける。3D画像識別情報は、3D情報の存在を示すとともに、後に続く画像データが立体視用画像データである旨を示す。3D画像識別情報は、固定長或いは可変長の符号で符号化されたフラグでも良いが、識別可能であれば、例えば、特定の記号列や文字列などでも良い。制御情報は、総視点数と切り出し領域情報と視差量調整情報とに関する情報をこの制御情報に含む。このようにして、3D画像識別情報と、それ以外の情報である制御情報とにより3D情報を構成する。
【0125】
図23は、放送における3Dフォーマットデータの例を示す。例えば、図23に示すように、3Dの放送コンテンツを、コンテンツと番組配列情報とにより構成し、かつ、コンテンツの部分に入力画像データDinが、番組配列情報の部分に3D情報が含まれるような3Dフォーマットデータとして、3Dの放送コンテンツを構成してもよい。
【0126】
次に、上記で説明した3Dフォーマットデータを作成する画像データ作成装置について説明する。図24は、3Dフォーマットデータを作成する画像データ作成装置の構成例を示すブロック図である。図24に示すように、画像データ作成装置240は、制御部241と、多視点(視点数K、ここでKは2以上の整数である)の画像データ1〜Kを隣接させて結合した画像データを作成する画像結合部242と、画像データの結合に関する情報をまとめた画像結合情報、総視点数、切り出し領域情報、視差量調整情報などの情報をフォーマット化して3D情報を作成する3D情報作成部243と、画像データを符号化する符号化部244と、符号化されたデータを多重化する多重化部245とを有している。以上のように構成された画像データ作成装置240の動作について説明する。
【0127】
制御部241は、縮小の有無、結合の有無、画像データの配置順などの画像結合情報、水平方向の視点数X(上述の総視点数)、垂直方向の視点数Y、表示領域データ視差量調整情報などを指定し出力する。画像結合部242は、制御部241により指定された「結合の有無」が「結合あり」である場合に、入力された画像データ1から画像データKまでの配置方法を選択する。配置方法としては、各画像データを水平に並べた水平配置と、上下に並べた垂直配置と、水平・垂直の両方向に並べた格子状配置との3通りの配置のうちから選択が可能である。
ここで、画像データの配置方法は、撮像装置の設置方法と一致するようにしてもよいし、一致させなくてもよい。
【0128】
まず、画像データの配置方法が撮像装置の設置方法と一致する場合について説明する。図26は、撮像部の設置方法が水平、かつ、撮像部の設置方法と一致させた場合の画像データの配置例を示す図である。図26(a)は、画像データの配置方法が撮像部の設置方法と水平である場合の撮像部の設置方法を示す図である。図26(a)に示すように、この場合には、1〜XまでのX台の撮像部261〜264までを同じ水平面上に並ぶように設置して撮影を行う。
【0129】
図26(b)は、撮像部の設置方法が水平であり、かつ、撮像部の設置方法に一致するように画像データを配置して作成した画像の一例を示す図である。図26(b)に示すように、撮像部261、262、263、…、264によりそれぞれ撮影したX個の画像データを、撮像部の設置方法と同様の順番で水平に並べて、一枚の画像を作成する。この場合、作成した画像の視点数は、X≧2、Y=1、画像データの配置は水平配置となる。
【0130】
上記と同様に、撮像部の設置方法が垂直配置の場合には、作成した画像の視点数は、X=1、Y≧2となり、画像データの配置は垂直配置となる。また、撮像部の設置方法が水平配置又は垂直配置以外の場合は、撮像部の設置方法は格子状配置となる。この場合、作成した画像の視点数は、X≧2、Y≧2となり、画像データの配置は格子状配置となる。
【0131】
また、画像データの配置が垂直配置や格子状配置である場合においても、水平配置の場合と同様に一枚の画像を構成する個々の画像データの配置は、それらを撮影した撮像部の設置方法と同じ順番で並べた構成となる。
【0132】
次に、画像データの配置方法が撮像装置の設置方法と一致させない場合について説明する。一致させない場合は、X≧2、Y=1又はX=1、Y≧2のときには、垂直配置と水平配置のいずれかを選択できるようにしてもよいし、X≧2、Y≧2のときには、垂直配置と水平配置と格子状配置のいずれかを選択できるようにしてもよい。また、制御部241から入力された縮小の有無が「縮小あり」を示す場合には、入力された各視点の画像データを縮小する。
【0133】
以上のように、画像結合部242が画像データを結合し、結合した画像結合情報を3D情報作成部243に送るとともに、結合した画像データを符号化部244に送る。3D情報作成部243は、画像データの結合に関する情報をまとめた画像データ結合情報と、総視点数と、切り出し領域情報と、視差量調整情報と、を含む情報をフォーマット化して3D情報を作成し、符号化部244は画像データを符号化して符号化データを作成する。作成された3D情報と符号化データのそれぞれのデータが多重化部245に送られ、多重化部245においてデータの多重化を行い、多重化部245は、多重化された多重化データを出力する。このときの多重化データが3Dフォーマットデータとなる。
【0134】
次に、上記の3Dフォーマットデータを再生する画像データ再生装置について説明する。図25は、3Dフォーマットデータを再生する画像データ再生装置250の構成例を示すブロック図である。図25において、図1と同一ブロックに対しては同一符号を付す。図25に示すように、画像データ再生装置250は、分離手段251と、3D情報を解析する3D情報解析手段252と、符号化データを復号する復号手段253と、3D情報内にある切り出し情報や視差量調整情報と、観察者が入力した切り出し情報や視差量調整情報とのうちのいずれか一方を選択し、必要があれば観察者が入力した切り出し情報や視差量調整情報を用いた3D情報を出力する選択手段254と、復号した画像データを各視点の画像データに変換し出力する画像データ変換手段255とを含んで構成されている。
【0135】
以上のように構成された画像データ再生装置250について、その動作を説明する。分離手段251は、3Dフォーマットデータから3D情報を含んでいる3Dヘッダと、符号化データとに分離する。この符号化データは、例えばJPEG(Joint Photographic Expert Group)やMPEG(Moving picture expert group)−4などの圧縮技術を用いた圧縮符号化データを含む。
【0136】
3D情報解析手段252は、3Dヘッダ内の3D情報を解析し、画像データ結合情報や総視点数、切り出し情報、視差量調整情報などを抽出する。復号手段253は、分離手段251により分離された符号化データから画像データを復号する。選択手段254は、3D情報内に存在する切り出し情報や視差量調整情報と、観察者が入力した切り出し情報や視差量調整情報のうちのいずれか一方を選択し、必要があれば新たな3D情報を作成し出力する。例えば、観察者からの入力があれば、入力した切り出し情報や視差量調整情報を用いた3D情報を出力してもよい。画像データ変換手段255は、選択手段254により入力された画像結合情報、総視点数に応じて、復号された画像データから各視点の入力画像データDinを出力する。
【0137】
立体画像表示装置1は、図1において説明した装置と同様に動作し、切り出し情報と視差調整量情報と総視点数とを含む3D情報と、各視点の入力画像データDinとを用いて立体表示を行う。
【0138】
以上説明したように、本実施の形態による立体画像表示装置によれば、視点数Nの画像データから構成される視差量が調整された立体画像データを表示する際に、例えば、左端、右端、中央のそれぞれの近傍というように、どの位置を基準にして表示するかを指定して視差量の調整を行うことにより、視差量の調整を行った際に生じる各視点画像データにおける画素データがなくなって立体視が困難になる部分の位置を変更することができる。
【0139】
特に、切り出し領域情報を中央近傍とした場合には、切り出し領域情報を左端近傍や右端近傍にした場合よりも、視差量の調整を行った際に左眼用画像データと右眼用画像データとの画素データがなくなり、補間を行わなければならない場所が立体画像データの左右の端に分散するため、正しく補間ができなかったが、上記の変更を行えば、立体視が困難になる部分を観察者が判別しづらくすることができ、違和感が少なく良好な立体画像データとして生成することができる。
【0140】
また、立体画像データを表示する表示領域を基準にして表示位置情報を生成することにより、表示位置情報生成手段内で、N個(Nは2以上の自然数)の視点の各々に対応したN個の画像データに対し、表示位置情報に従って画像をずらすだけで立体画像データを簡易に作成することができる。また、切り出し領域情報を観察者が切り替えることによって、立体画像データ上の視差の調整により発生する画素データのない部分の位置を自由に変更することができる。
【0141】
視点の数Nの値に応じて選択できる上記統合領域内における複数の領域の種類を変更することにより、例えば、視点数が多くなるにしたがって観察者の観察位置に含まれる視点の画像データを表示領域の中心近くに表示するように、切り出し領域情報の定義を観察者が切り替えることによって、視差量の調整を行う際の立体表示の自由度を増やすことができる。
【0142】
また、上記表示手段が、視差量の調整度合に合わせて上記立体画像データを表示する表示領域の大きさを変更することにより、画像データをずらすことにより視差量を調整した後、ずらしたことにより画素データがなくなり、かつ表示領域に含まれる領域を表示しないようにすることができるため、その領域に対して正しく補間ができなかった場合でも、観察者は違和感の無い立体画像データを観察することができる。
【0143】
また、上記表示手段は、上記立体画像データを表示する表示領域の大きさを変更するか否かをユーザーが切り替えるととともに、上記表示領域の大きさを変更する場合には、視差量の調整度合に合わせて上記表示領域の大きさを変更することにより視差量を調整した後、ずらしたことにより画素データがなくなり、かつ表示領域に含まれる領域に対して正しく補間ができなかった場合は、正しく補間ができなかった部分を表示しないように表示領域の大きさを変更するように観察者が指示し、表示する枠を変更するなどして立体表示を行い、正しく補間ができた場合は、表示領域の大きさを変更しないように観察者が指示することができ、その結果、観察者はより違和感の無い立体画像データを観察することができる。
【0144】
N個の画像データのそれぞれにおいて、視差量を制限することによって、上記立体画像データを表示する表示領域に含まれない領域の割合を制限することにより、上記表示領域に含まれない領域を少なくする、つまり、表示領域中に各視差の画像データ間で画素データが存在しないため対応の取れなくなっている領域を少なくすることにより、立体視できる領域が減るのを防ぐことができる。
【0145】
また、N個の画像データのそれぞれにおいて、視差量の調整の結果、上記立体画像データを表示する表示領域に含まれない領域の割合がある所定の値以上の場合に、観察者にその旨を通知することもできる。
【0146】
尚、上記立体画像表示装置は、種々の電子機器に適用可能である。特に、コンパクトな構成が要求される携帯電話やPDAなどの携帯端末に用いるのに好適である。
以上、本発明に関して実施の形態に沿って説明を行ったが、本発明はこれらの例に限定されるものではなく、種々の変形が可能であるのは言うまでもない。
【0147】
【発明の効果】
以上説明したように、本発明によれば、N視点の数の画像データから構成される、視差量が調整された立体画像データを表示する際に、どの位置を基準にして表示するかを指定して視差量の調整を行うことにより、視差量の調整を行った際に生じる、各視点画像データにおける画素データがなくなり立体視が困難になる部分の位置を変更することができるという利点がある。
【図面の簡単な説明】
【図1】 本発明の一実施の形態による立体画像表示装置の構成例を示す機能ブロック図である。
【図2】 本発明の実施の形態による立体画像表示装置1に入力される視点1及び視点2の2視点の画像データの例を示す図である。
【図3】 視点1及び視点2の2視点の画像データを入力とした場合の、パララックスバリア方式又はレンチキュラ方式による立体画像表示装置に表示する立体画像データの作成方法の一例を示す図である。
【図4】 本発明の一実施の形態による立体画像表示装置であって、パララックスバリア方式による表示手段を有する構成例を示す図である。
【図5】 図5(A)から図5(C)までは、本発明の一実施の形態による立体画像データの飛び出し距離dとディスプレイ面に表示する画像データとの関係を示す図である。立体画像表示装置
【図6】 図6(A)から図6(C)までは、本発明の一実施の形態による立体画像表示装置において、視差量調整のために2視点の画像データを移動させた例を示す図である。
【図7】 本発明の一実施の形態による立体画像表示装置における立体画像データ処理手段において、総視点数が「2」であり、かつ、シフトベクトルが「―1ドット」であり、かつ、切り出し領域情報が「中央」である場合に生成される立体画像データの水平方向の1ラインデータの構成例を示す図である。
【図8】 本発明の一実施の形態による立体画像表示装置における立体画像データ処理手段において、総視点数が「2」であり、かつ、シフトベクトルが「―2ドット」であり、かつ、切り出し領域情報が「中央」である場合に生成される立体画像データの水平方向の1ラインデータの構成例を示す図である。
【図9】 本発明の一実施の形態による立体画像表示装置において、総視点数が「2」であり、かつ、シフトベクトルが「―3ドット」であり、かつ、切り出し領域情報が「中央」の場合に生成される立体画像データの水平方向の1ラインデータの一例を示す図である。
【図10】 本発明の一実施の形態による立体画像表示装置における立体画像データ処理手段において、総視点数が「2」であり、かつ、シフトベクトルが「―1ドット」であり、かつ、切り出し領域情報が「左端」である場合に生成される立体画像データの水平方向の1ラインデータの一例を示す図である。
【図11】 本発明の一実施の形態による立体画像表示装置における立体画像データ処理手段において、総視点数が「2」であり、かつ、シフトベクトルが「―2ドット」であり、かつ、切り出し領域情報が「左端」の場合に生成される立体画像データの水平方向の1ラインデータの一例を示す図である。
【図12】 本発明の一実施の形態による立体画像表示装置における立体画像データ処理手段において、総視点数が「2」であり、かつ、シフトベクトルが「―1ドット」であり、かつ、切り出し領域情報が「右端」の場合に生成される立体画像データの水平方向の1ラインデータの一例を示す図である。
【図13】 本発明の一実施の形態による立体画像表示装置における立体画像データ処理手段において、総視点数が「2」であり、かつ、シフトベクトルが「―2ドット」であり、かつ、切り出し領域情報が「右端」の場合に生成される立体画像データの水平方向の1ラインデータの一例を示す図である。
【図14】 本発明の一実施の形態による立体画像表示装置に入力される画像データの一例を示す図である。
【図15】 3視点の画像データを入力とした場合の、パララックスバリア方式又はレンチキュラ方式による立体画像表示装置に表示する立体画像データにおいて、そのR成分の作成方法の一例を示す図である。
【図16】 3視点の画像データから構成された立体画像データを表示する際の、パララックスバリア方式による立体画像表示装置における表示手段の一例を示す図である。
【図17】 図17(A)から図17(C)までは、本発明の一実施の形態による立体画像表示装置における視差量調整のために、3視点の画像データを移動させた際の例を示す図である。
【図18】 本発明の一実施の形態による立体画像表示装置における立体画像データ処理手段において、総視点数が「3」であり、かつ、シフトベクトルが「―2ドット」であり、かつ、切り出し領域情報が「中央」の場合に生成される立体画像データの水平方向の1ラインデータの一例を示す図である。
【図19】 本発明の一実施の形態による立体画像表示装置における立体画像データ処理手段3において、総視点数が「3」であり、かつ、シフトベクトルが「―2ドット」であり、かつ、切り出し領域情報が「左端」の場合に生成される立体画像データの水平方向の1ラインデータの一例を示す図である。
【図20】 本発明の一実施の形態による立体画像表示装置における立体画像データ処理手段において、総視点数が「3」であり、かつ、シフトベクトルが「―2ドット」であり、かつ、切り出し領域情報が「右端」の場合に生成される立体画像データの水平方向の1ラインデータの一例を示す図である。
【図21】 本発明の一実施の形態による立体画像表示装置において、切り出し領域情報が「中央」である場合に、全ての視点の画像データを含んだ領域である統合領域の中央を中心にして立体画像データを生成し、その画像データを立体表示する様子を示す図である。
【図22】 ファイルにおける3Dフォーマットデータの構成例を示す図である。
【図23】 放送における3Dフォーマットデータの構成例を示す図である。
【図24】 3Dフォーマットデータを作成する画像データ作成装置の構成例を示す図である。
【図25】 3Dフォーマットデータを再生する画像データ再生装置の構成例を示す図である。
【図26】 撮像部の設置方法が水平であり、かつ、撮像部の設置方法と一致させた場合の画像データの配置例を示す図である。
【符号の説明】
1…立体画像表示装置、2…表示位置生成手段、3…立体画像データ処理手段、4…画像データ補間手段、5…表示手段、20,21,31,31,32,140,150,151,152,153…画像データ、40,160…スリット、41、161…ディスプレイ面、60…表示領域、61,63,64,170,171,172,173,174,175…無効領域、70…ずらす前の画像データにおける最も左端のR成分の位置、210…統合領域、240…画像データ作成装置、241…制御部、242…画像結合部、243…3D情報作成部、244…符号化部、245…多重化部、250…画像データ再生装置、251…分離手段、252…3D情報解析手段、253…復号手段、254…選択手段、255…画像データ変換手段、261〜264…撮像部。
Claims (17)
- 異なるN個(Nは2以上の自然数)視点に対応するN個の画像データを視差量に応じて水平方向に相互にずらし、垂直方向の短冊状に分解し、交互に並べて立体画像データを生成し、表示する立体画像表示装置であって、
前記異なるN個視点に対応するN個の画像データのそれぞれの視差量の調整に関する視差量調整情報と、視差量を調整した後のN個の画像データを包含する統合領域から立体画像の表示領域として切り出される領域の位置を特定する切り出し領域情報と、に基づいて、立体画像の表示領域における各画像データのずらし方向及びずらし量を特定する表示位置情報を生成する表示位置情報生成手段と、
前記表示位置情報にしたがってずらした前記N個の画像データから立体表示用の画像データ(以下、「立体画像データ」と称する。)を生成する立体画像データ処理手段と、
前記立体画像データに基づいて立体画像を表示する表示手段と
を備えることを特徴とする立体画像表示装置。 - 前記切り出し領域情報は、それぞれの前記視点に応じて選択可能な複数の領域のいずれの位置を基準にして前記統合領域内に前記画像データを表示させるかに関する情報を含むことを特徴とする請求項1に記載の立体画像表示装置。
- さらに、前記表示位置情報生成手段は、それぞれの視点による前記画像データの視差量を調整した際に前記表示手段上における画像データの欠如に基づいて生じる無効領域に関する無効領域情報を算出することを特徴とする請求項1又は2に記載の立体画像表示装置。
- さらに、前記無効領域に対して画像データを補間する画像補間手段を備えることを特徴とする請求項3に記載の立体画像表示装置。
- 前記表示位置情報生成手段は、前記切り出し位置情報を変更することにより前記無効領域の位置を調整する機能を有していることを特徴とする請求項3又は4に記載の立体画像表示装置。
- 前記表示位置情報生成手段は、前記切り出し領域情報として、前記統合領域内で最も右端又は最も左端の視点の画像データのずらし量がゼロとなるように、視差量を調整した後のN個の画像データを包含する統合領域から立体画像の表示領域として切り出される領域の位置を特定することを特徴とする請求項1から5までのいずれか1項に記載の立体画像表示装置。
- 前記表示位置情報生成手段は、前記切り出し領域情報として、前記統合領域内の中央部近傍に位置する領域のずらし量がゼロとなるように、視差量を調整した後のN個の画像データを包含する統合領域から立体画像の表示領域として切り出される領域の位置を特定することを特徴とする請求項1から6までのいずれか1項に記載の立体画像表示装置。
- 前記表示位置情報生成手段は、前記切り出し領域情報として、前記統合領域内の周辺部近傍に位置する領域のずらし量がゼロとなるように、視差量を調整した後のN個の画像データを包含する統合領域から立体画像の表示領域として切り出される領域の位置を特定することを特徴とする請求項1から7までのいずれか1項に記載の立体画像表示装置。
- 前記表示位置情報生成手段は、前記表示位置情報を、前記立体画像データに基づく立体画像を表示する表示領域を基準にして生成することを特徴とする請求項1から8までのいずれか1項に記載の立体画像表示装置。
- 前記表示位置情報生成手段は、視点の数Nに応じて、前記複数の領域の数を変更した切り出し領域情報を生成する機能を有することを特徴とする請求項1から9までのいずれか1項に記載の立体画像表示装置。
- 前記表示位置情報生成手段は、視差量の調整度合に合わせて前記立体画像データに基づく立体画像を前記表示手段に表示させる領域の大きさを変更する旨の表示制御情報を前記表示手段に表示させる機能を有することを特徴とする請求項1から10までのいずれか1項に記載の立体画像表示装置。
- 前記表示位置情報生成手段は、前記N個の画像データのそれぞれに関して、視差量の調整を制限する手段を有していることを特徴とする請求項1から11までのいずれか1項に記載の立体画像表示装置。
- さらに、前記N個の画像データのそれぞれにおいて、視差量の調整の結果、前記立体画像データ基づく立体画像を表示する表示領域に含まれない領域の割合がある所定の値以上の場合にその旨を報知する手段を有していることを特徴とする請求項1から12までのいずれか1項に記載の立体画像表示装置。
- 異なるN個(Nは2以上の自然数)視点に対応するN個の画像データを視差量に応じて水平方向に相互にずらし、垂直方向の短冊状に分解し、交互に並べて立体画像データを生成し、表示する立体画像表示装置であって、
前記異なるN個視点に対応するN個の画像データのそれぞれの視差量の、色成分毎に区別されたドット単位で調整に関する視差量調整情報と、視差量をドット単位で視差量を調整したN個の画像データを包含する統合領域から立体画像の表示領域として切り出される領域の位置を特定する切り出し領域情報と、に基づいて立体画像の表示領域における各画像データのずらし方向及びずらし量を特定する表示位置情報を生成する表示位置情報生成手段と、
前記表示位置情報にしたがってずらした前記N個の画像データから立体画像データをドット単位で生成する立体画像データ処理手段と、
前記立体画像データに基づいて立体画像を表示する表示手段と
を備えることを特徴とする立体画像表示装置。 - さらに、前記表示位置情報生成手段は、それぞれの視点による画像データの視差量を調整した際に前記表示手段上における画像データのドット単位での欠如に基づいて形成される無効領域に関する無効領域情報を算出し、ドット単位での前記無効領域に対して、画像データを同じ色成分を有する隣接する位置にドット単位で移動させることにより補間を行う画像補間手段を備えることを特徴とする請求項14に記載の立体画像表示装置。
- 前記視差量調整情報と前記切り出し領域情報を格納する管理情報領域と、前記N個の画像データを格納する画像データ領域とを含む3Dフォーマットデータを入力とし、前記視差量調整情報と、前記切り出し領域情報と、前記N個の画像データとをそれぞれ分離する分離手段をさらに備えることを特徴とする請求項1から15までのいずれか1項に記載の立体画像表示装置。
- 請求項1から16までのいずれか1項に記載の立体画像表示装置を備えた携帯端末。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003135436A JP4181446B2 (ja) | 2003-05-14 | 2003-05-14 | 立体画像表示装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003135436A JP4181446B2 (ja) | 2003-05-14 | 2003-05-14 | 立体画像表示装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004343290A JP2004343290A (ja) | 2004-12-02 |
JP4181446B2 true JP4181446B2 (ja) | 2008-11-12 |
Family
ID=33525699
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003135436A Expired - Fee Related JP4181446B2 (ja) | 2003-05-14 | 2003-05-14 | 立体画像表示装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4181446B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101964916A (zh) * | 2009-07-21 | 2011-02-02 | 富士胶片株式会社 | 图像显示装置、方法、以及程序 |
Families Citing this family (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4424299B2 (ja) | 2005-11-02 | 2010-03-03 | ソニー株式会社 | 画像処理方法、画像処理装置およびこれを用いた画像表示装置 |
JP5243003B2 (ja) * | 2007-11-28 | 2013-07-24 | 富士フイルム株式会社 | 画像処理装置および方法並びにプログラム |
US9124874B2 (en) | 2009-06-05 | 2015-09-01 | Qualcomm Incorporated | Encoding of three-dimensional conversion information with two-dimensional video sequence |
JP5496185B2 (ja) * | 2009-08-25 | 2014-05-21 | パナソニック株式会社 | 立体視画像編集装置および立体視画像編集方法 |
JP5663854B2 (ja) * | 2009-09-15 | 2015-02-04 | 株式会社ニコン | 表示装置、表示方法、および、プログラム |
WO2011036813A1 (ja) * | 2009-09-28 | 2011-03-31 | 株式会社 東芝 | 立体映像表示方法及び立体映像表示装置 |
JP2013062557A (ja) * | 2010-01-14 | 2013-04-04 | Panasonic Corp | デジタル撮影装置及び、3d撮影方法 |
JP4806082B2 (ja) * | 2010-03-30 | 2011-11-02 | 株式会社東芝 | 電子機器及び画像出力方法 |
JP5546960B2 (ja) * | 2010-06-14 | 2014-07-09 | 任天堂株式会社 | 立体画像表示プログラム、立体画像表示装置、立体画像表示システム、および、立体画像表示方法 |
EP2395765B1 (en) | 2010-06-14 | 2016-08-24 | Nintendo Co., Ltd. | Storage medium having stored therein stereoscopic image display program, stereoscopic image display device, stereoscopic image display system, and stereoscopic image display method |
JP5586377B2 (ja) * | 2010-08-17 | 2014-09-10 | オリンパスイメージング株式会社 | 表示装置 |
JPWO2012023330A1 (ja) * | 2010-08-16 | 2013-10-28 | 富士フイルム株式会社 | 画像処理装置、画像処理方法、画像処理プログラムおよび記録媒体 |
JP5539146B2 (ja) * | 2010-10-12 | 2014-07-02 | キヤノン株式会社 | 立体映像処理装置及びその制御方法 |
CN102478757A (zh) * | 2010-11-25 | 2012-05-30 | 英业达股份有限公司 | 立体影像产生装置及其方法 |
JP4819194B2 (ja) * | 2011-05-26 | 2011-11-24 | 富士フイルム株式会社 | 複眼撮影装置および方法並びにプログラム |
JP4819196B2 (ja) * | 2011-05-26 | 2011-11-24 | 富士フイルム株式会社 | 複眼撮影装置および方法並びにプログラム |
JP4819195B2 (ja) * | 2011-05-26 | 2011-11-24 | 富士フイルム株式会社 | 画像表示装置および方法並びにプログラム |
JPWO2012172888A1 (ja) * | 2011-06-16 | 2015-02-23 | シャープ株式会社 | 画像生成装置、画像生成方法、画像生成プログラム、及び記録媒体 |
JP2013005259A (ja) * | 2011-06-17 | 2013-01-07 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
US9560334B2 (en) | 2011-09-08 | 2017-01-31 | Qualcomm Incorporated | Methods and apparatus for improved cropping of a stereoscopic image pair |
JP2013061440A (ja) * | 2011-09-13 | 2013-04-04 | Canon Inc | 撮像装置および撮像装置の制御方法 |
JP6030230B2 (ja) * | 2012-07-04 | 2016-11-24 | インテル コーポレイション | パノラマベースの3dビデオコーディング |
JP6213812B2 (ja) * | 2012-07-31 | 2017-10-18 | Tianma Japan株式会社 | 立体画像表示装置及び立体画像処理方法 |
KR101726863B1 (ko) * | 2014-04-25 | 2017-04-14 | 한국전자통신연구원 | 다시점 표시 장치 및 그의 다시점 영상 표시 방법 |
WO2018199185A1 (ja) | 2017-04-26 | 2018-11-01 | 京セラ株式会社 | 表示装置、表示システム、および移動体 |
-
2003
- 2003-05-14 JP JP2003135436A patent/JP4181446B2/ja not_active Expired - Fee Related
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101964916A (zh) * | 2009-07-21 | 2011-02-02 | 富士胶片株式会社 | 图像显示装置、方法、以及程序 |
CN101964916B (zh) * | 2009-07-21 | 2014-02-26 | 富士胶片株式会社 | 图像显示装置和方法 |
Also Published As
Publication number | Publication date |
---|---|
JP2004343290A (ja) | 2004-12-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4181446B2 (ja) | 立体画像表示装置 | |
JP4174001B2 (ja) | 立体画像表示装置、記録方法、及び伝送方法 | |
KR100768837B1 (ko) | 3차원 화상 작성 장치, 3차원 화상 재생 장치, 3차원 화상 처리 장치, 3차원 화상 처리 프로그램을 기록한 기록 매체 | |
US8035683B2 (en) | Stereoscopic image reproducing apparatus and stereoscopic image reproducing method | |
JP4879932B2 (ja) | 立体画像表示方法及び立体画像伝送方法 | |
JP4693900B2 (ja) | 画像処理装置 | |
JP4665166B2 (ja) | ステレオ画像処理装置、ステレオ画像処理方法およびステレオ画像処理用プログラム | |
JP4630149B2 (ja) | 画像処理装置 | |
EP1587330B1 (en) | Device for generating image data of multiple viewpoints, and device for reproducing these image data | |
US20090244258A1 (en) | Stereoscopic display apparatus, stereoscopic display method, and program | |
KR20100076785A (ko) | 영상 처리 방법 및 장치 | |
KR20140092910A (ko) | 입체 영상 부호화 장치, 입체 영상 복호화 장치, 입체 영상 부호화 방법, 입체 영상 복호화 방법, 입체 영상 부호화 프로그램 및 입체 영상 복호화 프로그램 | |
JP5546633B2 (ja) | 立体画像再生装置、立体画像再生システム及び立体画像再生方法 | |
JP2004336701A (ja) | 立体視用映像提供方法及び立体映像表示装置 | |
JP4222817B2 (ja) | 立体画像表示装置、記録方法、及び伝送方法 | |
KR20100068360A (ko) | 스테레오스코픽 영상 비트스트림 생성 방법 및 장치 | |
JP2012100211A (ja) | 立体画像データ作成装置、立体画像データ再生装置、及びファイル管理方法 | |
KR20140030117A (ko) | 디지털 방송 신호 송/수신 방법 및 장치 | |
JP2005184377A (ja) | 画像変換装置及びそれを用いた画像記録装置 | |
JP4657258B2 (ja) | 立体画像表示装置およびその方法 | |
JP4173684B2 (ja) | 立体画像作成装置 | |
WO2004030377A1 (ja) | 立体画像表示装置、記録方法、及び伝送方法 | |
JP2004336492A (ja) | 画像処理装置および画像処理方法 | |
JP5742886B2 (ja) | 立体映像符号化装置、立体映像復号装置及び立体映像符号化システム、並びに、立体映像符号化プログラム及び立体映像復号プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050810 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080222 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080304 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080501 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080610 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080806 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080826 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080829 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110905 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120905 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130905 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |