JP4174001B2 - 立体画像表示装置、記録方法、及び伝送方法 - Google Patents

立体画像表示装置、記録方法、及び伝送方法 Download PDF

Info

Publication number
JP4174001B2
JP4174001B2 JP2003053914A JP2003053914A JP4174001B2 JP 4174001 B2 JP4174001 B2 JP 4174001B2 JP 2003053914 A JP2003053914 A JP 2003053914A JP 2003053914 A JP2003053914 A JP 2003053914A JP 4174001 B2 JP4174001 B2 JP 4174001B2
Authority
JP
Japan
Prior art keywords
image
stereoscopic
display
information
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003053914A
Other languages
English (en)
Other versions
JP2004208255A (ja
Inventor
端 内海
裕之 堅田
敏男 野村
義昭 荻澤
典男 伊藤
博明 矢部
竜二 北浦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2003053914A priority Critical patent/JP4174001B2/ja
Priority to AU2003268677A priority patent/AU2003268677A1/en
Priority to PCT/JP2003/012302 priority patent/WO2004030377A1/ja
Publication of JP2004208255A publication Critical patent/JP2004208255A/ja
Application granted granted Critical
Publication of JP4174001B2 publication Critical patent/JP4174001B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技術分野】
本発明は、複数の視点に対応した複数の画像を、立体表示する技術に関する。
【0002】
【従来の技術】
従来、視差を有する一組の画像を立体視することにより立体感のある画像を見ることができる立体画像表示方法が知られている。例えば、表示装置に左眼用と右眼用の画像を交互に出力し、ユーザーは、その表示の切り替えタイミングに同期してシャッターを切り替えることのできる眼鏡を通して画像を再生することにより、立体画像を観察することができる。
【0003】
また、特別な眼鏡等を用いずに立体画像を再生する方法には、パララックスバリア方式と呼ばれる方法がある。左眼用の画像と右眼用の画像のそれぞれを画像の垂直走査方向に短冊状に分解し、交互に並べて一枚の画像とする。その画像を表示する表示装置には、画像を分解した場合と同様の短冊状のスリットがある。短冊状の画像データをスリットを通して表示装置により観察する。偏光板により短冊状に配置された左眼用の画像はユーザーの左眼で、右眼用の画像は右眼で再生すると、画像に立体感を得ることができる。スリットの代わりにレンチキュラレンズを用いたレンチキュラ方式と呼ばれる方法もある。
【0004】
ユーザーが、より良い立体画像を見るために、再生画像の立体感を変更する技術が開示されている。人間が物体を立体的に観察する際には、左右の眼では異なる像を観察しており、それらの像は視差と呼ばれるずれを有する。
【0005】
人間はこの視差によって立体感を認識する。視差の量を視差量といい、視差量を調整することにより立体感を調整する。デジタル放送において立体映像を受信し表示する際に、視差量を調整することにより立体ディスプレイに表示する技術について記載しており、ユーザーがその立体映像を視聴する環境などに合わせて、立体画像を観察することができる(例えば特許文献1参照)。
【特許文献1】
特開2000−78615号公報、図1
【0006】
【発明が解決しようとする課題】
ところで、視差量の調整を行う際に、例えば、レンチキュラ方式、パララックスバリア方式などの左右の画像を1ラインごと交互に短冊状に並べて表示する方式では、通常、その短冊状データの組み合わせ位置を変えることにより視差量の調整が可能であるが、調整の精度は短冊幅によって規定されることになる。従って、必ずしもユーザーの好みに合わせて立体感を調整できるとは限らない。
【0007】
また、短冊状データの組み合わせ位置を変えると、立体画像として再生するためのデータが存在しない部分が発生し、その部分は良好な立体視表示ができない。従って、立体画像を良好に表示できる部分(立体画像が観察できる表示領域)は小さくなってしまう。
【0008】
一方、視差量調整後の画像において、全ての画像データを表示させようとしても、視差量調整後の短冊状の画像データの幅は視差量調整分だけ表示領域の幅より広くなり、全て画像データを表示することが出来ない。
本発明の目的は、視差量が調整された立体画像において、違和感が少なく良好な立体画像を表示させることである。
【0009】
【課題を解決するための手段】
本発明の一観点によれば、複数の視点に対応した複数の画像に基づいて立体画像を表示する立体画像表示装置であって、視差量の変更を示す視差量変更情報を読み出す読み出し部と、前記視差量変更情報に基づいて立体表示用の画像を生成する画像処理部と、前記複数の画像中の所定の領域を補間する画像補間部とを有する立体画像表示装置が提供される。
【0010】
前記画像補間部は、前記立体表示用の画像の表示領域に画素値が存在しない無画素値領域がある場合に、該無画素値領域のみを、他の画素値を用いて補間するのが好ましい。
上記立体画像表示装置によれば、視差量の変更に関連して前記無画素値領域の画素値を補間することができる。
【0011】
本発明の他の一観点によれば、複数の視点に対応した複数の画像に基づいて立体画像を表示する立体画像表示装置であって、視差量の変更を示す視差量変更情報を読み出す読み出し部と、前記視差量変更情報に基づいて立体表示用の画像を生成する画像処理部と、前記複数の画像の所定の領域に新たな画像を生成する画像生成部とを備える立体画像表示装置が提供される。
【0012】
前記画像生成部は、前記立体表示用の画像の表示領域に画素値が存在しない無画素領域がある場合、該無画素領域のみに、新たな画像を生成するのが好ましい。
上記立体画像表示装置によれば、視差量の変更に関連して前記無画素値領域に新たな画像を生成することができる。
【0013】
【発明の実施の形態】
本明細書において、3原色のRGBデータのそれぞれをドットと称し、3原色のRGBデータのひとまとまりを画素と称す。また、本実施の形態において、画像データは、動画像、静止画像を含む。さらに、画像データ中には、例えばJPEGなどの静止画像圧縮技術や、MPEG−4などの動画圧縮技術を用いた圧縮画像データを含む。
【0014】
以下に、本発明の第1の実施の形態による立体画像表示技術について、図面を参照して説明する。図1は、本実施の形態による立体画像表示装置の構成例を示す機能ブロック図である。図1に示すように、本実施の形態による立体画像表示装置Aは、入力画像データDinに基づいて立体視表示が可能な画像データ(以下、「立体視用画像データ」とも称する。)を生成するための画像処理を行う立体画像処理部1と、ユーザーが入力を行うユーザー入力部2と、ユーザーの入力に基づいて視差量調整情報を算出する視差量調整情報算出部3と、画像処理された立体映像から実際に立体映像表示装置に表示する領域を判定する表示領域判定部4と、特定の領域に補間データを生成する画像補間部5と、生成された画像のうち判定された領域を表示する表示部6から成る。
【0015】
立体画像表示装置Aに入力された左眼用画像データ及び右眼用画像データは、まず立体画像処理部1において、立体視表示可能なデータに変換される。例えば、パララックスバリア方式又はレンチキュラ方式による立体画像表示装置であれば、立体画像処理部1は、左眼用画像データと右眼用画像データとが短冊状に交互に並べられた立体視用画像データを生成する。
【0016】
ユーザーは、ユーザー入力部2により、表示する立体画像の視差量調整用データを入力する。入力された視差量調整用データは、視差量調整情報算出部3において、視差量調整情報に変換され、立体画像処理部1に出力される。立体画像処理部1においては、立体視用画像データを生成する際に視差量調整情報の入力があると、これを用いて立体視用画像データを生成する。生成された立体視用画像データは、表示領域判定部4へ出力される。
【0017】
表示領域判定部4では、生成された立体視用画像データが表示部6において良好に表示できるか否かを判定する。視差量調整が行われた立体視用画像データの画像幅は、表示部6が表示可能な画像幅と対応しない場合がある。このような場合に、表示部6の画素領域と立体視用画像データの画素領域とが一致せず、対応しない領域が発生する。このような領域においては、どのように表示されるかわからず、良好な状態で画像データを表示できない場合がある。
【0018】
そこで、表示領域判定部4において対応が取れない領域の有無を判定し、表示領域判定部4において対応が取れない領域があると判定されると、画像補間部5に対して、対応が取れない領域に関する情報S1を出力する。表示領域判定部4において、対応が取れない領域が無いと判定された場合には、立体視用画像データS2をそのまま(スルーで)表示部6に出力する。
【0019】
画像補間部5において、表示領域判定部4より出力された立体視用画像データは、表示領域判定部4で判定された領域に所定の方法で画素データを与えるように補間処理を行う。また、補間処理がなされた立体視用画像データを表示部6へ出力する。表示部6では、表示領域判定部4から出力された立体視用画像データS2、あるいは画像補間部5から出力された立体視用画像データS3の表示を行う。
【0020】
尚、本実施の形態による立体画像表示装置Aでは、表示部6で表示する立体視用画像データの形式は、パララックスバリア方式やレンチキュラ方式に代表される左右の画像を1画素分の画像データ毎に交互に短冊状に並べて立体視を行う方式である。入力画像は立体視可能なデータを含む画像データとし、表示部6において立体視する画像データは、左眼用画像と右眼用画像とのデータが短冊状に並んでいるものを扱うものとする。入力画像データは、立体画像処理部1において短冊状データが生成可能であればよい。例えば、入力画像は、元々短冊状に合成された画像データであっても良い。この場合、立体画像処理部1は入力データを改めて短冊状の画像を作成することなく、そのまま出力する。
【0021】
或いは、左眼用と右眼用とのそれぞれの画像データが分離された形式の画像データであってもよい。この場合には、立体画像処理部1において、以下の図2(A)で説明するように、左眼用画像と右眼用画像とから短冊状の画像を作成する。図2(A)は、左眼用入力画像データと右眼用入力画像データとから、立体画像データを生成する例を示す図である。図2(A)中の左眼用画像データと右眼用画像データとから、短冊状データを立体視する際に同一のスリットによって再生される画素(201、202)を取得し、それらを並べて立体表示用のデータ200を生成する。この処理を繰り返すことにより、短冊状の幅が1画素分である立体視用画像データを生成することができる。
【0022】
このような方法により短冊状の立体視用画像データ200を作成すると、短冊状の立体視用画像データ200の幅は、左眼用の入力画像データ201と右眼用の入力画像データ202とのそれぞれの画像幅を合わせた幅と等しくなる。従って、表示部6が表示可能なデータを作成するには、左眼用の入力画像データ201と右眼用の入力画像202とを、生成される短冊状の立体表示用画像データ200の半分の画像幅にしておく必要がある。
【0023】
左眼用の入力画像データ201と右眼用の入力画像データ202との画像幅が、表示部6の表示幅と同じ幅である場合は、短冊状の画像データを生成する際に、左眼用の入力画像データ201と右眼用の入力画像データ202との画像幅が半分になるようにデータを間引いた上で短冊状の画像データを生成する。
【0024】
図2(B)に、入力された画像データからデータを間引いて短冊状のデータを作成する方法の例を示す。図2(B)に示すように、左眼用及び右眼用の画像の各画素から、RGB3原色のうち、左眼用の入力画像データ201からGデータ204の1ドットを取り、右眼用の入力画像データ202からRデータ205、Bデータ206の2ドットを取ることにより1つのRGBパタン203を生成する処理を行う。この処理を、それぞれの画像に対して交互に(左眼用の入力画像データ201から1つのデータを取り右眼用の入力画像データ202から2つのデータを取るパタンと、左眼用の入力画像データ201から2つのデータを取り右眼用の入力画像データ202から1つのデータを取るパタン)繰り返すことにより、立体視用の画像データ200を作成する。短冊状の画像を作る方法は、図2(B)を参照して説明した方法に限定されるものではなく、例えば、図2の符号203で示す画素は、左眼用G1ドット(204)、右眼用のR1ドット(205)、B1ドット(206)で構成されているが、パタンを逆にした左眼用R1ドット(207)とB1ドット(208)と右眼用G1ドット(209)とから画像データを生成しても良い。図1に示す立体画像処理部1では、入力画像のそれぞれの画素数と表示可能な画素数を比較し、入力画像を間引いて短冊状の画像を生成するかどうかの判定を行い、短冊状画像の生成を行う。
【0025】
次にユーザーが視差量調整を行う際の処理について説明する。ユーザーは、図1のユーザー入力部2により視差量を調整する。ユーザー入力部2は、キーボードやマウスなどの入力装置、或いは、リモコンなど形状および方式を問わない。例えば、キーボードの特定方向を指示するためのキーを1回以上押すことにより、その特定方向にキーを押した回数に比例した量だけ視差量を調整する方法も考えられる。ユーザー入力部2により入力されたデータは、視差量調整情報算出部3において視差量調整情報に変換される。例えば、「右眼用画像データを左方向に1画素分移動する。」などの具体的な情報に変換される。視差量調整情報算出部3は、算出した視差量調整情報を立体画像処理部1へ出力する。立体画像処理部1では、この視差量調整情報を用いて短冊状画像データを生成する。
【0026】
図3及び図4を参照して前記視差量調整処理の経過を説明する。図3において、符号301等で示すブロックは、1画素分のデータを示しており、LとRとは、それぞれ左眼用画像と右眼用画像とであることを示す符号である。また、L又はRの下に付された数字は画素番号を示し、説明の便宜上付与したものであり、画像データ左端より順に画素番号を付与している。符号301は、左眼用画像の最左端の画素ということを示す。図3の符号304、図4の符号403は、表示部が各画像データを表示する表示領域の幅を示すものとする。
【0027】
また、レンチキュラレンズやパララックスバリアなどを用いて立体画像を観察する際に、同一のスリットを通って観察される画素同士(例えば図11の符号1103及び符号1104で示される画素)を立体映像として再生されるペアとして、図3の符号302と符号303のように上下に対応して表す。ここで生成された短冊状の画像データは、ユーザーにより視差量調整が行われなければ、表示部6が持つ全ての画素に対して表示すべきデータがあるので、表示領域判定部4での表示領域判定において補間すべき領域は無いものと判定される。
【0028】
視差量調整情報算出部3によるユーザーの調整が、例えば左眼用画像を右へ1画素分移動する場合の画素とそれに対応する画素データを示したのが図4である。
【0029】
画像データの表示位置を移動した状態でそのまま表示すると図4の画素401の位置(破線で示される)のように、表示すべき画素データがなくなり、また、図4の符号402で示される画素のように、表示領域403からはみ出るために表示できない画素データが生じる。このとき表示領域判定部4は、画素401に表示すべき画像データがないこと、画素402が表示領域403からはみ出していることを判定し、その情報を画像補間部5へ出力する。
【0030】
以上において説明した視差量調整のための画像の移動は、1画素の単位である場合について説明を行った。このようにすると、画像データのサイズや表示部6のサイズによっては、調整精度が粗すぎる場合もある。
【0031】
人間が画像を認識することは、各画素を構成するRGB3原色データの各ドットが眼に像を結ぶ際に、RGBをひとまとまりのデータとして認識することであると考えることができる。従って、例えば、RGBの並びをGRBに変更したとしても、これらが人間の眼でひとまとまりと認識されればよい。図5は、図3における左眼用画像データをRGBのドットレベルで表現したものである。L3の画像データ(図3の画素302)を認識するためには、L−R3(図5のドット501)、 L−G3(図5のドット502)、 L−B3(図5のドット503) の3ドットをひとまとまりと認識できればよい。
【0032】
すなわち、3原色データRGBのドットレベルで移動させることが可能である。このときの様子を図6に示す。図6は、図5での左眼用画像に着目しており、図6(A)は、図5と同じ状態である。符号604は、表示部が左眼用画像を表示する表示領域を示す。図6(B)は、1画素分移動した状態(図4)を示している。図6(C)がドットレベルで1ドット分だけ移動した状態を示している。網がけの部分は左眼用画像の移動により、ドットのデータが欠落していることを示す。図6(C)は左眼用画像のRデータ(図6(A)の符号601)のドットに着目し、それぞれL−R1をL−R2へ、L−R2をL−R3へ、L−R3をL−R4の位置へとRデータを移動した状態を示す図である。
【0033】
このようにデータを移動しても、図6(C)に示すように、元のRGB1画素の並びは変化していない。この移動方法による画像の移動量は、図6(C)の符号602に示すように、1画素単位の移動(図6(B)の603)に比べて小さい、1/3画素分の移動となる。従って1画素分のデータ単位で移動させるよりも細かい視差量調整が可能である。
【0034】
同様に、RデータとGデータの2ドットに着目すれば、図7(C)のように、L−R1、L−G1をL−R2、L−G2へL−R2、L−G2をL−R3、L−G3へとそれぞれ移動させることにより調整量を細かくすることが可能となる。この移動は、2/3画素分の移動に対応する(図7の符号703)。この場合でも、1画素分のデータ単位で移動させるよりも細かい視差量調整が可能である。
【0035】
本実施の形態では、Rデータの移動およびRデータとGデータの移動の例を示したが、該当データの組み合わせのみに限定されるものではない。また、色データ単位の移動と1画素単位の移動とを組み合わせて画像データを移動させてもよい。
【0036】
以上に説明した方法により視差量を調整する際に、左右のうちの片方の画像のみを移動していくと、ユーザーが観察する立体画像の中心も移動した方向へずれてしまい、良好な立体視が難しい。そこで、視差量調整情報算出部3は、視差量調整情報を算出する際に、左眼用画像と右眼用画像とを連動させて、ともに移動するように調整してもよい。例えば、ユーザーによる視差量の調整が4画素分であれば、左眼用画像を4画素分移動させるのではなく、左眼用画像を2画素分、右眼用画像を左眼用画像とは逆方向に2画素分移動することで調整する方法を用いることもできる。このように、左眼用画像と右眼用画像を互いに逆方向に同量だけ移動させることにより、立体表示の中心を移動の前後でずらすことなく視差量の調整が可能である。
【0037】
ユーザーによる視差量の調整量が偶数画素分である場合、立体表示の中心をずらさないように調整することが可能である。しかしながら、調整量が奇数画素である場合、左眼用画像、右眼用画像それぞれを同量だけ移動できないため立体表示の中心は左右どちらかにずれてしまう。
【0038】
このような場合には、視差量調整情報算出部3が、立体表示の中心のずれが最小になるように左眼用画像と右眼用画像とを移動する量を算出する。例えば、ユーザーから5画素分の視差量調整の要求があった場合、画像を移動させる単位が1画素単位であれば、左眼用画像を3画素分、右眼用画像を2画素分だけ互いに逆方向に移動させる。前述したようにRGBのそれぞれのドットごとに移動が可能であれば、左眼用画像を2+(2/3)画素分、右眼用画像を2+(1/3)画素分移動させる。
【0039】
このように、立体表示の中心のずれを最小にするようにしても、調整量が奇数画素分の移動を繰り返すと、この中心のずれは大きくなる。そこで、視差量調整情報算出部3は移動を繰り返す場合に、ずれの情報を算出して記憶しておき、この記憶に基づき立体視表示の中心のずれが小さくなるように左眼用画像と右眼用画像の移動量を決定する。好ましくは、立体視表示の中心のずれが最小になるように調整する。
【0040】
図8(A)は、左眼用画像と右眼用画像との初期状態を示す。符号801は表示部6で各画像を表示する表示領域を示し、符号802は表示領域801の中心を示す。図8(A)の画像データが立体視された場合に、その立体視表示の中心と表示領域の中心(802)は同一となる。図8(A)の状態から、ユーザーが、まず左眼用画像データを右方向に1画素分移動させた状態を図8(B)に示す。視差量調整情報算出部3は、ユーザーからの視差量調整の入力から、移動する量を1画素分と算出し、立体画像処理部1へ通知する。例えば、「左眼用画像を1画素右方向に移動する」ことを示すベクトル情報として通知する(図8(B)の符号803)。
【0041】
このベクトル情報が通知された立体画像処理部1は、図8(B)に示すように、移動した画像を生成する。視差調整量情報算出部3は、この情報から、立体視表示の中心の表示領域の中心からのずれを算出し記憶しておく。この例では、片方の画像のみを移動するため、立体表示の中心は図8(B)の符号804の位置となる。従って、視差量調整情報算出部3が算出したずれ情報は、図8(B)の符号805で示す矢印(ベクトル)となる。
【0042】
次に、ユーザーが、再度視差量の調整を行うと、視差量調整情報算出部3は、前回の移動の際のずれ情報を用い、ずれが小さくなるように視差量調整情報を算出する。ずれが最小となるように調整するのが好ましい。視差量調整情報として「左眼用画像データを、さらに3画素分右に移動する」旨が算出された場合は、図8(B)の符号805のずれを解消するように、左眼用画像を右に1画素分移動し、右眼用画像を左に1画素分移動するように立体画像処理部1へ通知する。この通知に基づいて移動する様子を図8(C)に示している。図8(C)の符号806、符号807で示される矢印(ベクトル)が、それぞれの画像を移動した量に対応する。図8(C)の符号808で示される線が、移動後の立体視表示の中心となり、表示領域801の中心とのずれが解消されていることがわかる。
【0043】
本実施の形態では、記憶したずれ情報に基づいてずれを調整する方法を例にして説明したが、ユーザーによる視差量調整後に立体表示の中心のずれが小さくなる方法、好ましくは最小になる方法であれば、他の方法を用いても良い。例えば、ユーザーが、1画素ごとに視差を調整する装置を用い、移動させた画像と方向とを記憶し、続く操作において前回の操作で移動対象では無かった画像を移動対象とし、交互に移動させることによりずれを解消する方法を用いても良い。このようにして、立体画像処理部1で視差量調整がなされた画像データは、表示領域判定部4へ出力される。
【0044】
入力画像は、通常、視差量の調節なしに表示部6で良好に表示されることを考慮して作成されたものであるため、視差量の調整が行われなければ、入力画像から生成される短冊状の画像は表示部6が持つ表示領域と同じサイズである。しかし、視差量の調整が行われて生成された短冊状の画像は、表示部6が持つ表示領域より大きいサイズとなる。そこで、表示領域判定部4では、短冊状の画像のどの領域を表示部6で表示させるかを決定する。この領域の決定基準として、例えば、立体視表示の中心を可能な限り表示の中心からずらさないような方法、また、立体視可能な領域だけを抽出して表示させる方法などが考えられる。
【0045】
図9及び図10を参照して、入力画像データを移動させた際の処理を説明する。図9(A)は、入力画像データを示している。図9(A)の符号901が左眼用立体画像データであり、符号902が右眼用立体画像データである。これらの入力画像データから生成される短冊状の画像のサイズは図1の表示部6の表示領域と同一のサイズであるとする。図9(A)から(C)までの符号903、符号905、符号909は、左眼用立体画像データ、右眼用立体画像データのそれぞれに対応した表示領域の幅を表す矢印である。
【0046】
図9(B)は、右眼用立体画像データを符号906で示すベクトル分だけ移動した例である。符号904は、表示すべき画像データが存在しない領域であり、符号911は表示領域の中心を示し、符号912は立体視表示の中心を示し、符号913は、符号911から符号912へのずれ量を示す。図9(B)に示すように、表示領域判定部4(図1)により、画像データの表示領域を変更し、立体視表示の中心を変えないような領域を抽出することにより、良好な立体画像を再生することができる。
【0047】
例えば、図10の符号1001の矢印で示す範囲を表示領域とする。図10に示すように、符号1004、符号1005、符号1006、符号1007の領域は表示に用いない。このうち、符号1006と符号1005とで示す領域には、画素が存在するが、表示からは切り捨てられる部分である。また、領域1002と、領域1003とは、表示領域ではあるが画像データが存在しないため、後述する画像補間処理によりデータを与える部分である。このように表示領域を選択することで、表示位置の中心と立体視表示の中心とを一致または近傍に設定することが可能となる。
【0048】
図9、図10に示すように、画像を移動させると、図9(A)の符号904の領域や、図10の符号1002、符号1003の領域のように、画像データが無い表示領域が生じる。そこで、このような領域をより良好に再現するために、画像データの補間処理を行う。本実施の形態による方法では、表示部6(図1)に部分的に2次元表示モードと3次元表示モード(立体表示)とを切替可能なディスプレイを用いることを想定し、そのディスプレイにおいて良好に表示できるような補間処理を行う。図1も参照して説明する。
【0049】
表示モードの切り替えは、例えば、図11(A)に示したバリアの一部(符号1101、符号1102)を無くすことにより、それぞれの片方の眼で再生されていた符号1103と符号1104とで指示される画素が、図11(B)に示すように両眼で再生可能になることにより実現される。但し、部分的に表示モードが切り替えられば、その切り替え手段は、図11(B)に示される方法に限定されるものではない。
【0050】
前述のように、ユーザ−により視差量の調整が行われた画像データは、表示領域判定部4により表示領域すべき領域が設定され、その設定された表示領域中に画素データが無い領域が存在するかどうかを判定する。この領域に関する情報は、画像データと共に画像補間部5に出力される。2次元表示モードで良好に再生される画像データを得るため、画像補間部5では、画像データが存在しない画素に対して周辺画素のデータに基づく補間処理によって画素データを生成する。
【0051】
図9を参照して、画像補間部5での処理の例を説明する。前述したように、図9(B)の符号904で示される領域が、移動に起因して補間処理が必要になる領域である。表示領域判定部4は、符号904で示される領域には表示するための画像データがない旨を判定し、この領域904を2次元表示モードで表示するように表示部6に指示する。併せて、画像補間部5に、この領域904に補間データを生成するように指示する。
【0052】
画像補間部5では、まず、画像の移動によりデータが欠落した領域であり、かつ、表示対象でもある領域に対して、左眼用画像から対応する部分のデータをコピーする。図9(C)に示す例では、領域907のデータが領域908にコピーされる。実際には、図9(C)に示す状態は、左眼用立体画像データと右眼用立体画像データとが短冊状に並べられている。図9(C)の領域910付近を拡大した図を図12(A)に示す。図12(A)に示すように、木の部分を黒、背景の部分を白で示す。この部分を含む短冊状に変換された立体視用画像データは、図12(B)に示すようになる。
【0053】
図12(B)の網かけの部分(符号1201で示される領域など)の部分は、右眼用立体画像データが移動したために、表示すべき画素データがない部分である。図12(C)は、上述のように左眼用立体画像データの対応部分から右眼用立体画像データへ画素データをコピーした様子を示す図である。図12(C)では、L1の画像データをR2へ、L2の画像データをR3へコピーしたことを示している。このような処理を行うことにより、該当領域を表示した際には、図12(B)よりは良好に観察されるが、実際には粗さは目立つ。そこで、画像補間部5は、補間処理の際に、図12(D)に示すような補間画像を生成する。例えば、水平方向に2タップの低域通過フィルタをかける。例えば、R5の画像領域(符号1204)のデータは、L4(符号1203)とL5(符号1202)から(L4+L5)/2の式に基づいて算出する。例えば、符号1205で示される列の画素データを含む画素のデータがない他の領域の画素データに関しても、同様に隣り合う左眼用画像データに基づいて算出する。
【0054】
補間方法は、上記のような平均値を用いる方法に限定されるものではなく、例えば、3タップ以上の低域通過フィルタを用いて補間を行ってもよい。また補間を行った領域は、その補間処理により水平エリアシングやフィルタによるボケが発生することがあるため、鮮鋭フィルタやノイズ除去フィルタなどを用いることにより、良好な表示が得られるようにしてもよい。このようにして生成された補間された立体画像データは、表示部6に出力される。前述のように低域通過フィルタを用いて補間画像データを生成することにより、表示部6において、2次元表示モードに適した良好な画像が得られる。図10において画素データが存在しない表示領域1002、1003が生じているが、これらの領域についても、前述と同様の方法で補間しても良い。
【0055】
以上のように、図1の表示領域判定部4では、実際の表示に用いられる領域内における画素データの有無を判定し、画素データが無い領域を画像補間部5において補間すべき領域と判定する。このように、補間する領域を表示領域内に限定することで、補間処理の負担を軽減を図ることができる。
【0056】
また本実施の形態では、画素単位での画像の移動を例にして説明したが、前述のように、3原色データのRGBデータ単位での移動の例に関しても、同様の領域判定処理や補間処理が可能であることは言うまでもない。また、表示装置において補間された領域を部分的に2次元表示モードに切り替える技術について説明したが、上記の方法は、部分的に2次元表示モードに切り替える機能を備えない立体表示装置に対して適用することも可能である。この場合には、補間された領域は、従来通り立体表示モードにより表示される。
【0057】
以上、本発明の第1の実施の形態による立体画像表示技術によれば、視差量が調整された立体画像において、立体視表示が困難な領域に対して補間画像を作成して表示することにより、表示領域を縮小することなく、また、違和感の少ない良好な立体画像を表示することが可能となる。
【0058】
次に、本発明の第2の実施の形態による立体画像表示技術について説明する。第1の実施の形態による立体画像表示技術では、ユーザーの視差量調整により画素データが存在しない表示領域については補間画像データを作成し、該当領域を2次元表示する技術について説明した。本実施の形態による立体画像表示技術は、画素データが存在しない表示領域に他の画像データを表示することで良好な立体表示を行う技術である。
【0059】
図13は、本実施の形態による立体画像表示装置の構成例を示すブロック図である。図1に示す立体画像表示装置との違いは、画像補間部5(図1)の代わりに画像データ生成部7を設けた点である。画像データ生成部7は、例えば図10の領域1002と領域1002に対応する左眼用画像データの領域、および、領域1003と領域1003に対応する右眼用画像データの領域に新たな画像データを挿入する。
【0060】
図14は、画像データ生成部7(図13)が、新たな画像データを挿入する様子を示す図である。図14(A)において、符号1401及び符号1402は、画素データが存在しない部分を示し、符号1403及び符号1404は、立体表示のためのペアになるデータが存在しない部分である。画像データ生成部7は、これらの領域(図14(A)の符号1406、1407の矢印で示される領域)に対して、図14(B)に示すように新たな画像1411a、1411bを合成し、図14(C)に示す画像を得る。尚、符号1405で示す矢印の領域は表示領域を示す。
【0061】
このように、良好な立体視が出来ない領域に新たに画像データを生成して表示させることにより、ユーザーは良好な立体画像の箇所のみを再生することができる。
【0062】
尚、本実施の形態で用いる新たな画像は2次元表示モード用の画像であっても、立体表示モード用の画像であっても良い。また、2次元表示モード用の画像を用いた場合、部分的に表示モードを2次元表示モードに切り替えてもよいが、このような機能が無い場合には、3次元表示モードのまま再生を行ってもよい。
【0063】
本実施の形態よる立体画像表示技術によれば、立体視表示が困難な領域に対し、新たな画像を生成することにより違和感が少ない良好な立体画像を表示することができる。
【0064】
次に、本発明の第3の実施の形態による立体画像表示技術について図面を参照して説明する。第1及び第2の実施の形態による立体画像表示技術は、ユーザーによる立体画像の視差量調整と視差量調整を行った際の立体画像の表示処理である。ところで、複数の立体画像を繰り返し表示する際に、その度毎に改めて視差量調整の操作を行うと、ユーザーにとって処理が煩雑になる。そこで、これを回避するため、本実施の形態による立体画像表示技術では、ユーザーが調整した視差量を立体画像毎に記憶する。
【0065】
尚、以降、視差量調整情報をシフトベクトルと称する。このシフトベクトルは、例えば、図9(B)の符号906で示すベクトルである。シフトベクトルの内容は、調整した視差量を表せるものであれば、いかなる形式でもよい。例えば、立体画像が撮影された状態、すなわち、ユーザーによる視差量調整が行われていない状態を0とし、特定画像の特定方向への移動を+とし、その逆の方向への移動を−とし、調整量(ドット数あるいは画素数)を示すようにしても良い。また、シフトベクトルの大きさを画素数で表した場合、立体画像を観察するディスプレイの大きさが変わると視差量も変わるため、見え方(飛び出し距離など)が変化する。従って、ディスプレイの大きさを変えても同様の状態が観察ができるように、シフトベクトルとして、立体画像の飛び出し距離そのものを、例えばcmなどの単位によって記録しておいてもよい。飛び出し距離は、例えば視差量を調整しない状態を基準(0)として表される。飛び出し距離の算出例を図25を参照して説明する。
【0066】
図25(A)に示すように、観察者の左眼と右眼の間の距離をeとし、観察者とディスプレイとの間の距離をLとする。図25(A)の状態は、右眼で観察する画素と左眼で観察する画素が同一のスリット(P1)で観察される状態である。この時、この画素はディスプレイ上において観察される。
【0067】
次に、右眼で観察する画像を図面の左方向に1画素分だけ移動させる。この状態を図25(B)に示す。P1に存在した画素はP2の位置に移動する。この時、左眼で観察される画素と右眼で観察される画素は異なるスリットで観察され、S1の位置に像を結び、立体感が生じる。この時のディスプレイからの距離dが飛び出し距離である。
【0068】
ここで、図25(B)に示すようにP1からP2への移動距離をwとする。wは、装置(ディスプレイ)に依存する値である。また、ディスプレイと観察者との距離Lも、パララックスバリア方式やレンチキュラ方式の場合、ディスプレイに依存する。従って、飛び出し量を算出するためには、ディスプレイと観察者との距離Lと移動距離wとを知る必要がある。尚、観察者の左眼と右眼の距離eはほぼ一定と考えられる。これらを前提として、飛び出し距離dは次の式で求められる。
e:(L−d)=w:d (1)
(1)式より(2)式が求められる。
d=(w×L)/(e+w) (2)
【0069】
ここで、飛び出し距離dと移動距離wは正負の値をとる。飛び出し距離dが正の値を取る時は、ユーザーが視差量の調整を行う前の状態から飛び出すように見えることを示し、負の値を取る時は、ユーザーが視差量の調整を行う前の状態から奥に見えることを示す。また、移動距離wは、右眼で観察する画像を左に移動させる時は正の値をとり、右眼で観察する画像を右に移動させるときは負の値をとる。図25(B)では、w及びdが共に正の値を取るため、dの距離だけ飛び出して見える。これとは逆に、図25(A)から右眼で観察する画像を右に1画素分だけ移動させた図が、図25(C)である。P1に存在した画素がP3の位置に移動し、S2の位置に像を結ぶ。この時、移動距離wは負の値を取るため、飛び出し距離dは、上記(2)式より負の値となる。従って、図25(A)に比べ、図25(C)では奥に像が見えることになる。また、左眼で観察する画像を移動させる時は、移動距離wの正負の値は、右眼で観察する画像を移動させる時の逆となる。本発明の第1の実施の形態による立体画像表示技術では、表示領域を自動的に設定していたが、ユーザーが表示領域を任意に設定する場合には、シフトベクトルの他に設定された表示領域の情報(表示領域情報)を記録し、次回の表示の際に利用する。表示領域情報は、例えば、右眼用画像に着目し、右眼用画像の左端が初期の表示領域の左端からどれだけ移動したかによって示される。
【0070】
本発明の第1の実施の形態による立体画像表示技術では、表示領域を自動的に設定していたが、ユーザーが表示領域を任意に設定する場合には、シフトベクトルの他に設定された表示領域の情報(表示領域情報)を記録し、次回の表示の際に利用する。表示領域情報は、例えば、右眼用画像に着目し、右眼用画像の左端が初期の表示領域の左端からどれだけ移動したかによって示される。
【0071】
以上の原理に基づく立体画像表示技術について、より具体的に説明する。図15は、本実施の形態による立体画像表示装置の構成例を示す機能ブロック図である。図15に示すように、本実施の形態による立体画像表示装置は、図1に示す立体画像表示装置と同様に、入力画像を立体視表示可能なように画像処理を行う立体画像処理部1と、ユーザーからの入力を行うユーザー入力部2と、ユーザーの入力から視差量の調整情報を算出する視差量調整情報算出部3と、画像処理された立体映像から実際にディプレイに表示する領域を判定する表示領域判定部4と特定領域に補間データを生成する画像補間部5と、生成された画像のうち判定された領域を表示する表示部6とを含む。図1との相違点は、立体視情報記録部8を備えた点である。その他の部分の基本的な動作はこれまでの実施形態の説明と同様である。
【0072】
図15において、視差量調整情報算出部3で算出された視差量調整情報(シフトベクトル)は立体画像処理部1に出力されると共に、立体視情報記録部8へも出力される(符号1501)。表示領域判定部4は、表示領域を判定し、さらにユーザーが任意に表示領域を設定するような場合は表示領域を変更し、変更後の表示領域情報を立体視情報記録部8に出力する(符号1502)。立体視情報記録部8は、シフトベクトルを記録(記憶)し、必要に応じて表示領域情報も記録する。
【0073】
次にシフトベクトルと表示領域情報の記録方法の例を示す。本実施の形態では、立体視用画像データにシフトベクトルや表示領域情報を記録するための領域を設ける。通常、画像データは、その画像の大きさや再生時間等を管理するための情報を記憶する領域が設けられている。図16(A)、(B)は、画像データのデータ構造例を示す図である。図16(A)に示すように、立体視用画像データは、例えば、再生時間・画像サイズ等の画像情報を管理する管理情報領域と左眼用・右眼用それぞれの画像データを記録する画像データ領域とを含んで構成されている。
【0074】
図16(A)に示すように、画像情報1601には、画像のサイズや動画ならばその再生時間などの画像全体に関する情報が記述され、右眼用・左眼用画像データ情報1602・1603には、各画像データを復号するのに必要な情報(例えば、符号化の技術としてMPEG−4技術が用いられているなどの情報)が記載されている。さらに、図16(B)に示すように、この管理領域に立体視用画像データのための情報(立体視情報)を記録する領域1604を設け、シフトベクトルや表示領域位置を記録する。
【0075】
記録する際には、装置がこれらの情報を正しく読み取れるように、立体視情報の存在を示すヘッダが必要である。このために、立体視情報1604の先頭に、立体(3D)画像識別情報1605を記録する領域を設ける。立体画像識別情報1605は、立体視情報の存在を示すとともに、後に続く画像データが立体視用画像データである旨を示す。立体画像識別情報1605は、固定長或いは可変長の符号で符号化されたフラグでも良いが、識別可能であれば、例えば、特定の記号列や文字列などでも良い。
【0076】
立体視情報1604中に、立体視画像識別情報1605の他に、シフトベクトルや表示領域位置に関する情報があるが、例えば、長時間の立体視は眼に負担をかけるため、連続視聴時間を制限するといった場合には、その視聴可能時間を合わせて記録してもよい。これらの情報を立体視制御情報と称し、符号1606で示す領域に記録される。立体画像識別情報と立体視制御情報との構成例を、図16(B)に示す。図16(B)に示すように、立体画像識別情報1605に続いて立体視制御情報1606が記録されている。
【0077】
図17(A)、(B)を参照して立体視制御情報について具体的に説明する。シフトベクトルは、移動させる画素数を表す。図17(A)及び(B)に示すように、右眼用画像データに着目し、視差が広がる方向(右方向)に右眼用画像データを4画素移動させた状態であり、シフトベクトル1704は4である。表示領域1703は、画像の左端を基準位置として、水平方向(符号1701の矢印で示される。)に2画素分だけ元の表示領域から移動している。これをベクトル1705で表す。このベクトルの成分は、水平方向に2、垂直方向(1702)に0であり、図17(A)に、表示領域情報として(2,0)で表される。
【0078】
尚、これまで、立体視制御情報を画像データに付随する管理情報領域に記録する場合を例にして説明したが、立体視制御情報を、表示装置が有する所定の記憶部に記録させても良い。
【0079】
視差量情報記録部8で所定の記録領域に格納されるシフトベクトルや表示領域情報の例を図18に示す。図18に示すように、視差量情報記録部には、コンテンツA、B及びCなどのファイル名を付して立体視用画像データを識別する情報とともに、立体視制御情報(シフトベクトルや表示領域情報)がファイル名と対応付けされてテーブル化されている。例えば、コンテンツAは、シフトベクトル(画素数)が4であり、表示領域情報(画素数)が、(2,0)である。尚、図18では、シフトベクトルを1次元ベクトルとして表現している。
【0080】
本実施の形態による立体画像表示技術においては、シフトベクトルと表示領域情報とは、整数画素が単位となっている場合を例にして説明しているが、これに限定するものではなく、整数でない画素単位をシフトベクトルと表示領域情報とを表示する情報として用いることもできる。
【0081】
また、本実施の形態による立体画像表示技術では、シフトベクトルを、右眼用画像/左眼用画像を水平方向に移動させる画素数でも立体視の飛び出し距離の変化量でも良い。従って、シフトベクトルを、移動させる画素数又は立体視の飛び出し距離のいずれの形式で表しているかを示す情報やフラグを、上記立体視制御情報中に記録しても良い。また、立体視制御情報としてシフトベクトルと表示領域情報との両方を記録する例について説明したが、シフトベクトルのみを記録し、予め決められた所定の領域や自動的に求める領域を表示領域としてもよい。或いは、表示領域情報のみを記録してもよい。また、その他の立体視のための情報を記録してもよい。
【0082】
また、本実施の形態では、立体画像識別情報と立体視制御情報とを、画像ファイルの先頭に一箇所だけ記録させた例を示した。しかしながら、抽出が可能であれば、画像ファイルのいずれの領域に記録されていても良く、或いは、画像データ内に記録させていても良い。例えば、画像がMPEG−4で符号化されている場合、画像データには符号化データと符号化データを復号するための情報(ヘッダ情報)が含まれている。このヘッダ情報には、ユーザーが自由に使用できる領域(ユーザー領域)が設けられており、立体画像識別情報や立体視制御情報をこのユーザー領域に記録しても良い。また、立体画像識別情報や立体視制御情報は画像データ内に複数個存在してもよい。これにより、例えば、画像データの途中で視差量を変更することも可能となる。
【0083】
次に、第3の実施の形態による立体画像表示技術により画像データを再生する手順について説明する。ここで、画像データ中には、図17で示した立体画像識別情報と立体視制御情報が記録されているものと仮定する。
【0084】
図19は、本実施の形態における立体視制御情報が付加された立体視用の画像データを表示する立体画像表示装置の構成例を示す機能ブロック図である。図1に示す構成に加えて、立体視情報読み出し部9を有している。立体視情報読み出し部9において、入力画像データに含まれる立体画像識別情報を読み出す。立体画像識別情報の確認により立体視用画像であることが認識されると、立体視情報読み出し部9は立体視制御情報(シフトベクトルや表示領域情報)を読み出し、立体視情報が符号化されている場合は復号する。立体視制御情報にシフトベクトルが存在すれば、視差量調整情報算出部3へ出力し、領域表示位置が存在すれば表示領域判定部4へ出力する。
【0085】
視差量調整情報算出部3では、立体視情報読み出し部9から入力されたシフトベクトルとユーザー入力部2から入力された視差量調整のためのデータを用い、視差量調整情報を算出する。ユーザー入力による視差量の調整がない場合は、シフトベクトのみから視差量調整情報を算出する。立体画像処理部1では、視差量調整情報を用いて立体表示用画像データを生成する。
【0086】
また、表示領域判定部4では、立体視情報読み出し部9から入力された表示領域情報と視差量調整情報とに従って、新たな表示領域を判定する。ユーザー入力による視差量調整がない場合は、立体視情報読み出し部9からの視差量調整情報がそのまま用いられる。
【0087】
以上説明したように、ユーザーが同一の立体画像データを繰り返して再生する際に、前回の再生時にユーザーが行った調整を立体視制御情報として記憶しておき、再生時に立体視制御情報を利用することにより、再生の度に視差量調整を行う手間をかけることなく、前回の再生時と同様に再生することが可能となる。
【0088】
以上、本発明の第3の実施の形態によれば、画像データ即ちコンテンツに関するシフトベクトルを記録することで、同一のコンテンツを視聴する際には再度視差量を調整する手間が省け、また、コンテンツ毎に適切なシフトベクトルを記録しておくことができる。
【0089】
次に、本発明の第4の実施の形態による立体画像表示技術について、図面を参照して説明する。適切な視差量の調整は、ユーザーにとってはより良好な状態で再生可能となるため有効である。しかし、調整方法を誤ると良好に立体視ができなくなる場合がある。本実施の形態では、これを避けるために、シフトベクトルの最大値(最大シフトベクトル)設定しておき、ユーザーが調整できる視差量を制限する。最大シフトベクトルは、画像データの管理領域(図16(B)の立体視制御情報)中に含まれていてもよいし、本実施の形態による表示装置の所定の記録領域に記録されていてもよい。
【0090】
最大シフトベクトルの記述例を図20(A)、(B)に示す。図20(A)、(B)において、最大シフトベクトルは前述したシフトベクトルと同一の記述方法で記述される。すなわち、移動させるドット数や飛び出し距離として表現する。図20(A)は、画像データに記録した例であり、最大シフトベクトルは10に設定されている。図20(B)は、表示装置の所定の記憶部にテーブル形式で記録した例であり、コンテンツ毎に最大シフトベクトル値が決められ、例えばコンテンツAでは最大シフトベクトルが10である。図20(A)、(B)の例では、最大シフトベクトルだけでなく他の立体視のための情報も含んでいる例を示しているが、必ずしもそれらと同じ領域に含まれている必要はない。
【0091】
本実施の形態による立体画像データを再生装置の構成例を図21に示す。図21に示すように、図19に示す立体視情報読み出し部9を、最大シフトベクトル読み出し部10で置き換えた構成を有している。最大シフトベクトル読み出し部10は、最大シフトベクトルを立体視制御情報から読み出す。立体視制御情報が入力画像データと同一ファイル内に存在すれば、そのファイル中から最大シフトベクトルの情報を抽出する。また、ファイルとは独立した記憶部に記録されている場合には、入力画像データに対応したシフトベクトルを記憶部より読み出し、最大シフトベクトル情報を抽出する。
【0092】
抽出された最大シフトベクトルは視差量調整情報算出部3へ出力される。視差量調整情報算出部3はユーザー入力から算出したシフトベクトルが最大シフトベクトルの範囲内にあるかどうかを判定して、範囲内であれば算出したシフトベクトルをそのまま立体画像処理部1に送る。シフトベクトルが最大シフトベクトルより大きい場合は、最大シフトベクトルを、シフトベクトルとして出力する。これにより、立体視が困難となるような大きなシフトベクトルを用いた表示は行われなくなるため、良好な立体表示が可能となる。尚、最大シフトベクトルは、正の値と負の値の両方を定義することが出来、正の値の絶対値と負の値の絶対値とは必ずしも等しくなくても良い。例えば、図20(B)のコンテンツAに対する最大シフトベクトル(この例では1次元ベクトル)として、(+10)と共に、例えば(−7)を定義した場合には、ユーザー入力から算出したシフトベクトルは、(−7)から(+10)までの間の値に制限されることになる。
【0093】
ユーザー入力から算出したシフトベクトルが、上記最大シフトベクトルの範囲外となる場合は、そのシフトベクトルを用いないようにしてもよい。例えば、図20(B)のコンテンツAの再生時にユーザー入力によるシフトベクトルが20と算出された場合に、表示に用いるシフトベクトルをシフトベクトル値“4”のままとする。また、表示部6で表示モードの切替が可能である場合に、ユーザー入力によるシフトベクトルが最大シフトベクトルを超えたときは、画像全体を2次元表示モードで表示するようにしてもよい。
【0094】
本実施の形態では、最大シフトベクトルを抽出するために、最大シフトベクトル読み出し部10を設けたが、同様の処理を実行できる機能を、図19に示した立体視情報読み出し部9に付加した構成としても良い。
【0095】
本発明の第4の実施の形態によれば、最大シフトベクトルを設定することで、立体視が困難となるほどの視差量の調整を禁止することが可能となり、コンテンツ製作者の意図を損なうことがなく、良好な立体視用画像を生成することができる。
【0096】
次に、本発明の第5の実施の形態による立体画像表示装置について、図面を参照して説明する。シフトベクトルと表示領域とが設定されている立体画像データを用いて画像の再生を行う場合や、画像の再生中に立体画像の視差量を調整する場合において、画像の拡大・縮小などの画像処理を併用して立体画像データの再生を行う場合に、シフトベクトルと実際にシフトすべき画素数とが異ってしまうことがある。このような場合には、画像の拡大・縮小処理とともに、シフトベクトルにも拡大・縮小処理を行うと良い。この様子を図22(A)から図22(E)までを参照して説明する。
【0097】
図22(A)に示す画像データを入力画像データとし、図22(B)に示す画像データを、視差量調整(1画素シフト)を行った画像データとする。これに対して、図22(C)に示す画像データは、入力画像データを拡大処理(水平方向に2倍拡大)を行った画像であり、図22(D)に示す画像データは、図22(C)に示す画像データを視差量調整した(1画素シフト)である。シフトベクトルが画素単位で表されている場合は、このように拡大後の画像に対しても図22(D)のような調整を行うこととなるが、これは、ユーザーが意図した調整とは異なってしまう。そこで、本実施の形態による技術は、画像の拡大・縮小に合わせてシフトベクトルなどの立体視制御情報の拡大・縮小も行う。
【0098】
図23は、本実施の形態による立体画像表示装置の構成例を示す機能ブロック図である。図23は、図19に示す構成に加えて、画像の拡大・縮小処理を行う拡大・縮小処理部11と、立体視制御情報変換部12とが設けられている。拡大・縮小が行われる際は、拡大・縮小処理部11において、入力画像データの拡大・縮小処理が行われ、拡大・縮小された画像データは、画像処理部1へ出力される。その時、拡大・縮小処理部11はその拡大・縮小率を、立体視制御情報変換部12に出力する。
【0099】
画像データに付随する立体視制御情報は、立体視情報読み出し部9で読み出される。本実施の形態における立体視情報読み出し部9は、シフトベクトル、表示領域情報に加え、最大シフトベクトルも読み出す。読み出された立体視制御情報は、視差量調整情報算出部3や表示領域判定部4に出力される。
【0100】
視差量調整情報算出部3で算出された視差量調整情報は、立体視制御情報変換部12において入力画像データの拡大・縮小率を乗じて変換される。例えば、視差量調整情報が1次元ベクトルで(−3)、拡大・縮小率が2である時、視差量調整情報は(−6)に変換される。同様に、表示領域判定部4にて生成された表示領域情報は、立体視制御情報変換部12において拡大・縮小率に合わせて変換される。
【0101】
本実施の形態による立体画像表示技術を用いると、図22(D)ではなく図22(E)のような拡大・縮小率に合わせた視差量調整が行われることになり、ユーザーは適切な画像を観察することができる。
【0102】
本発明の第5の実施の形態によれば、視差量調整のためのシフトベクトルは、立体画像が拡大・縮小された際には、その拡大・縮小率に合わせた補正を行うので、視差量調整を行う立体画像データが拡大・縮小処理された場合にも、良好な立体視用画像を生成することができる。
【0103】
次に、本発明の第6の実施の形態による立体画像表示技術について図面を参照して説明する。上記各実施の形態における技術は、ファイルに格納された立体視用の画像データに対し、立体視情報を格納する技術である。ところで、BS放送や地上デジタル放送などの放送コンテンツとして立体視用の画像データを伝送する際には、立体視情報を放送に適した方法で格納・伝送する必要がある。例えば、ユーザーがチャンネルを変えて、新たな放送コンテンツを受信し始めた時にも、このような立体視情報が取得できるようにする必要がある。
【0104】
BS放送や地上デジタルの放送等の場合、どのような番組が放送されているかを管理するための番組配列情報が、例えば図24(A)に示すようにコンテンツと多重化されて放送されている。放送コンテンツには複数のコンテンツのデータが含まれており、これらの内容を示す情報が番組配列情報である。番組配列情報は、各コンテンツを構成する映像信号及び音声信号を放送コンテンツの中から分離・識別するための情報(PMT:Program Map Table)や各コンテンツの内容を記述した番組案内情報(EIT:Event Information Table)などからなる。
【0105】
番組配列情報は、受信機におけるチャンネルの切替が、どの時点で行われても対応できるように、放送コンテンツの中に繰り返し多重化されて送られる。本実施の形態による立体画像表示技術では、番組配列情報に、立体視情報を含めるものである。
【0106】
図24(B)に、立体視情報を番組配列情報に組み込んだ例を示す。ここで、立体視情報は、本発明の第3の実施の形態において説明したように、立体画像識別情報と立体視制御情報とを含んでいるものとする。すなわち、立体画像識別情報は、コンテンツが立体画像であることを示し、立体視制御情報中には、シフトベクトルや表示領域情報、最大シフトベクトルなどの情報が含まれる。
【0107】
受信機は、上記のような放送コンテンツから立体画像識別情報を利用して、コンテンツが立体画像であることを判別し、立体視制御情報を抽出する。そして、これまで説明してきた他の実施の形態と同様に立体視制御情報からシフトベクトル等を取得し、立体視用画像データを生成・表示する。
【0108】
立体視制御情報中のシフトベクトルや領域表示位置などの情報は、ユーザーが画像の立体感を変更した際のデータを記録するものとして説明してきたが、これらの情報を放送側が設定してもよい。例えば、放送開始時には、シフトベクトルの値を0としておき、後に放送局が独自に、あるいはユーザーからの要求によって、放送側でシフトベクトルの値を0以外の値に設定して放送することも可能である。また、コンテンツ製作者の意図に従って、放送側で最大シフトベクトルを設定し立体視制御情報に含め、受信機にて視差量調整を行う際の制限に利用することも可能である。
【0109】
また、立体画像識別情報と立体視制御情報とは、番組配列情報に含まれるとして説明したが、これらの情報は番組配列情報中に限らず、画像データ中に含めてもよい。例えば、放送コンテンツがMPEG−4で符号化されている場合、立体画像識別情報や立体視制御情報を先に説明したようにユーザー領域に含めるようにしてもよい。このような場合も、コンテンツを番組途中から視聴を可能にするために、立体画像識別情報や立体視制御情報を周期的に画像データに含まれなければならない。この復号のための情報に立体画像識別情報と立体視制御情報を含めようにしてもよい。
【0110】
本発明の第6の実施の形態によれば、BS放送や地上デジタル放送等の番組配列情報に立体視情報を含めることで、立体画像のコンテンツを放送する際にも、視差量の調整、表示位置の変更、視差量調整の制限を行うことができる。
【0111】
次に、本発明の第7の実施形態である立体画像表示技術について、図面を参照して説明する。前記第3の実施形態において、視差量を調整するための情報であるシフトベクトルとして、水平方向に移動させる画素数を指定する例を挙げているが、別の例として、立体画像の飛び出し方向及び距離を指定する例,画像を移動させる方向と距離を指定する例,立体画像の視差の角度を指定する例を以下に示す。
【0112】
図25に示したように、右眼で観察される画像に関して、P1に位置する画素がP2やP3に位置するように移動すると、立体画像の見え方としては、移動前にはディスプレイ面上P1の位置に像を結んでいた画素が、移動後はディスプレイ面上から距離|d|だけ離れた位置S1やS2に像を結ぶことになる。ここで|d|は、cm等長さの単位で表せる量である。d自体は正負の値をとり、例えば図25(B)に示すように像がディスプレイ面より手前に離れていれば正の値、図25(C)に示すように像がディスプレイ面より奥に離れていれば負の値とする。
【0113】
dは、ディスプレイの特性や観察条件が既知であって標準的な環境、即ち「標準観察環境」の下で測定もしくは規定される量とする。立体画像表示装置においては、このdを基にして実際に必要な視差量の調整値を算出する。このような構成をとることにより、視差量調整の結果表示される立体画像から受ける観察者の印象や影響が、表示部(ディスプレイ)の特性や観察条件が様々に異なる複数の立体画像表示装置間で、同程度になるように制御することが可能になる。以下に、前記dを基にして視差量の調整値を算出する方法の例を示す。
【0114】
図25(B)に示す状態を例に説明する。既に説明した通り、ディスプレイ面上の右眼用画素P1を、水平方向に距離wだけ離れた位置P2に来るように右眼用画像を水平移動すると、移動前はディスプレイ面上の位置P1で像を結んでいた画像が、ディスプレイ面から距離dだけ離れた位置S1で像を結ぶ。この時dは、前述の式(2)のように与えられる。
【0115】
ここで、式(2)で用いられている各変数d,L,w,eは、全て前記標準観察環境における値とする。同様に、任意の立体画像表示装置においても、前記式(2)の関係が成り立つ。ただし、eを除いた、d,L,wは通常、前記標準観察環境とは異なる値になる。ここでは、任意の立体画像表示装置におけるこれらの変数を、d’,L’,w’と表す。即ち、以下の式(2’)が成り立つ。
d’=(w’×L’)/(e+w’) …(2’)
【0116】
eは、観察条件に関わらず一定とする。式(2)及び式(2’)からd’について解くと、以下の式(3)の関係が得られる。ただし、ここでW及びW’はそれぞれ、前記標準観察環境におけるディスプレイ上の画像表示幅W,および、上記任意の立体画像表示装置におけるディスプレイ上の画像表示幅W’を表し、これらは(W:W’=w:w’)の関係にあることを仮定している。
d’=L’×W’×d/(L×W+(W’−W)×d) …(3)
【0117】
前記式(3)のようにd’が得られれば、前記式(2’)の関係からw’が得られる。w’は、ディスプレイ面上における画像の移動距離を表しているため、実際に移動させる必要のある画素数をh’とすると、h’は以下の式(4)から得られる。ここでp’は、ディスプレイの水平方向の画素ピッチ(隣接した画素間の距離)である。
h’=w’/p’ …(4)
【0118】
以上のように、前記標準観察環境におけるL,W,d等のパラメータが分かっていれば、任意の立体画像表示装置において必要な視差量の調整値を算出することが可能である。
【0119】
前記パラメータの内、LやWは、標準観察環境を規定すれば値が固定されるパラメータであるので、立体視用画像データ毎に指定する必要はなく、予め各立体画像表示装置で記憶していれば良い。従って、視差量を調整するためには、前記dに相当するパラメータを立体視用画像データに関連付けて記録あるいは伝送すれば良い。dに相当するパラメータを記録あるいは伝送する場合には、該パラメータをdの正負の方向を示すパラメータと、距離の絶対値を示すパラメータの二つのパラメータで構成しても良いし、両者を含んだ正負の値を持つ一つのパラメータのみで構成しても良い。
【0120】
図26(a)、(b)に、前記dに相当するパラメータを含む前記立体視情報の構成例を示す。図26(a)の例は、dを飛び出し方向2601と飛び出し距離2602の二つのパラメータで表しており、図26(b)の例は、dを方向と距離を含んだ飛び出しベクトル2603のみで表している。dを示すパラメータは、上記のようにディスプレイ面からの飛び出し位置(もしくは引っ込み位置)を示すパラメータでも良いし、ディスプレイ面からは離れた任意の基準位置にあった画素の、ディスプレイ面に直交する方向の移動量を表すパラメータであっても良い。
【0121】
なお、上記dは、調整すべき飛び出し量を指定するための値である場合と、飛び出し量の許容最大値を指定するための値である場合の二通りが考えられる。従って、dに相当するパラメータを記録または伝送する際には、いずれであるかを予め決定しておくか、前記立体視制御情報中に、これらいずれの値であるかを示すパラメータを別途含めておけば良い。あるいは、両者を前記立体視制御情報中に含んでも良い。
【0122】
視差量を調整するための情報の別の例として、画像を移動させる方向と距離を指定する例を以下に示す。
前記のように、(W:W’=w:w’)の関係にあることを仮定すると、標準観察環境の条件としてWの値が予め分かっていれば、後はwが与えられれば、W’の条件を備える立体画像表示装置において、w’を算出することが可能である。従って、視差量を調整するための情報としてwを示すパラメータを指定すれば良い。wを示すパラメータとしては、dと同様に、wの正負の方向を示す値と、距離の絶対値を示す値の二つのパラメータで構成されていても良いし、両者を含んだ正負の値を持つ一つのパラメータのみで構成されていても良い。このときのwの方向は、例えば右眼用画像を右方向へ移動させる場合が正で、左方向へ移動させる場合を負とする。図26(c)に、前記wを示すパラメータを含む前記立体視情報の構成例を示す。ここで、平行移動ベクトル2605が前記wを示すパラメータに相当する。
【0123】
視差量を調整するための情報のさらに別の例として、立体画像の視差の角度を指定する例を以下に示す。
図25に示したように、P1に位置する画素がP2やP3に位置するように移動すると、像を結ぶ位置に関して視差θであった角度がθ1、θ2に変化する。これら角度を、標準観察環境における値として規定すれば、LとL’の関係やWとW’の関係などから、任意の立体画像表示装置における視差の角度θ’を算出することが可能である。従って、視差量を調整するための情報としてθnを示すパラメータを指定すれば良い。θnを示すパラメータとしては、θ1やθ2で表されるような、角度の絶対値を示すパラメータで構成されていても良いし、図25(A)で示すような視差の無い状態のθと、これらθ1やθ2との差を示すパラメータ(即ち、θ1−θやθ2−θを表す値)で構成されていても良い。図26(d)、(e)に、前記θnを示すパラメータあるいは、前記θ1−θやθ2−θを示すパラメータを含む前記立体視情報の構成例を示す。ここで、視差角度2606と視差角度変位2607が、前記θnを示すパラメータもしくは前記θ1−θやθ2−θを示すパラメータに相当する。
【0124】
次に、上記視差量調整の結果、どのように表示領域を決定するかについて説明する。既に説明した通り、視差量調整のために画像を移動させると、立体画像として表示できる画像の幅が変化するため、表示領域が一意に定まらない。前記第3の実施形態においては、この表示領域をユーザーが任意に設定し、表示領域情報として記録する例を挙げている。この表示領域情報の代わりに、平面表示画像選択情報を用いる例を以下に説明する。
【0125】
平面表示画像選択情報は、立体視用画像データを平面画像として表示する際に、左眼用画像,右眼用画像のいずれを用いるかを示す情報である。立体視用画像データは、前記のように左眼用画像と右眼用画像を含んでいるため、いずれかの画像をそのまま平面画像として表示することが可能である。もちろん、そのままではなく、補間処理や補正処理を加えた上で表示しても良い。
【0126】
平面表示画像選択情報は、図26に示すように、立体視制御情報中に含める。平面表示画像選択情報は、前記表示領域情報と同様にユーザーが設定した結果を記録しても良いし、前記第6の実施形態に示したように、予め立体視情報の中に含まれていても良い。
【0127】
この平面表示画像選択情報は、前記立体画像表示装置においては、表示領域判定部4において解釈され、視差量調整を行った立体画像の表示領域を決定するために用いられる。即ち、前記表示領域判定部4は、立体視制御情報中の平面表示画像選択情報で指定された画像、即ち左眼用画像もしくは右眼用画像の全体を表示するように、視差量の調整された立体画像の表示領域を決定する。なお、本動作は、前記全ての実施形態で説明された構成の立体画像表示装置(図1、図13、図15、図19、図21、図23)に関して適用可能である。
【0128】
前記のように表示領域を決定した際の、前記表示部6での表示状態を図27に示す。図27は、(a)が視差量調整を行わなかった場合の状態で、(b),(c)はいずれも、左眼用画像に対して右眼用画像を右方向にシフトした状態である。シフトしたことによって、図のように、左眼用画像と右眼用画像の水平位置が一致しなくなる。左眼用画像と右眼用画像の両方(両眼画像)が存在する領域は、そのまま立体表示ができる領域である。左眼用画像と右眼用画像のいずれか(片眼画像)しか存在しない領域は、そのままでは立体表示ができない領域である。片眼画像の領域は、観察者の両眼に同一の画像を見せて平面画像としてもよいし、該片眼画像を元に他方の片眼画像を生成あるいは補間する等何らかの画像処理を施して立体画像としてもよい。この時表示領域を、前記平面表示画像選択情報で指定された方の画像の位置と一致するように決定する。図27(b)は、前記平面表示画像選択情報で「左眼用画像」が指定されている例における左右画像の位置と表示領域の関係を、図27(c)は、前記平面表示画像選択情報で「右眼用画像」が指定されている例における左右画像の位置と表示領域の関係をそれぞれ示している。
【0129】
以上のように表示領域を決定することによって、次のような効果がある。即ち、前記のように、立体画像表示装置において平面表示する場合は、前記平面表示画像選択情報に従って、左眼用画像もしくは右眼用画像のみを用いて表示を行う。例えば、平面表示画像選択情報で「左眼用画像」が指定されている場合、左眼用画像全体が表示される。この時、表示モードを立体画像表示に切り替えたとしても、同様に左眼用画像全体が表示されるように表示領域が選択されるため、平面表示/立体表示の違いはあるが観察者からは左眼用画像の位置が固定して見えることになり、その結果、表示モード切り替えの違和感を少なくすることが可能である。
【0130】
なお、このように立体表示と平面表示の切り替えが可能な立体画像表示装置においては、表示部6は立体表示モードと平面表示モードを備え、両者を切り替えることが可能な表示デバイスである。立体表示モードと平面表示モードの切り替えは、立体画像表示装置のユーザーがボタンなどの操作によって切り替えても良いし、前記第6の実施形態に記載のように立体視情報が繰り返し伝送されるようなケースでは、前記立体視制御情報中に立体表示と平面表示を切り替えるためのパラメータを含めていても良い。また、立体画像識別情報自体、即ち立体視情報自体の有無によっても、立体表示と平面表示を切り替えるような構成とする。また、表示モードは、表示画面全体に対して切り替えても良いし、任意の表示範囲単位で切り替えても良い。
【0131】
次に、本発明の第8の実施形態である立体画像表示技術について、図面を参照して説明する。前記の通り立体表示時の視差量を変更・調整するためには、複数画像の内の少なくとも一つの画像に関して、その表示位置を移動させる必要がある。前記各実施例においては、上記表示位置を移動させる、あるいは移動させない対象の画像をいずれにするかはパラメータとして指定しないが、本実施形態の立体画像表示技術はこれを指定することを特徴とする。
【0132】
本実施形態の立体視制御情報は、図28に示すように、視差量の調整量を指定するパラメータ、即ち、飛び出し方向及び距離、飛び出しベクトル、平行移動ベクトル、視差角度、視差角度変位に加えて、視差量調整基準画像2801を含むことが特徴である。視差量調整基準画像2801は、視差量を調整する際に基準とする画像、即ちその表示位置を固定させて動かさない画像を指定するためのパラメータである。立体画像の制作者もしくは調整を行うユーザーは、本パラメータを用いて、視差量調整時の表示範囲の基準となる画像を適応的に選択することができる。指定の手段としては、複数画像に対応する視点番号を用いれば良い。例えば、左眼用画像と右眼用画像の2視点の画像で構成される立体画像データを記録もしくは伝送する際、前記飛び出し方向及び距離等のパラメータで視差量の調整量を指定すると共に、視差量調整基準画像パラメータで左眼用画像と右眼用画像のいずれかを指定する。2視点の場合、視差量調整基準画像パラメータとしては、例えば2値の0/1で左眼用画像/右眼用画像を指定することができる。また、「不定」を意味する値を指定することで、基準画像の選択を表示装置側に任せることも可能である。
【0133】
立体画像表示装置においては、前記視差量調整基準画像パラメータで指定された画像の表示位置は固定したまま、それ以外の画像の表示位置を移動させることで、視差量の調整を行う。具体的には、視差量調整情報算出部3において視差量調整基準画像を含む立体視制御情報に基づいて視差量調整情報を算出し、それに従って立体画像処理部1が視差量を調整した立体画像を生成する。本動作は、前記全ての実施形態で説明された構成の立体画像表示装置(図1、図13、図15、図19、図21、図23)に関して適用可能である。このように立体画像を生成することにより、一つの立体画像データを複数の異なる立体画像表示装置間で視差量調整を行わせた場合に、立体画像として表示される画像の領域が互いに同じになるようにすることが可能になり、画像表示の範囲に関する立体画像データの制作者の意図を適切に反映させることが可能になる。
【0134】
なお、同じ効果を得るための別の手段として、前記視差量調整基準画像パラメータを使用する代わりに、複数画像それぞれの移動方向および移動量を指定する方法も考えられる。即ち、図26(c)や図28(c)の平行移動ベクトル2605、2805に相当するパラメータを、複数画像それぞれに関して備えるようにする。そして、ある特定の画像に対応する平行移動ベクトルを0に指定すれば、その画像は移動させないことになるため、視差量調整基準画像として指定することと同じ効果が得られる。例えば2視点の立体画像の場合、左眼用画像の平行移動ベクトルを0と指定することで、左眼用画像を基準画像にすることができる。
【0135】
また、本実施例に関する立体視制御情報は、さらに、前記第7の実施例で示した平面表示画像選択情報2604を含んでも良い。この場合、平面表示画像選択情報の意味は、前記第7の実施例における意味とは異なるものになる。即ち、第7の実施例においては、平面表示画像選択情報に連動して立体画像の表示領域も決定していたが、本実施例においては、平面表示モードにおける表示領域と立体表示モードにおける表示領域は、それぞれ独立に指定・制御することが可能になる。
以上、本実施の形態に沿って説明したが、本発明はこれらの例に限定されるものではなく、種々の変形が可能であるのは言うまでもない。
【0136】
【発明の効果】
以上説明したように、本発明によれば、視差量が調整された立体画像において、違和感が少なく良好な立体画像を表示することが可能となる。
また、視差量が調整された立体画像を表示する場合に、画像の飛び出し具合や長時間観賞した場合の疲労度など観察者の受ける印象や影響が、画面サイズ等が異なるディスプレイ間で比較した際に大きく異ならないようにすることができる。
【0137】
また、視差量が調整された立体画像を表示する際は、表示領域を左眼画像もしくは右眼画像の全体が表示されるように選択することによって、立体表示/平面表示の表示モード切り替えを行った場合の、両モードで表示される画像の範囲がずれずに済み、違和感なく表示モードの切り替えを行うことが可能である。
また、視差量調整の基準となる画像を指定可能とすることで、立体画像のデータ制作者が適応的に画像の表示領域を選択することが可能になると共に、互いに異なる立体画像表示装置間における立体画像の表示範囲が同一になり、立体表示に関するデータ制作者の意図をより適切に反映することが可能にある。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態による立体画像表示装置の構成例を示す機能ブロック図である。
【図2】図2(A)、(B)は、本発明の第1の実施の形態による立体画像表示装置における左眼用画像データと右眼用画像データから立体視用画像データを生成する例を示す図である。
【図3】本発明の第1の実施の形態による立体画像表示装置における立体視する際の左眼用画像データと右眼用画像データの対応する画素の例を示す図である。
【図4】本発明の第1の実施の形態による立体画像表示装置における視差量調整した際の画像の移動例を示す図である。
【図5】本発明の第1の実施の形態による立体画像表示装置におけるRGB3原色のドットデータと画素の対応例を示す図である。
【図6】本発明の第1の実施の形態による立体画像表示装置における画像を移動させる際にRGB3原色のドットデータのうち1ドットを移動させる例を示す図である。
【図7】本発明の第1の実施の形態による立体画像表示装置における画像を移動させる際にRGB3原色のドットデータのうち2ドットを移動させる例を示す図である。
【図8】図8(A)から(C)までは、本発明の第1の実施の形態による立体画像表示装置における視差量調整の際に画像を中心をずらすことなく移動させる例を示す図である。
【図9】図9(A)から(C)までは、本発明の第1の実施の形態による立体画像表示装置における視差量調整のために画像データを移動させた際の例を示す図である。
【図10】本発明の第1の実施の形態による立体画像表示装置における視差量地要請のために画像データを移動させ、移動後の中心をずらさないように領域を判定した際の補間対象領域の例を示す図である。
【図11】図11(A)及び(B)は、本発明の第1の実施の形態による立体画像表示装置におけるディスプレイを3次元表示と2次元表示とを切り替える方法の例を示す図である。
【図12】図12(A)から(D)までは、本発明の第1の実施の形態による立体画像表示装置における画像データを補間する例を示す図である。
【図13】本発明の第2の実施の形態による立体画像表示装置の構成例を示す機能ブロック図である。
【図14】図14(A)から(C)までは、本発明の第2の実施の形態における、視差量調整を行い、画像の表示領域に画素値が存在しない時に、その領域に画像を生成する例を示す図である。
【図15】本発明の第3の実施の形態による立体画像表示装置の構成例を示す機能ブロック図である。
【図16】図16(A)及び(B)は、本発明の第3の実施の形態による立体画像表示装置における立体視を行うための立体視制御情報の格納方法の例を示す図である。
【図17】図17(A)及び(B)は、本発明の第3の実施の形態による立体画像表示装置における立体視を行うための立体視制御情報を画像データ内に格納する際の記述方法の例を示す図である。
【図18】本発明の第3の実施の形態による立体画像表示装置における立体視を行うための立体視制御情報を装置内に記録する時の記述方法の例を示す図である。
【図19】立体視制御情報を付随する立体視用の画像データを表示させる立体画像表示装置の構成例を示す機能ブロック図である。
【図20】図20(A)及び(B)は、本発明の第4の実施の形態による立体画像表示装置における最大シフトベクトルを立体視制御情報に含めて記録する例を示す図である。
【図21】本発明の第4の実施の形態による立体画像表示装置における最大シフトベクトルの情報を持つ立体視用の画像データを表示する立体画像表示装置の構成例を示す機能ブロック図である。
【図22】図22(A)から(E)までは、本発明の第5の実施の形態による立体画像表示装置における立体視用の画像データを拡大・縮小して表示する時に視差量調整を行う時の画像データの移動例を示す図である。
【図23】本発明の第5の実施の形態による立体画像表示装置の構成例を示す機能ブロック図である。
【図24】図24(A)及び(B)は、本発明の第6の実施の形態による立体画像表示装置における立体視制御情報を伝送媒体で伝送する際の格納例を示す図である。
【図25】図25(A)から(C)までは、本発明の第3の実施の形態による立体画像表示装置における飛び出し距離を算出するための計算例を示す図である。
【図26】本発明による第7の実施の形態による立体視情報の構成例を示す図である。
【図27】本発明による第7の実施の形態による画像表示領域の選択例を示す図である。
【図28】本発明による第8の実施の形態に係る、立体視情報の構成例を示す図である。
【符号の説明】
1…立体画像処理部、2…ユーザー入力部、3…視差量調整情報算出部、4…表示領域判定部、5…画像補間部、6…表示部、7…画像データ生成部、8…立体視情報記録部、9…立体視情報読み出し部、10…最大シフトベクトル読み出し部、11…拡大・縮小処理部、2601…飛び出し方向、2602…飛び出し距離、2603…飛び出しベクトル、2604…平面表示画像選択情報、2605…平行移動ベクトル、2606…視差角度、2607…視差角度変位、2801…視差量調整基準画像。

Claims (8)

  1. 左右の画像を1画素分の画像データ毎に交互に短冊状に並べて表示する方式を用い、複数の視点に対応した複数の画像に基づいて立体画像を表示する立体画像表示装置であって、視差量の変更を示す視差量変更情報を読み出す読み出し部と、前記視差量変更情報に基づいて立体表示用の画像を生成する画像処理部と、前記複数の画像中の所定の領域を補間する画像補間部であって、前記立体表示用の画像の表示領域に画素値が存在しない無画素値領域がある場合に、該無画素値領域のみを他の画素値を用いて補間する画像補間部と、を備え、
    立体表示を行う表示領域を判定する表示領域判定部であって、立体視表示の中心のずれが小さくなるように、前記表示領域の判定を行う表示領域判定部を有する立体画像表示装置において、
    前記画像処理部は、前記視差量変更情報に基づいて、左右の画像の各画素を構成するRGB3原色データのドットレベル単位で画像データを移動させることにより、立体表示用の画像を生成することを特徴とする立体画像表示装置
  2. 左右の画像を1画素分の画像データ毎に交互に短冊状に並べて表示する方式を用い、複数の視点に対応した複数の画像に基づいて立体画像を表示する立体画像表示装置であって、視差量の変更を示す視差量変更情報を読み出す読み出し部と、前記視差量変更情報に基づいて立体表示用の画像を生成する画像処理部と、前記複数の画像中の所定の領域に新たな画像を生成する画像生成部と、を備え、前記画像生成部は、前記立体表示用の画像の表示領域に画素値が存在しない無画素領域がある場合、該無画素領域のみに、新たな画像を生成し、
    立体表示を行う表示領域を判定する表示領域判定部であって、立体視表示の中心のずれが小さくなるように、前記表示領域の判定を行う表示領域判定部を有する立体画像表示装置において、
    前記画像処理部は、前記視差量変更情報に基づいて、左右の画像の各画素を構成するRGB3原色データのドットレベル単位で画像データを移動させることにより、立体表示用の画像を生成することを特徴とする立体画像表示装置。
  3. 前記表示領域判定部において対応が取れない領域の有無を判定し、対応が取れない領域があると判定されると、前記画像補間部に対して、対応が取れない領域に関する情報を出力し、前記表示領域判定部において、対応が取れない領域が無いと判定された場合には、立体視用画像データをそのままスルーで表示部に出力することを特徴とする請求項1に記載の立体画像表示装置。
  4. 前記画像補間部において、前記表示領域判定部より出力された立体視用画像データは、該表示領域判定部で判定された領域に画素データを与えるように補間処理を行うとともに、補間処理がなされた立体視用画像データを表示部へ出力し、該表示部において、前記表示領域判定部から出力された立体視用画像データ、あるいは、前記画像補間部から出力された立体視用画像データの表示を行うことを特徴とする請求項1に記載の立体画像表示装置。
  5. さらに、視差量の変更に関する情報を入力する入力部を有する請求項1からまでのいずれか1項に記載の立体画像表示装置。
  6. さらに、少なくとも前記複数の画像が立体視用の画像であることを示す立体画像識別情報と、前記視差量の変更を示す情報とを含む立体視情報を記録する立体視情報記録部を有することを特徴とする請求項1からまでのいずれか1項に記載の立体画像表示装置。
  7. さらに、少なくとも前記複数の画像が立体視用の画像であることを示す立体画像識別情報と前記表示領域の情報とを含む立体視情報を記録する立体視情報記録部を有することを特徴とする請求項1からまでのいずれか1項に記載の立体画像表示装置。
  8. さらに、少なくとも前記複数の画像が立体視用の画像であることを示す立体画像識別情報と、前記視差量の変更の範囲を示す情報とを含む立体視情報を記録する立体視情報記録部を有することを特徴とする請求項1からまでのいずれか1項に記載の立体画像表示装置。
JP2003053914A 2002-09-27 2003-02-28 立体画像表示装置、記録方法、及び伝送方法 Expired - Fee Related JP4174001B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2003053914A JP4174001B2 (ja) 2002-09-27 2003-02-28 立体画像表示装置、記録方法、及び伝送方法
AU2003268677A AU2003268677A1 (en) 2002-09-27 2003-09-26 Three-dimensional image display device, recording method, and transmission method
PCT/JP2003/012302 WO2004030377A1 (ja) 2002-09-27 2003-09-26 立体画像表示装置、記録方法、及び伝送方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2002283081 2002-09-27
JP2002318954 2002-10-31
JP2003053914A JP4174001B2 (ja) 2002-09-27 2003-02-28 立体画像表示装置、記録方法、及び伝送方法

Publications (2)

Publication Number Publication Date
JP2004208255A JP2004208255A (ja) 2004-07-22
JP4174001B2 true JP4174001B2 (ja) 2008-10-29

Family

ID=32830590

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003053914A Expired - Fee Related JP4174001B2 (ja) 2002-09-27 2003-02-28 立体画像表示装置、記録方法、及び伝送方法

Country Status (1)

Country Link
JP (1) JP4174001B2 (ja)

Families Citing this family (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006195415A (ja) * 2004-12-13 2006-07-27 Fujitsu Ten Ltd 表示装置及び表示方法
JP2006254240A (ja) * 2005-03-11 2006-09-21 Fuji Xerox Co Ltd 立体画像表示装置、その方法及びプログラム
JP2006261816A (ja) * 2005-03-15 2006-09-28 Sharp Corp 立体画像データ生成装置、コンピュータを立体画像データ生成装置として機能させるための立体画像データ生成プログラム、記録媒体および立体画像データ生成方法
JP4698307B2 (ja) * 2005-07-05 2011-06-08 三洋電機株式会社 立体画像処理方法及び立体画像処理装置及びプログラム及びプログラムが格納された記録媒体
US8217991B2 (en) 2005-07-05 2012-07-10 Sanyo Electric Co., Ltd. Method, device and program for processing stereoscopic images and recording medium storing the program
EP1922882B1 (en) * 2005-08-19 2012-03-28 Koninklijke Philips Electronics N.V. A stereoscopic display apparatus
US7701637B2 (en) * 2005-11-02 2010-04-20 Koninklijke Philips Electronics N.V. Optical system for 3 dimensional display
JP2006171730A (ja) * 2005-12-07 2006-06-29 Fujitsu Ten Ltd マルチビュー表示装置
US7916934B2 (en) * 2006-04-04 2011-03-29 Mitsubishi Electric Research Laboratories, Inc. Method and system for acquiring, encoding, decoding and displaying 3D light fields
US7679641B2 (en) * 2006-04-07 2010-03-16 Real D Vertical surround parallax correction
TW200818865A (en) * 2006-10-03 2008-04-16 Quanta Comp Inc Apparatus and method for generating stereoscopic image
JP4979136B2 (ja) * 2008-06-03 2012-07-18 Necカシオモバイルコミュニケーションズ株式会社 放送受信端末装置及びプログラム
JP4956843B2 (ja) * 2008-06-06 2012-06-20 Necカシオモバイルコミュニケーションズ株式会社 端末装置及びプログラム
CA2729995C (en) * 2008-07-24 2015-12-22 Panasonic Corporation Playback device capable of stereoscopic playback, playback method, and program
CN102150434A (zh) * 2008-09-18 2011-08-10 松下电器产业株式会社 立体视觉再现影像内容的再现装置、再现方法及再现程序
CN103607585A (zh) 2009-01-21 2014-02-26 株式会社尼康 图像处理装置、图像处理方法
JP5396877B2 (ja) * 2009-01-21 2014-01-22 株式会社ニコン 画像処理装置、プログラム、画像処理方法、および記録方法
JP5428409B2 (ja) * 2009-03-11 2014-02-26 凸版印刷株式会社 画像生成方法
JP5428454B2 (ja) * 2009-03-30 2014-02-26 凸版印刷株式会社 画像生成方法
WO2010122690A1 (ja) * 2009-04-21 2010-10-28 シャープ株式会社 表示装置
WO2010140332A1 (ja) * 2009-06-01 2010-12-09 パナソニック株式会社 立体画像表示装置
JP5604827B2 (ja) * 2009-08-21 2014-10-15 ソニー株式会社 送信装置、受信装置、プログラム、及び通信システム
RU2551789C2 (ru) * 2009-10-02 2015-05-27 Конинклейке Филипс Электроникс Н.В. Выбор точек обзора для формирования дополнительных видов в 3d видео
WO2012005962A1 (en) 2010-06-28 2012-01-12 Thomson Licensing Method and apparatus for customizing 3-dimensional effects of stereo content
JP2012114589A (ja) * 2010-11-22 2012-06-14 Nippon Telegr & Teleph Corp <Ntt> 立体映像処理方法及び装置及びプログラム
JP5751472B2 (ja) * 2011-02-02 2015-07-22 オリンパス株式会社 撮影機器
JP5417356B2 (ja) * 2011-02-08 2014-02-12 株式会社東芝 映像処理装置、映像処理方法および立体映像表示装置
JP5161999B2 (ja) * 2011-04-19 2013-03-13 株式会社東芝 電子機器、表示制御方法及び表示制御プログラム
JP5972535B2 (ja) * 2011-06-30 2016-08-17 株式会社ソシオネクスト 画像処理装置
JP5974235B2 (ja) * 2011-07-08 2016-08-23 東芝メディカルシステムズ株式会社 画像処理装置、画像処理方法、画像処理システム及び医用画像診断装置
CN102244802A (zh) * 2011-07-18 2011-11-16 冠捷显示科技(厦门)有限公司 可调快门式3d眼镜3d和2d兼容的接收装置及方法
JP2013055629A (ja) * 2011-08-10 2013-03-21 Toshiba Corp 映像出力装置及び映像出力方法
JP5310833B2 (ja) * 2011-12-21 2013-10-09 日本電気株式会社 端末装置及びプログラム
WO2013145327A1 (ja) * 2012-03-30 2013-10-03 富士通株式会社 生成装置、生成プログラムおよび生成方法
JP5433774B2 (ja) * 2012-12-05 2014-03-05 株式会社東芝 電子機器、表示制御方法及び表示制御プログラム
CN117111309A (zh) * 2017-06-14 2023-11-24 李程 头戴式显示器及其显示屏、头戴支架和视频

Also Published As

Publication number Publication date
JP2004208255A (ja) 2004-07-22

Similar Documents

Publication Publication Date Title
JP4174001B2 (ja) 立体画像表示装置、記録方法、及び伝送方法
JP4222817B2 (ja) 立体画像表示装置、記録方法、及び伝送方法
KR101506217B1 (ko) 스테레오스코픽 영상의 부분 데이터 구간 재생을 위한스테레오스코픽 영상 데이터스트림 생성 방법과 장치, 및스테레오스코픽 영상의 부분 데이터 구간 재생 방법과 장치
JP4295711B2 (ja) イメージ変換及び符号化技術
US9094657B2 (en) Electronic apparatus and method
JP4181446B2 (ja) 立体画像表示装置
JP5449162B2 (ja) 映像符号化装置、映像符号化方法、映像再生装置、及び映像再生方法
US20050244050A1 (en) Image data creation device, image data reproduction device, and image data recording medium
JP4630150B2 (ja) 立体画像記録装置及びプログラム
KR20110097690A (ko) 다시점 정지 영상 서비스 제공 방법 및 그 장치, 다시점 정지 영상 서비스 수신 방법 및 그 장치
US20110254925A1 (en) Image processing apparatus, image processing method, and program
US20130038611A1 (en) Image conversion device
JP5002047B2 (ja) 立体画像データ再生装置
US20060209183A1 (en) Three-dimensionally viewed image providing method, and three-dimensional image display apparatus
WO2011162037A1 (ja) 立体画像再生装置、立体画像再生システム及び立体画像再生方法
JP4145122B2 (ja) 立体画像表示装置
JP2005073012A (ja) 立体画像記録装置、立体画像記録方法、立体画像表示装置および立体画像表示方法
WO2004030377A1 (ja) 立体画像表示装置、記録方法、及び伝送方法
KR101433082B1 (ko) 2차원 영상과 3차원 영상의 중간 정도 느낌을 주는 영상 변환 및 재생 방법
KR101107153B1 (ko) 3d tv용 영상 데이터 변환 방법 및 장치
JP5759728B2 (ja) 情報処理装置、情報処理装置の制御方法、及びプログラム
JP2011097564A (ja) 映像表示制御方法及び装置
JP2012257150A (ja) 立体映像撮像装置および立体映像再生装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050810

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080418

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080520

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080716

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080812

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080815

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110822

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110822

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120822

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120822

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130822

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees