JP2004320189A - 2次元画像の3次元化方法 - Google Patents
2次元画像の3次元化方法 Download PDFInfo
- Publication number
- JP2004320189A JP2004320189A JP2003108611A JP2003108611A JP2004320189A JP 2004320189 A JP2004320189 A JP 2004320189A JP 2003108611 A JP2003108611 A JP 2003108611A JP 2003108611 A JP2003108611 A JP 2003108611A JP 2004320189 A JP2004320189 A JP 2004320189A
- Authority
- JP
- Japan
- Prior art keywords
- image
- eye image
- dimensional
- dimensional image
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
【課題】2次元画像から、違和感のない3次元画像が作成する。小型画面の画面周囲においても自然な3次元画像を高速に形成する。
【解決手段】輪郭成分を検出する輪郭成分検出手段91と、輪郭成分のエリア内の水平方向の最大点を検出する輪郭成分最大点値検出手段92と、エリアを設定するエリア発生手段93と、補間ポイントを設定する補間ポイント設定手段94と、補間ポイントからルックアップテーブルを設定するルックアップテーブル設定手段95と、入力画像を記憶するメモリー96、左目用画像を作成する左目用画像作成手段97と、右目用画像を作成する右目用画像作成手段98とを有する。輪郭成分検出手段91は、入力2次元画像に含まれる水平方向輪郭成分を検出する。立体視においては、水平方向、すなわち左右方向の画像のずれが意味をもつので水平方向の輪郭を検出する。
【選択図】 図10
【解決手段】輪郭成分を検出する輪郭成分検出手段91と、輪郭成分のエリア内の水平方向の最大点を検出する輪郭成分最大点値検出手段92と、エリアを設定するエリア発生手段93と、補間ポイントを設定する補間ポイント設定手段94と、補間ポイントからルックアップテーブルを設定するルックアップテーブル設定手段95と、入力画像を記憶するメモリー96、左目用画像を作成する左目用画像作成手段97と、右目用画像を作成する右目用画像作成手段98とを有する。輪郭成分検出手段91は、入力2次元画像に含まれる水平方向輪郭成分を検出する。立体視においては、水平方向、すなわち左右方向の画像のずれが意味をもつので水平方向の輪郭を検出する。
【選択図】 図10
Description
【0001】
【発明の属する技術分野】
本発明は、2次元画像を3次元画像に変換する技術に関し、特に、画面サイズが比較的小さく、また動画像および静止画像を3次元映像に変換するに好適な高速変換が可能な技術に関する。
【0002】
【従来の技術】
2次元画像を3次元化する技術は、今までにもいくつかの技術が提案されている。例えば、2次元画像から3次元画像用の左目画像或いは右目画像を生成する2次元画像の3次元化方法であって、背景画像から手前画像を抽出し、手前画像を移動させ、手前画像を移動させたことによって生じる無画像領域を補填するように手前画像を拡大して合成する方法が開示されている(特許文献1参照)。
【0003】
また、2次元画像から3次元画像用の左目画像あるいは右目画像を生成する2次元画像の3次元化方法であって、2次元画像の立体化しようとする所定領域の周囲の画像を拡大あるいは縮小することにより、前記所定領域を左右に移動させて左目画像あるいは右目画像を作成する方法が開示されている(特許文献2参照)。
【0004】
さらに、2次元の入力映像に基づいて、フィールドの左半部および右半部のうちいずれか一方がそのままで、他方が水平方向の外側に向かって引き延ばされた引き延ばし映像を生成し、引き延ばし映像および入力映像のうち、一方を左目用とし、他方を右目用とする方法が開示されている(特許文献3参照)。
【0005】
また、2次元入力映像信号に基づいて、1フィールド画面内に設定された複数の領域で画像特徴を抽出し、抽出された画像特徴に基づいて視差情報を生成し、各所定領域内の信号から視差情報に応じた位相差を有する第1映像信号と第2映像信号を生成する方法が開示されている(特許文献4参照)。
【0006】
【特許文献1】
特開平7―182533号公報
【特許文献2】
特開平8―63615公報
【特許文献3】
特開平9―116929公報
【特許文献4】
特開平10―51812公報
【0007】
【発明が解決しようとする課題】
しかしながら、特許文献1では、手前画像の内容にもよるが、無画像領域を問題なく補填するためには、手前画像をかなりの量で変形(拡大)する必要があり、得られた3次元画像を見たときに違和感があったり、立体感が不足したりする。また、実際には、手前画像を精度よくかつ高速に抽出する手段がなく、特に、動画に対して適用することは難しい。
【0008】
特許文献2では、2次元画像の立体化しようとする所定領域の周囲を拡大縮小することによって、周囲の部分の画像が大きく歪むことになり、立体感を強くすればするほど歪みが大きくなり、作成された3次元画像が違和感のあるものになりやすいという欠点がある。
【0009】
特許文献3では、引き延ばした結果得られた画像はもとの画像より大きくなるため、大きくなった分は削除して表示することになるが、この部分は右目と左目で片方は画像があるが、片方は画像がない状態が発生する。従って、画面中央部は良いのだが、画像の周囲において不自然な画像、あるいは立体感のない画像になってしまい、違和感のある画像になってしまう欠点がある。特に小型のディスプレイにおいては、相対的に画面中央の面積が少なくなるし、画面全体が目に入り画面枠に近い部分も常に見えるので、この問題は、顕著に表れる。
【0010】
特許文献4では、各領域の特徴情報から正確な視差情報を得る手段が確立されておらず、従って、これから得た情報で得た2つの画像は、各領域での視差設定に誤差を生じ違和感を生じやすい。これを改善するために、より複雑な特徴抽出と視差判別方法を採用することも考えられるが、その装置はより複雑な構成となり、高速動作が困難となる。従って、高速な変換ができなくなり、特に動画への適用が難しくなる。
【0011】
以上のように、従来の技術では、3D変換された映像が不自然になったり、また動画に適する高速な変換ができなかったりするという問題点があった。
本発明は、2次元画像から、違和感のない3次元画像を作成するとともに、小型画面の画面周囲においても自然な3次元画像が実現でき、かつ、高速に変換できる技術を提供することを目的とする。
【0012】
【課題を解決するための手段】
本発明の一観点によれば、2次元画像に基づいて右目用画像と左目用画像とを作成し前記2次元画像を3次元化する方法であって、前記2次元画像における各画素位置に対して、3次元表示をする際の奥行き方向の仮想奥行き位置情報を設定する第1のステップと、前記仮想奥行き位置情報を基に、右目用画像と左目用画像との画素移動量を決定する第2のステップと、決定された前記画素移動量を基に、右目用画像と左目用画像とを生成する第3のステップとを有することを特徴とする2次元画像の3次元化方法が提供される。
【0013】
上記方法によれば、3次元表示をする際の奥行き方向の仮想奥行き位置情報に基づいて右目用画像と左目用画像との画素移動量を決定するため、違和感のない3次元表示が可能となる。
【0014】
また、前記第2のステップにおいて、各画素の移動量に関するデータを記憶させたルックアップテーブルを参照するのが好ましい。ルックアップテーブルを参照して3次元化を行えば、高速に変換を行うことができる。
【0015】
本発明の他の観点によれば、2次元画像に基づいて右目用画像と左目用画像とを作成し前記2次元画像を3次元化する装置であって、前記2次元画像における各画素位置に対して3次元表示をする際の奥行き方向の仮想奥行き位置情報を設定し、前記仮想奥行き位置情報を基に右目用画像と左目用画像との画素移動量を決定し、決定された前記画素移動量を基に右目用画像と左目用画像とを生成し、該右目用画像及び左目用画像に基に3次元表示を行うように制御する制御部を有することを特徴とする装置が提供される。
【0016】
【発明の実施の形態】
以下に、本発明の実施の形態について図面を参照しつつ説明を行う。まず、表示面が平面であるディスプレイに立体的に表示を行う原理について図1を参照して説明する。図1において、符号11は観察者、12は観察者の左目、13は観察者の右目、14は画像を表示するディスプレイの表示面を表す。2次元画像では、ディスプレイ表示面14上のA点に表示される画像について、左目用の画像はLA点に、右目用画像はRA点になるようずらして表示したとする。観察者11は、これを観察するときは、A点に表示される場合と比べると、目の輻輳角を調節して少し外側を向くようにし、ずれた像ではなく一つの被写体画像として認識するが、このとき像がB点にあるようにすなわち、A点より観察者11から遠くに存在するように認識する。
【0017】
また、左目用の画像はLA’点に、右目用画像はRA’点になるようずらして表示したとすると、今度は目の輻輳角を調節して少し内側を向くようにし、一つの被写体画像として認識するが、このとき像がB’点にあるように、すなわちA点よりも観察者11から見て近くにあるように認識する。これらのことは、実験的、経験的に確認されている。このようにして、左目用の画像と右目用の画像とを、ディスプレイ表示面14上において表示位置をずらして表示させることにより立体視が可能となる。
【0018】
以上に説明したような立体視を行うための、左目用の画像と右目用の画像を作成する方法としては、カメラを2台使う方法が知られている。次に、この方法について図2を参照して説明する。図2において、符号21は左目用画像を撮影するためのカメラ、22は左カメラの撮像面、23は右目用画像を撮影するためのカメラ、24は右カメラの撮像面である。2台のカメラ21、23の撮像方向を平行にすると、2台のカメラの中心線上無限遠にある物体が左右画面の中心に撮影される。これが左カメラではLC、右カメラではRCである。無限遠よりもさらに近くにある物体Dは、画面中心からずれて撮影される(符号LD、RD)。符号25に撮影される画面上で、LC、RC、LD,RDの位置を示している。このように、左カメラ21と右カメラ23とでは、物体Dは撮影画像25上の異なった位置、すなわち、ずれ量Xmを有して撮影される。尚、Xmは撮影者11から被写体までの距離により変化する。
【0019】
従って、左カメラ画像を左目用画像として、右カメラ画像を右目用画像としてディスプレイの表示面14に表示し、左目用画像が左目に、右目用画像が右目に到達するように表示すれば、ずれXmをもとに、観察者11は奥行き認識するので奥行きが表現でき、立体視が可能となるのである。尚、ディスプレイへの表示方法については既知の技術があり、ここでは説明は省略する。
【0020】
ところで、3次元撮影のために2台のカメラを使うことは撮影の負担が大きく一般的でないため3次元映像技術が普及しない一因になっている。しかしながら、既に2次元画像が多く存在しており、これらの画像を3次元的に見ることができれば、新たな3次元画像を撮影する必要がなく非常に便利である。従って、かかる、2次元画像に基づき3次元画像を作成する技術が望まれている。
【0021】
1枚の2次元画像から、上記で説明したように表示位置のずれた2枚の画像を作成すれば、3次元画像として見ることができる。このずれ量Xmは、被写体の距離により変わるため、被写体距離によってずらす量を変えた画像を作成すればよい。
【0022】
一般的に、撮影された被写体で画像の表示位置と被写体までの距離はおおむね図3に示すようになっている。図3において、符号31は画面の領域を画定する画枠を、符号32は画面の中心位置を示している。符号33は画面の左端部分、34は右端部分、35は下端部分、36は中央部分、37は上端部分を示す。一般的には、左端部分33、右端部分34、下端部分35には近距離の被写体が、上端部分37には遠方の被写体が、また、中央部分36は比較的遠方の被写体が配置されている場合が多い。従って、画面の中心が一番近くに、中央に向かって遠くになるように表示するように、仮想的な表示位置を定め、これに従って画像をずらすことで、立体視できる画像が作成できる。
【0023】
上記一般則は、実際に撮影された画像に関する経験則に基づくものである。従って、これをもとに3次元画像を作成すれば、多くの場合には良好な3次元画像が得られる。但し、例えば、人物のポートレート撮影では人物を画面の中央に撮影するので、中央には人物、すなわち近い被写体が写ることが多い。このような場合には、その画像にあわせて、中央が近くに表示されるように仮想表示位置を定めれば良い。尚、動画像のように連続して画像内容が変わって行く場合、場面場面で仮想位置を設定することも可能であるが、簡単には最も可能性の高い構図における仮想位置を設定しておく方が全体として良好な3次元画像が得られる。
【0024】
次に、画像の外側部分の仮想的表示位置の設定について説明する。3次元画像をディスプレイに表示し観察する場合に、ディスプレイが比較的大型であれば、画像の縁にあるディスプレイの枠は気にならないことも多いが、ディスプレイが小型になれば、ディスプレイの枠は必ず目に入ってくるようになる。この場合に、この枠は当然一つであり、実際の観察者と枠との距離が観察者に認識される。枠に隣接する画像の一番外側の部分、たとえば図3の画面左端33、画面右端34であるが、これは、3次元画像を作成する場合に、ディスプレイ表示面より近くに見せるか遠くに見せるかといった設定が、左目用、右目用の画像のずらし方で可能である。ところが、表示面から大きくずらしてしまうと、画像の仮想的な表示位置と、ディスプレイの枠の位置が不連続となり、違和感のある画像になったり、立体視ができなくなったりし、画面の中央部分でのみしか立体感が得られなくなる。そこで、特に小型のディスプレイを有する場合では、立体視できる大きさが非常に小さいものとなり、立体視視効果が少なくなる。
【0025】
従って、画像の外側部分はディスプレイ表示面とほぼ同じ位置(つまり、奥行き位置が略ゼロ)に仮想的な表示位置を設定することが望ましい。このようにして、画面左端33、画面右端34の仮想的な表示位置が決められる。それ以外は、図3を参照して説明した相対的な位置関係に従って仮想的な表示位置が決められる。
【0026】
次に右目用画像、左目用画像を作るための画素の移動量設定の仕方について説明する。図4は、元画像から左目画像、右目画像を作る例を示している。符号41は元画像の2次元画像であり、中心を同じにし大きさの異なる矩形を例示している。符号42は左目画像である。元画像の画素位置を移動しているが、小さい矩形ほど左側に大きく移動している。符号43は右目画像である。小さい矩形ほど右側に大きく移動している。小さい矩形ほど左右画像間の中心距離が大きくなっている。図1を参照して説明したように、この左右画像を使って立体視を行うと小さい矩形ほどずれ量が大きく遠くに位置するように認識される。
【0027】
そして、右画像、左画像、それぞれでは、大きさの異なる矩形の中心がずれているにもかかわらず、両目で立体視した場合は、それぞれの矩形の中心が一致して認識され、元画像41のような配置で小さい矩形が奥にあるように認識されることが実験で確かめられている。すなわち、右画像、左画像、それぞれの画像位置の平均的な位置に認識されるのである。従って、右画像、左画像を作成する場合は、それぞれの画像で、元画像からの画素移動は方向が互いに逆で移動量がほぼ同じにすることが望ましい。
【0028】
以上の説明に従って設定した仮想的な奥行き方向の表示位置設定の例と、これに基づく左目用、右目用の画素移動の例について図5(A)から(E)までを参照して説明する。図5(A)の符号51は説明のための座標軸の設定について示している。符号511は観察者であり、符号512はディスプレイ表示位置である。ディスプレイ表示位置512の中心を座標の原点513とし、ディスプレイ表示位置512の水平方向をx、ディスプレイ表示位置512の垂直方向をy、奥行き方向をzとする。またディスプレイ表示位置512の大きさを水平H、垂直Vとする。図5(B)、(C)の符号52は仮想的な画像の表示位置の設定例を示している。これは観察者がディスプレイを見たとき、3次元画像がz軸上のどの位置に見えるかを表している。符号521はx−z領域で表している。符号5211はy=0の点での仮想表示位置である。ディスプレイの両端であるx=−H/2、x=H/2の点ではz=0でありディスプレイと同じ位置に表示し、画面中心部x=0ではzを最大にしており表示位置が奥になるように設定している。図5(C)の符号522はy−z領域で表している。符号5221はy=0の場合、符号5222はx=−H/2またはx=H/2の場合である。
【0029】
ここで、仮想的な表示位置の設定は、隣接する画素で極端に大きく異ならないように、隣接する画素での移動量の変化に換算し、1画素から2画素までの間に設定する必要がある。隣接する画素間に極端な差があると、変換された画像のその部分で画素の飛びまたは変形が認識され、不自然な画像になってしまうためであり、文献2で局部的な変形をしているのと同じような不具合が発生してしまうためである。図5(B)、(C)において、符号521及び522において隣接する画素での仮想的表示位置は連続的に変化するようになっており、極端な変化や飛びはないように設定されている。このようにして、各画素について仮想的な表示位置を設定する。
【0030】
図5(D)、(E)の符号53は、画素移動量の設定例を示す図である。符号531は画素移動量の表し方を示している。座標(x1,y1)に位置する画素を移動して新たな画像を作成する。x軸の+方向を移動の+方向とし、その移動量をmとする。このようにして各画素について移動量を設定する。図5(E)の符号532にその例としてy=0の場合を示している。符号5321が右目用画像を作成するための移動量、符号5322が左目用画像を作成するための移動量である。この移動量は、仮想的な表示位置が決まれば、図1の原理図を参照して幾何的に計算可能である。すなわち、A点をB点に表示したい場合、A点の画像を左目用はLAまでずらし、右目用はRAまでずらせばよい。
【0031】
次に、こうして得られた画素移動量から、左目用画像、右目用画像を作成する方法について説明する。右目用画像を作る場合について図6を参照して説明する。図6(A)の符号62は右目用画像の移動量を示しており、図5(E)の符号532における符号5321と同じものである。この移動量をもとに、ある画像の元画像の画素位置と右画像の画像位置との関係を図6(B)のルックアップテーブル63に示す。xは元画像の水平位置でありxoutは作成する右画像の位置である。符号631の直線は、画素移動がない場合のxとxoutの関係を示しており、この場合はxout = xである。符号632は画素移動を行った場合の例であり、xout = x + mになっている。この関係を用いて右画像を作る場合、例えば、xout1の画素は元画像の x1 にある画素を持ってくれば良い。このようにして、元画像の画素位置と右画像の画素位置との関係を各画素位置について求めたルックアップテーブルを記憶しておく。
【0032】
右画像を作成するには、各画素位置に対して、このルックアップテーブルを参照して元画像の画素位置を求め、その場所の画素を充当する。これをすべての画素で実施すれば右目用画像が作成できる。尚、左目用画像も同様にして作成できる。このようにすれば、実際の画像作成はルックアップテーブルを参照して画素を移動させるだけの処理であり、非常に高速に変換が可能である。この例では、元画像と作成する画像での画素位置をルックアップテーブルにする例で説明したが、これ以外にも、移動量だけをルックアップテーブル化して演算を行って変換する方法なども考えられる。尚、上記の技術を実際に適用する場合は、画素移動量を定めてから仮想的な表示位置を求め、これに基づく表示が適当か否かを検証する作業を行いながら最終的な表示位置を決定しても良い。
【0033】
次に、画像の移動例についてより具体的に説明する。ここでは画像のサイズをH=640画素と仮定する。もちろん、これ以外の画素数の場合にも適用できる。図7に、右画像用の画素移動量の設定例である。図7において、符号611が、右画像用の画素の移動量の設定例である。これは図6(A)の符号5321に対応するものであるが、処理の簡単化のために曲線5321を複数の直線611で近似している。水平サイズを640画素にしたので、x座標は−320<x≦320となる。画像の水平方向について、−320<x≦−160の範囲を例えば20エリアに分割すると、1エリアあたり8画素となる。−160<x≦0のエリアを10エリアに分割すると、1エリアあたり16画素となる。同様に0<x≦160を10エリア、160<x≦320を20エリアに分割する。このようにして分割されたエリアの様子を図8を参照して説明する。640画素中の−320<x≦0の範囲の各エリアについては、1エリアあたり1個の補間ポイントを設定し、この補間ポイントで1画素を補間する。補間する画素は補間ポイントの近傍の画素値に基づいて作成することができる。補間した点より右側の画像は1画素右側に移動する。
【0034】
この様子の詳細を図9に示す。図9は図8左上部に示す符号81の領域の拡大図である。入力2次元画像81のうちエリア1の領域に含まれる1ライン分は1から8までの8画素で構成される。エリア2に含まれる1ライン分は9から16まの8画素で構成される。補間ポイント1を画素4の位置に、補間ポイント2を画素12の位置に設定すると、3次元画像の右目用画像82を作成する場合は、画素4の部分に補間画素1を補間し、入力2次元画像81の4から11までの画素を1画素移動する(m=1)。さらに画素12の部分に補間画素2を補間し、画素12以降を2画素移動する(m=2)。
【0035】
すなわち、これは図7の画素移動の設定の詳細62に示すようになる。詳細62は、右画像の画素移動設定例61の詳細な構成を示す拡大図である。エリア1、エリア2、…、エリア60は、前述のエリア設定である。各エリアの補間ポイントで画素補間を行うものとする。上述したように、補間ポイント1で1画素を補間し、補間ポイント1から補間ポイント2の間の画像は1画素右にずらす(m=1)。さらに、補間ポイント2で1画素を補間し、補間ポイント2から補間ポイント3までの間の画像はさらに1画素ずらし、合計2画素ずらす(m=2)。このようにして、エリア1個につき1画素ずつmが大きくなっていき、エリア30の補間ポイント30からエリア31の補間ポイント31の間の画像は、m=30となる。すなわち画素移動量が30画素である。
【0036】
一方、0<x≦320の範囲の各エリアについては、1エリアあたり1個の補間ポイントを設定し、この補間ポイントで1画素を間引く。尚、間引いた点の近傍の画素は、間引く画素の特性を加味する等の手法を用いて補正することにより、間引きによる不自然さを改善しても良い。間引いた点より右側の画像は、画素移動を1画素減らす。すなわち、エリア31の補間ポイント31からエリア32の補間ポイント32の間の画像は、m=29となる。そしてエリア60の補間ポイント60より右側では移動量がゼロとなる(m=0)。このようにして、画素移動量として符号611(図7)のようなラインが得られるが、その詳細は符号62に示すような階段状のライン611により構成されている。左目用画像の移動についても同様に設定することができる。この移動量のラインの形状は、エリア分割方法により異なる設定とすることが可能である。上述したエリア設定は一例であって、仮想表示位置の設定から決めた画素移動量の設定値に近似するように、エリア設定を行えばよい。
【0037】
補間ポイントの設定については、各エリアについて予め所定の位置に設定すること、例えばエリアの左右方向の中心に設定するのが1つの設定法であり、仮想表示位置の設定に近似した表示位置の画像が得られる。しかしながら、この方法では補間ポイントが規則的に配置されるので、画像の内容がたとえば輪郭がはっきりしていたり入り組んでいたりする場合、補間ポイントが画像観察時に認識されてしまう場合がある。また、立体視をする場合に両目の視差による被写体の輪郭のずれが大きな役割をしている。このため、好ましくは、補間ポイントを画像の輪郭部分に設定する。このようにすると、変換後の画像で補間ポイントが認識されてしまう点が改善され、立体視効果も向上する。上記の点も取り入れた装置の構成例を図10に示す。
【0038】
図10において、符号91は輪郭成分を検出する輪郭成分検出手段、92は輪郭成分のエリア内の水平方向の最大点を検出する輪郭成分最大点値検出手段、93はエリアを設定するエリア発生手段、94は補間ポイントを設定する補間ポイント設定手段、95は補間ポイントからルックアップテーブルを設定するルックアップテーブル設定手段、96は入力画像を記憶するメモリー、97は左目用画像を作成する左目用画像作成手段、98は右目用画像を作成する右目用画像作成手段である。
【0039】
輪郭成分検出手段91は、入力2次元画像に含まれる水平方向輪郭成分を検出する。立体視においては、水平方向、すなわち左右方向の画像のずれが意味をもつので水平方向の輪郭を検出する。輪郭成分は、たとえば画像に含まれる高周波成分をフィルタで抽出することにより得られるが、その手段の具体例は周知の技術であるため説明を省略する。輪郭成分検出手段91により検出された輪郭成分は所定のレベル以上の信号を輪郭成分として検出する。レベルの小さいものは、ノイズ成分である場合が多く、また、レベルの小さい輪郭を補間ポイントに設定すると、3次元変換後の画像で画質劣化が認められるためである。入力2次元画像の例を図11に示し、図11に示す画像を入力したときの輪郭成分検出手段91(図10)の出力の輪郭成分の例を図12に示す。図10に示すエリア発生手段93は、既に説明した方法に沿うように、例えば、図8に示すようにエリアを設定する。輪郭成分最大点値検出手段92は、各エリアの水平方向における輪郭成分の最大点の値を検出する。
【0040】
補間ポイント設定手段94は、輪郭成分最大点値検出手段92の出力の最大ポイントに基づいて補間ポイントを設定するが、ここで注目するラインの中に輪郭成分がない場合は、エリアの水平方向の中心に補間ポイントを設定する。このようにして設定された補間ポイントの設定例を、図13に示す。これまでに説明してきたように、画像の輪郭が強い部分や複雑な画像部分では画像の輪郭部分に補間ポイントが設定され、画像の変化が少ない部分ではエリアの左右の中心部分に補間ポイントが設定されている。ここに示す補間ポイントで画素を補間あるいは間引くことにより画像を移動し、右目用画像、左目用画像を作成する。その方法をまとめると下表のようになる。
【0041】
【表1】
【0042】
以上の内容から入力画像をどれだけ移動すれば変換後の画像が得られるかを特定できるので、これを予め計算してルックアップテーブルを作成する。この処理はルックアップテーブル作成手段95において行う。ルックアップテーブルは右目用と左目用とを作成する。入力2次元画像は、メモリー96に一旦記憶された後、左目用画像作成手段97は、ルックアップテーブル設定手段95で作成された左目用ルックアップテーブルを参照してメモリー96から画像を読み出して左目用画像を作成する。右目用画像手段98はルックアップテーブル設定手段95で作成された右目用ルックアップテーブルを参照してメモリー96から画像を読み出して右目用画像を作成する。
【0043】
補間する画像は補間ポイント近傍の画像から作成し、間引く場合は補間ポイント近傍の画像は補正されるので、左目用画像作成手段97と右目用画像作成手段98とは、この処理を含む。図11を入力画像として、上記のようにして作成された左目用画像を図14(A)に、右目用画像を図14(B)に示す。
【0044】
図14に示すように、左目用画像(A)では、図11に比べ中央部分の被写体が左側にずれており、左右両端の被写体位置は移動していない。また右目用画像(A)では、図11に比べ、中央部分の被写体が右側にずれており、左右両端の被写体位置は移動していない。そして、図14(A)、(B)で比較してみると、中央付近の被写体で位置がずれていることがわかる。従って、これら画像を3次元画像として立体視できる。そしてそれぞれの画像で目につくような破綻は生じていない。すなわちいままで説明したように良好な変換が行われていることがわかる。
図10に示す構成を用いると、処理内容は容易であり、変換そのものはルックアップテーブルを参照すれば良いため、高速な立体視画像への変換が可能である。
【0045】
上述したように、本実施の形態による2次元画像の3次元化技術によれば、違和感のない3次元画像を作成できるとともに、小型画面の画面周囲のおいても自然な3次元画像が実現でき、また高速に変換できるという効果がある。また、各画素の移動量に関するデータを記憶させたルックアップテーブルを設け、ルックアップテーブルを参照することにより高速に2次元画像から3次元画像に変換できるという効果がある。従って、2次元画像から3次元画像変換が高速となるので、特に動画処理を必要とする2次元画像からの3次元画像変換には非常に有効な技術となる。
以上、本実施の形態に沿って説明したが、本発明はこれらの例に限定されるものではなく、種々の変形が可能であるのは言うまでもない。
【0046】
【発明の効果】
上述したように、2次元画像から、違和感のない3次元画像が作成できるとともに、小型画面の画面周囲においても自然な3次元画像が実現でき、また高速に変換できるという効果がある。また、各画素の移動量に関するデータを記憶させたルックアップテーブルを設け、ルックアップテーブルを参照することにより高速に2次元画像から3次元画像に変換できるという効果がある。従って、2次元画像から3次元画像変換が高速となるので、特に動画処理を必要とする2次元画像からの3次元画像変換には非常に有効な技術となる。
【図面の簡単な説明】
【図1】本発明の一実施の形態による立体視の原理を説明するための図である。
【図2】2台のカメラを使用した立体撮影の例を示す図である。
【図3】一般に撮影された被写体の位置と被写体までの距離との関係を示す図である。
【図4】本発明の一実施の形態による右眼用画像および左眼用画像の作成例を示す図である。
【図5】図5(A)から(E)までは、本発明の一実施の形態による仮想的な奥行き方向の表示位置設定の例と、これに基づく左目用、右目用の画素移動の例について示した図である。
【図6】図6(A)は、本発明の一実施の形態による画素移動の設定例を右画像について示した図であり、図6(B)は、xout=x+mに基づいて作成した右画像用のルックアップテーブルの例である。
【図7】本発明の一実施の形態によるエリア分割による画素移動量の設定例を示す図である。
【図8】本発明の一実施の形態によるエリア分割例を示す図である。
【図9】本発明の一実施の形態による画素移動例の詳細を示す図である。
【図10】本発明の一実施の形態による立体画像作成装置の構成例を示すブロック図である。
【図11】入力する2次元画像の例を示す図である。
【図12】図11に示す2次元画像から輪郭成分を検出した例を示す図である。
【図13】補間ポイント設定例を示す図である。
【図14】図14(A)は、変換された左目用の画像例であり、図14(B)は変換された右目用の画像例である。
【符号の説明】
31…画枠、32…画面中心、33…画面左端部、34…画面右端部、35…画面下端部、36…画面中心部、37…画面上端部、41…元画像、42…左眼(目)用画像、43…右眼(目)用画像、91…輪郭成分検出手段、92…輪郭成分最大点値検出手段、93…エリア発生手段、94…補間ポイント設定手段、95…ルックアップテーブル設定手段、96…メモリー、97…左目用画像作成手段、98…右目用画像作成手段、xm…ずれ量。
【発明の属する技術分野】
本発明は、2次元画像を3次元画像に変換する技術に関し、特に、画面サイズが比較的小さく、また動画像および静止画像を3次元映像に変換するに好適な高速変換が可能な技術に関する。
【0002】
【従来の技術】
2次元画像を3次元化する技術は、今までにもいくつかの技術が提案されている。例えば、2次元画像から3次元画像用の左目画像或いは右目画像を生成する2次元画像の3次元化方法であって、背景画像から手前画像を抽出し、手前画像を移動させ、手前画像を移動させたことによって生じる無画像領域を補填するように手前画像を拡大して合成する方法が開示されている(特許文献1参照)。
【0003】
また、2次元画像から3次元画像用の左目画像あるいは右目画像を生成する2次元画像の3次元化方法であって、2次元画像の立体化しようとする所定領域の周囲の画像を拡大あるいは縮小することにより、前記所定領域を左右に移動させて左目画像あるいは右目画像を作成する方法が開示されている(特許文献2参照)。
【0004】
さらに、2次元の入力映像に基づいて、フィールドの左半部および右半部のうちいずれか一方がそのままで、他方が水平方向の外側に向かって引き延ばされた引き延ばし映像を生成し、引き延ばし映像および入力映像のうち、一方を左目用とし、他方を右目用とする方法が開示されている(特許文献3参照)。
【0005】
また、2次元入力映像信号に基づいて、1フィールド画面内に設定された複数の領域で画像特徴を抽出し、抽出された画像特徴に基づいて視差情報を生成し、各所定領域内の信号から視差情報に応じた位相差を有する第1映像信号と第2映像信号を生成する方法が開示されている(特許文献4参照)。
【0006】
【特許文献1】
特開平7―182533号公報
【特許文献2】
特開平8―63615公報
【特許文献3】
特開平9―116929公報
【特許文献4】
特開平10―51812公報
【0007】
【発明が解決しようとする課題】
しかしながら、特許文献1では、手前画像の内容にもよるが、無画像領域を問題なく補填するためには、手前画像をかなりの量で変形(拡大)する必要があり、得られた3次元画像を見たときに違和感があったり、立体感が不足したりする。また、実際には、手前画像を精度よくかつ高速に抽出する手段がなく、特に、動画に対して適用することは難しい。
【0008】
特許文献2では、2次元画像の立体化しようとする所定領域の周囲を拡大縮小することによって、周囲の部分の画像が大きく歪むことになり、立体感を強くすればするほど歪みが大きくなり、作成された3次元画像が違和感のあるものになりやすいという欠点がある。
【0009】
特許文献3では、引き延ばした結果得られた画像はもとの画像より大きくなるため、大きくなった分は削除して表示することになるが、この部分は右目と左目で片方は画像があるが、片方は画像がない状態が発生する。従って、画面中央部は良いのだが、画像の周囲において不自然な画像、あるいは立体感のない画像になってしまい、違和感のある画像になってしまう欠点がある。特に小型のディスプレイにおいては、相対的に画面中央の面積が少なくなるし、画面全体が目に入り画面枠に近い部分も常に見えるので、この問題は、顕著に表れる。
【0010】
特許文献4では、各領域の特徴情報から正確な視差情報を得る手段が確立されておらず、従って、これから得た情報で得た2つの画像は、各領域での視差設定に誤差を生じ違和感を生じやすい。これを改善するために、より複雑な特徴抽出と視差判別方法を採用することも考えられるが、その装置はより複雑な構成となり、高速動作が困難となる。従って、高速な変換ができなくなり、特に動画への適用が難しくなる。
【0011】
以上のように、従来の技術では、3D変換された映像が不自然になったり、また動画に適する高速な変換ができなかったりするという問題点があった。
本発明は、2次元画像から、違和感のない3次元画像を作成するとともに、小型画面の画面周囲においても自然な3次元画像が実現でき、かつ、高速に変換できる技術を提供することを目的とする。
【0012】
【課題を解決するための手段】
本発明の一観点によれば、2次元画像に基づいて右目用画像と左目用画像とを作成し前記2次元画像を3次元化する方法であって、前記2次元画像における各画素位置に対して、3次元表示をする際の奥行き方向の仮想奥行き位置情報を設定する第1のステップと、前記仮想奥行き位置情報を基に、右目用画像と左目用画像との画素移動量を決定する第2のステップと、決定された前記画素移動量を基に、右目用画像と左目用画像とを生成する第3のステップとを有することを特徴とする2次元画像の3次元化方法が提供される。
【0013】
上記方法によれば、3次元表示をする際の奥行き方向の仮想奥行き位置情報に基づいて右目用画像と左目用画像との画素移動量を決定するため、違和感のない3次元表示が可能となる。
【0014】
また、前記第2のステップにおいて、各画素の移動量に関するデータを記憶させたルックアップテーブルを参照するのが好ましい。ルックアップテーブルを参照して3次元化を行えば、高速に変換を行うことができる。
【0015】
本発明の他の観点によれば、2次元画像に基づいて右目用画像と左目用画像とを作成し前記2次元画像を3次元化する装置であって、前記2次元画像における各画素位置に対して3次元表示をする際の奥行き方向の仮想奥行き位置情報を設定し、前記仮想奥行き位置情報を基に右目用画像と左目用画像との画素移動量を決定し、決定された前記画素移動量を基に右目用画像と左目用画像とを生成し、該右目用画像及び左目用画像に基に3次元表示を行うように制御する制御部を有することを特徴とする装置が提供される。
【0016】
【発明の実施の形態】
以下に、本発明の実施の形態について図面を参照しつつ説明を行う。まず、表示面が平面であるディスプレイに立体的に表示を行う原理について図1を参照して説明する。図1において、符号11は観察者、12は観察者の左目、13は観察者の右目、14は画像を表示するディスプレイの表示面を表す。2次元画像では、ディスプレイ表示面14上のA点に表示される画像について、左目用の画像はLA点に、右目用画像はRA点になるようずらして表示したとする。観察者11は、これを観察するときは、A点に表示される場合と比べると、目の輻輳角を調節して少し外側を向くようにし、ずれた像ではなく一つの被写体画像として認識するが、このとき像がB点にあるようにすなわち、A点より観察者11から遠くに存在するように認識する。
【0017】
また、左目用の画像はLA’点に、右目用画像はRA’点になるようずらして表示したとすると、今度は目の輻輳角を調節して少し内側を向くようにし、一つの被写体画像として認識するが、このとき像がB’点にあるように、すなわちA点よりも観察者11から見て近くにあるように認識する。これらのことは、実験的、経験的に確認されている。このようにして、左目用の画像と右目用の画像とを、ディスプレイ表示面14上において表示位置をずらして表示させることにより立体視が可能となる。
【0018】
以上に説明したような立体視を行うための、左目用の画像と右目用の画像を作成する方法としては、カメラを2台使う方法が知られている。次に、この方法について図2を参照して説明する。図2において、符号21は左目用画像を撮影するためのカメラ、22は左カメラの撮像面、23は右目用画像を撮影するためのカメラ、24は右カメラの撮像面である。2台のカメラ21、23の撮像方向を平行にすると、2台のカメラの中心線上無限遠にある物体が左右画面の中心に撮影される。これが左カメラではLC、右カメラではRCである。無限遠よりもさらに近くにある物体Dは、画面中心からずれて撮影される(符号LD、RD)。符号25に撮影される画面上で、LC、RC、LD,RDの位置を示している。このように、左カメラ21と右カメラ23とでは、物体Dは撮影画像25上の異なった位置、すなわち、ずれ量Xmを有して撮影される。尚、Xmは撮影者11から被写体までの距離により変化する。
【0019】
従って、左カメラ画像を左目用画像として、右カメラ画像を右目用画像としてディスプレイの表示面14に表示し、左目用画像が左目に、右目用画像が右目に到達するように表示すれば、ずれXmをもとに、観察者11は奥行き認識するので奥行きが表現でき、立体視が可能となるのである。尚、ディスプレイへの表示方法については既知の技術があり、ここでは説明は省略する。
【0020】
ところで、3次元撮影のために2台のカメラを使うことは撮影の負担が大きく一般的でないため3次元映像技術が普及しない一因になっている。しかしながら、既に2次元画像が多く存在しており、これらの画像を3次元的に見ることができれば、新たな3次元画像を撮影する必要がなく非常に便利である。従って、かかる、2次元画像に基づき3次元画像を作成する技術が望まれている。
【0021】
1枚の2次元画像から、上記で説明したように表示位置のずれた2枚の画像を作成すれば、3次元画像として見ることができる。このずれ量Xmは、被写体の距離により変わるため、被写体距離によってずらす量を変えた画像を作成すればよい。
【0022】
一般的に、撮影された被写体で画像の表示位置と被写体までの距離はおおむね図3に示すようになっている。図3において、符号31は画面の領域を画定する画枠を、符号32は画面の中心位置を示している。符号33は画面の左端部分、34は右端部分、35は下端部分、36は中央部分、37は上端部分を示す。一般的には、左端部分33、右端部分34、下端部分35には近距離の被写体が、上端部分37には遠方の被写体が、また、中央部分36は比較的遠方の被写体が配置されている場合が多い。従って、画面の中心が一番近くに、中央に向かって遠くになるように表示するように、仮想的な表示位置を定め、これに従って画像をずらすことで、立体視できる画像が作成できる。
【0023】
上記一般則は、実際に撮影された画像に関する経験則に基づくものである。従って、これをもとに3次元画像を作成すれば、多くの場合には良好な3次元画像が得られる。但し、例えば、人物のポートレート撮影では人物を画面の中央に撮影するので、中央には人物、すなわち近い被写体が写ることが多い。このような場合には、その画像にあわせて、中央が近くに表示されるように仮想表示位置を定めれば良い。尚、動画像のように連続して画像内容が変わって行く場合、場面場面で仮想位置を設定することも可能であるが、簡単には最も可能性の高い構図における仮想位置を設定しておく方が全体として良好な3次元画像が得られる。
【0024】
次に、画像の外側部分の仮想的表示位置の設定について説明する。3次元画像をディスプレイに表示し観察する場合に、ディスプレイが比較的大型であれば、画像の縁にあるディスプレイの枠は気にならないことも多いが、ディスプレイが小型になれば、ディスプレイの枠は必ず目に入ってくるようになる。この場合に、この枠は当然一つであり、実際の観察者と枠との距離が観察者に認識される。枠に隣接する画像の一番外側の部分、たとえば図3の画面左端33、画面右端34であるが、これは、3次元画像を作成する場合に、ディスプレイ表示面より近くに見せるか遠くに見せるかといった設定が、左目用、右目用の画像のずらし方で可能である。ところが、表示面から大きくずらしてしまうと、画像の仮想的な表示位置と、ディスプレイの枠の位置が不連続となり、違和感のある画像になったり、立体視ができなくなったりし、画面の中央部分でのみしか立体感が得られなくなる。そこで、特に小型のディスプレイを有する場合では、立体視できる大きさが非常に小さいものとなり、立体視視効果が少なくなる。
【0025】
従って、画像の外側部分はディスプレイ表示面とほぼ同じ位置(つまり、奥行き位置が略ゼロ)に仮想的な表示位置を設定することが望ましい。このようにして、画面左端33、画面右端34の仮想的な表示位置が決められる。それ以外は、図3を参照して説明した相対的な位置関係に従って仮想的な表示位置が決められる。
【0026】
次に右目用画像、左目用画像を作るための画素の移動量設定の仕方について説明する。図4は、元画像から左目画像、右目画像を作る例を示している。符号41は元画像の2次元画像であり、中心を同じにし大きさの異なる矩形を例示している。符号42は左目画像である。元画像の画素位置を移動しているが、小さい矩形ほど左側に大きく移動している。符号43は右目画像である。小さい矩形ほど右側に大きく移動している。小さい矩形ほど左右画像間の中心距離が大きくなっている。図1を参照して説明したように、この左右画像を使って立体視を行うと小さい矩形ほどずれ量が大きく遠くに位置するように認識される。
【0027】
そして、右画像、左画像、それぞれでは、大きさの異なる矩形の中心がずれているにもかかわらず、両目で立体視した場合は、それぞれの矩形の中心が一致して認識され、元画像41のような配置で小さい矩形が奥にあるように認識されることが実験で確かめられている。すなわち、右画像、左画像、それぞれの画像位置の平均的な位置に認識されるのである。従って、右画像、左画像を作成する場合は、それぞれの画像で、元画像からの画素移動は方向が互いに逆で移動量がほぼ同じにすることが望ましい。
【0028】
以上の説明に従って設定した仮想的な奥行き方向の表示位置設定の例と、これに基づく左目用、右目用の画素移動の例について図5(A)から(E)までを参照して説明する。図5(A)の符号51は説明のための座標軸の設定について示している。符号511は観察者であり、符号512はディスプレイ表示位置である。ディスプレイ表示位置512の中心を座標の原点513とし、ディスプレイ表示位置512の水平方向をx、ディスプレイ表示位置512の垂直方向をy、奥行き方向をzとする。またディスプレイ表示位置512の大きさを水平H、垂直Vとする。図5(B)、(C)の符号52は仮想的な画像の表示位置の設定例を示している。これは観察者がディスプレイを見たとき、3次元画像がz軸上のどの位置に見えるかを表している。符号521はx−z領域で表している。符号5211はy=0の点での仮想表示位置である。ディスプレイの両端であるx=−H/2、x=H/2の点ではz=0でありディスプレイと同じ位置に表示し、画面中心部x=0ではzを最大にしており表示位置が奥になるように設定している。図5(C)の符号522はy−z領域で表している。符号5221はy=0の場合、符号5222はx=−H/2またはx=H/2の場合である。
【0029】
ここで、仮想的な表示位置の設定は、隣接する画素で極端に大きく異ならないように、隣接する画素での移動量の変化に換算し、1画素から2画素までの間に設定する必要がある。隣接する画素間に極端な差があると、変換された画像のその部分で画素の飛びまたは変形が認識され、不自然な画像になってしまうためであり、文献2で局部的な変形をしているのと同じような不具合が発生してしまうためである。図5(B)、(C)において、符号521及び522において隣接する画素での仮想的表示位置は連続的に変化するようになっており、極端な変化や飛びはないように設定されている。このようにして、各画素について仮想的な表示位置を設定する。
【0030】
図5(D)、(E)の符号53は、画素移動量の設定例を示す図である。符号531は画素移動量の表し方を示している。座標(x1,y1)に位置する画素を移動して新たな画像を作成する。x軸の+方向を移動の+方向とし、その移動量をmとする。このようにして各画素について移動量を設定する。図5(E)の符号532にその例としてy=0の場合を示している。符号5321が右目用画像を作成するための移動量、符号5322が左目用画像を作成するための移動量である。この移動量は、仮想的な表示位置が決まれば、図1の原理図を参照して幾何的に計算可能である。すなわち、A点をB点に表示したい場合、A点の画像を左目用はLAまでずらし、右目用はRAまでずらせばよい。
【0031】
次に、こうして得られた画素移動量から、左目用画像、右目用画像を作成する方法について説明する。右目用画像を作る場合について図6を参照して説明する。図6(A)の符号62は右目用画像の移動量を示しており、図5(E)の符号532における符号5321と同じものである。この移動量をもとに、ある画像の元画像の画素位置と右画像の画像位置との関係を図6(B)のルックアップテーブル63に示す。xは元画像の水平位置でありxoutは作成する右画像の位置である。符号631の直線は、画素移動がない場合のxとxoutの関係を示しており、この場合はxout = xである。符号632は画素移動を行った場合の例であり、xout = x + mになっている。この関係を用いて右画像を作る場合、例えば、xout1の画素は元画像の x1 にある画素を持ってくれば良い。このようにして、元画像の画素位置と右画像の画素位置との関係を各画素位置について求めたルックアップテーブルを記憶しておく。
【0032】
右画像を作成するには、各画素位置に対して、このルックアップテーブルを参照して元画像の画素位置を求め、その場所の画素を充当する。これをすべての画素で実施すれば右目用画像が作成できる。尚、左目用画像も同様にして作成できる。このようにすれば、実際の画像作成はルックアップテーブルを参照して画素を移動させるだけの処理であり、非常に高速に変換が可能である。この例では、元画像と作成する画像での画素位置をルックアップテーブルにする例で説明したが、これ以外にも、移動量だけをルックアップテーブル化して演算を行って変換する方法なども考えられる。尚、上記の技術を実際に適用する場合は、画素移動量を定めてから仮想的な表示位置を求め、これに基づく表示が適当か否かを検証する作業を行いながら最終的な表示位置を決定しても良い。
【0033】
次に、画像の移動例についてより具体的に説明する。ここでは画像のサイズをH=640画素と仮定する。もちろん、これ以外の画素数の場合にも適用できる。図7に、右画像用の画素移動量の設定例である。図7において、符号611が、右画像用の画素の移動量の設定例である。これは図6(A)の符号5321に対応するものであるが、処理の簡単化のために曲線5321を複数の直線611で近似している。水平サイズを640画素にしたので、x座標は−320<x≦320となる。画像の水平方向について、−320<x≦−160の範囲を例えば20エリアに分割すると、1エリアあたり8画素となる。−160<x≦0のエリアを10エリアに分割すると、1エリアあたり16画素となる。同様に0<x≦160を10エリア、160<x≦320を20エリアに分割する。このようにして分割されたエリアの様子を図8を参照して説明する。640画素中の−320<x≦0の範囲の各エリアについては、1エリアあたり1個の補間ポイントを設定し、この補間ポイントで1画素を補間する。補間する画素は補間ポイントの近傍の画素値に基づいて作成することができる。補間した点より右側の画像は1画素右側に移動する。
【0034】
この様子の詳細を図9に示す。図9は図8左上部に示す符号81の領域の拡大図である。入力2次元画像81のうちエリア1の領域に含まれる1ライン分は1から8までの8画素で構成される。エリア2に含まれる1ライン分は9から16まの8画素で構成される。補間ポイント1を画素4の位置に、補間ポイント2を画素12の位置に設定すると、3次元画像の右目用画像82を作成する場合は、画素4の部分に補間画素1を補間し、入力2次元画像81の4から11までの画素を1画素移動する(m=1)。さらに画素12の部分に補間画素2を補間し、画素12以降を2画素移動する(m=2)。
【0035】
すなわち、これは図7の画素移動の設定の詳細62に示すようになる。詳細62は、右画像の画素移動設定例61の詳細な構成を示す拡大図である。エリア1、エリア2、…、エリア60は、前述のエリア設定である。各エリアの補間ポイントで画素補間を行うものとする。上述したように、補間ポイント1で1画素を補間し、補間ポイント1から補間ポイント2の間の画像は1画素右にずらす(m=1)。さらに、補間ポイント2で1画素を補間し、補間ポイント2から補間ポイント3までの間の画像はさらに1画素ずらし、合計2画素ずらす(m=2)。このようにして、エリア1個につき1画素ずつmが大きくなっていき、エリア30の補間ポイント30からエリア31の補間ポイント31の間の画像は、m=30となる。すなわち画素移動量が30画素である。
【0036】
一方、0<x≦320の範囲の各エリアについては、1エリアあたり1個の補間ポイントを設定し、この補間ポイントで1画素を間引く。尚、間引いた点の近傍の画素は、間引く画素の特性を加味する等の手法を用いて補正することにより、間引きによる不自然さを改善しても良い。間引いた点より右側の画像は、画素移動を1画素減らす。すなわち、エリア31の補間ポイント31からエリア32の補間ポイント32の間の画像は、m=29となる。そしてエリア60の補間ポイント60より右側では移動量がゼロとなる(m=0)。このようにして、画素移動量として符号611(図7)のようなラインが得られるが、その詳細は符号62に示すような階段状のライン611により構成されている。左目用画像の移動についても同様に設定することができる。この移動量のラインの形状は、エリア分割方法により異なる設定とすることが可能である。上述したエリア設定は一例であって、仮想表示位置の設定から決めた画素移動量の設定値に近似するように、エリア設定を行えばよい。
【0037】
補間ポイントの設定については、各エリアについて予め所定の位置に設定すること、例えばエリアの左右方向の中心に設定するのが1つの設定法であり、仮想表示位置の設定に近似した表示位置の画像が得られる。しかしながら、この方法では補間ポイントが規則的に配置されるので、画像の内容がたとえば輪郭がはっきりしていたり入り組んでいたりする場合、補間ポイントが画像観察時に認識されてしまう場合がある。また、立体視をする場合に両目の視差による被写体の輪郭のずれが大きな役割をしている。このため、好ましくは、補間ポイントを画像の輪郭部分に設定する。このようにすると、変換後の画像で補間ポイントが認識されてしまう点が改善され、立体視効果も向上する。上記の点も取り入れた装置の構成例を図10に示す。
【0038】
図10において、符号91は輪郭成分を検出する輪郭成分検出手段、92は輪郭成分のエリア内の水平方向の最大点を検出する輪郭成分最大点値検出手段、93はエリアを設定するエリア発生手段、94は補間ポイントを設定する補間ポイント設定手段、95は補間ポイントからルックアップテーブルを設定するルックアップテーブル設定手段、96は入力画像を記憶するメモリー、97は左目用画像を作成する左目用画像作成手段、98は右目用画像を作成する右目用画像作成手段である。
【0039】
輪郭成分検出手段91は、入力2次元画像に含まれる水平方向輪郭成分を検出する。立体視においては、水平方向、すなわち左右方向の画像のずれが意味をもつので水平方向の輪郭を検出する。輪郭成分は、たとえば画像に含まれる高周波成分をフィルタで抽出することにより得られるが、その手段の具体例は周知の技術であるため説明を省略する。輪郭成分検出手段91により検出された輪郭成分は所定のレベル以上の信号を輪郭成分として検出する。レベルの小さいものは、ノイズ成分である場合が多く、また、レベルの小さい輪郭を補間ポイントに設定すると、3次元変換後の画像で画質劣化が認められるためである。入力2次元画像の例を図11に示し、図11に示す画像を入力したときの輪郭成分検出手段91(図10)の出力の輪郭成分の例を図12に示す。図10に示すエリア発生手段93は、既に説明した方法に沿うように、例えば、図8に示すようにエリアを設定する。輪郭成分最大点値検出手段92は、各エリアの水平方向における輪郭成分の最大点の値を検出する。
【0040】
補間ポイント設定手段94は、輪郭成分最大点値検出手段92の出力の最大ポイントに基づいて補間ポイントを設定するが、ここで注目するラインの中に輪郭成分がない場合は、エリアの水平方向の中心に補間ポイントを設定する。このようにして設定された補間ポイントの設定例を、図13に示す。これまでに説明してきたように、画像の輪郭が強い部分や複雑な画像部分では画像の輪郭部分に補間ポイントが設定され、画像の変化が少ない部分ではエリアの左右の中心部分に補間ポイントが設定されている。ここに示す補間ポイントで画素を補間あるいは間引くことにより画像を移動し、右目用画像、左目用画像を作成する。その方法をまとめると下表のようになる。
【0041】
【表1】
【0042】
以上の内容から入力画像をどれだけ移動すれば変換後の画像が得られるかを特定できるので、これを予め計算してルックアップテーブルを作成する。この処理はルックアップテーブル作成手段95において行う。ルックアップテーブルは右目用と左目用とを作成する。入力2次元画像は、メモリー96に一旦記憶された後、左目用画像作成手段97は、ルックアップテーブル設定手段95で作成された左目用ルックアップテーブルを参照してメモリー96から画像を読み出して左目用画像を作成する。右目用画像手段98はルックアップテーブル設定手段95で作成された右目用ルックアップテーブルを参照してメモリー96から画像を読み出して右目用画像を作成する。
【0043】
補間する画像は補間ポイント近傍の画像から作成し、間引く場合は補間ポイント近傍の画像は補正されるので、左目用画像作成手段97と右目用画像作成手段98とは、この処理を含む。図11を入力画像として、上記のようにして作成された左目用画像を図14(A)に、右目用画像を図14(B)に示す。
【0044】
図14に示すように、左目用画像(A)では、図11に比べ中央部分の被写体が左側にずれており、左右両端の被写体位置は移動していない。また右目用画像(A)では、図11に比べ、中央部分の被写体が右側にずれており、左右両端の被写体位置は移動していない。そして、図14(A)、(B)で比較してみると、中央付近の被写体で位置がずれていることがわかる。従って、これら画像を3次元画像として立体視できる。そしてそれぞれの画像で目につくような破綻は生じていない。すなわちいままで説明したように良好な変換が行われていることがわかる。
図10に示す構成を用いると、処理内容は容易であり、変換そのものはルックアップテーブルを参照すれば良いため、高速な立体視画像への変換が可能である。
【0045】
上述したように、本実施の形態による2次元画像の3次元化技術によれば、違和感のない3次元画像を作成できるとともに、小型画面の画面周囲のおいても自然な3次元画像が実現でき、また高速に変換できるという効果がある。また、各画素の移動量に関するデータを記憶させたルックアップテーブルを設け、ルックアップテーブルを参照することにより高速に2次元画像から3次元画像に変換できるという効果がある。従って、2次元画像から3次元画像変換が高速となるので、特に動画処理を必要とする2次元画像からの3次元画像変換には非常に有効な技術となる。
以上、本実施の形態に沿って説明したが、本発明はこれらの例に限定されるものではなく、種々の変形が可能であるのは言うまでもない。
【0046】
【発明の効果】
上述したように、2次元画像から、違和感のない3次元画像が作成できるとともに、小型画面の画面周囲においても自然な3次元画像が実現でき、また高速に変換できるという効果がある。また、各画素の移動量に関するデータを記憶させたルックアップテーブルを設け、ルックアップテーブルを参照することにより高速に2次元画像から3次元画像に変換できるという効果がある。従って、2次元画像から3次元画像変換が高速となるので、特に動画処理を必要とする2次元画像からの3次元画像変換には非常に有効な技術となる。
【図面の簡単な説明】
【図1】本発明の一実施の形態による立体視の原理を説明するための図である。
【図2】2台のカメラを使用した立体撮影の例を示す図である。
【図3】一般に撮影された被写体の位置と被写体までの距離との関係を示す図である。
【図4】本発明の一実施の形態による右眼用画像および左眼用画像の作成例を示す図である。
【図5】図5(A)から(E)までは、本発明の一実施の形態による仮想的な奥行き方向の表示位置設定の例と、これに基づく左目用、右目用の画素移動の例について示した図である。
【図6】図6(A)は、本発明の一実施の形態による画素移動の設定例を右画像について示した図であり、図6(B)は、xout=x+mに基づいて作成した右画像用のルックアップテーブルの例である。
【図7】本発明の一実施の形態によるエリア分割による画素移動量の設定例を示す図である。
【図8】本発明の一実施の形態によるエリア分割例を示す図である。
【図9】本発明の一実施の形態による画素移動例の詳細を示す図である。
【図10】本発明の一実施の形態による立体画像作成装置の構成例を示すブロック図である。
【図11】入力する2次元画像の例を示す図である。
【図12】図11に示す2次元画像から輪郭成分を検出した例を示す図である。
【図13】補間ポイント設定例を示す図である。
【図14】図14(A)は、変換された左目用の画像例であり、図14(B)は変換された右目用の画像例である。
【符号の説明】
31…画枠、32…画面中心、33…画面左端部、34…画面右端部、35…画面下端部、36…画面中心部、37…画面上端部、41…元画像、42…左眼(目)用画像、43…右眼(目)用画像、91…輪郭成分検出手段、92…輪郭成分最大点値検出手段、93…エリア発生手段、94…補間ポイント設定手段、95…ルックアップテーブル設定手段、96…メモリー、97…左目用画像作成手段、98…右目用画像作成手段、xm…ずれ量。
Claims (16)
- 2次元画像に基づいて右目用画像と左目用画像とを作成し前記2次元画像を3次元化する方法であって、
前記2次元画像における各画素位置に対して、3次元表示をする際の奥行き方向の仮想奥行き位置情報を設定する第1のステップと、
前記仮想奥行き位置情報を基に、右目用画像と左目用画像との画素移動量を決定する第2のステップと、
決定された前記画素移動量を基に、右目用画像と左目用画像とを生成する第3のステップと
を有することを特徴とする2次元画像の3次元化方法。 - 前記第2のステップにおいて、
前記2次元画像の左右端部近傍及び下端部近傍と比べて、前記2次元画像の上端部付近傍及び画像の中心部近傍を、より大きな仮想奥行き位置に設定することを特徴とする請求項1に記載の2次元画像の3次元化方法。 - 前記第2のステップにおいて、前記2次元画像の左右端部近傍又は下端部近傍の仮想奥行き位置を略ゼロに設定することを特徴とする請求項1又は2に記載の2次元画像の3次元化方法。
- 前記第2のステップにおいて、前記仮想奥行き位置は、隣接する画素間の表示位置の差が左方向又は右方向に移動する移動量に変換した場合に隣接する画素間での移動量の変化に換算して1画素から2画素までの間に設定することを特徴とする請求項1から3までのいずれか1項に記載の2次元画像の3次元化方法。
- 前記第2のステップにおいて、前記各画素の移動方向は、右目用画像と左目用画像とで左右が逆方向になるように設定するとともに、前記左目用画像の画素移動量と前記右目用画像の画素移動量とは略同じになるように設定することを特徴とする請求項1から請求項4までのいずれか1項における2次元画像の3次元化方法。
- 前記第2のステップにおいて、各画素の移動量に関するデータを記憶させたルックアップテーブルを参照することを特徴とする請求項1から5までのいずれか1項に記載の2次元画像の3次元化方法。
- 前記第1のステップは、前記2次元画像を水平方向に複数のエリアに分割するステップを含み、
前記第2のステップは、それぞれの前記エリアに含まれる水平方向のライン毎に画素の間引きポイント又は補間ポイントを定め、前記間引きポイント又は補間ポイントにおいて画素の間引き又は補間を行うことにより、前記右目用画像又は左目用画像を作成するための画素の移動を行うステップを含むことを特徴とする請求項1から6までのいずれか1項に記載の2次元画像の3次元化方法。 - 請求項1から7までのいずれか1項に記載のステップをコンピュータに実行させるためのプログラム。
- 2次元画像に基づいて右目用画像と左目用画像とを作成し前記2次元画像を3次元化する装置であって、
前記2次元画像における各画素位置に対して3次元表示をする際の奥行き方向の仮想奥行き位置情報を設定し、前記仮想奥行き位置情報を基に右目用画像と左目用画像との画素移動量を決定し、決定された前記画素移動量を基に右目用画像と左目用画像とを生成し、該右目用画像及び左目用画像に基に3次元表示を行うように制御する制御部
を有することを特徴とする装置。 - 前記制御部は、前記2次元画像の左右端部近傍及び下端部近傍と比べて、前記2次元画像の上端部付近傍及び画像の中心部近傍を、より大きな仮想奥行き位置に設定する制御を行うことを特徴とする請求項9に記載の装置。
- 前記制御部は、前記2次元画像の左右端部近傍又は下端部近傍の仮想奥行き位置を略ゼロに設定する制御を行うことを特徴とする請求項9に記載の装置。
- 前記制御部は、前記仮想奥行き位置を、隣接する画素間の表示位置の差が左方向又は右方向に移動する移動量に変換した場合に隣接する画素間での移動量の変化に換算して略2画素以下に設定することを特徴とする請求項9から11までのいずれか1項に記載の装置。
- 前記制御部は、前記各画素の移動方向は、右目用画像と左目用画像とで左右が逆方向になるように設定するとともに、前記左目用画像の画素移動量と前記右目用画像の画素移動量とは略同じになるように設定する制御を行うことを特徴とする請求項9から請求項12までのいずれか1項における装置。
- さらに、各画素の移動量に関するデータを格納するルックアップテーブルを記憶する移動量記憶部を有していることを特徴とする請求項9から13までのいずれか1項に記載の装置。
- 請求項9から14までのいずれか1項に記載の装置に加えて、3次元化された画像を表示する表示部を備えた端末。
- 2次元画像に基づいて右目用画像と左目用画像とを作成し前記2次元画像を3次元化する装置であって、
前記2次元画像の輪郭成分を検出する輪郭成分検出手段と、
検出された前記輪郭成分の信号レベルを検出する信号レベル検出手段と、
前記2次元画像画像の水平方向に所定の数のエリアに分割されたそれぞれのエリア内のそれぞれの水平ラインにおける輪郭成分が最大になるポイントを検出する輪郭成分最大値検出手段とを有し、
検出された輪郭成分が最大になる第1のポイントの輪郭信号レベルが所定のレベル以上の場合に、前記第1のポイントを間引き又は補間するポイントとして設定し、検出された輪郭成分が最大になるポイントの輪郭信号レベルが所定のレベル以上でない場合には、予め定められた第2のポイントを間引き又は補間するポイントとすることを特徴とする装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003108611A JP2004320189A (ja) | 2003-04-14 | 2003-04-14 | 2次元画像の3次元化方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003108611A JP2004320189A (ja) | 2003-04-14 | 2003-04-14 | 2次元画像の3次元化方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004320189A true JP2004320189A (ja) | 2004-11-11 |
Family
ID=33470018
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003108611A Pending JP2004320189A (ja) | 2003-04-14 | 2003-04-14 | 2次元画像の3次元化方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004320189A (ja) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010079899A (ja) * | 2008-09-25 | 2010-04-08 | Samsung Electronics Co Ltd | 深さマップ生成を用いた変換方法および装置 |
JP2010171608A (ja) * | 2009-01-21 | 2010-08-05 | Nikon Corp | 画像処理装置、プログラム、画像処理方法、記録方法および記録媒体 |
JP2011082649A (ja) * | 2009-10-05 | 2011-04-21 | Nikon Corp | 画像生成装置、画像生成方法、および、プログラム |
JP2012015744A (ja) * | 2010-06-30 | 2012-01-19 | Toshiba Corp | 奥行き信号生成装置及び方法 |
WO2012098608A1 (ja) * | 2011-01-17 | 2012-07-26 | パナソニック株式会社 | 立体画像処理装置、立体画像処理方法およびプログラム |
CN103024408A (zh) * | 2011-09-22 | 2013-04-03 | 株式会社东芝 | 立体图像转换装置和方法、立体图像输出装置 |
WO2013080544A1 (ja) * | 2011-11-30 | 2013-06-06 | パナソニック株式会社 | 立体画像処理装置、立体画像処理方法、および立体画像処理プログラム |
KR20130085850A (ko) * | 2012-01-20 | 2013-07-30 | 엘지전자 주식회사 | 영상표시장치 및 그 동작 방법 |
JP2014140173A (ja) * | 2014-02-03 | 2014-07-31 | Nikon Corp | 画像再生装置 |
US9041779B2 (en) | 2009-01-27 | 2015-05-26 | Nec Corporation | Electronic device and recording medium |
-
2003
- 2003-04-14 JP JP2003108611A patent/JP2004320189A/ja active Pending
Cited By (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2169619A3 (en) * | 2008-09-25 | 2017-01-18 | Samsung Electronics Co., Ltd. | Conversion method and apparatus with depth map generation |
US9153032B2 (en) | 2008-09-25 | 2015-10-06 | Samsung Electronics Co., Ltd. | Conversion method and apparatus with depth map generation |
JP2010079899A (ja) * | 2008-09-25 | 2010-04-08 | Samsung Electronics Co Ltd | 深さマップ生成を用いた変換方法および装置 |
KR101497503B1 (ko) * | 2008-09-25 | 2015-03-04 | 삼성전자주식회사 | 2차원 영상의 3차원 영상 변환을 위한 깊이 맵 생성 방법 및 장치 |
US8675048B2 (en) | 2009-01-21 | 2014-03-18 | Nikon Corporation | Image processing apparatus, image processing method, recording method, and recording medium |
JP2010171608A (ja) * | 2009-01-21 | 2010-08-05 | Nikon Corp | 画像処理装置、プログラム、画像処理方法、記録方法および記録媒体 |
US9041779B2 (en) | 2009-01-27 | 2015-05-26 | Nec Corporation | Electronic device and recording medium |
JP2011082649A (ja) * | 2009-10-05 | 2011-04-21 | Nikon Corp | 画像生成装置、画像生成方法、および、プログラム |
US8805020B2 (en) | 2010-06-30 | 2014-08-12 | Kabushiki Kaisha Toshiba | Apparatus and method for generating depth signal |
JP2012015744A (ja) * | 2010-06-30 | 2012-01-19 | Toshiba Corp | 奥行き信号生成装置及び方法 |
WO2012098608A1 (ja) * | 2011-01-17 | 2012-07-26 | パナソニック株式会社 | 立体画像処理装置、立体画像処理方法およびプログラム |
US8750601B2 (en) | 2011-01-17 | 2014-06-10 | Panasonic Corporation | Three-dimensional image processing device, and three-dimensional image processing method |
JP2013070267A (ja) * | 2011-09-22 | 2013-04-18 | Toshiba Corp | 立体画像変換装置、立体画像出力装置および立体画像変換方法 |
CN103024408A (zh) * | 2011-09-22 | 2013-04-03 | 株式会社东芝 | 立体图像转换装置和方法、立体图像输出装置 |
CN103024408B (zh) * | 2011-09-22 | 2015-07-15 | 株式会社东芝 | 立体图像转换装置和方法、立体图像输出装置 |
US9094657B2 (en) | 2011-09-22 | 2015-07-28 | Kabushiki Kaisha Toshiba | Electronic apparatus and method |
WO2013080544A1 (ja) * | 2011-11-30 | 2013-06-06 | パナソニック株式会社 | 立体画像処理装置、立体画像処理方法、および立体画像処理プログラム |
JP5307953B1 (ja) * | 2011-11-30 | 2013-10-02 | パナソニック株式会社 | 立体画像処理装置、立体画像処理方法、および立体画像処理プログラム |
US9602797B2 (en) | 2011-11-30 | 2017-03-21 | Panasonic Intellectual Property Management Co., Ltd. | Stereoscopic image processing apparatus, stereoscopic image processing method, and stereoscopic image processing program |
KR20130085850A (ko) * | 2012-01-20 | 2013-07-30 | 엘지전자 주식회사 | 영상표시장치 및 그 동작 방법 |
KR101878808B1 (ko) * | 2012-01-20 | 2018-07-19 | 엘지전자 주식회사 | 영상표시장치 및 그 동작 방법 |
JP2014140173A (ja) * | 2014-02-03 | 2014-07-31 | Nikon Corp | 画像再生装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6094863B2 (ja) | 画像処理装置、画像処理方法、プログラム、集積回路 | |
JP3653790B2 (ja) | 立体電子ズーム装置及び立体画質制御装置 | |
EP2357836B1 (en) | Method and apparatus for processing three-dimensional images | |
US8254668B2 (en) | Method and apparatus for processing three-dimensional images | |
US7486817B2 (en) | Apparatus for and method of generating image, and computer program product | |
JP4257356B2 (ja) | 画像生成装置および画像生成方法 | |
JP4966431B2 (ja) | 画像処理装置 | |
US20110304708A1 (en) | System and method of generating stereo-view and multi-view images for rendering perception of depth of stereoscopic image | |
JP2003209858A (ja) | 立体画像生成方法及び記録媒体 | |
JP2005353047A (ja) | 立体画像処理方法および立体画像処理装置 | |
KR20110015452A (ko) | 입체 이미지의 블러 향상 | |
US20130050187A1 (en) | Method and Apparatus for Generating Multiple Image Views for a Multiview Autosteroscopic Display Device | |
JP5820985B2 (ja) | 立体画像処理装置および立体画像処理方法 | |
US20120229600A1 (en) | Image display method and apparatus thereof | |
JP2004320189A (ja) | 2次元画像の3次元化方法 | |
JP5627498B2 (ja) | 立体画像生成装置及び方法 | |
JP2012105172A (ja) | 画像生成装置、画像生成方法、コンピュータプログラムおよび記録媒体 | |
JPH0863615A (ja) | 2次元画像の3次元化方法 | |
KR100597587B1 (ko) | 보정 영상 신호 처리를 이용한 주시각 제어 장치 및 그방법과 그를 이용한 평행축 입체 카메라 시스템 | |
JP2011176822A (ja) | 画像処理装置、立体表示装置及び画像処理方法 | |
Rhee et al. | Accurate stereo view synthesis for an autostereoscopic 3D display | |
WO2018187724A1 (en) | System, method and software for converting images captured by a light field camera into three-dimensional images that appear to extend vertically above or in front of a display medium | |
JP2015119228A (ja) | 画像処理装置、画像処理方法およびプログラム |