JP6008322B2 - 視差画像生成装置、視差画像生成方法、プログラムおよび集積回路 - Google Patents

視差画像生成装置、視差画像生成方法、プログラムおよび集積回路 Download PDF

Info

Publication number
JP6008322B2
JP6008322B2 JP2012548295A JP2012548295A JP6008322B2 JP 6008322 B2 JP6008322 B2 JP 6008322B2 JP 2012548295 A JP2012548295 A JP 2012548295A JP 2012548295 A JP2012548295 A JP 2012548295A JP 6008322 B2 JP6008322 B2 JP 6008322B2
Authority
JP
Japan
Prior art keywords
image
depth
parallax
value
depth value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012548295A
Other languages
English (en)
Other versions
JPWO2012169173A1 (ja
Inventor
邦昭 磯貝
邦昭 磯貝
正之 三崎
正之 三崎
田川 潤一
潤一 田川
河村 岳
岳 河村
藤井 隆志
隆志 藤井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JPWO2012169173A1 publication Critical patent/JPWO2012169173A1/ja
Application granted granted Critical
Publication of JP6008322B2 publication Critical patent/JP6008322B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • H04N13/305Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays using lenticular lenses, e.g. arrangements of cylindrical lenses
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/341Displays for viewing with the aid of special glasses or head-mounted displays [HMD] using temporal multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Graphics (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Processing Or Creating Images (AREA)

Description

本発明は、3次元画像を表現するための視差画像を生成する視差画像生成装置、視差画像生成方法、プログラムおよび集積回路に関する。
近年、視差を有する複数の画像を利用して、3次元画像を表現する様々な技術が開発されている。視差を有する複数の画像を利用して3次元画像を表現する場合、3次元画像の端部におけるオブジェクトは、当該端部付近において立体感が突然なくなり、当該3次元画像の見え方が非常に不自然であるという問題がある。
特許文献1では、3次元画像の端部における不自然な見え方を解消するための技術(以下、従来技術Aという)が開示されている。
特開2010−268097号公報
しかしながら、従来技術Aでは、3次元画像の端部を、立体的なフレーム(枠)の画像で覆うように、当該フレーム(枠)を配置する。そのため、従来技術Aでは、3次元画像の表示サイズが小さくなるという課題を有する。
本発明は、このような課題を解決するためになされたものであり、3次元画像のサイズを小さくすることなく、3次元画像の端部における不自然な表現を抑制することができる視差画像生成装置等を提供することを目的とする。
上記目的を達成するために、本発明の一態様に係る視差画像生成装置は、処理対象の2次元画像から、3次元画像を表現するために必要な、互いに視差を有する2つの視差画像を生成するための奥行き画像を用いた処理を行う。前記奥行き画像は、複数の奥行き値から構成される。前記視差画像生成装置は、前記奥行き画像を構成する前記複数の奥行き値のうち、該奥行き画像の端に近い奥行き値程、該奥行き値に対応する位置が視差画像を表示するための表示面に近づくように、該奥行き値を補正する補正処理を行う奥行き値補正部と、前記2次元画像と前記補正処理により補正された前記奥行き画像とを用いて、互いに視差を有する第1および第2視差画像を生成する視差画像生成部とを備える。
なお、これらの全般的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたは記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。
本発明により、3次元画像のサイズを小さくすることなく、3次元画像の端部における不自然な表現を抑制することができる。
図1は、本発明の第1の実施形態に係る3次元画像視聴システムの構成の一例を示す図である。 図2は、本発明の第1の実施形態に係る視差画像生成装置の構成の一例を示す図である。 図3は、奥行き画像を説明するための図である。 図4は、3次元画像を説明するための図である。 図5は、一例としての左目用画像および右目用画像を示す図である。 図6は、3次元領域におけるオブジェクトの配置を示す図である。 図7は、3次元領域における各オブジェクトの配置位置をZX平面から見た図である。 図8は、視差画像生成処理のフローチャートである。 図9は、奥行き画像補正処理のフローチャートである。 図10は、奥行き画像内の補正対象領域を説明するための図である。 図11は、補正後の奥行き値の状態を示す図である。 図12は、一例としての奥行き画像を示す図である。 図13は、処理対象の2次元画像内のある1ラインを説明するための図である。 図14は、3次元領域における画素群の配置状態を示す図である。 図15は、画素のシフトを説明するための図である。 図16は、本発明の第1の実施形態に係る視差画像生成処理により生成された左目用画像および右目用画像を示す図である。 図17は、3次元領域における各オブジェクトの配置状態を示す図である。 図18は、3次元領域において左目用画像および右目用画像により表現されるオブジェクトの位置を示す斜視図である。 図19は、ディスプレイとしての視差画像生成装置の外観図である。 図20Aは、デジタルスチルカメラとしての視差画像生成装置の外観図である。 図20Bは、デジタルビデオカメラとしての視差画像生成装置の外観図である。 図21Aは、本発明の第2の実施形態に係る記録媒体の物理フォーマットの例を示す図である。 図21Bは、本発明の第2の実施形態に係る記録媒体の構成を示す図である。 図21Cは、本発明の第2の実施形態に係るコンピュータシステムの構成を示す図である。
上記目的を達成するために、本発明の一態様に係る視差画像生成装置は、処理対象の2次元画像から、3次元画像を表現するために必要な、互いに視差を有する2つの視差画像を生成するための奥行き画像を用いた処理を行う。前記奥行き画像は、複数の奥行き値から構成される。前記視差画像生成装置は、前記奥行き画像を構成する前記複数の奥行き値のうち、該奥行き画像の端に近い奥行き値程、該奥行き値に対応する位置が視差画像を表示するための表示面に近づくように、該奥行き値を補正する補正処理を行う奥行き値補正部と、前記2次元画像と前記補正処理により補正された前記奥行き画像とを用いて、互いに視差を有する第1および第2視差画像を生成する視差画像生成部とを備える。
ここで、3次元画像において、当該3次元画像の端にかかるようにオブジェクトAが表示されているとする。この場合、処理対象の2次元画像から、前記補正処理が行われていない奥行き画像を用いて生成された2つの視差画像により表現される3次元画像においては、オブジェクトAが当該3次元画像の端で途切れるように見える。
一方、本態様では、該奥行き画像の端に近い奥行き値程、当該奥行き値に対応する位置が視差画像を表示するための表示面に近づくように、当該奥行き値を補正する補正処理を行う。そして、補正処理により補正された奥行き画像を用いて第1および第2視差画像が生成される。
これにより、生成された第1および第2視差画像により表現される3次元画像においては、当該オブジェクトAが当該3次元画像の端で途切れるように見えるといった不自然さを抑制することができる。
したがって、当該3次元画像のサイズを小さくすることなく、3次元画像の端部に表示されるオブジェクトの不自然な表現を抑制することができる。すなわち、3次元画像のサイズを小さくすることなく、3次元画像の端部における不自然な表現を抑制することができる。
また、前記奥行き値補正部は、前記奥行き画像のうち、該奥行き画像の端からL(1以上の整数)個の画素だけ離れた位置までの領域である補正対象領域に対応する複数の奥行き値に対し前記補正処理を行ってもよい。
また、前記奥行き値補正部は、前記補正対象領域に対応する複数の奥行き値のうち、生成された前記第1および第2視差画像を表示するための前記表示面よりも手前側において、前記3次元画像内の一部の画素を表現するための奥行き値に対し前記補正処理を行ってもよい。
また、前記奥行き値補正部は、前記2次元画像の水平方向のサイズが大きい程、前記Lを大きくしてもよい。
また、前記奥行き値補正部は、前記補正対象領域に含まれる奥行き値のうち、対応する位置が前記表示面から最も手前側に離れている奥行き値を抽出し、抽出した奥行き値に対応する位置が前記表示面から手前側に離れる程、前記Lの値を大きくしてもよい。
また、前記奥行き値補正部は、該奥行き画像の左右の端の前記補正対象領域及び上下の端の前記補正対象領域少なくとも一方に対して、前記補正処理を行ってもよい。
また、前記奥行き値補正部は、前記2次元画像が撮像装置をパンしている間に撮像された画像である場合に、該奥行き画像の左右の端の前記補正対象領域の前記Lの値を大きくしてもよい。
また、前記奥行き値補正部は、前記2次元画像が撮像装置をチルトしている間に撮像された画像である場合に、該奥行き画像の上下の端の前記補正対象領域の前記Lの値を大きくしてもよい。
また、前記奥行き値補正部は、前記撮像装置のパン又はチルトの速度が速い程、対応する前記補正対象領域の前記Lの値を大きくしてもよい。
また、前記奥行き値補正部は、前記奥行き画像の端のうち、前記撮像装置が向く方向に位置する前記補正対象領域を、反対側に位置する前記補正対象領域より大きくしてもよい。
また、前記奥行き値補正部は、前記奥行き画像を構成する前記複数の奥行き値のうち、該奥行き画像の端に最も近い奥行き値が、前記第1および第2視差画像を表示するための前記表示面において、画素を表現するための値となるように、前記最も近い奥行き値を補正してもよい。
本発明の一態様に係る視差画像生成方法は、処理対象の2次元画像から、3次元画像を表現するために必要な、互いに視差を有する2つの視差画像を生成するための奥行き画像を用いた処理を行うための視差画像生成方法である。前記奥行き画像は、複数の奥行き値から構成される。前記視差画像生成方法は、前記奥行き画像を構成する前記複数の奥行き値のうち、該奥行き画像の端に近い奥行き値程、該奥行き値に対応する位置が視差画像を表示するための表示面に近づくように、該奥行き値を補正する補正処理を行うステップと、前記2次元画像と前記補正処理により補正された前記奥行き画像とを用いて、互いに視差を有する第1および第2視差画像を生成するステップとを含む。
本発明の一態様に係るプログラムは、処理対象の2次元画像から、3次元画像を表現するために必要な、互いに視差を有する2つの視差画像を生成するための奥行き画像を用いた処理を行うためのプログラムである。前記奥行き画像は、複数の奥行き値から構成される。前記プログラムは、前記奥行き画像を構成する前記複数の奥行き値のうち、該奥行き画像の端に近い奥行き値程、該奥行き値に対応する位置が視差画像を表示するための表示面に近づくように、該奥行き値を補正する補正処理を行うステップと、前記2次元画像と前記補正処理により補正された前記奥行き画像とを用いて、互いに視差を有する第1および第2視差画像を生成するステップとをコンピュータに実行させる。
本発明の一態様に係る集積回路は、処理対象の2次元画像から、3次元画像を表現するために必要な、互いに視差を有する2つの視差画像を生成するための奥行き画像を用いた処理を行う。前記奥行き画像は、複数の奥行き値から構成される。前記集積回路は、前記奥行き画像を構成する前記複数の奥行き値のうち、該奥行き画像の端に近い奥行き値程、該奥行き値に対応する位置が視差画像を表示するための表示面に近づくように、該奥行き値を補正する補正処理を行う奥行き値補正部と、前記2次元画像と前記補正処理により補正された前記奥行き画像とを用いて、互いに視差を有する第1および第2視差画像を生成する視差画像生成部とを備える。
なお、これらの全般的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたは記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムまたは記録媒体の任意な組み合わせで実現されてもよい。
以下、図面を参照しつつ、本発明の実施の形態について説明する。
なお、以下で説明する実施の形態は、いずれも本発明の一具体例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
また、以下の説明では、同一の構成要素には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明を省略する場合がある。
(第1の実施形態)
図1は、本発明の第1の実施形態に係る3次元画像視聴システム1000の構成の一例を示す図である。図1において、X、Y、Z方向の各々は、互いに直交する。以下の図に示されるX、Y、Z方向の各々も、互いに直交する。
図1に示されるように、3次元画像視聴システム1000は、視差画像生成装置100と、アクティブシャッタメガネ200とを含む。
視差画像生成装置100は、例えば、プラズマディスプレイ、液晶ディスプレイ、有機ELディスプレイ等である。なお、視差画像生成装置100は、上記のディスプレイに限定されず、デジタルビデオカメラ、デジタルスチルカメラ等であってもよい。また、視差画像生成装置100は、ディスプレイまたはカメラ等に内蔵される装置であってもよい。
視差画像生成装置100は、画像を表示するための表示面101を備える。表示面101は、XY平面に平行であるとする。表示面101は、一例として、m(自然数)行n(自然数)列に配列される複数の画素から構成される画像を表示可能であるとする。
ここで、mおよびnは、それぞれ、1080および1920であるとする。すなわち、表示面101は、横1920×縦1080画素のサイズ(以下、フルHDサイズともいう)の画像を表示可能であるとする。以下においては、表示面101が表示可能な画像のサイズを、表示可能サイズともいう。
なお、表示可能サイズは、フルHDサイズに限定されず、例えば、横1366×縦768画素のサイズであってもよい。
本実施の形態では、視差画像生成装置100は、一例として、フレームシーケンシャル方式により、3次元画像を表現するための視差画像を表示する装置である。この場合、表示面101に表示される視差画像のサイズは、表示可能サイズと等しい。
なお、視差画像生成装置100における3次元画像の表示方式は、フレームシーケンシャル方式に限定されない。視差画像生成装置100における3次元画像の表示方式は、例えば、レンチキュラー方式であってもよい。この場合、表示面101に表示される画像により表現される3次元画像のサイズは、表示可能サイズより小さい。
左目用画像21Lは、ユーザ(視聴者)の左目(以下、第1視点ともいう)に見せるための画像である。右目用画像21Rは、ユーザの右目(以下、第2視点ともいう)に見せるための画像である。左目用画像21Lおよび右目用画像21Rは、互いに視差を有する2次元画像である。
視差画像生成装置100は、左目用画像21Lおよび右目用画像21Rを、表示面101に交互に表示する。
アクティブシャッタメガネ200は、表示面101に左目用画像21Lが表示されているときには、ユーザの右目を遮光することによって、左目用画像21Lをユーザの左目だけに見せる。また、アクティブシャッタメガネ200は、表示面101に右目用画像21Rが表示されているときには、ユーザの左目を遮光することによって、右目用画像21Rをユーザの右目だけに見せる。
このような構成のアクティブシャッタメガネ200をかけたユーザは、左目で左目用画像21Lを見ることができ、右目で右目用画像21Rを見ることができる。これにより、ユーザは、左目用画像21Lおよび右目用画像21Rから表現される3次元画像を視ることができる。
なお、前述したように、3次元画像の表示方式は、アクティブシャッタメガネ200を用いるフレームシーケンシャル方式に限定されない。例えば、3次元画像の表示方式は、偏光メガネを用いた方式であってもよい。また、例えば、3次元画像の表示方式は、パララックスバリア、レンチキュラシート等を用いた方式であってもよい。
図2は、本発明の第1の実施形態に係る視差画像生成装置100の構成の一例を示す図である。
図2に示すように、視差画像生成装置100は、奥行き値補正部110と、視差画像生成部120とを備える。
奥行き値補正部110は、詳細は後述するが、奥行き画像を用いた処理を行う。奥行き画像は、例えば、デプスマップに相当する。奥行き画像は、処理対象の2次元画像から、視差画像としての左目用画像および右目用画像を生成するために使用される画像である。すなわち、奥行き画像は、処理対象の2次元画像から、互いに視差を有する2つの視差画像を生成するための画像である。当該2つの視差画像(左目用画像および右目用画像)は、3次元画像を表現するために必要な画像である。
図3は、奥行き画像を説明するための図である。奥行き画像は、複数の奥行き値から構成される。複数の奥行き値は、それぞれ、奥行き画像を構成する複数の画素の画素値に相当する。
図3に示すように、奥行き画像を構成する複数の奥行き値は、行列状に配置される。
例えば、z[mn]とは、奥行き画像において、m行n列に対応する画素の奥行き値を示す。すなわち、z[mn]は、奥行き画像における座標(n,m)の画素の奥行き値を示す。また、例えば、z[12]とは、奥行き画像において、1行2列に対応する画素の奥行き値を示す。
本実施の形態では、奥行き値は、一例として、−1〜1の範囲で表されるとする。
なお、奥行き値は、−1〜1の範囲に限定されず、例えば、0〜255の範囲で表されてもよい。
図4は、3次元画像を説明するための図である。
図4の(a)は、一例としての2次元画像10を示す図である。2次元画像10は、3次元画像を表現するための視差画像を生成する場合に、処理対象となる画像である。図4の(a)に示される2次元画像10には、3つのオブジェクト(被写体)11、12、13が配置されている。
図4の(b)は、一例としての奥行き画像D10を示す。奥行き画像D10は、処理対象の2次元画像10から、互いに視差を有する2つの視差画像を生成するための画像である。当該2つの視差画像は、左目用画像20Lおよび右目用画像20R、または、後述の左目用画像21Lおよび右目用画像21Rである。
2次元画像10のサイズ(解像度)は、奥行き画像D10のサイズ(解像度)と同じである。以下においては、奥行き画像を構成する複数の画素の各々を、奥行き画素ともいう。奥行き画素は、奥行き値を示す。すなわち、奥行き画像は、複数の奥行き値から構成される。
奥行き画像D10は、奥行き値を示す複数の奥行き画素から構成される。奥行き画像D10を構成する各奥行き画素は、2次元画像10における、当該奥行き画素の座標と同じ座標の画素の奥行き値を示す。例えば、奥行き画像D10における座標(x、y)の画素は、2次元画像10における座標(x、y)の画素の奥行き値を示す。すなわち、2次元画像10は、奥行き画像D10に対応する画像である。また、2次元画像10における座標(x、y)の画素は、奥行き画像D10における座標(x、y)の奥行き値に対応する画素である。
奥行き画像D10において、一例として、白に近い奥行き画素程、当該奥行き画素に対応する3次元画像内の画素が、表示面101から、より手前側に位置していることを表現するための奥行き値を示す。奥行き画像D10において、一例として、黒に近い奥行き画素程、当該奥行き画素に対応する3次元画像内の画素が、表示面101から、より奥側に位置していることを表現するための奥行き値を示す。
奥行き画像D10は、奥行き画像D11、D12、D13を示す。奥行き画像D11を構成する複数の画素は、それぞれ、オブジェクト11を構成する複数の画素の奥行き値を示す。奥行き画像D12、D13も、奥行き画像D11と同様である。
詳細は後述するが、奥行き画像を用いたDIBR(Depth Image Based Rendering)法等により、2次元画像から、左目用画像および右目用画像が生成される。
図5は、一例としての左目用画像20Lおよび右目用画像20Rを示す図である。なお、左目用画像20Lおよび右目用画像20Rは、本発明の処理が施されていない画像であるとする。
図5の(a)は、一例としての左目用画像20Lを示す図である。左目用画像20Lは、2次元画像10の各画素を対応する複数の奥行き値に応じて移動(シフト)したオブジェクト11、12、13を含む。
図5の(b)は、一例としての右目用画像20Rを示す図である。右目用画像20Rは、2次元画像10の各画素を対応する複数の奥行き値に応じて移動(シフト)したオブジェクト11、12、13を含む。
ここで、ユーザは、前述したアクティブシャッタメガネ200を使用して、左目で左目用画像20Lを見るとともに、右目で右目用画像20Rを見たとする。
この場合、ユーザは、図6で破線の直方体で表される3次元領域R10において、オブジェクト11、12、13の各々が、図6に示す位置に配置されているように立体感を感じることができる。3次元領域R10は、複数の視差画像(例えば、左目用画像および右目用画像)により、ユーザに対して3次元画像を表現可能な領域である。この場合、ユーザは、オブジェクト11の左端部(すなわち、オブジェクト11の3次元領域R10外の部分)付近において、当該オブジェクト11の立体感が突然なくなっているように感じる。実際には、ユーザは、オブジェクト11の3次元領域R10の外に位置する部分が点滅しているように見える。
図6において、3次元領域R10のZ軸方向は、奥行き値を示す。すなわち、奥行き値は、3次元領域R10(3次元空間)において、3次元画像の各画素を表現するための位置を示す。3次元領域R10は、一例として、−1〜1の範囲の奥行き値で表現される。また、図6において、表示面101は視差ゼロ面である。視差ゼロ面とは、視差ゼロ面に表示される左目用画像および右目用画像の同じ位置の画素の視差がゼロである面である。以下においては、視差ゼロ面に対応する奥行き値を、視差ゼロ奥行き値ともいう。
図6では、Z軸方向における表示面101(視差ゼロ面)の位置の視差ゼロ奥行き値を、一例として、0で表現している。なお、視差ゼロ面の位置の奥行き値は、0以外の数値で表現されてもよい。また、図6では、Z軸方向における表示面101より手前側の奥行き値を、一例として、負の値で表現している。さらに、図6では、Z軸方向における表示面より奥側の奥行き値を、一例として、正の値で表現している。
図7は、3次元領域R10における各オブジェクトの配置位置をZX平面から見た図である。図7は、一例として、X軸上に、ユーザの左目および右目が配置された場合における各視点と、各オブジェクトとの配置関係を示す。
視点S0は、表示面101(視差ゼロ面)の中央の位置を、X軸に投影した位置である。視点S1は、ユーザの左目の位置に相当する。視点S2は、ユーザの右目の位置に相当する。
3次元領域R10のうち、線L11と線L12との間の領域が、視点S1から表示面101を見た場合に表現される画像(例えば、左目用画像20L)である。また、3次元領域R10のうち、線L21と線L22との間の領域が、視点S2から表示面101を見た場合に表現される画像(例えば、右目用画像20R)である。
次に、本実施の形態における視差画像を生成するための処理(以下、視差画像生成処理という)について説明する。ここで、視差画像生成部120は、処理対象の2次元画像10を取得するとする。また、図2の奥行き値補正部110は、2次元画像10に対応する奥行き画像D10を取得するとする。
図8は、視差画像生成処理のフローチャートである。視差画像生成処理は、視差画像生成方法に相当する。
ステップS110では、奥行き画像補正処理が行われる。
図9は、奥行き画像補正処理のフローチャートである。
ステップS111では、奥行き値補正部110が、処理対象の奥行き画像を構成する複数の画素のうちの1つの画素を、処理対象画素(以下、処理対象奥行き画素ともいう)に設定する。以下においては、処理対象奥行き画素が示す奥行き値を、奥行き値zまたはzとも表記する。
そして、奥行き値補正部110は、処理対象奥行き画素の示す奥行き値が、飛び出し値であるか否かを判定する。ここで、飛び出し値とは、処理対象奥行き画素の示す奥行き値に対応する3次元画像内の画素を、視差ゼロ面より手前の位置に表現するための値である。
ここで、視差ゼロ面に対応する視差ゼロ奥行き値は、一例として、0であるとする。また、奥行き値は、−1〜1の範囲で表されるとする。この場合、飛び出し値は、−1≦飛び出し値<0の範囲の値である。
ステップS111において、YESならば処理はステップS112に移行する。一方、ステップS111において、NOならば、現在の処理対象奥行き画素に対する処理は終了する。ステップS111の処理では、毎回、異なる画素が、処理対象奥行き画素に設定される。
ステップS112では、奥行き値補正部110が、処理対象奥行き画素が補正対象領域内の画素であるか否かを判定する。補正対象領域は、奥行き画像内の領域である。
図10は、奥行き画像内の補正対象領域を説明するための図である。
図10が示す奥行き画像は、一例として、奥行き画像D10であるとする。なお、図10では、図の簡略化のために、奥行き画像D10が示す画像は示していない。
補正対象領域の幅Lは、奥行き値補正部110が、奥行き画像の幅Wに所定の係数k(0<k<1)を乗算することにより算出する。kは、例えば、0.1(又は、0.05)であるとする。奥行き画像の幅が、例えば、1920画素である場合、Lは、192画素(96画素)となる。
なお、上記に限定されず、補正対象領域の幅Lは、奥行き値補正部110が、処理対象の2次元画像の幅に係数kを乗算することにより算出してもよい。ここで、処理対象の2次元画像の幅は、処理対象の奥行き画像の幅Wと等しい。すなわち、奥行き値補正部110は、2次元画像または奥行き画像の水平方向のサイズに基づいて、Lの値を算出する。より具体的には、奥行き値補正部110は、2次元画像または奥行き画像の水平方向のサイズが大きいほど、Lの値を大きくする。
奥行き画像には、補正対象領域R21、R22が配置される。補正対象領域R21は、奥行き画像のうち、奥行き画像の左端から距離Lだけ離れた位置までの領域である。ここで、距離Lは、X方向に連続して並ぶL(1以上の整数)個の画素の幅と等しいとする。すなわち、補正対象領域R21は、奥行き画像のうち、該奥行き画像の左端からL個の画素だけ離れた位置までの領域である。
補正対象領域R22は、奥行き画像の右端から距離Lだけ離れた位置までの領域である。すなわち、補正対象領域R22は、奥行き画像のうち、該奥行き画像の右端からL個の画素だけ離れた位置までの領域である。
つまり、補正対象領域R21、R22は、奥行き画像のうち、該奥行き画像の左右の端からそれぞれL(1以上の整数)個の画素だけ離れた位置までの領域である。
つまり、補正対象領域R21、R22は、2次元画像または奥行き画像の水平方向のサイズに基づいて、決定される。一例として、補正対象領域R21、R22は、それぞれ2次元画像の水平方向のサイズの5%程度の幅とすることができる。但し、補正対象領域R21、R22の決定方法は上記に限定されず、例えば、下記のような方法で決定してもよい。
一例として、補正対象領域R21、R22は、予め定められた領域であってもよい。つまり、Lは、予め定められた値であってもよい。
他の例として、補正対象領域R21、R22に含まれる奥行き値の値に応じて、Lの値を決定してもよい。より具体的には、奥行き値補正部110は、補正対象領域に含まれる奥行き値のうち、対応する位置が表示面から最も手前側に離れている奥行き値(上記の例では、−1に最も近い値)を抽出する。そして、奥行き値補正部110は、抽出した奥行き値に対応する位置が表示面から手前側に離れる程(すなわち、抽出した奥行き値が−1に近い程)、Lの値を大きくしてもよい。
また、図10の例では、奥行き画像の左右の端に補正対象領域R21、R22を設けたが、これに代えて又はこれに加えて、奥行き画像の上下の端に補正対象領域を設けてもよい。すなわち、補正対象領域は、奥行き画像の左右の端及び上下の端の少なくとも一方に設ければよい。
そして、奥行き値補正部110は、奥行き画像の左右及び上下の補正対象領域の幅(すなわち、Lの値)を、対応する2次元画像の特徴(一例として、2次元画像の撮像条件)に基づいて変更してもよい。奥行き値補正部110は、例えば、2次元画像を撮像する際に、パン(撮像装置の向きを左右方向に動かす)、或いはチルト(撮像装置の向きを上下方向に動かす)された場合に、対応する奥行き画像の補正対象領域の幅を変更する。
一例として、奥行き値補正部110は、2次元画像が撮像装置をパンしている間に撮像された画像である場合に、パンしていない間に撮像された場合と比較して奥行き画像の左右の端の補正対象領域の幅を大きくする(Lの値を大きくする)。同様に、奥行き値補正部110は、2次元画像が撮像装置をチルトしている間に撮像された画像である場合に、チルトしていない間に撮像された場合と比較して奥行き画像の上下の端の補正対象領域の幅を大きくする(Lの値を大きくする)。
他の例として、奥行き値補正部110は、パン又はチルトの速度(スクロール速度)に応じて、補正対象領域の幅を変更してもよい。具体的には、奥行き値補正部110は、パンの速度が速い程、奥行き画像の左右の端の補正対象領域の幅を大きくする。同様に、奥行き値補正部110は、チルトの速度が速い程、奥行き画像の上下の端の補正対象領域の幅を大きくする。
さらに他の例として、奥行き値補正部110は、撮像装置が向く方向(パン又はチルトの方向)に応じて、奥行き画像の左右の端(或いは上下の端)の補正対象領域の幅を非対称にしてもよい。すなわち、奥行き値補正部110は、撮像装置が向く方向に位置する端(オブジェクトがフレームインする側)の補正対象領域を、反対側に位置する端(オブジェクトがフレームアウトする側)の補正対象領域より大きくする。
具体的には、右(左)方向にパンする場合、奥行き値補正部110は、奥行き画像の右(左)端の補正対象領域を、左(右)端の補正対象領域より大きくする。同様に、上(下)方向にチルトする場合、奥行き値補正部110は、奥行き画像の上(下)端の補正対象領域を、下(上)端の補正対象領域より大きくする。
なお、視差画像生成装置100は、上記の撮像条件(パン/チルト、撮像装置の動きの方向(上下左右)、撮像装置の動きの早さ等)を、2次元画像及び奥行き画像と共に、装置外部から取得してもよいし、異なる時刻の複数の2次元画像を比較して算出できる動き量から推定してもよい。
再び、図9を参照して、ステップS112において、YESならば処理はステップS113に移行する。一方、ステップS112において、NOならば、現在の処理対象奥行き画素に対する処理は終了する。
ステップS111、S112においてYESと判定された処理対象奥行き画素が示す奥行き値は、表示面101よりも手前側において、3次元画像内の一部の画素を表現するための奥行き値である。
ステップS113では、奥行き値補正処理が行われる。奥行き値補正処理では、奥行き値補正部110が、奥行き画像を構成する複数の奥行き値のうち、該奥行き画像の端に近い奥行き値程、該奥行き値に対応する位置が視差画像を表示するための表示面101に近づくように、該奥行き値を補正する補正処理を行う。
より具体的には、奥行き値補正部110は、図10の補正対象領域R21に含まれる各奥行き値を、奥行き画像D10の左端に近づくほど、徐々に0に近い値に補正する。同様に、奥行き値補正部110は、図10の補正対象領域R22に含まれる各奥行き値を、奥行き画像D10の右端に近づくほど、徐々に0に近い値に補正する。
なお、上記の「奥行き値に対応する位置」とは、3次元領域R10(3次元空間)において、当該奥行き値により特定される(示される)Z軸方向の位置である。言い換えれば、奥行き値に対応する位置とは、表示面101に直交する軸において、当該奥行き値により特定される(示される)位置である。
以下においては、補正後の奥行き値を、補正済奥行き値z’と表記する。
具体的には、奥行き値補正部110が、図11に示される式1および式2により、補正済奥行き値z’を、算出する。
Figure 0006008322
Figure 0006008322
図11において、式1、2において、lは、奥行き画像の端から処理対象奥行き画素までの距離(画素数)である。処理対象奥行き画素が補正対象領域R21内の画素である場合、lは、奥行き画像の左端から処理対象奥行き画素までの距離である。この場合、0<l<Lが満たされるならば、補正済奥行き値z’は、式2により算出される。例えば、L=200であり、l=20であるとする。また、l=20の位置におけるzは、−1であるとする。この場合、zは、式2より、−0.1となる。
一方、処理対象奥行き画素が補正対象領域R22内の画素である場合、lは、奥行き画像の右端から処理対象奥行き画素までの距離である。この場合、0<l<Lが満たされるならば、補正済奥行き値z’は、式2により算出される。
なお、lが0である場合、補正済奥行き値z’は0となる。
つまり、式1、2を用いて奥行き値補正処理が行われることにより、奥行き値補正部110は、奥行き画像を構成する複数の奥行き値のうち、該奥行き画像の端に最も近い奥行き値が、表示面101(視差ゼロ面)において、画素を表現するための値となるように、該奥行き画像の端に最も近い奥行き値を補正する。
なお、lが0である場合、補正済奥行き値z’は0以外の所定値としてもよい。所定値は、当該所定値の絶対値が0に近い値である。
なお、S112の処理は行われなくてもよい。この場合、式1により、L≦lを満たす場合、補正済奥行き値z’は、処理対象奥行き画素が示す奥行き値zの値である。
また、補正済奥行き値z’を算出する式は、式2に限定されない。すなわち、奥行き画像の端に近い奥行き値ほど、該奥行き値に対応する位置が表示面101に近づくように、補正済奥行き値z’を算出するための式であれば、他の式であってもよい。補正済奥行き値z’は、例えば、以下の式3により算出されてもよい。
Figure 0006008322
以上のステップS111〜S113の処理が、奥行き画像を構成する全ての画素に対して行われる。なお、ステップS112の処理は、ステップS111でYESの場合のみ行われる。また、ステップS113の処理は、ステップS112でYESの場合のみ行われる。
これにより、奥行き画像内の補正対象領域R21、R22の各々を構成する複数の奥行き値の少なくとも1部が補正された奥行き画像(以下、補正済奥行き画像ともいう)が生成される。
図11は、補正後の奥行き値の状態を示す図である。図11では、一例として、補正対象領域R21、R22の各々にステップS113の処理対象となる奥行き値が存在する場合における補正後の奥行き値の状態を示す図である。この場合、補正後の奥行き値は、図11のグラフの2つのLの各々に対応する曲線に対応する値となる。
ステップS113の処理対象となる奥行き値が補正対象領域R21内のみに存在する場合は、当該奥行き値は、図11のグラフの左側のLに対応する曲線に対応する値となる。
図12は、一例としての奥行き画像を示す図である。
図12の(a)は、奥行き画像D10を示す。ここで、奥行き画像補正処理の処理対象の奥行き画像が奥行き画像D10である場合、奥行き画像補正処理により生成される補正済奥行き画像は、図12の(b)が示す補正済奥行き画像D10Aである。
ステップS112でYESと判定された複数の処理対象奥行き画素に対し、ステップS113の奥行き値補正処理が行われることにより、奥行き値補正部110は、補正対象領域に対応する複数の奥行き値のうち、表示面101よりも手前側において、3次元画像内の一部の画素を表現するための奥行き値に対して補正処理(奥行き値補正処理)を行う。
奥行き画像を構成する全ての画素に対し、上記処理が行われた後、ステップS114の処理が行われる。
ステップS114では、奥行き値補正部110が、補正済奥行き画像D10Aを、視差画像生成部120へ送信する。
そして、この奥行き画像補正処理は終了し、再度、図8の視差画像生成処理に戻り、処理はステップS120に移行する。
ステップS120では、視差画像の生成が行われる。具体的には、視差画像生成部120が、処理対象の2次元画像10と補正処理(奥行き画像補正処理)により補正された補正済奥行き画像D10Aとを用いて、互いに視差を有する第1および第2視差画像を生成する。当該第1および第2視差画像は、3次元画像を表現するために必要な画像である。第1および第2視差画像は、それぞれ、左目用画像および右目用画像である。例えば、奥行き画像を用いたDIBR法等により、1枚の2次元画像から、左目用画像および右目用画像が生成される。なお、DIBR法は、公知な技術であるので詳細な説明は繰り返さない。
以下、簡単に説明する。以下の処理は視差画像生成部120が行う。ここで、処理対象の2次元画像は、2次元画像10であるとする。ここで、奥行き値は、説明を簡単にするために、一例として、0〜255の範囲で表されるとする。
図13は、処理対象の2次元画像10内のある1ラインを説明するための図である。
図13の(a)は、2次元画像10内における処理対象ラインLN10を示す図である。処理対象ラインLN10は、2次元画像10内の処理対象となる1ラインである。
図13の(b)は、処理対象ラインLN10を構成する複数の画素の奥行き値を示す。図13の(b)に示す数値は、各領域(画素群)に対応する奥行き値である。なお、図13の(b)に示される奥行き値は、一例であり、補正済奥行き画像D10Aに対応する奥行き値ではない。
画素群11aは、オブジェクト11のうち、処理対象ラインLN10に対応する領域を構成する画素群である。画素群12aは、オブジェクト12のうち、処理対象ラインLN10に対応する領域を構成する画素群である。画素群13aは、オブジェクト13のうち、処理対象ラインLN10に対応する領域を構成する画素群である。画素群14a、14bの各々は、オブジェクト11、12、13以外の領域のうち、処理対象ラインLN10に対応する領域を構成する画素群である。
図13の(b)に示すように、画素群11aを構成する各画素の奥行き値は0である。画素群12aを構成する各画素の奥行き値は128である。画素群13aを構成する各画素の奥行き値は192である。画素群14a、14bの各々を構成する各画素の奥行き値は255である。
図14は、3次元領域R10における画素群の配置状態を示す図である。図14において、Offsetとは、所定のオフセット値(視聴距離Offset)である。なお、Offsetは、0であってもよい。また、図14において、距離Dは、視点S0と視点S1との距離である。
ゼロ視差距離Z0は、視点S0と表示面101とを経由する直線上における、X軸と表示面101との距離である。ゼロ視差距離Z0は、一例として、128である。
この場合、処理対象ラインLN10を構成する各画素のシフト量(移動量)xは、視差画像生成部120により、以下の式4により算出される。
Figure 0006008322
図15は、画素のシフトを説明するための図である。
図15の(a)は、式4により算出された画素群のシフト量の一例を示す。
図15の(a)に示すように、画素群11aを構成する各画素のシフト量は、−5である。画素群12aを構成する各画素のシフト量は、0である。画素群13aを構成する各画素のシフト量は、+2である。画素群14a、14bの各々を構成する各画素のシフト量は、+5である。
処理対象ラインLN10を構成する各画素は、対応するシフト量に基づいて、図15の(b)のように、X軸方向にシフトされる。
図15の(b)に示すように、画素群11aを構成する各画素は、左に5画素だけシフトされる。画素群12aを構成する各画素はシフトされない。画素群13aを構成する各画素は、右に2画素シフトされる。画素群14a、14bの各々を構成する各画素は、右に5画素だけシフトされる。
そして、図15の(b)において、直線L31と直線L32との間の領域に存在する各画素のうち、X軸に近い画素(奥行き値を示す画素)を、処理対象ラインLN10の新たな画素とする。すなわち、図15の(b)においては、画素群14a、14bを構成する各画素は、処理対象ラインLN10を構成する画素として利用されない。
これにより、図15の(c)に示すように、処理対象ラインLN10を構成する各画素は、更新される。すなわち、処理対象ラインLN10は更新される。なお、更新後の処理対象ラインLN10には、画素が存在しない空白領域R31、R32が発生する場合もある。
この場合、空白領域R31の左端に隣接する画素の奥行き値と、空白領域R31の右端に隣接する画素の奥行き値とが滑らかにつながるように、例えば、線形補間処理が行われる。空白領域R32も同様に、線形補間処理が行われる。これにより、処理対象ラインLN10を構成する新たな画素は、図15の(d)に示すようになる。
なお、空白領域に画素を補間するための処理は、線形補間処理に限定されず、他の処理であってもよい。
以上説明した処理対象ラインLN10に対する処理が、2次元画像10を構成する全てのライン(行)に対して行われる。これにより、2次元画像10から、第2視差画像としての右目用画像が生成される。なお、第1視差画像としての左目用画像の生成方法は、上述の右目用画像の生成方法と同様であるので詳細な説明は繰り返さない。
ステップS120では、視差画像生成部120が、図13〜図15を用いて説明した上述の右目用画像の生成方法と同様な処理により、処理対象の2次元画像10と補正処理(奥行き画像補正処理)により補正された補正済奥行き画像D10Aとを用いて、互いに視差を有する左目用画像および右目用画像を生成する。なお、2次元画像10を構成する各画素の奥行き値は、当該画素に対応する補正済奥行き画像D10A内の画素の奥行き値である。
以下においては、処理対象の2次元画像と奥行き画像補正処理により補正された奥行き画像とを用いて生成される左目用画像および右目用画像を、それぞれ処理済左目用画像および処理済右目用画像ともいう。
図16は、本発明の第1の実施形態に係る視差画像生成処理により生成された左目用画像21Lおよび右目用画像21Rを示す図である。左目用画像21Lは、処理済左目用画像である。右目用画像21Rは、処理済右目用画像である。
図16の(a)は、一例としての左目用画像21Lを示す図である。図16の(b)は、一例としての右目用画像21Rを示す図である。左目用画像21Lおよび右目用画像21Rの各々は、ステップS120の処理により、補正済奥行き画像D10Aを用いて、処理対象の2次元画像10から生成された画像である。なお、図16に示される左目用画像21Lおよび右目用画像21Rの各々が示すオブジェクトの位置は、必ずしも正確ではない。
なお、視差画像生成装置100は、生成した左目用画像21Lおよび右目用画像21Rを、表示面101に交互に表示する。すなわち、表示面101は、生成された第1視差画像(左目用画像21L)および第2視差画像(右目用画像21R)を表示する。
図17は、3次元領域R10における各オブジェクトの配置状態を示す図である。図17の(a)は、3次元領域R10において、本発明の処理が施されていない左目用画像20Lおよび右目用画像20Rにより表現されるオブジェクトの位置を示す図である。図17の(a)より、アクティブシャッタメガネ200を使用して、左目用画像20Lおよび右目用画像20Rを見るユーザは、オブジェクト11の左端部付近において、当該オブジェクト11の立体感が突然なくなっているように感じる。
図17の(b)は、3次元領域R10において、左目用画像21Lおよび右目用画像21Rにより表現されるオブジェクトの位置を示す図である。
具体的には、図17の(b)は、前述したアクティブシャッタメガネ200を使用して、左目で左目用画像21Lを見るとともに、右目で右目用画像21Rを見るユーザに対して、3次元領域R10において表現されるオブジェクトの位置および形状を示す図である。
図18は、3次元領域R10において左目用画像21Lおよび右目用画像21Rにより表現されるオブジェクトの位置を示す斜視図である。具体的には、図18は、図17の(b)で示される各オブジェクトの位置および形状を示す図である。
図17の(b)および図18に示されるように、オブジェクト11の左端の画素の奥行き値は0である。そのため、オブジェクト11のうち、当該オブジェクト11の左端に近づく程、オブジェクト11の飛び出し量が0に近づく。
しかしながら、本実施の形態の視差画像生成処理により生成された左目用画像21Lおよび右目用画像21Rにより表現される3次元画像のサイズは、従来技術Aのように、小さくなることはない。また、左目用画像21Lおよび右目用画像21Rにより表現される3次元画像は、図17の(a)のように、オブジェクト11の左端部付近において、当該オブジェクト11の立体感が突然なくなるといった不自然な表現を防ぐことができる。
したがって、本実施の形態によれば、3次元画像のサイズを小さくすることなく、3次元画像の端部における不自然な表現を抑制することができる。
なお、本実施の形態では、飛び出し値を示す処理対象奥行き画素であって、かつ、補正対象領域R21、R22のいずれかに含まれる処理対象奥行き画素に対してのみ奥行き値補正処理を行う構成としたがこれに限定されない。
例えば、図9において、ステップS111の処理は行われなくてもよい。この場合、例えば、飛び出し値を示さない処理対象奥行き画素であって、かつ、補正対象領域R21、R22のいずれかに含まれる処理対象奥行き画素に対して奥行き値補正処理が行われてもよい。すなわち、表示面101より奥側に画素を表現するための奥行き値を示す処理対象奥行き画素であって、かつ、補正対象領域R21、R22のいずれかに含まれる処理対象奥行き画素に対して奥行き値補正処理が行われてもよい。
この場合、奥行き値補正部110は、補正対象領域R21、R22のいずれかに対応する複数の奥行き値に対して補正処理(奥行き値補正処理)を行う。この処理により、図18の3次元領域R10において、オブジェクト13の右端を、表示面101の右端の位置に表現することができる。すなわち、表示面101より奥側のオブジェクト13の右端の奥行きが、当該オブジェクト13の右端部付近で突然なくなるという現象を防ぐことができる。
なお、視差ゼロ面に対応する視差ゼロ奥行き値は、予め定められた値としたがこれに限定されない。視差ゼロ奥行き値は、例えば、視差画像生成装置100の外部から与えられた視差パラメータにより適宜変更されてもよい。
また、本実施の形態では、奥行き画像は、予め用意された画像としたがこれに限定されない。奥行き画像は、3Dカメラの撮像処理により得られた左目用画像および右目用画像のずれ量から生成されてもよい。
前述したように、視差画像生成装置100は、ディスプレイである。
図19は、ディスプレイとしての視差画像生成装置100の外観図である。
なお、視差画像生成装置100は、前述したように、上記のディスプレイに限定されず、デジタルビデオカメラ、デジタルスチルカメラ等であってもよい。
図20Aは、デジタルスチルカメラとしての視差画像生成装置100の外観図である。図20Bは、デジタルビデオカメラとしての視差画像生成装置100の外観図である。
(第2の実施形態)
本発明は、視差画像生成装置100が備える特徴的な構成部の動作をステップとする視差画像生成方法として実現してもよい。また、本発明は、そのような視差画像生成方法に含まれる各ステップをコンピュータに実行させるプログラムとして実現してもよい。また、本発明は、そのようなプログラムを格納するコンピュータ読み取り可能な記録媒体として実現されてもよい。
すなわち、視差画像生成方法を実現するためのプログラムを、フレキシブルディスク等の記録媒体に記録するようにすることにより、前記実施の形態で示した処理を、独立したコンピュータシステムにおいて簡単に実施することが可能となる。
図21A〜図21Cは、前記実施の形態の視差画像生成方法を、フレキシブルディスク等の記録媒体に記録されたプログラムを用いて、コンピュータシステムにより当該視差画像生成方法を実施する場合の説明図である。
図21Aは、記録媒体本体であるフレキシブルディスクの物理フォーマットの例を示している。図21Bは、フレキシブルディスクの正面からみた外観、断面構造、及びフレキシブルディスクを示す。フレキシブルディスクFDはケースF内に内蔵され、該ディスクの表面には、同心円状に外周からは内周に向かって複数のトラックTrが形成され、各トラックは角度方向に16のセクタSeに分割されている。従って、前記プログラムを格納したフレキシブルディスクFDでは、前記フレキシブルディスクFD上に割り当てられた領域に、前記プログラムが記録されている。
また、図21Cは、フレキシブルディスクFDに前記プログラムの記録再生を行うための構成を示す。視差画像生成方法を実現する前記プログラムをフレキシブルディスクFDに記録する場合は、コンピュータシステムCsから前記プログラムをフレキシブルディスクドライブFDDを介して書き込む。また、フレキシブルディスクFD内のプログラムにより視差画像生成方法をコンピュータシステム中に構築する場合は、フレキシブルディスクドライブFDDによりプログラムをフレキシブルディスクFDから読み出し、コンピュータシステムCsに転送する。
なお、前記説明では、記録媒体としてフレキシブルディスクを用いて説明を行ったが、光ディスクを用いても同様に行うことができる。また、記録媒体はこれに限らず、ICカード、ROMカセット等、プログラムを記録できるものであれば同様に実施することができる。
(その他の変形例)
以上、本発明に係る視差画像生成装置および視差画像生成方法について、前記各実施の形態に基づいて説明したが、本発明は、これら実施の形態に限定されるものではない。本発明の主旨を逸脱しない範囲内で、当業者が思いつく変形を本実施の形態に施したものも、本発明に含まれる。
例えば、補正対象領域は、奥行き画像の左端部および右端部の領域としたがこれに限定されない。例えば、補正対象領域は、奥行き画像の上端部および下端部の領域としてもよい。また、例えば、補正対象領域は、奥行き画像の左端部、右端部、上端部および下端部の領域としてもよい。
また、補正対象領域は、奥行き画像内の領域に限定されず、例えば、表示面101内の領域として定義されてもよい。
上記各実施形態で用いた全ての数値は、本発明を具体的に説明するための一例の数値である。すなわち、本発明は、上記実施形態で用いた各数値に制限されない。
また、本発明に係る視差画像生成方法は、図8の視差画像生成処理および図9の奥行き画像補正処理に相当する。本発明に係る視差画像生成方法は、図8または図9における、対応する全てのステップを必ずしも含む必要はない。すなわち、本発明に係る視差画像生成方法は、本発明の効果を実現できる最小限のステップのみを含めばよい。
また、視差画像生成方法における各ステップの実行される順序は、本発明を具体的に説明するための一例であり、上記以外の順序であってもよい。また、視差画像生成方法におけるステップの一部と、他のステップとは、互いに独立して並列に実行されてもよい。
なお、視差画像生成装置100の各構成要素の全てまたは一部は典型的には集積回路であるLSI(Large Scale Integration)として実現される。これらは個別に1チップ化されても良いし、一部又は全てを含むように1チップ化されても良い。また、視差画像生成装置100は、集積回路として構成されてもよい。
ここでは、LSIとしたが、集積度の違いにより、IC(Integrated Circuit)、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
また、集積回路化の手法はLSIに限るものではなく、専用回路又は汎用プロセッサーで実現してもよい。LSI製造後に、プログラムすることが可能なFPGA(Field Programmable Gate Array)や、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサーを利用しても良い。
さらには、半導体技術の進歩又は派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能パッチの集積化を行ってもよい。バイオ技術の適応等が可能性としてありえる。
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて請求の範囲によって示され、請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
本発明は、3次元画像のサイズを小さくすることなく、3次元画像の端部における不自然な表現を抑制することができる視差画像生成装置として、利用することができる。
100 視差画像生成装置
101 表示面
110 奥行き値補正部
120 視差画像生成部
200 アクティブシャッタメガネ
1000 3次元画像視聴システム

Claims (11)

  1. 処理対象の2次元画像から、3次元画像を表現するために必要な、互いに視差を有する2つの視差画像を生成するための奥行き画像を用いた処理を行う視差画像生成装置であって、
    前記奥行き画像は、複数の奥行き値から構成され、
    入力データに基づいて前記奥行き画像の端からの幅Lを定め、前記奥行き画像を構成する前記複数の奥行き値のうち、前記奥行き画像の端から前記幅Lの領域である補正対象領域に対して該奥行き画像の端に近い奥行き値程、該奥行き値に対応する位置が視差画像を表示するための表示面に近づくように、該奥行き値を補正する補正処理を行う奥行き値補正部と、
    前記2次元画像と前記補正処理により補正された前記奥行き画像とを用いて、互いに視差を有する第1および第2視差画像を生成する視差画像生成部とを備え
    前記奥行き値補正部は、前記補正対象領域に含まれる奥行き値のうち、対応する位置が前記表示面から最も手前側に離れている奥行き値を抽出し、抽出した奥行き値に対応する位置が前記表示面から手前側に離れる程、前記Lの値を大きくする
    視差画像生成装置。
  2. 前記奥行き値補正部は、前記補正対象領域に対応する複数の奥行き値のうち、生成された前記第1および第2視差画像を表示するための前記表示面よりも手前側において、前記3次元画像内の一部の画素を表現するための奥行き値に対し前記補正処理を行う
    請求項1に記載の視差画像生成装置。
  3. 前記奥行き値補正部は、該奥行き画像の左右の端の前記補正対象領域及び上下の端の前記補正対象領域の少なくとも一方に対して、前記補正処理を行う
    請求項1又は2に記載の視差画像生成装置。
  4. 前記奥行き値補正部は、
    前記2次元画像が撮像装置をパンしている間に撮像された画像である場合に、該奥行き画像の左右の端の前記補正対象領域の前記Lの値を大きくする
    請求項に記載の視差画像生成装置。
  5. 前記奥行き値補正部は、
    前記2次元画像が撮像装置をチルトしている間に撮像された画像である場合に、該奥行き画像の上下の端の前記補正対象領域の前記Lの値を大きくする
    請求項3又は4に記載の視差画像生成装置。
  6. 前記奥行き値補正部は、前記撮像装置のパン又はチルトの速度が速い程、対応する前記補正対象領域の前記Lの値を大きくする
    請求項4又は5に記載の視差画像生成装置。
  7. 前記奥行き値補正部は、前記奥行き画像の端のうち、前記撮像装置が向く方向に位置する前記補正対象領域を、反対側に位置する前記補正対象領域より大きくする
    請求項4〜6のいずれか1項に記載の視差画像生成装置。
  8. 前記奥行き値補正部は、前記奥行き画像を構成する前記複数の奥行き値のうち、該奥行き画像の端に最も近い奥行き値が、前記第1および第2視差画像を表示するための前記表示面において、画素を表現するための値となるように、前記最も近い奥行き値を補正する
    請求項1〜のいずれか1項に記載の視差画像生成装置。
  9. 処理対象の2次元画像から、3次元画像を表現するために必要な、互いに視差を有する2つの視差画像を生成するための奥行き画像を用いた処理を行うための視差画像生成方法であって、
    前記奥行き画像は、複数の奥行き値から構成され、
    入力データに基づいて前記奥行き画像の端からの幅Lを定め、前記奥行き画像を構成する前記複数の奥行き値のうち、前記奥行き画像の端から前記幅Lの領域である補正対象領域に対して該奥行き画像の端に近い奥行き値程、該奥行き値に対応する位置が視差画像を表示するための表示面に近づくように、該奥行き値を補正する補正処理を行うステップと、
    前記2次元画像と前記補正処理により補正された前記奥行き画像とを用いて、互いに視差を有する第1および第2視差画像を生成するステップとを含み、
    前記補正処理を行うステップにおいては、前記補正対象領域に含まれる奥行き値のうち、対応する位置が前記表示面から最も手前側に離れている奥行き値を抽出し、抽出した奥行き値に対応する位置が前記表示面から手前側に離れる程、前記Lの値を大きくする
    視差画像生成方法。
  10. 請求項9に記載の視差画像生成方法をコンピュータに実行させるためのプログラム。
  11. 処理対象の2次元画像から、3次元画像を表現するために必要な、互いに視差を有する2つの視差画像を生成するための奥行き画像を用いた処理を行う集積回路であって、
    前記奥行き画像は、複数の奥行き値から構成され、
    入力データに基づいて前記奥行き画像の端からの幅Lを定め、前記奥行き画像を構成する前記複数の奥行き値のうち、前記奥行き画像の端から前記幅Lの領域である補正対象領域に対して該奥行き画像の端に近い奥行き値程、該奥行き値に対応する位置が視差画像を表示するための表示面に近づくように、該奥行き値を補正する補正処理を行う奥行き値補正部と、
    前記2次元画像と前記補正処理により補正された前記奥行き画像とを用いて、互いに視差を有する第1および第2視差画像を生成する視差画像生成部とを備え
    前記奥行き値補正部は、前記補正対象領域に含まれる奥行き値のうち、対応する位置が前記表示面から最も手前側に離れている奥行き値を抽出し、抽出した奥行き値に対応する位置が前記表示面から手前側に離れる程、前記Lの値を大きくする
    集積回路。
JP2012548295A 2011-06-08 2012-06-05 視差画像生成装置、視差画像生成方法、プログラムおよび集積回路 Expired - Fee Related JP6008322B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2011128704 2011-06-08
JP2011128704 2011-06-08
PCT/JP2012/003681 WO2012169173A1 (ja) 2011-06-08 2012-06-05 視差画像生成装置、視差画像生成方法、プログラムおよび集積回路

Publications (2)

Publication Number Publication Date
JPWO2012169173A1 JPWO2012169173A1 (ja) 2015-02-23
JP6008322B2 true JP6008322B2 (ja) 2016-10-19

Family

ID=47295758

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012548295A Expired - Fee Related JP6008322B2 (ja) 2011-06-08 2012-06-05 視差画像生成装置、視差画像生成方法、プログラムおよび集積回路

Country Status (4)

Country Link
US (1) US9147278B2 (ja)
JP (1) JP6008322B2 (ja)
CN (1) CN103004217B (ja)
WO (1) WO2012169173A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10158847B2 (en) * 2014-06-19 2018-12-18 Vefxi Corporation Real—time stereo 3D and autostereoscopic 3D video and image editing
CN107767412A (zh) * 2017-09-11 2018-03-06 西安中兴新软件有限责任公司 一种图像处理方法及装置
US11570418B2 (en) 2021-06-17 2023-01-31 Creal Sa Techniques for generating light field data by combining multiple synthesized viewpoints

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE3921061A1 (de) * 1989-06-23 1991-01-03 Hertz Inst Heinrich Wiedergabeeinrichtung fuer dreidimensionale wahrnehmung von bildern
US6108005A (en) 1996-08-30 2000-08-22 Space Corporation Method for producing a synthesized stereoscopic image
JP4061305B2 (ja) * 2002-08-20 2008-03-19 一成 江良 立体視用画像を作成する方法および装置
JP2004221699A (ja) * 2003-01-09 2004-08-05 Sanyo Electric Co Ltd 立体画像処理方法および装置
US7679641B2 (en) 2006-04-07 2010-03-16 Real D Vertical surround parallax correction
EP1931150A1 (en) 2006-12-04 2008-06-11 Koninklijke Philips Electronics N.V. Image processing system for processing combined image data and depth data
JP4625517B2 (ja) 2008-10-27 2011-02-02 富士フイルム株式会社 3次元表示装置および方法並びにプログラム
JP2010268097A (ja) 2009-05-13 2010-11-25 Fujifilm Corp 3次元表示装置及び3次元表示方法
WO2011052389A1 (ja) * 2009-10-30 2011-05-05 富士フイルム株式会社 画像処理装置及び画像処理方法
JP2011166285A (ja) * 2010-02-05 2011-08-25 Sony Corp 画像表示装置、画像表示観察システム及び画像表示方法
JP2011164202A (ja) 2010-02-05 2011-08-25 Sony Corp 画像表示装置、画像表示システム及び画像表示方法
JP5238767B2 (ja) * 2010-07-26 2013-07-17 株式会社東芝 視差画像生成方法及び装置
JP4881470B2 (ja) 2010-11-04 2012-02-22 富士フイルム株式会社 3次元表示装置および方法並びにプログラム
JP4989760B2 (ja) * 2010-12-21 2012-08-01 株式会社東芝 送信装置、受信装置および伝送システム
JP2012138787A (ja) * 2010-12-27 2012-07-19 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム
JP4892105B1 (ja) * 2011-02-21 2012-03-07 株式会社東芝 映像処理装置、映像処理方法および映像表示装置

Also Published As

Publication number Publication date
CN103004217A (zh) 2013-03-27
JPWO2012169173A1 (ja) 2015-02-23
WO2012169173A1 (ja) 2012-12-13
CN103004217B (zh) 2016-08-03
US20130127846A1 (en) 2013-05-23
US9147278B2 (en) 2015-09-29

Similar Documents

Publication Publication Date Title
US10460459B2 (en) Stitching frames into a panoramic frame
JP4125252B2 (ja) 画像生成装置、画像生成方法、及び画像生成プログラム
JP6094863B2 (ja) 画像処理装置、画像処理方法、プログラム、集積回路
JP6021541B2 (ja) 画像処理装置及び方法
CN106604018B (zh) 3d显示设备及其控制方法
US20150235408A1 (en) Parallax Depth Rendering
US20130016256A1 (en) Image recording apparatus and image processing method
JP6195076B2 (ja) 別視点画像生成装置および別視点画像生成方法
CN112136324A (zh) 在dibr系统(mfp-dibr)中产生立体视点的基于多焦面的方法
TW201322733A (zh) 影像處理裝置、立體影像顯示裝置、影像處理方法及影像處理程式
JP2013013056A (ja) 裸眼立体視用映像データ生成方法
JP5755571B2 (ja) 仮想視点画像生成装置、仮想視点画像生成方法、制御プログラム、記録媒体、および立体表示装置
US9007404B2 (en) Tilt-based look around effect image enhancement method
JP6033625B2 (ja) 多視点画像生成装置、画像生成方法、表示装置、プログラム、及び、記録媒体
US10939092B2 (en) Multiview image display apparatus and multiview image display method thereof
JP5820985B2 (ja) 立体画像処理装置および立体画像処理方法
JP6008322B2 (ja) 視差画像生成装置、視差画像生成方法、プログラムおよび集積回路
US10506177B2 (en) Image processing device, image processing method, image processing program, image capture device, and image display device
JP5127973B1 (ja) 映像処理装置、映像処理方法および映像表示装置
WO2013089183A1 (ja) 画像処理装置、画像処理方法、コンピュータプログラム、記録媒体、立体画像表示装置
JP2004320189A (ja) 2次元画像の3次元化方法
US20140362197A1 (en) Image processing device, image processing method, and stereoscopic image display device
JP2012105172A (ja) 画像生成装置、画像生成方法、コンピュータプログラムおよび記録媒体
US8817081B2 (en) Image processing apparatus, image processing method, and program
JP5281720B1 (ja) 立体映像処理装置及び立体映像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160510

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160705

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160809

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160905

R151 Written notification of patent or utility model registration

Ref document number: 6008322

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

SZ03 Written request for cancellation of trust registration

Free format text: JAPANESE INTERMEDIATE CODE: R313Z03

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees