WO2012147329A1 - 立体視強度調整装置、立体視強度調整方法、プログラム、集積回路、記録媒体 - Google Patents

立体視強度調整装置、立体視強度調整方法、プログラム、集積回路、記録媒体 Download PDF

Info

Publication number
WO2012147329A1
WO2012147329A1 PCT/JP2012/002786 JP2012002786W WO2012147329A1 WO 2012147329 A1 WO2012147329 A1 WO 2012147329A1 JP 2012002786 W JP2012002786 W JP 2012002786W WO 2012147329 A1 WO2012147329 A1 WO 2012147329A1
Authority
WO
WIPO (PCT)
Prior art keywords
stereoscopic
parallax
parallax map
accuracy
stereoscopic intensity
Prior art date
Application number
PCT/JP2012/002786
Other languages
English (en)
French (fr)
Inventor
雅文 大久保
山地 治
Original Assignee
パナソニック株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by パナソニック株式会社 filed Critical パナソニック株式会社
Priority to US13/642,008 priority Critical patent/US20130063576A1/en
Priority to CN2012800015311A priority patent/CN102918861A/zh
Priority to JP2012552206A priority patent/JP6002043B2/ja
Publication of WO2012147329A1 publication Critical patent/WO2012147329A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • G02B30/20Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes
    • G02B30/26Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type
    • G02B30/27Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type involving lenticular arrays
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • G02B30/20Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes
    • G02B30/26Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type
    • G02B30/33Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type involving directional light or back-light sources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/261Image signal generators with monoscopic-to-stereoscopic image conversion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Abstract

 視差マップ取得部は、立体視映像を構成するメインビューデータおよびサブビューデータの組みの各画素の視差の値を示す視差マップを取得する。視差マップ評価部は、取得した視差マップの精度を評価する。立体視強度調整方法選択部は、DIBR実行部による視差マップを用いた画素シフト処理、およびプレーンシフト実行部によるプレーンシフト処理を択一的に選択する。DIBR実行部またはプレーンシフト実行部は、立体視強度調整方法選択部による立体視強度調整方法の選択に応じて立体視強度の調整を実行する。

Description

立体視強度調整装置、立体視強度調整方法、プログラム、集積回路、記録媒体
 本発明は、立体視映像の立体視強度を調整する技術に関する。
 近年、両眼視差を利用した立体視映像の再生技術が注目を集めている。人間は左目と右目に入射する映像の違いにより、立体を知覚する(例えば、非特許文献1参照)。このため、視聴者の左目と右目に視差がある映像(左目用映像・右目用映像)を独立して入射させることにより、視聴者に奥行きを感じさせることができる。家庭設置用再生装置の先行技術には、例えば、特許文献1に記載されたものがある。また、立体視再生の先行技術には、例えば、特許文献2に記載されたものがある。これらの技術を用いることで、立体視映像の視聴が可能となる。
 ここで、立体視映像の飛び出しの度合いや引っ込みの度合いは、視聴者により好みが異なる場合も多い。また、立体視映像の飛び出し度合いや引っ込み度合いは、立体視映像を表示するディスプレイのサイズに依存する。このため、特許文献3や特許文献4に開示される技術を用いて、立体視映像の立体視強度の調整が行なわれている。
 特許文献3に開示される技術では、立体視映像を構成する左目用映像・右目用映像間の視差を算出し、立体視映像を表示するディスプレイのサイズに応じて、算出した視差の値を変更する。そして、変更した視差の値に基づき立体視映像を補正することで、立体視映像の立体視強度を調整している。
 また、特許文献4に開示される技術では、立体視映像を構成する左目用映像・右目用映像間の視差を算出し、立体視映像の飛び出し量および引っ込み量が視聴者の許容範囲内に収まるように、視差の値を変更する。そして、変更した視差の値に基づき立体視映像を補正することで、立体視映像の立体視強度を調整している。
国際公開第2005/119675号 米国特許出願公開第2008/0036854号明細書 特開2010-45584号公報 特開2003-284093号公報
Lenny Lipton, "Foundations of the Stereoscopic Cinema, A Study in Depth", Van Nostrand Reinhold, 1982
 しかしながら、上記の従来技術では、立体視強度の調整後の立体視映像が不自然なものとなる場合があった。
 本発明は上記事情に鑑みなされたものであり、違和感の少ない立体視強度の調整を可能とする立体視強度調整装置を提供することを目的とする。
 上記目的を達成するため、本発明の一態様である立体視強度調整装置は、立体視映像の立体視強度を調整する立体視強度調整装置であって、立体視映像を構成するメインビューデータおよびサブビューデータの組みの各画素の視差の値を示す視差マップを取得する視差マップ取得部と、前記視差マップの精度を判定する精度判定部と、前記立体視映像の立体視強度を調整する立体視強度調整部とを備え、前記立体視強度調整部は、視差マップを用いた画素シフト処理、およびプレーンシフト処理を、前記視差マップの精度に応じて択一的に選択して実行することを特徴とする。
 本発明の一態様である立体視強度調整装置によれば、立体視映像が有する視差の値を示す視差マップの精度を判定し、判定した精度に応じて、視差マップを用いた画素シフトによる立体視強度調整手段か、視差マップを用いないプレーンシフトによる立体視強度調整手段かを択一的に選択するため、立体視強度の調整による立体視映像の変形を低減することができる。このため、視聴者にとって違和感の少ない、立体視強度の調整が可能となる。
本実施の形態にかかる立体視調整装置を用いた立体視映像視聴システムを示す図である。 立体視映像再生時の左目用画像および右目用画像の出力例を示す図である。 引っ込み立体視の場合における、左目用画像および右目用画像のシフト量(視差量)と、立体視映像の飛び出し度合いおよび引っ込み度合いとの関係を示す図である。 飛び出し立体視の場合における、左目用画像および右目用画像のシフト量(視差量)と、立体視映像の飛び出し度合いおよび引っ込み度合いとの関係を示す図である。 ディスプレイサイズと、ディスプレイ上で画像のシフト量との関係を示す図である。 視聴する物体の飛び出し位置および引っ込み位置への視差角の一例を示す図である。 DIBRの概要を示す図である。 立体視強度調整装置10の構成の一例を示すブロック図である。 視差マップの生成を説明するための図である。 視差マップの精度の評価を説明するための図である。 視差マップに基づくDIBR処理により発生するオクルージョンを示す図である。 オクルージョンの一例を示す図である。 視差マップの画素値とシフト量との関係を示す図である。 立体視強度調整装置10による立体視強度調整処理の流れを示すフローチャートである。 視差マップの精度の評価処理の流れを示すフローチャートである。 立体視強度調整装置20の構成の一例を示すブロック図である。 プレーンシフト処理の概要を示す図である。 立体視強度調整装置20による立体視強度調整処理の流れを示すフローチャートである。 プレーンシフト処理の流れを示すフローチャートである。 立体視強度の調整が適切であるか否かの確認を伴う立体視強度調整処理の流れを示すフローチャートである。 立体視強度調整装置30の構成の一例を示すブロック図である。 立体視強度調整装置30による立体視強度調整処理の流れを示すフローチャートである。 立体視強度調整装置40の構成の一例を示すブロック図である。
 ≪本発明にかかる一態様の基礎となった知見≫
 まず、本発明にかかる一態様の基礎となった知見について説明する。
 立体視映像の飛び出しの度合いや引っ込みの度合いは、視聴者により好みが異なる場合も多い。また、立体視映像の飛び出し度合いや引っ込み度合いは、立体視映像を表示するディスプレイのサイズに依存する。
 このため、従来では、特許文献3や特許文献4に開示される技術を用いて、立体視映像の立体視強度の調整が行なわれている。
 ここで、発明者らは、鋭意研究により、これらの技術により立体視映像の立体視強度を調整した場合において、調整後の立体視映像が変形する場合があることを発見した。変形した立体視映像は、視聴者に違和感を与える。
 発明者らは、この立体視強度の調整により立体視映像が変形する原因を検証した。その結果、誤って算出された視差の値に基づき立体視強度の調整が行なわれたため、立体視映像が変形したものであることを見いだした。また、過度に大きな視差量を有する視差マップに基づきDIBR処理を行なったため、DIBR処理後の立体視映像に生じるオクルージョンの量が大きくなり、立体視強度調整後の立体視映像が変形したものであることを見いだした。
 立体視映像が有する視差量の算出は、立体視映像を構成する左目用画像・右目用画像間において対応点の探索を行ない、その対応点間の水平方向のずれ量を算出することにより行なう。この対応点の探索において、平坦な画像領域などは、複雑な模様のある画像領域に比べて、対応点の候補が多く探索が難しい。この複数の対応点候補から正しいものを選択する際に誤りが生じやすい。誤った対応点を検出した場合、実際の視差量とは異なる視差量に基づき立体視強度の調整を行なうことになり、その結果、立体視映像が変形してしまう。
 また、DIBR処理では、画素毎に異なる画素数で各画素の座標をシフトする。このため、視差マップの隣接する画素の値が急峻に変化する箇所、つまり、画像に含まれる被写体の境界面付近でオクルージョンは発生する。一般に、オクルージョンは、周辺の画素を用いて補間することとなるが、このオクルージョン量が過度に大きくなると、ユーザに対して違和感を与えるおそれがある。
 ≪本発明の一態様の概要≫
 発明者らは、以上の知見を基礎に、以下に示す発明の一態様を得るに至った。
 本発明の一態様である立体視強度調整装置は、立体視映像の立体視強度を調整する立体視強度調整装置であって、立体視映像を構成するメインビューデータおよびサブビューデータの組みの各画素の視差の値を示す視差マップを取得する視差マップ取得部と、前記視差マップの精度を判定する精度判定部と、前記立体視映像の立体視強度を調整する立体視強度調整部とを備え、前記立体視強度調整部は、視差マップを用いた画素シフト処理、およびプレーンシフト処理を、前記視差マップの精度に応じて択一的に選択して実行する。
 上記の態様によれば、立体視映像が有する視差の値を示す視差マップの精度を判定し、判定した精度に応じて、視差マップを用いた画素シフトによる立体視強度調整手段か、視差マップを用いないプレーンシフトによる立体視強度調整手段かを択一的に選択するため、立体視強度の調整による立体視映像の変形を低減することができる。このため、視聴者にとって違和感の少ない、立体視強度の調整が可能となる。
 また、本発明の一態様にかかる立体視強度調整装置の特定の局面では、前記精度判定部は、前記視差マップに示される視差の値から定まる前記立体視映像の立体視強度を用いて、前記視差マップの精度を判定し、前記立体視強度調整部は、前記立体視映像の立体視強度が所定の強度以上である場合を条件に、視差マップを用いた画素シフト処理を選択し、前記立体視映像の立体視強度が所定の強度以下である場合を条件にプレーンシフト処理を選択する。
 上記の態様によれば、立体視映像の立体視強度が適切に収まっている場合は、プレーンシフト処理により立体視強度の調整を行なう。また、立体視映像の立体視強度が適切な強度以上である場合は、DIBR処理により立体視強度の調整を行なう。
 立体視映像の立体視強度が適切に収まっている場合は、大幅な立体視強度の調整は不必要なため、プレーンシフト処理により立体視強度を調整することで、立体視映像の画質を劣化させることなく、立体視強度の調整を行なうことができる。一方、立体視映像の立体視強度が適切な強度以上である場合には、適切な強度以内に立体視強度を変更する必要があり、DIBR処理により立体視強度を調整することで、立体視映像の飛び出しおよび奥行き感を調整することができる。
 また、本発明の一態様にかかる立体視強度調整装置の特定の局面では、前記立体視映像の立体視強度は、視差角に基づくものであり、前記精度判定部は、前記視差マップに示される視差の値を用いて視差角を算出し、算出した視差角と所定の閾値とを比較することにより、前記視差マップの精度を判定する。
 上記の態様によれば、視差角により定まる立体視強度に基づき、プレーンシフト処理とDIBR処理とを選択し、立体視映像の立体視強度を調整することができる。
 また、本発明の一態様にかかる立体視強度調整装置の特定の局面では、前記視差マップ取得部は、メインビューデータとサブビューデータとの間で対応点探索を行なうことで視差マップを生成し、前記精度判定部は、前記視差マップ取得部による対応点探索工程において生じたエラー量を用いて、前記視差マップの精度を判定し、前記立体視強度調整部は、視差マップ全体における精度が所定の精度以上である場合を条件に視差マップを用いた画素シフト処理を選択し、視差マップ全体における精度が所定の精度以下である場合を条件にプレーンシフト処理を選択する。
 上記の態様によれば、対応点探索時において誤って検出された対応点に基づき立体視強度を調整することにより、立体視強度の調整後の立体視映像の品質が低下することを防ぐことができる。
 また、本発明の一態様にかかる立体視強度調整装置の特定の局面では、前記エラー量は、対応点探索において、対応点が検出されなかった画素、および複数の対応点候補が検出された画素の数であり、前記精度判定部は、前記視差マップ取得部による対応点探索において、対応点が検出されなかった画素、および複数の対応点候補が検出された画素の数と、所定の閾値とを比較することにより、前記視差マップの精度を判定する。
 上記の態様によれば、対応点が検出されなかった画素、および複数の対応点候補が検出された画素をエラー量として検出し、その画素数に基づき、視差マップの精度を判定することができる。
 また、本発明の一態様にかかる立体視強度調整装置の特定の局面では、さらに、前記立体視映像を表示する画面のサイズを取得する画面サイズ取得部を備え、前記立体視強度調整部による画素シフト処理は、前記画面のサイズと前記視差マップの精度を用いて、前記視差マップが有する視差量を変更し、変更した視差量に対応する画素数で、メインビューデータの各画素の座標をシフトすることにより、サブビューデータを再生成する。
 上記の態様によれば、画面のサイズと視差マップの精度を用いた視差マップの変更により視差マップの精度を向上させることができるため、より違和感の少ない立体感調整が可能になり、視聴者への眼精疲労の軽減や臨場感の向上が可能となる。
 また、本発明の一態様にかかる立体視強度調整装置の特定の局面では、前記精度判定部は、前記視差マップの前景領域および後景領域における精度を判定し、前記立体視強度調整部による画素シフト処理は、前記視差マップの後景領域の精度が所定の精度以下である場合、前記視差マップの後景領域が有する視差量を無効とする。
 上記の態様によれば、対応点探索の誤りが多く存在する後景領域の視差量を無効化するので、視差マップの精度を向上させることができる。
 また、本発明の一態様にかかる立体視強度調整装置の特定の局面では、前記精度判定部は、前記視差マップの前景領域および後景領域における精度を判定し、前記立体視強度調整部による画素シフト処理は、前記視差マップの前景領域の精度が所定の精度以下である場合、前記視差マップの前景領域が有する視差量を平均化する。
 上記の態様によれば、対応点探索の誤りが多く存在する前景領域が有する視差量を平均化するので、視差マップの精度を向上させることができる。
 また、本発明の一態様にかかる立体視強度調整装置の特定の局面では、前記立体視強度調整部による画素シフト処理は、前記視差マップの前景領域に含まれる被写体の輪郭を抽出し、当該輪郭の抽出の精度が所定の精度以上である場合を条件に、前記視差マップの前景領域が有する視差量の平均化を実行する。
 上記の態様によれば、前景領域に含まれる被写体の輪郭の抽出の精度が所定の精度以上であることを条件に、視差マップの前景領域が有する視差量の平均化を実行するので、視差マップの前景領域が有する視差量を平均化することにより、視差マップの精度が低下することを防ぐことができる。
 また、本発明の一態様にかかる立体視強度調整装置の特定の局面では、前記精度判定部は、前記視差マップに示される視差の値から定まる前記立体視映像の立体視強度を用いて、前記視差マップの精度を判定し、前記立体視強度調整部による画素シフト処理は、前記立体視映像の立体視強度が所定の強度以上である場合、前記視差マップが有する視差量を低減する。
 上記の態様によれば、立体視映像の立体視強度が所定の強度以上である場合に、視差マップが有する視差量を低減するので、立体視強度の調整により生じるオクルージョン量を減らすことができる。
 また、本発明の一態様にかかる立体視強度調整装置の特定の局面では、前記立体視強度調整部による画素シフト処理は、前記画面のサイズに対する立体視映像の飛び出し量および引っ込み量が、予め定めた視差角以内におさまるように、視差マップが有する視差量を変更する。
 上記の態様によれば、所定の視差角以内におさまるように立体視強度を調整するため、ユーザにとって視覚疲労や違和感等が少ない立体視映像を提供することができる。
 また、本発明の一態様にかかる立体視強度調整装置の特定の局面では、前記立体視強度調整部による画素シフト処理は、立体視映像の飛び出し量および引っ込み量と、視聴距離との比が、予め定めた固定値になるように、視差マップが有する視差量を変更する。
 上記の態様によれば、立体視映像を表示する画面のサイズに適した立体視強度を有する立体視映像を提供することができる。
 また、本発明の一態様にかかる立体視強度調整装置の特定の局面では、前記立体視強度調整部による画素シフト処理は、前記画面サイズが所定のサイズ以上である場合には、前記画面のサイズに対する立体視映像の飛び出し量および引っ込み量が、予め定めた視差角以内におさまるように、視差マップが有する視差量を変更し、前記画面サイズが所定のサイズ以下である場合には、前記画面のサイズに対する立体視映像の飛び出し量および引っ込み量が、予め定めた視差角以上、立体視の融合限界の視差角以内におさまるように、視差マップが有する視差量を変更する。
 上記の態様によれば、立体視映像を表示する画面のサイズが大きい場合において、視差量を大きくすることにより、立体視強度が所定の視差角以上のものとなり視覚疲労や違和感等を与えることを防ぐことができる。また、立体視映像を表示する画面のサイズが小さい場合において、視差量を小さくすることにより、左目用画像と右目用画像を別々の画像と認識してしまい、立体融合が困難となることを防ぐことができる。
 また、本発明の一態様にかかる立体視強度調整装置の特定の局面では、さらに、左目用のプレーンおよび右目用のプレーンを含むプレーンと、前記プレーンに、ビューデータを書き込むレンダリングエンジンとを備え、前記レンダリングエンジンは、視差マップ全体における精度が所定の精度以上である場合には、立体視強度調整後のメインビューデータおよびサブビューデータを前記プレーンに書き込み、視差マップ全体における精度が所定の精度以下である場合には、立体視強度調整前のメインビューデータを左目用のプレーンおよび右目用のプレーンの両方に書き込む。
 上記の態様によれば、視差マップの精度が高い場合は3D表示を行ない、視差マップの精度が低い場合は2D表示を行なうことができる。
 また、本発明の一態様にかかる立体視強度調整装置の特定の局面では、前記視差マップ取得部は、前記視差マップの精度が所定の精度以下である場合には、視差マップの再取得を行なう。
 上記の態様によれば、視差マップの精度が低い場合において、視差マップの再取得を行なうので、視差マップの精度が向上することが期待できる。
 また、本発明の一態様にかかる立体視強度調整装置の特定の局面では、前記視差マップ取得部は、以前に視差マップを生成した手法とは別の手法により、視差マップの再取得を行なう。
 上記の態様によれば、以前に視差マップを生成した手法とは別の手法により、視差マップの再取得を行なうので、視差マップの精度が向上することがより期待できる。
 また、本発明の一態様である立体視強度調整方法は、立体視映像の立体視強度を調整する立体視強度調整方法であって、立体視映像を構成するメインビューデータおよびサブビューデータの組みの各画素の視差の値を示す視差マップを取得する視差マップ取得ステップと、前記視差マップの精度を判定する精度判定ステップと、前記立体視映像の立体視強度を調整する立体視強度調整ステップとを備え、前記立体視強度調整ステップは、視差マップを用いた画素シフト処理、およびプレーンシフト処理を、前記視差マップの精度に応じて択一的に選択して実行する。
 上記の態様によれば、立体視強度の調整による立体視映像の変形を低減することを可能とする立体視強度調整方法を提供することができる。
 また、本発明の一態様であるプログラムは、立体視映像の立体視強度を調整する立体視強度調整処理をコンピュータに実行させるプログラムであって、立体視映像を構成するメインビューデータおよびサブビューデータの組みの各画素の視差の値を示す視差マップを取得する視差マップ取得ステップと、前記視差マップの精度を判定する精度判定ステップと、前記立体視映像の立体視強度を調整する立体視強度調整ステップとをコンピュータに実行させ、前記立体視強度調整ステップは、視差マップを用いた画素シフト処理、およびプレーンシフト処理を、前記視差マップの精度に応じて択一的に選択して実行する。
 上記の態様によれば、立体視強度の調整による立体視映像の変形を低減することを可能とするプログラムを提供することができる。
 また、本発明の一態様である集積回路は、立体視映像の立体視強度を調整する立体視強度調整処理に用いる集積回路であって、立体視映像を構成するメインビューデータおよびサブビューデータの組みの各画素の視差の値を示す視差マップを取得する視差マップ取得手段と、前記視差マップの精度を判定する精度判定手段と、前記立体視映像の立体視強度を調整する立体視強度調整手段とを備え、前記立体視強度調整手段は、視差マップを用いた画素シフト処理、およびプレーンシフト処理を、前記視差マップの精度に応じて択一的に選択して実行する。
 上記の態様によれば、立体視強度の調整による立体視映像の変形を低減することを可能とする集積回路を提供することができる。
 また、本発明の一態様である記録媒体は、立体視映像の立体視強度を調整する立体視強度調整処理をコンピュータに実行させるプログラムを記録した記録媒体であって、前記プログラムは、立体視映像を構成するメインビューデータおよびサブビューデータの組みの各画素の視差の値を示す視差マップを取得する視差マップ取得ステップと、前記視差マップの精度を判定する精度判定ステップと、前記立体視映像の立体視強度を調整する立体視強度調整ステップとをコンピュータに実行させ、前記立体視強度調整ステップは、視差マップを用いた画素シフト処理、およびプレーンシフト処理を、前記視差マップの精度に応じて択一的に選択して実行する。
 上記の態様によれば、立体視強度の調整による立体視映像の変形を低減することを可能とする記録媒体を提供することができる。
 ≪実施の形態1≫
 以下では、本発明の実施の形態について、図面を参照しながら説明する。
 [立体視強度調整装置の使用形態]
 まず始めに、本実施の形態にかかる立体視強度調整装置の使用形態について説明する。
 図1は、本実施の形態にかかる立体視調整装置を用いた立体視映像視聴システムを示す図である。本システムは、例えば、再生装置1、記録媒体2、操作装置3、表示装置4、3D眼鏡5を含んで構成される。本実施の形態にかかる立体視調整装置は、再生装置1または表示装置4などに搭載され、再生・表示を行なう立体視映像の立体視強度の調整を行なう。
 再生装置1は、BDプレーヤ、DVDプレーヤ等のプレーヤであり、記録媒体2から立体視映像を読み出し、再生する。再生装置1は、表示装置4とHDMI(High-Definition Multimedia Interface)ケーブル等を介して接続され、読み出した立体視映像を表示装置4に送信する。
 記録媒体2は、BD-ROM(Blu-ray Disc Read Only Memory)、DVD-ROM(Digital Versatile Disk Read Only Memory)等の光ディスクやSDカード(Secure Digital memory card)等の半導体メモリーカードであり、上記のホームシアターシステムに、例えば映画作品を供給する。
 操作装置3は、リモコン等の操作機器であり、表示装置4に表示される階層化されたGUI(Graphical User Interface)に対する操作をユーザから受け付ける。かかるユーザ操作を受け付けるため、操作装置3は、メニューを呼び出すメニューキー、メニューを構成するGUI部品のフォーカスを移動させる矢印キー、メニューを構成するGUI部品に対して確定操作を行う決定キー、階層化されたメニューをより上位のものにもどってゆくための戻りキー、数値キー等を備える。
 表示装置4は、再生装置1により再生された立体視映像をディスプレイ上に表示する。また、表示装置4は、アンテナを通して、デジタル放送波のトランスポートストリームを受信し、受信したトランスポートストリームから得られる立体視映像をディスプレイ上に表示する。また、表示装置4は、IPネットワークからビデオストリームを取得し、取得したビデオストリームから得られる立体視映像をディスプレイ上に表示する。また、表示装置4は、ディスプレイ上にメニュー等を表示することで、対話的な操作環境をユーザに提供する。
 3D眼鏡5は、立体視映像の視聴時において視聴者が着用する眼鏡であり、立体視映像の再生・表示制御を行なう再生装置1や表示装置4などと協働することで、立体視の視聴を実現させる。
 以上が、本実施の形態にかかる立体視強度調整装置の使用形態についての説明である。続いて、立体視視聴の原理について説明する。
 [立体視視聴の原理]
 図2は、立体視映像再生時の左目用画像および右目用画像の出力例を示す図である。
 本図に示されるように、表示装置4は、立体視映像の再生時において、視差がある映像(左目用画像・右目用画像)を表示する。
 ここで、左目用画像に含まれる被写体と、右目用画像に含まれる被写体との関係をみる。すると、左目用画像に含まれる被写体を基準にした場合、手前に位置している被写体(例えば、男性や女性の被写体)は、対応する右目用画像に含まれる被写体よりも左側に位置している。一方、奥に位置している被写体(例えば、太陽や雲の像)は、対応する右目用画像に含まれる被写体よりも右側に位置している。
 人間は左目と右目に入射する映像の違いにより立体を知覚するため、このような視差のある左目用画像・右目用画像を表示し、視聴者の左目と右目に独立して入射させることにより、視聴者に奥行きを感じさせることができる。
 左目用画像・右目用画像の、視聴者の左目・右目への独立した入射は、3D眼鏡による透光・遮光の切り替えや、パララックスバリア、レンティキュラレンズ等を用いた視差障壁によって実現される。
 以上が、立体視視聴の原理についての説明である。続いて、ディスプレイのサイズと立体視映像コンテンツとの関係について説明する。
 [ディスプレイのサイズと立体視映像コンテンツとの関係]
 立体視映像の飛び出し度合いや引っ込み度合いは、立体視映像を表示するディスプレイのサイズに依存する。そのため、コンテンツオーサーは、コンテンツが視聴されるディスプレイのサイズを想定し、そのディスプレイサイズで視聴した場合に最適な飛び出し度合いおよび引っ込み度合いが得られるように、立体視映像のコンテンツを作成する。
 例えば、映画コンテンツなどは、劇場スクリーンや家庭設置用の大画面テレビのディスプレイサイズを想定して、コンテンツが製作されている。また、家庭用の3Dデジタルカメラ等で撮影された立体視映像などは、フォトフレームやファインダー等の比較的小画面のディスプレイで視聴されることを想定して、コンテンツが製作されている場合がある。
 立体視映像を大画面のディスプレイで視聴した場合、小画面のディスプレイで視聴した場合に比べて、ディスプレイ上での左目用画像・右目用画像間のずれ幅が大きくなる。このため、大画面向けに製作されたコンテンツは、小画面向けに製作されたコンテンツよりも視差量が小さくなっており、大画面向けに製作されたコンテンツを小画面のディスプレイで視聴した場合、視聴者は十分な立体感を得ることができない。
 一方、立体視映像を小画面のディスプレイで視聴した場合、大画面のディスプレイで視聴した場合に比べて、ディスプレイ上での左目用画像・右目用画像間のずれ幅が小さくなる。このため、小画面向けに製作されたコンテンツは、大画面向けに製作されたコンテンツよりも視差量が大きくなっており、小画面向けに製作されたコンテンツを大画面のディスプレイで視聴した場合、視聴者にとって過度に強い立体視強度となる場合がある。過度に強い立体視強度を有する立体視映像の視聴は、視聴者に違和感を与える。
 また、立体視映像の見え方には個人差があり、希望する飛び出し度合いおよび引っ込み度合いは視聴者によって異なる。立体視による強い驚き感を希望する視聴者も存在する。その一方、飛出し度合が大きい映像は、視聴者を過度に驚かせたり脅えさせるおそれがあるため、飛び出し度合が弱い映像を好む視聴者も存在する。
 本発明の一態様にかかる立体視強度調整装置によれば、ディスプレイサイズやユーザ希望する立体視強度に応じて、立体視映像の立体視強度を調整するため、上記の問題を解決することができる。
 以上が、ディスプレイのサイズと立体視映像コンテンツとの関係についての説明である。続いて、左目用画像および右目用画像のシフト量(視差量)と、立体視映像の飛び出し度合いおよび引っ込み度合いとの関係について説明する。
 [シフト量と飛び出し度合いおよび引っ込み度合いとの関係]
 図3および図4は、左目用画像および右目用画像のシフト量(視差量)と、立体視映像の飛び出し度合いおよび引っ込み度合いとの関係を示す図である。
 これらの図において、左目瞳孔と、左目用画像に含まれる物体Aの表示位置とを結ぶ直線が左目の視線となる。また、右目瞳孔と、右目用画像に含まれる物体Aの表示位置とを結ぶ直線が右目の視線となる。視聴者は、この左目の視線と右目の視線の交点(結像点)に、物体Aが存在するように感じる。
 立体視効果には、飛び出し効果をもたらすもの(飛出し立体視)と、引っ込み効果をもたらすもの(引っ込み立体視)とがある。まず、図3を用いて引っ込み立体視の場合におけるシフト量との関係について説明する。
 図3において、pは左目用画像および右目用画像のシフト量(視差量)、Zは視聴位置からディスプレイまでの距離、Sは視聴位置から結像位置までの距離、IPDは基線長(瞳孔間距離)を示す。
 図3を参照するに、左目瞳孔、右目瞳孔、および結像点の三点からなる三角形と、左目用画像に含まれる物体Aの表示位置、右目用画像に含まれる物体Aの表示位置、および結像点からなる三角形の相似関係から、視聴位置から結像位置までの距離Sと、視聴位置からディスプレイまでの距離Zと、左目用画像・右目用画像間のシフト量pと、基線長IPDとの間には、下記の数式(1)に示す関係が成り立つ。
  S-Z:S=p:IPD/2・・・(1)
 この数式(1)に示される関係から、左目用画像および右目用画像のシフト量pは、下記の数式(2)のように表される。
  p=IPD/2×(1-Z/S)・・・(2)
 図4は、飛び出し立体視の場合における、左目用画像および右目用画像のシフト量(視差量)と、立体視映像の飛び出し度合いの関係を示す図である。図4を参照するに、左目瞳孔、右目瞳孔、および結像点の三点からなる三角形と、左目用画像に含まれる物体Aの表示位置、右目用画像に含まれる物体Aの表示位置、および結像点からなる三角形の相似関係から、視聴位置から結像位置までの距離Sと、視聴位置からディスプレイまでの距離Zと、左目用画像・右目用画像間のシフト量pと、基線長IPDとの間には、引っ込み立体視の場合と同様に、上述の数式(1)および数式(2)の関係が成り立つ。
 なお、上述の数式(1)および数式(2)では、物体Aをディプレイに投影をした位置を基準としてシフト量pを計算しているので、左目用の画像に含まれる物体Aの位置を基準としたときのシフト量は、数式(1)および数式(2)に示されるpの値の2倍の値となる。
 以上が、左目用画像および右目用画像のシフト量(視差量)と、立体視映像の飛び出し度合いおよび引っ込み度合いとの関係についての説明である。続いて、ディスプレイサイズと、ディスプレイ上で画像のシフト量との関係について説明する。
 [ディスプレイサイズと、ディスプレイ上で画像のシフト量との関係]
 図5は、ディスプレイサイズと、ディスプレイ上で画像のシフト量との関係を示す図である。
 図5において、Xはディスプレイのサイズ、widthはディスプレイの横幅、heightはディスプレイの高さ、Zは視聴位置からディスプレイまでの距離、Sは視聴位置から結像位置までの距離、IPDは基線長(瞳孔間距離)、psはディスプレイ上での画像のシフト量(画素数)を示す。
 ここで、ディスプレイの画面サイズXは、ディスプレイの横幅widthと、ディスプレイの高さとを用いて下記の数式(3)のように表される。
  X2=width2+height2・・・(3)
 また、ディスプレイのアスペクト比m:nは、ディスプレイの横幅widthと、ディスプレイの高さとを用いて下記の数式(4)のように表される。
  width:height=m:n・・・(4)
 上記の数式(3)および数式(4)から、ディスプレイの横幅widthは、下記の数式(5)のように表される。
Figure JPOXMLDOC01-appb-M000001
 ディスプレイの横方向の画素数をw_pixとした場合、横方向の1画素あたりの長さは、ディスプレイの横幅width/ディスプレイの横方向の画素数w_pixとなる。また、ディスプレイの縦方向の画素数をh_pixとした場合、縦方向の1画素あたりの長さは、ディスプレイの高さheight/ディスプレイの縦方向の画素数h_pixとなる。
 従って、ディスプレイ上での画像のシフト量(画素数)psは、上記の数式(2)および数式(5)から、下記の数式(6)のように表される。
Figure JPOXMLDOC01-appb-M000002
 psは、物体をディスプレイに投影した位置を基準としたシフト量(画素数)である。このため、左目用画像を構成する画素をシフトして右目用画像を生成する場合には、psで示される画素数の2倍の画素数だけシフトする必要がある。
 ここで数式(6)を参照するに、ディスプレイのアスペクト比が同じであり、かつディスプレイに表示する画像の画素数が同じであるという前提において、数式(2)に示されるpの値が同じであったとしても、表示するディスプレイのサイズが異なれば、算出されるpsの値は異なることが分かる。
 従って、サイズが異なるディスプレイに対して、立体視映像を同じ割合だけ飛び出させたり引っ込めたりするためには、ディスプレイのサイズが小さくなるに従ってディスプレイ上での画像のシフト量psを大きくする必要がある。
 これは、サイズの大きなディスプレイAにおいて用いるpsを、その値を変更することなくディスプレイAよりもサイズの小さなディスプレイBにおけるpsとしてそのまま用いると、サイズが小さいディスプレイBの方がディスプレイAに比べ、飛び出したり引っ込んだりする割合が低下することを意味する。
 一般に、成人男性の瞳孔間距離は約6.5cmであることから、基線長IPDは6.5cmとして扱われる。また、フルハイビジョンのディスプレイを例にとると、アスペクト比m:nは16:9、ディスプレイの横方向の画素数w_pixは1920となる。これらの値を数式(6)に代入すると、ディスプレイ上での画像のシフト量psは、以下のようになる。
  ps=(2818.68/X)×(Z/S-1)
 ここで、物体をディスプレイから、視聴位置からディスプレイまでの距離に対して10%飛び出させる場合を考えると、S=0.9Zとなる。従って、ディスプレイ上での画像のシフト量psは、以下のようになる。
  ps=313.19/X
 1インチは2.54cmであることから、例えば、50インチのディスプレイ上での画像のシフト量は6ピクセルとなる。これに対し、例えば、5インチのディスプレイ上での画像のシフト量は63ピクセルとなる。
 このように、立体視映像を表示するにあたって同じ飛び出し量および引っ込み量を実現しようとすれば、ディスプレイサイズに応じて、画像のシフト量を変更する必要がある。
 以上が、ディスプレイサイズと、ディスプレイ上で画像のシフト量との関係についての説明である。続いて、立体視映像の飛び出し量および引っ込み量と、視差角との関係について説明する。
 [飛び出し量および引っ込み量と視差角との関係]
 図6は、視聴する物体の飛び出し位置および引っ込み位置への視差角の一例を示す図である。
 本図において、αは視聴位置から引っ込み位置にある物体Bを視聴したときの左目の視線と右目の視線とがなす角度(輻輳角)である。また、βは視聴位置から飛び出し位置にある物体Cを視聴したときの左目の視線と右目の視線とがなす角度(輻輳角)である。また、θは視聴位置からディスプレイ位置Aにある物体を視聴したときの左目の視線と右目の視線とがなす角度(輻輳角)である。
 ここで視差角は、ディスプレイ上の一点を見たときの輻輳角と、両眼視差により決まる立体を見たときの輻輳角との差分で定義される。従って、本図の例において、引っ込み位置にある物体Bを視聴したときの視差角はθ-αとなる。また、飛び出し位置にある物体Cを視聴したときの視差角はβ-θとなる。
 視覚疲労や違和感等がなく快適に立体視映像を視聴するための一つの基準として、視差角が所定の角度以内であることが知られている。例えば、3Dコンソーシアムでは、快適に立体視映像を視聴するためには、視差角が1度以内であることが推奨されている。また、視差角が2度以上になると、左目用画像と右目用画像を別々の画像と認識してしまい、立体融合が困難となるとしている。
 例えば、50インチのディスプレイ上で、視差角1度以内の飛び出し量および引っ込み量に制限した場合、ディスプレイから飛び出す割合は、視聴位置からディスプレイまでの距離に対して33%となり、ディスプレイから引っ込む割合は、視聴位置からディスプレイまでの距離に対して101%になる。これに対して、5インチのディスプレイ上で、視差角1度以内の飛び出し量および引っ込み量に制限した場合、ディスプレイから飛び出す割合は、視聴位置からディスプレイまでの距離に対して5%となり、ディスプレイから引っ込む割合は、視聴位置からディスプレイまでの距離に対して5%となる。
 ここで、図4および図6を参照するに、飛び出し立体視の場合における基線長IPDは、輻輳角βを用いて以下のように表される。
  IPD=2×S1×tan(β/2)
 また、シフト量pを2倍した値2pは、輻輳角βを用いて以下のように表される。
  2p=2×(Z-S1)×tan(β/2)
 また、飛び出し立体視の場合における基線長IPDは、輻輳角θを用いて以下のように表される。
  IPD=2×Z×tan(θ/2)
 以上より、シフト量pを2倍した値2pは、輻輳角βとθを用いて、下記の数式(7)のように表される。
  2p=2×Z×{tan(β/2)-tan(θ/2)}・・・(7)
 また、図3および図6を参照するに、引っ込み立体視の場合における基線長IPDは、輻輳角αを用いて以下のように表される。
  IPD=2×S2×tan(α/2)
 また、シフト量pを2倍した値2pは、輻輳角αを用いて以下のように表される。
  2p=2×(S2-Z)×tan(α/2)
 また、引っ込み立体視の場合における基線長IPDは、輻輳角θを用いて以下のように表される。
  IPD=2×Z×tan(θ/2)
 以上より、シフト量pを2倍した値2pは、輻輳角αとθを用いて、下記の数式(8)のように表される。
  2p=2×Z×{tan(θ/2)-tan(α/2)}・・・(8)
 上記の数式(7)および数式(8)において、ディスプレイ上での輻輳角θの値は、視聴位置からディスプレイまでの距離Zと、基線長(瞳孔間距離)IPDから定まる。例えば、視聴位置からディスプレイの距離が1200mm、基線長(瞳孔間距離)が65mmの場合、ディスプレイ上での輻輳角θは、2.86度となる。
 従って、視差角の上限値が与えられれば、上記の数式(7)および数式(8)を用いて、視差量の上限値を算出することができる。例えば、視聴位置からディスプレイの距離が1200mm、基線長(瞳孔間距離)が65mmの条件下において、視差角の上限値が1度の場合、飛び出し点における輻輳角βは3.86度となり、ディスプレイ上での視差量の上限値は21mmとなる。
 以上が、立体視映像の飛び出し量および引っ込み量と、視差角との関係についての説明である。続いて、DIBR(Depth Image Based Rendering)について説明する。
 [DIBR(Depth Image Based Rendering)]
 DIBR(Depth Image Based Rendering)(画素シフト処理とも呼ばれる)とは、画像データを構成する各画素の座標を、視差マップに基づき水平方向にシフトすることにより、元の画像データとは異なる視点の画像を生成し、多視点の画像からなる立体視画像を生成する技術である。
 図7は、DIBRの概要を示す図である。本図に示されるように、DIBR処理では、まず、左目用画像と右目用画像と、左目用画像と右目用画像間の視差を示す視差マップを取得する。
 本図の例において、視差マップ(デプスマップとも呼ばれる)は、視差量または奥行き方向の距離を256階調の輝度で表した画像データであり、前方に位置するほど色が白、後方に位置するほど色が黒で表される。
 DIBR処理による立体視強度の調整では、視差マップに示される視差量または奥行き方向の距離を変更し、変更した視差量または奥行き方向の距離に対応する画素数で左目用画像データの各画素をシフトすることにより視差調整画像を生成する。この視差調整画像を右目用画像として出力することにより、立体視映像の立体視強度を調整することができる
 本図に示すように、立体視強度を強調する場合には、視差マップに示される視差量または奥行き方向の距離を拡大して、視差調整画像を生成する。これにより、物体の飛び出し位置はより手前に移動し、物体の引っ込み位置はより奥に移動し、立体視映像の立体視強度が強調される。また、立体視強度を抑制する場合には、視差マップに示される視差量または奥行き方向の距離を縮小して、視差調整画像を生成する。これにより、物体の飛び出し位置は奥に移動し、物体の引っ込み位置は手前に移動し、立体視映像の立体視強度が抑制される。
 以上が、DIBR(Depth Image Based Rendering)についての説明である。続いて、立体視強度調整装置の構成について説明する。
 [実施の形態1にかかる立体視強度調整装置の構成]
 図8は、立体視強度調整装置10の構成の一例を示すブロック図である。本図に示されるように、立体視強度調整装置10は、ユーザ入力部100、コンテンツ再生モジュール200、視差情報調整モジュール300、立体視強度制御モジュール400、表示制御モジュール500、視差情報保持メモリ600、視差マップ生成エンジン700、レンダリングエンジン800、イメージメモリ900、イメージデコーダ1000、左目用プレーン1100、右目用プレーン1200、出力切替器1300を含んで構成される。また、視差情報調整モジュール300は、指示取得部310、視差特定部320を含んで構成される。また、立体視強度制御モジュール400は、左右画像取得部410、画像補正部420、視差マップ取得部430、視差マップ評価部440、視差マップ調整部450、DIBR実行部460を含んで構成される。また、表示制御モジュール500は、機器情報取得部510、出力設定部520を含んで構成される。以下、各構成部について説明する。
 <ユーザ入力部100>
 ユーザ入力部100は、ユーザからの入力を受け付ける機能を有する。具体的には、ユーザ入力部100は、立体視映像の再生命令や、立体視強度の調整命令や、ユーザが希望する立体視強度の程度を示すパラメータなどの入力を受け付ける。ユーザ入力部100は、これらの命令やパラメータを受け付けた場合、後述のコンテンツ再生モジュール200または視差情報調整モジュール300に、受け付けた命令やパラメータを配送する。
 <コンテンツ再生モジュール200>
 コンテンツ再生モジュール200は、ユーザ入力部100から受けた立体視映像の再生命令や立体視強度の調整命令等に従い、立体視映像の再生指示や立体視映像の立体視強度の調整の指示を出す。
 <視差情報調整モジュール300>
 視差情報調整モジュール300は、指示取得部310、視差特定部320を含み、ユーザ入力部100から受けた立体視強度の程度を示すパラメータに従い、ユーザが所望する飛び出し量および引っ込み量に対応する視差量を示す視差情報を生成・調整する機能を有する。
 <指示取得部310>
 指示取得部310は、ユーザ入力部100から立体視強度の程度を示すパラメータを取得する機能を有する。ここで、立体視強度の程度を示すパラメータとは、例えば、視差角の上限値を示すものであってもよい。また、「強」「中」「弱」といった立体視強度の度合いを示すものであってもよい。また、視聴位置からディスプレイまでの距離に対する最大の飛び出し量の割合または最大の引っ込み量の割合を示すものであってもよい。また、立体視の融合限界の視差角を示すものであってもよい。
 <視差特定部320、視差情報保持メモリ600>
 視差特定部320は、指示取得部310で取得した立体視強度の程度を示すパラメータを、視差量の上限値に変換する機能を有する。
 立体視強度の程度を示すパラメータが、視差角の上限値を示すものである場合、その視差角の上限値から、立体視映像が有する視差の上限値を決定する。具体的には、上記の数式(7)または数式(8)に示す関係式を用いて、視差角の上限値から、立体視映像が有する視差の上限値を決定する。
 また、立体視強度の程度を示すパラメータが、ディスプレイのサイズに対するまでの距離に対する最大の飛び出し量の割合または最大の引っ込み量の割合を示すものである場合、上記の数式(6)に示す関係式を用いて、立体視強度の程度を示すパラメータから、立体視映像が有する視差の上限値を決定する。
 また、ディスプレイのサイズに対する最大の飛び出し量と引っ込み量の割合が、あらかじめ定めた所定の固定値になるように、上記の数式(6)に示す関係式を用いて、立体視映像が有する視差の上限値を決定してもよい。
 また、立体視強度の程度を示すパラメータが、立体視の融合限界の視差角を示すものである場合、その融合限界の視差角を視差角の上限値として、立体視映像が有する視差量の上限値を決定してもよい。
 視差情報保持メモリB600は、視差特定部320で生成された視差の上限値を視差情報として保持する機能を有する。
 <立体視強度制御モジュール400>
 立体視強度制御モジュール400は、左右画像取得部410、画像補正部420、視差マップ取得部430、視差マップ評価部440、視差マップ調整部450、DIBR実行部460を含み、立体視映像を取得し、取得した立体視映像の立体視強度の調整を行う機能を有する。
 <左右画像取得部410>
 左右画像取得部410は、イメージメモリ900に格納されている画像のうち、コンテンツ再生モジュール200が指示した左目用画像および右目用画像を取得する機能を有する。
 <画像補正部420>
 画像補正部420は、視差マップを生成しやすくするために、左右画像取得部410で取得した左目用画像および右目用画像を補正する機能を有する。具体的には、左目用画像および右目用画像を水平方向に揃える処理や、歪みを除去する処理等を行う。
 <視差マップ取得部430、視差マップ生成エンジン700>
 視差マップ取得部430は、視差マップ生成エンジン700が生成した左目用画像・右目用画像間の視差量または奥行き方向の距離を示す視差マップを取得する機能を有する。
 視差マップ生成エンジン700は、左目用画像および右目用画像から、視差マップを生成する機能を有する。図9は、視差マップの生成を説明するための図である。左目用画像と右目用画像は、同一の被写体を異なる視点から観察した画像であり、左目用画像と右目用画像とは相関性が高い。このことに着目し、視差マップ生成エンジン700は、左目用画像の各画素に対応する画素点を右目用画像から探索し、その対応点間の距離を算出することで視差を算出する。
 図9(a)は、視差マップの生成における対応点探索を示す図である。本図に示されるように、視差マップ生成エンジン700は、左目用画像の各画素に対応する画素が右目用画像のどこに存在するかを水平方向に探索していく。
 左目用画像および右目用画像間の対応画素を検出する方法としては、ブロックマッチング法を用いる。本図に示されるように、画像間の類似性を評価するために、比較する画像からn×n画素の領域を切り出し、その領域に対する輝度差の総和(SAD: Sum of Absolute Difference)を求め、切り出し位置を検索することで画像間の変位を画素単位で求める。
 また、ブロックマッチング法として輝度差の総和をあげたが、これに限定するものでなく、輝度差の2乗和(SSD: Sum of Squared Difference)、正規化相互相関(ZNCC: Zero-mean Normalized Cross- Correlation)等を求める手法であってもかまわない。同様に、左目用画像および右目用画像間の対応位置を求める手法もブロックマッチング法に限定するものではない。
 なお、探索範囲(水平方向に動かす範囲)については、範囲が大きくなると結果を得るまでの計算時間が大きく、範囲が少なすぎると実際には最小となる点が存在するにもかかわらず検出できないといった問題があるので、両者の兼ね合いにより最大探索範囲を決めておくのが望ましい。
 視差マップ生成エンジン700は、左目用画像の画素に対応する画素を右目用画像中から検出すると、図9(b)に示すように、左目用画像・右目用画像間の対応点間の距離を視差マップへプロットする。本図に示す例では、左目用画像・右目用画像間の対応点間の距離を0~255に変換してからプロットを行う。この処理を左目用画像の全画素について行うことで視差マップを生成することができる。
 例えば、図2における左目用画像における男性の像に含まれる画素について説明をすると、左目用画像における男性の像の各画素を紙面右方向に動かすと、右目用画像の画素値との絶対値差が最小になる点が見つけられる。また例えば、図2における左目用画像における太陽の像に含まれる画素について説明をすると、左目用画像における太陽の像の各画素を紙面左方向に動かすと、右目用画像の画素値との絶対値差が最小になる点が見つけられる。動かした方向および量に対応する値を、上述の視差の値0~255に変換して生成をしたのが図7に示した視差マップである。
 <視差マップ評価部440>
 視差マップ評価部440は、視差マップ取得部430が取得した視差マップの精度を評価する機能を有する。
 また、視差マップ評価部440は、後述する機器取得部510から取得される立体視映像を表示するディスプレイのサイズと、視差マップの精度とに応じて、視差マップを補正し視差マップの精度を高める処理を行う機能を有する。視差マップ評価部440は、生成した視差マップがどの程度のエラーおよびオクルージョンを含んでいるのかを調べ、必要に応じて補正することにより、視差マップの精度を高める。これにより、視差マップに含まれる精度の低い画素値に基づくDIBR処理により、立体視強度調整後の立体視映像が劣化することを抑制している。
 図10は、視差マップの精度の評価を説明するための図である。既に述べた通り、視差マップは、左目用画像の各画素に対応する画素点を右目用画像から探索し、その対応点間の距離を算出することで生成される。本発明にかかる一態様では、視差マップの生成における対応点探索に着目して、視差マップの精度を評価する。
 本図に示されるように、女性の像の目のような複雑な模様のあるテクスチャ領域においては、対応点が探索しやすい。これに対し、背景の空の部分や、男性像の背中のような平たんな領域においては、対応点の候補が多く検出される。この複数の対応点候補から正しいものを選択する際に誤りが生じやすい。誤った対応点を検出した場合、実際の視差量とは異なる視差量が算出され、その実際の視差量とは異なる視差量に基づき立体視強度の調整を行なうこととなる。その結果、立体視強度調整後の立体視映像が変形してしまう。
 そこで、視差マップ評価部440は、視差マップを生成する際の対応点探索において、最大探索範囲に到達するまでに対応点が検出されなかった画素、および最大探索範囲に到達するまでに複数の対応点候補が検出された画素の数をエラー量としてカウントする。そして、視差マップ評価部440は、そのエラー量の大小に基づき、視差マップの精度の判定を行う。
 図11は、視差マップに基づくDIBR処理により発生するオクルージョンを示す図である。DIBR処理では、視差マップから定まるシフト量だけ、左目用画像の各画素をシフトすることにより、視差調整画像(右目用画像)を生成する。この画素シフトの際において、隣り合う画素でシフト量が異なる場合がある。隣り合う画素でシフト量が異なる場合において画素シフトを行うと、視差調整画像において画素値が定義されない領域が発生する。この視差調整画像において画素値が定義されない部分をオクルージョンと称する。
 本図に示す例では、左目用画像の水平方向の画素のブロックにおいて、左端のブロックはシフトを行っていない。これに対し、そのブロックに隣接するブロックは、2ブロック右方向にシフトを行っている。これにより、生成される視差調整画像において、画素値の定義されない領域(オクルージョン)が生じることが分かる。
 図12は、オクルージョンの一例を示す図である。本図に示されるように、オクルージョンは、視差マップの隣接する画素の値が急峻に変化する箇所、つまり、画像に含まれる被写体の境界面付近で発生する。視差マップの隣接する画素の値の差異が大きいほど、画素のシフト量の差が大きくなるため、オクルージョンが発生する部分も大きくなる。一般に、オクルージョンは、周辺の画素を用いて補間することとなるが、このオクルージョン量が過度に大きくなると、ユーザに対して違和感を与えるおそれがある。このため、視差マップ評価部440は、DIBR処理より視差調整画像に生じるオクルージョン量を算出し、算出したオクルージョン量を用いて、視差マップの精度を判定する。より具体的には、視差マップ評価部440は、視差マップに示される視差量の最大値をオクルージョン量を示す値として検出し、その視差量の最大値と所定の閾値とを比較することにより、視差マップの精度を判定する。
 図13は、視差マップの画素値とシフト量との関係を示す図である。ここで、左目用画像・右目用画像間の対応点探索により算出したシフト量と、視差マップに示される画素値との間には、「通常」と付された直線関係があるとする。
 視差マップ評価部440は、立体視映像を表示するディスプレイのサイズに応じて、立体視強度の強調または抑制を行う。視差マップ評価部440は、図13に示される視差マップの画素値とシフト量との関係を示す一次直線の傾きを切り替えることにより、視差マップに示されるシフト量を変換する。
 立体視強度を強調する場合、視差マップ評価部440は、シフト量と視差マップに示される画素値との関係を「強調」と付された直線関係に切り替える。これにより、視差マップに示される画素値を、通常のシフト量以上に変換することができる。
 一方、立体視強度を抑制する場合、視差マップ評価部440は、シフト量と視差マップに示される画素値との関係を「抑制」と付された直線関係に切り替える。これにより、視差マップに示される画素値を、通常のシフト量以下に変換することができる。
 <視差マップ調整部450>
 視差マップ調整部450は、視差情報保持メモリ600に保持されている視差情報に従い、視差マップに示される視差量を調整する機能を有する。具体的には、視差マップ調整部450は、視差マップが有する視差量の最大値と、視差情報が示す視差量の上限値とを比較する。視差マップが有する視差量の最大値が、視差情報が示す視差量の上限値を超える場合、視差マップ調整部450は、視差マップが有する視差量の最大値が、視差情報が示す視差量の上限値を超えないように、視差マップに示す視差量を変更する。視差量の変更は、図13に示した視差マップの画素値と視差量との関係を示す一次直線の傾きを切り替えることにより行う。
 <DIBR実行部460>
 DIBR実行部460は、視差マップ調整部450から出力された視差マップを用いて、左目用画像の各画素の座標をシフトすることにより視差調整画像(右目用画像)を生成する機能を有する。
 <表示制御モジュール500>
 表示制御モジュール500は、機器情報取得部510、出力設定部520を含み、立体視映像の表示制御を行う機能を有する。
 <機器情報取得部510>
 機器情報取得部510は、立体視映像を表示するディスプレイのサイズ、ディスプレイの解像度、2D/3D対応等の表示能力等の機器情報を取得する機能を有する。
 <出力設定部520>
 出力設定部520は、(1)1枚のプレーンを1回のみ出力することにより2D出力を行う、(2)1枚の同じプレーンを左目用、右目用に2回出力することにより、3D出力であるが見た目は2Dに見えるようにする、(3)2枚のプレーンをそれぞれ左目用、右目用に出力することにより3D出力を行う、のいずれの出力を行うかを示す設定を、後述する出力切替器1300に対して行なう機能を有する。
 <レンダリングエンジン800>
 レンダリングエンジン800は、立体視強度制御モジュール400により立体視強度が調整された右目用画像および左目用画像を、左目用プレーン1100および右目用プレーン1200に書き込む機能をもつ。
 <イメージメモリ900>
 イメージメモリ900は、立体視映像を構成する左目用画像および右目用画像の画像データを格納する機能を有する。
 <イメージデコーダ1000>
 イメージデコーダ1000は、イメージメモリ900に格納された画像データをデコードする機能を有する。
 <左目用プレーン1100、右目用プレーン1200>
 左目用プレーン1100は、イメージメモリ900から出力された左目用画像、または立体視強度制御モジュール400により立体視強度が調整された画像を格納する機能を有する。また、右目用プレーン1200は、イメージメモリ900から出力された右目用画像、または立体視強度制御モジュール400により立体視強度が調整された画像を格納する機能を有する。
 <出力切替器1300>
 出力切替器1300は、出力部520による設定に応じて、左目用プレーン1100および右目用プレーン1200に格納された情報の出力を切り替える機能を有する。
 以上が、立体視強度調整装置10の構成についての説明である。続いて、上記の構成を備える立体視強度調整装置10の動作について説明する。
 [実施の形態1にかかる立体視強度調整装置の動作]
 <立体視強度調整処理>
 図14は、立体視強度調整装置10による立体視強度調整処理の流れを示すフローチャートである。
 本図に示されるように、コンテンツ再生モジュール200は、ユーザからのコンテンツの再生指示があるか否かを判定する(ステップS101)。
 コンテンツの再生指示がない場合、再生指示があるまで待機する。コンテンツの再生指示がある場合(ステップS101、YES)、コンテンツ再生モジュール200は、立体視強度制御モジュール400にコンテンツ再生を指示し、立体視強度制御モジュール400の左右画像取得部410は、イメージメモリ900に格納されている画像データのうち、コンテンツ再生モジュール200から指示された左目用画像および右目用画像を取得する(ステップS102)。
 左目用画像および右目用画像の取得後、画像補正部420は、左右画像取得部410で取得した左目用画像および右目用画像を補正する(ステップS103)。具体的には、画像補正部420は、視差マップを生成しやすくするために、左目用画像および右目用画像を水平方向に揃える処理や、歪みを除去する処理等を行う。
 左目用画像および右目用画像の補正後、視差マップ生成エンジン700は、補正した左目用画像および右目用画像から視差マップを生成し、視差マップ取得部430は、視差マップ生成エンジン700により生成された視差マップを取得する(ステップS104)。視差の算出は、左目用画像の各画素に対応する画素点を右目用画像から探索し、その対応点間の距離を算出することで行う。
 視差マップの生成後、視差マップ調整部450は、視差情報保持メモリ600に格納されているユーザが許容する視差量を示す視差情報を取得する(S105)。
 視差情報の取得後、制御モジュール500の機器情報取得部510は、立体視映像を表示するディスプレイの機器情報を取得する(ステップS106)。
 ディスプレイの機器情報の取得後、視差マップ評価部440は、視差マップの精度の評価を行う(ステップS107)。視差マップの精度の評価処理の詳細については後述する。
 視差マップの精度の評価の後、立体視強度制御モジュール400は、視差マップ評価部440で行った視差マップの精度の評価が高いか否かを判定する(ステップS108)。
 視差マップの精度の評価が高い場合(ステップS108、YES)、視差マップ調整部450は、視差量の上限値を示す視差情報に基づき視差マップに示される視差量を変更する(ステップS109)。具体的には、図13に示されるように、視差マップの画素値と視差量との関係を示す一次直線の傾きを切り替えることにより、視差情報に示される視差量の上限値を満たすように視差マップに示される視差量を変換する。
 視差マップに示される視差量の変更後、DIBR実行部460は、変更後の視差マップに示される視差量に基づきDIBR処理を行う(ステップS110)。具体的には、DIBR実行部460は、変更後の視差マップに示される視差量に対応する画素数で、左目用画像の各画素の座標をシフトすることにより視差調整画像(右目用画像)を生成する。
 DIBR処理後、レンダリングエンジン800は、左目用画像を左目用プレーン1100に、右目用画像を右目用プレーン1200に書き込む(ステップ111)。
 視差マップの精度の評価が低い場合(ステップS108、NO)、レンダリングエンジン800は、左目用画像を左目用プレーン1100および右目用プレーン1200の両方に書き込む(ステップS112)。
 左目用プレーン1100および右目用プレーン1200へ画像を書き込んだ後、立体視強度調整装置10は、プレーンに格納された画像を出力する(ステップS113)。
 以上が、立体視強度調整装置10による立体視強度調整処理についての説明である。続いて、ステップS107の視差マップの精度の評価処理の詳細を説明する。
 <視差マップの精度の評価処理>
 図15は、視差マップの精度の評価処理の流れを示すフローチャートである。
 本図に示されるように、視差マップ評価部440は、視差マップ生成時の視差マップ全体におけるエラー量が多いか否かを判定する(ステップS201)。ここでエラー量とは、視差マップを生成する際の対応点探索において、最大探索範囲に到達するまでに対応点が検出されなかった画素、および最大探索範囲に到達するまでに複数の対応点候補が検出された画素の数をいう。また、エラー量の大小は、視差マップ全体におけるエラー量と所定の閾値との大小を比較することにより行う。エラー量が所定の閾値以上である場合、視差マップ評価部440は、視差マップ全体におけるエラー量は多いと判断する。エラー量が所定の閾値より小さい場合、視差マップ評価部440は、視差マップ全体におけるエラー量は少ないと判断する。
 視差マップ全体におけるエラー量が少ない場合(ステップS201、NO)、視差マップ評価部440は、立体視映像を表示するディスプレイのサイズに基づき、視差マップに示される視差量を、ディスプレイに対して適切な視差量の値に変更する(ステップS202)。
 適切な視差量の値に変更するとは、例えば、ディスプレイに対する飛び出し量および引っ込み量がそれぞれ視差角1度以内になるように視差量の値を変更する。これにより、ユーザにとって視覚疲労や違和感等が少ない立体視映像を提供することができる。
 視差角の上限値が与えられれば、上記の数式(7)および数式(8)を用いて、視差量の上限値を算出することができる。この算出される視差量の上限値を満たすように、図13に示される視差マップの画素値と視差量との関係を示す一次直線の傾きを切り替える。
 また、視差マップ評価部440は、視聴位置からディスプレイまでの距離と、最大の飛び出し量の割合および最大の引っ込み量との比が、あらかじめ定めた所定の固定値になるように視差量を変更してもよい。立体視映像を表示する画面のサイズに適した立体視強度を有する立体視映像を提供することができる。
 一般に最適な視聴距離は、ディスプレイの高さの3倍とされており、ディスプレイの高さを3倍することで視聴位置からディスプレイまでの距離を算出することができる。
 この場合、上記の数式(6)に示される関係式を用いて、視差量の上限値を算出し、算出される視差量の上限値を満たすように、図13に示される視差マップの画素値と視差量をとの関係を示す一次直線の傾きを切り替える。
 視差マップ全体におけるエラー量が多い場合(ステップS201、YES)、視差マップ評価部440は、視差マップを前景領域と後景領域に分け、前景領域におけるエラー量が多いか否かを判定する(ステップS203)。
 視差マップ評価部440は、所定の閾値よりも視差マップにおける画素値が大きい領域を前景領域とし、所定の閾値よりも視差マップにおける画素値が小さい領域を後景領域とする。この閾値を適宜設定することにより、ディスプレイよりも奥に表示されるような部分を後景領域、ディスプレイの手前に表示される部分を前景領域としたりすることができる。
 また、エラー量の大小は、視差マップの前景領域におけるエラー量と所定の閾値との大小を比較することにより行う。エラー量が所定の閾値以上である場合、視差マップ評価部440は、視差マップの前景領域におけるエラー量は多いと判断する。エラー量が所定の閾値より小さい場合、視差マップ評価部440は、視差マップの前景領域におけるエラー量は少ないと判断する。
 視差マップの前景領域におけるエラー量が少ない場合(ステップS203、NO)、視差マップ評価部440は、視差マップの後景領域の視差を無効化する(ステップS204)。具体的には、視差マップ評価部440は、後景領域の画素値を、ディスプレイから最も奥に引っ込めた位置に対応する画素値に変更する。エラー量が多い視差マップの後景領域を無効化することにより、視差マップの精度を高めることができる。
 視差マップの前景領域におけるエラー量が多い場合(ステップS204、YES)、視差マップ評価部440は、視差マップの前景領域における左目用画像に写る被写体の輪郭を抽出する(ステップS205)。
 被写体の輪郭の抽出後、視差マップ評価部440は、被写体の輪郭の精度が高いか否かを判定する(ステップS206)。具体的には、視差マップ評価部440は、抽出した輪郭を構成する画素に対応する視差マップの画素値を調べ、画素値のばらつきが予め保持する閾値よりも少なければ、輪郭の精度が優れていると判定する。
 輪郭の精度が高い場合(ステップS206、YES)、視差マップ評価部440は、視差マップの前景領域の視差を平均化する(ステップS207)。エラー量が多い視差マップの前景領域の視差を平均化するので、視差マップの精度を高めることができる。また、前景領域に含まれる被写体の輪郭の抽出の精度が所定の精度以上であることを条件に、視差マップの前景領域が有する視差量の平均化を実行するので、視差マップの前景領域が有する視差量を平均化することにより、視差マップの精度が低下することを防ぐことができる。
 立体視映像を表示するディスプレイのサイズに基づく視差量の変更後、視差マップ評価部440は、DIBR処理の画素座標のシフトにより生じるオクルージョン量が大きいか否かを判定する(ステップS208)。
 具体的には、視差マップ評価部440は、まず視差マップの最大の画素値の値を取得する。そして、最大の画素値に対応するシフト量がどのくらいになるのかを調べる。これは、図13に示す視差マップの画素値とシフト量の関係を示す一次直線を用いて、視差マップに含まれる画素値の最大値に対するシフト量を特定することができる。特定したシフト量が視差マップにおけるオクルージョンの最大値となる。視差マップ評価部440は、オクルージョンの最大値と所定の閾値との大小を比較し、所定の閾値よりもオクルージョン量が大きい場合に、オクルージョン量が大きいと判断する。また、視差マップ評価部440は、所定の閾値よりもオクルージョン量が小さい場合に、オクルージョン量が小さいと判断する。
 なお、上記の所定の閾値を、例えば、3Dコンソーシアムにおいて快適に立体視映像を視聴するために推奨されている、視差角1度に対応する画素数としてもよい。
 また、視差マップに含まれる画素値の最大値に対するシフト量から視差角を算出し、算出した視差角と所定の視差角の閾値とを比較することにより、オクルージョン量が大きいか否か、すなわち、視差マップの精度が高いか否かを判定してもよい。
 オクルージョン量が大きい場合(ステップS208、YES)、視差マップ評価部440は、視差マップの最大視差をオクルージョン量の閾値以内におさまるように変更する(ステップS209)。具体的には、視差マップに含まれる画素値の最大値に対するシフト量が上述の閾値以下となるように、図13に示される視差マップの画素値と視差量との関係を示す一次直線の傾きを切り替える。立体視強度の調整により生じるオクルージョン量を減らすことができるので、オクルージョンによる違和感を低減することができる。
 なお、ステップS202の処理において、一次直線の傾きを既に変更している場合には、ステップS202の処理の条件を満たす範囲内で、一次直線の傾きを傾きの変更を行う必要がある。
 このように、視差マップの画素値とシフト量の関係を示す一次直線の傾きを変えることにより、視差マップに含まれる画素値の最大値に対するシフト量を少なくすることができる。また、視差マップに含まれる画素値の最大値以外の画素値についても、シフト量は画素値の最大値の変化に比例して少なくなる。
 ステップS208およびステップS209の処理の後、視差マップ評価部440は、視差マップの精度は高いと評価する(ステップS210)。
 視差マップの評価後、視差マップ評価部440は視差マップ全体をぼかす(ステップS211)。オクルージョンは視差マップの隣接する画素の値が急峻に変化する箇所で発生する。ここでは、視差マップをぼかすことにより、視差マップの画素値の変化が穏やかになり、DIBR処理により生じるオクルージョン量を緩和することができる。
 輪郭の精度が低い場合(ステップS206、NO)、視差マップ評価部440は、視差マップの精度は低いと評価する(ステップS212)。
 なお、上述の処理において、前景と後景の領域に分離できない場合は、視差マップの評価が低いと判定するとしてもよい。
 また、上述の処理において、前景領域のエラー量や前景領域の輪郭の精度を用いて視差マップの精度を評価する例を説明したが、後景領域のエラー量や後景領域の輪郭の精度を用いて視差マップの精度を評価するとしてもよい。
 以上のように本実施の形態によれば、画面のサイズと視差マップの精度を用いた視差マップの変更により視差マップの精度を向上させることができるため、より違和感の少ない立体感調整が可能になり、視聴者への眼精疲労の軽減や臨場感の向上が可能となる。
 《実施の形態2》
 実施の形態2にかかる立体視強度調整装置は、実施の形態1にかかる立体視強度調整装置10と同様に、視差マップの精度およびディスプレイのサイズを用いて視差マップが有する視差量を変更し立体視強度の調整を行うものであるが、視差マップの精度に応じて、立体視強度の調整方法を切り替える点において異なる。視差マップの精度に応じて、視差マップを用いたDIBRによる立体視強度調整手段か、視差マップを用いないプレーンシフトによる立体視強度調整手段かを選択するため、誤って算出された視差を用いた立体視強度の調整により、立体視映像が変形することを防ぐことができる。このため、視聴者にとって違和感の少ない、立体視強度の調整が可能となる。
 [実施の形態2にかかる立体視強度調整装置の構成]
 図16は、実施の形態2にかかる立体視強度調整装置20の構成の一例を示すブロック図である。本図に示されるように、立体視強度調整装置20は、ユーザ入力部100、コンテンツ再生モジュール200、視差情報調整モジュール300、立体視強度制御モジュール400、表示制御モジュール500、視差情報保持メモリ600、視差マップ生成エンジン700、レンダリングエンジン800、イメージメモリ900、イメージデコーダ1000、左目用プレーン1100、右目用プレーン1200、出力切替器1300を含んで構成される。また、視差情報調整モジュール300は、指示取得部310、視差特定部320を含んで構成される。また、立体視強度制御モジュール400は、左右画像取得部410、画像補正部420、視差マップ取得部430、視差マップ評価部440、立体視強度調整方法選択部1400、視差マップ調整部450、DIBR実行部460、プレーンシフト実行部1500を含んで構成される。また、表示制御モジュール500は、機器情報取得部510、出力設定部520を含んで構成される。実施の形態1にかかる立体視強度調整装置10と同じ構成については、同符号を付し、説明を省略する。以下では、立体視強度調整装置10とは異なる構成について説明する。
 <立体視強度調整方法選択部1400>
 立体視強度調整方法選択部1400は、視差マップの精度の評価に応じて、立体視強度を調整する方法を選択する機能を有する。具体的には、立体視強度調整方法選択部1400は、視差マップの精度の評価が高い場合、視差マップを用いたDIBRによる立体視強度の調整を選択し、視差マップ調整部450およびDIBR実行部460にDIBR処理の実行命令を送信する。また、立体視強度調整方法選択部1400は、視差マップの精度の評価が低い場合、視差マップを用いないプレーンシフトによる立体視強度の調整を選択し、後述するプレーンシフト実行部1500にプレーンシフト処理の実行命令を送信する。
 <プレーンシフト実行部1500>
 プレーンシフト実行部1500は、左目用画像および右目用画像に対してプレーンシフト処理を行う機能を有する。プレーンシフト処理とは、左目用画像および右目用画像を左右に一様にシフトさせて立体視強度を調整する技術である。
 図17は、プレーンシフト処理の概要を示す図である。本図に示されるように、プレーンシフト処理では、立体視映像の立体視強度を強調する場合、左目用画像を左方向に、右目用画像を右方向に一律の画素分だけシフトさせる。このように、左目用画像および右目用画像を、それぞれ外側へ一律画素分だけシフトさせることで、画像全体の飛び出し位置および引っ込み位置を、一律に視聴位置から遠ざかる方向に移動させることができる。
 また、プレーンシフト処理では、立体視映像の立体視強度を抑制する場合、左目用画像を右方向に、左目用画像を右方向に一律の画素分だけシフトさせる。このように、左目用画像および右目用画像を、それぞれ内側へ一律の画素分だけシフトさせることで、画像全体の飛び出し位置および引っ込み位置を、一律に視聴位置に近づく方向に移動させることができる。
 なお、一律に画素をシフトすることにより画面からはみ出した部分は切り取る。また、一律に画素をシフトすることにより生じた画素値が存在しない領域は、透明色で塗る。
 以上が、立体視強度調整装置20の構成についての説明である。続いて、上記の構成を備える立体視強度調整装置20の動作について説明する。
 [実施の形態2にかかる立体視強度調整装置の動作]
 図18は、立体視強度調整装置20による立体視強度調整処理の流れを示すフローチャートである。実施の形態1にかかる立体視強度調整処理と同じ処理については、同符号を付し、説明を省略する。
 図18に示されるように、ステップS301、ステップS302、およびステップS303が、実施の形態1にかかる立体視強度調整処理と異なる処理となる。
 ステップS107の視差マップの精度の評価後、ステップS108において、視差マップの精度の評価が高いか否かの判定を行う。
 すなわち、ステップS210において、視差マップの精度が高いと評価されていた場合は、ステップS108において、視差マップの精度が高いと判定する。また、ステップS212において、視差マップの精度が低いと評価されていた場合は、ステップS108において、視差マップの精度が低いと評価する。
 なお、上記では、対応点探索工程において生じたエラー量、および視差マップに示される視差の値から定まる立体視映像の立体視強度を用いて、視差マップの精度を判定するとしたが、視差マップに示される視差の値から定まる立体視映像の立体視強度のみを用いて視差マップの精度を判定してもよい。すなわち、視差マップに含まれる画素値の最大値に対するシフト量が、所定の閾値より大きい場合(ステップS208、YES)、視差マップの精度が低いと評価し、視差マップに含まれる画素値の最大値に対するシフト量が、所定の閾値より小さい場合(ステップS208、NO)、視差マップの精度が高いと評価する。
 また、対応点探索工程において生じたエラー量のみを用いて視差マップの精度を判定してもよい。すなわち、対応点探索工程において生じたエラー量が、所定の閾値より大きい場合(ステップS201、YES)、視差マップの精度が低いと評価し、対応点探索工程において生じたエラー量が、所定の閾値よりも小さい場合(ステップS201、NO)、視差マップの精度が高いと評価する。
 ステップS108の後、視差マップの精度の評価が高い場合(ステップS108、YES)、立体視強度調整方法選択部1400は、立体視強度調整方法としてDIBRを選択する(ステップS301)。具体的には、立体視強度調整方法選択部1400は、視差マップ調整部450およびDIBR実行部460にDIBR処理の実行命令を送信する。視差マップ調整部450およびDIBR実行部460は、立体視強度調整方法選択部からの命令を受け、ステップS109からステップS111までの処理を行う。
 視差マップの精度の評価が低い場合(ステップS108、NO)、立体視強度調整法選択部1400は、立体視強度調整方法としてプレーンシフトを選択する(ステップS302)。具体的には、立体視強度調整方法選択部1400は、プレーンシフト実行部1500にプレーンシフト処理の実行命令を送信する。
 プレーンシフト実行部1500は、立体視強度調整方法選択部1400からの命令を受け、プレーンシフト処理を実行する(ステップS303)。プレーンシフト処理の詳細については後述する。
 以上のように、対応点探索工程において生じたエラー量を検出し、エラー量が所定の閾値より大きい場合は、プレーンシフト処理により立体視強度の調節を行ない、エラー量が所定の閾値より少ない場合は、DIBR処理により立体視強度の調整を行なっているので、対応点探索時において誤って検出された対応点により、立体視強度の調整後の立体視映像の品質が低下することを防ぐことができる。
 また、視差マップに示される最大のシフト量を検出し、検出した最大のシフト量が所定の閾値より大きい場合は、DIBR処理により立体視強度の調整を行ない、検出した最大のシフト量が所定の閾値より小さい場合は、プレーンシフト処理を行なっている。
 プレーンシフト処理は、左目用画像および右目用画像を左右に一様にシフトさせて立体視強度を調整するため、立体視映像の飛び出しおよび奥行き感を調整することはできないが、(1)立体視強度調整後の画像にオクルージョンが生じない、および(2)視差マップ生成時に誤って検出された対応点により、立体視調整後の画像が変形しないといったメリットがある。
 一方、DIBR処理は、視差マップに示された画素毎に異なる画素数で各画素の座標をシフトするため、立体視調整後の画像にオクルージョンが生じたり、視差マップ生成時に誤って検出された対応点により、立体視調整後の画像が変形する恐れがあるが、立体視映像の飛び出しおよび奥行き感を調整することができる。
 立体視映像の立体視強度が適切に収まっている場合は、大幅な立体視強度の調整は不必要なため、プレーンシフト処理により立体視強度を調整することで、立体視映像の画質を劣化させることなく、立体視強度の調整を行なうことができる。一方、立体視映像の立体視強度が適切な強度以上である場合には、適切な強度以内に立体視強度を変更する必要があり、DIBR処理により立体視強度を調整することで、立体視映像の飛び出しおよび奥行き感を調整することができる。
 以上が、立体視強度調整装置20による立体視強度調整処理についての説明である。続いて、ステップS303のプレーンシフト処理の詳細について説明する。
 [プレーンシフト処理]
 図19は、プレーンシフト処理の流れを示すフローチャートである。
 本図に示されるように、プレーンシフト実行部1500は、まず、左目用画像および右目用画像を出力する際に立体視強度を強調する必要があるか、または抑制する必要があるかを判定する(ステップS401)。具体的には、プレーンシフト実行部1500は、ユーザ入力部100により入力されたユーザが希望する立体視強度の程度を参照して、立体視強度を強調するか、または抑制するかを決定する。また、プレーンシフト実行部1500は、視差情報調整モジュール300により生成される視差情報と視差マップに示される最大視差とを比較して、立体視強度を強調するか、または抑制するかを決定してもよい。
 立体視強度を抑制する場合(ステップS401、NO)、プレーンシフト実行部1500は、視差マップに示される最大視差と最小視差の差が小さいか否かを判定する(ステップS402)。
 立体視強度を強調する場合(ステップS401、YES)、または視差マップに示される最大視差と最小視差の差が小さい場合(ステップS402、YES)、プレーンシフト実行部1500は、左目用画像および右目用画像に対しプレーンシフトを実行する(ステップS403)。
 プレーンシフト処理の実行後、プレーンシフト実行部1500は、レンダリングエンジン800に対して、左目用画像を左目用プレーン1100に、右目用画像を右目用プレーン1200に書き込むよう命じる(ステップS404)。
 視差マップに示される最大視差と最小視差の差が大きい場合(ステップS402、NO)、プレーンシフト実行部1500は、プレーンシフト処理を実行せず、レンダリングエンジン800に対して、左目用画像を左目用プレーン1100および右目用プレーン1200に書き込むよう命じる(ステップS405)。
 引っ込み立体視において、視差がユーザの瞳孔間距離IPDを超えた場合、左目の視線と右目の視線が開散方向に向くこととなり、視覚疲労を引き起こす。視差マップに示される最大視差と最小視差の差が大きい場合において、さらに奥方向に物体の結像位置を移動させた場合、このような事態が生じおそれがあるため、本処理では、立体視強度を抑制すると判断し、かつ視差マップに示される最大視差と最小視差の差が大きい場合において、プレーンシフト処理を実行しない。
 以上のように本実施の形態によれば、立体視映像が有する視差の値を示す視差マップの精度を判定し、判定した精度に応じて、視差マップを用いた画素シフトによる立体視強度調整手段か、視差マップを用いないプレーンシフトによる立体視強度調整手段かを択一的に選択するため、立体視強度の調整による立体視映像の変形を低減することができる。
 [補足]
 上記の立体視強度調整処理において、立体視強度調整後の立体視映像が適切であるか否かの判断をユーザに求めてもよい。
 図20は、立体視強度の調整が適切であるか否かの確認を伴う立体視強度調整処理の流れを示すフローチャートである。図18に示す立体視強度調整処理と同じ処理については、同符号を付し、説明を省略する。
 図20に示されるように、ステップS501、ステップS502、およびステップS503が、図18に示す立体視強度調整処理と異なる処理となる。
 ステップS113におけるプレーンに格納された画像の出力処理後、ユーザ入力部100は、立体視映像が有する立体視強度が適切であるか否かのユーザ確認を行なう(ステップS501)。例えば、ユーザ入力部100は、ユーザに対してメニュー画面を表示し、そのメニュー画面に応じたユーザ操作を受け付けることにより、ユーザ確認を行なう。
 立体視映像が有する立体視強度が適切であると入力された場合(ステップS501、YES)、立体視強度調整装置20は、立体視強度調整処理を終える。
 立体視映像が有する立体視強度が不適切であると入力された場合(ステップS501、NO)、ユーザ入力部100は、視差情報入力メニューを表示し、ユーザに対して希望する立体視強度の程度を示すパラメータの入力を求める(ステップS502)。
 視差情報入力メニューの表示後、ユーザ入力部100は、立体視強度の程度を示すパラメータを受け付け、視差情報調整モジュール300を介して、入力されたパラメータを視差情報に変換し、視差情報を視差情報保持メモリ600に格納する(ステップS503)。
 ステップS503の処理後、ステップS107以降の視差マップの精度の評価処理や立体視強度の調整処理等を行なう。
 このようにして、立体度調整装置が自動的に調整して表示した画像に対して、更に、ユーザの好みを反映することができる。
 ≪実施の形態3≫
 実施の形態3にかかる立体視強度調整装置は、実施の形態1にかかる立体視強度調整装置10と同様に、視差マップの精度およびディスプレイのサイズを用いて視差マップが有する視差量を変更し立体視強度の調整を行うものであるが、視差マップの精度の評価が低い場合において、以前に視差マップを生成した手法とは別の手法により、視差マップの再取得を行なう点において異なる。
 [実施の形態3にかかる立体視強度調整装置の構成]
 図21は、実施の形態3にかかる立体視強度調整装置30の構成の一例を示すブロック図である。本図に示されるように、立体視強度調整装置30は、ユーザ入力部100、コンテンツ再生モジュール200、視差情報調整モジュール300、立体視強度制御モジュール400、表示制御モジュール500、視差情報保持メモリ600、視差マップ生成エンジン1700、レンダリングエンジン800、イメージメモリ900、イメージデコーダ1000、左目用プレーン1100、右目用プレーン1200、出力切替器1300を含んで構成される。また、視差情報調整モジュール300は、指示取得部310、視差特定部320を含んで構成される。また、立体視強度制御モジュール400は、左右画像取得部410、画像補正部420、視差マップ取得部1600、視差マップ評価部440、視差マップ調整部450、DIBR実行部460を含んで構成される。また、表示制御モジュール500は、機器情報取得部510、出力設定部520を含んで構成される。実施の形態1にかかる立体視強度調整装置10と同じ構成については、同符号を付し、説明を省略する。以下では、立体視強度調整装置10とは異なる構成について説明する。
 <視差マップ取得部1600>
 視差マップ取得部1600は、視差マップ生成エンジン1700が生成した左目用画像・右目用画像間の視差量または奥行き方向の距離を示す視差マップを取得する機能を有する。また、取得した視差マップの精度の評価が低い場合には、視差マップ生成エンジン1700に対し、以前に視差マップを生成した手法とは別の手法による視差マップの生成を要求する機能を有する。
 <視差マップ生成エンジン1700>
 視差マップ生成エンジン1700は、視差マップ取得部1600からの要求に応じて、視差マップを生成する機能を有する。視差マップの再生成を要求された場合、視差マップ生成エンジン1700は、以前に視差マップを生成した手法とは別の手法により視差マップを生成する。
 左目用画像の各画素に対応する画素点を右目用画像から探索し、その対応点間の距離を算出することで視差を算出していた場合、例えば、視差マップ生成エンジン1700は、ネットワークを利用して、左目用画像および右目用画像に対応する視差マップをダウンロードすることにより視差マップを再生成する。
 また、視差マップ生成エンジン1700は、視差を算出する際のパラメータを変更して、再度視差の算出を行なうことにより、視差マップを再生成してもよい。視差を算出する際のパラメータとしては、視差マップのサイズや対応点を探索する最大探索範囲などがあり、視差マップ生成エンジン1700は、これらのパラメータを変更して、再度視差の算出を行なう。
 また、視差マップ生成エンジン1700は、別のアルゴリズムを用いて視差を算出することにより、視差マップを再生成してもよい。視差を算出するアルゴリズムとしては、(1)図9を用いて説明した手法、(2)図9に示す手法のように水平方向のみを探索することにより対応点を探索するのではなく、上下左右斜め方向の整合性も考慮して対応点を探索する手法、(3)画像の色や輝度に基づいて視差を生成する方法、(4)グラフ理論に基づいて視差を生成する方法などがある。視差マップ生成エンジン1700は、これらの視差を算出するアルゴリズムを変更して、再度視差の算出を行なう。
 以上が、立体視強度調整装置30の構成についての説明である。続いて、上記の構成を備える立体視強度調整装置30の動作について説明する。
 [実施の形態3にかかる立体視強度調整装置の動作]
 図22は、立体視強度調整装置30による立体視強度調整処理の流れを示すフローチャートである。実施の形態1にかかる立体視強度調整処理と同じ処理については、同符号を付し、説明を省略する。
 図22に示されるように、ステップS601の処理が、実施の形態1にかかる立体視強度調整処理と異なる処理となる。
 ステップS107の視差マップの精度の評価後、ステップS108において、視差マップの精度の評価が高いか否かの判定を行う。視差マップの精度の評価が低い場合(ステップS108、NO)、視差マップ取得部1600は、視差マップ生成エンジン1700に対し、以前に視差マップを生成した手法とは別の手法による視差マップの生成を要求する。また、視差マップ生成エンジン1700は、視差マップ取得部1600からの要求に応じて、視差マップを再生成する(ステップ601)。
 ステップ601の視差マップの再生成処理後、ステップS107において、再生成した視差マップの精度の評価を行なう。
 以上のように本実施の形態によれば、視差マップの精度が低い場合は、以前に視差マップを生成した手法とは別の手法により、視差マップの再取得を行なうので、視差マップの精度が向上することが期待でき、ユーザに対して品位の高いコンテンツ再生を提供することができる。
 ≪実施の形態4≫
 実施の形態4では、立体視ビデオストリームの立体視強度の調整を可能とする立体視強度調整装置の構成について説明する。
 図23は、実施の形態4にかかる立体視強度調整装置40の構成の一例を示すブロック図である。
 本図に示されるように、立体視強度調整装置40は、ユーザ入力部100、コンテンツ再生モジュール200、視差情報調整モジュール300、立体視強度制御モジュール400、表示制御モジュール500、視差情報保持メモリ600、視差マップ生成エンジン700、レンダリングエンジン800、イメージメモリ900、イメージデコーダ1000、左目用プレーン1100、右目用プレーン1200、出力切替器1300、デマルチプレクサ1800、ビデオデコーダ1900、左目用プレーン2000、右目用プレーン2100、出力切替器2200、加算器2300を含んで構成される。また、視差情報調整モジュール300は、指示取得部310、視差特定部320を含んで構成される。また、立体視強度制御モジュール400は、左右画像取得部410、画像補正部420、視差マップ取得部430、視差マップ評価部440、立体視強度調整方法選択部1400、視差マップ調整部450、DIBR実行部460、プレーンシフト実行部1500を含んで構成される。また、表示制御モジュール500は、機器情報取得部510、出力設定部520を含んで構成される。実施の形態1にかかる立体視強度調整装置10と同じ構成については、同符号を付し、説明を省略する。以下では、立体視強度調整装置10とは異なる構成について説明する。
 <デマルチプレクサ1800>
 デマルチプレクサ1800は、トランスポートストリームの多重分離を行い、GOPを構成するビデオフレームと、オーディオフレームとを得る。そしてデマルチプレクサ1800は、ビデオフレームをビデオデコーダ1900に出力し、オーディオフレームをオーディオデコーダ(図示せず)に出力する。
 デマルチプレクサ1800による多重分離は、TSパケットをPESパケットに変換するという変換処理を含む。また、デマルチプレクサ1800は、3D用の処理を行うか2D用の処理を行うかを切り替える。
 なお、デマチプレクサ1800で分離されたビデオストリームの中に、視差マップが含まれていてもよい。この場合、視差マップ取得部430は、デマチプレクサ1800で分離された視差マップを取得する。
 <ビデオデコーダ1900>
 ビデオデコーダ1900は、デマルチプレクサ1800から出力されたビデオフレームを復号して、非圧縮形式のピクチャを左目用プレーン2000および右目用プレーン2100に書き込む。また、立体視強度の調整を行なう場合、ビデオデコーダ1900は、左右画像取得部410に復号後の非圧縮形式のピクチャを送信する。
 <左目用プレーン2000、右目用プレーン2100>
 左目用プレーン2000は、ビデオデコーダ1900から出力された左目用画像、または立体視強度制御モジュール400により立体視強度が調整された画像を格納する機能を有する。また、右目用プレーン2100は、ビデオデコーダ1900から出力された右目用画像、または立体視強度制御モジュール400により立体視強度が調整された画像を格納する機能を有する。
 <出力切替器2200>
 出力切替器2200は、出力部520による設定に応じ、左目用プレーン2000および右目用プレーン2100に格納された情報の出力を切り替える機能を有する。
 <加算器2300>
 加算器2300は、出力切替器1300および出力切替器2200から出力されたピクチャデータを合成して出力する機能を有する。
 なお、立体視ビデオストリームと、左目用プレーン1100および右目用プレーン1200へ書き込まれる立体視画像、あるいは、立体視アニメーションとを加算器2300にて重畳する場合、立体視画像、あるいは、立体視アニメーションが立体視強度を調整したビデオストリームに埋まったり、立体視強度を調整したビデオストリームに対して飛び出しすぎてしまったりすると、視聴者に違和感を与える。このため、立体視ビデオストリームの立体視強度の調整を行なった場合は、左目用プレーン1100および右目用プレーン1200へ書き込まれる立体視画像、あるいは、立体視アニメーションも合わせて立体視強度の調整を行なう。
 上記の構成により、立体視ビデオストリームの立体視強度の調整が可能となる。
 ≪変形例≫
 なお、上記の実施の形態に基づいて説明してきたが、本発明は上記の実施の形態に限定されないことはもちろんである。以下のような場合も本発明に含まれる。
 (a)本発明は、各実施形態で説明した処理手順が開示するアプリケーション実行方法であるとしてもよい。また、前記処理手順でコンピュータを動作させるプログラムコードを含むコンピュータプログラムであるとしてもよい。
 (b)本発明は、上記の各実施の形態に記載の3D眼鏡または立体視映像処理装置を制御するLSIとしても実施可能である。このようなLSIは、上述の実施の形態で示した視差マップ評価部、視差マップ調整部、立体視強度調整方法選択部等の各機能ブロックを集積化することで実現できる。これらの機能ブロックは、個別に1チップ化されても良いし、一部または全てを含むように1チップ化されてもよい。
 ここでは、LSIとしたが、集積度の違いにより、IC、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
 また、集積回路化の手法はLSIに限るものではなく、専用回路または、汎用プロセッサで実現してもよい。LSI製造後にプログラムすることが可能なFPGA(Field Programmable Gate Array)や、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
 さらには、半導体技術の進歩または派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロック及び部材の集積化を行ってもよい。このような技術には、バイオ技術の適用等が可能性としてありえる。
 (c)上述の実施の形態で示した視差マップ評価部、視差マップ調整部、立体視強度調整方法選択部等を、プロセッサ、およびそのプロセッサに接続された各種回路に実行させるための機械語あるいは高級言語のプログラムコードからなる制御プログラムを、記録媒体に記録すること、又は各種通信路等を介して流通させ頒布することもできる。このような記録媒体には、ICカード、ハードディスク、光ディスク、フレキシブルディスク、ROM、フラッシュメモリ等がある。流通、頒布された制御プログラムはプロセッサに読み出され得るメモリ等に格納されることにより利用に供され、そのプロセッサがその制御プログラムを実行することにより各実施の形態で示したような各機能が実現されるようになる。なお、プロセッサは、制御プログラムを直接実行する他、コンパイルして実行或いはインタプリタにより実行してもよい。
 (d)立体視強度調整装置の使用形態の説明で述べた使用形態は一例であり、これに限られない。
 再生装置1または表示装置4とステレオカメラ等の撮像装置とを有線(例えばHDMI接続、USB接続、有線LAN接続等)、または無線(例えば、無線LAN接続)で接続し、撮像装置で撮影された立体視映像の立体視強度を調整して再生・表示する使用形態であってもよい。
 また、再生装置1または表示装置4が、ネットワークを介してサーバから立体視映像を含むビデオストリームをダウンロードし、ダウンロードしたビデオストリームから立体視映像を読み出し、立体視映像の立体視強度を調整して再生・表示するとしてもよい。
 また、表示画面を有する携帯端末が本実施の形態の立体度調整装置を備える構成であってもよい。例えば、再生装置1と携帯端末とを有線または無線で接続し、再生装置1に装填したBD-ROMに記録されたビデオストリームを携帯端末が備えるメモリまたは携帯端末に装填されたリムーバブルメディアに記録する。そして、携帯端末は、記録したビデオストリームに含まれる立体視映像を読み出し、立体視強度を調整して携帯端末の表示画面に表示する。
 また、ネットワークを介してサーバから立体視映像を含むビデオストリームをダウンロードして、携帯端末が備えるメモリまたは携帯端末に装填されたリムーバブルメディアに記録した後、記録したビデオストリームに含まれる立体視映像を読み出す。そして、読み出した立体視映像の立体視強度を調整し、立体視強度を調整した立体視映像を携帯端末の表示画面に表示するとしてもよい。
 このような構成を採用すれば、例えば、立体視映像が携帯端末のような小さなサイズの表示画面での表示を想定していなかったような場合においても、携帯端末の表示画面に対応するように立体視強度をした後、表示をすることが可能となる。
 また、上記の実施の形態で示した立体視調整装置は、再生装置1や表示装置4以外の機器にも搭載することができる。例えば、ステレオカメラ等の撮像装置、携帯端末、PCサーバ等に搭載するとしてもよい。
 表示すべき立体視映像を受け取れるように接続がなされていること、かつ受け取った立体視映像の立体度を調整した後、表示画面を有する装置に、調整した立体視映像を送ることができるように接続がなされていることを満たす機器であれば、上記の実施の形態で示した立体度調整装置を搭載することが可能である。
 (e)上記の実施の形態に示すDIBR処理では、左目用画像の各画素をシフトして右目用画像を再生成することにより立体視強度を調整したが、本発明は必ずしもこの場合に限定されない。例えば、DIBR処理は、右目用画像の各画素をシフトすることにより左目用画像を再生成するものであってもよい。また、DIRB処理は、左目用画像および右目用画像の両方の画像をシフトし、左目用画像および右目用画像の両方の画像を再生成するものであってもよい。
 (f)上記の実施の形態では、立体視映像を表示するディスプレイのサイズに基づき、視差マップに示される視差量を、ディスプレイに対して適切な視差量の値に変更する処理の具体例として、(1)ディスプレイに対する飛び出し量および引っ込み量がそれぞれ視差角1度以内になるように視差量の値を変更する、(2)視聴位置からディスプレイまでの距離と、最大の飛び出し量の割合および最大の引っ込み量との比が、あらかじめ定めた所定の固定値になるように視差量を変更する、場合を説明したが、本発明は必ずしもこの場合に限定されない。
 例えば、ディスプレイのサイズが所定のサイズ以上である場合には、ディスプレイのサイズに対する立体視映像の飛び出し量および引っ込み量が、予め定めた視差角以内(例えば、1度以内)におさまるように、視差マップが有する視差量を変更し、ディスプレイサイズが所定のサイズ以下である場合には、ディスプレイのサイズに対する立体視映像の飛び出し量および引っ込み量が、予め定めた視差角以上(例えば、1度以上)、立体視の融合限界の視差角以内におさまるように、視差マップが有する視差量を変更するとしてもよい。
 これにより、立体視映像を表示する画面のサイズが大きい場合において、視差量を大きくすることにより、立体視強度が所定の視差角以上のものとなり視覚疲労や違和感等を与えることを防ぐことができる。また、立体視映像を表示する画面のサイズが小さい場合において、視差量を小さくすることにより、左目用画像と右目用画像を別々の画像と認識してしまい、立体融合が困難となることを防ぐことができる。
 (g)上記の実施の形態では、視聴位置からディスプレイまでの距離を、ディスプレイの高さHの3倍として算出する場合を説明したが、本発明は必ずしもこの場合に限定されない。例えば、TOF(Time Of Flight)型センサ等の距離センサにより、視聴位置からディスプレイまでの距離を算出してもよい。
 (h)上記の実施の形態では、基線長(瞳孔間距離)を成人男性の平均値6.5cmして算出する場合を説明したが、本発明は必ずしもこの場合に限定されない。例えば、視聴者が大人であるか子供であるか、男性であるか女性であるかを判別し、その判別結果に基づき基線長の値を決定するとしてもよい。
 (i)上記の実施の形態では、視差マップを、視差量または奥行き方向の距離を0~255までの256階調の輝度で表した画像データであるとしたが、本発明は必ずしもこの場合に限られない。視差マップは、左目用画像および右目用画像の各画素の視差の値、または奥行き方向の距離の値を保持するデータであればよく、例えば、0~127までの128階調の輝度で表した画像データであるとしてもよい。
 (j)上記の実施の形態において、立体視強度の調整を行なった左目用画像および右目用画像を履歴として格納しておき、再度同一の画像の再生命令がなされた場合には、履歴として格納した左目用画像および右目用画像に基づき立体視強度の調整を行なうとしてもよい。
 (l)上記の実施の形態における立体視強度調整処理の対象は、立体視映像のみならず、立体視画像であってもよい。
 (m)上記の実施の形態では、左視点画像・右視点画像の2視点の画像を生成する場合を説明したが、本発明は必ずしもこの場合に限定されない。2視点以上の多視点画像を生成してもよい。
 (n)上記の実施の形態では、3D眼鏡を用いて立体視映像の視聴を行なうシステムについて説明したが、3D眼鏡を必要としない裸眼立体視システムであってもよい。
 (o)上記実施の形態及び上記変形例をそれぞれ組み合わせるとしてもよい。
 本発明にかかる立体視強度調整装置は、例えば、ホームシアターシステムを用いた立体視映像の視聴に利用可能である。
 1 再生装置
 2 記録媒体
 3 操作装置
 4 表示装置
 5 3D眼鏡
 10、20、30、40 立体視強度調整装置
 100 ユーザ入力部
 200 コンテンツ再生モジュール
 300 視差情報調整モジュール
 310 指示取得部
 320 視差特定部
 400 立体視強度制御モジュール
 410 左右画像取得部
 420 画像補正部
 430 視差マップ取得部
 440 視差マップ評価部
 450 視差マップ調整部
 460 DIBR実行部
 500 表示制御モジュール
 510 機器情報取得部
 520 出力設定部
 600 視差情報保持メモリ
 700 視差マップ生成エンジン
 800 レンダリングエンジン
 900 イメージメモリ
 1000 イメージデコーダ
 1100 左目用プレーン
 1200 右目用プレーン
 1300 出力切替器
 1400 立体視強度調整方法選択部
 1500 プレーンシフト実行部
 1600 視差マップ取得部
 1700 視差マップ生成エンジン
 1800 デマルチプレクサ
 1900 ビデオデコーダ
 2000 左目用プレーン
 2100 右目用プレーン
 2200 出力切替部
 2300 加算器

Claims (20)

  1.  立体視映像の立体視強度を調整する立体視強度調整装置であって、
     立体視映像を構成するメインビューデータおよびサブビューデータの組みの各画素の視差の値を示す視差マップを取得する視差マップ取得部と、
     前記視差マップの精度を判定する精度判定部と、
     前記立体視映像の立体視強度を調整する立体視強度調整部とを備え、
     前記立体視強度調整部は、視差マップを用いた画素シフト処理、およびプレーンシフト処理を、前記視差マップの精度に応じて択一的に選択して実行する
     ことを特徴とする立体視強度調整装置。
  2.  前記精度判定部は、前記視差マップに示される視差の値から定まる前記立体視映像の立体視強度を用いて、前記視差マップの精度を判定し、
     前記立体視強度調整部は、前記立体視映像の立体視強度が所定の強度以上である場合を条件に、視差マップを用いた画素シフト処理を選択し、前記立体視映像の立体視強度が所定の強度以下である場合を条件にプレーンシフト処理を選択する
     ことを特徴とする請求項1に記載の立体視強度調整装置。
  3.  前記立体視映像の立体視強度は、視差角に基づくものであり、
     前記精度判定部は、前記視差マップに示される視差の値を用いて視差角を算出し、算出した視差角と所定の閾値とを比較することにより、前記視差マップの精度を判定する
     ことを特徴とする請求項2に記載の立体視強度調整装置。
  4.  前記視差マップ取得部は、メインビューデータとサブビューデータとの間で対応点探索を行なうことで視差マップを生成し、
     前記精度判定部は、前記視差マップ取得部による対応点探索工程において生じたエラー量を用いて、前記視差マップの精度を判定し、
     前記立体視強度調整部は、視差マップ全体における精度が所定の精度以上である場合を条件に視差マップを用いた画素シフト処理を選択し、視差マップ全体における精度が所定の精度以下である場合を条件にプレーンシフト処理を選択する
     ことを特徴とする請求項1または2のいずれかに記載の立体視強度調整装置。
  5.  前記エラー量は、対応点探索において、対応点が検出されなかった画素、および複数の対応点候補が検出された画素の数であり、
     前記精度判定部は、前記視差マップ取得部による対応点探索において、対応点が検出されなかった画素、および複数の対応点候補が検出された画素の数と、所定の閾値とを比較することにより、前記視差マップの精度を判定する
     ことを特徴とする請求項4に記載の立体視強度調整装置。
  6.  前記立体視強度調整装置は、さらに、
     前記立体視映像を表示する画面のサイズを取得する画面サイズ取得部を備え、
     前記立体視強度調整部による画素シフト処理は、
     前記画面のサイズと前記視差マップの精度を用いて、前記視差マップが有する視差量を変更し、
     変更した視差量に対応する画素数で、メインビューデータの各画素の座標をシフトすることにより、サブビューデータを再生成する
     ことを特徴とする請求項1に記載の立体視強度調整装置。
  7.  前記精度判定部は、前記視差マップの前景領域および後景領域における精度を判定し、
     前記立体視強度調整部による画素シフト処理は、
     前記視差マップの後景領域の精度が所定の精度以下である場合、前記視差マップの後景領域が有する視差量を無効とする
     ことを特徴とする請求項6に記載の立体視強度調整装置。
  8.  前記精度判定部は、前記視差マップの前景領域および後景領域における精度を判定し、
     前記立体視強度調整部による画素シフト処理は、
     前記視差マップの前景領域の精度が所定の精度以下である場合、前記視差マップの前景領域が有する視差量を平均化する
     ことを特徴とする請求項6に記載の立体視強度調整装置。
  9.  前記立体視強度調整部による画素シフト処理は、
     前記視差マップの前景領域に含まれる被写体の輪郭を抽出し、当該輪郭の抽出の精度が所定の精度以上である場合を条件に、前記視差マップの前景領域が有する視差量の平均化を実行する
     ことを特徴とする請求項8に記載の立体視強度調整装置。
  10.  前記精度判定部は、前記視差マップに示される視差の値から定まる前記立体視映像の立体視強度を用いて、前記視差マップの精度を判定し、
     前記立体視強度調整部による画素シフト処理は、前記立体視映像の立体視強度が所定の強度以上である場合、前記視差マップが有する視差量を低減する
     ことを特徴とする請求項6に記載の立体視強度調整装置。
  11.  前記立体視強度調整部による画素シフト処理は、前記画面のサイズに対する立体視映像の飛び出し量および引っ込み量が、予め定めた視差角以内におさまるように、視差マップが有する視差量を変更する
     ことを特徴とする請求項10に記載の立体視強度調整装置。
  12.  前記立体視強度調整部による画素シフト処理は、立体視映像の飛び出し量および引っ込み量と、視聴距離との比が、予め定めた固定値になるように、視差マップが有する視差量を変更する
     ことを特徴とする請求項6に記載の立体視強度調整装置。
  13.  前記立体視強度調整部による画素シフト処理は、
     前記画面サイズが所定のサイズ以上である場合には、前記画面のサイズに対する立体視映像の飛び出し量および引っ込み量が、予め定めた視差角以内におさまるように、視差マップが有する視差量を変更し、
     前記画面サイズが所定のサイズ以下である場合には、前記画面のサイズに対する立体視映像の飛び出し量および引っ込み量が、予め定めた視差角以上、立体視の融合限界の視差角以内におさまるように、視差マップが有する視差量を変更する
     ことを特徴とする請求項6に記載の立体視強度調整装置。
  14.  前記立体視強度調整装置は、さらに、
     左目用のプレーンおよび右目用のプレーンを含むプレーンと、
     前記プレーンに、ビューデータを書き込むレンダリングエンジンとを備え、
     前記レンダリングエンジンは、
     視差マップ全体における精度が所定の精度以上である場合には、立体視強度調整後のメインビューデータおよびサブビューデータを前記プレーンに書き込み、
     視差マップ全体における精度が所定の精度以下である場合には、立体視強度調整前のメインビューデータを左目用のプレーンおよび右目用のプレーンの両方に書き込む
     ことを特徴とする請求項1に記載の立体視強度調整装置。
  15.  前記視差マップ取得部は、
     前記視差マップの精度が所定の精度以下である場合には、視差マップの再取得を行なう
     ことを特徴とする請求項1に記載の立体視強度調整装置。
  16.  前記視差マップ取得部は、
     以前に視差マップを生成した手法とは別の手法により、視差マップの再取得を行なう
     ことを特徴とする請求項15に記載の立体視強度調整装置。
  17.  立体視映像の立体視強度を調整する立体視強度調整方法であって、
     立体視映像を構成するメインビューデータおよびサブビューデータの組みの各画素の視差の値を示す視差マップを取得する視差マップ取得ステップと、
     前記視差マップの精度を判定する精度判定ステップと、
     前記立体視映像の立体視強度を調整する立体視強度調整ステップとを備え、
     前記立体視強度調整ステップは、視差マップを用いた画素シフト処理、およびプレーンシフト処理を、前記視差マップの精度に応じて択一的に選択して実行する
     ことを特徴とする立体視強度調整方法。
  18.  立体視映像の立体視強度を調整する立体視強度調整処理をコンピュータに実行させるプログラムであって、
     立体視映像を構成するメインビューデータおよびサブビューデータの組みの各画素の視差の値を示す視差マップを取得する視差マップ取得ステップと、
     前記視差マップの精度を判定する精度判定ステップと、
     前記立体視映像の立体視強度を調整する立体視強度調整ステップとをコンピュータに実行させ、
     前記立体視強度調整ステップは、視差マップを用いた画素シフト処理、およびプレーンシフト処理を、前記視差マップの精度に応じて択一的に選択して実行する
     ことを特徴とするプログラム。
  19.  立体視映像の立体視強度を調整する立体視強度調整処理に用いる集積回路であって、
     立体視映像を構成するメインビューデータおよびサブビューデータの組みの各画素の視差の値を示す視差マップを取得する視差マップ取得手段と、
     前記視差マップの精度を判定する精度判定手段と、
     前記立体視映像の立体視強度を調整する立体視強度調整手段とを備え、
     前記立体視強度調整手段は、視差マップを用いた画素シフト処理、およびプレーンシフト処理を、前記視差マップの精度に応じて択一的に選択して実行する
     ことを特徴とする集積回路。
  20.  立体視映像の立体視強度を調整する立体視強度調整処理をコンピュータに実行させるプログラムを記録した記録媒体であって、
     前記プログラムは、
     立体視映像を構成するメインビューデータおよびサブビューデータの組みの各画素の視差の値を示す視差マップを取得する視差マップ取得ステップと、
     前記視差マップの精度を判定する精度判定ステップと、
     前記立体視映像の立体視強度を調整する立体視強度調整ステップとをコンピュータに実行させ、
     前記立体視強度調整ステップは、視差マップを用いた画素シフト処理、およびプレーンシフト処理を、前記視差マップの精度に応じて択一的に選択して実行する
     ことを特徴とするプログラムを記録した記録媒体。
PCT/JP2012/002786 2011-04-28 2012-04-24 立体視強度調整装置、立体視強度調整方法、プログラム、集積回路、記録媒体 WO2012147329A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
US13/642,008 US20130063576A1 (en) 2011-04-28 2012-04-24 Stereoscopic intensity adjustment device, stereoscopic intensity adjustment method, program, integrated circuit and recording medium
CN2012800015311A CN102918861A (zh) 2011-04-28 2012-04-24 立体视觉强度调整装置、立体视觉强度调整方法、程序、集成电路、记录介质
JP2012552206A JP6002043B2 (ja) 2011-04-28 2012-04-24 立体視強度調整装置、立体視強度調整方法、プログラム、集積回路、記録媒体

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2011-101419 2011-04-28
JP2011101419 2011-04-28

Publications (1)

Publication Number Publication Date
WO2012147329A1 true WO2012147329A1 (ja) 2012-11-01

Family

ID=47071860

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2012/002786 WO2012147329A1 (ja) 2011-04-28 2012-04-24 立体視強度調整装置、立体視強度調整方法、プログラム、集積回路、記録媒体

Country Status (4)

Country Link
US (1) US20130063576A1 (ja)
JP (1) JP6002043B2 (ja)
CN (1) CN102918861A (ja)
WO (1) WO2012147329A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014076868A1 (ja) * 2012-11-19 2014-05-22 パナソニック株式会社 画像処理装置及び画像処理方法
WO2014083752A1 (ja) * 2012-11-30 2014-06-05 パナソニック株式会社 別視点画像生成装置および別視点画像生成方法
JP2015509292A (ja) * 2012-02-02 2015-03-26 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 視差情報を用いた3dメディアデータの生成方法、符号化方法、復号方法、及び、表示方法、並びに、生成装置、符号化装置、復号装置、及び、表示装置

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5723721B2 (ja) * 2010-09-28 2015-05-27 富士フイルム株式会社 立体画像編集装置および立体画像編集方法
US20160150209A1 (en) * 2013-06-19 2016-05-26 Telefonaktiebolaget L M Ericsson (Publ) Depth Range Adjustment of a 3D Video to Match the Depth Range Permissible by a 3D Display Device
JP2015149547A (ja) * 2014-02-05 2015-08-20 ソニー株式会社 画像処理方法、画像処理装置、及び電子機器
US10559034B2 (en) * 2015-08-05 2020-02-11 The Toronto-Dominion Bank Systems and methods for verifying user identity based on social media messaging
WO2017120552A1 (en) * 2016-01-06 2017-07-13 Meta Company Apparatuses, methods and systems for pre-warping images for a display system with a distorting optical component
JP2018169517A (ja) * 2017-03-30 2018-11-01 ソニーセミコンダクタソリューションズ株式会社 撮像装置、撮像モジュールおよび撮像装置の制御方法
US10735707B2 (en) * 2017-08-15 2020-08-04 International Business Machines Corporation Generating three-dimensional imagery
CN108520232B (zh) * 2017-08-16 2020-07-24 威盛电子股份有限公司 立体环景影片产生方法及装置
US10733706B2 (en) 2018-01-07 2020-08-04 Htc Corporation Mobile device, and image processing method for mobile device
CN108629763B (zh) * 2018-04-16 2022-02-01 海信集团有限公司 一种视差图的评判方法、装置及终端

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004221700A (ja) * 2003-01-09 2004-08-05 Sanyo Electric Co Ltd 立体画像処理方法および装置
JP2009276906A (ja) * 2008-05-13 2009-11-26 Panasonic Corp 走行情報提供装置
JP2010226500A (ja) * 2009-03-24 2010-10-07 Toshiba Corp 立体画像表示装置および立体画像表示方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4149037B2 (ja) * 1998-06-04 2008-09-10 オリンパス株式会社 映像システム
US8369607B2 (en) * 2002-03-27 2013-02-05 Sanyo Electric Co., Ltd. Method and apparatus for processing three-dimensional images
KR101185870B1 (ko) * 2005-10-12 2012-09-25 삼성전자주식회사 3d 입체 영상 처리 장치 및 방법
JP2010045584A (ja) * 2008-08-12 2010-02-25 Sony Corp 立体画像補正装置、立体画像補正方法、立体画像表示装置、立体画像再生装置、立体画像提供システム、プログラム及び記録媒体
JP5243612B2 (ja) * 2008-10-02 2013-07-24 フラウンホッファー−ゲゼルシャフト ツァ フェルダールング デァ アンゲヴァンテン フォアシュンク エー.ファオ 中間画像合成およびマルチビューデータ信号抽出
US8335425B2 (en) * 2008-11-18 2012-12-18 Panasonic Corporation Playback apparatus, playback method, and program for performing stereoscopic playback
JP5249149B2 (ja) * 2009-07-17 2013-07-31 富士フイルム株式会社 立体画像記録装置及び方法、立体画像出力装置及び方法、並びに立体画像記録出力システム
JP2011060116A (ja) * 2009-09-11 2011-03-24 Fujifilm Corp 画像処理装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004221700A (ja) * 2003-01-09 2004-08-05 Sanyo Electric Co Ltd 立体画像処理方法および装置
JP2009276906A (ja) * 2008-05-13 2009-11-26 Panasonic Corp 走行情報提供装置
JP2010226500A (ja) * 2009-03-24 2010-10-07 Toshiba Corp 立体画像表示装置および立体画像表示方法

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015509292A (ja) * 2012-02-02 2015-03-26 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 視差情報を用いた3dメディアデータの生成方法、符号化方法、復号方法、及び、表示方法、並びに、生成装置、符号化装置、復号装置、及び、表示装置
WO2014076868A1 (ja) * 2012-11-19 2014-05-22 パナソニック株式会社 画像処理装置及び画像処理方法
JPWO2014076868A1 (ja) * 2012-11-19 2017-01-05 パナソニックIpマネジメント株式会社 画像処理装置及び画像処理方法
US9652881B2 (en) 2012-11-19 2017-05-16 Panasonic Intellectual Property Management Co., Ltd. Image processing device and image processing method
WO2014083752A1 (ja) * 2012-11-30 2014-06-05 パナソニック株式会社 別視点画像生成装置および別視点画像生成方法
JPWO2014083752A1 (ja) * 2012-11-30 2017-01-05 パナソニックIpマネジメント株式会社 別視点画像生成装置および別視点画像生成方法
US9596445B2 (en) 2012-11-30 2017-03-14 Panasonic Intellectual Property Management Co., Ltd. Different-view image generating apparatus and different-view image generating method

Also Published As

Publication number Publication date
CN102918861A (zh) 2013-02-06
JP6002043B2 (ja) 2016-10-05
US20130063576A1 (en) 2013-03-14
JPWO2012147329A1 (ja) 2014-07-28

Similar Documents

Publication Publication Date Title
JP6002043B2 (ja) 立体視強度調整装置、立体視強度調整方法、プログラム、集積回路、記録媒体
US10148930B2 (en) Multi view synthesis method and display devices with spatial and inter-view consistency
JP5414947B2 (ja) ステレオ撮影装置
US8116557B2 (en) 3D image processing apparatus and method
JP5320524B1 (ja) ステレオ撮影装置
CN102687515B (zh) 三维图像插补装置、三维摄像装置以及三维图像插补方法
JP6094863B2 (ja) 画像処理装置、画像処理方法、プログラム、集積回路
KR101502362B1 (ko) 영상처리 장치 및 방법
US7660472B2 (en) System and method for managing stereoscopic viewing
JP5291755B2 (ja) 立体視画像生成方法および立体視画像生成システム
WO2012176431A1 (ja) 多視点画像生成装置、多視点画像生成方法
US8373745B2 (en) Image processing apparatus, image display apparatus, image apparatus, and image processing method
US9338426B2 (en) Three-dimensional image processing apparatus, three-dimensional imaging apparatus, and three-dimensional image processing method
JP2014056466A (ja) 画像処理装置及び方法
JP5546633B2 (ja) 立体画像再生装置、立体画像再生システム及び立体画像再生方法
JP5755571B2 (ja) 仮想視点画像生成装置、仮想視点画像生成方法、制御プログラム、記録媒体、および立体表示装置
JP6033625B2 (ja) 多視点画像生成装置、画像生成方法、表示装置、プログラム、及び、記録媒体
JP5502211B2 (ja) 立体画像処理装置および立体画像処理方法
JP5820985B2 (ja) 立体画像処理装置および立体画像処理方法
US9986222B2 (en) Image processing method and image processing device
JP5861114B2 (ja) 画像処理装置、及び画像処理方法
TWI536832B (zh) 用於嵌入立體影像的系統、方法及其軟體產品
WO2013186881A1 (ja) 立体視画像生成方法および立体視画像生成システム
JP2013090170A (ja) 立体視映像再生装置
JP2010141752A (ja) 立体視画像生成方法

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 201280001531.1

Country of ref document: CN

WWE Wipo information: entry into national phase

Ref document number: 13642008

Country of ref document: US

ENP Entry into the national phase

Ref document number: 2012552206

Country of ref document: JP

Kind code of ref document: A

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 12775971

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 12775971

Country of ref document: EP

Kind code of ref document: A1