JPWO2012120880A1 - 立体画像出力装置及び立体画像出力方法 - Google Patents
立体画像出力装置及び立体画像出力方法 Download PDFInfo
- Publication number
- JPWO2012120880A1 JPWO2012120880A1 JP2013503393A JP2013503393A JPWO2012120880A1 JP WO2012120880 A1 JPWO2012120880 A1 JP WO2012120880A1 JP 2013503393 A JP2013503393 A JP 2013503393A JP 2013503393 A JP2013503393 A JP 2013503393A JP WO2012120880 A1 JPWO2012120880 A1 JP WO2012120880A1
- Authority
- JP
- Japan
- Prior art keywords
- image
- stereoscopic image
- stereoscopic
- safe
- parallax
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/167—Synchronising or controlling image signals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/144—Processing image signals for flicker reduction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/398—Synchronisation thereof; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N2013/0074—Stereoscopic image analysis
- H04N2013/0081—Depth or disparity estimation from stereoscopic image signals
Abstract
立体画像を構成する左目用画像及び右目用画像を取得する画像取得部(102)と、画像取得部(102)で取得された左目用画像及び右目用画像を交互に表示する表示部(106)と、左目用画像及び右目用画像の互いに対応する点ごとの視差の正規分布曲線と、立体画像が視聴者にとって安全な画像であると認められる視差の範囲を示す安全視差範囲とを比較して、立体画像が安全な画像であるか否かを判断する安全性判断部(103)と、安全性判断部(103)が立体画像を安全な画像でないと判断した場合に、視聴者に立体画像が安全な画像でないことを通知する通知部(104)とを備える。
Description
本発明は立体画像出力装置及び立体画像出力方法に関し、特に視聴者への安全性を考慮した立体画像出力装置及び立体画像出力方法に関する。
従来、撮影した複数の画像の中から立体視の左目用画像及び右目用画像として用いる画像対を選択し、これらを用いて立体画像を表示する画像表示装置が知られている(例えば、特許文献1参照)。
このような画像表示装置は、複数の画像の類似度が所定の閾値以内である画像対をユーザへ提示し、提示された画像対の中からユーザが選択した画像対を左目用画像及び右目用画像として表示する。これにより、ユーザは選択した画像を立体画像として視聴することが可能である。
しかしながら、上記のような画像表示装置によって作成された立体画像には、左目用画像と右目用画像との視差が非常に大きい画像が含まれる。つまり、このような画像をユーザが視聴した場合、ユーザの健康を害してしまう可能性がある。
そこで本発明は、上記を鑑みて成されたものであって、立体画像を表示する場合に、立体画像の安全性を正確に判断し、ユーザへ通知することが可能な立体画像出力装置及び立体画像出力方法を提供することを目的とする。
上記の課題を解決するために、本発明の一態様に係る立体画像出力装置は、立体画像を構成する左目用画像及び右目用画像を取得する画像取得部と、前記画像取得部で取得された前記左目用画像及び前記右目用画像を出力する出力部と、前記左目用画像及び前記右目用画像の互いに対応する点ごとの視差から求められる正規分布曲線と、前記立体画像が視聴者にとって安全な画像であると認められる視差の範囲を示す安全視差範囲とを比較して、前記立体画像が安全な画像であるか否かを判断する安全性判断部と、前記安全性判断部が前記立体画像を安全な画像でないと判断した場合に、前記視聴者に前記立体画像が安全な画像でないことを通知する通知部とを備えることを特徴とする。
これにより、立体画像の安全性を正確に判断し、ユーザへ通知することで安全な立体画像を出力することができる。
また、前記安全性判断部は、前記立体画像に含まれる被写体の形状を特定するための複数の特徴点を前記左目用画像及び前記右目用画像それぞれから抽出し、前記左目用画像及び前記右目用画像の互いに対応する前記特徴点ごとの視差を算出し、算出した視差の度数の分布を近似して正規分布曲線を算出してもよい。
また、前記安全性判断部は、前記正規分布曲線で囲まれる領域の面積のうち、前記安全視差範囲に含まれる領域の面積の占める割合が所定の閾値以上である場合に、前記立体画像を安全な画像であると判断してもよい。
また、前記出力部は、前記左目用画像及び前記右目用画像を交互に表示する表示部であり、前記通知部は、前記安全性判断部が前記立体画像を安全な画像でないと判断した場合に、前記表示部に前記立体画像が安全な画像でない旨を表示してもよい。
また、前記表示部は、前記安全性判断部が前記立体画像を安全な画像であると判断した場合のみ、前記左目用画像及び前記右目用画像を交互に表示してもよい。
また、前記立体画像出力装置は、さらに、被写体を異なる位置から撮影した第1及び第2の画像を取得し、前記第1及び前記第2の画像の互いに対応する点同士の垂直方向の視差が最小となるように前記2の画像を回転または移動させることによって、第3の画像を生成する立体画像生成部を備え、前記画像取得部は、前記第1の画像及び前記第3の画像のうち一方の画像を前記左目用画像として取得し、他方の画像を前記右目用画像として取得してもよい。
また、前記画像取得部は、立体映像を構成する複数の前記左目用画像及び複数の前記右目用画像を、前記立体映像の再生順に取得してもよい。
また、前記安全視差範囲は、生体安全ガイドラインで定められた視差範囲であってもよい。
また、本発明の一態様に係る立体画像出力方法は、立体画像を構成する左目用画像及び右目用画像を取得する画像取得ステップと、前記画像取得部で取得された前記左目用画像及び前記右目用画像を交互に出力する出力ステップと、前記左目用画像及び前記右目用画像の互いに対応する点ごとの視差の正規分布曲線と、前記立体画像が前記視聴者にとって安全な画像であると認められる視差の範囲を示す安全視差範囲とを比較して、前記立体画像が安全な画像であるか否かを判断する安全性判断ステップと、前記安全性判断ステップにおいて前記立体画像を安全な画像でないと判断した場合に、前記視聴者に前記立体画像が安全な画像でないことを通知する通知ステップとを含むことを特徴とする。
本発明の立体画像出力装置及び立体画像出力方法によれば、視差の正規分布を用いて立体画像の安全性を正確に判断し、ユーザへ通知することで安全な立体画像の表示が可能となる。
以下、本発明の実施の形態について、図面を参照しながら説明する。
なお、以下で説明する実施の形態は、いずれも本発明の好ましい一具体例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、本発明の最上位概念を示す独立請求項に記載されていない構成要素については、より好ましい形態を構成する任意の構成要素として説明される。
まず、立体画像出力装置の構成について説明する。
図1は、本発明の実施の形態に係る立体画像出力装置の構成を示すブロック図である。
図1に示されるように、立体画像出力装置100は、立体画像生成部101と、画像取得部102と、安全性判断部103と、通知部104と、表示部106(出力部)と、入力部107とを備える。
なお、図示しないが、立体画像出力装置100には、放送信号を受信するための受信部、ネットワークに接続するための通信部、記録媒体に接続するための媒体接続部、及び音声信号を出力するための音声出力部等の構成要素を含めてもよい。しかしながら、これらは本発明には直接的に関係しないため、本実施の形態では説明を省略する。
立体画像生成部101は、立体画像を構成する左目用画像及び右目用画像を生成して画像取得部102に出力する。左目用画像とは、立体画像を構成する画像であって視聴者の左目に見せるため画像である。右目用画像とは、立体画像を構成する画像であって視聴者の右目に見せるための画像である。立体画像生成部101は、例えば、撮像素子(図示省略)によって画像を撮影し、立体画像(左目用画像及び右目用画像)を生成する。すなわち、立体画像出力装置100は、DSC(Disital Still Camera)等に適用することができる。
なお、立体画像生成部101は、放送波、または記録媒体から2次元画像を取得し、取得した2次元画像から立体画像を生成してもよい。
画像取得部102は、視聴者が被写体を立体視可能な立体画像を構成する左目用画像及び右目用画像を取得し、安全性判断部103及び表示部106(出力部)へ出力する。
具体的には、立体画像生成部101で生成された左目用画像及び右目用画像を取得する。
なお、立体画像生成部101を省略して画像取得部102が直接左目用画像及び右目用画像を取得してもよい。
この場合、画像取得部102は、放送波または通信ネットワークを通じて画像を取得してもよい。放送波の具体例は特に限定されない。例えば、画像取得部102は、アナログ放送、地上波デジタル放送、BS(Broadcast Satellite)放送、CS(Communication Satellite)放送から画像を取得する。
すなわち、立体画像出力装置100は、テレビジョン受像装置等に適用することができる。
また、画像取得部102は、記録媒体から画像を読み出してもよい。記録媒体の具体例は特に限定されない。例えば、画像取得部102は、DVD(Digital Versatile Disc)、BD(Blu−ray Disc)、SD(Secure Digital)カード等から画像を取得する。
すなわち、立体画像出力装置100は、Blu−Rayレコーダ等に適用することができる。
安全性判断部103は、画像取得部102が取得した立体画像が安全な画像であるか否かを判断する。具体的には、安全性判断部103は、左目用画像及び右目用画像の互いに対応する点ごとの視差の正規分布曲線と、安全視差範囲とを比較して、立体画像が安全な画像であるか否かを判断する。本実施の形態では、視差の正規分布曲線で囲まれる領域の面積と、安全視差範囲とに基づいて立体画像が安全な画像であるか否かを判断する。また、安全視差範囲は、本実施の形態では、生体安全ガイドラインで定められた視差範囲である。
上記の安全視差範囲は、電子情報技術産業協会において規定された生体安全ガイドラインを定量化したものである。具体的には、表示部106の解像度、インチ数、ユーザとの視聴距離等に応じて数値化された、生体安全であると認められる視差の範囲を示すものである。
通知部104は、安全性判断部103が立体画像を安全な画像でないと判断した場合に、視聴者に当該立体画像が安全な画像でないことを通知する。本実施の形態では、通知部104は、表示部106に立体画像が安全な画像でない旨のメッセージ(画像)を表示する。
図2は、このような立体画像が安全な画像でない旨のメッセージの表示例である。
図2に示されるように、本実施の形態では、通知部104は、立体画像が安全な画像でない旨とともに視聴者に立体画像の表示を許可するか否かの指示を求めるメッセージを表示部106に表示する。これにより、視聴者は、後述する入力部107から指示を入力することで立体画像を表示するか否かを選択することができる。
なお、通知部104の立体画像が安全な画像でない旨の通知は、これに限定されない。例えば、通知部104は、図示しないスピーカを通じて立体画像が安全な画像でない旨の音声を出力することによって、ユーザに通知してもよい。
表示部106は、左目用画像及び右目用画像を表示する。本実施の形態に係る表示部106は、一定周期で左目用画像と右目用画像とを交互に表示することによって、立体画像を表示するディスプレイである。表示部106は、例えば、液晶ディスプレイ、プラズマディスプレイ、または有機EL(Electro Luminescence)ディスプレイ等である。
本実施の形態では、視聴者は、立体画像視聴用の眼鏡をかけて上記ディスプレイを視聴する。立体画像視聴用の眼鏡は、表示部106の左目用画像及び右目用画像の表示タイミングに同期して左右それぞれのレンズの液晶シャッターが開閉するため、視聴者は立体画像を視聴することができる。この場合、表示部106は、表示タイミングに応じて左目用画像と右目用画像とを交互に出力すると共に、左目用画像及び右目用画像の出力タイミングに合わせた液晶シャッターの開閉指示を立体画像視聴用の眼鏡に出力する。
また、表示部106は、例えば、表示面にレンチキュラレンズを有する液晶ディスプレイなど、立体画像視聴用の眼鏡を必要としない立体表示が可能な表示装置であってもよい。
なお、表示部106は、必ずしも必須の構成要素ではない。表示部106に替えて立体画像を出力する出力部を設け、出力部が立体画像出力装置100とは別の装置である表示装置に立体画像を出力してもよい。
入力部107は、視聴者からの様々な指示(要求)の入力を受けつけるユーザインタフェースである。本実施の形態に係る入力部107は、リモコンである。なお、入力部107は、表示部106の表示画面に重ね合わされるタッチパネルへの操作を受けつけるGUI(Graphic User Interface)等であってもよい。
次に、立体画像出力装置100の全体の動作について説明する。
図3は、本発明の実施の形態に係る立体画像出力装置100の全体の動作を示すフローチャートである。
まず、立体画像生成部101は立体画像を生成する(S301)。本実施の形態に係る立体画像の生成方法の詳細については、後述する。
次に、画像取得部102は、立体画像生成部101が生成した左目用画像及び右目用画像を取得する(S302)。
次に、安全性判断部103は、画像取得部が取得した立体画像(左目用画像及び右目用画像)が視聴者にとって安全であるか否かを判断する(S303)。具体的には、まず、安全性判断部103は、左目用画像及び右目用画像のうち一方の画像内の複数の点と、複数の点にそれぞれ対応する他方の画像内の複数の点との視差を対応する点ごとに算出する。本実施の形態では、特に、安全性判断部103は、立体画像に含まれる被写体の形状を特定するための特徴点ごとに視差を算出する。
次に、安全性判断部103は、算出された複数の視差の分布を近似した正規分布曲線と、立体画像が視聴者にとって安全な画像であると認められる視差の範囲を示す安全視差範囲とを比較して、立体画像が安全な画像であるか否かを判断する。なお、安全性判断部103の安全性判断方法の詳細については後述する。
安全性判断部103が立体画像を安全な画像であると判断した場合(S303でYes)、表示部106は、左目用画像及び右目用画像を表示画面に交互に表示する(S304)。
安全性判断部103が立体画像を安全な画像でないと判断した場合(S303でNo)、まず、通知部104は、図2のような立体画像が安全でない旨のメッセージを表示し、視聴者に立体画像の表示を許可するか否かの指示を求める(S305)。
視聴者は、通知部104によって通知された安全でない画像の表示を、許可または禁止する指示を入力部107を通じて入力する。
視聴者が立体画像の表示を許可する場合、具体的には、図2のメッセージが表示されている状態において、視聴者がリモコンによって「はい」を選択した場合(S305でYes)、表示部106は、立体画像を表示する(S304)。
一方、視聴者が立体画像の表示を許可する場合、つまり、図2のメッセージに対し視聴者が「いいえ」を選択した場合(305でNo)、表示部106は、立体画像を表示することなく処理を終了する。
なお、通知部104は、視聴者に立体画像の表示を許可するか否かの指示を求めなくてもよい。このような場合、安全性判断部103が立体画像を安全な画像でないと判断したときは、表示部106は、立体画像を表示しない。つまり、表示部106は、安全性判断部103が立体画像を安全な画像であると判断した場合のみ、左目用画像及び右目用画像を交互に表示する。
次に、立体画像生成部101の立体画像の生成方法について詳細に説明する。
図4は、立体画像生成部101の立体画像の生成方法を説明するための図である。
図5は、立体画像生成部101の立体画像の生成のフローチャートである。図5は、図3のフローチャートのステップS301をさらに詳細に説明するフローチャートである。
まず、図4の(a)で示されるように、立体画像生成部101は、画像を取得する(図5のS501)。本実施の形態に係る立体画像生成部101は、一例として第1の画像120及び第2の画像130の2つの画像を取得する。第1の画像120及び第2の画像130は、水平方向に異なる視点から同一の被写体を撮影した画像であり、画像の水平方向における視差を有する。また、上記被写体を撮影した撮像素子の傾きなどにより、上記異なる視点には、垂直方向にも意図しないずれが存在する。つまり、第1の画像120及び第2の画像130は、画像の垂直方向における視差も有する。第1の画像120及び第2の画像130を用いて立体画像を生成する場合、画像の垂直方向の視差は不要である。したがって、以下のように、第1の画像120及び第2の画像130について、水平方向の視差は残したまま、垂直方向の視差を打ち消すような処理を行う。
まず、図4の(b)で示されるように、立体画像生成部101は、第1の画像120及び第2の画像130のそれぞれについて、被写体の輪郭であるエッジを検出する(図5のS502)。被写体のエッジの検出には、例えば、ラプラシアンフィルタが用いられる。ラプラシアンフィルタは、画像の各画素の輝度の変化量が極端に大きい部分を抽出するフィルタである。つまり、第1の画像120及び第2の画像130のうち、輝度変化の大きい部分がエッジとして検出される。なお、色相の変化が大きい部分をエッジとして検出してもよい。
次に、図4の(c)で示されるように、立体画像生成部101は、第1の画像120内の複数の特徴点と、第2の画像130内の複数の特徴点とを抽出する(図5のS503)。
具体的には、まず、立体画像生成部101は、第1の画像120及び第2の画像130内の被写体のエッジ上の特徴点を複数抽出する。図4の(c)で示される例では、立体画像生成部101は、第1の画像120について、特徴点140a及び140bを抽出し、第2の画像130について特徴点140a´及び140b´を抽出している。実際に抽出される特徴点の数は、特徴点抽出書処理の負荷と、生成される画像の精度とのバランスを考慮して決定される。
続いて、立体画像生成部101は、特徴点のそれぞれについて、輝度ベクトルを算出する。輝度ベクトルは、特徴点における画素の輝度と、当該特徴点の周辺の画素の輝度との輝度の変化から求められる、輝度変化の方向及び輝度変化の大きさを示すベクトルである。
図4の(c)で示される例では、立体画像生成部101は、第1の画像120において、特徴点140aにおける輝度ベクトル150aと、特徴点140bにおける輝度ベクトル150bとを算出する。同様に、立体画像生成部101は、第2の画像130において、特徴点140a´における輝度ベクトル150a´と、特徴点140b´における輝度ベクトル150b´とを算出する。
続いて、立体画像生成部101は、第1の画像120に含まれる特徴点と、第2の画像130に含まれる特徴点とを対応付ける。具体的には、第1の画像120に含まれる各特徴点の輝度ベクトルと、第2の画像130に含まれる各特徴点の輝度ベクトルとを比較し、第1の画像120及び第2の画像130に含まれる特徴点全体の輝度ベクトルの相関を求める。求めた特徴点全体の輝度ベクトルの相関に基づき、類似する輝度ベクトルを有する特徴点同士を対応づける。
図4の(c)で示される例では、輝度ベクトル150aと輝度ベクトル150a´とが近い相関関係にあるため、立体画像生成部101は、特徴点140aと特徴点140a´とを対応付ける。同様に、輝度ベクトル150bと輝度ベクトル150b´とが近い相関関係にあるため、立体画像生成部101は、特徴点140bと特徴点140b´とを対応付ける。
次に、図4の(d)で示されるように、立体画像生成部101は、第1の画像120及び第2の画像130の対応する特徴点の垂直方向における視差が最小となるように、第2の画像130を回転または移動させた第3の画像を生成する(図5のS504)。
第3の画像は、具体的には、図4の(d)で示されるように、特徴点の画像の垂直方向の位置が等しくなるように、第2の画像を補正(回転または、移動)することで生成される。これにより、水平方向の視差のみが残った第1の画像及び第3の画像を生成することができる。
最後に、立体画像生成部101は、第1の画像120及び第3の画像のうち一方の画像を左目用画像として画像取得部102に出力し、他方の画像を右目用画像として画像取得部102に出力する。第1の画像120及び第3の画像のどちらの画像を左目用画像とするかは、第1の画像120及び第3の画像の水平方向における視差の向きに基づいて決定される。
図4の(d)で示される例では、視聴者から見て被写体が表示部106の表示画面よりも手前側に飛び出すように表示されるとした場合、第1の画像120は第3の画像よりも右側の位置から見た画像である。したがって、立体画像生成部101は、第1の画像120を右目用画像として出力し、第3の画像を左目用画像として出力する。
また、反対に、視聴者から見て被写体が表示部106の表示画面よりも奥側へ奥行を持つように表示されるとした場合、立体画像生成部101は、第1の画像120を左目用画像として出力し、第3の画像を右目用画像として出力する。
なお、第2の画像130の補正を行った場合、第3の画像の周辺部に画像データの存在しない領域が発生することがある。このような場合、周辺部の画像データの存在しない領域を除外するために、第1の画像120及び第3の画像の周辺部をトリミングしてもよい。また、画像に含まれる色のヒューステリクス、第1の画像120の画像データなどを用いて、第3の画像の画像データの存在しない領域の画像データを補間してもよい。
なお、ステップS503で対応付けられた特徴点は、輝度ベクトルの相関に基づいて対応付けられるため、輝度ベクトルが偶然類似したことによって、本来対応しない特徴点同士が対応付けられる場合がある。このため、実際には、立体画像生成部101は、対応する特徴点同士が、画像の垂直方向において所定の画素数の範囲に位置するように補正を行う。これにより、立体画像生成部101は、画像の垂直方向の視差をできるだけ小さくする。
以上、立体画像生成部101の立体画像の生成方法について詳細に説明したが、立体画像の生成方法は上記の方法に限定されない。
例えば、取得した2つの画像から、それぞれの画像における被写体の奥行を表す奥行情報を求め、取得した画像と画像の水平方向において視差を持つ画像を生成してもよい。
また、立体画像生成部101が取得する画像が1つであっても、左目用画像及び右目用画像を生成することは、実現可能である。このような場合、例えば、立体画像生成部101は、画像に含まれる色のヒューリスティクスなどを用いて、取得した画像と画像の水平方向において視差を持つ画像を生成してもよい。
次に、安全性判断部103の立体画像の安全性判断方法について詳細に説明する。
図6は、安全性判断部103の安全性判断処理のフローチャートである。図6は、図3のフローチャートのステップS303をさらに詳細に説明するフローチャートである。
まず、画像取得部102が取得した左目用映像及び右目用映像の互いに対応する特徴点を抽出する(図6のS601)。本実施の形態では、立体画像生成部101が図4及び図5で説明した方法によって算出した対応する特徴点のデータを保持しておき、そのまま使用すればよい。
なお、立体画像出力装置100が立体画像生成部101を有しないような構成である場合、安全性判断部103は、図5のステップS502及びS503に対応する方法によって、左目用映像及び右目用映像の互いに対応する特徴点を抽出する。
次に、安全性判断部103は、対応する特徴点の組それぞれについて、視差を計算する(図6のS602)。本実施の形態では、対応する特徴点の組それぞれの視差は、表示画面上の画素数で表される。また、本実施の形態では、視差は符号を持つ量として表現される。具体的には、視聴者から見て被写体が表示画面よりも奥側へ奥行を持つように表示される場合、視差はマイナスの符号を持つ量として表現される。反対に、視聴者から見て被写体が表示画面よりも手前側に飛び出すように表示される場合、視差はプラスの符号を持つ量として計算される。
図7は、視差の符号を説明するための図である。
図7の(a)は、視聴者から見て被写体が表示部106の表示画面よりも奥側へ奥行を持つように表示される場合の上面図である。図7の(a)に示されるように、左目用画像の特徴点140eは、これに対応する右目用画像の特徴点140e´よりも画像の水平方向において左側に位置する。このような場合、安全性判断部103が算出する立体画像の視差はマイナスの符号を持つ視差である。
図7の(b)は、視聴者から見て被写体が表示部106の表示画面よりも手前側へ飛び出すように表示される場合の視差を説明するための上面図である。図7の(b)に示されるように、左目用画像の特徴点140fは、これに対応する右目用画像の特徴点140f´よりも画像の水平方向において右側に位置する。このような場合、安全性判断部103が算出する立体画像の視差はプラスの符号を持つ視差である。
なお、上記のように符号を持つ量として計算された視差は、実際の視差よりも大きい、または小さいものが含まれる可能性がある。これは、例えば、類似した形状の物体が複数存在する画像、または輝度が均一な領域が多い画像では、特徴点を当該特徴点における輝度ベクトルの相関関係(類似関係)によって対応付けるために、特徴点の対応付けを誤る可能性があるからである。
図8及び図9は、上記のように特徴点が誤って対応付けられる例を示す図である。
図8は、左目用画像160及び右目用画像170に同じ車両が2台並んで撮影された場合の例である。
図8では右目用画像170内の特徴点140cに対応する左目用画像160内の特徴点は、特徴点140c´である。これらは、それぞれの画像において右側に位置する車両の左側のエッジ上の点である。しかしながら、図8のような場合、右目用画像170内の右側に位置する車両の左側のエッジ上の点における輝度ベクトルと、左目用画像160内の左側に位置する車両の左側のエッジ上の点における輝度ベクトルとが類似する場合がある。つまり、右目用画像170内の特徴点140cに左目用画像160内の特徴点140c´´が誤って対応付けられてしまう可能性がある。
この場合、図8の例では、右目用画像170内の特徴点140cにおける正しい視差量は視差Aであるが、誤った視差A´が算出される。
また、図9は、左目用画像160及び右目用画像170に輝度が均一である領域が多い場合の例である。図9の左目用画像160及び右目用画像170に示される矢印形状の輝度(色)は均一であり、また、矢印形状の周辺の輝度も均一である。したがって、矢印形状のエッジ上の点における輝度ベクトルは、類似するものが多い。このため、誤って対応付けられる特徴点が発生しやすい。
例えば、図9の左目用画像160内の特徴点140dに対応する右目用画像170内の特徴点は、特徴点140d´である。しかしながら、特徴点140dには、左目用画像160内において特徴点140d´に輝度ベクトルが類似する特徴点が140d´´が誤って対応付けられてしまう可能性がある。
この場合、図9の例では、左目用画像160内の特徴点140dにおける正しい視差は視差Bであるが、誤った視差B´が算出される。
なお、図8及び図9は、誤って視差が大きく計算されてしまう例であるが、誤って視差が小さく計算されてしまう場合ももちろんある。
以上のように、輝度ベクトルを用いて特徴点を対応付ける場合には、誤った視差が計算される場合が散見され、これを完全に防ぐことは非常に難しい。
したがって、単純に安全視差範囲を超えた視差を持つ特徴点の組の数が所定の閾値以上ある立体画像を安全でないとする手法では、実際には安全な立体画像であるにもかかわらず、誤って対応付けられた特徴点の視差によって安全でない立体画像であると判断されてしまう。
そこで、本発明は、安全視差範囲を外れる視差の個数ではなく、視差の正規分布曲線と安全視差範囲とを比較することで、立体画像の安全性を正確に判断する。
まず、安全性判断部103は、対応する特徴点の組ごとに計算した視差の平均と、分散とを求めることで、確率密度関数で表される視差の正規分布曲線を生成する(図6のS603)。視差xの確率密度関数は、視差の平均をμ、標準偏差をσとした場合、次式から求められる。
次に、生成した正規分布曲線と安全視差範囲とを比較し、立体画像が安全な画像であるか否かを判断する(図6のS604)。
まず、安全視差範囲について説明する。本実施の形態では、安全視差範囲は、生体安全ガイドラインで定められた視差の上限値と下限値で定められ、画素数で表される。
生体安全ガイドラインで定められた視差範囲について、再度、図7を用いて説明する。
図7の(a)のように視聴者から見て被写体が表示画面よりも奥側へ奥行を持つように表示される場合、生体安全ガイドラインで定められた安全視差範囲の限度は、立体画像が表示される表示画面上で5cm以内と定められている。また、この場合の視差は、上述のようにマイナスの符号を持つ量である。
したがって、安全視差範囲の下限値は、表示画面上の5cmに相当する視差Cを画素数で表し、マイナスの符号を付した量である。安全視差範囲の下限値は、具体的には、表示画面の大きさ、表示画面の解像度に基づいて求められる。
一方、図7の(b)のように視聴者から見て被写体が表示画面よりも手前に飛び出すように表示される場合、生体安全ガイドラインで定められた安全視差範囲の限度は、図7の(b)で示される角度θで表される輻輳角によって定められる。具体的には、輻輳角が1度以内となる表示画面上の視差が、安全な視差の限度である。また、この場合の視差は、上述のようにプラスの符号を持つ量である。
したがって、本実施の形態において、安全視差範囲の上限値は、輻輳角1度以内に相当する表示画面上の視差Dを画素数で表し、プラスの符号を付したものである。安全視差範囲の上限値は、具体的には、表示画面の大きさ、表示画面の解像度、及び想定される視聴者の視聴位置に基づいて求められる。
なお、安全視差範囲は生体安全ガイドラインで定められたものに限定されない。例えば、生体安全ガイドラインで定められた視差範囲よりも範囲の狭い視差範囲を設定してもよい。
図10及び図11は、安全性判断部103の安全性判断を説明するための図である。
図10及び図11では、視差から求められる正規分布曲線と、視差の実際の分布を示すヒストグラムと、生体安全ガイドラインで定められた安全視差範囲とが示されている。図10及び図11の横軸は視差(画素数)を表し、縦軸(度数)は、特徴点の個数を表す。安全視差範囲の左端は、上述した下限値を表し、安全視差範囲の右端は、上限値を表す。
図10は、安全性判断部103が安全だと判断する視差の分布例を示す図である。
本実施の形態では、安全性判断部103は、正規分布曲線で囲まれる領域の面積のうち安全視差範囲に含まれる領域の面積の占める割合が所定の閾値以上(例えば、90%以上)である場合、立体画像を安全な画像であると判断する。
正規分布曲線で囲まれる領域のうち安全視差範囲に含まれる領域とは、図10の斜線で示される領域である。この領域の面積が、正規分布曲線で囲まれる領域の面積に対し所定の割合以上を占める場合、安全性判断部103は、立体画像を安全な画像であると判断する。
図10では、ヒストグラムと安全視差範囲とを比較した場合、安全視差範囲外の視差を持つ特徴点の組は存在するが、正規分布曲線で囲まれる領域の面積のうち、安全視差範囲に含まれる領域の面積は所定の割合以上である。したがって、このような視差の分布を有する立体画像は安全であると判断される。
一方、図11は、安全性判断部103が安全でないと判断する視差の分布例を示す図である。
図10では、ヒストグラムと安全視差範囲とを比較した場合、安全視差範囲外の視差を持つ特徴点の組は存在しない。しかしながら、図11のような視差の分布を有する立体画像は、視差のばらつきが大きく、図11の斜線で示される安全視差範囲に含まれる領域の面積の、正規分布曲線で囲まれる領域の面積に対する割合は、所定の割合未満である。したがって、このような視差の分布を有する立体画像は安全でないと判断される。
通常、立体画像の視差は、ある程度のばらつきを持つ。しかしながら、図11のように、視差のばらつきが大きい場合、視聴者に画像酔い等の悪影響を及ぼす可能性が高い。また、図11の例では、安全視差範囲外の視差は存在しないが、視差のばらつきが大きい場合、上述のように誤って対応付けられた特徴点の組が、偶然安全視差範囲内の視差を有する場合も考えられる。
したがって、安全性判断部103が、視差のばらつきが大きい立体画像を安全でない立体画像であると判断することは妥当である。
以上のように、安全性判断部103は、視差の正規分布曲線によって立体画像の安全性を判断するため、正確に立体画像の安全性を判断することができる。
なお、正規分布曲線と安全視差範囲とを比較して安全性を判断する方法は、上記に限定されない。例えば、立体画像の視差の平均をμ、標準偏差をσ、nを正の数(または自然数)とした場合、立体画像の視差の正規分布曲線と、正規分布曲線の軸と、μ±n×σの式で表される区間とで定められる領域が全て安全視差範囲に含まれる場合に、安全性判断部103は、当該立体画像を安全な画像と判断してもよい。
以上、本発明の立体画像出力装置について、実施の形態に基づいて説明したが、本発明は、複数の立体画像によって構成される立体映像についても適用できる。
具体的には、画像取得部102は、立体映像を構成する複数の左目用画像及び複数の右目用画像を、立体映像の再生順に取得する。立体画像出力装置は、立体映像に含まれる、上記複数の左目用画像及び右目用画像それぞれについて、実施の形態で説明した処理を行うことで、立体映像出力装置としても動作可能である。
立体映像出力装置として動作する立体画像出力装置において、通知部104は、安全性判断部103が安全でないと判断した立体画像が含まれる期間において、視聴者に立体映像が安全な映像でないことを通知する。
このとき、立体映像出力装置として動作する立体画像出力装置の通知部104は、一定期間、安全性判断部103が安全でないと判断した立体画像が続いた場合にはじめて立体映像が安全な映像でないことを通知してもよい。
また、立体映像出力装置として動作する立体画像出力装置の出力部は、安全性判断部103が安全でないと判断した立体画像が含まれる期間において、立体映像の出力を停止してもよい。
なお、本発明を上記実施の形態に基づいて説明してきたが、本発明は、上記の実施の形態に限定されないのはもちろんである。以下のような場合も本発明に含まれる。
(1)上記の各装置は、具体的には、マイクロプロセッサ、ROM、RAM、ハードディスクユニット、ディスプレイユニット、キーボード、マウスなどから構成されるコンピュータシステムで実現され得る。RAMまたはハードディスクユニットには、コンピュータプログラムが記憶されている。マイクロプロセッサが、コンピュータプログラムにしたがって動作することにより、各装置は、その機能を達成する。ここでコンピュータプログラムは、所定の機能を達成するために、コンピュータに対する指令を示す命令コードが複数個組み合わされて構成されたものである。
(2)上記の各装置を構成する構成要素の一部または全部は、1個のシステムLSI(Large Scale Integration:大規模集積回路)から構成されているとしてもよい。システムLSIは、複数の構成部を1個のチップ上に集積して製造された超多機能LSIであり、具体的には、マイクロプロセッサ、ROM、RAMなどを含んで構成されるコンピュータシステムである。ROMには、コンピュータプログラムが記憶されている。マイクロプロセッサが、ROMからRAMにコンピュータプログラムをロードし、ロードしたコンピュータプログラムにしたがって演算等の動作することにより、システムLSIは、その機能を達成する。
(3)上記の各装置を構成する構成要素の一部または全部は、各装置に脱着可能なICカードまたは単体のモジュールから構成されてもよい。ICカードまたはモジュールは、マイクロプロセッサ、ROM、RAMなどから構成されるコンピュータシステムである。ICカードまたはモジュールには、上記の超多機能LSIが含まれてもよい。マイクロプロセッサが、コンピュータプログラムにしたがって動作することにより、ICカードまたはモジュールは、その機能を達成する。このICカードまたはこのモジュールは、耐タンパ性を有してもよい。
(4)本発明は、上記に示す方法で実現されてもよい。また、これらの方法をコンピュータにより実現するコンピュータプログラムで実現してもよいし、コンピュータプログラムからなるデジタル信号で実現してもよい。
また、本発明は、コンピュータプログラムまたはデジタル信号をコンピュータ読み取り可能な記録媒体、例えば、フレキシブルディスク、ハードディスク、CD−ROM、MO、DVD、DVD−ROM、DVD−RAM、BD(Blu−ray Disc)、半導体メモリなどに記録したもので実現してもよい。また、これらの記録媒体に記録されているデジタル信号で実現してもよい。
また、本発明は、コンピュータプログラムまたはデジタル信号を、電気通信回線、無線または有線通信回線、インターネットを代表とするネットワーク、データ放送等を経由して伝送してもよい。
また、本発明は、マイクロプロセッサとメモリを備えたコンピュータシステムであって、メモリは、コンピュータプログラムを記憶しており、マイクロプロセッサは、コンピュータプログラムにしたがって動作してもよい。
また、プログラムまたはデジタル信号を記録媒体に記録して移送することにより、またはプログラムまたはデジタル信号をネットワーク等を経由して移送することにより、独立した他のコンピュータシステムにより実施するとしてもよい。
(5)上記実施の形態及び上記変形例をそれぞれ組み合わせるとしてもよい。
以上、本発明の一態様に係る立体画像出力装置及びの実施の形態及びその変形例について説明した。
実施の形態に係る立体画像出力装置は、立体画像及び立体映像を表示する場合に、立体画像及び立体映像の安全性を正確に判断し、ユーザへ通知することが可能である。
これにより、視差の大きい立体画像及び立体映像が表示される場合、安全でない旨が視聴者に通知される。したがって、視聴者の健康を害することを防止することができる。
また、上記の各実施の形態に係る立体画像出力装置は、例えば、図12の(a)に示されるDSCや、図12の(b)に示されるデジタルビデオカメラとして実現される。
また、例えば、上記の実施の形態に係る立体画像出力装置は、図13に示されるテレビ700として実現される。このとき表示部106の具体的な構成は特に限定されないが、例えば、立体表示が可能な液晶ディスプレイ、プラズマディスプレイ、又は有機ELディスプレイ等である。この場合、画像取得部102は、テレビ放送や、図13に示されるBlu−Rayプレーヤ710、及びセットトップボックス720から画像を取得する。
また、立体画像出力装置は、Blu−Rayプレーヤ710として実現されてもよい。この場合、画像取得部102は、挿入されたBlu−Rayディスクから画像を取得する。なお、画像の取得先はBlu−Rayディスクに限定されず、DVD、HDD(Hard Disc Drive)等のあらゆる記録媒体から取得することができる。
さらに、立体画像出力装置は、セットトップボックス720として実現されてもよい。この場合、画像取得部102は、画像をケーブルテレビ放送等から取得する。
なお、本発明は、立体画像出力方法としても実現可能である。
なお、本発明は、これらの実施の形態またはその変形例に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態またはその変形例に施したもの、あるいは異なる実施の形態またはその変形例における構成要素を組み合わせて構築される形態も、本発明の範囲内に含まれる。
本発明によれば、立体画像の視差の正規分布曲線を求めることで、立体画像及び立体映像の安全性を正確に判断することが可能である。したがって、本発明は、デジタルテレビやデジタルカメラ等に用いられる立体画像出力装置として有用である。
100 立体画像出力装置
101 立体画像生成部
102 画像取得部
103 安全性判断部
104 通知部
106 表示部
107 入力部
120 第1の画像
130 第2の画像
140a、140b、140c、140d、140e、140f 特徴点
140a´、140b´、140c´、140d´、140e´、140f´ 特徴点
140c´´、140d´´ 特徴点
150a、150b、150a´、150b´ 輝度ベクトル
160 左目用画像
170 右目用画像
700 テレビ
710 Blu−Rayプレーヤ
720 セットトップボックス
101 立体画像生成部
102 画像取得部
103 安全性判断部
104 通知部
106 表示部
107 入力部
120 第1の画像
130 第2の画像
140a、140b、140c、140d、140e、140f 特徴点
140a´、140b´、140c´、140d´、140e´、140f´ 特徴点
140c´´、140d´´ 特徴点
150a、150b、150a´、150b´ 輝度ベクトル
160 左目用画像
170 右目用画像
700 テレビ
710 Blu−Rayプレーヤ
720 セットトップボックス
本発明は立体画像出力装置及び立体画像出力方法に関し、特に視聴者への安全性を考慮した立体画像出力装置及び立体画像出力方法に関する。
従来、撮影した複数の画像の中から立体視の左目用画像及び右目用画像として用いる画像対を選択し、これらを用いて立体画像を表示する画像表示装置が知られている(例えば、特許文献1参照)。
このような画像表示装置は、複数の画像の類似度が所定の閾値以内である画像対をユーザへ提示し、提示された画像対の中からユーザが選択した画像対を左目用画像及び右目用画像として表示する。これにより、ユーザは選択した画像を立体画像として視聴することが可能である。
しかしながら、上記のような画像表示装置によって作成された立体画像には、左目用画像と右目用画像との視差が非常に大きい画像が含まれる。つまり、このような画像をユーザが視聴した場合、ユーザの健康を害してしまう可能性がある。
そこで本発明は、上記を鑑みて成されたものであって、立体画像を表示する場合に、立体画像の安全性を正確に判断し、ユーザへ通知することが可能な立体画像出力装置及び立体画像出力方法を提供することを目的とする。
上記の課題を解決するために、本発明の一態様に係る立体画像出力装置は、立体画像を構成する左目用画像及び右目用画像を取得する画像取得部と、前記画像取得部で取得された前記左目用画像及び前記右目用画像を出力する出力部と、前記左目用画像及び前記右目用画像の互いに対応する点ごとの視差から求められる正規分布曲線と、前記立体画像が視聴者にとって安全な画像であると認められる視差の範囲を示す安全視差範囲とを比較して、前記立体画像が安全な画像であるか否かを判断する安全性判断部と、前記安全性判断部が前記立体画像を安全な画像でないと判断した場合に、前記視聴者に前記立体画像が安全な画像でないことを通知する通知部とを備えることを特徴とする。
これにより、立体画像の安全性を正確に判断し、ユーザへ通知することで安全な立体画像を出力することができる。
また、前記安全性判断部は、前記立体画像に含まれる被写体の形状を特定するための複数の特徴点を前記左目用画像及び前記右目用画像それぞれから抽出し、前記左目用画像及び前記右目用画像の互いに対応する前記特徴点ごとの視差を算出し、算出した視差の度数の分布を近似して正規分布曲線を算出してもよい。
また、前記安全性判断部は、前記正規分布曲線で囲まれる領域の面積のうち、前記安全視差範囲に含まれる領域の面積の占める割合が所定の閾値以上である場合に、前記立体画像を安全な画像であると判断してもよい。
また、前記出力部は、前記左目用画像及び前記右目用画像を交互に表示する表示部であり、前記通知部は、前記安全性判断部が前記立体画像を安全な画像でないと判断した場合に、前記表示部に前記立体画像が安全な画像でない旨を表示してもよい。
また、前記表示部は、前記安全性判断部が前記立体画像を安全な画像であると判断した場合のみ、前記左目用画像及び前記右目用画像を交互に表示してもよい。
また、前記立体画像出力装置は、さらに、被写体を異なる位置から撮影した第1及び第2の画像を取得し、前記第1及び前記第2の画像の互いに対応する点同士の垂直方向の視差が最小となるように前記2の画像を回転または移動させることによって、第3の画像を生成する立体画像生成部を備え、前記画像取得部は、前記第1の画像及び前記第3の画像のうち一方の画像を前記左目用画像として取得し、他方の画像を前記右目用画像として取得してもよい。
また、前記画像取得部は、立体映像を構成する複数の前記左目用画像及び複数の前記右目用画像を、前記立体映像の再生順に取得してもよい。
また、前記安全視差範囲は、生体安全ガイドラインで定められた視差範囲であってもよい。
また、本発明の一態様に係る立体画像出力方法は、立体画像を構成する左目用画像及び右目用画像を取得する画像取得ステップと、前記画像取得部で取得された前記左目用画像及び前記右目用画像を交互に出力する出力ステップと、前記左目用画像及び前記右目用画像の互いに対応する点ごとの視差の正規分布曲線と、前記立体画像が前記視聴者にとって安全な画像であると認められる視差の範囲を示す安全視差範囲とを比較して、前記立体画像が安全な画像であるか否かを判断する安全性判断ステップと、前記安全性判断ステップにおいて前記立体画像を安全な画像でないと判断した場合に、前記視聴者に前記立体画像が安全な画像でないことを通知する通知ステップとを含むことを特徴とする。
本発明の立体画像出力装置及び立体画像出力方法によれば、視差の正規分布を用いて立体画像の安全性を正確に判断し、ユーザへ通知することで安全な立体画像の表示が可能となる。
以下、本発明の実施の形態について、図面を参照しながら説明する。
なお、以下で説明する実施の形態は、いずれも本発明の好ましい一具体例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、本発明の最上位概念を示す独立請求項に記載されていない構成要素については、より好ましい形態を構成する任意の構成要素として説明される。
まず、立体画像出力装置の構成について説明する。
図1は、本発明の実施の形態に係る立体画像出力装置の構成を示すブロック図である。
図1に示されるように、立体画像出力装置100は、立体画像生成部101と、画像取得部102と、安全性判断部103と、通知部104と、表示部106(出力部)と、入力部107とを備える。
なお、図示しないが、立体画像出力装置100には、放送信号を受信するための受信部、ネットワークに接続するための通信部、記録媒体に接続するための媒体接続部、及び音声信号を出力するための音声出力部等の構成要素を含めてもよい。しかしながら、これらは本発明には直接的に関係しないため、本実施の形態では説明を省略する。
立体画像生成部101は、立体画像を構成する左目用画像及び右目用画像を生成して画像取得部102に出力する。左目用画像とは、立体画像を構成する画像であって視聴者の左目に見せるため画像である。右目用画像とは、立体画像を構成する画像であって視聴者の右目に見せるための画像である。立体画像生成部101は、例えば、撮像素子(図示省略)によって画像を撮影し、立体画像(左目用画像及び右目用画像)を生成する。すなわち、立体画像出力装置100は、DSC(Disital Still Camera)等に適用することができる。
なお、立体画像生成部101は、放送波、または記録媒体から2次元画像を取得し、取得した2次元画像から立体画像を生成してもよい。
画像取得部102は、視聴者が被写体を立体視可能な立体画像を構成する左目用画像及び右目用画像を取得し、安全性判断部103及び表示部106(出力部)へ出力する。
具体的には、立体画像生成部101で生成された左目用画像及び右目用画像を取得する。
なお、立体画像生成部101を省略して画像取得部102が直接左目用画像及び右目用画像を取得してもよい。
この場合、画像取得部102は、放送波または通信ネットワークを通じて画像を取得してもよい。放送波の具体例は特に限定されない。例えば、画像取得部102は、アナログ放送、地上波デジタル放送、BS(Broadcast Satellite)放送、CS(Communication Satellite)放送から画像を取得する。
すなわち、立体画像出力装置100は、テレビジョン受像装置等に適用することができる。
また、画像取得部102は、記録媒体から画像を読み出してもよい。記録媒体の具体例は特に限定されない。例えば、画像取得部102は、DVD(Digital Versatile Disc)、BD(Blu−ray(登録商標) Disc)、SD(Secure Digital)カード等から画像を取得する。
すなわち、立体画像出力装置100は、Blu−Ray(登録商標)レコーダ等に適用することができる。
安全性判断部103は、画像取得部102が取得した立体画像が安全な画像であるか否かを判断する。具体的には、安全性判断部103は、左目用画像及び右目用画像の互いに対応する点ごとの視差の正規分布曲線と、安全視差範囲とを比較して、立体画像が安全な画像であるか否かを判断する。本実施の形態では、視差の正規分布曲線で囲まれる領域の面積と、安全視差範囲とに基づいて立体画像が安全な画像であるか否かを判断する。また、安全視差範囲は、本実施の形態では、生体安全ガイドラインで定められた視差範囲である。
上記の安全視差範囲は、電子情報技術産業協会において規定された生体安全ガイドラインを定量化したものである。具体的には、表示部106の解像度、インチ数、ユーザとの視聴距離等に応じて数値化された、生体安全であると認められる視差の範囲を示すものである。
通知部104は、安全性判断部103が立体画像を安全な画像でないと判断した場合に、視聴者に当該立体画像が安全な画像でないことを通知する。本実施の形態では、通知部104は、表示部106に立体画像が安全な画像でない旨のメッセージ(画像)を表示する。
図2は、このような立体画像が安全な画像でない旨のメッセージの表示例である。
図2に示されるように、本実施の形態では、通知部104は、立体画像が安全な画像でない旨とともに視聴者に立体画像の表示を許可するか否かの指示を求めるメッセージを表示部106に表示する。これにより、視聴者は、後述する入力部107から指示を入力することで立体画像を表示するか否かを選択することができる。
なお、通知部104の立体画像が安全な画像でない旨の通知は、これに限定されない。例えば、通知部104は、図示しないスピーカを通じて立体画像が安全な画像でない旨の音声を出力することによって、ユーザに通知してもよい。
表示部106は、左目用画像及び右目用画像を表示する。本実施の形態に係る表示部106は、一定周期で左目用画像と右目用画像とを交互に表示することによって、立体画像を表示するディスプレイである。表示部106は、例えば、液晶ディスプレイ、プラズマディスプレイ、または有機EL(Electro Luminescence)ディスプレイ等である。
本実施の形態では、視聴者は、立体画像視聴用の眼鏡をかけて上記ディスプレイを視聴する。立体画像視聴用の眼鏡は、表示部106の左目用画像及び右目用画像の表示タイミングに同期して左右それぞれのレンズの液晶シャッターが開閉するため、視聴者は立体画像を視聴することができる。この場合、表示部106は、表示タイミングに応じて左目用画像と右目用画像とを交互に出力すると共に、左目用画像及び右目用画像の出力タイミングに合わせた液晶シャッターの開閉指示を立体画像視聴用の眼鏡に出力する。
また、表示部106は、例えば、表示面にレンチキュラレンズを有する液晶ディスプレイなど、立体画像視聴用の眼鏡を必要としない立体表示が可能な表示装置であってもよい。
なお、表示部106は、必ずしも必須の構成要素ではない。表示部106に替えて立体画像を出力する出力部を設け、出力部が立体画像出力装置100とは別の装置である表示装置に立体画像を出力してもよい。
入力部107は、視聴者からの様々な指示(要求)の入力を受けつけるユーザインタフェースである。本実施の形態に係る入力部107は、リモコンである。なお、入力部107は、表示部106の表示画面に重ね合わされるタッチパネルへの操作を受けつけるGUI(Graphic User Interface)等であってもよい。
次に、立体画像出力装置100の全体の動作について説明する。
図3は、本発明の実施の形態に係る立体画像出力装置100の全体の動作を示すフローチャートである。
まず、立体画像生成部101は立体画像を生成する(S301)。本実施の形態に係る立体画像の生成方法の詳細については、後述する。
次に、画像取得部102は、立体画像生成部101が生成した左目用画像及び右目用画像を取得する(S302)。
次に、安全性判断部103は、画像取得部が取得した立体画像(左目用画像及び右目用画像)が視聴者にとって安全であるか否かを判断する(S303)。具体的には、まず、安全性判断部103は、左目用画像及び右目用画像のうち一方の画像内の複数の点と、複数の点にそれぞれ対応する他方の画像内の複数の点との視差を対応する点ごとに算出する。本実施の形態では、特に、安全性判断部103は、立体画像に含まれる被写体の形状を特定するための特徴点ごとに視差を算出する。
次に、安全性判断部103は、算出された複数の視差の分布を近似した正規分布曲線と、立体画像が視聴者にとって安全な画像であると認められる視差の範囲を示す安全視差範囲とを比較して、立体画像が安全な画像であるか否かを判断する。なお、安全性判断部103の安全性判断方法の詳細については後述する。
安全性判断部103が立体画像を安全な画像であると判断した場合(S303でYes)、表示部106は、左目用画像及び右目用画像を表示画面に交互に表示する(S304)。
安全性判断部103が立体画像を安全な画像でないと判断した場合(S303でNo)、まず、通知部104は、図2のような立体画像が安全でない旨のメッセージを表示し、視聴者に立体画像の表示を許可するか否かの指示を求める(S305)。
視聴者は、通知部104によって通知された安全でない画像の表示を、許可または禁止する指示を入力部107を通じて入力する。
視聴者が立体画像の表示を許可する場合、具体的には、図2のメッセージが表示されている状態において、視聴者がリモコンによって「はい」を選択した場合(S305でYes)、表示部106は、立体画像を表示する(S304)。
一方、視聴者が立体画像の表示を許可する場合、つまり、図2のメッセージに対し視聴者が「いいえ」を選択した場合(305でNo)、表示部106は、立体画像を表示することなく処理を終了する。
なお、通知部104は、視聴者に立体画像の表示を許可するか否かの指示を求めなくてもよい。このような場合、安全性判断部103が立体画像を安全な画像でないと判断したときは、表示部106は、立体画像を表示しない。つまり、表示部106は、安全性判断部103が立体画像を安全な画像であると判断した場合のみ、左目用画像及び右目用画像を交互に表示する。
次に、立体画像生成部101の立体画像の生成方法について詳細に説明する。
図4は、立体画像生成部101の立体画像の生成方法を説明するための図である。
図5は、立体画像生成部101の立体画像の生成のフローチャートである。図5は、図3のフローチャートのステップS301をさらに詳細に説明するフローチャートである。
まず、図4の(a)で示されるように、立体画像生成部101は、画像を取得する(図5のS501)。本実施の形態に係る立体画像生成部101は、一例として第1の画像120及び第2の画像130の2つの画像を取得する。第1の画像120及び第2の画像130は、水平方向に異なる視点から同一の被写体を撮影した画像であり、画像の水平方向における視差を有する。また、上記被写体を撮影した撮像素子の傾きなどにより、上記異なる視点には、垂直方向にも意図しないずれが存在する。つまり、第1の画像120及び第2の画像130は、画像の垂直方向における視差も有する。第1の画像120及び第2の画像130を用いて立体画像を生成する場合、画像の垂直方向の視差は不要である。したがって、以下のように、第1の画像120及び第2の画像130について、水平方向の視差は残したまま、垂直方向の視差を打ち消すような処理を行う。
まず、図4の(b)で示されるように、立体画像生成部101は、第1の画像120及び第2の画像130のそれぞれについて、被写体の輪郭であるエッジを検出する(図5のS502)。被写体のエッジの検出には、例えば、ラプラシアンフィルタが用いられる。ラプラシアンフィルタは、画像の各画素の輝度の変化量が極端に大きい部分を抽出するフィルタである。つまり、第1の画像120及び第2の画像130のうち、輝度変化の大きい部分がエッジとして検出される。なお、色相の変化が大きい部分をエッジとして検出してもよい。
次に、図4の(c)で示されるように、立体画像生成部101は、第1の画像120内の複数の特徴点と、第2の画像130内の複数の特徴点とを抽出する(図5のS503)。
具体的には、まず、立体画像生成部101は、第1の画像120及び第2の画像130内の被写体のエッジ上の特徴点を複数抽出する。図4の(c)で示される例では、立体画像生成部101は、第1の画像120について、特徴点140a及び140bを抽出し、第2の画像130について特徴点140a´及び140b´を抽出している。実際に抽出される特徴点の数は、特徴点抽出書処理の負荷と、生成される画像の精度とのバランスを考慮して決定される。
続いて、立体画像生成部101は、特徴点のそれぞれについて、輝度ベクトルを算出する。輝度ベクトルは、特徴点における画素の輝度と、当該特徴点の周辺の画素の輝度との輝度の変化から求められる、輝度変化の方向及び輝度変化の大きさを示すベクトルである。
図4の(c)で示される例では、立体画像生成部101は、第1の画像120において、特徴点140aにおける輝度ベクトル150aと、特徴点140bにおける輝度ベクトル150bとを算出する。同様に、立体画像生成部101は、第2の画像130において、特徴点140a´における輝度ベクトル150a´と、特徴点140b´における輝度ベクトル150b´とを算出する。
続いて、立体画像生成部101は、第1の画像120に含まれる特徴点と、第2の画像130に含まれる特徴点とを対応付ける。具体的には、第1の画像120に含まれる各特徴点の輝度ベクトルと、第2の画像130に含まれる各特徴点の輝度ベクトルとを比較し、第1の画像120及び第2の画像130に含まれる特徴点全体の輝度ベクトルの相関を求める。求めた特徴点全体の輝度ベクトルの相関に基づき、類似する輝度ベクトルを有する特徴点同士を対応づける。
図4の(c)で示される例では、輝度ベクトル150aと輝度ベクトル150a´とが近い相関関係にあるため、立体画像生成部101は、特徴点140aと特徴点140a´とを対応付ける。同様に、輝度ベクトル150bと輝度ベクトル150b´とが近い相関関係にあるため、立体画像生成部101は、特徴点140bと特徴点140b´とを対応付ける。
次に、図4の(d)で示されるように、立体画像生成部101は、第1の画像120及び第2の画像130の対応する特徴点の垂直方向における視差が最小となるように、第2の画像130を回転または移動させた第3の画像を生成する(図5のS504)。
第3の画像は、具体的には、図4の(d)で示されるように、特徴点の画像の垂直方向の位置が等しくなるように、第2の画像を補正(回転または、移動)することで生成される。これにより、水平方向の視差のみが残った第1の画像及び第3の画像を生成することができる。
最後に、立体画像生成部101は、第1の画像120及び第3の画像のうち一方の画像を左目用画像として画像取得部102に出力し、他方の画像を右目用画像として画像取得部102に出力する。第1の画像120及び第3の画像のどちらの画像を左目用画像とするかは、第1の画像120及び第3の画像の水平方向における視差の向きに基づいて決定される。
図4の(d)で示される例では、視聴者から見て被写体が表示部106の表示画面よりも手前側に飛び出すように表示されるとした場合、第1の画像120は第3の画像よりも右側の位置から見た画像である。したがって、立体画像生成部101は、第1の画像120を右目用画像として出力し、第3の画像を左目用画像として出力する。
また、反対に、視聴者から見て被写体が表示部106の表示画面よりも奥側へ奥行を持つように表示されるとした場合、立体画像生成部101は、第1の画像120を左目用画像として出力し、第3の画像を右目用画像として出力する。
なお、第2の画像130の補正を行った場合、第3の画像の周辺部に画像データの存在しない領域が発生することがある。このような場合、周辺部の画像データの存在しない領域を除外するために、第1の画像120及び第3の画像の周辺部をトリミングしてもよい。また、画像に含まれる色のヒューステリクス、第1の画像120の画像データなどを用いて、第3の画像の画像データの存在しない領域の画像データを補間してもよい。
なお、ステップS503で対応付けられた特徴点は、輝度ベクトルの相関に基づいて対応付けられるため、輝度ベクトルが偶然類似したことによって、本来対応しない特徴点同士が対応付けられる場合がある。このため、実際には、立体画像生成部101は、対応する特徴点同士が、画像の垂直方向において所定の画素数の範囲に位置するように補正を行う。これにより、立体画像生成部101は、画像の垂直方向の視差をできるだけ小さくする。
以上、立体画像生成部101の立体画像の生成方法について詳細に説明したが、立体画像の生成方法は上記の方法に限定されない。
例えば、取得した2つの画像から、それぞれの画像における被写体の奥行を表す奥行情報を求め、取得した画像と画像の水平方向において視差を持つ画像を生成してもよい。
また、立体画像生成部101が取得する画像が1つであっても、左目用画像及び右目用画像を生成することは、実現可能である。このような場合、例えば、立体画像生成部101は、画像に含まれる色のヒューリスティクスなどを用いて、取得した画像と画像の水平方向において視差を持つ画像を生成してもよい。
次に、安全性判断部103の立体画像の安全性判断方法について詳細に説明する。
図6は、安全性判断部103の安全性判断処理のフローチャートである。図6は、図3のフローチャートのステップS303をさらに詳細に説明するフローチャートである。
まず、画像取得部102が取得した左目用映像及び右目用映像の互いに対応する特徴点を抽出する(図6のS601)。本実施の形態では、立体画像生成部101が図4及び図5で説明した方法によって算出した対応する特徴点のデータを保持しておき、そのまま使用すればよい。
なお、立体画像出力装置100が立体画像生成部101を有しないような構成である場合、安全性判断部103は、図5のステップS502及びS503に対応する方法によって、左目用映像及び右目用映像の互いに対応する特徴点を抽出する。
次に、安全性判断部103は、対応する特徴点の組それぞれについて、視差を計算する(図6のS602)。本実施の形態では、対応する特徴点の組それぞれの視差は、表示画面上の画素数で表される。また、本実施の形態では、視差は符号を持つ量として表現される。具体的には、視聴者から見て被写体が表示画面よりも奥側へ奥行を持つように表示される場合、視差はマイナスの符号を持つ量として表現される。反対に、視聴者から見て被写体が表示画面よりも手前側に飛び出すように表示される場合、視差はプラスの符号を持つ量として計算される。
図7は、視差の符号を説明するための図である。
図7の(a)は、視聴者から見て被写体が表示部106の表示画面よりも奥側へ奥行を持つように表示される場合の上面図である。図7の(a)に示されるように、左目用画像の特徴点140eは、これに対応する右目用画像の特徴点140e´よりも画像の水平方向において左側に位置する。このような場合、安全性判断部103が算出する立体画像の視差はマイナスの符号を持つ視差である。
図7の(b)は、視聴者から見て被写体が表示部106の表示画面よりも手前側へ飛び出すように表示される場合の視差を説明するための上面図である。図7の(b)に示されるように、左目用画像の特徴点140fは、これに対応する右目用画像の特徴点140f´よりも画像の水平方向において右側に位置する。このような場合、安全性判断部103が算出する立体画像の視差はプラスの符号を持つ視差である。
なお、上記のように符号を持つ量として計算された視差は、実際の視差よりも大きい、または小さいものが含まれる可能性がある。これは、例えば、類似した形状の物体が複数存在する画像、または輝度が均一な領域が多い画像では、特徴点を当該特徴点における輝度ベクトルの相関関係(類似関係)によって対応付けるために、特徴点の対応付けを誤る可能性があるからである。
図8及び図9は、上記のように特徴点が誤って対応付けられる例を示す図である。
図8は、左目用画像160及び右目用画像170に同じ車両が2台並んで撮影された場合の例である。
図8では右目用画像170内の特徴点140cに対応する左目用画像160内の特徴点は、特徴点140c´である。これらは、それぞれの画像において右側に位置する車両の左側のエッジ上の点である。しかしながら、図8のような場合、右目用画像170内の右側に位置する車両の左側のエッジ上の点における輝度ベクトルと、左目用画像160内の左側に位置する車両の左側のエッジ上の点における輝度ベクトルとが類似する場合がある。つまり、右目用画像170内の特徴点140cに左目用画像160内の特徴点140c´´が誤って対応付けられてしまう可能性がある。
この場合、図8の例では、右目用画像170内の特徴点140cにおける正しい視差量は視差Aであるが、誤った視差A´が算出される。
また、図9は、左目用画像160及び右目用画像170に輝度が均一である領域が多い場合の例である。図9の左目用画像160及び右目用画像170に示される矢印形状の輝度(色)は均一であり、また、矢印形状の周辺の輝度も均一である。したがって、矢印形状のエッジ上の点における輝度ベクトルは、類似するものが多い。このため、誤って対応付けられる特徴点が発生しやすい。
例えば、図9の左目用画像160内の特徴点140dに対応する右目用画像170内の特徴点は、特徴点140d´である。しかしながら、特徴点140dには、左目用画像160内において特徴点140d´に輝度ベクトルが類似する特徴点が140d´´が誤って対応付けられてしまう可能性がある。
この場合、図9の例では、左目用画像160内の特徴点140dにおける正しい視差は視差Bであるが、誤った視差B´が算出される。
なお、図8及び図9は、誤って視差が大きく計算されてしまう例であるが、誤って視差が小さく計算されてしまう場合ももちろんある。
以上のように、輝度ベクトルを用いて特徴点を対応付ける場合には、誤った視差が計算される場合が散見され、これを完全に防ぐことは非常に難しい。
したがって、単純に安全視差範囲を超えた視差を持つ特徴点の組の数が所定の閾値以上ある立体画像を安全でないとする手法では、実際には安全な立体画像であるにもかかわらず、誤って対応付けられた特徴点の視差によって安全でない立体画像であると判断されてしまう。
そこで、本発明は、安全視差範囲を外れる視差の個数ではなく、視差の正規分布曲線と安全視差範囲とを比較することで、立体画像の安全性を正確に判断する。
まず、安全性判断部103は、対応する特徴点の組ごとに計算した視差の平均と、分散とを求めることで、確率密度関数で表される視差の正規分布曲線を生成する(図6のS603)。視差xの確率密度関数は、視差の平均をμ、標準偏差をσとした場合、次式から求められる。
次に、生成した正規分布曲線と安全視差範囲とを比較し、立体画像が安全な画像であるか否かを判断する(図6のS604)。
まず、安全視差範囲について説明する。本実施の形態では、安全視差範囲は、生体安全ガイドラインで定められた視差の上限値と下限値で定められ、画素数で表される。
生体安全ガイドラインで定められた視差範囲について、再度、図7を用いて説明する。
図7の(a)のように視聴者から見て被写体が表示画面よりも奥側へ奥行を持つように表示される場合、生体安全ガイドラインで定められた安全視差範囲の限度は、立体画像が表示される表示画面上で5cm以内と定められている。また、この場合の視差は、上述のようにマイナスの符号を持つ量である。
したがって、安全視差範囲の下限値は、表示画面上の5cmに相当する視差Cを画素数で表し、マイナスの符号を付した量である。安全視差範囲の下限値は、具体的には、表示画面の大きさ、表示画面の解像度に基づいて求められる。
一方、図7の(b)のように視聴者から見て被写体が表示画面よりも手前に飛び出すように表示される場合、生体安全ガイドラインで定められた安全視差範囲の限度は、図7の(b)で示される角度θで表される輻輳角によって定められる。具体的には、輻輳角が1度以内となる表示画面上の視差が、安全な視差の限度である。また、この場合の視差は、上述のようにプラスの符号を持つ量である。
したがって、本実施の形態において、安全視差範囲の上限値は、輻輳角1度以内に相当する表示画面上の視差Dを画素数で表し、プラスの符号を付したものである。安全視差範囲の上限値は、具体的には、表示画面の大きさ、表示画面の解像度、及び想定される視聴者の視聴位置に基づいて求められる。
なお、安全視差範囲は生体安全ガイドラインで定められたものに限定されない。例えば、生体安全ガイドラインで定められた視差範囲よりも範囲の狭い視差範囲を設定してもよい。
図10及び図11は、安全性判断部103の安全性判断を説明するための図である。
図10及び図11では、視差から求められる正規分布曲線と、視差の実際の分布を示すヒストグラムと、生体安全ガイドラインで定められた安全視差範囲とが示されている。図10及び図11の横軸は視差(画素数)を表し、縦軸(度数)は、特徴点の個数を表す。安全視差範囲の左端は、上述した下限値を表し、安全視差範囲の右端は、上限値を表す。
図10は、安全性判断部103が安全だと判断する視差の分布例を示す図である。
本実施の形態では、安全性判断部103は、正規分布曲線で囲まれる領域の面積のうち安全視差範囲に含まれる領域の面積の占める割合が所定の閾値以上(例えば、90%以上)である場合、立体画像を安全な画像であると判断する。
正規分布曲線で囲まれる領域のうち安全視差範囲に含まれる領域とは、図10の斜線で示される領域である。この領域の面積が、正規分布曲線で囲まれる領域の面積に対し所定の割合以上を占める場合、安全性判断部103は、立体画像を安全な画像であると判断する。
図10では、ヒストグラムと安全視差範囲とを比較した場合、安全視差範囲外の視差を持つ特徴点の組は存在するが、正規分布曲線で囲まれる領域の面積のうち、安全視差範囲に含まれる領域の面積は所定の割合以上である。したがって、このような視差の分布を有する立体画像は安全であると判断される。
一方、図11は、安全性判断部103が安全でないと判断する視差の分布例を示す図である。
図10では、ヒストグラムと安全視差範囲とを比較した場合、安全視差範囲外の視差を持つ特徴点の組は存在しない。しかしながら、図11のような視差の分布を有する立体画像は、視差のばらつきが大きく、図11の斜線で示される安全視差範囲に含まれる領域の面積の、正規分布曲線で囲まれる領域の面積に対する割合は、所定の割合未満である。したがって、このような視差の分布を有する立体画像は安全でないと判断される。
通常、立体画像の視差は、ある程度のばらつきを持つ。しかしながら、図11のように、視差のばらつきが大きい場合、視聴者に画像酔い等の悪影響を及ぼす可能性が高い。また、図11の例では、安全視差範囲外の視差は存在しないが、視差のばらつきが大きい場合、上述のように誤って対応付けられた特徴点の組が、偶然安全視差範囲内の視差を有する場合も考えられる。
したがって、安全性判断部103が、視差のばらつきが大きい立体画像を安全でない立体画像であると判断することは妥当である。
以上のように、安全性判断部103は、視差の正規分布曲線によって立体画像の安全性を判断するため、正確に立体画像の安全性を判断することができる。
なお、正規分布曲線と安全視差範囲とを比較して安全性を判断する方法は、上記に限定されない。例えば、立体画像の視差の平均をμ、標準偏差をσ、nを正の数(または自然数)とした場合、立体画像の視差の正規分布曲線と、正規分布曲線の軸と、μ±n×σの式で表される区間とで定められる領域が全て安全視差範囲に含まれる場合に、安全性判断部103は、当該立体画像を安全な画像と判断してもよい。
以上、本発明の立体画像出力装置について、実施の形態に基づいて説明したが、本発明は、複数の立体画像によって構成される立体映像についても適用できる。
具体的には、画像取得部102は、立体映像を構成する複数の左目用画像及び複数の右目用画像を、立体映像の再生順に取得する。立体画像出力装置は、立体映像に含まれる、上記複数の左目用画像及び右目用画像それぞれについて、実施の形態で説明した処理を行うことで、立体映像出力装置としても動作可能である。
立体映像出力装置として動作する立体画像出力装置において、通知部104は、安全性判断部103が安全でないと判断した立体画像が含まれる期間において、視聴者に立体映像が安全な映像でないことを通知する。
このとき、立体映像出力装置として動作する立体画像出力装置の通知部104は、一定期間、安全性判断部103が安全でないと判断した立体画像が続いた場合にはじめて立体映像が安全な映像でないことを通知してもよい。
また、立体映像出力装置として動作する立体画像出力装置の出力部は、安全性判断部103が安全でないと判断した立体画像が含まれる期間において、立体映像の出力を停止してもよい。
なお、本発明を上記実施の形態に基づいて説明してきたが、本発明は、上記の実施の形態に限定されないのはもちろんである。以下のような場合も本発明に含まれる。
(1)上記の各装置は、具体的には、マイクロプロセッサ、ROM、RAM、ハードディスクユニット、ディスプレイユニット、キーボード、マウスなどから構成されるコンピュータシステムで実現され得る。RAMまたはハードディスクユニットには、コンピュータプログラムが記憶されている。マイクロプロセッサが、コンピュータプログラムにしたがって動作することにより、各装置は、その機能を達成する。ここでコンピュータプログラムは、所定の機能を達成するために、コンピュータに対する指令を示す命令コードが複数個組み合わされて構成されたものである。
(2)上記の各装置を構成する構成要素の一部または全部は、1個のシステムLSI(Large Scale Integration:大規模集積回路)から構成されているとしてもよい。システムLSIは、複数の構成部を1個のチップ上に集積して製造された超多機能LSIであり、具体的には、マイクロプロセッサ、ROM、RAMなどを含んで構成されるコンピュータシステムである。ROMには、コンピュータプログラムが記憶されている。マイクロプロセッサが、ROMからRAMにコンピュータプログラムをロードし、ロードしたコンピュータプログラムにしたがって演算等の動作することにより、システムLSIは、その機能を達成する。
(3)上記の各装置を構成する構成要素の一部または全部は、各装置に脱着可能なICカードまたは単体のモジュールから構成されてもよい。ICカードまたはモジュールは、マイクロプロセッサ、ROM、RAMなどから構成されるコンピュータシステムである。ICカードまたはモジュールには、上記の超多機能LSIが含まれてもよい。マイクロプロセッサが、コンピュータプログラムにしたがって動作することにより、ICカードまたはモジュールは、その機能を達成する。このICカードまたはこのモジュールは、耐タンパ性を有してもよい。
(4)本発明は、上記に示す方法で実現されてもよい。また、これらの方法をコンピュータにより実現するコンピュータプログラムで実現してもよいし、コンピュータプログラムからなるデジタル信号で実現してもよい。
また、本発明は、コンピュータプログラムまたはデジタル信号をコンピュータ読み取り可能な記録媒体、例えば、フレキシブルディスク、ハードディスク、CD−ROM、MO、DVD、DVD−ROM、DVD−RAM、BD(Blu−ray(登録商標) Disc)、半導体メモリなどに記録したもので実現してもよい。また、これらの記録媒体に記録されているデジタル信号で実現してもよい。
また、本発明は、コンピュータプログラムまたはデジタル信号を、電気通信回線、無線または有線通信回線、インターネットを代表とするネットワーク、データ放送等を経由して伝送してもよい。
また、本発明は、マイクロプロセッサとメモリを備えたコンピュータシステムであって、メモリは、コンピュータプログラムを記憶しており、マイクロプロセッサは、コンピュータプログラムにしたがって動作してもよい。
また、プログラムまたはデジタル信号を記録媒体に記録して移送することにより、またはプログラムまたはデジタル信号をネットワーク等を経由して移送することにより、独立した他のコンピュータシステムにより実施するとしてもよい。
(5)上記実施の形態及び上記変形例をそれぞれ組み合わせるとしてもよい。
以上、本発明の一態様に係る立体画像出力装置及びの実施の形態及びその変形例について説明した。
実施の形態に係る立体画像出力装置は、立体画像及び立体映像を表示する場合に、立体画像及び立体映像の安全性を正確に判断し、ユーザへ通知することが可能である。
これにより、視差の大きい立体画像及び立体映像が表示される場合、安全でない旨が視聴者に通知される。したがって、視聴者の健康を害することを防止することができる。
また、上記の各実施の形態に係る立体画像出力装置は、例えば、図12の(a)に示されるDSCや、図12の(b)に示されるデジタルビデオカメラとして実現される。
また、例えば、上記の実施の形態に係る立体画像出力装置は、図13に示されるテレビ700として実現される。このとき表示部106の具体的な構成は特に限定されないが、例えば、立体表示が可能な液晶ディスプレイ、プラズマディスプレイ、又は有機ELディスプレイ等である。この場合、画像取得部102は、テレビ放送や、図13に示されるBlu−Ray(登録商標)プレーヤ710、及びセットトップボックス720から画像を取得する。
また、立体画像出力装置は、Blu−Ray(登録商標)プレーヤ710として実現されてもよい。この場合、画像取得部102は、挿入されたBlu−Ray(登録商標)ディスクから画像を取得する。なお、画像の取得先はBlu−Ray(登録商標)ディスクに限定されず、DVD、HDD(Hard Disc Drive)等のあらゆる記録媒体から取得することができる。
さらに、立体画像出力装置は、セットトップボックス720として実現されてもよい。この場合、画像取得部102は、画像をケーブルテレビ放送等から取得する。
なお、本発明は、立体画像出力方法としても実現可能である。
なお、本発明は、これらの実施の形態またはその変形例に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態またはその変形例に施したもの、あるいは異なる実施の形態またはその変形例における構成要素を組み合わせて構築される形態も、本発明の範囲内に含まれる。
本発明によれば、立体画像の視差の正規分布曲線を求めることで、立体画像及び立体映像の安全性を正確に判断することが可能である。したがって、本発明は、デジタルテレビやデジタルカメラ等に用いられる立体画像出力装置として有用である。
100 立体画像出力装置
101 立体画像生成部
102 画像取得部
103 安全性判断部
104 通知部
106 表示部
107 入力部
120 第1の画像
130 第2の画像
140a、140b、140c、140d、140e、140f 特徴点
140a´、140b´、140c´、140d´、140e´、140f´ 特徴点
140c´´、140d´´ 特徴点
150a、150b、150a´、150b´ 輝度ベクトル
160 左目用画像
170 右目用画像
700 テレビ
710 Blu−Ray(登録商標)プレーヤ
720 セットトップボックス
101 立体画像生成部
102 画像取得部
103 安全性判断部
104 通知部
106 表示部
107 入力部
120 第1の画像
130 第2の画像
140a、140b、140c、140d、140e、140f 特徴点
140a´、140b´、140c´、140d´、140e´、140f´ 特徴点
140c´´、140d´´ 特徴点
150a、150b、150a´、150b´ 輝度ベクトル
160 左目用画像
170 右目用画像
700 テレビ
710 Blu−Ray(登録商標)プレーヤ
720 セットトップボックス
Claims (9)
- 立体画像を構成する左目用画像及び右目用画像を取得する画像取得部と、
前記画像取得部で取得された前記左目用画像及び前記右目用画像を出力する出力部と、
前記左目用画像及び前記右目用画像の互いに対応する点ごとの視差から求められる正規分布曲線と、前記立体画像が視聴者にとって安全な画像であると認められる視差の範囲を示す安全視差範囲とを比較して、前記立体画像が安全な画像であるか否かを判断する安全性判断部と、
前記安全性判断部が前記立体画像を安全な画像でないと判断した場合に、前記視聴者に前記立体画像が安全な画像でないことを通知する通知部とを備える
立体画像出力装置。 - 前記安全性判断部は、前記立体画像に含まれる被写体の形状を特定するための複数の特徴点を前記左目用画像及び前記右目用画像それぞれから抽出し、前記左目用画像及び前記右目用画像の互いに対応する前記特徴点ごとの視差を算出し、算出した視差の度数の分布を近似して正規分布曲線を算出する
請求項1に記載の立体画像出力装置。 - 前記安全性判断部は、前記正規分布曲線で囲まれる領域の面積のうち、前記安全視差範囲に含まれる領域の面積の占める割合が所定の閾値以上である場合に、前記立体画像を安全な画像であると判断する
請求項1または請求項2に記載の立体画像出力装置。 - 前記出力部は、前記左目用画像及び前記右目用画像を交互に表示する表示部であり、
前記通知部は、前記安全性判断部が前記立体画像を安全な画像でないと判断した場合に、前記表示部に前記立体画像が安全な画像でない旨を表示する
請求項1〜3のいずれか1項に記載の立体画像出力装置。 - 前記表示部は、前記安全性判断部が前記立体画像を安全な画像であると判断した場合のみ、前記左目用画像及び前記右目用画像を交互に表示する
請求項4に記載の立体画像出力装置。 - 前記立体画像出力装置は、さらに、被写体を異なる位置から撮影した第1及び第2の画像を取得し、前記第1及び前記第2の画像の互いに対応する点同士の垂直方向の視差が最小となるように前記2の画像を回転または移動させることによって、第3の画像を生成する立体画像生成部を備え、
前記画像取得部は、前記第1の画像及び前記第3の画像のうち一方の画像を前記左目用画像として取得し、他方の画像を前記右目用画像として取得する
請求項1〜5のいずれか1項に記載の立体画像出力装置。 - 前記画像取得部は、立体映像を構成する複数の前記左目用画像及び複数の前記右目用画像を、前記立体映像の再生順に取得する
請求項1〜6のいずれか1項に記載の立体画像出力装置。 - 前記安全視差範囲は、生体安全ガイドラインで定められた視差範囲である
請求項1〜7のいずれか1項に記載の立体画像出力装置。 - 立体画像を構成する左目用画像及び右目用画像を取得する画像取得ステップと、
前記画像取得部で取得された前記左目用画像及び前記右目用画像を交互に出力する出力ステップと、
前記左目用画像及び前記右目用画像の互いに対応する点ごとの視差の正規分布曲線と、前記立体画像が前記視聴者にとって安全な画像であると認められる視差の範囲を示す安全視差範囲とを比較して、前記立体画像が安全な画像であるか否かを判断する安全性判断ステップと、
前記安全性判断ステップにおいて前記立体画像を安全な画像でないと判断した場合に、前記視聴者に前記立体画像が安全な画像でないことを通知する通知ステップとを含む
立体画像出力方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011052683 | 2011-03-10 | ||
JP2011052683 | 2011-03-10 | ||
PCT/JP2012/001557 WO2012120880A1 (ja) | 2011-03-10 | 2012-03-07 | 立体画像出力装置及び立体画像出力方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JPWO2012120880A1 true JPWO2012120880A1 (ja) | 2014-07-17 |
Family
ID=46797851
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013503393A Withdrawn JPWO2012120880A1 (ja) | 2011-03-10 | 2012-03-07 | 立体画像出力装置及び立体画像出力方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20140002601A1 (ja) |
JP (1) | JPWO2012120880A1 (ja) |
WO (1) | WO2012120880A1 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017212927A1 (ja) * | 2016-06-08 | 2017-12-14 | ソニー株式会社 | 撮像制御装置および方法、並びに車両 |
US10338999B2 (en) * | 2016-09-02 | 2019-07-02 | International Business Machines Corporation | Confirming memory marks indicating an error in computer memory |
US10353669B2 (en) * | 2016-09-02 | 2019-07-16 | International Business Machines Corporation | Managing entries in a mark table of computer memory errors |
US11463677B2 (en) * | 2017-07-13 | 2022-10-04 | Samsung Electronics Co., Ltd. | Image signal processor, image processing system and method of binning pixels in an image sensor |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0787598B2 (ja) * | 1991-06-06 | 1995-09-20 | 株式会社エイ・ティ・アール視聴覚機構研究所 | 視差補正装置 |
JP2802034B2 (ja) * | 1994-02-23 | 1998-09-21 | 松下電工株式会社 | 三次元物体の計測方法 |
JP4259913B2 (ja) * | 2003-05-08 | 2009-04-30 | シャープ株式会社 | 立体画像処理装置、立体画像処理プログラムおよびそのプログラムを記録した記録媒体 |
-
2012
- 2012-03-07 WO PCT/JP2012/001557 patent/WO2012120880A1/ja active Application Filing
- 2012-03-07 US US14/002,973 patent/US20140002601A1/en not_active Abandoned
- 2012-03-07 JP JP2013503393A patent/JPWO2012120880A1/ja not_active Withdrawn
Also Published As
Publication number | Publication date |
---|---|
US20140002601A1 (en) | 2014-01-02 |
WO2012120880A1 (ja) | 2012-09-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP2549762B1 (en) | Stereovision-image position matching apparatus, stereovision-image position matching method, and program therefor | |
US9398289B2 (en) | Method and apparatus for converting an overlay area into a 3D image | |
US9710955B2 (en) | Image processing device, image processing method, and program for correcting depth image based on positional information | |
US8866881B2 (en) | Stereoscopic image playback device, stereoscopic image playback system, and stereoscopic image playback method | |
US9779539B2 (en) | Image processing apparatus and image processing method | |
US9118903B2 (en) | Device and method for 2D to 3D conversion | |
JP5257248B2 (ja) | 画像処理装置および方法、ならびに画像表示装置 | |
EP2717247A2 (en) | Image processing apparatus and method for performing image rendering based on orientation of display | |
JPWO2011125461A1 (ja) | 画像生成装置及び方法並びにプリンタ | |
US9495795B2 (en) | Image recording device, three-dimensional image reproducing device, image recording method, and three-dimensional image reproducing method | |
WO2012120880A1 (ja) | 立体画像出力装置及び立体画像出力方法 | |
US20130083169A1 (en) | Image capturing apparatus, image processing apparatus, image processing method and program | |
JP2013090272A (ja) | 映像処理装置、映像処理方法および映像表示装置 | |
CN103458258A (zh) | 影像处理方法与影像处理装置 | |
US20130169627A1 (en) | Display apparatus and method for providing three dimensional (3d) image | |
JP5765418B2 (ja) | 立体視画像生成装置、立体視画像生成方法、立体視画像生成プログラム | |
JP4892105B1 (ja) | 映像処理装置、映像処理方法および映像表示装置 | |
KR101080988B1 (ko) | 최적시차 3d 영상물 제작방법, 그리고, 기록매체 | |
WO2012014489A1 (ja) | 映像信号処理装置及び映像信号処理方法 | |
JP5281720B1 (ja) | 立体映像処理装置及び立体映像処理方法 | |
US20230325969A1 (en) | Image processing apparatus, image processing method, and non-transitory computer readable medium | |
TWI825892B (zh) | 立體格式影像偵測方法與使用該方法的電子裝置 | |
JP6131256B6 (ja) | 映像処理装置及びその映像処理方法 | |
JP6131256B2 (ja) | 映像処理装置及びその映像処理方法 | |
JP5395884B2 (ja) | 映像処理装置、映像処理方法および映像表示装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140904 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20141008 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20151116 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20151207 |