JPWO2012002020A1 - 再生装置、複眼撮像装置、再生方法及びプログラム - Google Patents

再生装置、複眼撮像装置、再生方法及びプログラム Download PDF

Info

Publication number
JPWO2012002020A1
JPWO2012002020A1 JP2012522491A JP2012522491A JPWO2012002020A1 JP WO2012002020 A1 JPWO2012002020 A1 JP WO2012002020A1 JP 2012522491 A JP2012522491 A JP 2012522491A JP 2012522491 A JP2012522491 A JP 2012522491A JP WO2012002020 A1 JPWO2012002020 A1 JP WO2012002020A1
Authority
JP
Japan
Prior art keywords
parallax
amount
adjustment
unit
parallax adjustment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012522491A
Other languages
English (en)
Other versions
JP5420076B2 (ja
Inventor
光司 森
光司 森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2012522491A priority Critical patent/JP5420076B2/ja
Publication of JPWO2012002020A1 publication Critical patent/JPWO2012002020A1/ja
Application granted granted Critical
Publication of JP5420076B2 publication Critical patent/JP5420076B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/327Calibration thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/122Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00Stereoscopic photography
    • G03B35/16Stereoscopic photography by sequential viewing
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00Stereoscopic photography
    • G03B35/18Stereoscopic photography by simultaneous viewing
    • G03B35/24Stereoscopic photography by simultaneous viewing using apertured or refractive resolving means on screens or between screen and eye
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/232Image signal generators using stereoscopic image cameras using a single 2D image sensor using fly-eye lenses, e.g. arrangements of circular lenses

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

【課題】複数の視点画像から求められる視差量自体に問題がある場合又は視差調整対象を検出できなくなってしまうような場合でも、適切に視差調整を行う。【解決手段】複数の視点画像に基づいて視差量を取得する3次元処理部28と、取得された視差量の一定期間の変動が所定値より大きい場合、視差量が所定許容限界値に達した場合、及び視差量の取得対象を検出できなくなった場合の少なくとも1つの場合に、視差量に異常があると判定し、これらのいずれでもない場合に、視差量に異常がないと判定し、視差量に異常がないと判定された場合に第1の視差調整を行い、視差量に異常があると判定された場合に前記第1の視差調整の制御と異なる第2の視差調整の制御に切り替えて視差調整を行うCPU32と、視差調整が行われた複数の視点画像に基づく立体視画像を表示するモニタ12Aと、を備える。

Description

本発明は、再生装置、複眼撮像装置、再生方法及びプログラムに関する。
従来、複数の撮像部を備え、立体視画像を生成する複眼撮像装置が提案されている。複眼撮像装置は、複数の撮像部でそれぞれ生成された複数の視点画像に基づいて立体視画像を生成し、この立体視画像を立体視表示用モニタに表示する。
複眼撮像装置で撮像された立体視画像の立体感はユーザの両眼の距離や立体視表示用モニタからユーザまでの距離に左右されるので、複眼撮像装置の立体視機能については個人差が大きいという問題がある。そのため、複眼撮像装置では、ユーザの操作に従って複数の視点画像の視差が調整可能になっており、これにより立体視画像の立体感が調整される。
そこで、特開2005−73012号公報(以下、特許文献1という)には、立体視画像を表示させるディスプレイの種類にかかわらず、最初に視差量調整を行ったユーザの意図に合った視差量調整を行う技術が開示されている。
特許文献1の技術では、視差量の変更要求に基づき視差量の調整に関する情報が作成され、これをディスプレイの種類に依存しない単位の情報に変換して記録される。そして、記録された情報が読み出されると、この情報に基づいて視差量の調整に関する情報が作成され、この情報に基づいて立体表示用の画像が生成される。
また、特開2004−221700号公報(以下、特許文献2という)には、立体視画像を表示している間にユーザの意図にあった視差を特定する技術が開示されている。
特許文献2の技術では、表示装置に表示された立体視画像の限界視差がユーザの指示に従って特定され、立体視画像を表示する前に適正視差が実現されるように画像処理が行われる。
しかし、最初の段階に問題がある場合、例えば、撮像部で得られた複数の視点画像から求められる視差量自体に問題がある場合、視差調整対象を検出できなくなってしまうような場合では、特許文献1及び2の技術を用いても、適切に視差調整を行うことができないという問題がある。
本発明は、このような実情を鑑みて提案されたものであり、複数の視点画像から求められる視差量自体に問題がある場合又は視差調整対象を検出できなくなってしまうような場合でも、適切に視差調整を行うことができる再生装置、複眼撮像装置、再生方法及びプログラムを提供することを目的とする。
本発明の第1の態様に係る再生装置は、複数の視点から同一の被写体が連続フレームで撮像された複数視点の連続フレーム画像を入力する入力部と、前記入力部によって入力された連続フレーム画像を構成するフレーム画像に基づいて視差量を取得する視差量取得部と、前記視差量取得部により取得された視差量の一定期間の変動が所定値より大きい場合、前記視差量が予め定められた許容限界値に達した場合、及び前記視差量の取得対象を検出できなくなった場合の少なくとも1つの場合に、前記視差量に異常があると判定する異常判定部と、前記異常判定部により前記視差量に異常がないと判定された場合に、第1の視差調整を行い、前記異常判定部により前記視差量に異常があると判定された場合に、前記第1の視差調整の制御と異なる第2の視差調整の制御に切り替えて視差調整を行う視差調整部と、前記視差調整部によって前記視差調整が行われた前記連続フレーム画像を出力する出力部と、を備えている。
本発明の第2の態様は、本発明の第1の態様において、前記視差調整部は、前記異常判定部により前記視差量に異常があると判定された場合、予め定められた視差量最大変化量の範囲内で視差調整を行う。
本発明の第3の態様は、本発明の第1の態様又は第2の態様において、前記視差調整部は、前記異常判定部により前記視差量に異常があると判定された場合、前フレームでの視差量を用いて視差調整を行う。
本発明の第4の態様は、本発明の第1の態様から第3の態様のいずれか1つにおいて、前記視差調整部は、前記異常判定部により前記視差量に異常があると判定された場合、視差調整頻度を低下させる。
本発明の第5の態様は、本発明の第1の態様から第4の態様のいずれか1つにおいて、前記視差量取得部が、前記フレーム画像内において視差量の取得対象の被写体像として予め定められた被写体像に基づいて視差量を取得するものである。
本発明の第6の態様は、本発明の第5の態様において、前記予め定められた被写体像を、前記フレーム画像内の所定値の空間周波数で規定される閉曲線領域に基づく被写体像としたものである。
本発明の第7の態様は、複数の視点から同一の被写体が連続フレームで撮像された複数視点の連続フレーム画像を入力する入力部と、前記入力部によって入力された連続フレーム画像を構成するフレーム画像に基づいて所定オブジェクトの視差量を取得する視差量取得部と、前記視差量取得部により取得された視差量の一定期間の変動が所定値より大きい場合、前記視差量が予め定められた許容限界値に達した場合、及び前記視差量の取得対象を検出できなくなった場合の少なくとも1つの場合に、前記視差量に異常があると判定する異常判定部と、前記異常判定部により前記視差量に異常がないと判定された場合に、前記所定オブジェクトの視差調整を行い、前記異常判定部により前記視差量に異常があると判定された場合に、前記所定オブジェクトと異なる他のオブジェクトを対象として視差調整を行う視差調整部と、前記異常判定部により前記視差量に異常がないと判定された場合に、前記視差調整部によって視差調整が行われた前記所定オブジェクトを含む前記フレーム画像を出力し、前記異常判定部により前記視差量に異常があると判定された場合に、前記視差調整部によって視差調整が行われた前記他のオブジェクトを含む前記フレーム画像を出力する出力部と、を備えている。
本発明の第8の態様は、本発明の第7の態様において、前記視差調整部は、前記フレーム画像の画像面に垂直な方向において前記所定オブジェクトと最も距離が近いオブジェクトを前記他のオブジェクトとする。
本発明の第9の態様は、本発明の第7の態様において、前記視差調整部は、前記フレーム画像の画像面上において前記所定オブジェクトと最も距離が近いオブジェクトを前記他のオブジェクトとする。
本発明の第10の態様は、本発明の第7の態様から第9の態様のいずれか1つにおいて、前記所定オブジェクト及び前記他のオブジェクトの少なくとも一方を、前記フレーム画像内の所定値の空間周波数で規定される閉曲線領域に基づく被写体像としたものである。
本発明の第11の態様は、本発明の第1の態様から第10の態様のいずれか1つにおいて、前記出力部により出力された前記フレーム画像を、立体視画像として視認されるように表示する表示部を更に含むものとした。
本発明の第12の態様は、本発明の第1の態様から第11の態様のいずれか1つの再生装置と、前記連続フレーム画像を、複数の視点から同一の被写体を連続フレームで撮像することにより生成する撮像部と、を備えている。
本発明の第13の態様は、複数の視点から同一の被写体が連続フレームで撮像された複数視点の連続フレーム画像を入力し、入力された連続フレーム画像を構成するフレーム画像に基づいて視差量を取得し、前記取得した前記視差量の一定期間の変動が所定値より大きい場合、前記視差量が予め定められた許容限界値に達した場合、及び前記視差量の取得対象を検出できなくなった場合の少なくとも1つの場合に、前記視差量に異常があると判定し、前記視差量に異常がないと判定した場合に、第1の視差調整を行い、前記視差量に異常があると判定した場合に、前記第1の視差調整の制御と異なる第2の視差調整の制御に切り替えて視差調整を行い、前記視差調整が行われた前記連続フレーム画像を出力する。
本発明の第14の態様は、複数の視点から同一の被写体が連続フレームで撮像された複数視点の連続フレーム画像を入力し、入力された連続フレーム画像を構成するフレーム画像に基づいて所定オブジェクトの視差量を取得し、前記取得した前記視差量の一定期間の変動が所定値より大きい場合、前記視差量が予め定められた許容限界値に達した場合、及び前記視差量の取得対象を検出できなくなった場合の少なくとも1つの場合に、前記視差量に異常があると判定し、前記視差量に異常がないと判定した場合に、前記所定オブジェクトの視差調整を行い、前記視差量に異常があると判定した場合に、前記所定オブジェクトと異なる他のオブジェクトを対象として視差調整を行い、前記視差量に異常がないと判定された場合に、前記視差調整が行われた前記所定オブジェクトを含む前記フレーム画像を出力し、前記視差量に異常があると判定された場合に、前記視差調整が行われた前記他のオブジェクトを含む前記フレーム画像を出力する。
本発明の第15の態様は、コンピュータを、複数の視点から同一の被写体が連続フレームで撮像された複数視点の連続フレーム画像を入力する入力部、前記入力部によって入力された連続フレーム画像を構成するフレーム画像に基づいて視差量を取得する視差量取得部、前記視差量取得部により取得された視差量の一定期間の変動が所定値より大きい場合、前記視差量が予め定められた許容限界値に達した場合、及び前記視差量の取得対象を検出できなくなった場合の少なくとも1つの場合に、前記視差量に異常があると判定する異常判定部、前記異常判定部により前記視差量に異常がないと判定された場合に、第1の視差調整を行い、前記異常判定部により前記視差量に異常があると判定された場合に、前記第1の視差調整の制御と異なる第2の視差調整の制御に切り替えて視差調整を行う視差調整部、及び前記視差調整部によって前記視差調整が行われた前記連続フレーム画像を出力する出力部として機能させるためのものである。
本発明の第16の態様は、コンピュータを、複数の視点から同一の被写体が連続フレームで撮像された複数視点の連続フレーム画像を入力する入力部と、前記入力部によって入力された連続フレーム画像を構成するフレーム画像に基づいて所定オブジェクトの視差量を取得する視差量取得部、前記視差量取得部により取得された視差量の一定期間の変動が所定値より大きい場合、前記視差量が予め定められた許容限界値に達した場合、及び前記視差量の取得対象を検出できなくなった場合の少なくとも1つの場合に、前記視差量に異常があると判定する異常判定部、前記異常判定部により前記視差量に異常がないと判定された場合に、前記所定オブジェクトの視差調整を行い、前記異常判定部により前記視差量に異常があると判定された場合に、前記所定オブジェクトと異なる他のオブジェクトを対象として視差調整を行う視差調整部、及び前記異常判定部により前記視差量に異常がないと判定された場合に、前記視差調整部によって視差調整が行われた前記所定オブジェクトを含む前記フレーム画像を出力し、前記異常判定部により前記視差量に異常があると判定された場合に、前記視差調整部によって視差調整が行われた前記他のオブジェクトを含む前記フレーム画像を出力する出力部として機能させるためのものである。
本発明によれば、複数の視点画像から求められる視差量自体に問題がある場合又は視差調整対象を検出できなくなってしまうような場合でも、適切に視差調整を行うことができる。
立体視画像再生装置の概略を示す斜視図である。 立体視画像再生装置の表示装置側の概略構成を示すブロック図である。 立体視用の画像ファイルのファイルフォーマットを示す図である。 立体視画像再生装置の液晶シャッタ眼鏡側の概略構成を示すブロック図である。 第1の視差調整ルーチンを示すフローチャートである。 第1の視差量取得ルーチンを示すフローチャートである。 第2の視差量取得ルーチンを示すフローチャートである。 第1のハンチング有無判定ルーチンを示すフローチャートである。 第2のハンチング有無判定ルーチンを示すフローチャートである。 第2の視差調整ルーチンを示すフローチャートである。 第3の視差調整ルーチンを示すフローチャートである。 視差調整対象をGUIでマーキングした状態を示す図である。 視差調整対象をGUIでマーキングした状態を示す図である。 視差調整対象をGUIでマーキングした状態を示す図である。 複眼カメラの正面側斜視図である。 複眼カメラの背面側斜視図である。 複眼カメラの内部構成を示す概略ブロック図である。 撮影部の構成を示す図である。 モニタの構成を示す図である。 レンチキュラーシートの構成を示す図である。 左目用及び右目用画像に対する3次元処理を説明するための図である。 視差関連情報の一例を示す図である。 視差関連情報を説明するための図である。 視差関連情報を説明するための図である。
[第1の実施形態]
図1は、本発明の第1の実施形態に係る立体視画像再生装置10の概略を示す図である。
同図に示すように、本第1実施形態に係る立体視画像再生装置10は、立体視画像を表示する表示装置12及び液晶シャッタ眼鏡14を備えている。また、表示装置12は、各種表示を行うモニタ12A、電源ボタン12B、再生開始ボタン12C、及び再生停止ボタン12Dを備えている。
なお、本第1の実施形態では、左目用画像G1と右目用画像G2とを交互に表示装置12に表示すると共に、左目用画像G1が表示されたときに液晶シャッタ眼鏡14の右目の液晶シャッタが透過状態、右目用画像G2が表示されたときに液晶シャッタ眼鏡14の左目の液晶シャッタが透過状態となるように交互に液晶シャッタを駆動する方式で立体視画像として視認されるように3次元立体映像を再生する形態を例に挙げて説明する。なお、本第1の実施形態では、液晶シャッタ眼鏡14を使用して3次元立体映像を再生する立体視画像再生装置を一例として説明するが、これに限るものではなく、例えば、偏光フィルタ眼鏡を用いて3次元立体映像を再生するものを適用するようにしてもよいし、眼鏡を用いない方式で3次元立体映像を再生する方式の立体視画像再生装置を適用するようにしてもよい。
図2は、本第1の実施形態に係る立体視画像再生装置10の表示装置12側の概略構成を示すブロック図である。
表示装置12は、同期通信部16、画像処理部18、圧縮/伸長処理部20、フレームメモリ22、メディア制御部24、内部メモリ26、3次元処理部28、表示制御部30、及びCPU32を備えており、これらはバスBUSを介して相互に接続されている。また、メディア制御部24には記録メディア34が、表示制御部30にはモニタ12Aが各々接続されている。更に、CPU32には、電源ボタン12B、再生開始ボタン12C、及び再生停止ボタン12Dを含んで構成された入力部35が接続されている。
同期通信部16は、液晶シャッタ眼鏡14の左右の液晶シャッタの駆動と、表示装置12に表示する左目用及び右目用のそれぞれの画像とを同期させるための信号の送信及び受信を行う。
画像処理部18は、表示すべき画像を表す画像データに対して、ホワイトバランス調整、階調補正、シャープネス補正、色補正等の各種画像処理を施す。
圧縮/伸長処理部20は、画像処理部18によって処理が施された画像データに対して、例えば、JPEGやMPEG等の圧縮形式で圧縮処理を行い、立体視用の画像ファイルF0を作成したり、再生する際に圧縮された画像データを伸長する処理を行う。画像ファイルF0は、左目用画像G1及び右目用画像G2の画像データを有しており、更に、例えばExifフォーマットに基づく、基線長、輻輳角及び撮影日時等の付帯情報、及び視点位置を表す視点情報を含んでいる。
図3は、立体視用の画像ファイルのファイルフォーマットを示す図である。立体視用の画像ファイルF0は、左目用画像G1の付帯情報H1、左目用画像G1の視点情報S1、左目用画像G1の画像データ、右目用画像G2の付帯情報H2、右目用画像G2の視点情報S2,及び右目用画像G2の画像データが格納されてなる。また、図示はしないが、左目用及び右目用画像G1,G2についての付帯情報、視点情報及び画像データの前後には、データの開始位置及び終了位置を表す情報が含まれる。
付帯情報H1,H2には、左目用及び右目用画像G1,G2の撮影日、基線長、及び輻輳角の情報が含まれる。付帯情報H1,H2には、左目用及び右目用画像G1,G2のサムネイル画像も含まれる。なお、視点情報としては、例えば左側の撮影部から順に付与した視点位置の番号を用いることができる。
フレームメモリ22は、画像データに対して、画像処理部18が行う処理を行う各種処理を行う際に使用する作業用メモリである。
メディア制御部24は、記録メディア34に対してアクセスして例えば画像ファイルの書き込みと読み込みの制御を行う。
内部メモリ26は、例えば表示装置12における各種設定を表す情報、及びCPU32が実行するプログラムを記憶する。
3次元処理部28は、記録メディア34に記憶された画像データを読み出して、同期通信部16による液晶シャッタ眼鏡14と通信によって得られる同期信号に同期して、立体視画像を表示させるための左目用画像G1と、右目用画像G2とを交互に表示することにより立体視画像GRが表示されるように表示制御部30を制御する。また、3次元処理部28は、画像データにフレーム毎の視差情報が記録されていない場合に、主要被写体を検出して、フレーム毎の視差を算出する処理を行う。また、3次元処理部28は、左目用画像G1及び右目用画像G2の視差を調整することもできる。ここで、視差とは、左目用画像G1及び右目用画像G2の双方に含まれる被写体の、左目用画像G1及び右目用画像G2の横方向、すなわち基線に沿った方向における画素位置のずれ量をいう。視差を調整することにより、立体視画像GRに含まれる被写体の立体感を適切なものとすることができる。
表示制御部30は、立体視する場合には、3次元処理部28の制御によって左目用画像G1と、右目用画像G2とを交互にモニタ12Aに表示させる。
図4は、第1の実施形態に係る立体視画像再生装置10の液晶シャッタ眼鏡14側の概略構成を示すブロック図である。
液晶シャッタ眼鏡14は、同期通信部36、液晶シャッタ駆動部38、右目用液晶シャッタ40、及び左目用液晶シャッタ42を備える。
同期通信部36は、左右の液晶シャッタの駆動と、表示装置12に表示される左右それぞれの画像とを同期させるための信号を通信する。
液晶シャッタ駆動部38は、同期通信部36による表示装置12と通信することによって得られる同期信号に同期して、右目用液晶シャッタ40及び左目用液晶シャッタ42の駆動を制御する。これによって、左目用画像G1が表示装置12のモニタ12Aに表示されているときに、右目用液晶シャッタ40が透過状態、左目用液晶シャッタ42が遮蔽状態となり、右目用画像G2が表示装置12のモニタ12Aに表示されているときに、左目用液晶シャッタ42が透過状態、右目用液晶シャッタ40が遮蔽状態となり、立体視画像が再生される。
以上のように構成された表示装置12では、次の第1又は第2の視差調整ルーチンが実行される。なお、第1及び第2の視差調整ルーチンのプログラムは内部メモリ26に予め記憶されている。
(第1の視差調整ルーチン)
図5は、第1の視差調整ルーチンを示すフローチャートである。
ステップ100では、CPU32は、動画再生開始の指示が再生開始ボタン12Cを介して入力されると、3次元動画再生を開始して、ステップ102へ進む。
ステップ102では、CPU32は、記録メディア34に記憶されている画像ファイルF0の左目用及び右目用画像G1,G2に基づく視差量を3次元処理部28に取得させる。ここでは、第1又は第2の視差量取得ルーチンが実行され、3次元処理部30は次の処理を行う。
(視差量の取得)
図6は、第1の視差量取得ルーチンを示すフローチャートである。3次元処理部28は、最初に、複数画像、すなわち記録メディア34に記憶されている画像ファイルF0の左目用及び右目用画像G1,G2における同一の人物の顔領域をそれぞれ検出し、これらの顔領域の座標を示す顔検出座標を取得し(ステップ200)、取得した顔検出座標の座標差分を算出し(ステップ202)、座標差分から視差量を算出する(ステップ204)。
図7は、第2の視差量取得ルーチンを示すフローチャートである。3次元処理部30は、最初に、複数画像、すなわち記録メディア34に記憶されている画像ファイルF0の左目用及び右目用画像G1,G2における同一のオブジェクトをそれぞれ検出し、これらのオブジェクトを特定する特徴点の座標である特徴点座標を取得し(ステップ210)、取得した特徴点座標の座標差分を算出し(ステップ212)、座標差分から視差量を算出する(ステップ214)。そして、第1又は第2の視差量取得ルーチンが終了すると、図5に示すステップ104へ進む。
(視差量の異常判定)
ステップ104では、CPU32は、3次元処理部28で取得された視差量に異常があるか否かを判定し、異常があると判定した場合はステップ106へ進み、異常がないと判定した場合はステップ108へ進む。ここでは、(1)視差量にハンチングがあるか、(2)視差量が許容限界か、(3)視差調整対象を見失って検出できなくなったかのいずれか1つに基づいて視差量の異常が判定される。
(1)ハンチング有無の判定
CPU32は、ステップ104において、次に示す第1又は第2のハンチング有無判定ルーチンを実行する。なお、左目用及び第2のハンチング有無判定ルーチンのプログラムは、内部メモリ26に予め記憶されている。
図8は、第1のハンチング有無判定ルーチンを示すフローチャートである。CPU32は、3次元処理部28で得られた一定期間の視差量を取得し(ステップ220)、取得した視差量のばらつきSを算出する(ステップ222)。そして、CPU35は、ばらつきSがハンチング閾値Tより小さい(S<T)かを判定する(ステップ224)。S<Tの場合はハンチングがない(視差量に異常がない)と判定して図5のステップ108へ進み、S<Tでない場合はハンチングがある(視差量に異常がある)と判定して図5のステップ106へ進む。
図9は、第2のハンチング有無判定ルーチンを示すフローチャートである。CPU32は、3次元処理部28で得られた現フレームと前フレームの視差量の変化量Dを取得する(ステップ230)。そして、CPU32は、変化量Dがハンチング閾値Tより小さい(S<T)かを判定する(ステップ232)。D<Tの場合はハンチングがない(視差量に異常がない)と判定して図5のステップ108へ進み、D<Tでない場合はハンチングがある(視差量に異常がある)と判定して図5のステップ106へ進む。
(2)視差量の許容限界判定
CPU32は、ステップ104において、視差量が予め定められた許容限界値に達しているかを判定してもよい。ここで、許容限界とは、立体視画像に表される物体の飛び出し過ぎ又は凹みすぎを表す視差量の閾値をいう。視差量が許容限界値に達している場合はステップ106へ進み、視差量が許容限界に達していない場合はステップ108へ進む。
(3)視差調整対象の判定
CPU32は、ステップ104において、視差調整対象を見失って検出できなくなったか否かを判定してもよい。視差調整対象とは、例えば人物の顔などの画面の中心位置付近にあるオブジェクト、複数の特徴点などが該当する。
ここでは、CPU32は、視差調整対象が例えば10フレーム検出されなかった場合は視差調整対象を見失ったと判定してステップ106へ進み、視差調整対象が10フレーム検出されていない場合はステップ108へ進む。なお、「10フレーム」は一例に過ぎず、その他のフレーム数であってもよい。これにより、視差調整対象を見失った場合、視差調整制御を切り替えるので、3次元動画再生の視差調整を安定化させることができる。
(視差調整制御の切り替え)
ステップ106では、CPU32は、視差調整制御を別の制御に切り替える。ここでは、第1〜第3の切り替え処理のうちいずれか1つの処理が実行される。
第1の切り替え処理として、CPU32は、フレーム毎の視差量最大変化量を定義して3次元処理部28に設定することで、フレーム毎の視差量の変化量に制限をかける。これにより、視差量最大変化量の範囲内で視差調整が行われて、視差量の急激な変化を抑制できるので、3次元動画再生の視差調整を安定化させることが可能になる。
また、第2の切り替え処理として、CPU32は、当該フレームでの視差調整をスキップ(当該フレームでの視差調整を禁止)して、前フレームでの視差調整をそのまま継続させる。つまり、前フレームでの視差量を使用する。これにより、視差量に異常があった場合でも、視差調整をスキップできるので、3次元動画再生の視差調整を安定化させることができる。
さらに、第3の切り替え処理として、CPU32は、視差調整を実施する頻度を減らす。ここでは、図5に示す視差調整ルーチンの代わりに、次の図10に示す第2の視差調整ルーチンが実行される。なお、図5のステップと同じステップには同一の符号を付し、重複する説明は省略する。
図10の視差調整ルーチンは、ステップ100の次にインデックス番号i=0が設定され(ステップ101)、ステップ102の次にiが1増加(i++)する(ステップ103)点が、図5と相違する。更に、第3の切り替え処理が行われるステップ106では、次の処理が行われる。
CPU32は、最初に、インデックス番号iが視差調整頻度N以上(i≧N)であるかを判定する(ステップ240)。そして、i≧Nである場合はi=0に設定して(ステップ242)ステップ108へ進み、i≧Nでない場合はステップ108を飛ばしてステップ110へ進む。
このため、インデックス番号iがN未満である場合は、ステップ102、103、104、106(ステップ240)、110が繰り返し実行され、視差調整(ステップ108)が行われない。また、インデックス番号iがNに達すると、ステップ104、106(ステップ240、242)を経て、ステップ108に進むので、視差調整が実施される。
したがって、視差に異常があった場合、フレーム毎に視差調整するのではなく、Nフレームにつき1回だけ視差調整するので、視差調整の頻度を減少して、視差調整の変化を緩やかにすることができる。
ステップ108では、CPU32は、3次元処理部28に視差調整を実施させて、視差調整された左目用及び右目用画像G1,G2を表示制御部30に出力し、ステップ110へ進む。
ステップ110では、CPU32は、再生停止ボタン12Dにより動画再生停止の指示が入力されたかを判定し、肯定判定の場合は本ルーチンを終了し、否定判定の場合は次のフレームの処理に移行し、再びステップ102へ戻る。
以上のように、本第1の実施形態に係る立体視画像再生装置10は、視差量に異常がある場合又は視差対象を見失った場合でも、視差調整制御を切り替えてから視差調整を行うので、3次元動画再生の視差調整を安定化させることができる。
なお、CPU32は、ハンチングを検出した場合、視差調整を実施した後(ステップ108終了後)ハンチングの有無を示すハンチング情報を記録メディア34に記録してもよい。これにより、動画情報にハンチングの有無が付加されるので、再度の動画再生時にハンチング情報を利用することができ、再度の3次元動画再生時の視差調整を安定化させることができる。また、ステップ104では、(1)ハンチング有無の判定、(2)視差量の許容限界判定、(3)視差調整対象の判定のいずれか1つが実行される場合について説明したが、(1)から(3)の少なくとも1つが実行されればよい。さらに、ステップ106では、第1〜第3の切り替え処理のうちいずれか1つの処理が実行される場合について説明したが、第1〜第3の切り替え処理のうちの少なくとも1つの処理が実行されればよい。
[第2の実施形態]
次に、本発明の第2の実施形態について説明する。なお、第1の実施形態と同一の部位については同一の符号を付し、その詳細な説明は省略する。第1の実施形態では第1又は第2の視差調整ルーチンが実行されたが、第2の実施形態では第1又は第2の視差調整ルーチンに代えて次の第3の視差調整ルーチンが実行される。
(第3の視差調整ルーチン)
図11は、第3の視差調整ルーチンを示すフローチャートである。
ステップ130では、CPU32は、動画再生開始の指示が再生開始ボタン12Cを介して入力されると、3次元動画再生を開始して、ステップ132へ進む。
ステップ132では、CPU32は、記録メディア34に記憶されている画像ファイルF0の左目用及び右目用画像G1,G2に基づく基本視差量を3次元処理部28に取得させて、ステップ134へ進む。ここで、基本視差量とは、デフォルトオブジェクトの視差量をいい、例えば画面中心に最も近いオブジェクトの視差量をいう。
ステップ134では、CPU32は、3次元処理部28で取得された基本視差量に異常があるか否かを判定する。ここでは、図5に示すステップ104と同じ処理が実行される。そして、基本視差量に異常がある場合はステップ138へ進み、異常がない場合はステップ136へ進む。
ステップ136では、CPU32は、基本視差量を用いて視差調整を実施するように3次元処理部28を制御して、ステップ142へ進む。本ステップ136の処理に応じて、3次元処理部28は、左目用及び右目用画像G1,G2の基本視差量を用いて視差調整を行い、視差調整された左目用及び右目用画像G1,G2を表示制御部30に出力する。
一方、ステップ138では、CPU32は、3次元処理部28に他のオブジェクトの視差量を取得させて、ステップ138へ進む。他のオブジェクトとしては、例えば、デフォルトオブジェクト以外の人物の顔などが該当する。
ステップ140では、他のオブジェクトの視差量を用いて視差調整を実施するように3次元処理部28を制御する。このとき、3次元処理部28は、「他のオブジェクト」として、「Z方向においてデフォルトオブジェクトに近いオブジェクト」又は「2次元座標においてデフォルトオブジェクトに近いオブジェクト」を選択し、選択したオブジェクトの視差量を用いて視差調整を行い、視差調整されたオブジェクトを表示制御部30に出力する。ここでは、記録メディア34に記憶されている画像ファイルF0の左目用及び右目用画像G1,G2と同一の平面を2次元座標(X,Y)で表し、この面(基線)に垂直な方向をZ方向とする。
よって、「Z方向においてデフォルトオブジェクトに近いオブジェクト」は、2次元座標において近いか否かは問われないが、デフォルトオブジェクトと立体感が最も近いオブジェクトである。このため、3次元処理部28は、当該オブジェクトの視差量を用いて視差調整を行うことで、視差量の急激な変化を抑制でき、その結果、安定して視差調整を行うことができる。
また、「2次元座標においてデフォルトオブジェクトに近いオブジェクト」は、デフォルトオブジェクトの立体感に近いか否かは問わないが、2次元座標上でデフォルトオブジェクトに最も近いオブジェクトである。このため、3次元処理部28は、当該オブジェクトの視差量を用いて視差調整を行うことで、これまでの視差調整対象に近いオブジェクトで視差調整を行うことができ、その結果、安定して視差調整を行うことができる。そして、以上のような処理を経て、ステップ142へ進む。
ステップ142では、CPU32は、視差調整対象をGUI(Graphical User Interface)でマーキングしてモニタ7に表示させて、ステップ144に進む。ここでは、視差調整対象である人物の顔に対して、例えば図12Aに示すように四角で囲んでもよいし、図12Bに示すように丸で囲んでもよいし、図12Cに示すように星印をつけてもよい。
ステップ144では、CPU32は、再生停止ボタン12Dにより動画再生停止の指示が入力されたかを判定し、肯定判定の場合は本ルーチンを終了し、否定判定の場合は次のフレームの処理に移行し、再びステップ132へ戻る。
以上のように、第2の実施形態の再生装置は、デフォルトオブジェクトの基本視差量に異常がある場合又はデフォルトオブジェクトを見失った場合でも、視差調整対象を他のオブジェクトに切り替えてから視差調整を行うので、3次元動画再生の視差調整を安定化させることができる。
[第3の実施形態]
次に、図面を参照して本発明の第3の実施形態について説明する。図13は本発明の実施形態に係る複眼カメラ301の正面側斜視図、図14は背面側斜視図である。
複眼カメラ301の上部には、レリーズボタン302、電源ボタン303及びズームレバー304が備えられている。複眼カメラ301の正面には、フラッシュ305及び2つの撮影部321A、321Bのレンズが配設されている。また、複眼カメラ301の背面には、各種表示を行う液晶モニタ(以下単に「モニタ」いう。)307及び第1及び第2の実施形態で説明した再生開始ボタン12C及び再生停止ボタン12Dとしても機能するボタンを含む各種操作ボタン308が配設されている。
図15は、複眼カメラ301の内部構成を示す概略ブロック図である。複眼カメラ301は、2つの撮影部321A、321B、撮影制御部322、画像処理部323、圧縮/伸長処理部324、フレームメモリ325、メディア制御部326、内部メモリ327、表示制御部328、及びCPU335を備えており、これらはバスBUSを介して相互に接続されている。また、メディア制御部326には記録メディア329が、表示制御部328にはモニタ307が各々接続されている。更に、CPU32には、レリーズボタン302、電源ボタン303、ズームレバー304及び操作ボタン308を含んで構成された入力部334が接続されている。なお、撮影部321A、321Bは、被写体を見込む輻輳角を持って、あらかじめ定められた基線長となるように配置されている。また、輻輳角及び基線長の情報は内部メモリ327に記憶されている。
図16は、撮影部321A、321Bの構成を示す図である。図16に示すように撮影部321A、321Bは、レンズ310A、310B、絞り311A、311B、シャッタ312A、312B、撮像素子313A、313B、アナログフロントエンド(AFE)314A、314B及びA/D変換部315A,315Bをそれぞれ備える。
レンズ310A,310Bは、被写体に焦点を合わせるためのフォーカスレンズ、ズーム機能を実現するためのズームレンズ等の複数の機能別レンズを有している。レンズ310A,310Bの位置は、撮影制御部322のAF処理部322aにより得られる合焦データ及び図13及び図14に示したズームレバー304が操作された場合に得られるズームデータに基づいて、不図示のレンズ駆動部により調整される。
絞り311A,311Bは、撮影制御部322のAE処理部322bにより得られる絞り値データに基づいて、不図示の絞り駆動部により絞り径の調整が行われる。
シャッタ312A,312Bはメカニカルシャッタであり、不図示のシャッタ駆動部により、AE処理部322bにより得られるシャッタスピードに応じて駆動される。
撮像素子313A,313Bは、多数の受光素子を2次元状に配列した光電面を有しており、被写体光がこの光電面に結像して光電変換されてアナログ撮影信号が取得される。また、撮像素子313A,313Bの前面にはR,G,B各色のフィルタが規則的に配列されたカラーフィルタが配設されている。
AFE314A,314Bは、撮像素子313A,313Bから出力されるアナログ撮影信号に対して、アナログ撮影信号のノイズを除去する処理、及びアナログ撮影信号のゲインを調節する処理(以下「アナログ処理」という。)を施す。
A/D変換部315A,315Bは、AFE314A,314Bによりアナログ処理が施されたアナログ撮影信号をデジタル信号に変換する。なお、撮影部321Aにより取得されるデジタルの画像データにより表される画像を左目用画像G1、撮影部321Bにより取得される画像データにより表される画像を右目用画像G2とする。
撮影制御部322は、上述のようにAF処理部322a及びAE処理部322bを有している。AF処理部322aは、レリーズボタン302が半押し操作されると、測距センサから測距情報を取得し、レンズ10A,10Bの焦点位置を決定し、撮影部321A,32lBに出力する。AE処理部322bは、プレ画像に基づいて絞り値とシャッタ速度とを決定し、撮影部321A,321Bに出力する。
なお、AF処理部322aによる焦点位置の検出方式としては、測距情報を用いたアクティブ方式に限らず、画像のコントラストを利用して合焦位置を検出するパッシブ方式を用いてもよい。
撮影制御部322は、レリーズボタン302が操作されない状態では、撮影範囲を確認させるための、左目用及び右目用画像G1,G2の本画像よりも画素数が少ないスルー画像を、所定時間間隔(例えば1/30秒間隔)にて順次生成させるように撮影部321A,321Bを制御する。そして、撮影制御部322は、レリーズボタン302が全押し操作されると、本撮影を開始すべく、左目用及び右目用画像G1,G2の本画像を生成するように撮影部321A,321Bを制御する。
以上の説明は静止画モードの場合であるが、本第3の実施形態では、動画撮影モードにも設定可能である。動画撮影モードの場合、レリーズボタン302が押圧されると動画撮影が開始され、フレーム毎に左目用及び右目用画像G1,G2が生成され、再びレリーズボタン302が押圧されると動画撮影が停止する。
画像処理部323は、撮影部321A,321Bが取得した左目用及び右目用画像G1,G2のデジタルの画像データに対して、ホワイトバランス調整、階調補正、シャープネス補正、及び色補正等の画像処理を施す。
圧縮/伸長処理部324は、画像処理部323によって処理が施された左目用及び右目用画像G1,G2の本画像を表す画像データに対して、例えば、JPEG等の圧縮形式で圧縮処理を行い、立体視用の画像ファイルF0を生成する。この立体視用の画像ファイルF0は、左目用及び右目用画像G1,G2の画像データを有しており、更に、Exifフォーマット等に基づく、基線長、輻輳角及び撮影日時等の付帯情報、及び視点位置を表す視点情報を含んでいる。
フレームメモリ325は、撮影部321A,321Bが取得した左目用及び右目用画像G1,G2を表す画像データに対して、前述の画像処理部323が行う処理を含む各種処理を行う際に使用する作業用メモリである。
メディア制御部326は、記録メディア329にアクセスして画像ファイル等の書き込みと読み込みの制御を行う。
内部メモリ327は、複眼カメラ301において設定される各種定数、及びCPU335が実行するプログラム等を記憶する。
表示制御部328は、立体視する場合に、フレームメモリ325又は記録メディア329に記録されている立体視画像GRをモニタ307に表示させる。
図17は、モニタ307の構成を示す分解斜視図である。図17に示すように、モニタ307は、LEDにより発光するバックライトユニット340及び各種表示を行うための液晶パネル341を積層し、液晶パネル341の表面にレンチキュラーシート342を取り付けることにより構成されている。
図18は、レンチキュラーシートの構成を示す図である。図18に示すようにレンチキュラーシート342は、複数のシリンドリカルレンズ343を基線に沿った方向に並列に並べることにより構成されている。
また、複眼カメラ301は、3次元処理部330を備えている。3次元処理部330は、左目用及び右目用画像G1,G2をモニタ307に立体視表示させるために、左目用及び右目用画像G1,G2に対して3次元処理を行って立体視画像GRを生成する。
図19は、左目用及び右目用画像G1,G2に対する3次元処理を説明するための図である。図19に示すように3次元処理部330は、左目用及び右目用画像G1,G2の各々を基線に対して垂直方向に短冊状に切り取り、レンチキュラーシート342におけるシリンドリカルレンズ343のそれぞれに、位置が対応する短冊状に切り取った左目用及び右目用画像G1,G2が交互に配置されるように3次元処理を行って、立体視画像GRを生成する。立体視画像GRを構成する左目用及び右目用画像G1,G2の画像対は、各々1つのシリンドリカルレンズに対応して配置される。
また、3次元処理部330は、左目用及び右目用画像G1,G2の視差を調整することもできる。ここで、視差とは、左目用及び右目用画像G1,G2の双方に含まれる被写体の、左目用及び右目用画像G1,G2の横方向、すなわち基線に沿った方向における画素位置のずれ量をいう。視差を調整することにより、立体視画像GRに含まれる被写体の立体感を適切なものとすることができる。
また、3次元処理部330は、リアルタイムで撮影部321A、321Bで得られた左目用及び右目用画像G1,G2の視差を調整してもよいし、記録メディア329に予め記録されている左目用及び右目用画像G1,G2の視差を調整してもよい。
以上のように構成された複眼カメラ301では、第1の実施形態で説明した第1又は第2の視差調整ルーチン又は第2の実施形態で説明した第3の視差調整ルーチンが実行される。なお、左目用及び第2の視差調整ルーチンのプログラムは内部メモリ327に予め記憶されている。
なお、本発明は、上述した実施形態に限定されるものではなく、特許請求の範囲に記載された事項の範囲内で設計変更されたものについても適用可能である。
例えば、上述した第1及び第2の実施形態において、視差量を直接取得する代わりに、一例として図20に示すような視差関連情報を取得してもよい。
図21A及び図21Bは視差関連情報を説明するための図である。視差関連情報は、毎フレームの左目画像(左目用画像G1)及び右目画像(右目用画像G2)について、特徴点Aの座標群、特徴顔Aの座標群、特徴顔Bの座標群、ハンチング有無などの情報が該当する。そして、これらの視差関連情報を用いて視差調整を行ってもよい。
また、上記第1及び第2の実施形態では、液晶シャッタ眼鏡14を使用して立体視画像をユーザに視認させ、上記第3の実施形態では、レンチキュラーシート42を用いることによって立体視画像をユーザに視認させる場合の形態例を挙げて説明したが、これに限らず、例えば、上記第1及び第2の実施形態で説明した表示装置12のモニタ12Aにレンチキュラーシート42を適用すると共に、上記第3の実施形態で説明したように立体視画像GRを生成してモニタ12Aに表示することにより、ユーザに対して液晶シャッタ眼鏡14を使用させずに立体視画像を視認させるようにしてもよいし、また、上記第3の実施形態で説明した複眼カメラ301のモニタ307にレンチキュラーシート42を設けることに代えて、左目用画像G1と右目用画像G2とを交互にモニタ307に表示すると共に、上記第1及び第2の実施形態で説明したように液晶シャッタ眼鏡14を使用することにより立体視画像をユーザに視認させるようにしてもよい。
また、上記各実施形態では、同一の人物の顔領域に基づいて視差量を取得する形態例を挙げて説明したが、これに限らず、例えば、犬や猫などのペットの顔領域であったり、特定の動物や植物の特徴部分の輪郭であったり、生き物以外の物(例えば、自動車、電車、及び建物など)の特徴部分の輪郭を視差量の取得対象として適用してもよい。この場合、取得対象の画像の特徴を示す特徴量データが格納されたパターンマッチング用の画像辞書を予め用意しておき、この画像辞書を用いて取得対象を特定し、特定した取得対象の視差量を算出する形態例が挙げられる。なお、画像辞書は、ユーザによってカスタマイズされる形態のものが好ましい。この場合、ユーザが視差量の取得対象として指定した事物を示す画像の特徴を示す特徴量データの画像辞書への追加登録及び画像辞書からの削除を可能とする画像辞書が例示できる。
また、視差量の取得対象を、フレーム毎に所定値の空間周波数(エッジ成分)で規定された閉曲線で囲まれた領域(閉曲線領域)に基づく被写体像としてもよいし、フレーム毎に所定空間周波数を超える空間周波数(所定値)の空間周波数で規定された閉曲線領域に基づく被写体像としてもよい。なお、この被写体像は、フレーム内における所定空間周波数以上の空間周波数で規定された閉曲線領域そのものであってもよいし、所定値の空間周波数で規定された閉曲線領域を取り囲む最小矩形や最小円形などの幾何学形状内の領域であってもよいし、閉曲線領域を所定のアルゴリズムに従って変形させて得られた領域であってもよい。このように、視差量の取得対象は、フレーム毎の予め定められた被写体像であれば如何なるものであってもよい。
なお、日本出願(特願2010−149859)の開示はその全体が参照により本明細書に取り込まれる。
また、本明細書に記載された全ての文献、特許出願及び技術規格は、個々の文献、特許出願及び技術規格が参照により取り込まれることが具体的かつ個々に記された場合と同程度に、本明細書中に参照により取り込まれる。
12A,307 モニタ
321A、321B 撮影部
322 撮影制御部
330 3次元処理部
32,335 CPU
34,329 記録メディア
【0002】
ーザの指示に従って特定され、立体視画像を表示する前に適正視差が実現されるように画像処理が行われる。
[発明の概要]
発明が解決しようとする課題
[0008]
しかし、最初の段階に問題がある場合、例えば、撮像部で得られた複数の視点画像から求められる視差量自体に問題がある場合、視差調整対象を検出できなくなってしまうような場合では、特許文献1及び2の技術を用いても、適切に視差調整を行うことができないという問題がある。
[0009]
本発明は、このような実情を鑑みて提案されたものであり、複数の視点画像から求められる視差量自体に問題がある場合又は視差調整対象を検出できなくなってしまうような場合でも、適切に視差調整を行うことができる再生装置、複眼撮像装置、再生方法及びプログラムを提供することを目的とする。
課題を解決するための手段
[0010]
本発明の第1の態様に係る再生装置は、複数の視点から同一の被写体が連続フレームで撮像された複数視点の連続フレーム画像を入力する入力部と、前記入力部によって入力された連続フレーム画像を構成するフレーム画像に基づいて視差量を取得する視差量取得部と、前記フレーム画像単位で、前記視差量取得部により取得された視差量の一定期間の変動が所定値より大きい場合、前記視差量が予め定められた許容限界値に達した場合、及び前記視差量の取得対象を検出できなくなった場合の少なくとも1つの場合に、前記視差量に異常があると判定する異常判定部と、前記異常判定部により前記視差量に異常がないと判定された場合に、前記フレーム画像単位で、第1の視差調整を行い、前記異常判定部により前記視差量に異常があると判定された場合に、前記フレーム画像単位で、前記第1の視差調整の制御と異なる第2の視差調整の制御である前記フレーム画像毎に定められた視差量最大変化量の範囲内で視差調整を行う制御に切り替えて視差調整を行う視差調整部と、前記視差調整部によって前記視差調整が行われた前記連続フレーム画像を出力する出力部と、を備えている。
[0011]
【0003】
[0012]
本発明の第3の態様は、本発明の第1の態様において、前記視差調整部は、前記異常判定部により前記視差量に異常があると判定された場合、前フレームでの視差量を用いて視差調整を行う。
[0013]
本発明の第4の態様は、本発明の第1の態様又は第3の態様において、前記視差調整部は、前記異常判定部により前記視差量に異常があると判定された場合、視差調整頻度を低下させる。
[0014]
本発明の第5の態様は、本発明の第1の態様から第4の態様のいずれか1つにおいて、前記視差量取得部が、前記フレーム画像内において視差量の取得対象の被写体像として予め定められた被写体像に基づいて視差量を取得するものである。
[0015]
本発明の第6の態様は、本発明の第5の態様において、前記予め定められた被写体像を、前記フレーム画像内の所定値の空間周波数で規定される閉曲線領域に基づく被写体像としたものである。
[0016]
本発明の第7の態様は、複数の視点から同一の被写体が連続フレームで撮像された複数視点の連続フレーム画像を入力する入力部と、前記入力部によって入力された連続フレーム画像を構成するフレーム画像に基づいて所定オブジェクトの視差量を取得する視差量取得部と、前記視差量取得部により取得された視差量の一定期間の変動が所定値より大きい場合、前記視差量が予め定められた許容限界値に達した場合、及び前記視差量の取得対象を検出できなくなった場合の少なくとも1つの場合は、前記視差量に異常があると判定する異常判定部と、前記異常判定部により前記視差量に異常がないと判定された場合に、前記所定オブジェクトの視差調整を行い、前記異常判定部により前記視差量に異常があると判定された場合に、前記所定オブジェクトと異なる他のオブジェクトを対象として視差調整を行う視差調整部と、前記異常判定部により前記視差量に異常がないと判定された場合に、前記視差調整部によって視差調整が行われた前記所定オブジェクトを含む前記フレーム画
【0004】
像を出力し、前記異常判定部により前記視差量に異常があると判定された場合に、前記視差調整部によって視差調整が行われた前記他のオブジェクトを含む前記フレーム画像を出力する出力部と、を備えている。
[0017]
本発明の第8の態様は、本発明の第7の態様において、前記視差調整部は、前記フレーム画像の画像面に垂直な方向において前記所定オブジェクトと最も距離が近いオブジェクトを前記他のオブジェクトとする。
[0018]
本発明の第9の態様は、本発明の第7の態様において、前記視差調整部は、前記フレーム画像の画像面上において前記所定オブジェクトと最も距離が近いオブジェクトを前記他のオブジェクトとする。
[0019]
本発明の第10の態様は、本発明の第7の態様から第9の態様のいずれか1つにおいて、前記所定オブジェクト及び前記他のオブジェクトの少なくとも一方を、前記フレーム画像内の所定値の空間周波数で規定される閉曲線領域に基づく被写体像としたものである。
[0020]
本発明の第11の態様は、本発明の第1の態様から第10の態様のいずれか1つにおいて、前記出力部により出力された前記フレーム画像を、立体視画像として視認されるように表示する表示部を更に含むものとした。
[0021]
本発明の第12の態様は、本発明の第1の態様から第11の態様のいずれか1つの再生装置と、前記連続フレーム画像を、複数の視点から同一の被写体を連続フレームで撮像することにより生成する撮像部と、を備えている。
[0022]
本発明の第13の態様は、複数の視点から同一の被写体が連続フレームで撮像された複数視点の連続フレーム画像を入力し、入力された連続フレーム画像を構成するフレーム画像に基づいて視差量を取得し、前記フレーム画像単位で、前記取得した前記視差量の一定期間の変動が所定値より大きい場合、前記視差量が予め定められた許容限界値に達した場合、及び前記視差量の取得対象を検出できなくなった場合の少なくとも1つの場合に、前記視差量に異常があると判定し、前記視差量に異常がないと判定した場合に、前記フレーム画像単位で、第1の視差調整を行い、前記視差量に異常があると判定した場合に、前記フレーム画像単位で、前記第1の視差調整の制御と異なる第2の視差調整の制御である前記フレーム画像毎に定められた視差量最大変化量の範囲内で視差調整を行う制御に切り替えて視差調整を行い、前記視差調整が行われた前
【0005】
記連続フレーム画像を出力する。
[0023]
本発明の第14の態様は、複数の視点から同一の被写体が連続フレームで撮像された複数視点の連続フレーム画像を入力し、入力された連続フレーム画像を構成するフレーム画像に基づいて所定オブジェクトの視差量を取得し、前記取得した前記視差量の一定期間の変動が所定値より大きい場合、前記視差量が予め定められた許容限界値に達した場合、及び前記視差量の取得対象を検出できなくなった場合の少なくとも1つの場合に、前記視差量に異常があると判定し、前記視差量に異常がないと判定した場合に、前記所定オブジェクトの視差調整を行い、前記視差量に異常があると判定した場合に、前記所定オブジェクトと異なる他のオブジェクトを対象として視差調整を行い、前記視差量に異常がないと判定された場合に、前記視差調整が行われた前記所定オブジェクトを含む前記フレーム画像を出力し、前記視差量に異常があると判定された場合に、前記視差調整が行われた前記他のオブジェクトを含む前記フレーム画像を出力する。
[0024]
本発明の第15の態様は、コンピュータを、複数の視点から同一の被写体が連続フレームで撮像された複数視点の連続フレーム画像を入力する入力部、前記入力部によって入力された連続フレーム画像を構成するフレーム画像に基づいて視差量を取得する視差量取得部、前記フレーム画像単位で、前記視差量取得部により取得された視差量の一定期間の変動が所定値より大きい場合、前記視差量が予め定められた許容限界値に達した場合、及び前記視差量の取得対象を検出できなくなった場合の少なくとも1つの場合に、前記視差量に異常があると判定する異常判定部、前記異常判定部により前記視差量に異常がないと判定された場合に、前記フレーム画像単位で、第1の視差調整を行い、前記異常判定部により前記視差量に異常があると判定された場合に、前記フレーム画像単位で、前記第1の視差調整の制御と異なる第2の視差調整の制御である前記フレーム画像毎に定められた視差量最大変化量の範囲内で視差調整を行う制御に切り替えて視差調整を行う視差調整部、並びに、前記視差調整部によって前記視差調整が行われた前記連続フレーム画像を出力する出力部として機能させるためのものである。
[0025]
本発明の第16の態様は、コンピュータを、複数の視点から同一の被写体

Claims (16)

  1. 複数の視点から同一の被写体が連続フレームで撮像された複数視点の連続フレーム画像を入力する入力部と、
    前記入力部によって入力された連続フレーム画像を構成するフレーム画像に基づいて視差量を取得する視差量取得部と、
    前記視差量取得部により取得された視差量の一定期間の変動が所定値より大きい場合、前記視差量が予め定められた許容限界値に達した場合、及び前記視差量の取得対象を検出できなくなった場合の少なくとも1つの場合に、前記視差量に異常があると判定する異常判定部と、
    前記異常判定部により前記視差量に異常がないと判定された場合に、第1の視差調整を行い、前記異常判定部により前記視差量に異常があると判定された場合に、前記第1の視差調整の制御と異なる第2の視差調整の制御に切り替えて視差調整を行う視差調整部と、
    前記視差調整部によって前記視差調整が行われた前記連続フレーム画像を出力する出力部と、
    を含む再生装置。
  2. 前記視差調整部は、前記異常判定部により前記視差量に異常があると判定された場合、予め定められた視差量最大変化量の範囲内で視差調整を行う
    請求項1に記載の再生装置。
  3. 前記視差調整部は、前記異常判定部により前記視差量に異常があると判定された場合、前フレームでの視差量を用いて視差調整を行う
    請求項1又は請求項2に記載の再生装置。
  4. 前記視差調整部は、前記異常判定部により前記視差量に異常があると判定された場合、視差調整頻度を低下させる
    請求項1〜請求項3の何れか1項に記載の再生装置。
  5. 前記視差量取得部は、前記フレーム画像内において視差量の取得対象の被写体像として予め定められた被写体像に基づいて視差量を取得する請求項1〜請求項4の何れか1項に記載の再生装置。
  6. 前記予め定められた被写体像を、前記フレーム画像内の所定値の空間周波数で規定される閉曲線領域に基づく被写体像とした請求項5記載の再生装置。
  7. 複数の視点から同一の被写体が連続フレームで撮像された複数視点の連続フレーム画像を入力する入力部と、
    前記入力部によって入力された連続フレーム画像を構成するフレーム画像に基づいて所定オブジェクトの視差量を取得する視差量取得部と、
    前記視差量取得部により取得された視差量の一定期間の変動が所定値より大きい場合、前記視差量が予め定められた許容限界値に達した場合、及び前記視差量の取得対象を検出できなくなった場合の少なくとも1つの場合に、前記視差量に異常があると判定する異常判定部と、
    前記異常判定部により前記視差量に異常がないと判定された場合に、前記所定オブジェクトの視差調整を行い、前記異常判定部により前記視差量に異常があると判定された場合に、前記所定オブジェクトと異なる他のオブジェクトを対象として視差調整を行う視差調整部と、
    前記異常判定部により前記視差量に異常がないと判定された場合に、前記視差調整部によって視差調整が行われた前記所定オブジェクトを含む前記フレーム画像を出力し、前記異常判定部により前記視差量に異常があると判定された場合に、前記視差調整部によって視差調整が行われた前記他のオブジェクトを含む前記フレーム画像を出力する出力部と、
    を含む再生装置。
  8. 前記視差調整部は、前記フレーム画像の画像面に垂直な方向において前記所定オブジェクトと最も距離が近いオブジェクトを前記他のオブジェクトとする
    請求項7に記載の再生装置。
  9. 前記視差調整部は、前記フレーム画像の画像面上において前記所定オブジェクトと最も距離が近いオブジェクトを前記他のオブジェクトとする
    請求項7に記載の再生装置。
  10. 前記所定オブジェクト及び前記他のオブジェクトの少なくとも一方を、前記フレーム画像内の所定値の空間周波数で規定される閉曲線領域に基づく被写体像とした請求項7〜請求項9の何れか1項に記載の再生装置。
  11. 前記出力部により出力された前記フレーム画像を、立体視画像として視認されるように表示する表示部を更に含む請求項1〜請求項10の何れか1項に記載の再生装置。
  12. 請求項1〜請求項11の何れか1項に記載の再生装置と、
    前記連続フレーム画像を、複数の視点から同一の被写体を連続フレームで撮像することにより生成する撮像部と、
    を含む複眼撮像装置。
  13. 複数の視点から同一の被写体が連続フレームで撮像された複数視点の連続フレーム画像を入力し、
    入力された連続フレーム画像を構成するフレーム画像に基づいて視差量を取得し、
    前記取得した前記視差量の一定期間の変動が所定値より大きい場合、前記視差量が予め定められた許容限界値に達した場合、及び前記視差量の取得対象を検出できなくなった場合の少なくとも1つの場合に、前記視差量に異常があると判定し、
    前記視差量に異常がないと判定した場合に、第1の視差調整を行い、前記視差量に異常があると判定した場合に、前記第1の視差調整の制御と異なる第2の視差調整の制御に切り替えて視差調整を行い、
    前記視差調整が行われた前記連続フレーム画像を出力する
    再生方法。
  14. 複数の視点から同一の被写体が連続フレームで撮像された複数視点の連続フレーム画像を入力し、
    入力された連続フレーム画像を構成するフレーム画像に基づいて所定オブジェクトの視差量を取得し、
    前記取得した前記視差量の一定期間の変動が所定値より大きい場合、前記視差量が予め定められた許容限界値に達した場合、及び前記視差量の取得対象を検出できなくなった場合の少なくとも1つの場合に、前記視差量に異常があると判定し、
    前記視差量に異常がないと判定した場合に、前記所定オブジェクトの視差調整を行い、前記視差量に異常があると判定した場合に、前記所定オブジェクトと異なる他のオブジェクトを対象として視差調整を行い、
    前記視差量に異常がないと判定された場合に、前記視差調整が行われた前記所定オブジェクトを含む前記フレーム画像を出力し、前記視差量に異常があると判定された場合に、前記視差調整が行われた前記他のオブジェクトを含む前記フレーム画像を出力する
    再生方法。
  15. コンピュータを、
    複数の視点から同一の被写体が連続フレームで撮像された複数視点の連続フレーム画像を入力する入力部、
    前記入力部によって入力された連続フレーム画像を構成するフレーム画像に基づいて視差量を取得する視差量取得部、
    前記視差量取得部により取得された視差量の一定期間の変動が所定値より大きい場合、前記視差量が予め定められた許容限界値に達した場合、及び前記視差量の取得対象を検出できなくなった場合の少なくとも1つの場合に、前記視差量に異常があると判定する異常判定部、
    前記異常判定部により前記視差量に異常がないと判定された場合に、第1の視差調整を行い、前記異常判定部により前記視差量に異常があると判定された場合に、前記第1の視差調整の制御と異なる第2の視差調整の制御に切り替えて視差調整を行う視差調整部、
    及び前記視差調整部によって前記視差調整が行われた前記連続フレーム画像を出力する出力部として機能させるためのプログラム。
  16. コンピュータを、
    複数の視点から同一の被写体が連続フレームで撮像された複数視点の連続フレーム画像を入力する入力部と、
    前記入力部によって入力された連続フレーム画像を構成するフレーム画像に基づいて所定オブジェクトの視差量を取得する視差量取得部、
    前記視差量取得部により取得された視差量の一定期間の変動が所定値より大きい場合、前記視差量が予め定められた許容限界値に達した場合、及び前記視差量の取得対象を検出できなくなった場合の少なくとも1つの場合に、前記視差量に異常があると判定する異常判定部、
    前記異常判定部により前記視差量に異常がないと判定された場合に、前記所定オブジェクトの視差調整を行い、前記異常判定部により前記視差量に異常があると判定された場合に、前記所定オブジェクトと異なる他のオブジェクトを対象として視差調整を行う視差調整部、
    及び前記異常判定部により前記視差量に異常がないと判定された場合に、前記視差調整部によって視差調整が行われた前記所定オブジェクトを含む前記フレーム画像を出力し、前記異常判定部により前記視差量に異常があると判定された場合に、前記視差調整部によって視差調整が行われた前記他のオブジェクトを含む前記フレーム画像を出力する出力部として機能させるためのプログラム。
JP2012522491A 2010-06-30 2011-04-12 再生装置、複眼撮像装置、再生方法及びプログラム Expired - Fee Related JP5420076B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012522491A JP5420076B2 (ja) 2010-06-30 2011-04-12 再生装置、複眼撮像装置、再生方法及びプログラム

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2010149859 2010-06-30
JP2010149859 2010-06-30
JP2012522491A JP5420076B2 (ja) 2010-06-30 2011-04-12 再生装置、複眼撮像装置、再生方法及びプログラム
PCT/JP2011/059112 WO2012002020A1 (ja) 2010-06-30 2011-04-12 再生装置、複眼撮像装置、再生方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2012002020A1 true JPWO2012002020A1 (ja) 2013-08-22
JP5420076B2 JP5420076B2 (ja) 2014-02-19

Family

ID=45401757

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012522491A Expired - Fee Related JP5420076B2 (ja) 2010-06-30 2011-04-12 再生装置、複眼撮像装置、再生方法及びプログラム

Country Status (4)

Country Link
US (1) US9258552B2 (ja)
JP (1) JP5420076B2 (ja)
CN (1) CN102972036B (ja)
WO (1) WO2012002020A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5536283B2 (ja) * 2011-06-06 2014-07-02 富士フイルム株式会社 画像加工装置、複眼撮像装置、画像加工方法及びプログラム
JP5181083B1 (ja) * 2012-01-19 2013-04-10 パナソニック株式会社 立体画像表示制御装置、立体画像表示制御方法、及びプログラム
WO2013108298A1 (ja) * 2012-01-19 2013-07-25 パナソニック株式会社 立体画像表示制御装置、立体画像表示制御方法、及びプログラム
US9818040B2 (en) * 2013-06-20 2017-11-14 Thomson Licensing Method and device for detecting an object
US9503705B2 (en) * 2013-12-12 2016-11-22 Lenovo (Singapore) Pte. Ltd. Stereoscopic image generation
KR101832189B1 (ko) * 2015-07-29 2018-02-26 야마하하쓰도키 가부시키가이샤 이상화상 검출장치, 이상화상 검출장치를 구비한 화상 처리 시스템 및 화상 처리 시스템을 탑재한 차량
US9507241B1 (en) 2015-11-17 2016-11-29 Lenovo (Singapore) Pte, Ltd. Adjustable camera field of view
CN110583398B (zh) * 2019-10-16 2021-06-04 淮阴师范学院 苏北地区基于消纳规模化猪场沼液的水稻栽培方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11355808A (ja) * 1998-06-04 1999-12-24 Olympus Optical Co Ltd 映像システム
JP2003018619A (ja) * 2001-07-03 2003-01-17 Olympus Optical Co Ltd 立体映像評価装置およびそれを用いた表示装置
JP2008092515A (ja) * 2006-10-05 2008-04-17 Nikon Corp 電子カメラ、画像処理装置およびプログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4736247A (en) * 1987-05-04 1988-04-05 The United States Of America As Represented By The Administrator Of The National Aeronautics And Space Administration Range and range rate system
JPH1040420A (ja) * 1996-07-24 1998-02-13 Sanyo Electric Co Ltd 奥行き感制御方法
US6895181B2 (en) * 2002-08-27 2005-05-17 Olympus Corporation Camera and distance measuring method thereof
JP2004221700A (ja) 2003-01-09 2004-08-05 Sanyo Electric Co Ltd 立体画像処理方法および装置
JP4133683B2 (ja) 2003-08-26 2008-08-13 シャープ株式会社 立体画像記録装置、立体画像記録方法、立体画像表示装置および立体画像表示方法
JP2005353047A (ja) * 2004-05-13 2005-12-22 Sanyo Electric Co Ltd 立体画像処理方法および立体画像処理装置
KR100896030B1 (ko) * 2004-10-20 2009-05-11 후지쓰 텐 가부시키가이샤 차량 탑재용 표시 장치
JP2010045584A (ja) * 2008-08-12 2010-02-25 Sony Corp 立体画像補正装置、立体画像補正方法、立体画像表示装置、立体画像再生装置、立体画像提供システム、プログラム及び記録媒体

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11355808A (ja) * 1998-06-04 1999-12-24 Olympus Optical Co Ltd 映像システム
JP2003018619A (ja) * 2001-07-03 2003-01-17 Olympus Optical Co Ltd 立体映像評価装置およびそれを用いた表示装置
JP2008092515A (ja) * 2006-10-05 2008-04-17 Nikon Corp 電子カメラ、画像処理装置およびプログラム

Also Published As

Publication number Publication date
WO2012002020A1 (ja) 2012-01-05
CN102972036A (zh) 2013-03-13
JP5420076B2 (ja) 2014-02-19
US20130113901A1 (en) 2013-05-09
CN102972036B (zh) 2016-08-31
US9258552B2 (en) 2016-02-09

Similar Documents

Publication Publication Date Title
JP5420076B2 (ja) 再生装置、複眼撮像装置、再生方法及びプログラム
JP5963422B2 (ja) 撮像装置、表示装置、コンピュータプログラムおよび立体像表示システム
US9560341B2 (en) Stereoscopic image reproduction device and method, stereoscopic image capturing device, and stereoscopic display device
US8294711B2 (en) Device, method, and program for three-dimensional imaging by reducing or eliminating parallax during a zoom operation
JP5420075B2 (ja) 立体画像再生装置、その視差調整方法、視差調整プログラム、及び撮影装置
US8130259B2 (en) Three-dimensional display device and method as well as program
JP5295426B2 (ja) 複眼撮像装置、その視差調整方法及びプログラム
US20130113875A1 (en) Stereoscopic panorama image synthesizing device, multi-eye imaging device and stereoscopic panorama image synthesizing method
JP2010063067A (ja) 画像処理装置および方法並びにプログラム
KR101615152B1 (ko) 화상 처리 장치 및 방법, 화상 재생 장치 및 방법, 그리고 프로그램
US9369699B2 (en) Stereoscopic image display device, stereoscopic imaging device, and methods
JP6113411B2 (ja) 画像処理装置
JP5580486B2 (ja) 画像出力装置、方法およびプログラム
JP5536283B2 (ja) 画像加工装置、複眼撮像装置、画像加工方法及びプログラム
US20130120374A1 (en) Image processing device, image processing method, and image processing program
JP2015029215A (ja) 立体画像処理装置
JP2011223175A (ja) 撮像装置、撮像装置の画像処理方法及びプログラム並びに撮像システム

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131029

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131119

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees