JP2011024122A - 立体画像記録装置及び方法、立体画像出力装置及び方法、並びに立体画像記録出力システム - Google Patents

立体画像記録装置及び方法、立体画像出力装置及び方法、並びに立体画像記録出力システム Download PDF

Info

Publication number
JP2011024122A
JP2011024122A JP2009169293A JP2009169293A JP2011024122A JP 2011024122 A JP2011024122 A JP 2011024122A JP 2009169293 A JP2009169293 A JP 2009169293A JP 2009169293 A JP2009169293 A JP 2009169293A JP 2011024122 A JP2011024122 A JP 2011024122A
Authority
JP
Japan
Prior art keywords
display
image
images
output
stereoscopic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009169293A
Other languages
English (en)
Other versions
JP5249149B2 (ja
Inventor
Mikio Watanabe
幹夫 渡辺
Satoshi Nakamura
敏 中村
Shinno Kanamori
信乃 金森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2009169293A priority Critical patent/JP5249149B2/ja
Priority to EP10251205.0A priority patent/EP2278820A3/en
Priority to US12/831,470 priority patent/US20110012995A1/en
Priority to CN201010231448.6A priority patent/CN101959075B/zh
Publication of JP2011024122A publication Critical patent/JP2011024122A/ja
Application granted granted Critical
Publication of JP5249149B2 publication Critical patent/JP5249149B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/122Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/144Processing image signals for flicker reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/161Encoding, multiplexing or demultiplexing different image signal components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/178Metadata, e.g. disparity information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/189Recording image signals; Reproducing recorded image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/775Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television receiver
    • H04N5/7755Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television receiver the recorder being connected to, or coupled with, the antenna of the television receiver
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/907Television signal recording using static stores, e.g. storage tubes or semiconductor memories
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Abstract

【課題】立体表示に適した複数画像のみを用いて立体画像を表示する。
【解決手段】デジタルカメラは、第1撮影部及び第2撮影部によって異なる視点から被写体を撮影し、視差を有する2つの画像111L、111Rを作成する。デジタルカメラは、作成した2つの画像111L、111Rを1つの3D静止画ファイル110としてメモリカードに記録する際に、2つの画像111L、111Rによる立体表示の適性を表す表示推奨レベルを表示推奨情報としてヘッダ1に記録する。デジタルフォトフレームは、メモリカードに記録された3D静止画ファイル110を再生する際に、ヘッダ1に記録されている表示推奨情報を読み出し、表示推奨レベルに適合した立体画像の再生表示を行う。
【選択図】図12

Description

本発明は、立体画像を作成するために異なる視点から撮影した複数の画像を取り扱う装置及び方法に関し、更に詳しくは、複数の画像を記録する立体画像記録装置及び方法と、複数の画像に基づいて立体画像を出力する立体画像出力装置及び方法と、複数画像の記録と立体画像の出力とを行う立体画像記録出力システムとに関する。
2つの撮影部によって異なる視点から同時に被写体を撮影し、2つの画像を作成するデジタルカメラと、この2つの画像を用いて立体表示を行うデジタルフォトフレームと、2つの画像から製作される立体プリントとを備えた3Dデジタル映像システムが知られている(例えば、非特許文献1参照)。このシステムのデジタルカメラによって作成された2つの画像は、異なる視点から撮影することにより視差を生じている。デジタルフォトフレームは、2つの画像が観察者の左右の目によってそれぞれ別々に観察されるように表示する。これにより、観察者は、デジタルカメラにより撮影された画像を立体画像として観察することができる。
立体画像の観察は、通常の2次元画像の観察に比べて目が疲労しやすいことが知られている。これは、観察者の両目から画像までの距離である視距離と、観察者が左右の目で視差のある2つの画像をそれぞれ観察したときに2つの画像が1つに見える距離、すなわち左右の視線が輻輳する輻輳距離とが異なっていることが原因である。また、視距離と輻輳距離との差が大きいほど疲労度が大きくなることも分かっている。輻輳距離は、2つの画像間の視差によって変化する。
立体画像が観察者に与える影響を軽減するため、立体画像の元となる2つの画像間の視差量を検出し、視差量に基づいて疲労度を評価し、疲労度評価量に基づいて立体画像を二次元画像に切り替える映像システムが発明されている(例えば、特許文献1参照)。
特開平11−355808号公報
3Dデジタル映像システム、[online]、[平成21年7月6日検索]、インターネット(http://www.fujifilm.co.jp/corporate/news/article/ffnr0226.html)
特許文献1記載の発明は、視差量に基づいた疲労度評価量に基づいて立体画像を予告なく2次元画像に切り替えるので、観察者は、立体画像と二次元画像とを混在した状態で観察することになる。それにより、立体画像の観察を意図していた観察者に違和感を与えることが懸念される。また、立体画像と二次元画像とを混在して観察することにより、立体画像のみを観察している場合よりも目の疲労が大きくなることも考えられる。
本発明の目的は、立体表示に適した複数画像のみを用いて立体画像を表示することにある。
本発明の立体画像記録装置は、異なる視点から撮影した複数の画像から互いに対応する対応点を抽出し、対応点間の視差量を測定し、視差量とその発生頻度の統計量を求める視差量測定手段と、統計量に基づいて閾値以上の視差量の発生頻度の累計である頻度累計を算出し、頻度累計に基づいて複数の画像による立体表示の適性を判定し、この適性を表す少なくとも2段階以上の表示推奨レベルから判定結果に適合した表示推奨レベルを決定する立体表示適性判定手段と、複数の画像に表示推奨レベルを表す表示推奨情報を付加し、複数の画像を記憶する画像記憶手段とを備えている。
また、立体表示適性判定手段は、算出した頻度累計と、頻度累計閾値とを比較して表示推奨レベルを決定している。表示推奨レベルは、頻度累計が頻度累計閾値よりも小さいほど高くなり、頻度累計が頻度累計閾値よりも大きいほど低くなることが好ましい。
複数の画像による立体画像が、複数の画像フレームを順次に出力させる動画であるときには、視差量測定手段は、画像フレームごとに視差量の測定及び視差量の統計量を算出し、立体表示適性判定手段は、画像フレームごとに表示推奨レベルを決定することが好ましい。
画像記憶手段は、複数の画像と表示推奨情報とを1つの画像ファイルとして記憶することが好ましい。
また、本発明の立体画像記録方法は、異なる視点から撮影した複数の画像から互いに対応する対応点を抽出し、対応点間の視差量を測定し、視差量とその発生頻度の統計量を求める視差量測定工程と、統計量に基づいて閾値以上の視差量の発生頻度の累計である頻度累計を算出し、頻度累計に基づいて複数の画像による立体表示の適性を判定し、この適性を表す少なくとも2段階以上の表示推奨レベルから判定結果に適合した表示推奨レベルを決定する立体表示適性判定工程と、複数の画像に表示推奨レベルを表す表示推奨情報を付加し、複数の画像を記憶する記憶工程とを備えている。
また、本発明の立体画像出力装置は、異なる視点から撮影した複数の画像に付加されている表示推奨情報を読み取り、表示推奨情報から複数の画像による立体表示適性を判断し、立体表示適性に基づいて、複数の画像により立体画像を出力する出力手段の出力状態を切り換える出力制御手段を備えている。
出力制御手段は、表示推奨情報に基づいて、複数の画像による立体画像の出力を行うか否かを判定し、出力すると判定した立体画像を出力手段に出力させることが好ましい。また、出力制御手段は、表示推奨情報に基づいて、出力手段により出力される立体画像のサイズ又は再生時間を切り換えてもよい。また、出力制御手段は、出力手段により出力される立体画像が、複数の画像フレームを順次に出力させる動画であるときには、表示推奨情報に基づいて、画像フレームごとに出力するか否かを判定し、画像フレームを出力しないときには、その直前に出力した画像フレームの出力を継続させてもよい。
出力制御手段は、表示推奨情報により表される表示推奨レベルと、複数の画像を格納した画像ファイル数との相関を表すグラフを表示することが好ましい。
本発明の立体画像出力方法は、異なる視点から撮影した複数の画像に付加されている表示推奨情報を読み取る工程と、表示推奨情報から前記複数の画像による立体表示適性を判断する工程と、立体表示適性に基づいて、複数の画像による立体画像の出力状態を切り換える工程とを備えている。
本発明の立体画像記録出力システムは、異なる視点から撮影した複数の画像から互いに対応する対応点を抽出し、対応点間の視差量を測定し、視差量とその発生頻度の統計量を求める視差量測定手段と、統計量に基づいて閾値以上の視差量の発生頻度の累計である頻度累計を算出し、頻度累計に基づいて複数の画像による立体表示の適性を判定し、この適性を表す少なくとも2段階以上の表示推奨レベルから判定結果に適合した表示推奨レベルを決定する立体表示適性判定手段と、複数の画像に前記表示推奨レベルを表す表示推奨情報を付加し、複数の画像を記憶する画像記憶手段とを備えた立体画像記録装置を有している。また、複数の画像に付加されている表示推奨情報を読み取り、表示推奨情報から複数の画像による立体表示適性を判断し、立体表示適性に基づいて、複数の画像により立体画像を出力する出力手段の出力状態を切り換える出力制御手段を備えている。
本発明によれば、異なる視点から撮影した視差を有する2つの画像に、立体表示適性を表す表示推奨レベルを付すことができる。これにより、2つの画像による立体表示に対する適性を客観的に評価することができる。また、2つの画像による立体画像を出力する際に、表示推奨レベルを参照して出力状態を切り換えることができるので、立体表示適性に合わせて最適な立体画像の出力を行うことができる。
本発明を実施した立体画像撮影・再生システムの構成を示す斜視図である。 視差を有する2つの画像を用いた立体画像の表示原理を示す説明図である。 デジタルカメラの構成を示すブロック図である。 デジタルカメラにより撮影された2つの画像と、これらの画像間で検出された対応点及び視差量とを示す画像図である。 デジタルカメラによる撮影手順を示すフローチャートである。 3D静止画撮影時の表示推奨レベルの判定手順を示すフローチャートである。 視差量ヒストグラムの算出手順を示すフローチャートである。 人物と景色等の背景からなるシーンを撮影した画像の視差量ヒストグラムである。 建物と均一なテクスチャの背景とからなるシーンを撮影した画像の視差量ヒストグラムである。 全体的に煩雑なシーンを撮影した画像の視差量ヒストグラムである。 人物と均一なテクスチャの背景とからなるシーンを撮影した画像の視差量ヒストグラムである。 3D静止画撮影により作成された3D静止画ファイルの構成を示すブロック図である。 3D動画撮影時の表示推奨レベルの判定手順を示すフローチャートである。 3D動画撮影により作成された3D動画ファイルの構成を示すブロック図である。 デジタルフォトフレームの構成を示すブロック図である。 デジタルフォトフレームにより3D静止画ファイルを表示推奨リストに登録する手順を示すフローチャートである。 デジタルフォトフレームにより3D動画ファイルを表示推奨リストに登録する手順を示すフローチャートである。 デジタルフォトフレームにより立体画像表示を行う第1実施形態の手順を示すフローチャートである。 デジタルフォトフレームにより立体画像表示を行う第2実施形態の手順を示すフローチャートである。 第2実施形態により切り換えられる表示サイズを示す説明図である。 デジタルフォトフレームにより立体画像表示を行う第3実施形態の手順を示すフローチャートである。 デジタルフォトフレームに表示される表示推奨レベルと画像ファイル数との相関を表すグラフである。
図1は、本発明の立体画像記録出力システムを実施した立体画像撮影・再生システム10の構成を示している。立体画像撮影・再生システム10は、本発明の立体画像記録装置に相当するデジタルカメラ11と、立体画像出力装置に相当するデジタルフォトフレーム12とから構成されている。
デジタルカメラ(以下、カメラと呼ぶ)11は、水平方向において離れて配置された第1撮影部15L及び第2撮影部15Rによって同一の被写体を異なる視点から同時に撮像し、視差を有する2つの画像を作成する。デジタルフォトフレーム(以下、フレームと呼ぶ)12は、カメラ11により作成された2つの画像が観察者の左右の目によってそれぞれ別々に観察されるようにLCDパネル17を用いて再生表示し、観察者に立体画像を観察させる。
図2(A)、(B)は、フレーム12による立体画像の観察原理を示しており、同図(A)は立体画像として観察する左右の画像20L、20Rを、同図(B)はその観察状態をそれぞれ示している。符号21L、21Rはそれぞれ観察者の左目および右目を示し、符号22は左目用の画像20Lと右目用の画像20Rとを重ねて表示する表示画面を示している。また、符号23は同図(A)に示した右側の画像20Rの図形Aを示し、符号24は同じく左側の画像20Lの図形Aを示している。
図2(B)に示すように、左右の図形Aの位置がずれているため、これに注目したとき観察者の視線は画面よりも手前で交差し、図形Aの立体像は画面より手前に飛び出して見える。ここでは、この視線の輻輳する角度を輻輳角、また左右の位置ずれを視差と呼ぶ。一方、目のピント調節は画面22上に合っているので、目のピントが合う視距離と、目から視線の交差する点までの輻輳距離とは異なることになる。このような観察状態は日常では生じないため、見辛さや不自然さを感じることがあり、視距離と輻輳距離との差が大きくなるほど目が疲れやすくなる。
本発明は、視距離と輻輳距離との差が視差量に影響を受けることに着目し、第1撮影部15L及び第2撮影部15Rによって撮影した2つの画像の視差量に基づいて、立体表示適性を判定している。
カメラ11の前面上部には、上述した第1撮影部15L及び第2撮影部15Rが配置されている。カメラ11の上面には、電源/モードスイッチ27と、レリーズボタン28とが設けられている。カメラ11の一方の側面には、画像記録用のメモリカード29が装填されるカードスロット30が設けられている。また、詳しくは図示しないが、カメラ11の背面には、カメラ11の各種操作に用いられる操作部31(図2参照)と、画像表示部32(図2参照)とが設けられている。画像表示部32は、撮影時にはビューファインダとして、撮影後には画像観察用のモニタとして用いられる。
図2は、カメラ11の構成を示すブロック図である。カメラ11は、第1撮影部15L及び第2撮影部15Rによって静止画を撮影することにより作成された2つの視差を有する画像を、1つの画像ファイルである3D静止画ファイルとして記録することができる。また、カメラ11は、第1撮影部15L及び第2撮影部15Rによって動画を撮影することにより作成された2つの視差を有する複数フレームの画像を、1つの画像ファイルである3D動画ファイルとして記録することができる。
メインCPU(以下、CPUと呼ぶ)35は、操作部31からの入力に基づき所定の制御プログラムに従ってカメラ11全体の動作を統括制御する。CPU35には、システムバス36を介してROM37、EEPROM38及びワークメモリ39が接続されている。ROM37には、CPU35が実行する制御プログラム及び制御に必要な各種データ等が格納される。EEPROM38には、ユーザ設定情報等のカメラ11の動作に関する各種設定情報等が格納される。ワークメモリ39は、CPU35の演算作業用領域及び画像データの一時記憶領域を含んでいる。
操作部31は、ユーザが各種の操作入力を行うための手段であり、上述した電源/モードスイッチ27、レリーズボタン28、モードダイヤル等を含んでいる。電源/モードスイッチ27は、カメラ11の電源のオン/オフの切り替え、及びカメラ11の動作モード(再生モード及び撮影モード)を切り換える。電源/モードスイッチ27がオンになると、電源回路42からカメラ11の各部への電力の供給が開始され、カメラ11の各種の動作が開始される。また、電源/モードスイッチ27がオフになると、電源回路42からカメラ11の各部への電力の供給が停止される。
モードダイヤルは、カメラ11の撮影モードを切り替えるための操作手段であり、モードダイヤルの設定位置に応じて撮影モードが切り替わる。モードダイヤルにより設定される撮影モードとしては、例えば、2次元の静止画を撮影する2D静止画撮影モード、2次元の動画を撮影する2D動画撮影モード、3次元の静止画を撮影する3D静止画撮影モード及び3次元の動画を撮影する3D動画撮影モードの間で撮影モード等がある。
撮影モードが2D静止画撮影モード又は2D動画撮影モードに設定されると、撮影モード管理フラグ45に、2次元画像を撮影するための2Dモードであることを示すフラグが設定される。また、撮影モードが3D静止画撮影モード又は3D動画撮影モードに設定されると、撮影モード管理フラグ45に、3次元画像を撮影するための3Dモードであることを示すフラグが設定される。CPU35は、撮影モード管理フラグ45を参照して、撮影モードの設定を判別する。
レリーズボタン28は、いわゆる「半押し」と「全押し」とからなる2段ストローク式のスイッチで構成されている。静止画撮影モード時には、レリーズボタン28が半押しされると、撮影準備処理(例えば、AE(Automatic Exposure:自動露出)処理、AF(Auto Focus:自動焦点合わせ)処理、AWB(Automatic White Balance:自動ホワイトバランス)処理)が行われる。また、レリーズボタン28が全押しされると、静止画の撮影・記録処理が行われる。また、動画撮影モード時には、レリーズボタン28が全押しされると動画の撮影が開始され、再度全押しされると動画の撮影が終了する。なお、静止画撮影用のレリーズボタン及び動画撮影用のレリーズボタンを別々に設けてもよい。
画像表示部32は、パララックスバリア式、あるいはレンチキュラーレンズ式の3Dモニタであり、撮影時及び再生時には第1撮影部15L及び第2撮影部15Rにより作成された2つの画像によって立体表示を行う。
縦/横撮り検出回路48は、例えば、カメラ11の向きを検出するためのセンサを含んでおり、カメラ11の向きの検出結果をCPU35に入力する。CPU35は、カメラ11の向きに応じて縦撮りと横撮りの切り替えを行う。
次に、カメラ11の撮影機能について説明する。なお、図2では、各撮影部15L及び15R内の各部にそれぞれ符号L及びRを付して区別しているが、各部の機能は略同様であるため、以下の説明では、符号L及びRを省略して説明する。
撮影レンズ51は、ズームレンズ、フォーカスレンズ及び絞りを備えている。ズームレンズ及びフォーカスレンズは、各撮影部の光軸(図中のLL及びLR)に沿って前後に移動する。CPU35は、測光・測距CPU52を介して不図示のズームアクチュエータの駆動を制御することにより、ズームレンズの位置を制御してズーミングを行い、測光・測距CPU52を介してフォーカスアクチュエータの駆動を制御することにより、フォーカスレンズの位置を制御してフォーカシングを行う。また、CPU35は、測光・測距CPU52を介して絞り制御53を駆動させることにより、絞りの開口量(絞り値)を制御し、撮像素子54への入射光量を制御する。
CPU35は、3Dモード時に複数の画像を撮影する場合に、各撮影部15L及び15Rの撮影レンズ51L及び51Rを同期させて駆動する。すなわち、撮影レンズ51L及び51Rは、常に同じ焦点距離(ズーム倍率)に設定される。また、常に同じ入射光量(絞り値)となるように絞りが調整される。更に、3Dモード時には、常に同じ被写体にピントが合うように焦点調節が行われる。
フラッシュ発光部57は、例えば、放電管(キセノン管)により構成され、暗い被写体を撮影する場合や逆光時等に必要に応じて発光される。充電/発光制御部58は、フラッシュ発光部57を発光させるための電流を供給するためのメインコンデンサを含んでいる。CPU35は、測光・測距CPU52にフラッシュ発光指令を送信して、メインコンデンサの充電制御、フラッシュ発光部57の放電(発光)のタイミング及び放電時間の制御等を行う。なお、フラッシュ発光部57としては、発光ダイオードを用いてもよい。
撮影部15は、被写体に光を照射するための距離用発光素子61(例えば、発光ダイオード)と、上記距離用発光素子61により光が照射された被写体の画像(測距用画像)を撮影する距離用撮像素子62とを備えている。距離用駆動/制御回路63は、CPU35からの指令に基づいて、所定のタイミングで距離用発光素子61を発光させるとともに、距離用撮像素子62を制御して測距用画像を撮影させる。
距離用撮像素子62によって撮影された測距用画像は、A/D変換器66によりデジタルデータに変換されて、距離情報処理回路67に入力される。距離情報処理回路67は、距離用撮像素子62から取得した測距用画像を用いて、いわゆる三角測距の原理に基づいて、撮影部15L及び15Rによって撮影された被写体とカメラ11との間の距離(被写体距離)を算出する。距離情報処理回路67によって算出された被写体距離は、距離情報記録回路68に記録される。
なお、被写体距離の算出方法としては、距離用発光素子61が発光してから、距離用発光素子61によって照射された光が被写体によって反射され、距離用撮像素子62に届くまでの光の飛行時間(遅れ時間)と光の速度から被写体距離を算出するTOF(Time of Flight)法を用いてもよい。
また、撮影部15は、間隔/輻輳角駆動回路71及び間隔/輻輳角検出回路72を備えている。間隔/輻輳角駆動回路71L及び71Rは、それぞれ撮影部15L及び15Rを駆動する。CPU35は、間隔/輻輳角制御回路73を介して間隔/輻輳角駆動回路71L及び71Rを動作させて、撮影レンズ51Lと51Rとの間隔及び輻輳角を調整する。
間隔/輻輳角検出回路72L及び72Rは、例えば、電波を送受信する手段を含んでいる。CPU35は、間隔/輻輳角制御回路73を介して間隔/輻輳角検出回路72L及び72Rを動作させて、電波を相互に送受信させることにより、撮影レンズ51Lと51Rとの間隔及び輻輳角を測定する。撮影レンズ51Lと51Rとの間隔及び輻輳角の測定結果は、レンズ間隔・輻輳角記憶回路74に記憶される。
撮像素子54は、例えば、CCDにより構成されている。撮像素子54の受光面には、多数のフォトダイオードが2次元的に配列されており、各フォトダイオードには所定の配列で3原色(R、G、B)のカラーフィルタが配置されている。撮影レンズ51によって撮像素子54の受光面上に結像された被写体の光学像は、このフォトダイオードによって入射光量に応じた信号電荷に変換される。各フォトダイオードに蓄積された信号電荷は、CPU35の指令に従ってTG77から与えられる駆動パルスに基づいて信号電荷に応じた電圧信号(R、G、B信号)として撮像素子54から順次読み出される。撮像素子54は、電子シャッタ機能を備えており、フォトダイオードへの電荷蓄積時間を制御することにより、露光時間(シャッタ速度)が制御される。
なお、撮像素子54としては、CMOSセンサ等のCCD以外の撮像素子を用いることもできる。
アナログ信号処理部80は、撮像素子54から出力されたR、G、B信号に含まれるリセットノイズ(低周波)を除去するための相関2重サンプリング回路(CDS)、R、G、B信号を増幅して一定レベルの大きさにコントロールするためのAGS回路を含んでいる。撮像素子54から出力されるアナログのR、G、B信号は、アナログ信号処理部80によって相関2重サンプリング処理されるとともに増幅される。アナログ信号処理部80から出力されたアナログのR、G、B信号は、A/D変換器81によってデジタルのR、G、B信号に変換されて、画像入力コントローラ(バッファメモリ)82に入力される。
デジタル信号処理部85は、同時化回路(単板CCDのカラーフィルタ配列に伴う色信号の空間的なズレを補間して色信号を同時式に変換する処理回路)、ホワイトバランス調整回路、階調変換処理回路(ガンマ補正回路)、輪郭補正回路、輝度・色差信号生成回路等を含んでいる。画像入力コントローラ82に入力されたデジタルのR、G、B信号は、デジタル信号処理部85によって、同時化処理、ホワイトバランス調整、階調変換及び輪郭補正等の所定の処理が施されるとともに、輝度信号(Y信号)及び色差信号(Cr、Cb信号)からなるY/C信号に変換される。Y/C信号は、ワークメモリ39に記憶される。
スルー画を画像表示部32に表示する場合、デジタル信号処理部85において生成されたY/C信号がバッファメモリ88に順次供給される。表示コントローラ89は、バッファメモリ88に供給されたY/C信号を読み出してYC−RGB変換部90に出力する。YC−RGB変換部90は、表示コントローラ89から入力されたY/C信号をR、G、B信号に変換してドライバ91を介して画像表示部32に出力する。これにより、画像表示部32にスルー画が表示される。
再生モード時には、メモリカード29に記録されている最終の画像ファイル(最後に記録された画像ファイル)が、メモリコントローラ94によりインターフェース部(I/F)95を介してバッファメモリ96に読み出され、圧縮・伸張処理部97によって非圧縮のY/C信号に伸張された後、バッファメモリ88に入力される。表示コントローラ89は、バッファメモリ88に供給されたY/C信号を読み出してYC−RGB変換部90に出力する。YC−RGB変換部90は、表示コントローラ89から入力されたY/C信号をR、G、B信号に変換してドライバ91を介して画像表示部32に出力する。これにより、メモリカード29に記録されている画像ファイルが画像表示部32に表示される。
次に、画像の撮影及び記録処理について説明する。2Dモード時には、所定の1つの撮影部(例えば、15L)により記録用の画像が撮影される。2Dモード時に、撮影部15Lによって撮影された画像は、圧縮・伸張処理部97Lによって圧縮される。この圧縮画像データは、メモリコントローラ94及びI/F95を介して、所定形式の画像ファイルとしてメモリカード29に記録される。例えば、静止画についてはJPEG(Joint Photographic Experts Group)、動画についてはMPEG2又はMPEG4、H.264規格に準拠した圧縮画像ファイルとして記録される。
次に、3D静止画撮影モードでの画像の撮影及び記録処理について説明する。図5に示すように、レリーズボタン28が全押しされると(S10)、撮影部15L及び15Rによって同期して画像が撮影される(S11)。なお、3D静止画撮影モード時には、AF処理及びAE処理は、撮影部15L及び15Rのいずれか一方によって取得された画像信号に基づいて行われる。各撮影部15L及び15Rによって撮影された2つの画像は、デジタル信号処理部85による各種画像処理を経てワークメモリ39に書き込まれる。
視差量測定回路100及び立体表示適性判定回路101は、各撮影部15L及び15Rによって撮影された2つの画像による立体表示の適性を判定し、この適性を表す表示推奨レベルを決定する(S12)。立体表示適性は、第1撮影部15L及び第2撮影部15Rによって撮影した2つの画像の視差量に基づいて判定される。
図4は、第1撮影部15L及び第2撮影部15Rにより撮影された画像103L及び103Rを示している。図6は、表示推奨レベル判定(S12)の手順を示す。視差量測定回路100は、ワークメモリ39に記憶されている画像103L及び103Rを読み出し(S15)、これらの画像103L及び103R間の視差量のヒストグラムF(ΔP)を算出する(S16)。
図7に示すように、視差量測定回路100は、例えばブロックマッチング等の手法を用いて画像103L、103R間の相互に対応する対応点を抽出する(S24)。視差量測定回路100は、画像103L及び103Rのいずれか一方を基準画像とし、他方を探索画像と規定する。次いで、基準画像内からエッジ等の特徴点を複数抽出し、基準画像を複数の領域(ブロック)に分割する。そして、分割した領域をテンプレート画像として、探索画像の中からテンプレート画像に対応する領域を探索する。この対応領域の探索には、画素値の差の2乗和を求めるSSD(Sum of Squared Difference)、画素値の差の絶対値の総和を求めるSAD(Sum of Absolute Difference)等を用いることができる。視差量測定回路100は、見つかった探索領域内から基準画像の特徴点に対応する対応点を抽出する。
図4は、例えば画像103Lを基準画像、画像103Rを探索画像として特徴点及び対応点を抽出した例を示しており、基準画像103Lの特徴点P_L(xL,y)に対し、探索画像103Rの対応点P_R(xR,y)が抽出されている。視差量測定回路100は、特徴点P_L(xL,y)と対応点P_R(xR,y)との間の距離、例えば「xL−xR」の絶対値を視差量ΔPとして測定する(S25)。なお、図4では、図面の煩雑化を避けるため、特徴点及び対応点を1点ずつしか図示していないが、実際には多数の特徴点及び対応点が抽出され、各点の間の視差量が測定される。
次いで、視差量測定回路100は、測定した視差量ΔPと、その発生頻度Fとのヒストグラム(統計量)F(ΔP)を算出する(S26)。ヒストグラムF(ΔP)の算出は、例えば、同じ値の視差量が測定されたときに、その視差量の頻度Fに1を加算する。視差量の測定(S24)からヒストグラムの算出(S26)までの各ステップは、基準画像103Lの全ブロックにおいて対応点の抽出が完了するまで繰り返される(S27、S28)。
図8〜11は、視差量測定回路100によって算出された視差量ヒストグラムの1例である。図8は、例えば人物と景色等の背景とからなるシーンを撮影した画像のヒストグラムである。このようなシーンでは、主要な被写体である人物とともに背景からも多数の特徴点及び対応点が抽出されるため、多数の視差量において発生頻度のピークが得られる。また、図9は、例えば建物と、のっぺりとした均一なテクスチャの背景とからなるシーンを撮影した画像のヒストグラムである。このようなシーンでは、主要な被写体である建物から多数の特徴点及び対応点が抽出され、背景からの抽出数が少なくなるため、視差量の発生頻度のピークは限定的になる。
図10は、例えば全体的に絵柄が煩雑で情報量の多いシーンを撮影した画像の視差量ヒストグラムである。このようなシーンでは、画像全体において多数の特徴点及び対応点が抽出されるため、多数の視差量において発生頻度のピークが得られる。また、図11は、例えば人物と、のっぺりとした均一なテクスチャの背景とからなるシーンを撮影した画像のヒストグラムである。このようなシーンでは、主要な被写体である人物から多数の特徴点及び対応点が抽出され、背景からの抽出数が少なくなるため、視差量の発生頻度のピークは限定的になる。
図6に示すように、立体表示適性判定回路101は、算出した視差量ヒストグラムに基づいて、閾値Th以上の視差量の頻度累計ΣThを算出する(S17)。例えば、図10に示す視差量ヒストグラムを用いて頻度累計ΣThを算出する場合、立体表示適性判定回路101は、視差量ΔPのピーク値を閾値Thとして設定し、この閾値Th以上の頻度Fの累計である頻度累計ΣThを算出する。閾値Thは、視差量ΔPのピーク値に限定されず、複数あるピークの最低値、平均値でもよい。また、シーンに応じて閾値Thの決定基準を変化させてもよい。
立体表示適性判定回路101は、頻度累計ΣThと、ROM37に記憶された頻度累計閾値Th1、Th2とを比較する。なお、頻度累計閾値Th1、h2は、Th1<Th2の関係にある。頻度累計閾値Th1、Th2は、例えば、頻度累計と目の疲労度との関係を官能試験等により明らかにして求めた値を用いることができる。また、2種類の頻度累計閾値を用いているのは、頻度累計ΣThから3段階の表示推奨レベルを設定するためであり、表示推奨レベルのレベル数に応じて頻度累計閾値の数を変化させてもよい。
立体表示適性判定回路101は、最初に頻度累計ΣThと頻度累計閾値Th1とを比較する(S18)。頻度累計ΣThが頻度累計閾値Th1よりも小さい場合には、画像全体の視差量が小さく、目の疲労が小さいことが推定されるため、推奨レベルの高い「表示推奨レベル2」がその画像に設定される(S19)。
また、立体表示適性判定回路101は、頻度累計ΣThが頻度累計閾値Th1よりも大きい場合には、頻度累計ΣThと頻度累計閾値Th2とを比較する(S20)。頻度累計ΣThが頻度累計閾値Th2よりも小さい場合には、画像全体としての視差量が平均的であることが推定されるため、推奨レベルが中程度の「表示推奨レベル1」がその画像に設定される(S21)。
更に、立体表示適性判定回路101は、頻度累計ΣThが頻度累計閾値Th2よりも大きい場合には、画像全体としての視差量が大きく、目が疲れやすいことが推定されるため、推奨レベルが低い「表示推奨レベル0」がその画像に設定される(S22)。
表示推奨レベル判定の終了後、画像103L,103Rは、それぞれ圧縮・伸張処理部97L及び97Rによって圧縮され、1つの3D静止画ファイルに格納されてメモリカード29に記録される。また、3D画像ファイルには、2視点の圧縮画像データとともに、被写体距離情報、撮影レンズ51L及び51Rの基線長(間隔)及び輻輳角に関する情報が格納される(S13)。
図12は、3D静止画撮影により作成された3D静止画ファイル110の構成を示している。画像ファイルである3D静止画ファイル110は、左側画像103L及び右側画像103Rの画像データ111L及び111Rと、画像データ111L及び111Rの先頭に配された「ヘッダ1」112L、「ヘッダ2」112Rとから構成されている。
「ヘッダ1」112Lは、データ先頭から「ヘッダ2」112Rの先頭までのオフセット量と、左側画像データ111Lの属性とが記録されている。なお、「OR−1」は、3D静止画ファイル110への格納時に左側画像データ111Lに付与される画像名の一例である。
左側画像データ111Lの属性には、視点順序、3D撮影条件、2D撮影条件、表示推奨レベルが含まれている。視点順序とは、左右いずれの画像であるかを表しており、左側画像には「視点順序1」が付与され、右側画像には「視点順序2」が付与される。3D撮影条件は、例えば、第1撮影部15L及び第2撮影部15Rの基線長、輻輳角、被写体距離情報であり、立体表示時に必要な情報である。2D撮影条件は、シャッタスピード、露出であり、再生表示及びプリント時の画質調整に必要な情報である。表示推奨レベルは、立体表示適性判定回路101によって判定されたレベル値であり、フレーム12等で立体表示を行う際に参照される。
「ヘッダ2」112Rには、右側画像データ111Rの属性が記録されている。属性の項目は、視点順序及び2D撮影条件であり、内容的には「ヘッダ1」112Lと共通している。
次に、3D動画撮影モードでの表示推奨レベル判定と、撮影後に作成される3D動画ファイルの構成について説明する。詳しい説明は省略するが、3D動画撮影を行うと、ワークメモリ39には、第1撮影部15L及び第2撮影部15Rにより撮影された2つの動画が記憶される。図13に示すように、視差量測定回路100は、ワークメモリ39に記憶されている2つの動画から、最初の画像フレームをそれぞれ読み出す。(S30)。
視差量測定回路100は、読み出した2つの画像フレーム間の視差量のヒストグラムF(ΔP)を算出し(S31)、立体表示適性判定回路101は、算出した視差量ヒストグラムに基づいて、閾値Th以上の視差量の頻度累計ΣThを算出する(S32)。次いで、立体表示適性判定回路101は、頻度累計ΣThと、頻度累計閾値Th1、Th2とを比較して、その画像フレームの表示推奨レベルを判定する(S33〜S37)。なお、ステップS31〜S37については、3D静止画撮影時と同様であるため、詳しい説明は省略する。
視差量測定回路100は、ワークメモリ39に記憶されている2つの動画に続く画像フレームがあるか確認し(S38)、続きの画像フレームが存在する場合には次の画像フレームを読み出し(S39)、表示推奨レベルを判定する(ステップS31〜S39)。このように、3D動画撮影モード時には、画像フレームごとに表示推奨レベルが設定される。
図14は、3D動画撮影により作成された3D動画ファイル115の構成を示している。画像ファイルである3D動画ファイル115は、大きく分けて、3D動画ファイル115の構成等を表すヘッダ領域116と、動画データを表す画像データ領域117とから構成されている。ヘッダ領域116は、ストリーム情報118と撮影条件情報119とから構成されている。画像データ領域117は、ストリームデータ1〜3を1つにまとめた複数のチャンクデータ120a〜120nから構成されている。
ストリーム情報118は、ストリーム定義123とストリーム属性124とから構成されている。ストリーム定義123は、チャンクデータ120a〜120nの各ストリームデータ1〜3の内容を定義している。例えば、ストリーム定義123は、ストリームデータ1、2の内容が、3D動画撮影の左または右画像、チャンクデータ全体における再生時のデータ量、先頭アドレスであることを定義している。また、ストリーム定義123は、ストリームデータ3の内容が、左右の画像からなる立体表示の表示推奨レベルであることを定義している。
ストリーム属性124は、3D動画ファイル115全体の属性を表しており、例えば、3D動画ファイル115の作成時に付与されたストリームID、撮影時の解像度、圧縮方式、表示次元、1つのチャンクデータ当たりのフレーム数等が記録されている。
撮影条件情報119は、3D動画撮影モードの撮影条件が記録されている。例えば、視点数、撮影部15L、15Rの基線長及び輻輳角等である。視点数は、本実施形態のカメラ11の場合は「2」であり、基線長及び輻輳角は、3D動画撮影時に設定された値が記録される。
チャンクデータ120a〜120nを構成する「ストリームデータ1」121a、「ストリームデータ2」121bには、左側画像データ、右側画像データに関連する情報が記録されている。その情報とは、例えば、ストリーム属性124と同一のストリームIDと、チャンクデータ内におけるデータ長と、1フレーム分の画像データである。また、「ストリームデータ3」121cには、ストリームデータ1、2と同様にストリームID及びデータ長と、表示推奨レベルとが記録されている。
次に、フレーム12について説明する。図15に示すように、フレーム12は、操作部130からの入力に基づき所定の制御プログラムに従ってカメラ11全体の動作を統括制御するCPU131を備えている。CPU131には、ROM132、EEPROM133及びワークメモリ134が接続されている。ROM132には、CPU131が実行する制御プログラム及び制御に必要な各種データ等が格納される。EEPROM133には、ユーザ設定情報等のフレーム12の動作に関する各種設定情報等が格納される。ワークメモリ134は、CPU130の演算作業用領域及び画像ファイルの一時記憶領域を含んでいる。CPU131は、ROM132に格納されている制御プログラムにしたがって動作することにより、本発明の出力制御手段に相当する機能を発揮する。
CPU131には、メモリカード29から画像ファイルを読み込むメモリコントローラ137が接続されている。メモリコントローラ137は、図1に示すカードスロット139内に設けられI/F140を介してメモリカード29にアクセスし、再生を支持された画像ファイルを読み込んでワークメモリ134に一時的に格納する。伸張処理部141は、ワークメモリ134内に格納された画像ファイルを非圧縮のY/C信号に伸張する。
表示コントローラ144は、ワークメモリ134内のY/C信号を読み出してYC−RGB変換部145に出力する。YC−RGB変換部145は、表示コントローラ144から入力されたY/C信号をR、G、B信号に変換してドライバ146を介してLCDパネル17に出力する。これにより、LCDパネル17にカメラ11で撮影した画像が再生表示される。
LCDパネル17は、例えば、パララックスバリア式、あるいはレンチキュラーレンズ式の3Dモニタである。LCDパネル17の詳細な構造は図示しないが、LCDパネル17は、その表面にパララックスバリア表示層を備えている。LCDパネル17は、立体表示を行う際に、パララックスバリア表示層に光透過部と光遮蔽部とが交互に所定のピッチで並んだパターンからなるパララックスバリアを発生させるとともに、その下層の画像表示面に左右の像を示す短冊状の画像断片を交互に配列して表示することで立体視を可能にする。
なお、立体視を可能にする表示装置の構成は、スリットアレイシートを用いるパララックス方式に限られる必然性はなく、レンチキュラーレンズシートを用いるレンチキュラー方式、マイクロレンズアレイシートを用いるインテグラルフォトグラフィ方式、干渉現象を用いるホログラフィー方式などが採用されてもよい。
次に、フレーム12によって、3D静止画及び3D動画を再生する第1実施形態について説明する。図16に示すように、CPU131は、メモリコントローラ137を制御してメモリカード29から最初の3D静止画ファイル110を読み出す(S45)。CPU131は、読み出した3D静止画ファイル110の表示推奨情報を読み出し(S46)、表示推奨レベルが「1」以上のときには、その3D静止画ファイル110をEEPROM133内に格納されている表示推奨リストLに登録する(S47,S48)。
また、3D静止画ファイル110の表示推奨レベルが「1」以下のときには、次の3D静止画ファイル110を読み出し(S47、S49)、ステップS46,S47を実行する。CPU131は、メモリカード29内に記憶されている全ての3D静止画ファイル110について、ステップS46〜S49を繰り返す(S50)。
また、3D動画ファイル115については、図17に示すように、CPU131が最初の画像フレームを読み出し(S52)、表示推奨レベルを確認する(S53)。次の画像フレームが存在する場合には(S54)、それを読み出して表示推奨レベルを確認する(S55、S53)。CPU131は、全ての画像フレームの表示推奨レベルを確認した後、表示推奨レベルの平均値を算出し(S56)、この平均値が「1」以上のときには、その3D動画ファイル115を表示推奨リストLに登録する(S57、S58)。なお、CPU131は、メモリカード29内に記憶されている全ての3D動画ファイル115についてもファイルの推奨表示レベルを確認する。
CPU131は、メモリカード29内の全ての画像ファイルの表示推奨レベルの確認後、図18に示すように、EEPROM133から表示推奨リストLを読み出し(S60)、表示推奨リストLに登録されている画像ファイルのサムネイル画像をLCDパネル17に一覧表示させる(S61)。CPU131は、操作部130により、LCDパネル17に一覧表示されているサムネイル画像を選択できるようにし(S62)、選択されたサムネイル画像に該当する3D静止画ファイル110または3D動画ファイル115を順に立体表示させる(S63)。
これによれば、表示推奨レベルが「1」以上の立体画像のみを表示させることができるので、立体表示適性が低い画像が観察されることによる観察者の目の疲労を防止することができる。なお、表示推奨リストLへの登録条件となる表示推奨レベルは、ユーザが任意に選択できるようにしてもよい。
次に、表示推奨レベルに応じて表示サイズを切り換え、全ての画像を表示させる第2実施形態について説明する。図19に示すように、CPU131は、メモリカード29から最初の3D静止画ファイル110を読み出し(S65)、3D静止画ファイル110の表示推奨情報を確認する(S66〜S68)。
CPU131は、3D静止画ファイル110の表示推奨レベルが「0」のときに、その立体画像を図20に示す小サイズ150でLCDパネル17に表示させる(S67、S69)。また、3D静止画ファイル110の表示推奨レベルが「1」のときには、その立体画像を中サイズ151でLCDパネル17に表示させる(S68、S70)。更にまた、3D静止画ファイル110の表示推奨レベルが「2」のときには、その立体画像をLCDパネル17に全画面サイズで表示させる(S71)。CPU131は、メモリカード29内に記憶されている全ての3D静止画ファイル110について、ステップS66〜S71を繰り返す(S72、S73)。
また、3D動画ファイル115については、CPU131が全ての画像フレームの表示推奨レベルを確認し、その平均値に基づいて表示サイズを切り換える。
これによれば、表示推奨レベルが低い画像は小さなサイズで立体表示されるので、観察者の目の疲労を防止することができる。また、表示推奨レベルが高い画像は全画面サイズで立体表示されるので、高画質な立体画像を大きなサイズで観察させることができる。
なお、第2実施形態では、表示推奨レベルに応じて表示サイズを切り換えたが、例えば表示推奨レベルに応じて表示時間を切り換えてもよい。この場合、表示推奨レベル「0」のときには、観察者の目の疲労を系得源するため表示時間を短くし、表示推奨レベルがたかくなるにしたがって徐々に表示時間を長くするのが好ましい。
次に、3D動画ファイル115の再生に関する第3実施形態について説明する。動画は、複数の画像フレームを連続して表示することにより表現されているため、各画像フレーム間において視差量に大きな差が生じていると、観察者はその視差量に合わせて輻輳距離を合わせようとするため、目の疲労が大きくなる。そこで、本実施形態では、表示推奨レベルが低い画像フレームの再生を中止し、この再生が中止されている間は、直前に再生された画像の表示を継続することにより、目の疲労を軽減している。
図21に示すように、CPU131は、3D動画ファイル115の再生時に、最初の画像フレームを読み出し(S75)、読み出した画像フレームの表示推奨レベルを確認する(S76、S77)。表示推奨レベルが「1」以上のときには、その画像フレームをLCDパネル17に表示させる(S78)。また、表示推奨レベルが「1」以下のときには、次の画像フレームを読み出し(S79)、ステップS76、S77を実行する。この場合、直前の画像フレームによる表示が継続される。CPU131は、3D動画ファイル115の画像フレーム全てについて、ステップS76〜S78を実行する(S80)。
上記実施形態では、各画像フレームを読み出すごとに表示するか否かを判定しているが、例えば、最初に全ての画像フレームの表示推奨レベルを確認し、この確認結果に基づいて3D動画ファイル115を編集し、再生専用の動画ファイルを一時的に作成してもよい。これによれば、表示推奨レベルの低い画像フレームが続くような3D動画ファイル115であっても、その内容に応じてより目の疲労が少ない立体表示を行うことができる。
次に、メモリカード29に記憶されている画像ファイルの表示推奨レベルがどのような分布になっているかを容易に確認できるようにした第4実施形態について説明する。上記第1〜第3実施形態全てにおいて、ユーザが表示推奨レベルに基づいて任意に立体表示の内容を設定できることが好ましい。この任意設定を実現するには、メモリカード29に記憶されている画像ファイルの表示推奨レベルがどのような分布になっているか確認できることが好ましい。
図22は、メモリカード29内の画像ファイルの表示推奨レベルの確認後にLCDパネル17に表示されるグラフの1例を示している。グラフ155は、縦軸に表示推奨レベル、横軸に画像ファイル数がプロットされているため、画像ファイル数と表示推奨レベルとの相関を容易に把握することができる。これにより、表示推奨レベルに基づいて表示内容を設定するだけでなく、画像ファイル数と表示推奨レベルとの相関を考慮して表示内容を設定することができる。
また、グラフ155の上に2本の範囲指定バー156を表示させ、この範囲指定バー156によって指定された範囲内の表示推奨レベルの画像が表示されるようにしてもよい。範囲指定バー156を用いた表示設定を用いる場合、表示推奨レベルのレベル数を更に増やしてもよい。上記第1〜第3実施形態のように、表示推奨レベルに基づいて表示内容を設定する場合、表示推奨レベル数が多いとその選択自体が難しくなる。しかし、範囲指定バー156を用いた場合には、表示推奨レベルと画像ファイル数とのバランスに基づいて設定することができるので、表示推奨レベルのレベル数が増えることによる弊害は生じない。
上記各実施形態では、立体画像出力装置としてデジタルフォトフレーム12を用いたが、本発明は、立体表示が可能なモニタ、テレビ等にも適用可能である。また、レンチキュラーレンズを用いた立体プリントを作成するプリンタに本発明を適用することも可能である。また、フレーム12による立体画像表示についての第1〜第4実施形態は、カメラ11の画像表示部32による立体表示に適用してもよい。
10 立体画像撮影・再生システム
11 デジタルカメラ
12 デジタルフォトフレーム
15L 第1撮影部
15R 第2撮影部
35 メインCPU
100 視差量測定回路
101 立体表示適性判定回路
110 3D静止画ファイル
115 3D動画ファイル
131 CPU
155 グラフ

Claims (13)

  1. 異なる視点から撮影した複数の画像から互いに対応する対応点を抽出し、前記対応点間の視差量を測定し、前記視差量とその発生頻度の統計量を求める視差量測定手段と、
    前記統計量に基づいて、閾値以上の視差量の発生頻度の累計である頻度累計を算出し、前記頻度累計に基づいて前記複数の画像による立体表示の適性を判定し、この適性を表す少なくとも2段階以上の表示推奨レベルから判定結果に適合した表示推奨レベルを決定する立体表示適性判定手段と、
    前記複数の画像に前記表示推奨レベルを表す表示推奨情報を付加し、前記複数の画像を記憶する画像記憶手段とを備えたことを特徴とする立体画像記録装置。
  2. 前記立体表示適性判定手段は、算出した前記頻度累計と、頻度累計閾値とを比較して前記表示推奨レベルを決定することを特徴とする請求項1記載の立体画像記録装置。
  3. 前記表示推奨レベルは、前記頻度累計が前記頻度累計閾値よりも小さいほど高くなり、前記頻度累計が前記頻度累計閾値よりも大きいほど低くなることを特徴とする請求項2記載の立体画像記録装置。
  4. 前記複数の画像による立体画像が複数の画像フレームを順次に出力させる動画であるときに、前記視差量測定手段は、前記画像フレームごとに視差量の測定及び視差量の統計量を算出し、前記立体表示適性判定手段は、前記画像フレームごとに前記表示推奨レベルを決定することを特徴とする請求項1〜3いずれか記載の立体画像記録装置。
  5. 前記画像記憶手段は、前記複数の画像と前記表示推奨情報とを1つの画像ファイルとして記憶することを特徴とする請求項1〜4いずれか記載の立体画像記録装置。
  6. 異なる視点から撮影した複数の画像から互いに対応する対応点を抽出し、前記対応点間の視差量を測定し、前記視差量とその発生頻度の統計量を求める視差量測定工程と、
    前記統計量に基づいて、閾値以上の視差量の発生頻度の累計である頻度累計を算出し、前記頻度累計に基づいて前記複数の画像による立体表示の適性を判定し、この適性を表す少なくとも2段階以上の表示推奨レベルから判定結果に適合した表示推奨レベルを決定する立体表示適性判定工程と、
    前記複数の画像に前記表示推奨レベルを表す表示推奨情報を付加し、前記複数の画像を記憶する記憶工程とを備えたことを特徴とする立体画像記録方法。
  7. 異なる視点から撮影した複数の画像に付加されている表示推奨情報を読み取り、前記表示推奨情報から前記複数の画像による立体表示適性を判断し、前記立体表示適性に基づいて、前記複数の画像により立体画像を出力する出力手段の出力状態を切り換える出力制御手段を備えたことを特徴とする立体画像出力装置。
  8. 前記出力制御手段は、前記表示推奨情報に基づいて、前記複数の画像による立体画像の出力を行うか否かを判定し、出力すると判定した立体画像を前記出力手段に出力させることを特徴とする請求項7記載の立体画像出力装置。
  9. 前記出力制御手段は、前記表示推奨情報に基づいて、前記出力手段により出力される立体画像のサイズまたは再生時間を切り換えることを特徴とする請求項7または8記載の立体画像出力装置。
  10. 前記出力制御手段は、前記出力手段により出力される立体画像が、複数の画像フレームを順次に出力させる動画であるときに、前記表示推奨情報に基づいて、各画像フレームごとに出力するか否かを判定し、前記画像フレームを出力しないときには、その直前に出力した画像フレームの出力を継続することを特徴とする請求項7〜9いずれか記載の立体画像出力装置。
  11. 前記出力制御手段は、前記表示推奨情報により表される表示推奨レベルと、前記複数の画像を格納した画像ファイル数との相関を表すグラフを表示することを特徴とする請求項7〜10いずれか記載の立体画像出力装置。
  12. 異なる視点から撮影した複数の画像に付加されている表示推奨情報を読み取る工程と、
    前記表示推奨情報から前記複数の画像による立体表示適性を判断する工程と、
    前記立体表示適性に基づいて、前記複数の画像による立体画像の出力状態を切り換える工程とを備えたことを特徴とする立体画像出力方法。
  13. 異なる視点から撮影した複数の画像から互いに対応する対応点を抽出し、前記対応点間の視差量を測定し、前記視差量とその発生頻度の統計量を求める視差量測定手段と、
    前記統計量に基づいて、閾値以上の視差量の発生頻度の累計である頻度累計を算出し、前記頻度累計に基づいて前記複数の画像による立体表示の適性を判定し、この適性を表す少なくとも2段階以上の表示推奨レベルから判定結果に適合した表示推奨レベルを決定する立体表示適性判定手段と、
    前記複数の画像に前記表示推奨レベルを表す表示推奨情報を付加し、前記複数の画像を記憶する画像記憶手段とを備えた立体画像記録装置と、
    異なる視点から撮影した複数の画像に付加されている表示推奨情報を読み取り、前記表示推奨情報から前記複数の画像による立体表示適性を判断し、前記立体表示適性に基づいて、前記複数の画像により立体画像を出力する出力手段の出力状態を切り換える出力制御手段を備えた立体画像出力装置と、
    を備えたことを特徴とする立体画像記録出力システム。
JP2009169293A 2009-07-17 2009-07-17 立体画像記録装置及び方法、立体画像出力装置及び方法、並びに立体画像記録出力システム Active JP5249149B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2009169293A JP5249149B2 (ja) 2009-07-17 2009-07-17 立体画像記録装置及び方法、立体画像出力装置及び方法、並びに立体画像記録出力システム
EP10251205.0A EP2278820A3 (en) 2009-07-17 2010-07-05 Stereoscopic image recording apparatus and method, stereoscopic image outputting apparatus and method, and stereoscopic image recording outputting system
US12/831,470 US20110012995A1 (en) 2009-07-17 2010-07-07 Stereoscopic image recording apparatus and method, stereoscopic image outputting apparatus and method, and stereoscopic image recording outputting system
CN201010231448.6A CN101959075B (zh) 2009-07-17 2010-07-15 立体图像记录装置和方法、立体图像输出装置和方法、以及立体图像记录输出系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009169293A JP5249149B2 (ja) 2009-07-17 2009-07-17 立体画像記録装置及び方法、立体画像出力装置及び方法、並びに立体画像記録出力システム

Publications (2)

Publication Number Publication Date
JP2011024122A true JP2011024122A (ja) 2011-02-03
JP5249149B2 JP5249149B2 (ja) 2013-07-31

Family

ID=42937381

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009169293A Active JP5249149B2 (ja) 2009-07-17 2009-07-17 立体画像記録装置及び方法、立体画像出力装置及び方法、並びに立体画像記録出力システム

Country Status (4)

Country Link
US (1) US20110012995A1 (ja)
EP (1) EP2278820A3 (ja)
JP (1) JP5249149B2 (ja)
CN (1) CN101959075B (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011129055A1 (ja) 2010-04-13 2011-10-20 パナソニック株式会社 ブラー補正装置およびブラー補正方法
CN102289225A (zh) * 2011-04-22 2011-12-21 钰创科技股份有限公司 应用于网络摄影机的通用序列总线装置与其控制的方法
JP2012212986A (ja) * 2011-03-30 2012-11-01 Nec Personal Computers Ltd 3d画像処理方法及び3d画像処理装置
JP2013077971A (ja) * 2011-09-30 2013-04-25 Kddi Corp 映像評価装置、映像評価方法、およびプログラム
JP5492311B2 (ja) * 2011-02-08 2014-05-14 富士フイルム株式会社 視点画像生成装置、視点画像生成方法及び立体画像印画装置
JP2014515569A (ja) * 2011-05-19 2014-06-30 トムソン ライセンシング 両眼視画像の両眼視用および単眼視用の同時表示を可能にするための該両眼視画像の自動変換
JP2017054104A (ja) * 2015-08-25 2017-03-16 カプソ ビジョン, インコーポレイテッドCapso Vision, Inc. 表示装置の製造上のばらつき及び設計上の欠陥を補償する方法

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10499029B2 (en) 2007-01-09 2019-12-03 Capso Vision Inc Methods to compensate manufacturing variations and design imperfections in a display device
KR101686168B1 (ko) * 2010-03-10 2016-12-22 주식회사 티엘아이 스트레오스코픽 동영상 파일의 구성 방법
EP2587812A4 (en) * 2010-06-24 2014-02-26 Korea Electronics Technology METHOD FOR CONFIGURING A STEREOSCOPIC FILE WITH MOVING IMAGES
US20130128003A1 (en) * 2010-08-19 2013-05-23 Yuki Kishida Stereoscopic image capturing device, and stereoscopic image capturing method
JP5582945B2 (ja) * 2010-09-28 2014-09-03 キヤノン株式会社 撮像システム
JP5614268B2 (ja) * 2010-12-09 2014-10-29 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
JP5668466B2 (ja) * 2010-12-28 2015-02-12 ソニー株式会社 画像処理装置、その制御方法およびプログラム
US20120200676A1 (en) * 2011-02-08 2012-08-09 Microsoft Corporation Three-Dimensional Display with Motion Parallax
TW201245768A (en) 2011-03-29 2012-11-16 Sony Corp Image pickup apparatus, image pickup device, image processing method, aperture control method, and program
CN102760234B (zh) 2011-04-14 2014-08-20 财团法人工业技术研究院 深度图像采集装置、系统及其方法
TWI463244B (zh) * 2011-04-14 2014-12-01 Ind Tech Res Inst 深度影像擷取裝置、系統及其方法
US20130063576A1 (en) * 2011-04-28 2013-03-14 Panasonic Corporation Stereoscopic intensity adjustment device, stereoscopic intensity adjustment method, program, integrated circuit and recording medium
JP2013005238A (ja) * 2011-06-16 2013-01-07 Sony Corp 3次元画像処理装置及び3次元画像処理方法、表示装置、並びにコンピューター・プログラム
JP2013064996A (ja) * 2011-08-26 2013-04-11 Nikon Corp 三次元画像表示装置
TWI514849B (zh) * 2012-01-11 2015-12-21 Himax Tech Ltd 立體影像顯示系統之校正裝置及其校正方法
US20150215530A1 (en) * 2014-01-27 2015-07-30 Microsoft Corporation Universal capture
US9319576B2 (en) * 2014-01-29 2016-04-19 Google Technology Holdings LLC Multi-processor support for array imagers
JP6597041B2 (ja) * 2015-08-18 2019-10-30 富士ゼロックス株式会社 サーバー装置及び情報処理システム
CN106131448B (zh) * 2016-07-22 2019-05-10 石家庄爱赛科技有限公司 可自动调节成像亮度的三维立体视觉系统
WO2018223267A1 (en) * 2017-06-05 2018-12-13 Shanghaitech University Method and system for hyperspectral light field imaging

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH099300A (ja) * 1995-06-26 1997-01-10 Matsushita Electric Ind Co Ltd 立体表示装置
JP2003018619A (ja) * 2001-07-03 2003-01-17 Olympus Optical Co Ltd 立体映像評価装置およびそれを用いた表示装置
JP2004349736A (ja) * 2003-05-08 2004-12-09 Sharp Corp 立体画像処理装置、立体画像処理プログラムおよびそのプログラムを記録した記録媒体
JP2006270924A (ja) * 2005-02-28 2006-10-05 Victor Co Of Japan Ltd 映像データ処理装置、映像再生装置、映像データ処理方法、映像再生方法、これらの方法をコンピュータによって実行するためのプログラム並びに記録媒体
JP2007104454A (ja) * 2005-10-06 2007-04-19 Nid:Kk ストリーミング画像再生品質評価システム
JP2008306739A (ja) * 2002-09-27 2008-12-18 Sharp Corp 立体画像表示装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4149037B2 (ja) 1998-06-04 2008-09-10 オリンパス株式会社 映像システム
JP4469159B2 (ja) * 2003-11-06 2010-05-26 学校法人早稲田大学 立体映像評価装置および立体映像チューナ
US8009188B2 (en) * 2005-02-28 2011-08-30 Victor Company Of Japan, Ltd. Video data processing apparatus utilizing viewer influence, picture reproducing apparatus, and computer programs related thereto
KR101185870B1 (ko) * 2005-10-12 2012-09-25 삼성전자주식회사 3d 입체 영상 처리 장치 및 방법
US8073196B2 (en) * 2006-10-16 2011-12-06 University Of Southern California Detection and tracking of moving objects from a moving platform in presence of strong parallax
KR20080076628A (ko) * 2007-02-16 2008-08-20 삼성전자주식회사 영상의 입체감 향상을 위한 입체영상 표시장치 및 그 방법
JP2008219788A (ja) * 2007-03-07 2008-09-18 Toshiba Corp 立体画像表示装置、方法およびプログラム
JP2009135686A (ja) * 2007-11-29 2009-06-18 Mitsubishi Electric Corp 立体映像記録方法、立体映像記録媒体、立体映像再生方法、立体映像記録装置、立体映像再生装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH099300A (ja) * 1995-06-26 1997-01-10 Matsushita Electric Ind Co Ltd 立体表示装置
JP2003018619A (ja) * 2001-07-03 2003-01-17 Olympus Optical Co Ltd 立体映像評価装置およびそれを用いた表示装置
JP2008306739A (ja) * 2002-09-27 2008-12-18 Sharp Corp 立体画像表示装置
JP2004349736A (ja) * 2003-05-08 2004-12-09 Sharp Corp 立体画像処理装置、立体画像処理プログラムおよびそのプログラムを記録した記録媒体
JP2006270924A (ja) * 2005-02-28 2006-10-05 Victor Co Of Japan Ltd 映像データ処理装置、映像再生装置、映像データ処理方法、映像再生方法、これらの方法をコンピュータによって実行するためのプログラム並びに記録媒体
JP2007104454A (ja) * 2005-10-06 2007-04-19 Nid:Kk ストリーミング画像再生品質評価システム

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011129055A1 (ja) 2010-04-13 2011-10-20 パナソニック株式会社 ブラー補正装置およびブラー補正方法
JP5492311B2 (ja) * 2011-02-08 2014-05-14 富士フイルム株式会社 視点画像生成装置、視点画像生成方法及び立体画像印画装置
JP2012212986A (ja) * 2011-03-30 2012-11-01 Nec Personal Computers Ltd 3d画像処理方法及び3d画像処理装置
CN102289225A (zh) * 2011-04-22 2011-12-21 钰创科技股份有限公司 应用于网络摄影机的通用序列总线装置与其控制的方法
JP2014515569A (ja) * 2011-05-19 2014-06-30 トムソン ライセンシング 両眼視画像の両眼視用および単眼視用の同時表示を可能にするための該両眼視画像の自動変換
JP2013077971A (ja) * 2011-09-30 2013-04-25 Kddi Corp 映像評価装置、映像評価方法、およびプログラム
JP2017054104A (ja) * 2015-08-25 2017-03-16 カプソ ビジョン, インコーポレイテッドCapso Vision, Inc. 表示装置の製造上のばらつき及び設計上の欠陥を補償する方法

Also Published As

Publication number Publication date
EP2278820A2 (en) 2011-01-26
CN101959075B (zh) 2015-05-27
JP5249149B2 (ja) 2013-07-31
EP2278820A3 (en) 2014-01-15
US20110012995A1 (en) 2011-01-20
CN101959075A (zh) 2011-01-26

Similar Documents

Publication Publication Date Title
JP5249149B2 (ja) 立体画像記録装置及び方法、立体画像出力装置及び方法、並びに立体画像記録出力システム
JP4692770B2 (ja) 複眼デジタルカメラ
US8885026B2 (en) Imaging device and imaging method
US9077976B2 (en) Single-eye stereoscopic image capturing device
JP4686795B2 (ja) 画像生成装置及び画像再生装置
WO2011136191A1 (ja) 立体画像再生装置及び方法、立体撮像装置、立体ディスプレイ装置
JP5371845B2 (ja) 撮影装置及びその表示制御方法並びに3次元情報取得装置
US20100315517A1 (en) Image recording device and image recording method
CN102959974B (zh) 立体图像再现装置、其视差调整方法及摄影装置
US20090027487A1 (en) Image display apparatus and image display method
US9521395B2 (en) Imaging apparatus and method for controlling same
JP2010114760A (ja) 撮影装置、指がかり通知方法およびプログラム
JP2011114547A (ja) 立体画像表示装置、複眼撮像装置及び立体画像表示プログラム
JP2011024003A (ja) 立体動画記録方法および装置、動画ファイル変換方法および装置
JP5486697B2 (ja) 立体動画再生装置、立体動画再生プログラムならびにその記録媒体、立体ディスプレイ装置、立体撮像装置及び立体動画再生方法
JP5449535B2 (ja) 立体撮像装置及びその制御方法
JP5750457B2 (ja) 立体動画処理装置、立体動画処理プログラム及びその記録媒体、立体撮像装置並びに立体動画処理方法
JP5466773B2 (ja) 立体動画再生装置、立体動画再生プログラムならびにその記録媒体、立体ディスプレイ装置、立体撮像装置及び立体動画再生方法
JP2011097451A (ja) 3次元画像表示装置及び方法
JP2012124650A (ja) 撮像装置および撮像方法
JP2012028871A (ja) 立体画像表示装置、立体画像撮影装置、立体画像表示方法及び立体画像表示プログラム
JP2011109268A (ja) 3次元画像表示装置及び方法
JP2010200024A (ja) 立体画像表示装置および立体画像表示方法
JP5307189B2 (ja) 立体画像表示装置、複眼撮像装置及び立体画像表示プログラム
JP2011082757A (ja) 表示モード判定装置及び方法、並びに撮像装置及び方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111208

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120921

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121010

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130313

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130411

R150 Certificate of patent or registration of utility model

Ref document number: 5249149

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160419

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250