JP5491786B2 - 画像再生装置及び方法 - Google Patents

画像再生装置及び方法 Download PDF

Info

Publication number
JP5491786B2
JP5491786B2 JP2009170251A JP2009170251A JP5491786B2 JP 5491786 B2 JP5491786 B2 JP 5491786B2 JP 2009170251 A JP2009170251 A JP 2009170251A JP 2009170251 A JP2009170251 A JP 2009170251A JP 5491786 B2 JP5491786 B2 JP 5491786B2
Authority
JP
Japan
Prior art keywords
parallax
image
right images
adjustment amount
digital zoom
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009170251A
Other languages
English (en)
Other versions
JP2011029700A (ja
Inventor
康一 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2009170251A priority Critical patent/JP5491786B2/ja
Priority to US12/837,351 priority patent/US20110018969A1/en
Priority to CN201010235686.4A priority patent/CN101964918B/zh
Priority to EP10251299A priority patent/EP2280554A3/en
Publication of JP2011029700A publication Critical patent/JP2011029700A/ja
Application granted granted Critical
Publication of JP5491786B2 publication Critical patent/JP5491786B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/139Format conversion, e.g. of frame-rate or size
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming

Description

本発明は画像再生装置及び方法に係り、特に適切な立体感を保ったまま立体画像のデジタルズームを行うことのできる画像再生装置及び方法に関する。
視差のある2枚の画像を観察者の左右の目にそれぞれ同時に見せることにより、観察者に画像を立体視させる表示装置が知られている。このような表示装置において、左右の画像をデジタルズームで拡大ズームを行った場合、それに応じて、左右画像の表示面上における視差量が拡大される。
例えば、図1(a)に示すように、視差daを有する右像101Rと左像101Lが立体表示面に立体表示されているとする。このとき、図2(a)に示すように、観察者の右眼110Rにおいて右像101Rを、観察者の左目110Lにおいて左像101Lを見ることにより、立体像100aが立体的に視覚される。
ここで、図1(b)に示すように、図1(a)の領域103に対応する部分を拡大するようにデジタルズームを行うと、右像101R及び左像101Lとが102R及び102Lに拡大表示されるとともに、視差daが視差dbに拡大される。その結果、図2(b)に示すように、立体像100bが立体的に視覚される。
しかし、視差dbの視差量が適切でないと立体像100bの立体感が不自然になり、また、視差量が大きすぎると立体視ができないこともある。
このような課題に対して、特許文献1には、デジタルズーム後における立体画像の表示面上での視差量が観察者の立体像の融合限界を超えないよう、ズーム動作前の視差量とズーム倍率とに応じて、左右画像の切出し位置を変更し視差量の調整を行う装置が開示されている。
例えば、図3に示す例では、右像101R及び左像101Lとの視差をゼロにするように、右画像及び左画像のそれぞれの切り出し領域104R及び104Lを決定している。さらに、この切り出し領域104R、104Lをデジタルズームして得られた右像105R、左像105Lを立体表示することにより、立体像100cを得ている。このように、元画像上で視差をもつ被写体をデジタルズームするに際して、表示画面の平面に対して過度な立体像の飛び出しがないよう、被写体の水平視差をゼロにするよう切り出し位置を調整する。上記の例では図3のごとく被写体が単一の場合について説明したが、被写体が複数ある場合については、ユーザーが選択した被写体の水平視差をゼロにするよう切り出し位置を調整する。
特許第3653790号公報
しかしながら、特許文献1に記載の装置では、ズーム倍率、被写体のもつ視差量次第では、所望の視差量を実現できない場合がある。
例えば、図4に示す例では、右像101R及び左像101Lとの視差をゼロにするためには、それぞれの切り出し領域106R及び106Lは、その一部が画像の範囲外となってしまう。この場合、例えば画像外を参照しないようにする等の特別な処理を行う必要があるが、特許文献1ではこのような対処については考えられていなかった。したがって、この場合に得られた右像107R、左像107Lを立体表示した立体像100dは、適切な立体感が得られず、立体視ができない場合もあった。
本発明はこのような事情に鑑みてなされたもので、適切な立体感を保ったまま立体画像のデジタルズームを行うことのできる画像再生装置及び方法を提供することを目的とする。
前記目的を達成するために請求項1に記載の画像再生装置は、視差のある左右画像を入力する画像入力手段と、前記左右画像を立体表示する表示手段と、前記左右画像の視差を調整するための視差調整量を入力する視差調整量入力手段と、前記視差調整量に基づいて、前記左右画像の水平方向のシフト量を演算するシフト量演算手段と、前記シフト量に基づいて、前記左右画像の水平方向の表示範囲を演算する表示範囲演算手段と、前記表示範囲演算手段の演算結果に基づいて、前記左右画像の水平方向をトリミングして表示する画像切り出し手段と、前記表示手段に立体表示された左右画像のデジタルズーム情報を入力するデジタルズーム情報入力手段と、前記デジタルズーム情報に基づいて、前記左右画像のそれぞれから同じ画像領域を切り出し拡大するデジタルズーム手段であって、前記左右画像のそれぞれの画像の中心と前記切り出す画像領域との中心が一致するように画像領域を切り出し拡大するデジタルズーム手段と、前記デジタルズーム情報に基づいて、前記視差調整量を修正する視差調整量修正手段とを備えたことを特徴とする。
請求項1に記載の画像再生装置によれば、デジタルズーム情報に基づいて視差調整量を修正し、修正した視差調整量に基づいて左右画像の水平方向のシフト量と表示範囲を演算し、左右画像の水平方向をトリミングして表示するようにしたので、デジタルズーム倍率に関わらず、常に適切な視差を保って立体表示させることができる。
また、切り出す領域が画像外になるという不具合を防止でき、適切に切り出し拡大することができる。さらに、適切に同じ画像領域を切り出し拡大することができる。
請求項2に示すように請求項1に記載の画像再生装置において、前記左右画像に基づいて視差調整量を算出する視差調整量算出手段を備えたことを特徴とする。
これにより、自動で視差調整量を算出することができる。
請求項3に示すように請求項2に記載の画像再生装置において、前記視差調整量算出手段は、前記左右画像の視差に基づいて前記視差調整量を算出することを特徴とする。
これにより、適切に視差調整量を算出することができる。
請求項4に示すように請求項3に記載の画像再生装置において、前記視差調整量算出手段は、前記左右画像のうち一方の画像の特徴点を抽出する特徴点抽出手段と、他方の画像の前記特徴点に対応する対応点を抽出する対応点抽出手段と、前記特徴点と前記対応点とから前記視差を算出する視差算出手段とを備えたことを特徴とする。
これにより、適切に左右画像の視差を算出することができる。
請求項5に示すように請求項4に記載の画像再生装置において、前記特徴点抽出手段は、前記左右画像のうち一方の画像から複数の特徴点を抽出し、前記対応点抽出手段は、前記他方の画像から前記複数の特徴点に対応する複数の対応点を抽出し、前記視差算出手段は、前記複数の特徴点と前記複数の対応点とに基づいて前記視差を算出することを特徴とする。
これにより、適切に左右画像の視差を算出することができる。
請求項に示すように請求項1からのいずれかに記載の画像再生装置において、前記修正された視差調整量を前記切り出し拡大された左右画像とともに記録手段に記録する手段を備えたことを特徴とする。
これにより、所望の領域を拡大した立体画像を、記録手段から読み出していつでも見ることができる。
請求項に示すように請求項1からのいずれかに記載の画像再生装置において、前記画像入力手段は、複数の撮像手段を用いて視差のある画像を取得する複眼撮像手段であることを特徴とする。
これにより、撮像した画像をその場でデジタルズームすることができる。
前記目的を達成するために請求項に記載の画像再生方法は、視差のある左右画像を入力する画像入力工程と、前記左右画像を表示手段に立体表示する表示工程と、前記左右画像の視差を調整するための視差調整量を入力する視差調整量入力工程と、前記視差調整量に基づいて、前記左右画像の水平方向のシフト量を演算するシフト量演算工程と、前記シフト量に基づいて、前記左右画像の水平方向の表示範囲を演算する表示範囲演算工程と、前記表示範囲演算工程の演算結果に基づいて、前記左右画像の水平方向をトリミングして表示する画像切り出し工程と、前記表示手段に立体表示された左右画像のデジタルズーム情報を入力するデジタルズーム情報入力工程と、前記デジタルズーム情報に基づいて、前記左右画像のそれぞれから同じ画像領域を切り出し拡大するデジタルズーム工程であって、前記左右画像のそれぞれの画像の中心と前記切り出す画像領域との中心が一致するように画像領域を切り出し拡大するデジタルズーム工程と、前記デジタルズーム情報に基づいて、前記視差調整量を修正する視差調整量修正工程とを備えたことを特徴とする。
本発明によれば、視差調整による立体感の調整効果がデジタルズームを行うことで損なわれないようにすることができる。
従来のデジタルズームを示す図 従来のデジタルズームの立体視の概念を示す図 従来の切り出し領域を説明するための図 従来の切り出し領域を説明するための図 画像再生装置の全体構成を示す図 視差制御部の詳細構成を示す図 左右画像の視差量dを説明するための図 左右画像のシフト量と立体画像の表示範囲を説明するための図 デジタルズーム前後の表示範囲を説明するための図 画像再生装置の動作を示すフローチャート 画像再生装置の全体構成を示す図 視差調整量演算部の詳細構成を示す図 特徴点と対応点の検出を説明するための図 画像再生装置の動作を示すフローチャート
以下、添付図面に従って本発明を実施するための形態について説明する。
<第1の実施形態>
本実施形態に係る画像再生装置10は、入力された視差のある左右画像を表示部17に立体表示する装置である。図5は、画像再生装置10の全体構成を示す図である。同図に示すように、画像再生装置10は、左右画像セレクタ制御部11、セレクタ部12、デジタルズーム部13、ズーム情報入力部14、視差調整量入力部15、視差制御部16及び表示部17から構成される。
左右画像セレクタ制御部11は、セレクタ部12及び視差制御部16の処理について、左画像及び右画像のうちいずれの画像の処理を行うのかを制御する。セレクタ部12には、表示部17に立体表示するための左画像のデータと右画像のデータとが入力され、左右画像セレクタ制御部11からの信号に応じて、何れか一方の画像を出力する。なお、セレクタ部12に入力される左画像及び右画像は、図示しない記録媒体から読み出された画像であってもよいし、図示しない複眼撮像手段の右撮像部と左撮像部においてそれぞれ撮像された画像であってもよい。
画像再生装置10は、表示部17に表示された立体画像をいわゆる電子ズームにより拡大表示を行うことが可能であり、ユーザは、ズーム情報入力部14により所望のズーム倍率を指定することができる。
デジタルズーム部13は、ズーム情報入力部14から入力されたズーム倍率に応じて、左右画像のそれぞれの画像から所定の領域を切り出し、基の画像のサイズに拡大する。このとき、切り出す前の画像の中心と切り出す画像領域との中心が一致するように画像領域を切り出す。このように、左右画像の切り出し位置を画像の中心を基準とした同位置にすることで、切り出す領域が画像外になるという不具合を防止する。
視差調整量入力部15は、ユーザが所望の視差調整量を入力するための操作部である。画像再生装置10は、左画像と右画像とに基づいた立体画像を表示部17に表示する際に、ユーザが視差調整量入力部15を用いて設定した視差調整量に基づいて、ユーザーは左右の画像を見ながらあるいは立体画像を見ながら左右画像に視差を付与することが可能である。これにより、立体画像の視差をユーザが望む視差に調整することができる。
視差制御部16は、視差調整量入力部15から入力された視差調整量情報及びズーム情報入力部14から入力されたズーム倍率情報に基づいて、デジタルズーム部13から出力されたズーム画像の視差を調整し、調整した画像を表示部17に出力する。また、視差調整後にズーム情報入力部14によりデジタルズームの倍率が変更された場合には、すでに視差調整量入力部15から入力されている視差調整量に基づいて、デジタルズーム前後の視差の比率が視差調整にかかわらず崩れないように視差調整量を算出する。
なお、視差制御部16には、左右画像セレクタ制御部11からセレクト信号が入力されるため、デジタルズーム部13から入力されたズーム画像が左画像であるか右画像であるかを認識することができる。このように構成することで、左画像の処理と右画像の処理について、処理ブロックを共用して行うことが可能となる。
表示部17は、視差制御部16から入力された左右画像を立体表示することが可能な3Dモニタであり、例えばパララックスバリア方式やレンチキュラーレンズ方式のモニタが採用される。
図6は、視差制御部16の詳細構成を示す図である。同図に示すように、視差制御部16は、シフト量演算部161、画像シフト部162、表示範囲演算部163及び表示範囲設定部164から構成される。
図7、図8を用いて、図6に示す視差制御部16の動作について説明する。ここでは、表示面上で視差dを持つ被写体の視差をゼロにする場合を例として説明する。
図7(b)に示す左画像の左像31Lと図7(c)に示す右画像の右像31Rとは視差量dを有しており、画像再生装置10は、この2枚の画像に基づいて、図7(a)に示すように表示部17に立体画像を表示する。なお、表示部17における表示画像幅をW0とする。
ここで、視差調整量入力部15から視差調整量=−dが入力された場合について考える。図7(b)に示す左画像と図7(c)に示す右画像の視差量を−dだけ調整する、即ち視差量dをゼロにするためには、図面右方向を正方向(プラス方向)とすると、図8(b)に示すように左画像を負方向(マイナス方向)にSL=d/2だけ水平にシフトさせ、図8(c)に示すように右画像を正方向(プラス方向)にSR=d/2だけ水平にシフトさせればよい。即ち、左右画像を視差調整量の1/2ずつだけそれぞれ正負反対方向に水平シフトすればよい。ここで、視差調整量が負の場合には、左画像を負方向、右画像を正方向に水平シフトし、視差調整量が正の場合には、左画像を正方向、右画像を負方向に水平シフトする。
しかしながら、上記のように左右の画像を水平シフトさせると、左画像の左側と右画像の右側に画像データのない無効領域が発生する。(視差調整量が正の場合には、無効領域は、左画像の右側と右画像の左側に発生する。)したがって、画像再生装置10は、画像シフト後に左右画像で共通する領域を計算し、図8(a)に示すように共通する部分のみ立体表示する。図8に示す例では、表示面における画像の水平幅はW0であるので、左右画像の共通領域WcはW0−dと表される。
このように、視差制御部16は、シフト量演算部161において入力された視差調整量(−d)から画像の水平シフト量(d/2)を演算し、画像シフト部162において、シフト量演算部161が演算したシフト量(d/2)に基づいて、左右の画像を水平シフトさせる。
さらに、表示範囲演算部163においてシフト量(d/2)に基づいて共通領域Wcを算出し、表示範囲設定部164において、この算出した共通領域Wcに基づいて画像シフト部162から入力された画像の水平方向をトリミングし、表示部17へ出力する。
次に、立体画像のデジタルズームについて説明する。
図9(a)に示す状態から図9(b)に示すように立体画像のデジタルズームを行うと、表示面上での視差量が変化する。同図に示すように、デジタルズーム前に視差量d1であった場合、N倍のデジタルズームを行うと、デジタルズーム後の視差量はd2=d1×Nとなる。前述したように、このデジタルズーム後の視差量は、立体視するには適切でない可能性がある。
ここで、視差を調整することに着目する。例えば、過度の立体像の飛び出し、引っ込みを緩和するため、左右の視差をゼロにするように調整する場合を考える。
左右の視差をゼロにするために、ズーム前の視差量がd1である場合には、図9(c)に示すように、左右の画像をd1/2ずつそれぞれ正負方向に水平シフトし、かつ、表示範囲をw−d1とする。同様に、ズーム後の視差量がd2である場合には、図9(d)に示すように、左右の画像をd2/2ずつそれぞれ正負方向に水平シフトしたのち、表示範囲をw−d2とする。
以上を鑑みると、視差調整済みの立体画像のデジタルズームを行う際には、視差調整量とデジタルズーム倍率に応じて、左右画像のシフト量および表示範囲を再計算する必要があることがわかる。ここで、デジタルズーム後の水平シフト量S及びデジタルズーム後の表示範囲Wcは、以下のように表される。
S=d2/2=(d1×N)/2
Wc=W−d2=W−d1×N
また、元画像に対してすでにN3倍のデジタルズーム、視差量d3に基づいた画像シフト、表示範囲の制限をしている状態から、さらにデジタルズームを行い、元画像に対してズーム倍率N4となるような制御をする場合には、ズーム後の視差量d4、水平シフト量S4及び表示範囲Wc4は以下の通りとなる。
d4=d3×N4/N3
S4=d4/2=(d3×N4)/(2×N3)
Wc4=W−d4
次に、画像再生装置10の視差調整とデジタルズームの動作について、図10のフローチャートを用いて説明する。
最初に、左右画像の取り込みを行う(ステップS1)。前述したように、左右画像は記録媒体から読み出してもよいし、複眼撮像手段から取得してもよい。この入力された左右画像は、指定されたズーム倍率及び視差調整量に基づいて視差制御部16によって所定の立体画像が生成され、表示部17に立体表示される(ステップS2)。ここでは、初期値として、ズーム倍率=1倍、視差調整量=0が指定されているとする。
次に、ズーム情報入力部14によるデジタルズームの指示があったか否かを判定する(ステップS3)。
デジタルズームの指示がない場合は、ステップS9へ移行し、視差調整量入力部15による視差調整の指示があったか否かを判定する。
視差調整の指示があった場合は、視差制御部16のシフト量演算部161により、指示された視差調整量に基づいた画像シフト量が算出される(ステップS5)。さらに、表示範囲演算部163により、この画像シフト量に基づいた表示範囲が算出される(ステップS6)。
表示範囲設定部164は、これらの算出結果に基づいて左右画像の水平方向をトリミングし、表示部17へ出力する。表示部17は、視差制御部16の出力に基づいて、表示部17の表示を更新する(ステップS7)。
このように、指示された視差調整量に視差が調整された立体画像が表示部17に表示される。即ち、ユーザは、自分が立体視しやすい視差調整量を指示することで、適切な視差の立体画像を見ることができる。また、左右画像の共通領域だけが表示されるため、平面画像と立体画像が混合する等の、ユーザにとって違和感のある画像となることがない。
また、ステップS3において、デジタルズームの指示があった場合は、デジタルズーム部13は、左右画像のそれぞれを、指示されたズーム倍率に応じて画像中心を基準として切り出し、基の画像のサイズに拡大する(ステップS4)。
前述のステップS9において指示された視差量に基づいて、立体画像の表示が更新されていることから、表示部17の立体画像は適切な視差量に調整されている。しかし、このデジタルズーム後の立体画像の視差量は、立体視するには適切でない可能性がある。したがって、視差制御部16のシフト量演算部161は、指定されたズーム倍率及び現在設定されている視差調整量に基づいて、デジタルズーム後の立体画像の適切な視差量を算出し、算出した適切な視差量に基づいて画像シフト量を算出する(ステップS5)。さらに、表示範囲演算部163により、この画像シフト量に基づいた表示範囲が算出される(ステップS6)。
表示範囲設定部164は、これらの算出結果に基づいて左右画像の水平方向をトリミングし、表示部17へ出力する。表示部17は、視差制御部16の出力に基づいて、表示部17の表示を更新する(ステップS7)。
このように、指定されたズーム倍率でデジタルズームされた立体画像が、表示部17に表示される。この立体画像の視差量は、デジタルズーム拡大前の視差がズーム倍率に応じて拡大されたものではなく、適切な視差量に設定されている。したがって、デジタルズームを行った場合であっても、ユーザは適切な立体感を保った立体画像を見ることが可能となる。
最後に、表示を終了するか否かを判定し(ステップS8)、終了しない場合には、ステップS3に戻り、同様の処理を繰り返す。
なお、このようにデジタルズームされた画像を、図示しない記録媒体に記録してもよい。記録する場合には、切り出した(ズームされた)左右画像とともに、視差調整量の情報を記録する。視差調整量の情報は、右画像の付帯情報として記録する。なお、左画像の付帯情報として記録してもよいし、両方の画像に記録してもよい。
<第2の実施形態>
図11は、第2の実施形態に係る画像再生装置20の全体構成を示す図である。なお、図5と共通する部分には同一の符号を付し、その詳細な説明は省略する。画像再生装置20は、視差調整量入力部15の代わりに視差調整量演算部18を備えているところが第1の実施形態の画像再生装置10と異なっている。
視差調整量演算部18は、左画像と右画像との視差に基づいて、適切な視差調整量を演算する。この視差調整量は、視差制御部16に入力される。視差制御部16は、図6と同様に構成されており、左右画像のシフト量及び表示範囲を算出する。
図12は、視差調整量演算部18の詳細構成を示す図である。同図に示すように、視差調整量演算18は、特徴点抽出部181、対応点抽出部182、視差量検出部183及び調整量演算部184から構成される。
視差調整量を求めるには、まず左右画像に生じている視差量を検出する必要がある。視差量の検出方法は様々であるが、本実施例では、特徴点−対応点検出を使用して視差量を検出する。なお、視差量の検出方法はこれに限定されるものではなく、どのような方法を用いてもよい。
特徴点抽出部181は、入力された左画像の所定の領域から、複数の特徴点を抽出する。特徴点とは、複数の方向に強い信号勾配をもつ点(画素)であり、例えば、Harrisの手法や、Shi-Tomasiの手法を用いて抽出する。特徴点抽出の結果、複数の特徴点の座標値(xi、yi)(iは番号)が得られる。例えば、図13(a)に示すように、画面中央32から5つの特徴点33が抽出される。なお、本実施形態では画面中央から特徴点を抽出しているが、特徴点が抽出される対象領域は画面中央に限られるものではなく、例えば画像全体から抽出してもよい。
また、対応点抽出部182は、特徴点抽出部181が抽出した各特徴点33(xi、yi)に対応する対応点34を右画像から検出する。対応点検出の結果、各特徴点33に対応する対応点34の座標値(Xi、Yi)が得られる。例えば、図13(b)に示すように、5つの特徴点33に対応する5つの対応点34が抽出される。
視差量検出部183は、抽出された各特徴点33と各特徴点33に対応する対応点34とから、視差量を検出する。図13(b)に示すように、特徴点33と対応点34とを結ぶ線分35の水平成分が特徴点33の位置に生じている視差量であり、水平視差量di=Xi−xiと表される。単位は画素である。なお、対応点34の検出方法については、特徴点を中心としたウィンドウ内の画像情報をテンプレートとし、テンプレートマッチングする方法や、Lucas-Kanade法などがあるが、特に限定されるものではない。
さらに、視差量検出部183は、検出した複数の視差量diを解析して、左右画像の視差Dを算出する。Dの演算方法については、例えば単純平均する方法(D=Σdi/i)、メディアン値を用いる方法、複数ある視差diのうち、最も手前であることを示すdiや、逆に最も遠方であることを示すdiをDとする方法等が考えられるが、どの方法を用いるかは適宜決めればよい。
調整量演算部184は、左右画像の視差Dに基づいて、ユーザが立体視するのに適切な視差調整量を算出する。この視差調整量は、視差制御部16に入力される。
次に、このように構成された画像再生装置20の視差調整とデジタルズームの動作について、図14のフローチャートを用いて説明する。
まず、左右画像の取り込みを行い(ステップS11)、視差調整量演算部18の視差量検出部183において左右画像の視差量を検出する(ステップS12)。視差量の検出は、前述したように左右画像の視差Dを算出すればよい。調整量演算部184は、この視差Dに基づいて、視差調整量を算出する。
視差制御部16のシフト量演算部161は、ズーム情報入力部14により指示されたズーム倍率と視差調整量演算部18により算出された視差調整量に基づいて、画像シフト量を算出し(ステップS13)、さらに、表示範囲演算部163により表示範囲を算出する(ステップS14)。
表示範囲設定部164は、この算出された表示範囲に基づいて左右画像の水平方向をトリミングし、表示部17へ出力する。表示部17には、この画像が立体表示される(ステップS15)。
次に、ズーム情報入力部14によるデジタルズームの指示があったか否かを判定する(ステップS16)。
デジタルズームの指示があった場合は、デジタルズーム部13は、指示されたズーム倍率にしたがって、左右画像の所定領域を切り出し拡大し(ステップS18)、ステップS13に移行する。
視差調整量演算部18により、表示部17の立体画像は適切な視差量に調整されている。しかし、このデジタルズーム後の立体画像の視差量は、立体視するには適切でない可能性がある。したがって、視差制御部16のシフト量演算部161は、指示されたズーム倍率及び現在設定されている視差調整量に基づいて、デジタルズーム後の立体画像の適切な視差量を算出し、算出した適切な視差量に基づいて画像シフト量を算出する(ステップS13)。さらに、表示範囲演算部163により、この画像シフト量に基づいた表示範囲が算出される(ステップS14)。
その結果、表示部17には、新たに指示されたズーム倍率の立体画像が表示される(ステップS15)。この立体画像の視差量は、適切な視差量に設定されている。したがって、デジタルズームを行った場合であっても、ユーザは適切な立体感を保った立体画像を見ることが可能となる。
10、20…画像再生装置、13…デジタルズーム部、14…ズーム情報入力部、15…視差調整量入力部、16…視差制御部、17…表示部、18…視差調整量演算部、31L…左像、31R…右像、32…画面中央、33…特徴点、34…対応点、161…シフト量演算部、162…画像シフト部、163…表示範囲演算部、164…表示範囲設定部、181…特徴点抽出部、182…対応点抽出部、183…視差量検出部、184…調整量演算部

Claims (8)

  1. 視差のある左右画像を入力する画像入力手段と、
    前記左右画像を立体表示する表示手段と、
    前記左右画像の視差を調整するための視差調整量を入力する視差調整量入力手段と、
    前記視差調整量に基づいて、前記左右画像の水平方向のシフト量を演算するシフト量演算手段と、
    前記シフト量に基づいて、前記左右画像の水平方向の表示範囲を演算する表示範囲演算手段と、
    前記表示範囲演算手段の演算結果に基づいて、前記左右画像の水平方向をトリミングして表示する画像切り出し手段と、
    前記表示手段に立体表示された左右画像のデジタルズーム情報を入力するデジタルズーム情報入力手段と、
    前記デジタルズーム情報に基づいて、前記左右画像のそれぞれから同じ画像領域を切り出し拡大するデジタルズーム手段であって、前記左右画像のそれぞれの画像の中心と前記切り出す画像領域との中心が一致するように画像領域を切り出し拡大するデジタルズーム手段と、
    前記デジタルズーム情報に基づいて、前記視差調整量を修正する視差調整量修正手段と、
    を備えたことを特徴とする画像再生装置。
  2. 前記左右画像に基づいて視差調整量を算出する視差調整量算出手段を備えたことを特徴とする請求項1に記載の画像再生装置。
  3. 前記視差調整量算出手段は、前記左右画像の視差に基づいて前記視差調整量を算出することを特徴とする請求項2に記載の画像再生装置。
  4. 前記視差調整量算出手段は、
    前記左右画像のうち一方の画像の特徴点を抽出する特徴点抽出手段と、
    他方の画像の前記特徴点に対応する対応点を抽出する対応点抽出手段と、
    前記特徴点と前記対応点とから前記視差を算出する視差算出手段と、
    を備えたことを特徴とする請求項3に記載の画像再生装置。
  5. 前記特徴点抽出手段は、前記左右画像のうち一方の画像から複数の特徴点を抽出し、
    前記対応点抽出手段は、前記他方の画像から前記複数の特徴点に対応する複数の対応点を抽出し、
    前記視差算出手段は、前記複数の特徴点と前記複数の対応点とに基づいて前記視差を算出することを特徴とする請求項4に記載の画像再生装置。
  6. 前記修正された視差調整量を前記切り出し拡大された左右画像とともに記録手段に記録する手段を備えたことを特徴とする請求項1からのいずれかに記載の画像再生装置。
  7. 前記画像入力手段は、複数の撮像手段を用いて視差のある画像を取得する複眼撮像手段であることを特徴とする請求項1からのいずれかに記載の画像再生装置。
  8. 視差のある左右画像を入力する画像入力工程と、
    前記左右画像を表示手段に立体表示する表示工程と、
    前記左右画像の視差を調整するための視差調整量を入力する視差調整量入力工程と、
    前記視差調整量に基づいて、前記左右画像の水平方向のシフト量を演算するシフト量演算工程と、
    前記シフト量に基づいて、前記左右画像の水平方向の表示範囲を演算する表示範囲演算工程と、
    前記表示範囲演算工程の演算結果に基づいて、前記左右画像の水平方向をトリミングして表示する画像切り出し工程と、
    前記表示手段に立体表示された左右画像のデジタルズーム情報を入力するデジタルズーム情報入力工程と、
    前記デジタルズーム情報に基づいて、前記左右画像のそれぞれから同じ画像領域を切り出し拡大するデジタルズーム工程であって、前記左右画像のそれぞれの画像の中心と前記切り出す画像領域との中心が一致するように画像領域を切り出し拡大するデジタルズーム工程と、
    前記デジタルズーム情報に基づいて、前記視差調整量を修正する視差調整量修正工程と、
    を備えたことを特徴とする画像再生方法。
JP2009170251A 2009-07-21 2009-07-21 画像再生装置及び方法 Expired - Fee Related JP5491786B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2009170251A JP5491786B2 (ja) 2009-07-21 2009-07-21 画像再生装置及び方法
US12/837,351 US20110018969A1 (en) 2009-07-21 2010-07-15 Image reproducing apparatus and image reproducing method
CN201010235686.4A CN101964918B (zh) 2009-07-21 2010-07-21 图像再现设备和图像再现方法
EP10251299A EP2280554A3 (en) 2009-07-21 2010-07-21 Image reproducing apparatus and image reproducing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009170251A JP5491786B2 (ja) 2009-07-21 2009-07-21 画像再生装置及び方法

Publications (2)

Publication Number Publication Date
JP2011029700A JP2011029700A (ja) 2011-02-10
JP5491786B2 true JP5491786B2 (ja) 2014-05-14

Family

ID=42937484

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009170251A Expired - Fee Related JP5491786B2 (ja) 2009-07-21 2009-07-21 画像再生装置及び方法

Country Status (4)

Country Link
US (1) US20110018969A1 (ja)
EP (1) EP2280554A3 (ja)
JP (1) JP5491786B2 (ja)
CN (1) CN101964918B (ja)

Families Citing this family (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9294751B2 (en) * 2009-09-09 2016-03-22 Mattel, Inc. Method and system for disparity adjustment during stereoscopic zoom
JP4806082B2 (ja) * 2010-03-30 2011-11-02 株式会社東芝 電子機器及び画像出力方法
JP2012063751A (ja) * 2010-07-27 2012-03-29 Panasonic Corp 撮像装置
JP5059922B2 (ja) * 2010-09-15 2012-10-31 シャープ株式会社 立体画像生成装置、立体画像表示装置、立体画像調整方法、立体画像調整方法をコンピュータに実行させるためのプログラム、及びそのプログラムを記録した記録媒体
KR101727899B1 (ko) * 2010-11-26 2017-04-18 엘지전자 주식회사 휴대 단말기 및 그 동작 제어방법
KR101479435B1 (ko) * 2010-12-10 2015-01-05 후지쯔 가부시끼가이샤 입체시 동화상 생성 장치, 입체시 동화상 생성 방법
JP2012182786A (ja) * 2011-02-08 2012-09-20 Jvc Kenwood Corp 3d画像撮影装置
JP2012208595A (ja) * 2011-03-29 2012-10-25 Jvc Kenwood Corp 立体画像表示装置および立体画像表示方法
JP5786412B2 (ja) * 2011-03-31 2015-09-30 ソニー株式会社 画像処理装置、画像処理方法及び画像処理プログラム
JP6089383B2 (ja) 2011-04-08 2017-03-08 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
KR101828805B1 (ko) 2011-07-07 2018-03-29 삼성전자주식회사 스테레오 카메라의 3차원 줌 영상 생성 방법 및 장치
JP5868045B2 (ja) * 2011-07-12 2016-02-24 キヤノン株式会社 撮像装置、画像処理装置、撮像装置の制御方法及び画像処理装置の制御方法
JP5367034B2 (ja) * 2011-08-24 2013-12-11 株式会社ソニー・コンピュータエンタテインメント 画像処理装置および画像処理方法
JP2013061440A (ja) * 2011-09-13 2013-04-04 Canon Inc 撮像装置および撮像装置の制御方法
WO2013042311A1 (ja) * 2011-09-20 2013-03-28 パナソニック株式会社 立体映像処理装置及び立体映像処理方法
CN102427542B (zh) * 2011-09-28 2014-07-30 深圳超多维光电子有限公司 一种立体图像处理方法、图像处理装置和相应的终端设备
WO2013047007A1 (ja) * 2011-09-29 2013-04-04 富士フイルム株式会社 視差量調整装置およびその動作制御方法
KR101872864B1 (ko) * 2011-12-19 2018-06-29 엘지전자 주식회사 전자 기기 및 전자 기기의 제어 방법
US9826170B2 (en) * 2012-01-26 2017-11-21 Sony Corporation Image processing of captured three-dimensional images
JP5740045B2 (ja) 2012-03-30 2015-06-24 富士フイルム株式会社 画像処理装置及び方法並びに撮像装置
CN104247412B (zh) * 2012-03-30 2016-08-24 富士胶片株式会社 图像处理装置、摄像装置、图像处理方法、记录介质以及程序
JP2013219421A (ja) * 2012-04-04 2013-10-24 Seiko Epson Corp 画像処理装置および画像処理方法
CN104272732B (zh) 2012-05-09 2016-06-01 富士胶片株式会社 图像处理装置、方法及摄像装置
CN104322061B (zh) * 2012-06-22 2017-01-18 株式会社尼康 图像处理装置、摄像装置及图像处理方法
CN105191300B (zh) 2013-03-21 2017-08-08 松下知识产权经营株式会社 图像处理方法以及图像处理装置
IL236420A (en) * 2014-12-23 2016-06-30 Ron Schneider Methods and systems for producing an enlarged 3D image
JP2017211694A (ja) * 2016-05-23 2017-11-30 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
US10445867B2 (en) * 2016-07-13 2019-10-15 The Boeing Company System and method for generating enhanced stereographic videos of aircraft build processes
EP3649913A4 (en) * 2017-08-03 2020-07-08 Sony Olympus Medical Solutions Inc. MEDICAL OBSERVATION DEVICE
CN108093243A (zh) * 2017-12-31 2018-05-29 深圳超多维科技有限公司 一种立体成像处理方法、装置和立体显示设备
CN108234983A (zh) * 2017-12-31 2018-06-29 深圳超多维科技有限公司 一种立体成像处理方法、装置和电子设备
CN108156442A (zh) * 2017-12-31 2018-06-12 深圳超多维科技有限公司 一种立体成像处理方法、装置和电子设备
JP7349808B2 (ja) * 2019-03-20 2023-09-25 任天堂株式会社 画像表示システム、画像表示プログラム、画像表示装置、および画像表示方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3269657B2 (ja) * 1992-05-07 2002-03-25 日本電信電話株式会社 両眼立体視装置
US6414709B1 (en) * 1994-11-03 2002-07-02 Synthonics Incorporated Methods and apparatus for zooming during capture and reproduction of 3-dimensional images
JP3653790B2 (ja) * 1995-05-23 2005-06-02 松下電器産業株式会社 立体電子ズーム装置及び立体画質制御装置
JPH10224824A (ja) * 1997-02-05 1998-08-21 Sanyo Electric Co Ltd 拡大画像表示装置
JPH11155151A (ja) * 1997-11-19 1999-06-08 Hamamatsu Photonics Kk 3次元撮像表示システム
JP2003284093A (ja) * 2002-03-27 2003-10-03 Sanyo Electric Co Ltd 立体画像処理方法および装置
EP2357839A3 (en) * 2002-03-27 2012-02-29 Sanyo Electric Co., Ltd. Method and apparatus for processing three-dimensional images
JP4222817B2 (ja) * 2002-09-27 2009-02-12 シャープ株式会社 立体画像表示装置、記録方法、及び伝送方法
US7636088B2 (en) * 2003-04-17 2009-12-22 Sharp Kabushiki Kaisha 3-Dimensional image creation device, 3-dimensional image reproduction device, 3-dimensional image processing device, 3-dimensional image processing program, and recording medium containing the program
JP4251907B2 (ja) * 2003-04-17 2009-04-08 シャープ株式会社 画像データ作成装置
JP2005167310A (ja) * 2003-11-28 2005-06-23 Sharp Corp 撮影装置
JP4707368B2 (ja) * 2004-06-25 2011-06-22 雅貴 ▲吉▼良 立体視画像作成方法および装置
CN101424863B (zh) * 2008-12-04 2011-08-31 上海大学 立体摄像机及其视差自适应调节方法

Also Published As

Publication number Publication date
EP2280554A2 (en) 2011-02-02
EP2280554A3 (en) 2012-04-18
CN101964918B (zh) 2015-03-25
US20110018969A1 (en) 2011-01-27
JP2011029700A (ja) 2011-02-10
CN101964918A (zh) 2011-02-02

Similar Documents

Publication Publication Date Title
JP5491786B2 (ja) 画像再生装置及び方法
JP5068391B2 (ja) 画像処理装置
JP5414947B2 (ja) ステレオ撮影装置
EP2340649B1 (en) Three-dimensional display device and method as well as program
JP5291755B2 (ja) 立体視画像生成方法および立体視画像生成システム
US8749660B2 (en) Image recording apparatus and image processing method
US10165249B2 (en) Method for smoothing transitions between scenes of a stereo film and controlling or regulating a plurality of 3D cameras
JP2004129186A (ja) 立体画像データ処理装置ならびに立体画像データ処理用プログラムおよび記録媒体
JP2003209858A (ja) 立体画像生成方法及び記録媒体
WO2012101917A1 (ja) 画像処理装置、撮像装置、再生装置および画像処理方法
WO2012023330A1 (ja) 画像処理装置、画像処理方法、画像処理プログラムおよび記録媒体
JPWO2013108339A1 (ja) ステレオ撮影装置
JP5647740B2 (ja) 視差調節装置及び方法、撮影装置、再生表示装置
WO2011070774A1 (ja) 3d映像処理装置および3d映像処理方法
JP2004320189A (ja) 2次元画像の3次元化方法
JP5586788B2 (ja) 画像表示装置及び画像撮像装置
JP7339278B2 (ja) 視聴者に合わせて調整された立体画像表示
US10475233B2 (en) System, method and software for converting images captured by a light field camera into three-dimensional images that appear to extend vertically above or in front of a display medium
KR20070096177A (ko) 평행축 방식의 스테레오 카메라 시스템에서의 줌-주시각연동 제어방법 및 장치
WO2018187724A1 (en) System, method and software for converting images captured by a light field camera into three-dimensional images that appear to extend vertically above or in front of a display medium
CN114092316A (zh) 图像处理方法、设备及存储介质
WO2013186881A1 (ja) 立体視画像生成方法および立体視画像生成システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120202

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121031

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130606

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140217

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140228

R150 Certificate of patent or registration of utility model

Ref document number: 5491786

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees