JP6619513B2 - 撮像装置、撮像方法、プログラム、及び非一時的記録媒体 - Google Patents

撮像装置、撮像方法、プログラム、及び非一時的記録媒体 Download PDF

Info

Publication number
JP6619513B2
JP6619513B2 JP2018518123A JP2018518123A JP6619513B2 JP 6619513 B2 JP6619513 B2 JP 6619513B2 JP 2018518123 A JP2018518123 A JP 2018518123A JP 2018518123 A JP2018518123 A JP 2018518123A JP 6619513 B2 JP6619513 B2 JP 6619513B2
Authority
JP
Japan
Prior art keywords
motion vector
image
optical system
probability
shake
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018518123A
Other languages
English (en)
Other versions
JPWO2017199559A1 (ja
Inventor
小野 修司
修司 小野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2017199559A1 publication Critical patent/JPWO2017199559A1/ja
Application granted granted Critical
Publication of JP6619513B2 publication Critical patent/JP6619513B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/02Bodies
    • G03B17/17Bodies with reflectors arranged in beam forming the photographic image, e.g. for reducing dimensions of camera
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B19/00Cameras
    • G03B19/18Motion-picture cameras
    • G03B19/22Double cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • G06T5/73
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B2217/00Details of cameras or camera bodies; Accessories therefor
    • G03B2217/005Blur detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20201Motion blur correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Studio Devices (AREA)
  • Cameras In General (AREA)
  • Adjustment Of Camera Lenses (AREA)

Description

本発明は撮像装置、撮像方法、プログラム、及び非一時的記録媒体に係り、特に各受光センサが光の入射角に関して指向性を有する指向性センサを使用して複数の画像を同時に撮影する技術に関する。
領域により異なる撮像特性を有する光学系と指向性センサとを備える撮像系により、撮像特性が異なる複数の画像を同時に取得可能な撮像システムが提案されている。指向性センサは、理想的には、想定された瞳領域からの光だけを感じるように製作されるが、実際には混信が生じて、他の瞳領域からの光にも感じてしまう。
このような課題に対し、特許文献1には、複数の領域の内の一の領域に対応する受光センサの撮像信号から一の領域に対応する画像を生成し、生成された画像の補正を行う際に、一の領域に対応して生成された画像から一の領域以外の領域を通過した光束の影響を除去する技術が記載されている。
国際公開第2013/146506号公報
装置の振れ量を検出し、振れ量に応じて画像読み出し範囲をずらすことによって、表示された画像の振れを低減する電子式手振れ補正技術が知られている。電子式手振れ補正技術では、画像から特徴点を抽出し、その動き情報(動きベクトル)を検出して振れ量を検出する。
領域により異なる撮像特性を有する光学系と指向性センサを備える撮像系にこのような電子式手振れ補正技術を適用すると、混信による偽像の動きを真の像の動きとして誤認識してしまうおそれがある。
また、特許文献1に記載の技術においても、混信を完全に除去しきれるものではない。したがって、混信に対応して被写体の動きを正しく把握することが困難であった。
本発明はこのような事情に鑑みてなされたもので、撮像特性の異なる複数の画像を同時に撮影し、複数の画像の振れをそれぞれ検出する撮像装置、撮像方法、プログラム、及び非一時的記録媒体を提供することを目的とする。
上記目的を達成するために撮像装置の一の態様は、それぞれ異なる領域に設けられ、かつ互いに異なる撮像特性を有する第1光学系及び第2光学系からなる撮影光学系と、2次元状に配列された光電変換素子により構成された複数の画素を備え、第1光学系及び第2光学系を介して入射する光束をそれぞれ瞳分割して複数の画素により選択的に受光する指向性センサと、を有する撮像部と、第1光学系を介して得られる第1画像の画像信号と第2光学系を介して得られる第2画像の画像信号とを指向性センサから取得する画像読み出し部と、第1画像における被写体の動きベクトルである第1の動きベクトルと、第2画像における被写体の動きベクトルである第2の動きベクトルと、を検出する動きベクトル検出部と、第1の動きベクトルが第1光学系を通過した光束による動きベクトルである確からしさを示す第1の確からしさと、第2の動きベクトルが第2光学系を通過した光束による動きベクトルである確からしさを示す第2の確からしさと、を算出する確からしさ算出部と、第1の動きベクトルと、第2の動きベクトルと、第1の確からしさと、第2の確からしさと、に基づいて、第1画像における第1光学系を通過した光束による動きベクトルである第1の真の動きベクトルと、第2画像における第2光学系を通過した光束による動きベクトルである第2の真の動きベクトルと、を抽出する動きベクトル抽出部と、第1の真の動きベクトルに基づいて撮像部の振れによる第1画像の第1の振れを検出し、第2の真の動きベクトルに基づいて撮像部の振れによる第2画像の第2の振れを検出する振れ検出部と、を備える。
本態様によれば、互いに異なる撮像特性を有する撮影光学系と指向性センサとを有する撮像部によって互いに異なる撮像特性の画像信号を同時に取得し、それぞれの画像信号から検出した動きベクトルとその確からしさから真の動きベクトルを抽出し、真の動きベクトルから撮像部の振れによる画像の振れを検出するようにしたので、撮像特性の異なる複数の画像を同時に撮影し、かつ複数の画像のブレをそれぞれ検出することができる。
第1の振れに基づいて第1画像の切り出し領域の位置を移動させて切り出した第1画像を表示部に表示させ、第2の振れに基づいて第2画像の切り出し領域の位置を移動させて切り出した第2画像を表示部に表示させる電子式振れ補正部を備えることが好ましい。これにより、表示部に表示させる画像のブレを低減することができる。
第1光学系及び第2光学系は、一方が広角光学系であり、他方が広角光学系と共通の光軸を有し、広角光学系より焦点距離が長い望遠光学系であってもよい。これにより、広角の画像と望遠の画像とを同時に撮影し、かつ第1の振れと第2の振れとをそれぞれ検出することができる。
振れ検出部は、第1光学系及び第2光学系の焦点距離の比に基づいて、第1の振れ及び第2の振れを検出してもよい。これにより、適切に第1の振れ及び第2の振れを検出することができる。
動きベクトル検出部は、連続して取得した複数の第1画像から被写体の第1の特徴点を検出して、検出した第1の特徴点に基づいて、互いに大きさが異なる複数の第1の動きベクトルを検出し、連続して取得した複数の第2画像から被写体の第2の特徴点を検出して、検出した第2の特徴点に基づいて、互いに大きさが異なる複数の第2の動きベクトルを検出してもよい。これにより、第1の動きベクトル及び第2の動きベクトルを適切に検出することができる。
確からしさ算出部は、複数の第1の動きベクトルのそれぞれについて第1の確からしさを算出し、複数の第2の動きベクトルのそれぞれについて第2の確からしさを算出することが好ましい。これにより、第1の確からしさ及び第2の確からしさを適切に算出することができる。
確からしさ算出部は、第1の特徴点における輝度信号と、第2の特徴点のうち第1の特徴点に対応する特徴点における輝度信号と、に基づいて、複数の第1の動きベクトルのそれぞれについて第1の確からしさを算出し、複数の第2の動きベクトルのそれぞれについて第2の確からしさを算出することが好ましい。これにより、第1の確からしさ及び第2の確からしさを適切に算出することができる。
動きベクトル抽出部は、複数の第1の動きベクトルのうちの一の動きベクトルについての第1の確からしさが、一の動きベクトルに対応する第2の動きベクトルについての第2の確からしさよりも高い場合は、一の動きベクトルに対応する第2の動きベクトルは第1光学系から第2光学系への混信による動きベクトルであると判断して、一の動きベクトルを第1の真の動きベクトルとして抽出し、一の動きベクトルについての第1の確からしさが、一の動きベクトルに対応する第2の動きベクトルについての第2の確からしさ以下である場合は、一の動きベクトルは第2光学系から第1光学系への混信による動きベクトルであると判断して、第2の動きベクトルを第2の真の動きベクトルとして抽出することが好ましい。これにより、第1の真の動きベクトル及び第2の真の動きベクトルを適切に抽出することができる。
撮影光学系は第1光学系が中央部に配置され、第2光学系が第1光学系の周辺部に環状に配置された撮影光学系であることが好ましい。これにより、撮像特性の異なる複数の画像を適切に撮影することができる。
上記目的を達成するために撮像方法の一の態様は、それぞれ異なる領域に設けられ、かつ互いに異なる撮像特性を有する第1光学系及び第2光学系からなる撮影光学系と、2次元状に配列された光電変換素子により構成された複数の画素を備え、第1光学系及び第2光学系を介して入射する光束をそれぞれ瞳分割して複数の画素により選択的に受光する指向性センサと、を有する撮像部を備える撮像装置の撮像方法であって、第1光学系を介して得られる第1画像の画像信号と第2光学系を介して得られる第2画像の画像信号とを指向性センサから取得する画像読み出し工程と、第1画像における被写体の動きベクトルである第1の動きベクトルと、第2画像における被写体の動きベクトルである第2の動きベクトルと、を検出する動きベクトル検出工程と、第1の動きベクトルが第1光学系を通過した光束による動きベクトルである確からしさを示す第1の確からしさと、第2の動きベクトルが第2光学系を通過した光束による動きベクトルである確からしさを示す第2の確からしさと、を算出する確からしさ算出工程と、第1の動きベクトルと、第2の動きベクトルと、第1の確からしさと、第2の確からしさと、に基づいて、第1画像における第1光学系を通過した光束による動きベクトルである第1の真の動きベクトルと、第2画像における第2光学系を通過した光束による動きベクトルである第2の真の動きベクトルと、を抽出する動きベクトル抽出工程と、第1の真の動きベクトルに基づいて撮像部の振れによる第1画像の第1の振れを検出し、第2の真の動きベクトルに基づいて撮像部の振れによる第2画像の第2の振れを検出する振れ検出工程と、を含む。
本態様によれば、互いに異なる撮像特性を有する撮影光学系と指向性センサとを有する撮像部によって互いに異なる撮像特性の画像信号を同時に取得し、それぞれの画像信号から検出した動きベクトルとその確からしさから真の動きベクトルを抽出し、真の動きベクトルから撮像部の振れによる画像の振れを検出するようにしたので、撮像特性の異なる複数の画像を同時に撮影し、かつ複数の画像のブレをそれぞれ検出することができる。
第1の振れに基づいて第1画像の切り出し領域の位置を移動させて切り出した第1画像を表示部に表示させ、第2の振れに基づいて第2画像の切り出し領域の位置を移動させて切り出した第2画像を表示部に表示させる電子式振れ補正工程を備えることが好ましい。これにより、表示部に表示させる画像のブレを低減することができる。
撮像方法を撮像装置に実行させるプログラムも本態様に含まれる。また、プログラムのコンピュータ読み取り可能なコードが記録された非一時的記録媒体も本態様に含まれる。
本発明によれば、撮像特性の異なる複数の画像を同時に撮影し、複数の画像の振れをそれぞれ検出することができる。
図1は、デジタルカメラを示す斜視図である。 図2は、撮像部の断面構成を示す図である。 図3は、撮像素子の詳細な断面構成例を示す図である。 図4は、撮像部に入射する広角画像光の光路を示す図である。 図5は、撮像部に入射する望遠画像光の光路を示す図である。 図6は、デジタルカメラの機能構成例を示すブロック図である。 図7は、広角画像の一例を示す図である。 図8は、望遠画像の一例を示す図である。 図9は、混信が生じている広角画像の一例を示す図である。 図10は、混信が生じている望遠画像の一例を示す図である。 図11は、広角画像中の被写体と動きベクトルとを示す図である。 図12は、望遠画像中に混信した広角画像の被写体像を示す図である。 図13は、広角画像から抽出した真の動きベクトルを示す図である。 図14は、望遠画像から抽出した真の動きベクトルを示す図である。 図15は、広角画像の被写体像と動きベクトルを示す図である。 図16は、望遠画像の被写体像と動きベクトルを示す図である。 図17は、広角画像から抽出された真の動きベクトルを示す図である。 図18は、望遠画像から抽出された真の動きベクトルを示す図である。 図19は、手ブレ補正処理を示すフローチャートである。 図20は、広角画像と広角画像から検出された第1の動きベクトルの一例を示す図である。 図21は、望遠画像と望遠画像から検出された第2の動きベクトルの一例を示す図である。 図22は、真の動きベクトルを抽出する処理の詳細を示すフローチャートである。 図23は、撮像素子の撮像領域と切り出し領域とを示す図である。 図24は、撮像素子の撮像領域と切り出し領域とを示す図である。 図25は、広角画像から抽出された真の動きベクトルを示す図である。 図26は、撮像素子の撮像領域と切り出し領域とを示す図である。 図27は、撮像素子の撮像領域と切り出し領域とを示す図である。 図28は、望遠画像から抽出された真の動きベクトルを示す図である。 図29は、撮像部の第2の実施形態を示す断面図である。 図30は、指向性センサの断面図及び平面図である。 図31は、撮像部の第3の実施形態を示す断面図である。
以下、添付図面に従って本発明の好ましい実施形態について詳説する。
〔デジタルカメラの構成〕
図1は、本実施形態に係るデジタルカメラ10(撮像装置の一例)を示す斜視図である。デジタルカメラ10は、光軸Lを有する撮影光学系11及び被写体に撮影補助光を照射するフラッシュ発光部12が本体の前面に設けられており、撮像動作を実行させるためのレリーズボタン13が本体の上面に設けられている。
デジタルカメラ10は、被写体の動画像を撮影することができる。撮影者がデジタルカメラ10を保持して撮影光学系11を被写体に向けると、撮影光学系11を介して撮像素子24(図2参照)の受光面に被写体像が結像する。この被写体像は、撮像素子24において光電変換され、一定周期で画像信号として読み出される。この一定周期の画像信号に画像処理を施すことにより、被写体の動画像を取得することができる。
動画像を撮影する際に、デジタルカメラ10を保持した撮影者の手が振れる(手ブレする)ことにより、撮影した動画像に像振れが発生する場合がある。ここでは、動画像に発生する像振れのうち手ブレによる像振れを補正(低減)する処理を「手ブレ補正」と呼ぶ。特に、画像の切り出し領域の位置を移動させて像振れを補正する処理を、「電子式手ブレ補正」と呼ぶ。なお、手ブレは、撮影者の手が振れることにより発生するものに限定されず、デジタルカメラ10の本体が何らかの原因により振れることにより発生したもの全般を含む。
〔撮像部の構成〕
図2は、撮影光学系11及び撮像素子24を備える撮像部14の断面構成を示す図である。
撮影光学系11は、相互に独立した特性を有する第1光学系21及び第2光学系22を含み、特に、本実施形態では焦点距離がそれぞれ異なる光学系によって第1光学系21及び第2光学系22が構成される。すなわち、本実施形態の撮影光学系11は、広角画像撮影レンズ群によって構成される第1光学系21(一方の広角光学系の一例)と、望遠画像撮影レンズ群によって構成される第2光学系22(他方の望遠光学系の一例)とを含み、撮像素子24によって広角画像及び望遠画像を同時に撮影することができる。
図2に示す第1光学系21は、同一の光軸L上に配置される第1広角用レンズ21a、第2広角用レンズ21b、第3広角用レンズ21c、第4広角用レンズ21d及び共通レンズ23を含んで構成される。一方、第2光学系22は、第1望遠用レンズ22a、第1望遠用反射ミラー22cが設けられる第1望遠用反射体22b、第2望遠用反射ミラー22eが設けられる第2望遠用反射体22d、及び共通レンズ23を含んで構成される。
第1光学系21(特に第1広角用レンズ21a、第2広角用レンズ21b、第3広角用レンズ21c及び第4広角用レンズ21d)と第2光学系22(特に第1望遠用レンズ22a、第1望遠用反射体22b、第1望遠用反射ミラー22c、第2望遠用反射体22d及び第2望遠用反射ミラー22e)とは、同心状に配置され、第1光学系21は中央光学系を形成し、第2光学系22は第1光学系21の周辺部に環状に配置された周辺光学系を形成する。なお、共通レンズ23は、光軸L上に配置され、第1光学系21と第2光学系22との間で共用される。
このように撮影光学系11は、共通の光軸Lを有する第1光学系21及び第2光学系22であって、相互に異なる焦点距離及び撮影画角を有する第1光学系21及び第2光学系22を含む。
撮像素子24は、複数の受光センサ25(光電変換素子)が光の入射角に関して指向性を有する指向性センサであり、複数の受光センサ25により構成された画素が光軸Lと直交する方向に2次元状に配置され、第1光学系21を介して入射する広角画像光W(図4参照、第1光学系を通過した光束の一例)と、第2光学系22を介して入射する望遠画像光T(図5参照、第1光学系を通過した光束の一例)とを同時に受光する。
図3は、撮像素子24の詳細な断面構成例を示す図である。撮像素子24は、角度感度特性が異なる第1受光センサ25aと第2受光センサ25bとを備えており、第1受光センサ25aと第2受光センサ25bとは、交互に配置されている。
第1受光センサ25aは、広角画像光Wを受光して広角画像を生成するための第1画像信号を出力し、第2受光センサ25bは、望遠画像光Tを受光して望遠画像(第2画像の一例)を生成するための第2画像信号を出力する。
複数の第1受光センサ25aは、広角画像光Wを選択的に受光する第1センサ群24aを構成し、複数の第2受光センサ25bは、望遠画像光Tを選択的に受光する第2センサ群24bを構成する。
第1受光センサ25a及び第2受光センサ25bの各々は、マイクロレンズ26、フォトダイオード29、及びマイクロレンズ26とフォトダイオード29とが配置される中間層27を有する。中間層27には遮光マスク28が設けられており、第1受光センサ25aではフォトダイオード29の受光面の周辺部に遮光マスク28が配置され、第2受光センサ25bではフォトダイオード29の受光面の中央部に遮光マスク28が配置される。遮光マスク28の配置は、第1光学系21及び第2光学系22のうちのいずれに対応するかに応じて決定され、各遮光マスク28は、対応しない光学系からの光を遮断する一方で対応する光学系からの光を遮断することなくフォトダイオード29に受光させる。
本実施形態では、遮光マスク28を含む受光センサ25によって、第1光学系21及び第2光学系22のうち対応する光学系を通過した光を瞳分割して選択的に受光する複数の受光センサが実現されているが、他の手段によって瞳分割が実現されてもよい。例えば、マイクロレンズ26の前段(例えばマイクロレンズ26と共通レンズ23(図3参照)との間)に遮光マスク28が設けられてもよいし、遮光マスク28以外の遮光手段(例えば液晶シャッター等)が用いられてもよい。
なお、中間層27には遮光マスク28以外の部材が設けられてもよく、例えば配線・回路類が中間層27に設けられてもよい。
撮像素子24には、各受光センサ25に対し配設されたR(赤),G(緑),B(青)のカラーフィルタ(光学フィルタ)により構成されるカラーフィルタ配列が設けられており、このカラーフィルタ配列の色配列パターンに対応して得られる各色の画像(モザイク画像)を画像生成部32(図6参照)がデモザイク処理(同時化処理ともいう)することにより、カラーの広角画像及び望遠画像が得られるようになっている。
図4は、図2に示す撮影光学系11(特に第1光学系21)及び撮像素子24(特に第1センサ群24a(図3参照))に入射する広角画像光Wの光路を示す図である。本実施形態において広角画像光Wは、第1光学系21の第1広角用レンズ21a、第2広角用レンズ21b、第3広角用レンズ21c、第4広角用レンズ21d及び共通レンズ23を順次通過し、撮像素子24上に広角画像が結像する。
図5は、図2に示す撮影光学系11(特に第2光学系22)及び撮像素子24(特に第2センサ群24b(図3参照))に入射する望遠画像光Tの光路を示す図である。本実施形態において望遠画像光Tは、第1望遠用レンズ22aを通過(透過)し、第1望遠用反射ミラー22c及び第2望遠用反射ミラー22eの各々により反射された後に共通レンズ23を通過し、撮像素子24上に望遠画像が結像する。このように、第1望遠用反射ミラー22c及び第2望遠用反射ミラー22eの各々により反射されて光路が折り返されることにより、焦点距離の長い望遠画像撮影用の第2光学系22の光軸Lの方向に関する長さを短くすることができる。
図6は、デジタルカメラ10の機能構成例を示すブロック図である。デジタルカメラ10は、前述の撮影光学系11(第1光学系21及び第2光学系22)及び撮像素子24(第1センサ群24a及び第2センサ群24b)の他に、画像生成部32、メインコントローラ37、画像処理部38、手ブレ補正部39、記録部40、表示コントローラ41、表示部42及びユーザ操作部43を有する。
画像生成部32(画像読み出し部の一例)は、第1センサ群24aから出力される第1画像信号に基づいて広角画像の第1画像データを生成し、第2センサ群24bから出力される第2画像信号に基づいて望遠画像の第2画像データを生成する。画像生成部32において生成された第1画像データ及び第2画像データは、画像処理部38及び手ブレ補正部39に入力される。
画像処理部38(動きベクトル検出部の一例、確からしさ算出部の一例、動きベクトル抽出部の一例)は、第1画像データ及び第2画像データにおける被写体を検出し、検出結果に基づいて、被写体の動きベクトル検出、確からしさ算出、及び真の動きベクトル抽出を行う。画像処理部38による処理については、詳細を後述する。
手ブレ補正部39(振れ検出部の一例、電子式振れ補正部の一例)は、画像処理部38において抽出された真の動きベクトルに基づいて、撮像部14のブレ、すなわちデジタルカメラ10のブレを検出し、表示部42に表示される被写体像にブレが発生しないように、第1画像データ及び第2画像データを切り出す。切り出された第1画像データ及び第2画像データは、後段に設けられる記録部40、表示コントローラ41、及び/又はメインコントローラ37に入力される。
記録部40(記録部の一例)は、切り出された第1画像データ及び第2画像データを記録する。なお、第1画像データ、第2画像データ、動きベクトル、確からしさ、及び真の動きベクトルを、対応付けて記録してもよい。
表示コントローラ41(表示部の一例)は、切り出された第1画像データ及び第2画像データに基づいて広角画像及び望遠画像を表示部42に表示させる。
メインコントローラ37はCPU(Central Processing Unit)等を含む回路により構成され、撮像部14、画像生成部32、画像処理部38、手ブレ補正部39、記録部40、表示コントローラ41、表示部42、ユーザ操作部43、及びデジタルカメラ10を構成するその他の各部に接続されて、各部における処理機能を制御する。各部は、汎用的なCPUにより構成されもよいし、FPGA (Field Programmable Gate Array) などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、ASIC(Application Specific Integrated Circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路や、これらの組み合わせにより構成されてもよい。ユーザ操作部43は、ユーザによって操作されて各種の指示コマンドが入力される。ユーザ操作部43に入力された各種の指示コマンドはメインコントローラ37に送信され、メインコントローラ37は、指示コマンドに基づいてデジタルカメラ10の各部を制御する。
〔広角画像及び望遠画像〕
図7及び図8は、それぞれ同時に撮影した広角画像及び望遠画像の一例を示す図であり、広角画像と望遠画像との間で混信が生じていない場合(広角画像光Wが第2受光センサ25bに全く入射せず、望遠画像光Tが第1受光センサ25aに全く入射しない場合)を示している。
これに対し、図9及び図10は、それぞれ混信が生じている場合の広角画像及び望遠画像の一例を示す図である。図9に示すように、広角画像中に望遠画像が混信しており、本来の被写体像(画像中央の小さな貨物自動車)の他に、混信による偽像(貨物自動車の大きな像)が画像内にうっすらと現れている。一方、図10に示すように、望遠画像中にも広角画像が混信しており、本来の被写体(画像中央の大きな貨物自動車)の他に、混信による偽像(貨物自動車の小さな像)が画像中央にうっすらと現れている。以下に示す真の動きベクトル抽出は、このような状況を例として説明する。
〔確からしさに基づく真の動きベクトル抽出(その1)〕
確からしさに基づく真の動きベクトル抽出について、まず概念的に説明する。ここでは、説明を簡単にするため、被写体としては図7〜図10における貨物自動車のみを考慮し、この貨物自動車は静止しているものとしている。
図11は、広角画像を示す図であり、被写体の輪郭線と、輪郭線上に存在する特徴点について検出された第1の動きベクトル(図中の矢印)とを示している。なお、同図には望遠画像の混信による被写体像は示していない。各動きベクトルの始点は特徴点とし、動きベクトルの確からしさを、動きベクトルの太さで表現している。
ここで、動きベクトルの確からしさとは、検出された動きベクトルがその光学系における真の被写体である信頼度を指標であり、信頼度が高いほど大きな値を有する。図11では、信頼度が高いほどベクトルの太さを太く示している。確からしさは、動きベクトル検出の基となる輝度信号の強さが反映され、動きベクトルが検出される特徴点の輝度差を用いて定量化することができる。なお、色差の大きさ及び/又は近接する特徴点同士の密度等に基づいて定量化してもよい。
図12は、望遠画像を示す図であり、混信による広角画像の被写体を示す図である。図11と同様に、被写体の輪郭線と、輪郭線上に存在する特徴点について検出された第2の動きベクトル(図中の矢印)とを示している。なお、同図には、望遠画像の真の被写体は示していない。同図における被写体像は混信によるものであり、図11に示す被写体像よりも輝度が低いため、確からしさの値も小さい。したがって、動きベクトルも図11より細く表現している。
本実施形態では、第1光学系21と第2光学系22とは光軸がLで共通であるため、図12における混信による偽像の位置は、図11における被写体像と同位置となる。そこで、図11の広角画像と図12の望遠画像とを比較し、これら画像中の同じ位置に同じ向きと同じ大きさを持つ動きベクトルがあった場合は、確からしさの低い方の動きベクトルは混信による偽の動きベクトルであると判断する。このようにして、真の動きベクトルのみを抽出した結果を図13及び図14に示す。
図13は、図11に示す広角画像から抽出した真の動きベクトルを示す図であり、図14は、図12に示す望遠画像から抽出した真の動きベクトルを示す図である。図11〜図14に示す例では、広角画像の被写体のみについて説明しているため、図14に示すように、図12の望遠画像からは真の動きベクトルは抽出されていない。
〔確からしさに基づく真の動きベクトル抽出(その2)〕
次に、広角画像及び望遠画像に混信による偽像が生じている場合の、真の動きベクトル抽出について説明する。図15は、図9に示す広角画像から抽出された被写体像(輪郭で表す)及び検出された動きベクトルを示す図であり、本来の被写体像(図中央の小さな貨物自動車像)に加えて望遠画像の混信による偽の被写体像(大きな貨物自動車像)が生じている様子を示している。一方、図16は、図10に示す望遠画像から抽出された被写体像(輪郭で表す)及び検出された動きベクトルを示す図であり、本来の被写体像(大きな貨物自動車像)に加えて広角画像の混信による偽の被写体像(図中央の小さな貨物自動車像)が生じている様子を示している。
なお、図15及び図16においても、動きベクトルの確からしさをベクトルの太さで表現している。
図15及び図16に示す場合も、図11及び図12の場合と同様に、画像中の同じ位置に同じ向きと同じ大きさを持つ動きベクトルがあった場合は、確からしさの低い方の動きベクトルは混信による偽の動きベクトルであると判断して、真の動きベクトルを抽出する。図17は広角画像から抽出された真の動きベクトルを示し、図18は望遠画像から抽出された真の動きベクトルを示す。
〔手ブレ補正〕
図19は、デジタルカメラ10の撮像方法に係る手ブレ補正処理を示すフローチャートである。この処理を行うプログラムは、例えばメインコントローラ37及び/又は記録部40に記憶しておくことができる。また、このプログラムのコンピュータ読み取り可能なコードを、記録部として利用可能なCD(Compact Disc)、DVD(Digital Versatile Disc)、ハードディスク、及び/又は半導体メモリ等の非一時的記録媒体に記録して用いるようにしてもよい。
まず、ステップS10において、画像生成部32は、広角画像(第1画像の一例)を示す画像信号及び望遠画像(第2画像の一例)を示す画像信号を撮像素子24から取得して、第1画像データ及び第2画像データを生成する(画像読み出し工程の一例)。ここでは、時間間隔を空けて連続して複数の第1画像データ及び第2画像データを取得する。
次に、ステップS12において、画像処理部38は、第1画像データ及び第2画像データのそれぞれについて被写体の動きベクトルを検出する(動きベクトル検出工程の一例)。動きベクトルの検出は、連続して取得した複数の第1画像データのそれぞれにおいて、被写体の第1の特徴点を検出する。そして、対応する特徴点の差分に基づいて、広角画像における動きベクトル(第1の動きベクトルの一例)を検出する。同様に、複数の第2画像データから望遠画像における被写体の第2の特徴点を検出して、望遠画像における動きベクトル(第2の動きベクトルの一例)を検出する。
これまで説明したように、ここで検出される第1の動きベクトル及び第2の動きベクトルは、真の動きベクトルと偽像による偽の動きベクトルとが混在している。また、真の動きベクトルと偽の動きベクトルとは、第1光学系21及び第2光学系22の画角の違いにより大きさが異なる。したがって、第1の動きベクトル及び第2の動きベクトルとしては、互いに大きさが異なる複数の動きベクトルが検出される。
図20は、広角画像と広角画像から検出された第1の動きベクトルとの一例を示す図である。ここでは、広角画像の第1の特徴点における第1の動きベクトルとして、特徴点Qw1について動きベクトルVw1が、特徴点Qw2について動きベクトルVw2が検出されている。なお、本明細書中、「」はベクトルを示すものとする。
また、図21は、望遠画像と望遠画像から検出された第2の動きベクトルとの一例を示す図である。ここでは、望遠画像の第2の特徴点における第2の動きベクトルとして、特徴点Qt1について動きベクトルVt1が、特徴点Qt2について動きベクトルVt2が検出されている。
次に、ステップS14において、画像処理部38は、第1の動きベクトル及び第2の動きベクトルの確からしさを算出する(確からしさ算出工程の一例)。ここでは、第1の動きベクトルである動きベクトルVw1及びVw2が広角光学系を通過した光束による動きベクトルである確からしさ(第1の確からしさの一例)をそれぞれPw1及びPw2とし、第2の動きベクトルである動きベクトルVt1及びVt2が望遠光学系を通過した光束による動きベクトルである確からしさ(第2の確からしさの一例)をそれぞれPt1及びPt2とする。
確からしさPw1及びPt1は、広角画像中の特徴点Qw1における輝度信号と、望遠画像中の特徴点Qw1と同じ位置に存在する特徴点Qt1(特徴点Qw1に対応する特徴点Qt1)における輝度信号とに基づいて算出することができる。同様に、確からしさPw2及びPt2は、広角画像中の特徴点Qw2における輝度信号と、望遠画像中の特徴点Qw2と同じ位置に存在する特徴点Qt2(特徴点Qw2に対応する特徴点Qt2)における輝度信号とに基づいて算出することができる。ここでは、Pw1>Pt1、Pw2<Pt2の関係を有しているものとする。
続いて、ステップS16において、画像処理部38は、真の動きベクトルを抽出する(動きベクトル抽出工程の一例)。図22は、画像処理部38によるステップS16の真の動きベクトルを抽出する処理の詳細を示すフローチャートである。
最初に、ステップS22おいて、ステップS12において検出した動きベクトルに基づいて、第1の動きベクトルのリストを作成する。図20に示した広角画像の例では、動きベクトルVw1及びVw2がリストに挙げられる。
同様に、ステップS24おいて、ステップS12において検出した動きベクトルに基づいて、第2の動きベクトルのリストを作成する。図21に示した望遠画像の例では、動きベクトルVt1及びVt2がリストに挙げられる。
次に、ステップS26において、ステップS22及びS24で作成したリストから、広角画像及び望遠画像の同じ位置で、かつ同じ向きを持つベクトル対のリストを作成する。図20及び図21の例では、ベクトル対(Vw1,Vt1)及び(Vw2,Vt2)がリストに挙げられる。
続いて、ステップS28において、ベクトル対を構成する各動きベクトルについて確からしさの大小を比較する。ベクトル対を構成する各動きベクトルは、ステップS14において確からしさが算出されている。ベクトル対(Vw1,Vt1)の場合であれば、第1の動きベクトルVw1の確からしさPw1と第2の動きベクトルVt1の確からしさPt1との比較を行う。
ステップS28において、第1動きベクトルVwx(x=1,2)の確からしさよりも第2動きベクトルVtx(x=1,2)の確からしさの方が大きい(高い)と判定された場合(第1動きベクトルVwx(x=1,2)の確からしさが第2動きベクトルVtx(x=1,2)の確からしさ以下である場合)は、ステップS30に移行し、このベクトル対の第2の動きベクトルを真の動きベクトルとして抽出する。さらに、第1の動きベクトルVwxを混信による偽の動きベクトルであると判断し、ステップS22において作成した第1の動きベクトルのリストから削除する。
一方、ステップS28において、第2動きベクトルVtxの確からしさよりも第1動きベクトルVwxの確からしさの方が大きいと判定された場合は、ステップS32に移行し、このベクトル対の第1の動きベクトルを真の動きベクトルとして抽出する。さらに、第2の動きベクトルVtxを混信による動きベクトルであると判断し、ステップS24において作成した第2の動きベクトルのリストから削除する。
ベクトル対(Vw1,Vt1)の場合であれば、Pw1>Pt1であるため、第1の動きベクトルVw1を真の動きベクトルとして抽出し、第2の動きベクトルVt1を偽の動きベクトルであるとして、第2の動きベクトルのリストから削除する。
また、ベクトル対(Vw2,Vt2)の場合であれば、Pw2<Pt2であるため、第2の動きベクトルVt2を真の動きベクトルとして抽出し、第1の動きベクトルVw2を偽の動きベクトルであるとして、第1の動きベクトルのリストから削除する。
次に、ステップS34において、全てのベクトル対についてステップS28の処理を終了したか否かを判定する。終了していない場合はステップS28に移行し、同様の処理を繰り返す。
全てのベクトル対についてステップS28の処理を終了した場合は、ステップS36に移行し、第1の動きベクトルのリストからステップS30において該当する第1の動きベクトルを削除した第1の真の動きベクトルのリストを作成する。また、同様に、ステップS38において、第2の動きベクトルのリストからステップS32において該当する第2の動きベクトルを削除した第2の真の動きベクトルのリストを作成する。
図19の説明の戻り、ステップS18において、手ブレ補正部39は、第1の真の動きベクトルのリスト及び第2の真の動きベクトルのリストに基づいて、撮像部14のブレ(撮像部の振れの一例)による広角画像の第1のブレ(第1の振れの一例)及び望遠画像の第2のブレ(第2の振れの一例)を検出する(振れ検出工程の一例)。第1の真の動きベクトル及び第2の真の動きベクトルは、撮像部14のブレによるベクトル成分と、被写体の動きによるベクトル成分とが合成されたものとなっている。撮像部14のブレによるベクトル成分を検出する手法は、公知の方法を用いることができる。
なお、望遠画像において検出できるブレは、広角画像において検出できるブレよりも分解能が高い。したがって、第2の真の動きベクトルのリストから望遠画像の第2のブレを検出し、検出した第2のブレと第1光学系21及び第2光学系22の焦点距離の比に基づいて、広角画像の第1のブレを検出してもよい。また、検出した第1のブレと焦点距離の比に基づいて、望遠画像の第2のブレを検出することもできる。
さらに、ステップS19(電子式振れ補正工程の一例)において、手ブレ補正部39は、検出した第1のブレ及び第2のブレに応じて画像の切り出しを行う。
図23は、撮像素子24の受光面の全体に相当する撮像領域100と、記録部40への記録及び/又は表示部42への表示が行われる切り出し領域102とを示す図であり、ここでは第1センサ群24a(図3参照)において撮影される広角画像について示している。また、図24は、図23に示す広角画像から時間間隔を空けて撮影された広角画像である。なお、図23及び図24では、望遠画像の混信像の図示は省略している。
さらに、この2枚の広角画像から抽出された第1の真の動きベクトルを図25に示す。手ブレ補正部39は、第1の真の動きベクトルから第1のブレを検出する。ここでは、被写体の貨物自動車は静止しているため、撮像部14のブレによる広角画像の第1のブレは、第1の真の動きベクトルと等しい。
手ブレ補正部39は、広角画像の第1のブレに応じて、画像生成部32において生成された第1画像データの切り出し領域102の位置を決定し、決定した位置で第1画像データを切り出す。ここでは、図24に示す広角画像の切り出し領域102の位置を、図23に示す切り出し領域102の位置から、図25に示す第1の真の動きベクトルの方向及び量だけ移動させる。
また、図26は、撮像素子24の撮像領域100と切り出し領域102とを示す図であり、第2センサ群24b(図3参照)において撮影される望遠画像について示している。また、図27は、図26に示す望遠画像から時間間隔を空けて撮影された望遠画像である。なお、図26及び図27では、広角画像の混信像の図示は省略している。
さらに、この2枚の望遠画像から抽出された第2の真の動きベクトルを図28に示す。手ブレ補正部39は、第2の真の動きベクトルから第2のブレを検出する。ここでは、撮像部14のブレによる望遠画像の第2のブレは、第2の真の動きベクトルと等しい。
手ブレ補正部39は、望遠画像の第2のブレに応じて、画像生成部32において生成された第2画像データの切り出し領域102の位置を決定し、決定した位置で第2画像データを切り出す。ここでは、図27に示す望遠画像の切り出し領域102の位置を、図26に示す切り出し領域102の位置から、図28に示す第2の真の動きベクトルの方向及び量だけ移動させる。
最後に、ステップS20において、ステップS18で切り出した切り出し領域102について記録部40に記録するとともに、表示コントローラ41が表示部42に表示させる。
したがって、図23に示す広角画像と図24に示す広角画像とでは、撮像部14のブレによって真の動きベクトルに相当する像ブレが発生しているにもかかわらず、表示部42の同じ位置に被写体が表示される。同様に、図26に示す望遠画像と図27に示す望遠画像とでは、真の動きベクトルに相当する像ブレが発生しているにもかかわらず、表示部42の同じ位置に被写体が表示される。
以上説明したように、第1の実施形態に係るデジタルカメラ10は、確からしさに基づいて真の動きベクトルを抽出し、撮像部14のブレを検出するので、混信があっても撮像部14のブレを把握でき、混信に容易に対応することができる。また、検出したブレに基づいて画像の切り出し領域の位置を移動させて切り出した画像を表示部に表示させるので、混信があっても表示及び/又は記録する画像のブレを低減することができる。
また、第1の実施形態において、画像のブレを軽減するには、真の動きベクトルを抽出すればよく、混信を除去した画像を作成する必要はない。すなわち、図9及び図10のような画像を画像処理して図7及び図8のような画像にする必要はないことに留意すべきである。
〔撮像部の第2の実施形態〕
次に、撮像部の第2の実施形態について説明する。図29は、第2の実施形態に係る撮像部61を示す断面図である。同図に示すように、撮像部61は撮影光学系62と指向性センサ67とから構成されている。
撮影光学系62は、それぞれ同一の光軸L2上に配置された、第1光学系としての中央部の中央光学系63と、その周辺部の同心状の第2光学系としての環状光学系64とから構成されている。
中央光学系63は、第1レンズ63a、第2レンズ63b、第3レンズ63c、第4レンズ63d、及び共通レンズ65から構成された広角光学系であり、指向性センサ67を構成するマイクロレンズアレイ66上に広角画像を結像させる。
環状光学系64は、第1レンズ64a、第2レンズ64b、反射光学系としての第1反射ミラー64c、第2反射ミラー64d、及び共通レンズ65から構成された望遠光学系であり、マイクロレンズアレイ66上に望遠画像を結像させる。第1レンズ64a及び第2レンズ64bを介して入射した光束は、第1反射ミラー64c及び第2反射ミラー64dにより2回反射された後、共通レンズ65を通過する。第1反射ミラー64c及び第2反射ミラー64dにより光束が折り返されることにより、焦点距離の長い望遠光学系の光軸方向の長さを短くしている。
指向性センサ67は、マイクロレンズアレイ66とイメージセンサ68とから構成されている。
図30は、マイクロレンズアレイ66及びイメージセンサ68の要部の断面図及び平面図である。マイクロレンズアレイ66は、複数のマイクロレンズ(瞳結像レンズ)66aが2次元状に配列されて構成されている。1つのマイクロレンズ66aの水平方向及び垂直方向の大きさは、それぞれイメージセンサ68の光電変換素子である受光セル68aの3つ分の大きさであり、1つのマイクロレンズ66aに対して、格子状(正方格子状)の3×3個の受光セル68aが対応して配置されている。以下、1つのマイクロレンズ66a及び1つのマイクロレンズ66aに対応する受光セル群(3×3個の受光セル68a)を単位ブロックという。
マイクロレンズアレイ66の各マイクロレンズ66aは、撮影光学系62の中央光学系63に対応する円形の中央瞳像(第1の瞳像)67aを単位ブロックの中央の受光セル68aに結像させ、環状光学系64に対応する環状瞳像(第2の瞳像)67bを単位ブロックの周囲の8個の受光セル68aに結像させる。
このように構成された撮像部61によれば、中央光学系63に対応する広角画像と、環状光学系64に対応する望遠画像(撮影倍率が広角画像よりも大きい画像)とを同時に撮像することができる。
なお、イメージセンサ68には、各受光セル上に対して配設されたR(赤),G(緑),B(青)のカラーフィルタ(光学フィルタ)により構成されるカラーフィルタ配列が設けられており、このカラーフィルタ配列の色配列パターンに対応して得られる各色の画像(モザイク画像)をデモザイク処理(同時化処理)することにより、カラーの広角画像及び望遠画像が得られるようになっている。
また、撮像部61により取得した広角画像及び望遠画像に関して、動きベクトルの検出及び真の動きベクトルの抽出処理は第1の実施形態と同様に行うことができる。これにより、第2の実施形態においても、混信があっても動画像のブレを低減することができる。
〔撮像部の第3の実施形態〕
撮像部の第3の実施形態について説明する。図31は、第3の実施形態に係る撮像部111を示す断面図である。同図に示すように、撮像部111は、撮影光学系112と、指向性センサ67とを備えている。指向性センサ67は図29及び図30に示したものと同一である。
撮影光学系112は、それぞれ同一の光軸L3上に配置された中央部の中央光学系113(第1光学系)とその周辺部の環状光学系114(第2光学系)とから構成されている。中央光学系113は、第1レンズ113a、第2レンズ113b、及び共通レンズ115から構成された望遠光学系であり、画角αを有している。一方、環状光学系114は、レンズ114a及び共通レンズ115から構成された広角光学系であり、画角β(β>α)を有し、中央光学系113よりも広角である。
撮影光学系112は、図29に示した撮影光学系62と比較すると、反射ミラーを使用しておらず、また、中央光学系113が望遠光学系であり、環状光学系114が広角光学系である点において相違する。
なお、撮像部111により取得した広角画像及び望遠画像に関しても、動きベクトルの検出及び真の動きベクトルの抽出処理は第1の実施形態と同様に行うことができる。これにより、第3の実施形態においても、混信があっても動画像のブレを低減することができる。
〔その他〕
以上説明した第1〜第3の実施形態では、第1光学系が中央部に配置された円形の光学系であり第2光学系が第1光学系の周辺部に環状に配置された環状光学系である場合について説明したが、本発明における撮影光学系は、第1,第2光学系が光軸に垂直な面内の異なる領域に配置されたもの(例えば、第1,第2光学系をそれぞれ半月型の光学系とする)でもよい。
また、第1〜第3の実施形態では第1光学系及び第2光学系の焦点距離(撮影画角)が互いに異なる場合について説明したが、第1光学系及び第2光学系において異なる撮像特性としては焦点距離(撮影画角)に限らず、合焦距離及び/又は透過光の周波数が異なっていてもよい。
また、第1〜第3の実施形態では、光学系(第1,第2光学系)の光軸が共通である場合について説明したが、本発明において光学系の光軸は共通でなくてもよい。第1,第2光学系の光軸がゼロでない角度を成している場合は、第1,第2光学系の撮影画角の一部が重なっているようにしてもよい。
また、本発明において光学系の数は2に限らず、3以上でもよい。3以上の光学系を用いる場合、第1あるいは第2光学系がさらに複数の光学系により構成されるようにしてもよい。
本発明の技術的範囲は、上記の実施形態に記載の範囲には限定されない。各実施形態における構成等は、本発明の趣旨を逸脱しない範囲で、各実施形態間で適宜組み合わせることができる。
10 デジタルカメラ
11 撮影光学系
12 フラッシュ発光部
13 レリーズボタン
14 撮像部
21 第1光学系
21a 第1広角用レンズ
21b 第2広角用レンズ
21c 第3広角用レンズ
21d 第4広角用レンズ
22 第2光学系
22a 第1望遠用レンズ
22b 第1望遠用反射体
22c 第1望遠用反射ミラー
22d 第2望遠用反射体
22e 第2望遠用反射ミラー
23 共通レンズ
24 撮像素子
24a 第1センサ群
24b 第2センサ群
25 受光センサ
25a 第1受光センサ
25b 第2受光センサ
26 マイクロレンズ
27 中間層
28 遮光マスク
29 フォトダイオード
32 画像生成部
37 メインコントローラ
38 画像処理部
39 手ブレ補正部
40 記録部
41 表示コントローラ
42 表示部
43 ユーザ操作部
61 撮像部
62 撮影光学系
63 中央光学系
63a 第1レンズ
63b 第2レンズ
63c 第3レンズ
63d 第4レンズ
64 環状光学系
64a 第1レンズ
64b 第2レンズ
64c 第1反射ミラー
64d 第2反射ミラー
65 共通レンズ
66 マイクロレンズアレイ
66a マイクロレンズ
67 指向性センサ
68 イメージセンサ
68a 受光セル
100 撮像領域
102 切り出し領域
111 撮像部
112 撮影光学系
113 中央光学系
113a 第1レンズ
113b 第2レンズ
114 環状光学系
114a レンズ
115 共通レンズ
L 光軸
L2 光軸
L3 光軸
Qt1 特徴点
Qt2 特徴点
Qw1 特徴点
Qw2 特徴点S10〜S20 手振れ補正処理処理
S22〜S38 真の動きベクトル抽出処理
T 望遠画像光
W 広角画像光α 画角β 画角

Claims (13)

  1. それぞれ異なる領域に設けられ、かつ互いに異なる撮像特性を有する第1光学系及び第2光学系からなる撮影光学系と、2次元状に配列された光電変換素子により構成された複数の画素を備え、前記第1光学系及び前記第2光学系を介して入射する光束をそれぞれ瞳分割して前記複数の画素により選択的に受光する指向性センサと、を有する撮像部と、
    前記第1光学系を介して得られる第1画像の画像信号と前記第2光学系を介して得られる第2画像の画像信号とを前記指向性センサから取得する画像読み出し部と、
    前記第1画像における被写体の動きベクトルである第1の動きベクトルと、前記第2画像における前記被写体の動きベクトルである第2の動きベクトルと、を検出する動きベクトル検出部と、
    前記第1の動きベクトルが前記第1光学系を通過した光束による動きベクトルである確からしさを示す第1の確からしさと、前記第2の動きベクトルが前記第2光学系を通過した光束による動きベクトルである確からしさを示す第2の確からしさと、を算出する確からしさ算出部と、
    前記第1の動きベクトルと、前記第2の動きベクトルと、前記第1の確からしさと、前記第2の確からしさと、に基づいて、前記第1画像における前記第1光学系を通過した光束による動きベクトルである第1の真の動きベクトルと、前記第2画像における前記第2光学系を通過した光束による動きベクトルである第2の真の動きベクトルと、を抽出する動きベクトル抽出部と、
    前記第1の真の動きベクトルに基づいて前記撮像部の振れによる前記第1画像の第1の振れを検出し、前記第2の真の動きベクトルに基づいて前記撮像部の振れによる前記第2画像の第2の振れを検出する振れ検出部と、
    を備える撮像装置。
  2. 前記第1の振れに基づいて前記第1画像の切り出し領域の位置を移動させて前記切り出した第1画像を表示部に表示させ、前記第2の振れに基づいて前記第2画像の切り出し領域の位置を移動させて前記切り出した第2画像を前記表示部に表示させる電子式振れ補正部を備える請求項1に記載の撮像装置。
  3. 前記第1光学系及び前記第2光学系は、一方が広角光学系であり、他方が前記広角光学系と共通の光軸を有し、前記広角光学系より焦点距離が長い望遠光学系である請求項1又は2に記載の撮像装置。
  4. 前記振れ検出部は、前記第1光学系及び前記第2光学系の前記焦点距離の比に基づいて、前記第1の振れ及び前記第2の振れを検出する請求項3に記載の撮像装置。
  5. 前記動きベクトル検出部は、
    連続して取得した複数の前記第1画像から前記被写体の第1の特徴点を検出して、前記検出した第1の特徴点に基づいて、互いに大きさが異なる複数の前記第1の動きベクトルを検出し、
    連続して取得した複数の前記第2画像から前記被写体の第2の特徴点を検出して、前記検出した第2の特徴点に基づいて、互いに大きさが異なる複数の前記第2の動きベクトルを検出する請求項1から4のいずれか1項に記載の撮像装置。
  6. 前記確からしさ算出部は、前記複数の第1の動きベクトルのそれぞれについて前記第1の確からしさを算出し、前記複数の第2の動きベクトルのそれぞれについて前記第2の確からしさを算出する請求項5に記載の撮像装置。
  7. 前記確からしさ算出部は、前記第1の特徴点における輝度信号と、前記第2の特徴点のうち前記第1の特徴点に対応する特徴点における輝度信号と、に基づいて、前記複数の第1の動きベクトルのそれぞれについて前記第1の確からしさを算出し、前記複数の第2の動きベクトルのそれぞれについて前記第2の確からしさを算出する請求項5又は6に記載の撮像装置。
  8. 前記動きベクトル抽出部は、
    前記複数の第1の動きベクトルのうちの一の動きベクトルについての前記第1の確からしさが、前記一の動きベクトルに対応する前記第2の動きベクトルについての前記第2の確からしさよりも高い場合は、前記一の動きベクトルに対応する前記第2の動きベクトルは前記第1光学系から前記第2光学系への混信による動きベクトルであると判断して、前記一の動きベクトルを前記第1の真の動きベクトルとして抽出し、
    前記一の動きベクトルについての前記第1の確からしさが、前記一の動きベクトルに対応する前記第2の動きベクトルについての前記第2の確からしさ以下である場合は、前記一の動きベクトルは前記第2光学系から前記第1光学系への混信による動きベクトルであると判断して、前記第2の動きベクトルを前記第2の真の動きベクトルとして抽出する請求項1から7のいずれか1項に記載の撮像装置。
  9. 前記撮影光学系は前記第1光学系が中央部に配置され、前記第2光学系が前記第1光学系の周辺部に環状に配置された撮影光学系である請求項1から8のいずれか1項に記載の撮像装置。
  10. それぞれ異なる領域に設けられ、かつ互いに異なる撮像特性を有する第1光学系及び第2光学系からなる撮影光学系と、2次元状に配列された光電変換素子により構成された複数の画素を備え、前記第1光学系及び前記第2光学系を介して入射する光束をそれぞれ瞳分割して前記複数の画素で選択的に受光する指向性センサと、を有する撮像部を備える撮像装置の撮像方法であって、
    前記第1光学系を介して得られる第1画像の画像信号と前記第2光学系を介して得られる第2画像の画像信号とを前記指向性センサから取得する画像読み出し工程と、
    前記第1画像における被写体の動きベクトルである第1の動きベクトルと、前記第2画像における前記被写体の動きベクトルである第2の動きベクトルと、を検出する動きベクトル検出工程と、
    前記第1の動きベクトルが前記第1光学系を通過した光束による動きベクトルである確からしさを示す第1の確からしさと、前記第2の動きベクトルが前記第2光学系を通過した光束による動きベクトルである確からしさを示す第2の確からしさと、を算出する確からしさ算出工程と、
    前記第1の動きベクトルと、前記第2の動きベクトルと、前記第1の確からしさと、前記第2の確からしさと、に基づいて、前記第1画像における前記第1光学系を通過した光束による動きベクトルである第1の真の動きベクトルと、前記第2画像における前記第2光学系を通過した光束による動きベクトルである第2の真の動きベクトルと、を抽出する動きベクトル抽出工程と、
    前記第1の真の動きベクトルに基づいて前記撮像部の振れによる前記第1画像の第1の振れを検出し、前記第2の真の動きベクトルに基づいて前記撮像部の振れによる前記第2画像の第2の振れを検出する振れ検出工程と、
    を含む撮像方法。
  11. 前記第1の振れに基づいて前記第1画像の切り出し領域の位置を移動させて前記切り出した第1画像を表示部に表示させ、前記第2の振れに基づいて前記第2画像の切り出し領域の位置を移動させて前記切り出した第2画像を前記表示部に表示させる電子式振れ補正工程を備える請求項10に記載の撮像方法。
  12. 請求項10又は11に記載の撮像方法を撮像装置に実行させるプログラム。
  13. 請求項12に記載のプログラムのコンピュータ読み取り可能なコードが記録された非一時的記録媒体。
JP2018518123A 2016-05-17 2017-03-14 撮像装置、撮像方法、プログラム、及び非一時的記録媒体 Active JP6619513B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016098914 2016-05-17
JP2016098914 2016-05-17
PCT/JP2017/010052 WO2017199559A1 (ja) 2016-05-17 2017-03-14 撮像装置、撮像方法、プログラム、及び非一時的記録媒体

Publications (2)

Publication Number Publication Date
JPWO2017199559A1 JPWO2017199559A1 (ja) 2019-03-28
JP6619513B2 true JP6619513B2 (ja) 2019-12-11

Family

ID=60325115

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018518123A Active JP6619513B2 (ja) 2016-05-17 2017-03-14 撮像装置、撮像方法、プログラム、及び非一時的記録媒体

Country Status (3)

Country Link
US (1) US10602066B2 (ja)
JP (1) JP6619513B2 (ja)
WO (1) WO2017199559A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020136774A (ja) * 2019-02-14 2020-08-31 キヤノン株式会社 動きベクトルを検出する画像処理装置およびその制御方法ならびにプログラム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07105949B2 (ja) * 1989-03-20 1995-11-13 松下電器産業株式会社 画像の動きベクトル検出装置および揺れ補正装置
US6768867B2 (en) * 2002-05-17 2004-07-27 Olympus Corporation Auto focusing system
US7764440B2 (en) * 2007-11-27 2010-07-27 Eastman Kodak Company Dual focal length lens system
EP2747410B1 (en) * 2011-08-16 2018-08-29 Fujifilm Corporation Imaging apparatus
WO2013146506A1 (ja) * 2012-03-27 2013-10-03 富士フイルム株式会社 撮像装置及び撮像方法
JP5959714B2 (ja) * 2013-02-21 2016-08-02 富士フイルム株式会社 撮像装置
JP6027560B2 (ja) * 2014-02-18 2016-11-16 富士フイルム株式会社 自動追尾撮像装置
JP6165680B2 (ja) * 2014-06-27 2017-07-19 富士フイルム株式会社 撮像装置
JP6214481B2 (ja) * 2014-06-27 2017-10-18 富士フイルム株式会社 撮像装置
EP3214832B1 (en) * 2014-10-31 2019-11-27 Fujifilm Corporation Imaging device and method for recognizing target object
WO2017029846A1 (ja) * 2015-08-19 2017-02-23 富士フイルム株式会社 レンズ装置

Also Published As

Publication number Publication date
US10602066B2 (en) 2020-03-24
WO2017199559A1 (ja) 2017-11-23
JPWO2017199559A1 (ja) 2019-03-28
US20190082109A1 (en) 2019-03-14

Similar Documents

Publication Publication Date Title
US9681057B2 (en) Exposure timing manipulation in a multi-lens camera
JP6080417B2 (ja) 画像処理装置、及び画像処理方法
US20140168480A1 (en) Image processing apparatus, image processing method, and recording medium recording image processing program
JP5622975B1 (ja) 撮像装置及び画像補正方法並びに画像処理装置及び画像処理方法
US11812137B2 (en) Measurement apparatus, image capturing apparatus, control method, and recording medium
JP6442613B2 (ja) 撮像装置、撮像方法、プログラム、及び非一時的記録媒体
JP2010210903A (ja) 撮像装置
JP6619513B2 (ja) 撮像装置、撮像方法、プログラム、及び非一時的記録媒体
JP6190119B2 (ja) 画像処理装置、撮像装置、制御方法、及びプログラム
JP6974599B2 (ja) 撮像装置並びに距離計測方法、距離計測プログラム及び記録媒体
JP5338112B2 (ja) 相関演算装置、焦点検出装置および撮像装置
JP2016048824A (ja) 追尾装置、追尾システム、及び表示装置
JPWO2015128918A1 (ja) 撮像装置
JP2016048282A (ja) 撮像装置
US20150077585A1 (en) Microlens array for solid-state image sensing device, solid-state image sensing device, imaging device, and lens unit
JP2016057402A (ja) 撮像装置及びその制御方法
JP6478536B2 (ja) 画像処理装置および撮像装置、ならびにそれらの制御方法、プログラム
JP2016046773A (ja) 撮像装置
JP6106026B2 (ja) 画像処理装置、撮像装置、再生装置、制御方法、及びプログラム
JP2018110299A (ja) 画像処理方法、画像処理装置、および、撮像装置
JP7039221B2 (ja) 画像処理装置、撮像装置および画像処理装置の制御方法
JP6305454B2 (ja) 撮像装置
JP6622555B2 (ja) 画像処理装置及びその制御方法、撮像装置、プログラム、記憶媒体
JP2021071573A (ja) 撮像装置及びその制御方法
JP2019070691A (ja) 表示制御装置及びその制御方法、及び撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181106

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191114

R150 Certificate of patent or registration of utility model

Ref document number: 6619513

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250