JP2017021250A - 撮像装置、画像処理方法 - Google Patents

撮像装置、画像処理方法 Download PDF

Info

Publication number
JP2017021250A
JP2017021250A JP2015139928A JP2015139928A JP2017021250A JP 2017021250 A JP2017021250 A JP 2017021250A JP 2015139928 A JP2015139928 A JP 2015139928A JP 2015139928 A JP2015139928 A JP 2015139928A JP 2017021250 A JP2017021250 A JP 2017021250A
Authority
JP
Japan
Prior art keywords
image
image data
unit
blur
continuous shooting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015139928A
Other languages
English (en)
Other versions
JP6495126B2 (ja
Inventor
達哉 木野
Tatsuya Kino
達哉 木野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2015139928A priority Critical patent/JP6495126B2/ja
Priority to US15/086,790 priority patent/US9996907B2/en
Priority to CN201610523284.1A priority patent/CN106357968B/zh
Publication of JP2017021250A publication Critical patent/JP2017021250A/ja
Application granted granted Critical
Publication of JP6495126B2 publication Critical patent/JP6495126B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • G06T5/73
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/617Upgrading or updating of programs or applications for camera control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/685Vibration or motion blur correction performed by mechanical compensation
    • H04N23/687Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/743Bracketing, i.e. taking a series of images with varying exposure conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20201Motion blur correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Studio Devices (AREA)
  • Adjustment Of Camera Lenses (AREA)

Abstract

【課題】画質低下を抑制しながらユーザが意図した撮影範囲の合成画像を得ることができる撮像装置等を提供する。
【解決手段】ブレ検知ユニット39により検知されたブレ量に基づき、レンズ11または撮像素子22を駆動して露光中のブレを補正するISユニット23と、連写して得られる複数枚の画像データの内の任意の2枚の相関値を算出する位置合せ処理部31と、相関値に基づき2枚の画像データを位置合わせして合成する合成処理部32と、連写合成モードを設定可能なマイクロコンピュータ50と、を備え、ISユニット23は、連写合成モードが設定されている場合にはライブビュー中のブレ補正範囲を制限する撮像装置。
【選択図】図1

Description

本発明は、連写して得られる複数枚の画像データを合成して1枚の合成画像データを生成する機能を備えた撮像装置、画像処理方法に関する。
近年、連写撮影により得られた複数枚の画像を合成して1枚の画像を生成する機能を備えた撮像装置が提案されている。ここに画像合成は、例えば、高ダイナミックレンジ画像(HDR画像)、低ノイズ画像(NR(ノイズリダクション)画像)、超解像画像などを生成するために行われる。そして、合成の元となる複数枚の画像は、露光中の手ブレが少ないこと、および各画像間の位置ズレが少ないことが望ましい。
一方で、従来より、撮像素子やレンズを移動させることにより、手ブレを補正する手ブレ補正機構(IS(Image Stabilization)機構)が提案されている。
露光中の手ブレに対しては、この手ブレ補正機構を、連写撮影時の各画像の露光中に用いれば、露光中の手ブレを補正することができる。また、各画像間の位置ズレに対しては、例えば、特開2006−86741号公報において、画素ピッチ、焦点距離、ブレ検出手段により得られた画像間の角度ブレなどの情報に基づいてブレ補正範囲を決定することで、各画像間の位置ズレを効率的に補正する技術が記載されている。
このとき、複数枚の画像を連写して撮影している間中、IS機構を連続して動作させると、IS機構のストローク限界を超えてしまうことがあり、この場合には露光中の手ブレを補正することができなくなってしまう。そこで、画像毎の露光中の手ブレを同精度で補正するために、1枚の画像を撮影し終える毎にIS機構を初期位置に戻すセンタリング処理が行われる。ただし、このセンタリング処理は、各画像間の位置ズレを発生させることになる。
こうした画像間の位置ズレに対しては、画像間の相関演算を行うことによりズレ量を示すグローバルベクトルを算出して、算出したグローバルベクトルに基づき合成処理時に補正することが可能である。例えば、特開2012−49603号公報には、2枚の画像を比較して部分的なズレ量を示すローカルベクトル、および画像全体のズレ量を示すグローバルベクトルを取得し、取得したこれらのベクトルを用いて該2枚の画像を位置合せし合成する技術が記載されている。
ただし、特に、露光時間が長秒時となる場合などにはIS機構のストローク量が増えて、センタリング処理による画像間の位置ズレ量も大きくなるために、ズレ量を示すグローバルベクトルを画像から算出するにはかなり広い領域をサーチ対象としなければならず、相関演算処理の時間が長くなってしまう。さらに、画像間の位置ズレが大きいということは、つまり、複数の画像に共通する画像部分が小さいということであるために、共通する画像部分から生成される合成画像の画質が低下してしまう。
ところで、従来からIS機構が搭載されているカメラでは、手ブレの影響を受けることなく撮影直前に撮影範囲を確認するために、1stレリーズスイッチがオンされた時点からIS機構を動作させて、2ndレリーズスイッチがオンされたときにそのIS機構の動作状態のまま引き続きブレ補正を行いながら本露光を行っている。これにより、特に望遠撮影などの手ブレが生じやすい場合に、撮影範囲の確認を安定して行うことができるようになる。
特開2006−86741号公報 特開2012−49603号公報
しかしながら、1stレリーズスイッチがオンされた時点からIS機構を動作させると、1枚目の画像と2枚目以降の画像とで撮影範囲に相違が生じてしまう。この相違は、1stレリーズスイッチがオンされた時点から2ndレリーズスイッチがオンされた時点までの間に生じるために、仮に各画像の露光時間が短く複数の画像間のセンタリング量の相違が小さい場合であっても、発生を回避することはできない。しかも、1stレリーズと2ndレリーズとの時間間隔はユーザ操作によって様々に変化して一定せず、この時間間隔が長い場合には1枚目の画像のセンタリング量がかなり大きくなってしまう。
この1枚目の画像のセンタリング量が大きいことは、1枚の画像のみを撮影する場合や単に複数の画像を連続して撮影するだけの場合にはそれほど問題にならないが、画像合成を行うために連写された複数枚の画像の場合には、上述したように画質の低下を招くことになる。さらに、ユーザは構図等を考慮して撮影範囲を決定し2ndレリーズを行っているために、画像合成においては1枚目の画像を基準画像とすることが好ましいが、センタリング量が大きい1枚目の画像を基準画像とすると、2枚目以降の画像との相関演算により多くの時間が必要であり、ひいては画像合成処理に時間を要することになる。
一方、1枚目の画像の露光を開始する直前にセンタリング処理を行えば1枚目の画像のセンタリング量を2枚目以降の画像のセンタリング量と同等のレベルに抑えることができるが、この場合には、ユーザが2ndレリーズ操作を行った時点で観察していた撮影範囲と、実際に撮影された1枚目の画像の撮影範囲とが異なってしまい、ユーザが意図した構図の画像を得ることができなくなってしまう。
本発明は上記事情に鑑みてなされたものであり、合成画像の画質低下を抑制しながら、ユーザが意図した撮影範囲の合成画像を得ることができる撮像装置、画像処理方法を提供することを目的としている。
本発明のある態様による撮像装置は、連写して得られる複数枚の画像データを合成して1枚の合成画像データを生成する機能を有する撮像装置において、前記撮像装置の動きの大きさをブレ量として検知するブレ検知部と、前記ブレ検知部により検知されたブレ量に基づき、レンズと撮像素子との少なくとも一方を駆動対象として駆動することにより露光中のブレを補正するブレ補正部と、連写して得られる前記複数枚の画像データの内の、任意の2枚の画像データに対して、それぞれ所定の領域内における画像データを用いて相関値を算出する相関値演算部と、前記相関値に基づいて前記2枚の画像データの位置合わせを行い、該2枚の画像データを合成する合成処理部と、前記合成処理部による合成を行うための撮影モードである連写合成モードを設定可能なモード設定部と、を備え、前記ブレ補正部は、前記連写合成モードが設定されている場合には、ライブビュー中のブレ補正範囲を制限する。
本発明のある態様による画像処理方法は、連写して得られる複数枚の画像データを合成して1枚の合成画像データを生成し得る画像処理方法において、撮像装置の動きの大きさを検知して得られたブレ量に基づき、レンズと撮像素子との少なくとも一方を駆動対象として駆動することにより露光中のブレを補正する第1ステップと、連写して得られる前記複数枚の画像データの内の、任意の2枚の画像データに対して、それぞれ所定の領域内における画像データを用いて相関値を算出する第2ステップと、前記相関値に基づいて前記2枚の画像データの位置合わせを行い、該2枚の画像データを合成する第3ステップと、前記第3ステップによる合成を行うための撮影モードである連写合成モードを設定可能な第4ステップと、を有し、第4ステップにおいて前記連写合成モードが設定されている場合には、前記第1ステップにおいて、ライブビュー中のブレ補正範囲を制限する。
本発明の撮像装置、画像処理方法によれば、合成画像の画質低下を抑制しながら、ユーザが意図した撮影範囲の合成画像を得ることができる。
本発明の実施形態1における撮像装置の構成を示すブロック図。 上記実施形態1の撮像装置における単写撮影モードおよび連写撮影モードの処理を示すフローチャート。 上記実施形態1において、単写撮影または連写撮影におけるISユニットの、1stレリーズスイッチがオンされた直後から2ndレリーズスイッチがオンされて1枚目の画像の露光が終了するまでの動作例を示す図。 上記実施形態1において、連写撮影におけるISユニットの、1枚目の画像の露光が終了してから2枚目の画像の露光が開始されるまでの動作例を示す図。 上記実施形態1において、連写撮影におけるISユニットの、2枚目の画像の露光が開始されてから2枚目の画像の露光が終了するまでの動作例を示す図。 上記実施形態1の撮像装置における連写合成モードを含む撮影モードの処理を示すフローチャート。 上記実施形態1の図6のステップS26における合成処理の詳細を示すフローチャート。 上記実施形態1において、基準画像に評価パッチを配置した様子を示す図。 上記実施形態1において、対象画像にサーチパッチを配置した様子を示す図。 本発明の実施形態2の撮像装置における連写合成モードを含む撮影モードの処理を示すフローチャート。 上記実施形態2において、連写合成モードが設定されている場合に1stレリーズスイッチがオンされた後のライブビュー時のISユニットにおける制限されたブレ補正範囲を示す図。
以下、図面を参照して本発明の実施の形態を説明する。
[実施形態1]
図1から図9は本発明の実施形態1を示したものであり、図1は撮像装置の構成を示すブロック図である。なお、本実施形態においては、撮像装置としてデジタルカメラを例に挙げて説明するが、これに限定されるものではなく、撮像機能を備えた装置であれば任意の装置であって構わない。
この撮像装置は、交換式レンズ1とカメラ本体2とをインタフェース(I/F)3を介して通信できるように接続して構成されていて、連写して得られる複数枚の画像データを合成して1枚の合成画像データを生成する機能を有している。
交換式レンズ1は、例えばレンズマウントを介してカメラ本体2に対して着脱自在に装着されるようになっており、レンズマウントに形成した電気接点(交換式レンズ1側に設けられた電気接点およびカメラ本体2側に設けられた電気接点)等によりインタフェース3が構成されている。
交換式レンズ1は、レンズ11と、絞り12と、ドライバ13と、フラッシュメモリ14と、マイクロコンピュータ15と、を備えている。
レンズ11は、被写体の光学像をカメラ本体2の後述する撮像素子22上に結像するための撮影光学系である。
絞り12は、レンズ11から撮像素子22へ向かう光束の通過範囲を制御する光学絞りである。
ドライバ13は、マイクロコンピュータ15からの指令に基づき、レンズ11を駆動してフォーカス位置の調整を行い、レンズ11が電動ズームレンズ等である場合にはさらに焦点距離の変更も行う。加えて、ドライバ13は、マイクロコンピュータ15からの指令に基づき、絞り12を駆動して開口径を変化させる。この絞り12の駆動により、被写体の光学像の明るさが変化し、ボケの大きさなども変化する。
フラッシュメモリ14は、マイクロコンピュータ15により実行される制御プログラムや、交換式レンズ1に関する各種の情報を記憶する記憶媒体である。
マイクロコンピュータ15は、いわゆるレンズ側コンピュータであり、ドライバ13、フラッシュメモリ14、およびインタフェース3と接続されている。そして、マイクロコンピュータ15は、インタフェース3を介して後述する本体側コンピュータであるマイクロコンピュータ50と通信し、マイクロコンピュータ50からの指令を受けて、フラッシュメモリ14に記憶されている情報の読出/書込を行い、ドライバ13を制御する。さらに、マイクロコンピュータ15は、この交換式レンズ1に関する各種の情報をマイクロコンピュータ50へ送信する。
インタフェース3は、交換式レンズ1のマイクロコンピュータ15と、カメラ本体2のマイクロコンピュータ50とを、双方向に通信できるように接続する。
次に、カメラ本体2は、メカニカルシャッタ21と、撮像素子22と、IS(Image Stabilization)ユニット23と、アナログ処理部24と、アナログ/デジタル変換部(A/D変換部)25と、バス26と、SDRAM27と、AE処理部28と、AF処理部29と、AWB処理部30と、位置合せ処理部31と、合成処理部32と、画像処理部33と、JPEG処理部38と、ブレ検知ユニット39と、LCDドライバ41と、LCD42と、EVF(電子ビューファインダ:Electronic View Finder)ドライバ43と、EVF44と、メモリインタフェース(メモリI/F)45と、記録媒体46と、操作部47と、フラッシュメモリ48と、マイクロコンピュータ50と、を備えている。
メカニカルシャッタ21は、レンズ11からの光束が撮像素子22へ到達する時間を制御するものであり、例えばシャッタ幕を走行させる構成の光学シャッタとなっている。このメカニカルシャッタ21は、マイクロコンピュータ50の指令により駆動されて、撮像素子22への光束の到達時間、つまり撮像素子22による被写体の露光時間を制御する。
撮像素子22は、撮像面に所定の画素ピッチで2次元状に配列された複数の画素を有し、撮像制御部であるマイクロコンピュータ50の制御に基づき、レンズ11および絞り12からの光束を受光し撮像して(つまり、結像された被写体の光学像を光電変換して)アナログ画像信号を生成する撮像部である。ここに、撮像素子22は、レンズ11の光軸に垂直な面を受光面とするように配置されているために、複数の画素の2次元状配列方向は、レンズ11の光軸に垂直な方向となる。
本実施形態の撮像素子22は、例えば、垂直方向および水平方向に配列された複数の画素の前面に原色ベイヤー配列(R(赤色)G(緑色)B(青色)ベイヤー配列)のカラーフィルタを配置した単板式の撮像素子として構成されている。なお、撮像素子22は、単板式の撮像素子に限らないことは勿論であり、例えば基板厚み方向に色成分を分離するような積層式の撮像素子であっても良い。
ISユニット23は、ブレ検知ユニット39により後述するように検知されたブレ量に基づき、レンズ11と撮像素子22との少なくとも一方を駆動対象として駆動することにより露光中のブレを補正すると共に、1枚の画像の露光が終了して次の1枚の画像の露光が始まるまでの間に駆動対象を所定位置にリセットするセンタリング処理が可能なブレ補正部である。
本実施形態においては、ISユニット23が、ブレ検知ユニット39により後述するように検知される撮像装置の動きに基づき、光軸に垂直な面内において手ブレをキャンセルする方向に撮像素子22を移動するセンサシフト方式の構成を例に挙げて説明する。ただし、ブレ補正部として、レンズ11を移動させるレンズシフト方式を採用しても良いし、センサシフト方式とレンズシフト方式との両方を採用しても構わない。
アナログ処理部24は、撮像素子22から読み出されたアナログ画像信号に対して、リセットノイズ等を低減した上で波形整形を行い、さらに目的の明るさとなるようにゲインアップを行う。
A/D変換部25は、アナログ処理部24から出力されたアナログ画像信号をデジタル画像信号(適宜、画像データという)に変換する。
バス26は、撮像装置内のある場所で発生した各種のデータや制御信号を、撮像装置内の他の場所へ転送するための転送路である。本実施形態におけるバス26は、ISユニット23と、A/D変換部25と、SDRAM27と、AE処理部28と、AF処理部29と、AWB処理部30と、位置合せ処理部31と、合成処理部32と、画像処理部33と、JPEG処理部38と、ブレ検知ユニット39と、LCDドライバ41と、EVFドライバ43と、メモリI/F45と、マイクロコンピュータ50と、に接続されている。
A/D変換部25から出力された画像データ(以下では適宜、RAW画像データという)は、バス26を介して転送され、SDRAM27に一旦記憶される。
SDRAM27は、上述したRAW画像データ、あるいは合成処理部32、画像処理部33、JPEG処理部38等において処理された画像データ等の各種データを一時的に記憶する記憶部である。
AE処理部28は、RAW画像データに基づき、被写体輝度を算出する。ここで算出された被写体輝度は、自動露出(AE)制御、すなわち、絞り12の制御やメカニカルシャッタ21の制御、撮像素子22の露光タイミング制御(あるいは、いわゆる電子シャッタの制御)等に用いられる。
AF処理部29は、RAW画像データから高周波成分の信号を抽出して、AF(オートフォーカス)積算処理により、合焦評価値を取得する。ここで取得された合焦評価値は、レンズ11のAF駆動に用いられる。なお、AFがこのようなコントラストAFに限定されないことは勿論であり、例えば専用のAFセンサ(あるいは撮像素子22上のAF用画素)を用いて位相差AFを行うように構成しても構わない。
AWB処理部30は、RAW画像データに基づき、被写体のカラーバランスを検出して、RGB各成分に対するゲインをそれぞれ算出し、算出したゲインを乗算することでホワイトバランスを調整するオートホワイトバランス処理を行う。
位置合せ処理部31は、連写して得られる複数枚の画像データの内の、任意の2枚の画像データ(一方を、基準画像、他方を対象画像という)に対して、それぞれ所定の領域内における画像データを用いて相関値を算出する相関値演算部であり、算出した相関値に基づいて基準画像に対する対象画像のズレ量を算出する。
合成処理部32は、位置合せ処理部31により算出された相関値に基づく位置ずれに応じて、基準画像と対象画像とを位置合わせしてから合成し、1枚の合成画像データを生成する画像合成部である。ここで行われる画像合成は、例えば、露出量が異なる複数枚の画像を用いた高ダイナミックレンジ画像合成(HDR画像合成)、時分割露光を行った複数枚の画像を用いた加算合成、平均合成、比較明合成、あるいは比較暗合成、画素ピッチの非整数倍の移動量で画素ずらしした複数枚の画像を用いた超解像画像合成、などの何れであっても構わない。
連写合成モードにおいて取得された複数枚の画像を合成する場合には、例えば、まず1枚目に取得された画像を基準画像に設定する(ただし、後述するように、ユーザが基準画像を選択するようにしても構わない)。そして、2枚目、もしくはそれ以降に新たに取得された画像を対象画像に順次設定しながら、位置合せ処理部31および合成処理部32により上述したような処理を行うことを最終画像が取得されるまで行うことにより、最終的な合成画像を生成する。
なお、位置合せ処理部31および合成処理部32による処理は、RAW画像データに対して行っても良いし、画像処理部33によって画像処理が行われた画像データに対して行っても構わない。
画像処理部33は、RAW画像データ、あるいは合成処理部32によりRAW画像データから生成された合成画像データに対して種々の画像処理を行うものであり、WB補正部34、同時化処理部35、色再現処理部36、およびNR処理部37を含んでいる。
WB補正部34は、白色の被写体が白色として観察されるように、画像データに対してホワイトバランス処理を行う。
同時化処理部35は、1画素につきRGB成分の内の1色成分のみが存在するRGBベイヤー配列の画像データから、着目画素に存在しない色成分を周辺画素から補完して求めることにより、全画素がRGBの3色成分を全て備える画像データに変換するデモザイキング処理を行う。
色再現処理部36は、画像データにカラーマトリクス演算を行うことにより、被写体の色をより忠実に再現する処理を行う。
NR処理部37は、画像データに空間周波数に応じたコアリング処理などを行うことによりノイズ低減処理を行う。
こうして画像処理部33によって各種の処理が行われた後の画像データは、SDRAM27に再び記憶される。
JPEG処理部38は、画像データを記録する際には、SDRAM27から画像データを読み出してJPEG圧縮方式に従って圧縮してJPEG画像データを生成し、SDRAM27に記憶させる。このSDRAM27に記憶されたJPEG画像データは、マイクロコンピュータ50によりヘッダ等を付加されて、メモリI/F45を介して記録媒体46にJPEGファイルとして記録される。
また、JPEG処理部38は、圧縮画像データの伸張も行う。すなわち、記録済み画像の再生を行う場合には、マイクロコンピュータ50の制御に基づき、例えばJPEGファイルがメモリI/F45を介して記録媒体46から読み出され、SDRAM27に一旦記憶される。JPEG処理部38は、SDRAM27に記憶されたJPEGファイル中のJPEG画像データをJPEG伸張方式に従って伸張し、伸張した画像データをSDRAM27に記憶させる。
ブレ検知ユニット39は、ジャイロセンサ等を備えたブレ検知部であり、例えば手ブレなどによる撮像装置の動きの大きさをブレ量として検知する。そして、ブレ検知ユニット39は、検知結果をマイクロコンピュータ50へ出力するようになっている。
LCDドライバ41は、SDRAM27に記憶されている画像データを読み出して、読み出した画像データを映像信号へ変換し、LCD42を駆動制御して映像信号に基づく画像をLCD42に表示させる。
LCD42は、上述したようなLCDドライバ41の駆動制御により、画像を表示すると共に、この撮像装置に係る各種の情報を表示する。
EVFドライバ43は、SDRAM27に記憶されている画像データを読み出して、読み出した画像データを映像信号へ変換し、EVF44を駆動制御して映像信号に基づく画像をEVF44に表示させる。
EVF44は、上述したようなEVFドライバ43の駆動制御により、画像を表示すると共に、この撮像装置に係る各種の情報を表示する。
ここに、LCD42またはEVF44において行われる画像表示には、撮影直後の画像データを短時間だけ表示するレックビュー表示、記録媒体46に記録されたJPEGファイルの再生表示、およびライブビュー表示などがある。
メモリI/F45は、記録媒体46へ画像データを記録する制御を行う記録制御部であり、さらに、記録媒体46からの画像データの読み出しも行う。
記録媒体46は、画像データを不揮発に記憶する記録部であり、例えばカメラ本体2に着脱できるメモリカード等により構成されている。ただし、記録媒体46は、メモリカードに限定されるものではなく、ディスク状の記録媒体でも構わないし、その他の任意の記録媒体であっても良い。従って、記録媒体46は、撮像装置に固有の構成である必要はない。
操作部47は、この撮像装置に対する各種の操作入力を行うためのものであり、撮像装置の電源をオン/オフするための電源ボタン、画像の撮影開始を指示するための例えば1st(ファースト)レリーズスイッチおよび2nd(セカンド)レリーズスイッチを有して構成されている2段式操作ボタンでなるレリーズボタン、記録画像の再生を行うための再生ボタン、撮像装置の設定等を行うためのメニューボタン、項目の選択操作に用いられる十字キーや選択項目の確定操作に用いられるOKボタン等の操作ボタンなどを含んでいる。ここに、メニューボタンや十字キー、OKボタン等を用いて設定できる項目には、撮影モード(単写撮影モード、連写撮影モード、連写合成モード等)、記録モード(JPEG記録モード、RAW+JPEG記録モード等)、再生モードなどが含まれている。この操作部47に対して操作が行われると、操作内容に応じた信号がマイクロコンピュータ50へ出力される。
フラッシュメモリ48は、マイクロコンピュータ50により実行される処理プログラムと、この撮像装置に係る各種の情報と、を不揮発に記憶する記憶媒体である。ここに、フラッシュメモリ48が記憶する情報としては、例えば、画像処理に用いるパラメータ、撮像装置を特定するための機種名や製造番号、ユーザにより設定された設定値、などが幾つかの例として挙げられる。このフラッシュメモリ48が記憶する情報は、マイクロコンピュータ50により読み取られる。
マイクロコンピュータ50は、カメラ本体2内の各部を制御すると共に、インタフェース3を介してマイクロコンピュータ15に指令を送信し交換式レンズ1を制御するものであり、この撮像装置を統括的に制御する制御部である。マイクロコンピュータ50は、ユーザにより操作部47から操作入力が行われると、フラッシュメモリ48に記憶されている処理プログラムに従って、フラッシュメモリ48から処理に必要なパラメータを読み込んで、操作内容に応じた各種シーケンスを実行する。
制御部であるマイクロコンピュータ50は、特に撮影モードにおいて、上述したISユニット23にブレ補正を行わせながら撮像素子22に撮像を行わせて1枚の画像データを取得させる撮像制御部としても機能するようになっている。
さらに、マイクロコンピュータ50は、操作部47からの設定入力に応じて、あるいはフラッシュメモリ48から読み込んだ処理プログラムに従った自動設定に応じて、合成処理部32による合成を行うための撮影モードである連写合成モードを設定可能なモード設定部として機能する。
次に、図2は、撮像装置における単写撮影モードおよび連写撮影モードの処理を示すフローチャートである。この処理(および、以下の各フローチャートに示す処理)は、制御部であるマイクロコンピュータ50の制御に基づき行われる。
電源ボタンにより撮像装置の電源がオンされて図示しないメインルーチンの処理を行っているときに、操作部47の操作により撮像装置が撮影モードに設定されると、この処理が実行される。
するとまず、初期設定を行う(ステップS1)。この初期設定では、例えば、撮影モードの種類や画像処理設定などのカメラ設定を読み込む。
次に、レリーズボタンが半押しされて1stレリーズスイッチがオンしているか否かを判定する(ステップS2)。
ここで、1stレリーズスイッチがオフであると判定された場合には、1stレリーズスイッチがオンされるのを待機する。この1stレリーズスイッチがオンされるのを待機する間は、メカニカルシャッタ21が開いた状態となっていて、ライブビューが行われているものとする。
そして、1stレリーズスイッチがオンしていると判定された場合には、ライブビューにおいて取得された最新の画像に基づいて、AE処理部28により測光演算を行い、AF処理部29により測距演算を行って、撮影条件を算出する(ステップS3)。
一般的には、手振れの影響を受けることなく撮影直前の撮影範囲を確認するために、1stレリーズスイッチがオンになるとISユニット23を駆動して手ブレを補正し画像を安定化するようにしている。そこでここでは、1stレリーズスイッチがオンになっているときに、ブレ検知ユニット39の出力に応じてブレ補正部であるISユニット23を駆動することにより、ブレ補正動作を行う(ステップS4)。これにより、手ブレによる影響を排除した状態で撮影範囲を確認することが可能となる。
続いて、レリーズボタンが全押しされて2ndレリーズスイッチがオンしたか否かを判定する(ステップS5)。
ここで、2ndレリーズスイッチがオフであると判定された場合には、1stレリーズスイッチがオフに変化したか否かを判定する(ステップS6)。
そして、1stレリーズスイッチがオフに変化したと判定された場合にはステップS2に戻って上述した処理を行い、1stレリーズスイッチがオンのままであると判定された場合にはステップS5に戻って2ndレリーズスイッチがオンするのを待機する。
こうして、ステップS5において、2ndレリーズスイッチがオンしたと判定された場合には、撮影モードが単写撮影モードであるか連写撮影モードであるかを判定する(ステップS7)。ここに、単写撮影モードは、1回の撮影動作で1枚の静止画像を取得する撮影モードである。また、ここでの連写撮影モードは、1回の撮影動作で複数枚の静止画像を連続して取得する撮影モードであって、取得した複数枚の画像を合成処理する連写合成モードでないモードを指している(連写合成モードを含む場合の処理については、後で図6を参照して説明する)。
ここで単写撮影モードであると判定された場合には、撮像素子22により露光を行って、生成された画像をアナログ処理部24およびA/D変換部25により処理してSDRAM27に記憶する画像取り込みを行う(ステップS8)。なお、ここでの露光は、一般的にメカニカルシャッタ21を用いて行われるために(ただし、電子シャッタを用いることを妨げるものではない)、メカニカルシャッタ21を一旦閉じてから、再びメカニカルシャッタ21を開閉動作させて露光を行うことになる。
また、ステップS7において、連写撮影モードであると判定された場合にも、撮像素子22により露光を行って、生成された画像をアナログ処理部24およびA/D変換部25により処理してSDRAM27に記憶する画像取り込みを行う(ステップS9)。
これらステップS8またはステップS9における露光を行っている最中でも、ブレ検知ユニット39の出力に応じてブレ補正部であるISユニット23を駆動し続けることにより、露光中の手ブレによる露光ブレを補正している。
露光が終了すると、次の露光を行うための準備として、初期位置から移動した位置となっているISユニット23を、再び初期位置に戻すセンタリング処理を行う(ステップS10)。ここでのセンタリング処理は、連写における次の画像を露光する際に、露光中のブレを前画像と同様のストロークで補正するために必要な動作となる。
そして、マイクロコンピュータ50は、連写が完了したか否かを判定して(ステップS11)、完了していないと判定された場合には、必要に応じて撮影条件の変更を行い(ステップS12)、ステップS9へ戻って次の画像の露光と取り込みを行う。
ステップS8の処理を行った場合、またはステップS11において連写が完了したと判定された場合には、単写撮影で取得された1枚の画像、または連写撮影で取得された複数枚の画像に対して、画像処理部33により画像処理を行う(ステップS13)。
そして、画像処理を行った画像を、メモリI/F45を介して記録媒体46へ記録して(ステップS14)、この処理から図示しないメイン処理にリターンする。
図3は、単写撮影または連写撮影におけるISユニット23の、1stレリーズスイッチがオンされた直後から2ndレリーズスイッチがオンされて1枚目の画像の露光が終了するまでの動作例を示す図である。
1stレリーズスイッチがオンになると同時にISユニット23が動作を開始するために、1stレリーズスイッチがオンになった時点では、ISユニット23は初期位置となっており、位置Poに示す撮像素子22の中心Coは、光軸中心(ここではISユニット23の中心O)に一致している。
1stレリーズスイッチがオンになっている間は、ブレ検知ユニット39が検知した手ブレを補正するようにISユニット23が駆動され、撮像素子22が手ブレを相殺する方向に移動される。
従って、2ndレリーズスイッチがオンされた時点(つまり、1枚目の画像の露光が開始された時点)の、位置P1sに示す撮像素子22の中心C1sは、一般に、ISユニット23の中心Oから移動した位置となっている。
1枚目の画像の露光中においても、ブレ検知ユニット39が検知した手ブレを補正するようにISユニット23は引き続き駆動される。
その結果、1枚目の画像の露光が終了した時点の、位置P1eに示す撮像素子22の中心C1eは、ISユニット23の中心Oから、例えば大きく移動した位置となっている。
撮影モードが単写撮影モードである場合には、ここで撮影が終了となって、通常はライブビューの状態に戻る。
図4は、連写撮影におけるISユニット23の、1枚目の画像の露光が終了してから2枚目の画像の露光が開始されるまでの動作例を示す図である。
連写時には、上述したように、次の画像の露光中のブレを前画像と同様のストロークで補正するためにセンタリング処理が行われる。従って、2枚目の画像の露光が開始された時点の、位置P2sに示す撮像素子22の中心C2sは、初期位置であるISユニット23の中心Oに戻っている。
図5は、連写撮影におけるISユニット23の、2枚目の画像の露光が開始されてから2枚目の画像の露光が終了するまでの動作例を示す図である。
2枚目の画像の露光が開始される時点でセンタリング処理が行われた後は、ブレ検知ユニット39が検知した手ブレを補正するようにISユニット23が駆動される。従って、2枚目の画像の露光が終了した時点の、位置P2eに示す撮像素子22の中心C2eは、ISユニット23の中心Oから移動した位置となっている。
ただし、2枚目以降の画像の露光終了時点のISユニット23の駆動量は、1枚目の画像の露光終了時点のISユニット23の駆動量のような1stレリーズスイッチがオンされてから1枚目の画像が露光開始されるまで間に生じた駆動量を含むことはないために、ほぼ露光中のブレを補正するための駆動量のみとなっている。従って、図5と図3を比較すれば分かるように、中心Oから中心C2eまでの距離は、中心Oから中心C1eまでの距離よりもずっと小さくなっている。
次に、図6は、撮像装置における連写合成モードを含む撮影モードの処理を示すフローチャートである。
この処理を開始してステップS1〜S3の処理を行うと、この撮像装置に設定されている撮影モードの情報を取得する(ステップS21)。
続いて、取得した撮影モードが連写合成モードであるか否かを判定する(ステップS22)。
ここで連写合成モードであると判定された場合には、ISユニット23によるブレ補正をオフにしてから(ステップS23)、また、連写合成モードでないと判定された場合には、ISユニット23によるブレ補正をオンにしてから(ステップS24)、ステップS5〜S6の処理を行う。ただし、ステップS23の処理によりブレ補正をオフするのは、2ndレリーズスイッチがオンされるまでの間だけである。
こうして、ステップS5において、2ndレリーズスイッチがオンしたと判定された場合には、ステップS23においてブレ補正をオフにした場合には再びブレ補正をオンにしてから、ステップS7において、撮影モードが単写撮影モードであるか連写撮影モードであるかを判定する。ここで判定する連写撮影モードは、図2の処理とは異なり、画像合成を伴わない連写撮影モードだけでなく、画像合成を伴う連写合成モードも含んでいる。
ここで連写撮影モードであると判定された場合には、ステップS9〜S12の処理を行い、ステップS11において連写が完了したと判定された場合には、連写撮影モードが連写合成モードであるか否かを判定する(ステップS25)。
ここで、連写合成モードであると判定された場合には、取得された複数枚の画像に対して、位置合せ処理部31により相関値演算を行い、算出された相関値に基づき合成処理部32により画像合成を行って合成画像を生成する(ステップS26)。この合成処理については、後で図7を参照して説明する。
このステップS26の処理を行った場合、ステップS25において連写合成モードでないと判定された場合、またはステップS8の処理を行った場合には、ステップS13およびステップS14の処理を行って、この処理から図示しないメイン処理にリターンする。
次に、図7は、図6のステップS26における合成処理の詳細を示すフローチャートである。なお、この図7には、ある特定の一枚の画像に対して別の一枚の画像を合成し、以降その合成画像に対して、さらにそれ以外の画像を順次合成して行く処理の例を示しているが、この処理順序に限定されるものではない。
この処理を開始すると、まず、合成処理を行う際の基準となる画像(基準画像)を選択する(ステップS31)。この選択は、LCD42等にグラフィックユーザインタフェース(GUI)を表示して、ユーザに選択させるようにしても良いし、レリーズタイムラグ等を考慮して(つまり、2枚目以降の画像を基準画像として選択すると、ユーザが2ndレリーズ操作を行った時点で意図した構図の合成画像を得ることができなくなってしまうために)、連写1枚目を自動的に基準画像として選択するようにしても構わない。
次に、基準画像を除く他の連写画像の中から、基準画像に対して最初に合成する対象画像を選択する(ステップS32)。この処理は、通常は、自動処理により連写順に画像を選択すれば良い。
続いて、選択した基準画像および対象画像に対して、相関値を算出し、ベクトル演算を行ってローカルベクトルおよびグローバルベクトルを算出する処理を、以下に示すように行う。ここに、ローカルベクトルおよびグローバルベクトルを算出する方法には様々な方法があるが、ここでは一般的なブロックマッチングによる算出方法を例に挙げて説明する。
まず、相関値を算出するための領域の数であるパッチ数、評価用領域である評価パッチEPのサイズ、探索用領域であるサーチパッチSPのサイズなどを設定値として読み込む(ステップS33)。
次に、基準画像SIに対して複数の領域としての評価パッチEPを配置する(ステップS34)。ここに、図8は、基準画像SIに評価パッチEPを配置した様子を示す図である。図示のように、評価パッチEPは、例えば一定の間隔をおいて基準画像SI内に垂直方向および水平方向に配列されている。
さらに、対象画像OIに対して、評価パッチEPよりもサイズが大きい領域であるサーチパッチSPを、基準画像SIの評価パッチEPに1対1に対応するように配置する(ステップS35)。ここに、図9は、対象画像OIにサーチパッチSPを配置した様子を示す図である。図示のように、サーチパッチSPも、例えば一定の間隔をおいて対象画像OI内に垂直方向および水平方向に配列されている。
続いて、ブロックマッチングを行う。すなわち、位置が対応する評価パッチEPおよびサーチパッチSPを1組選択する。そして、サーチパッチSP内で評価パッチEPをスキャンして、各スキャン位置毎に差分絶対値和(SAD(Sum of Absolute Difference)値)を相関値として算出する(ステップS36)。
そして、スキャンしながら算出された複数のSAD値の内の、最小値を与えるものが最も相関値が高いとして、そのスキャン位置と、元の評価パッチEPの位置と、のベクトルをローカルベクトルとして算出する(ステップS37)。
その後、位置が対応する評価パッチEPおよびサーチパッチSPの組を全て処理し終えたか否かを判定する(ステップS38)。ここで、未だ全ての組の処理を終えていないと判定された場合には、ステップS36へ戻って次の評価パッチEPおよびサーチパッチSPの組を選択して、上述したような処理を行う。従って、相関値の算出は、設定した領域であるパッチ毎に行われる。
こうして、ステップS38において、全ての評価パッチEPおよびサーチパッチSPの組の処理が完了したと判定された場合には、全てのローカルベクトルのベクトルヒストグラムを算出して、算出したベクトルヒストグラムにおける例えば最頻ベクトル(ただし、最頻ベクトルに限るものではなく、平均ベクトルや加重平均ベクトル等であっても構わない)を、グローバルベクトルとして算出する(ステップS39)。
このような処理によりローカルベクトルおよびグローバルベクトルを算出する場合には、処理時間および算出可能なベクトル長さがサーチパッチSPのサイズに依存する。このために、相関値を算出するに際して、基準画像SIおよび対象画像OIを予め縮小しておき、縮小された基準画像SIおよび対象画像OIによりローカルベクトルおよびグローバルベクトルを算出し、その後に、算出したローカルベクトルおよびグローバルベクトルを縮小前の画像サイズ相当に拡大して適用するようにしても構わない。これにより、処理時間の短縮を図りながら、縮小していない画像におけるサーチパッチSPのサイズを実質的に大きくすることができ、ベクトル長さが長い場合にも対応することができる。この縮小していない画像におけるサーチパッチSPのサイズの最大幅を、以下では適宜、相関値探索範囲と呼ぶことにする。
そして、現在の合成画像に対象画像を合成する処理を行う(ステップS40)。この合成処理は、例えば、対象画像を基準画像に位置合わせしてから行われる。ここに、具体的な画像の合成方法については、例えば上記特開2012−49603号公報に記載されたような、得られたローカルベクトル、グローバルベクトルを用いて位置合せを行い、2枚の画像を合成する方法などを用いれば良い(ただし、この合成方法に限定されるものではない)。
その後、全ての画像の合成が完了したか否かを判定して(ステップS41)、未合成の画像が存在する場合には、ステップS32へ戻って次の未処理画像を対象画像に選択してから、上述したような処理を行う。
こうして、ステップS41において、全ての画像の合成が完了したと判定された場合には、この処理からリターンする。
このような実施形態1によれば、ISユニット23は、連写合成モードが設定されている場合には、1stレリーズスイッチがオンされてから2ndレリーズスイッチがオンされるまでの間のライブビュー中のブレ補正を行わないために、1枚目の画像と2枚目以降の画像との撮影範囲の相違が大きくならないようにし、画像合成処理における合成範囲が狭くなるのを防いで、画質が低下するのを抑制することができる。
また、1枚目の画像が露光開始される直前のセンタリング処理を行っていないために、ユーザが意図した撮影範囲の合成画像を得ることができる。
さらに、2ndレリーズスイッチがオンされた後の露光中は、通常のブレ補正を行うために、連写における各画像の露光中のブレを抑制し、合成画像の画質を確保することができる。
そして、連写合成モードが設定されていない場合には、1stレリーズスイッチがオンされてから2ndレリーズスイッチがオンされるまでの間のライブビューを、ブレの影響を軽減した状態で観察することができる。
[実施形態2]
図10および図11は本発明の実施形態2を示したものであり、図10は撮像装置における連写合成モードを含む撮影モードの処理を示すフローチャートである。
この実施形態2において、上述の実施形態1と同様である部分については同一の符号を付すなどして説明を適宜省略し、主として異なる点についてのみ説明する。
上述した実施形態1においては、連写合成モードが設定されている場合に、1stレリーズスイッチがオンされてから2ndレリーズスイッチがオンされるまでのライブビューを行っている期間、ブレ補正をオフするようにしたが、本実施形態は、ブレ補正をオフする代わりにブレ補正範囲を制限するようにしたものとなっている。
この処理を開始するとステップS1〜S3およびステップS21〜S22の処理を行い、ステップS22において連写合成モードであると判定された場合には、相関値探索範囲を取得する(ステップS51)。
この相関値探索範囲は、評価パッチEPのサイズおよびサーチパッチSPのサイズを取得することにより決定され、上述したように、相関値の最小値を探索するために、評価パッチEPのスキャンが行われるサーチパッチSPのサイズの、縮小していない画像における最大幅である。ここに、相関値探索範囲は、連写における1枚の画像の露光時間が短い場合には小さくすることができ、1枚の画像の露光時間が長い場合には位置合わせの精度を確保するために大きくする必要がある。
さらに、取得した相関値探索範囲に基づいて、1stレリーズスイッチがオンされてから2ndレリーズスイッチがオンされるまでの間のライブビューにおいて行われるブレ補正範囲を制限する(ステップS52)。すなわち、通常のブレ補正では、ISユニット23の可動範囲(全ストローク)がブレ補正可能な範囲となるのに対して、本実施形態における連写合成モードが設定されている場合の1stレリーズスイッチがオンされた後のライブビュー時には、後段で行う合成処理において位置合せ可能なズレ量である相関値探索範囲までをブレ補正範囲としている。
ステップS52を行った場合には制限されたブレ補正範囲内において、また、ステップS22において連写合成モードでないと判定された場合には通常のブレ補正範囲内において、ブレ補正を行う(ステップS53)。従って、連写合成モードの場合には、制限されたブレ補正範囲を超えるブレが発生したとしても、そのブレに追従してのブレ補正は行われない。
その後は、ステップS25およびステップS26を含むステップS5〜S14の処理を上述した図6と同様に行って(従って、各画像を露光中は通常のブレ補正範囲内におけるブレ補正を行って)、この処理から図示しないメイン処理にリターンする。
図11は、連写合成モードが設定されている場合に1stレリーズスイッチがオンされた後のライブビュー時のISユニット23における制限されたブレ補正範囲を示す図である。
相関値を算出する際にサーチパッチSP内において評価パッチEPがスキャンされる範囲である探索範囲SRに基づいて、ISユニット23において撮像素子22が移動できるブレ補正範囲を制限している。すなわち、制限されたブレ補正範囲LAは、中心がISユニット23の中心Oに一致している撮像素子22が、水平左右方向に探索範囲SRを上限として移動可能であり、かつ垂直上下方向に探索範囲SRを上限として移動可能な範囲となっている。
このような制限されたブレ補正範囲LA内でのみブレに追従するように制御することで、1stレリーズスイッチがオンされてから2ndレリーズスイッチがオンされるまでの間のISユニット23の駆動量が、ローカルベクトルおよびグローバルベクトルを算出可能な範囲内に収まるために、画像合成との両立を図ることができる。
なお、ここではセンサシフト方式におけるISユニット23の制限されたブレ補正範囲の例を示したが、レンズシフト方式の場合にも同様にブレ補正範囲を制限すれば良い。
このような実施形態2によれば、上述した実施形態1とほぼ同様の効果を奏するとともに、ISユニット23が、位置合せ処理部31における相関値探索範囲に基づいて連写合成モードにおけるライブビュー中のブレ補正範囲を制限するようにしたために、1stレリーズスイッチがオンされてから2ndレリーズスイッチがオンされるまでの間のライブビューを、ブレの影響をある程度軽減した状態で観察することができる。
また、上述したように、連写における1枚の画像の露光時間に応じて相関値探索範囲の大小が変化するために、例えば1枚の露光時間の設定値に応じてユーザがISユニット23の設定を切り替えて、ブレ補正範囲を手動で制限するように構成することも可能である。これに対して本実施形態の構成によれば、相関値探索範囲を自動的に取得してブレ補正範囲を自動的に制限しているために、このようなユーザの手間が不要となる利点がある。
なお、上述では主として撮像装置について説明したが、撮像装置と同様の処理を行う画像処理方法であっても良いし、コンピュータに撮像装置と同様の処理を行わせるための処理プログラム、該処理プログラムを記録するコンピュータにより読み取り可能な一時的でない記録媒体、等であっても構わない。
また、本発明は上述した実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化することができる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明の態様を形成することができる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除しても良い。さらに、異なる実施形態にわたる構成要素を適宜組み合わせても良い。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能であることは勿論である。
1…交換式レンズ
2…カメラ本体
3…インタフェース(I/F)
11…レンズ
12…絞り
13…ドライバ
14…フラッシュメモリ
15…マイクロコンピュータ
21…メカニカルシャッタ
22…撮像素子
23…ISユニット
24…アナログ処理部
25…A/D変換部
26…バス
27…SDRAM
28…AE処理部
29…AF処理部
30…AWB処理部
31…位置合せ処理部
32…合成処理部
33…画像処理部
34…WB補正部
35…同時化処理部
36…色再現処理部
37…NR処理部
38…JPEG処理部
39…ブレ検知ユニット
41…LCDドライバ
42…LCD
43…EVFドライバ
44…EVF
45…メモリI/F
46…記録媒体
47…操作部
48…フラッシュメモリ
50…マイクロコンピュータ
EP…評価パッチ
LA…制限されたブレ補正範囲
OI…対象画像
SI…基準画像
SP…サーチパッチ
SR…探索範囲

Claims (4)

  1. 連写して得られる複数枚の画像データを合成して1枚の合成画像データを生成する機能を有する撮像装置において、
    前記撮像装置の動きの大きさをブレ量として検知するブレ検知部と、
    前記ブレ検知部により検知されたブレ量に基づき、レンズと撮像素子との少なくとも一方を駆動対象として駆動することにより露光中のブレを補正するブレ補正部と、
    連写して得られる前記複数枚の画像データの内の、任意の2枚の画像データに対して、それぞれ所定の領域内における画像データを用いて相関値を算出する相関値演算部と、
    前記相関値に基づいて前記2枚の画像データの位置合わせを行い、該2枚の画像データを合成する合成処理部と、
    前記合成処理部による合成を行うための撮影モードである連写合成モードを設定可能なモード設定部と、
    を備え、
    前記ブレ補正部は、前記連写合成モードが設定されている場合には、ライブビュー中のブレ補正範囲を制限することを特徴とする撮像装置。
  2. 前記ブレ補正部は、前記連写合成モードが設定されている場合には、ライブビュー中のブレ補正を行わないことを特徴とする請求項1に記載の撮像装置。
  3. 前記ブレ補正部は、前記相関値演算部における相関値探索範囲に基づいて、前記ライブビュー中のブレ補正範囲を制限することを特徴とする請求項1に記載の撮像装置。
  4. 連写して得られる複数枚の画像データを合成して1枚の合成画像データを生成し得る画像処理方法において、
    撮像装置の動きの大きさを検知して得られたブレ量に基づき、レンズと撮像素子との少なくとも一方を駆動対象として駆動することにより露光中のブレを補正する第1ステップと、
    連写して得られる前記複数枚の画像データの内の、任意の2枚の画像データに対して、それぞれ所定の領域内における画像データを用いて相関値を算出する第2ステップと、
    前記相関値に基づいて前記2枚の画像データの位置合わせを行い、該2枚の画像データを合成する第3ステップと、
    前記第3ステップによる合成を行うための撮影モードである連写合成モードを設定可能な第4ステップと、
    を有し、
    第4ステップにおいて前記連写合成モードが設定されている場合には、前記第1ステップにおいて、ライブビュー中のブレ補正範囲を制限することを特徴とする画像処理方法。
JP2015139928A 2015-07-13 2015-07-13 撮像装置、画像処理方法 Active JP6495126B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2015139928A JP6495126B2 (ja) 2015-07-13 2015-07-13 撮像装置、画像処理方法
US15/086,790 US9996907B2 (en) 2015-07-13 2016-03-31 Image pickup apparatus and image processing method restricting an image stabilization range during a live view operation
CN201610523284.1A CN106357968B (zh) 2015-07-13 2016-07-05 摄像装置、图像处理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015139928A JP6495126B2 (ja) 2015-07-13 2015-07-13 撮像装置、画像処理方法

Publications (2)

Publication Number Publication Date
JP2017021250A true JP2017021250A (ja) 2017-01-26
JP6495126B2 JP6495126B2 (ja) 2019-04-03

Family

ID=57775252

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015139928A Active JP6495126B2 (ja) 2015-07-13 2015-07-13 撮像装置、画像処理方法

Country Status (3)

Country Link
US (1) US9996907B2 (ja)
JP (1) JP6495126B2 (ja)
CN (1) CN106357968B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021070818A1 (ja) * 2019-10-07 2021-04-15 株式会社モルフォ サーバ装置及びプログラム

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6495126B2 (ja) * 2015-07-13 2019-04-03 オリンパス株式会社 撮像装置、画像処理方法
US10554892B2 (en) * 2017-06-30 2020-02-04 Microsoft Technology Licensing, Llc Configuring image stabilization for still image generation
JP6745416B2 (ja) * 2017-12-27 2020-08-26 富士フイルム株式会社 像ぶれ補正装置、撮像装置、像ぶれ補正方法、及び像ぶれ補正プログラム
CN109729274B (zh) * 2019-01-30 2021-03-09 Oppo广东移动通信有限公司 图像处理方法、装置、电子设备及存储介质
CN109951641B (zh) * 2019-03-26 2021-02-26 Oppo广东移动通信有限公司 图像拍摄方法和装置、电子设备、计算机可读存储介质
CN110177223B (zh) * 2019-06-28 2021-10-22 Oppo广东移动通信有限公司 图像处理方法和装置、电子设备、计算机可读存储介质
KR20210053377A (ko) * 2019-11-01 2021-05-12 삼성전자주식회사 이미지 센서 및 이미지 신호 처리기를 포함하는 이미지 장치, 및 이미지 센서의 동작 방법
JP2021118466A (ja) * 2020-01-28 2021-08-10 キヤノン株式会社 撮像装置およびその制御方法
JP2021173826A (ja) * 2020-04-22 2021-11-01 キヤノン株式会社 制御装置、撮像装置、制御方法、およびプログラム
CN113992861B (zh) * 2020-07-27 2023-07-21 虹软科技股份有限公司 一种图像处理方法及图像处理装置
CN113596294A (zh) * 2021-07-08 2021-11-02 维沃移动通信(杭州)有限公司 拍摄方法、装置和电子设备
CN113676659B (zh) * 2021-08-11 2023-05-26 Oppo广东移动通信有限公司 图像处理方法及装置、终端及计算机可读存储介质
CN113873147A (zh) * 2021-09-13 2021-12-31 维沃移动通信(杭州)有限公司 视频录制方法、装置及电子设备
CN114166065B (zh) * 2021-12-08 2024-01-30 合肥英睿系统技术有限公司 一种枪瞄设备十字分划校准方法及相关装置
CN115361502A (zh) * 2022-08-26 2022-11-18 维沃移动通信有限公司 拍摄方法、装置、电子设备及存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10133245A (ja) * 1996-10-31 1998-05-22 Nikon Corp ブレ補正装置
JP2001223932A (ja) * 2000-02-14 2001-08-17 Ricoh Co Ltd 撮像装置及びデジタルカメラ
JP2005176050A (ja) * 2003-12-12 2005-06-30 Nikon Corp 撮像装置
JP2008203317A (ja) * 2007-02-16 2008-09-04 Nikon Corp カメラシステムおよびカメラボディ
JP2008236289A (ja) * 2007-03-20 2008-10-02 Sanyo Electric Co Ltd 撮像装置
JP2010273037A (ja) * 2009-05-20 2010-12-02 Hoya Corp 撮像装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4471364B2 (ja) 2004-09-15 2010-06-02 キヤノン株式会社 画像処理装置及び画像処理方法
JP4671430B2 (ja) * 2006-06-02 2011-04-20 キヤノン株式会社 撮像装置、撮像装置の制御方法、プログラム及び記録媒体
US7714892B2 (en) * 2006-11-08 2010-05-11 Avago Technologies Ecbu Ip (Singapore) Pte. Ltd. Systems, devices and methods for digital camera image stabilization
EP1959677B1 (en) * 2007-02-16 2019-09-04 Nikon Corporation Camera system and camera body
JP2012049603A (ja) 2010-08-24 2012-03-08 Olympus Corp 画像処理装置および画像処理プログラム
US20130107066A1 (en) * 2011-10-27 2013-05-02 Qualcomm Incorporated Sensor aided video stabilization
JP5536010B2 (ja) * 2011-11-02 2014-07-02 カシオ計算機株式会社 電子カメラ、撮像制御プログラム及び撮像制御方法
JP6495126B2 (ja) * 2015-07-13 2019-04-03 オリンパス株式会社 撮像装置、画像処理方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10133245A (ja) * 1996-10-31 1998-05-22 Nikon Corp ブレ補正装置
US5903783A (en) * 1996-10-31 1999-05-11 Nikon Corporation Motion compensation device to control a centering operation of a motion compensation lens
JP2001223932A (ja) * 2000-02-14 2001-08-17 Ricoh Co Ltd 撮像装置及びデジタルカメラ
JP2005176050A (ja) * 2003-12-12 2005-06-30 Nikon Corp 撮像装置
JP2008203317A (ja) * 2007-02-16 2008-09-04 Nikon Corp カメラシステムおよびカメラボディ
JP2008236289A (ja) * 2007-03-20 2008-10-02 Sanyo Electric Co Ltd 撮像装置
JP2010273037A (ja) * 2009-05-20 2010-12-02 Hoya Corp 撮像装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021070818A1 (ja) * 2019-10-07 2021-04-15 株式会社モルフォ サーバ装置及びプログラム
JPWO2021070818A1 (ja) * 2019-10-07 2021-04-15

Also Published As

Publication number Publication date
US20170019612A1 (en) 2017-01-19
JP6495126B2 (ja) 2019-04-03
CN106357968A (zh) 2017-01-25
CN106357968B (zh) 2019-06-28
US9996907B2 (en) 2018-06-12

Similar Documents

Publication Publication Date Title
JP6495126B2 (ja) 撮像装置、画像処理方法
US10142557B2 (en) Image pickup apparatus, image pickup method, and non-transitory computer-readable medium storing computer program
CN106257912B9 (zh) 摄像装置、摄像方法
US7710458B2 (en) Image pick-up apparatus with a shake reducing function
JP5347707B2 (ja) 撮像装置および撮像方法
JP6495122B2 (ja) 撮像装置、画像処理方法
JP2017022610A (ja) 画像処理装置、画像処理方法
TW201138442A (en) Image capture apparatus, image capturing method and computer readable medium
US10187594B2 (en) Image pickup apparatus, image pickup method, and non-transitory computer-readable medium storing computer program
JP2010147786A (ja) 撮像装置及び画像処理方法
JP2011066827A (ja) 画像処理装置、画像処理方法及びプログラム
JP5091781B2 (ja) 撮像装置および撮像方法
JP2006030972A (ja) 撮像装置及び撮像方法
JP2010068331A (ja) 撮像装置および撮像方法
JP6471843B2 (ja) 撮像装置、制御方法及びプログラム
JP2006157342A (ja) カメラモジュール
JP2008283477A (ja) 画像処理装置及び画像処理方法
JP6381112B2 (ja) 撮像装置、撮像方法、プログラム
US11832020B2 (en) Image pickup apparatus, image pickup method, and storage medium
JP6732572B2 (ja) 撮像装置及び撮像方法
JP5966072B2 (ja) 撮像装置および撮像方法
CN115914830A (zh) 摄像设备、摄像方法和存储介质
JP2009225252A (ja) 撮像装置および撮像方法
JP2009089358A (ja) 撮像装置および撮像方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180424

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190130

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190306

R151 Written notification of patent or utility model registration

Ref document number: 6495126

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250