JP2013255080A - 撮像装置、合成画像生成方法、及び、プログラム - Google Patents

撮像装置、合成画像生成方法、及び、プログラム Download PDF

Info

Publication number
JP2013255080A
JP2013255080A JP2012129270A JP2012129270A JP2013255080A JP 2013255080 A JP2013255080 A JP 2013255080A JP 2012129270 A JP2012129270 A JP 2012129270A JP 2012129270 A JP2012129270 A JP 2012129270A JP 2013255080 A JP2013255080 A JP 2013255080A
Authority
JP
Japan
Prior art keywords
image
imaging
moving object
pixel
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012129270A
Other languages
English (en)
Other versions
JP5454622B2 (ja
Inventor
Takeshi Sato
武志 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2012129270A priority Critical patent/JP5454622B2/ja
Priority to US13/908,724 priority patent/US8941763B2/en
Priority to CN201310220314.8A priority patent/CN103475809B/zh
Publication of JP2013255080A publication Critical patent/JP2013255080A/ja
Application granted granted Critical
Publication of JP5454622B2 publication Critical patent/JP5454622B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

【課題】周辺減光(シェーディング)が発生しても好適に画素加算処理を実現させること。
【解決手段】シェーディング補正部61は、連写された複数の撮像画像のデータに対してシェーディング補正を施す。基準画像選択部62は、その中から基準画像のデータを選択する。差分取得部63は、基準画像とそれ以外の複数の撮像画像との差分を画素毎に取得する。動体検出値算出部54は、画素毎に取得された差分と、画素毎のシェーディング補正量とに基づいて、動体検出値を画素毎に算出する。画素加算画像生成部65は、基準画像以外の複数の撮像画像のデータを画素加算することで、画素加算画像のデータを生成する。αブレンディング部66は、動体検出値に応じた合成比率で、画素加算画像と基準画像の各データを合成することで、合成画像のデータを生成する。
【選択図】図2

Description

本発明は、撮像装置及びプログラムに関する。
従来より、高速連写により得られた複数の画像について、各々の位置合わせした後に画素加算平均することにより1枚の画像を生成する手法、即ちいわゆるマルチプレーン加算手法が知られている(例えば特許文献1参照)。
このようなマルチプレーン加算手法において、位置合わせの際には、被写体の位置、手振れ等による画角の変化を考慮し、ブレが最少になるように画素加算するのが一般的である。
一方において、近年、コンパクトでかつ高倍率を謳うカメラ用のレンズシステムが登場してきている。
このようなレンズシステムにおいては、ズームレンズが広角側に移動した状態で撮影された画像には周辺減光(以下、「シェーディング」とも呼ぶ)が発生するため、後段の処理において増感補正(以下、「シェーディング補正」と呼ぶ)をすることで、当該シェーディングを打ち消す手法が採用されている。
特開2006−290827号公報
しかしながら、撮影された画像の周辺部においてシェーディング補正が行なわれると、補正した箇所においてノイズが目立つ画像が生成される。
従って、高速連写により得られた複数の画像においてシェーディング補正をした場合、上述のマルチプレーン加算手法を適用すると、シェーディング補正により生じたノイズは動体ブレと誤認識される可能性が高い。その結果、後段の画素加算処理において不都合が生じる場合がある。
本発明は、このような状況に鑑みてなされたものであり、周辺減光(シェーディング)が発生しても好適に画素加算処理を実現させることを目的とする。
上記目的を達成するため、本発明の一態様の撮像装置は、撮像手段と、この撮像手段に対し連続的に画像を取得するよう制御する撮像制御手段と、この撮像制御手段によって連続的に撮像された画像に対してシェーディング補正を施す補正手段と、この補正手段によって補正された、連続的に撮像された画像から第1の画像を選択する選択手段と、この選択手段によって選択された第1の画像とそれ以外の複数の画像との差分を画素毎に取得する差分取得手段と、この差分取得手段によって画素毎に取得された差分と、前記補正手段によるシェーディング補正の画素毎の補正量とに基づいて、画像に含まれる動体検出の指標となる動体検出値を算出する算出手段と、前記動体検出値に基づいて、前記第1の画像と前記それ以外の複数の画像とを合成した合成画像を生成する合成画像生成手段と、を備えることを特徴とする。
上記目的を達成するため、本発明の別の態様の撮像装置は、撮像手段と、この撮像手段に対し連続的に画像を取得するよう制御する撮像制御手段と、この撮像制御手段によって連続的に撮像された画像に対してシェーディング補正を施す補正手段と、この撮像制御手段によって連続的に撮像された画像から第1の画像を選択する選択手段と、前記補正手段によりシェーディング補正された画像の各々における動体の検出の精度を制御する動体検出制御手段と、前記動体検出制御手段によって制御された動体の検出の精度に基づいて、前記第1の画像と前記それ以外の複数の画像とを合成した合成画像を生成する合成画像生成手段と、を備えることを特徴とする。
本発明によれば、周辺減光(シェーディング)が発生しても好適に画素加算処理を実現させることができる。
本発明の撮像装置の一実施形態のハードウェアの構成を示すブロック図である。 図1の撮像装置の機能的構成のうち、マルチプレーン撮影処理を実行するための機能的構成を示す機能ブロック図である。 シェーディング補正の手法の一例を説明する図である。 αマップ画像のデータの生成手法の一例を説明する図である。 図2の機能的構成を有する図1の撮像装置が実行するマルチプレーン撮影処理の流れを説明するフローチャートである。
以下、本発明の実施形態について、図面を用いて説明する。
図1は、本発明の一実施形態としての撮像装置1のハードウェアの構成を示すブロック図である。
撮像装置1は、例えばデジタルカメラとして構成される。
撮像装置1は、CPU(Central Processing Unit)11と、ROM(Read Only Memory)12と、RAM(Random Access Memory)13と、画像処理部14と、バス15と、入出力インターフェース16と、撮像部17と、入力部18と、出力部19と、記憶部20と、通信部21と、ドライブ22と、を備えている。
CPU11は、ROM12に記録されているプログラム、又は、記憶部20からRAM13にロードされたプログラムに従って各種の処理を実行する。
RAM13には、CPU11が各種の処理を実行する上において必要なデータ等も適宜記憶される。
画像処理部14は、DSP(Digital Signal Processor)や、VRAM(Video Random Access Memory)等から構成されており、CPU11と協働して、画像のデータに対して各種画像処理を施す。
CPU11、ROM12、RAM13及び画像処理部14は、バス15を介して相互に接続されている。このバス15にはまた、入出力インターフェース16も接続されている。入出力インターフェース16には、撮像部17、入力部18、出力部19、記憶部20、通信部21及びドライブ22が接続されている。
撮像部17は、光学レンズ部と、イメージセンサと、を備えている。
光学レンズ部は、被写体を撮影するために、フォーカスレンズやズームレンズ等の各種レンズで構成される。
フォーカスレンズは、イメージセンサの受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
なお、本実施形態の光学レンズ部としては、[背景技術]の欄で上述したカメラ用のレンズシステムが採用されている。このため、詳細については後述するが、本実施形態でもシェーディング補正が実行される。
光学レンズ部にはまた、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
イメージセンサは、光電変換素子や、AFE(Analog Front End)等から構成される。
光電変換素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子等から構成される。光電変換素子には、光学レンズ部から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。
AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。各種信号処理によって、ディジタル信号が生成され、撮像部17の出力信号として出力される。
本明細書では、このような撮像部17の出力信号を、「撮像画像のデータ」と呼んでいる。撮像画像のデータは、CPU11や画像処理部14等に適宜供給され、必要に応じて記憶部20に記憶される。
入力部18は、電源ボタン、レリーズボタン等、各種ボタンで構成され、ユーザの指示操作に応じて各種情報を入力する。
出力部19は、ディスプレイやスピーカ等で構成され、画像や音声を出力する。
記憶部20は、DRAM(Dynamic Random Access Memory)等で構成され、各種画像のデータを記憶する。
通信部21は、インターネットを含むネットワークを介して他の装置(図示せず)との間で行う通信を制御する。
ドライブ22には、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等よりなるリムーバブルメディア31が適宜装着される。ドライブ22によってリムーバブルメディア31から読み出されたプログラムは、必要に応じて記憶部20にインストールされる。また、リムーバブルメディア31は、記憶部20に記憶されている画像のデータ等の各種データも、記憶部20と同様に記憶することができる。
図2は、このような撮像装置1の機能的構成のうち、マルチプレーン撮影処理を実行するための機能的構成を示す機能ブロック図である。
ここでいう「マルチプレーン撮影処理」とは、いわゆる高速連写により複数の撮像画像を繰り返し連続して撮像し、当該複数の撮像画像のデータに対して、シェーディング補正を施した上で、さらにマルチプレーン加算方式に従った画像処理を施し、その結果得られる合成画像のデータを記録するまでの一連の処理をいう。
マルチプレーン撮影処理が実行される場合、CPU11においては、撮像制御部51と、差分補正値演算部52と、差分補正値要否判別部53と、動体検出値算出部54と、合成要否判別部55と、α値設定部56と、記憶制御部57と、が機能する。
なお、撮像制御部51乃至記憶制御部57がCPU11で機能することは例示に過ぎない。即ち、撮像制御部51乃至記憶制御部57の機能の少なくとも一部を、CPU11以外の他の構成要素(画像処理部14等)に移譲させることも可能である。
また、マルチプレーン撮影処理が実行される場合、画像処理部14においては、シェーディング補正部61と、基準画像選択部62と、差分取得部63と、切替部64と、画素加算画像生成部65と、αブレンディング部66と、が機能する。
なお、シェーディング補正部61乃至αブレンディング部66が画像処理部14で機能することは例示に過ぎない。即ち、シェーディング補正部61乃至αブレンディング部66の機能の少なくとも一部を、画像処理部14以外の他の構成要素(CPU11等)に移譲させることも可能である。
また、マルチプレーン撮影処理が実行される場合、記憶部20の一領域として、撮像画像記憶部71が設けられる。なお、撮像画像記憶部71が記憶部20の一領域として設けられていることは例示であって、その他例えばリムーバブルメディア31の一領域として設けられてもよい。
撮像制御部51は、ユーザによる入力部18(図1)に対する各種操作等に応じて各種撮像条件を設定し、これらの各種撮像条件に基づいて撮像部17の撮像動作を制御する。
このような撮像条件の1つとして、例えば本実施形態では、撮像感度、より具体的にはISO(International Organization for Standardization)感度が採用されており、当該撮像感度を設定する撮像感度設定部511が撮像制御部51に設けられている。なお、撮像感度設定部511による撮影感度設定は必ずしもユーザによる各種操作等に応じて設定されるものではなく、撮像されている画像の状態(明るさ)等を判断し、自動的に設定するようにしてもよい。
また、例えば、入力部18の図示せぬレリーズボタンが押下されて撮像画像の記録指示がなされると、撮像部17は、撮像制御部51による制御の下、いわゆる連写動作を行い複数の撮像画像を連続して撮像し、当該複数の撮像画像のデータを出力して撮像画像記憶部71に一旦記憶させる。
シェーディング補正部61は、撮像画像記憶部71に記憶された複数の撮像画像のデータの各々に対して、シェーディング補正を施す。
図3は、シェーディング補正の手法の一例を説明する図である。
図3(A)は、シェーディング補正量の関係を示す図である。図3(B)は、シェーディング補正の対象となる撮像画像の例を示す図である。
本実施形態では、図3(B)に示すように、撮像画像内にシェーディング中心Cが設定される。このシェーディング中心Cの位置は、特に限定されないが、本実施形態では撮像画像の2つの対角線の交点であるものとする。
図3(A)に示すように、このシェーディング中心Cからの距離dが長くなる程、シェーディング補正量が増加していくように、シェーディング補正がなされる。具体的には、撮像画像を構成する各画素のうち処理対象として注目すべき画素(以下、「注目画素」と呼ぶ)の画素値に対して、所定のシェーディング補正量がゲインとして乗算されることで、注目画素の画素値が補正される。
この場合、注目画素の位置がシェーディング中心Cであれば、シェーディング補正量が「1」となり、注目画素の画素値は変化しない(1倍に補正される)。
しかしながら、シェーディング中心Cから注目画素の距離dが長くなる程、即ち注目画素の位置が撮像画像の周辺になる程、シェーディング補正量が増加していくので、それに応じて注目画素の画素値も増加していくように、シェーディング補正がなされる。
図2に戻り、基準画像選択部62は、撮像画像記憶部71に記憶された複数の撮像画像のデータ、即ち、連写により連続的に撮像された複数の撮像画像のデータの中から、基準画像のデータを選択する。基準画像の選択手法は、特に限定しないが、本実施形態では、複数の撮像画像を撮影順に並べた場合に中央付近に位置する1枚が、基準画像として選択される。
差分取得部63は、撮像画像記憶部71に記憶された複数の撮像画像のデータのうち、基準画像とそれ以外の撮像画像の各々について、対応する画素毎に、画素値の差分を取得する。
ここで、理想的には、動体が存在しない領域では画素値の差分は0になり、動体が存在する領域では画素値の差分は大きくなる。このように、画素値の差分は、動体検出の指標になる。このため、従来のマルチプレーン撮影処理では、画素値の差分がそのまま、当該画素における動体検出の有無を示す指標値(以下、「動体検出値」と呼ぶ)として採用されていた。
しかしながら、従来のマルチプレーン撮影処理においてシェーディング補正(図3(A)、(B))が行われると、撮像画像の周辺領域(シェーディング中心Cから注目画素の距離dが長い領域)では、画素値が増加するように補正される。このため、撮像画像の周辺領域ではノイズが増幅され、そのノイズにより画素値の差分が大きくなる傾向になる。
このように、画素値の差分がそのまま動体検出値として採用されるならば、撮像画像の周辺領域において、動体が存在しない場合でもノイズの影響で画素値の差分が大きくなり、動体の誤検出が多発するおそれがある。
マルチプレーン方式では、動体が検出された領域については、後述の画素加算画像は合成されずに(或いは透過度が高い状態で合成されて)、基準画像単体が採用される(或いは基準画像の透過度が低い状態で合成される)。その結果、撮像画像の周辺領域では、動体の誤検出がなされると、強いノイズを含む基準画像単体がそのまま残り、最終的に得られる合成画像の画質が劣化してしまう。
そこで本実施形態では、動体の誤検出を防止して画質の劣化を防止すべく、差分補正値演算部52と、差分補正値要否判別部53と、動体検出値算出部54とがCPU11において機能する。
差分補正値演算部52は、差分取得部63により取得された各画素値の差分を補正する値(以下、「差分補正値」と呼ぶ)として、シェーディング補正に応じた値を演算する。
差分補正値要否判別部53は、撮像制御部51において用いられた撮像条件に基づいて、動体検出値の演算に差分補正値が必要か否かを判断する。具体的な判断手法については、後述する図5のステップS3,S6の処理として説明する。
動体検出値算出部54は、差分補正値要否判別部53により差分補正値が必要と判断された場合、差分取得部63により取得された各画素値の差分を、差分補正値を用いて補正し、補正後の各値を動体検出値としてそれぞれ出力する。これに対して、動体検出値算出部54は、差分補正値要否判別部53により差分補正値が不要と判断された場合、差分取得部63により取得された各画素値の差分をそのまま、動体検出値として出力する。
次に、差分補正値要否判別部53により差分補正値が必要と判断された場合における具体的な動体検出値の算出手法を説明する。
従来、基準画像における座標(x,y)に位置する画素の画素値をBase(x,y)、この基準画像の合成対象となる対象画像における座標(x,y)に位置する画素の画素値をNst(x,y)、そしてその座標における画素値の差分(動体検出値)をSabun(x,y)とすると、その関係は以下の式(1)のようになる。
Sabun(x,y)=Base(x,y)−Nst(x,y)
if(Sabun(x,y)<th)Sabun(x,y)=0 ・・・(1)
つまり、差分値が閾値thよりも小さい場合には、Sabun(x,y)は0になる。
しかしシェーディング補正により、画像の周辺方向に向かってノイズが多く発生するようになると、基準画像と対象画像におけるその周辺方向に向かう画素値の差分は実際よりも大きくなる。
したがってこのケースを考慮し、差分補正値Hosei(x,y)を用意し、上記式(1)をベースに下記式(2)を新たに用意する。
Sabun(x,y)=Base(x,y)−Nst(x,y)/Hosei(x,y)
if(Sabun(x,y)<th)Sabun(x,y)=0 ・・・(2)
つまり、差分値が閾値thよりも小さい場合には、Sabun(x,y)は0になる。
ここで、本実施形態の差分補正値Hosei(x,y)は、シェーディング補正量に応じて大きくなる値、即ちシェーディング中心Cから距離rが長くなる程大きくなる値が採用される。そして画像の周辺部において、ノイズの影響で大きくなった画素値の差分(=Base(x,y)−Nst(x,y)が、大きな値となった差分補正値Hosei(x,y)により除算されるので、結果として、式(1)で算出された値よりも小さくなったものが動体検出値Sabun(x,y)として算出されることになる。動体検出値Sabun(x,y)が小さくなることは、その分だけ、シェーディング補正により生じたノイズに起因する動体の誤検出が抑制されることを意味する。
図2に戻り、合成要否判別部55は、動体検出値算出部54により算出された動体検出値と所定の閾値(閾値thとは異なる値)とを比較することによって、マルチプレーン方式の合成の要否、即ち後述する画素加算画像と基準画像との合成の要否を判断する。
具体的には、合成要否判別部55は、動体検出値が当該所定の閾値よりも大きい対象画像が存在する場合、動体の動きが大きすぎて適切な合成ができない可能性が高いため、合成しないと判断する。これに対して、合成要否判別部55は、全ての対象画像において動体検出値が当該所定の閾値以下の場合、合成すると判断する。
合成要否判別部55の判断結果は、α値設定部56、切替部64、画素加算画像生成部65の各々に通知される。
合成しないと合成要否判別部55により判断された場合、切替部64は、出力先を記憶制御部57側に切り替える。また、α値設定部56及び画素加算画像生成部65は、その処理の実行を禁止する。
これにより、基準画像選択部62により選択された基準画像のデータは、後述する画素加算画像のデータと合成されずに単体で、切替部64を介して記憶制御部57に供給される。
記憶制御部57は、基準画像のデータを記録用としてリムーバブルメディア31に記憶させる。
これに対して、合成すると合成要否判別部55により判断された場合、切替部64は、出力先をαブレンディング部66側に切り替える。また、α値設定部56及び画素加算画像生成部65は、その処理の実行が可能な状態にする。
α値設定部56は、撮像画像記憶部71に記憶された複数の撮像画像のデータのうち、基準画像以外の撮像画像(各対象画像)のデータについての、画素単位の動体検出値に基づいて、α値を画素単位で設定する。
α値とは、基準画像と後述の画素加算画像との合成の際に用いられる、透過度を示す値である。このようなα値を用いた合成は「αブレンド」とも呼ばれている。
ここで、このようなα値の2次元の分布状態を示すマップ、即ち各α値を各画素値として有する、撮像画像と同一解像度の画像を、「αマップ画像」と呼ぶ。本実施形態では、α値設定部56は、α値の設定結果として、αマップ画像のデータを生成し、αブレンディング部66に供給する。
図4は、αマップ画像のデータの生成手法の一例を説明する図である。
図4の例では、6枚の連写がなされて、3枚目の撮像画像が基準画像として選択されている。
この場合、上述したように、n枚目(nは3を除く1乃至6の整数値)の対象画像と基準画像との差分が差分補正値で除算された値が、n枚目の動体検出値(以下「第n動体検出値」と呼ぶ)として演算されている。
そこで、α値設定部56は、これらの第1動体検出値乃至第6動体検出値の平均値を各画素毎に演算し、各画素毎の平均値を各α値とするαマップ画像のデータを生成し、αブレンディング部66に供給する。
図2に戻り、画素加算画像生成部65は、撮像画像記憶部71に記憶された複数の撮像画像のデータのうち、基準画像以外の各撮像画像(各対象画像)のデータについて、各画素値を加算平均することで、当該加算平均値を画素値として有する画像(以下、「画素加算画像」と呼ぶ)のデータを生成する。
αブレンディング部66は、画素加算画像生成部65により生成された画素加算画像のデータと、基準画像選択部62により選択されて切替部64を介して供給された基準画像のデータとを、α値設定部56により生成されたαマップ画像のデータを用いて合成(αブレンディング)することで、合成画像のデータを生成する。
具体的には、αブレンディング部66は、次の式(3)に示すαブレンディングを画素単位で実行することで、合成画像のデータを生成する。
合成画像=(1−α)×画素加算画像+α×基準画像 ・・・(3)
ここで、α値は、上述したように、撮像画像記憶部71に記憶された複数の撮像画像のデータのうち、基準画像以外の撮像画像(各対象画像)のデータの各々の動体検出値の平均値が採用されている。
動体検出値は、対象画像と基準画像との単なる差分ではなく、当該差分が差分補正値で除算された値である。そして、差分補正値は、シェーディング補正量に応じて大きくなるように設定される。
従って、シェーディング補正量が大きくなる撮像画像の周辺部においては、α値が小さくなるように設定されるので、式(3)より基準画像の影響(その周辺部に生じているノイズの影響)が小さくなるように合成される。その結果、周辺部におけるノイズの影響が小さくなった、高画質の合成画像のデータが得られることになる。
換言すると、従来においては、α値の設定の指標となる動体検出値は、シェーディング中心Cであろうと、そこから距離dが離れた周辺部であろうと、対象画像と基準画像との単なる差分が一律に用いられていた。
この場合、対象画像と基準画像とにシェーディング補正がかけられると、シェーディング中心Cに対して、周辺部の画素値が増幅されるので、その差分も増幅されることと等価になる。このような増幅された差分値を動体検出値に用いることは、動体の検出精度を必要以上に上げる(過敏に反応させる)ことを意味し、その結果、ノイズ成分に起因する差分も増幅されて、動体として誤検出されてしまう。
逆に、周辺部の動体の誤検出を抑制しようとして、撮像画像全体の動体の検出精度を単純に下げてしまうと、今度は、シェーディング中心Cにおいて実際に存在する動体を検出できなくなる場合もある。
そこで、本実施形態では、撮像装置1は、対象画像と基準画像との差分を、シェーディング補正量に応じた差分補正値で除算した値を、動体検出値として用いている。これにより、周辺部における動体の検出精度を適切なレベルまで下げつつ、シェーディング中心Cにおける動体の検出精度を維持するように制御している。
即ち、本実施形態では、差分補正値演算部52、差分補正値要否判別部53、差分取得部63及び動体検出値算出部54は、シェーディング補正された撮像画像における動体検出の精度を制御する動体検出精度制御部101として機能している、と把握することができる。
本実施形態をこのように把握した場合、動体検出精度制御部101により、シェーディング補正がなされた対象画像と基準画像についての動体検出の精度が適切に制御された状態で、画素加算画像と基準画像との各データが合成される。その結果、周辺部におけるノイズの影響が小さくなると共に、シェーディング中心では適切な合成が行われ、高画質の合成画像のデータが得られることになる。
記憶制御部57は、このようにしてαブレンディング部66により生成された合成画像のデータを、記録用のデータとしてリムーバブルメディア31に記憶させる。
なお、α値設定部56、画素加算画像生成部65及びαブレンディング部66は、合成画像のデータを生成する合成画像生成部102として機能していると把握することもできる。
次に、図5を参照して、上述の図2の機能的構成の撮像装置1が実行するマルチプレーン撮影処理について説明する。
図5は、図2の機能的構成を有する図1の撮像装置1が実行するマルチプレーン撮影処理の流れを説明するフローチャートである。
マルチプレーン撮影処理は、ユーザによる入力部18の所定の操作がなされた後、ユーザによる入力部18のレリーズボタンの押下操作を契機として開始され、次のような処理が実行される。
ステップS1において、撮像部17は、撮像制御部51の制御の下、連写により複数枚の撮像画像のデータを取得して、撮像画像記憶部71に記憶させる。
このとき、撮像制御部51において、ズーム倍率や撮像感度等の各種撮像条件が設定されるものとする。なお、撮像感度については、撮像感度設定部511により設定される。
ステップS2において、シェーディング補正部61は、ステップS1の処理で取得された複数の撮像画像の各データについてシェーディング補正を施す。
ステップS3において、差分補正値要否判別部53は、ズーム倍率は所定値以下か否か、即ち広角寄りか否かを判定する。
ズーム倍率が所定値を超えている場合、即ち広角寄りでない場合、動体検出値の算出に差分補正値は不要であるとして、ステップS3においてNOであると判定されて、処理はステップS9に進む。ただし、ステップS9以降の処理については後述する。
これに対して、ズーム倍率が所定値以下の場合、即ち広角寄りである場合、動体検出値の算出に差分補正値は必要であるとして、ステップS3においてYESであると判定されて、処理はステップS4に進む。
ステップS4において、差分補正値演算部52は、ステップS2のシェーディング補正に応じた差分補正値を設定する。
ステップS5において、基準画像選択部62は、ステップS1の処理で取得された複数の撮像画像のデータの中から1つを、基準画像のデータとして選択する。
ステップS6において、差分補正値要否判別部53は、ステップS1の処理時点で設定した撮像感度は、ISO3200相当以上か否かを判定する。
ISO3200相当未満である場合には、動体検出値の算出に差分補正値は不要であるとして、ステップS6においてNOであると判定されて、処理はステップS10に進む。ただし、ステップS10以降の処理については後述する。
これに対して、ズーム倍率が所定値以下であり撮像感度がISO3200相当以上である場合には、シェーディング補正により撮像画像の周辺部のノイズの影響が大きくなっていることが予想され、従来のように単純な画素値の差分を動体検出値として採用すると、ノイズに起因する動体の誤検出が生ずる可能性が高い。そこで、このような場合には、動体検出値の算出に差分補正値は必要であるとして、ステップS6においてYESであると判定されて、次のようなステップS7以降の処理が実行されることで、シェーディング補正された撮像画像における動体検出の精度が適切に制御される。
即ち、ステップS7において、差分取得部63は、ステップS1の処理で取得された複数の撮像画像のデータのうち、ステップS5の処理で取得された基準画像とそれ以外の撮像画像(対象画像)の各々について、対応する画素毎に、画素値の差分を求め、さらに、動体検出値算出部54は、当該差分を差分補正値で除算した値を、動体検出値として算出する。
ステップS8において、合成要否判別部55は、動体検出値が閾値以上の対象画像のデータがあるか否かを判定する。
動体検出値が閾値以上の対象画像のデータがある場合、合成は不要であるとして、ステップS8においてYESであると判定されて、処理はステップS11に進む。
処理がステップS11に進む過程で、切替部64は、出力先を記憶制御部57側に切り替える。また、α値設定部56及び画素加算画像生成部65は、その処理の実行を禁止する。これにより、ステップS5の処理で選択された基準画像のデータは、画素加算画像のデータと合成されずに単体で、切替部64を介して記憶制御部57に供給される。
ステップS11において、記憶制御部57は、記録対象として基準画像のみを選択する。ステップS15において、記憶制御部57は、基準画像のデータを記録用としてファイル化して、リムーバブルメディア31に保存させる。
これにより、マルチプレーン撮影処理が終了となる。
これに対して、動体検出値が閾値以上の対象画像のデータがない場合、合成は必要であるとして、ステップS8においてNOであると判定されて、処理はステップS12に進み、次のような一連の処理が実行される。
即ち、ステップS12において、α値設定部56は、ステップS1の処理で取得された複数の撮像画像のデータのうち、基準画像以外の撮像画像(各対象画像)のデータについての、画素単位の動体検出値に応じた、α値を画素単位で設定する。即ちαマップ画像のデータが生成される。
ステップS13において、画素加算画像生成部65は、基準画像以外の各撮像画像(各対象画像)のデータ同士を画素加算して、画素加算画像のデータを生成する。
ステップS14において、αブレンディング部66は、画素加算画像と基準画像との各データを、αマップ画像のデータを用いてαブレンディングすることで、合成画像のデータを生成する。
ステップS15において、記憶制御部57は、合成画像のデータを記録用としてファイル化して、リムーバブルメディア31に保存させる。
これにより、マルチプレーン撮影処理が終了となる。
以上、ズーム倍率が所定値以下(広角寄り)であって、かつ撮像感度がISO3200相当以上の場合におけるマルチプレーン撮影処理の流れについて説明した。
次に、それ以外の場合におけるマルチプレーン撮影処理の流れについて説明する。
先ず、ズーム倍率が所定値を超えている場合、即ち広角寄りでない場合には、周辺減光(シェーディング)が発生しにくいため、従来と同様に、画素値の差分を動体検出値として採用しても特に問題は生じない。
そこで、このような場合には、ステップS3においてNOであると判定されて、処理がステップS9に進み、次のような一連の処理が実行される。
即ち、ステップS9において、基準画像選択部62は、ステップS1の処理で取得された複数の撮像画像のデータの中から1つを、基準画像のデータとして選択する。
ステップS10において、差分取得部63は、ステップS1の処理で取得された複数の撮像画像のデータのうち、ステップS9の処理で選択された基準画像とそれ以外の撮像画像(対象画像)の各々について、対応する画素毎に、画素値の差分を求め、動体検出値算出部54は、当該差分をそのまま動体検出値として算出する。
ステップS8において、合成要否判別部55は、動体検出値が閾値以上の対象画像のデータがあるか否かを判定する。
動体検出値が閾値以上の対象画像のデータがある場合、合成は不要であるとして、ステップS8においてYESであると判定されて、ステップS11において記録対象として基準画像のみが選択され、ステップS15において基準画像のデータが記録用としてファイル化されてリムーバブルメディア23に保存される。
これにより、マルチプレーン撮影処理が終了となる。
これに対して、動体検出値が閾値以上の対象画像のデータがない場合、合成は必要であるとして、ステップS8においてNOであると判定されて、処理はステップ12に進む。
ステップS12において、α値が画素単位で設定されることでαマップ画像のデータが生成され、ステップS13において、画素加算画像のデータが生成され、ステップS14において、画素加算画像と基準画像の各データが、αマップ画像のデータを用いてαブレンディングされることで、合成画像のデータが生成される。
そして、ステップS15において、合成画像のデータが記録用としてファイル化されて、リムーバブルメディア31に保存される。
これにより、マルチプレーン撮影処理が終了となる。
次に、ズーム倍率が所定値以下(広角寄り)であるが、撮像感度がISO3200相当未満である場合におけるマルチプレーン撮影処理について説明する。
撮像感度がISO3200相当未満と低い場合には、換言すると明るい撮影環境の場合には、シェーディング補正後の撮像画像周辺のノイズの影響は低いと判断できるため、従来と同様に、画素値の差分を動体検出値として採用しても特に問題は生じない。
そこで、このような場合には、ステップS6においてNOであると判定されて、処理がステップS10に進み、ズーム倍率が所定値を超えている場合における上述した処理と同様の処理が実行される。
なお、ステップS6における撮像感度と比較される閾値として、ISO3200相当が採用されているのは、単なる例示である。即ち、設計者等が、シェーディング補正後の撮像画像周辺のノイズの影響をどこまで考慮するのかに応じて、撮像感度と比較される閾値を自在に設定してもよい。
以上説明したように、本実施形態の撮像装置1は、撮像部17と、撮像制御部51と、シェーディング補正部61と、基準画像選択部62と、差分取得部63と、動体検出値算出部54と、合成画像生成部102とを備える。
撮像制御部51は、撮像部17に対し連続的に撮像画像のデータを取得するよう制御する。
シェーディング補正部61は、連続的に撮像された撮像画像のデータに対してシェーディング補正を施す。
基準画像選択部62は、シェーディング補正された、連続的に撮像された撮像画像のデータから基準画像(第1の画像)のデータを選択する。
差分取得部63は、連続的に撮像された撮像画像のうち、選択された基準画像(第1の画像)とそれ以外の複数の画像との差分を画素毎に取得する。
動体検出値算出部54は、差分取得部63によって画素毎に取得された差分と、シェーディング補正の画素毎の補正量とに基づいて、画像に含まれる動体検出の指標となる動体検出値を算出する。
合成画像生成部102は、動体検出値に基づいて、基準画像(第1の画像)とそれ以外の複数の撮像画像との各データを合成した合成画像のデータを生成する。
このようにして、周辺減光(シェーディング)が発生しても好適に画素加算処理を実現可能になる。
即ち、従来の手法では、画素毎に取得された差分そのものが、動体検出値として採用されていた。このため、シェーディング補正がなされると、撮像画像の周辺ではノイズが生じ、そのノイズの影響で、実際には動体が存在しないのに、動体検出値が大きな値になり動体の誤検出が生じていた。このため、撮像画像の周辺領域では、動体が存在しない場合であっても動体が検出されたとして、ノイズを強く含む基準画像が採用され(その合成比率が高くされ)、最終的な合成画像の画質が劣化していた。
これに対して、本実施形態では、動体検出値としては、画素毎に取得された差分のみならず、シェーディング補正の画素毎の補正量も考慮されて、動体検出値が算出されるので、従来生じていた動体の誤検出を抑制することが可能になる。その結果、例えば、撮像画像の周辺領域では、動体の誤検出も抑制される(動体検出値が低くなる)ので、ノイズが抑制された画素加算画像の合成比率が大きくなるように合成され、高画質の合成画像が得られるようになる。
本実施形態の撮像装置1の合成部102は、画素加算画像生成部65と、α値設定部56と、αブレンディング部66とを有している。
画素加算画像生成部65は、基準画像以外の複数の撮像画像を画素加算して画素加算画像のデータを生成する。
α値設定部56は、この画素加算画像のデータに対して、画素毎に算出された動体検出値に応じたα値(透過度)を画素毎に設定する。
αブレンディング部66は、画素毎に設定されたα値(透過度)に基づいて、画素加算画像と基準画像(第1の画像)との各データをブレンディングする。
このように、動体検出値に応じてα値(透過度)が画素毎に適切に設定されるので、画素単位で合成比率を変化させた細かな合成が可能になり、合成画像の画質向上に寄与する。
本実施形態のα値設定部56は、複数の対象画像(基準画像以外の撮像画像)毎の動体検出値を平均化してα値を設定することができる。
このように動体検出値を平均化することにより、動体検出の信頼性が向上し、その結果、より好適な合成が実現し、その結果、合成画像の画質向上に寄与する。
本実施形態の撮像装置1は、撮像制御部51の制御による撮像時の撮像感度を設定する撮像感度設定部511と、撮像感度設定手段によって設定された撮像感度が所定の値以上か否かを判別する差分補正値要否判別部53とをさらに備えている。
そして、動体検出値算出部54は、撮影感度が所定の値以上と判別されると、シェーディング補正の画素毎の補正量に応じて、画素毎に取得された差分を補正することで動体検出値を算出し、撮影感度が所定の値以上でないと判別されると、画素毎に取得された差分を動体検出値として算出することができる。
このように、撮像感度が所定の値(例えばISO3200相当)未満と低い場合には、換言すると明るい撮影環境の場合には、シェーディング補正後の撮像画像周辺のノイズの影響は低いと判断できるため、従来と同様に、画素値の差分を動体検出値として採用することで、無駄な処理の削減等して全体の処理の効率化を図ることが可能になる。
本実施形態の撮像装置1の合成画像生成部102は、動体検出値が所定範囲内の場合に、画素加算画像と基準画像(第1の画像)の各データを合成して、合成画像のデータを生成することができる。
即ち、動体検出値が所定範囲を超えている場合には、合成自体が上手くいかないおそれがあるが、このおそれをなくすべく、例えば合成をせずに基準画像を最終出力とすることで、最終画像(記録される画像)の破綻を防止し、最終画像の画質を一定レベルで維持することが可能になる。
本実施形態の撮像装置1は、合成要否判別部55と記憶制御部57とをさらに備える。
合成要否判別部55は、動体検出値所定範囲内か否かを判別する。
記憶制御部57は、動体検出値が所定範囲内と判別されると合成画像を、動体検出値が所定範囲内でないと判別されると基準画像(第1の画像)を、記録するよう制御する。
上述したように、動体検出値が所定範囲を超えている場合には、合成自体が上手くいかないおそれがあるが、そのような場合であっても、基準画像(第1の画像)のデータは確実に記録される。
このように、いかなる状況であっても、一定以上の画質を有する撮像画像のデータを確実に記録することが可能になる。
また、本実施形態の撮像装置1は、撮像部17と、撮像制御部51と、シェーディング補正部61と、基準画像選択部62と、動体検出精度制御部101と、合成画像生成部102とを備える。
撮像制御部51は、撮像部17に対し連続的に撮像画像のデータを取得するよう制御する。
シェーディング補正部61は、連続的に撮像された撮像画像のデータに対してシェーディング補正を施す。
基準画像選択部62は、シェーディング補正された、連続的に撮像された撮像画像のデータから基準画像(第1の画像)のデータを選択する。
動体検出精度制御部101は、シェーディング補正された撮像画像のデータの各々における動体の検出の精度を制御する。
合成画像生成部102は、動体検出精度制御部101によって制御された動体の検出の精度に基づいて、基準画像(第1の画像)とそれ以外の複数の撮像画像の各データを合成することで、合成画像のデータを生成する。
このようにして、このようにして、周辺減光(シェーディング)が発生しても好適に画素加算処理を実現可能になる。
即ち、従来においては、シェーディング補正がかけられると、シェーディング中心に対して、周辺部の画素値が増幅される。従って、周辺部においては、このような増幅された画素値に基づいて動体の検出がなされるが、これは、動体の検出精度を必要以上に上げる(過敏に反応させる)ことを意味し、その結果、ノイズ成分に起因する差分値も増幅された結果として、動体として誤検出されてしまう。逆に、周辺部の動体の誤検出を抑制しようとして、画像全体の動体の検出精度を下げると、今度は、シェーディング中心において実際に存在する動体を検出できなくなる場合もある。
そこで、本実施形態の撮像装置1には、シェーディング補正された撮像画像のデータの各々における動体の検出の精度を制御する動体検出精度制御部101が設けられている。
これにより、例えば、周辺部における動体の検出精度を適切なレベルまで下げつつ、シェーディング中心における動体の検出精度は下げずに維持するような制御等も容易に可能になる。
その結果、本実施形態では、動体検出精度制御部により、シェーディング補正がなされた画像の動体検出の精度が適切に制御された状態で、基準画像(第1の画像)と画素加算画像の各データが合成される。その結果、周辺部におけるノイズの影響が小さくなると共に、シェーディング中心では適切な合成が行われ、画質良好の合成画像のデータが得られることになる。
なお、本発明は、上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。
例えば、動体検出精度制御部101により精度が制御された動体の検出結果は、上述の実施形態では、マルチプレーン加算方式に従った画像処理に用いられたが、その用途は特にこれに限定されない。例えば、動画像における被写体の追尾処理等各種各様の画像処理に、動体検出精度制御部101により精度が制御された動体の検出結果を用いることが可能である。
また、本発明が適用される撮像装置として、本実施形態ではデジタルスチルカメラに適用しているが、特にこれに限定されず、撮像画像を撮像する撮像機能と、撮像画像を通信により受信する受信機能とのうち少なくとも一方を有する電子機器一般に適用することができる。具体的には例えば、本発明は、スマートフォン、ノート型のパーソナルコンピュータ、テレビジョン受像機、ビデオカメラ、携帯型ナビゲーション装置、携帯電話機、ポータブルゲーム機等に適用可能である。
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。
換言すると、図2の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が撮像装置1に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図2の例に限定されない。
また、1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、コンピュータ等にネットワークや記録媒体からインストールされる。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
このようなプログラムを含む記録媒体は、ユーザにプログラムを提供するために装置本体とは別に配布される図1のリムーバブルメディア31により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される記録媒体等で構成される。リムーバブルメディア31は、例えば、磁気ディスク(フロッピディスクを含む)、光ディスク、又は光磁気ディスク等により構成される。光ディスクは、例えば、CD−ROM(Compact Disk−Read Only Memory),DVD(Digital Versatile Disk)等により構成される。光磁気ディスクは、MD(Mini−Disk)等により構成される。また、装置本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されている図1のROM12や、図1の記憶部20に含まれるハードディスク等で構成される。
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的或いは個別に実行される処理をも含むものである。
また、本明細書において、システムの用語は、複数の装置や複数の手段等より構成される全体的な装置を意味するものとする。
以上、本発明のいくつかの実施形態について説明したが、これらの実施形態は、例示に過ぎず、本発明の技術的範囲を限定するものではない。本発明はその他の様々な実施形態を取ることが可能であり、さらに、本発明の要旨を逸脱しない範囲で、省略や置換等種々の変更を行うことができる。これら実施形態やその変形は、本明細書等に記載された発明の範囲や要旨に含まれると共に、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
以下に、本願の出願当初の特許請求の範囲に記載された発明を付記する。
[付記1]
撮像手段と、
この撮像手段に対し連続的に画像を取得するよう制御する撮像制御手段と、
この撮像制御手段によって連続的に撮像された画像に対してシェーディング補正を施す補正手段と、
この補正手段によって補正された、連続的に撮像された画像から第1の画像を選択する選択手段と、
この選択手段によって選択された第1の画像とそれ以外の複数の画像との差分を画素毎に取得する差分取得手段と、
この差分取得手段によって画素毎に取得された差分と、前記補正手段によるシェーディング補正の画素毎の補正量とに基づいて、画像に含まれる動体検出の指標となる動体検出値を算出する算出手段と、
前記動体検出値に基づいて、前記第1の画像と前記それ以外の複数の画像とを合成した合成画像を生成する合成画像生成手段と、
を備えることを特徴とする撮像装置。
[付記2]
前記合成画像生成手段は、
前記それ以外の複数の画像を画素加算して画素加算画像を得る画素加算手段と、
この画素加算手段によって得られた画素加算画像に対して、前記算出手段によって画素毎に算出された動体検出値に応じた透過度を画素毎に設定する設定手段と、
この設定手段によって画素毎に設定された透過度に基づいて、前記画素加算画像と前記第1の画像とをブレンディングするブレンディング手段と、
を含むことを特徴とする付記1に記載の撮像装置。
[付記3]
前記設定手段は、前記算出手段によって算出された動体検出値を平均化して透過度を設定する、
ことを特徴とする付記2に記載の撮像装置。
[付記4]
前記撮像制御手段の制御による撮像時の撮像感度を設定する撮像感度設定手段と、
前記撮像感度設定手段によって設定された撮像感度が所定の値以上か否かを判別する第1の判別手段と、
をさらに備え、
前記算出手段は、
前記第1の判別手段によって前記撮影感度が所定の値以上と判別されると、前記補正手段によるシェーディング補正の画素毎の補正量に応じて、前記差分取得手段によって画素毎に取得された差分を補正することで前記動体検出値を算出し、
前記第1の判別手段によって前記撮影感度が所定の値以上でないと判別されると、前記差分取得手段によって画素毎に取得された差分を前記動体検出値として算出する、
ことを特徴とする付記1乃至3の何れか1つに記載の撮像装置。
[付記5]
前記合成画像手段は、前記算出手段によって算出された動体検出値が所定範囲内の場合に、前記画素加算画像と前記第1の画像とを合成することで、合成画像を生成する、
ことを特徴とする付記1乃至4の何れか1つに記載の撮像装置。
[付記6]
前記算出手段によって算出された動体検出値が所定範囲内か否かを判別する第2の判別手段と、
この第2の判別手段によって前記動体検出値が所定範囲内と判別されると前記合成画像生成手段によって生成された合成画像を、前記第2の判別手段によって前記動体検出値が所定範囲内でないと判別されると前記第1の画像を、記録するよう制御する記録制御手段と、
をさらに備えることを特徴とする付記1乃至5の何れか1つに記載の撮像装置。
[付記7]
撮像手段を備える撮像装置を制御するコンピュータを、
この撮像手段に対し連続的に画像を取得するよう制御する撮像制御手段、
この撮像制御手段によって連続的に撮像された画像に対してシェーディング補正を施す補正手段、
この補正手段によって補正された、連続的に撮像された画像から第1の画像を選択する選択手段、
この選択手段によって選択された第1の画像とそれ以外の複数の画像との差分を画素毎に取得する差分取得手段、
この差分取得手段によって画素毎に取得された差分と、前記補正手段によるシェーディング補正の画素毎の補正量とに基づいて、画像に含まれる動体検出の指標となる動体検出値を算出する算出手段、
前記動体検出値に基づいて、前記第1の画像と前記それ以外の複数の画像とを合成した合成画像を生成する合成画像生成手段、
として機能させることを特徴とするプログラム。
[付記8]
撮像手段と、
この撮像手段に対し連続的に画像を取得するよう制御する撮像制御手段と、
この撮像制御手段によって連続的に撮像された画像に対してシェーディング補正を施す補正手段と、
この撮像制御手段によって連続的に撮像された画像から第1の画像を選択する選択手段と、
前記補正手段によりシェーディング補正された画像の各々における動体の検出の精度を制御する動体検出制御手段と、
前記動体検出制御手段によって制御された動体の検出の精度に基づいて、前記第1の画像と前記それ以外の複数の画像とを合成した合成画像を生成する合成画像生成手段と、
を備えることを特徴とする撮像装置。
[付記9]
撮像手段を備える撮像装置を制御するコンピュータを、
この撮像手段に対し連続的に画像を取得するよう制御する撮像制御手段と、
この撮像制御手段によって連続的に撮像された画像に対してシェーディング補正を施す補正手段、
この撮像制御手段によって連続的に撮像された画像から第1の画像を選択する選択手段、
前記補正手段によりシェーディング補正された画像の各々における動体の検出の精度を制御する動体検出制御手段、
前記動体検出制御手段によって制御された動体の検出の精度に基づいて、前記第1の画像と前記それ以外の複数の画像とを合成した合成画像を生成する合成画像生成手段、
として機能させることを特徴とするプログラム。
1・・・撮像装置、11・・・CPU、12・・・ROM、13・・・RAM、14・・・画像処理部、15・・・バス、16・・・入出力インターフェース、17・・・撮像部、18・・・入力部、19・・・出力部、20・・・記憶部、21・・・通信部、22・・・ドライブ、31・・・リムーバブルメディア、51・・・撮像制御部、52・・・差分補正値演算部、53・・・差分補正値要否判別部、54・・・動き検出値算出部、55・・・合成要否判断部、56・・・α値設定部、57・・・記憶制御部、61・・・シェーディング補正部、62・・・基準画像選択部、63・・・差分取得部、64・・・切替部、65・・・画素加算画像生成部、66・・・αブレンディング部、101・・・動体検出精度制御部、102・・・合成画像生成部
本発明は、撮像装置、合成画像生成方法、及び、プログラムに関する。
上記目的を達成するため、本発明の一態様の撮像装置は、撮像手段と、この撮像手段に対し連続的に画像を取得するよう制御する撮像制御手段と、この撮像制御手段によって連続的に撮像された画像に対してシェーディング補正を施す補正手段と、この補正手段によりシェーディング補正された画像の各々における動体の検出の精度を制御する動体検出制御手段と、この動体検出制御手段によって制御された動体の検出の精度に基づいて、前記連続的に撮像された複数の画像を合成した合成画像を生成する合成画像生成手段と、を備えることを特徴とする。
上記目的を達成するため、本発明の別の態様の撮像装置は、撮像手段と、この撮像手段に対し連続的に画像を取得するよう制御する撮像制御手段と、この撮像制御手段によって連続的に撮像された画像に対してシェーディング補正を施す補正手段と、この補正手段によりシェーディング補正された画像における動体の検出結果の精度を判定する判定手段と、この判定手段による結果に基づいて、前記連続的に撮像された複数の画像を合成した合成画像を生成する合成画像生成手段と、を備えることを特徴とする。
動体検出値が閾値以上の対象画像のデータがある場合、合成は不要であるとして、ステップS8においてYESであると判定されて、ステップS11において記録対象として基準画像のみが選択され、ステップS15において基準画像のデータが記録用としてファイル化されてリムーバブルメディア31に保存される。
これにより、マルチプレーン撮影処理が終了となる。
これに対して、動体検出値が閾値以上の対象画像のデータがない場合、合成は必要であるとして、ステップS8においてNOであると判定されて、処理はステップ12に進む。
ステップS12において、α値が画素単位で設定されることでαマップ画像のデータが生成され、ステップS13において、画素加算画像のデータが生成され、ステップS14において、画素加算画像と基準画像の各データが、αマップ画像のデータを用いてαブレンディングされることで、合成画像のデータが生成される。
そして、ステップS15において、合成画像のデータが記録用としてファイル化されて、リムーバブルメディア31に保存される。
これにより、マルチプレーン撮影処理が終了となる。
特開2006−148550号公報

Claims (9)

  1. 撮像手段と、
    この撮像手段に対し連続的に画像を取得するよう制御する撮像制御手段と、
    この撮像制御手段によって連続的に撮像された画像に対してシェーディング補正を施す補正手段と、
    この補正手段によって補正された、連続的に撮像された画像から第1の画像を選択する選択手段と、
    この選択手段によって選択された第1の画像とそれ以外の複数の画像との差分を画素毎に取得する差分取得手段と、
    この差分取得手段によって画素毎に取得された差分と、前記補正手段によるシェーディング補正の画素毎の補正量とに基づいて、画像に含まれる動体検出の指標となる動体検出値を算出する算出手段と、
    前記動体検出値に基づいて、前記第1の画像と前記それ以外の複数の画像とを合成した合成画像を生成する合成画像生成手段と、
    を備えることを特徴とする撮像装置。
  2. 前記合成画像生成手段は、
    前記それ以外の複数の画像を画素加算して画素加算画像を得る画素加算手段と、
    この画素加算手段によって得られた画素加算画像に対して、前記算出手段によって画素毎に算出された動体検出値に応じた透過度を画素毎に設定する設定手段と、
    この設定手段によって画素毎に設定された透過度に基づいて、前記画素加算画像と前記第1の画像とをブレンディングするブレンディング手段と、
    を含むことを特徴とする請求項1に記載の撮像装置。
  3. 前記設定手段は、前記算出手段によって算出された動体検出値を平均化して透過度を設定する、
    ことを特徴とする請求項2に記載の撮像装置。
  4. 前記撮像制御手段の制御による撮像時の撮像感度を設定する撮像感度設定手段と、
    前記撮像感度設定手段によって設定された撮像感度が所定の値以上か否かを判別する第1の判別手段と、
    をさらに備え、
    前記算出手段は、
    前記第1の判別手段によって前記撮影感度が所定の値以上と判別されると、前記補正手段によるシェーディング補正の画素毎の補正量に応じて、前記差分取得手段によって画素毎に取得された差分を補正することで前記動体検出値を算出し、
    前記第1の判別手段によって前記撮影感度が所定の値以上でないと判別されると、前記差分取得手段によって画素毎に取得された差分を前記動体検出値として算出する、
    ことを特徴とする請求項1乃至3の何れか1項に記載の撮像装置。
  5. 前記合成画像手段は、前記算出手段によって算出された動体検出値が所定範囲内の場合に、前記画素加算画像と前記第1の画像とを合成することで、合成画像を生成する、
    ことを特徴とする請求項1乃至4の何れか1項に記載の撮像装置。
  6. 前記算出手段によって算出された動体検出値が所定範囲内か否かを判別する第2の判別手段と、
    この第2の判別手段によって前記動体検出値が所定範囲内と判別されると前記合成画像生成手段によって生成された合成画像を、前記第2の判別手段によって前記動体検出値が所定範囲内でないと判別されると前記第1の画像を、記録するよう制御する記録制御手段と、
    をさらに備えることを特徴とする請求項1乃至5の何れか1項に記載の撮像装置。
  7. 撮像手段を備える撮像装置を制御するコンピュータを、
    この撮像手段に対し連続的に画像を取得するよう制御する撮像制御手段、
    この撮像制御手段によって連続的に撮像された画像に対してシェーディング補正を施す補正手段、
    この補正手段によって補正された、連続的に撮像された画像から第1の画像を選択する選択手段、
    この選択手段によって選択された第1の画像とそれ以外の複数の画像との差分を画素毎に取得する差分取得手段、
    この差分取得手段によって画素毎に取得された差分と、前記補正手段によるシェーディング補正の画素毎の補正量とに基づいて、画像に含まれる動体検出の指標となる動体検出値を算出する算出手段、
    前記動体検出値に基づいて、前記第1の画像と前記それ以外の複数の画像とを合成した合成画像を生成する合成画像生成手段、
    として機能させることを特徴とするプログラム。
  8. 撮像手段と、
    この撮像手段に対し連続的に画像を取得するよう制御する撮像制御手段と、
    この撮像制御手段によって連続的に撮像された画像に対してシェーディング補正を施す補正手段と、
    この撮像制御手段によって連続的に撮像された画像から第1の画像を選択する選択手段と、
    前記補正手段によりシェーディング補正された画像の各々における動体の検出の精度を制御する動体検出制御手段と、
    前記動体検出制御手段によって制御された動体の検出の精度に基づいて、前記第1の画像と前記それ以外の複数の画像とを合成した合成画像を生成する合成画像生成手段と、
    を備えることを特徴とする撮像装置。
  9. 撮像手段を備える撮像装置を制御するコンピュータを、
    この撮像手段に対し連続的に画像を取得するよう制御する撮像制御手段と、
    この撮像制御手段によって連続的に撮像された画像に対してシェーディング補正を施す補正手段、
    この撮像制御手段によって連続的に撮像された画像から第1の画像を選択する選択手段、
    前記補正手段によりシェーディング補正された画像の各々における動体の検出の精度を制御する動体検出制御手段、
    前記動体検出制御手段によって制御された動体の検出の精度に基づいて、前記第1の画像と前記それ以外の複数の画像とを合成した合成画像を生成する合成画像生成手段、
    として機能させることを特徴とするプログラム。
JP2012129270A 2012-06-06 2012-06-06 撮像装置、合成画像生成方法、及び、プログラム Expired - Fee Related JP5454622B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012129270A JP5454622B2 (ja) 2012-06-06 2012-06-06 撮像装置、合成画像生成方法、及び、プログラム
US13/908,724 US8941763B2 (en) 2012-06-06 2013-06-03 Image capture device, method for generating composite image, and storage medium
CN201310220314.8A CN103475809B (zh) 2012-06-06 2013-06-05 摄像装置、合成图像生成方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012129270A JP5454622B2 (ja) 2012-06-06 2012-06-06 撮像装置、合成画像生成方法、及び、プログラム

Publications (2)

Publication Number Publication Date
JP2013255080A true JP2013255080A (ja) 2013-12-19
JP5454622B2 JP5454622B2 (ja) 2014-03-26

Family

ID=49715017

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012129270A Expired - Fee Related JP5454622B2 (ja) 2012-06-06 2012-06-06 撮像装置、合成画像生成方法、及び、プログラム

Country Status (3)

Country Link
US (1) US8941763B2 (ja)
JP (1) JP5454622B2 (ja)
CN (1) CN103475809B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020053960A (ja) * 2018-09-19 2020-04-02 キヤノン株式会社 撮像装置、該撮像装置の制御方法、及びプログラム
US11863873B2 (en) 2018-09-19 2024-01-02 Canon Kabushiki Kaisha Image capturing apparatus, method of controlling image capturing apparatus, and storage medium

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9431565B2 (en) * 2014-10-23 2016-08-30 William Marsh Rice University Charge coupled device based on atomically layered van der waals solid state film for opto-electronic memory and image capture
JP2017224971A (ja) * 2016-06-15 2017-12-21 ソニー株式会社 画像処理装置、画像処理方法、およびプログラム
JP7075313B2 (ja) * 2018-08-23 2022-05-25 株式会社タムロン 撮像システム
JP7433792B2 (ja) * 2019-07-19 2024-02-20 キヤノン株式会社 撮像装置およびその制御方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002290829A (ja) * 2001-03-26 2002-10-04 Minolta Co Ltd 画像処理装置、プログラムおよび記録媒体
JP2006148550A (ja) * 2004-11-19 2006-06-08 Konica Minolta Opto Inc 画像処理装置及び撮像装置
JP2008092548A (ja) * 2006-09-06 2008-04-17 Casio Comput Co Ltd 撮像装置、撮影方法及びプログラム
JP2010056817A (ja) * 2008-08-28 2010-03-11 Hitachi Ltd 撮像装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7408576B2 (en) * 2002-08-16 2008-08-05 Zoran Corporation Techniques for modifying image field data as a function of radius across the image field
US7729563B2 (en) * 2002-08-28 2010-06-01 Fujifilm Corporation Method and device for video image processing, calculating the similarity between video frames, and acquiring a synthesized frame by synthesizing a plurality of contiguous sampled frames
CN1820496B (zh) * 2003-10-31 2011-08-03 三菱电机株式会社 图像修正方法和摄像装置
JP2006290827A (ja) 2005-04-13 2006-10-26 Kowa Co 緑内障予防又は治療剤
JP4754939B2 (ja) * 2005-11-01 2011-08-24 オリンパス株式会社 画像処理装置
US8054351B2 (en) * 2008-08-29 2011-11-08 Kabushiki Kaisha Toshiba Method and apparatus for imaging
JP4760923B2 (ja) * 2009-02-03 2011-08-31 ソニー株式会社 画像処理装置、画像処理方法および撮像装置
JP5319415B2 (ja) * 2009-06-22 2013-10-16 キヤノン株式会社 画像処理装置、画像処理方法
US20120019686A1 (en) * 2010-07-23 2012-01-26 Casio Computer Co., Ltd. Image synthesizing device, image synthesizing method and computer readable medium

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002290829A (ja) * 2001-03-26 2002-10-04 Minolta Co Ltd 画像処理装置、プログラムおよび記録媒体
JP2006148550A (ja) * 2004-11-19 2006-06-08 Konica Minolta Opto Inc 画像処理装置及び撮像装置
JP2008092548A (ja) * 2006-09-06 2008-04-17 Casio Comput Co Ltd 撮像装置、撮影方法及びプログラム
JP2010056817A (ja) * 2008-08-28 2010-03-11 Hitachi Ltd 撮像装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020053960A (ja) * 2018-09-19 2020-04-02 キヤノン株式会社 撮像装置、該撮像装置の制御方法、及びプログラム
US11863873B2 (en) 2018-09-19 2024-01-02 Canon Kabushiki Kaisha Image capturing apparatus, method of controlling image capturing apparatus, and storage medium
JP7442989B2 (ja) 2018-09-19 2024-03-05 キヤノン株式会社 撮像装置、該撮像装置の制御方法、及びプログラム

Also Published As

Publication number Publication date
US20130329091A1 (en) 2013-12-12
US8941763B2 (en) 2015-01-27
CN103475809A (zh) 2013-12-25
CN103475809B (zh) 2016-08-10
JP5454622B2 (ja) 2014-03-26

Similar Documents

Publication Publication Date Title
JP6271990B2 (ja) 画像処理装置、画像処理方法
US7680402B2 (en) Image shooting device with camera shake correction function
JP5454622B2 (ja) 撮像装置、合成画像生成方法、及び、プログラム
JP5643563B2 (ja) 画像処理装置及びその制御方法
US20130063555A1 (en) Image processing device that combines a plurality of images
US9380206B2 (en) Image processing apparatus that combines images
JP4469309B2 (ja) 手ぶれ補正方法、手ぶれ補正装置、及び撮像装置
JPWO2016207990A1 (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラムおよび記憶媒体
JP2013074313A (ja) 画像処理装置、画像処理方法、及びプログラム
JP2012049603A (ja) 画像処理装置および画像処理プログラム
JP5696419B2 (ja) 画像処理装置及び方法、並びにプログラム
US9357130B2 (en) Dynamic bracketing operations for image stabilization
JP6541501B2 (ja) 画像処理装置、撮像装置、及び画像処理方法
JP2010154306A (ja) 撮像制御装置、撮像制御プログラム及び撮像制御方法
JP5446847B2 (ja) 画像処理装置及び方法、並びにプログラム
JP6645711B2 (ja) 画像処理装置、画像処理方法、プログラム
JP6020904B2 (ja) 画像処理装置および撮像装置
JP5760654B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2008311907A (ja) 画像データ照合装置、画像合成装置及びプログラム
CN106464783B (zh) 图像拾取控制设备、图像拾取设备和图像拾取控制方法
JP5979040B2 (ja) 撮像装置、撮像方法及びプログラム
JP4919165B2 (ja) 画像合成装置及びプログラム
JP2012023530A (ja) 撮像装置、および画像合成プログラム
JP2015226224A (ja) 撮像装置
US20180286054A1 (en) Image processing apparatus, image processing method, and program

Legal Events

Date Code Title Description
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20130909

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130917

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131111

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131210

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131223

R150 Certificate of patent or registration of utility model

Ref document number: 5454622

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees