JP5454622B2 - 撮像装置、合成画像生成方法、及び、プログラム - Google Patents
撮像装置、合成画像生成方法、及び、プログラム Download PDFInfo
- Publication number
- JP5454622B2 JP5454622B2 JP2012129270A JP2012129270A JP5454622B2 JP 5454622 B2 JP5454622 B2 JP 5454622B2 JP 2012129270 A JP2012129270 A JP 2012129270A JP 2012129270 A JP2012129270 A JP 2012129270A JP 5454622 B2 JP5454622 B2 JP 5454622B2
- Authority
- JP
- Japan
- Prior art keywords
- moving object
- image
- unit
- object detection
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000003384 imaging method Methods 0.000 title claims description 148
- 238000000034 method Methods 0.000 title claims description 53
- 239000002131 composite material Substances 0.000 title claims description 41
- 238000001514 detection method Methods 0.000 claims description 154
- 238000003705 background correction Methods 0.000 claims description 80
- 238000012937 correction Methods 0.000 claims description 70
- 230000035945 sensitivity Effects 0.000 claims description 32
- 238000004364 calculation method Methods 0.000 claims description 31
- 230000002093 peripheral effect Effects 0.000 claims description 30
- 238000002156 mixing Methods 0.000 claims description 22
- 230000002194 synthesizing effect Effects 0.000 claims description 7
- 238000012935 Averaging Methods 0.000 claims description 5
- 238000012545 processing Methods 0.000 description 41
- 238000003860 storage Methods 0.000 description 37
- 230000008569 process Effects 0.000 description 35
- 239000000203 mixture Substances 0.000 description 22
- 230000006870 function Effects 0.000 description 14
- 238000010586 diagram Methods 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 8
- 230000015572 biosynthetic process Effects 0.000 description 7
- 238000003786 synthesis reaction Methods 0.000 description 7
- 238000006243 chemical reaction Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 6
- 230000009467 reduction Effects 0.000 description 3
- 238000002834 transmittance Methods 0.000 description 3
- 230000003321 amplification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000003199 nucleic acid amplification method Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 238000001454 recorded image Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
Description
このようなマルチプレーン加算手法において、位置合わせの際には、被写体の位置、手振れ等による画角の変化を考慮し、ブレが最少になるように画素加算するのが一般的である。
このようなレンズシステムにおいては、ズームレンズが広角側に移動した状態で撮影された画像には周辺減光(以下、「シェーディング」とも呼ぶ)が発生するため、後段の処理において増感補正(以下、「シェーディング補正」と呼ぶ)をすることで、当該シェーディングを打ち消す手法が採用されている。
従って、高速連写により得られた複数の画像においてシェーディング補正をした場合、上述のマルチプレーン加算手法を適用すると、シェーディング補正により生じたノイズは動体ブレと誤認識される可能性が高い。その結果、後段の画素加算処理において不都合が生じる場合がある。
撮像装置1は、CPU(Central Processing Unit)11と、ROM(Read Only Memory)12と、RAM(Random Access Memory)13と、画像処理部14と、バス15と、入出力インターフェース16と、撮像部17と、入力部18と、出力部19と、記憶部20と、通信部21と、ドライブ22と、を備えている。
フォーカスレンズは、イメージセンサの受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
なお、本実施形態の光学レンズ部としては、[背景技術]の欄で上述したカメラ用のレンズシステムが採用されている。このため、詳細については後述するが、本実施形態でもシェーディング補正が実行される。
光学レンズ部にはまた、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
光電変換素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子等から構成される。光電変換素子には、光学レンズ部から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。
AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。各種信号処理によって、ディジタル信号が生成され、撮像部17の出力信号として出力される。
本明細書では、このような撮像部17の出力信号を、「撮像画像のデータ」と呼んでいる。撮像画像のデータは、CPU11や画像処理部14等に適宜供給され、必要に応じて記憶部20に記憶される。
出力部19は、ディスプレイやスピーカ等で構成され、画像や音声を出力する。
記憶部20は、DRAM(Dynamic Random Access Memory)等で構成され、各種画像のデータを記憶する。
通信部21は、インターネットを含むネットワークを介して他の装置(図示せず)との間で行う通信を制御する。
ここでいう「マルチプレーン撮影処理」とは、いわゆる高速連写により複数の撮像画像を繰り返し連続して撮像し、当該複数の撮像画像のデータに対して、シェーディング補正を施した上で、さらにマルチプレーン加算方式に従った画像処理を施し、その結果得られる合成画像のデータを記録するまでの一連の処理をいう。
なお、撮像制御部51乃至記憶制御部57がCPU11で機能することは例示に過ぎない。即ち、撮像制御部51乃至記憶制御部57の機能の少なくとも一部を、CPU11以外の他の構成要素(画像処理部14等)に移譲させることも可能である。
なお、シェーディング補正部61乃至αブレンディング部66が画像処理部14で機能することは例示に過ぎない。即ち、シェーディング補正部61乃至αブレンディング部66の機能の少なくとも一部を、画像処理部14以外の他の構成要素(CPU11等)に移譲させることも可能である。
このような撮像条件の1つとして、例えば本実施形態では、撮像感度、より具体的にはISO(International Organization for Standardization)感度が採用されており、当該撮像感度を設定する撮像感度設定部511が撮像制御部51に設けられている。なお、撮像感度設定部511による撮影感度設定は必ずしもユーザによる各種操作等に応じて設定されるものではなく、撮像されている画像の状態(明るさ)等を判断し、自動的に設定するようにしてもよい。
図3(A)は、シェーディング補正量の関係を示す図である。図3(B)は、シェーディング補正の対象となる撮像画像の例を示す図である。
本実施形態では、図3(B)に示すように、撮像画像内にシェーディング中心Cが設定される。このシェーディング中心Cの位置は、特に限定されないが、本実施形態では撮像画像の2つの対角線の交点であるものとする。
図3(A)に示すように、このシェーディング中心Cからの距離dが長くなる程、シェーディング補正量が増加していくように、シェーディング補正がなされる。具体的には、撮像画像を構成する各画素のうち処理対象として注目すべき画素(以下、「注目画素」と呼ぶ)の画素値に対して、所定のシェーディング補正量がゲインとして乗算されることで、注目画素の画素値が補正される。
この場合、注目画素の位置がシェーディング中心Cであれば、シェーディング補正量が「1」となり、注目画素の画素値は変化しない(1倍に補正される)。
しかしながら、シェーディング中心Cから注目画素の距離dが長くなる程、即ち注目画素の位置が撮像画像の周辺になる程、シェーディング補正量が増加していくので、それに応じて注目画素の画素値も増加していくように、シェーディング補正がなされる。
このように、画素値の差分がそのまま動体検出値として採用されるならば、撮像画像の周辺領域において、動体が存在しない場合でもノイズの影響で画素値の差分が大きくなり、動体の誤検出が多発するおそれがある。
マルチプレーン方式では、動体が検出された領域については、後述の画素加算画像は合成されずに(或いは透過度が高い状態で合成されて)、基準画像単体が採用される(或いは基準画像の透過度が低い状態で合成される)。その結果、撮像画像の周辺領域では、動体の誤検出がなされると、強いノイズを含む基準画像単体がそのまま残り、最終的に得られる合成画像の画質が劣化してしまう。
差分補正値要否判別部53は、撮像制御部51において用いられた撮像条件に基づいて、動体検出値の演算に差分補正値が必要か否かを判断する。具体的な判断手法については、後述する図5のステップS3,S6の処理として説明する。
動体検出値算出部54は、差分補正値要否判別部53により差分補正値が必要と判断された場合、差分取得部63により取得された各画素値の差分を、差分補正値を用いて補正し、補正後の各値を動体検出値としてそれぞれ出力する。これに対して、動体検出値算出部54は、差分補正値要否判別部53により差分補正値が不要と判断された場合、差分取得部63により取得された各画素値の差分をそのまま、動体検出値として出力する。
従来、基準画像における座標(x,y)に位置する画素の画素値をBase(x,y)、この基準画像の合成対象となる対象画像における座標(x,y)に位置する画素の画素値をNst(x,y)、そしてその座標における画素値の差分(動体検出値)をSabun(x,y)とすると、その関係は以下の式(1)のようになる。
Sabun(x,y)=Base(x,y)−Nst(x,y)
if(Sabun(x,y)<th)Sabun(x,y)=0 ・・・(1)
つまり、差分値が閾値thよりも小さい場合には、Sabun(x,y)は0になる。
したがってこのケースを考慮し、差分補正値Hosei(x,y)を用意し、上記式(1)をベースに下記式(2)を新たに用意する。
Sabun(x,y)=Base(x,y)−Nst(x,y)/Hosei(x,y)
if(Sabun(x,y)<th)Sabun(x,y)=0 ・・・(2)
つまり、差分値が閾値thよりも小さい場合には、Sabun(x,y)は0になる。
具体的には、合成要否判別部55は、動体検出値が当該所定の閾値よりも大きい対象画像が存在する場合、動体の動きが大きすぎて適切な合成ができない可能性が高いため、合成しないと判断する。これに対して、合成要否判別部55は、全ての対象画像において動体検出値が当該所定の閾値以下の場合、合成すると判断する。
合成要否判別部55の判断結果は、α値設定部56、切替部64、画素加算画像生成部65の各々に通知される。
これにより、基準画像選択部62により選択された基準画像のデータは、後述する画素加算画像のデータと合成されずに単体で、切替部64を介して記憶制御部57に供給される。
記憶制御部57は、基準画像のデータを記録用としてリムーバブルメディア31に記憶させる。
α値とは、基準画像と後述の画素加算画像との合成の際に用いられる、透過度を示す値である。このようなα値を用いた合成は「αブレンド」とも呼ばれている。
ここで、このようなα値の2次元の分布状態を示すマップ、即ち各α値を各画素値として有する、撮像画像と同一解像度の画像を、「αマップ画像」と呼ぶ。本実施形態では、α値設定部56は、α値の設定結果として、αマップ画像のデータを生成し、αブレンディング部66に供給する。
図4の例では、6枚の連写がなされて、3枚目の撮像画像が基準画像として選択されている。
この場合、上述したように、n枚目(nは3を除く1乃至6の整数値)の対象画像と基準画像との差分が差分補正値で除算された値が、n枚目の動体検出値(以下「第n動体検出値」と呼ぶ)として演算されている。
そこで、α値設定部56は、これらの第1動体検出値乃至第6動体検出値の平均値を各画素毎に演算し、各画素毎の平均値を各α値とするαマップ画像のデータを生成し、αブレンディング部66に供給する。
具体的には、αブレンディング部66は、次の式(3)に示すαブレンディングを画素単位で実行することで、合成画像のデータを生成する。
合成画像=(1−α)×画素加算画像+α×基準画像 ・・・(3)
動体検出値は、対象画像と基準画像との単なる差分ではなく、当該差分が差分補正値で除算された値である。そして、差分補正値は、シェーディング補正量に応じて大きくなるように設定される。
従って、シェーディング補正量が大きくなる撮像画像の周辺部においては、α値が小さくなるように設定されるので、式(3)より基準画像の影響(その周辺部に生じているノイズの影響)が小さくなるように合成される。その結果、周辺部におけるノイズの影響が小さくなった、高画質の合成画像のデータが得られることになる。
この場合、対象画像と基準画像とにシェーディング補正がかけられると、シェーディング中心Cに対して、周辺部の画素値が増幅されるので、その差分も増幅されることと等価になる。このような増幅された差分値を動体検出値に用いることは、動体の検出精度を必要以上に上げる(過敏に反応させる)ことを意味し、その結果、ノイズ成分に起因する差分も増幅されて、動体として誤検出されてしまう。
逆に、周辺部の動体の誤検出を抑制しようとして、撮像画像全体の動体の検出精度を単純に下げてしまうと、今度は、シェーディング中心Cにおいて実際に存在する動体を検出できなくなる場合もある。
即ち、本実施形態では、差分補正値演算部52、差分補正値要否判別部53、差分取得部63及び動体検出値算出部54は、シェーディング補正された撮像画像における動体検出の精度を制御する動体検出精度制御部101として機能している、と把握することができる。
本実施形態をこのように把握した場合、動体検出精度制御部101により、シェーディング補正がなされた対象画像と基準画像についての動体検出の精度が適切に制御された状態で、画素加算画像と基準画像との各データが合成される。その結果、周辺部におけるノイズの影響が小さくなると共に、シェーディング中心では適切な合成が行われ、高画質の合成画像のデータが得られることになる。
図5は、図2の機能的構成を有する図1の撮像装置1が実行するマルチプレーン撮影処理の流れを説明するフローチャートである。
このとき、撮像制御部51において、ズーム倍率や撮像感度等の各種撮像条件が設定されるものとする。なお、撮像感度については、撮像感度設定部511により設定される。
ズーム倍率が所定値を超えている場合、即ち広角寄りでない場合、動体検出値の算出に差分補正値は不要であるとして、ステップS3においてNOであると判定されて、処理はステップS9に進む。ただし、ステップS9以降の処理については後述する。
これに対して、ズーム倍率が所定値以下の場合、即ち広角寄りである場合、動体検出値の算出に差分補正値は必要であるとして、ステップS3においてYESであると判定されて、処理はステップS4に進む。
ISO3200相当未満である場合には、動体検出値の算出に差分補正値は不要であるとして、ステップS6においてNOであると判定されて、処理はステップS10に進む。ただし、ステップS10以降の処理については後述する。
これに対して、ズーム倍率が所定値以下であり撮像感度がISO3200相当以上である場合には、シェーディング補正により撮像画像の周辺部のノイズの影響が大きくなっていることが予想され、従来のように単純な画素値の差分を動体検出値として採用すると、ノイズに起因する動体の誤検出が生ずる可能性が高い。そこで、このような場合には、動体検出値の算出に差分補正値は必要であるとして、ステップS6においてYESであると判定されて、次のようなステップS7以降の処理が実行されることで、シェーディング補正された撮像画像における動体検出の精度が適切に制御される。
処理がステップS11に進む過程で、切替部64は、出力先を記憶制御部57側に切り替える。また、α値設定部56及び画素加算画像生成部65は、その処理の実行を禁止する。これにより、ステップS5の処理で選択された基準画像のデータは、画素加算画像のデータと合成されずに単体で、切替部64を介して記憶制御部57に供給される。
ステップS11において、記憶制御部57は、記録対象として基準画像のみを選択する。ステップS15において、記憶制御部57は、基準画像のデータを記録用としてファイル化して、リムーバブルメディア31に保存させる。
これにより、マルチプレーン撮影処理が終了となる。
これにより、マルチプレーン撮影処理が終了となる。
次に、それ以外の場合におけるマルチプレーン撮影処理の流れについて説明する。
そこで、このような場合には、ステップS3においてNOであると判定されて、処理がステップS9に進み、次のような一連の処理が実行される。
これにより、マルチプレーン撮影処理が終了となる。
ステップS12において、α値が画素単位で設定されることでαマップ画像のデータが生成され、ステップS13において、画素加算画像のデータが生成され、ステップS14において、画素加算画像と基準画像の各データが、αマップ画像のデータを用いてαブレンディングされることで、合成画像のデータが生成される。
そして、ステップS15において、合成画像のデータが記録用としてファイル化されて、リムーバブルメディア31に保存される。
これにより、マルチプレーン撮影処理が終了となる。
撮像感度がISO3200相当未満と低い場合には、換言すると明るい撮影環境の場合には、シェーディング補正後の撮像画像周辺のノイズの影響は低いと判断できるため、従来と同様に、画素値の差分を動体検出値として採用しても特に問題は生じない。
そこで、このような場合には、ステップS6においてNOであると判定されて、処理がステップS10に進み、ズーム倍率が所定値を超えている場合における上述した処理と同様の処理が実行される。
撮像制御部51は、撮像部17に対し連続的に撮像画像のデータを取得するよう制御する。
シェーディング補正部61は、連続的に撮像された撮像画像のデータに対してシェーディング補正を施す。
基準画像選択部62は、シェーディング補正された、連続的に撮像された撮像画像のデータから基準画像(第1の画像)のデータを選択する。
差分取得部63は、連続的に撮像された撮像画像のうち、選択された基準画像(第1の画像)とそれ以外の複数の画像との差分を画素毎に取得する。
動体検出値算出部54は、差分取得部63によって画素毎に取得された差分と、シェーディング補正の画素毎の補正量とに基づいて、画像に含まれる動体検出の指標となる動体検出値を算出する。
合成画像生成部102は、動体検出値に基づいて、基準画像(第1の画像)とそれ以外の複数の撮像画像との各データを合成した合成画像のデータを生成する。
即ち、従来の手法では、画素毎に取得された差分そのものが、動体検出値として採用されていた。このため、シェーディング補正がなされると、撮像画像の周辺ではノイズが生じ、そのノイズの影響で、実際には動体が存在しないのに、動体検出値が大きな値になり動体の誤検出が生じていた。このため、撮像画像の周辺領域では、動体が存在しない場合であっても動体が検出されたとして、ノイズを強く含む基準画像が採用され(その合成比率が高くされ)、最終的な合成画像の画質が劣化していた。
これに対して、本実施形態では、動体検出値としては、画素毎に取得された差分のみならず、シェーディング補正の画素毎の補正量も考慮されて、動体検出値が算出されるので、従来生じていた動体の誤検出を抑制することが可能になる。その結果、例えば、撮像画像の周辺領域では、動体の誤検出も抑制される(動体検出値が低くなる)ので、ノイズが抑制された画素加算画像の合成比率が大きくなるように合成され、高画質の合成画像が得られるようになる。
画素加算画像生成部65は、基準画像以外の複数の撮像画像を画素加算して画素加算画像のデータを生成する。
α値設定部56は、この画素加算画像のデータに対して、画素毎に算出された動体検出値に応じたα値(透過度)を画素毎に設定する。
αブレンディング部66は、画素毎に設定されたα値(透過度)に基づいて、画素加算画像と基準画像(第1の画像)との各データをブレンディングする。
このように、動体検出値に応じてα値(透過度)が画素毎に適切に設定されるので、画素単位で合成比率を変化させた細かな合成が可能になり、合成画像の画質向上に寄与する。
このように動体検出値を平均化することにより、動体検出の信頼性が向上し、その結果、より好適な合成が実現し、その結果、合成画像の画質向上に寄与する。
そして、動体検出値算出部54は、撮影感度が所定の値以上と判別されると、シェーディング補正の画素毎の補正量に応じて、画素毎に取得された差分を補正することで動体検出値を算出し、撮影感度が所定の値以上でないと判別されると、画素毎に取得された差分を動体検出値として算出することができる。
このように、撮像感度が所定の値(例えばISO3200相当)未満と低い場合には、換言すると明るい撮影環境の場合には、シェーディング補正後の撮像画像周辺のノイズの影響は低いと判断できるため、従来と同様に、画素値の差分を動体検出値として採用することで、無駄な処理の削減等して全体の処理の効率化を図ることが可能になる。
即ち、動体検出値が所定範囲を超えている場合には、合成自体が上手くいかないおそれがあるが、このおそれをなくすべく、例えば合成をせずに基準画像を最終出力とすることで、最終画像(記録される画像)の破綻を防止し、最終画像の画質を一定レベルで維持することが可能になる。
合成要否判別部55は、動体検出値所定範囲内か否かを判別する。
記憶制御部57は、動体検出値が所定範囲内と判別されると合成画像を、動体検出値が所定範囲内でないと判別されると基準画像(第1の画像)を、記録するよう制御する。
上述したように、動体検出値が所定範囲を超えている場合には、合成自体が上手くいかないおそれがあるが、そのような場合であっても、基準画像(第1の画像)のデータは確実に記録される。
このように、いかなる状況であっても、一定以上の画質を有する撮像画像のデータを確実に記録することが可能になる。
撮像制御部51は、撮像部17に対し連続的に撮像画像のデータを取得するよう制御する。
シェーディング補正部61は、連続的に撮像された撮像画像のデータに対してシェーディング補正を施す。
基準画像選択部62は、シェーディング補正された、連続的に撮像された撮像画像のデータから基準画像(第1の画像)のデータを選択する。
動体検出精度制御部101は、シェーディング補正された撮像画像のデータの各々における動体の検出の精度を制御する。
合成画像生成部102は、動体検出精度制御部101によって制御された動体の検出の精度に基づいて、基準画像(第1の画像)とそれ以外の複数の撮像画像の各データを合成することで、合成画像のデータを生成する。
即ち、従来においては、シェーディング補正がかけられると、シェーディング中心に対して、周辺部の画素値が増幅される。従って、周辺部においては、このような増幅された画素値に基づいて動体の検出がなされるが、これは、動体の検出精度を必要以上に上げる(過敏に反応させる)ことを意味し、その結果、ノイズ成分に起因する差分値も増幅された結果として、動体として誤検出されてしまう。逆に、周辺部の動体の誤検出を抑制しようとして、画像全体の動体の検出精度を下げると、今度は、シェーディング中心において実際に存在する動体を検出できなくなる場合もある。
そこで、本実施形態の撮像装置1には、シェーディング補正された撮像画像のデータの各々における動体の検出の精度を制御する動体検出精度制御部101が設けられている。
これにより、例えば、周辺部における動体の検出精度を適切なレベルまで下げつつ、シェーディング中心における動体の検出精度は下げずに維持するような制御等も容易に可能になる。
その結果、本実施形態では、動体検出精度制御部により、シェーディング補正がなされた画像の動体検出の精度が適切に制御された状態で、基準画像(第1の画像)と画素加算画像の各データが合成される。その結果、周辺部におけるノイズの影響が小さくなると共に、シェーディング中心では適切な合成が行われ、画質良好の合成画像のデータが得られることになる。
換言すると、図2の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が撮像装置1に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図2の例に限定されない。
また、1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
また、本明細書において、システムの用語は、複数の装置や複数の手段等より構成される全体的な装置を意味するものとする。
[付記1]
撮像手段と、
この撮像手段に対し連続的に画像を取得するよう制御する撮像制御手段と、
この撮像制御手段によって連続的に撮像された画像に対してシェーディング補正を施す補正手段と、
この補正手段によって補正された、連続的に撮像された画像から第1の画像を選択する選択手段と、
この選択手段によって選択された第1の画像とそれ以外の複数の画像との差分を画素毎に取得する差分取得手段と、
この差分取得手段によって画素毎に取得された差分と、前記補正手段によるシェーディング補正の画素毎の補正量とに基づいて、画像に含まれる動体検出の指標となる動体検出値を算出する算出手段と、
前記動体検出値に基づいて、前記第1の画像と前記それ以外の複数の画像とを合成した合成画像を生成する合成画像生成手段と、
を備えることを特徴とする撮像装置。
[付記2]
前記合成画像生成手段は、
前記それ以外の複数の画像を画素加算して画素加算画像を得る画素加算手段と、
この画素加算手段によって得られた画素加算画像に対して、前記算出手段によって画素毎に算出された動体検出値に応じた透過度を画素毎に設定する設定手段と、
この設定手段によって画素毎に設定された透過度に基づいて、前記画素加算画像と前記第1の画像とをブレンディングするブレンディング手段と、
を含むことを特徴とする付記1に記載の撮像装置。
[付記3]
前記設定手段は、前記算出手段によって算出された動体検出値を平均化して透過度を設定する、
ことを特徴とする付記2に記載の撮像装置。
[付記4]
前記撮像制御手段の制御による撮像時の撮像感度を設定する撮像感度設定手段と、
前記撮像感度設定手段によって設定された撮像感度が所定の値以上か否かを判別する第1の判別手段と、
をさらに備え、
前記算出手段は、
前記第1の判別手段によって前記撮影感度が所定の値以上と判別されると、前記補正手段によるシェーディング補正の画素毎の補正量に応じて、前記差分取得手段によって画素毎に取得された差分を補正することで前記動体検出値を算出し、
前記第1の判別手段によって前記撮影感度が所定の値以上でないと判別されると、前記差分取得手段によって画素毎に取得された差分を前記動体検出値として算出する、
ことを特徴とする付記1乃至3の何れか1つに記載の撮像装置。
[付記5]
前記合成画像手段は、前記算出手段によって算出された動体検出値が所定範囲内の場合に、前記画素加算画像と前記第1の画像とを合成することで、合成画像を生成する、
ことを特徴とする付記1乃至4の何れか1つに記載の撮像装置。
[付記6]
前記算出手段によって算出された動体検出値が所定範囲内か否かを判別する第2の判別手段と、
この第2の判別手段によって前記動体検出値が所定範囲内と判別されると前記合成画像生成手段によって生成された合成画像を、前記第2の判別手段によって前記動体検出値が所定範囲内でないと判別されると前記第1の画像を、記録するよう制御する記録制御手段と、
をさらに備えることを特徴とする付記1乃至5の何れか1つに記載の撮像装置。
[付記7]
撮像手段を備える撮像装置を制御するコンピュータを、
この撮像手段に対し連続的に画像を取得するよう制御する撮像制御手段、
この撮像制御手段によって連続的に撮像された画像に対してシェーディング補正を施す補正手段、
この補正手段によって補正された、連続的に撮像された画像から第1の画像を選択する選択手段、
この選択手段によって選択された第1の画像とそれ以外の複数の画像との差分を画素毎に取得する差分取得手段、
この差分取得手段によって画素毎に取得された差分と、前記補正手段によるシェーディング補正の画素毎の補正量とに基づいて、画像に含まれる動体検出の指標となる動体検出値を算出する算出手段、
前記動体検出値に基づいて、前記第1の画像と前記それ以外の複数の画像とを合成した合成画像を生成する合成画像生成手段、
として機能させることを特徴とするプログラム。
[付記8]
撮像手段と、
この撮像手段に対し連続的に画像を取得するよう制御する撮像制御手段と、
この撮像制御手段によって連続的に撮像された画像に対してシェーディング補正を施す補正手段と、
この撮像制御手段によって連続的に撮像された画像から第1の画像を選択する選択手段と、
前記補正手段によりシェーディング補正された画像の各々における動体の検出の精度を制御する動体検出制御手段と、
前記動体検出制御手段によって制御された動体の検出の精度に基づいて、前記第1の画像と前記それ以外の複数の画像とを合成した合成画像を生成する合成画像生成手段と、
を備えることを特徴とする撮像装置。
[付記9]
撮像手段を備える撮像装置を制御するコンピュータを、
この撮像手段に対し連続的に画像を取得するよう制御する撮像制御手段と、
この撮像制御手段によって連続的に撮像された画像に対してシェーディング補正を施す補正手段、
この撮像制御手段によって連続的に撮像された画像から第1の画像を選択する選択手段、
前記補正手段によりシェーディング補正された画像の各々における動体の検出の精度を制御する動体検出制御手段、
前記動体検出制御手段によって制御された動体の検出の精度に基づいて、前記第1の画像と前記それ以外の複数の画像とを合成した合成画像を生成する合成画像生成手段、
として機能させることを特徴とするプログラム。
Claims (10)
- 撮像手段と、
この撮像手段に対し連続的に画像を取得するよう制御する撮像制御手段と、
この撮像制御手段によって連続的に撮像された画像に対してシェーディング補正を施す補正手段と、
この補正手段によってシェーディング補正された画像から第1の画像を選択する選択手段と、
この選択手段によって選択された第1の画像とそれ以外の複数の画像との差分を取得する差分取得手段と、
前記補正手段によってシェーディング補正された画像の周辺部のノイズが前記差分取得手段による差分の取得に与える影響を判断する判断手段と、
この判断手段による判断結果に基づいて、前記差分取得手段によって取得される差分に応じた画像の各々における動体検出の精度を制御する動体検出精度制御手段と、
この動体検出精度制御手段によって制御された動体の検出の精度に基づいて、前記連続的に撮像された複数の画像を合成した合成画像を生成する合成画像生成手段と、
を備えることを特徴とする撮像装置。 - 前記動体検出精度制御手段は更に、前記補正手段によるシェーディング補正の補正量に基づいて、前記補正手段によりシェーディング補正された画像の各々における動体の検出の精度を制御し、
前記合成画像生成手段は、前記選択手段によって選択された第1の画像と前記それ以外の複数の画像とを合成した合成画像を生成することを特徴とする請求項1記載の撮像装置。 - 前記差分取得手段によって取得された差分と、前記補正手段によるシェーディング補正の補正量とに基づいて、画像に含まれる動体検出の指標となる動体検出値を算出する算出手段を更に備え、
前記動体検出精度制御手段は、前記算出手段によって算出された動体検出値を前記動体の検出の精度とし、これに基づいて、前記補正手段によりシェーディング補正された画像の各々における動体の検出の精度を制御することを特徴とする請求項2記載の撮像装置。 - 前記合成画像生成手段は、
前記それ以外の複数の画像を画素加算して画素加算画像を得る画素加算手段と、
この画素加算手段によって得られた画素加算画像に対して、前記算出手段によって算出された動体検出値に応じた透過度を設定する設定手段と、
この設定手段によって設定された透過度に基づいて、前記画素加算画像と前記第1の画像とをブレンディングするブレンディング手段と、
を含むことを特徴とする請求項3記載の撮像装置。 - 前記設定手段は、前記算出手段によって算出された動体検出値を平均化して透過度を設定することを特徴とする請求項4記載の撮像装置。
- 前記撮像制御手段の制御による撮像時の撮像感度を設定する撮像感度設定手段をさらに備え、
前記算出手段は、前記撮像感度設定手段によって設定された撮像感度に応じた補正量と、前記補正手段によるシェーディング補正の補正量とに応じて、前記差分取得手段によって取得された差分を補正することで前記動体検出値を算出することを特徴とする請求項4又は5に記載の撮像装置。 - 前記合成画像生成手段は、前記算出手段によって算出された動体検出値が所定範囲内の場合に、前記画素加算画像と前記第1の画像とを合成することを特徴とする請求項4乃至6の何れか1項に記載の撮像装置。
- 前記算出手段によって算出された動体検出値が所定範囲内か否かを判別する判別手段と、
この判別手段によって前記動体検出値が所定範囲内と判別されると前記合成画像生成手段によって生成された合成画像を、また、前記判別手段によって前記動体検出値が所定範囲内でないと判別されると前記第1の画像を記録するよう制御をする記録制御手段
をさらに備えることを特徴とする請求項3乃至7の何れか1項に記載の撮像装置。 - 連続的に撮像された画像に対してシェーディング補正を施す補正ステップと、
この補正ステップにてシェーディング補正された画像から第1の画像を選択する選択ステップと、
この選択ステップにて選択された第1の画像とそれ以外の複数の画像との差分を取得する差分取得ステップと、
前記補正ステップにてシェーディング補正された画像の周辺部のノイズが前記差分取得ステップでの差分の取得に与える影響を判断する判断ステップと、
この判断ステップでの判断結果に基づいて、前記差分取得ステップにて取得される差分に応じた画像の各々における動体検出の精度を制御する動体検出精度制御ステップと、
この動体検出精度制御ステップにて制御された動体の検出の精度に基づいて、前記連続的に撮像された複数の画像を合成した合成画像を生成する合成画像生成ステップと、
を含むことを特徴とする合成画像生成方法。 - 撮像部を備える撮像装置を制御するコンピュータを、
前記撮像部に対し連続的に画像を取得するよう制御する撮像制御手段、
この撮像制御手段によって連続的に撮像された画像に対してシェーディング補正を施す補正手段、
この補正手段によってシェーディング補正された画像から第1の画像を選択する選択手段、
この選択手段によって選択された第1の画像とそれ以外の複数の画像との差分を取得する差分取得手段、
前記補正手段によってシェーディング補正された画像の周辺部のノイズが前記差分取得手段による差分の取得に与える影響を判断する判断手段、
この判断手段による判断結果に基づいて、前記差分取得手段によって取得される差分に応じた画像の各々における動体検出の精度を制御する動体検出精度制御手段、
この動体検出精度制御手段によって制御された動体の検出の精度に基づいて、前記連続的に撮像された複数の画像を合成した合成画像を生成する合成画像生成手段、
として機能させることを特徴とするプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012129270A JP5454622B2 (ja) | 2012-06-06 | 2012-06-06 | 撮像装置、合成画像生成方法、及び、プログラム |
US13/908,724 US8941763B2 (en) | 2012-06-06 | 2013-06-03 | Image capture device, method for generating composite image, and storage medium |
CN201310220314.8A CN103475809B (zh) | 2012-06-06 | 2013-06-05 | 摄像装置、合成图像生成方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012129270A JP5454622B2 (ja) | 2012-06-06 | 2012-06-06 | 撮像装置、合成画像生成方法、及び、プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013255080A JP2013255080A (ja) | 2013-12-19 |
JP5454622B2 true JP5454622B2 (ja) | 2014-03-26 |
Family
ID=49715017
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012129270A Expired - Fee Related JP5454622B2 (ja) | 2012-06-06 | 2012-06-06 | 撮像装置、合成画像生成方法、及び、プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US8941763B2 (ja) |
JP (1) | JP5454622B2 (ja) |
CN (1) | CN103475809B (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9431565B2 (en) * | 2014-10-23 | 2016-08-30 | William Marsh Rice University | Charge coupled device based on atomically layered van der waals solid state film for opto-electronic memory and image capture |
JP2017224971A (ja) * | 2016-06-15 | 2017-12-21 | ソニー株式会社 | 画像処理装置、画像処理方法、およびプログラム |
JP7075313B2 (ja) * | 2018-08-23 | 2022-05-25 | 株式会社タムロン | 撮像システム |
US11165966B2 (en) | 2018-09-19 | 2021-11-02 | Canon Kabushiki Kaisha | Image capturing apparatus, method of controlling image capturing apparatus, and storage medium |
JP7442989B2 (ja) * | 2018-09-19 | 2024-03-05 | キヤノン株式会社 | 撮像装置、該撮像装置の制御方法、及びプログラム |
JP7433792B2 (ja) * | 2019-07-19 | 2024-02-20 | キヤノン株式会社 | 撮像装置およびその制御方法 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3539394B2 (ja) * | 2001-03-26 | 2004-07-07 | ミノルタ株式会社 | 画像処理装置、プログラムおよび記録媒体 |
US7408576B2 (en) * | 2002-08-16 | 2008-08-05 | Zoran Corporation | Techniques for modifying image field data as a function of radius across the image field |
US7729563B2 (en) * | 2002-08-28 | 2010-06-01 | Fujifilm Corporation | Method and device for video image processing, calculating the similarity between video frames, and acquiring a synthesized frame by synthesizing a plurality of contiguous sampled frames |
WO2005043891A1 (ja) * | 2003-10-31 | 2005-05-12 | Mitsubishi Denki Kabushiki Kaisha | 画像補正方法および撮像装置 |
JP2006148550A (ja) * | 2004-11-19 | 2006-06-08 | Konica Minolta Opto Inc | 画像処理装置及び撮像装置 |
JP2006290827A (ja) | 2005-04-13 | 2006-10-26 | Kowa Co | 緑内障予防又は治療剤 |
JP4754939B2 (ja) * | 2005-11-01 | 2011-08-24 | オリンパス株式会社 | 画像処理装置 |
JP4423678B2 (ja) | 2006-09-06 | 2010-03-03 | カシオ計算機株式会社 | 撮像装置、撮影方法及びプログラム |
JP2010056817A (ja) * | 2008-08-28 | 2010-03-11 | Hitachi Ltd | 撮像装置 |
US8054351B2 (en) * | 2008-08-29 | 2011-11-08 | Kabushiki Kaisha Toshiba | Method and apparatus for imaging |
JP4760923B2 (ja) * | 2009-02-03 | 2011-08-31 | ソニー株式会社 | 画像処理装置、画像処理方法および撮像装置 |
JP5319415B2 (ja) * | 2009-06-22 | 2013-10-16 | キヤノン株式会社 | 画像処理装置、画像処理方法 |
US20120019686A1 (en) * | 2010-07-23 | 2012-01-26 | Casio Computer Co., Ltd. | Image synthesizing device, image synthesizing method and computer readable medium |
-
2012
- 2012-06-06 JP JP2012129270A patent/JP5454622B2/ja not_active Expired - Fee Related
-
2013
- 2013-06-03 US US13/908,724 patent/US8941763B2/en not_active Expired - Fee Related
- 2013-06-05 CN CN201310220314.8A patent/CN103475809B/zh not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2013255080A (ja) | 2013-12-19 |
US8941763B2 (en) | 2015-01-27 |
US20130329091A1 (en) | 2013-12-12 |
CN103475809B (zh) | 2016-08-10 |
CN103475809A (zh) | 2013-12-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6271990B2 (ja) | 画像処理装置、画像処理方法 | |
JP5454622B2 (ja) | 撮像装置、合成画像生成方法、及び、プログラム | |
US8525904B2 (en) | Image processing device, image processing method, and capturing device | |
US7680402B2 (en) | Image shooting device with camera shake correction function | |
JP5643563B2 (ja) | 画像処理装置及びその制御方法 | |
US20130063555A1 (en) | Image processing device that combines a plurality of images | |
JP5561112B2 (ja) | 画像処理装置、撮像装置およびプログラム | |
US20130250044A1 (en) | Image processing apparatus that combines images | |
JP4469309B2 (ja) | 手ぶれ補正方法、手ぶれ補正装置、及び撮像装置 | |
US20180352154A1 (en) | Image processing method, electronic device, and non-transitory computer readable storage medium | |
JP2012049603A (ja) | 画像処理装置および画像処理プログラム | |
JP5696419B2 (ja) | 画像処理装置及び方法、並びにプログラム | |
US9357130B2 (en) | Dynamic bracketing operations for image stabilization | |
JP6541501B2 (ja) | 画像処理装置、撮像装置、及び画像処理方法 | |
JP2010154306A (ja) | 撮像制御装置、撮像制御プログラム及び撮像制御方法 | |
JP2014123916A (ja) | 画像合成装置、画像合成方法及びプログラム | |
JP6645711B2 (ja) | 画像処理装置、画像処理方法、プログラム | |
JP5446847B2 (ja) | 画像処理装置及び方法、並びにプログラム | |
JP5760654B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6020904B2 (ja) | 画像処理装置および撮像装置 | |
KR101797080B1 (ko) | 카메라 모듈 및 그의 렌즈 쉐이딩 교정 방법 | |
JP2009159380A (ja) | 撮像装置及び撮像方法 | |
CN106464783B (zh) | 图像拾取控制设备、图像拾取设备和图像拾取控制方法 | |
JP5979040B2 (ja) | 撮像装置、撮像方法及びプログラム | |
US10776927B2 (en) | Image processing apparatus, image processing method, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20130909 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130917 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20131111 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20131210 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131223 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5454622 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |