JP2008277896A - 撮像装置および撮像方法 - Google Patents
撮像装置および撮像方法 Download PDFInfo
- Publication number
- JP2008277896A JP2008277896A JP2007115780A JP2007115780A JP2008277896A JP 2008277896 A JP2008277896 A JP 2008277896A JP 2007115780 A JP2007115780 A JP 2007115780A JP 2007115780 A JP2007115780 A JP 2007115780A JP 2008277896 A JP2008277896 A JP 2008277896A
- Authority
- JP
- Japan
- Prior art keywords
- image
- images
- exposure
- shooting
- photographed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
【課題】本発明によれば、異なる露出条件の少ない枚数の画像を合成することで、処理時間を短縮しつつ、被写体が動いている撮影シーンの多い連写時のカメラブレや被写体のブレを軽減した連写画像を得ることが可能な撮像装置および撮像方法を提供する。
【解決手段】撮像装置10は、露出時間は短く解像度は高いがノイズの多い画像と、露出時間は長く解像度の低いがノイズの少ない画像を交互に連続して撮影する機能を有している。短時間露出画像をベースに、時系列的にその前もしくは後ろのいずれかの画像と合成処理する際、よりノイズの低減を図るために、合成に適した画像を判別する手段を設ける。
位置ズレを補正したそれぞれの長時間露出画像との差分絶対値の総和が小さい方がブレが小さいと判断して、そちらを合成対象とする。
【選択図】図1
【解決手段】撮像装置10は、露出時間は短く解像度は高いがノイズの多い画像と、露出時間は長く解像度の低いがノイズの少ない画像を交互に連続して撮影する機能を有している。短時間露出画像をベースに、時系列的にその前もしくは後ろのいずれかの画像と合成処理する際、よりノイズの低減を図るために、合成に適した画像を判別する手段を設ける。
位置ズレを補正したそれぞれの長時間露出画像との差分絶対値の総和が小さい方がブレが小さいと判断して、そちらを合成対象とする。
【選択図】図1
Description
本発明は、撮像画像を合成することにより、画像のブレとノイズを低減可能な撮像装置および撮像方法に関するものである。
近年、撮像装置としてカメラの小型化が進み、手振れ補正技術が注目をされてきている。
その要因として、カメラの小型化により、写真撮影においてホールド性の低下したことや、携帯電話搭載のカメラなどの撮影方法として、片手での撮影など従来の撮影形態とくらべ自由度が広がっていることで手振れが発生し易くなっていることが挙げられる。
このように、撮影する際に、種々の方法や安定性の無い状態で撮影する場合、シャッターボタンを押した際にカメラがブレて、手振れが発生してしまう。
更には、露出時間の長い暗条件での撮影となるとシャッター速度が遅くなり、ブレてしまうケースも多々ある。
またこれらを避けるために露出条件で感度を上げて露出時間を短くし撮影した場合は、ノイズがのってしまい粗い画像となってしまう。
またこれらを避けるために露出条件で感度を上げて露出時間を短くし撮影した場合は、ノイズがのってしまい粗い画像となってしまう。
この問題を解消すべく、専用の機構を設け物理的に手振れ補正する装置が、一眼レフや最近ではコンパクトカメラにも搭載されている。
たとえば、ブレに合わせてレンズを傾斜させ補正する、光学式手振れ補正装置が製品化されているが、近年の小型化や携帯電話カメラへの搭載を考慮するとスペース的にも非常に困難である。
たとえば、ブレに合わせてレンズを傾斜させ補正する、光学式手振れ補正装置が製品化されているが、近年の小型化や携帯電話カメラへの搭載を考慮するとスペース的にも非常に困難である。
また、他の方法として、画像処理により複数枚の画像からブレの無い画像を得ることができる撮像装置などが種々提案されている(たとえば特許文献1参照)。
また、他の方法として、複数枚の画像を合成することで像ブレを補正する撮像装置において、連写時の撮影時間の長期化を防ぐことができる撮像装置なども提案されている(たとえば特許文献2参照)。
特開平10−108079号公報
特開2006−174069号公報
しかし、特許文献1など、従来提案されている撮像装置においては、複数枚分の画像を保持しておくメモリが必要となり高価なものとなってしまうという不利益がある。
また、撮影枚数が増えるに従い、撮影間に生じる画像間の位置ズレを補正するため処理時間が長くなってしまうという不利益がある。
また、特許文献2に示すような画像合成による像ブレ補正の連写を行う撮像装置においては、複数枚の画像を合成するため、撮影間に被写体が動いてしまうと、合成画像においても動いた被写体にダブリが生じてしまう。
撮影者が連写を行う撮影シーンとしては、動きのある被写体の時系列の変化を画像として保存するために行うことが容易に想定できる。したがって、連写を行う多くのケースで、被写体のダブリのない、所望の画像を得にくいという問題点がある。
本発明の目的は、異なる露出条件の少ない枚数の画像を合成することで、処理時間を短縮しつつ、被写体が動いている撮影シーンの多い連写時のカメラブレや被写体のブレを軽減した連写画像を得ることが可能な撮像装置および撮像方法を提供することにある。
本発明の第1の観点は、異なる露出条件で撮影した2枚の撮影画像を合成する機能を有する撮像装置であって、
連写を行う際に、第1の露出条件での撮影と第2の露出条件での撮影を交互に行う撮影制御手段と、撮影画像間の相互のズレ量を検出するズレ量検出手段と、 前記ズレ量検出手段で検出したズレを補正するズレ補正手段と、前記第1の露出条件で撮影した第1の撮影画像と時系列的にその前もしくは後ろのいずれかの前記第2の露出条件で撮影した第2の撮影画像の2枚の画像を前記ズレ補正手段にて位置ズレを補正して合成する合成手段とを有する。
連写を行う際に、第1の露出条件での撮影と第2の露出条件での撮影を交互に行う撮影制御手段と、撮影画像間の相互のズレ量を検出するズレ量検出手段と、 前記ズレ量検出手段で検出したズレを補正するズレ補正手段と、前記第1の露出条件で撮影した第1の撮影画像と時系列的にその前もしくは後ろのいずれかの前記第2の露出条件で撮影した第2の撮影画像の2枚の画像を前記ズレ補正手段にて位置ズレを補正して合成する合成手段とを有する。
好適には、前記第1の露出条件は、前記第2の露出条件よりも短時間露出である。
好適には、前記第1の露出条件は、前記第2の露出条件よりも高感度である。
好適には、前記合成手段において、前記第1の撮影画像と合成する際の対象となる前記第2の撮影画像は、前記第1の撮影画像の時系列的に前後のいずれかを適宜選択する画像選択手段をさらに有する。
好適には、前記画像選択手段は、前記第1の撮影画像との合成対象として時系列的に前後の前記第2の撮影画像いずれかを選択する際に、前記ズレ補正手段において補正された前記第1の撮影画像と前記合成対象の第2の撮影画像との差分絶対値をとり、その総和が小さい方を合成対象として選択する。
好適には、前記画像選択手段は、前記第1の撮影画像との合成対象として時系列的に前後の前記第2の撮影画像いずれかを選択する際に、前記合成対象の第2の撮影画像それぞれの画像データのエッジの空間周波数を比較し、該エッジの空間周波数が高い方を合成対象として選択する。
好適には、前記画像選択手段は、前記第1の撮影画像との合成対象として時系列的に前後の前記第2の撮影画像いずれかを選択する際に、前記第1の撮影画像に対する前記合成対象の第2の撮影画像のズレ量を比較し、該ズレ量が小さい方を合成対象として選択する。
好適には、前記画像選択手段において、合成対象画像を選択する際の種々の演算は、輝度信号Y、色差信号U,Vのうち、少なくとも輝度信号に基づいて行う。
好適には、前記画像選択手段において、合成対象画像を選択する際の種々の演算は、撮像素子の出力であるデータのうち、少なくともG成分に基づいて行う。
本発明の第2の観点は、異なる露出条件で撮影した2枚の撮影画像を合成する撮像方法であって、連写を行う際に、第1の露出条件での撮影と第2の露出条件での撮影を交互に行うステップと、前記第1の露出条件で撮影した第1の撮影画像との合成対象として、時系列的に前後ろの第2の露出条件で撮影した第2の撮影画像のどちらかを用いて、両画像のズレを補正して合成するステップとを有する。
本発明によれば、異なる露出条件の少ない枚数の画像を合成することで、処理時間を短縮しつつ、被写体が動いている撮影シーンの多い連写時のカメラブレや被写体のブレを軽減した連写画像を得ることができる。
以下、本発明の実施形態を図面に関連付けて説明する。
図1は、本発明に係る撮像装置の一実施形態を示すブロック図である。
本撮像装置10は、光学系11、撮影制御部12、操作部13、撮像部14、メモリ15、演算部16、および記録部19を有しており、演算部16はさらにズレ量検出部17、合成部18を有している。
本実施形態の撮像装置10は、手ブレ補正撮影のON/OFF、ならびに連写ON/OFFのモード切り換え手段を有している。
また、本実施形態の撮像装置10は、感度を上げることによって露出時間は短く解像度は高いがノイズの多い画像と、感度を抑えることによって露出時間は長く解像度は低いがノイズの少ない画像を含む複数枚の画像を撮影する機能を有している。
そして、手ブレ補正撮影ONのときには、撮像装置10は撮影画像間の位置ズレを補正し、差分を取ることでエッジとブレを抽出し、エッジとブレ部分からの距離により複数画像の合成比率を変化させて合成することにより、ブレのないノイズ低減を図った画像を形成する機能を有している。
シャッターボタンなどの操作部13より撮影指示を受けた撮影制御部12は、被写体の明るさから最適なシャッタースピード、絞り、ゲインの値を算出し、撮像部14に制御信号を送る。
撮影制御部12は、露出制御を行うとともに、操作部13などの操作入力を持ち、それらの入力に応じて、システム全体の動作を決定し、光学系11、撮像部14等を制御し、システム全体の調停制御を司るものである。
撮像部14は、CCDまたはCMOSセンサ等により形成され、光学系11を通った被写体の光学像を受けて画像信号に変換し、変換した画像信号からYUV形式の画像データを生成し、メモリ15に送る。以下の説明では、撮像部14の撮像素子はCCDにより形成されているものとして説明する。
本実施形態の光学系11と撮像部14は、撮影制御部12の制御の下、CCD感度の低い状態、すなわちノイズが少ないがシャッター速度の遅い長時間露出撮影と、CCD感度を変えてノイズは多いが露出時間の短い撮影と、を行うことが可能である。
本実施の形態では、メモリ15に記憶した各撮影データから輝度信号成分を抽出する機能と、輝度信号Yのノイズ成分を除去するフィルタリング処理機能を有する。フィルタリング処理は解像度を低下させないでノイズ成分を減らすためのフィルタ係数で処理を行う。一般的なものにはメディアンフィルタやエッジ保存フィルタなどが適用可能である。
演算部16では、メモリ15に格納された信号処理後の画像データに基づいて、演算を行う。
演算部16の中のズレ量検出部17では、露出条件の異なる複数枚の撮影画像間の位置ズレを検出する。
位置ズレの検出については、画像を一定の大きさの小領域(ブロック) に分割し、各ブロックが前のフレームのどこに対応するかを探し、対応するブロックの位置の差を動きベクトルとするブロックマッチングなどの方法が一般的であるが、ここではその手法については問わない。
合成部18では、検出したズレ量に応じて画像間の位置ズレを補正し、補正した画像間の差分を取ることでエッジとブレ成分を抽出して、この差分値があらかじめ設定した閾値を超える場合にはこの画素をエッジと判断して第1の画像の合成比率を高くし、差分値が閾値以下の場合には第1の画像の合成比率を低くして(第2の合成比率を高くして)、エッジからの距離により画像の合成比率を段階的に設定し、設定した比率をもって画像を合成して、記録部19にて記録媒体に記録する。
たとえば、エッジ部分は短時間露光の画像の比率を100%とし、エッジから離れるに従い長時間露光の画像の比率を段階的に上げ、50%ずつの比率まで可変すればよい。
つまり、エッジからの距離があらかじめ設定した距離より近い場合、短時間露出画像の比率を大きくして画像を合成し、エッジからの距離があらかじめ設定した距離より遠い場合、長時間露出画像の比率を大きくして画像を合成する。
以下、異なる露出条件で撮影した複数枚の画像例、撮影画像のYUV変換形式における輝度信号Yを画像の合成に用いる理由、撮影した複数画像のY信号成分の差分画像についてさらに詳細に説明する。
図2(a)〜(c)は、異なる露出条件で撮影した2枚の画像とその差分画像例を示す図である。
図2(a)は、露光時間は短くブレがないが、感度が高いためにノイズの多い画像を示している。たとえばシャッター速度は短く感度の高い状態で撮影を行ったもので、解像度は高いが、感度を上げたため画像全体にノイズがのったものである。
図2(b)は、露光時間は長くブレがあるが、感度が低いためにノイズの少ない画像を示している。たとえばシャッター速度が長く感度の低い状態で撮影を行ったもので、解像度は低く手振れが生じている可能性があるが、ノイズの少ない画像である。
画像を連続して撮影した場合、撮影画像間で位置ズレが生じるため、合成前に画像間での位置ズレを補正する必要がある。
図2(c)は、図2(a),(b)の画像間の位置ズレを補正した後に、差分をとった画像である。
ここでは、被写体のエッジとブレ部分、ノイズ成分が画像に残る。
本実施形態においては、この差分画像から、解像度が高いがノイズの多い画像を基準として、エッジからの距離によって設定した比率で複数枚画像の合成を行う。
次に、撮影画像のYUV形式について説明する。
この形式で扱われる信号は、輝度信号Y、色差信号U、および色差信号Vである。これらの信号YUVのうち、解像度を決める要素としてY信号成分が大きく影響する。
画像圧縮の原理としてJPEGでは、色差信号を減らして圧縮するなど人間の目は比較的色情報に関しては鈍感であるため、輝度信号Yの画像合成を行うことによりノイズの大きな低減効果が図ることができる。
図3(a)〜(c)は、差分画像に基づいた比率設定と合成結果の関係を示す図であって、図3(a)は差分画像を、図3(b)は差分画像の被写体部分を拡大した画像と合成比率を、図3(c)は設定した比率で合成した出力画像をそれぞれ示している。
図3(b)のように、差分画像は短時間露出のエッジとノイズ、長時間露出のブレを抽出した画像となる。
これをあらかじめ設定した閾値Thにより切り分け、信号が閾値Thよりも大きい場合はエッジ・ブレと判断し、短時間露出の合成比率を大きくする。
エッジ部分とブレ部分については、短時間露出画像のエッジを保存しつつ、長時間露出画像のブレを抑えるために、短時間露出画像の比率を大きく設定する。
信号が閾値Thよりも小さい場合はノイズと判断し、長時間露出の合成比率を大きくする。
エッジから離れた、変化のない部分はノイズを抑えるために長時間露出画像の比率を大きく設定する。
このときエッジ近傍では図3(b)のように、ある所定の傾斜を持たせて段階的に合成比率を設定する。
たとえば、被写体後方の壁や一様な面など、ノイズののった画像はノイズが目立ちムラのある画像であったものが、この処理を行うことによりノイズ低減を図ることができる。
たとえば、被写体後方の壁や一様な面など、ノイズののった画像はノイズが目立ちムラのある画像であったものが、この処理を行うことによりノイズ低減を図ることができる。
本実施形態においては、YUVのY成分のみで差分画像をとり、合成比率の設定を行うことで、処理時間の短縮を図っている。
[第1の実施例]
本実施形態である、異なる露出条件での連写を模式的に表したものが図4である。ここで、合成して得られる画像をR1、R2、R3、...Rn、...として、Rnの合成に用いる短時間露出画像はP2n、その前後の長時間露光画像をそれぞれP2n-1、P2n+1と表す。
本実施形態である、異なる露出条件での連写を模式的に表したものが図4である。ここで、合成して得られる画像をR1、R2、R3、...Rn、...として、Rnの合成に用いる短時間露出画像はP2n、その前後の長時間露光画像をそれぞれP2n-1、P2n+1と表す。
手ブレ補正撮影ONで、かつ連写ONの設定時には、操作部13であるシャッターボタンが押されると、押されている間、撮影制御部12は異なる露出時間での撮影、すなわち長時間露出の撮影と短時間露出の撮影を交互に、連続して行うために、撮像部14の制御を行う。
撮影された画像のうち、短時間露出画像を合成時の基準画像とし、その前後いずれかの長時間露光画像と合成処理を行う。
すなわち、画像P2nと、P2n-1もしくはP2n+1を合成する(n:1,2,・・・)。
画像P2n-1,P2n,P2n+1が撮影されメモリ15に送られると、ズレ量検出部17では、P2n-1とP2n間、P2nとP2n+1間の画像の位置ズレ量を検出する。
合成部18では、検出したズレ量を基に、P2n-1とP2n間、P2nとP2n+1間の位置ズレを補正し、それぞれの差分画像Da,Dbを生成する。
差分画像には被写体のエッジとブレ成分が残るため、ブレが大きいほど、差分画像の画素ごとの値を積算した積算値も大きくなる。
そのため、長時間露出画像P2n-1とP2n+1のうち、ブレが大きい方が、その差分画像
Da,Dbの積算値の値も大きくなる。
Da,Dbの積算値の値も大きくなる。
合成部18では、このDa,Dbの積算値を基に、合成に用いる長時間露光画像の判定を行い、積算値の小さい方、すなわちブレの小さい画像を選んで、短時間露光画像との合成を行う。
合成画像R2nは、記録部19に送られ、記録される。
この後は、次の短時間露光画像とその前後の長時間露光画像に対して、同様の処理を行って、合成画像を生成する。
ここで、合成画像としてブレの小さい画像を選ぶことで、短時間露光画像の合成比率を少しでも少なくして、合成後のノイズの低減を図っている。
次に、上記構成による動作を、図5のフローチャートに関連付けて説明する。
撮影のモードが、手ブレ補正撮影ON、連写ONに設定されているとき、操作部13のシャッターボタンが押されると、撮影制御部12は撮像部14に対し、撮影の指示を送る。
撮像部14は、撮影制御に従い、異なる露出条件の画像、すなわち長時間露出と短時間露出の画像を交互に、連続して撮影を行い、順次メモリ15に送る。(ST1〜6)
シャッターボタンが押されている間は、この撮影を繰り返し行う。
シャッターボタンが押されている間は、この撮影を繰り返し行う。
撮影画像P2n-1,P2n,P2n+1(n:1,2,・・・)がメモリ15に記憶されると、その画像データをもとに、画像間の位置ズレ量を検出する。
ST7においては、画像P2n-1とP2nの位置ズレ量Vaを、ブロックマッチング等の手法により検出する。
ST8においては、同様の手法で、P2nとP2n+1の位置ズレ量Vbを検出する。
ST9においては、上記ステップで検出した位置ズレ量Vaをもとにして、画像P2n-1とP2n間の位置ズレを補正した上で、差分画像Daを生成する。
ST10においては、同様の手法で、P2nとP2n+1間の位置ズレを補正した上で、差分画像Dbを生成する。
ST11においては、差分画像Da,Dbの画像データから、画素毎の値の積算値Sa,
Sbを算出する。
Sbを算出する。
ここでは、Saの方が大きければ、P2n-1の方がブレが大きく、Sbの方が大きければ、P2n+1の方がブレが大きいということになる。
ST12においては、SaとSbの大きさを比較し、Saが小さければ、差分画像Daをもとに画像P2n-1とP2nの合成比率を設定し(ST13)、合成処理を行う(ST14)。Sbが小さければ、差分画像Dbをもとに画像P2nとP2n+1の合成比率を設定し(ST15)、合成処理を行う(ST16)。
合成画像は記録部19に送る。
引き続きシャッターボタンが押されていれば、ST3に戻り、次の短時間露光画像とその前後の長時間露光画像に対して、一連の処理を行う。
[第2の実施例]
続いて、図1の撮像装置10で、合成部18において、短時間露光画像P2nとの合成対象として、長時間露光画像P2n-1もしくはP2n+1(n:1,2,・・・)のどちらかを選択する際の判別方法として、他の処方で実施した場合の動作を、図6のフローチャートに関連付けて説明する。
続いて、図1の撮像装置10で、合成部18において、短時間露光画像P2nとの合成対象として、長時間露光画像P2n-1もしくはP2n+1(n:1,2,・・・)のどちらかを選択する際の判別方法として、他の処方で実施した場合の動作を、図6のフローチャートに関連付けて説明する。
操作部13であるシャッターボタンが押されると、押されている間、長時間露出の撮影と短時間露出の撮影を交互に、連続して行い、メモリ15に記憶する。(ST101〜106)
ST107,108においては、画像P2n-1とP2n+1の水平方向のエッジ量fx( i , j )、垂直方向のエッジ量fy( i , j )を算出する。ここでエッジ量とはエッジの空間周波数に相当するものを意味する。
ST107,108においては、画像P2n-1とP2n+1の水平方向のエッジ量fx( i , j )、垂直方向のエッジ量fy( i , j )を算出する。ここでエッジ量とはエッジの空間周波数に相当するものを意味する。
ここでは、エッジ検出で一般的に知られている微分法を用いる。
画像平面上の任意の座標点(i,j)の画素の出力をs(i,j)、水平方向の微分量をfx(i,j)、垂直方向の微分量をfy(i,j)とすると次式の様に表せる。
fx(i,j) = s(i+1,j) − s(i,j)
fy(i,j) = s(i,j+1) − s(i,j)
ST109においては、画像P2n-1とP2n+1の水平、垂直のエッジ量から、画素毎のエッジ量fxy( i , j )を算出する。
fy(i,j) = s(i,j+1) − s(i,j)
ST109においては、画像P2n-1とP2n+1の水平、垂直のエッジ量から、画素毎のエッジ量fxy( i , j )を算出する。
ここでは、fxy( i , j )={(fx( i , j ))2+(fy( i , j ))2}1/2より算出する。
ST110においては、画像P2n-1とP2n+1それぞれの画素毎のエッジ量fxy( i , j )を積算する(Sa,Sb)。
その結果、積算値の大きい画像の方が、ブレが少ないと判断する。
ST111においては、SaとSbの大きさを比較し、Saの方が大きければ、画像
P2n-1とP2nの位置ズレを検出・補正した上で差分画像Daをとり、それをもとに画像
P2n-1とP2nの合成比率を設定して、合成処理を行う(ST112〜ST115)。
P2n-1とP2nの位置ズレを検出・補正した上で差分画像Daをとり、それをもとに画像
P2n-1とP2nの合成比率を設定して、合成処理を行う(ST112〜ST115)。
Sbが大きければ、画像P2nとP2n+1の位置ズレを検出・補正した上で差分画像Dbをとり、それをもとにの合成比率を設定して、合成処理を行う(ST116〜ST119)。
合成画像は記録部19に送る。
引き続きシャッターボタンが押されていれば、ST103に戻り、次の短時間露光画像とその前後の長時間露光画像に対して、一連の処理を行う。
[第3の実施例]
短時間露光画像との合成対象として、時系列的に前後する長時間露光画像の何れを選択するかの更に別の判別方法について、図7のフローチャートで説明する。
短時間露光画像との合成対象として、時系列的に前後する長時間露光画像の何れを選択するかの更に別の判別方法について、図7のフローチャートで説明する。
操作部13であるシャッターボタンが押されると、押されている間、長時間露出の撮影と短時間露出の撮影を交互に、連続して行い、順次メモリ15に記憶する。(ST201〜206)
ST207〜208では撮影された画像のうち、短時間露出画像P2nと、その前の長時間露光画像P2n−1及び後の長時間露光画像P2n+1との位置ズレ量をズレ量検出部17において検出する。
ST207〜208では撮影された画像のうち、短時間露出画像P2nと、その前の長時間露光画像P2n−1及び後の長時間露光画像P2n+1との位置ズレ量をズレ量検出部17において検出する。
画像合成を行うにあたっては、ブレの小さい画像を選ぶことで、短時間露光画像の合成比率を少しでも少なくして、合成後のノイズの低減を図ることができる。
位置ズレ量は連写毎の手振れによる像の位置ズレによるもので、長時間露光中の像の移動量にも相関があると言えるので、検出された位置ズレ量の小さい方が長時間露光中の像の移動量も小さいことになり、短時間露光画像との合成に適している。よって合成部18では、長時間露光画像P2n−1及びP2n+1のうち位置ズレ量の小さいほうをST209で選択して短時間露出画像P2nとの合成を行う。
画像合成は選択された長時間露光画像と短時間露光画像の位置ズレを補正した上で差分画像Daをとり、それをもとに長時間露光画像と短時間露光画像の合成比率を設定して、合成処理を行う。(ST210〜212orST213〜215)
合成画像は記録部19に送られ、記録される。
合成画像は記録部19に送られ、記録される。
ST218において引き続きシャッターボタンが押されていれば、ST203に戻り、次の短時間露光画像とその前後の長時間露光画像に対して、一連の処理を行う。
本実施例によると、先に画像の選択を行い、選択した画像とのみ差分画像を求める処理を行えば良いので、演算処理量が少なくて済む。また、位置ズレ量が少ないほうを選択する言うことは、合成できる画面面積が広く、手ブレ補正撮影が実行されている状態でもより広い画角を確保することが可能となる。
以上の説明のように、本発明では異なる露出条件で交互に連続撮影した複数の画像から、合成に適した画像を判別して、合成することにより、ノイズを抑えたブレのない画像を得ることができ、処理時間を短縮しつつ、連写画像を得ることができる。
本実施形態の合成処理は、撮影画像の信号処理後のYUV(Yは輝度信号、U,Vは色差信号)形式で画像合成処理を行う場合を例に説明したが、撮像素子(センサ)からのRGBベイヤー配列の出力(RAWデータ)に対して行う場合にも適用できる。
この場合、撮影した複数枚の画像のRAW画素データよりGr成分を抽出して差分をとり、この差分画像からエッジ、ブレ成分を検出する。
RAW画像信号は、アナログ段階で既にホワイトバランスのゲインがR・Bに対してかけられているため、G成分に比べてR・B成分はノイズが多い。
そのため、本実施形態では、ノイズが少ないG成分を抽出すればよい。なお、その他のR、Bで行うことも可能である。
10・・・撮像装置、11・・・光学系、12・・・撮影制御部、13・・・操作部、
14・・・撮像部、15・・・メモリ、16・・・演算部、17・・・ズレ量検出部、
18・・・合成部、19・・・記録部
14・・・撮像部、15・・・メモリ、16・・・演算部、17・・・ズレ量検出部、
18・・・合成部、19・・・記録部
Claims (10)
- 異なる露出条件で撮影した2枚の撮影画像を合成する機能を有する撮像装置であって、
連写を行う際に、第1の露出条件での撮影と第2の露出条件での撮影を交互に行う撮影制御手段と、
撮影画像間の相互のズレ量を検出するズレ量検出手段と、
前記ズレ量検出手段で検出したズレを補正するズレ補正手段と、
前記第1の露出条件で撮影した第1の撮影画像と時系列的に前後のいずれかの前記第2の露出条件で撮影した第2の撮影画像の2枚の画像を前記ズレ補正手段にて位置ズレを補正して合成する合成手段と
を有することを特徴とする撮像装置。 - 前記第1の露出条件は、前記第2の露出条件よりも短時間露出であることを特徴とする
請求項1に記載の撮像装置。 - 前記第1の露出条件は、前記第2の露出条件よりも高感度であることを特徴とする
請求項1から2のいずれかに記載の撮像装置。 - 前記合成手段において、
前記第1の撮影画像と合成する際の対象となる前記第2の撮影画像は、前記第1の撮影画像の時系列的に前後のいずれかを適宜選択する画像選択手段をさらに有することを特徴とする
請求項1から3のいずれかに記載の撮像装置。 - 前記画像選択手段は、前記第1の撮影画像との合成対象として時系列的に前後の前記第2の撮影画像いずれかを選択する際に、前記ズレ補正手段において補正された前記第1の撮影画像と前記合成対象の第2の撮影画像との差分絶対値をとり、その総和が小さい方を合成対象として選択することを特徴とする
請求項4に記載の撮像装置。 - 前記画像選択手段は、前記第1の撮影画像との合成対象として時系列的に前後の前記第2の撮影画像いずれかを選択する際に、前記合成対象の第2の撮影画像それぞれの画像データのエッジの空間周波数を比較し、該エッジの空間周波数が高い方を合成対象として選択することを特徴とする
請求項4に記載の撮像装置。 - 前記画像選択手段は、前記第1の撮影画像との合成対象として時系列的に前後の前記第2の撮影画像いずれかを選択する際に、前記第1の撮影画像に対する前記合成対象の第2の撮影画像のズレ量を比較し、該ズレ量が小さい方を合成対象として選択することを特徴とする
請求項4に記載の撮像装置。 - 前記画像選択手段において、合成対象画像を選択する際の種々の演算は、輝度信号Y、色差信号U,Vのうち、少なくとも輝度信号に基づいて行う
請求項5から7のいずれかに記載の撮像装置。 - 前記画像選択手段において、合成対象画像を選択する際の種々の演算は、撮像素子の出力であるデータの内、少なくともG成分に基づいて行う
請求項5から7のいずれかに記載の撮像装置。 - 異なる露出条件で撮影した2枚の撮影画像を合成する撮像方法であって、
連写を行う際に、第1の露出条件での撮影と第2の露出条件での撮影を交互に行うステップと、
前記第1の露出条件で撮影した第1の撮影画像と、時系列的に前後となる第2の露出条件で撮影した第2の撮影画像のどちらかの両画像を、両画像間のズレを補正して合成するステップと、
を有することを特徴とする撮像方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007115780A JP2008277896A (ja) | 2007-04-25 | 2007-04-25 | 撮像装置および撮像方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007115780A JP2008277896A (ja) | 2007-04-25 | 2007-04-25 | 撮像装置および撮像方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2008277896A true JP2008277896A (ja) | 2008-11-13 |
Family
ID=40055382
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007115780A Pending JP2008277896A (ja) | 2007-04-25 | 2007-04-25 | 撮像装置および撮像方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2008277896A (ja) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011044846A (ja) * | 2009-08-20 | 2011-03-03 | Sanyo Electric Co Ltd | 画像処理装置及び撮像装置 |
WO2012147719A1 (ja) | 2011-04-28 | 2012-11-01 | オリンパス株式会社 | 画像処理装置、画像処理方法、および、画像処理プログラム |
WO2012176504A1 (ja) * | 2011-06-21 | 2012-12-27 | オリンパス株式会社 | 撮像装置及び撮像方法 |
US8379094B2 (en) | 2009-07-23 | 2013-02-19 | Samsung Electronics Co., Ltd. | Apparatus and method for obtaining motion adaptive high dynamic range image |
US8406560B2 (en) | 2010-01-15 | 2013-03-26 | Samsung Electronics Co., Ltd. | Apparatus and method for generating high sensitivity images in dark environment |
KR101605129B1 (ko) | 2009-11-26 | 2016-03-21 | 삼성전자주식회사 | 디지털 촬영 장치, 그 제어 방법 및 이를 기록한 기록 매체 |
US9706131B2 (en) | 2014-06-04 | 2017-07-11 | Canon Kabushiki Kaisha | Image combining apparatus for generating a combined image from a plurality of images, image combining system, and image combining method |
CN111917994A (zh) * | 2019-05-10 | 2020-11-10 | 三星电子株式会社 | 将使用不同曝光设置捕获的图像帧组合成混合图像的方法和装置 |
WO2021261248A1 (ja) * | 2020-06-23 | 2021-12-30 | ソニーグループ株式会社 | 画像処理装置、画像表示システム、方法及びプログラム |
-
2007
- 2007-04-25 JP JP2007115780A patent/JP2008277896A/ja active Pending
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8379094B2 (en) | 2009-07-23 | 2013-02-19 | Samsung Electronics Co., Ltd. | Apparatus and method for obtaining motion adaptive high dynamic range image |
US8462214B2 (en) | 2009-07-23 | 2013-06-11 | Samsung Electronics Co., Ltd. | Apparatus and method for obtaining motion adaptive high dynamic range image |
JP2011044846A (ja) * | 2009-08-20 | 2011-03-03 | Sanyo Electric Co Ltd | 画像処理装置及び撮像装置 |
KR101605129B1 (ko) | 2009-11-26 | 2016-03-21 | 삼성전자주식회사 | 디지털 촬영 장치, 그 제어 방법 및 이를 기록한 기록 매체 |
US8406560B2 (en) | 2010-01-15 | 2013-03-26 | Samsung Electronics Co., Ltd. | Apparatus and method for generating high sensitivity images in dark environment |
WO2012147719A1 (ja) | 2011-04-28 | 2012-11-01 | オリンパス株式会社 | 画像処理装置、画像処理方法、および、画像処理プログラム |
US9118840B2 (en) | 2011-04-28 | 2015-08-25 | Olympus Corporation | Image processing apparatus which calculates motion vectors between images shot under different exposure conditions, image processing method, and computer readable medium |
US8514323B2 (en) | 2011-06-21 | 2013-08-20 | Olympus Imaging Corp. | Imaging apparatus and imaging method |
CN103229496A (zh) * | 2011-06-21 | 2013-07-31 | 奥林巴斯株式会社 | 摄像装置以及摄像方法 |
CN103229496B (zh) * | 2011-06-21 | 2015-03-11 | 奥林巴斯株式会社 | 摄像装置以及摄像方法 |
JP2013005404A (ja) * | 2011-06-21 | 2013-01-07 | Olympus Corp | 撮像装置及び撮像方法 |
WO2012176504A1 (ja) * | 2011-06-21 | 2012-12-27 | オリンパス株式会社 | 撮像装置及び撮像方法 |
US9706131B2 (en) | 2014-06-04 | 2017-07-11 | Canon Kabushiki Kaisha | Image combining apparatus for generating a combined image from a plurality of images, image combining system, and image combining method |
CN111917994A (zh) * | 2019-05-10 | 2020-11-10 | 三星电子株式会社 | 将使用不同曝光设置捕获的图像帧组合成混合图像的方法和装置 |
WO2020231065A1 (en) * | 2019-05-10 | 2020-11-19 | Samsung Electronics Co., Ltd. | Method and apparatus for combining image frames captured using different exposure settings into blended images |
US11062436B2 (en) | 2019-05-10 | 2021-07-13 | Samsung Electronics Co., Ltd. | Techniques for combining image frames captured using different exposure settings into blended images |
WO2021261248A1 (ja) * | 2020-06-23 | 2021-12-30 | ソニーグループ株式会社 | 画像処理装置、画像表示システム、方法及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4987355B2 (ja) | 撮像装置および撮像方法 | |
JP3974633B1 (ja) | 撮像装置および撮像方法 | |
JP4900401B2 (ja) | 撮影装置およびプログラム | |
JP3974634B2 (ja) | 撮像装置および撮像方法 | |
JP6172967B2 (ja) | 撮像装置、及びその制御方法 | |
JP2008277896A (ja) | 撮像装置および撮像方法 | |
WO2007077719A1 (ja) | 撮像装置およびその画像処理方法 | |
JP2009284394A (ja) | 撮像装置および撮像方法 | |
JP5893712B1 (ja) | 撮像装置、撮像方法、処理プログラム | |
JP2005236662A (ja) | 撮像方法、撮像装置及び撮像システム | |
JP2013110754A (ja) | カメラ装置、及びその撮影方法とプログラム | |
JP6118118B2 (ja) | 撮像装置およびその制御方法 | |
JP4898151B2 (ja) | 撮像装置及び撮像方法 | |
JP5943740B2 (ja) | 撮像装置ならびに撮像方法およびそのプログラム | |
JP2010193324A (ja) | カメラ装置、及びその撮影方法とプログラム | |
JP2006148550A (ja) | 画像処理装置及び撮像装置 | |
JP2008236739A (ja) | 撮像装置および撮像方法 | |
JP5760654B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2009218895A (ja) | 撮像装置及び撮像方法 | |
CN114554041A (zh) | 摄像装置、摄像方法和存储介质 | |
JP6226536B2 (ja) | 撮像装置及びその制御方法 | |
JP2006157342A (ja) | カメラモジュール | |
JP2009111773A (ja) | 画像処理装置およびその方法 | |
US11832020B2 (en) | Image pickup apparatus, image pickup method, and storage medium | |
JP5613145B2 (ja) | 撮影装置およびプログラム |