JP2024017296A - 画像処理装置及び方法、プログラム、記憶媒体 - Google Patents
画像処理装置及び方法、プログラム、記憶媒体 Download PDFInfo
- Publication number
- JP2024017296A JP2024017296A JP2022119836A JP2022119836A JP2024017296A JP 2024017296 A JP2024017296 A JP 2024017296A JP 2022119836 A JP2022119836 A JP 2022119836A JP 2022119836 A JP2022119836 A JP 2022119836A JP 2024017296 A JP2024017296 A JP 2024017296A
- Authority
- JP
- Japan
- Prior art keywords
- images
- dark current
- image
- amount
- current noise
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 133
- 238000000034 method Methods 0.000 title claims description 49
- 239000002131 composite material Substances 0.000 claims abstract description 45
- 238000012937 correction Methods 0.000 claims abstract description 44
- 230000009467 reduction Effects 0.000 claims abstract description 44
- 238000005259 measurement Methods 0.000 claims abstract description 16
- 230000008569 process Effects 0.000 claims description 32
- 230000015572 biosynthetic process Effects 0.000 claims description 20
- 238000003786 synthesis reaction Methods 0.000 claims description 20
- 230000035945 sensitivity Effects 0.000 claims description 13
- 238000003672 processing method Methods 0.000 claims description 8
- 238000012935 Averaging Methods 0.000 claims description 4
- 230000003287 optical effect Effects 0.000 description 12
- 238000010586 diagram Methods 0.000 description 11
- 238000003384 imaging method Methods 0.000 description 7
- 230000009466 transformation Effects 0.000 description 6
- 230000000694 effects Effects 0.000 description 5
- 230000010354 integration Effects 0.000 description 5
- 239000000203 mixture Substances 0.000 description 4
- 239000013598 vector Substances 0.000 description 4
- 230000007423 decrease Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000005375 photometry Methods 0.000 description 2
- 238000001454 recorded image Methods 0.000 description 2
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000011946 reduction process Methods 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
Images
Landscapes
- Studio Devices (AREA)
- Image Processing (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Abstract
【課題】複数の画像を合成し合成後の画像にノイズリダクションをかける際に、効果的にノイズを低減することができる画像処理装置を提供する。【解決手段】複数枚の画像を取得する取得手段と、複数枚の画像におけるOB領域以外の領域を合成して合成画像を生成する合成処理手段と、複数枚の画像の中のいずれかの画像のOB領域から暗電流ノイズ量を計測する計測手段と、計測した暗電流ノイズ量を補正する補正手段と、補正手段により補正した暗電流ノイズ量に基づいて、合成画像のノイズ低減処理を行うノイズ低減手段と、を備え、補正手段は、撮影条件に応じて暗電流ノイズ量を補正する。【選択図】 図3
Description
本発明は、複数の画像を合成して、ノイズ低減を行う画像処理装置に関する。
ノイズの少ない画像を得るために、複数の画像を合成することによりノイズを低減し、合成後の画像にノイズリダクションをかけることで更にノイズを低減する技術が知られている。
例えば、特許文献1では、複数の画像を合成する方法が提案されている。特許文献1では、合成処理を行う際に複数枚の画像を撮影し、得られた複数枚の画像間の動きがキャンセルされるように位置合わせ処理を行っている。これにより、動きのぶれが無くノイズを低減した画像を得ることができる。
また、特許文献2では、合成後の画像に対してノイズリダクションをかける方法が提案されている。特許文献2では、合成に用いた各画像のISO感度と各画像の使用割合とに基づいて合成後の画像のノイズ量を推定している。これにより、合成後の画像のノイズ量に応じた強度のノイズリダクションをかけることができる。
しかしながら、特許文献1の手法では、動きをキャンセルするように画像の位置合わせを行うため、合成処理に時間がかかるという課題がある。
また、特許文献2の手法では、画像のノイズ量を適切に推定できない場合がある。例えば、暗電流ノイズと呼ばれるノイズが存在するが、これは撮像素子に入射する光量には依存せず撮影時の撮像素子の温度に依存して変動する。特許文献2の手法では暗電流ノイズ量を適切に推定できず、合成後の画像に対するノイズリダクションの適切な強度を求められない課題がある。
本発明は上述した課題に鑑みてなされたものであり、その目的は、複数の画像を合成し合成後の画像にノイズリダクションをかける際に、効果的にノイズを低減することができる画像処理装置を提供することである。
本発明に係わる画像処理装置は、複数枚の画像を取得する取得手段と、前記複数枚の画像におけるOB領域以外の領域を合成して合成画像を生成する合成処理手段と、前記複数枚の画像の中のいずれかの画像のOB領域から暗電流ノイズ量を計測する計測手段と、計測した前記暗電流ノイズ量を補正する補正手段と、前記補正手段により補正した暗電流ノイズ量に基づいて、前記合成画像のノイズ低減処理を行うノイズ低減手段と、を備え、前記補正手段は、撮影条件に応じて前記暗電流ノイズ量を補正することを特徴とする。
本発明によれば、複数の画像を合成し合成後の画像にノイズリダクションをかける際に、効果的にノイズを低減することができる画像処理装置を提供することが可能となる。
以下、添付図面を参照して実施形態を詳しく説明する。なお、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
(第1の実施形態)
以下、本発明の第1の実施形態について、添付図面を参照して説明する。なお、以下に説明する実施形態では、デジタルカメラ内で複数枚撮影した画像を合成することでノイズ低減画像を生成する例について説明する。
以下、本発明の第1の実施形態について、添付図面を参照して説明する。なお、以下に説明する実施形態では、デジタルカメラ内で複数枚撮影した画像を合成することでノイズ低減画像を生成する例について説明する。
図1は、本発明の画像処理装置の第1の実施形態であるデジタルカメラ100の構成を示すブロック図である。
図1において、光学系101は、被写体像を撮像部102に結像させる。撮像部102は、例えばCCDやCMOSセンサ等からなる撮像素子102aを備え、光学系101により結像された光学像を光電変換して、アナログ画像信号を生成する。さらに、アナログ画像信号をA/D変換して、得られたデジタル画像データをRAM104に出力して記憶させる。
制御部106は、例えばCPUであり、デジタルカメラ100が備える各ブロックの動作プログラムをROM105から読み出し、RAM104に展開して実行することによりデジタルカメラ100が備える各ブロックの動作を制御する。また、制御部106が光学系101にレンズ駆動量を指示することで異なる合焦位置で撮影することが可能である。また、ROM105は、書き換え可能な不揮発性メモリであり、デジタルカメラ100が備える各ブロックの動作プログラムに加え、各ブロックの動作に必要なパラメータ等を記憶する。RAM104は、書き換え可能な揮発性メモリであり、デジタルカメラ100が備える各ブロックの動作において出力されたデータの一時的な記憶領域として用いられる。
画像処理部103は、RAM104に記憶されている画像データに対して、ホワイトバランス調整処理、色補間処理、縮小/拡大処理、フィルタリング処理など、様々な画像処理を適用する。また、後述する画像の合成も画像処理部103で実施される。
記録部107には、RAM104に記憶されている画像処理部103で処理された画像が、記録画像や合成画像として記録される。表示部108は、例えば背面液晶であり、RAM104に記録された画像を表示する。
上記の各構成は、内部バス110により、互いに通信可能に接続されている。
次に、図2から図9を用いて第1の実施形態のデジタルカメラの動作について説明する。
図2Aは、複数枚の画像を撮影し、撮影画像を合成することでノイズを低減し、合成後の画像にノイズリダクション(NR:ノイズ低減処理))をかけることで更にノイズを低減した画像を生成する一連の処理を示すフローチャートである。
デジタルカメラ100の制御部106は、ステップS201で、複数の画像を撮像し、ステップS202で、各画像を合成する。さらに、ステップS203で、合成画像のOB領域から暗電量ノイズ量を計測し、ステップS204で、計測した暗電流ノイズ量を補正し、ステップS205で、合成画像にノイズリダクション処理(NR処理)を行う。これらの各ステップについて、以下、詳細に説明する。
図2Bは、図2AのステップS201における画像撮像動作を詳しく示すフローチャートである。
ステップS211において、制御部106は、光学系101、撮像部102に関する撮影条件を決定する。撮影条件はシャッタ速度、絞り値、ISO感度であるが、これらは、デジタルカメラ100の測光結果により制御部106が自動で決めるか、撮影者が撮影する被写体に応じて任意に設定することが可能である。また、動感や深度表現に関わるシャッタ速度や絞り値は撮影者が決めて、ISO感度はデジタルカメラ100の測光結果により制御部106が自動で決めることも可能である。
ステップS212では、制御部106は、撮影枚数(N)を決定する。この値は、例えば合成処理で何段分のノイズ低減効果を行うかに基づいて制御部106が決定してもよいし、撮影者が撮影する被写体に応じて任意に設定してもよい。なお、N枚の画像は全て同じ撮影条件で撮像するものとする。
ステップS213では、制御部106は、ステップS211で設定した撮影条件とステップS212で決定した撮影枚数とに基づいて撮像部102を動作させ、複数枚の画像を撮像する。
ステップS214では、制御部106は、撮像した枚数がステップS212で設定した撮影枚数(N)に達したか否かを判定する。制御部106は、撮影枚数(N)に達していなければ、撮影枚数(N)になるまで、ステップS213、ステップS214を繰り返す。また、撮影枚数(N)に達していれば、撮影を終了する。
次に、図2Cは、図2AのステップS202における画像合成動作を詳しく示すフローチャートである。なお、図3は、画像処理部103の機能構成を示すブロック図であり、以下では、図3も参照して、画像合成動作について説明する。
一般的に撮像素子には、人物や風景などの被写体を撮像する領域と物理的に遮光されているOpticalBlcak領域(OB領域)が存在する。そして、複数枚の画像を合成する場合に、OB領域は合成処理の対象外とすることで処理時間を短縮することが可能である。
ステップS221において、制御部106は、撮像画像の中から合成の基準となる基準画像を画像処理部103に入力する。基準画像の選択は任意であるが、シャッタを押下したタイミングに近い先頭画像を選択するとよい。
ステップS222では、制御部106は、撮像画像の中から合成対象画像となる参照画像を画像処理部103に入力する。参照画像とは、ステップS221で決定した基準画像以外の画像のことである。
ステップS223では、制御部106は、画像処理部103を用いて、参照画像と基準画像の位置合わせを行う。一般的に、手振れや局所動体により基準画像と参照画像は位置がわずかにズレている。位置がズレた状態で画像の合成を行ってもノイズ低減効果は低いため、画像間の位置を合わせて合成を行う。
手振れによる画像間のズレを合わせる方法は例えば以下の方法を用いることができる。まず、基準画像と参照画像間で複数の動きベクトルを算出する。動きベクトルの算出はテンプレートマッチング等の公知の技術を用いればよい。次に、算出した複数の動きベクトルを満たすアフィン変換もしくは射影変換の変換係数を算出し、さらに変換係数による移動量と動きベクトルの誤差が最小となるように最小二乗法を用いて変換係数を最適化する。これにより精度の高い変換係数を算出することができる。最後に、変換係数を用いて参照画像を変形することで基準画像に位置を合わせることが可能となる。また、局所動体もなるべく位置を合わせて合成することが望ましいので、画像間の位置合わせを行った後に、さらにテンプレートマッチング技術等を使用して局所動体の位置合わせを行ってもよい。
ステップS224では、制御部106は、図3に示す画像処理部103の相関量算出部302を用いて、基準画像と参照画像間の相関量を算出する。相関量に限定はなく、例えば着目画素を中心とした所定範囲のブロックに対する差分や、当該ブロックを周波数空間上に変換した各周波数成分の差分等を用いることができる。図4(a)は、差分量と相関量の関係の一例を示した図であり、差分が少ないと相関量が高く、差分が大きいと相関量が低い関係性となる。また、差分量は入力信号のビット長に応じて値域が変わるため、図4(a)のように1.0に正規化するとよい。さらに、曲線401のように折れ線の特性とすることで、差分に対する相関量の調整を行っているが、この例に限定されるものではない。
ステップS225では、制御部106は、図3に示す画像処理部103の合成比率算出部304を用いて、相関量に基づいて合成比率を算出する。なお、合成比率とは、基準画像に対して参照画像を合成する割合を意味する。
図4(b)の曲線411の様に、相関が高い場合(相関量が1.0に近い場合)は、ノイズの低減効果を高めるために、合成比率(mix_ratio)を高く(1.0に近い値に)設定する。相関が低い場合(相関量が0に近い場合)は、被写体の多重像(アーティファクト)を抑制するために、合成比率を低く(0に近い値に)設定する。しかし、合成比率の曲線は、図4(b)に示す曲線に限定されるものではない。
ステップS226では、制御部106は、図3に示す画像処理部103の合成/積算部303を用いて、基準画像と参照画像を合成し積算する。合成比率は、ステップS225で算出した合成比率であり、合成は下記式(1)、積算は下記式(2)を用いて行われる。
合成画像[i]=(1.0-mix_ratio)*基準画像+mix_ratio*参照画像[i] …(1)
合成画像[i]=(1.0-mix_ratio)*基準画像+mix_ratio*参照画像[i] …(1)
以下、式(1)、式(2)に基づいて4枚(1枚の基準画像[i=0]、及び3枚の参照画像[i=1,2,3])を合成する場合を例に挙げて説明する。
基準画像と1枚目(i=1)の参照画像を合成する際、相関量が低く合成比率(mix_ratio)が0だとすると、合成画像[1]は基準画像が出力される。同様に、2枚目、3枚目もmix_ratioが0だとすると合成画像[2]、合成画像[3]も基準画像が出力される。そのため積算画像は基準画像を4枚積算することになる。同様に全ての参照画像で相関量が高く合成比率(mix_ratio)が1.0だとすると、1枚の基準画像と3枚の合成画像を加算した画像が出力される。合成比率が相関量によって変わることにより、合成によってノイズが低減される領域とされない領域(アーティファクトが発生しない領域)が生成されるようになる。
ステップS227では、制御部106は、全ての参照画像に対する合成と積算が行われたか否かを判定する。制御部106は、全ての画像に対して合成と積算が終了していればステップS229に処理を進める。一方、合成と積算を行っていない画像が存在すればステップS228に処理を進め、全ての画像に対して合成と積算が終了するまでステップS222からステップS226の処理を繰り返す。
ステップS229では、制御部106は、図3に示す画像処理部103の正規化部305を用いて、積算画像を下記式(3)で正規化する。積算画像は入力画像の枚数分を積算しただけなので入力の枚数Nで除算することで最終的な合成画像を得ることができる。
正規化画像=積算画像/N …(3)
なお、前述したように、合成処理はOB領域を除いた領域を対象としており、OB領域に関しては基準画像をそのまま合成画像として出力する。これにより合成処理の処理時間を短縮することが可能になる。以上が画像合成ステップS202の処理の詳細である。
なお、前述したように、合成処理はOB領域を除いた領域を対象としており、OB領域に関しては基準画像をそのまま合成画像として出力する。これにより合成処理の処理時間を短縮することが可能になる。以上が画像合成ステップS202の処理の詳細である。
次に、図2AのステップS203における暗電量ノイズの計測処理について説明する。暗電流ノイズの計測処理は、図3に示す画像処理部103の暗電流ノイズ計測部307を用いて行われる。
暗電流ノイズの計測処理は合成画像におけるOB領域に対して行う。OB領域は遮光された領域であるため、OB領域の標準偏差を算出することで暗電流ノイズσdarkを計測することが可能である。なお、標準偏差の算出はOB領域全体を対象としてもよいし、OB領域の一部を対象としてもよい。
次に、図2AのステップS204における暗電流ノイズの補正処理について説明する。暗電流ノイズの補正処理は、図3に示す画像処理部103の暗電流ノイズ補正部308を用いて行われる。
前述したとおり、暗電流ノイズは合成画像のOB領域から計測しているが、本実施形態において合成画像のOB領域は基準画像のOB領域と同じであるため、ステップS203で計測された暗電流ノイズは1枚の画像の暗電流ノイズに相当する。そのため、このままの状態では、ステップS205で行う合成画像に対するNR処理の適切な強度を求めることができない。そのため、ステップS204ではステップS203で計測した暗電流ノイズの補正処理を行う。
暗電流ノイズの補正処理は、式(4)のように、ステップS203で計測した暗電流ノイズσdarkに補正係数kを乗算して行う。
σdark’=σdark×k …(4)
OB領域は遮光されており、被写体が撮像されない領域のため、仮に第1の実施形態における合成処理を実施した場合、合成枚数に応じて暗電流ノイズの低減度合はほぼ一定となる。そのため、図6に示すように合成枚数Nが多いほど、補正係数kが小さくなるように標準偏差を補正するテーブルを用意しておき、実際の合成枚数に応じてテーブルから補正係数kを取得して用いる。
OB領域は遮光されており、被写体が撮像されない領域のため、仮に第1の実施形態における合成処理を実施した場合、合成枚数に応じて暗電流ノイズの低減度合はほぼ一定となる。そのため、図6に示すように合成枚数Nが多いほど、補正係数kが小さくなるように標準偏差を補正するテーブルを用意しておき、実際の合成枚数に応じてテーブルから補正係数kを取得して用いる。
また、補正係数の決め方はこれに限定されず、暗電流ノイズの影響度合いに応じて決めてもよい。例えば、ISO感度や画像の明るさに応じて決めてもよい。ISO感度に関しては、ISO感度が高いほど暗電流ノイズの絶対値が大きくなるため、1枚の画像の暗電流ノイズと合成画像の暗電流ノイズとの差が大きくなり影響度合いが大きくなる。そのため、ISO感度が高いほど補正係数kを小さくするようにしてもよい。画像の明るさに関しては、画像が明るいほど光ショットノイズと呼ばれる入射光量に応じて増加するノイズの影響が大きくなり、暗電流ノイズの影響が小さくなる。そのため、撮影された被写体の明るさを別途計測しておき、被写体が明るいほど補正係数を大きくするようにしてもよい。また、ここで説明した複数の要素を組み合わせて補正係数を決めてもよい。以上が暗電流ノイズの補正処理の詳細である。
次に、図2AのステップS205におけるノイズリダクション処理(NR処理)について説明する。
NR処理としては、合成画像に対して、図3に示す画像処理部103の閾値付きローパスフィルタ(LPF)310による処理及び、閾値付きLPF310で用いる閾値を算出するための閾値設定部309による処理を行う。
まず、閾値付きLPF310について図5を用いて説明する。閾値付きLPF310は、図5に示すように、着目画素501を中心とした所定範囲内の画素を用いてフィルタ処理を行う。その際、所定範囲内全ての画素を用いてフィルタ処理を行うと、エッジ成分等の解像感が失われてしまう。そのため、「着目画素と参照画素の差分値」を閾値と比較して、フィルタ処理の対象とする画素としない画素に分別するようにする。例えば、閾値を大きくすると、多くの画素でフィルタ処理が行われるためノイズは低減するが解像感も失いやすく、閾値を小さくすると、ノイズ低減効果は低下するが解像感は維持できるようになる。
次に、閾値設定部309について説明する。閾値設定では、まずステップS204で補正した暗電量ノイズσdark’、及び別途準備しておく光ショットノイズの情報を用いて、ベースとなるノイズモデルを生成する。これは、図7(a)に示すように、縦軸に分散、横軸に信号値Iをとるグラフ上において、画像上に含まれるノイズが暗電流ノイズ及び光ショットノイズを用いて線形に近似できるためである。数式で表すと式(5)のように表現できる。
V=(σdark’)2+grad×I …(5)
ここではノイズ量を分散Vとして表現している。式(5)の右辺の第一項は暗電流ノイズに関する項であり、分散で表現するためにσdark’を2乗している。式(5)の右辺の第二項は光ショットノイズに関する項であり、信号値Iに比例する項となる。また、gradは撮影画像のISO感度や合成枚数に応じて決まる。そのため、光ショットノイズの情報としては、図8に示すようなテーブルを用意しておき、ISO感度や合成枚数に応じて該当するgradの値を参照する。例えば、ISO6400で撮影した4枚の画像を合成する場合はgradとして64を取得する。
ここではノイズ量を分散Vとして表現している。式(5)の右辺の第一項は暗電流ノイズに関する項であり、分散で表現するためにσdark’を2乗している。式(5)の右辺の第二項は光ショットノイズに関する項であり、信号値Iに比例する項となる。また、gradは撮影画像のISO感度や合成枚数に応じて決まる。そのため、光ショットノイズの情報としては、図8に示すようなテーブルを用意しておき、ISO感度や合成枚数に応じて該当するgradの値を参照する。例えば、ISO6400で撮影した4枚の画像を合成する場合はgradとして64を取得する。
前述した図7(a)では、線形で近似ができ表現が容易であるという点で分散を用いたが、実際に画像に重畳されるノイズ量は標準偏差に応じたものになるので、ベースのノイズモデルとしては図7(a)の平方根をとった図7(b)のようになる。これによって、各信号値に応じたノイズ量を表現することが可能になる。
次に、このベースのノイズモデルに基づいて閾値を設定する。閾値は例えば図9の曲線901,902,903のように設定する。ここでは、曲線901は、ベースのノイズモデルそのままに対応する閾値の曲線、曲線902は曲線901を縦軸方向に2倍した曲線、曲線903は曲線901を縦軸方向に1/2倍した曲線をそれぞれ表す。
曲線902は、曲線901と比較すると閾値が大きくなるため、前述したようにノイズの低減効果は増すが解像感を失いやすくなる。曲線903は、曲線901と比較すると閾値が小さくなるため、前述したようにノイズの低減効果は減るが解像感は維持できる。そのため、カメラのノイズの低減度合の設定項目として、例えば弱、中、強を選択できるようにしておき、弱ならば曲線903、中ならば曲線901、強ならば曲線902の閾値を使用するように対応づけておく。こうすることで、ユーザの好みに合わせて閾値を設定することが可能になる。以上がNR処理の詳細動作であり、全動作が終了すると、図3の出力画像311が生成される。
なお、本実施形態では画素単位の処理を例に説明したが、計算量の削減のためにブロック単位で処理を行ってもよい。
また、画像処理部103への入力画像は現像前のRAW信号、現像処理後のYUV信号等であり、フォーマット、色空間、信号のビット長等に制約はないものとする。
以上説明したように、上記の実施形態によれば、OB領域を除いて画像を合成した場合でも、その後のノイズリダクション処理を適切に行うことが可能となる。
(第2の実施形態)
次に、本発明の第2の実施形態について説明する。第1の実施形態では、OB領域について合成処理を行わない状態でOB領域から計測した暗電流ノイズを補正する場合について説明した。第2の実施形態では、OB領域に対して合成処理ではなく簡易的な処理を行う場合について説明する。なお、第1の実施形態と同様の部分については、同じ符号を付して説明を省略する。
次に、本発明の第2の実施形態について説明する。第1の実施形態では、OB領域について合成処理を行わない状態でOB領域から計測した暗電流ノイズを補正する場合について説明した。第2の実施形態では、OB領域に対して合成処理ではなく簡易的な処理を行う場合について説明する。なお、第1の実施形態と同様の部分については、同じ符号を付して説明を省略する。
図10は、第2の実施形態における一連の処理を示すフローチャートである。
デジタルカメラ100の制御部106は、ステップS201で、複数の画像を撮像し、ステップS1002で、各画像を合成する。さらに、ステップS203で、合成画像のOB領域から暗電量ノイズ量を計測し、ステップS205で、合成画像にノイズリダクション処理(NR処理)を行う。これらの各ステップについて、以下、詳細に説明する。なお、ステップS201、203、205は第1の実施形態と同様のため説明を省略し、ステップS1002について説明する。
ステップS1002の画像合成処理では、OB領域には簡易処理を行い、OB領域以外には第1の実施形態で説明した合成処理を行う。そのため、ここではOB領域に対する簡易処理について説明する。
簡易処理は、仮にOB領域に対して合成処理を実施し暗電流ノイズ量を計測した場合と同程度の暗電流ノイズが計測できるように、OB領域に対して処理を行うことを目的としている。これによって処理時間を短縮することが可能になる。
第1の実施形態で説明したように、OB領域は遮光されており被写体が撮像されない領域のため、仮に第1の実施形態における合成処理を実施した場合、暗電流ノイズの低減度合はほぼ一定となる。そのため、簡易処理としては例えば複数画像のOB領域を加算平均する処理でよい。
ただし、簡易処理としてはこれに限定されず、基準画像のOB領域からAC成分を抽出し、AC成分をゲインダウンする処理や、基準画像のOB領域の各画素に対してその画素を中心とした所定範囲内の画素を用いて平均化する処理を行ってもよい。
以上が画像合成処理(ステップS1002)の詳細である。
なお、本実施形態においては、暗電流ノイズ計測部307で計測される暗電流ノイズ量は合成画像の暗電流ノイズに相当している。そのため、第1の実施形態で実施していた暗電流ノイズ補正部308での補正処理は行わずに閾値設定部309での閾値設定を行うようにする。
また、出力画像311が記録部107によって記録画像として記録されるが、これ以外にも合成画像306を合成画像として記録してもよい。
本明細書の開示は、以下の画像処理装置、方法、プログラムおよび記憶媒体を含む。
(項目1)
複数枚の画像を取得する取得手段と、
前記複数枚の画像におけるOB領域以外の領域を合成して合成画像を生成する合成処理手段と、
前記複数枚の画像の中のいずれかの画像のOB領域から暗電流ノイズ量を計測する計測手段と、
計測した前記暗電流ノイズ量を補正する補正手段と、
前記補正手段により補正した暗電流ノイズ量に基づいて、前記合成画像のノイズ低減処理を行うノイズ低減手段と、を備え、
前記補正手段は、撮影条件に応じて前記暗電流ノイズ量を補正することを特徴とする画像処理装置。
複数枚の画像を取得する取得手段と、
前記複数枚の画像におけるOB領域以外の領域を合成して合成画像を生成する合成処理手段と、
前記複数枚の画像の中のいずれかの画像のOB領域から暗電流ノイズ量を計測する計測手段と、
計測した前記暗電流ノイズ量を補正する補正手段と、
前記補正手段により補正した暗電流ノイズ量に基づいて、前記合成画像のノイズ低減処理を行うノイズ低減手段と、を備え、
前記補正手段は、撮影条件に応じて前記暗電流ノイズ量を補正することを特徴とする画像処理装置。
(項目2)
前記補正手段は、撮影条件に応じて前記暗電流ノイズ量を補正する程度を変更することを特徴とする項目1に記載の画像処理装置。
前記補正手段は、撮影条件に応じて前記暗電流ノイズ量を補正する程度を変更することを特徴とする項目1に記載の画像処理装置。
(項目3)
前記合成処理手段は、周波数成分の差分に基づいて、前記複数枚の画像を合成することを特徴とする項目1または2に記載の画像処理装置。
前記合成処理手段は、周波数成分の差分に基づいて、前記複数枚の画像を合成することを特徴とする項目1または2に記載の画像処理装置。
(項目4)
前記撮影条件は、合成する画像の枚数、ISO感度、画像の明るさの少なくとも1つを含むことを特徴とする項目1乃至3のいずれか1項目に記載の画像処理装置。
前記撮影条件は、合成する画像の枚数、ISO感度、画像の明るさの少なくとも1つを含むことを特徴とする項目1乃至3のいずれか1項目に記載の画像処理装置。
(項目5)
前記補正手段は、合成する画像の枚数が多いほど、前記暗電流ノイズ量を補正する程度を強めることを特徴とする項目2乃至4のいずれか1項目に記載の画像処理装置。
前記補正手段は、合成する画像の枚数が多いほど、前記暗電流ノイズ量を補正する程度を強めることを特徴とする項目2乃至4のいずれか1項目に記載の画像処理装置。
(項目6)
前記補正手段は、ISO感度が高いほど、前記暗電流ノイズ量を補正する程度を強めることを特徴とする項目2乃至5のいずれか1項目に記載の画像処理装置。
前記補正手段は、ISO感度が高いほど、前記暗電流ノイズ量を補正する程度を強めることを特徴とする項目2乃至5のいずれか1項目に記載の画像処理装置。
(項目7)
前記補正手段は、画像が明るいほど、前記暗電流ノイズ量を補正する程度を弱めることを特徴とする項目2乃至6のいずれか1項目に記載の画像処理装置。
前記補正手段は、画像が明るいほど、前記暗電流ノイズ量を補正する程度を弱めることを特徴とする項目2乃至6のいずれか1項目に記載の画像処理装置。
(項目8)
複数枚の画像を取得する取得手段と、
前記複数枚の画像におけるOB領域以外の領域を合成して合成画像を生成する合成処理手段と、
前記複数枚の画像におけるOB領域に対して、合成処理よりも簡易な簡易処理を行い、該簡易処理を行ったOB領域から暗電流ノイズ量を計測する計測手段と、
前記計測手段により計測された暗電流ノイズ量に基づいて、前記合成画像のノイズ低減処理を行うノイズ低減手段と、
を備えることを特徴とする画像処理装置。
複数枚の画像を取得する取得手段と、
前記複数枚の画像におけるOB領域以外の領域を合成して合成画像を生成する合成処理手段と、
前記複数枚の画像におけるOB領域に対して、合成処理よりも簡易な簡易処理を行い、該簡易処理を行ったOB領域から暗電流ノイズ量を計測する計測手段と、
前記計測手段により計測された暗電流ノイズ量に基づいて、前記合成画像のノイズ低減処理を行うノイズ低減手段と、
を備えることを特徴とする画像処理装置。
(項目9)
前記簡易処理は、OB領域に対して合成処理を実施し暗電流ノイズ量を計測した場合と同程度の暗電流ノイズを前記OB領域から計測できるようにする処理であることを特徴とする項目8に記載の画像処理装置。
前記簡易処理は、OB領域に対して合成処理を実施し暗電流ノイズ量を計測した場合と同程度の暗電流ノイズを前記OB領域から計測できるようにする処理であることを特徴とする項目8に記載の画像処理装置。
(項目10)
前記合成処理手段は、周波数成分の差分に基づいて、前記複数枚の画像を合成することを特徴とする項目8または9に記載の画像処理装置。
前記合成処理手段は、周波数成分の差分に基づいて、前記複数枚の画像を合成することを特徴とする項目8または9に記載の画像処理装置。
(項目11)
前記簡易処理は、前記複数枚の画像のOB領域を加算平均する処理、前記複数枚の画像のOB領域の中のいずれかのAC成分のゲインダウン、前記複数枚の画像のOB領域の中のいずれかのフィルタ処理の少なくとも1つを含むことを特徴とする項目8乃至10のいずれか1項目に記載の画像処理装置。
前記簡易処理は、前記複数枚の画像のOB領域を加算平均する処理、前記複数枚の画像のOB領域の中のいずれかのAC成分のゲインダウン、前記複数枚の画像のOB領域の中のいずれかのフィルタ処理の少なくとも1つを含むことを特徴とする項目8乃至10のいずれか1項目に記載の画像処理装置。
(項目12)
前記合成画像を記録する記録手段をさらに備えることを特徴とする項目8乃至11のいずれか1項目に記載の画像処理装置。
前記合成画像を記録する記録手段をさらに備えることを特徴とする項目8乃至11のいずれか1項目に記載の画像処理装置。
(項目13)
複数枚の画像を取得する取得工程と、
前記複数枚の画像におけるOB領域以外の領域を合成して合成画像を生成する合成処理工程と、
前記複数枚の画像の中のいずれかの画像のOB領域から暗電流ノイズ量を計測する計測工程と、
計測した前記暗電流ノイズ量を補正する補正工程と、
前記補正工程において補正した暗電流ノイズ量に基づいて、前記合成画像のノイズ低減処理を行うノイズ低減工程と、を有し、
前記補正工程では、撮影条件に応じて前記暗電流ノイズ量を補正することを特徴とする画像処理方法。
複数枚の画像を取得する取得工程と、
前記複数枚の画像におけるOB領域以外の領域を合成して合成画像を生成する合成処理工程と、
前記複数枚の画像の中のいずれかの画像のOB領域から暗電流ノイズ量を計測する計測工程と、
計測した前記暗電流ノイズ量を補正する補正工程と、
前記補正工程において補正した暗電流ノイズ量に基づいて、前記合成画像のノイズ低減処理を行うノイズ低減工程と、を有し、
前記補正工程では、撮影条件に応じて前記暗電流ノイズ量を補正することを特徴とする画像処理方法。
(項目14)
複数枚の画像を取得する取得工程と、
前記複数枚の画像におけるOB領域以外の領域を合成して合成画像を生成する合成処理工程と、
前記複数枚の画像におけるOB領域に対して、合成処理よりも簡易な簡易処理を行い、該簡易処理を行ったOB領域から暗電流ノイズ量を計測する計測工程と、
前記計測工程において計測された暗電流ノイズ量に基づいて、前記合成画像のノイズ低減処理を行うノイズ低減工程と、
を有することを特徴とする画像処理方法。
複数枚の画像を取得する取得工程と、
前記複数枚の画像におけるOB領域以外の領域を合成して合成画像を生成する合成処理工程と、
前記複数枚の画像におけるOB領域に対して、合成処理よりも簡易な簡易処理を行い、該簡易処理を行ったOB領域から暗電流ノイズ量を計測する計測工程と、
前記計測工程において計測された暗電流ノイズ量に基づいて、前記合成画像のノイズ低減処理を行うノイズ低減工程と、
を有することを特徴とする画像処理方法。
(項目15)
項目13または14に記載の画像処理方法の各工程をコンピュータに実行させるためのプログラム。
項目13または14に記載の画像処理方法の各工程をコンピュータに実行させるためのプログラム。
(項目16)
項目13または14に記載の画像処理方法の各工程をコンピュータに実行させるためのプログラムを記憶したコンピュータが読み取り可能な記憶媒体。
項目13または14に記載の画像処理方法の各工程をコンピュータに実行させるためのプログラムを記憶したコンピュータが読み取り可能な記憶媒体。
(他の実施形態)
また本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現できる。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現できる。
また本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現できる。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現できる。
発明は上記実施形態に制限されるものではなく、発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、発明の範囲を公にするために請求項を添付する。
100:デジタルカメラ、101:光学系、102:撮像部、103:画像処理部、104:RAM、105:ROM、106:制御部、107:記録部、108:表示部、110:内部バス
Claims (16)
- 複数枚の画像を取得する取得手段と、
前記複数枚の画像におけるOB領域以外の領域を合成して合成画像を生成する合成処理手段と、
前記複数枚の画像の中のいずれかの画像のOB領域から暗電流ノイズ量を計測する計測手段と、
計測した前記暗電流ノイズ量を補正する補正手段と、
前記補正手段により補正した暗電流ノイズ量に基づいて、前記合成画像のノイズ低減処理を行うノイズ低減手段と、を備え、
前記補正手段は、撮影条件に応じて前記暗電流ノイズ量を補正することを特徴とする画像処理装置。 - 前記補正手段は、撮影条件に応じて前記暗電流ノイズ量を補正する程度を変更することを特徴とする請求項1に記載の画像処理装置。
- 前記合成処理手段は、周波数成分の差分に基づいて、前記複数枚の画像を合成することを特徴とする請求項1に記載の画像処理装置。
- 前記撮影条件は、合成する画像の枚数、ISO感度、画像の明るさの少なくとも1つを含むことを特徴とする請求項1に記載の画像処理装置。
- 前記補正手段は、合成する画像の枚数が多いほど、前記暗電流ノイズ量を補正する程度を強めることを特徴とする請求項2に記載の画像処理装置。
- 前記補正手段は、ISO感度が高いほど、前記暗電流ノイズ量を補正する程度を強めることを特徴とする請求項2に記載の画像処理装置。
- 前記補正手段は、画像が明るいほど、前記暗電流ノイズ量を補正する程度を弱めることを特徴とする請求項2に記載の画像処理装置。
- 複数枚の画像を取得する取得手段と、
前記複数枚の画像におけるOB領域以外の領域を合成して合成画像を生成する合成処理手段と、
前記複数枚の画像におけるOB領域に対して、合成処理よりも簡易な簡易処理を行い、該簡易処理を行ったOB領域から暗電流ノイズ量を計測する計測手段と、
前記計測手段により計測された暗電流ノイズ量に基づいて、前記合成画像のノイズ低減処理を行うノイズ低減手段と、
を備えることを特徴とする画像処理装置。 - 前記簡易処理は、OB領域に対して合成処理を実施し暗電流ノイズ量を計測した場合と同程度の暗電流ノイズを前記OB領域から計測できるようにする処理であることを特徴とする請求項8に記載の画像処理装置。
- 前記合成処理手段は、周波数成分の差分に基づいて、前記複数枚の画像を合成することを特徴とする請求項8に記載の画像処理装置。
- 前記簡易処理は、前記複数枚の画像のOB領域を加算平均する処理、前記複数枚の画像のOB領域の中のいずれかのAC成分のゲインダウン、前記複数枚の画像のOB領域の中のいずれかのフィルタ処理の少なくとも1つを含むことを特徴とする請求項8に記載の画像処理装置。
- 前記合成画像を記録する記録手段をさらに備えることを特徴とする請求項8に記載の画像処理装置。
- 複数枚の画像を取得する取得工程と、
前記複数枚の画像におけるOB領域以外の領域を合成して合成画像を生成する合成処理工程と、
前記複数枚の画像の中のいずれかの画像のOB領域から暗電流ノイズ量を計測する計測工程と、
計測した前記暗電流ノイズ量を補正する補正工程と、
前記補正工程において補正した暗電流ノイズ量に基づいて、前記合成画像のノイズ低減処理を行うノイズ低減工程と、を有し、
前記補正工程では、撮影条件に応じて前記暗電流ノイズ量を補正することを特徴とする画像処理方法。 - 複数枚の画像を取得する取得工程と、
前記複数枚の画像におけるOB領域以外の領域を合成して合成画像を生成する合成処理工程と、
前記複数枚の画像におけるOB領域に対して、合成処理よりも簡易な簡易処理を行い、該簡易処理を行ったOB領域から暗電流ノイズ量を計測する計測工程と、
前記計測工程において計測された暗電流ノイズ量に基づいて、前記合成画像のノイズ低減処理を行うノイズ低減工程と、
を有することを特徴とする画像処理方法。 - 請求項13または14に記載の画像処理方法の各工程をコンピュータに実行させるためのプログラム。
- 請求項13または14に記載の画像処理方法の各工程をコンピュータに実行させるためのプログラムを記憶したコンピュータが読み取り可能な記憶媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022119836A JP2024017296A (ja) | 2022-07-27 | 2022-07-27 | 画像処理装置及び方法、プログラム、記憶媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022119836A JP2024017296A (ja) | 2022-07-27 | 2022-07-27 | 画像処理装置及び方法、プログラム、記憶媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2024017296A true JP2024017296A (ja) | 2024-02-08 |
Family
ID=89807983
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022119836A Pending JP2024017296A (ja) | 2022-07-27 | 2022-07-27 | 画像処理装置及び方法、プログラム、記憶媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2024017296A (ja) |
-
2022
- 2022-07-27 JP JP2022119836A patent/JP2024017296A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5213670B2 (ja) | 撮像装置及びぶれ補正方法 | |
US8385680B2 (en) | Image processing apparatus and image processing method | |
US8373776B2 (en) | Image processing apparatus and image sensing apparatus | |
US8294795B2 (en) | Image capturing apparatus and medium storing image processing program | |
US8933985B1 (en) | Method, apparatus, and manufacture for on-camera HDR panorama | |
US20120008005A1 (en) | Image processing apparatus, image processing method, and computer-readable recording medium having image processing program recorded thereon | |
WO2012147719A1 (ja) | 画像処理装置、画像処理方法、および、画像処理プログラム | |
JP6656035B2 (ja) | 画像処理装置、撮像装置および画像処理装置の制御方法 | |
TW201346835A (zh) | 影像模糊程度之估測方法及影像品質之評估方法 | |
JP2015144475A (ja) | 撮像装置、撮像装置の制御方法、プログラム及び記憶媒体 | |
JP2019047169A (ja) | ハイダイナミックレンジ画像を作成する装置、方法、及びプログラム | |
JP2022179514A (ja) | 制御装置、撮像装置、制御方法およびプログラム | |
JP5076650B2 (ja) | 撮像装置および画像処理プログラム | |
JP2009088935A (ja) | 画像記録装置、画像補正装置及び撮像装置 | |
JP5713643B2 (ja) | 撮像装置、撮像装置の制御方法、プログラム及び記憶媒体 | |
JP2002288650A (ja) | 画像処理装置及びデジタルカメラ、画像処理方法、記録媒体 | |
JP2024017296A (ja) | 画像処理装置及び方法、プログラム、記憶媒体 | |
JP5115297B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
JP2010258885A (ja) | 撮像装置及び画像処理方法 | |
JP4740008B2 (ja) | 手ぶれ検出装置およびデジタルカメラ | |
JP2018181070A (ja) | 画像処理装置および画像処理方法 | |
JP5561389B2 (ja) | 画像処理プログラム、画像処理装置、電子カメラ、および画像処理方法 | |
JP2011135379A (ja) | 撮像装置、撮像方法及びプログラム | |
US20230342887A1 (en) | Image processing device, image processing method, and storage medium | |
JP2010028363A (ja) | 撮像装置および画像処理プログラム |