JP2010171808A - 動画像ノイズ低減処理装置及び画像処理プログラム - Google Patents
動画像ノイズ低減処理装置及び画像処理プログラム Download PDFInfo
- Publication number
- JP2010171808A JP2010171808A JP2009013335A JP2009013335A JP2010171808A JP 2010171808 A JP2010171808 A JP 2010171808A JP 2009013335 A JP2009013335 A JP 2009013335A JP 2009013335 A JP2009013335 A JP 2009013335A JP 2010171808 A JP2010171808 A JP 2010171808A
- Authority
- JP
- Japan
- Prior art keywords
- noise reduction
- unit
- image signal
- motion amount
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Picture Signal Circuits (AREA)
Abstract
【課題】撮像系で撮像された動画像に対応する時系列の画像信号におけるノイズを低減して高品位の画像信号を得ることができる動画像ノイズ低減処理装置及び画像処理プログラムを提供する。
【解決手段】CCD102で撮像され、A/D変換器104でデジタル化された時系列の画像信号は空間ノイズ低減部106で空間ノイズ低減処理されて、第1過去バッファー部107に保存されると共に、第1動き検出部108により第1の動き量が検出され、この動き量を用いて時間ノイズ低減部109は時間方向で画像信号のノイズ低減処理を行う。
【選択図】図1
【解決手段】CCD102で撮像され、A/D変換器104でデジタル化された時系列の画像信号は空間ノイズ低減部106で空間ノイズ低減処理されて、第1過去バッファー部107に保存されると共に、第1動き検出部108により第1の動き量が検出され、この動き量を用いて時間ノイズ低減部109は時間方向で画像信号のノイズ低減処理を行う。
【選択図】図1
Description
本発明は、撮像系に起因する画像信号のランダムノイズの低減処理を行う動画像ノイズ低減処理装置及び画像処理プログラムに関し、動画像のノイズ低減処理を高精度化することでノイズ成分のみを高精度に低減可能とする。
撮像素子とそれに付随するアナログ回路およびA/Dコンバータから得られるデジタル化された信号中に含まれるノイズ成分は、固定パターンノイズとランダムノイズに大別できる。
固定パターンノイズは、欠陥画素などに代表される主に撮像素子に起因するノイズである。一方、ランダムノイズは撮像素子およびアナログ回路で発生するもので、ホワイトノイズ特性に近い特性を有する。
ランダムノイズに関しては、例えば特開2005-303802号公報(特許文献1)に示されるように、ノイズ量をモデル化し、このノイズモデルから定量的に信号値に対応するノイズ量を推定する。このノイズ量に基づきフィルタリングの周波数特性を制御する手法が開示されている。
固定パターンノイズは、欠陥画素などに代表される主に撮像素子に起因するノイズである。一方、ランダムノイズは撮像素子およびアナログ回路で発生するもので、ホワイトノイズ特性に近い特性を有する。
ランダムノイズに関しては、例えば特開2005-303802号公報(特許文献1)に示されるように、ノイズ量をモデル化し、このノイズモデルから定量的に信号値に対応するノイズ量を推定する。このノイズ量に基づきフィルタリングの周波数特性を制御する手法が開示されている。
これにより、信号値に対して定量的で適応的にノイズ低減処理が行われることになる。動画像におけるランダムノイズの低減処理としては、時間軸方向の相関性を用いて巡回型のノイズ低減処理法がある。
例えば、特開2000-209507号公報(特許文献2)は、時間的に前の画像信号との差分処理を行った信号値から帰還係数を制御する方法を開示している。この公報では、差分処理を行った信号値が小さい場合はランダムノイズと判断し、帰還係数を大きくすることでノイズ量の少ない画像信号を、差分処理を行った信号値が大きい場合は動き成分と判断し、帰還係数を小さくすることで残像の少ない画像信号を得ることが可能になる。
特開2005-303802号公報
特開2000-209507号公報
例えば、特開2000-209507号公報(特許文献2)は、時間的に前の画像信号との差分処理を行った信号値から帰還係数を制御する方法を開示している。この公報では、差分処理を行った信号値が小さい場合はランダムノイズと判断し、帰還係数を大きくすることでノイズ量の少ない画像信号を、差分処理を行った信号値が大きい場合は動き成分と判断し、帰還係数を小さくすることで残像の少ない画像信号を得ることが可能になる。
特開2005-303802号公報では、同一フレーム内の注目画素に対して周辺領域の画素の画像信号を用いてフィルタリング処理し、処理後の画像信号を注目画素の代表値としてノイズモデルからノイズ量を推定する。
しかしながら、この特開2005-303802号公報による方法でノイズ低減機能を高めようとした場合、そのノイス低減機能を高めたためにエッジなど画像の微細な部分がノイズ低減処理により平坦になってしまう欠点がある。
一方、特開2000-209507号公報では差分処理を行った信号値で制御を行うため計算量が少なく低コスト可能であるが、動き成分とランダムノイズの分離精度が十分できないため、高品位な画像信号が得られないという欠点がある。
しかしながら、この特開2005-303802号公報による方法でノイズ低減機能を高めようとした場合、そのノイス低減機能を高めたためにエッジなど画像の微細な部分がノイズ低減処理により平坦になってしまう欠点がある。
一方、特開2000-209507号公報では差分処理を行った信号値で制御を行うため計算量が少なく低コスト可能であるが、動き成分とランダムノイズの分離精度が十分できないため、高品位な画像信号が得られないという欠点がある。
このため、特開2005-303802号公報及び特開2000-209507号公報における欠点を軽減ないしは解消するようなノイズ低減を行うと、高品位の画像信号が得られる可能性がある。
本発明は上述した点に着目してなされたもので、撮像系で撮像された動画像に対応する時系列の画像信号におけるノイズを低減して高品位な画像信号を得ることができる動画像ノイズ低減処理装置及び画像処理プログラムを提供することを目的とする。
本発明は上述した点に着目してなされたもので、撮像系で撮像された動画像に対応する時系列の画像信号におけるノイズを低減して高品位な画像信号を得ることができる動画像ノイズ低減処理装置及び画像処理プログラムを提供することを目的とする。
本発明の1形態に係る動画像ノイズ低減処理装置は、デジタル化された動画像を構成する時系列の画像信号画像信号に対して、空間方向でのノイズ低減処理としての空間ノイズ低減処理を行う空間ノイズ低減部と、
上記空間ノイズ低減処理後の画像信号に対して、過去のフレーム/フィールドの空間ノイズ低減処理後の画像信号を用いて上記画像信号の第1の動き量を推定する第1の動き量推定部と、
上記画像信号に対して、上記第1の動き量に基づき時間方向でのノイズ低減処理としての時間ノイズ低減処理を行う時間ノイズ低減処理部と、
を有することを特徴とする。
本発明の他の1形態に係る動画像ノイズ低減処理装置は、デジタル化された動画像を構成する時系列の画像信号に対して、空間方向でのノイズ低減処理としての空間ノイズ低減処理を行う空間ノイズ低減部と、
上記空間ノイズ低減処理後の画像信号に対して、過去のフレーム/フィールドの空間ノイズ低減処理後の画像信号を用いて上記画像信号の第1の動き量を推定する第1の動き量推定部と、
上記画像信号に対して、過去のフレーム/フィールドの画像信号を用いて上記画像信号の第2の動き量を推定する第2の動き量推定部と、
上記画像信号に対して、上記第1の動き量及び第2の動き量に基づき時間方向でのノイズ低減処理としての時間ノイズ低減処理を行う時間ノイズ低減処理部と、
を有することを特徴とする。
上記空間ノイズ低減処理後の画像信号に対して、過去のフレーム/フィールドの空間ノイズ低減処理後の画像信号を用いて上記画像信号の第1の動き量を推定する第1の動き量推定部と、
上記画像信号に対して、上記第1の動き量に基づき時間方向でのノイズ低減処理としての時間ノイズ低減処理を行う時間ノイズ低減処理部と、
を有することを特徴とする。
本発明の他の1形態に係る動画像ノイズ低減処理装置は、デジタル化された動画像を構成する時系列の画像信号に対して、空間方向でのノイズ低減処理としての空間ノイズ低減処理を行う空間ノイズ低減部と、
上記空間ノイズ低減処理後の画像信号に対して、過去のフレーム/フィールドの空間ノイズ低減処理後の画像信号を用いて上記画像信号の第1の動き量を推定する第1の動き量推定部と、
上記画像信号に対して、過去のフレーム/フィールドの画像信号を用いて上記画像信号の第2の動き量を推定する第2の動き量推定部と、
上記画像信号に対して、上記第1の動き量及び第2の動き量に基づき時間方向でのノイズ低減処理としての時間ノイズ低減処理を行う時間ノイズ低減処理部と、
を有することを特徴とする。
本発明の1形態に係る画像処理プログラムは、コンピュータに、デジタル化された時系列の画像信号に対して、空間方向でのノイズ低減処理としての空間ノイズ低減処理を行う空間ノイズ低減処理手順と、
上記空間ノイズ低減処理後の画像信号に対して、過去フレーム/フィールドの空間ノイズ低減処理後の画像信号を用いて上記画像信号の第1の動き量を推定する第1動き量推定手順と、
上記画像信号に対して、上記第1の動き量に基づき時間方向でのノイズ低減処理としての時間ノイズ低減処理を行う時間ノイズ低減処理手順と、
を実行させることを特徴とする。
本発明の他の1形態に係る画像処理プログラムは、コンピュータに、デジタル化された時系列の画像信号に対して、空間方向でのノイズ低減処理としての空間ノイズ低減処理を行う空間ノイズ低減処理手順と、
上記空間ノイズ低減処理後の画像信号に対して、過去フレーム/フィールドの空間ノイズ低減処理後の画像信号を用いて上記画像信号の第1の動き量を推定する第1の動き量推定手順と、
上記画像信号に対して、過去フレーム/フィールドの画像信号を用いて上記画像信号の第2の動き量を推定する第2の動き量推定手順と、
上記画像信号に対して、上記第1の動き量及び第2の動き量に基づき時間方向でのノイズ低減処理としての時間ノイズ低減処理を行う時間ノイズ低減処理手順と、
を実行させることを特徴とする。
上記空間ノイズ低減処理後の画像信号に対して、過去フレーム/フィールドの空間ノイズ低減処理後の画像信号を用いて上記画像信号の第1の動き量を推定する第1動き量推定手順と、
上記画像信号に対して、上記第1の動き量に基づき時間方向でのノイズ低減処理としての時間ノイズ低減処理を行う時間ノイズ低減処理手順と、
を実行させることを特徴とする。
本発明の他の1形態に係る画像処理プログラムは、コンピュータに、デジタル化された時系列の画像信号に対して、空間方向でのノイズ低減処理としての空間ノイズ低減処理を行う空間ノイズ低減処理手順と、
上記空間ノイズ低減処理後の画像信号に対して、過去フレーム/フィールドの空間ノイズ低減処理後の画像信号を用いて上記画像信号の第1の動き量を推定する第1の動き量推定手順と、
上記画像信号に対して、過去フレーム/フィールドの画像信号を用いて上記画像信号の第2の動き量を推定する第2の動き量推定手順と、
上記画像信号に対して、上記第1の動き量及び第2の動き量に基づき時間方向でのノイズ低減処理としての時間ノイズ低減処理を行う時間ノイズ低減処理手順と、
を実行させることを特徴とする。
本発明によれば、高品位の画像信号が得られる。
以下、図面を参照して本発明の実施形態を説明する。
図1から図15は本発明の第1の実施形態に係り、図1は本発明の第1の実施形態の動画像ノイズ低減処理装置を備えた動画像撮像装置の構成を示し、図2は第1の実施形態例における空間ノイズ低減部の構成を示し、図3は第1の実施形態例における第1動き検出部の構成を示し、図4は平滑化フィルタを示し、図5は第1の実施形態例における時間ノイズ低減部の構成を示す。
図6は第1の実施形態例の時間ノイズ検出部の構成を示し、図7は信号値に対する時間ノイズ量の関係を示し、図8は簡略化したノイズモデルの説明図を示し、図9はノイズ量の補間処理の説明図を示し、図10は第1の実施形態例における時間ノイズ除去部の構成を示す。
図1から図15は本発明の第1の実施形態に係り、図1は本発明の第1の実施形態の動画像ノイズ低減処理装置を備えた動画像撮像装置の構成を示し、図2は第1の実施形態例における空間ノイズ低減部の構成を示し、図3は第1の実施形態例における第1動き検出部の構成を示し、図4は平滑化フィルタを示し、図5は第1の実施形態例における時間ノイズ低減部の構成を示す。
図6は第1の実施形態例の時間ノイズ検出部の構成を示し、図7は信号値に対する時間ノイズ量の関係を示し、図8は簡略化したノイズモデルの説明図を示し、図9はノイズ量の補間処理の説明図を示し、図10は第1の実施形態例における時間ノイズ除去部の構成を示す。
図11は第1の実施形態における画像処理プログラムの処理手順のフローチャートを示し、図12は第1の実施形態における第1動き検出部の画像処理プログラムの処理手順のフローチャートを示し、図13は第1の実施形態における時間ノイズ低減部の画像処理プログラムの処理手順のフローチャートを示す。
図14は第1の実施形態における時間ノイズ検出部の画像処理プログラムの処理手順のフローチャートを示し、図15は第1の実施形態における時間ノイズ除去部の画像処理プログラムの処理手順のフローチャートを示す。
次に本発明の第1の実施形態の構成を説明する。
図14は第1の実施形態における時間ノイズ検出部の画像処理プログラムの処理手順のフローチャートを示し、図15は第1の実施形態における時間ノイズ除去部の画像処理プログラムの処理手順のフローチャートを示す。
次に本発明の第1の実施形態の構成を説明する。
[構成]
図1に示すように動画像を生成して表示装置等に出力する動画像撮像装置97は、撮像により動画像を生成する動画像撮像部(或いは動画像生成部)98と、この動画像撮像部98により生成された動画像の画像信号、つまり時系列の画像信号に対して、ノイズを低減した画像処理を行う(動画像ノイズ低減処理装置としての)動画像ノイズ低減処理部99とから構成される。
動画像撮像部98は、絞り101を備えたレンズ系100を有し、このレンズ系100の結像位置には、撮像素子としての電荷結合素子(CCDと略記)102が配置されている。
レンズ系100により被写体の光学像が、CCD102の撮像面に結ばれ、CCD102は、その光学像を光電変換する。この動画像撮像部98は、図示しないCCD駆動部を備え、このCCD駆動部は、CCD102にCCD駆動信号を印加する。そして、このCCD駆動信号の印加により、CCD102は、時系列に光電変換した撮像信号を画像信号として(時系列に)出力する。
図1に示すように動画像を生成して表示装置等に出力する動画像撮像装置97は、撮像により動画像を生成する動画像撮像部(或いは動画像生成部)98と、この動画像撮像部98により生成された動画像の画像信号、つまり時系列の画像信号に対して、ノイズを低減した画像処理を行う(動画像ノイズ低減処理装置としての)動画像ノイズ低減処理部99とから構成される。
動画像撮像部98は、絞り101を備えたレンズ系100を有し、このレンズ系100の結像位置には、撮像素子としての電荷結合素子(CCDと略記)102が配置されている。
レンズ系100により被写体の光学像が、CCD102の撮像面に結ばれ、CCD102は、その光学像を光電変換する。この動画像撮像部98は、図示しないCCD駆動部を備え、このCCD駆動部は、CCD102にCCD駆動信号を印加する。そして、このCCD駆動信号の印加により、CCD102は、時系列に光電変換した撮像信号を画像信号として(時系列に)出力する。
なお、CCD102には、このCCD102の温度を検出する温度センサー部115が取り付けられている。
CCD102から出力される時系列の画像信号は、アンプ103により所定のゲイン(Gain)で増幅された後、図示しない相関二重サンプリング回路(以下、CDS回路と略記)等を経てA/D変換器104に入力される。この場合、CDS回路を通した後、アンプ103で増幅する構成にしても良い。また、アンプ103がCDS回路を、或いはCDS回路がアンプ103を備えた構成でも良い。
このA/D変換器104によって、アナログの画像信号はデジタルの画像信号へ変換された後、動画像ノイズ低減処理部99を構成するバッファー部105に入力され、一時蓄積される。
CCD102から出力される時系列の画像信号は、アンプ103により所定のゲイン(Gain)で増幅された後、図示しない相関二重サンプリング回路(以下、CDS回路と略記)等を経てA/D変換器104に入力される。この場合、CDS回路を通した後、アンプ103で増幅する構成にしても良い。また、アンプ103がCDS回路を、或いはCDS回路がアンプ103を備えた構成でも良い。
このA/D変換器104によって、アナログの画像信号はデジタルの画像信号へ変換された後、動画像ノイズ低減処理部99を構成するバッファー部105に入力され、一時蓄積される。
なお、図1において、動画像ノイズ低減処理部99が、A/D変換器104を含むような構成にしても良い。また、図1に示した構成例の場合に限定されるものでない。
バッファー部105は、画像信号に対して空間方向でノイズ低減処理、つまり空間ノイズ低減処理を行う空間ノイズ低減部106及び時間方向でノイズ低減処理、つまり時間ノイズ低減処理を行う時間ノイズ低減部109と接続されている。 空間ノイズ低減部106は、この空間ノイズ低減部106により空間ノイズ低減処理後の画像信号を一時格納する第1過去バッファー部107と接続されると共に、空間ノイズ低減処理後の画像信号に対して、第1動き量を検出或いは推定する第1動き検出部108と接続されている。
バッファー部105は、画像信号に対して空間方向でノイズ低減処理、つまり空間ノイズ低減処理を行う空間ノイズ低減部106及び時間方向でノイズ低減処理、つまり時間ノイズ低減処理を行う時間ノイズ低減部109と接続されている。 空間ノイズ低減部106は、この空間ノイズ低減部106により空間ノイズ低減処理後の画像信号を一時格納する第1過去バッファー部107と接続されると共に、空間ノイズ低減処理後の画像信号に対して、第1動き量を検出或いは推定する第1動き検出部108と接続されている。
第1過去バッファー部107は、この第1動き検出部108と接続され、この第1動き検出部108は、空間ノイズ低減処理後の画像信号に対して、第1動き量を検出する場合、第1過去バッファー部107に一時蓄積されている過去の画像信号を用いる。
第1動き検出部108は、時間ノイズ低減部109を介して出力部110と接続されている。時間ノイズ低減部109は、第1動き検出部108により検出された第1動き量に基づき、バッファー部105に一時格納された画像信号に対して、時間ノイズ低減処理を行い、その処理後の画像信号を出力部110に出力する。
また、時間ノイズ低減部109は、出力保存部114と接続され、時間ノイズ低減処理後の画像信号を出力保存部114に保存すると共に、保存された画像信号を参照可能にしている。
第1動き検出部108は、時間ノイズ低減部109を介して出力部110と接続されている。時間ノイズ低減部109は、第1動き検出部108により検出された第1動き量に基づき、バッファー部105に一時格納された画像信号に対して、時間ノイズ低減処理を行い、その処理後の画像信号を出力部110に出力する。
また、時間ノイズ低減部109は、出力保存部114と接続され、時間ノイズ低減処理後の画像信号を出力保存部114に保存すると共に、保存された画像信号を参照可能にしている。
ノイズ低減処理に用いられるノイズモデル等の情報を格納したROM111は、空間ノイズ低減部106、第1動き検出部108及び時間ノイズ低減部109と接続されている。
また、温度センサー部115は、時間ノイズ低減部109と接続されている。制御部112は、アンプ103、A/D変換器104、バッファー部105、空間ノイズ低減部106、第1過去バッファー部107、第1動き検出部108、時間ノイズ低減部109、出力部110、ROM111、外部I/F部113、出力保存部114及び温度センサー部115と双方向に接続され、主に各部の動作に対する制御を行う。
次に本実施形態の作用を説明する。
また、温度センサー部115は、時間ノイズ低減部109と接続されている。制御部112は、アンプ103、A/D変換器104、バッファー部105、空間ノイズ低減部106、第1過去バッファー部107、第1動き検出部108、時間ノイズ低減部109、出力部110、ROM111、外部I/F部113、出力保存部114及び温度センサー部115と双方向に接続され、主に各部の動作に対する制御を行う。
次に本実施形態の作用を説明する。
[作用]
本実施形態の作用効果の概略を述べると、以下のようになる。
本実施形態は、動画像を構成する時系列の画像信号に対して、空間方向でのノイズ低減処理としての空間ノイズ低減処理を行う空間ノイズ低減手段と、この空間ノイズ低減処理後の画像信号(処理後画像信号)に対して、過去のフレーム/フィールドの処理後画像信号を用いて上記画像信号の第1の動き量を推定する第1の動き量推定手段とを有する。
このように(空間ノイズ低減の)処理後画像信号に対して、特許文献2の動き成分に対応する第1の動き量を推定する構成にしているので、この特許文献2と比較して、動き成分とランダムノイズの分離精度を向上することができる。
本実施形態の作用効果の概略を述べると、以下のようになる。
本実施形態は、動画像を構成する時系列の画像信号に対して、空間方向でのノイズ低減処理としての空間ノイズ低減処理を行う空間ノイズ低減手段と、この空間ノイズ低減処理後の画像信号(処理後画像信号)に対して、過去のフレーム/フィールドの処理後画像信号を用いて上記画像信号の第1の動き量を推定する第1の動き量推定手段とを有する。
このように(空間ノイズ低減の)処理後画像信号に対して、特許文献2の動き成分に対応する第1の動き量を推定する構成にしているので、この特許文献2と比較して、動き成分とランダムノイズの分離精度を向上することができる。
本実施例ではさらに、上記第1の動き量に基づいて、上記画像信号に対して時間方向でのノイズ低減処理としての時間ノイズ低減処理を行う時間ノイズ低減処理手段を有する。
これにより、特許文献1に比較して、エッジ等の画像の微細な部分をノイズ低減処理で平坦にしてしまう、つまりノイズとして除去してしまうことを低減する(ことができる)。そして、本実施形態によれば、高品位の画像信号が得られるようになる。
これにより、特許文献1に比較して、エッジ等の画像の微細な部分をノイズ低減処理で平坦にしてしまう、つまりノイズとして除去してしまうことを低減する(ことができる)。そして、本実施形態によれば、高品位の画像信号が得られるようになる。
次に本実施形態の作用を詳細に説明する。なお、図1等において、明確化のため、画像信号とその他の信号とを太い実線及び細線により示し、制御信号を点線で示す。
なお、図1における動画像ノイズ低減処理部99を構成する例えば空間ノイズ低減部106等、動画像ノイズ低減処理部99を構成する複数の構成要素の1つ或いは複数をソフトウェアを用いて構成しても良い。
ソフトウェアを用いて構成する場合には例えば図1における制御部112内の記録媒体等に、その動作を行う画像処理プログラム112aを格納するようにしても良い。そして、制御部112を構成するCPUがその画像処理プログラム112aを読み込み、その画像処理プログラム112aに従って対応する構成要素の動作をソフトウェアで行う。
なお、図1における動画像ノイズ低減処理部99を構成する例えば空間ノイズ低減部106等、動画像ノイズ低減処理部99を構成する複数の構成要素の1つ或いは複数をソフトウェアを用いて構成しても良い。
ソフトウェアを用いて構成する場合には例えば図1における制御部112内の記録媒体等に、その動作を行う画像処理プログラム112aを格納するようにしても良い。そして、制御部112を構成するCPUがその画像処理プログラム112aを読み込み、その画像処理プログラム112aに従って対応する構成要素の動作をソフトウェアで行う。
なお、後述するように制御部112の外部のコンピュータ等が画像処理プログラム112aを読み込みソフトウェアで実行するようにしても良い。
図1において、画像信号の流れを説明する。外部I/F部113を介して録画ボタンが押されると、レンズ系100、絞り101、CCD102及びアンプ103 を介して撮影(又は撮像)された画像信号は、公知のCDS処理により信号成分が抽出されたアナログの画像信号として所定の時間間隔で連続的(時系列)に出力される。
本実施形態では所定の時間間隔は、例えば1/30秒を想定する。さらに、CCD102として、RGBの各原色フィルタをそれぞれ前面に配置して構成される三板式CCDと想定するが、これに限らず、単板(式)や二板式CCDでもよい。
図1において、画像信号の流れを説明する。外部I/F部113を介して録画ボタンが押されると、レンズ系100、絞り101、CCD102及びアンプ103 を介して撮影(又は撮像)された画像信号は、公知のCDS処理により信号成分が抽出されたアナログの画像信号として所定の時間間隔で連続的(時系列)に出力される。
本実施形態では所定の時間間隔は、例えば1/30秒を想定する。さらに、CCD102として、RGBの各原色フィルタをそれぞれ前面に配置して構成される三板式CCDと想定するが、これに限らず、単板(式)や二板式CCDでもよい。
連続的に出力される複数の画像信号を単に画像信号、1枚の画像信号を1フレームと表記する。但し、画像信号は、インタレースのフィールドで形成される場合もあり、従って、本実施形態(他の実施形態も同様)は、フレームの場合に限らず、フィールドの場合にも同様に適用できる。
上記アナログの画像信号は、A/D変換器104にてデジタルの画像信号へ変換されてバッファー部105へ転送される。
上記アナログの画像信号は、A/D変換器104にてデジタルの画像信号へ変換されてバッファー部105へ転送される。
バッファー部105は、1フレームの画像信号を記録可能で撮影に伴い順次に上書きされることになる。バッファー部105内の1フレームの画像信号は、制御部112の制御に基づき、所定のフレーム時間間隔(フレームレート)で間歇的に空間ノイズ低減部106及び時間ノイズ低減部109へ転送される。
空間ノイズ低減部106は、制御部112の制御に基づき、バッファー部105から転送されてきた1フレームの画像信号に対して空間方向(空間領域)においてのノイズ低減処理、つまり空間ノイズ低減処理を行う。
この空間ノイズ低減処理というのは、注目画素に対して同じ1フレームの画像信号内の周辺領域の画素との相関情報を用いてノイズ低減処理を行うことである。
空間ノイズ低減部106は、制御部112の制御に基づき、バッファー部105から転送されてきた1フレームの画像信号に対して空間方向(空間領域)においてのノイズ低減処理、つまり空間ノイズ低減処理を行う。
この空間ノイズ低減処理というのは、注目画素に対して同じ1フレームの画像信号内の周辺領域の画素との相関情報を用いてノイズ低減処理を行うことである。
そして、空間ノイズ低減処理後の画像信号は、第1過去バッファー部107及び第1動き検出部108へ転送される。第1過去バッファー部107は、制御部112の制御により1つあるいは複数フレームの画像信号が過去の画像信号として保存する。
第1過去バッファー部107は、空間ノイズ低減部106から画像信号が転送されるに伴い、古い画像信号から順次に上書きされる。本実施形態では、第1過去バッファー部107には、空間ノイズ低減処理後の過去の1フレームの画像信号が保存されている。
第1過去バッファー部107は、空間ノイズ低減部106から画像信号が転送されるに伴い、古い画像信号から順次に上書きされる。本実施形態では、第1過去バッファー部107には、空間ノイズ低減処理後の過去の1フレームの画像信号が保存されている。
第1動き検出部108は、制御部112に基づき空間ノイズ低減部106からの1フレームの空間ノイズ低減処理後の画像信号及び第1過去バッファー部107から過去の1フレームの空間ノイズ低減処理後の画像信号を用いて第1の動き量を検出する。
第1動き検出部108は、検出した動き量を時間ノイズ低減部109に転送する。時間ノイズ低減部109は、制御部112の制御により、バッファー部105からの1フレームの画像信号に対し、第1動き検出部108から転送されてきた第1の動き量に基づき、時間方向のノイズ低減処理、つまり時間ノイズ低減処理を行う。
時間ノイズ低減処理というのは、注目画素に対して過去の一つあるいは複数フレーム間の画像信号の相関情報を用いてノイズ低減処理を行うことである。本実施形態では、制御部112の制御により、時間ノイズ低減部109は、第1動き検出部108からの第1の動き量及び出力保存部114からの過去の一つあるいは複数フレームの時間ノイズ低減処理後の画像信号を用いて、バッファー部105からの画像信号に対し時間方向でノイズ低減処理を行う。
第1動き検出部108は、検出した動き量を時間ノイズ低減部109に転送する。時間ノイズ低減部109は、制御部112の制御により、バッファー部105からの1フレームの画像信号に対し、第1動き検出部108から転送されてきた第1の動き量に基づき、時間方向のノイズ低減処理、つまり時間ノイズ低減処理を行う。
時間ノイズ低減処理というのは、注目画素に対して過去の一つあるいは複数フレーム間の画像信号の相関情報を用いてノイズ低減処理を行うことである。本実施形態では、制御部112の制御により、時間ノイズ低減部109は、第1動き検出部108からの第1の動き量及び出力保存部114からの過去の一つあるいは複数フレームの時間ノイズ低減処理後の画像信号を用いて、バッファー部105からの画像信号に対し時間方向でノイズ低減処理を行う。
時間ノイズ低減処理後の画像信号は、出力部110及び出力保存部114へ転送される。出力保存部114には、所定枚数の時間ノイズ低減処理後の過去フレームの画像信号が保存されている。
出力保存部114は、所定の保存枚数を保持すると同時に、一番古い画像信号に対して新しい画像信号で順次上書きして保存する。本実施形態では、出力保存部114には、8フレームの過去の時間ノイズ低減処理後の画像信号が保存されていることを想定する。
出力部110は、モニタなどの表示媒体に表示し、或は磁気ディスクやメモリカードなどの記録媒体に画像信号を記録保存する。
出力保存部114は、所定の保存枚数を保持すると同時に、一番古い画像信号に対して新しい画像信号で順次上書きして保存する。本実施形態では、出力保存部114には、8フレームの過去の時間ノイズ低減処理後の画像信号が保存されていることを想定する。
出力部110は、モニタなどの表示媒体に表示し、或は磁気ディスクやメモリカードなどの記録媒体に画像信号を記録保存する。
図1の全体的な作用は以下のようになる。時系列の画像信号に対して、空間方向でのノイズ低減処理、つまり空間ノイズ低減処理を行う。次に、空間ノイズ低減処理後の画像信号と過去フレーム(あるいは過去フィールド)の空間ノイズ低減処理後の画像信号を用いて画像信号の動き量を検出する。
最後に、その動き量に基づき、時間方向でノイズ低減処理を行う。このようにすることにより、空間方向でノイズ低減処理後の画像信号から正確に動き成分を抽出することが可能になり、時間方向で撮像系で撮像された動画像に対応する時系列の画像信号におけるノイズを低減して実現できる。
最後に、その動き量に基づき、時間方向でノイズ低減処理を行う。このようにすることにより、空間方向でノイズ低減処理後の画像信号から正確に動き成分を抽出することが可能になり、時間方向で撮像系で撮像された動画像に対応する時系列の画像信号におけるノイズを低減して実現できる。
なお、特許文献1では、動き量に基づくことなく、空間方向でのノイズ低減処理を行うため、その機能を大きくすると、エッジ等画像の微細な部分をノイズとして除去(平坦化)してしまうが、上記のように本実施形態では動き量に基づいて時間方向でノイズ低減処理を行うため、高精度のノイズ低減ができることになる。
図2は、空間ノイズ低減部106の構成の一例を示す。この空間ノイズ低減部106は、空間方向でのノイズ量、つまり空間ノイズ量を検出する空間ノイズ検出部201と、空間ノイズ除去処理を行う空間ノイズ除去部202から構成される。
バッファー部105は、空間ノイズ検出部201及び空間ノイズ除去部202を介して第1過去バッファー部107及び第1動き検出部108と接続されている。また、バッファー部105は、空間ノイズ除去部202とも接続されている。ROM111は、空間ノイズ検出部201と接続されている。制御部112は、空間ノイズ検出部201及び空間ノイズ除去部202と双方向に接続されている。
図2は、空間ノイズ低減部106の構成の一例を示す。この空間ノイズ低減部106は、空間方向でのノイズ量、つまり空間ノイズ量を検出する空間ノイズ検出部201と、空間ノイズ除去処理を行う空間ノイズ除去部202から構成される。
バッファー部105は、空間ノイズ検出部201及び空間ノイズ除去部202を介して第1過去バッファー部107及び第1動き検出部108と接続されている。また、バッファー部105は、空間ノイズ除去部202とも接続されている。ROM111は、空間ノイズ検出部201と接続されている。制御部112は、空間ノイズ検出部201及び空間ノイズ除去部202と双方向に接続されている。
次にこの空間ノイズ低減部106による空間ノイズ低減処理の作用を説明する。 空間ノイズ低減処理というのは、注目画素に対して、同じフレーム内の周辺画素との相関情報に基づき空間方向においてのノイズ低減処理を行うことである。ノイズ量算出は、例えば特開2005-303802号公報に開示される公知のノイズ量算出方法で行う。
なお、特開2005-303802号公報には、空間方向(空間領域)に対してのノイズ量をモデル化し、そのノイズモデルから定量的に信号値に対応するノイズ量を推定して、ノイズ低減処理、つまり空間(空間方向)ノイズ低減処理の手法が開示されている。
本実施形態における空間ノイズ検出部201は、制御部112の制御に基づき、アンプ103のゲイン、CCD102の温度、CCD102の感度、つまりISO感度などの情報を用いてROM111から対応する空間領域のノイズモデルとしての空間(空間方向)ノイズモデルを抽出する。
なお、特開2005-303802号公報には、空間方向(空間領域)に対してのノイズ量をモデル化し、そのノイズモデルから定量的に信号値に対応するノイズ量を推定して、ノイズ低減処理、つまり空間(空間方向)ノイズ低減処理の手法が開示されている。
本実施形態における空間ノイズ検出部201は、制御部112の制御に基づき、アンプ103のゲイン、CCD102の温度、CCD102の感度、つまりISO感度などの情報を用いてROM111から対応する空間領域のノイズモデルとしての空間(空間方向)ノイズモデルを抽出する。
また、空間ノイズ検出部201は、抽出した空間ノイズモデルに基づき、バッファー部105からの画像信号の注目画素及び同じフレーム内にあるその周辺領域の画素の信号値を用いて空間方向で空間ノイズ量を検出し、それを空間ノイズ除去部202へ転送する。
空間ノイズ除去部202は、制御部112の制御に基づき、空間ノイズ検出部201からの画素毎のノイズ量情報及びバッファー部105からの画像信号値を用いて空間ノイズ除去処理を行う。
空間ノイズ低減処理後の画像信号は、第1過去バッファー部107及び第1動き検出部108へ転送される。本実施形態では、色信号ごとに(RGB)空間方向でノイズ低減処理を行う。
空間ノイズ除去部202は、制御部112の制御に基づき、空間ノイズ検出部201からの画素毎のノイズ量情報及びバッファー部105からの画像信号値を用いて空間ノイズ除去処理を行う。
空間ノイズ低減処理後の画像信号は、第1過去バッファー部107及び第1動き検出部108へ転送される。本実施形態では、色信号ごとに(RGB)空間方向でノイズ低減処理を行う。
このように、空間ノイズモデルに基づき、画像信号に対して、同じフレーム内の画像信号の相関情報を用いて空間方向でノイズ低減処理を行うため、比較的に高い画質の画像信号を得ることが可能になる。しかし、エッジなど画像の微細な構造が空間ノイズ低減処理によって、なまってしまう可能性もある。
図3は、第1動き検出部108の構成の一例示す。この第1動き検出部108は、空間ノイズ低減処理後の画像信号に対して、減算処理により画素ごとの差分信号を算出する(差分信号算出部としての)差分算出部301と、その差分信号に対して平滑処理を行う(平滑処理部としての)差分平滑部302とから構成される。
第1過去バッファー部107及び空間ノイズ低減部106は、差分算出部301及び差分平滑部302を介して時間ノイズ低減部109と接続されている。ROM111は、差分平滑部302と接続されている。制御部112は、差分算出部301及び差分平滑部302と双方向に接続されている。
図3は、第1動き検出部108の構成の一例示す。この第1動き検出部108は、空間ノイズ低減処理後の画像信号に対して、減算処理により画素ごとの差分信号を算出する(差分信号算出部としての)差分算出部301と、その差分信号に対して平滑処理を行う(平滑処理部としての)差分平滑部302とから構成される。
第1過去バッファー部107及び空間ノイズ低減部106は、差分算出部301及び差分平滑部302を介して時間ノイズ低減部109と接続されている。ROM111は、差分平滑部302と接続されている。制御部112は、差分算出部301及び差分平滑部302と双方向に接続されている。
差分算出部301は、制御部112の制御に基づき、空間ノイズ低減部106からの空間ノイズ低減処理後の画像信号に対して、第1過去バッファー部107からの過去フレームの空間ノイズ低減処理後の画像信号を用いて、減算処理で画素ごとの差分信号を算出する。算出した差分信号は、差分平滑部302に転送される。
差分平滑部302は、制御部112の制御により、差分算出部301からの差分信号に対して平滑処理を行う。差分平滑部302は、例えば、図4のF1〜F4に示されているフィルタを用いて公知の平滑処理を行う。図4におけるフィルタF1及びF2のように所定のサイズ(前者は5×5画素、後者は3×3画素)で平均化するフィルタでも良いし、フィルタF3及びF4に示すように重み付けして平均化するフィルタでも良い。なお、平滑処理を行うフィルタのサイズは、図4に示したものに限定されるものでない。
図4に示されているフィルタF1〜F4を用いて平滑処理を行う場合、画像信号中の微細なエッジ部の構造がつぶれてしまう恐れがある。
本実施形態では、平滑処理の効果を高めるために、画素間の距離で重みを決定するだけでなく、輝度の差分値による重みを考慮して平滑処理を行うバイラテラルフィルタを適用する。
差分平滑部302は、制御部112の制御により、差分算出部301からの差分信号に対して平滑処理を行う。差分平滑部302は、例えば、図4のF1〜F4に示されているフィルタを用いて公知の平滑処理を行う。図4におけるフィルタF1及びF2のように所定のサイズ(前者は5×5画素、後者は3×3画素)で平均化するフィルタでも良いし、フィルタF3及びF4に示すように重み付けして平均化するフィルタでも良い。なお、平滑処理を行うフィルタのサイズは、図4に示したものに限定されるものでない。
図4に示されているフィルタF1〜F4を用いて平滑処理を行う場合、画像信号中の微細なエッジ部の構造がつぶれてしまう恐れがある。
本実施形態では、平滑処理の効果を高めるために、画素間の距離で重みを決定するだけでなく、輝度の差分値による重みを考慮して平滑処理を行うバイラテラルフィルタを適用する。
バイラテラルフィルタは、通常画像信号の平滑処理において、画像信号中のエッジの部分を保持しつつ、ノイズなどによる微細な変動を平滑する特徴を持っている。
本実施形態では、空間ノイズ低減処理後の画像信号の差分信号に対してバイラテラルフィルタを適用するため、差分信号中の動き成分を保持しながら、空間ノイズ低減処理の後にまだ残されているノイズ成分を平滑化する効果がある。
平滑処理後の差分信号は、第1の動き量信号として時間ノイズ低減部109に転送される。このように、第1動き検出部108においては、まず空間ノイズ低減処理後の画像信号に対して、空間ノイズ低減処理後の過去フレームの画像信号を用いて画素ごとに差分信号を算出する。
本実施形態では、空間ノイズ低減処理後の画像信号の差分信号に対してバイラテラルフィルタを適用するため、差分信号中の動き成分を保持しながら、空間ノイズ低減処理の後にまだ残されているノイズ成分を平滑化する効果がある。
平滑処理後の差分信号は、第1の動き量信号として時間ノイズ低減部109に転送される。このように、第1動き検出部108においては、まず空間ノイズ低減処理後の画像信号に対して、空間ノイズ低減処理後の過去フレームの画像信号を用いて画素ごとに差分信号を算出する。
次に、差分信号に対して平滑する処理を行い差分信号の中に残されているノイズ成分を更に落とすことによって、高精度に画像信号中の動き量信号を抽出することが可能になる。
図5は、時間ノイズ低減部109の構成の一例を示す。この時間ノイズ低減部109は、過去フレームの時間ノイズ低減処理後の画像信号を用いて時間ノイズ量を推定(検出)する時間ノイズ検出部401と、時間ノイズ除去処理を行う時間ノイズ除去部402とから構成される。
バッファー部105は、時間ノイズ検出部401及び時間ノイズ除去部402を介して出力部110と接続されている。バッファー部105は、時間ノイズ除去部402とも接続されている。
図5は、時間ノイズ低減部109の構成の一例を示す。この時間ノイズ低減部109は、過去フレームの時間ノイズ低減処理後の画像信号を用いて時間ノイズ量を推定(検出)する時間ノイズ検出部401と、時間ノイズ除去処理を行う時間ノイズ除去部402とから構成される。
バッファー部105は、時間ノイズ検出部401及び時間ノイズ除去部402を介して出力部110と接続されている。バッファー部105は、時間ノイズ除去部402とも接続されている。
第1動き検出部108、ROM111及び出力保存部114は、時間ノイズ検出部401及び時間ノイズ除去部402と接続されている。温度センサー部115は、時間ノイズ検出部401に接続されている。制御部112は、時間ノイズ検出部401及び時間ノイズ除去部402と双方向に接続されている。
次に時間ノイズ低減部109の作用を説明する。
時間ノイズ検出部401は、制御部112の制御により、第1動き検出部108からの第1の動き量信号、温度センサー部115からのCCD102の温度情報、画素毎にバッファー部105から転送されてきた画像信号及び出力保存部114に保存されているノイズ低減処理後の1つ以上の過去フレームの時間ノイズ低減処理後の画像信号(本実施形態では、出力保存部114には8フレームの過去の時間ノイズ低減処理後の画像信号を保存する構成となっている)を用いて時間ノイズ量を推定(算出)する。
次に時間ノイズ低減部109の作用を説明する。
時間ノイズ検出部401は、制御部112の制御により、第1動き検出部108からの第1の動き量信号、温度センサー部115からのCCD102の温度情報、画素毎にバッファー部105から転送されてきた画像信号及び出力保存部114に保存されているノイズ低減処理後の1つ以上の過去フレームの時間ノイズ低減処理後の画像信号(本実施形態では、出力保存部114には8フレームの過去の時間ノイズ低減処理後の画像信号を保存する構成となっている)を用いて時間ノイズ量を推定(算出)する。
なお、温度センサー部115は、撮像素子の温度の情報を収集する収集部を形成し、時間ノイズ量の推定に利用される。また、アンプ103のゲインの情報も、時間ノイズ量の推定に利用される。
推定された時間ノイズ量は、時間ノイズ除去部402に転送される。時間ノイズ除去部402は、制御部112の制御に基づき、時間ノイズ検出部401からの時間ノイズ量、第1動き検出部108からの動き量信号及びバッファー部105からの画像信号を用いて時間ノイズ除去処理を行う。処理後の画像信号は出力部110及び出力保存部114へ転送される。
図6は、時間ノイズ検出部401の構成の一例を示す。バッファー部105は、動き除去部501、平均算出部502、パラメータ選択部504、補間部505、補正部506を介して時間ノイズ除去部402と接続されている。
gain算出部503、及びROM111は、パラメータ選択部504と接続されている。第1動き検出部108は、動き量保存部507と接続されている。動き量保存部507は、動き除去部501と接続されている。
推定された時間ノイズ量は、時間ノイズ除去部402に転送される。時間ノイズ除去部402は、制御部112の制御に基づき、時間ノイズ検出部401からの時間ノイズ量、第1動き検出部108からの動き量信号及びバッファー部105からの画像信号を用いて時間ノイズ除去処理を行う。処理後の画像信号は出力部110及び出力保存部114へ転送される。
図6は、時間ノイズ検出部401の構成の一例を示す。バッファー部105は、動き除去部501、平均算出部502、パラメータ選択部504、補間部505、補正部506を介して時間ノイズ除去部402と接続されている。
gain算出部503、及びROM111は、パラメータ選択部504と接続されている。第1動き検出部108は、動き量保存部507と接続されている。動き量保存部507は、動き除去部501と接続されている。
出力保存部114は、代表値推定部の1つの構成例としての平均算出部502と接続されている。CCD102の温度を検出する温度センサー部115は、温度保存部508と接続されている。制御部112は、動き除去部501、平均算出部502、gain算出部503、パラメータ選択部504、補間部505、補正部506、動き量保存部507及び温度保存部508と双方向に接続されている。
次にこの時間ノイズ検出部401の作用を説明する。
上記の時間ノイズ低減処理というのは、注目画素に対して過去の一つあるいは複数フレーム間の画像信号内の相関情報を用いてノイズ低減処理を行うことである。
第1動き検出部108は、動き量信号を動き保存部507へ保存する。動き量保存部507には、一つあるいは複数の過去フレームの動き量信号が保存され、動き量信号が動き検出部108から転送されることに伴い順次に上書きされる。
次にこの時間ノイズ検出部401の作用を説明する。
上記の時間ノイズ低減処理というのは、注目画素に対して過去の一つあるいは複数フレーム間の画像信号内の相関情報を用いてノイズ低減処理を行うことである。
第1動き検出部108は、動き量信号を動き保存部507へ保存する。動き量保存部507には、一つあるいは複数の過去フレームの動き量信号が保存され、動き量信号が動き検出部108から転送されることに伴い順次に上書きされる。
本実施形態では、動き検出部108には、出力保存部114に保存されている過去の時間ノイズ低減処理後の画像信号のフレーム数と同様に8フレーム分の動き量信号が保存される構成となっている。
動き除去部501は、制御部112の制御に基づき、動き量保存部507から過去フレームの動き量信号を用いて、画素ごとにバッファー部105からの画像信号に対して、動き除去処理を行う。
具体的には、バッファー部105からの画像信号に対応して、画素毎に過去フレームの時間ノイズ低減処理後の画像信号中の同一位置の画素値と対応する動き量信号値を加算する。
動き除去部501は、制御部112の制御に基づき、動き量保存部507から過去フレームの動き量信号を用いて、画素ごとにバッファー部105からの画像信号に対して、動き除去処理を行う。
具体的には、バッファー部105からの画像信号に対応して、画素毎に過去フレームの時間ノイズ低減処理後の画像信号中の同一位置の画素値と対応する動き量信号値を加算する。
この信号値は注目画素に対応する過去フレームの画像信号から動き量を除いた後の近似信号になる。本実施形態では、8フレームの過去の時間ノイズ低減処理後の画像信号及び動き量信号が保存されているため、画素ごとの近似信号も8つがある。
この8つの近似信号を平均算出部502に転送する。本実施形態では8フレームの過去の時間ノイズ低減処理後の画像信号を用いて平均値を算出するため、8フレームに対応する動き量信号も保存する構成となっている。
しかし、1フレームの過去の時間ノイズ低減処理後の画像信号を用いて平均値を算出する場合、1フレームに対応する動き量信号を保存すればよい。
つまり、用いる過去の画像信号のフレーム数に合わせて同フレーム数の動き量信号を保存する。
この8つの近似信号を平均算出部502に転送する。本実施形態では8フレームの過去の時間ノイズ低減処理後の画像信号を用いて平均値を算出するため、8フレームに対応する動き量信号も保存する構成となっている。
しかし、1フレームの過去の時間ノイズ低減処理後の画像信号を用いて平均値を算出する場合、1フレームに対応する動き量信号を保存すればよい。
つまり、用いる過去の画像信号のフレーム数に合わせて同フレーム数の動き量信号を保存する。
また、本実施形態では、過去の時間ノイズ低減処理後の画像信号を用いて近似信号を求めるが、過去の時間ノイズ低減処理前の画像信号を用いてもよい。
この場合、出力保存部114には、過去の時間ノイズ低減処理後の画像信号を保存する代わりに、過去の時間ノイズ低減処理前の画像信号を保存する。
平均算出部502は、制御部112の制御に基づき、動き除去部501からの動き量を除いた後の近似信号値と、(注目画素の代表値としての)注目画素の信号値の平均値(Color_av)を求める。
本実施形態では、代表値として、近似信号値と注目画素の信号値の平均値を求める構成となっているが、重み付で平均値を算出することも可能である。
例えば、現在フレームとの間隔に比較して、重み付対象となるフレームとの(時間)間隔が大きければ、そのフレームのウェート(重み付)を小さく設定し、逆にその間隔が小さければ、そのフレームのウェートを大きく設定する。
この場合、出力保存部114には、過去の時間ノイズ低減処理後の画像信号を保存する代わりに、過去の時間ノイズ低減処理前の画像信号を保存する。
平均算出部502は、制御部112の制御に基づき、動き除去部501からの動き量を除いた後の近似信号値と、(注目画素の代表値としての)注目画素の信号値の平均値(Color_av)を求める。
本実施形態では、代表値として、近似信号値と注目画素の信号値の平均値を求める構成となっているが、重み付で平均値を算出することも可能である。
例えば、現在フレームとの間隔に比較して、重み付対象となるフレームとの(時間)間隔が大きければ、そのフレームのウェート(重み付)を小さく設定し、逆にその間隔が小さければ、そのフレームのウェートを大きく設定する。
このウェートに基つき、注目画素に対応する各フレームの信号値を用いて平均値(Color_av)を代表値として求めることができる。なお、制御部112は、温度センサー部115からCCD102の温度情報を取得し、温度保存部508へ保存する。その際、温度保存部508には、温度情報が時刻或いは画像信号のフレームなどと関連付けて保存され、各画像信号が生成された場合の温度情報が分かるようにしている。
つまり、温度保存部508には、出力保存部114にある過去フレームの時間ノイズ低減処理後の画像信号の温度情報が保存されている。
さらに、平均算出部502は、制御部112の制御に基づき、出力保存部114にある過去フレームの時間ノイズ低減処理後の画像信号に対応する撮像素子の温度情報を温度保存部508から抽出し、現フレーム画像の温度情報と一緒に平均温度(T_av)を算出する。
制御部112の制御に基づき、平均温度(T_av)及び各注目画素の平均値(Color_av)の情報は、パラメータ選択部504に転送される。
さらに、平均算出部502は、制御部112の制御に基づき、出力保存部114にある過去フレームの時間ノイズ低減処理後の画像信号に対応する撮像素子の温度情報を温度保存部508から抽出し、現フレーム画像の温度情報と一緒に平均温度(T_av)を算出する。
制御部112の制御に基づき、平均温度(T_av)及び各注目画素の平均値(Color_av)の情報は、パラメータ選択部504に転送される。
パラメータ選択部504は、制御部112の制御に基づき、平均算出部502からの注目画素の平均値(Color_av)及び平均温度(T_av)、gain算出部503からのゲインの情報に基づき、時間ノイズ量を推定する。
換言すると、このパラメータ選択部504は、時間ノイズ量を推定するためのパラメータの選択処理を行う。また、このパラメータ選択部504は、時間ノイズ量を換算して算出するノイズ量換算手段の機能を持つ。
図7は、ある温度信号tにおいてゲイン(gain1,gain2,gain3)に関連する3種類の信号値レベルVに対応するノイズ量Nをプロットしたものである。このノイズ量Nは、信号値レベルVに対して2次曲線的に近似し単調増加となっている。図7を2次関数でノイズモデル化すると式1が得られる。
N = A*V2 + B*V + C (式1)
ここでA、B、Cは定数である。なお、異なる温度情報、ゲインなどに応じて複数の式1を記録することで、ノイズ量を算出するにはデータ量が煩雑である。このため、特開2005-303802号公報に開示される公知のモデル簡略化を行う。
換言すると、このパラメータ選択部504は、時間ノイズ量を推定するためのパラメータの選択処理を行う。また、このパラメータ選択部504は、時間ノイズ量を換算して算出するノイズ量換算手段の機能を持つ。
図7は、ある温度信号tにおいてゲイン(gain1,gain2,gain3)に関連する3種類の信号値レベルVに対応するノイズ量Nをプロットしたものである。このノイズ量Nは、信号値レベルVに対して2次曲線的に近似し単調増加となっている。図7を2次関数でノイズモデル化すると式1が得られる。
N = A*V2 + B*V + C (式1)
ここでA、B、Cは定数である。なお、異なる温度情報、ゲインなどに応じて複数の式1を記録することで、ノイズ量を算出するにはデータ量が煩雑である。このため、特開2005-303802号公報に開示される公知のモデル簡略化を行う。
最大のノイズ量を与えるモデルを基準モデルに設定し、これを所定数の折れ線で近似する(図8参照)。本実施形態では、温度情報、ゲインなどのノイズ特性に対応した基準ノイズモデルを具備している。
図8は、簡略化したノイズモデルの一例で、折れ線近似の形状で、基準ノイズモデルにおける信号値レベル対ノイズ量の関係を示している。
基準ノイズモデルを代表する、信号値レベル対ノイズ量の代表点はROM111に保存されている。本実施形態の一例においては、基準ノイズモデルの信号値レベル(Level)対ノイズ量(Noise)の代表点、及び各代表点と代表点間の区間の向きを表す傾斜点(Slope)が、ROM111に保存されている。
図8は、簡略化したノイズモデルの一例で、折れ線近似の形状で、基準ノイズモデルにおける信号値レベル対ノイズ量の関係を示している。
基準ノイズモデルを代表する、信号値レベル対ノイズ量の代表点はROM111に保存されている。本実施形態の一例においては、基準ノイズモデルの信号値レベル(Level)対ノイズ量(Noise)の代表点、及び各代表点と代表点間の区間の向きを表す傾斜点(Slope)が、ROM111に保存されている。
例えば、8点の代表点と7点の傾斜点の例を式2〜式4
Noise[8] = {N1, N2, N3, N4, N5, N6, N7, N8} (式2)
Level[8] = {L1, L2, L3, L4, L5, L6, L7, L8} (式3)
Slope[7] = {S1, S2, S3, S4, S5, S6, S7} (式4)
に示す。
ROM111には、また、温度、ゲイン及び色信号ごとのノイズ量を計算するための補正係数(Ktgc)も保存されている。なお、Ktgcは、K[temperature][gain][color]を簡略的に表している。
この補正係数Ktgcは各ノイズモデルと基準ノイズモデル間から最小2乗法により算出される。基準ノイズモデルから他のノイズモデルを導出するには、上記補正係数Ktgcを乗算することで行われる。
Noise[8] = {N1, N2, N3, N4, N5, N6, N7, N8} (式2)
Level[8] = {L1, L2, L3, L4, L5, L6, L7, L8} (式3)
Slope[7] = {S1, S2, S3, S4, S5, S6, S7} (式4)
に示す。
ROM111には、また、温度、ゲイン及び色信号ごとのノイズ量を計算するための補正係数(Ktgc)も保存されている。なお、Ktgcは、K[temperature][gain][color]を簡略的に表している。
この補正係数Ktgcは各ノイズモデルと基準ノイズモデル間から最小2乗法により算出される。基準ノイズモデルから他のノイズモデルを導出するには、上記補正係数Ktgcを乗算することで行われる。
例えば、ある温度tにおいてゲインが4種類、色信号がR、G、Bの3種類の例を式5
Kt[4][3] = {Kr1, Kg1, Kb1 ゲイン1
Kr2, Kg2, Kb2 ゲイン2
Kr3, Kg3, Kb3 ゲイン3
Kr4, Kg4, Kb4 } ゲイン4 (式5)
に示す。
図9は、検索された区間における信号値レベルAVに対するノイズ量Nを算出するための線形補間の例を示す。図示例では信号値レベルがLi-1とLiに対応するノイズ量はそれぞれNi-1とNiである区間における、この検索された区間における信号値レベルAVに対するノイズ量Nを、図9のように線形補間により算出する。
Kt[4][3] = {Kr1, Kg1, Kb1 ゲイン1
Kr2, Kg2, Kb2 ゲイン2
Kr3, Kg3, Kb3 ゲイン3
Kr4, Kg4, Kb4 } ゲイン4 (式5)
に示す。
図9は、検索された区間における信号値レベルAVに対するノイズ量Nを算出するための線形補間の例を示す。図示例では信号値レベルがLi-1とLiに対応するノイズ量はそれぞれNi-1とNiである区間における、この検索された区間における信号値レベルAVに対するノイズ量Nを、図9のように線形補間により算出する。
図8に示すある温度においてゲインgに対応するノイズ量は、図9に示す線形補間の方法により求めることができる。まず、信号値レベルが基準ノイズモデルのどの区間に属するかを検索する。
次に、検索された区間における線形補間処理を図9のように行い、基準ノイズ量Ngを求める。さらに、式6基づき、補正係数Ktgcを乗算することで、時間ノイズ量Nを算出する。
N = K[temperature][gain][color] * Ng (式6)
本実施形態においては、パラメータ選択部504は、平均算出部502からの信号値の平均値(Color_av)から信号値を、平均温度(T_av)から温度tを、ゲイン算出部504からのゲインの情報からゲインgを、それぞれ設定することにより、時間ノイズ量 Nを算出するためのパラメータの選択設定をする。
次に、検索された区間における線形補間処理を図9のように行い、基準ノイズ量Ngを求める。さらに、式6基づき、補正係数Ktgcを乗算することで、時間ノイズ量Nを算出する。
N = K[temperature][gain][color] * Ng (式6)
本実施形態においては、パラメータ選択部504は、平均算出部502からの信号値の平均値(Color_av)から信号値を、平均温度(T_av)から温度tを、ゲイン算出部504からのゲインの情報からゲインgを、それぞれ設定することにより、時間ノイズ量 Nを算出するためのパラメータの選択設定をする。
次に、パラメータ選択部504は、信号値が属する区間をROM111から検索し、これを補間部505へ転送する。さらに、パラメータ選択部504は、補正係数KtgcをROM111から抽出し、これを補正部506へ転送する。
補間部505は、制御部112の制御に基づき、パラメータ選択部504からの信号値及びノイズモデル区間情報に基づき、時間基準ノイズ量Ngを補間処理で算出し、補正部506へ転送する。
補正部506は、制御部112の制御に基づき、転送されてきた時間基準ノイズ量 Ng、補正係数Ktgcを用いて、式6に基づく補正処理で時間ノイズ量Nを算出する。
補間部505は、制御部112の制御に基づき、パラメータ選択部504からの信号値及びノイズモデル区間情報に基づき、時間基準ノイズ量Ngを補間処理で算出し、補正部506へ転送する。
補正部506は、制御部112の制御に基づき、転送されてきた時間基準ノイズ量 Ng、補正係数Ktgcを用いて、式6に基づく補正処理で時間ノイズ量Nを算出する。
このように本実施形態では、画像信号の輝度信号(信号値)、或いは色信号の信号値を用いて、画像信号のゲインや、撮像素子の温度の情報に基づいて時間ノイズ量Nを算出或いは換算するノイズ量換算手段を設けている。
算出された時間ノイズ量Nは、時間ノイズ除去部402に転送される。基準ノイズモデルに基づいて時間ノイズ量を求めることで、算出過程が簡略化され、高速処理や省電力化などが実現できる。
時間ノイズ除去部402は、制御部112の制御に基づき、バッファー部105からの画像信号及び時間ノイズ検出部401からの時間ノイズ量情報及び平均値を用いて、時間ノイズ除去処理を行う。そして、時間ノイズ低減処理された画像信号が生成される。
時間ノイズ除去部402による時間ノイズ除去処理、或いはこの時間ノイズ除去部402を経た時間ノイズ低減処理としては、ある位置の信号値(C)に対し、ノイズ量(N)と平均値(Color_av)を用いて、下記の式7に示されている演算を行う。
If (C > Color_av + N /2) → C’= C - N /2
If (Color_av + N /2 > C > Color_av - N /2) → C’= Color_av
If (C < Color_av - N /2) → C’= C + N /2 (式7)
時間ノイズ低減処理後の画像信号は、制御部112の制御に基づき、出力部110及び出力保存部114へ転送される。
時間ノイズ除去部402による時間ノイズ除去処理、或いはこの時間ノイズ除去部402を経た時間ノイズ低減処理としては、ある位置の信号値(C)に対し、ノイズ量(N)と平均値(Color_av)を用いて、下記の式7に示されている演算を行う。
If (C > Color_av + N /2) → C’= C - N /2
If (Color_av + N /2 > C > Color_av - N /2) → C’= Color_av
If (C < Color_av - N /2) → C’= C + N /2 (式7)
時間ノイズ低減処理後の画像信号は、制御部112の制御に基づき、出力部110及び出力保存部114へ転送される。
このように、本実施形態において、まず、空間ノイズ低減処理後の画像信号及び過去フレームの空間ノイズ低減処理後の画像信号に基づき、画素毎に差分値を算出して平滑化することで高精度に動き量信号を抽出する。
さらに、抽出した動き量及び過去フレームの時間ノイズ低減処理後の画像信号を用いて画像信号中のノイズ量を推定し、時間ノイズ低減処理を行うため、残像及びノイズ両方を高精度に抑えて高品質な画像信号が得られる。
なお、本実施形態では、検出された時間ノイズ量を用いて、上記式7に基づき、時間ノイズ低減処理を行う構成となっているが、この構成に限定されるものでない。
主観的により高い画質の映像信号を取得するため、残像抑制性能とノイズ低減性能を効果的にバランスさせるようにしても良い。ここで、時間ノイズ除去処理において一つの変形例(構成例)を説明する。
さらに、抽出した動き量及び過去フレームの時間ノイズ低減処理後の画像信号を用いて画像信号中のノイズ量を推定し、時間ノイズ低減処理を行うため、残像及びノイズ両方を高精度に抑えて高品質な画像信号が得られる。
なお、本実施形態では、検出された時間ノイズ量を用いて、上記式7に基づき、時間ノイズ低減処理を行う構成となっているが、この構成に限定されるものでない。
主観的により高い画質の映像信号を取得するため、残像抑制性能とノイズ低減性能を効果的にバランスさせるようにしても良い。ここで、時間ノイズ除去処理において一つの変形例(構成例)を説明する。
図10は、時間ノイズ除去部402の一つの例を示し、この時間ノイズ除去部402は、減衰係数選択部601及び時間ノイズ消去部602とから構成されている。
第1動き検出部108は、減衰係数選択部601及び時間ノイズ消去部602を介して出力部110及び出力保存部114と接続される。
バッファー部105及び時間ノイズ検出部401は、時間ノイズ消去部602と接続されている。ROM111は、減衰係数選択部601と接続されている。制御部112は、減衰係数選択部601及び時間ノイズ消去部602と双方向に接続されている。
減衰係数選択部601は、制御部112の制御により画素毎に第1動き検出部108からの動き量信号値を用いてROM111からの動き量閾値(W)と比較する。
第1動き検出部108は、減衰係数選択部601及び時間ノイズ消去部602を介して出力部110及び出力保存部114と接続される。
バッファー部105及び時間ノイズ検出部401は、時間ノイズ消去部602と接続されている。ROM111は、減衰係数選択部601と接続されている。制御部112は、減衰係数選択部601及び時間ノイズ消去部602と双方向に接続されている。
減衰係数選択部601は、制御部112の制御により画素毎に第1動き検出部108からの動き量信号値を用いてROM111からの動き量閾値(W)と比較する。
本実施形態においては、減衰係数選択部601は、動き量信号値が動き量閾値(M)より大きい場合、その画像信号の画素に対応する減衰係数(W1)に対応させ、動き量信号値が動き量閾値(M)より小さい場合、その画像信号の画素に対応する減衰係数(W2)に対応させる(0 ≦ W1 ≦ W2 ≦ 1)。
また、必要に応じて、動き量閾値を1つあるいは3つ以上に設定してもよい。その画素毎の減衰係数の情報は、時間ノイズ消去部602に転送される。
時間ノイズ消去部602は、制御部112の制御により、バッファー部105からの画像信号、減衰係数選択部601からの減衰係数情報、及び時間ノイズ検出部401からの時間ノイズ量情報及び平均値を用いて、時間ノイズの除去処理(消去処理)を行う。
また、必要に応じて、動き量閾値を1つあるいは3つ以上に設定してもよい。その画素毎の減衰係数の情報は、時間ノイズ消去部602に転送される。
時間ノイズ消去部602は、制御部112の制御により、バッファー部105からの画像信号、減衰係数選択部601からの減衰係数情報、及び時間ノイズ検出部401からの時間ノイズ量情報及び平均値を用いて、時間ノイズの除去処理(消去処理)を行う。
図10の時間ノイズ除去部402を採用した時間方向ノイズ低減処理は、ある位置の信号値(C)に対し、減衰係数(W)、ノイズ量(N)と平均値(Color_av)を用いて、下記の式8に示されている演算を行う。
If (C > Color_av + W * N /2) → C’= C - W * N /2
If (Color_av + W * N /2 > C > Color_av - W * N /2) → C’= Color_av
If (C < Color_av - W * N /2) → C’= C + W * N /2(式8)
ここで、より高いノイズ低減効果を求めるには、減衰係数Wを1以上に設定してもよい。こうして、動き量信号と減衰係数を連動させて、時間ノイズ低減処理を行うことにより、主観的により高い画質の映像信号を取得することが可能になる。
If (C > Color_av + W * N /2) → C’= C - W * N /2
If (Color_av + W * N /2 > C > Color_av - W * N /2) → C’= Color_av
If (C < Color_av - W * N /2) → C’= C + W * N /2(式8)
ここで、より高いノイズ低減効果を求めるには、減衰係数Wを1以上に設定してもよい。こうして、動き量信号と減衰係数を連動させて、時間ノイズ低減処理を行うことにより、主観的により高い画質の映像信号を取得することが可能になる。
時間ノイズ低減処理後の画像信号は、制御部112の制御に基づき、出力部110及び出力保存部114へ転送される。このように画像信号中の動き検出効果とのバランスを取りながら、適応的にノイズ低減処理を行うことが可能になる。
以上説明した本実施形態の動画像ノイズ低減処理装置99による動画像ノイズ低減処理としての画像処理は、ハードウェアにより実現されているが、このような構成に限定されるものでなく、ソフトウェアにより構成しても良い。
例えば、図1の動画像撮像装置97における動画像撮像部98を構成する撮像素子としてのCCD102からの画像信号を未処理のままのロー(RAW或いは生)データとしてメモリカードなどの記録媒体に記録すると共に、制御部112からの撮像時の情報(ISO感度やホワイトバランス係数など)をヘッダ情報として(或いは撮像条件を形成する付帯情報として)記録媒体に記録する。
以上説明した本実施形態の動画像ノイズ低減処理装置99による動画像ノイズ低減処理としての画像処理は、ハードウェアにより実現されているが、このような構成に限定されるものでなく、ソフトウェアにより構成しても良い。
例えば、図1の動画像撮像装置97における動画像撮像部98を構成する撮像素子としてのCCD102からの画像信号を未処理のままのロー(RAW或いは生)データとしてメモリカードなどの記録媒体に記録すると共に、制御部112からの撮像時の情報(ISO感度やホワイトバランス係数など)をヘッダ情報として(或いは撮像条件を形成する付帯情報として)記録媒体に記録する。
そして、別途のソフトウェアである画像処理プログラムをコンピュータに実行させて、記録媒体の情報をコンピュータに読み取らせ、処理することも可能である。
なお、動画像撮像部98からコンピュータへの各種情報の転送は、上述と同様に、記録媒体を介して行う場合に限らず、通信回線などを介して行うようにしても構わない。
図11 は、本実施形態における画像信号処理プログラムを用いてコンピュータ(以下、PCと略記)による処理手順を示すフローチャートである。
この処理を開始すると、まず、Step1においてPCは、画像信号や撮像条件などを読み込むと共に、この画像処理プログラムが予め備えている時間ノイズモデル及び空間ノイズモデルなどの情報も読み込み、次のStep2に進む。
上記Step1の処理は、図1の動画像撮像部98において、被写体を撮像して画像信号を取得する処理に相当している。
なお、動画像撮像部98からコンピュータへの各種情報の転送は、上述と同様に、記録媒体を介して行う場合に限らず、通信回線などを介して行うようにしても構わない。
図11 は、本実施形態における画像信号処理プログラムを用いてコンピュータ(以下、PCと略記)による処理手順を示すフローチャートである。
この処理を開始すると、まず、Step1においてPCは、画像信号や撮像条件などを読み込むと共に、この画像処理プログラムが予め備えている時間ノイズモデル及び空間ノイズモデルなどの情報も読み込み、次のStep2に進む。
上記Step1の処理は、図1の動画像撮像部98において、被写体を撮像して画像信号を取得する処理に相当している。
次のStep2においてPCは、画像処理プログラムが予め備えている空間ノイズモデルに基づき、画像信号に対して空間ノイズ低減処理を行い、Step3及びStep4へ進む。
続くStep3においてPCは、Step2からの空間ノイズ低減処理後の画像信号及びStep4からの過去フレームの空間ノイズ低減処理後の画像信号に基づき、第1動き検出処理を行い、Step5へ進む。
また、Step4においてPCは、空間ノイズ低減処理後の画像信号をメモリに、第1過去フレームの画像信号として一時保存する保存処理を行う。
このStep4においてメモリには、1つあるいは複数フレームの空間ノイズ低減処理後の画像信号が過去の画像信号として保存され、Step2から画像信号が転送されることに伴い、古いものから順次に上書きされる。
続くStep3においてPCは、Step2からの空間ノイズ低減処理後の画像信号及びStep4からの過去フレームの空間ノイズ低減処理後の画像信号に基づき、第1動き検出処理を行い、Step5へ進む。
また、Step4においてPCは、空間ノイズ低減処理後の画像信号をメモリに、第1過去フレームの画像信号として一時保存する保存処理を行う。
このStep4においてメモリには、1つあるいは複数フレームの空間ノイズ低減処理後の画像信号が過去の画像信号として保存され、Step2から画像信号が転送されることに伴い、古いものから順次に上書きされる。
そして、Step5においてPCは、画像処理プログラムが予め備えている時間ノイズモデルに基づき、画像信号に対し、Step3からの第1の動き量に基づき時間ノイズ低減処理を行い、Step6及びStep7へ進む。
次のStep6においてPCは、次のフレームのノイズ低減処理用に、このフレームの時間ノイズ低減処理後の画像信号を過去フレームの画像信号としてメモリに保存する。
ここで、メモリには所定枚数の時間ノイズ低減処理後の過去フレームの画像信号が保存されている。所定の保存枚数を保持する同時に、一番古い画像信号に新しい画像信号を順次上書きする。
最後に、Step7においてPCは、時間ノイズ低減処理後の画像信号を出力して、表示装置に表示したり、あるいは、メモリカードなどに保存したりした後、図11に示すこの画像処理(つまり図1の動画像ノイズ低減処理部99のハードウェアによる画像処理に対応するソフトウェアの画像処理)を終了する。
次のStep6においてPCは、次のフレームのノイズ低減処理用に、このフレームの時間ノイズ低減処理後の画像信号を過去フレームの画像信号としてメモリに保存する。
ここで、メモリには所定枚数の時間ノイズ低減処理後の過去フレームの画像信号が保存されている。所定の保存枚数を保持する同時に、一番古い画像信号に新しい画像信号を順次上書きする。
最後に、Step7においてPCは、時間ノイズ低減処理後の画像信号を出力して、表示装置に表示したり、あるいは、メモリカードなどに保存したりした後、図11に示すこの画像処理(つまり図1の動画像ノイズ低減処理部99のハードウェアによる画像処理に対応するソフトウェアの画像処理)を終了する。
図12は、本実施形態における第1動き検出部108の画像処理プログラムのフローチャートである。
この処理を開始すると、まず、Step11においてPCは、現在フレームの空間ノイズ低減処理後の画像信号と過去フレームの空間ノイズ低減処理後の画像信号を用いて、画素毎に減算処理で差分値を算出し、Step12へ進む。
次に、Step12においてPCは、公知の平滑処理を行う、例えば、例えば、図4に示されているフィルタF1〜F4を用いて公知の平滑処理を行う。
また、平滑処理の効果を高めるために、バイラテラルフィルタを適用することも可能である。バイラテラルフィルタは、通常画像信号の平滑処理において、画像信号中のエッジの部分を保持しつつ、ノイズなどによる微細な変動を平滑する特徴を持っている。
この処理を開始すると、まず、Step11においてPCは、現在フレームの空間ノイズ低減処理後の画像信号と過去フレームの空間ノイズ低減処理後の画像信号を用いて、画素毎に減算処理で差分値を算出し、Step12へ進む。
次に、Step12においてPCは、公知の平滑処理を行う、例えば、例えば、図4に示されているフィルタF1〜F4を用いて公知の平滑処理を行う。
また、平滑処理の効果を高めるために、バイラテラルフィルタを適用することも可能である。バイラテラルフィルタは、通常画像信号の平滑処理において、画像信号中のエッジの部分を保持しつつ、ノイズなどによる微細な変動を平滑する特徴を持っている。
空間ノイズ低減処理後の画像信号の差分信号に対してバイラテラルフィルタを適用するため、差分信号中の動き成分を保持しながら、空間ノイズ低減処理の後にまだ残されているノイズ成分を平滑化する効果がある。このStep12の処理が完了したら、その後は図11に示した処理へ復帰する。
図13は、本実施形態における時間ノイズ低減部109の画像処理プログラムのフローチャートである。
この処理を開始すると、まず、Step21においてPCは、現在フレームの画像信号に対して、動き量信号、CCDの温度情報、及び時間ノイズ低減処理後の1つ以上過去フレームの時間ノイズ低減処理後の画像信号に基づき、画素毎に時間ノイズ量を推定し、Step22へ進む。
図13は、本実施形態における時間ノイズ低減部109の画像処理プログラムのフローチャートである。
この処理を開始すると、まず、Step21においてPCは、現在フレームの画像信号に対して、動き量信号、CCDの温度情報、及び時間ノイズ低減処理後の1つ以上過去フレームの時間ノイズ低減処理後の画像信号に基づき、画素毎に時間ノイズ量を推定し、Step22へ進む。
次のStep22においてPCは、現在フレームの画像信号に対して、Step21からの時間ノイズ量、動き量信号に基づき時間ノイズ低減処理を行う。次のフレームのノイズ低減処理用に、このフレームの時間ノイズ低減処理後の画像信号を過去フレームの画像信号としてメモリに保存する。このStep22の処理が完了したら、その後は図11に示した処理へ復帰する。
図14は、本実施形態における時間ノイズ検出部401の画像処理プログラムのフローチャートである。
この処理を開始すると、まず、Step31においてPCは、現在フレームの画像信号に対して、動き量信号及び過去フレームの時間ノイズ低減処理後の画像信号に基づき、動き除去処理を行い、Step32へ進む。
図14は、本実施形態における時間ノイズ検出部401の画像処理プログラムのフローチャートである。
この処理を開始すると、まず、Step31においてPCは、現在フレームの画像信号に対して、動き量信号及び過去フレームの時間ノイズ低減処理後の画像信号に基づき、動き除去処理を行い、Step32へ進む。
具体的には、このStep31においてPCは、現在の画像信号に対応して、画素毎に過去フレームの時間ノイズ低減処理後の画像信号中の同一位置の画素値と対応する動き量信号値を加算する。
この動き量信号値は、注目画素に対応する過去フレームの画像信号から動き量を除いた後の近似信号である。
次のStep32においてPCは、Step31からの動き量を除いた後の近似信号値と注目画素の信号値の平均値(Color_av)を求める平均算出処理を行う。また、過去フレームの画像信号に対応する温度情報及び現フレーム画像の温度情報を用いて平均温度(T_av)を算出し、Step33へ進む。
この動き量信号値は、注目画素に対応する過去フレームの画像信号から動き量を除いた後の近似信号である。
次のStep32においてPCは、Step31からの動き量を除いた後の近似信号値と注目画素の信号値の平均値(Color_av)を求める平均算出処理を行う。また、過去フレームの画像信号に対応する温度情報及び現フレーム画像の温度情報を用いて平均温度(T_av)を算出し、Step33へ進む。
そして、Step33においてPCは、Step32からの平均値(Color_av)及び平均温度(T_av)、またメモリ上にあるゲインの情報に基づき時間ノイズ量の推定を行うためのパラメータとして選択処理を行い、Step34へ進む。
図8は、ノイズモデル簡略化の一例で折れ線近似の形状で、基準ノイズモデルにおける信号値レベル対ノイズ量の関連を示している。
ここで、平均値(Color_av)、温度情報(Color_av)、ゲインなどの情報を用いて、平均値(Color_av)が属するノイズモデル区間情報(信号例ベル対ノイズ量の代表点、対応する区間の向きを表す傾斜点)を検出し、さらに温度、ゲイン及び色信号ごとのノイズ量を計算するための補正係数(Ktgc)の各補正係数を、時間ノイズ量の推定を行うためのパラメータとして抽出する(式2-5)。
図8は、ノイズモデル簡略化の一例で折れ線近似の形状で、基準ノイズモデルにおける信号値レベル対ノイズ量の関連を示している。
ここで、平均値(Color_av)、温度情報(Color_av)、ゲインなどの情報を用いて、平均値(Color_av)が属するノイズモデル区間情報(信号例ベル対ノイズ量の代表点、対応する区間の向きを表す傾斜点)を検出し、さらに温度、ゲイン及び色信号ごとのノイズ量を計算するための補正係数(Ktgc)の各補正係数を、時間ノイズ量の推定を行うためのパラメータとして抽出する(式2-5)。
次のStep34においてPCは、Step33からの平均値(Color_av)及びノイズモデル区間情報に基づき、時間基準ノイズ量Ngを算出する補間処理を行い、Step35へ進む。
最後のStep35においてPCは、Step34からの時間基準ノイズ量Ng及び補正係数Ktgcを用いて、式6に基づく補正処理により、時間ノイズ量Nを算出する。
基準ノイズモデルに基づいて時間ノイズ量Nを求めることで、算出過程が簡略化され、高速処理や省電力化などが実現できる。このStep35の処理が完了したら、その後は図13に示した処理へ復帰する。
最後のStep35においてPCは、Step34からの時間基準ノイズ量Ng及び補正係数Ktgcを用いて、式6に基づく補正処理により、時間ノイズ量Nを算出する。
基準ノイズモデルに基づいて時間ノイズ量Nを求めることで、算出過程が簡略化され、高速処理や省電力化などが実現できる。このStep35の処理が完了したら、その後は図13に示した処理へ復帰する。
図15は、本実施形態における時間ノイズ除去部402の画像処理プログラムのフローチャートである。
この処理を開始すると、まず、Step41においてPCは、画素毎に、動き量信号値を用いてメモリからの動き量閾値(W)と比較して、減衰係数の選択処理を行う。
例えば、動き量信号値が動き量閾値(M)より大きい場合、その画像信号の画素に対応する減衰係数(W1)に対応させ、動き量信号値が動き量閾値(M)より小さい場合、その画像信号の画素に対応する減衰係数(W2)に対応させる(0 ≦ W1 ≦ W2 ≦ 1)選択処理を行う。
この減衰係数の選択処理後、Step42へ進む。次のStep42においてPCは、画素毎に、現在フレームと過去フレームの画像信号の平均値(Color_av)及び画像信号時間ノイズ量(N)、さらにStep41からの減衰係数(W)を用いて、式8に基づき時間ノイズの除去処理(消去処理)を行う。
例えば、動き量信号値が動き量閾値(M)より大きい場合、その画像信号の画素に対応する減衰係数(W1)に対応させ、動き量信号値が動き量閾値(M)より小さい場合、その画像信号の画素に対応する減衰係数(W2)に対応させる(0 ≦ W1 ≦ W2 ≦ 1)選択処理を行う。
この減衰係数の選択処理後、Step42へ進む。次のStep42においてPCは、画素毎に、現在フレームと過去フレームの画像信号の平均値(Color_av)及び画像信号時間ノイズ量(N)、さらにStep41からの減衰係数(W)を用いて、式8に基づき時間ノイズの除去処理(消去処理)を行う。
このように画像信号中の動き抑え効果とのバランスを取りながら、適応的にノイズ低減処理を行うことが可能になる。このStep42の処理が完了したら、その後は図13に示した処理へ復帰する。
このように動作する本実施形態は以下の効果を有する。
本実施形態は、空間ノイズ低減の処理後画像信号に対して、第1の動き量を推定する構成にしているので、第1の動き量、換言すると動き成分とランダムノイズの分離精度を向上することができる。
また、本実施例ではさらに、上記第1の動き量に基づいて、画像信号に対して時間ノイズ低減処理を行うので、エッジ等の画像の微細な部分をノイズ低減処理で平坦にしてしまうようなことを低減する。
従って、本実施形態によれば、高品位の画像信号が得られるようになる。
このように動作する本実施形態は以下の効果を有する。
本実施形態は、空間ノイズ低減の処理後画像信号に対して、第1の動き量を推定する構成にしているので、第1の動き量、換言すると動き成分とランダムノイズの分離精度を向上することができる。
また、本実施例ではさらに、上記第1の動き量に基づいて、画像信号に対して時間ノイズ低減処理を行うので、エッジ等の画像の微細な部分をノイズ低減処理で平坦にしてしまうようなことを低減する。
従って、本実施形態によれば、高品位の画像信号が得られるようになる。
次に本発明の第2の実施形態を説明する。
図16から図28は本発明の第2の実施形態に係り、図16は第2の実施形態の動画像ノイズ低減処理装置を備えた動画像撮像装置の構成を示し、図17は第2実施形態における第2動き検出部の構成を示し、図18は第2実施形態例における時間ノイズ低減部の構成を示し、図19は微分フィルタを示す。
図20は第2の実施形態における動き混合部の構成を示し、図21は第2実施形態例における時間ノイズ低減部の変形例の構成を示し、図22は第2の実施形態における動き混合部405の構成を示し、図23は色領域判断図を示し、図24は第2実施形態の画像処理プログラムの処理手順のフローチャートを示す。
図16から図28は本発明の第2の実施形態に係り、図16は第2の実施形態の動画像ノイズ低減処理装置を備えた動画像撮像装置の構成を示し、図17は第2実施形態における第2動き検出部の構成を示し、図18は第2実施形態例における時間ノイズ低減部の構成を示し、図19は微分フィルタを示す。
図20は第2の実施形態における動き混合部の構成を示し、図21は第2実施形態例における時間ノイズ低減部の変形例の構成を示し、図22は第2の実施形態における動き混合部405の構成を示し、図23は色領域判断図を示し、図24は第2実施形態の画像処理プログラムの処理手順のフローチャートを示す。
図25は第2実施形態における第2動き検出部の画像処理プログラムの処理手順のフローチャートを示し、図26は第2実施形態における時間ノイズ低減部の画像処理プログラムの処理手順のフローチャートを示し、図27は第2実施形態における時間ノイズ低減部の変形例の画像処理プログラムの処理手順のフローチャートを示し、図28は第2実施形態の動き混合部の変形例の画像処理プログラムの処理手順のフローチャートを示す。
まず、本実施形態の構成を説明する。
まず、本実施形態の構成を説明する。
[構成]
図16に示す第2の実施形態に係る動画像撮像装置97Bは、図1の動画像撮像装置97において、動画像ノイズ低減処理部99部分にさらに第2動き検出部117と、第2過去バファf−部116が設けられた動画像ノイズ低減処理部99Bを備えた構成である。
より詳細に説明すると、この動画像撮像装置97Bは、動画像撮像部98と動画像ノイズ低減処理部99Bを備えた構成である。
動画像撮像部98は、レンズ系100、絞り101、CCD102、アンプ103を備え、このアンプ103を介して時系列的に撮像された画像信号は、さらにCDS処理された後、A/D変換器104にてデジタル信号へ変換された後、動画像ノイズ低減処理部99Bを構成するバッファー部105に転送される。
図16に示す第2の実施形態に係る動画像撮像装置97Bは、図1の動画像撮像装置97において、動画像ノイズ低減処理部99部分にさらに第2動き検出部117と、第2過去バファf−部116が設けられた動画像ノイズ低減処理部99Bを備えた構成である。
より詳細に説明すると、この動画像撮像装置97Bは、動画像撮像部98と動画像ノイズ低減処理部99Bを備えた構成である。
動画像撮像部98は、レンズ系100、絞り101、CCD102、アンプ103を備え、このアンプ103を介して時系列的に撮像された画像信号は、さらにCDS処理された後、A/D変換器104にてデジタル信号へ変換された後、動画像ノイズ低減処理部99Bを構成するバッファー部105に転送される。
バッファー部105は、空間ノイズ低減部106、時間ノイズ低減部1109、第2過去バッファー部116及び第2動き検出部117と接続されている。空間ノイズ低減部106は、第1過去バッファー部107及び第1動き検出部108と接続されている。
第1過去バッファー部107は、第1動き検出部108と接続されている。第1動き検出部108は、時間ノイズ低減部1109を介して出力部110と接続されている。
時間ノイズ低減部1109は、出力保存部114と接続されている。ROM111は、空間ノイズ低減部106、第1動き検出部108、時間ノイズ低減部1109及び第2動き検出部117と接続されている。
出力保存部114は、時間ノイズ低減部1109と接続されている。温度センサー部115は、時間ノイズ低減部1109と接続されている。第2過去バッファー部116は、第2動き検出部117と接続されている。
第1過去バッファー部107は、第1動き検出部108と接続されている。第1動き検出部108は、時間ノイズ低減部1109を介して出力部110と接続されている。
時間ノイズ低減部1109は、出力保存部114と接続されている。ROM111は、空間ノイズ低減部106、第1動き検出部108、時間ノイズ低減部1109及び第2動き検出部117と接続されている。
出力保存部114は、時間ノイズ低減部1109と接続されている。温度センサー部115は、時間ノイズ低減部1109と接続されている。第2過去バッファー部116は、第2動き検出部117と接続されている。
第2動き検出部117は、時間ノイズ低減部1109と接続されている。制御部112は、アンプ103、A/D変換器104、バッファー部105、空間ノイズ低減部106、第1過去バッファー部107、第1動き検出部108、時間ノイズ低減部1109、出力部110、ROM111、外部I/F部113、出力保存部114、温度センサー部115、第2過去バッファー部116及び第2動き検出部117と双方向に接続されている。
次に本実施形態の作用を説明する。
次に本実施形態の作用を説明する。
[作用]
本実施形態は、第1の実施形態において、さらに過去のフレーム/フィールドの画像信号を用いて第2の動き量を推定する第2の動き量推定手段を有し、(第1の実施形態による第1の動き量の他に)この第2の動き量に基づいて時間ノイズ低減処理を行うようにしている。
このため、第1の実施形態の作用効果の他に、さらに第2の動き量を用いることによる作用効果、例えば第1の動き量と第2の動き量との混合比率により、より柔軟性に富むノイズ低減処理等を行うことができる。
基本的に第1の実施形態例と類似しているので、異なる部分を説明する。図16において、画像信号の流れを説明する。
本実施形態は、第1の実施形態において、さらに過去のフレーム/フィールドの画像信号を用いて第2の動き量を推定する第2の動き量推定手段を有し、(第1の実施形態による第1の動き量の他に)この第2の動き量に基づいて時間ノイズ低減処理を行うようにしている。
このため、第1の実施形態の作用効果の他に、さらに第2の動き量を用いることによる作用効果、例えば第1の動き量と第2の動き量との混合比率により、より柔軟性に富むノイズ低減処理等を行うことができる。
基本的に第1の実施形態例と類似しているので、異なる部分を説明する。図16において、画像信号の流れを説明する。
外部I/F部113を介して録画ボタンが押されると、動画像撮像部98を構成するレンズ系100、絞り101、CCD102及びアンプ103 を介して撮像された画像信号は、公知のCDS処理により信号成分が抽出されたアナログ画像信号として所定の時間間隔で連続的に出力される。本実施形態では時間間隔1/30秒を想定する。
なお、CCD102としては、RGBの各原色フィルタをそれぞれ前面に配置して構成される三板CCDを想定するが、これに限定されない。
連続的に出力される複数の画像信号を単に画像信号と、また1枚の画像信号を1フレームと表記するが、フィールドの場合にも同様に適用できる。
なお、CCD102としては、RGBの各原色フィルタをそれぞれ前面に配置して構成される三板CCDを想定するが、これに限定されない。
連続的に出力される複数の画像信号を単に画像信号と、また1枚の画像信号を1フレームと表記するが、フィールドの場合にも同様に適用できる。
上記アナログ画像信号は、A/D変換器104によってデジタル信号へ変換されてバッファー部105へ転送される。
バッファー部105は、1フレーム分の画像信号を記録可能であり、撮像に伴い順次に上書きされることになる。
バッファー部105内のフレームの画像信号は、制御部112の制御に基づき、所定のフレーム時間間隔(フレームレート)で間歇的に空間ノイズ低減部106、時間ノイズ低減部1109、第2過去バッファー部116及び第2動き検出部117に転送される。
第2過去バッファー部116は、制御部112の制御により、1つあるいは複数フレームの画像信号が過去の画像信号として保存され、バッファー部105から画像信号が転送されることに伴い、古いものから順次に上書きされる。
バッファー部105は、1フレーム分の画像信号を記録可能であり、撮像に伴い順次に上書きされることになる。
バッファー部105内のフレームの画像信号は、制御部112の制御に基づき、所定のフレーム時間間隔(フレームレート)で間歇的に空間ノイズ低減部106、時間ノイズ低減部1109、第2過去バッファー部116及び第2動き検出部117に転送される。
第2過去バッファー部116は、制御部112の制御により、1つあるいは複数フレームの画像信号が過去の画像信号として保存され、バッファー部105から画像信号が転送されることに伴い、古いものから順次に上書きされる。
本実施形態では、第2過去バッファー部116には、1フレームの過去の画像信号が保存されている。第2動き検出部117は、制御部112の制御に基づき、バッファー部105からの画像信号及び第2過去バッファー部116からの過去の1つあるいは複数フレームフレームの画像信号を用いて第2の動き量を検出する。
なお、第1動き検出部108は、前述したように空間ノイズ低減処理後の画像信号を用いて第1の動き量を検出する。これに対して、第2動き検出部117は、空間ノイズ低減処理がされていない画像信号を用いて第2の動き量を検出する。第2動き検出部117は、検出した第2の動き量を(図1の時間ノイズ低減部109に対応する)時間ノイズ低減部1109に転送する。
なお、第1動き検出部108は、前述したように空間ノイズ低減処理後の画像信号を用いて第1の動き量を検出する。これに対して、第2動き検出部117は、空間ノイズ低減処理がされていない画像信号を用いて第2の動き量を検出する。第2動き検出部117は、検出した第2の動き量を(図1の時間ノイズ低減部109に対応する)時間ノイズ低減部1109に転送する。
なお、第1の実施形態でも説明したが、図16における動画像ノイズ低減処理部99Bを構成する例えば空間ノイズ低減部106等、動画像ノイズ低減処理部99Bを構成する複数の構成要素の1つ或いは複数をソフトウェアを用いて構成しても良い。
ソフトウェアを用いて構成する場合には例えば図16における制御部112内の記録媒体等に、その動作を行う画像処理プログラム112bを格納するようにしても良い。そして、制御部112を構成するCPUがその画像処理プログラム112bを読み込み、その画像処理プログラム112bに従って対応する構成要素の動作をソフトウェアで行う。
ソフトウェアを用いて構成する場合には例えば図16における制御部112内の記録媒体等に、その動作を行う画像処理プログラム112bを格納するようにしても良い。そして、制御部112を構成するCPUがその画像処理プログラム112bを読み込み、その画像処理プログラム112bに従って対応する構成要素の動作をソフトウェアで行う。
なお、後述するように制御部112の外部のコンピュータ等が画像処理プログラム112bを読み込みソフトウェアで実行するようにしても良い。
図17は、第2動き検出部117の構成の一例を示す。この第2動き検出部117は、差分算出部701及び差分平滑部702から構成される。
第2過去バッファー部116及びバッファー部105は、差分算出部701及び差分平滑部702を介して時間ノイズ低減部1109と接続されている。ROM111は、差分平滑部702と接続されている。制御部112は、差分算出部701及び差分平滑部702と双方向に接続されている。
差分算出部701は、制御部112の制御に基づき、バッファー部105からの現在フレームの画像信号に対し、第2過去バッファー部116からの過去の1フレームの画像信号を用いて、減算処理で画素ごとの差分信号を算出する。
図17は、第2動き検出部117の構成の一例を示す。この第2動き検出部117は、差分算出部701及び差分平滑部702から構成される。
第2過去バッファー部116及びバッファー部105は、差分算出部701及び差分平滑部702を介して時間ノイズ低減部1109と接続されている。ROM111は、差分平滑部702と接続されている。制御部112は、差分算出部701及び差分平滑部702と双方向に接続されている。
差分算出部701は、制御部112の制御に基づき、バッファー部105からの現在フレームの画像信号に対し、第2過去バッファー部116からの過去の1フレームの画像信号を用いて、減算処理で画素ごとの差分信号を算出する。
差分算出部701は、算出した差分信号を差分平滑部702に転送する。差分平滑部702は、制御部112の制御により、差分算出部301からの差分信号に対して平滑処理を行う。
差分平滑部702は、例えば、図4に示されているフィルタF1〜F4を用いて公知の平滑処理を行う。本実施形態では、平滑処理の効果を高めるために、バイラテラルフィルタを適用する。
バイラテラルフィルタは、通常画像信号の平滑処理において、画像信号中のエッジの部分を保持しつつ、ノイズなどによる微細な変動を平滑する特徴を持っている。
本実施形態では、空間ノイズ低減処理後の画像信号の差分信号に対してバイラテラルフィルタを適用するため、差分信号中の動き成分を保持しながら、ノイズ成分を平滑化する効果がある。差分平滑部702は、平滑処理後の差分信号を第2の動き量信号として時間ノイズ低減部1109に転送する。
差分平滑部702は、例えば、図4に示されているフィルタF1〜F4を用いて公知の平滑処理を行う。本実施形態では、平滑処理の効果を高めるために、バイラテラルフィルタを適用する。
バイラテラルフィルタは、通常画像信号の平滑処理において、画像信号中のエッジの部分を保持しつつ、ノイズなどによる微細な変動を平滑する特徴を持っている。
本実施形態では、空間ノイズ低減処理後の画像信号の差分信号に対してバイラテラルフィルタを適用するため、差分信号中の動き成分を保持しながら、ノイズ成分を平滑化する効果がある。差分平滑部702は、平滑処理後の差分信号を第2の動き量信号として時間ノイズ低減部1109に転送する。
図18は、時間ノイズ低減部1109の構成の一例を示す。この時間ノイズ低減部1109は、時間ノイズ検出部401及び時間ノイズ除去部402の他に、(画像信号と相関する相関情報を検出する相関情報検出部となる)エッジを検出するエッジ検出部404及び動き混合部405を備えた構成である。
バッファー部105は、時間ノイズ検出部401及び時間ノイズ除去部402を介して出力部110と接続されている。また、バッファー部105は、時間ノイズ除去部402及びエッジ検出部404と接続されている。
第1動き検出部108及び第2動き検出部117は、動き混合部405と接続され、この動き混合部405は、第1の動き量及び第2の動き量を所定の混合率で混合することにより、第3の動き量を算出する第3の動き量推定手段を形成する。
バッファー部105は、時間ノイズ検出部401及び時間ノイズ除去部402を介して出力部110と接続されている。また、バッファー部105は、時間ノイズ除去部402及びエッジ検出部404と接続されている。
第1動き検出部108及び第2動き検出部117は、動き混合部405と接続され、この動き混合部405は、第1の動き量及び第2の動き量を所定の混合率で混合することにより、第3の動き量を算出する第3の動き量推定手段を形成する。
動き混合部405は、時間ノイズ検出部401及び時間ノイズ除去部402と接続されている。
ROM111は、時間ノイズ検出部401、時間ノイズ除去部402及び動き混合部405と接続されている。出力保存部114は、時間ノイズ検出部401及び時間ノイズ除去部402と接続されている。
相関情報検出部の1つの構成例としてのエッジ検出部404は、動き混合部405と接続されている。温度センサー部115は、時間ノイズ検出部401と接続されている。制御部112は、時間ノイズ検出部401、時間ノイズ除去部402、動き混合部405及びエッジ検出部404と双方向に接続されている。
ROM111は、時間ノイズ検出部401、時間ノイズ除去部402及び動き混合部405と接続されている。出力保存部114は、時間ノイズ検出部401及び時間ノイズ除去部402と接続されている。
相関情報検出部の1つの構成例としてのエッジ検出部404は、動き混合部405と接続されている。温度センサー部115は、時間ノイズ検出部401と接続されている。制御部112は、時間ノイズ検出部401、時間ノイズ除去部402、動き混合部405及びエッジ検出部404と双方向に接続されている。
本実施形態においては、画像信号からその画像信号と相関性を有する相関情報としてのエッジ情報を検出するエッジ検出部404を相関情報検出部として備えている。
相関情報検出部としては、エッジ情報を検出するのもに限定されるものでなく、後述する色情報の検出手段でも良い。
次にこの時間ノイズ低減部1109の作用を説明する。
エッジ検出部404は、制御部112の制御に基づき、バッファー部105からの現在フレームの画像信号を用いて公知のエッジ検出処理を行う。
本実施形態では、図19に示されているように縦(垂直)方向の微分フィルタFvと、横(水平)方向の微分フィルタFhを用いてエッジ検出処理を行う。
相関情報検出部としては、エッジ情報を検出するのもに限定されるものでなく、後述する色情報の検出手段でも良い。
次にこの時間ノイズ低減部1109の作用を説明する。
エッジ検出部404は、制御部112の制御に基づき、バッファー部105からの現在フレームの画像信号を用いて公知のエッジ検出処理を行う。
本実施形態では、図19に示されているように縦(垂直)方向の微分フィルタFvと、横(水平)方向の微分フィルタFhを用いてエッジ検出処理を行う。
各画素における横方向の差分をΔxf(i,j)、縦方向の差分をΔyf(i,j)、としたとき、(Δxf(i,j),Δyf(i,j))は、画素値の勾配を表わす。
以下の式9に基づき、画素毎の勾配の大きさ(エッジ強度)Egを算出する。算出したエッジ強度Egの情報を動き混合部405へ転送する。
以下の式9に基づき、画素毎の勾配の大きさ(エッジ強度)Egを算出する。算出したエッジ強度Egの情報を動き混合部405へ転送する。
Eg={(Δxf(i,j))2+(Δyf(i,j))2}1/2 (式9)
動き混合部405は、エッジ検出部404からのエッジ強度Egの情報に基づき、第1動き検出部108からの第1の動き量信号と第2の動き検出部117からの第2の動き量信号の混合処理を行う。
図20は、動き混合部405の構成の一例を示す。この動き混合部405は、混合率設定部801及び混合処理部802から構成される。
動き混合部405は、エッジ検出部404からのエッジ強度Egの情報に基づき、第1動き検出部108からの第1の動き量信号と第2の動き検出部117からの第2の動き量信号の混合処理を行う。
図20は、動き混合部405の構成の一例を示す。この動き混合部405は、混合率設定部801及び混合処理部802から構成される。
エッジ検出部404は、混合率設定部801及び混合処理部802を介して時間ノイズ検出部401及び時間ノイズ除去部402と接続されている。第1動き検出部108及び第2動き検出部117は、混合処理部802と接続されている。 ROM111は、混合率設定部801及び混合処理部802と接続されている。制御部112は、混合率設定部801及び混合処理部802と双方向に接続されている。
次にこの動き混合部405の作用を説明する。
本実施形態では、混合率設定部801は、制御部112の制御に基づき、エッジ検出部404からのエッジ強度を用いて、画素毎にROM111からのエッジ強度閾値Etと比較して第1の動き量信号と第2の動き量信号の混合率を設定する。
次にこの動き混合部405の作用を説明する。
本実施形態では、混合率設定部801は、制御部112の制御に基づき、エッジ検出部404からのエッジ強度を用いて、画素毎にROM111からのエッジ強度閾値Etと比較して第1の動き量信号と第2の動き量信号の混合率を設定する。
混合率設定部801は、画素ごとのエッジ強度Egがエッジ強度閾値Etより大きい場合、第1動き検出部108からの第2の動き量信号の混合率をMix1に、第2動き検出部117からの第2の動き量信号の混合率をMix2に設定する。
一方、混合率設定部801は、画素ごとのエッジ強度Egがエッジ強度閾値Etより小さい場合、第1動き検出部からの第2の動き量信号の混合率をMix1’に、第2動き検出部からの第2の動き量信号の混合率をMix2’に設定する。
但し、以下の式10の条件を満たすようにして設定する。
Mix1 + Mix2 = 1
Mix1’+ Mix2’= 1
Mix1 <= Mix1’, Mix2 >= Mix2’ (式10)
そして、混合率設定部801は、設定した混合率を混合処理部802へ転送する。
一方、混合率設定部801は、画素ごとのエッジ強度Egがエッジ強度閾値Etより小さい場合、第1動き検出部からの第2の動き量信号の混合率をMix1’に、第2動き検出部からの第2の動き量信号の混合率をMix2’に設定する。
但し、以下の式10の条件を満たすようにして設定する。
Mix1 + Mix2 = 1
Mix1’+ Mix2’= 1
Mix1 <= Mix1’, Mix2 >= Mix2’ (式10)
そして、混合率設定部801は、設定した混合率を混合処理部802へ転送する。
混合処理部802は、制御部112に基づき、式11により、転送されてきた混合率を用いて、第1動き検出部108からの第1の動き量信号と第2動き検出部117からの第2の動き量信号との混合処理を行う。
MoveMix = Move1 * Mix1 + Move2 * Mix2
MoveMix = Move1 * Mix1’ + Move2 * Mix2’ (式11)
(ここで、MoveMixは混合処理後の動き量信号値、Move1は第1の動き量信号値、Move2は第2の動き量信号値)
混合処理部802は、混合処理後の動き量信号を第3の動き量信号として、時間ノイズ検出部401及び時間ノイズ除去部402に転送する。
MoveMix = Move1 * Mix1 + Move2 * Mix2
MoveMix = Move1 * Mix1’ + Move2 * Mix2’ (式11)
(ここで、MoveMixは混合処理後の動き量信号値、Move1は第1の動き量信号値、Move2は第2の動き量信号値)
混合処理部802は、混合処理後の動き量信号を第3の動き量信号として、時間ノイズ検出部401及び時間ノイズ除去部402に転送する。
空間ノイズ低減処理において、ノイズ平滑処理により画像信号エッジ部がなまってしまう可能性がある。従って、エッジのある画像領域においては、空間ノイズ低減処理後の画像信号から抽出された第2の動き量信号の抽出精度に影響を与える。
これを解決するために、上記の構成では、まず、画像信号からエッジ強度を検出する。次に、画像信号及び過去フレームの画像信号を用いて第2の動き量信号を算出する。
そして、画素毎のエッジ強度Egに基づき、第1の動き量信号と第2動き信号の混合率を設定し、動き混合処理を行う。こうして、エッジ強度Egの大きさに応じて動き量信号を算出することにより、エッジ成分を保持しながら、高精度に動き量信号を抽出することが可能となる。
これを解決するために、上記の構成では、まず、画像信号からエッジ強度を検出する。次に、画像信号及び過去フレームの画像信号を用いて第2の動き量信号を算出する。
そして、画素毎のエッジ強度Egに基づき、第1の動き量信号と第2動き信号の混合率を設定し、動き混合処理を行う。こうして、エッジ強度Egの大きさに応じて動き量信号を算出することにより、エッジ成分を保持しながら、高精度に動き量信号を抽出することが可能となる。
上記の構成では、エッジ強度Egに応じて第1の動き量信号と第2の動き量信号の混合率を設定し混合処理を行うが、この構成の場合に限定されるものでない。
例えば、医療関連の内視鏡画像において、毛細血管、病変体などの特定色領域においては、微細構造を保持しながらノイズレベルを抑えることが望まれる。これを実現するための時間ノイズ低減処理の変形例を説明する。
図21は、図18の時間ノイズ低減処理部1109の変形例の時間ノイズ低減処理部1109Bの構成を示す。この時間ノイズ低減処理部1109Bは、図18の構成におけるエッジ検出部404の代わりに、色検出部406を設けた構成としている。また、動き混合部405の代わりの(変形例の)動き混合部405Bを採用している。
例えば、医療関連の内視鏡画像において、毛細血管、病変体などの特定色領域においては、微細構造を保持しながらノイズレベルを抑えることが望まれる。これを実現するための時間ノイズ低減処理の変形例を説明する。
図21は、図18の時間ノイズ低減処理部1109の変形例の時間ノイズ低減処理部1109Bの構成を示す。この時間ノイズ低減処理部1109Bは、図18の構成におけるエッジ検出部404の代わりに、色検出部406を設けた構成としている。また、動き混合部405の代わりの(変形例の)動き混合部405Bを採用している。
バッファー部105は、時間ノイズ検出部401及び時間ノイズ除去部402を介して出力部110と接続されている。バッファー部105は、時間ノイズ除去部402及び色検出部406と接続されている。
第1動き検出部108及び第2動き検出部117は、動き混合部405Bと接続されている。動き混合部405は、時間ノイズ検出部401及び時間ノイズ除去部402と接続されている。
ROM111は、時間ノイズ検出部401、時間ノイズ除去部402、動き混合部405及び色検出部406と接続されている。出力保存部114は、時間ノイズ検出部401及び時間ノイズ除去部402と接続されている。
第1動き検出部108及び第2動き検出部117は、動き混合部405Bと接続されている。動き混合部405は、時間ノイズ検出部401及び時間ノイズ除去部402と接続されている。
ROM111は、時間ノイズ検出部401、時間ノイズ除去部402、動き混合部405及び色検出部406と接続されている。出力保存部114は、時間ノイズ検出部401及び時間ノイズ除去部402と接続されている。
色検出部406は、動き混合部405Bと接続されている。温度センサー部115は、時間ノイズ検出部401と接続されている。制御部112は、時間ノイズ検出部401、時間ノイズ除去部402、動き混合部405B及び色検出部406と双方向に接続されている。
次に色検出部406を備えた時間ノイズ低減処理部1109Bの作用を説明する。
色検出部406は、制御部112の制御により、バッファー部105からの現在フレームの画像信号を用いて公知の色情報検出処理を行う。
色検出部406は、まず、式12に基づき、バッファー部105からのRGBの画像信号から色差信号CrCbを算出し、動き混合部405Bへ転送する。
Crij = b1 * Rij + b2 * Gij + b3 * Bij
Cbij = b4 * Rij + b5 * Gij + b6 * Bij (式12)
(ここで、Cbij、Crij:画素色差値 b1〜b6:定数 Rij:R信号 Gij:G信号 Bij:B信号 i、j:画像信号の座標値)
図22は、図21に示す変形例の時間ノイズ低減部1109Bの構成の場合に対応した変形例の動き混合部405Bの構成例を示す。
次に色検出部406を備えた時間ノイズ低減処理部1109Bの作用を説明する。
色検出部406は、制御部112の制御により、バッファー部105からの現在フレームの画像信号を用いて公知の色情報検出処理を行う。
色検出部406は、まず、式12に基づき、バッファー部105からのRGBの画像信号から色差信号CrCbを算出し、動き混合部405Bへ転送する。
Crij = b1 * Rij + b2 * Gij + b3 * Bij
Cbij = b4 * Rij + b5 * Gij + b6 * Bij (式12)
(ここで、Cbij、Crij:画素色差値 b1〜b6:定数 Rij:R信号 Gij:G信号 Bij:B信号 i、j:画像信号の座標値)
図22は、図21に示す変形例の時間ノイズ低減部1109Bの構成の場合に対応した変形例の動き混合部405Bの構成例を示す。
色検出部406は、混合率設定部901及び混合処理部902を介して時間ノイズ検出部401及び時間ノイズ除去部402と接続されている。第1動き検出部108及び第2動き検出部117は、混合処理部902と接続されている。
ROM111は、混合率設定部901及び混合処理部902と接続されている。制御部112は、混合率設定部901及び混合処理部902と双方向に接続されている。
次にこの動き混合部405Bの作用を説明する。
この動き混合部405Bにおいては、混合率設定部901は、制御部112の制御に基づき画素毎に、以下の式13により色差信号CrCbから構成される色領域の色差角度を算出する。
ROM111は、混合率設定部901及び混合処理部902と接続されている。制御部112は、混合率設定部901及び混合処理部902と双方向に接続されている。
次にこの動き混合部405Bの作用を説明する。
この動き混合部405Bにおいては、混合率設定部901は、制御部112の制御に基づき画素毎に、以下の式13により色差信号CrCbから構成される色領域の色差角度を算出する。
次に、混合率設定部901は、ROM111から注目エッジ領域S(例えば、内視鏡画像の場合、血管、病変体の特定領域など)が対応する所定色差領域であるかを判断する閾値(T1、T2)を抽出する。続いて、式14に基づき上記算出された色差角度が所定の色領域に入っているか否かを判断(色判断)する。
Angleij = arctg(Cbij / Crij) (式13)
(ここで、arctgはアークタンジェントを返す関数である)
T1 < Angleij < T2 (式14)
(T1、T2はある色分割領域の角度閾値である)
図23は、色差信号Cr、Cbの色領域において式13により算出された色差角度が、閾値T1、T2による所定の色領域に入っている判断結果の図を示す。
Angleij = arctg(Cbij / Crij) (式13)
(ここで、arctgはアークタンジェントを返す関数である)
T1 < Angleij < T2 (式14)
(T1、T2はある色分割領域の角度閾値である)
図23は、色差信号Cr、Cbの色領域において式13により算出された色差角度が、閾値T1、T2による所定の色領域に入っている判断結果の図を示す。
そして、混合率設定部901は、制御部112の制御に基づき、上記の色判断の情報を用いて、画素毎にROM111から第1の動き量信号と第2の動き量信号の混合率を設定する。
混合率設定部901は、色差信号値が所定色量域に入っている場合、第1動き検出部からの第2の動き量信号の混合率をMix1に、第2動き検出部からの第2の動き量信号の混合率をMix2に設定する。
一方、混合率設定部901は、色差信号値が所定色量域に入っていない場合、第1動き検出部からの第2の動き量信号の混合率をMix1’に、第2動き検出部からの第2の動き量信号の混合率をMix2’に設定する。但し、上記式10の条件を満たす必要がある。
混合率設定部901は、色差信号値が所定色量域に入っている場合、第1動き検出部からの第2の動き量信号の混合率をMix1に、第2動き検出部からの第2の動き量信号の混合率をMix2に設定する。
一方、混合率設定部901は、色差信号値が所定色量域に入っていない場合、第1動き検出部からの第2の動き量信号の混合率をMix1’に、第2動き検出部からの第2の動き量信号の混合率をMix2’に設定する。但し、上記式10の条件を満たす必要がある。
混合率設定部901は、設定した混合率を混合処理部902へ転送する。混合処理部902は、制御部112に基づき、式11で転送されてきた混合率を用いて、第1動き検出部108からの第1の動き量信号と第2動き検出部117からの第2の動き量信号との混合処理を行う。
そして、混合処理部902は、混合処理後の動き量信号を時間ノイズ検出部401及び時間ノイズ除去部402へ転送する。
本実施形態は、第1の実施形態と同じように、時間ノイズ検出部401において混合処理後の動き量信号に基づき、ノイズ量を検出し、時間ノイズ除去部402において式7に基づき時間ノイズ低減処理を行う。なお、減衰係数を設定して、式8に基づき時間ノイズ低減処理を行ってもよい。
そして、混合処理部902は、混合処理後の動き量信号を時間ノイズ検出部401及び時間ノイズ除去部402へ転送する。
本実施形態は、第1の実施形態と同じように、時間ノイズ検出部401において混合処理後の動き量信号に基づき、ノイズ量を検出し、時間ノイズ除去部402において式7に基づき時間ノイズ低減処理を行う。なお、減衰係数を設定して、式8に基づき時間ノイズ低減処理を行ってもよい。
このように、内視鏡画像を処理する場合、式10に基づき、血管、病変体の特定領域及びそれ以外の領域に対してそれぞれ第1の動き量信号及び第2の動き量信号の混合率を設定して混合することで、上記特定領域の繊細な部分を保持しながら、高精度に動き検出することが可能になる。
以上説明した本実施形態における画像信号処理は、ハードウェアにより実現しているが、このような構成に限定される必要がない。
例えば、動画像撮像部98を構成するCCD102からの信号を未処理のままのロー(RAW)データとしてメモリカードなどの記録媒体に記録するとともに、制御部112からの撮像時の撮像条件の情報(ISO感度やホワイトバランス係数など)をヘッダ情報等として記録媒体に記録しておく。
以上説明した本実施形態における画像信号処理は、ハードウェアにより実現しているが、このような構成に限定される必要がない。
例えば、動画像撮像部98を構成するCCD102からの信号を未処理のままのロー(RAW)データとしてメモリカードなどの記録媒体に記録するとともに、制御部112からの撮像時の撮像条件の情報(ISO感度やホワイトバランス係数など)をヘッダ情報等として記録媒体に記録しておく。
そして、別途のソフトウェアである画像処理プログラムをコンピュータに実行させて、記録媒体の情報をコンピュータに読み取らせ、処理することも可能である。なお、動画像撮像部98からコンピュータへの各種情報の転送は、上述と同様に、記録媒体を介して行うに限らず、通信回線などを介して行うようにしても構わない。
図24は、本実施形態における画像処理プログラムに従ってPCにより実行される処理手順を示すフローチャートである。
この処理を開始すると、まず、Step61においてPCは、画像信号や撮像条件の情報などを読み込むとともに、本画像処理プログラムが予め備えている時間ノイズモデル及び空間ノイズモデルなどの情報も読み込んで、Step62、Step65、及びStep66進む。
図24は、本実施形態における画像処理プログラムに従ってPCにより実行される処理手順を示すフローチャートである。
この処理を開始すると、まず、Step61においてPCは、画像信号や撮像条件の情報などを読み込むとともに、本画像処理プログラムが予め備えている時間ノイズモデル及び空間ノイズモデルなどの情報も読み込んで、Step62、Step65、及びStep66進む。
このStep61の処理は、動画撮像装置97Bにおいて、被写体を撮像した画像信号を取得する処理に相当している。
次のStep62においてPCは、画像処理プログラムが予め備えている空間ノイズモデルに基づき、画像信号に対して空間方向の空間ノイズ低減処理を行い、Step63及びStep64へ進む。
続くStep63においてPCは、Step62からの空間ノイズ低減処理後の画像信号及びStep64からの第1過去フレームの空間ノイズ低減処理後の画像信号に基づき、第1動き検出処理を行い、Step67へ進む。
また、Step64においてPCは、空間ノイズ低減処理後の画像信号をメモリに一時保存する。このStep64においては、1つあるいは複数フレームの空間ノイズ低減処理後の画像信号が第1過去の画像信号として保存されていて、Step62から画像信号が転送されるに伴い順次に上書きされる。
次のStep62においてPCは、画像処理プログラムが予め備えている空間ノイズモデルに基づき、画像信号に対して空間方向の空間ノイズ低減処理を行い、Step63及びStep64へ進む。
続くStep63においてPCは、Step62からの空間ノイズ低減処理後の画像信号及びStep64からの第1過去フレームの空間ノイズ低減処理後の画像信号に基づき、第1動き検出処理を行い、Step67へ進む。
また、Step64においてPCは、空間ノイズ低減処理後の画像信号をメモリに一時保存する。このStep64においては、1つあるいは複数フレームの空間ノイズ低減処理後の画像信号が第1過去の画像信号として保存されていて、Step62から画像信号が転送されるに伴い順次に上書きされる。
Step65においてPCは、画像信号及びStep66からの第2過去フレームの画像信号に基づき第2動き検出処理を行い、Step67へ進む。また、Step66においてPCは、画像信号をメモリに一時保存する。
このStep66においては、1つあるいは複数フレームの画像信号が第2過去の画像信号として保存されていて、Step61から画像信号が転送されることに伴い順次に上書きされる。
続くStep67においてPCは、画像処理プログラムが予め備えている時間ノイズモデルに基づき、Step61からの画像信号に対し、Step63からの第1の動き量信号及びStep65からの第2の動き量信号に基づき、時間方向ノイズ低減処理を行い、Step68及びStep69へ進む。
このStep66においては、1つあるいは複数フレームの画像信号が第2過去の画像信号として保存されていて、Step61から画像信号が転送されることに伴い順次に上書きされる。
続くStep67においてPCは、画像処理プログラムが予め備えている時間ノイズモデルに基づき、Step61からの画像信号に対し、Step63からの第1の動き量信号及びStep65からの第2の動き量信号に基づき、時間方向ノイズ低減処理を行い、Step68及びStep69へ進む。
次のStep68においてPCは、次のフレームのノイズ低減処理用に、このフレームの時間ノイズ低減処理後の画像信号を過去フレームの画像信号としてメモリに保存する。ここで、所定枚数の時間ノイズ低減処理後の過去フレームの画像信号が保存されている。
PCは、時間ノイズ低減処理後の画像信号を過去フレームの画像信号としてメモリに所定の保存枚数を保持する同時に、一番古い画像信号に新しい画像信号を順次上書きする。
最後のStep69においてPCは、時間ノイズ低減処理後の画像信号を出力して、表示装置に表示したり、あるいは、メモリカードなどに保存したりした後、図24の処理を終了する。
PCは、時間ノイズ低減処理後の画像信号を過去フレームの画像信号としてメモリに所定の保存枚数を保持する同時に、一番古い画像信号に新しい画像信号を順次上書きする。
最後のStep69においてPCは、時間ノイズ低減処理後の画像信号を出力して、表示装置に表示したり、あるいは、メモリカードなどに保存したりした後、図24の処理を終了する。
図25は、本実施形態における第2動き検出部117の画像処理プログラムのフローチャートである。
この処理を開始すると、まず、Step71においてPCは、現在フレームの画像信号と過去フレームの画像信号を用いて、画素毎に減算処理で差分値を算出し、Step72へ進む。
次のStep72においてPCは、差分値に対して、公知の平滑処理を行う、例えば、図4に示されているフィルタF1−F4を用いて公知の平滑処理を行う。また、平滑処理の効果を高めるために、バイラテラルフィルタを適用することも可能である。
バイラテラルフィルタは、通常画像信号の平滑処理において、画像信号中のエッジの部分を保持しつつ、ノイズなどによる微細な変動を平滑する特徴を持っている。
この処理を開始すると、まず、Step71においてPCは、現在フレームの画像信号と過去フレームの画像信号を用いて、画素毎に減算処理で差分値を算出し、Step72へ進む。
次のStep72においてPCは、差分値に対して、公知の平滑処理を行う、例えば、図4に示されているフィルタF1−F4を用いて公知の平滑処理を行う。また、平滑処理の効果を高めるために、バイラテラルフィルタを適用することも可能である。
バイラテラルフィルタは、通常画像信号の平滑処理において、画像信号中のエッジの部分を保持しつつ、ノイズなどによる微細な変動を平滑する特徴を持っている。
空間ノイズ低減処理後の画像信号の差分信号に対してバイラテラルフィルタを適用するため、差分信号中の動き成分を保持しながら、空間ノイズ低減処理の後にまだ残されているノイズ成分を平滑化する効果がある。
このStep72の処理が完了したら、その後は図24に示した処理へ復帰する。
図26は、本実施形態における時間ノイズ低減部1109の画像処理プログラムのフローチャートである。
この処理を開始すると、まず、Step81においてPCは、現在フレームの画像信号、第1の動き量信号及び第2の動き量信号、CCDの温度情報などを読み込み、Step82へ進む。
このStep72の処理が完了したら、その後は図24に示した処理へ復帰する。
図26は、本実施形態における時間ノイズ低減部1109の画像処理プログラムのフローチャートである。
この処理を開始すると、まず、Step81においてPCは、現在フレームの画像信号、第1の動き量信号及び第2の動き量信号、CCDの温度情報などを読み込み、Step82へ進む。
続くStep82においてPCは、画像信号に対して、公知のエッジ検出処理を行い、Step83へ進む。例えば、図19に示されている縦方向微分フィルタFv及び横方向微分フィルタFhを用いてエッジ検出処理を行い、式9で画素毎のエッジ強度を算出する。
次のStep83においてPCは、第1の動き量信号、第2の動き量信号及びエッジ強度情報に基づき、式13、14で判断して式10、11で動き量信号の混合処理を行い、Step84へ進む。なお、この混合処理は、第3の動き量(信号)を算出する第3の動き量推定処理に相当する。
そして、Step84においてPCは、現在フレームの画像信号に対して、混合処理後の動き量信号(換言すると第3の動き量信号)、CCDの温度情報、及び時間ノイズ低減処理後の1つ以上過去フレームの時間ノイズ低減処理後の画像信号に基づき、画素毎に時間ノイズ量を推定し、Step85へ進む。
次のStep83においてPCは、第1の動き量信号、第2の動き量信号及びエッジ強度情報に基づき、式13、14で判断して式10、11で動き量信号の混合処理を行い、Step84へ進む。なお、この混合処理は、第3の動き量(信号)を算出する第3の動き量推定処理に相当する。
そして、Step84においてPCは、現在フレームの画像信号に対して、混合処理後の動き量信号(換言すると第3の動き量信号)、CCDの温度情報、及び時間ノイズ低減処理後の1つ以上過去フレームの時間ノイズ低減処理後の画像信号に基づき、画素毎に時間ノイズ量を推定し、Step85へ進む。
最後のStep85においてPCは、現在フレームの画像信号に対して、Step84からの時間ノイズ量、混合処理後の動き量信号に基づき、時間ノイズ低減処理を行う。そして、次のフレームのノイズ低減処理用に、このフレームの時間ノイズ低減処理後の画像信号を過去フレームの画像信号としてメモリに保存する。
このStep85の処理が完了したら、その後は図24に示した処理へ復帰する。
図27は、本実施形態における時間ノイズ低減部1109Bの画像処理プログラムのフローチャートである。
この処理を開始すると、まず、Step91においてPCは、現在フレームの画像信号、第1の動き量信号及び第2の動き量信号、CCD102の温度情報などを読み込み、Step92へ進む。
このStep85の処理が完了したら、その後は図24に示した処理へ復帰する。
図27は、本実施形態における時間ノイズ低減部1109Bの画像処理プログラムのフローチャートである。
この処理を開始すると、まず、Step91においてPCは、現在フレームの画像信号、第1の動き量信号及び第2の動き量信号、CCD102の温度情報などを読み込み、Step92へ進む。
続くStep92においてPCは、画像信号に対して、公知の色検出処理を行い、Step93へ進む。例えば、式12用いて現在フレームのRGBの画像信号から色差信号CrCbを算出する。
次のStep93においてPCは、第1の動き量信号、第2の動き量信号及び色情報に基づき、式13、14で判断して式10、11で動き量信号の混合処理(第3の動き量推定処理)を行い、Step94へ進む。
そして、Step94においてPCは、現在フレームの画像信号に対して、混合処理後の動き量信号、CCD102の温度情報、及び時間ノイズ低減処理後の1つ以上過去フレームの時間ノイズ低減処理後の画像信号に基づき、画素毎に時間ノイズ量を推定し、Step95へ進む。
次のStep93においてPCは、第1の動き量信号、第2の動き量信号及び色情報に基づき、式13、14で判断して式10、11で動き量信号の混合処理(第3の動き量推定処理)を行い、Step94へ進む。
そして、Step94においてPCは、現在フレームの画像信号に対して、混合処理後の動き量信号、CCD102の温度情報、及び時間ノイズ低減処理後の1つ以上過去フレームの時間ノイズ低減処理後の画像信号に基づき、画素毎に時間ノイズ量を推定し、Step95へ進む。
最後のStep95においてPCは、現在フレームの画像信号に対して、Step94からの時間ノイズ量、混合処理後の動き量信号に基づき、時間ノイズ低減処理を行う。そして、PCは、次のフレームのノイズ低減処理用に、このフレームの時間ノイズ低減処理後の画像信号を過去フレームの画像信号としてメモリに保存する。このStep95の処理が完了したら、その後は図24に示した処理へ復帰する。
図28は、本実施形態における動き混合部405Bの画像処理プログラムのフローチャートである。
この処理を開始すると、まず、Step101においてPCは、画像信号のCrCb色差信号、つまり色情報、第1の動き量信号及び第2の動き量信号などを読み込み、Step102へ進む。
図28は、本実施形態における動き混合部405Bの画像処理プログラムのフローチャートである。
この処理を開始すると、まず、Step101においてPCは、画像信号のCrCb色差信号、つまり色情報、第1の動き量信号及び第2の動き量信号などを読み込み、Step102へ進む。
続くStep102においてPCは、色差信号に基づいて画素毎の第1の動き量信号及び第2の動き量の混合率を設定し、Step103へ進む。具体的には、信号式13で色差信号Cr、Cbから構成される色領域の色差角度を算出する。
次にPCは、注目エッジ領域S(例えば、内視鏡画像の場合、血管、病変体のエッジ領域など)が対応する所定色差領域であるかを判断する閾値(T1、T2)を用いて、式14に基づき上記算出された色差角度は所定の色領域に入っているか否かを判断する(図23参照)。
さらにPCは、式10に基づき、色差信号値が所定色量域に入っている場合、第1動き検出部からの第2の動き量信号に対応する混合率をMix1に、第2動き検出部からの第2の動き量信号に対応する混合率をMix2に設定する。
次にPCは、注目エッジ領域S(例えば、内視鏡画像の場合、血管、病変体のエッジ領域など)が対応する所定色差領域であるかを判断する閾値(T1、T2)を用いて、式14に基づき上記算出された色差角度は所定の色領域に入っているか否かを判断する(図23参照)。
さらにPCは、式10に基づき、色差信号値が所定色量域に入っている場合、第1動き検出部からの第2の動き量信号に対応する混合率をMix1に、第2動き検出部からの第2の動き量信号に対応する混合率をMix2に設定する。
一方、PCは、色差信号値が所定色量域に入っていない場合、第1動き検出部からの第2の動き量信号に対応する混合率をMix1’に、第2動き検出部からの第2の動き量信号に対応する混合率をMix2’に設定する。
次のStep103においてPCは、、Step102からの画素毎の第1の動き量信号及び第2の動き量信号、及びそれらに対応する混合率を用いて、式11で混合処理を行う。そして、、第3の動き量信号が算出される。
このStep103の処理が完了したら、その後は図27に示した処理へ復帰する。
本実施形態によれば、第1の実施形態の効果の他に、第2の動き量に基づきより柔軟性に富むノイズ低減処理が可能となり、より高品位の画像信号を得ることができる。
次のStep103においてPCは、、Step102からの画素毎の第1の動き量信号及び第2の動き量信号、及びそれらに対応する混合率を用いて、式11で混合処理を行う。そして、、第3の動き量信号が算出される。
このStep103の処理が完了したら、その後は図27に示した処理へ復帰する。
本実施形態によれば、第1の実施形態の効果の他に、第2の動き量に基づきより柔軟性に富むノイズ低減処理が可能となり、より高品位の画像信号を得ることができる。
撮像装置により撮像された動画像を構成する時系列の画像信号のノイズを低減する。
97、97B…動画像撮像装置、98…動画像撮像部、99、99B…動画像ノイズ低減処理部、100…レンズ系、102…CCD、103…アンプ、104…A/D変換器、105…バッファー部、106…空間ノイズ低減部、107…第1過去バッファー部、108…第1動き検出部、109、1109…時間ノイズ低減部、110…出力部、111…ROM、112…制御部、113…外部I/F部、114…出力保存部、115…温度センサー部、116…第2過去バッファー部、117…第2動き検出部、201…空間ノイズ検出部、202…空間ノイズ除去部、301、701…差分算出部、302、702…差分平滑部、401…時間ノイズ検出部、402…時間ノイズ除去部、404…エッジ検出部、405、405B…動き混合部、406…色検出部、601…減衰係数選択部、602…時間ノイズ消去部、801、901…混合率設定部、802、902…混合処理部
Claims (28)
- デジタル化された動画像を構成する時系列の画像信号画像信号に対して、空間方向でのノイズ低減処理としての空間ノイズ低減処理を行う空間ノイズ低減部と、
上記空間ノイズ低減処理後の画像信号に対して、過去のフレーム/フィールドの空間ノイズ低減処理後の画像信号を用いて上記画像信号の第1の動き量を推定する第1の動き量推定部と、
上記画像信号に対して、上記第1の動き量に基づき時間方向でのノイズ低減処理としての時間ノイズ低減処理を行う時間ノイズ低減部と、
を有することを特徴とする動画像ノイズ低減処理装置。 - デジタル化された動画像を構成する時系列の画像信号に対して、空間方向でのノイズ低減処理としての空間ノイズ低減処理を行う空間ノイズ低減部と、
上記空間ノイズ低減処理後の画像信号に対して、過去のフレーム/フィールドの空間ノイズ低減処理後の画像信号を用いて上記画像信号の第1の動き量を推定する第1の動き量推定部と、
上記画像信号に対して、過去のフレーム/フィールドの画像信号を用いて上記画像信号の第2の動き量を推定する第2の動き量推定部と、
上記画像信号に対して、上記第1の動き量及び第2の動き量に基づき時間方向でのノイズ低減処理としての時間ノイズ低減処理を行う時間ノイズ低減部と、
を有することを特徴とする動画像ノイズ低減処理装置。 - 上記空間ノイズ低減部は、
空間領域のノイズモデルに基づき注目画素のノイズ量を検出する空間ノイズ量検出部と、
上記空間ノイズ量検出部により検出した上記空間ノイズ量に基づき、上記画像信号に対して注目画素のノイズ除去処理を行う空間ノイズ除去処理と、
を有することを特徴とする請求項1又は2に記載の動画像ノイズ低減処理装置。 - 上記時間ノイズ低減部は、
上記第1の動き量及び上記第2の動き量に基づき、第3の動き量を推定する第3の動き量推定部を有することを特徴とする請求項2に記載の動画像ノイズ低減処理装置。 - 上記時間ノイズ低減部は、
上記画像信号からエッジ情報及び色情報の少なくとも一つの相関情報を検出する上記画像信号の相関情報検出部と、
上記画像信号の相関情報、上記第1の動き量及び上記第2の動き量に基づき第3の動き量を推定する第3の動き量推定部と、
を有することを特徴とする請求項2に記載の動画像ノイズ低減処理装置。 - 上記第1の動き量推定部は、
上記空間ノイズ低減処理後の画像信号に対して、過去のフレーム/フィールドの空間ノイズ低減処理後の画像信号を用いて画素毎に差分信号を算出する差分信号算出部を有することを特徴とする請求項1又は2に記載の動画像ノイズ低減処理装置。 - 上記第1の動き量推定部は、
上記差分信号に対して平滑処理を行う平滑処理部を更に有することを特徴とする請求項6に記載の動画像ノイズ低減処理装置。 - 上記第2の動き量推定部は、
上記画像信号に対して、過去のフレーム/フィールドの画像信号を用いて画素毎に差分信号を算出する差分信号算出部を有することを特徴とする請求項2に記載の動画像ノイズ低減処理装置。 - 上記第2の動き量推定部は、
上記差分信号に対して平滑処理を行う平滑処理部を更に有することを特徴とする請求項8に記載の動画像ノイズ低減処理装置。 - 上記平滑処理部は、
バイラテラルフィルタを適用して平滑処理を行うことを特徴とする請求項7又は9に記載の動画像ノイズ低減処理装置。 - 上記平滑処理部は、
所定サイズの平均化フィルタ或は所定サイズの重み付平均化フィルタ中のいずれか一つを用いることを更に有することを特徴とする請求項7又は9に記載の動画像ノイズ低減処理装置。 - 上記時間ノイズ低減部は、
上記第1の動き量に基づき、時間ノイズ低減処理の減衰係数を設定し、時間ノイズ低減処理を行うことを特徴とする請求項1又は2に記載の動画像ノイズ低減処理装置。 - 上記時間ノイズ低減部は、
上記第1の動き量、第2の動き量、及び第3の動き量の少なくとも一つに基づき、時間ノイズ低減処理の減衰係数を設定し時間ノイズ低減処理を行うことを特徴とする請求項2又は4又は5に記載の動画像ノイズ低減処理装置。 - 上記第3の動き量推定部は、
所定の混合率で上記第1の動き量及び第2の動き量を混合し、上記第3の動き量を算出する算出部を有することを特徴とする請求項4又は5に記載の動画像ノイズ低減処理装置。 - 上記時間ノイズ低減部は、
時間領域のノイズモデルに基づき注目画素のノイズ量を検出する時間ノイズ量検出部と、
上記時間ノイズ量検出部で検出した上記時間ノイズ量に基づき、上記画像信号に対して注目画素のノイズ除去処理を行う時間ノイズ除去部と、
を有することを特徴とする請求項1に記載の動画像ノイズ低減処理装置。 - 上記時間ノイズ量検出部は、
上記画像信号に基づき注目画素の代表値を推定する代表値推定部と、
上記撮像素子の温度または上記画像信号に対するゲインに関する情報を収集する収集部と、
上記代表値推定部で推定した注目画素の代表値及び上記収集部からの情報を用いて上記時間ノイズモデルに基づき時間ノイズ量を算出する時間ノイズ量算出部と、
を有することを特徴とする請求項15に記載の動画像ノイズ低減処理装置。 - 上記代表値推定部は、
上記注目画素の信号値、及び上記注目画素に対応する過去のフレーム/フィールド中の画像信号の信号値に基づき、代表値を算出する代表値算出部を有することを特徴とする請求項16に記載の動画像ノイズ低減処理装置。 - 上記代表値推定部は、
上記注目画素の信号値、及び上記注目画素に対応する過去のフレーム/フィールド中の上記時間ノイズ低減処理後の画像信号の信号値に基づき、代表値を算出する代表値算出部を有することを特徴とする請求項16に記載の動画像ノイズ低減処理装置。 - 上記時間ノイズモデルは
上記画像信号の輝度信号、或は色信号の信号値を用いて、上記撮像素子の温度または上記画像信号に対するゲインのうち少なくとも一つの情報に基づいて上記時間ノイズ量を換算するノイズ量換算部を有することを特徴とする請求項15に記載の動画像ノイズ低減処理装置。 - コンピュータに、デジタル化された時系列の画像信号に対して、空間方向でのノイズ低減処理としての空間ノイズ低減処理を行う空間ノイズ低減処理手順と、
上記空間ノイズ低減処理後の画像信号に対して、過去フレーム/フィールドの空間ノイズ低減処理後の画像信号を用いて上記画像信号の第1の動き量を推定する第1動き量推定手順と、
上記画像信号に対して、上記第1の動き量に基づき時間方向でのノイズ低減処理としての時間ノイズ低減処理を行う時間ノイズ低減処理手順と、
を実行させることを特徴とする画像処理プログラム。 - コンピュータに、デジタル化された時系列の画像信号に対して、空間方向でのノイズ低減処理としての空間ノイズ低減処理を行う空間ノイズ低減処理手順と、
上記空間ノイズ低減処理後の画像信号に対して、過去フレーム/フィールドの空間ノイズ低減処理後の画像信号を用いて上記画像信号の第1の動き量を推定する第1の動き量推定手順と、
上記画像信号に対して、過去フレーム/フィールドの画像信号を用いて上記画像信号の第2の動き量を推定する第2の動き量推定手順と、
上記画像信号に対して、上記第1の動き量及び第2の動き量に基づき時間方向でのノイズ低減処理としての時間ノイズ低減処理を行う時間ノイズ低減処理手順と、
を実行させることを特徴とする画像処理プログラム。 - 上記時間ノイズ低減処理手順は、
上記第1の動き量及び上記第2の動き量に基づき、第3の動き量を推定する第3の動き量推定手順を有することを特徴とする請求項21に記載の画像処理プログラム。 - 上記時間ノイズ低減処理手順は、
上記画像信号からエッジ情報及び色情報の少なくとも一つの相関情報を検出する上記画像信号の相関情報検出手順と、
上記画像信号の相関情報、上記第1の動き量及び上記第2の動き量に基づき第3の動き量を推定する第3の動き量推定手順と、
を有することを特徴とする請求項21に記載の画像処理プログラム。 - 上記第1の動き量推定手順は、
上記空間ノイズ低減処理後の画像信号に対して、過去のフレーム/フィールドの空間ノイズ低減処理後の画像信号を用いて画素毎に算出された差分信号に対して平滑処理を行う平滑処理手順を更に有することを特徴とする請求項21に記載の画像処理プログラム。 - 上記第2の動き量推定手順は、
上記画像信号に対して、過去のフレーム/フィールドの画像信号を用いて画素毎に算出された差分信号に対して平滑処理を行う平滑処理手順を更に有することを特徴とする請求項21に記載の画像処理プログラム。 - 上記時間ノイズ低減処理手順は、
上記第1の動き量に基づき、時間ノイズ低減処理の減衰係数を設定し、時間ノイズ低減処理を行うことを特徴とする請求項20又は21に記載の画像処理プログラム。 - 上記時間ノイズ低減処理手順は、
上記第1の動き量、第2の動き量、及び第3の動き量の少なくとも一つに基づき、時間ノイズ低減処理の減衰係数を設定し時間ノイズ低減処理を行うことを特徴とする請求項21又は22又は23に記載の画像処理プログラム。 - 上記第3の動き量推定手順は、
所定の混合率で上記第1の動き量及び第2の動き量を混合し、上記第3の動き量を算出する算出手順を有することを特徴とする請求項22又は23に記載の画像処理プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009013335A JP2010171808A (ja) | 2009-01-23 | 2009-01-23 | 動画像ノイズ低減処理装置及び画像処理プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009013335A JP2010171808A (ja) | 2009-01-23 | 2009-01-23 | 動画像ノイズ低減処理装置及び画像処理プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2010171808A true JP2010171808A (ja) | 2010-08-05 |
Family
ID=42703488
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009013335A Withdrawn JP2010171808A (ja) | 2009-01-23 | 2009-01-23 | 動画像ノイズ低減処理装置及び画像処理プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2010171808A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2012043840A1 (en) * | 2010-09-30 | 2012-04-05 | Sharp Kabushiki Kaisha | Methods and systems for image processing |
WO2013051593A1 (ja) * | 2011-10-04 | 2013-04-11 | オリンパス株式会社 | 画像処理装置、内視鏡装置、画像処理方法及び画像処理プログラム |
CN103139448A (zh) * | 2011-11-22 | 2013-06-05 | 华晶科技股份有限公司 | 影像处理装置及其处理方法 |
-
2009
- 2009-01-23 JP JP2009013335A patent/JP2010171808A/ja not_active Withdrawn
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2012043840A1 (en) * | 2010-09-30 | 2012-04-05 | Sharp Kabushiki Kaisha | Methods and systems for image processing |
US8427583B2 (en) | 2010-09-30 | 2013-04-23 | Sharp Laboratories Of America, Inc. | Automatic parameter control for spatial-temporal filter |
WO2013051593A1 (ja) * | 2011-10-04 | 2013-04-11 | オリンパス株式会社 | 画像処理装置、内視鏡装置、画像処理方法及び画像処理プログラム |
JP2013078460A (ja) * | 2011-10-04 | 2013-05-02 | Olympus Corp | 画像処理装置、内視鏡装置及び画像処理方法 |
US9613402B2 (en) | 2011-10-04 | 2017-04-04 | Olympus Corporation | Image processing device, endoscope system, image processing method, and computer-readable storage device |
CN103139448A (zh) * | 2011-11-22 | 2013-06-05 | 华晶科技股份有限公司 | 影像处理装置及其处理方法 |
CN103139448B (zh) * | 2011-11-22 | 2016-02-03 | 华晶科技股份有限公司 | 影像处理装置及其处理方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3762725B2 (ja) | 撮像システムおよび画像処理プログラム | |
JP5052319B2 (ja) | 動画ノイズ低減処理装置、動画ノイズ低減処理プログラム、動画ノイズ低減処理方法 | |
JP4925198B2 (ja) | 信号処理装置および方法、ノイズ低減装置および方法並びにプログラム | |
US8982232B2 (en) | Image processing apparatus and image processing method | |
JP4465002B2 (ja) | ノイズ低減システム、ノイズ低減プログラム及び撮像システム。 | |
JP5123756B2 (ja) | 撮像システム、画像処理方法および画像処理プログラム | |
JP2004522372A (ja) | 時空間適応的雑音除去/高画質復元方法及びこれを応用した高画質映像入力装置 | |
EP2088788B1 (en) | Image picking-up processing device, image picking-up device, image processing method and computer program | |
US20120314946A1 (en) | Image processing apparatus, image processing method, and program | |
US20130077862A1 (en) | Image processing apparatus, image processing method and program | |
JP2006121521A (ja) | 撮像装置および画像処理プログラム | |
US7916187B2 (en) | Image processing apparatus, image processing method, and program | |
JP5561112B2 (ja) | 画像処理装置、撮像装置およびプログラム | |
JP2010500125A (ja) | デジタル画像のノイズを低減する方法 | |
JP2006319781A (ja) | 画像処理装置、画像処理プログラム | |
JP2008263507A (ja) | 映像処理装置及び映像処理プログラム | |
KR101493694B1 (ko) | 이미지 처리장치, 이미지 처리방법 및 처리방법을실행시키기 위한 프로그램을 저장한 기록매체 | |
JP2009088935A (ja) | 画像記録装置、画像補正装置及び撮像装置 | |
JP2010171808A (ja) | 動画像ノイズ低減処理装置及び画像処理プログラム | |
CN108353169B (zh) | 图像处理装置、具备该图像处理装置的脉搏估计系统以及图像处理方法 | |
JP2005318126A5 (ja) | ||
JP2010147840A (ja) | 画像処理装置及び撮像装置 | |
JP2010124321A (ja) | 動画像ノイズ低減処理装置、動画像ノイズ低減処理プログラム及び動画像ノイズ低減処理方法 | |
JP2003158744A (ja) | 画素キズ検出・補正装置およびそれを用いた撮像装置 | |
JP2003348382A (ja) | 輪郭強調回路 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Withdrawal of application because of no request for examination |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20120403 |