JP6396156B2 - 画像処理装置及び画像処理方法 - Google Patents

Description

本発明は、画像処理装置及び画像処理方法に関する。

下記特許文献１には、入力画像の画素毎にエッジ量を検出し、当該エッジ量に応じて複数の強調フィルタを切り替えて適用する画像処理装置が開示されている。また当該特許文献１には、画像を予め平滑化してからエッジ量の検出を行うことにより、ノイズの影響が少ない安定したエッジ量の検出が可能となることが開示されている。

特開２００９−２５８６２号公報

上記特許文献１に開示された画像処理装置によると、処理対象の画像が動きの大きい画像である場合には、時系列で連続する複数の画像間でエッジの動き量が大きいため、エッジ強調処理後の画像においてエッジが不鮮明になるという問題がある。

本発明はかかる問題を解決するために成されたものであり、動きの大きい画像であってもエッジが不鮮明になることを回避することが可能な画像処理装置及び画像処理方法を得ることを目的とするものである。

本発明の第１の態様に係る画像処理装置は、画像内のエッジを強調するエッジ強調フィルタと、画像内のエッジを検出するエッジ検出部と、前記エッジ検出部による検出結果に基づいて、画像内の各画素のエッジ強度を算出するエッジ強度算出部と、時系列で連続する複数の画像に基づいて、画像の変動量を算出する変動量算出部と、前記エッジ強度算出部によって算出されたエッジ強度と、前記変動量算出部によって算出された変動量とに基づいて、前記エッジ強調フィルタのエッジ強調強度を画素毎に設定する強調強度設定部と、を備え、前記強調強度設定部は、エッジ強度が第１のしきい値未満であり画像の平坦部分に属する画素に関しては、第１の強調強度を設定し、エッジ強度が第１のしきい値以上であり画像のエッジ部分に属する画素に関しては、第１の強調強度よりも高い第２の強調強度を設定し、エッジ強度が第２のしきい値以上であり画像の特異部分に属する画素に関しては、画像の変動量が所定値未満である画像に関しては第２の強調強度よりも高い第４の強調強度を設定し、画像の変動量が所定値以上である画像に関しては第４の強調強度よりも高い第５の強調強度を設定することを特徴とするものである。

第１の態様に係る画像処理装置によれば、エッジ検出部は、画像内のエッジを検出し、エッジ強度算出部は、エッジ検出部による検出結果に基づいて、画像内の各画素のエッジ強度を算出し、変動量算出部は、時系列で連続する複数の画像に基づいて、画像の変動量を算出する。そして、強調強度設定部は、エッジ強度算出部によって算出されたエッジ強度と、変動量算出部によって算出された変動量とに基づいて、エッジ強調フィルタのエッジ強調強度を画素毎に設定する。これにより、エッジ強調フィルタの強調強度を、各画素のエッジ強度と画像の変動量とに応じて画素毎に適応的に切り替えることができる。例えば、画像の平坦部分に属する画素に関しては比較的低い強調強度を設定することにより、ノイズが強調されることを回避でき、また、画像のエッジ部分に属する画素に関しては比較的高い強調強度を設定することにより、エッジを強調することができる。その結果、ノイズが強調されることを回避しつつエッジを強調できるため、ノイズの抑制とエッジの強調とを効果的に両立することが可能となる。また、エッジ強調フィルタの強調強度を、画像の変動量に応じて適応的に切り替えることができる。その結果、画像の変動量に応じてエッジ強調フィルタの強調強度を適切に設定することが可能となる。
また、第１の態様に係る画像処理装置によれば、画像の平坦部分に属する画素に関しては、比較的低い第１の強調強度を設定することにより、平坦部分のノイズが強調されることを回避できる。また、画像のエッジ部分に属する画素に関しては、比較的高い第２の強調強度を設定することにより、エッジを強調することができる。その結果、エッジ強調処理において、ノイズが強調されることを回避しつつ、エッジを強調することが可能となる。
また、第１の態様に係る画像処理装置によれば、光源の反射部分等の画像の特異部分に属する画素に関しては、第２の強調強度よりも高い第４の強調強度を設定することにより、特異部分を強調することができる。その結果、特異部分を鮮明化することが可能となる。
また、第１の態様に係る画像処理装置によれば、特異部分に属する画素に強調強度を設定するにあたり、画像の変動量が所定値以上である画像（動きの大きい画像）に関しては、画像の変動量が所定値未満である画像（動きの小さい画像）よりも高い強調強度を設定することにより、動きに伴う特異部分の不鮮明化を回避することが可能となる。

本発明の第２の態様に係る画像処理装置は、第１の態様に係る画像処理装置において特に、前記強調強度設定部は、エッジ部分に近接する平坦部分に属する画素に関しては、エッジ強度が高いほど強調強度が高くなるように、エッジ強度に応じて第１の強調強度を設定することを特徴とするものである。

第２の態様に係る画像処理装置によれば、強調強度設定部は、エッジ部分に近接する平坦部分に属する画素に関しては、エッジ強度が高いほど強調強度が高くなるように、エッジ強度に応じて第１の強調強度を設定する。このように、エッジ部分と平坦部分との境界部分に関してはエッジ強度に応じて第１の強調強度を細かく制御することにより、平坦部分全体に均一な強調強度を設定する場合と比較して、エッジ強調フィルタの強調強度を滑らかに切り替えることができる。その結果、エッジ部分と平坦部分との境界部分において画像が不自然になることを回避することが可能となる。

本発明の第３の態様に係る画像処理装置は、第１又は第２の態様に係る画像処理装置において特に、前記強調強度設定部は、画像の変動量が所定値未満である画像に関しては、エッジ部分に属する画素に関して第２の強調強度を設定し、画像の変動量が所定値以上である画像に関しては、エッジ部分に属する画素に関して、第２の強調強度よりも高い第３の強調強度を設定することを特徴とするものである。

第３の態様に係る画像処理装置によれば、エッジ部分に属する画素に強調強度を設定するにあたり、画像の変動量が所定値以上である画像（動きの大きい画像）に関しては、画像の変動量が所定値未満である画像（動きの小さい画像）よりも高い強調強度を設定することにより、動きに伴うエッジの不鮮明化を回避することが可能となる。

本発明の第４の態様に係る画像処理装置は、画像内のエッジを強調するエッジ強調フィルタと、画像内のエッジを検出するエッジ検出部と、前記エッジ検出部による検出結果に基づいて、画像内の各画素のエッジ強度を算出するエッジ強度算出部と、時系列で連続する複数の画像に基づいて、画像の変動量を算出する変動量算出部と、前記エッジ強度算出部によって算出されたエッジ強度と、前記変動量算出部によって算出された変動量とに基づいて、前記エッジ強調フィルタのエッジ強調強度を画素毎に設定する強調強度設定部と、前記エッジ強調フィルタの前段に接続されたハイパスフィルタと、エッジの画面周波数に基づいて、前記ハイパスフィルタのフィルタ強度を画像毎に設定するフィルタ強度設定部と、を備えることを特徴とするものである。

第４の態様に係る画像処理装置によれば、エッジ検出部は、画像内のエッジを検出し、エッジ強度算出部は、エッジ検出部による検出結果に基づいて、画像内の各画素のエッジ強度を算出し、変動量算出部は、時系列で連続する複数の画像に基づいて、画像の変動量を算出する。そして、強調強度設定部は、エッジ強度算出部によって算出されたエッジ強度と、変動量算出部によって算出された変動量とに基づいて、エッジ強調フィルタのエッジ強調強度を画素毎に設定する。これにより、エッジ強調フィルタの強調強度を、各画素のエッジ強度と画像の変動量とに応じて画素毎に適応的に切り替えることができる。例えば、画像の平坦部分に属する画素に関しては比較的低い強調強度を設定することにより、ノイズが強調されることを回避でき、また、画像のエッジ部分に属する画素に関しては比較的高い強調強度を設定することにより、エッジを強調することができる。その結果、ノイズが強調されることを回避しつつエッジを強調できるため、ノイズの抑制とエッジの強調とを効果的に両立することが可能となる。また、エッジ強調フィルタの強調強度を、画像の変動量に応じて適応的に切り替えることができる。その結果、画像の変動量に応じてエッジ強調フィルタの強調強度を適切に設定することが可能となる。
また、第４の態様に係る画像処理装置によれば、エッジ強調フィルタの前段にハイパスフィルタを接続することにより、低周波のノイズがエッジ強調フィルタによって強調されることを回避できる。また、フィルタ強度設定部は、エッジの画面周波数に基づいて、ハイパスフィルタのフィルタ強度を画像毎に設定する。これにより、ハイパスフィルタのフィルタ強度を、エッジの画面周波数に応じて画像毎に適応的に切り替えることが可能となる。

本発明の第５の態様に係る画像処理装置は、第４の態様に係る画像処理装置において特に、前記フィルタ強度設定部は、エッジの画面周波数が比較的低い周波数領域に集中する画像に関しては、カットオフ周波数が比較的低くなるようにフィルタ強度を設定し、エッジの画面周波数が比較的高い周波数領域に集中する画像に関しては、カットオフ周波数が比較的高くなるようにフィルタ強度を設定することを特徴とするものである。

第５の態様に係る画像処理装置によれば、エッジの画面周波数が比較的低い周波数領域に集中する画像（低周波のエッジを多く含む画像）に関しては、カットオフ周波数が比較的低くなるようにフィルタ強度を設定することにより、低周波のエッジはハイパスフィルタを通過するため、低周波のエッジをエッジ強調フィルタによって強調することができる。また、エッジの画面周波数が比較的高い周波数領域に集中する画像（中〜高周波のエッジを多く含む画像）に関しては、カットオフ周波数が比較的高くなるようにフィルタ強度を設定することにより、低周波のノイズはハイパスフィルタによって遮断されるため、低周波のノイズがエッジ強調フィルタによって強調されることを回避できる。また、中〜高周波のエッジはハイパスフィルタを通過するため、中〜高周波のエッジをエッジ強調フィルタによって強調することができる。

本発明の第６の態様に係る画像処理方法は、（Ａ）エッジ強調フィルタによって画像内のエッジを強調するステップと、（Ｂ）画像内のエッジを検出するステップと、（Ｃ）前記ステップ（Ｂ）による検出結果に基づいて、画像内の各画素のエッジ強度を算出するステップと、（Ｄ）時系列で連続する複数の画像に基づいて、画像の変動量を算出するステップと、（Ｅ）前記ステップ（Ｃ）によって算出されたエッジ強度と、前記ステップ（Ｄ）によって算出された変動量とに基づいて、前記エッジ強調フィルタのエッジ強調強度を画素毎に設定するステップと、を備え、前記ステップ（Ｅ）では、エッジ強度が第１のしきい値未満であり画像の平坦部分に属する画素に関しては、第１の強調強度を設定し、エッジ強度が第１のしきい値以上であり画像のエッジ部分に属する画素に関しては、第１の強調強度よりも高い第２の強調強度を設定し、エッジ強度が第２のしきい値以上であり画像の特異部分に属する画素に関しては、画像の変動量が所定値未満である画像に関しては第２の強調強度よりも高い第４の強調強度を設定し、画像の変動量が所定値以上である画像に関しては第４の強調強度よりも高い第５の強調強度を設定することを特徴とするものである。

第６の態様に係る画像処理方法によれば、ステップ（Ｂ）では、画像内のエッジが検出され、ステップ（Ｃ）では、ステップ（Ｂ）による検出結果に基づいて、画像内の各画素のエッジ強度が算出され、ステップ（Ｄ）では、時系列で連続する複数の画像に基づいて、画像の変動量が算出される。そして、ステップ（Ｅ）では、ステップ（Ｃ）によって算出されたエッジ強度と、ステップ（Ｄ）によって算出された変動量とに基づいて、エッジ強調フィルタのエッジ強調強度が画素毎に設定される。これにより、エッジ強調フィルタの強調強度を、各画素のエッジ強度と画像の変動量とに応じて画素毎に適応的に切り替えることができる。例えば、画像の平坦部分に属する画素に関しては比較的低い強調強度を設定することにより、ノイズが強調されることを回避でき、また、画像のエッジ部分に属する画素に関しては比較的高い強調強度を設定することにより、エッジを強調することができる。その結果、ノイズが強調されることを回避しつつエッジを強調できるため、ノイズの抑制とエッジの強調とを効果的に両立することが可能となる。また、エッジ強調フィルタの強調強度を、画像の変動量に応じて適応的に切り替えることができる。その結果、画像の変動量に応じてエッジ強調フィルタの強調強度を適切に設定することが可能となる。
また、第６の態様に係る画像処理方法によれば、画像の平坦部分に属する画素に関しては、比較的低い第１の強調強度を設定することにより、平坦部分のノイズが強調されることを回避できる。また、画像のエッジ部分に属する画素に関しては、比較的高い第２の強調強度を設定することにより、エッジを強調することができる。その結果、エッジ強調処理において、ノイズが強調されることを回避しつつ、エッジを強調することが可能となる。
また、第６の態様に係る画像処理方法によれば、光源の反射部分等の画像の特異部分に属する画素に関しては、第２の強調強度よりも高い第４の強調強度を設定することにより、特異部分を強調することができる。その結果、特異部分を鮮明化することが可能となる。
また、第６の態様に係る画像処理方法によれば、特異部分に属する画素に強調強度を設定するにあたり、画像の変動量が所定値以上である画像（動きの大きい画像）に関しては、画像の変動量が所定値未満である画像（動きの小さい画像）よりも高い強調強度を設定することにより、動きに伴う特異部分の不鮮明化を回避することが可能となる。
本発明の第７の態様に係る画像処理方法は、（Ａ）エッジ強調フィルタによって画像内のエッジを強調するステップと、（Ｂ）画像内のエッジを検出するステップと、（Ｃ）前記ステップ（Ｂ）による検出結果に基づいて、画像内の各画素のエッジ強度を算出するステップと、（Ｄ）時系列で連続する複数の画像に基づいて、画像の変動量を算出するステップと、（Ｅ）前記ステップ（Ｃ）によって算出されたエッジ強度と、前記ステップ（Ｄ）によって算出された変動量とに基づいて、前記エッジ強調フィルタのエッジ強調強度を画素毎に設定するステップと、（Ｆ）エッジの画面周波数に基づいて、前記エッジ強調フィルタの前段に接続されたハイパスフィルタのフィルタ強度を画像毎に設定するステップと、を備えることを特徴とするものである。
第７の態様に係る画像処理方法によれば、ステップ（Ｂ）では、画像内のエッジが検出され、ステップ（Ｃ）では、ステップ（Ｂ）による検出結果に基づいて、画像内の各画素のエッジ強度が算出され、ステップ（Ｄ）では、時系列で連続する複数の画像に基づいて、画像の変動量が算出される。そして、ステップ（Ｅ）では、ステップ（Ｃ）によって算出されたエッジ強度と、ステップ（Ｄ）によって算出された変動量とに基づいて、エッジ強調フィルタのエッジ強調強度が画素毎に設定される。これにより、エッジ強調フィルタの強調強度を、各画素のエッジ強度と画像の変動量とに応じて画素毎に適応的に切り替えることができる。例えば、画像の平坦部分に属する画素に関しては比較的低い強調強度を設定することにより、ノイズが強調されることを回避でき、また、画像のエッジ部分に属する画素に関しては比較的高い強調強度を設定することにより、エッジを強調することができる。その結果、ノイズが強調されることを回避しつつエッジを強調できるため、ノイズの抑制とエッジの強調とを効果的に両立することが可能となる。また、エッジ強調フィルタの強調強度を、画像の変動量に応じて適応的に切り替えることができる。その結果、画像の変動量に応じてエッジ強調フィルタの強調強度を適切に設定することが可能となる。
また、第７の態様に係る画像処理方法によれば、エッジ強調フィルタの前段にハイパスフィルタを接続することにより、低周波のノイズがエッジ強調フィルタによって強調されることを回避できる。また、ステップ（Ｆ）では、エッジの画面周波数に基づいて、ハイパスフィルタのフィルタ強度を画像毎に設定する。これにより、ハイパスフィルタのフィルタ強度を、エッジの画面周波数に応じて画像毎に適応的に切り替えることが可能となる。

本発明によれば、動きの大きい画像であってもエッジが不鮮明になることを回避することが可能となる。

本発明の実施の形態に係る画像処理装置の構成を示す図である。 ノイズ除去処理部の構成を示す図である。 エッジ強調処理部の構成を示す図である。 フィルタ強度設定部によるフィルタ強度の設定例を示す図である。 強調強度設定部による強調強度の設定例を示す図である。 強調強度設定部による強調強度の他の設定例を示す図である。 第１の変形例に係るエッジ強調処理部の構成を示す図である。 第２の変形例に係るエッジ強調処理部の構成を示す図である。

以下、本発明の実施の形態について、図面を用いて詳細に説明する。なお、異なる図面において同一の符号を付した要素は、同一又は相応する要素を示すものとする。

図１は、本発明の実施の形態に係る画像処理装置１の構成を示す図である。図１に示すように画像処理装置１は、ノイズ除去処理部２と、ノイズ除去処理部２の後段に接続された色空間変換部３と、色空間変換部３の後段に接続されたエッジ強調処理部４とを備えて構成されている。画像処理装置１は、外部のビデオカメラ等から入力される動画像の画像データに対して、ノイズ除去処理、色空間変換処理、及びエッジ強調処理をこの順に行う。

ノイズ除去処理部２には、色データで構成される画像データ（本実施の形態の例ではＢａｙｅｒ配列のＲＧｒＧｂＢ色空間の画像データ）が入力される。ノイズ除去処理部２は、入力された画像に対してノイズ除去処理を行う。

色空間変換部３は、ノイズ除去処理部２から入力されたＲＧｒＧｂＢ空間の画像データを、輝度データ及び色差データで構成される画像データ（本実施の形態の例ではＹＵＶ色空間の画像データ）に変換する。

エッジ強調処理部４は、色空間変換部３から入力されたＹＵＶ色空間の画像データに対してエッジ強調処理を行う。

図２は、ノイズ除去処理部２の構成を示す図である。図２の接続関係で示すようにノイズ除去処理部２は、いずれもハードウェアとして構成された、二次元ローパスフィルタ１１、フィルタ強度設定部１２、エッジ強度算出部１３、エッジ検出部１４、及びバッファ１５，１６を備えている。また、ノイズ除去処理部２はＣＰＵ１７を備えており、ＣＰＵ１７は範囲設定部１８及び周波数解析部１９として機能する。なお、範囲設定部１８及び周波数解析部１９をハードウェアとして構成しても良い。

二次元ローパスフィルタ１１としては、例えば、１３ｔａｐのプログラマブルフィルタ（ＦＩＲフィルタ）が使用される。エッジ検出部１４としては、例えば、５ｔａｐのＳｏｂｅｌフィルタが使用される。

図３は、エッジ強調処理部４の構成を示す図である。図３の接続関係で示すようにエッジ強調処理部４は、いずれもハードウェアとして構成された、エッジ強調フィルタ２０、強調強度設定部２１、エッジ強度算出部２２、エッジ検出部２３、変動量算出部２４、加算部２５、及び三次元ノイズリダクションフィルタ２６を備えている。

エッジ強調フィルタ２０としては、例えば、１３ｔａｐのプログラマブルフィルタが使用される。エッジ検出部２３としては、例えば、５ｔａｐのＳｏｂｅｌフィルタが使用される。三次元ノイズリダクションフィルタ２６としては、例えば、動き補償型よりも回路規模が小さい動き適応型のフィルタが使用される。

以下、図１〜３を参照して、本実施の形態に係る画像処理装置１の動作について説明する。

図２を参照して、ノイズ除去処理部２の処理対象である画像データは、二次元ローパスフィルタ１１及びエッジ検出部１４に入力される。

エッジ検出部１４は、画像の１フレームに含まれる各画素に関して、８方向（上下左右の４方向及び斜め４方向）のエッジを検出する。なお、エッジ検出部１４によるエッジ検出処理は、ＲＧｒＧｂＢ色空間の１成分（例えばＧｒ成分）のみを対象として行われる。但し、２成分以上（例えばＧｒ成分及びＧｂ成分）を対象とすることにより、より高精度なエッジ検出が可能となる。

エッジ強度算出部１３は、エッジ検出部１４によるエッジの検出結果に基づいて、各画素のエッジ強度を算出する。例えば、各画素に関して８方向のエッジ強度を加算し、その加算値の平方根として、各画素のエッジ強度を算出する。

周波数解析部１９は、エッジ検出部１４によるエッジの検出結果に基づいて、画像内におけるエッジの画面周波数を解析する。周波数解析には、二次元フーリエ変換等の一般的な解析手法を使用することができる。周波数解析部１９によって解析された各画像のエッジの画面周波数に関する情報は、範囲設定部１８及びバッファ１６に入力される。なお、１フレーム全体の画面周波数を解析する必要があるため、現フレームに関する周波数解析部１９の解析結果は、次フレームに関する設定処理に利用され、現フレームに関する設定処理には、前フレームに関する解析結果が利用される。また、周波数解析部１９による解析対象の画像は、エッジ検出後の画像に限らず、エッジ検出前の入力画像であっても良い。なお、１フレーム全体の画面周波数を解析するのではなく、画像の特徴部分を含む一部領域（例えばフレームを９分割した中の一つの領域）を対象として画面周波数の解析を行っても良く、これによって回路規模を削減することができる。

範囲設定部１８は、周波数解析部１９による解析結果に基づいて、後述する画像の平坦部分及びエッジ部分に関する二次元ローパスフィルタ１１のフィルタ強度の許容設定範囲（許容上限値及び許容下限値）を、画像毎に設定する。例えば、カットオフ周波数（Ｆｃ）によって二次元ローパスフィルタ１１のフィルタ強度を設定する場合には、エッジの画面周波数が集中している周波数領域に応じて、カットオフ周波数の許容上限値及び許容下限値を画像毎に設定する。

本実施の形態の例において、範囲設定部１８は、エッジの画面周波数が低〜中周波数の領域に集中している場合には、カットオフ周波数をサンプリング周波数（Ｆｓ）の０．２倍〜０．３倍の範囲に設定する。また、エッジの画面周波数が中〜高周波数の領域に集中している場合には、カットオフ周波数をサンプリング周波数の０．３倍〜０．４倍の範囲に設定する。また、エッジの画面周波数が低周波数の領域に集中している場合には、カットオフ周波数をサンプリング周波数の０．１倍〜０．２倍の範囲に設定する。つまり、範囲設定部１８は、エッジの画面周波数が比較的低い周波数領域に集中する画像に関しては、フィルタ強度が比較的高い範囲内で分布するように許容設定範囲を設定し、エッジの画面周波数が比較的高い周波数領域に集中する画像に関しては、フィルタ強度が比較的低い範囲内で分布するように許容設定範囲を設定する。また、範囲設定部１８は、エッジの画面周波数が低〜高周波数の広い領域に分散している場合には、カットオフ周波数をサンプリング周波数の０．１倍〜０．４倍の範囲に設定する。つまり、範囲設定部１８は、エッジの画面周波数が広い周波数領域に分散する画像に関しては、フィルタ強度が広い範囲内で分布するように許容設定範囲を設定する。

フィルタ強度設定部１２は、エッジ強度算出部１３によって算出された各画素のエッジ強度に基づいて、二次元ローパスフィルタ１１のフィルタ強度を、範囲設定部１８によって設定された許容設定範囲内で画素毎に設定する。

図４は、フィルタ強度設定部１２によるフィルタ強度の設定例を示す図である。フィルタ強度設定部１２は、エッジ強度が第１のしきい値Ａ１未満である画素（画像の平坦部分に属する画素）に関しては、許容上限値に相当するフィルタ強度Ｂ１を設定する。また、フィルタ強度設定部１２は、エッジ強度がしきい値Ａ１以上かつ第２のしきい値Ａ２未満である画素（画像のエッジ部分に属する画素）に関しては、フィルタ強度Ｂ１より低くかつ許容下限値以上であるフィルタ強度Ｂ２を設定する。また、フィルタ強度設定部１２は、エッジ強度がしきい値Ａ２以上である画素（光源の反射部分等の画像の特異部分に属する画素）に関しては、許容下限値よりも低いフィルタ強度Ｂ３（図４の例ではゼロ）を設定する。また、図４に示すように、フィルタ強度設定部１２は、エッジ部分に属する画素に関しては、エッジ強度が高いほどフィルタ強度が低くなるように、エッジ強度に応じてフィルタ強度Ｂ２を段階的（図４の例では６段階）に設定する。

二次元ローパスフィルタ１１は、フィルタ強度設定部１２によって画素毎に設定されたフィルタ強度で、入力画像の各画素をＲ，Ｇｒ，Ｇｂ，Ｂの成分毎に処理する。複数のフィルタ強度に応じた複数のフィルタ係数テーブルを予め用意しておき、フィルタ強度設定部１２によって設定されたフィルタ強度に対応するフィルタ係数を選択して二次元ローパスフィルタ１１に適用することにより、所望の強度のローパスフィルタ処理を実現することができる。

二次元ローパスフィルタ１１によってノイズ除去処理が行われた画像データは、バッファ１５に入力される。

図１を参照して、色空間変換部３は、バッファ１５から入力されたＢａｙｅｒ空間の画像データを、ＹＵＶ色空間の画像データに変換する。

図３を参照して、エッジ強調処理部４の処理対象である画像データは、エッジ強調フィルタ２０、エッジ検出部２３、変動量算出部２４、及び加算部２５に入力される。

エッジ検出部２３は、画像の１フレームに含まれる各画素に関して、８方向（上下左右の４方向及び斜め４方向）のエッジを検出する。なお、エッジ検出部２３によるエッジ検出処理は、ＹＵＶ色空間のＹ成分のみを対象として行われる。

エッジ強度算出部２２は、エッジ検出部２３によるエッジの検出結果に基づいて、各画素のエッジ強度を算出する。例えば、各画素に関して８方向のエッジ強度を加算し、その加算値の平方根として、各画素のエッジ強度を算出する。

変動量算出部２４は、時系列で連続する複数の画像に基づいて、画像の変動量を算出する。例えば、現フレームと前フレームとを対象として全画素の画素値の差分絶対値和を求めることで、現フレームに関して前フレームからの変動量を算出する。なお、変動量算出部２４による変動量算出処理は、ＹＵＶ色空間のＹ成分のみを対象として行われる。また、所定画素数（例えば８×８画素）のブロック毎に画素値の差分絶対値和を求め、１フレーム内の全てのブロックに関して差分絶対値和の総和を求めることによって、画像の変動量を算出しても良い。さらに、１フレーム全体の画素値を使用する必要があるため、現フレームに関する変動量の算出結果は、次フレームに関する設定処理に利用され、現フレームに関する設定処理には、前フレームに関する変動量の算出結果が利用される。なお、１フレーム全体の画素値から画像の変動量を算出するのではなく、画像の特徴部分を含む一部領域（例えばフレームを９分割した中の一つの領域）の画素値に基づいて画像の変動量を算出しても良く、これによって回路規模を削減することができる。

強調強度設定部２１は、エッジ強度算出部２２によって算出されたエッジ強度と、変動量算出部２４によって算出された変動量とに基づいて、エッジ強調フィルタ２０のエッジ強調強度を画素毎に設定する。

図５は、強調強度設定部２１による強調強度の設定例を示す図である。強調強度設定部２１は、エッジ強度が第１のしきい値Ｃ１未満である画素（画像の平坦部分に属する画素）に関しては、強調強度Ｄ１（例えば０．５倍）を設定する。

また、強調強度設定部２１は、エッジ強度がしきい値Ｃ１以上かつ第２のしきい値Ｃ２未満である画素（画像のエッジ部分に属する画素）に関しては、画像の変動量が所定値未満である場合には、強調強度Ｄ１よりも高い強調強度Ｄ２（例えば１．０倍）を設定し、画像の変動量が所定値以上である場合には、強調強度Ｄ２よりも高い強調強度Ｄ３（例えば１．２倍）を設定する。

また、強調強度設定部２１は、エッジ強度がしきい値Ｃ２以上である画素（画像の特異部分に属する画素）に関しては、画像の変動量が所定値未満である場合には、強調強度Ｄ２よりも高い強調強度Ｄ４（例えば１．２倍）を設定し、画像の変動量が所定値以上である場合には、強調強度Ｄ４よりも高い強調強度Ｄ５（例えば１．４４倍）を設定する。

なお、エッジ部分及び特異部分に関しては、画像の変動量が所定値以上であるか否かによって強調強度を異ならせたが、平坦部分に関しては、動きに伴う不鮮明化の影響が小さいため、画像の変動量に応じて強調強度を異ならせる必要はない。

図６は、強調強度設定部２１による強調強度の他の設定例を示す図である。強調強度設定部２１は、エッジ部分に近接する平坦部分に属する画素に関しては、エッジ強度が高いほど強調強度が線形的に高くなるように、エッジ強度に応じて強調強度を設定する。平坦部分とエッジ部分とが入り組むような複雑な画像では、両者の強調強度の差が大きいと、その境界部分において画像が不自然になる場合がある。そのような複雑な画像を処理する場合には図６に示した設定手法を採用することにより、平坦部分とエッジ部分との境界部分を滑らかに描写することができる。なお、エッジ部分と特異部分との境界部分に関しては、エッジ強度の変化が本来的に大きく、平坦部分とエッジ部分との境界部分ほど細かな変化を伴わないため、このような処理は不要である。

エッジ強調フィルタ２０は、強調強度設定部２１によって画素毎に設定された強調強度で、入力画像の各画素のＹ成分に対して強調処理を行う。

加算部２５は、ＹＵＶ色空間の入力画像と、エッジ強調フィルタ２０から入力されたＹ成分のエッジ強調画像とを加算することにより、エッジが強調されたＹＵＶ色空間の画像データを出力する。

三次元ノイズリダクションフィルタ２６は、加算器２５から入力された画像データに対して、動き適応型のノイズリダクション処理を行う。これにより、ノイズ除去処理部２で除去できなかった残存ノイズがエッジ強調処理部４の処理で不要に強調された場合であっても、三次元ノイズリダクションフィルタ２６によって当該ノイズを除去することができる。

＜第１の変形例＞
図７は、第１の変形例に係るエッジ強調処理部４の構成を示す図である。図３に示した構成に対して、二次元ハイパスフィルタ２７及びフィルタ強度設定部２８が追加されている。二次元ハイパスフィルタ２７としては、例えば、１７ｔａｐのプログラマブルフィルタが使用される。二次元ハイパスフィルタ２７の出力は、エッジ強調フィルタ２０の入力及びエッジ検出部２３の入力に接続されている。但し、エッジ検出部２３の入力には、二次元ハイパスフィルタ２７の入力を接続しても良い。

フィルタ強度設定部２８には、周波数解析部１９によって解析されたエッジの画面周波数に関する情報が、バッファ１６を介して入力される。フィルタ強度設定部２８は、一例として、二次元ローパスフィルタ１１に設定されている強度の許容上限値に相当するカットオフ周波数の１／２の周波数を、二次元ハイパスフィルタ２７のカットオフ周波数として設定する。本変形例において、フィルタ強度設定部２８は、エッジの画面周波数が低〜中周波数の領域に集中している場合には、カットオフ周波数をサンプリング周波数の０．１倍に設定する。また、エッジの画面周波数が中〜高周波数の領域に集中している場合には、カットオフ周波数をサンプリング周波数の０．１５倍に設定する。また、エッジの画面周波数が低周波数の領域に集中している場合には、カットオフ周波数をサンプリング周波数の０．０５倍に設定する。つまり、フィルタ強度設定部２８は、エッジの画面周波数が比較的低い周波数領域に集中する画像に関しては、カットオフ周波数が比較的低くなるようにフィルタ強度を設定し、エッジの画面周波数が比較的高い周波数領域に集中する画像に関しては、カットオフ周波数が比較的高くなるようにフィルタ強度を設定する。

なお、二次元ハイパスフィルタ２７にはプログラマブルフィルタが使用されているため、ノイズ成分が存在している周波数領域を遮断するように、ローパスフィルタ又はバンドパスフィルタとして機能させることも可能である。例えば、ノイズ成分が高周波領域に存在している場合には、プログラマブルフィルタをローパスフィルタとして機能させることにより、高周波領域のノイズを遮断することができる。

＜第２の変形例＞
図８は、第２の変形例に係るエッジ強調処理部４の構成を示す図である。図３に示した構成に対して、乗算部２９及び強調強度設定部３０が追加されている。

強調強度設定部２１は、エッジ強度算出部２２によって算出されたエッジ強度に基づいて、エッジ強調フィルタ２０のエッジ強調強度を画素毎に設定する。

強調強度設定部３０は、変動量算出部２４によって算出された画像の変動量に基づいて、乗算部２９の乗算係数を画像毎に設定する。例えば、画像の変動量がゼロである場合に１．０倍の乗算係数を設定し、画像の変動量が大きくなるほど大きい乗算係数を設定する。

エッジ強調フィルタ２０は、強調強度設定部２１によってエッジ強度に基づいて画素毎に設定された強調強度で、入力画像の各画素のＹ成分に対して強調処理を行う。

乗算部２９は、エッジ強調フィルタ２０から入力されたＹ成分のエッジ強調画像と、強調強度設定部３０によって変動量に基づいて画像毎に設定された乗算係数とを乗算することにより、エッジをさらに強調する。

加算部２５は、ＹＵＶ色空間の入力画像と、乗算部２９から入力されたＹ成分のエッジ強調画像とを加算することにより、エッジが強調されたＹＵＶ色空間の画像データを出力する。

＜まとめ＞
上記実施の形態に係る画像処理装置１によれば、エッジ検出部２３は、画像内のエッジを検出し、エッジ強度算出部２２は、エッジ検出部２３による検出結果に基づいて、画像内の各画素のエッジ強度を算出し、変動量算出部２４は、時系列で連続する複数の画像に基づいて、画像の変動量を算出する。そして、強調強度設定部２１は、エッジ強度算出部２２によって算出されたエッジ強度と、変動量算出部２４によって算出された変動量とに基づいて、エッジ強調フィルタ２０のエッジ強調強度を画素毎に設定する。これにより、エッジ強調フィルタ２０の強調強度を、各画素のエッジ強度と画像の変動量とに応じて画素毎に適応的に切り替えることができる。例えば、画像の平坦部分に属する画素に関しては比較的低い強調強度を設定することにより、ノイズが強調されることを回避でき、また、画像のエッジ部分に属する画素に関しては比較的高い強調強度を設定することにより、エッジを強調することができる。その結果、ノイズが強調されることを回避しつつエッジを強調できるため、ノイズの抑制とエッジの強調とを効果的に両立することが可能となる。また、エッジ強調フィルタ２０の強調強度を、画像の変動量に応じて適応的に切り替えることができる。その結果、画像の変動量に応じてエッジ強調フィルタ２０の強調強度を適切に設定することが可能となる。

また、上記実施の形態に係る画像処理装置１によれば、図５に示したように、画像の平坦部分に属する画素に関しては、比較的低い第１の強調強度Ｄ１を設定することにより、平坦部分のノイズが強調されることを回避できる。また、画像のエッジ部分に属する画素に関しては、比較的高い第２の強調強度Ｄ２を設定することにより、エッジを強調することができる。その結果、エッジ強調処理において、ノイズが強調されることを回避しつつ、エッジを強調することが可能となる。

また、上記実施の形態に係る画像処理装置１によれば、強調強度設定部２１は、図６に示したように、エッジ部分に近接する平坦部分に属する画素に関しては、エッジ強度が高いほど強調強度が高くなるように、エッジ強度に応じて第１の強調強度Ｄ１を設定する。このように、エッジ部分と平坦部分との境界部分に関してはエッジ強度に応じて第１の強調強度Ｄ１を細かく制御することにより、平坦部分全体に均一な強調強度を設定する場合と比較して、エッジ強調フィルタの強調強度を滑らかに切り替えることができる。その結果、エッジ部分と平坦部分との境界部分において画像が不自然になることを回避することが可能となる。

また、上記実施の形態に係る画像処理装置１によれば、図５に示したように、エッジ部分に属する画素に強調強度を設定するにあたり、画像の変動量が所定値以上である画像（動きの大きい画像）に関しては、画像の変動量が所定値未満である画像（動きの小さい画像）よりも高い第３の強調強度Ｄ３を設定することにより、動きに伴うエッジの不鮮明化を回避することが可能となる。

また、上記実施の形態に係る画像処理装置１によれば、図５に示したように、光源の反射部分等の画像の特異部分に属する画素に関しては、第２の強調強度Ｄ２よりも高い第４の強調強度Ｄ４を設定することにより、特異部分を強調することができる。その結果、特異部分を鮮明化することが可能となる。

また、上記実施の形態に係る画像処理装置１によれば、図５に示したように、特異部分に属する画素に強調強度を設定するにあたり、画像の変動量が所定値以上である画像（動きの大きい画像）に関しては、画像の変動量が所定値未満である画像（動きの小さい画像）よりも高い第５の強調強度Ｄ５を設定することにより、動きに伴う特異部分の不鮮明化を回避することが可能となる。

また、上記第１の変形例に係る画像処理装置１によれば、エッジ強調フィルタ２０の前段に二次元ハイパスフィルタ２７を接続することにより、低周波のノイズがエッジ強調フィルタ２０によって強調されることを回避できる。また、フィルタ強度設定部２８は、エッジの画面周波数に基づいて、二次元ハイパスフィルタ２７のフィルタ強度を画像毎に設定する。これにより、二次元ハイパスフィルタ２７のフィルタ強度を、エッジの画面周波数に応じて画像毎に適応的に切り替えることが可能となる。

また、上記第１の変形例に係る画像処理装置１によれば、エッジの画面周波数が比較的低い周波数領域に集中する画像（低周波のエッジを多く含む画像）に関しては、カットオフ周波数が比較的低くなるようにフィルタ強度を設定することにより、低周波のエッジは二次元ハイパスフィルタ２７を通過するため、低周波のエッジをエッジ強調フィルタ２０によって強調することができる。また、エッジの画面周波数が比較的高い周波数領域に集中する画像（中〜高周波のエッジを多く含む画像）に関しては、カットオフ周波数が比較的高くなるようにフィルタ強度を設定することにより、低周波のノイズは二次元ハイパスフィルタ２７によって遮断されるため、低周波のノイズがエッジ強調フィルタ２０によって強調されることを回避できる。また、中〜高周波のエッジは二次元ハイパスフィルタ２７を通過するため、中〜高周波のエッジをエッジ強調フィルタ２０によって強調することができる。

１ 画像処理装置
２ ノイズ除去処理部
３ 色空間変換部
４ エッジ強調処理部
１１ 二次元ローパスフィルタ
１２ フィルタ強度設定部
１３ エッジ強度算出部
１４ エッジ検出部
１８ 範囲設定部
１９ 周波数解析部
２０ エッジ強調フィルタ
２１ 強調強度設定部
２２ エッジ強度算出部
２３ エッジ検出部
２４ 変動量算出部

Claims (7)

1. 画像内のエッジを強調するエッジ強調フィルタと、
   画像内のエッジを検出するエッジ検出部と、
   前記エッジ検出部による検出結果に基づいて、画像内の各画素のエッジ強度を算出するエッジ強度算出部と、
   時系列で連続する複数の画像に基づいて、画像の変動量を算出する変動量算出部と、
   前記エッジ強度算出部によって算出されたエッジ強度と、前記変動量算出部によって算出された変動量とに基づいて、前記エッジ強調フィルタのエッジ強調強度を画素毎に設定する強調強度設定部と、
   を備え、
   前記強調強度設定部は、
   エッジ強度が第１のしきい値未満であり画像の平坦部分に属する画素に関しては、第１の強調強度を設定し、
   エッジ強度が第１のしきい値以上であり画像のエッジ部分に属する画素に関しては、第１の強調強度よりも高い第２の強調強度を設定し、
   エッジ強度が第２のしきい値以上であり画像の特異部分に属する画素に関しては、画像の変動量が所定値未満である画像に関しては第２の強調強度よりも高い第４の強調強度を設定し、画像の変動量が所定値以上である画像に関しては第４の強調強度よりも高い第５の強調強度を設定する、画像処理装置。
2. 前記強調強度設定部は、エッジ部分に近接する平坦部分に属する画素に関しては、エッジ強度が高いほど強調強度が高くなるように、エッジ強度に応じて第１の強調強度を設定する、請求項１に記載の画像処理装置。
3. 前記強調強度設定部は、
   画像の変動量が所定値未満である画像に関しては、エッジ部分に属する画素に関して第２の強調強度を設定し、
   画像の変動量が所定値以上である画像に関しては、エッジ部分に属する画素に関して、第２の強調強度よりも高い第３の強調強度を設定する、請求項１又は２に記載の画像処理装置。
4. 画像内のエッジを強調するエッジ強調フィルタと、
   画像内のエッジを検出するエッジ検出部と、
   前記エッジ検出部による検出結果に基づいて、画像内の各画素のエッジ強度を算出するエッジ強度算出部と、
   時系列で連続する複数の画像に基づいて、画像の変動量を算出する変動量算出部と、
   前記エッジ強度算出部によって算出されたエッジ強度と、前記変動量算出部によって算出された変動量とに基づいて、前記エッジ強調フィルタのエッジ強調強度を画素毎に設定する強調強度設定部と、
   前記エッジ強調フィルタの前段に接続されたハイパスフィルタと、
   エッジの画面周波数に基づいて、前記ハイパスフィルタのフィルタ強度を画像毎に設定するフィルタ強度設定部と、
   を備える、画像処理装置。
5. 前記フィルタ強度設定部は、
   エッジの画面周波数が比較的低い周波数領域に集中する画像に関しては、カットオフ周波数が比較的低くなるようにフィルタ強度を設定し、
   エッジの画面周波数が比較的高い周波数領域に集中する画像に関しては、カットオフ周波数が比較的高くなるようにフィルタ強度を設定する、請求項４に記載の画像処理装置。
6. （Ａ）エッジ強調フィルタによって画像内のエッジを強調するステップと、
   （Ｂ）画像内のエッジを検出するステップと、
   （Ｃ）前記ステップ（Ｂ）による検出結果に基づいて、画像内の各画素のエッジ強度を算出するステップと、
   （Ｄ）時系列で連続する複数の画像に基づいて、画像の変動量を算出するステップと、
   （Ｅ）前記ステップ（Ｃ）によって算出されたエッジ強度と、前記ステップ（Ｄ）によって算出された変動量とに基づいて、前記エッジ強調フィルタのエッジ強調強度を画素毎に設定するステップと、
   を備え、
   前記ステップ（Ｅ）では、
   エッジ強度が第１のしきい値未満であり画像の平坦部分に属する画素に関しては、第１の強調強度を設定し、
   エッジ強度が第１のしきい値以上であり画像のエッジ部分に属する画素に関しては、第１の強調強度よりも高い第２の強調強度を設定し、
   エッジ強度が第２のしきい値以上であり画像の特異部分に属する画素に関しては、画像の変動量が所定値未満である画像に関しては第２の強調強度よりも高い第４の強調強度を設定し、画像の変動量が所定値以上である画像に関しては第４の強調強度よりも高い第５の強調強度を設定する、画像処理方法。
7. （Ａ）エッジ強調フィルタによって画像内のエッジを強調するステップと、
   （Ｂ）画像内のエッジを検出するステップと、
   （Ｃ）前記ステップ（Ｂ）による検出結果に基づいて、画像内の各画素のエッジ強度を算出するステップと、
   （Ｄ）時系列で連続する複数の画像に基づいて、画像の変動量を算出するステップと、
   （Ｅ）前記ステップ（Ｃ）によって算出されたエッジ強度と、前記ステップ（Ｄ）によって算出された変動量とに基づいて、前記エッジ強調フィルタのエッジ強調強度を画素毎に設定するステップと、
   （Ｆ）エッジの画面周波数に基づいて、前記エッジ強調フィルタの前段に接続されたハイパスフィルタのフィルタ強度を画像毎に設定するステップと、
   を備える、画像処理方法。
   

Images