JP6288920B2 - 画像処理装置及びその制御方法 - Google Patents

画像処理装置及びその制御方法 Download PDF

Info

Publication number
JP6288920B2
JP6288920B2 JP2013032291A JP2013032291A JP6288920B2 JP 6288920 B2 JP6288920 B2 JP 6288920B2 JP 2013032291 A JP2013032291 A JP 2013032291A JP 2013032291 A JP2013032291 A JP 2013032291A JP 6288920 B2 JP6288920 B2 JP 6288920B2
Authority
JP
Japan
Prior art keywords
value
pixel
horizontal
adjacent
luminance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013032291A
Other languages
English (en)
Other versions
JP2014165532A5 (ja
JP2014165532A (ja
Inventor
正治 山岸
正治 山岸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013032291A priority Critical patent/JP6288920B2/ja
Publication of JP2014165532A publication Critical patent/JP2014165532A/ja
Publication of JP2014165532A5 publication Critical patent/JP2014165532A5/ja
Application granted granted Critical
Publication of JP6288920B2 publication Critical patent/JP6288920B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Television Systems (AREA)

Description

本発明は、画像処理装置及びその制御方法に関する。
インターレース画像を補間によりプログレッシブ画像に変換する方法として、動き適応型IP(インターレース−プログレッシブ)変換と呼ばれる方法がある。これは、補間画素の生成位置での画像の動き(動き情報)を検出し、その動き情報に応じて、補間画素としてフィールド内補間画素を生成するか、フィールド間補間画素を生成するかを適応的に切り替える方法である。
動き適応型IP変換では、「動きあり」と判定された位置に対して、同一フィールド内において該位置の垂直方向に隣接する画素を用いて補間画素が生成される。そのため、斜め方向のエッジ部分(斜めエッジ部分)では、ジャギーと呼ばれるギザギザが発生することとなり、画像品位(画質)が著しく劣化してしまう。
ジャギーの発生を抑制する技術として、入力されたインターレース画像の画素情報に基づいて斜めエッジ部分を検出し、該斜めエッジ部分に対して、その傾斜角度(エッジの方向)に応じた画素を用いて補間画素を生成する方法(斜め補間処理)が提案されている。そのような技術は、例えば、特許文献1に開示されている。特許文献1に開示の技術では、補間画素の生成位置周辺に存在する画素群の輪郭情報のパターンを予め用意された参照パターンと比較して、斜め補間処理を行うか否かが決定される。特許文献1に開示の技術では、上記構成により、垂直線や絵柄の輪郭をまたぐ方向の斜め補間処理が行われることを防ぐことができる。
しかしながら、上述した従来の技術では、インターレース画像から斜めエッジ部分を検出する際に、入力画像の内容によっては斜めエッジ部分が誤検出されることがある。例えば、周期パターン部分(画像の面方向に沿って明と暗や同じ絵柄が周期的に繰り返される部分)では、斜めエッジ部分が誤検出されることがある。
特許文献1に開示の技術では、周期パターン部分に対応する参照パターンを用意することにより、上記誤検出による画質の劣化を抑制することができる。しかしながら、想定される周期パターン部分の種類数は膨大である。そのため、想定される全ての周期パターン部分における誤検出を抑制するためには、膨大な数の参照パターンを用意する必要があり、想定される全ての周期パターン部分における誤検出を抑制することは困難である。その結果、特許文献1に開示の技術を用いたとしても、周期パターン部分において斜めエッジ部分が誤検出され、画質が劣化してしまうことがある。
特開2007−142669号公報
本発明は、周期パターン部分を含む入力画像の補間画素を生成する際の画質の劣化を、周期パターン部分の種類に依らず抑制することのできる技術を提供することを目的とする。
本発明の第1の態様は、
入力画像の補間画素を生成する画像処理装置であって、
前記補間画素の生成位置が周期パターン部分か否かを判定するパターン判定手段と、
前記補間画素の生成位置が斜め方向のエッジ部分か否かを判定する斜め判定手段と、
前記入力画像の動きがあり、且つ、前記斜め判定手段で斜め方向のエッジ部分であると判定された前記生成位置に対して、当該エッジの方向に存在する画素を用いて前記補間画素を生成する斜め補間処理を行う生成手段と、
を備え、
前記パターン判定手段は、
補間画素の生成位置に隣接する水平方向のライン上の、当該生成位置周辺に位置する画素である周辺画素毎に、その周辺画素の輝度値から、水平方向において当該周辺画素に隣接する画素である水平隣接画素の輝度値を減算した値を、水平輝度差として算出し、
前記周辺画素毎の水平輝度差に基づいて、水平隣接画素から周辺画素にかけての輝度値の変化が増加と減少の間で切り替わる位置を水平切り替わり位置として検出し、
水平切り替わり位置の間隔が一定である場合に、補間画素の生成位置が周期パターン部分であると判定し、
前記生成手段は、前記パターン判定手段で周期パターン部分であると判定された位置に対しては、前記斜め補間処理を行わずに前記補間画素を生成することを特徴とする画像処理装置である。
本発明の第2の態様は、
入力画像の補間画素を生成する画像処理装置であって、
前記入力画像が周期パターン部分を含む画像か否かを判定するパターン判定手段と、
前記補間画素の生成位置が斜め方向のエッジ部分か否かを判定する斜め判定手段と、
前記入力画像の動きがあり、且つ、前記斜め判定手段で斜め方向のエッジ部分であると判定された前記生成位置に、当該エッジの方向に存在する画素を用いて前記補間画素を生成する斜め補間処理を行う生成手段と、
を備え、
前記隣接輝度差は、輝度値の差の絶対値であり、
前記パターン判定手段は、
前記入力画像の隣接輝度差のヒストグラムの各度数を、隣接輝度差が大きいほど高い重みで重み付け加算して得られた値が閾値より大きい場合に、前記入力画像が周期パターン部分を含む画像であると判定し、
前記生成手段は、前記パターン判定手段で前記入力画像が周期パターン部分を含む画像であると判定された場合に、前記斜め補間処理を行わずに前記補間画素を生成することを特徴とする画像処理装置である。
本発明の第3の態様は、
入力画像の補間画素を生成する画像処理装置の制御方法であって、
前記補間画素の生成位置が周期パターン部分か否かを判定するパターン判定ステップと、
前記補間画素の生成位置が斜め方向のエッジ部分か否かを判定する斜め判定ステップと、
前記入力画像の動きがあり、且つ、前記斜め判定ステップで斜め方向のエッジ部分であると判定された生成位置に対して、当該エッジの方向に存在する画素を用いて前記補間画素を生成する斜め補間処理を行う生成ステップと、
を有し、
前記パターン判定ステップでは、
補間画素の生成位置に隣接する水平方向のライン上の、当該生成位置周辺に位置する画素である周辺画素毎に、その周辺画素の輝度値から、水平方向において当該周辺画素に
隣接する画素である水平隣接画素の輝度値を減算した値を、水平輝度差として算出し、
前記周辺画素毎の水平輝度差に基づいて、水平隣接画素から周辺画素にかけての輝度値の変化が増加と減少の間で切り替わる位置を水平切り替わり位置として検出し、
水平切り替わり位置の間隔が一定である場合に、補間画素の生成位置が周期パターン部分であると判定し、
前記生成ステップでは、前記パターン判定ステップで周期パターン部分であると判定された位置に対しては、前記斜め補間処理を行わずに補間画素を生成することを特徴とする画像処理装置の制御方法である
本発明の第4の態様は、
入力画像の補間画素を生成する画像処理装置の制御方法であって、
前記入力画像が周期パターン部分を含む画像か否かを判定するパターン判定ステップと、
前記補間画素の生成位置が斜め方向のエッジ部分か否かを判定する斜め判定ステップと、
前記入力画像の動きがあり、且つ、前記斜め判定ステップで斜め方向のエッジ部分であると判定された前記生成位置に、当該エッジの方向に存在する画素を用いて前記補間画素を生成する斜め補間処理を行う生成ステップと、
を有し、
前記隣接輝度差は、輝度値の差の絶対値であり、
前記パターン判定ステップでは、
前記入力画像の隣接輝度差のヒストグラムの各度数を、隣接輝度差が大きいほど高い重みで重み付け加算して得られた値が閾値より大きい場合に、前記入力画像が周期パターン部分を含む画像であると判定し、
前記生成ステップでは、前記パターン判定ステップで前記入力画像が周期パターン部分を含む画像であると判定された場合に、前記斜め補間処理を行わずに前記補間画素を生成することを特徴とする画像処理装置の制御方法である。
本発明によれば、周期パターン部分を含む入力画像の補間画素を生成する際の画質の劣化を、周期パターン部分の種類に依らず抑制することができる。
実施例1に係る画像処理装置の構成の一例を示す図 実施例1に係るフィールド内補間画素生成部の構成の一例を示す図 実施例1に係る角度情報に応じた画素の選択方法の一例を示す図 実施例1に係る斜め検出部の構成の一例を示す図 実施例1に係る周期パターン判定部の構成の一例を示す図 実施例1に係る隣接輝度差判定部の処理の一例を示す図 実施例1に係るブロックマッチング部の処理の流れの一例を示す図 実施例1に係る角度情報の決定方法の一例を示す図 実施例2に係る斜め検出部の構成の一例を示す図 実施例2に係る周期パターン判定部の構成の一例を示す図 実施例2に係る隣接輝度差判定部の処理の一例を示す図 実施例3に係る斜め検出部の構成の一例を示す図 実施例3に係る隣接輝度差ヒストグラムの一例を示す図 実施例3に係る重み係数HWCOE,VWCOEの一例を示す図 実施例3に係る輝度ヒストグラムの一例を示す図 実施例3に係る閾値決定部の処理の流れの一例を示す図 実施例3に係る差分Defと閾値Thの関係の一例を示す図 実施例4に係る部分画像の一例を示す図
<実施例1>
以下、本発明の実施例1に係る画像処理装置及びその制御方法について、図面を用いて説明する。本実施例に係る画像処理装置は、入力画像であるインターレース画像を補間によりプログレッシブ画像に変換する。
なお、本発明はインターレース画像を補間によりプログレッシブ画像に変換する構成に限定されるものではなく、入力画像の補間画素を生成する技術に適用可能である。
図1は、本実施例に係る画像処理装置の構成の一例を示すブロック図である。
図1において、フィールドメモリA100とフィールドメモリB101は、フィールド単位で装置に入力されるインターレース画像信号を蓄積し、該インターレース画像信号を1フィールド分だけ遅延させて出力する。即ち、画像処理装置にN番目のフィールド(Nフィールド)の画像信号FD0が入力された時に、フィールドメモリA100からは、N−1番目のフィールド(N−1フィールド)の画像信号FD1が出力される。フィールドメモリB101からは、N−2番目のフィールド(N−2フィールド)の画像信号FD2が出力される。本実施例では、N−1フィールドの画像信号FD1に対して補間画素が生成される。
動き検出部102は、補間画素の生成位置での画像の動きを検出する。本実施例では、動き検出部102は、Nフィールド信号FD0及びN−2フィールド信号FD2の2つのフィールドの画像信号を用いて、補間画素の生成位置での画像の動き(動き情報MV)を検出する。具体的には、動き検出部102は、補間画素の生成位置毎に、2つのフィールド間の画素値の差の絶対値(差分絶対値)を閾値と比較することにより、動きの有無を判定する。差分絶対値が閾値以上の場合は、画像の動きがある“MV=1(動き)”と判定され、差分絶対値が閾値未満の場合は、画像の動きがない“MV=0(静止)”と判定される。そして、この判定結果(画素毎のMVの値)が動き情報として補間画素生成部105へ出力される。なお、動きの検出方法はこれに限らない。例えば、ブロックマッチングにより動きが検出されてもよい。
斜め検出部103は、補間画素の生成位置が斜め方向のエッジ部分(斜めエッジ部分)か否かを判定する。そして、斜め検出部103は、補間画素の生成位置が斜めエッジ部分であると判定した場合に、そのエッジの方向を表す情報をフィールド内補間画素生成部104へ出力する。本実施例では、エッジの方向を表す情報として、当該方向の垂直方向に対する傾斜角度を表す角度情報ANGLEが出力される。本実施例では、角度情報ANGLEは、−15〜+15の値を取り得るものとする。斜め検出部103の動作の詳細については後述する。
フィールド内補間画素生成部104は、角度情報ANGLEに基づいて、フィールド内補間による補間画素(フィールド内補間画素)を生成して出力する。具体的には、フィールド内補間画素生成部104は、フィールド内補間画素の画素値ID1を算出し、出力する。フィールド内補間画素は、画像の動きのある位置に生成するのに適した補間画素であり、補間画素の生成の対象となるN−1フィールド信号FD1の画素値を用いて生成される補間画素である。
フィールド内補間画素生成部104は、例えば、図2に示すような構成を有する。
フィールド内補間画素生成部104に入力されたN−1フィールド信号FD1は、ラインメモリ200と選択部A201に入力される。
ラインメモリ200は、入力されたN−1フィールド信号FD1を1H(1水平走査期間)だけ遅延させ、当該遅延させた信号を1H遅延信号LD1として選択部B202に出力する。
選択部A201は、補間画素の生成位置毎に、N−1フィールド信号FD1(補間画素の生成位置の1つ下のラインの画像信号)から、角度情報ANGLEに応じた画素を選択し、その画素の画素値S1を出力する。
選択部B202は、補間画素の生成位置毎に、1H遅延信号LD1(補間画素の生成位置の1つ上のラインの画像信号)から、角度情報ANGLEに応じた画素を選択し、その画素の画素値S2を出力する。
選択部A201及び選択部B202における画素の選択方法について、図3(A)を用いて説明する。
図3(A)において、画素u(h)は、補間画素の生成位置Iの1つ上のライン上の画素であり、図2における1H遅延信号LD1で表される画素である。画素d(h)は、補間画素の生成位置Iの1つ下のライン上の画素であり、図2におけるN−1フィールド信号FD1で表される画素である。hは、補間画素の生成位置に対する画素u(h),d(h)の位置の水平方向のずれ量(補間画素の生成位置を基準とする画素u(h),d(h)の水平方向の位置を示す値)である。hの値が負の値である場合には、画素u(h),d(h)の水平方向の位置は、補間画素の生成位置に対して左側へ|h|画素ずれた位置となる。hの値が正の値である場合には、画素u(h),d(h)の水平方向の位置は、補間画素の生成位置に対して右側へ|h|画素ずれた位置となる。
本実施例では、斜め検出部103は、角度情報ANGLEとして、上述したhの値を出力する。また、斜め検出部103は、補間画素の生成位置がエッジ部分でない場合には、角度情報ANGLE=0を出力する。
角度情報ANGLE=+Q(Qは自然数)の場合は、選択部A201でu(+Q)が選択され、選択部B202でd(−Q)が選択される。図3(A)は、補間画素の生成位置Iに対する角度情報ANGLEが+3の場合の例である。この場合、選択部A201でu(+3)が選択され、選択部B202でd(−3)が選択される。また、角度情報ANGLE=0の場合には、図3(B)に示すように、選択部A201でu(0)が選択され、選択部B202でd(0)が選択される。
加算器203は、選択部A201から出力された画素値S1と選択部B202から出力された画素値S2とを足し合わせることにより画素値S3を算出し、乗算器204へ出力する。
乗算器204は、画素値S3を1/2倍し、その結果(画素値S3を1/2倍した値)を、フィールド内補間画素の画素値ID1(フィールド内補間値)として出力する。
これにより、N−1フィールド信号FD1において、エッジ部分の補間画素の画素値として、そのエッジの方向に隣接する2画素の画素値の平均値を得ることができる。また、エッジ部分以外の位置の補間画素の画素値として、垂直方向に隣接する2画素の画素値の平均値を得ることができる。
図1の説明に戻る。
補間画素生成部105は、補間画素の生成位置毎に、動き情報MVに応じて補間方法を切り替え、補間画素を生成する(補間画素の画素値ID2を決定する)。即ち、補間画素生成部105は、動き適応型インターレース・プログレッシブ変換により補間画素を生成する。具体的には、補間画素の生成位置において画像の動きがない場合(“MV=0”である場合)には、補間画素生成部105は、該生成位置に対し、N−2フィールド信号FD2の画素値を画素値ID2として用いて、補間画素(フィールド間補間画素)を生成する。補間画素の生成位置において画像の動きがある場合(“MV=1”である場合)には、補間画素生成部105は、該生成位置に対し、フィールド内補間値ID1を画素値ID2として用いて、補間画素(フィールド内補間画素)を生成する。そのため、画像の動きがあり、且つ、斜め検出部103で斜めエッジ部分であると判定された補間画素の生成位
置に対しては、該エッジの方向に存在する画素を用いて補間画素を生成する斜め補間処理が行われる。そして、補間画素生成部105は、各補間画素の画素値ID2を倍速変換部106へ出力する。なお、フィールド間補間画素は、画像の動きのない位置に生成するのに適した補間画素であって、N−2フィールド信号の画素値(補間画素の生成位置と同じ位置の画素値)と同じ画素値を有する補間画素である。
倍速変換部106は、各補間画素の画素値ID2と、N−1フィールド信号FD1とを合成してプログレッシブ画像信号(1フレームのプログレッシブ画像信号)として出力する。具体的には、倍速変換部106は、N−1フィールド信号FD1と、各補間画素の画素値ID2とを、インターレース画像信号が入力される速度の2倍の速度でライン毎に交互に読み出す。これにより、N−1フィールド信号FD1のオリジナルライン(N−1フィールドのインターレース画像を構成する画素からなるライン)の画像信号と、画素値ID2を有する補間画素からなるライン(補間ライン)の画像信号とがライン毎に交互に読み出される。そして、倍速変換部106は、ライン毎に、読み出した画像信号をプログレッシブ画像信号(1ライン分のプログレッシブ画像信号)として出力する。
次に、斜め検出部103の構成について説明する。図4は、本実施例に係る斜め検出部103の構成の一例を示すブロック図である。
ラインメモリ300は、入力されたN−1フィールド信号FD1を1H(1水平走査期間)だけ遅延させ、当該遅延させた信号を1H遅延信号LD1として出力する。
周期パターン判定部301は、入力画像(N−1フィールドのインターレース画像信号)の互いに隣接する画素間の輝度差である隣接輝度差に基づいて、入力画像が周期パターン部分を含む画像か否かを判定する。周期パターン部分は、画像の面方向に沿って明と暗や同じ絵柄が周期的に繰り返される部分である。本実施例では、周期パターン判定部301は、補間画素の生成位置毎に、入力画像の隣接輝度差に基づいて、その生成位置が周期パターン部分か否かを判定する。具体的には、N−1フィールド信号FD1(補間画素の生成位置の1つ下のラインの画像信号)と1H遅延信号LD1(補間画素の生成位置の1つ上のラインの画像信号)とを用いて、補間画素の生成位置が周期パターン部分か否かが判定される。そして、周期パターン判定部301は、補間画素の生成位置が周期パターン部分か否かの判定結果DETをブロックマッチング部302に出力する。
周期パターン判定部301は、例えば、図5に示すような構成を有する。
隣接輝度差判定部400は、周辺画素毎に、その周辺画素の輝度値から、水平方向において当該周辺画素に隣接する画素である水平隣接画素の輝度値を減算した値を、水平輝度差として算出する。周辺画素は、補間画素の生成位置に隣接する水平方向のライン上の、当該生成位置周辺に位置する画素である。次に、隣接輝度差判定部400は、周辺画素毎に、水平輝度差に基づいて、水平隣接画素から周辺画素にかけて輝度値が増加している“UP”か、減少している“DOWN”か、変化していない“FLAT”かを判断する(水平輝度変化の判断)。そして、隣接輝度差判定部400は、周辺画素毎の水平輝度変化の判断結果(水平判断結果)を変化点検出部401へ出力する。
以下、図6(A),(B)を用いて、隣接輝度差判定部400の処理の具体例を説明する。図6(A)は、補間画素の生成位置が斜めエッジ部分であり、周期パターン部分でない場合の例を示す図である。図6(B)は、補間画素の生成位置が周期パターン部分である場合の例を示す図である。図6(A),(B)において、実ラインUは、補間画素の生成位置Iの1つ上のラインであり、1H遅延信号LD1で表されるラインである。実ラインDは、補間画素の生成位置の1つ下のラインであり、N−1フィールド信号FD1で表されるラインである。また、図6(A),(B)において、補間ラインは補間画素が生成されるラインである。輝度値は8ビットの値であり、図6(A),(B)において、輝度
値が0の画素は黒丸で示されており、輝度値が255の画素は白丸で示されている。なお、輝度値のビット数は8より大きくても小さくてもよい。
実ラインU上の周辺画素に対する処理(水平輝度差の算出、及び、水平輝度変化の判断)について説明する。実ラインU上の周辺画素に対する処理では、実ラインU上の画素u(j)が周辺画素として用いられる(−5≦j≦+5)。jの定義は、上述したhと同じである。そして、周辺画素u(j)に対して左側に隣接する画素u(j−1)が、周辺画素u(j)の水平隣接画素として用いられる。なお、周辺画素に対応するjの範囲は−5≦j≦+5より広くても狭くてもよい。また、水平隣接画素は周辺画素に対して右側に隣接する画素であってもよい。
周辺画素u(j)の水平輝度差ygul(j)は、以下の式1を用いて算出される。式1において、yu(j)は周辺画素u(j)の輝度値であり、yu(j−1)は水平隣接画素u(j−1)の輝度値である。

ygul(j)=yu(j)−yu(j−1) ・・・(式1)

そして、水平輝度差ygul(j)が正の場合に、水平隣接画素u(j−1)から周辺画素u(j)にかけて輝度値が増加している“UP”と判断され、周辺画素u(j)に対する水平判断結果としてYGu(j)=0が出力される。水平輝度差ygul(j)が負の場合には、“DOWN”と判断され、水平判断結果としてYGu(j)=1が出力される。水平輝度差ygul(j)が0の場合には、“FLAT”と判断され、水平判断結果としてYGu(j)=2が出力される。なお、“FLAT”と判断される水平輝度差に幅を持たせてもよい。例えば、水平輝度差の絶対値が0より大きい閾値未満である場合に“FLAT”と判断してもよい。また、“UP”か“DOWN”か“FLAT”かの三択ではなく、“UP”か“DOWN”かの二択であってもよい。
例えば、式2に示すように、図6(A)の周辺画素u(−2)に対する水平輝度差ygul(−2)は0となる。そして、周辺画素u(−2)に対しては“FLAT”と判断され、周辺画素u(−2)に対する水平判断結果としてYGu(−2)=2が出力される。

ygul(−2)=yu(−2)−yu(−3)
=255−255
=0
・・・(式2)
実ラインD上の周辺画素に対する処理(水平輝度差の算出、及び、水平輝度変化の判断)について説明する。実ラインD上の周辺画素に対する処理でも、実ラインU上の周辺画素に対する処理と同様に、実ラインD上の画素d(j)が周辺画素として用いられる。そして、周辺画素d(j)に対して左側に隣接する画素d(j−1)が、周辺画素d(j)の水平隣接画素として用いられる。
周辺画素d(j)の水平輝度差ygdl(j)は、以下の式3を用いて算出される。式3において、yd(j)は周辺画素d(j)の輝度値であり、yd(j−1)は水平隣接画素d(j−1)の輝度値である。

ygdl(j)=yd(j)−yd(j−1) ・・・(式3)

そして、水平輝度差ygdl(j)が正の場合に、水平隣接画素d(j−1)から周辺画素d(j)にかけて輝度値が増加している“UP”と判断され、周辺画素d(j)に対する水平判断結果としてYGd(j)=0が出力される。水平輝度差ygdl(j)が負の場合には、“DOWN”と判断され、水平判断結果としてYGd(j)=1が出力され
る。水平輝度差ygdl(j)が0の場合には、“FLAT”と判断され、水平判断結果としてYGd(j)=2が出力される。
例えば、式4に示すように、図6(A)の周辺画素d(−2)に対する水平輝度差ygdl(−2)は−255となる。そして、周辺画素d(−2)に対しては“DOWN”と判断され、周辺画素d(−2)に対する水平判断結果としてYGd(−2)=1が出力される。

ygdl(−2)=yd(−2)−yd(−3)
=0−255
=−255
・・・(式4)
以上の処理が、図6(A),(B)の破線で囲まれた22個の周辺画素について行われ、当該22個の周辺画素に対する22個の水平判断結果が出力される。即ち、以上の処理が、実ラインU上の11個の周辺画素u(j)、及び、実ラインD上の11個の周辺画素d(j)について行われる(j=−5〜+5)。そして、11個の周辺画素u(j)に対する11個の水平判断結果YGu(j)、及び、11個の周辺画素d(j)に対する11個の水平判断結果YGd(j)が出力される。図6(A),(B)において、右水平矢印は「FLAT」と判断されたことを意味し、右上がり矢印は「UP」と判断されたことを意味し、右下がり矢印は「DOWN」と判断されたことを意味する。
変化点検出部401は、周辺画素毎の水平輝度差に基づいて、水平隣接画素から周辺画素にかけての輝度値の変化が増加と減少の間で切り替わる位置を水平切り替わり位置として検出する。具体的には、変化点検出部401は、隣接輝度差判定部400の22個の水平判断結果YGu(j),YGd(j)を用いて、水平切り替わり位置を検出する。
本実施例では、水平切り替わり位置に対応する周辺画素が検出される。具体的には、以下の条件1〜4のいずれかを満たす周辺画素が、水平切り替わり位置に対応する周辺画素として検出される。なお、以下の条件1〜4において、判定対象画素は、水平切り替わり位置に対応するか否かの判定の対象である周辺画素である。

条件1:判定対象画素の水平判断結果が「FLAT」であり、
判定対象画素に対し左側に隣接する画素の水平判断結果が「UP」であり、且つ、
判定対象画素に対し右側に隣接する画素の水平判断結果が「DOWN」である
条件2:判定対象画素の水平判断結果が「FLAT」であり、
判定対象画素に対し左側に隣接する画素の水平判断結果が「DOWN」であり、
且つ、判定対象画素に対し右側に隣接する画素の水平判断結果が「UP」である条件3:判定対象画素の水平判断結果が「UP」であり、且つ、
判定対象画素に対し左側に隣接する画素の水平判断結果が「DOWN」である
条件4:判定対象画素の水平判断結果が「DOWN」であり、且つ、
判定対象画素に対し左側に隣接する画素の水平判断結果が「UP」である
変化点検出部401は、上述した22個の周辺画素に対して、水平切り替わり位置に対応するか否かを判定し、22個の周辺画素に対する22個の判定結果を出力する。即ち、実ラインU上の11個の周辺画素u(j)、及び、実ラインD上の11個の周辺画素d(j)に対して、水平切り替わり位置に対応するか否かが判定される(j=−5〜+5)。そして、11個の周辺画素u(j)に対する11個の判定結果Mu(j)、及び、11個の周辺画素d(j)に対する11個の判定結果Md(j)が出力される。本実施例では、
水平切り替わり位置に対応すると判定された周辺画素u(j)に対する判定結果として、Mu(j)=1が出力され、水平切り替わり位置に対応しないと判定された周辺画素u(j)に対する判定結果として、Mu(j)=0が出力される。同様に、水平切り替わり位置に対応すると判定された周辺画素d(j)に対する判定結果として、Md(j)=1が出力され、水平切り替わり位置に対応しないと判定された周辺画素d(j)に対する判定結果として、Md(j)=0が出力される。
図6(B)の例では、周辺画素u(−3)はYGu=2(FLAT)と判断されている。そして、周辺画素u(−3)に対し左側に隣接する画素u(−4)はYGu=0(DOWN)と判断されており、周辺画素u(−3)に対し右側に隣接する画素u(−2)はYGu=1(UP)と判断されている。つまり、周辺画素u(−3)は条件2を満たしている。そのため、周辺画素u(−3)は、水平切り替わり位置に対応する画素であると判定され、周辺画素u(−3)に対する判定結果として、Mu(−3)=1が出力される。
図6(A),(B)において、斜線で示された画素が、「水平切り替わり位置に対応する」と判定された画素である。
判定部402は、変化点検出部401の判定結果に基づいて、補間画素の生成位置が周期パターン部分であるか否かを判定する。本実施例では、水平切り替わり位置の間隔が一定である場合に、補間画素の生成位置が周期パターン部分であると判定され、水平切り替わり位置の間隔が一定でない場合に、補間画素の生成位置が周期パターン部分でないと判定される。具体的には、以下の条件1と条件2のいずれかを満たした場合に周期パターン部分であると判定され、以下の条件1と条件2のいずれも満たされなかった場合に周期パターン部分でないと判定される。

条件1:実ラインUにおいて、水平切り替わり位置が一定の間隔で存在する
条件2:実ラインDにおいて、水平切り替わり位置が一定の間隔で存在する

例えば、隣り合う対応画素u(j)の全ての組において、隣り合う対応画素u(j)間のj値の差の絶対値が閾値(例えば1)以下である場合に、条件1を満たすと判定される(j=−5〜+5)。対応画素u(j)は、Mu(j)=1を満たす周辺画素u(j)である。そして、隣り合う対応画素d(j)の全ての組において、隣り合う対応画素d(j)間のj値の差の絶対値が閾値(例えば1)以下である場合に、条件2を満たすと判定される。対応画素d(j)は、Md(j)=1を満たす周辺画素d(j)である。
判定部402は、周期パターン部分であると判定した場合にDET=1を出力し、周期パターン部分でないと判定した場合にDET=0を出力する。図6(A)の例では、水平切り替わり位置が検出されていないため、補間画素の生成位置Iが周期パターン部分でないと判定され、生成位置Iに対する判定結果としてDET=0が出力される。図6(B)の例では、実ラインUと実ラインDの両方において水平切り替わり位置が1画素おきに存在する。即ち、図6(B)の例では、条件1と条件2の両方が満たされる。そのため、図6(B)の例では、補間画素の生成位置Iが周期パターン部分であると判定され、生成位置Iに対する判定結果としてDET=1が出力される。
なお、本実施例では、実ラインUと実ラインDのそれぞれについて、水平輝度差の算出、水平輝度変化の判断、水平切り替わり位置の検出、等を行ったが、実ラインUと実ラインDのうちの一方についてそれらの処理が行われてもよい。
図4の説明に戻る。
ブロックマッチング部302は、N−1フィールド信号FD1と1H遅延信号LD1を用いたブロックマッチングを行い、2ブロック間の画像の類似度としてSAD値を算出する。ここでの“ブロックマッチング”は、複数画素を1ブロックとして、同一フィールド内の2ブロック間でブロック内の画素値を比較することにより、2ブロック間の画像の類
似度(相関値)を算出する処理である。本実施例では、ブロックのサイズが水平方向5画素分のサイズであるものとする。SAD値は差分絶対値和であり、SAD値として、上述した類似度が高いほど小さい値が算出される。本実施例では、補間画素の生成位置毎に、ブロックマッチングの対象となる組(2つのブロックの組)の数のSAD値が算出される。具体的には、1つの補間画素の生成位置に対する処理において、実ラインUに位置するu(−15)〜u(+15)の31個の画素に対して31個の基準ブロックが設定され、31個の基準ブロックに対して31個の参照ブロックが設定される。そして、31個の組(基準ブロックと参照ブロックの組)に対する31個のSAD値が算出される。ブロックマッチング部302は、補間画素の生成位置毎に、算出した31個のSAD値をマッチング角度算出部303に出力する。
なお、ブロックのサイズは5画素分のサイズより大きくても小さくてもよい。
また、1つの補間画素の生成位置に対して算出されるSAD値の数は31個より多くても少なくてもよい。例えば、後述するiの範囲は−15〜+15より広くても狭くてもよい。
ブロックマッチング部302の処理の流れの一例を、図7のフローチャートを用いて詳細に説明する。図7の処理は、補間画素の生成位置毎に実行される。
まず、ブロックマッチング部302が、周期パターン判定部301の出力であるDETの値が0か1かを判定する(S102)。DET=1である場合には、ブロックマッチング部302は、補間画素の生成位置が周期パターン部分であると判断し、S103へ処理を進める。DET=0である場合には、ブロックマッチング部302は、補間画素の生成位置が周期パターン部分でないと判断し、S104へ処理を進める。
S103では、ブロックマッチング部302が、各SAD値(31個のSAD値のそれぞれ)として所定値を設定し、31個のSAD値を出力する。本実施例では、各SAD値として、設定可能な値の最大値が設定される。各SAD値として所定値を設定することにより、後述するマッチング角度算出部303において、補間画素の生成位置が斜めエッジ部分でないと判定される(角度情報ANGLE=0が出力される)ことになる。上述したように、本実施例では、画像の動きがあり、且つ、斜めエッジ部分であると判定された位置に対して、斜め補間処理が行わる。S103の処理を行うことにより、周期パターン部分であると判定された位置に対しては、斜め補間処理を行わずに補間画素が生成されるようになる。例えば、図6(A)に示す補間画素の生成位置Iにおいて画像の動きがない場合、当該生成位置Iに対しては斜め補間処理により補間画素が生成される。図6(B)に示す補間画素の生成位置Iにおいて画像の動きがある場合、当該生成位置Iに対しては通常のフィールド内補間により補間画素が生成される(本実施例では上下に隣接する画素を用いて補間画素が生成される)。画像の動きがある場合には、図6(A)と図6(B)のいずれの場合においても、フィールド間補間画素が生成される。
S104では、ブロックマッチング部302が、iを−15に初期化する。iの定義は、上述したhと同じである。本実施例では、iは−15〜+15の値を取り得る。なお、本実施例では、iの値を順番に切り替えて処理を行う例を説明するが、iの値の切り替えを行わずに、複数のiの値に対応する複数の処理が並列に行われてもよい。
次に、ブロックマッチング部302が、切り出し位置Pを決定する(S105)。具体的には、ブロックマッチング部302は、位置iを切り出し位置Pとして設定する。切り出し位置Pは、基準ブロックの中心位置と、参照ブロックの中心位置とを判断するために用いられる。
そして、ブロックマッチング部302が、S105で決定された切り出し位置Pに従って、ブロックマッチングを行い、SAD値を算出する(S106)。
具体的には、ブロックマッチング部302は、画素u(P)の位置を基準ブロックの中心位置として判断し、画素d(−P)の位置を参照ブロックの中心位置として判断する。画素u(P)は、補間画素の生成位置Iを中心として画素d(−P)と点対称の位置にある。次に、ブロックマッチング部302は、画素u(P)を中心として水平方向に並んだ複数画素(本実施例では5画素)からなる領域を基準ブロックとして判断し、画素d(−P)を中心として水平方向に並んだ複数画素からなる領域を参照ブロックとして判断する。基準ブロックは、補間画素の生成位置Iを中心として参照ブロックと点対称の位置にある。そして、ブロックマッチング部302は、基準ブロック(実ラインU上の画素からなるブロック)内の画素値と、参照ブロック(実ラインD上の画素からなるブロック)内の画素値とを比較して、SAD値を算出する。基準ブロック内の画素値は、1H遅延信号LD1を用いて判断され、参照ブロック内の画素値は、N−1フィールド信号FD1を用いて判断される。
より具体的には、SAD値は、以下の式5を用いて算出される。式5において、BSはブロックのサイズであり、intは小数点以下を切り捨てて整数値を得る関数である。本実施例ではBS=5であるため、int(BS/2)(=int(2.5))=2となる。
Figure 0006288920
・・・(式5)

図8(A)はP=−3のときの基準ブロックと参照ブロックの一例を示す。図8(A
)の例では、P(=i)=−3に対するSAD値は以下の式6を用いて算出される。

SAD(−3)=|u(−5)−d(+1)|
+|u(−4)−d(+2)|
+|u(−3)−d(+3)|
+|u(−2)−d(+4)|
+|u(−1)−d(+5)|
・・・(式6)
次に、ブロックマッチング部302が、i=+15か否かを判定する(S107)。i=+15でない場合(i<15の場合)に、ブロックマッチング部302は、SAD値が算出されていないiの値が存在すると判断し、S108に処理を進める。S108では、ブロックマッチング部302がiに1を加算する。そして、S105に処理が戻される。i=+15となるまで、S105〜S108の処理が繰り返される。S107において、i=+15である場合に、ブロックマッチング部302は、i=−15〜+15の全てに対してSAD値が算出されたと判断し、i=−15〜+15の31個のiの値に対応する31個のSAD値を出力する。
マッチング角度算出部303は、補間画素の生成位置毎に、その生成位置が斜めエッジ部分か否かを判定し、判定結果として角度情報ANGLEを出力する。角度情報ANGLE=0は、斜めエッジ部分でないと判定されたことを意味し、角度情報ANGLE≠0は斜めエッジ部分であると判定されたことを意味する。
具体的には、マッチング角度算出部303は、ブロックマッチング部302で算出された31個のSAD値に基づいて、補間画素の生成位置でのエッジの方向を判断し、判断結果を角度情報ANGLEとして出力する。本実施例では、複数(31個)の候補方向のうち、2ブロック間の画像の類似度が最も高い方向が、補間画素の生成位置におけるエッジ
の方向として判定される。上述したように、本実施例では、2ブロック間の画像の類似度が高いほど小さいSAD値が算出される。そのため、本実施例では、マッチング角度算出部303は、上記31個のSAD値の最小値に対応するPの値を、補間画素の生成位置でのエッジの方向を表す値として判断する。SAD値の最小値(SADmin)は以下の式7を用いて算出される。なお、以下の式において、Pは−15〜15であり、MINは最小値を算出する関数である。

SADmin=MIN(SAD(P)) ・・・(式7)

マッチング角度算出部303は、SADmin=SAD(P)となるPの値を角度情報ANGLEとして出力する。但し、31個のSAD値の全てが最大値(設定可能な値の最大値)である場合には、マッチング角度算出部303は、角度情報ANGLEとして0を出力する。
なお、SADminが所定の閾値以上である場合に、補間画素の生成位置がエッジ部分ではないと判定し、角度情報ANGLEとして0を出力してもよい。
例えば、図8(B)に示すような画素構成の画像(斜めエッジ部分の画像)を表す信号が入力された場合には、補間画素の生成位置Iに対して算出された31個のSAD値の分布は図8(C)のようになる。図8(B)では、k=−6〜+6の画素u(k),d(k)が示されているが、図8(C)では、ブロックマッチングを行う範囲(k(=i)=−15〜+15)におけるSAD値の分布が示されている。図8(C)の例では、実ラインUのu(+3)の位置(P=+3の位置)に対応するSAD値が最小値SADminとなっている。そのため、マッチング角度算出部303からは、角度情報ANGLE=+3が出力される。その結果、補間画素の生成位置Iにおいて画像の動きがある場合には、当該生成位置Iに対して、斜め補間処理により補間画素が生成される。
また、図6(A)に示す補間画素の生成位置Iに対する判定結果として、角度情報ANGLE=+1が出力される。その結果、補間画素の生成位置Iにおいて画像の動きがある場合には、当該生成位置Iに対して、斜め補間処理により補間画素が生成される。
一方、図6(B)に示す補間画素の生成位置Iは周期パターン部分であると判断されるため、当該生成位置Iに対する判定結果として角度情報ANGLE=0が出力される。その結果、生成位置Iに対しては、斜め補間処理を行うことなく補間画素が生成される。
以上述べたように、本実施例によれば、周期パターン部分であると判定された位置(補間画素の生成位置)に対しては、斜め補間処理を行わずに補間画素が生成される。その結果、周期パターン部分での画質の劣化(誤検出されたエッジの方向に応じた斜め補間処理による画質の劣化)を抑制することができる。また、本実施例によれば、入力画像の隣接輝度差に基づいて、補間画素の生成位置が周期パターン部分か否かが判定される。その結果、様々な周期パターン部分を判断することができ、周期パターン部分を含む入力画像の補間画素を生成する際の画質の劣化を、周期パターン部分の種類に依らず抑制することができる。例えば、周期パターン部分を含むインターレース画像をプログレッシブ画像に変換する際の画質の劣化を、周期パターン部分の種類に依らず抑制することができる。
なお、本実施例では、周期パターン部分であると判定された位置に対してブロックマッチング(SAD値の算出)を行わないように制御することにより、周期パターン部分であると判定された位置に対する斜め補間処理を防止したが、この構成に限らない。例えば、周期パターン部分であるか否かの判定結果に応じて、マッチング角度算出部303から出力された角度情報ANGLEを補正してもよい。具体的には、周期パターン部分であると判定された位置に対する角度情報ANGLEを0に補正してもよい。そのような構成であっても、周期パターン部分であると判定された位置に対する斜め補間処理を防止することができる。
なお、本実施例では、水平切り替わり位置の間隔に基づいて判定(周期パターン部分か否かの判定)を行う例を示したが、これに限らない。例えば、水平切り替わり位置の数が所定数以上である場合に周期パターン部分であると判定されてもよい。また、隣接輝度差として、互いに隣接する画素間の輝度値の差の絶対値が算出されてもよい。そして、隣接輝度差が閾値以上となる画素の数が所定数以上である場合に周期パターン部分であると判定されてもよい。
<実施例2>
実施例1では、水平方向に関する情報(水平輝度差など)のみを用いて周期パターン部分か否かを判定する例を説明した。実施例2では、水平方向に関する情報、及び、垂直方向に関する情報(垂直輝度差など)を用いて周期パターン部分か否かを判定する例を説明する。垂直輝度差は、周辺画素の輝度値から、垂直方向において当該周辺画素に隣接する画素である垂直隣接画素の輝度値を減算した値である。
本実施例に係る画像処理装置の全体構成は実施例1(図1)と同じである。
図9は、本実施例に係る斜め検出部103の構成の一例を示すブロック図である。なお、実施例1と同じ機能部には同じ符号を付し、その説明は省略する。
ラインメモリA500は、入力されたN−1フィールド信号FD1を1H(1水平走査期間)だけ遅延させ、当該遅延させた信号を1H遅延信号LD1として出力する。
ラインメモリB501は、1H遅延信号LD1を1Hだけ遅延させ、当該遅延させた信号を2H遅延信号LD2として出力する。
ラインメモリC502は、2H遅延信号LD2を1Hだけ遅延させ、当該遅延させた信号を3H遅延信号LD3として出力する。
実施例1の周期パターン判定部301とブロックマッチング部302では、N−1フィールド信号FD1で表されるラインと、1H遅延信号LD1で表されるラインとの間における補間画素の生成位置に対して処理が行われた。実施例2の周期パターン判定部503とブロックマッチング部302では、1H遅延信号LD1で表されるラインと、2H遅延信号LD2で表されるラインとの間における補間画素の生成位置に対して処理が行われる。
周期パターン判定部503は、4ライン分の画像信号FD1,LD1,LD2,LD3を用いて、補間画素の生成位置が周期パターン部分か否かを判定する。そして、周期パターン判定部503は、補間画素の生成位置が周期パターン部分か否かの判定結果DETをブロックマッチング部302へ出力する。
周期パターン判定部503は、例えば、図10に示すような構成を有する。
隣接輝度差判定部600は、実施例1と同様に、水平輝度差の算出、及び、水平方向における輝度値の変化(水平輝度変化)を判断する。また、隣接輝度差判定部600は、周辺画素毎に、その周辺画素の輝度値から、垂直方向において当該周辺画素に隣接する画素である垂直隣接画素の輝度値を減算した値を、垂直輝度差として算出する。そして、隣接輝度差判定部600は、周辺画素毎に、垂直輝度差に基づいて、垂直隣接画素から周辺画素にかけて輝度値が増加している“UP”か、減少している“DOWN”か、変化していない“FLAT”かを判断する(垂直輝度変化の判断)。周辺画素毎の判断結果(水平輝度変化及び垂直輝度変化の判断結果)は、変化点検出部601へ出力される。
以下、図11(A),(B)を用いて、隣接輝度差判定部600の処理の具体例を説明する。図11(A)は、補間画素の生成位置が斜めエッジ部分であり、周期パターン部分でない場合の例を示す図である。図11(B)は、補間画素の生成位置が周期パターン部分である場合の例を示す図である。図11(A),(B)において、実ラインU2は、補間画素の生成位置Iの2つ上のラインであり、3H遅延信号LD3で表されるラインであ
る。実ラインU1は、補間画素の生成位置Iの1つ上のラインであり、2H遅延信号LD2で表されるラインである。実ラインD1は、補間画素の生成位置Iの1つ下のラインであり、1H遅延信号LD1で表されるラインである。実ラインD2は、補間画素の生成位置の2つ下のラインであり、N−1フィールド信号FD1で表されるラインである。また、図11(A),(B)において、補間ラインは補間画素が生成されるラインである。輝度値は8ビットの値であり、図11(A),(B)において、輝度値が0の画素は黒丸で示されており、輝度値が255の画素は白丸で示されており、輝度値が128の画素はグレー丸で示されている。
実ラインU1上の周辺画素に対する水平処理(水平輝度差の算出、及び、水平輝度変化の判断)について説明する。実ラインU1上の周辺画素に対する水平処理では、実ラインU1上の画素u1(j)が周辺画素として用いられる(−5≦j≦+5)。そして、周辺画素u1(j)に対して左側に隣接する画素u1(j−1)が、周辺画素u1(j)の水平隣接画素として用いられる。
本実施例では、水平輝度差に重み係数α(0≦α≦1)を乗算することにより、重み付け水平輝度差が算出される。周辺画素u1(j)の重み付け水平輝度差ygul_w(j)は、以下の式8を用いて算出される。式8において、yu1(j)は周辺画素u1(j)の輝度値であり、yu1(j−1)は水平隣接画素u1(j−1)の輝度値である。

ygul_w(j)=α×(yu1(j)−yu1(j−1)) ・・・(式8)

ygul_w(j)≧閾値(正の閾値)である場合には、水平隣接画素u1(j−1)から周辺画素u1(j)にかけて輝度値が増加している“UP”と判断される。そして、周辺画素u1(j)に対する判断結果(水平判断結果)としてYGuh(j)=0が出力される。ygul_w(j)≦−閾値である場合には、“DOWN”と判断され、水平判断結果としてYGuh(j)=1が出力される。|ygul_w(j)|<閾値である場合には、“FLAT”と判断され、水平判断結果としてYGuh(j)=2が出力される。なお、閾値はどのような値であってもよい。閾値が小さければ、小さな輝度変化を検出することができる。閾値が大きければ、大きな輝度変化のみを検出することができる。
実ラインU1上の周辺画素に対する垂直処理(垂直輝度差の算出、及び、垂直輝度変化の判断)について説明する。実ラインU1上の周辺画素に対する垂直処理では、実ラインU1上の画素u1(j)が周辺画素として用いられる(−5≦j≦+5)。そして、周辺画素u1(j)に対して上側に隣接する画素u2(j)が、周辺画素u1(j)の垂直隣接画素として用いられる。なお、垂直隣接画素は周辺画素に対して下側に隣接する画素であってもよい。
本実施例では、垂直輝度差に重み係数β(0≦β≦1)を乗算することにより、重み付け垂直輝度差が算出される。周辺画素u1(j)の重み付け垂直輝度差yguu_w(j)は、以下の式9を用いて算出される。式9において、yu2(j)は垂直隣接画素u2(j)の輝度値である。

yguu_w(j)=β×(yu1(j)−yu2(j)) ・・・(式9)

yguu_w(j)≧閾値(正の閾値)である場合には、垂直隣接画素u2(j)から周辺画素u1(j)にかけて輝度値が増加している“UP”と判断される。そして、周辺画素u1(j)に対する判断結果(垂直判断結果)としてYGuv(j)=0が出力される。yguu_w(j)≦−閾値である場合には、“DOWN”と判断され、垂直判断結果としてYGuv(j)=1が出力される。|yguu_w(j)|<閾値である場合には、“FLAT”と判断され、垂直判断結果としてYGuv(j)=2が出力される。
重み係数α,βとして、0〜1の任意の値が設定されてもよい。重み係数βとして、重み係数αよりも大きな値が設定されてもよい。重み係数αと重み係数βは同じ値であってもよい。例えば、重み係数α=重み係数β=1であってもよい。即ち、重み付けを行わずに、水平輝度差を用いて水平輝度変化が判断され、垂直輝度差を用いて垂直輝度変化が判断されてもよい。しかし、インターレース画像は垂直方向にラインが間引かれた画像であるため、垂直輝度差よりも水平輝度差の方が信頼度が高い。そのため、重み係数αは重み係数βよりも大きいことが好ましい。
実ラインD1上の周辺画素に対する水平処理について説明する。実ラインD1上の周辺画素に対する水平処理では、実ラインD1上の画素d1(j)が周辺画素として用いられる(−5≦j≦+5)。そして、周辺画素d1(j)に対して左側に隣接する画素d1(j−1)が、周辺画素d1(j)の水平隣接画素として用いられる。
周辺画素d1(j)の重み付け水平輝度差ygdl_w(j)は、以下の式10を用いて算出される。式10において、yd1(j)は周辺画素d1(j)の輝度値であり、yd1(j−1)は水平隣接画素d1(j−1)の輝度値である。

ygdl_w(j)=α×(yd1(j)−yd1(j−1)) ・・・(式10)

ygdl_w(j)≧閾値(正の閾値)である場合には、水平隣接画素d1(j−1)から周辺画素d1(j)にかけて輝度値が増加している“UP”と判断され、周辺画素d1(j)に対する水平判断結果としてYGdh(j)=0が出力される。ygdl_w(j)≦−閾値である場合には、“DOWN”と判断され、水平判断結果としてYGdh(j)=1が出力される。|ygdl_w(j)|<閾値である場合には、“FLAT”と判断され、水平判断結果としてYGdh(j)=2が出力される。
実ラインD1上の周辺画素に対する垂直処理について説明する。実ラインD1上の周辺画素に対する垂直処理では、実ラインD1上の画素d1(j)が周辺画素として用いられる(−5≦j≦+5)。そして、周辺画素d1(j)に対して下側に隣接する画素d2(j)が、周辺画素d1(j)の垂直隣接画素として用いられる。なお、垂直隣接画素は周辺画素に対して上側に隣接する画素であってもよい。
周辺画素d1(j)の重み付け垂直輝度差ygdd_w(j)は、以下の式11を用いて算出される。式11において、yd2(j)は垂直隣接画素d2(j)の輝度値である。

ygdd_w(j)=β×(yd1(j)−yd2(j)) ・・・(式11)

ygdd_w(j)≧閾値(正の閾値)である場合には、垂直隣接画素d2(j)から周辺画素d1(j)にかけて輝度値が増加している“UP”と判断され、周辺画素d1(j)に対する垂直判断結果としてYGdv(j)=0が出力される。ygdd_w(j)≦−閾値である場合には、“DOWN”と判断され、垂直判断結果としてYGdv(j)=1が出力される。|ygdd_w(j)|<閾値である場合には、“FLAT”と判断され、垂直判断結果としてYGdv(j)=2が出力される。
以上の処理が、図11(A),(B)の破線で囲まれた22個の周辺画素について行われ、当該22個の周辺画素に対する22個の水平判断結果と、当該22個の周辺画素に対する22個の垂直判断結果との計44個の判断結果が出力される。
変化点検出部601は、周辺画素毎の水平輝度差(本実施例では重み付け水平輝度差)に基づいて、水平隣接画素から周辺画素にかけての輝度値の変化が増加と減少の間で切り替わる位置を水平切り替わり位置として検出する。また、変化点検出部601は、周辺画
素毎の垂直輝度差(本実施例では重み付け垂直輝度差)に基づいて、垂直隣接画素から周辺画素にかけての輝度値の変化が増加と減少の間で切り替わる位置を垂直切り替わり位置として検出する。
具体的には、変化点検出部601は、隣接輝度差判定部600の22個の水平判断結果YGuh(j),YGdh(j)を用いて、水平切り替わり位置を検出する。また、変化点検出部601は、垂直判断結果YGuv(j),YGdv(j)を用いて、垂直切り替わり位置を検出する。
水平切り替わり位置の検出方法は実施例1と同様であるため、その説明は省略する。また、垂直切り替わり位置は、水平切り替わり位置の検出方法における「水平判断結果」を「垂直判断結果」と読み替えた方法により検出される。
変化点検出部601は、水平切り替わり位置に対応すると判定された周辺画素u1(j)に対する判定結果(水平判定結果)として、Muh(j)=1を出力する。そして、変化点検出部601は、水平切り替わり位置に対応しないと判定された周辺画素u1(j)に対する水平判定結果として、Muh(j)=0を出力する。同様に、変化点検出部601は、垂直切り替わり位置に対応すると判定された周辺画素u1(j)に対する判定結果(垂直判定結果)として、Muv(j)=1を出力する。そして、変化点検出部601は、垂直切り替わり位置に対応しないと判定された周辺画素u1(j)に対する垂直判定結果として、Muv(j)=0を出力する。
また、変化点検出部601は、水平切り替わり位置に対応すると判定された周辺画素d1(j)に対する水平判定結果として、Mdh(j)=1を出力する。そして、変化点検出部601は、水平切り替わり位置に対応しないと判定された周辺画素d1(j)に対する水平判定結果として、Mdh(j)=0を出力する。同様に、変化点検出部601は、垂直切り替わり位置に対応すると判定された周辺画素d1(j)に対する垂直判定結果として、Mdv(j)=1を出力する。そして、変化点検出部601は、垂直切り替わり位置に対応しないと判定された周辺画素d1(j)に対する垂直判定結果として、Mdv(j)=0を出力する。
図11(A),(B)において、斜線で示された画素は、「垂直切り替わり位置に対応する」と判定された画素である。
判定部602は、変化点検出部601の判定結果(水平判定結果Muh(j),Mdh(j)、及び、垂直判定結果Muv(j),Mdv(j))に基づいて、補間画素の生成位置が周期パターン部分であるか否かを判定する。本実施例では、水平切り替わり位置の間隔と、垂直切り替わり位置の間隔との少なくとも一方の間隔が一定である場合に、補間画素の生成位置が周期パターン部分であると判定される。そして、水平切り替わり位置の間隔と、垂直切り替わり位置の間隔との両方の間隔が一定でない場合に、補間画素の生成位置が周期パターン部分でないと判定される。具体的には、以下の条件1〜4のいずれかを満たした場合に周期パターン部分であると判定され、以下の条件1〜4のいずれも満たされなかった場合に周期パターン部分でないと判定される。そして、判定部602は、周期パターン部分であると判定した場合にDET=1を出力し、周期パターンでないと判定した場合にDET=0を出力する。

条件1:実ラインU1において、水平切り替わり位置が一定の間隔で存在する
条件2:実ラインU1において、垂直切り替わり位置が一定の間隔で存在する
条件3:実ラインD1において、水平切り替わり位置が一定の間隔で存在する
条件4:実ラインD1において、垂直切り替わり位置が一定の間隔で存在する

図11(A)の例では、水平切り替わり位置も垂直切り替わり位置も検出されていないため、補間画素の生成位置Iが周期パターン部分でないと判定され、生成位置Iに対する判定結果としてDET=0が出力される。図11(B)の例では、実ラインUと実ライン
Dの両方において垂直切り替わり位置が1画素おきに存在する。即ち、図11(B)の例では、条件2と条件4が満たされる。そのため、図11(B)の例では、補間画素の生成位置Iが周期パターン部分であると判定され、生成位置Iに対する判定結果としてDET=1が出力される。
以上述べたように、本実施例によれば、水平方向に関する情報と垂直方向に関する情報を用いて、周期パターン部分であるか否かが判定される。水平方向に関する情報は、水平輝度差、水平判断結果、水平切り替わり位置、等であり、垂直方向に関する情報は、垂直輝度差、垂直判断結果、垂直切り替わり位置、等である。それにより、水平方向に関する情報のみを用いる場合に比べて、周期パターン部分であるか否かの判定の精度を向上することができる。その結果、周期パターン部分を含む入力画像の補間画素を生成する際の画質の劣化を、実施例1よりも高精度に抑制することができる。
なお、垂直方向に関する情報のみを用いて周期パターン部分であるか否かが判定されてもよい。
<実施例3>
実施例1,2では、切り替わり位置の間隔に基づいて周期パターン部分であるか否かを判定する例を説明した。実施例3では、入力画像の隣接輝度差のヒストグラム(隣接輝度差ヒストグラム)に基づいて周期パターン部分であるか否かを判定する例を説明する。
本実施例に係る画像処理装置の全体構成は実施例1(図1)と同じである。
図12は、本実施例に係る斜め検出部103の構成の一例を示すブロック図である。図12のラインメモリ700、ブロックマッチング部701、マッチング角度算出部702の基本的な動作は、図4のラインメモリ300、ブロックマッチング部302、マッチング角度算出部303と同様である。但し、ブロックマッチング部701では、図7のS102とS103の処理を除外した処理が行われる。
隣接輝度差ヒストグラム取得部703は、入力画像信号(N−1フィールド信号FD1)を用いて、隣接輝度差として、入力画像の互いに隣接する画素間の輝度値の差の絶対値を算出する。具体的には、入力画像の画素毎に、その画素の輝度値と、当該画素に隣接する画素の輝度値との差の絶対値が、隣接輝度差として算出される。本実施例では、水平方向3タップの差分フィルターを用いて水平方向の隣接輝度差が算出され、垂直方向3タップの差分フィルターを用いて垂直方向の隣接輝度差が算出される。差分フィルターの3タップのフィルター係数FCOEは、例えば、以下の式12に示す係数である。

FCOE=(−1,+2,−1) ・・・(式12)

もちろん、差分フィルターのタップ数は3に限らないし、フィルター係数の値は式12に示す値に限らない。入力画像の互いに隣接する画素間の輝度値の差が得られれば、どのような差分フィルターが使用されてもよい。例えば、フィルター係数(−1,+1)の2タップの差分フィルターが使用されてもよい。
そして、隣接輝度差ヒストグラム取得部703は、各画素の隣接輝度差をカテゴリ毎に分類することにより、隣接輝度差ヒストグラムを生成する。隣接輝度差ヒストグラムは、重み付け累積加算部704へ出力される。
具体的には、水平方向の隣接輝度差のヒストグラムHBH、及び、垂直方向の隣接輝度差のヒストグラムVBHが生成される。本実施例では、水平隣接輝度差ヒストグラムHBHとして、水平方向の隣接輝度差を16種類のカテゴリに分類したヒストグラムが生成される。また、垂直隣接輝度差ヒストグラムVBHとして、垂直方向の隣接輝度差を16種類のカテゴリに分類したヒストグラムが生成される。なお、隣接輝度差ヒストグラムにおけるカテゴリの数や幅は特に限定されない。カテゴリの数は16より多くても少なくても
よい。1つのカテゴリの幅(1つのカテゴリに対応する隣接輝度差の範囲)は、広くても狭くてもよい。隣接輝度差ヒストグラムとして、隣接輝度差毎の度数を表すヒストグラムが生成されてもよい。
隣接輝度差ヒストグラムの一例を図13(A),(B)に示す。図13(A)は、隣接輝度差が大きい画素を多く有する画像から生成された隣接輝度差ヒストグラムの一例を示す。図13(B)は、隣接輝度差が小さい画素を多く有する画像から生成された隣接輝度差ヒストグラムの一例を示す。図13(A),(B)の横軸はカテゴリの値(カテゴリ値)を示し、図13(A),(B)の縦軸は度数を示す。図13(A),(B)では、隣接輝度差が大きいほど大きいカテゴリ値が設定されている。即ち、隣接輝度差が小さい画素の度数は、ヒストグラムの左側(カテゴリ値が小さい側)に現れ、隣接輝度差が大きい画素の度数は、ヒストグラムの右側(カテゴリ値が大きい側)に現れる。図13(A)では、隣接輝度差が大きい画素が多く存在するため、ヒストグラムの右側に度数が集中しており、図13(B)では、隣接輝度差が小さい画素が多く存在するため、ヒストグラムの左側に度数が集中している。
重み付け累積加算部704は、隣接輝度差ヒストグラムの各度数を、隣接輝度差が大きいほど高い重みで重み付け加算する。本実施例では、隣接輝度差ヒストグラム取得部703から出力された水平隣接輝度差ヒストグラムHBHの各度数を、隣接輝度差が大きいほど高い重みで重み付け加算することにより、水平加算値が算出される。また、垂直隣接輝度差ヒストグラムVBHの各度数を、隣接輝度差が大きいほど高い重みで重み付け加算することにより、垂直加算値が算出される。そして、水平加算値と垂直加算値の平均値が算出される。具体的には、垂直加算値よりも水平加算値の方が高い重みで垂直加算値と水平加算値を加重平均した値が平均値Valueとして出力される。平均値Valueは判定部707に出力される。
平均値Valueは、以下の式13を用いて算出される。式13において、γは0以上1以下の値であり、水平加算値の重み(重み係数)である。kはカテゴリ値であり(k=0〜15)、HBH[k]は、水平隣接輝度差ヒストグラムにおけるカテゴリkの度数であり、VBH[k]は、垂直隣接輝度差ヒストグラムにおけるカテゴリkの度数である。HWCOE[k]はHBH[k]の重み(重み係数)であり、VWCOE[k]はVBH[k]の重みである。

Value=γ×(Σ(HBH[k]×HWCOE[k]))
+(1−γ)×(Σ(VBH[k]×VWCOE[k]))
・・・(式13)
なお、インターレース画像は垂直方向にラインが間引かれた画像であるため、垂直隣接輝度差ヒストグラムよりも水平隣接輝度差ヒストグラムの方が信頼度が高い。そのため、重み係数γとして大きな値を設定することが好ましい。具体的には、水平加算値の重みとして、垂直加算値よりも高い重みを設定することが好ましい(γ>0.5)。本実施例では、γ=1であり、水平隣接輝度差ヒストグラムHBHのみが使用され、平均値Valueとして水平加算値が算出される例を説明する。しかし、水平加算値の重みと垂直加算値の重みとはこれに限らない。水平加算値の重みと垂直加算値の重みとは同じ値であってもよいし、水平加算値の重みは垂直加算値の重みより小さくてもよい。垂直隣接輝度差ヒストグラムVBHのみが使用され、平均値Valueとして垂直加算値が算出されてもよい。水平隣接輝度差ヒストグラムHBHと垂直隣接輝度差ヒストグラムVBHとの両方を用いた方が、一方のみを用いた場合よりも、信頼度の高い平均値Valueを算出することができる。
重み係数HWCOE[k],VWCOE[k]の一例を図14に示す。本実施例では、隣接輝度差が大きい画素が検出され易くなるように、隣接輝度差が大きいほど高い重み係数が設定されている。即ち、隣接輝度差が大きい画素の水平加算値や垂直加算値に対する影響度合いが大きくなるように、隣接輝度差が大きいほど高い重み係数が設定されている。本実施例では、隣接輝度差が大きいほど大きいカテゴリ値(隣接輝度差ヒストグラムのカテゴリ値)が設定されているため、図14に示すように、隣接輝度差ヒストグラムのカテゴリ値が大きいほど高い重み係数が設定されている。
図14に示された重み係数を用いて平均値Valueを算出すると、図13(A)の例では、隣接輝度差が大きい画素が多いため、平均値Valueとして大きな値が算出される。図13(B)の例では、隣接輝度差が小さい画素が多いため、平均値Valueとして小さな値が算出される。
輝度ヒストグラム取得部705は、入力画像の輝度値のヒストグラム(輝度ヒストグラム)を生成する。具体的には、輝度ヒストグラム取得部705は、入力画像信号(N−1フィールド信号FD1)を用いて、入力画像の各画素の輝度値をカテゴリ毎に分類することにより、輝度ヒストグラムYHを生成する。輝度ヒストグラムYHは、閾値決定部706へ出力される。輝度ヒストグラムYHのカテゴリの数はnである。本実施例では、輝度値毎に度数を表す輝度ヒストグラムが生成されるように、n=256とされている。換言すれば、カテゴリと輝度値が1:1で対応するように、n=256とされている。なお、輝度ヒストグラムにおけるカテゴリの幅や数も、隣接輝度差ヒストグラムと同様に、特に限定されない。
輝度ヒストグラムの一例を図15(A),(B)に示す。図15(A)は、高輝度の画素と低輝度の画素を多く有する画像から生成された輝度ヒストグラムの一例を示す。図15(B)は、中間輝度の画素を多く有する画像から生成された輝度ヒストグラムの一例を示す。図15(A),(B)の横軸はカテゴリ値を示し、図15(A),(B)の縦軸は度数を示す。図15(A),(B)では、カテゴリ値として輝度値が設定されている。即ち、輝度値が低い画素の度数は、ヒストグラムの左側(カテゴリ値が小さい側)に現れ、輝度値が高い画素の度数は、ヒストグラムの右側(カテゴリ値が大きい側)に現れる。図15(A)では、高輝度の画素と低輝度の画素が多く存在するため、低輝度から高輝度まで度数が幅広く分布している。一方、図15(B)では、高輝度の画素と低輝度の画素があまり存在しないため、中間輝度に度数が集中している。
閾値決定部706は、輝度ヒストグラム取得部705で取得された輝度ヒストグラムYHを用いて、平均値Valueと比較する閾値Thを決定する。閾値Thは、判定部707へ出力される。
以下、閾値Thの決定方法について説明する。
まず、閾値決定部706は、輝度ヒストグラムYHの度数を、輝度値が低い方から順に累積加算して、累積加算して得られた値が閾値Lを超えたときの当該ヒストグラムのカテゴリ値を第1の値LOW_Classとして算出する。例えば、第1の値LOW_Classは、図16(A)に示すフローチャートに従って算出される。なお、閾値Lは任意の値である。閾値Lが小さいほど、後述する差分Defとして大きい値が算出され易くなる。
まず、カテゴリ値nとLOW_Valueが0に初期化される(S202)。
次に、LOW_ValueにYH[n]が加算される(S203)。YH[n]は、輝度ヒストグラムにおけるカテゴリnの度数である。
そして、LOW_Valueが閾値Lと比較される(S204)。LOW_Valueが閾値Lより大きい場合には、S206に処理が進められる。LOW_Valueが閾値L以下の場合には、S205に処理が進められる。
S205では、nに1が加算され、S203に処理が戻される。そして、LOW_Valueが閾値Lより大きくなるまで、S203〜S205の処理が繰り返される。
S206では、n(LOW_Valueが閾値Lより大きいと判定されたときのn)がLOW_Classとして設定される。
次に、閾値決定部706は、輝度ヒストグラムYHの度数を、輝度値が高い方から順に累積加算して、累積加算して得られた値が閾値Hを超えたときの当該ヒストグラムのカテゴリ値を第2の値HIGH_Classとして算出する。例えば、第2の値HIGH_Classは、図16(B)に示すフローチャートに従って算出される。なお、閾値Hは任意の値である。閾値Hが小さいほど、後述する差分Defとして大きい値が算出され易くなる。
まず、カテゴリ値nが255に初期化され、HIGH_Valueが0に初期化される(S302)。
次に、HIGH_ValueにYH[n]が加算される(S303)。
そして、HIGH_Valueが閾値Hと比較される(S304)。HIGH_Valueが閾値Hより大きい場合には、S306に処理が進められる。HIGH_Valueが閾値H以下の場合には、S305に処理が進められる。
S305では、nから1が減算され、S303に処理が戻される。そして、HIGH_Valueが閾値Hより大きくなるまで、S303〜S305の処理が繰り返される。
S306では、n(HIGH_Valueが閾値Hより大きいと判定されたときのn)がHIGH_Classとして設定される。
そして、閾値決定部706は、第1の値LOW_Classと、第2の値HIGH_Classとを用いて、閾値Thを決定する。具体的には、以下の式14を用いて、第2の値HIGH_Classから第1の値LOW_Classを減算した値(差分Def)が算出される。そして、差分Defが大きいほど大きい値が、閾値Thとして決定される。

差分Def=HIGH_Class−LOW_Class ・・・(式14)

閾値Thは、例えば、差分Defと閾値Thの関係を表す関数やテーブルを用いて決定される。図17に、差分Defと閾値Thの関係を表すテーブルの一例を示す。図17に示すように、差分Defと閾値Thの関係を表すテーブルでは、差分Defが大きいほど大きい閾値Thが設定されている。
なお、閾値Thは、予め定められた値(固定値)であってもよい。しかしながら、周期パターン部分の種類は様々であり、周期パターン部分内における最低輝度値から最大輝度値までの範囲が狭いものや広いものがある。そして、最低輝度値から最大輝度値までの範囲が広い周期パターン部分では、平均値Valueとして大きい値が算出され易く、最低輝度値から最大輝度値までの範囲が狭い周期パターン部分では、平均値Valueとして小さい値が算出され易い。そのため、閾値Thとして固定値を用いると、後述する判定部707において精度良い判定(周期パターン部分を含むか否かの判定)を行うことができない。そこで、本実施例では、上記の方法で、閾値Thを決定する。それにより、周期パターン部分を含むか否かの判定を精度良く行うことが可能となる。
判定部707は、重み付け累積加算部704から出力された平均値Valueを、閾値決定部706から出力された閾値Thと比較することにより、入力画像が周期パターン部分を含む画像であるか否かを判定する。具体的には、平均値Valueが閾値Thより大きい場合に、判定部707は、周期パターン部分が存在すると判定し、判定結果としてCancel_Flg=1を出力する。また、平均値Valueが閾値Th以下である場合に、判定部707は、周期パターン部分が存在しないと判定し、判定結果としてCancel_Flg=0を出力する。
角度補正部708は、マッチング角度算出部702で算出された角度情報ANGLEを、判定部707で判定されたCancel_Flgに従って補正する。具体的には、Cancel_Flg=1であれば、周期パターン部分が存在するため、各位置(補間画素の生成位置)の角度情報ANGLEは0(斜めエッジ部分でないことを示す値)に補正されて、出力される。また、Cancel_Flg=0であれば、周期パターンが存在しないため、角度情報ANGLEは補正されずに、そのまま出力される。
このような補正を行うことにより、入力画像が周期パターン部分を含む画像であると判定された場合に、斜め補間処理を行わずに補間画素が生成されることとなる。
以上述べたように、本実施例によれば、隣接輝度差ヒストグラムに基づいて判定(入力画像が周期パターン部分を含む画像であるか否かの判定)が行われる。それにより、様々な周期パターン部分を判断することができる。そして、本実施例によれば、入力画像が周期パターン部分を含む画像であると判定された場合に、斜め補間処理を行わずに補間画素が生成される。その結果、周期パターン部分を含む入力画像の補間画素を生成する際の画質の劣化(誤検出されたエッジの方向に応じた斜め補間処理による画質の劣化)を、周期パターン部分の種類に依らず抑制することができる。
なお、本実施例では、水平方向の隣接輝度差と、垂直方向の隣接輝度差を算出したが、水平方向と垂直方向のいずれか一方の隣接輝度差を算出する構成であってもよい。また、水平方向の隣接輝度差と、垂直方向の隣接輝度差とは異なる隣接輝度差が算出されてもよい。例えば、水平方向3タップ×垂直方向3タップの差分フィルターを用いて隣接輝度差が算出されてもよい。そして、隣接輝度差を重み付け加算し、重み付け加算によって得られた値と閾値Thが比較されてもよい。
<実施例4>
実施例3では、入力画像全体についての隣接輝度差ヒストグラムと輝度ヒストグラムを用いる例を説明した。実施例4では、入力画像の一部の領域の画像である部分画像についての隣接輝度差ヒストグラムと輝度ヒストグラムを用いる例を説明する。部分画像は、例えば、画面の領域を分割して得られる分割領域に表示される部分(入力画像の一部)である。しかし、部分画像はこれに限るものではなく、分割領域とは無関係の領域の画像であってもよい。例えば、部分画像は、画面の一部の領域に表示される入力画像を分割して得られる画像であってもよい。また、入力画像を構成する複数の部分画像のサイズは、同じであってもよいし、異なっていてもよい。
本実施例に係る画像処理装置の全体構成は実施例1(図1)と同じである。
本実施例に係る斜め検出部103の構成は実施例3(図12)と同じである。但し、一部の機能部は、実施例3と異なる処理を行う。以下では、実施例3と異なる処理について詳しく説明し、実施例3と同様の処理については説明を省略する。
隣接輝度差ヒストグラム取得部703は、入力画像(N−1フィールドの画像)を複数の部分画像に分割し、部分画像毎に隣接輝度差ヒストグラムを取得する。具体的には、部分画像毎に、水平隣接輝度差ヒストグラムHBHと垂直隣接輝度差ヒストグラムVBHが取得される。水平隣接輝度差ヒストグラムHBHと垂直隣接輝度差ヒストグラムVBHの生成方法は実施例3と同様である。本実施例では、図18に示すように、入力画像が、水平方向X個×垂直方向Y個の部分画像に分割されるものとする。そのため、本実施例では、X×Y個の水平隣接輝度差ヒストグラムHBH[x][y]と、X×Y個の垂直隣接輝度差ヒストグラムVBH[x][y]とが取得され、重み付け累積加算部704に出力される。なお、図18において、部分画像に記載の“(x,y)”は部分画像の位置座標を表し、x(=1〜X)は水平位置を表し、y(=1〜Y)は垂直位置を表す。そして、水平隣接輝度差ヒストグラムHBH[x][y]と垂直隣接輝度差ヒストグラムVBH[x][y]は、水平位置がxであり垂直位置がyである部分画像に対応するヒストグラムで
ある。
なお、入力画像を分割せずに、入力画像内に処理対象とする領域(部分画像の領域)を設定して、領域内の画素毎に隣接輝度差を算出することにより、部分画像の隣接輝度差ヒストグラムが生成されてもよい。
重み付け累積加算部704は、部分画像毎に、その部分画像に対応する隣接輝度差ヒストグラム(水平隣接輝度差ヒストグラムHBH[x][y]、及び、垂直隣接輝度差ヒストグラムVBH[x][y])を用いて、平均値Value[x][y]を算出する。平均値Value[x][y]の算出方法は実施例3と同様である。そして、重み付け累積加算部704は、部分画像毎のValue[x][y](X×Y個のValue[x][y])を判定部707に出力する。例えば、入力画像を水平方向に10分割、垂直方向に5分割することにより部分画像が得られる場合、50個のValueが出力される。
輝度ヒストグラム取得部705は、入力画像を複数の部分画像に分割し、部分画像毎に輝度ヒストグラムを取得する。具体的には、輝度ヒストグラム取得部705では、隣接輝度差ヒストグラム取得部703と同様に、入力画像がX×Y個の部分画像に分割される。そのため、X×Y個の輝度ヒストグラムYH[x][y]が取得される。輝度ヒストグラムYH[x][y]の生成方法は実施例3と同様である。X×Y個の輝度ヒストグラムYH[x][y]は、閾値決定部706に出力される。
閾値決定部706は、部分画像毎に、その部分画像に対応する輝度ヒストグラムYH[x][y]を用いて、閾値Th[x][y]が決定される。閾値Th[x][y]の決定方法は実施例3と同様である。そして、閾値決定部706は、部分画像毎の閾値Th[x][y](X×Y個の閾値Th[x][y])を判定部707に出力する。
判定部707は、部分画像毎に、平均値Value[x][y]を閾値Th[x][y]と比較することにより、部分画像毎に、その部分画像が周期パターン部分を含む画像であるか否かを判定する。そして、判定部707は、部分画像毎の判定結果Cancel_Flg[x][y]を角度補正部708へ出力する。具体的には、周期パターン部分を含む画像であると判定された部分画像に対する判定結果として、Cancel_Flg[x][y]=1が出力される。そして、周期パターン部分を含まない画像であると判定された部分画像に対する判定結果として、Cancel_Flg[x][y]=0が出力される。周期パターン部分を含む画像であるか否かの判定方法は実施例3と同様である。
角度補正部708は、部分画像毎に、マッチング角度算出部702で算出された角度情報ANGLEを、判定部707で判定されたCancel_Flg[x][y]に従って補正する。角度情報ANGLEの補正方法は実施例3と同様である。例えば、Cancel_Flg[x][y]=0の部分画像内の各位置(補間画素の生成位置)の角度情報ANGLEは補正されずに、そのまま出力される。Cancel_Flg[x][y]=1の部分画像内の各位置(補間画素の生成位置)の角度情報ANGLEは0に補正されて、出力される。そのため、周期パターン部分を含む画像であると判定された部分画像に対しては、斜め補間処理を行わずに補間画素が生成される。
以上述べたように、本実施例によれば、部分画像毎に、その部分画像のヒストグラムを用いて、当該部分画像が周期パターン部分を含む画像であるか否かが判定される。そして、部分画像毎に、斜め補間処理を実行可能とするか否かが切り替えられる。それにより、補間画素を生成する際の画質の劣化を、実施例3よりも精度良く抑制することができる。
具体的には、部分画像毎のヒストグラムを用いることにより、周期パターン部分の面積が小さい場合であっても、周期パターン部分を含む画像であるか否かの判定を精度良く行うことが可能となる。その結果、周期パターン部分を含む部分画像を精度良く検出するこ
とができ、周期パターン部分における画質の劣化(誤検出されたエッジの方向に応じた斜め補間処理による画質の劣化)を、実施例3よりも精度良く抑制することができる。
また、実施例3では、周期パターン部分を含む画像であると判定された場合に、入力画像全体に対して斜め補間処理が実行不可能とされる。そのため、周期パターン部分を含む画像であると判定された入力画像内に斜めエッジ部分が存在する場合に、当該斜めエッジ部分においてジャギーが発生してしまうことがある。本実施例では、部分画像毎に、周期パターン部分を含む画像であるか否かの判定、及び、斜め補間処理を実行可能とするか否かの切り替えが行われるため、斜めエッジ部分における画質の劣化を実施例3よりも精度良く抑制することができる。
104 フィールド内補間画素生成部
105 補間画素生成部
301,503 周期パターン判定部
302,701 ブロックマッチング部
303,702 マッチング角度算出部
703 隣接輝度差ヒストグラム取得部
704 重み付け累積加算部
705 輝度ヒストグラム取得部
706 閾値決定部
707 判定部
708 角度補正部

Claims (24)

  1. 入力画像の補間画素を生成する画像処理装置であって、
    前記補間画素の生成位置が周期パターン部分か否かを判定するパターン判定手段と、
    前記補間画素の生成位置が斜め方向のエッジ部分か否かを判定する斜め判定手段と、
    前記入力画像の動きがあり、且つ、前記斜め判定手段で斜め方向のエッジ部分であると判定された前記生成位置に対して、当該エッジの方向に存在する画素を用いて前記補間画素を生成する斜め補間処理を行う生成手段と、
    を備え、
    前記パターン判定手段は、
    補間画素の生成位置に隣接する水平方向のライン上の、当該生成位置周辺に位置する画素である周辺画素毎に、その周辺画素の輝度値から、水平方向において当該周辺画素に隣接する画素である水平隣接画素の輝度値を減算した値を、水平輝度差として算出し、
    前記周辺画素毎の水平輝度差に基づいて、水平隣接画素から周辺画素にかけての輝度値の変化が増加と減少の間で切り替わる位置を水平切り替わり位置として検出し、
    水平切り替わり位置の間隔が一定である場合に、補間画素の生成位置が周期パターン部分であると判定し、
    前記生成手段は、前記パターン判定手段で周期パターン部分であると判定された位置に対しては、前記斜め補間処理を行わずに前記補間画素を生成することを特徴とする画像処理装置。
  2. 前記パターン判定手段は、
    前記周辺画素毎に、その周辺画素の輝度値から、垂直方向において当該周辺画素に隣接する画素である垂直隣接画素の輝度値を減算した値を、垂直輝度差として算出し、
    前記周辺画素毎の垂直輝度差に基づいて、垂直隣接画素から周辺画素にかけての輝度値の変化が増加と減少の間で切り替わる位置を垂直切り替わり位置として検出し、
    水平切り替わり位置の間隔と、垂直切り替わり位置の間隔との少なくとも一方の間隔が一定である場合に、補間画素の生成位置が周期パターン部分であると判定することを特徴とする請求項に記載の画像処理装置。
  3. 前記パターン判定手段は、水平輝度差に基づいて、水平隣接画素から周辺画素にかけて
    輝度値が増加しているか、減少しているか、変化していないかを判断し、その判断結果に基づいて水平切り替わり位置を検出することを特徴とする請求項に記載の画像処理装置。
  4. 前記パターン判定手段は、
    水平輝度差に基づいて、水平隣接画素から周辺画素にかけて輝度値が増加しているか、減少しているか、変化していないかを判断し、その判断結果に基づいて水平切り替わり位置を検出し、
    垂直輝度差に基づいて、垂直隣接画素から周辺画素にかけて輝度値が増加しているか、減少しているか、変化していないかを判断し、その判断結果に基づいて垂直切り替わり位置を検出することを特徴とする請求項に記載の画像処理装置。
  5. 前記パターン判定手段は、
    水平輝度差に重み係数α(0≦α≦1)を乗算することにより重み付け水平輝度差を算出し、重み付け水平輝度差に基づいて、水平隣接画素から周辺画素にかけて輝度値が増加しているか、減少しているか、変化していないかを判断し、その判断結果に基づいて水平切り替わり位置を検出し、
    垂直輝度差に重み係数β(0≦β≦1)を乗算することにより重み付け垂直輝度差を算出し、重み付け垂直輝度差に基づいて、垂直隣接画素から周辺画素にかけて輝度値が増加しているか、減少しているか、変化していないかを判断し、その判断結果に基づいて垂直切り替わり位置を検出することを特徴とする請求項に記載の画像処理装置。
  6. 前記重み係数αは前記重み係数βよりも大きいことを特徴とする請求項に記載の画像処理装置。
  7. 入力画像の補間画素を生成する画像処理装置であって、
    前記入力画像の互いに隣接する画素間の輝度差である隣接輝度差に基づいて、前記入力画像が周期パターン部分を含む画像か否かを判定するパターン判定手段と、
    前記補間画素の生成位置が斜め方向のエッジ部分か否かを判定する斜め判定手段と、
    前記入力画像の動きがあり、且つ、前記斜め判定手段で斜め方向のエッジ部分であると判定された前記生成位置に、当該エッジの方向に存在する画素を用いて前記補間画素を生成する斜め補間処理を行う生成手段と、
    を備え、
    前記隣接輝度差は、輝度値の差の絶対値であり、
    前記パターン判定手段は、
    前記入力画像の隣接輝度差のヒストグラムの各度数を、隣接輝度差が大きいほど高い重みで重み付け加算して得られた値が閾値より大きい場合に、前記入力画像が周期パターン部分を含む画像であると判定し、
    前記生成手段は、前記パターン判定手段で前記入力画像が周期パターン部分を含む画像であると判定された場合に、前記斜め補間処理を行わずに前記補間画素を生成することを特徴とする画像処理装置。
  8. 前記パターン判定手段は、
    水平方向の隣接輝度差のヒストグラムの各度数を、隣接輝度差が大きいほど高い重みで重み付け加算することにより、水平加算値を算出し、
    垂直方向の隣接輝度差のヒストグラムの各度数を、隣接輝度差が大きいほど高い重みで重み付け加算することにより、垂直加算値を算出し、
    前記水平加算値と前記垂直加算値の平均値が閾値より大きい場合に、前記入力画像が周期パターン部分を含む画像であると判定することを特徴とする請求項に記載の画像処理装置。
  9. 前記水平加算値と前記垂直加算値の平均値は、前記垂直加算値よりも前記水平加算値の方が高い重みで前記垂直加算値と前記水平加算値を加重平均した値であることを特徴とする請求項に記載の画像処理装置。
  10. 前記パターン判定手段は、
    前記入力画像の輝度値のヒストグラムの度数を、輝度値が低い方から順に累積加算して、累積加算して得られた値が閾値を超えたときの当該ヒストグラムのカテゴリ値を第1の値として算出し、
    前記入力画像の輝度値のヒストグラムの度数を、輝度値が高い方から順に累積加算して、累積加算して得られた値が閾値を超えたときの当該ヒストグラムのカテゴリ値を第2の値として算出し、
    前記第1の値と前記第2の値を用いて、前記第2の値から前記第1の値を減算した値が大きいほど大きい値を、前記重み付け加算して得られた値と比較する前記閾値として決定することを特徴とする請求項のいずれか1項に記載の画像処理装置。
  11. 前記パターン判定手段は、前記入力画像の一部の領域の画像である部分画像の隣接輝度差のヒストグラムを用いて、当該部分画像が周期パターン部分を含む画像であるか否かを判定する処理を、前記入力画像を構成する複数の部分画像のそれぞれについて行い、
    前記生成手段は、前記パターン判定手段で周期パターン部分を含む画像であると判定された部分画像に対しては、前記斜め補間処理を行わずに補間画素を生成することを特徴とする請求項10のいずれか1項に記載の画像処理装置。
  12. 前記画像処理装置は、前記入力画像であるインターレース画像を補間によりプログレッシブ画像に変換する装置であり、
    前記生成手段は、動き適応型インターレース・プログレッシブ変換により補間画素を生成することを特徴とする請求項1〜11のいずれか1項に記載の画像処理装置。
  13. 入力画像の補間画素を生成する画像処理装置の制御方法であって、
    前記補間画素の生成位置が周期パターン部分か否かを判定するパターン判定ステップと、
    前記補間画素の生成位置が斜め方向のエッジ部分か否かを判定する斜め判定ステップと、
    前記入力画像の動きがあり、且つ、前記斜め判定ステップで斜め方向のエッジ部分であると判定された前記生成位置に対して、当該エッジの方向に存在する画素を用いて前記補間画素を生成する斜め補間処理を行う生成ステップと、
    を有し、
    前記パターン判定ステップでは、
    補間画素の生成位置に隣接する水平方向のライン上の、当該生成位置周辺に位置する画素である周辺画素毎に、その周辺画素の輝度値から、水平方向において当該周辺画素に隣接する画素である水平隣接画素の輝度値を減算した値を、水平輝度差として算出し、
    前記周辺画素毎の水平輝度差に基づいて、水平隣接画素から周辺画素にかけての輝度値の変化が増加と減少の間で切り替わる位置を水平切り替わり位置として検出し、
    水平切り替わり位置の間隔が一定である場合に、補間画素の生成位置が周期パターン部分であると判定し、
    前記生成ステップでは、前記パターン判定ステップで周期パターン部分であると判定された位置に対しては、前記斜め補間処理を行わずに前記補間画素を生成することを特徴とする画像処理装置の制御方法。
  14. 前記パターン判定ステップでは、
    前記周辺画素毎に、その周辺画素の輝度値から、垂直方向において当該周辺画素に隣
    接する画素である垂直隣接画素の輝度値を減算した値を、垂直輝度差として算出し、
    前記周辺画素毎の垂直輝度差に基づいて、垂直隣接画素から周辺画素にかけての輝度値の変化が増加と減少の間で切り替わる位置を垂直切り替わり位置として検出し、
    水平切り替わり位置の間隔と、垂直切り替わり位置の間隔との少なくとも一方の間隔が一定である場合に、補間画素の生成位置が周期パターン部分であると判定することを特徴とする請求項1に記載の画像処理装置の制御方法。
  15. 前記パターン判定ステップでは、水平輝度差に基づいて、水平隣接画素から周辺画素にかけて輝度値が増加しているか、減少しているか、変化していないかを判断し、その判断結果に基づいて水平切り替わり位置を検出することを特徴とする請求項1に記載の画像処理装置の制御方法。
  16. 前記パターン判定ステップでは、
    水平輝度差に基づいて、水平隣接画素から周辺画素にかけて輝度値が増加しているか、減少しているか、変化していないかを判断し、その判断結果に基づいて水平切り替わり位置を検出し、
    垂直輝度差に基づいて、垂直隣接画素から周辺画素にかけて輝度値が増加しているか、減少しているか、変化していないかを判断し、その判断結果に基づいて垂直切り替わり位置を検出することを特徴とする請求項1に記載の画像処理装置の制御方法。
  17. 前記パターン判定ステップでは、
    水平輝度差に重み係数α(0≦α≦1)を乗算することにより重み付け水平輝度差を算出し、重み付け水平輝度差に基づいて、水平隣接画素から周辺画素にかけて輝度値が増加しているか、減少しているか、変化していないかを判断し、その判断結果に基づいて水平切り替わり位置を検出し、
    垂直輝度差に重み係数β(0≦β≦1)を乗算することにより重み付け垂直輝度差を算出し、重み付け垂直輝度差に基づいて、垂直隣接画素から周辺画素にかけて輝度値が増加しているか、減少しているか、変化していないかを判断し、その判断結果に基づいて垂直切り替わり位置を検出することを特徴とする請求項1に記載の画像処理装置の制御方法。
  18. 前記重み係数αは前記重み係数βよりも大きいことを特徴とする請求項17に記載の画像処理装置の制御方法。
  19. 入力画像の補間画素を生成する画像処理装置の制御方法であって、
    前記入力画像の互いに隣接する画素間の輝度差である隣接輝度差に基づいて、前記入力画像が周期パターン部分を含む画像か否かを判定するパターン判定ステップと、
    前記補間画素の生成位置が斜め方向のエッジ部分か否かを判定する斜め判定ステップと、
    前記入力画像の動きがあり、且つ、前記斜め判定ステップで斜め方向のエッジ部分であると判定された前記生成位置に、当該エッジの方向に存在する画素を用いて前記補間画素を生成する斜め補間処理を行う生成ステップと、
    を有し、
    前記隣接輝度差は、輝度値の差の絶対値であり、
    前記パターン判定ステップでは、
    前記入力画像の隣接輝度差のヒストグラムの各度数を、隣接輝度差が大きいほど高い重みで重み付け加算して得られた値が閾値より大きい場合に、前記入力画像が周期パターン部分を含む画像であると判定し、
    前記生成ステップでは、前記パターン判定ステップで前記入力画像が周期パターン部分を含む画像であると判定された場合に、前記斜め補間処理を行わずに前記補間画素を生成することを特徴とする画像処理装置の制御方法。
  20. 前記パターン判定ステップでは、
    水平方向の隣接輝度差のヒストグラムの各度数を、隣接輝度差が大きいほど高い重みで重み付け加算することにより、水平加算値を算出し、
    垂直方向の隣接輝度差のヒストグラムの各度数を、隣接輝度差が大きいほど高い重みで重み付け加算することにより、垂直加算値を算出し、
    前記水平加算値と前記垂直加算値の平均値が閾値より大きい場合に、前記入力画像が周期パターン部分を含む画像であると判定することを特徴とする請求項19に記載の画像処理装置の制御方法。
  21. 前記水平加算値と前記垂直加算値の平均値は、前記垂直加算値よりも前記水平加算値の方が高い重みで前記垂直加算値と前記水平加算値を加重平均した値であることを特徴とする請求項2に記載の画像処理装置の制御方法。
  22. 前記パターン判定ステップでは、
    前記入力画像の輝度値のヒストグラムの度数を、輝度値が低い方から順に累積加算して、累積加算して得られた値が閾値を超えたときの当該ヒストグラムのカテゴリ値を第1の値として算出し、
    前記入力画像の輝度値のヒストグラムの度数を、輝度値が高い方から順に累積加算して、累積加算して得られた値が閾値を超えたときの当該ヒストグラムのカテゴリ値を第2の値として算出し、
    前記第1の値と前記第2の値を用いて、前記第2の値から前記第1の値を減算した値が大きいほど大きい値を、前記重み付け加算して得られた値と比較する前記閾値として決定することを特徴とする請求項1921のいずれか1項に記載の画像処理装置の制御方法。
  23. 前記パターン判定ステップでは、前記入力画像の一部の領域の画像である部分画像の隣接輝度差のヒストグラムを用いて、当該部分画像が周期パターン部分を含む画像であるか否かを判定する処理を、前記入力画像を構成する複数の部分画像のそれぞれについて行い、
    前記生成ステップでは、前記パターン判定ステップで周期パターン部分を含む画像であると判定された部分画像に対しては、前記斜め補間処理を行わずに補間画素を生成することを特徴とする請求項1922のいずれか1項に記載の画像処理装置の制御方法。
  24. 前記画像処理装置は、前記入力画像であるインターレース画像を補間によりプログレッシブ画像に変換する装置であり、
    前記生成ステップでは、動き適応型インターレース・プログレッシブ変換により補間画素を生成することを特徴とする請求項13〜23のいずれか1項に記載の画像処理装置の制御方法。
JP2013032291A 2013-02-21 2013-02-21 画像処理装置及びその制御方法 Expired - Fee Related JP6288920B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013032291A JP6288920B2 (ja) 2013-02-21 2013-02-21 画像処理装置及びその制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013032291A JP6288920B2 (ja) 2013-02-21 2013-02-21 画像処理装置及びその制御方法

Publications (3)

Publication Number Publication Date
JP2014165532A JP2014165532A (ja) 2014-09-08
JP2014165532A5 JP2014165532A5 (ja) 2016-04-07
JP6288920B2 true JP6288920B2 (ja) 2018-03-07

Family

ID=51615812

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013032291A Expired - Fee Related JP6288920B2 (ja) 2013-02-21 2013-02-21 画像処理装置及びその制御方法

Country Status (1)

Country Link
JP (1) JP6288920B2 (ja)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5672872B2 (ja) * 2010-09-08 2015-02-18 株式会社リコー 画像形成装置
JP5699633B2 (ja) * 2011-01-28 2015-04-15 株式会社リコー 画像処理装置、画素補間方法およびプログラム
JP5350501B2 (ja) * 2011-03-24 2013-11-27 キヤノン株式会社 映像処理装置及び映像処理方法

Also Published As

Publication number Publication date
JP2014165532A (ja) 2014-09-08

Similar Documents

Publication Publication Date Title
KR101861722B1 (ko) 비디오 데이터를 처리하는 방법과 이미지 처리 회로
JP2006186965A (ja) 画素補間方法および画像判定方法
CN103475838B (zh) 一种基于边缘自适应的去隔行方法
CN100367771C (zh) 一种自适应抑制图像噪声的方法
US10163035B2 (en) Edge detecting apparatus and edge detecting method
US8576337B2 (en) Video image processing apparatus and video image processing method
KR100422575B1 (ko) 디인터레이싱을 위한 공간축/시간축 보간 시스템 및 방법
JP4873765B2 (ja) 映像信号処理装置及び映像信号処理方法
JP5737072B2 (ja) 動き補償フレーム生成装置及び方法
JP6012230B2 (ja) エッジ方向判定装置、エッジ方向判定装置の制御方法、及び、画像処理装置
KR101733668B1 (ko) 물체 검출 장치, 감시 카메라 및 물체 검출 방법
JP6288920B2 (ja) 画像処理装置及びその制御方法
US20070086059A1 (en) Image sharpness device and method
KR101235488B1 (ko) 위너필터 기반의 가중치를 부여하여 화소를 보간하는 디인터레이싱 장치 및 방법
Park et al. Covariance-based adaptive deinterlacing method using edge map
JP5084755B2 (ja) ノイズ低減装置及びそのプログラム
JP6704726B2 (ja) エッジ検出装置、エッジ検出方法、及び、プログラム
JP5039017B2 (ja) ノイズレベル検出装置
JP2005311455A (ja) 撮像装置、ノイズリダクション装置およびノイズリダクション方法並びにプログラム
US9008463B2 (en) Image expansion apparatus for performing interpolation processing on input image data, and image expansion method thereof
JP5933690B2 (ja) 画像処理装置及び方法、並びに画像処理プログラム
JP5018198B2 (ja) 補間信号生成回路、補間信号生成方法、プログラムおよびビデオ信号処理装置
JP5887763B2 (ja) 動き補償フレーム生成装置及び方法
JP5441555B2 (ja) 映像信号処理装置及び映像信号処理方法
JP5091850B2 (ja) ノイズレベル検出装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160219

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160219

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161206

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170223

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170620

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170704

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180109

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180206

R151 Written notification of patent or utility model registration

Ref document number: 6288920

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees