JP4383581B2 - ブロックノイズ検出装置およびブロックノイズ除去装置 - Google Patents

ブロックノイズ検出装置およびブロックノイズ除去装置 Download PDF

Info

Publication number
JP4383581B2
JP4383581B2 JP13621999A JP13621999A JP4383581B2 JP 4383581 B2 JP4383581 B2 JP 4383581B2 JP 13621999 A JP13621999 A JP 13621999A JP 13621999 A JP13621999 A JP 13621999A JP 4383581 B2 JP4383581 B2 JP 4383581B2
Authority
JP
Japan
Prior art keywords
block
video signal
horizontal
vertical
frequency component
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP13621999A
Other languages
English (en)
Other versions
JP2000050275A5 (ja
JP2000050275A (ja
Inventor
寛 仁尾
暁 岡本
克美 寺井
直司 奥村
和人 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP13621999A priority Critical patent/JP4383581B2/ja
Publication of JP2000050275A publication Critical patent/JP2000050275A/ja
Publication of JP2000050275A5 publication Critical patent/JP2000050275A5/ja
Application granted granted Critical
Publication of JP4383581B2 publication Critical patent/JP4383581B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • H04N19/865Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness with detection of the former encoding block subdivision in decompressed video

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Picture Signal Circuits (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、ブロックノイズ検出装置およびブロックノイズ除去装置に関し、より特定的には、デジタル画像を圧縮して伝送・記録する際に用いる画像符号化において、デジタル画像に生じるブロックノイズを除去するブロックノイズ検出装置およびブロックノイズ除去装置に関する。
【0002】
【従来の技術】
従来から、デジタル画像を保存する場合等において、画像のデータ量を減らす目的でデジタル画像のデータ圧縮が行われている。このデータ圧縮の方法には、可逆符号化方法と不可逆符号化方法とがある。可逆符号化方法は、符号化したデータを復号化すると、符号化前のデータに完全に戻すことができる符号化を用いる方法である。一方、不可逆符号化方法は、符号化したデータを復号化すると多少の誤差を含んだデータに戻され、符号化する前のデータに完全に戻すことができるとは限らない符号化を用いる方法である。
【0003】
一般に、可逆符号化として用いられる方式には、離散コサイン変換(以下、DCTと記す)が存在する。しかし、通常、DCTを行った後には、量子化等の処理を行う。このため、DCTを行った後に量子化等の処理を行って符号化したデータは、復号化しても符号化前のデータに完全に戻すことができず、復号化したデータにノイズ(誤差)を含むことになる。すなわち、DCTを行った後に量子化等の処理を行う符号化は、不可逆符号化となる。
【0004】
DCTを行うには、まず、前処理として、1フレームの画像を複数のブロックに領域分割する。1ブロックは、例えば、8×8の2次元画素データの集まりである。DCTは、ブロックを1単位として処理を行う。DCTおよび量子化により符号化されたデータは、逆量子化および逆DCTすることによりデータを復元することができる。逆量子化および逆DCTすると、ブロックノイズを含んだ画像データが復元される。
【0005】
ここで、ブロックノイズについて図24を用いて説明する。
図24は、従来の手法におけるブロックノイズ除去の概念を説明する図である。なお、図24(a)は、1フレーム画像701を表し、図24(b)は、図24(a)におけるブロック704と隣接するブロック705との境界(以下、ブロック境界という)706の1ラインを拡大して表し、図24(c)は、図24(b)の各画素を平滑化した後の画素の状態を表したものである。
【0006】
今、図24(a)において、1フレーム画像701の特定のブロックを隔てて画素が並んでいると見たときを考える。このとき、図24(b)において、ブロック704の画素aとブロック705の画素bとは、ブロック境界706で存在する画素であり、この画素aと画素bの画素レベル差が、画素cと画素dの画素レベル差のようなブロック内のレベル変化に比べ大きい場合、この部分がブロックノイズとなりこのため非常に見苦しい画像となって見える。
このようにブロックノイズとは、1フレーム画像において、ブロック境界前後に存在する画素間のレベル差に起因して生じるノイズである。
【0007】
ブロックノイズは、DCTおよび量子化のようにブロックを1単位として処理を行う不可逆符号化方式を用いると生じる。画像に生じるノイズを除去するには、一般的に、画像全体を平滑化する処理が行われる。平滑化とは処理したい画素の前後数画素を用いて平均画素を求めることである。また、数タップの低域通過フィルタ(以下、LPFと記す)により画像を滑らかにすることも平滑化である。平滑化を行うと図24(c)のように、ブロックノイズのみならず、画像全体のノイズを除去することができる。
【0008】
【発明が解決しようとする課題】
しかしながら、画素の平滑化は、ブロックノイズを除去できる利点を有する一方、ブロックノイズ以外の画像のエッジも滑らかにしてしまうため、画像がぼけたものになってしまう欠点がある。
また、上記従来の手法では、ブロックサイズとブロック境界が完全に分かる場合のみしかブロックノイズを除去することができない問題がある。
さらに、ブロック境界に画像のエッジが存在した場合、ブロックノイズの影響は、画像のエッジに比べ少ない。しかし、上記従来の手法ではブロック境界であればすべて平滑化を行っている。そのため、ブロック境界に存在した画像エッジはぼけてしまい、実際にはブロック境界に平滑化を行った方が画質劣化が見られる場合もある。
【0009】
それ故、本発明の目的は、本来ブロックノイズ除去を行うべきブロック境界が不明確な場合でも、正確にブロック境界を検出するブロックノイズ検出装置を提供することである。
また、本発明の他の目的は、画像をぼけさせることなく、ブロックノイズを除去し、なおかつ、ブロック境界でもブロックノイズが少ない画像に対しては、平滑化を行わない、映像シーンに付随したブロックノイズ除去装置を提供することである。
さらに、本発明の他の目的は、入力信号が多フォーマット(例えば、インタレース方式・プログレッシブ方式)のアナログ信号や外部デジタル信号(例えば、DVDやSTB)の場合でも、入力信号に存在するブロックノイズを除去できるブロックノイズ除去装置を提供することである。
加えて、本発明では、ブロックノイズ検出装置を用いて、映像処理システムにおけるドットクロック再生を行ことも提供する。
【0010】
【課題を解決するための手段および発明の効果】
第1の発明は、予め定めた画像ブロック毎に不可逆符号化処理が施されたデジタルの映像信号から、当該映像信号の復号化処理に伴って生じるブロックノイズを検出する装置であって、
映像信号におけるブロックノイズのレベルを検出する手段と、
映像信号におけるブロック境界(ブロックノイズの発生位置)を検出する手段とを備える。
上記のように、第1の発明によれば、複数のブロックに領域分割される画像のブロック境界およびブロックノイズのレベルを正確に検出するこで、ブロックノイズの検出が可能となる。
【0011】
第2の発明は、予め定めた画像ブロック毎に不可逆符号化処理が施されたデジタルの映像信号から、当該映像信号の復号化処理に伴って生じるブロックノイズを検出する装置であって、
映像信号を入力し、当該映像信号から高域成分のみを抽出する信号抽出手段と、
信号抽出手段が出力する高域成分信号を絶対値化する絶対値化手段と、
絶対値化手段が出力する絶対値化後の高域成分信号を、予め定めた期間において累積加算する累積加算手段と、
累積加算手段が出力する累積加算結果に基づいて、ブロックノイズの周期性を検知する周期検知手段と、
周期検知手段が検知した周期性信号から、ブロック境界を求めるブロック境界判定手段とを備える。
上記のように、第2の発明によれば、ブロックノイズの周期性を検知し、複数のブロックに領域分割される画像のブロック境界を正確に検出するこで、ブロックノイズの検出が可能となる。
【0012】
第3の発明は、第2の発明に従属する発明であって、
ブロック境界判定手段は、ブロック境界の位置とそれ以外の位置とに2値化することを特徴とする。
上記のように、第3の発明は、第2の発明において、ブロック境界判定手段が行う典型的な処理手法を示したものである。これにより、簡単にブロック境界を与えることができる。
【0013】
第4の発明は、第2および第3の発明に従属する発明であって、
映像信号を入力し、当該映像信号の予め定めた複数のフレーム間の信号差分を求めるフレーム差分手段と、
フレーム差分手段の出力する信号の差分値が、予め定めたしきい値を越えるか否かに従って、除去すべきブロックノイズが存在する領域(以下、ノイズ領域という)を判断する領域判断手段と、
ブロック境界判定手段が求めたブロック境界を、領域判断手段が判断したノイズ領域でマスク化し、当該ノイズ領域に対応するブロック境界を求めるブロックエッジ制御手段とをさらに備える。
上記のように、第4の発明によれば、第2および第3の発明よりも、さらに細かくブロックノイズを含んだ画像の動きの大きさとの相関によってブロック境界の分類が可能となる。この結果、映像シーンにあった、ブロックノイズの大きい部分のみをブロック境界として検出することができる。
【0014】
第5の発明は、第4の発明に従属する発明であって、
フレーム差分手段は、現在フレームと直前フレームとの間の信号差分を求めることを特徴とする。
上記のように、第5の発明は、第4の発明において、フレーム差分手段が行う典型的な処理手法を示したものである。これにより、映像シーンにあった、ブロックノイズの大きい部分のみをブロック境界として検出することができる。
【0015】
第6の発明は、第4および第5の発明に従属する発明であって、
領域判断手段は、しきい値を越える部分としきい値を越えない部分とに2値化することを特徴とする。
上記のように、第6の発明は、第4および第5の発明において、領域判断手段が行う典型的な処理手法を示したものである。これにより、簡単にノイズ領域を与えることができる。
【0016】
第7の発明は、第4〜第6の発明に従属する発明であって、
領域判断手段が判断したノイズ領域のうち、予め定めた小領域内に分布するノイズ部分を除外する特異点除去手段をさらに備え、
ブロックエッジ制御手段は、ブロック境界判定手段が求めたブロック境界を、特異点除去手段が出力する除外後のノイズ領域でマスク化することを特徴とする。
上記のように、第7の発明によれば、第4〜第6の発明において、平滑化による除去効果が現れにくく画像をぼかしてしまう画像の細かい領域を除去する。これにより、フレーム差分処理の効果を高めることが可能となり高画質を得られ、同時にデータ量を削減することも可能となる。
【0017】
第8の発明は、第2〜第7の発明に従属する発明であって、
信号抽出手段、絶対値化手段、累積加算手段および周期検知手段は、映像信号の水平方向または垂直方向のいずれか1方向、若しくは双方向に関してそれぞれ処理を行うことを特徴とする。
上記のように、第8の発明は、第2〜第7の発明において、映像信号の水平方向または垂直方向若しくは双方向のいずれに関して処理を行っても、ブロック境界の検出が可能なことを示したものである。
【0018】
第9の発明は、第8の発明に従属する発明であって、
各処理を映像信号の垂直方向に関して行う場合、
周期検知手段は、入力する映像信号のフォーマットに応じて、検知に用いるフレームを逐次変更することを特徴とする。
上記のように、第9の発明によれば、第8の発明において、入力する映像信号のフォーマット(例えば、インタレース方式/プログレッシブ方式)に関わらず、ブロック画像の周期性を損なうことなく、ブロック境界の正確な検出が可能となる。
【0019】
第10の発明は、予め定めた画像ブロック毎に不可逆符号化処理が施されたデジタルの映像信号から、当該映像信号の復号化処理に伴って生じるブロックノイズを検出して除去する装置であって、
映像信号におけるブロックノイズのレベルを検出する手段と、
映像信号におけるブロック境界を検出する手段と、
ブロック境界において、検出したレベルが予め定めたしきい値以上であるブロックノイズのみを除去する手段とを備える。
上記のように、第10の発明によれば、複数のブロックに領域分割される画像のブロック境界およびブロックノイズのレベルを正確に検出するこで、ブロックノイズの検出が可能となり、ブロック境界に存在するブロックノイズを除去することができる。
【0020】
第11の発明は、予め定めた画像ブロック毎に不可逆符号化処理が施されたデジタルの映像信号から、当該映像信号の復号化処理に伴って生じるブロックノイズを検出して除去する装置であって、
映像信号を入力し、当該映像信号から高域成分のみを抽出する信号抽出手段と、
信号抽出手段が出力する高域成分信号を絶対値化する絶対値化手段と、
絶対値化手段が出力する絶対値化後の高域成分信号を、予め定めた期間において累積加算する累積加算手段と、
累積加算手段が出力する累積加算結果に基づいて、ブロックノイズの周期性を検知する周期検知手段と、
周期検知手段が検知した周期性信号から、ブロック境界を求めるブロック境界判定手段と、
ブロック境界に対して、ブロックノイズを除去するブロックノイズ除去手段とを備える。
上記のように、第11の発明によれば、ブロックノイズの周期性を検知し、複数のブロックに領域分割される画像のブロック境界を正確に検出するこで、ブロックノイズの検出が可能となり、ブロック境界に存在するブロックノイズを除去することができる。
【0021】
第12の発明は、第11の発明に従属する発明であって、
ブロック境界判定手段は、ブロック境界の位置とそれ以外の位置とに2値化することを特徴とする。
上記のように、第12の発明は、第11の発明において、ブロック境界判定手段が行う典型的な処理手法を示したものである。これにより、簡単にブロック境界を与えることができる。
【0022】
第13の発明は、第11および第12の発明に従属する発明であって、
映像信号を入力し、当該映像信号の予め定めた複数のフレーム間の信号差分を求めるフレーム差分手段と、
フレーム差分手段の出力する信号の差分値が、予め定めたしきい値を越えるか否かに従って、ノイズ領域を判断する領域判断手段と、
ブロック境界判定手段が求めたブロック境界を、領域判断手段が判断したノイズ領域でマスク化し、当該ノイズ領域に対応するブロック境界を求めるブロックエッジ制御手段とをさらに備え、
ブロックノイズ除去手段は、ノイズ領域に対応するブロック境界に対して、ブロックノイズを除去する。
上記のように、第13の発明によれば、第11および第12の発明よりも、さらに細かくブロックノイズを含んだ画像の動きの大きさとの相関によってブロック境界の分類が可能となる。この結果、映像シーンにあった、ブロックノイズの大きい部分のみをブロック境界として検出して除去することができる。
【0023】
第14の発明は、第13の発明に従属する発明であって、
フレーム差分手段は、現在フレームと直前フレームとの間の信号差分を求めることを特徴とする。
上記のように、第14の発明は、第13の発明において、フレーム差分手段が行う典型的な処理手法を示したものである。これにより、映像シーンにあった、ブロックノイズの大きい部分のみをブロック境界として検出することができる。
【0024】
第15の発明は、第13および第14の発明に従属する発明であって、
領域判断手段は、しきい値を越える部分としきい値を越えない部分とに2値化することを特徴とする。
上記のように、第15の発明は、第13および第14の発明において、領域判断手段が行う典型的な処理手法を示したものである。これにより、簡単にノイズ領域を与えることができる。
【0025】
第16の発明は、第13〜第15の発明に従属する発明であって、
領域判断手段が判断したノイズ領域のうち、予め定めた小領域内に分布するノイズ部分を除外する特異点除去手段をさらに備え、
ブロックエッジ制御手段は、ブロック境界判定手段が求めたブロック境界を、特異点除去手段が出力する除外後のノイズ領域でマスク化することを特徴とする。
上記のように、第16の発明によれば、第13〜第15の発明において、平滑化による除去効果が現れにくく画像をぼかしてしまう画像の細かい領域を除去する。これにより、フレーム差分処理の効果を高めることが可能となり高画質を得られ、同時にデータ量を削減することも可能となる。
【0026】
第17の発明は、第11〜第16の発明に従属する発明であって、
信号抽出手段、絶対値化手段、累積加算手段および周期検知手段は、映像信号の水平方向または垂直方向のいずれか1方向、若しくは双方向に関してそれぞれ処理を行うことを特徴とする。
上記のように、第17の発明は、第11〜第16の発明において、映像信号の水平方向または垂直方向若しくは双方向のいずれに関して処理を行っても、ブロック境界の検出が可能なことを示したものである。
【0027】
第18の発明は、第17の発明に従属する発明であって、
入力する映像信号のフォーマットを識別する識別手段をさらに備え、
各処理を映像信号の垂直方向に関して行う場合、
識別手段は、フォーマットに応じて、周期検知手段が検知に用いるフレームを逐次変更させることを特徴とする。
上記のように、第18の発明によれば、第17の発明において、入力する映像信号のフォーマット(例えば、インタレース方式/プログレッシブ方式)に関わらず、ブロック画像の周期性を損なうことなく、ブロック境界の正確な検出が可能となる。
【0028】
第19の発明は、予め定めた画像ブロック毎に不可逆符号化処理が施されたデジタルの映像信号から、当該映像信号の復号化処理に伴って生じるブロックノイズを検出して除去する装置であって、
映像信号を入力し、当該映像信号に対する画面上における横方向のブロック境界およびブロックノイズ量を検出する垂直ブロック境界検出手段と、
映像信号を入力し、当該映像信号に対する画面上における縦方向のブロック境界およびブロックノイズ量を検出する水平ブロック境界検出手段と、
垂直ブロック境界検出手段および水平ブロック境界検出手段の検出結果から、縦横全方向のブロック境界を特定するブロックエリア検出手段と、
ブロックエリア検出手段が特定した縦横全方向のブロック境界に応じ、入力する映像信号に対して予め定めた平滑化処理を施すブロック境界平滑化手段とを備える。
上記のように、第19の発明によれば、ブロック境界およびブロックノイズレベルを正確に検出することができる。これにより、ブロックノイズレベルに対応した適切な平滑化を行うことが可能となり、映像シーンに付随したブロックノイズをより効果的に除去することが可能となる。
【0029】
第20の発明は、第19の発明に従属する発明であって、
垂直ブロック境界検出手段は、
映像信号の垂直高域成分のみを抽出する垂直ハイパスフィルタ(以下、HPFと記す)と、
垂直HPFが出力する高域成分信号を絶対値化する第1の絶対値化手段と、
第1の絶対値化手段が出力する絶対値化後の高域成分信号を、水平方向に累積加算する水平累積加算手段と、
水平累積加算手段が出力する累積加算後の高域成分信号から、さらに高域成分を抽出する第1のHPFと、
第1のHPFが出力する信号を、予め設定されたN点(Nは、正の整数)ごとにそれぞれ累積加算する第1のN点累積加算手段と、
第1のHPFが出力する信号を、時間方向に演算して映像信号のブロックノイズ量を検出する第1のテンポラルフィルタと、
第1のN点累積加算手段が累積加算によって求めたN個の累積加算値の中から、最大値と当該最大値の位置とを求める第1の最大値検出手段と、
第1のテンポラルフィルタが検出したブロックノイズ量を、第1の最大値検出手段が出力する最大値の位置でマスク化し、当該位置に対応する垂直ブロック境界を求める第1のマスク化手段とを備え、
水平ブロック境界検出手段は、
映像信号の水平高域成分のみを抽出する水平HPFと、
水平HPFが出力する高域成分信号を絶対値化する第2の絶対値化手段と、
第2の絶対値化手段が出力する絶対値化後の高域成分信号を、垂直方向に累積加算する垂直累積加算手段と、
垂直累積加算手段が出力する累積加算後の高域成分信号から、さらに高域成分を抽出する第2のHPFと、
第2のHPFが出力する信号を、予め設定されたN点ごとにそれぞれ累積加算する第2のN点累積加算手段と、
第2のHPFが出力する信号を、時間方向に演算して映像信号のブロックノイズ量を検出する第2のテンポラルフィルタと、
第2のN点累積加算手段が累積加算によって求めたN個の累積加算値の中から、最大値と当該最大値の位置とを求める第2の最大値検出手段と、
第2のテンポラルフィルタが検出したブロックノイズ量を、第2の最大値検出手段が出力する最大値の位置でマスク化し、当該位置に対応する垂直ブロック境界を求める第2のマスク化手段とを備える。
上記のように、第20の発明によれば、第19の発明において、垂直ブロック境界検出手段および水平ブロック境界検出手段の典型的な構成を示したものである。これにより、時間方向の変動を抑制した変動の少ないブロックレベルを検出することが可能となると共に、ブロックノイズレベルに対応した適切な平滑化を行うことが可能となり、映像シーンに付随したブロックノイズをより効果的に除去することが可能となる。
【0030】
第21の発明は、予め定めた画像ブロック毎に不可逆符号化処理が施された映像信号から、当該映像信号の復号化処理に伴って生じるブロックノイズを検出して除去する装置であって、
アナログの映像信号を入力し、デジタルに変換するAD変換手段と、
符号化されたデジタルの映像信号を入力し、復号化処理を施すと共に、当該復号化処理したブロック境界情報を出力するデジタル復号化手段と、
AD変換手段が出力する映像信号とデジタル復号化手段が出力する映像信号とを入力し、外部からの指示に従って、いずれか一方の当該映像信号を選択的に出力するセレクタと、
セレクタが選択した映像信号を入力し、当該映像信号に対する画面上における横方向のブロック境界およびブロックノイズ量を検出する垂直ブロック境界検出手段と、
セレクタが選択した映像信号を入力し、当該映像信号に対する画面上における縦方向のブロック境界およびブロックノイズ量を検出する水平ブロック境界検出手段と、
垂直ブロック境界検出手段および水平ブロック境界検出手段の検出結果から、縦横全方向のブロック境界を特定するブロックエリア検出手段と、
ブロックエリア検出手段が特定した縦横全方向のブロック境界に応じ、入力する映像信号に対して予め定めた平滑化処理を施すブロック境界平滑化手段とを備え、
垂直ブロック境界検出手段および水平ブロック境界検出手段は、セレクタがAD変換手段の出力する映像信号を選択した場合、各々の検出結果に基づいたブロック境界を、セレクタがデジタル復号化手段の出力する映像信号を選択した場合、デジタル復号化手段が出力するブロック境界情報に従ったブロック境界を、ブロックエリア検出手段へ出力することを特徴とする。
上記のように、第21の発明によれば、入力する映像信号に対応したブロック境界およびブロックノイズレベルを正確に検出することができる。これにより、ブロックノイズレベルに対応した適切な平滑化を行うことがさらに可能となり、入力する様々な映像シーンに付随したブロックノイズをより効果的に除去することが可能となる。
【0031】
第22の発明は、第21の発明に従属する発明であって、
垂直ブロック境界検出手段は、
映像信号の垂直高域成分のみを抽出する垂直HPFと、
垂直HPFが出力する高域成分信号を絶対値化する第1の絶対値化手段と、
第1の絶対値化手段が出力する絶対値化後の高域成分信号を、水平方向に累積加算する水平累積加算手段と、
水平累積加算手段が出力する累積加算後の高域成分信号から、さらに高域成分を抽出する第1のHPFと、
第1のHPFが出力する信号を、予め設定されたN点ごとにそれぞれ累積加算する第1のN点累積加算手段と、
第1のHPFが出力する信号を、時間方向に演算して映像信号のブロックノイズ量を検出する第1のテンポラルフィルタと、
第1のN点累積加算手段が累積加算によって求めたN個の累積加算値の中から、最大値と当該最大値の位置とを求める第1の最大値検出手段と、
セレクタの選択に同期し、デジタル復号化手段が出力するブロック境界情報と、第1の最大値検出手段が出力する最大値の位置とのいずれか一方を選択的に出力する第1のセレクタと、
第1のテンポラルフィルタが検出したブロックノイズ量を、第1のセレクタが出力するブロック境界でマスク化し、当該位置に対応する垂直ブロック境界を求める第1のマスク化手段とを備え、
水平ブロック境界検出手段は、
映像信号の水平高域成分のみを抽出する水平HPFと、
水平HPFが出力する高域成分信号を絶対値化する第2の絶対値化手段と、
第2の絶対値化手段が出力する絶対値化後の高域成分信号を、垂直方向に累積加算する垂直累積加算手段と、
垂直累積加算手段が出力する累積加算後の高域成分信号から、さらに高域成分を抽出する第2のHPFと、
第2のHPFが出力する信号を、予め設定されたN点ごとにそれぞれ累積加算する第2のN点累積加算手段と、
第2のHPFが出力する信号を、時間方向に演算して映像信号のブロックノイズ量を検出する第2のテンポラルフィルタと、
第2のN点累積加算手段が累積加算によって求めたN個の累積加算値の中から、最大値と当該最大値の位置とを求める第2の最大値検出手段と、
セレクタの選択に同期し、デジタル復号化手段が出力するブロック境界情報と、第2の最大値検出手段が出力する最大値の位置とのいずれか一方を選択的に出力する第2のセレクタと、
第2のテンポラルフィルタが検出したブロックノイズ量を、第2のセレクタが出力するブロック境界でマスク化し、当該位置に対応する垂直ブロック境界を求める第2のマスク化手段とを備える。
上記のように、第22の発明によれば、第21の発明において、垂直ブロック境界検出手段および水平ブロック境界検出手段の典型的な構成を示したものである。これにより、時間方向の変動を抑制した変動の少ないブロックレベルを検出することが可能となると共に、ブロックノイズレベルに対応した適切な平滑化を行うことが可能となり、入力する様々な映像シーンに付随したブロックノイズをより効果的に除去することが可能となる。
【0032】
第23の発明は、第20および第22の発明に従属する発明であって、
ブロック境界平滑化手段は、
映像信号の水平高域成分のみを抽出する水平HPFと、
水平HPFの出力と水平ブロック境界検出手段の出力とを乗算する第1の乗算手段と、
映像信号から第1の乗算手段の出力を減算する第1の減算手段と、
映像信号の垂直高域成分のみを抽出する垂直HPFと、
垂直HPFの出力と垂直ブロック境界検出手段の出力とを乗算する第2の乗算手段と、
映像信号から第2の乗算手段の出力を減算する第2の減算手段とを備え、
ブロックノイズ量に応じてブロックノイズを除去することを特徴とする。
上記のように、第23の発明によれば、第20および第22の発明において、ブロック境界平滑化手段の典型的な構成を示したものである。これにより、入力する映像信号を劣化させることなく、ブロックノイズを効果的に除去することが可能となる。
【0033】
第24の発明は、第19〜第23の発明に従属する発明であって、
水平ブロック境界検出手段および垂直ブロック境界検出手段が検出するブロックノイズ量に応じ、映像信号の輪郭部分を強調する輪郭補正量を制御する輪郭補正手段をさらに備える。
上記のように、第24の発明によれば、第19〜第23の発明において、ブロックノイズレベルに対応した適切な輪郭補正を行うことが可能となり、ブロックノイズを強調しない映像信号の輪郭補正を行うことが可能となる。
【0034】
第25の発明は、第19〜第24の発明に従属する発明であって、
水平ブロック境界検出手段および垂直ブロック境界検出手段が検出するブロックノイズ量に基づいて、入力する映像信号の判別(種類や品位等)を行う制御手段をさらに備え、
制御手段が、判別の結果を予め定めた形態で画面上にオンスクリーンディスプレイ表示することを特徴とする。
上記のように、第25の発明によれば、第19〜第24の発明において、情報をオンスクリーンディスプレイ(OSD)表示することで、映像ソースやブロックノイズ除去効果を、一目で認識することが可能となる。
【0035】
第26の発明は、予め定めた画像ブロック毎に不可逆符号化処理が施されたデジタルの映像信号から、当該映像信号の復号化処理に伴って生じる垂直方向のブロックノイズを検出する装置であって、
映像信号を入力し、当該映像信号の垂直高域成分のみを抽出する垂直HPFと、
垂直HPFが出力する高域成分信号を絶対値化する絶対値化手段と、
絶対値化手段が出力する絶対値化後の高域成分信号を、水平方向に累積加算する水平累積加算手段と、
水平累積加算手段が出力する累積加算後の高域成分信号から、さらに高域成分を抽出するHPFと、
HPFが出力する信号を、予め設定されたN点ごとにそれぞれ累積加算するN点累積加算手段と、
HPFが出力する信号を、時間方向に演算して映像信号のブロックノイズ量を検出するテンポラルフィルタと、
N点累積加算手段が累積加算によって求めたN個の累積加算値の中から、最大値と当該最大値の位置とを求める最大値検出手段と、
テンポラルフィルタが検出したブロックノイズ量を、最大値検出手段が出力する最大値の位置でマスク化し、当該位置に対応する垂直ブロック境界を求めるマスク化手段とを備える。
上記のように、第26の発明は、垂直方向のブロック境界を検出する装置を独立に構成したものである。
【0036】
第27の発明は、予め定めた画像ブロック毎に不可逆符号化処理が施されたデジタルの映像信号から、当該映像信号の復号化処理に伴って生じる水平方向のブロックノイズを検出する装置であって、
映像信号を入力し、当該映像信号の垂直高域成分のみを抽出する水平HPFと、
水平HPFが出力する高域成分信号を絶対値化する絶対値化手段と、
絶対値化手段が出力する絶対値化後の高域成分信号を、垂直方向に累積加算する垂直累積加算手段と、
垂直累積加算手段が出力する累積加算後の高域成分信号から、さらに高域成分を抽出するHPFと、
HPFが出力する信号を、予め設定されたN点ごとにそれぞれ累積加算するN点累積加算手段と、
HPFが出力する信号を、時間方向に演算して映像信号のブロックノイズ量を検出するテンポラルフィルタと、
N点累積加算手段が累積加算によって求めたN個の累積加算値の中から、最大値と当該最大値の位置とを求める最大値検出手段と、
テンポラルフィルタが検出したブロックノイズ量を、最大値検出手段が出力する最大値の位置でマスク化し、当該位置に対応する水平ブロック境界を求めるマスク化手段とを備える。
上記のように、第27の発明は、水平方向のブロック境界を検出する装置を独立に構成したものである。
【0037】
第28の発明は、予め定めた画像ブロック毎に不可逆符号化処理が施されたデジタルの映像信号を処理する映像処理システムにおいて、再生するドットクロックの制御を行う装置であって、
水平同期パルスに基づいて、映像処理システムで用いるドットクロックを生成するクロック発生手段と、
映像信号を入力し、当該映像信号に対する画面上における縦方向のブロック境界を検出する水平ブロック境界検出手段と、
水平ブロック境界検出手段が検出するブロック境界が、周期的に単一の最大点(ピーク)を有するように、クロック発生手段の遅延量を可変する制御手段とを備える。
上記のように、第28の発明によれば、入力する映像信号に対応した水平ブロック境界を検出し、この位置に基づいてドットクロックの再生を行う。これにより、本来の映像信号のドットクロックと位相が一致したクロックを、正確に再生することが可能となる。
【0038】
第29の発明は、第28の発明に従属する発明であって、
水平ブロック境界検出手段は、
映像信号を入力し、当該映像信号の垂直高域成分のみを抽出する水平HPFと、
水平HPFが出力する高域成分信号を絶対値化する絶対値化手段と、
絶対値化手段が出力する絶対値化後の高域成分信号を、垂直方向に累積加算する垂直累積加算手段と、
垂直累積加算手段が出力する累積加算後の高域成分信号から、さらに高域成分を抽出するHPFと、
HPFが出力する信号を、予め設定されたN点ごとにそれぞれ累積加算するN点累積加算手段とを備える。
上記のように、第29の発明によれば、第28の発明において、水平ブロック境界検出手段の典型的な構成を示したものである。これにより、本来の映像信号のドットクロックと位相が一致したクロックを、正確に再生することが可能となる。
【0039】
第30の発明は、予め定めた画像ブロック毎に不可逆符号化処理が施されたデジタルの映像信号から、当該映像信号の復号化処理に伴って生じるブロックノイズを検出する方法を、コンピュータ装置上で実行するためのプログラムを記録した媒体であって、
映像信号に対し、当該映像信号から高域成分のみを抽出するステップと、
抽出した高域成分信号を絶対値化するステップと、
絶対値化後の高域成分信号を、予め定めた期間において累積加算するステップと、
累積加算の結果に基づいて、ブロックノイズの周期性を検知するステップと、
検知した周期性の信号から、ブロック境界を求めるステップとを含む動作環境を、コンピュータ装置上で実現するためのプログラムを記録している。
【0040】
第31の発明は、第30の発明に従属する発明であって、
ブロック境界に対して、ブロックノイズを除去するステップをさらに含む。
【0041】
第32の発明は、第30および第31の発明に従属する発明であって、
ブロック境界を求めるステップは、ブロック境界の位置とそれ以外の位置とに2値化することを特徴とする。
【0042】
第33の発明は、第30〜第32の発明に従属する発明であって、
映像信号に対し、当該映像信号の予め定めた複数のフレーム間の信号差分を求めるステップと、
信号差分の値が、予め定めたしきい値を越えるか否かに従って、ノイズ領域を判断するステップと、
ブロック境界をノイズ領域でマスク化し、当該ノイズ領域に対応するブロック境界を求めるステップとをさらに含む。
【0043】
第34の発明は、第33の発明に従属する発明であって、
信号差分を求めるステップは、現在フレームと直前フレームとの間の信号差分を求めることを特徴とする。
【0044】
第35の発明は、第33および第34の発明に従属する発明であって、
ノイズ領域を判断するステップは、しきい値を越える部分としきい値を越えない部分とに2値化することを特徴とする。
【0045】
第36の発明は、第33〜第35の発明に従属する発明であって、
ノイズ領域のうち、予め定めた小領域内に分布するノイズ部分を除外するステップをさらに含み、
ノイズ領域に対応するブロック境界を求めるステップは、ブロック境界を、除外後のノイズ領域でマスク化することを特徴とする。
【0046】
第37の発明は、第30〜第36の発明に従属する発明であって、
各ステップを、映像信号の水平方向または垂直方向のいずれか1方向、若しくは双方向に関して行うことを特徴とする。
【0047】
第38の発明は、第37の発明に従属する発明であって、
各処理を映像信号の垂直方向に関して行う場合、
周期性を検知するステップは、入力する映像信号のフォーマットに応じて、検知に用いるフレームを逐次変更することを特徴とする。
【0048】
第39の発明は、予め定めた画像ブロック毎に不可逆符号化処理が施されたデジタルの映像信号から、当該映像信号の復号化処理に伴って生じるブロックノイズを検出する方法を、コンピュータ装置上で実行するためのプログラムを記録した媒体であって、
映像信号に対し、当該映像信号に対する画面上における横方向のブロック境界およびブロックノイズ量を検出するステップと、
映像信号に対し、当該映像信号に対する画面上における縦方向のブロック境界およびブロックノイズ量を検出するステップと、
横方向を検出するステップおよび縦方向を検出するステップの検出結果から、縦横全方向のブロック境界を特定するステップと、
縦横全方向のブロック境界に応じ、映像信号に対して予め定めた平滑化を行うステップとを含む動作環境を、コンピュータ装置上で実現するためのプログラムを記録している。
【0049】
第40の発明は、第39の発明に従属する発明であって、
横方向を検出するステップは、
映像信号の垂直高域成分のみを抽出するステップと、
抽出した高域成分信号を絶対値化するステップと、
絶対値化後の高域成分信号を水平方向に累積加算するステップと、
累積加算後の高域成分信号からさらに高域成分を抽出するステップと、
さらに高域成分を抽出するステップが出力する信号を、予め設定されたN点ごとにそれぞれ累積加算するステップと、
さらに高域成分を抽出するステップが出力する信号を、時間方向に演算して映像信号のブロックノイズ量を検出するステップと、
累積加算によって求めたN個の累積加算値の中から、最大値と当該最大値の位置とを求めるステップと、
検出したブロックノイズ量を最大値の位置でマスク化し、当該位置に対応する垂直ブロック境界を求めるステップとを含み、
縦方向を検出するステップは、
映像信号の水平高域成分のみを抽出するステップと、
抽出した高域成分信号を絶対値化するステップと、
絶対値化後の高域成分信号を垂直方向に累積加算するステップと、
累積加算後の高域成分信号からさらに高域成分を抽出するステップと、
さらに高域成分を抽出するステップが出力する信号を、予め設定されたN点ごとにそれぞれ累積加算するステップと、
さらに高域成分を抽出するステップが出力する信号を、時間方向に演算して映像信号のブロックノイズ量を検出するステップと、
累積加算によって求めたN個の累積加算値の中から、最大値と当該最大値の位置とを求めるステップと、
検出したブロックノイズ量を最大値の位置でマスク化し、当該位置に対応する垂直ブロック境界を求めるステップとを含む。
【0050】
第41の発明は、予め定めた画像ブロック毎に不可逆符号化処理が施された映像信号から、当該映像信号の復号化処理に伴って生じるブロックノイズを検出する方法を、コンピュータ装置上で実行するためのプログラムを記録した媒体であって、
アナログの映像信号をデジタルに変換するステップと、
符号化されたデジタルの映像信号を復号化するステップと、
復号化したブロック境界情報を出力するステップと、
外部からの指示に従って、変換するステップが出力する映像信号または復号化するステップが出力する映像信号のいずれか一方の当該映像信号を選択するステップと、
選択するステップが出力した映像信号に対し、画面上における横方向のブロック境界およびブロックノイズ量を検出するステップと、
選択するステップが出力した映像信号に対し、画面上における縦方向のブロック境界およびブロックノイズ量を検出するステップと、
横方向を検出するステップおよび縦方向を検出するステップの検出結果から、縦横全方向のブロック境界を特定するステップと、
縦横全方向のブロック境界に応じ、映像信号に対して予め定めた平滑化処理を施すステップとをさらに含み、
横方向を検出するステップおよび縦方向を検出するステップは、変換するステップが出力する映像信号の場合、各々の検出結果に基づいたブロック境界を、復号化するステップが出力する映像信号の場合、復号化したブロック境界情報に従ったブロック境界を出力することを特徴とする動作環境を、コンピュータ装置上で実現するためのプログラムを記録している。
【0051】
第42の発明は、第41の発明に従属する発明であって、
横方向を検出するステップは、
映像信号の垂直高域成分のみを抽出するステップと、
抽出した高域成分信号を絶対値化するステップと、
絶対値化後の高域成分信号を水平方向に累積加算するステップと、
累積加算後の高域成分信号からさらに高域成分を抽出するステップと、
さらに高域成分を抽出するステップが出力する信号を、予め設定されたN点ごとにそれぞれ累積加算するステップと、
さらに高域成分を抽出するステップが出力する信号を、時間方向に演算して映像信号のブロックノイズ量を検出するステップと、
累積加算によって求めたN個の累積加算値の中から、最大値と当該最大値の位置とを求めるステップと、
選択するステップに同期し、ブロック境界情報と最大値の位置とのいずれか一方を選択的に出力するステップと、
ブロックノイズ量を、選択的に出力するステップが出力するブロック境界でマスク化し、当該位置に対応する垂直ブロック境界を求めるステップとを含み、
縦方向を検出するステップは、
映像信号の水平高域成分のみを抽出するステップと、
抽出した高域成分信号を絶対値化するステップと、
絶対値化後の高域成分信号を垂直方向に累積加算するステップと、
累積加算後の高域成分信号からさらに高域成分を抽出するステップと、
さらに高域成分を抽出するステップが出力する信号を、予め設定されたN点ごとにそれぞれ累積加算するステップと、
さらに高域成分を抽出するステップが出力する信号を、時間方向に演算して映像信号のブロックノイズ量を検出するステップと、
累積加算によって求めたN個の累積加算値の中から、最大値と当該最大値の位置とを求めるステップと、
選択するステップに同期し、ブロック境界情報と最大値の位置とのいずれか一方を選択的に出力するステップと、
ブロックノイズ量を、選択的に出力するステップが出力するブロック境界でマスク化し、当該位置に対応する水平ブロック境界を求めるステップとを含む。
【0052】
第43の発明は、第40および第42の発明に従属する発明であって、
平滑化を行うステップは、
映像信号の水平高域成分のみを抽出する水平ステップと、
水平ステップの出力と縦検出ステップの出力とを乗算する水平乗算ステップと、
映像信号から水平乗算ステップの出力を減算するステップと、
映像信号の垂直高域成分のみを抽出する垂直ステップと、
垂直ステップの出力と横検出ステップの出力とを乗算する垂直乗算ステップと、
映像信号から垂直乗算ステップの出力を減算するステップとをさらに含み、
ブロックノイズ量に応じてブロックノイズを除去することを特徴とする。
【0053】
第44の発明は、第39〜第43の発明に従属する発明であって、
縦方向を検出するステップおよび横方向を検出するステップが検出するブロックノイズ量に応じ、映像信号の輪郭部分を強調する輪郭補正量を制御するステップをさらに含む。
【0054】
第45の発明は、第39〜第44の発明に従属する発明であって、
縦方向を検出するステップおよび横方向を検出するステップが検出するブロックノイズ量に基づいて、入力する映像信号の判別を行うステップをさらに含み、判別を行うステップが、判別の結果を予め定めた形態で画面上にオンスクリーンディスプレイ表示することを特徴とする。
【0055】
第46の発明は、予め定めた画像ブロック毎に不可逆符号化処理が施されたデジタルの映像信号から、当該映像信号の復号化処理に伴って生じる垂直または水平方向のブロックノイズを検出する方法を、コンピュータ装置上で実行するためのプログラムを記録した媒体であって、
映像信号の垂直または水平高域成分のみを抽出するステップと、
抽出した高域成分信号を絶対値化するステップと、
絶対値化後の高域成分信号を水平または垂直方向に累積加算するステップと、
累積加算後の高域成分信号からさらに高域成分を抽出するステップと、
さらに高域成分を抽出するステップが出力する信号を、予め設定されたN点ごとにそれぞれ累積加算するステップと、
さらに高域成分を抽出するステップが出力する信号を、時間方向に演算して映像信号のブロックノイズ量を検出するステップと、
累積加算によって求めたN個の累積加算値の中から、最大値と当該最大値の位置とを求めるステップと、
検出したブロックノイズ量を最大値の位置でマスク化し、当該位置に対応する垂直または水平ブロック境界を求めるステップとを含む動作環境を、コンピュータ装置上で実現するためのプログラムを記録している。
【0056】
第47の発明は、予め定めた画像ブロック毎に不可逆符号化処理が施されたデジタルの映像信号を処理する映像処理システムにおいて、再生するドットクロックの制御を行う方法を、コンピュータ装置上で実行するためのプログラムを記録した媒体であって、
映像信号を入力し、当該映像信号に対する画面上における縦方向のブロック境界を検出するステップと、
水平同期パルスに基づいて、映像処理システムで用いるドットクロックを生成するクロック発生装置に対し、ステップが検出するブロック境界が、周期的に単一の最大点を有するようにクロック遅延量を可変するステップとを含む動作環境を、コンピュータ装置上で実現するためのプログラムを記録している。
【0057】
第48の発明は、第47の発明に従属する発明であって、
検出するステップは、
映像信号の水平高域成分のみを抽出するステップと、
抽出した高域成分信号を絶対値化するステップと、
絶対値化後の高域成分信号を垂直方向に累積加算するステップと、
累積加算後の高域成分信号からさらに高域成分を抽出するステップと、
さらに高域成分を抽出するステップが出力する信号を、予め設定されたN点ごとにそれぞれ累積加算するステップとをさらに含む。
【0058】
上記のように、第30〜第48の発明は、第1〜第29の発明の各装置が実現する各機能を実行するためのコンピュータプログラムを記録した記録媒体である。これは、既存の装置に対し、第1〜第29の発明を、ソフトウエアの形態で供給することに対応させたものである。
【0059】
【発明の実施の形態】
以下、本発明におけるブロックノイズ検出装置およびブロックノイズ除去装置を、各機能ブロックごとに順に説明する。
【0060】
(第1の実施形態)
図1は、本発明の第1の実施形態に係るブロックノイズ検出装置の構成を示すブロック図である。図1において、第1の実施形態に係るブロックノイズ検出装置10は、垂直ハイパスフィルタ(以下、垂直HPFと記す)11と、水平ハイパスフィルタ(以下、水平HPFと記す)12と、絶対値化部13および14と、水平累積加算部15と、垂直累積加算部16と、垂直ピーク検出部17と、水平ピーク検出部18と、2値化部19とを備える。
【0061】
図2は、図1の垂直HPF11、水平HPF12、絶対値化部13,14、水平累積加算部15および垂直累積加算部16における動作を説明する図である。図3は、図1の水平ピーク検出部18(および、垂直ピーク検出部17)が行う動作の一例を説明する図である。なお、図3(a)は、垂直累積加算部16が出力する水平1次元信号115を、図3(b)は、水平ピーク検出部18が出力する水平ピーク位置122を表している。
図4は、図1の2値化部19が行う動作を説明する図である。なお、図4(a)は、水平ピーク位置122および水平2値画像124を、図4(b)は、垂直ピーク位置123および垂直2値画像125を、図4(c)は、2値化部19が出力するブロック境界画像103を表している。
以下、図1〜図4を参照して、本発明の第1の実施形態に係るブロックノイズ検出装置10が行う動作を順に説明する。
【0062】
映像信号は、一般に、水平/垂直/時間の3次元で構成された動画像データを1次元に配置した信号である。本発明における映像信号101は、上記映像信号に基づいて得られる、1フレーム時間単位の水平方向/垂直方向に関する2次元映像信号である1フレーム画像112であり、一定レートで送られる信号である。この1フレーム画像112は、図2に示すように、各ブロック画像113が水平・垂直方向に一様に配置されて構成されており、双方向にそれぞれブロックノイズ114を含んでいる。また、ブロックノイズ114は、図2に示すように水平および垂直方向に対して周期的に出現する。この映像信号101は、垂直HPF11および水平HPF12にそれぞれ入力される。
【0063】
垂直HPF11は、映像信号101を入力し、垂直方向に関して高域成分のみを抽出する。絶対値化部13は、垂直HPF11が出力する信号を入力し、絶対値を取って正の値に変換する。水平累積加算部15は、絶対値化部13が出力する信号を入力し、累積加算して垂直周期的にピーク値を持った垂直1次元信号116を出力する。一方、水平HPF12は、映像信号101を入力し、水平方向に関して高域成分のみを抽出する。絶対値化部14は、水平HPF12が出力する信号を入力し、絶対値を取って正の値に変換する。垂直累積加算部16は、絶対値化部14が出力する信号を入力し、累積加算して水平周期的にピーク値を持った水平1次元信号115を出力する。
【0064】
水平ピーク検出部18は、垂直累積加算部16が出力する水平1次元信号115に基づいて、水平ピーク位置を検出する。この水平ピーク検出部18が行う水平ピーク位置検出動作の一例を、図3を用いて説明する。
まず、水平ピーク検出部18は、水平1次元信号115からブロック境界が3箇所含まれる任意の画素範囲(例えば、ブロックサイズが8の場合は、30画素程度)の検出領域119を選択する(図3(a))。次に、水平ピーク検出部18は、選択した検出領域119内の累積加算レベルの大きい上位3つのデータをピーク位置として検出する。この検出したピーク位置の差が、水平方向のブロックサイズとなる。以下、水平ピーク検出部18は、水平方向のブロックサイズ間隔で検出領域119を水平方向に対して左右に移動してそれぞれのピーク位置を検出し、図3(b)に示すような水平ピーク位置122を求める。
【0065】
垂直ピーク検出部17は、水平累積加算部15が出力する垂直1次元信号116に基づいて、垂直ピーク位置を検出する。なお、この垂直ピーク検出部17が行う垂直ピーク位置検出動作は、上述した水平ピーク検出部18が行う水平ピーク位置検出動作と同様であり、その説明を省略する。垂直ピーク検出部17は、図4(b)に示すような垂直ピーク位置123を求める。
【0066】
ところで、映像信号101のフォーマットがインタレース方式である場合、水平累積加算部15が出力する垂直1次元信号116のピーク位置が、偶数フィールドと奇数フィールドとで異なる場合が発生する。この場合、偶数フィールドと奇数フィールドとを区別せずに、垂直ピーク検出部17が上述したピーク位置検出を行うと、正確な垂直ピーク位置123を求めることができない。そのため、垂直ピーク検出部17は、外部から映像信号101に関するフォーマット識別信号102を入力し、フォーマットがインタレース方式であると判断した場合には、偶数フィールドおよび奇数フィールドの各々に関し、個別にピーク位置検出を行って各フィールドに対する垂直ピーク位置123をそれぞれ求める。
【0067】
2値化部19は、水平ピーク検出部18が出力する水平ピーク位置122と、垂直ピーク検出部17が出力する垂直ピーク位置123とを入力する。2値化部19は、水平ピーク位置122に従ってピークが存在する画素位置に論理値「1」を、それ以外の画素位置に論理値「0」を与え、1フレーム画像112と同一サイズの水平2値画像124を生成する(図4(a))。また、2値化部19は、垂直ピーク位置123に従ってピークが存在する画素位置に論理値「1」を、それ以外の画素位置に論理値「0」を与え、1フレーム画像112と同一サイズの垂直2値画像125を生成する(図4(b))。そして、2値化部19は、水平2値画像124と垂直2値画像125との論理和をとって、ブロック境界画像103を求める(図4(c))。
このブロック境界画像103で論理値「1」の部分がブロック境界部分であり、すなわち、ブロックノイズ114が発生する箇所である。
【0068】
以上のように、本発明の第1の実施形態に係るブロックノイズ検出装置10によれば、複数のブロックに領域分割される画像のブロック境界(ブロック境界画像103)を正確に検出することができる。また、インタレース方式のフォーマットの映像信号101に対しても、ブロック画像113の周期性を損なうことなく、ブロックノイズ114の正確な検出が可能となる。
【0069】
(第2の実施形態)
図5は、本発明の第2の実施形態に係るブロックノイズ検出装置の構成を示すブロック図である。図5において、第2の実施形態に係るブロックノイズ検出装置20は、垂直HPF11と、水平HPF12と、絶対値化部13および14と、水平累積加算部15と、垂直累積加算部16と、垂直ピーク検出部17と、水平ピーク検出部18と、2値化部19と、フレーム差分部21と、フレームメモリ22と、2値化部23と、特異点除去部24と、ブロックエッジ制御部(以下、BE制御部と記す)25とを備える。
なお、第2の実施形態に係るブロックノイズ検出装置20における垂直HPF11,水平HPF12,絶対値化部13および14,水平累積加算部15,垂直累積加算部16,垂直ピーク検出部17,水平ピーク検出部18,2値化部19の構成は、上記第1の実施形態に係るブロックノイズ検出装置10の構成と同様であり、当該構成については同一の参照番号を付して説明を省略する。
【0070】
図6は、図5の特異点除去部24が行う動作の一例を説明する図である。なお、図6(a)は、2値化部23が出力する特異点除去処理を行う前の画像233を、図6(b)は、特異点除去部24が出力する特異点除去処理を行った後の画像234を表している。
図7は、図5のBE制御部25が行う動作の一例を説明する図である。なお、図8(a)は、2値化部19が出力するブロック境界画像103を、図8(b)は、特異点除去部24が出力する特異点除去後の画像234を、図8(c)は、BE制御を行った後の画像235を表している。
以下、図5〜図7を参照して、本発明の第2の実施形態に係るブロックノイズ検出装置20が行う動作を順に説明する。
【0071】
映像信号101は、フレーム差分部21に入力される。まず、フレーム差分部21は、入力される映像信号101に対し、フレームメモリ22に記憶した1フレーム前の映像信号101との信号レベル差を、差分値として算出する。なお、フレーム差分部21は、初期状態においては(ブロックノイズ検出装置20の起動後等のフレームメモリ22に何も記憶していない状態)、フレームメモリ22への記憶だけを行う。次に、フレーム差分部21は、算出した差分値が予め定めたしきい値以上であるか否かを判断し、しきい値以上の差分値のみを2値化部23へ出力する。従って、このフレーム差分部21の処理により、映像信号101の中で動きの多いシーン部分のみが出力されることとなる。なお、上記しきい値のレベルは、所望する画像品質に基づいて、任意に設定することができる。
そして、2値化部23への差分値の出力が終わると、フレーム差分部21は、現在フレームの映像信号101をフレームメモリ22に記憶する。以後、フレーム差分部21は、次のフレームが入力されるごとに、上述した処理を繰り返す。
【0072】
2値化部23は、フレーム差分部21が出力する差分値を入力する。そして、2値化部23は、1フレーム画像112の中で差分値が存在する画素位置(特異点)を論理値「1」に、差分値が存在しない画素位置を論理値「0」に、2値化する。これにより、図6(a)に示す特異点除去前の画像233が得られる。なお、図6(a)中、網掛け部分が論理値「1」の画素位置にあたる。
【0073】
特異点除去部24は、2値化部23から特異点除去前の画像233(図6(a))を、2値化部19からブロックサイズを入力する。そして、特異点除去部24は、特異点除去前の画像233の内、1ブロックサイズ(図6中、波線で示す領域)以下の細かい領域に分布する論理値「1」のデータを除去する。これにより、図6(b)に示す特異点除去後の画像234が得られる。
このような特異点データの除去を行うのは、次の理由による。特異点除去前の画像233の細かい領域は、後段の処理で行うノイズ除去を行っても除去効果が現れにくく、逆にノイズ除去によってデータを平滑化してしまい、画像をぼかしてしまう。従って、これらの細かい領域を特異点として除去する方が、より高画質を得られるからである。
この特異点除去部24により、フレーム差分処理の効果を高めることが可能となり、同時にデータ量を削減することも可能となる。
【0074】
BE制御部25は、2値化部19が出力するブロック境界画像103(図7(a))と、特異点除去部24が出力する特異点除去後の画像234(図7(b))とを入力する。そして、BE制御部25は、各画素ごとに、ブロック境界画像103と特異点除去後の画像234との論理積をとる。こうして得た画像が、図7(c)のBE制御画像235であり、このBE制御画像235内の各画素値がブロックエッジ信号(以下、BE信号と記す)203である。従って、BE信号203は、ブロック境界であって、かつ、ブロックノイズレベルの高いという情報を含んだ信号となる。
【0075】
以上のように、本発明の第2の実施形態に係るブロックノイズ検出装置20によれば、上記第1の実施形態に係るブロックノイズ検出装置10よりも、さらに細かくブロックノイズを含んだ画像の動きの大きさとの相関によってブロック境界(ブロック境界画像103)の分類が可能となる。この結果、映像シーンにあった、ブロックノイズの大きい部分のみをブロック境界として検出することができる。
【0076】
(第3の実施形態)
図8は、本発明の第3の実施形態に係るブロックノイズ除去装置の構成を示すブロック図である。図8において、第3の実施形態に係るブロックノイズ除去装置30は、フォーマット識別回路31と、ブロックノイズ検出装置20と、ブロックノイズ除去回路32とを備える。
なお、第3の実施形態に係るブロックノイズ除去装置30におけるブロックノイズ検出装置20の構成は、上記第2の実施形態に係るブロックノイズ検出装置20の構成と同様であり、当該構成については同一の参照番号を付して説明を省略する。
【0077】
図9は、図8のフォーマット識別回路31の構成の一例を示すブロック図である。図9において、フォーマット識別回路31は、倍速Hパルス生成部311と、ビットカウンタ312とを備える。
図10は、図8のブロックノイズ除去回路32の構成の一例を示すブロック図である。図10において、ブロックノイズ除去回路32は、平滑化処理部321と、セレクタ322とを備える。
図11は、図8のブロックノイズ除去回路32が行う平滑化処理の一例を説明する図である。なお、図11(a)は、平滑化処理(ブロックノイズ除去)前、図11(b)は、平滑化処理後の状態を表している。
以下、図8〜図11を参照して、本発明の第3の実施形態に係るブロックノイズ除去装置30が行う動作を順に説明する。
【0078】
ブロックノイズ検出装置20は、入力する映像信号101から上述したようにBE信号203を出力する。ここで、ブロックノイズ検出装置20に入力される映像信号101としては、輝度信号(Y信号)が最も好ましい。このY信号は、例えば、赤,緑,青(RGB)で構成されたデコード映像信号を、マトリクス回路を用いて輝度・色差で構成されたYUV信号に変換し、そのうちY信号のみを抽出すれば得ることができる(周知の技術である)。
【0079】
図9を参照して、フォーマット識別回路31は、テレビ信号の内、水平方向の同期パルス(以下、Hパルスと記す)301と、垂直方向の同期パルス(以下、Vパルスと記す)302とを入力する。倍速Hパルス生成部311は、Hパルス301を入力し、Hパルス301の2倍の周波数を持つ倍速Hパルスを生成する。ビットカウンタ312は、倍速Hパルス生成部311が出力する倍速HパルスとVパルス302とを入力し、Vパルス302をリセット信号に用いて、倍速Hパルスの発生回数をカウントする。すなわち、ビットカウンタ312は、Vパルス302が発生する周期(V期間)で倍速Hパルスをカウントする。そして、ビットカウンタ312は、V期間ごとにカウントした値の最下位ビットを、フォーマット識別信号102としてブロックノイズ検出装置20へ出力する。
【0080】
このようにして、フォーマット識別信号102を生成することができるのは、以下の理由による。
本来、インタレース方式では、V期間中のライン数が262.5本存在する。このため、インタレース方式の場合、ビットカウンタ312は、倍速Hパルスを用いて2倍の525回のカウントを行うことになる。一方、プログレッシブ方式では、V期間中のライン数が262本あるいは263本存在する。このため、プログレッシブ方式の場合、ビットカウンタ312は、倍速Hパルスを用いて2倍の524回あるいは526回のカウントを行うことになる。従って、ビットカウンタ312がV期間ごとにカウントした値の最下位ビットの偶奇判定を行うことで、奇数(すなわち「5」)だとインタレース方式と、偶数(すなわち「4」か「6」)だとプログレッシブ方式と識別できるのである。
なお、具体的には、ビットカウンタ312が出力するフォーマット識別信号102は、論理値「1」(インタレース方式)および論理値「0」(プログレッシブ方式)を示すバイナリ信号で出力される。
【0081】
図10を参照して、ブロックノイズ除去回路32は、映像信号101と、ブロックノイズ検出装置20が出力するBE信号203とを入力する。平滑化処理部321は、映像信号101を入力し、信号の平滑化を行う。セレクタ322は、平滑化処理部321が出力する平滑化処理後の映像信号と、入力されるそのままの映像信号101と、BE信号203とを入力する。そして、セレクタ322は、BE信号203が(ブロックノイズが存在する)論理値「1」である画素については、平滑化処理した信号を選択し、BE信号203が(ブロックノイズが存在しない)論理値「0」である画素については、平滑化しない映像信号101そのものを選択して出力する。このように、本発明のブロックノイズ除去回路32は、BE信号203を用いて、ブロックノイズを軽減すると同時に映像信号のエッジをもぼけさせてしまう平滑化処理を、ブロックノイズが存在するブロック境界だけで行う。
このセレクタ322が選択して出力した信号は、ブロックノイズ除去信号303として出力される。
【0082】
図11に、平滑化処理部321が行う平滑化の一例を示す。なお、図11においては、タップ数が「3」で、重みがそれぞれ1/3,1/3,1/3のローパスフィルタ(以下、LPFと記す)での平滑化を示している。
図11(a)において、BE信号の論理値「1」であるブロック境界を平滑化する場合には、隣接するブロックAの右端の画素aとブロックBの左端の画素bの2画素が抽出され、平滑化される。この結果、図11(b)に示すように、ブロック境界部分での画素の格差をなくすことが可能となる。なお、平滑化の効果を強く出す場合、平滑化処理部321において抽出する画素を2画素以上に設定したり、LPFのタップ数を多くすると平滑化の効果が向上する。
【0083】
なお、セレクタ322が出力するブロックノイズ除去信号303がY信号である場合は、上述したマトリクス回路で変換したUV信号とともに、逆マトリクス回路を用いてRGB信号に戻すことで、ブロックノイズを除去した出力映像信号を得ることができる(周知の技術である)。
【0084】
以上のように、本発明の第3の実施形態に係るブロックノイズ除去装置30によれば、上記第2の実施形態で検出したBE信号203をブロックノイズ除去に使用することにより、映像シーンに付随したブロックノイズを効果的に除去することができる。
【0085】
なお、上記第3の実施形態においては、ブロックノイズ除去装置30を構成するブロックノイズ検出装置として、上記第2の実施形態に係るブロックノイズ検出装置20を用いたが、これに代えて上記第1の実施形態に係るブロックノイズ検出装置10を用いることも勿論可能である。
【0086】
(第4の実施形態)
図12は、本発明の第4の実施形態に係るブロックノイズ除去装置の構成を示すブロック図である。図12において、第4の実施形態に係るブロックノイズ除去装置40は、水平ブロック境界検出部41と、垂直ブロック境界検出部42と、ブロックエリア検出部43と、ブロック境界平滑化部44と、輪郭補正部45とを備える。
【0087】
図13は、図12の水平ブロック境界検出部41のさらに詳細な構成を示すブロック図である。図13において、水平ブロック境界検出部41は、水平HPF411と、絶対値化部412と、垂直累積加算部413と、ハイパスフィルタ(以下、HPFと記す)414と、テンポラルフィルタ415と、N点累積加算部416と、マスク化部417と、最大値検出部418とを備える。
図14は、図12の垂直ブロック境界検出部42のさらに詳細な構成を示すブロック図である。図14において、垂直ブロック境界検出部42は、垂直HPF421と、絶対値化部422と、水平累積加算部423と、HPF424と、テンポラルフィルタ425と、N点累積加算部426と、マスク化部427と、最大値検出部428とを備える。
図15は、図12のブロック境界平滑化部44のさらに詳細な構成を示すブロック図である。図15において、ブロック境界平滑化部44は、水平HPF441と、垂直HPF442と、乗算部443,444と、減算部445,446とを備える。
図16は、図12の輪郭補正部45のさらに詳細な構成を示すブロック図である。図16において、輪郭補正部45は、水平HPF451と、垂直HPF452と、減算部453,454と、乗算部455,456と、加算部457,458とを備える。
以下、図12〜図16を参照して、本発明の第4の実施形態に係るブロックノイズ除去装置40が行う動作を順に説明する。
【0088】
水平ブロック境界検出部41は、水平方向のブロックノイズレベルおよびブロック境界を検出する。
図13において、水平HPF411は、映像信号101を入力し、水平方向に関して高域成分のみを抽出する。絶対値化部412は、水平HPF411が出力する信号を入力し、絶対値を取って正の値に変換する。垂直累積加算部413は、絶対値化部412が出力する信号を入力し、累積加算して水平周期的にピーク値を持った水平1次元信号115を出力する(図2を参照)。HPF414は、垂直累積加算部413が出力する信号の精度をさらに上げる目的で再び高域成分を抽出し、水平ブロックノイズレベルを検出する。テンポラルフィルタ415は、HPF414が出力する水平ブロックノイズレベルを、時間方向に引き延ばす処理を行う。N点累積加算部416は、予め設定されたN点(Nは、ブロックの画素数)ごとのノイズ、すなわち、各ブロックの同一画素位置にあるノイズの累積加算を求め、それぞれ出力する。最大値検出部418は、水平方向のN点の最大値とブロック境界とを求める。ここで、最大値検出部418は、例えば、MPEG2方式における8(画素)×8(ライン)の周期で出現するブロックノイズの場合、N点累積加算部416のN値を「8」にして、水平ブロック境界を求める。マスク化部417は、テンポラルフィルタ415が出力する水平ブロックノイズレベルに対し、最大値検出部418で求められた水平ブロック境界でマスク処理を行い、当該水平ブロック境界に存在する水平ブロックノイズレベルだけを出力する。
なお、水平ブロックノイズ検出の精度を上げるために、水平HPF411または絶対値化部412の出力信号に、小振幅信号のみを通過させるコアリング装置を挿入してもよい。
【0089】
垂直ブロック境界検出部42は、水平ブロック境界検出部41と同様に、垂直方向のブロックノイズレベルおよびブロック境界を検出する。
図14において、垂直HPF421は、映像信号101を入力し、垂直方向に関して高域成分のみを抽出する。絶対値化部422は、垂直HPF421が出力する信号を入力し、絶対値を取って正の値に変換する。水平累積加算部423は、絶対値化部422が出力する信号を入力し、累積加算して垂直周期的にピーク値を持った垂直1次元信号116を出力する(図2を参照)。HPF424は、水平累積加算部423が出力する信号の精度をさらに上げる目的で再び高域成分を抽出し、垂直ブロックノイズレベルを検出する。テンポラルフィルタ425は、HPF424が出力する垂直ブロックノイズレベルを、時間方向に引き延ばす処理を行う。N点累積加算部426は、予め設定されたN点ごとのノイズの累積加算を求め、それぞれ出力する。累積加算を求める。最大値検出部428は、垂直方向のN点の最大値とブロック境界とを求める。ここで、最大値検出部428は、例えば、同様にMPEG2方式における8×8の周期で出現するブロックノイズの場合、N点累積加算部426のN値を「8」にして、垂直ブロック境界を求める。マスク化部427は、テンポラルフィルタ425が出力する垂直ブロックノイズレベルに対し、最大値検出部428で求められた垂直ブロック境界でマスク処理を行い、当該垂直ブロック境界に存在する垂直ブロックノイズレベルだけを出力する。
なお、上記と同様に、垂直ブロックノイズ検出の精度を上げるために、垂直HPF421または絶対値化部422の出力信号に、小振幅信号のみを通過させるコアリング装置を挿入してもよい。
【0090】
ブロックエリア検出部43は、水平ブロック境界検出部41および垂直ブロック境界検出部42が出力する水平/垂直方向のブロックノイズレベル、N点ブロックノイズレベルおよびブロック境界の各信号から、画面全体のどの位置にどの程度のブロックノイズが出現しているかを検出する。
【0091】
ブロック境界平滑化部44は、ブロックエリア検出部43から出力される水平/垂直方向のブロックノイズレベル信号に応じて、映像信号の平滑化を行う。
図15を参照して、ブロック境界平滑化部44は、入力する映像信号101から水平HPF441で水平方向の高域成分を抽出する。そして、ブロック境界平滑化部44は、抽出した水平高域成分と水平ブロックノイズレベルとを乗算部443で乗算して、減算部445で映像信号101から減算する。また、垂直方向も同様であり、ブロック境界平滑化部44は、入力する映像信号101から垂直HPF442で垂直方向の高域成分を抽出する。そして、ブロック境界平滑化部44は、抽出した垂直高域成分と垂直ブロックノイズレベルとを乗算部444で乗算して、減算部446で映像信号101から減算する。
これにより、水平/垂直方向のブロックノイズレベルが大きいほど、映像信号101に対して、大きな平滑化処理を行うことができる。
【0092】
輪郭補正部45は、ブロックエリア検出部43から出力される水平/垂直方向のブロックノイズレベル信号に応じて、輪郭補正のゲイン/コアリング量等を変化させる。
図16を参照して、輪郭補正部45は、入力する映像信号101から水平HPF451で水平方向の高域成分を抽出する。そして、輪郭補正部45は、水平輪郭補正の設定値から水平ブロックノイズレベルを減算部453で減算し、抽出した水平高域成分と水平ブロックノイズレベルとを乗算部455で乗算した後、加算部457で映像信号101と加算する。また、垂直方向も同様であり、輪郭補正部45は、入力する映像信号101から垂直HPF452で垂直方向の高域成分を抽出する。そして、輪郭補正部45は、垂直輪郭補正の設定値から垂直ブロックノイズレベルを減算部454で減算し、抽出した水平高域成分と水平ブロックノイズレベルをと乗算部456で乗算した後、加算部458で映像信号101と加算する。
これにより、水平/垂直方向のブロックノイズレベルが大きいほど、映像信号101に対して、水平/垂直輪郭補正のゲインを下げ、ブロックノイズを強調しない輪郭補正を行うことができる。
【0093】
なお、典型的には、本発明の第4の実施形態に係るブロックノイズ除去装置40の各構成が行う処理は、CPU(中央演算処理装置)によって制御される。この場合、N点累積加算部416,426の出力結果をCPUに送出して、CPUでブロック境界の位置を検出し、CPUからマスク化部417,427の制御を行ってもよい。また、検出したブロックノイズレベルとブロック境界をCPUに送出し、CPUの指示により画面全体の輪郭補正の補正量やノイズ除去レベル等の制御を行ってもよい。さらに、ブロックノイズが検出されると、画面上に「DVD/DVC/デジタル」等の入力ソースの種類の判別結果や映像信号(例えば、MPEG)の品位を、オンスクリーンディスプレイ(以下、OSDと記す)表示することもできる。
【0094】
以上のように、本発明の第4の実施形態に係るブロックノイズ除去装置40によれば、ブロック境界およびブロックノイズレベルを正確に検出することができる。これにより、ブロックノイズレベルに対応した適切な平滑化および輪郭補正を行うことが可能となり、映像シーンに付随したブロックノイズをより効果的に除去することが可能となる。また、情報をOSD表示することで、映像ソースやブロックノイズ除去効果を、一目で認識することが可能となる。
【0095】
(第5の実施形態)
上記第4の実施形態に係るブロックノイズ除去装置を、例えば、テレビジョンシステム等に用いた場合、入力する映像信号101として、通常のテレビ映像信号の他に、外部端子から入力される信号形態が異なる映像信号も存在する。
そこで、第5の実施形態は、複数の異なる信号形態の入力映像信号に対応するブロックノイズ除去装置を提供するものである。
【0096】
図17は、本発明の第5の実施形態に係るブロックノイズ除去装置の構成を示すブロック図である。図17において、第5の実施形態に係るブロックノイズ除去装置50は、ADコンバータ51と、デジタル復号化部52と、セレクタ53と、水平ブロック境界検出部54と、垂直ブロック境界検出部55と、ブロックエリア検出部43と、ブロック境界平滑化部44と、輪郭補正部45とを備える。
【0097】
図18は、図17の水平ブロック境界検出部54のさらに詳細な構成を示すブロック図である。図18において、水平ブロック境界検出部54は、水平HPF411と、絶対値化部412と、垂直累積加算部413と、HPF414と、テンポラルフィルタ415と、N点累積加算部416と、マスク化部417と、最大値検出部418と、セレクタ541とを備える。
図19は、図17の垂直ブロック境界検出部55のさらに詳細な構成を示すブロック図である。図19において、垂直ブロック境界検出部55は、垂直HPF421と、絶対値化部422と、水平累積加算部423と、HPF424と、テンポラルフィルタ425と、N点累積加算部426と、マスク化部427と、最大値検出部428と、セレクタ551とを備える。
【0098】
なお、第5の実施形態に係るブロックノイズ除去装置50におけるブロックエリア検出部43,ブロック境界平滑化部44および輪郭補正部45の各構成は、上記第4の実施形態に係るブロックノイズ除去装置40の構成と同様であり、当該構成については同一の参照番号を付して説明を省略する。
また、水平ブロック境界検出部54は、上記第4の実施形態で述べた水平ブロック境界検出部41の構成にセレクタ541を加えた構成であり、垂直ブロック境界検出部55は、上記第4の実施形態で述べた垂直ブロック境界検出部42の構成にセレクタ551を加えた構成であるので、同一の構成部分については同一の参照番号を付して説明を省略する。
以下、図17〜図19を参照して、本発明の第5の実施形態に係るブロックノイズ除去装置50が行う動作を順に説明する。
【0099】
ADコンバータ51には、アナログの映像信号501が入力される。デジタル復号化部52には、例えば、IEEE1394規格で接続されるMPEGストリームやDVフォーマット等のデジタルの映像信号502が入力される。ADコンバータ51は、入力するアナログの映像信号501をデジタルに変換して、セレクタ53へ出力する。デジタル復号化部52は、入力するデジタルの映像信号502を復号して、セレクタ53へ出力する。このデジタル復号化部52は、映像信号502がいくつのブロックサイズでデコードされているかというブロック情報信号521,522(すなわち、ブロック境界)を出力できる。
【0100】
セレクタ53は、ユーザの指示に従って、入力する2つのデジタル映像信号のいずれか1つを選択し、映像信号101として出力する。ここで、このセレクタ53は、どちらのデジタル映像信号を選択出力したかを示す受信パルス531を出力する。例えば、ADコンバータ51の出力(入力は、DVDのアナログ信号とする)を選択した場合には論理値「0」を、デジタル復号化部52の出力(入力は、デジタルビデオカメラ(DVD)のデジタル信号とする)を選択した場合には論理値「1」を、受信パルス531として出力する。この受信パルス531は、例えば、何を入力したかをOSD表示する情報として利用できる。例えば、上記例では「DVD」や「DVC」という文字を、テレビ画面上にOSD表示することができる。
セレクタ53で選択された映像信号101およびデジタル復号化部52から出力されるブロック情報信号521,522は、水平ブロック境界検出部54および垂直ブロック境界検出部55にそれぞれ入力される。
【0101】
水平ブロック境界検出部54は、基本的に上述したように、水平方向のブロックノイズレベルおよびブロック境界の検出を行うが、最大値検出部418は、求めた水平ブロック境界をセレクタ541に出力する。このセレクタ541は、最大値検出部418が出力する水平ブロック境界と、デジタル復号化部52が出力するブロック情報信号521とを入力する。そして、セレクタ541は、与えられるユーザ指示(セレクタ53へのユーザ指示に同期する)に従って、セレクタ53がADコンバータ51の出力信号を選択した場合には、最大値検出418が求めた水平ブロック境界を、セレクタ53がデジタル復号化部52の出力信号を選択した場合には、ブロック情報信号521として与えられる水平ブロック境界を、選択して出力する。
【0102】
同様に、垂直ブロック境界検出部55は、基本的に上述したように、垂直方向のブロックノイズレベルおよびブロック境界の検出を行うが、最大値検出部428は、求めた垂直ブロック境界をセレクタ551に出力する。このセレクタ551は、最大値検出部428が出力する垂直ブロック境界と、デジタル復号化部52が出力するブロック情報信号522とを入力する。そして、セレクタ551は、与えられるユーザ指示(セレクタ53へのユーザ指示に同期する)に従って、セレクタ53がADコンバータ51の出力信号を選択した場合には、最大値検出428が求めた垂直ブロック境界を、セレクタ53がデジタル復号化部52の出力信号を選択した場合には、ブロック情報信号522として与えられる垂直ブロック境界を、選択して出力する。
【0103】
これにより、ブロック境界が判断できないアナログの映像信号501が入力された場合には、水平ブロック境界検出部54および垂直ブロック境界検出部55で求めたブロック境界を用いてブロックノイズの除去を行い、ブロック境界が判断できる(与えられる)デジタルの映像信号502が入力された場合には、その与えられるブロック境界を用いてブロックノイズの除去を行うことが可能となる。
【0104】
以上のように、本発明の第5の実施形態に係るブロックノイズ除去装置50によれば、入力する映像信号に対応したブロック境界およびブロックノイズレベルを正確に検出することができる。これにより、ブロックノイズレベルに対応した適切な平滑化および輪郭補正を行うことがさらに可能となり、映像シーンに付随したブロックノイズをより効果的に除去することが可能となる。また、情報をOSD表示することで、映像ソースやブロックノイズ除去効果を、一目で認識することが可能となる。
【0105】
(第6の実施形態)
ところで、映像信号の画質劣化を引き起こす要因としては、上述してきたブロックノイズ以外に、ドットクロックの再生不良が挙げられる。このドットクロックの再生不良は、周知のように、アナログの映像信号をデジタルの映像信号に変換する場合、本来アナログ映像信号でサンプリングしたクロック位相と、デジタル化した後の映像信号でサンプリングしたクロック位相とが、ずれを生じるために起こるものである。
そこで、本発明の第6の実施形態は、上述したブロック境界検出を行う手法を用いて、正確なドットクロック再生をも可能にするものである。
【0106】
図20は、本発明の第6の実施形態に係るブロック検出装置を用いた映像処理システムの構成の一例を示すブロック図である。図20において、第6の実施形態に係るブロック検出装置を用いた映像処理システム60は、ADコンバータ61と、映像信号処理装置62と、DAコンバータ63と、水平ブロック境界検出部64と、クロック発生装置65と、制御部66とを備える。クロック発生装置65は、位相比較器651と、LPF652と、VCO653と、可変ディレイ654と、分周器655とを備える。
【0107】
図21は、図20の水平ブロック境界検出部64のさらに詳細な構成を示すブロック図である。図21において、水平ブロック境界検出部64は、水平HPF641と、絶対値化部642と、垂直累積加算部643と、HPF644と、N点累積加算部645とを備える。
図22は、図20の水平ブロック境界検出部64が出力する水平ブロックノイズの累積加算結果の一例を示す図である。なお、図22においては、N値を「8」にした場合の累積加算結果を示している。
図23は、映像信号601とクロック(CK)との関係を説明する図である。
以下、図20〜図23を参照して、本発明の第6の実施形態に係るブロック検出装置を用いた映像処理システム60が行う動作を順に説明する。
【0108】
まず、第6の実施形態の映像処理システム60の各構成を説明する。
ADコンバータ61は、入力するアナログ映像信号601をデジタル映像信号に変換する。映像信号処理装置62は、輪郭補正等の映像信号に関する種々の処理を行う。DAコンバータ63は、デジタル映像信号をアナログ映像信号に変換する。水平ブロック境界検出部64は、入力するデジタル映像信号から水平方向のブロック境界を検出する。クロック発生装置65は、ラインクロックのPLL回路を構成しており、各構成が処理に用いる再生クロック(CK)を生成する。なお、クロック発生装置65の各構成は、従来から一般的に用いられている周知の構成であるので、ここでの説明は省略する。制御部66は、例えば、CPU等の制御装置や水平ブロック境界検出部64の出力信号に時間的なフィルタをかけるものであり、水平ブロック境界検出部64が出力する信号に従って、クロック発生装置65を制御する。
【0109】
次に、第6の実施形態の映像処理システム60が行う処理動作を説明する。
ADコンバータ61に入力された映像信号601は、クロック発生装置65で発生された再生クロック(CK)に基づいて、デジタル映像信号に変換される。変換されたデジタル信号は、映像信号処理装置62で所望の映像信号処理が施され、DAコンバータ63でアナログ映像信号に変換される。また、変換されたデジタル映像信号は、水平ブロック境界検出64に入力され、水平ブロックノイズの累積加算処理を行い、その結果が制御部66に送られる。
【0110】
水平ブロック境界検出部64において、水平HPF641は、映像信号601を入力し、水平方向に関して高域成分のみを抽出する。絶対値化部642は、水平HPF641が出力する信号を入力し、絶対値を取って正の値に変換する。垂直累積加算部643は、絶対値化部642が出力する信号を入力し、累積加算して水平周期的にピーク値を持った水平1次元信号115を出力する(図2を参照)。HPF644は、垂直累積加算部643が出力する信号の精度をさらに上げる目的で再び高域成分を抽出し、水平ブロックノイズレベルを検出する。N点累積加算部645は、予め設定されたN点(Nは、ブロックの画素数)ごとのノイズ、すなわち、各ブロックの同一画素位置にあるノイズの累積加算を求め、それぞれ出力する。ここで、N点累積加算部645は、例えば、MPEG2方式における8(画素)×8(ライン)の周期で出現するブロックノイズの場合、N値を「8」にして水平ブロック境界を求め、制御部66に出力する。
なお、水平ブロックノイズ検出の精度を上げるために、水平HPF641または絶対値化部642の出力信号に、小振幅信号のみを通過させるコアリング装置を挿入してもよい。
【0111】
次に、図22および図23を用いて、ドットクロック制御の動作説明を行う。
まず、ドットクロック再生が上手く行われていない(すなわち、本来の映像信号601のドットクロックと再生クロック(CK)とが一致していない)場合、映像信号(図23(a))に対してサンプリングクロックの位相がずれる(図23(b))。この場合、N点累積加算部645が制御部66に出力するN点の累積加算結果は、図22(a)のように複数の点で高いレベルが存在する結果となる(同図においては、4と5の2つの位置)。
一方、ドットクロック再生が上手く行われている(すなわち、本来の映像信号601のドットクロックと再生クロック(CK)とが一致している)場合、映像信号(図23(a))に対してサンプリングクロックの位相がずれない(図23(c))。この場合、N点累積加算部645が制御部66に出力するN点の累積加算結果は、図22(b)のように高いレベルが1つだけ存在する結果となる(同図においては、5の位置)。
【0112】
このことから、制御部66は、N点累積加算部645が出力するN点の累積加算結果が、高いレベルが1つだけ存在する結果となるように、クロック発生装置65における可変ディレイ654のディレイ量を変化させる帰還制御を行う。従って、入力する映像信号601がサンプリングされていたクロック位相を、映像処理システム60において正確に再生することが可能となる。
【0113】
以上のように、本発明の第6の実施形態に係るブロック検出装置を用いた映像処理システム60によれば、入力する映像信号に対応した水平ブロック境界を検出し、この位置に基づいてドットクロックの再生を行う。これにより、本来の映像信号のドットクロックと位相が一致したクロックを、正確に再生することが可能となる。
【0114】
なお、典型的なハードウェア環境では、上記第1〜第6の実施形態に係るブロックノイズ検出装置10,20およびブロックノイズ除去装置30,40,50および映像処理システム60が実現する各機能は、所定のプログラムデータが格納された記憶装置(ROM,RAM,ハードディスク等)と、当該プログラムデータを実行するCPUとによって実現される。この場合、各プログラムデータは、CD−ROMやフロッピーディスク等の記録媒体を介して導入されてもよい。
【図面の簡単な説明】
【図1】本発明の第1の実施形態に係るブロックノイズ検出装置10の構成を示すブロック図である。
【図2】図1の垂直HPF11、水平HPF12、絶対値化部13,14、水平累積加算部15および垂直累積加算部16における動作を説明する図である。
【図3】図1の水平ピーク検出部18(および、垂直ピーク検出部17)が行う動作の一例を説明する図である。
【図4】図1の2値化部19が行う動作を説明する図である。
【図5】本発明の第2の実施形態に係るブロックノイズ検出装置20の構成を示すブロック図である。
【図6】図5の特異点除去部24が行う動作の一例を説明する図である。
【図7】 図5のBE制御部25が行う動作の一例を説明する図である。
【図8】本発明の第3の実施形態に係るブロックノイズ除去装置30の構成を示すブロック図である。
【図9】図8のフォーマット識別回路31の構成の一例を示すブロック図である。
【図10】図8のブロックノイズ除去回路32の構成の一例を示すブロック図である。
【図11】図8のブロックノイズ除去回路32が行う平滑化処理の一例を説明する図である。
【図12】本発明の第4の実施形態に係るブロックノイズ除去装置40の構成を示すブロック図である。
【図13】図12の水平ブロック境界検出部41の構成の一例を示すブロック図である。
【図14】図12の垂直ブロック境界検出部42の構成の一例を示すブロック図である。
【図15】図12のブロック境界平滑化部44の構成の一例を示すブロック図である。
【図16】図12の輪郭補正部45の構成の一例を示すブロック図である。
【図17】本発明の第5の実施形態に係るブロックノイズ除去装置50の構成を示すブロック図である。
【図18】図17の水平ブロック境界検出部54の構成の一例を示すブロック図である。
【図19】図17の垂直ブロック境界検出部55の構成の一例を示すブロック図である。
【図20】 本発明の第6の実施形態に係る映像処理システム60の構成を示すブロック図である。
【図21】図20の水平ブロック境界検出部64の構成の一例を示すブロック図である。
【図22】図20の水平ブロック境界検出部64が出力する水平ブロックノイズの累積加算結果の一例を示す図である。
【図23】映像信号601とクロック(CK)との関係を説明する図である。
【図24】従来の手法におけるブロックノイズ除去の概念を説明する図である。
【符号の説明】
10,20…ブロックノイズ検出装置
11,421,442,452…垂直HPF
12,411,441,451,641…水平HPF
13,14,412,422,642…絶対値化部
15,423…水平累積加算部
16,413,643…垂直累積加算部
17…垂直ピーク検出部
18…水平ピーク検出部
19,23…2値化部
21…フレーム差分部
22…フレームメモリ
24…特異点除去部
25…BE制御部
30,40,50…ブロックノイズ除去装置
31…フォーマット識別回路
32…ブロックノイズ除去回路
41,54,64…水平ブロック境界検出部
42,55…垂直ブロック境界検出部
43…ブロックエリア検出部
44…ブロック境界平滑化部
45…輪郭補正部
51,61…ADコンバータ
52…デジタル復号化部
53,322,541,551…セレクタ
60…映像処理システム
62…映像信号処理装置
63…DAコンバータ
65…クロック発生装置
66…制御部
101…映像信号
102…フォーマット識別信号
103…ブロック境界画像
112,701…1フレーム画像
113,702…ブロック画像
114…ブロックノイズ
115…水平1次元信号
116…垂直1次元信号
119…検出領域
122…水平ピーク位置
123…垂直ピーク位置
124…水平2値画像
125…垂直2値画像
203…BE信号
233…特異点除去前画像
234…特異点除去後画像
235…BE制御画像
301…Hパルス
302…Vパルス
303,403,503…ブロックノイズ除去信号
311…倍速Hパルス生成部
312…ビットカウンタ
321…平滑化処理部
414,424,644…HPF
415,425…テンポラルフィルタ
416,426,645…N点累積加算部
417,427…マスク化部
418,428…最大値検出部
443,444,455,456…乗算部
445,446,453,454…減算部
457,458…加算部
501…アナログ外部入力信号
502…デジタル外部入力信号
521,522…ブロック情報信号
651…位相比較部
652…LPF
653…VCO
654…可変ディレイ
655…分周器
703…画素
704,705…ブロック
706…ブロック境界

Claims (3)

  1. 予め定めた画像ブロック毎に不可逆符号化処理が施されたデジタルの映像信号から、当該映像信号の復号化処理に伴って生じる垂直方向のブロックノイズを検出する装置であって、
    前記映像信号を入力し、当該映像信号の垂直高域成分のみを抽出する垂直ハイパスフィルタ(以下、HPFと記す)と、
    前記垂直HPFが出力する高域成分信号を絶対値化する絶対値化手段と、
    前記絶対値化手段が出力する絶対値化後の前記高域成分信号を、水平方向に累積加算する水平累積加算手段と、
    前記水平累積加算手段が出力する累積加算後の高域成分信号から、さらに高域成分を抽出するHPFと、
    前記HPFが出力する信号を、予め設定されたN点(Nは、正の整数)ごとにそれぞれ累積加算するN点累積加算手段と、
    前記HPFが出力する信号を、時間方向に演算して前記映像信号の前記ブロックノイズ量を検出するテンポラルフィルタと、
    前記N点累積加算手段が累積加算によって求めたN個の累積加算値の中から、最大値と当該最大値の位置とを求める最大値検出手段と、
    前記テンポラルフィルタが検出した前記ブロックノイズ量を、前記最大値検出手段が出力する前記最大値の位置でマスク化し、当該位置に対応する垂直ブロック境界を求めるマスク化手段とを備える、垂直ブロック境界検出装置。
  2. 予め定めた画像ブロック毎に不可逆符号化処理が施されたデジタルの映像信号から、当該映像信号の復号化処理に伴って生じる水平方向のブロックノイズを検出する装置であって、
    前記映像信号を入力し、当該映像信号の垂直高域成分のみを抽出する水平ハイパスフィルタ(以下、HPFと記す)と、
    前記水平HPFが出力する高域成分信号を絶対値化する絶対値化手段と、
    前記絶対値化手段が出力する絶対値化後の前記高域成分信号を、垂直方向に累積加算する垂直累積加算手段と、
    前記垂直累積加算手段が出力する累積加算後の高域成分信号から、さらに高域成分を抽出するHPFと、
    前記HPFが出力する信号を、予め設定されたN点(Nは、正の整数)ごとにそれぞれ累積加算するN点累積加算手段と、
    前記HPFが出力する信号を、時間方向に演算して前記映像信号の前記ブロックノイズ量を検出するテンポラルフィルタと、
    前記N点累積加算手段が累積加算によって求めたN個の累積加算値の中から、最大値と当該最大値の位置とを求める最大値検出手段と、
    前記テンポラルフィルタが検出した前記ブロックノイズ量を、前記最大値検出手段が出力する前記最大値の位置でマスク化し、当該位置に対応する水平ブロック境界を求めるマスク化手段とを備える、水平ブロック境界検出装置。
  3. 予め定めた画像ブロック毎に不可逆符号化処理が施されたデジタルの映像信号から、当該映像信号の復号化処理に伴って生じる垂直または水平方向のブロックノイズを検出する方法を、コンピュータ装置上で実行するためのプログラムを記録した媒体であって、
    前記映像信号の垂直または水平高域成分のみを抽出するステップと、
    前記抽出した高域成分信号を絶対値化するステップと、
    前記絶対値化後の前記高域成分信号を水平または垂直方向に累積加算するステップと、
    前記累積加算後の高域成分信号からさらに高域成分を抽出するステップと、
    前記さらに高域成分を抽出するステップが出力する信号を、予め設定されたN点(Nは、正の整数)ごとにそれぞれ累積加算するステップと、
    前記さらに高域成分を抽出するステップが出力する信号を、時間方向に演算して前記映像信号の前記ブロックノイズ量を検出するステップと、
    前記累積加算によって求めたN個の累積加算値の中から、最大値と当該最大値の位置とを求めるステップと、
    前記検出したブロックノイズ量を前記最大値の位置でマスク化し、当該位置に対応する垂直または水平ブロック境界を求めるステップとを含む動作環境を、前記コンピュータ装置上で実現するためのプログラムを記録した記録媒体。
JP13621999A 1998-05-22 1999-05-17 ブロックノイズ検出装置およびブロックノイズ除去装置 Expired - Fee Related JP4383581B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP13621999A JP4383581B2 (ja) 1998-05-22 1999-05-17 ブロックノイズ検出装置およびブロックノイズ除去装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP14088798 1998-05-22
JP10-140887 1998-05-22
JP13621999A JP4383581B2 (ja) 1998-05-22 1999-05-17 ブロックノイズ検出装置およびブロックノイズ除去装置

Publications (3)

Publication Number Publication Date
JP2000050275A JP2000050275A (ja) 2000-02-18
JP2000050275A5 JP2000050275A5 (ja) 2006-06-08
JP4383581B2 true JP4383581B2 (ja) 2009-12-16

Family

ID=26469853

Family Applications (1)

Application Number Title Priority Date Filing Date
JP13621999A Expired - Fee Related JP4383581B2 (ja) 1998-05-22 1999-05-17 ブロックノイズ検出装置およびブロックノイズ除去装置

Country Status (1)

Country Link
JP (1) JP4383581B2 (ja)

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4306061B2 (ja) * 1999-03-26 2009-07-29 日本ビクター株式会社 ブロックノイズ検出装置
JP2002204457A (ja) * 2000-12-28 2002-07-19 Matsushita Electric Ind Co Ltd 映像信号処理装置
FR2841423A1 (fr) * 2002-06-25 2003-12-26 Koninkl Philips Electronics Nv Procede de detection d'artefacts de bloc
EP1641270A4 (en) * 2003-07-02 2010-06-23 Sony Corp DEVICE AND METHOD FOR DETECTING BLOCK DEFORMATION AND DEVICE FOR PROCESSING VIDEO SIGNALS
JP4118213B2 (ja) * 2003-09-24 2008-07-16 シャープ株式会社 画像圧縮方法、画像圧縮装置、撮像装置、処理箇所特定方法、処理箇所特定器及びコンピュータプログラム
GB2418093B (en) * 2004-09-09 2007-03-28 Imagination Tech Ltd Method and apparatus for removing visible artefacts in video images
JP4475196B2 (ja) * 2005-07-21 2010-06-09 日本ビクター株式会社 ブロックノイズ検出装置及びブロックノイズ検出プログラム
DE602007000224D1 (de) 2006-04-18 2008-12-18 Pioneer Corp Vorrichtung zum Entfernen des Blockrauschens
EP1848220A3 (en) 2006-04-18 2011-09-28 Pioneer Corporation Block noise removal device
JP4749377B2 (ja) * 2006-04-18 2011-08-17 パイオニア株式会社 ブロックノイズ除去装置
JP5082549B2 (ja) * 2007-03-30 2012-11-28 ソニー株式会社 映像信号処理装置と映像信号処理方法
WO2009044498A1 (ja) * 2007-10-05 2009-04-09 Panasonic Corporation 映像表示装置
JP5130983B2 (ja) * 2008-03-25 2013-01-30 ソニー株式会社 画像処理装置および方法、並びにプログラム
JP5137687B2 (ja) 2008-05-23 2013-02-06 キヤノン株式会社 復号装置及び復号方法、プログラム
JP2010004111A (ja) * 2008-06-18 2010-01-07 Nec Electronics Corp 画像処理装置および画像処理方法並びにプログラム
WO2010073485A1 (ja) * 2008-12-22 2010-07-01 三菱電機株式会社 画像処理装置及び方法並びに画像表示装置
JP4912418B2 (ja) * 2009-01-14 2012-04-11 三菱電機株式会社 画像処理装置及び方法並びに画像表示装置
JP4994353B2 (ja) * 2008-12-22 2012-08-08 三菱電機株式会社 画像処理装置及び方法並びに画像表示装置
JP4994354B2 (ja) * 2008-12-22 2012-08-08 三菱電機株式会社 画像処理装置及び方法並びに画像表示装置
JP4994409B2 (ja) * 2009-03-23 2012-08-08 三菱電機株式会社 画像処理装置及び方法並びに画像表示装置
JP4994407B2 (ja) * 2009-03-18 2012-08-08 三菱電機株式会社 画像処理装置及び方法並びに画像表示装置
JP4994355B2 (ja) 2008-12-22 2012-08-08 三菱電機株式会社 画像処理装置及び方法並びに画像表示装置
US8363974B2 (en) * 2009-07-21 2013-01-29 Qualcomm Incorporated Block artifact reducer
JP2015231086A (ja) 2014-06-04 2015-12-21 三星ディスプレイ株式會社Samsung Display Co.,Ltd. 制御装置、およびプログラム
KR102338466B1 (ko) * 2017-12-08 2021-12-14 삼성전자주식회사 디스플레이 장치 및 디스플레이 장치의 제어방법

Also Published As

Publication number Publication date
JP2000050275A (ja) 2000-02-18

Similar Documents

Publication Publication Date Title
JP4383581B2 (ja) ブロックノイズ検出装置およびブロックノイズ除去装置
KR100497606B1 (ko) 블럭노이즈 검출장치 및 블럭노이즈 제거장치
JP3563422B2 (ja) フィルム/ビデオ検出器
US8305397B2 (en) Edge adjustment method, image processing device and display apparatus
US20050259950A1 (en) Film mode correction in still areas
JP2010041337A (ja) 画像処理装置、および画像処理方法
US20150043646A1 (en) Image processing apparatus, image processing method, and program
JP2007067888A (ja) 映像信号処理装置及び映像信号処理方法
JP3674186B2 (ja) 画像情報変換装置および方法
JP4495881B2 (ja) ブロック歪み除去装置
JP4182747B2 (ja) 画像処理装置、画像処理方法、画像処理プログラムおよび記録媒体
JP2007501561A (ja) ブロックアーティファクトの検出
US20050243934A1 (en) Processing auxiliary data of video sequences
JP5130171B2 (ja) 画像信号処理装置および画像信号処理方法
JP2008283503A (ja) 映像信号処理装置、映像信号処理方法、映像信号処理方法のプログラム及び映像信号処理方法のプログラムを記録した記録媒体
US8345157B2 (en) Image processing apparatus and image processing method thereof
JP2012019380A (ja) 画像処理装置及び画像処理方法
JP3724008B2 (ja) 画像情報変換装置および係数データ作成装置
JP2010199994A (ja) 画像処理装置
US8319890B2 (en) Arrangement for generating a 3:2 pull-down switch-off signal for a video compression encoder
JP4991884B2 (ja) 画像処理装置、および画像処理方法
JP3930360B2 (ja) 動画像復号装置
JP2002359847A (ja) 動画像監視装置
JP4186769B2 (ja) Gop周期検出装置
JP2006060286A (ja) ブロックノイズ低減方法及びブロックノイズ低減装置

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060418

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060418

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080502

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080513

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080703

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090611

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090804

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090902

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090924

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121002

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131002

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees