JP2900808B2 - 画像データの復号化時に生じるモスキートノイズの低減方法及び画像データの復号化装置 - Google Patents

画像データの復号化時に生じるモスキートノイズの低減方法及び画像データの復号化装置

Info

Publication number
JP2900808B2
JP2900808B2 JP6314162A JP31416294A JP2900808B2 JP 2900808 B2 JP2900808 B2 JP 2900808B2 JP 6314162 A JP6314162 A JP 6314162A JP 31416294 A JP31416294 A JP 31416294A JP 2900808 B2 JP2900808 B2 JP 2900808B2
Authority
JP
Japan
Prior art keywords
unit
activity
block
image data
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP6314162A
Other languages
English (en)
Other versions
JPH08149471A (ja
Inventor
隆幸 菅原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Victor Company of Japan Ltd
Original Assignee
Victor Company of Japan Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Victor Company of Japan Ltd filed Critical Victor Company of Japan Ltd
Priority to JP6314162A priority Critical patent/JP2900808B2/ja
Priority claimed from US08/561,447 external-priority patent/US5754699A/en
Priority to US08/561,447 priority patent/US5754699A/en
Priority to TW084112432A priority patent/TW279298B/zh
Priority to EP95308401A priority patent/EP0714210B1/en
Priority to CN95118846A priority patent/CN1085471C/zh
Priority to DE69525313T priority patent/DE69525313T2/de
Priority to KR1019950043476A priority patent/KR100217148B1/ko
Publication of JPH08149471A publication Critical patent/JPH08149471A/ja
Publication of JP2900808B2 publication Critical patent/JP2900808B2/ja
Application granted granted Critical
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Picture Signal Circuits (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)
  • Image Processing (AREA)

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は変換符号化された画像デ
ータの復号化時に生じるモスキートノイズの低減方法及
び前記の方法を適用して変換符号化された画像データを
復号する画像データの復号化装置に関する。
【0002】
【従来の技術】画像信号、音響信号、その他の各種信号
をデジタル信号として、伝送,記録再生する場合には、
情報量の圧縮伸長技術が用いられている。すなわち、例
えば画像信号や音声信号等のデジタル化に当って、各サ
ンプル値を均等に分割した信号レベルの内の一つの代表
値で置き換える直線量子化(均等量子化)を行なっただけ
では、伝送,記録再生の対象とされる信号の情報量が、
非常に多い状態になるからである。それで、従来から放
送通信の技術分野、記録再生の技術分野においては、例
えば、信号の変化の少ない部分で人間の視覚や聴覚が敏
感であり、信号の変化の激しい部分ではある程度の誤差
があっても、それを検知し難いという人間の視覚や聴覚
の性質を、各サンプルあたりの情報量の低減のために利
用するということの他に、多くの情報圧縮技術の適用に
より、伝送,記録再生の対象にされている各種情報につ
いての高能率圧縮技術(情報の高能率符号化技術)の実
用化が進められて来ていることは周知のとおりである。
【0003】さて、現在、実用化されているVHS(登
録商標)方式のVTRからの再生信号を用いて表示され
た再生画像程度の画質の動画像における1時間当りの情
報量は、おおよそ109Gビットであり、また、我国に
おける現行の標準方式のカラーテレビジョン方式の受信
画像程度の画質の動画像における1時間当りの情報量
は、おおよそ360Gビットであるが、前記のように大
きな情報量を有する画像情報を、実用化されている現行
の伝送路や記録媒体を用いて、伝送,記録再生させるた
めに必要とされる画像情報の高能率圧縮方式についての
実用化研究も盛んに行なわれている。
【0004】ところで、現在、実用的な画像情報の高能
率圧縮方式として提唱されている画像情報の高能率圧縮
方式では、自然画における隣接画素間では相関が高い
という、画面内(フレーム内)相関々係を利用して行な
う情報量の圧縮(空間的相関々係を利用して行なう情報
量の圧縮)、時間軸上に並ぶ画面間(フレーム間)相関
々係を利用して行なう情報量の圧縮(時間的相関々係を
利用して行なう情報量の圧縮)、符号の出現確率の偏
りによる情報量の圧縮、との3種類の異なる圧縮手段を
組合わせて情報量の圧縮を行ない、高能率符号化が達成
されるようにしている。前記したの画面内(フレーム
内)相関々係を利用して行なう画像の情報量の圧縮手段
としては、従来から多くの手法が提案されて来ている
が、近年になって、K−L(カルーネン・レーベ)変
換、離散コサイン変換(DCT)、離散フーリエ変換、
ウオルシュ・アダマール変換、等を代表例とする直交変
換が採用されることが多くなった。
【0005】例えば、ISO(国際標準化機構)の下に
設立されたMPEG(MovingPicture C
oding Expert Group)による国際標準
化作業の結果として提唱された画像情報の高能率符号化
方式(MPEG1方式,MPEG2方式と呼称されるこ
ともある)は、フレーム内符号化と、フレーム間符号化
とを組合わせて、動き補償予測やフレーム間予測を施し
た状態で、動画像情報の高能率符号化を行なうのである
が、前記の直交変換として2次元離散コサイン変換(2
次元DCT)を採用している。そして、前記の直交変換
は、高能率符号化の対象にされる各1枚毎の画面の画像
信号について、所定のブロックサイズ(N×M画素←横
N画素×縦Mラインのブロックサイズ)を有する「単位
のブロック」(前記のMPEG1方式,MPEG2方式
では、8×8画素←横8画素×縦8ラインのブロックサ
イズのブロックが「単位のブロック」とされている)毎
に分割された画像信号について行なわれる。
【0006】前記の単位のブロック毎に直交変換される
ことによって得られる(N×M)個の直交変換係数(前
記のMPEG1方式,MPEG2方式では、8×8=6
4個のDCT変換係数)は、少なくとも前記した単位の
ブロックの1個を含む予め定められた大きさの領域(前
記のMPEG1方式,MPEG2方式において、「マク
ロブロック」の用語で呼称されている領域、すなわち、
MPEG1方式,MPEG2方式で、輝度信号Yについ
ての16×16画素←横16画素×縦16ラインのブロ
ックサイズの大きさの領域と、2つの色差信号Cr,C
bのそれぞれについての8×8画素←横8画素×縦8ラ
インのブロックサイズの大きさの領域とからなる領域)
毎に設定されている「ブロック量子化幅値」によって量
子化される。例えば、MPEG1方式,MPEG2方式
において、前記した「ブロック量子化幅値」は、[{マ
クロブロック量子化特性値(またはマクロブロックの量
子化スケール)QS}×量子化マトリクス]として示さ
れる。
【0007】前記のブロック量子化幅値によって量子化
された直交変換係数(例えばDCT係数)は、それの直
流成分(DC成分)と、交流成分(AC成分)とに分離され
る。前記の直交変換係数(例えばDCT係数)の直流成分
は差分符号化され、また直交変換係数(例えばDCT係
数)の交流成分は、ジグザグ走査された後にエントロピ
ー符号化(符号の出現確率の偏りによる情報量圧縮…例
えばハフマン方式のような可変長符号化)される。前記
のように変換符号化された画像データはビットストリー
ム(ビット列)として出力される。次に前述のように変換
符号化された画像データに対する復号動作は、既述の符
号化動作とは逆の操作で行なわれて出力画像が得られる
のであるが、高能率符号化の過程において量子化が行な
われている場合には、避けることができない量子化誤差
の存在により、出力画像中に量子化ノイズを生じさせ
る。そして符号化の対象にされた画像の複雑さが伝送レ
ートに対して大きな場合に、前記の量子化ノイズが画像
の品質を大きく劣化させる。そして、一般的に、前記し
た量子化ノイズを生じさせる量子化誤差の内で、低域成
分の量子化誤差は、単位のブロック間に相関が無い状態
の出力画像歪、所謂ブロック歪を画像中に生じさせ、ま
た、量子化ノイズを生じさせる量子化誤差の内で、高域
成分の量子化誤差は、リンギング状の出力画像歪、所謂
モスキートノイズをエッジの周辺に生じさせる。
【0008】
【発明が解決しようとする課題】ところで、前記のよう
に画像中に生じる量子化ノイズは、画像の平坦部分では
特に目立つものである。すなわち、低域から高域にかけ
て大きな映像信号レベルの変化がある場所に、小さなノ
イズが加算されているような量子化ノイズの波形の場合
には、視覚特性上での感度差が小さいことからノイズは
検知され難い。しかし、低域だけに大きな映像信号レベ
ルの変化が存在している場合に、高域に小さなノイズが
加算されているときは、前記のノイズが検知され易い。
当然のことながら、大きなノイズが加算された場合に
は、低域,高域の如何に拘らずに致命的を符号化劣化と
して検知されてしまうことは、いうまでもない。それ
で、前記のような量子化ノイズによる画像品質の劣化の
問題を解決するために、例えば特開平5ー227431
号公報には、量子化ノイズの内のモスキートノイズを低
減させるために、復元された画像のエッジから有効エッ
ジを抽出し、それを拡大処理してフィルタリング処理を
行なうようにしたモスキートノイズの低減装置について
開示されている。ところが、前記した従来の解決手段で
は、抽出した画像のエッジ部分から、モスキートノイズ
が発生したとみられるブロックを検出し、フィルタリン
グ処理を施す信号処理が複雑であり、それの改善策が求
められた。
【0009】
【課題を解決するための手段】本発明は、所定のブロッ
クサイズを有する単位のブロック毎に分割された画像信
号が、それぞれの単位のブロック毎に直交変換された後
に、少なくとも前記した単位のブロックの1個を含む予
め定められた大きさの領域毎に個別に設定されているブ
ロック量子化幅値を用いて量子化されるとともに、所定
の符号化により変換符号化された画像データの復号化に
当り、復号画像中で指定された第1の大きさの範囲につ
いて検出された第1のアクティビティの値と、前記した
第1の範囲よりも小さな第2の大きさの範囲について検
出された第2のアクティビティの値と、復号過程で得ら
れたブロック量子化幅値とに基づいて、ブロック量子化
幅値が大きな画像部分と、アクティビティ値が小さな画
像部分については高域成分を減衰させ、また、ブロック
量子化幅値が小さな画像部分と、アクティビティ値が大
きなエッジ部分については高域成分を増強させるように
した画像データの復号化時に生じるモスキートノイズの
低減方法、及び所定のブロックサイズを有する単位のブ
ロック毎に分割された画像信号が、それぞれの単位のブ
ロック毎に直交変換された後に、少なくとも前記した単
位のブロックの1個を含む予め定められた大きさの領域
毎に個別に設定されているブロック量子化幅値を用いて
量子化されるとともに、所定の符号化により変換符号化
された画像データの復号化のために、少なくともバッフ
ァメモリと、可変長復号化部と、逆量子化部と、逆直交
変換部と、逆動き補償部と、画像メモリとを含んで構成
されている変換符号化された画像データの復号化装置で
あって、変換符号化された画像データから、少なくとも
前記した単位のブロックの1個を含む予め定められた大
きさの領域毎に個別に設定されているブロック量子化幅
値を検出するブロック量子化幅値の検出部と、復号画像
データにおける指定された第1の大きさの範囲における
アクティビティ値を検出する第1アクティビティ検出部
と、前記した第1の範囲よりも小さな第2の大きさの範
囲におけるアクティビティ値を検出する第2アクティビ
ティ検出部と、復号画像データが入力される低域通過濾
波器と前記した低域通過濾波器の入出力信号間の減算を
行なう減算器及び前記の減算器からの出力信号に係数を
乗算する乗算器ならびに前記の低域通過濾波器の出力信
号と前記の乗算器の出力信号とを加算する加算器とを含
んで構成された周波数特性変更部と、前記した検出ブロ
ック量子化幅値の検出部で検出されたブロック量子化幅
値及び第1アクティビティ検出部で検出された第1アク
ティビティ値ならびに第2アクティビティ検出部で検出
された第2アクティビティ値とに基づいて、前記した周
波数特性変更部中の乗算器で係数として用いられる制御
信号を発生させる制御信号発生部とを備えてなる画像デ
ータの復号化装置、ならびに、前記した画像データの復
号化装置において、制御信号発生部に与えるべきブロッ
ク量子化幅値を、可変長復号化部から供給するようにし
て、制御信号発生部で、前記のブロック量子化幅値と、
第1アクティビティ検出部で検出された第1アクティビ
ティ値及び第2アクティビティ検出部で検出された第2
アクティビティ値とに基づいて、前記した周波数特性変
更部中の乗算器で係数として用いられる制御信号を発生
させるように構成させた画像データの復号化装置を提供
する。
【0010】
【作用】高能率符号化の対象にされている各1枚毎の画
面の画像信号について、所定のブロックサイズ(N×M
画素←横N画素×縦Mラインのブロックサイズ)を有す
る「単位のブロック」毎に、直交変換して得た(N×
M)個の直交変換係数が、少なくとも前記した単位のブ
ロックの1個を含む予め定められた大きさの領域毎に設
定されている「ブロック量子化幅値」によって量子化さ
れた後に、所定の符号化が施されてなる変換符号化され
た画像データと、前記の変換符号化された画像データの
復号時に必要とされる付加情報とによるビットストリー
ムがバッファメモリに記憶される。前記のバッファメモ
リから読出されたビットストリームが供給される可変長
復号部では、エントロピー符号化(可変長符号化)され
た画像データと、変換符号化された画像データの復号時
に必要とされる付加情報(例えばブロック量子化幅情
報、動きベクトル、予測モード情報等)とを復号する。
【0011】復号された画像データと、復号された付加
情報中のブロック量子化幅情報とが逆量子化部に与えら
れることによって、逆量子化部で行なわれる画像データ
に対する逆量子化動作により、逆量子化部から逆直交変
換部に直交変換係数が供給される。逆直交変換部では、
単位のブロック毎に2次元の逆直交変換を行なって、周
波数領域の画像データを時間軸領域の画像データに逆変
換する。前記の逆直交変換部から出力された時間軸領域
の画像データは、フレーム内符号化、フレーム間符号
化、の違いを示すコーディングタイプに従って、動き補
償部で動き補償された状態の画像データと加算するか、
加算しないかして、出力画像データとされて画像メモリ
に格納される。
【0012】前記した画像メモリから読出された復号画
像データが供給される第1アクティビティ検出部は、復
号画像中で指定された第1の大きさの範囲について検出
した第1のアクティビティ値を制御信号発生部に供給す
る。また、第2アクティビティ検出部は、前記した第1
の範囲よりも小さな第2の大きさの範囲について検出し
た第2のアクティビティ値を制御信号発生部に供給す
る。前記の制御信号発生部では、前記した第1,第2の
アクティビティ値と、ブロック量子化幅値とに基づい
て、周波数特性変更部中の乗算器で係数として用いられ
る制御信号を発生して、それを周波数特性変更部に供給
する。画像メモリから読出された復号画像データが入力
される低域通過濾波器と、前記した低域通過濾波器の入
出力信号間の減算を行なう減算器及び前記の減算器から
の出力信号に係数を乗算する乗算器ならびに前記の低域
通過濾波器の出力信号と前記の乗算器の出力信号とを加
算する加算器とを含んで構成された周波数特性変更部
は、それの乗算器に対して制御信号発生部から供給され
た制御信号(係数信号)が与えられることにより、ブロ
ック量子化幅値が大きな画像部分と、アクティビティ値
が小さな画像部分については高域成分を減衰させ、ま
た、ブロック量子化幅値が小さな画像部分と、アクティ
ビティ値が大きなエッジ部分については高域成分を増強
されるようにする。
【0013】
【実施例】以下、添付図面を参照して本発明の画像デー
タの復号化時に生じるモスキートノイズの低減方法及び
画像データの復号化装置の具体的な内容を詳細に説明す
る。図1及び図2は本発明の画像データの復号化時に生
じるモスキートノイズの低減方法を適用した画像データ
の復号化装置の構成例を示すブロック図、図3及び図4
は周波数応答特性変更部の構成例を示すブロック図、図
5は周波数応答特性変更部の帯域の制御特性の説明に使
用する図、図6はアクィビティの算出法の説明に使用す
る図である。
【0014】図1及び図2に示す本発明の画像データの
復号化装置において、1は復号化の対象にされるビット
ストリーム(ビット列)の入力端子であり、また各図にお
いて一点鎖線枠で包囲して示してある部分(3,17…
復号器集積回路)は、集積回路化されている構成部分で
あるとされている。図1に示されている復号化装置の実
施例において、一点鎖線枠3で包囲して示してある構成
部分としては、少なくともバッファメモリ10と、可変
長復号化部11と、逆量子化部12と、逆直交変換部1
3と、加算部14と、動き補償部15と、画像メモリ1
6を含んで集積回路化されている市販品を使用すること
ができる。
【0015】前記した入力端子1に供給されるビットス
トリームは、画面内(フレーム内)相関々係を利用する
直交変換により画像の情報量の圧縮(空間的相関々係を
利用して行なう情報量の圧縮)と、時間軸上に並ぶ画面
間(フレーム間)相関々係を利用して行なう情報量の圧
縮(時間的相関々係を利用して行なう情報量の圧縮)、及
び符号の出現確率の偏りによる情報量の圧縮との3種類
の異なる圧縮手段を組合わせて高能率変換符号化された
画像データ(例えばMPEG1方式,MPEG2方式に
よる画像データ)であるとされている。なお、本明細書
の以下の記述においては、復号の対象にされている画像
データが、MPEG1方式,MPEG2方式による画像
データであるとして説明が行なわれている。
【0016】ところで、MPEG1方式,MPEG2方
式における動画像情報の高能率符号化は、2次元離散コ
サイン変換(2次元DCT)によるフレーム内符号化
と、フレーム間符号化とを組合わせ、動き補償予測やフ
レーム間予測を施した状態で行なわれる。そして、高能
率符号化の対象にされた各1枚毎の画面の画像信号は、
8×8画素(横8画素×縦8ライン)のブロックサイズ
の「単位のブロック」毎に分割され、前記の各単位のブ
ロック毎にDCTが行なわれる。そして、前記の各単位
のブロック毎のそれぞれ64個のDCT変換係数は「ブ
ロック量子化幅値」で量子化される。MPEG1方式,
MPEG2方式において、前記の「ブロック量子化幅
値」は、前記した単位のブロックの1個を含む予め定め
られた大きさの領域の「マクロブロック」の用語で呼称
されている領域、すなわち、輝度信号Yについての16
×16画素(横16画素×縦16ライン)のブロックサイ
ズの大きさの領域と、2つの色差信号Cr,Cbのそれ
ぞれについての8×8画素(横8画素×縦8ライン)のブ
ロックサイズの大きさの領域とからなる領域)毎に設定
されている{マクロブロック量子化特性値(またはマク
ロブロックの量子化スケール)QS}と、量子化マトリ
クスとの積によって示される値である。
【0017】DCT変換係数を被除数とし、「ブロック
量子化幅値」を除数として量子化が行なわれることによ
って得られたDCT係数は、それの直流成分(DC成
分)と、交流成分(AC成分)とに分離され、前記のD
CT係数の直流成分は差分符号化され、またDCT係数
の交流成分は、ジグザグ走査された後にエントロピー符
号化(符号の出現確率の偏りによる情報量圧縮…例えば
ハフマン方式のような可変長符号化)される。前記のよ
うに変換符号化された画像データには、前記の変換符号
化された画像データの復号時に必要とされる付加情報
[例えば、{ブロック量子化幅情報→マクロブロック量
子化特性値(またはマクロブロックの量子化スケール)
QS}と、動きベクトル、予測モード情報等]が付加さ
れてビットストリームとされている。図1及び図2にそ
れぞれ示されている本発明の画像データの復号化装置に
おいて、入力端子1に供給されたビットストリームは、
例えば先入れ先出しメモリ(FIFO)を用いて構成さ
れているバッファメモリ10に格納される。
【0018】前記したバッファメモリ10から読出され
たビットストリームが供給される可変長復号部11で
は、エントロピー符号化(可変長符号化)された画像デ
ータと、変換符号化された画像データの復号時に必要と
される付加情報、例えば{ブロック量子化幅情報→マク
ロブロック量子化特性値(またはマクロブロックの量子
化スケール)QS}、動きベクトル、予測モード情報
等)とを復号する。そして、前記の可変長復号部11で
復号された画像データと、ブロック量子化幅情報{マク
ロブロック量子化特性値(またはマクロブロックの量子
化スケール)QS}とは、逆量子化部12に供給され、
また、動きベクトル、予測モード情報等は、逆動き補償
部15に供給される。
【0019】前記の可変長復号部11で復号された画像
データと、復号された付加情報中のブロック量子化幅情
報{マクロブロック量子化特性値(またはマクロブロッ
クの量子化スケール)QS}とが与えられた逆量子化部
12では、逆量子化動作を行なって得たDCT変換係数
を逆直交変換部(逆DCT)13に供給する。逆直交変
換部(逆DCT)13では、単位のブロック毎に2次元
の逆DCTを行なって周波数領域の画像データを時間軸
領域の画像データに逆変換して、それを加算部14に供
給する。前記のようにして加算部14に供給された時間
軸領域の画像データは、フレーム内符号化、フレーム間
符号化、の違いを示すコーディングタイプに従って、動
き補償部15で動き補償された状態の画像データと加算
するか、加算しないかして、出力画像データとされて画
像メモリ16に格納する。
【0020】バッファメモリ10と、可変長復号化部1
1と、逆量子化部14と、逆直交変換部11と、加算部
14と、動き補償部15と、画像メモリ16とからなる
各構成部分の動作に関するこれまでの記述は、図1及び
図2に示す本発明の画像データの復号化装置における前
記の各構成部分の動作について共通している。そして図
1及び図2の各図に示す本発明の画像データの復号化装
置において、復号器集積回路3(または17)における
画像メモリ16からの画像データは、周波数応答特性変
更部9を介して出力端子2に出力されている。ところ
で、図1に示す本発明の画像データの復号化装置では、
入力端子1に供給された復号化の対象にされたビットス
トリームが、復号器集積回路3中に設けられているバッ
ファメモリ10に供給されるとともに、バッファメモリ
4にも供給されており、前記のバッファメモリ4から読
出されたビットストリームは、ブロック量子化幅値検出
部5に供給されている。
【0021】前記したブロック量子化幅値検出部5とし
ては、復号器集積回路3中に設けられている可変長復号
部11と同様の機能を備えている構成態様のものが使用
ができる。そして、前記したブロック量子化幅値検出部
5では、それに供給されたビットストリーム中から、順
次の領域毎のブロック量子化幅情報(例えば、マクロブ
ロック量子化特性値→マクロブロックの量子化スケー
ル)を検出して、それを制御信号発生部6に与える。ま
た、図2に示す本発明の画像データの復号化装置では、
復号器集積回路17の内部に設けられている可変長復号
部111の動作により、ビットストリーム中から検出さ
れた順次の領域毎のブロック量子化幅情報(例えば、マ
クロブロック量子化特性値→マクロブロックの量子化ス
ケール)を制御信号発生部6に与えるようにしている。
【0022】すなわち、図2に示す本発明の画像データ
の復号化装置は、図1に示す本発明の画像データの復号
化装置において、一点鎖線枠3で包囲して、少なくとも
バッファメモリ10と、可変長復号化部11と、逆量子
化部12と、逆直交変換部13と、加算部14と、動き
補償部15と、画像メモリ16とを含んで集積回路化し
てある復号器集積回路3に対して外付けされていたバッ
ファメモリ4と、ブロック量子化幅値検出部5との動作
を、復号器集積回路3の内部に設けられているバッファ
メモリ10と可変長復号部11との機能を利用して行な
わせるようにするとともに、可変長復号部11によって
ビットストリーム中から検出された順次の領域毎のブロ
ック量子化幅情報(例えば、マクロブロック量子化特性
値→マクロブロックの量子化スケール)が与えられる制
御信号発生部6や、前記した制御信号発生部6から出力
される制御信号によって、画像メモリ16から供給され
る画像データの高域周波数成分の制御動作を行なう周波
数特性変更部9の構成部分をも、1つの復号器集積回路
17中に含むように集積回路化して構成した構成態様の
ものである。
【0023】前記した周波数応答特性変更部9は、制御
信号発生部6から周波数応答特性変更部9に供給される
制御信号によって、それを通過する画像信号の高域部分
の信号レベルが変化する状態に制御される。前記した周
波数応答特性変更部9の具体的な構成例は、図3及び図
4に示してある。図3に例示してある周波数応答特性変
更部9において、点線枠9hで示してある構成部分、す
なわち、予め定められた固定の遮断周波数を有するよう
に構成された水平LPF18と、減算器19と、乗算器
20と、加算器21とによって構成されている構成部分
は、画像の水平方向について周波数応答特性変更部とし
て機能する構成部分である。また、図3中で点線枠9v
で示されている構成部分、すなわち予め定められた固定
の遮断周波数を有するように構成された垂直LPF22
と、減算器23と、乗算器24と、加算器25とによっ
て構成されている構成部分は、画像の垂直方向について
周波数応答特性変更部として機能する構成部分である。
【0024】そして、図3に例示してある周波数応答特
性変更部9は、前記した点線枠9hで示してある、画像
の水平方向について周波数応答特性変更部として機能す
る構成部分と、点線枠9vで示してある、画像の垂直方
向について周波数応答特性変更部として機能する構成部
分とを直列的に接続することにより、全体的に2次元的
な周波数応答特性変更部9として機能するような構成と
されている。また、図4に例示してある周波数応答特性
変更部9は、1個の2次元的LPF26と、減算器27
と、乗算器28と、加算器29とにより、2次元的な周
波数応答特性変更部9として機能するような構成とされ
ている。
【0025】前記した図3及び図4に例示されている周
波数応答特性変更部9における各乗算器20,24,2
8には、制御信号発生部6から制御信号(図5の縦軸に
例示されている0〜1.25の範囲の係数…乗算の係数
信号)が供給されて、それにより周波数応答特性変更部
9からの出力画像データは、前記した予め定められた固
定の遮断周波数を有するLPFにおける遮断域よりも高
い周波数帯域の信号成分に対して、例えば係数0〜1.
25が乗算された状態とされる。制御信号発生部6から
周波数応答特性変更部9に供給される制御信号が、係数
0〜1.0の範囲内である場合に、前記した周波数応答
特性変更部9から出力端子2に送出される画像データ
は、周波数応答特性変更部9内に設けられているLPF
(図3中の水平LPF18,垂直LPF22、図4中の
2次元的LPF26)の固定的な遮断帯域よりも高い周
波数帯域の信号成分が、前記の係数0〜1.0倍に減衰
された状態にされる。
【0026】また、制御信号発生部6から周波数応答特
性変更部9に供給される制御信号が、係数1.0〜1.2
5の範囲内である場合に、前記した周波数応答特性変更
部9から出力端子2に送出される画像データは、周波数
応答特性変更部9内に設けられているLPF(図3中の
水平LPF18,垂直LPF22、図4中の2次元的L
PF26)の固定的な遮断帯域よりも高い周波数帯域の
信号成分が、前記の係数1.0〜1.25倍に増強される
ために、画像が輪郭強調されることになる。
【0027】周波数応答特性変更部9に供給される制御
信号は、制御信号発生部6において次のように発生され
る。まず、図1中の制御信号発生部6には、ブロック量
子化幅値の検出部5から供給される順次の領域毎のブロ
ック量子化幅情報(領域毎の量子化スケール値Qs)
と、復号画像データにおける指定された第1の大きさの
範囲におけるアクティビティ値を検出する第1アクティ
ビティ検出部7で検出された第1のアクティビティ値A
1と、前記した第1の範囲よりも小さな第2の大きさの
範囲におけるアクティビティ値を検出する第2アクティ
ビティ検出部8で検出された第2のアクティビティ値A
2とが供給されている。また、図2中の制御信号発生部
6には、可変長復号部11から供給される順次の領域毎
のブロック量子化幅情報(領域毎の量子化スケール値Q
s)と、復号画像データにおける指定された第1の大き
さの範囲におけるアクティビティ値を検出する第1アク
ティビティ検出部7で検出された第1のアクティビティ
値A1と、前記した第1の範囲よりも小さな第2の大き
さの範囲におけるアクティビティ値を検出する第2アク
ティビティ検出部8で検出された第2のアクティビティ
値A2とが供給されている。
【0028】前記した復号画像データにおける指定され
た第1の大きさの範囲におけるアクティビティ値を検出
する第1アクティビティ検出部7、及び、前記した第1
の範囲よりも小さな第2の大きさの範囲におけるアクテ
ィビティ値を検出する第2アクティビティ検出部8は、
それぞれ画像における特定な大きさの範囲におけるアク
ティビティ(画像の複雑性を示す指標)を検出する機能
を有するものとして構成されている。前記した第1,第
2アクティビティ検出部7,8において、検出すべき画
像のアクティビティ値としては、従来から画像のアクテ
ィビティ値として用いられている各種の指標値の内のど
れが採用されてもよい。すなわち、前記した第1,第2
アクティビティ検出部7,8としては、画像のアクティ
ビティ値として、例えば図6中に示されているように、
隣り合う画素の差を加算した値、ブロック内の画素の平
均値を求め、各画素から前記したブロック内画素の平均
値を減算した値の二乗和を算出して得た分散値、所定の
フィルタ処理を施した後の画素の絶対値和、等の内で、
どれが検出されるような構成態様のものであってもよ
い。
【0029】前記の第1アクティビティ検出部7におい
て第1のアクティビティ値を検出するのに用いられる復
号画像データにおける指定された第1の大きさの範囲と
しては、例えば既述した単位のブロック(DCTブロッ
ク)であってもよく、また、第2アクティビティ検出部
8において第2のアクティビティ値を検出するのに用い
られる第2の大きさの範囲、すなわち、前記した第1の
範囲よりも小さな第2の大きさの範囲としては、例えば
周波数応答特性変更部9中で使用されているFIRフィ
ルタのフィルタ長に合わせた画素数(例えばFIRフィ
ルタのフィルタ長が3タップか5タップ値かの1次元フ
ィルタの場合には、3画素、5画素とし、また、FIR
フィルタのフィルタ長が3タップか5タップ値かの2次
元フィルタでは、3×3画素、5×5画素、等のような
画素数)にしてもよい。
【0030】前記した制御信号発生部6では、それに供
給された前記した順次の領域毎のブロック量子化幅情報
(領域毎の量子化スケール値Qs)と、第1のアクティ
ビティ値A1と、第2のアクティビティ値A2とによっ
て、次式(1)のような演算を行なって得られる計算値
Gの数値と対応して、例えば、前記した計算値Gをアド
レスとして、ROMテーブルを用いて、図5に例示され
ているような係数値0〜1.25の係数信号(制御信
号)を発生する。図5中における計算値Gが所定の値T
h以上の場合には、係数は上限値に固定されるようにす
る。図5中における係数の上限値は、1例として1.2
5として示されているが、前記の係数の上限値が、固定
的に1.25に定められなければならないということを
意味しているものではない。そして、前記の制御信号
は、既述のように周波数応答特性変更部9中の乗算器2
0,24,28に与えられるのである。 G={K1−(Qs×A1/A2+1)}/K2 …(1) ただし、(1)式において、K1,K2は定数である。
【0031】前記した(1)式は、順次の領域毎のブロ
ック量子化幅情報(領域毎の量子化スケール値Qs)の
値が大きくなる程、及び(第1のアクティビティ値A1
/第2のアクティビティ値A2)が大きくなる程、計算
値Gの数値は小さくなる。そして前記したブロック量子
化幅情報(領域毎の量子化スケール値Qs)の値は、画
像の内容が複雑な程大きな値を示する。また、(第1の
アクティビティ値A1/第2のアクティビティ値A2)の
値は、カレントの画素付近の画像データが、その周辺と
同じ程度の複雑さの画像内容を示しているか、あるいは
平坦な画像内容を示しているか、もしくはエッジの部分
を示しているか、等を示す。
【0032】例えば、エッジの部分では、前記した(第
1のアクティビティ値A1/第2のアクティビティ値A
2)の値は小さくなり、計算値Gが大きくなる。また、
画像の平坦な部分においては、前記した(第1のアクテ
ィビティ値A1/第2のアクティビティ値A2)の値は大
さくなって計算値Gが小さくなる。したがって、周波数
応答特性変更部9中の乗算器20,24,28に与えら
れた制御信号が、例えば係数0と対応する制御信号であ
った場合には、前記した周波数応答特性変更部9から出
力端子2に送出される画像データは、周波数応答特性変
更部9内に設けられているLPF(図3中の水平LPF
18,垂直LPF22、図4中の2次元的LPF26)
における、もともとの通過帯域と対応する周波数成分だ
け、すなわち、周波数応答特性変更部9内に設けられて
いるLPF(図3中の水平LPF18,垂直LPF2
2、図4中の2次元的LPF26)の固定的な遮断帯域
よりも高い周波数帯域の信号成分が全く無い状態の画像
データとされる。
【0033】また、周波数応答特性変更部9中の乗算器
20,24,28に与えられた制御信号が、例えば係数
0.5と対応する制御信号であった場合には、前記した
周波数応答特性変更部9から出力端子2に送出される画
像データは、周波数応答特性変更部9内に設けられてい
るLPF(図3中の水平LPF18,垂直LPF22、
図4中の2次元的LPF26)のもともとの通過帯域と
対応する周波数成分に、周波数応答特性変更部9内に設
けられている前記のLPF(図3中の水平LPF18,
垂直LPF22、図4中の2次元的LPF26)の固定
的な遮断帯域よりも高い周波数帯域に、もともと存在し
ていた信号成分の半分の信号成分が付加された状態の画
像データとされる。
【0034】さらに、周波数応答特性変更部9中の乗算
器20,24,28に与えられた制御信号が、例えば係
数1.0と対応する制御信号であった場合には、前記し
た周波数応答特性変更部9から出力端子2に送出される
画像データは、周波数応答特性変更部9に入力された画
像データと同じ画像データとなる。さらにまた、周波数
応答特性変更部9中の乗算器20,24,28に与えら
れた制御信号が、例えば係数1.25と対応する制御信
号であった場合には、前記した周波数応答特性変更部9
から出力端子2に送出される画像データは、周波数応答
特性変更部9内に設けられているLPF(図3中の水平
LPF18,垂直LPF22、図4中の2次元的LPF
26)のもともとの通過帯域と対応する周波数成分に、
周波数応答特性変更部9内に設けられている前記のLP
F(図3中の水平LPF18,垂直LPF22、図4中
の2次元的LPF26)の固定的な遮断帯域よりも高い
周波数帯域に、もともと存在していた信号成分の1.2
5倍の信号成分が付加された状態の画像データとされて
エッジ強調が行なわれる。
【0035】
【発明の効果】以上、詳細に説明したところから明らか
なように、本発明の画像データの画像データの復号化時
に生じるモスキートノイズの低減方法及び画像データの
復号化装置は、画像メモリから読出された復号画像デー
タが供給される第1アクティビティ検出部は、復号画像
中で指定された第1の大きさの範囲について検出した第
1のアクティビティ値を制御信号発生部に供給し、ま
た、第2アクティビティ検出部は、前記した第1の範囲
よりも小さな第2の大きさの範囲について検出した第2
のアクティビティ値を制御信号発生部に供給して、前記
の制御信号発生部では、前記した第1,第2のアクティ
ビティ値と、ブロック量子化幅値とに基づいて、周波数
特性変更部中の乗算器で係数として用いられる制御信号
を発生して、それを周波数特性変更部に供給して、ブロ
ック量子化幅値が大きな画像部分と、アクティビティ値
が小さな画像部分については高域成分を減衰させ、ま
た、ブロック量子化幅値が小さな画像部分と、アクティ
ビティ値が大きなエッジ部分については高域成分を増強
されるようにしたものであるから、本発明によれば画像
データの復号時に発生するモスキートノイズを良好に減
少させることができる他に、エッジ部分については輪郭
強調を行なって画質の向上を達成できる。
【図面の簡単な説明】
【図1】本発明の画像データの復号化時に生じるモスキ
ートノイズの低減方法を適用した画像データの復号化装
置の構成例を示すブロック図である。
【図2】本発明の画像データの復号化時に生じるモスキ
ートノイズの低減方法を適用した画像データの復号化装
置の構成例を示すブロック図である。
【図3】周波数応答特性変更部の構成例を示すブロック
図である。
【図4】周波数応答特性変更部の構成例を示すブロック
図である。
【図5】周波数応答特性変更部の帯域の制御特性の説明
に使用する図である。
【図6】アクティビティの算出法の説明に使用する図で
ある。
【符号の説明】
1…入力端子、2…出力端子、3,17…復号器集積回
路、4,10…バッファメモリ、7…第1アクティビテ
ィ検出部、8…第2アクティビティ検出部、9…周波数
応答特性変更部、11…可変長復号化部、12…逆量子
化部、13…逆直交変換部、14…加算部、15…動き
補償部、16…画像メモリ、18…水平LPF、19,
23,27…減算器、20,24,28…乗算器、2
1,25,29…加算器、22…垂直LPF、26…2
次元的LPF、

Claims (3)

    (57)【特許請求の範囲】
  1. 【請求項1】 所定のブロックサイズを有する単位のブ
    ロック毎に分割された画像信号が、それぞれの単位のブ
    ロック毎に直交変換された後に、少なくとも前記した単
    位のブロックの1個を含む予め定められた大きさの領域
    毎に個別に設定されているブロック量子化幅値を用いて
    量子化されるとともに、所定の符号化により変換符号化
    された画像データの復号化に当り、復号画像中で指定さ
    れた第1の大きさの範囲について検出された第1のアク
    ティビティの値と、前記した第1の範囲よりも小さな第
    2の大きさの範囲について検出された第2のアクティビ
    ティの値と、復号過程で得られたブロック量子化幅値と
    に基づいて、ブロック量子化幅値が大きな画像部分と、
    アクティビティ値が小さな画像部分については高域成分
    を減衰させ、また、ブロック量子化幅値が小さな画像部
    分と、アクティビティ値が大きなエッジ部分については
    高域成分を増強させるようにした画像データの復号化時
    に生じるモスキートノイズの低減方法。
  2. 【請求項2】 所定のブロックサイズを有する単位のブ
    ロック毎に分割された画像信号が、それぞれの単位のブ
    ロック毎に直交変換された後に、少なくとも前記した単
    位のブロックの1個を含む予め定められた大きさの領域
    毎に個別に設定されているブロック量子化幅値を用いて
    量子化されるとともに、所定の符号化により変換符号化
    された画像データの復号化のために、少なくともバッフ
    ァメモリと、可変長復号化部と、逆量子化部と、逆直交
    変換部と、逆動き補償部と、画像メモリとを含んで構成
    されている変換符号化された画像データの復号化装置で
    あって、変換符号化された画像データから、少なくとも
    前記した単位のブロックの1個を含む予め定められた大
    きさの領域毎に個別に設定されているブロック量子化幅
    値を検出するブロック量子化幅値の検出部と、復号画像
    データにおける指定された第1の大きさの範囲における
    アクティビティ値を検出する第1アクティビティ検出部
    と、前記した第1の範囲よりも小さな第2の大きさの範
    囲におけるアクティビティ値を検出する第2アクティビ
    ティ検出部と、復号画像データが入力される低域通過濾
    波器と前記した低域通過濾波器の入出力信号間の減算を
    行なう減算器及び前記の減算器からの出力信号に係数を
    乗算する乗算器ならびに前記の低域通過濾波器の出力信
    号と前記の乗算器の出力信号とを加算する加算器とを含
    んで構成された周波数特性変更部と、前記した検出ブロ
    ック量子化幅値の検出部で検出されたブロック量子化幅
    値及び第1アクティビティ検出部で検出された第1アク
    ティビティ値ならびに第2アクティビティ検出部で検出
    された第2アクティビティ値とに基づいて、前記した周
    波数特性変更部中の乗算器で係数として用いられる制御
    信号を発生させる制御信号発生部とを備えてなる画像デ
    ータの復号化装置。
  3. 【請求項3】 所定のブロックサイズを有する単位のブ
    ロック毎に分割された画像信号が、それぞれの単位のブ
    ロック毎に直交変換された後に、少なくとも前記した単
    位のブロックの1個を含む予め定められた大きさの領域
    毎に個別に設定されているブロック量子化幅値を用いて
    量子化されるとともに、所定の符号化により変換符号化
    された画像データの復号化のために、少なくともバッフ
    ァメモリと、可変長復号化部と、逆量子化部と、逆直交
    変換部と、逆動き補償部と、画像メモリとを含んで構成
    されている変換符号化された画像データの復号化装置で
    あって、前記した可変長復号化部から順次に出力される
    各領域毎に個別に設定されているブロック量子化幅値を
    制御信号発生部に与える手段と、復号画像データにおけ
    る指定された第1の大きさの範囲におけるアクティビテ
    ィ値を検出する第1アクティビティ検出部と、前記した
    第1の範囲よりも小さな第2の大きさの範囲におけるア
    クティビティ値を検出する第2アクティビティ検出部
    と、復号画像データが入力される低域通過濾波器と前記
    した低域通過濾波器の入出力信号間の減算を行なう減算
    器及び前記の減算器からの出力信号に係数を乗算する乗
    算器ならびに前記の低域通過濾波器の出力信号と前記の
    乗算器の出力信号とを加算する加算器とを含んで構成さ
    れた周波数特性変更部と、前記した可変長復号化部から
    供給されたブロック量子化幅値及び第1アクティビティ
    検出部で検出された第1アクティビティ値ならびに第2
    アクティビティ検出部で検出された第2アクティビティ
    値とに基づいて、前記した周波数特性変更部中の乗算器
    で係数として用いられる制御信号を発生させる制御信号
    発生部とを備えてなる画像データの復号化装置。
JP6314162A 1994-11-24 1994-11-24 画像データの復号化時に生じるモスキートノイズの低減方法及び画像データの復号化装置 Expired - Fee Related JP2900808B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP6314162A JP2900808B2 (ja) 1994-11-24 1994-11-24 画像データの復号化時に生じるモスキートノイズの低減方法及び画像データの復号化装置
US08/561,447 US5754699A (en) 1994-11-24 1995-11-21 Method of reducing mosquito noise generated during decoding process of image data and device for decoding image data using the same
TW084112432A TW279298B (ja) 1994-11-24 1995-11-22
CN95118846A CN1085471C (zh) 1994-11-24 1995-11-23 图象
EP95308401A EP0714210B1 (en) 1994-11-24 1995-11-23 Method of reducing mosquito noise generated during decoding process of image data and device for decoding image data using the same
DE69525313T DE69525313T2 (de) 1994-11-24 1995-11-23 Verfahren zum Vermindern von während einer Bilddatendekodierung erzeugtem Mückenrauschen und Vorrichtung zur Dekodierung von ein solches Verfahren verwendenden Bilddaten
KR1019950043476A KR100217148B1 (ko) 1994-11-24 1995-11-24 영상 데이타의 복호 처리중에 발생하는 모스키토 노이즈를 줄이는 방법 및 이 방법을 사용한 영상데이타의 복호장치

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP6314162A JP2900808B2 (ja) 1994-11-24 1994-11-24 画像データの復号化時に生じるモスキートノイズの低減方法及び画像データの復号化装置
US08/561,447 US5754699A (en) 1994-11-24 1995-11-21 Method of reducing mosquito noise generated during decoding process of image data and device for decoding image data using the same

Publications (2)

Publication Number Publication Date
JPH08149471A JPH08149471A (ja) 1996-06-07
JP2900808B2 true JP2900808B2 (ja) 1999-06-02

Family

ID=26567839

Family Applications (1)

Application Number Title Priority Date Filing Date
JP6314162A Expired - Fee Related JP2900808B2 (ja) 1994-11-24 1994-11-24 画像データの復号化時に生じるモスキートノイズの低減方法及び画像データの復号化装置

Country Status (1)

Country Link
JP (1) JP2900808B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4766382B2 (ja) * 2005-12-16 2011-09-07 富士ゼロックス株式会社 画像評価装置、画像評価方法及びプログラム
JP2008099273A (ja) * 2007-09-28 2008-04-24 Sony Corp 画像処理装置
JP5120079B2 (ja) * 2008-06-09 2013-01-16 日本電気株式会社 2次元デジタルフィルターシステム、2次元デジタルフィルタリング方法及びプログラム
JP2011030177A (ja) * 2009-06-29 2011-02-10 Sony Corp 復号装置、復号制御装置、復号方法およびそのプログラム
JP2010193515A (ja) * 2010-05-06 2010-09-02 Fujitsu Ltd 画像処理方法

Also Published As

Publication number Publication date
JPH08149471A (ja) 1996-06-07

Similar Documents

Publication Publication Date Title
JP2728619B2 (ja) 符号化/復号化装置のブロッキングアーティファクト抑制方法及びその装置
EP0714209B1 (en) Method and device for decoding image data
US6825886B2 (en) Picture signal processing method and apparatus
JPH08237669A (ja) 画像信号処理装置、画像信号処理方法および画像信号復号化装置
JPH09182075A (ja) 画像を送信するための方法およびシステム
JPH0970044A (ja) 画像信号処理装置および方法
US5754699A (en) Method of reducing mosquito noise generated during decoding process of image data and device for decoding image data using the same
US6185254B1 (en) Decoder, image encoding apparatus, image decoding apparatus, image transmitting method, and recording medium
EP1159829A1 (en) Reducing "blocky picture" effects
JP2940422B2 (ja) 変換符号化された画像データの復号化時に生じるブロック歪の低減方法及び変換符号化された画像データの復号化装置
JP2900808B2 (ja) 画像データの復号化時に生じるモスキートノイズの低減方法及び画像データの復号化装置
JP2924691B2 (ja) 量子化ノイズの低減方法及び画像データの復号化装置
JP3271098B2 (ja) ディジタル画像信号復号装置および方法
JP2900810B2 (ja) 変換符号化された画像データの復号化時に生じる量子化ノイズの低減方法及び変換符号化された画像データの復号化装置
JP2900815B2 (ja) 適応コアリング方法及び適応コアリング装置
JP3227931B2 (ja) 符号化装置および復号化装置
KR100871998B1 (ko) 디지털 이미지들을 후처리하는 방법 및 장치
KR100217148B1 (ko) 영상 데이타의 복호 처리중에 발생하는 모스키토 노이즈를 줄이는 방법 및 이 방법을 사용한 영상데이타의 복호장치
KR100228684B1 (ko) 움직임 추정에 기초한 시간예측 오류 은폐방법 및 장치
JP3478414B2 (ja) 画像情報圧縮装置
Dhaou et al. DVC decompression with denoising for picture quality improvement
JP2891251B2 (ja) 画像符号化装置及び画像復号化装置
JPH07154788A (ja) 映像信号の符号化装置
JPH09224246A (ja) 画像圧縮符号化および画像圧縮復号化装置
JP2004172944A (ja) 画像処理方法、画像処理装置、及び画像処理用プログラム

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090319

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090319

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100319

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110319

Year of fee payment: 12

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120319

Year of fee payment: 13

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120319

Year of fee payment: 13

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120319

Year of fee payment: 13

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120319

Year of fee payment: 13

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120319

Year of fee payment: 13

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130319

Year of fee payment: 14

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140319

Year of fee payment: 15

LAPS Cancellation because of no payment of annual fees