JP2007521680A - 画像の雑音(ノイズ)を減じる装置と方法 - Google Patents

画像の雑音(ノイズ)を減じる装置と方法 Download PDF

Info

Publication number
JP2007521680A
JP2007521680A JP2005507882A JP2005507882A JP2007521680A JP 2007521680 A JP2007521680 A JP 2007521680A JP 2005507882 A JP2005507882 A JP 2005507882A JP 2005507882 A JP2005507882 A JP 2005507882A JP 2007521680 A JP2007521680 A JP 2007521680A
Authority
JP
Japan
Prior art keywords
image data
filter
image
control signal
filtering
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005507882A
Other languages
English (en)
Other versions
JP4526482B2 (ja
Inventor
マーテイン ビーズレイ,トツド
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of JP2007521680A publication Critical patent/JP2007521680A/ja
Application granted granted Critical
Publication of JP4526482B2 publication Critical patent/JP4526482B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Picture Signal Circuits (AREA)

Abstract

画像プロセッサは、雑音を除去するために、画像データを処理するLeeフィルタを具える。Leeフィルタは平滑化制御信号を含んでいる。画像データの濾波の間、平滑化制御信号はモノクロム(白黒)ビデオ信号に変換され、濾波済み画像データの代りに、または濾波済み画像データに加えて、ディスプレイに供給される。平滑化制御信号の表示により投写される画像は、濾波済み画像におけるエッジ・アクティビティを強調する。このエッジ・アクティビティの表示により、画像データ内で雑音の多い部分を見つけ出し、濾波量を微調整するのが容易となり、画像データ内に存在する雑音を更に減じ、しかも所定の画像の細部(ディテール)はそのまま残される。

Description

本発明は、一般に、圧縮に関し、特に、圧縮に先立ち画像データを前処理してビデオにおける静止画像または一連の画像内に存在する雑音(ノイズ)を減じる装置と方法に関する。
ビデオ(動画)を表す画像データはサイズ(情報量)が大きくなる。従って、当技術分野で知られているように、画像データの送信または蓄積に先立ち、画像データを圧縮することが好ましい。画像データを圧縮して元の画像データに対しかなりの忠実度が得られる技術が多数存在する。
しかしながら、画像データを圧縮する際、一般に、圧縮アリゴリズムは、画像内の好ましい細部(ディテール)と雑音(ノイズ)を見分けることができないので、画像データ内に含まれている雑音が圧縮効率に悪影響を及ぼす。換言すれば、圧縮される画像データのサイズは、画像データ内に雑音が存在するため、必要以上に大きくなる。例えば、もし画像が最初にビデオ・カセット・レコーダ(VCR)に記録されると、記録された画像データには、再生時に、雑音が含まれる。その結果、インターネットでストリーミングする画像データ源としてVCRを使用すると、圧縮しても、画像データ内に雑音が存在しない場合よりも多くの帯域幅を必要とする。
画像データに雑音が含まれると、画像データを圧縮する前に、画像データを濾波(フィルタ)して、雑音を除去または低減することが知られている。既に知られている幾つかのフィルタ技術のうち1つが画像データに使用され、濾波済み画像データはプレビュー(preview)され、画像の忠実度への影響が調べられる。フィルタの設定は、濾波済み画像を見て、フィルタのコントロールを調節し、低減された雑音と画像細部のぼけとの妥協点を見い出す。濾波(フィルタリング)が多すぎると画像がぼやけ、濾波が少なすぎると、画像データ内の雑音を十分に除去できず、圧縮効率が改善されない。あいにく、低レベルの雑音の除去は特に困難である。低レベルの雑音を画像内で見るのは困難で、または不可能であり、しかも圧縮効率を低下させ、画像データが絶えず変化しているビデオ(動画)の場合一層困難となる。
(発明の概要)
上述のように、画像データを濾波する際、濾波済み(filtered)画像を見て、画像データから低レベルの雑音を除去するためにフィルタを調節することは困難である。しかしながら、本発明の原理により、濾波済み画像データを表示せずに、または濾波済み画像を表示することに加えて、雑音を除去するために画像データに濾波が実行される場合にそれを表示することにより、フィルタのパラメータを素早く設定する能力が改善され、画像データから低レベルの雑音の除去を増大できることが実感される。
本発明の実施例において、画像プロセッサは、画像データから雑音を除去するために画像データを処理するLee(リー)の局所統計フィルタを具える。Leeフィルタは、平滑化制御信号を含んでいる。画像データの濾波の間、平滑化制御信号はモノクロム(白黒)ビデオ信号に変換され、このモノクロム・ビデオ信号は、濾波済み画像データの代りに、または濾波済み画像データに加えて、ディスプレイに供給される。平滑化制御信号を表す表示画像は、濾波済み画像のエッジ・アクティビティを強調する。このエッジ・アクティビティの表示により、画像データ内で雑音の多い部分を見い出し、濾波量の微調整が容易となり、画像データ内に存在する雑音を更に減じ、しかも望まれる画像の細部はそのまま残される。特に、Leeフィルタの平滑化制御信号は、明るい部分と暗い部分を表示する。暗い部分は、Leeフィルタが比較的多量の濾波を画像データに実行していることを示し、明るい部分はLeeフィルタが比較的少量の濾波を画像データに実行していることを示す。
本発明の別の実施例で、サーバは、インターネットでストリーミング・コンテンツ(例えば、ビデオ)を提供するためにLeeフィルタと圧縮器を具える。サーバは、ビデオを表す画像データを濾波する際、Leeフィルタの平滑化制御信号を視覚的に表示する。その結果表示される、濾波済み画像データのエッジ・アクティビティを使用して、Leeフィルタのパラメータを設定する、すなわち、ビデオに関連するフィルタ・テンプレートを創出する。フィルタ・テンプレートはその後、検索され、ビデオをリアルタイムで濾波し、インターネットでストリーミング・ビデオを提供する。
本発明の別の実施例において、サーバは、インターネットでストリーミング・コンテンツ(例えば、ビデオ)を提供するために、Leeフィルタと圧縮器を具える。Leeフィルタの平滑化制御信号はモノクロム・ビデオ信号に変換される。モノクロム・ビデオ信号に変換された平滑化制御信号の平均輝度レベルは、画像またはビデオに対し設定される。この設定された輝度レベルを使用して、画像またはビデオに望まれる濾波レベルが表される。画像またはビデオを濾波する際、モノクロム・ビデオ信号に変換された平滑化制御信号が設定された平均輝度レベルにマッチするまで、Leeフィルタのパラメータが調節される。
本発明の別の実施例において、サーバは、プロセッサと、ディスプレイと、コンピュータ・プログラムを記憶するメモリを具える。プロセッサは、画像データを濾波するためにメモリ内に記憶されたコンピュータ・プログラムを実行し、コンピュータ・プログラムは、プロセッサで実行されると、プレビュー・モードを提供し、画像データに濾波が実行されている場合それをディスプレイ上に表示する。
発明的コンセプト以外の、図面に示す要素はよく知られており、詳細には説明しない。また、画像処理とコンテンツ配信についてはよく知られていると思われるので、本文中では詳細に記述しない。発明的コンセプトの他に、マイクロプロセッサ、メモリ、アナログ/ディジタル画像フォーマット、コンテンツのストリーミング、メディア・プレーヤ、圧縮などはよく知られており、詳細に記述しない。また、発明的コンセプトは、従来のプログラミング技術(本文中に記述しない)を使用して実施される。最後に、図面上で同じような番号は同様な要素を表す。また、「信号」という用語には、ハードウェアの形態(例えば、電気的な)およびソフトウェア(例えば、変数)が含まれる。また、「メモリ」という用語には、マシンで読み出される蓄積メディア、例えば、ハードディスク・ドライブ、フロッピー(登録商標)ディスク、CD‐ROM(書込み可能CD‐ROMを含む)、DVDなどが含まれる。
図1に、本発明の原理によるコンテンツ配信システムの実施例を示す。画像ソース15は、信号経路16を介し画像データを画像サーバ20に供給し、画像サーバ20は受信した画像データを処理し、圧縮した画像データを信号経路21を介し供給し、インターネット50により終点30に配信する。インターネット50は、パケットを送信できる任意のネットワークを表し、これには、スイッチ式および非スイッチ式設備(有線または無線)が含まれ、始発点と終点間にパケットを伝達するためのルータおよびスイッチのような他の構成部品(図示せず)も含まれる。画像ソース15は、静止画またはビデオ(動画)を表す画像データを供給できる任意の源を表す。画像ソース15は、画像サーバ20に結合されるハードディスク・ドライブのようなファイル・ソースであり、画像データは画像をディジタル形式で表す、あるいは画像ソース15は、ビデオをアナログ形式で表す画像データを提供するVCRである。画像ソース15は、インターネット50に接続されない別個の構成部品として図示されるが、インターネット50を通してイメージ・サーバ20に画像データを供給する。終点30は、任意の目的地、例えば、消費者のビデオ装置(Windows(登録商標)Media Player)を動かすコンピュータ、またはディスプレイに結合されるセットトップ・ボックス)、あるいは、受信した圧縮画像データを加入者に配信するコンテンツとしてリパッケージするコンテンツ・プロバイダ(ケーブル会社など)のサーバを表す。画像サーバ20は、コンテンツ・プロバイダのサーバともなる。
前述のように、画像データを濾波する際、濾波済み画像データをプレビューするだけで画像データから雑音を除去する濾波のパラメータを調節することは困難である。これは特に、低レベル雑音が画像データ内に存在する場合にいえる。圧縮以前に画像データ内に残存する雑音が生じる圧縮された画像データは、画像データから雑音が低減または除去される場合よりも、サイズが大きくなり、且つ蓄積用スペースまたは送信に一層多くの帯域幅を必要とする。従って、本発明の原理に従い、画像サーバ20は、濾波済み画像データを表示する代りに、または濾波済み画像データを表示することに加えて、濾波が画像データに実行される場合それを表示する。これにより、フィルタのパラメータを素早く設定でき、画像データから低レベルの雑音の除去を増大し、圧縮されたデータのサイズを更に縮小し、蓄積用スペースまたは送信に要する帯域幅を減じる。
図2に、本発明の原理に従う、画像サーバ20のブロック図を示す。画像サーバ20は蓄積プログラム制御に基づくプロセッサ・アーキテクチャであり、1つまたは複数のプロセッサ205と、画像サーバ20の諸要素を結合させる1つまたは複数の通信経路を表すバス206と、以下に述べる方法を実行するためにプログラム命令およびデータを記憶するメモリ210(揮発性または不揮発性、ハードディスク、CD‐ROM、DVD、ランダムアクセス・メモリRAMなど)と、プレビュー要素225(以下に説明する)を含む画像データを処理するビデオ処理要素220と、濾波済み画像データを表示し画像データに濾波が実行される場合それを表示するディスプレイ230と、通信インタフェース215で表される少なくとも1つの受信機と、を具え、信号経路16を介しビデオ・ソース15に結合して画像データを受信し、インターネット50に結合して圧縮画像データを信号経路21を介し送信する。本発明の他の実施例では、画像データは他の経路、例えば、メモリ210からも供給される、メモリ210は本発明の原理により、ビデオ源15となる。同様に、信号経路16は、インターネット50への通信リンクとなる。画像データは最初に圧縮され、フィルタ・プレビュー要素225に供給される前に復元を必要とする。
図3に、画像サーバ20に使用する本発明の原理に従うフローチャートを例示する。ステップ305で、画像サーバ20は画像データを受信する。画像データは、単一の画像、複数の画像またはビデオ(動画)である。ステップ310で、画像サーバ20は受信した画像データを濾波し、圧縮に先立ち雑音を更に除去する。画像サーバ20は当技術分野で知られるLeeフィルタを使用し、受信した画像データを濾波する。ステップ315で、画像サーバ20はプレビュー画像をディスプレイ230に供給する。このプレビュー画像は、受信した画像データにLeeフィルタが作用していることを視覚的に表示する。ステップ320で、付加的雑音を除去するために、Leeフィルタのフィルタ・パラメータを更に調節すべきかどうか判断がなされる。本例では、ディスプレイ230上でプレビユー画像を見ている操作員は、フィルタのパラメータを調節する決定をなし、プレビュー画像の明暗部分を見ることにより「知覚される」輝度レベルを達成する。以下に更に述べるように、画像サーバ20は、フィルタ・パラメータを自動的に調節するようにプログラムされる。ステップ325で、フィルタ・パラメータが調節され、ステップ310で、受信した画像データは、新しいフィルタ・パラメータで再び濾波される。もしフィルタ・パラメータの更なる調節がなければ、ステップ330で、濾波済み画像は当技術分野で知られる適当な圧縮技術で圧縮される。圧縮された画像は、インターネット50で送信され、または後で検索するために記憶される。
ステップ315に関し上述したように、プレビュー表示能力が、雑音低減フィルタに追加される。図4に、プレビュー表示能力を有する雑音低減フィルタの実施例を示す。フィルタ・プレビュー要素225には、フィルタ480と、ビデオ変換器485と、マルチプレクサ(MUX)490が含まれる。フィルタ480はLeeフィルタを雑音低減フィルタとして実施し、画像データ401から雑音を更に除去する。フィルタ480は、供給された画像データ401に作用して、濾波済み画像データ481をMUX490に供給する。本発明の態様に従い、また、フィルタ480は、少なくとも1つのフィルタ制御信号421を供給する。フィルタ制御信号421は、ビデオ変換器485でビデオ信号に変換され、MUX490に供給される。プレビュー・モード信号424は更に、MUX490の動作を制御し、少なくとも2つの動作モード間で選択を行う。本例で、プレビュー・モード信号424は二進法の信号形態を表し、論理レベル‘1’は「プレビュー・フィルタの動作モード」に対応し、論理レベル‘0’は「プレビュー濾波済み画像モード」に対応する。表示用信号のこの区分けおよびモードの数は発明的コンセプトに必要とされない。濾波済み画像データとフィルタ制御信号は同時にディスプレイ230の2つのウインドウで別々に見られる。複数の表示モードもある。本例で、もしプレビュー・モード信号424がプレビュー濾波済み画像モードを表すなら、MUX490は濾波済み画像データ481を信号426としてディスプレイ230に供給する。もしプレビュー・モード信号424がプレビュー・フィルタの動作モードを表すならMUX490はビデオ形態のフィルタ制御信号421(すなわち、信号511)を信号426としてディスプレイ230に供給する。
Leeフィルタは、画像データ401の小部分のエッジ・アクティビティを測定することにより、各画素ごとに濾波プロセスをダイナミックに変更する。すなわち、Leeフィルタは、画像の小さい矩形部分(ウインドウ)における信号のアクティビティ(エッジ・ディテール)の量を調べて、各ウインドウの中心画素に平滑化するアルゴリズムを適用する。平滑化アルゴリズムは、中心画素の濾波(フィルタリング)の量を、ウインドウ内でのエッジ・アクティビティ(edge activity)の関数として変える。フィルタ制御信号421は、特定の画素グループの或る時点におけるエッジ・アクティビティの量を表す。フィルタ480が画像データ401に雑音濾波を実行している場合、フィルタ制御信号421から発生される画像はエッジ・アクティビティを示す。それゆえ、フィルタ制御信号421を表す画像を見ることにより画像内で雑音の多い場所を見つけ出し濾波量を微調整するのが容易となり、雑音は低減され、望まれる画像の詳細(ディテール)はそのまま残される。図5に、エッジ・アクティビティ表示の例を示す。画像71と72は何れも、同じ画像データ401に作用する本発明の原理に従うフィルタ制御信号のモノクロム(白黒)画像である。画像71と72は、フィルタ制御信号をグレースケールで表し、暗い部分は比較的多量の濾波がフィルタ480で実行されていることを示し、明るい部分は比較的少量の濾波がフィルタ480で実行されていることを示す。発明的コンセプトの一例において、プレビュー・フィルタ動作モードの間、ユーザはディスプレイ230上でフィルタ制御信号の画像を観察して、フィルタ制御信号479(図4)を調節し、フィルタ480で実行される濾波量を変え、エッジ・アクティビティ(画像71と72の明るい部分)の画像を見て、所定の平均輝度レベルがフィルタ制御信号の画像上で達成されようにする。画像71では明るい部分が少なく、エッジ・アクティビティが少ない。フィルタ480は、明るい部分が多い(エッジ・アクティビティが多い)画像72に関連する濾波済み画像(図示せず)と比較してそれほど鮮鋭でない濾波済み画像(図示せず)を発生する。利用者は、ユーザ・インタフェース(テキスト・ボックスなど)を実施することにより、濾波量を調節できる。図5に、濾波量を制御するためのユーザ・インタフェースをスライダ・ウインドウ(slider window)85として示す。スライダ86がスライダ・コントロール87の一端から他端へと移動すると、それに比例してフィルタ制御信号479が変えられ、濾波量(図5の画像71と72で表す)が変えられる。
図6と図7に、フィルタ・プレビュー要素225の別の実施例を示す。画像データ401は、ビデオの輝度(Y)とクロマ(Cr、Cb)成分の多重ストリームであり、これはフィルタ・プレビュー要素225で処理される。当技術分野で知られるように、Yは輝度(ルミナンス)を表し、CrとCbは色情報(Crは赤マイナス輝度信号に対応し、Cbは青マイナス輝度信号に対応する)。以下の記述で、「画素」という用語は処理の説明を簡略化するために使用されるが、フィルタは実際にはY、Cr、Cb成分を別々に処理する。
フィルタ・プレビュー要素225(図2)は、要素405、要素410、要素415、要素420、およびミクサ425(図6)を含んでいる。一般的に言えば、Leeフィルタは、MxLグループの画素に作用する。説明のため、M=L=7と仮定する。従って、各画素グループは7行の画素を有し、各行に7画素が含まれる。要素405は6個のライン遅延メモリ/バッファ(図示せず)を含み、特定の画素グループのために画素の行を連続的に供給する(信号406で表す)。要素405は、当技術分野で知られる、ラスタ・タイミング号403を発生する。各画素グループの3行目は中心画素を含んでいる。この中心画素は信号406−1(図6)として示される。
本発明の態様に従い、Leeフィルタを使用して画像データ(静止画またはビデオ)を適応的に濾波する。Leeフィルタは、画像データに適応し、鋭いエッジ(すなわち、エッジ・ディテールの多い画像部分)に達するとバック・オフ(後退)する。要素415において、Leeフィルタは最初に、各画素グループ(ウインドウ)の局所平均(localmean)を以下の等式に従って計算する。
Figure 2007521680

ここで、Nはフィルタ・ウインドウ内の画素数、xはその画素グループ(ウインドウ)内の各画素を表す。この場合、N=49、すなわち、各画素グループ内に49個の画素がある。要素415は信号416を発生し、これは1つの画素グループの局所平均を表す。局所平均信号416はミクサ425と要素410に供給される。
或る特定の画素グループの局所平均が決定された後、要素410は同じ49画素のグループに関する局所分散(local variance)を以下の等式に従って計算する。
Figure 2007521680

要素410は信号411(特定の画素グループの局所分散を表す)を要素420に供給し要素420はブレンド(blend)係数β(平滑化制御信号)を次の等式で決定する。
Figure 2007521680

ここで、
Figure 2007521680

は雑音分散の推定値であり、濾波の程度を制御するため利用者が調節できるパラメータである(例えば、図4の信号479)。要素420は信号421(決定した混合係数βを表す)をミクサ425に供給する。ミクサ425は、プレビュー濾波済み画像モードにおいてLeeフィルタにより実行された濾波量を次の等式で決定する。
Figure 2007521680

ここで、xは特定の画素グループの中心画素である。等式(4a)は以下のように書き替えられる。
Figure 2007521680

特に、βがゼロのとき(局所分散が推定値以下または推定値に等しいとき)、ミクサ425は画像データ401の濾波を最大とする(局所平均の100%がフィルタ出力信号としてミクサ425より供給される)。逆に言えば、βの値が1に向かって増加する(局所分散が推定値以上に増加する)につれ、ミクサ425は画像データ401の濾波を少なくする。
換言すれば、Leeフィルタの局所分散値は、局所平均(すなわち、濾波済み中心画素)と未濾波(unfiltered)中心画素の混合を制御する制御信号として使用される。濾波の総量は
Figure 2007521680

の値を調節することによって制御される。局所分散が増加する(エッジ・ディテールが増加する)につれ、フィルタの出力信号として供給される未濾波中心画素が増加するよう混合が変えられる。局所分散が減少する(画像領域がフラットになる)につれ、混合は局所平均を支持する方向に移動する、すなわち、フィルタの出力信号として供給される濾波済み中心画素が増加する。
Figure 2007521680

は幾つかの方法で、例えば、上述したスライダ・ウインドウ85(図5)で、調節することができる。
本発明の原理に従い、ミクサ制御信号はモノクロム・ビデオ信号に変換される。ミクサ425は、プレビュー・モード信号424に応答しプレビュー・フィルタ動作モードを提供する。その結果生じるプレビュー画像(図5)は、局所分散が低い場合(最多の濾波が実行される場合)に暗く、局所分散が高い場合(実行される濾波が最少の場合)に明るい。
図7に、ミクサ425の実施例を示す。ミクサ425は輝度変換器505、マルチプレクサ(MUX)510、515、520、タイミングおよびコントロール要素525、および組合せ要素530を具える。タイミングおよびコントロール要素525は、ラスタ・タイミング信号403に応答し、ディスプレイ230上に画像を表示するためビデオ信号のタイミングを制御する。組合せ要素530は、上記の等式(4b)を実行する。輝度変換器505とMUX510はフィルタ制御信号421(β)をモノクロム・ビデオ信号511に変換する。特にこの実施例では、プレビュー・フィルタ動作モードはYサンプルに実行される濾波を示す。輝度変換器505はフィルタ制御信号421(β)を輝度信号に変換し、MUX510はこの信号を、(タイミングおよびコントロール要素525の制御下で)CrおよびCb値の代りに、固定黒クロマ値c(信号509)と多重し、モノクロム・ビデオ信号511を発生する。MUX515は、濾波済み画像データ481またはビデオ形態のフィルタ制御信号421(すなわち、信号511)を、選択されたモード(プレビュー・モード信号424で表す)の関数として選択する。MUX520も、タイミングおよびコントロール要素525の制御下にあり、各ビデオ・ラインの画像期間のMUX515の出力信号または水平/垂直帰線期間の中心画素(信号406−1)の何れかを選択し、同期信号と帰線消去信号(これは信号481または信号511の中に存在しない)を維持する。注目すべきことにこの発明的コンセプトは、CrとCbの濾波をプレビューするために容易に拡張される。
上述のフィルタは、種々のアナログ/ディジタル・ビデオ・ソースでテストされた。一般に最良の画像改善は、雑音分散推定値
Figure 2007521680

が低い値に設定されると起こり、プレビュー表示面積の約70%が明るい灰色または白色になる。
Figure 2007521680

の値を大きくすると、濾波が全体的に増大し、プレビュー表示に暗い灰色部分と黒い部分が多くなる。このため、画像データの濾波が増大するので、濾波済み画像にぼやけた部分が多く発生する。
本発明の原理により、1つのフィルタに対し少なくとも1つの制御信号がビデオ信号に変換され、濾波済み画像に代り、または濾波済み画像と共に、表示される。フィルタ制御信号の画像の平均輝度レベルを調節することにより、フィルタの設定(例えば、雑音分散推定値
Figure 2007521680

)を素早く調節し、画像をぼやかさずに、画像データ内の雑音を減少させ、その後の濾波済み画像データの圧縮を改善する。この発明的コンセプトはリアルタイムに適用されるが、フィルタの設定、またはフィルタのテンプレート(本発明のコンセプトに従い決定される)もメモリ210に記憶される。フィルタ・テンプレートは、特定の画像データにアプリオリ(a priori)に関連し、画像データを濾波する際将来の参考に利用できる。従って、ストリーミングするために、特定の画像データがビデオ源15からあとで検索されるとき、関連するフィルタ・テンプレートがプロセッサ205によってメモリ210から再生され、アプリオリで決定された濾波量でストリーミング画像を発生する。画像データがリアルタイムで濾波されるにしても、または後の検索用にフィルタ・テンプレートが作成されるにしても、画像データに対するフィルタの設定を調節することによって、幾つかの方法で実行できる。例えば、「プレビュー・フィルタ動作モード」でビデオ全体を見ることができる。上述した雑音分散推定値
Figure 2007521680
を達成する設定は、リアルタイムで実行でき、あるいはリアルタイムで記録でき、後の検索用に関連するフィルタ・テンプレートを作成する。あるいは、ビデオは、1つまたは複数の異なるビデオ・フレームにおいてサンプリングすることができ、サンプリングされた各ビデオ・フレームは、ビデオの他の部分に対して使用される関連するフィルタ設定を有する。
上述のように、フィルタの設定を調節する1つの方法は、ユーザがフィルタ制御信号の画像を見て、雑音分散推定値を調節し、特定の平均輝度レベルを達成する。本発明の別の態様に従い、フィルタ制御信号の画像の目標平均輝度レベルは、アプリオリに設定することができる。ひとたびこの目標レベルが設定されると、図3のフローチャートは修正される。特にステップ315、320、325はそれぞれ、ステップ815、820、825(図8)で置き換えられる。ステップ815で、フィルタ制御信号の画像の実際の平均輝度レベルが決定される。ステップ820で、この実際の輝度レベルはフィルタ制御信号の画像の目標輝度レベルと比較される。実際の輝度レベルが実質的に目標輝度レベルと等しくなければ、ステップ825で、フィルタが調節される。これに関して、ステップ825は以前の調節の結果を記憶し、フィルタの設定をどの方向に調節するかを決定し、フィルタ制御信号の画像の総合輝度を目標輝度レベルにドライブする。フィルタ制御信号の画像の実際の平均輝度レベルが目標輝度レベルに実質的に等しい(例えば、1%以内にある)ならば、上述のように、ステップ330(図3)が実行される。
注目すべきは、この発明的コンセプトはハードウェアとソフトウェアを任意に組み合わせて実施できることである。例えば、画像サーバ20は、メモリ210に記憶したコンピュータ・プログラムを実行することができ、上述した「プレビュー・フィルタ動作モード」または「プレビュー濾波済み画像モード」選択のためのユーザ・インタフェースを提供する。これを図9に示す。図9はメニュー式ユーザ・インタフェースであり、メニュー項目を選択し、特定のモードを選択できる。例えば、「Edit Menu:編集メニュー」51コマンドを選択すると、メニュー項目のリストが更に表示され、追加的選択に利用できる。これらの追加的メニュー項目として、コマンド52(必ずしも、発明的コンセプトに関連していない)、プレビュー・フィルタ動作モード53、およびプレビュー濾波済み画像モード54などがある。例えば、メニュー項目のプレビュー・フィルタ動作モード53を選択すると、信号424が該当する値に設定され、濾波が画像データ401に実行されている場合それをディスプレイ230に表示するプレビュー・モードが得られる。
上記の事項は単に本発明の原理を説明したものであり、従って、本発明の原理を具現化し、且つその技術思想と範囲内にある多数の代替構成(本文中に明記されていないが)を当業者は創案できることが理解されるであろう。例えば、これらの機能的要素は、別個の機能的要素として図示されているが、1つまたは複数の集積回路(IC)上で具現化され、且つ1つまたは複数の蓄積プログラム制御プロセッサ(例えば、マイクロプロセッサまたはディジタル信号プロセッサDSP)内で具現化される。Leeフィルタに関して説明されているが、他の形態または組合せの濾波も使用される。画像サーバに関しても説明されているが、その発明的コンセプトは、単一の物理的装置(ラップトップ・コンピュータのような)または複数の装置間に配分される、蓄積プログラム制御に基づくシステムに適用される。濾波はコンピュータをベースとする1つの端末で実行されるが、少なくとも1つの制御信号が別の装置(コンピュータをベースとするしないによらず)で表示するために送信される。従って、本文中に示す実施例に多数の変更がなされ、且つ特許請求の範囲に記載の本発明の技術思想と範囲から離脱することなく他の構成も創案できることが理解されるべきである。
本発明の原理を具現化するコンテンツ配信システムを例示する。 本発明の原理に従う画像サーバを例示する。 本発明の原理に従うフローチャートを例示する。 本発明の原理に従うフィルタ・プレビュー要素を例示する。 ユーザ・インタフェースと共に、本発明の原理に従う2つのプレビュー・フィルタ操作画像を例示する。 本発明の原理に従う別のフィルタ・プレビュー要素を例示する。 本発明の原理に従う別のフィルタ・プレビュー要素を例示する。 本発明の原理に従うフローチャート(図3の続き)を例示する。 本発明の原理に従うメニュー式ユーザ・インタフェースを例示する。

Claims (25)

  1. 画像データから雑音(ノイズ)を除去する方法であって、
    画像を表す画像データを受信するステップと、
    受信した画像データを濾波(フィルタ)して、画像データから雑音を除去し、濾波済み(filtered)画像データを供給するステップと、
    受信した画像データに濾波(フィルタリング)が実行されていることを表示するステップと、から成る、前記方法。
  2. 濾波済み画像データを表示するステップを更に含む、請求項1記載の方法。
  3. 濾波済み画像データを圧縮して、圧縮された濾波済み画像データを供給するステップを更に含む、請求項1記載の方法。
  4. 前記圧縮された濾波済み画像データを終点に送信するステップを更に含む、請求項3記載の方法。
  5. 前記表示するステップに応答し、前記濾波するステップに使用するフィルタ・パラメータを調節するステップを更に含む、請求項1記載の方法。
  6. 画像データを濾波する際、将来の参考に前記調節したフィルタ・パラメータを記憶するステップを更に含む、請求項5記載の方法。
  7. 濾波がLeeフィルタに従い実行される、請求項1記載の方法。
  8. 画像データを濾波して、濾波済み画像データを供給するステップと、
    濾波に使用する制御信号をビデオ信号に変換するステップと、
    ビデオ信号を表す画像を表示するステップと、から成り、
    前記表示画像が、画像データが濾波されていることを示す、前記方法。
  9. 濾波がLeeフィルタに従い実行される、請求項8記載の方法。
  10. 制御信号が、Leeフィルタの平滑化(smoothing)制御信号である、請求項9記載の方法。
  11. 前記変換するステップで、制御信号をモノクロム(白黒)ビデオ信号に変換する、請求項10記載の方法。
  12. 前記変換するステップで、制御信号をモノクロム・ビデオ信号に変換する、請求項8記載の方法。
  13. 濾波済み画像データにおけるエッジ・アクティビティ(edge activity)を画像が白黒で表す、請求項8記載の方法。
  14. 制御信号が統計的関数を表す、請求項8記載の方法。
  15. 統計的関数が画像データの少なくとも一部の局所分散(local variance)である、請求項8記載の方法。
  16. 前記一部が前記画像データの画素グループである、請求項15記載の方法。
  17. 画像データの処理に使用する方法であって、
    画像データを濾波し、少なくとも1つのフィルタ制御信号の少なくとも1つの値に従い濾波済み画像データを供給するステップと、
    前記少なくとも1つのフィルタ制御信号をビデオ信号に変換するステップと、
    ビデオ信号を表す画像を表示するステップと、
    前記表示画像に応答し、少なくとも1つのフィルタ制御信号の少なくとも1つの値を調節するステップと、から成る、前記方法。
  18. 前記調節するステップで、前記表示画像の平均輝度レベルと所定の平均輝度レベルを比較する、請求項17記載の方法。
  19. 画像データを処理するサーバ(server)であって、
    画像データを濾波し、濾波済み画像データを供給するフィルタと、
    フィルタの少なくとも1つの制御信号をビデオ信号に変換するビデオ変換器と、
    ビデオ信号を表す画像を表示するディスプレイと、から成る、前記サーバ。
  20. 前記ディスプレイが、濾波済み画像データも表示する、請求項19記載のサーバ。
  21. 画像データを受信する受信機と、
    受信した画像データを濾波し画像データから雑音を除去するビデオ処理要素において、該ビデオ処理要素はフィルタ・プレビュー要素を含み、該ビデオ処理要素内で制御信号を表すビデオ信号を供給する、前記ビデオ処理要素と、
    ビデオ信号を表す画像を表示するディスプレイにおいて、雑音が画像データから除去されているのを前記画像が視覚的に表示する、前記ディスプレイと、から成る、ビデオ・プロセッサ。
  22. 画像データを濾波して、濾波済み画像データおよびフィルタ制御信号を供給するためのフィルタと、
    フィルタ制御信号をビデオ信号に変換するビデオ変換器と、
    前記ビデオ信号を表す画像を表示するディスプレイと、から成る、装置
  23. 前記フィルタとビデオ変換器とディスプレイに結合されて、モード制御信号に応答し、濾波済み画像データまたはビデオ信号を前記ディスプレイに結合させるマルチプレクサを更に具える、請求項22記載の装置。
  24. 前記フィルタがLeeフィルタであり、前記制御信号が前記画像データの少なくとも一部の局所分散の尺度となる、請求項22記載の装置。
  25. プロセッサをベースとするシステムのためにコンピュータで実行できる命令を有する、コンピュータで読み出される媒体(メディア)であって、前記システムは、ユーザ・インタフェースを提供するために、
    画像データの処理に使用する複数の表示モードのうち1つの選択を可能にするステップにおいて、前記複数の表示モードの少なくとも1つは画像データ内で雑音の濾波が行われていることを表示する、前記選択を可能にするステップと、
    画像データ内で雑音の濾波に使用する少なくとも1つのフィルタ制御信号の調節を可能にするステップと、から成る方法を実行する、前記コンピュータで読み出される媒体。
JP2005507882A 2003-08-04 2003-08-04 画像の雑音(ノイズ)を減じる装置と方法 Expired - Fee Related JP4526482B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/US2003/024525 WO2005017817A1 (en) 2003-08-04 2003-08-04 Apparatus and method for reducing noise in an image

Publications (2)

Publication Number Publication Date
JP2007521680A true JP2007521680A (ja) 2007-08-02
JP4526482B2 JP4526482B2 (ja) 2010-08-18

Family

ID=34192548

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005507882A Expired - Fee Related JP4526482B2 (ja) 2003-08-04 2003-08-04 画像の雑音(ノイズ)を減じる装置と方法

Country Status (6)

Country Link
US (1) US7706624B2 (ja)
EP (1) EP1654690A4 (ja)
JP (1) JP4526482B2 (ja)
CN (1) CN100361141C (ja)
AU (1) AU2003258084A1 (ja)
WO (1) WO2005017817A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7522763B2 (en) * 2004-07-30 2009-04-21 Mitutoyo Corporation Method of measuring occluded features for high precision machine vision metrology
US7590303B2 (en) * 2005-09-29 2009-09-15 Samsung Electronics Co., Ltd. Image enhancement method using local illumination correction
JP4954800B2 (ja) * 2007-06-06 2012-06-20 オリンパス株式会社 顕微鏡撮像システム
CN101094313B (zh) * 2007-07-25 2011-05-18 北京中星微电子有限公司 一种图像噪声抑制装置和方法
KR101678690B1 (ko) * 2010-04-15 2016-11-24 삼성전자주식회사 이미지 처리 방법 및 장치
KR101700362B1 (ko) * 2010-08-16 2017-01-31 삼성전자주식회사 영상 처리 방법 및 영상 처리 장치
WO2012042771A1 (ja) * 2010-09-28 2012-04-05 パナソニック株式会社 画像処理装置、画像処理方法及び集積回路
US10134121B2 (en) * 2015-03-10 2018-11-20 Beamr Imaging Ltd Method and system of controlling a quality measure
EP3185555B1 (en) * 2015-12-23 2023-07-05 Université de Genève Image compression method with negligible and quantifiable information loss and high compression ratio
CN115152236A (zh) * 2020-02-21 2022-10-04 阿里巴巴集团控股有限公司 处理色度信号的方法
CN111667436A (zh) * 2020-05-08 2020-09-15 武汉中观自动化科技有限公司 一种用于无线三维扫描仪的图像传输方法及装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05161036A (ja) * 1991-12-09 1993-06-25 Matsushita Electric Ind Co Ltd テレビジョン受信機
JPH10294885A (ja) * 1997-04-17 1998-11-04 Sony Corp 画像処理装置およびその方法
US5949916A (en) * 1997-06-23 1999-09-07 Samsung Electronics Co., Ltd. Modified automatic regressive filter and filtering method therefor
US6389176B1 (en) * 1997-09-26 2002-05-14 Trident Systems, Inc. System, method and medium for increasing compression of an image while minimizing image degradation

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4238772A (en) * 1979-08-03 1980-12-09 The United States Of America As Represented By The Secretary Of The Air Force Image enhancement using on-line spatial filtering
AU583202B2 (en) * 1987-02-06 1989-04-20 Fujitsu Limited Method and apparatus for extracting pattern contours in image processing
US5625714A (en) * 1991-01-10 1997-04-29 Olympus Optical Co., Ltd. Image signal decoding device capable of removing block distortion with simple structure
US5355178A (en) * 1991-10-24 1994-10-11 Eastman Kodak Company Mechanism for improving television display of still images using image motion-dependent filter
US5682326A (en) 1992-08-03 1997-10-28 Radius Inc. Desktop digital video processing system
US5352878A (en) * 1993-01-29 1994-10-04 United Parcel Service Of America, Inc. Method and apparatus for decoding bar code symbols using independent bar and space analysis
US5519451A (en) 1994-04-14 1996-05-21 Texas Instruments Incorporated Motion adaptive scan-rate conversion using directional edge interpolation
US5798948A (en) * 1995-06-20 1998-08-25 Intel Corporation Method and apparatus for video filtering
KR19980073964A (ko) * 1997-03-20 1998-11-05 김영환 영상신호의 모양정보 부호화시 윤곽선 정합 이동 벡터 추정 방법
EP0961506B1 (en) * 1998-05-20 2003-03-26 Texas Instruments France Autostereoscopic display
US6340994B1 (en) * 1998-08-12 2002-01-22 Pixonics, Llc System and method for using temporal gamma and reverse super-resolution to process images for use in digital display systems
US6697497B1 (en) * 1998-12-22 2004-02-24 Novell, Inc. Boundary identification and characterization through density differencing
US6697534B1 (en) * 1999-06-09 2004-02-24 Intel Corporation Method and apparatus for adaptively sharpening local image content of an image
EP1230805B1 (en) * 1999-11-11 2008-11-19 STMicroelectronics Asia Pacific Pte Ltd. Video signal noise level estimator
KR100344807B1 (ko) * 2000-01-12 2002-07-20 엘지전자주식회사 영상 신호 보정 장치 및 방법
WO2002043401A1 (en) * 2000-11-22 2002-05-30 Koninklijke Philips Electronics N.V. Video signal processing
US6678009B2 (en) * 2001-02-27 2004-01-13 Matsushita Electric Industrial Co., Ltd. Adjustable video display window
US6973218B2 (en) * 2001-04-25 2005-12-06 Lockheed Martin Corporation Dynamic range compression
US7082211B2 (en) * 2002-05-31 2006-07-25 Eastman Kodak Company Method and system for enhancing portrait images

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05161036A (ja) * 1991-12-09 1993-06-25 Matsushita Electric Ind Co Ltd テレビジョン受信機
JPH10294885A (ja) * 1997-04-17 1998-11-04 Sony Corp 画像処理装置およびその方法
US5949916A (en) * 1997-06-23 1999-09-07 Samsung Electronics Co., Ltd. Modified automatic regressive filter and filtering method therefor
US6389176B1 (en) * 1997-09-26 2002-05-14 Trident Systems, Inc. System, method and medium for increasing compression of an image while minimizing image degradation

Also Published As

Publication number Publication date
AU2003258084A1 (en) 2005-03-07
CN1820273A (zh) 2006-08-16
JP4526482B2 (ja) 2010-08-18
US20060245661A1 (en) 2006-11-02
US7706624B2 (en) 2010-04-27
EP1654690A1 (en) 2006-05-10
CN100361141C (zh) 2008-01-09
WO2005017817A1 (en) 2005-02-24
EP1654690A4 (en) 2010-08-11

Similar Documents

Publication Publication Date Title
JP6964807B2 (ja) エンドツーエンド単一レイヤの下位互換性のある符号化パイプラインにおける、高忠実度の完全参照及び低減参照符号化
US8558772B2 (en) Image display apparatus
US7880814B2 (en) Visual processing device, display device, and integrated circuit
US7013025B2 (en) Image correction apparatus
US8957899B2 (en) Image processing apparatus and method for controlling the same
JP6282863B2 (ja) ハイダイナミックレンジ映像をトーンマッピングするためのグラフィカルユーザインターフェース
US7742059B2 (en) Filling blank spaces of a display screen
US8831404B2 (en) Reproducing apparatus and reproducing method
JP4526482B2 (ja) 画像の雑音(ノイズ)を減じる装置と方法
EP0484102A2 (en) System and method for image enhancement
JP5514344B2 (ja) 映像処理装置、映像処理方法、テレビジョン受像機、プログラム、及び記録媒体
US20070110332A1 (en) Flicker correction for moving picture
US6903782B2 (en) System and method for performing segmentation-based enhancements of a video image
WO2018231968A1 (en) Efficient end-to-end single layer inverse display management coding
US7106346B2 (en) Signal processing apparatus and method, recording medium, and program
JP2006065676A (ja) 画像処理装置およびその方法
JP2020154609A (ja) 情報処理装置および情報処理方法
US20070242898A1 (en) Image processing apparatus, image processing method, and image processing program
EP3639238A1 (en) Efficient end-to-end single layer inverse display management coding
JP6190482B1 (ja) 表示制御装置、表示装置、テレビジョン受像機、表示制御装置の制御方法、制御プログラム、及び記録媒体
KR20080055718A (ko) 개인용 비디오 플레이어들을 위한 tv 사용자 인터페이스및 처리
JP2023530728A (ja) 適応型輝点減衰を伴う逆トーンマッピング
JP2008060876A (ja) 画像記録装置
JPH10248027A (ja) Sn比改善装置
US6301384B1 (en) Low pass blurring image filter for filtering only green

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20080401

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20080401

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20080415

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091110

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20100209

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20100217

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100528

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100601

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130611

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130611

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130611

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees