JP4234358B2 - ノイズ出現の評価を利用して画像処理経路を選択するシステムおよび方法 - Google Patents
ノイズ出現の評価を利用して画像処理経路を選択するシステムおよび方法 Download PDFInfo
- Publication number
- JP4234358B2 JP4234358B2 JP2002184911A JP2002184911A JP4234358B2 JP 4234358 B2 JP4234358 B2 JP 4234358B2 JP 2002184911 A JP2002184911 A JP 2002184911A JP 2002184911 A JP2002184911 A JP 2002184911A JP 4234358 B2 JP4234358 B2 JP 4234358B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- image processing
- processing path
- noise
- output
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012545 processing Methods 0.000 title claims description 143
- 238000000034 method Methods 0.000 title claims description 37
- 238000011156 evaluation Methods 0.000 title description 4
- 238000006243 chemical reaction Methods 0.000 claims description 35
- 230000009466 transformation Effects 0.000 claims description 18
- 230000006835 compression Effects 0.000 claims description 7
- 238000007906 compression Methods 0.000 claims description 7
- 238000004422 calculation algorithm Methods 0.000 description 11
- 230000000007 visual effect Effects 0.000 description 11
- 230000004044 response Effects 0.000 description 10
- 238000009877 rendering Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 239000002245 particle Substances 0.000 description 5
- 238000000844 transformation Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 230000001419 dependent effect Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000012634 optical imaging Methods 0.000 description 2
- 238000001228 spectrum Methods 0.000 description 2
- 241000282412 Homo Species 0.000 description 1
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000002238 attenuated effect Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000007935 neutral effect Effects 0.000 description 1
- 230000000414 obstructive effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000000053 physical method Methods 0.000 description 1
- 238000013441 quality evaluation Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20004—Adaptive image processing
- G06T2207/20008—Globally adaptive
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Facsimile Image Signal Circuits (AREA)
- Picture Signal Circuits (AREA)
Description
【発明の属する技術分野】
本発明は一般にデジタル画像処理分野に関し、より具体的には、ノイズ出現が受容可能な程度である出力画像が得られるように各画像に対し適切な画像処理経路を選択する方法に関する。
【0002】
【従来の技術】
画像形成システムの設計において、仕上がり画像を人間が見た際に気付く恐れがある画像劣化の程度を評価できるようにすべきである。合わせて、粒状性が原因で画像がどの程度劣化するかを認識することも画像再生システムを利用する際に重要であり、画像形成の各段階で利用される主要な要素の選択に大きな影響を及ぼす場合がある。
【0003】
画像形成システムにおいて、光が当った際に本来は一様であるべき応答の変動をノイズと呼ぶ。従来の写真システムにおいてこのような密度の変動は、マイクロデンシトメーターを用いた物理的測定を通じてフィルムや印画紙等の写真材料の光学密度を観察することができる。本来は一様な領域の密度変動の測度として2乗平均平方根(rms)値や標準偏差が用いられる。この値を粒度と呼ぶ。出力画像を人間が見た際に感じられる、このような光学密度の不要かつ不規則な変動を粒状性またはノイズ出現と呼ぶ。このように、物理的に測定された粒度の程度を人間が見れば粒状性のレベルとして知覚される。
【0004】
出力画像におけるノイズまたは粒状性の出現を評価および定量化するさまざまな工夫がなされてきた。C.Bartlesonは自著の“粒度から粒状性を予測する”(J.Phot.Sci.,Vol.33,No.117,1985)で、粒状性は可視印刷密度0.8において粒度に依存していることを示し、粒状性Giと粒度σvの間に以下の関係があることを突き止めた。
【数1】
Gi=a*log(σv)+b
ここにa、bは定数である。
【0005】
【発明が解決しようとする課題】
Bartlesonの研究により、与えられた画像形成システムが生成する粒状性を評価することが可能になった。残念ながら、共通の画像形成システムから生成された別々の画像の粒状性が大きく異なる場合がある。その理由は、出力画像を作成すべく適用された任意の画像変換がシステム内のノイズの可視性を変えることができるためである。例えば、引き伸ばし装置を用いて写真ネガを写真印画紙に結像することができる。しかし、出力プリントのノイズ出現は、ネガに対する露光量に強く依存している。このように、所定の画像処理システムが生成した任意の出力画像のノイズ出現は、Bartlesonの研究により可能とされた評価とは全く異なる可能性がある。Bartlesonの研究では、画像形成システムが特定の画像にどの画像処理経路を適用すべきかを決定する際に役立たない。
【0006】
米国特許第5,641,596号(1997年6月24日登録)においてGray他は、ノイズテーブルを決定する方法について述べている。ノイズテーブルは特定の画像キャプチャ装置の密度依存ノイズを記述するものであり、従って画像キャプチャ装置により作成された画像の密度依存ノイズを定量化する。ノイズテーブルは通常、特定のスキャナ装置および(フィルム等の)画像キャプチャ装置からの出力として設計されている。あるいは、ノイズテーブルはデジタル画像キャプチャ、または写真フィルムを表現することができる。ノイズテーブルはノイズの標準偏差を、平均コード値の関数として表わす。しかし、ノイズテーブル単独では出力画像におけるノイズの可視性の良い指標とはならない。画像形成システムの出力画像は多数の画像変換の産物であり、その各々が自身のノイズ特性を修正する。従って、(画像キャプチャ装置の特性を定量化するノイズテーブル等の)出力前ノイズテーブルは出力画像のノイズ特性を表わしていない。
【0007】
ノイズ情報は、ユーザーが選択したアルゴリズムのパラメータを変更するために利用されてきた。米国特許第5,694,484号(l997年12月2日登録)においてCottrell他は、入出力装置で用いる特性情報(例:ノイズを特徴付ける変調転送機能およびウィーナー・パワースペクトル)を利用し、画質の客観的な測度を計算し、画質の客観的な測度を最適化することにより画像変換用のパラメータ(鮮明度向上等)を決定する方法について述べている。Cottrell他はまた、共通の画像生成システムにより生成されたすべての出力画像には同様なノイズ出現が見られるという暗黙の仮定をしている。しかし、これはあてはまらない。画像形成装置から直接生成された画像は同じようなノイズや鮮明度の特性を持っていても、これらの特性は出力画像を生成する画像変換により大幅に修正され得るからである。その上、例えば米国特許第6,097,470号や第6,097,471号(共にBuhr他、2000年8月1日登録)等、多くの画像処理システムにおいて画像変換の操作は画像の解析に基づいてさまざまである。画像に依存する画像変換の影響をCottrellは考慮していない。このように、Cottrellの方法を用いて各画像に対して好適な処理経路を決定することができない。その理由は、共通のソースで生成され、共通の出力装置でレンダリングされたすべての画像は、それぞれ個別の特徴があるにもかかわらず同じ扱いを受けるからである。
【0008】
米国特許第6,091,861号(2000年7月18日登録)においてKeys他は、画像の露光(すなわち、SBAバランス)に基づいて鮮明化パラメータを決定する方法を記述する。この方法はまた、画像の粒度を考慮に入れており、粒度に関係する予想粒状性値(PGI)を計算する。しかし、この方法には画像に依存する画像変換を適用した場合の影響を考慮する柔軟性がない。さらに、正常に露光された被写体の画像でさえ、程度のバラツキが大きいノイズを含む背景領域を伴うことがあるため、露光を用いてノイズをプリントに集約する方法はエラーを起こしやすい。
【0009】
特定の出力画像におけるノイズ出現を判定する別の方法に、出力画像を尺度として並べられた標準ノイズサンプルの組との比較がある。最初の粒度スライドすなわち尺度はThomas Maier他により設計され、制作された。(例えば、Maier他の“粒状性と粒度の関係”、SPSE第43回年次会議予稿集、SPSE、バージニア州スプリングフィールド、1990年、207〜208ページを参照されたい。)C.James Bartlesonは粒度と粒状性を結び付ける基本的な関係を確定した。
【0010】
Maier他は、デジタルシミュレーション機器を用いて、粒子の量が増えても同じ平均密度を有する一連の一様かつ中立的な粒子パッチを生成した。続いて、マイクロデンシトメーターによる測定および基本的な心理物理の関係を利用して粒状性をrms粒度に関連付けた。Cookingham他は、米国特許第5,709,972号(1998年1月20日登録)、および第5,629,769号(1997年5月13日登録)に記述されているように改良された粒子尺度を生成した。このようなノイズ尺度により個人が効果的に出力画像におけるノイズの出現を数値的に定量化することができるが、このプロセスは労働集約的であって、見る人間の側でそれぞれの出力画像を個別に評価する必要がある。その上、マイヤー他は、画像処理システムを通過する各画像に対して好適な画像処理経路が選択されるような手段について述べていない。
【0011】
米国特許第6,205,257号(2001年3月20日登録)においてEschbachは、統計的に高レベルのノイズを含む画像に対してノイズフィルタリング画像変換を適用する方法について述べている。ノイズフィルタリング画像変換は、画像のコントラストが所定のレベルより低く、かつその画像が第二の所定のレベルより暗い場合にのみ適用されている。
【0012】
従って、出力画像のノイズ出現の評価に基づいて画像処理経路を自動処理で選択するニーズがある。以下の好適な実施の形態と添付の請求項の詳細説明、および図面を参照することにより、上記その他の態様、目的、特徴および本発明の利点がより明確に理解および評価されよう。
【0013】
【課題を解決するための手段】
上述のニーズは、本発明に従って画像内のノイズ出現に基づいて画像を処理する方法およびシステムを提供することにより満たされる。本方法およびシステムは、ノイズの大きさと画像輝度の対応を表わすノイズテーブルを編成し、各経路が少なくとも1個の画像変換を含む複数の画像処理経路候補を提供し、少なくとも1個の画像処理経路内の画像変換(群)に従ってノイズテーブルを修正して出力ノイズテーブルを編成し、ノイズテーブルからノイズ測度を生成し、ノイズ測度に基づいて複数の画像処理経路候補から1個を選択し、選択された画像処理経路を画像に適用するステップと手段とを含み、前記ノイズ測度は少なくとも1個の画像処理経路により処理された画像におけるノイズ出現を表わしている。
【0014】
【発明の実施の形態】
以下の記述において、本発明はソフトウェアプログラムにより実装された方法として説明する。このようなソフトウェアと同等な機能をハードウェアでも構成可能であることが当業者には理解されよう。画質向上のためのアルゴリズムや方法は広く知られているため、以下の説明は特に本発明に基づく方法の一部を構成するか、またはより直接的に協働するアルゴリズムや方法のステップに焦点をあてる。ここで特に図示・記述されないその他のアルゴリズムや方法、およびハードウェアおよび/またはソフトウェアは、当分野で公知の材料、部品、要素から選択されてよい。以下に開示する明細書において、すべてのソフトウェアの実装は当分野における通常の技術範囲に含まれる。
【0015】
本発明は、アナログ画像処理システムのアナログ画像またはデジタル画像処理システムのデジタル画像のどちらでも、ノイズ出現の評価に基づいて画像処理経路を選択するのに利用できる点に留意されたい。アナログ画像は、写真ネガまたは写真ポジ(スライド)、あるいは写真プリント等の物理媒体上で表現された画像である。デジタル画像は通常、赤、緑、青各色のピクセル値、あるいは輝度に対応する1個の単色ピクセル値の2次元配列である。さらに、好適な実施の形態は1024行と1536列のピクセルからなる画像を参照しながら記述されるが、異なる解像度および寸法のデジタル画像を用いても同様の、少なくとも許容できる結果が得られることは当業者には理解されよう。表記法に関して、デジタル画像の第x行、y列を指す座標(x,y)に位置するデジタル画像のピクセル値は、それぞれ位置(x,y)における赤、緑、青色のデジタル画像チャネルを指す3組の値[r(x,y),g(x,y),b(x,y)]から構成されるものとする。この点に関して、デジタル画像は特定の個数のデジタル画像チャネルで構成されていると考えてよい。赤、緑、青色の2次元配列で構成されるデジタル画像の場合、画像は3個のチャネル、すなわち赤、緑、青色スペクトルのチャネルで構成される。さらに、色信号から輝度チャネルnを形成することができる。デジタル画像チャネルの第x行、y列を指す座標(x,y)に位置するデジタル画像チャネルnのピクセル値を、n(x,y)として示す単一の値とする。さらに、画像fがアナログ画像である場合、値f(x,y)は(x,y)が指す位置における輝度を表わす。
【0016】
図1に、ノイズ出現が許容範囲内にある画像を得るために特定の画像処理経路で画像を処理する、本発明の好適な実施の形態を示す。大まかに言えば、本発明では画像からノイズ特徴が許容範囲内にある出力画像を生成する画像処理経路の選択が行なえるか、または少なくとも出力画像へのノイズ出現を最小限にする。特定の画像から出力画像を生成する際にいくつかの画像処理経路101,...,10p,...,10Pの利用が考えられよう。一般に、第一の画像処理経路候補101をベース画像処理経路と呼ぶ。この画像処理経路は、広範囲の入力画像に対して概ね満足できる出力画像を生成すべく最適化されている。残りの画像処理経路102,...,10Pは、生成され得るあらゆる画像の少なくとも部分集合に対するベース画像処理経路よりも満足度の高い出力画像を生成しようとするさまざまな試みである代わりの画像処理経路である。画像処理経路およびそれらの構成について以下により詳しく述べる。
【0017】
出力ノイズテーブルジェネレータ2はノイズの大きさと画像の輝度の間の関係および画像処理経路を記述した入力ノイズテーブルを受信して、ノイズの大きさと画像処理経路により処理された画像の輝度を表わす出力ノイズテーブルを生成する。出力ノイズテーブルジェネレータ2は、画像処理経路10を構成する各画像変換20に対応するノイズ変換を適用する(図2参照)。ノイズ変換は確率変数の関数の原理を応用して、画像のノイズに対する各画像変換20の影響を考慮すべくノイズテーブルを修正する。入力ノイズテーブルから出力ノイズテーブルを生成した例として、Gallagher他による米国特許出願第09/879,343号(2001年6月12日出願)を参照されたい。
【0018】
出力ノイズテーブルジェネレータ2は続いて、画像処理経路10を画像に適用して生成され得る出力画像のノイズ特徴に対応する出力ノイズテーブルを生成する。出力ノイズ測度ジェネレータ4は出力ノイズテーブルを受信して、画像処理経路から生成された出力画像におけるノイズの出現を表わす値である出力ノイズ測度N1,N2,...を生成する。従って、出力ノイズ測度は入力ノイズテーブルと画像処理経路10の関数である。
【0019】
入力ノイズテーブルは画像のノイズに関係する情報を含んでいる。一般に、各画像取得システムを特徴づけるため別々の入力ノイズテーブルが必要とされる。例えば、カラーネガフィルムを走査して生成されたデジタル画像の場合、各フィルムスピードに対し別々の入力ノイズテーブルが必要とされよう。先に引用した米国特許第5,641,596号で、Gray他はフィルムで一様に露光される領域を走査したピクセルの標準偏差を測定して入力ノイズテーブルを生成できるプロセスについて述べている。そのような方法で作られた入力ノイズテーブルは、ノイズ標準偏差の測定に用いられた一様な露光の光源と共通の光源を有するすべての画像についてノイズ特性を記述することが画像処理に精通する者には理解できよう。
【0020】
本発明が、実際に画像を調べることなく、出力画像のノイズ出現の評価に基づいて画像処理経路10xを選択できる機能を備えていることに留意されたい。これにより本発明の方法は、画像を代わりの画像処理経路の各々に通して処理することなく好適な画像処理経路10を選択できる。本発明は入力として入力ノイズテーブルおよび画像処理経路10を用いることに留意されたい。これらの入力は、画像およびそれが意図する目的に関する情報を含むが、自身は非画像データである。画像に関連付けられた非画像データをメタデータと呼ぶことが多い。このように本発明は、メタデータ解析だけに基づいて画像処理経路10を選択する機能を備えている。画像解析を必要としないため、経路選択装置32が画像処理経路10xを選択するために必要な計算は通常のコンピュータにより極めて高速に行なえる。
【0021】
同様のしかたで出力ノイズ測度N1,N2,...,Np,...,NPが生成され、その各々が画像処理経路101,102,...10p,...,10Pにより生成された各出力画像のノイズ出現を評価する。これらの出力ノイズ測度は経路選択装置32に入力される。経路選択装置32は出力ノイズ測度N1,N2,...,Np,...,NPを解析して、その解析に基づいて画像処理経路を選択する。一般に、経路選択装置は閾値Tを超えない出力ノイズ測度と関連付けられた画像処理経路10x(0<X≦P)を選択する。選択された画像処理経路10xは(一部または全部)続いて出力画像を生成するために経路アプリケータ6により画像に適用される。
【0022】
図2に、画像変換201,202、...,20m,...,20Mで構成される画像処理経路20を示す。各画像変換20(画像変換ステップとも呼ばれるが同じ事である)は、出力画像fM(x,y)を生成するために入力画像f0(x,y)に逐次適用される。画像変換mを画像fm-1(x,y)に適用した結果画像fm(x,y)が得られる。各画像変換20は画像に適用される操作である。画像変換の例として、参照テーブル(LUT)の適用、バランスシフトの適用、行列の適用、鮮明化またはぼかし操作の適用、および写真印画紙の色調応答の適用が含まれる。これらの画像変換は通常、デジタル画像のピクセル値に適用される数学的演算であるが、本発明をデジタル画像に限定する必要はない。例えば、写真ネガを写真印画紙に露光するのに必要なすべてのステップを一連の画像変換20としてモデル化することができる。画像変換20は画像に生じる物理的ステップを表現することができる。例えば、画像変換20は画像を写真印画紙にプリントする処理を表現でき、あるいは画像変換20は較正目標密度と実際に実現可能な密度との差違を表現することができる。
【0023】
さらに画像変換20は、人間の視覚系が出力画像を認識した際に実行される処理を表現することができる。このように、本発明はデジタルおよびアナログ画像形成システムの両方の粒状性を評価するのに有用である。当業者には、画像変換20は経路アプリケータ6により画像処理経路10を画像に適用することを意味しているものと理解できよう。例えば、画像変換ステップ20はデジタル画像のピクセル値に対する数学的演算の実行を表わしていてもよい。あるいは、画像変換20は人間の視覚系の物理的ステップや動作を表わしているかもしれない。このような場合画像変換は単に画像が受ける処理としては出力画像を見ることを表わしているだけなので、経路アプリケータ6は目視可能な出力画像を生成するために人間の視覚系の応答を表わす画像変換20を適用する必要がない。
【0024】
再び図1を参照するに、出力画像を生成する際に利用される候補としていくつかの(すなわち複数の)画像処理経路101,...,10p,...,10pを示す。これらの画像処理経路10pは画像処理経路候補と呼ばれる。一般に、第一の画像処理経路候補101をベース画像処理経路と呼ぶ。この画像処理経路は、広範囲の入力画像に対して概ね満足できる出力画像を生成すべく最適化されている。残りの画像処理経路102,...,10Pは、生成され得るあらゆる画像の少なくとも部分集合に対するベース画像処理経路よりも満足度の高い出力画像を生成しようとするさまざまな試みである代わりの画像処理経路である。この点で代わりの画像処理経路10pは、好ましくないノイズレベルにある画像に対してノイズ出現の程度を下げようと試みるであろう。画像処理に精通する者には、出力画像のノイズ出現をベース画像処理経路101が生成した出力画像に比べて減らすように画像処理経路10pを構成できることが理解できよう。例えば、平均的には、画像のバランスを取る画像変換20により画像をわずかに暗くするだけで目障りなノイズを含む画像のノイズ出現を減らせる。画像のバランシングは、シーンバランスアルゴリズム(SBA)、または自動露光決定アルゴリズム(高速光学プリンタやフォトCDスキャナで利用されるもの等、例えば米国特許第4,945,406号、Cok、1990年7月3日登録を参照)により行なわれることが多い。
【0025】
さらに、米国特許第5,708,693号(Aach他、1998年1月13日登録)で述べているノイズ削減を行なう画像変換20を本発明で採用してもよい。図1に示す画像処理経路候補10pは、画像処理経路を構成する画像変換、画像変換の順序、あるいは画像変換を生成するパラメータにより異なる。好適な実施の形態において、経路選択装置32は出力画像を生成する際にどの画像処理経路候補を用いるかを決定する。経路選択装置32は選択された画像処理経路候補10xを出力する。
【0026】
図3に、写真ネガをデジタル走査した入力画像からの写真プリントである出力画像を生成するように設計された画像変換20で構成された画像処理経路10の例を示す。そのような画像処理経路の例が、上で引用した米国特許第6,097,470号および第6,097,471号(共にBuhr他)に開示されている。最初に、画像形成装置の応答における非線型性を補償する画像変換20により画像形成装置応答が線型化される(42)。デジタル画像がフィルムから起こされている場合、写真フィルムの応答における非線型性を訂正する方法が実装されてもよい。そのような方法が米国特許第5,134,573号(Goodwin、1992年7月28日登録)に開示されている。
【0027】
次に、デジタルおよび光学画像形成システムの両方で必要とされる、バランス調整を評価・適用する変換20により画像をバランスさせる(44)。このバランスは、例えば自動露出決定アルゴリズム(高速光学プリンタまたはフォトCDスキャナ等で利用されているもの。例えば米国特許第4,945,406号(Cok、1990年7月31日登録)を参照)で得ることができる。次の画像変換20は、画像に対し階調調性を決定・適用するコントラスト調整装置46である。画像のコントラストは自動アルゴリズムにより評価できる。さらに、デジタル画像のコントラストも同様に好適なレベルのコントラストに修正することができる。画像コントラストを評価して、画像のコントラストを調整する手段を提供するアルゴリズムの例がLee並びにKwonにより米国特許第5,822,453号に開示されている。
【0028】
次に、画像を出力媒体上に印刷すべく準備する画像変換20により画像がレンダリングされる(48)。レンダリング、すなわち画像密度の出力媒体密度へのマッピングはデジタル画像形成および光学画像形成の両方で生じ、当業者には公知である。米国特許第6,097,470号に画像表現が記述されている。デジタルまたは光学画像のいずれのレンダリングも、LUT(1、3、または多次元の)により良好な正確度で表現することができる。例えば、 図4に画像密度(走査密度)を出力画像の出力媒体の密度に関連付けるLUTのグラフを示す。
【0029】
最後に、出力画像が人間の目にどう見えるかをモデル化する画像変換20により人間視覚系がモデル化される。人間視覚系は、出力画像の明るい領域よりも暗い領域で生じる密度差違に鋭敏ではないため、この差違を考慮することは出力画像におけるノイズ出現の定量化に有利である。画像が人間視覚系にどのように見えるかは、図5に示すように出力画像(媒体)の密度をCIELABのL*値に関係付ける画像変換LUTにより表現できる。
【0030】
図6〜図8は、異なる画像処理経路10を用いて共通の入力画像から生成された出力画像を含む。図6に示す出力画像は、以下の画像変換20を(表記の順に)含む画像処理経路を適用して生成されている。
画像形成装置応答リニアライザ42
バランスアプリケータ44
コントラスト調整器46
レンダリング装置48
人間視覚系モデラー52
【0031】
図6に示すように、この処理経路により生成された画像は、画像の高密度領域において非常にノイズが多いように見える。
【0032】
図7に示す出力画像は、以下の画像変換により処理された同じ入力画像から生成されている。
画像形成装置応答リニアライザ42
バランスアプリケータ44
レンダリング装置48
人間視覚系モデラー52
【0033】
最後に、図8に示す出力画像は再び、以下の画像変換により処理された同じ入力画像より生成されている。
画像形成装置応答リニアライザ42
バランスアプリケータ44
レンダリング装置48
人間視覚系モデラー52
【0034】
図8に示す出力画像の場合、バランスアルゴリズムは、バランスアルゴリズムのパラメータを調整することにより推奨値よりも0.8段階暗く印刷せざるを得なかった。このように暗くすることにより結果的に出力画像の粒状性が減少するが、これは一目瞭然である。
【0035】
図6〜図8に示す画像からわかるように、
図6、図7、図8に示す画像について本発明に従って計算した出力ノイズ測度はそれぞれ390、290、と240であり、出力画像で観測されたノイズ出現に対応している。
【0036】
出力ノイズ測度は出力画像中のノイズ出現に関係している。好適な実施の形態において、出力ノイズ測度の値が大きいほど出力画像のノイズ出現が大きいことを示す。従って、2個以上の出力画像におけるノイズ出現の相対的な順位を、それぞれの出力画像について計算した出力ノイズ測度により決定することができる。
【0037】
再び図1を参照するに、経路選択装置32が特定の画像用に適切な画像処理経路10Xを選択できるように、出力ノイズ測度Npが経路選択装置32に入力される。与えられた画像aに対する画像処理経路10Xの選択行為をs(a)=Xで表わす。つまり画像aに対して10Xが選択されたことを示す。好適な実施の形態において、経路選択装置32の動作は次のように特徴付けることができる。すなわち、N1>T1の場合には、s(a)=po(ここにNpoはすべてのNp<T1について最大値)であり、それ以外の場合には、s(a)=1である。
【0038】
本来、選択された経路は、それに関連付けられた出力ノイズ測度が閾値T1より小さい限り、ベース画像処理経路101である。さもなければ、N1>T1であり、この場合選択された画像処理経路10Xは最大値Npを有するが依然としてT1より小さい画像処理経路10pである。画像処理経路10pのいずれも出力ノイズ測度がT1より小さい場合、選択された画像処理経路10Xが、最小出力ノイズ測度を有する画像処理経路10pである。
【0039】
本システムで時間短縮が可能なのは、出力ノイズ測度および代替的な画像処理経路102,...,10p,、...,10Pを必要なときだけ、すなわちN1>T1の場合のみ計算すればよい点である。この条件は発明者が観察した画像の約15%に当てはまる。
【0040】
画像処理に精通する者には、上記の画像変換のいくつかは画像変換の動作パラメータの設定が画像コンテンツに依存することが理解されよう。通常は画像の低解像度バージョンを調べることにより処理時間の短縮および複雑さの緩和を実現している。出力ノイズテーブルは、実際の画像向けに調整された画像変換に応じて入力ノイズテーブルを処理することにより決定される。ノイズ測度を画像を取り込んだシステムではなく、画像自体を基準にすることにより、経路選択装置32の動作を各画像ごとに変えることができる。言い換えるならば、第一の画像用の好適な画像処理経路10Xは、たとえ画像が同じ画像取り込み装置から生成されて、同じ印刷装置により同じ媒体に印刷されていても、第二の画像用の好適な画像処理経路10Xと異なる場合がある。
【0041】
閾値T1を最適化して多くの画像にわたり最高の画質を実現することが可能である。このことは、最初にA個の画像(好適にはA≧50)の組を選択し、続いて画像処理経路10pの各々に従ってA個の画像の各々に対して出力画像を生成することにより実現できる。次に、出力画像の各々について見る者が自分の好みを指定する場合がある。これらの好みを品質データとみなすことができる。Qapを、p番目の画像処理経路10pで生成されたa番目の画像に与えられた画質評価とする。経路選択装置32の目標は、それぞれの画像aに対して、a番目の画像に最高の画質評価Qapoを与えた画像処理経路poを選択することである。経路選択装置32がa番目の画像に対して選択した画像処理経路10xをs(a)で示すと、画像群の全体的な平均画品質AQは次式で計算することができる。
【数2】
【0042】
このように、T1は全体的な平均画質AQが最大になるまで変化してよい。T1の値は、当分野で公知の最適化技法によりAQの値を最大化することにより決定される。この方法により、T1の値は250に決定された。図6から図8に示す画像を再び参照するに、図8の画像を生成した画像処理経路10は経路選択装置32により選択される。
【0043】
当業者はまた、経路選択装置32の動作をさまざまな方式で実現できることを理解できよう。例えば、選択された画像処理経路10を決定するために経路選択装置32に対し、次の規則を代わりに実装してもよい。すなわち、N1<T1の場合には、s(a)=1であり、それ以外の場合には、s(a)=poである。ただし、NpoはすべてのNpにわたる最大値であるとする。
【0044】
経路選択装置32の別の代替的な実施の形態を図9に示す。この実施の形態において、ベース画像処理経路101からの出力ノイズ測度N1は、被選択画像処理経路10を選択するために経路選択装置32が用いる。
【0045】
この代替的な経路選択装置32の動作は以下のように表わされる。すなわち、N1<T1の場合にはs(a)=1であり、それ以外でかつN1<T2の場合にはs(a)=2であり、それ以外でかつN1<T3の場合にはs(a)=3である。
【0046】
この代替的実施の形態が最も良く機能を発揮するのは、出力画像におけるノイズ出現が目障りになるのを抑制すべく講じたステップの程度が、経路数が増加するにつれて増大する場合である。またT1<T2<T3であることに留意されたい。
【0047】
図10に、経路選択装置32を経路受容性決定装置34および経路ジェネレータ36で置き換えた、さらに別の実施の形態を示す。この実施の形態は、繰り返しを行なって選択された画像処理経路10Xにおいてアーカイブする方法を開示する。既に述べたように、出力ノイズ測度N1が出力ノイズテーブルジェネレータ2および出力ノイズ測度ジェネレータ4により、ベース画像処理経路101を考慮して計算される。この出力ノイズ測度は経路受容性決定装置34に入力される。出力ノイズ測度が閾値T1より小さい場合、処理経路により生成された出力画像は許容範囲内にあり、ベース画像処理経路101が選択された画像処理経路10Xとして選択される。そうでない場合、既存の画像変換20を修正するか、または既存の画像変換20を追加したり削除することにより、経路ジェネレータ36が第二の画像処理経路を生成する。経路ジェネレータ36により出力された画像処理経路10は続いて出力ノイズテーブルジェネレータ2に入力されて出力ノイズテーブルを生成し、出力ノイズテーブルはノイズ測度ジェネレータ4に入力されて出力ノイズ測度を生成する。この出力ノイズ測度は続いて経路受容性限定詞34に入力されて、第二の画像処理経路が受容されるか否かが決定される。経路受容性決定装置34の動作は次のように表わされる。すなわち、Np<T1の場合は、画像処理経路は選択された画像処理経路10xとして受理され、それ以外の場合には、画像処理経路は受理されない。
【0048】
経路ジェネレータ34は一組の規則に基づいて決定論的方法で動作する。経路ジェネレータ34の反復毎に、出力画像におけるノイズ出現を減らすためにステップを追加したり、またはより高度のステップを実行する画像処理経路10pを生成する。例えば、既に述べたように、バランスアプリケータ44が適用した露光訂正は、調整可能なパラメータを調整することにより繰り返し弱められて(例えば0.1段階刻みで)経路ジェネレータ36により生成された各画像処理経路10pを実現することができる。このように、各画像処理経路10pはより暗い(同様にノイズ出現がより少ない)出力画像を生成するであろう。
【0049】
さらに、コントラスト調整装置46は画像にダイナミックレンジ圧縮を適用する。この動作は一般に改良された出力画像を生成するものの、時として出力印刷におけるノイズ出現は、画像の暗い領域が明るくなってノイズが目立つために不都合である。ダイナミックレンジ圧縮の程度はコントラスト調整装置46が生成したLUTの勾配により制御される。経路ジェネレータが生成した各画像処理経路10pは、コントラスト調整装置46が生成したLUTの許容最小勾配の制限値を、ベース画像処理経路で用いられる制限値(0.3が好適)から出発して、小さい増分値(0.05が好適)で上限値(好適には、必然的にコントラスト調整装置46が影響を及ぼすのを防ぐ1.0)まで増大させることができる。許容最小勾配(調整可能なパラメータ)の制限値を増やすことにより、ダイナミックレンジ圧縮が減らすことができ、より暗い陰影を付けても可視ノイズを確実に減らすことができる。
【0050】
例えば、画像の低輝度領域だけに勾配制限値の変化を付けてもよい。出力画質を許容範囲内に維持するために、経路ジェネレータの動作に制約を設ける必要があることに留意されたい。例えば、画像バランスを暗くし過ぎると、出力画像は一面真っ黒になり、ノイズも存在しないが、その出力画像の画質は許容されないであろう。このように、経路ジェネレータ34の設計に際してノイズ出現とベース画像処理経路101からの偏差との間にトレードオフが存在することを理解されたい。
【0051】
【発明の効果】
本発明の利点は、各画像に対して適切な画像処理経路が自動的に選択され、ノイズ出現が許容範囲内にある出力画像が得られることである。
【図面の簡単な説明】
【図1】 本発明の一実施の形態を示す概要ブロック図である。
【図2】 画像変換で構成されている画像処理経路を示すブロック図である。
【図3】 画像処理経路の例を示すブロック図である。
【図4】 レンダリングLUTを示すグラフである。
【図5】 人間の視覚系の反応をモデル化したLUTを示すグラフである。
【図6】 出力画像の例、およびそれに関連付けられた出力ノイズテーブルを示すグラフである。
【図7】 出力画像の例、およびそれに関連付けられた出力ノイズテーブルを示すグラフである。
【図8】 出力画像の例、およびそれに関連付けられた出力ノイズテーブルを示すグラフである。
【図9】 本発明の別の実施の形態を示す概要ブロック図である。
【図10】 本発明のさらに別の実施の形態を示す概要ブロック図である。
【符号の説明】
2 出力ノイズテーブルジェネレータ、4 出力ノイズ測度ジェネレータ、6経路アプリケータ、10p 画像処理経路p、20m 画像変換m、32 経路選択装置、34 経路受容可能性決定装置、36 経路ジェネレータ、42 画像形成装置応答リニアライザ、44 バランスアプリケータ、46 コントラスト調整装置、48 レンダリング装置、52 人間視覚系モデラー。
Claims (6)
- 画像内のノイズ出現に基づいて画像を処理する方法であって、
a)ノイズの大きさと画像輝度の対応を表わすノイズテーブルを編成するステップと、
b)各経路が少なくとも1個の画像変換を含む複数の画像処理経路候補を提供するステップであって、前記複数の画像処理経路候補のうちの1つを、ベース画像処理経路として提供するステップと、
c)前記複数の画像処理経路候補のうち、少なくとも、前記ベース画像処理経路内の画像変換(群)に従って前記ノイズテーブルを修正して出力ノイズテーブルを編成するステップと、
d)前記出力ノイズテーブルからノイズ測度を生成するステップと、
e)前記ベース画像処理経路についての前記出力ノイズテーブルから生成された前記ノイズ測度が所定の閾値以下である場合に、前記ベース画像処理経路を選択し、当該ノイズ測度が前記所定の閾値を越えている場合に、前記複数の画像処理経路候補から、前記ベース画像処理経路の他の1個の画像処理経路を選択するステップと、
f)前記選択された画像処理経路を前記画像に適用するステップと、を含み、
前記各画像処理経路についての出力ノイズテーブルから生成されるノイズ測度は、前記各画像処理経路により処理された画像におけるノイズ出現を表わし、
前記複数の画像処理経路候補のうち、前記ベース画像処理経路の他の画像処理経路は、前記ベース画像処理経路を画像に適用した場合と比較して、適用結果の画像のノイズ出現を低減するように設計された画像変換(群)を含む、ことを特徴とする方法。 - 請求項1に記載の方法において、
前記複数の画像処理経路候補のうち、前記ベース画像処理経路の他の画像処理経路は、前記ベース画像処理経路を画像に適用した場合と比較して、画像をより暗くするように画像バランスを調整する画像変換を含む、
ことを特徴とする方法。 - 請求項1に記載の方法において、
前記複数の画像処理経路候補のうち、前記ベース画像処理経路の他の画像処理経路は、前記ベース画像処理経路を画像に適用した場合と比較して、画像に対してより弱いダイナミックレンジ圧縮を行う画像変換を含む、
ことを特徴とする方法。 - 請求項1に記載の方法において、
前記複数の画像処理経路候補のうち、前記ベース画像処理経路の他の画像処理経路は、調整可能なパラメータを備える画像変換であって画像に対してダイナミックレンジ圧縮を行う画像変換を含む、
ことを特徴とする方法。 - 請求項4に記載の方法において、
前記調整可能なパラメータは、ダイナミックレンジ圧縮における許容最小勾配を制限するものである、
ことを特徴とする方法。 - 請求項4に記載の方法において、
前記調整可能なパラメータは、画像の低輝度領域においてのみ、ダイナミックレンジ圧縮における許容最小勾配を制限するものである、
ことを特徴とする方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US09/894,762 US6856702B2 (en) | 2001-06-28 | 2001-06-28 | System and method for selecting an image processing path using estimated appearance of noise |
US09/894,762 | 2001-06-28 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003051004A JP2003051004A (ja) | 2003-02-21 |
JP4234358B2 true JP4234358B2 (ja) | 2009-03-04 |
Family
ID=25403496
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002184911A Expired - Fee Related JP4234358B2 (ja) | 2001-06-28 | 2002-06-25 | ノイズ出現の評価を利用して画像処理経路を選択するシステムおよび方法 |
Country Status (3)
Country | Link |
---|---|
US (2) | US6856702B2 (ja) |
EP (1) | EP1274042A3 (ja) |
JP (1) | JP4234358B2 (ja) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7127125B2 (en) * | 2002-01-04 | 2006-10-24 | Warner Bros. Entertainment Inc. | Registration of separations |
JP2003219158A (ja) * | 2002-01-17 | 2003-07-31 | Ricoh Co Ltd | 画像形成装置 |
JP4069943B2 (ja) * | 2003-12-03 | 2008-04-02 | 株式会社ニコン | ノイズ除去の強弱を画面内でコントロールする画像処理装置、画像処理プログラム、画像処理方法、および電子カメラ |
US7606437B2 (en) * | 2005-01-11 | 2009-10-20 | Eastman Kodak Company | Image processing based on ambient air attributes |
US7570829B2 (en) * | 2005-02-17 | 2009-08-04 | Eastman Kodak Company | Selection of alternative image processing operations to maintain high image quality |
JP2006254230A (ja) * | 2005-03-11 | 2006-09-21 | Toshiba Corp | 情報処理装置およびプログラム |
US8130389B2 (en) * | 2007-12-20 | 2012-03-06 | Xerox Corporation | Cost effective image path for multiple office applications |
US8437571B2 (en) * | 2009-04-30 | 2013-05-07 | Hewlett-Packard Development Company, L.P. | Method and system for adaptive context-embedded prediction |
US8625006B2 (en) * | 2010-07-26 | 2014-01-07 | Sony Corporation | Active imaging device and method for speckle noise reduction |
KR102128630B1 (ko) * | 2014-03-24 | 2020-06-30 | 두산인프라코어 주식회사 | 유압시스템에서 스윙 모터의 제어방법 및 유압시스템 |
Family Cites Families (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4518898A (en) * | 1983-02-22 | 1985-05-21 | Image Graphics, Incorporated | Method and apparatus for correcting image distortions |
US4945406A (en) * | 1988-11-07 | 1990-07-31 | Eastman Kodak Company | Apparatus and accompanying methods for achieving automatic color balancing in a film to video transfer system |
US5115229A (en) * | 1988-11-23 | 1992-05-19 | Hanoch Shalit | Method and system in video image reproduction |
JP3373508B2 (ja) * | 1989-12-26 | 2003-02-04 | イーストマン コダック カンパニー | フィルム上に捕捉されたイメージの線形範囲を延長する方法 |
JP3023694B2 (ja) * | 1990-07-27 | 2000-03-21 | セイコーインスツルメンツ株式会社 | 多参照画像用光パターン認識方法 |
US5374997A (en) * | 1992-07-31 | 1994-12-20 | Xerox Corporation | High addressability error diffusion with minimum mark size |
US5448053A (en) * | 1993-03-01 | 1995-09-05 | Rhoads; Geoffrey B. | Method and apparatus for wide field distortion-compensated imaging |
US5363209A (en) * | 1993-11-05 | 1994-11-08 | Xerox Corporation | Image-dependent sharpness enhancement |
US5598185A (en) * | 1994-06-10 | 1997-01-28 | Integrated Image Solutions | System for analyzing medical images having a particular color and intensity look-up table |
KR0150150B1 (ko) * | 1994-07-14 | 1998-10-15 | 김광호 | 에지 강조를 이루는 오차확산 방식 이치화 방법 및 장치 |
US5694484A (en) * | 1995-05-15 | 1997-12-02 | Polaroid Corporation | System and method for automatically processing image data to provide images of optimal perceptual quality |
US5629769A (en) * | 1995-06-01 | 1997-05-13 | Eastman Kodak Company | Apparatus and method for the measurement of grain in images |
EP0777891B1 (en) * | 1995-06-23 | 2001-10-17 | Koninklijke Philips Electronics N.V. | Image processing for noise reduction |
US5641596A (en) * | 1995-12-05 | 1997-06-24 | Eastman Kodak Company | Adjusting film grain properties in digital images |
US5633511A (en) * | 1995-12-22 | 1997-05-27 | Eastman Kodak Company | Automatic tone scale adjustment using image activity measures |
US5923775A (en) * | 1996-04-04 | 1999-07-13 | Eastman Kodak Company | Apparatus and method for signal dependent noise estimation and reduction in digital images |
JPH09298657A (ja) * | 1996-04-30 | 1997-11-18 | Fuji Photo Film Co Ltd | 画像処理装置 |
US5822453A (en) * | 1996-12-10 | 1998-10-13 | Eastman Kodak Company | Method for estimating and adjusting digital image contrast |
US6014469A (en) * | 1996-12-31 | 2000-01-11 | Xerox Corporation | System and method for selectively noise-filtering digital images |
US6091861A (en) * | 1998-02-03 | 2000-07-18 | Eastman Kodak Company | Sharpening algorithm adjusted for measured exposure of photofinishing images |
US6097471A (en) * | 1998-05-28 | 2000-08-01 | Eastman Kodak Company | Digital photofinishing system including film under-exposure gamma, scene balance, and image sharpening digital image processing |
US6097470A (en) * | 1998-05-28 | 2000-08-01 | Eastman Kodak Company | Digital photofinishing system including scene balance, contrast normalization, and image sharpening digital image processing |
US6707950B1 (en) | 1999-06-22 | 2004-03-16 | Eastman Kodak Company | Method for modification of non-image data in an image processing chain |
US6636645B1 (en) * | 2000-06-29 | 2003-10-21 | Eastman Kodak Company | Image processing method for reducing noise and blocking artifact in a digital image |
JP4197858B2 (ja) * | 2001-08-27 | 2008-12-17 | 富士通株式会社 | 画像処理プログラム |
-
2001
- 2001-06-28 US US09/894,762 patent/US6856702B2/en not_active Expired - Lifetime
-
2002
- 2002-06-17 EP EP02077402A patent/EP1274042A3/en not_active Withdrawn
- 2002-06-25 JP JP2002184911A patent/JP4234358B2/ja not_active Expired - Fee Related
-
2005
- 2005-01-18 US US11/037,618 patent/US7333669B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
EP1274042A3 (en) | 2004-01-02 |
US7333669B2 (en) | 2008-02-19 |
US20050123212A1 (en) | 2005-06-09 |
EP1274042A2 (en) | 2003-01-08 |
US6856702B2 (en) | 2005-02-15 |
JP2003051004A (ja) | 2003-02-21 |
US20030026492A1 (en) | 2003-02-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4959760B2 (ja) | 画像におけるノイズ出現の評価方法 | |
JP4210577B2 (ja) | 選択的空間フィルタを使用するディジタル画像の階調及び空間特性の向上方法 | |
US6462835B1 (en) | Imaging system and method | |
US7058234B2 (en) | Enhancing the tonal, spatial, and color characteristics of digital images using expansive and compressive tone scale functions | |
US7333669B2 (en) | Selecting an image processing path to provide desired noise | |
US7113649B2 (en) | Enhancing the tonal characteristics of digital images | |
US7043090B2 (en) | Enhancing the tonal characteristics of digital images using expansive and compressive tone scale functions | |
US20070248282A1 (en) | Image Correction Processing System and Image Correction Processing Method | |
JP2000050076A (ja) | シ―ンバランス、コントラスト正規化及び鮮明化のデジタル画像処理を含むデジタル写真仕上げシステム | |
US7130485B2 (en) | Enhancing the tonal and color characteristics of digital images using expansive and compressive tone scale functions | |
EP1304867A2 (en) | Image processing system and method that maintains black level | |
EP1387318B1 (en) | A method of compensating a digital image for the effects of flare light | |
JPH1023279A (ja) | 画像処理装置 | |
JP2021120653A (ja) | チャート、画像処理装置及び画像処理方法 | |
JP2004096291A (ja) | 画像処理装置、画像処理方法、及びそのプログラム並びにそのプログラムを記録した記録媒体 | |
JPH08163385A (ja) | 色変換方法および装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050427 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080501 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20080731 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20080805 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20080822 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20080827 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080926 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20081202 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20081211 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111219 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4234358 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121219 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131219 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R371 | Transfer withdrawn |
Free format text: JAPANESE INTERMEDIATE CODE: R371 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |