JP4959760B2 - 画像におけるノイズ出現の評価方法 - Google Patents

画像におけるノイズ出現の評価方法 Download PDF

Info

Publication number
JP4959760B2
JP4959760B2 JP2009187807A JP2009187807A JP4959760B2 JP 4959760 B2 JP4959760 B2 JP 4959760B2 JP 2009187807 A JP2009187807 A JP 2009187807A JP 2009187807 A JP2009187807 A JP 2009187807A JP 4959760 B2 JP4959760 B2 JP 4959760B2
Authority
JP
Japan
Prior art keywords
noise
image
output
input
measure
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2009187807A
Other languages
English (en)
Other versions
JP2009259298A5 (ja
JP2009259298A (ja
Inventor
シー ギャラガー アンドリュー
タイ−ヨウ チェン キース
Original Assignee
イーストマン コダック カンパニー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by イーストマン コダック カンパニー filed Critical イーストマン コダック カンパニー
Publication of JP2009259298A publication Critical patent/JP2009259298A/ja
Publication of JP2009259298A5 publication Critical patent/JP2009259298A5/ja
Application granted granted Critical
Publication of JP4959760B2 publication Critical patent/JP4959760B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/40Analysis of texture
    • G06T7/41Analysis of texture based on statistical description of texture
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20004Adaptive image processing

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Probability & Statistics with Applications (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

本発明は一般にデジタル画像処理分野、特に出力画像におけるノイズ出現を評価する方法に関する。
画像形成システムの設計において、仕上がり画像を人間が見た際に気付く恐れがある画像劣化の度合を評価できるようにすべきである。合わせて、粒状性が原因で画像がどの程度劣化するかを認識することも画像再生システムを利用する際に重要であり、画像形成の各段階で利用される主要な要素の選択に大きな影響を及ぼす場合がある。
画像形成システムにおいて、光が当った際に本来は一様であるべき応答の変動をノイズと呼ぶ。従来の写真システムにおいてこのような密度の変動は、マイクロデンシトメーターを用いた物理的測定を通じてフィルムや印画紙等の写真材料の光学密度を観察することができる。本来は一様な領域の密度変動の測度として2乗平均平方根(rms)値や標準偏差が用いられる。この値を粒度と呼ぶ。出力画像を人間が見た際に感じられる、このような光学密度の不要かつ不規則な変動を粒状性またはノイズ出現と呼ぶ。このように、物理的に測定された粒度の度合を人間が見れば粒状性のレベルとして知覚される。
出力画像におけるノイズまたは粒状性の出現を評価および定量化するさまざまな工夫がなされてきた。C.Bartlesonは自著の“粒度から粒状性を予測する”(J.Phot.Sci.,Vol.33,No.4,pp.117〜126,1985)で、粒状性は可視印刷密度0.8において粒度に依存していることを示し、粒状性Gと粒度σの間に以下の関係があることを突き止めた。
[数1]
=a*log(σ)+b
ここにa、bは定数である。
C.Bartleson著,"粒度から粒状性を予測する",J.Phot.Sci.,Vol.33,No.4,pp.117〜126,1985
Bartlesonの研究により、与えられた画像形成システムが生成する粒状性を評価することが可能になった。残念ながら、共通の画像形成システムから生成された別々の画像の粒状性が大きく異なる場合がある。その理由は、出力画像を作成すべく適用された任意の画像変換がシステム内のノイズの可視性を変えることができるためである。例えば、引き伸ばし装置を用いて写真ネガを写真印画紙に結像することができる。しかし、出力プリントのノイズ出現は、ネガに対する露光量に強く依存している。このように、所定の画像処理システムが生成した任意の出力画像のノイズ出現は、Bartlesonの研究により可能とされた評価とは全く異なる可能性がある。
米国特許第5,641,596号(1997年6月24日登録)においてGray他は、ノイズテーブルを決定する方法について述べている。ノイズテーブルは特定の画像キャプチャ装置の密度依存ノイズを記述するものであり、従って画像キャプチャ装置により作成された画像の密度依存ノイズを定量化する。ノイズテーブルは通常、特定のスキャナ装置および(フィルム等の)画像キャプチャ装置からの出力として設計されている。あるいは、ノイズテーブルはデジタル画像キャプチャ、または写真フィルムを表現することができる。ノイズテーブルはノイズの標準偏差を、平均コード値の関数として表わす。しかし、ノイズテーブル単独では出力画像におけるノイズの可視性の良い指標とはならない。画像形成システムの出力画像は多数の画像変換の産物であり、その各々が自身のノイズ特性を修正する。従って、(画像キャプチャ装置の特性を定量化するノイズテーブル等の)出力前ノイズテーブルは出力画像のノイズ特性を表わしていない。
ノイズ情報は、ユーザーが選択したアルゴリズムのパラメータを変更するために利用されてきた。米国特許第5,694,484号(l997年12月2日登録)においてCottrell他は、入出力装置で用いる特性情報(例:ノイズを特徴付ける変調転送機能およびウィーナー・パワースペクトル)を利用し、画質の客観的な測度を計算し、画質の客観的な測度を最適化することにより画像変換用のパラメータ(鮮明度向上等)を決定する方法について述べている。Cottrell他はまた、共通の画像生成システムにより生成されたすべての出力画像には同様なノイズ出現が見られるという暗黙の仮定をしている。しかし、これはあてはまらない。画像形成装置から直接生成された画像は同じようなノイズや鮮明度の特性を持っていても、これらの特性は出力画像を生成する画像変換により大幅に修正され得るからである。その上、例えば米国特許第6,097,470号や第6,097,471号(共にBuhr他、2000年8月1日登録)等、多くの画像処理システムにおいて画像変換の操作は画像の解析に基づいてさまざまである。画像に依存する画像変換の影響をCottrellは考慮していない。
米国特許第6,091,861号(2000年7月18日登録)においてKeys他は、画像の露光(すなわち、SBAバランス)に基づいて鮮明化パラメータを決定する方法を記述する。この方法はまた、画像の粒度を考慮に入れており、粒度に関係する予想粒状性値(PGI)を計算する。しかし、この方法には画像に依存する画像変換を適用した場合の影響を考慮する柔軟性がない。さらに、正常に露光された被写体の画像でさえ、度合のバラツキが大きいノイズを含む背景領域を伴うことがあるため、露光を用いてノイズをプリントに集約する方法はエラーを起こしやすい。
特定の出力画像におけるノイズ出現を判定する別の方法に、出力画像を尺度として並べられた標準ノイズサンプルの組との比較がある。最初の粒度スライドすなわち尺度はThomas Maier他により設計され、制作された。例えば、T.O.Maier、D.R.Millerの“粒状性と粒度の関係”(SPSE第43回年次会議予稿集、SPSE、バージニア州スプリングフィールド、1990年、207〜208ページ)を参照されたい。C.James Bartlesonは粒度と粒状性を結び付ける基本的な関係を確定した。
Maier他は、デジタルシミュレーション機器を用いて、粒子の量が増えても同じ平均密度を有する一連の一様かつ中立的な粒子パッチを生成した。続いて、マイクロデンシトメーターによる測定および基本的な心理物理の関係を利用して粒状性をrms粒度に関連付けた。Cookingham他は、米国特許第5,709,972号(1998年1月20日登録)、および第5,629,769号(1997年5月13日登録)に記述されているように改良された粒子尺度を生成した。このようなノイズ尺度により個人が効果的に出力画像におけるノイズの出現を数値的に定量化することができるが、このプロセスは労働集約的であって、見る人間の側でそれぞれの出力画像を個別に評価する必要がある。
従って、上述の問題を回避するための、改良されたノイズ測度が必要になってくる。
上述のニーズは、画像におけるノイズ出現を評価する方法を提供することにより本発明に基づいて満たされ、ノイズの大きさ対画像の輝度を表わすノイズテーブルを編成するステップと、ノイズテーブルからノイズ測度を生成するステップとを含み、前記ノイズ測度は画像におけるノイズ出現を表わしている。
本発明の好適な実施の形態によれば、ノイズテーブルを編成するステップは、ノイズの大きさ対入力画像の輝度を表わす入力ノイズテーブルを編成するステップと、1個以上の画像変換を含む一連の画像処を与えるステップと、各々の画像変換が画像中のノイズに及ぼす影響を規定する適切なノイズ変換を確定するステップと、1個以上のノイズが変換を入力ノイズテーブルに適用して画像中のノイズの評価を表わすノイズテーブルを生成するステップとを含む。
(発明の利点)
本発明の利点は、オペレーターや時間のかかる画像計算を必要とせずに、自動的かつ迅速に画像のノイズ出現の評価手段を提供できる点である。ノイズ出現の評価は、画像に適用される任意の変換を考慮に入れることが可能である。本発明の方法は、人間が行なうノイズ評価との相関が大きいノイズ測度を提供する。
本発明の概要を示すブロック図である。 図1の出力ノイズテーブルジェネレータを示すブロック図である。 ノイズテーブルの生成に用いられる2個の重み付け関数を示すグラフである。((a)は画像の中間階調におけるノイズ内容を強調する重み付け関数を示す。(b)は画像の暗い部分のノイズ内容を強調する重み付け関数を示す。) 画像変換で構成されている画像処理経路を示すブロック図である。 図2のノイズ経路ジェネレータのブロック図である。 ノイズテーブル経路のブロック図である。 画像処理経路の例のブロック図である。 (a)は、レンダリングLUTを示すグラフである。(b)は、人間視覚系の反応をモデル化するLUTを示すグラフである。 出力画像の例およびそれらに関連付けられた出力ノイズテーブルを示すグラフである。(画像変換として、画像形成装置応答リニアライザ42,バランスアプリケータ44,レンダリング装置48,人間視覚系モデラー52を含む画像経路を適用して画像を生成する。) 図9同様に、出力画像の例およびそれらに関連付けられた出力ノイズテーブルを示すグラフである。(画像変換として、画像形成装置応答リニアライザ42,バランスアプリケータ44,レンダリング装置48,人間視覚系モデラー52を含む画像経路を適用して画像を生成する。) 図9同様に、出力画像の例およびそれらに関連付けられた出力ノイズテーブルを示すグラフである。(画像変換として、画像形成装置応答リニアライザ42,バランスアプリケータ44,レンダリング装置48,人間視覚系モデラー52を含む画像経路を適用して画像を生成する。) 本発明の別の実施の形態を示すブロック図である。 図12の出力ノイズテーブルジェネレータの別の実施の形態を示すブロック図である。 本発明の別の実施の形態を示す図である。 本発明に基づく画質決定装置を示す模式的ブロック図である。
以下の記述において、本発明はソフトウェアプログラムにより実装された方法として説明する。このようなソフトウェアと同等な機能をハードウェアでも構成可能であることが当業者には理解されよう。画質向上のためのアルゴリズムや方法は広く知られているため、以下の説明は特に本発明に基づく方法の一部を構成するか、またはより直接的に協働するアルゴリズムや方法のステップに焦点をあてる。ここで特に図示・記述されないその他のアルゴリズムや方法、およびハードウェアおよび/またはソフトウェアは、当分野で公知の材料、部品、要素から選択されてよい。以下に開示する明細書において、すべてのソフトウェアの実装は当分野における通常の技術範囲に含まれる。
本発明は、アナログ画像またはデジタル画像のどちらでもノイズ出現を記述するために利用できる点に留意されたい。アナログ画像は、写真ネガまたは写ポジ(スライド)のように連続的に表現された画像である。デジタル画像は通常、赤、緑、青各色のピクセル値、あるいは輝度に対応する1個の単色ピクセル値の2次元配列である。さらに、好適な実施の形態は1024行と1536列のピクセルからなる画像を参照しながら記述されるが、異なる解像度および寸法のデジタル画像を用いても同様の、少なくとも許容できる結果が得られることは当業者には理解されよう。表記法に関して、デジタル画像の第x行、y列を指す座標(x,y)に位置するデジタル画像のピクセル値は、それぞれ位置(x,y)における赤、緑、青色のデジタル画像チャネルを指す3組の値[r(x,y),g(x,y),b(x,y)]から構成されるものとする。この点に関して、デジタル画像は特定の個数のデジタル画像チャネルで構成されていると考えてよい。赤、緑、青色の2次元配列で構成されるデジタル画像の場合、画像は3個のチャネル、すなわち赤、緑、青色スペクトルのチャネルで構成される。さらに、色信号から輝度チャネルnを形成することができる。デジタル画像チャネルの第x行、y列を指す座標(x,y)に位置するデジタル画像チャネルnのピクセル値を、n(x,y)として示す単一の値とする。さらに、画像fがアナログ画像である場合、値f(x,y)は(x,y)が指す位置における輝度を表わす。
図1によれば、本発明に基づいて出力ノイズテーブルを生成(2)し、さらに出力ノイズテーブルから出力ノイズ測度を生成(4)することにより、出力画像のノイズ出現を記述する出力ノイズ測度が生成される。
通常、出力画像は写真プリントである。また、出力画像はCRTモニターに表示された画像、あるいは紙その他の媒体に印刷または表示された画像であってよい。例えば、出力画像はインクジェット印刷、任意のソフトコピーディスプレイ、感熱印刷、電子写真印刷、レーザー印刷、あるいは他の出力手段により生成されてよい。この点に関して、出力ノイズテーブルジェネレータ2は、入力ノイズテーブルおよび画像処理経路10を入力として受取る。さらに、出力ノイズテーブルジェネレータ2は、オプションとして備えられた重み付け関数および正確度データを受け取ることができる。これらの入力について以下により詳細に述べる。
出力ノイズテーブルジェネレータ2は、出力画像のノイズの輝度依存特性を表わす出力ノイズテーブルを出力する。好適な実施の形態において、出力ノイズテーブルは画像の緑色チャネルに関係するが、出力ノイズテーブルは任意のスペクトルチャネルまたはスペクトルチャネルの組み合わせに関係していてもよい。出力ノイズテーブルは、出力ノイズテーブルの解析を実行する出力ノイズ測度ジェネレータ4に渡されて出力ノイズ測度を出力する。
出力ノイズ測度は出力画像中のノイズ出現に関係している。好適な実施の形態において、出力ノイズ測度の値が大きいほど出力画像のノイズ出現が大きいことを示す。従って、2個以上の出力画像におけるノイズ出現の相対的な順位を、それぞれの出力画像について計算した出力ノイズ測度により決定することができる。
本発明が、実際に画像を調べることなく、出力画像のノイズ出現を判定できる機能を備えていることに留意されたい。本発明では入力ノイズテーブル、画像処理経路、オプションの重み付け関数および正確度データ入力として用いることに留意されたい。これらすべての入力は、画像およびそれが意図する目的に関する情報を含むが、自身は非画像データである。画像に関連付けられた非画像データをメタデータと呼ぶことが多い。このように本発明は、メタデータ解析だけに基づいて画像のノイズ出現を判定する機能を備えている。画像解析を必要としないため、出力ノイズ測度の計算は通常のコンピュータにより極めて高速に行なえる。
図2に出力ノイズテーブルジェネレータ2をより詳細に示す。ノイズテーブルプリプロセッサ18はノイズテーブルを調整するために、重み付け関数および正確度データからの情報を利用する。1組のノイズ変換30を生成する目的で画像処理経路10がノイズ経路ジェネレータ16に入力され、ノイズ経路アプリケータ22によりノイズテーブルに適用されると、画像処理経路10経由で渡される出力画像のノイズ特性に対応する出力ノイズテーブルNが生成される。
出力ノイズテーブルジェネレータ2は入力ノイズテーブルNを受け取る。ノイズテーブルNは画像への出現が予想されるノイズの評価値を含み、その評価値は画像の輝度と、所与の輝度に対して予想されるノイズ度合との関係を定量化する。ノイズテーブルNは各輝度iについてノイズ値σ(i)を与える。通常、デジタル画像の場合ノイズ値σ(i)は、デジタル画像のコード値の測度におけるノイズの標準偏差で与えられる。あるいは、(標準偏差ではなく)ノイズの期待値の別の測度を用いてもよい。例えば、画像の多スペクトルチャネル間の共分散行列によるノイズの定量化は一般的である。また、ノイズのパワースペクトル、またはウィーナーノイズスペクトルによりノイズ度合を定量化することも一般的である。その場合、ノイズテーブルは選択された輝度に対するノイズのパワースペクトルに関する情報を含んでいよう。
例えば、9行、4列からなる入力ノイズテーブルNを以下の表1に示す。第一列は輝度を表し、第2、3、4列はそれぞれ、赤、緑、青色画像チャネルの対応する輝度iのノイズ標準偏差を表わす。ノイズテーブルNに明示的に含まれていない輝度に対するノイズ値σ(i)は補間により決定できる。
入力ノイズテーブルは画像のノイズに関する情報を含む。一般に、各画像取り込み装置を特徴付けるために別々の入力ノイズテーブルが必要である。例えば、カラーネガフィルムを走査して生成されたデジタル画像の場合、それぞれのフィルムスピード毎に別々の入力ノイズテーブルが必要になる。上述の米国特許第5,641,596号に、フィルム上で一様に露光されている領域を走査したピクセルの標準偏差を測定して入力ノイズテーブルを作成できるプロセスが開示されている。そのような方法で作られた入力ノイズテーブルは、ノイズ標準偏差の測定に用いられた一様な露光の光源と共通の光源を有するすべての画像についてノイズ特性を記述することを画像処理に精通する者には理解できよう。
さらに、出力ノイズテーブルジェネレータ2はオプションとして、対応する画像の入力ノイズテーブルNの正確度を表わす正確度データを入力する。正確度データにより入力ノイズテーブルが不正確であることがわかった場合に入力ノイズテーブルを調整することができる。例えば、正確度データは、画像のDmin(最小光学密度)と特定のフィルムまたは画像ソースの期待Dminとの差違Δを示す数値であり得る。次にその差違に対して、ノイズテーブルプリプロセッサ18により以下のようにノイズ標準偏差σ(i)で構成される新しい入力ノイズテーブルを作ることによりノイズテーブルを調整することができる。
[数2]
σ(i)=σ(i+Δ)
ここに、σ(i)は新しいノイズテーブルのノイズ標準偏差である。
ノイズテーブルプリプロセッサ18のさらなる動作に、ノイズテーブルへの重み付け関数の適用がある。重み付け関数は、ある輝度を他のものより重視することができる。ノイズテーブルNが輝度iおよび対応するノイズ標準偏差σ(i)で構成される好適な実施の形態において、重み付け関数w(i)は輝度iの関数である。ノイズテーブルNがノイズのパワースペクトルから構成される別の実施の形態において、重み付け関数は輝度と周波数の両方の関数であろう。重み付け関数w(i)はノイズテーブルプリプロセッサ18により適用されて、次式に基づく新しいノイズテーブル標準偏差を生成する。
[数3]
σ(i)=w(i)σ(i)
ここに、σ(i)は新しいノイズテーブルのノイズ標準偏差である。
図3に、重み付け関数の2例を示す。図3の(a)は画像の中間階調におけるノイズ内容を強調する重み付け関数を示す。図3の(b)は画像の暗い部分のノイズ内容を強調する重み付け関数を示す。好適な実施の形態において、重み付け関数w(i)は、入力ノイズテーブルおよび画像処理経路10に対応する画像のヒストグラムである。画像処理に精通する者は画像ヒストグラムを熟知していよう。ノイズテーブルNを作るためにノイズテーブルプリプロセッサ18の動作を結合することにより、重み付け関数と正確度データの両方が入力ノイズテーブルに適用できることに留意されたい。また、重み付け関数も正確度データも提供されない場合、ノイズテーブルプリプロセッサ18は入力ノイズテーブルNに等しいノイズテーブルNを出力することにも留意されたい。当業者は、重み付け関数がいつでも(例えば、ノイズ経路アプリケータ22の中で)ノイズテーブルに適用可能であることを理解できよう。ノイズテーブルに対する重み付け関数の適用位置を動かす等、好適な実施の形態の変更をしても新規性は認められない。
図4に、画像処理経路10が、画像変換1,2,...,m,...,Mから構成されていることを示す。各画像変換20(画像変換ステップとも呼ばれる)は、出力画像f(x,y)を生成するために入力画像f(x,y)に適用される。画像変換mを画像fm−1(x,y)に適用した結果画像f(x,y)が得られる。各画像変換20は画像に適用される操作である。画像変換の例として、参照テーブル(LUTS)の適用、バランスシフトの適用、行列の適用、鮮明化またはぼかし操作の適用、および写真印画紙の色調応答の適用が含まれる。これらの画像変換は通常、デジタル画像のピクセル値に適用される数学的演算であるが、本発明をデジタル画像に限定する必要はない。例えば、写真ネガを写真印画紙に露光するのに必要なすべてのステップを一連の画像変換20としてモデル化することができる。画像変換20は画像に生じる物理的ステップを表現することができる。例えば、画像変換20は画像を写真印画紙にプリントする処理を表現でき、あるいは画像変換20は較正目標密度と実際に実現可能な密度との差違を表現することができる。さらに画像変換20は、人間の視覚系が出力画像を認識した際に実行される処理を表現することができる。このように、本発明はデジタルおよびアナログ画像形成システムの両方の粒状性を評価するのに有用である。
出力ノイズテーブルジェネレータ2は、画像処理経路10の入力ノイズテーブルおよび画像変換20を用いて出力ノイズテーブルを生成する。入力ノイズテーブル自身は多くの場合、出力画像のノイズ出現とはほとんど相互関係がない。例えば、一連の画像がすべて写真ネガを一回デジタル走査して生成されたが、バランスシフトが異なる場合、それらの画像におけるノイズ出現には非常にバラツキがあるように見える。画像処理システムにおいて多くの場合、出力画像f(x,y)を得るために入力画像f(x,y)に対して画像変換が数回適用される。出力画像を生成するために入力画像に適用される各画像変換20は、出力画像中のノイズ可視性に影響を及ぼす。出力ノイズテーブルジェネレータ2の動作は、入力ノイズテーブルを適切なしかたで修正して画像中のノイズに対する画像変換20の影響を考慮に入れ、それにより出力ノイズテーブルを生成するものである。この修正はノイズ経路アプリケータ22(図2参照)により、ノイズ経路ジェネレータ16が生成したノイズテーブル経路をノイズテーブルNに適用することにより実行される。
図5によれば、画像処理経路10の画像変換20と同様に、ノイズテーブル経路はノイズテーブルNに順次適用されたノイズ変換群30で構成される。画像処理経路10内の各画像変換20は対応するノイズ変換30を有する。ノイズ経路ジェネレータ16は画像処理経路を入力する。各画像変換20について、ノイズ変換ジェネレータ40は対応するノイズ変換30を決定する。
画像中のノイズは確率変数のインスタンスであると考えられる。このように、ノイズに対する各画像変換の影響は、例えばPapulusの“確率、確率変数および確率過程”(McGraw−Hill、1965年)に記述されているような確率変数の関数の原理を用いてモデル化できる。このように、ノイズ変換ジェネレータ40の動作は確率変数の関数の原理に基づいている。画像処理経路の各画像変換20について、ノイズ変換30を行なうことができる。画像に対し画像変換20を適用する結果生じるノイズへの影響をモデル化するためにノイズテーブルに対しノイズ変換30を適用するプロセスはノイズ伝播として知られる。ノイズ経路アプリケータ22は、出力ノイズテーブルを生成するためにノイズ伝播を実行する。米国特許第09/337,792号(Burns他、1999年6月22日出願)は、ノイズテーブルを利用して画像形成システム内のノイズ伝播を詳しく述べている。さらに、Burns出願は、図5に示すように、ノイズ変換30が画像変換20から生成される方法について述べている。
例えば、画像変換20が画像に対してLUTを適用することである場合、画像変換20は関数g(n)として数学的に表現できる。
[数4]
(x,y)=g(f(x,y))
ここに、f(x,y)は画像変換20への画像入力であり、f(x,y)は画像変換20からの画像出力である。
画像ノイズがガウス分布に従い、LUTが局所的に線型であると仮定すれば、ノイズ経路ジェネレータ16のノイズ変換ジェネレータ40は画像変換20に対応するノイズ変換30を生成し、それにより、ノイズテーブルN(σ(i),i)が、輝度レベルiおよび輝度レベルに対応するノイズ値σ(i)で構成される。
[数5]
N(σ(i),i)
ノイズテーブルN(σ(i),i)は、伝播されて、新しいノイズテーブルNを次式のように生成する。
ここに、g‘(i)は輝度iにおいて評価されたLUTの傾きの近似である。LUT局所的傾きの近似法は当業者に公知である。図6は、各画像変換20は対応するノイズ変換30を有し、出力ノイズテーブルNを生成するためにノイズ経路アプリケータ22によりノイズテーブルNに適用されることを示す。
同様のしかたで、ノイズテーブルは多種多様な画像変換20に対応しているノイズ変換30を介して伝播させることができる。Burns他は、LUTS、バランスシフト、行列等の画像変換におけるノイズ伝播について詳述している。好適な実施の形態においてノイズ変換30は各画像変換について生成されているが、より重要な画像変換20に対するノイズ変換30が決定される限り、本発明の利点の大部分が得られることに留意されたい。さらに、Cottrell他が述べているように、空間フィルターを適用した場合のノイズに対する影響を、ノイズのパワースペクトルにフィルター応答の大きさを乗算することによりモデル化できることはデジタル画像処理分野で公知である。
ノイズ経路アプリケータ22の出力は出力ノイズテーブルNである。画像のスペクトルチャネルの各々について別々の出力ノイズテーブルを作成することができる。通常、出力ノイズテーブルNは赤、緑、青色画像チャネルの各々について生成されるが、代替的に、赤、緑、青色、または輝度チャネルのように単一スペクトルチャネル用のノイズテーブルが生成されてもよい。
図7に、写真ネガのデジタル走査である入力画像からの写真プリントである出力画像を生成するように設計された画像変換で構成された画像処理経路の例を示す。そのような画像処理経路の例が、上で引用した米国特許第6,097,470号および第6,097,471号に開示されている。最初に、画像形成装置の応答における非線型性を補償する画像変換20により画像形成装置応答が線型化される(42)。デジタル画像がフィルムから起こされている場合、写真フィルムの応答における非線型性を訂正する方法が実装されてもよい。そのような方法がGoodwinの米国特許第5,134,573号(1992年7月28日登録)に開示されている。
次に、デジタルおよび光学画像形成システムの両方で必要とされるバランス調整を評価・適用する変換20により画像をバランスさせる(44)。このバランスは、例えば自動露出決定アルゴリズム(高速光学プリンタまたはフォトCDスキャナ等で利用されているもの。例えばCokの米国特許第4,945,406号(1990年7月31日登録)を参照)で得ることができる。次の画像変換20は、画像に対し階調調性を決定・適用するコントラスト調整装置46である。画像のコントラストは自動アルゴリズムにより評価できる。さらに、デジタル画像のコントラストも同様に好適なレベルのコントラストに修正することができる。画像コントラストを評価して、画像のコントラストを調整する手段を提供するアルゴリズムの例がLee他の米国特許第5,822,453号(1998年10月13日登録)に開示されている。
次に、画像を出力媒体上に印刷すべく準備する画像変換20により画像がレンダリングされる(48)。レンダリング、すなわち画像密度の出力媒体密度へのマッピングはデジタル画像形成および光学画像形成の両方で生じ、当業者には公知である。米国特許第6,097,470号に画像表現が記述されている。デジタルまたは光学画像のいずれのレンダリングも、LUT(1、3、または多次元の)により良い正確度で表現することができる。例えば、図8記載の(a)に画像密度を出力画像の出力媒体の密度に関連付けるLUTのグラフを示す。
最後に、出力画像が人間の目どう見えるかをモデル化する人間視覚系が画像変換20モデル化される(52)。人間視覚系は、出力画像の明るい領域よりも暗い領域で生じる密度差違に鋭敏ではないため、この差違を考慮することは出力画像におけるノイズ出現の定量化に有利である。人間視覚系に見える画像は、図8記載の(b)に示すように出力画像の密度をCIELAB値に関係つける画像変換LUTにより表現できる。
図9乃至11は、すべてが異なる画像処理経路10を用いて共通の入力画像から生成されたいくつかの出力画像を含み、出力ノイズテーブルジェネレータ2から出力された出力ノイズテーブルがこれに関連付けられている。図9に示す出力画像は、以下の画像変換20を(その順に)含んでいる画像処理経路を適用して生成されている。
[表2]
画像形成装置応答リニアライザ42
バランスアプリケータ44
コントラスト調整器46
レンダリング装置48
人間視覚系モデラー52
図9に示すように、この処理経路により生成された画像は高密度において非常にノイズが多いように見える。この場合出力ノイズテーブルはノイズの多い高密度を示す大きいピークを表わす。図9は赤、緑、青色の出力ノイズテーブルのプロットを含んでいる。
図10に示す出力画像は以下の画像変換により処理された同じ入力画像から生成されている。
[表3]
画像形成装置応答リニアライザ42
バランスアプリケータ44
レンダリング装置48
人間視覚系モデラー52
最後に、図11に示す出力画像は再び、以下の画像変換により処理された同じ入力画像より生成されている。
[表4]
画像形成装置応答リニアライザ42
バランスアプリケータ44
レンダリング装置48
人間視覚系モデラー52
図11に示す出力画像の場合、バランスアルゴリズムは画像推薦されているよりも0.8段暗く印刷することを強いられた。このように暗くすることにより、出力画像の粒状性が減少し、これはまた図11に示す出力ノイズテーブルにも反映される。
図9乃至11の3個の出力画像の各々に対する出力ノイズテーブルジェネレータ2からの出力ノイズテーブル出力を、赤、緑、青色の各チャネルに対する各出力画像の下で示す。視覚的には、出力画像は左から右へ向かって(特に暗い領域で)含まれるノイズがより少ないように思われる。出力ノイズテーブルはこの観察を反映する。
出力ノイズテーブルジェネレータ2の別の実施の形態を図12に示す。この実施の形態において、出力ノイズテーブルジェネレータ2はデジタル入力画像および画像処理経路を入力として受け入れる。この代替的な実施の形態の出力ノイズテーブルジェネレータ2の拡大図を図13に示す。この実施の形態において、入力デジタル画像のピクセル値を調べることにより、入力ノイズテーブルを評価することができる。Snyder他の米国特許第5,923,775号(1999年7月13日登録)およびLee他の米国特許第5,633,511号(1997年5月27日登録)はそれぞれ、ノイズテーブルが単一の(または一連の)デジタル入力画像(群)により生成できることを述べている。この代替的な実施の形態の場合、入力ノイズテーブルはそのような仕方で生成され、次いでこれまでと同じく、各々が画像変換20または画像処理経路に対応する一連のノイズ変換30を用いて入力ノイズテーブルを処理することにより出力ノイズテーブルが生成される。この代替手段は、特定の画像用のノイズテーブルが未知である場合に特に有用である。その上、この実施の形態の入力ノイズテーブルの正確度は、出力ノイズテーブルジェネレータの好適な実施の形態のそれより優れている可能性がある。しかしこの実施の形態の重大な欠点は、計算時間が長くなるという事実である。好適な実施の形態には計算が速いという利点があり、事実、好適な実施の形態は入力ノイズテーブルおよび画像処理経路に関する情報だけを考慮して出力ノイズテーブルを計算できる。従って、好適な実施の形態には画像を解析しなくても出力ノイズテーブルを計算できるという利点がある。
出力ノイズテーブルジェネレータ2の第三の実施の形態を図14に示す。この実施の形態において、出力画像(これ以上画像変換を必要としない画像)が出力ノイズテーブルジェネレータ2に直接渡される。この実施の形態において、出力ノイズテーブルは、先に引用した米国特許第5,923,775号および第5,633,511号で述べられている方法により、出力画像から直接評価される。
図1によれば、出力ノイズ測度ジェネレータ4は出力ノイズテーブルNを受け取り、出力ノイズテーブルから出力ノイズ測度を決定する。出力ノイズ測度は出力ノイズ測度が出力画像のノイズの可視性の指標であるように、出力ノイズテーブルNMを集計する。出力ノイズ測度は画像の各スペクトルチャネルについて、またはスペクトルチャネルの組み合わせについて計算できることに留意されたい。1個の出力ノイズ測度だけが計算される場合、緑色チャネルから計算された出力ノイズ測度が出力画像のノイズ出現を人間が認識する度合と最も高い相関を有することが実験的にわかっている。青色チャネルから計算された出力ノイズ測度は、出力画像のノイズ出現を人間が認識する度合との相関は比較的低い。好適な実施の形態において、出力ノイズ測度Nは次式で決定される。
ここに、集計はすべての輝度iについて行なわれ、h(x)は関数である。好適な実施の形態において、h(x)=log(x)である。図9乃至11に示す画像によれば、本発明に基づいて図9乃至11に示す画像について計算された出力ノイズ測度はそれぞれ390、290、240である。ノイズ測度は、図9の粒状性は、図11に示す画像よりも粗い図10の粒状性よりも大きいという人間の知覚に基づいて減少している。
当業者には、出力ノイズ測度Nが出力ノイズテーブルNからいかなる方法でも生成できることが理解されよう。より一般的な場合、
ここに、g(x)は関数である。関数g(x)は、例えば、大きいノイズレベルにより多くの重み付けをするように設計されていてよい。例えば、g(σ(i))=σ(iである。
出力ノイズ測度Nを計算するさらに別の方法は、任意の与えられた輝度に対して最大ノイズレベルを決定することに基づいていてよい。
出力ノイズテーブルが複数の輝度レベルiにおけるノイズのパワースペクトルを含んでいる場合、関数h(x)およびg(x)は輝度と周波数の関数であって、集計は輝度と周波数の2項を集計したものであってよい。
図15に出力ノイズ測度の使用例を示す。特定の入力画像および画像処理経路を用いて生成された出力画像の画質を評価するために、出力ノイズ測度が画質判定装置26に入力される。画質判定装置26は出力ノイズ測度の関数である出力画質Qの評価を出力する。当業者には、出力画質の評価はまた、出力ノイズ測度を含む画像のその他各種の特質に依存する可能性があることが理解されよう。
一般にQ=f(N)である。
一例として、出力画質はQ=l50−Nとして評価され、Qの値が大きいほど出力画質が高いことを表わす。
<付記>
(付記1)
画像におけるノイズ出現の評価方法であって、
a)画像の輝度に対するノイズ度合を表わすノイズテーブルを編成するステップと、
b)前記ノイズテーブルからノイズ測度を生成するステップとを含み、
前記ノイズ測度は画像におけるノイズ出現を表わすことを特徴とする方法。
2 出力ノイズテーブルジェネレータ,4 出力ノイズ測度ジェネレータ,10 画像処理経路,16 ノイズ経路ジェネレータ,18 ノイズテーブルプリプロセッサ,20i(i=1...,m) 画像変換i,22 ノイズ経路アプリケータ,24 ノイズテーブル決定装置,26 画質決定装置,30i(i=1...,m) ノイズ変換i,40 ノイズ変換ジェネレータ,42 画像形成装置応答リニアライザ,44 バランスアプリケータ,46 コントラスト調整装置,48 レンダリング装置,52 人間視覚系モデラー。

Claims (5)

  1. 画像を人間が見た際に感じる光学密度の変動である粒状性をノイズ出現として、ノイズ出現の評価方法であって、
    a)出力画像の輝度と、当該輝度における前記出力画像のノイズ出現の度合との対応関係を表す出力ノイズテーブルを編成するステップと、
    b)前記出力ノイズテーブルから、各輝度ごとの前記ノイズ出現の度合いを全ての輝度について集計した値を予め定めた関数に入力し、その出力を出力ノイズ測度として、前記粒状性が大きいほど大きな値を有するスカラーの出力ノイズ測度を計算するステップと、
    c)特定の入力画像および画像処理経路を用いて生成された出力画像の画質を前記出力ノイズ測度の関数として評価する画質判定装置に、前記出力ノイズ測度を入力するステップと、
    を含み、
    前記出力ノイズテーブルを編成するステップは、
    入力画像の輝度と、当該輝度における前記入力画像のノイズ度合との対応関係を表す入力ノイズテーブルを取得するステップと、
    前記出力画像を得るために前記入力画像に適用される1個以上の画像変換にそれぞれ対応する1個以上のノイズ変換を決定するステップと、
    前記決定された1個以上のノイズ変換を前記入力ノイズテーブルに適用して前記出力ノイズテーブルを生成するステップと、
    を含み、
    前記1個以上の画像変換は、少なくとも、人間の視覚系が画像を認識する際に実行される処理を表現する画像変換を含む、
    ことを特徴とする方法。
  2. 画像におけるノイズ出現の評価方法であって、
    ノイズ度合対画像の輝度を表す出力ノイズテーブルを編成するステップと、
    前記出力ノイズテーブルから、各輝度ごとの前記ノイズ出現の度合いを全ての輝度について集計した値を予め定めた関数に入力し、その出力を出力ノイズ測度として、前記粒状性が大きいほど大きな値を有するスカラーのノイズ測度を生成するステップと、
    特定の入力画像および画像処理経路を用いて生成された出力画像の画質を前記ノイズ測度の関数として評価する画質判定装置に、前記ノイズ測度を入力するステップと、
    を含み、
    前記出力ノイズテーブルを編成するステップは、
    ノイズ度合対入力画像の輝度を表わす入力ノイズテーブルを編成するステップと、
    1個以上の画像変換を含む一連の画像処理を与えるステップと、
    予め知られている多種多様なノイズ変換の中から各々の画像変換にそれぞれ対応するノイズ変換を確定するステップと、
    前記1個以上のノイズ変換を前記入力ノイズテーブルに適用して前記画像中のノイズの評価を表わす出力ノイズテーブルを生成するステップと、
    を含み、
    前記ノイズ測度を生成するステップは、前記出力ノイズテーブルのピーク値または集計値を用いて前記ノイズ測度を得るステップを含む、
    ことを特徴とする方法。
  3. 請求項2に記載の方法であって、
    前記1個以上の画像変換は、1個以上の、デジタル画像処理ステップ、画像レンダリングステップ、人間視覚認識を含むことを特徴とする方法。
  4. 請求項2に記載の方法であって、
    重み付け関数により前記ノイズテーブルを重み付けするステップをさらに含むことを特徴とする方法。
  5. 請求項4に記載の方法であって、
    前記重み付け関数は前記画像のヒストグラムを示すことを特徴とする方法。
JP2009187807A 2001-06-12 2009-08-13 画像におけるノイズ出現の評価方法 Expired - Lifetime JP4959760B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US09/879,343 US7062108B2 (en) 2001-06-12 2001-06-12 Method for estimating the appearance of noise in images
US09/879,343 2001-06-12

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2002165098A Division JP2003067723A (ja) 2001-06-12 2002-06-06 画像におけるノイズ出現の評価方法

Publications (3)

Publication Number Publication Date
JP2009259298A JP2009259298A (ja) 2009-11-05
JP2009259298A5 JP2009259298A5 (ja) 2011-03-17
JP4959760B2 true JP4959760B2 (ja) 2012-06-27

Family

ID=25373952

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2002165098A Pending JP2003067723A (ja) 2001-06-12 2002-06-06 画像におけるノイズ出現の評価方法
JP2009187807A Expired - Lifetime JP4959760B2 (ja) 2001-06-12 2009-08-13 画像におけるノイズ出現の評価方法

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2002165098A Pending JP2003067723A (ja) 2001-06-12 2002-06-06 画像におけるノイズ出現の評価方法

Country Status (3)

Country Link
US (1) US7062108B2 (ja)
EP (1) EP1267206A3 (ja)
JP (2) JP2003067723A (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4543795B2 (ja) * 2004-07-12 2010-09-15 セイコーエプソン株式会社 キャリブレーション装置、キャリブレーションプログラムおよびキャリブレーション方法
JP4543796B2 (ja) * 2004-07-12 2010-09-15 セイコーエプソン株式会社 キャリブレーション装置、キャリブレーションプログラムおよびキャリブレーション方法
GB0505443D0 (en) * 2005-03-17 2005-04-20 Dmist Technologies Ltd Image processing methods
US20070223057A1 (en) * 2006-03-21 2007-09-27 Sony Corporation Method of estimating noise in spatial filtering of images
US20070230774A1 (en) * 2006-03-31 2007-10-04 Sony Corporation Identifying optimal colors for calibration and color filter array design
US7652788B2 (en) * 2006-06-23 2010-01-26 Nokia Corporation Apparatus, method, mobile station and computer program product for noise estimation, modeling and filtering of a digital image
CN101523441B (zh) * 2006-09-29 2012-01-18 汤姆逊许可证公司 空间活动量度和用于评价空间活动量度的方法
US7895555B1 (en) * 2007-01-22 2011-02-22 Lattice Semiconductor Corporation Simultaneous switching output noise estimation and reduction systems and methods
US8108211B2 (en) * 2007-03-29 2012-01-31 Sony Corporation Method of and apparatus for analyzing noise in a signal processing system
KR101303660B1 (ko) * 2007-10-01 2013-09-04 삼성전자주식회사 잡음제거를 고려한 선명도 향상 방법 및 장치 그리고 잡음가중치 계산 방법 및 장치
US8144985B2 (en) * 2007-12-21 2012-03-27 Sony Corporation Method of high dynamic range compression with detail preservation and noise constraints
CN108701462B (zh) * 2016-03-21 2020-09-25 华为技术有限公司 加权矩阵系数的自适应量化
US10762605B2 (en) 2017-08-04 2020-09-01 Outward, Inc. Machine learning based image processing techniques

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4367490A (en) * 1981-04-24 1983-01-04 General Electric Company Noise reduction in digital fluoroscopy systems
US4804831A (en) * 1985-10-30 1989-02-14 Canon Kabushiki Kaisha Focus detecting apparatus independent of object image contrast
US4855943A (en) * 1987-07-24 1989-08-08 Eastman Kodak Company Method and apparatus for deaveraging a stream of averaged data
US4945406A (en) 1988-11-07 1990-07-31 Eastman Kodak Company Apparatus and accompanying methods for achieving automatic color balancing in a film to video transfer system
DE69021047T2 (de) 1989-12-26 1996-03-21 Eastman Kodak Co Verfahren zur ausdehnung des linearbereichs der aufgenommenen bilder eines films.
US5832136A (en) * 1994-04-20 1998-11-03 Fuji Xerox Co., Ltd. Image signal processing apparatus with noise superimposition
US5694484A (en) 1995-05-15 1997-12-02 Polaroid Corporation System and method for automatically processing image data to provide images of optimal perceptual quality
US5629769A (en) 1995-06-01 1997-05-13 Eastman Kodak Company Apparatus and method for the measurement of grain in images
US5641596A (en) 1995-12-05 1997-06-24 Eastman Kodak Company Adjusting film grain properties in digital images
US5633511A (en) 1995-12-22 1997-05-27 Eastman Kodak Company Automatic tone scale adjustment using image activity measures
US5923775A (en) 1996-04-04 1999-07-13 Eastman Kodak Company Apparatus and method for signal dependent noise estimation and reduction in digital images
US5809178A (en) * 1996-06-11 1998-09-15 Apple Computer, Inc. Elimination of visible quantizing artifacts in a digital image utilizing a critical noise/quantizing factor
JPH1023191A (ja) * 1996-07-08 1998-01-23 Ricoh Co Ltd 画像評価方法および画像評価装置
US5822453A (en) 1996-12-10 1998-10-13 Eastman Kodak Company Method for estimating and adjusting digital image contrast
JPH10191060A (ja) * 1996-12-26 1998-07-21 Fuji Xerox Co Ltd 画像処理装置
US6067125A (en) * 1997-05-15 2000-05-23 Minerva Systems Structure and method for film grain noise reduction
JPH1139486A (ja) * 1997-07-24 1999-02-12 Ricoh Co Ltd 画像の画質評価方法
FR2772225A1 (fr) * 1997-12-09 1999-06-04 Philips Electronics Nv Procede de traitement d'une image ou le bruit depend du signal
US6069982A (en) * 1997-12-23 2000-05-30 Polaroid Corporation Estimation of frequency dependence and grey-level dependence of noise in an image
US6118906A (en) * 1998-02-03 2000-09-12 Eastman Kodak Company Sharpening system adjusted for measured noise of photofinishing images
US6091861A (en) 1998-02-03 2000-07-18 Eastman Kodak Company Sharpening algorithm adjusted for measured exposure of photofinishing images
US6097471A (en) 1998-05-28 2000-08-01 Eastman Kodak Company Digital photofinishing system including film under-exposure gamma, scene balance, and image sharpening digital image processing
US6097470A (en) 1998-05-28 2000-08-01 Eastman Kodak Company Digital photofinishing system including scene balance, contrast normalization, and image sharpening digital image processing
DE19919750C1 (de) 1999-04-29 2001-01-18 Flabeg Gmbh Steuerverfahren für elektrochrome Verglasungen
US6707950B1 (en) * 1999-06-22 2004-03-16 Eastman Kodak Company Method for modification of non-image data in an image processing chain
US6738494B1 (en) * 2000-06-23 2004-05-18 Eastman Kodak Company Method for varying an image processing path based on image emphasis and appeal

Also Published As

Publication number Publication date
US20030039401A1 (en) 2003-02-27
EP1267206A3 (en) 2008-01-23
JP2009259298A (ja) 2009-11-05
JP2003067723A (ja) 2003-03-07
US7062108B2 (en) 2006-06-13
EP1267206A2 (en) 2002-12-18

Similar Documents

Publication Publication Date Title
JP4959760B2 (ja) 画像におけるノイズ出現の評価方法
US7113649B2 (en) Enhancing the tonal characteristics of digital images
US6813389B1 (en) Digital image processing method and system including noise reduction and tone scale adjustments
JP4210577B2 (ja) 選択的空間フィルタを使用するディジタル画像の階調及び空間特性の向上方法
US7333669B2 (en) Selecting an image processing path to provide desired noise
US7570829B2 (en) Selection of alternative image processing operations to maintain high image quality
EP1857976B1 (en) Histogram adjustment for high dynamic range image mapping
KR101309497B1 (ko) 높은 동작 범위 이미지 매핑을 위한 히스토그램 조정
US7043090B2 (en) Enhancing the tonal characteristics of digital images using expansive and compressive tone scale functions
Zolliker et al. Retaining local image information in gamut mapping algorithms
EP1453300B1 (en) Enhancing the tonal and color characteristics of digital images using expansive and compressive tone scale functions
US20040047514A1 (en) Method for sharpening a digital image
US20030076514A1 (en) Image processing system and method that maintains black level
US6983083B2 (en) Image specific perceived overall contrast prediction
JPH1139486A (ja) 画像の画質評価方法
Farrell Image quality evaluation
EP1387318B1 (en) A method of compensating a digital image for the effects of flare light
JPH11205616A (ja) 画像評価方法、及びその装置
JP4196599B2 (ja) 画像評価装置、画像評価方法、及びそのプログラム並びにそのプログラムを記録した記録媒体
JP2021120653A (ja) チャート、画像処理装置及び画像処理方法
Jin et al. A groundtruth database for testing objective metrics for image difference
JP2004220060A (ja) 画像評価方法、画像評価装置、記憶媒体およびプログラム
JP2001024821A (ja) 画像評価装置および画像評価方法
JP2003006638A (ja) 画像品質予測装置、画像品質予測方法、その方法をコンピュータに実行させるためのプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090813

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100809

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110126

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110422

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110426

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110726

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120306

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120321

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150330

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250