JP2007310886A - 画像データの自動マッピング方法及び画像処理デバイス - Google Patents

画像データの自動マッピング方法及び画像処理デバイス Download PDF

Info

Publication number
JP2007310886A
JP2007310886A JP2007131454A JP2007131454A JP2007310886A JP 2007310886 A JP2007310886 A JP 2007310886A JP 2007131454 A JP2007131454 A JP 2007131454A JP 2007131454 A JP2007131454 A JP 2007131454A JP 2007310886 A JP2007310886 A JP 2007310886A
Authority
JP
Japan
Prior art keywords
image
value
luminance value
luminance
tone reproduction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007131454A
Other languages
English (en)
Other versions
JP4870617B2 (ja
Inventor
Jiang Duan
デュエン ジァン
Marco Bressan
ブレッサン マルコ
R Dance Christopher
アール.ダンス クリストファー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xerox Corp
Original Assignee
Xerox Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xerox Corp filed Critical Xerox Corp
Publication of JP2007310886A publication Critical patent/JP2007310886A/ja
Application granted granted Critical
Publication of JP4870617B2 publication Critical patent/JP4870617B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration by the use of histogram techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • G06T5/90
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • H04N5/57Control of contrast or brightness
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20004Adaptive image processing
    • G06T2207/20012Locally adaptive
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing

Abstract

【課題】アーチファクトを低減し、完全な自動化を可能にする画像データの自動マッピング方法を提供する。
【解決手段】この方法は、画像の画像データを輝度値として表すことと、画像の平均輝度値と、画像の最小輝度値及び最大輝度値との関数としてキー値を決定することと、オフセット調節輝度値を生成することであって、決定したキー値の関数であるオフセットを輝度値の各々に適用することを含む、オフセット調節輝度値の生成と、画像の少なくとも1つの領域の調子再現曲線を計算することであって、マッピング関数をオフセット調節輝度値に適用することを含む、調子再現曲線の計算と、を含む。
【選択図】図2

Description

本発明は画像処理に関する。特に、本発明は高ダイナミックレンジから低ダイナミックレンジへの画像のマッピングに関連して使用される。
シーン、画像又は複製(複写)デバイスの「ダイナミックレンジ」は、最高の輝度レベルと最低の輝度レベルの比として定義される。近年の技術により、高ダイナミックレンジ(HDR)シーナリーの放射輝度マップの生成が比較的容易になった。プリンタやCRTモニタのような従来の低ダイナミックレンジ(LDR)複製デバイスは一般に8ビットであり、即ち、輝度は0から255の整数に及ぶことができる。これらのデバイスは、高ダイナミックレンジ画像(通常は1チャネルあたり12ビット、16ビット、又は32ビットのものさえある)を直接複製することができない。しかし、高コントラストのシーナリーを従来の複製デバイスで実際に複製することが、印刷業界、写真業界そしてコンピュータグラフィックスにおいて必要である。
同一の量子化ステップを用いて高ダイナミックレンジから低ダイナミックレンジに変換すると、画像の最も明るい部分又は画像の最も暗い部分が失われることが多い。ダイナミックレンジ圧縮のための階調再現技術がいくつか提案されている。しかし、これらの技術の殆どがシーナリーの局所的なコントラストや細部を複製することができず、アーチファクトを取り込む傾向にある。この欠点を克服しようとする技術は計算的に高価であることが多い。また、これらの方法は通常は画像に依存した手作業のパラメータ調節を含むため、自動化した表示処理や印刷処理にこれらの方法を利用するのは難しい。
エシュバッハら(Eschbach, et al.)の米国特許第5,450,502号は、自然のシーン画像における大域コントラストの改良方法を開示している。この方法では、画像は、カラー座標の元のセットから、1つの項が全体の画像強度に関連する式に変換される。この項に関する画像の大域ヒストグラムが得られる。このヒストグラムは、画像において生じうる各強度レベルにおけるピクセルの集団をプロットする。ヒストグラムを描く信号は、関数の激しい上がり下がりを弱めるフィルタにより、信号の平らな部分に影響を与えずにオンに作動される。フィルタリングされたヒストグラム信号は、画像を印刷するデバイスにおけるTRCマッピングの制御に使用される。画像は多数のセグメントに分割され、各セグメントはその画像セグメントの局所的ヒストグラム信号によって記述可能である。各局所的ヒストグラム信号は大域ヒストグラムと比較され、どちらの信号がより平らであるかが判断される。局所的ヒストグラムのいずれかが大域ヒストグラムよりも平らな信号を有する場合、信号は1つの関連ヒストグラム信号にまとめられ、その場所で平坦化フィルタに送られる。
米国特許第5,450,502号明細書 米国特許第11/174,679号明細書 米国特許第5,581,370号明細書 米国特許第6,826,310号明細書 米国特許第6,850,642号明細書
本発明に示す態様に従って、画像データの自動マッピング方法を提供する。
この方法は、画像の画像データを輝度値として表すことと、画像の平均輝度値と、画像の最小輝度値及び最大輝度値との関数としてキー値を決定することと、オフセット調節輝度値を生成することであって、決定したキー値の関数であるオフセットを輝度値の各々に適用することを含む、オフセット調節輝度値の生成と、画像の少なくとも1つの領域の調子再現曲線を計算することであって、マッピング関数をオフセット調節輝度値に適用することを含む、調子再現曲線の計算と、を含む。
前述の方法では、キー値は画像の全体の輝度に関連して増加することができる。
この方法では、キー値を下記の式に従って計算することができる。
Figure 2007310886
式中、r及びsは係数、Lminは画像の最小輝度、そしてLmaxは最大輝度である。
この方法では、オフセットを下記の式に従って計算することができる。
Figure 2007310886
この方法では、輝度を下記の式に従って正規化することができる。
Figure 2007310886
式中、Lminは画像の最小輝度値であり、Lmaxは画像の最大輝度値である。
この方法では、調子再現曲線の計算は、画像の複数の領域の各々に対して異なる調子再現曲線を計算することを含むことができる。
この方法では、領域を同一サイズのブロックとすることができる。
この方法は、画像内のピクセルのマップピクセル輝度値を計算することを更に含むことができる。マップピクセル輝度値は、ピクセルが位置する領域の調子再現曲線のために決定されたマップ値と、ピクセルが位置する領域の近隣に位置する領域の調子再現曲線との加重平均の関数である。
この方法では、加重平均を、ピクセルの輝度値と近隣領域の平均輝度値との類似の関数とすることができる。
この方法では、計算したキー値を領域の各々に対して同一にすることができる。
この方法は、調子再現曲線を画像の少なくとも領域の輝度値に適用し、調子再現曲線調節輝度値を生成することを更に含むことができる。
この方法では、画像データを輝度値として表すことが各ピクセルのカラー値の加重平均を計算することを含むことができる。この方法は、生成した調子再現曲線調節輝度値の関数として調節カラー値を計算することを更に含む。
この方法は、画像レンダリングデバイスにおいて画像をレンダリングすることを更に含むことができる。
この方法では、調子再現曲線の計算が、低ダイナミックレンジを有する輝度値にオフセット調節輝度値をマップすることを含むことができる。
この方法では、調子再現曲線の計算の前に、オフセット調節輝度値を対数目盛で正規化する。
コンピュータプログラム製品は、コンピュータでの実行の際にコンピュータに前述の方法を実行させる命令を記憶した、タンジブルでコンピュータが使用可能なデータ記憶媒体を含むことができる。
他の態様に従って、画像処理デバイスは命令を記憶するメモリを含む。命令は、画像の画像データを輝度値として表すことと、画像の平均輝度値と、画像の最小輝度値及び最大輝度値との関数としてキー値を決定することと、オフセット調節輝度値を生成することであって、決定したキー値の関数であるオフセットを輝度値の各々に適用することを含む、オフセット調節輝度値の生成と、画像の少なくとも1つの領域の調子再現曲線を計算することであって、マッピング関数をオフセット調節輝度値に適用することを含む、調子再現曲線の計算と、を行うためのものである。プロセッサがこれらの命令を実行し、処理済の画像を出力する。
前述の画像処理デバイスは、ディスプレイと、プロセッサに関連し、プロセッサによって出力された画像を受け取る画像レンダリングデバイスとのうちの少なくとも1つを更に含むことができる。
他の態様に従って、コンピュータプログラム製品は、コンピュータでの実行の際にコンピュータに1つの方法を実行させる命令を記憶した、コンピュータが使用可能なデータキャリヤを含む。この方法は、画像の画像データを輝度値として表すことと、画像の平均輝度値と、画像の最小輝度値及び最大輝度値との関数としてキー値を決定することと、輝度値のダイナミックレンジを圧縮することであって、決定したキー値の関数であるオフセットを輝度値の各々に適用してオフセット調節輝度値を生成することを含む、輝度値のダイナミックレンジの圧縮と、画像の少なくとも1つの領域の調子再現曲線を計算することであって、マッピング関数をオフセット調節輝度値に適用することを含む、調子再現曲線の計算と、を含む。
他の態様に従って、高ダイナミックレンジから、高ダイナミックレンジよりも低い低ダイナミックレンジへの画像データの自動マッピング方法を提供する。この方法は、高ダイナミックレンジ画像の画像データを輝度値の大域ヒストグラムとして表すことと、高ダイナミックレンジ画像の全体の輝度の関数としてオフセットを自動的に決定することを含む。大域ヒストグラムの輝度値を、オフセットを組み込んだ対数ダイナミックレンジ圧縮で圧縮する。画像を複数の領域に分割し、領域の各々は、圧縮した大域ヒストグラムから選択した輝度値の局部的ヒストグラムによって記述可能である。画像の複数の領域の各々に対し、局部的ヒストグラムを低ダイナミックレンジの出力輝度値にマップする調子再現曲線を計算する。
例示的な実施の形態は、高ダイナミックレンジ画像を低ダイナミックレンジ画像に圧縮するシステム及び方法に関するものである。この方法及びシステムは、低ダイナミックレンジデバイスでレンダリングする際に見た目が良く現実的な高ダイナミックレンジのシーナリーの外観を保持する。
この技術は、アーチファクトを取り込むことなくシーナリーの局部的コントラストや細部を複製する、完全に自動化した高速な階調再現方法での使用に適している。
種々の態様において、この方法は、初めの対数ダイナミックレンジ圧縮において、マップした高ダイナミックレンジ画像の全体の輝度を自動的に設定することを含む。種々の態様において、局部的ヒストグラムを調節し、高ダイナミックレンジ画像の局部的コントラスト及び細部をウィンドウ機能付アプリケーションのアプローチに基づいて複製する。それぞれのウィンドウにおけるコントラストの強調(contrast enhancement)をウィンドウ内の相対的統一性に従って制御することにより、ノイズアーチファクトの発生を防止するか又は減少させることができる。この方法は、最も局部的な階調再現技術を用いるよりも効果的にハロー(halo)アーチファクトを抑えることができる。類似重み関数を導入してアーチファクトを更に減少させることができる。
図1を参照すると、イメージング(撮像)システム10はシーン12の画像などの画像を取得する。この画像をカメラやスキャナなどの高ダイナミックレンジ画像取得デバイス14によって取得することができ、このデバイスはシーン12の画像を示す光を受け取るアクティブピクセルセンサ16を含むことができる。取得デバイスは、この光を、受け取ったピクセルレベルの信号を示す信号18に変換する。取得デバイスは、例えば1チャネルあたり12ビット、16ビット、又は32ビットさえも記録できるデバイスとすることができる。記録する画像は静止画像でもよいしビデオ画像でもよい。画像処理デバイス20は、この画像を本明細書に述べるように処理して信号ダイナミックレンジのビット数を減少させるプロセッサ22を含む。プロセッサ22の出力をCRTモニタなどのディスプレイ24に表示することができる。あるいは、用紙などの基体上に画像を物理的な形で生成するプリンタなどのイメージングデバイス26で画像をレンダリングする。これらの目的のために、処理デバイス20はディスプレイドライバ及び/又はプリンタドライバを含んでもよい。画像処理デバイス20を汎用コンピュータ又は専用の処理デバイスの形にすることができる。プロセッサへの命令をRAMやROMなどの別個のメモリ28に記憶してもよいし、メモリをプロセッサ22と組み合わせて単一のチップにしてもよい。画像処理デバイス20の構成要素はデータ/制御バス30を介して通信しあうことができる。処理の際は、画像を揮発性メモリ32に記憶することができる。
画像センサ16によって生成された画像18は、ディスプレイ24に表示するか又はイメージングデバイス26にレンダリングすることのできる高いダイナミックレンジを有することができる。従って、本発明のシステムの動作により、画像の輝度ヒストグラムを更に低いダイナミックレンジのものにマップする。プロセッサ22は、図2のフロー図に概説するように、この方法を実行するための命令を含む。
図1はイメージングシステム10の極めて簡略化した機能図であることが理解されよう。しかし、このような画像処理デバイスの詳細は公知であり、更なる説明は不要であることを理解されたい。
1つの実施の形態では、命令をコンピュータ20にインストールするためにディスクや他のデータキャリアデバイスなどのコンピュータプログラム製品を用いるか、又は命令をサーバ経由でコンピュータに提供することができる。
デジタル画像は、規則的な格子に配列された画素即ちピクセルの集まりを含む。カラー画像は、ピクセルにおいてカラーを記述するように通常は3つか4つであるいくつかのカラーチャネル(colorant channels)を含む。例えば、赤、緑及び青(RGB)のチャネル、又はシアン、マゼンタ、イエロー及びブラック(CMYK)のチャネルを含むことができる。各チャネルは更に、各ピクセルにおけるカラーの量を表すカラー値を含む。カラー画像では、チャネルは人間の輝度又は明度の感覚を間接的にしか表さないため、カラー情報は、低ダイナミックレンジへのマッピングの前に輝度を表す定量に変換される。
人間の明度の知覚を実質的に表す1つの次元を有する3次元のカラースペース(色空間)は当技術分野で周知である。このようなスペースは一般に明度の次元に直交するクロミナンス面を有し、この面はカラーの色成分を表す。クロミナンス面内の明度軸から延びる種々の方向は明度軸からの種々の色相に対応し、明度軸からの距離は、少なくともおおよそであるが、カラーの知覚された彩度即ち鮮明さに関連する。このようなカラースペースを極座標で表すことができる。極座標では、明度軸を中心とする回転は色相角度又はカラー位相を表し、色相軸からの距離は彩度を表す。明度軸(即ちグレースケール)を例えば強度、輝度、値又はルーマ(luma)として表すことができ、本明細書では概して輝度と呼ぶ。
図2を参照すると、第1のダイナミックレンジの画像(HDR画像)を第2の低ダイナミックレンジ画像(LDR画像)にマッピングする例示的な方法が示されている。この方法は、画像データを大域輝度ヒストグラムの形で表すことと、ダイナミックレンジのオフセットを決定することを含む。次に、輝度画像のダイナミックレンジを圧縮し、クロミナンスを再び書き込む。この方法は、画像内の複数領域の局部的ヒストグラムの生成を含むことができる。決定した輝度値に平滑化技術を適用して領域のエッジにおける激しい変化を低減し、2つ以上の領域にわたる均一領域のオブジェクトの周りに生じるハローの影響を最小にすることができる。
この方法はステップS100から開始する。ステップS102では、HDR画像の画像データがプロセッサ20によって受け取られる。
ステップS104では、画像データを大域輝度ヒストグラム(例えば、画像内の全ピクセルのヒストグラム)に変換する。図3は例示的なヒストグラムを示しているが、実際には、高ダイナミックレンジ画像は示されているものよりも多くの輝度値を含むことが理解されよう。
ステップS104では、画像の各ピクセルに対し、ピクセルのカラー成分を輝度値に変換することができる。例えば、RGB入力の加重平均などの平均値を用いて輝度成分Lを決定することができる。1つの態様では、下記の式を用いることができる。
L=0.299*R+0.587*G+0.114*B 式1
もちろん、入力が既にL***のように輝度として表されている場合は、このステップは不要となりうる。下記の計算は輝度成分Lに基づいている。ダイナミックレンジの圧縮後にRGBカラー情報を復元することができる(式11)。
ステップS106からステップS110では、ダイナミックレンジの圧縮の際に適用するオフセットを決定する。オフセットは、マップ画像の全体の輝度を決定する。各ピクセルのオフセットを用いて輝度成分Lの対数を計算することによって画像のダイナミックレンジを圧縮することができ、これを正規化して0と1の間の値を生じることができる。具体的には、ピクセル毎に、圧縮した輝度値Dを下記のように計算することができる。
Figure 2007310886
式中、Lminは画像の最小輝度であり、Lmaxは最大輝度である。
本明細書に用いられるように、最大輝度値及び最小輝度値は、それぞれ画像の実際の最大輝度値及び最小輝度値にするか、又は範囲の上端及び下端に含まれる輝度値の少数部分を平均化することで決定することができる。また、最大輝度値及び最小輝度値をそれぞれ輝度分布の上部パーセンタイル及び下部パーセンタイルとすることもできる。一般に、上部パーセンタイルは90%よりも大きくなるように選択され、下部パーセンタイルは10%未満になるように選択される。
1つの実施の形態では、画像全体に同一のオフセット値を用いる。他の実施の形態では、同一のサイズ及び形状とすることができるが、そうでなくてもよい画像の複数領域の各々に対してオフセットを決定する。下記の考察では、画像全体を1つの領域とみなす。
オフセットを下記のように自動的に推定することができる。ステップS106では、画像の平均輝度の推定値を決定する。例えば、画像全体の平均対数輝度を下記のように決定することができる。
Figure 2007310886
式中、Nは画像内の全ピクセル数、L(x,y)は式1から計算した位置x,yにおけるピクセルの入力輝度、そしてεはブラックピクセル(0値であり、1の対数を有する)が画像内にある場合に生じる特異点を避けるための(約0.00001などの)小さな値である。
ステップS108では、キー値kを決定する。キー値は画像の輝度の関数である。大きなキー値は鮮やかな画像(高輝度値)に相当し、小さなキー値は暗い画像(低輝度値)に相当する。下記の式を用いて、Laveから画像のキー値を決定することができる。
Figure 2007310886
式中、r及びsは係数、Lminは画像の最小輝度、Lmaxは最大輝度である。
式4は、画像の平均輝度が暗い画像に相当する最小輝度値に近くなると比較的小さなk値を割り当て、平均輝度が最大輝度(鮮やかな画像)に近くなると大きなk値を割り当てるように構成されている。例えば、係数r及びsの異なる値を用いて画像を生成し、観測者のグループによる好みの研究を行うことで、係数を経験的に決定することができる。例えば、rが0.35、sが2であり、これらが適切な値であるとわかっている場合、式4は下記式のようになる。
Figure 2007310886
式中、kは0.175から0.70である。
ステップS110では、オフセットを決定する。画像のLaveを、前述のように0と1の間の大きさに決定されたキー値にマップする。
Figure 2007310886
オフセットは、約20回の反復などの予め選択した反復数内で、数値計算、例えばニュートン法を用いて解くことができる。
ステップS112では、画像200を複数の領域、例えばブロック202(図4)に分割することができる。ブロックはサイズ及び形状が同一であってもよいし、異なっていてもよい。例えば、マトリックス状に配列された長方形のブロックでもよいが、三角形や五角形のような他の形状のブロックも考慮される。ブロックを同じサイズ及び形状にすることができる。ブロックのサイズは、画像の解像度にある程度依存しうる。例えば、画像200を約2個から約1000個のブロック202(例えば約64個のブロックなど)に分割することができる。ブロックのサイズは、画像のピクセル数にある程度依存しうる。ブロック内のピクセルが少なすぎると不正確な計算が生じる場合がある。例えば、各ブロック202は少なくとも約500のピクセルを含むことができ、1つの実施の形態では少なくとも1000のピクセルを含むことができる。
ステップS114では、局部的領域でのヒストグラム調節に基づいてブロック毎に調子再現曲線(TRC)を計算する。具体的には、各領域202のピクセルのD値を含む局部的ヒストグラムを生成し、これを、選択した低ダイナミックレンジ内の出力輝度値のセットにマップする。ヒストグラムの調節には、図5に示すようなヒストグラム等化マッピング及び線形マッピングを含む種々の方法がある。線形マッピング法では、ブロック内の全ピクセルのD値の入力ヒストグラムを、線形マッピング関数を用いて出力ヒストグラムにマップする(出力D値は入力D値に正比例する)。例えば、ヒストグラムの最小輝度を低ダイナミックレンジの最小輝度と同等であるとみなし、ヒストグラムの最大輝度を低ダイナミックレンジの最大輝度と同等であるとみなすことができる。次に、これらの限度間の内挿によって輝度の残りの値を構築する。ヒストグラム等化マッピングは画像ピクセルの輝度順位を維持するが、同じくらいの数のピクセルがそれぞれ形成可能な輝度値を有するように輝度値を再分配する。この方法は、同一又は同様の入力D値を有するピクセルが多く集中する(高コントラストをもたらす)範囲を拡張し、これよりもピクセルの数が少ない範囲を圧縮する。
1つの実施の形態では、TRCの計算に用いる技術は、2つ以上のマッピング技術の加重平均であるマッピング関数に基づいている。マッピング関数は、ヒストグラム等化マッピング関数及び線形マッピング関数の加重平均であってもよい。この方法は、均一性の閾値レベルを越える画像の領域を検出することと、検出した領域の線形マッピング関数に更に大きな重みを付けるようマッピング関数を局部的に調節することを含むことができる。
例えば、マッピング関数を、式6に示すように、適切に決定したオフセットを用いた初めの対数圧縮の後に行うヒストグラム等化マッピング及び線形マッピングの加重平均とすることができる。このヒストグラム調節技術は、ジェイ.デュエン(J. Duan)及びジー.チウ(G. Qiu)、「高ダイナミックレンジ画像の高速トーンマッピング(Fast Tone Mapping for High Dynamic Range Images)」、ICPR2004、第17回パターン認識国際会議、第2巻、第847−850頁、2004年に記載の方法に基づいている。この技術は、本来は大域トーンマッピングのために考案されたものである。
Figure 2007310886
式中、0≦β≦1である。ECは初めの対数圧縮後に行うヒストグラム等化マッピング、LCは初めの対数圧縮後に行う線形マッピングである。β=0に設定するとマッピングは線形になり、β=1の場合、マッピングはヒストグラムを等化する。一般に、βの値が大きいほど、等化方法に更に大きな重みを付けるためにコントラストの高い画像が生じる。
例えば、トリフォノフら(Trifonov, et al.)の米国特許第6,826,310号に記載のように、TRCを生成する他のヒストグラム等化技術が考慮される。
先に概説した局部的コントラスト強調方法により、同様のピクセルからなる均一な領域204を非常に異なる値にマップする場合がある。これによってノイズが生じる傾向にある。この問題を解決する1つの方法は、均一な領域を検出し、この領域におけるコントラストの強調を弱めることである(ステップS114)。適応方法を用いて、異なる局部的領域のパラメータβを自動的に決定することができる。例えば、ヒストグラム値に対して計算した広がり度合の尺度(measure of spread)はいずれも計算することができる。尺度の例としては、分散、標準偏差、範囲、四分位間偏差などをあげることができる。尺度が所定の閾値よりも大きい場合(例えば、広がり度合の尺度として分散を使用した場合は約18.8を閾値として使用することができる)に均一なブロックとみなす。次に、比較的小さなパラメータβを局部的ヒストグラム調節技術に用いる(式6)。これにより、この領域のコントラスト強調が小さくなる。
各ブロックを個々に処理する例示的なコントラスト強調方法は、同様のピクセルからなる隣接領域を非常に異なる値にマップする場合がある。1つの実施の形態では、平滑化技術(ステップS116)を用いて1つのブロックから次のブロックへの激しい変化を低減する。平滑化技術は距離重み関数を含むことができ、距離重み関数は、ピクセルが存在するブロックからのTRCによって提供される出力Pマップ値と、(最大8個の)隣接ブロックのTRCの出力Pマップ値との加重平均を生成する。重み付けは、各ブロックの中央部からピクセルまでの距離に反比例することができる。よって、ピクセルがブロック間のエッジに近づくにつれて、隣接するブロックのTRCに付ける重みは大きくなる。近隣の各ブロックのピクセル入力D値と平均D値との類似を考慮する類似関数に従って、重み関数を更に変更することができる。
例えば、図6に示すように、(式(2)から決定された)画像の各ピクセルD(x,y)に対し、近隣ブロックにおいて展開したTRCを用いてピクセルをTRC1[D(x,y)]、TRC2[D(x,y)]、TRC3[D(x,y)]、...TRC9[D(x,y)]に変える。次に、最終的なマップピクセル値を、距離重み関数及び類似重み関数に従ってTRC1[D(x,y)]、TRC2[D(x,y)]、TRC3[D(x,y)]などの加重平均として下記のように計算することができる。
Figure 2007310886
式中、wd(n)は距離重み関数、σdは係数(例えば18)、dnは、図6に示すような現在のピクセルの位置とその近隣ブロックの中心との間のユークリッド距離、ws(n)は類似重み関数、σsは係数(例えば0.1)、Snは現在のピクセル値と近隣ブロックの平均ピクセル値との正規化差(Dmeann)である。
距離重み関数は、ピクセルの位置するブロックのTRCに常に最大の重みを割り当てるため、局部的コントラストの保存を支持する。一方、類似重み関数は、均一な領域内にある同様のピクセルが異なるブロックに分割されていてもこれらのピクセルを同様の値にマップする可能性を高める。最終的な効果として、マップ画像は局部的コントラストを保存し、また、均一な領域に隣接するオブジェクトの輪郭付近に生じる傾向のあるハローアーチファクトを取り除く。
必要に応じて、1ブロックのみの全ピクセルの距離重み関数を計算することによって計算を少なくすることができる。そして、(サイズ及び形状の均一なブロックを仮定すると)ピクセルと近隣ブロックの中心との間の相対的な距離は常に同じであるため、計算値を残り全てのブロックに用いることができる。更に、ルックアップテーブルを用いて類似関数の計算を近似することができる。アルゴリズムを迅速化する他の方策は、低解像度画像の値を計算し、内挿によって元のサイズに戻すことである。
ステップS118では、RGB出力を元のRGB値の関数として作り直し、式7を用いてPmapped輝度値を決定する。必要に応じ、下記の式を用いてこれらを決定することができる。
Figure 2007310886
式中、ガンマパラメータγはマップ画像のカラーを制御する係数である。例えば、γを0.5に設定する。
前述の方法はいくつかの利点を有する。第1に、局部的ヒストグラムの調節により、大域マッピングに依存したヒストグラム調節法を用いて得られるものよりも高いコントラストを得ることができる。第2に、初めのダイナミックレンジの縮小は、ニュートン法を用いて全体の輝度を自動的に設定することのできる対数圧縮である。これによって人間との対話の必要性が低減されるため、この技術は、例えばフォトショップ環境における画像の自動大量印刷に好適である。第4に、この方法によってハローの影響を最小にし、均一な領域を同様の方法で処理することができる。画像の異なる領域において異なるβ値を用いることで、コントラストの形成にふさわしい箇所にコントラストを提供することができる。ヒストグラムの広がり度合の尺度に基づいてβを自動的に決定する方法も提供される。
例示的なデフォルトパラメータを有する広範囲の高ダイナミックレンジ画像にこの方法を試したところ、非常に好ましい結果を示した。本発明の方法を用いた場合は、既存の階調再現法に比べて、人間による入力を必要とせずに一貫して良好な複製を実現した。
この方法は、高ダイナミックレンジ画像データ(通常は1チャネルあたり12ビット、16ビット、又は32ビットのものさえある)を、プリンタやCRTモニタのような従来の8ビットの低ダイナミックレンジ複製デバイスでの可視化に好適な形に変換することに関連して使用される。複製画像を、見た目が良く視覚的経験を呼び起こすようなものにすることは、印刷業界、写真業界及びコンピュータグラフィックスの目標である。本発明の技術はこの目標を達成し、ユーザ評価において最良の既存の技術と同程度の性能を示す。また、この技術は高速で完全に自動であるため、この技術を自動印刷処理過程に含めることができる。
例示的な実施の形態の1つの態様に従ったイメージングシステムの機能ブロック図である。 例示的な実施の形態の他の態様に従った、局部的ヒストグラム調節ベースの高ダイナミックレンジ画像マッピング方法のフロー図である。 入力画像の例示的な輝度ヒストグラムを示す図である。 処理のために複数のブロックに細分した例示的な画像の概略図である。 画像全体又は画像の一領域のオフセット調節済の正規化輝度値に適用可能なマッピング関数を示す図である。 距離重み関数に従った重み付け平均化処理を示す図である。
符号の説明
10 イメージングシステム
12 シーン
14 高ダイミナミックレンジ画像取得デバイス
16 アクティブピクセルセンサ
18 信号
20 画像処理デバイス
22 プロセッサ
24 ディスプレイ
26 プリンタ
28 メモリ
30 バス
32 揮発性メモリ

Claims (10)

  1. 画像データの自動マッピング方法であって、
    画像の画像データを輝度値として表すことと、
    前記画像の平均輝度値と、前記画像の最小輝度値及び最大輝度値との関数としてキー値を決定することと、
    オフセット調節輝度値を生成することであって、決定した前記キー値の関数であるオフセットを前記輝度値の各々に適用することを含む、オフセット調節輝度値の生成と、
    前記画像の少なくとも1つの領域の調子再現曲線を計算することであって、マッピング関数を前記オフセット調節輝度値に適用することを含む、調子再現曲線の計算と、
    を含む前記方法。
  2. 前記キー値が前記画像の全体の輝度に関連して増加する、請求項1に記載の方法。
  3. 前記調子再現曲線の計算が、前記画像の複数の領域の各々に対して異なる調子再現曲線を計算することを含む、請求項1に記載の方法。
  4. 前記画像内のピクセルのマップピクセル輝度値を計算することを更に含み、該マップピクセル輝度値が、前記ピクセルが位置する領域の前記調子再現曲線のために決定されたマップ値と、前記ピクセルが位置する前記領域の近隣に位置する領域の調子再現曲線との加重平均の関数である、請求項3に記載の方法。
  5. 計算した前記キー値が前記領域の各々に対して同一である、請求項3に記載の方法。
  6. 前記調子再現曲線を前記画像の少なくとも前記領域の輝度値に適用し、調子再現曲線調節輝度値を生成することを更に含む、請求項1に記載の方法。
  7. 前記画像データを輝度値として表すことが各ピクセルのカラー値の加重平均を計算することを含み、前記方法が、生成した前記調子再現曲線調節輝度値の関数として調節カラー値を計算することを更に含む、請求項6に記載の方法。
  8. 前記調子再現曲線の計算が、低ダイナミックレンジを有する輝度値に前記オフセット調節輝度値をマップすることを含む、請求項1に記載の方法。
  9. 前記調子再現曲線の計算の前に、前記オフセット調節輝度値を対数目盛で正規化する、請求項1に記載の方法。
  10. 画像処理デバイスであって、
    命令を記憶するメモリであって、前記命令が、
    画像の画像データを輝度値として表すことと、
    前記画像の平均輝度値と、前記画像の最小輝度値及び最大輝度値との関数として
    キー値を決定することと、
    オフセット調節輝度値を生成することであって、決定した前記キー値の関数である
    オフセットを前記輝度値の各々に適用することを含む、オフセット調節輝度値の生成と、
    前記画像の少なくとも1つの領域の調子再現曲線を計算することであって、マッピン
    グ関数を前記オフセット調節輝度値に適用することを含む、調子再現曲線の計算と、
    を行うためのものである、メモリと、
    前記命令を実行し、処理済の画像を出力するプロセッサと、
    を含む画像処理デバイス。
JP2007131454A 2006-05-17 2007-05-17 画像データの自動マッピング方法及び画像処理デバイス Expired - Fee Related JP4870617B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US11/435,588 US7636496B2 (en) 2006-05-17 2006-05-17 Histogram adjustment for high dynamic range image mapping
US11/435588 2006-05-17

Publications (2)

Publication Number Publication Date
JP2007310886A true JP2007310886A (ja) 2007-11-29
JP4870617B2 JP4870617B2 (ja) 2012-02-08

Family

ID=38461047

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007131454A Expired - Fee Related JP4870617B2 (ja) 2006-05-17 2007-05-17 画像データの自動マッピング方法及び画像処理デバイス

Country Status (5)

Country Link
US (1) US7636496B2 (ja)
EP (1) EP1857975B1 (ja)
JP (1) JP4870617B2 (ja)
KR (1) KR101309497B1 (ja)
DE (1) DE602007005863D1 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010039886A (ja) * 2008-08-07 2010-02-18 Hoya Corp 画像処理ユニット、撮像装置、合成画像作成プログラム
WO2012017946A1 (ja) * 2010-08-04 2012-02-09 日本電気株式会社 画像処理方法、画像処理装置及び画像処理プログラム
JP2012513172A (ja) * 2008-12-19 2012-06-07 クゥアルコム・インコーポレイテッド ハイダイナミックレンジイメージ合成
JP2012532335A (ja) * 2009-06-29 2012-12-13 トムソン ライセンシング ゾーン・ベースのトーン・マッピング
JP2013114692A (ja) * 2011-11-28 2013-06-10 Nhn Corp 自動映像補正のための映像処理装置及び方法
JP2014013601A (ja) * 2007-12-21 2014-01-23 Mks Instruments Inc 部分的最小二乗分析(pls−ツリー)を用いたデータの階層編成
US8797421B2 (en) 2008-12-19 2014-08-05 Qualcomm Incorporated System and method to selectively combine images

Families Citing this family (50)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7684640B2 (en) * 2005-10-20 2010-03-23 Sharp Laboratories Of America, Inc. Methods and systems for automatic digital image enhancement with local adjustment
EP1840831A1 (en) * 2006-03-31 2007-10-03 Sony Deutschland Gmbh Adaptive histogram equalization for images with strong local contrast
JP4406443B2 (ja) * 2007-05-09 2010-01-27 株式会社東芝 画像補正装置
US7706034B2 (en) * 2007-09-11 2010-04-27 Xerox Corporation Multi-Dimensional look-up table generation via adaptive node selection based upon color characteristics of an input image
US8107756B2 (en) * 2007-10-11 2012-01-31 Himax Technologies Limited Digital image tone remapping method and apparatus
US8126858B1 (en) 2008-01-23 2012-02-28 A9.Com, Inc. System and method for delivering content to a communication device in a content delivery system
US8165393B2 (en) * 2008-06-05 2012-04-24 Microsoft Corp. High dynamic range texture compression
US20090322777A1 (en) * 2008-06-26 2009-12-31 Microsoft Corporation Unified texture compression framework
US8194992B2 (en) * 2008-07-18 2012-06-05 Xerox Corporation System and method for automatic enhancement of seascape images
US9025898B2 (en) * 2009-04-06 2015-05-05 Red Hat Israel, Ltd. Dynamically selecting compression method for graphics remoting
US8346009B2 (en) 2009-06-29 2013-01-01 Thomson Licensing Automatic exposure estimation for HDR images based on image statistics
JP4795473B2 (ja) * 2009-06-29 2011-10-19 キヤノン株式会社 画像処理装置及びその制御方法
US8345975B2 (en) * 2009-06-29 2013-01-01 Thomson Licensing Automatic exposure estimation for HDR images based on image statistics
US8639056B2 (en) * 2009-06-29 2014-01-28 Thomson Licensing Contrast enhancement
US8457398B2 (en) * 2009-10-27 2013-06-04 Himax Media Solutions, Inc. Image enhancement method and apparatuses utilizing the same
KR101648762B1 (ko) * 2009-11-03 2016-08-18 한양대학교 산학협력단 입력 영상의 동적 범위를 변환하는 방법 및 장치
JP5397190B2 (ja) * 2009-11-27 2014-01-22 ソニー株式会社 画像処理装置、画像処理方法、およびプログラム
US8606009B2 (en) 2010-02-04 2013-12-10 Microsoft Corporation High dynamic range image generation and rendering
US8314847B2 (en) 2010-05-25 2012-11-20 Apple Inc. Automatic tone mapping curve generation based on dynamically stretched image histogram distribution
US8422782B1 (en) 2010-09-30 2013-04-16 A9.Com, Inc. Contour detection and image classification
US8463036B1 (en) * 2010-09-30 2013-06-11 A9.Com, Inc. Shape-based search of a collection of content
US8990199B1 (en) 2010-09-30 2015-03-24 Amazon Technologies, Inc. Content search with category-aware visual similarity
US8374428B2 (en) 2010-12-05 2013-02-12 Microsoft Corporation Color balancing for partially overlapping images
ES2694806T3 (es) 2011-03-02 2018-12-27 Dolby Laboratories Licensing Corporation Operador de correlación de tonos multiescala local
JP5828649B2 (ja) * 2011-03-09 2015-12-09 キヤノン株式会社 画像処理装置、画像処理方法、及びコンピュータプログラム
US8947555B2 (en) * 2011-04-18 2015-02-03 Qualcomm Incorporated White balance optimization with high dynamic range images
LT3595281T (lt) * 2011-05-27 2022-05-25 Dolby Laboratories Licensing Corporation Spalvų kontrolės keičiamo mastelio sistemos, apimančios kintamo lygio metaduomenis
EP2769540B1 (en) * 2011-10-20 2018-11-28 Dolby Laboratories Licensing Corporation Method and system for video equalization
TWI463879B (zh) * 2011-12-26 2014-12-01 Univ Nat Chunghsing 調變式影像處理方法及其系統
US8970739B2 (en) * 2012-03-05 2015-03-03 Apple Inc. Devices and methods for creating structure histograms for use in image enhancement
CN102819852B (zh) * 2012-05-31 2017-12-29 新奥特(北京)视频技术有限公司 一种在图像中生成光晕的方法
WO2014012680A1 (fr) 2012-07-18 2014-01-23 Thomson Licensing Procede et dispositif de conversion d'une sequence d'image dont les valeurs de luminance appartiennent a une plage de valeurs de dynamique elevee
KR101389930B1 (ko) * 2012-08-17 2014-04-29 연세대학교 산학협력단 이미지 톤 매핑 장치 및 방법
WO2014118032A1 (en) * 2013-01-29 2014-08-07 Thomson Licensing Method and device for modifying the dynamic range of an image
CN104715445B (zh) * 2013-12-13 2018-04-06 腾讯科技(深圳)有限公司 图像处理方法和系统
WO2015105643A1 (en) * 2014-01-13 2015-07-16 Marvell World Trade Ltd. System and method for tone mapping of images
CN104463820A (zh) * 2014-10-29 2015-03-25 广东工业大学 一种基于频域的反色调映射算法
US9860504B2 (en) 2015-01-09 2018-01-02 Vixs Systems, Inc. Color gamut mapper for dynamic range conversion and methods for use therewith
US9652870B2 (en) * 2015-01-09 2017-05-16 Vixs Systems, Inc. Tone mapper with filtering for dynamic range conversion and methods for use therewith
EP3054418A1 (en) * 2015-02-06 2016-08-10 Thomson Licensing Method and apparatus for processing high dynamic range images
JP6613697B2 (ja) * 2015-08-06 2019-12-04 株式会社リコー 画像処理装置、プログラムおよび記録媒体
CN105608685B (zh) * 2015-11-17 2018-09-28 江苏理工学院 一种直方图修正的二次直方图均衡图像增强方法及系统
CN107292829B (zh) * 2016-03-31 2020-12-15 阿里巴巴集团控股有限公司 图像处理方法及装置
CN108460730B (zh) 2017-02-17 2020-06-26 京东方科技集团股份有限公司 一种图像处理方法及其装置
DE102017218072A1 (de) * 2017-10-11 2019-04-11 Robert Bosch Gmbh Verfahren zum Aufnehmen eines Bildes
US10504452B2 (en) * 2018-03-12 2019-12-10 Apple Inc. Pixel contrast control systems and methods
TWI681675B (zh) * 2018-07-04 2020-01-01 瑞昱半導體股份有限公司 基於動態範圍壓縮的對比增強方法及其電子裝置
JP7212466B2 (ja) * 2018-07-06 2023-01-25 キヤノン株式会社 画像処理装置、画像処理方法、プログラム、記憶媒体
US11049224B2 (en) 2018-12-05 2021-06-29 Microsoft Technology Licensing, Llc Automated real-time high dynamic range content review system
CN112351195B (zh) * 2020-09-22 2022-09-30 北京迈格威科技有限公司 图像处理方法、装置和电子系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005079624A (ja) * 2003-08-28 2005-03-24 Fuji Photo Film Co Ltd 画像処理装置および方法並びにプログラム
JP2005236588A (ja) * 2004-02-19 2005-09-02 Omron Corp 画像データ変換装置及びカメラ装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4654722A (en) * 1985-05-06 1987-03-31 Eastman Kodak Company Tone value sample selection in digital image processing method employing histogram normalization
US5450502A (en) * 1993-10-07 1995-09-12 Xerox Corporation Image-dependent luminance enhancement
US5724456A (en) * 1995-03-31 1998-03-03 Polaroid Corporation Brightness adjustment of images using digital scene analysis
US5581370A (en) * 1995-06-05 1996-12-03 Xerox Corporation Image-dependent automatic area of interest enhancement
US5822453A (en) 1996-12-10 1998-10-13 Eastman Kodak Company Method for estimating and adjusting digital image contrast
US6175427B1 (en) * 1998-04-20 2001-01-16 Xerox Corporation System and method of tonal correction of independent regions on a compound document
US6850642B1 (en) * 2000-01-31 2005-02-01 Micron Technology, Inc. Dynamic histogram equalization for high dynamic range images
US6826310B2 (en) * 2001-07-06 2004-11-30 Jasc Software, Inc. Automatic contrast enhancement
US7136073B2 (en) * 2002-10-17 2006-11-14 Canon Kabushiki Kaisha Automatic tone mapping for images
US7492375B2 (en) * 2003-11-14 2009-02-17 Microsoft Corporation High dynamic range image viewing on low dynamic range displays

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005079624A (ja) * 2003-08-28 2005-03-24 Fuji Photo Film Co Ltd 画像処理装置および方法並びにプログラム
JP2005236588A (ja) * 2004-02-19 2005-09-02 Omron Corp 画像データ変換装置及びカメラ装置

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014013601A (ja) * 2007-12-21 2014-01-23 Mks Instruments Inc 部分的最小二乗分析(pls−ツリー)を用いたデータの階層編成
JP2010039886A (ja) * 2008-08-07 2010-02-18 Hoya Corp 画像処理ユニット、撮像装置、合成画像作成プログラム
JP2012513172A (ja) * 2008-12-19 2012-06-07 クゥアルコム・インコーポレイテッド ハイダイナミックレンジイメージ合成
US8797421B2 (en) 2008-12-19 2014-08-05 Qualcomm Incorporated System and method to selectively combine images
JP2012532335A (ja) * 2009-06-29 2012-12-13 トムソン ライセンシング ゾーン・ベースのトーン・マッピング
WO2012017946A1 (ja) * 2010-08-04 2012-02-09 日本電気株式会社 画像処理方法、画像処理装置及び画像処理プログラム
US8831345B2 (en) 2010-08-04 2014-09-09 Nec Corporation Image processing method, image processing apparatus, and image processing program
JP5991486B2 (ja) * 2010-08-04 2016-09-14 日本電気株式会社 画像処理方法、画像処理装置及び画像処理プログラム
JP2013114692A (ja) * 2011-11-28 2013-06-10 Nhn Corp 自動映像補正のための映像処理装置及び方法

Also Published As

Publication number Publication date
DE602007005863D1 (de) 2010-05-27
EP1857975B1 (en) 2010-04-14
US7636496B2 (en) 2009-12-22
KR20070111391A (ko) 2007-11-21
EP1857975A3 (en) 2008-04-02
EP1857975A2 (en) 2007-11-21
JP4870617B2 (ja) 2012-02-08
US20070268534A1 (en) 2007-11-22
KR101309497B1 (ko) 2013-09-24

Similar Documents

Publication Publication Date Title
JP4870617B2 (ja) 画像データの自動マッピング方法及び画像処理デバイス
JP4870618B2 (ja) 画像データの自動マッピング方法及び画像処理デバイス
EP2076013B1 (en) Method of high dynamic range compression
JP5105209B2 (ja) 画像処理装置および方法、プログラム、並びに記録媒体
JP4210577B2 (ja) 選択的空間フィルタを使用するディジタル画像の階調及び空間特性の向上方法
US8681880B2 (en) Adaptive dithering during image processing
KR20040044556A (ko) 화상 처리 방법, 장치 및 프로그램
US20110285871A1 (en) Image processing apparatus, image processing method, and computer-readable medium
KR102221116B1 (ko) 크로스 커널 구조의 중간값 필터를 이용한 영상 잡음 제거장치 및 방법
JP4021261B2 (ja) 画像処理装置
JP3950551B2 (ja) 画像処理方法、装置および記録媒体
JP4664938B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP6160426B2 (ja) 画像処理装置及びプログラム
JP3921737B2 (ja) 画像処理装置、画像処理方法、画像処理制御プログラムを記録した媒体
JPH10271524A (ja) 画像処理装置及び画像処理方法並びに画像処理プログラムを記録した媒体
JP7329932B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP4445026B2 (ja) 画像処理方法および装置並びにプログラム
JP3501151B2 (ja) 画像処理装置、画像処理方法、画像処理制御プログラムを記録した媒体
CN117876283A (zh) 一种自动驾驶高动态场景图像处理方法与装置
JP2006024097A (ja) シャープネス計測装置、シャープネス計測方法、画像処理装置、画像処理方法、シャープネス計測プログラム、画像処理プログラム、及び記憶媒体
Kotera Overview Paper: Intelligent color imaging
JP2003125213A5 (ja)
JP2008065845A (ja) 画像処理装置、画像処理プログラムを記録した記録媒体および画像処理方法
JP2008245321A (ja) 画像処理装置、画像処理方法、および記録媒体
JP2009205699A (ja) 画像評価方法、画像評価プログラムを記録した媒体および画像評価装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100402

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110707

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110719

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110920

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111018

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111117

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141125

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees