JP5067218B2 - 映像信号処理装置、表示装置、及び映像信号処理方法 - Google Patents

映像信号処理装置、表示装置、及び映像信号処理方法 Download PDF

Info

Publication number
JP5067218B2
JP5067218B2 JP2008070187A JP2008070187A JP5067218B2 JP 5067218 B2 JP5067218 B2 JP 5067218B2 JP 2008070187 A JP2008070187 A JP 2008070187A JP 2008070187 A JP2008070187 A JP 2008070187A JP 5067218 B2 JP5067218 B2 JP 5067218B2
Authority
JP
Japan
Prior art keywords
gamma correction
video signal
correction amount
unit
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008070187A
Other languages
English (en)
Other versions
JP2009225349A (ja
Inventor
清水  晃
茂 原田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2008070187A priority Critical patent/JP5067218B2/ja
Publication of JP2009225349A publication Critical patent/JP2009225349A/ja
Application granted granted Critical
Publication of JP5067218B2 publication Critical patent/JP5067218B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、映像信号処理装置、表示装置、及び映像信号処理方法に関する。
近年、デジタル放送が開始され、視聴者が高品質のデジタル映像を目にする機会が増えてきている。放送機器により受信されたデジタル放送データは、表示装置の発光素子等に印加される電圧値に換算されて入力される。表示装置は、入力された電圧値に応じて発光素子等に電圧を印加することで映像を表示するのである。このとき、デジタル放送データに含まれる色データや輝度データ等と実際に表示される色や輝度等とが表示装置の物理的な出力特性(ガンマ特性)に応じて若干乖離する場合がある。そのため、ガンマ補正と呼ばれる映像信号処理技術が利用される。
ガンマ補正とは、デジタル放送データを電圧値に換算する際、元のデータが示す色や輝度が忠実に再現されるように、表示装置の物理的な出力特性を考慮して予め補正を加える処理である。ガンマ補正の処理は、例えば、表示装置毎にガンマ特性が記録されたテーブルに基づいて実行される。この技術に関し、例えば、下記の特許文献1には、映像データの各画像について平均輝度値を算出し、複数画像の平均輝度値に基づいてガンマ補正値を決定してガンマ補正を施す画像処理装置の技術が開示されている。また、下記の特許文献2には、映像データの各画像における平均映像信号値を算出し、その平均映像信号値とガンマ補正後の映像信号値とを利用して発光素子に印加される電圧を決定する表示装置の技術が開示されている。
特開2004−266755号公報 特開2005−260329号公報
しかしながら、上記の各文献に記載の技術を適用しても、画素数が白側と黒側とに偏在するようなヒストグラムを有する映像信号に対して視認性やコントラスト感を向上させるようなガンマ補正を施すことが難しかった。
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、映像信号に含まれる画素のヒストグラムが低輝度側、及び高輝度側の両方に偏在する場合でも、その画像のコントラスト感や視認性を向上させることが可能な、新規かつ改良された映像信号処理装置、表示装置、及び映像信号処理方法を提供することにある。
上記課題を解決するために、本発明のある観点によれば、時系列で入力される各映像信号について、当該各映像信号に含まれる画素の中で所定値以下の輝度を有する画素に関して平均輝度値を算出する平均輝度値算出部と、前記平均輝度値算出部により算出された平均輝度値に基づいてガンマ補正量を算出するガンマ補正量算出部と、前記ガンマ補正量算出部により算出されたガンマ補正量に基づいて前記映像信号にガンマ補正を施すガンマ補正部とを備える、映像信号処理装置が提供される。
上記の映像信号処理装置は、平均輝度値算出部により、時系列で入力される各映像信号について、当該各映像信号に含まれる画素の中で所定値以下の輝度を有する画素に関して平均輝度値を算出する。また、この映像信号処理装置は、ガンマ補正量算出部により、前記平均輝度値算出部により算出された平均輝度値に基づいてガンマ補正量を算出する。そして、この映像信号処理装置は、ガンマ補正部により、前記ガンマ補正量算出部により算出されたガンマ補正量に基づいて前記映像信号にガンマ補正を施す。
また、上記の映像信号処理装置は、前記所定値以下の輝度を有する画素の総画素数を算出する総画素数算出部と、前記総画素数算出部により算出された前記総画素数に応じて前記ガンマ補正量にゲイン補正を施すゲイン補正部とをさらに備えていてもよい。
また、前記ゲイン補正部は、前記総画素数が所定の画素数以下の場合、前記ガンマ補正量が零になるゲイン補正量で前記ゲイン補正を施すように構成されていてもよい。
また、前記ゲイン補正部は、前記総画素数が前記所定の画素数に近づくに連れて前記ガンマ補正量が零に近づくようにゲイン補正量を段階的又は漸近的に変化させながら前記ゲイン補正を施すように構成されていてもよい。
また、上記の映像信号処理装置は、前記総画素数を示す第1の座標軸、及び当該第1の座標軸に直交して前記ガンマ補正量を示す第2の座標軸により形成される座標系の中で、前記第2の座標軸に対して有限の角度を有する直線で形成される折れ線、又は曲線のグラフにより表現される変換テーブルが記録された記憶部をさらに備えていてもよい。この場合、前記ゲイン補正部は、前記変換テーブルに基づいてゲイン補正量を決定して前記ゲイン補正を施すように構成される。
また、前記所定の画素数は、前記映像信号に含まれる総画素数の20%〜40%に設定されることが好ましい。
また、上記課題を解決するために、本発明の別の観点によれば、時系列で入力される各映像信号について、当該各映像信号に含まれる画素の中で所定値以下の輝度を有する画素に関して平均輝度値を算出する平均輝度値算出部と、前記平均輝度値算出部により算出された平均輝度値に基づいてガンマ補正量を算出するガンマ補正量算出部と、前記ガンマ補正量算出部により算出されたガンマ補正量に基づいて前記映像信号にガンマ補正を施すガンマ補正部と、前記ガンマ補正部によりガンマ補正が施された前記各映像信号に基づいて映像を表示する表示部とを備える、表示装置が提供される。
上記の表示装置は、平均輝度値算出部により、時系列で入力される各映像信号について、当該各映像信号に含まれる画素の中で所定値以下の輝度を有する画素に関して平均輝度値を算出する。また、この表示装置は、ガンマ補正量算出部により、前記平均輝度値算出部により算出された平均輝度値に基づいてガンマ補正量を算出する。さらに、この表示装置は、ガンマ補正部により、前記ガンマ補正量算出部により算出されたガンマ補正量に基づいて前記映像信号にガンマ補正を施す。そして、この表示装置は、表示部により、前記ガンマ補正部によりガンマ補正が施された前記各映像信号に基づいて前記映像信号を表示する。尚、この表示装置は、上記の映像信号処理装置が有する他の構成をさらに備えていてもよい。
また、上記課題を解決するために、本発明の別の観点によれば、時系列で入力される各映像信号について、当該各映像信号に含まれる画素の中で所定値以下の輝度を有する画素に関して平均輝度値が算出される平均輝度値算出ステップと、前記平均輝度値算出ステップにおいて算出された平均輝度値に基づいてガンマ補正量が算出されるガンマ補正量算出ステップと、前記ガンマ補正量算出ステップにおいて算出されたガンマ補正量に基づいて前記映像信号にガンマ補正が施されるガンマ補正ステップとを含む、映像信号処理方法が提供される。
上記の映像信号処理方法では、平均輝度値算出ステップにおいて、時系列で入力される各映像信号について、当該各映像信号に含まれる画素の中で所定値以下の輝度を有する画素に関して平均輝度値が算出される。また、この映像信号処理方法では、ガンマ補正量算出ステップにおいて、前記平均輝度値算出ステップにおいて算出された平均輝度値に基づいてガンマ補正量が算出される。さらに、この映像信号処理方法では、ガンマ補正ステップにおいて、前記ガンマ補正量算出ステップにおいて算出されたガンマ補正量に基づいて前記映像信号にガンマ補正が施される。
以上説明したように本発明によれば、映像信号に含まれる画素のヒストグラムが低輝度側、及び高輝度側の両方に偏在する場合でも、その画像のコントラスト感や視認性を向上させることが可能になる。
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
[表示装置H10のハードウェア構成例]
まず、図1を参照しながら、表示装置H10のハードウェア構成例について簡単に説明する。図1は、表示装置H10のハードウェア構成例を示す説明図である。以下で説明する実施形態の構成は、ここで例示する表示装置H10のハードウェア構成により実現される。この表示装置H10は、例えば、テレビジョン受像機等の放送機器、パーソナルコンピュータ(以下、PC)、カーナビゲーションシステム、携帯電話機、携帯型ゲーム機、携帯情報端末、又は各種の情報家電等の形態を有していてもよい。
図1に示すように、表示装置H10は、主に、アナログ/デジタル変換部H12と、映像デコード処理部H14と、IP変換部H16と、メモリH18と、バスH20と、スケーリング処理部H22と、画質調整部H24と、RGB処理部H26と、表示部H28とにより構成される。この中で、アナログ/デジタル変換部H12、映像デコード処理部H14、IP変換部H16、メモリH18、スケーリング処理部H22は、バスH20を介して接続されている。
まず、アナログ/デジタル変換部H12には、コンポーネント映像信号が入力される。コンポーネント映像信号とは、輝度信号、同期信号、及び色信号を分離して扱えるようにした映像信号である。入力されたコンポーネント映像信号は、アナログ/デジタル変換部H12によりデジタル映像信号に変換され、一旦、メモリH18に格納される。
また、映像デコード処理部H14には、コンポジット映像信号、S端子(Y/C)映像信号が入力される。コンポジット映像信号とは、輝度信号、及び色信号を合成して同時に扱えるようにした複合映像信号である。但し、同期信号が同時に複合化されることもある。S端子(Y/C)映像信号は、輝度信号Yと色信号Cとが分離した状態で入力される映像信号である。入力されたコンポジット映像信号やS端子(Y/C)映像信号は、映像デコード処理部H14によりデコードされ、一旦、メモリH18に格納される。
メモリH18に格納された映像信号は、IP変換部H16により読み出される。IP変換部H16は、読み出した映像信号をインターレース信号形式からプログレッシブ信号形式に変換する(以下、IP変換)。IP変換された映像信号は、スケーリング処理部H22に入力される。スケーリング処理部H22は、映像信号が表示部H28の画素数に適合するようにスケーリング処理を施し、画質調整部H24に入力する。
画質調整部H24は、入力された映像信号のコントラスト、及び色調等を補正し、RGB処理部H26に入力する。RGB処理部H26は、入力された映像信号に対し、輝度や色差の調整、及びRGB形式への変換処理等を施して表示部H28に入力する。表示部H28は、入力されたRBG形式の映像信号に基づいて発光素子に電圧を印加して映像を表示する。表示部H28は、例えば、CRT(Cathode Ray Tube)、LCD(Liquid Crystal Display)、PDP(Plasma DisplayPanel)、又はELD(Electro−Luminescence Display)等のディスプレイ装置により実現される。
以上、表示装置H10のハードウェア構成例について簡単に説明した。以下で説明する実施形態の構成は、上記の表示装置H10のハードウェア構成の中で、画質調整部H24の機能に相当する。
[ガンマ補正処理の概要]
次に、図2を参照しながら、ガンマ補正処理の概要について簡単に説明する。図2は、映像信号の入出力輝度特性、及び当該入出力輝度特性にガンマ補正を施して得られるガンマ補正カーブを示す説明図である。図2の中で、X軸は入力信号の輝度レベルを表し、Y軸は出力信号の輝度レベルを表す。また、輝度レベルの単位は、テレビジョン信号の振幅を表すIREを用いており、白を100[IRE]とする。
既に述べた通り、表示部H28の発光素子が有する発光特性等に応じて映像信号の輝度や色調等が正しく再現されない場合がある。そのため、映像信号は、表示部H28の発光素子に印加される印加電圧に変換される際に補正される。この補正の一例を示したのが図2に示すガンマ補正カーブである。
例えば、画面全体が暗い映像シーンを多く含む映画の場合、画質調整部H24は、黒側の映像信号に対して図2に示すようなガンマ補正を施す。つまり、画質調整部H24は、入力された映像信号の輝度レベルXを黒に近い部分だけ増加させ、出力信号の輝度レベルYとして出力するのである。このようなガンマ補正を施すことにより、全体的に暗めであった映像信号に対して視認性が向上したり、コントラスト感が改善されるといった効果が得られる。このように、映像信号の特性に応じてガンマ補正カーブを調整することで、視認性やコントラスト感を向上させることができるのである。
[コントラストの制御方法]
次に、図3〜図14を参照しながら、ガンマ補正によるコントラストの制御方法について説明する。特に、リアルタイムにコントラストを制御する方法について説明する。ここで説明するコントラスト制御方法は、以下で詳細に説明する実施形態の理解を助け、また、当該実施形態との対比関係を明示するために例示されるものである。
まず、図3〜図8を参照する。図3は、映像信号に含まれる輝度値毎の画素数を表すヒストグラムの一例である。この例は、映像信号に暗いシーンが含まれ、全体的にヒストグラムが低輝度側に偏在する場合を示している。図4は、ヒストグラムに適用する重み付け係数の一例である。上記の通り、コントラストを向上させるためには、暗い映像シーンを検出し、その映像シーンに対して輝度値のガンマ補正を施すのが好ましい。そのため、画質調整部H24は、暗い映像シーンの検出に図4に示すような重み付け係数を利用する。
図4に示す重み付け係数は、低輝度側で大きく、高輝度側に向かうに連れて減少するように構成されている。画質調整部H24は、暗い映像シーンを検出する際、輝度値毎に検出された画素数のヒストグラムに対し、図4に示すような重み付け係数を乗算する。すると、図5に示すように、重み付け係数により低輝度側が強調されたヒストグラムが算出される。そこで、画質調整部H24は、重み付け係数が乗算されたヒストグラムを全ての輝度値について積算する。もし、図3に示すような低輝度側に偏ったヒストグラムであれば、重み付け係数の乗算後も低輝度側のヒストグラムが残るため、積算結果が相対的に大きな値となるからである。
比較のために、高輝度側に偏りのあるヒストグラムについて、上記の重み付け係数を乗算したヒストグラムの積算結果についても示す。まず、図6を参照する。図6は、比較的明るい映像シーンに対応するヒストグラムであり、高輝度側に画素数が偏在している。ここで、画質調整部H24は、図7に示すような低輝度側で大きな値を持つ重み付け係数をヒストグラムに乗算する。図7の重み付け係数は、図4のものと同じである。すると、図8に示すような重み付け後のヒストグラムが得られる。
図8に示すように、高輝度側に偏りのあるヒストグラムに対し、図7に示すような重み付け係数を乗算すると、高輝度側のヒストグラム成分がほとんどカットされてしまうため、低輝度側の少ないヒストグラム成分のみが残る。そのため、重み付け後のヒストグラムが積算されても、相対的に非常に小さな値となる。このように、重み付け係数を利用して明るい映像シーンと暗い映像シーンとを判別することができる。
但し、図3、及び図6に示したヒストグラムは、それぞれ低輝度側、及び高輝度側にヒストグラムが偏在する比較的極端な例であった。ところが、実際には、高輝度側、及び低輝度側の両方にヒストグラムが偏在するような映像シーンも存在する。このように高輝度側/低輝度側に2極偏在するヒストグラムに対しては、上記の重み付け係数を用いても、うまく映像シーンを判別することが難しい。
2極偏在のヒストグラムとして、例えば、図9のようなヒストグラムが検出されることがある。図9の例では、低輝度側の方が高輝度側に比べてやや低いものの、低輝度側/高輝度側の双方にヒストグラムが偏在している。試みに、図9に示すようなヒストグラムに対し、上記の重み付け係数を乗算する場合について考えてみる。
図9のヒストグラムに対し、図10に示す重み付け係数を乗算すると、図11に示すような重み付け後のヒストグラムが得られる。但し、図10の重み付け係数は、図4、図7に示したものと同じである。図11を参照すると、2極偏在するヒストグラムに対して重み付け係数を乗算した結果は、低輝度側に偏在するヒストグラムに対する結果(図5)に比べると小さな値になっていることが分かる。逆に、図11の結果は、高輝度側に偏在するヒストグラムに対する結果(図8)に比べると大きな値になっていることが分かる。
このように、2極偏在するヒストグラムが得られるような映像シーンは、それが暗い映像シーンなのか、明るい映像シーンなのかの判別が付きにくい。しかしながら、このような2極偏在するヒストグラムの映像シーンに対しても、図2に示すようなガンマ補正を施した方が映像シーンの視認性やコントラスト感が向上する場合が多い。そこで、こうした2極偏在するヒストグラムに対しても、適切にガンマ補正を施すことができるアルゴリズムが求められる。以下で詳細に説明する実施形態に係る技術は、こうしたアルゴリズムを提供するものである。
(重み付け係数の乗算方法)
ここで、図12を参照しながら、上記の重み付け係数の乗算方法について簡単に説明する。図12は、重み付け係数の乗算方法を示す説明図である。図12に示すように、輝度値毎に重み付け係数をW(n=0,1,…,N)とし、輝度値毎の画素数をP(n=0,1,…,N)とすると、重み付け後のヒストグラム値WP(n=0,1,…,N)は、下記の式(1)のように示される。但し、Nは、ヒストグラムの分割数を示す。
Figure 0005067218
(ヒストグラムの積算方法)
次に、図13を参照しながら、上記の重み付け後ヒストグラムの積算方法について簡単に説明する。図13は、重み付け後ヒストグラムの積算方法を示す説明図である。図13に示すように、重み付け後のヒストグラム値はWP(n=0,1,…,N)である。この値は、上記の式(1)で与えられる。これを用いると、重み付け後ヒストグラムの積算値SWPは、下記の式(2)により与えられる。
Figure 0005067218
(ガンマ補正量の決定方法)
次に、図14を参照しながら、重み付け後ヒストグラムの積算値SWPに基づくガンマ補正量の決定方法について簡単に説明する。図14は、重み付け後ヒストグラムの積算値SWPをガンマ補正量に変換するための変換テーブルの一例を示す説明図である。但し、GMが最も小さく、GMが最も大きなガンマ補正量を示す点に注意されたい。尚、ここで言うガンマ補正量GMは、図2に示すガンマ補正カーブの膨らみ幅に相当する。
図14に示すように、ガンマ補正量変換テーブルは、積算値SWPが増加するに連れてガンマ補正量GMが増加するように構成されている。上記の通り、積算値SWPが大きい映像信号には、暗い映像シーンが多く含まれているので、より強くガンマ補正を施した方が好ましい。一方、積算値SWPが小さく、明るい映像シーンが多く含まれている映像信号には、あまりガンマ補正を施さなくてもよい。そのため、ガンマ補正量変換テーブルは、図14に示すような形状になるのである。
また、図14に示すガンマ補正量変換テーブルは、積算値SWPの大きさに応じて段階的にガンマ補正量が低減される形状を有している。例えば、積算値SWPが0から所定値SWPまでは一定のガンマ補正量GMであり、所定値SWPでガンマ補正量GMになるように所定値SWPからSWPまでの間で漸増する。同様に、積算値SWPが所定値SWPからSWPの間でGMのまま一定となり、所定値SWPからSWPの間で漸増する。積算値SWPが所定値SWPからSWPまでの間はガンマ補正量GMのままである。このように、ガンマ補正量変換テーブルは、積算値SWPに応じて段階的にガンマ補正量が変化するように構成される。
以上、ガンマ補正処理の概要について説明した。特に、コントラスト制御に関する技術について紹介した。これらの技術は、低輝度側又は高輝度側にヒストグラムが偏在するような映像信号において、映像シーンの判別処理に好適に用いられる。しかしながら、2極偏在するヒストグラムを有する映像信号に対しては、その映像シーンの判別が難しい場合がある。そこで、以下で説明する実施形態において、このような2極偏在するヒストグラムを持つ映像信号に対しても、映像シーンの判別が可能になる技術が提案される。
<実施形態>
以下、本発明に係る一実施形態について説明する。本実施形態は、上記の通り、2極偏在するヒストグラムを持つ映像信号に対しても、映像シーンを的確に判別し、十分なガンマ補正を施すことが可能な映像信号処理方法に関する。
[映像信号処理装置100の機能構成]
まず、図15を参照しながら、本実施形態に係る映像信号処理装置100の機能構成について説明する。図15は、本実施形態に係る映像信号処理装置100の機能構成を示す説明図である。
図15に示すように、映像信号処理装置100は、主に、ヒストグラム検出部102と、演算処理ブロック104と、記憶部106と、ガンマ補正処理部108とにより構成される。また、演算処理ブロック104は、主に、平均輝度値算出部112と、ガンマ補正量算出部116と、総画素数算出部118と、ゲイン補正部120とを含む。さらに、記憶部106は、ガンマ補正テーブル132と、ゲイン補正テーブル134とを含む。
尚、ヒストグラム検出部102、演算処理ブロック104、ガンマ補正処理部108の機能は、例えば、画質調整部H24により実現される。また、記憶部106の機能は、メモリH18、又は他の記憶手段により実現される。
もし、映像信号処理装置100の機能が図21に示すハードウェア資源を利用して実現されるならば、演算処理ブロック104の機能は、CPU902により実現される。このとき、演算処理ブロック104の機能は、例えば、ROM904、記憶部920、又はリムーバブル記憶媒体928等に格納されたプログラムに基づいてCPU902により実現される。また、記憶部106の機能は、例えば、RAM906、記憶部920、リムーバブル記憶媒体928等により実現される。
(ヒストグラム検出部102)
ヒストグラム検出部102は、入力された映像信号に含まれる画素の輝度値を検出し、輝度値毎の画素数を算出してヒストグラムを生成する。ヒストグラム検出部102は、例えば、図3、図6、図9に示すようなヒストグラムを検出する。ヒストグラム検出部102により検出されたヒストグラムの情報は、演算処理ブロック104の平均輝度値算出部112、及び総画素数算出部118に入力される。
(平均輝度値算出部112)
平均輝度値算出部112は、ヒストグラム検出部102により検出されたヒストグラムに基づいて輝度値が所定値(以下、特定輝度レベル)以下の画素に対する平均輝度値を算出する。例えば、ヒストグラム検出部102により、図16に示すようなヒストグラムが検出された場合を考える。この場合、平均輝度値算出部112は、特定輝度レベル以下のヒストグラム(斜線部分)に注目し、その注目部分の平均輝度値を算出する。
尚、特定輝度レベルは、任意に設定することが可能である。但し、実際には、評価用のサンプル画像等を利用して実験し、十分な効果が得られる値に設定される。例えば、黒側に画素値が偏在するような画像のコントラスト感を改善しようとする場合、特定輝度レベルは、低輝度側に寄せて設定される。但し、あまり低輝度側に寄せすぎると効果が低下する。こうした条件を踏まえ、特定輝度レベルは、白を100[IRE]として、例えば、10〜20[IRE]の間の値に設定される。
図17に示すように、特定輝度レベル以下のヒストグラムについて、各輝度値をY(n=0,1,…,M)とし、各輝度値Yに対応する画素値をP(n=0,1,…,M)とすると、平均輝度値AYは、下記の式(3)により算出される。但し、Mは、特定輝度レベル以下のヒストグラム数を表し、図17の例ではM=5である。
Figure 0005067218
再び図15を参照する。平均輝度値算出部112により算出された平均輝度値AYは、ガンマ補正量算出部116に入力される。尚、平均輝度値AYを算出する際に用いる特定輝度レベル以下の画素数(ΣP)は、後述する総画素数算出部118により算出された結果を取得して利用してもよい。
(ガンマ補正量算出部116、ガンマ補正テーブル132)
ガンマ補正量算出部116は、平均輝度値算出部112により算出された平均輝度値AYに基づいてガンマ補正量を算出する。このとき、ガンマ補正量算出部116は、記憶部106に格納されたガンマ補正テーブル132を参照し、入力された平均輝度値AYに対応するガンマ補正量を算出する。さらに、ガンマ補正量算出部116は、後述するゲイン補正部120からゲイン補正量が入力された場合、そのゲイン補正量に基づいてガンマ補正量を補正してガンマ補正処理部108に入力する。
ここで、図18を参照しながら、ガンマ補正テーブル132の構成について説明する。図18は、ガンマ補正テーブル132の構成例を示す説明図である。
ガンマ補正テーブル132は、平均輝度値算出部112により算出された平均輝度値(APL値)とガンマ補正量との間の関係を示すグラフである。尚、図18についても、図14の場合と同様に、ガンマ補正量AGMが最も小さく、AGMが最も大きい値である点に注意されたい。
図18に示すように、ガンマ補正テーブル132は、平均輝度値AYが増加するに連れてガンマ補正量AGMが増加するように構成されている。上記の通り、平均輝度値AYは、特定輝度レベル以下(低輝度側)の画素について算出された値であり、低輝度側の画素が多い程、大きな値となる。つまり、平均輝度値AYが大きいということは、暗い映像シーンも多く含まれているということを示している。一方、平均輝度値AYが小さいということは、暗い映像シーンがあまり含まれていないことを示しており、ガンマ補正を施さなくてもよいことを示している。そのため、ガンマ補正テーブル132は、図18に示すような形状に設定されるのである。
また、図18に示すガンマ補正テーブル132は、平均輝度値AYの大きさに応じて段階的にガンマ補正量AGMが増加される形状を有している。例えば、平均輝度値AYが0から所定値AYまでは一定のガンマ補正量AGMであり、所定値AYでガンマ補正量AGMになるように所定値AYからAYまでの間で漸増する。同様に、平均輝度値AYが所定値AYからAYの間でAGMのまま一定となり、所定値AYからAYの間で漸増する。平均輝度値AYが所定値AYからAYまでの間はガンマ補正量AGMのままである。このように、ガンマ補正テーブル132は、平均輝度値AYに応じて段階的にガンマ補正量が変化するように構成される。
図18の例では、ガンマ補正テーブル132は、折れ線により構成されているが、これに限定されず、例えば、曲線等で構成することも可能である。また、折れ線を構成するパラメータAY〜AY、AGM〜AGMは任意の値に設定可能である。
ガンマ補正量算出部116は、例えば、図18に示すようなガンマ補正テーブル132を参照し、平均輝度値算出部112により算出された平均輝度値AYに対応するガンマ補正量AGMを読み出して、その読み出した値をガンマ補正処理部108に入力する。
(総画素数算出部118)
再び図15を参照する。総画素数算出部118は、ヒストグラム検出部102から入力されたヒストグラムに基づいて特定輝度レベル以下の総画素数を算出する。例えば、図17に示すように、特定輝度レベル以下のヒストグラムについて、各輝度値Yに対応する画素値をP(n=0,1,…,M)とすると、総画素数SPは、下記の式(4)により算出される。
Figure 0005067218
総画素数算出部118により算出された総画素数SPは、ゲイン補正部120に入力される。尚、総画素数SPは、平均輝度値算出部112による平均輝度値AYの算出の際にも利用されるため、平均輝度値算出部112に入力されてもよい。
(ゲイン補正部120、ゲイン補正テーブル134)
ゲイン補正部120は、総画素数算出部118により算出された総画素数SPに基づいてゲイン補正量を算出する。このとき、ゲイン補正部120は、記憶部106に格納されたゲイン補正テーブル134に基づいてゲイン補正量を算出する。ここで、ゲイン補正量とは、ガンマ補正量を調整するための補正値である。後述するように、ゲイン補正量は、ガンマ補正量に乗算される値である。
ここで、ゲイン補正量について、より詳細に説明する。上記の通り、ガンマ補正量算出部116は、図18に示すようなガンマ補正テーブル132に基づいてガンマ補正量を算出する。ところが、特定輝度レベル以下の画素数が少ない場合、ガンマ補正テーブル132のガンマ補正量をそのまま適用すると、ガンマ補正処理における誤動作が生じる可能性がある。また、ガンマ補正により、急激な輝度変化が発生する可能性もある。そこで、誤動作や急激な輝度変化が抑制されるように、ガンマ補正値を調整するための値がゲイン補正量なのである。
ゲイン補正テーブル134は、例えば、図19に示すようなグラフで表現される。図19を参照すると、ゲイン補正テーブル134において、総画素数SPが0から所定値SPまでの間、ゲイン補正量Gが0である。また、総画素数SPが所定値SPからSPまでの間、ゲイン補正量Gは漸増する。さらに、総画素数SPが所定値SPからSPまでの間、ゲイン補正量Gは一定値(例えば、1)となる。そして、総画素数SPが所定値SP2からSPまでの間、ゲイン補正量Gは漸減し、所定値SPを越えるとゲイン補正値Gは0となる。
尚、ゲイン補正テーブル134についても、ガンマ補正テーブル132の場合と同様に、曲線等で表現されてもよい。また、パラメータSP〜SPは、任意の値に設定可能である。但し、ゲイン補正テーブル134の1つの役割は、上記の通り、特定輝度レベル以下の総画素数が極端に少ない場合にゲイン補正を施すことで誤作動が発生することを防止することにある。そのため、全輝度範囲における総画素数の20%〜40%程度の画素数が特定輝度レベル以下に存在しない場合に、ゲイン補正がONになるようにパラメータが設定されることが好ましい。但し、この値は、他の構成要素における設定値との兼ね合いで、より好適な値に決定されうる。
図19に示すゲイン補正テーブル134は、総画素数SPが所定値SP以下の場合、或いは、所定値SP以上の場合にガンマ補正量AGMが0になるようにゲイン補正量Gを設定する例である。上記の通り、総画素数が少ない場合に誤動作が発生するため、ゲイン補正テーブル134に従ってゲイン補正量Gを決定し、ガンマ補正量AGMを設定することで誤動作等が防止できる。また、図19に示すゲイン補正テーブル134では、ゲイン補正の有無が急激に切り替わらないように、所定値SP、SP間で漸次的にゲイン補正量Gを変化させている。そのため、ガンマ補正カーブの急激な変化に起因して輝度値が急激に変化することを防止しているのである。
尚、図19にゲイン補正テーブル134のパラメータSP、SPを大きな値に設定することで、全体が黒画領域に近い映像信号に対しても検出することが可能になる。つまり、図3のようなヒストグラムを持つ映像信号に対しては、ある特定輝度以下の画素数の総和も大きくなるため、その範囲までゲイン補正量の適用範囲を広げることにより、全体が黒画領域に近い映像信号に適用可能になる。
再び図15を参照する。ゲイン補正部120により算出されたゲイン補正量Gは、ガンマ補正量算出部116に入力される。ガンマ補正量算出部116は、ガンマ補正量AGMに対し、下記の式(5)に基づいてゲイン補正が施されたガンマ補正量AGM’をガンマ補正処理部108に入力する。
Figure 0005067218
(ガンマ補正処理部108)
ガンマ補正処理部108は、入力された映像信号に対し、ガンマ補正量算出部116から入力されたガンマ補正量AGM’に基づいてガンマ補正を施す。つまり、ガンマ補正処理部108は、ガンマ補正量算出部116により算出されたガンマ補正量AGM’を用いて、図2に示すようにガンマ補正カーブを算出し、そのガンマ補正カーブに従って映像信号にガンマ補正を施すのである。ガンマ補正後の映像信号は、例えば、表示部H28に入力される。
以上、本実施形態に係る映像信号処理装置100の機能構成について説明した。上記の通り、ある特定輝度レベル以下の平均輝度値(APL値)と、ある特定輝度レベル以下の画素数の総和値を用いてガンマ補正量を算出することで、2極偏在するヒストグラムを持つ映像信号に対しても好適なガンマ補正を施すことができる。その結果、黒画領域にある映像のコントラスト感や視認性が向上する。さらに、上記のゲイン補正テーブル134のように、ゲイン補正の有無を段階的(又は漸次的)に変化させることにより、急激なガンマ補正量の変化を抑制することが可能になり、急激な輝度値の変化が低減される。
[ガンマ補正処理の流れ]
次に、図20を参照しながら、本実施形態に係るガンマ補正処理の流れについて説明する。図20は、本実施形態に係るガンマ補正処理の流れを示す説明図である。
図20に示すように、まず、平均輝度値算出部112、及び総画素数算出部118により特定輝度レベル以下の画素数の総和値が算出される(S102)。次いで、平均輝度値算出部112により特定輝度レベル以下の平均輝度値(APL値)が算出される(S104)。次いで、ガンマ補正量算出部116により、算出された平均輝度値に基づき、ガンマ補正テーブル132を用いてガンマ補正量が算出される(S106)。次いで、ゲイン補正部120により、ゲイン補正テーブル134を用いて、画素数の総和値からガンマ補正量のゲイン補正量が算出される(S108)。次いで、ガンマ補正量算出部116により、ガンマ補正テーブル132を用いて算出されたガンマ補正量に対し、ゲイン補正が施されてガンマ補正処理部108に入力されるガンマ補正量が算出される(S110)。
以上、本実施形態に係るガンマ補正処理の流れについて説明した。上記の通り、このガンマ補正処理では、ある特定輝度レベル以下の平均輝度値に基づいてガンマ補正量が算出され、さらに、ある特性輝度レベル以下の総画素数に基づいてゲイン補正量が算出される。その上で、ゲイン補正量によりガンマ補正量が調整され、実際のガンマ補正に利用されるガンマ補正量が算出される。その結果、2極偏在するようなヒストグラムを持つ映像信号に対しても、好適なガンマ補正を施すことができる。
[ハードウェア構成の一例]
上記装置が有する各構成要素の機能は、例えば、図21に示すハードウェア構成を有する装置により、上記の機能を実現するためのコンピュータプログラムを用いて実現することが可能である。図21は、上記装置の各構成要素が有する機能を実現することが可能な装置のハードウェア構成を示す説明図である。
図21に示すように、この装置は、主に、CPU(Central Processing Unit)902と、ROM(Read Only Memory)904と、RAM(Random Access Memory)906と、ホストバス908と、ブリッジ910と、外部バス912と、インターフェース914と、入力部916と、出力部918と、記憶部920と、ドライブ922と、接続ポート924と、通信部926とにより構成される。
CPU902は、例えば、演算処理装置又は制御装置として機能し、ROM904、RAM906、記憶部920、又はリムーバブル記録媒体928に記録された各種プログラムに基づいて各構成要素の動作全般又はその一部を制御する。ROM904は、例えば、CPU902に読み込まれるプログラムや演算に用いるデータ等を格納する。RAM906は、例えば、CPU902に読み込まれるプログラムや、そのプログラムを実行する際に適宜変化する各種パラメータ等を一時的又は永続的に格納する。これらの構成要素は、例えば、高速なデータ伝送が可能なホストバス908によって相互に接続されている。また、ホストバス908は、例えば、ブリッジ910を介して比較的データ伝送速度が低速な外部バス912に接続されている。
入力部916は、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチ、及びレバー等の操作手段である。また、入力部916は、赤外線やその他の電波を利用して制御信号を送信することが可能なリモートコントロール手段(所謂、リモコン)であってもよい。なお、入力部916は、上記の操作手段を用いて入力された情報を入力信号としてCPU902に伝送するための入力制御回路等により構成されている。
出力部918は、例えば、CRT、PDP、又はELD等のディスプレイ装置、スピーカ、ヘッドホン等のオーディオ出力装置、プリンタ、携帯電話、又はファクシミリ等、取得した情報を利用者に対して視覚的又は聴覚的に通知することが可能な装置である。
記憶部920は、各種のデータを格納するための装置であり、例えば、ハードディスクドライブ(HDD;Hard Disk Drive)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス、又は光磁気記憶デバイス等により構成される。
ドライブ922は、例えば、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリ等のリムーバブル記録媒体928に記録された情報を読み出し、又はリムーバブル記録媒体928に情報を書き込む装置である。リムーバブル記録媒体928は、例えば、DVDメディア、Blu−rayメディア、HD−DVDメディア、コンパクトフラッシュ(登録商標)(CF;CompactFlash)、メモリースティック、又はSDメモリカード(Secure Digital memory card)等である。もちろん、リムーバブル記録媒体928は、例えば、非接触型ICチップを搭載したICカード(Integrated Circuit Card)、又は電子機器等であってもよい。
接続ポート924は、例えば、USB(Universal Serial Bus)ポート、IEEE1394ポート、SCSI(Small Computer System Interface)、RS−232Cポート、又は光オーディオ端子等のような外部接続機器930を接続するためのポートである。外部接続機器930は、例えば、プリンタ、携帯音楽プレーヤ、デジタルカメラ、デジタルビデオカメラ、又はICレコーダ等である。
通信部926は、ネットワーク932に接続するための通信デバイスであり、例えば、有線又は無線LAN(Local Area Network)、Bluetooth(登録商標)、又はWUSB(Wireless USB)用の通信カード、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ、又は各種通信用のモデム等である。また、通信部926に接続されるネットワーク932は、有線又は無線により接続されたネットワークにより構成され、例えば、インターネット、家庭内LAN、赤外線通信、可視光通信、放送、又は衛星通信等である。
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明は係る例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
表示装置のハードウェア構成例を示す説明図である。 ガンマ補正カーブについて説明するための説明図である。 低輝度側に画素数が偏在するヒストグラムを示す説明図である。 暗い映像シーンを検出するための重み付け係数を示す説明図である。 低輝度側に画素数が偏在するヒストグラムに対して重み付けした後のヒストグラムを示す説明図である。 高輝度側に画素数が偏在するヒストグラムを示す説明図である。 暗い映像シーンを検出するための重み付け係数を示す説明図である。 高輝度側に画素数が偏在するヒストグラムに対して重み付けした後のヒストグラムを示す説明図である。 画素数が2極偏在するヒストグラムを示す説明図である。 暗い映像シーンを検出するための重み付け係数を示す説明図である。 画素数が2極偏在するヒストグラムに対して重み付けした後のヒストグラムを示す説明図である。 重み付け後のヒストグラムを算出する方法を説明するための説明図である。 重み付け後のヒストグラムの積算値を算出する方法を説明するための説明図である。 重み付け後のヒストグラムの積算値に基づいてガンマ補正量を算出するためのガンマ補正テーブルの一例を示す説明図である。 本発明の一実施形態に係る映像信号処理装置の機能構成を示す説明図である。 本実施形態に係るヒストグラムの注目部分を説明するための説明図である。 本実施形態に係る平均輝度値の算出方法を説明するための説明図である。 本実施形態に係るガンマ補正テーブルの一例を示す説明図である。 本実施形態に係るゲイン補正テーブルの一例を示す説明図である。 本実施形態に係るガンマ補正量の算出処理の流れを示す説明図である。 本実施形態に係る映像信号処理装置のハードウェア構成例を示す説明図である。
符号の説明
100 映像信号処理装置
102 ヒストグラム検出部
104 演算処理ブロック
106 記憶部
108 ガンマ補正処理部
112 平均輝度値算出部
116 ガンマ補正量算出部
118 総画素数算出部
120 ゲイン補正部
132 ガンマ補正テーブル
134 ゲイン補正テーブル

Claims (7)

  1. 時系列で入力される各映像信号について、当該各映像信号に含まれる画素の中で所定値以下の輝度を有する画素に関して平均輝度値を算出する平均輝度値算出部と、
    前記平均輝度値算出部により算出された平均輝度値に基づいてガンマ補正量を算出するガンマ補正量算出部と、
    前記所定値以下の輝度を有する画素の総画素数を算出する総画素数算出部と、
    前記総画素数算出部により算出された前記総画素数に応じて前記ガンマ補正量算出部により算出された前記ガンマ補正量にゲイン補正を施すゲイン補正部と、
    前記ゲイン補正部によりゲイン補正が施されたガンマ補正量に基づいて前記映像信号にガンマ補正を施すガンマ補正部と、
    を備える、映像信号処理装置。
  2. 前記ゲイン補正部は、前記総画素数が所定の画素数以下の場合、前記ガンマ補正量が零になるゲイン補正量で前記ゲイン補正を施す、請求項に記載の映像信号処理装置。
  3. 前記ゲイン補正部は、前記総画素数が前記所定の画素数に近づくに連れて前記ガンマ補正量が零に近づくようにゲイン補正量を段階的又は漸近的に変化させながら前記ゲイン補正を施す、請求項に記載の映像信号処理装置。
  4. 前記総画素数を示す第1の座標軸、及び当該第1の座標軸に直交して前記ガンマ補正量を示す第2の座標軸により形成される座標系の中で、前記第2の座標軸に対して有限の角度を有する直線で形成される折れ線、又は曲線のグラフにより表現される変換テーブルが記録された記憶部をさらに備え、
    前記ゲイン補正部は、前記変換テーブルに基づいてゲイン補正量を決定して前記ゲイン補正を施す、請求項に記載の映像信号処理装置。
  5. 前記所定の画素数は、前記映像信号に含まれる総画素数の20%〜40%に設定される、請求項に記載の映像信号処理装置。
  6. 時系列で入力される各映像信号について、当該各映像信号に含まれる画素の中で所定値以下の輝度を有する画素に関して平均輝度値を算出する平均輝度値算出部と、
    前記平均輝度値算出部により算出された平均輝度値に基づいてガンマ補正量を算出するガンマ補正量算出部と、
    前記所定値以下の輝度を有する画素の総画素数を算出する総画素数算出部と、
    前記総画素数算出部により算出された前記総画素数に応じて、前記ガンマ補正量算出部により算出された前記ガンマ補正量にゲイン補正を施すゲイン補正部と、
    前記ゲイン補正部によりゲイン補正が施されたガンマ補正量に基づいて前記映像信号にガンマ補正を施すガンマ補正部と、
    前記ガンマ補正部によりガンマ補正が施された前記各映像信号に基づいて映像を表示する表示部と、
    を備える、表示装置。
  7. 時系列で入力される各映像信号について、当該各映像信号に含まれる画素の中で所定値以下の輝度を有する画素に関して平均輝度値が算出される平均輝度値算出ステップと、
    前記平均輝度値算出ステップにおいて算出された平均輝度値に基づいてガンマ補正量が算出されるガンマ補正量算出ステップと、
    前記所定値以下の輝度を有する画素の総画素数が算出される総画素数算出ステップと、
    前記総画素数算出ステップにより算出された前記総画素数に応じて、前記ガンマ補正量算出ステップにより算出された前記ガンマ補正量にゲイン補正が施されるゲイン補正ステップと、
    前記ゲイン補正ステップにおいてゲイン補正が施されたガンマ補正量に基づいて前記映像信号にガンマ補正が施されるガンマ補正ステップと、
    を含む、映像信号処理方法。
JP2008070187A 2008-03-18 2008-03-18 映像信号処理装置、表示装置、及び映像信号処理方法 Active JP5067218B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008070187A JP5067218B2 (ja) 2008-03-18 2008-03-18 映像信号処理装置、表示装置、及び映像信号処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008070187A JP5067218B2 (ja) 2008-03-18 2008-03-18 映像信号処理装置、表示装置、及び映像信号処理方法

Publications (2)

Publication Number Publication Date
JP2009225349A JP2009225349A (ja) 2009-10-01
JP5067218B2 true JP5067218B2 (ja) 2012-11-07

Family

ID=41241605

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008070187A Active JP5067218B2 (ja) 2008-03-18 2008-03-18 映像信号処理装置、表示装置、及び映像信号処理方法

Country Status (1)

Country Link
JP (1) JP5067218B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB0917617D0 (en) * 2009-10-08 2009-11-25 Barco Nv Video amplitude modulation
JP5484310B2 (ja) 2010-12-24 2014-05-07 キヤノン株式会社 画像処理装置及び画像処理装置の制御方法
JP6147318B2 (ja) * 2015-11-18 2017-06-14 キヤノン株式会社 画像処理装置及び画像処理装置の制御方法
WO2018116337A1 (ja) * 2016-12-19 2018-06-28 株式会社イクス ムラ補正システム、ムラ補正装置及びパネル駆動回路
JP2022150350A (ja) 2021-03-26 2022-10-07 セイコーエプソン株式会社 画像処理回路、回路装置及び電子機器

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3092397B2 (ja) * 1993-06-22 2000-09-25 松下電器産業株式会社 撮像装置
JP4783985B2 (ja) * 2001-02-28 2011-09-28 日本電気株式会社 映像処理装置、映像表示装置及びそれに用いる映像処理方法並びにそのプログラム
JP4169188B2 (ja) * 2002-06-03 2008-10-22 株式会社K−Will 画像処理方法
JP4930781B2 (ja) * 2006-05-17 2012-05-16 ソニー株式会社 画像補正回路、画像補正方法および画像表示装置

Also Published As

Publication number Publication date
JP2009225349A (ja) 2009-10-01

Similar Documents

Publication Publication Date Title
US20190005919A1 (en) Display management methods and apparatus
US8639050B2 (en) Dynamic adjustment of noise filter strengths for use with dynamic range enhancement of images
JP4264553B2 (ja) 画像処理装置、撮像装置、画像出力装置、これらの装置における方法およびプログラム
JP5094219B2 (ja) 画像処理装置、画像処理方法、プログラム、記録媒体および集積回路
JP5502868B2 (ja) 階調調整装置、画像表示装置、テレビ受像機、プログラム、及び、プログラムが記録されたコンピュータ読み取り可能な記憶媒体
US8417032B2 (en) Adjustment of image luminance values using combined histogram
KR20160040959A (ko) 영상 처리 장치 및 이의 영상 처리 방법
JP2010041336A (ja) 画像処理装置、および画像処理方法
JP5067218B2 (ja) 映像信号処理装置、表示装置、及び映像信号処理方法
KR20080022633A (ko) 영상처리장치, 영상처리장치를 포함한 디스플레이장치 및영상처리방법
JP4660617B2 (ja) 映像処理装置及び映像処理方法
JP6190482B1 (ja) 表示制御装置、表示装置、テレビジョン受像機、表示制御装置の制御方法、制御プログラム、及び記録媒体
JP4888485B2 (ja) 階調補正特性評価装置、画像処理装置、階調補正特性評価方法、画像処理方法、階調補正特性評価プログラム、および画像処理プログラム
US10861420B2 (en) Image output apparatus, image output method, for simultaneous output of multiple images
JP2009065711A (ja) 画像出力装置、画像出力方法およびプログラム
JP4630752B2 (ja) 映像信号処理装置及び映像信号処理方法
JP4901821B2 (ja) 画像処理装置および画像処理方法
TWI403178B (zh) 改善色差訊號之暫態特性的方法與裝置
JP4804271B2 (ja) 画像処理装置及びその制御方法
CN109951693A (zh) 影像处理方法
JP2008193645A (ja) 明るさ補正装置、その方法、および、表示装置
US8212796B2 (en) Image display apparatus and method, program and recording media
JP2011205347A (ja) 画像表示装置およびプログラム
WO2011013669A1 (ja) 表示装置、プログラム及びプログラムが記録されたコンピュータ読み取り可能な記憶媒体
WO2010137387A1 (ja) 画像処理装置及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110304

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120409

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120515

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120628

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120717

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120730

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150824

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 5067218

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150824

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250