JP2005138493A - 画像補正装置 - Google Patents

画像補正装置 Download PDF

Info

Publication number
JP2005138493A
JP2005138493A JP2003378819A JP2003378819A JP2005138493A JP 2005138493 A JP2005138493 A JP 2005138493A JP 2003378819 A JP2003378819 A JP 2003378819A JP 2003378819 A JP2003378819 A JP 2003378819A JP 2005138493 A JP2005138493 A JP 2005138493A
Authority
JP
Japan
Prior art keywords
image
noise
detection
control
control data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003378819A
Other languages
English (en)
Other versions
JP4392650B2 (ja
Inventor
Masahiro Kitaura
正博 北浦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Victor Company of Japan Ltd
Original Assignee
Victor Company of Japan Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Victor Company of Japan Ltd filed Critical Victor Company of Japan Ltd
Priority to JP2003378819A priority Critical patent/JP4392650B2/ja
Publication of JP2005138493A publication Critical patent/JP2005138493A/ja
Application granted granted Critical
Publication of JP4392650B2 publication Critical patent/JP4392650B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Color, Gradation (AREA)
  • Image Processing (AREA)
  • Picture Signal Circuits (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

【課題】 画像処理をした後の出力が所望の結果と一致しない場合に適切に補正する。
【解決手段】 第1画像特徴検出部11は入力画像信号Pinの特徴を検出し、第1制御処理部12は第1画像特徴検出部により検出された入力画像信号Pinの特徴に基づいて第1画像処理部13の制御データを生成し、第1画像処理部は第1制御処理部からの制御データに基づいて入力画像信号Pinを補正して第1補正データPout1を出力する。第2画像特徴検出部14は第1画像処理部の出力信号Pout1の画像の特徴を検出し、第2制御処理部15は第1画像特徴検出部により検出された入力画像信号Pinの特徴と、第2画像特徴検出部により検出された信号Pout1の画像の特徴に基づいて第2画像処理部16の制御データを生成し、第2画像処理部は第2制御処理部からの制御データに基づいて第1補正データPout1を補正して第2補正データPout2を出力する。
【選択図】 図1

Description

本発明は、画像をその特徴に基づいて補正処理する画像補正装置に関する。
従来の画像補正処理装置としては、図9に示す構成が一般的である。図9の画像補正処理装置は、入力画像Pinの特徴をとらえる画像特徴検出部1と、その画像の特徴を評価(比較)して制御信号に加工する制御部2と、制御信号に基づいて入力画像Pinを補正する画像処理部3からなる(例えば下記の特許文献1)。一般的にこのような画像処理装置は図9に示すようなフィードフォワード型となる。
特開2002−55664号公報(図1)
この形態の制御方式でよく行われる処理として、画像のレベル補正(一般にガンマ補正)処理を取り上げる。画像特徴検出部1では、入力画像の輝度信号Pinのレベル分布(ヒストグラム)、平均値(略称APL:Average Picture Level)、また画像の最大値(MAX)、最小値(MIN)を検出する。これに基づいて画像表示装置(ディスプレイ)に表示した際に、見やすい階調特性に画像信号を制御する。ヒストグラム、APL、MIN、MAXなどの画像の特徴は、制御部2で輝度信号Pinの階調特性を補正するデータに加工され、画像処理部3にてレベルに応じた利得が輝度信号Pinに与えられ、所望の階調特性の出力信号Poutを得る。
また、これとは異なる画像処理例として、ノイズ抑圧処理についても図9があてはまる。画像特徴検出部1では映像信号Pinからノイズを検出する。制御部2ではノイズ抑圧量を制御するデータに加工し、画像処理部3で制御データに基づいてノイズの抑圧量などパラメータを制御して映像信号Pinに対して適切なノイズ抑圧処理を施す。
ここでは、特徴の検出方法、例えばヒストグラム、APL、MAX、MIN、ノイズ検出、制御データ加工方法、画像処理部の階調特性を制御する可変利得方式などの回路手法については、本発明の本質からそれるので言及せず、機能ブロックの構成とその特徴について言及する。
しかしながら、フィードフォワード形式では、入力画像の特徴をとらえて制御を加えた結果が一義的に出力されるため、その結果が適切でないとき補正を加えたい場合が存在する。例えば画像信号の階調を補正する特性が図4の入出力特性になった場合、APLが浮き上がることが容易にとらえられる。この波形をディスプレイで表示した場合、全体が白けた又は色があせた感じの画像になる。また、場合によっては逆に、黒く沈み、発色の悪い画像になる場合も散見される。
また、前述したノイズ問題では、ノイズ除去方式が静止画又はそれに準ずる状態で効果がある場合、動画像では効果が得られないときがある。
本発明は上記従来例の問題点に鑑み、画像処理をした後の出力が所望の結果と一致しない場合に適切に補正することができる画像補正装置を提供することを目的とする。
本発明は上記目的を達成するために、入力画像の特徴を検出する第1の検出手段と、
前記入力画像を第1の制御データに基づいて処理する第1の画像処理手段と、
前記第1の検出手段の検出結果に基づいて前記第1の制御データを生成して前記第1の画像処理手段を制御する第1の制御手段と、
前記第1の画像処理手段の出力画像の特徴を検出する第2の検出手段と、
前記第1の画像処理手段の出力画像を第2の制御データに基づいて処理する第2の画像処理手段と、
前記第1の検出手段の検出結果と前記第2の検出手段の検出結果に基づいて前記第2の制御データを生成して前記第2の画像処理手段を制御する第2の制御手段とを、
有する構成とした。
この構成により、画像処理をした後の出力が所望の結果と一致しない場合に適切に補正することができる。
また、本発明は上記目的を達成するために、入力画像の輝度信号の特徴を検出する第1の検出手段と、
前記入力画像の前記輝度信号の階調を第1の制御データに基づいて補正する階調補正手段と、
前記第1の検出手段の結果に基づいて前記第1の制御データを生成して前記階調補正手段を制御する第1の制御手段と、
前記階調補正手段の出力画像の輝度信号の特徴を検出する第2の検出手段と、
前記階調補正手段の出力画像の平均値を第2の制御データに基づいて補正する平均値補正手段と、
前記第1の検出手段の検出結果と前記第2の検出手段の検出結果に基づいて前記第2の制御データを生成して前記平均値補正手段を制御する第2の制御手段とを、
有する構成とした。
この構成により、階調を補正した出力が所望の結果と一致しない場合に適切に補正することができる。
また、本発明は上記目的を達成するために、入力画像のノイズ成分を検出する第1のノイズ検出手段と、
前記入力画像のノイズを第1の制御データに基づいて除去する第1のノイズ抑圧手段と、
前記第1のノイズ検出手段の検出結果に基づいて前記第1の制御データを生成して前記第1のノイズ抑圧手段を制御する第1の制御手段と、
前記第1のノイズ抑圧手段の出力画像のノイズを検出する第2のノイズ検出手段と、
前記第1のノイズ抑圧手段の出力画像のノイズを第2の制御データに基づいて除去する第2のノイズ抑圧手段と、
前記第1のノイズ検出手段の検出結果と前記第2のノイズ検出手段の検出結果に基づいて前記第2の制御データを生成して前記第2のノイズ抑圧手段を制御する第2の制御手段とを、
有する構成とした。
この構成により、ノイズを抑圧した出力が所望の結果と一致しない場合に適切に補正することができる。
本発明によれば、画像処理が利得制御であれば、APLの変動を評価して適切な階調方向の補正ができ、ノイズ処理では、縦続接続で動き適応処理と同様の効果が得られるとともに、動き検出など回路規模の大きな機能が省けて、効率よく所望の効果が得られるメリットがある。また、フィードフォワードであるので、安定した応答特性が得られるとともに、対象とする画像処理の機能ブロックが離れていても同様の効果が得られる利点がある。
以下、図面を参照して本発明の実施の形態について説明する。図1は本発明に係る画像補正装置の基本構成を示すブロック図である。第1画像特徴検出部11は入力画像信号Pinの特徴を検出し、第1制御処理部12は第1画像特徴検出部11により検出された入力画像信号Pinの特徴に基づいて第1画像処理部13の制御データを生成し、第1画像処理部13は第1制御処理部12からの制御データに基づいて入力画像信号Pinを補正して第1補正データPout1を出力する。以上が第1ステップであり、以下が第2ステップである。
第2画像特徴検出部14は第1画像処理部13の出力信号Pout1の画像の特徴を検出し、第2制御処理部15は第1画像特徴検出部11により検出された入力画像信号Pinの特徴と、第2画像特徴検出部14により検出された信号Pout1の画像の特徴に基づいて第2画像処理部16の制御データを生成し、第2画像処理部16は第2制御処理部15からの制御データに基づいて第1補正データPout1を補正して第2補正データPout2を出力する。
図2は階調特性を制御する本発明の画像補正装置の第1の実施の形態を示すブロック図である。図1中の入力画像信号Pinは輝度信号Yinに相当し、第1画像特徴検出部11はヒストグラム、APL、MIN、MAX検出部11−1に相当し、第1制御処理部12は検出部11−1にて得たデータ、例えば輝度信号Yinのヒストグラムを評価し輝度信号の階調分布に応じた制御信号、ここでは利得データに加工する利得制御処理部12−1に相当し、第1画像処理部13は利得データに応じて画像の階調特性を補正する階調可変利得処理部13−1に相当する。また、第2画像特徴検出部14はAPL、MIN、MAX検出部14−1に相当し、第2制御処理部15は補正制御処理部15−1に相当し、第2画像処理部16はここでは2つに分けてAPL補正処理部16−11及び可変利得処理部16−12に相当する。
ここで、画像のヒストグラムなどの特徴を検出し、その結果導き出された可変利得で制御された階調可変利得処理部13−1の特性の代表的ないくつかを取り上げて説明する。図3は階調可変利得処理部13−1の入出力処理特性の第1の例を示す。破線で示すゲイン=1の特性は信号スルーに該当し、これに対して実線は、黒側(低レベル側)が沈み、白側(高レベル側)が浮くように制御される特性を示す。この場合、振幅レベルのセンタを中心に対称であるので、前段のヒストグラム、APL、MIN、MAX検出部11−1と後段のAPL、MIN、MAX検出部14−1とのAPLの差は「0」となる。
図4は階調可変利得処理部13−1の入出力処理特性の第2の例(実線)であり、中間階調が浮くように制御される特性を示す。この特性のランプ信号は、振幅レベルの中心部が明るく浮き上がる現象となり、前段のヒストグラム、APL、MIN、MAX検出部11−1と後段のAPL、MIN、MAX検出部14−1とのAPLの差はプラス側に変動する。
図5は階調可変利得処理部13−1の入出力処理特性の第3の例(実線)であり、中間階調が沈むように制御される特性を示す。この場合、振幅レベルの中心部が暗く沈む現象となり、前段のヒストグラム、APL、MIN、MAX検出部11−1と後段のAPL、MIN、MAX検出部14−1とのAPLの差はマイナス側に変動する。
本発明では画像の特徴検出部11、14を第1画像処理部13の前後に持つことで、第1画像処理部13の処理結果の評価(比較)が可能となる。前述したAPLの変動は、補正制御処理部15−1で評価(比較)され、APL補正処理部16−11にて補正される。補正内容は画像をディスプレイで表示して、主観評価に基づいて最適化が図れるが、例えばAPL変動が無い方向に補正するのであれば、APLの差を「0」にするようにAPL補正処理部16−11で補正する。この補正内容の特性を図6に示す。また、プラス・マイナス一方向に振る場合、APLの差分値の大きさを加味して補正スケールを決めることも可能である。また、画像信号のMAX、MINなども同様に評価(比較)し、可変利得処理部16−12にて補正を掛ける。この振幅補正特性を図7に示す。
以上からなる階調方向の補正処理は、複数の画像特徴検出を行うことにより、前段部での階調可変利得処理部13−1の問題点を補う処理を後段にて適切に補正することを可能にするものである。
本発明の画像補正装置の第2の実施の形態はノイズ抑圧処理を行うよう構成されている。図8は第2の実施の形態のブロック図である。図8において、第1ノイズ検出部11−2、第1制御処理部12−2、第1ノイズ抑圧処理部13−2で入力信号に対して、第1ステップの制御ループが形成される。第2ノイズ検出部14−2、第2制御処理部15−2、第2ノイズ抑圧処理部16−2で、第1ノイズ抑圧処理部13−2の出力信号Pout1に対して、第2ステップの制御ループが形成される。さらに第3ノイズ検出部17−2、第3制御処理部18−2、鮮鋭化処理部19−2で、第2ノイズ抑圧処理部16−2の出力信号Pout2に対して、第3ステップの制御ループが形成され、出力信号Pout3を得る。
上記図8に示す構成は、3種類のノイズ成分に関連する処理を制御するものである。例えば、第1ノイズ抑圧処理部13−2では時間方向の巡回型ノイズリデューサを用い、第2ノイズ抑圧処理部16−2では空間(水平と垂直)の高域信号成分に対応したノイズコアリング処理を用い、最終段の処理にはエッジを強調する鮮鋭化処理を施す。鮮鋭化処理はノイズそのものに直接作用するものではないが、ノイズ成分が強調されてくるので、前段のノイズ除去状況を鑑みて、適切な強調度合いを制御することでノイズを目立たなくすることになる。
制御処理部12−2、15−2、18−2の働きについて説明する。第1ステップは、第1ノイズ検出に基づいて第1ノイズ抑圧処理部13−2のノイズ抑圧の利得を制御する。第2ステップの第2制御処理部15−2は、第1ノイズ検出と第2ノイズ検出の両方を評価(比較)する。第1ステップでは、第1ノイズ抑圧処理部13−2が静止画で有効な時間方向の巡回型ノイズリデューサであるため、動画ではノイズが抑圧されずにノイズが残留する。この場合、第1ノイズ検出と第2ノイズ検出の関係は、静止画でノイズが抑圧されたときノイズ量が、第1ノイズ検出>第2ノイズ検出となり、動画の場合は、第1ノイズ検出と第2ノイズ検出が近いノイズ量を示す。
第2制御処理部15−2での評価の仕方としては、動画と認識される前記ノイズ量のときは、動画にも有効な水平垂直の空間内で処理する第2ノイズ抑圧処理を利かせる。ここで複数のノイズ検出を用いることで、静止画と動画の両方にノイズを適切に抑圧させることができる。この方式では動き検出を用いた動き適応処理をするのと近い効果が縦続処理で得られる。
さらに第3ステップでは、第1ノイズ検出、第2ノイズ検出に、第3ステップ出力の第3ノイズ検出を加えて、3つのノイズ検出を評価(比較)して鮮鋭化処理を制御する。評価の仕方は、第1ステップ、第2ステップのどちらでノイズが抑圧されているか、又は最終的にノイズは抑圧されているかなどを判定し、それに応じて適切に鮮鋭化処理部19−2を制御する。
ここで用いるノイズ検出は、複数のノイズ検出を用い、その差分を評価(比較)するので、画像信号が混入していても特に大きな問題ではなく、画像信号部分でノイズを評価できる。また、各ノイズ抑圧処理部の効果を評価しているので、その目的を達成できる内容のもので、手段は簡略なものも考えられる。
本発明の基本構成を示すブロック図である。 本発明の第1の実施の形態を示すブロック図である。 図2の階調可変利得処理部のAPL変動の無い特性例を示す説明図である。 図2の階調可変利得処理部のAPLが上昇する特性例を示す説明図である。 図2の階調可変利得処理部のAPLが降下する特性例を示す説明図である。 図2のAPL補正処理部の特性を示す説明図である。 図2の可変利得処理部の特性を示す説明図である。 本発明の第2の実施の形態を示すブロック図である。 従来例を示すブロック図である。
符号の説明
11 第1画像特徴検出部
11−1 ヒストグラム、APL、MIN、MAX検出部
11−2 第1ノイズ検出部
12 第1制御処理部
12−1 利得制御処理部
12−2 第1制御処理部
13 第1画像処理部
13−1 階調可変利得処理部
13−2 第1ノイズ抑圧処理部
14 第2画像特徴検出部
14−1 APL、MIN、MAX検出部
14−2 第2ノイズ検出部
15 第2制御処理部
15−1 補正制御処理部
15−2 第2制御処理部
16 第2画像処理部
16−2 第2ノイズ抑圧処理部
16−11 APL補正処理部
16−12 可変利得処理部
17−2 第3ノイズ検出部
18−2 第3制御処理部
19−2 鮮鋭化処理部

Claims (5)

  1. 入力画像の特徴を検出する第1の検出手段と、
    前記入力画像を第1の制御データに基づいて処理する第1の画像処理手段と、
    前記第1の検出手段の検出結果に基づいて前記第1の制御データを生成して前記第1の画像処理手段を制御する第1の制御手段と、
    前記第1の画像処理手段の出力画像の特徴を検出する第2の検出手段と、
    前記第1の画像処理手段の出力画像を第2の制御データに基づいて処理する第2の画像処理手段と、
    前記第1の検出手段の検出結果と前記第2の検出手段の検出結果に基づいて前記第2の制御データを生成して前記第2の画像処理手段を制御する第2の制御手段とを、
    有する画像補正装置。
  2. 入力画像の輝度信号の特徴を検出する第1の検出手段と、
    前記入力画像の前記輝度信号の階調を第1の制御データに基づいて補正する階調補正手段と、
    前記第1の検出手段の結果に基づいて前記第1の制御データを生成して前記階調補正手段を制御する第1の制御手段と、
    前記階調補正手段の出力画像の輝度信号の特徴を検出する第2の検出手段と、
    前記階調補正手段の出力画像の平均値を第2の制御データに基づいて補正する平均値補正手段と、
    前記第1の検出手段の検出結果と前記第2の検出手段の検出結果に基づいて前記第2の制御データを生成して前記平均値補正手段を制御する第2の制御手段とを、
    有する画像補正装置。
  3. 前記平均値補正手段の出力画像の最大値と最小値を第3の制御データに基づいて補正する補正手段を更に備え、
    前記第2の制御手段は更に前記第1の検出手段の検出結果と前記第2の検出手段の検出結果に基づいて前記第3の制御データを生成して前記補正手段を制御するよう構成されている請求項2に記載の画像補正装置。
  4. 入力画像のノイズ成分を検出する第1のノイズ検出手段と、
    前記入力画像のノイズを第1の制御データに基づいて除去する第1のノイズ抑圧手段と、
    前記第1のノイズ検出手段の検出結果に基づいて前記第1の制御データを生成して前記第1のノイズ抑圧手段を制御する第1の制御手段と、
    前記第1のノイズ抑圧手段の出力画像のノイズを検出する第2のノイズ検出手段と、
    前記第1のノイズ抑圧手段の出力画像のノイズを第2の制御データに基づいて除去する第2のノイズ抑圧手段と、
    前記第1のノイズ検出手段の検出結果と前記第2のノイズ検出手段の検出結果に基づいて前記第2の制御データを生成して前記第2のノイズ抑圧手段を制御する第2の制御手段とを、
    有する画像補正装置。
  5. 前記第2のノイズ抑圧手段の出力画像のノイズを検出する第3のノイズ検出手段と、
    前記第2のノイズ抑圧手段の出力画像を第3の制御データに基づいて鮮鋭化する鮮鋭化手段と、
    前記第1のノイズ検出手段の検出結果と、前記第2のノイズ検出手段の検出結果と前記第3のノイズ検出手段の検出結果に基づいて前記第3の制御データを生成して前記鮮鋭化手段を制御する第3の制御手段とを、
    更に有する請求項4に記載の画像補正装置。
JP2003378819A 2003-11-07 2003-11-07 画像補正装置及び方法 Expired - Fee Related JP4392650B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003378819A JP4392650B2 (ja) 2003-11-07 2003-11-07 画像補正装置及び方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003378819A JP4392650B2 (ja) 2003-11-07 2003-11-07 画像補正装置及び方法

Publications (2)

Publication Number Publication Date
JP2005138493A true JP2005138493A (ja) 2005-06-02
JP4392650B2 JP4392650B2 (ja) 2010-01-06

Family

ID=34689084

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003378819A Expired - Fee Related JP4392650B2 (ja) 2003-11-07 2003-11-07 画像補正装置及び方法

Country Status (1)

Country Link
JP (1) JP4392650B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007214660A (ja) * 2006-02-07 2007-08-23 Oki Electric Ind Co Ltd 雑音量測定装置
JP2012141812A (ja) * 2010-12-29 2012-07-26 Sony Corp 画像処理装置、画像処理方法、およびプログラム
WO2013039199A1 (ja) * 2011-09-16 2013-03-21 シャープ株式会社 雑音低減装置、表示装置、雑音低減方法および雑音低減プログラム

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007214660A (ja) * 2006-02-07 2007-08-23 Oki Electric Ind Co Ltd 雑音量測定装置
JP4551873B2 (ja) * 2006-02-07 2010-09-29 Okiセミコンダクタ株式会社 雑音量測定装置
JP2012141812A (ja) * 2010-12-29 2012-07-26 Sony Corp 画像処理装置、画像処理方法、およびプログラム
WO2013039199A1 (ja) * 2011-09-16 2013-03-21 シャープ株式会社 雑音低減装置、表示装置、雑音低減方法および雑音低減プログラム

Also Published As

Publication number Publication date
JP4392650B2 (ja) 2010-01-06

Similar Documents

Publication Publication Date Title
US7719619B2 (en) Image processing apparatus
JP4011122B2 (ja) 映像信号の画質補正回路
KR100714204B1 (ko) 영상신호 처리장치 및 영상신호 처리방법
WO2002100093A1 (fr) Appareil et procede de traitement d'image
JPH04293365A (ja) 階調補正装置
JP2006101421A (ja) 映像信号処理回路
JP4605654B2 (ja) 映像信号処理装置及び同装置を備えた表示装置
JP2009124638A (ja) 画像信号処理回路
US20030156225A1 (en) Gradation correction apparatus
JP4392650B2 (ja) 画像補正装置及び方法
JP2003274181A (ja) ノイズ低減装置
JP4693919B2 (ja) 映像表示装置及び映像表示方法
US10719922B2 (en) Image processing apparatus
TWI403178B (zh) 改善色差訊號之暫態特性的方法與裝置
JPH1117984A (ja) 画像処理装置
JP2009128608A (ja) 表示モジュール制御装置
JP2006229616A (ja) 映像信号処理回路
JP4466454B2 (ja) 映像補正装置
KR100398979B1 (ko) 비디오신호를처리하기위한장치및방법
JP2009086222A (ja) 映像補正装置及び映像表示装置
JP2007096807A (ja) 映像信号処理装置
TW200729940A (en) Image processing apparatus, image display apparatus and image processing method
JP2010026690A (ja) 画像処理装置
JP2003179778A (ja) 映像信号処理装置
JP2001024908A (ja) 画質補正回路

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060331

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090616

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090805

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090918

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091001

R151 Written notification of patent or utility model registration

Ref document number: 4392650

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121023

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121023

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121023

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131023

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees