JP2004040371A - 信号処理装置及び信号処理方法およびプログラムおよび記憶媒体 - Google Patents

信号処理装置及び信号処理方法およびプログラムおよび記憶媒体 Download PDF

Info

Publication number
JP2004040371A
JP2004040371A JP2002193295A JP2002193295A JP2004040371A JP 2004040371 A JP2004040371 A JP 2004040371A JP 2002193295 A JP2002193295 A JP 2002193295A JP 2002193295 A JP2002193295 A JP 2002193295A JP 2004040371 A JP2004040371 A JP 2004040371A
Authority
JP
Japan
Prior art keywords
signal
luminance
correction
signal processing
hue
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002193295A
Other languages
English (en)
Other versions
JP3977170B2 (ja
JP2004040371A5 (ja
Inventor
Takaaki Fukui
福井 貴明
Eiichiro Ikeda
池田 栄一郎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2002193295A priority Critical patent/JP3977170B2/ja
Publication of JP2004040371A publication Critical patent/JP2004040371A/ja
Publication of JP2004040371A5 publication Critical patent/JP2004040371A5/ja
Application granted granted Critical
Publication of JP3977170B2 publication Critical patent/JP3977170B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Processing Of Color Television Signals (AREA)
  • Picture Signal Circuits (AREA)

Abstract

【課題】色相および彩度および輝度に応じて最適な輝度補正を行えるようにする。
【解決手段】撮像素子から出力される画像信号の輝度を色相に応じて補正する機能を有する信号処理装置であって、色相を判別して色情報信号を出力する色情報判別回路509と、色情報信号と輝度信号とに基づいて輝度信号の補正量を設定する輝度信号補正回路513〜515とを具備する。
【選択図】   図1

Description

【0001】
【発明の属する技術分野】
本発明は、カラー画像データに対して、色相・彩度などの色情報に応じて輝度信号補正を行なう技術に関するものである。
【0002】
【従来の技術】
従来の撮像装置における輝度信号作成例について説明する。
【0003】
図2は従来の撮像装置の信号処理ユニットの構成を示すブロック図である。CCD撮像素子501からの信号は、ホワイトバランス回路502で白のゲインが調整され、色信号作成回路503で色変換マトリックスや階調変換などの処理が行われ、色差信号が作成されて出力される。
【0004】
また、輝度信号処理として、ホワイトバランス回路502からの信号は、輝度信号作成回路504で補間やエッジ強調などが行われ、輝度信号が作成される。その後、輝度ガンマ補正回路505によって階調変換が行われ、輝度補正回路506によって輝度信号の色相に応じた輝度信号補正が行われ、輝度信号として出力される。
【0005】
上記、従来の色相に応じた輝度信号補正方法は、色差信号Cr,Cbに対し、ベースクリップを行った後、それらに所定の係数をかけて、その結果を輝度信号に加算することによって補正を行っていた。
【0006】
【発明が解決しようとする課題】
しかしながら、上記手法によると色差信号が大きいと補正量が大きくなる。つまり彩度が高くなるにしたがって補正量が大きくなってしまい、輝度値にかかわらず同じ彩度値ならば同じ量の補正を行ってしまうという問題点がある。
【0007】
たとえば同じ彩度の高輝度の赤いりんごと低輝度の赤いりんごがあったとすると、高輝度のりんごに見栄えが良くなるように輝度信号補正回路において補正を行うと、低輝度のりんごでは輝度の補正量が不足してしまうため、赤くくすんだようなりんごとなってしまうといった不具合が生じてしまう。
【0008】
また、色差信号UVにゲインをかけることによって彩度をあげると、輝度信号Y値が同じであったとしても、sRGB色空間の定義に沿ってCIE L*a*b*に変換するとL*の値が変化してしまう。
【0009】
この現象は特に緑の色相において顕著に起こる。たとえば、高輝度の緑の色相において色差信号によって彩度をあげると、彩度を上げなかった場合に比べてL*の値が高くなり、結果として蛍光色のように非常に不自然な緑になってしまう。このことは公知のsRGB色空間の定義式からも明らかである。
【0010】
昨今の彩度強調を強めにおこなっている撮像処理装置において、高輝度の緑が見た目よりもL*が高く、低輝度の緑においては見た目よりもL*の値が暗く沈んでしまう、という傾向があり、非常に不自然な画像になってしまうという問題点があった。
【0011】
本発明は上記問題点に鑑みてなされたものであり、その目的は、色相および彩度および輝度に応じて最適な輝度補正を行えるようにすることである。
【0012】
【課題を解決するための手段】
上述した課題を解決し、目的を達成するために、本発明に係わる信号処理装置は、撮像手段から出力される画像信号の輝度を色相に応じて補正する機能を有する信号処理装置であって、色相を判別して色情報信号を出力する色情報判別手段と、前記色情報信号と輝度信号とに基づいて該輝度信号の補正量を設定する輝度信号補正手段と、を具備することを特徴としている。
【0013】
また、この発明に係わる信号処理装置において、前記色情報判別手段は、少なくとも1種類以上の色差信号から前記色相を判別することを特徴としている。
【0014】
また、この発明に係わる信号処理装置において、前記輝度信号補正手段は、色差信号であるR−Y、B−Y、G−Yの一部又は全てと輝度信号とに基づいて前記補正量を決定することを特徴としている。
【0015】
また、この発明に係わる信号処理装置において、前記輝度信号補正手段は、色差信号であるR−Y、G−Y、B−Yに対する補正係数をα、β、γとすると、
ΔY1=α×(R−Y)
ΔY2=β×(B−Y)
ΔY3=γ×(G−Y)
で表される式の一部または全ての和によって前記補正量を決定することを特徴としている。
【0016】
また、この発明に係わる信号処理装置において、前記補正係数α、β、γは、輝度信号Yに応じて決定されることを特徴としている。
【0017】
また、この発明に係わる信号処理装置において、前記色情報判別手段は、所定の色相を示すベクトル(kCr,kCb)と画像中の色差信号(Cr,Cb)との内積演算を少なくとも1つ以上の色相に対して行なうことを特徴としている。
【0018】
また、この発明に係わる信号処理装置において、前記輝度信号補正手段は、前記内積演算の結果Pに対する補正係数をΖとすると、
ΔY=Ζ×P
で表される式によって前記補正量を決定することを特徴としている。
【0019】
また、この発明に係わる信号処理装置において、前記色差信号は、ベースクリップされた色差信号であることを特徴としている。
【0020】
また、この発明に係わる信号処理装置において、撮影モードを設定する撮影モード設定手段をさらに具備し、前記輝度信号補正手段における補正係数を前記撮影モードに応じて変更することを特徴としている。
【0021】
また、この発明に係わる信号処理装置において、前記撮影モード設定手段により彩度調整を行うことが指定された場合に、前記輝度信号補正手段における補正係数を変更することを特徴としている。
【0022】
また、この発明に係わる信号処理装置において、補正係数αは、高輝度部より低輝度部において大きくする設定されていることを特徴としている。
【0023】
また、この発明に係わる信号処理装置において、補正係数γは、高輝度部において負の係数に設定されていることを特徴としている。
【0024】
また、本発明に係わる信号処理方法は、撮像手段から出力される画像信号の輝度を色相に応じて補正するための信号処理方法であって、色相を判別して色情報信号を出力する色情報判別工程と、前記色情報信号と輝度信号とに基づいて該輝度信号の補正量を設定する輝度信号補正工程と、を具備することを特徴としている。
【0025】
また、本発明に係わるプログラムは、上記の信号処理方法をコンピュータに実行させることを特徴としている。
【0026】
また、本発明に係わる記憶媒体は、上記のプログラムをコンピュータ読み取り可能に記憶したことを特徴としている。
【0027】
【発明の実施の形態】
以下、本発明の好適な実施形態について、添付図面を参照して詳細に説明する。
【0028】
(第1の実施形態)
以下、本発明の第1の実施形態に係わる輝度補正回路について説明する。
【0029】
図1は本実施形態の輝度補正回路の構成図である。なお、撮像装置の信号処理部の全体ブロック構成は図2に示すものと同様であり、図2とは輝度補正回路の内部構成が異なる。
【0030】
図1において、色差信号作成回路509では、色差信号R−Y,B−Y,G−Yを作成する。
【0031】
それぞれの色差信号はベースクリップ(BaseClip)回路510によってベースクリップされる。これにより色差信号にある微小なノイズ成分の除去をおこなう。ベースクリップされた信号はクリップ(Clip)回路511によってクリッピング処理を行う。なお、例えば、R−Yの正の部分のみを通過するようなクリッピングを行うと、主に赤の色相における輝度補正を行うこともできる。つまり、このクリップ回路511により補正を行う色相を限定することもできる。次に、R−Y,B−Y,G−Yの補正係数をそれぞれα,β,γとすると、上記のクリップした色差信号と補正係数を乗算機512によって乗算演算を行い、輝度補正量を求める。なお、R−Y、B−Y,G−Yに対する補正量をそれぞれΔY1(=α×(R−Y)),ΔY2(=β×(B−Y)),ΔY3(=γ×(G−Y))とする。
【0032】
その後、ΔY1,ΔY2,ΔY3と輝度Yを足すことで、色相毎の輝度値補正を行うことができる。
【0033】
次に、補正係数設定回路513における、R−Y,B−Y,G−Yの補正係数α,β,γの導出方法について述べる。
【0034】
図3は輝度補正係数を算出する特性の例を示した例である。
【0035】
本実施形態では、例えばR−Yの係数は、高輝度部においてはα=0.0、中輝度〜低輝度部においてはα=0.1となるように設定を行う。
【0036】
このように、低輝度の赤の色相においては係数αを正にして輝度を上げる方向に補正することで低輝度部における赤のくすみを解消させている。
【0037】
また、同様に緑においても、低輝度では係数γを正にして輝度を上げる方向の補正を行い、高輝度部においては係数γを負にして輝度を下げる方向の補正を行う。このように設定することで、緑の色相における高輝度部の蛍光色化が抑制され、かつ、低輝度部が沈んだ色にならないようになる。
【0038】
このように、色相及び輝度値及び彩度に応じて補正量を調整することができ、柔軟に輝度調整が可能となる。
【0039】
(第2の実施形態)
以下、本発明の第2の実施形態に係わる輝度補正回路について説明する。
【0040】
図4は、第2の実施形態に係わる輝度補正回路の構成を示すブロック図である。基本的な構成は第1の実施形態と同一なので説明は省略する。
【0041】
以下、第1の実施形態と異なる部分のみ説明する。
【0042】
第2の実施形態において、補正色相設定回路518は、最も補正したい色相を(kCr,kCb)の色相ベクトル形式で指定する。
【0043】
本実施形態においては、下記3種類の色相において補正を行うものとして説明を行う。
【0044】
色相1:(kCr,kCb)=(1,0)
色相2:(kCr,kCb)=(0,1)
色相3:(kCr,kCb)=(−1,−1)
とする。
【0045】
この例では、色相1は赤の色相、色相2は青の色相、色相3は緑の色相をあらわしている。もちろん、色相数は可変であっても良いし、多くても少なくても良い。
【0046】
次に内積演算回路517により、上記の設定された補正色相ベクトルと色差信号の内積演算を行う。本実施形態においては、
色相1:(1,0)・(Cr,Cb)=Cr
色相2:(0,1)・(Cr,Cb)=Cb
色相3:(−1,−1)・(Cr,Cb)=−Cr−Cb
となり、第1の実施形態と完全に同じではないが、ほぼ同様の色相指定であるといえる。
【0047】
内積演算した結果は、第1の実施形態と同様にベースクリップ及びクリップ等の処理が行われ、補正係数をかけられて、輝度補正が行われる。この過程は第1の実施形態と同様である。
【0048】
このようにすることにより、補正したい色相を自由に設定することが可能となる。
【0049】
(第3の実施形態)
以下、本発明の第3の実施形態に係わる輝度補正回路について説明する。
【0050】
図5は、第3の実施形態に係わる輝度補正回路の構成を示すブロック図である。基本的な構成は第2の実施形態と同一なので説明は省略する。
【0051】
モード設定回路521はユーザや自動判別の結果によりモードを設定するためのものである。そのモード情報に基づいて、補正係数設定選択回路522が、輝度補正パラメータを補正係数候補523からモードに応じて選択し、補正係数設定回路518〜520に設定をすることで、輝度値補正が行われる。
【0052】
このような設定は特にモード設定によって彩度を強調するような場合に有効になる。
【0053】
図6は標準の場合の輝度補正設定例である。また、図7は彩度を強調したい場合の輝度補正設定例を示す。
【0054】
本実施形態は第2の実施形態の回路構成を基本として説明したが、第1の実施形態の回路構成に基づいて行っても良いことは言うまでもない。
【0055】
【他の実施形態】
なお、本発明は、複数の機器(例えばホストコンピュータ、インタフェイス機器、リーダ、プリンタなど)から構成されるシステムに適用しても、一つの機器からなる装置(例えば、複写機、ファクシミリ装置など)に適用してもよい。
【0056】
また、本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体(または記録媒体)を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行することによっても、達成されることは言うまでもない。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0057】
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれた後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0058】
以上説明したように、第1の実施形態においては、色相、彩度、輝度値に応じて最適な輝度補正を行うことが可能となる。
【0059】
また、第2の実施形態においては、第1の実施形態に加え、補正する色相を自由に設定することが可能となる。
【0060】
また、第3の実施形態においては、第1の実施形態または第2の実施形態の回路構成を用い、モード、特に彩度方向のモードが設定された場合に、色相・彩度・輝度値に応じて輝度補正することが可能となる。
【0061】
【発明の効果】
以上説明したように、本発明によれば、色相および彩度および輝度に応じて最適な輝度補正を行えるようにすることができる。
【図面の簡単な説明】
【図1】本発明の第1の実施形態に係わる輝度補正回路の構成を示すブロック図である。
【図2】本発明の実施形態で用いる全体の信号処理ブロック図である。
【図3】輝度補正係数特性グラフの一例を示す図である。
【図4】本発明の第2の実施形態に係わる輝度補正回路の構成を示すブロック図である。
【図5】本発明の第3の実施形態に係わる輝度補正回路の構成を示すブロック図である。
【図6】標準状態での輝度補正係数特性グラフの一例を示す図である。
【図7】彩度を強調する場合の輝度補正係数特性グラフの一例を示す図である。
【符号の説明】
501 撮像素子
502 ホワイトバランス回路
503 色信号作成回路
504 輝度信号作成回路
505 Yガンマ作成回路
506 輝度補正回路
509 色差信号作成回路
510 ベースクリップ作成回路
511 クリップ作成回路
512 乗算機
513 R−Y補正係数設定回路
514 B−Y補正係数設定回路
515 G−Y補正係数設定回路
516 加算機
517 内積演算回路
518 色相1用補正色相設定回路
519 色相2用補正係数設定回路
520 色相3用補正係数設定回路
521 モード設定回路
522 補正係数設定選択回路
523 補正係数候補

Claims (15)

  1. 撮像手段から出力される画像信号の輝度を色相に応じて補正する機能を有する信号処理装置であって、
    色相を判別して色情報信号を出力する色情報判別手段と、
    前記色情報信号と輝度信号とに基づいて該輝度信号の補正量を設定する輝度信号補正手段と、
    を具備することを特徴とする信号処理装置。
  2. 前記色情報判別手段は、少なくとも1種類以上の色差信号から前記色相を判別することを特徴とする請求項1に記載の信号処理装置。
  3. 前記輝度信号補正手段は、色差信号であるR−Y、B−Y、G−Yの一部又は全てと輝度信号とに基づいて前記補正量を決定することを特徴とする請求項2に記載の信号処理装置。
  4. 前記輝度信号補正手段は、色差信号であるR−Y、G−Y、B−Yに対する補正係数をα、β、γとすると、
    ΔY1=α×(R−Y)
    ΔY2=β×(B−Y)
    ΔY3=γ×(G−Y)
    で表される式の一部または全ての和によって前記補正量を決定することを特徴とする請求項3に記載の信号処理装置。
  5. 前記補正係数α、β、γは、輝度信号Yに応じて決定されることを特徴とする請求項4に記載の信号処理装置。
  6. 前記色情報判別手段は、所定の色相を示すベクトル(kCr,kCb)と画像中の色差信号(Cr,Cb)との内積演算を少なくとも1つ以上の色相に対して行なうことを特徴とする請求項2に記載の信号処理装置。
  7. 前記輝度信号補正手段は、前記内積演算の結果Pに対する補正係数をΖとすると、
    ΔY=Ζ×P
    で表される式によって前記補正量を決定することを特徴とする請求項6に記載の信号処理装置。
  8. 前記色差信号は、ベースクリップされた色差信号であることを特徴とする請求項2乃至7のいずれか1項に記載の信号処理装置。
  9. 撮影モードを設定する撮影モード設定手段をさらに具備し、前記輝度信号補正手段における補正係数を前記撮影モードに応じて変更することを特徴とする請求項1乃至8のいずれか1項に記載の信号処理装置。
  10. 前記撮影モード設定手段により彩度調整を行うことが指定された場合に、前記輝度信号補正手段における補正係数を変更することを特徴とする請求項9に記載の信号処理装置。
  11. 補正係数αは、高輝度部より低輝度部において大きくする設定されていることを特徴とする請求項4に記載の信号処理装置。
  12. 補正係数γは、高輝度部において負の係数に設定されていることを特徴とする請求項4に記載の信号処理装置。
  13. 撮像手段から出力される画像信号の輝度を色相に応じて補正するための信号処理方法であって、
    色相を判別して色情報信号を出力する色情報判別工程と、
    前記色情報信号と輝度信号とに基づいて該輝度信号の補正量を設定する輝度信号補正工程と、
    を具備することを特徴とする信号処理方法。
  14. 請求項13に記載の信号処理方法をコンピュータに実行させることを特徴とするプログラム。
  15. 請求項14に記載のプログラムをコンピュータ読み取り可能に記憶したことを特徴とする記憶媒体。
JP2002193295A 2002-07-02 2002-07-02 信号処理装置及び信号処理方法およびプログラムおよび記憶媒体 Expired - Fee Related JP3977170B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002193295A JP3977170B2 (ja) 2002-07-02 2002-07-02 信号処理装置及び信号処理方法およびプログラムおよび記憶媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002193295A JP3977170B2 (ja) 2002-07-02 2002-07-02 信号処理装置及び信号処理方法およびプログラムおよび記憶媒体

Publications (3)

Publication Number Publication Date
JP2004040371A true JP2004040371A (ja) 2004-02-05
JP2004040371A5 JP2004040371A5 (ja) 2006-12-28
JP3977170B2 JP3977170B2 (ja) 2007-09-19

Family

ID=31702293

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002193295A Expired - Fee Related JP3977170B2 (ja) 2002-07-02 2002-07-02 信号処理装置及び信号処理方法およびプログラムおよび記憶媒体

Country Status (1)

Country Link
JP (1) JP3977170B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005292814A (ja) * 2004-03-09 2005-10-20 Olympus Corp 表示制御装置及び表示制御方法
US7948501B2 (en) 2004-03-09 2011-05-24 Olympus Corporation Display control apparatus and method under plural different color spaces
JP2012222616A (ja) * 2011-04-08 2012-11-12 Nikon Corp 画像処理装置、撮像装置およびプログラム
JP2015041856A (ja) * 2013-08-21 2015-03-02 株式会社ニコン 画像処理装置、撮像装置およびプログラム
KR101906419B1 (ko) * 2011-09-23 2018-10-11 엘지디스플레이 주식회사 유기전계발광표시장치와 이의 구동방법

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005292814A (ja) * 2004-03-09 2005-10-20 Olympus Corp 表示制御装置及び表示制御方法
US7948501B2 (en) 2004-03-09 2011-05-24 Olympus Corporation Display control apparatus and method under plural different color spaces
JP2012222616A (ja) * 2011-04-08 2012-11-12 Nikon Corp 画像処理装置、撮像装置およびプログラム
KR101906419B1 (ko) * 2011-09-23 2018-10-11 엘지디스플레이 주식회사 유기전계발광표시장치와 이의 구동방법
JP2015041856A (ja) * 2013-08-21 2015-03-02 株式会社ニコン 画像処理装置、撮像装置およびプログラム

Also Published As

Publication number Publication date
JP3977170B2 (ja) 2007-09-19

Similar Documents

Publication Publication Date Title
EP1933274B1 (en) System, medium, and method with noise reducing adaptive saturation adjustment
US6608926B1 (en) Image processing method, image processing apparatus and recording medium
US8600154B2 (en) Image processing apparatus and image processing method
US7630573B2 (en) Noise reduction apparatus and method
JP5795548B2 (ja) 拡張rgb空間へのトーンマッピングを用いた高ダイナミックレンジ画像の処理方法
JP4529888B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP3943973B2 (ja) 画像処理装置およびその方法
JP2000123164A (ja) 画像処理装置及びその方法
JPH1042150A (ja) 画像処理装置及びその方法及びコンピュータ可読メモリ
JP2000123163A (ja) 画像処理装置及びその方法
JP2008072253A (ja) 画像処理装置およびその方法
JP2002300590A (ja) 信号処理装置及び方法
JP2003281531A (ja) 画像処理方法および装置並びにプログラム
US20070085857A1 (en) Method and apparatus for adaptively filtering input image in color domains
JP2000236442A (ja) 画像処理装置及びその方法、コンピュータ可読メモリ
JP3977170B2 (ja) 信号処理装置及び信号処理方法およびプログラムおよび記憶媒体
JP4752912B2 (ja) 画像の質感を補正する画像処理装置、画像処理プログラム、画像処理方法、および電子カメラ
JP2004023737A (ja) 画像処理装置及びその方法
JP2000092337A (ja) 画像処理方法および装置並びに記録媒体
JP7329932B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2003235055A (ja) 画像処理装置、画像処理プログラム、および画像処理方法
JP2929983B2 (ja) カラー画像処理装置
JP2002320100A (ja) 画像処理装置、画像処理プログラムを記録したコンピュータ読取可能な記録媒体およびプログラム
JP2010148026A (ja) 画像処理方法、画像処理装置、プログラムおよび記録媒体
JPH1063833A (ja) 画像処理装置及びその方法

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041214

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041214

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20061110

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20061113

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061124

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070117

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20070209

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070312

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20070511

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070601

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070620

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100629

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110629

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120629

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120629

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130629

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees