JP2008005386A - 固体撮像装置および固体撮像装置の信号処理方法 - Google Patents

固体撮像装置および固体撮像装置の信号処理方法 Download PDF

Info

Publication number
JP2008005386A
JP2008005386A JP2006175013A JP2006175013A JP2008005386A JP 2008005386 A JP2008005386 A JP 2008005386A JP 2006175013 A JP2006175013 A JP 2006175013A JP 2006175013 A JP2006175013 A JP 2006175013A JP 2008005386 A JP2008005386 A JP 2008005386A
Authority
JP
Japan
Prior art keywords
signal
solid
state imaging
sensor
digital
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006175013A
Other languages
English (en)
Other versions
JP4321555B2 (ja
Inventor
Akihiko Kato
昭彦 加藤
Noriyuki Fukushima
範之 福島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2006175013A priority Critical patent/JP4321555B2/ja
Priority to US11/811,825 priority patent/US7982925B2/en
Publication of JP2008005386A publication Critical patent/JP2008005386A/ja
Application granted granted Critical
Publication of JP4321555B2 publication Critical patent/JP4321555B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Solid State Image Pick-Up Elements (AREA)

Abstract

【課題】イメージセンサの最下位ビット付近をゆるやかに変動する連続した輝度階調を持つアナログ信号をアナログ−デジタル変換した後の階段状の離散的な階調の信号を滑らかに変動する印象を与える階調に処理することを可能とする。
【解決手段】イメージセンサのアナログ信号をデジタル信号に変換するアナログ−デジタル変換器(AD変換器11)から出力されたセンサ信号にデジタルゲイン処理を行う乗算器12を有する固体撮像装置であって、ランダム状に分布する信号を生成する信号生成器13と、前記乗算器12から出力された階段状の離散的な階調の信号に前記信号生成器13から出力されたランダム状に分布する信号を加算する加算器14とを備えたことを特徴とする。
【選択図】図1

Description

本発明は、固体撮像装置および固体撮像装置の信号処理方法に関する。
従来のイメージセンサには、アナログ−デジタル変換(以下AD変換という)を行ったセンサ信号に対し、与えられた設定値とセンサ信号とを乗算処理するデジタルゲイン処理機能を有するものがある。このデジタルゲイン処理は、入力されるセンサ信号にデジタル的に乗算処理を行い、その結果を出力するもので、センサの光入力感度のゲインを上げたことと等価な動作を行う。一方、AD変換前のアナログ信号を操作するアナログゲイン処理もあるが、デジタルゲイン処理はアナログ的なノイズ制約を受けないために乗算設定値の上限を高くできるという利点や、デジタルゲイン回路はアナログゲイン回路に比べて回路面積が小さくなるという利点を有する。
しかしながら、デジタルゲイン処理はセンサ信号をデジタル的に有効ビット内で誤差なく乗算処理を行うため、特に最下位ビット(以下LSBという)付近をゆるやかに変動する連続した輝度階調を持つ信号の乗算結果は、設定値が乗算されて階段状の離散的な階調となる。この結果、センサ信号を画像表示した際の見た目に本来のゆるやかに変動する階調部分が階段状に見えるといった不自然な印象を与える問題がある。
この一例を以下に説明する。図6にデジタルゲイン重畳前のセンサ出力の階調を示す。また図7に4倍デジタルゲイン重畳後のセンサ出力の階調を示す。このように、デジタルゲイン処理を行うことで、LSB付近を緩やかに変動する連続した階調が階段状に目立つようになる。本例ではセンサデータが数LSBであって低い値であるが、数千LSBのような高い値であっても、LSB付近を緩やかに変動する場合、このような階段状になる現象が発生する。
A/Dコンバータから出力される階段状の信号を滑らかにする手法として、音響機器、音響計測器等に用いられるA/Dコンバータではディザ信号(例えばホワイトノイズ)を付加する手法が開示されている(例えば、非特許文献1。)。
Leon Melkonian、"ディザ信号付加によるA/Dコンバータの性能改善"、[online]、1992年2月、ナショナルセミコンダクター株式会社[平成18年3月7日検索]、インターネット<URL:www.national.com/JPN/an/An-804.pdf-
解決しようとする問題点は、最下位ビット付近をゆるやかに変動する連続した輝度階調を持つ信号をデジタルゲイン処理すると、LSB付近を緩やかに変動する連続した階調が階段状に目立つようになる点である。
本発明は、最下位ビット付近をゆるやかに変動する連続した輝度階調を持つアナログ信号をアナログ−デジタル変換した後の階段状の離散的な階調の信号を滑らかに変動する印象を与える階調に処理することを課題とする。
請求項1に係る固体撮像装置は、イメージセンサのアナログ信号をデジタル信号に変換するアナログ−デジタル変換器から出力されたセンサ信号にデジタルゲイン処理を行う乗算器を有する固体撮像装置であって、ランダム状に分布する信号を生成する信号生成器と、前記乗算器から出力された階段状の離散的な階調の信号に前記信号生成器から出力されたランダム状に分布する信号を加算する加算器とを備えたことを特徴とする。
請求項1に係る固体撮像装置では、乗算器から出力された階段状の離散的な階調の信号に前記信号生成器から出力されたランダム状に分布する信号を加算する加算器とを備えたことから、加算器から出力される信号は滑らかに変動する印象を与える階調になる。
請求項4に係る固体撮像装置は、イメージセンサのアナログ信号をデジタル信号に変換するアナログ−デジタル変換器から出力されたセンサ信号にデジタルゲイン処理を行うビットシフト回路と、ランダム状に分布する信号を生成する信号生成器と、前記ビットシフト回路から出力された階段状の離散的な階調の信号に前記信号生成器から出力されたランダム状に分布する信号を挿入するビット挿入回路とを備えたことを特徴とする。
請求項4に係る固体撮像装置では、ビットシフト回路から出力された階段状の離散的な階調の信号に前記信号生成器から出力されたランダム状に分布する信号を挿入するビット挿入回路とを備えたことから、ビット挿入回路から出力される信号は滑らかに変動する印象を与える階調になる。
固体撮像装置の信号処理方法は、イメージセンサのアナログ信号をデジタル信号に変換して出力されたセンサ信号にデジタルゲイン処理を行う固体撮像装置の信号処理方法において、前記デジタルゲイン処理によって生じた階段状の離散的な階調の信号に前記センサ信号を種としたランダム状に分布する信号を加算することを特徴する。
請求項5に係る固体撮像装置の信号処理方法では、デジタルゲイン処理によって生じた階段状の離散的な階調に応じた信号にセンサ信号を種としたランダム状に分布する信号を加算することから、加算後に出力される信号は滑らかに変動する印象を与える階調になる。
請求項1に係る固体撮像装置によれば、乗算器から出力された階段状の離散的な階調の信号にランダム状に分布する信号を加算するため、加算器から出力される信号は滑らかに変動する印象を与える階調になるので、本来のゆるやかに変動する階調部分が自然な状態に見えるようになるという利点がある。
請求項4に係る固体撮像装置によれば、ビットシフト回路から出力された階段状の離散的な階調の信号にランダム状に分布する信号を挿入するため、ビット挿入回路から出力される信号は滑らかに変動する印象を与える階調になるので、本来のゆるやかに変動する階調部分が自然な状態に見えるようになるという利点がある。また、デジタルゲイン処理の仕様を限定することから、乗算器の替わりにビットシフト回路を用い、加算器の替わりにビット挿入回路を用いたので、大幅に回路規模を削減できるという利点がある。
請求項5に係る固体撮像装置の信号処理方法によれば、デジタルゲイン処理によって生じた階段状の離散的な階調に応じた信号にセンサ信号を種としたランダム状に分布する信号を加算するため、加算後に出力される信号は滑らかに変動する印象を与える階調になるので、本来のゆるやかに変動する階調部分が自然な状態に見えるようになるという利点がある。
本発明の固体撮像装置およびその駆動方法に係る一実施の形態(第1実施例)を、図1のブロック図によって説明する。図1は、固体撮像装置(例えばイメージセンサ)のデジタルゲイン処理機能部分を示す。
図1に示すように、固体撮像装置1は、イメージセンサの所定の駆動を経て読み出されたアナログセンサ信号をnビットのデジタル信号に変換するアナログ−デジタル変換(以下、AD変換と記す)器11を備えている。したがって、イメージセンサ信号入力によりAD変換器11に入力されたアナログセンサ信号はデジタル信号に変換されセンサ信号として出力される。
さらに上記AD変換器11から出力されたセンサ信号と設定値入力とをデジタル的に乗算演算を行う乗算器12を備えている。また上記センサ信号を種とするランダム状に分布する信号を生成する信号生成器13を備え、上記乗算器12の演算結果と上記信号生成器13から出力されたランダム状に分布する信号とをデジタル的に加算演算を行う加算器14を備えている。すなわち、加算器14によって、上記乗算器12から出力された階段状の離散的な階調のセンサ信号に上記信号生成器13から出力されたランダム状に分布する信号が加算される。
上記信号生成器13はデジタル的に擬似ランダムビット列を生成するブロックである。この実装にはさまざまな構成がある。ここでは図2に一実装例として、リニアフィードバックシフトレジスタ(以下、LFSRと記す)を用いたものを示す。
図2に示すように、LFSRは1ビットの入力とシフトレジスタ群(DLY15、16および17)のある任意の2点の排他的論理和18、19を取ったものを出力するものである。このLFSRは、入力に対し出力を回路で定義される多項式に基づき、擬似ランダム的に攪拌する回路として一般的に使用されているものである。入力が連続する固定値を取る時、LFSRの出力はある有限の擬似ランダムビット列の繰り返しを出力するため、画像に使用するものでは固定パターンのノイズとなり、好ましくない場合がある。このため本例では、入力にAD変換後のセンサ信号の最下位ビットを入力することで、この問題を解決している。
AD変換後のセンサ信号の最下位ビットは、通常回路ノイズの影響を受けてランダム状に分布する。このため、それを受けて生成されるLFSRの出力もランダム性を持ち、かつセンサ信号の最下位ビットとは直接相関の見出しにくいものとなっている。したがって、ランダム状に分布する信号を生成することができる。
次に、上記LFSRで得られた1ビットの擬似ランダム列をある並列する重み付けを持ったビット数まで拡大する実装例を、図3によって説明する。
図3に示すように、信号生成器13に備えられた各LFSR20、21、22は前記図2で説明したLFSRである。このLFSR20、21、22は、AD変換後のセンサ信号データの最下位ビット(LSB)を基に、一定量を持ったデジタル擬似ノイズ信号を生成する処理を行うものである。
信号生成器13で得られたランダム状に分布する信号は、前記図1に示した加算器14により上記乗算器12からの出力されたセンサ信号と加算処理される。その際、加算されるランダム状に分布する信号量がセンサ信号量よりも大きい場合、S/Nを必要以上に悪化させる結果となる。そこで、デジタルゲイン処理により最下位ビット(LSB)付近の階調が階段状になるのが緩和されるような上記加算器14の出力となるように、ランダム状に分布する信号は階段状に広がったビット数以下にすることが望ましい。
例えば、4倍のデジタルゲイン処理を行う場合、付加するビット数は2ビット以下となるため、上位ビットにはゼロを付加しておく。これを選択器23で行う。ランダム状に分布する信号量として、2ビットの整数や2ビット分の正と負の分布を持つ数が実装できる。また、センサ信号が飽和時など、AD変換後やデジタルゲイン処理後のセンサ信号が一定のフルコードを連続して出力する場合などは、本実施例の出力回路もフルコードが望ましいことがあるため、その入力の検出をして一定値を出す機能を付加することが望ましい。
信号生成器13で得られたランダム状に分布する信号を加算器14により上記乗算器12からの出力されたセンサ信号と加算処理した本実施例の結果の一例を、図4によって説明する。ここで、入力は先に説明した図6にデジタルゲイン重畳前のセンサ出力の階調に4倍のデジタルゲイン処理を行ったものである。
図4に示すように、前記図7の従来例で見られていた撮像行方向もしくは撮像列方向(撮像行/列)の階段状の階調が、なだらかな印象を受けるものに処理される。
上記本発明に係る実施の形態では、AD変換器11でAD変換した後のセンサ信号にデジタルゲイン処理を行ったデータに対し、信号生成器13によりデジタル的に生成したランダム状に分布する信号を加算する。このようなデジタルゲイン処理を行うことにより、階段状になる離散的な階調出力を滑らかに変動する印象を与える階調に処理して出力される。上記ランダム状に分布する信号は、一般的に擬似ランダムデータが周期的になるという問題点を、AD変換後のセンサデータを用いることで回避している。加算するランダム状に分布する信号量は、デジタルゲイン処理の設定値によって適応的に変化させることで、不必要なS/Nの悪化を防ぐことができる。
次に、本発明の固体撮像装置およびその駆動方法に係る一実施の形態(第2実施例)を、図5のブロック図によって説明する。図5は、固体撮像装置(例えばイメージセンサ)のデジタルゲイン処理機能部分を示す。
図5に示すように、固体撮像装置2は、イメージセンサの所定の駆動を経て読み出されたアナログセンサ信号をnビットのデジタル信号に変換するアナログ−デジタル変換(以下、AD変換と記す)器11を備えている。したがって、イメージセンサ信号入力によりAD変換器11に入力されたアナログセンサ信号はデジタル信号に変換されセンサ信号として出力される。
さらに上記AD変換器11から出力されたセンサ信号を最上位ビット(MSB)方向へのビットシフトを行い、空いた最下位ビット(LSB)側に設定値入力として0を挿入するビットシフト回路31を備えている。また上記センサ信号を種とするランダム状に分布する信号を生成する信号生成器13を備え、上記ビットシフト回路31の出力である0が挿入されたビットに、上記信号生成器13から出力されたランダム状に分布する信号を挿入する、すなわちビットごとの論理和を取るだけですむという行為を行うビット挿入回路32が備えられている。したがって、上記ビット挿入回路32では、上記のデジタルゲイン機能適用時、最下位ビット側に0が挿入されているだけのため、信号を加算する場合に演算処理を行う必要がない。
上記信号生成器13は、一例として、前記図2によって説明したリニアフィードバックシフトレジスタ(以下、LFSRと記す)を用いることができ、前記図3によって説明した構成のものを用いることができる。
上記第2実施例は、デジタルゲイン機能の仕様が2倍、4倍と2のn乗でよい場合に有効であり、さらに、第1実施例のようにデジタル回路として回路規模、面積が大きい乗算器や加算器を用いないので、回路規模を小さくできるという利点がある。回路規模はセンサ信号の処理ビット数にもよるが、第1実施例の回路構成と比較して10分の1以下にすることも可能である。
上記第1、第2実施例では、AD変換器、乗算器、加算器、信号生成器、ビットシフト回路、ビット挿入回路等の実装が可能なCMOSイメージセンサを意図しているが、例えばCCD(Charge Coupled Device)やアナログ出力のCMOSセンサの出力を受ける別チップに実装することも可能である。
本発明の固体撮像装置およびその駆動方法に係る一実施の形態(第1実施例)を示したブロック図である。 信号生成器のデジタル的に擬似ランダムビット列を生成するブロックを示したブロック図である。 信号生成器のブロック図である。 第1実施例のデジタルゲイン処理後におけるセンサ出力の階調を示すグラフである。 本発明の固体撮像装置に係る一実施の形態(第2実施例)を示したブロック図である。 デジタルゲイン処理前のセンサ出力の階調を示すグラフである。 デジタルゲイン処理後のセンサ出力の階調を示すグラフである。
符号の説明
1…固体撮像装置、11…アナログ−デジタル変換器、12…乗算器、13…信号生成器、14…加算器

Claims (5)

  1. イメージセンサのアナログ信号をデジタル信号に変換するアナログ−デジタル変換器から出力されたセンサ信号にデジタルゲイン処理を行う乗算器を有する固体撮像装置であって、
    ランダム状に分布する信号を生成する信号生成器と、
    前記乗算器から出力された階段状の離散的な階調の信号に前記信号生成器から出力されたランダム状に分布する信号を加算する加算器と
    を備えたことを特徴とする固体撮像装置。
  2. 前記信号生成器はリニアフィードバックシフトレジスタからなる
    ことを特徴とする請求項1記載の固体撮像装置。
  3. 前記信号生成器において、前記ランダム状に分布する信号を生成する種に前記センサ信号を用いる
    ことを特徴とする請求項1記載の固体撮像装置。
  4. イメージセンサのアナログ信号をデジタル信号に変換するアナログ−デジタル変換器から出力されたセンサ信号にデジタルゲイン処理を行うビットシフト回路と、
    ランダム状に分布する信号を生成する信号生成器と、
    前記ビットシフト回路から出力された階段状の離散的な階調の信号に前記信号生成器から出力されたランダム状に分布する信号を挿入するビット挿入回路と
    を備えたことを特徴とする固体撮像装置。
  5. イメージセンサのアナログ信号をデジタル信号に変換して出力されたセンサ信号にデジタルゲイン処理を行う固体撮像装置の信号処理方法において、
    前記デジタルゲイン処理によって生じた階段状の離散的な階調の信号に前記センサ信号を種としたランダム状に分布する信号を加算する
    ことを特徴する固体撮像装置の信号処理方法。
JP2006175013A 2006-06-26 2006-06-26 固体撮像装置および固体撮像装置の信号処理方法 Expired - Fee Related JP4321555B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2006175013A JP4321555B2 (ja) 2006-06-26 2006-06-26 固体撮像装置および固体撮像装置の信号処理方法
US11/811,825 US7982925B2 (en) 2006-06-26 2007-06-12 Solid-state image-pickup device and method of processing signal of solid-state image-pickup device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006175013A JP4321555B2 (ja) 2006-06-26 2006-06-26 固体撮像装置および固体撮像装置の信号処理方法

Publications (2)

Publication Number Publication Date
JP2008005386A true JP2008005386A (ja) 2008-01-10
JP4321555B2 JP4321555B2 (ja) 2009-08-26

Family

ID=38873286

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006175013A Expired - Fee Related JP4321555B2 (ja) 2006-06-26 2006-06-26 固体撮像装置および固体撮像装置の信号処理方法

Country Status (2)

Country Link
US (1) US7982925B2 (ja)
JP (1) JP4321555B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150081558A (ko) * 2014-01-06 2015-07-15 재단법인 다차원 스마트 아이티 융합시스템 연구단 비디오 센서 시스템의 영역 별 자동 노출 방법 및 그 장치

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10382048B2 (en) * 2015-05-28 2019-08-13 Analog Devices, Inc. Calibration of analog-to-digital converter devices
TWI727780B (zh) * 2020-05-01 2021-05-11 瑞昱半導體股份有限公司 影像雜訊抑制裝置及其方法
KR20220090920A (ko) * 2020-12-23 2022-06-30 삼성전자주식회사 이미지 센서, 이미지 센서의 동작 방법 및 이를 포함하는 이미지 센싱 장치

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5960122A (en) * 1992-12-28 1999-09-28 Fuji Photo Film Co., Ltd. Method of and apparatus for processing digital image data
JP3192849B2 (ja) 1993-11-30 2001-07-30 三洋電機株式会社 固体撮像素子の駆動方法
JPH0855100A (ja) 1994-08-17 1996-02-27 Ricoh Co Ltd 光入力装置及び光入力ユニット
JP3754965B2 (ja) * 2003-02-28 2006-03-15 キヤノン株式会社 映像表示装置
JP4144517B2 (ja) 2003-12-05 2008-09-03 ソニー株式会社 固体撮像装置、撮像方法
JP4289225B2 (ja) * 2004-06-18 2009-07-01 株式会社ニコン 画像処理装置および画像処理方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150081558A (ko) * 2014-01-06 2015-07-15 재단법인 다차원 스마트 아이티 융합시스템 연구단 비디오 센서 시스템의 영역 별 자동 노출 방법 및 그 장치
KR101637637B1 (ko) 2014-01-06 2016-07-07 재단법인 다차원 스마트 아이티 융합시스템 연구단 비디오 센서 시스템의 영역 별 자동 노출 방법 및 그 장치

Also Published As

Publication number Publication date
JP4321555B2 (ja) 2009-08-26
US20070297025A1 (en) 2007-12-27
US7982925B2 (en) 2011-07-19

Similar Documents

Publication Publication Date Title
JP4351658B2 (ja) メモリ容量低減化方法、メモリ容量低減化雑音低減化回路及びメモリ容量低減化装置
JP2006129483A (ja) シングルビットディザを使用したadcの線形化
EP1137266A3 (en) Image processing apparatus and image display apparatus using same
JP2007213460A (ja) 画像処理方法、画像処理装置、及び画像表示装置
JP4321555B2 (ja) 固体撮像装置および固体撮像装置の信号処理方法
JP2003338928A (ja) 画像信号の誤差拡散処理回路
JP2842389B2 (ja) 乱数発生装置
JP3807390B2 (ja) 乱数発生装置
JP6639271B2 (ja) 撮像装置、撮像システム
JP4585949B2 (ja) 乱数生成装置および乱数生成方法
JP2924936B2 (ja) 画像処理方法および装置
KR101700371B1 (ko) 상관 이중 샘플링 회로 및 이를 포함하는 이미지 센서
JP4196060B2 (ja) 画像処理装置
US5960122A (en) Method of and apparatus for processing digital image data
JP2006293429A (ja) 乱数生成装置及び乱数生成方法
JP2005175546A (ja) 撮像信号のクランプ方式及び撮像装置
JP3225099B2 (ja) 画像処理装置
JP7029137B2 (ja) 信号処理回路
JP4658821B2 (ja) ベジェ曲線生成回路
JP4505751B2 (ja) 波形データ変換装置
JP2915445B2 (ja) 画像処理装置
JP2005275733A (ja) 信号処理方法、信号出力装置、信号処理装置、画像処理装置、及び画像形成装置
JP4710823B2 (ja) 信号処理回路
JP2004282746A (ja) 画像データ処理装置および画像データ処理方法
JPH06189160A (ja) デジタルガンマ補正装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080407

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080415

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080616

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090512

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090525

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120612

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130612

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees