JP2002125155A - Solid-state image pickup device - Google Patents

Solid-state image pickup device

Info

Publication number
JP2002125155A
JP2002125155A JP2001243249A JP2001243249A JP2002125155A JP 2002125155 A JP2002125155 A JP 2002125155A JP 2001243249 A JP2001243249 A JP 2001243249A JP 2001243249 A JP2001243249 A JP 2001243249A JP 2002125155 A JP2002125155 A JP 2002125155A
Authority
JP
Japan
Prior art keywords
noise
signal
image
component data
image signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001243249A
Other languages
Japanese (ja)
Other versions
JP3796421B2 (en
Inventor
Yoshiro Udagawa
善郎 宇田川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2001243249A priority Critical patent/JP3796421B2/en
Publication of JP2002125155A publication Critical patent/JP2002125155A/en
Application granted granted Critical
Publication of JP3796421B2 publication Critical patent/JP3796421B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Solid State Image Pick-Up Elements (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

PROBLEM TO BE SOLVED: To properly correct noise depending on a state of noise at photographing. SOLUTION: The solid-state image pickup device is provided with a noise generating means that generates noise component data to correct the noise of an image pickup element. The noise generating means generates the noise component data by each photographing of one image pattern to apply noise correction to an obtained image signal, thereby obtaining the noise component data corresponding to the photographing state and correcting the noise depending on the state of noise at photographing.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、ビデオカメラ等に
用いられる固体撮像装置に関するものである。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a solid-state imaging device used for a video camera or the like.

【0002】[0002]

【従来の技術】ビデオカメラ等で用いられている固体撮
像装置においては、その信号処理の過程で種々の要因に
よりノイズが発生することが知られている。その中で、
固体撮像素子における固定パターンノイズとしては、従
来からすりガラスをのせたような映像となるランダムな
ムラ状のノイズと、縦あるいは横方向に並んだ筋状のノ
イズとの2種類が知られている。
2. Description of the Related Art In a solid-state imaging device used in a video camera or the like, it is known that noise is generated due to various factors in a signal processing process. inside that,
Conventionally, two types of fixed pattern noise in a solid-state image sensor have been known: random uneven noise that produces an image like frosted glass, and streak noise arranged vertically or horizontally.

【0003】これらのノイズを補正する方法としては、
従来より図9に示すような回路を用いて行う方法が用い
られていた。すなわち、1画面分の撮像素子のノイズ成
分データをフレームメモリ52に予め記憶させておく。
そして、撮像素子51で生成した撮像信号をプロセス回
路7に出力するときには、この撮像信号からフレームメ
モリ52に記憶されたノイズ成分を減算器6で減算して
出力するという方法である。
[0003] As a method of correcting these noises,
Conventionally, a method using a circuit as shown in FIG. 9 has been used. That is, the noise component data of the image sensor for one screen is stored in the frame memory 52 in advance.
Then, when outputting the imaging signal generated by the imaging element 51 to the process circuit 7, the subtractor 6 subtracts the noise component stored in the frame memory 52 from the imaging signal and outputs the result.

【0004】[0004]

【発明が解決しようとする課題】しかしながら、上記従
来例においては、撮像素子のノイズ成分データを記憶す
るために、メモリ量の大きい1画面分のフレームメモリ
を必要とし、このため装置全体の大型化およびコストア
ップという問題を招いていた。ところで、装置を小型化
するためにメモリ量を節約できるラインバッファを用い
てノイズの補正を行うようにする場合がある。しかし、
このようにした場合には、以下に示すような問題があっ
た。すなわち、一般的には固定パターンノイズのうち筋
状のノイズが最も目につきやすいため、このノイズを効
果的に除去する必要がある。しかし、ラインバッファを
用いた場合には、撮像素子のもう1つの固定パターンノ
イズであるムラ状ノイズの影響を受けてしまうため、こ
の筋状ノイズを正確に補正することができないという問
題があった。
However, in the above-mentioned conventional example, a frame memory for one screen having a large memory amount is required to store the noise component data of the image pickup device. And the problem of cost increase. By the way, in order to reduce the size of the device, noise correction may be performed using a line buffer that can save a memory amount. But,
In this case, there are the following problems. That is, since streak-like noise is generally most noticeable among fixed pattern noises, it is necessary to remove this noise effectively. However, when a line buffer is used, there is a problem that the streak-like noise cannot be accurately corrected because it is affected by uneven noise, which is another fixed pattern noise of the image sensor. .

【0005】また、フレームメモリに記憶された撮像素
子のノイズ成分データは固定されたものであるので、例
えば温度の変化に応じて変化する暗電流ムラ状ノイズ等
を効果的に除去することができないという問題があっ
た。更に、上記従来例においては、撮像信号の補正をす
る必要のない場合についても一律に補正が行なわれてし
まうので、その場合には画質を向上させるのではなく、
逆に劣化させてしまうという問題があった。
Also, since the noise component data of the image pickup device stored in the frame memory is fixed, it is not possible to effectively remove, for example, dark current uneven noise that changes according to a change in temperature. There was a problem. Further, in the above-described conventional example, even when it is not necessary to correct the imaging signal, the correction is uniformly performed. In this case, instead of improving the image quality,
On the contrary, there is a problem that it deteriorates.

【0006】本発明は、以上のような問題を解決するた
めになされたもので、撮影時のノイズの状態に応じた適
正なノイズ補正を行うことができるようにすることを目
的としている。
SUMMARY OF THE INVENTION The present invention has been made to solve the above-described problems, and has as its object to enable appropriate noise correction according to the state of noise at the time of photographing.

【0007】[0007]

【課題を解決するための手段】本発明の固体撮像装置
は、光電変換により画像信号を生成する撮像素子と、上
記撮像素子により生成された画像信号を記憶する画像メ
モリと、上記撮像素子のノイズ補正を行うためのノイズ
成分データを生成するノイズ生成手段と、上記画像メモ
リに記憶された画像信号から上記ノイズ生成手段により
生成されたノイズ成分データを減算する減算器とを有
し、上記画像信号を上記画像メモリに記憶した後、上記
ノイズ生成手段によりノイズ成分データを生成し、上記
画像信号から上記ノイズ成分データを上記減算器により
減算して出力することを特徴とするものである。
According to the present invention, there is provided a solid-state imaging device comprising: an image sensor for generating an image signal by photoelectric conversion; an image memory for storing an image signal generated by the image sensor; A noise generator configured to generate noise component data for performing the correction, and a subtractor configured to subtract the noise component data generated by the noise generator from the image signal stored in the image memory; Is stored in the image memory, noise component data is generated by the noise generation means, and the noise component data is subtracted from the image signal by the subtractor and output.

【0008】上記ノイズ生成手段は、上記撮像素子と、
上記撮像素子への被写体からの光を遮光する遮光手段と
により構成され、上記ノイズ成分データは、上記遮光手
段により被写体からの光を遮光した暗状態において上記
撮像素子により生成されたものであってもよい。
[0008] The noise generating means includes:
Light shielding means for shielding light from a subject to the image sensor, wherein the noise component data is generated by the image sensor in a dark state in which light from the subject is shielded by the light shielding means. Is also good.

【0009】また、上記画像メモリに記憶された画像信
号の状態に応じて上記減算処理を行うか否かを決定する
決定手段を設けてもよい。また、上記画像メモリに記憶
された画像信号のゲインを上げるときには上記減算処理
を必ず行うようにしてもよい。
Further, a decision means for deciding whether or not to perform the subtraction processing according to the state of the image signal stored in the image memory may be provided. Further, when increasing the gain of the image signal stored in the image memory, the above-described subtraction process may be performed without fail.

【0010】本発明の他の特徴とするところは、光電変
換により画像信号を生成する撮像領域と、上記撮像領域
への被写体からの光を遮光する遮光手段と、遮光をして
いない状態で上記撮像領域に生じた画像信号を読み出す
第1の動作、および上記遮光手段により遮光した状態で
上記撮像領域に生じたノイズ信号を読み出す第2の動作
を行う駆動手段と、上記駆動手段により読み出したノイ
ズ信号を用いて、読み出した画像信号を補正する補正手
段と、撮像条件に応じて、上記ノイズ信号の読み出しを
行うか否かを制御する制御手段とを有することを特徴と
するものである。
Another feature of the present invention is that an imaging area for generating an image signal by photoelectric conversion, light shielding means for shielding light from a subject to the imaging area, and A driving unit for performing a first operation of reading an image signal generated in the imaging region, a second operation of reading a noise signal generated in the imaging region in a state where the light is shielded by the light shielding unit, and a noise read by the driving unit. It is characterized by comprising a correcting means for correcting a read image signal using a signal, and a control means for controlling whether or not to read the noise signal according to an imaging condition.

【0011】上記制御手段は、上記ノイズ信号の読み出
しを行う場合には、上記駆動手段により上記第1の動作
を行い、上記第1の動作後に上記第2の動作を行い、上
記第1の動作および上記第2の動作を行った後に上記補
正手段により画像信号を補正するように制御し、上記ノ
イズ信号の読み出しを行わない場合には、上記駆動手段
により上記第1の動作を行い、上記第1の動作後に上記
駆動手段による上記第2の動作および上記補正手段によ
る画像信号の補正を行わないように制御するものであっ
てもよい。
When reading out the noise signal, the control means performs the first operation by the driving means, performs the second operation after the first operation, and performs the first operation. And after performing the second operation, controlling the image signal to be corrected by the correction unit, and when not reading out the noise signal, performing the first operation by the driving unit and performing the first operation. After the first operation, control may be performed such that the second operation by the driving unit and the correction of the image signal by the correction unit are not performed.

【0012】以上のように本発明によれば、撮像素子の
ノイズ成分データを生成するノイズ生成手段を設け、1
画面分の撮影毎にノイズ成分データを生成することによ
り、その撮影状況に応じたノイズ成分データを得ること
が可能となり、撮影時のノイズの状態に応じたノイズ補
正が可能となる。更に、被写体の画像信号の状態に応じ
てノイズ補正を行うか否かを決定し、補正の必要のない
場合にはノイズ補正を行わないようにするとともに、画
像信号のゲインを上げるときは必ずノイズ補正を行うよ
うにすることにより、撮影された被写体の状態に応じた
最適なノイズ補正が可能となる。また、撮影条件に応じ
てノイズ補正を行わないようにすることにより、ノイズ
補正を行わない場合には、撮影時間を短縮することが可
能となる。
As described above, according to the present invention, the noise generating means for generating the noise component data of the image sensor is provided.
By generating noise component data for each screen shot, it is possible to obtain noise component data according to the shooting situation, and it is possible to perform noise correction according to the state of noise during shooting. Furthermore, it is determined whether or not to perform the noise correction according to the state of the image signal of the subject. When the correction is not necessary, the noise correction is not performed. By performing the correction, optimal noise correction according to the state of the photographed subject can be performed. In addition, by not performing the noise correction according to the shooting conditions, the shooting time can be reduced when the noise correction is not performed.

【0013】[0013]

【発明の実施の形態】以下、本発明の固体撮像装置の一
実施例を図面に基づいて説明する。図1は、本発明の第
1の実施例を示す固体撮像装置のブロック図である。な
お、図1において、図9に示した従来の固体撮像装置と
同一符号を付した部分は、従来のものと同一機能部分で
あることを示している。第1の実施例は、撮像素子の一
部に感光画素が接続されていない信号線を設け、この信
号線から得られる信号を撮像素子のノイズ成分データと
して用いることにより、感光画素の影響を受けないノイ
ズ補正を行うことを可能にして、装置全体を大型化させ
ることなく撮像素子におけるノイズ成分を確実に除去で
きるようにしたものである。
DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS An embodiment of the solid-state imaging device according to the present invention will be described below with reference to the drawings. FIG. 1 is a block diagram of a solid-state imaging device according to a first embodiment of the present invention. In FIG. 1, the portions denoted by the same reference numerals as those in the conventional solid-state imaging device shown in FIG. 9 indicate the same functional portions as those in the conventional solid-state imaging device. In the first embodiment, a signal line to which a photosensitive pixel is not connected is provided in a part of an image sensor, and a signal obtained from this signal line is used as noise component data of the image sensor, so that an influence of the photosensitive pixel is obtained. This makes it possible to perform noise correction without any noise, and to reliably remove noise components in the image sensor without increasing the size of the entire apparatus.

【0014】撮像素子1はドライバ8により駆動され
る。このドライバ8は同期信号発生回路9から発生され
た駆動パルスPDRにより駆動される。撮像素子1から
の出力信号はスイッチ2によりスイッチされ、可動端子
2aが固定端子A側に切り換えられた場合には、端子A
から撮像出力YS として減算器6の一端に加えられる。
また、可動端子2aが固定端子B側に切り換えられた場
合には、撮像素子1からの出力信号は端子BからA/D
コンバータ3に入力され、デジタルのノイズ成分データ
としてラインバッファ4に蓄えられる。
The image pickup device 1 is driven by a driver 8. The driver 8 is driven by a drive pulse PDR generated from a synchronization signal generation circuit 9. The output signal from the image sensor 1 is switched by the switch 2, and when the movable terminal 2 a is switched to the fixed terminal A side, the terminal A
Is applied to one end of the subtractor 6 as an imaging output Y S.
When the movable terminal 2a is switched to the fixed terminal B side, the output signal from the image sensor 1 is transmitted from the terminal B to the A / D
The data is input to the converter 3 and stored in the line buffer 4 as digital noise component data.

【0015】このノイズ成分データは、D/Aコンバー
タ5でD/A変換されてアナログのノイズ成分データY
N として減算器6の他端に入力される。そして、前述の
撮像出力YS からこのノイズ成分データYN が減算さ
れ、補正信号Yが得られる。このようにして生成された
補正信号Yは、プロセス回路7に入力され、ホワイトク
リップやアパーチャ補正等の処理を受けてビデオ信号S
vとして出力される。
This noise component data is D / A converted by the D / A converter 5 and is converted into analog noise component data Y.
N is input to the other end of the subtractor 6. Then, the noise component data Y N is subtracted from the above-described imaging output Y S to obtain a correction signal Y. The correction signal Y generated in this manner is input to the process circuit 7 and subjected to processing such as white clipping and aperture correction to produce the video signal S.
output as v.

【0016】図2は、撮像素子1の詳細な構成を示す図
で、ここではMOS型の撮像素子を例としている。すな
わち、1画素はMOS−FET(MOS型の電界効果ト
ランジスタ)11と光ダイオード12とにより構成され
ている。そして、所定数の画素が水平方向および垂直方
向にそれぞれ規則的に配列されて感光部を形成してい
る。この感光部で生成された電荷は、各画素に接続され
た水平信号線13および垂直信号線14を介して読み出
される。
FIG. 2 is a diagram showing a detailed configuration of the image pickup device 1, in which a MOS type image pickup device is taken as an example. That is, one pixel includes a MOS-FET (MOS type field effect transistor) 11 and a photodiode 12. A predetermined number of pixels are regularly arranged in the horizontal direction and the vertical direction, respectively, to form a photosensitive portion. The charge generated in the photosensitive section is read out via a horizontal signal line 13 and a vertical signal line 14 connected to each pixel.

【0017】この電荷の読み出し動作をもう少し詳しく
説明すると、まず垂直方向については、読み出しライン
を指定するアドレス信号ADRがデコーダ15に入力さ
れ、これにより指定された読み出しラインが垂直レジス
タ16に伝えられる。そして、このようにして指定され
た水平ライン13がアドレス信号ADRに従って順次走
査されていく。次に水平方向については、アドレス信号
ADRにより指定された1つの水平ラインに接続された
各画素の信号が垂直信号線14を介して水平レジスタ1
7の作用により順次出力される。
The charge read operation will be described in more detail. First, in the vertical direction, an address signal ADR specifying a read line is input to the decoder 15, and the specified read line is transmitted to the vertical register 16. Then, the designated horizontal lines 13 are sequentially scanned in accordance with the address signal ADR. Next, in the horizontal direction, the signal of each pixel connected to one horizontal line specified by the address signal ADR is applied to the horizontal register 1 via the vertical signal line 14.
7 are sequentially output.

【0018】本実施例では、この水平ラインの最上部に
は感光画素が接続されていないダミーライン18を設け
ているところに特徴がある。そして、このダミーライン
18は、後述する垂直方向の固定パターンノイズの取り
込み時に指定されるものである。
The present embodiment is characterized in that a dummy line 18 to which no photosensitive pixel is connected is provided at the top of this horizontal line. The dummy line 18 is designated when a fixed pattern noise in the vertical direction described later is captured.

【0019】次に、図1に示した本実施例の固体撮像装
置の全体の動作について、図3のタイミング図を参照し
て詳細に説明する。
Next, the overall operation of the solid-state imaging device of this embodiment shown in FIG. 1 will be described in detail with reference to the timing chart of FIG.

【0020】図3において、(a)は垂直同期信号VD
を示し、(b)は垂直ブランキング信号VBを示してい
る。まず、タイミングが図3(b)に示すような垂直ブ
ランキング期間に入ると、アドレス信号ADRは、図3
(c)に示すように、図2に示したダミーライン18を
指定する。上述したように、ダミーライン18には感光
画素が接続されていないので、ダミーライン18から出
力される信号はノイズ成分のみであり、撮像素子1の固
定パターンノイズとして用いられる。
FIG. 3A shows a vertical synchronization signal VD.
And (b) shows the vertical blanking signal VB. First, when the timing enters a vertical blanking period as shown in FIG. 3B, the address signal ADR becomes
As shown in (c), the dummy line 18 shown in FIG. 2 is specified. As described above, since no photosensitive pixel is connected to the dummy line 18, the signal output from the dummy line 18 is only a noise component, and is used as fixed pattern noise of the image sensor 1.

【0021】また、垂直ブランキング期間においては、
図3(d)のように、可動端子2aが固定端子B側を選
択するように、スイッチ信号PSWがスイッチ2に与え
られる。これにより、撮像素子1から出力されたノイズ
成分データがA/Dコンバータ3に入力される。更に、
A/DコンバータパルスPCNT1が、図3(e)に示
すようにオンとなり、A/Dコンバータ3が作動し始め
る。これにより、水平1ライン分のノイズ成分データが
A/D変換され、これがデジタル信号としてラインバッ
ファ4に蓄えられる。
In the vertical blanking period,
As shown in FIG. 3D, the switch signal PSW is supplied to the switch 2 so that the movable terminal 2a selects the fixed terminal B side. Thereby, the noise component data output from the image sensor 1 is input to the A / D converter 3. Furthermore,
The A / D converter pulse PCNT1 is turned on as shown in FIG. 3E, and the A / D converter 3 starts operating. Thus, the noise component data for one horizontal line is A / D converted, and this is stored in the line buffer 4 as a digital signal.

【0022】次に、垂直ブランキング期間を終了して有
効期間に入ると、図3(d)のように、可動端子2aが
固定端子A側を選択するように、スイッチ信号PSWが
スイッチ2に与えられる。これにより、この有効期間中
のアドレス信号ADRにより指定された有効ラインにお
ける撮像出力YS が減算器6の一端に入力される。
Next, when the vertical blanking period ends and the valid period starts, as shown in FIG. 3D, the switch signal PSW is applied to the switch 2 so that the movable terminal 2a selects the fixed terminal A side. Given. As a result, the imaging output Y S in the effective line designated by the address signal ADR during the effective period is input to one end of the subtractor 6.

【0023】また、この有効期間内ではD/Aコンバー
タ5を駆動するD/AコンバータパルスPCNT2が、
図3(f)に示すようにオンとなり、前述の垂直ブラン
キング期間中にラインバッファ4に蓄えられたノイズ成
分データがアナログのノイズ成分データYN に変換され
て減算器6の他端に入力される。減算器6内では、Y=
S −YN なる演算が行なわれ、これにより固定パター
ンノイズ成分が取り除かれた補正信号Yが得られる。そ
して、この補正信号Yはプロセス回路7に入力され、こ
こで同期信号等が加えられ、ビデオ信号Svとして出力
される。
During this valid period, the D / A converter pulse PCNT2 for driving the D / A converter 5 is:
As shown in FIG. 3 (f), the noise component data stored in the line buffer 4 during the above-described vertical blanking period is converted into analog noise component data Y N and input to the other end of the subtractor 6 as shown in FIG. Is done. In the subtractor 6, Y =
Y S -Y N becomes operation is performed, thereby the fixed pattern noise correction signal Y component is removed is obtained. Then, the correction signal Y is input to the process circuit 7, where a synchronizing signal and the like are added thereto and output as a video signal Sv.

【0024】以上説明した第1の実施例においては、減
算器6での減算処理をアナログ信号を用いて行う場合に
ついて説明したが、デジタル信号を用いて行うようにし
てもよい。図4は、このようにデジタル的に減算処理を
行うようにした第2の実施例としての固体撮像装置を示
す図である。なお、図4において、図1に示した固体撮
像装置と同一の機能部分には同一符号を付してある。
In the first embodiment described above, the case where the subtraction processing in the subtractor 6 is performed using an analog signal has been described. However, the subtraction processing may be performed using a digital signal. FIG. 4 is a diagram illustrating a solid-state imaging device according to a second embodiment in which the subtraction process is performed digitally in this manner. In FIG. 4, the same functional portions as those of the solid-state imaging device shown in FIG. 1 are denoted by the same reference numerals.

【0025】図4において、撮像素子1からの出力信号
は、A/Dコンバータ3によりA/D変換されてデジタ
ル信号とされる。撮像素子1からの出力信号は、前述し
た実施例と同様に、図3(a)〜(d)に示すような動
作タイミングで切り換えられ出力された撮像素子1の撮
像出力またはノイズ成分データである。
In FIG. 4, an output signal from the image sensor 1 is A / D converted by an A / D converter 3 to be a digital signal. The output signal from the image pickup device 1 is an image pickup output or noise component data of the image pickup device 1 which is switched and output at the operation timings as shown in FIGS. .

【0026】A/Dコンバータ3から出力されるデジタ
ル信号が撮像素子1の撮像出力をA/D変換したもので
ある場合には、このデジタル信号はスイッチ19の切り
換えにより減算器20の一端に撮像出力YSDとして直接
入力される。また、A/Dコンバータ3から出力される
デジタル信号が撮像素子1のノイズ成分データをA/D
変換したものである場合には、このデジタル信号はスイ
ッチ19の切換によりラインバッファ4に入力され一旦
記憶された後、ノイズ成分データYNDとして減算器20
の他端に入力される。
When the digital signal output from the A / D converter 3 is obtained by A / D converting the image output of the image sensor 1, this digital signal is imaged at one end of a subtractor 20 by switching a switch 19. Directly input as output Y SD . The digital signal output from the A / D converter 3 converts the noise component data of the image sensor 1 into an A / D signal.
When the digital signal is converted, the digital signal is input to the line buffer 4 by switching of the switch 19, temporarily stored, and then converted as noise component data Y ND into the subtracter 20.
Is input to the other end.

【0027】そして、減算器20で前述の撮像出力YSD
からこのノイズ成分データYNDが減算されて補正信号Y
D が得られる。この補正信号YD は、プロセス回路7で
同期信号等が付加された後、D/Aコンバータ5に入力
され、アナログ信号に変換されてビデオ信号Svとして
出力される。
Then, the above-described image pickup output Y SD is output by the subtractor 20.
The noise component data Y ND is subtracted from the
D is obtained. The correction signal Y D is input to the D / A converter 5 after being added with a synchronization signal and the like by the process circuit 7, is converted into an analog signal, and is output as the video signal Sv.

【0028】なお、以上説明した第1、第2の実施例で
は、ダミーライン18からのノイズ成分データの取り込
み回数については詳しく述べなかったが、これは1回に
限定されるものではない。例えば、取り込み回数を増や
してその平均値をとるようにすれば、より正確なノイズ
成分データを得ることができる。
In the first and second embodiments described above, the number of times of taking in the noise component data from the dummy line 18 is not described in detail, but the number is not limited to one. For example, if the number of captures is increased and the average value is taken, more accurate noise component data can be obtained.

【0029】以上のように第1、第2の実施例によれ
ば、感光画素が接続されていないダミーライン18から
1ライン単位で得られる信号をフレームメモリに比べて
メモリ量の小さいラインバッファ4にノイズ成分データ
として記憶しておき、これに基づいてノイズ補正を行う
ようにしたので、装置をいたずらに巨大化することな
く、感光画素の影響を受けないノイズ補正が可能とな
り、撮像素子におけるノイズ成分が確実に除去された良
好な画質を得ることができる。
As described above, according to the first and second embodiments, the signal obtained in units of one line from the dummy line 18 to which the photosensitive pixels are not connected is converted into the line buffer 4 having a smaller memory amount than the frame memory. Since the noise correction is stored as noise component data and noise correction is performed based on the noise component data, noise correction can be performed without being affected by photosensitive pixels without unnecessarily increasing the size of the device. Good image quality from which components have been reliably removed can be obtained.

【0030】次に、本発明の第3の実施例について説明
する。第3の実施例は、撮影時のノイズの状態に応じ
て、最適なノイズ補正を行うことができるようにしたも
のである。図5は、本実施例の固体撮像装置を示すブロ
ック図である。まず図5を用いて本実施例の全体の動作
について簡単に説明する。
Next, a third embodiment of the present invention will be described. In the third embodiment, optimal noise correction can be performed according to the state of noise at the time of shooting. FIG. 5 is a block diagram illustrating the solid-state imaging device according to the present embodiment. First, the overall operation of this embodiment will be briefly described with reference to FIG.

【0031】図5において、不図示のシャッターボタン
がオンされると、遮光板31が開かれ、遮光板31の前
段に設けられた不図示の光学系によりCCD32の撮像
面上に被写体像が結像され、CCD32により光電変換
される。これにより得られた撮像信号は、A/Dコンバ
ータ33でA/D変換された後、画像信号としてフレー
ムメモリ34に蓄えられる。
In FIG. 5, when a shutter button (not shown) is turned on, the light-shielding plate 31 is opened, and an object image is formed on the image pickup surface of the CCD 32 by an optical system (not shown) provided in front of the light-shielding plate 31. The image is photoelectrically converted by the CCD 32. The image signal thus obtained is subjected to A / D conversion by the A / D converter 33 and then stored in the frame memory 34 as an image signal.

【0032】次に、遮光板31が閉じられ暗状態におい
てCCD32により光電変換が行なわれる。これにより
得られる撮像信号は、CCD32の外部からの光を一切
遮断して行なわれる光電変換により得られるものである
から、CCD32の固定パターンノイズのノイズ成分デ
ータSN として用いられる。
Next, photoelectric conversion is performed by the CCD 32 in the dark state with the light shielding plate 31 closed. Image signal obtained thereby, since is obtained by photoelectric conversion performed by blocking all light from the outside of the CCD 32, it is used as the noise component data S N of the fixed pattern noise of the CCD 32.

【0033】このようにして得られたノイズ成分データ
N は、A/Dコンバータ33によるA/D変換等の処
理は受けずに減算器36の一端に直接入力される。な
お、このノイズ成分データSN の読み出しは、後述する
判断動作により不要と判断されたときには行われない。
The noise component data SN obtained in this way is directly input to one end of the subtractor 36 without being subjected to A / D conversion or the like by the A / D converter 33. The reading of the noise component data S N is not performed when it is determined that the noise component data S N is unnecessary by a determination operation described later.

【0034】そして、このノイズ成分データSN が減算
器36へ入力されるのに同期して、フレームメモリ34
に蓄えられた被写体の画像信号がD/Aコンバータ35
でD/A変換されてアナログの画像信号SD として減算
器36の他端に入力される。そして、減算器36でS=
D −SN なる減算処理が行なわれ、CCD32のノイ
ズ成分が除去された補正信号Sが得られる。
Then, in synchronization with the input of the noise component data S N to the subtractor 36, the frame memory 34
The image signal of the subject stored in the D / A converter 35
And is input to the other end of the subtractor 36 as an analog image signal SD . Then, S =
A subtraction process of S D -S N is performed to obtain a correction signal S from which noise components of the CCD 32 have been removed.

【0035】この補正信号Sは、スイッチ37の端子B
に入力される。また、スイッチ37の端子Aには未補正
の画像信号SD が入力され、システムコントローラ42
の判断により、補正信号Sあるいは未補正信号SD のど
ちらかが選択される。この判断の方法については後述す
る。そして、選択された信号は、プロセス回路38で所
定の処理が行なわれた後に記録装置39に与えられ、記
録される。
The correction signal S is supplied to the terminal B of the switch 37.
Is input to The uncorrected image signal SD is input to the terminal A of the switch 37, and the system controller 42
, The correction signal S or the uncorrected signal SD is selected. The method for this determination will be described later. Then, the selected signal is given to the recording device 39 after predetermined processing is performed in the process circuit 38, and is recorded.

【0036】次に、上述のシステムコントローラ42に
よるスイッチ37の端子選択の判断方法について、図6
のフローチャートを用いて説明する。まずステップS1
でシャッターがオンされると、ステップS2で遮光板3
1が開かれ、ステップS3で被写体の光電変換が行われ
てその撮像信号(被写体データ)がフレームメモリ34
に取り込まれる。
Next, a method of determining the terminal selection of the switch 37 by the system controller 42 will be described with reference to FIG.
This will be described with reference to the flowchart of FIG. First, step S1
When the shutter is turned on at step S2, the light shielding plate 3 is set at step S2.
1 is opened, the photoelectric conversion of the subject is performed in step S3, and the imaging signal (subject data) is stored in the frame memory 34.
It is taken in.

【0037】ステップS4では、取り込まれた被写体デ
ータの輝度分布のヒストグラム処理を行い、その処理結
果から画像のハイライトポイントHPとダークポイント
DPとを決定する。図7は、このヒストグラム処理の結
果の一例を示す図である。なお、この処理結果は、取り
込まれた被写体データを基に画素を256ステップに分
類し、明るさの順に並べたものである。そして、全体の
99%の値をハイライトポイントHPとし、1%の値を
ダークポイントDPとしている。
In step S4, a histogram process of the luminance distribution of the fetched subject data is performed, and a highlight point HP and a dark point DP of the image are determined from the processing result. FIG. 7 is a diagram illustrating an example of a result of the histogram processing. In this processing result, pixels are classified into 256 steps based on the captured subject data and arranged in the order of brightness. The value of 99% of the whole is defined as the highlight point HP, and the value of 1% is defined as the dark point DP.

【0038】更に、このようにして得られたハイライト
ポイントHPおよびダークポイントDPの組み合わせか
ら、例えば図8に示すような図表を基にインデックス
(INDEX)を決定する。ここで、インデックスがO
Nの場合にはノイズ成分の読み出しを行い、インデック
スがOFFの場合にはノイズ成分の読み出しは行わない
ことを示している。
Further, from the combination of the highlight point HP and the dark point DP obtained in this way, an index (INDEX) is determined based on a chart as shown in FIG. 8, for example. Here, the index is O
If N, the noise component is read out, and if the index is OFF, the noise component is not read out.

【0039】次に、ステップS5でインデックスがON
であるかOFFであるかの判定を行う。そして、インデ
ックスがONであると判断すると、ステップS6に移行
して遮光板31を閉じ、ステップS7でCCD32のノ
イズ成分データSN を読み出して減算器36の一端に入
力する。次いで、ステップS8でスイッチ37の可動端
子37aを端子B側に切り換えることにより、減算器3
6で生成された補正信号Sを選択し、ステップS10で
この補正信号Sを記録装置39に記録する。
Next, the index is turned on in step S5.
Or OFF. If it is determined that the index is ON, the process proceeds to close the light-shielding plate 31 in step S6, reads the noise component data S N in step S7 CCD 32 is inputted to one end of the subtractor 36. Next, in step S8, the movable terminal 37a of the switch 37 is switched to the terminal B side, whereby the subtracter 3
The correction signal S generated in step 6 is selected, and the correction signal S is recorded in the recording device 39 in step S10.

【0040】また、ステップS5でインデックスがOF
Fであると判断すると、ステップS6、S7のノイズ成
分データSN の読み出しは行わずにステップS9に移行
し、可動端子37aを端子A側に切り換えることにより
未補正信号SD を選択し、ステップS10でこの未補正
信号SD をを記録装置39に記録する。
In step S5, the index is OF.
If it is determined to be F, the process proceeds to step S9 without reading out the noise component data SN in steps S6 and S7, and the uncorrected signal SD is selected by switching the movable terminal 37a to the terminal A side. In S10, the uncorrected signal SD is recorded in the recording device 39.

【0041】以上の本実施例の説明においては、1回で
取り込んだ暗状態における撮像信号そのものをCCD3
2のノイズ成分データSN として用いる場合について説
明したが、これに限定するものではない。例えば、複数
回にわたって取り込んだ暗状態における撮像信号をライ
ンバッファ等を用いて平均化し、これを用いてノイズ補
正を行うようにすれば、ランダム性ノイズの影響を減ら
すこともできる。
In the above description of the present embodiment, the image pickup signal itself in the dark state captured at one time is
Although the case of using as the noise component data S N of No. 2 has been described, the present invention is not limited to this. For example, by averaging image signals in a dark state captured a plurality of times using a line buffer or the like and performing noise correction using the average, the effect of random noise can be reduced.

【0042】また、ノイズ成分データSN の読み出しを
行うか否かの選択については、ヒストグラム処理の結果
に基づいて行う場合について説明したが、画像信号のゲ
インを上げるときには、ノイズ成分データSN を常に読
み出してノイズ補正を必ず行うようにしてもよい。ま
た、減算器36での減算動作をデジタル的に行ってもよ
いことは、上述した第2の実施例の場合と同様である。
Further, the selection of whether to read the noise component data S N has been described for the case of performing on the basis of the result of histogram processing, when increasing the gain of the image signal, the noise component data S N It is also possible to always read and perform noise correction. Further, the fact that the subtraction operation in the subtractor 36 may be performed digitally is the same as in the case of the above-described second embodiment.

【0043】以上のように第3の実施例によれば、遮光
板を閉じて生成した暗状態における撮像信号を撮像素子
のノイズ成分データとして用い、これに基づいて撮像素
子の固定パターンノイズの補正を行うようにしたので、
1画面分の撮影毎にその撮影状況に応じたノイズ成分デ
ータを得ることができ、撮影時のノイズの状態に応じた
最適なノイズ補正をすることができる。更に、フレーム
メモリに記憶された画像信号の状態に応じてノイズ補正
を行うか否かを決定し、補正の必要のない場合にはノイ
ズ補正を行わないようにしたので、過剰な補正を防いで
最適なノイズ補正をすることができるとともに、1枚の
撮影時間を短縮することができる。
As described above, according to the third embodiment, the image signal in the dark state generated by closing the light shielding plate is used as noise component data of the image sensor, and correction of fixed pattern noise of the image sensor is performed based on the data. So that
It is possible to obtain noise component data according to the shooting situation for each shooting of one screen, and it is possible to perform optimal noise correction according to the noise state at the time of shooting. Further, it is determined whether or not to perform the noise correction according to the state of the image signal stored in the frame memory, and when the correction is not required, the noise correction is not performed. Optimum noise correction can be performed, and the photographing time of one image can be reduced.

【0044】[0044]

【発明の効果】以上説明したように本発明によれば、1
画面分の撮影毎にノイズ成分データを生成し、生成した
ノイズ成分データを基にノイズ補正を行うようにしたの
で、最適なノイズ補正を行うことができ、常に良好な画
質を得ることができる。また、条件によりノイズ補正を
行わないことが可能な固体撮像装置では、ノイズ補正を
行わないときには、撮影時間を短縮することができる。
As described above, according to the present invention, 1
Since noise component data is generated every time a picture is taken and noise correction is performed based on the generated noise component data, optimal noise correction can be performed, and good image quality can always be obtained. In a solid-state imaging device capable of not performing noise correction depending on conditions, when noise correction is not performed, the photographing time can be reduced.

【図面の簡単な説明】[Brief description of the drawings]

【図1】第1の実施例の固体撮像装置を示すブロック図
である。
FIG. 1 is a block diagram illustrating a solid-state imaging device according to a first embodiment.

【図2】撮像素子の詳細な構成を示す図である。FIG. 2 is a diagram illustrating a detailed configuration of an image sensor.

【図3】固体撮像装置の全体の動作タイミングを示すタ
イミング図である。
FIG. 3 is a timing chart showing the overall operation timing of the solid-state imaging device.

【図4】第2の実施例の固体撮像装置を示すブロック図
である。
FIG. 4 is a block diagram illustrating a solid-state imaging device according to a second embodiment.

【図5】第3の実施例の固体撮像装置を示すブロック図
である。
FIG. 5 is a block diagram illustrating a solid-state imaging device according to a third embodiment.

【図6】第3の実施例の動作を説明するためのフローチ
ャートである。
FIG. 6 is a flowchart for explaining the operation of the third embodiment.

【図7】ヒストグラム処理の結果の一例を示す図であ
る。
FIG. 7 is a diagram illustrating an example of a result of the histogram processing.

【図8】ヒストグラム処理の結果から決定されるインデ
ックスを示す図である。
FIG. 8 is a diagram showing an index determined from a result of the histogram processing.

【図9】従来の固体撮像装置の構成を示すブロック図で
ある。
FIG. 9 is a block diagram illustrating a configuration of a conventional solid-state imaging device.

【符号の説明】 1 撮像素子 2 スイッチ 2a 可動端子 3 A/Dコンバータ 4 ラインバッファ 5 D/Aコンバータ 6 減算器 7 プロセス回路 9 同期信号発生回路 13 水平信号線 14 垂直信号線 18 ダミーライン 19 スイッチ 20 減算器 31 遮光板 32 CCD 33 A/Dコンバータ 34 フレームメモリ 35 D/Aコンバータ 36 減算器 37 スイッチ 37a 可動端子 38 プロセス回路 39 記録装置 42 システムコントローラ[Description of Signs] 1 Image sensor 2 Switch 2a Movable terminal 3 A / D converter 4 Line buffer 5 D / A converter 6 Subtractor 7 Process circuit 9 Synchronous signal generation circuit 13 Horizontal signal line 14 Vertical signal line 18 Dummy line 19 Switch Reference Signs List 20 subtractor 31 light shielding plate 32 CCD 33 A / D converter 34 frame memory 35 D / A converter 36 subtractor 37 switch 37a movable terminal 38 process circuit 39 recording device 42 system controller

Claims (6)

【特許請求の範囲】[Claims] 【請求項1】 光電変換により画像信号を生成する撮像
素子と、 上記撮像素子により生成された画像信号を記憶する画像
メモリと、 上記撮像素子のノイズ補正を行うためのノイズ成分デー
タを生成するノイズ生成手段と、 上記画像メモリに記憶された画像信号から上記ノイズ生
成手段により生成されたノイズ成分データを減算する減
算器とを有し、 上記画像信号を上記画像メモリに記憶した後、上記ノイ
ズ生成手段によりノイズ成分データを生成し、上記画像
信号から上記ノイズ成分データを上記減算器により減算
して出力することを特徴とする固体撮像装置。
An image sensor that generates an image signal by photoelectric conversion, an image memory that stores an image signal generated by the image sensor, and a noise that generates noise component data for performing noise correction of the image sensor Generating means, and a subtractor for subtracting the noise component data generated by the noise generating means from the image signal stored in the image memory. After storing the image signal in the image memory, generating the noise Means for generating noise component data by means, subtracting the noise component data from the image signal by the subtractor, and outputting the result.
【請求項2】 上記ノイズ生成手段は、上記撮像素子
と、上記撮像素子への被写体からの光を遮光する遮光手
段とにより構成され、 上記ノイズ成分データは、上記遮光手段により被写体か
らの光を遮光した暗状態において上記撮像素子により生
成されたものであることを特徴とする請求項1に記載の
固体撮像装置。
2. The noise generating means includes: the image sensor; and light blocking means for blocking light from the subject to the image sensor. The noise component data includes light from the subject by the light blocking means. The solid-state imaging device according to claim 1, wherein the solid-state imaging device is generated by the imaging element in a light-shielded dark state.
【請求項3】 上記画像メモリに記憶された画像信号の
状態に応じて上記減算処理を行うか否かを決定する決定
手段を設けたことを特徴とする請求項1または2に記載
の固体撮像装置。
3. The solid-state imaging device according to claim 1, further comprising a determination unit that determines whether to perform the subtraction processing according to a state of an image signal stored in the image memory. apparatus.
【請求項4】 上記画像メモリに記憶された画像信号の
ゲインを上げるときには上記減算処理を必ず行うことを
特徴とする請求項1または2に記載の固体撮像装置。
4. The solid-state imaging device according to claim 1, wherein the subtraction process is always performed when increasing the gain of the image signal stored in the image memory.
【請求項5】 光電変換により画像信号を生成する撮像
領域と、 上記撮像領域への被写体からの光を遮光する遮光手段
と、 遮光をしていない状態で上記撮像領域に生じた画像信号
を読み出す第1の動作、および上記遮光手段により遮光
した状態で上記撮像領域に生じたノイズ信号を読み出す
第2の動作を行う駆動手段と、 上記駆動手段により読み出したノイズ信号を用いて、読
み出した画像信号を補正する補正手段と、 撮像条件に応じて、上記ノイズ信号の読み出しを行うか
否かを制御する制御手段とを有することを特徴とする固
体撮像装置。
5. An imaging area for generating an image signal by photoelectric conversion, a light shielding unit for shielding light from a subject to the imaging area, and reading an image signal generated in the imaging area in a state where light is not shielded. A driving unit for performing a first operation and a second operation of reading a noise signal generated in the imaging region in a state where the light is shielded by the light shielding unit; and an image signal read using the noise signal read by the driving unit. A solid-state imaging device comprising: a correction unit configured to correct the noise signal; and a control unit configured to control whether to read the noise signal according to an imaging condition.
【請求項6】 上記制御手段は、上記ノイズ信号の読み
出しを行う場合には、上記駆動手段により上記第1の動
作を行い、上記第1の動作後に上記第2の動作を行い、
上記第1の動作および上記第2の動作を行った後に上記
補正手段により画像信号を補正するように制御し、 上記ノイズ信号の読み出しを行わない場合には、上記駆
動手段により上記第1の動作を行い、上記第1の動作後
に上記駆動手段による上記第2の動作および上記補正手
段による画像信号の補正を行わないように制御すること
を特徴とする請求項5に記載の固体撮像装置。
6. The control means, when reading out the noise signal, performs the first operation by the driving means, performs the second operation after the first operation,
After performing the first operation and the second operation, control is performed so that the image signal is corrected by the correction unit. When the reading of the noise signal is not performed, the first operation is performed by the driving unit. 6. The solid-state imaging device according to claim 5, wherein after the first operation, control is performed such that the second operation by the driving unit and the correction of the image signal by the correction unit are not performed.
JP2001243249A 2001-08-10 2001-08-10 Imaging apparatus and imaging method Expired - Lifetime JP3796421B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001243249A JP3796421B2 (en) 2001-08-10 2001-08-10 Imaging apparatus and imaging method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001243249A JP3796421B2 (en) 2001-08-10 2001-08-10 Imaging apparatus and imaging method

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP35677792A Division JP3238968B2 (en) 1992-12-22 1992-12-22 Solid-state imaging device

Publications (2)

Publication Number Publication Date
JP2002125155A true JP2002125155A (en) 2002-04-26
JP3796421B2 JP3796421B2 (en) 2006-07-12

Family

ID=19073379

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001243249A Expired - Lifetime JP3796421B2 (en) 2001-08-10 2001-08-10 Imaging apparatus and imaging method

Country Status (1)

Country Link
JP (1) JP3796421B2 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1653728A1 (en) 2004-11-02 2006-05-03 Sony Corporation Signal processing apparatus and signal processing method for solid-state image pickup element and image pickup apparatus
CN100454984C (en) * 2004-11-02 2009-01-21 索尼株式会社 Signal processing apparatus and signal processing method for solid-state image pickup element and image pickup apparatus
JP2009135787A (en) * 2007-11-30 2009-06-18 Sony Corp Noise detector, imaging device and noise detection method
US8610802B2 (en) 2007-10-02 2013-12-17 Olympus Corporation Solid-state imaging device with noise extracing pixels in the effective pixel region and solid-state imaging system using the same

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1653728A1 (en) 2004-11-02 2006-05-03 Sony Corporation Signal processing apparatus and signal processing method for solid-state image pickup element and image pickup apparatus
CN100394778C (en) * 2004-11-02 2008-06-11 索尼株式会社 Signal processing apparatus and signal processing method for solid-state image pickup element and image pickup apparatus
CN100454984C (en) * 2004-11-02 2009-01-21 索尼株式会社 Signal processing apparatus and signal processing method for solid-state image pickup element and image pickup apparatus
US7692698B2 (en) 2004-11-02 2010-04-06 Sony Corporation Signal processing apparatus and signal processing method for solid-state image pickup element and image pickup apparatus
US7773130B2 (en) 2004-11-02 2010-08-10 Sony Corporation Signal processing apparatus and signal processing method for solid-state image pickup element and image pickup apparatus
EP2271071A1 (en) 2004-11-02 2011-01-05 Sony Corporation Signal processing apparatus and signal processing method for solid-state image pickup element and image pickup apparatus
US8610802B2 (en) 2007-10-02 2013-12-17 Olympus Corporation Solid-state imaging device with noise extracing pixels in the effective pixel region and solid-state imaging system using the same
JP2009135787A (en) * 2007-11-30 2009-06-18 Sony Corp Noise detector, imaging device and noise detection method

Also Published As

Publication number Publication date
JP3796421B2 (en) 2006-07-12

Similar Documents

Publication Publication Date Title
KR100886311B1 (en) Digital camera comprising smear removal function
JP4773179B2 (en) Imaging device
EP1156673A2 (en) Image input apparatus
JP2005130045A (en) Image pickup apparatus and image pickup element used therefor
JP5523065B2 (en) Imaging apparatus and control method thereof
US7262793B2 (en) Imager and image quality correcting method performing correction based on the output of different readout modes
US20070263111A1 (en) Solid-state image pickup device capable of compensating for vertical shading caused by dark current
JP2007027845A (en) Imaging apparatus
EP0683606B1 (en) Image sensing apparatus with noise removal
JP4367910B2 (en) Solid-state imaging device
JP3697172B2 (en) Signal processing apparatus, signal processing method, and imaging apparatus
JP3238968B2 (en) Solid-state imaging device
JP3796421B2 (en) Imaging apparatus and imaging method
US8259197B2 (en) Imaging device
JP2009302850A (en) Noise removal device of solid-state image sensor, image capturing apparatus, noise removal method of solid-state image sensor
JP4892802B2 (en) Electronic camera
JP2808814B2 (en) Defective pixel position detection device
JP2001292377A (en) Imaging apparatus
JP6223166B2 (en) Image composition device, image composition method, imaging device, program, and storage medium
JP2001086413A (en) Image pickup device
JP2005341261A (en) Imaging unit
JP2008295007A (en) Imaging device and control method therefor
JP2006157341A (en) Smear correcting method and signal processor for solid-state imaging device, and imaging apparatus
JP2647547B2 (en) Imaging device and solid-state imaging device driving device
JP4125502B2 (en) Solid-state imaging device and driving method thereof

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20041025

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20041102

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041228

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20050125

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050328

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20050331

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20050916

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060316

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060417

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090421

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100421

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110421

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120421

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130421

Year of fee payment: 7

EXPY Cancellation because of completion of term
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130421

Year of fee payment: 7