JP3913251B2 - Imaging device - Google Patents

Imaging device Download PDF

Info

Publication number
JP3913251B2
JP3913251B2 JP2005004071A JP2005004071A JP3913251B2 JP 3913251 B2 JP3913251 B2 JP 3913251B2 JP 2005004071 A JP2005004071 A JP 2005004071A JP 2005004071 A JP2005004071 A JP 2005004071A JP 3913251 B2 JP3913251 B2 JP 3913251B2
Authority
JP
Japan
Prior art keywords
clip
imaging
output
white balance
color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005004071A
Other languages
Japanese (ja)
Other versions
JP2005137025A (en
Inventor
雅夫 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2005004071A priority Critical patent/JP3913251B2/en
Publication of JP2005137025A publication Critical patent/JP2005137025A/en
Application granted granted Critical
Publication of JP3913251B2 publication Critical patent/JP3913251B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

本発明は、撮像装置に関し、特に撮像手段の出力から得た信号のホワイトバランスを制御するホワイトバランス制御手段を有する撮像装置に関する。   The present invention relates to an imaging apparatus, and more particularly to an imaging apparatus having white balance control means for controlling white balance of a signal obtained from an output of an imaging means.

近年、ムービー用ビデオカメラや、電子スチルカメラなどの撮像装置におけるホワイトバランス制御には、撮像素子の出力を用いて自動的に撮影されたビデオ信号のホワイトバランスを良好に保つ手法、即ちTTL自動追尾式のホワイトバランス制御が行われる様になってきた。   In recent years, for white balance control in an imaging apparatus such as a movie video camera or an electronic still camera, a technique for maintaining a good white balance of a video signal automatically captured using the output of an image sensor, that is, TTL automatic tracking White balance control of the formula has come to be performed.

この手法を用いたホワイトバランス制御の一例についてその概略を以下説明する。一般に、上述の如き撮像装置においては撮像素子から得られた信号は、周知の色分離回路やプロセス回路を介して、Y(輝度)信号,R(赤)−Y信号,B(青)−Y信号に変換される。また、一般にこの過程でR信号,B信号もしくはR−Y信号,B−Y信号などには可変利得アンプが設けられている。   An outline of an example of white balance control using this method will be described below. In general, in an image pickup apparatus such as that described above, signals obtained from an image pickup device are transmitted through a well-known color separation circuit or process circuit as a Y (luminance) signal, an R (red) -Y signal, and a B (blue) -Y Converted to a signal. In general, a variable gain amplifier is provided for the R signal, B signal, RY signal, BY signal and the like in this process.

一方、Y,R−Y,B−Y信号は夫々積分などの処理により1フィールド以上の期間に亙って平均化され、これら平均化された信号を用いてR,G,B各信号を導出する。そして、これらの3原色信号を用いてこの3原色信号の比が1:1:1となる様に上記可変利得アンプを制御する制御信号を導出する。   On the other hand, the Y, RY, and BY signals are averaged over a period of one field or more by processing such as integration, and R, G, and B signals are derived using these averaged signals. To do. Then, using these three primary color signals, a control signal for controlling the variable gain amplifier is derived so that the ratio of the three primary color signals becomes 1: 1: 1.

これによって、特に測色センサなどを用いることなく、自動的にホワイトバランス制御を行うことが可能となった。   This makes it possible to automatically perform white balance control without using a colorimetric sensor or the like.

他方、上述の如き手法においては撮像素子の出力を用いてホワイトバランス制御を行うので撮像画枠内に大面積を占める高彩度の被写体が存在する場合には、その被写体の影響を受け、良好なホワイトバランス調整が行えないという問題がある。   On the other hand, in the method as described above, white balance control is performed using the output of the image sensor, so if there is a highly saturated subject that occupies a large area in the image pickup image frame, it is affected by the subject and a good white There is a problem that balance adjustment cannot be performed.

そこで、上述した平均化処理の前段にクリップ回路を設け、高彩度の被写体の影響を軽減する処理を行うことが知られている(例えば、特許文献1)。
特開平3−120988号公報
In view of this, it is known that a clipping circuit is provided before the above-described averaging process to reduce the influence of a subject with high saturation (for example, Patent Document 1).
Japanese Patent Laid-Open No. 3-120988

このようなクリップ回路を用いる場合、図8(1)に示される様に高レベル側1と、低レベル側2とが均等にクリップされる場合には所要の効果が得られるものと考えられるが、光源の色や色温度の変化などにより、図8(2)に示す様に高レベル側1のみがクリップされ、低レベル側2がクリップされない場合には、ホワイトバランス調整がこの低レベル側の信号の影響を受けてしまう。勿論、低レベル側2のみがクリップされる場合も同様である。   When such a clipping circuit is used, it is considered that the required effect can be obtained when the high level side 1 and the low level side 2 are evenly clipped as shown in FIG. When only the high level side 1 is clipped and the low level side 2 is not clipped as shown in FIG. 8 (2) due to the color of the light source or the color temperature, the white balance adjustment is performed on the low level side. It will be affected by the signal. Of course, the same applies when only the low level side 2 is clipped.

具体的には、徐々に適正なホワイトバランス状態とする様上記平均化回路の時定数を長めに設定するムービーカメラにおいては、適正なホワイトバランス状態にするまでの時間が長くなってしまう。また、電子スチルカメラの様に短時間で適正なホワイトバランス状態とする必要がある場合においては、ホワイトバランスが適正でない状態で撮影が行われてしまうといった問題となる。   Specifically, in a movie camera in which the time constant of the averaging circuit is set to be long so that an appropriate white balance state is gradually obtained, it takes a long time to obtain an appropriate white balance state. In addition, when it is necessary to achieve an appropriate white balance state in a short time as in an electronic still camera, there is a problem that photographing is performed in a state where the white balance is not appropriate.

また、上記高彩度の被写体の影響によるホワイトバランスのずれは、一般に黒体放射光の色温度変換に対応した色ずれが発生する場合、即ち赤みが強くなったり、青みが強くなったりする場合にはあまり気にならないが、色温度変化に対応しない色ずれ、即ち緑色化、紫色化が発生する場合には視覚的に大変目障りなものである。   In addition, the white balance shift due to the influence of the high saturation subject generally occurs when a color shift corresponding to the color temperature conversion of black body radiation occurs, that is, when redness becomes strong or blue becomes strong. Although it does not bother much, when color shifts that do not correspond to changes in color temperature, that is, when greening or purpleting occurs, this is visually annoying.

そこで、単にホワイトバランス調整時の色補正の方向を概略色温度変化に対応した方向にのみに限定することで、上述の如き目障りなホワイトバランスずれを解消することが可能であるが、この場合には蛍光灯などの様に黒体放射光に対し緑がかった色の光源下での撮影時においてはホワイトバランス制御が行えなくなってしまう。   Therefore, it is possible to eliminate the above-mentioned annoying white balance deviation by simply limiting the color correction direction during white balance adjustment to only the direction corresponding to the change in the approximate color temperature. The white balance control cannot be performed when photographing under a light source having a greenish color with respect to the black body radiation light such as a fluorescent lamp.

斯かる背景下において、本発明は光源の色や色温度の変化に係らず、撮像画枠内に大面積を占める高彩度の被写体の影響を受けず、良好なホワイトバランス制御が行える撮像装置を提供することを目的とする。   Under such a background, the present invention provides an image pickup apparatus that can perform good white balance control without being affected by a high-saturation subject that occupies a large area in the image pickup image frame regardless of changes in the color or color temperature of the light source. The purpose is to do.

また本発明の他の目的は光源の色変化にも対応でき、且、色温度変化に対応しない目障りな色ずれを解消することができる撮像装置を提供する処にある。   Another object of the present invention is to provide an image pickup apparatus that can cope with a color change of a light source and can eliminate an annoying color shift that does not correspond to a color temperature change.

斯かる目的下において、本発明にあっては、光学系と撮像素子とを含む撮像手段を有する撮像装置において、前記撮像手段の出力から得た複数種の色差信号の振幅成分をクリップするクリップ手段と、前記クリップ手段の出力を用いて、前記撮像手段の出力から得た信号のホワイトバランスを制御するホワイトバランス制御手段と、撮像手段におけるシャッタ速度に応じて前記クリップ手段のクリップ範囲を変更するクリップ変更手段と、を有することを特徴とする撮像装置を提供する。
また、光学系と撮像素子とを含む撮像手段を有する撮像装置において、前記撮像手段の出力から得た複数種の色差信号の振幅成分をクリップするクリップ手段と、前記クリップ手段の出力を用いて、前記撮像手段の出力から得た信号のホワイトバランスを制御するホワイトバランス制御手段と、撮像手段における絞りの値に応じて前記クリップ手段のクリップ範囲を変更するクリップ変更手段と、を有することを特徴とする撮像装置を提供する。
Under such an object, according to the present invention, in an imaging apparatus having an imaging means including an optical system and an imaging device, clipping means for clipping amplitude components of a plurality of types of color difference signals obtained from the output of the imaging means. A white balance control means for controlling the white balance of the signal obtained from the output of the imaging means using the output of the clip means, and a clip for changing the clip range of the clip means according to the shutter speed in the imaging means And an changing unit.
Further, in an image pickup apparatus having an image pickup means including an optical system and an image pickup device, a clip means for clipping amplitude components of a plurality of types of color difference signals obtained from the output of the image pickup means, and an output of the clip means, And white balance control means for controlling white balance of a signal obtained from the output of the imaging means, and clip changing means for changing the clip range of the clip means in accordance with the aperture value in the imaging means. An imaging device is provided.

上述の如く、光学系と撮像素子とを含む撮像手段におけるシャッタ速度に応じてクリップ手段のクリップ範囲を変更することにより、光量の変化により色温度の変化に従ったクリップ範囲の変更ができ、いかなる色温度においても常に色信号を適正にクリップすることができるので、色温度にかかわらず高彩度の被写体の影響を受けないホワイトバランス制御が可能となる。
また、上述の如く、光学系と撮像素子とを含む撮像手段におけるしぼり値に応じてクリップ手段のクリップ範囲を変更することにより、光量の変化により色温度の変化に従ったクリップ範囲の変更ができ、いかなる色温度においても常に色信号を適正にクリップすることができるので、色温度にかかわらず高彩度の被写体の影響を受けないホワイトバランス制御が可能となる。
As described above, by changing the clip range of the clip means according to the shutter speed in the image pickup means including the optical system and the image pickup device, the clip range can be changed according to the change of the color temperature due to the change of the light amount. Since the color signal can always be properly clipped even at the color temperature, white balance control can be performed without being affected by a highly saturated subject regardless of the color temperature.
Further, as described above, by changing the clip range of the clip means according to the aperture value in the image pickup means including the optical system and the image pickup device, the clip range can be changed according to the change in the color temperature due to the change in the light amount. Since the color signal can always be properly clipped at any color temperature, it is possible to perform white balance control that is not affected by a subject with high saturation regardless of the color temperature.

(第1の実施例)
図1は本発明の第1の実施例としての撮像装置の概略構成を示すブロック図である。
(First embodiment)
FIG. 1 is a block diagram showing a schematic configuration of an imaging apparatus as a first embodiment of the present invention.

図1において、1は被写体からの反射光を結像し、光量を制限する光学系、3はこの光学系1を介した被写体像を電気信号に変換する撮像素子、5は撮像素子3の出力からR,G,B各信号を抽出する周知の色分離回路、7,9はR信号,B信号を夫々増幅するRアンプ,Bアンプ、11はRアンプ,Bアンプから出力されるR信号(R’),B信号(B’)更にはG信号が入力され、Y信号,(R−Y)信号,(B−Y)信号を導出するプロセス回路である。   In FIG. 1, 1 is an optical system that forms an image of reflected light from a subject and restricts the amount of light, 3 is an image sensor that converts the subject image through the optical system 1 into an electrical signal, and 5 is an output of the image sensor 3. A known color separation circuit for extracting R, G, and B signals from A, 7 and 9 for R signal and B amplifier for amplifying the R signal and B signal, respectively, and 11 for R signal output from the R amplifier and B amplifier ( R ′), B signal (B ′), and further a G signal, and a process circuit for deriving a Y signal, an (RY) signal, and a (BY) signal.

13はプロセス回路11からのY,R−Y,B−Y各信号の高レベル及び低レベル部分を夫々クリップするピーク−ピーク(P−P)クリップ回路、15はクリップ回路13の出力する3信号を夫々積分する積分回路、17は積分回路15の出力する3信号をアナログ−デジタル(A/D)変換して3つのデジタル値YD,(R−Y)D,(B−Y)Dを夫々出力するA/D変換器、19はこれらのデジタル値YD,(R−Y)D,(B−Y)Dが接続されるマイクロプロセッシングユニット(MPU)である。   Reference numeral 13 denotes a peak-to-peak (PP) clipping circuit for clipping the high-level and low-level portions of the Y, RY, and BY signals from the process circuit 11, and reference numeral 15 denotes three signals output from the clipping circuit 13. , And 17 is an analog-digital (A / D) conversion of the three signals output from the integration circuit 15 to obtain three digital values YD, (RY) D, and (BY) D, respectively. An A / D converter 19 for outputting is a microprocessing unit (MPU) to which these digital values YD, (R−Y) D, and (B−Y) D are connected.

21は被写体の明るさを測定する測光センサ、23は測光センサ21の出力をA/D変換するA/D変換器、25はMPU19より出力されるデジタル制御値RCD及びBCDを夫々デジタル−アナログ(D/A)変換するD/A変換器であり、このD/A変換器25の出力で上記Rアンプ7,Bアンプ9の利得が制御される。また、PSWはこの撮像装置の電源スイッチ、31,33,35は夫々出力端子である。   21 is a photometric sensor for measuring the brightness of the subject, 23 is an A / D converter for A / D converting the output of the photometric sensor 21, and 25 is a digital-analog (digital control value RCD and BCD output from the MPU 19, respectively. D / A) D / A converter for conversion, and the gain of the R amplifier 7 and B amplifier 9 is controlled by the output of the D / A converter 25. PSW is a power switch of the image pickup apparatus, and 31, 33, and 35 are output terminals.

図2は本実施例のMPU19の動作を説明するためのフローチャートであり、以下この図2を用いて本実施例の動作を説明する。   FIG. 2 is a flowchart for explaining the operation of the MPU 19 of the present embodiment, and the operation of the present embodiment will be described below with reference to FIG.

電源スイッチPSWがオンされると(ステップS1)、装置各部に電源が供給される。ここで、光学系1により被写体反射光はその光量を制御、制限されて撮像素子3の撮像面上に結像され、この撮像素子3から読み出された電気信号は、素子3のフィルタ配列に従い色分離回路5にて処理され、R,G,Bの各信号を得る。これらの信号中、R信号,B信号は夫々Rアンプ7,Bアンプ9にて夫々後述の制御信号RC,BCによって定められた利得により増幅される。このRアンプ7,Bアンプ9の出力信号R’,B’は、G信号と共にプロセス回路11に入力される。   When the power switch PSW is turned on (step S1), power is supplied to each part of the apparatus. Here, the reflected light of the subject is controlled and limited by the optical system 1 to form an image on the image pickup surface of the image pickup device 3, and the electric signal read from the image pickup device 3 follows the filter arrangement of the element 3. Processing is performed by the color separation circuit 5 to obtain R, G, and B signals. Among these signals, the R signal and the B signal are amplified by the R amplifier 7 and the B amplifier 9 with gains determined by control signals RC and BC, which will be described later, respectively. Output signals R ′ and B ′ of the R amplifier 7 and B amplifier 9 are input to the process circuit 11 together with the G signal.

プロセス回路11からは、R’,B’,Gの各信号を用いて、Y,(R−Y),(B−Y)信号を夫々出力する。このプロセス回路11の主力する3信号は出力端子31,33,35から夫々外部や記録再生部に供給されることになる。   The process circuit 11 outputs Y, (R−Y), and (B−Y) signals using R ′, B ′, and G signals, respectively. The three main signals of the process circuit 11 are supplied from the output terminals 31, 33, 35 to the outside and the recording / reproducing unit.

また、この3信号は夫々クリップ回路13、積分回路15、A/D変換器17を介してデジタル値YD,(R−Y)D,(B−Y)Dとされ、MPU19に接続される。   The three signals are converted into digital values YD, (R−Y) D, and (B−Y) D via the clip circuit 13, the integration circuit 15, and the A / D converter 17, respectively, and are connected to the MPU 19.

一方、測光センサ21の出力もA/D変換器23を介してデジタル値LDとされ、MPU19に接続される。   On the other hand, the output of the photometric sensor 21 is also converted into a digital value LD via the A / D converter 23 and connected to the MPU 19.

MPU19は電源スイッチPSWがオンされると、内部メモリに初期値としてL0,a,b,c,dを読み込み記憶させる。ここで、L0はある明るさの被写体に対する測光センサ21からの信号をデジタル化した際の値であり、その被写体の設定は最も明るい屋内光に対応した値とする。また。a,b,c,dはホワイトバランス制御電圧導出時の演算式に用いる値で、予め最適な値を設定しておく。   When the power switch PSW is turned on, the MPU 19 reads and stores L0, a, b, c, and d as initial values in the internal memory. Here, L0 is a value obtained by digitizing a signal from the photometric sensor 21 for a subject with a certain brightness, and the setting of the subject is a value corresponding to the brightest indoor light. Also. “a”, “b”, “c”, and “d” are values used for an arithmetic expression when the white balance control voltage is derived, and optimum values are set in advance.

そして、ステップS3において測光出力であるデジタル値LDを読み込み、ステップS4においてL0とLDを比較する。ここで、LD>L0であればステップS5に移行し、P−Pクリップ回路13のクリップ範囲を高色温度対応とする。具体的には図3(1)に示す様に−Y信号については(イ)に示す様に高レベル部(図中斜線で示す)のみがクリップされることにならない様にクリップ範囲を高レベル側にシフトする。これによって、同図(1)の(ロ)に示す様にクリップ範囲を高レベル側と低レベル側でほぼ均等にクリップされることになる。また、同様に−Y信号については図3(2)の(イ)に示す様に低レベル部(斜線部)のみがクリップされることがない様に、同図(2)の(ロ)に示す様にクリップ範囲を低レベル側にシフトする。 In step S3, the digital value LD which is a photometric output is read, and in step S4, L0 and LD are compared. Here, if LD> L0, the process proceeds to step S5, and the clip range of the PP clip circuit 13 is made compatible with the high color temperature. For specific to the B -Y signal as shown in FIG. 3 (1) high clip range As not to be clipped only high unit as shown in (a) (shown in FIG hatching) Shift to the level side. As a result, the clip range is clipped almost evenly on the high level side and the low level side as shown in FIG. Similarly, as the low-level unit as shown in (b) of FIG. 3 (2) for R -Y signal only (hatched portion) is prevented from being clipped, the diagram (2) (b) The clip range is shifted to the low level side as shown in.

この様にクリップ範囲を可変可能なクリップ回路の具体的な構成を図4に示す。図4において、27,31,33は夫々トランジスタであり、29は抵抗、35,37は夫々基準電圧源である。この様な回路構成において基準電圧源35,37の電圧E1,E2を夫々高レベルとすることにより、クリップ範囲を高レベル側にシフトすることができ、低レベルとすることにより、クリップ範囲を低レベル側にシフトすることができる。   A specific configuration of the clip circuit capable of changing the clip range in this way is shown in FIG. In FIG. 4, 27, 31, and 33 are transistors, 29 is a resistor, and 35 and 37 are reference voltage sources. In such a circuit configuration, by setting the voltages E1 and E2 of the reference voltage sources 35 and 37 to a high level, the clip range can be shifted to a high level, and by setting the voltage level to a low level, the clip range can be reduced. Shift to the level side.

一般に、測光出力が前述した様なレベルより高ければ屋外、即ち太陽光下もしくは曇天下での撮影であると予測でき、高色温度光に照らされていると確率が極めて高いため、この様なクリップレベル範囲の変更は、非常に高い確率でクリップ範囲が高レベル側と低レベル側でほぼ均等とすることができる。従って前述のごとき、高彩度の被写体の影響を効果的に除去することができる。   In general, if the photometric output is higher than the level described above, it can be predicted that the photo is taken outdoors, that is, under sunlight or in cloudy weather, and the probability is extremely high when illuminated by high color temperature light. The change of the clip level range can be made almost uniform between the high level side and the low level side with a very high probability. Therefore, as described above, it is possible to effectively remove the influence of a subject with high saturation.

一方、ステップS4においてLD>L0でなければ、ステップS6に進み、外光が室内光であると推測し、クリップ範囲を低色温度対応とする。具体的には図3(1)の(ハ)に示す様にR−Y信号についてはクリップ範囲を低レベル側にシフトし、図3(2)の(ハ)に示す様にB−Y信号についてはクリップ範囲を高レベル側にシフトする。これによって、同様にクリップ範囲が高レベル側と低レベル側でほぼ均等とすることができ、高彩度の被写体の影響を効果的に除去できる。   On the other hand, if LD> L0 is not satisfied in step S4, the process proceeds to step S6, where the external light is estimated to be room light, and the clip range is made compatible with the low color temperature. Specifically, as shown in (c) of FIG. 3 (1), for the RY signal, the clip range is shifted to the low level side, and as shown in (c) of FIG. For, shift the clip range to the higher level. As a result, similarly, the clip range can be made substantially equal on the high level side and the low level side, and the influence of the subject with high saturation can be effectively removed.

ステップS5もしくはステップS6において、クリップ範囲が決定した後、ステップS7において、A/D変換器17からのデジタル値YD,(R−Y)D,(B−Y)Dが読み込まれ、これらの値からマトリクス演算によりR,G,B各信号の値を導出する。   After the clip range is determined in step S5 or step S6, in step S7, the digital values YD, (RY) D, (BY) D are read from the A / D converter 17, and these values are read. The values of R, G and B signals are derived from the above by matrix calculation.

そして、ステップS8において、Rアンプ7の制御値であるRCDをa・R/G+bの式にて求め、同様にBアンプ9の制御値であるBCDをc・B/G+dの式により求める。こうして得られたデジタル値RCD,BCDはステップS9においてD/A変換器25に出力され、アナログの制御電圧RC,BCに変換され、Rアンプ7,Bアンプ9の利得が制御されホワイトバラン制御が行われる。   In step S8, the RCD that is the control value of the R amplifier 7 is obtained by the equation a · R / G + b, and the BCD that is the control value of the B amplifier 9 is similarly obtained by the equation c · B / G + d. The digital values RCD and BCD obtained in this way are output to the D / A converter 25 in step S9, converted to analog control voltages RC and BC, the gains of the R amplifier 7 and B amplifier 9 are controlled, and white balun control is performed. Done.

この様な処理は、電源スイッチPSWがオフされるまで繰り返し行われ、電源スイッチPSWがオフされると(ステップS10)処理を終了する。   Such a process is repeated until the power switch PSW is turned off, and when the power switch PSW is turned off (step S10), the process is terminated.

以上説明した様に、本発明の第1の実施例の撮像装置においては、外光の明るさに応じてP−Pクリップ回路13による各色差信号R−Y,B−Yのクリップ範囲を変更することにより、様々な環境下においてホワイトバランス制御に与える高彩度の被写体の影響を効果的に除去できる。   As described above, in the image pickup apparatus according to the first embodiment of the present invention, the clipping range of the color difference signals RY and BY by the PP clip circuit 13 is changed according to the brightness of external light. By doing so, it is possible to effectively remove the influence of a high-saturation subject on white balance control under various environments.

尚、上述の実施例においてはある明るさを境に2つのクリップ範囲を切り換える構成としたが、3以上のクリップ範囲を設定しこれらを選択する構成とし、クリップ範囲の変更点近傍における急激な色の変化を回避する構成とすることも可能である。また、同様にクリップ範囲の変更を徐々に所定の時定数をもたせて行うことも可能である。   In the above-described embodiment, the two clip ranges are switched with a certain brightness as a boundary, but three or more clip ranges are set and selected, and a sharp color near the change point of the clip range is selected. It is also possible to adopt a configuration that avoids this change. Similarly, it is possible to change the clip range gradually with a predetermined time constant.

(第2の実施例)
次の本発明の第2の実施例について説明する。本実施例の撮像装置の構成自体は上記第1の実施例と同様に図1に示す通りであり、詳細な説明は省略する。
(Second embodiment)
Next, a second embodiment of the present invention will be described. The configuration itself of the image pickup apparatus of the present embodiment is as shown in FIG. 1 as in the first embodiment, and detailed description thereof is omitted.

図5は本実施例におけるMPU19の動作を示すフローチャートであり、以下このフローチャートを用いて動作の説明を行う。図5のフローチャートにおいて、図2と同様のステップについては同一の符号を付す。   FIG. 5 is a flowchart showing the operation of the MPU 19 in this embodiment, and the operation will be described below using this flowchart. In the flowchart of FIG. 5, the same steps as those in FIG.

本実施例においては電源スイッチPSWがオンされた後、装置を立ち上げると共に読み込む初期値としては、第1の実施例にて説明したL0,a,b,c,d以外に、後述の測光出力の読み込み回数を示す定数m、及びフリッカの有無を検出するための基準値F0を読み込む(ステップS11)。   In the present embodiment, after the power switch PSW is turned on, the initial value to be read when the apparatus is started is not limited to L0, a, b, c, d described in the first embodiment, and will be described later. A constant m indicating the number of times of reading and a reference value F0 for detecting the presence or absence of flicker are read (step S11).

次にステップS12において変数nに1を置数し、ステップS3で測光出力であるデジタル値LDが読み込まれると、ステップS14においてこのデジタル値LDをLnに置数する。そして、ステップS15にてnとmとを比較し、n=mでなければnをn+1として(ステップS13)ステップS3に戻り、上記動作を繰り返す。   Next, in step S12, 1 is set in the variable n, and when the digital value LD which is the photometric output is read in step S3, the digital value LD is set in Ln in step S14. In step S15, n and m are compared. If n = m, n is set to n + 1 (step S13), the process returns to step S3, and the above operation is repeated.

そして、ステップS15にてn=mと判断された時点では、L1〜Lmに互いに時間差を有する測光出力であるデジタル値が置数された状態となる。ここで、ステップS16においてL1〜Lm中の最大値LMAXと最小値LMINを抽出し、更にL1〜Lmの平均値LAVEを算出する。そして、これらの値から更にLMAX+LMINをフリッカ量を示す値LFとして算出する。   When n = m is determined in step S15, a digital value, which is a photometric output having a time difference between L1 to Lm, is placed. Here, in step S16, the maximum value LMAX and the minimum value LMIN in L1 to Lm are extracted, and the average value LAVE of L1 to Lm is calculated. Then, LMAX + LMIN is further calculated as a value LF indicating the flicker amount from these values.

次に、ステップS18においてはLAVEをL0と比較する。このステップS18は前述第1の実施例のステップS4と同様の意味を持ち、LAVE>L0の場合においては第1の実施例と同様にステップS5においてP−Pクリップ回路13のクリップ範囲を高色温度対応とする。   Next, in step S18, LAVE is compared with L0. This step S18 has the same meaning as step S4 in the first embodiment. When LAVE> L0, the clip range of the PP clip circuit 13 is set to a high color in step S5 as in the first embodiment. Temperature support.

一方、ステップS18においてLAVE>L0ではないと判定された場合にはステップS19に進み、フリッカ量を示す値LFを基準値F0と比較する。ここで、LF>F0でない場合にはフリッカが存在しないと判断し、ステップS6に進みP−Pクリップ回路13のクリップ範囲を第1の実施例と同様に低色温度対応とする。   On the other hand, if it is determined in step S18 that LAVE> L0 is not satisfied, the process proceeds to step S19, and the value LF indicating the flicker amount is compared with the reference value F0. If LF> F0, it is determined that there is no flicker, and the process proceeds to step S6 where the clip range of the PP clip circuit 13 is made compatible with the low color temperature as in the first embodiment.

また、ステップS19においてLF>F0と判定された場合にはフリッカが存在すると判断し、この場合には光源が蛍光灯であると推定してP−Pクリップ回路13のクリップ範囲を蛍光灯対応とする。具体的には、蛍光灯を光源とした場合似の被写体光の特性に応じて、図3(1)(2)の(ニ)に示すようにR−Y,B−Yともクリップレベルを低レベル側にシフトする。これは蛍光灯の光が他の黒体放射近似光に比べ緑がかっているためである。   If it is determined in step S19 that LF> F0, it is determined that flicker exists. In this case, it is estimated that the light source is a fluorescent lamp, and the clip range of the PP clip circuit 13 is made compatible with the fluorescent lamp. To do. Specifically, when a fluorescent lamp is used as a light source, the clip levels of both RY and BY are lowered as shown in (d) of FIGS. Shift to the level side. This is because the fluorescent light is greener than other blackbody radiation approximate light.

ステップS7以降のホワイトバランス制御電圧の演算については第1の実施例と同様であり、ステップS9においてホワイトバランス制御のためのデジタル値RCD、BCDが出力される。   The calculation of the white balance control voltage after step S7 is the same as in the first embodiment, and digital values RCD and BCD for white balance control are output in step S9.

上述の実施例によれば、第1の実施例の効果に加え、外光が明るくない場合には屋内での撮影であると判断した上で、フリッカの有無を検出してこの屋内撮影時の光源が蛍光灯であるかそれ以外の光源であるかを検出し、比較的頻度の高い蛍光灯下の撮影においてもP−Pクリップ回路13による各色差信号R−Y,B−Yのクリップ範囲を高レベル側と低レベル側が均一にクリップされるように変更することができ、更に、様々な環境に対応可能となり、ホワイトバランス制御に高彩度の被写体の影響を与える可能性を更に低くできる。   According to the above-described embodiment, in addition to the effects of the first embodiment, when the outside light is not bright, it is determined that the image is taken indoors, and the presence or absence of flicker is detected to detect the indoor shooting. Whether the light source is a fluorescent lamp or other light source is detected, and the clipping range of each of the color difference signals RY and BY by the PP clip circuit 13 even in photographing under a relatively frequent fluorescent lamp Can be changed so that the high level side and the low level side are evenly clipped, and it is possible to cope with various environments and further reduce the possibility of the influence of a highly saturated subject on white balance control.

尚、上記第2の実施例においては、外交の明るさが低く、かつ、フリッカの存在が検出された時にのみ光源が蛍光灯であると推定したが、蛍光灯以外の屋内撮影の機会は少ないと考えられるのでフリッカの検出のみで、クリップ範囲を高色温度対応とするか蛍光灯対応とするかで切り換える構成とすることも当然可能である。   In the second embodiment, it is estimated that the light source is a fluorescent lamp only when the diplomatic brightness is low and the presence of flicker is detected. However, there are few opportunities for indoor shooting other than the fluorescent lamp. Therefore, it is naturally possible to adopt a configuration in which only the flicker is detected and the clip range is switched between high color temperature support and fluorescent lamp support.

(第3の実施例)
次の本発明の第3の実施例について説明する。本実施例の撮像装置の構成も上記第1の実施例と同様であり、図6は本実施例におけるMPU19の動作を示すフローチャートである。図6のフローチャートにおいて、図2と同様のステップについては同一の符号を付す。
(Third embodiment)
The third embodiment of the present invention will be described below. The configuration of the imaging apparatus of this embodiment is the same as that of the first embodiment, and FIG. 6 is a flowchart showing the operation of the MPU 19 in this embodiment. In the flowchart of FIG. 6, the same steps as those in FIG.

本実施例の撮像装置は前述の第1の実施例の撮像装置と同様に、ステップS4において外光がある明るさより明るいか暗いかを判定し、明るい場合にはP−Pクリップ回路13のクリップ範囲を高色温度対応にするのであるが、この時第1の実施例とはホワイトバランス制御値RCD及びBCDの算出方法を変える。   In the same manner as the image pickup apparatus of the first embodiment, the image pickup apparatus of the present embodiment determines in step S4 whether the external light is brighter or darker than a certain brightness, and if it is bright, the clip of the PP clip circuit 13 is determined. The range is made compatible with the high color temperature. At this time, the calculation method of the white balance control values RCD and BCD is changed from that of the first embodiment.

即ち、本実施例においては電源スイッチPSWがオンされた直後の初期値読み込み過程(ステップS21)において前述のa,b,c,d以外に、ホワイトバランス制御電圧導出時の演算式に用いる値としてe,f,g,hを読み込み、ステップS4において外光がある明るさより明るいと判断された場合には、ステップS5においてP−Pクリップ回路13のクリップ範囲を高色温度対応にし、ステップS22ではYD,(R−Y)D,(B−Y)Dから、R,Bをそれぞれ導出する。ここで、この導出は、例えばR=YD+(R−Y)D,B=YD+(B−Y)Dとすればよい。   That is, in this embodiment, in the initial value reading process (step S21) immediately after the power switch PSW is turned on, in addition to the a, b, c, and d described above, the values used for the arithmetic expression when deriving the white balance control voltage are used. When e, f, g, and h are read and it is determined in step S4 that the external light is brighter than a certain brightness, the clipping range of the PP clip circuit 13 is made to correspond to the high color temperature in step S5, and in step S22. R and B are derived from YD, (R−Y) D, and (B−Y) D, respectively. Here, this derivation may be, for example, R = YD + (R−Y) D and B = YD + (B−Y) D.

更に、ステップS23においてはこのR,Bを用いて、Rアンプ7の制御値であるRCDをe・R/B+fの式にて求め、同様にBアンプ9の制御値であるBCDをg・R/B+hの式により求める。このようにR,Bのみを用いてホワイトバランス制御を行うと、色の補正方向は黒体放射光の色温度変化方向のみとなる。そのため、ホワイトバランスの制御に因する色温度変化に対応しない色ずれ、即ち緑色化、紫色化などの目障りな色ずれの発生が防止できる。   In step S23, R and B are used to obtain RCD, which is the control value of the R amplifier 7, using the equation e · R / B + f. Similarly, BCD, which is the control value of the B amplifier 9, is obtained as g · R. It is determined by the formula / B + h. When white balance control is performed using only R and B in this way, the color correction direction is only the color temperature change direction of the black body radiation. Therefore, it is possible to prevent the occurrence of a color shift that does not correspond to the color temperature change caused by the white balance control, that is, an obtrusive color shift such as greening or purpleening.

一方、ステップS4において外光がある明るさより明るくないと判断された場合には、ステップS6においてP−Pクリップ回路13のクリップ範囲を低色温度対応にし、ステップS7,S8において第1の実施例と同様の手法でホワイトバランス制御値であるRCD,BCDを算出する。この算出法は、前述の様にRCDをa・R/G+bの式にて求め、BCDをc・B/G+dの式により求めるので色温度変化方向以外の方向についても色補正が可能である。   On the other hand, if it is determined in step S4 that the external light is not brighter than a certain brightness, the clipping range of the PP clip circuit 13 is made to correspond to the low color temperature in step S6, and the first embodiment is performed in steps S7 and S8. The white balance control values RCD and BCD are calculated in the same manner as in FIG. In this calculation method, as described above, RCD is obtained by the equation a · R / G + b and BCD is obtained by the equation c · B / G + d. Therefore, color correction can be performed in directions other than the color temperature change direction.

即ち、外光が暗い場合には蛍光灯等の様々な光源下の撮影が考えられ、この光源光の色の変化、例えば蛍光灯の場合には緑がかった色に対応したホワイトバランスの制御を行う必要があり、上述の如く色温度変化方向以外の方向についても色補正を行う必要があるが、外光が明るい場合には光源光をほぼ太陽光であると推定でき、この場合には色温度変化方向以外の方向についての色補正は殆ど必要がなく、むしろ前述した被写体の影響による目障りな色ずれが発生することが問題となる。   In other words, when the outside light is dark, shooting under various light sources such as fluorescent lamps can be considered. For example, in the case of a fluorescent lamp, white balance control corresponding to the greenish color is controlled. It is necessary to perform color correction in directions other than the color temperature change direction as described above. However, when the external light is bright, it can be estimated that the light source light is almost sunlight. There is almost no need for color correction in directions other than the temperature change direction. Rather, there is a problem in that an unpleasant color shift due to the influence of the subject described above occurs.

従って、本実施例によれば蛍光灯下の撮影においても良好にホワイトバランスの補正ができ、且、屋外の撮影に際しては目障りな色ずれの発生を防止することができる。   Therefore, according to the present embodiment, white balance can be corrected satisfactorily even when photographing under a fluorescent lamp, and an unsightly color shift can be prevented when photographing outdoors.

尚、本実施例においては外光がある明るさにより、P−Pクリップ回路13のクリップ範囲を変更しているが、このクリップレベルの変更を行わなくとも蛍光灯下の撮影においても良好にホワイトバランスの補正ができ、且、屋外の撮影に際しては目障りな色ずれの発生を防止するという効果は得られる。   In the present embodiment, the clipping range of the PP clip circuit 13 is changed depending on the brightness of the outside light. However, even when shooting under a fluorescent lamp is performed without changing the clipping level, the white range is excellent. The balance can be corrected, and the effect of preventing an unsightly color shift can be obtained in outdoor shooting.

また、上述の実施例においてはある明るさを境にホワイトバランスの制御値の演算方法を切り換えたが、急激な色の変化を回避するため、制御値の変更を徐々に所定の時定数をもたせて行うことも可能である。   In the above embodiment, the calculation method of the white balance control value is switched at a certain brightness. However, in order to avoid a sudden color change, the control value is gradually changed to have a predetermined time constant. It is also possible to do this.

(第4の実施例)
次の本発明の第4の実施例について説明する。本実施例の撮像装置の構成も上記第1の実施例と同様であり、図7は本実施例におけるMPU19の動作を示すフローチャートである。図7のフローチャートにおいて、図2,図5,図6と同様のステップについては同一の符号を付す。
(Fourth embodiment)
Next, a fourth embodiment of the present invention will be described. The configuration of the imaging apparatus of this embodiment is the same as that of the first embodiment, and FIG. 7 is a flowchart showing the operation of the MPU 19 in this embodiment. In the flowchart of FIG. 7, the same steps as those in FIGS. 2, 5, and 6 are denoted by the same reference numerals.

本実施例では外光の明るさを上述第2の実施例と同様の手法にてLAVEを算出することにより判定し、また、LF(=LMAX−LMIN)からフリッカの有無を判定する。本実施例においても、上記第2の実施例と同様に、P−Pクリップ回路13のクリップ範囲を高色温度対応、低色温度対応、更には蛍光灯対応の3つで選択する。   In this embodiment, the brightness of external light is determined by calculating LAVE in the same manner as in the second embodiment, and the presence / absence of flicker is determined from LF (= LMAX-LMIN). Also in this embodiment, as in the second embodiment, the clip range of the PP clip circuit 13 is selected from three for high color temperature, low color temperature, and fluorescent lamp.

また、ステップS19にてフリッカの検出がなされた場合にのみ、RCD,BCDをa・R/G+b,c・B/G+dの式にて求めて色温度変化方向以外の方向についての色補正を行い得る様にし、他の場合にはRCD,BCDをe・R/B+f,g・R/B+hの式により求め色温度変化方向以外の方向についての色補正を行わない様にしている。このように構成することによって、より正確に色温度変化方向以外の方向についての色補正の必要性を判定することができ、より多くの機会において色温度変化方向以外の無用な色補正による色ずれの発生を防止することができる。   Also, only when flicker is detected in step S19, RCD and BCD are obtained by the formulas a · R / G + b and c · B / G + d, and color correction is performed in directions other than the color temperature change direction. In other cases, RCD and BCD are obtained from the equations e · R / B + f and g · R / B + h, and color correction is not performed in directions other than the color temperature change direction. With this configuration, it is possible to more accurately determine the necessity of color correction in a direction other than the color temperature change direction, and in more opportunities, color misregistration due to unnecessary color correction other than the color temperature change direction. Can be prevented.

尚、上記各実施例においては測光センサ21を用いて外光の明るさを測定していたが、撮影入光量を定する絞りの値やシャッター速度から該光量を判定しこれを測光出力とすることも可能であり、この場合には測光センサーを別途設けなくても本発明を実現することができる。 The above had to measure the brightness of the outside light by using a photometric sensor 21 in each of the embodiments, taken determines the light amount from the aperture value and shutter speed determines the input morphism amount which photometric output In this case, the present invention can be realized without providing a photometric sensor separately.

また、上記各実施例の手法は、撮像装置としてはムービーカメラ、電子スチルカメラいずれに対しても適用可能なものであるが、電子スチルカメラに適用する場合には、本出願人が先に出願した特願平1−255507号に開示の様に、静止画撮影時(本露光時)のホワイトバランス制御を静止画撮影に先立つ露光時(プリ露光時)に行うものとし、上記測光からホワイトバランス制御値算出に至るステップを上記プリ露光時に行う様にすればよい。   The methods of the above embodiments can be applied to both a movie camera and an electronic still camera as an image pickup apparatus. However, when applied to an electronic still camera, the present applicant applies first. As disclosed in Japanese Patent Application No. 1-255507, white balance control during still image shooting (main exposure) is performed during exposure (pre-exposure) prior to still image shooting. What is necessary is just to make it perform the step which leads to control value calculation at the time of the said pre-exposure.

本発明の実施例の撮像装置の構成を示すブロック図である。It is a block diagram which shows the structure of the imaging device of the Example of this invention. 本発明の第1の実施例の撮像装置の動作を説明するためのフローチャートである。3 is a flowchart for explaining the operation of the imaging apparatus according to the first embodiment of the present invention. 本発明の実施例の撮像装置によるクリップ範囲の変更動作を説明するための波形図である。It is a wave form diagram for demonstrating the change operation | movement of the clip range by the imaging device of the Example of this invention. 図1中のP−Pクリップ回路の具体的な構成を示す図である。It is a figure which shows the specific structure of the PP clip circuit in FIG. 本発明の第2の実施例の撮像装置の動作を説明するためのフローチャートである。It is a flowchart for demonstrating operation | movement of the imaging device of 2nd Example of this invention. 本発明の第3の実施例の撮像装置の動作を説明するためのフローチャートである。It is a flowchart for demonstrating operation | movement of the imaging device of the 3rd Example of this invention. 本発明の第4の実施例の撮像装置の動作を説明するためのフローチャートである。It is a flowchart for demonstrating operation | movement of the imaging device of the 4th Example of this invention. クリップ範囲の不均一を説明するための波形図である。It is a wave form diagram for demonstrating the nonuniformity of a clip range.

符号の説明Explanation of symbols

1 光学系
3 撮像素子
5 色分離回路
7,9 可変利得アンプ
8a,8b クランプ回路
9a,9b クリップ回路
11 プロセス回路
13 クリップ回路
15 積分回路
17,23 アナログ−デジタル(A/D)変換器
19 マイクロプロセッシングユニット(MPU)
21 測光センサ
25 デジタル−アナログ(D/A)変換器
PSW 電源スイッチ
DESCRIPTION OF SYMBOLS 1 Optical system 3 Image pick-up element 5 Color separation circuit 7, 9 Variable gain amplifier 8a, 8b Clamp circuit 9a, 9b Clip circuit 11 Process circuit 13 Clip circuit 15 Integration circuit 17, 23 Analog-digital (A / D) converter 19 Micro Processing unit (MPU)
21 Photometric sensor 25 Digital-to-analog (D / A) converter PSW Power switch

Claims (4)

光学系と撮像素子とを含む撮像手段を有する撮像装置において、In an imaging apparatus having an imaging means including an optical system and an imaging element,
前記撮像手段の出力から得た複数種の色差信号の振幅成分をクリップするクリップ手段と、Clip means for clipping amplitude components of a plurality of types of color difference signals obtained from the output of the imaging means;
前記クリップ手段の出力を用いて、前記撮像手段の出力から得た信号のホワイトバランUsing the output of the clip means, a white balun of the signal obtained from the output of the imaging means
スを制御するホワイトバランス制御手段と、White balance control means for controlling
撮像手段におけるシャッタ速度に応じて前記クリップ手段のクリップ範囲を変更するクリップ変更手段と、Clip changing means for changing the clip range of the clip means according to the shutter speed in the imaging means;
を有することを特徴とする撮像装置。An imaging device comprising:
光学系と撮像素子とを含む撮像手段を有する撮像装置において、In an imaging apparatus having an imaging means including an optical system and an imaging element,
前記撮像手段の出力から得た複数種の色差信号の振幅成分をクリップするクリップ手段と、Clip means for clipping amplitude components of a plurality of types of color difference signals obtained from the output of the imaging means;
前記クリップ手段の出力を用いて、前記撮像手段の出力から得た信号のホワイトバランUsing the output of the clip means, a white balun of the signal obtained from the output of the imaging means
スを制御するホワイトバランス制御手段と、White balance control means for controlling
撮像手段における絞りの値に応じて前記クリップ手段のクリップ範囲を変更するクリップ変更手段と、Clip changing means for changing the clip range of the clip means according to the aperture value in the imaging means;
を有することを特徴とする撮像装置。An imaging device comprising:
請求項1又は2において、前記変更手段は、光量が所定のレベルより大きければ、前記クリップ手段のクリップ範囲を高色温度対応のクリップ範囲に変更することを特徴とする撮像装置。3. The image pickup apparatus according to claim 1, wherein the changing unit changes the clip range of the clip unit to a clip range corresponding to a high color temperature when the amount of light is larger than a predetermined level. 請求項1又は2において、前記変更手段は、光量が所定のレベルより小さければ、前記クリップ手段のクリップ範囲を低色温度対応のクリップ範囲に変更することを特徴とする撮像装置。3. The imaging apparatus according to claim 1, wherein the changing unit changes the clip range of the clip unit to a clip range corresponding to a low color temperature if the light amount is smaller than a predetermined level.
JP2005004071A 2005-01-11 2005-01-11 Imaging device Expired - Fee Related JP3913251B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005004071A JP3913251B2 (en) 2005-01-11 2005-01-11 Imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005004071A JP3913251B2 (en) 2005-01-11 2005-01-11 Imaging device

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP00755292A Division JP3666881B2 (en) 1992-01-20 1992-01-20 Imaging device

Publications (2)

Publication Number Publication Date
JP2005137025A JP2005137025A (en) 2005-05-26
JP3913251B2 true JP3913251B2 (en) 2007-05-09

Family

ID=34651103

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005004071A Expired - Fee Related JP3913251B2 (en) 2005-01-11 2005-01-11 Imaging device

Country Status (1)

Country Link
JP (1) JP3913251B2 (en)

Also Published As

Publication number Publication date
JP2005137025A (en) 2005-05-26

Similar Documents

Publication Publication Date Title
JP5007523B2 (en) Imaging apparatus and program thereof
JP4187004B2 (en) Imaging apparatus and exposure control method for imaging apparatus
US7081920B2 (en) Illumination light color estimating method of obtaining white balance and image sensing apparatus
JP3666881B2 (en) Imaging device
KR100967091B1 (en) Method for adjusting white balance of digital image device
US20090284616A1 (en) Image signal processing circuit
US6650443B1 (en) Apparatus and method for reading image, and computer-readable storage medium storing image processing program
JP3913251B2 (en) Imaging device
JP2006135601A (en) Imaging apparatus
JP4887680B2 (en) White balance adjusting device and white balance adjusting method
JPH08280041A (en) Image pickup device
JP4396225B2 (en) White balance control device and electronic device
JP2010028366A (en) Electronic camera, camera system and light flashing unit
JP3862740B2 (en) Imaging device
JP3809211B2 (en) Imaging device
KR20100019222A (en) Method and apparatus for controlling automatic white balance using optical sensor, and digital photographing apparatus using thereof
JP2007036714A (en) Imaging apparatus
JP4458114B2 (en) Imaging device
KR100531858B1 (en) Auto white valance apparatus for display apparatus
JP4465807B2 (en) White balance adjustment circuit, television camera apparatus including the same, and white balance adjustment method
JP2006050085A (en) Image processing apparatus and imaging apparatus
JPH10136390A (en) Image pickup device
JP2002118787A (en) Exposure controller, image signal generator, medium, and information aggregate
JPH09172563A (en) Video camera
KR20070025136A (en) Method for compensating digital gain in cmos image sensor

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050111

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20051014

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20051018

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051219

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20060117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060314

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20061213

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070130

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100209

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110209

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees