JP2008211463A - Imaging apparatus, method for processing imaging, and computer program - Google Patents
Imaging apparatus, method for processing imaging, and computer program Download PDFInfo
- Publication number
- JP2008211463A JP2008211463A JP2007045522A JP2007045522A JP2008211463A JP 2008211463 A JP2008211463 A JP 2008211463A JP 2007045522 A JP2007045522 A JP 2007045522A JP 2007045522 A JP2007045522 A JP 2007045522A JP 2008211463 A JP2008211463 A JP 2008211463A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- image
- imaging
- load fluctuation
- cpu
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P20/00—Technologies relating to chemical industry
- Y02P20/50—Improvements relating to the production of bulk chemicals
- Y02P20/52—Improvements relating to the production of bulk chemicals using catalysts, e.g. selective catalysts
Abstract
Description
本発明は、撮像装置、撮像処理方法、及びコンピュータプログラムに関し、特に、撮像信号に対する処理の基準となる基準電位をクランプするために用いて好適なものである。 The present invention relates to an imaging apparatus, an imaging processing method, and a computer program, and is particularly suitable for clamping a reference potential that is a reference for processing on an imaging signal.
従来から、被写体の階調を忠実に再現するために、撮像信号に含まれるOB(Optical Black)領域の電圧レベル(黒レベル)を基準電位としてクランプし、その基準電位を基準として撮像信号を処理する技術が提案されている(特許文献1を参照)。図6に、従来の撮像装置のブロック図を示す。
図6において、撮像装置は、レンズ602、絞り兼用シャッタ601、駆動部603、撮像素子604、撮像電源605、バッファ606、コンデンサ607、CDS608、A/D変換器609、及びタイミングジェネレータ(TG)610を有する。
駆動部603は、レンズ602と、絞り兼用シャッタ601とを駆動するためのものである。撮像素子604は、例えばCCD(Charge Coupled Devices)である。バッファ606は、撮像素子604からの出力を増幅するためのものである。コンデンサ607は、撮像素子604からの出力に含まれる直流成分をカットするためのものである。CDS(Correlated Double Sampling)606は、撮像素子604からの出力に対して、相関二重サンプリングを行うためのものである。
Conventionally, in order to faithfully reproduce the gradation of an object, the voltage level (black level) of the OB (Optical Black) area included in the image signal is clamped as a reference potential, and the image signal is processed using the reference potential as a reference. A technique has been proposed (see Patent Document 1). FIG. 6 shows a block diagram of a conventional imaging apparatus.
In FIG. 6, the imaging apparatus includes a
The
撮像装置は、以上のようなアナログ部の他に、CPU611、バス612、ROM613、RAM614、操作部615、表示部616、及び記録部617を有する。
CPU611は、撮像装置全体を統括制御するためのものであり、ROM613に記録されている制御プログラムを、RAM614をワークエリアとして用いる等して実行する。バス612は、バス612に接続された装置間で、データのやり取りを行うためのものである。操作部615は、撮像装置を操作するためにユーザが使用するものである。表示部616は、撮影された映像や、記録部617から読み出された映像を表示する。記録部617は、映像信号を記録するための記録媒体である。
The imaging apparatus includes a
The
図6に示す撮像装置は、ユーザによる操作部615の操作にしたがって、映像の撮影・記録を行う機能と、記録された映像の再生を行う機能とを持っている。これらの機能は、CPU611が、ROM613内に記録された制御プログラムに従って動作することで実現可能となっている。撮像装置は、動作モードとして、静止画撮影モード、動画撮影モード、及び再生モードの3つを持っている。
The imaging apparatus shown in FIG. 6 has a function for capturing and recording video and a function for reproducing recorded video in accordance with an operation of the
ここで、静止画撮影モードである場合の撮像装置の動作について述べる。
静止画撮影モードでは、まず、表示部616は、静止画撮影前のフレーミング動作のために、ライブ(live)の動画像を表示する。CPU611は、TG610、CDS608、及びA/D変換器609を駆動するための同期信号を出力する。この同期信号に従って、TG610は、撮像素子604を駆動し、撮像素子604から映像信号を出力させる。撮像素子604の駆動レートは、表示部616での動画対応レートに対応した駆動速度(例えば30フィールド/sec)になっている。ライブの動画像を表示しているときの撮影系の感度は、露光時間による制限がある。このため、ライブの動画像を表示しているときの撮影系の感度は、実際に静止画像を撮影しているときの撮影系の感度と異なる場合もある。
Here, the operation of the imaging apparatus in the still image shooting mode will be described.
In the still image shooting mode, first, the
レンズ602により撮像素子604に結像された映像は、光電変換により電荷に変換される。光電変換された電荷は、TG610の駆動に従って、撮像素子604が備えているアンプにより、電圧信号に変換されて出力される。撮像素子604から出力された電圧信号は、トランジスタ等の外部のバッファ606により増幅される。バッファ606で増幅された電圧信号は、コンデンサ607により直流成分がカットされた後、CDS608に入力される。
An image formed on the image sensor 604 by the
CDS608は、撮像素子604から出力された電圧信号に含まれるOB(Optical Black)部分のレベルを基準電位としてサンプル/ホールド(Sample/Hold)処理を行って得たアナログ信号に、予め設定されたゲインを掛けて出力する。CDS608から出力されたアナログ信号は、A/D変換器609へ送られる。A/D変換器609は、アナログ信号を任意のサンプリングレートでデジタル信号へ変換し、CPU611へ送信する。
The CDS 608 uses a gain set in advance for an analog signal obtained by performing a sample / hold process using the level of an OB (Optical Black) portion included in the voltage signal output from the image sensor 604 as a reference potential. Multiply and output. The analog signal output from the
CPU611は、デジタル信号となった映像信号を、RAM614の任意の領域に記録していく。この動作と並行してCPU611は、デジタル信号となった映像信号に基づいて表示用データの作成し、作成した表示用データに基づくライブの動画像を表示部616に表示させる。具体的に説明すると、RAM614に記録された映像信号は、表示系に同期した任意のレートで順次読み出された後、撮像素子604における映像信号形式から表示用の画素数・映像信号形式に変換され、表示部616へ順次送られる。そして、表示部616は、ユーザが見ることができるように、ライブの動画像を表示する。RAM614に記録された映像信号のうち、表示された映像信号は、順次新しい映像信号に上書きされる。
The
その後、操作部615に設けられたレリーズスイッチ(SW)がユーザによって押されると、CPU611は、ライブの動画像の表示を中断させる。そして、CPU611は、記録用の静止画像を撮影するための処理を行う。記録用の静止画像を撮影ための駆動条件は、ライブの動画像を撮影ための駆動条件とは異なり、静止画像用の駆動条件・波形にて撮像素子604の駆動と、露光された画像信号の読み出しとが行われる。静止画像を撮影するときの動作は以下のようになる。
Thereafter, when a release switch (SW) provided on the
まず、CPU611は、現在の状態で、AF(Auto Focus)・AE(Automatic Exposure)動作を行う。また、CPU611は、設定されている撮影条件(露光時間・絞り値・感度等)に基づいて撮影パラメータを決定する。撮影パラメータが決定された後、CPU611は、駆動部603を制御して、絞り兼用シャッタ601を閉じる。これにより、撮像素子604は遮光され、撮像素子604に蓄積されている余分な電荷の吐き出しが行われる。そして、CPU611は、本露光のための撮影パラメータを、TG610、CDS698、A/D変換器609に設定する。
First, the
以上のようにして撮影準備が完了した後、CPU611は、駆動部603を制御して、任意のタイミングで絞り兼シャッタ601を開く。これにより、撮像素子604に被写体映像が露光される。設定された露光時間が経過した後、CPU611は、駆動部603を制御して、絞り兼シャッタを再度閉じる。これにより、本露光データの読み出しが開始される。
After completing the preparation for shooting as described above, the
CPU611は、TG610に対して、本露光読み出しのための設定を行う。そして、CPU611は、同期信号をTG610に送り、本露光された電荷の読み出しを開始する。TG610は、撮像素子604に対して、垂直転送パルス、水平転送パルス、及びリセットゲートパルスを送ることにより、撮像素子604を駆動する。撮像素子604で光電変換された電荷は、TG610の駆動に従って、撮像素子604が備えているアンプにより、電圧信号に変換されて出力される。これにより、光電変換された電荷(被写体映像)が、電圧信号として複数フィールドに渡って読み出される。
The
撮像素子604から読み出された電圧信号は、バッファ606により増幅された後に、コンデンサ607により直流成分がカットされ、CDS608へ送られる。CDS608は、電圧信号に含まれるOB部分のレベルを基準電位としてサンプル/ホールド(Sample/Hold)処理を行って得たアナログ信号に、予め設定されたゲインを掛けて出力する。CDS608から出力されたアナログ信号は、A/D変換器609によりデジタル信号に変換された後に、CPU611へ送られる。CPU611は、入力したデジタル信号を、本露光時の画像データとしてRAM614の任意の領域に記録する。
The voltage signal read from the image sensor 604 is amplified by the
本露光時における複数フィールド全ての画像データの記録が終わった後に、CPU611は現像処理を行う。複数フィールドの画像信号を1枚の静止画像データとするために、CPU611は、RAM614に記録されている画像データを任意の順序で読み出し、読み出した画像データに対して、フィルタ処理、色変換演算処理、ガンマ処理、及び圧縮処理を行う。CPU611は、記録フォーマットに従うためのヘッダデータを追加する等の処理を行った後に、このようにして得られた静止画像データを、本露光時の画像データが記録された領域とは別のRAM614の領域に記録する。
After the recording of the image data of all the fields in the main exposure is completed, the
RAM614に記録された静止画像データは、CPU611により、記録部617に設けられた記録媒体に記録する。静止画像データが記録部617に記録された後、CPU611は、その記録された静止画像データを読み出し、その静止画像データの解像度を、表示部616に適した解像度となるように変換した後、その解像度が変換された静止画像データを表示部616へ送る。これにより表示部616は、撮影された静止画像データを表示する。
Still image data recorded in the
撮影された静止画像データの表示から一定時間が経過した後、CPU611は、ライブの動画像を表示するモードへ再度移行する。そうすると、本露光が終了したときに閉じた絞り兼用シャッタ601が開いて露光が開始し、撮像素子604から、ライブの動画像の映像信号が読み出される。そして、読み出された映像信号は、前述したようにして、RAM614に記録され、任意の画像処理が行われた後に表示部616へ送られる。これにより、表示部616は、ライブの動画像を再度表示する。
After a certain period of time has elapsed from the display of the captured still image data, the
しかしながら、従来の技術では、撮像素子604の高画素化・高感度化が進んだ場合、撮像装置の高感度化へ対応することが困難になっている。特に電源の変動に対応することが難しくなってきている。例えば、撮像素子604の飽和電荷出力が500mVである場合であって、感度を4段上げて撮影する場合、撮像素子604の出力は62.5mVとなる。そうすると、トランジスタを用いて構成されるバッファ606やCDS608の電源等の影響が避けられなくなる。トランジスタの電源が例えば12Vの場合、撮像素子604の負荷変動による電源のゆれが1%であっても、電源のゆれは120mVとなる。このような電源の変動の時間が、例えば、撮像素子604の駆動期間以上である場合には、撮像素子604の駆動期間と休止期間との切り替わり時にOB領域に与える影響が避けられなくなっている。
However, in the conventional technique, when the image sensor 604 has a higher pixel and higher sensitivity, it is difficult to cope with the higher sensitivity of the imaging device. In particular, it has become difficult to cope with fluctuations in the power source. For example, in the case where the saturation charge output of the image sensor 604 is 500 mV, and the sensitivity is increased by four steps, the output of the image sensor 604 is 62.5 mV. As a result, the influence of the power source of the
また、撮像素子604の高画素化は、撮像素子604の駆動時の消費電流の増加と駆動周波数の上昇とに繋がる。特に、撮像素子604の水平方向のドライブ電流については、同時に駆動するセルが増加することから、駆動時の消費電流と休止時の消費電流との差が顕著になる。
以上のような撮像素子604の負荷変動の増大に対応し、且つ上昇する撮像素子604の駆動周波数にも対応することが可能な精度と反応速度とを持った電源を用意することは、回路規模の大幅な増大と効率の低下とに繋がる。また、このような電源を用意することは、コストの面からも困難である。
本発明は、このような問題点に鑑みてなされたものであり、撮像素子における負荷変動が撮像信号に与える影響を低減することを目的とする。
In addition, the increase in the number of pixels of the image sensor 604 leads to an increase in current consumption during driving of the image sensor 604 and an increase in drive frequency. In particular, with respect to the horizontal drive current of the image sensor 604, the number of cells that are driven simultaneously increases, so that the difference between the current consumption during driving and the current consumption during sleep becomes significant.
Providing a power supply with accuracy and reaction speed that can cope with the increase in load fluctuation of the image sensor 604 as described above and can also cope with the driving frequency of the image sensor 604 that rises is a circuit scale. Lead to a significant increase in efficiency and a decrease in efficiency. In addition, it is difficult to prepare such a power supply from the viewpoint of cost.
The present invention has been made in view of such problems, and an object thereof is to reduce the influence of load fluctuations in an image sensor on an image signal.
本発明の撮像装置は、撮像素子と、前記撮像素子における負荷変動を反映した負荷変動反映画像信号を、本露光の前に取得する負荷変動反映画像信号取得手段と、前記撮像素子に本露光された被写体像に基づく撮像信号を、前記負荷変動反映画像信号を用いて補正する撮像信号補正手段とを有することを特徴とする。 The image pickup apparatus of the present invention is subjected to main exposure to the image pickup element, load fluctuation reflected image signal acquisition means for acquiring a load fluctuation reflected image signal reflecting the load fluctuation in the image pickup element, and main exposure. Imaging signal correction means for correcting an imaging signal based on the subject image using the load fluctuation reflected image signal.
本発明の撮像処理方法は、撮像素子における負荷変動を反映した負荷変動反映画像信号を、本露光の前に取得する負荷変動反映画像信号取得ステップと、前記撮像素子に本露光された被写体像に基づく撮像信号を、前記負荷変動反映画像信号を用いて補正する撮像信号補正ステップとを有することを特徴とする。 The imaging processing method of the present invention includes a load fluctuation reflected image signal acquisition step for acquiring a load fluctuation reflected image signal reflecting a load fluctuation in an image sensor before a main exposure, and a subject image that has been main exposed to the image sensor. And an imaging signal correction step of correcting an imaging signal based on the imaging signal using the load fluctuation reflected image signal.
本発明のコンピュータプログラムは、撮像素子における負荷変動を反映した負荷変動反映画像信号を、本露光の前に取得する負荷変動反映画像信号取得ステップと、前記撮像素子に本露光された被写体像に基づく撮像信号を、前記負荷変動反映画像信号を用いて補正する撮像信号補正ステップとをコンピュータに実行させることを特徴とする。 The computer program according to the present invention is based on a load fluctuation reflected image signal acquisition step for acquiring a load fluctuation reflected image signal reflecting a load fluctuation in the image sensor before the main exposure, and a subject image that has been main exposed to the image sensor. An image pickup signal correction step for correcting the image pickup signal using the load fluctuation reflected image signal is executed by a computer.
本発明では、撮像素子における負荷変動を反映した負荷変動反映画像信号に基づいて、本露光された被写体像に基づく撮像信号を補正した。したがって、撮像素子における負荷変動が撮像信号に与える影響を低減することができる。 In the present invention, the imaging signal based on the subject image subjected to the main exposure is corrected based on the load variation reflecting image signal reflecting the load variation in the image sensor. Therefore, it is possible to reduce the influence of the load fluctuation in the image sensor on the image signal.
(第1の実施形態)
以下に、図面を参照しながら、本発明の第1の実施形態について説明する。尚、以下の説明において、前述した図6と同一の部分についての詳細な説明を適宜省略する。
図1は、撮像装置の構成の一例を示すブロック図である。撮像装置は、絞り兼用シャッタ201、レンズ202、駆動部203、撮像素子204、撮像電源205、バッファ回路206、コンデンサ207、A/D変換器215、及びタイミングジェネレータ(TG)216を備えている。また、撮像装置は、CPU217、システムバス219、ROM220、RAM221、操作部222、表示部223、及び記録部224を備えている。
(First embodiment)
Hereinafter, a first embodiment of the present invention will be described with reference to the drawings. In the following description, detailed description of the same parts as those in FIG.
FIG. 1 is a block diagram illustrating an example of the configuration of the imaging apparatus. The imaging apparatus includes an aperture / shutter 201, a
絞り兼用シャッタ201は、撮像素子204への露光と遮光とを制御するためのものである。レンズ202は、被写体映像を撮像素子204上に結像するためのものである。駆動部203は、焦点距離を調整するために、レンズ202の駆動と、絞り兼用シャッタ201に設けられている絞りの駆動とを行う。撮像素子204は、例えばCCDを有し、被写体像を結像し、結像した被写体像を光電変換する。
The aperture / shutter 201 is for controlling exposure to the
撮像電源205は、撮像素子204及びバッファ回路206に電力を供給するためのものである。バッファ回路206は、撮像素子204から出力された信号を増幅するためのものであり、トランジスタを用いて構成される。コンデンサ207は、撮像素子204から出力された信号に含まれる直流成分をカットするためのものである。CDS回路209は、撮像素子204から出力された信号に対して、相関二重サンプリングを行うためのものである。A/D変換器215は、CDS回路209から出力されたアナログ信号をデジタル信号に変換するためのものである。TG216は、撮像素子204等を駆動するためのものである。
The imaging power supply 205 is for supplying power to the
CPU217は、撮像装置全体を統括制御するためのものであり、ROM613に記録されている制御プログラムを、RAM614をワークエリアとして用いる等して実行する。システムバス219は、システムバス219に接続された装置間で、データのやり取りを行うためのものである。ROM220は、制御プログラムやデータを格納する。RAM221は、データを一時的に記憶したり、データのワークエリアとなったりする。操作部222は、ユーザが機器を操作するために使用するものである。表示部223は、撮影された映像や、記録部224から読み出された映像を表示する。記録部224は、映像信号を記録するための記録媒体である。
The
本実施形態の撮像装置は、以上の構成に加えて、比較器208、CDS回路209、オフセット加算器210、PGA部211、S/H(サンプル/ホールド)回路212、積分アンプ213、参照電源214、及びD/A変換器218を有する。
In addition to the above configuration, the imaging apparatus according to the present embodiment includes a comparator 208, a
本実施形態の撮像装置は、動作モードとして、静止画撮影モード、動画撮影モード、及び再生モードの3つを持っている。また、本実施形態の撮像装置は、ユーザによる操作部222の操作にしたがって、静止画像の撮影・記録を行う機能と、記録された静止画像の再生を行う機能とを持っている。これらの機能は、ROM220に記録された制御プログラムをCPU217が順次実行することにより実現される。更に、本実施形態の撮像装置では、静止画像の撮影時に、感度を自由に設定することが可能である。
The imaging apparatus of the present embodiment has three operation modes: a still image shooting mode, a moving image shooting mode, and a playback mode. In addition, the imaging apparatus according to the present embodiment has a function of capturing and recording a still image and a function of reproducing the recorded still image according to the operation of the
まず、静止画像を撮影するときの本実施形態の撮像装置における動作の一例について述べる。まず、撮影時の感度が、相対的に低感度の場合について述べる。
静止画撮影モードでは、撮影前のライブの動画像を表示する。ライブの動画像を表示する場合、撮像装置は、表示コマ速度が30コマ/秒となるような表示画像を生成する制御を行う。
CPU217は、絞り兼用シャッタ201に設けられているシャッタを開き、ライブの動画像を表示するための設定を、TG216、CDS回路209、PGA部211、比較器208、及びA/D変換器215に対して行う。その後、CPU217は、任意の周期の同期信号をTG216に送る。この同期信号に従って、TG216は、撮像素子204を駆動するための駆動信号を、駆動信号線225を介して撮像素子204に送信する。これにより、撮像素子204に結像された被写体映像が光電変換されることにより得られた電気信号が、撮像素子204から出力される。以下、この電気信号を必要に応じて撮像信号と称する。
First, an example of the operation of the imaging apparatus according to this embodiment when taking a still image will be described. First, a case where the sensitivity at the time of shooting is relatively low will be described.
In the still image shooting mode, live video before shooting is displayed. When displaying a live moving image, the imaging apparatus performs control to generate a display image with a display frame speed of 30 frames / second.
The
撮像素子204から出力された撮像信号は、バッファ回路206により増幅され、コンデンサ207により直流成分がカットされた後、比較器208へ送られる。ここで、ライブの動画像が撮影されている場合、比較器208は、撮像素子204から出力された撮像信号をそのまま出力するように設定されている。すなわち、CDS回路209における基準電圧Vrefよりも低い任意の一定値の電圧が、D/A変換器218から比較器208に出力されるようになっている。従って、比較器208は、コンデンサ207により直流成分がカットされた撮像信号を、比較動作を行わずに、CDS回路209へ送信する。尚、基準電圧Vrefは、直流電圧であり、参照電源214から供給されるものである。
The imaging signal output from the
CDS回路209は、相関二重サンプリングを行う。CDS回路209は、TG216から駆動信号線225を介して送信された同期信号に従って、比較器208から送信された撮像信号から、撮像素子204で生じたリセットノイズを除去して、オフセット加算器210に出力する。オフセット加算器210は、CDS回路209でリセットノイズが除去された撮像信号に対して、任意のオフセット電圧を加算する。オフセット電圧が加算された撮像信号は、PGA(可変ゲインアンプ)部211に入力される。
The
PGA部211は、参照電源214設定された基準電圧Vrefを基準電位として、入力された撮像信号に対して直流増幅を行う。PGA部211は、撮像素子204の感度のばらつきや、撮影時の感度設定を切り替える手段として用いられるが、まずここでは感度が1倍である場合を例に挙げて、PGA部211の動作の一例を述べる。PGA部211により1倍のゲインがかけられた撮像信号は、A/D変換器215に送信される。A/D変換器215は、入力した撮像信号をアナログ/デジタル変換(A/D変換)して、デジタルの映像信号に変換する。
The
CPU217は、A/D変換器215により得られた映像信号を、RAM221の任意の領域に記録する。更に、CPU217は、RAM221上の映像信号に対して、表示部223で表示を行うための任意の変換を行って表示用データを生成し、表示部223へ送信する。具体的に説明すると、RAM221に記録された映像信号は、表示系に同期した任意のレートで順次読み出された後、撮像素子204における画素数・映像信号形式から表示用の画素数・映像信号形式に変換され、表示部223へ順次送られる。そして、表示部223は、ユーザが見ることができるように、ライブの動画像を表示する。RAM221に記録された映像信号のうち、表示された映像信号は、順次新しい映像信号に上書きされる。
The
PGA部211から出力される撮像信号は、A/D変換器215だけでなく、S/H(サンプル/ホールド)回路212へも送られる。S/H回路212は、駆動信号線225を介してTG216から送信されるクランプパルスに同期して、入力された撮像信号に対して、サンプル/ホールド処理を行い、サンプル/ホールド処理した撮像信号のレベルを積分アンプ213へ送信する。通常、TG216から送信されるクランプパルスは、撮像素子204の遮光領域(OB(Optical Black)領域(オプティカルブラック領域))における撮像信号が出力されるタイミングに合わせて、積分アンプ213に出力される。したがって、S/H回路212は、OB領域における電圧レベルを、積分アンプ213に送信する。
The imaging signal output from the
積分アンプ213は、オペアンプ213a、コンデンサ213b、及び抵抗213cを備え、任意の積分時定数を持っている。S/H回路212から出力された「OB領域における電圧レベル」と、参照電源214から供給される基準電圧Vrefとの差分の電圧が、前記積分時定数にて積分されてオフセット加算器210に入力される。オフセット加算器210は、CDS回路209でリセットノイズが除去された撮像信号から、積分アンプ213から送信された信号を、オフセット電圧として減算する。このように本実施形態では、CDS回路209でリセットノイズが除去された撮像信号に対して、ネガティブフィードバック制御が行われる。
The integrating
図2は、CPU217から送信される水平同期信号HDと、CDS回路209から送信される撮像信号CDSと、オフセット加算器210から送信される撮像信号OAと、TG216から送信されるクランプパルスCPの1H期間の波形の一例を示す図である。
図2では、1H期間(水平走査期間)の先頭に、OB領域の撮像信号を読み出す期間があるものとしている。OB領域の撮像信号の電位は、撮像素子204でのオフセットと暗電流成分とによりオフセット誤差とを有している。このオフセット誤差は、S/H回路212でサンプル/ホールド処理された撮像信号の電圧レベルと基準電圧Vrefとの差分の電圧を、積分アンプ213で積分することにより検出される。そして、オフセット加算器210における前述したオフセット加算動作により、OB領域の撮像信号が有しているオフセット誤差が少なくなる。以上の動作が、1H期間における「OB領域の撮像信号を読み出す期間」にクランプパルスCPが出力される度に繰り返される。そうすると、OB領域における電圧レベルは、基準電圧Vrefへ収束していく。収束の早さは、積分アンプ213の積分時定数により決定される。
FIG. 2 shows a horizontal synchronization signal HD transmitted from the
In FIG. 2, it is assumed that there is a period in which the imaging signal of the OB area is read out at the beginning of the 1H period (horizontal scanning period). The potential of the imaging signal in the OB region has an offset error due to the offset at the
この積分時定数が短いと、水平ライン毎の「OB領域における電圧レベル」の参照電圧Vrefへの追従性は早くなる。しかしながら、「OB領域における電圧レベル」のクランプパルスCPが出力されるごとの変動量が多くなる。そうすると、「OB領域における電圧レベル」は、水平ライン間でばらつき、この水平ライン間のばらつきがノイズとなって現れる。したがって、積分時定数を、この水平ライン間のばらつきによるノイズが問題にならない程度の時間にする必要がある。 When this integration time constant is short, the followability of the “voltage level in the OB region” for each horizontal line to the reference voltage Vref is accelerated. However, the amount of fluctuation increases each time the clamp pulse CP of “voltage level in the OB region” is output. Then, the “voltage level in the OB region” varies between horizontal lines, and the variation between horizontal lines appears as noise. Therefore, it is necessary to set the integration time constant to such a time that noise due to variations between the horizontal lines does not become a problem.
次に、静止画像を撮影するために、操作部222に設けられたレリーズSWが、ユーザより押された場合の動作の一例を説明する。
静止画像を撮影するために、レリーズSWがユーザにより押されると、CPU217は、本露光のための準備を開始する。具体的にCPU217は、本露光のために必要な設定を各部へ行い、静止画像を撮影するための撮影パラメータを決定して、同期信号を生成した後、通信制御線226を介して駆動部203を制御して、絞り兼用シャッタ201を閉じる。これにより、撮像素子204は遮光され、撮像素子204に蓄積されている余分な電荷の吐き出しが行われる。電荷の吐き出しが行われ、予め設定された期間が経過した後CPU217は、駆動部203を制御して、絞り兼用シャッタ201を開く。これにより、撮像素子204に被写体映像が露光される。露光動作が終了した後、CPU217は、絞り兼用シャッタ201を閉じる。これにより、撮像素子204からの読み出し動作を開始する。
Next, an example of the operation when the release SW provided in the
When the user presses the release SW to capture a still image, the
CPU217は、通信制御線226を介して、TG216に対して、本露光された撮像信号の読み出しのための設定をTG216に対して行う。その後、CPU217は、TG216へ同期信号を送る。TG216は、この同期信号に合わせて撮像素子204を駆動して、撮像素子204に蓄積された電荷を、電気信号(撮像信号)として出力させる。撮像素子204から出力された撮像信号は、ライブの動画像を読み出すときと同様に、バッファ回路206と、コンデンサ207とを通して比較器208へ送られる。比較器208の−入力端子には、D/A変換器218から、基準電圧Vrefよりも低い任意の一定値の電圧が印加されている。このため、比較器208は、コンデンサ207により直流成分がカットされた撮像信号を、比較動作を行わずに、CDS回路209へ送信する。
The
CDS回路209は、比較器208から出力された撮像信号から、撮像素子204で生じたリセットノイズを除去して、オフセット加算器210に出力する。オフセット加算器210は、CDS回路209でリセットノイズが除去された撮像信号に対して、任意のオフセット電圧を加算してオフセット加算を行う。オフセット電圧が加算された撮像信号は、PGA(可変ゲインアンプ)部211に入力される。ここでは、PGA部211における増幅率を1としている。PGA部211を通過した撮像信号は、A/D変換器215へ送られ、デジタル信号に変換される。
The
CPU217は、A/D変換器215のAD変換によりデジタルデータとなった撮像信号を、RAM221の任意の領域に記録する。CPU217は、RAM221に撮像信号を記録した後、その撮像信号に対して現像処理を行って静止画像データを生成し、生成した静止画像データを、RAM221の別の領域に再度記録する。CPU217は、静止画像データを再び読み出して、表示用データに変換した後、表示部223へ送信する。また、CPU217は、RAM221から読み出した静止画像データに、記録フォーマットに従うためのヘッダデータを追加する等して画像ファイルを生成する。そして、CPU217は、生成した画像ファイルを記録部224に送信し、画像ファイルを、記録部224に設けられている記録媒体の任意の領域に記録する。
The
本露光により得られた静止画像データ(画像ファイル)の記録処理が終わると、CPU217は、ライブの動画像を表示部223に再び表示させる。CPU217は、TG216、CDS回路209、A/D変換器215等に対して必要な設定を行い、ライブの動画像を撮影するための同期信号を生成して撮像素子204の駆動を開始する。これにより、ライブの動画像の表示が開始する。
When the recording process of the still image data (image file) obtained by the main exposure is completed, the
次に、高感度撮影が撮像装置に設定されている場合の撮像装置における動作の一例を説明する。尚、ライブの動画像を撮影する場合の撮像装置の動作は、前述した通常の静止画像の撮影時と同じなのであるので説明を省略する。
高感度撮影時においては、低感度時には1Vpp(peak to peak)であった「撮像素子204の出力レベル」が、100mVpp以下にまで低下する。このため、撮像素子204の暗電流や個体差以外に、撮像素子204に電力を供給している電源(撮像電源205)の変動も、撮像素子204から出力される撮像信号に影響を与えることになる。特に、本実施形態のように1H期間の先頭に、OB領域の撮像信号を読み出す期間がある場合には、この撮像電源205の電源電圧の変動による影響が大きくなる。
Next, an example of the operation in the imaging apparatus when high-sensitivity shooting is set in the imaging apparatus will be described. Note that the operation of the image pickup apparatus when shooting a live moving image is the same as that for shooting a normal still image described above, and a description thereof will be omitted.
At the time of high-sensitivity imaging, the “output level of the
図3は、高感度撮影の設定時における各種信号の1H期間の波形の一例を示す図である。具体的に図3には、CPU217から送信される水平同期信号HDと、TG216から送信されるクランプパルスCPと、オフセット加算器210から送信される撮像信号OAとが示されている。この他に図3には、撮像電源205の電源電圧CCDPと、撮像素子204から出力される撮像信号CCDOUTと、高感度撮影時に本露光により得られた撮像信号が入力された場合に比較器208から出力される差分撮像信号RSも示されている。尚、図3では、リセットレベルの部分を省略して、撮像信号CCDOUTの波形を示している。
FIG. 3 is a diagram illustrating an example of a waveform of various signals during the 1H period when high-sensitivity shooting is set. Specifically, FIG. 3 shows a horizontal synchronization signal HD transmitted from the
水平同期信号HDに同期したタイミングで撮像素子204の駆動が開始された時点では、撮像電源205の電源電圧CCDPは、負荷の増大により僅かに落ち込む。この落ち込み量は数10mVであり、低感度撮影が設定されているときには全く問題にならない。しかしながら、高感度撮影が設定されているときには、この落ち込み量がそのまま、CDS回路209から出力される撮像信号CDSに影響する。通常は、図2に示す、CDS回路209から出力される撮像信号CDSのように、OB領域から安定した信号が得られる。しかしながら、高感度撮影が設定されている場合、CDS回路209から出力される撮像信号は、撮像電源205の負荷の増加による電圧の落ち込みが重畳された波形となる。
At the time when driving of the
この撮像電源205の変動の影響を取り除くために、本実施形態では、本露光を行う前に、撮像電源205の電源電圧CCDPの変動が重畳された撮像信号を取得しておく。そして、本露光時に、この、撮像電源205の電源電圧CCDPの変動が重畳された撮像信号と、撮像素子204から出力された撮像信号との差分をとることで、低感度撮影が設定されたときと同等の撮像信号を得るようにする。尚、以下の説明では、この撮像電源205の電源電圧CCDPの変動が重畳された撮像信号を、必要に応じて電源変動画像信号と称する。
In this embodiment, in order to remove the influence of the fluctuation of the imaging power supply 205, an imaging signal on which the fluctuation of the power supply voltage CCDP of the imaging power supply 205 is superimposed is acquired before performing the main exposure. When the low-sensitivity shooting is set by taking the difference between the imaging signal on which the fluctuation of the power supply voltage CCDP of the imaging power source 205 is superimposed and the imaging signal output from the
次に、図4のフローチャートを参照しながら、高感度撮影が設定された場合に本露光を行って静止画像を撮影する際の撮像装置の動作の一例を説明する。
まず、ステップS1において、CPU217は、本露光開始のトリガとなるレリーズSWがオンされたことを示す信号が入力されるまで待機する。レリーズSWがオンされたことを示す信号が入力されると、ステップS2に進み、CPU217は本露光のための準備を開始する。具体的にCPU217は、TG216、CDS回路209、A/D変換器215等へ、本露光のために必要な設定を行い、静止画像を撮影するための撮影パラメータを決定して、同期信号を生成する。
Next, an example of the operation of the imaging apparatus when performing still exposure and capturing a still image when high-sensitivity imaging is set will be described with reference to the flowchart of FIG.
First, in step S1, the
次に、ステップS3において、CPU217は、駆動部203を制御して、絞り兼用シャッタ201を閉じる。これにより、撮像素子204は遮光され、撮像素子204に蓄積されている余分な電荷の吐き出しが行われる。
Next, in step S <b> 3, the
このようにして電荷が吐き出された後、電源変動画像の撮影に移行する。撮像素子(センサ)204が駆動している期間中における撮像電源205の電源電圧の変動の様子を、電源変動画像として記録する。そこで、ステップS4において、CPU217は、撮像素子204が駆動されていないフィードスルー期間又はそれと同等の期間に、撮像信号CCDOUTの出力時の基準となるクランプ位置であって、OB領域にあるクランプ位置を変更する。ここで、フィールドスルー期間とは、1H期間中における「有効画素及びOB領域の読み出しを行った後の読み出し期間」であって、水平駆動パルスが印加されている期間をいう。また、フィールドスルー期間と同等の期間とは、1H期間中における「有効画素及びOB領域の読み出しを行った後の読み出し期間」であって、水平駆動パルスが印加されていない期間をいう。また、変更するクランプ位置は、撮像素子204上の、撮像信号が出力されていない任意の位置とすることができる。このように、本実施形態では、例えば、ステップS4の処理を行うことにより、クランプ位置設定手段が実現される。
After the charges are discharged in this way, the process proceeds to taking a power fluctuation image. The state of fluctuation of the power supply voltage of the imaging power supply 205 during the period when the image pickup element (sensor) 204 is driven is recorded as a power supply fluctuation image. Therefore, in step S4, the
次に、ステップS5において、CPU217は、駆動部203を制御する等して、絞り兼用シャッタ201を閉じたまま、任意の時間、撮像素子204の露光動作を行った後、撮像素子204から撮像信号をすぐに読み出させる。このとき、CPU217は、撮像信号を記録するRAM221に十分な容量があれば1V期間(垂直走査期間)分の撮像信号を読み出させる。一方、RAM221の容量が少なければ1H期間分の(1本以上の)撮像信号を読み出させる。ここでは、RAM221に十分な容量があるとして1V期間分の撮像信号をRAM221に記録する。このようにして読み出された撮像信号が、電源変動画像信号となる。尚、前記において、任意の時間として、例えば、設定可能な最短時間や、本露光の時間等を採用することができる。
Next, in step S <b> 5, the
撮像素子204から出力された電源変動画像信号は、バッファ回路206と、コンデンサ207とを経て比較器208へ送られる。この時点では、比較器208の−入力端子には、D/A変換器218から、基準電圧Vrefよりも低い任意の一定値の電圧が印加されている。このため、比較器208は、コンデンサ207により直流成分がカットされた撮像信号を、比較動作を行わずに、CDS回路209へ送信する。
The power fluctuation image signal output from the
CDS回路209は、比較器208から出力された電源変動画像信号からリセットノイズを除去する。更に、CDS回路209は、撮像素子204が駆動していない期間(例えばフィールドスルー期間)にステップS4で変更されたクランプ位置の信号を基準電位として、撮像素子204から出力された電源変動画像信号に対するクランプ動作を行う。
このように、本実施形態では、本実施形態では、例えば、電源変動画像信号を用いて、負荷変動反映画像信号が実現される。そして、例えば、ステップS5においてCPU217、RAM221、及び撮像素子204が行う処理により、負荷変動反映画像信号取得手段が実現される。また、例えば、ステップS5においてCDS回路209が行う処理により、負荷変動反映画像処理手段が実現される。
The
Thus, in this embodiment, in this embodiment, a load fluctuation reflecting image signal is realized using, for example, a power supply fluctuation image signal. For example, a load fluctuation reflected image signal acquisition unit is realized by the processing performed by the
以上のようなCDS回路209による動作がなされた後に、オフセット加算器210は、CDS回路209から出力された電源変動画像信号に対して、オフセット電圧を加算してオフセット加算を行う。オフセット電圧が加算された電源変動画像信号は、PGA(可変ゲインアンプ)部211に入力される。ここでは、PGA部211における増幅率を4としている。PGA部211を通過した電源変動画像信号は、A/D変換器215へ送られ、デジタル信号に変換される。CPU217は、このようにしてデジタル化された電源変動画像信号を、RAM221の任意の領域に順次記録する。このように本実施形態では、例えば、ステップS5においてCPU217が行う処理により、記録手段が実現される。
After the operation by the
1V期間分の電源変動画像信号がRAM221に記録された後、ステップS6において、CPU217は、RAM221に記録された電源変動画像信号を読み出す。そして、CPU217は、電源変動画像信号におけるOB領域の部分の変動を解析し、任意の演算を行って、撮像電源205の電源変動に基づくOB領域の画素値の変動量を求める。このように、本実施形態では、例えば、ステップS6の処理を行うことにより、導出手段が実現される。
After the power fluctuation image signal for 1 V period is recorded in the
次に、ステップS7において、CPU217は、求めた変動量が、予め設定された値(設定値)より大きいか否かを判定する。この判定の結果、求めた変動量が、予め設定された値(設定値)より大きくない場合には、撮像電源205の電源電圧の変動による撮像信号の影響は無いものと判断し、低感度撮影の設定が行われている場合と同様の撮影処理動作を行う。ステップS8において、CPU217は、基準電圧Vrefよりも低い任意の一定値の電圧をD/A変換器218から出力させる。
Next, in step S7, the
そして、ステップS9において、本露光が行われ、ステップS10において、本露光により得られた撮像信号に対して、比較器208、CDS回路209、オフセット加算器210、PGA部211、及びA/D変換器215による前述した処理が行われる。これにより、デジタルの撮像信号が生成される。
次に、ステップS11において、CPU217は、デジタルの撮像信号に対して現像処理を行い、静止画像データを生成する。そして、CPU217は、生成した静止画像データを、RAM221に記録する。更にCPU217は、静止画像データをRAM221から読み出して、表示用データに変換した後、表示部223へ送信する。また、CPU217は、RAM221から読み出した静止画像データに、記録フォーマットに従うためのヘッダデータを追加する等して画像ファイルを生成する。そして、CPU217は、生成した画像ファイルを記録部224に送信し、画像ファイルを、記録部224に設けられている記録媒体の任意の領域に記録する。
In step S9, the main exposure is performed. In step S10, the comparator 208, the
Next, in step S11, the
ステップS7において、撮像電源205の電源変動に基づくOB領域の画素値の変動量が、予め設定された値(設定値)より大きい場合には、ステップS12に進む。ステップS12に進むと、CPU217は、電源変動画像信号と、本露光により得られる撮像信号との差分を演算する準備を行う。具体的にCPU217は、本露光用の同期信号と同期して、D/A変換器218に、RAM221に記録された電源変動画像信号を順次送る。これにより、電源変動画像信号が、アナログの信号として比較器208の−入力端子に印加される。
If the amount of change in the pixel value of the OB region based on the power supply fluctuation of the imaging power supply 205 is larger than a preset value (set value) in step S7, the process proceeds to step S12. In step S12, the
ここで、RAM221に、電源変動画像信号が1H期間分のみある場合、CPU217は、この1H期間分の電源変動画像信号を、本露光の撮影中に撮像素子204から出力される撮像信号と同期するように、繰り返しD/A変換器218へ送信する。一方、RAM221に、電源変動画像信号が1V期間分ある場合、CPU217は、本露光の撮影中に撮像素子204から出力される垂直ライン(V)毎の撮像信号と同期するように、電源変動画像信号を、D/A変換器218へ送信する。更に、RAM221に十分な領域がある場合、CPU217は、複数フィールドの露光に対しても対応できるように、複数の垂直走査期間(V期間)の電源変動画像信号をRAM221に記録しておき、これをD/A変換器218に順次送信することもできる。
また、CPU217は、以上の動作と共に、電源変動画像を撮影したときに変更したクランプ位置をもとの位置に戻す。
以上のように、本実施形態では、例えば、ステップS12においてCPU217が行う処理によりクランプ位置再設定手段が実現される。
Here, when the power fluctuation image signal is only in the
In addition to the above operations, the
As described above, in this embodiment, for example, the clamp position resetting unit is realized by the process performed by the
次に、ステップS13において、CPU217は、本露光を開始する。まず、CPU217は、絞り兼用シャッタ201を閉じて、撮像素子204に蓄積されている余分な電荷を吐き出させる。その後、予め設定された期間、絞り兼用シャッタ201を開き、撮像素子204に対して被写体映像の露光を行う。CPU217は、予め設定された期間が経過した後、駆動部203を制御して、絞り兼用シャッタ201を開く。これにより、撮像素子204からの読み出し動作を開始する。
Next, in step S13, the
そして、CPU217は、本露光された撮像信号の読み出しのための設定をTG216に対して行う。その後、CPU217は、TG216へ同期信号を送る。TG216は、同期信号にあわせて撮像素子204を駆動し、撮像素子204に蓄積された電荷を、電気信号(撮像信号)として出力させる。前述したように、CPU217は、この撮像信号の出力と同期して、D/A変換器218へ電源変動画像信号を送信する。
Then, the
撮像素子204から出力された撮像信号は、バッファ回路206と、コンデンサ207とを通して比較器208へ送信される。比較器208は、本露光により得られた撮像信号と、D/A変換器218から送信された電源変動画像信号との差分を示す差分撮像信号RSが出力される。このとき、D/A変換器218から送信される電源変動画像信号は、本露光により得られた撮像信号と電圧レベルが交差しないように、予めオフセットが加えられている。
以上のように、本実施形態では、例えば、ステップS13においてCPU217及びD/A変換器218が行う処理により変換手段が実現される。また、例えば、ステップS13において比較器208が行う処理により撮像信号補正手段が実現される。また、例えば、差分撮像信号RSを用いて、差分信号が実現される。
The imaging signal output from the
As described above, in this embodiment, for example, the conversion unit is realized by the processing performed by the
比較器208で差分処理が行われることにより得られた差分撮像信号RSは、CDS回路209へ送信される。この差分撮像信号RSの波形は、図3に示した通りである。ステップS15において、CDS回路209は、差分撮像信号RSから、撮像素子204で生じたリセットノイズを除去する。また、CDS回路209は、ステップS12で元に戻されたクランプ位置の信号を基準電位として、差分撮像信号RSに対するクランプ動作を行う。差分撮像信号RSのOB領域の部分は、電源変動画像信号を用いて補正されている。このため、OB領域の部分を用いたクランプ動作を行っても、差分撮像信号のレベルの変動が抑えられる。以上のように、本実施形態では、例えば、ステップS13においてCDS回路209が行う処理により撮像信号処理手段が実現される。
The difference imaging signal RS obtained by performing the difference processing in the comparator 208 is transmitted to the
そして、このクランプ動作に伴うオフセット電圧と差分撮像信号RSとの加算が、オフセット加算器210で行われたのち、PGA部211による増幅が行われる。ここではPGA部211における増幅率を4としている。PGA部211を通過した差分撮像信号RSは、A/D変換器215へ送られ、デジタル信号に変換される。
CPU217は、このようにしてデジタル化された差分撮像信号を、RAM221の任意の領域に記録する。
Then, the offset voltage accompanying the clamp operation and the difference imaging signal RS are added by the offset
The
そして、ステップS11に進み、CPU217は、デジタル化された差分撮像信号に対して現像処理を行い、静止画像データを生成する。そして、CPU217は、生成した静止画像データを、RAM221の別の領域に記録する。更にCPU217は、静止画像データをRAM221から読み出して、表示用データに変換した後、表示部223へ送信する。また、CPU217は、RAM221から読み出した静止画像データに、記録フォーマットに従うためのヘッダデータを追加する等して画像ファイルを生成する。そして、CPU217は、生成した画像ファイルを記録部224に送信し、画像ファイルを、記録部224に設けられている記録媒体の任意の領域に記録する。
In step S11, the
尚、本露光により得られた差分撮像信号に基づく画像ファイルの記録処理が終わった状態で、依然としてレリーズSWが押されている場合、CPU217は連続撮影動作を行う。この連続撮影動作自体は、前述した高感度撮影が撮影されているときの撮影シーケンスと同じでも良いが、撮影間隔を短縮するため、先に記録してある電源変動画像信号を再度用いて、撮像信号を補正してもよい。
When the release SW is still pressed after the image file recording process based on the differential imaging signal obtained by the main exposure is completed, the
レリーズSWが解除されると、CPU217は、ライブの動画像を表示するモードへ再び移行する。CPU217は、TG216、CDS回路209、A/D変換器215等へ必要な設定を行い、動画像用の同期信号を生成して、撮像素子204の駆動を開始する。そして、前述したようにしてライブの動画像の表示が開始する。
When the release SW is released, the
以上のように本実施形態では、本露光を行う前(撮像素子204から撮像信号が出力されていない期間)に、撮像素子204上の撮像信号が出力されていない任意の位置に、クランプ位置を変更する。そして、変更したクランプ位置の信号を基準電位として、撮像電源205の電源電圧の変動が重畳された電源変動画像信号を処理して記録しておき、この電源変動画像信号を用いて、本露光時に得られた撮像信号を補正するようにした。したがって、高感度撮影が設定されているときに、撮像信号に影響を及ぼすレベルの電源変動があり、OB領域の画素値が変動しても、撮像電源205の電源変動に基づく影響を低減した撮像画像を、特殊な電源の使用しなくても得ることができる。よって、低感度撮影が設定されたときと同様に、ノイズの影響が少ない撮像画像を得ることが可能である。このように、本実施形態では、撮像素子204の負荷変動が大きくなる読み出し方法を利用する撮影モードでも、撮像電源205の応答特性をキャンセルできる、より高品位な画像信号を得ることができ、S/N比が劣化しがちな場合でも撮影画像の画質を向上できる。
As described above, in the present embodiment, the clamp position is set at an arbitrary position where the image signal on the
(第2の実施形態)
次に、本発明の第2の実施形態について説明する。尚、本実施形態の説明において、前述した第1の実施形態と同一の部分については、図1〜図4に付した符号と同一の符号を付す等して詳細な説明を省略する。
図5は、撮像装置の構成の一例を示すブロック図である。図5を参照しながら、高感度撮影が設定された場合の本実施形態における撮像装置の動作の一例について述べる。
(Second Embodiment)
Next, a second embodiment of the present invention will be described. In the description of the present embodiment, the same parts as those of the first embodiment described above are denoted by the same reference numerals as those shown in FIGS.
FIG. 5 is a block diagram illustrating an example of the configuration of the imaging apparatus. With reference to FIG. 5, an example of the operation of the imaging apparatus in the present embodiment when high-sensitivity shooting is set will be described.
まず、本露光開始のトリガとなるレリーズSWがオンされたことを示す信号が入力されると、CPU517は、本露光のための準備を開始する。具体的にCPU517は、TG216、CDS回路209、A/D変換器215等へ、本露光のために必要な設定を行い、静止画像を撮影するための撮影パラメータを決定して、同期信号を生成する。そして、CPU517は、駆動部203を制御して、絞り兼用シャッタ201を閉じる。これにより、撮像素子204は遮光され、撮像素子204に蓄積されている余分な電荷の吐き出しが行われる。
First, when a signal indicating that the release SW serving as a trigger for starting main exposure is turned on is input, the
このようにして電荷が吐き出された後、電源変動画像の撮影に移行する。本実施形態では、CDS+A/D変換器506の内部にあるRAM525に、電源変動画像信号を記録し、CDS+A/D変換器506の内部で、RAM525に記録された電源変動画像信号を用いて、本露光により得られた撮像信号を補正する構成としている。CPU517は、撮像信号CCDOUTの出力時の基準となるクランプ位置を、OB領域の位置から、撮像素子204が駆動されていないフィードスルー期間又はそれと同等の期間における位置に変更する。これと同時に、CPU517は、CDS+A/D変換器506に設けられたRAM525に、電源変動画像信号を記録するための設定を行う。
After the charges are discharged in this way, the process proceeds to taking a power fluctuation image. In the present embodiment, the power fluctuation image signal is recorded in the
その後、CPU517は、駆動部203を制御する等して、絞り兼用シャッタ201を閉じたまま、任意の時間(好ましくは設定可能な最短時間)、撮像素子204の露光動作を行った後、撮像素子204から撮像信号をすぐに読み出させる。ここでは、CPU217は、1H期間分の撮像信号を、電源変動画像信号として読み出させるようにする。
撮像素子204から出力された電源変動画像信号は、バッファ回路206と、コンデンサ207とを経てCDS+A/D変換器506内のCDS回路509へ送られる。
Thereafter, the
The power fluctuation image signal output from the
CDS回路509は、入力した電源変動画像信号からリセットノイズを除去し、且つ、撮像素子204が駆動していない期間(例えばフィールドスルー期間)に、撮像素子204から出力された電源変動画像信号に対するクランプ動作を行う。そして、このような動作がなされた後に、オフセット加算器510は、CDS回路509から出力された電源変動画像信号に対して、オフセット電圧を加算してオフセット加算を行う。オフセット電圧が加算された電源変動画像信号は、PGA(可変ゲインアンプ)部211に入力される。ここでは、PGA部211における増幅率を4としている。PGA部211を通過した電源変動画像信号は、A/D変換器515へ送られ、デジタル信号に変換される。このようにしてデジタル化された電源変動画像信号は、CDS+A/D変換器506内のRAM525に記録されるのと同時に、CPU517にも送信される。CPU517は、受信した電源変動画像信号を、CPU側のRAM221における任意の領域に順次記録する。
The
1H期間分の電源変動画像信号が、RAM525、221に記録された後、CPU517は、RAM221に記録された電源変動画像信号を読み出す。そして、CPU517は、電源変動画像信号におけるOB領域の部分の変動を解析し、任意の演算を行って、撮像電源205の電源変動に基づくOB領域の画素値の変動量を求める。一方、求めた変動量が、予め設定された値(設定値)より大きくない場合、CPU517は撮像電源205の電源電圧の変動による撮像信号の影響は無いものと判断する。そして、低感度撮影の設定が行われている場合と同様の撮影処理動作が行われる(図4のステップS8〜S11を参照)。
After the power fluctuation image signal for 1H period is recorded in the
一方、求めた変動量が、予め設定された値(設定値)より大きい場合、CPU517は、TG216を介して、CDS+A/D変換器506に対して、RAM525に記録されている電源変動画像信号を読み出してD/A変換するための設定を行う。これにより、次に露光された撮像信号を処理する際には、RAM525に記録されている電源変動画像信号が、D/A変換されて、オフセット加算器510に入力される。RAM525には、1H期間分の電源変動画像信号のみが記録されている。このため、この1H期間分の電源変動画像信号が、本露光による撮影中、繰り返しD/A変換器518へ送信されるようにする。また、CPU517は、以上のような設定と共に、電源変動画像を撮影したときに変更したクランプ位置をもとの位置に戻す。
On the other hand, when the obtained fluctuation amount is larger than a preset value (set value), the
その後、CPU517は、本露光を開始する。まず、CPU517は、絞り兼用シャッタ201を閉じて、撮像素子204に蓄積されている余分な電荷を吐き出させる。その後、予め設定された期間、絞り兼用シャッタ201を開き、撮像素子204に対して被写体映像の露光を行う。CPU517は、予め設定された期間が経過した後、駆動部203を制御して、絞り兼用シャッタ201を開く。これにより、撮像素子204からの読み出し動作を開始する。
Thereafter, the
そして、CPU517は、本露光された撮像信号の読み出しのための設定をTG216に対して行う。その後、CPU217は、TG216へ同期信号を送る。TG216は、同期信号にあわせて撮像素子204を駆動し、撮像素子204に蓄積された電荷を、電気信号(撮像信号)として出力させる。
撮像素子204から出力された撮像信号は、バッファ回路206と、コンデンサ207とを通して、CDS+A/D変換器506内のCDS回路509へ送信される。
Then, the
The imaging signal output from the
CDS回路509は、入力した撮像信号から、撮像素子204で生じたリセットノイズを除去する。また、撮像信号のOB領域の部分は、後述するD/A変換器518でデジタル化された電源変動画像信号により補正されている。このため、OB領域の部分を用いたクランプ動作を行っても、撮像信号のレベルの変動が抑えられる。
オフセット加算器510は、このクランプ動作に伴う補正と、D/A変換器518でデジタル化された電源変動画像信号を用いた補正とを、入力した撮像信号に対して行う。これにより、本露光が行われることにより得られた撮像信号に対して、撮像電源205の電源電圧の変動と、OB領域の画素値の変動との補正が行われる。このようにして補正が行われた撮像信号は、PGA部211で増幅される。ここではPGA部211における増幅率を4としている。PGA部211を通過した撮像信号は、A/D変換器515へ送られ、デジタル信号に変換される。
The
The offset
A/D変換器515によりデジタル化された撮像信号は、CPU517によって、RAM221の任意の領域に記録される。その後、CPU517は、デジタル化された撮像信号に対して現像処理を行い、静止画像データを生成し、生成した静止画像データを、RAM221の別の領域に記録する。更にCPU517は、静止画像データをRAM221から読み出して、表示用データに変換した後、表示部223へ送信する。また、CPU517は、RAM221から読み出した静止画像データに、記録フォーマットに従うためのヘッダデータを追加する等して画像ファイルを生成する。そして、CPU517は、生成した画像ファイルを記録部224に送信し、画像ファイルを、記録部224に設けられている記録媒体の任意の領域に記録する。
The imaging signal digitized by the A /
尚、本露光により得られた差分撮像信号に基づく画像ファイルの記録処理が終わった状態で、依然としてレリーズSWが押されている場合、CPU217は連続撮影動作を行う。この連続撮影動作自体は、前述した高感度撮影が撮影されているときの撮影シーケンスと同じでも良いが、撮影間隔を短縮するため、先にCDS+A/D変換器506の内部に記録してある電源変動画像信号を再度用いて、撮像信号を補正してもよい。
そして、レリーズSWが解除されると、CPU517は、前述したように、ライブの動画像を表示するモードへ再び移行する。
When the release SW is still pressed after the image file recording process based on the differential imaging signal obtained by the main exposure is completed, the
When the release SW is released, the
以上のように本実施形態では、撮像電源205の電源電圧CCDPの変動が重畳された電源変動画像信号を、CDS+A/D変換器506の内部に記録しておき、本露光時に得られた撮像信号をCDS+A/D変換器506の内部で処理するようにした。したがって、前述した第1の実施形態で説明した効果に加えて、比較器等の誤差成分をもつ構成要素を少なくすることができ、撮像電源205の電源変動に基づく影響をより低減した撮像画像を得ることができる。よって、ノイズの影響がより少ない撮像画像を得ることが可能である。
As described above, in this embodiment, the power supply fluctuation image signal on which the fluctuation of the power supply voltage CCDP of the imaging power supply 205 is superimposed is recorded in the CDS + A /
(本発明の他の実施形態)
前述した本発明の実施形態における撮像装置を構成する撮像素子以外の各手段、並びに撮像処理方法の各ステップは、コンピュータのRAMやROMなどに記憶されたコンピュータプログラムが動作することによって実現できる。このコンピュータプログラム及び前記コンピュータプログラムを記録したコンピュータ読み取り可能な記録媒体は本発明に含まれる。
(Other embodiments of the present invention)
Each means other than the image sensor constituting the image pickup apparatus in the embodiment of the present invention described above and each step of the image pickup processing method can be realized by operating a computer program stored in a RAM or ROM of a computer. The computer program and a computer-readable recording medium on which the computer program is recorded are included in the present invention.
また、本発明は、例えば、システム、装置、方法、プログラム若しくは記憶媒体等としての実施形態も可能であり、具体的には、複数の機器から構成されるシステムに適用してもよいし、また、一つの機器からなる装置に適用してもよい。 In addition, the present invention can be implemented as, for example, a system, apparatus, method, program, storage medium, or the like. Specifically, the present invention may be applied to a system including a plurality of devices. The present invention may be applied to an apparatus composed of a single device.
なお、本発明は、前述した実施形態の機能を実現するソフトウェアのプログラム(実施形態では図4に示すフローチャートに対応したプログラム)を、システムあるいは装置に直接、あるいは遠隔から供給する。そして、そのシステムあるいは装置のコンピュータが前記供給されたプログラムコードを読み出して実行することによっても達成される場合を含む。 In the present invention, a software program (in the embodiment, a program corresponding to the flowchart shown in FIG. 4) that realizes the functions of the above-described embodiments is directly or remotely supplied to the system or apparatus. In addition, this includes a case where the system or the computer of the apparatus is also achieved by reading and executing the supplied program code.
したがって、本発明の機能処理をコンピュータで実現するために、前記コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。 Accordingly, since the functions of the present invention are implemented by computer, the program code installed in the computer also implements the present invention. In other words, the present invention includes a computer program itself for realizing the functional processing of the present invention.
その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等の形態であってもよい。 In that case, as long as it has the function of a program, it may be in the form of object code, a program executed by an interpreter, script data supplied to the OS, and the like.
プログラムを供給するための記録媒体としては、例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、MO、CD−ROM、CD−R、CD−RWなどがある。また、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM,DVD−R)などもある。 Examples of the recording medium for supplying the program include a floppy (registered trademark) disk, hard disk, optical disk, magneto-optical disk, MO, CD-ROM, CD-R, and CD-RW. In addition, there are magnetic tape, nonvolatile memory card, ROM, DVD (DVD-ROM, DVD-R), and the like.
その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続する。そして、前記ホームページから本発明のコンピュータプログラムそのもの、若しくは圧縮され自動インストール機能を含むファイルをハードディスク等の記録媒体にダウンロードすることによっても供給できる。 As another program supply method, a browser on a client computer is used to connect to an Internet home page. The computer program itself of the present invention or a compressed file including an automatic installation function can be downloaded from the homepage by downloading it to a recording medium such as a hard disk.
また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。 It can also be realized by dividing the program code constituting the program of the present invention into a plurality of files and downloading each file from a different homepage. That is, a WWW server that allows a plurality of users to download a program file for realizing the functional processing of the present invention on a computer is also included in the present invention.
また、本発明のプログラムを暗号化してCD−ROM等の記憶媒体に格納してユーザに配布し、所定の条件をクリアしたユーザに対し、インターネットを介してホームページから暗号化を解く鍵情報をダウンロードさせる。そして、ダウンロードした鍵情報を使用することにより暗号化されたプログラムを実行してコンピュータにインストールさせて実現することも可能である。 In addition, the program of the present invention is encrypted, stored in a storage medium such as a CD-ROM, distributed to users, and key information for decryption is downloaded from a homepage via the Internet to users who have cleared predetermined conditions. Let It is also possible to execute the encrypted program by using the downloaded key information and install the program on a computer.
また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される。その他、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどが、実際の処理の一部又は全部を行い、その処理によっても前述した実施形態の機能が実現され得る。 Further, the functions of the above-described embodiments are realized by the computer executing the read program. In addition, based on the instructions of the program, an OS or the like running on the computer performs part or all of the actual processing, and the functions of the above-described embodiments can also be realized by the processing.
さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。その後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部又は全部を行い、その処理によっても前述した実施形態の機能が実現される。 Further, the program read from the recording medium is written in a memory provided in a function expansion board inserted into the computer or a function expansion unit connected to the computer. Thereafter, the CPU of the function expansion board or function expansion unit performs part or all of the actual processing based on the instructions of the program, and the functions of the above-described embodiments are realized by the processing.
なお、前述した各実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。 Note that each of the above-described embodiments is merely a specific example for carrying out the present invention, and the technical scope of the present invention should not be construed as being limited thereto. . That is, the present invention can be implemented in various forms without departing from the technical idea or the main features thereof.
201 絞り兼用シャッタ
202 レンズ
203 駆動部
204 撮像素子
205 撮像電源
206 バッファ回路
207 コンデンサ
208 比較器
209 CDS回路
210 オフセット加算器
211 PGA部
212 S/H回路
213 積分アンプ
214 参照電源
215 A/D変換器
216 TG
217 CPU
218 D/A変換器
506 CDS+A/D変換器
509 CDS回路
510 オフセット加算器
515 A/D変換器
517 CPU
518 D/A変換器
525 RAM
201 Shutter-combined
217 CPU
218 D /
518 D /
Claims (8)
前記撮像素子における負荷変動を反映した負荷変動反映画像信号を、本露光の前に取得する負荷変動反映画像信号取得手段と、
前記撮像素子に本露光された被写体像に基づく撮像信号を、前記負荷変動反映画像信号を用いて補正する撮像信号補正手段とを有することを特徴とする撮像装置。 An image sensor;
Load fluctuation reflected image signal acquisition means for acquiring a load fluctuation reflected image signal reflecting the load fluctuation in the image sensor before the main exposure;
An image pickup apparatus comprising: an image pickup signal correction unit that corrects an image pickup signal based on a subject image that has been exposed to the image pickup device using the load fluctuation reflected image signal.
前記クランプ位置設定手段により設定されたクランプ位置の信号を基準として、前記負荷変動反映画像信号を処理する負荷変動反映画像処理手段と、
前記クランプ位置設定手段により設定されたクランプ位置を、前記オプティカルブラック領域に再設定するクランプ位置再設定手段と、
前記クランプ位置再設定手段により再設定されたクランプ位置の信号を基準として、前記撮像信号補正手段により補正された撮像信号を処理する撮像信号処理手段とを有し、
前記撮像信号補正手段は、前記撮像素子に本露光された被写体像に基づく撮像信号を、前記負荷変動反映画像処理手段により処理された負荷変動反映画像信号を用いて補正することを特徴とする請求項1に記載の撮像装置。 Clamp position setting means for changing a clamp position in the optical black region in the image sensor and setting a new clamp position during a period in which an image signal is not output from the image sensor,
Load fluctuation reflected image processing means for processing the load fluctuation reflected image signal on the basis of the clamp position signal set by the clamp position setting means;
Clamp position resetting means for resetting the clamp position set by the clamp position setting means in the optical black area;
Imaging signal processing means for processing the imaging signal corrected by the imaging signal correction means with reference to the clamp position signal reset by the clamp position resetting means,
The image pickup signal correcting unit corrects an image pickup signal based on a subject image that has been subjected to main exposure on the image pickup device, using the load variation reflecting image signal processed by the load variation reflecting image processing unit. Item 2. The imaging device according to Item 1.
前記撮像素子に本露光された被写体像に基づく撮像信号が、前記撮像素子から出力されるタイミングに同期して、前記記録手段によりデジタル信号として記録された負荷変動反映画像信号を、アナログ信号に変換する変換手段とを有し、
前記撮像信号補正手段は、前記撮像素子に本露光された被写体像に基づく撮像信号を、前記変換手段によりアナログ信号に変換された負荷変動反映画像信号を用いて補正することを特徴とする請求項1〜3の何れか1項に記載の撮像装置。 Recording means for recording the load fluctuation reflected image signal as a digital signal on a recording medium;
An image signal based on the subject image that has been exposed to the image sensor is converted into an analog signal from the load fluctuation reflected image signal recorded as a digital signal by the recording means in synchronization with the timing of output from the image sensor. Conversion means for
The image pickup signal correcting unit corrects an image pickup signal based on a subject image that has been exposed to the image pickup device by using a load variation reflecting image signal converted into an analog signal by the conversion unit. The imaging device according to any one of 1 to 3.
前記撮像信号補正手段は、前記導出手段により導出された変動量が、予め定められた値より大きい場合に、前記撮像素子に本露光された被写体像に基づく撮像信号を、前記負荷変動反映画像信号を用いて補正することを特徴とする請求項1〜4の何れか1項に記載の撮像装置。 Using the load variation reflecting image signal, and having a derivation means for deriving a variation amount of the pixel value in the optical black region based on the load variation of the image sensor,
The imaging signal correcting unit converts an imaging signal based on a subject image that has been subjected to main exposure to the imaging element into the load variation reflecting image signal when the variation amount derived by the deriving unit is larger than a predetermined value. The imaging apparatus according to claim 1, wherein correction is performed using
前記撮像素子に本露光された被写体像に基づく撮像信号を、前記負荷変動反映画像信号を用いて補正する撮像信号補正ステップとを有することを特徴とする撮像処理方法。 A load fluctuation reflected image signal acquisition step of acquiring a load fluctuation reflected image signal reflecting the load fluctuation in the image sensor before the main exposure; and
An image pickup processing method comprising: an image pickup signal correction step of correcting an image pickup signal based on a subject image that has been exposed to the image pickup device by using the load fluctuation reflected image signal.
前記撮像素子に本露光された被写体像に基づく撮像信号を、前記負荷変動反映画像信号を用いて補正する撮像信号補正ステップとをコンピュータに実行させることを特徴とするコンピュータプログラム。 A load fluctuation reflected image signal acquisition step of acquiring a load fluctuation reflected image signal reflecting the load fluctuation in the image sensor before the main exposure; and
A computer program causing a computer to execute an imaging signal correction step of correcting an imaging signal based on a subject image that has been subjected to main exposure on the imaging element, using the load fluctuation reflected image signal.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007045522A JP4810464B2 (en) | 2007-02-26 | 2007-02-26 | Imaging apparatus and imaging processing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007045522A JP4810464B2 (en) | 2007-02-26 | 2007-02-26 | Imaging apparatus and imaging processing method |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2008211463A true JP2008211463A (en) | 2008-09-11 |
JP2008211463A5 JP2008211463A5 (en) | 2010-04-08 |
JP4810464B2 JP4810464B2 (en) | 2011-11-09 |
Family
ID=39787402
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007045522A Expired - Fee Related JP4810464B2 (en) | 2007-02-26 | 2007-02-26 | Imaging apparatus and imaging processing method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4810464B2 (en) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH118780A (en) * | 1997-06-17 | 1999-01-12 | Canon Inc | Image pickup device |
JPH11177849A (en) * | 1997-12-15 | 1999-07-02 | Canon Inc | Image pickup device |
JP2004328554A (en) * | 2003-04-28 | 2004-11-18 | Matsushita Electric Ind Co Ltd | Video signal clamp circuit |
JP2005347793A (en) * | 2004-05-31 | 2005-12-15 | Matsushita Electric Ind Co Ltd | Imaging apparatus |
JP2007036457A (en) * | 2005-07-25 | 2007-02-08 | Canon Inc | Imaging apparatus |
-
2007
- 2007-02-26 JP JP2007045522A patent/JP4810464B2/en not_active Expired - Fee Related
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH118780A (en) * | 1997-06-17 | 1999-01-12 | Canon Inc | Image pickup device |
JPH11177849A (en) * | 1997-12-15 | 1999-07-02 | Canon Inc | Image pickup device |
JP2004328554A (en) * | 2003-04-28 | 2004-11-18 | Matsushita Electric Ind Co Ltd | Video signal clamp circuit |
JP2005347793A (en) * | 2004-05-31 | 2005-12-15 | Matsushita Electric Ind Co Ltd | Imaging apparatus |
JP2007036457A (en) * | 2005-07-25 | 2007-02-08 | Canon Inc | Imaging apparatus |
Also Published As
Publication number | Publication date |
---|---|
JP4810464B2 (en) | 2011-11-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8878951B2 (en) | Image processing apparatus and method of controlling the same | |
US8120677B2 (en) | Imaging apparatus, adjustment method of black level, and program | |
JP6557455B2 (en) | Imaging apparatus, control method therefor, program, and storage medium | |
JP2010050538A (en) | Image device, smear reduction method, and program | |
JP2005080263A (en) | Black level correction apparatus, and electronic camera | |
JP5207926B2 (en) | Imaging apparatus and control method thereof | |
JP2009017030A (en) | Image imaging apparatus, and imaging control method | |
JP4810464B2 (en) | Imaging apparatus and imaging processing method | |
JP6278729B2 (en) | Imaging apparatus, control method thereof, and program | |
CN101729786A (en) | Imaging apparatus and imaging operation processing method | |
KR101544741B1 (en) | Imaging device method for controlling the imaging device and medium of recording the method | |
JP2014107739A (en) | Imaging device and control method therefor | |
JP2011009834A (en) | Imager and imaging method | |
JP2004336244A (en) | Correction apparatus | |
JP5400432B2 (en) | IMAGING DEVICE, ITS CONTROL METHOD, AND CAMERA | |
KR101408359B1 (en) | Imaging apparatus and imaging method | |
JP2008117304A (en) | Power unit and power control method | |
JP2008054132A (en) | Imaging apparatus and imaging method | |
JP5127467B2 (en) | IMAGING SYSTEM AND IMAGING SYSTEM CONTROL METHOD | |
JP2013016905A (en) | Imaging apparatus | |
JP2009147588A (en) | Imaging device | |
JP4343601B2 (en) | Imaging device | |
JP2008034902A (en) | Electronic camera | |
JP2004312551A (en) | Image signal processing apparatus | |
JP2004320268A (en) | Solid state electronic imaging apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100223 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100223 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110809 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110816 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110822 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140826 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |