JP2007037051A - Imaging apparatus and control method thereof - Google Patents

Imaging apparatus and control method thereof Download PDF

Info

Publication number
JP2007037051A
JP2007037051A JP2005221467A JP2005221467A JP2007037051A JP 2007037051 A JP2007037051 A JP 2007037051A JP 2005221467 A JP2005221467 A JP 2005221467A JP 2005221467 A JP2005221467 A JP 2005221467A JP 2007037051 A JP2007037051 A JP 2007037051A
Authority
JP
Japan
Prior art keywords
image signal
image
channels
parallel
stored
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2005221467A
Other languages
Japanese (ja)
Other versions
JP2007037051A5 (en
Inventor
Ichiro Matsuyama
一郎 松山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2005221467A priority Critical patent/JP2007037051A/en
Publication of JP2007037051A publication Critical patent/JP2007037051A/en
Publication of JP2007037051A5 publication Critical patent/JP2007037051A5/ja
Pending legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To reduce capacity of memory required to generate a compensating image signal from the main image signal and the black image signal and assure that the band of data bus connected with the memory becomes the band required for compensating process in the case where the image signal is outputted via a plurality of channels. <P>SOLUTION: The imaging apparatus comprises CCDs (141 to 143) for outputting the generated image signal via a plurality of channels, a shutter (151), a CPU (102) for outputting in parallel the main image signal generated by the CCD under the exposure condition from a plurality of channels and controlling the black image signal generated by the CCD under the light shielding condition to be outputted from the CCD on the time division basis among a plurality of channels, a RAM (115) for storing in parallel the main image signal, and an arithmetic means for obtaining the compensating image signal on the basis of the main image signal stored in the RAM and black image signal. The corresponding compensating image signal is stored in the RAM region storing the main image signal. <P>COPYRIGHT: (C)2007,JPO&INPIT

Description

本発明は撮像装置及びその制御方法に関し、特に、撮像装置の撮像素子が持つ固体パターンノイズを補正する技術に関する。   The present invention relates to an imaging apparatus and a control method thereof, and more particularly to a technique for correcting solid pattern noise of an imaging element of the imaging apparatus.

一般的に、デジタルカメラなどの撮像装置は、CCDやCMOSなどの撮像素子を駆動して、レンズを介して受光面に入射された被写体像を電気信号に変換し、得られた画像信号をメモリカードなどの記録媒体に記録する。また、撮像素子の受光面とレンズの間にはメカシャッタが設けられており、メカシャッタの開閉状態を制御することで、受光面は露光状態または遮光状態となる。特に、暗いシーンでの撮影などでは、光量を確保するためにメカシャッタを比較的長い時間、開放状態として撮像素子に蓄積される電荷を確保することがある。しかし、長時間の露光を行うと、撮像素子周辺で発生する高速パルスや、撮像素子の構造に起因して発生するノイズ(以下、固定パターンノイズ)の影響が非常に大きくなる。   In general, an imaging device such as a digital camera drives an imaging device such as a CCD or CMOS to convert an object image incident on a light receiving surface via a lens into an electrical signal, and stores the obtained image signal in a memory. Record on a recording medium such as a card. A mechanical shutter is provided between the light receiving surface of the image sensor and the lens, and the light receiving surface is brought into an exposure state or a light shielding state by controlling the open / close state of the mechanical shutter. In particular, when shooting in a dark scene, the mechanical shutter may be kept open for a relatively long time to ensure the amount of light, and charge accumulated in the image sensor may be secured. However, if exposure is performed for a long time, the influence of high-speed pulses generated around the image sensor and noise (hereinafter, fixed pattern noise) generated due to the structure of the image sensor becomes very large.

そこで、従来のデジタルカメラは、画像信号に含まれる固定パターンノイズを除去するため、以下のような補正処理を行っている(例えば、特許文献1参照)。すなわち、ユーザがシャッタボタンを押下すると、まずメカシャッタを開いた露光状態で撮像素子から画像信号(以下、「本画像信号」と呼ぶ。)を取得し、メモリに格納する。その後、メカシャッタを閉じた遮光状態で本画像信号と同じ時間、撮像素子で電荷の蓄積を行って画像信号(以下、「黒画像信号」と呼ぶ。)を取得し、メモリに格納する。その後、メモリから本画像信号と黒画像信号を読み出し、本画像信号から黒画像信号を減算して、得られた補正画像信号をメモリに格納する。   Therefore, the conventional digital camera performs the following correction processing in order to remove fixed pattern noise included in the image signal (see, for example, Patent Document 1). That is, when the user presses the shutter button, first, an image signal (hereinafter referred to as “main image signal”) is acquired from the image sensor in an exposure state in which the mechanical shutter is opened, and stored in the memory. Thereafter, charges are accumulated by the image sensor for the same time as the main image signal in the light-shielded state with the mechanical shutter closed, and an image signal (hereinafter referred to as “black image signal”) is obtained and stored in the memory. Thereafter, the main image signal and the black image signal are read from the memory, the black image signal is subtracted from the main image signal, and the obtained corrected image signal is stored in the memory.

特開2005−020593号公報Japanese Patent Laid-Open No. 2005-020593

しかしながら、上記補正処理を行う従来のデジタルカメラでは、本画像信号と黒画像信号をそれぞれメモリに記憶するため、補正処理を行わないデジタルカメラに比べて、より多くのメモリ領域が必要となる。特に、近年は撮像素子の多画素化が進んでいるため、黒画像信号を格納するためにメモリ領域を割いてしまうと、多くのメモリ領域を用いる連続撮影といったその他の機能が制限されてしまう可能性がある。   However, in the conventional digital camera that performs the correction process, the main image signal and the black image signal are stored in the memory, so that a larger memory area is required compared to a digital camera that does not perform the correction process. In particular, in recent years, since the number of pixels of an image sensor has been increased, if a memory area is divided to store a black image signal, other functions such as continuous shooting using a large number of memory areas may be limited. There is sex.

そこで、撮像素子から黒画像信号を取得すると同時に、メモリに格納された本画像信号を読み出し、本画像信号から黒画像信号を減算して、得られた補正画像信号をメモリに格納することが考えられる。   Therefore, it is conceivable to acquire the black image signal from the image sensor and simultaneously read the main image signal stored in the memory, subtract the black image signal from the main image signal, and store the obtained corrected image signal in the memory. It is done.

しかし、この場合には、撮像素子から黒画像信号を取得する処理に同期して、メモリからの本画像信号の読み出しと、補正画像信号の格納とを行う必要があるため、メモリに対する単位時間あたりのデータ転送量が非常に大きくなる。上述のとおり、撮像素子の多画素化が進んでいるため、画像信号のデータ量は大きくなる傾向にあり、メモリが接続されるデータバスの帯域によっては、こうした補正処理が実現できない場合がある。   However, in this case, since it is necessary to read the main image signal from the memory and store the corrected image signal in synchronization with the process of acquiring the black image signal from the image sensor, The amount of data transfer becomes very large. As described above, since the number of pixels in the image sensor is increasing, the data amount of the image signal tends to increase, and such correction processing may not be realized depending on the bandwidth of the data bus to which the memory is connected.

特に、3CCD方式のデジタルカメラなど、撮像素子を複数備える撮像装置では、画像信号のデータ量がさらに大きくなるため、こうした補正処理を実現するのは困難となる。   In particular, in an image pickup apparatus including a plurality of image pickup elements such as a 3CCD digital camera, the amount of image signal data is further increased, so that it is difficult to realize such correction processing.

本発明は上記問題点を鑑みてなされたものであり、撮像素子が複数チャンネルを介して画像信号を出力する撮像装置において、本画像信号と黒画像信号とから補正画像信号を生成する際に必要なメモリの容量を削減すると共に、メモリが接続されるデータバスの帯域が補正処理に必要な帯域となるように保障することを目的とする。   The present invention has been made in view of the above problems, and is necessary for generating a corrected image signal from a main image signal and a black image signal in an imaging apparatus in which an image sensor outputs an image signal via a plurality of channels. An object of the present invention is to reduce the capacity of the memory and to ensure that the bandwidth of the data bus to which the memory is connected becomes a bandwidth necessary for the correction processing.

上記目的を達成するために、本発明の撮像装置は、入射する被写体の光学像を光電変換して画像信号を生成し、生成した画像信号を複数のチャンネルを介して出力する撮像手段と、前記撮像手段の受光面を露光状態または遮光状態に切り替えるシャッタ手段と、前記シャッタ手段による露光状態で前記撮像手段で生成される第1の画像信号を前記複数のチャンネルから並行して出力し、前記シャッタ手段による遮光状態で前記撮像手段で生成される第2の画像信号を前記複数のチャンネル間で時分割で前記撮像手段から出力するように制御する制御手段と、前記第1の画像信号を並行して記憶する記憶手段と、前記記憶手段に記憶された第1の画像信号と、前記第2の画像信号とに基づいて、第3の画像信号を取得する演算手段とを有し、前記記憶手段の前記第1の画像信号を記憶した領域に、対応する前記第3の画像信号を記憶する。   In order to achieve the above object, an imaging apparatus according to the present invention includes an imaging unit that photoelectrically converts an optical image of an incident subject to generate an image signal, and outputs the generated image signal through a plurality of channels; A shutter unit that switches a light receiving surface of the imaging unit to an exposure state or a light shielding state; and a first image signal generated by the imaging unit in an exposure state by the shutter unit is output in parallel from the plurality of channels; Control means for controlling the second image signal generated by the imaging means in a light-shielded state by the means to be output from the imaging means in a time-sharing manner among the plurality of channels, and the first image signal in parallel. Storage means, and a calculation means for obtaining a third image signal based on the first image signal and the second image signal stored in the storage means, A region for storing the first image signal memory means, stores the third image signals corresponding.

また、入射する被写体の光学像を光電変換して画像信号を生成し、生成した画像信号を複数のチャンネルを介して出力する撮像手段と、前記撮像手段の受光面を露光状態または遮光状態に切り替えるシャッタ手段と、前記複数チャンネルから並行して出力される画像信号を並行して記憶可能な記憶手段とを有する撮像装置の本発明の制御方法は、前記シャッタ手段による露光状態で前記撮像手段で生成される第1の画像信号を前記複数のチャンネルから並行して出力する第1の出力ステップと、前記第1の出力ステップで出力された前記第1の画像信号を並行して記憶する第1の記憶ステップと、前記シャッタ手段による遮光状態で前記撮像手段で生成される第2の画像信号を前記複数のチャンネル間で時分割で前記撮像手段から出力する第2の出力ステップと、前記第1の記憶ステップで記憶された第1の画像信号と、前記第2の出力ステップで出力された前記第2の画像信号とに基づいて、第3の画像信号を取得する演算ステップと、前記記憶手段の前記第1の画像信号を記憶した領域に、対応する前記第3の画像信号を記憶する第2の記憶ステップと有する。   In addition, an optical image of an incident subject is photoelectrically converted to generate an image signal, and the generated image signal is output via a plurality of channels, and a light receiving surface of the imaging unit is switched between an exposure state and a light shielding state. The control method of the present invention for an image pickup apparatus having shutter means and storage means capable of storing image signals output in parallel from the plurality of channels in parallel is generated by the image pickup means in an exposure state by the shutter means. A first output step for outputting the first image signal to be output from the plurality of channels in parallel, and a first output step for storing the first image signal output in the first output step in parallel. A second step of storing the second image signal generated by the imaging means in a light-shielded state by the shutter means and outputting from the imaging means in a time division manner among the plurality of channels; Obtaining a third image signal based on the output step, the first image signal stored in the first storage step, and the second image signal output in the second output step And a second storage step of storing the corresponding third image signal in the area of the storage means storing the first image signal.

また、別の構成によれば、本発明の撮像装置は、入射する被写体の光学像を光電変換して画像信号を生成し、生成した画像信号を複数のチャンネルを介して並行して出力する撮像手段と、前記撮像手段の受光面を露光状態または遮光状態に切り替えるシャッタ手段と、前記シャッタ手段による露光状態または遮光状態のいずれか一方の状態で前記撮像手段から得られる第1の画像信号を、複数のバスを介して並行して記憶する複数の記憶手段と、前記記憶手段に記憶された第1の画像信号と、前記シャッタ手段による露光状態または遮光状態の他方の状態で前記撮像手段から得られる第2の画像信号とに基づいて、第3の画像信号を取得する演算手段とを有し、前記記憶手段の前記第1の画像信号を記憶した領域に、対応する前記第3の画像信号を記憶する。   According to another configuration, the imaging apparatus of the present invention photoelectrically converts an optical image of an incident subject to generate an image signal, and outputs the generated image signal in parallel via a plurality of channels. A first image signal obtained from the imaging means in any one of an exposure state or a light shielding state by the shutter means, a shutter means for switching the light receiving surface of the imaging means to an exposure state or a light shielding state, Obtained from the imaging means in a plurality of storage means for storing in parallel via a plurality of buses, a first image signal stored in the storage means, and an exposure state or a light shielding state by the shutter means. Calculation means for obtaining a third image signal based on the second image signal, and the third image corresponding to the area of the storage means storing the first image signal. And stores the issue.

また、入射する被写体の光学像を光電変換して画像信号を生成し、生成した画像信号を複数のチャンネルを介して並行して出力する撮像手段と、前記撮像手段の受光面を露光状態または遮光状態に切り替えるシャッタ手段と、前記複数チャンネルから並行して出力される画像信号を、複数のバスを介して並行して記憶可能な複数の記憶手段とを有する撮像装置の本発明の制御方法は、前記シャッタ手段による露光状態または遮光状態のいずれか一方の状態で前記撮像手段で生成される第1の画像信号を前記複数のチャンネルから並行して出力する第1の出力ステップと、前記第1の出力ステップで出力された前記第1の画像信号を、複数のバスを介して複数の記憶手段に並行して記憶する第1の記憶ステップと、前記シャッタ手段による露光状態または遮光状態の他方の状態で前記撮像手段で生成される第2の画像信号を前記複数のチャンネルから並行して出力する第2の出力ステップと、前記第1の記憶ステップで記憶された第1の画像信号と、前記第2の出力ステップで出力された第2の画像信号とに基づいて、第3の画像信号を取得する演算ステップと、前記記憶手段の前記第1の画像信号を記憶した領域に、対応する前記第3の画像信号を記憶する第2の記憶ステップと有する。   In addition, an optical image of an incident subject is photoelectrically converted to generate an image signal, and the generated image signal is output in parallel via a plurality of channels, and a light receiving surface of the imaging unit is exposed or shielded. The control method of the present invention for an imaging apparatus having shutter means for switching to a state and a plurality of storage means capable of storing image signals output in parallel from the plurality of channels in parallel via a plurality of buses, A first output step for outputting, in parallel from the plurality of channels, a first image signal generated by the imaging unit in either one of an exposure state or a light shielding state by the shutter unit; A first storage step for storing the first image signal output in the output step in parallel in a plurality of storage means via a plurality of buses; and exposure by the shutter means A second output step for outputting the second image signal generated by the imaging means in parallel from the plurality of channels in the other state of the state or the light-shielding state, and the first stored in the first storage step A calculation step of obtaining a third image signal based on the first image signal and the second image signal output in the second output step; and storing the first image signal of the storage means And a second storage step for storing the corresponding third image signal in the area.

本発明によれば、撮像素子が複数チャンネルを介して画像信号を出力する撮像装置において、本画像信号と黒画像信号とから補正画像信号を生成する際に必要なメモリの容量を削減すると共に、メモリが接続されるデータバスの帯域が補正処理に必要な帯域となるように保障することができる。   According to the present invention, in an image pickup apparatus in which an image pickup device outputs an image signal via a plurality of channels, the memory capacity required for generating a corrected image signal from the main image signal and the black image signal is reduced. It is possible to ensure that the bandwidth of the data bus to which the memory is connected is the bandwidth required for the correction process.

以下、添付図面を参照して本発明を実施するための最良の形態を詳細に説明する。   The best mode for carrying out the present invention will be described below in detail with reference to the accompanying drawings.

<第1の実施形態>
本第1の実施形態では、3CCD方式の撮像素子を備えるデジタルカメラに代表される撮像装置について説明する。この撮像装置は、3チャンネルの画像信号を同時に取得した後、1チャンネルずつ時分割で固定パターンノイズに対する補正処理を行って、補正画像信号をメモリに格納する構成を有する。なお、以下の説明では撮像素子がCCDであるものとして説明するが、CCDイメージセンサ以外に、MOSイメージセンサ、CdS−Se密着型イメージセンサ、a−Si(アモルファスシリコン)密着型イメージセンサ、バイポーラ密着型イメージセンサ等があり、いずれを用いてもよい。
<First Embodiment>
In the first embodiment, an image pickup apparatus typified by a digital camera including a 3CCD image pickup device will be described. This image pickup apparatus has a configuration in which after acquiring image signals of three channels at the same time, correction processing for fixed pattern noise is performed in a time division manner for each channel and the corrected image signal is stored in a memory. In the following description, it is assumed that the imaging device is a CCD. However, in addition to the CCD image sensor, a MOS image sensor, a CdS-Se contact image sensor, an a-Si (amorphous silicon) contact image sensor, a bipolar contact sensor. There are type image sensors, and any of them may be used.

図1は、第1の実施形態における撮像装置100の構成を示すブロック図である。   FIG. 1 is a block diagram illustrating a configuration of the imaging apparatus 100 according to the first embodiment.

撮像装置100において102はCPUであり、バス101を介して、RAM103、ROM104、キー操作処理部(KEY)105、入力画像処理エンジン(INPUT)111、出力画像処理エンジン(OUTPUT)121と接続されている。更に、レンズ制御部(LENS)140、3つのアナログフロントエンド(AFE)144〜146にも接続されている。CPU102はROM104に格納されている制御プログラムを基に動作し、動作時の一時的な情報の格納場所としてRAM103を用いる。   In the imaging apparatus 100, a CPU 102 is connected to a RAM 103, a ROM 104, a key operation processing unit (KEY) 105, an input image processing engine (INPUT) 111, and an output image processing engine (OUTPUT) 121 via a bus 101. Yes. Further, it is also connected to a lens control unit (LENS) 140 and three analog front ends (AFE) 144 to 146. The CPU 102 operates based on a control program stored in the ROM 104, and uses the RAM 103 as a temporary information storage location during operation.

画像記録装置100には、図示しないが、モードダイヤルやシャッタボタン、十字キーといった操作キーがあり、ユーザによるキー操作の状態は、キー操作処理部105で保持される。CPU102の制御プログラムは、定期的に操作キーの操作の状態をキー操作処理部105より取得する。そして、CPU102の制御プログラムは取得した操作キーの操作状態に基づき、レンズ制御部140と、AFE144〜146と、入力画像処理エンジン111と、出力画像処理エンジン121とを制御して、後述する静止画記録処理を行う。なお、これらの制御は、後述する入力画像処理エンジン111からの一定周期の割り込みに同期して行われる。   Although not shown, the image recording apparatus 100 has operation keys such as a mode dial, a shutter button, and a cross key. The key operation state of the user is held by the key operation processing unit 105. The control program of the CPU 102 periodically acquires the operation state of the operation key from the key operation processing unit 105. Then, the control program of the CPU 102 controls the lens control unit 140, the AFEs 144 to 146, the input image processing engine 111, and the output image processing engine 121 based on the acquired operation state of the operation keys, and a still image to be described later. Perform the recording process. Note that these controls are performed in synchronization with interruptions of a certain period from the input image processing engine 111 described later.

AFE144〜146は制御プログラムの制御に基づいて動作し、それぞれがCCD141〜143を駆動して取得したR、G、Bチャンネルの画像信号を、入力画像処理エンジン111に出力する。   The AFEs 144 to 146 operate based on the control of the control program, and output R, G, and B channel image signals acquired by driving the CCDs 141 to 143 to the input image processing engine 111, respectively.

入力画像処理エンジン111はCPU102の制御プログラムによる制御に基づいて動作するASIC(Application Specific IC)である。入力画像処理エンジン111は一定周期でアサートされるHD(水平同期)信号と、VD(垂直同期)信号を生成する。VD信号のアサート時には、入力画像処理エンジン111はCPU102に対して割り込みを行う。また、AFE144、145、146より入力されたR、G、Bチャンネルの画像信号に対する信号処理を行う。ここで、信号処理を行うための一時的な画像信号の格納場所として2つのRAM114、115を用いる。   The input image processing engine 111 is an ASIC (Application Specific IC) that operates based on control by the control program of the CPU 102. The input image processing engine 111 generates an HD (horizontal synchronization) signal and a VD (vertical synchronization) signal that are asserted at a constant period. When the VD signal is asserted, the input image processing engine 111 interrupts the CPU 102. Further, signal processing is performed on R, G, and B channel image signals input from the AFEs 144, 145, and 146. Here, two RAMs 114 and 115 are used as temporary image signal storage locations for signal processing.

そして、入力画像処理エンジン111は、信号処理を行って得られた出力画像信号を出力画像処理エンジン121に出力する。更に、信号処理を行って得られた記録画像信号をJPEGコーデック112により符号化し、メモリカード制御部(CARD)116を介して、図示しないメモリカード・スロットにセットされたメモリカードに書き込む。   Then, the input image processing engine 111 outputs an output image signal obtained by performing signal processing to the output image processing engine 121. Further, the recorded image signal obtained by performing the signal processing is encoded by the JPEG codec 112 and written into a memory card set in a memory card slot (not shown) via the memory card control unit (CARD) 116.

出力画像処理エンジン121はCPU102の制御プログラムによる制御に基づいて動作するASICであり、入力画像処理エンジン111より入力された画像信号に対する信号処理を行う。ここで、信号処理を行うための一時的な画像信号の格納場所としてRAM124を用いる。また、信号処理を行って得られた出力画像信号は、LCD制御部126から不図示のLCD画面へ出力されたり、ビデオ出力制御部128から不図示のビデオ出力端子へ出力されたりする。また、信号処理を行って得られた出力画像信号は、磁気テープ記録制御部(TAPE)125から不図示の磁気テープへ記録したり、通信制御部(1394)129において所定の通信フォーマットに変換された後、不図示の通信出力端子へ出力されたりする。さらに、発音制御部(SPEAKER)127は、不図示のスピーカーに警告音を鳴らしたり、画像信号とともに音声が記録されていた場合は、音声再生を行う。   The output image processing engine 121 is an ASIC that operates based on control by the control program of the CPU 102, and performs signal processing on the image signal input from the input image processing engine 111. Here, the RAM 124 is used as a temporary image signal storage location for signal processing. An output image signal obtained by performing the signal processing is output from the LCD control unit 126 to an LCD screen (not shown) or output from the video output control unit 128 to a video output terminal (not shown). Further, the output image signal obtained by performing the signal processing is recorded on a magnetic tape (not shown) from the magnetic tape recording control unit (TAPE) 125 or converted into a predetermined communication format by the communication control unit (1394) 129. After that, it is output to a communication output terminal (not shown). Further, the sound generation control unit (SPEAKER) 127 performs sound reproduction when a warning sound is sounded from a speaker (not shown) or when sound is recorded together with an image signal.

図2は、画像記録装置100の光学系の構成を示すブロック図である。レンズ150から入射した被写体像は、プリズム152によりR、G、Bの3原色に分光され、CCD141、142、143の受光面がそれぞれ露光される。プリズム152とレンズ150との間にはメカシャッタ151が設けられている。CPU102の制御プログラムがレンズ制御部140によってメカシャッタ151の開閉状態を制御することで、CCD141、142、143の受光面は露光状態または遮光状態となる。   FIG. 2 is a block diagram showing the configuration of the optical system of the image recording apparatus 100. The subject image incident from the lens 150 is split into three primary colors R, G, and B by the prism 152, and the light receiving surfaces of the CCDs 141, 142, and 143 are exposed. A mechanical shutter 151 is provided between the prism 152 and the lens 150. When the control program of the CPU 102 controls the open / close state of the mechanical shutter 151 by the lens control unit 140, the light receiving surfaces of the CCDs 141, 142, and 143 are in an exposure state or a light shielding state.

次に、本発明の第1の実施形態において入力画像処理エンジン111で行われる静止画記録処理について説明する。   Next, the still image recording process performed by the input image processing engine 111 in the first embodiment of the present invention will be described.

なお、ユーザは制御プログラムによってLCD画面に表示されたメニュー表示により、対話的に十字キーを操作することで、予め静止画記録時のシャッタ速度を設定しておくことができる。入力されたシャッタ速度は、CCD141〜143における電荷の蓄積時間(または、撮像装置の露光時間)に相当する。シャッタ速度が比較的遅い(つまり、露光時間が長い)場合には、撮像素子周辺で発生する高速パルスや、撮像素子の構造に起因して発生するノイズを補正する補正処理を行う。これに対し、シャッタ速度が比較的速い(つまり、露光時間が短い)場合には、こういったノイズの影響が少ないため、補正処理を行わない。補正処理を行うか否かの判断は、シャッタ速度が予め設定された所定時間よりも長いか短いかを判定した結果に基づいて行われ、この判断基準となる所定時間は、例えばCCD141〜143の特性等により適宜変更することが可能である。   Note that the user can set the shutter speed at the time of recording a still image in advance by interactively operating the cross key by the menu display displayed on the LCD screen by the control program. The input shutter speed corresponds to the charge accumulation time (or the exposure time of the imaging device) in the CCDs 141 to 143. When the shutter speed is relatively slow (that is, the exposure time is long), correction processing is performed to correct high-speed pulses generated around the image sensor and noise generated due to the structure of the image sensor. On the other hand, when the shutter speed is relatively fast (that is, the exposure time is short), the influence of such noise is small, so that the correction process is not performed. The determination as to whether or not to perform the correction process is made based on the result of determining whether the shutter speed is longer or shorter than a predetermined time set in advance. The predetermined time serving as the determination reference is, for example, that of the CCDs 141 to 143. It can be appropriately changed depending on characteristics or the like.

[補正処理なし]
まず、上記構成を有する画像記録装置100における、補正処理を行わない静止画記録処理について説明する。
[No correction]
First, the still image recording process in which the correction process is not performed in the image recording apparatus 100 having the above configuration will be described.

画像記録装置100のモードダイヤルが静止画記録モードを選択している状態において、ユーザがシャッタボタンを押下することにより、CPU102の制御プログラムは静止画記録処理を開始する。   When the user presses the shutter button while the mode dial of the image recording apparatus 100 selects the still image recording mode, the control program of the CPU 102 starts the still image recording process.

図4は補正処理を行わない静止画記録処理のタイミングチャートである。補正処理を行わない場合は、3つのCCD141、142、143及びAFE144、145、146の制御方法は同一であるため、図4ではそれらの制御に関する信号をまとめて記述している。CPU102の制御プログラムはAFE144〜146を制御して、CCD141〜143のリセットを指示するSUB信号と、CCD141〜143に蓄積された電荷の読み出しを指示するSG信号をCCD141〜143に送る。   FIG. 4 is a timing chart of a still image recording process in which no correction process is performed. When the correction process is not performed, the control methods of the three CCDs 141, 142, and 143 and the AFEs 144, 145, and 146 are the same, and FIG. 4 collectively describes signals related to these controls. The control program of the CPU 102 controls the AFEs 144 to 146 to send a SUB signal instructing resetting of the CCDs 141 to 143 and an SG signal instructing reading of charges accumulated in the CCDs 141 to 143 to the CCDs 141 to 143.

CCD141〜143はSUB信号を受けると、それまでに蓄積された電荷をクリアして、その後SG信号を受けるまでの期間に電荷の蓄積を行い、SG信号を受けると蓄積された電荷を各CCD141〜143の内部の図示しない伝送路にそれぞれ格納する。伝送路に格納された電荷は、入力画像処理エンジン111からAFE144〜146を介して送られる水平同期(HD)信号、垂直同期(VD)信号に同期して画像信号として取得され、AFE144〜146においてA/D変換され、入力画像処理エンジン111へと入力される。   When the CCDs 141 to 143 receive the SUB signal, the charges accumulated so far are cleared, and then the charges are accumulated in the period until the SG signal is received. Each of them is stored in a transmission path (not shown) inside 143. The electric charge stored in the transmission path is acquired as an image signal in synchronization with a horizontal synchronization (HD) signal and a vertical synchronization (VD) signal sent from the input image processing engine 111 via the AFEs 144 to 146, and in the AFEs 144 to 146. A / D converted and input to the input image processing engine 111.

なお、ユーザがシャッタボタンを押下する以前に取得された画像信号は、プレビュー画像として入力画像処理エンジン111で処理される。なお、プレビュー画像の処理内容は一般的なものであって、本発明の目的とは異なるのでここでは説明を割愛する。ユーザがシャッタボタンを押下する(t11)と、次のSG信号が送られた時点(t13)で、直前のSUB信号が送られて(t12)からCCD141〜143に蓄積された電荷が伝送路に格納される。従って、t12で送られるSUB信号は、次のSG信号が送られるまでの時間(t12〜t13)が、上述した予め設定されたシャッタ速度に対応した時間となるように、そのタイミングが制御される。勿論、SUB信号ではなく、SG信号のタイミングを制御するようにしてもよい。また、SG信号のタイミング(t13)に同期して、CPU102の制御プログラムはレンズ制御部140に対してメカシャッタ151を閉じる命令を出し、CCD141〜143を遮光状態にする。 Note that an image signal acquired before the user presses the shutter button is processed by the input image processing engine 111 as a preview image. Note that the processing content of the preview image is general and is different from the object of the present invention, so the description is omitted here. When the user presses the shutter button (t 11 ), at the time (t 13 ) when the next SG signal is sent, the charges accumulated in the CCDs 141 to 143 after the immediately preceding SUB signal is sent (t 12 ) Stored in the transmission line. Accordingly, the timing of the SUB signal sent at t 12 is such that the time (t 12 to t 13 ) until the next SG signal is sent is a time corresponding to the above-described preset shutter speed. Be controlled. Of course, you may make it control the timing of SG signal instead of a SUB signal. Further, in synchronization with the timing of the SG signal (t 13 ), the control program of the CPU 102 issues a command to close the mechanical shutter 151 to the lens control unit 140 to put the CCDs 141 to 143 in a light shielding state.

上述したようにして伝送路に格納された電荷は、所定の期間(t13〜t14)にそれぞれAFE144〜146を介して本画像信号として入力画像処理エンジン111に入力される。 The charge stored in the transmission path as described above is input to the input image processing engine 111 as a main image signal through the AFEs 144 to 146 during a predetermined period (t 13 to t 14 ), respectively.

補正処理を行わない静止画記録では、入力画像処理エンジン111に入力された本画像信号は、一時的にRAM114、115に格納される。図3はRAM114、115のメモリマップを示しており、領域301がRAM114に割り当てられ、領域302がRAM115に割り当てられる。メモリマップは複数のフレームによって構成されており、フレームによって格納する画像信号の種類が異なる。まず、AFE144、145、146から入力されたR、G、B各チャンネルの本画像信号は、R、G、BチャンネルのRAWデータとしてそれぞれ、領域302のRAW_R、RAW_G、RAW_Bフレームに格納される。このとき、本画像信号の取得期間に、3チャンネル分のRAWデータの書き込みがRAM115に対して発生する。入力画像処理エンジン111とRAM115を接続するバスは、最低限このデータ転送速度を満たす帯域を持つ必要がある。   In still image recording without correction processing, the main image signal input to the input image processing engine 111 is temporarily stored in the RAMs 114 and 115. FIG. 3 shows a memory map of the RAMs 114 and 115, where the area 301 is allocated to the RAM 114 and the area 302 is allocated to the RAM 115. The memory map is composed of a plurality of frames, and the types of image signals stored differ depending on the frames. First, the main image signals of the R, G, and B channels input from the AFEs 144, 145, and 146 are stored in the RAW_R, RAW_G, and RAW_B frames of the area 302 as R, G, and B channel RAW data, respectively. At this time, writing of RAW data for three channels occurs in the RAM 115 during the acquisition period of the main image signal. The bus connecting the input image processing engine 111 and the RAM 115 needs to have a bandwidth that satisfies at least this data transfer rate.

続いて、RAM115の領域302に格納されたR、G、BチャンネルのRAWデータは、入力画像処理エンジン111により色空間変換、γ処理、解像度変換などの画像処理が行われ、YCCデータとして領域302のYCCフレームに格納される。YCCデータは入力画像エンジン111内部のJPEGコーデック112により符号化され、JPEGデータとして領域301、302にまたがるJPEGフレームに格納される。JPEGデータはカード制御部116を介して、図示しないメモリカード・スロットにセットされたメモリカードに書き込まれる。一方、YCCデータに対し、入力画像処理エンジン111によりレベル変換、解像度変換などの画像処理が行われ、出力画像データとして領域301のVFR0フレーム(またはVFR1フレーム)に格納される。そして、出力画像データは入力画像処理エンジン111を介して、出力画像処理エンジン121に出力される。   Subsequently, the RAW data of the R, G, and B channels stored in the area 302 of the RAM 115 is subjected to image processing such as color space conversion, γ processing, and resolution conversion by the input image processing engine 111, and the area 302 is converted into YCC data. Stored in the YCC frame. The YCC data is encoded by the JPEG codec 112 inside the input image engine 111 and stored as a JPEG data in a JPEG frame extending over the areas 301 and 302. The JPEG data is written to a memory card set in a memory card slot (not shown) via the card control unit 116. On the other hand, the YCC data is subjected to image processing such as level conversion and resolution conversion by the input image processing engine 111, and is stored in the VFR0 frame (or VFR1 frame) of the area 301 as output image data. The output image data is output to the output image processing engine 121 via the input image processing engine 111.

[補正処理あり]
次に、本第1の実施形態における補正処理を行う静止画記録処理について説明する。
[With correction processing]
Next, the still image recording process for performing the correction process in the first embodiment will be described.

図5は本第1の実施形態における補正処理を行う静止画記録処理のタイミングチャートである。補正処理を行う場合には、3つのCCD141、142、143とそれらに対するAFE144、145、146の制御方法が異なるため、図5ではそれらの制御に関する信号を別々に記述している。   FIG. 5 is a timing chart of still image recording processing for performing correction processing in the first embodiment. When correction processing is performed, the control methods of the three CCDs 141, 142, and 143 and the AFEs 144, 145, and 146 for the three CCDs 141, 142, and 143 are different.

ユーザがシャッタボタンを押下するまでは、図4を参照して説明した補正処理を行わない場合と同じ制御方法によりプレビュー画像を取得する処理を行う。ユーザがシャッタボタンを押下する(t21)と、CPU102の制御プログラムは、SUB信号を送り(t22)、CCD141〜143の電荷をクリアする。そして、予め設定されたシャッタ速度に対応する時間経過後、SG信号を送る(t23)。このようにして、SUB信号が送られた時点から、次のSG信号が送られるまで(t22〜t23)に蓄積された電荷が転送路に格納されることになる。また、SG信号のタイミング(t23)に同期して、CPU102の制御プログラムはレンズ制御部140に対してメカシャッタ151を閉じる命令を出し、CCD141〜143を遮光状態にする。 Until the user presses the shutter button, a process for acquiring a preview image is performed by the same control method as that in the case where the correction process described with reference to FIG. 4 is not performed. When the user presses the shutter button (t 21 ), the control program of the CPU 102 sends a SUB signal (t 22 ) and clears the charges of the CCDs 141 to 143. Then, after the time corresponding to the preset shutter speed has elapsed, an SG signal is sent (t 23 ). In this manner, the electric charge accumulated from the time when the SUB signal is sent until the next SG signal is sent (t 22 to t 23 ) is stored in the transfer path. Further, in synchronization with the timing (t 23 ) of the SG signal, the control program of the CPU 102 issues a command to close the mechanical shutter 151 to the lens control unit 140 to put the CCDs 141 to 143 in a light shielding state.

上述したようにして伝送路に格納された電荷は、所定の期間(t23〜t25)にそれぞれAFE144〜146を介して本画像信号として入力画像処理エンジン111に入力される。 The charges stored in the transmission path as described above are input to the input image processing engine 111 as main image signals via the AFEs 144 to 146 for a predetermined period (t 23 to t 25 ), respectively.

入力画像処理エンジン111に入力された本画像信号は、補正処理を行わない静止画記録の場合と同様に、R、G、B各チャンネルのRAWデータとして、図3に示す領域302のRAW_R、RAW_G、RAW_Bフレームにそれぞれ格納される。   As in the case of still image recording without correction processing, the main image signal input to the input image processing engine 111 is used as RAW data for each of the R, G, and B channels as RAW_R and RAW_G in the area 302 shown in FIG. , And stored in the RAW_B frame.

続いて、CCD141〜143をメカシャッタ151により遮光した状態で画像信号(黒画像信号)を取得する。本画像信号の取得は3つのAFE144、145、146から同時に行っていたのに比べ、黒画像信号の取得は3つCCD141〜143からの画像信号の出力タイミングが互いに重ならないように、時間差を設けて行う。   Subsequently, an image signal (black image signal) is acquired in a state where the CCDs 141 to 143 are shielded from light by the mechanical shutter 151. Compared to the acquisition of the main image signal from the three AFEs 144, 145, and 146 at the same time, the acquisition of the black image signal has a time difference so that the output timings of the image signals from the three CCDs 141 to 143 do not overlap each other. Do it.

まず、t23で本画像信号を伝送路に格納した後、RチャンネルのAFE144に対してSUB信号を送り(t24)、本画像信号と同じ蓄積時間をおいてSG信号を送り(t28)、蓄積された電荷をCCD141の伝送路に格納する。そして、伝送路に格納された電荷は、所定の期間(t28〜t29)にAFE144を介してRチャンネルの黒画像信号として入力画像処理エンジン111に入力される。 First, after storing this image signal to the transmission path at t 23, it sends a SUB signal to AFE144 R channel (t 24), sends the SG signal at a same accumulation time as this image signal (t 28) The accumulated charge is stored in the transmission path of the CCD 141. The electric charge stored in the transmission path is input to the input image processing engine 111 as an R channel black image signal via the AFE 144 during a predetermined period (t 28 to t 29 ).

一方、RチャンネルのCCD141の電荷蓄積開始(t24)後、画像信号の取得期間(t28〜t29)と等しい位相差を設けて、GチャンネルのAFE145に対してSUB信号を送り(t26)、CCD142の電荷蓄積を開始する。そして、本画像信号と同じ蓄積時間をおいてSG信号を送り(t29)、蓄積された電荷をCCD142の伝送路に格納する。このように、位相差を設けて制御することで、Rチャンネルの黒画像信号の取得を終えると同時にGチャンネルの黒画像信号を取得することができる。そして、伝送路に格納された電荷は、所定の期間(t29〜t30)にAFE145を介してGチャンネルの黒画像信号として入力画像処理エンジン111に入力される。 On the other hand, after the charge accumulation of the R-channel CCD 141 is started (t 24 ), a phase difference equal to the image signal acquisition period (t 28 to t 29 ) is provided, and a SUB signal is sent to the G-channel AFE 145 (t 26 ), Charge accumulation of the CCD 142 is started. Then, the SG signal is sent with the same accumulation time as that of the main image signal (t 29 ), and the accumulated electric charge is stored in the transmission path of the CCD 142. In this way, by controlling by providing a phase difference, it is possible to acquire the G channel black image signal simultaneously with the end of the acquisition of the R channel black image signal. The electric charge stored in the transmission path is input to the input image processing engine 111 as a G-channel black image signal via the AFE 145 during a predetermined period (t 29 to t 30 ).

更に、GチャンネルのCCD142の電荷蓄積開始(t26)後、画像信号の取得期間(t29〜t30)と等しい位相差を設けて、BチャンネルのAFE146に対してSUB信号を送り(t27)、CCD143の電荷蓄積を開始する。そして、本画像信号と同じ蓄積時間をおいてSG信号を送り(t30)、蓄積された電荷をCCD143の伝送路に格納する。このように、位相差を設けて制御することで、Bチャンネルの黒画像信号の取得を終えると同時にBチャンネルの黒画像信号を取得することができる。そして、伝送路に格納された電荷は、所定の期間(t30〜t31)にAFE146を介してBチャンネルの黒画像信号として入力画像処理エンジン111に入力される。 Further, after the charge accumulation of the G-channel CCD 142 is started (t 26 ), a phase difference equal to the image signal acquisition period (t 29 to t 30 ) is provided, and a SUB signal is sent to the B-channel AFE 146 (t 27 ), The charge accumulation of the CCD 143 is started. Then, the SG signal is sent at the same accumulation time as the main image signal (t 30 ), and the accumulated electric charge is stored in the transmission path of the CCD 143. In this way, by controlling by providing a phase difference, it is possible to acquire the black image signal of the B channel simultaneously with the completion of the acquisition of the black image signal of the B channel. The charge stored in the transmission path is input to the input image processing engine 111 as a B channel black image signal via the AFE 146 during a predetermined period (t 30 to t 31 ).

図6は図3の領域302のRAW_R、RAW_G、RAW_Bに格納された本画像信号のR、G、B各チャンネルのRAWデータの画像を示す図である。それぞれ、CCD141〜143が持つ固定パターンノイズの影響が、画像に白線や白点などの形で表れている。補正処理を行わない場合には、これらのRAWデータから得られるYCCデータは図7のようになり、記録画像にも固定パターンノイズが大いに影響を及ぼす。   FIG. 6 is a diagram showing an image of RAW data of each channel of R, G, and B of the main image signal stored in RAW_R, RAW_G, and RAW_B in the area 302 of FIG. The influence of the fixed pattern noise of the CCDs 141 to 143 appears in the form of white lines or white dots in the image. When correction processing is not performed, the YCC data obtained from these RAW data is as shown in FIG. 7, and the fixed pattern noise greatly affects the recorded image.

図8はCCD141、142、143から取得したR、G、Bチャンネルの黒画像信号の画像を示す図であり、それぞれの固定パターンノイズのみが取得されている。図5のRチャンネルの黒画像信号の取得(t28)に同期して、入力画像処理エンジン111はRAW_Rフレームに格納されたRチャンネルの本画像信号を読み出し、本画像信号から黒画像信号の減算を行う。そして減算して得られたRチャンネルの補正画像信号を新たなRAWデータとして、再びRAW_Rフレームに格納する。 FIG. 8 is a diagram showing images of black image signals of R, G, and B channels acquired from the CCDs 141, 142, and 143, and only fixed pattern noises are acquired. In synchronization with the acquisition of the black image signal of the R channel in FIG. 5 (t 28 ), the input image processing engine 111 reads the main image signal of the R channel stored in the RAW_R frame and subtracts the black image signal from the main image signal. I do. Then, the corrected image signal of the R channel obtained by subtraction is stored again in the RAW_R frame as new RAW data.

同様に、G、Bチャンネルの黒画像信号の取得(t29、t30)に同期して、G、Bチャンネルの本画像信号を読み出し、本画像信号から黒画像信号の減算を行う。そして、減算して得られら補正画像信号を新たなRAWデータとして、再びRAW_G、RAW_Bフレームに格納する。 Similarly, in synchronization with the acquisition of the black image signals of the G and B channels (t 29 , t 30 ), the main image signals of the G and B channels are read and the black image signal is subtracted from the main image signals. Then, the corrected image signal obtained by the subtraction is stored again in the RAW_G and RAW_B frames as new RAW data.

このとき、R、G、B各チャンネルの黒画像信号の取得期間に、1チャンネル分のRAWデータの読み出し(補正前)と書き込み(補正後)が、RAM115に対して発生する。しかしながら、入力画像処理エンジン111とRAM115を接続するバスは上述の通り、最低限でもR、G、B3チャンネル分のRAWデータの書き込みを満たす帯域を持っている。そのため、読み出しと書き出しのバスに対する負荷がほぼ同じであるとすれば、この条件は自動的に満たされる。   At this time, reading (before correction) and writing (after correction) of RAW data for one channel occur in the RAM 115 during the acquisition period of the black image signals of the R, G, and B channels. However, as described above, the bus connecting the input image processing engine 111 and the RAM 115 has a bandwidth that satisfies the writing of RAW data for R, G, and B3 channels as a minimum. Therefore, if the load on the read and write buses is almost the same, this condition is automatically satisfied.

図9はR、G、Bチャンネルの補正されたRAWデータを示す図である。補正前のRAWデータ(図6)に比べ、固定パターンノイズの影響による白線や白点などが除去された画像となる。   FIG. 9 is a diagram showing the corrected RAW data of the R, G, and B channels. Compared with the RAW data before correction (FIG. 6), the image is obtained by removing white lines and white spots due to the influence of fixed pattern noise.

これ以降の処理は、補正処理を行わない静止画記録と同様である。即ち、補正されたR、G、BチャンネルのRAWデータに対して、入力画像処理エンジン111により色空間変換、γ処理、解像度変換などの画像処理が行われ、YCCデータとして領域302のYCCフレームに格納される。なお、図10は、補正された後のYCCデータの画像を示す図であり、図7と比較して、固定パターンノイズの影響による白線や白点などが除去された画像となる。   The subsequent processing is the same as still image recording without correction processing. That is, the corrected R, G, and B channel RAW data is subjected to image processing such as color space conversion, γ processing, and resolution conversion by the input image processing engine 111, and converted into YCC data in the region 302 as YCC data. Stored. FIG. 10 is a diagram showing an image of YCC data after correction, and is an image from which white lines and white dots due to the influence of fixed pattern noise are removed, compared to FIG.

上記の通り本第1の実施形態によれば、黒画像信号の読み出しをチャンネル間でずらして行うことで、補正処理を各チャンネル毎に処理することが可能となる。このように、補正処理の為に使用するメモリの容量を増やすことなく、また、メモリが接続されるデータバスの帯域条件内で、補正処理を実行することが可能となる。   As described above, according to the first embodiment, it is possible to perform the correction process for each channel by performing reading of the black image signal by shifting between the channels. Thus, the correction process can be executed without increasing the capacity of the memory used for the correction process and within the bandwidth condition of the data bus to which the memory is connected.

なお、上記図5に示す例では、各チャンネル毎に黒画像取得時に、電荷を蓄積するタイミングを異ならせる場合について説明したが、本発明はこれに限るものではない。例えば、CCD141〜143において同時に電荷を蓄積し、蓄積した電荷を垂直転送部に保持しておき、垂直転送部から読み出すタイミングをチャンネル間でずらすようにしてもよい。   In the example shown in FIG. 5 described above, the case where the charge accumulation timing is changed for each channel when acquiring a black image has been described. However, the present invention is not limited to this. For example, charges may be accumulated simultaneously in the CCDs 141 to 143, the accumulated charges may be held in the vertical transfer unit, and the read timing from the vertical transfer unit may be shifted between channels.

<第2の実施形態>
次に、本発明の第2の実施形態について説明する。
<Second Embodiment>
Next, a second embodiment of the present invention will be described.

第2の実施形態の画像記録装置は、第1の実施形態の画像記録装置に比べ、3チャンネル同時に補正処理を行う点と、チャンネルによって本画像信号と補正画像信号を複数のメモリに分けて格納する点が異なる。   Compared to the image recording apparatus of the first embodiment, the image recording apparatus of the second embodiment stores the main image signal and the corrected image signal in a plurality of memories according to the point that correction processing is performed simultaneously for three channels and the channel. The point to do is different.

[補正処理なし]
上記第1の実施形態における補正処理を行わない静止画記録処理と同様である。ただし、本画像信号を格納するRAW_R、RAW_G、RAW_Bフレームは、図3に示す構成と異なり、図12を参照して後述するように、RAM114、115に振り分けられている。
[No correction]
This is the same as the still image recording process in which the correction process is not performed in the first embodiment. However, unlike the configuration shown in FIG. 3, the RAW_R, RAW_G, and RAW_B frames for storing the main image signal are allocated to the RAMs 114 and 115 as described later with reference to FIG.

[補正処理あり]
図11は本第2の実施形態における補正処理を行う静止画記録のタイミングチャートである。3つのCCD141、142、143およびAFE144、145、146の制御方法が同一のため、図11ではそれらに対する信号をまとめて記述している。
[With correction processing]
FIG. 11 is a timing chart of still image recording for performing the correction processing in the second embodiment. Since the control methods of the three CCDs 141, 142, and 143 and the AFEs 144, 145, and 146 are the same, the signals for these are collectively shown in FIG.

ユーザがシャッタボタンを押下するまでは、図4を参照して説明した補正処理を行わない場合と同じ制御方法によりプレビュー画像を取得する処理を行う。ユーザがシャッタボタンを押下する(t41)と、CPU102の制御プログラムは、SUB信号を送り(t42)、CCD141〜143の電荷をクリアする。そして、予め設定されたシャッタ速度に対応する時間経過後、SG信号を送る(t43)。このようにして、SUB信号が送られた時点から、次のSG信号が送られるまで(t42〜t43)に蓄積された電荷が転送路に格納されることになる。また、SG信号のタイミング(t43)に同期して、CPU102の制御プログラムはレンズ制御部140に対してメカシャッタ151を閉じる命令を出し、CCD141〜143を遮光状態にする。 Until the user presses the shutter button, a process for acquiring a preview image is performed by the same control method as that in the case where the correction process described with reference to FIG. 4 is not performed. When the user presses the shutter button (t 41 ), the control program of the CPU 102 sends a SUB signal (t 42 ) and clears the charges of the CCDs 141 to 143. Then, after the time corresponding to the preset shutter speed has elapsed, an SG signal is sent (t 43 ). In this way, the charge accumulated from the time when the SUB signal is sent until the next SG signal is sent (t 42 to t 43 ) is stored in the transfer path. Further, in synchronization with the timing of the SG signal (t 43 ), the control program of the CPU 102 issues a command to close the mechanical shutter 151 to the lens control unit 140 to put the CCDs 141 to 143 in a light-shielded state.

上述したようにして伝送路に格納された電荷は、所定の期間(t43〜t45)にそれぞれAFE144〜146を介して本画像信号として入力画像処理エンジン111に入力される。 The charge stored in the transmission path as described above is input to the input image processing engine 111 as a main image signal via the AFEs 144 to 146 during a predetermined period (t 43 to t 45 ), respectively.

入力画像処理エンジン111に入力された本画像信号は、一時的にRAM114、115に格納される。図12は、本第2の実施形態におけるRAM114、115のメモリマップを示しており、領域401がRAM114に割り当てられ、領域402がRAM115に割り当てられる。第1の実施形態の図3に示すメモリマップとの違いは、3チャンネルのRAWデータ格納用フレームのうち、RAW_Rフレームのみ他のフレームと異なるRAM114の領域401に割り当てられている点である。   The main image signal input to the input image processing engine 111 is temporarily stored in the RAMs 114 and 115. FIG. 12 shows a memory map of the RAMs 114 and 115 in the second embodiment. The area 401 is allocated to the RAM 114 and the area 402 is allocated to the RAM 115. The difference from the memory map shown in FIG. 3 of the first embodiment is that only the RAW_R frame of the three-channel RAW data storage frame is assigned to the area 401 of the RAM 114 different from the other frames.

すなわち、AFE144、145、146から入力されたR、G、B各チャンネルの本画像信号は、R、G、BチャンネルのRAWデータとしてそれぞれ、領域401のRAW_Rフレームと、領域402のRAW_G、RAW_Bフレームに格納される。このとき、本画像信号の取得期間に、RAM114に対しては1チャンネル分のRAWデータの書き込みが、RAM115に対しては2チャンネル分のRAWデータの書き込みが発生する。入力画像処理エンジン111とRAM114及び115を接続するバスは、最低限このデータ転送速度を満たす帯域を持つ必要がある。   That is, the main image signals of the R, G, and B channels input from the AFEs 144, 145, and 146 are the RAW_R frame in the region 401 and the RAW_G and RAW_B frames in the region 402 as RAW data of the R, G, and B channels, respectively. Stored in At this time, the RAW data for one channel is written to the RAM 114 and the RAW data for two channels is written to the RAM 115 during the acquisition period of the main image signal. The bus connecting the input image processing engine 111 and the RAMs 114 and 115 needs to have a bandwidth that satisfies this data transfer rate at a minimum.

続いて、CCD141〜143をメカシャッタ151により遮光した状態で画像信号(黒画像信号)を取得する。本第2の実施形態では、まず、t43で本画像信号を伝送路に格納した後、AFE144〜146に対してSUB信号を送り(t44)、本画像信号と同じ蓄積時間をおいてSG信号を送り(t46)、蓄積された電荷をCCD141〜143の伝送路にそれぞれ格納する。そして、伝送路に格納された電荷は、所定の期間(t46〜t47)にAFE144〜146を介してR、G、B各チャンネルの黒画像信号として入力画像処理エンジン111に入力される。 Subsequently, an image signal (black image signal) is acquired in a state where the CCDs 141 to 143 are shielded from light by the mechanical shutter 151. In the second embodiment, first, after storing this image signal to the transmission path at t 43, sends a SUB signal to AFE144~146 (t 44), at the same storage time and the image signal SG A signal is sent (t 46 ), and the accumulated charges are stored in the transmission paths of the CCDs 141 to 143, respectively. The charges stored in the transmission path are input to the input image processing engine 111 as black image signals of R, G, and B channels via the AFEs 144 to 146 during a predetermined period (t 46 to t 47 ).

次に、上述した黒画像信号の取得(t46)に同期して、入力画像処理エンジン111はRAW_R、RAW_G、RAW_Bフレームに格納された3チャンネル分の本画像信号を読み出し、それぞれの本画像信号から黒画像信号の減算を行う。そして減算して得られた3チャンネル分の補正画像信号を新たなRAWデータとして再びRAW_R、RAW_G、RAW_Bフレームに格納する。 Next, in synchronization with the above-described black image signal acquisition (t 46 ), the input image processing engine 111 reads out the main image signals for three channels stored in the RAW_R, RAW_G, and RAW_B frames, and outputs the respective main image signals. The black image signal is subtracted from. Then, the corrected image signals for three channels obtained by the subtraction are stored again in the RAW_R, RAW_G, and RAW_B frames as new RAW data.

このとき、黒画像信号の取得期間に、RAM114に対しては1チャンネル分のRAWデータの読み出し(補正前)と書き込み(補正後)が、RAM115に対しては2チャンネル分のRAWデータの読み出し(補正前)と書き込み(補正後)が発生する。入力画像処理エンジン111とRAM115を接続するバスは、最低限2チャンネル分のRAWデータの読み出しと書き込みのデータ転送速度を同時に満たす帯域を持つ必要がある。3チャンネル分のRAWフレームを1つのRAMに割り付けた場合には、3チャンネル分のRAWデータの読み出しと書き込みのデータ転送速度を同時に満たす必要がある。そのため、本第2の実施形態で示すようにRAWフレームを2つのRAMに振り分けたほうがバス帯域の観点から見て有利である。   At this time, during the black image signal acquisition period, RAW data for one channel is read (before correction) and written (after correction) to the RAM 114, and RAW data for two channels is read from the RAM 115 (after correction). Before correction) and writing (after correction) occur. The bus connecting the input image processing engine 111 and the RAM 115 needs to have a bandwidth that satisfies the data transfer speeds for reading and writing RAW data for at least two channels at the same time. When RAW frames for three channels are allocated to one RAM, it is necessary to satisfy the data transfer rates for reading and writing RAW data for three channels at the same time. Therefore, as shown in the second embodiment, it is more advantageous from the viewpoint of the bus bandwidth to distribute the RAW frame to two RAMs.

なお、上記第1の実施形態および第2の実施形態では一例として、先に本画像信号を取得してメモリに格納し、後で黒画像信号を取得しながら上記メモリより本画像信号を読み出して補正処理を行う場合について説明した。しかし、本発明はこれに限られるものではなく、先に黒画像信号をRAM114、115に格納しておき、後で本画像信号を取得しながらRAM114、115より黒画像信号を読み出して補正処理を行うようにしてもよい。   In the first and second embodiments, as an example, the main image signal is first acquired and stored in the memory, and the black image signal is acquired later and the main image signal is read from the memory. The case where the correction process is performed has been described. However, the present invention is not limited to this. First, the black image signal is stored in the RAMs 114 and 115, and the black image signal is read from the RAMs 114 and 115 while the main image signal is acquired later, and correction processing is performed. You may make it perform.

また、本第2の実施形態では一例として、2つのメモリに画像信号を振り分けて格納するデジタルカメラについて説明したが、3つ以上のメモリに振り分けることも勿論可能である。また、1つのメモリが複数のバスインターフェイスを備える場合にインターフェイスごとに振り分けるようにしてもよい。   In the second embodiment, as an example, a digital camera that distributes and stores image signals in two memories has been described. However, it is of course possible to distribute to three or more memories. Further, when one memory includes a plurality of bus interfaces, it may be distributed for each interface.

また、上記第1の実施形態および第2の実施形態では一例として、撮影する色ごとにチャンネルを分ける3CCD方式の撮像素子を持つデジタルカメラについて説明した。この構成以外にも、撮像素子の画素やラインの位置、ダイナミックレンジなどによってチャンネルを分けるような場合にも、本発明を適用することが可能である。   In the first and second embodiments, as an example, a digital camera having a 3CCD image sensor that divides a channel for each color to be photographed has been described. In addition to this configuration, the present invention can also be applied to a case where channels are divided according to the position of a pixel or line of an image sensor, a dynamic range, or the like.

本発明の実施の形態における撮像装置の構成を示すブロック図である。It is a block diagram which shows the structure of the imaging device in embodiment of this invention. 本発明の実施の形態における撮像装置の光学系の構成を示すブロック図である。It is a block diagram which shows the structure of the optical system of the imaging device in embodiment of this invention. 本発明の第1の実施形態における静止画記録時のメモリマップを示す図である。It is a figure which shows the memory map at the time of the still image recording in the 1st Embodiment of this invention. 本発明の実施の形態における補正処理を行わない静止画記録処理のタイミングチャートである。6 is a timing chart of still image recording processing without performing correction processing in the embodiment of the present invention. 本発明の第1の実施形態における補正処理を行う静止画記録処理のタイミングチャートである。3 is a timing chart of still image recording processing for performing correction processing according to the first embodiment of the present invention. 固定パターンノイズを含むR、G、Bの本画像信号(RAWデータ)の画像の一例を示す図である。It is a figure which shows an example of the image of the main image signal (RAW data) of R, G, and B containing fixed pattern noise. 固定パターンノイズを含む記録画像(YCCデータ)の一例を示す図である。It is a figure which shows an example of the recording image (YCC data) containing fixed pattern noise. R、G、Bの黒画像信号の一例を示す図である。It is a figure which shows an example of the black image signal of R, G, B. 補正処理を行ったR、G、Bの補正画像信号(RAWデータ)の画像の一例を示す図である。It is a figure which shows an example of the image of the correction | amendment image signal (RAW data) of R, G, B which performed the correction process. 補正処理を行った記録画像(YCCデータ)の一例を示す図である。It is a figure which shows an example of the recorded image (YCC data) which performed the correction process. 本発明の第2の実施形態における補正処理を行う静止画記録処理のタイミングチャートである。It is a timing chart of the still picture recording processing which performs amendment processing in the 2nd embodiment of the present invention. 本発明の第2の実施形態における静止画記録時のメモリマップを示す図である。It is a figure which shows the memory map at the time of the still image recording in the 2nd Embodiment of this invention.

符号の説明Explanation of symbols

100 撮像装置
101 バス
102 CPU
103 RAM
104 ROM
105 キー操作処理部
111 入力画像処理エンジン
112 JPEGコーデック
114、115 RAM
116 メモリカード制御部
121 出力画像処理エンジン
124 RAM
125 テープ制御部
126 LCD制御部
127 スピーカー制御部
128 ビデオ出力制御部
129 1394入出力制御部
140 レンズ制御部
141〜143 CCD
144〜146 AFE
150 レンズ
151 メカシャッタ
152 プリズム
100 Imaging device 101 Bus 102 CPU
103 RAM
104 ROM
105 Key operation processing unit 111 Input image processing engine 112 JPEG codec 114, 115 RAM
116 Memory card control unit 121 Output image processing engine 124 RAM
125 Tape control unit 126 LCD control unit 127 Speaker control unit 128 Video output control unit 129 1394 I / O control unit 140 Lens control units 141 to 143 CCD
144-146 AFE
150 Lens 151 Mechanical shutter 152 Prism

Claims (8)

入射する被写体の光学像を光電変換して画像信号を生成し、生成した画像信号を複数のチャンネルを介して出力する撮像手段と、
前記撮像手段の受光面を露光状態または遮光状態に切り替えるシャッタ手段と、
前記シャッタ手段による露光状態で前記撮像手段で生成される第1の画像信号を前記複数のチャンネルから並行して出力し、前記シャッタ手段による遮光状態で前記撮像手段で生成される第2の画像信号を前記複数のチャンネル間で時分割で前記撮像手段から出力するように制御する制御手段と、
前記第1の画像信号を並行して記憶する記憶手段と、
前記記憶手段に記憶された第1の画像信号と、前記第2の画像信号とに基づいて、第3の画像信号を取得する演算手段とを有し、
前記記憶手段の前記第1の画像信号を記憶した領域に、対応する前記第3の画像信号を記憶することを特徴とする撮像装置。
Imaging means for photoelectrically converting an optical image of an incident subject to generate an image signal, and outputting the generated image signal via a plurality of channels;
Shutter means for switching the light receiving surface of the imaging means to an exposure state or a light shielding state;
A first image signal generated by the imaging unit in an exposure state by the shutter unit is output in parallel from the plurality of channels, and a second image signal generated by the imaging unit in a light-shielded state by the shutter unit. Control means for controlling to output from the imaging means in time division between the plurality of channels,
Storage means for storing the first image signal in parallel;
Computation means for obtaining a third image signal based on the first image signal stored in the storage means and the second image signal;
An image pickup apparatus, wherein the corresponding third image signal is stored in an area of the storage means in which the first image signal is stored.
入射する被写体の光学像を光電変換して画像信号を生成し、生成した画像信号を複数のチャンネルを介して並行して出力する撮像手段と、
前記撮像手段の受光面を露光状態または遮光状態に切り替えるシャッタ手段と、
前記シャッタ手段による露光状態または遮光状態のいずれか一方の状態で前記撮像手段から得られる第1の画像信号を、複数のバスを介して並行して記憶する複数の記憶手段と、
前記記憶手段に記憶された第1の画像信号と、前記シャッタ手段による露光状態または遮光状態の他方の状態で前記撮像手段から得られる第2の画像信号とに基づいて、第3の画像信号を取得する演算手段とを有し、
前記記憶手段の前記第1の画像信号を記憶した領域に、対応する前記第3の画像信号を記憶することを特徴とする撮像装置。
An imaging unit that photoelectrically converts an optical image of an incident subject to generate an image signal, and outputs the generated image signal in parallel via a plurality of channels;
Shutter means for switching the light receiving surface of the imaging means to an exposure state or a light shielding state;
A plurality of storage means for storing the first image signal obtained from the imaging means in either one of an exposure state and a light shielding state by the shutter means in parallel via a plurality of buses;
Based on the first image signal stored in the storage means and the second image signal obtained from the imaging means in the other state of exposure or light shielding by the shutter means, a third image signal is obtained. And an arithmetic means for acquiring,
An image pickup apparatus, wherein the corresponding third image signal is stored in an area of the storage means in which the first image signal is stored.
前記複数のバスは、前記複数チャンネル分の信号を並行して記憶及び読み出し可能な帯域を少なくとも有することを特徴とする請求項2に記載の撮像装置。   The imaging apparatus according to claim 2, wherein the plurality of buses have at least a band in which signals for the plurality of channels can be stored and read out in parallel. 前記演算手段は、前記第1の画像信号と前記第2の画像信号との差分を演算して第3の画像信号を取得することを特徴とする請求項1乃至3のいずれかに記載の撮像装置。   4. The imaging according to claim 1, wherein the calculation unit calculates a difference between the first image signal and the second image signal to obtain a third image signal. 5. apparatus. 入射する被写体の光学像を光電変換して画像信号を生成し、生成した画像信号を複数のチャンネルを介して出力する撮像手段と、前記撮像手段の受光面を露光状態または遮光状態に切り替えるシャッタ手段と、前記複数チャンネルから並行して出力される画像信号を並行して記憶可能な記憶手段とを有する撮像装置の制御方法であって、
前記シャッタ手段による露光状態で前記撮像手段で生成される第1の画像信号を前記複数のチャンネルから並行して出力する第1の出力ステップと、
前記第1の出力ステップで出力された前記第1の画像信号を並行して記憶する第1の記憶ステップと、
前記シャッタ手段による遮光状態で前記撮像手段で生成される第2の画像信号を前記複数のチャンネル間で時分割で前記撮像手段から出力する第2の出力ステップと、
前記第1の記憶ステップで記憶された第1の画像信号と、前記第2の出力ステップで出力された前記第2の画像信号とに基づいて、第3の画像信号を取得する演算ステップと、
前記記憶手段の前記第1の画像信号を記憶した領域に、対応する前記第3の画像信号を記憶する第2の記憶ステップと
有することを特徴とする制御方法。
An imaging unit that photoelectrically converts an optical image of an incident subject to generate an image signal, and outputs the generated image signal through a plurality of channels, and a shutter unit that switches a light receiving surface of the imaging unit to an exposure state or a light shielding state And an imaging device control method having storage means capable of storing image signals output in parallel from the plurality of channels in parallel,
A first output step for outputting in parallel from the plurality of channels a first image signal generated by the imaging means in an exposure state by the shutter means;
A first storage step for storing in parallel the first image signal output in the first output step;
A second output step of outputting a second image signal generated by the imaging unit in a light-shielded state by the shutter unit from the imaging unit in a time-sharing manner between the plurality of channels;
A calculation step of obtaining a third image signal based on the first image signal stored in the first storage step and the second image signal output in the second output step;
A control method comprising: a second storage step of storing the corresponding third image signal in an area of the storage means storing the first image signal.
入射する被写体の光学像を光電変換して画像信号を生成し、生成した画像信号を複数のチャンネルを介して並行して出力する撮像手段と、前記撮像手段の受光面を露光状態または遮光状態に切り替えるシャッタ手段と、前記複数チャンネルから並行して出力される画像信号を、複数のバスを介して並行して記憶可能な複数の記憶手段とを有する撮像装置の制御方法であって、
前記シャッタ手段による露光状態または遮光状態のいずれか一方の状態で前記撮像手段で生成される第1の画像信号を前記複数のチャンネルから並行して出力する第1の出力ステップと、
前記第1の出力ステップで出力された前記第1の画像信号を、複数のバスを介して複数の記憶手段に並行して記憶する第1の記憶ステップと、
前記シャッタ手段による露光状態または遮光状態の他方の状態で前記撮像手段で生成される第2の画像信号を前記複数のチャンネルから並行して出力する第2の出力ステップと、
前記第1の記憶ステップで記憶された第1の画像信号と、前記第2の出力ステップで出力された第2の画像信号とに基づいて、第3の画像信号を取得する演算ステップと、
前記記憶手段の前記第1の画像信号を記憶した領域に、対応する前記第3の画像信号を記憶する第2の記憶ステップと
有することを特徴とする制御方法。
An imaging unit that photoelectrically converts an optical image of an incident subject to generate an image signal, and outputs the generated image signal in parallel through a plurality of channels; and a light receiving surface of the imaging unit in an exposure state or a light shielding state An image pickup apparatus control method comprising: a shutter unit for switching; and a plurality of storage units capable of storing image signals output in parallel from the plurality of channels in parallel via a plurality of buses,
A first output step for outputting, in parallel from the plurality of channels, a first image signal generated by the imaging unit in either one of an exposure state or a light shielding state by the shutter unit;
A first storage step for storing the first image signal output in the first output step in parallel in a plurality of storage means via a plurality of buses;
A second output step of outputting a second image signal generated by the imaging means in parallel from the plurality of channels in the other state of the exposure state or the light shielding state by the shutter means;
A calculation step of obtaining a third image signal based on the first image signal stored in the first storage step and the second image signal output in the second output step;
A control method comprising: a second storage step of storing the corresponding third image signal in an area of the storage means storing the first image signal.
前記複数のバスは、前記複数チャンネル分の信号を並行して記憶及び読み出し可能な帯域を少なくとも有することを特徴とする請求項6に記載の制御方法。   The control method according to claim 6, wherein the plurality of buses have at least a band in which signals for the plurality of channels can be stored and read out in parallel. 前記演算ステップでは、前記第1の画像信号と前記第2の画像信号との差分を演算して第3の画像信号を取得することを特徴とする請求項5乃至7のいずれかに記載の制御方法。   8. The control according to claim 5, wherein, in the calculation step, a third image signal is obtained by calculating a difference between the first image signal and the second image signal. 9. Method.
JP2005221467A 2005-07-29 2005-07-29 Imaging apparatus and control method thereof Pending JP2007037051A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005221467A JP2007037051A (en) 2005-07-29 2005-07-29 Imaging apparatus and control method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005221467A JP2007037051A (en) 2005-07-29 2005-07-29 Imaging apparatus and control method thereof

Publications (2)

Publication Number Publication Date
JP2007037051A true JP2007037051A (en) 2007-02-08
JP2007037051A5 JP2007037051A5 (en) 2008-09-11

Family

ID=37795698

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005221467A Pending JP2007037051A (en) 2005-07-29 2005-07-29 Imaging apparatus and control method thereof

Country Status (1)

Country Link
JP (1) JP2007037051A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100905082B1 (en) * 2007-04-17 2009-06-30 엠텍비젼 주식회사 Method and device for processing image

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0451786A (en) * 1990-06-20 1992-02-20 Olympus Optical Co Ltd Solid-state image pickup device
JPH0468876A (en) * 1990-07-05 1992-03-04 Kinki Univ Video photographing device for measuring high flow velocity place
JPH04170876A (en) * 1990-11-05 1992-06-18 Canon Inc Image pickup signal processor
JPH0851571A (en) * 1994-08-03 1996-02-20 Olympus Optical Co Ltd Electronic image pickup device
JPH09322073A (en) * 1996-05-27 1997-12-12 Olympus Optical Co Ltd Image input device
JP2000188763A (en) * 1998-12-21 2000-07-04 Toshiba Corp Digital camera system

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0451786A (en) * 1990-06-20 1992-02-20 Olympus Optical Co Ltd Solid-state image pickup device
JPH0468876A (en) * 1990-07-05 1992-03-04 Kinki Univ Video photographing device for measuring high flow velocity place
JPH04170876A (en) * 1990-11-05 1992-06-18 Canon Inc Image pickup signal processor
JPH0851571A (en) * 1994-08-03 1996-02-20 Olympus Optical Co Ltd Electronic image pickup device
JPH09322073A (en) * 1996-05-27 1997-12-12 Olympus Optical Co Ltd Image input device
JP2000188763A (en) * 1998-12-21 2000-07-04 Toshiba Corp Digital camera system

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100905082B1 (en) * 2007-04-17 2009-06-30 엠텍비젼 주식회사 Method and device for processing image

Similar Documents

Publication Publication Date Title
KR100666290B1 (en) Image pick up device and image pick up method
US7432958B2 (en) Image pickup apparatus with function of adjusting incident light quantity
EP1246453A2 (en) Signal processing apparatus and method, and image sensing apparatus
KR20110109905A (en) Camera system, video processing apparatus, and camera apparatus
JP2007300368A (en) Solid-state imaging device
JP2009253667A (en) Moving image processing device, moving image processing method, and moving image processing program
JP4616429B2 (en) Image processing device
JP4367910B2 (en) Solid-state imaging device
JP2007228099A (en) Imaging apparatus
JP3980781B2 (en) Imaging apparatus and imaging method
JP2001346095A (en) Digital still camera
JP6118118B2 (en) Imaging apparatus and control method thereof
JP2002335454A (en) Image processing unit, image processing method and imaging apparatus
JP4288992B2 (en) Imaging apparatus and method
JPH1169226A (en) Electronic camera
JP2010147774A (en) Imaging apparatus
JP2007037051A (en) Imaging apparatus and control method thereof
JP2005277618A (en) Photography taking apparatus and device and method for correcting shading
JPH07123421A (en) Image pickup device
JP4687619B2 (en) Image processing apparatus, image processing method, and program
JP5004693B2 (en) Image processing apparatus, noise removal method thereof, and program
JPH09275527A (en) Digital still camera
JP4635076B2 (en) Solid-state imaging device
JP2000115693A (en) Image data recording method and device, image data reproducing method and device, information recording medium and computer-readable recording medium
JP4956341B2 (en) IMAGING DEVICE, ITS CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080728

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080728

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101109

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101115

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110112

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110204