JP6230365B2 - Imaging apparatus and control method thereof - Google Patents

Imaging apparatus and control method thereof Download PDF

Info

Publication number
JP6230365B2
JP6230365B2 JP2013213929A JP2013213929A JP6230365B2 JP 6230365 B2 JP6230365 B2 JP 6230365B2 JP 2013213929 A JP2013213929 A JP 2013213929A JP 2013213929 A JP2013213929 A JP 2013213929A JP 6230365 B2 JP6230365 B2 JP 6230365B2
Authority
JP
Japan
Prior art keywords
signal
period
pixel
row
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013213929A
Other languages
Japanese (ja)
Other versions
JP2015076852A (en
Inventor
敏和 柳井
敏和 柳井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013213929A priority Critical patent/JP6230365B2/en
Publication of JP2015076852A publication Critical patent/JP2015076852A/en
Application granted granted Critical
Publication of JP6230365B2 publication Critical patent/JP6230365B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、撮像装置及びその制御方法に関する。   The present invention relates to an imaging apparatus and a control method thereof.

デジタルスチルカメラやデジタルビデオカメラなど、撮像素子を用いて撮像し、撮像画像をデジタルデータとして保存する撮像装置が普及している。このような撮像装置に用いる撮像素子は、CCD(Charge Coupled Device)型イメージセンサ(以下、CCDセンサ)が一般的であった。近年では、撮像素子の多画素化が進むにつれ、CMOS(Complementary Metal Oxide Semiconductor)型イメージセンサ(以下、CMOSセンサ)が注目されている。   2. Description of the Related Art Imaging devices that capture an image using an image sensor and store the captured image as digital data, such as a digital still camera and a digital video camera, are widely used. An image pickup element used in such an image pickup apparatus is generally a CCD (Charge Coupled Device) type image sensor (hereinafter referred to as a CCD sensor). In recent years, CMOS (Complementary Metal Oxide Semiconductor) type image sensors (hereinafter referred to as CMOS sensors) have attracted attention as the number of pixels in an image sensor increases.

CMOSセンサの特徴の一つに、ローリングシャッタ動作(フォーカルプレーンシャッタ動作とも呼ばれる)がある。ローリングシャッタ動作は、2次元配列された複数の画素を画素行毎に順次走査して信号の読み出しと出力を行うため、画素行毎に信号の読み出しと出力のための時間差を持った動作となっている(例えば、特許文献1の図9参照)。   One of the features of the CMOS sensor is a rolling shutter operation (also called a focal plane shutter operation). The rolling shutter operation scans a plurality of two-dimensionally arranged pixels sequentially for each pixel row to read out and output a signal, and thus has a time difference for reading and outputting a signal for each pixel row. (For example, refer to FIG. 9 of Patent Document 1).

さらに、CMOSセンサは、画素信号のランダムアクセスが可能である点や、CCDセンサと比較して画素信号の読み出しが高速で、高感度、低消費電力といった特徴がある。CMOSセンサを高速に動作させて高いフレームレートを実現する方法として、画素信号の読み出しから外部へ出力するまでの手段を複数持つ方法が提案されている(例えば、特許文献2の図5参照)。この方法によれば、例えば1行目の画素の信号と2行目の画素の信号を異なる読み出し手段及び異なる出力手段を用いて、2行の信号を同時に出力することが可能となり、2倍のフレームレートを実現することが可能となる。   Further, the CMOS sensor has features such that the pixel signal can be randomly accessed, and the pixel signal can be read out at a higher speed, higher sensitivity, and lower power consumption than the CCD sensor. As a method for realizing a high frame rate by operating a CMOS sensor at high speed, a method having a plurality of means from reading a pixel signal to outputting it to the outside has been proposed (see, for example, FIG. 5 of Patent Document 2). According to this method, for example, it is possible to simultaneously output two rows of signals using different readout means and different output means for the pixels of the first row and the pixels of the second row. A frame rate can be realized.

CMOSセンサの高画素化・高精細化に伴い、画素サイズの縮小が強く求められており、特に画素において飽和・感度といった特性を維持したまま複数の読み出し手段を持つことは非常に困難になっている。これに対して、画素の信号を列方向に読み出す信号線は共通にして、出力手段は複数持つ方法が提案されている(例えば、特許文献2の図1参照)。   With the increase in pixels and resolution of CMOS sensors, there is a strong demand for reduction in pixel size, and it becomes extremely difficult to have multiple readout means while maintaining characteristics such as saturation and sensitivity, especially in pixels. Yes. On the other hand, a method has been proposed in which signal lines for reading out pixel signals in the column direction are shared and a plurality of output means are provided (see, for example, FIG. 1 of Patent Document 2).

この方法では、まず、1行目の画素の信号を列方向に共通の信号線を通して、画素領域外にある第1の回路部に読み出す。読み出された1行目の画素の信号は、第1の回路部で所定の処理を施された後に、第1の出力手段からデジタル信号として出力される。また、1行目の画素の信号を第1の回路部に読み出した後に、2行目の画素の信号を列方向に共通の信号線を通して、画素領域外にある第2の回路部に読み出す。読み出された2行目の画素の信号は、第2の回路部で所定の処理を施された後に、第2の出力手段からデジタル信号として出力される。この方法によれば、1行目の画素の信号と2行目の画素の信号を共通の読み出し手段と異なる出力手段を用いて、2行の信号を別々に出力することが可能となり、2倍のフレームレートを実現することが可能となる。この方法は、2行の信号を完全同時に出力しているわけではないので、2行の信号を並列的に出力すると表現する。   In this method, first, the signal of the pixel in the first row is read out to the first circuit portion outside the pixel region through a common signal line in the column direction. The read signal of the pixels in the first row is subjected to a predetermined process in the first circuit unit and then output as a digital signal from the first output means. Further, after reading the signal of the pixel in the first row to the first circuit portion, the signal of the pixel in the second row is read out to the second circuit portion outside the pixel region through a common signal line in the column direction. The read pixel signals in the second row are subjected to predetermined processing in the second circuit unit, and then output as digital signals from the second output means. According to this method, it is possible to output the signals of the pixels in the first row and the signals of the pixels in the second row separately from the common readout means, and to output the signals in the two rows separately. The frame rate can be realized. Since this method does not output two rows of signals at the same time, it expresses that two rows of signals are outputted in parallel.

この方法は、1行目の画素の信号を第1の回路部に読み出した後に、2行目の画素の信号を第2の回路部に読み出す。そのため、1行目の画素の出力信号の出力タイミングと2行目の画素の出力信号の出力タイミングとの間には、1行目の画素の信号を第1の回路部に読み出す時間分の時間差が生じる。また、1行目の画素の信号を第1の出力手段から出力させた後に、3行目の画素の信号を第1の回路部に読み出すことになる。そのため、第1の出力手段から出力される1行目の画素の信号の出力タイミングと3行目の画素の信号の出力タイミングとの間には、水平同期期間分の時間差が生じていることになる。これにより、2行目の画素の出力信号の出力タイミングと3行目の画素の出力信号の出力タイミングとの間には、1行目の画素の信号を第1の回路部に読み出す時間を、水平同期期間から差し引いた時間分の時間差が生じることになる。したがって、1行目の画素と2行目の画素の読み出しタイミングのずれと、2行目の画素と3行目の画素の信号の読み出しタイミングのずれが異なることになる。   In this method, the signal of the pixel in the first row is read out to the first circuit portion, and then the signal of the pixel in the second row is read out to the second circuit portion. Therefore, there is a time difference between the output timing of the output signal of the pixel in the first row and the output timing of the output signal of the pixel in the second row by the time for reading the signal of the pixel in the first row to the first circuit unit. Occurs. In addition, after the signal of the pixel in the first row is output from the first output means, the signal of the pixel in the third row is read out to the first circuit portion. Therefore, there is a time difference corresponding to the horizontal synchronization period between the output timing of the first row pixel signal output from the first output means and the output timing of the third row pixel signal. Become. Thereby, between the output timing of the output signal of the pixel of the second row and the output timing of the output signal of the pixel of the third row, the time for reading the signal of the pixel of the first row to the first circuit unit, A time difference corresponding to the time subtracted from the horizontal synchronization period will occur. Therefore, the difference in readout timing between the pixels in the first row and the pixel in the second row is different from the difference in readout timing of signals from the pixels in the second row and the pixels in the third row.

特開2006−191236号公報JP 2006-191236 A 特開2005−347932号公報JP 2005-347932 A

CMOSセンサにおいて、高速読み出し動作を実現させるために、前述した2行の信号を並列的に出力する方法を用いた場合には、1行目の画素と2行目の画素の読み出しタイミングのずれと、2行目の画素と3行目の画素の読み出しタイミングのずれが異なる。その結果、移動している被写体を撮像した画像等において、読み出しタイミングのずれが異なることにより、被写体の動きがぎくしゃくしたり、被写体の境界がギザついたりする。本発明の目的は、撮像素子の高速読み出し動作及びローリングシャッタ動作時の画質の向上をともに実現できる撮像装置及び撮像装置の制御方法を提供することである。   In the CMOS sensor, when the above-described method of outputting the signals of the two rows in parallel is used in order to realize a high-speed readout operation, a difference in readout timing between the pixels of the first row and the pixels of the second row The difference in readout timing between the pixels in the second row and the pixels in the third row is different. As a result, in an image or the like obtained by imaging a moving subject, the movement of the subject becomes jerky or the boundary of the subject becomes jagged due to a difference in reading timing. An object of the present invention is to provide an image pickup apparatus and an image pickup apparatus control method capable of realizing both high-speed reading operation of an image pickup element and improvement of image quality during a rolling shutter operation.

本発明に係る撮像装置は、光電変換手段をそれぞれ有する行列状に配列された複数の画素と、前記複数の画素からの信号を列毎に出力する垂直信号線と、前記複数の画素を1行ずつ選択する垂直走査手段と、前記垂直信号線に接続し画素から読み出した信号をそれぞれ処理する複数の列信号処理手段と、前記複数の列信号処理手段にそれぞれ対応し前記列信号処理手段からの信号に同期信号を付加して出力する出力手段とを有する撮像素子と、先に読み出した画素の信号の前記出力手段からの出力が完了する前に、当該出力手段に対応する前記列信号処理手段とは異なる前記列信号処理手段への次の行の画素の信号の読み出しを開始して、1水平同期期間にN行(Nは2以上の整数)の画素の信号を読み出すように前記撮像素子を制御するとともに、1水平同期期間をN分割した間隔で信号を読み出す画素の行を順に切り換えるように前記撮像素子を制御する制御手段とを備え、前記制御手段は、信号を読み出す画素の行の切り換え順に従って、画素の信号の読み出し動作を開始する前に、読み出す行とは異なる1つの行の画素の信号をリセットするように前記撮像素子を制御することを特徴とする。 An imaging apparatus according to the present invention includes a plurality of pixels arranged in a matrix each having photoelectric conversion means, a vertical signal line for outputting a signal from the plurality of pixels for each column, and the plurality of pixels in one row. Vertical scanning means for selecting each one, a plurality of column signal processing means for processing signals read from the pixels connected to the vertical signal lines, and a plurality of column signal processing means respectively corresponding to the plurality of column signal processing means from the column signal processing means An image pickup device having an output means for adding a synchronization signal to the signal and outputting the signal, and the column signal processing means corresponding to the output means before the output of the signal of the previously read pixel from the output means is completed. The image sensor is configured to start reading out signals of pixels in the next row to the column signal processing means different from the above, and read out signals of pixels in N rows (N is an integer of 2 or more) in one horizontal synchronization period. Control Moni, and control means for controlling the imaging device to switch sequentially the rows of pixels for reading out a signal at one interval of the horizontal synchronizing period is divided into N portions, the control means, the switching order of the rows of pixels for reading out signal Accordingly, before the pixel signal readout operation is started, the image sensor is controlled to reset the pixel signals of one row different from the readout row .

本発明によれば、撮像素子において複数行の画素の信号を並列的に出力することが可能になり、撮像装置における高速読み出し動作を実現することができる。また、並列的に出力される複数行について行毎の読み出しタイミングを等間隔にすることができ、なめらかなローリングシャッタ動作を実現し撮影した画像の品質を向上させることが可能になる。   According to the present invention, it is possible to output the signals of pixels in a plurality of rows in parallel in the imaging device, and it is possible to realize a high-speed reading operation in the imaging device. In addition, the readout timing for each row can be set at regular intervals for a plurality of rows output in parallel, and a smooth rolling shutter operation can be realized to improve the quality of the captured image.

本発明の実施形態に係る撮像装置の構成例を示す図である。It is a figure which shows the structural example of the imaging device which concerns on embodiment of this invention. 第1の実施形態に係る撮像素子の構成例を示す図である。It is a figure showing an example of composition of an image sensor concerning a 1st embodiment. 第1の実施形態に係る出力部の構成例を示す図である。It is a figure which shows the structural example of the output part which concerns on 1st Embodiment. 第1の実施形態に係る撮像素子の動作例を示すタイミングチャートである。3 is a timing chart illustrating an operation example of the image sensor according to the first embodiment. 第1の実施形態に係る信号処理部の入力部分の構成例を示す図である。It is a figure which shows the structural example of the input part of the signal processing part which concerns on 1st Embodiment. 第2の実施形態に係る撮像素子の構成例を示す図である。It is a figure which shows the structural example of the image pick-up element which concerns on 2nd Embodiment. 第2の実施形態に係る出力部の構成例を示す図である。It is a figure which shows the structural example of the output part which concerns on 2nd Embodiment. 第2の実施形態に係る撮像素子の動作例を示すタイミングチャートである。10 is a timing chart illustrating an operation example of the image sensor according to the second embodiment. 第2の実施形態に係る信号処理部の入力部分の構成例を示す図である。It is a figure which shows the structural example of the input part of the signal processing part which concerns on 2nd Embodiment. 第3の実施形態に係る撮像素子の動作例を示すタイミングチャートである。10 is a timing chart illustrating an operation example of an image sensor according to a third embodiment. 第3の実施形態に係る撮像素子の動作例を示すタイミングチャートである。10 is a timing chart illustrating an operation example of an image sensor according to a third embodiment. 第4の実施形態に係る撮像素子の動作例を示すタイミングチャートである。10 is a timing chart illustrating an operation example of an image sensor according to a fourth embodiment.

以下、本発明の実施形態を図面に基づいて説明する。なお、以下に説明する実施形態は、本発明の実現手段としての一例であり、本発明が適用される装置の構成や各種条件によって適宜修正又は変更されるべきものであり、本発明は以下の実施形態に限定されるものではない。   Hereinafter, embodiments of the present invention will be described with reference to the drawings. The embodiment described below is an example as means for realizing the present invention, and should be appropriately modified or changed according to the configuration and various conditions of the apparatus to which the present invention is applied. It is not limited to the embodiment.

(第1の実施形態)
図1から図5を参照して、本発明の第1の実施形態について説明する。図1は、本実施形態に係る撮像装置の構成例を示すブロック図である。本実施形態の撮像装置は、デジタルスチルカメラやデジタルビデオカメラなどに応用可能である。本実施形態の撮像装置は、図1に示すように、光学系11、撮像素子12、信号処理部13、圧縮伸張部14、同期制御部15、操作部16、画像表示部17、及び画像記録部18を有する。
(First embodiment)
A first embodiment of the present invention will be described with reference to FIGS. FIG. 1 is a block diagram illustrating a configuration example of an imaging apparatus according to the present embodiment. The imaging device of this embodiment can be applied to a digital still camera, a digital video camera, and the like. As shown in FIG. 1, the imaging apparatus according to the present embodiment includes an optical system 11, an imaging element 12, a signal processing unit 13, a compression / decompression unit 14, a synchronization control unit 15, an operation unit 16, an image display unit 17, and an image recording. Part 18.

光学系11は、被写体からの光を撮像素子12に集光するためのレンズ、レンズを移動させてズームや合焦を行うための駆動機構、メカニカルシャッタ機構、絞り機構などを備えている。これらのうちの可動部は、同期制御部15からの制御信号に基づいて駆動される。   The optical system 11 includes a lens for condensing light from a subject on the image sensor 12, a drive mechanism for moving the lens to perform zooming and focusing, a mechanical shutter mechanism, an aperture mechanism, and the like. Among these, the movable part is driven based on a control signal from the synchronization control part 15.

撮像素子12は、CMOS型イメージセンサ(CMOSセンサ)、CDS(Correlated Double Sampling)回路、AGC(Auto Gain Control)回路、AD(Analog Digital)変換器などからなる。撮像素子12は、同期制御部15からの制御信号により制御される。ここで、CMOSセンサは、XYアドレス方式で画像信号を読み出す。また、CMOSセンサは、同期制御部15からの制御信号に応じて、露光や信号読み出し、リセットなどの動作タイミングが制御されて撮像動作を実施する。そして、CDS回路によるノイズ除去、AGC回路による利得制御、及び、AD変換器によるアナログデジタル変換を経て、デジタル化された画像信号が出力される。   The image sensor 12 includes a CMOS image sensor (CMOS sensor), a CDS (Correlated Double Sampling) circuit, an AGC (Auto Gain Control) circuit, an AD (Analog Digital) converter, and the like. The image sensor 12 is controlled by a control signal from the synchronization control unit 15. Here, the CMOS sensor reads an image signal by an XY address method. Further, the CMOS sensor performs an imaging operation by controlling operation timings such as exposure, signal readout, and reset in accordance with a control signal from the synchronization control unit 15. A digitized image signal is output through noise removal by the CDS circuit, gain control by the AGC circuit, and analog-digital conversion by the AD converter.

信号処理部13は、同期制御部15の制御の下で、撮像素子12から入力されるデジタル化された画像信号に対して、ホワイトバランス調整処理や色補正処理、AF(Auto Focus)処理、AE(Auto Exposure)処理などの信号処理を施す。圧縮伸張部14は、同期制御部15の制御の下で動作し、信号処理部13からの画像信号に対して、所定の静止画像データフォーマットで圧縮符号化処理を行う。所定の静止画像データフォーマットは、例えばJPEG(Joint Photographic Coding Experts Group)方式などである。また、圧縮伸張部14は、同期制御部15から供給された静止画像の符号化データを伸張復号化処理する。さらに、MPEG(Moving Picture Experts Group)方式などにより動画像の圧縮符号化/伸張復号化処理を実行可能なようにしても良い。   The signal processing unit 13 performs white balance adjustment processing, color correction processing, AF (Auto Focus) processing, AE on the digitized image signal input from the image sensor 12 under the control of the synchronization control unit 15. Perform signal processing such as (Auto Exposure) processing. The compression / decompression unit 14 operates under the control of the synchronization control unit 15, and performs compression encoding processing on the image signal from the signal processing unit 13 in a predetermined still image data format. The predetermined still image data format is, for example, a JPEG (Joint Photographic Coding Experts Group) system. The compression / decompression unit 14 performs decompression / decoding processing on the encoded data of the still image supplied from the synchronization control unit 15. Further, it may be possible to execute compression encoding / decompression decoding processing of moving images by MPEG (Moving Picture Experts Group) method or the like.

同期制御部15は、例えば、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)などから構成されるマイクロコントローラである。同期制御部15は、ROMなどに記憶されたプログラムをCPUが実行することにより、撮像装置の各部を統括的に制御する。操作部16は、例えばシャッタレリーズボタンなどの各種操作キーやレバー、ダイヤルなどから構成され、ユーザによる入力操作に応じた制御信号を同期制御部15に出力する。   The synchronization control unit 15 is a microcontroller including, for example, a CPU (Central Processing Unit), a ROM (Read Only Memory), a RAM (Random Access Memory), and the like. The synchronization control unit 15 performs overall control of each unit of the imaging apparatus by the CPU executing a program stored in the ROM or the like. The operation unit 16 includes various operation keys such as a shutter release button, a lever, a dial, and the like, and outputs a control signal corresponding to an input operation by the user to the synchronization control unit 15.

画像表示部17は、LCD(Liquid Crystal Display)などの表示デバイスや、これに対するインタフェース回路などからなる。画像表示部17は、同期制御部15から供給された画像信号から表示デバイスに表示させるための画像信号を生成し、この信号を表示デバイスに供給して画像を表示させる。画像記録部18は、例えば、可搬型の半導体メモリや、光ディスク、HDD(Hard Disk Drive)、磁気テープなどとして実現され、圧縮伸張部14により符号化された画像データファイルを同期制御部15から受け取って記憶する。また、画像記録部18は、同期制御部15からの制御信号により指定されたデータを読み出し、同期制御部15に出力する。   The image display unit 17 includes a display device such as an LCD (Liquid Crystal Display) and an interface circuit for the display device. The image display unit 17 generates an image signal to be displayed on the display device from the image signal supplied from the synchronization control unit 15, and supplies the signal to the display device to display an image. The image recording unit 18 is realized as, for example, a portable semiconductor memory, an optical disc, an HDD (Hard Disk Drive), a magnetic tape, or the like, and receives an image data file encoded by the compression / decompression unit 14 from the synchronization control unit 15. Remember. Further, the image recording unit 18 reads out the data designated by the control signal from the synchronization control unit 15 and outputs the data to the synchronization control unit 15.

ここで、本実施形態の撮像装置における基本的な動作について説明する。
静止画像の撮像前には、撮像素子12から出力された画像信号が信号処理部13に順次供給される。信号処理部13は、撮像素子12からのデジタル画像信号に対して画質補正処理を施し、カメラスルー画像の信号として、同期制御部15を通じて画像表示部17に供給する。これにより、カメラスルー画像が表示され、ユーザは表示画像を見て画角合わせを行うことが可能となる。
Here, a basic operation in the imaging apparatus of the present embodiment will be described.
Prior to capturing a still image, image signals output from the image sensor 12 are sequentially supplied to the signal processing unit 13. The signal processing unit 13 performs image quality correction processing on the digital image signal from the image sensor 12 and supplies the image display unit 17 through the synchronization control unit 15 as a camera-through image signal. As a result, the camera-through image is displayed, and the user can adjust the angle of view while viewing the display image.

この状態で、操作部16のシャッタレリーズボタンが押下されると、同期制御部15の制御により、撮像素子12からの1フレーム分の画像信号が信号処理部13に取り込まれる。信号処理部13は、取り込んだ1フレーム分の画像信号に画質補正処理を施し、処理後の画像信号を圧縮伸張部14に供給する。圧縮伸張部14は、入力された画像信号を圧縮符号化し、生成した符号化データを同期制御部15を通じて画像記録部18に供給する。これにより、撮像された静止画像のデータファイルが画像記録部18に記録される。   In this state, when the shutter release button of the operation unit 16 is pressed, an image signal for one frame from the image sensor 12 is taken into the signal processing unit 13 under the control of the synchronization control unit 15. The signal processing unit 13 performs image quality correction processing on the captured image signal for one frame, and supplies the processed image signal to the compression / decompression unit 14. The compression / decompression unit 14 compresses and encodes the input image signal, and supplies the generated encoded data to the image recording unit 18 through the synchronization control unit 15. As a result, the data file of the captured still image is recorded in the image recording unit 18.

画像記録部18に記録された静止画像のデータファイルを再生する場合には、同期制御部15は、操作部16からの操作入力に応じて、選択されたデータファイルを画像記録部18から読み込み、圧縮伸張部14に供給して伸張復号化処理を実行させる。復号化された画像信号は、同期制御部15を介して画像表示部17に供給され、これにより静止画像が再生表示される。   When reproducing the still image data file recorded in the image recording unit 18, the synchronization control unit 15 reads the selected data file from the image recording unit 18 in response to an operation input from the operation unit 16. The data is supplied to the compression / decompression unit 14 to execute decompression decoding processing. The decoded image signal is supplied to the image display unit 17 via the synchronization control unit 15, whereby a still image is reproduced and displayed.

また、動画像を記録する場合には、信号処理部13で順次処理された画像信号に圧縮伸張部14で圧縮符号化処理を施し、生成された動画像の符号化データを順次画像記録部18に転送して記録する。画像記録部18から動画像のデータファイルを読み出して圧縮伸張部14に供給し、伸張復号化処理させて、画像表示部17に供給することで、動画像が表示される。   When recording a moving image, the image signal sequentially processed by the signal processing unit 13 is subjected to compression encoding processing by the compression / decompression unit 14, and the encoded data of the generated moving image is sequentially converted into the image recording unit 18. Transfer to and record. The moving image data file is read from the image recording unit 18 and supplied to the compression / decompression unit 14, decompressed and decoded, and supplied to the image display unit 17, thereby displaying the moving image.

図2は、本実施形態に係る撮像素子(CMOSセンサ)12の概略構成を示す図である。撮像素子12は、複数の画素100が配された画素領域101、垂直走査部102、第1信号選択部105a及び第2信号選択部105b、第1列信号処理部106a及び第2列信号処理部106b、第1列AD部107a及び第2列AD部107bを有する。また、撮像素子12は、第1水平メモリ部108a及び第2水平メモリ部108b、第1水平走査部109a及び第2水平走査部109b、第1出力部110a及び第2出力部110b、信号生成部(TG:Timing Generator)112を有する。   FIG. 2 is a diagram showing a schematic configuration of the image sensor (CMOS sensor) 12 according to the present embodiment. The image sensor 12 includes a pixel region 101 in which a plurality of pixels 100 are arranged, a vertical scanning unit 102, a first signal selection unit 105a and a second signal selection unit 105b, a first column signal processing unit 106a, and a second column signal processing unit. 106b, a first column AD unit 107a and a second column AD unit 107b. The image sensor 12 includes a first horizontal memory unit 108a and a second horizontal memory unit 108b, a first horizontal scanning unit 109a and a second horizontal scanning unit 109b, a first output unit 110a and a second output unit 110b, and a signal generation unit. (TG: Timing Generator) 112.

画素領域101は、図2にP11〜P84で示すように複数の画素100が行方向(水平方向)・列方向(垂直方向)に行列状(マトリクス状)に配列されている。各画素100は、不図示の光電変換部とトランジスタとを有する。ここで、例えば、P11〜P14は1行目となる4画素を示し、P81〜P84は8行目となる4画素を示す。本実施形態においては、4×8配列(4列8行)の画素領域101を例として説明するが、画像領域101における画素配列は、この数に限定されるものではない。   In the pixel region 101, as indicated by P11 to P84 in FIG. 2, a plurality of pixels 100 are arranged in a matrix (matrix) in the row direction (horizontal direction) and the column direction (vertical direction). Each pixel 100 includes a photoelectric conversion unit (not shown) and a transistor. Here, for example, P11 to P14 indicate four pixels in the first row, and P81 to P84 indicate four pixels in the eighth row. In the present embodiment, a pixel area 101 having a 4 × 8 array (4 columns and 8 rows) will be described as an example. However, the pixel array in the image area 101 is not limited to this number.

垂直走査部102は、画素領域101に配列されている画素を1行ずつ選択し、選択した画素行のリセット動作や読み出し動作を駆動制御する。画素制御線103は、画素行毎に配置されて同一行の画素に共通して接続され、垂直走査部102による行単位の駆動制御信号を伝達する。   The vertical scanning unit 102 selects pixels arranged in the pixel region 101 one row at a time, and drives and controls the reset operation and readout operation of the selected pixel row. The pixel control line 103 is arranged for each pixel row and is commonly connected to pixels in the same row, and transmits a drive control signal in units of rows by the vertical scanning unit 102.

垂直信号線104は、画素列毎に配置されて同一列の画素に共通して接続され、画素制御線103により選択された行の画素の信号がそれぞれ対応する垂直信号線104に読み出される。垂直信号線104は、第1信号選択部105aを介して第1列信号処理部106aに接続可能であるとともに、第2信号選択部105bを介して第2列信号処理部106bに接続可能である。すなわち、信号選択部105a、105bは、垂直信号線104を第1列信号処理部106a或いは第2列信号処理部106bのどちらか一方に選択的に接続するスイッチとして機能する。   The vertical signal lines 104 are arranged for each pixel column and commonly connected to pixels in the same column, and signals of pixels in a row selected by the pixel control line 103 are read out to the corresponding vertical signal lines 104, respectively. The vertical signal line 104 can be connected to the first column signal processing unit 106a through the first signal selection unit 105a and can be connected to the second column signal processing unit 106b through the second signal selection unit 105b. . That is, the signal selection units 105a and 105b function as switches that selectively connect the vertical signal line 104 to either the first column signal processing unit 106a or the second column signal processing unit 106b.

列信号処理部106a、106bは、それぞれ垂直信号線104毎に設けられる不図示のCDS回路やAGC回路を有する。列信号処理部106a、106bは、垂直信号線104を通して送られてくる行単位の各列の画素の信号に対して、CDS処理により固定パターンノイズを除去して、S/N(Signal/Noise)比を良好に保つようにサンプルホールドを行う。固定パターンノイズは、画素回路内のトランジスタのしきい値のばらつきに起因するノイズである。また、列信号処理部106a、106bは、必要であれば、AGC回路による利得制御を実施する。   The column signal processing units 106 a and 106 b have a CDS circuit and an AGC circuit (not shown) provided for each vertical signal line 104. The column signal processing units 106a and 106b remove fixed pattern noise by CDS processing on the signal of each column of pixels sent through the vertical signal line 104 and perform S / N (Signal / Noise). Sample and hold to keep the ratio good. Fixed pattern noise is noise resulting from variations in threshold values of transistors in the pixel circuit. Further, the column signal processing units 106a and 106b perform gain control by an AGC circuit if necessary.

列AD部107a、107bは、垂直信号線104毎に設けられるAD変換器を有する。列AD部107a、107bは、それぞれ対応する列信号処理部106a、106bから送られてくる行単位の各列の画素の信号のそれぞれをアナログデジタル変換する。ここで、本実施形態の列AD部107a、107bは、すべて8ビット(bit)精度のAD変換器を有するものとするが、ビット精度においては、10ビット、12ビット、14ビット等のさらに高精度なAD変換器を用いても良い。   The column AD units 107 a and 107 b have AD converters provided for each vertical signal line 104. The column AD units 107a and 107b perform analog-to-digital conversion on each pixel signal of each column sent from the corresponding column signal processing units 106a and 106b. Here, the column AD units 107a and 107b of the present embodiment all have AD converters with an 8-bit precision, but the bit precision is even higher, such as 10 bits, 12 bits, and 14 bits. An accurate AD converter may be used.

水平メモリ部108a、108bは、それぞれ対応する列AD部107a、107bにおいてデジタル化された行単位の各列の画素信号を記憶する。ここで、本実施形態の水平メモリ部108a、108bは、対応する列AD部107a、107bにあわせて各列毎に8ビットのデジタル信号を記憶できるものとするが、AD変換器のビット精度に応じたビット数のデジタル信号が記憶できれば良い。   The horizontal memory units 108a and 108b store the pixel signals of the respective columns in units of rows digitized by the corresponding column AD units 107a and 107b, respectively. Here, the horizontal memory units 108a and 108b of this embodiment can store 8-bit digital signals for each column in accordance with the corresponding column AD units 107a and 107b. It is only necessary to store a digital signal having a corresponding number of bits.

水平走査部109a、109bは、それぞれ対応する水平メモリ部108a、108bに記憶しているデジタル化された画素信号を、それぞれ対応する出力部110a、110bに列毎に選択して転送するように、水平メモリ部108a、108bを制御する。   The horizontal scanning units 109a and 109b select and transfer the digitized pixel signals stored in the corresponding horizontal memory units 108a and 108b to the corresponding output units 110a and 110b, respectively, for each column. The horizontal memory units 108a and 108b are controlled.

出力部110a、110bは、デジタル化された行単位の画素信号の前或いは前後に同期信号を付加する。また、出力部110a、110bは、同期信号付きのデジタル画素信号を、それぞれ対応する出力端子111a、111bから信号処理部13へ出力する。TG112は、制御端子113を介した同期制御部15からの制御信号に基づいて、撮像素子12の各部の動作に必要な各種のクロック信号や制御信号などを出力する。   The output units 110a and 110b add a synchronization signal before or after the digitized row-unit pixel signal. The output units 110a and 110b output digital pixel signals with synchronization signals to the signal processing unit 13 from the corresponding output terminals 111a and 111b, respectively. The TG 112 outputs various clock signals and control signals necessary for the operation of each unit of the image sensor 12 based on the control signal from the synchronization control unit 15 via the control terminal 113.

本実施形態に係る出力部110a、110bについて説明する。以下では、第1出力部110aについて説明するが、第2出力部110bについても同様である。図3は、本実施形態に係る出力部110aの構成を示す図である。第1出力部110aは、第1信号変換部201a、第1同期信号付加部202a、及び第1差動送信バッファ203aを有する。   The output units 110a and 110b according to the present embodiment will be described. Hereinafter, the first output unit 110a will be described, but the same applies to the second output unit 110b. FIG. 3 is a diagram illustrating a configuration of the output unit 110a according to the present embodiment. The first output unit 110a includes a first signal conversion unit 201a, a first synchronization signal addition unit 202a, and a first differential transmission buffer 203a.

第1信号変換部201aには、8ビットに対応する8本の水平信号線を介して、第1水平メモリ部108aから送られてくる画素信号D0a、D1a、D2a、D3a、D4a、D5a、D6a及びD7aが入力される。また、第1信号変換部201aには、TG112からクロック信号として送られてくる画素クロック信号Sckaが入力される。画素クロック信号Sckaは、第1水平走査部109aの転送と同じ周期の信号である。第1信号変換部201aは、画素クロック信号Sckaの位相と同期するように、8ビットの画素信号D0a〜D7aの位相を調整する。   The first signal conversion unit 201a receives pixel signals D0a, D1a, D2a, D3a, D4a, D5a, and D6a transmitted from the first horizontal memory unit 108a via eight horizontal signal lines corresponding to 8 bits. And D7a are input. In addition, the pixel clock signal Skka transmitted from the TG 112 as a clock signal is input to the first signal conversion unit 201a. The pixel clock signal Skca is a signal having the same cycle as the transfer of the first horizontal scanning unit 109a. The first signal conversion unit 201a adjusts the phases of the 8-bit pixel signals D0a to D7a so as to be synchronized with the phase of the pixel clock signal Skca.

第1信号変換部201aは、さらに、例えば黒レベル調整、列ばらつき補正、信号増幅、色関係処理等を実施しても良い。黒レベル調整は、画素領域101の周辺に配置された不図示の遮光された画素の信号レベルが、予め同期制御部15によって設定されたレベルになるように、すべての画素信号のレベルを同じだけシフトする機能である。列ばらつき補正は、画素領域101の上部或いは下部に配置された不図示の遮光された画素の信号から列方向のばらつき補正データを作成し、列信号処理部106及び列AD部107で発生する画素信号における列方向のばらつきを補正する機能である。信号増幅は、画像処理において適正な信号レベルとなるように、画素信号にゲインをかける機能である。例えば、信号処理部13が事前に撮像された画像から適切なゲイン量を算出して、同期制御部15がゲインを設定するような制御が可能である。色関係処理は、例えばホワイトバランス(WB)処理である。画素領域101の各画素100に対して、不図示のRGBの色フィルタが、例えばベイヤ配列等の配列に従って設けられている。例えば、信号処理部13が事前に撮像された画像から適切なWB処理を施す色毎のゲイン量を算出して、同期制御部15が色毎のゲインを設定するような制御が可能である。   The first signal conversion unit 201a may further perform, for example, black level adjustment, column variation correction, signal amplification, color relation processing, and the like. The black level adjustment is performed so that the signal levels of all the pixel signals are the same so that the signal levels of light-shielded pixels (not shown) arranged in the periphery of the pixel region 101 become the levels set in advance by the synchronization control unit 15. It is a function to shift. In the column variation correction, variation correction data in the column direction is created from signals of light-shielded pixels (not shown) arranged above or below the pixel region 101, and the pixels generated in the column signal processing unit 106 and the column AD unit 107 are generated. This is a function for correcting variations in the column direction of signals. The signal amplification is a function that applies a gain to the pixel signal so that an appropriate signal level is obtained in image processing. For example, it is possible to perform control such that the signal processing unit 13 calculates an appropriate gain amount from an image captured in advance, and the synchronization control unit 15 sets the gain. The color related process is, for example, a white balance (WB) process. For each pixel 100 in the pixel region 101, an RGB color filter (not shown) is provided according to an array such as a Bayer array. For example, it is possible to perform control such that the signal processing unit 13 calculates a gain amount for each color on which appropriate WB processing is performed from an image captured in advance, and the synchronization control unit 15 sets the gain for each color.

第1同期信号付加部202aは、画素クロック信号Sckaの位相と同期した状態で、画素信号D0a〜D7aのそれぞれに対して、スタート同期信号及び、必要に応じてエンド同期信号を付加する。ここで、同期信号を付加するタイミングは、同期制御部15からの制御信号に基づいて、TG112から出力される制御信号により制御される。   The first synchronization signal adding unit 202a adds a start synchronization signal and, if necessary, an end synchronization signal to each of the pixel signals D0a to D7a in a state synchronized with the phase of the pixel clock signal Skca. Here, the timing of adding the synchronization signal is controlled by the control signal output from the TG 112 based on the control signal from the synchronization control unit 15.

第1差動送信バッファ203aは、同期信号を付加した画素信号D0a〜D7a及び画素クロック信号Sckaのそれぞれに対して設けられ、それぞれのパルス信号と同極性の正転信号と逆極性の反転信号とを同時に出力する。本実施形態においては、正転画素信号がD0Pa〜D7Pa、反転画素信号がD0Na〜D7Naとなり、正転画素クロック信号がSckPa、反転画素クロック信号がSckNaとなっている。   The first differential transmission buffer 203a is provided for each of the pixel signals D0a to D7a and the pixel clock signal Skca to which a synchronization signal is added, and a normal rotation signal having the same polarity as each pulse signal and an inverted signal having a reverse polarity. Are output simultaneously. In the present embodiment, the normal pixel signal is D0Pa to D7Pa, the inverted pixel signal is D0Na to D7Na, the normal pixel clock signal is SckPa, and the inverted pixel clock signal is SckNa.

ここで、出力部110a、110bに入力される画素クロック信号は、同じ信号がTG112から送られてくるものとするが、TG112から出力部110a、110bのそれぞれまでの距離に応じた遅延が発生する。そのため、出力部110a、110bにそれぞれ入力される画素クロック信号Scka、Sckbは区別して用いるものとする。   Here, the pixel clock signal input to the output units 110a and 110b is assumed to be sent from the TG 112, but a delay corresponding to the distance from the TG 112 to each of the output units 110a and 110b occurs. . For this reason, the pixel clock signals Skca and Sckb input to the output units 110a and 110b, respectively, are distinguished from each other.

また、図3に示す第1出力部110aの第1差動送信バッファ203aは、電流モードで差動動作をさせるLVDS(Low Voltage Differential Signaling)を利用することができる。こうすることで、耐ノイズ性や不要輻射の問題に対して有利になる。   In addition, the first differential transmission buffer 203a of the first output unit 110a illustrated in FIG. 3 can use LVDS (Low Voltage Differential Signaling) that performs differential operation in a current mode. This is advantageous for noise resistance and unwanted radiation problems.

すなわち、正転信号に相当するパルス信号のみの単相(シングル)出力では、高速になるほどパルス波形に鈍りやリンギングなどの成分が発生し易くなり、その影響を直接に被る。これに対して、差動動作をさせるLVDSにおいては、差動出力の両方を使って波形再生することが可能となるので、耐ノイズ性が改善する。この点は、画素信号に限らず、画素クロック信号についても同様の効果が得られる。   That is, in the single-phase (single) output of only the pulse signal corresponding to the normal rotation signal, components such as blunting and ringing are more likely to occur in the pulse waveform as the speed increases, and the influence is directly affected. On the other hand, in the LVDS that performs the differential operation, it is possible to reproduce the waveform by using both differential outputs, so that the noise resistance is improved. In this respect, the same effect can be obtained not only for pixel signals but also for pixel clock signals.

さらに、正転信号に相当するパルス信号のみの単相出力では、パルスの変化に対応して送信側である出力回路と受信側である入力回路の間で電流が行き来するので、そのたびに不要輻射の原因となる電磁界が発生し、周辺回路や固体撮像装置の外部に影響を与える。これに対して、電流モードで差動動作をさせるLVDSにおいては、送信側出力回路と受信側入力回路の間で電流が行き来するものの、常に正転信号と反転信号における切り換わりのタイミングが同時であり、発生する電磁界の向きが互いに逆方向となる。よって、双方が発生した電磁界を打ち消し合うようになり、不要輻射の原因となる電磁界の発生が大幅に低減されることになる。なお、この効果をより高めるには、差動信号における正転信号と反転信号の2つの出力線を近接して配置するとともに、差動送信バッファと差動受信バッファの間の接続距離が極力同じになるように回路設計をする必要がある。   Furthermore, in the single-phase output of only the pulse signal corresponding to the normal rotation signal, current flows back and forth between the output circuit on the transmission side and the input circuit on the reception side in response to the change of the pulse, so it is unnecessary each time. An electromagnetic field that causes radiation is generated, which affects the peripheral circuits and the outside of the solid-state imaging device. On the other hand, in LVDS that performs differential operation in the current mode, although current flows back and forth between the transmission side output circuit and the reception side input circuit, the switching timing of the normal signal and the inverted signal is always the same. Yes, the directions of the generated electromagnetic fields are opposite to each other. Therefore, the electromagnetic fields generated by both parties cancel each other, and the generation of electromagnetic fields that cause unnecessary radiation is greatly reduced. In order to further enhance this effect, the two output lines of the normal signal and the inverted signal in the differential signal are arranged close to each other, and the connection distance between the differential transmission buffer and the differential reception buffer is the same as much as possible. It is necessary to design the circuit so that

次に、図4を用いて、第1の実施形態での動作を説明する。図4は、第1の実施形態に係る撮像素子12の動作例を示すタイミングチャートである。図4において、HDは、撮像素子12を駆動するための水平同期信号を示し、立ち下がりで有効となり、Thdが1つの水平同期期間となっている。また、HSは、水平同期信号のサブ水平同期信号を示し、立ち下がりで有効となり、Thsが1つのサブ水平同期期間となっている。ここで、サブ水平同期信号HSは、撮像素子12がN個(Nは2以上の整数)の出力部を有する場合、1水平同期期間ThdにN行の画素の信号を読み出すよう、1水平同期期間ThdをN分割した周期(間隔毎)で立ち下がるよう作られている。本実施形態に係る撮像素子12は、第1出力部110a及び第2出力部110bの2つの出力部を有するため、2行分の画素を並列的に出力することが可能となっている。そこで、サブ水平同期信号HSは、水平同期期間Thdを2等分した周期で立ち下がるよう作られている。このため、水平同期期間Thdが、サブ水平同期期間Thsの2倍の長さとなっている。   Next, the operation in the first embodiment will be described with reference to FIG. FIG. 4 is a timing chart illustrating an operation example of the image sensor 12 according to the first embodiment. In FIG. 4, HD indicates a horizontal synchronization signal for driving the image sensor 12 and becomes effective at the falling edge, and Thd is one horizontal synchronization period. HS indicates a sub-horizontal synchronization signal of the horizontal synchronization signal, and becomes valid at the fall, and Ths is one sub-horizontal synchronization period. Here, when the image sensor 12 has N output units (N is an integer of 2 or more), the sub-horizontal synchronization signal HS is 1 horizontal synchronization so that signals of N rows of pixels are read out during 1 horizontal synchronization period Thd. The period Thd is made to fall at a period (every interval) divided by N. Since the imaging device 12 according to the present embodiment has two output units, the first output unit 110a and the second output unit 110b, it is possible to output pixels for two rows in parallel. Therefore, the sub horizontal synchronizing signal HS is made to fall at a cycle obtained by dividing the horizontal synchronizing period Thd into two equal parts. Therefore, the horizontal synchronization period Thd is twice as long as the sub horizontal synchronization period Ths.

Opr1は、第1信号選択部105aが選択されたときの第1の読み出し動作を示し、Opr2は、第2信号選択部105bが選択されたときの第2の読み出し動作を示す。第1の読み出し動作Opr1は、水平同期信号HDに同期して、或いは、水平同期信号HDに同期するサブ水平同期信号HSの1回目に同期して動作を開始する。第2の読み出し動作Opr2は、水平同期信号HDに同期するサブ水平同期信号HSの2回目に同期して動作を開始する。ここで、画素領域101に配列されている画素のうち、奇数行目の画素の信号を第1の読み出し動作Opr1を用いて読み出し、偶数行目の画素の信号を第2の読み出し動作Opr2を用いて読み出すことにする。   Opr1 indicates a first read operation when the first signal selection unit 105a is selected, and Opr2 indicates a second read operation when the second signal selection unit 105b is selected. The first read operation Opr1 starts operation in synchronization with the horizontal synchronization signal HD or in synchronization with the first time of the sub horizontal synchronization signal HS synchronized with the horizontal synchronization signal HD. The second read operation Opr2 starts the operation in synchronization with the second time of the sub horizontal synchronization signal HS synchronized with the horizontal synchronization signal HD. Here, out of the pixels arranged in the pixel region 101, the signals of the pixels in the odd-numbered rows are read out using the first readout operation Opr1, and the signals of the pixels in the even-numbered rows are used out of the second readout operation Opr2. To read.

まず、はじめに、第1の読み出し動作Opr1について説明する。撮像素子12は、水平同期信号HDに同期するサブ水平同期信号HSの1回目に同期して第1の読み出し動作Opr1を開始する(時刻t00)。期間Rd1rにおいて、第1信号選択部105aが選択された状態で、垂直走査部102からの駆動制御信号により、1行目の画素の信号がそれぞれ対応する垂直信号線104に読み出される(時刻t00〜t01)。このとき、最初に画素をリセットした状態のN信号が、第1列信号処理部106aでサンプルホールドされ、続いて光電変換部の信号を読み出した状態のS信号が、第1列信号処理部106aでサンプルホールドされる。   First, the first read operation Opr1 will be described. The imaging device 12 starts the first read operation Opr1 in synchronization with the first time of the sub horizontal synchronization signal HS synchronized with the horizontal synchronization signal HD (time t00). In the period Rd1r, with the first signal selection unit 105a selected, the signals of the pixels in the first row are read out to the corresponding vertical signal lines 104 by the drive control signal from the vertical scanning unit 102 (time t00 to time t00). t01). At this time, the N signal in the state in which the pixels are first reset is sampled and held by the first column signal processing unit 106a, and the S signal in the state in which the signal of the photoelectric conversion unit is subsequently read out is the first column signal processing unit 106a. Is sampled and held.

次に、期間CDS1rにおいて、第1列信号処理部106aが、CDS回路でS信号からN信号を減算することによってCDS処理によるノイズ除去を実施し、必要であればAGC回路による利得制御を実施する(時刻t01〜t02)。そして、期間AD1rにおいて、第1列AD部107aが、ノイズ除去された1行目の画素の信号をアナログデジタル変換して、第1水平メモリ部108aへ記憶させる(時刻t02〜t03)。ここまでの時刻t00〜t03での処理が、1行目の各画素の信号に対する列毎の並列処理になる。   Next, in the period CDS1r, the first column signal processing unit 106a performs noise removal by CDS processing by subtracting the N signal from the S signal in the CDS circuit, and performs gain control by the AGC circuit if necessary. (Time t01 to t02). Then, in the period AD1r, the first column AD unit 107a performs analog-to-digital conversion on the signal of the pixel in the first row from which noise is removed, and stores the signal in the first horizontal memory unit 108a (time t02 to t03). The processing at time t00 to t03 so far is parallel processing for each column with respect to the signal of each pixel in the first row.

続いて、期間SD1rにおいて、第1出力部110a内の第1同期信号付加部202aが画素クロック信号Sckaの位相と同期した状態で、8ビットの画素信号が送られてくる前にスタート同期信号を付加する(時刻t03〜t04)。このとき、スタート同期信号は、8ビットの画素信号が取り得ない値の組み合わせに設定しておく必要がある。黒レベル調整後の黒レベルが0より高い値に設定されている場合には、画素信号を構成する8ビットのそれぞれの信号に対して、例えば、スタート同期信号として“11110000”を付加することで実現できる。   Subsequently, in the period SD1r, the first synchronization signal adding unit 202a in the first output unit 110a is synchronized with the phase of the pixel clock signal Skka, and the start synchronization signal is transmitted before the 8-bit pixel signal is sent. It is added (time t03 to t04). At this time, the start synchronization signal needs to be set to a combination of values that cannot be taken by the 8-bit pixel signal. When the black level after black level adjustment is set to a value higher than 0, for example, “11110000” is added as a start synchronization signal to each 8-bit signal constituting the pixel signal. realizable.

具体的には、期間SD1rとして画素クロック信号Sckaの8クロックを割り当てる。そして、期間SD1rの間に、8ビットの正転画素信号であるD0Pa〜D7Paのそれぞれが、D0Pa=11110000からD7Pa=11110000を出力する。同様に、期間SD1rの間に、8ビットの反転画素信号であるD0Na〜D7Naのそれぞれが、D0Na=00001111からD7Na=00001111を出力する。このとき、正転画素クロック信号SckPa及び反転画素クロック信号SckNaには、スタート同期信号を付加しない。   Specifically, 8 clocks of the pixel clock signal Skca are assigned as the period SD1r. During the period SD1r, D0Pa to D7Pa, which are 8-bit normal pixel signals, output D0Pa = 11110000 to D7Pa = 11110000. Similarly, during the period SD1r, D0Na to D7Na, which are 8-bit inverted pixel signals, output D0Na = 00001111 to D7Na = 00001111. At this time, the start synchronization signal is not added to the normal pixel clock signal SckPa and the inverted pixel clock signal SckNa.

次に、期間SigOut1rにおいて、第1水平走査部109aが第1水平メモリ部108aを列毎に選択し、第1水平メモリ部108aに記憶しているデジタル化された8ビットの画素信号D0a〜D7aを第1出力部110aに転送する。そして、第1信号変換部201aが、TG112から送られてくる画素クロック信号Sckaの位相と同期するように、8ビットの画素信号D0a〜D7aの位相を調整する。その後、第1差動送信バッファ203aが、8ビットそれぞれの信号に対応する正転信号と反転信号に変換して、第1出力端子111aから出力する(時刻t04以降)。   Next, in the period SigOut1r, the first horizontal scanning unit 109a selects the first horizontal memory unit 108a for each column, and digitized 8-bit pixel signals D0a to D7a stored in the first horizontal memory unit 108a. Is transferred to the first output unit 110a. Then, the first signal conversion unit 201a adjusts the phases of the 8-bit pixel signals D0a to D7a so as to be synchronized with the phase of the pixel clock signal Skca sent from the TG 112. Thereafter, the first differential transmission buffer 203a converts the signal into a normal signal and an inverted signal corresponding to each 8-bit signal, and outputs it from the first output terminal 111a (after time t04).

さらに、続けて、期間ED1rにおいて、第1出力部110a内の第1同期信号付加部202aが画素クロック信号Sckaの位相と同期した状態で、8ビットの画素信号が送り出された後にエンド同期信号を付加する(時刻t07まで)。このとき、エンド同期信号は、8ビットの画素信号が取り得ない値の組み合わせに設定しておく必要がある。また、スタート同期信号と区別するために、画素信号を構成する8ビットのそれぞれの信号に対して、例えば、エンド同期信号として“11001100”を付加することで実現できる。   Further, in the period ED1r, after the 8-bit pixel signal is sent out in a state where the first synchronization signal adding unit 202a in the first output unit 110a is synchronized with the phase of the pixel clock signal Skca, the end synchronization signal is output. Add (until time t07). At this time, the end synchronization signal needs to be set to a combination of values that cannot be taken by the 8-bit pixel signal. Further, in order to distinguish from the start synchronization signal, it can be realized by adding “11001100” as an end synchronization signal, for example, to each 8-bit signal constituting the pixel signal.

具体的には、期間ED1rとして画素クロック信号Sckaの8クロックを割り当てる。そして、期間ED1rの間に、8ビットの正転画素信号であるD0Pa〜D7Paのそれぞれが、D0Pa=11001100からD7Pa=11001100を出力する。同様に、期間ED1rの間に、8ビットの反転画素信号であるD0Na〜D7Naのそれぞれが、D0Na=00110011からD7Na=00110011を出力する。このとき、正転画素クロック信号SckPa及び反転画素クロック信号SckNaには、エンド同期信号を付加しない。ここまでの時刻t03〜t07の期間が、スタート同期信号及びエンド同期信号を付加した1行目の各画素の信号の出力期間になる。   Specifically, 8 clocks of the pixel clock signal Skca are assigned as the period ED1r. Then, during the period ED1r, D0Pa to D7Pa, which are 8-bit normal pixel signals, output D0Pa = 1001100 to D7Pa = 1001100. Similarly, during the period ED1r, D0Na to D7Na, which are 8-bit inverted pixel signals, output D0Na = 00110011 to D7Na = 00110011. At this time, the end synchronization signal is not added to the normal pixel clock signal SckPa and the inverted pixel clock signal SckNa. The period from time t03 to t07 is the signal output period of each pixel in the first row to which the start synchronization signal and end synchronization signal are added.

第1の読み出し動作Opr1においては、1行目の画素の信号の出力後、続けて3行目の画素の信号を出力する。時刻t08〜t11の期間が、3行目の各画素の信号について、列毎の読み出し、CDS処理、アナログデジタル変換、水平メモリ部への記憶といった列毎の並列処理を実施する期間になる。そして、時刻t11〜t15の期間が、スタート同期信号及びエンド同期信号を付加した3行目の各画素の信号の出力期間になる。さらに、第1の実施形態においては、画素領域101に配列されている画素100は8行であるため、時刻t16以降で、5行目及び7行目の画素の信号を同様に読み出し、その後、再び1行目の画素の信号の読み出し動作が開始される。   In the first read operation Opr1, after the pixel signal of the first row is output, the signal of the pixel of the third row is output continuously. A period from time t08 to t11 is a period in which parallel processing for each column such as readout for each column, CDS processing, analog-digital conversion, and storage in the horizontal memory unit is performed for the signal of each pixel in the third row. A period from time t11 to t15 is an output period of the signal of each pixel in the third row to which the start synchronization signal and the end synchronization signal are added. Furthermore, in the first embodiment, since the pixels 100 arranged in the pixel region 101 are 8 rows, the signals of the pixels in the 5th row and the 7th row are similarly read out after time t16, The signal readout operation for the pixels in the first row is started again.

次に、第2の読み出し動作Opr2について説明する。撮像素子12は、水平同期信号HDに同期するサブ水平同期信号HSの2回目に同期して第2の読み出し動作Opr2を開始する(時刻t04)。ここで、撮像素子12においては、垂直信号線104が垂直画素列共通に配線されているため、第2の読み出し動作Opr2は、1行目の画素の信号を読み出す期間Rd1r終了以降(時刻t01以降)に動作を開始する必要がある。本実施形態においては、水平同期期間Thdを2分割したサブ水平同期期間Thsが、期間Rd1rより長く設定されているので、2回目のサブ水平同期信号HSは、期間Rd1r終了後、十分に時間が経過した後に設けられている(時刻t04)。   Next, the second read operation Opr2 will be described. The image sensor 12 starts the second readout operation Opr2 in synchronization with the second time of the sub horizontal synchronization signal HS synchronized with the horizontal synchronization signal HD (time t04). Here, in the image sensor 12, since the vertical signal line 104 is wired in common with the vertical pixel column, the second read operation Opr2 is performed after the end of the period Rd1r for reading the signal of the pixel in the first row (after time t01). ) Need to start operation. In the present embodiment, since the sub horizontal synchronization period Ths obtained by dividing the horizontal synchronization period Thd into two is set longer than the period Rd1r, the second sub horizontal synchronization signal HS has a sufficient time after the end of the period Rd1r. It is provided after elapse (time t04).

まず、期間Rd2rにおいて、第2信号選択部105bが選択された状態で、垂直走査部102からの駆動制御信号により、2行目の画素の信号がそれぞれ対応する垂直信号線104に読み出される。すなわち、2行目の画素の信号のN信号とS信号をそれぞれ対応する垂直信号線104を介して第2列信号処理部106bに読み出す(時刻t04〜t05)。   First, in the period Rd2r, with the second signal selection unit 105b selected, the signals of the pixels in the second row are read out to the corresponding vertical signal lines 104 by the drive control signal from the vertical scanning unit 102, respectively. That is, the N signal and the S signal of the pixel signals in the second row are read out to the second column signal processing unit 106b via the corresponding vertical signal lines 104 (time t04 to t05).

次に、期間CDS2rにおいて、第2列信号処理部106bが、CDS回路でCDS処理によるノイズ除去を実施し、必要であればAGC回路による利得制御を実施する(時刻t05〜t06)。そして、期間AD2rにおいて、第2列AD部107bが、2行目の画素の信号をアナログデジタル変換して、第2水平メモリ部108bへ記憶させる(時刻t06〜t07)。ここまでの時刻t04〜t07での処理が、2行目の各画素の信号に対する列毎の並列処理になる。   Next, in the period CDS2r, the second column signal processing unit 106b performs noise removal by CDS processing in the CDS circuit, and performs gain control by the AGC circuit if necessary (time t05 to t06). Then, in the period AD2r, the second column AD unit 107b performs analog-to-digital conversion on the signals of the pixels in the second row and stores them in the second horizontal memory unit 108b (time t06 to t07). The processing from time t04 to t07 so far is parallel processing for each column with respect to the signal of each pixel in the second row.

続いて、期間SD2rにおいて、第2出力部110b内の不図示の第2同期信号付加部が画素クロック信号Sckbの位相と同期した状態で、8ビットの画素信号が送られてくる前にスタート同期信号を付加する(時刻t07〜t08)。このとき、スタート同期信号は、8ビットの画素信号が取り得ない値の組み合わせに設定しておく必要があり、画素信号を構成する8ビットのそれぞれの信号に対して、例えば、スタート同期信号として“11110000”を付加することで実現できる。具体的な8ビットのそれぞれの信号に対するスタート同期信号は、第1の読み出し動作Opr1におけるスタート同期信号と同様であるので、説明は省略する。   Subsequently, in a period SD2r, start synchronization is performed before an 8-bit pixel signal is sent in a state where a second synchronization signal adding unit (not shown) in the second output unit 110b is synchronized with the phase of the pixel clock signal Skkb. A signal is added (time t07 to t08). At this time, it is necessary to set the start synchronization signal to a combination of values that cannot be taken by the 8-bit pixel signal. For example, for each 8-bit signal constituting the pixel signal, “ This can be realized by adding 11110000 ″. Since the specific start synchronization signal for each 8-bit signal is the same as the start synchronization signal in the first read operation Opr1, description thereof is omitted.

ここで、第2の読み出し動作Opr2においては、期間Rd1rの開始から1サブ水平同期期間Ths後に、期間Rd2rが開始している。そのため、スタート同期信号を付加する期間SD2rも期間SD1rから1サブ水平同期期間Thsに相当する時間だけ遅れて開始する必要がある。   Here, in the second read operation Opr2, the period Rd2r starts one sub-horizontal synchronization period Ths after the start of the period Rd1r. Therefore, the period SD2r to which the start synchronization signal is added needs to be delayed from the period SD1r by a time corresponding to one sub-horizontal synchronization period Ths.

次に、期間SigOut2rにおいて、第2水平走査部109bが第2水平メモリ部108bを列毎に選択し、第2水平メモリ部108bに記憶しているデジタル化された8ビットの画素信号D0b〜D7bを第2出力部110bに転送する。そして、第2出力部110bの不図示の第2信号変換部が、TG112から送られてくる画素クロック信号Sckbの位相と同期するように、8ビットの画素信号D0b〜D7bの位相を調整する。その後、第2出力部110bの不図示の第2差動送信バッファが、8ビットそれぞれの信号に対応する正転信号と反転信号に変換して、第2出力端子111bから出力する(時刻t08以降)。   Next, in the period SigOut2r, the second horizontal scanning unit 109b selects the second horizontal memory unit 108b for each column, and digitized 8-bit pixel signals D0b to D7b stored in the second horizontal memory unit 108b. Is transferred to the second output unit 110b. Then, a second signal conversion unit (not shown) of the second output unit 110b adjusts the phases of the 8-bit pixel signals D0b to D7b so as to be synchronized with the phase of the pixel clock signal Skkb sent from the TG 112. Thereafter, a second differential transmission buffer (not shown) of the second output unit 110b converts the signal into a normal signal and an inverted signal corresponding to each 8-bit signal and outputs it from the second output terminal 111b (after time t08) ).

さらに、続けて、期間ED2rにおいて、第2出力部110b内の第2同期信号付加部が画素クロック信号Sckbの位相と同期した状態で、8ビットの画素信号が送り出された後にエンド同期信号を付加する(時刻t11まで)。このとき、エンド同期信号は、8ビットの画素信号が取り得ない値の組み合わせに設定しておく必要がある。また、スタート同期信号と区別するために、画素信号を構成する8ビットのそれぞれの信号に対して、例えば、エンド同期信号として“11001100”を付加することで実現できる。具体的な8ビットのそれぞれの信号に対するエンド同期信号は、第1の読み出し動作Opr1におけるエンド同期信号と同様であるので、説明は省略する。ここまでの時刻t07〜t11の期間が、スタート同期信号及びエンド同期信号を付加した2行目の各画素の信号の出力期間になる。   Further, subsequently, in the period ED2r, the end synchronization signal is added after the 8-bit pixel signal is sent out while the second synchronization signal addition unit in the second output unit 110b is synchronized with the phase of the pixel clock signal Skkb. (Until time t11). At this time, the end synchronization signal needs to be set to a combination of values that cannot be taken by the 8-bit pixel signal. Further, in order to distinguish from the start synchronization signal, it can be realized by adding “11001100” as an end synchronization signal, for example, to each 8-bit signal constituting the pixel signal. Since the end synchronization signal for each specific 8-bit signal is the same as the end synchronization signal in the first read operation Opr1, description thereof will be omitted. The period from time t07 to t11 so far is the signal output period of each pixel in the second row to which the start synchronization signal and end synchronization signal are added.

第2の読み出し動作Opr2においては、2行目の画素の信号の出力後、続けて4行目の画素の信号を出力する。時刻t12〜t15の期間が、4行目の各画素の信号について、列毎の読み出し、CDS処理、アナログデジタル変換、水平メモリ部への記憶といった列毎の並列処理を実施する期間になる。そして、時刻t15以降が、スタート同期信号及びエンド同期信号を付加した4行目の各画素の信号の出力期間になる。さらに、第1の実施形態においては、画素領域101に配列されている画素100は8行であるため、4行目の各画素の信号の出力後で、6行目及び8行目の画素の信号を同様に読み出し、その後、再び2行目の画素の信号の読み出し動作が開始される。   In the second read operation Opr2, after the pixel signal of the second row is output, the signal of the pixel of the fourth row is output continuously. A period from time t12 to t15 is a period in which parallel processing for each column such as readout for each column, CDS processing, analog-digital conversion, and storage in the horizontal memory unit is performed on the signals of the pixels in the fourth row. After time t15 is the signal output period of each pixel in the fourth row to which the start synchronization signal and end synchronization signal are added. Furthermore, in the first embodiment, since the pixels 100 arranged in the pixel region 101 are 8 rows, after outputting the signals of the pixels in the 4th row, the pixels in the 6th and 8th rows are output. The signal is read out in the same manner, and then the signal readout operation for the pixels in the second row is started again.

このように、第1の実施形態においては、第1の読み出し動作Opr1と第2の読み出し動作Opr2を、1サブ水平同期期間Thsに相当する時間だけずらせて動作させる。このため、TG112は、期間Rd1r、期間CDS1r、期間AD1rの間に実施する1行目の画素の信号の読み出しから第1水平メモリ部108aへの記憶までの列毎の並列処理動作を制御することが可能となっている。また、TG112は、同時に、1サブ水平同期期間Thsに相当する時間だけずらせて、2行目の画素の信号の読み出しから第2水平メモリ部108bへの記憶までの列毎の並列処理動作を制御することが可能となっている。   Thus, in the first embodiment, the first read operation Opr1 and the second read operation Opr2 are operated while being shifted by a time corresponding to one sub-horizontal synchronization period Ths. For this reason, the TG 112 controls the parallel processing operation for each column from the reading of the pixel signal of the first row performed during the period Rd1r, the period CDS1r, and the period AD1r to the storage in the first horizontal memory unit 108a. Is possible. At the same time, the TG 112 shifts the time corresponding to one sub-horizontal synchronization period Ths to control the parallel processing operation for each column from the readout of the pixel signal of the second row to the storage in the second horizontal memory unit 108b. It is possible to do.

さらに、TG112は、前述した列毎の並列処理動作とは別に、スタート同期信号及びエンド同期信号を付加した1行目の画素の信号及び2行目の画素の信号の出力動作をそれぞれ制御することが可能となっている。ここで、1行目の画素の信号に付加したスタート同期信号の出力動作は、1行目の画素の信号の並列処理動作の終了後で、3行目の画素に係る期間Rd3rの開始前にエンド同期信号の出力が完了するのであれば、その間のどこでも構わない。また、2行目の画素の信号に付加したスタート同期信号の出力動作も、2行目の画素の信号の並列処理動作の終了後で、4行目の画素に係る期間Rd4rの開始前にエンド同期信号の出力が完了するのであれば、その間のどこでも構わない。さらに、1行目の画素の信号に付加したスタート同期信号と2行目の画素の信号に付加したスタート同期信号の出力開始タイミングの差も、期間Rd3rの開始及び期間Rd4rの開始に影響しなければ、1サブ水平同期期間Thsである必要はない。   Furthermore, the TG 112 controls the output operation of the pixel signal of the first row and the signal of the pixel of the second row to which the start synchronization signal and the end synchronization signal are added separately from the parallel processing operation for each column described above. Is possible. Here, the output operation of the start synchronization signal added to the signal of the pixel in the first row is after the end of the parallel processing operation of the signal of the pixel in the first row and before the start of the period Rd3r related to the pixel in the third row. As long as the output of the end synchronization signal is completed, it can be anywhere in between. The output operation of the start synchronization signal added to the signal of the pixel in the second row is also ended after the parallel processing operation of the signal of the pixel in the second row is finished and before the start of the period Rd4r related to the pixel in the fourth row. As long as the output of the synchronization signal is completed, it may be anywhere in between. Further, the difference between the start timings of the start synchronization signal added to the pixel signal of the first row and the start synchronization signal added to the signal of the pixel of the second row must also affect the start of the period Rd3r and the start of the period Rd4r. For example, it is not necessary to be one sub-horizontal synchronization period Ths.

これら期間Rd1rの開始タイミング、期間Rd2rの開始タイミング、期間SD1rの開始タイミング及び期間SD2rの開始タイミングは、同期制御部15からの制御信号に基づいて、TG112が個別にかつ適宜設定できる。   The start timing of the period Rd1r, the start timing of the period Rd2r, the start timing of the period SD1r, and the start timing of the period SD2r can be individually and appropriately set based on the control signal from the synchronization control unit 15.

以上の説明は、第1の読み出し動作Opr1と第2の読み出し動作Opr2の関係について述べたものである。読み出し動作が繰り返される場合には、2行目の画素の信号を読み出す第2の読み出し動作Opr2と3行目の画素の信号を読み出す第1の読み出し動作Opr1の関係についても同様であり、その後に読み出されるすべての画素行に適応可能である。   The above description describes the relationship between the first read operation Opr1 and the second read operation Opr2. When the readout operation is repeated, the same applies to the relationship between the second readout operation Opr2 that reads out the signals of the pixels in the second row and the first readout operation Opr1 that reads out the signals of the pixels in the third row. Applicable to all pixel rows to be read out.

また、本実施形態において、スタート同期信号及びエンド同期信号は、それぞれ“11110000”及び“11001100”に設定したが、これに限定されるものではない。スタート同期信号及びエンド同期信号が区別でき、かつ、8ビットの画素信号が取り得ない値の組み合わせであれば良いので、例えば、スタート同期信号を“11001100”及びエンド同期信号を“11110000”のように逆にしても良い。また、例えば、スタート同期信号を“1111111100000000”及びエンド同期信号を“1111000011110000”のように長さを長くしても良い。さらに、撮像素子12の出力信号の画素数は、予め決まっているので、同期制御部15が信号処理部13に対して、1行分の画素に相当する処理の制御を実施可能であれば、エンド同期信号は省略可能である。   In this embodiment, the start synchronization signal and the end synchronization signal are set to “11110000” and “11001100”, respectively, but the present invention is not limited to this. Since the start synchronization signal and the end synchronization signal can be distinguished from each other, and any combination of values that cannot be taken by the 8-bit pixel signal is acceptable, for example, the start synchronization signal is “11001100” and the end synchronization signal is “11110000”. It may be reversed. In addition, for example, the length may be increased such that the start synchronization signal is “1111111100000000” and the end synchronization signal is “1111000011110000”. Furthermore, since the number of pixels of the output signal of the image sensor 12 is determined in advance, if the synchronization control unit 15 can control the signal processing unit 13 to process corresponding to one row of pixels, The end synchronization signal can be omitted.

図5は、本実施形態に係る信号処理部13の入力部分の構成を示す図であり、信号処理部13での信号処理が可能となるように、撮像素子12から出力される行単位でタイミングがずれたデジタル画素信号を受け取ることが可能な構成になっている。信号処理部13は、第1入力部401a、第2入力部401b、同期信号解読部403、及び内部メモリ404を有する。   FIG. 5 is a diagram illustrating a configuration of an input portion of the signal processing unit 13 according to the present embodiment, and timing is performed in units of rows output from the image sensor 12 so that signal processing in the signal processing unit 13 is possible. It is possible to receive digital pixel signals that are shifted from each other. The signal processing unit 13 includes a first input unit 401 a, a second input unit 401 b, a synchronization signal decoding unit 403, and an internal memory 404.

第1入力部401a及び第2入力部401bには、第1出力部110a及び第2出力部110bからの画素の信号が、それぞれ第1入力端子402a及び第2入力端子402bを介して入力される。信号処理部13に入力される信号は、図3を用いて説明した、1つの信号が正転画素信号及び反転画素信号からなる差動信号であるので、不図示の差動受信バッファにより受信して、通常のパルス信号に変換する。このとき、同時に入力される画素クロック信号と信号処理部13の信号処理クロック信号の位相を比較して、デジタル画素信号の位相を信号処理部13の信号処理クロック信号の位相に同期させる処理も行う。   Pixel signals from the first output unit 110a and the second output unit 110b are input to the first input unit 401a and the second input unit 401b via the first input terminal 402a and the second input terminal 402b, respectively. . Since the signal input to the signal processing unit 13 is a differential signal composed of a normal pixel signal and an inverted pixel signal as described with reference to FIG. 3, the signal is received by a differential reception buffer (not shown). To convert it into a normal pulse signal. At this time, the phase of the pixel clock signal input at the same time and the phase of the signal processing clock signal of the signal processing unit 13 are compared, and the process of synchronizing the phase of the digital pixel signal with the phase of the signal processing clock signal of the signal processing unit 13 is also performed. .

同期信号解読部403は、同期信号付きの行単位の画素信号の同期信号を解読して、スタート同期信号とエンド同期信号に挟まれた行単位の画素信号を内部メモリ404に記憶させる。内部メモリ404は、行単位の画素信号を記憶する。1行目から8行目までの画素信号を記憶する領域を、便宜的にそれぞれmP1r〜mP8rとして示している。   The synchronization signal decoding unit 403 decodes the synchronization signal of the row-unit pixel signal with the synchronization signal, and stores the row-unit pixel signal sandwiched between the start synchronization signal and the end synchronization signal in the internal memory 404. The internal memory 404 stores pixel signals in units of rows. The areas for storing the pixel signals from the first row to the eighth row are indicated as mP1r to mP8r for convenience.

ここで、図4に示した動作が実施された場合について説明する。第1入力部401aから同期信号解読部403に1行目の画素の信号が入力されると、同期制御部15からの制御信号に基づいて、スタート同期信号とエンド同期信号に挟まれた行単位の画素信号を内部メモリ404の領域mP1rに記憶する。次に、第2入力部401bから同期信号解読部403に2行目の画素の信号が入力されると、同期制御部15からの制御信号に基づいて、スタート同期信号とエンド同期信号に挟まれた行単位の画素信号を内部メモリ404の領域mP2rに記憶する。   Here, a case where the operation shown in FIG. 4 is performed will be described. When the pixel signal of the first row is input from the first input unit 401a to the synchronization signal decoding unit 403, the row unit sandwiched between the start synchronization signal and the end synchronization signal based on the control signal from the synchronization control unit 15 Are stored in the area mP1r of the internal memory 404. Next, when the pixel signal in the second row is input from the second input unit 401 b to the synchronization signal decoding unit 403, it is sandwiched between the start synchronization signal and the end synchronization signal based on the control signal from the synchronization control unit 15. The row-by-row pixel signal is stored in the area mP2r of the internal memory 404.

このとき、内部メモリ404に対しては、1行目の画素の信号の記憶動作と2行目の画素の信号の記憶動作を同時に行うことになるが、内部メモリ404の異なる領域に対する記憶動作なので、制御可能となっている。1行目及び2行目の画素の信号の記憶動作に続いて、3行目及び4行目の画素の信号の記憶動作も同様に行う。   At this time, for the internal memory 404, the signal operation for the pixels in the first row and the signal operation for the pixels in the second row are performed simultaneously. Can be controlled. Subsequent to the signal storing operation for the pixels in the first and second rows, the signal storing operation for the pixels in the third and fourth rows is similarly performed.

そして、内部メモリ404の領域mP1r〜mP8rに記憶された1行目〜8行目の画素の信号は、同期制御部15からの制御信号に基づいて、内部メモリ端子405から1行毎に信号処理されていくことになる。その後、続けて1行目の画素の信号が入力された場合には、また最初から領域mP1rに記憶すればよい。   Then, the signals of the pixels in the first to eighth rows stored in the areas mP1r to mP8r of the internal memory 404 are processed for each row from the internal memory terminal 405 based on the control signal from the synchronization control unit 15. It will be done. After that, when the signal of the pixel in the first row is continuously input, it may be stored in the area mP1r from the beginning.

以上のように、本実施形態においては、複数の出力手段の信号それぞれに対して、読み出し時間差に応じて個別にスタート同期信号を設定することで、出力信号の同期制御の手段を提供することができる。そして、信号処理部の入力部分において、解読した同期信号に応じて画素の信号を記憶するメモリ領域を割り当てることで、読み出し時間差に対応した信号処理部の入力信号の同期制御が実現可能である。これにより、複数の画素の信号を共通の読み出し手段と異なる出力手段を用いて別々に出力することが可能となるので、撮像装置における高速読み出し動作が実現できる。   As described above, in the present embodiment, it is possible to provide a means for controlling the synchronization of output signals by individually setting the start synchronization signal for each of the signals of the plurality of output means in accordance with the read time difference. it can. Then, by assigning a memory area for storing the pixel signal in accordance with the decoded synchronization signal in the input portion of the signal processing unit, it is possible to realize synchronization control of the input signal of the signal processing unit corresponding to the read time difference. As a result, signals of a plurality of pixels can be output separately using output means different from the common readout means, so that a high-speed readout operation in the imaging apparatus can be realized.

さらに、本実施形態においては、サブ水平同期信号HSが水平同期期間Thdを2分割した周期で作られ、奇数行目の画素の信号をサブ水平同期信号HSの1回目に同期して読み出し、偶数行目の画素の信号をサブ水平同期信号HSの2回目に同期して読み出す。これにより、行毎の読み出しタイミングが等間隔になるので、なめらかなローリングシャッタ動作を実現することができ、被写体の動きがぎくしゃくしたり、被写体の境界がギザついたりするのを防止することができる。   Further, in the present embodiment, the sub horizontal synchronization signal HS is generated in a cycle obtained by dividing the horizontal synchronization period Thd into two, and the signals of the pixels in the odd-numbered rows are read in synchronization with the first time of the sub horizontal synchronization signal HS. The pixel signal in the row is read out in synchronization with the second sub-horizontal synchronization signal HS. As a result, the readout timing for each row is equally spaced, so that a smooth rolling shutter operation can be realized, and it is possible to prevent the movement of the subject from becoming jerky and the subject boundary from being jagged. .

ここで、本実施形態における水平同期信号HDは、一般に水平走査部109の転送と同じ周期の画素クロック信号Sckと同期していることが多い。そして、水平同期信号HDを2分割したサブ水平同期信号HSが画素クロック信号Sckで奇数になる場合、サブ水平同期信号HSをカウントするときの1回目と2回目で奇数カウントと偶数カウントを繰り返すことになる。その場合には、カウンタはすべて偶数カウントの方が設計しやすいので、サブ水平同期信号HSのクロック数を、画素クロック信号Sckで偶数カウントすなわち2の倍数にして、水平同期信号HDを、サブ水平同期信号HSの2倍のクロック数にしてやればよい。   Here, the horizontal synchronization signal HD in this embodiment is generally synchronized with the pixel clock signal Sck having the same cycle as the transfer of the horizontal scanning unit 109 in general. Then, when the sub horizontal synchronization signal HS obtained by dividing the horizontal synchronization signal HD into two becomes an odd number by the pixel clock signal Sck, the odd and even counts are repeated at the first and second times when the sub horizontal synchronization signal HS is counted. become. In that case, since all counters are easier to design with an even number count, the number of clocks of the sub horizontal synchronization signal HS is set to an even number of pixels clock signal Sck, that is, a multiple of 2, and the horizontal synchronization signal HD is changed to the sub horizontal level What is necessary is just to make it the clock number of 2 times of the synchronizing signal HS.

また、本実施形態においては、2回目のサブ水平同期信号HSが、期間Rd1rの終了後、十分に時間が経過した後に設けられている。しかしながら、垂直信号線104が垂直画素列に共通に配線されているため、期間Rd1rがサブ水平同期期間Thsより長い場合には、第2の読み出し動作Opr2を開始することができない。そのときには、第2信号選択部105b以降を停止させ、第1水平メモリ部108a及び第1出力部110aを用いて、1行毎に水平同期期間に同期させて読み出せば良い。   In the present embodiment, the second sub-horizontal synchronization signal HS is provided after a sufficient time has elapsed after the period Rd1r ends. However, since the vertical signal line 104 is wired in common to the vertical pixel columns, the second read operation Opr2 cannot be started when the period Rd1r is longer than the sub horizontal synchronization period Ths. At that time, the second signal selection unit 105b and the subsequent steps may be stopped, and the first horizontal memory unit 108a and the first output unit 110a may be used to read out each row in synchronization with the horizontal synchronization period.

(第2の実施形態)
次に、図1に加えて、図6〜図9を参照して、本発明の第2の実施形態について説明する。なお、第2の実施形態では、撮像装置の基本的な構成及び動作は、第1の実施形態と同様であるので、図及び符号を流用して説明する。第1の実施形態における撮像素子12は、水平メモリ部及び出力部をそれぞれ2組ずつ備えることで、2行同時出力による高速読み出し動作を実現している。以下に説明する第2の実施形態においては、水平メモリ部及び出力部をそれぞれ4組ずつ備えることで、さらなる高速読み出し動作を実現する。
(Second Embodiment)
Next, a second embodiment of the present invention will be described with reference to FIGS. 6 to 9 in addition to FIG. In the second embodiment, since the basic configuration and operation of the imaging apparatus are the same as those in the first embodiment, the description will be made with reference to the drawings and reference numerals. The image sensor 12 according to the first embodiment includes two sets of horizontal memory units and output units, thereby realizing a high-speed read operation by simultaneous output of two rows. In the second embodiment described below, four sets of horizontal memory units and output units are provided, thereby realizing a further high-speed read operation.

図6は、本実施形態に係る撮像素子12の概略構成を示す図である。撮像素子12は、複数の画素100が配された画素領域101、垂直走査部102、第1信号選択部105a及び第2信号選択部105b、第1列信号処理部106a及び第2列信号処理部106b、第1列AD部107a及び第2列AD部107bを有する。また、撮像素子12は、第1メモリ選択部114a及び第2メモリ選択部114b、第1水平メモリ部108a、第2水平メモリ部108b、第3水平メモリ部108c及び第4水平メモリ部108dを有する。また、撮像素子12は、第1水平走査部109a及び第2水平走査部109b、第1出力部110a、第2出力部110b、第3出力部110c及び第4出力部110d、及びTG(Timing Generator)112を有する。   FIG. 6 is a diagram illustrating a schematic configuration of the image sensor 12 according to the present embodiment. The image sensor 12 includes a pixel region 101 in which a plurality of pixels 100 are arranged, a vertical scanning unit 102, a first signal selection unit 105a and a second signal selection unit 105b, a first column signal processing unit 106a, and a second column signal processing unit. 106b, a first column AD unit 107a and a second column AD unit 107b. Further, the imaging device 12 includes a first memory selection unit 114a and a second memory selection unit 114b, a first horizontal memory unit 108a, a second horizontal memory unit 108b, a third horizontal memory unit 108c, and a fourth horizontal memory unit 108d. . The image sensor 12 includes a first horizontal scanning unit 109a and a second horizontal scanning unit 109b, a first output unit 110a, a second output unit 110b, a third output unit 110c, a fourth output unit 110d, and a TG (Timing Generator). ) 112.

画素領域101は、図6にP11〜P164で示すように複数の画素100が行方向(水平方向)・列方向(垂直方向)に行列状(マトリクス状)に配列されている。各画素100は、不図示の光電変換部とトランジスタとを有する。ここで、例えば、P11〜P14は1行目となる4画素を示し、P161〜P164は16行目となる4画素を示す。本実施形態においては、4×16配列(4列16行)の画素領域101を例として説明するが、画像領域101における画素配列は、この数に限定されるものではない。   In the pixel area 101, as indicated by P11 to P164 in FIG. 6, a plurality of pixels 100 are arranged in a matrix (matrix) in the row direction (horizontal direction) and the column direction (vertical direction). Each pixel 100 includes a photoelectric conversion unit (not shown) and a transistor. Here, for example, P11 to P14 indicate four pixels in the first row, and P161 to P164 indicate four pixels in the sixteenth row. In the present embodiment, a pixel area 101 having a 4 × 16 array (4 columns and 16 rows) will be described as an example. However, the pixel array in the image area 101 is not limited to this number.

垂直走査部102、画素制御線103、垂直信号線104、信号選択部105a、105b、列信号処理部106a、106b、及び列AD部107a、107bは、図2に示した第1の実施形態における撮像素子と同じ動作を行うため、説明は省略する。   The vertical scanning unit 102, the pixel control line 103, the vertical signal line 104, the signal selection units 105a and 105b, the column signal processing units 106a and 106b, and the column AD units 107a and 107b are the same as those in the first embodiment shown in FIG. Since the same operation as that of the image sensor is performed, the description is omitted.

第1メモリ選択部114aは、第1列AD部107aにおいてアナログデジタル変換された行単位の画素の信号を、第1水平メモリ部108a或いは第3水平メモリ部108cのどちらか一方に選択的に接続するスイッチとなっている。第2メモリ選択部114bは、第2列AD部107bにおいてアナログデジタル変換された行単位の画素の信号を、第2水平メモリ部108b或いは第4水平メモリ部108dのどちらか一方に選択的に接続するスイッチとなっている。   The first memory selection unit 114a selectively connects the row-by-row pixel signals analog-digital converted in the first column AD unit 107a to either the first horizontal memory unit 108a or the third horizontal memory unit 108c. It is a switch to do. The second memory selection unit 114b selectively connects the row-by-row pixel signals analog-digital converted in the second column AD unit 107b to either the second horizontal memory unit 108b or the fourth horizontal memory unit 108d. It is a switch to do.

第1水平メモリ部108a及び第3水平メモリ部108cは、第1列AD部107aにおいてデジタル化された行単位の各列の画素信号を記憶する。第2水平メモリ部108b及び第4水平メモリ部108dは、第2列AD部107bにおいてデジタル化された行単位の各列の画素信号を記憶する。ここで、水平メモリ部108a、108b、108c、108dは、対応する列AD部107a、107bにあわせて各列毎に8ビットのデジタル信号を記憶できるものとするが、AD変換器のビット精度に応じたビット数のデジタル信号が記憶できれば良い。   The first horizontal memory unit 108a and the third horizontal memory unit 108c store pixel signals of each column in units of rows digitized by the first column AD unit 107a. The second horizontal memory unit 108b and the fourth horizontal memory unit 108d store pixel signals of each column in units of rows digitized by the second column AD unit 107b. Here, the horizontal memory units 108a, 108b, 108c, and 108d can store an 8-bit digital signal for each column in accordance with the corresponding column AD units 107a and 107b. It is only necessary to store a digital signal having a corresponding number of bits.

第1水平走査部109aは、水平メモリ部108a、108cに記憶しているデジタル化された画素信号を、それぞれ対応する出力部110a、110cに列毎に選択して転送するように、水平メモリ部108a、108bを制御する。第2水平走査部109bは、水平メモリ部108b、108dに記憶しているデジタル化された画素信号を、それぞれ対応する出力部110b、110dに列毎に選択して転送するように、水平メモリ部108b、108dを制御する。   The first horizontal scanning unit 109a selects and transfers the digitized pixel signals stored in the horizontal memory units 108a and 108c to the corresponding output units 110a and 110c, respectively, for each column. 108a and 108b are controlled. The second horizontal scanning unit 109b is configured to select and transfer the digitized pixel signals stored in the horizontal memory units 108b and 108d to the corresponding output units 110b and 110d for each column, respectively. 108b and 108d are controlled.

出力部110a、110b、110c及び110dは、デジタル化された行単位の画素信号の前或いは前後に同期信号を付加する。また、出力部110a、110b、110c及び110dは、同期信号付きのデジタル画素信号を、それぞれ対応する出力端子111a、111b、111c及び111dから信号処理部13へ出力する。TG112は、制御端子113を介した同期制御部15からの制御信号に基づいて、撮像素子12の各部の動作に必要な各種のクロック信号や制御信号などを出力する。   The output units 110a, 110b, 110c, and 110d add a synchronization signal before or after the digitized row unit pixel signal. The output units 110a, 110b, 110c, and 110d output digital pixel signals with synchronization signals to the signal processing unit 13 from the corresponding output terminals 111a, 111b, 111c, and 111d, respectively. The TG 112 outputs various clock signals and control signals necessary for the operation of each unit of the image sensor 12 based on the control signal from the synchronization control unit 15 via the control terminal 113.

本実施形態に係る出力部110a、110b、110c、110dについて説明する。以下では、第1出力部110aについて説明するが、第2出力部110b、第3出力部110c、第4出力部110dについても同様である。図7は、本実施形態に係る出力部110aの構成を示す図である。第1出力部110aは、第1信号変換部201a、第1パラシリ変換部204a、第1同期信号付加部202a、及び第1差動送信バッファ203aを有する。   The output units 110a, 110b, 110c, and 110d according to the present embodiment will be described. The first output unit 110a will be described below, but the same applies to the second output unit 110b, the third output unit 110c, and the fourth output unit 110d. FIG. 7 is a diagram illustrating a configuration of the output unit 110a according to the present embodiment. The first output unit 110a includes a first signal conversion unit 201a, a first parallel-serial conversion unit 204a, a first synchronization signal addition unit 202a, and a first differential transmission buffer 203a.

第1信号変換部201aには、8ビットに対応する8本の水平信号線を介して、第1水平メモリ部108aから送られてくる画素信号D0a、D1a、D2a、D3a、D4a、D5a、D6a及びD7aが入力される。また、第1信号変換部201aには、TG112からクロック信号として送られてくる画素クロック信号Sckaが入力される。画素クロック信号Sckaは、第1水平走査部109aの転送と同じ周期の信号である。第1信号変換部201aは、画素クロック信号Sckaの位相と同期するように、8ビットの画素信号D0a〜D7aの位相を調整する。第1信号変換部201aは、さらに、図3に示した第1の実施形態における第1信号変換部において説明した黒レベル調整、列ばらつき補正、信号増幅、色関係処理等を実施しても良い。   The first signal conversion unit 201a receives pixel signals D0a, D1a, D2a, D3a, D4a, D5a, and D6a transmitted from the first horizontal memory unit 108a via eight horizontal signal lines corresponding to 8 bits. And D7a are input. In addition, the pixel clock signal Skka transmitted from the TG 112 as a clock signal is input to the first signal conversion unit 201a. The pixel clock signal Skca is a signal having the same cycle as the transfer of the first horizontal scanning unit 109a. The first signal conversion unit 201a adjusts the phases of the 8-bit pixel signals D0a to D7a so as to be synchronized with the phase of the pixel clock signal Skca. The first signal conversion unit 201a may further perform the black level adjustment, column variation correction, signal amplification, color relation processing, and the like described in the first signal conversion unit in the first embodiment shown in FIG. .

第1パラシリ変換部204aには、画素クロック信号Sckaの位相と同期した8ビットの画素信号D0a〜D7a、及びTG112からクロック信号として送られてくる画素クロック信号Sckaの2倍の周波数をもつ逓倍クロック信号H2ckaが入力される。第1パラシリ変換部204aは、逓倍クロック信号H2ckaを用いて、8ビットがそれぞれ8本並列に入力される画素信号D0a〜D7aをパラレル・シリアル変換する。例えば、画素信号D0a〜D7aを、画素信号D0a・D1a、画素信号D2a・D3a、画素信号D4a・D5a及び画素信号D6a・D7aのように、逓倍クロック信号H2ckaに同期した2ビット直列の4本並列した画素信号に変換して出力する。ここで、逓倍クロック信号H2ckaは、画素クロック信号Sckaの2倍の周波数をもつので、画素クロック信号Scka当たりのデータ転送量は変化しない。   The first parallel-serial conversion unit 204a includes 8-bit pixel signals D0a to D7a synchronized with the phase of the pixel clock signal Skka and a multiplied clock having a frequency twice that of the pixel clock signal Skka sent from the TG 112 as a clock signal. The signal H2cka is input. Using the multiplied clock signal H2cka, the first parallel-serial conversion unit 204a performs parallel / serial conversion on the pixel signals D0a to D7a in which 8 bits each are input in parallel. For example, the pixel signals D0a to D7a are arranged in parallel in a 2-bit series synchronized with the multiplied clock signal H2cka such as the pixel signals D0a and D1a, the pixel signals D2a and D3a, the pixel signals D4a and D5a, and the pixel signals D6a and D7a. The converted pixel signal is output. Here, since the multiplied clock signal H2cka has a frequency twice that of the pixel clock signal Skka, the data transfer amount per pixel clock signal Skka does not change.

第1同期信号付加部202aは、逓倍クロック信号H2ckaの位相と同期した状態で、画素信号D0a・D1a、D2a・D3a、D4a・D5a及びD6a・D7aのそれぞれに対して、スタート同期信号及び、必要に応じてエンド同期信号を付加する。ここで、同期信号を付加するタイミングは、同期制御部15からの制御信号に基づいて、TG112から出力される制御信号により制御される。   The first synchronization signal adding unit 202a is synchronized with the phase of the multiplied clock signal H2cka, and the start synchronization signal and necessary for each of the pixel signals D0a / D1a, D2a / D3a, D4a / D5a, and D6a / D7a. The end synchronization signal is added according to the above. Here, the timing of adding the synchronization signal is controlled by the control signal output from the TG 112 based on the control signal from the synchronization control unit 15.

第1差動送信バッファ203aは、同期信号を付加した画素信号D0a・D1a、D2a・D3a、D4a・D5a及びD6a・D7a、及び逓倍クロック信号H2ckaのそれぞれに対して設けられる。第1差動送信バッファ203aは、それぞれのパルス信号と同極性の正転信号と逆極性の反転信号とを同時に出力する。本実施形態においては、正転画素信号がD0Pa〜D7Pa、反転画素信号がD0Na〜D7Naとなり、正転逓倍クロック信号がH2ckPa、反転逓倍クロック信号がH2ckNaとなっている。   The first differential transmission buffer 203a is provided for each of the pixel signals D0a · D1a, D2a · D3a, D4a · D5a, D6a · D7a, and the multiplied clock signal H2cka to which the synchronization signal is added. The first differential transmission buffer 203a simultaneously outputs a normal rotation signal having the same polarity as each pulse signal and an inverted signal having a reverse polarity. In this embodiment, the normal pixel signal is D0Pa to D7Pa, the inverted pixel signal is D0Na to D7Na, the normal multiplication clock signal is H2ckPa, and the inverted multiplication clock signal is H2ckNa.

ここで、出力部110a、110b、110c、110dに入力される画素クロック信号及び逓倍クロック信号は、同じ信号がTG112から送られてくるものとする。しかし、TG112から出力部110a、110b、110c、110dのそれぞれまでの距離に応じた遅延が発生する。そのため、出力部110a、110b、110c、110dにそれぞれ入力される画素クロック信号Scka、Sckb、Sckc、Sckd、及び逓倍クロック信号H2cka、H2ckb、H2ckc、H2ckdは区別して用いるものとする。   Here, it is assumed that the same signal is transmitted from the TG 112 as the pixel clock signal and the multiplied clock signal input to the output units 110a, 110b, 110c, and 110d. However, a delay corresponding to the distance from the TG 112 to each of the output units 110a, 110b, 110c, and 110d occurs. Therefore, the pixel clock signals Skka, Sckb, Sckc, Sckd and the multiplied clock signals H2cka, H2ckb, H2ckc, and H2ckd that are respectively input to the output units 110a, 110b, 110c, and 110d are used separately.

次に、図8を用いて、第2の実施形態での動作を説明する。図8は、第2の実施形態に係る撮像素子12の動作例を示すタイミングチャートである。図8において、HDは、撮像素子12を駆動するための水平同期信号を示し、立ち下がりで有効となり、Thdが1つの水平同期期間となっている。また、HSは、水平同期信号のサブ水平同期信号を示し、立ち下がりで有効となり、Thsが1つのサブ水平同期期間となっている。本実施形態に係る撮像素子12は、第1出力部110a、第2出力部110b、第3出力部110c及び第4出力部110dの4つの出力部を有するため、4行分の画素を並列的に出力することが可能となっている。そこで、サブ水平同期信号HSは、水平同期期間Thdを4等分した周期で立ち下がるよう作られている。このため、水平同期期間Thdが、サブ水平同期期間Thsの4倍の長さとなっている。   Next, the operation in the second embodiment will be described with reference to FIG. FIG. 8 is a timing chart showing an operation example of the image sensor 12 according to the second embodiment. In FIG. 8, HD indicates a horizontal synchronization signal for driving the image sensor 12, and becomes effective at the falling edge, and Thd is one horizontal synchronization period. HS indicates a sub-horizontal synchronization signal of the horizontal synchronization signal, and becomes valid at the fall, and Ths is one sub-horizontal synchronization period. Since the imaging device 12 according to the present embodiment includes four output units, ie, a first output unit 110a, a second output unit 110b, a third output unit 110c, and a fourth output unit 110d, the pixels for four rows are arranged in parallel. It is possible to output to. Therefore, the sub horizontal synchronizing signal HS is made to fall at a period obtained by dividing the horizontal synchronizing period Thd into four equal parts. For this reason, the horizontal synchronization period Thd is four times as long as the sub horizontal synchronization period Ths.

Opr1は、第1信号選択部105aが選択され、かつ、第1メモリ選択部114aにより第1水平メモリ部108aに接続したときの第1の読み出し動作を示す。Opr2は、第2信号選択部105bが選択され、かつ、第2メモリ選択部114bにより第2水平メモリ部108bに接続したときの第2の読み出し動作を示す。Opr3は、第1信号選択部105aが選択され、かつ、第1メモリ選択部114aにより第3水平メモリ部108cに接続したときの第3の読み出し動作を示す。Opr4は、第2信号選択部105bが選択され、かつ、第2メモリ選択部114bにより第4水平メモリ部108dに接続したときの第4の読み出し動作を示す。   Opr1 indicates a first read operation when the first signal selection unit 105a is selected and the first memory selection unit 114a is connected to the first horizontal memory unit 108a. Opr2 indicates a second read operation when the second signal selection unit 105b is selected and the second memory selection unit 114b is connected to the second horizontal memory unit 108b. Opr3 indicates a third read operation when the first signal selection unit 105a is selected and the first memory selection unit 114a is connected to the third horizontal memory unit 108c. Opr4 indicates a fourth read operation when the second signal selection unit 105b is selected and the second memory selection unit 114b is connected to the fourth horizontal memory unit 108d.

画素領域101に配列されている画素のうち、1行目、5行目、9行目及び13行目の画素の信号を第1の読み出し動作Opr1を用いて読み出し、2行目、6行目、10行目及び14行目の画素の信号を第2の読み出し動作Opr2を用いて読み出すことにする。また、3行目、7行目、11行目及び15行目の画素の信号を第3の読み出し動作Opr3を用いて読み出し、4行目、8行目、12行目及び16行目の画素の信号を第4の読み出し動作Opr4を用いて読み出すことにする。   Of the pixels arranged in the pixel region 101, the signals of the pixels in the first row, the fifth row, the ninth row, and the thirteenth row are read using the first read operation Opr1, and the second row and the sixth row. The signals of the pixels in the 10th and 14th rows are read out using the second readout operation Opr2. Further, the signals of the pixels in the third row, the seventh row, the eleventh row, and the fifteenth row are read using the third read operation Opr3, and the pixels in the fourth row, the eighth row, the twelfth row, and the sixteenth row. These signals are read using the fourth read operation Opr4.

まず、はじめに、第1の読み出し動作Opr1について説明する。撮像素子12は、水平同期信号HDに同期するサブ水平同期信号HSの1回目に同期して第1の読み出し動作Opr1を開始する(時刻t60)。まず、期間Rd1rにおいて、第1信号選択部105aが選択された状態で、垂直走査部102からの駆動制御信号により、1行目の画素の信号がそれぞれ対応する垂直信号線104に読み出される(時刻t60〜t61)。このとき、最初に画素をリセットした状態のN信号が、第1列信号処理部106aでサンプルホールドされ、続いて光電変換部の信号を読み出した状態のS信号が、第1列信号処理部106aでサンプルホールドされる。   First, the first read operation Opr1 will be described. The imaging device 12 starts the first read operation Opr1 in synchronization with the first time of the sub horizontal synchronization signal HS synchronized with the horizontal synchronization signal HD (time t60). First, in the period Rd1r, in the state where the first signal selection unit 105a is selected, the signal of the pixel in the first row is read to the corresponding vertical signal line 104 by the drive control signal from the vertical scanning unit 102 (time). t60-t61). At this time, the N signal in the state in which the pixels are first reset is sampled and held by the first column signal processing unit 106a, and the S signal in the state in which the signal of the photoelectric conversion unit is subsequently read out is the first column signal processing unit 106a. Is sampled and held.

次に、期間CDS1rにおいて、第1列信号処理部106aが、CDS回路でS信号からN信号を減算することによってCDS処理によるノイズ除去を実施し、必要であればAGC回路による利得制御を実施する(時刻t61〜t62)。そして、期間AD1rにおいて、第1列AD部107aが、ノイズ除去された1行目の画素の信号をアナログデジタル変換する。第1の読み出し動作Opr1においては、第1メモリ選択部114aにより第1水平メモリ部108aに接続しているので、デジタル信号に変換された1行目の画素の信号は、第1水平メモリ部108aに記憶される(時刻t62〜t63)。ここまでの時刻t60〜t63での処理が、1行目の各画素の信号に対する列毎の並列処理になる。   Next, in the period CDS1r, the first column signal processing unit 106a performs noise removal by CDS processing by subtracting the N signal from the S signal in the CDS circuit, and performs gain control by the AGC circuit if necessary. (Time t61 to t62). Then, in the period AD1r, the first column AD unit 107a performs analog-to-digital conversion on the pixel signal of the first row from which noise is removed. In the first read operation Opr1, since the first memory selection unit 114a is connected to the first horizontal memory unit 108a, the signal of the pixel in the first row converted into the digital signal is the first horizontal memory unit 108a. (Time t62 to t63). Processing at time t60 to t63 so far is parallel processing for each column with respect to the signal of each pixel in the first row.

続いて、期間SD1rにおいて、第1出力部110a内の第1同期信号付加部202aが逓倍クロック信号H2ckaの位相と同期した状態で、2ビット直列4本並列した画素信号が送られてくる前にスタート同期信号を付加する(時刻t63〜t64)。ここで付加されるスタート同期信号は、2ビット直列4本並列した画素信号それぞれに対して、第1の実施形態におけるスタート同期信号と同じものを用いることができるので、説明は省略する。このとき、正転逓倍クロック信号H2ckPa及び反転逓倍クロック信号H2ckNaには、スタート同期信号を付加しない。   Subsequently, in the period SD1r, before the pixel signal in which four 2-bit serially parallel pixels are sent in a state where the first synchronizing signal adding unit 202a in the first output unit 110a is synchronized with the phase of the multiplied clock signal H2cka. A start synchronization signal is added (time t63 to t64). Since the start synchronization signal added here can be the same as the start synchronization signal in the first embodiment for each of the two 2-bit serially parallel pixel signals, description thereof will be omitted. At this time, the start synchronization signal is not added to the forward multiplied clock signal H2ckPa and the inverted multiplied clock signal H2ckNa.

次に、期間SigOut1rにおいて、第1水平走査部109aが第1水平メモリ部108aを列毎に選択し、第1水平メモリ部108aに記憶しているデジタル化された8ビットの画素信号D0a〜D7aを第1出力部110aに転送する。そして、第1信号変換部201aが、TG112から送られてくる画素クロック信号Sckaの位相と同期するように、8ビットの画素信号D0a〜D7aの位相を調整する。また、第1パラシリ変換部204aが、位相が調整された8ビット並列に入力される画素信号D0a〜D7aを逓倍クロック信号H2ckaに同期した2ビット直列の4本並列した画素信号に変換する。その後、第1差動送信バッファ203aが、2ビット直列の4本並列したそれぞれの信号に対応する正転信号と反転信号に変換して、第1出力端子111aから出力する。(時刻t64以降)。   Next, in the period SigOut1r, the first horizontal scanning unit 109a selects the first horizontal memory unit 108a for each column, and digitized 8-bit pixel signals D0a to D7a stored in the first horizontal memory unit 108a. Is transferred to the first output unit 110a. Then, the first signal conversion unit 201a adjusts the phases of the 8-bit pixel signals D0a to D7a so as to be synchronized with the phase of the pixel clock signal Skca sent from the TG 112. In addition, the first parallel-serial conversion unit 204a converts the pixel signals D0a to D7a input in parallel in which the phase is adjusted into four 2-bit serial pixel signals in synchronization with the multiplied clock signal H2cka. Thereafter, the first differential transmission buffer 203a converts the signal into a normal signal and an inverted signal corresponding to each of the two 2-bit serially parallel signals, and outputs them from the first output terminal 111a. (After time t64).

さらに、続けて、期間ED1rにおいて、第1出力部110a内の第1同期信号付加部202aが逓倍クロック信号H2ckaの位相と同期した状態で、2ビット直列の4本並列した画素信号が送り出された後にエンド同期信号を付加する(時刻t67まで)。ここで付加されるエンド同期信号は、2ビット直列の4本並列した画素信号それぞれに対して、第1の実施形態におけるエンド同期信号と同じものを用いることができるので、説明は省略する。このとき、正転逓倍クロック信号H2ckPa及び反転逓倍クロック信号H2ckNaには、エンド同期信号ED1rを付加しない。ここまでの時刻t63〜t67の期間が、スタート同期信号及びエンド同期信号を付加した1行目の各画素の信号の出力期間になる。   Further, continuously, in the period ED1r, four parallel pixel signals of 2 bits in series are sent out in a state where the first synchronization signal adding unit 202a in the first output unit 110a is synchronized with the phase of the multiplied clock signal H2cka. An end synchronization signal is added later (until time t67). Since the end synchronization signal added here can be the same as the end synchronization signal in the first embodiment for each of the four parallel pixel signals of 2-bit series, description thereof will be omitted. At this time, the end synchronization signal ED1r is not added to the forward multiplied clock signal H2ckPa and the inverted multiplied clock signal H2ckNa. The period from time t63 to t67 so far is the signal output period of each pixel in the first row to which the start synchronization signal and end synchronization signal are added.

第1の読み出し動作Opr1においては、1行目の画素の信号の出力後、続けて5行目の画素の信号を出力する。時刻t68〜t71の期間が、5行目の各画素の信号について、列毎の読み出し、CDS処理、アナログデジタル変換、水平メモリ部への記憶といった列毎の並列処理を実施する期間になる。そして、時刻t71〜t75の期間が、スタート同期信号及びエンド同期信号を付加した5行目の各画素の信号の出力期間になる。さらに、第2の実施形態においては、画素領域101に配列されている画素100は16行であるため、時刻t76以降で、9行目及び13行目の画素の信号を同様に読み出し、その後、再び1行目の画素の信号の読み出し動作が開始される。   In the first read operation Opr1, after the pixel signal of the first row is output, the signal of the pixel of the fifth row is output continuously. The period from time t68 to t71 is a period in which parallel processing for each column such as readout for each column, CDS processing, analog-digital conversion, and storage in the horizontal memory unit is performed for the signal of each pixel in the fifth row. A period from time t71 to t75 is an output period of a signal of each pixel in the fifth row to which the start synchronization signal and the end synchronization signal are added. Further, in the second embodiment, since the pixels 100 arranged in the pixel region 101 are 16 rows, the signals of the pixels in the 9th row and 13th row are similarly read out after time t76, and then The signal readout operation for the pixels in the first row is started again.

次に、第2の読み出し動作Opr2について説明する。撮像素子12は、水平同期信号HDに同期するサブ水平同期信号HSの2回目に同期して第2の読み出し動作Opr2を開始する(時刻t62)。ここで、撮像素子12においては、垂直信号線104が垂直画素列に共通に配線されているため、第2の読み出し動作Opr2は、1行目の画素の信号を読み出す期間Rd1rの終了以降(時刻t61以降)に動作を開始する必要がある。本実施形態においては、水平同期期間Thdを4分割したサブ水平同期期間Thsが、期間Rd1rより長く設定されているので、2回目のサブ水平同期信号HSは、期間Rd1r終了後、十分に時間が経過した後に設けられている(時刻t62)。   Next, the second read operation Opr2 will be described. The image sensor 12 starts the second readout operation Opr2 in synchronization with the second time of the sub horizontal synchronization signal HS that is synchronized with the horizontal synchronization signal HD (time t62). Here, in the image sensor 12, since the vertical signal line 104 is wired in common to the vertical pixel column, the second read operation Opr2 is performed after the end of the period Rd1r for reading the signal of the pixel in the first row (time). It is necessary to start the operation after t61). In the present embodiment, the sub-horizontal synchronization period Ths obtained by dividing the horizontal synchronization period Thd into four is set longer than the period Rd1r. Therefore, the second sub-horizontal synchronization signal HS has a sufficient time after the period Rd1r ends. It is provided after elapse (time t62).

まず、期間Rd2rにおいて、第2信号選択部105aが選択された状態で、垂直走査部102からの駆動制御信号により、2行目の画素の信号がそれぞれ対応する垂直信号線104に読み出される。すなわち、2行目の画素の信号のN信号とS信号をそれぞれ対応する垂直信号線104を介して第2列信号処理部106bに読み出す(時刻t62〜t63)。   First, in the period Rd2r, the signals of the pixels in the second row are read out to the corresponding vertical signal lines 104 by the drive control signal from the vertical scanning unit 102 in a state where the second signal selection unit 105a is selected. That is, the N signal and S signal of the signals of the pixels in the second row are read out to the second column signal processing unit 106b via the corresponding vertical signal lines 104 (time t62 to t63).

次に、期間CDS2rにおいて、第2列信号処理部106bが、CDS回路でCDS処理によるノイズ除去を実施し、必要であればAGC回路による利得制御を実施する(時刻t63〜t64)。そして、期間AD2rにおいて、第2列AD部107bが、2行目の画素の信号をアナログデジタル変換する。第2の読み出し動作Opr2においては、第2メモリ選択部114bにより第2水平メモリ部108bに接続しているので、デジタル信号に変換された2行目の画素の信号は、第2水平メモリ部108bに記憶される(時刻t64〜t65)。ここまでの時刻t62〜t65での処理が、2行目の各画素の信号に対する列毎の並列処理になる。   Next, in the period CDS2r, the second column signal processing unit 106b performs noise removal by CDS processing in the CDS circuit, and performs gain control by the AGC circuit if necessary (time t63 to t64). Then, in the period AD2r, the second column AD unit 107b performs analog-digital conversion on the signals of the pixels in the second row. In the second read operation Opr2, since the second memory selection unit 114b is connected to the second horizontal memory unit 108b, the pixel signal of the second row converted into a digital signal is the second horizontal memory unit 108b. (Time t64 to t65). Processing at times t62 to t65 so far is parallel processing for each column with respect to the signals of the respective pixels in the second row.

続いて、期間SD2rにおいて、第2出力部110b内の不図示の第2同期信号付加部が逓倍クロック信号H2ckbの位相と同期した状態で、2ビット直列の4本並列した画素信号が送られてくる前にスタート同期信号を付加する(時刻t65〜t66)。ここで付加されるスタート同期信号は、第1の読み出し動作Opr1におけるスタート同期信号と同様であるので、説明は省略する。   Subsequently, in the period SD2r, two parallel 2-bit pixel signals are sent in a state where a second synchronization signal adding unit (not shown) in the second output unit 110b is synchronized with the phase of the multiplied clock signal H2ckb. A start synchronization signal is added before coming (time t65 to t66). Since the start synchronization signal added here is the same as the start synchronization signal in the first read operation Opr1, description thereof will be omitted.

ここで、第2の読み出し動作Opr2においては、期間Rd1rの開始から1サブ水平同期期間Ths後に、期間Rd2rが開始している。そのため、スタート同期信号を付加する期間SD2rも期間SD1rから1サブ水平同期期間Thsに相当する時間だけ遅れて開始する必要がある。   Here, in the second read operation Opr2, the period Rd2r starts one sub-horizontal synchronization period Ths after the start of the period Rd1r. Therefore, the period SD2r to which the start synchronization signal is added needs to be delayed from the period SD1r by a time corresponding to one sub-horizontal synchronization period Ths.

次に、期間SigOut2rにおいて、第2水平走査部109bが第2水平メモリ部108bを列毎に選択し、第2水平メモリ部108bに記憶しているデジタル化された8ビットの画素信号D0b〜D7bを第2出力部110bに転送する。そして、第2出力部110bの不図示の第2信号変換部が、TG112から送られてくる画素クロック信号Sckbの位相と同期するように、8ビットの画素信号D0b〜D7bの位相を調整する。また、第2出力部110bの不図示の第2パラシリ変換部が、位相が調整された8ビット並列に入力される画素信号D0b〜D7bを逓倍クロック信号H2ckbに同期した2ビット直列の4本並列した画素信号に変換する。その後、第2出力部110bの不図示の第2差動送信バッファが、2ビット直列の4本並列したそれぞれの信号に対応する正転信号と反転信号に変換して、第2出力端子111bから出力する(時刻t66以降)。   Next, in the period SigOut2r, the second horizontal scanning unit 109b selects the second horizontal memory unit 108b for each column, and digitized 8-bit pixel signals D0b to D7b stored in the second horizontal memory unit 108b. Is transferred to the second output unit 110b. Then, a second signal conversion unit (not shown) of the second output unit 110b adjusts the phases of the 8-bit pixel signals D0b to D7b so as to be synchronized with the phase of the pixel clock signal Skkb sent from the TG 112. In addition, a second parallel-serial conversion unit (not shown) of the second output unit 110b has four parallel 2-bit serial signals in which the pixel signals D0b to D7b that are input in parallel with the phase adjusted are synchronized with the multiplied clock signal H2ckb. Converted to a pixel signal. Thereafter, a second differential transmission buffer (not shown) of the second output unit 110b converts the signal into a normal signal and an inverted signal corresponding to each of the four parallel 2-bit signals, and from the second output terminal 111b. Output (after time t66).

さらに、続けて、期間ED2rにおいて、第2出力部110b内の第2同期信号付加部が逓倍クロック信号H2ckbの位相と同期した状態で、2ビット直列の4本並列した画素信号が送り出された後にエンド同期信号を付加する(時刻t69まで)。ここで付加されるエンド同期信号は、第1の読み出し動作Opr1におけるエンド同期信号と同様であるので、説明は省略する。ここまでの時刻t65〜t69の期間が、スタート同期信号及びエンド同期信号を付加した2行目の各画素の信号の出力期間になる。   Further, continuously, after a pixel signal in which four 2-bit serially parallel pixels are sent out in a period ED2r in a state where the second synchronization signal adding unit in the second output unit 110b is synchronized with the phase of the multiplied clock signal H2ckb. An end synchronization signal is added (until time t69). Since the end synchronization signal added here is the same as the end synchronization signal in the first read operation Opr1, description thereof will be omitted. The period from time t65 to t69 so far is the signal output period of each pixel in the second row to which the start synchronization signal and end synchronization signal are added.

第2の読み出し動作Opr2においては、2行目の画素の信号の出力後、続けて6行目の画素の信号を出力する。時刻t70以降の6行目の画素の信号の出力の説明は、2行目の画素の信号の出力と同様に行えば良いので省略する。そして、第2の実施形態においては、画素領域101に配列されている画素100は16行であるため、続けて10行目及び14行目の画素の信号を同様に読み出し、その後、再び2行目の画素の信号の読み出し動作が開始される。   In the second readout operation Opr2, after the pixel signal of the second row is output, the pixel signal of the sixth row is output continuously. The description of the pixel signal output of the sixth row after time t70 is omitted because it may be performed in the same manner as the signal output of the pixel of the second row. In the second embodiment, since the pixels 100 arranged in the pixel region 101 have 16 rows, the signals of the pixels in the 10th and 14th rows are read in the same manner, and then 2 rows again. The reading operation of the signal of the eye pixel is started.

次に、第3の読み出し動作Opr3について説明する。撮像素子12は、水平同期信号HDに同期するサブ水平同期信号HSの3回目に同期して第3の読み出し動作Opr3を開始する(時刻t64)。本実施形態においては、水平同期期間Thdを4分割したサブ水平同期期間Thsが、期間Rd2rより長く設定されているので、3回目のサブ水平同期信号HSは、期間Rd2r終了後、十分に時間が経過した後に設けられている(時刻t64)。   Next, the third read operation Opr3 will be described. The imaging device 12 starts the third read operation Opr3 in synchronization with the third time of the sub horizontal synchronization signal HS synchronized with the horizontal synchronization signal HD (time t64). In the present embodiment, the sub-horizontal synchronization period Ths obtained by dividing the horizontal synchronization period Thd into four is set longer than the period Rd2r. Therefore, the third sub-horizontal synchronization signal HS has a sufficient time after the period Rd2r ends. It is provided after elapse (time t64).

ここで、第3の読み出し動作Opr3は、第1信号選択部105aが選択され、かつ、第1メモリ選択部114aにより第3水平メモリ部108cに接続したときの動作である。また、第3水平メモリ部108c及び第3出力部110cは、それぞれ第1水平メモリ部108a及び第1出力部110aと同じ構成となっているため、説明は省略する。これにより、3回目のサブ水平同期信号HSに同期して第3の読み出し動作Opr3が開始された後は、第1の読み出し動作Opr1と同様な動作を行うことができる。   Here, the third read operation Opr3 is an operation when the first signal selection unit 105a is selected and connected to the third horizontal memory unit 108c by the first memory selection unit 114a. In addition, the third horizontal memory unit 108c and the third output unit 110c have the same configuration as the first horizontal memory unit 108a and the first output unit 110a, respectively, and thus description thereof is omitted. Thereby, after the third read operation Opr3 is started in synchronization with the third sub-horizontal synchronization signal HS, the same operation as the first read operation Opr1 can be performed.

すなわち、時刻t64〜t67の期間が、3行目の各画素の信号について、列毎の読み出し、CDS処理、アナログデジタル変換、水平メモリ部への記憶といった列毎の並列処理を実施する期間になる。そして、時刻t67〜t71の期間が、スタート同期信号及びエンド同期信号を付加した3行目の各画素の信号の出力期間になる。時刻t72以降の7行目の画素の信号の出力の説明は、3行目の画素の信号の出力と同様に行えば良いので省略する。そして、第2の実施形態においては、画素領域101に配列されている画素100は16行であるため、続けて11行目及び15行目の画素の信号を同様に読み出し、その後、再び3行目の画素の信号の読み出し動作が開始される。   That is, the period from time t64 to t67 is a period in which parallel processing for each column such as readout for each column, CDS processing, analog-digital conversion, and storage in the horizontal memory unit is performed for the signal of each pixel in the third row. . A period from time t67 to t71 is an output period of the signal of each pixel in the third row to which the start synchronization signal and the end synchronization signal are added. The description of the output of the pixel signal of the seventh row after time t72 is omitted because it may be performed in the same manner as the output of the pixel signal of the third row. In the second embodiment, since the pixels 100 arranged in the pixel region 101 have 16 rows, the signals of the pixels in the 11th and 15th rows are read in the same manner, and then 3 rows again. The reading operation of the signal of the eye pixel is started.

次に、第4の読み出し動作Opr4について説明する。撮像素子12は、水平同期信号HDに同期するサブ水平同期信号HSの4回目に同期して第4の読み出し動作Opr4を開始する(時刻t66)。本実施形態においては、水平同期期間Thsを4分割したサブ水平同期期間Thsが、期間Rd3rより長く設定されているので、4回目のサブ水平同期信号HSは、期間Rd3r終了後、十分に時間が経過した後に設けられている(時刻t66)。   Next, the fourth read operation Opr4 will be described. The imaging device 12 starts the fourth read operation Opr4 in synchronization with the fourth time of the sub horizontal synchronization signal HS synchronized with the horizontal synchronization signal HD (time t66). In the present embodiment, the sub-horizontal synchronization period Ths obtained by dividing the horizontal synchronization period Ths into four is set to be longer than the period Rd3r. Therefore, the fourth sub-horizontal synchronization signal HS has a sufficient time after the period Rd3r ends. It is provided after elapse (time t66).

ここで、第4の読み出し動作Opr4は、第2信号選択部105bが選択され、かつ、第2メモリ選択部114bにより第4水平メモリ部108dに接続したときの動作である。また、第4水平メモリ部108d及び第4出力部110dは、それぞれ第2水平メモリ部108b及び第2出力部110bと同じ構成となっているため、説明は省略する。これにより、4回目のサブ水平同期信号HSに同期して第4の読み出し動作Opr4が開始された後は、第2の読み出し動作Opr2と同様な動作を行うことができる。   Here, the fourth read operation Opr4 is an operation when the second signal selection unit 105b is selected and connected to the fourth horizontal memory unit 108d by the second memory selection unit 114b. Further, the fourth horizontal memory unit 108d and the fourth output unit 110d have the same configuration as the second horizontal memory unit 108b and the second output unit 110b, respectively, and thus description thereof is omitted. Thus, after the fourth read operation Opr4 is started in synchronization with the fourth sub horizontal synchronization signal HS, the same operation as the second read operation Opr2 can be performed.

すなわち、時刻t66〜t69の期間が、4行目の各画素の信号について、列毎の読み出し、CDS処理、アナログデジタル変換、水平メモリ部への記憶といった列毎の並列処理を実施する期間になる。そして、時刻t69〜t73の期間が、スタート同期信号及びエンド同期信号を付加した4行目の各画素の信号の出力期間になる。時刻t74以降の8行目の画素の信号の出力の説明は、4行目の画素の信号の出力と同様に行えば良いので省略する。また、第2の実施形態においては、画素領域101に配列されている画素100は16行であるため、続けて12行目及び16行目の画素の信号を同様に読み出し、その後、再び4行目の画素の信号の読み出し動作が開始される。   That is, the period from time t66 to t69 is a period in which parallel processing for each column such as readout for each column, CDS processing, analog-digital conversion, and storage in the horizontal memory unit is performed on the signals of the pixels in the fourth row. . A period from time t69 to t73 is an output period of the signal of each pixel in the fourth row to which the start synchronization signal and the end synchronization signal are added. The description of the output of the pixel signal of the eighth row after time t74 is omitted since it may be performed in the same manner as the output of the pixel signal of the fourth row. In the second embodiment, since the pixels 100 arranged in the pixel region 101 have 16 rows, the signals of the pixels in the 12th and 16th rows are read in the same manner, and then 4 rows again. The reading operation of the signal of the eye pixel is started.

このように、第2の実施形態においては、第1の読み出し動作Opr1、第2の読み出し動作Opr2、第3の読み出し動作Opr3、及び第4の読み出し動作Opr4を、それぞれ1サブ水平同期期間Thsに相当する時間だけずらせて動作させる。このため、TG112は、期間Rd1r、期間CDS1r、期間AD1rの間に実施する1行目の画素の信号の読み出しから第1水平メモリ部108aへの記憶までの列毎の並列処理動作を制御することが可能となっている。また、TG112は、同時に、1サブ水平同期期間Thsだけずらせて、2行目の画素の信号の読み出しから第2水平メモリ部108bへの記憶までの列毎の並列処理動作を制御することが可能となっている。TG112は、同様に、それぞれ1サブ水平同期期間Thsだけずらせて、3行目の画素の信号の読み出しから第3水平メモリ部108cへの記憶までの列毎の並列処理動作を制御することが可能となっている。また、TG112は、1サブ水平同期期間Thsだけずらせて、4行目の画素の信号の読み出しから第4水平メモリ部108dへの記憶までの列毎の並列処理動作も制御することが可能となっている。   Thus, in the second embodiment, the first read operation Opr1, the second read operation Opr2, the third read operation Opr3, and the fourth read operation Opr4 are each performed in one sub-horizontal synchronization period Ths. Operate it for the corresponding amount of time. For this reason, the TG 112 controls the parallel processing operation for each column from the reading of the pixel signal of the first row performed during the period Rd1r, the period CDS1r, and the period AD1r to the storage in the first horizontal memory unit 108a. Is possible. Further, the TG 112 can simultaneously control the parallel processing operation for each column from the reading of the pixel signal of the second row to the storage in the second horizontal memory unit 108b by shifting by one sub-horizontal synchronization period Ths. It has become. Similarly, the TG 112 can control the parallel processing operation for each column from the reading of the signal of the pixel in the third row to the storage in the third horizontal memory unit 108c by shifting by one sub-horizontal synchronization period Ths. It has become. In addition, the TG 112 can control the parallel processing operation for each column from the readout of the pixel signal of the fourth row to the storage in the fourth horizontal memory unit 108d by shifting by one sub-horizontal synchronization period Ths. ing.

さらに、TG112は、前述した列毎の並列処理動作とは別に、スタート同期信号及びエンド同期信号を付加した行単位での画素の信号の出力動作をそれぞれ制御することが可能となっている。ここで、スタート同期信号の出力動作は、それぞれの行の信号の並列処理動作の終了後で、それぞれ対応する次の行の読み出し動作の開始前にそれぞれ対応するエンド同期信号の出力が完了するのであれば、その間のどこでも構わない。これら期間SD1r、期間SD2r、期間SD3r、及び期間SD4rのそれぞれの開始タイミングは、同期制御部15からの制御信号に基づいて、TG112が個別にかつ適宜設定できる。   Furthermore, the TG 112 can control the pixel signal output operation in units of rows to which the start synchronization signal and the end synchronization signal are added, in addition to the above-described parallel processing operation for each column. Here, the output operation of the start synchronization signal is because the output of the corresponding end synchronization signal is completed after the parallel processing operation of the signal of each row is completed and before the reading operation of the corresponding next row is started. If it exists, it can be anywhere in between. The start timings of the period SD1r, the period SD2r, the period SD3r, and the period SD4r can be set individually and appropriately by the TG 112 based on a control signal from the synchronization control unit 15.

以上の説明は、第1の読み出し動作Opr1、第2の読み出し動作Opr2、第3の読み出し動作Opr3、及び第4の読み出し動作Opr4の関係について述べたものである。読み出し動作が繰り返される場合には、4行目の画素信号を読み出す第4の読み出し動作Opr4と5行目の画素信号を読み出す第1の読み出し動作Opr1の関係についても同様であり、その後に読み出されるすべての画素行に対しても適応可能である。さらに、16行目の画素信号を読み出す第4の読み出し動作Opr4と1行目の画素信号を読み出す第1の読み出し動作Opr1の関係についても同様である。   The above description describes the relationship between the first read operation Opr1, the second read operation Opr2, the third read operation Opr3, and the fourth read operation Opr4. When the readout operation is repeated, the same applies to the relationship between the fourth readout operation Opr4 that reads out the pixel signal in the fourth row and the first readout operation Opr1 that reads out the pixel signal in the fifth row. This can be applied to all pixel rows. The same applies to the relationship between the fourth readout operation Opr4 for reading out the pixel signal in the 16th row and the first readout operation Opr1 for reading out the pixel signal in the first row.

ここで、撮像素子12の出力信号の画素数は、予め決まっているので、同期制御部15が信号処理部13に対して、1行分の画素に相当する処理の制御を実施可能であれば、エンド同期信号は省略可能である。   Here, since the number of pixels of the output signal of the image sensor 12 is determined in advance, if the synchronization control unit 15 can control the signal processing unit 13 to perform processing corresponding to pixels for one row. The end synchronization signal can be omitted.

図9は、本実施形態に係る信号処理部13の入力部分の構成を示す図であり、信号処理部13での信号処理が可能となるように、撮像素子12から出力される行単位でタイミングがずれたデジタル画素信号を受け取ることが可能な構成になっている。信号処理部13は、第1入力部401a、第2入力部401b、第3入力部401c、第4入力部401d、同期信号解読部403、シリパラ変換部406、及び内部メモリ404を有する。   FIG. 9 is a diagram illustrating a configuration of an input portion of the signal processing unit 13 according to the present embodiment. It is possible to receive digital pixel signals that are shifted from each other. The signal processing unit 13 includes a first input unit 401 a, a second input unit 401 b, a third input unit 401 c, a fourth input unit 401 d, a synchronization signal decoding unit 403, a serial-parallel conversion unit 406, and an internal memory 404.

第1入力部401a及び第2入力部401bには、第1出力部110a及び第2出力部110bからの画素の信号が、それぞれ第1入力端子402a及び第2入力端子402bを介して入力される。また、第3入力部401c及び第4入力部401dには、第3出力部110c及び第4出力部110dからの画素の信号が、それぞれ第3入力端子402c及び第4入力端子402dを介して入力される。   Pixel signals from the first output unit 110a and the second output unit 110b are input to the first input unit 401a and the second input unit 401b via the first input terminal 402a and the second input terminal 402b, respectively. . In addition, pixel signals from the third output unit 110c and the fourth output unit 110d are input to the third input unit 401c and the fourth input unit 401d via the third input terminal 402c and the fourth input terminal 402d, respectively. Is done.

信号処理部13に入力される信号は、図7を用いて説明した、1つの信号が正転画素信号及び反転画素信号からなる差動信号であるので、不図示の差動受信バッファにより受信して、通常のパルス信号に変換する。このとき、同時に入力される逓倍クロック信号と信号処理部13の信号処理クロック信号の位相を比較して、デジタル画素信号の位相を信号処理部13の信号処理クロック信号の位相に同期させる処理も行う。   Since the signal input to the signal processing unit 13 is a differential signal composed of a normal pixel signal and an inverted pixel signal as described with reference to FIG. 7, it is received by a differential reception buffer (not shown). To convert it into a normal pulse signal. At this time, the phase of the multiplied clock signal input at the same time and the phase of the signal processing clock signal of the signal processing unit 13 are compared, and the process of synchronizing the phase of the digital pixel signal with the phase of the signal processing clock signal of the signal processing unit 13 is also performed. .

同期信号解読部403は、同期信号付きの行単位の画素信号の同期信号を解読して、スタート同期信号とエンド同期信号に挟まれた行単位の画素信号を出力する。シリパラ変換部406は、第1出力部110a、第2出力部110b、第3出力部110c及び第4出力部110dから送られてくる2ビット直列の4本並列した画素信号を8ビット並列した画素信号にシリアルパラレル変換し、内部メモリ404に記憶させる。例えば、第1出力部110aから送られてくる2ビット直列の4本並列した画素信号D0a・D1a、D2a・D3a、D4a・D5a及びD6a・D7aは、8ビット並列した画素信号D0a〜D7aに変換される。内部メモリ404は、行単位の画素信号を記憶する。図9には、1行目から16行目までの画素信号を記憶する領域を、便宜的にそれぞれmP1r〜mP16rとして示している。   The synchronization signal decoding unit 403 decodes the synchronization signal of the row-unit pixel signal with the synchronization signal, and outputs the row-unit pixel signal sandwiched between the start synchronization signal and the end synchronization signal. The serial-parallel converter 406 is a pixel in which four 2-bit serial pixel signals sent from the first output unit 110a, the second output unit 110b, the third output unit 110c, and the fourth output unit 110d are paralleled by 8 bits. The signal is serial-parallel converted and stored in the internal memory 404. For example, four 2-bit serial pixel signals D0a and D1a, D2a and D3a, D4a and D5a, and D6a and D7a sent from the first output unit 110a are converted into 8-bit parallel pixel signals D0a to D7a. Is done. The internal memory 404 stores pixel signals in units of rows. In FIG. 9, areas for storing pixel signals from the first line to the 16th line are shown as mP1r to mP16r for convenience.

ここで、図8に示した動作が実施された場合について説明する。第1入力部401aから同期信号解読部403に1行目の画素の信号が入力されると、同期制御部15からの制御信号に基づいて、スタート同期信号とエンド同期信号に挟まれた行単位の画素信号が、シリパラ変換部406に送られる。1行目の画素の信号は、シリパラ変換部406で8ビット並列した画素信号に変換されて内部メモリ404の領域mP1rに記憶される。次に、第2入力部401bから同期信号解読部403に2行目の画素の信号が入力されると、同期制御部15からの制御信号に基づいて、スタート同期信号とエンド同期信号に挟まれた行単位の画素信号が、シリパラ変換部406に送られる。2行目の画素の信号は、シリパラ変換部406で8ビット並列した画素信号に変換されて内部メモリ404の領域mP2rに記憶される。   Here, a case where the operation shown in FIG. 8 is performed will be described. When the pixel signal of the first row is input from the first input unit 401a to the synchronization signal decoding unit 403, the row unit sandwiched between the start synchronization signal and the end synchronization signal based on the control signal from the synchronization control unit 15 Are sent to the serial-parallel converter 406. The signal of the pixel in the first row is converted into a pixel signal in which 8 bits are paralleled by the serial-parallel conversion unit 406 and stored in the area mP1r of the internal memory 404. Next, when the pixel signal in the second row is input from the second input unit 401 b to the synchronization signal decoding unit 403, it is sandwiched between the start synchronization signal and the end synchronization signal based on the control signal from the synchronization control unit 15. The row-by-row pixel signal is sent to the serial-parallel converter 406. The pixel signals in the second row are converted into 8-bit parallel pixel signals by the serial-parallel converter 406 and stored in the area mP2r of the internal memory 404.

続いて、第3入力部401cから3行目の画素の信号が入力され、8ビット並列した画素信号に変換されて内部メモリ404の領域mP3rに記憶される。さらに続けて、第4入力部401dから4行目の画素の信号が入力され、8ビット並列した画素信号に変換されて内部メモリ404の領域mP4rに記憶される。   Subsequently, a pixel signal of the third row is input from the third input unit 401 c, converted into a pixel signal parallel to 8 bits, and stored in the area mP <b> 3 r of the internal memory 404. Subsequently, the pixel signal of the fourth row is input from the fourth input unit 401d, is converted into a pixel signal parallel to 8 bits, and is stored in the area mP4r of the internal memory 404.

このとき、内部メモリ404に対しては、1行目の画素の信号の記憶動作、2行目の画素の信号の記憶動作、3行目の画素の信号の記憶動作及び4行目の画素の信号の記憶動作の一部が重なるタイミングが発生する。しかし、内部メモリ404の異なる領域に対する記憶動作なので、制御可能となっている。1行目、2行目、3行目及び4行目の画素の信号の記憶動作に続いて、5行目から16行目までの画素の信号の記憶動作も同様に行う。   At this time, with respect to the internal memory 404, the pixel storing operation of the first row pixel, the signal storing operation of the pixel of the second row, the signal storing operation of the pixel of the third row, and the pixel storing operation of the pixel of the fourth row A timing at which a part of the signal storing operation overlaps occurs. However, since it is a storage operation for different areas of the internal memory 404, it can be controlled. Following the signal storing operation of the pixels in the first row, the second row, the third row, and the fourth row, the pixel signal storing operations from the fifth row to the 16th row are performed in the same manner.

そして、内部メモリ404の領域mP1r〜mP16rに記憶された1行目〜16行目の画素の信号は、同期制御部15からの制御信号に基づいて、内部メモリ端子405から1行毎に信号処理されていくことになる。その後、続けて1行目の画素の信号が入力された場合には、また最初から領域mP1rに記憶すればよい。   Then, the signals of the pixels in the first to sixteenth rows stored in the areas mP1r to mP16r of the internal memory 404 are subjected to signal processing for each row from the internal memory terminal 405 based on the control signal from the synchronization control unit 15. It will be done. After that, when the signal of the pixel in the first row is continuously input, it may be stored in the area mP1r from the beginning.

以上のように、本実施形態においては、複数の出力手段の信号それぞれに対して、読み出し時間差に応じて個別にスタート同期信号を設定することで、出力信号の同期制御の手段を提供することができる。そして、信号処理部の入力部分において、解読した同期信号に応じて画素の信号を記憶するメモリ領域を割り当てることで、読み出し時間差に対応した信号処理部の入力信号の同期制御が実現可能である。これにより、複数の画素の信号を共通の読み出し手段と異なる出力手段を用いて別々に出力することが可能となるので、撮像装置における高速読み出し動作を実現することができる。本実施形態においては、4行同時に出力することが可能となるので、4倍のフレームレートを実現できることになる。   As described above, in the present embodiment, it is possible to provide a means for controlling the synchronization of output signals by individually setting the start synchronization signal for each of the signals of the plurality of output means in accordance with the read time difference. it can. Then, by assigning a memory area for storing the pixel signal in accordance with the decoded synchronization signal in the input portion of the signal processing unit, it is possible to realize synchronization control of the input signal of the signal processing unit corresponding to the read time difference. As a result, signals of a plurality of pixels can be output separately using output means different from the common readout means, and thus a high-speed readout operation in the imaging apparatus can be realized. In the present embodiment, since it is possible to output four rows simultaneously, a four times higher frame rate can be realized.

さらに、本実施形態においては、サブ水平同期信号HSが水平同期期間Thdを4分割した周期で作られ、行毎の画素の信号を、4行おきにサブ水平同期信号HSの1回目、2回目、3回目及び4回目それぞれに同期して読み出す。これにより、行毎の読み出しタイミングが等間隔になるので、なめらかなローリングシャッタ動作を実現することができる。   Furthermore, in the present embodiment, the sub horizontal synchronization signal HS is generated with a period obtained by dividing the horizontal synchronization period Thd into four, and the pixel signal for each row is changed to the first and second times of the sub horizontal synchronization signal HS every four rows. Read in synchronization with the third and fourth times. As a result, the readout timing for each row is equally spaced, so that a smooth rolling shutter operation can be realized.

また、出力部110内のパラシリ変換部204において、8ビットがそれぞれ8本並列に入力される画素信号を2ビット直列の4本並列した画素信号に変換して出力しているので、4つの出力部110すべての差動送信バッファ203の数を半減させている。これにより、回路規模縮小と消費電力削減の効果が期待できるとともに、撮像素子からの出力端子数も削減されるので、撮像素子のパケージの小型化も可能になる。   Further, since the parallel-serial conversion unit 204 in the output unit 110 converts the pixel signals that are input in parallel with 8 bits each into 8 pixel signals that are 2 bits in series and outputs them, 4 outputs The number of differential transmission buffers 203 in all the units 110 is halved. As a result, the effect of reducing the circuit scale and power consumption can be expected, and the number of output terminals from the image sensor is also reduced, so that the package of the image sensor can be reduced.

ここで、本実施形態における水平同期信号HDは、一般に水平走査部109の転送と同じ周期の画素クロック信号Sckと同期していることが多い。そして、水平同期信号HDを4分割したサブ水平同期信号HSが画素クロック信号Sckで奇数になる場合、奇数回目のサブ水平同期信号HSと偶数回目のサブ水平同期信号HSで、奇数カウントと偶数カウントを繰り返すことになる。その場合には、カウンタはすべて偶数カウントの方が設計しやすいので、サブ水平同期信号HSのクロック数を、画素クロック信号Sckで偶数カウントすなわち2の倍数にして、水平同期信号HDを、サブ水平同期信号HSの4倍のクロック数にしてやればよい。   Here, the horizontal synchronization signal HD in this embodiment is generally synchronized with the pixel clock signal Sck having the same cycle as the transfer of the horizontal scanning unit 109 in general. Then, when the sub horizontal synchronization signal HS obtained by dividing the horizontal synchronization signal HD into four becomes an odd number by the pixel clock signal Sck, the odd-numbered count and the even-numbered count are determined by the odd-numbered sub-horizontal synchronization signal HS and the even-numbered sub-horizontal synchronization signal HS. Will be repeated. In that case, since all counters are easier to design with an even number count, the number of clocks of the sub horizontal synchronization signal HS is set to an even number of pixels clock signal Sck, that is, a multiple of 2, and the horizontal synchronization signal HD is changed to a sub horizontal level. The number of clocks may be four times that of the synchronization signal HS.

また、本実施形態においては、2回目以降のサブ水平同期信号HSが、各行の期間Rdの終了後、十分に時間が経過した後に設けられている。しかしながら、垂直信号線104が垂直画素列に共通に配線されているため、例えば期間Rd1rがサブ水平同期期間Thsより長い場合には、第2の読み出し動作Opr2を開始することができない。そのときには、例えば、第4水平メモリ部108d及び第4出力部110dを停止させ、第1水平メモリ部108aから第3水平メモリ部108c及び第1出力部110aから第3出力部110cを用いて、3行毎に同時に出力することにすればよい。ただし、その時のサブ水平同期信号HSは、水平同期期間Thdを3等分した周期で作られている必要がある。   In the present embodiment, the second and subsequent sub-horizontal synchronization signals HS are provided after sufficient time has elapsed after the end of the period Rd of each row. However, since the vertical signal line 104 is wired in common to the vertical pixel columns, for example, when the period Rd1r is longer than the sub horizontal synchronization period Ths, the second readout operation Opr2 cannot be started. At that time, for example, the fourth horizontal memory unit 108d and the fourth output unit 110d are stopped, and the first horizontal memory unit 108a to the third horizontal memory unit 108c and the first output unit 110a to the third output unit 110c are used. What is necessary is just to output simultaneously for every 3 lines. However, the sub-horizontal synchronization signal HS at that time needs to be generated with a period obtained by dividing the horizontal synchronization period Thd into three equal parts.

(第3の実施形態)
次に、図1、図6、図7及び図9に加えて、図10及び図11を参照して、本発明の第3の実施形態について説明する。なお、第3の実施形態では、撮像装置の基本的な構成と動作及び撮像素子の基本的な構成と動作は、第2の実施形態と同様であるので、図及び符号を流用して説明する。第2の実施形態でのローリングシャッタ動作においては、行毎の読み出しタイミングが等間隔になるように制御していた。以下に説明する第3の実施形態においては、さらにリセット動作を追加して、ローリングシャッタ動作時における露光時間を制御する。
(Third embodiment)
Next, a third embodiment of the present invention will be described with reference to FIG. 10 and FIG. 11 in addition to FIG. 1, FIG. 6, FIG. 7, and FIG. In the third embodiment, the basic configuration and operation of the imaging apparatus and the basic configuration and operation of the imaging element are the same as those in the second embodiment. . In the rolling shutter operation in the second embodiment, the read timing for each row is controlled to be equal. In the third embodiment described below, a reset operation is further added to control the exposure time during the rolling shutter operation.

図10は、第3の実施形態に係る撮像素子12の動作例を示すタイミングチャートである。図10に示す動作例は、図8に示した動作にリセット動作が追加したものである。図10において、VDは、撮像素子12を駆動するための垂直同期信号を示し、立ち下がりで有効となり、時刻t60〜tv0までのTvdが1つの垂直同期期間となっている。HDは、撮像素子12を駆動するための水平同期信号を示し、立ち下がりで有効となる。また、HSは、水平同期信号のサブ水平同期信号を示し、立ち下がりで有効となる。   FIG. 10 is a timing chart illustrating an operation example of the image sensor 12 according to the third embodiment. The operation example shown in FIG. 10 is obtained by adding a reset operation to the operation shown in FIG. In FIG. 10, VD indicates a vertical synchronization signal for driving the image sensor 12 and becomes effective at the falling edge, and Tvd from time t60 to tv0 is one vertical synchronization period. HD indicates a horizontal synchronizing signal for driving the image sensor 12 and becomes effective at the falling edge. HS indicates a sub-horizontal synchronization signal of the horizontal synchronization signal, and becomes effective at the falling edge.

垂直同期期間Tvdは、画素領域101に配列されている16行の画素の信号を1つの水平同期期間に4行同時に出力するため、4つの水平同期期間から構成されている。垂直同期期間Tvdを構成する4つの水平同期期間を、第1水平同期期間Thd1、第2水平同期期間Thd2、第3水平同期期間Thd3及び第4水平同期期間Thd4で示す。また、1つの水平同期期間は4行同時に出力するため、4つの等しい長さのサブ水平同期信号から構成されている。第1水平同期期間Thd1を構成する4つのサブ水平同期期間を、順番に第1−1サブ水平同期期間Ths11、第1−2サブ水平同期期間Ths12、第1−3サブ水平同期期間Ths13及び第1−4サブ水平同期期間Ths14とする。   The vertical synchronization period Tvd is composed of four horizontal synchronization periods in order to simultaneously output the signals of 16 rows of pixels arranged in the pixel region 101 in one horizontal synchronization period. The four horizontal synchronization periods constituting the vertical synchronization period Tvd are indicated by a first horizontal synchronization period Thd1, a second horizontal synchronization period Thd2, a third horizontal synchronization period Thd3, and a fourth horizontal synchronization period Thd4. Since one horizontal synchronization period is output simultaneously for four rows, it is composed of four sub-horizontal synchronization signals of equal length. The four sub-horizontal synchronization periods constituting the first horizontal synchronization period Thd1 are sequentially divided into a first-first sub-horizontal synchronization period Ths11, a first-second sub-horizontal synchronization period Ths12, a first-third sub-horizontal synchronization period Ths13, and a first sub-horizontal synchronization period Ths13. Let 1-4 sub-horizontal synchronization period Ths14.

第1−1サブ水平同期期間Ths11では、第1の読み出し動作Opr1を用いて1行目P1rの画素の信号を読み出す。この動作は、垂直同期信号VD、水平同期信号HDの垂直同期期間Tvdにおける1回目の立ち下がり、及びサブ水平同期信号HSの第1水平同期期間Thd1における1回目の期間Thd1の立ち下がりに同期して開始される(時刻t60及びtv0)。このとき、本実施形態においては、画素の信号を読み出す期間Rd1rに先立ち、行単位で画素の信号をリセットする期間RS11を設ける。また、期間Rd1r以降の各期間での動作は、図8に示した動作と同じであるので、「・・・」で表し、その説明は省略する。画素の信号のリセット動作については、後で説明する。   In the first-first sub-horizontal synchronization period Ths11, the pixel signal of the first row P1r is read using the first read operation Opr1. This operation is synchronized with the first fall of the vertical synchronization signal VD and the horizontal synchronization signal HD in the vertical synchronization period Tvd and the fall of the first period Thd1 of the first horizontal synchronization period Thd1 of the sub horizontal synchronization signal HS. (Time t60 and tv0). At this time, in the present embodiment, a period RS11 for resetting the pixel signals in units of rows is provided prior to the period Rd1r for reading the pixel signals. Further, since the operation in each period after the period Rd1r is the same as the operation shown in FIG. 8, it is represented by “...” And description thereof is omitted. The pixel signal reset operation will be described later.

第1−2サブ水平同期期間Ths12、第1−3サブ水平同期期間Ths13及び第1−4サブ水平同期期間Ths14においても、読み出し動作Opr2、Opr3及びOpr4を用いて、それぞれ対応する2行目、3行目及び4行目の画素の信号を読み出す。このときも、第1−1サブ水平同期期間Ths11と同じく、画素の信号を読み出す期間Rd2r、期間Rd3r、及び期間Rd4rに先立ち、それぞれ行単位で画素の信号をリセットする期間RS12、期間RS13、及び期間RS14期間を設ける。また、それぞれの期間Rd2r、期間Rd3r、及び期間Rd4r以降の各期間での動作は、図8に示した動作と同じであるので、「・・・」で表し、その説明は省略する。   In the 1-2 sub-horizontal synchronization period Ths12, the 1-3 sub-horizontal synchronization period Ths13, and the 1-4 sub-horizontal synchronization period Ths14, the corresponding second rows are respectively read using the read operations Opr2, Opr3, and Opr4. Read out the signals of the pixels in the third and fourth rows. At this time, similarly to the 1-1 sub-horizontal synchronization period Ths11, prior to the period Rd2r, the period Rd3r, and the period Rd4r for reading out the pixel signal, the period RS12, the period RS13, Period RS14 period is provided. In addition, the operations in the respective periods after the period Rd2r, the period Rd3r, and the period Rd4r are the same as those illustrated in FIG.

第2水平同期期間Thd2、第3水平同期期間Thd3及び第4水平同期期間Thd4においても、それぞれのサブ水平同期期間のリセット動作及び読み出し動作は、第1水平同期期間Thd1と同様である。さらに、2回目の垂直同期信号VD以降の動作は、時刻t60〜tv0までの垂直同期期間Tvdの動作を繰り返すこととする。   Also in the second horizontal synchronization period Thd2, the third horizontal synchronization period Thd3, and the fourth horizontal synchronization period Thd4, the reset operation and readout operation of each sub horizontal synchronization period are the same as those in the first horizontal synchronization period Thd1. Furthermore, the operation after the second vertical synchronization signal VD repeats the operation in the vertical synchronization period Tvd from time t60 to tv0.

次に、図10を用いて、第3の実施形態における撮像素子12のリセット動作を含む動作を説明する。ここで、時刻tv0から始まる垂直同期期間において、第1の読み出し動作Opr1の期間Rd1rに読み出す1行目の画素の信号のリセット動作を、時刻t60から始まる垂直同期期間における第1の読み出し動作Opr1において実施するものとする。すなわち、時刻t60から始まる垂直同期期間における第1の読み出し動作Opr1の期間RS21、期間RS31、及び期間RS41のいずれかを用いて実施するものとする(時刻td2、td3、td4)。   Next, an operation including a reset operation of the image sensor 12 in the third embodiment will be described with reference to FIG. Here, in the vertical synchronization period starting from time tv0, the reset operation of the pixel signal of the first row read in the period Rd1r of the first readout operation Opr1 is performed in the first readout operation Opr1 in the vertical synchronization period starting from time t60. Shall be implemented. That is, it is implemented using any of the period RS21, the period RS31, and the period RS41 of the first read operation Opr1 in the vertical synchronization period starting from the time t60 (time td2, td3, td4).

まず、1行目の画素の信号のリセット動作を第4水平同期期間Thd4の期間RS41に実施した場合、時刻tv0を基準にしたときの1行目の画素の信号の露光期間は、時刻td4から時刻tv0までの1水平同期期間となる。このとき、2行目、3行目及び4行目の画素の信号のリセット動作を、それぞれ時刻ts2からの期間RS42、時刻ts3からの期間RS43及び時刻ts4からの期間RS44に実施する。これにより、1行目〜4行目の画素の信号のリセット動作が、それぞれ1サブ水平同期期間ずれて実施されるので、1行目〜4行目の画素の信号の露光期間は、すべて1水平同期期間となる。   First, when the reset operation of the signals of the pixels in the first row is performed in the period RS41 of the fourth horizontal synchronization period Thd4, the exposure period of the signals of the pixels in the first row with respect to the time tv0 is from the time td4. One horizontal synchronization period is until time tv0. At this time, the reset operation of the signals of the pixels in the second row, the third row, and the fourth row is performed in a period RS42 from time ts2, a period RS43 from time ts3, and a period RS44 from time ts4, respectively. Thereby, the reset operation of the signals of the pixels in the first row to the fourth row is performed with a shift of one sub-horizontal synchronization period, so that the exposure periods of the signals of the pixels in the first row to the fourth row are all 1 This is the horizontal synchronization period.

同様に、5行目〜8行目の画素の信号のリセット動作をそれぞれ第1水平同期期間Thd1の期間RS11〜期間RS14において実施する。また、9行目〜12行目の画素の信号のリセット動作をそれぞれ第2水平同期期間Thd2の期間RS21〜期間RS24において実施する。さらに、13行目〜16行目の画素の信号のリセット動作をそれぞれ第3水平同期期間Thd3の期間RS31〜期間RS34において実施する(それぞれ時刻ts13、ts14、ts15及びts16)。このようなリセット動作をすべての行に対して実施するので、露光期間はすべての行で1水平同期期間となる。そして、続く第4水平同期期間Thd4の期間RS41〜期間RS44において、それぞれ1行目〜4行目の画素の信号のリセット動作を実施することで、リセット動作を実施したローリングシャッタ動作を継続することができる。   Similarly, the reset operation of the signals of the pixels in the fifth to eighth rows is performed in the period RS11 to the period RS14 of the first horizontal synchronization period Thd1, respectively. In addition, the reset operation of the signals of the pixels in the ninth to twelfth rows is performed in the period RS21 to the period RS24 of the second horizontal synchronization period Thd2. Further, the reset operation of the pixels of the 13th to 16th rows is performed in the period RS31 to the period RS34 of the third horizontal synchronization period Thd3 (time ts13, ts14, ts15, and ts16, respectively). Since such a reset operation is performed for all rows, the exposure period is one horizontal synchronization period for all rows. Then, in the subsequent period RS41 to period RS44 of the fourth horizontal synchronization period Thd4, by performing the reset operation of the signals of the pixels in the first row to the fourth row, respectively, the rolling shutter operation in which the reset operation is performed is continued. Can do.

次に、1行目の画素の信号のリセット動作を第3水平同期期間Thd3の期間RS31に実施した場合、時刻tv0を基準にした時の1行目の画素の信号の露光期間は、時刻td3から時刻tv0までの2水平同期期間となる。そこで、1行目〜4行目の画素の信号のリセット動作をそれぞれ第3水平同期期間Thd3の期間RS31〜期間RS34において実施する。   Next, when the reset operation of the signals of the pixels in the first row is performed in the period RS31 of the third horizontal synchronization period Thd3, the exposure period of the signals of the pixels in the first row when the time tv0 is used as a reference is the time td3. To 2 horizontal synchronization periods from time to tv0. Therefore, the reset operation of the signals of the pixels in the first row to the fourth row is performed in the period RS31 to the period RS34 of the third horizontal synchronization period Thd3, respectively.

同様に、5行目〜8行目の画素の信号のリセット動作をそれぞれ第4水平同期期間Thd4の期間RS41〜期間RS44において実施する。また、9行目〜12行目の画素の信号のリセット動作をそれぞれ第1水平同期期間Thd1の期間RS11〜期間RS14において実施する。さらに、13行目〜16行目の画素の信号のリセット動作をそれぞれ第2水平同期期間Thd2の期間RS21〜期間RS24で実施する。このようなリセット動作をすべての行に対して実施するので、露光期間はすべての行で2水平同期期間となり、リセット動作を含んだローリングシャッタ動作を実現することができる。   Similarly, the reset operation of the signals of the pixels in the fifth to eighth rows is performed in the periods RS41 to RS44 of the fourth horizontal synchronization period Thd4, respectively. In addition, the reset operation of the signals of the pixels in the ninth to twelfth rows is performed in the periods RS11 to RS14 of the first horizontal synchronization period Thd1. Further, the reset operation of the signals of the pixels in the 13th to 16th rows is performed in the period RS21 to the period RS24 of the second horizontal synchronization period Thd2. Since such a reset operation is performed for all rows, the exposure period becomes two horizontal synchronization periods for all rows, and a rolling shutter operation including the reset operation can be realized.

次に、1行目の画素の信号のリセット動作を第2水平同期期間Thd2の期間RS21に実施した場合、時刻tv0を基準にした時の1行目の画素の信号の露光期間は、時刻td2から時刻tv0までの3水平同期期間となる。そこで、1行目〜4行目の画素の信号のリセット動作をそれぞれ第2水平同期期間Thd2の期間RS21〜期間RS24において実施する。   Next, when the reset operation of the signals of the pixels in the first row is performed in the period RS21 of the second horizontal synchronization period Thd2, the exposure period of the signals of the pixels in the first row when the time tv0 is used as a reference is the time td2. 3 horizontal synchronization periods from to tv0. Therefore, the reset operation of the signals of the pixels in the first row to the fourth row is performed in the period RS21 to the period RS24 of the second horizontal synchronization period Thd2.

同様に、5行目〜8行目の画素の信号のリセット動作をそれぞれ第3水平同期期間Thd3の期間RS31〜期間RS34において実施する。また、9行目〜12行目の画素の信号のリセット動作をそれぞれ第4水平同期期間Thd4の期間RS41〜期間RS44において実施する。さらに、13行目〜16行目の画素の信号のリセット動作をそれぞれ第1水平同期期間Thd1の期間RS11〜期間RS14において実施する。このようなリセット動作をすべての行に対して実施すると、露光期間はすべての行で3水平同期期間となり、リセット動作を含んだローリングシャッタ動作を実現することができる。   Similarly, the signal reset operation of the pixels in the fifth to eighth rows is performed in the period RS31 to the period RS34 of the third horizontal synchronization period Thd3, respectively. In addition, the reset operation of the signals of the pixels in the 9th to 12th rows is performed in the period RS41 to the period RS44 of the fourth horizontal synchronization period Thd4, respectively. Furthermore, the reset operation of the signals of the pixels in the 13th to 16th rows is performed in the period RS11 to the period RS14 of the first horizontal synchronization period Thd1, respectively. When such a reset operation is performed for all rows, the exposure period becomes three horizontal synchronization periods for all rows, and a rolling shutter operation including the reset operation can be realized.

次に、リセット期間を一切設けない場合について説明する。はじめに、時刻t60の垂直同期信号VDにより第1−1サブ水平同期期間Ths11に同期した期間Rd1rで1行目の画素の信号を読み出す。画素の信号が読み出されることで、画素がリセットされた状態になり、1行目の画素の露光が開始される。次に、時刻tv0の垂直同期信号VDにより第1−1サブ水平同期期間Ths11に同期した期間Rd1rで1行目の画素の信号を読み出すことで、1行目の画素の露光期間が終了する。同様に、2行目〜16行目の画素の信号の読み出しから次の読み出しまでが、それぞれの行の露光期間になる。このような読み出し動作をすべての行に対して実施すると、露光期間はすべての行で4水平同期期間となる。これにより、すべての行の露光時間を水平同期期間単位で制御することが可能となる。   Next, a case where no reset period is provided will be described. First, the signals of the pixels in the first row are read out in the period Rd1r synchronized with the 1-1st sub-horizontal synchronization period Ths11 by the vertical synchronization signal VD at time t60. By reading out the pixel signal, the pixel is reset, and exposure of the pixel in the first row is started. Next, the pixel period of the first row is read by reading out the pixel signal of the first row in the period Rd1r synchronized with the first-first sub-horizontal synchronization period Ths11 by the vertical synchronization signal VD at time tv0. Similarly, the exposure period of each row is from the readout of the signals of the pixels in the second to sixteenth rows until the next readout. When such a reading operation is performed for all rows, the exposure period is 4 horizontal synchronization periods for all rows. This makes it possible to control the exposure time of all rows in units of horizontal synchronization periods.

図11は、第3の実施形態に係る撮像素子12のリセット動作を含む動作例を示すタイミングチャートであり、露光期間が2水平同期期間の場合を示している。図11に示したものは、図10に対して、リセット期間にリセットする行を記載して図示したものである。図11において、期間RS1r〜期間RS16rは、それぞれ1行目〜16行目の画素の信号をリセットするリセット期間である。   FIG. 11 is a timing chart illustrating an operation example including a reset operation of the image sensor 12 according to the third embodiment, and illustrates a case where the exposure period is two horizontal synchronization periods. FIG. 11 shows a row resetting in the reset period with respect to FIG. In FIG. 11, a period RS1r to a period RS16r are reset periods in which the signals of the pixels in the first row to the 16th row are reset, respectively.

第3水平同期期間Thd3の時刻tv1rからの期間RS1rにおいて、1行目の画素の信号のリセット動作を実施する。このときの時刻tv0を基準とした露光期間は、時刻tv1rから時刻tv0までの期間Ttv1rとなり、2水平同期期間に等しくなっている。次に、2行目〜4行目の画素の信号のリセット動作を、それぞれ第3水平同期期間Thd3の期間RS2r〜期間RS4rにおいて実施する(それぞれ時刻tv2r、tv3r及びtv4r)。同様に、5行目以降の画素の信号のリセット動作を、時刻tv5r以降で実施する。   In the period RS1r from the time tv1r of the third horizontal synchronization period Thd3, the signal reset operation of the pixels in the first row is performed. The exposure period with reference to time tv0 at this time is a period Ttv1r from time tv1r to time tv0, which is equal to two horizontal synchronization periods. Next, the reset operation of the signals of the pixels in the second to fourth rows is performed in the period RS2r to the period RS4r of the third horizontal synchronization period Thd3 (time tv2r, tv3r, and tv4r, respectively). Similarly, the reset operation of the signals of the pixels on and after the fifth row is performed after time tv5r.

さらに、13行目〜16行目の画素の信号のリセット動作を、それぞれ第2水平同期期間Thd2の期間RS13r〜期間RS16rにおいて実施する(それぞれ時刻tv13r、tv14r、tv15r及びtv16r)。そして、続く第3水平同期期間Thd3の期間RS1r〜期間RS4rにおいて、それぞれ1行目〜4行目の画素の信号のリセット動作を実施することで、リセット動作を実施したローリングシャッタ動作を継続することができる。   Further, the reset operation of the pixels of the 13th to 16th rows is performed in the period RS13r to the period RS16r of the second horizontal synchronization period Thd2 (time tv13r, tv14r, tv15r, and tv16r, respectively). Then, in the subsequent period RS1r to period RS4r of the third horizontal synchronization period Thd3, by performing the reset operation of the signals of the pixels in the first row to the fourth row, respectively, the rolling shutter operation in which the reset operation is performed is continued. Can do.

このようなリセット動作をすべての行に対して実施するので、露光期間はすべての行で期間Ttv1rとなる。ここで、本実施形態においては、1行目の画素の露光期間を時刻tv0を基準にして説明したが、リセット動作を実施する場合には、期間RS11及び期間Rd1rにおいて実際にリセットされるタイミングと画素から読み出されるタイミングに時間差が発生する。そこで、リセット動作と読み出し動作の時間差をΔTvrとし、水
平同期期間をThdとすると、露光期間は、(Thd+ΔTvr)、(2倍のThd+Δ
Tvr)、(3倍のThd+ΔTvr)及び(4倍のThd)から選択して制御すること
が可能となる。
Since such a reset operation is performed for all rows, the exposure period is the period Ttv1r for all rows. Here, in the present embodiment, the exposure period of the pixels in the first row has been described with reference to the time tv0. However, when the reset operation is performed, the actual reset timing in the period RS11 and the period Rd1r A time difference occurs in the timing of reading from the pixel. Therefore, when the time difference between the reset operation and the read operation is ΔTvr and the horizontal synchronization period is Thd, the exposure period is (Thd + ΔTvr), (double Thd + Δ
Tvr), (3 times Thd + ΔTvr), and (4 times Thd) can be selected and controlled.

以上のように、本実施形態においては、4つの出力手段毎にそれぞれ読み出し時間差を設けた読み出し動作Oprを実施することで、4行同時に出力することが可能となるので、4倍のフレームレートを実現できることになる。また、本実施形態においては、各読み出し動作Oprにおける行毎の画素の信号の読み出し動作に先立ち、行単位で画素の信号をリセットするリセット動作を設ける。そして、読み出し動作Oprにより読み出す行のリセット動作を、同じ読み出し動作Oprにおける異なる行の読み出し動作に先立ち実施することで、露光時間制御が可能なローリングシャッタ動作を実現できる。また、一連の同じ読み出し動作Oprの中で、同じ行の読み出しとリセットを実施するので、行を選択する垂直走査部は、4行おきに行を選択すれば良いことになる。これにより、垂直走査部の回路規模の削減と簡略化が可能になる。   As described above, in this embodiment, by performing the read operation Opr with a read time difference for each of the four output units, it becomes possible to output four rows at the same time. It can be realized. In the present embodiment, prior to the pixel signal readout operation for each row in each readout operation Opr, a reset operation for resetting the pixel signal in units of rows is provided. A rolling shutter operation capable of controlling the exposure time can be realized by performing a reset operation for a row read by the read operation Opr prior to a read operation for a different row in the same read operation Opr. In addition, since reading and resetting of the same row are performed in a series of the same reading operations Opr, the vertical scanning unit that selects a row only needs to select a row every four rows. As a result, the circuit scale of the vertical scanning unit can be reduced and simplified.

さらに、本実施形態においては、水平同期期間を4分割した周期で作られるサブ水平同期信号を備え、行毎の画素の信号を、4行おきにサブ水平同期信号の1回目、2回目、3回目及び4回目のそれぞれに同期して読み出す。また、リセット動作を用いて水平同期期間単位で全行が同じ露光時間になるような露光時間制御が可能である。これにより、露光期間を含めた行毎の露光タイミングが等間隔になるので、なめらかなローリングシャッタ動作を実現することができる。   Further, in the present embodiment, a sub-horizontal synchronization signal generated with a period obtained by dividing the horizontal synchronization period into four is provided, and the pixel signal for each row is set to the first, second, and third sub-horizontal synchronization signals every four rows. Read in synchronization with each of the fourth and fourth times. Further, it is possible to control the exposure time so that all rows have the same exposure time in units of horizontal synchronization periods using the reset operation. As a result, the exposure timing for each row including the exposure period is equally spaced, so that a smooth rolling shutter operation can be realized.

(第4の実施形態)
次に、図1、図6、図7、図9及び図10に加えて、図12を参照して、本発明の第4の実施形態について説明する。なお、第4の実施形態では、撮像装置の基本的な構成と動作及び撮像素子の基本的な構成と動作は、第3の実施形態と同様であるので、図及び符号を流用して説明する。第3の実施形態のローリングシャッタ動作においては、行毎の読み出しタイミングを等間隔に制御するとともに、リセット動作を用いたローリングシャッタ動作時の露光時間制御の方法について説明した。第4の実施形態においては、すべての行の露光時間をサブ水平同期期間単位で制御することが可能な、リセット動作を用いたローリングシャッタ動作の方法について説明する。
(Fourth embodiment)
Next, a fourth embodiment of the present invention will be described with reference to FIG. 12 in addition to FIG. 1, FIG. 6, FIG. 7, FIG. In the fourth embodiment, the basic configuration and operation of the imaging apparatus and the basic configuration and operation of the imaging element are the same as those in the third embodiment. . In the rolling shutter operation of the third embodiment, the method for controlling the exposure time during the rolling shutter operation using the reset operation while controlling the readout timing for each row at equal intervals has been described. In the fourth embodiment, a method of a rolling shutter operation using a reset operation capable of controlling the exposure time of all rows in units of sub-horizontal synchronization periods will be described.

まず、はじめに、図10を用いて、第4の実施形態おける撮像素子12のリセット動作を含む動作例を説明するが、第3の実施形態で説明した内容は、説明を省略する。ここで、時刻tv0から始まる垂直同期期間において、第1の読み出し動作Opr1における期間Rd1rに読み出す1行目の画素の信号のリセット動作を、時刻t60から始まる垂直同期期間における第4水平同期期間Thd4において実施するものとする。すなわち、時刻t60から始まる垂直同期期間における第4水平同期期間Thd4の期間RS41、期間RS42、期間RS43、及び期間RS44のいずれかを用いて実施するものとする(それぞれ時刻ts1、ts2、ts3、ts4)。   First, an operation example including a reset operation of the image sensor 12 in the fourth embodiment will be described with reference to FIG. 10, but the description of the contents described in the third embodiment will be omitted. Here, in the vertical synchronization period starting from time tv0, the signal reset operation of the pixels in the first row read in the period Rd1r in the first readout operation Opr1 is performed in the fourth horizontal synchronization period Thd4 in the vertical synchronization period starting from time t60. Shall be implemented. That is, it is implemented using any one of the period RS41, the period RS42, the period RS43, and the period RS44 of the fourth horizontal synchronization period Thd4 in the vertical synchronization period starting from the time t60 (time ts1, ts2, ts3, ts4, respectively). ).

まず、1行目の画素の信号のリセット動作を第4水平同期期間Thd4の期間RS41に実施した場合、時刻tv0を基準にしたときの1行目の画素の信号の露光期間は、時刻ts1から時刻tv0までの1水平同期期間に相当する4サブ水平同期期間となる。このとき、2行目、3行目及び4行目の画素の信号のリセット動作を、それぞれ時刻ts2からの期間RS42、時刻ts3からの期間RS43及び時刻ts4からの期間RS44に実施する。これにより、1行目〜4行目の画素の信号のリセット動作が、それぞれ1サブ水平同期期間ずれて実施されるので、1行目〜4行目の画素の信号の露光期間は、すべて1水平同期期間に相当する4サブ水平同期期間となる。   First, when the reset operation of the signals of the pixels in the first row is performed in the period RS41 of the fourth horizontal synchronization period Thd4, the exposure period of the signals of the pixels in the first row with respect to the time tv0 is from the time ts1. There are four sub-horizontal synchronization periods corresponding to one horizontal synchronization period up to time tv0. At this time, the reset operation of the signals of the pixels in the second row, the third row, and the fourth row is performed in a period RS42 from time ts2, a period RS43 from time ts3, and a period RS44 from time ts4, respectively. Thereby, the reset operation of the signals of the pixels in the first row to the fourth row is performed with a shift of one sub-horizontal synchronization period, so that the exposure periods of the signals of the pixels in the first row to the fourth row are all 1 There are four sub-horizontal synchronization periods corresponding to the horizontal synchronization period.

同様に、5行目〜8行目の画素の信号のリセット動作をそれぞれ第1水平同期期間Thd1の期間RS11〜期間RS14において実施する。また、9行目〜12行目の画素の信号のリセット動作をそれぞれ第2水平同期期間Thd2の期間RS21〜期間RS24において実施する。さらに、13行目〜16行目の画素の信号のリセット動作をそれぞれ第3水平同期期間Thd3の期間RS31〜期間RS34において実施する(それぞれ時刻ts13、ts14、ts15及びts16)。このようなリセット動作をすべての行に対して実施するので、露光期間はすべての行で1水平同期期間に相当する4サブ水平同期期間となる。そして、続く第4水平同期期間Thd4の期間RS41〜期間RS44において、それぞれ1行目〜4行目の画素の信号のリセット動作を実施することで、リセット動作を実施したローリングシャッタ動作を継続することができる。   Similarly, the reset operation of the signals of the pixels in the fifth to eighth rows is performed in the period RS11 to the period RS14 of the first horizontal synchronization period Thd1, respectively. In addition, the reset operation of the signals of the pixels in the ninth to twelfth rows is performed in the period RS21 to the period RS24 of the second horizontal synchronization period Thd2. Further, the reset operation of the pixels of the 13th to 16th rows is performed in the period RS31 to the period RS34 of the third horizontal synchronization period Thd3 (time ts13, ts14, ts15, and ts16, respectively). Since such a reset operation is performed for all rows, the exposure period is 4 sub-horizontal synchronization periods corresponding to one horizontal synchronization period in all rows. Then, in the subsequent period RS41 to period RS44 of the fourth horizontal synchronization period Thd4, by performing the reset operation of the signals of the pixels in the first row to the fourth row, respectively, the rolling shutter operation in which the reset operation is performed is continued. Can do.

次に、1行目の画素の信号のリセット動作を第4水平同期期間Thd4の期間RS42に実施した場合、時刻tv0を基準にした時の1行目の画素の信号の露光期間は、時刻ts2から時刻tv0までの3サブ水平同期期間となる。そこで、1行目〜4行目の画素の信号のリセット動作をそれぞれ第4水平同期期間Thd4の期間RS42〜期間RS44及び第1水平同期期間Thd1の期間RS11で実施する(それぞれ時刻ts2、ts3、ts4及びtv0)。これにより、1行目〜4行目の画素の信号のリセット動作が、それぞれ1サブ水平同期期間ずれて実施されるので、1行目〜4行目の画素の信号の露光期間は、すべて3サブ水平同期期間となる。また、第3の実施形態では、読み出す行のリセット動作は、同じ読み出し動作Oprにおける異なる行の読み出し動作に先立ち実施していたが、本実施形態においては、異なる読み出し動作Oprにおける異なる行の読み出し動作に先立ち実施できるものとする。   Next, when the reset operation of the signals of the pixels in the first row is performed in the period RS42 of the fourth horizontal synchronization period Thd4, the exposure period of the signals of the pixels in the first row with respect to the time tv0 is the time ts2. 3 sub-horizontal synchronization periods from time to time tv0. Therefore, the reset operation of the signals of the pixels in the first to fourth rows is performed in the period RS42 to the period RS44 of the fourth horizontal synchronization period Thd4 and the period RS11 of the first horizontal synchronization period Thd1 (time ts2, ts3, respectively). ts4 and tv0). Thereby, the reset operation of the signals of the pixels in the first row to the fourth row is performed with a shift of one sub-horizontal synchronization period, so that the exposure periods of the signals of the pixels in the first row to the fourth row are all 3 This is the sub-horizontal synchronization period. In the third embodiment, the reset operation for the row to be read is performed prior to the read operation for a different row in the same read operation Opr. However, in this embodiment, the read operation for a different row in a different read operation Opr. Can be implemented prior to

同様に、5行目〜8行目の画素の信号のリセット動作をそれぞれ第1水平同期期間Thd1の期間RS12〜期間RS14及び第2水平同期期間Thd2の期間RS21において実施する。また、9行目〜12行目の画素の信号のリセット動作をそれぞれ第2水平同期期間Thd2の期間RS22〜期間RS24及び第3水平同期期間Thd3の期間RS31において実施する。さらに、13行目〜16行目の画素の信号のリセット動作をそれぞれ第3水平同期期間Thd3の期間RS32〜期間RS34及び第4水平同期期間Thd4の期間RS41で実施する(それぞれ時刻ts14、ts15、ts16及びts1)。   Similarly, the reset operation of the signals of the pixels in the fifth to eighth rows is performed in the period RS12 to period RS14 of the first horizontal synchronization period Thd1 and the period RS21 of the second horizontal synchronization period Thd2, respectively. In addition, the reset operation of the signals of the pixels in the ninth to twelfth rows is performed in the period RS22 to the period RS24 of the second horizontal synchronization period Thd2 and the period RS31 of the third horizontal synchronization period Thd3, respectively. Further, the reset operation of the pixels of the 13th to 16th rows is performed in the period RS32 to the period RS34 of the third horizontal synchronization period Thd3 and the period RS41 of the fourth horizontal synchronization period Thd4 (time ts14, ts15, respectively). ts16 and ts1).

このように、すべての行に対して、読み出す行のリセット動作を異なる読み出し動作Oprにおける異なる行の読み出し動作に先立ち実施できるため、露光期間はすべての行で3サブ水平同期期間となる。そして、続く第4水平同期期間Thd4の期間RS42〜期間RS44及び第1水平同期期間Thd1の期間RS11で、それぞれ1行目〜4行目の画素の信号のリセット動作を実施することで、リセット動作を含むローリングシャッタ動作を継続することができる。   As described above, the reset operation for the row to be read can be performed for all the rows prior to the read operation for the different rows in the different read operations Opr. Therefore, the exposure period is 3 sub-horizontal synchronization periods for all the rows. The reset operation is performed by resetting the signals of the pixels in the first to fourth rows in the subsequent period RS42 to period RS44 of the fourth horizontal synchronization period Thd4 and the period RS11 of the first horizontal synchronization period Thd1. The rolling shutter operation including can be continued.

次に、1行目の画素の信号のリセット動作を第4水平同期期間Thd4の期間RS43に実施した場合、時刻tv0を基準にした時の1行目の画素の信号の露光期間は、時刻ts3から時刻tv0までの2サブ水平同期期間となる。そこで、1行目〜4行目の画素の信号のリセット動作をそれぞれ第4水平同期期間Thd4の期間RS43〜期間RS44及び第1水平同期期間Thd1の期間RS11〜期間RS12において実施する(時刻ts3以降)。これにより、1行目〜4行目の画素の信号のリセット動作が、それぞれ1サブ水平同期期間ずれて実施されるので、1行目〜4行目の画素の信号の露光期間は、すべて2サブ水平同期期間となる。   Next, when the reset operation of the pixel signal of the first row is performed in the period RS43 of the fourth horizontal synchronization period Thd4, the exposure period of the signal of the pixel of the first row with respect to the time tv0 is the time ts3. 2 sub-horizontal synchronization periods from to tv0. Therefore, the reset operation of the pixels of the first to fourth rows is performed in the period RS43 to the period RS44 of the fourth horizontal synchronization period Thd4 and the period RS11 to the period RS12 of the first horizontal synchronization period Thd1 (after time ts3). ). Thereby, the reset operation of the signals of the pixels in the first row to the fourth row is performed with a shift of one sub-horizontal synchronization period, so that the exposure periods of the signals of the pixels in the first row to the fourth row are all 2. This is the sub horizontal synchronization period.

同様に、5行目〜8行目の画素の信号のリセット動作をそれぞれ第1水平同期期間Thd1の期間RS13〜期間RS14及び第2水平同期期間Thd2の期間RS21〜期間RS22において実施する。また、9行目〜12行目の画素の信号のリセット動作をそれぞれ第2水平同期期間Thd2の期間RS23〜期間RS24及び第3水平同期期間Thd3の期間RS31〜期間RS32において実施する。さらに、13行目〜16行目の画素の信号のリセット動作をそれぞれ第3水平同期期間Thd3の期間RS33〜期間RS34及び第4水平同期期間Thd4の期間RS41〜期間RS42において実施する。このように、すべての行に対して、読み出す行のリセット動作を異なる読み出し動作Oprにおける異なる行の読み出し動作に先立ち実施できるため、露光期間はすべての行で2サブ水平同期期間となる。   Similarly, the reset operation of the signals of the pixels in the fifth to eighth rows is performed in the period RS13 to the period RS14 of the first horizontal synchronization period Thd1 and the period RS21 to the period RS22 of the second horizontal synchronization period Thd2. In addition, the reset operation of the signals of the pixels in the 9th to 12th rows is performed in the period RS23 to the period RS24 in the second horizontal synchronization period Thd2 and the period RS31 to the period RS32 in the third horizontal synchronization period Thd3, respectively. Further, the reset operation of the pixels of the 13th to 16th rows is performed in the period RS33 to the period RS34 of the third horizontal synchronization period Thd3 and the period RS41 to the period RS42 of the fourth horizontal synchronization period Thd4, respectively. As described above, the reset operation for the row to be read can be performed for all the rows prior to the read operation for the different rows in the different read operation Opr. Therefore, the exposure period is two sub-horizontal synchronization periods for all the rows.

次に、1行目の画素の信号のリセット動作を第4水平同期期間Thd4の期間RS44に実施した場合、時刻tv0を基準にした時の1行目の画素の信号の露光期間は、時刻ts4から時刻tv0までの1サブ水平同期期間となる。そこで、1行目〜4行目の画素の信号のリセット動作をそれぞれ第4水平同期期間Thd4の期間RS44及び第1水平同期期間Thd1の期間RS11〜期間RS13において実施する(時刻ts4以降)。これにより、1行目〜4行目の画素の信号のリセット動作が、それぞれ1サブ水平同期期間ずれて実施されるので、1行目〜4行目の画素の信号の露光期間は、すべて1サブ水平同期期間となる。   Next, when the reset operation of the signals of the pixels in the first row is performed in the period RS44 of the fourth horizontal synchronization period Thd4, the exposure period of the signals of the pixels in the first row with respect to the time tv0 is the time ts4. 1 sub-horizontal synchronization period from time to time tv0. Therefore, the reset operation of the signals of the pixels in the first to fourth rows is performed in the period RS44 of the fourth horizontal synchronization period Thd4 and the period RS11 to period RS13 of the first horizontal synchronization period Thd1 (after time ts4). Thereby, the reset operation of the signals of the pixels in the first row to the fourth row is performed with a shift of one sub-horizontal synchronization period, so that the exposure periods of the signals of the pixels in the first row to the fourth row are all 1 This is the sub-horizontal synchronization period.

同様に、5行目〜8行目の画素の信号のリセット動作をそれぞれ第1水平同期期間Thd1の期間RS14及び第2水平同期期間Thd2の期間RS21〜期間RS23において実施する。また、9行目〜12行目の画素の信号のリセット動作をそれぞれ第2水平同期期間Thd2の期間RS24及び第3水平同期期間Thd3の期間RS31〜期間RS33において実施する。さらに、13行目〜16行目の画素の信号のリセット動作をそれぞれ第3水平同期期間Thd3の期間RS34及び第4水平同期期間Thd4の期間RS41〜期間RS43において実施する。このように、すべての行に対して、読み出す行のリセット動作を異なる読み出し動作Oprにおける異なる行の読み出し動作に先立ち実施できるため、露光期間はすべての行で1サブ水平同期期間となる。   Similarly, the reset operation of the pixels of the fifth to eighth rows is performed in the period RS14 of the first horizontal synchronization period Thd1 and the period RS21 to the period RS23 of the second horizontal synchronization period Thd2. Further, the reset operation of the signals of the pixels in the ninth to twelfth rows is performed in the period RS24 of the second horizontal synchronization period Thd2 and the period RS31 to period RS33 of the third horizontal synchronization period Thd3, respectively. Further, the reset operation of the signals of the pixels in the 13th to 16th rows is performed in the period RS34 of the third horizontal synchronization period Thd3 and the period RS41 to the period RS43 of the fourth horizontal synchronization period Thd4, respectively. As described above, since the reset operation for the row to be read can be performed for all the rows prior to the read operation for different rows in the different read operation Opr, the exposure period is one sub-horizontal synchronization period for all rows.

以上、第1の読み出し動作Opr1における期間Rd1rに読み出す1行目の画素の信号のリセット動作を、第4水平同期期間Thd4の期間RS41、期間RS42、期間RS43及び期間RS44の何れかを用いて実施した場合について説明した。このような1行目の画素の信号のリセット動作を、第1水平同期期間Thd1の期間RS12、期間RS13及び期間RS14の何れかを用いて実施した場合についても同様であるので説明は省略する。また、第2水平同期期間Thd2の期間RS21、期間RS22、期間RS23及び期間RS24、及び、第3水平同期期間Thd3の期間RS31、期間RS32、期間RS33及び期間RS34の何れかを用いて実施した場合についても同様である。   As described above, the reset operation of the pixel signal of the first row read in the period Rd1r in the first readout operation Opr1 is performed using any of the period RS41, the period RS42, the period RS43, and the period RS44 in the fourth horizontal synchronization period Thd4. I explained the case. Since the reset operation of the signals of the pixels in the first row is performed using any of the period RS12, the period RS13, and the period RS14 of the first horizontal synchronization period Thd1, the description thereof is omitted. In addition, when implemented using any one of the period RS21, the period RS22, the period RS23, and the period RS24 of the second horizontal synchronization period Thd2, and the period RS31, the period RS32, the period RS33, and the period RS34 of the third horizontal synchronization period Thd3 The same applies to.

図12は、第4の実施形態に係る撮像素子12のリセット動作を含む動作例を示すタイミングチャートであり、露光期間が7サブ水平同期期間の場合を示している。図12に示したものは、図10に対して、リセット期間にリセットする行を記載して図示したものである。図12において、期間RS1r〜期間RS16rは、それぞれ1行目〜16行目の画素の信号をリセットするリセット期間である。   FIG. 12 is a timing chart showing an operation example including a reset operation of the image sensor 12 according to the fourth embodiment, and shows a case where the exposure period is a 7 sub horizontal synchronization period. What is shown in FIG. 12 is the same as FIG. 10 except that a row to be reset in the reset period is described. In FIG. 12, a period RS1r to a period RS16r are reset periods in which the signals of the pixels in the first row to the 16th row are reset, respectively.

まず、第3水平同期期間Thd3の時刻tv1rからの期間RS1rにおいて、1行目の画素の信号のリセット動作を実施する。このときの時刻tv0を基準とした露光期間は、時刻tv1rから時刻tv0までの期間Ttv1rとなり、7サブ水平同期期間に等しくなっている。次に、2行目〜4行目の画素の信号のリセット動作を、それぞれ第3水平同期期間Thd3の期間RS2r〜期間RS3r及び第4水平同期期間Thd4の期間RS4rにおいて実施する(それぞれ時刻tv2r、tv3r及びtv4r)。同様に、5行目以降の画素の信号のリセット動作を時刻tv5r以降で実施する。   First, in the period RS1r from the time tv1r of the third horizontal synchronization period Thd3, the signal reset operation of the pixels in the first row is performed. The exposure period with reference to time tv0 at this time is a period Ttv1r from time tv1r to time tv0, which is equal to the 7 sub-horizontal synchronization period. Next, the reset operation of the pixels of the second to fourth rows is performed in the period RS2r to the period RS3r of the third horizontal synchronization period Thd3 and the period RS4r of the fourth horizontal synchronization period Thd4 (time tv2r, respectively). tv3r and tv4r). Similarly, the reset operation of the signals of the pixels on and after the fifth row is performed after time tv5r.

さらに、13行目〜16行目の画素の信号のリセット動作を、それぞれ第2水平同期期間Thd2の期間RS13r〜期間RS15r及び第3水平同期期間Thd3の期間RS16rで実施する(それぞれ時刻tv13r、tv14r、tv15r、tv16r)。続く第3水平同期期間Thd3の期間RS1r〜期間RS3r及び第4水平同期期間Thd4の期間RS4rで、それぞれ1行目〜4行目の画素の信号のリセット動作を実施することで、リセット動作を実施したローリングシャッタ動作を継続することができる。   Further, the reset operation of the pixels of the 13th to 16th rows is performed in the period RS13r to the period RS15r of the second horizontal synchronization period Thd2 and the period RS16r of the third horizontal synchronization period Thd3 (time tv13r and tv14r, respectively). , Tv15r, tv16r). In the subsequent period RS1r to period RS3r of the third horizontal synchronization period Thd3 and the period RS4r of the fourth horizontal synchronization period Thd4, the reset operation is performed by performing the reset operation of the pixels of the first to fourth rows, respectively. The rolling shutter operation can be continued.

このようなリセット動作をすべての行に対して実施するので、露光期間はすべての行で期間Ttv1rとなる。ここで、本実施形態においては、1行目の画素の露光期間を時刻tv0を基準にして説明したが、リセット動作を実施する場合は、期間RS11及び期間Rd1rにおいて実際にリセットされるタイミングと画素から読み出されるタイミングに時間差が発生する。そこで、リセット動作と読み出し動作の時間差をΔTvrとし、サブ
水平同期期間単位の露光期間に加算することで、より正確な露光期間制御が可能になる。
Since such a reset operation is performed for all rows, the exposure period is the period Ttv1r for all rows. Here, in the present embodiment, the exposure period of the pixels in the first row has been described with reference to the time tv0. However, when the reset operation is performed, the timing and pixels actually reset in the period RS11 and the period Rd1r. There is a time difference in the timing of reading from. Therefore, by setting the time difference between the reset operation and the read operation to ΔTvr and adding it to the exposure period in units of sub-horizontal synchronization periods, more accurate exposure period control becomes possible.

以上のように、本実施形態においては、4つの出力手段毎にそれぞれ読み出し時間差を設けた読み出し動作Oprを実施することで、4行同時に出力することが可能となるので、4倍のフレームレートを実現できることになる。また、本実施形態においては、各読み出し動作Oprにおける行毎の画素の信号の読み出し動作に先立ち、行単位で画素の信号をリセットするリセット期間を設ける。そして、読み出し動作Oprにより読み出す行のリセット動作を、異なる読み出し動作Oprにおける異なる行の読み出し動作に先立ち実施することで、サブ水平同期期間単位での露光時間制御が可能なローリングシャッタ動作を実現できる。   As described above, in this embodiment, by performing the read operation Opr with a read time difference for each of the four output units, it becomes possible to output four rows at the same time. It can be realized. In this embodiment, a reset period for resetting the pixel signal in units of rows is provided prior to the pixel signal readout operation for each row in each readout operation Opr. A row shutter operation that enables exposure time control in units of sub-horizontal synchronization periods can be realized by performing a reset operation for rows read by the read operation Opr prior to read operations for different rows in different read operations Opr.

さらに、本実施形態においては、水平同期期間を4分割した周期で作られるサブ水平同期信号を備え、行毎の画素の信号を、4行おきにサブ水平同期信号の1回目、2回目、3回目及び4回目それぞれに同期して読み出す。また、リセット動作を用いてサブ水平同期期間単位で全行が同じ露光時間になるような露光時間制御が可能となっている。これにより、露光期間を含めた行毎の露光タイミングが等間隔になるので、なめらかなローリングシャッタ動作を実現することができる。   Further, in the present embodiment, a sub-horizontal synchronization signal generated with a period obtained by dividing the horizontal synchronization period into four is provided, and the pixel signal for each row is set to the first, second, and third sub-horizontal synchronization signals every four rows. Read in synchronization with each of the fourth and fourth times. Further, exposure time control is possible using the reset operation so that all rows have the same exposure time in units of sub-horizontal synchronization periods. As a result, the exposure timing for each row including the exposure period is equally spaced, so that a smooth rolling shutter operation can be realized.

なお、前記実施形態は、何れも本発明を実施するにあたっての具体化のほんの一例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。   The above-described embodiments are merely examples of implementation in carrying out the present invention, and the technical scope of the present invention should not be construed as being limited thereto. That is, the present invention can be implemented in various forms without departing from the technical idea or the main features thereof.

11:光学系 12:撮像素子 13:信号処理部 15:同期制御部 100:画素 101:画素領域 102:垂直走査部 103:画素制御線 104:垂直信号線 105:信号選択部 106:列信号処理部 107:列AD部 108:水平メモリ部 109:水平走査部 110:出力部 112:信号生成部(TG) 114:メモリ選択部 DESCRIPTION OF SYMBOLS 11: Optical system 12: Image pick-up element 13: Signal processing part 15: Synchronization control part 100: Pixel 101: Pixel area 102: Vertical scanning part 103: Pixel control line 104: Vertical signal line 105: Signal selection part 106: Column signal processing Unit 107: Column AD unit 108: Horizontal memory unit 109: Horizontal scanning unit 110: Output unit 112: Signal generation unit (TG) 114: Memory selection unit

Claims (5)

光電変換手段をそれぞれ有する行列状に配列された複数の画素と、前記複数の画素からの信号を列毎に出力する垂直信号線と、前記複数の画素を1行ずつ選択する垂直走査手段と、前記垂直信号線に接続し画素から読み出した信号をそれぞれ処理する複数の列信号処理手段と、前記複数の列信号処理手段にそれぞれ対応し前記列信号処理手段からの信号に同期信号を付加して出力する出力手段とを有する撮像素子と、
先に読み出した画素の信号の前記出力手段からの出力が完了する前に、当該出力手段に対応する前記列信号処理手段とは異なる前記列信号処理手段への次の行の画素の信号の読み出しを開始して、1水平同期期間にN行(Nは2以上の整数)の画素の信号を読み出すように前記撮像素子を制御するとともに、1水平同期期間をN分割した間隔で信号を読み出す画素の行を順に切り換えるように前記撮像素子を制御する制御手段とを備え
前記制御手段は、信号を読み出す画素の行の切り換え順に従って、画素の信号の読み出し動作を開始する前に、読み出す行とは異なる1つの行の画素の信号をリセットするように前記撮像素子を制御することを特徴とする撮像装置。
A plurality of pixels arranged in a matrix having photoelectric conversion means, a vertical signal line for outputting signals from the plurality of pixels for each column, and a vertical scanning means for selecting the plurality of pixels one by one; A plurality of column signal processing means connected to the vertical signal lines for processing signals read from the pixels, respectively, and a synchronization signal is added to the signal from the column signal processing means corresponding to each of the plurality of column signal processing means. An image sensor having output means for outputting;
Before the output of the signal of the previously read pixel from the output means is completed, the signal of the pixel of the next row is read to the column signal processing means different from the column signal processing means corresponding to the output means. Pixels that read out signals at intervals obtained by dividing the horizontal synchronization period into N while controlling the image sensor so that signals of pixels in N rows (N is an integer of 2 or more) are read out in one horizontal synchronization period. Control means for controlling the imaging device so as to sequentially switch the rows ,
The control means controls the image sensor so as to reset a pixel signal of one row different from the row to be read before starting the pixel signal reading operation in accordance with the switching order of the row of the pixel from which the signal is read. An imaging apparatus characterized by:
前記撮像素子は、
前記制御手段による制御に応じて、1水平同期期間をN分割した間隔で有効になる信号を生成し出力する信号生成手段を有し、
前記信号生成手段から出力された信号に基づいて、信号を読み出す画素の行を順に切り換えることを特徴とする請求項1記載の撮像装置。
The image sensor is
In accordance with control by the control means, signal generating means for generating and outputting a signal that becomes effective at an interval obtained by dividing one horizontal synchronization period into N,
The imaging apparatus according to claim 1, wherein rows of pixels from which signals are read are sequentially switched based on a signal output from the signal generation unit.
前記出力手段は、前記列信号処理手段からの信号の前に第1の同期信号を付加して出力することを特徴とする請求項1又は2記載の撮像装置。 3. The imaging apparatus according to claim 1, wherein the output unit outputs the first synchronization signal added before the signal from the column signal processing unit. 前記出力手段は、前記列信号処理手段からの信号の前に第1の同期信号を付加するとともに、前記列信号処理手段からの信号の後に第2の同期信号を付加して出力することを特徴とする請求項1又は2記載の撮像装置。 The output means adds a first synchronization signal before the signal from the column signal processing means and outputs a second synchronization signal after the signal from the column signal processing means. The imaging apparatus according to claim 1 or 2 . 光電変換手段をそれぞれ有する行列状に配列された複数の画素と、前記複数の画素からの信号を列毎に出力する垂直信号線と、前記複数の画素を1行ずつ選択する垂直走査手段と、前記垂直信号線に接続し画素から読み出した信号をそれぞれ処理する複数の列信号処理手段と、前記複数の列信号処理手段にそれぞれ対応し前記列信号処理手段からの信号に同期信号を付加して出力する出力手段とを有する撮像素子を備える撮像装置の制御方法であって、
1水平同期期間をN分割(Nは2以上の整数)した間隔で信号を読み出す画素の行を順に切り換え、前記1水平同期期間にN行の画素の信号を読み出すように前記撮像素子を制御する制御工程を有し、
前記制御工程では、先に読み出した画素の信号の前記出力手段からの出力が完了する前に、当該出力手段に対応する前記列信号処理手段とは異なる前記列信号処理手段への次の行の画素の信号の読み出しを開始するとともに、信号を読み出す画素の行の切り換え順に従って、画素の信号の読み出し動作を開始する前に、読み出す行とは異なる1つの行の画素の信号をリセットするよう前記撮像素子を制御することを特徴とする撮像装置の制御方法。
A plurality of pixels arranged in a matrix having photoelectric conversion means, a vertical signal line for outputting signals from the plurality of pixels for each column, and a vertical scanning means for selecting the plurality of pixels one by one; A plurality of column signal processing means connected to the vertical signal lines for processing signals read from the pixels, respectively, and a synchronization signal is added to the signal from the column signal processing means corresponding to each of the plurality of column signal processing means. An image pickup apparatus control method comprising an image pickup device having an output means for outputting,
The rows of pixels from which signals are read are sequentially switched at intervals obtained by dividing one horizontal synchronization period into N (N is an integer equal to or greater than 2), and the image sensor is controlled so as to read signals of pixels in N rows during the one horizontal synchronization period. Having a control process,
In the control step, before the output of the previously read pixel signal from the output means is completed, the next row to the column signal processing means different from the column signal processing means corresponding to the output means The pixel signal reading is started , and the pixel signal of one row different from the reading row is reset before starting the pixel signal reading operation in accordance with the switching order of the pixel rows from which the signal is read. An image pickup apparatus control method, comprising: controlling an image pickup element.
JP2013213929A 2013-10-11 2013-10-11 Imaging apparatus and control method thereof Expired - Fee Related JP6230365B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013213929A JP6230365B2 (en) 2013-10-11 2013-10-11 Imaging apparatus and control method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013213929A JP6230365B2 (en) 2013-10-11 2013-10-11 Imaging apparatus and control method thereof

Publications (2)

Publication Number Publication Date
JP2015076852A JP2015076852A (en) 2015-04-20
JP6230365B2 true JP6230365B2 (en) 2017-11-15

Family

ID=53001365

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013213929A Expired - Fee Related JP6230365B2 (en) 2013-10-11 2013-10-11 Imaging apparatus and control method thereof

Country Status (1)

Country Link
JP (1) JP6230365B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107534744A (en) * 2015-09-30 2018-01-02 奥林巴斯株式会社 Photographing element and endoscope
JP7389586B2 (en) 2019-08-28 2023-11-30 キヤノン株式会社 Imaging device and method for driving the imaging device

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001045378A (en) * 1999-08-04 2001-02-16 Canon Inc Solid-state image pickup device
JP2012049912A (en) * 2010-08-27 2012-03-08 Canon Inc Photoelectric conversion device and imaging system
US8970750B2 (en) * 2010-11-12 2015-03-03 Sony Corporation Image outputting apparatus, image outputting method, image processing apparatus, image processing method, program, data structure and imaging apparatus

Also Published As

Publication number Publication date
JP2015076852A (en) 2015-04-20

Similar Documents

Publication Publication Date Title
US7839444B2 (en) Solid-state image-pickup device, method of driving solid-state image-pickup device and image-pickup apparatus
JP6019692B2 (en) Image pickup device, image pickup device control method, and image pickup apparatus
JP4692196B2 (en) Solid-state imaging device, driving method of solid-state imaging device, and imaging device
JP6580118B2 (en) Imaging device and imaging apparatus
US20130038757A1 (en) Image pickup apparatus
US8896736B2 (en) Solid-state imaging device, imaging apparatus and signal reading method having photoelectric conversion elements that are targets from which signals are read in the same group
JP6305169B2 (en) Solid-state imaging device, imaging apparatus, control method thereof, program, and storage medium
JP6230365B2 (en) Imaging apparatus and control method thereof
JP2017204737A (en) Imaging apparatus and control method for imaging apparatus
JP6190243B2 (en) Imaging apparatus and control method thereof
JP2006148577A (en) Solid-state imaging apparatus and imaging method
JP4458864B2 (en) IMAGING DEVICE, ITS CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM
JP6771944B2 (en) Imaging device and control method of imaging device
WO2021014999A1 (en) Solid-state imaging device and method for driving same, and electronic instrument
JP2006246148A (en) Imaging apparatus
JP2011182321A (en) Solid-state imaging apparatus, driving method and imaging apparatus
JP6600375B2 (en) Solid-state imaging device, imaging apparatus, control method thereof, program, and storage medium
JP6270398B2 (en) Imaging device
JP2005286470A (en) Imaging unit
JP4195148B2 (en) Solid-state imaging device and signal readout method
JP6334946B2 (en) Imaging apparatus and control method thereof
JP2005303653A (en) Image pickup device
JP2004153710A (en) Control method of imaging apparatus, and imaging apparatus
JP2011199646A (en) Solid-state electronic imaging device, and operation control method of the same
WO2019176309A1 (en) Image processing device, image processing method, and image processing system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161004

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170626

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170711

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170907

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170919

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171017

R151 Written notification of patent or utility model registration

Ref document number: 6230365

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees