JP7267719B2 - Photoelectric conversion device, moving object, signal processing device - Google Patents

Photoelectric conversion device, moving object, signal processing device Download PDF

Info

Publication number
JP7267719B2
JP7267719B2 JP2018222799A JP2018222799A JP7267719B2 JP 7267719 B2 JP7267719 B2 JP 7267719B2 JP 2018222799 A JP2018222799 A JP 2018222799A JP 2018222799 A JP2018222799 A JP 2018222799A JP 7267719 B2 JP7267719 B2 JP 7267719B2
Authority
JP
Japan
Prior art keywords
signal
photoelectric conversion
pixel
memory
arithmetic processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018222799A
Other languages
Japanese (ja)
Other versions
JP2020086246A5 (en
JP2020086246A (en
Inventor
康一 松村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018222799A priority Critical patent/JP7267719B2/en
Priority to US16/687,528 priority patent/US10965896B2/en
Publication of JP2020086246A publication Critical patent/JP2020086246A/en
Publication of JP2020086246A5 publication Critical patent/JP2020086246A5/ja
Application granted granted Critical
Publication of JP7267719B2 publication Critical patent/JP7267719B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/67Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
    • H04N25/671Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/778Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising amplifiers shared between a plurality of pixels, i.e. at least one part of the amplifier must be on the sensor array itself
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/79Arrangements of circuitry being divided between different or multiple substrates, chips or circuit boards, e.g. stacked image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/63Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current
    • H04N25/633Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current by using optical black pixels

Description

本発明は、光電変換装置、移動体、信号処理装置に関する。 The present invention relates to a photoelectric conversion device, a moving object, and a signal processing device.

複数の光電変換部で生成された電荷に基づく信号を用いて位相差検出を行う撮像装置が知られている。特許文献1には、それぞれが複数の光電変換部を含む複数の画素を備える撮像装置が記載されている。各画素は、複数の光電変換部で生成された電荷に基づく信号を出力する。さらに、当該複数の画素のうちの一部の画素が、各画素の一部の光電変換部で生成された電荷に基づく信号を出力する構成が特許文献1に開示されている。 2. Description of the Related Art An imaging device is known that performs phase difference detection using signals based on charges generated by a plurality of photoelectric conversion units. Japanese Unexamined Patent Application Publication No. 2002-200000 describes an imaging device that includes a plurality of pixels each including a plurality of photoelectric conversion units. Each pixel outputs a signal based on charges generated by the plurality of photoelectric conversion units. Furthermore, Patent Document 1 discloses a configuration in which some of the plurality of pixels output signals based on charges generated by some of the photoelectric conversion units of each pixel.

特開2013-211833号公報JP 2013-211833 A

しかしながら、特許文献1では、遮光された光電変換部を含む画素(以下「遮光画素」という。)をさらに備える場合に、複数の画素から読み出された信号をどのような順序で演算処理を行う演算処理回路に入力するかについて検討されていない。 However, in Japanese Patent Laid-Open No. 2004-100000, in the case of further including a pixel including a light-shielded photoelectric conversion unit (hereinafter referred to as a “light-shielded pixel”), in what order the signals read from the plurality of pixels are subjected to arithmetic processing. No consideration has been given as to whether to input to the arithmetic processing circuit.

本発明は、遮光画素を含む複数の画素から読み出された信号を演算処理回路に入力する場合における、好適な信号の入力順序を提供するものである。 The present invention provides a suitable signal input order when signals read from a plurality of pixels including light-shielded pixels are input to an arithmetic processing circuit.

本発明の一形態の係る光電変換装置は、複数の光電変換部をそれぞれが含む複数の画素が2次元状に配された画素アレイと、前記画素アレイから出力される信号が入力されるメモリと、前記メモリから出力される信号が入力されるとともに当該信号を用いた演算処理を行う演算処理回路と、を備え、前記複数の画素は、前記複数の光電変換部が遮光された第1画素と、前記複数の光電変換部に光が入射する第2画素及び第3画素とを含み、前記画素アレイは、前記第1画素に含まれる複数の光電変換部で生成される電荷に基づく第1信号、前記第2画素に含まれる複数の光電変換部で生成される電荷に基づく第2信号、並びに前記第3画素に含まれる一方の光電変換部で生成される電荷に基づく信号及び前記第3画素に含まれる他方の光電変換部で生成される電荷に基づく信号の少なくとも一方含む第3信号、をこの順に出力し、前記第1信号、前記第2信号、及び前記第3信号は前記メモリで保持され、前記メモリから出力される前記第1信号、前記第2信号、及び前記第3信号が、前記第1信号、前記第3信号、及び前記第2信号の順に前記演算処理回路に入力され、前記第3信号が前記演算処理回路に入力される第1期間および前記第2信号が前記演算処理回路に入力される第2期間を含む期間の少なくとも一部の期間に前記演算処理を行うA photoelectric conversion device according to one embodiment of the present invention includes a pixel array in which a plurality of pixels each including a plurality of photoelectric conversion units are arranged two-dimensionally, and a memory to which a signal output from the pixel array is input. and an arithmetic processing circuit that receives a signal output from the memory and performs arithmetic processing using the signal, wherein the plurality of pixels are first pixels in which the plurality of photoelectric conversion units are shielded from light. , a second pixel and a third pixel in which light enters the plurality of photoelectric conversion units, and the pixel array includes a first signal based on charges generated by the plurality of photoelectric conversion units included in the first pixel. , a second signal based on charges generated by a plurality of photoelectric conversion units included in the second pixel, and a signal based on charges generated by one photoelectric conversion unit included in the third pixel and the third pixel a third signal including at least one of signals based on charges generated by the other photoelectric conversion unit included in the second photoelectric conversion unit, and outputting the first signal, the second signal, and the third signal in this order, and holding the first signal, the second signal, and the third signal in the memory and the first signal, the second signal, and the third signal output from the memory are input to the arithmetic processing circuit in the order of the first signal, the third signal, and the second signal , The arithmetic processing is performed during at least part of a period including a first period during which the third signal is input to the arithmetic processing circuit and a second period during which the second signal is input to the arithmetic processing circuit.

本発明の一形態に係る光電変換装置は、遮光された複数の光電変換部を含み、前記複数の光電変換部による黒基準信号を出力する第1画素と、
複数の光電変換部を含み、画像用の信号を生成するための第2画素と、
複数の光電変換部を含み、画像用の信号および焦点検出用の信号を生成するための第3画素と、を備える画素アレイと、
前記画素アレイから出力される信号が入力されるメモリと、
前記メモリから出力される信号が入力されるとともに当該信号を用いた演算処理を行う演算処理回路と、を備え、
前記画素アレイは、前記第1画素が出力する黒基準信号である第1信号、前記第2画素が出力する画像用の信号である第2信号、並びに前記第3画素が出力する画像用の信号と焦点検出用の信号を含む第3信号、をこの順に出力し、
前記第1信号、前記第2信号、及び前記第3信号は前記メモリで保持され、
前記メモリから出力される前記第1信号、前記第2信号、及び前記第3信号が、前記第1信号、前記第3信号、及び前記第2信号の順に前記演算処理回路に入力され、
前記第3信号が前記演算処理回路に入力される第1期間および前記第2信号が前記演算処理回路に入力される第2期間を含む期間の少なくとも一部の期間に前記演算処理を行う
A photoelectric conversion device according to an aspect of the present invention includes a plurality of shielded photoelectric conversion units, a first pixel for outputting a black reference signal from the plurality of photoelectric conversion units;
a second pixel including a plurality of photoelectric conversion units for generating an image signal;
a pixel array including a plurality of photoelectric conversion units and a third pixel for generating an image signal and a focus detection signal;
a memory to which a signal output from the pixel array is input;
an arithmetic processing circuit that receives a signal output from the memory and performs arithmetic processing using the signal,
The pixel array includes a first signal that is a black reference signal output by the first pixel, a second signal that is an image signal output by the second pixel, and an image signal that is output by the third pixel. and a third signal including a signal for focus detection are output in this order,
the first signal, the second signal, and the third signal are held in the memory;
the first signal, the second signal, and the third signal output from the memory are input to the arithmetic processing circuit in the order of the first signal, the third signal, and the second signal;
The arithmetic processing is performed during at least part of a period including a first period during which the third signal is input to the arithmetic processing circuit and a second period during which the second signal is input to the arithmetic processing circuit.

本発明の一形態に係る信号処理装置は、複数の画素を有する画素アレイからの信号が入力される信号処理装置であって、
前記信号処理装置は、前記画素アレイから出力される信号が入力されるメモリと、前記メモリから出力される信号が入力されるとともに当該信号を用いた演算処理を行う演算処理回路と、を備え、
前記画素アレイに含まれる前記複数の画素は、複数の光電変換部が遮光された第1画素と、前記複数の光電変換部に光が入射する第2画素及び第3画素とを含み、
前記画素アレイから、前記第1画素に含まれる複数の光電変換部で生成される電荷に基づく第1信号、前記第2画素に含まれる複数の光電変換部で生成される電荷に基づく第2信号、並びに前記第3画素に含まれる一方の光電変換部で生成される電荷に基づく信号及び前記第3画素に含まれる他方の光電変換部で生成される電荷に基づく信号の少なくとも一方を含む第3信号、がこの順に出力され、
前記メモリは、前記第1信号、前記第2信号、及び前記第3信号を保持し、
前記メモリから出力される前記第1信号、前記第2信号、及び前記第3信号が、前記第1信号、前記第3信号、及び前記第2信号の順に前記演算処理回路に入力され、
前記第3信号が前記演算処理回路に入力される第1期間および前記第2信号が前記演算処理回路に入力される第2期間を含む期間の少なくとも一部の期間に前記演算処理を行う
A signal processing device according to one aspect of the present invention is a signal processing device to which a signal is input from a pixel array having a plurality of pixels,
The signal processing device includes a memory to which the signal output from the pixel array is input, and an arithmetic processing circuit to which the signal output from the memory is input and performs arithmetic processing using the signal,
The plurality of pixels included in the pixel array includes a first pixel in which a plurality of photoelectric conversion units are shielded from light, and a second pixel and a third pixel in which light enters the plurality of photoelectric conversion units,
From the pixel array, a first signal based on charges generated by a plurality of photoelectric conversion units included in the first pixel and a second signal based on charges generated by a plurality of photoelectric conversion units included in the second pixel , and at least one of a signal based on charges generated by one photoelectric conversion unit included in the third pixel and a signal based on charges generated by the other photoelectric conversion unit included in the third pixel. signals are output in this order,
the memory holds the first signal, the second signal, and the third signal;
the first signal, the second signal, and the third signal output from the memory are input to the arithmetic processing circuit in the order of the first signal, the third signal, and the second signal;
The arithmetic processing is performed during at least part of a period including a first period during which the third signal is input to the arithmetic processing circuit and a second period during which the second signal is input to the arithmetic processing circuit.

遮光画素を含む複数の画素の信号の、演算処理回路への入力順序を、好適なものとすることができる。 The input order of signals of a plurality of pixels including light-shielded pixels to the arithmetic processing circuit can be made suitable.

第1の実施形態に係る光電変換装置の構成を示すブロック図である。1 is a block diagram showing the configuration of a photoelectric conversion device according to a first embodiment; FIG. 第1の実施形態に係る光電変換装置の構成及び回路を示す図である。1 is a diagram showing the configuration and circuitry of a photoelectric conversion device according to a first embodiment; FIG. 第1の実施形態に係る光電変換素子及び信号処理回路のブロック図である。1 is a block diagram of a photoelectric conversion element and a signal processing circuit according to a first embodiment; FIG. (a)は各画素の分布図であり、(b)はメモリに格納されるデジタル信号のアドレスを示す図である。(a) is a distribution diagram of each pixel, and (b) is a diagram showing addresses of digital signals stored in a memory. 第1の実施形態に係る光電変換装置の動作を示すタイミングチャートである。4 is a timing chart showing the operation of the photoelectric conversion device according to the first embodiment; 第1の実施形態に係る光電変換装置の実装形態を示す図である。It is a figure which shows the mounting form of the photoelectric conversion apparatus which concerns on 1st Embodiment. 第2の実施形態に係る光電変換装置の内部の構成を示す図である。It is a figure which shows the internal structure of the photoelectric conversion apparatus which concerns on 2nd Embodiment. 第2の実施形態に係る光電変換装置のメモリからの出力を示す図である。FIG. 10 is a diagram showing outputs from a memory of the photoelectric conversion device according to the second embodiment; FIG. 第2の実施形態に係る光電変換装置の動作を示すタイミングチャートである。9 is a timing chart showing the operation of the photoelectric conversion device according to the second embodiment; 第3の実施形態に係る光電変換装置の内部の構成を示す図であるIt is a figure which shows the internal structure of the photoelectric conversion apparatus which concerns on 3rd Embodiment. 第3の実施形態に係る光電変換装置のメモリからの出力を示す図である。FIG. 10 is a diagram showing outputs from a memory of a photoelectric conversion device according to the third embodiment; FIG. 第3の実施形態に係る光電変換装置の動作を示すタイミングチャートである。9 is a timing chart showing the operation of the photoelectric conversion device according to the third embodiment; 第4の実施形態に係る移動体の概略図である。FIG. 11 is a schematic diagram of a moving body according to a fourth embodiment;

本発明を実施するための形態を、以下で図面を参照しながら説明する。ただし、以下の実施形態において示す構成は一例にすぎず、本発明は図示された構成に限定されるものではない。なお、各図面が示す部材の大きさや位置関係等は、説明を明確にするために誇張している場合がある。 A mode for carrying out the present invention will be described below with reference to the drawings. However, the configurations shown in the following embodiments are merely examples, and the present invention is not limited to the illustrated configurations. Note that the sizes and positional relationships of members shown in each drawing may be exaggerated for clarity of explanation.

また、以下に示す実施形態において、同一の構成については同一の符号を付し、説明を省略する場合がある。 Moreover, in the embodiments shown below, the same reference numerals are given to the same configurations, and the explanation may be omitted.

<第1の実施形態>
図1は、第1の実施形態に係る光電変換装置の構成を示す図である。図1においては光電変換装置の一例として撮像装置を示している。撮像装置としては、例えば、デジタルスチルカメラ、デジタルカムコーダ、監視カメラ、複写機、ファックス、携帯電話、車載カメラ、観測衛星などが挙げられる。なお、本発明は撮像装置に限定されず、以下の実施形態に係る光電変換装置は撮像を行わない装置であっても効果を得ることができる。撮像を行わない装置としては、例えば、測距センサ、測光センサなどがある。測距センサは、典型的には被写体までの距離情報を生成するために用いられるセンサであり、例えばTOF(Time Of Flight)センサ等が有る。測光センサは、典型的には被写体の明るさを検出するために用いられるセンサである。
<First embodiment>
FIG. 1 is a diagram showing the configuration of a photoelectric conversion device according to the first embodiment. FIG. 1 shows an imaging device as an example of the photoelectric conversion device. Examples of imaging devices include digital still cameras, digital camcorders, surveillance cameras, copiers, facsimiles, mobile phones, vehicle-mounted cameras, and observation satellites. Note that the present invention is not limited to imaging devices, and photoelectric conversion devices according to the following embodiments can obtain effects even in devices that do not perform imaging. Devices that do not perform imaging include, for example, a distance measuring sensor and a photometric sensor. A ranging sensor is typically a sensor used to generate distance information to a subject, and includes, for example, a TOF (Time Of Flight) sensor. A photometric sensor is a sensor typically used to detect the brightness of a subject.

図1において、レンズ100は撮影光学系120の先端側に配置されている。絞り101は、その開口径を調節することで撮影時の光量調節を行う。レンズ102、レンズ103は、後述のフォーカスアクチュエータ117によって駆動され、光軸方向に進退することにより、撮影光学系120の焦点を調節する。 In FIG. 1, the lens 100 is arranged on the distal end side of the imaging optical system 120 . The aperture 101 adjusts the aperture diameter to adjust the amount of light during shooting. The lenses 102 and 103 are driven by a focus actuator 117, which will be described later, and move back and forth along the optical axis to adjust the focus of the imaging optical system 120. FIG.

フォーカルプレーンシャッタ104は、静止画撮影時に露光時間を調節する。光学的ローパスフィルタ105は撮影画像の偽色やモアレを低減するために用いられる。光電変換素子106は、撮影光学系120で形成された被写体の光学像を電気信号に光電変換する。光電変換素子106から出力された電気信号は、信号処理装置121に出力される。信号処理装置121としては、例えば、後述するフロントエンド107、DSP(Digital Signal Processor)108を含む。 A focal plane shutter 104 adjusts the exposure time during still image shooting. The optical low-pass filter 105 is used to reduce false colors and moire in the captured image. The photoelectric conversion element 106 photoelectrically converts the optical image of the subject formed by the imaging optical system 120 into an electric signal. An electrical signal output from the photoelectric conversion element 106 is output to the signal processing device 121 . The signal processing device 121 includes, for example, a front end 107 and a DSP (Digital Signal Processor) 108, which will be described later.

フロントエンド107は後述するメモリ300と転送回路301を内蔵する部材で、光電変換素子106からの信号を受信し、その一部または全部をメモリに格納し、後段のDSP(Digital Signal Processor)108へと送信する。 The front end 107 is a member containing a memory 300 and a transfer circuit 301, which will be described later. and send.

DSP108は画像処理を行う。DSP108は光電変換素子106で撮影され、フロントエンド107から送信された画像データの、補正・圧縮等の処理を行う。また、画像データをA像データとB像データ(後述)に分離する分離機能や、焦点検出処理を行うためのA信号とB信号を用いた相関演算を行う相関演算機能を有する他、後述する表示部111に表示するために画像信号を加工する機能なども有する。これらの光電変換素子106、フロントエンド107、DSP108における信号の処理フローに関する詳細は後述する。 DSP 108 performs image processing. The DSP 108 performs processing such as correction, compression, etc. on image data captured by the photoelectric conversion element 106 and transmitted from the front end 107 . It also has a separation function for separating image data into A image data and B image data (described later), and a correlation calculation function for performing correlation calculation using A signal and B signal for performing focus detection processing. It also has a function of processing an image signal for display on the display unit 111 . The details of the signal processing flow in these photoelectric conversion element 106, front end 107, and DSP 108 will be described later.

RAM(ランダムアクセスメモリ)109は、フロントエンド107からのデジタル信号を保持する信号保持手段の機能と、DSP108で処理された画像データを記憶する画像データ記憶手段の機能と、後述のCPU110が動作を行う際のワークメモリの機能を兼備する。RAM109としては、一般的にDRAM(ダイナミックランダムアクセスメモリ)が用いられる。なお、本実施形態では、RAM109を用いてこれらの機能を実現する構成であるが、アクセス速度が十分に速くて動作上問題のないレベルのメモリであれば、他の種類のメモリを用いることも可能である。また本実施形態では、RAM109は、DSP108、CPU110の外部に配置されているが、その一部または全部の機能をDSP108やCPU110に内蔵する構成であってもよい。 A RAM (random access memory) 109 has the function of a signal holding means for holding digital signals from the front end 107, the function of an image data storage means for storing image data processed by the DSP 108, and the operation of a CPU 110, which will be described later. It also has the function of a work memory when performing. A DRAM (dynamic random access memory) is generally used as the RAM 109 . In this embodiment, the RAM 109 is used to realize these functions, but other types of memory may be used as long as the access speed is sufficiently high and the operation is not problematic. It is possible. In this embodiment, the RAM 109 is arranged outside the DSP 108 and the CPU 110 , but part or all of its functions may be incorporated in the DSP 108 or the CPU 110 .

表示部111は、DSP108によって処理された静止画像や動画像およびメニュー等の表示を行う。操作部112は、撮影命令や撮影条件等の設定をCPU110に対して行う。記録媒体113は、静止画データ及び動画データを記録する着脱可能な記録媒体である。ROM114は、CPU110が各部の動作を制御するためにロードして実行するプログラムを格納する。 A display unit 111 displays still images and moving images processed by the DSP 108, menus, and the like. The operation unit 112 sets the CPU 110 for shooting commands, shooting conditions, and the like. A recording medium 113 is a detachable recording medium for recording still image data and moving image data. ROM 114 stores programs that are loaded and executed by CPU 110 to control the operation of each unit.

CPU110は、光電変換素子106の動作を統括的に制御する。CPU110は光電変換素子106の各部を制御するためのプログラムを実行する。また、DSP108から出力される相関演算の結果を用いて、後述のフォーカス駆動回路116を制御し、撮影光学系120の焦点を調節する機能も有する。 The CPU 110 comprehensively controls the operation of the photoelectric conversion element 106 . The CPU 110 executes programs for controlling each part of the photoelectric conversion element 106 . It also has a function of controlling the focus drive circuit 116 (to be described later) and adjusting the focus of the photographic optical system 120 using the result of the correlation calculation output from the DSP 108 .

CPU110は、操作部112の設定に基づいて、シャッター駆動回路115及び絞り駆動回路118を制御する。CPU110からの制御に基づき、シャッター駆動回路115は、フォーカルプレーンシャッタ104を駆動制御する。絞り駆動回路118は、絞りアクチュエータ119を制御して絞り101の開口を制御する。 The CPU 110 controls the shutter drive circuit 115 and the aperture drive circuit 118 based on the settings of the operation unit 112 . A shutter drive circuit 115 drives and controls the focal plane shutter 104 under the control of the CPU 110 . A diaphragm drive circuit 118 controls the aperture of the diaphragm 101 by controlling the diaphragm actuator 119 .

次に、図2を参照しながら、光電変換素子106の構成を説明する。図2(a)に、複数の画素201が2次元状に配された画素アレイ200(画素領域)を示す。行方向と平行なX軸及び列方向と平行なY軸に沿って、複数の画素201が配列されている。 Next, the configuration of the photoelectric conversion element 106 will be described with reference to FIG. FIG. 2A shows a pixel array 200 (pixel region) in which a plurality of pixels 201 are two-dimensionally arranged. A plurality of pixels 201 are arranged along the X-axis parallel to the row direction and the Y-axis parallel to the column direction.

図2(a)に示すように、画素アレイ200は、有効画素領域と遮光画素領域を含む。有効画素領域に配された画素は光電変換部203a、203bに光が入射する受光画素である。また、遮光画素領域に含まれる画素は遮光された光電変換部203a、203bを含む遮光画素(第1画素)である。光電変換部203a、203bは例えば、フォトダイオード(PD)である。ただし、光電変換部203a、203bはフォトダイオード以外で形成されても良く、例えば、基板(半導体基板、ガラス基板等)の上部に設けられた光電変換膜を用いても良い。 As shown in FIG. 2(a), the pixel array 200 includes an effective pixel area and a shaded pixel area. The pixels arranged in the effective pixel area are light receiving pixels from which light enters the photoelectric conversion units 203a and 203b. Pixels included in the light-shielded pixel region are light-shielded pixels (first pixels) including photoelectric conversion units 203a and 203b that are shielded from light. The photoelectric conversion units 203a and 203b are, for example, photodiodes (PD). However, the photoelectric conversion units 203a and 203b may be formed by other than photodiodes, and for example, a photoelectric conversion film provided on a substrate (semiconductor substrate, glass substrate, or the like) may be used.

受光画素は、複数の光電変換部203a、203bとマイクロレンズ202とを含み、単一のマイクロレンズ202を通過した光が入射する画素である。これにより、光電変換部203a,203bは瞳分割構成を取ることになり、この2つの光電変換部203a,203bには、同一被写体の、位相差を持った別々の像が入射されることになる。以下では、この同一被写体の、位相差を持った別々の2像をA像、B像と呼ぶことにし、光電変換部203aはA像用の光電変換部とし、光電変換部203bはB像用の光電変換部とする。つまり、光電変換部203aで生成された電荷に基づくA信号によりA像が形成され、光電変換部203bで生成された電荷に基づくB信号によりB像が形成される。なお、本実施形態ではA信号とB信号とを加算したA+B信号からA信号を減算することによりB信号を生成し、生成されたB信号からB像が形成されている。この場合も、B信号によりB像が形成されるとみなす。 A light-receiving pixel includes a plurality of photoelectric conversion units 203a and 203b and a microlens 202, and is a pixel to which light passing through a single microlens 202 is incident. As a result, the photoelectric conversion units 203a and 203b have a pupil division structure, and separate images of the same object having a phase difference are incident on the two photoelectric conversion units 203a and 203b. . Hereinafter, these two separate images of the same object having a phase difference will be referred to as an A image and a B image. photoelectric conversion unit. That is, the A image is formed by the A signal based on the charge generated by the photoelectric conversion unit 203a, and the B image is formed by the B signal based on the charge generated by the photoelectric conversion unit 203b. In this embodiment, the B signal is generated by subtracting the A signal from the A+B signal obtained by adding the A signal and the B signal, and the B image is formed from the generated B signal. Also in this case, it is assumed that the B image is formed by the B signal.

遮光画素は、遮光された複数の光電変換部203a、203bを含む。なお、図2(a)では遮光画素はマイクロレンズを含むが、遮光画素はマイクロレンズを含まなくてもよい。遮光画素は、複数の光電変換部203a、203bによる黒基準信号を出力する。典型的には、黒基準信号は、受光画素の黒レベルの決定に用いられる。例えば、複数の遮光画素の黒基準信号を平均化することによって黒レベル信号が生成される。この黒レベル信号を、受光画素の信号から差し引くことによって、受光画素の信号のSignal Noise Ratio(以下、S/N比)を向上させることができる。 A light-shielded pixel includes a plurality of light-shielded photoelectric conversion units 203a and 203b. Although the light-shielded pixels include microlenses in FIG. 2A, the light-shielded pixels may not include microlenses. A light-shielded pixel outputs a black reference signal from a plurality of photoelectric conversion units 203a and 203b. Typically, the black reference signal is used to determine the black level of the light receiving pixels. For example, a black level signal is generated by averaging the black reference signals of a plurality of light-shielded pixels. By subtracting this black level signal from the signal of the light-receiving pixel, the Signal Noise Ratio (hereinafter referred to as S/N ratio) of the signal of the light-receiving pixel can be improved.

図2(b)は、画素201の回路構成を説明する図である。図2(b)において、光電変換部203a及び光電変換部203bは、前述した単一のマイクロレンズ202を通過した光が入射する光電変換部である。また、遮光画素においては、光電変換部203a、203bは、1つの増幅トランジスタ207を共有する光電変換部である。A像用の転送トランジスタTxA(204a)は信号φtxaによって制御され、B像用の転送トランジスタTxB(204b)は信号φtxbによって制御される。この信号φtxa、φtxbをHigh(以下HighをHと記す)にすることによって、転送トランジスタが導通し、各光電変換部に蓄積された電荷をフローティングディフュージョン部(FD)205に転送することができる。この転送トランジスタの導通/非導通(ON/OFF)は独立に制御することができるため、A信号とB信号は独立に転送することができる。 FIG. 2B is a diagram for explaining the circuit configuration of the pixel 201. As shown in FIG. In FIG. 2B, photoelectric conversion units 203a and 203b are photoelectric conversion units into which light that has passed through the single microlens 202 described above is incident. Also, in the light-shielded pixel, the photoelectric conversion units 203 a and 203 b are photoelectric conversion units sharing one amplification transistor 207 . The A image transfer transistor TxA (204a) is controlled by the signal φtxa, and the B image transfer transistor TxB (204b) is controlled by the signal φtxb. By setting the signals φtxa and φtxb to High (hereinbelow, High is referred to as H), the transfer transistors become conductive, and charges accumulated in the respective photoelectric conversion units can be transferred to the floating diffusion unit (FD) 205 . Since the conduction/non-conduction (ON/OFF) of the transfer transistor can be independently controlled, the A signal and the B signal can be transferred independently.

リセットトランジスタ206はFD205を初期化するためのスイッチであり、信号φpresによって制御される。増幅トランジスタ207は、選択トランジスタ208、及び後述する垂直出力線211を介して、後述する定電流源212に接続されている。選択トランジスタ208の入力信号φselがHになると、増幅トランジスタ207は定電流源212と接続される。FD205は増幅トランジスタ207に接続されているため、光電変換部203a、203bからFD205に転送された電荷は、増幅トランジスタ207によって電荷量に応じた電圧値に変換され、垂直出力線211に信号として出力される。各トランジスタは、例えば、MOSトランジスタにより構成されている。 A reset transistor 206 is a switch for initializing the FD 205 and is controlled by a signal φpres. The amplification transistor 207 is connected to a constant current source 212, which will be described later, via a selection transistor 208 and a vertical output line 211, which will be described later. When the input signal φsel of the selection transistor 208 becomes H, the amplification transistor 207 is connected to the constant current source 212 . Since the FD 205 is connected to the amplification transistor 207, the charges transferred from the photoelectric conversion units 203a and 203b to the FD 205 are converted by the amplification transistor 207 into a voltage value corresponding to the amount of charge, and output as a signal to the vertical output line 211. be done. Each transistor is composed of, for example, a MOS transistor.

一方の光電変換部203aからの信号と他方の光電変換部203bからの信号とを加算した信号(以下「A+B信号」という)を画像用の信号、各光電変換部203a、203bから読み出した2つの信号を焦点検出用の信号として用いることができる。 A signal obtained by adding a signal from one photoelectric conversion unit 203a and a signal from the other photoelectric conversion unit 203b (hereinafter referred to as an "A+B signal") is an image signal, and two signals read out from the photoelectric conversion units 203a and 203b. The signal can be used as a signal for focus detection.

なお、画像用のA+B信号と、焦点検出用のA信号とB信号とをそれぞれ読み出してもよいが、処理負荷を考慮して、次のようにしてもよい。複数の光電変換部の信号(A+B信号)と、光電変換部203a,203bのいずれか一方の焦点検出用の信号(例えばA信号)とを読み出す。そして、A+B信号とA信号との差分を取ることで、視差を有するもう一方の焦点検出用の信号(例えばB信号)を取得する。または、光電変換部203a,203bの焦点検出用の信号(A信号、B信号)をそれぞれ読み出し、読み出した信号を加算することで画像用の信号(A+B信号)を取得する。 Although the A+B signal for image and the A and B signals for focus detection may be read out, the following may be done in consideration of the processing load. Signals (A+B signals) from a plurality of photoelectric conversion units and a focus detection signal (for example, A signal) from one of the photoelectric conversion units 203a and 203b are read out. Then, by taking the difference between the A+B signal and the A signal, the other focus detection signal (for example, the B signal) having parallax is acquired. Alternatively, the focus detection signals (A signal and B signal) of the photoelectric conversion units 203a and 203b are respectively read out, and the read signals are added to acquire the image signal (A+B signal).

図2(c)は、光電変換素子106の詳細な回路構成である。前述の通り、画素アレイ200には複数の画素201が配されている。なお、図2(c)では、遮光画素を省略して示している。 FIG. 2C shows a detailed circuit configuration of the photoelectric conversion element 106. As shown in FIG. As described above, a plurality of pixels 201 are arranged in the pixel array 200 . In addition, in FIG.2(c), the light-shielding pixel is abbreviate|omitted and shown.

タイミングジェネレータ(TG)210は、CPU110によって設定されたプログラムに従って、各回路に読み出しに必要な制御パルスを供給する。 A timing generator (TG) 210 supplies control pulses necessary for reading to each circuit according to a program set by the CPU 110 .

垂直走査回路209は、画素201にパルスを供給することで信号を垂直出力線211へ出力する。また、垂直走査回路209は、特定の画素を選択し、選択画素と非選択画素で駆動を切り替えることもできる。なお、本実施形態では、TG210は光電変換素子106に内蔵されているが、光電変換素子106の外部に配置される構成でも構わない。 A vertical scanning circuit 209 outputs a signal to a vertical output line 211 by supplying a pulse to the pixel 201 . The vertical scanning circuit 209 can also select specific pixels and switch driving between selected pixels and non-selected pixels. Although the TG 210 is built in the photoelectric conversion element 106 in this embodiment, it may be arranged outside the photoelectric conversion element 106 .

各画素201に含まれる光電変換部によって生成された信号は、前述のように垂直走査回路209から供給される駆動信号によって、垂直出力線211へと行毎に出力される。定電流源212は、前述した増幅トランジスタ207と組み合わされてソースフォロワ回路を構成する。 A signal generated by a photoelectric conversion unit included in each pixel 201 is output to the vertical output line 211 row by row by a driving signal supplied from the vertical scanning circuit 209 as described above. The constant current source 212 forms a source follower circuit in combination with the amplifying transistor 207 described above.

読み出し回路213は、各列の垂直出力線211からの出力を増幅する機能を有する。AD変換回路(ADC)214は、読み出し回路213の出力をデジタル信号へ変換する。ADC214によって変換されたデジタル信号は、水平走査回路215によって順に選択されて、画像処理部216によって適宜画像処理されて、出力部217から光電変換素子106の外部へ出力される。 The readout circuit 213 has a function of amplifying the output from the vertical output line 211 of each column. An AD conversion circuit (ADC) 214 converts the output of the readout circuit 213 into a digital signal. The digital signals converted by the ADC 214 are sequentially selected by the horizontal scanning circuit 215 , appropriately image-processed by the image processing unit 216 , and output from the output unit 217 to the outside of the photoelectric conversion element 106 .

続いて、図3を参照しながら、光電変換素子106、フロントエンド107、DSP108の詳細な構成について説明する。 Next, detailed configurations of the photoelectric conversion element 106, the front end 107, and the DSP 108 will be described with reference to FIG.

フロントエンド107は、前述の通り、メモリ300と転送回路301を含む。メモリ300は光電変換素子106の出力部217から出力されるデジタル信号を格納する。具体的には、メモリ300には、画素アレイ200から出力部217を介して出力されるデジタル信号が入力され、メモリ300に格納される。メモリ300としては、例えば、RAMを用いることができ、DRAM及びSRAM(スタティックランダムアクセスメモリ)のいずれも適用可能である。詳細は後述するが、メモリ300のアドレスの順序と異なる順序でメモリ300から信号を出力する場合は、SRAMを用いることが好ましい。なお、アクセス速度が十分に速く、動作上問題のないレベルのメモリであれば、RAM以外のメモリを用いることも可能である。転送回路301はメモリ300に格納されたデジタル信号をDSP108へと転送する。 Front end 107 includes memory 300 and transfer circuitry 301 as previously described. The memory 300 stores digital signals output from the output section 217 of the photoelectric conversion element 106 . Specifically, a digital signal output from the pixel array 200 via the output unit 217 is input to the memory 300 and stored in the memory 300 . As the memory 300, for example, a RAM can be used, and both DRAM and SRAM (static random access memory) are applicable. Although the details will be described later, it is preferable to use an SRAM when signals are output from the memory 300 in an order different from the order of addresses in the memory 300 . It is also possible to use a memory other than the RAM as long as the memory has a sufficiently high access speed and does not cause any problem in operation. Transfer circuit 301 transfers the digital signal stored in memory 300 to DSP 108 .

フロントエンド107は、さらに制御回路302を含む。制御回路302はメモリ300と転送回路301を制御し、デジタル信号が転送される順序を制御することができる。 Front end 107 further includes control circuitry 302 . The control circuit 302 can control the memory 300 and the transfer circuit 301 and control the order in which the digital signals are transferred.

DSP108は、受信回路303及び演算処理回路(以下演算回路という。)305を含む。受信回路303は、フロントエンド107から転送されてきたデジタル信号を演算回路305に送る。演算回路305は画素情報に基づいた種々の演算を行うことができる。以下では、演算の一例として、A信号とB信号の相関演算を行って、レンズ102及びレンズ103を駆動するためのデフォーカス量を得る場合について説明する。なお、本実施形態では全ての画素が瞳分割されている場合を説明するが、一部の画素のみが瞳分割されており(つまり、画素アレイは瞳分割されていない画素を有する)、瞳分割された画素で位相差検出を行ってもよい。 The DSP 108 includes a receiving circuit 303 and an arithmetic processing circuit (hereinafter referred to as arithmetic circuit) 305 . The receiving circuit 303 sends the digital signal transferred from the front end 107 to the arithmetic circuit 305 . The arithmetic circuit 305 can perform various arithmetic operations based on pixel information. In the following, as an example of calculation, a case of obtaining a defocus amount for driving the lens 102 and the lens 103 by performing a correlation calculation of the A signal and the B signal will be described. In this embodiment, a case where all pixels are pupil-divided will be described, but only some pixels are pupil-divided (that is, the pixel array has pixels that are not pupil-divided), and the pupil-divided Phase-difference detection may be performed on the selected pixels.

他にも演算回路305では、表示部111に表示する画像を作成する演算、A像とB像から画像の深度情報を得るデプスマップを作成する演算、被写体の動きを検出する追尾演算、露出をコントロールするためのAE演算ができる。また、画像のホワイトバランスを決定するためのWB演算、画像のフリッカを検出するための演算、ストロボの発光量を決定するための調光演算、なども考えられる。なお、演算回路305で行うことができる演算はここに挙げた構成、演算に限定されない。 In addition, the arithmetic circuit 305 performs calculation for creating an image to be displayed on the display unit 111, calculation for creating a depth map for obtaining image depth information from the A and B images, tracking calculation for detecting the movement of the subject, and exposure control. AE calculation for control can be performed. Further, WB calculation for determining the white balance of an image, calculation for detecting flicker in an image, light control calculation for determining the amount of flash light emission, and the like are conceivable. Note that the calculations that can be performed by the arithmetic circuit 305 are not limited to the configuration and calculations given here.

DSP108の演算回路305で行われる演算は、必ずしも画素アレイ200の全画素の情報を必要とするものではない。 The calculations performed by the arithmetic circuit 305 of the DSP 108 do not necessarily require information on all pixels in the pixel array 200 .

図4(a)は、画素アレイ200の各画素の配置例及び各画素から出力される信号を模式的に示した例である。図4(a)に示すように、画素アレイ200は、遮光された第1画素を含む遮光画素群と、受光画素であって且つ画像用の信号を出力する第2画素を含む第2画素群と、受光画素であって且つ焦点検出用の信号を出力する第3画素を含む第3画素群と、を含む。図4(a)では、さらに、画素アレイ200は、受光画素であって且つ画像用の信号を出力する第4画素を含む第4画素群を含む。第2画素と第4画素とは同様の構成であり、画素アレイ200内で配置されている位置が異なるのみである。例えば、画素アレイ200がn(nは1以上の整数)行の画素行を含む場合に、画素アレイ200は1行目の画素行に配された各画素からn行の画素行に配された各画素まで順に信号を出力する。具体的には、図4(a)に示す例では、画素アレイ200は遮光画素(第1画素)群、第2画素群、第3画素群、第4画素群の順に信号を出力する。つまり、画素アレイ200は、遮光画素に含まれる複数の光電変換部で生成される電荷に基づいて得られるA+B信号、遮光画素と第3画素の間に配される第2画素のA+B信号、第3画素のA信号とA+B信号、第4画素のA+B信号の順で出力する。以下では、遮光画素に含まれる複数の光電変換部で生成される電荷に基づいて得られるA+B信号を第1信号という場合がある。また、遮光画素と第3画素との間に配される第2画素のA+B信号を第2信号という場合がある。さらに、第2画素と第4画素との間に配された第3画素のA信号とA+B信号を第3信号といい、第4画素のA+B信号を第4信号という場合がある。 FIG. 4A is an example schematically showing an arrangement example of each pixel of the pixel array 200 and a signal output from each pixel. As shown in FIG. 4A, the pixel array 200 includes a light-shielded pixel group including light-shielded first pixels and a second pixel group including second pixels that are light-receiving pixels and output signals for an image. and a third pixel group including third pixels that are light-receiving pixels and output signals for focus detection. In FIG. 4A, the pixel array 200 further includes a fourth pixel group including fourth pixels that are light-receiving pixels and output signals for an image. The second pixel and the fourth pixel have the same configuration, and the only difference is the position in the pixel array 200 . For example, when the pixel array 200 includes n (n is an integer equal to or greater than 1) pixel rows, the pixel array 200 is arranged in n pixel rows from each pixel arranged in the first pixel row. Signals are sequentially output up to each pixel. Specifically, in the example shown in FIG. 4A, the pixel array 200 outputs signals in order of the light-shielded pixel (first pixel) group, the second pixel group, the third pixel group, and the fourth pixel group. That is, the pixel array 200 includes the A+B signal obtained based on the charges generated by the plurality of photoelectric conversion units included in the light-shielded pixel, the A+B signal of the second pixel arranged between the light-shielded pixel and the third pixel, and the A+B signal of the second pixel arranged between the light-shielded pixel and the third pixel. The A signal and A+B signal of three pixels and the A+B signal of the fourth pixel are output in this order. Hereinafter, an A+B signal obtained based on charges generated by a plurality of photoelectric conversion units included in a light-shielded pixel may be referred to as a first signal. Further, the A+B signal of the second pixel arranged between the light-shielded pixel and the third pixel may be called the second signal. Furthermore, the A signal and the A+B signal of the third pixel arranged between the second pixel and the fourth pixel may be called the third signal, and the A+B signal of the fourth pixel may be called the fourth signal.

遮光画素群及び第2画素群からはA+B信号を読み出し、第3画素群からはA+B信号に加えてA信号を読み出している。図4(a)に示すように、画素アレイ200は、あるフレーム期間において、遮光画素群及び第2画素群からA信号を読み出さない。具体的には、あるフレーム期間において、画素アレイ200が、遮光画素群及び第2画素群に配された各画素から垂直出力線にA信号を出力しない構成としている。本実施形態において、1つのフレーム期間とは、1枚の画像を生成するために光電変換装置が信号の生成を開始してから(光電変換部の電荷蓄積期間の開始)、画素からの信号の読み出しを終えるまでの期間(垂直走査回路が画素アレイの走査を終了するまでの期間)と言える。また、1フレーム期間は、垂直走査回路209が、複数の画素の行ごとの走査(垂直走査)を開始してから、最終行に到達して垂直走査を終了するまでの期間である場合であってもよい。また、1つのフレーム期間は、例えば画素アレイを複数のフィールドに分けて読み出す場合には、1度その行が垂直走査回路209によって選択されてから、次にその行が再び垂直走査回路209によって選択されるまでの期間であってもよい。 The A+B signals are read out from the light-shielded pixel group and the second pixel group, and the A signal in addition to the A+B signals is read out from the third pixel group. As shown in FIG. 4A, the pixel array 200 does not read A signals from the light-shielded pixel group and the second pixel group in a certain frame period. Specifically, in a certain frame period, the pixel array 200 is configured not to output the A signal from each pixel arranged in the light-shielded pixel group and the second pixel group to the vertical output line. In the present embodiment, one frame period refers to the period from when the photoelectric conversion device starts generating signals to generate one image (the start of the charge accumulation period of the photoelectric conversion unit) to when signals from pixels are generated. It can be said that it is a period until reading is finished (a period until the vertical scanning circuit finishes scanning the pixel array). One frame period is a period from when the vertical scanning circuit 209 starts scanning each row of a plurality of pixels (vertical scanning) until it reaches the last row and finishes vertical scanning. may In one frame period, for example, when the pixel array is divided into a plurality of fields and read out, the row is selected once by the vertical scanning circuit 209, and then the row is selected again by the vertical scanning circuit 209. It may be a period until it is completed.

上述の通り、本実施形態では、あるフレーム期間において、遮光画素群及び第2画素群に配された各画素から垂直出力線にA信号を出力しない構成としている。これに限らず、光電変換素子106から遮光画素群及び第2画素群に含まれる画素からA信号を読み出さなければどのような方法が採用されてもよい。例えば、各画素からは出力させるが、遮光画素群及び第2画素群に含まれる画素からの信号はAD変換を行わない方法が挙げられる。この他にも、水平走査回路215にA信号を入力するが、水平走査回路215から出力しない方法や、出力部217にA信号を入力するが、出力部217から出力しない方法が挙げられる。なお、遮光画素群及び第2画素群に配された画素から常にA信号を出力しないことも可能であるが、別のフレーム期間において少なくとも第2画素群に配された各画素からA信号を出力してもよい。 As described above, in this embodiment, the A signal is not output to the vertical output line from each pixel arranged in the light-shielded pixel group and the second pixel group in a certain frame period. Any method may be adopted as long as the A signal is not read from the pixels included in the light-shielded pixel group and the second pixel group from the photoelectric conversion element 106 . For example, there is a method in which signals from pixels included in the light-shielded pixel group and the second pixel group are not AD-converted, although signals are output from each pixel. In addition, a method of inputting the A signal to the horizontal scanning circuit 215 but not outputting it from the horizontal scanning circuit 215 and a method of inputting the A signal to the output section 217 but not outputting it from the output section 217 are available. Although it is possible not to always output the A signal from the pixels arranged in the light-shielded pixel group and the second pixel group, at least each pixel arranged in the second pixel group outputs the A signal in another frame period. You may

図4(b)は、メモリ300に格納されるデジタル信号の順序を示した例である。図4(b)に示すように、メモリ300のアドレスの先頭から、出力部217から出力された順に格納される。つまり、第1信号、第2信号、第3信号、第4信号の順でメモリ300に入力している。本実施形態では、第1信号、第3信号、第2信号、第4信号の順でメモリ300から信号を出力し、この順にDSP108に入力している。上述の通り、一般的にRAM109としてはDRAMが用いられる。DRAMは、データの書き込み順序および読み出し順序の変更の自由度がSRAMに比べて小さい。よって、DRAMの書き込み順序および読み出し順序を、DRAMの設計に沿った特定の順序にすることによって、DRAMへのデータの書き込みと読み出しを高速化することができる。例えば、DRAMのアドレス先頭から順に連続的に読み出す場合に特に高速に駆動させることが可能となる。以下の各実施形態によれば、RAM109のアドレスの先頭から順に信号を出力できるように演算回路305に信号を入力する前に信号の順序を入れ替えている。DRAMはアドレスの先頭から順に信号を出力する場合にDRAMの駆動速度を向上させることができるため、DSP108での信号処理速度の低下を低減することができ、フレームレートの低下を低減することができる。 FIG. 4B is an example showing the order of digital signals stored in the memory 300. As shown in FIG. As shown in FIG. 4B, the data are stored in the order output from the output unit 217, starting from the beginning of the address of the memory 300. FIG. That is, the first signal, the second signal, the third signal, and the fourth signal are input to the memory 300 in this order. In this embodiment, signals are output from the memory 300 in the order of the first signal, the third signal, the second signal, and the fourth signal, and are input to the DSP 108 in this order. As described above, a DRAM is generally used as the RAM 109 . Compared to SRAM, DRAM has a lower degree of freedom in changing the order of writing and reading data. Therefore, by setting the writing order and reading order of the DRAM to a specific order in line with the design of the DRAM, it is possible to speed up the writing and reading of data to and from the DRAM. For example, it is possible to drive the DRAM at a particularly high speed when reading continuously from the beginning of the address of the DRAM. According to each of the following embodiments, the order of the signals is changed before the signals are input to the arithmetic circuit 305 so that the signals can be output in order from the beginning of the address of the RAM 109 . Since the DRAM can improve the driving speed of the DRAM when the signal is output in order from the head of the address, it is possible to reduce the decrease in the signal processing speed in the DSP 108 and reduce the decrease in the frame rate. .

続いて、図5に示すタイミングチャートを参照しながら、画像の撮影を行った後、演算回路305で相関演算を行い、その情報に基づいてレンズを駆動させ、次のフレームの画像を撮影する場合の処理について説明する。 Subsequently, when an image is captured while referring to the timing chart shown in FIG. 5, correlation calculation is performed by the arithmetic circuit 305, the lens is driven based on the information, and the image of the next frame is captured. processing will be described.

まず、時刻t500で電荷の蓄積を開始し、時刻t501で画素アレイ200から信号の読み出しを開始する。時刻t500から時刻t501までの期間である読み出し前処理期間には、光電変換部203a、203bで電荷が蓄積される期間、AD変換期間、水平走査回路215に信号を出力する期間、及び出力部217に信号を転送する期間が含まれる。つまり、光電変換部203a、203bのリセット解除から出力部217から信号を読み出す前までが、読み出し前処理期間に相当する。そして、光電変換素子106から信号を出力した後メモリ300への信号の格納が完了するまでの期間が読み出しの期間に相当する。 First, charge accumulation starts at time t500, and signal reading from the pixel array 200 starts at time t501. In the readout preprocessing period from time t500 to time t501, the photoelectric conversion units 203a and 203b accumulate charges, the AD conversion period, the signal output period to the horizontal scanning circuit 215, and the output unit 217. includes the period for transferring the signal to In other words, the period from reset cancellation of the photoelectric conversion units 203a and 203b to before the signal is read out from the output unit 217 corresponds to the readout preprocessing period. A period from outputting the signal from the photoelectric conversion element 106 to completing storage of the signal in the memory 300 corresponds to a reading period.

信号の読み出しにおいて、各画素から得られる信号は、画素201が第2画素群402に属するか第3画素群403に属するかは関係なく、空間的配列順に画素アレイ200から出力される。画素から出力される信号の取得例として、例えば画素アレイ200の一番上から順に取得していく。これにより、画素アレイ200内で時間的な順序の入れ替わりが発生せず、スリットローリング歪みは直線性が確保されるため、画像の違和感を低減することができる。信号の読み出しと同時に読み出された画素情報(ヘッダ情報)をメモリ300に格納し始める。 In signal readout, the signals obtained from each pixel are output from the pixel array 200 in spatial arrangement order regardless of whether the pixel 201 belongs to the second pixel group 402 or the third pixel group 403 . As an example of acquisition of signals output from pixels, for example, signals are acquired in order from the top of the pixel array 200 . As a result, the temporal order is not changed in the pixel array 200, and the linearity of the slit rolling distortion is ensured, so that the discomfort of the image can be reduced. At the same time as the signal is read out, the pixel information (header information) read out is started to be stored in the memory 300 .

時刻t502では信号の読み出しとメモリ300への格納が完了するとともに、遮光画素群に含まれる各遮光画素から出力された第1信号がメモリ300から出力され、フロントエンド107の転送回路からDSP108へと転送され始める。遮光画素に含まれる複数の光電変換部で生成される電荷に基づいて得られる第1信号はDSP108内の画像処理で使用される。具体的には、第1信号は、上述のとおり、受光画素の信号のS/N比を向上させるために用いられ、具体的には、熱ノイズ等のノイズデータの減算を行うための基準値として用いられる。A信号とB信号とを比較して焦点検出を行う第3信号に比べると、第1信号はA信号とB信号とを高精度にするという要求が低い場合がある。したがって、本実施形態では、第1信号としてA+B信号を出力し、A+B信号を1画素あたりの光電変換部の数で割った値とすることによりA信号の基準値を求めている。このような場合は第1画素のA信号の生成に期間を要する。本実施形態によれば、第2信号及び第3信号を出力する前に第1信号を出力しているため、A信号の演算処理のための期間を確保することができる。A信号の基準値は、A+B信号に対し、所定の値をオフセットとして付与することにより得ることもできる。典型的にはA+B信号から所定の値を減算する処理を行うことによりA信号の基準値を求めることができる。 At time t<b>502 , signal readout and storage in the memory 300 are completed, and the first signal output from each light-shielded pixel included in the light-shielded pixel group is output from the memory 300 and transferred from the transfer circuit of the front end 107 to the DSP 108 . begin to be transferred. A first signal obtained based on charges generated by a plurality of photoelectric conversion units included in a light-shielded pixel is used in image processing within the DSP 108 . Specifically, the first signal is used to improve the S/N ratio of the signal of the light-receiving pixel, as described above. used as Compared to the third signal for focus detection by comparing the A signal and the B signal, the first signal may require less accuracy for the A signal and the B signal. Therefore, in this embodiment, the A+B signal is output as the first signal, and the reference value of the A signal is obtained by dividing the A+B signal by the number of photoelectric conversion units per pixel. In such a case, it takes a long time to generate the A signal for the first pixel. According to this embodiment, since the first signal is output before the second signal and the third signal are output, it is possible to secure a period for arithmetic processing of the A signal. The reference value of the A signal can also be obtained by adding a predetermined value as an offset to the A+B signal. Typically, the reference value of the A signal can be obtained by subtracting a predetermined value from the A+B signal.

時刻t503では、遮光画素群404に含まれるすべての遮光画素の信号の転送が完了するとともに、第3画素群402に含まれる画素から得られたA信号及びA+B信号がメモリ300から出力される。なお、第2画素群403に含まれる画素から得られる信号は、第3画素群402に含まれる画素から得られる信号より先にメモリ300に格納されているが、この時点ではメモリ300に格納したまま出力しない。つまり、画素アレイ200から読み出した第2信号よりも先に第3信号を出力する。 At time t<b>503 , transfer of the signals of all the light-shielded pixels included in the light-shielded pixel group 404 is completed, and the A signal and the A+B signal obtained from the pixels included in the third pixel group 402 are output from the memory 300 . Although the signals obtained from the pixels included in the second pixel group 403 are stored in the memory 300 before the signals obtained from the pixels included in the third pixel group 402, the signals obtained from the pixels included in the third pixel group 402 are stored in the memory 300 at this time. do not output. That is, the third signal is output prior to the second signal read out from the pixel array 200 .

時刻t504では、第3画素群402に含まれる全ての第3画素のA信号と、A+B信号との転送が完了するとともに、DSP108内の演算処理回路でA信号とB信号の相関演算が開始され始める。また、メモリ300から第2画素群403のA+B信号、第3画素群のA+B信号、及び第4画素群の第A+B信号の転送が開始される。第3画素群のA+B信号は時刻t503から時刻t504までの間にDSP108に出力されているが、第2信号のA+B信号の出力後に再度第3画素群のA+B信号を出力することにより、RAM109からの出力順の通りにRAM109に信号を入力することが可能となる。 At time t504, transfer of the A signal and the A+B signal of all the third pixels included in the third pixel group 402 is completed, and the arithmetic processing circuit in the DSP 108 starts the correlation calculation of the A signal and the B signal. start. In addition, transfer of the A+B signal of the second pixel group 403, the A+B signal of the third pixel group, and the A+B signal of the fourth pixel group from the memory 300 is started. The A+B signal of the third pixel group is output to the DSP 108 from time t503 to time t504. signals can be input to the RAM 109 in the order of output.

時刻t505では相関演算が完了し、その結果に基づいてレンズ100の駆動が開始される。 At time t505, the correlation calculation is completed, and driving of the lens 100 is started based on the result.

時刻t506ではレンズ100の駆動が完了し、次の蓄積を開始できる状態になる。同時に、次のフレームにおける光電変換部での電荷の蓄積を開始する。 At time t506, driving of the lens 100 is completed, and the next accumulation can be started. At the same time, charge accumulation in the photoelectric conversion unit is started in the next frame.

時刻t507では時刻t504で転送が開始された第2信号、第3画素群のA+B信号、第4信号の転送が完了する。この第2信号、第3画素群のA+B信号、及び第4信号の転送の完了を以て、1枚の画像の撮影が終了する。 At time t507, the transfer of the second signal, the A+B signal of the third pixel group, and the fourth signal whose transfer was started at time t504 is completed. Upon completion of the transfer of the second signal, the A+B signal of the third pixel group, and the fourth signal, the photographing of one image is completed.

なお、本タイミングチャートでは、第3画素群402から出力された信号のメモリ300からDSP108への転送が完了してから相関演算を開始するように説明した。しかしながら、第3画素群402の画素情報の一部だけで相関演算が開始できるのであれば、第3画素群402の信号のメモリから光電変換素子の外部への転送をすべて待ってから演算を開始する必要はない。 In this timing chart, it has been explained that the correlation calculation is started after the transfer of the signal output from the third pixel group 402 from the memory 300 to the DSP 108 is completed. However, if the correlation calculation can be started with only a part of the pixel information of the third pixel group 402, the calculation is started after all the signals of the third pixel group 402 are transferred from the memory to the outside of the photoelectric conversion element. do not have to.

次に、図6(a)~(d)を参照しながら、光電変換素子106、フロントエンド107、及びDSP108が配されるチップの構成に関する複数の具体例について説明する。 Next, with reference to FIGS. 6(a) to 6(d), a plurality of specific examples regarding the configuration of the chip on which the photoelectric conversion element 106, the front end 107, and the DSP 108 are arranged will be described.

図6(a)に示す例では、チップ600は光電変換素子106を含む半導体基板を備え、チップ601はフロントエンド107を含み、該半導体基板とは異なる半導体基板を備える。そして、チップ600及びチップ601が、導通可能な領域を含む実装基板603に搭載されている。また、チップ602が、DSP108を含み、導通可能な領域を含む実装基板604に搭載されている。そして、光電変換素子106、フロントエンド107、及びDSP108が電気的に接続されている。 In the example shown in FIG. 6A, a chip 600 includes a semiconductor substrate including photoelectric conversion elements 106, and a chip 601 includes a front end 107 and includes a semiconductor substrate different from the semiconductor substrate. A chip 600 and a chip 601 are mounted on a mounting substrate 603 including conductive regions. Also, a chip 602 includes the DSP 108 and is mounted on a mounting substrate 604 that includes conductive areas. The photoelectric conversion element 106, the front end 107, and the DSP 108 are electrically connected.

図6(b)に示す例では、チップ600とチップ601とが積層されることにより、チップ605をなしており、実装基板603にチップ605が搭載されている点で図6(a)に示す例と異なる。 In the example shown in FIG. 6(b), a chip 605 is formed by stacking a chip 600 and a chip 601, and the chip 605 is mounted on a mounting substrate 603 as shown in FIG. 6(a). Different from the example.

図6(c)に示す例では、チップ606は光電変換素子106とフロントエンド107が1つの半導体基板に配されることにより、第5のチップ606をなしている。第5のチップ606は実装基板603に搭載され、実装基板604に搭載されている、少なくともDSP108が含まれる第1のチップ602に接続されている。 In the example shown in FIG. 6C, the chip 606 forms a fifth chip 606 by disposing the photoelectric conversion element 106 and the front end 107 on one semiconductor substrate. A fifth chip 606 is mounted on the mounting substrate 603 and is connected to the first chip 602 , which includes at least the DSP 108 , mounted on the mounting substrate 604 .

図6(d)に示す例では、チップ602、チップ601、チップ600が順に積層されている点で図6(a)に示す例と異なる。なお、チップ601とチップ602の配置は入れ替えてもよい。 The example shown in FIG. 6(d) differs from the example shown in FIG. 6(a) in that a chip 602, a chip 601, and a chip 600 are stacked in order. Note that the arrangement of the chips 601 and 602 may be interchanged.

以上説明したように、本実施形態によれば、画素からの情報の取得は画像の違和感を低減する順番で行いつつも、補正のための基準値を得た状態で画像の撮影に必要な演算に使用する画素情報から画素を転送することができる。これにより、演算処理回路による補正処理を、第3画素群の信号の演算処理回路への入力のタイミングから開始することができる。また、演算処理回路に入力される信号の順序と演算処理回路から出力される信号の順序とが一致している。演算処理回路に入力される信号の順序と演算処理回路から出力される信号の順序とが異なっていると、RAMから信号を出力させる駆動速度が低下することにより、フレームレートが低下する可能性がある。これに対して、本実施形態によれば演算処理装置での処理速度の低下を低減することができ、フレームレートを向上させることができる。また、本実施形態は、第2画素群のA+B信号が演算処理回路に入力されるよりも前に、第3画素群のA信号とA+B信号を演算処理回路に入力している。これにより、焦点検出に関わる相関演算を開始するタイミングを早めることができるため、焦点検出をより速やかに行うことができる。これにより、焦点検出結果に基づいてレンズを駆動させる合焦動作もまた、速やかに行うことができる。この結果、本実施形態の光電変換装置は、次フレームの電荷蓄積動作を速やかに開始できる効果を有する。 As described above, according to the present embodiment, information is obtained from pixels in the order of reducing the sense of incongruity of the image, and the calculation necessary for capturing the image is performed while the reference value for correction is obtained. A pixel can be transferred from the pixel information used for Thereby, the correction processing by the arithmetic processing circuit can be started at the timing when the signal of the third pixel group is input to the arithmetic processing circuit. Also, the order of signals input to the arithmetic processing circuit and the order of signals output from the arithmetic processing circuit are the same. If the order of the signals input to the arithmetic processing circuit and the order of the signals output from the arithmetic processing circuit are different, the drive speed for outputting the signals from the RAM may decrease, and the frame rate may decrease. be. On the other hand, according to this embodiment, it is possible to reduce the decrease in the processing speed of the arithmetic processing unit and improve the frame rate. Further, in this embodiment, the A signal and the A+B signal of the third pixel group are input to the arithmetic processing circuit before the A+B signal of the second pixel group is input to the arithmetic processing circuit. As a result, it is possible to advance the timing of starting the correlation calculation related to focus detection, so focus detection can be performed more quickly. As a result, the focusing operation of driving the lens based on the focus detection result can also be performed quickly. As a result, the photoelectric conversion device of this embodiment has the effect of being able to quickly start the charge accumulation operation for the next frame.

<変形例>
第1の実施形態は後述の構成に変形可能である。以下の構成に変形した場合でも第1の実施形態と同様の効果を得ることができる。
<Modification>
The first embodiment can be modified to have a configuration described later. Effects similar to those of the first embodiment can be obtained even when the configuration is modified as follows.

図1では、光電変換素子106からAD変換した後のデジタル信号が出力されている。これに限らず、光電変換素子106からアナログ信号が出力されてもよい。この場合は、メモリ300としては、アナログ信号の電圧値を保持するメモリを用いることができる。ただし、メモリに保持されたアナログ信号には、リーク電流等が生じる可能性があり、これにより生成される画像が劣化する可能性がある。本実施形態は、第2信号をメモリに保持した状態で先に第3信号を出力するため、空間的配列順に出力される場合に比較して第2信号をメモリに保持する期間が長くなる。したがって、アナログ信号と比較してリーク電流等による劣化が発生しにくいデジタル信号をメモリ300で保持する構成とすることが好ましい。 In FIG. 1, a digital signal after AD conversion is output from the photoelectric conversion element 106 . Not limited to this, an analog signal may be output from the photoelectric conversion element 106 . In this case, as the memory 300, a memory that holds the voltage value of the analog signal can be used. However, there is a possibility that leak current or the like may occur in the analog signal held in the memory, which may deteriorate the generated image. In this embodiment, since the third signal is output first while the second signal is held in the memory, the second signal is held in the memory for a longer period of time than when the signals are output in order of spatial arrangement. Therefore, it is preferable that the memory 300 hold a digital signal that is less likely to be deteriorated by leakage current or the like than an analog signal.

図4(a)では、遮光画素が含まれる行は、複数の遮光画素のみからなっている。これに限らず、1つの行に、遮光画素と第2画素とが含まれていてもよい。 In FIG. 4A, a row including light-shielded pixels consists of only a plurality of light-shielded pixels. Without being limited to this, one row may include a light-shielding pixel and a second pixel.

遮光画素群と第3画素群との間に1つの行に遮光画素と第2画素を含む画素行が位置している場合は、第3画素群の画素行からの信号がメモリ300から出力された後に、遮光画素と第2画素を含む画素行からの信号が出力されることがある。 When a pixel row including a light-shielded pixel and a second pixel is located in one row between the light-shielded pixel group and the third pixel group, the signal from the pixel row of the third pixel group is output from the memory 300. After that, the signal from the pixel row containing the light-shielded pixel and the second pixel may be output.

なお、画素アレイ200の全体から読み出した信号に基づき1枚の画像を生成してもよいが、そのほかにも画素アレイ200の一部の領域をクロップして読み出して画像を生成してもよい。測距枠401は、例えば操作部112を介して設定された、被写体が存在する領域であり、この枠の中の画素情報を用いて演算回路305で相関演算を行う。ここで、例えば垂直走査回路209を用いて相関演算に使用する画素を選択することができる。選択された画素を第3画素群402、選択されなかった画素を第2画素群403とすると、第3画素群402は演算回路305の演算に使われ、第2画素群403は演算回路305で使用されない。 One image may be generated based on signals read out from the entire pixel array 200, or an image may be generated by cropping and reading out a partial region of the pixel array 200. FIG. A range-finding frame 401 is an area in which an object exists, which is set via the operation unit 112, for example. Here, for example, the vertical scanning circuit 209 can be used to select pixels to be used for correlation calculation. Let the selected pixels be a third pixel group 402 and the unselected pixels be a second pixel group 403. Not used.

<第2の実施形態>
図7は第2の実施形態における光電変換素子106、フロントエンド107、DSP108の構成を示す図である。本実施形態に係るフロントエンド107には書込制御回路700とセレクタ701が内蔵されている点、及び、複数のメモリ704、705によりメモリ300が構成されている点で第1の実施形態とは異なる。その他の構成については第1の実施形態と実質的に同様である。
<Second embodiment>
FIG. 7 is a diagram showing configurations of the photoelectric conversion element 106, the front end 107, and the DSP 108 in the second embodiment. The front end 107 according to the present embodiment differs from the first embodiment in that it includes a write control circuit 700 and a selector 701 and that a memory 300 is composed of a plurality of memories 704 and 705 . different. Other configurations are substantially the same as those of the first embodiment.

書込制御回路700は光電変換素子106から出力された画素情報をメモリ704に入力するか、メモリ705に入力するか、または両方に入力するか、を制御回路702からの制御信号によって切り替えることができる。セレクタ701は、転送回路301から転送する画素情報を、メモリ704からの画素情報にするかメモリ705からの画素情報にするかを、制御回路702からの制御信号によって切り替えることができる。 The write control circuit 700 can switch between inputting the pixel information output from the photoelectric conversion element 106 to the memory 704, inputting it to the memory 705, or inputting it to both, according to a control signal from the control circuit 702. can. The selector 701 can switch pixel information to be transferred from the transfer circuit 301 to pixel information from the memory 704 or pixel information from the memory 705 according to a control signal from the control circuit 702 .

図8は、第2の実施形態におけるメモリ704およびメモリ705に格納される画像情報と、その順序を示した例である。メモリ704には遮光画素群から出力されるA+B信号と、第3画素群のA信号とA+B信号の画像情報が格納される。また、メモリ705には第3画素群と、第2画素群のA+B信号の画像情報が格納される。本実施形態では、メモリ704、705のアドレスの先頭から順に信号を出力ができるようにメモリ704、705に入力される前に信号の順序が入れ替わっている。本実施形態では、アドレスの順に連続的に信号を出力することができるため、メモリ704、705としてはDRAMを用いることが好ましい。 FIG. 8 shows an example of image information stored in the memory 704 and the memory 705 and their order in the second embodiment. A memory 704 stores the image information of the A+B signal output from the light-shielded pixel group and the A signal and the A+B signal of the third pixel group. Further, the memory 705 stores the image information of the A+B signals of the third pixel group and the second pixel group. In this embodiment, the order of the signals is changed before being input to the memories 704 and 705 so that the signals can be output in order from the beginning of the addresses of the memories 704 and 705 . In this embodiment, it is preferable to use DRAMs as the memories 704 and 705 because signals can be output continuously in the order of addresses.

図9のタイミングチャートを参照しながら、第2の実施形態に係る光電変換装置の動作を説明する。図9のタイミングチャートは、遮光画素のA+B信号をメモリ704に格納し、第3画素のA+B信号をメモリ704、705の両方に格納し且つ第3画素のA信号をメモリ704に格納し、第2画素のA+B信号をメモリ705に格納する。 The operation of the photoelectric conversion device according to the second embodiment will be described with reference to the timing chart of FIG. The timing chart of FIG. 9 stores the A+B signal of the light-shielded pixel in the memory 704, stores the A+B signal of the third pixel in both memories 704 and 705, stores the A signal of the third pixel in the memory 704, and stores the A+B signal of the third pixel in the memory 704. A+B signals of two pixels are stored in memory 705 .

時刻t900で蓄積を開始し、時刻t901で信号の読み出しを開始する。信号は、第1の実施形態と同様に、画素が遮光画素群404に属するか、第3画素群402に属するか、第2画素群403に属するかは関係のない順序で画素アレイ200から読み出される。つまり、画面の一番上から順に画素アレイ200から信号が読み出される。信号の読み出しと同時に、読み出された信号をメモリ704およびメモリ705に格納し始める。 Accumulation starts at time t900, and signal reading starts at time t901. Signals are read out from the pixel array 200 in an order regardless of whether the pixels belong to the shaded pixel group 404, the third pixel group 402, or the second pixel group 403, as in the first embodiment. be That is, signals are read out from the pixel array 200 in order from the top of the screen. Simultaneously with reading the signal, the memory 704 and memory 705 begin to store the read signal.

時刻t902では、メモリ704に格納された遮光画素群404のA+B信号が読み出され始める。このとき制御回路702は、信号をメモリ704からDSP108に転送できるようにセレクタ701を制御し、DSP108に対して遮光画素群404の信号の転送を始める。 At time t902, the A+B signals of the shaded pixel group 404 stored in the memory 704 begin to be read out. At this time, the control circuit 702 controls the selector 701 so that the signal can be transferred from the memory 704 to the DSP 108 , and starts transferring the signal of the shaded pixel group 404 to the DSP 108 .

時刻t903では、メモリ704に格納された第3画素群402のA信号及びA+B信号をDSP108に転送し始める。 At time t903, the A signal and the A+B signal of the third pixel group 402 stored in the memory 704 start to be transferred to the DSP .

時刻t904に第3画素群402の転送が完了するとともに、相関演算を開始することができる。また同時に、メモリ705に格納された第2画素群のA+B信号、第3画素群402のA+B信号、第2画素群のA+B信号の転送を始める。このとき制御回路702は、メモリ705からDSP108に信号を転送できるようにセレクタ701を制御する。 At time t904, the transfer of the third pixel group 402 is completed, and the correlation calculation can be started. At the same time, transfer of the A+B signal of the second pixel group, the A+B signal of the third pixel group 402, and the A+B signal of the second pixel group stored in the memory 705 is started. At this time, the control circuit 702 controls the selector 701 so that the signal can be transferred from the memory 705 to the DSP 108 .

時刻t905では相関演算が完了し、その結果に基づいてレンズの駆動が開始される。 At time t905, the correlation calculation is completed, and the driving of the lens is started based on the result.

時刻t906ではレンズの駆動が完了し、次の蓄積を開始できる状態になる。同時に、次フレームの蓄積を開始する。時刻t907では時刻t904で転送が開始された第3画素群402のA+B信号および第2画素群403のA+B信号の転送が完了する。 At time t906, driving of the lens is completed, and the next accumulation can be started. At the same time, accumulation of the next frame is started. At time t907, the transfer of the A+B signal of the third pixel group 402 and the A+B signal of the second pixel group 403, whose transfer was started at time t904, is completed.

以上に説明したように、図9に示す動作を行うことによって、メモリ704、705に格納された信号を格納順に読み出すことが可能になる。その方法として、メモリ704、705に信号が格納される前に、信号の順序を読み出す順序に合わせて事前に並び替えている。前述の通り、この特徴はメモリ704、705として、DRAMなどの格納順の読み出しに特に有効なメモリを用いる場合に適している。なお、メモリ704、705としては、DRAM以外のメモリであってもよく、第1の実施形態で説明したメモリを用いることができることは言うまでもない。 As described above, by performing the operation shown in FIG. 9, the signals stored in the memories 704 and 705 can be read out in the order of storage. As a method, before the signals are stored in the memories 704 and 705, the order of the signals is rearranged in advance according to the order of reading. As described above, this feature is suitable for the memories 704 and 705, such as DRAMs, which are particularly effective for reading in the order of storage. It goes without saying that the memories 704 and 705 may be memories other than DRAM, and the memories described in the first embodiment can be used.

<第3の実施形態>
図10は、第3の実施形態における光電変換素子106、フロントエンド107、DSP108の構成を示す図である。図11は、第3実施形態に係る光電変換装置の各メモリに入力される画像情報と、その順序を示した図であり、図12は、第3実施形態に係る光電変換装置の動作のタイミングチャートを示した図である。
<Third Embodiment>
FIG. 10 is a diagram showing configurations of the photoelectric conversion element 106, the front end 107, and the DSP 108 in the third embodiment. FIG. 11 is a diagram showing image information input to each memory of the photoelectric conversion device according to the third embodiment and the order thereof, and FIG. 12 shows operation timings of the photoelectric conversion device according to the third embodiment. It is the figure which showed the chart.

第3の実施形態に係る光電変換装置は、並べ替え回路304を用いることにより、第3画素群のA+B信号を転送する回数を減らしながら演算回路において演算処理を行う点が第2の実施形態とは異なる。これにより、重複した信号の転送を削減することができる。具体的には、焦点検出用の信号の生成に用いたA+B信号を画像用の信号としても使用することにより、第3画素のA+B信号を再度読み出す必要がなくなる。 The photoelectric conversion device according to the third embodiment differs from the second embodiment in that the rearrangement circuit 304 is used to perform arithmetic processing in the arithmetic circuit while reducing the number of transfers of the A+B signals of the third pixel group. is different. This can reduce transmission of redundant signals. Specifically, by using the A+B signal used to generate the focus detection signal as the image signal, it is not necessary to read out the A+B signal of the third pixel again.

並び替え回路304は、DSPに入力されたデジタル信号の順序をRAM109に入力する前に、画素アレイ200の空間的配置順に一致するように並べ替える。 The rearrangement circuit 304 rearranges the order of the digital signals input to the DSP so as to match the spatial arrangement order of the pixel array 200 before inputting them to the RAM 109 .

図11に示すように、メモリ704には遮光画素群のA+B信号と、第3画素群のA信号とA+B信号が格納される。また、メモリ705には第2画素群のA+B信号が格納される。 As shown in FIG. 11, the memory 704 stores the A+B signal of the shaded pixel group and the A signal and the A+B signal of the third pixel group. Also, the memory 705 stores the A+B signal of the second pixel group.

図12のタイミングチャートに示すように、時刻t1100で蓄積を開始し、時刻t1101で画素アレイ200から出力された信号をメモリ704およびメモリ705に格納し始める。また、これと同時にメモリ704、705に格納された信号の読み出しを開始する。 As shown in the timing chart of FIG. 12, accumulation starts at time t1100, and the signals output from pixel array 200 start to be stored in memory 704 and memory 705 at time t1101. At the same time, reading of the signals stored in the memories 704 and 705 is started.

時刻t1102では、メモリ704、705に格納された遮光画素群404のA+B信号が読み出され始める。このとき制御回路302は、画素情報をメモリ704からDSP108に転送できるようにセレクタ701を制御し、DSP108に対して遮光画素群404の信号の転送を始める。 At time t1102, the A+B signals of the shaded pixel group 404 stored in the memories 704 and 705 begin to be read. At this time, the control circuit 302 controls the selector 701 so that pixel information can be transferred from the memory 704 to the DSP 108 , and starts transferring the signals of the light-shielded pixel group 404 to the DSP 108 .

時刻t1103では、メモリ704に格納された第3画素群402のA信号及びA+B信号をDSP108に転送を始める。 At time t1103, transfer of the A signal and the A+B signal of the third pixel group 402 stored in the memory 704 to the DSP 108 is started.

時刻t1104に第3画素群402のA信号及びA+B信号の転送が完了すると、この時点から相関演算を開始することができる。また同時に、メモリ705に格納された第2画素群のA+B信号の転送を始める。このとき制御回路702は、画素情報をメモリ705からDSP108に転送できるようにセレクタ701を制御する。 When the transfer of the A signal and the A+B signal of the third pixel group 402 is completed at time t1104, correlation calculation can be started from this point. At the same time, transfer of the A+B signals of the second pixel group stored in the memory 705 is started. At this time, the control circuit 702 controls the selector 701 so that the pixel information can be transferred from the memory 705 to the DSP 108 .

時刻t1105では相関演算が完了し、その結果に基づいてレンズの駆動が開始される。時刻t1106ではレンズの駆動が完了し、次の蓄積を開始できる状態になる。同時に、次フレームの蓄積を開始する。 At time t1105, the correlation calculation is completed, and the driving of the lens is started based on the result. At time t1106, the driving of the lens is completed, and the next accumulation can be started. At the same time, accumulation of the next frame is started.

時刻t1107では時刻t1104で転送が開始された第2画素群403のA+B信号の転送が完了する。また同時に、並び替え回路304でDSPに入力されたデジタル信号を転送順から画素アレイ200の空間的配置順に並べ替える。具体的には、第3画素群のA+B信号を、画素の配置に合わせて複数の第2画素群の間に入れ替えてRAM109に格納している。 At time t1107, transfer of the A+B signal of the second pixel group 403, which started at time t1104, is completed. At the same time, the rearrangement circuit 304 rearranges the digital signals input to the DSP from the transfer order to the spatial arrangement order of the pixel array 200 . Specifically, the A+B signals of the third pixel group are exchanged among the plurality of second pixel groups according to the arrangement of the pixels and stored in the RAM 109 .

以上の図12に説明した動作を行うことによって、格納順のメモリ読み出しに加え重複する信号を複数回転送する必要がなくなる。これにより、冗長な転送を防ぐことが可能になる。 By performing the operation described above with reference to FIG. 12, it is not necessary to transfer overlapping signals a plurality of times in addition to memory reading in the storage order. This makes it possible to prevent redundant transfers.

<第4の実施形態>
図13を参照しながら、本実施形態に係る移動体について説明する。
<Fourth Embodiment>
A moving body according to the present embodiment will be described with reference to FIG. 13 .

図13(a)は、車戴カメラに関する光電変換装置の一例を示したものである。光電変換装置1は、光電変換素子10、信号処理装置121を有する。光電変換素子10及び信号処理装置121は、上記第1乃至第3の実施形態のいずれかに記載の光電変換素子及び信号処理装置である。光電変換装置1は、光電変換素子10により取得された複数の画像データに対し、画像処理を行う画像処理部312と、光電変換素子10により取得された複数の画像データから視差(視差画像の位相差)の算出を行う視差算出部314を有する。また、光電変換装置1は、算出された視差に基づいて対象物までの距離を算出する距離計測部316と、算出された距離に基づいて衝突可能性があるか否かを判定する衝突判定部318と、を有する。ここで、視差算出部314や距離計測部316は、対象物までの距離情報を取得する距離情報取得手段の一例である。すなわち、距離情報とは、視差、デフォーカス量、対象物までの距離等に関する情報である。衝突判定部318はこれらの距離情報のいずれかを用いて、衝突可能性を判定してもよい。距離情報取得手段は、専用に設計されたハードウェアによって実現されてもよいし、ソフトウェアモジュールによって実現されてもよい。また、FPGA(Field Programmable Gate Array)やASIC(Application Specific Integrated circuit)等によって実現されてもよいし、これらの組合せによって実現されてもよい。 FIG. 13(a) shows an example of a photoelectric conversion device for an in-vehicle camera. The photoelectric conversion device 1 has a photoelectric conversion element 10 and a signal processing device 121 . The photoelectric conversion element 10 and the signal processing device 121 are the photoelectric conversion device and signal processing device according to any one of the first to third embodiments. The photoelectric conversion device 1 includes an image processing unit 312 that performs image processing on a plurality of image data acquired by the photoelectric conversion elements 10 , and a parallax (parallax image position) from the plurality of image data acquired by the photoelectric conversion elements 10 . phase difference) is provided. The photoelectric conversion device 1 also includes a distance measurement unit 316 that calculates the distance to the object based on the calculated parallax, and a collision determination unit that determines whether there is a possibility of collision based on the calculated distance. 318 and . Here, the parallax calculation unit 314 and the distance measurement unit 316 are examples of distance information acquisition means for acquiring distance information to the target object. That is, the distance information is information related to parallax, defocus amount, distance to the object, and the like. The collision determination unit 318 may use any of these distance information to determine the possibility of collision. The distance information acquisition means may be implemented by specially designed hardware, or may be implemented by a software module. Moreover, it may be implemented by FPGA (Field Programmable Gate Array), ASIC (Application Specific Integrated Circuit), or the like, or by a combination thereof.

光電変換装置1は車両情報取得装置320と接続されており、車速、ヨーレート、舵角などの車両情報を取得することができる。また、光電変換装置1は、衝突判定部318での判定結果に基づいて、車両に対して制動力を発生させる制御信号を出力する制御装置である制御ECU330が接続されている。また、光電変換装置1は、衝突判定部318での判定結果に基づいて、ドライバーへ警報を発する警報装置340とも接続されている。例えば、衝突判定部318の判定結果として衝突可能性が高い場合、制御ECU330はブレーキをかける、アクセルを戻す、エンジン出力を抑制するなどして衝突を回避、被害を軽減する車両制御を行う。警報装置340は音等の警報を鳴らす、カーナビゲーションシステムなどの画面に警報情報を表示する、シートベルトやステアリングに振動を与えるなどしてユーザに警告を行う。 The photoelectric conversion device 1 is connected to a vehicle information acquisition device 320, and can acquire vehicle information such as vehicle speed, yaw rate, and steering angle. Further, the photoelectric conversion device 1 is connected to a control ECU 330 which is a control device that outputs a control signal for generating a braking force to the vehicle based on the determination result of the collision determination section 318 . The photoelectric conversion device 1 is also connected to an alarm device 340 that issues an alarm to the driver based on the determination result of the collision determination section 318 . For example, if the collision determination unit 318 determines that there is a high possibility of a collision, the control ECU 330 performs vehicle control to avoid a collision and reduce damage by applying the brakes, releasing the accelerator, or suppressing the engine output. The alarm device 340 warns the user by sounding an alarm such as sound, displaying alarm information on a screen of a car navigation system, or vibrating a seat belt or steering wheel.

本実施形態では、車両の周囲、例えば前方又は後方を光電変換装置1で撮像する。図13(b)に、車両前方(撮像範囲350)を撮像する場合の光電変換装置を示した。車両情報取得装置320が、所定の動作を行うように光電変換装置1ないしは光電変換素子10に指示を送る。このような構成により、測距の精度をより向上させることができる。 In this embodiment, the photoelectric conversion device 1 captures an image of the surroundings of the vehicle, for example, the front or rear. FIG. 13B shows a photoelectric conversion device for capturing an image in front of the vehicle (imaging range 350). The vehicle information acquisition device 320 sends an instruction to the photoelectric conversion device 1 or photoelectric conversion element 10 to perform a predetermined operation. With such a configuration, the accuracy of distance measurement can be further improved.

上記では、他の車両と衝突しないように制御する例を説明したが、他の車両に追従して自動運転する制御や、車線からはみ出さないように自動運転する制御などにも適用可能である。さらに、光電変換装置は、自車両等の車両に限らず、例えば、船舶、航空機あるいは産業用ロボットなどの移動体(移動装置)に適用することができる。加えて、移動体に限らず、高度道路交通システム(ITS)等、広く物体認識を利用する機器に適用することができる。 In the above, an example of controlling so as not to collide with another vehicle was explained, but it can also be applied to control to automatically drive following another vehicle or control to automatically drive so as not to stray from the lane. . Furthermore, the photoelectric conversion device can be applied not only to vehicles such as own vehicles but also to moving bodies (moving devices) such as ships, aircraft, and industrial robots. In addition, the present invention can be applied not only to mobile objects but also to devices that widely use object recognition, such as intelligent transportation systems (ITS).

[変形実施形態]
本発明は、上記実施形態に限らず種々の変形が可能である。例えば、いずれかの実施形態の一部の構成を他の実施形態に追加した例や、他の実施形態の一部の構成と置換した例も、本発明の実施形態である。
[Modified embodiment]
The present invention is not limited to the above embodiment, and various modifications are possible. For example, an example in which a part of the configuration of one of the embodiments is added to another embodiment, or an example in which a part of the configuration of another embodiment is replaced is also an embodiment of the present invention.

なお、上記実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。 It should be noted that the above-described embodiments are merely examples of specific implementations of the present invention, and the technical scope of the present invention should not be construed to be limited by these. That is, the present invention can be embodied in various forms without departing from its technical concept or main features.

106 光電変換素子
201 画素
300 メモリ
106 photoelectric conversion element 201 pixel 300 memory

Claims (20)

複数の光電変換部をそれぞれが含む複数の画素が2次元状に配された画素アレイと、
前記画素アレイから出力される信号が入力されるメモリと、
前記メモリから出力される信号が入力されるとともに当該信号を用いた演算処理を行う演算処理回路と、を備え、
前記複数の画素は、前記複数の光電変換部が遮光された第1画素と、前記複数の光電変換部に光が入射する第2画素及び第3画素とを含み、
前記画素アレイは、前記第1画素に含まれる複数の光電変換部で生成される電荷に基づく第1信号、前記第2画素に含まれる複数の光電変換部で生成される電荷に基づく第2信号、並びに前記第3画素に含まれる一方の光電変換部で生成される電荷に基づく信号及び前記第3画素に含まれる他方の光電変換部で生成される電荷に基づく信号の少なくとも一方含む第3信号、をこの順に出力し、
前記第1信号、前記第2信号、及び前記第3信号は前記メモリで保持され、
前記メモリから出力される前記第1信号、前記第2信号、及び前記第3信号が、前記第1信号、前記第3信号、及び前記第2信号の順に前記演算処理回路に入力され
前記第3信号が前記演算処理回路に入力される第1期間および前記第2信号が前記演算処理回路に入力される第2期間を含む期間の少なくとも一部の期間に前記演算処理を行うことを特徴とする光電変換装置。
a pixel array in which a plurality of pixels each including a plurality of photoelectric conversion units are arranged two-dimensionally;
a memory to which a signal output from the pixel array is input;
an arithmetic processing circuit that receives a signal output from the memory and performs arithmetic processing using the signal,
the plurality of pixels includes a first pixel in which the plurality of photoelectric conversion units are shielded from light, and a second pixel and a third pixel in which light enters the plurality of photoelectric conversion units;
The pixel array includes a first signal based on charges generated by a plurality of photoelectric conversion units included in the first pixels and a second signal based on charges generated by a plurality of photoelectric conversion units included in the second pixels. , and a third signal including at least one of a signal based on charges generated by one photoelectric conversion unit included in the third pixel and a signal based on charges generated by the other photoelectric conversion unit included in the third pixel , in this order,
the first signal, the second signal, and the third signal are held in the memory;
the first signal, the second signal, and the third signal output from the memory are input to the arithmetic processing circuit in the order of the first signal, the third signal, and the second signal ;
performing the arithmetic processing during at least part of a period including a first period during which the third signal is input to the arithmetic processing circuit and a second period during which the second signal is input to the arithmetic processing circuit; A photoelectric conversion device characterized by:
遮光された複数の光電変換部を含み、前記複数の光電変換部による黒基準信号を出力する第1画素と、
複数の光電変換部を含み、画像用の信号を生成するための第2画素と、
複数の光電変換部を含み、画像用の信号および焦点検出用の信号を生成するための第3画素と、を備える画素アレイと、
前記画素アレイから出力される信号が入力されるメモリと、
前記メモリから出力される信号が入力されるとともに当該信号を用いた演算処理を行う演算処理回路と、を備え、
前記画素アレイは、前記第1画素が出力する黒基準信号である第1信号、前記第2画素が出力する画像用の信号である第2信号、並びに前記第3画素が出力する画像用の信号と焦点検出用の信号を含む第3信号、をこの順に出力し、
前記第1信号、前記第2信号、及び前記第3信号は前記メモリで保持され、
前記メモリから出力される前記第1信号、前記第2信号、及び前記第3信号が、前記第1信号、前記第3信号、及び前記第2信号の順に前記演算処理回路に入力され
前記第3信号が前記演算処理回路に入力される第1期間および前記第2信号が前記演算処理回路に入力される第2期間を含む期間の少なくとも一部の期間に前記演算処理を行うことを特徴とする光電変換装置。
a first pixel that includes a plurality of shielded photoelectric conversion units and outputs a black reference signal from the plurality of photoelectric conversion units;
a second pixel including a plurality of photoelectric conversion units for generating an image signal;
a pixel array including a plurality of photoelectric conversion units and a third pixel for generating an image signal and a focus detection signal;
a memory to which a signal output from the pixel array is input;
an arithmetic processing circuit that receives a signal output from the memory and performs arithmetic processing using the signal,
The pixel array includes a first signal that is a black reference signal output by the first pixel, a second signal that is an image signal output by the second pixel, and an image signal that is output by the third pixel. and a third signal including a signal for focus detection are output in this order,
the first signal, the second signal, and the third signal are held in the memory;
the first signal, the second signal, and the third signal output from the memory are input to the arithmetic processing circuit in the order of the first signal, the third signal, and the second signal ;
performing the arithmetic processing during at least part of a period including a first period during which the third signal is input to the arithmetic processing circuit and a second period during which the second signal is input to the arithmetic processing circuit; A photoelectric conversion device characterized by:
複数の光電変換部をそれぞれが含む複数の画素が2次元状に配された画素アレイと、
前記画素アレイから出力される信号が入力されるメモリと、
前記メモリから出力される信号が入力されるとともに当該信号を用いた演算処理を行う演算処理回路と、を備え、
前記複数の画素は、前記複数の光電変換部が遮光された第1画素と、前記複数の光電変換部に光が入射する第2画素及び第3画素とを含み、
前記画素アレイは、前記第1画素に含まれる複数の光電変換部で生成される電荷に基づく第1信号、前記第2画素に含まれる複数の光電変換部で生成される電荷に基づく第2信号、並びに前記第3画素に含まれる一方の光電変換部で生成される電荷に基づく信号及び前記第3画素に含まれる他方の光電変換部で生成される電荷に基づく信号の少なくとも一方含む第3信号、をこの順に出力し、
前記第1信号、前記第2信号、及び前記第3信号は前記メモリで保持され、
前記メモリから出力される前記第1信号、前記第2信号、及び前記第3信号が、前記第1信号、前記第3信号、及び前記第2信号の順に前記演算処理回路に入力され、
前記演算処理が、前記第3信号を用いた焦点検出に関わる演算処理であることを特徴とする光電変換装置
a pixel array in which a plurality of pixels each including a plurality of photoelectric conversion units are arranged two-dimensionally;
a memory to which a signal output from the pixel array is input;
an arithmetic processing circuit that receives a signal output from the memory and performs arithmetic processing using the signal,
the plurality of pixels includes a first pixel in which the plurality of photoelectric conversion units are shielded from light, and a second pixel and a third pixel in which light enters the plurality of photoelectric conversion units;
The pixel array includes a first signal based on charges generated by a plurality of photoelectric conversion units included in the first pixels and a second signal based on charges generated by a plurality of photoelectric conversion units included in the second pixels. , and a third signal including at least one of a signal based on charges generated by one photoelectric conversion unit included in the third pixel and a signal based on charges generated by the other photoelectric conversion unit included in the third pixel , in this order,
the first signal, the second signal, and the third signal are held in the memory;
the first signal, the second signal, and the third signal output from the memory are input to the arithmetic processing circuit in the order of the first signal, the third signal, and the second signal;
The photoelectric conversion device, wherein the arithmetic processing is arithmetic processing related to focus detection using the third signal .
遮光された複数の光電変換部を含み、前記複数の光電変換部による黒基準信号を出力する第1画素と、
複数の光電変換部を含み、画像用の信号を生成するための第2画素と、
複数の光電変換部を含み、画像用の信号および焦点検出用の信号を生成するための第3画素と、を備える画素アレイと、
前記画素アレイから出力される信号が入力されるメモリと、
前記メモリから出力される信号が入力されるとともに当該信号を用いた演算処理を行う演算処理回路と、を備え、
前記画素アレイは、前記第1画素が出力する黒基準信号である第1信号、前記第2画素が出力する画像用の信号である第2信号、並びに前記第3画素が出力する画像用の信号と焦点検出用の信号を含む第3信号、をこの順に出力し、
前記第1信号、前記第2信号、及び前記第3信号は前記メモリで保持され、
前記メモリから出力される前記第1信号、前記第2信号、及び前記第3信号が、前記第1信号、前記第3信号、及び前記第2信号の順に前記演算処理回路に入力され、
前記演算処理が、前記第3信号を用いた焦点検出に関わる演算処理であることを特徴とする光電変換装置
a first pixel that includes a plurality of shielded photoelectric conversion units and outputs a black reference signal from the plurality of photoelectric conversion units;
a second pixel including a plurality of photoelectric conversion units for generating an image signal;
a pixel array including a plurality of photoelectric conversion units and a third pixel for generating an image signal and a focus detection signal;
a memory to which a signal output from the pixel array is input;
an arithmetic processing circuit that receives a signal output from the memory and performs arithmetic processing using the signal,
The pixel array includes a first signal that is a black reference signal output by the first pixel, a second signal that is an image signal output by the second pixel, and an image signal that is output by the third pixel. and a third signal including a signal for focus detection are output in this order,
the first signal, the second signal, and the third signal are held in the memory;
the first signal, the second signal, and the third signal output from the memory are input to the arithmetic processing circuit in the order of the first signal, the third signal, and the second signal;
The photoelectric conversion device, wherein the arithmetic processing is arithmetic processing related to focus detection using the third signal .
前記複数の画素のうち、少なくとも前記第2画素及び前記第3画素のそれぞれは、1つのマイクロレンズを備え、
前記第2画素に含まれる前記マイクロレンズは、通過した光が前記第2画素に含まれる前記複数の光電変換部に入射するように配され、
前記第3画素に含まれる前記マイクロレンズは、通過した光が前記第3画素に含まれる前記複数の光電変換部に入射するように配されることを特徴とする請求項1乃至4のいずれか1項に記載の光電変換装置。
each of at least the second pixel and the third pixel among the plurality of pixels includes one microlens;
the microlens included in the second pixel is arranged such that light passing through the microlens is incident on the plurality of photoelectric conversion units included in the second pixel;
5. The microlens included in the third pixel is arranged such that light passing through the microlens is incident on the plurality of photoelectric conversion units included in the third pixel. 2. The photoelectric conversion device according to item 1 .
前記第1画素に含まれる複数の光電変換部に基づく信号は、一方の光電変換部の信号と他方の光電変換部の信号とを加算した信号であることを特徴とする請求項1乃至のいずれか1項に記載の光電変換装置。 6. The signal based on the plurality of photoelectric conversion units included in the first pixel is a signal obtained by adding a signal of one photoelectric conversion unit and a signal of the other photoelectric conversion unit. The photoelectric conversion device according to any one of items 1 and 2. 書込制御回路を更に備え、
前記書込制御回路は、前記画素アレイから出力される信号の順序を前記メモリに入力する前に入れ替えることを特徴とする請求項1乃至のいずれか1項に記載の光電変換装置。
further comprising a write control circuit,
7. The photoelectric conversion device according to claim 1, wherein the write control circuit changes the order of the signals output from the pixel array before inputting them to the memory.
書込制御回路を更に備え、
前記書込制御回路は、前記メモリから出力される信号の順序を前記演算処理回路に入力する前に入れ替えることを特徴とする請求項1乃至のいずれか1項に記載の光電変換装置。
further comprising a write control circuit,
8. The photoelectric conversion device according to claim 1, wherein said write control circuit changes the order of the signals output from said memory before inputting them to said arithmetic processing circuit.
前記メモリは、RAM(ランダムアクセスメモリ)であることを特徴とする請求項1乃至のいずれか1項に記載の光電変換装置。 9. The photoelectric conversion device according to claim 1, wherein said memory is a RAM (random access memory). 前記メモリは、DRAM(ダイナミックランダムアクセスメモリ)であることを特徴とする請求項に記載の光電変換装置。 10. The photoelectric conversion device according to claim 9 , wherein said memory is a DRAM (dynamic random access memory). 前記メモリは第1メモリと、第2メモリと、前記第1メモリおよび前記第2メモリに接続されたセレクタとを有し、前記セレクタが前記第1メモリと前記第2メモリの一方ずつから信号を前記演算処理回路に出力することを特徴とする請求項1乃至10のいずれか1項に記載の光電変換装置。 The memory has a first memory, a second memory, and a selector connected to the first memory and the second memory, wherein the selector receives a signal from each of the first memory and the second memory. 11. The photoelectric conversion device according to claim 1 , outputting to said arithmetic processing circuit . 前記画素アレイから出力される信号を制御する垂直走査回路をさらに備え、
前記垂直走査回路が、前記第1画素が含まれる画素行、前記第2画素が含まれる画素行、前記第3画素が含まれる画素行の順に選択することにより、前記画素アレイは、前記第1信号、前記第2信号、及び前記第3信号をこの順に出力することを特徴とする請求項1乃至11のいずれか1項に記載の光電変換装置。
further comprising a vertical scanning circuit that controls signals output from the pixel array;
The vertical scanning circuit selects, in order, a pixel row including the first pixels, a pixel row including the second pixels, and a pixel row including the third pixels. 12. The photoelectric conversion device according to claim 1, wherein the signal, the second signal, and the third signal are output in this order.
複数の前記第1画素が、行方向及び列方向に配され、
前記列方向に配された前記第1画素から得られる前記第1信号の順序を入れ替え、
前記行方向に配された前記第1画素から得られる前記第1信号の順序は入れ替えないことを特徴とする請求項1乃至1のいずれか1項に記載の光電変換装置。
a plurality of the first pixels arranged in a row direction and a column direction;
changing the order of the first signals obtained from the first pixels arranged in the column direction;
13. The photoelectric conversion device according to claim 1, wherein the order of the first signals obtained from the first pixels arranged in the row direction is not changed.
前記画素アレイは第1チップに配され、
前記メモリは、前記第1チップとは異なるチップである第2チップに配され、
前記第1チップと前記第2チップとは積層されていることを特徴とする請求項1乃至1のいずれか1項に記載の光電変換装置。
The pixel array is arranged on a first chip,
the memory is arranged on a second chip that is a different chip from the first chip;
14. The photoelectric conversion device according to claim 1, wherein the first chip and the second chip are laminated.
前記画素アレイは第1チップに配され、
前記演算処理回路は、前記第1チップとは異なるチップである第2チップに配され、
前記第1チップと前記第2チップとは積層されていることを特徴とする請求項1乃至1のいずれか1項に記載の光電変換装置。
The pixel array is arranged on a first chip,
The arithmetic processing circuit is arranged on a second chip that is different from the first chip,
15. The photoelectric conversion device according to claim 1, wherein the first chip and the second chip are laminated.
移動体であって、
請求項1乃至1のいずれか1項に記載の光電変換装置と、
移動装置と、
前記光電変換部から出力される信号から情報を取得する処理装置と、
前記情報に基づいて前記移動装置を制御する制御装置と、
を有することを特徴とする移動体。
being mobile,
a photoelectric conversion device according to any one of claims 1 to 15 ;
a mobile device;
a processing device that acquires information from the signal output from the photoelectric conversion unit;
a control device that controls the mobile device based on the information;
A moving body characterized by having
複数の画素を有する画素アレイからの信号が入力される信号処理装置であって、
前記信号処理装置は、前記画素アレイから出力される信号が入力されるメモリと、前記メモリから出力される信号が入力されるとともに当該信号を用いた演算処理を行う演算処理回路と、を備え、
前記画素アレイに含まれる前記複数の画素は、複数の光電変換部が遮光された第1画素と、前記複数の光電変換部に光が入射する第2画素及び第3画素とを含み、
前記画素アレイから、前記第1画素に含まれる複数の光電変換部で生成される電荷に基づく第1信号、前記第2画素に含まれる複数の光電変換部で生成される電荷に基づく第2信号、並びに前記第3画素に含まれる一方の光電変換部で生成される電荷に基づく信号及び前記第3画素に含まれる他方の光電変換部で生成される電荷に基づく信号の少なくとも一方を含む第3信号、がこの順に出力され、
前記メモリは、前記第1信号、前記第2信号、及び前記第3信号を保持し、
前記メモリから出力される前記第1信号、前記第2信号、及び前記第3信号が、前記第1信号、前記第3信号、及び前記第2信号の順に前記演算処理回路に入力され
前記第3信号が前記演算処理回路に入力される第1期間および前記第2信号が前記演算処理回路に入力される第2期間を含む期間の少なくとも一部の期間に前記演算処理を行うことを特徴とする信号処理装置。
A signal processing device to which a signal from a pixel array having a plurality of pixels is input,
The signal processing device includes a memory to which the signal output from the pixel array is input, and an arithmetic processing circuit to which the signal output from the memory is input and performs arithmetic processing using the signal,
The plurality of pixels included in the pixel array includes a first pixel in which a plurality of photoelectric conversion units are shielded from light, and a second pixel and a third pixel in which light enters the plurality of photoelectric conversion units,
From the pixel array, a first signal based on charges generated by a plurality of photoelectric conversion units included in the first pixel and a second signal based on charges generated by a plurality of photoelectric conversion units included in the second pixel , and at least one of a signal based on charges generated by one photoelectric conversion unit included in the third pixel and a signal based on charges generated by the other photoelectric conversion unit included in the third pixel. signals are output in this order,
the memory holds the first signal, the second signal, and the third signal;
the first signal, the second signal, and the third signal output from the memory are input to the arithmetic processing circuit in the order of the first signal, the third signal, and the second signal ;
performing the arithmetic processing during at least part of a period including a first period during which the third signal is input to the arithmetic processing circuit and a second period during which the second signal is input to the arithmetic processing circuit; A signal processor characterized by:
前記信号処理装置は、書込制御回路を更に備え、
前記書込制御回路は、前記画素アレイから出力される信号の順序を前記メモリに入力する前に入れ替えることを特徴とする請求項1に記載の信号処理装置。
The signal processing device further comprises a write control circuit,
18. The signal processing device according to claim 17 , wherein the write control circuit changes the order of the signals output from the pixel array before inputting them to the memory.
前記信号処理装置は、書込制御回路を更に備え、
前記書込制御回路は、前記メモリから出力される信号の順序を前記演算処理回路に入力する前に入れ替えることを特徴とする請求項17に記載の信号処理装置。
The signal processing device further comprises a write control circuit,
18. The signal processing apparatus according to claim 17 , wherein said write control circuit changes the order of the signals output from said memory before inputting them to said arithmetic processing circuit.
前記メモリは、RAM(ランダムアクセスメモリ)であることを特徴とする請求項1乃至19のいずれか1項に記載の信号処理装置。 20. The signal processing apparatus according to any one of claims 17 to 19 , wherein said memory is a RAM (random access memory).
JP2018222799A 2018-11-28 2018-11-28 Photoelectric conversion device, moving object, signal processing device Active JP7267719B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018222799A JP7267719B2 (en) 2018-11-28 2018-11-28 Photoelectric conversion device, moving object, signal processing device
US16/687,528 US10965896B2 (en) 2018-11-28 2019-11-18 Photoelectric conversion device, moving body, and signal processing device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018222799A JP7267719B2 (en) 2018-11-28 2018-11-28 Photoelectric conversion device, moving object, signal processing device

Publications (3)

Publication Number Publication Date
JP2020086246A JP2020086246A (en) 2020-06-04
JP2020086246A5 JP2020086246A5 (en) 2022-01-04
JP7267719B2 true JP7267719B2 (en) 2023-05-02

Family

ID=70771011

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018222799A Active JP7267719B2 (en) 2018-11-28 2018-11-28 Photoelectric conversion device, moving object, signal processing device

Country Status (2)

Country Link
US (1) US10965896B2 (en)
JP (1) JP7267719B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11683607B2 (en) * 2021-06-08 2023-06-20 Omnivision Technologies, Inc. Image sensor with three readout approach for phase detection autofocus and image sensing pixels

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013211833A (en) 2012-03-01 2013-10-10 Canon Inc Imaging device, imaging system, driving method of imaging device, and driving method of imaging system
JP2015033036A (en) 2013-08-05 2015-02-16 株式会社ニコン Imaging device, control method for imaging device, and control program
US20160080633A1 (en) 2014-09-15 2016-03-17 Samsung Electronics Co., Ltd. Method for capturing image and image capturing apparatus
WO2017010027A1 (en) 2015-07-13 2017-01-19 オリンパス株式会社 Imaging device, signal processing method, and signal processing program
JP2017097497A (en) 2015-11-19 2017-06-01 富士重工業株式会社 Out-vehicle environment recognition device
JP2017175379A (en) 2016-03-23 2017-09-28 キヤノン株式会社 Imaging device, control method therefor, imaging apparatus, and signal processing method
JP2018182459A (en) 2017-04-07 2018-11-15 キヤノン株式会社 Imaging apparatus and control method thereof

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006154465A (en) * 2004-11-30 2006-06-15 Olympus Corp Focus detecting device and control method therefor
JP4946313B2 (en) * 2006-09-27 2012-06-06 株式会社ニコン Imaging device
JP6338436B2 (en) * 2014-04-25 2018-06-06 キヤノン株式会社 Imaging apparatus and control method thereof
JP6380974B2 (en) 2014-06-18 2018-08-29 オリンパス株式会社 Imaging device, imaging device
JP6584059B2 (en) * 2014-09-26 2019-10-02 キヤノン株式会社 Imaging apparatus, control method therefor, program, and storage medium
JP6355595B2 (en) * 2015-06-02 2018-07-11 キヤノン株式会社 IMAGING ELEMENT, IMAGING DEVICE, IMAGING ELEMENT CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM
JP6762710B2 (en) * 2015-12-14 2020-09-30 キヤノン株式会社 Imaging device and its control method
US9961255B2 (en) 2016-02-09 2018-05-01 Canon Kabushiki Kaisha Image capturing apparatus, control method thereof, and storage medium
JP6815777B2 (en) * 2016-07-25 2021-01-20 キヤノン株式会社 Imaging device and control method of imaging device
JP2018125730A (en) * 2017-02-01 2018-08-09 キヤノン株式会社 Imaging device and control method thereof
JP2018148295A (en) 2017-03-02 2018-09-20 キヤノン株式会社 Imaging apparatus and control method thereof

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013211833A (en) 2012-03-01 2013-10-10 Canon Inc Imaging device, imaging system, driving method of imaging device, and driving method of imaging system
JP2015033036A (en) 2013-08-05 2015-02-16 株式会社ニコン Imaging device, control method for imaging device, and control program
US20160080633A1 (en) 2014-09-15 2016-03-17 Samsung Electronics Co., Ltd. Method for capturing image and image capturing apparatus
WO2017010027A1 (en) 2015-07-13 2017-01-19 オリンパス株式会社 Imaging device, signal processing method, and signal processing program
JP2017097497A (en) 2015-11-19 2017-06-01 富士重工業株式会社 Out-vehicle environment recognition device
JP2017175379A (en) 2016-03-23 2017-09-28 キヤノン株式会社 Imaging device, control method therefor, imaging apparatus, and signal processing method
JP2018182459A (en) 2017-04-07 2018-11-15 キヤノン株式会社 Imaging apparatus and control method thereof

Also Published As

Publication number Publication date
US10965896B2 (en) 2021-03-30
US20200169679A1 (en) 2020-05-28
JP2020086246A (en) 2020-06-04

Similar Documents

Publication Publication Date Title
US10645316B2 (en) Imaging device and method of driving imaging device
JP7091080B2 (en) Equipment, systems, and mobiles
US10110835B2 (en) Imaging apparatus, imaging system, and moving object
JP7157529B2 (en) Imaging device, imaging system, and imaging device driving method
US10554913B2 (en) Solid-state imaging device, imaging system and movable object
US10630929B2 (en) Solid-state imaging device and signal processing device
JP7066392B2 (en) Imaging device
JP2021176211A (en) Photoelectric conversion device and photoelectric conversion system
JP7267719B2 (en) Photoelectric conversion device, moving object, signal processing device
JP6976776B2 (en) Solid-state image sensor, image sensor, and mobile object
JP7299711B2 (en) Photoelectric conversion device and driving method thereof
US11575842B2 (en) Imaging apparatus
JP2021097382A (en) Imaging apparatus and imaging system
JP2015108759A (en) Imaging device, imaging system, control method of imaging device, program and storage medium
US11700467B2 (en) Photoelectric conversion device, photoelectric conversion system, and movable body
JP7225271B2 (en) Photoelectric conversion device, imaging system, moving body
JP7419309B2 (en) solid state imaging device
JP2021166369A (en) Imaging device and driving method for imaging device
JP2021013131A (en) Imaging apparatus and driving method of the same

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211119

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211119

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220817

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220927

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230322

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230420

R151 Written notification of patent or utility model registration

Ref document number: 7267719

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151