JP5364619B2 - Distance image sensor - Google Patents

Distance image sensor Download PDF

Info

Publication number
JP5364619B2
JP5364619B2 JP2010043465A JP2010043465A JP5364619B2 JP 5364619 B2 JP5364619 B2 JP 5364619B2 JP 2010043465 A JP2010043465 A JP 2010043465A JP 2010043465 A JP2010043465 A JP 2010043465A JP 5364619 B2 JP5364619 B2 JP 5364619B2
Authority
JP
Japan
Prior art keywords
area
region
distance image
distance
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010043465A
Other languages
Japanese (ja)
Other versions
JP2011179925A (en
Inventor
光人 間瀬
高志 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hamamatsu Photonics KK
Original Assignee
Hamamatsu Photonics KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hamamatsu Photonics KK filed Critical Hamamatsu Photonics KK
Priority to JP2010043465A priority Critical patent/JP5364619B2/en
Publication of JP2011179925A publication Critical patent/JP2011179925A/en
Application granted granted Critical
Publication of JP5364619B2 publication Critical patent/JP5364619B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Optical Radar Systems And Details Thereof (AREA)

Description

本発明は、距離画像センサに関する。   The present invention relates to a distance image sensor.

特許文献1には、電荷振分け型の距離画像センサが開示されている。TOF(Time Of Flight)型の距離計測に、この距離画像センサを適用する場合、光源(変調光)の変調周波数を高くすることで、距離分解能が向上することが知られている。   Patent Document 1 discloses a charge distribution type distance image sensor. When this distance image sensor is applied to a distance measurement of TOF (Time Of Flight) type, it is known that the distance resolution is improved by increasing the modulation frequency of the light source (modulated light).

特開2004−294420号公報JP 2004-294420 A

しかしながら、距離分解能を向上させようとして、光源の変調周波数を上げても、実際には距離分解能を向上できないことが判明した。   However, it has been found that even if the modulation frequency of the light source is increased in order to improve the distance resolution, the distance resolution cannot actually be improved.

すなわち、距離画像の取得においては、光源の変調周波数を上げると共に、電荷振り分け用の転送信号の周波数も上げる必要があるが、撮像領域における寄生容量及び寄生抵抗は、当該転送信号の波形を鈍らせてしまい、正確に電荷を振り分けることができなくなる。電荷が距離に応じて振り分けられない場合には、これらの電荷比率から求められる距離は正確にはならない。   In other words, in acquiring a distance image, it is necessary to increase the modulation frequency of the light source and the frequency of the transfer signal for charge distribution, but the parasitic capacitance and parasitic resistance in the imaging region dull the waveform of the transfer signal. As a result, the charges cannot be accurately distributed. If charges are not distributed according to distance, the distance obtained from these charge ratios will not be accurate.

本発明は、このような問題に鑑みてなされたものであり、正確で高分解能な距離画像を得ることが可能な距離画像撮像装置を提供することを目的とする。   The present invention has been made in view of such problems, and an object of the present invention is to provide a distance image capturing apparatus capable of obtaining an accurate and high-resolution distance image.

上述の課題を解決するため、本発明に係る距離画像撮像装置は、対象物への出射光の反射光を受光する撮像領域を備え、前記撮像領域は複数の画素を備え、それぞれの前記画素は、光の入射に応じて発生した電荷を転送信号に同期して異なる半導体領域内に振り分ける複数の転送電極を備えており、前記半導体領域内から出力される電荷の比率に応じて前記対象物までの距離が求められる電荷振り分け型の距離画像撮像装置であって、前記画素の前記転送電極に転送信号を与えるセンサ駆動回路と、前記転送信号の基準クロックを発生する発振器と、前記基準クロックに同期して、前記出射光を発生する光源を駆動する光源駆動回路と、前記撮像領域内において所定の大きさの領域を指定し、指定された領域と前記センサ駆動回路とを電気的に接続し、且つ、指定された領域以外の撮像用の領域と前記センサ駆動回路とを電気的に切断する領域指定手段と、前記領域指定手段によって指定される領域が狭くなる場合には、前記発振器の基準クロックの周波数を高く設定する周波数制御回路と、を備えることを特徴とする。   In order to solve the above-described problem, a distance image capturing apparatus according to the present invention includes an imaging region that receives reflected light of light emitted from an object, the imaging region includes a plurality of pixels, and each of the pixels includes A plurality of transfer electrodes for distributing charges generated in response to the incidence of light into different semiconductor regions in synchronization with a transfer signal, and up to the object according to a ratio of charges output from within the semiconductor region A distance distribution type imaging device that requires a distance of a sensor, a sensor driving circuit that provides a transfer signal to the transfer electrode of the pixel, an oscillator that generates a reference clock for the transfer signal, and a synchronization with the reference clock A light source driving circuit that drives the light source that generates the emitted light, a region having a predetermined size in the imaging region, and the designated region and the sensor driving circuit are electrically connected A region specifying means for connecting and electrically disconnecting the imaging area other than the specified area and the sensor drive circuit; and when the area specified by the area specifying means is narrowed, the oscillator And a frequency control circuit for setting a high frequency of the reference clock.

この装置によれば、領域指定手段が撮像領域における指定された領域以外の撮像用の領域とセンサ駆動回路とを電気的に切断するので、指定された領域の転送電極に印加される転送信号の周波数を高くしても、切断された領域の寄生容量及び寄生抵抗が信号の遅延及び波形の変形を起こすのを抑制できるため、電荷の振り分けの正確性が向上し、且つ、転送信号と光源の駆動信号周波数を双方とも増加させるので、距離分解能を向上させることができる。   According to this apparatus, since the area designating unit electrically disconnects the imaging area other than the designated area in the imaging area and the sensor drive circuit, the transfer signal applied to the transfer electrode in the designated area Even if the frequency is increased, the parasitic capacitance and parasitic resistance of the disconnected region can be prevented from causing signal delay and waveform deformation, so that the accuracy of charge distribution is improved and the transfer signal and the light source Since both driving signal frequencies are increased, the distance resolution can be improved.

なお、上述のように切断されるのは撮像用の領域の画素であって、距離画像取得に必要な要素とセンサ駆動回路とを切断する必要はない。例えば、撮像領域内に基準温度や黒レベル検出用のダミー画素を備えている場合、これらの画素とセンサ駆動回路とを無理に切断する必要はない。   Note that the pixels in the imaging region are cut as described above, and it is not necessary to cut the elements necessary for obtaining the distance image and the sensor drive circuit. For example, when a dummy pixel for detecting a reference temperature or a black level is provided in the imaging region, it is not necessary to forcibly cut these pixels and the sensor drive circuit.

転送信号と光源の駆動信号の周波数は、発振器から出力される基準クロックの周波数を周波数制御回路によって増加させればよい。発振器は周波数が可変なものであれば、例えば電圧制御発振回路を用いることができる。   The frequency of the transfer signal and the drive signal of the light source may be increased by the frequency control circuit with the frequency of the reference clock output from the oscillator. As long as the oscillator has a variable frequency, for example, a voltage controlled oscillation circuit can be used.

また、本発明の装置は、前記領域指定手段によって指定された第1領域の距離画像、又は、前記領域指定手段によって指定され前記第1領域よりも狭い第2領域の距離画像を、選択的に出力する制御装置を備えることを特徴とする。   The apparatus of the present invention selectively selects a distance image of the first area specified by the area specifying means or a distance image of the second area specified by the area specifying means and narrower than the first area. A control device for outputting is provided.

領域指定手段によって、相対的に低い距離分解能の第1領域の距離画像と、高い距離分解能の第2領域の距離画像が得られるので、制御装置は、これらの距離画像を選択的に表示器に出力することができる。必要に応じて高分解能の距離画像を見ることができるので、これを例えば医療技術の内視鏡などに適用した場合には、利便性が向上する。   Since the area designation means obtains a distance image of the first area with a relatively low distance resolution and a distance image of the second area with a high distance resolution, the control device selectively uses the distance image as a display. Can be output. Since a high-resolution distance image can be viewed as necessary, when this is applied to, for example, an endoscope of medical technology, convenience is improved.

また、本発明の装置は、前記領域指定手段によって指定された第1領域の距離画像を蓄積する第1フレームメモリと、前記領域指定手段によって指定された前記第1領域よりも狭い第2領域の距離画像を蓄積する第2フレームメモリと、前記第1領域の距離画像から前記第2領域に相当する領域のデータを削除し、削除した領域に前記第2領域の距離画像を合成する画像処理装置と、を備えることを特徴とする。   The apparatus of the present invention also includes a first frame memory that accumulates a distance image of the first area designated by the area designating means, and a second area that is narrower than the first area designated by the area designating means. A second frame memory for storing a distance image; and an image processing apparatus for deleting data of a region corresponding to the second region from the distance image of the first region, and combining the distance image of the second region with the deleted region And.

もちろん、大きな領域である第1領域と、小さな領域である第2領域の相対的な双方の情報が同時に観察できると、小さな領域の距離画像に注目しつつも、大きな領域が同時に表示されることで、全体画像の中での注目箇所の状態を把握することができる。第1領域の距離画像と、第2領域の距離画像とはそのまま重畳させてもよいが、この場合には、第2領域に相当する領域において、元の第1領域の距離画像がノイズとなるため、画像処理装置では、第1領域の距離画像から第2領域に相当する領域のデータを削除し、削除した領域に第2領域の距離画像を合成することとしている。   Of course, if the relative information of both the first area, which is a large area, and the second area, which is a small area, can be observed simultaneously, the large area can be displayed simultaneously while paying attention to the distance image of the small area. Thus, the state of the point of interest in the entire image can be grasped. The distance image of the first region and the distance image of the second region may be superimposed as they are, but in this case, the original distance image of the first region becomes noise in the region corresponding to the second region. Therefore, the image processing apparatus deletes the data of the area corresponding to the second area from the distance image of the first area, and synthesizes the distance image of the second area with the deleted area.

これらの距離画像は、静止画であってもよいが、双方の画像の取得タイミングを短時間で交互に切り替えて、合成して表示すれば、動画として表示することができる。   These distance images may be still images, but can be displayed as moving images if the acquisition timings of both images are alternately switched in a short time and combined and displayed.

また、前記第1領域は、前記撮像領域の全領域であり、前記第2領域は、前記全領域よりも小さな部分領域であることを特徴とする。すなわち、通常は撮像領域の全領域で距離画像を取得し、ユーザが特定の部分を特に観察したい場合には、部分領域の距離画像を高分解能で取得することができる。   Further, the first area is an entire area of the imaging area, and the second area is a partial area smaller than the entire area. In other words, the distance image is usually acquired in the entire area of the imaging region, and when the user particularly wants to observe a specific portion, the distance image of the partial region can be acquired with high resolution.

本発明の距離画像撮像装置によれば、正確で高分解能な距離画像を得ることができる。   According to the distance image capturing apparatus of the present invention, an accurate and high resolution distance image can be obtained.

第1実施形態の距離画像撮像装置のブロック図である。It is a block diagram of the distance image pick-up device of a 1st embodiment. 距離画像センサの平面図である。It is a top view of a distance image sensor. 距離画像センサの回路構成図である。It is a circuit block diagram of a distance image sensor. 単一の画素内の転送電極近傍の回路図である。FIG. 6 is a circuit diagram in the vicinity of a transfer electrode in a single pixel. 単一の画素の断面構成を示す図である。It is a figure which shows the cross-sectional structure of a single pixel. 光源の駆動信号や転送信号などの各種信号のタイミングチャートである。It is a timing chart of various signals, such as a drive signal and a transfer signal of a light source. 撮像モード切替制御のフローチャートである。It is a flowchart of imaging mode switching control. 表示画面の一例を示す図である。It is a figure which shows an example of a display screen. 第2実施形態の距離画像撮像装置のブロック図である。It is a block diagram of the range image pick-up device of a 2nd embodiment. 表示画面の一例を示す図である。It is a figure which shows an example of a display screen.

以下、実施の形態に係る距離画像撮像装置について説明する。なお、同一要素には、同一符号を用いることとし、重複する説明は省略する。   Hereinafter, the distance image capturing device according to the embodiment will be described. In addition, the same code | symbol shall be used for the same element and the overlapping description is abbreviate | omitted.

図1は第1実施形態の距離画像撮像装置のブロック図であり、図2は距離画像センサ1の平面図である。   FIG. 1 is a block diagram of the distance image capturing apparatus of the first embodiment, and FIG. 2 is a plan view of the distance image sensor 1.

この距離画像撮像装置は、距離画像センサ1と、これを制御する周辺回路とを備えている。距離画像センサ1は、対象物OBJへの出射光LEDの反射光RLTDを受光する撮像領域IMRを備えており、撮像領域IMRは、図2に示すように複数の画素P(m,n)を備えている。なお、m,nは自然数であり、二次元配列された画素の行位置及び列位置をそれぞれ示す。また、距離画像センサ1としては、撮像領域IMR内で画素を一次元配列したものも利用することができる。   The distance image capturing apparatus includes a distance image sensor 1 and a peripheral circuit that controls the distance image sensor 1. The distance image sensor 1 includes an imaging region IMR that receives the reflected light RLTD of the emitted light LED toward the object OBJ, and the imaging region IMR includes a plurality of pixels P (m, n) as shown in FIG. I have. Note that m and n are natural numbers and indicate the row position and the column position of the two-dimensionally arranged pixels, respectively. As the distance image sensor 1, a one-dimensional array of pixels in the imaging region IMR can also be used.

図2を参照すると、撮像領域IMR内のそれぞれの画素P(m,n)は、二次元配列されており、これらは半導体基板2内に形成されている。撮像領域の異なる二辺にそれぞれ沿うように、撮像領域指定用の水平デコーダ21及び垂直デコーダ22が配置されており、これらは、図1に示される制御装置から入力された領域指定信号SRに応じて、この領域指定信号SRが指定するアドレスの画素とセンサ駆動回路DRVとを電気的に接続し、その他のアドレスの画素とセンサ駆動回路DRVとを電気的に切断するものである。   Referring to FIG. 2, each pixel P (m, n) in the imaging region IMR is two-dimensionally arranged, and these are formed in the semiconductor substrate 2. A horizontal decoder 21 and a vertical decoder 22 for designating an imaging area are arranged along two different sides of the imaging area, and these correspond to the area designation signal SR input from the control device shown in FIG. Thus, the pixel of the address designated by the region designation signal SR and the sensor drive circuit DRV are electrically connected, and the pixel of the other address and the sensor drive circuit DRV are electrically disconnected.

半導体基板2内には、画素内の転送電極に与える転送信号を生成するセンサ駆動回路DRVの他に、各画素からの出力信号を増幅する増幅回路AMPが形成されている。   In the semiconductor substrate 2, an amplifier circuit AMP that amplifies an output signal from each pixel is formed in addition to a sensor drive circuit DRV that generates a transfer signal to be applied to a transfer electrode in the pixel.

図1を参照すると、センサ駆動回路DRVには、発振器14から所定周波数の駆動信号SDが与えられており、センサ駆動回路DRVでは、駆動信号に同期し必要に応じて振幅調整等を行って転送信号VTxを生成し、各画素P(m,n)に印加する(図3参照)。   Referring to FIG. 1, the sensor drive circuit DRV is supplied with a drive signal SD having a predetermined frequency from the oscillator 14. In the sensor drive circuit DRV, the amplitude is adjusted as necessary in synchronization with the drive signal and transferred. A signal VTx is generated and applied to each pixel P (m, n) (see FIG. 3).

駆動信号SDは、発振器14から出力される基準クロックであり、この基準クロックは光源駆動回路11にも入力されている。光源駆動回路11は、基準クロックに同期し、振幅調整等を行って、光源駆動信号を生成し、これを光源10に印加する。光源10は、光源駆動信号に同期して発光する。すなわち、センサ駆動回路DRVから各画素の転送電極に与えられる転送信号と、光源駆動回路11から光源10に与えられる光源駆動信号とは同期しており、立ち上がり及び立ち下がりの時刻が一致している。   The drive signal SD is a reference clock output from the oscillator 14, and this reference clock is also input to the light source drive circuit 11. The light source drive circuit 11 performs amplitude adjustment and the like in synchronization with the reference clock, generates a light source drive signal, and applies it to the light source 10. The light source 10 emits light in synchronization with the light source drive signal. That is, the transfer signal given from the sensor drive circuit DRV to the transfer electrode of each pixel and the light source drive signal given from the light source drive circuit 11 to the light source 10 are synchronized, and the rise and fall times coincide. .

光源10からの出射光LEDは対象物OBJに照射され、対象物OBJで反射された反射光RLTDは、撮像領域IMR内の各画素P(m,n)に入射する。詳説すれば、光源10からは、方形波又は正弦波の光強度変調が行われた変調信号が出射される。撮像領域IMRへの反射光RLTDは、基板の裏面(転送電極の形成されていない面)から入射する構成が好ましい。なお、光入射面の手前には図示しない結像レンズが配置される。また、裏面入射型の距離画像センサとする場合には、半導体基板2は薄板化され、好適にはこれは50μm以下の厚みとする。もちろん、半導体基板2の厚みを薄板化せずに、本発明を表面入射型の距離画像センサ1に適用することも可能である。   The emitted light LED from the light source 10 is applied to the object OBJ, and the reflected light RLTD reflected by the object OBJ is incident on each pixel P (m, n) in the imaging region IMR. More specifically, the light source 10 emits a modulated signal subjected to light intensity modulation of a square wave or a sine wave. A configuration in which the reflected light RLTD to the imaging region IMR is incident from the back surface (the surface where the transfer electrode is not formed) of the substrate is preferable. An imaging lens (not shown) is disposed in front of the light incident surface. In the case of a back-illuminated distance image sensor, the semiconductor substrate 2 is thinned and preferably has a thickness of 50 μm or less. Of course, the present invention can also be applied to the surface incidence type distance image sensor 1 without reducing the thickness of the semiconductor substrate 2.

なお、距離画像撮像装置は、光の入射に応じて発生した電荷を転送信号VTxに同期して異なる半導体領域fd1,fd2(図5参照)内に振り分ける複数の転送電極TX1,TX2(図5参照)を備えており、半導体領域fd1,fd2内から出力される電荷の比率に応じて、距離画像センサ1から対象物OBJまでの距離Lが求められる電荷振り分け型の距離画像撮像装置である。   The distance image pickup device distributes charges generated in response to the incidence of light into different semiconductor regions fd1 and fd2 (see FIG. 5) in synchronization with the transfer signal VTx (see FIG. 5). ), And is a charge distribution type distance image pickup device in which the distance L from the distance image sensor 1 to the object OBJ is obtained in accordance with the ratio of charges output from the semiconductor regions fd1 and fd2.

また、上述のように、この装置は、転送信号VTxの基準クロックを発生する発振器14と、基準クロックに同期して、出射光LEDを発生する光源10を駆動する光源駆動回路11とを備えている。ここで、発振器14の基準クロックは、周波数制御回路13によって制御されている。制御装置12から、周波数制御回路13に特定の周波数の指令が入力されると、周波数制御回路13は、入力された周波数の基準クロックが発振器14で生成されるような制御信号を生成し、これを発振器14に入力する。   Further, as described above, this apparatus includes the oscillator 14 that generates the reference clock of the transfer signal VTx, and the light source driving circuit 11 that drives the light source 10 that generates the emitted light LED in synchronization with the reference clock. Yes. Here, the reference clock of the oscillator 14 is controlled by the frequency control circuit 13. When a command of a specific frequency is input from the control device 12 to the frequency control circuit 13, the frequency control circuit 13 generates a control signal such that the reference clock of the input frequency is generated by the oscillator 14. Is input to the oscillator 14.

発振器14は周波数が可変なものであれば、例えば電圧制御発振回路(VCO)を用いることができる。この場合には、周波数制御回路13から、指定の周波数を与える電圧を発振器14に入力する。発振器14の構成としては、ブログラマブル分周器を用いたPLL周波数シンセサイザとすることもできる。この場合には、周波数制御回路13から、指定の周波数を与える分周比をPLL周波数シンセサイザに入力すればよい。   If the frequency of the oscillator 14 is variable, for example, a voltage controlled oscillation circuit (VCO) can be used. In this case, a voltage giving a specified frequency is input from the frequency control circuit 13 to the oscillator 14. The configuration of the oscillator 14 may be a PLL frequency synthesizer using a blog programmable frequency divider. In this case, a frequency dividing ratio that gives a specified frequency may be input from the frequency control circuit 13 to the PLL frequency synthesizer.

撮像領域IMRの各画素からの出力は増幅回路AMPによって増幅され、出力信号SOとして制御装置に入力される。本発明では、光源10の駆動信号から遅延した反射光に応じて発生した電荷を、駆動信号に同期して振り分けているので、振り分けられた電荷の比率が、光の対象物OBJまでの距離Lの2倍(往復時間)に比例することになる。出力信号SOは、各画素からの距離情報を有しているので、制御装置12は、撮像領域IMR内の距離画像を得ることができ、この距離画像は表示器DSP上に表示される。   The output from each pixel in the imaging region IMR is amplified by the amplifier circuit AMP and input to the control device as the output signal SO. In the present invention, since the charge generated according to the reflected light delayed from the drive signal of the light source 10 is distributed in synchronization with the drive signal, the ratio of the distributed charge is the distance L to the light object OBJ. It is proportional to 2 times (round trip time). Since the output signal SO includes distance information from each pixel, the control device 12 can obtain a distance image in the imaging region IMR, and this distance image is displayed on the display DSP.

通常の輝度画像と異なり、距離画像は、遠くにあるものほど例えば輝度を低くする、或いは、色を変えることで、距離感を表すことができる。もちろん、三次元座標空間内に距離画像の各画素のデータを取り込み、表示器DSP上には三次元画像として表示を行うことが好ましい。なお、三次元画像を表示する場合には、偏光眼鏡を用いた立体テレビジョン技術を適用することも可能である。   Unlike a normal luminance image, a distance image can express a sense of distance by, for example, lowering the luminance or changing the color as it is farther away. Of course, it is preferable to capture the data of each pixel of the distance image in the three-dimensional coordinate space and display it as a three-dimensional image on the display DSP. In addition, when displaying a three-dimensional image, it is also possible to apply a stereoscopic television technique using polarized glasses.

上述のように、制御装置12は、撮像を行う領域を指定する領域指定信号SRを生成しているが、これはユーザが入力装置15に入力した領域指定情報に応じて生成する。入力装置15は、マウスやポインタ或いはキーボードなどのインターフェースであり、例えば、医療現場では、距離画像を表示器DSPで観察しつつ、特定の箇所の距離画像の分解能を上げたい場合に、ユーザがその箇所を指定する。入力装置15が、ポインタである場合には、画像内に表示された特定部位をユーザがクリックすると、クリックした点から所与の範囲を領域として指定し、この領域内の距離画像の分解能を向上させる。   As described above, the control device 12 generates the region specifying signal SR that specifies the region to be imaged, and this is generated according to the region specifying information input to the input device 15 by the user. The input device 15 is an interface such as a mouse, a pointer, or a keyboard. For example, in a medical field, the user wants to increase the resolution of a distance image at a specific location while observing the distance image with a display DSP. Specify the location. When the input device 15 is a pointer, when the user clicks on a specific part displayed in the image, a given range is designated as an area from the clicked point, and the resolution of the distance image in this area is improved. Let

図3は、距離画像センサの回路構成図である。   FIG. 3 is a circuit configuration diagram of the distance image sensor.

領域指定信号SRが、水平デコーダ21及び垂直でコーダ22に入力されると、指定されたアドレスの画素のスイッチSW1,SW2がONされ、その他の画素のスイッチSW1,SW2がOFFされる。画素P(m、n)は、転送電極群TXを備えているが、各転送電極群TXと水平ラインH1とは、スイッチSW1を介して接続されており、複数の水平ラインH1は、それぞれスイッチSW2を介して、センサ駆動回路DRVからの信号線に接続されている。水平デコーダ21からは、スイッチSW1を制御する制御電圧を与える垂直ラインV1が複数のびている。   When the area designation signal SR is input to the horizontal decoder 21 and the coder 22 in the vertical direction, the switches SW1 and SW2 of the pixels at the designated address are turned on, and the switches SW1 and SW2 of the other pixels are turned off. The pixel P (m, n) includes a transfer electrode group TX. Each transfer electrode group TX and the horizontal line H1 are connected via a switch SW1, and each of the plurality of horizontal lines H1 is a switch. It is connected to the signal line from the sensor drive circuit DRV via SW2. From the horizontal decoder 21, there are a plurality of vertical lines V1 for supplying a control voltage for controlling the switch SW1.

したがって、水平デコーダ21が、垂直ラインV1の電圧を制御すれば、スイッチSW1をONして、このラインの存在する列の画素を指定することができ、垂直デコーダ22が、水平ラインH1のスイッチSW2をONして、センサ駆動回路DRVに接続すれば、この行の画素を指定して転送信号VTxを画素に供給することができる。   Therefore, if the horizontal decoder 21 controls the voltage of the vertical line V1, the switch SW1 can be turned on to designate the pixel in the column where this line exists, and the vertical decoder 22 can switch the switch SW2 of the horizontal line H1. Is turned on and connected to the sensor drive circuit DRV, the transfer signal VTx can be supplied to the pixel by designating the pixel in this row.

逆に、水平デコーダ21が、垂直ラインV1の電圧を制御し、スイッチSW1をOFFして、このラインの存在する列の画素の指定を解除すれば、これらの画素はセンサ駆動回路DRVからは電気的に切断されることになり、また、垂直デコーダ22が、水平ラインH1のスイッチSW2をOFFすれば、該当する行の画素は、センサ駆動回路DRVからは電気的に切断され、転送信号VTxは画素には供給されないことになる。なお、同図では、中央の領域の画素P(2,2)、P(2,3)、P(3,2)、P(3,3)が指定されることで、これらに接続されるスイッチSW1,SW2がONしており、残りの画素は指定から外れている様子が示されている。   Conversely, if the horizontal decoder 21 controls the voltage of the vertical line V1, turns off the switch SW1, and cancels the designation of the pixel in the column where this line exists, these pixels are electrically connected from the sensor drive circuit DRV. If the vertical decoder 22 turns off the switch SW2 of the horizontal line H1, the pixels in the corresponding row are electrically disconnected from the sensor drive circuit DRV, and the transfer signal VTx is It will not be supplied to the pixel. In the figure, the pixels P (2,2), P (2,3), P (3,2), and P (3,3) in the central area are designated and connected to them. It is shown that the switches SW1 and SW2 are ON and the remaining pixels are not specified.

以上のように、本発明の領域指定手段(水平デコーダ21,垂直デコーダ22、制御装置12)は、撮像領域IMR内において所定の大きさの領域を指定し、指定された領域とセンサ駆動回路DRVとを電気的に接続し、且つ、指定された領域以外の撮像用の領域とセンサ駆動回路DRVとを電気的に切断している。ここで、この領域指定手段によって指定される領域が狭くなる場合には、図1に示した周波数制御回路13は、発振器14の基準クロックの周波数を高く設定する。すなわち、指定領域が狭くなるほど、転送信号VTxの周波数は高くすることができる。   As described above, the area designating unit (the horizontal decoder 21, the vertical decoder 22, and the control device 12) of the present invention designates an area having a predetermined size in the imaging area IMR, and the designated area and the sensor drive circuit DRV. Are electrically connected, and the imaging region other than the designated region and the sensor drive circuit DRV are electrically disconnected. Here, when the area designated by this area designating means becomes narrow, the frequency control circuit 13 shown in FIG. 1 sets the frequency of the reference clock of the oscillator 14 high. That is, the narrower the designated area, the higher the frequency of the transfer signal VTx.

この装置によれば、領域指定手段が撮像領域IMRにおける指定された領域以外の撮像用の領域とセンサ駆動回路DRVとを電気的に切断するので、指定された領域の転送電極群TXに印加される転送信号VTxの周波数を高くしても、切断された領域の寄生容量及び寄生抵抗が信号の遅延及び波形の変形を起こすのを抑制できるため、電荷の振り分けの正確性が向上する。また、転送信号VTxと光源10の駆動信号周波数を双方とも増加させるので、狭い領域における距離分解能を向上させることができる。転送信号VTxと光源10の駆動信号の周波数は、発振器14から出力される基準クロックの周波数を周波数制御回路13によって増加させればよい(図1参照)。   According to this apparatus, since the area designating unit electrically disconnects the imaging area other than the designated area in the imaging area IMR and the sensor drive circuit DRV, it is applied to the transfer electrode group TX in the designated area. Even if the frequency of the transfer signal VTx is increased, the parasitic capacitance and parasitic resistance in the disconnected region can be prevented from causing signal delay and waveform deformation, so that the accuracy of charge distribution is improved. In addition, since both the transfer signal VTx and the drive signal frequency of the light source 10 are increased, the distance resolution in a narrow region can be improved. The frequency of the transfer signal VTx and the drive signal of the light source 10 may be increased by the frequency control circuit 13 with the frequency of the reference clock output from the oscillator 14 (see FIG. 1).

なお、上述のように切断されるのは撮像用の領域の画素であって、距離画像取得に必要な要素とセンサ駆動回路とを切断する必要はない。例えば、撮像領域内に基準温度や黒レベル検出用のダミー画素を備えている場合、これらの画素とセンサ駆動回路とを無理に切断する必要はない。   Note that the pixels in the imaging region are cut as described above, and it is not necessary to cut the elements necessary for obtaining the distance image and the sensor drive circuit. For example, when a dummy pixel for detecting a reference temperature or a black level is provided in the imaging region, it is not necessary to forcibly cut these pixels and the sensor drive circuit.

図4は、単一の画素内の転送電極近傍の回路図である。   FIG. 4 is a circuit diagram in the vicinity of the transfer electrode in a single pixel.

各画素では、半導体基板内に形成されたフォトダイオードPDで発生した電荷を振り分けるための転送電極TX1,TX2を備えている。転送電極TX1,TX2は、MOS型の電界効果トランジスタのゲート電極であるが、スイッチSW1を介して入力される転送信号は、そのまま転送電極TX1に印加され、これとは別にスイッチSW1‘(図1には図示せず)を介して180°位相が反転した転送信号が転送電極TX2に印加される。すなわち、転送電極TX1と転送電極TX2に印加される転送信号は逆位相の信号となっている。それぞれの転送電極TX1、TX2にハイレベルの信号が入力されると、トランジスタがONし、フォトダイオードPDで発生した電荷が、それぞれに隣接する別の半導体領域に流れ、蓄積される。   Each pixel includes transfer electrodes TX1 and TX2 for distributing charges generated in the photodiode PD formed in the semiconductor substrate. The transfer electrodes TX1 and TX2 are gate electrodes of MOS field effect transistors. However, the transfer signal input via the switch SW1 is applied to the transfer electrode TX1 as it is, and separately from this, the switch SW1 ′ (FIG. 1). The transfer signal whose phase is inverted by 180 ° is applied to the transfer electrode TX2 through (not shown). That is, the transfer signal applied to the transfer electrode TX1 and the transfer electrode TX2 is a signal having an opposite phase. When a high level signal is input to each transfer electrode TX1, TX2, the transistor is turned on, and the charge generated in the photodiode PD flows and accumulates in another semiconductor region adjacent to each.

図5は、単一の画素の断面構成を示す図である。   FIG. 5 is a diagram showing a cross-sectional configuration of a single pixel.

距離画像センサ1の各画素P(m,n)は、高濃度のP型(第2導電型)の半導体基板2の表面領域に半導体基板より低濃度で形成されたP型(第2導電型)の半導体領域3と、半導体領域3の表面側に形成された一対の高濃度のN型(第1導電型)の半導体領域(電荷蓄積領域:フローティングディフュージョン領域)fd1,fd2を有している。また、半導体基板表面には絶縁層5が形成されており、蓄積領域fd1,fd2の間のP型半導体領域3上にはフォトゲート電極PGが絶縁層5を介して形成され、半導体領域3内のフォトゲート電極直下は光検出領域4としてはたらく。光検出領域4のポテンシャルは、フォトゲート電極PGへの印加電圧によって制御することができる。   Each pixel P (m, n) of the distance image sensor 1 is formed in a surface region of a high-concentration P-type (second conductivity type) semiconductor substrate 2 at a lower concentration than the semiconductor substrate (second conductivity type). ) And a pair of high-concentration N-type (first conductivity type) semiconductor regions (charge storage regions: floating diffusion regions) fd1 and fd2 formed on the surface side of the semiconductor region 3. . An insulating layer 5 is formed on the surface of the semiconductor substrate, and a photogate electrode PG is formed on the P-type semiconductor region 3 between the storage regions fd1 and fd2 via the insulating layer 5, The light detection region 4 immediately below the photogate electrode. The potential of the light detection region 4 can be controlled by the voltage applied to the photogate electrode PG.

信号取出電極Vfd1,Vfd2は、それぞれ蓄積領域fd1,fd2上に電気的に接続して設けられている。また、フォトゲート電極PGと、各信号取出電極Vfd1,Vfd2との間には、転送電極TX1,TX2が位置している。N型の半導体は、電気的に中性な状態で電子をキャリアとして有しており、キャリアが抜けた場合には、正にイオン化する。すなわち、高濃度のN型の蓄積領域fd1、fd2は、大きく下向きに凹む形となり、ポテンシャル井戸を構成する。   The signal extraction electrodes Vfd1 and Vfd2 are provided in electrical connection on the storage regions fd1 and fd2, respectively. Further, the transfer electrodes TX1 and TX2 are located between the photogate electrode PG and the signal extraction electrodes Vfd1 and Vfd2. An N-type semiconductor has electrons as carriers in an electrically neutral state, and is positively ionized when carriers are removed. That is, the high-concentration N-type accumulation regions fd1 and fd2 are greatly recessed downward to constitute a potential well.

フォトゲート電極PGには、必要に応じて若干の正の直流電位を印加しておく。受光領域としての光検出領域4では、光の入射に応じて正孔電子対が発生するが、ゲート電極として機能する転送電極TX1,TX2に正の電位を与えた場合には、TX1、TX2の直下の領域のポテンシャルが、光検出領域4のポテンシャルと蓄積領域fd1、fd2のポテンシャルの中間の値となり、光検出領域4から蓄積領域fd1,fd2へのポテンシャルの階段が形成され、蓄積領域fd1,fd2のポテンシャル井戸内に電子が落ちて蓄積される。   A slight positive DC potential is applied to the photogate electrode PG as necessary. In the light detection region 4 as the light receiving region, hole electron pairs are generated in response to the incidence of light. However, when a positive potential is applied to the transfer electrodes TX1 and TX2 functioning as the gate electrodes, TX1 and TX2 The potential of the region immediately below becomes an intermediate value between the potential of the light detection region 4 and the potentials of the storage regions fd1 and fd2, and a potential step from the light detection region 4 to the storage regions fd1 and fd2 is formed. Electrons fall and accumulate in the potential well of fd2.

なお、本構造では、蓄積領域fd1,fd2上に電極を設けて信号を取り出す構造を採用しているが、蓄積領域fd1,fd2の隣に信号取出用の高濃度領域を別途設け、これらと蓄積領域fd1,fd2との間の領域上に別の転送電極を配置し、かかる高濃度領域上に電極を設けて、信号を取り出すことも可能である。   This structure employs a structure in which electrodes are provided on the storage regions fd1 and fd2 and a signal is taken out. However, a high-concentration region for signal extraction is separately provided next to the storage regions fd1 and fd2. It is also possible to place another transfer electrode on the region between the regions fd1 and fd2 and provide an electrode on the high concentration region to extract a signal.

なお、以下の説明では、説明の明瞭化を目的として、符号TX1,TX2は転送電極であると共に、これらとグランド電位との間に加えられる転送信号の電圧も示すこととする。また、符号PGはフォトゲート電極であると共に、これらとグランド電位との間に加えられる直流電圧も示すこととする。なお、半導体領域3は、グランド電位に接続されている。信号取出電極Vfd1,Vfd2から取り出された電荷は、半導体領域3内に形成された読出回路RCによって読み出される。読み出し回路は、半導体領域3に限らず、半導体基板2に形成されていてもよい。   In the following description, for the purpose of clarifying the description, reference numerals TX1 and TX2 are transfer electrodes, and the voltage of a transfer signal applied between these and the ground potential is also shown. Reference numeral PG denotes a photogate electrode and also indicates a DC voltage applied between these and the ground potential. The semiconductor region 3 is connected to the ground potential. The charges extracted from the signal extraction electrodes Vfd1 and Vfd2 are read out by the read circuit RC formed in the semiconductor region 3. The read circuit is not limited to the semiconductor region 3 and may be formed on the semiconductor substrate 2.

読出回路RCの構成としては、様々なものが知られているので、公知の読出回路を用いればよい。基本的に、読出回路RCは、各蓄積領域fd1、fd2に蓄積された電荷Q1,Q2を保持し、これらを電圧に変換して読み出している。転送信号TX1の電圧がハイレベルの期間に右側の蓄積領域fd1内に転送された電荷量をQ1とし、転送信号TX2の電圧がハイレベルの期間に左側の蓄積領域fd2内に転送された電荷量をQ2とすると、全体の電荷量(Q1+Q2)に対する電荷量Q2の比率分だけ、出射光と反射光の間に遅延時間が生じており、これが対象物までの距離Lの2倍に相当する。なお、電荷の積分によって検出精度は向上する。なお、全体の電荷量Q1+Q2を読み出すと、通常の輝度画像を得ることができる。   Since various configurations of the readout circuit RC are known, a known readout circuit may be used. Basically, the read circuit RC holds the charges Q1 and Q2 stored in the storage regions fd1 and fd2, and converts them into a voltage for reading. The amount of charge transferred into the right storage region fd1 during the period when the voltage of the transfer signal TX1 is high is Q1, and the amount of charge transferred into the storage region fd2 at the left when the voltage of the transfer signal TX2 is high. Is Q2, there is a delay time between the emitted light and the reflected light by the ratio of the charge amount Q2 to the total charge amount (Q1 + Q2), which corresponds to twice the distance L to the object. Note that the detection accuracy is improved by integrating the charges. It should be noted that a normal luminance image can be obtained by reading out the entire charge amount Q1 + Q2.

図6は、光源の駆動信号や転送信号などの各種信号のタイミングチャートである。   FIG. 6 is a timing chart of various signals such as a light source drive signal and a transfer signal.

同図には、光源からの出射光の強度信号LEDと、反射光の強度信号RLTDが示されている。なお、同図では簡略化のため、これらの波形を方形波で示しているが、実際には正弦波となっている。すなわち、光源への駆動信号は方形波であるが、出射光の強度信号は完全な方形波とはならず、高周波成分が除去された正弦波となり、反射光の波形も同様に正弦波となるためである。出射光に対する反射光の遅延時間が、対象物までの距離に相当する。すなわち、時刻t2〜t3までの期間が、光源から対象物までの距離の往復距離を光が進む時間である。もちろん、光源への駆動信号は方形波であり、その立ち上がり及び立ち下がり時刻は、転送信号TX1の立ち上がり及び立ち下がり時刻に一致している。   In the figure, an intensity signal LED of light emitted from the light source and an intensity signal RLTD of reflected light are shown. In the figure, for simplification, these waveforms are shown as square waves, but they are actually sine waves. That is, the drive signal to the light source is a square wave, but the intensity signal of the emitted light is not a perfect square wave, but a sine wave from which high-frequency components are removed, and the reflected light waveform is also a sine wave. Because. The delay time of the reflected light with respect to the emitted light corresponds to the distance to the object. That is, the period from the time t2 to the time t3 is the time during which the light travels the reciprocating distance of the distance from the light source to the object. Of course, the drive signal to the light source is a square wave, and the rise and fall times thereof coincide with the rise and fall times of the transfer signal TX1.

今回のリセット開始時刻t1から、次回のリセットの開始時刻t7までの期間を、1単位の検出期間(1Phase)とする。時刻t1〜t2の間において、蓄積領域fd1、fd2は基準となる電位に接続され、蓄積領域fd1、fd2が初期状態にリセットが行われる。   A period from the current reset start time t1 to the next reset start time t7 is defined as one unit detection period (1 Phase). Between times t1 and t2, the storage regions fd1 and fd2 are connected to the reference potential, and the storage regions fd1 and fd2 are reset to the initial state.

しかる後、時刻t2以降、時刻t7まで、逆相の方形波からなる転送電圧TX1、TX2を転送電極TX1,TX2に印加しながら蓄積してから、蓄積領域fd1、fd2の電荷を読出回路RCに転送し、転送終了時の時刻t6〜t7において、読出回路RCから出力信号SOを出力する。しかる後、再び、時刻t7〜t8においてリセットを行い、次の蓄積を開始する。   Thereafter, from time t2 to time t7, transfer voltages TX1 and TX2 composed of opposite-phase square waves are accumulated while being applied to the transfer electrodes TX1 and TX2, and then the charges in the accumulation regions fd1 and fd2 are stored in the readout circuit RC. At time t6 to t7 at the end of the transfer, output signal SO is output from read circuit RC. Thereafter, reset is performed again at times t7 to t8, and the next accumulation is started.

ここで、撮像領域の全領域を指定している場合には、上述のように、寄生容量及び寄生抵抗に起因して、転送信号TX1,TX2の波形が変形し、また、意図しない遅延を生じることになる。この場合には、正確な距離画像を得ることはできない。もちろん、一定の正確性を有する距離画像はできるが、その精度は十分ではない。一方、撮像領域の部分領域を指定すると、指定外の領域の寄生容量及び寄生抵抗の影響が抑制されるため、転送信号TX1,TX2の波形の変形が抑制され、また、意図しない遅延も抑制されることになる。したがって、正確な距離画像を得ることができる。   Here, when the entire imaging region is designated, as described above, the waveforms of the transfer signals TX1 and TX2 are deformed due to the parasitic capacitance and the parasitic resistance, and an unintended delay occurs. It will be. In this case, an accurate distance image cannot be obtained. Of course, a range image having a certain accuracy can be produced, but the accuracy is not sufficient. On the other hand, when the partial area of the imaging area is specified, the influence of the parasitic capacitance and parasitic resistance in the non-designated area is suppressed, so that the waveform deformation of the transfer signals TX1 and TX2 is suppressed, and unintended delay is also suppressed. Will be. Therefore, an accurate distance image can be obtained.

例えば、50×50画素、或いは10×10画素を指定した場合について、補足的に説明する。   For example, a case where 50 × 50 pixels or 10 × 10 pixels are designated will be supplementarily described.

センサ駆動回路DRVからの駆動電流を1mA、電圧振幅を3V、50×50画素を指定した場合の負荷容量=10pF(1画素当たり、0.004pF)と仮定すると、クロックの立ち上がりに必要な時間は、30nsとなる。同様に、10×10画素の場合、負荷容量は0.4pF(10×10×0.004pF)となるため、立ち上がりに必要な時間は、1.2nsになる。例えば、変調された転送信号の周波数f=100MHzとし、非常に高速に駆動させた場合、(画素数が多く)負荷容量が大きいと、転送信号が極端に鈍ってしまい距離精度が劣化する。しかしながら、画素数を部分選択して必要な領域のみ選択した場合負荷容量が小さいため、転送信号は鈍ることなく方形波(或いは正弦波)に近くなるため、精度良く電荷振り分けを行うことが可能となる。   Assuming that the drive current from the sensor drive circuit DRV is 1 mA, the voltage amplitude is 3 V, and the load capacity is 10 pF (0.004 pF per pixel) when 50 × 50 pixels are specified, the time required for the rise of the clock is 30 ns. Similarly, in the case of 10 × 10 pixels, since the load capacitance is 0.4 pF (10 × 10 × 0.004 pF), the time required for rising is 1.2 ns. For example, when the frequency f of the modulated transfer signal is set to 100 MHz and driven at a very high speed, if the load capacity is large (the number of pixels is large), the transfer signal becomes extremely dull and the distance accuracy deteriorates. However, when only a necessary area is selected by partially selecting the number of pixels, since the load capacity is small, the transfer signal is close to a square wave (or sine wave) without being dulled, and therefore it is possible to perform charge distribution with high accuracy. Become.

これにより、周波数を高くすると、距離分解能を高めることができ、より精度よく測距を行うことが可能となる。全領域を指定する低周波数としては例えば10MHzを採用することができ、部分領域を指定する高周波数としては例えば100MHzを採用することができる。   Thereby, when the frequency is increased, the distance resolution can be increased, and the distance can be measured with higher accuracy. For example, 10 MHz can be employed as the low frequency for designating the entire region, and 100 MHz can be employed as the high frequency for designating the partial region.

なお、距離分解能について補足説明をしておく。   A supplementary explanation will be given for the distance resolution.

距離Lは、光速度をc(m/s)、転送信号の周期をT(s)、電荷Q2、Q1の信号量をA(V),B(V)、反射光の遅延時間である位相差をφとすると、以下の式で与えられる。
L=cT/2×(|A|/(|A|+|B|))=cT/2×φ
φ=|A|/(|A|+|B|)=1/(1+(|B|/|A|))
ノイズによる距離誤差をσLとし、リードノイズをσread、ショットノイズをσshot、係数k(V/e)を変換効率とすると、σLは以下の式で与えられる。
σL=cT/2×σφ=cT/2×C
C=1/(1+(|B|/|A|))−1/(1+D1/D2)
D1=|A−2×((σread +σshot 0.5×k)/20.5
D2=|B+2×((σread +σshot 0.5×k)/20.5
すなわち、距離分解能は、リードノイズとショットノイズの二乗和で決定されるが、信号量が大きい場合は、ショットノイズが支配的となる。また、変調周波数を高く(=発光パルス幅を短く)することで精度が向上される。ここで、k=(16μV/e)、リードノイズ=0.3(mV)(rms)、合計の信号振幅1V(A=0.5V,B=0.5V)と仮定すると、周波数f=100MHzで電荷振り分けを行うことで、1mm程度の分解能を得ることも可能である。例えば、周波数10MHzでは、距離精度は9.6mm、測距範囲は15mmとすると、周波数20MHzでは、距離精度は4.8mm、測距範囲は7.5mmとなり、周波数50MHzでは、距離精度は1.9mm、測距範囲は3mmであり、周波数100MHzでは、距離精度は1.0mm、測距範囲は1mmとなる。
The distance L is the light speed c (m / s), the transfer signal period T (s), the charge Q2 and Q1 signal quantities A (V), B (V), and the delay time of the reflected light. When the phase difference is φ, it is given by the following equation.
L = cT / 2 × (| A | / (| A | + | B |)) = cT / 2 × φ
φ = | A | / (| A | + | B |) = 1 / (1+ (| B | / | A |))
Assuming that the distance error due to noise is σL, the read noise is σ read , the shot noise is σ shot , and the coefficient k (V / e) is the conversion efficiency, σL is given by the following equation.
σL = cT / 2 × σφ = cT / 2 × C
C = 1 / (1+ (| B | / | A |))-1 / (1 + D1 / D2)
D1 = | A−2 × ((σ read 2 + σ shot 2 ) 0.5 × k) / 2 0.5 |
D2 = | B + 2 × ((σ read 2 + σ shot 2 ) 0.5 × k) / 2 0.5 |
That is, the distance resolution is determined by the sum of squares of the read noise and the shot noise, but when the signal amount is large, the shot noise becomes dominant. Further, the accuracy is improved by increasing the modulation frequency (= shortening the emission pulse width). Here, assuming that k = (16 μV / e), read noise = 0.3 (mV) (rms), and total signal amplitude 1 V (A = 0.5 V, B = 0.5 V), the frequency f = 100 MHz. Thus, it is possible to obtain a resolution of about 1 mm by performing charge distribution. For example, if the distance accuracy is 9.6 mm at a frequency of 10 MHz and the distance measurement range is 15 mm, the distance accuracy is 4.8 mm and the distance measurement range is 7.5 mm at a frequency of 20 MHz, and the distance accuracy is 1. The distance measurement range is 9 mm and the distance measurement range is 3 mm. At a frequency of 100 MHz, the distance accuracy is 1.0 mm and the distance measurement range is 1 mm.

図7は、撮像モード切替制御のフローチャートである。   FIG. 7 is a flowchart of imaging mode switching control.

撮像が開始されると、まず、全領域指定選択モードが実行され(S1)、撮像領域の全領域が指定され、この領域内の転送電極に転送信号が与えられる。次に、ユーザが部分領域の指定をしているかどうかについて判定する(S2)。部分領域を指定している場合には、部分領域選択モードに移行し(S3)、そうでない場合には、全領域選択モードを継続する(S1)。次に、部分領域選択モードを解除するかどうかについて判定し(S4)、ユーザが解除を要望しない場合には、部分領域選択モードを継続する(S3)。ユーザが解除を要望する場合には、次に、撮像の終了を行うかどうかについて判定し(S5)、撮像の終了を行わない場合には、全領域選択モードに戻る(S1)。また、撮像の終了を行う場合には、撮像を終了する。   When imaging is started, first, the entire area designation selection mode is executed (S1), the entire area of the imaging area is designated, and a transfer signal is given to the transfer electrode in this area. Next, it is determined whether or not the user designates a partial area (S2). When the partial area is designated, the process shifts to the partial area selection mode (S3). Otherwise, the entire area selection mode is continued (S1). Next, it is determined whether or not to cancel the partial area selection mode (S4). If the user does not request cancellation, the partial area selection mode is continued (S3). If the user wants to cancel, then it is determined whether or not to end the imaging (S5), and if the imaging is not ended, the process returns to the all area selection mode (S1). In addition, when the imaging is finished, the imaging is finished.

ここで、部分領域選択モードでは、上述のように、指定された領域の画素をアクティブ(センサ駆動回路に接続)とし、それ以外の撮像用の画素をインアクティブ(センサ駆動回路から切断)にする。選択された領域に応じて、転送信号と光源駆動信号の周波数fを決定し、これらの信号で転送電極と光源をそれぞれ駆動する。   Here, in the partial region selection mode, as described above, the pixels in the designated region are made active (connected to the sensor drive circuit), and the other pixels for imaging are made inactive (disconnected from the sensor drive circuit). . The frequency f of the transfer signal and the light source drive signal is determined according to the selected area, and the transfer electrode and the light source are driven by these signals, respectively.

図8は、表示画面の一例を示す図である。本例では、内視鏡カメラに本装置を適用した場合の例について示しており、同図では食道や腸の内壁が示されているイメージが描かれている。   FIG. 8 is a diagram illustrating an example of a display screen. In this example, an example in which the present apparatus is applied to an endoscopic camera is shown. In this figure, an image showing an esophagus and an inner wall of the intestine is drawn.

図8(A)は、全領域選択モードの場合の距離画像であり、撮像領域の全領域R1が指定され、表示器の画面には低距離分解能の画像が表示されている。画面内の点線で囲まれた領域R2をユーザが指定すると、図8(B)の部分領域選択モードに移行する。この場合、基準クロックが高速化し、領域R2の距離分解能が向上して、注目部位が良く観察できるようになる。ユーザは、これの分解能を切り替えることにより、適切な観察を行うことができる。   FIG. 8A is a distance image in the case of the all area selection mode, in which the entire area R1 of the imaging area is designated, and an image with a low distance resolution is displayed on the screen of the display. When the user designates a region R2 surrounded by a dotted line in the screen, the mode shifts to the partial region selection mode in FIG. In this case, the reference clock speeds up, the distance resolution of the region R2 is improved, and the site of interest can be observed well. The user can perform appropriate observation by switching the resolution.

すなわち、この装置の制御装置12(図1参照)は、上述の領域指定手段によって指定された第1領域の距離画像、又は、領域指定手段によって指定され第1領域R1よりも狭い第2領域R2の距離画像を、表示器に選択的に出力している。必要に応じて高分解能の距離画像を見ることができるので、これを医療技術の内視鏡などに適用した場合には、利便性が向上する。内視鏡などでは、通常は撮像領域の全領域で距離画像を取得し、ユーザが特定の部分を特に観察したい場合には、部分領域の距離画像を高分解能で取得することができる。もちろん、この装置は、他の分野にも適用することができる。   In other words, the control device 12 (see FIG. 1) of this apparatus can detect the distance image of the first area specified by the area specifying means or the second area R2 narrower than the first area R1 specified by the area specifying means. The distance image is selectively output to the display. Since a high-resolution distance image can be viewed as needed, convenience is improved when this is applied to an endoscope or the like of medical technology. In an endoscope or the like, usually, a distance image is acquired in the entire area of the imaging region, and when the user wants to specifically observe a specific portion, the distance image of the partial region can be acquired with high resolution. Of course, this device can also be applied to other fields.

図9は、第2実施形態の距離画像撮像装置のブロック図である。   FIG. 9 is a block diagram of a distance image capturing apparatus according to the second embodiment.

この装置は、制御装置12から出力される距離画像を、一端、スイッチSWを介して全領域フレームメモリM1又は部分領域フレームメモリM2に格納し、格納された距離画像を画像処理装置IPに入力して合成し、合成画像を表示器DSPに表示している。他の構成と作用は、第1実施形態の距離画像撮像装置と同一である。   This apparatus stores the distance image output from the control device 12 in the entire area frame memory M1 or the partial area frame memory M2 via the switch SW, and inputs the stored distance image to the image processing apparatus IP. And the synthesized image is displayed on the display DSP. Other configurations and operations are the same as those of the distance image capturing apparatus of the first embodiment.

すなわち、この装置は、領域指定手段によって指定された第1領域R1の距離画像を蓄積する第1フレームメモリM1と、領域指定手段によって指定された第1領域R1よりも狭い第2領域R2の距離画像を蓄積する第2フレームメモリM2とを備えており、画像処理装置IPは、第1領域R1の距離画像から第2領域R2に相当する領域のデータを削除し、削除した領域に第2領域R2の距離画像を合成している。   In other words, this apparatus has a distance between the first frame memory M1 that stores the distance image of the first area R1 specified by the area specifying means and the second area R2 that is narrower than the first area R1 specified by the area specifying means. A second frame memory M2 for accumulating images, and the image processing apparatus IP deletes the data of the area corresponding to the second area R2 from the distance image of the first area R1, and the second area in the deleted area The distance image of R2 is synthesized.

図10は、この場合の表示画面の一例を示す図である。   FIG. 10 is a diagram showing an example of the display screen in this case.

図10(A)は全領域指定モードを示しており、この場合の画面は図8の場合と同一である。一方、図10(B)は合成画像を表示している。すなわち、図10(B)では、大きな領域である第1領域R1と、小さな領域である第2領域R2の相対的な双方の情報が同時に観察できるすなわち、小さな領域R2の距離画像に注目しつつも、大きな領域が同時に表示されることで、全体画像の中での注目箇所の状態を把握することができる。   FIG. 10A shows the all area designation mode, and the screen in this case is the same as in FIG. On the other hand, FIG. 10B displays a composite image. That is, in FIG. 10B, the relative information of both the first region R1 that is a large region and the second region R2 that is a small region can be observed simultaneously, that is, while paying attention to the distance image of the small region R2. In addition, since the large area is displayed at the same time, it is possible to grasp the state of the point of interest in the entire image.

なお、第1領域R1の距離画像と、第2領域R2の距離画像とはそのまま重畳させてもよいが、この場合には、第2領域R2に相当する領域において、元の第1領域R1の距離画像がノイズとなるため、画像処理装置IPでは、第1領域R1の距離画像から第2領域R2に相当する領域のデータを削除し、削除した領域に第2領域R2の距離画像を合成することとしている。これらの距離画像は、静止画であってもよいが、双方の画像の取得タイミングを短時間で交互に切り替えて、合成して表示すれば、動画として表示することができる。   The distance image of the first region R1 and the distance image of the second region R2 may be superimposed as they are, but in this case, in the region corresponding to the second region R2, the original first region R1 Since the distance image becomes noise, the image processing apparatus IP deletes the data of the area corresponding to the second area R2 from the distance image of the first area R1, and synthesizes the distance image of the second area R2 with the deleted area. I am going to do that. These distance images may be still images, but can be displayed as moving images if the acquisition timings of both images are alternately switched in a short time and combined and displayed.

1・・・距離画像センサ、11・・・光源駆動回路、14・・・発振器、IMR・・撮像領域、DRV・・・センサ駆動回路、12・・・制御装置(領域指定手段)、21,22・・・デコーダ(領域指定手段)21,22、13・・・周波数制御回路。
DESCRIPTION OF SYMBOLS 1 ... Distance image sensor, 11 ... Light source drive circuit, 14 ... Oscillator, IMR ... Imaging area, DRV ... Sensor drive circuit, 12 ... Control device (area designation means), 21, 22... Decoder (area specifying means) 21, 22, 13... Frequency control circuit.

Claims (4)

対象物への出射光の反射光を受光する撮像領域を備え、前記撮像領域は複数の画素を備え、それぞれの前記画素は、光の入射に応じて発生した電荷を転送信号に同期して異なる半導体領域内に振り分ける複数の転送電極を備えており、前記半導体領域内から出力される電荷の比率に応じて前記対象物までの距離が求められる電荷振り分け型の距離画像撮像装置であって、
前記画素の前記転送電極に転送信号を与えるセンサ駆動回路と、
前記転送信号の基準クロックを発生する発振器と、
前記基準クロックに同期して、前記出射光を発生する光源を駆動する光源駆動回路と、
前記撮像領域内において所定の大きさの領域を指定し、指定された領域と前記センサ駆動回路とを電気的に接続し、且つ、指定された領域以外の撮像用の領域と前記センサ駆動回路とを電気的に切断する領域指定手段と、
前記領域指定手段によって指定される領域が狭くなる場合には、前記発振器の基準クロックの周波数を高く設定する周波数制御回路と、
を備えることを特徴とする距離画像撮像装置。
An imaging region that receives reflected light of light emitted from an object is provided, and the imaging region includes a plurality of pixels, and each of the pixels differs in synchronization with a transfer signal with a charge generated according to the incidence of light. A charge distribution-type distance image capturing device that includes a plurality of transfer electrodes that are distributed in a semiconductor region, and that determines a distance to the object in accordance with a ratio of charges output from the semiconductor region,
A sensor driving circuit for applying a transfer signal to the transfer electrode of the pixel;
An oscillator for generating a reference clock for the transfer signal;
A light source driving circuit for driving the light source for generating the emitted light in synchronization with the reference clock;
An area of a predetermined size is designated within the imaging area, the designated area and the sensor driving circuit are electrically connected, and an imaging area other than the designated area and the sensor driving circuit An area specifying means for electrically cutting
When the region specified by the region specifying means is narrowed, a frequency control circuit that sets a high frequency of the reference clock of the oscillator;
A range image capturing apparatus comprising:
前記領域指定手段によって指定された第1領域の距離画像、又は、前記領域指定手段によって指定され前記第1領域よりも狭い第2領域の距離画像を、選択的に出力する制御装置を備えることを特徴とする請求項1に記載の距離画像撮像装置。   A control device that selectively outputs a distance image of the first area specified by the area specifying means or a distance image of a second area specified by the area specifying means and narrower than the first area; The range image capturing apparatus according to claim 1, wherein 前記領域指定手段によって指定された第1領域の距離画像を蓄積する第1フレームメモリと、
前記領域指定手段によって指定された前記第1領域よりも狭い第2領域の距離画像を蓄積する第2フレームメモリと、
前記第1領域の距離画像から前記第2領域に相当する領域のデータを削除し、削除した領域に前記第2領域の距離画像を合成する画像処理装置と、
を備えることを特徴とする請求項1に記載の距離画像撮像装置。
A first frame memory for storing a distance image of the first area designated by the area designation means;
A second frame memory for storing a distance image of a second area narrower than the first area specified by the area specifying means;
An image processing device that deletes data of a region corresponding to the second region from the distance image of the first region, and combines the distance image of the second region with the deleted region;
The range image capturing device according to claim 1, further comprising:
前記第1領域は、前記撮像領域の全領域であり、前記第2領域は、前記全領域よりも小さな部分領域であることを特徴とする請求項2又は3に記載の距離画像撮像装置。






The range image capturing apparatus according to claim 2, wherein the first area is an entire area of the imaging area, and the second area is a partial area smaller than the entire area.






JP2010043465A 2010-02-26 2010-02-26 Distance image sensor Active JP5364619B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010043465A JP5364619B2 (en) 2010-02-26 2010-02-26 Distance image sensor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010043465A JP5364619B2 (en) 2010-02-26 2010-02-26 Distance image sensor

Publications (2)

Publication Number Publication Date
JP2011179925A JP2011179925A (en) 2011-09-15
JP5364619B2 true JP5364619B2 (en) 2013-12-11

Family

ID=44691586

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010043465A Active JP5364619B2 (en) 2010-02-26 2010-02-26 Distance image sensor

Country Status (1)

Country Link
JP (1) JP5364619B2 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102061699B1 (en) 2013-06-19 2020-01-02 삼성전자주식회사 An image sensor, image processing system including the same, and an operating method of the same
US10996320B2 (en) 2017-07-11 2021-05-04 Sony Semiconductor Solutions Corporation Electronic device and control method of electronic device
JP6381094B1 (en) 2018-01-30 2018-08-29 株式会社シーパーツ Tire deterioration evaluation system
JP2020125998A (en) * 2019-02-05 2020-08-20 ソニーセミコンダクタソリューションズ株式会社 Light receiving device and distance measurement system
WO2021065175A1 (en) * 2019-09-30 2021-04-08 富士フイルム株式会社 Processing device, electronic apparatus, processing method, and program

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06292052A (en) * 1993-04-02 1994-10-18 Sharp Corp Still picture image pickup device
JPH08189965A (en) * 1995-01-09 1996-07-23 Honda Motor Co Ltd Radar apparatus for vehicle
JPH08313215A (en) * 1995-05-23 1996-11-29 Olympus Optical Co Ltd Two-dimensional distance sensor
JP4613406B2 (en) * 1999-11-05 2011-01-19 株式会社デンソー Light receiving element, distance measuring device and distance / image measuring device
JP4235729B2 (en) * 2003-02-03 2009-03-11 国立大学法人静岡大学 Distance image sensor
JP4280822B2 (en) * 2004-02-18 2009-06-17 国立大学法人静岡大学 Optical time-of-flight distance sensor
JP4649623B2 (en) * 2006-01-18 2011-03-16 国立大学法人静岡大学 Solid-state imaging device and pixel signal reading method thereof

Also Published As

Publication number Publication date
JP2011179925A (en) 2011-09-15

Similar Documents

Publication Publication Date Title
EP3288081B1 (en) Solid state image sensor and electronic device comprising the same
JP5364619B2 (en) Distance image sensor
US11726185B2 (en) Image sensor for determining a three-dimensional image and method for determining a three-dimensional image
JP5302244B2 (en) Distance image sensor
JP6789251B2 (en) SPAD array structure and operation method
WO2017022219A1 (en) Solid state image pickup device driving method
KR101508410B1 (en) Distance image sensor and method for generating image signal by time-of-flight method
JP5521854B2 (en) Imaging device and image input device
JP6006514B2 (en) Distance sensor and distance image sensor
KR20120010179A (en) Digital radiographic imaging arrays with reduced noise
US9270913B2 (en) Photoelectric conversion apparatus and imaging system
JP2011091771A (en) Imaging apparatus, imaging system, method of controlling the apparatus and the system, and program
JP2004037382A (en) Radiation detector and radiation diagnostic equipment
CN109564277A (en) Demodulator and its operating method with the pinned photodiode that carrier generates
JP7170497B2 (en) Radiation imaging device and radiation imaging system
JP2014086873A (en) Radiographic device, control method thereof and program
JP6180691B1 (en) Image sensor, endoscope and endoscope system
JP2009284181A (en) Solid-state imaging apparatus
CN113841243A (en) Imaging device with multi-phase gated time-of-flight pixels
US11742370B2 (en) Time-of-flight pixel with vertical photogates
US20220260716A1 (en) Imaging devices for capturing color and depth information
US20220254821A1 (en) Power supply contact sharing for imaging devices
WO2020234649A1 (en) Capacitance matched metal wirings in dual conversion gain pixels
JP5864204B2 (en) Light receiving element
WO2013128723A1 (en) Range sensor and range image sensor

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121001

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130828

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130903

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130909

R150 Certificate of patent or registration of utility model

Ref document number: 5364619

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150