JP2020139937A - Ranging device and electronic apparatus - Google Patents

Ranging device and electronic apparatus Download PDF

Info

Publication number
JP2020139937A
JP2020139937A JP2019173702A JP2019173702A JP2020139937A JP 2020139937 A JP2020139937 A JP 2020139937A JP 2019173702 A JP2019173702 A JP 2019173702A JP 2019173702 A JP2019173702 A JP 2019173702A JP 2020139937 A JP2020139937 A JP 2020139937A
Authority
JP
Japan
Prior art keywords
distance
light
control
subject
exposure
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019173702A
Other languages
Japanese (ja)
Inventor
弘長 佐野
Hironaga Sano
弘長 佐野
岡本 康宏
Yasuhiro Okamoto
康宏 岡本
小野 博明
Hiroaki Ono
博明 小野
幸直 見城
Yukinao Kenjo
幸直 見城
草刈 高
Takashi Kusakari
高 草刈
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Priority to US17/430,653 priority Critical patent/US20220146648A1/en
Priority to PCT/JP2020/005818 priority patent/WO2020170969A1/en
Publication of JP2020139937A publication Critical patent/JP2020139937A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Measurement Of Optical Distance (AREA)
  • Exposure Control For Cameras (AREA)
  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)
  • Studio Devices (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Abstract

To provide: a ranging device that sufficiently irradiates, with light, a wider section of a ranging area from a light source and realizes exposure variation by automatic exposure control over the wider section of the ranging area; and an electronic device comprising the ranging device.SOLUTION: A ranging device 1 according to the present disclosure comprises: a light source 20 that emits light to a subject; a light detecting unit 30 that receives light reflected from the subject, the reflected light being based on the light emitted from the light source 20; and a control unit 40 that performs light exposure control depending on a distance between the ranging device 1 and the subject. An electronic device according to the present disclosure comprises the ranging device having the configuration.SELECTED DRAWING: Figure 2

Description

本開示は、測距装置及び電子機器に関する。 The present disclosure relates to ranging devices and electronic devices.

被写体までの距離情報(距離画像情報)を取得する測距装置(距離測定装置)として、ToF(Time of Flight:光飛行時間)方式を利用した装置(センサ)がある(例えば、特許文献1参照)。ToF方式は、被写体(測定対象物)に対して光源から光を照射し、その照射光が被写体で反射されて光検出部に戻ってまでの光の飛行時間を検出することにより、被写体までの距離を測定する方式である。 As a distance measuring device (distance measuring device) for acquiring distance information (distance image information) to a subject, there is a device (sensor) using a ToF (Time of Flight) method (see, for example, Patent Document 1). ). The ToF method irradiates a subject (measurement object) with light from a light source, and detects the flight time of the light until the irradiated light is reflected by the subject and returned to the light detection unit to reach the subject. This is a method for measuring distance.

特開2004−294420号公報Japanese Unexamined Patent Publication No. 2004-294420

ToF方式の測距装置では、光源に対する自動露光(AE:Automatic Exposure)の制御が行われる。このAE制御では、高品質な距離画像(Depth Map)を取得するために、飽和閾値をターゲットとして、当該飽和閾値を超えない範囲で最大の信頼値(Confidence)レベルを取得できるように制御が行われる。 In the ToF type ranging device, automatic exposure (AE: Automatic Exposure) for the light source is controlled. In this AE control, in order to acquire a high-quality distance image (Deptth Map), the saturation threshold value is targeted, and the control is performed so that the maximum Confidence level can be acquired within a range not exceeding the saturation threshold value. Will be.

しかしながら、消費電力の許容限界や光源のレーザ出力強度の設定限界などによって、光源から測距範囲の全区間に対して光の照射を行うことができず、例えば近距離の一部の区間でしか自動露光制御による露光変動が起こらないという状況にあった。 However, due to the permissible limit of power consumption and the setting limit of the laser output intensity of the light source, it is not possible to irradiate the entire section of the distance measurement range from the light source, for example, only in a part of the short distance. There was a situation in which exposure fluctuation due to automatic exposure control did not occur.

そこで、本開示は、光源から測距範囲のより広い区間に対して光を十分に照射し、測距範囲のより広い区間に亘って自動露光制御による露光変動が起こるようにした測距装置、及び、当該測距装置を有する電子機器を提供することを目的とする。 Therefore, the present disclosure is a distance measuring device that sufficiently irradiates a section having a wider range from a light source with light so that exposure fluctuation is caused by automatic exposure control over a section having a wider range. An object of the present invention is to provide an electronic device having the distance measuring device.

上記の目的を達成するための本開示の測距装置は、
被写体に対して光を照射する光源、
光源からの照射光に基づく、被写体からの反射光を受光する光検出部、及び、
測距装置と被写体との間の距離に応じて露光制御を行う制御部を備える。
The ranging device of the present disclosure for achieving the above object is
A light source that illuminates the subject,
A photodetector that receives reflected light from the subject based on the light emitted from the light source, and
It is provided with a control unit that controls exposure according to the distance between the distance measuring device and the subject.

また、上記の目的を達成するための本開示の電子機器は、上記の構成の測距装置を有する。 Further, the electronic device of the present disclosure for achieving the above object has a distance measuring device having the above configuration.

図1は、ToF方式の測距システムの概念図である。FIG. 1 is a conceptual diagram of a ToF type distance measuring system. 図2は、本開示の技術が適用されるToF方式の測距装置の構成の一例を示すブロック図である。FIG. 2 is a block diagram showing an example of the configuration of a ToF type ranging device to which the technique of the present disclosure is applied. 図3は、光検出部の構成の一例を示すブロック図である。FIG. 3 is a block diagram showing an example of the configuration of the photodetector. 図4は、光検出部における画素の回路構成の一例を示す回路図である。FIG. 4 is a circuit diagram showing an example of a pixel circuit configuration in the photodetector. 図5は、ToF方式の測距装置における距離の算出について説明するためのタイミング波形図である。FIG. 5 is a timing waveform diagram for explaining the calculation of the distance in the ToF type distance measuring device. 図6は、第1実施形態に係る測距装置において、光検出部の信号値と距離との関係を示す特性図である。FIG. 6 is a characteristic diagram showing the relationship between the signal value of the photodetector and the distance in the distance measuring device according to the first embodiment. 図7は、IQ平面の信頼値についての信号値と距離との関係を示す特性図である。FIG. 7 is a characteristic diagram showing the relationship between the signal value and the distance with respect to the reliability value of the IQ plane. 図8は、ある反射率の被写体を10[cm]の距離に置いた場合を基準とした、距離に対する露光時間の関係を示す特性図である。FIG. 8 is a characteristic diagram showing the relationship between the exposure time and the distance, based on the case where a subject having a certain reflectance is placed at a distance of 10 [cm]. 図9は、従来例に係るAE制御について簡易的に示す図である。FIG. 9 is a diagram simply showing the AE control according to the conventional example. 図10は、従来例に係るAE制御における露光時間の計算について簡易的に示す図である。FIG. 10 is a diagram simply showing the calculation of the exposure time in the AE control according to the conventional example. 図11は、本開示の第1実施形態に係るAE制御について簡易的に示す図である。FIG. 11 is a diagram simply showing the AE control according to the first embodiment of the present disclosure. 図12は、本開示の第1実施形態に係るAE制御における露光時間の計算処理について簡易的に示す図である。FIG. 12 is a diagram simply showing the calculation process of the exposure time in the AE control according to the first embodiment of the present disclosure. 図13は、本開示の第1実施形態に係るAE制御についてのAE線図である。FIG. 13 is an AE diagram of the AE control according to the first embodiment of the present disclosure. 図14は、全信号値(平均値)に対するショットノイズの特性を示す特性図である。FIG. 14 is a characteristic diagram showing the characteristics of shot noise with respect to all signal values (average values). 図15は、全信号値(平均値)に対する反射光ノイズオフセットの特性を示す特性図である。FIG. 15 is a characteristic diagram showing the characteristics of the reflected light noise offset with respect to all signal values (average values). 図16は、本開示の第1実施形態に係るAE制御の具体的な処理の流れについて説明するためのフローチャートである。FIG. 16 is a flowchart for explaining a specific processing flow of AE control according to the first embodiment of the present disclosure. 図17は、現フレームのRAW撮像データ、及び、発光・露光条件に基づいて、次フレームの発光・露光条件を計算する処理の流れを示すフローチャートである。FIG. 17 is a flowchart showing a flow of processing for calculating the light emission / exposure conditions of the next frame based on the RAW image data of the current frame and the light emission / exposure conditions. 図18は、発光時間(露光時間)を制御する例を示すタイミングチャートである。FIG. 18 is a timing chart showing an example of controlling the light emission time (exposure time). 図19は、発光振幅(発光強度)を制御する例を示すタイミングチャートである。FIG. 19 is a timing chart showing an example of controlling the emission amplitude (emission intensity). 図20は、本開示の第2実施形態に係るAE制御についてのAE線図である。FIG. 20 is an AE diagram of the AE control according to the second embodiment of the present disclosure. 図21は、本開示の第2実施形態に係るAE制御の処理の流れについて説明するフローチャートである。FIG. 21 is a flowchart illustrating a flow of AE control processing according to the second embodiment of the present disclosure. 図22Aは、本開示の電子機器の具体例に係るスマートフォンの正面側から見た外観図であり、図22Bは、裏面側から見た外観図である。FIG. 22A is an external view of a smartphone according to a specific example of the electronic device of the present disclosure as viewed from the front side, and FIG. 22B is an external view as viewed from the back side.

以下、本開示の技術を実施するための形態(以下、「実施形態」と記述する)について図面を用いて詳細に説明する。本開示の技術は実施形態に限定されるものではなく、実施形態における種々の数値などは例示である。以下の説明において、同一要素又は同一機能を有する要素には同一符号を用いることとし、重複する説明は省略する。尚、説明は以下の順序で行う。
1.本開示の測距装置及び電子機器、全般に関する説明
2.ToF方式の測距システム
3.本開示の技術が適用される測距装置
3−1.システム構成
3−2.光検出部の構成例
3−3.画素の回路構成例
4.距離と信頼値(Confidence)のダイナミックについて
5.従来例に係るAE制御
6.第1実施形態に係るAE制御(遠景、近景、及び、超近景におけるAE制御の例)
6−1.露光時間の計算処理について
6−2.距離に応じたAE制御の仕組みについて
6−3.AE制御の具体的な処理の流れについて
6−4.発光・露光条件の制御について
7.第2実施形態に係るAE制御(超近景におけるAE制御の変形例)
8.変形例
9.応用例
10.本開示の電子機器(スマートフォンの例)
11.本開示がとることができる構成
Hereinafter, embodiments for carrying out the technique of the present disclosure (hereinafter, referred to as “embodiments”) will be described in detail with reference to the drawings. The technique of the present disclosure is not limited to the embodiment, and various numerical values and the like in the embodiment are examples. In the following description, the same reference numerals will be used for the same elements or elements having the same function, and duplicate description will be omitted. The explanation will be given in the following order.
1. 1. Description of the distance measuring device and electronic device of the present disclosure, and general description 2. ToF type ranging system 3. Distance measuring device to which the technology of the present disclosure is applied 3-1. System configuration 3-2. Configuration example of photodetector 3-3. Pixel circuit configuration example 4. About the dynamic of distance and confidence value (Confidence) 5. AE control according to the conventional example 6. AE control according to the first embodiment (example of AE control in distant view, near view, and super near view)
6-1. Exposure time calculation processing 6-2. About the mechanism of AE control according to the distance 6-3. Specific processing flow of AE control 6-4. Control of light emission / exposure conditions 7. AE control according to the second embodiment (a modified example of AE control in a super close view)
8. Modification example 9. Application example 10. Electronic device of the present disclosure (example of smartphone)
11. Configuration that can be taken by this disclosure

<本開示の測距装置及び電子機器、全般に関する説明>
本開示の測距装置及び電子機器にあっては、制御部について、光検出部が出力する信号値に基づいて露光制御を行う構成とすることができる。また、制御部について、光検出部が出力する現フレームの撮像データ、及び、発光・露光条件に基づいて、次フレームの発光・露光条件を制御する構成とすることができる。
<Explanation of the ranging device and electronic device of the present disclosure, in general>
In the distance measuring device and the electronic device of the present disclosure, the control unit may be configured to perform exposure control based on the signal value output by the photodetector. Further, the control unit can be configured to control the light emission / exposure conditions of the next frame based on the image pickup data of the current frame output by the light detection unit and the light emission / exposure conditions.

上述した好ましい構成を含む本開示の測距装置及び電子機器にあっては、制御部について、相対的に遠景の制御においては、指定した第1信頼値を維持するように露光制御を行う構成とすることができる。また、制御部について、相対的に近景の制御においては、指定した露光時間を維持するように露光制御を行う構成とすることができる。 In the distance measuring device and the electronic device of the present disclosure including the above-described preferable configuration, the control unit is configured to perform exposure control so as to maintain the specified first reliability value in the control of the relatively distant view. can do. Further, the control unit may be configured to perform exposure control so as to maintain a designated exposure time in the control of the relatively near view.

また、上述した好ましい構成を含む本開示の測距装置及び電子機器にあっては、制御部について、光検出部に入射する環境光成分と、被写体からの反射光成分とを分離し、反射光成分を制御対象とする構成とすることができる。また、制御部について、光検出器が出力する画像データを基に環境光成分を推定し、反射光成分と環境光成分とを分離する構成とすることができる。 Further, in the ranging device and the electronic device of the present disclosure including the above-mentioned preferable configuration, the control unit separates the ambient light component incident on the photodetection unit and the reflected light component from the subject, and the reflected light. The configuration can be such that the component is the control target. Further, the control unit can be configured to estimate the ambient light component based on the image data output by the photodetector and separate the reflected light component and the ambient light component.

また、上述した好ましい構成を含む本開示の測距装置及び電子機器にあっては、制御部について、反射光成分のノイズ量を、光検出部が出力する信号値を参照して適応的に制御する構成とすることができる。 Further, in the distance measuring device and the electronic device of the present disclosure including the above-mentioned preferable configuration, the noise amount of the reflected light component is adaptively controlled by referring to the signal value output by the photodetector in the control unit. It can be configured to be.

また、上述した好ましい構成を含む本開示の測距装置及び電子機器にあっては、光検出部の画素毎に検出した距離情報を含む現フレームの画像データを用いて距離画像を取得する処理を行う測距部を備える構成とすることができる。 Further, in the distance measuring device and the electronic device of the present disclosure including the above-described preferable configuration, a process of acquiring a distance image using the image data of the current frame including the distance information detected for each pixel of the photodetector is performed. It can be configured to include a distance measuring unit to perform.

また、上述した好ましい構成を含む本開示の測距装置及び電子機器にあっては、制御部について、相対的に超近景の制御においては、指定した第2信頼値を維持するように露光制御を行う構成とすることができる。超近景については、被写体までの距離(即ち、測距装置と被写体との間の距離)が、測距対象外の被写体の存在によって散乱光の影響が発生するような近い距離とすることができる。 Further, in the distance measuring device and the electronic device of the present disclosure including the above-mentioned preferable configuration, the exposure control is performed so as to maintain the specified second reliability value in the control of the relatively ultra-near view of the control unit. It can be configured to be performed. For ultra-near view, the distance to the subject (that is, the distance between the distance measuring device and the subject) can be set to such a short distance that the presence of the subject outside the distance measurement target causes the influence of scattered light. ..

<ToF方式の測距システム>
図1は、ToF方式の測距システムの概念図である。本例に係る測距装置1では、測定対象物である被写体10までの距離を測定する測定方式として、ToF方式が採用されている。ToF方式は、被写体10に向けて照射した光が、当該被写体10で反射されて戻ってくるまでの時間を測定する方式である。ToF方式による距離測定を実現するために、測距装置1は、被写体10に向けて照射する光(例えば、赤外の波長領域にピーク波長を有するレーザ光)を出射する光源20、及び、被写体10で反射されて戻ってくる反射光を検出する光検出部30を備えている。
<ToF distance measurement system>
FIG. 1 is a conceptual diagram of a ToF type distance measuring system. In the distance measuring device 1 according to this example, the ToF method is adopted as a measuring method for measuring the distance to the subject 10 which is a measurement target. The ToF method is a method of measuring the time until the light emitted toward the subject 10 is reflected by the subject 10 and returned. In order to realize the distance measurement by the ToF method, the distance measuring device 1 emits a light source 20 that emits light emitted toward the subject 10 (for example, a laser beam having a peak wavelength in the infrared wavelength region), and a subject. A light detection unit 30 for detecting the reflected light reflected by 10 and returned is provided.

<本開示の技術が適用される測距装置>
[システム構成]
図2は、本開示の技術が適用されるToF方式の測距装置の構成の一例を示すブロック図である。本適用例に係る測距装置1(即ち、本開示の測距装置1)は、光源20及び光検出部30の他に、光検出部30が出力する信号値に基づいて露光制御を行うAE制御部40、及び、測距部50を備えている。そして、本適用例に係るToF方式の測距装置1は、光検出部30の画素毎に距離情報を検出し、高精度な距離画像(Depth Map:深度マップ)を撮像フレームの単位で取得することができる。
<Distance measuring device to which the technology of the present disclosure is applied>
[System configuration]
FIG. 2 is a block diagram showing an example of the configuration of a ToF type distance measuring device to which the technique of the present disclosure is applied. The ranging device 1 according to the present application example (that is, the ranging device 1 of the present disclosure) performs exposure control based on the signal value output by the light detection unit 30 in addition to the light source 20 and the light detection unit 30. It includes a control unit 40 and a distance measuring unit 50. Then, the ToF type distance measuring device 1 according to this application example detects the distance information for each pixel of the photodetector 30, and acquires a highly accurate distance image (Deptth Map: depth map) in units of imaging frames. be able to.

本適用例に係る測距装置1は、光源20から発した光が測定対象物(被写体)で反射し、その反射光の光検出部30への到達位相差の検出に基づいて光飛行時間を計測することによって、測距装置1から測定対象物までの距離を測定する間接(Indirect)ToF方式の距離画像センサである。 In the distance measuring device 1 according to this application example, the light emitted from the light source 20 is reflected by the measurement object (subject), and the light flight time is determined based on the detection of the arrival phase difference of the reflected light to the light detection unit 30. It is an indirect ToF type distance image sensor that measures the distance from the distance measuring device 1 to the object to be measured by measuring.

光源20は、AE制御部40による制御の下に、オン/オフ動作を所定の周期で繰り返すことによって測定対象物に向けて光を照射する。光源20の照射光としては、例えば、850nm付近の近赤外光が利用されることが多い。光検出部30は、光源20からの照射光が測定対象物で反射されて戻ってくる光を受光し、画素毎に距離情報を検出する。光検出部30からは、画素毎に検出した距離情報を含む現フレームのRAW画像データ、及び、発光・露光設定情報が出力され、AE制御部40及び測距部50に供給される。 Under the control of the AE control unit 40, the light source 20 irradiates light toward the object to be measured by repeating an on / off operation at a predetermined cycle. As the irradiation light of the light source 20, for example, near-infrared light in the vicinity of 850 nm is often used. The light detection unit 30 receives the light emitted from the light source 20 after being reflected by the object to be measured and returns, and detects the distance information for each pixel. The light detection unit 30 outputs the RAW image data of the current frame including the distance information detected for each pixel and the light emission / exposure setting information, and supplies the RAW image data to the AE control unit 40 and the distance measuring unit 50.

AE制御部40は、次フレーム発光・露光条件計算部41及び次フレーム発光・露光制御部42を有する構成となっている。次フレーム発光・露光条件計算部41は、光検出部30から供給される現フレームのRAW画像データ、及び、発光・露光設定情報に基づいて、次フレームの発光・露光条件を計算する。次フレームの発光・露光条件は、次フレームの距離画像を取得する際の光源20の発光時間や発光強度、及び、光検出部30の露光時間である。次フレーム発光・露光制御部42は、次フレーム発光・露光条件計算部41で算出された次フレームの発光・露光条件に基づいて、次フレームの光源20の発光時間や発光強度、及び、光検出部30の露光時間を制御する。 The AE control unit 40 has a configuration including a next frame light emission / exposure condition calculation unit 41 and a next frame light emission / exposure control unit 42. The next frame emission / exposure condition calculation unit 41 calculates the emission / exposure condition of the next frame based on the RAW image data of the current frame supplied from the light detection unit 30 and the emission / exposure setting information. The light emission / exposure conditions for the next frame are the light emission time and light emission intensity of the light source 20 when acquiring the distance image of the next frame, and the exposure time of the photodetector 30. The next frame emission / exposure control unit 42 detects the emission time, emission intensity, and light detection of the light source 20 of the next frame based on the emission / exposure conditions of the next frame calculated by the next frame emission / exposure condition calculation unit 41. The exposure time of the part 30 is controlled.

測距部50は、距離画像を計算する距離画像計算部51を有する構成となっている。距離画像計算部51は、光検出部30の画素毎に検出した距離情報を含む現フレームのRAW画像データを用いて計算を行うことによって距離画像を算出し、奥行き情報である深度情報、及び、受光情報である信頼値情報を含む距離画像情報として測距装置1外へ出力する。ここで、距離画像とは、例えば、画素毎に検出した距離情報に基づく距離値(深度/奥行きの値)がそれぞれ画素に反映された画像である。 The distance measuring unit 50 has a configuration including a distance image calculation unit 51 for calculating a distance image. The distance image calculation unit 51 calculates the distance image by performing the calculation using the RAW image data of the current frame including the distance information detected for each pixel of the light detection unit 30, and the depth information which is the depth information and the depth information and It is output to the outside of the distance measuring device 1 as distance image information including the reliability value information which is the received light information. Here, the distance image is, for example, an image in which a distance value (depth / depth value) based on the distance information detected for each pixel is reflected in each pixel.

[光検出部の構成例]
ここで、光検出部30の具体的な構成例について、図3を用いて説明する。図3は、光検出部30の構成の一例を示すブロック図である。
[Configuration example of photodetector]
Here, a specific configuration example of the photodetector 30 will be described with reference to FIG. FIG. 3 is a block diagram showing an example of the configuration of the photodetector 30.

光検出部30は、センサチップ31、及び、当該センサチップ31に対して積層された回路チップ32を含む積層構造を有している。この積層構造において、センサチップ31と回路チップ32とは、ビア(VIA)やCu−Cu接合などの接続部(図示せず)を通して電気的に接続される。尚、図3では、センサチップ31の配線と回路チップ32の配線とが、上記の接続部を介して電気的に接続された状態を図示している。 The photodetector 30 has a laminated structure including a sensor chip 31 and a circuit chip 32 laminated to the sensor chip 31. In this laminated structure, the sensor chip 31 and the circuit chip 32 are electrically connected through a connecting portion (not shown) such as a via (VIA) or a Cu-Cu junction. Note that FIG. 3 illustrates a state in which the wiring of the sensor chip 31 and the wiring of the circuit chip 32 are electrically connected via the above-mentioned connection portion.

センサチップ31上には、画素アレイ部33が形成されている。画素アレイ部33は、センサチップ31上に2次元のグリッドパターンで行列状(アレイ状)に配置された複数の画素34を含んでいる。画素アレイ部33において、複数の画素34はそれぞれ、入射光(例えば、近赤外光)を受光し、光電変換を行ってアナログ画素信号を出力する。画素アレイ部33には、画素列毎に、2本の垂直信号線VSL1,VSL2が配線されている。画素アレイ部33の画素列の数をM(Mは、整数)とすると、合計で(2×M)本の垂直信号線VSLが画素アレイ部33に配線されている。 A pixel array unit 33 is formed on the sensor chip 31. The pixel array unit 33 includes a plurality of pixels 34 arranged in a matrix (array shape) in a two-dimensional grid pattern on the sensor chip 31. In the pixel array unit 33, each of the plurality of pixels 34 receives incident light (for example, near-infrared light), performs photoelectric conversion, and outputs an analog pixel signal. Two vertical signal lines VSL 1 and VSL 2 are wired in the pixel array unit 33 for each pixel row. Assuming that the number of pixel rows of the pixel array unit 33 is M (M is an integer), a total of (2 × M) vertical signal lines VSL are wired to the pixel array unit 33.

複数の画素34はそれぞれ、第1のタップA及び第2のタップB(その詳細については後述する)を有している。2本の垂直信号線VSL1,VSL2のうち、垂直信号線VSL1には、対応する画素列の画素34の第1のタップAの電荷に基づくアナログの画素信号AINP1が出力される。また、垂直信号線VSL2には、対応する画素列の画素34の第2のタップBの電荷に基づくアナログの画素信号AINP2が出力される。アナログの画素信号AINP1,AINP2については後述する。 Each of the plurality of pixels 34 has a first tap A and a second tap B (details thereof will be described later). Of the two vertical signal lines VSL 1 and VSL 2 , the vertical signal line VSL 1 outputs an analog pixel signal AIN P1 based on the charge of the first tap A of the pixel 34 of the corresponding pixel sequence. Further, an analog pixel signal AIN P2 based on the charge of the second tap B of the pixel 34 of the corresponding pixel string is output to the vertical signal line VSL 2 . The analog pixel signals AIN P1 and AIN P2 will be described later.

回路チップ32上には、行選択部35、カラム信号処理部36、出力回路部37、及び、タイミング制御部38が配置されている。行選択部35は、画素アレイ部33の各画素34を画素行の単位で駆動し、画素信号AINP1,AINP2を出力させる。行選択部35による駆動の下に、選択行の画素34から出力されたアナログの画素信号AINP1,AINP2は、2本の垂直信号線VSL1,VSL2を通してカラム信号処理部36に供給される。 A row selection unit 35, a column signal processing unit 36, an output circuit unit 37, and a timing control unit 38 are arranged on the circuit chip 32. The row selection unit 35 drives each pixel 34 of the pixel array unit 33 in units of pixel rows, and outputs pixel signals AIN P1 and AIN P2 . Under the drive of the row selection unit 35, the analog pixel signals AIN P1 and AIN P2 output from the pixel 34 of the selected row are supplied to the column signal processing unit 36 through the two vertical signal lines VSL 1 and VSL 2. To.

カラム信号処理部36は、画素アレイ部33の画素列に対応して、例えば、画素列毎に設けられた複数のアナログ−デジタル変換器(ADC)39を有する構成となっている。アナログ−デジタル変換器39は、垂直信号線VSL1,VSL2を通して供給されるアナログの画素信号AINP1,AINP2に対して、アナログ−デジタル変換処理を施し、出力回路部37に出力する。出力回路部37は、カラム信号処理部36から出力されるデジタル化された画素信号AINP1,AINP2に対してCDS(Correlated Double Sampling:相関二重サンプリング)処理などを実行し、回路チップ32外へ出力する。 The column signal processing unit 36 has a configuration having, for example, a plurality of analog-to-digital converters (ADCs) 39 provided for each pixel array corresponding to the pixel array of the pixel array unit 33. The analog-to-digital converter 39 performs analog-to-digital conversion processing on the analog pixel signals AIN P1 and AIN P2 supplied through the vertical signal lines VSL 1 and VSL 2 , and outputs them to the output circuit unit 37. The output circuit unit 37 executes CDS (Correlated Double Sampling) processing or the like on the digitized pixel signals AIN P1 and AIN P2 output from the column signal processing unit 36, and outside the circuit chip 32. Output to.

タイミング制御部38は、各種のタイミング信号、クロック信号、及び、制御信号等を生成し、これらの信号を基に、行選択部35、カラム信号処理部36、及び、出力回路部37等の駆動制御を行う。 The timing control unit 38 generates various timing signals, clock signals, control signals, etc., and drives the row selection unit 35, the column signal processing unit 36, the output circuit unit 37, etc. based on these signals. Take control.

[画素の回路構成例]
図4は、光検出部30における画素34の回路構成の一例を示す回路図である。
[Example of pixel circuit configuration]
FIG. 4 is a circuit diagram showing an example of the circuit configuration of the pixel 34 in the photodetector 30.

本例に係る画素34は、光電変換部として、例えば、フォトダイオード341を有している。画素34は、フォトダイオード341の他、オーバーフロートランジスタ342、2つの転送トランジスタ343,344、2つのリセットトランジスタ345,346、2つの浮遊拡散層347,348、2つの増幅トランジスタ349、350、及び、2つの選択トランジスタ351,352を有する構成となっている。2つの浮遊拡散層347,348は、先述した図3に示す第1,第2のタップA,B(以下、単に、「タップA,B」と記述する場合がある)に相当する。 The pixel 34 according to this example has, for example, a photodiode 341 as a photoelectric conversion unit. In addition to the photodiode 341, the pixel 34 includes overflow transistors 342, two transfer transistors 343, 344, two reset transistors 345, 346, two floating diffusion layers 347, 348, two amplification transistors 349, 350, and two. It has a configuration having one selection transistor 351 and 352. The two floating diffusion layers 347 and 348 correspond to the first and second taps A and B (hereinafter, may be simply referred to as "tap A and B") shown in FIG. 3 described above.

フォトダイオード341は、受光した光を光電変換して電荷を生成する。フォトダイオード341については、例えば、基板裏面側から照射される光を取り込む裏面照射型の画素構造とすることができる。但し、画素構造については、裏面照射型の画素構造に限られるものではなく、基板表面側から照射される光を取り込む表面照射型の画素構造とすることもできる。 The photodiode 341 photoelectrically converts the received light to generate an electric charge. The photodiode 341 may have, for example, a back-illuminated pixel structure that captures light emitted from the back surface side of the substrate. However, the pixel structure is not limited to the back-illuminated pixel structure, and a surface-irradiated pixel structure that captures the light emitted from the surface side of the substrate can also be used.

オーバーフロートランジスタ342は、フォトダイオード341のカソード電極と電源電圧VDDの電源ラインとの間に接続されており、フォトダイオード341をリセットする機能を持つ。具体的には、オーバーフロートランジスタ342は、行選択部35から供給されるオーバーフローゲート信号OFGに応答して導通状態になることで、フォトダイオード341の電荷をシーケンシャルに電源電圧VDDの電源ラインに排出する。 The overflow transistor 342 is connected between the cathode electrode of the photodiode 341 and the power supply line of the power supply voltage V DD , and has a function of resetting the photodiode 341. Specifically, the overflow transistor 342 becomes conductive in response to the overflow gate signal OFG supplied from the row selection unit 35, so that the electric charge of the photodiode 341 is sequentially discharged to the power supply line of the power supply voltage V DD. To do.

2つの転送トランジスタ343,344は、フォトダイオード341のカソード電極と2つの浮遊拡散層347,348(タップA,B)のそれぞれとの間に接続されている。そして、転送トランジスタ343,344は、行選択部35から供給される転送信号TRGに応答して導通状態になることで、フォトダイオード341で生成された電荷を、浮遊拡散層347,348にそれぞれシーケンシャルに転送する。 The two transfer transistors 343 and 344 are connected between the cathode electrode of the photodiode 341 and each of the two floating diffusion layers 347 and 348 (tap A, B). Then, the transfer transistors 343 and 344 are brought into a conductive state in response to the transfer signal TRG supplied from the row selection unit 35, so that the electric charges generated by the photodiode 341 are sequentially transferred to the floating diffusion layers 347 and 348, respectively. Transfer to.

第1,第2のタップA,Bに相当する浮遊拡散層347,348は、フォトダイオード341から転送された電荷を蓄積し、その電荷量に応じた電圧値の電圧信号に変換し、アナログの画素信号AINP1,AINP2を生成する。 The floating diffusion layers 347 and 348 corresponding to the first and second taps A and B accumulate the electric charge transferred from the photodiode 341 and convert it into a voltage signal having a voltage value corresponding to the amount of the electric charge. Generates pixel signals AIN P1 and AIN P2 .

2つのリセットトランジスタ345,346は、2つの浮遊拡散層347,348のそれぞれと電源電圧VDDの電源ラインとの間に接続されている。そして、リセットトランジスタ345,346は、行選択部35から供給されるリセット信号RSTに応答して導通状態になることで、浮遊拡散層347,348のそれぞれから電荷を引き抜いて、電荷量を初期化する。 The two reset transistors 345 and 346 are connected between each of the two floating diffusion layers 347 and 348 and the power supply line of the power supply voltage V DD . Then, the reset transistors 345 and 346 are brought into a conductive state in response to the reset signal RST supplied from the row selection unit 35, so that charges are extracted from each of the floating diffusion layers 347 and 348 to initialize the charge amount. To do.

2つの増幅トランジスタ349、350は、電源電圧VDDの電源ラインと2つの選択トランジスタ351,352のそれぞれとの間に接続されており、浮遊拡散層347,348のそれぞれで電荷から電圧に変換された電圧信号をそれぞれ増幅する。 The two amplification transistors 349 and 350 are connected between the power supply line of the power supply voltage V DD and each of the two selection transistors 351 and 352, and are converted from electric charge to voltage by the floating diffusion layers 347 and 348, respectively. Each voltage signal is amplified.

2つの選択トランジスタ351,352は、2つの増幅トランジスタ349、350のそれぞれと垂直信号線VSL1,VSL2のそれぞれとの間に接続されている。そして、選択トランジスタ351,352は、行選択部35から供給される選択信号SELに応答して導通状態になることで、増幅トランジスタ349、350のそれぞれで増幅された電圧信号を、アナログの画素信号AINP1,AINP2として2本の垂直信号線VSL1,VSL2に出力する。 The two selection transistors 351 and 352 are connected between the two amplification transistors 349 and 350 and the vertical signal lines VSL 1 and VSL 2 , respectively. Then, the selection transistors 351 and 352 enter a conductive state in response to the selection signal SEL supplied from the row selection unit 35, so that the voltage signals amplified by the amplification transistors 349 and 350 are converted into analog pixel signals. Output to two vertical signal lines VSL 1 and VSL 2 as AIN P1 and AIN P2 .

2本の垂直信号線VSL1,VSL2は、画素列毎に、カラム信号処理部36内の1つのアナログ−デジタル変換器39の入力端に接続されており、画素列毎に画素34から出力されるアナログの画素信号AINP1,AINP2をアナログ−デジタル変換器39に伝送する。 The two vertical signal lines VSL 1 and VSL 2 are connected to the input end of one analog-to-digital converter 39 in the column signal processing unit 36 for each pixel row, and are output from the pixel 34 for each pixel row. The analog pixel signals AIN P1 and AIN P2 are transmitted to the analog-to-digital converter 39.

尚、画素34の回路構成については、光電変換によってアナログの画素信号AINP1,AINP2を生成することができる回路構成であれば、図3に例示した回路構成に限定されるものではない。 The circuit configuration of the pixel 34 is not limited to the circuit configuration illustrated in FIG. 3 as long as it can generate analog pixel signals AIN P1 and AIN P2 by photoelectric conversion.

ここで、ToF方式による距離の算出について図5を用いて説明する。図5は、ToF方式の測距装置1における距離の算出について説明するためのタイミング波形図である。ToF方式の測距装置1における光源20及び光検出部30は、図5のタイミング波形図に示すタイミングで動作する。 Here, the calculation of the distance by the ToF method will be described with reference to FIG. FIG. 5 is a timing waveform diagram for explaining the calculation of the distance in the ToF type distance measuring device 1. The light source 20 and the light detection unit 30 in the ToF type distance measuring device 1 operate at the timing shown in the timing waveform diagram of FIG.

光源20は、AE制御部40による制御の下に、所定の期間、例えば、パルス発光時間Tpの期間だけ、測定対象物に対して光を照射する。光源20から発せられた照射光は、測定対象物で反射されて戻ってくる。この反射光(active光)が、フォトダイオード341によって受光される。測定対象物への照射光の照射が開始されてから、フォトダイオード341が反射光を受光する時間、即ち、光飛行時間は、測距装置1から測定対象物までの距離に応じた時間となる。 Light source 20, under control by the AE control unit 40 for a predetermined period, for example, only during the period of the pulse emission time T p, for irradiating light to the object of measurement. The irradiation light emitted from the light source 20 is reflected by the object to be measured and returned. This reflected light (active light) is received by the photodiode 341. The time for the photodiode 341 to receive the reflected light after the irradiation of the irradiation light to the measurement object is started, that is, the light flight time is the time corresponding to the distance from the distance measuring device 1 to the measurement object. ..

図4において、フォトダイオード341は、照射光の照射が開始された時点から、パルス発光時間Tpの期間だけ、測定対象物からの反射光を受光する。このとき、フォトダイオード341が受光する光には、測定対象物に照射された光が、当該測定対象物で反射されて戻ってくる反射光(active光)の他に、物体や大気などで反射・散乱された環境光(ambient光)も含まれている。 In FIG. 4, the photodiode 341 receives the reflected light from the object to be measured for a period of pulse emission time T p from the time when the irradiation of the irradiation light is started. At this time, as the light received by the photodiode 341, the light radiated to the object to be measured is reflected by an object, the atmosphere, or the like in addition to the reflected light (active light) that is reflected by the object to be measured and returned.・ Scattered ambient light is also included.

1回の受光の際に、フォトダイオード341で光電変換された電荷が、タップA(浮遊拡散層347)に転送され、蓄積される。そして、タップAから、浮遊拡散層347に蓄積した電荷量に応じた電圧値の信号n0が取得される。タップAの蓄積タイミングが終了した時点で、フォトダイオード341で光電変換された電荷が、タップB(浮遊拡散層348)に転送され、蓄積される。そして、タップBから、浮遊拡散層348に蓄積した電荷量に応じた電圧値の信号n1が取得される。 At the time of one light reception, the charge photoelectrically converted by the photodiode 341 is transferred to the tap A (floating diffusion layer 347) and accumulated. Then, a signal n 0 of a voltage value corresponding to the amount of electric charge accumulated in the floating diffusion layer 347 is acquired from the tap A. When the accumulation timing of the tap A is completed, the charge photoelectrically converted by the photodiode 341 is transferred to the tap B (suspended diffusion layer 348) and accumulated. Then, a signal n 1 having a voltage value corresponding to the amount of electric charge accumulated in the floating diffusion layer 348 is acquired from the tap B.

このように、タップA及びタップBに対して、蓄積タイミングの位相を180度異ならせた駆動(位相を全く逆にした駆動)が行われることで、信号n0及び信号n1がそれぞれ取得される。そして、このような駆動が複数回繰り返され、信号n0及び信号n1の蓄積、積算が行われることで、蓄積信号N0及び蓄積信号N1がそれぞれ取得される。 In this way, the tap A and the tap B are driven by 180 degrees out of phase of the accumulation timing (driving with the phases completely reversed), so that the signal n 0 and the signal n 1 are acquired, respectively. To. Then, such driving is repeated a plurality of times, and the signal n 0 and the signal n 1 are accumulated and integrated to acquire the accumulated signal N 0 and the accumulated signal N 1 , respectively.

例えば、1つの画素34について、1つのフェーズに2回受光が行われ、タップA及びタップBに4回ずつ、即ち、0度、90度、180度、270度の信号が蓄積される。このようにして取得した蓄積信号N0及び蓄積信号N1を基に、測距装置1から測定対象物までの距離Dが算出される。 For example, for one pixel 34, light reception is performed twice in one phase, and signals of 0 degree, 90 degree, 180 degree, and 270 degree are accumulated in tap A and tap B four times each. The distance D from the distance measuring device 1 to the object to be measured is calculated based on the stored signal N 0 and the stored signal N 1 acquired in this way.

蓄積信号N0及び蓄積信号N1には、測定対象物で反射されて戻ってくる反射光(active光)の成分の他に、物体や大気などで反射・散乱された環境光(ambient光)の成分も含まれている。従って、上述した動作では、この環境光(ambient光)の成分の影響を除き、反射光(active光)の成分を残すため、環境光に基づく信号n2に関しても蓄積、積算が行われ、環境光成分についての蓄積信号N2が取得される。 In addition to the components of the reflected light (active light) that is reflected by the object to be measured and returned, the stored signal N 0 and the stored signal N 1 include ambient light that is reflected and scattered by an object or the atmosphere. Ingredients are also included. Therefore, in the above-mentioned operation, in order to remove the influence of the component of the ambient light and leave the component of the reflected light (active light), the signal n 2 based on the ambient light is also accumulated and integrated, and the environment. The accumulated signal N 2 for the light component is acquired.

このようにして取得された、環境光成分を含む蓄積信号N0及び蓄積信号N1、並びに、環境光成分についての蓄積信号N2を用いて、以下の式(1)及び式(2)に基づく演算処理により、測距装置1から測定対象物までの距離Dを算出することができる。 Using the storage signal N 0 and the storage signal N 1 including the ambient light component and the storage signal N 2 for the ambient light component obtained in this way, the following equations (1) and (2) are used. The distance D from the distance measuring device 1 to the object to be measured can be calculated by the arithmetic processing based on the above.

Figure 2020139937
Figure 2020139937

Figure 2020139937
Figure 2020139937

式(1)及び式(2)において、Dは測距装置1から測定対象物までの距離を表し、cは光速を表し、Tpはパルス発光時間を表している。 In the formulas (1) and (2), D represents the distance from the distance measuring device 1 to the object to be measured, c represents the speed of light, and T p represents the pulse emission time.

図2に示した距離画像計算部51は、環境光成分を含む蓄積信号N0及び蓄積信号N1、並びに、環境光成分についての蓄積信号N2を用いて、光検出部30から出力される、上記した式(1)及び式(2)に基づく演算処理により、測距装置1から測定対象物までの距離Dを算出し、距離画像情報として出力する。距離画像情報としては、例えば、距離Dに応じた濃度の色で色付けされた画像情報を例示することができる。尚、ここでは、算出した距離Dを距離画像情報として出力するとしたが、算出した距離Dをそのまま距離情報として出力するようにしてもよい。 The distance image calculation unit 51 shown in FIG. 2 is output from the photodetection unit 30 by using the storage signal N 0 and the storage signal N 1 including the ambient light component and the storage signal N 2 for the ambient light component. The distance D from the distance measuring device 1 to the object to be measured is calculated by the arithmetic processing based on the above equations (1) and (2), and is output as the distance image information. As the distance image information, for example, image information colored with a color having a density corresponding to the distance D can be exemplified. Although the calculated distance D is output as the distance image information here, the calculated distance D may be output as the distance information as it is.

<距離と信頼値(Confidence)のダイナミックについて>
ところで、点光源からの光強度は、点光源からの距離の2乗に反比例して減衰することが知られている。本実施形態に係る測距装置1において、タップA及びタップBに蓄積された0度、90度、180度、270度の信号の場合の光検出部30の信号値と距離との関係を図6に示す。図6において、破線が0度の信号の場合を、点線が90度の信号の場合を、一点鎖線が180度の信号の場合を、実線が270度の信号の場合をそれぞれ表している。この特性図から明らかなように、光強度に基づく光検出部30の信号値が、距離の2乗に反比例して減衰することがわかる。
<Dynamic distance and confidence>
By the way, it is known that the light intensity from a point light source is attenuated in inverse proportion to the square of the distance from the point light source. In the distance measuring device 1 according to the present embodiment, the relationship between the signal value of the photodetector 30 and the distance in the case of 0-degree, 90-degree, 180-degree, and 270-degree signals stored in the tap A and the tap B is shown. Shown in 6. In FIG. 6, the broken line represents a signal of 0 degrees, the dotted line represents a signal of 90 degrees, the alternate long and short dash line represents a signal of 180 degrees, and the solid line represents a signal of 270 degrees. As is clear from this characteristic diagram, it can be seen that the signal value of the photodetector 30 based on the light intensity is attenuated in inverse proportion to the square of the distance.

シンプルなモデルでは、信号値は、次式で表される。
信号値=発光源の振幅×露光時間(=発光時間)×被写体の反射率×定数
ここで、定数は、その他(発光源の振幅、露光時間、及び、被写体の反射率以外)の変換係数である。
但し、AEの制御対象となる露光時間と信号値とは線形の関係にある。
In a simple model, the signal value is expressed by:
Signal value = Amplitude of light emitting source x Exposure time (= Light emission time) x Reflectance of subject x Constant Here, the constant is a conversion coefficient of other (other than amplitude of light emitting source, exposure time, and reflectance of subject). is there.
However, the exposure time to be controlled by the AE and the signal value have a linear relationship.

図7に、タップA及びタップBの0度、90度、180度、270度の信号から計算して作成したIQ平面の信頼値(Confidence)についての信号値と距離との関係を示す。ここで、「信頼値」とは、光検出部30の受光情報であり、光源20から出射(照射)された光が、測定対象物(被写体)で反射されて光検出部30に戻ってくる反射光(active光)の量(度合い)のことである。図7において、実線が信頼値を表し、点線がI値(=dm0−dm2)を表し、破線がQ値(=dm1−dm3)を表している。dmの詳細については後述する。 FIG. 7 shows the relationship between the signal value and the distance with respect to the confidence value (Confidence) of the IQ plane calculated from the signals of 0 degrees, 90 degrees, 180 degrees, and 270 degrees of tap A and tap B. Here, the "reliability value" is the light reception information of the photodetector 30, and the light emitted (irradiated) from the light source 20 is reflected by the measurement object (subject) and returned to the photodetector 30. It is the amount (degree) of reflected light (active light). In FIG. 7, the solid line represents the confidence value, the dotted line represents the I value (= dm 0 −dm 2 ), and the broken line represents the Q value (= dm 1 −dm 3 ). The details of dm will be described later.

図8に、ある反射率の被写体(測定対象物)を10[cm]の距離に置いた場合を基準とした、距離に対する露光時間(発光時間)の関係を示す。図8の特性図は、例えば、1000[μsec]の露光時間の下で、同じ反射率の被写体を徐々に遠ざけたとき、50[cm]の距離では、約2500[μsec]の時間の照射が必要であることを表している。 FIG. 8 shows the relationship of the exposure time (emission time) with respect to the distance based on the case where the subject (measurement object) having a certain reflectance is placed at a distance of 10 [cm]. In the characteristic diagram of FIG. 8, for example, when a subject having the same reflectance is gradually moved away under an exposure time of 1000 [μsec], irradiation for a time of about 2500 [μsec] is performed at a distance of 50 [cm]. Indicates that it is necessary.

図8の特性図では、距離に対する信頼値の比(Confidence比)は、31.6[cm]で1/1000倍となる。これは、ある反射率の被写体を10[cm]の距離に置き、露光時間を1[msec]とした場合に得られる信頼値と、同じ反射率の被写体を31.6[cm]の距離に置き、露光時間を1000[msec]とした場合に得られる信頼値とが同じであることを意味する。 In the characteristic diagram of FIG. 8, the ratio of the confidence value to the distance (Confidence ratio) is 31.6 [cm], which is 1/1000 times. This is the same as the reliability value obtained when a subject with a certain reflectance is placed at a distance of 10 [cm] and the exposure time is set to 1 [msec], and a subject with the same reflectance is set at a distance of 31.6 [cm]. It means that the reliability value obtained when the exposure time is set to 1000 [msec] is the same.

<従来例に係るAE制御>
従来例に係るAE制御では、常に最大のSN比が得られるようにするために、飽和しないギリギリの状態(飽和閾値に限りなく近い状態)にするための露光時間を計算し、当該露光時間に基づいて制御を行うようにしている。従来例に係るAE制御について、図9に簡易的に示す。従来例に係るAE制御では、反射光(active光)+環境光(ambient光)を制御ターゲットとし、現フレームの制御ターゲットが飽和閾値よりも低ければ、次フレームの制御ターゲットを飽和閾値に限りなく近づける制御が行われる。
<AE control according to the conventional example>
In the AE control according to the conventional example, in order to always obtain the maximum SN ratio, the exposure time for achieving a non-saturated state (a state as close as possible to the saturation threshold) is calculated, and the exposure time is set to the exposure time. I try to control based on. FIG. 9 briefly shows the AE control according to the conventional example. In the AE control according to the conventional example, the reflected light (active light) + ambient light (ambient light) is set as the control target, and if the control target of the current frame is lower than the saturation threshold, the control target of the next frame is unlimitedly limited to the saturation threshold. Control to bring them closer is performed.

従来例に係るAE制御における露光時間の計算について、図10に簡易的に示す。図10において、cmは、反射光(active光)及び環境光(ambient光)に関して、タップAとタップBの小さい方(本例では、タップB)の共通部分であり、|dm|は、反射光(active光)に関して、タップAとタップBの大きい方と小さい方の差分の絶対値である。また、飽和閾値(Saturation Threshold)、目標制御レベル(target_controllable_level)、目標制御ギャップ(target_controllable_gap)、及び、ダークオフセット(dark_offset)は、パラメータであり、共通部分cm、差分の絶対値|dm|、反射光(active光)、及び、環境光(ambient光)は、観測値である。ここで、目標制御ギャップ(target_controllable_gap)は、
target_controllable_gap=target_controllable_level−dark_offset
である。
FIG. 10 briefly shows the calculation of the exposure time in the AE control according to the conventional example. In FIG. 10, cm is the intersection of the smaller tap A and tap B (tap B in this example) with respect to the reflected light (active light) and the ambient light (ambient light), and | dm | is the reflection. It is the absolute value of the difference between the larger and smaller taps A and B with respect to light (active light). Further, the saturation threshold (Saturation Threshold), the target control level (target_controllable_level), the target control gap (target_controllable_gap), and the dark offset (dark_offset) are parameters, and the intersection cm, the absolute value of the difference | dm |, the reflected light. (Active light) and ambient light (ambient light) are observed values. Where the target control gap (target_controllable_gap) is
target_controllable_gap = target_controllable_level−dark_offset
Is.

<第1実施形態に係るAE制御>
ToF方式の測距装置1は、カメラ機能を備える電子機器、例えば、スマートフォン、デジタルカメラ、タブレット、パーソナルコンピュータ等のモバイル機器に搭載して用いることができる。そして、測距装置1のAE制御では、高品質な距離画像を取得するために、飽和閾値をターゲットとして、当該飽和閾値を超えない範囲で最大の信頼値(Confidence)レベルを取得できるように制御することを目的としている。
<AE control according to the first embodiment>
The ToF type ranging device 1 can be mounted on an electronic device having a camera function, for example, a mobile device such as a smartphone, a digital camera, a tablet, or a personal computer. Then, in the AE control of the distance measuring device 1, in order to acquire a high-quality distance image, the saturation threshold value is targeted and controlled so that the maximum confidence value (Confidence) level can be acquired within a range not exceeding the saturation threshold value. The purpose is to do.

しかしながら、特にモバイル機器に搭載する測距装置にあっては、モバイル機器の消費電力の許容限界や手振れの影響で、レーザ光の照射時間を長く設定できなかったり、光源20のレーザ出力強度の設定限界などにより、光源20から測距範囲の全区間に対して光の照射を行うことができない。その結果、従来例に係るAE制御では、測距範囲の一部の区間、例えば近距離の一部の区間でしかAE制御が効かない(即ち、AE制御による露光変動が起こらない)という状況にあった。 However, especially in the distance measuring device mounted on the mobile device, the irradiation time of the laser beam cannot be set long or the laser output intensity of the light source 20 can be set due to the influence of the power consumption tolerance limit and the camera shake of the mobile device. Due to a limit or the like, it is not possible to irradiate the entire section of the distance measuring range from the light source 20 with light. As a result, in the AE control according to the conventional example, the AE control is effective only in a part of the distance measuring range, for example, a part of the short distance (that is, the exposure fluctuation due to the AE control does not occur). there were.

そこで、本開示の第1実施形態に係るAE制御では、光源20から測距範囲のより広い区間に対して光を十分に照射し、測距範囲のより広い区間に亘ってAE制御が効く(即ち、AE制御による露光変動が起こる)ようにする。より具体的には、第1実施形態に係るAE制御では、指定した信頼値(Confidence)を常に維持することを目的とし、反射光(active光)の部分を制御対象として、反射光の光量が常に一定になるようにするための露光時間を計算し、当該露光時間に基づいて制御を行うようにする。 Therefore, in the AE control according to the first embodiment of the present disclosure, light is sufficiently irradiated from the light source 20 to a wider section of the ranging range, and the AE control is effective over the wider section of the ranging range (). That is, the exposure fluctuation due to the AE control occurs). More specifically, in the AE control according to the first embodiment, the amount of reflected light is reduced by controlling the reflected light (active light) portion for the purpose of always maintaining the specified confidence value (Confidence). The exposure time for keeping the exposure constant is calculated, and the control is performed based on the exposure time.

本開示の第1実施形態に係るAE制御について、図11に簡易的に示す。反射光の部分を制御対象とする場合、反射光成分と環境光成分とを分離することが必要になる。光源20をオフ状態にして、同一露光時間で撮像することで、環境光成分を個別に取得することができる。第1実施形態では、光検出器30のRAW画像データを基に環境光成分を推定し、反射光成分と環境光成分とを分離する方法を採用することとする。但し、この方法に限定されるものではない。 The AE control according to the first embodiment of the present disclosure is briefly shown in FIG. When the reflected light portion is to be controlled, it is necessary to separate the reflected light component and the ambient light component. By turning off the light source 20 and taking an image at the same exposure time, the ambient light components can be individually acquired. In the first embodiment, a method of estimating the ambient light component based on the RAW image data of the photodetector 30 and separating the reflected light component and the ambient light component is adopted. However, the method is not limited to this method.

(露光時間の計算処理について)
本開示の第1実施形態に係るAE制御における露光時間の計算処理について、図12に簡易的に示す。図12において、cmは、反射光及び環境光に関して、タップAとタップBの小さい方(本例では、タップB)の共通部分であり、|dm|は、反射光に関して、タップAとタップBの大きい方と小さい方の差分の絶対値である。また、飽和閾値(Saturation Threshold)、目標制御レベル(target_controllable_level)、目標制御ギャップ(target_controllable_gap)、反射光ノイズオフセット(active_noise_offset)、目標反射光レベル(target_active_level)、及び、ダークオフセット(dark_offset)は、パラメータであり、共通部分cm、差分の絶対値|dm|、反射光、及び、環境光は、観測値である。ここで、目標制御ギャップ(target_controllable_gap)は、
target_controllable_gap=target_controllable_level−dark_offset
である。
(About the calculation process of exposure time)
FIG. 12 briefly shows the calculation process of the exposure time in the AE control according to the first embodiment of the present disclosure. In FIG. 12, cm is the intersection of the smaller tap A and tap B (tap B in this example) with respect to reflected light and ambient light, and | dm | is tap A and tap B with respect to reflected light. It is the absolute value of the difference between the larger and smaller of. In addition, saturation threshold (Saturation Threshold), target control level (target_controllable_level), target control gap (target_controllable_gap), reflected light noise offset (active_noise_offset), target reflected light level (target_active_level), and dark offset (dark_offset) are parameters. Yes, the common part cm, the absolute value of the difference | dm |, the reflected light, and the ambient light are observed values. Where the target control gap (target_controllable_gap) is
target_controllable_gap = target_controllable_level−dark_offset
Is.

ここで、タップAとタップBの大きい方と小さい方の差分dmについて説明する。タップAの0度、90度、180度、270度の信号値をTapA0、TapA1、TapA2、TapA3とし、タップBの0度、90度、180度、270度の信号値をTapB0、TapB1、TapB2、TapB3とするとき、
dm0=TapA0−TapB0
dm1=TapA1−TapB1
dm2=TapA2−TapB2
dm3=TapA3−TapB3
と表すことができる。
Here, the difference dm between the larger tap A and the smaller tap B will be described. The signal values of 0 degrees, 90 degrees, 180 degrees, and 270 degrees of tap A are set to TapA 0 , TapA 1 , TapA 2 , and TapA 3, and the signal values of tap B at 0 degrees, 90 degrees, 180 degrees, and 270 degrees are TapB. When 0 , TapB 1 , TapB 2 , TapB 3
dm 0 = TapA 0 −TapB 0
dm 1 = TapA 1 − TapB 1
dm 2 = TapA 2- TapB 2
dm 3 = TapA 3- TapB 3
It can be expressed as.

上記のdm0,dm1,dm2,dm3を基に、
I=dm0−dm2
の計算式からI値を求めてX軸にとり、
Q=dm1−dm3
の計算式からQ値を求めてY軸にとり、IQ平面(図7参照)を作成する。図7には、タップA及びタップBの0度、90度、180度、270度の信号から計算したIQ平面の信頼値についての信号値と距離との関係を示している。また、信頼値について、
信頼値=|I|+|Q|
と表すことができる。
Based on the above dm 0 , dm 1 , dm 2 , dm 3
I = dm 0 −dm 2
Find the I value from the formula of
Q = dm 1 − dm 3
Obtain the Q value from the formula of and take it on the Y axis to create an IQ plane (see FIG. 7). FIG. 7 shows the relationship between the signal value and the distance with respect to the reliability value of the IQ plane calculated from the signals of 0 degree, 90 degree, 180 degree, and 270 degree of tap A and tap B. Also, regarding the reliability value
Confidence value = | I | + | Q |
It can be expressed as.

反射光の光量が常に一定になるようにするための露光時間の計算に当たっては、タップAとタップBの大きい方と小さい方の差分dmに相当する測定値(measured_active)を求める。差分dmに相当する測定値(measured_active)については、差分dmの平均値、あるいは、所定の関心領域(ROI:Region Of Interest)内の信頼値の平均値を当該測定値として求めることができる。そして、求めた測定値、並びに、目標制御ギャップ(target_controllable_gap)、目標反射光レベル(target_active_level)、及び、反射光ノイズオフセット(active_noise_offset)等のパラメータを用いて、所定の演算式に基づいて次フレームの積分係数を求め、当該積分係数及び現フレームの露光時間(current_exposure_time)から次フレームの露光時間(next_exposure_time)を求める。 In calculating the exposure time so that the amount of reflected light is always constant, a measured value (measured_active) corresponding to the difference dm between the larger and smaller taps A and B is obtained. As for the measured value (measured_active) corresponding to the difference dm, the average value of the difference dm or the average value of the reliability values in a predetermined region of interest (ROI) can be obtained as the measured value. Then, using the obtained measured values and parameters such as the target control gap (target_controllable_gap), the target reflected light level (target_active_level), and the reflected light noise offset (active_noise_offset), the next frame is based on a predetermined calculation formula. The integration coefficient is obtained, and the exposure time (next_exposure_time) of the next frame is obtained from the integration coefficient and the exposure time (current_exposure_time) of the current frame.

(距離に応じたAE制御の仕組みについて)
図13は、本開示の第1実施形態に係るAE制御についてのAE線図である。第1実施形態では、測距装置1と被写体(測定対象物)との間の距離に応じて制御を分けるAE制御の仕組みとなっており、その距離に応じた制御は、大きくは、区間A、区間B、及び、区間Cの3区間の制御に分けられる。区間Aは、測距装置1と被写体との間の距離が相対的に遠い、所謂、遠景の場合の制御である。区間Bは、測距装置1と被写体との間の距離が相対的に近い、所謂、近景の場合の制御である。区間Cは、測距装置1と被写体との間の距離が非常に近い、所謂、超近景の場合の制御である。
(About the mechanism of AE control according to the distance)
FIG. 13 is an AE diagram of the AE control according to the first embodiment of the present disclosure. In the first embodiment, the control is divided according to the distance between the distance measuring device 1 and the subject (measurement object), and the control according to the distance is largely the section A. , Section B, and section C are divided into three sections. The section A is a control in the case of a so-called distant view, in which the distance between the distance measuring device 1 and the subject is relatively long. The section B is a control in the case of a so-called near view, in which the distance between the distance measuring device 1 and the subject is relatively short. The section C is a control in the case of a so-called ultra-near view in which the distance between the distance measuring device 1 and the subject is very short.

図13のAE線図において、縦軸は、次フレームの露光時間を表し、横軸は、光検出部30の最大タップmaxtapの信号値[LSB]を表している。最大タップmaxtapは、
maxtap=max{cm[i]+|dm[i]|}
で与えられる。ここで、i=0〜3である。また、図6の特性図から明らかなように、光強度に基づく光検出部30の信号値が、距離の2乗に反比例して減衰することから、横軸の信号値[LSB]は、測距装置1と被写体との間の距離に対応していることになる。そして、第1実施形態に係るAE制御では、光検出部30が出力する信号値に基づいて、測距部50での深度情報(奥行き情報)の取得に最適な制御値(露光時間)を算出して露光制御を行う。
In the AE diagram of FIG. 13, the vertical axis represents the exposure time of the next frame, and the horizontal axis represents the signal value [LSB] of the maximum tap maxtap of the photodetector 30. The maximum tap max tap is
maxtap = max {cm [i] + | dm [i] |}
Given in. Here, i = 0 to 3. Further, as is clear from the characteristic diagram of FIG. 6, since the signal value of the photodetector 30 based on the light intensity is attenuated in inverse proportion to the square of the distance, the signal value [LSB] on the horizontal axis is measured. This corresponds to the distance between the distance device 1 and the subject. Then, in the AE control according to the first embodiment, the optimum control value (exposure time) for acquiring the depth information (depth information) in the distance measuring unit 50 is calculated based on the signal value output by the light detection unit 30. The exposure is controlled.

第1実施形態に係るAE制御において、区間A(遠景)の制御では、制御パラメータ(閾値)として指定した第1信頼値(目標反射光レベル(target_active_level)−反射光ノイズオフセット(active_noise_offset)を維持し、最低限のSN比の距離画像(Depth Map:深度マップ)を得るための処理が行われる。具体的には、区間Aにおける信号値−露光時間の特性が、図13に記載の式で与えられる勾配slopの直線(線形)となるように制御が行われる。 In the AE control according to the first embodiment, in the control of the section A (distant view), the first confidence value (target reflected light level (target_active_level) -reflected light noise offset (active_noise_offset) specified as the control parameter (threshold value) is maintained. , Processing is performed to obtain a distance image (Deepth Map: depth map) with the minimum SN ratio. Specifically, the characteristic of signal value-exposure time in section A is given by the formula shown in FIG. The control is performed so that the gradient slop is a straight line (linear).

区間B(近景)の制御では、指定した典型的な露光時間を維持し、高SN比の距離画像を得るための処理が行われる。具体的には、区間Aで求めた勾配slopの直線(図中、点線で示す直線)から、典型的な露光時間に乗り換え、信号値(距離)に対して一定の露光時間となるように制御が行われる。これにより、近景が重要なアプリケーションに対して、指定した最低値以上の信頼値を確保することができる。 In the control of the section B (near view), processing is performed to maintain a designated typical exposure time and obtain a distance image having a high SN ratio. Specifically, the straight line of the gradient slop obtained in the section A (the straight line indicated by the dotted line in the figure) is changed to a typical exposure time, and the exposure time is controlled to be constant with respect to the signal value (distance). Is done. As a result, it is possible to secure a reliability value equal to or higher than a specified minimum value for an application in which a near view is important.

区間C(超近景)の制御では、飽和閾値を超える飽和画素が出始めてくるため、従来例に係るAE制御の場合のように、飽和画素率によって露光時間を下げる制御が行われる。ここで、「飽和画素率」とは、最適化したい所定の関心領域(ROI)における総画素数に対する、飽和閾値を超える飽和画素の比率である。 In the control of the section C (ultra-near view), saturated pixels exceeding the saturation threshold value start to appear. Therefore, as in the case of the AE control according to the conventional example, the exposure time is reduced according to the saturation pixel ratio. Here, the "saturated pixel ratio" is the ratio of saturated pixels exceeding the saturation threshold to the total number of pixels in a predetermined region of interest (ROI) to be optimized.

また、第1実施形態に係るAE制御では、反射光(active光)成分のノイズ量を、光検出部30が出力する信号値を参照して適応的に制御するようにしている。具体的には、第1実施形態に係るAE制御では、反射光(active光)成分のノイズ量は、光検出部30のショットノイズと線形の関係にあると仮定し、図12に示す反射光ノイズオフセット(active_noise_offset)について適応的に制御を行うようにしている。図14に、全信号値(平均値)に対するショットノイズの特性図を示し、図15に、全信号値(平均値)に対する反射光ノイズオフセットの特性図を示す。 Further, in the AE control according to the first embodiment, the noise amount of the reflected light (active light) component is adaptively controlled with reference to the signal value output by the photodetector 30. Specifically, in the AE control according to the first embodiment, it is assumed that the noise amount of the reflected light (active light) component has a linear relationship with the shot noise of the light detection unit 30, and the reflected light shown in FIG. The noise offset (active_noise_offset) is controlled adaptively. FIG. 14 shows a characteristic diagram of shot noise with respect to all signal values (average value), and FIG. 15 shows a characteristic diagram of reflected light noise offset with respect to all signal values (average value).

この反射光ノイズオフセットの適応的制御では、図15に示すように、ダークオフセットのときの反射光ノイズオフセット(active_noise_offset[0])と、飽和閾値相当のときの反射光ノイズオフセット(active_noise_offset[1])とを設定し、両者間で反射光ノイズオフセットを線形に遷移させる制御が行われる。このように、反射光ノイズオフセットについて適応的な制御を行うことにより、屋内と屋外でノイズの大きさが異なったとしても、ノイズの大きさの影響を受けることなく、良好なAE制御を行うことができる。 In this adaptive control of the reflected light noise offset, as shown in FIG. 15, the reflected light noise offset (active_noise_offset [0]) at the time of dark offset and the reflected light noise offset (active_noise_offset [1]) at the time corresponding to the saturation threshold are used. ) And is set, and control is performed to linearly transition the reflected light noise offset between the two. By performing adaptive control of the reflected light noise offset in this way, even if the noise magnitude differs between indoors and outdoors, good AE control can be performed without being affected by the noise magnitude. Can be done.

以上説明したことから明らかなように、本開示の第1実施形態に係るAE制御によれば、光源20から測距範囲のより広い区間に対して光を十分に照射し、測距範囲のより広い区間に亘ってAE制御が効くようになる。ここで、「AE制御が効く」とは、次のことを意味する。
・露光時間(発光時間)を制御することによって信頼値(Confidence)が一定になる。
・飽和閾値を超えないように制御することができる。
すなわち、本開示の第1実施形態に係るAE制御によれば、あるシーン(被写体までの距離、被写体の形状、被写体の反射率、環境光の光量、などの条件)で飽和閾値を超える可能性があったとしても、飽和閾値を超えないように制御することができる。
As is clear from the above description, according to the AE control according to the first embodiment of the present disclosure, light is sufficiently irradiated from the light source 20 to a wider section of the ranging range, and the distance measuring range is increased. AE control will be effective over a wide section. Here, "the AE control is effective" means the following.
-By controlling the exposure time (light emission time), the confidence value (Confidence) becomes constant.
-It can be controlled so as not to exceed the saturation threshold.
That is, according to the AE control according to the first embodiment of the present disclosure, there is a possibility that the saturation threshold value may be exceeded in a certain scene (conditions such as the distance to the subject, the shape of the subject, the reflectance of the subject, the amount of ambient light, etc.). Even if there is, it can be controlled so as not to exceed the saturation threshold.

また、本開示の第1実施形態に係るAE制御によれば、近景については、遠景とは別制御とすることで、本測距装置1を、例えば後述するように、スマートフォン等のモバイル機器に搭載した場合に、ジェスチャーアプリケーションなどで重要な測距区間について、SN比を維持できるようになる、という効果を得ることができる。 Further, according to the AE control according to the first embodiment of the present disclosure, the near view is controlled separately from the distant view, so that the distance measuring device 1 can be used as a mobile device such as a smartphone, as will be described later. When it is installed, it is possible to obtain the effect that the SN ratio can be maintained for an important distance measuring section in a gesture application or the like.

(AE制御の具体的な処理の流れについて)
本開示の第1実施形態に係るAE制御の具体的な処理の流れについて、図16のフローチャートを用いて説明する。ここに例示するAE制御の処理は、図2に示すAE制御部40における処理である。図2では、AE制御部40が次フレーム発光・露光条件計算部41及び次フレーム発光・露光制御部42から成る構成としたが、次フレーム発光・露光条件計算部41及び次フレーム発光・露光制御部42の各機能をプロセッサによって実現する構成とすることもできる。
(About the specific processing flow of AE control)
A specific processing flow of AE control according to the first embodiment of the present disclosure will be described with reference to the flowchart of FIG. The AE control process exemplified here is the process in the AE control unit 40 shown in FIG. In FIG. 2, the AE control unit 40 is composed of the next frame emission / exposure condition calculation unit 41 and the next frame emission / exposure control unit 42, but the next frame emission / exposure condition calculation unit 41 and the next frame emission / exposure control Each function of the unit 42 may be realized by a processor.

以下では、次フレーム発光・露光条件計算部41及び次フレーム発光・露光制御部42の各機能をプロセッサによって実現する構成の場合において、AE制御部40を構成するプロセッサによる制御の下に、AE制御の処理が実行されることとする。 In the following, in the case where each function of the next frame light emission / exposure condition calculation unit 41 and the next frame light emission / exposure control unit 42 is realized by a processor, AE control is performed under the control of the processor constituting the AE control unit 40. Process is to be executed.

AE制御部40を構成するプロセッサ(以下、単に「プロセッサ」と記述する)は、AE制御処理の終了か否かを判断し(ステップS11)、終了でなければ(S11のNO)、現フレームのRAW撮像データ、及び、発光・露光条件を光検出部30から取得する(ステップS12)。現フレームのRAW撮像データ、及び、発光・露光条件は、現フレームの撮像時における光源20の発光時間や発光強度、及び、光検出部30の露光時間である。 The processor constituting the AE control unit 40 (hereinafter, simply referred to as “processor”) determines whether or not the AE control process is completed (step S11), and if not (NO in S11), the current frame The RAW imaging data and the light emission / exposure conditions are acquired from the photodetector 30 (step S12). The RAW imaging data of the current frame and the light emission / exposure conditions are the light emission time and emission intensity of the light source 20 at the time of imaging of the current frame, and the exposure time of the photodetector 30.

次に、プロセッサは、取得した現フレームのRAW撮像データ、及び、発光・露光条件に基づいて、次フレームの発光・露光条件を計算する(ステップS13)。次フレームの発光・露光条件は、次フレームの撮像時における光源20の発光時間や発光強度、及び、光検出部30の露光時間である。ステップS13の具体的な処理の詳細については後述する。 Next, the processor calculates the light emission / exposure condition of the next frame based on the acquired RAW image data of the current frame and the light emission / exposure condition (step S13). The light emission / exposure conditions of the next frame are the light emission time and light emission intensity of the light source 20 at the time of imaging of the next frame, and the exposure time of the photodetector 30. The details of the specific processing in step S13 will be described later.

次に、プロセッサは、ステップS13の処理で算出された次フレームの発光・露光条件を光源20に通知し(ステップS14)、ステップS11に戻って、ステップS11からステップS14までの処理を、ステップS11の処理において、AE制御処理が終了と判断するまで繰り返して実行する。そして、プロセッサは、ステップS11の処理において、AE制御処理が終了(S11のYES)であれば、AE制御のための上述した一連の処理を終了する。 Next, the processor notifies the light source 20 of the light emission / exposure condition of the next frame calculated in the process of step S13 (step S14), returns to step S11, and performs the processes from step S11 to step S14 in step S11. In the process of, the AE control process is repeatedly executed until it is determined that the process is completed. Then, if the AE control process is completed (YES in S11) in the process of step S11, the processor ends the series of processes described above for the AE control.

続いて、ステップS13の具体的な処理、即ち、現フレームのRAW撮像データ、及び、発光・露光条件に基づいて、次フレームの発光・露光条件を計算する処理の詳細について、図17のフローチャートを用いて説明する。 Next, the flowchart of FIG. 17 is shown for details of the specific process of step S13, that is, the process of calculating the light emission / exposure condition of the next frame based on the RAW image data of the current frame and the light emission / exposure condition. It will be described using.

プロセッサは、図16のステップS12の処理で取得した現フレームのRAW撮像データに基づいて、最適化したい所定の関心領域(ROI)における総画素数に対する飽和画素の比率である飽和画素率を計算する(ステップS21)。次に、プロセッサは、飽和画素率が、あらかじめ設定した比率を上回るか否かを判断し(ステップS22)、上回ると判定した場合(S22のYES)、飽和時の次フレームの発光・露光条件を計算する(ステップS23)。飽和画素率があらかじめ設定した比率を上回る場合、即ち、飽和画素が相対的に多い場合は、リニアリティが崩れ、最適な露光時間を計算することが難しくなるため、ステップS23では単純に露光時間を短くする処理が行われる。 The processor calculates the saturated pixel ratio, which is the ratio of saturated pixels to the total number of pixels in a predetermined region of interest (ROI) to be optimized, based on the RAW imaging data of the current frame acquired in the process of step S12 of FIG. (Step S21). Next, the processor determines whether or not the saturated pixel ratio exceeds the preset ratio (step S22), and if it determines that the saturation pixel ratio exceeds (YES in S22), the light emission / exposure condition of the next frame at the time of saturation is determined. Calculate (step S23). When the saturated pixel ratio exceeds a preset ratio, that is, when the number of saturated pixels is relatively large, the linearity is lost and it becomes difficult to calculate the optimum exposure time. Therefore, in step S23, the exposure time is simply shortened. Processing is performed.

プロセッサは、飽和画素率があらかじめ設定した比率を上回らないと判定した場合(S22のNO)、図16のステップS12の処理で取得した現フレームの発光・露光条件に基づいて、次フレームの発光・露光条件を計算する(ステップS24)。ステップS24の処理では、先述した「露光時間の計算処理について」及び、「距離に応じたAE制御の仕組みについて」の項で述べた処理の下に、最適な露光時間(発光時間)の計算及び距離に応じたAE制御が行われる。 When the processor determines that the saturation pixel ratio does not exceed the preset ratio (NO in S22), the light emission of the next frame is emitted based on the emission / exposure conditions of the current frame acquired in the process of step S12 of FIG. The exposure conditions are calculated (step S24). In the process of step S24, the optimum exposure time (emission time) is calculated and the optimum exposure time (emission time) is calculated based on the processes described in the above-mentioned "exposure time calculation process" and "AE control mechanism according to distance". AE control is performed according to the distance.

プロセッサは、ステップS23の処理後、又は、ステップS24の処理後、図16のフローに戻り、ステップS14の処理に移行する。 After the process of step S23 or the process of step S24, the processor returns to the flow of FIG. 16 and proceeds to the process of step S14.

(発光・露光条件の制御について)
発光・露光条件を制御する具体例としては、次の2つを例示することができる。
・発光時間(露光時間)を制御する例
図18は、発光時間(露光時間)を制御する例を示すタイミングチャートである。この制御例では、図18に示すように、発光間隔を制御することによって発光・露光条件を制御することができる。
・発光振幅(発光強度)を制御する例
図19は、発光振幅(発光強度)を制御する例を示すタイミングチャートである。この制御例では、図19に示すように、発光振幅、即ち、発光強度を制御することによって発光・露光条件を制御することができる。
(Control of light emission / exposure conditions)
The following two can be exemplified as specific examples of controlling the light emission / exposure conditions.
-Example of controlling the light emission time (exposure time) FIG. 18 is a timing chart showing an example of controlling the light emission time (exposure time). In this control example, as shown in FIG. 18, the light emission / exposure conditions can be controlled by controlling the light emission interval.
-Example of controlling the emission amplitude (emission intensity) FIG. 19 is a timing chart showing an example of controlling the emission amplitude (emission intensity). In this control example, as shown in FIG. 19, the emission / exposure conditions can be controlled by controlling the emission amplitude, that is, the emission intensity.

<第2実施形態に係るAE制御>
ところで、ToF方式の測距装置では、非常に近距離に測距対象外の物体(例えば、障害物)が存在している状態で測距を行おうとすると、測距対象の被写体が存在していない領域でも、近距離の測距対象外の物体からの散乱光を受光してしまい、当該散乱光に起因して誤検出が発生する場合がある。
<AE control according to the second embodiment>
By the way, in the ToF type distance measuring device, when an object other than the distance measurement target (for example, an obstacle) exists at a very short distance and the distance measurement is performed, the subject to be distance measurement exists. Even in a region that does not exist, scattered light from an object that is not subject to distance measurement at a short distance may be received, and erroneous detection may occur due to the scattered light.

そこで、第2実施形態では、散乱光の影響が発生してしまうような極めて近距離(例えば、20cm程度の距離)に、測距対象外の物体が存在する環境においても、測距対象の被写体及びその背景について、正確な測距を可能とするAE制御を行うようにする。具体的には、第2実施形態に係るAE制御では、被写体までの距離が、測距対象外の物体の存在によって散乱光の影響が発生するような極めて近距離である超近景の制御においては、信頼値の上限を第2信頼値(制御パラメータ/閾値)として定義し、当該第2信頼値を維持するようにAE制御を行うようにする。 Therefore, in the second embodiment, even in an environment where an object other than the distance measurement target exists at an extremely short distance (for example, a distance of about 20 cm) where the influence of scattered light is generated, the subject to be distance-measured. And the background thereof, AE control that enables accurate distance measurement is performed. Specifically, in the AE control according to the second embodiment, in the control of the ultra-near view, the distance to the subject is an extremely short distance such that the influence of scattered light is generated by the presence of an object other than the distance measurement target. , The upper limit of the reliability value is defined as the second reliability value (control parameter / threshold value), and the AE control is performed so as to maintain the second reliability value.

ここで、制御パラメータ/閾値としての第2信頼値については、一例として、第1実施形態に係るAE制御における遠景の制御の場合の第1信頼値よりも高い信頼値とする(第1信頼値<第2信頼値)。そして、超近景の制御においては、近距離の測距対象外の物体からの散乱光の光量を抑制するように、露光時間(又は、発光強度)に制御を反映させるようにする。第2実施形態に係るAE制御についてのAE線図を図20に示す。 Here, the second reliability value as the control parameter / threshold value is, as an example, a higher reliability value than the first reliability value in the case of distant view control in the AE control according to the first embodiment (first reliability value). <Second confidence value). Then, in the control of the ultra-near view, the control is reflected in the exposure time (or emission intensity) so as to suppress the amount of scattered light from an object that is not subject to distance measurement at a short distance. FIG. 20 shows an AE diagram of the AE control according to the second embodiment.

尚、ここでは、第2信頼値として、第1信頼値よりも高い信頼値を指定するとしたが、使用ケースに応じて(例えば、遠距離の制御が不要な場合)、第1信頼値=第2信頼値としてもよい。 Here, it is assumed that a higher reliability value than the first reliability value is specified as the second reliability value, but depending on the use case (for example, when long-distance control is not required), the first reliability value = first. 2 It may be a reliable value.

第2実施形態に係るAE制御の処理の流れについて、図21のフローチャートを用いて説明する。ここに例示するAE制御の処理は、図2に示すAE制御部40における処理である。以下では、AE制御部40の機能をプロセッサによって実現する構成の場合において、AE制御部40を構成するプロセッサによる制御の下に、第2実施形態に係るAE制御の処理が実行されることとする。 The flow of the AE control process according to the second embodiment will be described with reference to the flowchart of FIG. The AE control process exemplified here is the process in the AE control unit 40 shown in FIG. In the following, in the case of a configuration in which the function of the AE control unit 40 is realized by a processor, the AE control process according to the second embodiment is executed under the control of the processor constituting the AE control unit 40. ..

AE制御部40を構成するプロセッサ(以下、単に「プロセッサ」と記述する)は、先ず、次フレームの露光時間を計算し(ステップS31)、次いで、算出した露光時間が、指定した代表値(typical)を下回るか否かを判断する(ステップS32)。 The processor (hereinafter, simply referred to as “processor”) constituting the AE control unit 40 first calculates the exposure time of the next frame (step S31), and then the calculated exposure time is a designated representative value (typical). ) Is not included (step S32).

プロセッサは、ステップS31で算出した露光時間が代表値以上であると判断した場合には(S32のNO)、次フレームの露光時間としてステップS31での計算結果を採用する(ステップS33)。この制御は、区間A(遠景)の制御となる。そして、この遠景の制御により、制御パラメータ(閾値)として指定した第1信頼値を維持し、最低限のSN比の距離画像を得るための処理が行われる。具体的には、区間Aにおける信号値−露光時間の特性が、図20に記載の式で与えられる勾配slopの直線となるように制御が行われる。 When the processor determines that the exposure time calculated in step S31 is equal to or longer than the representative value (NO in S32), the processor adopts the calculation result in step S31 as the exposure time of the next frame (step S33). This control is the control of the section A (distant view). Then, by controlling the distant view, processing is performed to maintain the first confidence value specified as the control parameter (threshold value) and obtain a distance image having the minimum SN ratio. Specifically, control is performed so that the characteristic of the signal value-exposure time in the section A becomes a straight line of the gradient slop given by the equation shown in FIG.

プロセッサは、ステップS31で算出した露光時間が代表値を下回ると判断した場合には(S32のYES)、続いて、信頼値が、制御パラメータである閾値(=第2信頼値)以上であるか否かを判断する(ステップS34)。 If the processor determines that the exposure time calculated in step S31 is less than the representative value (YES in S32), then whether the confidence value is equal to or greater than the threshold value (= second confidence value) which is a control parameter. It is determined whether or not (step S34).

プロセッサは、信頼値が閾値を下回ると判断した場合(S34のNO)、次フレームの露光時間に代表値を適用する(ステップS35)。この制御は、区間B(近景)の制御となる。この近景の制御により、代表値として指定した露光時間を維持し、高SN比の距離画像を得るための処理、即ち、信号値(距離)に対して一定の露光時間となるような処理が行われる。これにより、近景が重要なアプリケーションに対して、指定した最低値以上の信頼値を確保することができる。 When the processor determines that the confidence value is below the threshold value (NO in S34), the processor applies the representative value to the exposure time of the next frame (step S35). This control is the control of the section B (near view). By controlling this near view, processing for maintaining the exposure time specified as a representative value and obtaining a distance image with a high SN ratio, that is, processing for achieving a constant exposure time with respect to the signal value (distance) is performed. Be told. As a result, it is possible to secure a reliability value equal to or higher than a specified minimum value for an application in which a near view is important.

プロセッサは、信頼値が閾値以上と判断した場合(S34のYES)、次フレームの露光時間を補正する、具体的には、露光時間を短くする制御を行う(ステップS36)。この制御は、区間C’の制御、即ち、超近景の制御となる。超近景については、被写体までの距離(即ち、測距装置と被写体との間の距離)が、測距対象外の物体の存在によって散乱光の影響が発生するような近い距離とすることができる。 When the processor determines that the reliability value is equal to or greater than the threshold value (YES in S34), the processor corrects the exposure time of the next frame, specifically, controls to shorten the exposure time (step S36). This control is the control of the section C', that is, the control of the super near view. For the ultra-near view, the distance to the subject (that is, the distance between the distance measuring device and the subject) can be set to such a short distance that the presence of an object not subject to distance measurement causes the influence of scattered light. ..

そして、超近景の制御では、制御パラメータ(閾値)として指定した第2信頼値を維持するように、露光時間を再び短くする露光制御が行われる。区間C’(超近景)の場合の露光時間の勾配slopは、区間A(遠景)の制御の場合の勾配slopと同じである。この超近景の制御により、散乱光の影響が発生してしまうような極めて近距離に、測距対象外の物体が存在する環境において、当該物体からの散乱光の光量を抑制することができる。 Then, in the control of the ultra-near view, the exposure control for shortening the exposure time again is performed so as to maintain the second confidence value specified as the control parameter (threshold value). The gradient slop of the exposure time in the case of the section C'(super near view) is the same as the gradient slop in the case of the control of the section A (distant view). By controlling this ultra-near view, it is possible to suppress the amount of scattered light from the object in an environment where an object other than the distance measurement target exists at an extremely short distance where the influence of the scattered light is generated.

測距対象外の物体が近くに存在する環境下では、散乱光の影響を受けるが、画面全体の信頼値を適切に制御することにより、散乱光の相対強度が低下する。従って、測距対象外の物体の存在によって散乱光の影響が発生するような超近景では、信頼値の上限を第2信頼値として定義し、当該第2信頼値を維持するようにAE制御を行うことで、測距対象外の物体からの散乱光の影響を抑えつつ、測距対象の被写体及びその背景について、正確な測距を行うことができる。 In an environment where an object not subject to distance measurement exists nearby, it is affected by scattered light, but the relative intensity of scattered light decreases by appropriately controlling the reliability value of the entire screen. Therefore, in a super-near view where the influence of scattered light is generated by the presence of an object not subject to distance measurement, the upper limit of the reliability value is defined as the second reliability value, and AE control is performed so as to maintain the second reliability value. By doing so, it is possible to perform accurate distance measurement on the subject and its background to be distanced while suppressing the influence of scattered light from an object not subject to distance measurement.

上述した第2実施形態に係るAE制御については、1撮像フレームの情報に基づいて実行される。通常、散乱光が発生しているのか、散乱光が発生している環境に実際に被写体が存在しているのかを、1撮像フレームの情報から判定することは困難であり、複数枚撮像を行ったり、散乱光除去フィルタを用いたりすることになる。 The AE control according to the second embodiment described above is executed based on the information of one imaging frame. Normally, it is difficult to determine from the information of one imaging frame whether scattered light is generated or whether the subject actually exists in the environment where scattered light is generated, and multiple images are taken. Or, a scattered light removal filter will be used.

第2実施形態に係るAE制御によれば、測距対象外の物体の存在によって散乱光の影響が発生するような超近景においても、複数枚撮像を行ったり、散乱光除去フィルタを用いたりすることなく、測距対象外の物体からの散乱光の影響を抑えつつ、適切な測距性能を維持することができる。超近景以外では、露光時間は長い方が、SN比を確保できるメリットがある。 According to the AE control according to the second embodiment, a plurality of images are taken or a scattered light removal filter is used even in a super close view in which the influence of scattered light is generated by the presence of an object not subject to distance measurement. Without this, it is possible to maintain appropriate distance measurement performance while suppressing the influence of scattered light from an object not subject to distance measurement. Except for the ultra-near view, the longer the exposure time, the more the SN ratio can be secured.

<変形例>
以上、本開示の技術について、好ましい実施形態に基づき説明したが、本開示の技術は当該実施形態に限定されるものではない。上記の各実施形態において説明した測距装置の構成、構造は例示であり、適宜、変更することができる。例えば、第1実施形態では、測距装置1と被写体(測定対象物)との間の距離に応じて制御を分けるに当たり、遠景、近景、超近景の3区間の制御としたが、これに限られるものではない。具体的には、大きくは、遠景、近景の2区間の制御とすることもできるし、遠景、近景を更に細分化して4区間以上の制御とすることもできる。
<Modification example>
The technique of the present disclosure has been described above based on the preferred embodiment, but the technique of the present disclosure is not limited to the embodiment. The configuration and structure of the distance measuring device described in each of the above embodiments are examples, and can be changed as appropriate. For example, in the first embodiment, when the control is divided according to the distance between the distance measuring device 1 and the subject (measurement object), the control is limited to three sections of distant view, near view, and super near view. It is not something that can be done. Specifically, it is possible to control two sections of a distant view and a near view, or it is possible to further subdivide the distant view and the near view to control four or more sections.

<応用例>
上記の各実施形態では、本開示の測距装置について、距離画像(深度マップ)を取得する手段として用いる場合を例に挙げて説明したが、単に距離画像を取得する手段として用いるだけでなく、自動的にカメラの焦点(ピント)を合わせるオートフォーカスに応用することができる。
<Application example>
In each of the above embodiments, the case where the distance measuring device of the present disclosure is used as a means for acquiring a distance image (depth map) has been described as an example, but it is not only used as a means for acquiring a distance image, but also. It can be applied to autofocus that automatically adjusts the focus of the camera.

<本開示の電子機器>
以上説明した本開示の測距装置は、種々の電子機器に搭載される測距装置として用いることができる。測距装置を搭載する電子機器としては、例えば、スマートフォン、デジタルカメラ、タブレット、パーソナルコンピュータ等のモバイル機器を例示することができる。但し、モバイル機器に限定されるものではない。ここでは、本開示の測距装置を搭載することができる電子機器(本開示の電子機器)の具体例として、スマートフォンを例示する。
<Electronic device of this disclosure>
The distance measuring device of the present disclosure described above can be used as a distance measuring device mounted on various electronic devices. Examples of electronic devices equipped with a distance measuring device include mobile devices such as smartphones, digital cameras, tablets, and personal computers. However, it is not limited to mobile devices. Here, a smartphone will be illustrated as a specific example of an electronic device (electronic device of the present disclosure) that can be equipped with the distance measuring device of the present disclosure.

本開示の電子機器の具体例に係るスマートフォンについて、正面側から見た外観図を図22Aに示し、裏面側から見た外観図を図22Bに示す。本具体例に係るスマートフォン100は、筐体110の正面側に表示部120を備えている。また、スマートフォン100は、例えば、筐体110の裏面側の上方部に撮像部130を備えている。 FIG. 22A shows an external view of a smartphone according to a specific example of the electronic device of the present disclosure as seen from the front side, and FIG. 22B shows an external view as seen from the back side. The smartphone 100 according to this specific example includes a display unit 120 on the front side of the housing 110. Further, the smartphone 100 is provided with an image pickup unit 130 on the upper side of the back surface side of the housing 110, for example.

先述した本開示の第1実施形態又は第2実施形態に係る測距装置1は、例えば、上記の構成のモバイル機器の一例であるスマートフォン100に搭載して用いることができる。この場合、測距装置1の光源20及び光検出部30については、例えば図22Bに示すように、撮像部130の近傍に配置することができる。但し、図22Bに示す光源20及び光検出部30の配置例は、一例であって、この配置例に限られるものではない。 The distance measuring device 1 according to the first embodiment or the second embodiment of the present disclosure described above can be mounted on, for example, a smartphone 100 which is an example of a mobile device having the above configuration. In this case, the light source 20 and the light detection unit 30 of the distance measuring device 1 can be arranged in the vicinity of the imaging unit 130, for example, as shown in FIG. 22B. However, the arrangement example of the light source 20 and the light detection unit 30 shown in FIG. 22B is an example, and is not limited to this arrangement example.

上述したように、本具体例に係るスマートフォン100は、本開示の第1実施形態又は第2実施形態に係る測距装置1を搭載することによって作製される。そして、本具体例に係るスマートフォン100は、上記の測距装置1を搭載することにより、測距範囲のより広い区間に亘って、良好な距離画像(深度マップ)を取得することができるとともに、散乱光が発生してしまうような近距離に、測距対象外の被写体が存在する環境においても、測距対象の被写体の正確な測距を行うことができる。 As described above, the smartphone 100 according to the specific example is manufactured by mounting the distance measuring device 1 according to the first embodiment or the second embodiment of the present disclosure. Then, by mounting the above-mentioned distance measuring device 1 on the smartphone 100 according to the specific example, a good distance image (depth map) can be acquired over a wider section of the distance measuring range, and a good distance image (depth map) can be acquired. Even in an environment where a subject other than the distance measurement target exists at a short distance where scattered light is generated, accurate distance measurement of the distance measurement target subject can be performed.

<本開示がとることができる構成>
尚、本開示は、以下のような構成をとることもできる。
<Structure that can be taken by this disclosure>
The present disclosure may also have the following configuration.

≪A.測距装置≫
[A−1]被写体に対して光を照射する光源、
光源からの照射光に基づく、被写体からの反射光を受光する光検出部、及び、
測距装置と被写体との間の距離に応じて露光制御を行う制御部を備える、
測距装置。
[A−2]制御部は、光検出部が出力する信号値に基づいて露光制御を行う、
上記[A−1]に記載の測距装置。
[A−3]制御部は、光検出部が出力する現フレームの撮像データ、及び、発光・露光条件に基づいて、次フレームの発光・露光条件を制御する、
上記[A−2]に記載の測距装置。
[A−4]制御部は、相対的に遠景の制御においては、指定した第1信頼値を維持するように露光制御を行う、
上記[A−3]に記載の測距装置。
[A−5]制御部は、相対的に近景の制御においては、指定した露光時間を維持するように露光制御を行う、
上記[A−3]に記載の測距装置。
[A−6]制御部は、光検出部に入射する環境光成分と、被写体からの反射光成分とを分離し、反射光成分を制御対象とする、
上記[A−4]又は上記[A−5]に記載の測距装置。
[A−7]制御部は、光検出器が出力する画像データを基に環境光成分を推定し、反射光成分と環境光成分とを分離する、
上記[A−6]に記載の測距装置。
[A−8]制御部は、反射光成分のノイズ量を、光検出部が出力する信号値を参照して適応的に制御する、
上記[A−2]に記載の測距装置。
[A−9]光検出部の画素毎に検出した距離情報を含む現フレームの画像データを用いて距離画像情報を取得する処理を行う測距部を備える、
上記[A−1]乃至上記[A−8]のいずれかに記載の測距装置。
[A−10]制御部は、相対的に超近景の制御においては、指定した第2信頼値を維持するように露光制御を行う、
上記[A−3]に記載の測距装置。
[A−11]超近景は、被写体までの距離が、測距対象外の被写体の存在によって散乱光の影響が発生するような近い距離である、
上記[A−10]に記載の測距装置。
≪A. Distance measuring device ≫
[A-1] A light source that irradiates a subject with light,
A photodetector that receives reflected light from the subject based on the light emitted from the light source, and
A control unit that controls exposure according to the distance between the distance measuring device and the subject is provided.
Distance measuring device.
[A-2] The control unit performs exposure control based on the signal value output by the photodetector.
The distance measuring device according to the above [A-1].
[A-3] The control unit controls the light emission / exposure conditions of the next frame based on the imaging data of the current frame output by the photodetector and the light emission / exposure conditions.
The distance measuring device according to the above [A-2].
[A-4] The control unit performs exposure control so as to maintain the specified first confidence value in the control of the relatively distant view.
The distance measuring device according to the above [A-3].
[A-5] The control unit performs exposure control so as to maintain the specified exposure time in the control of the relatively near view.
The distance measuring device according to the above [A-3].
[A-6] The control unit separates the ambient light component incident on the photodetector and the reflected light component from the subject, and controls the reflected light component.
The distance measuring device according to the above [A-4] or the above [A-5].
[A-7] The control unit estimates the ambient light component based on the image data output by the photodetector, and separates the reflected light component and the ambient light component.
The distance measuring device according to the above [A-6].
[A-8] The control unit adaptively controls the amount of noise of the reflected light component with reference to the signal value output by the photodetector.
The distance measuring device according to the above [A-2].
[A-9] The light detection unit includes a distance measuring unit that performs a process of acquiring distance image information using image data of the current frame including the distance information detected for each pixel.
The distance measuring device according to any one of the above [A-1] to the above [A-8].
The [A-10] control unit performs exposure control so as to maintain the specified second confidence value in the control of the relatively close view.
The distance measuring device according to the above [A-3].
[A-11] In the ultra-near view, the distance to the subject is such a short distance that the influence of scattered light is generated by the presence of the subject not subject to distance measurement.
The distance measuring device according to the above [A-10].

≪B.電子機器≫
[B−1]被写体に対して光を照射する光源、
光源からの照射光に基づく、被写体からの反射光を受光する光検出部、及び、
測距装置と被写体との間の距離に応じて露光制御を行う制御部を備える、
測距装置を有する電子機器。
[B−2]制御部は、光検出部が出力する信号値に基づいて露光制御を行う、
上記[B−1]に記載の電子機器。
[B−3]制御部は、光検出部が出力する現フレームの撮像データ、及び、発光・露光条件に基づいて、次フレームの発光・露光条件を制御する、
上記[B−2]に記載の電子機器。
[B−4]制御部は、相対的に遠景の制御においては、指定した第1信頼値を維持するように露光制御を行う、
上記[B−3]に記載の電子機器。
[B−5]制御部は、相対的に近景の制御においては、指定した露光時間を維持するように露光制御を行う、
上記[B−3]に記載の電子機器。
[B−6]制御部は、光検出部に入射する環境光成分と、被写体からの反射光成分とを分離し、反射光成分を制御対象とする、
上記[B−4]又は上記[B−5]に記載の電子機器。
[B−7]制御部は、光検出器が出力する画像データを基に環境光成分を推定し、反射光成分と環境光成分とを分離する、
上記[B−6]に記載の電子機器。
[B−8]制御部は、反射光成分のノイズ量を、光検出部が出力する信号値を参照して適応的に制御する、
上記[B−2]に記載の電子機器。
[B−9]光検出部の画素毎に検出した距離情報を含む現フレームの画像データを用いて距離画像情報を取得する処理を行う測距部を備える、
上記[B−1]乃至上記[B−8]のいずれかに記載の電子機器。
[B−10]制御部は、相対的に超近景の制御においては、指定した第2信頼値を維持するように露光制御を行う、
上記[B−3]に記載の電子機器。
[B−11]超近景は、被写体までの距離が、測距対象外の被写体の存在によって散乱光の影響が発生するような近い距離である、
上記[B−10]に記載の電子機器。
≪B. Electronic equipment ≫
[B-1] A light source that irradiates a subject with light,
A photodetector that receives reflected light from the subject based on the light emitted from the light source, and
A control unit that controls exposure according to the distance between the distance measuring device and the subject is provided.
An electronic device that has a distance measuring device.
[B-2] The control unit performs exposure control based on the signal value output by the light detection unit.
The electronic device according to the above [B-1].
[B-3] The control unit controls the light emission / exposure conditions of the next frame based on the imaging data of the current frame output by the photodetector and the light emission / exposure conditions.
The electronic device according to the above [B-2].
[B-4] The control unit performs exposure control so as to maintain the specified first confidence value in the control of the relatively distant view.
The electronic device according to the above [B-3].
[B-5] The control unit performs exposure control so as to maintain a specified exposure time in the control of a relatively near view.
The electronic device according to the above [B-3].
[B-6] The control unit separates the ambient light component incident on the photodetector and the reflected light component from the subject, and controls the reflected light component.
The electronic device according to the above [B-4] or the above [B-5].
[B-7] The control unit estimates the ambient light component based on the image data output by the photodetector, and separates the reflected light component and the ambient light component.
The electronic device according to the above [B-6].
[B-8] The control unit adaptively controls the amount of noise of the reflected light component with reference to the signal value output by the photodetector.
The electronic device according to the above [B-2].
[B-9] The light detection unit includes a distance measuring unit that performs a process of acquiring distance image information using image data of the current frame including the distance information detected for each pixel.
The electronic device according to any one of the above [B-1] to the above [B-8].
The [B-10] control unit performs exposure control so as to maintain the specified second confidence value in the control of the relatively close view.
The electronic device according to the above [B-3].
[B-11] In the ultra-near view, the distance to the subject is such a short distance that the influence of scattered light is generated by the presence of the subject not subject to distance measurement.
The electronic device according to the above [B-10].

1・・・測距装置、10・・・被写体(測定対象物)、20・・・光源、30・・・光検出部、40・・・AE制御部、41・・・次フレーム発光・露光条件計算部、42・・・次フレーム発光・露光制御部、50・・・測距部、51・・・距離画像計算部 1 ... Distance measuring device, 10 ... Subject (measurement object), 20 ... Light source, 30 ... Light detection unit, 40 ... AE control unit, 41 ... Next frame light emission / exposure Condition calculation unit, 42 ... Next frame light emission / exposure control unit, 50 ... Distance measurement unit, 51 ... Distance image calculation unit

Claims (12)

被写体に対して光を照射する光源、
光源からの照射光に基づく、被写体からの反射光を受光する光検出部、及び、
測距装置と被写体との間の距離に応じて露光制御を行う制御部を備える、
測距装置。
A light source that illuminates the subject,
A photodetector that receives reflected light from the subject based on the light emitted from the light source, and
A control unit that controls exposure according to the distance between the distance measuring device and the subject is provided.
Distance measuring device.
制御部は、光検出部が出力する信号値に基づいて露光制御を行う、
請求項1に記載の測距装置。
The control unit performs exposure control based on the signal value output by the photodetector.
The ranging device according to claim 1.
制御部は、光検出部が出力する現フレームの撮像データ、及び、発光・露光条件に基づいて、次フレームの発光・露光条件を制御する、
請求項2に記載の測距装置。
The control unit controls the light emission / exposure conditions of the next frame based on the imaging data of the current frame output by the photodetector and the light emission / exposure conditions.
The ranging device according to claim 2.
制御部は、相対的に遠景の制御においては、指定した第1信頼値を維持するように露光制御を行う、
請求項3に記載の測距装置。
The control unit performs exposure control so as to maintain the specified first confidence value in the control of the relatively distant view.
The ranging device according to claim 3.
制御部は、相対的に近景の制御においては、指定した露光時間を維持するように露光制御を行う、
請求項3に記載の測距装置。
The control unit performs exposure control so as to maintain the specified exposure time in the control of the relatively near view.
The ranging device according to claim 3.
制御部は、光検出部に入射する環境光成分と、被写体からの反射光成分とを分離し、反射光成分を制御対象とする、
請求項4に記載の測距装置。
The control unit separates the ambient light component incident on the photodetector and the reflected light component from the subject, and controls the reflected light component.
The distance measuring device according to claim 4.
制御部は、光検出器が出力する画像データを基に環境光成分を推定し、反射光成分と環境光成分とを分離する、
請求項6に記載の測距装置。
The control unit estimates the ambient light component based on the image data output by the photodetector, and separates the reflected light component from the ambient light component.
The distance measuring device according to claim 6.
制御部は、反射光成分のノイズ量を、光検出部が出力する信号値を参照して適応的に制御する、
請求項2に記載の測距装置。
The control unit adaptively controls the amount of noise of the reflected light component by referring to the signal value output by the photodetector.
The ranging device according to claim 2.
光検出部の画素毎に検出した距離情報を含む現フレームの画像データを用いて距離画像情報を取得する処理を行う測距部を備える、
請求項1に記載の測距装置。
It is provided with a distance measuring unit that performs a process of acquiring distance image information using image data of the current frame including the distance information detected for each pixel of the light detection unit.
The ranging device according to claim 1.
制御部は、相対的に超近景の制御においては、指定した第2信頼値を維持するように露光制御を行う、
請求項3に記載の測距装置。
The control unit performs exposure control so as to maintain the specified second confidence value in the control of the relatively near view.
The ranging device according to claim 3.
超近景は、被写体までの距離が、測距対象外の被写体の存在によって散乱光の影響が発生するような近い距離である、
請求項10に記載の測距装置。
The ultra-near view is a short distance so that the distance to the subject is affected by scattered light due to the presence of a subject that is not subject to distance measurement.
The distance measuring device according to claim 10.
被写体に対して光を照射する光源、
光源からの照射光に基づく、被写体からの反射光を受光する光検出部、及び、
測距装置と被写体との間の距離に応じて露光制御を行う制御部を備える、
測距装置を有する電子機器。
A light source that illuminates the subject,
A photodetector that receives reflected light from the subject based on the light emitted from the light source, and
A control unit that controls exposure according to the distance between the distance measuring device and the subject is provided.
An electronic device that has a distance measuring device.
JP2019173702A 2019-02-22 2019-09-25 Ranging device and electronic apparatus Pending JP2020139937A (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US17/430,653 US20220146648A1 (en) 2019-02-22 2020-02-14 Distance measuring device, method for controlling distance measuring device, and electronic device
PCT/JP2020/005818 WO2020170969A1 (en) 2019-02-22 2020-02-14 Ranging device and ranging device controlling method, and electronic device

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2019030134 2019-02-22
JP2019030134 2019-02-22

Publications (1)

Publication Number Publication Date
JP2020139937A true JP2020139937A (en) 2020-09-03

Family

ID=72280273

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019173702A Pending JP2020139937A (en) 2019-02-22 2019-09-25 Ranging device and electronic apparatus

Country Status (1)

Country Link
JP (1) JP2020139937A (en)

Similar Documents

Publication Publication Date Title
US9997551B2 (en) Spad array with pixel-level bias control
US11165982B1 (en) Spatial derivative pixel array with adaptive quantization
WO2020170969A1 (en) Ranging device and ranging device controlling method, and electronic device
TWI424742B (en) Methods and apparatus for high dynamic operation of a pixel cell
US11869273B2 (en) Object recognition with removal of event as noise when the event is detected for a group of pixels exceeding a threshold
JPWO2017098725A1 (en) Solid-state imaging device, distance measuring device, and distance measuring method
US20080231832A1 (en) Ranging apparatus and ranging method
JP2015198361A (en) Imaging apparatus, its control method, program, and recording medium
TW201332354A (en) Image capturing element, control method, and image capturing device
US9967499B2 (en) Readout circuit for image sensors
JP2017107132A (en) Electronic device
WO2021059748A1 (en) Information processing device, correction method, and program
US10560653B2 (en) Image sensing apparatus and control method for performing analog-to-digital conversion
WO2021084832A1 (en) Object recognition system, signal processing method for object recognition system, and electronic device
JP2020139937A (en) Ranging device and electronic apparatus
WO2020027221A1 (en) Image capturing device, and solid-state image capturing element used therein
CN113597567A (en) Distance image acquisition method and distance detection device
WO2021059699A1 (en) Distance measurement device, distance measurement device control method, and electronic device
WO2023119918A1 (en) Distance measurement device and electronic apparatus
JP6268563B2 (en) Imaging device and solid-state imaging device
JP2009010627A (en) Solid-state imaging apparatus and camera using the same
WO2021059698A1 (en) Ranging device, method for controlling ranging device, and electronic apparatus
KR102598514B1 (en) Image sensors and sensor devices that detect time-dependent image data
WO2021124763A1 (en) Ranging device, method for controlling ranging device, and electronic apparatus
US20240118399A1 (en) Image sensor related to measuring distance