JP2017195573A - 撮像装置および電子機器 - Google Patents
撮像装置および電子機器 Download PDFInfo
- Publication number
- JP2017195573A JP2017195573A JP2016086216A JP2016086216A JP2017195573A JP 2017195573 A JP2017195573 A JP 2017195573A JP 2016086216 A JP2016086216 A JP 2016086216A JP 2016086216 A JP2016086216 A JP 2016086216A JP 2017195573 A JP2017195573 A JP 2017195573A
- Authority
- JP
- Japan
- Prior art keywords
- subject
- light
- memory
- imaging
- max
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/08—Systems determining position data of a target for measuring distance only
- G01S17/10—Systems determining position data of a target for measuring distance only using transmission of interrupted, pulse-modulated waves
- G01S17/18—Systems determining position data of a target for measuring distance only using transmission of interrupted, pulse-modulated waves wherein range gates are used
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/56—Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/74—Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/703—SSIS architectures incorporating pixels for producing signals other than image signals
- H04N25/705—Pixels for depth measurement, e.g. RGBZ
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Electromagnetism (AREA)
- Computer Networks & Wireless Communication (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Studio Devices (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Abstract
【課題】1回のパルス発光につき、時間的に複数回の受光を行うことができる。【解決手段】制御部は、発光部に対してパルス発光を行うように指示した後、イメージセンサに対して、時刻T11=(2×D11)/cにおいて露光開始、時刻T21=(2×D21)/cにおいて露光終了、時刻T12=(2×D12)/cにおいて露光開始、時刻T22=(2×D22)/cにおいて露光終了、時刻T13=(2×D13)/cにおいて露光開始、時刻T21=(2×D23)/cにおいて露光終了、を指示する。本開示は、例えば、パルス光を発光して、ある特定の時間のみを撮像する装置であるゲーテッド撮像装置に適用することができる。【選択図】図7
Description
本開示は、撮像装置および電子機器に関し、特に、1回のパルス発光につき、時間的に複数回の受光を行うことができるようにした撮像装置および電子機器に関する。
Active Gated Imaging,Active ImagingやRange-gated Active Imagingなどの名称で知られている撮影技術がある。日本語では、ゲーテッド撮像と呼ばれており、以下、ゲーテッド撮像と称する。
ゲーテッド撮像は、パルス光を発光して、ある特定の時間のみをイメージセンサで撮像することで、特定の距離の被写体のみを鮮明に撮像することができる技術である。
この技術において、複数の被写体がある場合、特許文献1に示されるように、複数回の撮像を行わなければならなかった。
すなわち、複数の被写体がある場合など、適切なゲーテッド撮像を行うことが困難であった。
本開示は、このような状況に鑑みてなされたものであり、1回のパルス発光につき、時間的に複数回の受光を行うことができるものである。
本技術の一側面の撮像装置は、パルス発光を行う発光部と、受光を行う受光部と、前記発光部からの1回のパルス発光につき、前記受光部に対して複数回の露光を行わせる露光制御部と、所定の撮像距離範囲に存在する被写体の撮像処理を行うために、前記パルス発光のタイミングを基準とし、前記所定の撮像距離範囲に応じて、複数回の露光の開始時刻と終了時刻を設定する設定部とを備える。
前記所定の撮像距離範囲は、1乃至n(nは2以上の整数)の撮像距離範囲で構成され、前記所定の撮像距離範囲の第i番目(i=1乃至n)の距離範囲をMin(i)乃至Max(i)(Min(i)<Max(i))とするとき、前記露光の回数は、n回であり、前記設定部は、前記n回の露光の第j番目(j=1乃至n)の露光の開始時間と終了時間を、それぞれ、(2×Min(i))/cと(2×Max(i))/c(cは光の速さ)として設定することができる。
前記受光部において受光された光量は、1乃至m(mは2以上の整数)のメモリのいずれかに格納される構成であり、前記所定の撮像距離範囲をMin乃至Max(Min<Max)とするとき、前記露光の回数は、m回であり、前記設定部は、前記m回の露光の第j番目(j=1乃至n)の露光の開始時間と終了時間を、それぞれ、(2×Min)/c+2×(Max-Min)×(j-1)/c/mと2×Min/c+2×(Max-Min)×j/c/m (cは光の速さ)として設定し、前記制御部は、前記m回の露光の第j番目(j=1乃至n)の露光により受光された光量を、前記mのメモリのうち第j番目のメモリに格納するように制御することができる。
前記mのメモリのうち、前記被写体の投影像のデータが存在しないメモリを特定する被写体特定部をさらに備え、前記被写体特定部により特定された前記被写体の投影像のデータが存在しないメモリの番号が第p番目である場合、p=mまたはpがmとほぼ等しいとき、前記Minの値あるいはMaxの値の少なくとも一方を小さくするように再設定をして、次に撮像のためのパラメータを決定するか、または、前記被写体特定部により特定された前記被写体の投影像のデータが存在しないメモリの番号が第p番目である場合、p=1またはpが1とほぼ等しいとき、前記Minの値あるいはMaxの値の少なくとも一方を大きくするように再設定をして、次に撮像のためのパラメータを決定することができる。
前記被写体の撮像処理がs+1(sは1以上の整数)回続けられるうちの各回の撮像処理において、前記受光部において受光された光量は、第1のメモリまたは第2のメモリのいずれかに格納される構成であり、前記所定の撮像距離範囲は、1乃至(2のs乗)の撮像距離範囲で構成され、前記所定の撮像距離範囲の第k番目(k=1乃至2のs乗)の距離範囲をMin(k)乃至Max(k)(Min(k)<Max(k))とするとき、前記露光の回数は、2×(2のs乗)回であり、前記設定部は、前記(2のs乗)回の露光の第2×k-1番目(k=1乃至2のs乗)の露光の開始時間と終了時間を、それぞれ、2×Min(k)/cと2×Max(k)/c+2×(Max(k)-Min(k)/c/2と、2×Max(k)/c(cは光の速さ)として設定し、かつ、前記設定部は、前記(2のs乗)回の露光の第2×k番目(k=1乃至2のs乗)の露光の開始時間と終了時間を、それぞれ、2×Min(k)/c+2×(Max(k)-Min(k))/c/と、2×Max(k)/c(cは光の速さ)として設定し、前記制御部は、前記q回目(qは1乃至s+1)の撮像処理において、
前記(2のs乗)回の露光の第2×k-1番目(k=1乃至2のs乗)の露光により前記受光部において受光された光量は、前記2のメモリのうちの第r(k,q)番目(r(k,q)は、1または2)のメモリに格納され、かつ、前記(2のs乗)回の露光の第2×k番目の露光により前記受光部において受光された光量は、前記2のメモリのうちの第r(k,q)番目(r(k,q)は、1または2)ではないメモリに格納されるように制御し、
任意のkに対して、数列{r(k,1)、r(k,2)、…r(k,s+1)}が、数列{r(k',1)、r(k',2)、…r(k',s+1):ただし、k'≠k}と異なり、数列{3−r(k',1)、r(k',2)、…r(k',s+1:ただし、k'≠k)とも異なるように、r(k,q)を決める
ことができる。
前記(2のs乗)回の露光の第2×k-1番目(k=1乃至2のs乗)の露光により前記受光部において受光された光量は、前記2のメモリのうちの第r(k,q)番目(r(k,q)は、1または2)のメモリに格納され、かつ、前記(2のs乗)回の露光の第2×k番目の露光により前記受光部において受光された光量は、前記2のメモリのうちの第r(k,q)番目(r(k,q)は、1または2)ではないメモリに格納されるように制御し、
任意のkに対して、数列{r(k,1)、r(k,2)、…r(k,s+1)}が、数列{r(k',1)、r(k',2)、…r(k',s+1):ただし、k'≠k}と異なり、数列{3−r(k',1)、r(k',2)、…r(k',s+1:ただし、k'≠k)とも異なるように、r(k,q)を決める
ことができる。
前記被写体の撮像処理がs+1(sは1以上の整数)回続けられるうちの各回の撮像処理において、前記2のメモリのうち、前記被写体の投影像のデータが存在しないメモリを特定する被写体特定部をさらに備え前記設定部は、前記被写体特定部により特定された前記被写体の投影像のデータが存在しないメモリの番号に対応して、前記Minの値およびMaxの値の少なくとも一方を小さくするように再設定して、次の撮像のためのパラメータを決定することができる。
前記mのメモリのうち第j番目(j=1乃至n)のメモリに、前記被写体の投影像のデータが存在するメモリを特定する被写体特定部をさらに備え、前記設定部は、前記被写体特定部により特定された前記被写体の投影像のデータが存在するメモリの番号が第q番目としたとき、2×Min/c+2×(Max-Min)×(q-1)/c/mを新たにMinと設定し、2×Min/c+2×(Max-Min)×q/c/m (cは光の速さ)を新たにMaxと設定して、次の撮像のためのパラメータの決定を行うことができる。
本技術の一側面の電子機器は、パルス発光を行う発光部と、受光を行う受光部と、前記発光部からの1回のパルス発光につき、前記受光部に対して複数回の露光を行わせる露光制御部と、所定の撮像距離範囲に存在する被写体の撮像処理を行うために、前記パルス発光のタイミングを基準とし、前記所定の撮像距離範囲に応じて、複数回の露光の開始時刻と終了時刻を設定する設定部とを備える。
本技術の一側面においては、1回のパルス発光につき、受光を行う受光部に対して複数回の露光が行われる。そして、所定の撮像距離範囲に存在する被写体の撮像処理を行うために、前記パルス発光のタイミングが基準とされ、前記所定の撮像距離範囲に応じて、複数回の露光の開始時刻と終了時刻が設定される。
本技術によれば、被写体を撮像することができる。特に、本技術によれば、複数の被写体を鮮明に撮像することができる。
なお、本明細書に記載された効果は、あくまで例示であり、本技術の効果は、本明細書に記載された効果に限定されるものではなく、付加的な効果があってもよい。
以下、本開示を実施するための形態(以下実施の形態とする)について説明する。なお、説明は以下の順序で行う。
0. 概要
1.第1の実施の形態
2.第2の実施の形態
3.第3の実施の形態
4.第4の実施の形態
5.第5の実施の形態 (イメージセンサの使用例)
6.第6の実施の形態 (電子機器の例)
0. 概要
1.第1の実施の形態
2.第2の実施の形態
3.第3の実施の形態
4.第4の実施の形態
5.第5の実施の形態 (イメージセンサの使用例)
6.第6の実施の形態 (電子機器の例)
<0.概要>
<固体撮像装置の概略構成例>
図1は、本技術の各実施の形態に適用されるCMOS(Complementary Metal Oxide Semiconductor)固体撮像装置の一例の概略構成例を示している。
<固体撮像装置の概略構成例>
図1は、本技術の各実施の形態に適用されるCMOS(Complementary Metal Oxide Semiconductor)固体撮像装置の一例の概略構成例を示している。
図1に示されるように、固体撮像装置(素子チップ)1は、半導体基板11(例えばシリコン基板)に複数の光電変換素子を含む画素2が規則的に2次元的に配列された画素領域(いわゆる撮像領域)3と、周辺回路領域とを有して構成される。
画素2は、光電変換素子(例えば、PD(Photo Diode))と、複数の画素トランジスタ(いわゆるMOSトランジスタ)を有してなる。複数の画素トランジスタは、例えば、転送トランジスタ、リセットトランジスタ、および増幅トランジスタの3つのトランジスタで構成することができ、さらに選択トランジスタを追加して4つのトランジスタで構成することもできる。
また、画素2は、画素共有構造とすることもできる。画素共有構造は、複数のフォトダイオード、複数の転送トランジスタ、共有される1つのフローティングディフュージョン、および、共有される1つずつの他の画素トランジスタから構成される。フォトダイオードは、光電変換素子である。
周辺回路領域は、垂直駆動回路4、カラム信号処理回路5、水平駆動回路6、出力回路7、および制御回路8から構成される。
制御回路8は、入力クロックや、動作モード等を指令するデータを受け取り、また、固体撮像装置1の内部情報等のデータを出力する。具体的には、制御回路8は、垂直同期信号、水平同期信号、およびマスタクロックに基づいて、垂直駆動回路4、カラム信号処理回路5、および水平駆動回路6の動作の基準となるクロック信号や制御信号を生成する。そして、制御回路8は、これらの信号を垂直駆動回路4、カラム信号処理回路5、および水平駆動回路6に入力する。
垂直駆動回路4は、例えばシフトレジスタによって構成され、画素駆動配線を選択し、選択された画素駆動配線に画素2を駆動するためのパルスを供給し、行単位で画素2を駆動する。具体的には、垂直駆動回路4は、画素領域3の各画素2を行単位で順次垂直方向に選択走査し、垂直信号線9を通して各画素2の光電変換素子において受光量に応じて生成した信号電荷に基づいた画素信号をカラム信号処理回路5に供給する。
カラム信号処理回路5は、画素2の例えば列毎に配置されており、1行分の画素2から出力される信号を画素列毎にノイズ除去等の信号処理を行う。具体的には、カラム信号処理回路5は、画素2固有の固定パターンノイズを除去するためのCDS(Correlated Double Sampling)や、信号増幅、A/D(Analog/Digital)変換等の信号処理を行う。カラム信号処理回路5の出力段には、水平選択スイッチ(図示せず)が水平信号線10との間に接続されて設けられる。
水平駆動回路6は、例えばシフトレジスタによって構成され、水平走査パルスを順次出力することによって、カラム信号処理回路5の各々を順番に選択し、カラム信号処理回路5の各々から画素信号を水平信号線10に出力させる。
出力回路7は、カラム信号処理回路5の各々から水平信号線10を通して順次に供給される信号に対し、信号処理を行って出力する。出力回路7は、例えば、バッファリングだけを行う場合もあるし、黒レベル調整、列ばらつき補正、各種デジタル信号処理等を行う場合もある。
入出力端子12は、外部と信号のやりとりをするために設けられる。
<ゲーテッド撮像の概要>
本技術は、ゲーテッド撮像に関する技術である。ゲーテッド撮像は、パルス光を発光して、ある特定の時間のみをイメージセンサで撮像することで、特定の距離の被写体のみを鮮明に撮像することができる技術である。例えば、ゲーテッド撮像は、Active Gated Imaging,Active ImagingやRange-gated Active Imagingなどの名称で知られている。
本技術は、ゲーテッド撮像に関する技術である。ゲーテッド撮像は、パルス光を発光して、ある特定の時間のみをイメージセンサで撮像することで、特定の距離の被写体のみを鮮明に撮像することができる技術である。例えば、ゲーテッド撮像は、Active Gated Imaging,Active ImagingやRange-gated Active Imagingなどの名称で知られている。
図2を参照して、ゲーテッド撮像について説明する。図2の例において、ゲーテッド撮像装置21は、制御部31、発光部32、および撮像部33を備えている。制御部31は、発光部32の発光タイミングと、撮像部33の露光時間とを制御する。発光部32は、矩形波を発光する。撮像部33は、被写体23を露光する。このようなゲーテッド撮像装置21においては、霧22の向こうの被写体23を撮像することが可能である。
すなわち、発光部32が矩形波を発光すると、まず、霧22からの反射光が撮像部33に到達し、次に、被写体23からの反射光が撮像部33に到達する。
ここで、通常の撮像部の場合、矩形波が発光されてから、被写体23の反射光が到達するまでが露光時間となり、霧22からの反射光と被写体23からの反射光の合計が露光されるので、被写体23が見えにくい画像(もやのかかった画像)となる。
これに対して、ゲーテッド撮像の撮像部33の場合、特定の時間の部分を精度よく露光するので、例えば、被写体23からの反射のみを撮像することができる。したがって、ゲーテッド撮像においては、画像に、はっきりと被写体を写すことができる。
次に、図3を参照して、ゲーテッド撮像について具体的に説明する。図3の例においては、ゲーテッド撮像システム50が示されている。
ゲーテッド撮像システム50として、図中左から順に、ゲーテッド撮像装置51、霧52、被写体53が示されている。
図3の例において、ゲーテッド撮像装置51は、パルス光を発光する発光部61および、イメージセンサ62(図1の固体撮像装置1)を備えている。例えば、ゲーテッド撮像装置51を用いて被写体53を撮像することを考える。被写体53の前(すなわち、ゲーテッド撮像装置51と被写体53の間)に霧52がある。
この場合、図3に示されるように、距離D1とD2(すなわち、露光開始時間T1=(2×D1)/cと、露光開始時間T2=(2×D2)/c)を設定することで、霧52からの反射光は受光せずに、被写体53からの反射光のみを受光することができる。結果として、鮮明な被写体53の投影像を撮影することができる。ここで、cは、光の速度であり、以降も同様である。
また、「霧52までの距離」<D1<「被写体52までの距離」<D2である。パルス光を発光してから、霧52に反射して戻ってくる光は、時刻T1=(2×D1)/cよりも早いので、イメージセンサ62では受光されない。
次に、図4を参照して、ゲーテッド撮像システム50において、撮影したい被写体が3つの場合のゲーテッド撮像について説明する。
被写体53−1乃至53−3を撮影するためには、D1<「被写体53−1までの距離」<D2、かつ、D1<「被写体53−2までの距離」<D2、かつ、D1<「被写体53−3までの距離」<D2となるように距離D1とD2を決める必要があった。すなわち、露光開始時刻T1=(2×D1)/cと、露光開始時間T2=(2×D2)/c)は、図4に示されるように設定される。この場合、イメージセンサ62は、図4中の霧52−1および霧52−2からの反射光も受光してしまうことになり、鮮明な被写体53−1乃至53−3の画像を得ることが困難であった。
例えば、特許文献1においては、複数の被写体がある場合、複数回の撮影をするようにしており、1回の撮像だけでは不可能であった。すなわち、D11<「被写体53−1までの距離」<D21<「霧52−1までの距離」<D12<「被写体53−2までの距離」<D22<「霧52−2までの距離」<D13<「被写体53−3までの距離」<D23として、まず、D1=D11、D2=D21として撮像を行い、次に、D1=D12、D2=D22として撮像を行い、最後に、D1=D13、D2=D23として撮像を行わなければならなかった(合計3回の撮像が必要)。
また、被写体が奥行き方向に移動してしまい、D1乃至D2の範囲の外に移動してしまうと、被写体からの反射光を受光できず、被写体を見失ってしまうことがあった。もちろん、被写体の動きに応じて、適切にD1とD2を設定しなおすこともあるが、D1より手前に被写体が移動したのか、D2よりも奥に被写体が移動したのかがわからないので、再設定することが困難であった。
そこで、本技術においては、1回のパルス発光につき、時間的に複数回の受光を行うような構成にされる。これにより、複数の被写体を鮮明に撮像することができ、また、被写体の奥行き方向の移動の方向がわかり、移動する被写体に追従して被写体を撮影し続けることができる。
図5は、本技術を適用したゲーテッド撮像装置の構成例を示すブロック図である。
図5の例において、ゲーテッド撮像装置70は、図3の発光部61、イメージセンサ62に加えて、制御部71および出力端子72を含むように構成される。制御部71は、発光部61およびイメージセンサ62を制御する制御信号を発行する。発光部61は、制御部71からの制御信号によりパルス光を発光する。イメージセンサ62は、制御部71の制御信号により、露光開始と露光終了の処理、および露光により蓄積された各画素内の電荷を出力端子72から出力する。なお、実際には、イメージセンサ62の前に焦点を結ぶようにレンズが具備されるが、図が煩雑になるのを防ぐために図示省略されている。以降の図でも同様にレンズは図示省略されている。
イメージセンサ62は、例えば、複数の画素2によりからなる、図1の固体撮像装置1で構成される。画素の数は、通常、縦、横ともに数百画素乃至数千画素ある。
図6には、1つの画素2の構成が示されている。PD(フォトダイオード:受光素子)81において露光(受光)された光は電荷となり、スイッチ83により、メモリ(FD:電荷蓄積部)82−1または82−2に切り替えられ、蓄積される。露光しない期間は、スイッチ83によりドレインに切り替えられ、排出(破棄)される。このスイッチ83は、制御部71からの制御信号で制御される。
また、メモリ82−1および82−2に蓄積された電荷は、図5の出力端子72より出力することができる。出力端子72に出力した時点で、メモリ82−1および82−2に蓄積された電荷はなくなる。
なお、図6の例においては、メモリが2つの例を説明したが、3つ以上の場合も実現可能である。ただし、3つ以上の場合はレイアウトが複雑になる。
また、以降に説明する第1の実施の形態においては、メモリ82−2は使用されない。すなわち、第1の実施の形態においては、露光開始までは、あるいは、露光終了後は、PD81で受光した光(電荷)は、ドレインに捨てられる。そして、露光開始から露光終了までは、PD81で受光した光は、メモリ82−1に蓄積される。なお、この構成いのいては、露光終了後に露光を再開すると、メモリ82−1には、それまでに蓄えられていた電荷に対して、さらに、今回の露光により電荷が累積される。これらの制御は、制御部71からの制御信号で制御される。
なお、以降に説明する第2乃至第4の実施の形態においては、メモリ82−2も用いられる。
<1.第1の実施の形態>
<ゲーテッド撮像システムの構成>
図7は、本技術を適用したゲーテッド撮像システムの第1の実施の形態の構成例を示す図である。
<ゲーテッド撮像システムの構成>
図7は、本技術を適用したゲーテッド撮像システムの第1の実施の形態の構成例を示す図である。
図7のゲーテッド撮像システム90においては、ゲーテッド撮像装置70を用いて、被写体53−1乃至53−3が撮像される。被写体53−1の前(すなわち、ゲーテッド撮像装置70と被写体53−1の間)には、霧はない。被写体53−2の前(すなわち、被写体53−1と被写体53−2の間)には、霧52−1があり、被写体53−3の前(すなわち、被写体53−2と被写体53−3の間)には、霧52−2がある。
そして、ゲーテッド撮像システム90においては、1回のパルス発光につき、複数回(図7の例の場合、3回)の露光を行っている。なお、制御部71は、例えば、複数回の露光を制御する露光制御部91および複数回の露光の開始時刻と終了時刻を設定する設定部92を含むように構成される。設定部92は、例えば、所定の撮像距離範囲に存在する被写体の撮像処理を行うために、パルス発光のタイミングを基準とし、所定の撮像距離範囲に応じて、複数回の露光の開始時刻と終了時刻を設定する。
ゲーテッド撮像装置70において、設定部92は、例えば、発光部61に対してパルス発光を行うように指示した後、次のような複数回の露光の開始時刻と終了時刻を設定する。そして、露光制御部91は、イメージセンサ62の複数回の露光を制御する。
具体的には、複数回の露光の開始時刻と終了時刻は、
時刻T11=(2×D11)/cにおいて露光開始、時刻T21=(2×D21)/cにおいて露光終了。
時刻T12=(2×D12)/cにおいて露光開始、時刻T22=(2×D22)/cにおいて露光終了。
時刻T13=(2×D13)/cにおいて露光開始、時刻T21=(2×D23)/cにおいて露光終了。
である。ただし、cは、光の速さである。また、D11<「被写体53−1までの距離」<D21<「霧52−1までの距離」<D12<「被写体53−2までの距離」<D22<「霧52−2までの距離」<D13<「被写体53−3までの距離」である。
時刻T11=(2×D11)/cにおいて露光開始、時刻T21=(2×D21)/cにおいて露光終了。
時刻T12=(2×D12)/cにおいて露光開始、時刻T22=(2×D22)/cにおいて露光終了。
時刻T13=(2×D13)/cにおいて露光開始、時刻T21=(2×D23)/cにおいて露光終了。
である。ただし、cは、光の速さである。また、D11<「被写体53−1までの距離」<D21<「霧52−1までの距離」<D12<「被写体53−2までの距離」<D22<「霧52−2までの距離」<D13<「被写体53−3までの距離」である。
そして、時刻T23以降に、イメージセンサ62の画素2のメモリ82−1に蓄積された電荷が読み出され、この読み出された画素の値が、ゲーテッド撮像の結果画像Iとなる。
図7に示されるように、被写体53−1乃至53−3からの反射光は受光され、そして、霧52−1および52−2からの反射光は受光されない。これにより、被写体53−1乃至53−3の鮮明な投影像を得ることができる。
<ゲーテッド撮像システムの動作>
次に、図8のフローチャートを参照して、図7のゲーテッド撮像システム90のゲーテッド撮像処理について説明する。
次に、図8のフローチャートを参照して、図7のゲーテッド撮像システム90のゲーテッド撮像処理について説明する。
ステップS11において、設定部92は、撮影したい距離範囲の数nを指定する。なお、図7の例においては、n=3である。
ステップS12において、設定部92は、n個の撮影したい距離範囲を指定する。この距離範囲をMin(i)乃至Max(i)(i=1乃至n)とする。図7の例においては、Min(1)=D11,Max(1)=D21,Min(2)=D12,Max(2)=D22,Min(3)=D13,Max(3)=D23である。
ステップS13において、露光制御部91は、スイッチ83をドレインに切り替え、PD81において露光した光(発生した電荷)を、ドレインへ送り続け始める。すなわち、電荷をドレインに排出させる。
ステップS14において、露光制御部91は、メモリ82−1の電荷をリセットするために、メモリ82−1の電荷をダミーデータとして出力端子72より読み出させる。
ステップS15において、露光制御部91は、発光部61からパルス光を発光し、パラメータiに1をセットする。ステップS16において、露光制御部91は、パルス発光した時刻から、2*Min(i)/cだけ待ち、ステップS17において、露光を開始する。すなわち、PD81が発生した電荷が、メモリ82−1に送られ始める。
ステップS18において、露光制御部91は、パルス発光した時刻から、2*Max(i)/cだけ待ち、ステップS19において、露光を終了する。すなわち、PD81が発生した電荷が、ドレインへ送られ始める。
ステップS20において、露光制御部91は、i=n(n回繰り返したか)?を判定する。ステップS20において、i=nではないと判定された場合、処理は、ステップS21に進む。ステップS21において、露光制御部91は、i=i+1とし、処理は、ステップS16に戻り、それ以降の処理が繰り返される。
ステップS20において、i=nであると判定された場合、処理は、ステップS22に進む。ステップS22において、露光制御部91は、所定回数繰り返したか否かを判定する。ステップS22において、所定回数繰り返していないと判定された場合、処理は、ステップS15に戻り、それ以降の処理が繰り返される。
ステップS22において、露光制御部91は、所定回数繰り返したと判定された場合、処理は、ステップS23に進む。ステップ23において、露光制御部91は、メモリ82−1の電荷を出力端子72から読み出し、結果画像Iとする。
なお、1回のパルス発光での蓄積では光量が少ないので、所定回数(S15乃至S20における1回の発光と複数回の露光)だけ同じ処理が行われ、メモリ82−1に電荷が累積されている。この累積により、十分な光量(電荷)を得ることができる。所定回数とは、例えば、数百乃至数万回である。
また、被写体までの距離が遠ければ遠いほど、発光部61から発光して被写体に反射して戻ってくる光の量が弱くなる。したがって、図7の例では、被写体53−1は適切な明るさで映っているが、被写体53−2および被写体53−3は暗い映像になってしまう場合も考えられる。
このような場合は、再度、図8を参照して説明したゲーテッド撮像処理(2回目のゲーテッド撮像処理)を行うとよい。この2回目のゲーテッド撮像処理においては、n=2、Min(1)=D12、Max(1)=D22、Min(2)=D13、Max(2)=D23とされる。これにより、被写体53−2および53−3のみの投影像を得ることができる。ただし、この2回目のゲーテッド撮像においても、被写体53−2および53−3は、遠いので暗い投影像である。そこで、最初のゲーテッド撮像と2回目のゲーテッド撮像の画像を加算することにより、被写体53−2および53−3のみの投影像は2倍の明るさの画像となり、鮮明となる。
このように、図8のゲーテッド撮像処理をパラメータnおよびMin(i)乃至Max(i)(i=1乃至n)を変えて行い、これらの処理で得られた画像を加算することにより、近い被写体から遠い被写体まで適切な明るさの画像を得ることができる。
なお、本技術のゲーテッド撮像装置70は、自動車に搭載して、前方の監視に用いることができる。この場合、1回のゲーテッド撮像で終了することはなく、ゲーテッド撮像し続けることで前方の監視を常に行うことができる。前回のゲーテッド撮像から、次のゲーテッド撮像までに自動車は、距離Vc×Tcだけ進んでいる。そこで、前回のゲーテッド撮像に用いたMin(i)乃至Max(i)(i=1乃至n)の値に対して、次のゲーテッド撮像では、これら値は、Vc×Tcだけ小さい値にするとよい。このように設定することで、ゲーテッド撮像装置70が移動している場合でも、被写体を適切に捉え続けることができる。
<ゲーテッド撮像システムの他の構成>
さらに、図9を参照して、本技術のゲーテッド撮像装置70を自動車に搭載した場合の例を具体的に説明する。なお、ゲーテッド撮像装置70の構成例は、図5を参照して上述したものが用いられる。
さらに、図9を参照して、本技術のゲーテッド撮像装置70を自動車に搭載した場合の例を具体的に説明する。なお、ゲーテッド撮像装置70の構成例は、図5を参照して上述したものが用いられる。
図9の例においては、図の上の段に、現在の時刻でのゲーテッド撮像システム100が示されており、下の段に、時間Tc後でのゲーテッド撮像システム100が示されている。
現在の時刻でのゲーテッド撮像システム100においては、ゲーテッド撮像装置70を搭載した自動車101が右方向に速さVcで進んでいるとする。現在の時刻において、ゲーテッド撮像を適切に行うことで、ゲーテッド撮像装置70の発光部61から発光されたパルス光111は被写体53−1乃至53−3にて反射されて、反射光112として、イメージセンサ63にて受光される。一方、イメージセンサ63において、霧52−1および52−2からの反射は受光されない。これにより、鮮明な被写体53−1乃至53−3の投影像を得ることができる。この画像は、図示省略した自動車101内のモニタにリアルタイムで表示され、自動車101の運転の支援を行うことができる。
次に、時間Tc後に、再度ゲーテッド撮像が行われる。時間Tc後のゲーテッド撮像においては、自動車101Tcは、距離Vc×Tcだけ進んでいる。すなわち、ゲーテッド撮像装置70と被写体53−1乃至53−3との距離は、Vc×Tcだけ縮まっている。そこで、上述したように、Min(i)乃至Max(i)(i=1乃至n)の値をVc×Tcだけ小さい値にすることにより、時間Tc後のゲーテッド撮像においても、ゲーテッド撮像装置70内の発光部61から発光されたパルス光111Tcは、被写体53−1乃至53−3にて反射されて、反射光112Tcとして、イメージセンサ63にて受光される。霧52−1および52−2からの反射は、イメージセンサ63では受光されない。これにより、鮮明な被写体53−1乃至53−3の投影像を得ることができる。この画像は、図示省略した自動車101Tc内のモニタにリアルタイムで表示され、自動車の運転の支援を行うことができる。
<2.第2の実施の形態>
<ゲーテッド撮像システムの構成>
図10は、本技術を適用したゲーテッド撮像システムの第2の実施の形態の構成例を示す図である。
<ゲーテッド撮像システムの構成>
図10は、本技術を適用したゲーテッド撮像システムの第2の実施の形態の構成例を示す図である。
図10のゲーテッド撮像システム150においては、PD81において露光(受光)した光(電荷)は適切なタイミングで、メモリ82−1あるいは82−2に蓄えられるか、または、ドレインへと廃棄される。なお、図10のゲーテッド撮像システム150においては、制御部71は、露光制御部91および設定部92に加えて、被写体の投影像のデータがある(または、データがない)メモリがどれであるかを判定(特定)することで、どの距離にある被写体が写っているか否かを判定(特定)する被写体判定部161が追加されている点が、図7のゲーテッド撮像システム50と異なっている。
図10の例において、被写体53までの距離D0とすると、パルス光が被写体53に反射して戻ってくるまでの時刻は、T0=2×D0/cである。パルス光の幅Wとし、時刻-W/2から時刻W/2までの期間、パルス光が発光されているとし、T1=T0-W、T2=T0+Wとする。
時刻T1乃至T0においては、PD81において露光(受光)された光(電荷)がメモリ82−1に蓄積される。時刻T0乃至T2においては、PD81において露光(受光)された光(電荷)がメモリ82−2に蓄積される。それ以外の時間では、ドレインに排出される。図10のゲーテッド撮像システム150においては、このように制御される。
発光されたパルスの前半(時刻-W/2乃至時刻0の期間に発せられた光)は、被写体53にて反射されてPD81において露光(受光)され、メモリ82−1に蓄積される。
発光されたパルスの後半(時刻0乃至時刻W/2の期間に発せられた光)は、被写体53にて反射されてPD81において露光(受光)され、メモリ82−2に蓄積される。
そして、時刻T2以降に、イメージセンサ62の各画素2のメモリ82−1に蓄積された電荷が読み出され、この読み出された画素の値がゲーテッド撮像の結果画像I1とされる。また、イメージセンサ62の各画素2のメモリ82−2に蓄積された電荷が読み出され、この読み出された画素の値がゲーテッド撮像の結果画像I2とされる。
結果画像I1およびI2には、被写体53の投影像が写っている。なお、見やすくするために、結果画像I1と結果画像I2を加算した画像を作成して、被写体53の鮮明な画像としてもよい。
さて、次に、図11に示されるように、被写体53が前方に移動することを考える。
図11の例の場合、被写体53から反射して戻ってくる光は、時間的に早まるので、結果画像I1には、被写体53の投影像が写っているが、結果画像I2には、被写体53の当映像は写っていない。
すなわち、逆に、結果画像I1には、写っているが、結果画像I2には写っていない場合、被写体53が前方に移動したことがわかる。そこで、再度ゲーテッド撮像を行う場合、設定部92が、前回のT0の値よりも大きい値にT0をセットしてゲーテッド撮像を行えばよい。
ゲーテッド撮像システム150においては、このようにして、被写体を追い続けながら、ゲーテッド撮像を行い続けることができる。
すなわち、本技術の第2の実施の形態によれば、被写体が奥行き方向に移動してしまう場合でも適切に追従して、鮮明な画像を撮影し続けることができるゲーテッド撮像を実現できる。
<ゲーテッド撮像システムの動作>
次に、図12および図13のフローチャートを参照して、図10および図11のゲーテッド撮像システム150のゲーテッド撮像処理について説明する。
次に、図12および図13のフローチャートを参照して、図10および図11のゲーテッド撮像システム150のゲーテッド撮像処理について説明する。
図12のステップS111において、設定部92は、撮影したい距離D0を指定する。ステップS112において、露光制御部91は、スイッチ83をドレインに切り替え、PD81で発生した電荷をドレインへ送り始める。すなわち、電荷をドレインに排出させる。
ステップS113において、露光制御部91は、メモリ82−1の電荷をリセットするために、メモリ82−1の電荷をダミーデータとして出力端子72より読み出させ、また、メモリ82−2の電荷をリセットするために、メモリ82−2の電荷をダミーデータとして出力端子72より読み出させる。
設定部92は、ステップS114において、T0=2*D0/cとし、ステップS115において、T1=T0-W,T2=T0+W(ただし、Wはパルス光の幅)とする。
図13のステップS116において、露光制御部91は、発光部61からパルス光を発光し、ステップS117において、パルス発光した時刻から、T1だけ待ち、ステップS118において、メモリ82−1を使って、露光を開始する。すなわち、PD81が発生した電荷が、メモリ82−1に送られ始める。
露光制御部91は、ステップS119において、パルス発光した時刻から、T0だけ待ち、ステップS120において、メモリ82−2を使って、露光を開始する。すなわち、PD81が発生した電荷が、メモリ82−2に送られ始める。
露光制御部91は、ステップS121において、パルス発光した時刻から、T2だけ待ち、ステップS122において、露光を終了する。すなわち、PD81が発生した電荷が、ドレインへ送られ始める。
ステップS123において、露光制御部91は、所定回数繰り返したか否かを判定する。ステップS123において、所定回数繰り返していないと判定された場合、処理は、ステップS116に戻り、それ以降の処理が繰り返される。
ステップS123において、露光制御部91は、所定回数繰り返したと判定された場合、処理は、ステップS124に進む。ステップS124において、露光制御部91は、メモリ82−1の電荷を出力端子72から読み出し、結果画像I1とする。また、露光制御部91は、メモリ82−2の電荷を出力端子72から読み出し、結果画像I2とする。
ステップS125において、露光制御部91は、結果画像I1と結果画像I2を加算した画像を、今回のゲーテッド撮像の結果画像Iとして、出力端子72より出力する。
その後、図12のステップS126において、被写体判定部161は、結果画像I1の被写体のコントラストと結果画像I2の被写体のコントラストが同じであるか否かを判定する。ステップS126において、結果画像I1の被写体のコントラストと結果画像I2の被写体のコントラストが同じであると判定された場合、処理は、ステップS127に進む。ステップS127において、設定部92は、δ=0とする。
ステップS126において、結果画像I1の被写体のコントラストと結果画像I2の被写体のコントラストが異なると判定された場合、処理は、ステップS128に進む。ステップS128において、設定部92は、結果画像I1のほうが、コントラストが強いか否かを判定する。
ステップS128において、結果画像I1のほうが、コントラストが強いと判定された場合、処理は、ステップS129に進む。ステップS129において、設定部92は、δ=所定の微小な負の値に設定する。
ステップS128において、結果画像I1のほうが、コントラストが弱いと判定された場合、処理は、ステップS130に進む。ステップS130において、設定部92は、δ=所定の微小な正の値に設定する。
ステップS127,ステップS129,およびステップS130のあと、処理は、ステップS131に進む。ステップS131において、設定部92は、T0=T0+δとし、処理は、ステップS115に戻り、それ以降の処理が繰り返される。
なお、図12および図13のゲーテッド撮像処理において、結果画像I1には写っている/いない、および結果画像I2には写っている/いないの判定、すなわち、メモリ82−1および82−2のメモリのうち、投影像のデータが存在しないメモリは、2つの画像の投影像を用いてどちらであるかで判定するようにしている。
また、上記説明において、露光時間を、パルスの光の幅Wとしている。特にWに限定するわけではないが、好適には、Wがよい。露光時間をWとすることで、発光部61から発光されるパルス光の被写体53での反射をすべて露光し、かつ、他の距離にある物体(たとえば、図示省略した霧)からの反射を露光しないですむからである。
<ゲーテッド撮像システムの他の構成>
さらに、図14を参照して、本技術の第2の実施の形態の利用の具体例を説明する。
さらに、図14を参照して、本技術の第2の実施の形態の利用の具体例を説明する。
図14のゲーテッド撮像システム200においては、刑務所の監視を行う用途例が記載されている。刑務所内と刑務所外とは、塀212で分けられている。この塀212から距離D0だけ外側に離れた位置に、ゲーテッド撮像装置70が設置されており、塀212の方向を撮影している。
好適には柱211などの上に設置して、ゲーテッド撮像装置70からは塀212の全体が見渡せるようにするとよい。このように構成されるゲーテッド撮像システム200において、図12および図13を参照して上述したゲーテッド撮像処理が実行される。もし、塀212を内側から乗り越えて、外側に脱走するもの(図14の被写体53)がいると、霧52があったとしても、鮮明に被写体53の投影像を得ることができる。
また、ゲーテッド撮像システム200においては、この被写体53が移動した場合でも、その被写体53までの距離に適切に追従して、ゲーテッド撮像処理を行い続けることができる。それは、被写体53が塀212を乗り越えた瞬間から、被写体53の投影部分はコントラストが高くなるからであり、コントラストの高い方に距離が追従してゲーテッド撮像が行われ続けるからである。このようにして、ゲーテッド撮像システム200においては、脱走を監視することが可能である。
<3.第3の実施の形態>
<ゲーテッド撮像システムの構成>
図15は、本技術を適用したゲーテッド撮像システムの第3の実施の形態の構成例を示す図である。
<ゲーテッド撮像システムの構成>
図15は、本技術を適用したゲーテッド撮像システムの第3の実施の形態の構成例を示す図である。
図15のゲーテッド撮像システム250においては、制御部71は、被写体判定部161が、被写体の投影像のデータがある(または、データがない)メモリがどれであるかを判定(特定)することで、どの距離にある被写体が前方または後方に動いたかを判定(特定)する被写体判定部261に代えられた点が、図10のゲーテッド撮像システム150と異なっている。
図15の例においては、3回のゲーテッド撮像が行われ、PD81において露光(受光)した光(電荷)は適切なタイミングで、メモリ82−1あるいは82−2に蓄えられるか、または、ドレインへと廃棄される。
すなわち、図中の制御C1という制御方法によりゲーテッド撮像が行われ、制御2という制御方法によりゲーテッド撮像が行われ、制御C3という制御方法によりゲーテッド撮像が行われ、合計で3回のゲーテッド撮像が行われる。この3回のゲーテッド撮像により得られる画像群から、被写体判定部261により、どの距離にある被写体が前方/後方に動いたかが判定され、設定部92により、次の3回のゲーテッド撮像のためのパラメータ(後述するT01乃至T04)が更新される。
なお、以降では、時間的に3回のゲーテッド撮像を行うとして説明するが、例えば、空間方向の解像度を犠牲にしてよければ、イメージセンサ62の3の倍数ラインは、制御C1という制御方法によりゲーテッド撮像が行われ、3の倍数で1余るラインは、制御C2という制御方法によりゲーテッド撮像が行われ、さらに、3の倍数で2余るラインは、制御C3という制御方法によりゲーテッド撮像が行われるようにしてもよい。このようにすることで、解像度は1/3に落ちるが、1回のゲーテッド撮像により、制御C1乃至制御C3のゲーテッド撮像の画像をすべて得ることができる。
図15の例においては、4つの被写体(被写体53−1乃至53−4)を鮮明に撮影するゲーテッド撮像の例が示されている。なお、被写体が動いた場合でも被写体に追従して、次のゲーテッド撮像においても、鮮明に撮影することができる。
被写体53−i(i=1乃至4)までの距離をD0iとすると、パルス光が被写体53−iに反射して戻ってくるまでの時刻は、T0i=2×D0i/cである。パルス光の幅をWとする。すなわち、時刻-W/2から時刻W/2までの期間、パルス光が発光されているとする。さらに、T1i=T0i-W,T2i=T0i+Wとされる。
まず、1回目のゲーテッド撮像においては、図16Aに示されるように、制御1の方法により撮影が行われる。すなわち、時刻T11乃至T01においては、PD(受光素子)81において露光した光(電荷)がメモリ82−1に蓄積される。時刻T01乃至T21においては、PD(受光素子)81において露光した光(電荷)がメモリ82−2に蓄積される。
時刻T12乃至T02においては、PD(受光素子)81において露光した光(電荷)がメモリ82−1に蓄積される。時刻T02乃至T22においては、PD(受光素子)81において露光した光(電荷)がメモリ82−2に蓄積される。
時刻T13乃至T03においては、PD(受光素子)81において露光した光(電荷)がメモリ82−1に蓄積される。時刻T03乃至T23においては、PD(受光素子)81において露光した光(電荷)がメモリ82−2に蓄積される。時刻T14乃至T04においては、PD(受光素子)81において露光した光(電荷)がメモリ82−1に蓄積される。時刻T04乃至T24においては、PD(受光素子)81において露光した光(電荷)がメモリ82−2に蓄積される。
それ以外の時間では、ドレインへと排出されるように制御される。
2回目のゲーテッド撮像では、図16Bに示されるように、制御C2の方法により撮影が行われる。すなわち、時刻T11乃至T01においては、PD(受光素子)81において露光した光(電荷)がメモリ82−1に蓄積される。時刻T01乃至T21においては、PD(受光素子)81において露光した光(電荷)がメモリ82−2に蓄積される。
時刻T12乃至T02においては、PD(受光素子)81において露光した光(電荷)がメモリ82−1に蓄積される。時刻T02乃至T22においては、PD(受光素子)81において露光した光(電荷)がメモリ82−2に蓄積される。
時刻T13乃至T03においては、PD(受光素子)81において露光した光(電荷)がメモリ82−2に蓄積される。時刻T03乃至T23においては、PD(受光素子)81において露光した光(電荷)がメモリ82−1に蓄積される。時刻T14乃至T04においては、PD(受光素子)81において露光した光(電荷)がメモリ82−2に蓄積される。時刻T04乃至T24においては、PD(受光素子)81において露光した光(電荷)がメモリ82−1に蓄積される。
3回目のゲーテッド撮像では、図16Cに示されるように、制御C3の方法により撮影が行われる。すなわち、時刻T11乃至T01においては、PD(受光素子)81において露光した光(電荷)がメモリ82−1に蓄積される。時刻T01乃至T21においては、PD(受光素子)81において露光した光(電荷)がメモリ82−2に蓄積される。
時刻T12乃至T02においては、PD(受光素子)81において露光した光(電荷)がメモリ82−2に蓄積される。時刻T02乃至T22においては、PD(受光素子)81において露光した光(電荷)がメモリ82−1に蓄積される。
時刻T13乃至T03においては、PD(受光素子)81において露光した光(電荷)がメモリ82−1に蓄積される。時刻T03乃至T23においては、PD(受光素子)81において露光した光(電荷)がメモリ82−2に蓄積される。時刻T14乃至T04においては、PD(受光素子)81において露光した光(電荷)がメモリ82−2に蓄積される。時刻T04乃至T24においては、PD(受光素子)81において露光した光(電荷)がメモリ82−1に蓄積される。
j回目(j=1乃至3)のゲーテッド撮像において、時刻T24以降に、イメージセンサ62の各画素2のメモリ82−1に蓄積された電荷が読み出され、この読み出された画素の値がゲーテッド撮像の結果画像I1jとされる。そして、イメージセンサ63の各画素2のメモリ82−2に蓄えられた電荷が読み出され、この読み出された画素の値がゲーテッド撮像の結果画像I2jとされる。
結果画像I1jおよび結果画像I2jには、被写体53−1乃至53−4の投影像が写っている。なお、見やすくするために、結果画像I1jと結果画像I2jを加算した画像を作成して、被写体53−1乃至53−4の鮮明な画像としてもよい。
さて、制御C1乃至制御C3を比べると、時間T1i乃至T0iと、時間T0i乃至T2i(i=1乃至4)とで、メモリ82−1に蓄積するか、メモリ82−2に蓄積するかが異なっている。仮に、時間T1i乃至T0iでメモリ82−1に蓄積し、時間T0i乃至T2iでメモリ82−2に蓄積する場合をパターン0とする。そして、時間T1i乃至T0iでメモリ82−2に蓄積し、時間T0i乃至T2iでメモリ82−1に蓄積する場合をパターン0とする。このようにパターン0とパターン1と定義すると、図16A乃至図16Cの制御は、図17に示される制御となる。
図17のパターン0/1の組み合わせをみれば明らかなように、被写体53−1乃至53−4のそれぞれに3ビットのコードが割り当てられていると考えられる。すなわち、被写体53−1のための撮像においては、{制御C1の場合、制御C2の場合、制御C3の場合}={0,0,0}である。
被写体53−2のための撮像においては、{制御C1の場合、制御C2の場合、制御C3の場合}={0,0,1}である。被写体53−3のための撮像においては、{制御C1の場合、制御C2の場合、制御C3の場合}={0,1,0}である。被写体53−4のための撮像においては、{制御C1の場合、制御C2の場合、制御C3の場合}={0,1,1}である。
この3ビットのパターンは、4つの被写体で異なる。このように異なるように設定することで、どの被写体が移動したかを判別することができる。
さらに、被写体53−1の{制御C1の場合、制御C2の場合、制御C3の場合}をビット反転した3ビット={1,1,1}、被写体53−2の{制御C1の場合、制御C2の場合、制御C3の場合}をビット反転した3ビット={1,1,0}、被写体53−3の{制御C1の場合、制御C2の場合、制御C3の場合}をビット反転した3ビット={1,0,1}、被写体53−4の{制御C1の場合、制御C2の場合、制御C3の場合}をビット反転した3ビット={1,0,0}まで含めた合計8個の3ビットパターンは、いずれも異なる。これにより、前方に移動したのか、後方に移動したのかも判別できる。このようなパターンのアサインが、本技術の第3の実施の形態の重要なポイントである。
このことについて、図18を参照して、さらに詳しく説明する。
もし、制御C1によるゲーテッド撮像しか行わなかったとする。このゲーテッド撮像においては、メモリ82−1から画像281が読み出され、メモリ82−2から画像282が読み出される。それぞれの画像には、被写体53−1乃至53−4の4つの投影像が写っている。なお、画像281および282の4つの投影像と、被写体53−1乃至53−4の対応関係はわからない。
次に、再度、制御C1によるゲーテッド撮像が行われたとする。このとき、被写体53−1乃至53−4のいずれか1つが後方に移動したとする。本技術の第2の実施の形態で上述したように、後方に移動した被写体の投影像は、メモリ82−1から読み出された画像283には投影されない。一方、メモリ82−2から読み出された画像284には投影される。
したがって、4つの被写体53−1乃至53−4のいずれかが後方に移動したのはわかる。しかし、どの被写体が後方に移動したかを特定することはできない。移動した被写体に追従して、露光タイミングを遅らせればよいが、T01乃至T04のいずれを遅らせればよいのかわからない。
具体的にいえば、例えば、もしかすると、距離D03にあった被写体が後方に移動したため、画像283および284が得られたのかもしれないので、T03を遅らせればよいと考えるかもしれないが、これは間違いである。移動した被写体は、距離D03ではなく、距離D04の被写体であったかもしれないからである。
再度、説明すると、画像283の右下の投影像が消えている(写っていない)ことから、右下の投影像に対応する被写体が移動したのはわかるが、この被写体はもともと、どの距離(D01乃至D04のいずれかの距離)にいたものかはわからない。そのため、T01乃至T04のいずれを遅らせればよいのかわからない。
これに対して、3回のゲーテッド撮像(制御C1乃至制御C3による撮影)を行うことで、T01乃至T04のいずれであるかを特定できる。例えば、図15の例において、距離D02(時間で換算すればT02)にある被写体(つまり、被写体53−2)が、図19に示されるように、後方に移動したとする。図19の斜線領域271の時間においては、被写体53−2が存在しないので、反射光は戻ってこない。したがって、制御C1によるゲーテッド撮像のメモリ82−1から読み出された画像には被写体が写っていない。そして、制御C2によるゲーテッド撮像のメモリ82−1から読み出された画像には、被写体が写っていない。そして、制御C3によるゲーテッド撮像のメモリ82−2から読み出された画像には被写体が写っていない。他の画像には被写体が写っている。
逆にいえば、制御C1によるゲーテッド撮像のメモリ82−1から読み出された画像と、制御C2によるゲーテッド撮像のメモリ82−1から読み出された画像と、制御C3によるゲーテッド撮像のメモリ82−2から読み出された画像には写っておらず、残りの画像に写っている場合は、距離D02にあった被写体が後方に移動した場合であり、次回のゲーテッド撮像において、T02を微小時間だけ遅らせれば、他の3つの被写体も含め、合計4つの被写体を鮮明に写すことができる。
他の場合もまとめると、図20および図21に示されるように、T0i(i=1乃至4)を設定しなおせば、次回のゲーテッド撮像においても4つの被写体を鮮明に写すことができる。
図20の例について上から順に説明する。制御C1によるゲーテッド撮像におけるメモリ82−1から読み出した画像I11に写っておらず、制御C1によるゲーテッド撮像におけるメモリ82−2から読み出した画像I12に写っていて、制御C2によるゲーテッド撮像におけるメモリ82−1から読み出した画像I21に写っておらず、制御C2によるゲーテッド撮像におけるメモリ82−1から読み出した画像I22に写っていて、制御C3によるゲーテッド撮像におけるメモリ82−1から読み出した画像I13に写っておらず、制御C3によるゲーテッド撮像におけるメモリ82−1から読み出した画像I23に写っていて、という被写体がある場合、設定部92は、次の撮影においては、T01を微小時間遅くする。
制御C1によるゲーテッド撮像におけるメモリ82−1から読み出した画像I11に写っていて、制御C1によるゲーテッド撮像におけるメモリ82−2から読み出した画像I12に写っておらず、制御C2によるゲーテッド撮像におけるメモリ82−1から読み出した画像I21に写っていて、制御C2によるゲーテッド撮像におけるメモリ82−1から読み出した画像I22に写っておらず、制御C3によるゲーテッド撮像におけるメモリ82−1から読み出した画像I13に写っていて、制御C3によるゲーテッド撮像におけるメモリ82−1から読み出した画像I23に写っておらず、という被写体がある場合、設定部92は、次の撮影においては、T01を微小時間早める。
制御C1によるゲーテッド撮像におけるメモリ82−1から読み出した画像I11に写っておらず、制御C1によるゲーテッド撮像におけるメモリ82−2から読み出した画像I12に写っていて、制御C2によるゲーテッド撮像におけるメモリ82−1から読み出した画像I21に写っておらず、制御C2によるゲーテッド撮像におけるメモリ82−1から読み出した画像I22に写っていて、制御C3によるゲーテッド撮像におけるメモリ82−1から読み出した画像I13に写っていて、制御C3によるゲーテッド撮像におけるメモリ82−1から読み出した画像I23に写っておらず、という被写体がある場合、設定部92は、次の撮影においては、T02を微小時間遅くする。
制御C1によるゲーテッド撮像におけるメモリ82−1から読み出した画像I11に写っていて、制御C1によるゲーテッド撮像におけるメモリ82−2から読み出した画像I12に写っておらず、制御C2によるゲーテッド撮像におけるメモリ82−1から読み出した画像I21に写っていて、制御C2によるゲーテッド撮像におけるメモリ82−1から読み出した画像I22に写っておらず、制御C3によるゲーテッド撮像におけるメモリ82−1から読み出した画像I13に写っておらず、制御C3によるゲーテッド撮像におけるメモリ82−1から読み出した画像I23に写っていて、という被写体がある場合、設定部92は、次の撮影においては、T02を微小時間早める。
さらに、図21の例について上から順に説明する。制御C1によるゲーテッド撮像におけるメモリ82−1から読み出した画像I11に写っておらず、制御C1によるゲーテッド撮像におけるメモリ82−2から読み出した画像I12に写っていて、制御C2によるゲーテッド撮像におけるメモリ82−1から読み出した画像I21に写っていて、制御C2によるゲーテッド撮像におけるメモリ82−1から読み出した画像I22に写っおらず、制御C3によるゲーテッド撮像におけるメモリ82−1から読み出した画像I13に写っておらず、制御C3によるゲーテッド撮像におけるメモリ82−1から読み出した画像I23に写っていて、という被写体がある場合、設定部92は、次の撮影においては、T03を微小時間遅くする。
制御C1によるゲーテッド撮像におけるメモリ82−1から読み出した画像I11に写っていて、制御C1によるゲーテッド撮像におけるメモリ82−2から読み出した画像I12に写っておらず、制御C2によるゲーテッド撮像におけるメモリ82−1から読み出した画像I21に写っておらず、制御C2によるゲーテッド撮像におけるメモリ82−1から読み出した画像I22に写っていて、制御C3によるゲーテッド撮像におけるメモリ82−1から読み出した画像I13に写っていて、制御C3によるゲーテッド撮像におけるメモリ82−1から読み出した画像I23に写っておらず、という被写体がある場合、設定部92は、次の撮影においては、T03を微小時間早める。
制御C1によるゲーテッド撮像におけるメモリ82−1から読み出した画像I11に写っておらず、制御C1によるゲーテッド撮像におけるメモリ82−2から読み出した画像I12に写っていて、制御C2によるゲーテッド撮像におけるメモリ82−1から読み出した画像I21に写っていて、制御C2によるゲーテッド撮像におけるメモリ82−1から読み出した画像I22に写っおらず、制御C3によるゲーテッド撮像におけるメモリ82−1から読み出した画像I13に写っていて、制御C3によるゲーテッド撮像におけるメモリ82−1から読み出した画像I23に写っておらず、という被写体がある場合、設定部92は、次の撮影においては、T04を微小時間遅くする。
制御C1によるゲーテッド撮像におけるメモリ82−1から読み出した画像I11に写っていて、制御C1によるゲーテッド撮像におけるメモリ82−2から読み出した画像I12に写っておらず、制御C2によるゲーテッド撮像におけるメモリ82−1から読み出した画像I21に写っておらず、制御C2によるゲーテッド撮像におけるメモリ82−1から読み出した画像I22に写っていて、制御C3によるゲーテッド撮像におけるメモリ82−1から読み出した画像I13に写っておらず、制御C3によるゲーテッド撮像におけるメモリ82−1から読み出した画像I23に写っていて、という被写体がある場合、設定部92は、次の撮影においては、T04を微小時間早める。
以上のように、本技術の第3の実施の形態によれば、複数の被写体が奥行き方向に移動してしまう場合でも適切に追従して、鮮明な被写体を撮影し続けることができるゲーテッド撮像を実現できる。なお、複数の被写体に対応させた点が、本技術の第2の実施の形態と異なる。
<ゲーテッド撮像システムの動作>
次に、図22のフローチャートを参照して、図15および図19のゲーテッド撮像システム250のゲーテッド撮像処理について説明する。
次に、図22のフローチャートを参照して、図15および図19のゲーテッド撮像システム250のゲーテッド撮像処理について説明する。
ステップS201において、設定部92は、撮影したい4つの距離を指定する。いまの場合、D01,D02,D03,D04とする。
設定部92は、ステップS202において、T01=2*D01/c、T02=2*D02/c、T03=2*D03/c、T04=2*D04/c、(cは光の速さ)とし、ステップS205において、T11=T01-W,T21=T01+W, T12=T02-W,T22=T02+W, T13=T03-W,T23=T03+W, T14=T04-W,T24=T04+W,(ただし、Wはパルス光の幅)とする。
露光制御部91は、ステップS204において、制御1によるゲーテッド撮像を行い、メモリ82−1の電荷を読み出し、結果画像I11とし、メモリ82−2の電荷を読み出し、結果画像I21とする。そして、露光制御部91は、結果画像I11と結果画像I21を加算した画像を今回のゲーテッド撮像の結果画像Iとして出力端子72より出力する。
露光制御部91は、ステップS205において、制御C2によるゲーテッド撮像を行い、メモリ82−1の電荷を読み出し、結果画像I12とし、メモリ82−2の電荷を読み出し、結果画像I22とする。そして、露光制御部91は、結果画像I12と結果画像I22を加算した画像を今回のゲーテッド撮像の結果画像Iとして出力端子72より出力する。
露光制御部91は、ステップS206において、制御C3によるゲーテッド撮像を行い、メモリ82−1の電荷を読み出し、結果画像I13とし、メモリ82−2の電荷を読み出し、結果画像I23とする。そして、露光制御部91は、結果画像I13と結果画像I23を加算した画像を今回のゲーテッド撮像の結果画像Iとして出力端子72より出力する。
ステップS207において、設定部92は、図20および図21に示された表のいずれかに当てはまる場合は、T0i(i=1乃至4)を変更する。
その後、処理は、ステップS203に戻って、それ以降の処理が繰り返される。
なお、上記説明においては、被写体が4つの場合について説明した。この場合においては、4つを区別し、かつ、前方移動/後方移動の区別をするため3ビット必要であった。これを実現するために、制御C1乃至制御C3による3回のゲーテッド撮像を行っていた。被写体の数(撮影したい被写体の距離の数)を一般化すると、以下のようになる。すなわち、(2のs乗)個の被写体をゲーテッド撮像するには、s+1回のゲーテッド撮像を行うようにする。各回のゲーテッド撮像は、パルス光の反射の前半と後半を、メモリ82−1とメモリ82−2のどちらに蓄積するかは、s+1ビットのパターンがビット反転も含めてすべて異なるようにすればよい。
<4.第4の実施の形態>
上述した本技術の第1乃至第3の実施の形態においては、最初のゲーテッド撮像を行う際、すでに被写体の距離がわかっているとして上述した。しかしながら、実運用においては、被写体の距離が最初不明な場合が多い。
上述した本技術の第1乃至第3の実施の形態においては、最初のゲーテッド撮像を行う際、すでに被写体の距離がわかっているとして上述した。しかしながら、実運用においては、被写体の距離が最初不明な場合が多い。
そこで、第4の実施の形態においては、被写体の距離が不明な場合において、短時間で被写体の距離を決定する方法を説明する。つまり、本技術の第4の実施の形態を用いて、被写体の距離を同定して、その後、本技術の第1乃至第3の実施の形態を実行することで、本技術の最良な具現化が可能となる。
次に、図23のフローチャートを参照して、第4の実施の形態の場合のゲーテッド撮像処理を説明する。なお、図15および図19を参照して上述したゲーテッド撮像装置250を用いて説明する。
ステップS301において、設定部92は、最大撮影範囲Dmin乃至Dmaxをセットする。なお、Dmin<Dmaxである。
ステップS302において、設定部92は、Tmin=2*Dmin/c,Tmax=2*Dmax/cとする。
ステップS303において、設定部92は、サブルーチンAの処理を行い、その後、ゲーテッド撮像処理を終了する。続けて、ステップS303におけるサブルーチンAの処理を、図24乃至図26を参照して説明する。
図24のステップS321において、設定部92は、Tmid=(Tmin+Tmax)/2とする。ステップS322において、露光制御部91は、ゲーテッド撮像を行う。すなわち、発光部61からパルス光を発光して、時刻Tmin乃至Tmidにおいては、PD(受光素子)81で受光(露光)した光(電荷)をメモリ82−1に蓄積する。時刻Tmid乃至Tmaxにおいては、PD(受光素子)81で受光(露光)した光(電荷)をメモリ82−2に蓄積する。それ以外の時間では、PD(受光素子)81で受光(露光)した光(電荷)は、ドレインへ排出される。
ステップS323において、露光制御部91は、時刻Tmax以降に、イメージセンサ62の各画素2のメモリ82−1に蓄えられた電荷を読み出し、この読み出された画素の値をゲーテッド撮像の結果画像I1とする。また、露光制御部91は、イメージセンサ62の各画素2のメモリ82−2に蓄えられた電荷を読み出し、この読み出された画素の値をゲーテッド撮像の結果画像I2とする。
図25のステップS324において、被写体判定部261は、結果画像I1に有意な被写体が写っているか否かを判定する。ステップS324において、結果画像I1に有意な被写体が写っていると判定された場合、ステップS325に進む。
ステップS325において、設定部92は、Tmid-Tmin<2*Δ/cであるか否かを判定する。ここで、Δは、指定する距離の精度を表す。ステップS325において、Tmid-Tmin<2*Δ/cではないと判定された場合、処理は、ステップS326に進む。設定部92は、ステップS326において、Tmin=Tmin,Tmax=Tmidとし、ステップS327において、サブルーチンAの処理(現在説明中の処理)を再度行う。
また、ステップS325において、Tmid-Tmin<2*Δ/cであると判定された場合、処理は、ステップS328に進む。設定部92は、ステップS328において、Ttmp=(Tmin+Tmid)/2とし、ステップS329において、被写体53のいる距離として、Tmid*c/2という値を出力する。
ステップS327またはS329の後、処理は、図26のS330に進む。一方、ステップS324において、結果画像I1に有意な被写体が写っていないと判定された場合、図26のステップS330に進む。
図26のステップS330において、被写体判定部261は、結果画像I2に有意な被写体が写っているか否かを判定する。ステップS330において、結果画像I2に有意な被写体が写っていると判定された場合、ステップS331に進む。
ステップS331において、設定部92は、Tmax-Tmin<2*Δ/cであるか否かを判定する。ここで、Δは、指定する距離の精度を表す。ステップS331において、Tmax-Tmin<2*Δ/cではないと判定された場合、処理は、ステップS332に進む。設定部92は、ステップS332において、Tmin=Tmid,Tmax=Tmaxとし、ステップS333において、サブルーチンAの処理(現在説明中の処理)を再度行う。
また、ステップS331において、Tmax-Tmin<2*Δ/cであると判定された場合、処理は、ステップS334に進む。設定部92は、ステップS334において、Ttmp=(Tmin+Tmax)/2とし、ステップS335において、被写体53のいる距離として、Tmid*c/2という値を出力する。
ステップS333またはS335の後、処理は、図23のS303に戻り、ゲーテッド撮像処理が終了される。一方、ステップS330において、結果画像2に有意な被写体が写っていないと判定された場合、図23のS303に戻り、ゲーテッド撮像処理が終了される。
なお、上記説明においては、1つの画素の構成は、図6に示す構成を前提として説明した。すなわち、PD(受光素子)81において露光(受光)した光は電荷となり、メモリ(電荷蓄積部)82に蓄えられるとした。これに対して、m個(mは3以上の整数)のメモリがある場合には、次のようになる。
すなわち、PD81において、露光した光は電荷となり、メモリ82−k(k=1乃至m)のいずれかに蓄えられるとする。この場合、撮影範囲は、上記の例のように、2分割ではなく、m分割して探索範囲を狭めていけばよい。
以上のように、本技術によれば、1回のパルス発光につき、時間的に複数回の受光を行うことができる。これにより、複数の被写体を鮮明に撮影することができたり、あるいは、被写体の奥行き方向の移動の方向がわかり、移動する被写体に追従して被写体を撮影し続けることができる。
なお、上記説明においては、本技術を、CMOS固体撮像装置に適用した構成について説明してきたが、CCD(Charge Coupled Device)固体撮像装置といった固体撮像装置に適用するようにしてもよい。
<5.第5の実施の形態(イメージセンサの使用例)>
図27は、上述の固体撮像装置を使用する使用例を示す図である。
図27は、上述の固体撮像装置を使用する使用例を示す図である。
上述した固体撮像装置(イメージセンサ)は、例えば、以下のように、可視光や、赤外光、紫外光、X線等の光をセンシングする様々なケースに使用することができる。
・ディジタルカメラや、カメラ機能付きの携帯機器等の、鑑賞の用に供される画像を撮影する装置
・自動停止等の安全運転や、運転者の状態の認識等のために、自動車の前方や後方、周囲、車内等を撮影する車載用センサ、走行車両や道路を監視する監視カメラ、車両間等の測距を行う測距センサ等の、交通の用に供される装置
・ユーザのジェスチャを撮影して、そのジェスチャに従った機器操作を行うために、TVや、冷蔵庫、エアーコンディショナ等の家電に供される装置
・内視鏡や、赤外光の受光による血管撮影を行う装置等の、医療やヘルスケアの用に供される装置
・防犯用途の監視カメラや、人物認証用途のカメラ等の、セキュリティの用に供される装置
・肌を撮影する肌測定器や、頭皮を撮影するマイクロスコープ等の、美容の用に供される装置
・スポーツ用途等向けのアクションカメラやウェアラブルカメラ等の、スポーツの用に供される装置
・畑や作物の状態を監視するためのカメラ等の、農業の用に供される装置
・自動停止等の安全運転や、運転者の状態の認識等のために、自動車の前方や後方、周囲、車内等を撮影する車載用センサ、走行車両や道路を監視する監視カメラ、車両間等の測距を行う測距センサ等の、交通の用に供される装置
・ユーザのジェスチャを撮影して、そのジェスチャに従った機器操作を行うために、TVや、冷蔵庫、エアーコンディショナ等の家電に供される装置
・内視鏡や、赤外光の受光による血管撮影を行う装置等の、医療やヘルスケアの用に供される装置
・防犯用途の監視カメラや、人物認証用途のカメラ等の、セキュリティの用に供される装置
・肌を撮影する肌測定器や、頭皮を撮影するマイクロスコープ等の、美容の用に供される装置
・スポーツ用途等向けのアクションカメラやウェアラブルカメラ等の、スポーツの用に供される装置
・畑や作物の状態を監視するためのカメラ等の、農業の用に供される装置
<6.第6の実施の形態(電子機器の例)>
<電子機器の構成例>
<電子機器の構成例>
さらに、本技術は、固体撮像装置への適用に限られるものではなく、撮像装置にも適用可能である。ここで、撮像装置とは、デジタルスチルカメラやデジタルビデオカメラ等のカメラシステムや、携帯電話機等の撮像機能を有する電子機器のことをいう。なお、電子機器に搭載されるモジュール状の形態、すなわちカメラモジュールを撮像装置とする場合もある。
ここで、図28を参照して、本技術の電子機器の構成例について説明する。
図28に示される電子機器500は、固体撮像装置(素子チップ)501、光学レンズ502、シャッタ装置503、駆動回路504、および信号処理回路505を備えている。固体撮像装置501としては、上述した本技術の固体撮像装置1(イメージセンサ62)が設けられる。また、電子機器500には、図示せぬ発光部として、上述した発光部61が設けられている。
光学レンズ502は、被写体からの像光(入射光)を固体撮像装置501の撮像面上に結像させる。これにより、固体撮像装置501内に一定期間信号電荷が蓄積される。シャッタ装置503は、固体撮像装置501に対する光照射期間および遮光期間を制御する。
駆動回路504は、固体撮像装置501の信号転送動作、シャッタ装置503のシャッタ動作、および図示せぬ発光部の発光動作を制御する駆動信号を供給する。駆動回路504としては、上述した本技術の露光制御部91が設けられる。駆動回路504は、図示せぬCPUにより設定されたパラメータを用いて各動作を制御する。この図示せぬCPUとしては、上述した本技術の設定部92が設けられる。駆動回路504から供給される駆動信号(タイミング信号)により、固体撮像装置501は信号転送を行う。信号処理回路505は、固体撮像装置501から出力された信号に対して各種の信号処理を行う。信号処理が行われた映像信号は、メモリなどの記憶媒体に記憶されたり、モニタに出力される。
なお、本明細書において、上述した一連の処理を記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、本開示における実施の形態は、上述した実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。
また、以上において、1つの装置(または処理部)として説明した構成を分割し、複数の装置(または処理部)として構成するようにしてもよい。逆に、以上において複数の装置(または処理部)として説明した構成をまとめて1つの装置(または処理部)として構成されるようにしてもよい。また、各装置(または各処理部)の構成に上述した以外の構成を付加するようにしてももちろんよい。さらに、システム全体としての構成や動作が実質的に同じであれば、ある装置(または処理部)の構成の一部を他の装置(または他の処理部)の構成に含めるようにしてもよい。つまり、本技術は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、開示はかかる例に限定されない。本開示の属する技術の分野における通常の知識を有するのであれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例また修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
1 固体撮像装置, 2 画素, 21 ゲーテッド撮像装置, 22 霧, 23 被写体, 31 制御部, 32 発光部, 33 撮像部, 50 ゲーテッド撮像システム, 51 ゲーテッド撮像装置, 52,52−1,52−2 霧, 53,53−1乃至53−3 被写体, 61 発光部, 62 イメージセンサ, 70 ゲーテッド撮像装置, 71 制御部, 72 出力端子, 81 PD, 82−1,82−2 メモリ, 83 スイッチ, 91 設定部, 92 露光制御部,100 ゲーテッド撮像システム, 101 自動車,111 パルス光, 112 反射光, 150 ゲーテッド撮像システム, 200 ゲーテッド撮像システム, 211 柱, 212 塀, 250 ゲーテッド撮像システム, 261 被写体判定部, 281乃至284 画像, 500 電子機器, 501 固体撮像装置, 502 光学レンズ, 503 シャッタ装置, 504 駆動回路, 505 信号処理回路
Claims (8)
- パルス発光を行う発光部と、
受光を行う受光部と、
前記発光部からの1回のパルス発光につき、前記受光部に対して複数回の露光を行わせる露光制御部と、
所定の撮像距離範囲に存在する被写体の撮像処理を行うために、前記パルス発光のタイミングを基準とし、前記所定の撮像距離範囲に応じて、複数回の露光の開始時刻と終了時刻を設定する設定部と
を備える撮像装置。 - 前記所定の撮像距離範囲は、1乃至n(nは2以上の整数)の撮像距離範囲で構成され、
前記所定の撮像距離範囲の第i番目(i=1乃至n)の距離範囲をMin(i)乃至Max(i)(Min(i)<Max(i))とするとき、
前記露光の回数は、n回であり、
前記設定部は、前記n回の露光の第j番目(j=1乃至n)の露光の開始時間と終了時間を、それぞれ、(2×Min(i))/cと(2×Max(i))/c(cは光の速さ)として設定する
請求項1に記載の撮像装置。 - 前記受光部において受光された光量は、1乃至m(mは2以上の整数)のメモリのいずれかに格納される構成であり、
前記所定の撮像距離範囲をMin乃至Max(Min<Max)とするとき、
前記露光の回数は、m回であり、
前記設定部は、前記m回の露光の第j番目(j=1乃至n)の露光の開始時間と終了時間を、それぞれ、(2×Min)/c+2×(Max-Min)×(j-1)/c/mと2×Min/c+2×(Max-Min)×j/c/m (cは光の速さ)として設定し、
前記制御部は、前記m回の露光の第j番目(j=1乃至n)の露光により受光された光量を、前記mのメモリのうち第j番目のメモリに格納するように制御する
請求項1に記載の撮像装置。 - 前記mのメモリのうち、前記被写体の投影像のデータが存在しないメモリを特定する被写体特定部を
さらに備え、
前記被写体特定部により特定された前記被写体の投影像のデータが存在しないメモリの番号が第p番目である場合、p=mまたはpがmとほぼ等しいとき、前記Minの値あるいはMaxの値の少なくとも一方を小さくするように再設定をして、次に撮像のためのパラメータを決定するか、
または、
前記被写体特定部により特定された前記被写体の投影像のデータが存在しないメモリの番号が第p番目である場合、p=1またはpが1とほぼ等しいとき、前記Minの値あるいはMaxの値の少なくとも一方を大きくするように再設定をして、次に撮像のためのパラメータを決定する
請求項3に記載の撮像装置。 - 前記被写体の撮像処理がs+1(sは1以上の整数)回続けられるうちの各回の撮像処理において、
前記受光部において受光された光量は、第1のメモリまたは第2のメモリのいずれかに格納される構成であり、
前記所定の撮像距離範囲は、1乃至(2のs乗)の撮像距離範囲で構成され、
前記所定の撮像距離範囲の第k番目(k=1乃至2のs乗)の距離範囲をMin(k)乃至Max(k)(Min(k)<Max(k))とするとき、
前記露光の回数は、2×(2のs乗)回であり、
前記設定部は、前記(2のs乗)回の露光の第2×k-1番目(k=1乃至2のs乗)の露光の開始時間と終了時間を、それぞれ、2×Min(k)/cと2×Max(k)/c+2×(Max(k)-Min(k)/c/2と、2×Max(k)/c(cは光の速さ)として設定し、
かつ、
前記設定部は、前記(2のs乗)回の露光の第2×k番目(k=1乃至2のs乗)の露光の開始時間と終了時間を、それぞれ、2×Min(k)/c+2×(Max(k)-Min(k))/c/と、2×Max(k)/c(cは光の速さ)として設定し、
前記制御部は、
前記q回目(qは1乃至s+1)の撮像処理において、
前記(2のs乗)回の露光の第2×k-1番目(k=1乃至2のs乗)の露光により前記受光部において受光された光量は、前記2のメモリのうちの第r(k,q)番目(r(k,q)は、1または2)のメモリに格納され、かつ、前記(2のs乗)回の露光の第2×k番目の露光により前記受光部において受光された光量は、前記2のメモリのうちの第r(k,q)番目(r(k,q)は、1または2)ではないメモリに格納されるように制御し、
任意のkに対して、数列{r(k,1)、r(k,2)、…r(k,s+1)}が、数列{r(k’,1)、r(k’,2)、…r(k’,s+1):ただし、k’≠k}と異なり、数列{3−r(k’,1)、r(k’,2)、…r(k’,s+1:ただし、k’≠k)とも異なるように、r(k,q)を決める
請求項1に記載の撮像装置。 - 前記被写体の撮像処理がs+1(sは1以上の整数)回続けられるうちの各回の撮像処理において、
前記2のメモリのうち、前記被写体の投影像のデータが存在しないメモリを特定する被写体特定部を
さらに備え、
前記設定部は、前記被写体特定部により特定された前記被写体の投影像のデータが存在しないメモリの番号に対応して、前記Minの値およびMaxの値の少なくとも一方を小さくするように再設定して、次の撮像のためのパラメータを決定する
請求項5に記載の撮像装置。 - 前記mのメモリのうち第j番目(j=1乃至n)のメモリに、前記被写体の投影像のデータが存在するメモリを特定する被写体特定部を
さらに備え、
前記設定部は、前記被写体特定部により特定された前記被写体の投影像のデータが存在するメモリの番号が第q番目としたとき、2×Min/c+2×(Max-Min)×(q-1)/c/mを新たにMinと設定し、2×Min/c+2×(Max-Min)×q/c/m (cは光の速さ)を新たにMaxと設定して、次の撮像のためのパラメータの決定を行う
請求項3に記載の撮像装置。 - パルス発光を行う発光部と、
受光を行う受光部と、
前記発光部からの1回のパルス発光につき、前記受光部に対して複数回の露光を行わせる露光制御部と、
所定の撮像距離範囲に存在する被写体の撮像処理を行うために、前記パルス発光のタイミングを基準とし、前記所定の撮像距離範囲に応じて、複数回の露光の開始時刻と終了時刻を設定する設定部と
を備える電子機器。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016086216A JP2017195573A (ja) | 2016-04-22 | 2016-04-22 | 撮像装置および電子機器 |
PCT/JP2017/014455 WO2017183480A1 (ja) | 2016-04-22 | 2017-04-07 | 撮像装置および電子機器 |
US15/736,585 US10277827B2 (en) | 2016-04-22 | 2017-04-07 | Imaging apparatus and electronic apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016086216A JP2017195573A (ja) | 2016-04-22 | 2016-04-22 | 撮像装置および電子機器 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017195573A true JP2017195573A (ja) | 2017-10-26 |
Family
ID=60115852
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016086216A Pending JP2017195573A (ja) | 2016-04-22 | 2016-04-22 | 撮像装置および電子機器 |
Country Status (3)
Country | Link |
---|---|
US (1) | US10277827B2 (ja) |
JP (1) | JP2017195573A (ja) |
WO (1) | WO2017183480A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019164959A1 (en) * | 2018-02-20 | 2019-08-29 | The Charles Stark Draper Laboratory, Inc. | Time-resolved contrast imaging for lidar |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10620300B2 (en) | 2015-08-20 | 2020-04-14 | Apple Inc. | SPAD array with gated histogram construction |
EP3646057A1 (en) | 2017-06-29 | 2020-05-06 | Apple Inc. | Time-of-flight depth mapping with parallax compensation |
KR102403544B1 (ko) | 2017-12-18 | 2022-05-30 | 애플 인크. | 방출기들의 어드레스가능 어레이를 사용하는 비행 시간 감지 |
US11019274B2 (en) | 2018-09-10 | 2021-05-25 | Tusimple, Inc. | Adaptive illumination for a time-of-flight camera on a vehicle |
US10955234B2 (en) | 2019-02-11 | 2021-03-23 | Apple Inc. | Calibration of depth sensing using a sparse array of pulsed beams |
US11500094B2 (en) | 2019-06-10 | 2022-11-15 | Apple Inc. | Selection of pulse repetition intervals for sensing time of flight |
US11555900B1 (en) | 2019-07-17 | 2023-01-17 | Apple Inc. | LiDAR system with enhanced area coverage |
US11733359B2 (en) | 2019-12-03 | 2023-08-22 | Apple Inc. | Configurable array of single-photon detectors |
US11932238B2 (en) | 2020-06-29 | 2024-03-19 | Tusimple, Inc. | Automated parking technology |
CN114079707B (zh) * | 2020-08-13 | 2024-05-10 | 深圳中科飞测科技股份有限公司 | 图像采集方法、设备、计算机可读存储介质及电子设备 |
US11681028B2 (en) | 2021-07-18 | 2023-06-20 | Apple Inc. | Close-range measurement of time of flight using parallax shift |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001337166A (ja) * | 2000-05-26 | 2001-12-07 | Minolta Co Ltd | 3次元入力方法および3次元入力装置 |
JP2010170449A (ja) | 2009-01-26 | 2010-08-05 | Calsonic Kansei Corp | 車両用距離画像データ生成装置及び方法 |
CA2792050C (en) | 2010-03-02 | 2017-08-15 | Elbit Systems Ltd. | Image gated camera for detecting objects in a marine environment |
TWI540312B (zh) * | 2010-06-15 | 2016-07-01 | 原相科技股份有限公司 | 可提高測量精確度、省電及/或能提高移動偵測效率的時差測距系統及其方法 |
WO2013179280A1 (en) | 2012-05-29 | 2013-12-05 | Brightway Vision Ltd. | Gated imaging using an adaptive depth of field |
-
2016
- 2016-04-22 JP JP2016086216A patent/JP2017195573A/ja active Pending
-
2017
- 2017-04-07 US US15/736,585 patent/US10277827B2/en active Active
- 2017-04-07 WO PCT/JP2017/014455 patent/WO2017183480A1/ja active Application Filing
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019164959A1 (en) * | 2018-02-20 | 2019-08-29 | The Charles Stark Draper Laboratory, Inc. | Time-resolved contrast imaging for lidar |
US11506790B2 (en) | 2018-02-20 | 2022-11-22 | The Charles Stark Draper Laboratory, Inc. | Time-resolved contrast imaging for LIDAR |
US11874379B2 (en) | 2018-02-20 | 2024-01-16 | The Charles Stark Draper Laboratory, Inc. | Time-resolved contrast imaging for lidar |
Also Published As
Publication number | Publication date |
---|---|
US20190037120A1 (en) | 2019-01-31 |
WO2017183480A1 (ja) | 2017-10-26 |
US10277827B2 (en) | 2019-04-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2017183480A1 (ja) | 撮像装置および電子機器 | |
JP6806494B2 (ja) | 撮像装置、撮像システム、移動体及び撮像装置の駆動方法 | |
JPWO2016147885A1 (ja) | 固体撮像装置、固体撮像装置の駆動方法、及び、電子機器 | |
US20090147077A1 (en) | Light-source control system, shutter control system, endoscope processor, and endoscope system | |
WO2017043031A1 (en) | Image processing apparatus, solid-state imaging device, and electronic apparatus | |
JP6739066B2 (ja) | 撮像制御装置、撮像制御方法、プログラムおよびそれを記録した記録媒体 | |
JPWO2014171051A1 (ja) | 距離測定装置、及び、距離測定方法 | |
WO2017163890A1 (ja) | 固体撮像装置、固体撮像装置の駆動方法、及び、電子機器 | |
JP2016143850A (ja) | 固体撮像装置および電子機器 | |
WO2017212909A1 (ja) | 撮像素子、撮像装置、電子機器 | |
TW202133424A (zh) | 攝像元件、攝像裝置及測距裝置 | |
US20080080848A1 (en) | Camera focusing system and method thereof | |
US11489999B2 (en) | Photoelectric conversion device and method of driving photoelectric conversion device | |
JP7033739B2 (ja) | 固体撮像素子、固体撮像装置、固体撮像システム、固体撮像素子の駆動方法 | |
JP7277263B2 (ja) | 撮像装置 | |
JP2019033971A (ja) | 内視鏡装置 | |
WO2022085476A1 (ja) | 固体撮像装置および信号処理方法 | |
JP2023099398A (ja) | 光電変換装置、撮像システム、光検出システム、および移動体 | |
WO2016208416A1 (ja) | 固体撮像装置および電子機器 | |
WO2021059699A1 (ja) | 測距装置及び測距装置の制御方法、並びに、電子機器 | |
JP6609910B2 (ja) | 撮像装置 | |
JP2022051408A (ja) | 光電変換装置、光電変換システム及び移動体 | |
WO2022254836A1 (ja) | 情報処理装置、情報処理システム及び情報処理方法 | |
WO2016203984A1 (ja) | 撮像装置および制御方法 | |
JP6366325B2 (ja) | 撮像システム |