JP2020136958A - イベント信号検出センサ及び制御方法 - Google Patents

イベント信号検出センサ及び制御方法 Download PDF

Info

Publication number
JP2020136958A
JP2020136958A JP2019029414A JP2019029414A JP2020136958A JP 2020136958 A JP2020136958 A JP 2020136958A JP 2019029414 A JP2019029414 A JP 2019029414A JP 2019029414 A JP2019029414 A JP 2019029414A JP 2020136958 A JP2020136958 A JP 2020136958A
Authority
JP
Japan
Prior art keywords
event
detection probability
unit
pixel
output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019029414A
Other languages
English (en)
Inventor
慎一郎 伊澤
Shinichiro Izawa
慎一郎 伊澤
元就 本田
Motonari Honda
元就 本田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Priority to JP2019029414A priority Critical patent/JP2020136958A/ja
Priority to CN202080011686.8A priority patent/CN113396579B/zh
Priority to PCT/JP2020/004857 priority patent/WO2020170861A1/ja
Priority to US17/310,570 priority patent/US20220070392A1/en
Publication of JP2020136958A publication Critical patent/JP2020136958A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/47Image sensors with pixel address output; Event-driven image sensors; Selection of pixels to be read out based on image data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/707Pixels for event detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】レイテンシを短時間化するとともに、物体の見落としを抑制する。【解決手段】複数の画素回路は、光電変換を行って電気信号を生成する画素の電気信号の変化であるイベントを検出し、イベントの発生を表すイベントデータを出力する。検出確率設定部は、パターン認識の認識結果に応じて、イベントを検出する単位時間当たりの検出確率を、1個以上の画素回路の領域単位で算出し、検出確率に従ってイベントデータが出力されるように、画素回路を制御する。本技術は、画素の電気信号の変化であるイベントを検出するイベント信号検出センサに適用することができる。【選択図】図1

Description

本技術は、イベント信号検出センサ及び制御方法に関し、特に、例えば、レイテンシを短時間化するとともに、物体の見落としを抑制することができるようにするイベント信号検出センサ及び制御方法に関する。
画素の輝度変化をイベントとして、イベントが発生した場合に、イベントの発生を表すイベントデータを出力するイメージセンサが提案されている(例えば、特許文献1を参照)。
ここで、垂直同期信号に同期して撮像を行い、その垂直同期信号の周期で1フレーム(画面)の画像データであるフレームデータを出力するイメージセンサは、同期型のイメージセンサということができる。これに対して、イベントデータを出力するイメージセンサは、イベントが発生すると、イベントデータを出力するため、非同期型(又はアドレス制御型)のイメージセンサということができる。非同期型のイメージセンサは、例えば、DVS(Dynamic Vision Sensor)と呼ばれる。
DVSでは、イベントが発生しなければ、イベントデータは出力されず、イベントが発生した場合に、イベントデータが出力される。そのため、DVSには、イベントデータのデータレートが低データレートになるとともに、イベントデータの処理のレイテンシが低レイテンシになる傾向があるメリットがある。
特表2017-535999号公報
ところで、DVSで撮像される背景が、例えば、葉の生い茂った木々である場合には、その木々の葉が風に揺れて、イベントが発生する画素が多くなることがある。DVSにおいて検出したい注目物体でない物体について、イベントが発生する画素が多いと、低データレート及び低レイテンシというDVSのメリットが損なわれる。
ここで、例えば、階調を表現する階調信号を画素値とする画像(以下、階調画像ともいう)を用いて、DVSにおいて検出したい注目物体の領域を、ROIに設定し、ROI内のイベントデータの出力だけを有効にして、注目物体(ROI)を追跡することで、低データレート及び低レイテンシを維持することが考えられる。
しかしながら、この場合、ROIに設定された領域に対応する範囲以外のDVSの撮像範囲内に、新たな注目物体が現れたときには、その新たな注目物体に起因するイベントデータが出力されず、新たな注目物体を検出することができずに見落とすことになる。
本技術は、このような状況に鑑みてなされたものであり、レイテンシを短時間化するとともに、物体の見落としを抑制することができるようにするものである。
本技術のイベント信号検出センサは、光電変換を行って電気信号を生成する画素の前記電気信号の変化であるイベントを検出し、前記イベントの発生を表すイベントデータを出力する複数の画素回路と、パターン認識の認識結果に応じて、前記イベントを検出する単位時間当たりの検出確率を、1個以上の画素回路の領域単位で算出し、前記検出確率に従って前記イベントデータが出力されるように、前記画素回路を制御する検出確率設定部とを備えるイベント信号検出センサである。
本技術の制御方法は、光電変換を行って電気信号を生成する画素の前記電気信号の変化であるイベントを検出し、前記イベントの発生を表すイベントデータを出力する複数の画素回路を備えるイベント信号検出センサの前記画素回路を制御することを含み、パターン認識の認識結果に応じて、前記イベントを検出する単位時間当たりの検出確率を、1個以上の画素回路の領域単位で算出し、前記検出確率に従って前記イベントデータが出力されるように、前記画素回路を制御する制御方法である。
本技術においては、光電変換を行って電気信号を生成する画素の前記電気信号の変化であるイベントを検出し、前記イベントの発生を表すイベントデータを出力する複数の画素回路を備えるイベント信号検出センサの前記画素回路が制御される。すなわち、パターン認識の認識結果に応じて、前記イベントを検出する単位時間当たりの検出確率が、1個以上の画素回路の領域単位で算出され、前記検出確率に従って前記イベントデータが出力されるように、前記画素回路が制御される。
なお、センサは、独立した装置であっても良いし、1つの装置を構成している内部ブロックであっても良い。また、センサは、モジュールや半導体チップとして構成することができる。
本技術を適用したセンサとしてのDVSの一実施の形態の構成例を示すブロック図である。 画素回路21の第1の構成例を示すブロック図である。 DVSの通常モードの処理を説明する図である。 DVSの検出確率モードの処理を説明するフローチャートである。 DVSの検出確率モードの処理を説明する図である。 画素回路21の第2の構成例を示すブロック図である。 検出確率の設定の例を示す図である。 画素回路21の第2の構成例について行われる、検出確率に応じたリセット制御の例を説明する図である。 画素回路21の第3の構成例を示すブロック図である。 画素回路21の第3の構成例について行われる、検出確率に応じた閾値制御の例を説明する図である。 画素回路21の第4の構成例を示すブロック図である。 画素回路21の第4の構成例について行われる、検出確率に応じた電流制御の例を説明する図である。 イベントデータの出力の空間的な間引きの例を示す図である。 イベントデータの出力の空間的な間引きの他の例を示す図である。 イベントデータの出力の時間的な間引きの例を示す図である。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
<本技術を適用したDVSの一実施の形態>
図1は、本技術を適用したセンサ(イベント信号検出センサ)としてのDVSの一実施の形態の構成例を示すブロック図である。
図1において、DVSは、画素アレイ部11、認識部12及び13を有する。
画素アレイ部11は、入射光の光電変換を行って電気信号を生成する画素31を含む複数の画素回路21が2次元平面上に格子状に配置されて構成される。画素アレイ部11は、画素31において、入射光の光電変換を行って電気信号を生成する撮像を行う。さらに、画素アレイ部11は、画素回路21において、画素31の電気信号の変化であるイベントの発生を表すイベントデータを生成し、認識部12の制御に応じて、認識部13に出力する。また、画素アレイ部11は、画素31の電気信号から、画像の階調を表現する階調信号を生成し、認識部12に供給する。
以上のように、画素アレイ部11は、イベントデータの他、階調信号も出力するので、垂直同期信号に同期して撮像を行い、その垂直同期信号の周期で1フレーム(画面)の画像の階調信号を出力する同期型のイメージセンサとしても機能することができる。
ここで、画素アレイ部11において、複数の画素回路21が配置された部分は、全体として、入射光を受光して、光電変換を行う部分であるので、受光部ともいう。
認識部12は、画素アレイ部11が出力する階調信号を画素値とする階調画像を対象にパターン認識を行い、そのパターン認識の認識結果に応じて、イベントを検出する単位時間当たりの検出確率を、画素アレイ部11の1個以上の画素回路21からなる領域単位で算出(設定)する検出確率設定部として機能する。
さらに、認識部12は、検出確率に従ってイベントデータが出力されるように、検出確率に応じて、画素回路21を制御する。なお、検出確率に応じた画素回路21の制御は、DVSがイベントデータの出力を調停するアービタ(図示せず)を有する場合には、認識部12からアービタ経由で行うことができる。
認識部13は、画素アレイ部11が出力するイベントデータに対応する値を画素値とするイベント画像を対象にパターン認識を行い、DVSにおいて検出したい注目物体を検出し、その注目物体を追跡する(注目物体に追従する)。
なお、DVSは、複数のダイを積層して構成することができる。DVSを、例えば、2個のダイを積層して構成する場合、2個のダイのうちの1個のダイには、画素アレイ部11を形成し、他の1個のダイには、認識部12及び13を形成することができる。また、1個のダイには、画素アレイ部11の一部を形成し、他の1個のダイには、画素アレイ部11の残りの部分、並びに、認識部12及び13を形成することができる。
<画素回路21の第1の構成例>
図2は、図1の画素回路21の第1の構成例を示すブロック図である。
画素回路21は、画素31、イベント検出部32、及び、ADC(Analog to Digital Converter)33を有する。
画素31は、光電変換素子としてのPD(PhotoDiode)51を有する。画素31は、PD51において、PD51に入射する光を受光し、光電変換を行って、電気信号としての光電流(Iph)を生成して流す。
イベント検出部32は、画素31の光電変換によって生成される光電流に所定の閾値を超える変化(閾値以上の変化を必要に応じて含む)が発生した場合に、その光電流の変化をイベントとして検出する。イベント検出部32は、イベント(の検出)に対して、イベントデータを出力する。
ここで、画素31で生成される光電流の変化は、画素31に入射する光の光量変化とも捉えることができるので、イベントは、画素31の光量変化(閾値を超える光量変化)であるともいうことができる。
イベントデータについては、少なくとも、イベントとしての光量変化が発生した画素31(画素回路21)の位置を表す位置情報(座標等)を特定することができる。その他、イベントデータについては、光量変化の極性(正負)を特定することができる。
イベント検出部32がイベントが発生したタイミングで出力するイベントデータの系列については、イベントデータどうしの間隔がイベントの発生時のまま維持されている限り、イベントが発生した(相対的な)時刻を表す時刻情報を特定することができる。但し、イベントデータがメモリに記憶されること等により、イベントデータどうしの間隔がイベントの発生時のままには維持されなくなると、時刻情報が失われる。そのため、イベントデータについては、イベントデータどうしの間隔がイベントの発生時のまま維持されなくなる前に、イベントデータに、タイムスタンプ等の、イベントが発生した(相対的な)時刻を表す時刻情報が付加される。イベントデータに時刻情報を付加する処理は、イベントデータどうしの間隔がイベントの発生時のままには維持されなくなる前であれば、イベント検出部32で行ってもよいし、イベント検出部32の外部で行ってもよい。
イベント検出部32は、電流電圧変換部41、減算部42、及び、出力部43を有する。
電流電圧変換部41は、画素31からの光電流を、その光電流の対数に対応する電圧(以下、光電圧ともいう)Voに変換し、減算部42に出力する。
電流電圧変換部41は、FET61ないし63で構成される。FET61及び63としては、例えば、N型のMOS FETを採用することができ、FET62としては、例えば、P型のMOS(PMOS) FETを採用することができる。
FET61のソースは、FET63のゲートと接続され、FET61のソースとFET63のゲートとの接続点には、画素31による光電流が流れる。FET61のドレインは、電源VDDに接続され、そのゲートは、FET63のドレインに接続される。
FET62のソースは、電源VDDに接続され、そのドレインは、FET61のゲートとFET63のドレインとの接続点に接続される。FET62のゲートには、所定のバイアス電圧Vbiasが印加される。
FET63のソースは接地される。
電流電圧変換部41において、FET61のドレインは電源VDD側に接続されており、ソースフォロアになっている。ソースフォロアになっているFET61のソースには、画素31のPD51が接続され、これにより、FET61(のドレインからソース)には、画素31のPD51の光電変換により生成される電荷による光電流が流れる。FET61は、サブスレッショルド領域で動作し、FET61のゲートには、そのFET61に流れる光電流の対数に対応する光電圧Voが現れる。以上のように、電流電圧変換部41では、FET61により、画素31からの光電流が、その光電流の対数に対応する光電圧Voに変換される。
光電圧Voは、FET61のゲートとFET63のドレインとの接続点から、減算部42に出力される。
減算部42は、電流電圧変換部41からの光電圧Voについて、現在の光電圧と、現在と微小時間だけ異なるタイミングの光電圧との差を演算し、その差に対応する差信号Voutを、出力部43に出力する。
減算部42は、コンデンサ71、オペアンプ72、コンデンサ73、及び、スイッチ74を有する。
コンデンサ71(第1の容量)の一端は、電流電圧変換部41(のFET62と63との接続点)に接続され、他端は、オペアンプ72の入力端子に接続される。したがって、オペアンプ72の(反転)入力端子には、コンデンサ71を介して光電圧Voが入力される。
オペアンプ72の出力端子は、出力部43に接続される。
コンデンサ73(第2の容量)の一端は、オペアンプ72の入力端子に接続され、他端は、オペアンプ72の出力端子に接続される。
スイッチ74は、コンデンサ73の両端の接続をオン/オフするように、コンデンサ73に接続される。スイッチ74は、出力部43からのリセット信号に従ってオン/オフすることにより、コンデンサ73の両端の接続をオン/オフする。
コンデンサ73及びスイッチ74は、スイッチドキャパシタを構成する。オフになっているスイッチ74が一時的にオンにされ、再び、オフにされることにより、コンデンサ73は、電荷が放電され、新たに電荷を蓄積することができる状態にリセットされる。
スイッチ74をオンした際のコンデンサ71の、電流電圧変換部41側の光電圧VoをVinitと表すとともに、コンデンサ71の容量(静電容量)をC1と表すこととする。オペアンプ72の入力端子は、仮想接地になっており、スイッチ74がオンである場合にコンデンサ71に蓄積される電荷Qinitは、式(1)により表される。
Qinit = C1 ×Vinit
・・・(1)
また、スイッチ74がオンである場合には、コンデンサ73の両端は短絡されるため、コンデンサ73に蓄積される電荷はゼロとなる。
その後、スイッチ74がオフになった場合の、コンデンサ71の、電流電圧変換部41側の光電圧Voを、Vafterと表すこととすると、スイッチ74がオフになった場合にコンデンサ71に蓄積される電荷Qafterは、式(2)により表される。
Qafter = C1×Vafter
・・・(2)
コンデンサ73の容量をC2と表すこととすると、コンデンサ73に蓄積される電荷Q2は、オペアンプ72の出力電圧である差信号Voutを用いて、式(3)により表される。
Q2 = -C2×Vout
・・・(3)
スイッチ74がオフする前後で、コンデンサ71の電荷とコンデンサ73の電荷とを合わせた総電荷量は変化しないため、式(4)が成立する。
Qinit = Qafter + Q2
・・・(4)
式(4)に式(1)ないし式(3)を代入すると、式(5)が得られる。
Vout = -(C1/C2)×(Vafter - Vinit)
・・・(5)
式(5)によれば、減算部42では、光電圧Vafter及びVinitの減算、すなわち、光電圧VafterとVinitとの差Vafter - Vinitに対応する差信号Voutの算出が行われる。式(5)によれば、減算部42の減算のゲインはC1/C2となる。したがって、減算部42は、コンデンサ73のリセット後の光電圧Voの変化をC1/C2倍した電圧を、差信号Voutとして出力する。
出力部43は、減算部42が出力する差信号Voutと、イベントの検出に用いられる所定の閾値(電圧)+Vth及び-Vthとを比較する。出力部43は、差信号Voutが閾値+Vth以上である場合、又は、閾値-Vth以下である場合、イベントとしての光量変化が検出された(発生した)として、イベントデータを出力する。
例えば、出力部43は、差信号Voutが閾値+Vth以上である場合に、正極性のイベントが検出されたとして、+1のイベントデータを出力し、差信号Voutが閾値-Vth以下である場合に、負極性のイベントが検出されたとして、-1のイベントデータを出力する。
イベントが検出されると、出力部43は、スイッチ74を一時的にオンにしてオフにするリセット信号を出力することで、コンデンサ73をリセットする。
なお、スイッチ74がオンにされたままにされると、差信号Voutは、所定のリセットレベルに固定され、イベント検出部32では、イベントとしての光量変化を検出することができなくなる。同様に、スイッチ74がオフにされたままにされる場合も、イベント検出部32では、イベントとしての光量変化を検出することができなくなる。
ここで、画素31では、カラーフィルタ等の所定の光を透過する光学フィルタを設けること等によって、入射光として、任意の光を受光することができる。例えば、画素31において、入射光として、可視光を受光する場合、イベントデータは、視認することができる被写体が映る画像における画素値の変化の発生を表す。また、例えば、画素31において、入射光として、測距のための赤外線やミリ波等を受光する場合、イベントデータは、被写体までの距離の変化の発生を表す。さらに、例えば、画素31において、入射光として、温度の測定のための赤外線を受光する場合、イベントデータは、被写体の温度の変化の発生を表す。本実施の形態では、画素31において、入射光として、可視光を受光することとする。
また、DVSを、例えば、2個のダイを積層して構成する場合には、画素回路21については、全体を1個のダイに形成することや、画素31及び電流電圧変換部41を、1個のダイに形成し、他の部分を、他の1個のダイに形成することができる。
ADC33は、画素31が流す光電流をAD変換し、そのAD変換により得られるディジタル値を、階調信号として出力する。
以上のように構成される画素回路21では、イベントデータと階調信号とを同時に出力することができる。
ここで、DVS(図1)において、認識部13は、画素回路21(の出力部43)が出力するイベントデータに対応する値を画素値とするイベント画像を生成し、そのイベント画像を対象にパターン認識を行う。
イベント画像の生成は、所定のフレーム間隔ごとに、所定のフレーム間隔の先頭から所定のフレーム幅内のイベントデータに応じて行われる。
ここで、フレーム間隔とは、イベント画像の隣接するフレームどうしの間隔を意味する。フレーム幅とは、1フレームのイベント画像の生成に用いるイベントデータの時間幅を意味する。
いま、イベントが発生した時刻を表す時刻情報(以下、イベントの時刻ともいう)をtで表すとともに、イベントが発生した画素31(を有する画素回路21)の位置情報(以下、イベントの位置ともいう)としての座標を、(x, y)で表すこととする。
x軸、y軸、及び、時間軸tで構成される3次元(時)空間において、所定のフレーム間隔ごとの、時間軸t方向に、所定の設定フレーム幅の厚み(時間)を有する直方体をフレームボリュームということとする。フレームボリュームのx軸方向及びy軸方向のサイズは、例えば、画素回路21又は画素31のx軸方向及びy軸方向の個数にそれぞれ等しい。
認識部12は、所定のフレーム間隔ごとに、フレーム間隔の先頭から所定のフレーム幅のフレームボリューム内のイベントデータに応じて(イベントデータを用いて)、1フレームのイベント画像を生成する。
イベント画像の生成は、例えば、イベントの位置(x, y)のフレームの画素(の画素値)を白色に、フレームの他の位置の画素をグレー等の所定の色にセットすることで行うことができる。
その他、フレームデータの生成は、イベントデータについて、イベントとしての光量変化の極性を特定することができる場合には、その極性を考慮して行うことができる。例えば、極性が正である場合には、画素を白色にセットし、極性が負である場合には、画素を黒色にセットすることができる。
以上のように構成されるDVSの動作モードとしては、例えば、通常モードと、検出確率モードとがある。
通常モードでは、画素アレイ部11を構成する画素回路21のすべてが、あらかじめ決められた仕様に従って同様(一律)に動作する。したがって、通常モードでは、ある画素回路31においてイベントが検出される光量変化の入射光が、別の画素回路31に入射された場合、その別の画素回路31でもイベントが検出され、イベントデータが出力される。
一方、検出確率モードでは、認識部12が、検出確率を、1個以上の画素回路21の領域単位で設定(算出)し、その検出確率に従ってイベントデータが出力されるように、画素回路21を制御する。したがって、検出確率モードでは、ある画素回路31においてイベントが検出される光量変化の入射光が、別の画素回路31に入射された場合、その別の画素回路31において、イベントデータが出力されるとは限らない。また、ある画素回路31においてイベントデータが出力されない光量変化の入射光が、別の画素回路31に入射された場合、その別の画素回路31では、イベントが検出され、イベントデータが出力されることがあり得る。
<通常モード>
図3は、DVSの通常モードの処理を説明する図である。
通常モードでは、画素アレイ部11を構成する画素回路21のすべてが、ある閾値を超える光量変化をイベントとして検出し、イベントデータを出力する。
したがって、例えば、DVSで撮像される背景が、例えば、葉の生い茂った木々である場合には、その木々の葉が風に揺れて、イベントが発生する画素31、ひいては、イベントデータのデータ量が膨大になる。イベントデータのデータ量が膨大になると、そのような膨大なイベントデータの処理のレイテンシが長時間になる。
そこで、通常モードでは、認識部12において、画素アレイ部11の各画素回路21が出力する階調信号を画素値とする階調画像を対象にパターン認識を行うことができる。さらに、認識部12において、図3に示すように、パターン認識の認識結果に応じて、DVSにおいて検出したい注目物体の領域を、ROIに設定し、ROI内の画素回路21にだけ、イベントデータを出力させることができる。そして、認識部13では、イベントデータに対応する値を画素値とするイベント画像を対象としてパターン認識を行うことにより、注目物体(ROI)を追跡することで、イベントデータのデータ量が膨大になることに起因して、イベントデータの処理のレイテンシが長時間になることを抑制することができる。
しかしながら、ROI内の画素回路21にだけ、イベントデータを出力させる場合には、ROI以外の領域に、新たな注目物体が現れたときに、その新たな注目物体に起因するイベントデータが出力されず、新たな注目物体を検出することができずに見落とすことになる。
図3では、時刻t0,t1,t2において、イベント画像を対象とするパターン認識により、注目物体としての自動車を含むROIの追跡(注目物体の検出)が行われている。
そして、図3では、時刻t2において、新たな注目物体としての別の自動車が、左下に現れているが、その別の自動車は、ROI以外の領域に現れているため、検出されずに見落とされている。なお、ROI内の画素回路21にだけ、イベントデータを出力させる場合、実際には、イベント画像に、左下の別の自動車は表示されないが、ここでは説明を分かりやすくするため、左下の別の自動車を表示してある。
<検出確率モード>
図4は、DVSの検出確率モードの処理を説明するフローチャートである。
ステップS11において、認識部12は、画素アレイ部11の各画素回路21が出力する階調信号を画素値とする階調画像を取得(生成)し、処理は、ステップS12に進む。
ステップS12では、認識部12は、階調画像を対象にパターン認識を行い、処理は、ステップS13に進む。
ステップS13では、認識部12は、階調画像を対象としたパターン認識の認識結果に応じて、画素アレイ部11の1個以上の画素回路からなる領域単位で、検出確率を設定し、処理は、ステップS14に進む。
ステップS14では、認識部12は、画素回路21において、その画素回路21からなる領域に設定された検出確率に従ってイベントデータが出力されるように、検出確率に応じて、画素回路21を制御し、処理は、ステップS15に進む。
ステップS15では、認識部13が、画素回路21が認識部12の制御に従って出力するイベントデータに対応する値を画素値とするイベント画像を取得(生成)し、処理は、ステップS16に進む。
ステップS16では、認識部13が、イベント画像を対象にパターン認識を行い、そのパターン認識の認識結果に応じて、注目物体を検出して追跡する。
ここで、認識部12による検出確率に応じた画素回路21の制御では、例えば、検出確率が0.5である場合には、2回のイベントのうちの1回のイベント(の検出)に対してだけ、イベントデータを出力するように、画素回路21が制御される。又は、イベントデータの出力が、1/2に間引かれる。
また、例えば、検出確率が0.1である場合には、10回のイベントのうちの1回のイベントに対してだけ、イベントデータを出力するように、画素回路21が制御される。又は、イベントデータの出力が、1/10に間引かれる。
図5は、DVSの検出確率モードの処理を説明する図である。
図5のAは、階調画像の例を示している。図5のAの階調画像には、上部に、空及び雲が映り、中部に、葉が生い茂った木々が映っている。さらに、下部に、道路と、その道路上を右から左に向かって走行する自動車とが映っている。
図5のBは、図5のAの階調画像を対象とする認識部12のパターン認識の認識結果の例を示している。
図5のBでは、階調画像の上部に映る空及び雲、中部に移る葉及び木、並びに、下部に映る道路及び自動車が、パターン認識により認識されている。
図5のCは、図5のBのパターン認識の認識結果に応じた検出確率の設定の例を示している。
認識部12は、階調画像を対象とするパターン認識の認識結果に応じて、1個以上の画素回路21の領域単位でイベントを検出する検出確率を設定する。
例えば、いま、自動車が注目物体に設定されていることとする。認識部12は、注目物体としての自動車を、パターン認識により認識した場合、画素アレイ部11(の受光部)において、その注目物体としての自動車の光が受光された画素回路21(を含む矩形)の領域を、ROIに設定し、ROIの検出確率を1に設定することができる。そして、認識部12は、注目物体以外の物体の光が受光された画素回路21の領域(ROI以外の他の領域)の検出確率を(0以上)1未満の値に設定することができる。
また、各物体には、その物体の検出を優先する程度を表す優先度を割り当てておくことができる。この場合、認識部12は、パターン認識により認識された物体の光が受光された画素回路21の領域に、その物体に割り当てられた優先度に応じた検出確率を設定することができる。例えば、優先度が高いほど、高い検出確率を設定することができる。
図5のCでは、空及び雲の光が受光された画素回路21の領域の検出確率が0に設定され、葉及び木の光が受光された画素回路21の領域の検出確率が0.1に設定されている。さらに、道路の光が受光された画素回路21の領域の検出確率が0.5に設定され、自動車の光が受光された画素回路21の領域をROIとして、ROIの領域の検出確率が1に設定されている。
図5のDは、図5のCの検出確率が設定された場合に得られるイベント画像の例を示している。
検出確率モードでは、検出確率の設定後、その検出確率に従ってイベントデータが出力されるように、検出確率に応じて、画素回路21が制御される。したがって、低い検出確率が設定された領域の画素回路21からのイベントデータの出力が抑制されるので、イベントデータのデータ量が膨大になることに起因して、イベントデータの処理のレイテンシが長時間になることを抑制することができる。すなわち、レイテンシを短時間化することができる。
さらに、例えば、パターン認識により認識された各物体の領域に対して、その領域に注目物体が現れる可能性を優先度として、その優先度に応じて検出確率を設定することで、イベント画像を対象とするパターン認識において、新たな注目物体を検出(認識)をすることができずに、見落とすことを抑制することができる。
<画素回路21の第2の構成例>
図6は、図1の画素回路21の第2の構成例を示すブロック図である。
なお、図中、図2の場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
図6において、画素回路21は、画素31ないしADC33を有し、イベント検出部32は、電流電圧変換部41ないし出力部43、及び、ORゲート101を有する。
したがって、図6の画素回路21は、画素31ないしADC33を有し、イベント検出部32が、電流電圧変換部41ないし出力部43を有する点で、図2の場合と共通する。
但し、図6の画素回路21は、イベント検出部32に、ORゲート101が新たに設けられている点で、図2の場合と相違する。
図6では、認識部12は、検出確率に応じた画素回路21の制御として、画素回路21へのリセット信号の出力によるリセット制御を行う。
ORゲート101の入力端子には、出力部43が出力するリセット信号と、認識部12が出力するリセット信号が供給される。
ORゲート101は、出力部43からのリセット信号と、認識部12からのリセット信号との論理和を演算し、その演算結果を、リセット信号として、スイッチ74に供給する。
したがって、図6では、スイッチ74は、出力部43が出力するリセット信号の他、認識部12が出力するリセット信号にも応じてオン/オフする。そのため、コンデンサ73のリセットは、出力部43の他、認識部12からも行うことができる。コンデンサ73のリセットとは、図2で説明したように、スイッチ74を一時的にオンした後にオフすることで、コンデンサ73の電荷を放電し、電荷を新たに蓄電することができる状態にすることを意味する。
認識部12は、検出確率に応じて、スイッチ74をオン、又は、オフにし続けるリセット信号の出力をオン/オフすることで、コンデンサ73のリセットを制御するリセット制御を行い、これにより、イベントデータが検出確率に従って出力されるようにする。
すなわち、図2で説明したように、スイッチ74がオン又はオフにされたままにされると、コンデンサ73のリセットが行われず、イベント検出部32では、イベントとしての光量変化を検出することができなくなる。したがって、コンデンサ73のリセットを、イベントが検出された場合(差信号Voutが閾値+Vth以上である場合、及び、差信号Voutが閾値-Vth以下である場合)に、常時行うのではなく、検出確率に応じて、頻度を減らすように、リセット制御を行うことで、イベントデータが検出確率に従って出力されるようにすることができる。
コンデンサ73のリセットは、スイッチ74を一時的にオンした後にオフすることで行われるため、スイッチ74が一時的にオンした後にオフすることを、スイッチ74のリセットともう。リセット制御は、コンデンサ73のリセットの制御であるのと同時に、スイッチ74のリセットの制御である。
図7は、検出確率の設定の例を示す図である。
認識部12は、階調信号を画素値とする階調画像を対象として、パターン認識を行い、そのパターン認識の認識結果に応じて、画素アレイ部11の1個以上の画素回路21で構成される領域の単位で、検出確率を設定する。例えば、認識部12は、注目物体の光が受光された画素回路21の領域や、注目物体の光が受光されやすいと推定される画素回路21の領域には、0ないし1の範囲のうちの、比較的大きい値の検出確率を設定し、注目物体の光が受光されないと推定される領域には、0又は0に近い値の検出確率を設定することができる。
図7では、パターン認識の認識結果に応じて、画素アレイ部11の受光部が、上部の領域r0、中部の領域r1、及び、下部の領域r2の3つの領域に区分され、領域r0には検出確率0が、領域r1には検出確率0.1が、領域r2には検出確率0.5が、それぞれ設定されている。
図8は、画素回路21の第2の構成例について行われる、検出確率に応じたリセット制御の例を説明する図である。
各画素回路21では、画素31において、図8に示すように、垂直走査期間に、1水平走査線ごとに、電荷が蓄積されて転送される。画素31から転送される電荷に対応する光電流は、ADC33でAD変換され、階調信号として出力される。認識部12は、1フレーム単位の階調信号を画素値とする階調画像を対象にパターン認識を行い、パターン認識の認識結果に応じて、1個以上の画素回路21で構成される領域の単位で、検出確率を設定する。ここでは、図7に示したように、3つの領域r0ないしr2について、領域r0には検出確率0が、領域r1には検出確率0.1が、領域r2には検出確率0.5が、それぞれ設定されたこととする。
認識部12は、検出確率に応じて、スイッチ74のリセットを制御するリセット制御を行う。
検出確率pが0に設定された領域r0の画素回路21については、スイッチ74がリセットされないように、リセット制御Φ0が行われる。検出確率pが0.1に設定された領域r1の画素回路21については、通常モードの場合の0.1の割合で、スイッチ74がリセットされるように、リセット制御Φ1が行われる。検出確率pが0.5に設定された領域r2の画素回路21については、通常モードの場合の0.5の割合で、スイッチ74がリセットされるように、リセット制御Φ2が行われる。
ここで、所定の単位時間をTで表すこととすると、通常モードの場合のp(0<=p<=1)の割合でのスイッチ74のリセットは、単位時間Tのうちのp×Tの時間だけリセットを有効にすることで行うことができる。リセットを有効にするタイミングは、周期的に選択することができる。又は、所定のクロックのタイミングで、乱数を発生し、乱数に応じて、pの確率でリセットを有効にするタイミングの選択を行うことで、単位時間Tのうちのp×Tの時間だけ、リセットを、確率的に有効にすることができる。
認識部12において、検出確率に応じたリセット制御が開始された後、認識部13では、画素回路21が出力するイベントデータに対応する値を画素値とするイベント画像を対象に、パターン認識が行われ、そのパターン認識の認識結果に応じて、注目物体の追跡(注目物体への追従)が行われる。
<画素回路21の第3の構成例>
図9は、図1の画素回路21の第3の構成例を示すブロック図である。
なお、図中、図2の場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
図9において、画素回路21は、画素31ないしADC33を有し、イベント検出部32は、電流電圧変換部41ないし出力部43を有する。
したがって、図9の画素回路21は、図2の場合と同様に構成される。
但し、図9の画素回路21については、認識部12が、検出確率に応じた画素回路21の制御として、出力部43でイベントの検出に用いられる閾値を制御する閾値制御を行う。
出力部43は、認識部12が制御する閾値を、差信号Voutと比較する閾値Vthとして用いて、差信号Voutと閾値Vthとを比較し、差信号Voutが閾値+Vth以上である場合、又は、閾値-Vth以下である場合、+1又は-1のイベントデータをそれぞれ出力する。
図9では、認識部12は、検出確率に応じて、以上のような閾値制御を行うことによって、イベントの検出、ひいては、イベントデータの出力が、検出確率に従って行われるようにする。
図10は、画素回路21の第3の構成例について行われる、検出確率に応じた閾値制御の例を説明する図である。
各画素回路21では、画素31において、図10に示すように、垂直走査期間に、1水平走査線ごとに、電荷が蓄積されて転送される。画素31から転送される電荷に対応する光電流は、ADC33でAD変換され、階調信号として出力される。認識部12は、1フレーム単位の階調信号を画素値とする階調画像を対象にパターン認識を行い、パターン認識の認識結果に応じて、1個以上の画素回路21で構成される領域の単位で、検出確率を設定する。ここでは、図7に示したように、3つの領域r0ないしr2について、領域r0には検出確率0が、領域r1には検出確率0.1が、領域r2には検出確率0.5が、それぞれ設定されたこととする。
認識部12は、検出確率に応じて、閾値を制御する閾値制御を行う。
検出確率pが0に設定された領域r0の画素回路21については、差信号Voutが閾値+Vth以上及び閾値-Vth以下とならないように、閾値制御が行われる。検出確率pが0.1に設定された領域r1の画素回路21については、通常モードの場合の0.1の割合で、差信号Voutが閾値+Vth以上及び閾値-Vth以下となるように、閾値制御が行われる。検出確率pが0.5に設定された領域r2の画素回路21については、通常モードの場合の0.5の割合で、差信号Voutが閾値+Vth以上及び閾値-Vth以下となるように、閾値制御が行われる。
閾値制御では、検出確率と、その検出確率に従ってイベントデータが出力される閾値との関係を、例えば、シミュレーションによりあらかじめ求めておき、その関係に従って、閾値を、検出確率に従ってイベントデータが出力される閾値に制御することができる。
検出確率pが0に設定された領域r0の画素回路21については、閾値+Vthが、差信号Voutの飽和出力レベルより大になるように、閾値制御を行うことができる。閾値+Vthが、差信号Voutの飽和出力レベルより大になるように、閾値制御が行われた場合、差信号Voutが(基準値Ref.に対して)閾値+Vth以上になること、及び、閾値-Vth以下になることはないので、領域r0の画素回路21が出力するイベントデータRO0(の数)は、ゼロになる。
検出確率pが0.1に設定された領域r1の画素回路21については、閾値+Vthが、差信号Voutの飽和出力レベル以下の所定値になるように、閾値制御を行うことができる。これにより、領域r1の画素回路21が出力するイベントデータRO1を検出確率0.1に従わせることができる。
検出確率pが0.5に設定された領域r2の画素回路21については、閾値+Vthが、領域r1の画素回路21に対する閾値よりも小さい所定値になるように、閾値制御を行うことができる。これにより、領域r2の画素回路21が出力するイベントデータRO2を検出確率0.5に従わせることができる。
認識部12において、検出確率に応じた閾値制御が開始された後、認識部13では、イベントデータに対応する値を画素値とするイベント画像を対象に、パターン認識が行われ、そのパターン認識の認識結果に応じて、注目物体の追跡が行われる。
<画素回路21の第4の構成例>
図11は、図1の画素回路21の第4の構成例を示すブロック図である。
なお、図中、図2の場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
図11において、画素回路21は、画素31ないしADC33を有し、イベント検出部32は、電流電圧変換部41ないし出力部43、及び、FET111を有する。
したがって、図11の画素回路21は、画素31ないしADC33を有し、イベント検出部32が、電流電圧変換部41ないし出力部43を有する点で、図2の場合と共通する。
但し、図11の画素回路21は、電流電圧変換部41と減算部42との間に、FET111が新たに設けられている点で、図2の場合と相違する。
図11では、認識部12は、検出確率に応じた画素回路21の制御として、電流電圧変換部41(のFET62と63との接続点)から減算部42(のコンデンサ71)に流れる電流を制御する電流制御を行う。
FET111は、PMOSのFETであり、認識部12の電流制御としてのゲート電圧の制御に応じて、電流電圧変換部41から減算部42に流れる電流を制御する。例えば、FET111は、認識部12の電流制御に従って、オン/オフする。FET111がオン/オフすることにより、電流電圧変換部41から減算部42への電流の流れがオン/オフする。
認識部12は、検出確率に応じて、FET111をオン/オフにすることで、電流電圧変換部41から減算部42への電流の流れを制御する電流制御を行い、これにより、イベントデータが検出確率に従って出力されるようにする。
なお、認識部12は、電流電圧変換部41から減算部42への電流の流れをオン/オフする他、FET111のゲート電圧を制御することで、電流電圧変換部41から減算部42に流れる電流の量を調整し、ひいては、差信号Voutが閾値+Vth以上になるまでの時間、及び、閾値-Vth以下になるまでの時間を調整する(遅らせる)ことができる。
以上のように、電流電圧変換部41から減算部42への電流の流れをオン/オフする他、差信号Voutが閾値+Vth以上になるまでの時間、及び、閾値-Vth以下になるまでの時間を調整することでも、イベントデータが検出確率に従って出力されるようにすることができる。
図12は、画素回路21の第4の構成例について行われる、検出確率に応じた電流制御の例を説明する図である。
各画素回路21では、画素31において、図12に示すように、垂直走査期間に、1水平走査線ごとに、電荷が蓄積されて転送される。画素31から転送される電荷に対応する光電流は、ADC33でAD変換され、階調信号として出力される。認識部12は、1フレーム単位の階調信号を画素値とする階調画像を対象にパターン認識を行い、パターン認識の認識結果に応じて、1個以上の画素回路21で構成される領域の単位で、検出確率を設定する。ここでは、図7に示したように、3つの領域r0ないしr2について、領域r0には検出確率0が、領域r1には検出確率0.1が、領域r2には検出確率0.5が、それぞれ設定されたこととする。
認識部12は、検出確率に応じて、FET111をオン/オフすることで、電流電圧変換部41から減算部42への電流(以下、検出電流ともいう)の流れを制御する電流制御を行う。
検出確率pが0に設定された領域r0の画素回路21については、検出電流が流れないように、電流制御Tr0が行われる。検出確率pが0.1に設定された領域r1の画素回路21については、通常モードの場合(検出電流を常時流す場合)の0.1の(時間の)割合で、検出電流が流れるように、電流制御Tr1が行われる。検出確率pが0.5に設定された領域r2の画素回路21については、通常モードの場合の0.5の割合で、検出電流が流れるように、電流制御Tr2が行われる。
ここで、所定の単位時間をTで表すこととすると、通常モードの場合のp(0<=p<=1)の割合で検出電流を流すことは、単位時間Tのうちのp×Tの時間だけ、FET111をオンにすることで行うことができる。FET111をオンにするタイミングは、周期的に選択することができる。又は、所定のクロックのタイミングで、乱数を発生し、乱数に応じて、pの確率でFET111をオンにすることで、確率的に、通常モードの場合のpの割合で検出電流を流すことができる。
認識部12において、検出確率に応じた電流制御が開始された後、認識部13では、イベントデータに対応する値を画素値とするイベント画像を対象に、パターン認識が行われ、そのパターン認識の認識結果に応じて、注目物体の追跡が行われる。
<イベントデータの出力の間引き>
図13は、イベントデータの出力の空間的な間引きの例を示す図である。
検出確率に従ってイベントデータを出力することで、イベントデータのデータ量を抑制する検出確率モードの処理は、検出確率に応じて、画素回路21のイベントデータの出力を間引くことにより行うことができる。
ここで、イベントデータの出力を1/Nに間引くとは、N個のイベントのうちの1個のイベントに対して、イベントデータを出力し、N-1個のイベントに対して、イベントデータを出力しないことを意味する。イベントデータを出力しないことは、上述したリセット制御や、閾値制御、電流制御によって行うことができる。さらに、イベントデータを出力しないことは、画素回路21を動作させないこと(例えば、電源を供給しないこと)や、画素回路21は動作させるが、出力部43からのイベントデータの出力を制限することによって行うことができる。
イベントデータの出力の間引きは、空間的又は時間的に行うことができる。
図13は、イベントデータの出力の空間的な間引きの例を示している。
いま、認識部12において、例えば、図7に示したように、3つの領域r0ないしr2について、領域r0には検出確率0が、領域r1には検出確率0.1が、領域r2には検出確率0.5が、それぞれ設定されたこととする。
認識部12は、検出確率pに応じて、イベントデータの出力を、空間的に1/pに間引くように、画素回路21を制御することができる。
検出確率pが0に設定された領域r0の画素回路21については、イベントデータを出力する画素回路21の数が0になるように(全間引きされるように)、画素回路21が制御される。検出確率pが0.1に設定された領域r1の画素回路21については、イベントデータを出力する画素回路21の数が1/10に間引きされるように、画素回路21が制御される。検出確率pが0.5に設定された領域r2の画素回路21については、イベントデータを出力する画素回路21の数が1/2に間引きされるように、画素回路21が制御される。
図13では、白抜きで示す部分が、イベントデータを出力する画素回路21を表し、黒塗りで示す部分が、イベントデータを出力しない画素回路21を表す。後述する図14でも同様である。
図13では、水平走査線の単位で、イベントデータの出力が間引かれるように、画素回路21が制御されている。
図14は、イベントデータの出力の空間的な間引きの他の例を示す図である。
図14では、イベントデータの出力を、図13と同様に間引くように、画素回路21が制御されている。
但し、図14では、検出確率pが0.1に設定された領域r1の画素回路21については、イベントデータの出力が、水平方向に、所定の数の画素回路21の単位で間引かれるように、画素回路21が制御されている。
イベントデータの出力の空間的な間引きは、イベントデータを出力する画素回路21を、空間的に周期的に選択することにより行うこともできるし、ランダムに選択することにより行うこともできる。
また、各画素回路21について、乱数を発生し、乱数に応じて、pの確率で、イベントデータを出力する画素回路21を選択することにより、確率的に、検出確率pに従って、画素回路21のイベントデータの出力を、空間的に間引くことができる。
図15は、イベントデータの出力の時間的な間引きの例を示す図である。
いま、認識部12において、例えば、図7に示したように、3つの領域r0ないしr2について、領域r0には検出確率0が、領域r1には検出確率0.1が、領域r2には検出確率0.5が、それぞれ設定されたこととする。
認識部12は、検出確率pに応じて、イベントデータの出力を、時間的に1/pに間引くように、画素回路21を制御することができる。
検出確率pが0に設定された領域r0の画素回路21が出力するイベントデータRO0については、イベントに対して、イベントデータの出力回数が0になるように(全間引きされるように)、画素回路21が制御される。
検出確率pが0.1に設定された領域r1の画素回路21が出力するイベントデータRO1については、イベントに対して、イベントデータの出力回数が1/10に間引きされるように、画素回路21が制御される。例えば、差信号Voutが閾値+Vth以上になること、又は、閾値-Vth以下になることが10回あった場合に、その10回のうちの1回だけ、イベントデータが出力されるように、画素回路21が制御される。
検出確率pが0.5に設定された領域r2の画素回路21が出力するイベントデータRO2については、イベントに対して、イベントデータの出力回数が1/2に間引きされるように、画素回路21が制御される。例えば、差信号Voutが閾値+Vth以上になること、又は、閾値-Vth以下になることが2回あった場合に、その2回のうちの1回だけ、イベントデータが出力されるように、画素回路21が制御される。
イベントデータの出力の時間的な間引きを行う場合おいて、イベントに対して、イベントデータを出力するタイミングは、周期的に選択することもできるし、ランダムに選択することもできる。
また、イベントに対して、乱数を発生し、乱数に応じて、pの確率で、各イベントについて、イベントデータを出力することを選択することにより、確率的に、検出確率pに従って、画素回路21のイベントデータの出力を、時間的に間引くことができる。
<移動体への応用例>
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
図16は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図16に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(interface)12053が図示されている。
駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図16の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
図17は、撮像部12031の設置位置の例を示す図である。
図17では、車両12100は、撮像部12031として、撮像部12101,12102,12103,12104,12105を有する。
撮像部12101,12102,12103,12104,12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102,12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。撮像部12101及び12105で取得される前方の画像は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図17には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、例えば、撮像部12031に適用され得る。具体的には、図1のDVSは、撮像部12031に適用することができる。撮像部12031に本開示に係る技術を適用することにより、レイテンシを短時間化するとともに、物体の見落としを抑制することができ、その結果、適切な運転支援を行うことができる。
なお、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
また、本明細書に記載された効果はあくまで例示であって限定されるものではなく、他の効果があってもよい。
なお、本技術は、以下の構成をとることができる。
<1>
光電変換を行って電気信号を生成する画素の前記電気信号の変化であるイベントを検出し、前記イベントの発生を表すイベントデータを出力する複数の画素回路と、
パターン認識の認識結果に応じて、前記イベントを検出する単位時間当たりの検出確率を、1個以上の画素回路の領域単位で算出し、前記検出確率に従って前記イベントデータが出力されるように、前記画素回路を制御する検出確率設定部と
を備えるイベント信号検出センサ。
<2>
前記画素回路は、第1の容量、及び、スイッチドキャパシタを構成する第2の容量を含み、前記画素の光電流に対応する電圧の異なるタイミングの電圧どうしの差に対応する差信号を求める減算部を有し、
前記検出確率設定部は、前記検出確率に従って前記イベントデータが出力されるように、前記第2の容量のリセットを制御するリセット制御を行う
<1>に記載のイベント信号検出センサ。
<3>
前記検出確率設定部は、前記検出確率に従って前記イベントデータが出力されるように、前記イベントを検出するときに用いられる閾値を制御する閾値制御を行う
<1>に記載のイベント信号検出センサ。
<4>
前記画素回路は、
前記画素の光電流を、前記光電流に対応する電圧に変換する電流電圧変換部と、
前記電圧の異なるタイミングの電圧どうしの差に対応する差信号を求める減算部と
を有し、
前記検出確率設定部は、前記検出確率に従って前記イベントデータが出力されるように、前記電流電圧変換部から前記減算部に流れる電流を制御する電流制御を行う
<1>に記載のイベント信号検出センサ。
<5>
前記画素回路は、前記電流電圧変換部から前記減算部に流れる電流を制御するトランジスタを有する
<4>に記載のイベント信号検出センサ。
<6>
前記検出確率設定部は、前記検出確率に従って前記イベントデータが出力されるように、前記画素回路のイベントデータの出力を、空間的に間引く
<1>に記載のイベント信号検出センサ。
<7>
前記検出確率設定部は、前記検出確率に従って前記イベントデータが出力されるように、前記画素回路のイベントデータの出力を、時間的に間引く
<1>に記載のイベント信号検出センサ。
<8>
前記検出確率設定部は、前記パターン認識の認識結果に応じて、ROI(Region OF Interest)を設定し、ROIに1の検出確率を算出し、他の領域に1未満の検出確率を算出する
<1>ないし<7>のいずれかに記載のイベント信号検出センサ。
<9>
前記検出確率設定部は、前記パターン認識により認識された物体の光が受光された前記画素回路の領域に、その物体に割り当てられた優先度に応じた検出確率を算出する
<1>ないし<8>のいずれかに記載のイベント信号検出センサ。
<10>
前記検出確率設定部は、乱数に応じて、前記検出確率に従って前記イベントデータが出力されるように、前記画素回路を制御する
<1>に記載のイベント信号検出センサ。
<11>
光電変換を行って電気信号を生成する画素の前記電気信号の変化であるイベントを検出し、前記イベントの発生を表すイベントデータを出力する複数の画素回路を備えるイベント信号検出センサの前記画素回路を制御することを含み、
パターン認識の認識結果に応じて、前記イベントを検出する単位時間当たりの検出確率を、1個以上の画素回路の領域単位で算出し、前記検出確率に従って前記イベントデータが出力されるように、前記画素回路を制御する
制御方法。
11 画素アレイ部, 12,13 認識部, 21 画素回路, 31 画素, 32 イベント検出部, 33 ADC, 41 電流電圧変換部, 42 減算部, 43 出力部, 51 PD, 61ないし63 FET, 71 コンデンサ, 72 オペアンプ, 73 コンデンサ, 74 スイッチ, 101 ORゲート, 111 FET

Claims (11)

  1. 光電変換を行って電気信号を生成する画素の前記電気信号の変化であるイベントを検出し、前記イベントの発生を表すイベントデータを出力する複数の画素回路と、
    パターン認識の認識結果に応じて、前記イベントを検出する単位時間当たりの検出確率を、1個以上の画素回路の領域単位で算出し、前記検出確率に従って前記イベントデータが出力されるように、前記画素回路を制御する検出確率設定部と
    を備えるイベント信号検出センサ。
  2. 前記画素回路は、第1の容量、及び、スイッチドキャパシタを構成する第2の容量を含み、前記画素の光電流に対応する電圧の異なるタイミングの電圧どうしの差に対応する差信号を求める減算部を有し、
    前記検出確率設定部は、前記検出確率に従って前記イベントデータが出力されるように、前記第2の容量のリセットを制御するリセット制御を行う
    請求項1に記載のイベント信号検出センサ。
  3. 前記検出確率設定部は、前記検出確率に従って前記イベントデータが出力されるように、前記イベントを検出するときに用いられる閾値を制御する閾値制御を行う
    請求項1に記載のイベント信号検出センサ。
  4. 前記画素回路は、
    前記画素の光電流を、前記光電流に対応する電圧に変換する電流電圧変換部と、
    前記電圧の異なるタイミングの電圧どうしの差に対応する差信号を求める減算部と
    を有し、
    前記検出確率設定部は、前記検出確率に従って前記イベントデータが出力されるように、前記電流電圧変換部から前記減算部に流れる電流を制御する電流制御を行う
    請求項1に記載のイベント信号検出センサ。
  5. 前記画素回路は、前記電流電圧変換部から前記減算部に流れる電流を制御するトランジスタを有する
    請求項4に記載のイベント信号検出センサ。
  6. 前記検出確率設定部は、前記検出確率に従って前記イベントデータが出力されるように、前記画素回路のイベントデータの出力を、空間的に間引く
    請求項1に記載のイベント信号検出センサ。
  7. 前記検出確率設定部は、前記検出確率に従って前記イベントデータが出力されるように、前記画素回路のイベントデータの出力を、時間的に間引く
    請求項1に記載のイベント信号検出センサ。
  8. 前記検出確率設定部は、前記パターン認識の認識結果に応じて、ROI(Region OF Interest)を設定し、ROIに1の検出確率を算出し、他の領域に1未満の検出確率を算出する
    請求項1に記載のイベント信号検出センサ。
  9. 前記検出確率設定部は、前記パターン認識により認識された物体の光が受光された前記画素回路の領域に、その物体に割り当てられた優先度に応じた検出確率を算出する
    請求項1に記載のイベント信号検出センサ。
  10. 前記検出確率設定部は、乱数に応じて、前記検出確率に従って前記イベントデータが出力されるように、前記画素回路を制御する
    請求項1に記載のイベント信号検出センサ。
  11. 光電変換を行って電気信号を生成する画素の前記電気信号の変化であるイベントを検出し、前記イベントの発生を表すイベントデータを出力する複数の画素回路を備えるイベント信号検出センサの前記画素回路を制御することを含み、
    パターン認識の認識結果に応じて、前記イベントを検出する単位時間当たりの検出確率を、1個以上の画素回路の領域単位で算出し、前記検出確率に従って前記イベントデータが出力されるように、前記画素回路を制御する
    制御方法。
JP2019029414A 2019-02-21 2019-02-21 イベント信号検出センサ及び制御方法 Pending JP2020136958A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019029414A JP2020136958A (ja) 2019-02-21 2019-02-21 イベント信号検出センサ及び制御方法
CN202080011686.8A CN113396579B (zh) 2019-02-21 2020-02-07 事件信号检测传感器和控制方法
PCT/JP2020/004857 WO2020170861A1 (ja) 2019-02-21 2020-02-07 イベント信号検出センサ及び制御方法
US17/310,570 US20220070392A1 (en) 2019-02-21 2020-02-07 Event signal detection sensor and control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019029414A JP2020136958A (ja) 2019-02-21 2019-02-21 イベント信号検出センサ及び制御方法

Publications (1)

Publication Number Publication Date
JP2020136958A true JP2020136958A (ja) 2020-08-31

Family

ID=72144890

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019029414A Pending JP2020136958A (ja) 2019-02-21 2019-02-21 イベント信号検出センサ及び制御方法

Country Status (4)

Country Link
US (1) US20220070392A1 (ja)
JP (1) JP2020136958A (ja)
CN (1) CN113396579B (ja)
WO (1) WO2020170861A1 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113747090A (zh) * 2021-09-01 2021-12-03 豪威芯仑传感器(上海)有限公司 一种像素采集电路及图像传感器
US20220172486A1 (en) * 2019-03-27 2022-06-02 Sony Group Corporation Object detection device, object detection system, and object detection method
DE112021004793T5 (de) 2020-09-07 2023-07-06 Fanuc Corporation Vorrichtung für dreidimensionale Messungen
WO2023176127A1 (ja) * 2022-03-14 2023-09-21 株式会社デンソーウェーブ 三次元計測装置
WO2024106132A1 (ja) * 2022-11-14 2024-05-23 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置および情報処理システム

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7191238B2 (ja) * 2019-08-28 2022-12-16 株式会社ソニー・インタラクティブエンタテインメント センサシステム、画像処理装置、画像処理方法およびプログラム
KR20230148154A (ko) * 2021-02-26 2023-10-24 소니 세미컨덕터 솔루션즈 가부시키가이샤 정보 처리 장치
CN117044221A (zh) * 2021-03-12 2023-11-10 华为技术有限公司 基于事件的视觉传感器和事件过滤的方法
US11563909B1 (en) * 2021-08-13 2023-01-24 Omnivision Technologies, Inc. Event filtering in an event sensing system
WO2023093986A1 (en) * 2021-11-25 2023-06-01 Telefonaktiebolaget Lm Ericsson (Publ) A monolithic image sensor, a camera module, an electronic device and a method for operating a camera module
CN114222034B (zh) * 2022-01-08 2022-08-30 西安电子科技大学 实现事件与灰度值同步输出的动态视觉传感器像素电路
WO2024008305A1 (en) * 2022-07-08 2024-01-11 Telefonaktiebolaget Lm Ericsson (Publ) An image sensor system, a camera module, an electronic device and a method for operating a camera module for detecting events using infrared

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060238616A1 (en) * 2005-03-31 2006-10-26 Honeywell International Inc. Video image processing appliance manager
AT504582B1 (de) * 2006-11-23 2008-12-15 Arc Austrian Res Centers Gmbh Verfahren zur generierung eines bildes in elektronischer form, bildelement für einen bildsensor zur generierung eines bildes sowie bildsensor
WO2011096251A1 (ja) * 2010-02-02 2011-08-11 コニカミノルタホールディングス株式会社 ステレオカメラ
CN103310006B (zh) * 2013-06-28 2016-06-29 电子科技大学 一种车辆辅助驾驶系统中的感兴趣区域提取方法
KR102347249B1 (ko) * 2014-10-21 2022-01-04 삼성전자주식회사 외부 물체의 움직임과 연관된 이벤트에 응답하여 화면을 디스플레이하는 장치 및 방법
KR102421141B1 (ko) * 2015-10-30 2022-07-14 삼성전자주식회사 이벤트 신호 및 영상의 저장 방법 및 저장 장치, 저장 장치로 이벤트 신호를 전송하는 비전 센서의 동작 방법
CN108574793B (zh) * 2017-03-08 2022-05-10 三星电子株式会社 被配置为重新生成时间戳的图像处理设备及包括其在内的电子设备
US10516841B2 (en) * 2017-03-08 2019-12-24 Samsung Electronics Co., Ltd. Pixel, pixel driving circuit, and vision sensor including the same
US10638124B2 (en) * 2017-04-10 2020-04-28 Intel Corporation Using dynamic vision sensors for motion detection in head mounted displays
US10812711B2 (en) * 2018-05-18 2020-10-20 Samsung Electronics Co., Ltd. Semantic mapping for low-power augmented reality using dynamic vision sensor
US11416759B2 (en) * 2018-05-24 2022-08-16 Samsung Electronics Co., Ltd. Event-based sensor that filters for flicker

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220172486A1 (en) * 2019-03-27 2022-06-02 Sony Group Corporation Object detection device, object detection system, and object detection method
US11823466B2 (en) * 2019-03-27 2023-11-21 Sony Group Corporation Object detection device, object detection system, and object detection method
DE112021004793T5 (de) 2020-09-07 2023-07-06 Fanuc Corporation Vorrichtung für dreidimensionale Messungen
CN113747090A (zh) * 2021-09-01 2021-12-03 豪威芯仑传感器(上海)有限公司 一种像素采集电路及图像传感器
WO2023176127A1 (ja) * 2022-03-14 2023-09-21 株式会社デンソーウェーブ 三次元計測装置
WO2024106132A1 (ja) * 2022-11-14 2024-05-23 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置および情報処理システム

Also Published As

Publication number Publication date
CN113396579A (zh) 2021-09-14
WO2020170861A1 (ja) 2020-08-27
CN113396579B (zh) 2024-04-26
US20220070392A1 (en) 2022-03-03

Similar Documents

Publication Publication Date Title
WO2020170861A1 (ja) イベント信号検出センサ及び制御方法
KR102606087B1 (ko) 고체 촬상 소자, 촬상 장치, 및 고체 촬상 소자의 제어 방법
CN112640428B (zh) 固态成像装置、信号处理芯片和电子设备
JP2020072317A (ja) センサ及び制御方法
US11770625B2 (en) Data processing device and data processing method
JP7044107B2 (ja) 光センサ、及び、電子機器
US11297268B2 (en) Solid-state imaging element, imaging apparatus, and method of controlling solid-state imaging element
WO2020195769A1 (ja) 物体検出装置、物体検出システム及び物体検出方法
WO2021085128A1 (ja) 測距装置、測定方法、および、測距システム
WO2020129657A1 (ja) センサ及び制御方法
WO2021010174A1 (ja) 受光装置、および、受光装置の駆動方法
WO2021131831A1 (ja) 固体撮像素子、および、撮像装置
WO2021095560A1 (ja) イベント検出装置
US20190191119A1 (en) Imaging device and control method
WO2022137993A1 (ja) コンパレータ及び固体撮像素子
WO2024135094A1 (ja) 光検出装置、および、光検出装置の制御方法
WO2021100593A1 (ja) 測距装置及び測距方法
US11711634B2 (en) Electronic circuit, solid-state image sensor, and method of controlling electronic circuit
WO2022064867A1 (ja) 固体撮像素子、および、撮像装置
US20240205569A1 (en) Imaging device, electronic device, and light detecting method
WO2022209368A1 (ja) 固体撮像素子及び固体撮像装置
WO2023181662A1 (ja) 測距装置および測距方法