JP7252755B2 - アクティブセンサ、物体識別システム、車両、車両用灯具 - Google Patents

アクティブセンサ、物体識別システム、車両、車両用灯具 Download PDF

Info

Publication number
JP7252755B2
JP7252755B2 JP2018244919A JP2018244919A JP7252755B2 JP 7252755 B2 JP7252755 B2 JP 7252755B2 JP 2018244919 A JP2018244919 A JP 2018244919A JP 2018244919 A JP2018244919 A JP 2018244919A JP 7252755 B2 JP7252755 B2 JP 7252755B2
Authority
JP
Japan
Prior art keywords
light
image
object identification
sensor
image sensor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018244919A
Other languages
English (en)
Other versions
JP2020106376A (ja
Inventor
健佑 荒井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koito Manufacturing Co Ltd
Original Assignee
Koito Manufacturing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koito Manufacturing Co Ltd filed Critical Koito Manufacturing Co Ltd
Priority to JP2018244919A priority Critical patent/JP7252755B2/ja
Priority to DE102019220058.3A priority patent/DE102019220058A1/de
Priority to FR1915483A priority patent/FR3091356B1/fr
Priority to CN201911353833.5A priority patent/CN111398975B/zh
Priority to US16/727,045 priority patent/US11303817B2/en
Publication of JP2020106376A publication Critical patent/JP2020106376A/ja
Application granted granted Critical
Publication of JP7252755B2 publication Critical patent/JP7252755B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • G01S17/10Systems determining position data of a target for measuring distance only using transmission of interrupted, pulse-modulated waves
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q1/00Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor
    • B60Q1/0017Devices integrating an element dedicated to another function
    • B60Q1/0023Devices integrating an element dedicated to another function the element being a sensor, e.g. distance sensor, camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q1/00Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor
    • B60Q1/02Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments
    • B60Q1/04Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments the devices being headlights
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4802Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/4865Time delay measurement, e.g. time-of-flight measurement, time of arrival measurement or determining the exact position of a peak
    • G01S7/4866Time delay measurement, e.g. time-of-flight measurement, time of arrival measurement or determining the exact position of a peak by fitting a model or function to the received signal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/141Control of illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation

Description

本発明は、物体識別システムに関する。
自動運転やヘッドランプの配光の自動制御のために、車両の周囲に存在する物体の位置および種類をセンシングする物体識別システムが利用される。物体識別システムは、センサと、センサの出力を解析する演算処理装置を含む。センサは、カメラ、LiDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)、ミリ波レーダ、超音波ソナーなどの中から、用途、要求精度やコストを考慮して選択される。
センサには、パッシブセンサとアクティブセンサがある。パッシブセンサは、物体が放射した光、あるいは物体が環境光を反射した光を検出するものであり、センサ自体は、光を放射しない。一方、アクティブセンサは、物体にプローブ光を照射し、その反射光を検出する。アクティブセンサは、主として、物体に光を照射する投光器(照明)と、物体からの反射光を撮像するイメージセンサを備える。アクティブセンサは、プローブ光の波長とイメージセンサの感度波長域を合わせることで、パッシブセンサよりも外乱に対する耐性を高めることができるという利点を有する。
特開2009-257983号公報 国際公開WO2017/110413A1
車載用のアクティブセンサは、屋外で使用される。太陽光の波長は、紫外から赤外に及ぶため、プローブ光の波長とオーバーラップする。このことは、太陽光が、アクティブセンサに対する外乱となることを意味する。また太陽光のスペクトル、言い換えれば外乱成分の強さは、時間帯によって変化する。
物体識別システムは、アクティブセンサの出力画像を受け、それに含まれる物体の位置や種類(カテゴリー)を分類する分類器を備える。分類器は、予め用意した膨大な数の画像を学習データ(トレーニングデータ)を用いた機械学習により生成されるモデルを実装したものである。
このような物体識別システムにおいて、昼夜を問わずに高い識別率を実現するためには、さまざまな照度環境下で撮影した画像を学習データとして用いる必要があった。
本発明は係る状況においてなされたものであり、そのある態様の例示的な目的のひとつは、ノイズ耐性を高めたアクティブセンサの提供にある。また別の目的のひとつは、アクティブセンサを用いた物体識別システムの識別率の改善、あるいは学習コストの低減にある。
本発明のある態様はアクティブセンサに関する。アクティブセンサは、プローブ光を出射する投光器と、イメージセンサと、を備える。アクティブセンサは、投光器の発光状態において第1画像を、投光器の非発光状態において第2画像を取得可能に構成される。第2画像は、第1画像の補正に利用可能である。
本発明によれば、ノイズ耐性を高めたアクティブセンサを提供できる。
実施例1に係る物体識別システムのブロック図である。 図1の物体識別システムの動作を説明するタイムチャートである。 変形例1.1に係る物体識別システムの動作を説明するタイムチャートである。 変形例1.2に係る物体識別システムの動作を説明するタイムチャートである。 実施例2に係る物体識別システムのブロック図である。 図5の物体識別システムの動作を説明するタイムチャートである。 実施例3に係る物体識別システムを示す図である。 ゲーティングカメラの動作を説明する図である。 図9(a)、(b)は、ゲーティングカメラにより得られる複数の画像を説明する図である。 図7の物体識別システムの動作波形図である。 物体識別システムを備える自動車を示す図である。 物体検出システムを備える車両用灯具を示すブロック図である。
(実施の形態の概要)
本明細書に開示される一実施の形態は、アクティブセンサに関する。アクティブセンサは、プローブ光を出射する投光器と、イメージセンサと、を備える。アクティブセンサは、投光器の発光状態において第1画像を、投光器の非発光状態において第2画像を取得可能に構成される。第2画像は、第1画像の補正に利用可能である。
投光器によるプローブ光の非発光状態で外乱ノイズのみを含む第2画像を取得し、外乱ノイズとプローブ光の成分を含む第1画像との差分をとることにより、外乱ノイズの影響を低減でき、ノイズ耐性を高めることができる。
投光器とイメージセンサのセットを二個備え、セットごとに波長が異なっていてもよい。
2個のセットは相補的に動作してもよい。これによりフレームレートを高めることができる。
あるいは2個のセットの一方のみを動作させてもよい。たとえば、環境光の状態(スペクトル)に応じて、2個のセットX,Yから、分類器の識別率が高まる一方を選択して動作させてもよい。
アクティブセンサは、投光器の発光タイミングおよびイメージセンサの露光タイミングを制御するコントローラをさらに備えてもよい。
アクティブセンサは、奥行き方向について複数のレンジに区切り、レンジ毎に、発光と撮像の時間差を変化させることにより、複数のレンジに対応する複数の画像を取得可能なゲーティングカメラであってもよい。
第2画像は、レンジ毎に取得されてもよい。これにより精度を高めることができる。
あるいは全レンジにおいて共通の第2画像を用いてもよい。この場合、フレームレートの低下を抑制できる。
投光器は、赤外光または紫外光を出力可能であってもよい。
本明細書に開示される一実施の形態は、物体識別システムに関する。物体識別システムは、アクティブセンサと、アクティブセンサによって得られる画像にもとづいて、物体の種類を識別可能な演算処理装置と、を備えてもよい。
分類器に入力される画像データに含まれる外乱ノイズが大幅に低減される。このことは、外乱ノイズが分類器のモデルに与える影響が低減されることを意味する。したがって学習データの収集に要する労力、時間、コストを削減できる。
(実施の形態)
以下、本発明を好適な実施の形態をもとに図面を参照しながら説明する。各図面に示される同一または同等の構成要素、部材、処理には、同一の符号を付するものとし、適宜重複した説明は省略する。また、実施の形態は、発明を限定するものではなく例示であって、実施の形態に記述されるすべての特徴やその組み合わせは、必ずしも発明の本質的なものであるとは限らない。
(実施例1)
図1は、実施例1に係る物体識別システム10のブロック図である。この物体識別システム10は、自動車やバイクなどの車両に搭載され、車両の周囲に存在する物体OBJの種類(カテゴリ)を判定する。
物体識別システム10は、アクティブセンサ70と、演算処理装置40を備える。アクティブセンサ70は、プローブ光L1を物体OBJに照射し、物体OBJによって反射された反射光L2を撮像する。演算処理装置40は、アクティブセンサ70の出力画像を処理し、物体OBJの位置および種類(カテゴリ)を判定する。
アクティブセンサ70は、投光器72、イメージセンサ74、コントローラ76、補正部78を備える。投光器72は、コントローラ76から与えられる投光タイミング信号S1と同期して、プローブ光L1を車両前方に照射する。プローブ光L1は赤外光あるいは紫外光であることが好ましいが、その限りでなく、所定の波長を有する可視光であってもよい。
イメージセンサ74は、プローブ光L1と同じ波長に感度を有しており、物体OBJが反射した反射光(戻り光)L2を撮影する。イメージセンサ74は、コントローラ76から与えられる撮影タイミング信号S2と同期した露光制御が可能であり、画像IMGを生成可能に構成される。投光器72の発光状態に得られる画像を第1画像IMGa、投光器72の非発光状態に得られる画像を第2画像IMGbと称して区別する。コントローラ76は、投光器72の発光タイミングおよびイメージセンサ74の露光タイミングを制御する。
物体識別システム10は屋外で使用されるため、物体OBJには、プローブ光L1のみでなく、太陽や街路灯からの光(環境光)L3が照射される。したがってイメージセンサ74には、物体OBJが環境光L3を反射した光L4が入射する。加えて、イメージセンサ74の向きによっては、環境光L3が直接入射する場合ある。したがって環境光L3のスペクトルがイメージセンサ74の感度波長と重なる場合、環境光L3は外乱ノイズとなる。
環境光L3の影響を低減するために、物体識別システム10は以下の機能を有する。
アクティブセンサ70は、投光器72を発光状態と非発光状態とで切り替えて2回撮影を行い、発光状態で取得された第1画像IMGaを、非発光状態で取得された第2画像IMGbとを取得可能ある。第1画像IMGaは、第2画像IMGbを用いて補正することができる。本実施例において、この補正は、アクティブセンサ70に設けられた補正部78が行う。
ここでは簡単のため、第1画像IMGaの撮影時と第2画像IMGbの撮影時とで、イメージセンサ74の露出が揃っているものと仮定する。露出は、シャッタースピード、絞り、イメージセンサの感度の関係で定まる。この場合、補正部78は、第1画像IMGaの各画素について、第2画像IMGbの対応する画素の画素値を減算し、減算後の画素値からなる第3画像IMGcを生成する。
演算処理装置40は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)、マイコンなどのプロセッサ(ハードウェア)と、プロセッサ(ハードウェア)が実行するソフトウェアプログラムの組み合わせで実装することができる。演算処理装置40は、複数のプロセッサの組み合わせであってもよい。あるいは演算処理装置40はハードウェアのみで構成してもよい。
演算処理装置40の分類器42は、第3画像IMGcを入力として受け、それに含まれる物体OBJの位置および種類を判定する。分類器42は、機械学習によって生成されたモデルにもとづいて実装される。分類器42のアルゴリズムは特に限定されないが、YOLO(You Only Look Once)とSSD(Single Shot MultiBox Detector)、R-CNN(Region-based Convolutional Neural Network)、SPPnet(Spatial Pyramid Pooling)、Faster R-CNN、DSSD(Deconvolution -SSD)、Mask R-CNNなどを採用することができ、あるいは、将来開発されるアルゴリズムを採用できる。
以上が物体識別システム10の構成である。続いてその動作を説明する。図2は、図1の物体識別システム10の動作を説明するタイムチャートである。
1フレーム周期TFRAMEにおいて、投光タイミング信号S1は、ハイ期間とロー期間をとる。ハイ期間は投光器72の発光期間であり、ロー期間は投光器72の非発光期間である。
撮影タイミング信号S2は、投光タイミング信号S1のハイ期間とロー期間それぞれにおいてハイとなり、イメージセンサ74による撮影が指示される。発光状態におけるシャッタースピード(露光時間)Ts1と、非発光状態におけるシャッタースピードTs2は、等しくてもよいし異なっていてもよい。
イメージセンサ74からは、第1画像IMGaと第2画像IMGbが交互に出力される。2つの画像のペアIMGa、IMGbが揃うと、第2画像IMGbを用いて、第1画像IMGaが補正される。この補正は、最も簡易には画素値の減算とすることができ、IMGa-IMGbのように表される。そして補正後の画像IMGcが、フレーム周期TFRAMEごとに出力される。
以上が物体識別システム10の動作である。続いてその利点を説明する。
プローブ光L1の発光状態において撮影された第1画像IMGaは、反射光L2と外乱ノイズ(環境光の成分L3,L4)を含む。一方、プローブ光L1の非発光状態において撮影された第2画像IMGbには、外乱ノイズのみが含まれる。そこで、それらの差分をとることにより、外乱ノイズの影響を低減でき、ノイズ耐性を高めることができる。
また従来では、学習済みの分類器42に入力される画像データに、環境光に起因する外乱ノイズが含まれるため、分類器42には、外乱ノイズの量にかかわらず、物体OBJを正しく判定する能力が要求されていた。したがって分類器42を機械学習のために、環境光の照度や色温度を変えて撮影した画像(学習データ)を収集する必要があった。
これに対して本実施の形態に係るアクティブセンサ70を用いることで、分類器42に入力される画像データに含まれる外乱ノイズが大幅に低減される。このことは、外乱ノイズが分類器42のモデルに与える影響が低減されることを意味する。したがって学習データの収集に要する労力、時間、コストを削減できる。
続いて、実施例1に関連する変形例を説明する。
(変形例1.1)
図3は、変形例1.1に係る物体識別システム10の動作を説明するタイムチャートである。変形例1.1において、非発光状態の第2画像IMGbが先行して取得され、それに続いて、発光状態の第1画像IMGaが取得される。
(変形例1.2)
実施例1では、第1画像IMGaを取得するたびに、第2画像IMGbを取得したがその限りでない。図4は、変形例1.2に係る物体識別システム10の動作を説明するタイムチャートである。変形例1.2において、補正用の第2画像IMGbは、数フレーム(ここでは3フレーム)に1回、撮影する。変形例1.2によれば、図2に比べてフレーム周期を短くすることができる。
(変形例1.3)
あるいは非発光状態で複数回の撮影を行い、得られた画像を平均(あるいは加算)することにより、第2画像IMGbを生成してもよい。
(変形例1.4)
実施例1では、アクティブセンサ70に、補正部78を設けたがその限りでない。アクティブセンサ70は、第1画像IMGa、第2画像IMGbのペアを出力することとし、補正部78の機能を演算処理装置40に実行させてもよい。
(変形例1.5)
発光状態と非発光状態とで、イメージセンサ74の露出は異なっていてもよい。この場合、露出が揃うように、第1画像IMGa、第2画像IMGbを画像処理によって増感、あるいは減感し、露出を揃えた状態で、減算処理を行えばよい。
(実施例2)
図5は、実施例2に係る物体識別システム10Aのブロック図である。物体識別システム10Aは、演算処理装置40およびアクティブセンサ70Aを備える。アクティブセンサ70Aは、投光器72とイメージセンサ74のセットを二組X,Y備える。第1セットXと第2セットYは、波長が異なる。第1セットXにおいて、投光器72xは第1波長λのプローブ光を出射する。イメージセンサ74xは第1波長λに感度を有するが、第2波長λIIには不感である。第2セットYにおいて、投光器72yは第2波長λIIのプローブ光を出射し、イメージセンサ74yは第2波長λに感度を有するが、第1波長λには不感である。
図6は、図5の物体識別システム10Aの動作を説明するタイムチャートである。この 2個のセットが相補的に動作する。具体的には、第1セットXの発光状態は、第2セットYの非発光状態であり、第1セットXの非発光状態は、第2セットYの発光状態である。これにより、各セットの動作周期(フレーム周期)TFRAMEの間に、2枚の画像IMGcを得ることができ、実効的なフレームレートを増やすことができる。
なお、2つのセットX,Yの一方のみを選択して動作させてもよい。たとえば環境光の状態(スペクトル)に応じて、2個のセットX,Yから、分類器42の識別率が高まる一方を選択して動作させてもよい。
(実施例3)
図7は、実施例3に係る物体識別システム10Cを示す図である。アクティブセンサ70Cは、ゲーティングカメラである。ゲーティングカメラ70Cによる撮影は、奥行き方向について複数N個(N≧2)のレンジRNG~RNGに区切り、レンジ毎に区切って行われる。隣接するレンジ同士は、それらの境界において奥行き方向にオーバーラップしてもよい。
コントローラ76は、レンジ毎RNGに、投光タイミング信号S1と撮影タイミング信号S2を変化させて、投光器72による投光と、イメージセンサ74の露光の時間差を変化させる。ゲーティングカメラ70Cは、複数のレンジRNG~RNGに対応する複数の第1画像IMGa~IMGaを生成する。i番目の第1画像IMGaには、対応するレンジRNGに含まれる物体のみが写ることとなる。
図8は、ゲーティングカメラ70Cの動作を説明する図である。図8にはi番目のレンジRNGを測定するときの様子が示される。投光器72は、投光タイミング信号S1と同期して、時刻t~tの間の発光期間τの間、発光する。最上段には、横軸に時間、縦軸に距離をとった光線のダイアグラムが示される。ゲーティングカメラ70Cから、レンジRNGの手前の境界までの距離をdMINi、レンジRNGの奥側の境界までの距離をdMAXiとする。
ある時刻に投光器72を出発した光が、距離dMINiに到達してその反射光がイメージセンサ74に戻ってくるまでのラウンドトリップ時間TMINiは、
MINi=2×dMINi/c
である。cは光速である。
同様に、ある時刻に投光器72を出発した光が、距離dMAXiに到達してその反射光がイメージセンサ74に戻ってくるまでのラウンドトリップ時間TMAXiは、
MAXi=2×dMAXi/c
である。
レンジRNGに含まれる物体OBJのみを撮影したいとき、コントローラ76は、時刻t=t+TMINiに露光を開始し、時刻t=t+TMAXiに露光を終了するように、撮影タイミング信号S2を生成する。これが1回の露光動作である。
i番目のレンジRNGを撮影する際に、複数回の露光を行ってもよい。この場合、コントローラ76は、所定の周期τで、上述の露光動作を複数回にわたり繰り返せばよい。
図9(a)、(b)は、ゲーティングカメラ70Cにより得られる複数の画像を説明する図である。図9(a)の例では、レンジRNGに物体(歩行者)OBJが存在し、レンジRNGに物体(車両)OBJが存在している。図9(b)には、図9(a)の状況で得られる複数の第1画像IMGa~IMGaが示される。画像IMGaを撮影するとき、イメージセンサはレンジRNGからの反射光のみにより露光されるため、画像IMGaにはいかなる物体も写らない。
画像IMGaを撮影するとき、イメージセンサはレンジRNGからの反射光のみにより露光されるため、画像IMGaには、物体OBJのみが写る。同様に画像IMGaを撮影するとき、イメージセンサはレンジRNGからの反射光のみにより露光されるため、画像IMGaには、物体OBJのみが写る。このようにゲーティングカメラ70Cによれば、レンジごとに物体を分離して撮影することができる。
以上が物体識別システム10Cの構成である。続いてその動作を説明する。図10は、図7の物体識別システム10Cの動作波形図である。図10では、第2画像IMGbは、最初に1枚だけ撮影し、複数のレンジで共有される。なお、第2画像IMGbの撮影を、レンジ毎に行ってもよい。
図11は、物体識別システム10を備える自動車を示す図である。自動車300は、前照灯302L,302Rを備える。物体識別システム10は、前照灯302L,302Rの少なくとも一方に内蔵される。前照灯302は、車体の最も先端に位置しており、周囲の物体を検出する上で、アクティブセンサ70の設置箇所として最も有利である。
図12は、物体検出システム210を備える車両用灯具200を示すブロック図である。車両用灯具200は、車両側ECU304とともに灯具システム310を構成する。車両用灯具200は、光源202、点灯回路204、光学系206を備える。さらに車両用灯具200には、物体検出システム210が設けられる。物体検出システム210は、上述の物体識別システム10に対応しており、アクティブセンサ70および演算処理装置40を含む。
演算処理装置40が検出した物体OBJに関する情報は、車両用灯具200の配光制御に利用してもよい。具体的には、灯具側ECU208は、演算処理装置40が生成する物体OBJの種類とその位置に関する情報にもとづいて、適切な配光パターンを生成する。点灯回路204および光学系206は、灯具側ECU208が生成した配光パターンが得られるように動作する。
また演算処理装置40が検出した物体OBJに関する情報は、車両側ECU304に送信してもよい。車両側ECUは、この情報にもとづいて、自動運転を行ってもよい。
実施の形態にもとづき、具体的な語句を用いて本発明を説明したが、実施の形態は、本発明の原理、応用の一側面を示しているにすぎず、実施の形態には、請求の範囲に規定された本発明の思想を逸脱しない範囲において、多くの変形例や配置の変更が認められる。
10 物体識別システム
OBJ 物体
20 ゲーティングカメラ
22 投光器
24 イメージセンサ
26 コントローラ
S1 投光タイミング信号
S2 撮影タイミング信号
IMGa 第1画像
IMGb 第2画像
IMGc 第3画像
40 演算処理装置
42 分類器
70 アクティブセンサ
72 投光器
74 イメージセンサ
76 コントローラ
78 補正部
200 車両用灯具
202 光源
204 点灯回路
206 光学系
300 自動車
302 前照灯
310 灯具システム
304 車両側ECU
L1 プローブ光
L2 反射光
L3 環境光

Claims (6)

  1. 第1波長のプローブ光を出射する第1投光器と、
    第2波長のプローブ光を出射する第2投光器と、
    前記第1波長に感度を有する第1イメージセンサと、
    前記第2波長に感度を有する第2イメージセンサと、
    を備え、
    前記第1投光器が発光状態であり、前記第2投光器が非発光状態である第1期間と、前記第1投光器が非発光状態であり、前記第2投光器が発光状態である第2期間と、交互に繰り返し、
    前記第1イメージセンサと前記第2イメージセンサは、前記第1期間と前記第2期間それぞれにおいて撮影を行い、
    前記第1期間において前記第1イメージセンサが生成した第1画像を、前記第2期間において前記第1イメージセンサが生成した第2画像を利用して補正可能であり、
    前記第2期間において前記第2イメージセンサが生成した第1画像を、前記第1期間において前記第2イメージセンサが生成した第2画像を利用して補正可能であることを特徴とするアクティブセンサ。
  2. 前記投光器の発光タイミングおよび前記イメージセンサの露光タイミングを制御するコントローラをさらに備えることを特徴とする請求項に記載のアクティブセンサ。
  3. 前記プローブ光の波長は、赤外または紫外であることを特徴とする請求項1または2に記載のアクティブセンサ。
  4. 請求項1からのいずれかに記載のアクティブセンサと、
    前記アクティブセンサによって得られる画像にもとづいて、物体の種類を識別可能な演算処理装置と、
    を備えることを特徴とする物体識別システム。
  5. 請求項に記載の物体識別システムを備えることを特徴とする車両用灯具。
  6. 請求項に記載の物体識別システムを備えることを特徴とする車両。
JP2018244919A 2018-12-27 2018-12-27 アクティブセンサ、物体識別システム、車両、車両用灯具 Active JP7252755B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2018244919A JP7252755B2 (ja) 2018-12-27 2018-12-27 アクティブセンサ、物体識別システム、車両、車両用灯具
DE102019220058.3A DE102019220058A1 (de) 2018-12-27 2019-12-18 Aktiver sensor, objekt-identifikationssystem, fahrzeug und fahrzeuglampe
FR1915483A FR3091356B1 (fr) 2018-12-27 2019-12-23 Capteur actif, système d’identification d’objet, véhicule et feu de véhicule
CN201911353833.5A CN111398975B (zh) 2018-12-27 2019-12-25 主动传感器、物体识别系统、车辆、车辆用灯具
US16/727,045 US11303817B2 (en) 2018-12-27 2019-12-26 Active sensor, object identification system, vehicle and vehicle lamp

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018244919A JP7252755B2 (ja) 2018-12-27 2018-12-27 アクティブセンサ、物体識別システム、車両、車両用灯具

Publications (2)

Publication Number Publication Date
JP2020106376A JP2020106376A (ja) 2020-07-09
JP7252755B2 true JP7252755B2 (ja) 2023-04-05

Family

ID=71079576

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018244919A Active JP7252755B2 (ja) 2018-12-27 2018-12-27 アクティブセンサ、物体識別システム、車両、車両用灯具

Country Status (5)

Country Link
US (1) US11303817B2 (ja)
JP (1) JP7252755B2 (ja)
CN (1) CN111398975B (ja)
DE (1) DE102019220058A1 (ja)
FR (1) FR3091356B1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2021193645A1 (ja) * 2020-03-24 2021-09-30
CN113076943A (zh) * 2021-02-23 2021-07-06 海南快停科技有限公司 一种基于车牌特征识别的摄像功能
WO2023224077A1 (ja) * 2022-05-18 2023-11-23 株式会社小糸製作所 ToFカメラ、車両用センシングシステム、および車両用灯具

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003329773A (ja) 2002-05-10 2003-11-19 Hitachi Ltd 複数の距離検知センサを設置した車両制御装置
JP2008175538A (ja) 2007-01-16 2008-07-31 Fujifilm Corp 撮影装置および方法並びにプログラム
JP2009257981A (ja) 2008-04-18 2009-11-05 Calsonic Kansei Corp 車両用距離画像データ生成装置
JP2011013138A (ja) 2009-07-03 2011-01-20 Toyota Central R&D Labs Inc 画像センサとその画像センサに用いられる受光装置
JP2012189535A (ja) 2011-03-14 2012-10-04 Ihi Corp 植生検出装置及び植生検出方法
JP2014122847A (ja) 2012-12-21 2014-07-03 Olympus Corp 画像補正装置、画像補正プログラム、画像補正方法
US20140247349A1 (en) 2013-03-04 2014-09-04 GM Global Technology Operations LLC Integrated lighting, camera and sensor unit
WO2016151918A1 (ja) 2015-03-26 2016-09-29 富士フイルム株式会社 距離画像取得装置及び距離画像取得方法
WO2017110413A1 (ja) 2015-12-21 2017-06-29 株式会社小糸製作所 車両用画像取得装置、制御装置、車両用画像取得装置または制御装置を備えた車両および車両用画像取得方法
US20170307736A1 (en) 2016-04-22 2017-10-26 OPSYS Tech Ltd. Multi-Wavelength LIDAR System
WO2018052087A1 (ja) 2016-09-15 2018-03-22 株式会社小糸製作所 センサシステム
JP2018189564A (ja) 2017-05-09 2018-11-29 株式会社キーエンス 画像検査装置および画像検査方法

Family Cites Families (57)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7019275B2 (en) * 1997-09-16 2006-03-28 Gentex Corporation Moisture sensor and windshield fog detector
US6876392B1 (en) * 1998-12-22 2005-04-05 Matsushita Electric Industrial Co., Ltd. Rangefinder for obtaining information from a three-dimensional object
FR2815914B1 (fr) * 2000-10-27 2003-01-03 Valeo Vision Dispositif de correction automatique de l'orientation en site d'un projecteur de vehicule automobile
AU2003214595A1 (en) * 2002-03-07 2003-09-16 Yechezkal Evan Spero Enhanced vision for driving
JP2004144512A (ja) * 2002-10-22 2004-05-20 Denso Corp 乗員検知システム
FR2857463B1 (fr) * 2003-07-11 2005-09-02 Valeo Vision Systeme de vision nocturne a infrarouge, en couleur.
JP4309728B2 (ja) * 2003-09-17 2009-08-05 パナソニック株式会社 監視用ビデオカメラ
US7319805B2 (en) * 2003-10-06 2008-01-15 Ford Motor Company Active night vision image intensity balancing system
JP2006011671A (ja) 2004-06-24 2006-01-12 Alpine Electronics Inc 車載周辺状況検出装置
JP4595135B2 (ja) 2004-10-07 2010-12-08 株式会社メガチップス 距離測定システムおよび距離測定方法
US20060228003A1 (en) * 2005-04-06 2006-10-12 Silverstein D A Method and apparatus for detection of optical elements
WO2006118076A1 (ja) * 2005-04-28 2006-11-09 Aisin Seiki Kabushiki Kaisha 車両周辺監視システム
US9330324B2 (en) * 2005-10-11 2016-05-03 Apple Inc. Error compensation in three-dimensional mapping
JP4730267B2 (ja) * 2006-07-04 2011-07-20 株式会社デンソー 車両用視界状況判定装置
US7579593B2 (en) * 2006-07-25 2009-08-25 Panasonic Corporation Night-vision imaging apparatus, control method of the same, and headlight module
JP4315175B2 (ja) * 2006-08-10 2009-08-19 日産自動車株式会社 光検出方法および光検出装置
DE102008006973B4 (de) * 2007-02-02 2017-03-02 Denso Corporation Projektor und Bildaufnahmevorrichtung
EP2674324B1 (en) * 2007-04-30 2018-12-26 Mobileye Vision Technologies Ltd. Rear obstruction detection
FR2919727B1 (fr) * 2007-08-03 2010-07-30 Valeo Vision Procede de detection par un vehicule d'un phenomene perturbateur de visibilite
JP4640404B2 (ja) * 2007-11-22 2011-03-02 トヨタ自動車株式会社 車両運転者状態検出装置
JP2009257983A (ja) 2008-04-18 2009-11-05 Calsonic Kansei Corp 車両用距離画像データ生成装置および車両用距離画像データの生成方法
JP2009257982A (ja) * 2008-04-18 2009-11-05 Calsonic Kansei Corp 車両用距離画像データ生成装置
JP2009282906A (ja) * 2008-05-26 2009-12-03 Calsonic Kansei Corp 車両用距離画像データ生成装置
JP2010272067A (ja) * 2009-05-25 2010-12-02 Hitachi Automotive Systems Ltd 画像処理装置
US20110187878A1 (en) * 2010-02-02 2011-08-04 Primesense Ltd. Synchronization of projected illumination with rolling shutter of image sensor
JP5629521B2 (ja) 2010-07-29 2014-11-19 パナソニック株式会社 障害物検知システム及び方法、障害物検知装置
CN103249597B (zh) * 2010-08-06 2015-04-29 丰田自动车株式会社 车辆配光控制装置以及方法
US9204129B2 (en) * 2010-09-15 2015-12-01 Perceptron, Inc. Non-contact sensing system having MEMS-based light source
US9454241B2 (en) * 2010-11-12 2016-09-27 3M Innovative Properties Company Interactive polarization-preserving projection display
US8938099B2 (en) * 2010-12-15 2015-01-20 Canon Kabushiki Kaisha Image processing apparatus, method of controlling the same, distance measurement apparatus, and storage medium
WO2012086070A1 (ja) * 2010-12-24 2012-06-28 株式会社日立製作所 路面形状認識装置及びそれを利用した自律移動装置
JP5617999B2 (ja) * 2011-04-13 2014-11-05 トヨタ自動車株式会社 車載周辺物認識装置及びこれを用いる運転支援装置
JP5366028B2 (ja) * 2011-08-25 2013-12-11 株式会社デンソー 顔画像撮像装置
US8744763B2 (en) * 2011-11-17 2014-06-03 Honeywell International Inc. Using structured light to update inertial navigation systems
US8844802B2 (en) * 2011-12-20 2014-09-30 Eastman Kodak Company Encoding information in illumination patterns
JP2013156109A (ja) * 2012-01-30 2013-08-15 Hitachi Ltd 距離計測装置
JP5984409B2 (ja) * 2012-02-03 2016-09-06 キヤノン株式会社 三次元計測システム及び方法
JP5615862B2 (ja) * 2012-03-07 2014-10-29 クラリオン株式会社 車両周囲監視装置
JP6008148B2 (ja) * 2012-06-28 2016-10-19 パナソニックIpマネジメント株式会社 撮像装置
US9349058B2 (en) * 2012-10-31 2016-05-24 Tk Holdings, Inc. Vehicular path sensing system and method
JP5853947B2 (ja) * 2012-12-27 2016-02-09 株式会社デンソー 暗視装置
US9041914B2 (en) * 2013-03-15 2015-05-26 Faro Technologies, Inc. Three-dimensional coordinate scanner and method of operation
US9978148B2 (en) * 2013-04-26 2018-05-22 Panasonic Intellectual Property Corporation Of America Motion sensor apparatus having a plurality of light sources
JP6270813B2 (ja) * 2013-07-01 2018-01-31 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 複数の光源を有するモーションセンサ装置
US20150109444A1 (en) * 2013-10-22 2015-04-23 GM Global Technology Operations LLC Vision-based object sensing and highlighting in vehicle image display systems
US10469827B2 (en) * 2013-12-27 2019-11-05 Sony Corporation Image processing device and image processing method
JP6183238B2 (ja) * 2014-02-06 2017-08-23 株式会社Jvcケンウッド 撮像装置及び撮像装置の制御方法
US10410366B2 (en) * 2015-03-31 2019-09-10 Sony Corporation Imaging system using structured light for depth recovery
CN113147582B (zh) * 2015-04-10 2023-12-26 麦克赛尔株式会社 具有影像投射部的车辆
JP2017020873A (ja) * 2015-07-09 2017-01-26 キヤノン株式会社 被計測物の形状を計測する計測装置
US10645309B2 (en) * 2015-11-06 2020-05-05 Intel Corporation Systems, methods, and apparatuses for implementing maximum likelihood image binarization in a coded light range camera
JP6038415B1 (ja) * 2015-11-25 2016-12-07 三菱電機株式会社 3次元画像計測装置及び方法
EP3205540A1 (de) * 2016-02-09 2017-08-16 Continental Automotive GmbH Fahrerassistenzvorrichtung sowie ein verfahren zur unterstützung eines fahrzeugführers beim führen eines fahrzeugs
US10712561B2 (en) * 2016-11-04 2020-07-14 Microsoft Technology Licensing, Llc Interference mitigation via adaptive depth imaging
JP6922187B2 (ja) * 2016-11-08 2021-08-18 株式会社リコー 測距装置、監視カメラ、3次元計測装置、移動体、ロボット及び光源駆動条件設定方法
CN108616726A (zh) * 2016-12-21 2018-10-02 光宝电子(广州)有限公司 基于结构光的曝光控制方法及曝光控制装置
US10726569B2 (en) * 2017-05-16 2020-07-28 Canon Kabushiki Kaisha Information processing apparatus, information processing method, and non-transitory computer-readable storage medium

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003329773A (ja) 2002-05-10 2003-11-19 Hitachi Ltd 複数の距離検知センサを設置した車両制御装置
JP2008175538A (ja) 2007-01-16 2008-07-31 Fujifilm Corp 撮影装置および方法並びにプログラム
JP2009257981A (ja) 2008-04-18 2009-11-05 Calsonic Kansei Corp 車両用距離画像データ生成装置
JP2011013138A (ja) 2009-07-03 2011-01-20 Toyota Central R&D Labs Inc 画像センサとその画像センサに用いられる受光装置
JP2012189535A (ja) 2011-03-14 2012-10-04 Ihi Corp 植生検出装置及び植生検出方法
JP2014122847A (ja) 2012-12-21 2014-07-03 Olympus Corp 画像補正装置、画像補正プログラム、画像補正方法
US20140247349A1 (en) 2013-03-04 2014-09-04 GM Global Technology Operations LLC Integrated lighting, camera and sensor unit
WO2016151918A1 (ja) 2015-03-26 2016-09-29 富士フイルム株式会社 距離画像取得装置及び距離画像取得方法
WO2017110413A1 (ja) 2015-12-21 2017-06-29 株式会社小糸製作所 車両用画像取得装置、制御装置、車両用画像取得装置または制御装置を備えた車両および車両用画像取得方法
US20170307736A1 (en) 2016-04-22 2017-10-26 OPSYS Tech Ltd. Multi-Wavelength LIDAR System
WO2018052087A1 (ja) 2016-09-15 2018-03-22 株式会社小糸製作所 センサシステム
JP2018189564A (ja) 2017-05-09 2018-11-29 株式会社キーエンス 画像検査装置および画像検査方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
大見 拓寛,運転者の居眠り状態評価の画像センサ,画像ラボ,日本,日本工業出版株式会社,2015年02月10日,第26巻 第2号,Pages: 64-69,ISSN: 0915-6755

Also Published As

Publication number Publication date
JP2020106376A (ja) 2020-07-09
CN111398975B (zh) 2023-12-05
FR3091356A1 (fr) 2020-07-03
US20200213499A1 (en) 2020-07-02
FR3091356B1 (fr) 2022-04-29
CN111398975A (zh) 2020-07-10
DE102019220058A1 (de) 2020-07-02
US11303817B2 (en) 2022-04-12

Similar Documents

Publication Publication Date Title
JP7252755B2 (ja) アクティブセンサ、物体識別システム、車両、車両用灯具
US10632899B2 (en) Illumination device for a motor vehicle for increasing the perceptibility of an obstacle
WO2017110415A1 (ja) 車両用センサおよびそれを備えた車両
US20200348127A1 (en) 3-d environment sensing by means of projector and camera modules
JP2008276328A (ja) 顔画像撮像装置
JP2017062582A (ja) 車外環境認識装置
US20230179841A1 (en) Gating camera
JP6420650B2 (ja) 車外環境認識装置
WO2020149140A1 (ja) 車載用イメージング装置、車両用灯具、自動車
CN102971776A (zh) 障碍物检测系统以及方法、障碍物检测装置
TW202021340A (zh) 用於相機之紅外光預閃光
JP4751443B2 (ja) 撮影装置、及び撮影方法
WO2021201269A1 (ja) ゲーティングカメラ、車両用センシングシステム、車両用灯具
WO2016031666A1 (ja) 視線検出装置
US20220132022A1 (en) Imaging device
WO2021193645A1 (ja) ゲーティングカメラ、センシングシステム、車両用灯具
JP7204551B2 (ja) 車両用監視システム
WO2023013776A1 (ja) ゲーティングカメラ、車両用センシングシステム、車両用灯具
JP7474759B2 (ja) 車両用灯具
WO2021015208A1 (ja) アクティブセンサ、ゲーティングカメラ、自動車、車両用灯具
WO2023013777A1 (ja) ゲーティングカメラ、車両用センシングシステム、車両用灯具
US20240083346A1 (en) Gating camera, vehicle sensing system, and vehicle lamp
WO2021172478A1 (ja) センサ、自動車および周囲環境のセンシング方法
WO2023085403A1 (ja) センシングシステム
CN112153252B (zh) 车辆用灯具

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211109

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220922

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221124

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20230113

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20230217

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230228

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230324

R150 Certificate of patent or registration of utility model

Ref document number: 7252755

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150