JP2019020956A - 車両周囲認識装置 - Google Patents

車両周囲認識装置 Download PDF

Info

Publication number
JP2019020956A
JP2019020956A JP2017137853A JP2017137853A JP2019020956A JP 2019020956 A JP2019020956 A JP 2019020956A JP 2017137853 A JP2017137853 A JP 2017137853A JP 2017137853 A JP2017137853 A JP 2017137853A JP 2019020956 A JP2019020956 A JP 2019020956A
Authority
JP
Japan
Prior art keywords
shadow
vehicle
image
recognition device
feature point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017137853A
Other languages
English (en)
Other versions
JP6720931B2 (ja
JP2019020956A5 (ja
Inventor
貴道 鳥倉
Takamichi Torikura
貴道 鳥倉
謙二 岡野
Kenji Okano
謙二 岡野
フォッケン マティアス
Focken Matias
フォッケン マティアス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2017137853A priority Critical patent/JP6720931B2/ja
Priority to PCT/JP2018/026190 priority patent/WO2019013252A1/ja
Publication of JP2019020956A publication Critical patent/JP2019020956A/ja
Publication of JP2019020956A5 publication Critical patent/JP2019020956A5/ja
Priority to US16/739,472 priority patent/US11282235B2/en
Application granted granted Critical
Publication of JP6720931B2 publication Critical patent/JP6720931B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256Lane; Road marking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)

Abstract

【課題】道路の路面上にかかっている影を的確に検出することによって、対象物の検出精度を向上できる車両周囲認識装置を提供する。【解決手段】車両周囲認識装置1は、車両2の周囲の道路を含む範囲を撮像するように当該車両に搭載された撮像部20により撮像された画像を取得する。影検出部11は、画像を構成する複数の要素の間で、各要素が表す色に含まれる特定の色成分の度合、及び輝度をそれぞれ比較した差分に基づいて、画像において道路の路面上に影がかかっている領域である影領域を検出する。特徴点検出部12は、画像の中から特徴点を検出する。影エッジ除去部13は、検出された特徴点群から影領域のエッジに該当する特徴点を除去する。認識部14は、影領域のエッジが除去された後の特徴点群から、車両の周囲に存在する特定の対象物を認識する。【選択図】 図1

Description

本開示は、車両の周囲の道路を撮像した画像から対象物を認識する車両周囲認識装置に関する。
特許文献1には、道路を撮影した画像に基づいて道路に引かれた白線を検出する白線検出装置において、画像の明暗の変化に基づいて影領域を設定し、影領域のエッジを消去した後に、白線の検出を行う先行技術が記載されている。前記先行技術によれば、道路の路面上に自車両や建物等の影がある場合において、白線の検出精度の低下を抑制できるとされている。
特許第4270183号公報
しかしながら、上述の先行技術においては、画像の明暗の変化のみに基づいて検出したエッジの中から影領域を推定するため、本来は影ではない明暗の変化を影であると誤認識する可能性がある。
そこで、本開示の一局面は、道路の路面上にかかっている影を的確に検出することによって、対象物の検出精度を向上できる車両周囲認識装置を提供することが好ましい。
本開示の一態様に係る車両周囲認識装置(1)は、車両(2)の周囲の道路を含む範囲を撮像するように当該車両に搭載された撮像部(20)により撮像された画像を取得し、その取得された画像から車両の周囲に存在する特定の対象物を認識する。この車両周囲認識装置は、影検出部(11)と、特徴点検出部(12)と、認識部(14)とを備える。
なお、この欄及び特許請求の範囲に記載した括弧内の符号は、一つの態様として後述する実施形態に記載の具体的手段との対応関係を示すものであって、本開示の技術的範囲を限定するものではない。
影検出部は、画像を構成する複数の要素の間で、各要素が表す色に含まれる特定の色成分の度合、及び輝度をそれぞれ比較した差分に基づいて、画像において道路の路面上に影がかかっている領域である影領域を検出するように構成されている。特徴点検出部は、画像の中から特徴点を検出するように構成されている。認識部は、検出された影領域及び特徴点群に基づいて、対象物を認識するように構成されている。
発明者らの検討により、太陽光で照らされた領域と影の領域とで画像の色を比較した場合、影の領域は太陽光で照らされた領域よりも青色成分が強いという特徴が見出された。この特徴は、レイリー散乱の影響によるものである。つまり、画像中における太陽光で照らされた領域と影の領域では、明暗の変化に加えて特定の色成分について変化が観測される。そこで、本開示に係る車両周囲認識装置では、画像の輝度だけでなく、特定の色成分の度合に基づいて影領域を判定することで、画像の明暗の変化に対するロバスト性を向上させ、影領域を精度よく検出することができる。そして、このようにして検出された影領
域を加味して対象物の検出を行うことで、目的とする対象物を的確に検出できる。
実施形態の車両周囲認識装置の構成を表すブロック図である。 車両におけるカメラの搭載位置の一例を表す説明図。 車両周囲認識装置が実行する画像認識処理の手順を表すフローチャートである。 車両周囲認識装置が実行するタール反射除去処理の手順を表すフローチャートである。 影領域の検出方法の一例を表す説明図である。 影領域の検出方法の一例を表す説明図である。 影領域の検出方法の一例を表す説明図である。 影領域の検出方法の一例を表す説明図である。 影領域の検出方法の一例を表す説明図である。 影領域の検出方法の一例を表す説明図である。 影領域の検出方法の一例を表す説明図である。 白線の認識方法の一例を表す説明図である。 白線の誤認識を抑制する方法の一例を表す説明図である。
以下、本開示の実施形態を図面に基づいて説明する。なお、本開示は下記の実施形態に限定されるものではなく様々な態様にて実施することが可能である。
[車両周囲認識装置の構成の説明]
実施形態の車両周囲認識装置1は、車両2に搭載される電子制御装置である。図1に例示されるとおり、車両周囲認識装置1は、車両2に搭載された撮像部20と接続されている。撮像部20は、4台のカメラ20a,20b,20c,20dを含む。これらのカメラ20a〜20dは、YUVカラーモデルで表現されるデジタルカラー画像(以下、画像)を撮像する撮像装置である。
図2に例示されるとおり、4台のカメラ20a〜20dは、車両周囲を隈無く撮影できるように、前カメラ、後カメラ、左カメラ、右カメラとして、車両2の前、後、左、右にそれぞれ取付けられている。各カメラ20a〜20dは、車両2の前方、後方、左側方、右側方における道路の路面を少なくとも含む範囲をそれぞれの撮影範囲を撮影するためのものである。各カメラ20a〜20dの車両2への取付位置及び姿勢は、各カメラ20a〜20dの撮像範囲が上記のようになるように予め設定されている。そして、各カメラ20a〜20dの実際の搭載位置は、その設定された取付位置及び姿勢(換言すれば、撮影方向)に基づいて製造工場や整備工場等で調節されているものとする。
図1のブロック図の説明に戻る。車両周囲認識装置1は、図示しないCPU、RAM、ROM、フラッシュメモリ等の半導体メモリ、入出力インタフェース等を中心に構成された情報処理装置である。車両周囲認識装置1は、例えば、コンピュータシステムとしての機能が集約されたマイクロコントローラ等により具現化される。車両周囲認識装置1の機能は、CPUがROMや半導体メモリ等の実体的な記憶媒体に格納されたプログラムを実行することにより実現される。なお、車両周囲認識装置1を構成するマイクロコントローラの数は1つでも複数でもよい。
この車両周囲認識装置1は、各カメラ20a〜20dにより撮像された画像の中から、車両2の周囲に存在する特定の対象物を認識する機能を備える。本実施形態では、特定の対象物として、車両2が走行している道路の路面に描かれたレーンマーカーの白線を主に認識する事例について説明する。あるいは、車両周囲認識装置1は、レーンマーカーの他
にも、例えば、車両や歩行者等の交通移動体や路面上の標示物を、特定の対象物として認識する構成であってもよい。
車両周囲認識装置1は、機能的な構成要素として、影検出部11と、特徴点検出部12と、影エッジ除去部13と、認識部14とを備える。なお、車両周囲認識装置1を構成するこれらの要素を実現する手法はソフトウェアに限るものではなく、その一部又は全部の要素を論理回路やアナログ回路等を組合せたハードウェアを用いて実現してもよい。
また、車両周囲認識装置1は、各カメラ20a〜20dの取付位置及び姿勢をカメラパラメータとして、各カメラ20a〜20dにより撮像された画像を視点変換することで、車両2の上方の視点からなる鳥瞰画像を生成する機能を有する。なお、カメラパラメータは、例えば、各カメラ20a〜20dの車両2における取付位置、及び車両2の前後、左右、上下の3軸方向の取付角度を数値化したものである。そして、車両周囲認識装置1が、各カメラ20a〜20dにより撮像された画像を視点変換する際には、カメラパラメータに基づいて設定された変換データを利用する。
[画像認識処理の説明]
車両周囲認識装置1が実行する画像認識処理の手順について、図3のフローチャートを参照しながら説明する。この処理は、所定の制御周期ごとに繰返し実行される。
S100では、車両周囲認識装置1は、各カメラ20a〜20dにより同時期に撮像された複数の画像を取得し、各画像間で色調を比較する。具体的には、車両周囲認識装置1は、各カメラ20a〜20dにより撮像された複数の画像について、画像の全域に分布する画素の色彩の濃淡・強弱の度合を比較し、各カメラ20a〜20bにより撮像された画像間で色調に差異があるか否かを判定する。
S102では、車両周囲認識装置1は、S100の処理の結果について各カメラ20a〜20dにより撮像された画像間で色調に差異があるか否かで処理を分岐させる。各カメラ20a〜20dにより撮像された画像間で色調に差異がないと判定された場合(S102:NO)、車両周囲認識装置1は処理をS104に移す。
S104では、車両周囲認識装置1は、異なる複数のカメラにより撮像された画像間で、各画像を構成する画素の情報を比較することにより、道路の路面上に影がかかっている領域である影領域を検出する。具体的には、車両周囲認識装置1は、異なる複数の画像それぞれから、車両2の近傍の路面が写る範囲に該当する所定の画像範囲内の画素を比較対象として抽出する。そして、車両周囲認識装置1は、それぞれの画像から抽出された比較対象の画素同士で、輝度及び当該画素が示す色に含まれる特定の色成分の強度の差分を算出する。
本実施形態では、前記特定の色成分として、YUVカラーモデルにおける青色成分を比較に用いる。青色成分を用いる理由は、レイリー散光の影響により、影の領域は太陽光で照らされた領域よりも青色成分が強く観測される傾向があるためである。輝度及び青色成分の差分が算出された結果、車両周囲認識装置1は、比較相手の画素に対して輝度が所定の閾値以上低く、かつ青色成分が所定の閾値上高い条件に該当する画素を、路面上の影に該当する画素として検出する。
影を検出するための比較対象となる画素の具体例を、図5〜9に示す。なお、図5〜9の事例では、車両2の位置から左後方に向けて車両2自体の影が路面上に伸びている状況を想定している。図5は、車両周囲認識装置1が、車両2の左右の領域が撮像された複数の画像を用いて、車両2の左右側方の近傍領域から抽出した比較対象の画素により影の検
出を行う事例を表している。図6は、車両周囲認識装置1が、車両2の前後の領域が撮像された複数の画像を用いて、車両2の前後の近傍領域から抽出した比較対象の画素により影の検出を行う事例を表している。図7は、車両周囲認識装置1が、車両2の前方及び左側方の領域が撮像された複数の画像を用いて、車両2の前方及び左側方の近傍領域から抽出した比較対象の画素により影の検出を行う事例を表している。
図8は、車両周囲認識装置1が、車両2の左前方及び左側方の領域が撮像された複数の画像を用いて、車両2の左前方及び左側方の近傍領域から抽出した比較対象の画素により影の検出を行う事例を表している。あるいは、図8の事例は、車両2の左前方及び左側方の領域が撮像された1つの画像から抽出した比較対象の画素により影の検出を行う構成であってもよい。図9は、車両周囲認識装置1が、車両2の後方方及び右後方の領域が撮像された複数の画像を用いて、車両2の後方及び右後方の近傍領域から抽出した比較対象の画素により影の検出を行う事例を表している。あるいは、図9の事例は、車両2の後方及び右後方の領域が撮像された1つの画像から抽出した比較対象の画素により影の検出を行う構成であってもよい。
車両2の近傍には、車両2自体の影がかかることが予め分かっているため、図5〜9に例示されるように、車両2の近傍の異なる画像領域から比較対象となる画素を抽出することで、影を速やかに検出することができる。また、影の伸びる方向が既知である場合、影が伸びる方向の画像と、影が伸びる方向以外の画像との間で画素を比較することにより、より速やかに影を検出することができる。
図3のフローチャートの説明に戻る。S102において複数の画像間で色調に差異があると判定された場合(S102:YES)、車両周囲認識装置1は処理をS106に移す。S106では、車両周囲認識装置1は、各カメラ20a〜20dにより撮像された各画像について、同一の画像の中から抽出された比較対象の画素の情報を比較することにより、道路の路面上に影がかかっている領域である影領域を検出する。
例えば、各カメラ20a〜20d間でホワイトバランスの設定が異なっていたり、道路の路面の色が左右で異なっている場合、複数の画像間で色調が異なって観測され得る。そのような状況下では、異なる複数の画像間で画素の輝度や色成分を比較して影の検出を行った場合、影と日向との画素値が近似してしまい、影の検出精度が下がる可能性がある。そこで、本実施形態では、車両周囲認識装置1は、異なる複数の画像間で色調が異なる場合、同一の画像内から抽出した画素同士で画素の情報を比較する。このようにすることで、画像間の色調の差異による影の検出精度の低下を抑制できる。
具体的には、車両周囲認識装置1は、同一の画像の中から、車両2の近傍の路面が写る範囲に該当する所定の画像範囲内の画素を比較対象として抽出する。そして、車両周囲認識装置1は、同一の画像内から抽出された比較対象の画素の間で、輝度及び当該画素が示す色に含まれる青色成分の強度の差分を算出する。その算出の結果、車両周囲認識装置1は、比較対象の画素に対して輝度が所定の閾値以上低く、かつ青色成分が所定の閾値上高い条件に該当する画素を、路面上の影に該当する画素として検出する。
S106の処理の具体的な事例について、図11を参照しながら説明する。この図11の事例では、車両2の位置から左後方に向けて車両2自体の影が路面状に伸びている状況を想定している。さらに、車両2が通行している道路において、車両2の右側の路面だけが、舗装の補修跡のような周囲よりも濃い色を呈している。このような状況下において、車両周囲認識装置1が、各カメラ20a〜20bにより撮像された画像間で色調を比較した場合、左カメラ20cにより撮像された画像と右カメラ20dにより撮像された画像との間で色調に差異が観測される。
図11の事例のように、左右2つの画像の間で色調が異なる場合、それら2つの画像間で画素の輝度及び青色成分を比較しても、影を的確に判別できない可能性がある。そこで、車両周囲認識装置1は、複数の画像間で色調が異なる場合には、図11に例示されるように、同一の画像内から抽出した比較対象の画素同士で輝度及び青色成分の強度を比較することによって影を検出する。
また、たとえ道路の路面の色調が均一であったとしても、複数のカメラの間でホワイトバランスの設定に差異がある場合、複数の画像の間で色調に差異が観測される。このような場合においても、車両周囲認識装置1は、同一の画像内から抽出した比較対象の画素同士で輝度及び青色成分の強度を比較することによって影を検出する。
図3のフローチャートの説明に戻る。補足として、S104及びS106では、車両周囲認識装置1は、車両2の近傍の路面において検出された影に該当する画素の輝度及び色を表す画素値を取得する。そして、車両周囲認識装置1は、取得した影の画素値と、画像全体の画素の画素値とを比較して影か否かを判定することにより、画像全体における影領域を検出する。このようにすることで、図10に例示されるように、車両2自体の影だけでなく、車両2の周囲に存在する他の物体の影についても、速やかにかつ的確に検出することができる。
S108では、車両周囲認識装置1は、S104及びS106において各画像から検出された影領域を統合して、車両2の周囲全体における影領域の位置を特定する。S110では、車両周囲認識装置1は、S104及びS106において検出された影の輝度及び青色成分を表す特徴量をメモリに記憶する。S110で記憶された影の特徴量については、次回以降の画像認識処理において、後に撮像された画像内の影を検出する際の基準として利用することで、影の検出を高速化できる。さらに、影が伸びる方向を記憶しておき、次回以降の画像認識処理において比較対象の画素を抽出する位置を決める基準に利用してもよい。なお、S100〜S110の処理が、影検出部11の機能が実行する処理に相当する。
S112では、車両周囲認識装置1は、各カメラ20a〜20dにより撮像された画像の中から特徴点を検出する。本実施形態では、例えば、画像内において画素値が不連続に変化している箇所を特徴点として検出する。また、車両周囲認識装置1は、検出された影領域内で特徴点を探索する場合には、特徴点と判定すべき画素値の変化の閾値を、他の領域に適用する閾値から変更するとよい。なお、S112の処理が、特徴点検出部12の機能が実行する処理に相当する。
S114では、車両周囲認識装置1は、S104又はS106の処理において画像内に存在する影領域が検出されたか否かに応じて、処理を分岐させる。具体的には、画像内に影領域が存在する場合(S114:YES)、車両周囲認識装置1は処理をS116に移す。一方、画像内に影領域が存在しない場合(S114:NO)、車両周囲認識装置1は、S116をスキップしてS118に処理を移す。
S116では、車両周囲認識装置1は、S112において画像から検出された特徴点群について、S108において特定された影領域と日向との境界である影エッジに該当する特徴点を除去する。具体的には、車両周囲認識装置1は、検出された特徴点の周囲に、記憶されている影の輝度及び青色成分の特徴量と同等の箇所があれば、その特徴点を影エッジに該当する特徴点であると判別し、その判別された特徴点を除去する。
また、図12に例示されるように、車両2の影の中に画像認識の対象物であるレーンマ
ーカーの白線がある状況下において、車両周囲認識装置1は、次のようにして特徴点が影エッジに該当するか否かを判別するとよい。図12は、車両2の影の中に対象物である白線のエッジを形成する特徴点が検出された状況を表している。影の中で白線の特徴点が検出された場合、影の中の路面と影の中と白線との間で画素値のギャップが大きいため、この特徴点を影の中の路面と日向の路面との境界と誤認する可能性がある。
そこで、車両周囲認識装置1は、影の中に存在する特徴点について、レーンマーカーの幅に相当する画像上の距離だけ道路の幅方向にオフセットした領域の画素値を確認する。そして、車両周囲認識装置1は、影の中に存在する特徴点と同等の画素値がレーンマーカーの幅で分布しているか否かによって、当該特徴点が影の中のレーンマーカーであるか、影と日向との境界であるかを判別する。
また、図13に例示されるように、車両2の影の側方にタール等の黒い物体が帯状に存在する状況下において、車両周囲認識装置1は、次のようにして検出された特徴点が影エッジに該当するか否かを判別するとよい。図13は、車両2の影と黒い物体との間に、影エッジを形成する特徴点が検出された状況を表している。影と黒い物体との間に特徴点が検出された場合、その特徴点の周囲の明るい路面を、レーンマーカーの白線と誤認識する可能性がある。
そこで、車両周囲認識装置1は、影と黒い物体との間に挟まれた領域の画素値を、予め取得しておいた日向の路面の画素値と照合する。照合の結果、影と黒い物体との間に挟まれた領域の画素値が日向の路面の画素値と同等である場合、車両周囲認識装置1は、その領域を日向の路面と判別する。この場合、車両周囲認識装置1は、影と黒い物体との影との間に存在する特徴点を影エッジとして除去する。
図3のフローチャートの説明に戻る。S114及びS116の処理が、影エッジ除去部13の機能が実行する処理に相当する。次のS118では、車両周囲認識装置1は、S116までの処理を経て残った画像上の特徴点群について、タール反射除去処理を施す。S118のタール反射除去処理の手順について、図4のフローチャートを参照しながら説明する。このタール反射除去処理は、画像上で検出された特徴点群の中から、道路上に存在するタール等の油状の汚れに反射された光に起因する特徴点を除去する処理である。
S200では、車両周囲認識装置1は、既に検出された影の伸びる方向に基づいて、太陽の位置を推定する。具体的には、車両周囲認識装置1は、影の伸びる方向の反対側に太陽が存在する位置があると推定する。S202では、車両周囲認識装置1は、S200において推定された太陽の位置に基づいて、画像上においてタール等の反射光が写っている位置を推定する。具体的には、車両周囲認識装置1は、画像上において、太陽の位置と車両2との間の路面に該当する領域で所定の閾値以上の輝度を示す箇所を、タール等の反射光が写っている位置として特定する。
S204では、車両周囲認識装置1は、画像の中にタール等の反射光が存在するか否かに応じて処理を分岐させる。画像の中にタール等の反射光が存在する(S204:YES)、車両周囲認識装置1は処理をS206に移す。S206では、車両周囲認識装置1は、画像から検出された特徴点群について、S202で推定されたタール等の反射光に該当する特徴点を除去する。一方、画像の中にタール等の反射光が存在しない場合(S204:NO)、車両周囲認識装置1は、S206をスキップしてタール反射除去処理を終了する。
図3のフローチャートの説明に戻る。次のS120では、車両周囲認識装置1は、S118までの処理を経て残った画像上の特徴点群に基づいて、特定の対象物に該当する物体
を検出する物体認識処理を実行する。具体的には、車両周囲認識装置1は、画像の特徴点を用いる周知の画像認識アルゴリズムを用いて、レーンマーカー等の対象物を検出する。また、車両周囲認識装置1は、対象物として、レーンマーカーに限らず、車両や人物等の交通移動体や、道路標示等の物体も検出するように構成されていてもよい。なお、S120の処理が、認識部14の機能として実行する処理に相当する。以上で車両周囲認識装置1は、画像認識処理を終了する。
[効果]
実施形態の車両周囲認識装置1によれば、以下の効果を奏する。
車両周囲認識装置1は、画像の輝度だけでなく、画像が示す色に含まれる青色成分の度合に基づいて影領域を判定する。このようにすることで、画像の明暗の変化に対するロバスト性を向上させ、影領域を精度よく検出することができる。そして、車両周囲認識装置1は、画像内から検出された特徴点群から影領域のエッジに該当する特徴点を除去することで、目的とする対象物を的確に検出できる。
また、車両周囲認識装置1は、複数のカメラ20a〜20dにより撮像された異なる画像の間で画素を比較して影の検出を行うことができる。このようにすることで、影が伸びる方向に応じて車両2の周囲における様々な方向から的確に影を検出できる。
また、車両周囲認識装置1は、複数の画像の間で色調が同等である場合、異なる画像の間で画素を比較して影の検出を行う。一方、複数の画像の間で色調が異なる場合、車両周囲認識装置1は、同一の画像の中の画素同士を比較して影の検出を行う。このようにすることで、色調が異なる画像の間で画素を比較することを避けて、画像の輝度及び色に基づく影の検出を精度よく行うことができる。
[変形例]
(a)上述の実施形態では、撮像部として4台のカメラ20a〜20dを用いる事例について説明した。これに限らず、車両2は、少なくとも1台のカメラを備えていればよい。車両2が1台のカメラを備える場合、車両周囲認識装置1は、1台のカメラにより撮像された画像を鳥瞰画像に変換したり、その画像の中から検出された影領域のエッジを除去した上で、対象物の検出を行う。また、上記実施形態では、YUVカラーモデルで表現されるデジタルカラー画像を用いて影領域を特定する事例について説明した。これに限らず、例えば、RGBカラーモデルで表現されるデジタルカラー画像を用いて影領域を特定する構成であってもよい。
(b)夜間や太陽光の届かないトンネル内等では、レイリー散光の影響が顕著に表われないため、影の画像の青色成分は強くならない。したがって、車両周囲認識装置1は、夜間やトンネル内において影を検出する場合、画像の青色成分に関する判定を行わず、輝度だけを判定するように構成されていてもよい。また、光源としてナトリウムランプが用いられている環境下では、影の画像について黄色成分が強く現れる傾向がある。そこで、車両周囲認識装置1は、光源としてナトリウムランプが用いられている環境下において影を検出する場合、画像の黄色成分の度合について判定を行うように構成されていてもよい。
(c)車両周囲認識装置1は、検出した影の方向と日時に基づいて方位を推定するように構成されていてもよい。推定した方位から、路面上に存在するタール等が光を反射して強く光る可能性の高い領域を推定することができる。
(d)上記各実施形態における1つの構成要素が有する機能を複数の構成要素に分担させたり、複数の構成要素が有する機能を1つの構成要素に発揮させたりしてもよい。また、上記各実施形態の構成の一部を省略してもよい。また、上記各実施形態の構成の少なく
とも一部を、他の上記実施形態の構成に対して付加、置換等してもよい。なお、特許請求の範囲に記載の文言から特定される技術思想に含まれるあらゆる態様が、本開示の実施形態である。
(e)上述した車両周囲認識装置1を構成要件とするシステム、車両周囲認識装置1としてコンピュータを機能させるためのプログラム、このプログラムを記録した半導体メモリ等の実体的な記録媒体、物体認識方法等の種々の形態で本開示を実現できる。
1…車両周囲認識装置、2…車両、11…影検出部、12…特徴点検出部、13…影エッジ除去部、14…認識部、20…撮像部、20a…前カメラ、20b…後カメラ、20c…左カメラ、20d…右カメラ。

Claims (6)

  1. 車両(2)の周囲の道路を含む範囲を撮像するように当該車両に搭載された撮像部(20)によって撮像された画像を取得し、その取得された画像から前記車両の周囲に存在する特定の対象物を認識する車両周囲認識装置(1)であって、
    前記画像を構成する複数の要素の間で、各要素が表す色に含まれる特定の色成分の度合、及び輝度をそれぞれ比較した差分に基づいて、前記画像において道路の路面上に影がかかっている領域である影領域を検出するように構成された影検出部(11)と、
    前記画像の中から特徴点を検出するように構成された特徴点検出部(12)と、
    前記影検出部により検出された影領域と前記特徴点検出部により検出された特徴点群とに基づいて、前記対象物を認識するように構成された認識部(14)と、
    を備える車両周囲認識装置。
  2. 前記撮像部は、前記車両の周囲の異なる範囲を撮像するように構成された複数のカメラ(20a,20b,20c,20d)を有し、
    前記影検出部は、前記複数のカメラにより撮像された異なる画像の間で、各画像内の要素における特定の色成分の度合及び輝度をそれぞれ比較することによって前記影領域を検出するように構成されている、
    請求項1に記載の車両周囲認識装置
  3. 前記影検出部は、前記複数のカメラにより撮像された複数の画像の間で色調を比較し、色調が同じと判定された複数の画像の間で、各画像内の要素における特定の色成分の度合及び輝度をそれぞれ比較することによって前記影領域を検出するように構成されている、
    請求項2に記載の車両周囲認識装置。
  4. 前記影検出部は、前記画像における特定の領域内に含まれる複数の要素における特定の色成分の度合及び輝度をそれぞれ比較することによって前記影領域を検出するように構成されている、
    請求項1ないし請求項3の何れか1項に記載の車両周囲認識装置。
  5. 前記影検出部は、検出された影領域に該当する部位の色及び輝度を表す画像情報を記憶し、その記憶された画像情報を用いて、後に撮像された画像に含まれる影領域を検出するように構成されている、
    請求項1ないし請求項3の何れか1項に記載の車両周囲認識装置。
  6. 前記特徴点検出部により検出された特徴点群から、前記影検出部により検出された影領域のエッジに該当する特徴点を除去するように構成された影エッジ除去部(13)を更に備え、
    前記認識部は、前記影エッジ除去部により影領域のエッジが除去された後の特徴点群から、前記対象物を認識するように構成されている、
    請求項1ないし請求項5の何れか1項に記載の車両周囲認識装置。
JP2017137853A 2017-07-14 2017-07-14 車両周囲認識装置 Active JP6720931B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2017137853A JP6720931B2 (ja) 2017-07-14 2017-07-14 車両周囲認識装置
PCT/JP2018/026190 WO2019013252A1 (ja) 2017-07-14 2018-07-11 車両周囲認識装置
US16/739,472 US11282235B2 (en) 2017-07-14 2020-01-10 Vehicle surroundings recognition apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017137853A JP6720931B2 (ja) 2017-07-14 2017-07-14 車両周囲認識装置

Publications (3)

Publication Number Publication Date
JP2019020956A true JP2019020956A (ja) 2019-02-07
JP2019020956A5 JP2019020956A5 (ja) 2019-06-27
JP6720931B2 JP6720931B2 (ja) 2020-07-08

Family

ID=65002005

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017137853A Active JP6720931B2 (ja) 2017-07-14 2017-07-14 車両周囲認識装置

Country Status (3)

Country Link
US (1) US11282235B2 (ja)
JP (1) JP6720931B2 (ja)
WO (1) WO2019013252A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021064156A (ja) * 2019-10-14 2021-04-22 株式会社デンソー 障害物識別装置および障害物識別プログラム

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12019452B2 (en) * 2018-03-26 2024-06-25 Jabil Inc Apparatus, system, and method of using depth assessment for autonomous robot navigation
US11164031B2 (en) * 2018-06-26 2021-11-02 Here Global B.V. System and method for analyzing an image of a vehicle
US10762681B2 (en) 2018-06-26 2020-09-01 Here Global B.V. Map generation system and method for generating an accurate building shadow
US11328607B2 (en) * 2020-03-20 2022-05-10 Aptiv Technologies Limited System and method of detecting vacant parking spots

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007058318A (ja) * 2005-08-22 2007-03-08 Toyota Motor Corp 白線検出装置
JP2009031939A (ja) * 2007-07-25 2009-02-12 Advanced Telecommunication Research Institute International 画像処理装置、画像処理方法及び画像処理プログラム
JP2010237976A (ja) * 2009-03-31 2010-10-21 Kyushu Institute Of Technology 光源情報取得装置、陰影検出装置、陰影除去装置、それらの方法、及びプログラム
JP2014035561A (ja) * 2012-08-07 2014-02-24 Nissan Motor Co Ltd 車両走行支援装置及び車両走行支援方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3083918B2 (ja) * 1992-06-26 2000-09-04 本田技研工業株式会社 画像処理装置
JP3463858B2 (ja) * 1998-08-27 2003-11-05 矢崎総業株式会社 周辺監視装置及び方法
US7184890B2 (en) * 2003-11-24 2007-02-27 The Boeing Company Cloud shadow detection: VNIR-SWIR
CN101833749B (zh) * 2009-03-12 2012-03-28 株式会社理光 检测图像中阴影的装置和方法
CN101964873B (zh) * 2009-07-21 2014-08-20 株式会社尼康 图像处理装置、图像处理程序及摄像装置
JP5066558B2 (ja) 2009-09-17 2012-11-07 日立オートモティブシステムズ株式会社 自車影認識装置
JP6003226B2 (ja) * 2012-05-23 2016-10-05 株式会社デンソー 車両周囲画像表示制御装置および車両周囲画像表示制御プログラム
US9430715B1 (en) * 2015-05-01 2016-08-30 Adobe Systems Incorporated Identifying and modifying cast shadows in an image

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007058318A (ja) * 2005-08-22 2007-03-08 Toyota Motor Corp 白線検出装置
JP2009031939A (ja) * 2007-07-25 2009-02-12 Advanced Telecommunication Research Institute International 画像処理装置、画像処理方法及び画像処理プログラム
JP2010237976A (ja) * 2009-03-31 2010-10-21 Kyushu Institute Of Technology 光源情報取得装置、陰影検出装置、陰影除去装置、それらの方法、及びプログラム
JP2014035561A (ja) * 2012-08-07 2014-02-24 Nissan Motor Co Ltd 車両走行支援装置及び車両走行支援方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021064156A (ja) * 2019-10-14 2021-04-22 株式会社デンソー 障害物識別装置および障害物識別プログラム
JP7310527B2 (ja) 2019-10-14 2023-07-19 株式会社デンソー 障害物識別装置および障害物識別プログラム

Also Published As

Publication number Publication date
JP6720931B2 (ja) 2020-07-08
WO2019013252A1 (ja) 2019-01-17
US20200151912A1 (en) 2020-05-14
US11282235B2 (en) 2022-03-22

Similar Documents

Publication Publication Date Title
JP6720931B2 (ja) 車両周囲認識装置
Wu et al. Lane-mark extraction for automobiles under complex conditions
Alvarez et al. Road detection based on illuminant invariance
US7957559B2 (en) Apparatus and system for recognizing environment surrounding vehicle
US8319854B2 (en) Shadow removal in an image captured by a vehicle based camera using a non-linear illumination-invariant kernel
US10339396B2 (en) Vehicle accessibility determination device
WO2018008461A1 (ja) 画像処理装置
JP6084552B2 (ja) 路面オルソ画像の生成装置および生成方法
JP2014215877A (ja) 物体検出装置
US11055542B2 (en) Crosswalk marking estimating device
JP2000030197A (ja) 温体検出装置
US10380743B2 (en) Object identifying apparatus
JP7230507B2 (ja) 付着物検出装置
KR101026778B1 (ko) 차량 영상 검지 장치
CN111046741A (zh) 车道线识别的方法和装置
JP5338762B2 (ja) ホワイトバランス係数算出装置及びプログラム
KR101402089B1 (ko) 장애물 검출 장치 및 방법
US20210089818A1 (en) Deposit detection device and deposit detection method
JP5862217B2 (ja) マーカの検出および追跡装置
JP2010286995A (ja) 車両用画像処理システム
US20200219280A1 (en) Attachable matter detection apparatus
US20210090297A1 (en) Adhered substance detection apparatus
JP4611919B2 (ja) 歩行者認識装置
JPH1166490A (ja) 車両検出方法
TWI585721B (zh) A Method of Night Vehicle Count Based on Hybrid Particle Filter

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190523

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190527

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200519

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200601

R151 Written notification of patent or utility model registration

Ref document number: 6720931

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250