JP6045889B2 - 車載用制御装置 - Google Patents

車載用制御装置 Download PDF

Info

Publication number
JP6045889B2
JP6045889B2 JP2012259044A JP2012259044A JP6045889B2 JP 6045889 B2 JP6045889 B2 JP 6045889B2 JP 2012259044 A JP2012259044 A JP 2012259044A JP 2012259044 A JP2012259044 A JP 2012259044A JP 6045889 B2 JP6045889 B2 JP 6045889B2
Authority
JP
Japan
Prior art keywords
vehicle
score
control device
unit
determination
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012259044A
Other languages
English (en)
Other versions
JP2014107697A (ja
Inventor
雅幸 竹村
雅幸 竹村
健人 緒方
健人 緒方
哲司 伊藤
哲司 伊藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Faurecia Clarion Electronics Co Ltd
Original Assignee
Clarion Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Clarion Co Ltd filed Critical Clarion Co Ltd
Priority to JP2012259044A priority Critical patent/JP6045889B2/ja
Priority to EP13858517.9A priority patent/EP2928178B1/en
Priority to PCT/JP2013/081427 priority patent/WO2014084122A1/ja
Priority to CN201380061470.2A priority patent/CN104871523B/zh
Priority to US14/647,282 priority patent/US9965690B2/en
Publication of JP2014107697A publication Critical patent/JP2014107697A/ja
Application granted granted Critical
Publication of JP6045889B2 publication Critical patent/JP6045889B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D15/00Steering not otherwise provided for
    • B62D15/02Steering position indicators ; Steering position determination; Steering aids
    • B62D15/027Parking aids, e.g. instruction means
    • B62D15/028Guided parking by providing commands to the driver, e.g. acoustically or optically
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D15/00Steering not otherwise provided for
    • B62D15/02Steering position indicators ; Steering position determination; Steering aids
    • B62D15/027Parking aids, e.g. instruction means
    • B62D15/0285Parking performed automatically
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • H04N23/811Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation by dust removal, e.g. from surfaces of the image sensor or processing of the image signal output by the electronic image sensor

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Chemical & Material Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、車両に搭載され、車両の周囲を撮像する撮像装置における異物の付着の判定を行う車載用制御装置に関する。
従来、車両に搭載された撮像装置(カメラ)により撮像された画像を利用して車線や駐車場の白線を認識し、これらの認識結果がレーン認識や駐車枠検知に利用される技術が知られている。このような技術において、撮像装置(カメラ)に雨滴や汚れなどが付着すると、車線や駐車場の白線の認識の精度が低下し、ひいては、レーン認識や駐車枠検知の精度が低下する。このため、撮像装置(カメラ)の雨滴や汚れなどの付着を検出する手法が種々提案されている(特許文献1)。
特開2012−166705号公報
特許文献1の技術は、破線車線の長さやその間隔の一定性を利用して車載カメラのレンズへの雨滴や汚れの異物の付着を検出するものである。しかし、特許文献1の技術では、破線車線の長さやその間隔を正確に認識する必要があり、処理が複雑になるという問題が生じる。また、破線車線の長さやその間隔の一定性の有無により単に車載カメラのレンズに異物の付着があるかないかを判定するのみで、どの位置に異物の付着があるかを判定するものではない。従って、どの位置に異物の付着があるかの情報を必要とするアプリケーションには利用できず、判定結果の利用範囲が制限されるという問題がある。さらに、道路が汚れたり白線がかすれたりして周期性を有しなくなっている場合に、この手法は利用できないという問題がある。
請求項1の発明は、車載用制御装置に適用され、車両の周囲を撮像する撮像装置から撮像した画像を取得する画像取得部と、撮像装置の撮像範囲の所定の判定範囲を複数の領域に分割する判定範囲分割部と、画像取得部が取得した画像より車両の周囲における所定の特徴を有する特徴点を抽出する特徴点抽出部と、画像取得部が時系列に取得する複数の画像について、複数の領域のうち、特徴点抽出部が抽出した特徴点が存在する領域について得点を累積する得点累積部と、複数の領域の累積された得点結果に基づき撮像装置における異物の付着の判定を行う判定部とを備えることを特徴とするものである。
本発明によれば、簡単な手法で素早く確実に撮像装置に異物の付着を判定することができる。しかも、撮像装置のどの位置に異物が付着しているかの判定もすることができる。
本発明の一実施形態による車載用制御装置1を示すブロック図である。 車載用制御装置1が行う演算処理の制御ブロック図である。 カメラ2aの所定の判定範囲を複数の領域に分割する例を示す図である。 カメラ2aで車両前方を撮像した画像の例を示す図である。 判定範囲分割部101により分割された複数の領域における得点累積結果を示す図である。 カメラ2aで車両前方を撮像した画像の他の例を示す図である。 判定範囲分割部101により分割された複数の領域における得点累積結果を示す図である。 車載用制御装置1で実行される処理のフローチャートを示す図である。
図1は、本発明の一実施形態による車載用制御装置1を示すブロック図である。図1に示す車載用制御装置1は、車両に搭載されて使用されるものであり、カメラ2a、2b、2cおよび2dと、車速センサ3とが接続されている。また、CAN(Controller Area Network)を経由して上位の上位車両制御装置4に接続されている。
カメラ2a〜2dは、例えば、CCDやCMOSなどの撮像素子や周辺回路や光学レンズなどから構成され、車両のボディ、バンパー、ドアミラー等の各部に設置されている。これらのカメラ2a〜2dは、撮像装置と呼ぶ。
カメラ2a〜2dは、車両の周囲をそれぞれ異なる撮像範囲で撮像(撮影)する。これらの各カメラの撮像範囲は、合わせて車両の全周囲をカバーできるように定められている。本実施形態では、カメラ2aは車両前方の撮像範囲を、カメラ2bは車両左側方の撮像範囲を、カメラ2cは車両右側方の撮像範囲を、カメラ2dは車両後方の撮像範囲をそれぞれ撮像するものとする。カメラ2a〜2dにより所定のフレームレート間隔でそれぞれ取得された撮像画像は、車載用制御装置1へ出力される。
車載用制御装置1は、カメラ2a〜2dにより取得された各撮像画像に基づいて、車両の全周囲を俯瞰した様子を示す俯瞰画像(トップビュー画像)を合成する。この俯瞰画像は、カメラ2a〜2dの各撮像画像をその撮像方向に応じて座標変換した上で繋ぎ合わせることによって合成されるものである。
車載用制御装置1は、合成された俯瞰画像に基づいて所定の演算処理を行うことにより、車両周囲の駐車枠を認識したり、走行車線を認識したりする。このような駐車枠や走行車線の認識結果は、CANを経由して上位の上位車両制御装置4へと出力され、車両の駐車支援や走行制御等に利用される。たとえば、周囲に駐車場が存在する状況であることを自動で認識し、駐車場環境である場合には、モニタに自車周囲の俯瞰映像を自動で切り替えて表示することができる。これにより、公道において駐車場であると誤検知する状況を抑制し、適切なタイミングでユーザへの提示映像を切り替えることができるようになる。また、たとえば、自車から駐車枠までの相対的な位置姿勢に基づいて、駐車枠までの走行経路を計算し、ドライバーにブレーキやシフトポジション変更のタイミングや、舵角の操作量を通知することによって、駐車支援を行うことが可能となる。これにより、車庫入れ等の運転操作に不慣れなドライバーにとっても、短時間で駐車動作が完了できるようになる。さらには、自車から駐車枠までの相対的な位置姿勢に基づいて、駐車枠までの走行経路を計算し、自動で車両の前進・後退・旋回の制御量を計算し、その計算結果に従って車両運動を自動制御してもよい。これにより、車庫入れ等の運転操作に不慣れなドライバーにとっても、安全かつ正確に駐車動作を完了できるようになる。
車載用制御装置1は、このように、カメラ2a〜2dにより取得された各撮像画像に基づいて、車両の駐車支援や走行制御等に利用される情報を提供するため、カメラ2a〜2dにより取得された各撮像画像には欠陥がないのが望ましい。一方、カメラ2a〜2dは、車両の外部に設けられるため、車両の走行に伴い、雨滴や泥などの汚れの付着は避けられない。従って、このような雨滴や汚れなどの異物の付着を正確に判定し、その情報を上位のアプリケーションなどに素早く確実に提供する必要がある。
本実施の形態の車載用制御装置1は、このような雨滴や泥の汚れなどの異物の付着を簡易な手法で素早く確実に判定し、上位のアプリケーションに提供するところに特徴がある。従って、車載用制御装置1は、車載撮像装置(カメラ)の異物付着判定装置と呼ぶこともできる。また、雨滴や泥の汚れなどの異物の付着により車線等が隠れている状態を判定するので、付着物による隠れ判定装置と呼ぶこともできる。以下、この内容を詳細に説明する。
車載用制御装置1は、内部にCPU、周辺回路、メモリなどを有し、メモリに格納された所定のプログラムを実行することにより、雨滴や泥の汚れなどの異物の付着の判定を行い、その結果を上位のアプリケーションに出力する。上位のアプリケーションは、駐車枠を検知するアプリケーションや車線(レーン)を認識したりするアプリケーションである。さらに、車両を検知したり、立体物を検知したり、歩行者を検知したりするアプリケーションなどにも出力される。
図2は、車載用制御装置1が行う演算処理の制御ブロック図である。図2に示すように、車載用制御装置1は、判定範囲分割部101、画像取得部102、特徴点抽出部103、得点累積部104、得点減算部105、判定部106、出力部107などの各制御ブロックを機能的に有する。これらの各制御ブロックは、車載用制御装置1のCPUが、各制御ブロックに対応するプログラムを実行することにより実現する。以下、車両前方を撮像するカメラ2aの異物付着判定を例に挙げて説明する。
判定範囲分割部101は、カメラ2aの撮像範囲の中から異物付着判定を行う判定範囲を設定し、その判定範囲を複数の領域に分割する。また、分割した複数の領域に対応した累積得点を格納する得点エリアをメモリ上に設ける。図3は、カメラ2aにおける判定範囲を複数の領域に分割する例を示す図である。図3は、魚眼レンズであるカメラ2aにより、車両前方の路面に車線(白線)201が描かれた道路202を撮像した画像が示されている。図3の例では、判定範囲分割部101は、車両進行方向については、画面上の距離を基準にして等距離間隔に分割し、車両進行方向に直交する方向、すなわち画面上の左右の方向は、路面上の距離を基準にして等距離間隔に分割する。
異物付着判定を行う判定範囲は、必ずしもカメラ2aの撮像範囲全体を設定する必要はなく、図3で示されるような範囲203を設定する。例えば、図3の上下方向(車両の進行方向)においては、魚眼レンズの消失点の手前の所定の位置から自車両のバンパーが写る手前までの位置とし、左右方向(車両の横方向)は車両から例えば約2mぐらいまでの位置とする。
カメラ2aは魚眼レンズを使用しているため、車両の前方方向の地平線上の消失点付近は像が凝縮されるような状態になり、その付近の白線の認識などの精度が低くなるため、判定範囲203はその手前とする。ただし、判定範囲203は、必ずしも図3の例に限定する必要はなく、路面上の白線が適切に認識できる範囲で適切に設定すればよい。なお、カメラ2aの設置場所やカメラの向きなどは、車両によって予め設定されているため、その設定値のデータを使用してカメラ2aの撮像範囲上に異物付着判定を行う判定範囲を設定する。
判定範囲203の分割は、図3の例では、車両進行方向(縦方向)に4分割し、車両の横方向に6分割する例が示されている。しかし、分割の内容は、必ずしも図3の例に限定する必要はなく、図3の例より分割領域の数が多くても少なくてもよい。
画像取得部102は、カメラ2aから撮像画像を時系列に所定の時間間隔、例えば100msごとに取得する。
特徴点抽出部103は、画像取得部102が取得した撮像画像を解析し、特徴点を抽出する。本実施の形態では、道路面上に描かれた車線である特徴点を抽出する。すなわち、道路面上の車線を抽出する。車線は、白線や黄色(オレンジ)線の破線や実線である。車線を抽出する方法は、例えば、撮像画像において、横方向に探索したときの輝度変化が所定のしきい値以上であるエッジ点を抽出し、抽出したエッジ点に基づき車線を抽出する手法などがある。ただし、撮像画像からの車線の抽出は公知な内容であり、本実施の形態では各種の公知な手法を採用すればよい。なお、本実施の形態では、車線の抽出は異物付着判定を行う判定範囲203内を行えばよい。また、ここで抽出される車線には、道路上に描かれた車道中央線(センターライン)、車線境界線、車道外側線などが含まれる。
得点累積部104は、特徴点抽出部103で抽出された特徴点、すなわち車線が存在する領域の得点を加算し累積する。すなわち、特徴点抽出部103で抽出された車線が、判定範囲分割部101が分割した複数の領域のどの領域に位置しているかを判断し、車線が位置している領域について得点を加算し累積する。例えば、10点を加算する。具体的には、判定範囲分割部101がメモリ上に設けた分割した複数の領域に対応した得点エリアに累積得点を格納することになる。なお、判定範囲分割部101が分割した複数の領域のうち、車線が位置している領域に投票すると言ってもよい。
得点累積部104は、車両が所定の速度(10km/H)より遅い場合は、加算処理は行わない。例えば、車両が停止しているときには、カメラ2aから取得する画像は常にほぼ同じ画像となる。このような画像から車線などを抽出して、得点を累積するのは適切ではないためである。また、車速が遅い場合も同様なことが言える。すなわち、車両が所定の速度以上で道路を走行しているときに、累積処理をすることにより、車両方向に連続する領域において車線がまんべんなく検出され累積されるようにし、精度の高い異物付着判定を行うことができるようにするためである。
得点減算部105は、判定範囲分割部101が分割した複数の領域全部について、加算する得点より小さい得点を減算する処理を行う(通常減算)。すでに、得点がゼロとなっている場合は、そのままゼロとする。例えば、5点を減算する。この結果、特徴点抽出部103で抽出された車線が存在する領域においては、5点が加算され、特徴点抽出部103で抽出された車線が存在しなかった領域においては5点が減算されることになる。
このような減算処理をすることは、車線が検出され異物の付着がないとして得点が累積された領域において、その後車線が検出されなくなった状態や、異物の付着が生じた状態を反映するためである。ただし、加算する得点より減算する得点の方を小さくし、加算累積に比べ徐々に減算するようにしている。このような減算処理をすることで、異物の付着で車線の検出ができなくなった領域の得点を最終的にはゼロにするようにしている。
得点減算部105は、車両が所定の速度(時速10km)より遅い場合も、得点を減算する処理を行う(低速時減算)。このときの減算点は、加算点より小さく通常減算点よりもさらに小さくする。例えば、2点程度を減算する。このように減算処理をするのは、得点累積部104が、車両が所定の速度(10km/H)より遅い場合に、加算処理を行わないのと同じ理由であり、また、減算処理をしないと、すでに累積した得点がそのまま維持されてしまうためである。減算点は通常減算より小さな値としているため、通常減算より徐々に減算するようにしている。ただし、車両が所定の速度(時速10km)より遅い状態(停車状態を含む)が長く続くと、最終的にはすべての領域の累積得点はゼロとなり、リセットされた状態と同じ状態になる。
判定部106は、判定範囲分割部101により分割された複数の領域における得点累積結果に基づき、カメラ2aに雨滴や汚れなどの異物の付着があるかどうかを判定する。
図4は、カメラ2aで車両前方を撮像した画像が示され、画面の左右に実線車線301、302が車両進行方向に延びていることが示されている。矢印303は車両の進行方向を示す。カメラ2aは魚眼レンズを使用しているため、車両進行方向を表す矢印303は判定範囲の左右側では消失点に向けて若干曲線を有する斜線となる。そして、場所304に対応するカメラ2aのレンズ上の位置に汚れがあり、カメラ2aで撮像された実線車線301が場所304のところで途切れている例が示されている。
図5は、判定範囲分割部101により判定範囲203が分割された複数の領域における得点累積結果を示す図であり、図4の状況に対応するものである。図5は、メモリ上の得点エリアの値を判定範囲203上に視覚的に表すものである。判定範囲203の左側の領域401−406において連続して得点の累積があることが示されている。これは、実線車線302が領域401−406において、連続して、あるいは、適当な頻度で抽出され、得点が加算累積されていることを示す。具体的には、図4の実線車線302が、撮像画像が取得されるごとに、撮像画面上を車両進行方向の逆方向に移動し、車両進行方向に連続する領域401−406において、車線の抽出が検出され得点された結果である。
一方、判定範囲203の右側の領域407−412においては、領域407−409には連続して得点の累積があることが示され、領域410には得点がないことが示され、領域411には得点が非常に小さいことが示され、領域412は得点の累積があることが示されている。これは、実線車線301が領域407−409、412において、連続して、あるいは、適当な頻度で抽出され、得点が加算累積されていることを示す。領域410は実線車線301が検出されず、得点が累積されていないことを示す。領域411は過去に実線車線301が検出されたとして得点されたことがあるがその頻度が非常に少なかったか、いったん検出されたあと後述する減算処理により減算された結果である。これらは、図4の場所304に対応するカメラ2aのレンズ上の位置に汚れがあることにより、領域410、411は実線車線301が検出されず、あるいは、ほとんど検出されず、得点が累積されていないか非常に小さい値しかないことを示す。
図5のような得点累積結果に基づき、判定部106がどのように異物の付着領域を判定するかを以下に説明する。車線を検出した場合は、車両の進行方向に連続する領域において得点累積結果があるはずであるとの前提で考える。具体的には、判定範囲203の複数の領域を車両進行方向に連続する列ごとに分類し、各列ごとに以下の処理を行う。
各列において、累積得点の最大値の領域を求め、その最大値の値を1として各領域の得点を正規化を行い、正規化した値の平均値を求める。そして正規化の値が0.2以下、すなわち、最大値から0.8以上の差があり、正規化した値の平均値から0.3以上小さい領域を異物の付着がある領域として判定する。平均値から0.3以上小さいという条件を設けるのは、その列において累積得点がある領域が少なすぎる場合を排除するためである。なお、以上の数値は一例であり、この内容に限定する必要はない。また、その他の手法で判定するようにしてもよい。
例えば、各列において、正規化した数値が所定の値以上の領域が所定の数以上連続する場合に、その列には車線が検出されているはずだと判断する。そして、その列において、所定の値以下の正規化値を示す領域を異物の付着がある領域として判定することもできる。
一方、累積得点がある領域がまったくない列の場合は、異物の付着の判定はできないとして処理をする。
なお、図5に示すように、累積得点の高低を視認しやすいようにランク分けし、そのスケールを白線視認度として図示し、図5の内容を車両内のモニター(不図示)に表示すると、異物の付着箇所を一目瞭然で判断することができる。
図6は、図4と同様の図であるが、画面の左側の車線が破線車線305の例を示す図である。図7は、図6の状況に対応するものであり、判定範囲分割部101により判定範囲203が分割された複数の領域における得点累積結果を示す図である。図6の車線305は破線車線であるため、1枚の撮像画像において縦の列のすべての領域501−506で必ず車線が検出されるものではない。しかし、時系列で取得される複数枚の画像で車線の抽出を行うと、すべての領域501−506で適当な頻度で車線の抽出が検出され得点される。従って、各領域の得点の累積は、実線車線302より時間がかかるが、時間をかければ実線車線と同様に累積される。
このようにして、判定部106は、カメラ2aの判定範囲の分割された複数の領域の累積された得点結果に基づき、カメラ2aにおける異物の付着の判定を行うことができる。
出力部107は、判定部106の異物の付着があるかないかの判定結果、すなわち、全体として異物の付着があったかないかの情報、異物の付着がないと判断した領域の情報、異物の付着があると判断した領域の情報、異物の判定が不能と判断した領域の情報を上位のアプリケーションへ出力する。上位のアプリケーションが、車載用制御装置1により実行されるのであれば、車載用制御装置1内のプログラム間の受け渡しとなる。一方、上位のアプリケーションが上位の上位車両制御装置4により行われるのであれば、車載用制御装置1から上位車両制御装置4にその情報を出力することになる。
図8は、車載用制御装置1で実行される処理のフローチャートを示す図である。車載用制御装置1が所定のプログラムを実行することにより、フローチャートの内容を実行する。図8の処理は、例えば、車両のイグニッションキースイッチをオンすることにより開始される。
ステップS1において、車載用制御装置1は、前述したように、カメラ2aの撮像範囲の中から異物付着判定を行う判定範囲を設定し、その判定範囲を複数の領域に分割する。また、分割した複数の領域に対応した累積得点を格納する得点エリアをメモリ上に設ける。ステップS1は前述の判定範囲分割部101の処理に相当する。
ステップS2において、車載用制御装置1は、カメラ2aからの画像を取得する。ステップS2は、画像取得部102の処理に相当する。ステップS3において、特徴点の抽出を行う。ステップS3の処理は、特徴点抽出部103の処理に相当する。ステップS4において、車両の車速が所定の値(例えば時速10km)以上かどうかを判断する。車両の車速が所定の値以上であればステップS5に進み、車両の車速が所定の値未満の場合はステップS9に進む。
ステップS5において、車載用制御装置1は、ステップS3において抽出された特徴点が存在する領域に所定の得点を加算する処理を行う。前の値に加算されるため、累積された得点となる。このような処理は、その領域に投票すると言える。ステップS5の処理は前述の得点累積部104の処理に相当する。ステップS6において、分割された複数の領域において一律に所定の得点を減算する処理を行う。ステップS6の処理は得点減算部105の通常減算の処理に相当する。
ステップS7において、ステップS5の得点の加算累積処理とステップS6の得点減算処理の結果の各領域の累積得点結果に基づき、カメラ2aに雨滴や汚れなどの異物の付着があるかどうかを判定する。ステップS7の処理は前述の判定部106の処理に相当する。ステップS8において、ステップS7の異物の付着の判定結果を上位のアプリケーションへ出力する。ステップS8の処理は、前述の出力部107の処理に相当する。その後ステップS2に戻り処理を繰り返す。
一方、ステップS9において、車載用制御装置1は、車両が所定の速度以下の場合の得点減算処理を行い、ステップS7に進む。ステップS9の処理は得点減算部105の低速時減算の処理に相当する。
以上説明した実施の形態によれば、次のような作用効果を奏する。
(1)車載用制御装置1は、車両の周囲を撮像するカメラ2a(撮像装置)から撮像した画像を取得し(画像取得部102)、カメラ2aの撮像範囲の所定の範囲を複数の領域に分割し(判定範囲分割部101)、取得した画像より車両の周囲における所定の特徴を有する特徴点すなわち車線の特徴点を抽出し(特徴点抽出部103)、時系列に取得する複数の画像について、分割した複数の領域のうち、抽出した特徴点が存在する領域について得点を累積(投票)し(得点累積部104)、複数の領域の累積された得点結果に基づきカメラ2aにおける異物の付着の判定を行うようにした。これにより、簡単な手法で素早く確実にカメラ2a異物の付着を判定することができる。しかも、カメラ2aのどの位置に異物が付着しているかの判定もすることができる。さらに、道路が汚れたり車線がかすれたりして車線が一定の周期性を有しなくなっている場合にも、車線の特徴点が抽出さえできれば、確実にカメラ2a異物の付着を判定することができる。
(2)車載用制御装置1は、判定範囲の前記複数の領域のうち車両の進行方向に連続する領域の累積された得点結果に基づき異物の付着の判定を行うようにした。これにより、上記(1)で説明したような効果を確実に奏することができる。
(3)車両の周囲における所定の特徴を有する特徴点は、道路上の走行車線とし、車載用制御装置1は、車両が走行車線のある道路を走行しているときに、カメラ2aにおける異物の付着の判定を行うようにした。これは、車線のある道路上を走行中に判定を行うことを明確にし、これにより上記(1)で説明したような効果を確実に奏することができる。
(4)車載用制御装置1は、車両が道路を所定の速度以上で走行しているときに、得点を累積する処理を行うようにした。例えば、車両が停止しているときには、カメラ2aから取得する画像は常にほぼ同じ画像となる。このような画像から車線などを抽出して、得点を累積するのは適切でない。また、車速が遅い場合も同様なことが言える。車載用制御装置1が、車両の速度を判定することにより、このような不適切な得点累積処理を防止することができる。すなわち、車両が所定の速度以上で道路を走行しているときに、画像を取得し、累積処理をすることにより、車両方向に連続する領域において車線がまんべんなく検出され累積されることになり、精度の高い異物付着判定を行うことができる。
(5)車載用制御装置1は、車両が道路を所定の速度未満で走行しているときに、累積した得点を減算し、複数の領域において得点を累積および減算した得点結果に基づきカメラ2aにおける異物の付着の判定を行うようにした。異物の付着は、状況によって変化する。しかし、車速が所定の値より低い状態が続き、異物の付着の判定が適切でない状態長く続く場合に、前に取得した累積得点をそのまま維持しておくのは適切ではない。従って、上記のような構成を取ることにより、累積した得点を徐々に減算し、最終的にはリセットと同等の状態にすることができる。ただし、途中で、車速が所定の値以上になり、異物の付着の判定に適した状況になると、いきなりリセットすることに比べ、今までに累積した得点を引き継ぐことができ、素早く精度の高い異物付着判定を行うことができる。
(6)車載用制御装置1は、判定範囲の複数の領域のうち車両の進行方向に連続する領域の累積された得点(正規化した得点)の最大値および平均値を求め、車両の進行方向に連続する領域において、最大値から例えば0.8以上小さな値を示し、平均値から例えば0.3以上小さな値を示す累積された得点を有する領域を異物の付着がある領域として判定するようにした。このようにすることにより、確実に適切に異物の付着の判定を行うことができる。
(7)車載用制御装置1は、車両進行方向については、画面上の距離もしくは路面上の距離を基準に、車両進行方向に直交する方向については、路面上の距離を基準に、判定範囲を複数の領域に分割するようにした。これにより、車両進行方向に沿ってぼぼ等距離に存在する白線や、路肩、ガードレールからなる特徴点を、レンズ付着物が存在しなければ、縦方向の範囲別にまんべんなく得点(投票)することが可能となり、これら特徴量の累積得点(投票量)から付着物の判定を行うことができる。
(変形例)
(1)上記の実施の形態では、カメラ2aの異物付着判定の例を説明したが、必ずしもこの例に限定する必要はない。カメラ2b、2c、2dについても同様に異物付着判定を行うことができる。特に、車両後方を撮像するカメラ2dは全く同様の手法でカメラ2dの異物付着判定を行うことができる。
車両側方を撮像するカメラ2b、2cについては、撮像された画像において車両進行方向が画像の左右方向となる。従って、判定範囲の複数の領域を車両進行方向に連続する左右方向の行ごとに分類し、各行ごとに上記の判定部106の処理を行うようにすればよい。
(2)上記の実施の形態では、4つのカメラ2a〜2dが備えられているとして説明をしたが、必ずしもこの例に限定する必要はない。車両に搭載されるカメラの個数および判定範囲はこれに限定されない。そして、それぞれのカメラにおいて、車両進行方向を特定し、その方向に連続する領域単位に上記に説明した処理を行えばよい。
(3)上記の実施の形態では、水滴や泥などの汚れの異物の付着判定の例を説明したが、必ずしもこの例に限定する必要はない。水滴や泥などの汚れの異物の付着は、通常カメラ2aの外側に面したレンズの表面に付着する場合が多い。しかし、何らかの事情により、カメラ2a内部の光学系や撮像素子表面に汚れなどの異物が付着する場合がある。本実施の形態の手法を使用すれば、このような異物の付着の判定にも利用することができる。
(4)上記の実施の形態では、路面上に描かれた車線の特徴点を抽出する例を挙げて説明をしたが、必ずしもこの例に限定する必要はない。ガードレールや路肩や道路横のフェンスなどの特徴点を抽出する場合であってもよい。道路上連続的に続くものであり、それらを道路上の特徴点として抽出できるものであれば、どのような特徴点であってもよい。
(5)上記の実施の形態では、得点を正規化した値を使用して判定を行うようにしたが、必ずしもこの例に限定する必要はない。例えば、得点された値をそのまま使用して最大値や平均値を求め判定するようにしてもよい。
(6)上記の実施の形態では、判定範囲分割部101は、車両進行方向については、画面上の距離を基準に分割し、車両進行方向に直交する方向は、路面上の距離を基準に分割するようにしたが、必ずしもこの例に限定する必要はない。例えば、車両進行方向も路面上の距離を基準に分割するようにしてもよい。さらには、上記説明したように、車両の進行方向に連続する領域の累積された得点結果に基づき異物の付着の判定を適切に行うことができるのであれば、その他の分割方法で複数の領域に分割するようにしてもよい。
以上説明した実施の形態や各種の変形例はあくまで一例であり、発明の特徴が損なわれない限り、本発明はこれらの内容に限定されるものではない。
1 車載用制御装置
2a、2b、2c、2d カメラ
3 車速センサ
4 上位車両制御装置
101 判定範囲分割部
102 画像取得部
103 特徴点抽出部
104 得点累積部
105 得点減算部
106 判定部
107 出力部

Claims (7)

  1. 車載用制御装置であって、
    車両の周囲を撮像する撮像装置から撮像した画像を取得する画像取得部と、
    前記撮像装置の撮像範囲の所定の判定範囲を複数の領域に分割する判定範囲分割部と、
    前記画像取得部が取得した画像より車両の周囲における所定の特徴を有する特徴点を抽出する特徴点抽出部と、
    前記画像取得部が時系列に取得する複数の画像について、前記複数の領域のうち、前記特徴点抽出部が抽出した特徴点が存在する領域について得点を累積する得点累積部と、
    前記複数の領域の累積された得点結果に基づき前記撮像装置における異物の付着の判定を行う判定部とを備えることを特徴とする車載用制御装置。
  2. 請求項1に記載の車載用制御装置において、
    前記判定部は、前記判定範囲の前記複数の領域のうち車両の進行方向に連続する領域の累積された得点結果に基づき異物の付着の判定を行うことを特徴とする車載用制御装置。
  3. 請求項1または2に記載の車載用制御装置において、
    前記車両の周囲における所定の特徴を有する特徴点は、道路上の走行車線であることを特徴とする車載用制御装置。
  4. 請求項1から3のいずれかに記載の車載用制御装置において、
    前記得点累積部は、車両が道路を所定の速度以上で走行しているときに、前記得点を累積する処理を行うことを特徴とする車載用制御装置。
  5. 請求項4に記載の車載用制御装置において、
    前記得点累積部は、車両が前記道路を前記所定の速度未満で走行しているときに、前記累積した得点を減算し、
    前記判定部は、前記得点累積部が前記複数の領域において得点を累積および減算した得点結果に基づき前記撮像装置における異物の付着の判定を行うことを特徴とする車載用制御装置。
  6. 請求項1から5のいずれかに記載の車載用制御装置において、
    前記判定部は、前記判定範囲の前記複数の領域のうち車両の進行方向に連続する領域の累積された得点の最大値および平均値を求め、前記車両の進行方向に連続する領域において、前記最大値から第1の所定の値以上小さな値を示し、前記平均値から第2の所定の値以上小さな値を示す累積された得点を有する領域を異物の付着がある領域として判定することを特徴とする車載用制御装置。
  7. 請求項1から6のいずれかに記載の車載用制御装置において、
    前記判定範囲分割部は、車両進行方向については、画面上の距離もしくは路面上の距離を基準に、車両進行方向に直交する方向については、路面上の距離を基準に、前記判定範囲を複数の領域に分割することを特徴とする車載用制御装置。
JP2012259044A 2012-11-27 2012-11-27 車載用制御装置 Expired - Fee Related JP6045889B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2012259044A JP6045889B2 (ja) 2012-11-27 2012-11-27 車載用制御装置
EP13858517.9A EP2928178B1 (en) 2012-11-27 2013-11-21 On-board control device
PCT/JP2013/081427 WO2014084122A1 (ja) 2012-11-27 2013-11-21 車載用制御装置
CN201380061470.2A CN104871523B (zh) 2012-11-27 2013-11-21 车载用控制装置
US14/647,282 US9965690B2 (en) 2012-11-27 2013-11-21 On-vehicle control device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012259044A JP6045889B2 (ja) 2012-11-27 2012-11-27 車載用制御装置

Publications (2)

Publication Number Publication Date
JP2014107697A JP2014107697A (ja) 2014-06-09
JP6045889B2 true JP6045889B2 (ja) 2016-12-14

Family

ID=50827760

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012259044A Expired - Fee Related JP6045889B2 (ja) 2012-11-27 2012-11-27 車載用制御装置

Country Status (5)

Country Link
US (1) US9965690B2 (ja)
EP (1) EP2928178B1 (ja)
JP (1) JP6045889B2 (ja)
CN (1) CN104871523B (ja)
WO (1) WO2014084122A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102013020933A1 (de) * 2013-12-11 2015-06-11 Daimler Ag Verfahren zum automatischen Betrieb eines Fahrzeuges
EP3001272B1 (en) * 2014-09-26 2017-04-12 Volvo Car Corporation Method of trajectory planning for yielding manoeuvres
EP3113477B1 (en) * 2015-06-30 2017-08-02 Axis AB Monitoring camera
DE102015218964A1 (de) * 2015-09-30 2017-03-30 Bayerische Motoren Werke Aktiengesellschaft Verfahren und System zum Ermitteln von Verkehrsteilnehmern mit Interaktionspotential
US20170330043A1 (en) * 2016-05-11 2017-11-16 Icatch Technology, Inc. Method and System for Synthesizing a Lane Image
US10339812B2 (en) 2017-03-02 2019-07-02 Denso International America, Inc. Surrounding view camera blockage detection
CN106973290A (zh) * 2017-05-18 2017-07-21 信利光电股份有限公司 一种摄像模组污点测试方法及装置
JP6754386B2 (ja) * 2018-03-14 2020-09-09 本田技研工業株式会社 車両制御装置
KR102564856B1 (ko) 2018-09-07 2023-08-08 삼성전자주식회사 차선을 검출하는 방법 및 장치
US11257375B2 (en) * 2018-12-31 2022-02-22 Ficosa Adas, S.L.U. Method and system for detecting objects in a vehicle blind spot
JP6912509B2 (ja) * 2019-03-27 2021-08-04 本田技研工業株式会社 車両制御装置、車両および車両制御方法
JP7256463B2 (ja) * 2019-10-11 2023-04-12 トヨタ自動車株式会社 車両駐車支援装置
WO2021124504A1 (ja) * 2019-12-19 2021-06-24 三菱電機株式会社 車載装置、情報処理方法及び情報処理プログラム

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3271458B2 (ja) * 1995-01-31 2002-04-02 いすゞ自動車株式会社 車線逸脱警報装置
JP3655541B2 (ja) * 2000-09-18 2005-06-02 トヨタ自動車株式会社 レーン検出装置
JP4353127B2 (ja) * 2005-04-11 2009-10-28 株式会社デンソー レインセンサ
US8553088B2 (en) * 2005-11-23 2013-10-08 Mobileye Technologies Limited Systems and methods for detecting obstructions in a camera field of view
JP5022609B2 (ja) * 2006-02-27 2012-09-12 日立オートモティブシステムズ株式会社 撮像環境認識装置
US8108119B2 (en) * 2006-04-21 2012-01-31 Sri International Apparatus and method for object detection and tracking and roadway awareness using stereo cameras
DE102006027121A1 (de) * 2006-06-12 2007-12-13 Robert Bosch Gmbh Bildaufnahmesystem und Verfahren für die Entfernungsbestimmung mit einem Bildaufnahmesystem
CN201009817Y (zh) * 2007-02-16 2008-01-23 张家荣 盲点影像辅助系统
JP5003946B2 (ja) * 2007-05-30 2012-08-22 アイシン精機株式会社 駐車支援装置
JP5216010B2 (ja) * 2009-01-20 2013-06-19 本田技研工業株式会社 ウインドシールド上の雨滴を同定するための方法及び装置
JP5062498B2 (ja) * 2010-03-31 2012-10-31 アイシン・エィ・ダブリュ株式会社 風景マッチング用参照データ生成システム及び位置測位システム
US9118816B2 (en) * 2011-12-06 2015-08-25 Mobileye Vision Technologies Ltd. Road vertical contour detection
WO2012103193A1 (en) * 2011-01-26 2012-08-02 Magna Electronics Inc. Rear vision system with trailer angle detection
JP5680436B2 (ja) 2011-02-15 2015-03-04 アルパイン株式会社 車載カメラレンズ用異物付着判定装置
CN103477624A (zh) * 2011-04-13 2013-12-25 日产自动车株式会社 行驶辅助装置及其雨滴检测方法

Also Published As

Publication number Publication date
CN104871523B (zh) 2018-01-23
CN104871523A (zh) 2015-08-26
WO2014084122A1 (ja) 2014-06-05
US20150302257A1 (en) 2015-10-22
EP2928178A1 (en) 2015-10-07
JP2014107697A (ja) 2014-06-09
EP2928178B1 (en) 2018-10-31
EP2928178A4 (en) 2016-08-03
US9965690B2 (en) 2018-05-08

Similar Documents

Publication Publication Date Title
JP6045889B2 (ja) 車載用制御装置
EP2927054B1 (en) On-vehicle control device
US9690996B2 (en) On-vehicle image processor
JP5022609B2 (ja) 撮像環境認識装置
EP2369552B1 (en) Approaching object detection system
CN112349144B (zh) 一种基于单目视觉的车辆碰撞预警方法及系统
JP4992990B2 (ja) 区画線検出装置
JP6246014B2 (ja) 外界認識システム、車両、及びカメラの汚れ検出方法
EP2928182B1 (en) Onboard image processing system
JP6697522B2 (ja) 区画線認識装置
US20100110193A1 (en) Lane recognition device, vehicle, lane recognition method, and lane recognition program
US20090052742A1 (en) Image processing apparatus and method thereof
JP2011180982A (ja) 区画線検出装置
JP6493000B2 (ja) 路面標示検出装置及び路面標示検出方法
JP2002314989A (ja) 車両用周辺監視装置
US20180012068A1 (en) Moving object detection device, image processing device, moving object detection method, and integrated circuit
JP5997962B2 (ja) 車載レーンマーカ認識装置
JP6185367B2 (ja) 運転支援装置
JP5950193B2 (ja) 視差値演算装置及びこれを備えた視差値演算システム、移動面領域認識システム、視差値演算方法、並びに、視差値演算用プログラム
CN116524454A (zh) 物体追踪装置、物体追踪方法及存储介质
JP5723561B2 (ja) 運転支援装置
JP2014104840A (ja) 車載画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161108

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161116

R150 Certificate of patent or registration of utility model

Ref document number: 6045889

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees