JP2020021974A - 信頼性判定装置および信頼性判定方法 - Google Patents

信頼性判定装置および信頼性判定方法 Download PDF

Info

Publication number
JP2020021974A
JP2020021974A JP2018142059A JP2018142059A JP2020021974A JP 2020021974 A JP2020021974 A JP 2020021974A JP 2018142059 A JP2018142059 A JP 2018142059A JP 2018142059 A JP2018142059 A JP 2018142059A JP 2020021974 A JP2020021974 A JP 2020021974A
Authority
JP
Japan
Prior art keywords
reliability
image
light projection
determination
captured
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018142059A
Other languages
English (en)
Other versions
JP7177618B2 (ja
Inventor
周樹 村角
Shuki Murakado
周樹 村角
谷 泰司
Taiji Tani
泰司 谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Ten Ltd
Original Assignee
Denso Ten Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Ten Ltd filed Critical Denso Ten Ltd
Priority to JP2018142059A priority Critical patent/JP7177618B2/ja
Publication of JP2020021974A publication Critical patent/JP2020021974A/ja
Application granted granted Critical
Publication of JP7177618B2 publication Critical patent/JP7177618B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

【課題】移動体に搭載されるカメラで撮影された撮影画像の信頼性を判定することができる技術を提供する。【解決手段】信頼性判定装置は、移動体に搭載されるカメラで撮影された撮影画像の信頼性を判定する。信頼性判定装置は、前記移動体に搭載される投光装置により路面に投光された特定の投光パターンを前記カメラで撮影した撮影画像を取得する取得部と、前記取得部で取得した撮影画像に映る前記投光パターンの実画像と、当該実画像に対応する前記投光パターンの期待画像とに基づき前記信頼性を判定する判定部と、を備える。【選択図】図2

Description

本発明は、カメラで撮影された撮影画像の信頼性を判定する技術に関する。
例えば、特許文献1には、ハンドル舵角に応じた車両進行方向を予測演算して車両予測軌跡を求め、モニタ画面に表示されているカメラの撮影画像に車両進行方向の予測軌跡画像を重畳表示する運転支援装置が開示されている。また、特許文献1には、予測軌跡画像を車両に設置される投影手段によって道路面上に投影することが開示されている。
特許文献1の構成によれば、運転者がサイドミラーやバックミラーを通して、或いは直接的に道路面を確認したときでも、車両の進行方向の予測軌跡を視認でき、運転操作を支援することができる。また、例えば、高輝度の太陽光によって道路面上に投影された予測軌跡の画像が見づらくなったときでも、モニタ画面にて予測軌跡を確認可能である。
特開2004−182121号公報
ところで、例えばカメラのレンズが汚れている等の不具合が発生した場合、モニタ画面に映る撮影画像がぼやけたり、本来映るべき撮影画像の一部が欠落したりすることがある。このような場合に、運転者がモニタ画面を見ながら運転を行ったり、撮影画像に基づく自動運転が行われたりすると危険である。カメラによって撮影された撮影画像の信頼性が分かると、撮影画像を利用した運転の安全性を向上させることができる。
本発明は、上記事情に鑑みて、移動体に搭載されるカメラで撮影された撮影画像の信頼性を判定することができる技術を提供することを目的とする。
上記目的を達成するために本発明の信頼性判定装置は、移動体に搭載されるカメラで撮影された撮影画像の信頼性を判定する信頼性判定装置であって、前記移動体に搭載される投光装置により路面に投光された特定の投光パターンを前記カメラで撮影した撮影画像を取得する取得部と、前記取得部で取得した撮影画像に映る前記投光パターンの実画像と、当該実画像に対応する前記投光パターンの期待画像とに基づき前記信頼性を判定する判定部と、を備える構成(第1の構成)になっている。
上記第1の構成の信頼性判定装置において、前記判定部は、前記実画像と前記期待画像との比較により前記信頼性が低いか否かを判定する構成(第2の構成)であってよい。
上記第1又は第2の構成の信頼性判定装置において、前記判定部は、前記信頼性を低下させる原因を推定する推測処理を更に行う構成(第3の構成)であってよい。
上記第3の構成の信頼性判定装置において、前記推測処理には、前記実画像と前記期待画像との間で形状、位置、大きさ、および、明暗の少なくともいずれか1つを比較する処理が含まれる構成(第4の構成)であることが好ましい。
上記第1から第4のいずれかの構成の信頼性判定装置は、前記判定部による判定結果を知らせる報知装置を制御する報知制御部を更に備える構成(第5の構成)であってよい。
上記第1から第5のいずれかの構成の信頼性判定装置は、前記判定部による前記信頼性の判定処理を行うことができないと判断される場合に、前記投光装置の投光条件を変更する投光制御部を更に備える構成(第6の構成)であってよい。
上記第1から第6のいずれかの構成の信頼性判定装置は、前記実画像を表示する表示画面に前記期待画像を重畳して表示させる表示制御部を更に備える構成(第7の構成)であってよい。
上記第1から第7のいずれかの構成の信頼性判定装置において、前記移動体は車両であり、前記投光パターンは、前記車両の駐車を支援するためのパターンである構成(第8の構成)であってよい。
上記目的を達成するために本発明の信頼性判定方法は、移動体に搭載されるカメラで撮影された撮影画像の信頼性を判定する信頼性判定装置によって行われる信頼性判定方法であって、前記移動体に搭載される投光装置により路面に投光される特定の投光パターンを前記カメラで撮影した撮影画像を取得する取得工程と、前記取得工程で取得した撮影画像に映る前記投光パターンの実画像と、当該実画像に対応する前記投光パターンの期待画像とに基づき前記信頼性を判定する判定工程と、を備える構成(第9の構成)になっている。
本発明によれば、移動体に搭載されるカメラで撮影された撮影画像の信頼性を判定することができる。
本発明の信頼性判定装置が適用される運転支援システムの一構成例を示す図 信頼性判定装置によって実行される信頼性の判定処理の一例を示すフローチャート 本実施形態の特定の投光パターンについて説明するための模式図 特定の投光パターンの他の実施例を示す模式図 特定の投光パターンの他の実施例を示す模式図 推測処理について説明するための模式図 推測処理について説明するための模式図 推測処理について説明するための模式図 推測処理について説明するための模式図 変形例の信頼性判定装置について説明するための図 表示装置の表示画面を示す模式図
以下、本発明の例示的な実施形態について、図面を参照しながら詳細に説明する。以下においては、本発明の移動体が車両である場合を例に説明する。ただし、本発明の移動体は車両に限定されず、例えばロボット等であってもよい。
また、以下の説明では、車両の直進進行方向であって、運転席からステアリングに向かう方向を「前方向」と呼ぶ。また、車両の直進進行方向であって、ステアリングから運転席に向かう方向を「後方向」と呼ぶ。また、車両の直進進行方向及び鉛直線に垂直な方向であって、前方向を向いている運転者の右側から左側に向かう方向を「左方向」と呼ぶ。また、車両の直進進行方向及び鉛直線に垂直な方向であって、前方向を向いている運転者の左側から右側に向かう方向を「右方向」と呼ぶ。
<1.運転支援システム>
図1は、本発明の信頼性判定装置1が適用される運転支援システムSYS1の一構成例を示す図である。本実施形態の運転支援システムSYS1は、例えば、駐車場における車両の駐車支援を行うシステム等として好適である。図1に示すように、運転支援システムSYS1は、信頼性判定装置1と、撮影部2と、投光装置3と、報知装置4と、を備える。
信頼性判定装置1は、車両に搭載されるカメラで撮影された撮影画像(映像)の信頼性を判定する装置である。本実施形態では、車両に搭載されるカメラは、車両の周辺を撮影するカメラである。信頼性判定装置1は、車両に複数のカメラが搭載される場合、各カメラについて撮影画像の信頼性を判定する。信頼性判定装置1の詳細については後述する。なお、信頼性判定装置1は、車載装置であってもよいが、車外に持ち出し可能な携帯型の装置であってもよい。
撮影部2は、上述した車両に搭載されるカメラで構成される。カメラは例えばCCD(Charge Coupled Device)センサやCMOS(Complementary metal-oxide-semiconductor)センサを搭載したカメラである。本実施形態においては、撮影部2は、フロントカメラ21、左サイドカメラ22、右サイドカメラ23、および、バックカメラ24を含む。フロントカメラ21は、車両の前端に設けられ、車両の前方を撮影する。左サイドカメラ22は、例えば車両の左サイドミラー等の左サイドに設けられ、車両の左方向を撮影する。右サイドカメラ23は、例えば車両の右サイドミラー等の右サイドに設けられ、車両の右方向を撮影する。バックカメラ24は、車両の後端に設けられ、車両の後方を撮影する。各カメラ21〜24は車両に固定され、車両からみて一定の位置を撮影する。
撮影部2は、信頼性判定装置1に有線又は無線によって接続される。すなわち、撮影部2を構成する各カメラ21〜24は、信頼性判定装置1に撮影画像を入力することができる。なお、撮影部2を構成するカメラの数は、4つに限らず、単数または複数であってよい。例えば、撮影部2は、バックカメラ24のみで構成されたり、左右のサイドカメラ22、23とバックカメラ24とで構成されたりしてよい。
投光装置3は、信頼性判定装置1および撮影部2が搭載される車両に搭載される。投光装置3は、信頼性判定装置1に有線又は無線によって接続され、信頼性判定装置1によって制御される。投光装置3は、信頼性判定装置1による制御のもと、路面に特定の投光パターンを投光する。投光装置3は、各カメラ21〜24の信頼性を判定する目的で備えられ、カメラ21〜24毎に設けられる。すなわち、本実施形態の運転支援システムSYS1は、詳細には、車両の前方に光を投光するフロント投光装置と、車両の左サイドに光を投光する左サイド投光装置と、車両の右サイドに光を投光する右サイド投光装置と、車両の後方に光を投光するバック投光装置との4つの投光装置3を備える。各投光装置3は車両に固定され、車両からみて一定の位置に特定の投光パターンを投光する。
特定の投光パターンは、カメラ21〜24のレンズの不具合を検出する必要があるために、カメラ21〜24の撮影画像の広範囲に亘って広がることが好ましい。また、特定のパターンは、その全体が撮影画像中に映っていることが好ましい。すなわち、特定の投光パターンは、スポット状ではなく、路面の広範囲に広がるパターンであることが好ましい。投光装置3は、例えばプロジェクタで構成される。
報知装置4は、信頼性判定装置1と同じ車両に搭載される。報知装置4は、信頼性判定装置1に有線又は無線によって接続され、信頼性判定装置1によって制御される。報知装置4は、信頼性判定装置1による制御のもと、信頼性の判定結果を車両の乗員に知らせる。報知装置4は、例えば、画面表示や音声を用いて判定結果を知らせる。すなわち、報知装置4は、例えば音声出力装置、表示装置、又は、音声出力装置を含む表示装置等であってよい。本実施形態では、報知装置4は表示装置である。当該表示装置は、カメラ21〜24で撮影された撮影画像を表示可能に設けられる。表示装置は、例えばナビゲーション装置を構成する要素であってよい。表示装置は、車載装置でもよいが、車外に持ち出し可能な携帯型の装置であってもよい。
<2.信頼性判定装置>
図1に示すように、信頼性判定装置1は、制御部11と記憶部12とを備える。制御部11は、信頼性判定装置1の全体を制御する。制御部11は、例えば、CPU(Central Processing Unit)、RAM(Random Access Memory)、及び、ROM(Read Only Memory)などを備えるコンピュータで構成される。記憶部12は、制御部11が動作するために必要なコンピュータプログラムおよびデータを不揮発的に記憶する。記憶部12としては、例えば、EEPROM(Electrically Erasable Programmable Read-Only Memory)、フラッシュメモリ等を用いることができる。
図1に示す投光制御部111、取得部112、判定部113、および、報知制御部114は、記憶部12に記憶されるコンピュータプログラムの実行により実現される制御部11の機能である。換言すると、信頼性判定装置1は、投光制御部111と、取得部112と、判定部113と、報知制御部114とを備える。
なお、制御部11が備える各機能部111〜114の少なくともいずれか1つは、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等のハードウェアで構成されてもよい。また、制御部11が備える各機能部111〜114は、概念的な構成要素である。1つの構成要素が実行する機能を複数の構成要素に分散させたり、複数の構成要素が有する機能を1つの構成要素に統合したりしてよい。
投光制御部111は投光装置3を制御する。本実施形態では、投光装置3の数は複数であり、投光制御部111は、これら複数の投光装置3の制御を行う。投光制御部111の制御により、各投光装置3は特定の投光パターンの光を適宜路面に投光する。特定の投光パターンは、カメラ21〜24の撮影画像の信頼性を判定するためのパターンである。なお、特定の投光パターンは、例えば車両の運転を補助するパターンや歩行者に車両の動きを知らせるパターンを兼ねてよい。
取得部112は、各カメラ21〜24からアナログ又はデジタルの撮影画像(映像)を所定の周期で取得する。そして、取得した撮影画像がアナログの場合には、取得部112は、そのアナログの撮影画像をデジタルの撮影画像に変換(A/D変換)する。本実施形態では、取得部112は、車両に搭載される投光装置3により路面に投光された特定の投光パターンをカメラ21〜24で撮影した撮影画像を取得する。
詳細には、取得部112は、フロント投光装置により投光された特定の投光パターンをフロントカメラ21で撮影した撮影画像を取得する。取得部112は、左サイド投光装置により投光された特定の投光パターンを左サイドカメラ22で撮影した撮影画像を取得する。取得部112は、右サイド投光装置により投光された特定の投光パターンを右サイドカメラ23で撮影した撮影画像を取得する。取得部112は、バック投光装置により投光された特定の投光パターンをバックカメラ24で撮影した撮影画像を取得する。取得部112は、各撮影画像の画像処理を行い、特定の投光パターンを認識する。
判定部113は、取得部112で取得した撮影画像に映る特定の投光パターンの実画像と、当該実画像に対応する特定の投光パターンの期待画像とに基づき撮影画像の信頼性を判定する。期待画像は、実画像の撮影時点において特定のパターンに対して撮影されることが期待された画像である。期待画像は、実画像との比較を行いたい少なくとも1つの要素を予測した画像であってよい。例えば、期待画像は、特定の投光パターンの形状のみを予測した画像等であってよい。本実施形態では、判定部113は、各カメラ21〜24から得られる撮影画像に対して、実画像と期待画像とに基づき信頼性を判定する。すなわち、判定部113は、各カメラ21〜24の撮影画像の信頼性を判定する。
本実施形態では、特定の投光パターンは、各カメラ21〜24の撮影画像の広範囲に亘って広がるとともに、その全体が撮影画像中に映るように設定されている。このために、特定の投光パターンの撮影画像に注目することによって、レンズ等に起こる不具合を広く検出することが可能である。すなわち、特定の投光パターンの実画像と期待画像とに基づき、カメラ21〜24の信頼性を低下させる事態が生じていることを広く検出することができ、カメラ21〜24の撮影画像の信頼性を適切に判定することができる。
本実施形態では、判定部113は、実画像と期待画像との比較により撮影画像の信頼性が低いか否かを判定する。これによると、信頼性の判定処理を簡単に行うことができるとともに、信頼性の判定結果をユーザが即座に理解することができる。なお、判定部113は、撮影画像の信頼性について、3段階以上に分類して判定してもよい。
報知制御部114は、判定部113による判定結果を知らせる報知装置4を制御する。例えば、報知制御部114は、報知装置4を制御して、撮影画像の信頼性が低い場合にのみ判定結果を車両の乗員に知らせる構成であってよい。報知装置4によって撮影画像の信頼性が低いことが知らされることによって、車両の乗員は、撮影画像のみにしたがった運転が危険であることを認識することができ、車両を安全に運転することができる。なお、報知制御部114は、報知装置4を制御して、信頼性の判定内容にかかわらず判定結果を車両の乗員に知らせる構成であってもよい。
図2は、信頼性判定装置1によって実行される信頼性の判定処理の一例を示すフローチャートである。本実施形態では、前後左右の4つのカメラ21〜24の撮影画像について、それぞれ信頼性の判定が行われる。各カメラ21〜24の撮影画像の信頼性判定処理は同じである。このために、ここでは、バックカメラ24の場合を代表例として信頼性判定処理について説明する。
信頼性判定装置1は、動作開始イベントが発生すると、図2に示すフローチャートの動作を開始する。動作開始イベントとしては、例えば、バックカメラ24によって撮影された撮影画像の画面表示の開始や、信頼性の判定処理を指示するユーザのボタン操作等が挙げられる。撮影画像の画面表示は、例えば駐車支援等の運転支援の開始によって始まる。
まず、投光制御部111による投光処理が行われる(ステップS1)。詳細には、投光制御部111から投光装置3に対して、特定の投光パターンを投光することが指示される。これにより、投光装置3は、路面に向けて特定の投光パターンを投光する。図3Aは、本実施形態の特定の投光パターン5について説明するための模式図である。図3Aに示すように、特定の投光パターンは、車両6の前後左右にそれぞれ投光される。本実施形態では、特定の投光パターンは、1色、且つ、矩形状のパターンである。特定の投光パターンの色は、路面と区別できる色であることが好ましく、例えばイエロー等とされる。特定の投光パターンを矩形状のパターンとすることにより、実画像と期待画像との比較を容易に行うことができる。
なお、図3Aに示す特定の投光パターン5は例示すぎない。例えば、特定の投光パターン5は矩形状に限定されず、円形状、楕円状、矩形以外の多角形状、環状等の他の形状であってよい。また、特定の投光パターンは、前後左右で互いに異なってもよい。
図3Bおよび図3Cは、特定の投光パターン5の他の実施例を示す模式図である。図3Bおよび図3Cにおいても、特定の投光パターン5は車両6の前後左右に投光され、各方向においてその形状は矩形状である。ただし、図3Bにおいては、特定の投光パターン5は2色で構成され、色の違いによって2つの矩形状の領域が構成されている。特定の投光パターン5を構成する2つの色は互いに区別できる色であることが好ましく、例えばイエローとマゼンタ等であってよい。なお、特定の投光パターン5を構成する色は3色以上であってもよい。複数色で特定の投光パターン5を構成することによって、1色のみで特定の投光パターンを構成する場合に比べて、実画像と期待画像との差異を検出し易くすることができる。すなわち、信頼性の判定精度を向上することができる。
また、図3Cにおいては、特定の投光パターン5は、規則性を有する模様が広範囲に広がった構成になっている。規則性を有する模様は、特に限定されるものではないが、例えばチェッカー模様等であってもよい。規則性を有する模様は、例えば、光を投光する部分と投光しない部分とで構成してもよいし、2色以上の光を投光することによって構成してもよい。例えば、規則性を有する模様で特定の投光パターン5を構成することによって、単一形状且つ単一色のみで特定の投光パターンで構成する場合に比べて、実画像と期待画像との差異を検出し易くすることができる。すなわち、信頼性の判定精度を向上することができる。
図2に戻って、路面に特定の投光パターン5が投光されると、取得部112は、特定の投光パターン5の実画像を取得する実画像取得処理を行う(ステップS2)。詳細には、特定の投光パターン5が映る撮影画像が取得部112により取得される。そして、取得部112は、取得した撮影画像に対して周知のパターン認識処理を行うことにより、撮影画像中に映る特定の投光パターン5を認識する。
取得部112による実画像取得処理が行われると、判定部113は、撮影画像の信頼性判定が可能か否かを確認する(ステップS3)。例えば車両の周囲が明るすぎたり、投光した光の色と路面の色とが近かったりした場合等に、撮影画像に映る特定の投光パターン5を認識できない場合があることを考慮する処理である。
撮影画像の信頼性判定が可能であると判断された場合(ステップS3でYes)、判定部113は、取得部112によって取得された実画像と、当該実画像に対応する特定の投光パターンの期待画像とを比較する(ステップS4)。期待画像は、投光装置3(バック投光装置)およびバックカメラ24の設定条件に関する情報に基づき予め求められた画像情報である。
また、本実施形態では、判定部113は、実画像と期待画像との比較に際し、画像の位置、形状および大きさを比較する。ただし、これは例示であり、実画像と期待画像との比較要素は適宜変更されてよい。例えば、画像の位置、形状および大きさの他に明暗等が比較されてもよい。また、例えば画像の形状のみが比較されてもよい。
判定部113は、実画像と期待画像との比較により、位置、形状および大きさのうち少なくも1つにおいて一致しない要素があると判断した場合、撮影画像の信頼性が低いと判定する。比較処理が行われると、判定部113は、撮影画像の信頼性が低いと判定されたか否かを確認する(ステップS5)。
撮影画像の信頼性が低いと判定されると(ステップS5でYes)、判定部113は、撮影画像の信頼性を低下させる原因を推定する推測処理を行う(ステップS6)。撮影画像の信頼性を低下させる原因を推測することによって、例えば、信頼性を低下させる原因となっている事態を回避する処置を行ったり、信頼性の低下原因が一時的なものであるか否かの判断を行ったりすることが可能になる。
推測処理には、実画像RIと期待画像EIとの間で形状、位置、大きさ、および、明暗の少なくともいずれか1つを比較する処理が含まれることが好ましい。これにより、撮影画像の信頼性を低下させる原因として考えられる事態の推測を効率良く行うことができる。
図4A、図4B、図4Cおよび図4Dは、推測処理について説明するための模式図である。本実施形態では、判定部113は、推測処理において実画像RIと期待画像EIとの大きさの差異を確認する。図4Aに示すように、実線で示される特定の投光パターン5の実画像RIが期待画像EIに対して大きくなっている場合、判定部113は実画像RIのぼやけを検出する。この場合、判定部113は、バックカメラ24に水滴等の透過性の付着物が付いていると推測する。
なお、ぼやけが発生している場合には、通常、実画像RIと期待画像EIとの間で画像の明暗に差が生じる。このために、判定部113は、画像の大きさの比較に加えて、或いは、画像の大きさの比較に替えて、画像の明暗の比較を行ってぼやけを検出する構成としてもよい。
また、本実施形態では、判定部113は、推測処理において実画像RIと期待画像EIとの形状の差異を確認する。図4Bに示す例では、実画像RIは、矩形状の投光パターン5内に投光パターン5の一部を欠落させる楕円状の欠落部7が存在する形状となっており、矩形状の投光パターン5となる期待画像と形状が異なる。図4Bに示す例のような場合、判定部113は実画像RIと期待画像EIとの形状の差異を検出する。形状の差異を検出すると、判定部113は、形状の差異がある部分の時間変化を観察する。図4Bに示す例では、欠落部7が形状の差異がある部分に該当する。
詳細には、判定部113は、形状の差異を検出した実画像RIの撮影時間tから所定時間Tが経過した時点における特定の投光パターン5の実画像RIを再取得する。そして、判定部113は、再取得した実画像(t+T)と期待画像EIとを比較して形状の差異を確認する。判定部113は、先の実画像RI(t)と、再取得した実画像RI(t+T)との間で、期待画像EIと差異があった部分が一致するか否かを確認する。当該確認の結果、形状の差異があった部分が一致する場合には、判定部113は、形状の差異があった部分に動きが認められないために、形状の差異はバックカメラ24のレンズに対して動かない静止物の存在によって生じていると推測する。一方、図4Cに示すように、形状の差異があった部分(欠落部7)が一致しない場合には、判定部113は、形状の差異があった部分に動きが認められるために、形状の差異はバックカメラ24のレンズに対して動く移動物の存在によって生じていると推測する。
また、本実施形態では、判定部113は、推測処理において実画像RIと期待画像EIとの位置の差異を確認する。図4Dに示すように、実線で示される特定の投光パターン5の実画像RIが期待画像EIに対して位置が移動している場合、判定部113は実画像RIと期待画像EIとの位置の差異を検出する。この場合、判定部113は、バックカメラ24の光軸がずれていると推測する。なお、図4Dでは、バックカメラ24の光軸が下向きにずれた場合を想定しているが、これは例示に過ぎない。また、カメラの光軸が大きくずれた場合には、特定の投光パターン5の形状が変化する場合があり、この場合には、実画像RIと期待画像EIとの形状の差異も現れる。このような現象も考慮して、光軸ずれの推測を行ってもよい。
なお、判定部113による推測処理によって、信頼性の低下原因が推測できないことも起こり得る。このような場合には、例えば原因不明として処理してもよい。また、図4Aから図4Dを用いて説明した信頼性の低下原因は例示にすぎない。例えば、撮影画像の信頼性の低下は複数の要因が重なって生じることがあり、図4Aから図4Dを用いて説明した現象の少なくとも2つが同時に起こることも有り得る。すなわち、判定部113は、撮影画像の信頼性の低下原因として複数の原因を挙げることも有り得る。
図2に戻って、原因推測処理が完了すると、報知制御部114は、報知装置4を制御して判定部113による判定結果を知らせる報知処理を行う(ステップS7)。本実施形態では、撮影画像の信頼性が低いことに加えて、信頼性が低下している原因についても画面表示により知らせる。
例えば、報知装置4によって、「レンズに透過性の付着物が付いている可能性がある」ことが知らされる。この場合、車両の乗員は、カメラのレンズに雨滴等が付着している可能性があると判断できる。すなわち、車両の乗員は、レンズに付いた付着物のふき取りを行うことによって撮影画像の信頼性を回復できる可能性があると判断できる。また、別の例として、報知装置4によって「レンズに対して動かない静止物が存在する可能性がある」ことが知らされる。この場合、車両の乗員は、カメラのレンズに泥、雪、火山灰等の汚れが付着している可能性があると判断できる。すなわち、車両の乗員は、レンズに付いた付着物のふき取りにより撮影画像の信頼性を回復できる可能性があると判断できる。
また、別の例として、報知装置4によって「レンズに対して動く移動物が存在する可能性がある」ことが知らされる。この場合、車両の乗員は目視によって後方確認を行い、移動物を見つけることにより移動物との衝突を避けることができる。また、目視により移動物を見つけられない場合でも、時間に経過により自然に撮影画像の信頼性を回復できる可能性があると判断できる。また、別の例として、報知装置4によって「レンズの光軸がずれている可能性がある」ことが知らされる。この場合、車両の乗員は、例えばディーラ等の専門家にカメラのレンズ状態を検査してもらう必要があることを判断できる。
なお、判定部113によって信頼性の低下原因が推測できなかった場合には、その旨が報知装置4によって報知されてよい。この場合、車両の乗員は、例えばディーラ等の専門家にカメラのレンズ状態を検査してもらうことが好ましいことを判断できる。
報知処理の後、動作終了イベントが発生しているか否かが確認される(ステップS8)。動作終了イベントとしては、例えば、バックカメラ24による撮影画像の画面表示の終了や、信頼性の判定処理の停止を指示するユーザのボタン操作等が挙げられる。
動作終了イベントが発生していない場合(ステップS8でNo)、ステップS2に戻り、ステップS2以降の処理が繰り返される。一方、動作終了イベントが発生している場合には(ステップS8でYes)、信頼性判定装置1は図2に示すフローチャートの動作を終了する。
ところで、ステップS3で信頼性判定が不可能であると判断された場合(ステップS3でNo)、投光制御部111によって投光装置3の投光条件を変更する投光条件変更処理が行われる(ステップS9)。換言すると、投光制御部111は、判定部113による信頼性の判定処理を行うことができないと判断される場合に投光装置3の投光条件を変更する。投光条件の変更処理としては、例えば、投光装置3によって投光される光の強度を強くする処理や、光の色を変更する処理等が挙げられる。これにより、投光条件の変更前には路面と特定の投光パターン5とが区別できなかった場合でも、特定の投光パターン5の認識が可能になることが期待できる。投光条件の変更後は、ステップS8に進む。ステップS8の処理は上述したので説明は省略する。
なお、条件変更を行っても、特定の投光パターン5を認識できず、ステップS3において信頼性判定が不可能であるとの判断が繰り返し行われる可能性がある。このために、ステップS3で信頼性判定が不可能であると所定回数を超えて判断された場合には、例えば信頼性判定処理を停止する構成等としてもよい。
また、ステップS5で信頼性が低くないと判断された場合(ステップS5でNo)、信頼性の低下を報知する必要がないために、ステップS8に進む。ステップS8の処理は上述したので説明は省略する。
以上に示したフローでは、判定部113は、撮影画像の信頼性の低下の原因を推測する推測処理を行う構成としたが、これは例示である。信頼性の低下原因の推測処理は行われなくてもよい。この場合には、撮影画像の信頼性が低いことのみが報知装置4によって知らされるようにしてよい。
<3.変形例等>
本明細書中に開示されている種々の技術的特徴は、上記実施形態のほか、その技術的創作の主旨を逸脱しない範囲で種々の変更を加えることが可能である。すなわち、上記実施形態は、全ての点で例示であって、制限的なものではないと考えられるべきであり、本発明の技術的範囲は、上記実施形態の説明ではなく、特許請求の範囲によって示されるものであり、特許請求の範囲と均等の意味及び範囲内に属する全ての変更が含まれると理解されるべきである。また、本明細書中に示される複数の実施形態及び変形例は可能な範囲で組み合わせて実施されてよい。
例えば、以上においては、信頼性判定装置1が、報知制御部114を備える構成としたが、これは例示にすぎない。信頼性判定装置は、単に、信頼性の判定結果を報知装置に送信する構成であってもよい。この場合には、信頼性判定装置は、報知制御部を備えなくてもよい。
また、運転支援システムSYS1は、自車両の自動運転を制御する自動運転制御装置を備える構成としてよい。この場合、運転支援システムは、信頼性判定装置によって撮影画像の信頼性が低いと判定された場合に、自動運転制御装置に基づく自動運転を停止する構成としてよい。なお、ここでいう自動運転は、駆動力、制動力、及び、操舵のうちの少なくともいずれか1つが運転者の操作によらず自動で行われる状態を指す。すなわち、自動運転は、操舵、加減速、および、ブレーキの全てが自動で行われるものであってもよいが、例えば、操舵のみが自動で行われるもの等であってもよい。
図5は、変形例の信頼性判定装置1Aについて説明するための図である。図5には、信頼性判定装置1Aに接続される撮影部2、投光装置3、報知装置4および表示装置8も示されている。表示装置8は、例えば液晶ディスプレイや有機ELディスプレイ等で構成される。図5に示すように、信頼性判定装置1Aは、表示装置8を制御する表示制御部115を備える。この点、上述の実施形態と異なる。なお、表示装置8は、上述の実施形態と同様に報知装置4と兼用されてよい。この場合、表示制御部115は、報知制御部114と兼用されてよい。また、変形例の信頼性判定装置1Aの撮影部2は、一例としてバックカメラ24のみを備える構成である。
変形例の信頼性判定装置1Aにおいて、投光装置3によって投光される特定の投光パターンは車両の駐車を支援するためのパターンである。特定の投光パターンが駐車を支援するパターンを兼ねることにより、コストの上昇を抑制しつつ安全性を向上することができる。詳細には、特定の投光パターンは、例えば、車両の後方の路面に描画される固定ガイドパターンであってよい。固定ガイドパターンは、例えば、予め定められた領域に描画される線あり、車両の移動経路や走行状態とは関係なく表示される所定の枠線である。すなわち、固定ガイドパターンは固定ガイド線であってよい。固定ガイド線は、例えば、車両の後部から車幅とほぼ同様の幅で車両の後方に延びる線と、それらを結ぶ線とで囲まれた線である。なお、固定ガイドパターンは、線に替えて複数の点で構成されてもよい。
また、別の例として、特定の投光パターンは、例えば車両の移動経路であると予測される路面上の位置に描画される予測ガイドパターンであってもよい。予測ガイドパターンは、例えば車両の後部の車幅とほぼ同様の間隔を有する2本の線で構成される。すなわち、予測ガイドパターンは予測ガイド線であってよい。予測ガイドパターンは、公知の手法によって求めることができる。予測ガイドパターンは、例えば車両のハンドルの舵角を検出する舵角センサからの情報に基づいて算出されてよいが、他の手法によって算出されてもよい。なお、予測ガイドパターンは、線に替えて複数の点で構成されてもよい。予測ガイドパターンの長さは変動してもよい。
図6は、表示装置8の表示画面8aを示す模式図である。表示画面8aには、バックカメラ24で撮影された撮影画像が表示されている。すなわち、表示画面には、特定の投光パターンの実画像RIが表示されている。なお、本例では、特定の投光パターンは固定ガイド線である。
本例では、図6に示すように、表示制御部115は、特定の投光パターンの実画像RIを表示する表示画面8aに特定の投光パターンの期待画像EIを重畳して表示させる。なお、図6では、期待画像EIは破線で示しているが、これは例示であり、実線であってもよい。また、期待画像EIの色は特に限定されず、実画像と同じ色であってもよいし、同じ色でなくてもよい。
本例においても、信頼性判定装置1Aは、判定部113によって実画像RIと期待画像EIとの比較により、撮影画像の信頼性を判定する。そして、撮影画像の信頼性が低いと判定された場合には、報知制御部114による制御のもと、車両の乗員は報知装置4によって撮影画像の信頼性が低いことが知らされる。一方で、車両の乗員は、実画像RIに期待画像EIが重なった表示画面8aを見ることによっても撮影画像の信頼性を判定することができる。また、実画像RIと期待画像EIとの差異を目視することによって、車両の乗員は信頼性の低下原因を推測することができる。このため、判定部113による信頼性の低下原因の推測処理を省略することができる。なお、本例のように、実画像RIに期待画像EIを重ねて表示させる構成では、場合によっては、判定部113による信頼性の判定処理を行わない構成としてもよい。
1、1A・・・信頼性判定装置
3・・・投光装置
4・・・報知装置
5・・・特定の投光パターン
6・・・車両(移動体)
8a・・・表示画面
21・・・フロントカメラ
22・・・左サイドカメラ
23・・・右サイドカメラ
24・・・バックカメラ
111・・・投光制御部
112・・・取得部
113・・・判定部
114・・・報知制御部
115・・・表示制御部
EI・・・期待画像
RI・・・実画像

Claims (9)

  1. 移動体に搭載されるカメラで撮影された撮影画像の信頼性を判定する信頼性判定装置であって、
    前記移動体に搭載される投光装置により路面に投光された特定の投光パターンを前記カメラで撮影した撮影画像を取得する取得部と、
    前記取得部で取得した撮影画像に映る前記投光パターンの実画像と、当該実画像に対応する前記投光パターンの期待画像とに基づき前記信頼性を判定する判定部と、
    を備える、信頼性判定装置。
  2. 前記判定部は、前記実画像と前記期待画像との比較により前記信頼性が低いか否かを判定する、請求項1に記載の信頼性判定装置。
  3. 前記判定部は、前記信頼性を低下させる原因を推定する推測処理を更に行う、請求項1又は2に記載の信頼性判定装置。
  4. 前記推測処理には、前記実画像と前記期待画像との間で形状、位置、大きさ、および、明暗の少なくともいずれか1つを比較する処理が含まれる、請求項3に記載の信頼性判定装置。
  5. 前記判定部による判定結果を知らせる報知装置を制御する報知制御部を更に備える、請求項1から4のいずれか1項に記載の信頼性判定装置。
  6. 前記判定部による前記信頼性の判定処理を行うことができないと判断される場合に、前記投光装置の投光条件を変更する投光制御部を更に備える、請求項1から5のいずれか1項に記載の信頼性判定装置。
  7. 前記実画像を表示する表示画面に前記期待画像を重畳して表示させる表示制御部を更に備える、請求項1から6のいずれか1項に記載の信頼性判定装置。
  8. 前記移動体は車両であり、
    前記投光パターンは、前記車両の駐車を支援するためのパターンである、請求項1から7のいずれか1項に記載の信頼性判定装置。
  9. 移動体に搭載されるカメラで撮影された撮影画像の信頼性を判定する信頼性判定装置によって行われる信頼性判定方法であって、
    前記移動体に搭載される投光装置により路面に投光される特定の投光パターンを前記カメラで撮影した撮影画像を取得する取得工程と、
    前記取得工程で取得した撮影画像に映る前記投光パターンの実画像と、当該実画像に対応する前記投光パターンの期待画像とに基づき前記信頼性を判定する判定工程と、
    を備える、信頼性判定方法。
JP2018142059A 2018-07-30 2018-07-30 信頼性判定装置および信頼性判定方法 Active JP7177618B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018142059A JP7177618B2 (ja) 2018-07-30 2018-07-30 信頼性判定装置および信頼性判定方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018142059A JP7177618B2 (ja) 2018-07-30 2018-07-30 信頼性判定装置および信頼性判定方法

Publications (2)

Publication Number Publication Date
JP2020021974A true JP2020021974A (ja) 2020-02-06
JP7177618B2 JP7177618B2 (ja) 2022-11-24

Family

ID=69587570

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018142059A Active JP7177618B2 (ja) 2018-07-30 2018-07-30 信頼性判定装置および信頼性判定方法

Country Status (1)

Country Link
JP (1) JP7177618B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150160003A1 (en) * 2013-12-10 2015-06-11 GM Global Technology Operations LLC Distance determination system for a vehicle using holographic techniques
JP2016082258A (ja) * 2014-10-09 2016-05-16 株式会社デンソー 車載カメラ較正装置、画像生成装置、車載カメラ較正方法、画像生成方法
JP2016171509A (ja) * 2015-03-13 2016-09-23 三菱電機株式会社 キャリブレーション装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150160003A1 (en) * 2013-12-10 2015-06-11 GM Global Technology Operations LLC Distance determination system for a vehicle using holographic techniques
JP2016082258A (ja) * 2014-10-09 2016-05-16 株式会社デンソー 車載カメラ較正装置、画像生成装置、車載カメラ較正方法、画像生成方法
JP2016171509A (ja) * 2015-03-13 2016-09-23 三菱電機株式会社 キャリブレーション装置

Also Published As

Publication number Publication date
JP7177618B2 (ja) 2022-11-24

Similar Documents

Publication Publication Date Title
US10397451B2 (en) Vehicle vision system with lens pollution detection
CN105308620B (zh) 信息处理设备、接近对象通知方法和程序
JP3201518U (ja) イメージセンサ視野内の障害物を検出するためのシステム
JP6793193B2 (ja) 物体検出表示装置、移動体及び物体検出表示方法
JP4738778B2 (ja) 画像処理装置、運転支援装置および運転支援システム
JP5983693B2 (ja) 表示機能付きミラー装置および表示切替方法
WO2015118806A1 (ja) 画像解析装置、および画像解析方法
WO2016199345A1 (ja) 路面表示装置
JP4611899B2 (ja) カメラのレンズ汚れ検出装置及び画像表示システム
US9001204B2 (en) Vehicle peripheral monitoring device
JP5629521B2 (ja) 障害物検知システム及び方法、障害物検知装置
WO2014084251A1 (ja) 車載画像処理装置
JP6081034B2 (ja) 車載カメラ制御装置
JP2016055782A5 (ja)
US20190087665A1 (en) Information processing apparatus and program
JP2006350670A (ja) 夜間運転視界支援装置
JP2012166705A (ja) 車載カメラレンズ用異物付着判定装置
JP2008098858A (ja) 車両周辺監視装置
KR101601500B1 (ko) 스마트폰을 이용한 차량 운전 지원 시스템 및 방법
JP2007038773A (ja) 車載カメラ点検装置
JP6229769B2 (ja) 表示機能付きミラー装置および表示切替方法
JP7177618B2 (ja) 信頼性判定装置および信頼性判定方法
JP2009147906A (ja) 車両周辺監視装置
KR102010407B1 (ko) 스마트 리어뷰 시스템
JP6003396B2 (ja) 撮像装置、車載用監視装置および対象物検知方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210715

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220421

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220524

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220624

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221025

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221111

R150 Certificate of patent or registration of utility model

Ref document number: 7177618

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150