JP2019191807A - 異常検出装置および異常検出方法 - Google Patents

Abstract

【課題】移動体に搭載されたカメラの異常を適切に検出することができる技術を提供する。【解決手段】移動体に搭載されたカメラの異常を検出する異常検出装置は、前記カメラの画像の所定領域から特徴点を抽出する特徴点抽出部と、前記特徴点に基づき前記移動体の第１移動情報を推定する移動情報推定部と、前記第１移動情報の比較対象となる前記移動体の第２移動情報を取得する移動情報取得部と、前記第１移動情報と前記第２移動情報とに基づいて前記カメラの異常を判定する異常判定部と、を備える。特定条件を満たす前記特徴点が存在する場合に、前記所定領域に替えて特定抽出領域が設定され、前記特定抽出領域から抽出される前記特徴点に基づいて前記第１移動情報の推定が行われる。【選択図】図１

Description

本発明は、異常検出装置および異常検出方法に関し、詳細には、移動体に搭載されたカメラの異常検出に関する。

従来、車両等の移動体にカメラが搭載され、当該カメラは例えば駐車支援等に利用されている。例えば車両に搭載される車載カメラは、車両を工場から出荷する前に、車両に固定状態で取り付けられる。しかしながら、車載カメラは、例えば不意の接触や経年変化等によって、工場出荷時の取付け状態からずれを起こすことがある。車載カメラの取付け位置や角度がずれると、カメラ画像を利用して判断されるハンドルの操舵量等に誤差が生じるために、車載カメラの取付けのずれを検出することは重要である。

特許文献１に開示される車両用走行支援装置は、後方カメラで取得した画像を画像処理部で画像処理することで車両状態量によらずに車両の移動量を算出する第１の移動量算出手段と、車輪速センサと、操舵角センサの出力を基にして車両状態量に基づいて車両の移動量を算出する第２の移動量算出手段とを備える。例えば、第１の移動量算出手段は、後方カメラで取得した画像データからエッジ抽出等の手法により特徴点を抽出し、逆射影変換によって設定した特徴点の地表面上における位置を算出し、その位置の移動量を基にして車両の移動量を算出する。特許文献１には、求めた車両の移動量を比較して、偏差が大きい場合には、第１の移動量算出手段と第２の移動量算出手段との算出結果とのうちのいずれか一方に問題が生じている可能性があることが開示されている。

特開２００４−３３８６３７号公報

特許文献１に開示される構成では、例えば抽出される特徴点の数が少なくなると、第１の移動量算出手段によって算出される車両の移動量の信頼性が低下することが懸念される。信頼性の低い移動量が得られた場合に、第１の移動量算出手段と第２の移動量算出手段との算出結果の比較を行わないことが考えられる。しかし、このような構成とすると、異常を迅速に検出することができなくなる。

本発明は、移動体に搭載されたカメラの異常を適切に検出することができる技術を提供することを目的とする。

上記目的を達成するために本発明の異常検出装置は、移動体に搭載されたカメラの異常を検出する異常検出装置であって、前記カメラの画像の所定領域から特徴点を抽出する特徴点抽出部と、前記特徴点に基づき前記移動体の第１移動情報を推定する移動情報推定部と、前記第１移動情報の比較対象となる前記移動体の第２移動情報を取得する移動情報取得部と、前記第１移動情報と前記第２移動情報とに基づいて前記カメラの異常を判定する異常判定部と、を備え、特定条件を満たす前記特徴点が存在する場合に、前記所定領域に替えて特定抽出領域が設定され、前記特定抽出領域から抽出される前記特徴点に基づいて前記第１移動情報の推定が行われる構成（第１の構成）になっている。

上記第１の構成の異常検出装置において、前記第１移動情報の推定精度を悪化させる特定状態が生じていると判断される場合に、前記特定抽出領域の設定が行われる構成（第２の構成）であることが好ましい。

上記第２の構成の異常検出装置において、前記特定状態には、前記所定領域から抽出された前記特徴点の数が所定数より少ない状態と、前記特徴点のオプティカルフローのばらつき度合を示す指標が所定のばらつき閾値を超える状態との少なくとも一方が含まれる構成（第３の構成）であることが好ましい。

上記第２又は第３の構成の異常検出装置において、前記特定状態が生じていると判断され、前記特定条件を満たす前記特徴点が存在しない場合には、前記異常判定部は、前記特定状態が生じていると判断された前記カメラの画像に基づく異常の判定を行わない構成（第４の構成）であることが好ましい。

上記第１から第４のいずれかの構成の異常検出装置において、前記特定条件には、前記特徴点が他に比べて集中して存在する高密度領域を形成する複数の特徴点が存在するという条件が含まれ、前記特定抽出領域は、前記高密度領域に設定される構成（第５の構成）であることが好ましい。

上記第１から第５のいずれかの構成の異常検出装置において、前記特定条件には、前記特徴点抽出部で抽出された前記特徴点の中に、コーナーらしさを示すコーナー度が所定のコーナー度閾値以上となる特定の特徴点が存在するという条件が含まれ、前記特定抽出領域は、前記特定の特徴点の抽出位置に設定される構成（第６の構成）であることが好ましい。

上記第１から第６のいずれかの構成の異常検出装置において、前記移動情報取得部は、前記移動体に設けられる前記カメラ以外のセンサから得られる情報に基づいて前記第２移動情報を取得する構成（第７の構成）であることが好ましい。

上記第１から第７のいずれかの構成の異常検出装置は、前記異常は、前記カメラの取付けのずれが生じた状態である構成（第８の構成）が好ましい。

上記目的を達成するために本発明の異常検出方法は、移動体に搭載されたカメラの異常を検出する異常検出方法であって、前記カメラの画像の所定領域から特徴点を抽出する特徴点抽出工程と、前記特徴点に基づき前記移動体の第１移動情報を推定する移動情報推定工程と、前記第１移動情報の比較対象となる前記移動体の第２移動情報を取得する移動情報取得工程と、前記第１移動情報と前記第２移動情報とに基づいて前記カメラの異常を判定する異常判定工程と、を備え、特定条件を満たす前記特徴点が存在する場合に、前記所定領域に替えて特定抽出領域が設定され、前記特定抽出領域から抽出される前記特徴点に基づいて前記第１移動情報の推定が行われる構成（第９の構成）になっている。

本発明によると、移動体に搭載されたカメラの異常を適切に検出することができる。

異常検出システムの構成を示すブロック図 車載カメラが車両に配置される位置を例示する図 異常検出装置によるカメラずれの検出フローの一例を示すフローチャート 特徴点を抽出する手法を説明するための図 第１オプティカルフローを導出する手法を説明するための図 座標変換処理を説明するための図 移動情報推定部によって生成された第１ヒストグラムの一例を示す図 移動情報推定部によって生成された第２ヒストグラムの一例を示す図 カメラずれが発生した場合のヒストグラムの変化を例示する図 異常判定部によって行われるカメラずれ判定処理の一例を示すフローチャート 例外的な処理を行うか否かを判定する手順を示すフローチャート オプティカルフローのばらつき度合について説明するための図 例外的な処理の手順を示すフローチャート カメラによって撮影された撮影画像の一例を示す図 図１４に示す撮影画像に基づいて生成された第１ヒストグラム 特定抽出領域について説明するための図 コーナー度について説明するための図

以下、本発明の例示的な実施形態について、図面を参照しながら詳細に説明する。以下の説明では、移動体として車両を例にとり説明するが、移動体は車両に限定される趣旨ではない。車両には、例えば自動車、電車、無人搬送車等の車輪のついた乗り物が広く含まれる。車両以外の移動体として、例えば船舶や航空機等が挙げられる。

また以下の説明では、車両の直進進行方向であって、運転席からハンドルに向かう方向を「前方向」とする。また、車両の直進進行方向であって、ハンドルから運転席に向かう方向を「後方向」とする。また、車両の直進進行方向及び鉛直線に垂直な方向であって、前方向を向いている運転者の右側から左側に向かう方向を「左方向」とする。また、車両の直進進行方向及び鉛直線に垂直な方向であって、前方向を向いている運転者の左側から右側に向かう方向を「右方向」とする。

＜１．異常検出システム＞
図１は、本発明の実施形態に係る異常検出システムＳＹＳの構成を示すブロック図である。本実施形態において、異常は、カメラの取付けのずれが生じた状態である。すなわち、異常検出システムＳＹＳは、車両に搭載されたカメラの取付けのずれを検出するシステムである。詳細には、異常検出システムＳＹＳは、例えば、車両の工場出荷時における車両へのカメラの取付け状態等の、基準となる取付け状態からのカメラのずれを検出するシステムである。図１に示すように、異常検出システムＳＹＳは、異常検出装置１と、撮影部２と、入力部３と、センサ部４とを備える。

異常検出装置１は、車両に搭載されたカメラの異常を検出する装置である。詳細には、異常検出装置１は、車両に搭載されたカメラの取付けのずれを検出する装置である。取付けのずれには、取付け位置のずれや取付け角度のずれが含まれる。異常検出装置１を用いることによって、車両に搭載されたカメラの取付けのずれを迅速に検出することができ、例えば、カメラずれが生じた状態で運転支援等が行われることを防止することができる。以下、車両に搭載されたカメラのことを「車載カメラ」と表現することがある。

異常検出装置１は、車載カメラを有する各車両に備えられる。異常検出装置１は、撮影部２に含まれる車載カメラ２１〜２４で撮影された撮影画像、および、当該装置１の外部に設けられるセンサ部４からの情報を処理して、車載カメラ２１〜２４の取付け位置や取付け角度のずれを検出する。異常検出装置１の詳細については後述する。

なお、異常検出装置１は、不図示の表示装置や運転支援装置に処理情報を出力してよい。表示装置は、異常検出装置１から出力される情報に基づいて、適宜、警告等を画面に表示してよい。運転支援装置は、異常検出装置１から出力される情報に基づいて、適宜、運転支援機能を停止したり、撮影情報の補正を行って運転支援を行ったりしてよい。運転支援装置は、例えば自動運転を支援する装置、自動駐車を支援する装置、緊急ブレーキを支援する装置等であってよい。

撮影部２は、車両周辺の状況を監視する目的で車両に設けられる。本実施形態では、撮影部２は、４つの車載カメラ２１〜２４を備える。各車載カメラ２１〜２４は、有線または無線によって異常検出装置１に接続される。図２は、車載カメラ２１〜２４が車両７に配置される位置を例示する図である。図２は、車両７を上から見た図である。図２に例示する車両は自動車である。

車載カメラ２１は車両７の前端に設けられる。このため、車載カメラ２１をフロントカメラ２１とも呼ぶ。フロントカメラ２１の光軸２１ａは車両７の前後方向に沿っている。フロントカメラ２１は車両７の前方向を撮影する。車載カメラ２２は車両７の後端に設けられる。このため、車載カメラ２２をバックカメラ２２とも呼ぶ。バックカメラ２２の光軸２２ａは車両７の前後方向に沿っている。バックカメラ２２は車両７の後方向を撮影する。フロントカメラ２１及びバックカメラ２２の取付け位置は、車両７の左右中央であることが好ましいが、左右中央から左右方向に多少ずれた位置であってもよい。

車載カメラ２３は車両７の左側ドアミラー７１に設けられる。このため、車載カメラ２３を左サイドカメラ２３とも呼ぶ。左サイドカメラ２３の光軸２３ａは車両７の左右方向に沿っている。左サイドカメラ２３は車両７の左方向を撮影する。車載カメラ２４は車両７の右側ドアミラー７２に設けられる。このため、車載カメラ２４を右サイドカメラ２４とも呼ぶ。右サイドカメラ２４の光軸２４ａは車両７の左右方向に沿っている。右サイドカメラ２４は車両７の右方向を撮影する。

各車載カメラ２１〜２４は魚眼レンズで構成され、水平方向の画角θは１８０°以上である。このため、車載カメラ２１〜２４によって、車両７の水平方向における全周囲を撮影することができる。なお、本実施形態では、車載カメラの数は４つであるが、この数は適宜変更されてよく、複数でも単数でもよい。例えば、車両７がバックで駐車することを支援する目的で車載カメラが搭載されている場合には、撮影部２が有する車載カメラは、バックカメラ２２、左サイドカメラ２３、右サイドカメラ２４の３つで構成されてよい。

図１に戻って、入力部３は、異常検出装置１に対する指示を入力可能とする。入力部３は、例えば、タッチパネル、ボタン、レバー等で構成されてよい。入力部３は、有線または無線によって異常検出装置１に接続される。

センサ部４は、車載カメラ２１〜２４が搭載される車両７に関する情報を検出する複数のセンサを有する。本実施形態では、センサ部４は、車速センサ４１と舵角センサ４２とを含む。車速センサ４１は、車両７の速度を検出する。舵角センサ４２は、車両７のステアリングホイール（ハンドル）の回転角を検出する。車速センサ４１および舵角センサ４２は、通信バス５０を介して異常検出装置１と繋がる。すなわち、車速センサ４１で取得された車両７の速度情報は、通信バス５０を介して異常検出装置１に入力される。舵角センサ４２で取得された車両７のステアリングホイールの回転角情報は、通信バス５０を介して異常検出装置１に入力される。なお、通信バス５０は、例えばＣＡＮ（Controller Area Network）バスであってよい。

＜２．異常検出装置＞
＜２−１．異常検出装置の概要＞
図１に示すように、異常検出装置１は、画像取得部１１と、制御部１２と、記憶部１３とを備える。

画像取得部１１は、４つの車載カメラ２１〜２４のそれぞれから、撮影画像を取得する。画像取得部１１は、アナログの撮影画像をデジタルの撮影画像に変換するＡ／Ｄ変換機能などの基本的な画像処理機能を有する。画像取得部１１は、取得した撮影画像に所定の画像処理を行い、処理後の撮影画像を制御部１２に入力する。

制御部１２は、例えばマイクロコンピュータであり、異常検出装置１の全体を統括的に制御する。制御部１２は、ＣＰＵ、ＲＡＭおよびＲＯＭ等を備える。記憶部１３は、例えば、フラッシュメモリ等の不揮発性のメモリであり、各種の情報を記憶する。記憶部１３は、ファームウェアとしてのプログラムや各種のデータを記憶する。

詳細には、制御部１２は、特徴点抽出部１２０と、フロー導出部１２１と、移動情報推定部１２２と、移動情報取得部１２３と、異常判定部１２４とを備える。すなわち、異常検出装置１は、特徴点抽出部１２０と、フロー導出部１２１と、移動情報推定部１２２と、移動情報取得部１２３と、異常判定部１２４とを備える。制御部１２が備えるこれら各部１２０〜１２４の機能は、例えば記憶部１３に記憶されるプログラムに従ってＣＰＵが演算処理を行うことによって実現される。

なお、制御部１２の特徴点抽出部１２０、フロー導出部１２１、移動情報推定部１２２、移動情報取得部１２３、および、異常判定部１２４の少なくともいずれか１つは、ＡＳＩＣ（Application Specific Integrated Circuit）やＦＰＧＡ（Field Programmable Gate Array）等のハードウェアで構成されてもよい。また、特徴点抽出部１２０、フロー導出部１２１、移動情報推定部１２２、移動情報取得部１２３、および、異常判定部１２４は、概念的な構成要素である。１つの構成要素が実行する機能を複数の構成要素に分散させたり、複数の構成要素が有する機能を１つの構成要素に統合したりしてよい。また、画像取得部１１は、制御部１２のＣＰＵがプログラムに従って演算処理を行うことによって実現される構成でもよい。

特徴点抽出部１２０は、カメラの画像の所定領域から特徴点を抽出する。本実施形態では、車両７は４つの車載カメラ２１〜２４を有する。このために、特徴点抽出部１２０は、各車載カメラ２１〜２４からの画像に対して特徴点の抽出処理を行う。特徴点は、カメラによって撮影された画像中のエッジの交点など、撮影画像において際立って検出できる点である。特徴点は、例えば路面に描かれた白線のエッジ、路面上のひび、路面上のしみ、路面上の砂利等である。特徴点は、通常、１つの撮影画像の中に多数存在する。特徴点抽出部１２０は、例えば、ハリスオペレータ等の公知の手法を用いて特徴点を抽出する。

フロー導出部１２１は、特徴点抽出部１２０で抽出された特徴点ごとにオプティカルフローを導出する。オプティカルフローは、所定の時間間隔をあけて撮影された２つの画像間における特徴点の動きを示す動きベクトルである。本実施形態では、フロー導出部１２１によって導出されるオプティカルフローには、第１オプティカルフローと第２オプティカルフローとが含まれる。第１オプティカルフローは、カメラ２１〜２４の画像（画像そのもの）から取得されるオプティカルフローである。第２オプティカルフローは、第１オプティカルフローを座標変換して取得されるオプティカルフローである。本明細書では、同一の特徴点から導出される第１オプティカルフローＯＦ１と第２オプティカルフローＯＦ２とについて、特に区別する必要がない場合に、単にオプティカルフローと記載することがある。

なお、本実施形態では、車両７は４つの車載カメラ２１〜２４を有する。このために、フロー導出部１２１は、各車載カメラ２１〜２４について、オプティカルフローを特徴点ごとに導出する。また、フロー導出部１２１は、カメラ２１〜２４の画像から抽出された各特徴点を座標変換して上述の第２オプティカルフローに相当するオプティカルフローをいきなり導出する構成であってもよい。この場合、フロー導出部１２１は上述の第１オプティカルフローの導出は行わず、一種類のオプティカルフローのみを導出することになる。

移動情報推定部１２２は、特徴点に基づき車両７の第１移動情報を推定する。詳細には、移動情報推定部１２２は、特徴点のオプティカルフローに基づき車両７の第１移動情報を推定する。本実施形態では、移動情報推定部１２２は、複数の第２オプティカルフローを統計処理して、第１移動情報を推定する。なお、本実施形態では、車両７が４つの車載カメラ２１〜２４を有するために、移動情報推定部１２２は、車載カメラ２１〜２４ごとに、車両７の第１移動情報を推定する。移動情報推定部１２２が行う統計処理は、ヒストグラムを用いた処理である。ヒストグラムを用いた第１移動情報の推定処理の詳細については後述する。

なお、第１移動情報は、本実施形態では車両７の移動距離である。ただし、第１移動情報は移動距離以外であってよい。第１移動情報は、例えば車両７の速度（車速）等であってよい。

移動情報取得部１２３は、第１移動情報の比較対象となる車両７の第２移動情報を取得する。本実施形態では、移動情報取得部１２３は、車両７に設けられるカメラ２１〜２４以外のセンサから得られる情報に基づいて第２移動情報を取得する。詳細には、移動情報取得部１２３は、センサ部４から得られる情報に基づいて第２移動情報を取得する。本実施形態では、第１移動情報が移動距離であるために、第１移動情報の比較対象となる第２移動情報も移動距離である。移動情報取得部１２３は、車速センサ４１から得られる車速に所定の時間を乗じて移動距離を得る。本実施形態によれば、車両７が通常備えるセンサを用いてカメラずれを検出することができるために、カメラずれを検出するために必要となる設備コストを抑制することができる。

なお、第１移動情報が移動距離の代わりに車速である場合には、第２移動情報も車速とすればよい。また、移動情報取得部１２３は、車速センサ４１の代わりにＧＰＳ（Global Positioning System）受信機から取得される情報に基づいて第２移動情報を取得してもよい。また、移動情報取得部１２３は、カメラずれの検出対象となる車載カメラ以外の少なくとも１つの車載カメラから得られる情報に基づいて第２移動情報を取得する構成としてもよい。この場合、移動情報取得部１２３は、カメラずれの検出対象となる車載カメラ以外の車載カメラから得られるオプティカルフローに基づいて第２移動情報を取得してよい。

異常判定部１２４は、第１移動情報と第２移動情報とに基づいてカメラ２１〜２４の異常を判定する。本実施形態では、異常判定部１２４は、第２移動情報として得られた移動距離を正解値として、当該正解値に対して第１移動情報として得られた移動距離のずれの大きさを判定する。当該ずれの大きさが所定の閾値を超える場合に、異常判定部１２４はカメラずれを検出する。なお、本実施形態では、車両７が４つの車載カメラ２１〜２４を有するために、異常判定部１２４は、車載カメラ２１〜２４ごとに異常の判定を行う。

図３は、異常検出装置１によるカメラずれの検出フローの一例を示すフローチャートである。なお、本実施形態では、４つの車載カメラ２１〜２４のそれぞれについて、図３に示すカメラずれの検出フローが実施される。重複説明を避けるために、ここでは、フロントカメラ２１の場合を代表例として、カメラずれの検出フローを説明する。

図３に示すように、まず、制御部１２は、フロントカメラ２１を搭載する車両７が直進しているか否かを監視する（ステップＳ１）。車両７が直進しているか否かは、例えば、舵角センサ４２から得られるステアリングホイールの回転角情報に基づいて判断することができる。例えば、ステアリングホイールの回転角がゼロの時に車両７が完全にまっすぐに進むとした場合に、回転角がゼロの場合だけなく、回転角がプラス方向とマイナス方向の一定範囲内の回転である場合を含めて、車両７が直進していると判断してよい。なお、直進には、前進方向の直進と、後退方向の直進との両方が含まれる。

制御部１２は、車両７の直進を検出するまで、ステップＳ１の監視を繰り返す。車両７が直進走行しない限り、カメラずれを判定するための情報が取得されない。これによれば、車両７の進行方向が曲がっている場合の情報を用いてカメラずれの判定が行われないために、カメラずれを判定するための情報処理が複雑になることを避けられる。

車両７が直進していると判断される場合（ステップＳ１でＹｅｓ）、制御部１２は、車両７の速度が所定速度範囲内であるか否かを確認する（ステップＳ２）。所定速度範囲は、例えば時速３ｋｍ以上５ｋｍ以下としてよい。本実施形態では、車両７の速度は車速センサ４１によって取得することができる。なお、ステップＳ１とステップＳ２とは、順番が入れ替わってもよい。また、ステップＳ１とステップＳ２とは同時に処理が行われてもよい。

制御部１２は、車両７の速度が所定速度範囲外である場合（ステップＳ２でＮｏ）、ステップＳ１に戻って車両７の直進判断を行う。すなわち、本実施形態では、車両７の速度が所定速度範囲内でない限り、カメラずれを判定するための情報が取得されない。例えば、車両７の速度が速すぎると、オプティカルフローの導出に際して誤差が生じやすくなる。一方で、車両７の速度が遅すぎると、車速センサ４１から取得される車両７の速度の信頼性が低下する。この点、本実施形態の構成によれば、車両７の速度が速すぎる場合や遅すぎる場合を除いてカメラずれの判定を行うことができるために、カメラずれの判定の信頼性を向上することができる。

なお、所定速度範囲は設定変更可能であることが好ましい。これによれば、所定速度範囲を各車両に適した値にすることができ、カメラずれの判定の信頼性を向上することができる。本実施形態では、所定速度範囲の設定は入力部３によって行うことができる。

車両７が所定速度範囲内で走行していると判断される場合（ステップＳ２でＹｅｓ）、特徴点抽出部１２０によって特徴点の抽出が行われる（ステップＳ３）。特徴点抽出部１２０による特徴点の抽出は、車両７が所定速度範囲内で安定して走行している場合に行われることが好ましい。

図４は、特徴点ＦＰを抽出する手法を説明するための図である。図４は、フロントカメラ２１で撮影される撮影画像Ｐを模式的に示している。特徴点ＦＰは路面ＲＳ上に存在する。図４においては、特徴点ＦＰの数は２つとされているが、この数は便宜的なものであり、実際の数を示すものではない。通常、多数の特徴点が取得される。

図４に示すように、特徴点抽出部１２０は、フロントカメラ２１で撮影された撮影画像Ｐの所定領域ＰＲから特徴点ＦＰを抽出する。所定領域ＰＲは、いわゆるＲＯＩ（Region of Interest）である。本実施形態では、ＲＯＩは、撮影画像Ｐの中心部Ｃを含む広範囲に設定されている。これにより、例えば特徴点ＦＰの発生箇所が均一でなく偏った範囲に偏在する場合でも、特徴点ＦＰを抽出することができる。なお、ＲＯＩは、車両７のボディＢＯが映る領域は避けて設定される。

特徴点ＦＰが抽出されると、フロー導出部１２１は、抽出された特徴点ＦＰごとに第１オプティカルフローを導出する（ステップＳ４）。図５は、第１オプティカルフローＯＦ１を導出する手法を説明するための図である。図５は、図４と同様に便宜的に示された模式図である。図５は、図４に示す撮影画像（前フレームＰ）の撮影後、所定時間が経過した後にフロントカメラ２１で撮影された撮影画像（現フレームＰ´）である。図４に示す撮影画像Ｐの撮影後、所定時間が経過するまでの間に、車両７は後退している。図５に示す破線の丸印は、図４に示す撮影画像Ｐの撮影時点における特徴点ＦＰの位置を示す。

図５に示すように、車両７が後退すると、車両７の前方に存在する特徴点ＦＰは車両７から離れる。すなわち、特徴点ＦＰは、現フレームＰ´と前フレームＰとで異なる位置に現れる。フロー導出部１２１は、現フレームＰ´の特徴点ＦＰと前フレームＰの特徴点ＦＰとを、その近傍の画素値に基づいて対応付け、対応付けた特徴点ＦＰのそれぞれの位置に基づいて第１オプティカルフローＯＦ１を導出する。

第１オプティカルフローＯＦ１が導出されると、フロー導出部１２１は、カメラ座標系で得られた各第１オプティカルフローＯＦ１を座標変換して、ワールド座標系の第２オプティカルフローＯＦ２を導出する（ステップＳ５）。図６は、座標変換処理を説明するための図である。図６に示すように、フロー導出部１２１は、フロントカメラ２１の位置（視点ＶＰ１）から見た第１オプティカルフローＯＦ１を、車両７が存在する路面の上方の視点ＶＰ２から見た第２オプティカルフローＯＦ２に変換する。フロー導出部１２１は、撮影画像Ｐにおける各第１オプティカルフローＯＦ１を、路面に相当する仮想平面ＲＳ_Ｖに投影することで、ワールド座標系の第２オプティカルフローＯＦ２に変換する。第２オプティカルフローＯＦ２は、車両７の路面ＲＳ上の動きベクトルであり、その大きさは車両７の路面上の移動量を示す。

次に、移動情報推定部１２２は、フロー導出部１２１で導出された複数の第２オプティカルフローＯＦ２に基づいてヒストグラムを生成する（ステップＳ６）。本実施形態では、移動情報推定部１２２は、各第２オプティカルフローＯＦ２を前後方向と左右方向との２成分に分けて、第１ヒストグラムと第２ヒストグラムとを生成する。図７は、移動情報推定部１２２によって生成された第１ヒストグラムＨＧ１の一例を示す図である。図８は、移動情報推定部１２２によって生成された第２ヒストグラムＨＧ２の一例を示す図である。なお、図７および図８はカメラずれが発生していない場合に得られたヒストグラムを示す。

図７に示す第１ヒストグラムＨＧ１は、各第２オプティカルフローＯＦ２の前後方向成分に基づいて得られたヒストグラムである。第１ヒストグラムＨＧ１は、第２オプティカルフローＯＦ２の数を度数とし、前後方向への移動距離（第２オプティカルフローＯＦ２の前後方向成分の長さ）を階級とするヒストグラムである。図８に示す第２ヒストグラムＨＧ２は、第２オプティカルフローＯＦ２の左右方向成分に基づいて得られたヒストグラムである。第２ヒストグラムＨＧ２は、第２オプティカルフローＯＦ２の数を度数とし、左右方向への移動距離（第２オプティカルフローＯＦ２の左右方向成分の長さ）を階級とするヒストグラムである。

図７および図８は、カメラずれが発生しておらず、車両７が所定速度範囲で後方に直進した場合に得られたヒストグラムである。このために、第１ヒストグラムＨＧ１は、後方側の特定の移動距離（階級）に偏って度数が多くなる正規分布形状になっている。一方、第２ヒストグラムＨＧ２は、移動距離ゼロの近傍の階級に偏って度数が多くなる正規分布形状になっている。

図９は、カメラずれが発生した場合のヒストグラムの変化を例示する図である。図９は、フロントカメラ２１がチルト方向（鉛直方向）に回転してずれた場合を例示する。図９において、上段（ａ）はカメラずれが発生していない場合（正常時）の第１ヒストグラムＨＧ１であり、下段（ｂ）はカメラずれが発生した場合の第１ヒストグラムＨＧ１である。フロントカメラ２１のチルト方向の回転ずれは、主に第２オプティカルフローＯＦ２の前後方向成分に影響を与える。図９に示す例では、フロントカメラ２１のチルト方向の回転ずれによって、度数が大きくなる階級が正常時に比べて前方側にずれている。

なお、フロントカメラ２１のチルト方向の回転ずれは、第２オプティカルフローＯＦ２の左右方向成分に対する影響は小さい。このために、図示は省略するが、第２ヒストグラムＨＧ２のカメラずれ前後の変化は、第１ヒストグラムＨＧ１の場合に比べて小さい。ただし、これは、フロントカメラ２１がチルト方向にずれた場合の話であり、フロントカメラ２１が、例えばパン方向（水平方向）やロール方向（光軸を中心とする回転方向）等にずれを生じた場合には、異なったヒストグラム変化が発生する。

移動情報推定部１２２は、生成したヒストグラムＨＧ１、ＨＧ２によって車両７の第１移動情報を推定する（ステップＳ７）。本実施形態では、移動情報推定部１２２は、第１ヒストグラムＨＧ１によって、車両７の前後方向の移動距離を推定する。移動情報推定部１２２は、第２ヒストグラムＨＧ２によって、車両７の左右方向の移動距離を推定する。すなわち、移動情報推定部１２２は、第１移動情報として、車両７の前後方向および左右方向の移動距離を推定する。これによれば、車両７の前後方向および左右方向の移動距離の推定値を用いてカメラずれの検出を行うことができるために、カメラずれの検出結果の信頼性を向上することができる。

本実施形態では、移動情報推定部１２２は、第１ヒストグラムＨＧ１の中央値（メジアン）を前後方向の移動距離の推定値とする。移動情報推定部１２２は、第２ヒストグラムＨＧ２の中央値を左右方向の移動距離の推定値とする。ただし、移動情報推定部１２２による推定値の決定方法は、これに限定されない。移動情報推定部１２２は、例えば、各ヒストグラムＨＧ１、ＨＧ２の度数が最大となる階級の移動距離を推定値としてもよい。また、移動情報推定部１２２は、例えば、各ヒストグラムＨＧ１、ＨＧ２において、移動距離の平均値を推定値としてもよい。

なお、図９に示す例では、一点鎖線はフロントカメラ２１が正常である場合の前後方向の移動距離の推定値を示し、二点鎖線はカメラずれが発生した場合の前後方向の移動距離の推定値を示す。図９に示すように、カメラずれの発生によって、前後方向の移動距離の推定値に差Δが生じていることがわかる。

移動情報推定部１２２で車両７の第１移動情報の推定値が得られると、異常判定部１２４は、当該推定値と、移動情報取得部１２３で取得された第２移動情報とを比較してフロントカメラ２１のずれ判定を行う（ステップＳ８）。

なお、移動情報取得部１２３は、第２移動情報として、車両７の前後方向および左右方向の移動距離を取得する。本実施形態では、移動情報取得部１２３は、センサ部４から取得される情報に基づいて車両７の前後方向および左右方向の移動距離を取得する。移動情報取得部１２３が第２移動情報を取得するタイミングは特に限定されるものではないが、移動情報取得部１２３は、例えば、移動情報推定部１２２による第１移動情報の推定処理と並行して第２移動情報を取得する処理を行ってよい。

本実施形態では、車両７が前後方向に直進している場合に得られる情報に基づいて、ずれの判定が行われる。このために、移動情報取得部１２３が取得する左右方向の移動距離はゼロになる。移動情報取得部１２３は、オプティカルフローを導出するための２つの撮影画像の撮影時間間隔と、当該時間間隔における車速センサ４１によって得られる車両７の速度とによって、前後方向の移動距離を算出する。

図１０は、異常判定部１２４によって行われるカメラずれ判定処理の一例を示すフローチャートである。まず、異常判定部１２４は、車両７の前後方向の移動距離について、移動情報推定部１２２で求めた推定値と、移動情報取得部１２３で取得した取得値との差の大きさが、閾値αより小さいか否かを確認する（ステップＳ１１）。両者の差の大きさが閾値α以上である場合（ステップＳ１１でＮｏ）、異常判定部１２４は、フロントカメラ２１の取付け状態が異常であり、カメラずれが生じていると判定する（ステップＳ１５）。一方、両者の差の大きさが閾値αより小さい場合（ステップＳ１１でＹｅｓ）、異常判定部１２４は、車両７の前後方向の移動距離からは異常が検出されないと判定する。

車両７の前後方向の移動距離から異常が検出されない場合（ステップＳ１１でＹｅｓ）、異常判定部１２４は、車両７の左右方向の移動距離について、移動情報推定部１２２で求めた推定値と、移動情報取得部１２３で取得した取得値との差の大きさが、閾値βより小さいか否かを確認する（ステップＳ１２）。両者の差の大きさが閾値β以上である場合（ステップＳ１２でＮｏ）、異常判定部１２４は、フロントカメラ２１の取付け状態が異常であり、カメラずれが生じていると判定する（ステップＳ１５）。一方、両者の差の大きさが閾値βより小さい場合（ステップＳ１２でＹｅｓ）、異常判定部１２４は、左右方向の移動距離からは異常が検出されないと判定する。

車両７の左右方向の移動距離からも異常が検出されない場合、異常判定部１２４は、車両７の前後方向および左右方向の移動距離に基づいて得られる特定値について、第１移動情報から得られる値と、第２移動情報から得られる値との差の大きさが、閾値γより小さいか否かを確認する（ステップＳ１３）。本実施形態では、特定値は、車両７の前後方向の移動距離を二乗して得られる値と、左右方向の移動距離を二乗して得られる値との和の平方根値である。ただし、これは例示にすぎず、特定値は、例えば、車両７の前後方向の移動距離を二乗して得られる値と、左右方向の移動距離を二乗して得られる値との和であってもよい。

第１移動情報から得られる特定値と、第２移動情報から得られる特定値との差の大きさが閾値γ以上である場合（ステップＳ１３でＮｏ）、異常判定部１２４は、フロントカメラ２１の取付け状態が異常であり、カメラずれが生じていると判定する（ステップＳ１５）。一方、両者の差の大きさが閾値γより小さい場合（ステップＳ１３でＹｅｓ）、異常判定部１２４は、フロントカメラ２１の取付け状態は正常であると判定する（ステップＳ１４）。

本実施形態では、車両７の前後方向の移動距離、左右方向の移動距離、および、特定値のうち、いずれか１つでも、異常が認められると、カメラずれが発生していると判定する。これによれば、カメラずれが発生しているにもかかわらず、カメラずれが発生していないと判定する可能性を低減できる。ただし、これは例示である。例えば、車両７の前後方向の移動距離、左右方向の移動距離、および、特定値の全てにおいて異常が認められる場合に限って、カメラずれが発生していると判定する構成としてもよい。カメラずれの判定基準は、入力部３によって適宜変更することができることが好ましい。

本実施形態では、車両７の前後方向の移動距離、左右方向の移動距離、および、特定値について、順番に比較を行う構成としたが、これらの比較は同じタイミングで行われてもよい。また、前後方向の移動距離、左右方向の移動距離、および、特定値について、順番に比較を行う構成の場合、その順番は特に限定されず、図１０に示す順番とは異なる順番で比較が行われてもよい。また、本実施形態では、車両７の前後方向の移動距離、左右方向の移動距離、および、特定値を用いてずれ判定を行う構成としたが、これは例示にすぎない。例えば、車両７の前後方向の移動距離、左右方向の移動距離、および、特定値のうちのいずれか１つ、或いは、いずれか２つを用いてずれ判定を行う構成としてもよい。

本実施形態では、移動情報推定部１２２によって第１移動情報が得られるたびに、ずれ判定を行う構成としているが、これも例示にすぎない。移動情報推定部１２２による第１移動情報の推定処理が複数回行われた後にカメラずれの判定処理が行われる構成としてもよい。例えば、異常判定部１２４は、移動情報推定部１２２による第１移動情報の推定処理が所定回数行われた時点で、所定回数の第１移動情報（移動距離）を累積して得られた累積値を用いてずれ判定を行う構成としてよい。この際、第１移動情報の累積値と比較されるのは、各第１移動情報の比較対象となる第２移動情報の累積値である。

本実施形態では、異常判定部１２４によって、カメラずれが生じていると一度判定されただけで、カメラずれが発生しているとの判定を確定し、カメラずれを検出する構成としている。これに限らず、異常判定部１２４によってカメラずれが生じていると判定された場合に、少なくとも１回、再判定を行い、再判定によって更にカメラずれが生じていると判定された場合に、カメラずれが発生しているとの判定を確定してもよい。

なお、カメラずれが検出された場合、異常検出装置１は、そのことを運転者等に報知するための処理を行うことが好ましい。また、異常検出装置１は、車載カメラ２１〜２４からの情報を用いて運転支援を行う運転支援装置に、カメラずれが発生していることを通知する処理を行うことが好ましい。本実施形態では、４つの車載カメラ２１〜２４が存在するが、４つの車載カメラ２１〜２４のうちの１つでもカメラずれが発生した場合には、上記報知処理及び通知処理を行うことが好ましい。

＜２−２．異常検出装置における例外的な処理＞
異常検出装置１は、通常、以上に説明した図３に示すフローチャートにしたがってカメラずれの検出処理を行う。ただし、本実施形態では、異常検出装置１は、特定の場合に通常処理を行わず、例外的な処理を行う。以下、この例外的な処理について説明する。なお、各車載カメラ２１〜２４のカメラずれの検出処理において、例外的な処理が行われることがある。ただし、その処理はいずれの車載カメラ２１〜２４の場合も同様であるために、ここでも重複説明を避けるべく、フロントカメラ２１の場合を例にとり説明する。

図１１は、例外的な処理を行うか否かを判定する手順を示すフローチャートである。図１１に示すように、本実施形態においては、異常検出装置１は、移動情報推定部１２２によって第１移動情報を推定する処理の一環として例外的な処理を行うか否かの判定を行う。

移動情報推定部１２２は、第１移動情報を確定する前に、特定状態が発生しているか否かを確認する（ステップＳ２１）。特定状態は、第１移動情報の推定精度を悪化させる状態である。特定状態には、所定領域ＰＲ（ＲＯＩ）から抽出された特徴点ＦＰの数が所定数より少ない状態と、特徴点ＦＰのオプティカルフローのばらつき度合を示す指標が所定のばらつき閾値を超える状態との少なくとも一方が含まれることが好ましい。これらの状態が発生している場合には、第１移動情報の推定精度が悪い可能性が高く、これらの状態が発生している際に例外的な処理を行うことによってカメラずれの検出処理の信頼性を向上することができる。

特徴点ＦＰの数が十分得られない場合、第１移動情報の推定に用いられるオプティカルフローの数も十分でなくなる。推定に用いられるオプティカルフローの数が少ないと、その中に存在する誤ったオプティカルフローが推定値に対して与える影響が大きくなる。このために、推定に用いられるオプティカルフローの数が少ないと、推定精度が悪化（低下）する。そこで、本実施形態では、所定領域ＰＲから抽出された特徴点ＦＰの数が所定数より少ない状態を、「特定状態」に含む構成としている。所定数は、例えば実験やシミュレーションによって適宜決定されてよい。特徴点の数が十分得られない場合として、例えば、路面ＲＳがアスファルトに比べて平滑であるコンクリートで構成される場合等が挙げられる。なお、特徴点ＦＰの数が所定数より少ないか否かは、特徴点抽出部１２０によって特徴点ＦＰの抽出が行われた時点で判断されてもよい。

オプティカルフローのばらつき度合が大きい場合、誤ったオプティカルフローが多く含まれた状態で第１移動情報の推定を行うことになるために、第１移動情報の推定精度が悪くなる。このために、本実施形態では、オプティカルフローのばらつき度合を示す指標が所定のばらつき閾値を超える状態を、「特定状態」に含む構成としている。

オプティカルフローのばらつき度合は、例えば、複数のオプティカルフローを用いて生成されるヒストグラムＨＧ１、ＨＧ２を用いて判断することができる。なお、本実施形態では、上述のようにフロー導出部１２１で導出された複数の第２オプティカルフローＯＦ２を用いてヒストグラムＨＧ１、ＨＧ２が生成される。すなわち、本実施形態では、オプティカルフローのばらつき度合は、第２オプティカルフローＯＦ２を用いて判断する。ただし、これは例示であり、オプティカルフローのばらつき度合は第１オプティカルフローＯＦ１を用いて判断されてもよい。

図１２は、オプティカルフローのばらつき度合について説明するための図である。図１２は、一例として第１ヒストグラムＨＧ１を示す。オプティカルフローのばらつき度合が大きくなると、例えば、ヒストグラムＨＧ１における移動距離の分布幅Ｗが大きくなる。このために、例えば、分布幅Ｗをオプティカルフローのばらつき度合を示す指標とすることができる。この場合、所定のばらつき閾値は所定の分布幅にできる。所定の分布幅は、例えば実験やシミュレーションによって適宜決定することができる。

ただし、オプティカルフローのばらつき度合を示す指標は、分布幅Ｗ以外の様々な指標であってよい。例えば、所定の度数を超える移動距離階級間の幅が、オプティカルフローのばらつき度合を示す指標に用いられてよい。オプティカルフローのばらつき度合を示す指標として、オプティカルフローから生成されるヒストグラムが正規分布からずれた状態を示す指標が広く利用されてよい。

なお、特定状態には、上述の２つの状態の少なくとも一方に加えて、或いは、上述の２つの状態に替えて、例えば、複数のオプティカルフローを用いて生成されたヒストグラムの歪度や尖度に基づいて定められる状態が含まれてよい。歪度は、分布の非対称性を示す指標であり、歪度の絶対値が所定の閾値を超える状態を特定状態としてよい。尖度は、正規分布と比べた分布の鋭さを示す指標であり、尖度の絶対値が所定の閾値を超える状態を特定状態としてよい。

図１１に戻って、特定状態が発生していない場合（ステップＳ２１でＮｏ）、第１移動情報の推定精度を悪化させる状態が生じていないと判断されるために、移動情報推定部１２２は通常処理を実施すると判断する（ステップＳ２２）。すなわち、移動情報推定部１２２は、第２オプティカルフローＯＦ２に基づいて生成されるヒストグラムＨＧ１、ＨＧ２に基づいて第１移動情報の推定を行う。異常判定部１２４は、移動情報推定部１２２で推定された第１移動情報と、移動情報取得部で取得した第２移動情報とに基づいて、ずれ判定を行う。

一方、特定状態が発生している場合（ステップＳ２１でＹｅｓ）、第１移動情報の推定精度を悪化させる状態が生じていると判断されるために、移動情報推定部１２２は、通常処置でなく、例外的な処理を実施すると判断する（ステップＳ２３）。これにより、推定精度の悪い第１移動情報に基づいてずれ判定が行われることを抑制できる。

図１３は、例外的な処理の手順を示すフローチャートである。移動情報推定部１２２によって例外的な処理を実施すると判断されると、制御部１２は、特定条件を満たす特徴点ＦＰが存在するか否かを確認する（ステップＳ３１）。当該確認は、移動情報推定部１２２で行われてもよいが、これに限らず、例えば、特徴点抽出部１２０や異常判定部１２４によって行われてもよい。また、特定条件を確認する特定条件確認部が設けられてもよい。なお、特定条件は、例えば、追跡が行い易い特徴点がカメラ２１によって撮影された画像から抽出できる場合に満たされる。

本実施形態では、特定条件には、特徴点ＦＰが他に比べて集中して存在する高密度領域を形成する複数の特徴点が存在するという条件（第１特定条件）が含まれる。高密度領域であるか否かは、例えば、実験やシミュレーション等によって決まる所定の密度閾値を基準に判断することができる。制御部１２は、特徴点ＦＰの密度が所定の密度閾値より高い高密度領域が存在する場合に、特定条件を満たす特徴点ＦＰが存在すると判断する。

図１４は、カメラ２１によって撮影された撮影画像Ｐの一例を示す図である。図１４に示す撮影画像Ｐにおいては、汚れＳＴが路面ＲＳ上に存在する。図１４に示す例では、路面ＲＳはコンクリートで構成される。図１５は、図１４に示す撮影画像Ｐに基づいて生成された第１ヒストグラムＨＧ１である。

路面ＲＳがコンクリートで構成される場合、特徴点ＦＰが抽出され難いため特徴点ＦＰの数が少なく、特徴点ＦＰの追跡が容易ではない。このために、オプティカルフローの数自体が少なくなり、ばらつきも大きくなり易い。図１５に示すように、コンクリートで構成される路面ＲＳ上に汚れＳＴが存在すると、オプティカルフローの数はアスファルト路面に比べて少なく、ばらつき度合の大きさも残るものの、ヒストグラムＨＧ１にピークが現れる。これは、汚れＳＴ部分から特徴度が高く追跡を行い易い特徴点ＦＰが多く抽出されるためと考えられる。なお、ここでは、路面ＲＳに汚れＳＴが存在する場合を一例として示した。ただし、例えば路面ＲＳに設けられる模様等、特徴点ＦＰが集中して抽出されるものが路面ＲＳに存在すれば、汚れＳＴの場合と同様の結果が得られる。

したがって、特徴点ＦＰが他に比べて集中して存在する高密度領域が存在する場合、当該高密度領域を形成する複数の特徴点ＦＰを利用すれば、ある程度信頼性の高い移動情報の推定が行えると予想できる。このために、本実施形態では、特徴点ＦＰが他に比べて集中して存在する高密度領域を形成する複数の特徴点ＦＰが存在する場合に、特定条件を満たすと判断して、特別の処理の下、第１移動情報の推定を行う構成としている。

詳細には、特定条件を満たす特徴点ＦＰが存在する場合に、所定領域ＰＲに替えて特定抽出領域が設定され、特定抽出領域から抽出される特徴点ＦＰに基づいて第１移動情報の推定が行われる。これにより、精度を低下させる要因を低減して第１移動情報の推定を行うことができ、推定値として得られる第１移動情報の信頼性を向上することができる。

図１３に戻って、特定条件を満たす特徴点ＦＰが存在すると判断された場合（ステップＳ３１でＹｅｓ）、特徴点抽出部１２０は、所定領域ＰＲに替えて特定抽出領域を設定する（ステップＳ３２）。なお、特徴点抽出領域が設定される画像は既に取得されている画像であり、新たに入手される画像ではない。図１６は、特定抽出領域ＳＲについて説明するための図である。図１６は、図１４に示す撮影画像Ｐにおいて、所定領域ＰＲに替えて特定抽出領域ＳＲを設定した図である。

特定抽出領域ＳＲは、特徴点ＦＰが他に比べて集中して存在する高密度領域に設定される。高密度領域に特定抽出領域ＳＲが設定されることによって、追跡を行い易い特徴点ＦＰを複数抽出することができるために、信頼性の高い第１移動情報を取得することができる。図１６において、汚れＳＴ部分は高密度領域であり、特定抽出領域ＳＲは汚れＳＴ部分に内側に設定されている。これにより、特定抽出領域ＳＲは高密度領域に設定される。ただし、特定抽出領域ＳＲは、特徴点ＦＰが集中する高密度領域に設定されればよいために、例えば、汚れＳＴ部分そのものであってもよい。また、例えば、特定抽出領域ＳＲは汚れＳＴ部分を囲う領域であってもよい。

特定抽出領域ＳＲが設定されると、その部分から特徴点ＦＰが抽出される。特徴点ＦＰが抽出されると、図１３に示すように、上述の通常処理（図３参照）と同様の処理が行われる。すなわち、特定抽出領域ＳＲから抽出される各特徴点ＦＰに対して、第１オプティカルフローＯＦ１および第２オプティカルフローＯＦ２の導出が行われる（ステップＳ３３、ステップＳ３４）。なお、各オプティカルフローＯＦ１、ＯＦ２の導出は、再度行われてもよいが、所定領域ＰＲを用いて先に求めた結果が利用されてもよい。

導出された第２オプティカルフローＯＦ２に基づいて第１ヒストグラムＨＧ１および第２ヒストグラムＨＧ２の生成が行われる（ステップＳ３５）。第１ヒストグラムＨＧ１に基づいて前後方向の移動距離の推定値が求められ、第２ヒストグラムＨＧ２に基づいて左右方向の移動距離の推定値が求められる（ステップＳ３６）。これら推定値として得られる第１移動情報と、車速センサ４１から得られる情報に基づいて取得される第２移動情報とが比較されてカメラずれの判定が行われる（ステップＳ３７）。

本実施形態では、第１移動情報の推定精度を悪化させる特定状態が生じていると判断される場合に、特定抽出領域ＳＲの設定が行われる。詳細には、特定状態が生じた場合において、特定条件を満たす特徴点ＦＰが存在することを条件として、通常処理の場合に使用される所定領域ＰＲに替えて特定抽出領域ＳＲの設定が行われる。特定抽出領域ＳＲからは追跡が行い易い特徴点ＦＰを抽出することができる。このために、特定状態が生じているにもかかわらず、第１移動情報の推定精度を向上することができ、信頼性の高いカメラずれの判定を迅速に行うことができる。

ところで、特定状態が生じていると判断され、特定条件を満たす特徴点ＦＰが存在しない場合（ステップＳ３１でＮｏ）には、異常判定部１２４は、特定状態が生じていると判断されたカメラの画像に基づく異常の判定を行わないと判断する（ステップＳ３８）。これにより、推定精度の悪い第１移動情報を利用してカメラの異常判定が行われることを避けることができる。すなわち、誤ってカメラずれが検出されることを抑制することができる。

＜３．変形例＞
上述した特定条件には、特徴点抽出部１２０で抽出された特徴点ＦＰの中に、コーナーらしさを示すコーナー度が所定のコーナー度閾値以上となる特定の特徴点が存在するという条件（第２特定条件）が含まれてよい。なお、特定条件には、第１特定条件（高密度領域に関する条件）と第２特定条件との両方が含まれてよい。特定条件は、第１特定条件のみであってもよい。特定条件は、第２特定条件のみであってもよい。特定条件には、第１特定条件と第２特定条件とのうち少なくとも一方が含まれることが好ましい。

図１７は、コーナー度について説明するための図である。図１７は、車載カメラ２１〜２４によって撮影された撮影画像Ｐの一例である。図１７に示す例では、路面ＲＳ上に、路面表示の白線ＷＬが配置されている。白線ＷＬは、一例として矢印である。図１７において小丸印で示す部分は、２つのエッジが交わるコーナーである。このようなコーナーは、コーナーらしさを示すコーナー度が高くなる。コーナー度は、例えばＨａｒｒｉｓオペレータやＫＬＴ（Kanade-Lucas-Tomasi）トラッカー等の公知の検出手法を用いて求めることができる。

本変形例では、コーナー度は、特徴点ＦＰを抽出する指標としても用いられる。すなわち、コーナー度が第１閾値以上となる点（ピクセル）は特徴点として抽出される。そして、コーナー度が第１閾値より大きい第２閾値（所定のコーナー度閾値）以上となる特徴点が特定の特徴点として検出される。第１閾値および第２閾値は、例えば実験やシミュレーションによって適宜決められる。図１７に示す例では、上述の小丸印を付したコーナーが特定の特徴点として検出される。白線ＷＬの内部や、コーナーを除く白線ＷＬのエッジ部分は特定の特徴点として検出されない。特定の特徴点は、特徴度（コーナー度）が非常に高いために追跡を行い易い。すなわち、特定の特徴点からは、オプティカルフローを精度良く得ることができる。なお、特定の特徴点は、例えば、白線以外の路面表示や、路面上に設けられる構造物（例えば消火栓の蓋等）から検出されてもよい。

本変形例では、特定状態が生じていると判断される場合に、コーナー度が第２閾値以上となる特定の特徴点が抽出されると、所定領域ＰＲに替えて特定抽出領域ＳＲが設定される。そして、特定抽出領域ＳＲから抽出される特徴点ＦＰに基づいて第１移動情報の推定が行われる。本変形例では、特定抽出領域ＳＲは、特定の特徴点の抽出位置とされる。このために、特定抽出領域ＳＲからは、特定の特徴点そのものが抽出される。本変形例によれば、追跡を行い易い特徴点ＦＰを用いて第１移動情報の推定を行うことができるために、信頼性の高い第１移動情報を取得することができる。

なお、特定抽出領域ＳＲは、特定の特徴点の数と同じである。特定抽出領域ＳＲの数は、１つでも良いが複数であってもよい。図１７に示す例では、特定抽出領域ＳＲの数は５つになる。特定抽出領域ＳＲの数が多い方が、第１移動情報の推定精度が上がる。このために、特定の特徴点が所定の複数個以上存在する場合に特定条件が満たされる構成としてもよい。

また、特定条件に、第１特定条件（高密度領域有り）と第２特定条件（コーナー度の高い特定の特徴点有り）との両方が含まれる場合、どちらの特定条件も満たされる場合がある。このような場合には、特定抽出領域ＳＲは、高密度領域と、特定の特徴点の抽出位置とのいずれか一方に設定される構成としてもよいが、両方に設定される構成としてもよい。なお、特定条件に、第１特定条件と第２特定条件との両方が含まれる場合において、第１特定条件のみが満たされる場合には、特定抽出領域ＳＲは高密度領域に設定され、第２特定条件のみが満たされる場合には、特定抽出領域ＳＲは特定の特徴点の抽出位置に設定される。

＜４．留意事項＞
本明細書における実施形態や変形例の構成は、本発明の例示にすぎない。実施形態や変形例の構成は、本発明の技術的思想を超えない範囲で適宜変更されてもよい。また、複数の実施形態及び変形例は、可能な範囲で組み合わせて実施されてよい。

以上においては、車載カメラ２１〜２４の異常判定に用いるデータは、車両７が直進走行している場合に収集される構成とした。ただし、これは例示であり、車載カメラ２１〜２４の異常判定に用いるデータは、車両７が直進走行していない場合に収集されてもよい。車速センサ４１から得られる速度情報と舵角センサ４２から得られる情報とを用いれば、車両７の前後方向および左右方向の実際の移動距離や速度（第２移動情報）を正確に求めることができるために、車両７が直進走行していない場合でも上述の異常判定を行うことができる。

１・・・異常検出装置
４・・・センサ部
７・・・車両（移動体）
２１・・・フロントカメラ（車載カメラ）
２２・・・バックカメラ（車載カメラ）
２３・・・左サイドカメラ（車載カメラ）
２４・・・右サイドカメラ（車載カメラ）
１２０・・・特徴点抽出部
１２２・・・移動情報推定部
１２３・・・移動情報取得部
１２４・・・異常判定部
ＦＰ・・・特徴点
ＯＦ１・・・第１オプティカルフロー
ＯＦ２・・・第２オプティカルフロー
ＰＲ・・・所定領域
ＳＲ・・・特定抽出領域

Claims (9)

1. 移動体に搭載されたカメラの異常を検出する異常検出装置であって、
   前記カメラの画像の所定領域から特徴点を抽出する特徴点抽出部と、
   前記特徴点に基づき前記移動体の第１移動情報を推定する移動情報推定部と、
   前記第１移動情報の比較対象となる前記移動体の第２移動情報を取得する移動情報取得部と、
   前記第１移動情報と前記第２移動情報とに基づいて前記カメラの異常を判定する異常判定部と、
   を備え、
   特定条件を満たす前記特徴点が存在する場合に、前記所定領域に替えて特定抽出領域が設定され、前記特定抽出領域から抽出される前記特徴点に基づいて前記第１移動情報の推定が行われる、異常検出装置。
2. 前記第１移動情報の推定精度を悪化させる特定状態が生じていると判断される場合に、前記特定抽出領域の設定が行われる、請求項１に記載の異常検出装置。
3. 前記特定状態には、前記所定領域から抽出された前記特徴点の数が所定数より少ない状態と、前記特徴点のオプティカルフローのばらつき度合を示す指標が所定のばらつき閾値を超える状態との少なくとも一方が含まれる、請求項２に記載の異常検出装置。
4. 前記特定状態が生じていると判断され、前記特定条件を満たす前記特徴点が存在しない場合には、前記異常判定部は、前記特定状態が生じていると判断された前記カメラの画像に基づく異常の判定を行わない、請求項２又は３に記載の異常検出装置。
5. 前記特定条件には、前記特徴点が他に比べて集中して存在する高密度領域を形成する複数の特徴点が存在するという条件が含まれ、
   前記特定抽出領域は、前記高密度領域に設定される、請求項１から４のいずれか１項に記載の異常検出装置。
6. 前記特定条件には、前記特徴点抽出部で抽出された前記特徴点の中に、コーナーらしさを示すコーナー度が所定のコーナー度閾値以上となる特定の特徴点が存在するという条件が含まれ、
   前記特定抽出領域は、前記特定の特徴点の抽出位置に設定される、請求項１から５のいずれか１項に記載の異常検出装置。
7. 前記移動情報取得部は、前記移動体に設けられる前記カメラ以外のセンサから得られる情報に基づいて前記第２移動情報を取得する、請求項１から６のいずれか１項に記載の異常検出装置。
8. 前記異常は、前記カメラの取付けのずれが生じた状態である、請求項１から７のいずれか１項に記載の異常検出装置。
9. 移動体に搭載されたカメラの異常を検出する異常検出方法であって、
   前記カメラの画像の所定領域から特徴点を抽出する特徴点抽出工程と、
   前記特徴点に基づき前記移動体の第１移動情報を推定する移動情報推定工程と、
   前記第１移動情報の比較対象となる前記移動体の第２移動情報を取得する移動情報取得工程と、
   前記第１移動情報と前記第２移動情報とに基づいて前記カメラの異常を判定する異常判定工程と、
   を備え、
   特定条件を満たす前記特徴点が存在する場合に、前記所定領域に替えて特定抽出領域が設定され、前記特定抽出領域から抽出される前記特徴点に基づいて前記第１移動情報の推定が行われる、異常検出方法。

Images