JP7067370B2 - 画像認識装置 - Google Patents
画像認識装置 Download PDFInfo
- Publication number
- JP7067370B2 JP7067370B2 JP2018158392A JP2018158392A JP7067370B2 JP 7067370 B2 JP7067370 B2 JP 7067370B2 JP 2018158392 A JP2018158392 A JP 2018158392A JP 2018158392 A JP2018158392 A JP 2018158392A JP 7067370 B2 JP7067370 B2 JP 7067370B2
- Authority
- JP
- Japan
- Prior art keywords
- flow
- determination unit
- correction
- flows
- road surface
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Description
本開示は、画像認識の技術に関する。
特許文献1に記載の移動体認識装置は、車両に搭載されたカメラにより撮影された画像からオプティカルフローを算出するとともに、車両の運動によって生じる見かけのオプティカルフローを算出している。そして、上記移動体認識装置は、算出したオプティカルフローから見かけのオプティカルフローを差し引き補正して、移動体を抽出している。
静止立体物の画像からは、高さ方向に連なる複数のオプティカルフローが検出される。これらの複数のオプティカルフローのうち路面に接するオプティカルフローは、車両の運動によって生じる見かけのオプティカルフローと相殺される。一方、これらの複数のオプティカルフローのうち路面よりも高い位置のオプティカルフローは、見かけのオプティカルフローと相殺されず、補正されたオプティカルフローは絶対速度を持つ。
ところで、車両の進行方向に対して交差する方向に移動する交差移動体は、車両の運転手の死角に入ることがある。そのため、画像の認識結果を衝突防止などを目的とする走行支援に用いる場合、画像から交差移動体を高精度に認識できることが望まれる。しかしながら、上記移動体認識装置は、静止立体物の画像から算出される路面よりも高い位置のオプティカルフローが見かけのオプティカルフローと相殺されないため、静止立体物を交差移動体と誤認識する可能性がある。
本開示は、静止立体物を誤検知することを抑制して、車両の進行方向と交差する方向に移動する交差移動体を認識することが可能な画像認識装置を提供することを目的とする。
本開示の一態様は、画像認識装置であって、画像取得部(21)と、フロー算出部(22)と、移動量検出部(23)と、補正部(23)と、ゼロベクトル判定部(23,S10,100,S200)、消失点判定部(23,S30,S120,S270,S320)と、認識部(24)と、を備える。画像取得部は、車両に搭載された撮影装置により撮影された画像を取得する。フロー算出部は、画像取得部により取得された画像からオプティカルフローを算出する。移動量検出部は、車両の移動量を検出する。補正部は、フロー算出部により算出されたオプティカルフローから移動量検出部により検出された移動量に応じたオプティカルフローを差し引いて、補正フローを算出する。ゼロベクトル判定部は、補正部により算出された補正フローがゼロベクトルか否か判定する。消失点判定部は、ゼロベクトル判定部によりゼロベクトルではないと判定された場合に、当該補正フローを延長した延長線上に画像の消失点があるか否か判定する。認識部は、消失点判定部により延長線上に消失点がないと判定された場合に、当該補正フローから、撮影装置の移動方向と交差する方向に移動する交差移動体を認識する。
本開示によれば、補正フローがゼロベクトルではないと判定された場合に、補正フローを延長した延長線上に消失点があるか否か判定される。静止立体物又は車両の進行方向に移動する並進移動体から検出される補正フローを延長すると、画像の消失点へ到達する。一方、交差移動体から検出される補正フローを延長しても、画像の消失点に到達しない。したがって、補正フローと消失点との関係を判定することにより、静止立体物を誤検知することを抑制して、交差移動体を認識することができる。
なお、この欄及び特許請求の範囲に記載した括弧内の符号は、一つの態様として後述する実施形態に記載の具体的手段との対応関係を示すものであって、本開示の技術的範囲を限定するものではない。
以下、図面を参照しながら、発明を実施するための形態を説明する。
(第1実施形態)
<1-1.構成>
まず、本実施形態に係る画像認識装置20の構成について、図1を参照して説明する。画像認識装置20は、車両に搭載されることを想定している。画像認識装置20には、カメラ11、車速センサ12、及びステア角センサ13が接続されている。
(第1実施形態)
<1-1.構成>
まず、本実施形態に係る画像認識装置20の構成について、図1を参照して説明する。画像認識装置20は、車両に搭載されることを想定している。画像認識装置20には、カメラ11、車速センサ12、及びステア角センサ13が接続されている。
カメラ11は、車両に搭載されたCCDイメージセンサやCMOSイメージセンサ、赤外線センサなどである。カメラ11は、車両の前方又は後方を撮像範囲とするように、例えば、前方バンパの中央に搭載されている。カメラ11は、所定の周期で車両の前方を繰り返し撮影し、撮影した画像のデータを画像認識装置20へ送信する。
車速センサ12は、車両の速度を検出し、検出した速度のデータを画像認識装置20へ送信する。ステア角センサ13は、車両のステアリング角度を検出し、検出したステアリング角度のデータを画像認識装置20へ送信する。
画像認識装置20は、CPU、ROM、RAM、フラッシュメモリ等の半導体メモリ、及びI/O等を有するマイクロコンピュータを中心に構成される。画像認識装置20は、CPUが、非遷移的実体的記録媒体である半導体メモリに格納されたプログラムを実行することにより、各種機能を実現する。また、このプログラムの実行により、プログラムに対応する方法が実行される。なお、画像認識装置20は、1つのマイクロコンピュータを含んでいてもよいし、複数のマイクロコンピュータを含んでいてもよい。
画像認識装置20は、CPUがプログラムを実行することによる実現する機能として、画像取得部21、オプティカルフロー算出部22、オプティカルフロー分類部23、及び認識部24を備える。これらの各種機能を実現する手法はソフトウェアに限るものではなく、その一部又は全部の機能をハードウェアを用いて実現してもよい。
画像取得部21は、カメラ11から送信された画像を取得する。
オプティカルフロー算出部22は、画像取得部21により取得された画像からオプティカルフローを算出する。オプティカルフローの算出手法は公知であるため簡単に述べる。オプティカルフロー算出部22は、画像取得部21により取得された画像から特徴点を抽出する。特徴点は例えばエッジ点である。オプティカルフロー算出部22は、連続する2つのフレーム間の特徴点の移動からオプティカルフローを算出する。各オプティカルフローは、各特徴点の速度ベクトルに相当する。
オプティカルフロー算出部22は、画像取得部21により取得された画像からオプティカルフローを算出する。オプティカルフローの算出手法は公知であるため簡単に述べる。オプティカルフロー算出部22は、画像取得部21により取得された画像から特徴点を抽出する。特徴点は例えばエッジ点である。オプティカルフロー算出部22は、連続する2つのフレーム間の特徴点の移動からオプティカルフローを算出する。各オプティカルフローは、各特徴点の速度ベクトルに相当する。
オプティカルフロー分類部23は、車速センサ12から送信された車速、及びステア角センサ13から送信されたステアリング角から、オプティカルフローの算出に用いられた2つのフレーム間における車両の移動量(すなわち、エゴモーション量)を検出し、車両の移動量に応じたオプティカルフローを算出する。つまり、オプティカルフロー分類部23は、2つのフレーム間において車両の移動により生じる見かけのオプティカルフローを算出する。
さらに、オプティカルフロー分類部23は、オプティカルフロー算出部22により算出された各オプティカルフローから、車両の移動量に応じたオプティカルフローを差し引いて、補正フロー(以下、フロー)を算出する。そして、オプティカルフロー分類部23は、算出したフローの種類を分類する。オプティカルフロー分類部23が実行するフローの分類処理の詳細は後述する。
認識部24は、オプティカルフロー分類部23により分類されたフローから、そのフローの種類に応じた対象を認識する。
<1-2.フロー分類処理>
次に、オプティカルフロー分類部23(以下、分類部23)が実行するフロー分類処理の処理手順について、図2のフローチャートを参照して説明する。分類部23は、フローを算出する度に、各フローに対してフロー分類処理を実行する。
<1-2.フロー分類処理>
次に、オプティカルフロー分類部23(以下、分類部23)が実行するフロー分類処理の処理手順について、図2のフローチャートを参照して説明する。分類部23は、フローを算出する度に、各フローに対してフロー分類処理を実行する。
まず、S10では、分類部23は、算出したフローの長さから求めた絶対速度がゼロか否かを判定する。すなわち、分類部23は、算出したフローがゼロベクトルか否か判定する。分類部23は、フローから求めた絶対速度がゼロであると判定した場合には、S20の処理へ進み、絶対速度がゼロと異なると判定した場合には、S30の処理へ進む。
S20では、分類部23は、フローの絶対速度がゼロになるため、フローを移動体フローではないと判定し、本処理を終了する。具体的には、図4及び図5に示すフローF3,F7,F4が、移動体フローではないフローと判定される。フローF3,F7は、路面RSに描かれた路面ペイントRPの特徴点P3,P7のフローである。すなわち、フローF3,F7は、路面フローである。フローF4は、路面RSに接する静止立体物SOの特徴点P4のフローである。すなわち、フローF4は、静止立体物下端フローである。
一方、S30では、分類部23は、フローが画像の消失点を起点とするフローか否か判定する。すなわち、分類部23は、フローを始点方向へ延長した延長線上に画像の消失点があるか否か判定する。
絶対速度がゼロと異なるフローには、静止立体物の路面と接していない特徴点のフロー及び移動体のフローが含まれる。路面ペイントや静止立体物などのそれ自体が移動しない対象から検出されるフローは、車両が進行すると、車両が進行する前と比べて、画像において消失点から遠ざかる位置に写る。
そのため、図3に示すように、路面ペイントRPの特徴点P1のフローF1や、静止立体物SOの特徴点P2のフローF2を始点方向へ延長すると消失点に到達する。また、車両の進行方向、すなわちカメラ11の進行方向と同じ方向に移動する並進移動体のフローも、始点方向へ延長すると消失点に到達する。これに対して、車両の進行方向と交差する方向に移動する交差移動体のフローは、始点方向へ延長しても消失点に到達しない。よって、フローと消失点との関係を用いて、フローが交差移動体のフローか否かを判定することができる。
分類部23は、S30において、消失点を起点とするフローではないと判定した場合にはS40の処理へ進み、消失点を起点とするフローと判定した場合にはS50の処理へ進む。
S40では、分類部23は、フローを交差移動体フローと判定し、本処理を終了する。具体的には、図5に示すフローF11,F12が交差移動体フローと判定される。フローF11,F12は、カメラ11の移動方向と交差する方向に移動する交差移動体M2の特徴点P11,P12のフローである。本実施形態では、交差移動体M2は歩行者であるが、交差移動体には他車両や自転車なども含まれる。
また、S50では、分類部23は、フローを交差移動体フローではないと判定し、本処理を終了する。具体的には、図4及び図5に示すフローF5,F6,F8,F9,F10が、交差移動体フローではないフローと判定される。フローF5,F6は、静止立体物SOの路面RSに接していない特徴点P5,P6のフローである。すなわち、フローF5,F6は、静止立体物フローである。また、フローF8,F9,F10は、カメラ11の移動方向と同じ方向に移動する並進移動体M1の特徴点P8,P9,P10のフローである。すなわち、フローF8,F9,F10は、並進移動体フローである。本実施形態では、並進移動体M1は歩行者であるが、並進移動体には他車両や自転車なども含まれる。
このように、分類部23によりフロー分類処理が実行され、算出された各フローが種類別に分類される。認識部24は、分類部23により交差移動体フローと判定されたフローから交差移動体を認識する。
<1-3.効果>
以上説明した第1実施形態によれば、以下の効果が得られる。
(1)フローと消失点との関係を判定することにより、静止立体物を誤検知することを抑制して、交差移動体を認識することができる。
以上説明した第1実施形態によれば、以下の効果が得られる。
(1)フローと消失点との関係を判定することにより、静止立体物を誤検知することを抑制して、交差移動体を認識することができる。
(第2実施形態)
<2-1.第1実施形態との相違点>
第2実施形態は、基本的な構成は第1実施形態と同様であるため、共通する構成については説明を省略し、相違点を中心に説明する。なお、第1実施形態と同じ符号は、同一の構成を示すものであって、先行する説明を参照する。
<2-1.第1実施形態との相違点>
第2実施形態は、基本的な構成は第1実施形態と同様であるため、共通する構成については説明を省略し、相違点を中心に説明する。なお、第1実施形態と同じ符号は、同一の構成を示すものであって、先行する説明を参照する。
第2実施形態では、第1実施形態よりも分類部23によるフロー分類処理の手順を増やすことにより、より細かくフローを区別して判定する点で、第1実施形態と相違する。
<2-2.フロー分類処理>
次に、第2実施形態の分類部23が実行するフロー分類処理の処理手順について、図6のフローチャートを参照して説明する。分類部23は、フローを算出する度に、各フローに対してフロー分類処理を実行する。
<2-2.フロー分類処理>
次に、第2実施形態の分類部23が実行するフロー分類処理の処理手順について、図6のフローチャートを参照して説明する。分類部23は、フローを算出する度に、各フローに対してフロー分類処理を実行する。
まず、S100~S130において、分類部23は、図2のS10~S40と同様の処理を実行する。
そして、分類部23は、S120において、消失点を起点とするフローと判定した場合には、S140の処理へ進む。
そして、分類部23は、S120において、消失点を起点とするフローと判定した場合には、S140の処理へ進む。
S140において、分類部23は、判定対象のフローの下方向に、判定対象のフローと同じ対象物から検出された他のフローの連なりがあり、フローの連なりの中に絶対速度がゼロのフローすなわちゼロベクトルのフローがあるか否か判定する。静止立体物フローの下方には、ゼロベクトルである静止立体物下端フローが存在する。一方、並進移動体フローの下方にはゼロベクトルのフローは存在しない。そこで、S140において、分類部23は、静止立体物フローと並進移動体フローとを判別するために、下方にゼロベクトルのフローが存在するか否か判定する。
分類部23は、S140において下方にゼロベクトルのフローが存在しないと判定した場合にはS150の処理へ進み、下方にゼロベクトルのフローが存在すると判定した場合にはS160の処理へ進む。
S150では、分類部23は、フローを並進移動体フローと判定し、本処理を終了する。具体的には、図5に示すフローF8,F9,F10が、並進移動体フローと判定される。
一方、S160では、分類部23は、フローを静止立体物フローと判定し、本処理を終了する。具体的には、図4に示すフローF5,F6が、静止立体物フローと判定される。
一方、S160では、分類部23は、フローを静止立体物フローと判定し、本処理を終了する。具体的には、図4に示すフローF5,F6が、静止立体物フローと判定される。
認識部24は、分類部23により交差移動体フローと判定されたフローから交差移動体を認識するとともに、並進移動体フローと判定されたフローから並進移動体を認識する。さらに、分類部23は、静止立体物と判定されたフローから静止立体物を認識する。
<2-3.効果>
以上説明した第2実施形態によれば、前述した第1実施形態の効果(1)に加え、以下の効果が得られる。
以上説明した第2実施形態によれば、前述した第1実施形態の効果(1)に加え、以下の効果が得られる。
(2)フローが消失点を起点とするフローの場合には、下方にゼロベクトルであるフローが存在するか否か判定することによって、静止立体物と並進移動体とを判別して認識することできる。
(第3実施形態)
<3-1.第2実施形態との相違点>
第3実施形態は、基本的な構成は第1実施形態と同様であるため、共通する構成については説明を省略し、相違点を中心に説明する。なお、第2実施形態と同じ符号は、同一の構成を示すものであって、先行する説明を参照する。
<3-1.第2実施形態との相違点>
第3実施形態は、基本的な構成は第1実施形態と同様であるため、共通する構成については説明を省略し、相違点を中心に説明する。なお、第2実施形態と同じ符号は、同一の構成を示すものであって、先行する説明を参照する。
第3実施形態では、第2実施形態よりも分類部23によるフロー分類処理の手順をさらに増やすことにより、さらに細かくフローを区別して判定する点で、第2実施形態と相違する。
<3-2.フロー分類処理>
次に、第3実施形態の分類部23が実行するフロー分類処理の処理手順について、図7及び8のフローチャートを参照して説明する。分類部23は、フローを算出する度に、各フローに対してフロー分類処理を実行する。
次に、第3実施形態の分類部23が実行するフロー分類処理の処理手順について、図7及び8のフローチャートを参照して説明する。分類部23は、フローを算出する度に、各フローに対してフロー分類処理を実行する。
まず、S200では、分類部23は、図6のS100と同様の処理を実行する。そして、分類部23は、S200において、フローから求めた絶対速度がゼロであると判定した場合には、S210の処理へ進み、絶対速度がゼロと異なると判定した場合には、S260の処理へ進む。
S210では、分類部23は、高さ方向の局所領域内に、予め設定された設定数の他のフローが存在するか否か判定する。他のフローは、判定対象のフローと同じ対象物から検出されたフローである。局所領域は、判定対象のフローから高さ方向に所定の長さを有する領域である。図9~11に示す局所領域A1,A2,A3,A4は、それぞれ、特徴点P15,P17,P20,P24から高さ方向に所定の長さを有する領域である。
S200においてゼロベクトルと判定されたフローには、静止立体物の下端から検出されるフロー、路面ペイントから検出されるフロー、静止立体物の影や反射光から検出されるフロー、高さが低く連続する線状物体から検出されるフローなどが含まれる。線状物体は、路側帯と道路とを区切るブロックや白線、簡易駐車場で仕切として使用されるロープなどである。すなわち、ゼロベクトルと判定されたフローには、十分な高さを有する静止立体物の下端から検出されたフローと、高さを有さない路面特徴部分又は路面に近い高さを有する線状物体から検出されたフローが含まれる。路面特徴部分には、路面ペイント、影、反射光などが含まれる。
S210において、分類部23は、局所領域内の他のフローの数から、判定対象のフローが十分な高さを有さない対象から検出されたフローか否かを判定する。分類部23は、S210において、局所領域内に設定数のフローが存在しないと判定した場合にはS220の処理へ進み、局所領域内に設定数のフローが存在すると判定した場合にはS230の処理へ進む。
S220では、分類部23は、フローを路面特徴部分や線状物体から検出された路面フローと判定し、本処理を終了する。フローが線状物体から検出されたフローの場合、高さ方向に絶対速度が0でないフローが存在することはあるが、高さ方向のフローの数は少ないため、局所領域内に設定数のフローが存在しない。具体的には、S220において、図4及び図5に示す路面ペイントRPのフローF3,F7、及び図10に示す線状物体BLの特徴点P20~P23のフローのうちゼロベクトルのフローが路面フローと判定される。
一方、S230では、分類部23は、高さ方向に、判定対象のフローと同じ対象物から検出された絶対速度が0でないフローがあるか否か判定する。すなわち、分類部23は、高さ方向にゼロベクトル以外のフローがあるか否か判定する。図11に示す路面ペイントRPのように、路面特徴部分の形状によっては、路面特徴部分から検出されたフローが高さ方向に並ぶため、局所領域内に設定数のフローが存在する場合がある。しかしながら、路面特徴部分のフローは、高さ方向に並んだとしてもすべてゼロベクトルである。これに対して、図4に示す静止立体物SOのフローは、高さ方向に並んだフローにゼロベクトル以外のフローが含まれる。
したがって、分類部23は、S230において、さらに、高さ方向におけるゼロベクトルの存在を確認することによって、路面フローか否かを判定する。ここで、静止立体物の上端から検出されるフローは、後述するS260において路面に投影できないと判定される。よって、分類部23は、S260において路面に投影できないと判定されたフローが上方に存在する場合には、判定対象のフローから路面に投影できないと判定されたフローまでの範囲を上方に探索して、ゼロベクトル以外のフローがあるか否か判定するとよい。そして、分類部23は、S230において、高さ方向にゼロベクトル以外のフローが存在しないと判定した場合はS240の処理へ進み、高さ方向にゼロベクトル以外のフローが存在すると判定した場合はS250の処理へ進む。
S240では、分類部23は、フローを路面フローと判定して、本処理を終了する。具体的には、S240において、図11に示す路面ペイントRPの特徴点P24~P26のフローが路面フローと判定される。
また、S250では、分類部23は、フロー―を静止立体物フローと判定して、本処理を終了する。具体的には、S250において、図4に示す静止立体物SOの特徴点P4のフローF4が、静止立体物下端フローと判定される。
一方、S260では、分類部23は、フローが路面に投影できるか否か判定する。図4及び図5に示すフローF5,F9のように背景が路面のフローは路面に投影できるフローである。一方、図4及び図5に示すフローF6,F10のように空中に存在するフローは路面に投影できないフローである。路面に投影できるフローには、移動体と共に移動する移動体の影などの路面上を移動するフローが含まれるが、路面に投影できないフローには、路面上を移動するフローは含まれない。分類部23は、S260において、フローが路面に投影できないと判定した場合にはS270の処理へ進み、フローが路面に投影できると判定した場合にはS320の処理へ進む。
分類部23は、S270~S310において、図6のS120~S160と同様の処理を実行して、フローを、静止立体物フロー、並進移動体フロー、及び交差移動体フローの何れかと判定し、本処理を終了する。具体的には、S280において、図5に示すフローF11,F12のうち、路面投影できないフローF12が交差移動体のフローと判定される。また、S300において、図5に示すフローF8,F9,F10のうち、路面投影できないフローF10が並進移動体フローと判定される。また、S310において、図4に示すフローF5,F6のうち、路面投影できないフローF6が静止立体物フローと判定される。
さらに、S320では、分類部23は、S270と同様の処理を実行する。分類部23は、S320において、消失点を起点とするフローと判定した場合にはS330の処理へ進み、消失点を起点とするフローでないと判定した場合にはS400の処理へ進む。
S330では、分類部23は、S290と同様の処理を実行する。分類部23は、S330において、下方にゼロベクトルのフローが存在すると判定した場合にはS340の処理へ進み、下方にゼロベクトルのフローが存在しないと判定した場合にはS350のフローへ進む。
S340では、分類部23は、フローを静止立体物フローと判定し、本処理を終了する。具体的には、図4に示すフローF5,F6のうち、路面投影できるフローF5が静止立体物フローと判定される。
一方、S350では、分類部23は、S210と同様の処理を実行する。S330において下方にゼロベクトルのフローが存在しないと判定されたフローには、並進移動体から検出されたフローや、並進移動体と共に移動する影及び反射光から検出されたフロー、線状物体から検出されたフローなどが含まれる。分類部23は、S350において、局所領域内の他のフローの数から、十分な高さを有さない対象から検出されたフローか否かを判定する。分類部23は、S350において、局所領域内に設定数のフローが存在しないと判定した場合にはS360の処理へ進み、局所領域内に設定数のフローが存在すると判定した場合にはS370の処理へ進む。
S360では、分類部23は、フローを、路面上で並進移動体と共に移動する路面移動部分や線状物体から検出された路面移動フローと判定し、本処理を終了する。具体的には、S360では、図9に示す並進移動体M3と共に移動する影SWの特徴点P13~P16のフローが、路面移動フローと判定される。
また、S370では、分類部23は、高さ方向のフローの連なりの中に絶対速度が異なるフローがあるか否か判定する。高さ方向のフローの連なりが影などの路面移動フローの連なりである場合、高さ方向に連なるフローの絶対速度はすべて等しい。一方、高さ方向のフローの連なりが立体物のフローの連なりである場合、フローの位置が高いほど絶対速度が大きく算出される。したがって、分類部23は、S370において、さらに、高さ方向のフローの連なりの中に絶対速度が異なるフローがあるか否か判定することによって、路面移動フローと並進移動体フローとを判別する。分類部23は、S370において、高さ方向に絶対速度が異なるフローがないと判定した場合にはS380の処理へ進み、高さ方向に絶対速度が異なるフローがあると判定した場合にはS390の処理へ進む。
S380では、分類部23は、フローを路面移動フローと判定し、本処理を終了する。具体的には、S380では、並進移動体の影の特徴点であって、高さ方向に並んだ特徴点のフローが路面移動フローと判定される。
また、S390では、分類部23は、フローを並進移動体フローと判定し、本処理を終了する。具体的には、S390において、図5に示すフローF8,F9,F10のうち、路面投影できるF8,F9が並進移動体フローと判定される。
さらに、S400では、分類部23は、S350と同様の処理を実行する。そして、分類部23は、S400において、局所領域内に設定数のフローが存在しないと判定した場合にはS410の処理へ進み、局所領域内に設定数のフローが存在すると判定した場合にはS420の処理へ進む。
S410では、分類部23は、フローを、路面上で交差移動体と共に移動する路面移動部分や線状物体から検出された路面移動フローと判定し、本処理を終了する。具体的には、S410では、交差移動体と共に移動する影から検出されるフローが路面移動フローと判定される。
また、S420では、分類部23は、S370と同様の処理を実行する。そして、分類部23は、S420において、高さ方向に移動体フローがないと判定した場合にはS430の処理へ進み、高さ方向に移動体フローがあると判定した場合にはS440の処理へ進む。
S430では、分類部23は、フローを路面移動フローと判定し、本処理を終了する。具体的には、S380では、交差移動体の影から検出されるフローであって高さ方向に並んだフローが路面移動フローと判定される。
また、S440では、分類部23は、フローを交差移動体フローと判定し、本処理を終了する。具体的には、S440において、図5に示すフローF11,F12のうち、路面投影できるF11が交差移動体フローと判定される。
認識部24は、分類部23により判定された各フローから、静止立体物の下端、路面特徴部分、静止立体物、並進移動体、交差移動体、路面移動部分を認識する。
<3-3.効果>
以上説明した第3実施形態によれば、前述した第2実施形態の効果(1),(2)に加え、以下の効果が得られる。
<3-3.効果>
以上説明した第3実施形態によれば、前述した第2実施形態の効果(1),(2)に加え、以下の効果が得られる。
(3)フローがゼロベクトルと判定され、且つ、局所領域内に設定数のフローが存在しない場合には、そのフローから路面上の路面特徴部分を認識することができる。
(4)局所領域内に設定数のフローが存在する場合には、高さ方向のフローの連なりの中にゼロベクトル以外のフローが存在するか否か判定することによって、静止立体物の下端と路面上の路面特徴部分とを判別して認識することができる。
(4)局所領域内に設定数のフローが存在する場合には、高さ方向のフローの連なりの中にゼロベクトル以外のフローが存在するか否か判定することによって、静止立体物の下端と路面上の路面特徴部分とを判別して認識することができる。
(5)路面に投影できないフローは、路面に投影できるフローよりも、精度よくフローの種類を判定して認識することができる。よって、フローが路面に投影可能か否かを判定することによって、フローの種類の判定精度を向上させることができる。
(6)フローが路面に投影可能と判定された場合には、フローと消失点との関係の判定に加えて、局所領域内に設定数のフローが存在するか否か判定することにより、交差移動体と共に移動する路面上の路面移動部分を認識することができる。
(7)フローが路面に投影可能と判定され、且つ、消失点を起点とするフローではないと判定され、且つ、局所領域内に設定数のフローが存在すると判定された場合には、さらに、高さ方向の補正フローの連なりの中に絶対速度が異なるフローが存在するか否か判定することによって、交差移動体と路面上の路面移動部分とを判別して認識することができる。
(8)フローが投影可能と判定された場合には、フローと消失点との関係の判定、下方のフローの連なりの中にゼロベクトルであるフローが存在するか否かの判定に加えて、局所領域内に設定数のフローが存在するか否か判定することにより、並進移動体と共に移動する路面上の路面移動部分を認識することができる。
(9)フローが路面に投影可能と判定され、且つ、消失点を起点とするフローと判定され、且つ、下方にゼロベクトルであるフローが存在すると判定され、且つ、局所領域内に設定数のフローが存在しないと判定された場合には、さらに、高さ方向のフローの連なりの中に絶対速度が異なるフローが存在するか否か判定することによって、並進移動体と路面上の路面移動部分とを判別して認識することができる。
(他の実施形態)
以上、本開示を実施するための形態について説明したが、本開示は上述の実施形態に限定されることなく、種々変形して実施することができる。
以上、本開示を実施するための形態について説明したが、本開示は上述の実施形態に限定されることなく、種々変形して実施することができる。
(a)上記実施形態では、車両の移動量を算出するために、車速センサ12とステア角センサ13の検出値を用いていたが、これに限定されるものではない。例えば、ステア角センサ13の代わりにヨーレートセンサを用いてもよい。
(b)上記実施形態における1つの構成要素が有する複数の機能を、複数の構成要素によって実現したり、1つの構成要素が有する1つの機能を、複数の構成要素によって実現したりしてもよい。また、複数の構成要素が有する複数の機能を、1つの構成要素によって実現したり、複数の構成要素によって実現される1つの機能を、1つの構成要素によって実現したりしてもよい。また、上記実施形態の構成の一部を省略してもよい。また、上記実施形態の構成の少なくとも一部を、他の上記実施形態の構成に対して付加又は置換してもよい。なお、特許請求の範囲に記載した文言のみによって特定される技術思想に含まれるあらゆる態様が本開示の実施形態である。
(c)上述した画像認識装置の他、当該画像認識装置を構成要素とするシステム、当該画像認識装置としてコンピュータを機能させるためのプログラム、このプログラムを記録した半導体メモリ等の非遷移的実態的記録媒体、画像認識方法など、種々の形態で本開示を実現することもできる。
11…カメラ、20…画像認識装置、21…画像取得部、22…オプティカルフロー算出部、23…オプティカルフロー分類部、24…認識部。
Claims (9)
- 車両に搭載された撮影装置(11)により撮影された画像を取得する画像取得部(21)と、
前記画像取得部により取得された画像からオプティカルフローを算出するフロー算出部(22)と、
前記車両の移動量を検出する移動量検出部(23)と、
前記フロー算出部により算出されたオプティカルフローから前記移動量検出部により検出された移動量に応じたオプティカルフローを差し引いて、補正フローを算出する補正部(23)と、
前記補正部により算出された補正フローがゼロベクトルか否か判定するゼロベクトル判定部(23,S10,100,S200)、
前記ゼロベクトル判定部によりゼロベクトルではないと判定された場合に、当該補正フローを延長した延長線上に前記画像の消失点があるか否か判定する消失点判定部(23,S30,S120,S270,S320)と、
前記消失点判定部により前記延長線上に前記消失点がないと判定された場合に、当該補正フローから、前記撮影装置の移動方向と交差する方向に移動する交差移動体を認識する認識部(24)と、
を備える、画像認識装置。 - 前記消失点判定部により前記延長線上に前記消失点があると判定された場合に、当該補正フローの下方向に、ゼロベクトルである前記補正フローが存在するか否か判定する下方向判定部(23,S140)と、を備え、
前記認識部は、
前記下方向判定部によりゼロベクトルである前記補正フローが存在すると判定された場合に、当該補正フローから静止立体物を認識し、
前記下方向判定部によりゼロベクトルである前記補正フローが存在しないと判定された場合に、当該補正フローから前記撮影装置の移動方向に移動する並進移動体を認識する、
請求項1に記載の画像認識装置。 - 前記補正フローの高さ方向に所定の長さを有する局所領域内に、設定数の前記補正フローが存在するか否か判定する領域判定部(23,S210,S350,S400)を備え、
前記認識部は、前記ゼロベクトル判定部によりゼロベクトルであると判定され、且つ、前記領域判定部により前記設定数の前記補正フローが存在しないと判定された場合に、当該補正フローから路面上の路面特徴部分を認識する、
請求項2に記載の画像認識装置。 - 前記領域判定部により前記設定数の前記補正フローが存在すると判定された場合に、当該補正フローの高さ方向に、ゼロベクトル以外の前記補正フローが存在するか否か判定する高さ方向判定部(23,S230)を備え、
前記認識部は、
前記ゼロベクトル判定部によりゼロベクトルであると判定され、且つ、前記領域判定部により前記設定数の前記補正フローが存在すると判定され、且つ、前記高さ方向判定部によりゼロベクトル以外の前記補正フローが存在すると判定された場合に、当該補正フローから静止立体物の下端を認識し、
前記ゼロベクトル判定部によりゼロベクトルであると判定され、且つ、前記領域判定部により前記設定数の前記補正フローが存在すると判定され、且つ、前記高さ方向判定部によりゼロベクトル以外の前記補正フローが存在しないと判定された場合に、当該補正フローから路面上の路面特徴部分を認識する、
請求項3に記載の画像認識装置。 - 前記ゼロベクトル判定部によりゼロベクトルではないと判定された場合に、当該補正フローが路面に投影可能か否かを判定する投影判定部(23,S260)を備える、
請求項4に記載の画像認識装置。 - 前記認識部は、
前記投影判定部により投影可能と判定され、且つ、前記消失点判定部により前記延長線上に前記消失点がないと判定され、且つ、前記領域判定部により前記設定数の前記補正フローが存在しないと判定された場合に、当該補正フローから路面上を移動する路面移動部分を認識する、
請求項5に記載の画像認識装置。 - 前記補正フローの高さ方向のフローの連なりの中に絶対速度の異なるフローが存在するか否か判定する移動体判定部(23,S370,S420)を備え、
前記認識部は、
前記投影判定部により投影可能と判定され、且つ、前記消失点判定部により前記延長線上に前記消失点がないと判定され、且つ、前記領域判定部により前記設定数の前記補正フローが存在すると判定された場合において、
前記移動体判定部により絶対速度の異なるフローが存在すると判定されたときに、当該補正フローから前記交差移動体を認識し、
前記移動体判定部により絶対速度の異なるフローが存在しないと判定されたときに、当該補正フローから路面上を移動する路面移動部分を認識する、
請求項6に記載の画像認識装置。 - 前記認識部は、前記投影判定部により投影可能と判定され、且つ、前記消失点判定部により前記延長線上に前記消失点があると判定され、且つ、前記下方向判定部によりゼロベクトルである前記補正フローが存在しないと判定され、且つ、前記領域判定部により前記設定数の前記補正フローが存在しないと判定された場合に、当該補正フローから路面上を移動する路面移動部分を認識する、
請求項5~7のいずれか1項に記載の画像認識装置。 - 前記補正フローの高さ方向のフローの連なりの中に絶対速度の異なるフローが存在するか否か判定する移動体判定部(23,S370,S420)を備え、
前記認識部は、
前記投影判定部により投影可能と判定され、且つ、前記消失点判定部により前記延長線上に前記消失点があると判定され、且つ、前記下方向判定部によりゼロベクトルである前記補正フローが存在しないと判定され、且つ、前記領域判定部により前記設定数の前記補正フローが存在すると判定された場合において、
前記移動体判定部により絶対速度の異なるフローが存在すると判定されたときに、当該補正フローから前記並進移動体を認識し、
前記移動体判定部により絶対速度の異なるフローが存在しないと判定されたときに、当該補正フローから路面上を移動する路面移動部分を認識する、
請求項8に記載の画像認識装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018158392A JP7067370B2 (ja) | 2018-08-27 | 2018-08-27 | 画像認識装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018158392A JP7067370B2 (ja) | 2018-08-27 | 2018-08-27 | 画像認識装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020034995A JP2020034995A (ja) | 2020-03-05 |
JP7067370B2 true JP7067370B2 (ja) | 2022-05-16 |
Family
ID=69668115
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018158392A Active JP7067370B2 (ja) | 2018-08-27 | 2018-08-27 | 画像認識装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7067370B2 (ja) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007334859A (ja) | 2006-05-17 | 2007-12-27 | Denso It Laboratory Inc | 物体検出装置 |
JP2010204805A (ja) | 2009-03-02 | 2010-09-16 | Konica Minolta Holdings Inc | 周辺監視装置および該方法 |
JP2010286926A (ja) | 2009-06-09 | 2010-12-24 | Konica Minolta Holdings Inc | 周辺監視装置 |
JP2013092994A (ja) | 2011-10-27 | 2013-05-16 | Clarion Co Ltd | 車両周辺監視装置 |
-
2018
- 2018-08-27 JP JP2018158392A patent/JP7067370B2/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007334859A (ja) | 2006-05-17 | 2007-12-27 | Denso It Laboratory Inc | 物体検出装置 |
JP2010204805A (ja) | 2009-03-02 | 2010-09-16 | Konica Minolta Holdings Inc | 周辺監視装置および該方法 |
JP2010286926A (ja) | 2009-06-09 | 2010-12-24 | Konica Minolta Holdings Inc | 周辺監視装置 |
JP2013092994A (ja) | 2011-10-27 | 2013-05-16 | Clarion Co Ltd | 車両周辺監視装置 |
Also Published As
Publication number | Publication date |
---|---|
JP2020034995A (ja) | 2020-03-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6536064B2 (ja) | 走行軌跡選定装置、走行軌跡選定方法 | |
JP4788798B2 (ja) | 物体検出装置 | |
JP6477882B2 (ja) | 自己位置推定装置及び自己位置推定方法 | |
US10776946B2 (en) | Image processing device, object recognizing device, device control system, moving object, image processing method, and computer-readable medium | |
US8848980B2 (en) | Front vehicle detecting method and front vehicle detecting apparatus | |
JP2007300181A (ja) | 周辺認識装置、周辺認識方法、プログラム | |
JP6003673B2 (ja) | 3次元位置推定装置、車両制御装置、および3次元位置推定方法 | |
JP5482672B2 (ja) | 移動物体検出装置 | |
US20170076161A1 (en) | Vehicle exterior environment recognition apparatus | |
JP2007096684A (ja) | 車外環境認識装置 | |
JP2013205410A (ja) | 車両用外界認識装置およびそれを用いた車両システム | |
JP7067370B2 (ja) | 画像認識装置 | |
TWI665114B (zh) | 車輛行駛偵測方法及車輛行駛偵測系統 | |
JP6531689B2 (ja) | 移動軌跡検出装置、移動物体検出装置、移動軌跡検出方法 | |
JP3988758B2 (ja) | 移動体検出装置 | |
JP7356319B2 (ja) | 車外環境認識装置 | |
JP2019053685A (ja) | 画像処理装置 | |
JP2005170290A (ja) | 障害物検出装置 | |
JP4645292B2 (ja) | 車載物体検出装置、および物体検出方法 | |
JP6569416B2 (ja) | 画像処理装置、物体認識装置、機器制御システム、画像処理方法及び画像処理プログラム | |
WO2020036039A1 (ja) | ステレオカメラ装置 | |
CN112606839A (zh) | 车外环境识别装置 | |
JP6593263B2 (ja) | 区画線認識装置 | |
JP6731020B2 (ja) | 車外環境認識装置および車外環境認識方法 | |
JP7193942B2 (ja) | 車両検知装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210318 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220329 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220411 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7067370 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |