JP7336367B2 - 車外環境認識装置 - Google Patents

車外環境認識装置 Download PDF

Info

Publication number
JP7336367B2
JP7336367B2 JP2019210983A JP2019210983A JP7336367B2 JP 7336367 B2 JP7336367 B2 JP 7336367B2 JP 2019210983 A JP2019210983 A JP 2019210983A JP 2019210983 A JP2019210983 A JP 2019210983A JP 7336367 B2 JP7336367 B2 JP 7336367B2
Authority
JP
Japan
Prior art keywords
dimensional object
bicycle
divided
vehicle
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019210983A
Other languages
English (en)
Other versions
JP2021082162A (ja
Inventor
愛都 菅野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Subaru Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Subaru Corp filed Critical Subaru Corp
Priority to JP2019210983A priority Critical patent/JP7336367B2/ja
Priority to US17/060,371 priority patent/US11756325B2/en
Priority to CN202011101040.7A priority patent/CN112836562A/zh
Publication of JP2021082162A publication Critical patent/JP2021082162A/ja
Application granted granted Critical
Publication of JP7336367B2 publication Critical patent/JP7336367B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • G05D1/0251Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means extracting 3D information from a plurality of images taken from different locations, e.g. stereo vision
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/26Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • G06V10/267Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds

Description

本発明は、自車両の進行方向に存在する特定物を特定する車外環境認識装置に関する。
従来、自車両の前方に位置する車両等の立体物を検出し、先行車両との衝突を回避したり(衝突回避制御)、先行車両との車間距離を安全な距離に保つように制御する(クルーズコントロール)技術が知られている(例えば、特許文献1)。
また、上記立体物を検出する技術として、自車両の側方を撮影した画像パターンを参照し、エッジの自車両前後方向の対称性に基づいて、自車両と並走する並走車を検出する技術が開示されている(例えば、特許文献2)。
特許第3349060号公報 特開2008-134877号公報
自車両の進行方向に存在する特定物としては、同方向に走行する先行車両や、進行路を自車両横方向に横断する歩行者および自転車等がある。このような進行路を横断する歩行者や自転車等については、その輪郭によって歩行者らしさ、または、自転車らしさを判定するのが望ましい。ただし、一般的に、自転車は歩行者より横断速度が高く、自転車の全体の輪郭が確認できるまで待っていると、その間に自車両と自転車との距離が短くなり、衝突回避制御として急な動作を要することになってしまう。したがって、例えば、ハフ変換等により、自転車の一部である前輪(円形状)を特定することで、より早期に自転車自体を特定することが考えられる。
しかし、自車両の進行方向には様々な立体物が存在し、その形状や表面の彩色が車輪に類似する場合がある。したがって、前輪のみによって自転車を特定しようとすると、車輪に類似する立体物を自転車の前輪と誤検出してしまうおそれがある。
本発明は、このような課題に鑑み、自転車等の特定物を迅速かつ正確に検出可能な、車外環境認識装置を提供することを目的としている。
上記課題を解決するために、本発明の車外環境認識装置は、画面において、立体物を含む立体物領域を特定する立体物領域特定部と、立体物領域を垂直方向に対して分割した複数の分割領域それぞれにおける立体物の占有状態に基づいて自転車らしさを判定する自転車判定部と、自転車らしさに基づいて立体物を自転車と特定する自転車特定部と、を備える。
自転車判定部は、後輪を除く前輪および搭乗者のいずれもが出現しているか否かに基づいて自転車らしさを判定してもよい。
自転車判定部は、複数の分割領域のうちの第1分割領域における立体物の左エッジより、第1分割領域より垂直下方に位置する第2分割領域における立体物の左エッジの方が水平左方向に位置し、第1分割領域における立体物の右エッジより、第2分割領域における立体物の右エッジの方が水平右方向に位置する場合に、自転車らしいと判定してもよい。
自転車判定部は、複数の分割領域のうちの搭乗者の頭に相当する頭分割領域における立体物の水平方向の占有長さより、搭乗者の胴体に相当する胴体分割領域における立体物の水平方向の占有長さの方が長い場合に、自転車らしいと判定してもよい。
自転車判定部は、複数の分割領域のうちの搭乗者の胴体に相当する胴体分割領域における立体物の水平方向の占有長さより、自転車本体に相当する本体分割領域における立体物の水平方向の占有長さの方が長い場合に、自転車らしいと判定してもよい。
本発明によれば、自転車等の特定物を迅速かつ正確に検出することが可能となる。
車外環境認識システムの接続関係を示したブロック図である。 輝度画像と距離画像を説明するための説明図である。 車外環境認識装置の概略的な機能を示した機能ブロック図である。 車外環境認識処理の流れを示すフローチャートである。 立体物領域を説明するための説明図である 前提条件を説明するための説明図である。 前提条件を説明するための説明図である。 積算条件を説明するための説明図である。 積算条件を説明するための説明図である。 積算条件を説明するための説明図である。 速度特定処理を説明するための説明図である。
以下に添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。かかる実施形態に示す寸法、材料、その他具体的な数値などは、発明の理解を容易とするための例示にすぎず、特に断る場合を除き、本発明を限定するものではない。なお、本明細書および図面において、実質的に同一の機能、構成を有する要素については、同一の符号を付することにより重複説明を省略し、また本発明に直接関係のない要素は図示を省略する。
(車外環境認識システム100)
図1は、車外環境認識システム100の接続関係を示したブロック図である。車外環境認識システム100は、撮像装置110と、車外環境認識装置120と、車両制御装置(ECU:Engine Control Unit)130とを含んで構成される。
撮像装置110は、CCD(Charge-Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)等の撮像素子を含んで構成され、自車両1の前方の車外環境を撮像し、少なくとも輝度の情報が含まれる輝度画像(カラー画像やモノクロ画像)を生成することができる。また、撮像装置110は、自車両1の進行方向側において2つの撮像装置110それぞれの光軸が略平行になるように、略水平方向に離隔して配置される。撮像装置110は、自車両1の前方の検出領域に存在する立体物を撮像した輝度画像を、例えば1/60秒のフレーム毎(60fps)に連続して生成する。ここで、撮像装置110によって認識する立体物は、自転車、歩行者、車両、信号機、道路(進行路)、道路標識、ガードレール、建物といった独立して存在する物のみならず、自転車の車輪等、その一部として特定できる物も含む。
また、車外環境認識装置120は、2つの撮像装置110それぞれから輝度画像を取得し、一方の輝度画像から任意に抽出したブロック(例えば、水平4画素×垂直4画素の配列)に対応するブロックを他方の輝度画像から検索する、所謂パターンマッチングを用いて視差、および、任意のブロックの画面内の位置を示す画面位置を含む視差情報を導出する。ここで、水平は、撮像した画像の画面横方向を示し、垂直は、撮像した画像の画面縦方向を示す。このパターンマッチングとしては、一対の画像間において、任意のブロック単位で輝度(Y)を比較することが考えられる。例えば、輝度の差分をとるSAD(Sum of Absolute Difference)、差分を2乗して用いるSSD(Sum of Squared intensity Difference)や、各画素の輝度から平均値を引いた分散値の類似度をとるNCC(Normalized Cross Correlation)等の手法がある。車外環境認識装置120は、このようなブロック単位の視差導出処理を検出領域(例えば、600画素×200画素)に映し出されている全てのブロックについて行う。ここでは、ブロックを4画素×4画素としているが、ブロック内の画素数は任意に設定することができる。
ただし、車外環境認識装置120では、検出分解能単位であるブロック毎に視差を導出することはできるが、そのブロックがどのような対象物の一部であるかを認識できない。したがって、視差情報は、対象物単位ではなく、検出領域における検出分解能単位(例えばブロック単位)で独立して導出されることとなる。ここでは、このようにして導出された視差情報を対応付けた画像を、上述した輝度画像と区別して距離画像という。
図2は、輝度画像126と距離画像128を説明するための説明図である。例えば、2つの撮像装置110を通じ、検出領域124について図2(a)のような輝度画像126が生成されたとする。ただし、ここでは、理解を容易にするため、2つの輝度画像126の一方のみを模式的に示している。車外環境認識装置120は、このような輝度画像126からブロック毎の視差を求め、図2(b)のような距離画像128を形成する。距離画像128における各ブロックには、そのブロックの視差が関連付けられている。ここでは、説明の便宜上、視差が導出されたブロックを黒のドットで表している。
また、車外環境認識装置120は、輝度画像126に基づく輝度値(カラー値)、および、距離画像128に基づいて算出された、自車両1との相対距離を含む実空間における三次元の位置情報を用い、カラー値が等しく三次元の位置情報が近いブロック同士を対象物としてグループ化して、自車両1前方の検出領域における対象物がいずれの特定物(例えば、先行車両や自転車)に対応するかを特定する。また、車外環境認識装置120は、このように立体物を特定すると、立体物との衝突を回避したり(衝突回避制御)、先行車両との車間距離を安全な距離に保つように自車両1を制御する(クルーズコントロール)。なお、上記相対距離は、距離画像128におけるブロック毎の視差情報を、所謂ステレオ法を用いて三次元の位置情報に変換することで求められる。ここで、ステレオ法は、三角測量法を用いることで、対象物の視差からその対象物の撮像装置110に対する相対距離を導出する方法である。
車両制御装置130は、ステアリングホイール132、アクセルペダル134、ブレーキペダル136を通じて運転手の操作入力を受け付け、操舵機構142、駆動機構144、制動機構146に伝達することで自車両1を制御する。また、車両制御装置130は、車外環境認識装置120の指示に従い、操舵機構142、駆動機構144、制動機構146を制御する。
上述したように、車外環境認識システム100では、進行路を自車両横方向に横断する歩行者および自転車等を特定している。このような進行路を横断する歩行者や自転車等については、本来、歩行者全体の輪郭や自転車全体の輪郭によって歩行者らしさや自転車らしさを判定するのが望ましい。しかし、歩行者は横断速度が低いものの、自転車については、歩行者より横断速度が高く、自転車の全体の輪郭が確認できるまで待っていると、その間に自車両1と自転車との距離が短くなり、衝突回避制御として急な動作を要することになる。
したがって、自転車が輝度画像外から輝度画像内に入ってくる場合、自転車の一部が把握された時点で、速やかに自転車である可能性を認識し、応答性を高めるのが望ましい。しかし、前輪(1の車輪)のみによって自転車を特定しようとすると、その形状や表面の彩色が車輪に類似する立体物を自転車の前輪と誤検出してしまうおそれがある。
そこで、本実施形態では、前輪のみならず、自転車に搭乗している搭乗者(人)までが画像内に含まれた時点で立体物を自転車として特定することで、応答性と正確性とを両立させる。
以下、このような目的を実現するための車外環境認識装置120の構成について詳述する。ここでは、本実施形態に特徴的な、自車両1前方の検出領域における立体物(ここでは、自転車)の特定処理について詳細に説明し、本実施形態の特徴と無関係の構成については説明を省略する。
(車外環境認識装置120)
図3は、車外環境認識装置120の概略的な機能を示した機能ブロック図である。図3に示すように、車外環境認識装置120は、I/F部150と、データ保持部152と、中央制御部154とを含んで構成される。
I/F部150は、撮像装置110、および、車両制御装置130との双方向の情報交換を行うためのインターフェースである。データ保持部152は、RAM、フラッシュメモリ、HDD等で構成され、以下に示す各機能部の処理に必要な様々な情報を保持する。
中央制御部154は、中央処理装置(CPU)、プログラム等が格納されたROM、ワークエリアとしてのRAM等を含む半導体集積回路で構成され、システムバス156を通じて、I/F部150、データ保持部152等を制御する。また、本実施形態において、中央制御部154は、立体物領域特定部160、自転車判定部162、自転車特定部164、速度特定部166としても機能する。以下、本実施形態に特徴的な自転車を認識する車外環境認識処理について、当該中央制御部154の各機能部の動作も踏まえて詳述する。
(車外環境認識処理)
図4は、車外環境認識処理の流れを示すフローチャートである。車外環境認識処理では、まず、立体物領域特定部160が、画面において、立体物が存在する立体物領域を特定する(立体物領域特定処理S200)。次に、自転車判定部162が、立体物領域を垂直方向に対して分割した複数の分割領域それぞれにおける立体物の占有状態に基づいて自転車らしさを判定する(自転車判定処理S202)。次に、自転車特定部164が、自転車らしさに基づいて立体物を自転車と特定する(自転車特定処理S204)。最後に、速度特定部166が、分割領域における立体物の占有状態に基づいて立体物の速度を特定する(速度特定処理S206)。以下、各処理について詳述する。
(立体物領域特定処理S200)
立体物領域特定部160は、まず、距離画像128において、路面から高さが所定距離以上に位置する複数のブロックのうち自車両1との相対距離が等しく、かつ、互いに垂直方向および水平方向の距離が近いブロックをグループ化し、立体物(自転車候補)として特定する。次に、立体物領域特定部160は、このように特定した立体物全てを含む矩形の領域を立体物領域212として特定する。ここで、矩形は、垂直方向に延伸し、立体物の左右エッジにそれぞれ接する2本の直線、および、水平方向に延伸し、立体物の上下エッジにそれぞれ接する2本の直線で構成される。
図5は、立体物領域212を説明するための説明図である。例えば、図5に示すように、自転車が、自車両1前方において水平左方向に横断(移動)している場合を想定する。図5(a)の時点では、自転車は認識されていないので、立体物210が輝度画像126に存在していない。したがって、この時点では、立体物領域212は形成されない。
所定時間経過した図5(b)の時点には、立体物210として、自転車の一部である前輪が輝度画像126に含まれてくる。したがって、立体物領域特定部160は、かかる立体物210を含む矩形の立体物領域212を特定する。同様に、所定時間経過した図5(c)の時点には、立体物210として、自転車の一部である前輪、および、搭乗者が輝度画像126に含まれてくる。したがって、立体物領域特定部160は、かかる立体物210を含む矩形の立体物領域212を特定する。さらに所定時間経過した図5(d)の時点には、立体物210として自転車全体と搭乗者が輝度画像126に含まれる。したがって、立体物領域特定部160は、かかる立体物210を含む矩形の立体物領域212を特定する。
なお、図5のように、立体物210が輝度画像126の右に位置し、時間の経過とともに輝度画像126内の占有面積が大きくなる場合、移動方向は水平左方向となり、立体物210が輝度画像126の左に位置し、時間の経過とともに輝度画像126内の占有面積が大きくなる場合、移動方向は水平右方向となる。
(自転車判定処理S202)
上述したように、本実施形態では、図5(b)のように、輝度画像126に前輪(2つの車輪のうちの一方の車輪)が含まれたとしても、まだ、その立体物210を自転車と判断せず、図5(c)のように、前輪から、自転車に搭乗している搭乗者(人)までが画像内に含まれた時点で、後輪を除く、自転車の前輪および搭乗者を特定し、それを自転車らしいと判断する。こうして、自転車の誤検出を回避し、特定精度(正確性)を高めることができる。
また、図5(d)のように、輝度画像126に自転車全てが含まれる前、すなわち、図5(c)のように、前輪から、自転車に搭乗している搭乗者までが画像内に含まれた時点で、その立体物210を自転車と判断する。こうして、応答性を高めることができる。
したがって、自転車判定部162は、図5(c)のような、立体物210が、前輪および搭乗者に相当するかを判断することとなる。このため、自転車判定部162は、まず、特定された立体物領域212が、自転車としての前提となる条件(前提条件)を満たしているか否か判定する。そして、自転車判定部162は、前提条件を満たした立体物領域212が、さらに、自転車らしさを示す条件(積算条件)を満たすと、自転車らしさのポイントを積算して、総合的に自転車らしさを判定する。
具体的に、自転車判定部162は、前提条件(1)として、立体物領域212の相対距離が30m以下であるか否か判定し、30m以下であれば、立体物領域212を自転車候補として残す。これは、相対距離が30mを越えた範囲の立体物210は、分解能が低く、自転車か否か判定困難であり、また、その挙動が自車両1に影響を及ぼす可能性が低いからである。
次に、自転車判定部162は、前提条件(2)として、立体物領域212の大きさが水平1m以上、かつ、垂直1m以上であるか否か判定し、いずれも満たしていれば、立体物領域212を自転車候補として残す。これは、一般的な自転車より小さい立体物210を自転車候補から除外するためである。
続いて、自転車判定部162は、前提条件(3)として、立体物領域212の路面から高さが500mm以上であるか否か判定し、500mm以上であれば、立体物領域212を自転車候補として残す。これは、路肩等、道路に併設されている高さの低い立体物210を自転車候補から除外するためである。
次に、自転車判定部162は、前提条件(4)として、フレーム間(前回フレームと今回フレームとの間)において立体物領域212の高さの前回値に対する今回値の変動率が10%以下であるか否か判定し、10%以下であれば、立体物領域212を自転車候補として残す。
図6は、前提条件を説明するための説明図である。図6の時点t1に、輝度画像126に前輪が出現すると(図5(b)参照)、立体物210の立体物領域212が形成され、立体物領域212の高さが例えば1000mmとなる。また、図6の時点t2に、輝度画像126に搭乗者が出現すると(図5(c)参照)、立体物領域212の高さが100mmから1600mmに段階的に変化する。搭乗者が出現した後は、搭乗者の頭によって立体物領域212の高さが決まるので、立体物210が画像からズレ始める時点t3まで、図6に実線で示したように立体物領域212の高さはほとんど変動せず、その変動率が10%以下に収まる。換言すれば、立体物領域212の高さが変動しなくなったということは、搭乗者が出現したことを示すことになる。したがって、変動率によって、前輪および搭乗者を特定することができる。
続いて、自転車判定部162は、前提条件(5)として、フレーム間において立体物領域212の幅の前回値に対する今回値の変動率が20%以上であるか否か判定し、20%以上であれば、立体物領域212を自転車候補として残す。
図7は、前提条件を説明するための説明図である。ここでは、輝度画像126を横断する自転車を特定することを目的としている。したがって、立体物210は、最初に一部のみが出現し、その後、徐々にその占有面積が拡大される。したがって、立体物領域212の幅は、図7に示すように、輝度画像126に前輪が出現した時点t1から、時々刻々と大きくなるはずである。自転車判定部162は、立体物領域212の幅が、図7に実線で示したように、20%以上の変動率で推移すれば、立体物210が、少なくとも、3km/h以上の速度で横断していると判断することができる。
なお、ここでは、自転車らしさを、立体物領域212の幅の変動率によって定義しているが、これに代え、また、加えて、立体物領域212(立体物210)の速度に基づいて自転車らしさを判定してもよい。例えば、自転車判定部162は、前提条件(7)として、フレーム間(前回フレームと今回フレームとの間)における立体物領域212の速度が変化せず(ハンチングせず)、かつ、速度が3km/h以上であるか否か判定し、いずれも満たしていれば、立体物領域212を自転車候補として残すとしてもよい。
このように、立体物領域212が前提条件を満たすと、次に、自転車判定部162は、積算条件を満たしているか否か判定し、自転車らしさのポイントを積算する。
具体的に、自転車判定部162は、積算条件(1)として、立体物領域212の左右いずれかが画像端、または、立体物領域212より相対距離が短い他の立体物領域であるか判定し、かかる積算条件(1)を満たせば、自転車らしさのポイントを積算する。
図8は、積算条件を説明するための説明図である。例えば、図8(a)のように、自転車が画像端から水平左方向に移動している場合、自転車の一部(ここでは後輪)は、輝度画像126の撮像範囲の制限を受けて欠落する。したがって、立体物領域212の水平右方向には、画像端が連続的に位置することとなる。また、図8(b)のように、自転車が画像端から水平右方向に移動している場合も、図8(a)同様、立体物領域212の水平左方向には、画像端が連続的に位置することとなる。
また、図8(c)のように、自転車が水平左方向に移動しているとき、自転車の一部(ここでは後輪)が他の立体物領域214によって欠落する場合がある。かかる欠落部分は、他の立体物領域214より自車両1との相対距離が長い位置で、他の立体物領域214に隠れる形で存在する。すなわち、他の立体物領域214は、立体物領域212より自車両1との相対距離が短くなり、立体物領域212の水平右方向には、他の立体物領域214が連続的に位置することとなる。また、図8(d)のように、自転車が水平右方向に移動しているとき、自転車の一部が他の立体物領域214によって欠落する場合も、図8(c)同様、立体物領域212の水平左方向には、立体物領域212より自車両1との相対距離が短い他の立体物領域214が位置することとなる。したがって、自転車判定部162は、立体物領域212の左右いずれかが画像端であるか、または、立体物領域212より自車両1との相対距離が短い他の立体物領域214であるか判定することで、立体物210が、一部が欠落する自転車であることを特定できる。
続いて、自転車判定部162は、立体物領域212を垂直方向に対し均等に分割して複数(ここでは10)の分割領域を生成し、複数の分割領域それぞれにおける立体物210の占有状態に基づいて、積算条件(2)~(5)を判定し、後輪を除いた、自転車の前輪および搭乗者のいずれもが出現しているか否かを判定する。
図9は、積算条件を説明するための説明図である。自転車判定部162は、積算条件(2)として、所定の複数の分割領域(第1分割領域、第2分割領域)220における立体物210の左右エッジ同士を結んだ四角が台形を形成しているか否か判定する。
具体的に、自転車判定部162は、図9に示すように、複数の分割領域220のうちの搭乗者の頭に相当する垂直方向の下から9番目の頭分割領域220aにおける立体物210の左エッジ222aより、頭分割領域220aより垂直下方に位置する、搭乗者の胴体に相当する下から5番目の胴体分割領域220bにおける立体物210の左エッジ222bの方が水平左方向に位置し、頭分割領域220aにおける立体物210の右エッジ224aより、胴体分割領域220bにおける立体物210の右エッジ224bの方が水平右方向に位置する場合に、自転車らしさのポイントを積算する。
また、自転車判定部162は、複数の分割領域220のうちの搭乗者の胴体に相当する下から5番目の胴体分割領域220bにおける立体物210の左エッジ222bより、胴体分割領域220bより垂直下方に位置する、自転車本体に相当する下から2番目の本体分割領域220cにおける立体物210の左エッジ222cの方が水平左方向に位置し、胴体分割領域220bにおける立体物210の右エッジ224bより、本体分割領域220cにおける立体物210の右エッジ224cの方が水平右方向に位置する場合に、自転車らしさのポイントを積算する。
図10は、積算条件を説明するための説明図である。自転車判定部162は、積算条件(3)として、所定の複数の分割領域220における立体物210の水平方向の占有長さ同士を比較して、垂直方向下方の方が長いか否か判定する。
具体的に、自転車判定部162は、複数の分割領域220のうちの搭乗者の頭に相当する下から9番目の頭分割領域220aにおける立体物210の水平方向の占有長さLaより、搭乗者の胴体に相当する下から5番目の胴体分割領域220bにおける立体物210の水平方向の占有長さLbの方が長い場合に、自転車らしさのポイントを積算する。
また、自転車判定部162は、複数の分割領域220のうちの搭乗者の胴体に相当する下から5番目の胴体分割領域220bにおける立体物210の水平方向の占有長さLbより、自転車本体に相当する下から2番目の本体分割領域220cにおける立体物210の水平方向の占有長さLcの方が長い場合に、自転車らしさのポイントを積算する。
次に、自転車判定部162は、積算条件(4)として、複数の分割領域220のうちの搭乗者の頭に相当する下から9番目の頭分割領域220aにおける立体物210の水平方向の占有長さLaが500mm未満であるか否か判定し、500mm未満であれば、自転車らしさのポイントを積算する。これは、人の頭部が500mm以上となることがないからである。
続いて、自転車判定部162は、積算条件(5)として、複数の分割領域220のうちの自転車本体に相当する下から2番目の本体分割領域220cにおける立体物210の水平方向の占有長さLcが、搭乗者の頭に相当する下から9番目の頭分割領域220aにおける立体物210の水平方向の占有長さLaの3倍以上であれば、自転車らしさのポイントを積算する。これは、人の頭部と自転車本体との大きさの関係から設定されている。
なお、上述した積算条件(1)~(5)以外にも、例えば、一般的な自転車の形状と立体物210との形状マッチングをとる等、後輪を除く前輪および搭乗者のいずれもが出現しているか否かを判定する様々な条件を挙げることができる。
(自転車特定処理S204)
自転車特定部164は、自転車判定部162が、前提条件を満たし、かつ、積算条件により積算されたポイントが所定の閾値を超えた立体物領域212内の立体物210を自転車(正確には人が乗車している自転車)であると(自転車である可能性が高いと)特定する。なお、そのような条件を満たす回数は1回に限らず、例えば、前提条件を満たし、積算条件により積算されたポイントが所定の閾値を超えたフレームが連続して所定回数(例えば2回)あった場合に、はじめてその立体物領域212内の立体物210を自転車であると特定するとしてもよい。
(速度特定処理S206)
図11は、速度特定処理を説明するための説明図である。速度特定部166は、自転車判定部162が生成した分割領域220における立体物210の占有状態に基づいて立体物210の速度を特定する。具体的に、速度特定部166は、搭乗者の頭に相当する下から9番目の頭分割領域220aにおける立体物210の左右方向の中心226a、搭乗者の胴体に相当する下から5番目の胴体分割領域220bにおける立体物210の左右方向の中心226bのいずれか、または、双方の平均位置を基準位置とし、その基準位置の移動量に基づいて立体物領域212の速度を導出する。
輝度画像126を横断する自転車に対する立体物領域212の幅は徐々に大きくなる。したがって、立体物領域212自体の左右方向の中心が立体物領域212の幅の増加方向(立体物210の移動方向とは逆)に移動することとなる。そうすると、立体物領域212の左右方向の中心の速度は、自転車の実際の速度より遅くなってしまう。ここでは、立体物領域212の左右方向の幅ではなく、立体物領域212中で安定している搭乗者の頭や胴体を対象としているので、自転車の速度を正確に導出することが可能となる。
なお、ここでは、頭分割領域220a、胴体分割領域220bにおける立体物210の左右方向の中心226a、226bに基づいて、立体物領域212の速度を求める例を挙げて説明したが、かかる場合に限らず、例えば、搭乗者の胴体に相当する下から4番目の胴体分割領域における立体物210の左右方向の中心等、搭乗者の部位に相当する分割領域における立体物210の左右方向の中心を用いることができる。
このように立体物210が自転車であると特定されると、車外環境認識装置120は、立体物210である自転車との衝突を回避すべく、自転車を対象とする衝突回避制御を実行することとなる。
また、コンピュータを車外環境認識装置120として機能させるプログラムや、当該プログラムを記録した、コンピュータで読み取り可能なフレキシブルディスク、光磁気ディスク、ROM、CD、DVD、BD等の記憶媒体も提供される。ここで、プログラムは、任意の言語や記述方法にて記述されたデータ処理手段をいう。
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明はかかる実施形態に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
例えば、上述した実施形態においては、立体物領域212を均等に10に分割して分割領域220を生成する例を挙げて説明したが、その数は任意に設定することができる。また、上述した実施形態においては、搭乗者の頭、胴体、自転車本体等の位置を、例えば、下から2、5、9番目として処理しているが、実情に合わせて変更することもできる。また、搭乗者や自転車の他の部位を対象として、分割領域を設定するとしてもよい。
また、上述した実施形態においては、立体物領域212が前提条件を満たした場合に限り、積算条件を満たしているか否か判定し、自転車らしさのポイントを積算する例を挙げて説明したが、かかる場合に限らず、前提条件もポイント化し、全て積算されたポイントで自転車らしさを判定するとしてもよい。
なお、本明細書の車外環境認識処理の各工程は、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいはサブルーチンによる処理を含んでもよい。
本発明は、自車両の進行方向に存在する特定物を特定する車外環境認識装置に利用することができる。
120 車外環境認識装置
160 立体物領域特定部
162 自転車判定部
164 自転車特定部
166 速度特定部
210 立体物
212 立体物領域
220 分割領域

Claims (5)

  1. 画面において、立体物を含む立体物領域を特定する立体物領域特定部と、
    前記立体物領域を垂直方向に対して分割した複数の分割領域それぞれにおける前記立体物の占有状態に基づいて自転車らしさを判定する自転車判定部と、
    前記自転車らしさに基づいて前記立体物を自転車と特定する自転車特定部と、
    を備える車外環境認識装置。
  2. 前記自転車判定部は、後輪を除く前輪および搭乗者のいずれもが出現しているか否かに基づいて前記自転車らしさを判定する請求項1に記載の車外環境認識装置。
  3. 前記自転車判定部は、前記複数の分割領域のうちの第1分割領域における前記立体物の左エッジより、前記第1分割領域より垂直下方に位置する第2分割領域における前記立体物の左エッジの方が水平左方向に位置し、前記第1分割領域における前記立体物の右エッジより、前記第2分割領域における前記立体物の右エッジの方が水平右方向に位置する場合に、自転車らしいと判定する請求項1または2に記載の車外環境認識装置。
  4. 前記自転車判定部は、前記複数の分割領域のうちの搭乗者の頭に相当する頭分割領域における前記立体物の水平方向の占有長さより、搭乗者の胴体に相当する胴体分割領域における前記立体物の水平方向の占有長さの方が長い場合に、自転車らしいと判定する請求項1から3のいずれか1項に記載の車外環境認識装置。
  5. 前記自転車判定部は、前記複数の分割領域のうちの搭乗者の胴体に相当する胴体分割領域における前記立体物の水平方向の占有長さより、自転車本体に相当する本体分割領域における前記立体物の水平方向の占有長さの方が長い場合に、自転車らしいと判定する請求項1から4のいずれか1項に記載の車外環境認識装置。
JP2019210983A 2019-11-22 2019-11-22 車外環境認識装置 Active JP7336367B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019210983A JP7336367B2 (ja) 2019-11-22 2019-11-22 車外環境認識装置
US17/060,371 US11756325B2 (en) 2019-11-22 2020-10-01 Vehicle exterior environment recognition apparatus
CN202011101040.7A CN112836562A (zh) 2019-11-22 2020-10-15 车外环境识别装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019210983A JP7336367B2 (ja) 2019-11-22 2019-11-22 車外環境認識装置

Publications (2)

Publication Number Publication Date
JP2021082162A JP2021082162A (ja) 2021-05-27
JP7336367B2 true JP7336367B2 (ja) 2023-08-31

Family

ID=75923584

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019210983A Active JP7336367B2 (ja) 2019-11-22 2019-11-22 車外環境認識装置

Country Status (3)

Country Link
US (1) US11756325B2 (ja)
JP (1) JP7336367B2 (ja)
CN (1) CN112836562A (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013232080A (ja) 2012-04-27 2013-11-14 Denso Corp 対象物識別装置
JP2018195037A (ja) 2017-05-17 2018-12-06 株式会社Subaru 車外環境認識装置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3349060B2 (ja) 1997-04-04 2002-11-20 富士重工業株式会社 車外監視装置
JP2008134877A (ja) 2006-11-29 2008-06-12 Alpine Electronics Inc 周辺監視装置
WO2015097824A1 (ja) * 2013-12-26 2015-07-02 株式会社日立製作所 物体認識装置
JP6752024B2 (ja) * 2016-02-12 2020-09-09 日立オートモティブシステムズ株式会社 画像処理装置
US10157476B1 (en) * 2017-06-15 2018-12-18 Satori Worldwide, Llc Self-learning spatial recognition system
CN111857111A (zh) * 2019-04-09 2020-10-30 商汤集团有限公司 对象三维检测及智能驾驶控制方法、装置、介质及设备
EP3996066A4 (en) * 2019-07-05 2023-05-03 Hitachi Astemo, Ltd. OBJECT IDENTIFICATION DEVICE

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013232080A (ja) 2012-04-27 2013-11-14 Denso Corp 対象物識別装置
JP2018195037A (ja) 2017-05-17 2018-12-06 株式会社Subaru 車外環境認識装置

Also Published As

Publication number Publication date
US20210158060A1 (en) 2021-05-27
JP2021082162A (ja) 2021-05-27
US11756325B2 (en) 2023-09-12
CN112836562A (zh) 2021-05-25

Similar Documents

Publication Publication Date Title
JP5886809B2 (ja) 車外環境認識装置
JP6313646B2 (ja) 外界認識装置
JP5886799B2 (ja) 車外環境認識装置
JP6741646B2 (ja) 車外環境認識装置
JP5883833B2 (ja) 車外環境認識装置
JP2016218539A (ja) 車両の走路認識装置
CN108944926B (zh) 车外环境识别装置
US11295544B2 (en) Vehicle exterior environment recognition apparatus
JP6548312B2 (ja) 画像処理装置
JP6240475B2 (ja) 車外環境認識装置
JP6764378B2 (ja) 車外環境認識装置
JP7336367B2 (ja) 車外環境認識装置
JP7071102B2 (ja) 車外環境認識装置
JP6378594B2 (ja) 車外環境認識装置
JP2022040651A (ja) 車外環境認識装置
JP2019114150A (ja) 車外環境認識装置
JP7431623B2 (ja) 車外環境認識装置
CN112606839A (zh) 车外环境识别装置
JP7431698B2 (ja) 車外環境認識装置
JP6273156B2 (ja) 歩行者認識装置
JP2018088237A (ja) 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及び、情報処理プログラム
US11958483B2 (en) Vehicle external environment recognition apparatus
JP6970540B2 (ja) 車外環境認識装置および車外環境認識方法
JP2022123469A (ja) 路面標示認識方法及び路面標示認識装置
JP2022061539A (ja) 車外環境認識装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220926

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230725

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230821

R150 Certificate of patent or registration of utility model

Ref document number: 7336367

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150