JP4521642B2 - 車両周辺監視装置、車両、車両周辺監視プログラム - Google Patents

車両周辺監視装置、車両、車両周辺監視プログラム Download PDF

Info

Publication number
JP4521642B2
JP4521642B2 JP2008032026A JP2008032026A JP4521642B2 JP 4521642 B2 JP4521642 B2 JP 4521642B2 JP 2008032026 A JP2008032026 A JP 2008032026A JP 2008032026 A JP2008032026 A JP 2008032026A JP 4521642 B2 JP4521642 B2 JP 4521642B2
Authority
JP
Japan
Prior art keywords
vehicle
area
time point
local
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008032026A
Other languages
English (en)
Other versions
JP2009194542A (ja
Inventor
伸治 長岡
裕次 横地
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2008032026A priority Critical patent/JP4521642B2/ja
Priority to US12/809,874 priority patent/US7974445B2/en
Priority to PCT/JP2008/002828 priority patent/WO2009101660A1/ja
Priority to EP08872354.9A priority patent/EP2224743B1/en
Priority to CN2008801260333A priority patent/CN101933326B/zh
Publication of JP2009194542A publication Critical patent/JP2009194542A/ja
Application granted granted Critical
Publication of JP4521642B2 publication Critical patent/JP4521642B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/24—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view in front of the vehicle
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/30—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles providing vision in the non-visible spectrum, e.g. night or infrared vision
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/136—Segmentation; Edge detection involving thresholding
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/255—Detecting or recognising potential candidate objects based on visual cues, e.g. shapes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103—Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/301—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with other obstacle sensor information, e.g. using RADAR/LIDAR/SONAR sensors for estimating risk of collision
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/302—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with GPS information or vehicle data, e.g. vehicle speed, gyro, steering angle data
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/307—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261—Obstacle
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00—Indexing scheme relating to image or video recognition or understanding
    • G06V2201/08—Detecting or categorising vehicles

Description

本発明は、車載の撮像装置を通じて得られた画像を用いてこの車両の周辺を監視する装置等に関する。
車両に搭載されているカメラにより撮像された画像に基づき、歩行者等の対象物の実空間位置を測定し、当該測定結果に基づいて車両と対象物との接触可能性の高低を判定する技術が提案されている（特許文献１参照）。
特開２００７−２１３５６１号公報
しかし、車両と対象物との接触回避等の観点から、この対象物の種類が判定されることが好ましい場合がある。
そこで、本発明は、対象物の種類を高精度で判定することができる装置等を提供することを解決課題とする。
第１発明の車両周辺監視装置は、車両に搭載されている撮像装置を通じて得られた前記車両の周辺状況を表わす画像を用いて前記車両の周辺を監視する装置であって、前記画像に基づいて対象物の存在を認識する対象物検出要素と、第１時点および第２時点のそれぞれにおける前記画像に基づいて前記対象物検出要素により検出された前記対象物が同一であるという同一性要件を満たしているか否かを判定する対象物追跡要素と、前記車両から前記対象物までの距離を測定する距離測定要素と、前記画像において前記対象物が存在する領域を第１対象物領域として設定する第１対象物領域設定要素と、前記第１時点における前記第１対象物領域を基準として、複数の物体区分のそれぞれに応じた態様で配置された領域を第１局所領域として設定する第１局所領域設定要素と、前記対象物追跡要素により前記同一性要件が満たされていると判定された前記対象物について、前記距離測定要素により測定された前記第１時点における前記距離に対する前記第２時点における前記距離の比率で拡大または縮小された、前記第２時点における前記第１対象物領域を第２対象物領域として設定する第２対象物領域設定要素と、前記第１局所領域設定要素により設定された前記第１局所領域の配置態様と同一の態様で前記第２対象物設定要素により設定された前記第２対象物領域を基準として配置されている領域を第２局所領域として設定する第２局所領域設定要素と、前記第１局所領域設定要素により設定された前記第１局所領域と、前記第２局所領域設定要素により設定された前記第２局所領域との相関度を評価する相関度評価要素と、前記相関度評価要素により評価された前記相関度が閾値以上であるという相関要件を満たす前記第１局所領域の配置態様に応じた物体区分に前記対象物を分類する対象物分類要素とを備えていることを特徴とする。
第１発明の車両周辺監視装置によれば、異なる２つの時刻（＝第１時点および第２時点）のそれぞれにおける車両の周辺状況を表わす画像において設定された、同一の対象物が存在する対象物領域（＝第１対象物領域）のサイズが、当該異なる２つの時刻のそれぞれにおける車両からこの対象物までの距離に基づいて揃えられる。また、サイズが揃えられた当該対象物領域（＝第１時点における第１対象物領域および第２対象物領域（＝拡大または縮小された第２時点における第１対象物領域））のそれぞれを基準として同じ配置態様の局所領域（＝第１局所領域および第２局所領域）が設定される。さらに、第１局所領域と第２局所領域との相関度が閾値以上となる場合の配置態様に応じた物体区分に対象物が分類される。第１時点における第１対象物領域および第２対象物領域のそれぞれを基準として相関度が閾値以上となる態様で配置された第１局所領域および第２局所領域のそれぞれには、当該配置態様に応じた種類の対象物が存在している蓋然性が高い。したがって、前記のように複数の配置態様のうち相関度が閾値以上となるときの配置態様に応じた物体区分に対象物が分類されることにより、対象物の種類が高精度で判定されうる。
第２発明の車両は、撮像装置を通じて得られた前記車両の周辺状況を表わす画像を用いて前記車両の周辺を監視する第１発明の車両周辺監視装置とを備えていることを特徴とする。
第２発明の車両によれば、車両周辺監視装置により対象物の種類が高精度で判定されるので、当該判定結果に応じて車両の搭載機器の動作が車両とこの対象物との接触回避等の観点から適当に制御されうる。
第３発明の車両周辺監視プログラムは、車両に搭載されているコンピュータを、前記車両に搭載されている撮像装置を通じて得られた前記車両の周辺状況を表わす画像を用いて前記車両の周辺を監視する第１発明の車両周辺監視装置として機能させることを特徴とする。
第３発明の車両周辺監視プログラムによれば、車両に搭載されているコンピュータを、対象物の種類を高精度で判定する車両周辺監視装置として機能させることができる。
本発明の車両周辺監視装置等の実施形態について図面を用いて説明する。
図１に示されている車両（四輪自動車）１には、車両周辺監視装置１０と、単一の赤外線カメラ（撮像装置）１１が搭載されている。図１に示されているように原点Ｏが車両１の前側に位置し、Ｘ軸、Ｙ軸およびＺ軸のそれぞれが車両１の左右方向、上下方向および前後方向のそれぞれに延びるように実空間座標系が定義されている。赤外線カメラ１１は車両１の前方を撮像するために、車両１の前側に取り付けられている。また、図２に示されているように車両１には、車両１のヨーレート、速度およびブレーキの状態のそれぞれに応じた信号を出力するヨーレートセンサ１３、速度センサ１４およびブレーキセンサ１５等の種々のセンサが搭載されている。さらに、図２に示されているように車両１には音声出力装置１６および画像出力装置１７が搭載されている。画像出力装置１７としては、車両１のフロントウィンドウに画像を表示するＨＵＤ（ヘッドアップディスプレイ）のほか、車両１の走行状況を示す表示計またはナビゲーション装置を構成するディスプレイ装置等が採用されてもよい。
車両周辺監視装置１０は赤外線カメラ１１を通じて得られた画像を用いて車両１の周辺を監視する装置である。車両周辺監視装置１０はコンピュータ（ＣＰＵ，ＲＯＭ，ＲＡＭならびにＩ／Ｏ回路およびＡ／Ｄ変換回路等の電子回路等により構成されている。）により構成されている。車両周辺監視装置１０には、赤外線カメラ１１、ヨーレートセンサ１３、車速センサ１４およびブレーキセンサ１５等から出力されたアナログ信号がＡ／Ｄ変換回路を介してデジタル化されて入力される。当該入力データに基づき、メモリに格納されている「車両周辺監視プログラム」にしたがって、人間や他車両などの対象物の存在を認識する処理、車両１と認識した対象物との接触可能性の高低を判定する処理、および、この判定結果に応じて音声を音声出力装置１６に出力させたり、画像を画像出力装置１７に出力させたりする処理が当該コンピュータにより実行される。なお、プログラムは任意のタイミングでサーバからネットワークや衛星を介して車載コンピュータに配信または放送され、そのＲＡＭ等の記憶装置に格納されてもよい。車両周辺監視装置１０は位置のＥＣＵにより構成されていてもよいが、分散制御システムを構成する複数のＥＣＵにより構成されていてもよい。
車両周辺監視装置１０は図２に示されているように対象物検出要素１０２と、対象物追跡要素１０４と、距離測定要素１０６と、第１対象物領域設定要素１１２と、第１局所領域１１４と、第２対象物領域設定要素１２２と、第２局所領域設定要素１２４と、相関度評価要素１３２と、対象物分類要素１３４とを備えている。対象物検出要素１０２は赤外線カメラ１１を通じて得られた車両１の周辺状況を表わす画像に基づいて対象物の存在を認識する。対象物追跡要素１０４は第１時点および第２時点のそれぞれにおける画像に基づいて対象物検出要素１０２により検出された対象物が同一であるという「同一性要件」を満たしているか否かを判定する。ある時刻における画像または領域とは、この時刻における車両１の周辺状況を表わす画像またはこの画像において設定された領域を意味する。距離測定要素１０６は車両１から対象物までの距離を測定する。第１対象物領域設定要素１１２は画像において対象物が存在する領域を「第１対象物領域」として設定する。第１局所領域設定要素１１４は第１時点における第１対象物領域を基準として配置された領域を「第１局所領域」として設定する。第１対象物領域を基準とした第１局所領域の配置態様は、複数の物体区分のそれぞれに応じて定義されている。第２対象物領域設定要素１２２は対象物追跡要素１０４により同一性要件が満たされていると判定された対象物について「第２対象物領域」を設定する。第２対象物設定領域は、距離測定要素１０６により測定された第１時点における対象物距離に対する第２時点における対象物距離の比率で拡大または縮小された、第２時点における第１対象物領域である。第２局所領域設定要素１２４は第１局所領域設定要素１１４により設定された第１局所領域の配置態様と同一の態様で、第２対象物設定要素１２２により設定された第２対象物領域を基準として配置されている領域を「第２局所領域」として設定する。相関度評価要素１３２は第１局所領域設定要素１１４により設定された第１局所領域と、第２局所領域設定要素１２４により設定された第２局所領域との相関度を評価する。対象物分類要素１３４は相関度評価要素１３２により評価された相関度が閾値以上であるという「相関要件」を満たす第１局所領域の配置態様に応じた物体区分に対象物を分類する。
前記構成の車両１および車両周辺監視装置１０の機能について説明する。
まず、対象物検出要素１０２が赤外線カメラ１１を通じて得られた画像に基づき、対象物を検出する。具体的には、赤外線カメラ１１の出力信号である赤外線画像がＡ／Ｄ変換されることによりグレースケール画像が取得される（図３／Ｓ００２）。また、グレースケール画像が２値化処理されることにより２値化画像が取得される（図３／Ｓ００４）。２値化処理は、グレースケール画像を構成する各画素をその輝度が閾値以上であるか否かに応じて「１」（白）および「０」（黒）に区分する処理である。グレースケール画像および２値化画像はそれぞれ別の画像メモリに記憶される。さらに、２値化画像の高輝度領域を構成する「１」に区分されたまとまった画素群が、画像の縦方向（ｙ方向）に１画素分の幅を有して横方向（ｘ方向）延在するラインに分類され、各ラインがその位置（画像における２次元位置）の座標と長さ（画素数）とからなるランレングスデータに変換される（図３／Ｓ００６）。そして、このランレングスデータにより表されるラインのうち、画像縦方向に重なりを有するライン群のそれぞれにラベル（識別子）が付され（図３／Ｓ００８）、当該ライン群が対象物として検出される（図３／Ｓ０１０）。これにより、図４（ａ）に示されているように２値化画像において斜線で示されているような対象物（２値化対象物）が検出される。対象物には人間（歩行者）などの生物のほか、他車両などの人口構造物も含まれる。なお、同一物体の複数の局所部分が対象物として認識される場合もある。
また、対象物追跡要素１０４により、対象物の追跡処理、すなわち、対象物検出要素１０２の演算処理周期ごとに検出された対象物が同一であるか否かを判定する処理が実行される（図３／Ｓ０１２）。たとえば、特開２００１−６０９６号公報に記載されている手法にしたがって時刻ｋ−１およびｋのそれぞれの２値化画像において検出された対象物の形状やサイズ、グレースケール画像における輝度分布の相関性などに基づいて実行されうる。そして、これら対象物が同一であると判定された場合、時刻ｋにおける対象物のラベルが時刻ｋ−１における対象物のラベルと同じラベルに変更される。
さらに、距離測定要素１０６が画像に基づき、車両１から対象物検出要素１０２により検出された対象物までの距離を測定する。具体的には、２値化画像における対象物の重心位置が算定され、かつ、対象物の外接四角形が設定される（図３／Ｓ０１４）。対象物の重心位置は、この対象物に対応するランレングスデータの各ラインの中心位置の座標に当該各ラインの長さを乗じた結果をすべてのラインについて加算し、その加算結果を画像における対象物の面積により除算することにより求められる。なお、対象物の重心に代えて、対象物の外接四角形の重心（中心）の位置が算定されてもよい。また、異なる時刻において同一のラベルが付された対象物を表わす対象物領域のサイズの変化率Ｒａｔｅが評価される（図３／Ｓ０１６）。具体的には、時刻ｋにおける対象物領域の大きさ（外接四角形の縦幅、横幅または面積により表わされる。）Ｓｉｚｅ（ｋ）に対する、時刻ｋ−１における対象物領域の大きさＳｉｚｅ（ｋ−１）の比率が変化率Ｒａｔｅ（ｋ）＝Ｓｉｚｅ（ｋ−１）／Ｓｉｚｅ（ｋ）（＜１）として決定される。さらに、ヨーレートセンサ１３および速度センサ１４のそれぞれの出力に基づき、車両１の速度およびヨーレートが測定１され、ヨーレートの測定値が積分されることにより、車両１の回頭角（方位角）が算出される（図３／Ｓ０１８）。
また、今回の変化率Ｒａｔｅ（ｋ）に加え、今回の速度ｖ（ｋ）および赤外線カメラ１１の撮像時間間隔δＴに基づき、式（１）にしたがって車両１から対象物までの距離Ｚ（ｋ）が測定される（図３／Ｓ０２０）。
Figure 0004521642
また、車両周辺監視装置１０により、車両１から対象物までの距離に基づき、この対象物の実空間位置Ｐ（ｋ）＝（Ｘ（ｋ），Ｙ（ｋ），Ｚ（ｋ））として算定される（図３／Ｓ０２２）。具体的には、車両１から各対象物までの補正後の距離Ｚ（ｋ）と、赤外線カメラ１１の焦点距離ｆと、撮像画像における対象物に対応した領域の画像座標ｘ（ｋ）およびｙ（ｋ）とに基づき、式（２）にしたがって実空間座標系におけるＸ座標Ｘ（ｋ）およびＹ座標Ｙ（ｋ）が算定される。撮像画像の中心、右方向および下方向のそれぞれが、画像座標系における原点ｏ、＋ｘ方向および＋ｙ方向として定義されている。また、ヨーレートセンサ１５の出力に基づいて測定される回頭角に基づき、各対象物の実空間位置（Ｘ（ｋ），Ｙ（ｋ），Ｚ（ｋ））が回頭角補正される。
Figure 0004521642
また、第１対象物領域設定要素１１２により、２値化画像における対象物の重心位置および外接四角形の配置態様に基づき、グレースケール画像において対象物を表わす領域が「第１対象物領域」として設定される（図３／Ｓ０２４）。具体的には、まず、第１時点における車両１の周辺状況を表わすグレースケール画像において、対象物を基準として配置された複数のマスクが設定される。これにより、たとえば図４（ａ）に斜線で示されているように対象物の上下方向に並んで配置された複数の矩形状のマスクａi+（ｉ＝１，２，‥）およびａj-（ｊ＝１，２，‥）が設定される。当該複数のマスクは、対象物の重心または中心を通り、画像において上下方向に延びる基準ライン（一点鎖線）の上に中心位置を有するように配置されている。また、第１時点より前の第２時点における車両１の周辺状況を表わすグレースケール画像において当該複数のマスクとの相関度が閾値以上となるマスクが探索される。これにより、たとえば図４（ｂ）に示されているように第２時点における画像において、第１時点における複数のマスクａi+およびａj-との相関度が閾値以上のマスクａi+およびａj-が探索される。そして、対象物と、当該複数のマスクのうち、第１時点および第２時点における対象物との位置関係が同一またはほぼ同一の連続するマスクとを含む領域が第１対象物領域として設定される。これにより、たとえば図４（ｂ）に示されているように対象物およびその下方に連続して配置されたマスクａ1-〜ａ4-とを包含する矩形状の領域が第１対象物領域として設定される。
さらに、第２対象物領域設定要素１２２により、第２時点における第１対象物領域が拡大されることによって得られた領域が「第２対象物領域」として設定される（図３／Ｓ０２６）。これにより、たとえば図５（ａ）に示されている第２時点における第１対象物領域が拡大され、図５（ｂ）に示されている第２対象物領域が設定される。第１対象物領域の拡大率は、距離測定要素１０６により測定され、第１時点における車両１から対象物までの距離に対する、第２時点における車両１から対象物までの距離の比率と同じである。なお、第２時点が第１時点より後である場合、第２時点における第１対象物領域が縮小されることによって得られる領域が第２対象物領域として設定されうる。また、当該比率が１未満である場合、第２時点における第１対象物領域が縮小されることによって得られる領域が第２対象物領域として設定される。
また、第１局所領域設定要素１１４により、第１時点における第１対象物領域を基準として配置された一または複数の領域が「第１局所領域」として設定される（図３／Ｓ０２８）。これにより、たとえば図６（ａ）および（ｂ）のそれぞれの上側に示されているように、一点鎖線で囲まれている領域が第１局所領域として設定される。第１対象物領域を基準とした第１局所領域の配置態様は、複数の物体区分のそれぞれに対応して定義されている。たとえば、図６（ａ）に示されている第１局所領域の配置態様は「人間」という物体区分により定義されている。また、図６（ｂ）に示されている第１局所領域の配置態様は「自動車」という物体区分により定義されている。
さらに、第２局所領域設定要素１２４により、第２対象物領域を基準として配置された一または複数の領域が「第２局所領域」として設定される（図３／Ｓ０３０）。これにより、たとえば図６（ａ）および（ｂ）のそれぞれの下側に示されているように、二点鎖線で囲まれている領域が第２局所領域として設定される。第２局所領域は、第１対象物領域を基準とした第１局所領域の配置態様と同じ態様で第２対象物領域を基準として配置される。
また、相関度評価要素１３２により第１局所領域および第２局所領域の相関度が評価される（図３／Ｓ０３２）。そして、第１局所領域の配置態様ごとに、この相関度が閾値（ただし、第１対象物領域設定時のマスクの相関殿閾値とは異なる。）以上であるという「相関要件」が満たされているか否かが判定される（図３／Ｓ０３４）。そして、対象物分類要素１３４により、当該判定結果が肯定的である場合（図３／Ｓ０３４‥ＹＥＳ）、対象物分類要素１３４により、当該判定結果が否定的である場合（図３／Ｓ０３４‥ＮＯ）、先と異なる態様で配置されている第１局所領域および第２局所領域が設定された上で、相関要件の充足性が再び判定される（図３／Ｓ０２８，Ｓ０３０，Ｓ０３２）。一方、第１局所領域の配置態様に応じた物体区分に対象物が分類される（図３／Ｓ０３６）。これにより、たとえば、図６（ａ）に示されている第１局所領域および第２局所領域の相関度が閾値以上である場合、この第１局所領域の配置態様に応じた物体区分「人間」に対象物が分類される。また、図６（ｂ）に示されている第１局所領域および第２局所領域の相関度が閾値以上である場合（図３／Ｓ０３４‥ＮＯ）、この第１局所領域の配置態様に応じた物体区分「自動車」に対象物が分類される。なお、対象物は、人間および自動車という区分に加えてまたは代えて、鹿等の動物、樹木等の植物や建造物等の固定物等の区分に分類されてもよい。
また、異なる時刻における各対象物の実空間位置Ｐ（ｋ）に基づき、たとえば特開２００１−６０９６号公報に記載された衝突可能性の判定手法にしたがって、車両１と各対象物との接触可能性の高低または有無が判定される（図３／Ｓ０３８）。そして、車両１と対象物との接触可能性が高いと判定された場合（図３／Ｓ０３８‥ＹＥＳ）、対象物分類要素１３４により判定された対象物の種類に応じた態様で注意喚起処理が実行される（図３／Ｓ０４０）。具体的には、当該接触可能性の判定結果および対象物の分類結果に応じた音声および画像（当該対象物を強調表示するためのフレームなど）のそれぞれが音声出力装置１６および画像出力装置１７のそれぞれを通じて出力される。たとえば対象物が人間に分類された場合、対象物が車両に分類された場合よりも、この対象物の存在を車両１の運転者に強く認識させるように音声および画像の出力態様が調節される。なお、当該音声および画像のうち一方のみが出力されてもよい。また、ブレーキセンサ１５の出力に基づいて運転者による車両１のブレーキが操作されていないことが確認されたこと、または、速度センサ１４または加速度センサ（図示略）の出力に基づいて車両１の減速度が閾値以下であることが確認されたことを要件として注意喚起処理が実行されてもよい。一方、車両１と対象物との接触可能性が低いと判定された場合（図３／Ｓ０３８‥ＮＯ）、注意喚起処理は実行されない。
また、車両１のステアリング装置、ブレーキ装置およびアクセル装置のうち一部または全部がアクチュエータにより操作され、車両１の走行挙動が操作される場合、注意喚起処理に代えてまたは並行して車両挙動が制御されてもよい。具体的には、車両１との接触可能性が高いと判定された対象物との接触を回避するように、または、回避が容易になるように車両１のステアリング装置、ブレーキ装置およびアクセル装置のうち一部または全部の動作が車両制御ユニット（図示略）により制御されてもよい。たとえば、運転者によるアクセルペダルの必要踏力が、対象物との接触を回避する必要がない通常の場合よりも大きくなるようにアクセル装置を制御して加速しにくくする。また、車両１と対象物との接触を回避するために要求されるステアリング装置の操舵方向側へのステアリングハンドルの要求回転力を、反対側へのステアリングハンドルの要求回転力よりも低くして、当該操舵方向側へのステアリングハンドルの操作を容易に行いうるようにする。さらに、ブレーキ装置のブレーキペダルの踏み込み量に応じた車両１の制動力の増加速度を、通常の場合よりも高くする。このようにすることで、対象物との接触を避けるための車両１の運転が容易になる。
前記機能を発揮する車両周辺監視装置１０によれば、異なる２つの時点（＝第１時点および第２時点）のそれぞれにおける車両１の周辺状況を表わす画像において設定された、同一の対象物が存在する対象物領域（＝第１対象物領域）のサイズが、当該異なる２つの時刻のそれぞれにおける車両からこの対象物までの距離に基づいて揃えられる（図３／Ｓ０２０，Ｓ０２４，Ｓ０２６，図５（ａ）（ｂ）参照）。また、サイズが揃えられた当該対象物領域（＝第１時点における第１対象物領域および第２対象物領域（＝拡大または縮小された第２時点における第１対象物領域））のそれぞれを基準として同じ配置態様の局所領域（＝第１局所領域および第２局所領域）が設定される（図３／Ｓ０２８，Ｓ０３０，図６（ａ）（ｂ）参照）。さらに、第１局所領域と第２局所領域との相関度が閾値以上となる場合の配置態様に応じた物体区分に対象物が分類される（図３／Ｓ０３４，Ｓ０３６参照）。第１時点における第１対象物領域および第２対象物領域のそれぞれを基準として相関度が閾値以上となる態様で配置された第１局所領域および第２局所領域のそれぞれには、当該配置態様に応じた種類の対象物が存在している蓋然性が高い。したがって、前記のように複数の配置態様のうち相関度が閾値以上となるときの配置態様に応じた物体区分に対象物が分類されることにより、対象物の種類が高精度で判定されうる。そして、当該対象物の分類結果に応じて車両１の搭載機器（音声出力装置１６、画像出力装置１７、ステアリング装置、ブレーキ装置およびアクセル装置）の動作が車両１とこの対象物との接触回避等の観点から適当に制御されうる。
なお、前記実施形態では一の赤外線カメラ（単眼カメラ）を用いて、車両１から対象物までの距離が測定されたが、他の実施形態としてミリ波レーダ、レーザレーダまたは超音波レーダ等が用いられて車両１から対象物までの距離が測定されてもよい。さらに他の実施形態として車両の前側中央部を基準として左右対称に配置された一対の赤外線カメラの視差を用いて当該距離が算出されてもよい。また、撮像装置として赤外線カメラ１１に代えて可視光等、他の波長領域に感度が調節されたカメラが採用されてもよい。
本発明の車両の構成説明図 本発明の車両周辺監視装置の構成説明図 本発明の車両周辺監視装置の機能を示すフローチャート 第１対象物領域の設定方法に関する説明図 第２対象物領域の設定方法に関する説明図 第１および第２局所領域の設定方法に関する説明図
符号の説明
１‥車両、１０‥車両周辺監視装置、１１‥赤外線カメラ（撮像装置）

Claims (3)

  1. 車両に搭載されている撮像装置を通じて得られた前記車両の周辺状況を表わす画像を用いて前記車両の周辺を監視する装置であって、
    前記画像に基づいて対象物の存在を認識する対象物検出要素と、
    第１時点および第２時点のそれぞれにおける前記画像に基づいて前記対象物検出要素により検出された前記対象物が同一であるという同一性要件を満たしているか否かを判定する対象物追跡要素と、
    前記車両から前記対象物までの距離を測定する距離測定要素と、
    前記画像において前記対象物が存在する領域を第１対象物領域として設定する第１対象物領域設定要素と、
    前記第１時点における前記第１対象物領域を基準として、複数の物体区分のそれぞれに応じた態様で配置された領域を第１局所領域として設定する第１局所領域設定要素と、
    前記対象物追跡要素により前記同一性要件が満たされていると判定された前記対象物について、前記距離測定要素により測定された前記第１時点における前記距離に対する前記第２時点における前記距離の比率で拡大または縮小された、前記第２時点における前記第１対象物領域を第２対象物領域として設定する第２対象物領域設定要素と、
    前記第１局所領域設定要素により設定された前記第１局所領域の配置態様と同一の態様で、前記第２対象物設定要素により設定された前記第２対象物領域を基準として配置されている領域を第２局所領域として設定する第２局所領域設定要素と、
    前記第１局所領域設定要素により設定された前記第１局所領域と、前記第２局所領域設定要素により設定された前記第２局所領域との相関度を評価する相関度評価要素と、
    前記相関度評価要素により評価された前記相関度が閾値以上であるという相関要件を満たす前記第１局所領域の配置態様に応じた物体区分に前記対象物を分類する対象物分類要素とを備えていることを特徴とする車両周辺監視装置。
  2. 撮像装置を通じて得られた前記車両の周辺状況を表わす画像を用いて前記車両の周辺を監視する請求項１記載の車両周辺監視装置とを備えていることを特徴とする車両。
  3. 車両に搭載されているコンピュータを、前記車両に搭載されている撮像装置を通じて得られた前記車両の周辺状況を表わす画像を用いて前記車両の周辺を監視する請求項１記載の車両周辺監視装置として機能させることを特徴とする車両周辺監視プログラム。
JP2008032026A 2008-02-13 2008-02-13 車両周辺監視装置、車両、車両周辺監視プログラム Expired - Fee Related JP4521642B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2008032026A JP4521642B2 (ja) 2008-02-13 2008-02-13 車両周辺監視装置、車両、車両周辺監視プログラム
US12/809,874 US7974445B2 (en) 2008-02-13 2008-10-07 Vehicle periphery monitoring device, vehicle, and vehicle periphery monitoring program
PCT/JP2008/002828 WO2009101660A1 (ja) 2008-02-13 2008-10-07 車両周辺監視装置、車両、車両周辺監視プログラム
EP08872354.9A EP2224743B1 (en) 2008-02-13 2008-10-07 Vehicle periphery monitoring device, vehicle, and vehicle periphery monitoring program
CN2008801260333A CN101933326B (zh) 2008-02-13 2008-10-07 车辆周围监测装置、车辆

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008032026A JP4521642B2 (ja) 2008-02-13 2008-02-13 車両周辺監視装置、車両、車両周辺監視プログラム

Publications (2)

Publication Number Publication Date
JP2009194542A JP2009194542A (ja) 2009-08-27
JP4521642B2 true JP4521642B2 (ja) 2010-08-11

Family

ID=40956707

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008032026A Expired - Fee Related JP4521642B2 (ja) 2008-02-13 2008-02-13 車両周辺監視装置、車両、車両周辺監視プログラム

Country Status (5)

Country Link
US (1) US7974445B2 (ja)
EP (1) EP2224743B1 (ja)
JP (1) JP4521642B2 (ja)
CN (1) CN101933326B (ja)
WO (1) WO2009101660A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2639742A2 (en) 2012-03-12 2013-09-18 Honda Motor Co., Ltd. Vehicle periphery monitoring apparatus
WO2013136827A1 (ja) 2012-03-12 2013-09-19 本田技研工業株式会社 車両周辺監視装置

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4871909B2 (ja) * 2008-04-25 2012-02-08 日立オートモティブシステムズ株式会社 物体認識装置、および物体認識方法
WO2012066751A1 (ja) * 2010-11-16 2012-05-24 本田技研工業株式会社 車両の周辺監視装置
EP2711912A4 (en) * 2011-09-28 2015-04-22 Honda Motor Co Ltd BIOMETRIC DEVICE
WO2014022630A1 (en) * 2012-08-02 2014-02-06 Gentex Corporation System and method for controlling exterior vehicle lights responsive to detection of a semi-truck
EP2940656B1 (en) * 2012-12-25 2024-01-31 Honda Motor Co., Ltd. Vehicle periphery monitoring device
US9580014B2 (en) * 2013-08-08 2017-02-28 Convoy Technologies Llc System, apparatus, and method of detecting and displaying obstacles and data associated with the obstacles
JP6920159B2 (ja) * 2017-09-29 2021-08-18 株式会社デンソー 車両の周辺監視装置と周辺監視方法
JP2023107533A (ja) * 2022-01-24 2023-08-03 株式会社豊田自動織機 人検知システムの画像処理装置

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002312769A (ja) * 2001-04-16 2002-10-25 Matsushita Electric Ind Co Ltd 監視装置及びそのパラメータ設定方法
JP2003006642A (ja) * 2001-06-22 2003-01-10 Toshihiko Shimizu 熱画像を利用した画像処理装置
JP2004303219A (ja) * 2003-03-20 2004-10-28 Honda Motor Co Ltd 車両周辺監視装置
JP2006151300A (ja) * 2004-11-30 2006-06-15 Honda Motor Co Ltd 車両周辺監視装置
JP2006185432A (ja) * 2004-11-30 2006-07-13 Honda Motor Co Ltd 車両周辺監視装置
JP2007213561A (ja) * 2006-01-16 2007-08-23 Honda Motor Co Ltd 車両周辺監視装置
JP2007336091A (ja) * 2006-06-13 2007-12-27 Honda Motor Co Ltd 対象物検出装置、車両、対象物検出方法、並びに対象物検出用プログラム
JP2007334751A (ja) * 2006-06-16 2007-12-27 Honda Motor Co Ltd 車両周辺監視装置

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5144685A (en) * 1989-03-31 1992-09-01 Honeywell Inc. Landmark recognition for autonomous mobile robots
DE19636028C1 (de) * 1996-09-05 1997-11-20 Daimler Benz Ag Verfahren zur Stereobild-Objektdetektion
JP3515926B2 (ja) 1999-06-23 2004-04-05 本田技研工業株式会社 車両の周辺監視装置
US20020134151A1 (en) * 2001-02-05 2002-09-26 Matsushita Electric Industrial Co., Ltd. Apparatus and method for measuring distances
AU2003225228A1 (en) * 2002-05-03 2003-11-17 Donnelly Corporation Object detection system for vehicle
JP3916240B2 (ja) * 2003-08-07 2007-05-16 松下電器産業株式会社 運転支援装置及び運転支援方法
JP3934119B2 (ja) * 2004-06-14 2007-06-20 本田技研工業株式会社 車両周辺監視装置
JP2006115130A (ja) 2004-10-13 2006-04-27 Seiko Epson Corp 情報処理装置，及び、半導体集積回路
JP3970876B2 (ja) * 2004-11-30 2007-09-05 本田技研工業株式会社 車両周辺監視装置
US7483549B2 (en) * 2004-11-30 2009-01-27 Honda Motor Co., Ltd. Vehicle surroundings monitoring apparatus
JP2007235642A (ja) * 2006-03-02 2007-09-13 Hitachi Ltd 障害物検知システム
US7786898B2 (en) * 2006-05-31 2010-08-31 Mobileye Technologies Ltd. Fusion of far infrared and visible images in enhanced obstacle detection in automotive applications
US7724962B2 (en) * 2006-07-07 2010-05-25 Siemens Corporation Context adaptive approach in vehicle detection under various visibility conditions

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002312769A (ja) * 2001-04-16 2002-10-25 Matsushita Electric Ind Co Ltd 監視装置及びそのパラメータ設定方法
JP2003006642A (ja) * 2001-06-22 2003-01-10 Toshihiko Shimizu 熱画像を利用した画像処理装置
JP2004303219A (ja) * 2003-03-20 2004-10-28 Honda Motor Co Ltd 車両周辺監視装置
JP2006151300A (ja) * 2004-11-30 2006-06-15 Honda Motor Co Ltd 車両周辺監視装置
JP2006185432A (ja) * 2004-11-30 2006-07-13 Honda Motor Co Ltd 車両周辺監視装置
JP2007213561A (ja) * 2006-01-16 2007-08-23 Honda Motor Co Ltd 車両周辺監視装置
JP2007336091A (ja) * 2006-06-13 2007-12-27 Honda Motor Co Ltd 対象物検出装置、車両、対象物検出方法、並びに対象物検出用プログラム
JP2007334751A (ja) * 2006-06-16 2007-12-27 Honda Motor Co Ltd 車両周辺監視装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2639742A2 (en) 2012-03-12 2013-09-18 Honda Motor Co., Ltd. Vehicle periphery monitoring apparatus
WO2013136827A1 (ja) 2012-03-12 2013-09-19 本田技研工業株式会社 車両周辺監視装置
US10565438B2 (en) 2012-03-12 2020-02-18 Honda Motor Co., Ltd. Vehicle periphery monitor device

Also Published As

Publication number Publication date
CN101933326A (zh) 2010-12-29
EP2224743A4 (en) 2011-03-02
US20100278392A1 (en) 2010-11-04
WO2009101660A1 (ja) 2009-08-20
EP2224743A1 (en) 2010-09-01
US7974445B2 (en) 2011-07-05
CN101933326B (zh) 2012-11-28
JP2009194542A (ja) 2009-08-27
EP2224743B1 (en) 2013-07-17

Similar Documents

Publication Publication Date Title
JP4521642B2 (ja) 車両周辺監視装置、車両、車両周辺監視プログラム
JP4271720B1 (ja) 車両周辺監視装置
US8766816B2 (en) System for monitoring the area around a vehicle
JP5198346B2 (ja) 車両周辺監視装置
JP4173901B2 (ja) 車両周辺監視装置
JP4173902B2 (ja) 車両周辺監視装置
JP4486997B2 (ja) 車両周辺監視装置
US8189868B2 (en) Vehicle periphery monitoring device
JP2007304033A (ja) 車両の周辺監視装置、車両、車両の周辺監視方法、および車両の周辺監視用プログラム
EP2312550B1 (en) Vehicle periphery monitoring device
US7885430B2 (en) Automotive environment monitoring device, vehicle with the automotive environment monitoring device, and automotive environment monitoring program
JP4716294B2 (ja) 車両周辺監視装置、車両、車両周辺監視プログラム
JP4590654B2 (ja) 車両周辺監視装置、車両、車両周辺監視プログラム
JP4743797B2 (ja) 車両周辺監視装置、車両、車両周辺監視プログラム
JP5026398B2 (ja) 車両周辺監視装置
JP4496383B2 (ja) 車両周辺監視装置、車両周辺監視方法、車両周辺監視プログラム

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100427

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100512

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130604

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130604

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140604

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees