JP4743797B2 - Vehicle periphery monitoring device, vehicle, vehicle periphery monitoring program - Google Patents
Vehicle periphery monitoring device, vehicle, vehicle periphery monitoring program Download PDFInfo
- Publication number
- JP4743797B2 JP4743797B2 JP2008022370A JP2008022370A JP4743797B2 JP 4743797 B2 JP4743797 B2 JP 4743797B2 JP 2008022370 A JP2008022370 A JP 2008022370A JP 2008022370 A JP2008022370 A JP 2008022370A JP 4743797 B2 JP4743797 B2 JP 4743797B2
- Authority
- JP
- Japan
- Prior art keywords
- distance
- vehicle
- measurement
- reflection intensity
- objects
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Description
本発明は車両の周辺を監視する装置等に関する。 The present invention relates to an apparatus for monitoring the periphery of a vehicle.
ミリ波レーダ等のレーダ検出手段と、ステレオカメラ等の画像検出手段とを組み合わせて、対象物の検出精度の向上を図るための技術が提案されている。たとえば、レーダ検出手段による検出物標と、これに最も近接する画像検出手段による検出物標との組み合わせ(レーダベースペア)と、画像検出手段による検出物標と、これに最も近接するレーダ検出手段による検出物標との組み合わせ(画像ベースペア)との照合により、一致するペア(フュージョンペア)を構成するフュージョン物標の距離等の情報を設定する技術が提案されている(特許文献1参照)。
しかし、対象物の車両からの距離等の情報を得るため、レーダ検出手段および画像検出手段の両方により当該対象物(物標)が検出されることが要件とされている。このため、撮像装置を通じて対象物の検出または検出される一方、この対象物の電磁波の反射率が低い等のためにレーダを通じてこの対象物の存在が明確に認識されない場合、車両から対象物までの距離等の測定精度の向上が図られない。 However, in order to obtain information such as the distance of the object from the vehicle, it is required that the object (target) is detected by both the radar detection means and the image detection means. For this reason, when the object is detected or detected through the imaging device, but the presence of the object is not clearly recognized through the radar due to low reflectivity of the electromagnetic wave of the object, Measurement accuracy such as distance cannot be improved.
そこで、本発明は、撮像装置を通じて対象物の検出される一方、レーダを通じてこの対象物の存在が明確に認識されない場合でも、車両からこの対象物までの距離を高精度で測定することができる装置等を提供することを解決課題とする。 Therefore, the present invention is an apparatus capable of measuring the distance from the vehicle to the object with high accuracy even when the object is detected through the imaging device, but the presence of the object is not clearly recognized through the radar. Etc. is a problem to be solved.
第1発明の車両周辺監視装置は、車両に搭載されている撮像装置と、前記撮像装置の撮像領域を構成する対象領域に電磁波を発信してその反射波を受信することにより、前記電磁波の反射強度と、前記車両から前記対象領域に存在する対象物までの距離との関係を表わす反射強度データを取得するレーダ装置とを用いて前記車両の周辺を監視する装置であって、前記撮像装置を通じて得られた画像に基づき、対象物を検出する対象物検出要素と、前記画像に基づき、前記車両から前記対象物検出要素により検出された前記対象物までの距離を測定する距離測定要素と、前記距離測定要素による測定距離を前記レーダ装置により取得された前記反射強度データに基づいて補正する距離補正要素とを備え、前記対象物検出要素により一の前記対象領域において複数の前記対象物が検出され、かつ、前記距離測定要素により前記複数の対象物のそれぞれの前記測定距離が閾値を超えて異なる場合、前記距離補正要素が前記複数の対象物のうち、前記反射強度データの定義域である第1距離範囲において前記反射強度が最高のピークを示す第1距離に対して前記測定距離が最も近い一の前記対象物である第1対象物の前記測定距離を前記第1距離に補正するとともに、前記複数の対象物のうち、測定距離が前記第1距離に近い順に第i+1番目の第i+1対象物(i=1,2,‥)の前記測定距離を、前記第i+1対象物の前記測定距離を基準とし、かつ、前記第1距離ないし第i距離のすべてを包含しない第i+1距離範囲において前記反射強度が最高のピークを示す第i+1距離に補正することを特徴とする。
According to a first aspect of the present invention, there is provided a vehicle periphery monitoring device that reflects an electromagnetic wave by transmitting an electromagnetic wave to a target region that constitutes an imaging region of the imaging device and receiving the reflected wave. A device that monitors the periphery of the vehicle using a radar device that obtains reflection intensity data representing the relationship between the intensity and the distance from the vehicle to an object existing in the target region, through the imaging device An object detection element for detecting an object based on the obtained image; a distance measurement element for measuring a distance from the vehicle to the object detected by the object detection element based on the image; A distance correction element that corrects a measurement distance measured by the distance measurement element based on the reflection intensity data acquired by the radar device, and the object detection element is used as one target. When a plurality of the objects are detected in a region and the measurement distance of each of the plurality of objects differs by a distance measurement element exceeding a threshold value, the distance correction element includes the plurality of objects. The measurement distance of the first object which is the one object closest to the measurement distance with respect to the first distance where the reflection intensity shows the highest peak in the first distance range which is the definition area of the reflection intensity data. To the first distance, and among the plurality of objects, the measurement distances of the (i + 1) -th i + 1th object (i = 1, 2,...) Are measured in order from the closest measurement distance to the first distance. The correction distance is corrected to the (i + 1) th distance indicating the peak with the highest reflection intensity in the (i + 1) th distance range that does not include all of the first to ith distances, with the measurement distance of the (i + 1) th object as a reference. And wherein the Rukoto.
第1発明の車両周辺監視装置によれば、撮像装置の撮像領域を構成する一の対象領域において複数の対象物が検出され、かつ、各対象物について異なる測定距離が測定された場合、第1対象物の測定距離が反射強度データに基づいて第1距離に補正される。「測定距離」は、撮像装置を通じて得られた画像に基づいて測定される車両から対象物までの距離を意味する。「反射強度データ」はレーダ装置により発信された電磁波の物体による反射波の強度と、車両から当該物体までの距離との関係を表わす。「第1距離」は反射強度データの定義域である第1距離範囲において反射強度が最高のピークを示す距離を意味する。「第1対象物」は測定された測定距離が第1距離に最も近い一の対象物を意味する。第1対象物の測定距離に最も近く、かつ、反射強度データの定義域である第1距離範囲において反射強度が最高のピークを示している距離は、車両から第1対象物までの距離として信頼度が高い。したがって、前記のように第1対象物の測定距離が第1距離に補正されることにより、車両から第1対象物までの距離の測定精度を向上させることができる。 According to the vehicle periphery monitoring device of the first aspect of the present invention, when a plurality of objects are detected in one target area constituting the imaging area of the imaging device and different measurement distances are measured for each object, the first The measurement distance of the object is corrected to the first distance based on the reflection intensity data. “Measurement distance” means a distance from a vehicle to an object measured based on an image obtained through an imaging device. The “reflection intensity data” represents the relationship between the intensity of the reflected wave from the electromagnetic wave object transmitted by the radar device and the distance from the vehicle to the object. The “first distance” means a distance that exhibits the highest peak of the reflection intensity in the first distance range that is the definition area of the reflection intensity data. The “first object” means one object whose measured distance is closest to the first distance. The distance closest to the measurement distance of the first object and having the highest reflection intensity peak in the first distance range that is the definition area of the reflection intensity data is trusted as the distance from the vehicle to the first object. High degree. Therefore, the measurement accuracy of the distance from the vehicle to the first object can be improved by correcting the measurement distance of the first object to the first distance as described above.
また、この場合、複数の対象物のうち第i+1対象物(i=1,2,‥)の測定距離が、反射強度データに基づいて第i+1距離に補正される。「第i+1距離」は第i+1対象物の測定距離を基準とし、かつ、第1距離ないし第i距離のすべてを包含しない第i+1距離範囲において反射強度が最高のピークを示す距離を意味する。たとえば、第2対象物の測定距離は、これを基準とし、かつ、第1距離を包含しない第2距離範囲において反射強度が最高のピークを示す第2距離に補正される。また、一の対象領域において3つ以上の対象物が検出され、各対象物の測定距離が閾値を超えて異なる場合も同様に第3対象物以降の対象物の測定距離が補正される。第i+1対象物の測定距離の近傍において反射強度が最高のピークを示している距離は、車両から第i+1対象物までの距離として信頼度が高い。したがって、前記のように第i+1対象物の測定距離が補正されることにより、車両から第i+1対象物までの距離の測定精度を向上させることができる。すなわち、第i+1距離における反射強度のピークが、第1距離における反射強度のピークよりも低いまたは鈍いためにレーダ装置を通じて第i+1対象物の存在が明確に認識されない場合でも、車両から第i+1対象物までの距離が高精度で測定されうる。 In this case, the measurement distance of the (i + 1) th object (i = 1, 2,...) Among the plurality of objects is corrected to the (i + 1) th distance based on the reflection intensity data. The “i + 1th distance” means a distance having a peak with the highest reflection intensity in the i + 1th distance range that does not include all of the first distance to the ith distance, based on the measurement distance of the i + 1th object. For example, the measurement distance of the second object is corrected to the second distance that shows the peak with the highest reflection intensity in the second distance range that does not include the first distance. Further, when three or more objects are detected in one target region and the measurement distances of the objects are different from each other by exceeding the threshold value, the measurement distances of the objects after the third object are similarly corrected. The distance at which the reflection intensity has the highest peak in the vicinity of the measurement distance of the i + 1th object is highly reliable as the distance from the vehicle to the i + 1th object. Therefore, the measurement accuracy of the distance from the vehicle to the i + 1th object can be improved by correcting the measurement distance of the i + 1th object as described above. That is, even if the presence of the i + 1th object is not clearly recognized through the radar device because the peak of the reflection intensity at the i + 1th distance is lower or duller than the peak of the reflection intensity at the first distance, the i + 1th object from the vehicle. Can be measured with high accuracy.
第2発明の車両は、撮像装置と、前記撮像装置の撮像領域を構成する対象領域に電磁波を発信してその反射波を受信することにより、前記電磁波の反射強度と、前記車両から前記対象領域に存在する対象物までの距離との関係を表わす反射強度データを取得するレーダ装置と、第1発明の車両周辺監視装置とを備えていることを特徴とする。 According to a second aspect of the present invention, there is provided a vehicle according to a second aspect of the present invention, in which an electromagnetic wave is transmitted to a target area constituting the imaging area of the imaging apparatus and the reflected wave is received, and the reflected intensity of the electromagnetic wave A radar apparatus that acquires reflection intensity data representing a relationship with a distance to an object existing in the vehicle, and a vehicle periphery monitoring apparatus according to the first aspect of the present invention.
第2発明の車両によれば、撮像装置を通じて複数の対象物が検出される一方、レーダを通じて当該複数の対象物のうち第i+1対象物の存在が明確に認識されない場合でも、車両から第i+1対象物までの距離の測定精度を向上させることができる。したがって、当該測定結果を用いることにより、車両と対象物との接触可能性の高低評価、当該評価結果に応じたステアリング装置、ブレーキ装置、音声出力装置等の動作が車両と対象物との接触を回避する等の観点から適当に制御されうる。 According to the vehicle of the second aspect of the invention, a plurality of objects are detected through the imaging device, and even if the existence of the i + 1th object among the plurality of objects is not clearly recognized through the radar, the i + 1th object from the vehicle. The measurement accuracy of the distance to the object can be improved. Therefore, by using the measurement result, the evaluation of the possibility of contact between the vehicle and the object, the operation of the steering device, the brake device, the sound output device, etc. according to the evaluation result can be made to contact the vehicle and the object. It can be appropriately controlled from the viewpoint of avoidance.
第3発明の車両は、第2発明の車両において、前記撮像装置として単一の撮像装置を備えていることを特徴とする。 A vehicle according to a third aspect of the invention is the vehicle according to the second aspect of the invention, comprising a single imaging device as the imaging device.
第3発明の車両によれば、複数の撮像装置が車両に搭載されている場合と比較して車両の製造コストの節約を図りながら、前記のように撮像装置を通じて対象物が検出される一方、レーダを通じてこの対象物の存在が明確に認識されない場合でも、車両からこの対象物までの距離の測定精度を向上させることができる。 According to the vehicle of the third invention, the object is detected through the imaging device as described above while saving the manufacturing cost of the vehicle as compared with the case where a plurality of imaging devices are mounted on the vehicle. Even when the presence of the object is not clearly recognized through the radar, the measurement accuracy of the distance from the vehicle to the object can be improved.
第4発明の車両周辺監視プログラムは、撮像装置と、前記撮像装置の撮像領域を構成する対象領域に電磁波を発信してその反射波を受信することにより、前記電磁波の反射強度と、前記車両から前記対象領域に存在する対象物までの距離との関係を表わす反射強度データを取得するレーダ装置ととともに前記車両に搭載されているコンピュータを第1発明の車両周辺監視装置として機能させることを特徴とする。 According to a fourth aspect of the invention, there is provided a vehicle periphery monitoring program that transmits an electromagnetic wave to an imaging device and a target region that constitutes an imaging region of the imaging device and receives a reflected wave thereof. A radar device that obtains reflection intensity data representing a relationship with a distance to an object existing in the target region and a computer mounted on the vehicle function as the vehicle periphery monitoring device of the first invention. To do.
第4発明の車両周辺監視プログラムによれば、撮像装置およびレーダ装置と共に車両に搭載されているコンピュータを、撮像装置を通じて対象物の検出される一方、レーダを通じてこの対象物の存在が明確に認識されない場合でも、車両からこの対象物までの距離を高精度で測定する車両周辺装置として機能させることができる。 According to the vehicle periphery monitoring program of the fourth aspect of the invention, the computer mounted on the vehicle together with the imaging device and the radar device detects an object through the imaging device, but the presence of the object is not clearly recognized through the radar. Even in this case, it can function as a vehicle peripheral device that measures the distance from the vehicle to the object with high accuracy.
本発明の車両周辺監視装置等の実施形態について図面を用いて説明する。 DESCRIPTION OF EMBODIMENTS Embodiments of a vehicle periphery monitoring device and the like of the present invention will be described with reference to the drawings.
図1に示されている車両(四輪自動車)1には、車両周辺監視装置10と、単一の赤外線カメラ(撮像装置)11と、レーダ装置12とが搭載されている。また、図2に示されているように車両1には、車両1のヨーレート、速度およびブレーキの状態のそれぞれに応じた信号を出力するヨーレートセンサ13、速度センサ14およびブレーキセンサ15等の種々のセンサが搭載されている。さらに、図2に示されているように車両1には音声出力装置16および画像出力装置17が搭載されている。画像出力装置17としては、車両1のフロントウィンドウに画像を表示するHUΔ(ヘッドアップディスプレイ)のほか、車両1の走行状況を示す表示計またはナビゲーション装置を構成するディスプレイ装置等が採用されてもよい。
A vehicle (four-wheeled vehicle) 1 shown in FIG. 1 is equipped with a vehicle
赤外線カメラ11は車両1の前方を撮像するために、車両1の前側に取り付けられている。赤外線カメラ11の撮像領域は水平方向について図3に示されているラインL1およびL2により画定されている。
The
レーダ装置12は車両1の前側に赤外線カメラ11の上方に位置するように取り付けられている。レーダ装置12は上方から見たときに図3に示されているように赤外線カメラ11の撮像領域より狭い幅で広がるミリ波(電磁波)のビームBMを車両1の前方に送信する。レーダ装置12は走査型のレーダ装置であり、車両1の前方領域が車両1の左右方向に走査されるように、一定強度のビームBMがその送信角度を一定角度ずつずらしながら送信される。ビームBMの左右方向の走査範囲は赤外線カメラ11の撮像領域を水平方向についてすべて包含するように設定されている。一定角度ずつ方位がずらされるビームBMの照射領域のそれぞれは、赤外線カメラ11の撮像領域を構成する対象領域に該当する。また、ビームBMの上下方向の幅は、赤外線カメラ11の上下方向の視野を含むように設定されている。そして、レーダ装置12はこのミリ波の反射波、すなわち、車両1の前方に存在する対象物により反射されたミリ波を上下方向に配列された受信アンテナ(図示略)により受信する。また、この反射波の強度と、車両1からその前方に存在する対象物の距離との関係を表わす反射強度データを対象領域ごとに取得し、対象領域ごとの反射強度データを車両周辺監視装置10に出力する。
The
車両周辺監視装置10は赤外線カメラ11およびレーダ装置12を用いて車両1の周辺を監視する装置である。車両周辺監視装置10はコンピュータ(CPU,ROM,RAMならびにI/O回路およびA/Δ変換回路等の電子回路等により構成されている。)により構成されている。車両周辺監視装置10には、赤外線カメラ11、ヨーレートセンサ13、車速センサ14およびブレーキセンサ15等から出力されたアナログ信号がA/Δ変換回路を介してデジタル化されて入力されるとともに、レーダ装置12により取得された反射強度データも入力される。当該入力データに基づき、メモリに格納されている「車両周辺監視プログラム」にしたがって、人間や他車両などの対象物の存在を認識する処理、車両1と認識した対象物との接触可能性の高低を判定する処理、および、この判定結果に応じて音声を音声出力装置16に出力させたり、画像を画像出力装置17に出力させたりする処理が当該コンピュータにより実行される。なお、プログラムは任意のタイミングでサーバからネットワークや衛星を介して車載コンピュータに配信または放送され、そのRAM等の記憶装置に格納されてもよい。車両周辺監視装置10は位置のECUにより構成されていてもよいが、分散制御システムを構成する複数のECUにより構成されていてもよい。
The vehicle
車両周辺監視装置10は図2に示されているように対象物検出要素101と、距離測定要素102と、距離補正要素103とを備えている。対象物検出要素101は赤外線カメラ11を通じて得られた画像に基づき、対象物を検出する。距離測定要素102は画像に基づき、車両1から対象物検出要素101により検出された対象物までの距離を測定する。距離補正要素103は距離測定要素102による測定距離を、レーダ装置12により取得された反射強度データに基づき、後述の方法にしたがって補正する。
As shown in FIG. 2, the vehicle
前記構成の車両1および車両周辺監視装置10の機能について説明する。
Functions of the vehicle 1 and the vehicle
まず、対象物検出要素101が赤外線カメラ11を通じて得られた画像に基づき、対象物を検出する。具体的には、赤外線カメラ11の出力信号である赤外線画像がA/Δ変換されることによりグレースケール画像が取得される(図4/S002)。また、グレースケール画像が2値化処理することにより2値化画像が取得される(図4/S004)。2値化処理は、グレースケール画像を構成する各画素をその輝度が閾値以上であるか否かに応じて「1」(白)および「0」(黒)に区分する処理である。グレースケール画像および2値化画像はそれぞれ別の画像メモリに記憶される。さらに、2値化画像の高輝度領域を構成する「1」に区分されたまとまった画素群が、画像の縦方向(y方向)に1画素分の幅を有して横方向(x方向)延在するラインに分類され、各ラインがその位置(画像における2次元位置)の座標と長さ(画素数)とからなるランレングスデータに変換される(図4/S006)。そして、このランレングスデータにより表されるラインのうち、画像縦方向に重なりを有するライン群のそれぞれにラベル(識別子)が付され(図4/S008)、当該ライン群が対象物として検出される(図4/S010)。これにより、図5に示されているように2値化画像において2つの対象物AおよびBが検出される。対象物には人間(歩行者)などの生物のほか、他車両などの人口構造物も含まれる。なお、同一物体の複数の局所部分が対象物として認識される場合もある。
First, the object detection element 101 detects an object based on an image obtained through the
次に、距離測定要素102が画像に基づき、車両1から対象物検出要素101により検出された対象物までの距離を測定する。具体的には、2値化画像における対象物の重心位置が算定され、かつ、対象物の外接四角形が設定される(図4/S012)。対象物の重心位置は、この対象物に対応するランレングスデータの各ラインの中心位置の座標に当該各ラインの長さを乗じた結果をすべてのラインについて加算し、その加算結果を画像における対象物の面積により除算することにより求められる。なお、対象物の重心に代えて、対象物の外接四角形の重心(中心)の位置が算定されてもよい。また、対象物までの距離の測定手法としては、2値化画像またはグレースケール画像において対象物の下端をこの対象物と路面との交点として、カメラ(撮像装置)の路面からの高さと、カメラからこの交点を見たときの仰角とに基づいてこの対象物までの距離を算出する路面交点法など、前記とは異なるさまざまな手法が採用されてもよい。
Next, the
また、対象物の追跡処理、すなわち、対象物検出要素101の演算処理周期ごとに検出された対象物が同一であるか否かを判定する処理が実行される(図4/S014)。たとえば、時刻k−1およびkのそれぞれにおいて検出された対象物の2値化画像における形状やサイズ、グレースケール画像における輝度分布の相関性などに基づいて実行されうる。そして、これら対象物が同一であると判定された場合、時刻kにおける対象物のラベルが時刻k−1における対象物のラベルと同じラベルに変更される。また、2値化画像における対象物の重心位置および外接四角形の配置態様に基づき、グレースケール画像において対象物を表わす領域が対象物領域として設定される。 Further, a tracking process of the object, that is, a process of determining whether or not the detected object is the same every calculation processing cycle of the object detection element 101 is executed (FIG. 4 / S014). For example, it can be executed based on the shape and size of the binarized image of the object detected at each of the times k-1 and k, the correlation of the luminance distribution in the grayscale image, and the like. If it is determined that these objects are the same, the label of the object at time k is changed to the same label as the label of the object at time k-1. Further, based on the position of the center of gravity of the object in the binarized image and the arrangement of the circumscribed rectangle, an area representing the object in the grayscale image is set as the object area.
さらに、異なる時点において同一のラベルが付された対象物を表わす対象物領域のサイズの変化率Rateが評価される(図4/S016)。具体的には、時刻kにおける対象物領域がアフィン変換により複数の相似比(たとえば0.5,0.75,1.0,1.25および1.5)のそれぞれで縮小または拡大される。また、時刻k−1における対象物領域と、縮小または拡大された時刻kにおける対象物領域との相関度が評価される。そして、時刻k−1における対象物領域との相関度が最高の、縮小または拡大された時刻kにおける対象物領域の相似比が変化率Rateとして決定される。ヨーレートセンサ13および速度センサ14のそれぞれの出力に基づき、車両1の速度およびヨーレートが測定され、ヨーレートの測定値が積分されることにより、車両1の回頭角(方位角)が算出される(図4/S018)。
Further, the rate of change Rate of the size of the object region representing the object labeled with the same label at different time points is evaluated (FIG. 4 / S016). Specifically, the object region at time k is reduced or enlarged by each of a plurality of similarity ratios (for example, 0.5, 0.75, 1.0, 1.25, and 1.5) by affine transformation. Further, the degree of correlation between the object area at time k-1 and the object area at time k reduced or enlarged is evaluated. Then, the similarity ratio of the target area at time k at which the correlation degree with the target area at time k−1 has the highest degree of correlation is determined as the rate of change Rate. Based on the outputs of the
また、今回の変化率Rate(k)に加え、今回の速度v(k)および赤外線カメラ11の撮像時間間隔Δtに基づき、式(1)にしたがって車両1から対象物までの距離Z(k)が測定される(図4/S020)。これにより、たとえば図5に示されている対象物AおよびBのそれぞれの測定距離が65[m]および90[m]のそれぞれであるという測定結果が得られる。
Further, based on the current speed v (k) and the imaging time interval Δt of the
(数1)
Z(k)=Rate(k)v(k)Δt/(1−Rate(k)) ‥(1)
(Equation 1)
Z (k) = Rate (k) v (k) Δt / (1-Rate (k)) (1)
さらに、距離補正要素103がレーダ装置12により取得された反射強度データに基づき、距離測定要素102による測定距離を補正する。具体的には、まず、レーダ装置12により反射強度データが取得される(図4/S022)。これにより、たとえば図5において一点鎖線で囲まれている画像領域に対応する対象領域について、図6(a)に示されているような反射強度と車両1から物体までの距離との関係を表わす反射強度データが取得される。
Further, the
また、対象物検出要素101により一の対象領域において複数の対象物が検出され、かつ、当該複数の対象物のそれぞれについて距離測定要素102による測定距離が閾値を超えて異なっているという複数回補正要件が満たされているか否かが判定される(図4/S024)。複数回補正要件が満たされていると判定された場合(図4/S024‥YES)、対象物の測定距離が反射強度データに基づいて次のように補正される。すなわち、複数の対象物のうち第1対象物の測定距離が第1距離に補正される(図4/S026)。第1距離は反射強度データの定義域である第1距離範囲において反射強度が最高のピークを示す距離である。第1対象物は第1距離に対して測定距離が最も近い一の対象物である。たとえば、図5に示されている対象物AおよびBのそれぞれの測定距離が65[m]および90[m]のそれぞれであり、図6(a)に示されているような距離データが取得された場合を考える。この場合、図6(a)に示されているように第1距離範囲において最高のピークを示す第1距離が60[m]なので、これに測定距離が最も近い対象物Aが第1対象物として認識される。そして、第1対象物の測定距離である65[m]が第1距離である60[m]に補正される。
Further, multiple corrections are made such that a plurality of objects are detected in one target region by the object detection element 101, and the measurement distances measured by the
また、第i+1対象物(i=1,2,‥)の測定距離が第i+1距離に補正される(図4/S028)。第i+1距離は、第i+1対象物の測定距離を基準とし、かつ、前記第1距離ないし第i距離のすべてを包含しない第i+1距離範囲において反射強度が最高のピークを示す距離である。前記の場合、図5に示されている対象物A(第1対象物)Aと異なる対象物Bが第2対象物として認識される。そして、図6(b)に示されているように対象物Bの測定距離である90[m]を基準とする第2距離範囲において最高のピークを示す第2距離が80[m]なので、第2対象物の測定距離である90[m]が第2距離である80[m]に補正される。なお、一の対象領域において第1対象物のほか複数の対象物が検出された場合、当該複数の対象物のうち測定距離が第1距離に近い順に第2対象物以降の第i+1対象物として順次認識されてもよい。 Further, the measurement distance of the (i + 1) th object (i = 1, 2,...) Is corrected to the (i + 1) th distance (FIG. 4 / S028). The (i + 1) th distance is a distance that shows the peak with the highest reflection intensity in the (i + 1) th distance range that does not include all of the first distance to the ith distance, with the measurement distance of the (i + 1) th object as a reference. In the above case, the object B different from the object A (first object) A shown in FIG. 5 is recognized as the second object. And since the 2nd distance which shows the highest peak in the 2nd distance range on the basis of 90 [m] which is the measurement distance of the object B as shown in Drawing 6 (b) is 80 [m], 90 [m] that is the measurement distance of the second object is corrected to 80 [m] that is the second distance. In addition, when a plurality of objects other than the first object are detected in one object area, the i + 1th object after the second object is measured in order of the measurement distance being closer to the first distance among the plurality of objects. You may recognize sequentially.
一方、複数回補正要件が満たされていないと判定された場合(図4/S024‥NO)、一または各対象物の測定距離が反射強度データに基づいて第1距離に補正される(図4/S030)。たとえば一の対象領域において一の対象物しか検出されなかった場合、当該一の対象物の測定距離が第1距離に補正される。また、一の対象領域において複数の対象物が検出された一方、当該複数の対象物の測定距離の差が閾値(たとえば2[m])以内であった場合、当該複数の対象物は同一の物体の異なる部分であるという推察に鑑みて当該複数の対象物のそれぞれの測定距離がともに第1距離に補正される。 On the other hand, when it is determined that the correction requirement is not satisfied a plurality of times (FIG. 4 / S024... NO), the measurement distance of one or each object is corrected to the first distance based on the reflection intensity data (FIG. 4). / S030). For example, when only one object is detected in one object region, the measurement distance of the one object is corrected to the first distance. In addition, when a plurality of objects are detected in one target area, but the difference in measurement distance between the plurality of objects is within a threshold (for example, 2 [m]), the plurality of objects are the same. In view of the inference that the object is a different part, the measurement distances of the plurality of objects are both corrected to the first distance.
その後、車両周辺監視装置10により、各対象物の補正後の距離に基づき、各対象物の実空間座標系(図1参照)における位置が実空間位置P(k)=(X(k),Y(k),Z(k))として算定される(図4/S032)。実空間座標系は図1に示されているように原点O、X軸、Y軸およびZ軸が定義されている。具体的には、車両1から各対象物までの補正後の距離Z(k)と、赤外線カメラ11の焦点距離fと、撮像画像における対象物に対応した領域の画像座標x(k)およびy(k)とに基づき、式(2)にしたがって実空間座標系におけるX座標X(k)およびY座標Y(k)が算定される。撮像画像の中心、右方向および下方向のそれぞれが、画像座標系における原点o、+x方向および+y方向として定義されている。また、ヨーレートセンサ15の出力に基づいて測定される回頭角に基づき、各対象物の実空間位置(X(k),Y(k),Z(k))が回頭角補正される。
Thereafter, based on the corrected distance of each object by the vehicle
(数2)
X(k)=x(k)・Z(k)/f,
Y(k)=y(k)・Z(k)/f ‥(2)
(Equation 2)
X (k) = x (k) · Z (k) / f,
Y (k) = y (k) .Z (k) / f (2)
異なる時刻において測定された各対象物の実空間位置P(k)に基づき、たとえば特開2001−6096号公報に記載された衝突可能性の判定手法にしたがって、車両1と各対象物との接触可能性の高低または有無が判定される(図4/S034)。そして、車両1と対象物との接触可能性が高いと判定された場合(図4/S034‥YES)、注意喚起処理が実行される(図4/S036)。具体的には、当該判定結果に応じた音声および画像(当該対象物を強調表示するためのフレームなど)のそれぞれが音声出力装置16および画像出力装置17のそれぞれを通じて出力される。なお、当該音声および画像のうち一方のみが出力されてもよい。また、ブレーキセンサ15の出力に基づいて運転者による車両1のブレーキが操作されていないことが確認されたこと、または、速度センサ14または加速度センサ(図示略)の出力に基づいて車両1の減速度が閾値以下であることが確認されたことを要件として注意喚起処理が実行されてもよい。一方、車両1と対象物との接触可能性が低いと判定された場合(図4/S038‥NO)、注意喚起処理は実行されない。
Based on the real space position P (k) of each object measured at different times, for example, according to a collision possibility determination method described in Japanese Patent Laid-Open No. 2001-6096, contact between the vehicle 1 and each object. It is determined whether the possibility is high or low (FIG. 4 / S034). When it is determined that the possibility of contact between the vehicle 1 and the object is high (FIG. 4 / S034... YES), a warning process is executed (FIG. 4 / S036). Specifically, each of a sound and an image (such as a frame for highlighting the target object) according to the determination result is output through each of the
また、車両1のステアリング装置、ブレーキ装置およびアクセル装置のうち一部または全部がアクチュエータにより操作され、車両1の走行挙動が操作される場合、注意喚起処理に代えてまたは並行して車両挙動が制御されてもよい。具体的には、車両1との接触可能性が高いと判定された対象物との接触を回避するように、または、回避が容易になるように車両1のステアリング装置、ブレーキ装置およびアクセル装置のうち一部または全部の動作が車両制御ユニット(図示略)により制御されてもよい。たとえば、運転者によるアクセルペダルの必要踏力が、対象物との接触を回避する必要がない通常の場合よりも大きくなるようにアクセル装置を制御して加速しにくくする。また、車両1と対象物との接触を回避するために要求されるステアリング装置の操舵方向側へのステアリングハンドルの要求回転力を、反対側へのステアリングハンドルの要求回転力よりも低くして、当該操舵方向側へのステアリングハンドルの操作を容易に行いうるようにする。さらに、ブレーキ装置のブレーキペダルの踏み込み量に応じた車両1の制動力の増加速度を、通常の場合よりも高くする。このようにすることで、対象物との接触を避けるための車両1の運転が容易になる。 In addition, when part or all of the steering device, the brake device, and the accelerator device of the vehicle 1 are operated by the actuator and the driving behavior of the vehicle 1 is operated, the vehicle behavior is controlled instead of or in parallel with the alerting process. May be. Specifically, the steering device, the brake device, and the accelerator device of the vehicle 1 are avoided so as to avoid contact with an object that has been determined to have a high possibility of contact with the vehicle 1 or so as to facilitate avoidance. Some or all of the operations may be controlled by a vehicle control unit (not shown). For example, the accelerator device is controlled to make acceleration difficult so that the driver's required pedaling force on the accelerator pedal is greater than in a normal case where it is not necessary to avoid contact with the object. Further, the required rotational force of the steering handle toward the steering direction of the steering device required to avoid contact between the vehicle 1 and the object is lower than the required rotational force of the steering handle toward the opposite side, The steering handle can be easily operated in the steering direction. Furthermore, the increasing speed of the braking force of the vehicle 1 according to the depression amount of the brake pedal of the brake device is made higher than in the normal case. By doing in this way, the driving | operation of the vehicle 1 for avoiding a contact with a target object becomes easy.
前記機能を発揮する車両周辺監視装置10によれば、赤外線カメラ(撮像装置)11の撮像領域を構成する一の対象領域において複数の対象物が検出され、かつ、各対象物について異なる測定距離が測定された場合(図5参照)、第1対象物(対象物A)の測定距離が反射強度データに基づいて第1距離に補正される(図4/S024,S026、図6(a)参照)。第1対象物の測定距離に最も近く、かつ、反射強度データの定義域である第1距離範囲において反射強度が最高のピークを示している距離は、車両から第1対象物までの距離として信頼度が高い。したがって、前記のように第1対象物の測定距離が第1距離に補正されることにより、車両1から第1対象物までの距離の測定精度を向上させることができる。
According to the vehicle
また、この場合、複数の対象物のうち第2対象物(対象物B)の測定距離が、反射強度データに基づいて第2距離に補正される(図4/S028、図6(b)参照)。第2対象物の測定距離の近傍において反射強度が最高のピークを示している距離は、車両1から第2対象物までの距離として信頼度が高い。したがって、前記のように第2対象物の測定距離が補正されることにより、車両1から第2対象物までの距離の測定精度を向上させることができる。 In this case, the measurement distance of the second object (object B) among the plurality of objects is corrected to the second distance based on the reflection intensity data (see FIG. 4 / S028 and FIG. 6B). ). The distance at which the reflection intensity has the highest peak in the vicinity of the measurement distance of the second object is highly reliable as the distance from the vehicle 1 to the second object. Therefore, the measurement accuracy of the distance from the vehicle 1 to the second object can be improved by correcting the measurement distance of the second object as described above.
第1対象物が他車両等である一方、第2対象物が人間等の生物である状況では、赤外線カメラ(撮像装置)11を通じて第1対象物および第2対象物の両方が検出される一方、レーダ装置12を通じて第2対象物が検出されにくい。すなわち、第2距離における反射強度のピークが、第1距離における反射強度のピークよりも低いまたは鈍いためにレーダ装置12を通じて第2対象物の存在が明確に認識されない場合でも、車両1から第2対象物までの距離が高精度で測定されうる。これは、赤外線カメラ11を通じて得られた画像に基づき、一の対象領域において第1対象物および第2対象物とは異なる第3対象物以降の対象物が検出された場合も同様である。
While the first object is another vehicle or the like, while the second object is a living creature such as a human, both the first object and the second object are detected through the infrared camera (imaging device) 11. The second object is hardly detected through the
なお、前記実施形態では一の赤外線カメラ(単眼カメラ)を用いて、車両1から対象物までの距離が測定されたが、他の実施形態として車両の前側中央部を基準として左右対称に配置された一対の赤外線カメラの視差を用いて当該距離が算出されてもよい。また、撮像装置として赤外線カメラ11に代えて可視光等、他の波長領域に感度が調節されたカメラが採用されてもよい。さらに、レーダ装置12としてミリ波等の電磁波を用いるレーダ装置のほか、超音波等の弾性振動波を用いるレーダ装置が用いられてもよい。
In the above-described embodiment, the distance from the vehicle 1 to the object is measured using one infrared camera (monocular camera). However, as another embodiment, the distance is symmetrically arranged with respect to the front center portion of the vehicle. The distance may be calculated using the parallax of the pair of infrared cameras. Further, instead of the
1‥車両、10‥車両周辺監視装置、11‥赤外線カメラ(撮像装置)、12‥レーダ装置、101‥対象物検出要素、102‥距離測定要素、103‥距離補正要素 DESCRIPTION OF SYMBOLS 1 ... Vehicle, 10 ... Vehicle periphery monitoring device, 11 ... Infrared camera (imaging device), 12 ... Radar device, 101 ... Object detection element, 102 ... Distance measurement element, 103 ... Distance correction element
Claims (4)
前記撮像装置を通じて得られた画像に基づき、対象物を検出する対象物検出要素と、
前記画像に基づき、前記車両から前記対象物検出要素により検出された前記対象物までの距離を測定する距離測定要素と、
前記距離測定要素による測定距離を前記レーダ装置により取得された前記反射強度データに基づいて補正する距離補正要素とを備え、
前記対象物検出要素により一の前記対象領域において複数の前記対象物が検出され、かつ、前記距離測定要素により前記複数の対象物のそれぞれの前記測定距離が閾値を超えて異なる場合、前記距離補正要素が前記複数の対象物のうち、前記反射強度データの定義域である第1距離範囲において前記反射強度が最高のピークを示す第1距離に対して前記測定距離が最も近い一の前記対象物である第1対象物の前記測定距離を前記第1距離に補正するとともに、前記複数の対象物のうち、測定距離が前記第1距離に近い順に第i+1番目の第i+1対象物(i=1,2,‥)の前記測定距離を、前記第i+1対象物の前記測定距離を基準とし、かつ、前記第1距離ないし第i距離のすべてを包含しない第i+1距離範囲において前記反射強度が最高のピークを示す第i+1距離に補正することを特徴とする車両周辺監視装置。 By transmitting an electromagnetic wave to an imaging device mounted on a vehicle and a target region constituting an imaging region of the imaging device and receiving the reflected wave, the reflected intensity of the electromagnetic wave and the target region from the vehicle A device that monitors the periphery of the vehicle using a radar device that acquires reflection intensity data representing a relationship with a distance to an existing object,
An object detection element for detecting an object based on an image obtained through the imaging device;
A distance measuring element for measuring a distance from the vehicle to the object detected by the object detecting element based on the image;
A distance correction element that corrects a measurement distance by the distance measurement element based on the reflection intensity data acquired by the radar device;
When the object detection element detects a plurality of the objects in one target area, and the distance measurement element differs in each of the measurement distances of the plurality of objects exceeding a threshold, the distance correction Among the plurality of objects, the object whose measurement distance is closest to the first distance in which the reflection intensity shows the highest peak in the first distance range that is the definition area of the reflection intensity data. The measurement distance of the first object is corrected to the first distance, and, among the plurality of objects, the (i + 1) -th i + 1th object (i = 1) in order of the measurement distance being closer to the first distance. , 2,..., And the reflection intensity in the i + 1 distance range that does not include all of the first distance to the i-th distance, with the measurement distance of the i + 1-th object as a reference. A vehicle periphery monitoring device and correcting the first i + 1 distance indicating a high peak.
撮像装置と、前記撮像装置の撮像領域を構成する対象領域に電磁波を発信してその反射波を受信することにより、前記電磁波の反射強度と、前記車両から前記対象領域に存在する対象物までの距離との関係を表わす反射強度データを取得するレーダ装置と、前記撮像装置および前記レーダ装置を用いて前記車両の周辺を監視する装置とを備え、
前記車両周辺監視装置が、前記撮像装置を通じて得られた画像に基づき、対象物を検出する対象物検出要素と、
前記画像に基づき、前記車両から前記対象物検出要素により検出された前記対象物までの距離を測定する距離測定要素と、
前記距離測定要素による測定距離を前記レーダ装置により取得された前記反射強度データに基づいて補正する距離補正要素とを備え、
前記対象物検出要素により一の前記対象領域において複数の前記対象物が検出され、かつ、前記距離測定要素により前記複数の対象物のそれぞれの前記測定距離が閾値を超えて異なる場合、前記距離補正要素が前記複数の対象物のうち、前記反射強度データの定義域である第1距離範囲において前記反射強度が最高のピークを示す第1距離に対して前記測定距離が最も近い一の前記対象物である第1対象物の前記測定距離を前記第1距離に補正するとともに、前記複数の対象物のうち、測定距離が前記第1距離に近い順に第i+1番目の第i+1対象物(i=1,2,‥)の前記測定距離を、前記第i+1対象物の前記測定距離を基準とし、かつ、前記第1距離ないし第i距離のすべてを包含しない第i+1距離範囲において前記反射強度が最高のピークを示す第i+1距離に補正することを特徴とする車両。 A vehicle,
By transmitting an electromagnetic wave to an imaging device and a target region constituting the imaging region of the imaging device and receiving the reflected wave, the reflected intensity of the electromagnetic wave and the object existing in the target region from the vehicle A radar apparatus that obtains reflection intensity data representing a relationship with a distance; and an apparatus that monitors the periphery of the vehicle using the imaging apparatus and the radar apparatus,
The vehicle periphery monitoring device detects an object based on an image obtained through the imaging device; and
A distance measuring element for measuring a distance from the vehicle to the object detected by the object detecting element based on the image;
A distance correction element that corrects a measurement distance by the distance measurement element based on the reflection intensity data acquired by the radar device;
When the object detection element detects a plurality of the objects in one target area, and the distance measurement element differs in each of the measurement distances of the plurality of objects exceeding a threshold, the distance correction Among the plurality of objects, the object whose measurement distance is closest to the first distance in which the reflection intensity shows the highest peak in the first distance range that is the definition area of the reflection intensity data. The measurement distance of the first object is corrected to the first distance, and, among the plurality of objects, the (i + 1) -th i + 1th object (i = 1) in order of the measurement distance being closer to the first distance. , 2,..., And the reflection intensity in the i + 1 distance range that does not include all of the first distance to the i-th distance, with the measurement distance of the i + 1-th object as a reference. Vehicle and correcting the first i + 1 distance indicating a high peak.
前記撮像装置として単一の撮像装置を備えていることを特徴とする車両。 The vehicle according to claim 2, wherein
A vehicle comprising a single imaging device as the imaging device.
前記コンピュータが、前記撮像装置を通じて得られた画像に基づき、対象物を検出する対象物検出要素と、
前記画像に基づき、前記車両から前記対象物検出要素により検出された前記対象物までの距離を測定する距離測定要素と、
前記距離測定要素による測定距離を前記レーダ装置により取得された前記反射強度データに基づいて補正する距離補正要素とを備え、
前記対象物検出要素により一の前記対象領域において複数の前記対象物が検出され、かつ、前記距離測定要素により前記複数の対象物のそれぞれの前記測定距離が閾値を超えて異なる場合、前記距離補正要素が前記複数の対象物のうち、前記反射強度データの定義域である第1距離範囲において前記反射強度が最高のピークを示す第1距離に対して前記測定距離が最も近い一の前記対象物である第1対象物の前記測定距離を前記第1距離に補正するとともに、前記複数の対象物のうち、測定距離が前記第1距離に近い順に第i+1番目の第i+1対象物(i=1,2,‥)の前記測定距離を、前記第i+1対象物の前記測定距離を基準とし、かつ、前記第1距離ないし第i距離のすべてを包含しない第i+1距離範囲において前記反射強度が最高のピークを示す第i+1距離に補正する車両周辺監視装置として機能させることを特徴とする車両周辺監視プログラム。 By transmitting an electromagnetic wave to an imaging device and a target region constituting the imaging region of the imaging device and receiving the reflected wave, the reflection intensity of the electromagnetic wave and the distance from the vehicle to the target existing in the target region A program that causes a computer mounted on the vehicle together with a radar device that obtains reflection intensity data representing the relationship between the imaging device and the radar device to function as a device that monitors the periphery of the vehicle using the imaging device and the radar device. ,
An object detection element for detecting an object based on an image obtained by the computer through the imaging device;
A distance measuring element for measuring a distance from the vehicle to the object detected by the object detecting element based on the image;
A distance correction element that corrects a measurement distance by the distance measurement element based on the reflection intensity data acquired by the radar device;
When the object detection element detects a plurality of the objects in one target area, and the distance measurement element differs in each of the measurement distances of the plurality of objects exceeding a threshold, the distance correction Among the plurality of objects, the object whose measurement distance is closest to the first distance in which the reflection intensity shows the highest peak in the first distance range that is the definition area of the reflection intensity data. The measurement distance of the first object is corrected to the first distance, and, among the plurality of objects, the (i + 1) -th i + 1th object (i = 1) in order of the measurement distance being closer to the first distance. , 2,..., And the reflection intensity in the i + 1 distance range that does not include all of the first distance to the i-th distance, with the measurement distance of the i + 1-th object as a reference. A vehicle periphery monitoring program for causing to function as the vehicle periphery monitoring device for correcting the first i + 1 distance indicating a high peak.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008022370A JP4743797B2 (en) | 2008-02-01 | 2008-02-01 | Vehicle periphery monitoring device, vehicle, vehicle periphery monitoring program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008022370A JP4743797B2 (en) | 2008-02-01 | 2008-02-01 | Vehicle periphery monitoring device, vehicle, vehicle periphery monitoring program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009180698A JP2009180698A (en) | 2009-08-13 |
JP4743797B2 true JP4743797B2 (en) | 2011-08-10 |
Family
ID=41034779
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008022370A Active JP4743797B2 (en) | 2008-02-01 | 2008-02-01 | Vehicle periphery monitoring device, vehicle, vehicle periphery monitoring program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4743797B2 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018200267A (en) * | 2017-05-29 | 2018-12-20 | トヨタ自動車株式会社 | Upper structure determination device and driving support system |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005121601A (en) * | 2003-10-20 | 2005-05-12 | Nissan Motor Co Ltd | Device for detecting object, and method therefor |
WO2005059588A1 (en) * | 2003-12-16 | 2005-06-30 | Murata Manufacturing Co., Ltd. | Radar |
JP2006322853A (en) * | 2005-05-19 | 2006-11-30 | Olympus Corp | Distance measuring device, distance measuring method and distance measuring program |
JP2006322856A (en) * | 2005-05-19 | 2006-11-30 | Olympus Corp | Distance measuring device, distance measuring method and distance measuring program |
-
2008
- 2008-02-01 JP JP2008022370A patent/JP4743797B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005121601A (en) * | 2003-10-20 | 2005-05-12 | Nissan Motor Co Ltd | Device for detecting object, and method therefor |
WO2005059588A1 (en) * | 2003-12-16 | 2005-06-30 | Murata Manufacturing Co., Ltd. | Radar |
JP2006322853A (en) * | 2005-05-19 | 2006-11-30 | Olympus Corp | Distance measuring device, distance measuring method and distance measuring program |
JP2006322856A (en) * | 2005-05-19 | 2006-11-30 | Olympus Corp | Distance measuring device, distance measuring method and distance measuring program |
Also Published As
Publication number | Publication date |
---|---|
JP2009180698A (en) | 2009-08-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4521642B2 (en) | Vehicle periphery monitoring device, vehicle, vehicle periphery monitoring program | |
US6327536B1 (en) | Vehicle environment monitoring system | |
US8180561B2 (en) | Vehicle-installation obstacle detection apparatus | |
US6531959B1 (en) | Position detecting device | |
JP4271720B1 (en) | Vehicle periphery monitoring device | |
JP4486997B2 (en) | Vehicle periphery monitoring device | |
EP2889641A1 (en) | Image processing apparatus, image processing method, program and image processing system | |
JP4173902B2 (en) | Vehicle periphery monitoring device | |
JP5280768B2 (en) | Vehicle periphery monitoring device | |
JP2007104171A (en) | Front monitoring device | |
JP6722066B2 (en) | Surrounding monitoring device and surrounding monitoring method | |
JP2007304033A (en) | Monitoring device for vehicle periphery, vehicle, vehicle peripheral monitoring method, and program for vehicle peripheral monitoring | |
JP5718726B2 (en) | Vehicle periphery monitoring device | |
EP2312550B1 (en) | Vehicle periphery monitoring device | |
EP1982890B1 (en) | Automotive environment monitoring device, vehicle with the automotive environment monitoring device | |
US20220237921A1 (en) | Outside environment recognition device | |
JP4716294B2 (en) | Vehicle periphery monitoring device, vehicle, vehicle periphery monitoring program | |
JP4743797B2 (en) | Vehicle periphery monitoring device, vehicle, vehicle periphery monitoring program | |
JP2007310591A (en) | Image processor and parking space determination method | |
JP5783163B2 (en) | Target detection device | |
JP4590654B2 (en) | Vehicle periphery monitoring device, vehicle, vehicle periphery monitoring program | |
JP4629638B2 (en) | Vehicle periphery monitoring device | |
JP2008052467A (en) | Vehicle circumference monitoring system, vehicle, vehicle circumference monitoring system, construction system for vehicle circumference monitoring system | |
JP4496383B2 (en) | Vehicle periphery monitoring device, vehicle periphery monitoring method, vehicle periphery monitoring program | |
JP4381394B2 (en) | Obstacle detection device and method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110202 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110215 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110322 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110412 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110506 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140520 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 4743797 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |