JP4946228B2 - In-vehicle pedestrian detection device - Google Patents

In-vehicle pedestrian detection device Download PDF

Info

Publication number
JP4946228B2
JP4946228B2 JP2006196001A JP2006196001A JP4946228B2 JP 4946228 B2 JP4946228 B2 JP 4946228B2 JP 2006196001 A JP2006196001 A JP 2006196001A JP 2006196001 A JP2006196001 A JP 2006196001A JP 4946228 B2 JP4946228 B2 JP 4946228B2
Authority
JP
Japan
Prior art keywords
pedestrian
detection
vehicle
data
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006196001A
Other languages
Japanese (ja)
Other versions
JP2008026985A (en
Inventor
進也 川真田
映夫 深町
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2006196001A priority Critical patent/JP4946228B2/en
Publication of JP2008026985A publication Critical patent/JP2008026985A/en
Application granted granted Critical
Publication of JP4946228B2 publication Critical patent/JP4946228B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、車両に搭載され、車両の進行の妨げとなる位置にいる歩行者を検出し、運転者に歩行者の存在を通知する車載用歩行者検出装置に関する。   The present invention relates to a vehicle-mounted pedestrian detection device that detects a pedestrian mounted on a vehicle and that is in a position that prevents the vehicle from advancing, and notifies the driver of the presence of the pedestrian.

従来から、赤外線カメラで捉えた画像から歩行者等の自車両に影響を与える対象物を検出し、運転者に警報を発する障害物検出装置であって、運転者の操作に基づいて、運転者が意識的に警報対象から除外したい対象物の特徴と位置情報を記憶手段に記憶し、記憶手段に記憶された対象物が再度検出された場合には、対象物に対する警報出力を中止することにより、運転者を煩わす警報の出力を抑制するものが知られている(例えば、特許文献1参照)。
特開2004−106682号公報
2. Description of the Related Art Conventionally, an obstacle detection device that detects an object that affects a host vehicle such as a pedestrian from an image captured by an infrared camera, and issues an alarm to the driver. By consciously storing the characteristics and position information of the object to be excluded from the alarm object in the storage means, and when the object stored in the storage means is detected again, the alarm output for the object is stopped by A device that suppresses the output of an alarm bothering the driver is known (see, for example, Patent Document 1).
JP 2004-106682 A

しかしながら、上述の特許文献1に記載の構成では、警報対象から除外したい対象物を運転者が自ら操作して記憶させなければならず、除外した対象が多い場合は運転者の操作負担が過大となり、また同時に不要な対象物と必要な対象物が出現した場合、運転者は咄嗟に指示操作を行うことができず、不要検出を記憶することができない。   However, in the configuration described in Patent Document 1 described above, the driver must operate and memorize objects to be excluded from the alarm target, and if there are many excluded objects, the driver's operation burden becomes excessive. In addition, when an unnecessary object and a necessary object appear at the same time, the driver cannot perform an instruction operation and cannot store unnecessary detection.

更に、上述の特許文献1においては、不要検出について特徴と位置情報を元に識別を行なっているが、対向車の光や周辺環境の光等によって特徴が異なって捉えられ、記憶された対象物の特徴と一致せず不要検出とされないことがあるという問題があった。   Furthermore, in the above-mentioned Patent Document 1, identification is performed based on the feature and position information for unnecessary detection, but the object is captured and stored differently depending on the light of the oncoming vehicle, the light of the surrounding environment, and the like. There is a problem in that it is not consistent with the features of and may not be detected as unnecessary.

そこで、本発明は、歩行者の検出が発生する位置情報とその発生頻度に基づいて、不要検出を運転者の操作を要せず自動的に行うとともに、不要検出を低減させ、検出性能を向上させた車載用歩行者検出装置を提供することを目的とする。   Therefore, the present invention automatically performs unnecessary detection without requiring a driver's operation based on position information where the detection of pedestrians occurs and the frequency of occurrence thereof, and reduces unnecessary detection to improve detection performance. An object is to provide a vehicle-mounted pedestrian detection device.

上記目的を達成するため、第1の発明に係る車載用歩行者検出装置は、歩行者を含む車両周辺の対象物を検出する歩行者検出手段を有する車載用歩行者検出装置であって、
前記歩行者検出手段で検出された対象物の位置を算出する歩行者位置算出手段と、該歩行者算出手段により算出された対象物の位置を記憶する記憶手段と、前記歩行者検出手段により検出された対象物が歩行者であるか否かを判定する判定手段とを備え、
前記判定手段は、前記歩行者位置算出手段により算出された対象物位置において、前記記憶手段に記憶された過去の対象物検出データ数が所定数以上のときには、前記歩行者手段により検出された対象物が歩行者でないと判定し、
前記歩行者位置算出手段により算出された対象物位置の周辺領域において、前記記憶手段により記憶された前記過去の対象物検出データ数が所定数以上のときには、前記周辺領域内における前記歩行者検出手段の検出感度を上げることを特徴とする。これにより、看板等の非歩行者の静止対象物を歩行者と誤検出することを防ぐことができるとともに、人通りの多い領域では、歩行者であるのに検出されない未検出を防ぐことができる。
In order to achieve the above object, an on-vehicle pedestrian detection device according to a first aspect of the present invention is an on-vehicle pedestrian detection device having pedestrian detection means for detecting an object around a vehicle including a pedestrian,
Pedestrian position calculation means for calculating the position of the object detected by the pedestrian detection means, storage means for storing the position of the object calculated by the pedestrian calculation means, and detection by the pedestrian detection means Determination means for determining whether or not the target object is a pedestrian,
The determination means is an object detected by the pedestrian means when the number of past object detection data stored in the storage means is a predetermined number or more at the object position calculated by the pedestrian position calculation means. Determine that the object is not a pedestrian ,
In the peripheral area of the object position calculated by the pedestrian position calculation means, when the number of past object detection data stored by the storage means is a predetermined number or more, the pedestrian detection means in the peripheral area It is characterized by increasing the detection sensitivity . As a result, it is possible to prevent a non-pedestrian stationary object such as a signboard from being erroneously detected as a pedestrian, and to prevent undetected undetected even though it is a pedestrian in a busy area. .

の発明は、第1の発明に係る車載用歩行者検出装置において、
前記車載用歩行者検出装置は、前記記憶手段に記憶された前記過去の対象物検出データ数が前記所定数以上ある位置において、前記歩行者検出手段が対象物を検出しなくなったときには、前記位置に係る前記過去の対象物検出データを消去することを特徴とする。これにより、撤去された対象物により煩わされることがなくなる。
2nd invention is the vehicle-mounted pedestrian detection apparatus which concerns on 1st invention,
The vehicle-mounted pedestrian detection device is configured such that when the number of past object detection data stored in the storage unit is equal to or greater than the predetermined number, the pedestrian detection unit no longer detects an object. The past object detection data according to the above is erased. Thereby, it will not be bothered by the removed target object.

本発明によれば、運転者による誤検出除去の設定操作が不要で、かつ歩行者の誤検出が少ない車載用歩行者検出装置を提供することができる。   According to the present invention, it is possible to provide a vehicle-mounted pedestrian detection device that does not require a setting operation for erroneous detection and removal by a driver and that has few pedestrian erroneous detections.

以下、図面を参照して、本発明を実施するための最良の形態の説明を行う。   The best mode for carrying out the present invention will be described below with reference to the drawings.

図1は、本実施例に係る車載用歩行者検出装置の機能ブロック図の一例である。   FIG. 1 is an example of a functional block diagram of an in-vehicle pedestrian detection device according to the present embodiment.

本実施例に係る車載用歩行者検出装置は、歩行者検出手段10と、歩行者位置算出手段20と、記憶手段30と、判定手段40と、通知手段50とを備える。更に、必要に応じて、歩行者検出手段10は、検出感度調整手段11、車載カメラ等の撮像手段12、又はレーダー13とを備えてよい。また、歩行者位置算出手段20も、GPS(Global Positioning System)等の通信情報を取得する通信情報取得手段21を必要に応じて備えてよい。   The on-vehicle pedestrian detection device according to the present embodiment includes a pedestrian detection means 10, a pedestrian position calculation means 20, a storage means 30, a determination means 40, and a notification means 50. Furthermore, the pedestrian detection unit 10 may include a detection sensitivity adjustment unit 11, an imaging unit 12 such as an in-vehicle camera, or a radar 13 as necessary. Moreover, the pedestrian position calculation means 20 may also include communication information acquisition means 21 for acquiring communication information such as GPS (Global Positioning System) as necessary.

次に、各々の構成要素の機能及びその動作の概要について説明する。   Next, the function of each component and the outline of its operation will be described.

歩行者検出手段10は、車両の進行の妨げとなる歩行者の存在を検出するための手段である。例えば、車両が前方に進行中、前方に歩行者が居たら、歩行者の存在を検出する。歩行者の存在は、例えば車載カメラのような撮像手段12を用いて画像信号により検出してもよいし、レーダー13のような光や音波等を歩行者に照射し、その反射信号で歩行者の存在を検出するように構成してもよい。レーダー13を用いる場合は、例えばレーザー光を用いてもよいし、ミリ波を用いてもよいし、マイクロ波を用いてもよく、用途に応じて適宜適切なものを使用してよい。   The pedestrian detection means 10 is a means for detecting the presence of a pedestrian that hinders the progress of the vehicle. For example, if the vehicle is traveling forward and there is a pedestrian in front, the presence of the pedestrian is detected. The presence of a pedestrian may be detected by an image signal using an imaging unit 12 such as an in-vehicle camera, or the pedestrian is irradiated with light such as radar 13 or sound waves, and the reflected signal is used for the pedestrian. It may be configured to detect the presence of. When the radar 13 is used, for example, laser light may be used, millimeter waves may be used, microwaves may be used, and appropriate ones may be used depending on the application.

また、画像信号により歩行者を検出する場合には、種々の手法により検出されてよいが、例えばパターンマッチング方式が用いられてよい。一例を挙げると、所定の歩行者の画像パターンを予め認識して記憶保存しておき、撮像手段12により対象物の画像を取得したら、予め記憶保存していた歩行者の画像と比較し、両者の画像パターンが一致したら、対象物を歩行者として検出するように構成してよい。   Moreover, when detecting a pedestrian by an image signal, you may detect by various methods, For example, a pattern matching system may be used. For example, if an image pattern of a predetermined pedestrian is recognized and stored in advance and an image of the object is acquired by the imaging means 12, the image is compared with the pedestrian image stored and stored in advance. If the image patterns match, the object may be detected as a pedestrian.

検出感度調整手段11は、歩行者検出の感度を調整する手段である。検出の感度を上げれば、歩行者は多く検出されるようになるが、代わりに歩行者以外の検出物も増えるので、歩行者以外の対象物を歩行者として検出するノイズが増える可能性も高くなる。一方、検出感度を下げれば、ノイズは減り、歩行者でない対象物を検出する確率は低くなるが、代わりに歩行者の検出漏れが出る可能性が出てくる。このように、検出感度は適切な感度に調整されることが好ましいので、検出感度調整手段11を必要に応じて設けてよい。検出感度調整手段11は、例えば、上述のパターンマッチング方式で構成された場合には、マッチングの閾値を上げたり下げたりして調整することができる。閾値を下げれば、撮像手段12で取得した画像と、比較参照用のパターン画像が大まかに合っていれば検出することになるし、閾値を下げればその逆に、細部までパターンが一致していないと、歩行者として認識しないということになる。   The detection sensitivity adjustment means 11 is a means for adjusting the sensitivity of pedestrian detection. If the detection sensitivity is increased, more pedestrians will be detected, but instead the number of detected objects other than pedestrians increases, so there is a high possibility that the noise for detecting objects other than pedestrians as pedestrians will increase. Become. On the other hand, if the detection sensitivity is lowered, the noise is reduced and the probability of detecting an object that is not a pedestrian is lowered, but there is a possibility that a detection failure of a pedestrian will occur instead. As described above, since the detection sensitivity is preferably adjusted to an appropriate sensitivity, the detection sensitivity adjustment means 11 may be provided as necessary. For example, when the detection sensitivity adjustment unit 11 is configured by the above-described pattern matching method, the detection sensitivity adjustment unit 11 can perform adjustment by increasing or decreasing the matching threshold value. If the threshold value is lowered, detection is performed if the image acquired by the imaging means 12 and the pattern image for comparison reference roughly match, and if the threshold value is lowered, the pattern is not matched to the details. It will not be recognized as a pedestrian.

歩行者検出手段10により検出された歩行者存在の情報は、歩行者位置算出手段20に送られる。   Information on the presence of a pedestrian detected by the pedestrian detection means 10 is sent to the pedestrian position calculation means 20.

なお、歩行者検出手段10では、歩行者の存在だけでなく、歩行者の位置も算出するようにしてよい。例えば、画像信号により歩行者の存在を検出する場合には、カメラの向きや傾斜角度等から、歩行者の位置を検出できる。この場合は、歩行者存在情報を歩行者位置算出手段20に送るだけでなく、歩行者位置情報を判定部40に送るように構成してよい。   Note that the pedestrian detection means 10 may calculate not only the presence of the pedestrian but also the position of the pedestrian. For example, when the presence of a pedestrian is detected from an image signal, the position of the pedestrian can be detected from the direction of the camera, the tilt angle, and the like. In this case, not only the pedestrian presence information is sent to the pedestrian position calculating means 20, but also the pedestrian position information may be sent to the determination unit 40.

歩行者位置算出手段20は、歩行者検出手段10からの歩行者検出情報に基づいて、歩行者の位置を算出する。歩行者の位置は、自車両の位置を例えばGPSにより把握し、かつ車両の方向、歩行者との距離等の歩行者との位置関係を示す情報を把握することにより、両者に基づいて算出することができる。GPS等の通信情報を用いて自車両の位置を把握するためには、アンテナや受信機等の通信情報取得手段21を利用してよい。一方、自車両の歩行者との位置関係は、例えばステアリングセンサにより検出したステアリング操舵角から車両の進行方向を求め、車両速度計で検出した車両速度と自車位置の関係等から歩行者との距離を求めるようにしてもよい。   The pedestrian position calculation unit 20 calculates the position of the pedestrian based on the pedestrian detection information from the pedestrian detection unit 10. The position of the pedestrian is calculated based on both the position of the host vehicle by, for example, GPS, and information indicating the positional relationship with the pedestrian such as the direction of the vehicle and the distance from the pedestrian. be able to. In order to grasp the position of the vehicle using communication information such as GPS, communication information acquisition means 21 such as an antenna or a receiver may be used. On the other hand, the positional relationship of the host vehicle with the pedestrian is determined, for example, by determining the traveling direction of the vehicle from the steering angle detected by the steering sensor and the relationship between the vehicle speed detected by the vehicle speedometer and the host vehicle position. The distance may be obtained.

このように、歩行者位置算出手段20は、自車両の地理上の絶対位置と、自車両の位置を基点として歩行者との相対位置を把握することにより、歩行者の位置を算出することができる。歩行者位置算出手段20で算出された歩行者位置の情報は、記憶手段30及び/又は判定手段40に送られる。   Thus, the pedestrian position calculation means 20 can calculate the position of the pedestrian by grasping the geographical position of the own vehicle and the relative position with the pedestrian based on the position of the own vehicle. it can. Information on the pedestrian position calculated by the pedestrian position calculation means 20 is sent to the storage means 30 and / or the determination means 40.

記憶手段30は、歩行者位置算出手段20から直接又は判定手段40を経て間接的に送られてきた歩行者位置に関する情報を記憶する。歩行者位置に関する情報は、少なくとも歩行者の位置を特定できる情報を含み、例えば緯度と経度の情報や、GPSの画像内におけるX−Y座標であってよい。記憶手段30に記憶された歩行者位置情報は、各位置における検出頻度をデータとして利用するため、記憶手段30において位置毎に分類したり、位置毎の記録回数を示す情報に変換してもよい。記憶手段30は、このように歩行者位置情報のデータを蓄積記憶し、必要に応じて、判定手段40からそのデータを参照され、判定手段40における判定のためのデータを提供する役割を担う。   The storage unit 30 stores information on the pedestrian position sent directly from the pedestrian position calculation unit 20 or indirectly through the determination unit 40. The information regarding the pedestrian position includes at least information capable of specifying the position of the pedestrian, and may be, for example, latitude and longitude information or XY coordinates in a GPS image. The pedestrian position information stored in the storage unit 30 uses the detection frequency at each position as data. Therefore, the pedestrian position information may be classified for each position in the storage unit 30 or converted into information indicating the number of recordings for each position. . The storage unit 30 accumulates and stores the pedestrian position information data as described above and plays a role of providing data for determination in the determination unit 40 when the data is referred to by the determination unit 40 as necessary.

判定手段40は、歩行者位置算出手段20から送られてきた歩行者位置に関する情報の正誤の判定を行い、必要な処理を実行する。判定に際しては、記憶手段25に記憶されている過去データを参照し、過去データに基づき、歩行者位置算出手段20から送られてきた歩行者位置に関する情報について、そのまま歩行者と判断してよいのか、それとも非歩行者を歩行者として誤検出してしまったのか、又は歩行者の未検出が有り得る等の判断を行なう。具体的な判定方法については後述するが、判定結果に応じ、必要な処理を実行する。例えば、送られてきた歩行者の情報が正しいと判定したときには、通知手段50に送って運転者に歩行者の存在を通知する。その際、新しい歩行者情報として、記憶手段25にデータを書き込むようにしてよい。また、送られてきた歩行者の情報が誤検出であると判定したときには、通知手段50で歩行者の存在を通知しないような制御を行なう。例えば、通知手段50への信号を出力しないようにしてもよいし、誤検出信号を出力して通知手段50において出力しない旨の指令をしてもよい。更に、送られてきた歩行者の情報から、未検出が有り得ると判断したときには、歩行者検出部10の検出感度を上げる等の制御を行なうようにしてもよい。   The determination unit 40 determines whether the information regarding the pedestrian position sent from the pedestrian position calculation unit 20 is correct or not, and executes necessary processing. In determining, can the past data stored in the storage unit 25 be referred to and the information regarding the pedestrian position sent from the pedestrian position calculation unit 20 based on the past data be determined as a pedestrian as it is? Or, a determination is made as to whether a non-pedestrian has been erroneously detected as a pedestrian, or there may be no detection of a pedestrian. Although a specific determination method will be described later, necessary processing is executed according to the determination result. For example, when it is determined that the sent pedestrian information is correct, the information is sent to the notification means 50 to notify the driver of the presence of the pedestrian. At that time, data may be written into the storage means 25 as new pedestrian information. Further, when it is determined that the information of the pedestrian that has been sent is erroneous detection, the notification means 50 performs control so as not to notify the presence of the pedestrian. For example, the signal to the notification unit 50 may not be output, or an error detection signal may be output and the notification unit 50 may be instructed not to output the signal. Furthermore, when it is determined from the information on the pedestrian that has been sent that there may be no detection, control such as increasing the detection sensitivity of the pedestrian detection unit 10 may be performed.

また、判断の際には、歩行者検出手段10において検出した歩行者位置も合わせて照合するようにしてよい。歩行者位置算出手段20により算出された歩行者位置との照合を取ることにより、より正確で信頼度高く歩行者の位置情報を取得できる。   In the determination, the pedestrian position detected by the pedestrian detection means 10 may also be collated. By comparing with the pedestrian position calculated by the pedestrian position calculating means 20, the position information of the pedestrian can be acquired more accurately and with high reliability.

なお、判定手段40は、コンピュータ等の演算手段により構成されてよく、例えば、ECU(Electorical Control Unit)に組み込まれてもよいし、単独で設けられてもよい。また、電気回路やプログラムを読み込んだFPGA(Field Program Gate Array)等により構成されてもよい。   Note that the determination unit 40 may be configured by a calculation unit such as a computer. For example, the determination unit 40 may be incorporated in an ECU (Electrical Control Unit) or may be provided alone. Further, it may be configured by an FPGA (Field Program Gate Array) or the like that reads an electric circuit or a program.

通知手段50は、判定手段40の指令に基づいて、歩行者の存在を運転者に通知する。具体的には、例えば、警報やアナウンス等の音声による通知や、ディスプレイや発光ダイオード等の視覚による通知により実行されてよいし、それらが併用されてもよい。   The notification means 50 notifies the driver of the presence of a pedestrian based on the command from the determination means 40. Specifically, for example, it may be executed by voice notification such as an alarm or announcement, or visual notification such as a display or a light emitting diode, or may be used in combination.

図2は、本実施例に係る車載用歩行者検出装置において、判定手段40において行なわれている判定の基本的な考え方を説明するための図である。   FIG. 2 is a diagram for explaining a basic concept of determination performed by the determination unit 40 in the vehicle-mounted pedestrian detection apparatus according to the present embodiment.

図2(a)は、走行中の車両と非歩行者である看板と歩行者との関係を示した図である。車両に搭載された歩行者検出装置において、例えば画像認識を用いて歩行者を検出する場合には、カメラ等の撮像手段により取得した画像から、歩行者と非歩行者を区別して画像認識し、歩行者のみを正確に検出することが要求される。しかしながら、例えば人物画が描かれた看板は、人物とほぼ同じ大きさであり、形状も2次元平面で見れば類似しているので、画像認識のみにより正確に人物と区別して検知不要と判断するのは極めて困難である。他にも、図2(b)に示すように、人物が描かれていなくても、細長で人物と同じような幅で、上端が人物大となってしまうような看板は、画像認識で人物以外の対象物と判定して不要検出するのは極めて困難である。同様に、図2(c)に示すように、樹木が人物大の垣根等も不要検出が困難である。   FIG. 2A is a diagram showing a relationship between a traveling vehicle, a signboard that is a non-pedestrian, and a pedestrian. In a pedestrian detection device mounted on a vehicle, for example, when detecting a pedestrian using image recognition, the image recognition is performed by distinguishing a pedestrian and a non-pedestrian from an image acquired by an imaging unit such as a camera, It is required to accurately detect only pedestrians. However, for example, a signboard on which a person image is drawn is almost the same size as a person, and the shape is similar when viewed on a two-dimensional plane. It is extremely difficult. In addition, as shown in FIG. 2 (b), even if a person is not drawn, a signboard that is slender and has the same width as a person and the upper end of the person becomes large is recognized by image recognition. It is extremely difficult to detect an object other than the object and detect unnecessary. Similarly, as shown in FIG. 2 (c), it is difficult to detect unnecessary fences or the like where the tree is a person.

そこで、本実施例に係る車載用歩行者検出では、歩行者は移動物であり、非歩行者は常設された静止物であることに着目し、この相違点で区別して不要検出を除去することとした。具体的には、歩行者として検出した対象物の位置データを記憶手段25に記憶蓄積してゆき、歩行者を新たに検出する度に、その歩行者の位置における過去の検出履歴データを参照するようにする。略同一の位置において、過去の検出履歴が所定回数以上検出されているようであれば、その対象物は歩行者ではなく、常設された看板等の静止物と判定することができる。この検出対象を、歩行者として検出したものから除外することにより、非歩行者を歩行者として検出する不要検出又は誤検出の数を減らすことができる。   Therefore, in the on-vehicle pedestrian detection according to the present embodiment, paying attention to the fact that the pedestrian is a moving object and the non-pedestrian is a permanent stationary object, distinguishing this difference and removing unnecessary detection It was. Specifically, the position data of the object detected as a pedestrian is stored and accumulated in the storage unit 25, and every time a pedestrian is newly detected, the past detection history data at the position of the pedestrian is referred to. Like that. If past detection histories are detected a predetermined number of times or more at substantially the same position, the object can be determined not as a pedestrian but as a stationary object such as a permanent signboard. By excluding this detection target from those detected as pedestrians, it is possible to reduce the number of unnecessary detections or false detections for detecting non-pedestrians as pedestrians.

また逆に、横断歩道のように人が多く行き来する場所では、人が重なったり、手を上げて横断する人等もいたりして、検出した歩行者画像がパターン認識で記憶している参照用画像と異なる形状に見える場合が有り得る。人間は、体勢、姿勢、動作により如何様の形状にも変化し得るが、パターン認識の方は必ずしも総ての人間が作る形状パターンに対応できる訳ではなく、例えば人がしゃがんでいたりすると、人であるという認識が非常に難しくなる。加えて、横断歩道のような人が集まる場所では、人同士が重なったりするということが起こり得る。そこで、人が多く集まる場所においては、その場所を頻出領域として認識し、その領域内で歩行者が検出されたときには、検出感度を上げて、人にある程度近い画像であれば、歩行者として認識するような制御方法をとることができる。これにより、歩行者の未検出を減らすことができる。   Conversely, in places where many people come and go, such as pedestrian crossings, people may overlap or there may be people who cross their hands, etc., and the detected pedestrian image is stored for pattern reference. There may be cases where the image looks different from the image. Humans can change to any shape depending on their posture, posture, and movement, but pattern recognition does not necessarily correspond to shape patterns created by all humans. For example, if a person is crouching, It becomes very difficult to recognize that In addition, in places where people gather, such as pedestrian crossings, people may overlap each other. Therefore, in a place where many people gather, the place is recognized as a frequent area, and when a pedestrian is detected in that area, the detection sensitivity is increased, and if the image is close to a certain level, it is recognized as a pedestrian. A control method can be taken. Thereby, undetected pedestrians can be reduced.

次に、本実施例に係る車載用歩行者検出装置を実際に車両に搭載したときの具体的な実施例について説明する。   Next, a specific example when the vehicle-mounted pedestrian detection device according to this example is actually mounted on a vehicle will be described.

図3は、車両に搭載した本実施例に係る車載用歩行者検出装置のシステム構成の一例を示す図である。なお、図3において、図1で説明した構成要素に対応する構成要素については、図1で付した参照符号と同一の番号に更にアルファベットを付した参照符号を用い、その対応関係が理解し易いようにする。   FIG. 3 is a diagram illustrating an example of a system configuration of the on-vehicle pedestrian detection device according to the present embodiment mounted on a vehicle. In FIG. 3, the constituent elements corresponding to the constituent elements described in FIG. 1 are denoted by the same reference numerals as those in FIG. Like that.

図3において、本実施例に係る車載用歩行者検出装置は、近赤外線カメラ12aと、歩行者検出ECU10aと、メモリ30aを含むナビゲーション20aと、メモリを参照・記録を行い、誤検出・エリア判定を行う判定ECU40aと、注意喚起装置50aとから構成される。   In FIG. 3, the vehicle-mounted pedestrian detection device according to the present embodiment refers to and records a near-infrared camera 12a, a pedestrian detection ECU 10a, a navigation 20a including a memory 30a, and a memory, and performs false detection / area determination. It is comprised from determination ECU40a which performs and alerting device 50a.

近赤外線カメラ12aは、歩行者の候補となる対象物の画像検出を行う。近赤外線カメラ12aは、散乱しにくく薄い対象物は透過して撮像でき、また夜間でも撮像できるので、歩行者検出手段として適している。近赤外線カメラ12aの代わりに、遠赤外線カメラを用いてもよい。同じ赤外線カメラなので、同様の性質を有する。更に、可能であれば可視光線を利用したカメラ等も利用できるし、画像を取得する必要が無ければ、レーダー等も利用できる。近赤外線カメラ12aで撮像して取得した画像信号は、歩行者検出ECU10aに送られる。   The near-infrared camera 12a detects an image of an object that is a candidate for a pedestrian. The near-infrared camera 12a is suitable as a pedestrian detection unit because it can capture and image a thin object that is not easily scattered and can also capture images at night. A far-infrared camera may be used instead of the near-infrared camera 12a. Since they are the same infrared camera, they have similar properties. Furthermore, if possible, a camera using visible light can be used, and if it is not necessary to acquire an image, a radar or the like can be used. The image signal acquired by capturing with the near-infrared camera 12a is sent to the pedestrian detection ECU 10a.

歩行者検出ECU10aでは、近赤外線カメラ12aで取得した対象物画像が、歩行者か否かの画像認識を行なう。歩行者検出ECU10aは、歩行者の画像パターンを予め参照用画像として記憶しており、近赤外線カメラ12aから送られてくる対象物画像に、歩行者が含まれるか否かをパターンマッチングにより認識判定してゆく。なお、参照用画像は、歩行者検出ECU10a内に設けられたメモリ等の記憶手段に記憶されてよく、パターンマッチングの演算処理はECU10a内の演算処理機能により処理されてよい。また、歩行者検出ECU10aは、歩行者の存在を認識したときには、その位置座標も算出するようにしてよい。近赤外線カメラ12aの向きや傾き等から、歩行者との距離が推定できるので、これに基づいて、歩行者検出ECU10a内で歩行者の位置座標も演算算出してよい。歩行者検出手段10aにより歩行者の存在が検出されたら、歩行者情報は判定ECU40aに送られる。なお、歩行者の位置情報があれば、その情報も合わせて判定ECU40aに送ってよい。   The pedestrian detection ECU 10a performs image recognition as to whether or not the object image acquired by the near infrared camera 12a is a pedestrian. The pedestrian detection ECU 10a stores a pedestrian image pattern as a reference image in advance, and recognizes whether or not a pedestrian is included in the object image sent from the near-infrared camera 12a by pattern matching. I will do it. The reference image may be stored in a storage unit such as a memory provided in the pedestrian detection ECU 10a, and the pattern matching calculation process may be processed by a calculation processing function in the ECU 10a. Moreover, when the pedestrian detection ECU 10a recognizes the presence of a pedestrian, the position coordinate may be calculated. Since the distance to the pedestrian can be estimated from the direction and inclination of the near-infrared camera 12a, the position coordinates of the pedestrian may be calculated and calculated in the pedestrian detection ECU 10a based on the distance. When the presence of a pedestrian is detected by the pedestrian detection means 10a, the pedestrian information is sent to the determination ECU 40a. If there is pedestrian position information, the information may also be sent to the determination ECU 40a.

ナビゲーション20aは、GPS等の情報通信手段により自車両の位置を知る機能と、自車両の位置に基づいて歩行者位置を算出する機能と、その算出した歩行者位置をメモリ30aにより記憶する機能とを兼ね備える。これらの機能は、いわゆるナビゲーションシステムの中に組み込まれてよい。ナビゲーション20aは、GPS等を用いて地理上の自車両の位置を知ることができる。   The navigation 20a has a function of knowing the position of the host vehicle using information communication means such as GPS, a function of calculating the pedestrian position based on the position of the host vehicle, and a function of storing the calculated pedestrian position in the memory 30a. Have both. These functions may be incorporated in a so-called navigation system. The navigation 20a can know the location of the vehicle in the geographic area using GPS or the like.

また、ナビゲーション20aは、自車両の位置に基づいて、例えばステアリングの操舵角、傾斜角度、速度等の歩行者との方向、距離等の位置関係を定めるデータを用い、歩行者の位置を推定演算する。なお、例えば、ステアリングの操舵角はステアリングセンサ、傾斜角度は水平計、速度は速度計により検出してよい。また、歩行者との距離に関しては、レーダーのような距離センサを別個に設けるようにしてもよい。   In addition, the navigation 20a estimates and calculates the position of the pedestrian based on the position of the host vehicle using, for example, data that determines the positional relationship such as the direction and distance of the pedestrian such as the steering angle, the tilt angle, and the speed of the steering. To do. For example, the steering angle of the steering may be detected by a steering sensor, the tilt angle may be detected by a level meter, and the speed may be detected by a speedometer. Further, a distance sensor such as a radar may be separately provided for the distance to the pedestrian.

更に、ナビゲーション20aは、内部のメモリ30aを用いて、推定演算により算出した歩行者位置を記憶する。歩行者位置は、例えば緯度や経度の地理上の絶対値により記憶してもよいし、ナビゲーション20aのディスプレイ画面上の座標により記憶してもよいし、双方を記憶してもよい。歩行者位置を同一基準で表現できる座標系であれば、都合のよいものを利用してよい。また、歩行者位置だけでなく、歩行者位置を検出したときの自車位置も併せて記憶するようにしてもよい。歩行者位置を検出した際の自車両位置も合わせて検討するようにすれば、判定ECU40aにおいてより正確な判定が期待できる場合もあるからである。   Furthermore, the navigation 20a stores the pedestrian position calculated by the estimation calculation using the internal memory 30a. The pedestrian position may be stored, for example, as a geographical absolute value of latitude or longitude, may be stored as coordinates on the display screen of the navigation 20a, or both may be stored. Any coordinate system that can express the pedestrian position on the same basis may be used. Moreover, you may make it memorize | store not only a pedestrian position but the own vehicle position when a pedestrian position is detected. This is because if the vehicle position at the time of detecting the pedestrian position is also considered, more accurate determination may be expected in the determination ECU 40a.

ナビゲーション20aにおいて算出された歩行者検出位置情報は、判定ECU40aに送られる。   The pedestrian detection position information calculated in the navigation 20a is sent to the determination ECU 40a.

判定ECU40aは、ナビゲーション20aから送られてきた歩行者検出位置情報が誤検出であるか、又は人の多い頻出領域内にあるかの判定を行う。判定ECU40aは、ナビゲーション20aから送られてきた歩行者位置について、ナビゲーション20a内のメモリ30aに記憶されているデータと照合を行なう。   The determination ECU 40a determines whether the pedestrian detection position information sent from the navigation 20a is a false detection or is in a frequent appearance area with many people. Determination ECU40a collates with the data memorize | stored in the memory 30a in the navigation 20a about the pedestrian position sent from the navigation 20a.

データ照合は、例えば、ナビゲーション20aから送られてきた歩行者位置と略同一の座標におけるデータがメモリ30a内にあるかを検索する。データがあれば、そのデータを拾い上げ、データ個数を数える。データ個数が所定の個数以上であれば、ナビゲーション20aから送られてきた歩行者の存在情報は、静止物を歩行者と誤って検出したと判断することができる。なお、略同一座標か否かの判断は、同一と判断する座標に有る程度の幅を持たせ、その幅以内にあれば略同一と判断するように設定しておいてもよい。   In the data collation, for example, a search is made as to whether or not the data at the same coordinates as the pedestrian position sent from the navigation 20a is in the memory 30a. If there is data, pick up the data and count the number of data. If the number of data is greater than or equal to the predetermined number, it can be determined that the presence information of the pedestrian sent from the navigation 20a has erroneously detected a stationary object as a pedestrian. The determination of whether or not the coordinates are approximately the same may be set so that the coordinates determined to be the same are given a width that is approximately the same, and the coordinates are determined to be approximately the same if within the width.

次に、判定ECU40aは、例えばナビゲーション20aから送られてきた歩行者位置が人通りの多い頻出エリア内にあるかについて、メモリ30a内を検索して判定する。歩行者位置を含む所定面積の周辺領域内に、何個検出履歴データが存在するかによりその周辺領域が頻出エリアか否かの判断ができるので、そのような周辺領域とデータ個数の基準を予め定め、その基準に基づいて頻出エリアであるか否かを判断してよい。また、領域面積とデータ個数を定めれば、所定面積内におけるデータ存在個数、即ちデータ密度が算出できるので、このデータ密度により頻出エリアを特定してもよい。ナビゲーション20aから送られてきた歩行者位置が、このような基準により設けられた頻出エリア内にあると判断されたときには、例えば、歩行者検出ECUの検出感度を上げるように制御してよい。頻出エリア内では、人同士が重なったりして検出すべき歩行者を未検出としてしまう可能性が高くなるため、そのような事態を防ぐべく、例えば歩行者検出ECU10aで行なわれているパターンマッチングの一致閾値レベルを下げることにより、検出感度を上げることができる。   Next, for example, the determination ECU 40a determines whether the pedestrian position sent from the navigation 20a is in the frequent traffic area or not by searching the memory 30a. Since it is possible to determine whether or not the surrounding area is a frequent area depending on how many pieces of detection history data exist in the surrounding area of a predetermined area including the pedestrian position, such a surrounding area and the reference number of data are set in advance. It may be determined and whether or not it is a frequent area is determined based on the standard. Further, if the area area and the number of data are determined, the number of data existing within a predetermined area, that is, the data density can be calculated. Therefore, the frequent area may be specified based on the data density. When it is determined that the pedestrian position sent from the navigation 20a is within the frequent appearance area provided by such a reference, for example, control may be performed to increase the detection sensitivity of the pedestrian detection ECU. In a frequent appearance area, there is a high possibility that pedestrians that should be detected due to people overlapping each other are not detected. Therefore, in order to prevent such a situation, for example, pattern matching performed by the pedestrian detection ECU 10a is performed. The detection sensitivity can be increased by lowering the matching threshold level.

なお、これらの判定ECU40aの機能は、コンピュータとしての演算機能により実行されてよい。   The functions of the determination ECU 40a may be executed by a calculation function as a computer.

また、判定ECU40aは、誤検出防止のための判定において、誤検出の対象となる静止物が撤去されたら、当該静止物に係る過去のデータを除去してよい。メモリ30aの記憶領域は有限であるため、不要になったデータは削除してメモリ領域を開放する趣旨である。静止物の撤去の判断は、例えば、略同一の位置において複数の検出履歴があるにも関わらず、所定期間データ照合のアクセスが無かったときには、静止物が撤去されたと判断して当該データを削除するように設定してもよい。   Further, in the determination for preventing erroneous detection, the determination ECU 40a may remove past data relating to the stationary object when the stationary object that is the target of erroneous detection is removed. Since the storage area of the memory 30a is finite, the purpose is to delete unnecessary data and free the memory area. For example, when there is a plurality of detection histories at substantially the same position and there is no access to data collation for a predetermined period, it is determined that the stationary object has been removed and the data is deleted. You may set to do.

なお、判定ECU40aは、ナビゲーション20aから送られてきた歩行者存在情報が最終的に正しい情報であると判定したときには、その歩行者存在情報に関する位置情報をメモリ30aに記憶するようにしてよい。新たな歩行者情報のデータとして追加するためである。   When the determination ECU 40a determines that the pedestrian presence information sent from the navigation 20a is finally correct information, the determination ECU 40a may store the position information regarding the pedestrian presence information in the memory 30a. This is because it is added as new pedestrian information data.

また、判定ECU40aは、ナビゲーション20aから送られてきた歩行者存在情報が正しい情報であると判定したら、注意喚起装置50aが注意喚起動作を行うように制御する。一方、判定ECU40aは、ナビゲーション20aから送られてきた歩行者存在情報が誤検出であると判定したときには、注意喚起装置50aが注意喚起動作を行わないような制御を行なう。   If the determination ECU 40a determines that the pedestrian presence information sent from the navigation 20a is correct information, the determination ECU 40a controls the attention drawing device 50a to perform a warning activation operation. On the other hand, when the determination ECU 40a determines that the pedestrian presence information sent from the navigation 20a is a false detection, the determination device 40a performs control so that the warning device 50a does not perform a warning activation operation.

注意喚起装置50aは、判定ECU40aの指令に従い、運転者に注意を喚起させる音声を出力するか、運転者に注意を喚起させる表示等を出力して、運転者に歩行者の存在を知らせる。   The alerting device 50a notifies the driver of the presence of a pedestrian by outputting a sound for alerting the driver or outputting a display for alerting the driver in accordance with a command from the determination ECU 40a.

図4は、図3において説明した本実施例に係る車載用歩行者検出装置を動作させたときの処理フローチャートを示す。   FIG. 4 shows a process flowchart when the vehicle-mounted pedestrian detection apparatus according to the present embodiment described in FIG. 3 is operated.

ステップ100では、近赤外線カメラ12aを用いて、歩行者の候補となる対象物をカメラ撮像する。撮像したら、ステップ110に進む。   In step 100, the near-infrared camera 12a is used to image an object that is a candidate for a pedestrian. When the image is taken, the process proceeds to step 110.

ステップ110では、歩行者検出ECU10aにより、近赤外線カメラ12aから送られてきた対象物の画像から、歩行者の検出を行う。図3において説明したように、画像認識技術を用い、パターンマッチングにより歩行者を検出してもよい。他の手法があれば、それを用いてもよい。ステップ110において、歩行者の存在情報及び必要に応じて歩行者の位置情報も検出される。   In step 110, the pedestrian detection ECU 10a detects a pedestrian from the image of the object sent from the near infrared camera 12a. As described in FIG. 3, a pedestrian may be detected by pattern matching using an image recognition technique. If there is another method, it may be used. In step 110, pedestrian presence information and, if necessary, pedestrian location information are also detected.

ステップ120では、歩行者を検出したか否かの判断が行なわれる。歩行者を検出していないと判断されたときは、特に運転者に注意を喚起する必要もないので、ステップ100に戻り、カメラ撮像からやり直す。一方、歩行者を検出したと判断されたときは、ステップ130に進む。   In step 120, it is determined whether or not a pedestrian has been detected. When it is determined that no pedestrian is detected, there is no need to alert the driver in particular, so the process returns to step 100 and starts again from the camera imaging. On the other hand, if it is determined that a pedestrian has been detected, the process proceeds to step 130.

ステップ130では、ナビゲーション20aにより、GPS等の通信情報を利用して、自車両の位置情報を取得する。また、自車両の位置を基準とし、検出した歩行者の位置情報を取得する。歩行者の位置情報は、上述のように、ステアリング操舵角や車両の傾斜角度、車両の速度、車両と歩行者との距離等の検出値に基づいて自車両と歩行者との方向、距離等の位置関係を算出するようにしてよい。そしてステップ130では、歩行者の位置情報に基づいて、歩行者の位置における過去データをメモリ30aから取得する。過去データを取得したら、ステップ140に進む。   In step 130, the position information of the host vehicle is acquired by the navigation 20a using communication information such as GPS. Further, the position information of the detected pedestrian is acquired with reference to the position of the own vehicle. As described above, the position information of the pedestrian is based on the detected values such as the steering angle, the vehicle inclination angle, the vehicle speed, the distance between the vehicle and the pedestrian, and the direction and distance between the own vehicle and the pedestrian. The positional relationship may be calculated. In step 130, the past data at the position of the pedestrian is acquired from the memory 30a based on the position information of the pedestrian. If the past data is acquired, the process proceeds to step 140.

ステップ140では、判定ECU40aにより、歩行者検出位置における検出頻度を算出し、これに基づいて判定処理を行なう。具体的な処理は、ステップ150にて行なう。   In step 140, the determination ECU 40a calculates the detection frequency at the pedestrian detection position, and performs a determination process based on this. Specific processing is performed in step 150.

ステップ150では、ECU判定処理のうち、まず歩行者検出位置と略同一位置の対象データが、過去データにN個あるか否かが判断される。これは、歩行者と認識して検出した対象物が、本当に歩行者であるかを判断するために行なわれるステップである。即ち、ある対象物を歩行者として検出しても、略同一の検出位置で過去データがN個以上あれば、その検出対象は過去から同じ位置に常設されている看板や垣根等の静止物である可能性が極めて高いので、誤検出と判断できるからである。ここで、Nは任意の自然数の閾値を意味し、過去の検出履歴において、同一位置対象のデータが何個以上あれば静止物とみなすのに妥当かを考慮し、所望の値に設定することができる。車両が走行する地域毎に何か傾向があればそれに応じて個別に設定してもよいし、特段の事情が無ければ、一律に設定してよい。過去データがN個以上あるときには、ステップ160に進み、N個以上ないときには、ステップ170に進む。   In step 150, in the ECU determination process, first, it is determined whether or not there are N target data in the past data at substantially the same position as the pedestrian detection position. This is a step performed to determine whether or not the object detected by detecting it as a pedestrian is really a pedestrian. That is, even if a certain object is detected as a pedestrian, if there are N or more past data at substantially the same detection position, the detection object is a stationary object such as a signboard or fence that has been permanently installed at the same position from the past. This is because there is an extremely high possibility that it can be determined as a false detection. Here, N means a threshold of an arbitrary natural number, and in the past detection history, it is set to a desired value in consideration of how many pieces of data of the same position target are appropriate to be regarded as a stationary object. Can do. If there is any tendency for each region where the vehicle travels, it may be set individually according to it, or it may be set uniformly if there is no special circumstance. When there are N or more past data, the process proceeds to Step 160, and when there are not N or more past data, the process proceeds to Step 170.

ステップ160では、検出された歩行者は非歩行者である常設静止物と判断され、検出無効処理又は検出したことを出力しない等の処理がなされる。そしてステップ100に戻り、カメラ撮像からやり直す。   In step 160, the detected pedestrian is determined as a permanent stationary object that is a non-pedestrian, and a detection invalidation process or a process of not outputting the detection is performed. Then, the process returns to step 100 and starts again from the camera imaging.

ステップ170では、歩行者検出位置を含む所定の周辺の領域において、過去データがN個あるか否かが判断される。これは、横断歩道等の人が頻出するエリアにおいては、人が重なって画像上の形状が変わったり、人の動きも様々で大きく形状が変化していたり、また急いで歩いていて画像認識が追い付かなかったりする等の種々の理由により、検出すべき歩行者を検出できない未検出の可能性の方がむしろ高くなる。従って、このような頻出エリアにおいては、ステップ160で行なった対応とは別の対応が必要となる。そこで、歩行者検出位置がこのような頻出エリアに入っているか否かの判断をステップ170にて行なう。頻出エリア内にあるか否かの判断は、例えば、検出位置を中心とする所定半径の円領域、又は検出位置を対角線の交点とする長方形領域を予め定めておき、その領域内の座標のデータがN個あるか否かにより判断してもよい。領域の面積と、その領域内のデータ個数の基準Nを定めれば、データ個数の密度で表現できるので、頻出エリア内にあることをデータ個数密度により表現してもよい。なお、Nはステップ150と同様に、任意の自然数の閾値を意味する。所定領域内に過去データがN個以上あったときはステップ180に進み、N個未満だったときはステップ190に進む。   In step 170, it is determined whether or not there are N past data in a predetermined peripheral area including the pedestrian detection position. This is because, in areas such as pedestrian crossings where people frequently appear, the shape of the image changes due to overlapping of people, the shape of the image changes greatly due to various movements of people, and the image is recognized by walking rapidly. For various reasons such as not catching up, the possibility of undetected pedestrians that cannot be detected becomes rather higher. Accordingly, in such a frequent appearance area, a response different from the response performed in step 160 is required. Therefore, it is determined in step 170 whether or not the pedestrian detection position is in such a frequent appearance area. The determination as to whether or not it is in the frequent appearance area is performed by, for example, predetermining a circular area having a predetermined radius centered on the detection position or a rectangular area having the detection position as an intersection of diagonal lines, and data of coordinates in the area It may be determined by whether or not there are N. If the area of the area and the reference number N of the number of data in the area are determined, it can be expressed by the density of the number of data. Therefore, it may be expressed by the data number density that it is in the frequent area. N, like step 150, means an arbitrary natural number threshold. When there are N or more past data in the predetermined area, the process proceeds to Step 180, and when it is less than N, the process proceeds to Step 190.

ステップ180では、歩行者検出した位置が頻出エリア内にある歩行者であると判断され、歩行者の未検出を防止する観点から、歩行者検出ECU10aの検出感度を上げる。検出感度を上げるには、例えば、パターンマッチングのパターン一致と判断する閾値を下げたり、或いは近赤外線カメラ12aの検出感度を上げることができるのであれば、そのようにして調整してもよい。形状の完全一致から、ある程度の一致で歩行者とみなすような設定の方向へと変更する。歩行者検出ECU10a又は近赤外線カメラ12aの検出感度を上げたら、ステップ100に戻り、歩行者のカメラ撮像からやり直す。   In step 180, it is determined that the position detected by the pedestrian is a pedestrian in the frequent appearance area, and the detection sensitivity of the pedestrian detection ECU 10a is increased from the viewpoint of preventing undetected pedestrians. In order to increase the detection sensitivity, for example, if the threshold value for determining pattern matching as a pattern match can be decreased, or the detection sensitivity of the near-infrared camera 12a can be increased, the detection sensitivity may be adjusted accordingly. The direction is changed from a perfect match of the shape to a setting that can be regarded as a pedestrian with a certain amount of match. When the detection sensitivity of the pedestrian detection ECU 10a or the near-infrared camera 12a is increased, the process returns to step 100 and starts again from the pedestrian camera imaging.

ステップ190では、歩行者の検出は正しいと判断し、新規検出対象の歩行者として注意喚起装置50aにより運転者の注意を喚起する。注意の喚起方法は、音声を用いてもよいし、画像を用いても構わないが、双方を用いるか又は少なくとも音声は用いて見過ごしを防ぐように構成するのが好ましい。注意喚起後は、ステップ200に進む。   In step 190, it is determined that the detection of the pedestrian is correct, and the driver is alerted by the alerting device 50a as a new detection target pedestrian. The alerting method may use sound or an image, but it is preferable to use both or at least use sound to prevent oversight. After alerting, go to step 200.

ステップ200では、注意喚起した歩行者の新しいデータをメモリ30aに書き込み、新たなデータとして追加する。これも、過去データの蓄積記憶の一部となる。データの書き込みを行なった後は、ステップ100に戻り、またカメラ撮像をして新しい歩行者の検出に備える。   In step 200, new data of the pedestrian who has given attention is written in the memory 30a and added as new data. This also becomes part of the accumulated storage of past data. After the data is written, the process returns to step 100 and the camera is imaged to prepare for detection of a new pedestrian.

図5は、データの動きを詳述した本実施例に係る車載用歩行者検出装置の一例を示す機能ブロック図である。なお、図5において、今まで説明した構成要素と対応関係にある構成要素については、同一の参照符号の数字にアルファベットを追記した参照符号を用い、その対応関係が理解し易いようにする。また、今までの説明と同様の機能の構成要素については、その説明を省略又は簡略化する。   FIG. 5 is a functional block diagram showing an example of the on-vehicle pedestrian detection apparatus according to the present embodiment, which details the movement of data. In FIG. 5, for the constituent elements that have a corresponding relationship with the constituent elements described so far, the reference numerals in which alphabets are added to the same reference numerals are used so that the corresponding relations can be easily understood. Further, the description of the components having the same functions as those described so far will be omitted or simplified.

図5において、本実施例に係る車載用歩行者検出装置は、車載カメラ12bと、歩行者検出部10bと、ナビゲーション21bと、車両情報検出部22と、判定部40bと、メモリ部30bと、HMI(ヒューマン・マシン・インターフェース)部50bとから構成される。更に、歩行者検出部10bは検出感度調整部11bを備える。また、判定部40bは、処理部41と、検出対象判定部42と、検出位置照合部43と、過去データ参照部44と、撮像方向・位置推定部23とから構成される。   In FIG. 5, the on-vehicle pedestrian detection device according to the present embodiment includes an on-vehicle camera 12b, a pedestrian detection unit 10b, a navigation 21b, a vehicle information detection unit 22, a determination unit 40b, a memory unit 30b, And an HMI (Human Machine Interface) unit 50b. Furthermore, the pedestrian detection unit 10b includes a detection sensitivity adjustment unit 11b. The determination unit 40 b includes a processing unit 41, a detection target determination unit 42, a detection position collation unit 43, a past data reference unit 44, and an imaging direction / position estimation unit 23.

車載カメラ12bは、歩行者の候補となる対象物を撮像し、歩行者検出部10bに画像信号を送る。歩行者検出部10bでは、入力された画像信号が、歩行者に該当するか否かの判定を行う。判定は、上述のように、歩行者画像パターンの参照用画像との比較によるパターンマッチング法によってなされてよい。他の画像認識手法があれば、それによってもよい。なお、パターンマッチングの検出感度は、検出感度調整部11bにより調整される。上述のように、例えばマッチングとみなす閾値の調整や、カメラの感度調整により検出感度の調整を行なってよい。   The vehicle-mounted camera 12b images a target object that is a candidate for a pedestrian and sends an image signal to the pedestrian detection unit 10b. The pedestrian detection unit 10b determines whether or not the input image signal corresponds to a pedestrian. As described above, the determination may be made by a pattern matching method based on a comparison between the pedestrian image pattern and the reference image. If there is another image recognition method, it may be used. Note that the detection sensitivity of pattern matching is adjusted by the detection sensitivity adjustment unit 11b. As described above, for example, the detection sensitivity may be adjusted by adjusting a threshold value regarded as matching or by adjusting the sensitivity of the camera.

パターンマッチング等の歩行者判定処理の結果、歩行者検出部10bにおいて歩行者を検出したときには、その歩行者の検出情報は、ナビゲーション21b及び車両情報検出部22に送られるとともに、歩行者の検出位置座標の情報が検出位置照合部43に送られる。歩行者の検出信号がナビゲーション21b及び車両情報検出部22に送られるのは、図1における説明において、歩行者検出手段10から歩行者位置算出手段20に歩行者の検出信号が送られるのと同様であり、歩行者の検出信号から、歩行者の位置を算出するためである。一方、歩行者検出部10bにおいて、歩行者位置検出座標のデータを判定部40bに送るのは、車載カメラ12bからの画像情報からも検出位置に関する推定ができるため、判定部40bにおいてこれをも照合することにより、より検出位置の正確な算出が可能となるからである。   As a result of the pedestrian determination process such as pattern matching, when the pedestrian detection unit 10b detects a pedestrian, the detection information of the pedestrian is sent to the navigation 21b and the vehicle information detection unit 22, and the detection position of the pedestrian The coordinate information is sent to the detection position matching unit 43. The pedestrian detection signal is sent to the navigation 21b and the vehicle information detection unit 22 in the description of FIG. 1 in the same way as the pedestrian detection signal is sent from the pedestrian detection means 10 to the pedestrian position calculation means 20. This is because the position of the pedestrian is calculated from the detection signal of the pedestrian. On the other hand, the pedestrian detection unit 10b sends the pedestrian position detection coordinate data to the determination unit 40b because the detection position can also be estimated from the image information from the in-vehicle camera 12b. This is because the detection position can be calculated more accurately.

なお、上述の歩行者検出部10bの演算機能は、コンピュータ等の演算処理機、画像処理回路等により実現されてよいが、好適にはECUが用いられる。   Note that the calculation function of the pedestrian detection unit 10b described above may be realized by an arithmetic processor such as a computer, an image processing circuit, or the like, but an ECU is preferably used.

ナビゲーション21bと、車両情報検出部22と、撮像方向・位置推定部23とは、図1において説明した歩行者位置算出手段20と同様の役割を果たす。ナビゲーション21bにおいてGPS等を利用して自車位置を把握し、車両情報検出部22で種々のセンサ等の検出器を用いて自車両の歩行者に対する方向、傾斜、距離等の位置関係を把握し、これら自車位置と車両情報に基づいて撮像方向・位置推定部23にて歩行者位置座標を推定する。   The navigation 21b, the vehicle information detection unit 22, and the imaging direction / position estimation unit 23 play the same role as the pedestrian position calculation unit 20 described in FIG. The navigation 21b grasps the position of the own vehicle using GPS or the like, and the vehicle information detection unit 22 grasps the positional relationship such as the direction, inclination, distance, etc. of the own vehicle with respect to the pedestrian using detectors such as various sensors. Based on the vehicle position and the vehicle information, the imaging direction / position estimation unit 23 estimates the pedestrian position coordinates.

判定部40bは、種々の演算処理部から構成されている。   The determination unit 40b includes various arithmetic processing units.

まず、過去データ参照部44では、撮像方向・位置推定部23において推定演算された歩行者の位置情報に基づき、その位置が関連するメモリ部30bに記憶された過去データを参照する。なお、メモリ部30bには、過去の検出データ記録が蓄積記憶されており、各データ記録は、例えば自車位置座標と、歩行者検出位置座標がレコードとして記録されている。   First, the past data reference unit 44 refers to past data stored in the memory unit 30b to which the position is related based on the position information of the pedestrian calculated by the imaging direction / position estimation unit 23. Note that past detection data records are accumulated and stored in the memory unit 30b. Each data record includes, for example, the vehicle position coordinates and the pedestrian detection position coordinates as records.

検出位置照合部43は、歩行者検出部10bから送られてきた歩行者検出位置座標の情報と、撮像方向・位置推定部23で推定演算した位置とを照合し、両者の位置が一致しているかの確認、又は何か修正が必要ならば必要な修正処理を行い、歩行者の位置座標を特定する。   The detection position collation unit 43 collates the information of the pedestrian detection position coordinates sent from the pedestrian detection unit 10b with the position estimated and calculated by the imaging direction / position estimation unit 23, and the positions of both coincide with each other. If it is necessary to check whether or not any correction is necessary, a necessary correction process is performed to specify the position coordinates of the pedestrian.

検出対象判定部42では、検出位置照合部で特定された歩行者位置情報と、過去データ参照部において参照されている当該歩行者位置に関連する過去データに基づき、検出した歩行者が誤検出かどうか、又は検出した歩行者が頻出エリア内にいて、未検出となる可能性が高まっている状態なのかを判定する。   In the detection target determination unit 42, whether the detected pedestrian is erroneously detected based on the pedestrian position information specified by the detection position collation unit and the past data related to the pedestrian position referred to in the past data reference unit. It is determined whether or not the detected pedestrian is in the frequent appearance area and the possibility of being undetected is increasing.

処理部41では、検出対象判定部42でなされた判定に基づき、必要な処理を行なう。例えば、検出対象判定部42において検出結果が正しく、歩行者であると判定されたときには、処理部41は、結果をHMI部に出力するとともに、歩行者検出の記録を、メモリ部30bで記憶しているデータ項目についてメモリ部30bに書き込む。歩行者の存在を運転者に通知するとともに、歩行者を検出した記録を過去データに反映させて今後の歩行者検出に役立てるためである。   The processing unit 41 performs necessary processing based on the determination made by the detection target determination unit 42. For example, when the detection target determination unit 42 determines that the detection result is correct and the person is a pedestrian, the processing unit 41 outputs the result to the HMI unit and stores the pedestrian detection record in the memory unit 30b. The data item being written is written into the memory unit 30b. This is to notify the driver of the presence of the pedestrian and to reflect the record of detecting the pedestrian in the past data to be useful for future pedestrian detection.

また、例えば、検出対象判定部42において検出結果が誤検出であり、非歩行者を歩行者として検出したと判定されたときには、処理部41は、結果無効の指令をHMI部に送り、注意喚起が発生しないようにする。誤検出の通知により、運転者を混乱させないためである。なお、誤検出の場合は、最終的に検出結果が運転者に通知されなければよいので、処理部で結果を出力しない処理を行なったり、データを消去したりする処理としてもよい。また、誤検出の場合は、原則的にメモリ部30bに書き込みを行なう必要性はないが、略同一の座標の過去データが所定回数以上存在するかを確認参照し、あった場合には、無効検出として書き込むようにしてもよい。本実施例において、誤検出と判定するためには、所定個数以上のメモリ領域が必要となるが、誤検出データの位置が確定したあとは、無効検出位置として記憶し、その後は所定個数の過去データを消去するようにすれば、メモリ領域が節約できるからである。   In addition, for example, when the detection target determination unit 42 determines that the detection result is a false detection and a non-pedestrian is detected as a pedestrian, the processing unit 41 sends a result invalid command to the HMI unit to call attention. Make sure that does not occur. This is to prevent the driver from being confused by the false detection notification. In the case of erroneous detection, since it is not necessary for the driver to be notified of the detection result in the end, a process that does not output the result may be performed by the processing unit, or data may be deleted. In the case of erroneous detection, it is not necessary to write to the memory unit 30b in principle. However, it is checked whether past data having substantially the same coordinates exists more than a predetermined number of times. You may make it write as detection. In this embodiment, a predetermined number or more of memory areas are required to determine erroneous detection. However, after the position of erroneous detection data is determined, it is stored as an invalid detection position, and thereafter, a predetermined number of past memory areas are stored. This is because if the data is erased, the memory area can be saved.

また、例えば、検出対象判定部42において、検出結果が、歩行者が頻出エリアにいると判定されたときには、処理部41は、検出感度調整部11bに歩行者検出部10bの検出感度を上げる指令を出力する。頻出エリアにおける歩行者の未検出を防ぐためである。   For example, when the detection target determination unit 42 determines that the detection result indicates that the pedestrian is in the frequent appearance area, the processing unit 41 instructs the detection sensitivity adjustment unit 11b to increase the detection sensitivity of the pedestrian detection unit 10b. Is output. This is to prevent undetected pedestrians in the frequent appearance area.

HMI部50bは、処理部41の処理指令に基づいて、運転者への注意喚起を発生させたり、発生させないようにしたりする。注意喚起は、音声や画像の種々の手段を採用できることは、今までの説明と同様であるので、その説明を省略する。   The HMI unit 50b may or may not generate an alert to the driver based on the processing command of the processing unit 41. It is the same as the previous explanation that various means such as voice and image can be used for alerting, and the explanation is omitted.

図6は、本実施例に係る車載用歩行者検出装置に適用される記憶手段30、メモリ30b又はメモリ部30bに記憶される記憶データ構造の一例を示した図である。図6(a)は記憶データのうちの生データ、図6(b)は生データからの変換データを示す。図6(a)において、メモリは通し番号と緯度と経度の自車両の座標情報と、自車両からの歩行者の方位、そしてそれらから求めた歩行者位置の画像内座標(X,Y)の項目がデータとして記憶されている。そして、図6(b)のように、演算し易いように、それらの生データから略同一の位置に分類した変換データが必要に応じて作成される。   FIG. 6 is a diagram illustrating an example of a storage data structure stored in the storage unit 30, the memory 30b, or the memory unit 30b applied to the vehicle-mounted pedestrian detection device according to the present embodiment. FIG. 6A shows raw data of the stored data, and FIG. 6B shows conversion data from the raw data. In FIG. 6A, the memory includes items of the coordinate information of the serial number, latitude and longitude of the own vehicle, the direction of the pedestrian from the own vehicle, and the in-image coordinates (X, Y) of the pedestrian position obtained therefrom. Is stored as data. Then, as shown in FIG. 6B, conversion data classified into substantially the same position from the raw data is created as necessary so that the calculation is easy.

図6(a)において、No.001のデータとNo.002のデータは、自車両の位置は緯度及び経度とも略同一であるが、方位が大きく異なっているため、対象となる歩行者の位置は、画像内座標で大きく異なっている。一方、No.002のデータとNo.003のデータは、自車両の位置を示す緯度と経度が略同一であるとともに、方位も略同一であるので、対象物も同一と推定でき、それを示す画像内座標も略同一となっている。また、No.004のデータは、自車両の位置を示す緯度と経度はNo.001〜003のデータと略同一であるが、方位は各々と全く異なっているため、対象物の画像内座標もNo.001〜003の対象物と異なるものとなっている。   In FIG. The data of 001 and No. In the data of 002, the position of the own vehicle is substantially the same in both latitude and longitude, but the azimuth is greatly different, so the position of the target pedestrian is greatly different in the in-image coordinates. On the other hand, no. No. 002 and No. 002 data. In the data of 003, since the latitude and longitude indicating the position of the host vehicle are substantially the same and the direction is also substantially the same, the object can be estimated to be the same, and the in-image coordinates indicating the same are also substantially the same. . No. In the data of 004, the latitude and longitude indicating the position of the host vehicle are No. Although it is substantially the same as the data of 001 to 003, the orientation is completely different from each other, so the coordinates in the image of the object are also No. It is different from the objects 001 to 003.

図6(b)は、図6(a)の生データを、対象物の位置毎に分類してグループ名を付した変換したデータを示す。No.001のデータにはグループ名をAとし、略同一座標のNo.002とNo.003は、グループ名をBとする。No.004は、上述のデータと全く異なる新しい座標なので、グループ名も区別してCとする。このような変換データに基づいて、略同一の位置毎にデータ数を数えれば、過去データから歩行者位置の検出頻度を知ることができる。また、判断基準となる所定回数Nを定めることにより、判定手段40での頻度判定が可能となる。   FIG. 6B shows converted data obtained by classifying the raw data of FIG. 6A for each position of the object and attaching a group name. No. In the data of 001, the group name is A, and No. of substantially the same coordinates. 002 and No. In 003, the group name is B. No. Since 004 is a new coordinate completely different from the above-mentioned data, the group name is also distinguished from C. Based on such conversion data, if the number of data is counted for substantially the same position, the detection frequency of the pedestrian position can be known from the past data. In addition, by determining the predetermined number N as a determination criterion, the determination unit 40 can determine the frequency.

以上、本発明の好ましい実施例について詳説したが、本発明は、上述した実施例に制限されることはなく、本発明の範囲を逸脱することなく、上述した実施例に種々の変形及び置換を加えることができる。また、上述した実施例は実施例同士で組み合わせることが可能である。   The preferred embodiments of the present invention have been described in detail above. However, the present invention is not limited to the above-described embodiments, and various modifications and substitutions can be made to the above-described embodiments without departing from the scope of the present invention. Can be added. Moreover, the embodiments described above can be combined with each other.

本実施例に係る車載用歩行者検出装置の機能ブロック図の一例である。It is an example of the functional block diagram of the vehicle-mounted pedestrian detection apparatus which concerns on a present Example. 本実施例に係る車載用歩行者検出装置において、判定手段40において行なわれている判定の基本的な考え方を説明するための図である。It is a figure for demonstrating the fundamental view of the determination currently performed in the determination means 40 in the vehicle-mounted pedestrian detection apparatus which concerns on a present Example. 本実施例に係る車載用歩行者検出装置のシステム構成の一例を示す図である。It is a figure which shows an example of the system configuration | structure of the vehicle-mounted pedestrian detection apparatus which concerns on a present Example. 図3における車載用歩行者検出装置の処理フローチャートを示す。The processing flowchart of the vehicle-mounted pedestrian detection apparatus in FIG. 3 is shown. 本実施例に係る車載用歩行者検出装置のデータの動きの一例を示す機能ブロック図である。It is a functional block diagram which shows an example of the motion of the data of the vehicle-mounted pedestrian detection apparatus which concerns on a present Example. 本実施例に係る車載用歩行者検出装置の記憶データ構造の一例を示した図である。It is the figure which showed an example of the memory | storage data structure of the vehicle-mounted pedestrian detection apparatus which concerns on a present Example.

符号の説明Explanation of symbols

10 歩行者検出手段
10a 歩行者検出ECU
10b 歩行者検出部
11 検出感度調整手段
11b 検出感度調整部
12 撮像手段
12a 近赤外線カメラ
12b 車載カメラ
13 レーダー
20 歩行者位置算出手段
20a、21b ナビゲーション
21 通信情報取得手段
22 車両情報検出部
23 撮像方向・位置推定部
30 記憶手段
30a メモリ
30b メモリ部
40 判定手段
40a 判定ECU
40b 判定部
41 処理部
42 検出対象判定部
43 検出位置照合部
44 過去データ参照部
50 通知手段
50a 注意喚起装置
50b HMI部
10 Pedestrian detection means 10a Pedestrian detection ECU
DESCRIPTION OF SYMBOLS 10b Pedestrian detection part 11 Detection sensitivity adjustment means 11b Detection sensitivity adjustment part 12 Imaging means 12a Near-infrared camera 12b Car-mounted camera 13 Radar 20 Pedestrian position calculation means 20a, 21b Navigation 21 Communication information acquisition means 22 Vehicle information detection part 23 Imaging direction Position estimation unit 30 storage unit 30a memory 30b memory unit 40 determination unit 40a determination ECU
40b determination unit 41 processing unit 42 detection target determination unit 43 detection position collation unit 44 past data reference unit 50 notification means 50a warning device 50b HMI unit

Claims (2)

歩行者を含む車両周辺の対象物を検出する歩行者検出手段を有する車載用歩行者検出装置であって、
前記歩行者検出手段で検出された対象物の位置を算出する歩行者位置算出手段と、該歩行者算出手段により算出された対象物の位置を記憶する記憶手段と、前記歩行者検出手段により検出された対象物が歩行者であるか否かを判定する判定手段とを備え、
前記判定手段は、前記歩行者位置算出手段により算出された対象物位置において、前記記憶手段に記憶された過去の対象物検出データ数が所定数以上のときには、前記歩行者手段により検出された対象物が歩行者でないと判定し、
前記歩行者位置算出手段により算出された対象物位置の周辺領域において、前記記憶手段により記憶された前記過去の対象物検出データ数が所定数以上のときには、前記周辺領域内における前記歩行者検出手段の検出感度を上げることを特徴とする車載用歩行者検出装置。
A vehicle-mounted pedestrian detection device having pedestrian detection means for detecting objects around a vehicle including a pedestrian,
Pedestrian position calculation means for calculating the position of the object detected by the pedestrian detection means, storage means for storing the position of the object calculated by the pedestrian calculation means, and detection by the pedestrian detection means Determination means for determining whether or not the target object is a pedestrian,
The determination means is an object detected by the pedestrian means when the number of past object detection data stored in the storage means is a predetermined number or more at the object position calculated by the pedestrian position calculation means. Determine that the object is not a pedestrian ,
In the peripheral area of the object position calculated by the pedestrian position calculation means, when the number of past object detection data stored by the storage means is a predetermined number or more, the pedestrian detection means in the peripheral area A vehicle-mounted pedestrian detection device characterized by increasing the detection sensitivity of the vehicle.
前記車載用歩行者検出装置は、前記記憶手段に記憶された前記過去の対象物検出データ数が前記所定数以上ある位置において、前記歩行者検出手段が対象物を検出しなくなったときには、前記位置に係る前記過去の対象物検出データを消去することを特徴とする請求項1に記載の車載用歩行者検出装置。 The vehicle-mounted pedestrian detection device is configured such that when the number of past object detection data stored in the storage unit is equal to or greater than the predetermined number, the pedestrian detection unit no longer detects an object. The in-vehicle pedestrian detection device according to claim 1, wherein the past object detection data relating to the vehicle is deleted.
JP2006196001A 2006-07-18 2006-07-18 In-vehicle pedestrian detection device Expired - Fee Related JP4946228B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006196001A JP4946228B2 (en) 2006-07-18 2006-07-18 In-vehicle pedestrian detection device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006196001A JP4946228B2 (en) 2006-07-18 2006-07-18 In-vehicle pedestrian detection device

Publications (2)

Publication Number Publication Date
JP2008026985A JP2008026985A (en) 2008-02-07
JP4946228B2 true JP4946228B2 (en) 2012-06-06

Family

ID=39117582

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006196001A Expired - Fee Related JP4946228B2 (en) 2006-07-18 2006-07-18 In-vehicle pedestrian detection device

Country Status (1)

Country Link
JP (1) JP4946228B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105128836A (en) * 2014-05-30 2015-12-09 株式会社万都 Autonomous emergency braking system and method for recognizing pedestrian therein
US11967137B2 (en) 2021-12-02 2024-04-23 International Business Machines Corporation Object detection considering tendency of object location

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5090218B2 (en) * 2008-03-17 2012-12-05 本田技研工業株式会社 Vehicle travel safety device
JP5590777B2 (en) * 2008-05-12 2014-09-17 トヨタ自動車株式会社 Radar equipment
JP2010072947A (en) * 2008-09-18 2010-04-02 Toyota Motor Corp Obstacle detection device
JP4877364B2 (en) 2009-07-10 2012-02-15 トヨタ自動車株式会社 Object detection device
WO2011108258A1 (en) * 2010-03-03 2011-09-09 パナソニック株式会社 Vehicle-surroundings monitoring apparatus and vehicle-surroundings monitoring method
KR101338258B1 (en) * 2010-11-17 2013-12-06 주식회사 엘지화학 Battery Pack Providing Improved Distribution Uniformity of Coolant
US9495873B2 (en) 2011-06-09 2016-11-15 Toyota Jidosha Kabushiki Kaisha Other-vehicle detection device and other-vehicle detection method
JP5616531B2 (en) * 2011-09-21 2014-10-29 本田技研工業株式会社 Vehicle periphery monitoring device
JP5811951B2 (en) * 2012-05-29 2015-11-11 トヨタ自動車株式会社 Object change detection device
JP5495143B2 (en) * 2012-11-02 2014-05-21 トヨタ自動車株式会社 Radar equipment
JP5790627B2 (en) * 2012-12-03 2015-10-07 株式会社デンソー Target detection device
JP6620715B2 (en) * 2016-10-20 2019-12-18 株式会社デンソー Image recognition device
JP7380614B2 (en) * 2021-02-25 2023-11-15 株式会社デンソー Automatic driving system, automatic driving method, and automatic driving program

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001351200A (en) * 2000-06-09 2001-12-21 Nissan Motor Co Ltd Onboard object detecting device

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105128836A (en) * 2014-05-30 2015-12-09 株式会社万都 Autonomous emergency braking system and method for recognizing pedestrian therein
CN105128836B (en) * 2014-05-30 2019-04-19 株式会社万都 Autonomous emergency braking system and the wherein method of identifying rows people
US11967137B2 (en) 2021-12-02 2024-04-23 International Business Machines Corporation Object detection considering tendency of object location

Also Published As

Publication number Publication date
JP2008026985A (en) 2008-02-07

Similar Documents

Publication Publication Date Title
JP4946228B2 (en) In-vehicle pedestrian detection device
US11834040B2 (en) Recognition and prediction of lane constraints and construction areas in navigation
JP4656408B2 (en) Ambient monitoring device for vehicles
CN106952303B (en) Vehicle distance detection method, device and system
US20200003573A1 (en) Top-down refinement in lane marking navigation
JP5297078B2 (en) Method for detecting moving object in blind spot of vehicle, and blind spot detection device
JP4876118B2 (en) Three-dimensional object appearance detection device
US8452528B2 (en) Visual recognition area estimation device and driving support device
US20120194681A1 (en) Automatic content analysis method and system
CN107408288B (en) Warning device, warning method, and warning program
US11926318B2 (en) Systems and methods for detecting a vulnerable road user in an environment of a vehicle
JP6046327B2 (en) Meandering operation detection device for vehicle
JP6411933B2 (en) Vehicle state determination device
KR102279754B1 (en) Method, apparatus, server, and computer program for preventing crash accident
US20120155711A1 (en) Apparatus and method for analyzing video
KR20120063657A (en) Apparatus for protecting children pedestrian and method for protecting protecting children of the same
JP2021128705A (en) Object state identification device
JP4762830B2 (en) Perimeter monitoring system
JP3999088B2 (en) Obstacle detection device
JP7470967B2 (en) Systems, programs, machine learning methods, and machine learning models
JP2022056153A (en) Temporary stop detection device, temporary stop detection system, and temporary stop detection program
JP2017126213A (en) Intersection state check system, imaging device, on-vehicle device, intersection state check program and intersection state check method
CN109964132B (en) Method, device and system for configuring sensor on moving object
JP2020035199A (en) Learning data generation device and obstacle detection system
JP7302615B2 (en) Driving support device, driving support method, and driving support computer program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090609

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110531

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110726

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120207

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120220

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150316

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4946228

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150316

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees