JP5637735B2 - Pedestrian detection device - Google Patents

Pedestrian detection device Download PDF

Info

Publication number
JP5637735B2
JP5637735B2 JP2010124584A JP2010124584A JP5637735B2 JP 5637735 B2 JP5637735 B2 JP 5637735B2 JP 2010124584 A JP2010124584 A JP 2010124584A JP 2010124584 A JP2010124584 A JP 2010124584A JP 5637735 B2 JP5637735 B2 JP 5637735B2
Authority
JP
Japan
Prior art keywords
search density
search
mode
pedestrian
density
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010124584A
Other languages
Japanese (ja)
Other versions
JP2011253214A (en
Inventor
宇佐美 祐之
祐之 宇佐美
大輔 古仲
大輔 古仲
誠良 平塚
誠良 平塚
太田 充彦
充彦 太田
高橋 新
新 高橋
邦博 後藤
邦博 後藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Toyota Central R&D Labs Inc
Original Assignee
Toyota Motor Corp
Toyota Central R&D Labs Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp, Toyota Central R&D Labs Inc filed Critical Toyota Motor Corp
Priority to JP2010124584A priority Critical patent/JP5637735B2/en
Publication of JP2011253214A publication Critical patent/JP2011253214A/en
Application granted granted Critical
Publication of JP5637735B2 publication Critical patent/JP5637735B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、車両に搭載される歩行者検出装置に関し、より特定的には、歩道から車道へ飛び出す歩行者を検出する歩行者検出装置に関する。   The present invention relates to a pedestrian detection device mounted on a vehicle, and more specifically to a pedestrian detection device that detects a pedestrian jumping out from a sidewalk onto a roadway.

通常、車両に搭載される歩行者検出装置は、カメラによって取得した画像から、予め設定された歩行者の基準パターンを探索することによって、車両の前方等に存在する歩行者を検出している。   Usually, a pedestrian detection device mounted on a vehicle detects a pedestrian existing in front of the vehicle by searching for a preset reference pattern of the pedestrian from an image acquired by a camera.

ここで、予め設定された歩行者の基準パターンは、例えば、歩行者の向き(前向き、後ろ向き、左向き、および右向き等)、および歩行者の大きさ(自車から遠方の歩行者、および自車に近接する歩行者等)等に基づく多種のパターンがある。   Here, the preset reference pattern of the pedestrian includes, for example, the direction of the pedestrian (forward, backward, leftward, rightward, etc.) and the size of the pedestrian (a pedestrian far away from the own vehicle, and the own vehicle). There are various patterns based on pedestrians in close proximity.

そして、カメラによって取得した画像において、所定の探索窓を配置し、当該探索窓内の画像と、上述した歩行者の基準パターンとを比較し、当該歩行者の基準パターンに一致すれば、当該探索窓内の画像に歩行者が存在すると判定する。   Then, in the image acquired by the camera, a predetermined search window is arranged, the image in the search window is compared with the pedestrian reference pattern described above, and if the pedestrian reference pattern matches, the search is performed. It is determined that a pedestrian exists in the image in the window.

このように、従来の歩行者検出装置は、カメラによって取得した画像において、所定の探索窓を移動させながら、当該画像から歩行者を検出している(例えば、特許文献1参照)。   As described above, the conventional pedestrian detection device detects a pedestrian from the image while moving a predetermined search window in the image acquired by the camera (see, for example, Patent Document 1).

特開2008−152672号公報JP 2008-152672 A

しかしながら、従来の歩行者検出装置では、カメラによって取得した画像の広範な領域において、所定の探索窓を配置および移動し、当該探索窓内の画像と、予め設定された多種の歩行者の基準パターンとを比較するため、当該カメラによって取得した画像から歩行者を検出するための演算量が膨大になってしまう。   However, in the conventional pedestrian detection device, a predetermined search window is arranged and moved in a wide area of the image acquired by the camera, and the image in the search window and preset various pedestrian reference patterns are arranged. Therefore, the amount of calculation for detecting a pedestrian from an image acquired by the camera is enormous.

一方、歩行者を検出するための演算量を低減するために、所定の探索窓の配置および移動を粗くすれば、当該カメラによって取得した画像から歩行者を検出するための演算量は低減できるものの、正確に歩行者を検出できない。   On the other hand, if the arrangement and movement of a predetermined search window are made rough in order to reduce the amount of calculation for detecting a pedestrian, the amount of calculation for detecting a pedestrian from an image acquired by the camera can be reduced. Unable to accurately detect pedestrians.

それ故に、本発明の目的は、カメラによって取得した画像から歩行者を正確に検出しつつ、かつ当該歩行者を検出するための演算量を低減する高精度および高効率な歩行者検出装置を提供することである。   Therefore, an object of the present invention is to provide a highly accurate and highly efficient pedestrian detection device that accurately detects a pedestrian from an image acquired by a camera and reduces the amount of calculation for detecting the pedestrian. It is to be.

上記目的を達成するために、本発明の歩行者検出装置は、車両に搭載される歩行者検出装置であって、車両周辺の画像を取得する画像取得手段と、画像取得手段によって取得された画像から歩行者を探索する探索密度について、当該画像領域内で探索密度を一定とする探索密度一定モードと、当該画像領域内のうち、探索密度が高い第1領域と探索密度が低い第2領域とを設定する探索密度重点モードとのいずれかの探索密度モードを、道路状況に応じて設定する探索密度モード設定手段と、探索密度モード設定手段によって設定された探索密度モードに基づいて、画像取得手段によって取得された画像から歩行者を探索する歩行者探索手段と、歩行者探索手段によって探索された結果を通知する結果通知手段とを備える。
かかる構成により、画像取得手段によって取得された画像から歩行者を探索する探索密度について、当該画像領域内で探索密度を一定とする探索密度一定モードと、当該画像領域内のうち、探索密度が高い第1領域と探索密度が低い第2領域とを設定する探索密度重点モードとのいずれかの探索密度モードを、道路状況に応じて設定するため、画像取得手段によって取得した画像から歩行者を正確に検出しつつ、かつ当該歩行者を検出するための演算量を低減することができる。
In order to achieve the above object, a pedestrian detection device of the present invention is a pedestrian detection device mounted on a vehicle, an image acquisition means for acquiring an image around the vehicle, and an image acquired by the image acquisition means. A search density constant mode in which the search density is constant in the image area, a first area having a high search density, and a second area having a low search density. Based on the search density mode setting means for setting one of the search density mode and the search density emphasis mode for setting according to the road condition, and the search density mode set by the search density mode setting means The pedestrian search means for searching for a pedestrian from the image acquired by the above and the result notification means for notifying the result searched for by the pedestrian search means.
With this configuration, the search density for searching for a pedestrian from the image acquired by the image acquisition unit is constant in the search density constant mode in which the search density is constant in the image area, and the search density is high in the image area. In order to set one of the search density modes of the first area and the search density priority mode for setting the second area having a low search density according to the road conditions, the pedestrian can be accurately identified from the image acquired by the image acquisition means. It is possible to reduce the amount of calculation for detecting the pedestrian while detecting the pedestrian.

好ましい探索密度モード設定手段は、歩行者が車道に存在する可能性に基づいて、探索密度一定モードと、探索密度重点モードとのいずれかの探索密度モードを設定することを特徴とする。
かかる構成により、歩行者が車道に存在する可能性に基づいて、探索密度一定モードと、探索密度重点モードとのいずれかの探索密度モードを設定するため、特に注意が必要なタイミングおよび特定範囲について、精度よく歩行者を検出することができる。
A preferable search density mode setting means sets one of the search density constant mode and the search density priority mode based on the possibility that a pedestrian is present on the roadway.
With such a configuration, a search density constant mode and a search density emphasis mode are set based on the possibility that a pedestrian is present on the roadway. A pedestrian can be detected with high accuracy.

さらに好ましい探索密度モード設定手段は、歩行者が将来的に車道に存在する可能性が低い場合、探索密度一定モードを探索密度モードとして設定し、歩行者が将来的に車道に存在する可能性が高い場合、探索密度重点モードを探索密度モードとして設定することを特徴とする。
かかる構成により、特に、歩行者が将来的に車道に存在する可能性が高い場合、探索密度重点モードを探索密度モードとして設定するため、特に注意が必要なタイミングおよび特定範囲について、精度よく歩行者を検出することができる。
A more preferable search density mode setting means sets the search density constant mode as the search density mode when a pedestrian is unlikely to exist in the road in the future, and the pedestrian may exist in the road in the future. If it is high, the search density emphasis mode is set as the search density mode.
With this configuration, particularly when there is a high possibility that a pedestrian will be present in the roadway in the future, the search density emphasis mode is set as the search density mode. Can be detected.

さらに好ましい探索密度モード設定手段は、車両用信号機の状態および/または歩行者用信号機の状態に基づいて、探索密度一定モードと、探索密度重点モードとのいずれかの探索密度モードを設定することを特徴とする。
かかる構成により、車両用信号機の状態および/または歩行者用信号機の状態に対する自動車および歩行者の行動傾向に基づいて、探索密度一定モードと、探索密度重点モードとのいずれかの探索密度モードを設定するため、最適な探索密度モードが設定され、効率よく歩行者を検出することができ、特に注意が必要な特定範囲については、精度よく歩行者を検出することができる。
More preferably, the search density mode setting means sets one of the search density constant mode and the search density priority mode based on the state of the vehicle traffic light and / or the state of the pedestrian traffic light. Features.
With this configuration, either the search density constant mode or the search density priority mode is set based on the behavior of the vehicle and the pedestrian with respect to the state of the vehicle traffic light and / or the state of the pedestrian traffic light. Therefore, an optimal search density mode is set, and pedestrians can be detected efficiently, and pedestrians can be detected with high accuracy in a specific range that requires special attention.

さらに好ましい探索密度モード設定手段は、車両用信号機の状態が青色または赤色である場合、探索密度一定モードを探索密度モードとして設定し、車両用信号機の状態が黄色である場合、探索密度重点モードを探索密度モードとして設定することを特徴とする。
かかる構成により、具体的な車両用信号機の状態に対する自動車および歩行者の行動傾向に基づいて、探索密度一定モードと、探索密度重点モードとのいずれかの探索密度モードを設定するため、最適な探索密度モードが設定され、効率よく歩行者を検出することができ、特に注意が必要な特定範囲については、精度よく歩行者を検出することができる。
More preferable search density mode setting means sets the search density constant mode as the search density mode when the state of the vehicle traffic signal is blue or red, and sets the search density priority mode when the state of the vehicle traffic signal is yellow. The search density mode is set.
With such a configuration, an optimal search is performed in order to set one of the search density constant mode and the search density priority mode based on the behavior tendency of the automobile and the pedestrian with respect to a specific state of the vehicle traffic signal. A density mode is set, and a pedestrian can be detected efficiently, and a pedestrian can be detected with high accuracy in a specific range that requires special attention.

または、好ましい探索密度モード設定手段は、歩行者用信号機の状態が青色または赤色である場合、探索密度一定モードを探索密度モードとして設定し、歩行者用信号機の状態が青色点滅である場合、探索密度重点モードを探索密度モードとして設定することを特徴とする。
かかる構成により、具体的な歩行者信号機の状態に対する自動車および歩行者の行動傾向に基づいて、探索密度一定モードと、探索密度重点モードとのいずれかの探索密度モードを設定するため、最適な探索密度モードが設定され、効率よく歩行者を検出することができ、特に注意が必要な特定範囲については、精度よく歩行者を検出することができる。
Alternatively, the preferred search density mode setting means sets the search density constant mode as the search density mode when the state of the pedestrian traffic light is blue or red, and searches when the state of the pedestrian traffic light is blue flashing. The density emphasis mode is set as a search density mode.
With this configuration, the optimum search is performed because the search density constant mode and the search density priority mode are set based on the behavior tendency of the car and the pedestrian with respect to a specific state of the pedestrian traffic light. A density mode is set, and a pedestrian can be detected efficiently, and a pedestrian can be detected with high accuracy in a specific range that requires special attention.

または、好ましい探索密度モード設定手段は、車両用信号機の状態が青色または赤色である場合、かつ歩行者用信号機の状態が青色または赤色である場合、探索密度一定モードを探索密度モードとして設定し、車両用信号機の状態が黄色である場合、または歩行者用信号機の状態が青色点滅である場合、探索密度重点モードを探索密度モードとして設定することを特徴とする。
かかる構成により、具体的な車両用信号機の状態および歩行者信号機の状態に対する自動車および歩行者の行動傾向に基づいて、探索密度一定モードと、探索密度重点モードとのいずれかの探索密度モードを設定するため、さらに、最適な探索密度モードが設定され、効率よく歩行者を検出することができ、特に注意が必要な特定範囲については、精度よく歩行者を検出することができる。
Alternatively, the preferred search density mode setting means sets the search density constant mode as the search density mode when the state of the vehicle traffic light is blue or red and when the state of the pedestrian traffic light is blue or red, When the state of the vehicle traffic signal is yellow, or when the state of the pedestrian traffic light is blinking blue, the search density priority mode is set as the search density mode.
With this configuration, either the search density constant mode or the search density priority mode is set based on the behavior of the vehicle and the pedestrian with respect to the specific state of the vehicle traffic light and the state of the pedestrian traffic light. Therefore, an optimal search density mode is set, and a pedestrian can be detected efficiently. A pedestrian can be detected with high accuracy in a specific range that requires special attention.

さらに、好ましくは、探索密度重点モードにおいて、第1領域は、車道と歩道との境界周辺であることを特徴とする。
かかる構成により、第1領域は、車道と歩道との境界周辺であるため、歩行者が歩道から車道へ飛び出す特に注意が必要な特定範囲については、精度よく歩行者を検出することができる。
Further, preferably, in the search density emphasis mode, the first region is around the boundary between the roadway and the sidewalk.
With this configuration, since the first region is around the boundary between the roadway and the sidewalk, it is possible to detect the pedestrian with high accuracy in a specific range where pedestrians need to be particularly careful to jump from the sidewalk to the roadway.

さらに、好ましくは、探索密度重点モードにおいて、歩道から車道へ飛び出す歩行者に対する探索密度が高いことを特徴とする。
かかる構成により、歩道から車道へ飛び出す歩行者に対する探索密度を高くするため、歩道から車道へ飛び出す歩行者について重点的に探索し、精度よく歩行者を検出することができる。
Further, preferably, in the search density emphasis mode, the search density for a pedestrian jumping from a sidewalk to a roadway is high.
With this configuration, in order to increase the search density for pedestrians jumping from the sidewalk to the roadway, it is possible to focus on pedestrians jumping from the sidewalk to the roadway and detect pedestrians with high accuracy.

上記目的を達成するために、本発明の歩行者検出方法は、車両に搭載される歩行者検出装置が実行する歩行者検出方法であって、車両周辺の画像を取得する画像取得ステップと、画像取得ステップで取得された画像から歩行者を探索する探索密度について、当該画像領域内で探索密度を一定とする探索密度一定モードと、当該画像領域内のうち、探索密度が高い第1領域と探索密度が低い第2領域とを設定する探索密度重点モードとのいずれかの探索密度モードを設定するかを、道路状況に応じて選択する探索密度モード選択ステップと、探索密度モード選択ステップで選択された結果に基づいて、探索密度モードを設定する探索密度モード設定ステップと、探索密度モード設定ステップで設定された探索密度モードに基づいて、画像取得ステップで取得された画像から歩行者を探索する歩行者探索ステップと、歩行者探索ステップで探索された結果を通知する結果通知ステップとを含む。   In order to achieve the above object, a pedestrian detection method of the present invention is a pedestrian detection method executed by a pedestrian detection device mounted on a vehicle, an image acquisition step for acquiring an image around the vehicle, and an image As for the search density for searching for pedestrians from the image acquired in the acquisition step, the search density constant mode in which the search density is constant in the image area, and the first area having the high search density in the image area and the search The search density mode selection step for selecting, according to the road condition, the search density mode selection step and the search density mode selection step for selecting one of the search density priority modes for setting the second region having a low density is selected. The search density mode setting step for setting the search density mode based on the result of the search, and the image acquisition scan based on the search density mode set in the search density mode setting step. Tsu including a pedestrian searching step of searching for a pedestrian from the image acquired by the flop, and the result notification step of notifying the result of the search by pedestrians searching step.

また、上記目的を達成するために、上述した本発明の歩行者検出装置の各構成が行うそれぞれの処理は、一連の処理手順を与える歩行者検出方法として捉えることができる。この方法は、一連の処理手順をコンピュータに実行させるためのプログラムの形式で提供される。このプログラムは、コンピュータ読み取り可能な記録媒体に記録された形態で、コンピュータに導入されてもよい。   Moreover, in order to achieve the said objective, each process which each structure of the pedestrian detection apparatus of this invention mentioned above can be grasped | ascertained as a pedestrian detection method which gives a series of processing procedures. This method is provided in the form of a program for causing a computer to execute a series of processing procedures. This program may be installed in a computer in a form recorded on a computer-readable recording medium.

上述のように、本発明の歩行者検出装置によれば、カメラによって取得した画像から歩行者を正確に検出しつつ、かつ当該歩行者を検出するための演算量を低減することができる。   As described above, according to the pedestrian detection device of the present invention, it is possible to accurately detect a pedestrian from an image acquired by a camera and reduce the amount of calculation for detecting the pedestrian.

本発明の一実施形態に係る歩行者検出装置100を機能的に示すブロック図The block diagram which shows functionally the pedestrian detection apparatus 100 which concerns on one Embodiment of this invention. 本発明の一実施形態に係る歩行者検出装置100が実行する歩行者検出方法200を示すフローチャートThe flowchart which shows the pedestrian detection method 200 which the pedestrian detection apparatus 100 which concerns on one Embodiment of this invention performs. 車両に搭載されたカメラによって撮像した車両の前方画像を示す図The figure which shows the front image of the vehicle imaged with the camera mounted in the vehicle 図3に示した車両の前方画像から車両用信号機を検出する様子を示す図The figure which shows a mode that the signal apparatus for vehicles is detected from the front image of the vehicle shown in FIG. 車両用信号機の状態遷移と、自動車および歩行者の行動傾向とを示す図The figure which shows the state transition of the traffic signal for vehicles, and the behavior tendency of a car and a pedestrian 車両用信号機の状態に対する探索密度モードを示す図The figure which shows the search density mode with respect to the state of the traffic signal for vehicles 探索密度一定モードを探索密度モードとして設定する様子を示す図The figure which shows a mode that a search density constant mode is set as a search density mode 探索密度重点モードを探索密度モードとして設定する様子を示す図The figure which shows a mode that search density priority mode is set as search density mode 探索密度重点モード設定ステップS250の詳細を示すフローチャートFlowchart showing details of search density priority mode setting step S250 車道と左側歩道との境界周辺において、右向きの歩行者を重点的に探索するように設定する様子を示す図The figure which shows a mode that it sets so that the pedestrian who searches right may be searched intensively around the boundary of a roadway and a left sidewalk 車道と右側歩道との境界周辺において、左向きの歩行者を重点的に探索するように設定する様子を示す図The figure which shows a mode that it sets so that the pedestrian who searches for the left may be searched intensively around the boundary of a roadway and a right sidewalk 図3に示した車両の前方画像から歩行者用信号機を検出する様子を示す図The figure which shows a mode that the traffic signal for pedestrians is detected from the front image of the vehicle shown in FIG. 歩行者用信号機の状態遷移と、自動車および歩行者の行動傾向とを示す図The figure which shows the state transition of the traffic signal for pedestrians, and the behavior tendency of cars and pedestrians 歩行者用信号機の状態に対する探索密度モードを示す図The figure which shows the search density mode with respect to the state of the pedestrian traffic light

以下、本発明の一実施形態について、図面を参照しながら説明する。
図1は、本発明の一実施形態に係る歩行者検出装置100を機能的に示すブロック図である。図1において、歩行者検出装置100は、画像取得手段110と、探索密度モード設定手段120と、記録手段130と、歩行者探索手段140と、結果通知手段150とを備える。なお、探索密度モード設定手段120は、信号機状態判定手段121と、探索密度モード選択手段122とを含む。
Hereinafter, an embodiment of the present invention will be described with reference to the drawings.
FIG. 1 is a block diagram functionally showing a pedestrian detection apparatus 100 according to an embodiment of the present invention. In FIG. 1, the pedestrian detection apparatus 100 includes an image acquisition unit 110, a search density mode setting unit 120, a recording unit 130, a pedestrian search unit 140, and a result notification unit 150. The search density mode setting means 120 includes a traffic light state determination means 121 and a search density mode selection means 122.

画像取得手段110は、車両に搭載されたカメラによって、車両の前方画像を撮像し、当該画像を取得する。なお、車両に搭載されるカメラの設置位置、設置台数、および視野角に応じて、車両の前方のみでなく車両の左右および後画像を取得してもよい。ここでは、車両には、可視光線カメラ、および近赤外線カメラが搭載されているものとする。可視光線カメラは、後述する信号機を検出するための画像を取得し、近赤外線カメラは、後述する歩行者を探索するための画像を取得する。   The image acquisition unit 110 captures a front image of the vehicle with a camera mounted on the vehicle, and acquires the image. Note that left and right and rear images of the vehicle as well as the front of the vehicle may be acquired according to the installation position, the number of cameras installed, and the viewing angle of the camera mounted on the vehicle. Here, it is assumed that a visible light camera and a near-infrared camera are mounted on the vehicle. The visible light camera acquires an image for detecting a traffic light described later, and the near-infrared camera acquires an image for searching for a pedestrian described later.

探索密度モード設定手段120は、画像取得手段110によって取得された画像から歩行者を探索する探索密度モードを設定する。より詳細には、信号機状態判定手段121は、画像取得手段110によって取得された画像から信号機の状態を判定する。探索密度モード選択手段122は、信号機状態判定手段121によって判定された信号機の状態に基づいて、歩行者が歩道から車道へ飛び出す可能性を考慮して、探索密度モードを選択する。なお、探索密度モードの詳細については、後述する。   The search density mode setting unit 120 sets a search density mode for searching for a pedestrian from the image acquired by the image acquisition unit 110. More specifically, the traffic signal state determination unit 121 determines the state of the traffic signal from the image acquired by the image acquisition unit 110. The search density mode selection unit 122 selects the search density mode based on the traffic light state determined by the traffic light state determination unit 121 in consideration of the possibility of a pedestrian jumping from the sidewalk to the roadway. Details of the search density mode will be described later.

記録手段130は、例えば、メモリ等であって、複数の歩行者の基準パターン、および信号機の状態に対応する探索密度モードの詳細な設定情報等が記録されている。探索密度モード設定手段120は、記録手段130を参照して、適切な探索密度モードを設定する。   The recording unit 130 is, for example, a memory or the like, in which a reference pattern of a plurality of pedestrians and detailed setting information of a search density mode corresponding to a traffic light state are recorded. The search density mode setting unit 120 refers to the recording unit 130 and sets an appropriate search density mode.

歩行者探索手段140は、探索密度モード設定手段120によって設定された探索密度モードに基づいて、画像取得手段110によって取得された画像から歩行者を探索する。   The pedestrian search unit 140 searches for a pedestrian from the image acquired by the image acquisition unit 110 based on the search density mode set by the search density mode setting unit 120.

結果通知手段150は、歩行者探索手段140によって探索された結果を通知する。例えば、画像取得手段110によって取得された画像から歩行者を検出した場合、当該歩行者情報をモニタに表示し、さらに、当該歩行者が歩道から車道へ飛び出すと判定した場合には、警告音を鳴らす等して運転者に通知してもよい。   The result notification means 150 notifies the result searched by the pedestrian search means 140. For example, when a pedestrian is detected from the image acquired by the image acquisition unit 110, the pedestrian information is displayed on the monitor, and when it is determined that the pedestrian jumps out from the sidewalk to the roadway, a warning sound is generated. The driver may be notified by ringing.

次に、本発明の一実施形態に係る歩行者検出装置100が実行する処理の流れについて説明する。   Next, the flow of processing executed by the pedestrian detection device 100 according to an embodiment of the present invention will be described.

図2は、本発明の一実施形態に係る歩行者検出装置100が実行する歩行者検出方法200を示すフローチャートである。図2において、歩行者検出方法200は、画像取得ステップS210と、信号機状態判定ステップS220と、探索密度モード選択ステップS230と、探索密度一定モード設定ステップS240と、探索密度重点モード設定ステップS250と、歩行者探索ステップS260と、結果通知ステップS270とを含む。   FIG. 2 is a flowchart showing a pedestrian detection method 200 executed by the pedestrian detection apparatus 100 according to an embodiment of the present invention. 2, the pedestrian detection method 200 includes an image acquisition step S210, a traffic light state determination step S220, a search density mode selection step S230, a constant search density mode setting step S240, a search density emphasis mode setting step S250, A pedestrian search step S260 and a result notification step S270 are included.

画像取得ステップS210において、画像取得手段110は、車両の前方画像を撮像し、当該画像を取得する。ここでは、後述する信号機を検出するための画像、および後述する歩行者を探索するための画像を取得する。図3は、車両に搭載されたカメラによって撮像した車両の前方画像を示す図である。   In the image acquisition step S210, the image acquisition unit 110 captures a front image of the vehicle and acquires the image. Here, an image for detecting a traffic signal described later and an image for searching for a pedestrian described later are acquired. FIG. 3 is a diagram illustrating a front image of the vehicle imaged by a camera mounted on the vehicle.

信号機状態判定ステップS220において、探索密度モード設定手段120の信号機状態判定手段121は、画像取得ステップS210で取得された車両の前方画像から信号機を検出する。図4は、図3に示した車両の前方画像から車両用信号機を検出する様子を示す図である。図4において、信号機状態判定手段121は、画像取得ステップS210で取得した車両の前方画像から、自車の走行車線の車両用信号機を検出している。   In the traffic light state determination step S220, the traffic light state determination means 121 of the search density mode setting means 120 detects a traffic light from the front image of the vehicle acquired in the image acquisition step S210. FIG. 4 is a diagram illustrating a state in which a vehicle traffic signal is detected from the front image of the vehicle illustrated in FIG. 3. In FIG. 4, the traffic light state determination means 121 detects a vehicle traffic signal in the traveling lane of the host vehicle from the front image of the vehicle acquired in the image acquisition step S210.

そして、信号機状態判定手段121は、検出した車両用信号機の状態を判定する。具体的には、信号機状態判定手段121は、検出した車両用信号機の状態が、青色であるか、黄色であるか、または赤色であるかを判定する。   And the traffic signal state determination means 121 determines the state of the detected vehicle traffic signal. Specifically, the traffic light state determination unit 121 determines whether the detected state of the vehicle traffic signal is blue, yellow, or red.

探索密度モード選択ステップS230において、探索密度モード選択手段122は、信号機状態判定ステップS220で判定された車両用信号機の状態が黄色であるか否かを判定する。車両用信号機の状態が黄色でない場合、探索密度モード選択手段122は、探索密度一定モードを探索密度モードとして選択し、探索密度一定モード設定ステップS240の処理に進む(探索密度モード選択ステップS230のNo)。一方、車両用信号機の状態が黄色である場合、探索密度モード選択手段122は、探索密度重点モードを探索密度モードとして選択し、探索密度重点モード設定ステップS250の処理に進む(探索密度モード選択ステップS230のYes)。   In search density mode selection step S230, the search density mode selection means 122 determines whether or not the state of the vehicle traffic light determined in the traffic light state determination step S220 is yellow. When the state of the vehicle traffic signal is not yellow, the search density mode selection unit 122 selects the constant search density mode as the search density mode, and proceeds to the process of the constant search density mode setting step S240 (No in the search density mode selection step S230). ). On the other hand, when the state of the traffic signal for the vehicle is yellow, the search density mode selection unit 122 selects the search density emphasis mode as the search density mode, and proceeds to the processing of the search density emphasis mode setting step S250 (search density mode selection step). Yes at S230).

ここで、車両用信号機の状態と、自動車および歩行者の行動傾向とについて説明する。図5は、車両用信号機の状態遷移と、自動車および歩行者の行動傾向とを示す図である。図5に示すように、車両用信号機は、通常、青色→黄色→赤色→青色→…の順に状態遷移する。   Here, the state of the vehicle traffic signal and the behavior tendency of the automobile and the pedestrian will be described. FIG. 5 is a diagram showing the state transition of the traffic signal for vehicles and the behavior tendency of automobiles and pedestrians. As shown in FIG. 5, the vehicle traffic signal normally changes in order of blue → yellow → red → blue →.

車両用信号機の状態が青色の場合、自動車は走行車線を走行し、歩行者は歩道から車道へ侵入しない(歩行者は歩道で停止している)。車両用信号機の状態が赤色の場合、自動車は停止し、歩行者は歩道から車道へ侵入している(歩行者は横断歩道を横断する)。換言すれば、車両用信号機の状態が青色および赤色の場合は、自動車および歩行者のうち、一方は走行中(横断中)であり、他方は完全に停止している状態である。   When the state of the vehicle traffic light is blue, the car travels in the driving lane and the pedestrian does not enter the roadway from the sidewalk (the pedestrian is stopped on the sidewalk). When the vehicle traffic light is red, the car is stopped and the pedestrian has entered the roadway from the sidewalk (the pedestrian crosses the pedestrian crossing). In other words, when the state of the vehicle traffic signal is blue and red, one of the automobile and the pedestrian is running (crossing) and the other is completely stopped.

車両用信号機の状態が青色から黄色に遷移した場合、自動車は、車両用信号機の状態が青色の状態よりも急いで走行する可能性がある。一方、歩行者は、自動車が急いで走行する可能性があるにも拘らず、次に、車両用信号機の状態が赤色に遷移することを見込んで、歩道から車道へ飛び出す傾向がある(歩行者は横断歩道を見切り横断する)。つまり、車両用信号機の状態が黄色である場合、自動車は、特に、歩道から車道へ飛び出す歩行者に注意する必要がある。   When the state of the vehicular traffic signal transitions from blue to yellow, the automobile may travel faster than the vehicular traffic signal is in the blue state. On the other hand, pedestrians tend to jump out from the sidewalk to the roadway in anticipation of the state of the vehicle traffic light changing to red, despite the possibility that the car may travel in a hurry (pedestrians) Crosses the pedestrian crossing). That is, when the state of the vehicle traffic signal is yellow, the automobile needs to pay attention especially to a pedestrian who jumps out from the sidewalk to the roadway.

このような車両用信号機の状態と、自動車および歩行者の行動傾向とに基づいて、探索密度モード選択手段122は、探索密度一定モードと探索密度重点モードとのいずれかの探索密度モードを選択する。   Based on the state of the vehicle traffic signal and the behavior tendency of the car and the pedestrian, the search density mode selection means 122 selects one of the search density constant mode and the search density priority mode. .

図6は、車両用信号機の状態に対する探索密度モードを示す図である。上述したように、車両用信号機の状態が黄色である場合、自動車は、特に、歩道から車道へ飛び出す歩行者に注意する必要があるため、歩行者検出装置100は、車道と歩道との境界周辺について、重点的に歩行者を探索する。つまり、探索密度モード選択手段122は、車両用信号機の状態が青色または赤色である場合、歩行者を検出するために取得した画像から歩行者を探索する探索密度について、当該探索密度を一定値とする探索密度一定モードを選択する。一方、探索密度モード選択手段122は、車両用信号機の状態が黄色である場合、歩行者を検出するために取得した画像から歩行者を探索する探索密度について、車道と歩道との境界周辺を高密度とする探索密度重点モードを選択する。   FIG. 6 is a diagram illustrating a search density mode with respect to the state of the vehicle traffic signal. As described above, when the state of the traffic signal for the vehicle is yellow, the automobile needs to pay attention especially to the pedestrian jumping out from the sidewalk to the roadway. Therefore, the pedestrian detection device 100 is provided around the boundary between the roadway and the sidewalk. , Search for pedestrians with emphasis. That is, the search density mode selection unit 122 sets the search density to a constant value for the search density for searching for a pedestrian from an image acquired to detect the pedestrian when the state of the vehicle traffic signal is blue or red. Select the search density constant mode. On the other hand, the search density mode selection unit 122 increases the vicinity of the boundary between the roadway and the sidewalk with respect to the search density for searching for a pedestrian from an image acquired to detect the pedestrian when the state of the traffic signal for the vehicle is yellow. Select search density emphasis mode as density.

探索密度一定モード設定ステップS240において、探索密度モード設定手段120は、探索密度モード選択ステップS230で選択された結果に基づいて、探索密度一定モードを探索密度モードとして設定する。図7は、探索密度一定モードを探索密度モードとして設定する様子を示す図である。図7において、探索密度モード設定手段120は、画像取得ステップS210で取得された画像から歩行者を探索する探索密度について、当該画像領域内で一定値の探索密度で歩行者を探索するように設定する。   In the search density constant mode setting step S240, the search density mode setting means 120 sets the search density constant mode as the search density mode based on the result selected in the search density mode selection step S230. FIG. 7 is a diagram illustrating a state in which the constant search density mode is set as the search density mode. In FIG. 7, the search density mode setting unit 120 sets the search density for searching for a pedestrian from the image acquired in the image acquisition step S <b> 210 so as to search for a pedestrian with a constant search density in the image area. To do.

車両用信号機の状態が青色の場合、自動車は走行車線を走行しており、歩行者は歩道で停止しているため、画像取得ステップS210で取得された画像領域内のうち特定範囲で、重点的に歩行者を探索するのではなく、当該画像領域内で一定値の探索密度で歩行者を探索するように設定する。車両用信号機の状態が赤色の場合、自動車は停止しており、歩行者は横断歩道を横断するため、同様に、画像取得ステップS210で取得された画像領域内のうち特定範囲で、重点的に歩行者を探索するのではなく、当該画像領域内で一定値の探索密度で歩行者を探索するように設定する。   When the state of the vehicle traffic light is blue, the automobile is traveling in the driving lane and the pedestrian is stopped on the sidewalk. Therefore, the vehicle is focused on a specific range in the image area acquired in the image acquisition step S210. Instead of searching for a pedestrian, the search is set to search for a pedestrian with a constant search density within the image area. When the state of the vehicle traffic light is red, the car is stopped and the pedestrian crosses the pedestrian crossing. Similarly, in a specific range within the image area acquired in the image acquisition step S210, focus on the same. Rather than searching for pedestrians, settings are made so as to search for pedestrians with a constant search density within the image area.

探索密度重点モード設定ステップS250において、探索密度モード設定手段120は、探索密度モード選択ステップS230で選択された結果に基づいて、探索密度重点モードを探索密度モードとして設定する。図8は、探索密度重点モードを探索密度モードとして設定する様子を示す図である。図8において、探索密度モード設定手段120は、画像取得ステップS210で取得された画像から歩行者を探索する探索密度について、当該画像領域内のうち、車道と歩道との境界周辺である特定範囲で探索密度を高くして、歩行者を探索するように設定する。一方、特定範囲で探索密度を高くする分、当該特定範囲以外の探索密度は低く設定する。   In search density emphasis mode setting step S250, search density mode setting means 120 sets the search density emphasis mode as a search density mode based on the result selected in search density mode selection step S230. FIG. 8 is a diagram illustrating how the search density priority mode is set as the search density mode. In FIG. 8, the search density mode setting unit 120 uses a specific range around the boundary between the roadway and the sidewalk in the image area for the search density for searching for a pedestrian from the image acquired in the image acquisition step S <b> 210. The search density is set to be high so as to search for pedestrians. On the other hand, as the search density is increased in the specific range, the search density outside the specific range is set low.

さらに、車道と歩道との境界周辺である特定範囲で探索密度を高くする方法について、より詳細に説明する。図9は、探索密度重点モード設定ステップS250の詳細を示すフローチャートである。図9において、探索密度重点モード設定ステップS250は、探索密度重点範囲設定ステップS251と、歩行者探索パターン設定ステップS252とを含む。   Further, a method for increasing the search density in a specific range around the boundary between the roadway and the sidewalk will be described in more detail. FIG. 9 is a flowchart showing details of the search density priority mode setting step S250. In FIG. 9, the search density emphasis mode setting step S250 includes a search density emphasis range setting step S251 and a pedestrian search pattern setting step S252.

探索密度重点範囲設定ステップS251において、探索密度モード設定手段120は、画像取得ステップS210で取得された画像領域内のうち、歩行者の探索密度を高くする特定範囲を設定する。例えば、図8では、車道と歩道との左右の境界周辺それぞれを特定範囲と設定している。   In search density emphasis range setting step S251, search density mode setting means 120 sets a specific range for increasing the search density of pedestrians in the image area acquired in image acquisition step S210. For example, in FIG. 8, a specific range is set around each of the left and right boundaries between the roadway and the sidewalk.

歩行者探索パターン設定ステップS252において、探索密度モード設定手段120は、探索密度重点範囲設定ステップS251で設定された特定範囲において、どのような歩行者の基準パターンを探索するかを設定する。   In the pedestrian search pattern setting step S252, the search density mode setting means 120 sets what kind of pedestrian reference pattern is searched in the specific range set in the search density priority range setting step S251.

具体的には、車道と左側歩道との境界周辺では、歩道から車道へ飛び出す歩行者は、通常、右向きである。つまり、車道と左側歩道との境界周辺では、右向きの歩行者を重点的に探索すればよい。図10Aは、車道と左側歩道との境界周辺において、右向きの歩行者を重点的に探索するように設定する様子を示す図である。図10Aにおいて、探索密度モード設定手段120は、画像取得ステップS210で取得された画像領域内のうち、歩行者の探索密度を高くする特定範囲を車道と左側歩道との境界周辺と設定し、さらに、当該特定範囲では、右向きの歩行者の基準パターンを設定し、右向きの歩行者を重点的に探索するようにしている。   Specifically, in the vicinity of the boundary between the roadway and the left sidewalk, a pedestrian jumping from the sidewalk to the roadway is usually facing right. In other words, a right-handed pedestrian may be searched for mainly around the boundary between the roadway and the left sidewalk. FIG. 10A is a diagram illustrating a state in which a setting is made so that a right-handed pedestrian is preferentially searched around the boundary between the roadway and the left sidewalk. In FIG. 10A, the search density mode setting means 120 sets a specific range for increasing the search density of pedestrians within the image area acquired in the image acquisition step S210 as the vicinity of the boundary between the roadway and the left sidewalk, In the specific range, a reference pattern for a right-handed pedestrian is set to search for a right-handed pedestrian.

同様に、車道と右側歩道との境界周辺では、左向きの歩行者を重点的に探索すればよい。図10Bは、車道と右側歩道との境界周辺において、左向きの歩行者を重点的に探索するように設定する様子を示す図である。図10Bにおいて、探索密度モード設定手段120は、画像取得ステップS210で取得された画像領域内のうち、歩行者の探索密度を高くする特定範囲を車道と右側歩道との境界周辺と設定し、さらに、当該特定範囲では、左向きの歩行者の基準パターンを設定し、左向きの歩行者を重点的に探索するようにしている。   Similarly, in the vicinity of the boundary between the roadway and the right sidewalk, it is only necessary to search for a pedestrian facing left. FIG. 10B is a diagram illustrating a state in which a setting is made so that a left-handed pedestrian is preferentially searched around the boundary between the roadway and the right sidewalk. In FIG. 10B, the search density mode setting means 120 sets a specific range for increasing the search density of the pedestrian within the image area acquired in the image acquisition step S210 as the vicinity of the boundary between the roadway and the right sidewalk, In the specific range, a reference pattern for a left-facing pedestrian is set, and a search for a left-facing pedestrian is focused.

上述のように、左側歩道から車道へ飛び出す歩行者、および右側歩道から車道へ飛び出す歩行者を重点的に探索するように設定している。   As described above, the pedestrian who jumps out from the left sidewalk to the roadway and the pedestrian who jumps out from the right sidewalk to the roadway are set to be searched with priority.

なお、画像取得ステップS210で取得された画像領域内のうち、歩行者の探索密度を高くする特定範囲、および当該特定範囲において、どのような歩行者の基準パターンを探索するかについては、記録手段130に予め設定されていてもよい。記録手段130には、例えば、車道と歩道との境界線からそれぞれ車道側および歩道側へ2[m]の範囲を特定範囲にするか、および複数の歩行者の基準パターンのうち、具体的にどの歩行者の基準パターンを用いて歩行者を探索するか等が記録されている。探索密度モード設定手段120は、車両用信号機の状態に基づいて、探索密度モードを選択し、さらに、記録手段130を参照しながら、選択した探索モードに対応する具体的な探索密度を設定する。   Note that, within the image area acquired in the image acquisition step S210, a specific range for increasing the search density of pedestrians, and what pedestrian reference pattern to search for in the specific range is recorded. 130 may be set in advance. In the recording means 130, for example, a range of 2 [m] from the boundary line between the roadway and the sidewalk to the roadway side and the sidewalk side is set as a specific range, and among the reference patterns of a plurality of pedestrians, The reference pattern of which pedestrian is used to search for a pedestrian is recorded. The search density mode setting unit 120 selects a search density mode based on the state of the vehicle traffic signal, and further sets a specific search density corresponding to the selected search mode while referring to the recording unit 130.

歩行者探索ステップS260において、歩行者探索手段140は、探索密度一定モード設定ステップS240で設定された探索密度一定モード、または探索密度重点モード設定ステップS250で設定された探索密度重点モードに基づいて、画像取得手段110によって取得された画像から歩行者を探索する。具体的には、歩行者探索手段140は、設定された探索密度、つまり、設定された粗細度の探索窓を配置および移動させ、当該探索窓内の画像と、設定された歩行者の基準パターンとを比較する。換言すれば、探索密度一定モードでは、歩行者探索手段140は、画像取得手段110によって取得された画像領域内において、同一粗細度で探索窓を配置および移動させ、当該探索窓内の画像と、設定された歩行者の基準パターンとを比較する。探索密度重点モードでは、歩行者探索手段140は、画像取得手段110によって取得された画像領域内のうち、設定された特定範囲では、細かい粗細度で探索窓を配置および移動させ、特定範囲以外では、粗い粗細度で探索窓を配置および移動させ、当該探索窓内の画像と、設定された歩行者の基準パターンとを比較する。   In the pedestrian search step S260, the pedestrian search means 140 is based on the search density constant mode set in the search density constant mode setting step S240 or the search density priority mode set in the search density priority mode setting step S250. A pedestrian is searched from the image acquired by the image acquisition means 110. Specifically, the pedestrian search means 140 arranges and moves a search window having a set search density, that is, a set coarseness, and an image in the search window and the set pedestrian reference pattern. And compare. In other words, in the constant search density mode, the pedestrian search means 140 arranges and moves the search window with the same coarseness in the image area acquired by the image acquisition means 110, and the image in the search window, Compare with the set pedestrian reference pattern. In the search density emphasis mode, the pedestrian search means 140 arranges and moves the search window with fine coarseness in the set specific range within the image area acquired by the image acquisition means 110, and outside the specific range. Then, the search window is arranged and moved with rough coarseness, and the image in the search window is compared with the set reference pattern of the pedestrian.

結果通知ステップS270において、結果通知手段150は、歩行者探索ステップS260で探索された結果を通知する。例えば、歩行者探索ステップS260で歩行者と認識した画像を強調するようにモニタに表示し、さらに、歩行者探索ステップS260で歩行者と認識した画像のうち、歩道から車道へ飛び出す歩行者であると判定した場合は、警告音を鳴らすことによって運転者に通知してもよい。   In result notification step S270, the result notification means 150 notifies the result searched in pedestrian search step S260. For example, the image is displayed on the monitor so as to emphasize the image recognized as a pedestrian in the pedestrian search step S260, and among the images recognized as the pedestrian in the pedestrian search step S260, the pedestrian jumps from the sidewalk to the roadway. May be notified to the driver by sounding a warning sound.

以上のように、本発明の一実施形態に係る歩行者検出装置100によれば、車両用信号機の状態が青色および赤色の場合は、探索密度一定モードを探索密度モードとして設定することによって、画像取得手段110によって取得した画像領域内で一定値の探索密度で歩行者を探索する。車両用信号機の状態が黄色の場合は、探索密度重点モードを探索密度モードとして設定することによって、画像取得手段110によって取得した画像領域内のうち、車道と歩道との境界周辺である特定範囲で探索密度を高くし、それ以外の範囲の探索密度を低くして、歩行者を探索するように設定する。これにより、画像取得手段110によって取得した画像から歩行者を正確に検出しつつ、かつ当該歩行者を検出するための演算量を低減することができる。   As described above, according to the pedestrian detection device 100 according to the embodiment of the present invention, when the state of the traffic signal for the vehicle is blue and red, the image is set by setting the constant search density mode as the search density mode. A pedestrian is searched with a constant search density within the image area acquired by the acquisition means 110. When the state of the vehicle traffic signal is yellow, the search density emphasis mode is set as the search density mode, so that a specific range around the boundary between the roadway and the sidewalk in the image area acquired by the image acquisition unit 110 is set. The search density is set high, and the search density in other ranges is set low so as to search for pedestrians. Thereby, the amount of calculation for detecting the said pedestrian can be reduced, detecting a pedestrian correctly from the image acquired by the image acquisition means 110. FIG.

より詳細には、歩行者が歩道から車道へ飛び出す可能性が高い車両用信号機の状態が黄色である場合は、車道と歩道との境界周辺について探索密度を高くし、それ以外の範囲の探索密度を低くすることによって、歩行者を検出するための演算量を増加させることなく、歩道から車道へ飛び出す歩行者を重点的に検出することができる。   More specifically, if the traffic signal for vehicles, where pedestrians are likely to jump from the sidewalk to the roadway, is yellow, increase the search density around the boundary between the roadway and the sidewalk, and search density in other ranges. By lowering the pedestrian, it is possible to focus on detecting pedestrians jumping from the sidewalk to the roadway without increasing the amount of computation for detecting pedestrians.

なお、本実施形態では、車両用信号機の状態に基づいて、探索密度モードを選択していたが、これに限定されるものでなく、歩行者用信号機の状態に基づいて、探索密度モードを選択しても構わない。図11は、図3に示した車両の前方画像から歩行者用信号機を検出する様子を示す図である。図11おいて、信号機状態判定手段121は、画像取得手段110によって取得された車両の前方画像から、自車の走行車線における横断歩道の歩行者用信号機を検出する。   In the present embodiment, the search density mode is selected based on the state of the vehicle traffic signal. However, the present invention is not limited to this, and the search density mode is selected based on the state of the pedestrian traffic signal. It doesn't matter. FIG. 11 is a diagram illustrating a state in which a pedestrian traffic light is detected from the front image of the vehicle illustrated in FIG. 3. In FIG. 11, the traffic light state determination means 121 detects a pedestrian traffic light on the pedestrian crossing in the traveling lane of the host vehicle from the front image of the vehicle acquired by the image acquisition means 110.

そして、信号機状態判定手段121は、検出した歩行者用信号機の状態を判定する。具体的には、信号機状態判定手段121は、検出した歩行者用信号機の状態が、赤色であるか、青色であるか、または青色点滅であるかを判定する。   And the traffic signal state determination means 121 determines the state of the detected traffic signal for pedestrians. Specifically, the traffic light state determination unit 121 determines whether the detected state of the pedestrian traffic light is red, blue, or blue blinking.

図12は、歩行者用信号機の状態遷移と、自動車および歩行者の行動傾向とを示す図である。図12に示すように、歩行者用信号機は、通常、赤色→青色→青色点滅→赤色→…の順に状態遷移する。   FIG. 12 is a diagram illustrating state transitions of pedestrian traffic lights and behavioral trends of automobiles and pedestrians. As shown in FIG. 12, the pedestrian traffic light normally changes in the order of red → blue → blue flashing → red →.

歩行者用信号機の状態が赤色の場合、自動車は走行車線を走行し、歩行者は歩道から車道へ侵入しない(歩行者は歩道で停止している)。歩行者用信号機の状態が青色の場合、自動車は停止し、歩行者は歩道から車道へ侵入している(歩行者は横断歩道を横断する)。換言すれば、歩行者用信号機の状態が赤色および青色の場合は、自動車および歩行者のうち、一方は走行中(横断中)であり、他方は完全に停止している状態である。   When the state of the pedestrian traffic light is red, the automobile travels in the driving lane, and the pedestrian does not enter the roadway from the sidewalk (the pedestrian is stopped on the sidewalk). When the pedestrian traffic light is blue, the car has stopped and the pedestrian has entered the roadway from the sidewalk (the pedestrian crosses the pedestrian crossing). In other words, when the state of the pedestrian traffic light is red and blue, one of the car and the pedestrian is running (crossing) and the other is completely stopped.

歩行者用信号機の状態が青色から青色点滅に遷移した場合、自動車は、発進する準備をし、さらには、見切り発進する可能性がある。一方、歩行者は、自動車が見切り発進する可能性があるにも拘らず、急いで歩道から車道へ飛び出す傾向がある(歩行者は横断歩道を駆け込み横断する)。つまり、歩行者用信号機の状態が青色点滅である場合、自動車は、特に、歩道から車道へ飛び出す歩行者に注意する必要がある。   If the state of the pedestrian traffic light changes from blue to flashing blue, the car is ready to start and may even give up. On the other hand, pedestrians tend to jump out from the sidewalk to the roadway despite the possibility that the car will give up and start (the pedestrian crosses the pedestrian crossing). In other words, when the state of the pedestrian traffic light is blinking blue, the automobile needs to pay attention especially to pedestrians jumping from the sidewalk to the roadway.

このような歩行者用信号機の状態と、自動車および歩行者の行動傾向とに基づいて、探索密度モード選択手段122は、探索密度一定モードと探索密度重点モードとのいずれかの探索密度モードを選択する。   Based on the state of the pedestrian traffic light and the behavior tendency of the car and the pedestrian, the search density mode selection unit 122 selects one of the search density constant mode and the search density priority mode. To do.

図13は、歩行者用信号機の状態に対する探索密度モードを示す図である。上述したように、歩行者用信号機の状態が青色点滅である場合、自動車は、特に、歩道から車道へ飛び出す歩行者に注意する必要があるため、歩行者検出装置100は、車道と歩道との境界周辺について、重点的に歩行者を探索する。つまり、探索密度モード選択手段122は、歩行者用信号機の状態が赤色または青色である場合、歩行者を検出するために取得した画像から歩行者を探索する探索密度について、当該探索密度を一定値とする探索密度一定モードを選択する。一方、探索密度モード選択手段122は、歩行者用信号機の状態が黄色である場合、歩行者を検出するために取得した画像から歩行者を探索する探索密度について、車道と歩道との境界周辺を高密度とする探索密度重点モードを選択する。   FIG. 13 is a diagram illustrating a search density mode with respect to the state of the pedestrian traffic light. As described above, when the state of the pedestrian traffic light is blinking blue, the automobile needs to pay attention particularly to the pedestrian jumping out from the sidewalk to the roadway. Search for pedestrians around the boundary. That is, when the state of the traffic light for the pedestrian is red or blue, the search density mode selection unit 122 sets the search density to a constant value for the search density for searching for a pedestrian from an image acquired to detect the pedestrian. Select the constant search density mode. On the other hand, when the state of the traffic light for pedestrians is yellow, the search density mode selection means 122 searches the vicinity of the boundary between the roadway and the sidewalk with respect to the search density for searching for pedestrians from the image acquired to detect the pedestrians. Select the search density emphasis mode to be high density.

上述のように、歩行者用信号機の状態に基づいて、探索密度モードを選択しても、車両用信号機の状態に基づいて、探索密度モードを選択した場合と同一の効果が得られることは言うまでもない。   As described above, even if the search density mode is selected based on the state of the pedestrian traffic light, it goes without saying that the same effect as that obtained when the search density mode is selected based on the state of the vehicle traffic light can be obtained. Yes.

さらに、車両用信号機の状態と歩行者用信号機の状態との両方に基づいて、探索密度モードを選択しても構わない。具体的には、例えば、車両用信号機の状態が赤色であって、歩行者用信号機の状態が青色点滅の場合が想定される。この場合、歩行者用信号機の状態を優先し、探索密度モード選択手段122は、探索密度重点モードを選択する。また、車両用信号機の状態が黄色であって、歩行者用信号機の状態が赤色の場合が想定される。この場合、車両用信号機の状態を優先し、探索密度モード選択手段122は、探索密度重点モードを選択する。   Further, the search density mode may be selected based on both the state of the vehicle traffic light and the state of the pedestrian traffic light. Specifically, for example, it is assumed that the state of the vehicle traffic light is red and the state of the pedestrian traffic light is blinking blue. In this case, priority is given to the state of the pedestrian traffic light, and the search density mode selection means 122 selects the search density priority mode. In addition, it is assumed that the vehicle traffic light is yellow and the pedestrian traffic light is red. In this case, priority is given to the state of the vehicle traffic signal, and the search density mode selection means 122 selects the search density priority mode.

つまり、車両用信号機の状態が青色または赤色である場合、かつ歩行者用信号機の状態が青色または赤色である場合、探索密度モード選択手段122は、探索密度一定モードを選択する。一方、車両用信号機の状態が黄色である場合、または歩行者用信号機の状態が青色点滅である場合、探索密度モード選択手段122は、探索密度重点モードを選択する。   That is, when the state of the vehicle traffic signal is blue or red and when the state of the pedestrian traffic light is blue or red, the search density mode selection unit 122 selects the constant search density mode. On the other hand, when the state of the traffic signal for the vehicle is yellow or when the state of the traffic light for the pedestrian is blinking blue, the search density mode selection unit 122 selects the search density priority mode.

また、本実施形態は、カメラによって車両の前方画像を取得し、当該画像から信号機の状態を認識していたが、これに限定されるものでなく、例えば、安全運転支援システム(DSSS:Driving Safety Support Systems)によって、信号機の状態を認識しても構わない。具体的には、道路に設置された光ビーコンから車両へ信号機の状態(信号情報)を通知することによって、車両は、カメラによって車両の前方画像を取得し、当該画像から信号機の状態を認識しなくてもよい。   In this embodiment, the front image of the vehicle is acquired by the camera and the state of the traffic light is recognized from the image. However, the present invention is not limited to this. For example, a safe driving support system (DSSS: Driving Safety) The status of the traffic light may be recognized by Support Systems. Specifically, by notifying the vehicle of the state (signal information) of a traffic light from an optical beacon installed on the road, the vehicle acquires a front image of the vehicle with a camera and recognizes the state of the traffic light from the image. It does not have to be.

また、本実施形態は、信号機の状態に基づいて、歩行者が歩道から車道へ飛び出す可能性を考慮して、探索密度モードを選択していたが、これに限定されるものではない。例えば、信号機が設置されていない横断歩道では、歩行者が歩道から車道へ飛び出す可能性が高いと推測できる。この場合、画像取得手段110によって取得された画像から信号機が設置されていない横断歩道を認識し、探索密度モード選択手段122は、当該横断歩道を自車が走行する際には、当該横断歩道における車道と歩道との境界周辺について探索密度を高くする探索密度重点モードを選択してもよい。   In the present embodiment, the search density mode is selected based on the state of the traffic light in consideration of the possibility that the pedestrian jumps from the sidewalk to the roadway. However, the present invention is not limited to this. For example, in a pedestrian crossing where no traffic light is installed, it can be estimated that a pedestrian is likely to jump out of the sidewalk onto the roadway. In this case, the pedestrian crossing where the traffic light is not installed is recognized from the image acquired by the image acquisition unit 110, and the search density mode selection unit 122 is located in the pedestrian crossing when the vehicle travels on the pedestrian crossing. A search density emphasis mode for increasing the search density around the boundary between the roadway and the sidewalk may be selected.

さらに、交差点において、車両の走行車線に、歩行者が飛び出す可能性が高いと推測できる。この場合も同様に、画像取得手段110によって取得された画像から交差点を認識し、探索密度モード選択手段122は、当該交差点に自車が進入する際には、当該交差点における他の道路との境界周辺について探索密度を高くする探索密度重点モードを選択してもよい。   Furthermore, it can be estimated that there is a high possibility that a pedestrian will jump out of the traveling lane of the vehicle at the intersection. Similarly, in this case, the intersection is recognized from the image acquired by the image acquisition unit 110, and the search density mode selection unit 122, when the own vehicle enters the intersection, borders with other roads at the intersection. You may select the search density emphasis mode which makes search density high about the periphery.

なお、本実施形態では、探索対象を歩行者としていたが、これに限定されるものではない。例えば、記録手段130に予め自転車の基準パターンを記録しておけば、自転車を探索対象にしても同様の効果が得られることは言うまでもない。   In the present embodiment, the search target is a pedestrian, but the present invention is not limited to this. For example, if a bicycle reference pattern is recorded in the recording unit 130 in advance, it goes without saying that the same effect can be obtained even if a bicycle is searched.

なお、本実施形態では、図7に示した探索密度一定モード、および図8、図10A、および図10Bに示した探索密度重点モードを、探索密度として例示したが、これらに限定されるものではない。その他の関数およびヒューリスティックに基づいたモードを設定しても構わない。   In the present embodiment, the search density constant mode shown in FIG. 7 and the search density emphasis mode shown in FIGS. 8, 10A, and 10B are exemplified as search densities. However, the present invention is not limited to these. Absent. A mode based on other functions and heuristics may be set.

本発明は、歩行者を検出するための演算量を低減しつつ、歩道から車道へ飛び出す歩行者を正確に検出する歩行者検出装置等に有用である。   INDUSTRIAL APPLICABILITY The present invention is useful for a pedestrian detection device that accurately detects a pedestrian jumping from a sidewalk to a roadway while reducing the amount of calculation for detecting the pedestrian.

100 歩行者検出装置
110 画像取得手段
120 探索密度モード設定手段
121 信号機状態判定手段
122 探索密度モード選択手段
130 記録手段
140 歩行者探索手段
150 結果通知手段
200 歩行者検出方法
S210 画像取得ステップ
S220 信号機状態判定ステップ
S230 探索密度モード選択ステップ
S240 探索密度一定モード設定ステップ
S250 探索密度重点モード設定ステップ
S251 探索密度重点範囲設定ステップ
S252 歩行者探索パターン設定ステップ
S260 歩行者探索ステップ
S270 結果通知ステップ
DESCRIPTION OF SYMBOLS 100 Pedestrian detection apparatus 110 Image acquisition means 120 Search density mode setting means 121 Traffic light state determination means 122 Search density mode selection means 130 Recording means 140 Pedestrian search means 150 Result notification means 200 Pedestrian detection method S210 Image acquisition step S220 Traffic light state Determination step S230 Search density mode selection step S240 Search density constant mode setting step S250 Search density emphasis mode setting step S251 Search density emphasis range setting step S252 Pedestrian search pattern setting step S260 Pedestrian search step S270 Result notification step

Claims (10)

車両に搭載される歩行者検出装置であって、
前記車両周辺の画像を取得する画像取得手段と、
前記画像取得手段によって取得された画像から歩行者を探索する探索密度について、当該画像領域内で探索密度を一定とする探索密度一定モードと、当該画像領域内前記探索密度一定モードの探索密度に比べて探索密度が高い第1領域と前記探索密度一定モードの探索密度に比べて探索密度が低い第2領域とを設定する探索密度重点モードとのいずれかの探索密度モードを、道路状況に応じて設定する探索密度モード設定手段と、
前記探索密度モード設定手段によって設定された探索密度モードに基づいて、前記画像取得手段によって取得された画像から歩行者を探索する歩行者探索手段と、
前記歩行者探索手段によって探索された結果を通知する結果通知手段とを備える、歩行者検出装置。
A pedestrian detection device mounted on a vehicle,
Image acquisition means for acquiring an image around the vehicle;
For search density of searching a pedestrian from the image acquired by said image acquiring means, and the search density constant mode to constant search density in the image area, in the image area, the search density of the search density constant mode One of the search density modes, which is a search density priority mode for setting a first area having a higher search density than the first search area and a second area having a lower search density than the search density in the constant search density mode, is set as a road condition. Search density mode setting means to set according to,
Based on the search density mode set by the search density mode setting means, a pedestrian search means for searching for pedestrians from the image acquired by the image acquisition means,
A pedestrian detection device comprising: result notification means for notifying the result searched for by the pedestrian search means.
前記探索密度モード設定手段は、歩行者が車道に存在する可能性に基づいて、前記探索密度一定モードと、前記探索密度重点モードとのいずれかの探索密度モードを設定することを特徴とする、請求項1に記載の歩行者検出装置。   The search density mode setting means sets the search density mode of the search density constant mode and the search density emphasis mode based on the possibility that a pedestrian is present on the roadway, The pedestrian detection device according to claim 1. 前記探索密度モード設定手段は、
歩行者が将来的に車道に存在する可能性が低い場合、前記探索密度一定モードを探索密度モードとして設定し、
歩行者が将来的に車道に存在する可能性が高い場合、前記探索密度重点モードを探索密度モードとして設定することを特徴とする、請求項2に記載の歩行者検出装置。
The search density mode setting means includes:
When there is a low possibility that a pedestrian will be present on the roadway in the future, the search density constant mode is set as the search density mode,
The pedestrian detection device according to claim 2, wherein when there is a high possibility that a pedestrian is present on the roadway in the future, the search density emphasis mode is set as a search density mode.
前記探索密度モード設定手段は、車両用信号機の状態および/または歩行者用信号機の状態に基づいて、前記探索密度一定モードと、前記探索密度重点モードとのいずれかの探索密度モードを設定することを特徴とする、請求項3に記載の歩行者検出装置。   The search density mode setting means sets either the search density constant mode or the search density priority mode based on the state of the traffic signal for vehicles and / or the state of the traffic light for pedestrians. The pedestrian detection device according to claim 3, wherein: 前記探索密度モード設定手段は、
前記車両用信号機の状態が青色または赤色である場合、前記探索密度一定モードを探索密度モードとして設定し、
前記車両用信号機の状態が黄色である場合、前記探索密度重点モードを探索密度モードとして設定することを特徴とする、請求項4に記載の歩行者検出装置。
The search density mode setting means includes:
When the state of the vehicle traffic signal is blue or red, the constant search density mode is set as the search density mode,
The pedestrian detection device according to claim 4, wherein when the state of the vehicle traffic signal is yellow, the search density priority mode is set as a search density mode.
前記探索密度モード設定手段は、
前記歩行者用信号機の状態が青色または赤色である場合、前記探索密度一定モードを探索密度モードとして設定し、
前記歩行者用信号機の状態が青色点滅である場合、前記探索密度重点モードを探索密度モードとして設定することを特徴とする、請求項4に記載の歩行者検出装置。
The search density mode setting means includes:
When the state of the pedestrian traffic light is blue or red, the constant search density mode is set as the search density mode,
The pedestrian detection device according to claim 4, wherein when the state of the pedestrian traffic light is blinking blue, the search density priority mode is set as a search density mode.
前記探索密度モード設定手段は、
前記車両用信号機の状態が青色または赤色である場合、かつ前記歩行者用信号機の状態が青色または赤色である場合、前記探索密度一定モードを探索密度モードとして設定し、
前記車両用信号機の状態が黄色である場合、または前記歩行者用信号機の状態が青色点滅である場合、前記探索密度重点モードを探索密度モードとして設定することを特徴とする、請求項4に記載の歩行者検出装置。
The search density mode setting means includes:
When the state of the vehicle traffic light is blue or red, and when the state of the pedestrian traffic light is blue or red, the constant search density mode is set as a search density mode,
The search density priority mode is set as a search density mode when the state of the vehicle traffic signal is yellow or when the state of the pedestrian traffic signal is blinking blue. Pedestrian detection device.
前記探索密度重点モードにおいて、前記第1領域は、車道と歩道との境界周辺であることを特徴とする、請求項1〜7のいずれかに記載の歩行者検出装置。   The pedestrian detection device according to any one of claims 1 to 7, wherein, in the search density emphasis mode, the first region is around a boundary between a roadway and a sidewalk. 前記探索密度重点モードにおいて、歩道から車道へ飛び出す歩行者に対する探索密度が高いことを特徴とする、請求項8に記載の歩行者検出装置。   The pedestrian detection device according to claim 8, wherein in the search density priority mode, a search density for a pedestrian jumping from a sidewalk to a roadway is high. 車両に搭載される歩行者検出装置が実行する歩行者検出方法であって、
前記車両周辺の画像を取得する画像取得ステップと、
前記画像取得ステップで取得された画像から歩行者を探索する探索密度について、当該画像領域内で探索密度を一定とする探索密度一定モードと、当該画像領域内前記探索密度一定モードの探索密度に比べて探索密度が高い第1領域と前記探索密度一定モードの探索密度に比べて探索密度が低い第2領域とを設定する探索密度重点モードとのいずれかの探索密度モードを設定するかを、道路状況に応じて選択する探索密度モード選択ステップと、
前記探索密度モード選択ステップで選択された結果に基づいて、前記探索密度モードを設定する探索密度モード設定ステップと、
前記探索密度モード設定ステップで設定された探索密度モードに基づいて、前記画像取得ステップで取得された画像から歩行者を探索する歩行者探索ステップと、
前記歩行者探索ステップで探索された結果を通知する結果通知ステップとを含む、歩行者検出方法。
A pedestrian detection method executed by a pedestrian detection device mounted on a vehicle,
An image acquisition step of acquiring an image around the vehicle;
For search density of searching a pedestrian from the image acquired by the image acquisition step, a search density constant mode to constant search density in the image area, in the image area, the search density of the search density constant mode or search density than the set one of the search density mode and high search density emphasis mode search density than the search density of the search density constant mode and the first region is set to a lower second region A search density mode selection step to select according to road conditions;
A search density mode setting step for setting the search density mode based on the result selected in the search density mode selection step;
Based on the search density mode set in the search density mode setting step, a pedestrian search step for searching for a pedestrian from the image acquired in the image acquisition step;
A pedestrian detection method including a result notification step of notifying a result searched in the pedestrian search step.
JP2010124584A 2010-05-31 2010-05-31 Pedestrian detection device Expired - Fee Related JP5637735B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010124584A JP5637735B2 (en) 2010-05-31 2010-05-31 Pedestrian detection device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010124584A JP5637735B2 (en) 2010-05-31 2010-05-31 Pedestrian detection device

Publications (2)

Publication Number Publication Date
JP2011253214A JP2011253214A (en) 2011-12-15
JP5637735B2 true JP5637735B2 (en) 2014-12-10

Family

ID=45417133

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010124584A Expired - Fee Related JP5637735B2 (en) 2010-05-31 2010-05-31 Pedestrian detection device

Country Status (1)

Country Link
JP (1) JP5637735B2 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013257210A (en) * 2012-06-12 2013-12-26 Kyosan Electric Mfg Co Ltd Pedestrian sensor
JP2014006114A (en) * 2012-06-22 2014-01-16 Denso Corp Radar system and program
DE102013109604A1 (en) 2013-09-03 2015-03-19 Denso Corporation Camera-based object recognition technology
KR102310782B1 (en) * 2015-10-30 2021-10-12 엘지전자 주식회사 Driver Assistance Apparatus, Vehicle Having The Same and Vehicle Safety system
JP7386746B2 (en) * 2020-03-26 2023-11-27 日産自動車株式会社 Driving support method and driving support device

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3747866B2 (en) * 2002-03-05 2006-02-22 日産自動車株式会社 Image processing apparatus for vehicle
JP2008176555A (en) * 2007-01-18 2008-07-31 Fujitsu Ten Ltd Obstacle detector and obstacle detection method
JP4935795B2 (en) * 2008-10-22 2012-05-23 株式会社豊田中央研究所 Pedestrian pop-out prediction device and program

Also Published As

Publication number Publication date
JP2011253214A (en) 2011-12-15

Similar Documents

Publication Publication Date Title
JP7397807B2 (en) Rider assistance system and method
KR101915165B1 (en) Automatically parking system and automatically parking method
US9031774B2 (en) Apparatus and method for preventing collision of vehicle
JP5172366B2 (en) Vehicle driving support device
JP5637735B2 (en) Pedestrian detection device
JP2014533386A (en) Safety devices for automobiles
WO2015155946A1 (en) Recognition support system
JP6828429B2 (en) Vehicle collision avoidance support device and vehicle collision avoidance support method
JP2007253723A (en) Vehicle controller
JP6970547B2 (en) Vehicle control device and vehicle control method
JP2004314843A (en) Operation assisting device for vehicles
JP5663438B2 (en) Vehicle driving support device
JP2009217495A (en) Hazard warning device
JP2012014527A (en) Pedestrian detection device
JP2006163879A (en) Image processing method and image processing apparatus
JP5632811B2 (en) Vehicle driving support device
JP2013161202A (en) Vehicle periphery monitoring device
JP2018142297A (en) Information processing apparatus and program
JP6354356B2 (en) Forward situation judgment device
JP2008052320A (en) Surround monitoring system
JP2004224254A (en) Alarm device for vehicle
JP2010198513A (en) Leading vehicle lateral movement warning device
JP6900775B2 (en) Vehicle automatic driving control system
JP2009070367A (en) Vehicle running state warning method and unit
JP2008310690A (en) Recognition support device for vehicle

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20120217

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121206

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131114

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140108

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140220

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140929

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141021

LAPS Cancellation because of no payment of annual fees