JP7359099B2 - 移動体妨害検出装置、移動体妨害検出システム、及び移動体妨害検出プログラム - Google Patents

移動体妨害検出装置、移動体妨害検出システム、及び移動体妨害検出プログラム Download PDF

Info

Publication number
JP7359099B2
JP7359099B2 JP2020131224A JP2020131224A JP7359099B2 JP 7359099 B2 JP7359099 B2 JP 7359099B2 JP 2020131224 A JP2020131224 A JP 2020131224A JP 2020131224 A JP2020131224 A JP 2020131224A JP 7359099 B2 JP7359099 B2 JP 7359099B2
Authority
JP
Japan
Prior art keywords
vehicle
moving object
unit
crosswalk
moving
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020131224A
Other languages
English (en)
Other versions
JP2022027306A (ja
Inventor
健揮 上田
亮介 立花
伸一朗 川端
敬 北川
宗史 大橋
利弘 安田
哲生 嶽本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2020131224A priority Critical patent/JP7359099B2/ja
Priority to US17/305,675 priority patent/US20220036099A1/en
Priority to CN202110807676.1A priority patent/CN114093023A/zh
Publication of JP2022027306A publication Critical patent/JP2022027306A/ja
Application granted granted Critical
Publication of JP7359099B2 publication Critical patent/JP7359099B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W40/09Driving style or behaviour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/04Inference or reasoning models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/26Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/23Recognition of whole body movements, e.g. for sport training
    • G06V40/25Recognition of walking or running movements, e.g. gait recognition
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00Input parameters relating to objects
    • B60W2554/40Dynamic objects, e.g. animals, windblown objects
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00Input parameters relating to objects
    • B60W2554/40Dynamic objects, e.g. animals, windblown objects
    • B60W2554/402Type
    • B60W2554/4026Cycles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00Input parameters relating to objects
    • B60W2554/40Dynamic objects, e.g. animals, windblown objects
    • B60W2554/402Type
    • B60W2554/4029Pedestrians
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00Input parameters relating to objects
    • B60W2554/80Spatial relation or speed relative to objects
    • B60W2554/802Longitudinal distance
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/095Predicting travel path or likelihood of collision

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Mathematical Physics (AREA)
  • Social Psychology (AREA)
  • Health & Medical Sciences (AREA)
  • Psychiatry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Automation & Control Theory (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、歩行者や、自転車等の各種移動体に対する妨害を検出する移動体妨害検出装置、移動体妨害検出システム、及び移動体妨害検出プログラムに関する。
特許文献1には、自車両の外界に存在する歩行者を検出し、検出した歩行者の状態を検出して、歩行者の状態のうち、歩行者の脚部の状態に基づき、自車両の進路内に歩行者が進入するか否かを判定する歩行者認識装置が開示されている。
特開2007-264778号公報
特許文献1では、エッジ検出により歩行者の左右の脚部の開度を検出して移動状態を推定しているが、服装によっては脚部が隠れるため、正しく移動状態を推定できない場合がある。また、交差点で自車両が右左折する際に横断歩道の奥から歩行者が接近してくる場合、歩行者に対して正面の角度になるため、脚部の開度を正しく算出できず、移動状態を推定できない場合がある。さらには、自転車等の移動体の検出までは考慮していないため、改善の余地がある。
そこで、本発明は、歩行者の脚部の開度を検出して移動状態を推定する場合に比べて、移動体の横断を正確に判定可能な移動体妨害検出装置、移動体妨害検出システム、及び移動体妨害プログラムを提供することを目的とする。
上記目的を達成するために請求項1に記載の移動体妨害検出装置は、車両に設けられた撮影部によって撮影された画像中の予め定めた移動体を検出する検出部と、前記検出部によって検出した前記移動体を囲うバンディングボックスの位置に基づいて、前記移動体が横断歩道を横断中の移動状態、横断歩道で横断待ちの移動情報、及び横断歩道を横断する可能性がある移動状態を含む前記移動体の道路の横断歩道の横断に関する移動体状態を推定する推定部と、前記画像中の地平線を検出する地平線検出部と、前記地平線検出部の検出結果を用いて前記撮影部の取り付け誤差を補正して、前記バンディングボックスの位置に基づいて、自車両から前記移動体までの距離を推定する距離推定部と、前記車両の状態を表す車両情報に基づいて前記自車両の挙動を判定する挙動判定部と、前記推定部によって推定された前記移動体状態、前記距離推定部によって推定された前記距離、及び前記挙動判定部によって判定された前記自車両の挙動に基づいて、移動体への妨害を判定する判定部と、を含み、前記判定部は、横断歩道接近時の運転者の義務違反を判定する
請求項1に記載の移動体妨害検出装置によれば、検出部では、車両に設けられた撮影部によって撮影された画像中の予め定めた移動体が検出される。
推定部では、検出部によって検出した前記移動体を囲うバンディングボックスの位置に基づいて、移動体が横断歩道を横断中の移動状態、横断歩道で横断待ちの移動情報、及び横断歩道を横断する可能性がある移動状態であるかを含む前記移動体の道路の横断歩道の横断に関する移動体状態が推定される。このように移動体を囲うバンディングボックスの位置に基づいて、移動体の横断に関する移動体状態を推定することで、歩行者の脚部の開度を検出することなく、移動体の横断を判定できるので、歩行者の脚部の開度を検出して移動状態を推定する場合に比べて、移動体の横断を正確に判定することが可能となる。
また、地平線検出部では、画像中の地平線が検出され、距離推定部では、地平線検出部の検出結果を用いて撮影部の取り付け誤差を補正して、バンディングボックスの位置に基づいて、自車両から移動体までの距離が推定され、挙動判定部では、車両の状態を表す車両情報に基づいて自車両の挙動が判定され、判定部では、推定部によって推定された移動体状態、距離推定部によって推定された距離、及び挙動判定部によって判定された自車両の挙動に基づいて、移動体への妨害が判定される。ここで、判定部は、横断歩道接近時の運転者の義務違反を判定する。
なお、前記推定部は、前記バンディングボックスの底辺の位置に基づいて、前記移動体の前記移動体状態を推定してもよい、このようにバンディングボックスの底辺の位置に基づいて移動体状態を推定することで、歩行者以外の自転車等の移動体を含めて移動状態を推定できるので、歩行者以外の移動体を含めて横断を判定することが可能となる。
また、自車両から前記移動体までの距離を推定する距離推定部と、前記車両の状態を表す車両情報に基づいて自車両の挙動を判定する挙動判定部と、前記推定部によって推定された前記移動体状態、前記距離推定部によって推定された前記距離、及び前記挙動判定部によって判定された前記自車両の挙動に基づいて、移動体への妨害を判定する判定部と、を更に含んでもよい。このように自車両から前記移動体までの距離を推定すると共に自車両の挙動を判定し、移動体状態、自車両から移動体までの距離、及び自車両の挙動に基づいて、移動体への妨害を判定することで、移動体への妨害の有無を判定することが可能となる。
なお、上記移動体妨害検出装置と、前記撮影部を備えた車両と、を含む移動体妨害検出システムとしてもよい。
或いは、コンピュータに、上記移動体妨害検出装置の各部として機能させるための移動体妨害検出プログラムとしてもよい。
以上説明したように本発明によれば、歩行者の脚部の開度を検出して移動状態を推定する場合に比べて、移動体の横断を正確に判定可能な移動体妨害検出装置、移動体妨害検出システム、及び移動体妨害プログラムを提供できる。
本実施形態に係る危険運転検出システムの概略構成を示す図である。 本実施形態に係る危険運転検出システムにおける車載器及び危険運転データ収集サーバの機能構成を示す機能ブロック図である。 制御部及び中央処理部の構成を示すブロック図である。 本実施形態に係る危険運転検出システムにおける危険運転データ収集サーバの移動体妨害検出部の詳細な構成を示すブロック図である。 対象物の移動体としての車両及び歩行者を囲うバンディングボックスの一例を示す図である。 横断歩道接近時の運転者の義務例を説明するための図である。 本実施形態に係る危険運転検出システムにおいて、危険運転データ収集サーバの移動体妨害検出部で行われる処理の流れの一例を示すフローチャートである。 本実施形態に係る危険運転検出システムにおける車載器及び危険運転データ収集サーバの機能構成の変形例を示す機能ブロック図である。
以下、図面を参照して本発明の実施の形態の一例を詳細に説明する。図1は、本実施形態に係る危険運転検出システムの概略構成を示す図である。
本実施形態に係る危険運転検出システム10は、車両14に搭載された車載器16と、危険運転データ収集サーバ12とが通信ネットワーク18を介して接続されている。本実施形態に係る危険運転検出システム10では、複数の車載器16の撮影によって得られる画像情報及び各車両の状態を表す車両情報を危険運転データ収集サーバ12に送信して、危険運転データ収集サーバ12が画像情報及び車両情報を蓄積する。そして、危険運転データ収集サーバ12が、蓄積した画像情報及び車両情報に基づいて、危険運転を検出する処理を行う。本実施形態では、検出する危険運転の一例として、急加速及び急減速の少なくとも一方の危険運転、車間距離不保持の危険運転、移動体妨害の危険運転、及び速度超過の危険運転等の危険運転を検出する。
図2は、本実施形態に係る危険運転検出システム10における車載器16及び危険運転データ収集サーバ12の機能構成を示す機能ブロック図である。
車載器16は、制御部20、車両情報検出部22、撮影部24、通信部26、及び表示部28を備えている。
車両情報検出部22は、車両14に関する車両情報を検出する。車両情報の一例としては、例えば、車両14の位置情報、車速、加速度、舵角、アクセル開度、車両周辺の障害物までの距離、経路等の車両情報を検出する。車両情報検出部22は、具体的には、車両14の周辺環境がどのような状況かを表す情報を取得する複数種のセンサや装置を適用できる。センサや装置の一例としては、車速センサ、及び加速度センサなどの車両14に搭載されるセンサや、GNSS(Global Navigation Satellite System)装置、車載通信機、ナビゲーションシステム、及びレーダ装置などが挙げられる。GNSS装置は、複数のGNSS衛星からGNSS信号を受信して自車両14の位置を測位する。GNSS装置は受信可能なGNSS信号の数が多くなるに従って測位の精度が向上する。車載通信機は、通信部26を介して他の車両14との間の車車間通信及び路側機との間の路車間通信の少なくとも一方を行う通信装置である。ナビゲーションシステムは、地図情報を記憶する地図情報記憶部を含み、GNSS装置から得られる位置情報と地図情報記憶部に記憶された地図情報とに基づいて、自車両14の位置を地図上で表示したり、目的地迄の経路を案内する処理を行う。また、レーダ装置は、検出範囲が互いに異なる複数のレーダを含み、自車両14の周辺に存在する歩行者や他車両14等の物体を検出し、検出した物体と自車両14の相対位置及び相対速度を取得する。また、レーダ装置は周辺の物体の探知結果を処理する処理装置を内蔵している。当該処理装置は、直近の複数回の探知結果に含まれる個々の物体との相対位置や相対速度の変化等に基づき、ノイズやガードレール等の路側物等を監視対象から除外し、歩行者や、自転車、他車両14等を監視対象物体として追従監視する。そしてレーダ装置は、個々の監視対象物体との相対位置や相対速度等の情報を出力する。
撮影部24は、本実施形態では、車両に搭載されて車両の前方等の車両周辺を撮影し、動画像の撮影画像を表す画像データを生成する。撮影部24としては、例えば、ドライブレコーダ等のカメラを適用することができる。なお、撮影部24は、車両14の側方及び後方の少なくとも一方の車両周辺を更に撮影してしてもよい。また、撮影部24は、車室内を更に撮影してもよい。
通信部26は、通信ネットワーク18を介して危険運転データ収集サーバ12と通信を確立して、撮影部24の撮影によって得られる画像情報や車両情報検出部22によって検出された車両情報等の情報の送受信を行う。
表示部28は、情報を表示することにより、乗員に各種情報を提供する。本実施形態では、危険運転データ収集サーバ12から提供される情報等を表示する。
制御部20は、図3に示すように、CPU(Central Processing Unit)20A、ROM(Read Only Memory)20B、RAM(Random Access Memory)20C、ストレージ20D、インタフェース(I/F)20E、及びバス20F等を含む一般的なマイクロコンピュータで構成されている。また、制御部20は、撮影部24によって撮影された画像を表す画像情報、及び画像の撮影時に車両情報検出部22によって検出された車両情報を危険運転データ収集サーバ12にアップロードする制御等を行う。
一方、危険運転データ収集サーバ12は、中央処理部30、中央通信部36、及びDB(データベース)38を備えている。
中央処理部30は、図3に示すように、CPU30A、ROM30B、及びRAM30C、ストレージ30D、インタフェース(I/F)30E、及びバス30F等を含む一般的なマイクロコンピュータで構成されている。中央処理部30は、情報集約部40、急加速・急減速検出部42、車間距離不保持検出部44、移動体妨害検出装置の一例としての移動体妨害検出部46、速度超過検出部48、及び危険運転検出集約部50の機能を備えている。なお、中央処理部30の各機能は、CPU30AがROM30B等に記憶されたプログラムを実行することにより実現される。
情報集約部40は、車速、加速度、位置情報などの車両情報、及び撮影部24によって撮影された画像情報としての動画フレームをDB38から取得して、車両情報と動画フレームの時刻合わせ等を行って車両情報と動画フレームを同期させて情報を集約する。なお、以下では、集約された情報を集約情報と称する場合がある。
急加速・急減速検出部42は、情報集約部40によって集約された集約情報に基づいて、急加速及び急減速の少なくとも一方の危険運転を検出する。例えば、画像情報及び車両情報に基づいて、車速または加速度が予め定めた危険運転に該当し、かつ車両周辺の状況が危険運転に対応する状況であるかを検出することにより、急加速及び急減速の少なくとも一方の危険運転を検出する。或いは、車両情報のみを用いて、予め定めた危険運転に該当する車速及び加速度を検出してもよい。
車間距離不保持検出部44は、情報集約部40によって集約された集約情報に基づいて、車間距離が予め定めた距離以内の車間距離不保持の危険運転を検出する。例えば、画像情報及び車両情報に基づいて、前方の車両を検出し、かつ前方の車両までの距離が予め定めた距離以内を検出することにより、車間距離不保持の危険運転を検出する。
移動体妨害検出部46が、情報集約部40によって集約された集約情報に基づいて、歩行者または自転車等の移動体を妨害する危険運転を検出する。例えば、画像情報及び車両情報に基づいて、前方に横断歩道、及び予め定めた条件を満たす歩行者を検出し、停車または徐行せずに通過したかを検出することにより、移動体妨害の危険運転を検出する。予め定めた条件を満たす歩行者は、例えば、横断歩道を横断中の歩行者、横断歩道付近の歩行者、または横断歩道を横断しようとしている歩行者を検出する。
速度超過検出部48は、情報集約部40によって集約された集約情報に基づいて、速度超過の危険運転を検出する。例えば、画像情報及び車両情報に基づいて、画像認識により標識を認識して認識した標識の制限速度から予め定めた速度以上の車速を検出することにより、速度超過の危険運転を検出する。或いは、位置情報から一般道路または高速道路であるかを判断してそれぞれの道路における予め定めた車速以上を検出してもよい。
危険運転検出集約部50は、急加速・急減速検出部42、車間距離不保持検出部44、移動体妨害検出部46、及び速度超過検出部48のそれぞれで検出された危険運転を集約して、総合的に危険運転を判断する。例えば、各危険運転を検出する際に、危険度を0~1の範囲で演算し、各危険運転の危険度の平均を算出して平均値が予め定めた閾値以上を総合的に危険運転と判断してもよい。或いは、各危険運転の検出の有無を0(検出無し)、1(検出)で検出して検出結果の合計を総合的な危険度として導出してもよい。或いは、各危険運転を検出する際に、各危険運転のスコアを導出し、スコアの合計を算出して予め定めた閾値以上を総合的に危険運転と判断してもよい。或いは、各危険運転の検出について、検出無しを0、検出有りを1として検出し、各危険運転の検出結果を加算して、1以上または予め定めた閾値以上を危険運転と判断してもよい。
なお、4種類の各危険運転を検出する際には、集約情報から走行シーンを特定して、走行シーンに応じて危険運転の検出閾値や重み付けを変更して走行シーンに応じた危険運転を検出してもよい。例えば、高速道路を走行時は「車間距離不保持」の判定の重みをプラスし、危険度を高くしてもよい。また、雨が降っている場合、「速度超過」の判定の重み付けをプラスし、危険度を高くしてもよい。また、夜間や霧などの視界不良時での「歩行者妨害」の検出閾値を低くし(例えば、車速の閾値を20km/h以下から10km/h等)、検出し易くしてもよい。また、同走行地点での過去の事故発生率を基に、各危険運転の検出閾値を変更して、検出し易くしてもよい。また、各走行シーンを組み合わせた走行シーンの場合には、より重み付けを高くしてもよい。例えば、天候が雨で、かつ時間帯が夜間の場合には、危険運転の重み付けを重くしたり、危険運転の判定するための閾値を低くして検出し易くしてもよい。
中央通信部36は、通信ネットワーク18を介して車載器16と通信を確立して、画像情報や車両情報等の情報の送受信を行う。
DB38は、車載器16から画像情報及び車両情報を受信し、受信した画像情報及び車両情報のそれぞれを対応付けて蓄積する。
上述のように構成された危険運転検出システム10では、車載器16の撮影部24によって撮影された画像情報が、車両情報と共に危険運転データ収集サーバ12に送信されてDB38に蓄積される。
危険運転データ収集サーバ12は、DB38に蓄積された画像情報及び車両情報に基づいて危険運転を検出する処理を行う。そして、危険運転データ収集サーバ12は、危険運転の検出結果を運転者にフィードバックするサービスなどの各種サービスを提供する。
ここで、上述の移動体妨害検出部46の詳細な構成について説明する。図4は、本実施形態に係る危険運転検出システム10における危険運転データ収集サーバ12の移動体妨害検出部46の詳細な構成を示すブロック図である。
移動体妨害検出部46は、図4に示すように、取得部52、地平線検出部54、検出部の一例としての対象物検出部56、推定部の一例としての対象物状態推定部58、距離推定部60、挙動判定部の一例としての自車挙動検出部62、及び判定部の一例としての移動体妨害判定部64の機能を有する。また、危険運転データ収集サーバ12のストレージやDB38に予め導出した回帰式(詳細は後述)が記憶されているものとする。
取得部52は、情報集約部40によって画像情報及び車両情報が集約された集約情報を取得し、画像情報は地平線検出部54に出力し、車両情報は距離推定部60及び自車挙動検出部62に出力する。
地平線検出部54は、集約情報中の画像情報を順次取得して、画像中の地平線を検出する。検出した地平線は、撮影画像中の対象物までの距離を推定する際に、撮影部24の取り付け誤差となる車両前後方向の傾きの補正に用いる。
地平線検出部54による地平線の検出方法としては、例えば、画像に存在する直線を全て抽出し、抽出した直線の中から道路に関する直線を抽出する。そして、抽出した直線の交点から消失点を導出し、消失点のy座標を地平線として検出する。なお、撮影部24によって撮影した画像の水平方向をx軸とし、x軸と直交する方向をy軸とする。
地平線検出部54は、詳細には、画像前処理、画像内の直線抽出、地平線推定、及び時系列処理の処理ステップを有する。画像前処理の処理ステップでは、画像をグレースケール化してエッジ検出により輪郭線を抽出する。画像内の直線抽出の処理ステップでは、確率的ハフ変換により直線を抽出し、ビルや電線などの直線を抽出しないように、直線の傾きに閾値を設けることで道路の直線のみを抽出する。地平線推定の処理ステップでは、抽出した全ての直線の組み合わせから交点を導出し、交点の座標に閾値を設けることで外れ値を除去して全ての交点の平均値から地平線のy座標の値を算出する。時系列処理の処理ステップでは、過去の数フレームの地平線の値の最頻値を計算して現在フレームの地平線の値とする。
対象物検出部56は、種々の周知の物体検出処理を用いて、画像中に存在する車両や人、自転車等の対象物を検出して、検出した対象物をバンディングボックスで囲う処理を行う。また、対象物を検出する際には、バンディングボックス内の対象物の種類を判別する。例えば、図5の点線で示すように、予め定めた条件を満たす塊(物体)を囲うバンディングボックス70を生成し、バンディングボックス70内の物体の種類を判断し、車両や人、自転車などの対象物の種類を判別して対象物の移動体を検出する。なお、図5は、対象物の移動体としての車両及び歩行者を囲うバンディングボックス70の一例を示す図である。
対象物状態推定部58は、対象物検出部56が検出した移動体のバンディングボックス70の底辺の位置に基づいて、移動体状態(例えば、横断歩道を横断中、横断歩道で横断待ち、横断歩道付近等の道路の横断に関する移動体状態)を推定する。対象物状態推定部58は、バンディングボックスの位置及びその変化から、移動体が横断歩道を横断中であるか、横断歩道で横断待ちであるか、横断歩道付近であるか等の道路の横断に関する移動体状態を推定する。なお、横断歩道接近時の運転者の義務としては、例えば、図6に示す3つの場合がある。1つ目は横断歩道付近に人がいる場合には一時停止できるように減速する。2つ目は横断しようとしている人や横断中の人がいる場合には一時停止して道を譲る。3つ目は横断歩道手前で停止している車両がいる場合に追越し時に一時停止して確認する。そこで、対象物状態推定部58は、バンディングボックス70の底辺の位置及び変化に基づいて、横断中、横断待ち、横断歩道付近等の横断に関する移動体状態を推定する。例えば、バンディングボックス70の底辺が横断歩道上を移動している場合は横断中と推定する。また、バンディングボックス70の底辺の位置が、横断歩道から予め定めた距離範囲に停止した状態の場合は横断待ちと推定する。また、バンディングボックス70の底辺の位置が横断歩道に向かって移動している場合は横断歩道付近の移動体が横断歩道を横断する可能性があると推定する。
また、対象物状態推定部58は、歩行者等の移動体の動きや向きに基づいて、横断する意思があるかを推定する。
距離推定部60は、自車両14から対象物検出部56によって検出された移動体までの距離を、撮影部24によって撮影された画像から推定する。例えば、対象物検出部56によって検出された移動体を囲うバンディングボックス70の底辺の位置座標と、車両からの距離(または撮影部24からの距離)の正解値のデータセットとを用いて予め導出した、バンディングボックス70の底辺の位置座標から対象物の距離を推定するための対応関係を用いて、対象物までの距離を推定する。本実施形態では、対応関係の一例として回帰式を用いて、バンディングボックス70の底辺の位置座標を入力として撮影部24の撮影位置から移動体までの距離を推定する。すなわち、画像上のバンディングボックス70の底辺の位置は、移動体までの距離に応じた位置となるので、バンディングボックス70の底辺の位置から予め導出した回帰式により移動体までの距離を推定できる。なお、対象物のバンディングボックス70の底辺の位置座標と、車両からの距離の正解値のデータセットとを用いて予め導出した回帰式としては、例えば、以下に示す回帰式を適用する。以下の回帰式をストレージやDB38等に予め格納し、以下の回帰式にバンディングボックス70の位置座標のy座標を入力することで対象物までの距離を推定する。以下の回帰式では、地平線の位置座標を用いて、バンディングボックス70の底辺の位置座標を補正しているので、撮影部24の取り付け誤差となる撮影部24の車両前後方向の傾きを補正できる。
height_cor=video_H/720
距離=15.87*math.exp(-(0.021/height_cor)*(y-horizon*heitht_cor))
なお、video_Hは撮影部24の縦ピクセル数、height_corは撮影部24に応じた縦ピクセルの補正値、yはバンディングボックス70の底辺のy座標、horizonは地平線のy座標とする。
さらに、距離推定部60は、移動体までの到達時間を算出する。例えば、取得部52が取得した車両情報に含まれる車速と、推定した距離とを用いて到達時間を算出する。
自車挙動検出部62は、取得部52が取得した車両情報(車速や、ブレーキ圧など)に基づいて、自車両14が横断歩道手前で一時停止または徐行をしたか否か等を判定することにより、自車挙動を検出する。
移動体妨害判定部64は、推定した移動体状態及び自車両14の動き(自車挙動)に基づいて、移動体への妨害の有無を判定する。例えば、移動体が横断中に一時停止せずに直進した場合や、移動体が横断歩道付近に検出されているが減速せずに直進した場合に、妨害ありと判定する。
続いて、上述のように構成された本実施形態に係る危険運転検出システム10において、危険運転データ収集サーバ12の移動体妨害検出部46で行われる具体的な処理について説明する。図7は、本実施形態に係る危険運転検出システム10において、危険運転データ収集サーバ12の移動体妨害検出部46で行われる処理の流れの一例を示すフローチャートである。なお、図7の処理は、例えば、予め定めた期間毎、或いは、車載器16から送信されてDB38に格納された車両情報及び画像情報が予め定めたデータ量以上になる毎に開始する。
ステップ100では、取得部52が、情報集約部40が集約した集約情報から車両情報を取得してステップ102へ移行する。
ステップ102では、対象物検出部56が、車両や歩行者、自転車等の移動体を検出してステップ104へ移行する。例えば、対象物検出部56が、種々の周知の物体検出処理を用いて、画像中に存在する車両や人、自転車等の対象物を検出して、検出した対象物をバンディングボックス70で囲う処理を行う。また、対象物を検出する際には、バンディングボックス70内の対象物の種類を判別し、車両や歩行者、自転車などの対象物の種類を判別して対象物の移動体を検出する。
ステップ104では、対象物状態推定部58が、検出した移動体の状態を推定してステップ106へ移行する。すなわち、対象物検出部56が検出した移動体のバンディングボックス70の底辺の位置及び変化に基づいて、移動体状態(例えば、横断中、横断待ち、横断歩道付近等の横断に関する移動体状態)を推定する。本実施形態では、歩行者または自転車の状態を推定する。
ステップ106では、対象物状態推定部58が、横断歩道上または付近に移動体がいるか否かを判定する。該判定は、ステップ104の移動体状態(例えば、横断中、横断待ち、横断歩道付近等の横断に関する移動体状態)の推定結果に基づいて判定する。該判定が肯定された場合にはステップ108へ移行し、否定された場合には移動体妨害検出部46の処理を終了する。
ステップ108では、対象物状態推定部58が、移動体状態の推定結果から移動体が横断歩道上であるか否かを判定する。該判定が肯定された場合にはステップ110へ移行する。一方、移動体が横断歩道付近の場合には判定が否定されてステップ120へ移行する。
ステップ110では、距離推定部60が、移動体までの距離を推定してステップ112へ移行する。すなわち、対象物検出部56によって検出された移動体を囲うバンディングボックス70の底辺の位置座標と、車両からの距離(または撮影部24からの距離)の正解値のデータセットとを用いて予め導出した回帰式を用いて、移動体までの距離を推定する。
ステップ112では、距離推定部60が、移動体及び横断歩道までの到達時間を推定してステップ114へ移行する。例えば、取得部52が取得した車両情報に含まれる車速と、推定した距離とを用いて到達時間を算出する。
ステップ114では、自車挙動検出部62が、推定した到達時間が予め定めた閾値以下であるか否かを判定する。該判定が肯定された場合にはステップ116へ移行し、否定された場合には移動体妨害検出部46の処理を終了する。
ステップ116では、自車挙動検出部62が、自車両14が停車中であるか否かを判定する。該判定は取得部52が取得した集約情報中の車両情報に基づいて判定する。該判定が否定された場合にはステップ118へ移行し、肯定された場合には移動体妨害検出部46の処理を終了する。
ステップ118では、移動体妨害判定部64が、移動体妨害の危険運転と判定して移動体妨害検出部46の処理を終了する。
一方、ステップ120では、自車挙動検出部62が、自車両14が徐行中であるか否かを判定する。該判定は取得部52が取得した集約情報中の車両情報に基づいて判定する。該判定が否定された場合にはステップ118へ移行し、肯定された場合には移動体妨害検出部46の処理を終了する。
このように本実施形態では、移動体を囲うバンディングボックス70の位置に基づいて、移動体の横断に関する移動体状態を推定する。これにより、歩行者の脚部の開度を検出することなく、移動体の横断を判定できるので、歩行者の脚部の開度を検出して移動状態を推定する場合に比べて、移動体の横断を正確に判定できる
また、本実施形態では、バンディングボックス70の底辺の位置に基づいて移動体状態を推定するので、歩行者以外の自転車等の移動体を含めて移動状態を推定でき、歩行者以外の移動体を含めて道路の横断を判定することが可能となる。
なお、上記の実施形態では、危険運転を検出する処理を危険運転データ収集サーバ12側で行う例を説明したが、これに限るものではない。例えば、図2の中央処理部30の機能を、図8に示すように、車載器16側の制御部20に備えて、図7の処理を制御部20が実行する形態としてもよい。すなわち、情報集約部40、急加速・急減速検出部42、車間距離不保持検出部44、移動体妨害検出部46、速度超過検出部48、及び危険運転検出集約部50の機能を制御部20に備えてもよい。この場合、情報集約部40は、車速、加速度、位置情報などの車両情報を車両情報検出部22から取得し、動画フレームを撮影部24から取得する。或いは、これらの機能を他の外部サーバ等に備える形態としてもよい。
また、上記の実施形態では、バンディングボックスの底辺の位置に基づいて、移動体の移動状態を推定したが、これに限るものではない。例えば、バンディングボックスの底辺以外の他の辺の位置に基づいて、移動体の移動状態を推定してもよい。
また、上記の実施形態では、複数種類の危険運転として、急加速・急減速、車間距離不保持、歩行者妨害、及び速度超過の4種類の危険運転を一例として説明したが、これに限るものではない。例えば、4種類のうち2種類でもよいし、3種類でもよい。或いは、4種類以外の他の危険運転を含んでもよい。他の危険運転の一例としては、例えば、一時不停止、信号無視、あおり運転、危険な幅寄せ、無理な割り込み、方向指示なしの進路変更または右左折、夜間の無灯火、逆走、進路妨害(追越し車線等)、駐車スペースはみ出し、障害者スペースへの駐車、路上駐車、わき見運転、居眠り運転、ながら運転などが挙げられる。
また、上記の実施形態では、バンディングボックス70の底辺の位置座標から対象物の距離を推定するための対応関係の一例として回帰式を用いた例を説明したが、対応関係としては回帰式に限るものではなく、回帰式以外の対応関係を用いてもよい。例えば、回帰式から予め導出したテーブルを対応関係として用いてもよい。
また、上記の各実施形態における危険運転データ収集サーバ12の移動体妨害検出部46で行われる処理は、CPU30Aによってプログラムを実行することにより行われるソフトウエア処理として説明したが、これに限るものではない。例えば、GPU(Graphics Processing Unit)、ASIC(Application Specific Integrated Circuit)、及びFPGA(Field-Programmable Gate Array)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等のハードウエアで行う処理としてもよい。これらの各種のプロセッサのうちの1つで実行してもよいし、同種又は異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGA、及びCPUとFPGAとの組み合わせ等)で実行してもよい。また、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子等の回路素子を組み合わせた電気回路である。或いは、ソフトウエア及びハードウエアの双方を組み合わせた処理としてもよい。また、ソフトウエアの処理とした場合には、プログラムをCD-ROM(Compact Disk Read Only Memory)、DVD-ROM(Digital Versatile Disk Read Only Memory)、及びUSB(Universal Serial Bus)メモリ等の各種記憶媒体に記憶して流通させるようにしてもよい。
さらに、本発明は、上記に限定されるものでなく、上記以外にも、その主旨を逸脱しない範囲内において種々変形して実施可能であることは勿論である。
10 危険運転検出システム
12 危険運転データ収集サーバ
14 車両
16 車載器
18 通信ネットワーク
22 車両情報検出部
24 撮影部
30 中央処理部
38 DB
46 移動体妨害検出部(移動体妨害検出装置)
56 対象物検出部(検出部)
58 対象物状態推定部(推定部)
60 距離推定部
62 自車挙動検出部(挙動判定部)
64 移動体妨害判定部(判定部)
70 バンディングボックス

Claims (4)

  1. 車両に設けられた撮影部によって撮影された画像中の予め定めた移動体を検出する検出部と、
    前記検出部によって検出した前記移動体を囲うバンディングボックスの位置に基づいて、前記移動体が横断歩道を横断中の移動状態、横断歩道で横断待ちの移動情報、及び横断歩道を横断する可能性がある移動状態を含む前記移動体の道路の横断歩道の横断に関する移動体状態を推定する推定部と、
    前記画像中の地平線を検出する地平線検出部と、
    前記地平線検出部の検出結果を用いて前記撮影部の取り付け誤差を補正して、前記バンディングボックスの位置に基づいて、自車両から前記移動体までの距離を推定する距離推定部と、
    前記車両の状態を表す車両情報に基づいて前記自車両の挙動を判定する挙動判定部と、
    前記推定部によって推定された前記移動体状態、前記距離推定部によって推定された前記距離、及び前記挙動判定部によって判定された前記自車両の挙動に基づいて、移動体への妨害を判定する判定部と、
    を含み、
    前記判定部は、横断歩道接近時の運転者の義務違反を判定する移動体妨害検出装置。
  2. 前記推定部は、前記バンディングボックスの位置が横断歩道上を移動している場合は前記移動体が横断歩道を横断中の移動状態と判定し、前記バンディングボックスの位置が横断歩道から予め定めた範囲に停止した状態の場合は前記横断歩道で横断待ちの移動状態と判定し、前記バンディングボックスの位置が横断歩道に向かって移動している場合は前記移動体が横断歩道を横断する可能性がある移動状態と判定する請求項1に記載の移動体妨害検出装置。
  3. 請求項1又は請求項2に記載の移動体妨害検出装置と、
    前記撮影部を備えた車両と、
    を含む移動体妨害検出システム
  4. コンピュータに、請求項1又は請求項2に記載の移動体妨害検出装置の各部として機能させるための移動体妨害検出プログラム
JP2020131224A 2020-07-31 2020-07-31 移動体妨害検出装置、移動体妨害検出システム、及び移動体妨害検出プログラム Active JP7359099B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2020131224A JP7359099B2 (ja) 2020-07-31 2020-07-31 移動体妨害検出装置、移動体妨害検出システム、及び移動体妨害検出プログラム
US17/305,675 US20220036099A1 (en) 2020-07-31 2021-07-13 Moving body obstruction detection device, moving body obstruction detection system, moving body obstruction detection method, and storage medium
CN202110807676.1A CN114093023A (zh) 2020-07-31 2021-07-16 移动体妨碍检测装置、系统、方法及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020131224A JP7359099B2 (ja) 2020-07-31 2020-07-31 移動体妨害検出装置、移動体妨害検出システム、及び移動体妨害検出プログラム

Publications (2)

Publication Number Publication Date
JP2022027306A JP2022027306A (ja) 2022-02-10
JP7359099B2 true JP7359099B2 (ja) 2023-10-11

Family

ID=80004369

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020131224A Active JP7359099B2 (ja) 2020-07-31 2020-07-31 移動体妨害検出装置、移動体妨害検出システム、及び移動体妨害検出プログラム

Country Status (3)

Country Link
US (1) US20220036099A1 (ja)
JP (1) JP7359099B2 (ja)
CN (1) CN114093023A (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115083208B (zh) * 2022-07-20 2023-02-03 深圳市城市交通规划设计研究中心股份有限公司 人车冲突预警方法、预警分析方法、电子设备及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004247979A (ja) 2003-02-14 2004-09-02 Hitachi Ltd 車載用カメラ装置
JP2014085920A (ja) 2012-10-25 2014-05-12 Honda Motor Co Ltd 車両周辺監視装置
JP2016148962A (ja) 2015-02-12 2016-08-18 日立オートモティブシステムズ株式会社 物体検知装置
JP2020501227A (ja) 2016-11-07 2020-01-16 ナウト, インコーポレイテッドNauto, Inc. 運転者の注意散漫決定のためのシステム及び方法
JP2020042446A (ja) 2018-09-07 2020-03-19 株式会社デンソー 情報処理システム、情報処理方法、及び情報処理プログラム

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009098956A (ja) * 2007-10-17 2009-05-07 Mazda Motor Corp 車両用運転支援装置
FR3027432B1 (fr) * 2014-10-16 2018-03-16 Valeo Schalter Und Sensoren Gmbh Estimation de distance d'un pieton par un systeme d'imagerie embarque sur un vehicule automobile

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004247979A (ja) 2003-02-14 2004-09-02 Hitachi Ltd 車載用カメラ装置
JP2014085920A (ja) 2012-10-25 2014-05-12 Honda Motor Co Ltd 車両周辺監視装置
JP2016148962A (ja) 2015-02-12 2016-08-18 日立オートモティブシステムズ株式会社 物体検知装置
JP2020501227A (ja) 2016-11-07 2020-01-16 ナウト, インコーポレイテッドNauto, Inc. 運転者の注意散漫決定のためのシステム及び方法
JP2020042446A (ja) 2018-09-07 2020-03-19 株式会社デンソー 情報処理システム、情報処理方法、及び情報処理プログラム

Also Published As

Publication number Publication date
US20220036099A1 (en) 2022-02-03
JP2022027306A (ja) 2022-02-10
CN114093023A (zh) 2022-02-25

Similar Documents

Publication Publication Date Title
US11993290B2 (en) Predicting and responding to cut in vehicles and altruistic responses
CN109927719B (zh) 一种基于障碍物轨迹预测的辅助驾驶方法和系统
US10054455B2 (en) Vehicle controller, vehicle control method, and vehicle control program
US9074906B2 (en) Road shape recognition device
EP3183688B1 (en) Recognition and prediction of lane constraints
US10166934B2 (en) Capturing driving risk based on vehicle state and automatic detection of a state of a location
JP7499256B2 (ja) ドライバの挙動を分類するためのシステムおよび方法
US20150206001A1 (en) Method and device for classifying a behavior of a pedestrian when crossing a roadway of a vehicle as well as passenger protection system of a vehicle
US20100030474A1 (en) Driving support apparatus for vehicle
CN108615407A (zh) 用于防止行人碰撞事故的设备及方法
CN109427213B (zh) 用于车辆的防碰撞装置、方法及非暂时性存储介质
US11987239B2 (en) Driving assistance device
JP2024023319A (ja) 緊急車両の検出
US11914041B2 (en) Detection device and detection system
US20230120095A1 (en) Obstacle information management device, obstacle information management method, and device for vehicle
JP7359099B2 (ja) 移動体妨害検出装置、移動体妨害検出システム、及び移動体妨害検出プログラム
KR102415620B1 (ko) 보행자 판단 시스템을 포함하는 가변형 차량 속도 경고 시스템
US20220036730A1 (en) Dangerous driving detection device, dangerous driving detection system, dangerous driving detection method, and storage medium
JP7347390B2 (ja) 運転評価装置、運転評価システム、及び運転評価プログラム
JP2022056153A (ja) 一時停止検出装置、一時停止検出システム、及び一時停止検出プログラム
JP7124472B2 (ja) 車両用運転支援装置
CN114868381A (zh) 图像处理装置、图像处理方法以及程序
CN111746534A (zh) 车辆驾驶辅助系统、包括其的车辆及相应的方法和介质
JP7367709B2 (ja) 情報処理装置、情報処理システム、及び情報処理プログラム
WO2023210753A1 (ja) 運転支援装置及び運転支援方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220314

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230131

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230323

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230523

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230704

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230829

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230911

R151 Written notification of patent or utility model registration

Ref document number: 7359099

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151