JP7415909B2 - 歩行支援システム - Google Patents

歩行支援システム Download PDF

Info

Publication number
JP7415909B2
JP7415909B2 JP2020207866A JP2020207866A JP7415909B2 JP 7415909 B2 JP7415909 B2 JP 7415909B2 JP 2020207866 A JP2020207866 A JP 2020207866A JP 2020207866 A JP2020207866 A JP 2020207866A JP 7415909 B2 JP7415909 B2 JP 7415909B2
Authority
JP
Japan
Prior art keywords
crosswalk
traffic light
pedestrian
state
crossing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020207866A
Other languages
English (en)
Other versions
JP2022094782A (ja
Inventor
浩平 新谷
拓昌 河村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2020207866A priority Critical patent/JP7415909B2/ja
Priority to US17/478,962 priority patent/US11475762B2/en
Priority to CN202111519770.3A priority patent/CN114639230B/zh
Publication of JP2022094782A publication Critical patent/JP2022094782A/ja
Application granted granted Critical
Publication of JP7415909B2 publication Critical patent/JP7415909B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/005Traffic control systems for road vehicles including pedestrian guidance indicator
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61HPHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H3/00Appliances for aiding patients or disabled persons to walk about
    • A61H3/06Walking aids for blind persons
    • A61H3/068Sticks for blind persons
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/0104Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0137Measuring and analyzing of parameters relative to traffic conditions for specific applications
    • G08G1/0145Measuring and analyzing of parameters relative to traffic conditions for specific applications for active traffic flow control
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/04Detecting movement of traffic to be counted or controlled using optical or ultrasonic detectors
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/07Controlling traffic signals
    • G08G1/085Controlling traffic signals using a free-running cyclic timer
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/095Traffic lights
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61HPHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H3/00Appliances for aiding patients or disabled persons to walk about
    • A61H3/06Walking aids for blind persons
    • A61H3/061Walking aids for blind persons with electronic detecting or guiding means
    • A61H2003/063Walking aids for blind persons with electronic detecting or guiding means with tactile perception
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61HPHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H2201/00Characteristics of apparatus not provided for in the preceding codes
    • A61H2201/01Constructive details
    • A61H2201/0173Means for preventing injuries
    • A61H2201/0184Means for preventing injuries by raising an alarm
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61HPHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H2201/00Characteristics of apparatus not provided for in the preceding codes
    • A61H2201/50Control means thereof
    • A61H2201/5058Sensors or detectors
    • A61H2201/5092Optical sensor

Landscapes

  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Pain & Pain Management (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Physical Education & Sports Medicine (AREA)
  • Veterinary Medicine (AREA)
  • Rehabilitation Therapy (AREA)
  • Epidemiology (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Traffic Control Systems (AREA)
  • Rehabilitation Tools (AREA)
  • Image Analysis (AREA)

Description

本発明は歩行支援システムに係る。特に、本発明は、歩行者に対して横断歩道の横断開始通知を行うシステムの改良に関する。
視覚障碍者等の歩行者が安全に横断歩道を横断できるように、当該歩行者に対して横断歩道の横断開始通知を行うシステム(歩行支援システム)として、特許文献1に開示されているものが知られている。この特許文献1には、視覚を用いずに行動する者(視覚障碍者)が歩く方向を決定する方向決定部と、決定した方向へ視覚障碍者が歩くためのガイド情報を生成するガイド情報生成部とを備え、視覚障碍者が携帯するカメラからの画像と、予め記憶されている参照画像とのマッチングによって視覚障碍者の歩行方向を決定し、音声等によって視覚障碍者に対して歩行方向を案内することが開示されている。
再公表特許WO2018/025531号公報
ところで、実際に歩行者(視覚障碍者等)が横断歩道に接近する状況において、歩行者が停止すべき位置は横断歩道の手前である。また、歩行者が横断歩道を横断するタイミングは信号機(例えば歩行者用信号機)が青信号となっているタイミングである。このため、歩行者に対して横断開始通知(横断歩道の手前での歩行の停止通知、および、その後の横断開始通知)を適切に行うためには、横断歩道の位置(例えば横断歩道において最も手前側にある白線の位置)、および、信号機の状態(青信号であるか赤信号であるか)をカメラ等の画像取得手段からの情報によって正確に認識しておくことが必須である。
そして、歩行者が横断歩道の手前まで達した状況では、歩行者の足元付近(足元から少し前方の位置)に、横断歩道において最も手前側にある白線が位置している。この白線の位置は、歩行者に比較的近い位置で且つ歩行者から見て下側(斜め下側)の位置であり、歩行者が携帯するカメラ(歩行者の歩行方向の前方を撮影するカメラ)からも比較的近い位置で且つ下側の位置である。一方、歩行者が横断歩道の手前まで達して停止した状況では、認識すべき信号機は横断先の地点に設置された信号機(横断歩道を渡った位置に設置された信号機)である。この信号機の位置は、歩行者から比較的遠い位置であり、歩行者が携帯するカメラからも比較的遠い位置である。
このため、歩行者が携帯する1台のカメラによって横断歩道の白線(最も手前側にある白線)および信号機の両方を撮影しようとすると、広角のカメラが必要になる。しかし、この広角のカメラで撮影した画像にあっては、画像全体に対する信号機の占有領域が小さいので、この画像の情報から信号機の状態を判断することが難しく、信号機の認識精度が十分に得られる保証がない。
歩行者が携帯するカメラを狭角のカメラとし、このカメラによって信号機を撮影するようにすれば、画像全体に対する信号機の占有領域が大きくなって、信号機の認識精度を十分に高めることができる。しかし、この狭角のカメラでは、信号機と横断歩道の白線(最も手前側にある白線)とを共に撮影するといったことができない。このため、信号機を撮影するカメラとは別に白線を撮影するためのカメラが必要になってしまい、システムの構成の複雑化や、システムの重量増大に起因して歩行者の負担が大きくなってしまうといった課題を招くことになる。
本発明は、かかる点に鑑みてなされたものであり、その目的とするところは、1台の画像取得手段で横断歩道の最も手前側にある白線および信号機を認識することを可能にしながらも、信号機の認識精度を十分に得ることを可能にし、歩行者に対する横断開始通知を適切に行うことができる歩行支援システムを提供することにある。
前記の目的を達成するための本発明の解決手段は、歩行者が横断歩道を横断するに当たって、当該歩行者に対し、少なくとも当該横断の開始通知(横断開始通知)を行う歩行支援システムを前提とする。そして、この歩行支援システムは、画像取得手段、判別部、画像処理部、信号機判断部、切り替わり認識部、通知手段、白線認識部を備えている。画像取得手段は、前記歩行者が横断歩道に達した際における、当該横断歩道の白線のうち前記歩行者に最も近い位置にある白線、および、前記歩行者の前方に位置する信号機の両方を含む画像を取得可能である。判別部は、前記画像取得手段によって取得された画像中における、前記横断歩道を含む画像領域と前記信号機を含む画像領域とを判別する。画像処理部は、前記判別部で判別された信号機を含む画像領域を抽出すると共に、その抽出した画像領域の拡大処理を行う。信号機判断部は、前記画像処理部によって拡大処理された前記信号機を含む画像領域の情報から前記信号機の状態が、停止指示状態および横断許可状態の何れであるかを判断する。切り替わり認識部は、前記信号機判断部によって判断された信号機の状態が、前記停止指示状態から前記横断許可状態に切り替わったことを認識する。通知手段は、前記切り替わり認識部において認識された前記信号機の状態が前記停止指示状態から前記横断許可状態に切り替わったことを条件として前記歩行者に向けて横断の開始通知を行う。白線認識部は、前記判別部で判別された前記横断歩道を含む画像領域における当該横断歩道の白線を認識する。そして、前記通知手段は、前記白線認識部で認識された前記白線のうち前記横断歩道において最も手前の白線の位置が歩行者から所定距離を存した位置に達したことを条件として前記歩行者に向けて歩行の停止通知を行う。
この特定事項により、歩行者が横断歩道の手前で停止している状況において、画像取得手段は、横断歩道の白線のうち歩行者に最も近い位置にある白線、および、歩行者の前方に位置する信号機の両方を含む画像を取得する。この画像の情報は判別部に送信され、該判別部は、この画像中における、横断歩道を含む画像領域と信号機を含む画像領域とを判別する。そして、画像処理部は、この判別された信号機を含む画像領域を抽出すると共に、その抽出した画像領域の拡大処理を行う。この抽出および拡大処理によって、画像全体に対する信号機の占有領域が大きくなるので、この画像の情報から信号機の状態を判断することが容易になり、信号機の認識精度が十分に高められる。
そして、信号機判断部は、この抽出および拡大処理された信号機を含む画像領域の情報から信号機の状態が、停止指示状態および横断許可状態の何れであるかを判断する。切り替わり認識部は、信号機の状態が、停止指示状態から横断許可状態に切り替わったことを認識すると、通知手段に向けてその認識信号を送信する。通知手段では、この信号を受けて歩行者に向けて横断の開始通知を行う。つまり、信号機の状態が停止指示状態から横断許可状態に切り替わったことを条件として歩行者に向けて横断の開始通知が行われることになる。このため、歩行者が横断歩道を横断するに当たって、信号機の状態が横断許可状態となっている時間を十分に確保することができる。
そして、本解決手段では、画像取得手段(1台の画像取得手段)によって横断歩道の白線のうち歩行者に最も近い位置にある白線、および、歩行者の前方に位置する信号機の両方を含む画像を取得可能としながらも、画像処理部による、信号機を含む画像領域の抽出および拡大処理によって、信号機の認識精度を十分に高めることができる。このため、システムの構成の複雑化やシステムの重量増大を招くことなく、歩行者に対して横断開始通知を適切に行うことができる。
また、本解決手段では、歩行者が横断歩道の手前の所定位置に達したタイミングで歩行の停止通知を行うことができ、横断歩道の手前で歩行者を確実に停止させることができる。
また、前記白線認識部は、前記画像取得手段によって取得された画像中における前記白線の幅寸法が所定寸法を超えている場合に、当該白線を、前記歩行者が横断すべき横断歩道の白線であると認識する構成となっている。
これによれば、道路の交差点等において横断方向が互いに異なる複数の横断歩道が存在している場合であっても、歩行者が横断すべき横断歩道(画像取得手段によって取得された画像中における白線が、歩行者が横断すべき方向に対して交差する方向に延びていることで、当該白線の幅寸法が比較的広く認識されている横断歩道)とその他の横断歩道(画像取得手段によって取得された画像中における白線の幅寸法が比較的狭く認識されている横断歩道)とを明確に判別することができ、歩行者に向けての横断の開始通知を高い精度で正確に行うことが可能になる。
また、歩行状態にある前記歩行者に前記横断歩道の手前で当該歩行の停止通知を行う条件の成立の有無を判定するための第1の状態遷移関数、前記横断歩道の手前で停止状態にある前記歩行者に前記横断歩道の横断の開始通知を行う条件の成立の有無を判定するための第2の状態遷移関数、前記横断歩道の横断状態にある前記歩行者に前記横断歩道からの逸脱の警告を行う条件の成立の有無を判定するための第3の状態遷移関数、前記横断歩道の横断状態にある前記歩行者に前記横断歩道の横断が完了したことの通知を行う条件の成立の有無を判定するための第4の状態遷移関数、を記憶した記憶部を備えており、前記通知手段は、前記各状態遷移関数による前記条件の成立に伴って、その条件の成立に応じた通知を前記歩行者に向けて行う構成となっている。
つまり、第1の状態遷移関数によって、歩行の停止通知を行う条件が成立したと判定された場合には、通知手段は、歩行状態にある歩行者に対して当該歩行の停止通知を行う。また、第2の状態遷移関数によって、横断歩道の横断の開始通知を行う条件が成立したと判定された場合には、通知手段は、横断歩道の手前で停止状態にある歩行者に対して横断歩道の横断の開始通知を行う。また、第3の状態遷移関数によって、横断歩道からの逸脱の警告を行う条件が成立したと判定された場合には、通知手段は、横断歩道の横断状態にある歩行者に対して横断歩道からの逸脱の警告を行う。また、第4の状態遷移関数によって、横断歩道の横断が完了したことの通知を行う条件が成立したと判定された場合には、通知手段は、横断歩道の横断状態にある歩行者に対して横断歩道の横断が完了したことの通知を行う。これらの動作により、歩行者に対して横断歩道を横断するに当たっての各通知を適切に行うことができる。
また、前記通知手段は、視覚障碍者が使用する白杖に内蔵されており、振動または音声によって、前記白杖を使用している前記視覚障碍者に向けて通知を行う構成となっている。
これにより、白杖を持ちながら歩行する視覚障碍者に対して、横断歩道を横断するに当たっての通知を適切に行うことができる。
また、前記画像取得手段、前記判別部、前記画像処理部、前記信号機判断部、前記切り替わり認識部、および、前記通知手段それぞれを、前記白杖に内蔵させた場合には、白杖のみで歩行支援システムを実現することができ、実用性の高い歩行支援システムを提供することができる。
本発明では、画像取得手段によって取得された画像中における、信号機を含む画像領域を判別し、この判別された信号機を含む画像領域を抽出すると共に、その抽出した画像領域の拡大処理を行うことによって、信号機の状態が停止指示状態および横断許可状態の何れであるかを判断すると共に、信号機の状態が停止指示状態から横断許可状態に切り替わったことを条件として歩行者に向けて横断の開始通知を行うようにしている。このため、1台の画像取得手段からの画像情報であっても、信号機の認識精度を十分に高めることができる。その結果、システムの構成の複雑化やシステムの重量増大を招くことなく、歩行者に対して横断開始通知を適切に行うことができる。
実施形態に係る歩行支援システムを内蔵した白杖を示す図である。 白杖のグリップ部の内部を示す概略図である。 歩行支援システムの制御系の概略構成を示すブロック図である。 視覚障碍者が横断歩道に向かう歩行状態にある際に、カメラで撮影された画像の一例を示す図である。 視覚障碍者が横断歩道に達したタイミングにおいてカメラで撮影された画像の一例を示す図である。 視覚障碍者が横断歩道の横断状態にある際に、カメラで撮影された画像の一例を示す図である。 横断歩道の横断状態にある視覚障碍者が横断歩道の右側に逸脱する方向に向かって歩行している際に、カメラで撮影された画像の一例を示す図である。 横断歩道の横断状態にある視覚障碍者が横断歩道の左側に逸脱する方向に向かって歩行している際に、カメラで撮影された画像の一例を示す図である。 信号機を含む画像領域の抽出動作を説明するための図である。 抽出および拡大処理された画像の一例を示す図である。 認識された横断歩道および信号機の画像を示す図である。 認識された横断歩道の白線のBoundary Boxにおける各部の寸法を説明するための図である。 歩行支援システムによる歩行支援動作の手順を示すフローチャート図である。
以下、本発明の実施の形態を図面に基づいて説明する。本実施形態では、本発明に係る歩行支援システムを、視覚障碍者が使用する白杖に内蔵した場合について説明する。尚、本発明における歩行者としては視覚障碍者に限定されるものではない。
-白杖の概略構成-
図1は、本実施形態に係る歩行支援システム10を内蔵した白杖1を示す図である。この図1に示すように、白杖1は、シャフト部2、グリップ部3、チップ部(石突き)4を備えている。
シャフト部2は、中空の略円形断面を有するロッド状であって、アルミニウム合金やガラス繊維強化樹脂、炭素繊維強化樹脂等で形成されている。
グリップ部3は、シャフト部2の基端部(上端部)にゴム等の弾性体で成るカバー31が装着されて構成されている。また、本実施形態における白杖1のグリップ部3は、視覚障碍者(歩行者)が把持する際の持ち易さと滑り難さを考慮し、先端側(図1における上側)に向かって僅かに湾曲した形状となっている。
チップ部4は、硬質の合成樹脂などで形成された略有底筒状の部材であって、シャフト部2の先端部に外挿されて接着やねじ止めなどの手段で固定されている。尚、チップ部4は、安全のために、先端側の端面が半球状となっている。
本実施形態に係る白杖1は、折り畳み不能な直杖であるが、シャフト部2の中間の一箇所または複数箇所で折り畳み可能或いは伸縮可能とされたものであってもよい。
-歩行支援システムの構成-
本実施形態の特徴は、前記白杖1に内蔵された歩行支援システム10にある。以下、この歩行支援システム10について説明する。
図2は、白杖1のグリップ部3の内部を示す概略図である。この図2に示すように、本実施形態に係る歩行支援システム10は、白杖1に内蔵されている。また、図3は、歩行支援システム10の制御系の概略構成を示すブロック図である。
これらの図に示すように、歩行支援システム10は、カメラ(画像取得手段)20、近距離無線通信機40、振動発生機(通知手段)50、バッテリ60、充電ソケット70、制御装置80等を備えている。
カメラ20は、グリップ部3の根元部における当該グリップ部3の前面(視覚障碍者の進行方向に向く面)に埋め込まれ、視覚障碍者の進行方向前側を撮影する。このカメラ20は、例えばCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等で成る。また、カメラ20の構成や配設位置は前述したものには限定されず、例えば、シャフト部2の前面(視覚障碍者の進行方向に向く面)に埋め込まれたものであってもよい。
このカメラ20の特徴としては、歩行する視覚障碍者の進行方向の前方の画像であって、当該視覚障碍者が横断歩道に達した際における、当該横断歩道の白線のうち視覚障碍者に最も近い位置にある白線、および、視覚障碍者の前方に位置する信号機(例えば歩行者用信号機)の両方を含む画像を取得可能な広角のカメラとして構成されている。つまり、視覚障碍者が横断歩道の手前まで達した時点で、視覚障碍者の足元付近(足元から少し前方の位置)に存在する横断歩道における最も手前側にある白線と、横断先の地点に設置された信号機との両方を撮影可能な構成となっている。このカメラ20において必要とされる視野角度は、前述したように視覚障碍者に最も近い位置にある白線(横断歩道の白線)および信号機の両方を含む画像を取得可能なものとして適宜設定される。
近距離無線通信機40は、前記カメラ20と制御装置80との間で近距離無線通信を行うための無線通信装置である。例えば、周知のBluetooth(登録商標)等の通信手段によって、カメラ20と制御装置80との間で近距離無線通信を行い、カメラ20が撮影した画像の情報を制御装置80に向けて無線送信する構成となっている。
振動発生機50は、グリップ部3の根元部における前記カメラ20の上側に配設されている。この振動発生機50は、内蔵されたモータの作動に伴って振動し、その振動をグリップ部3に伝達することによって、当該グリップ部3を把持している視覚障碍者に向けて種々の通知が行えるようになっている。この振動発生機50の振動による視覚障碍者に向けての通知の具体例については後述する。
バッテリ60は、前記カメラ20、近距離無線通信機40、振動発生機50、制御装置80のための電力を蓄電する二次電池で構成されている。
充電ソケット70は、バッテリ60に電力を蓄える際に充電ケーブルが接続される部分である。例えば、視覚障碍者が在宅中に家庭用電源からバッテリ60を充電する際に充電ケーブルが接続される。
制御装置80は、例えば、CPU(Central Processing Unit)等のプロセッサ、制御プログラムを記憶するROM(Read-Only Memory)、データを一時的に記憶するRAM(Random-Access Memory)、および、入出力ポート等を備えている。
そして、この制御装置80は、その機能部として、情報受信部81、判別部82、画像処理部83、信号機判断部84、切り替わり認識部85、白線認識部86、情報送信部87を備えている。以下、これら各部の機能の概略について説明する。尚、各部における処理動作の詳細については後述する。
情報受信部81は、前記カメラ20が撮影した画像の情報を、当該カメラ20から近距離無線通信機40を介して所定時間間隔をもって受信する。
判別部82は、情報受信部81が受信した画像の情報(カメラ20によって撮影された画像の情報)における当該画像中における、横断歩道を含む画像領域と信号機を含む画像領域とを判別する。
画像処理部83は、前記判別部82で判別された信号機を含む画像領域を抽出すると共に、その抽出した画像領域の拡大処理を行う。
信号機判断部84は、前記画像処理部83によって拡大処理された信号機を含む画像領域の情報から信号機の状態が、赤信号(停止指示状態)および青信号(横断許可状態)の何れであるかを判断する。
切り替わり認識部85は、前記信号機判断部84によって判断された信号機の状態が、赤信号から青信号に切り替わったことを認識する。この信号の切り替わりを認識した際、この切り替わり認識部85は、切り替わり信号を情報送信部87に送信する。この切り替わり信号は、情報送信部87から振動発生機50に送信される。振動発生機50は、この切り替わり信号を受けたことに連動して、所定のパターンで振動し、視覚障碍者に、信号機が赤信号から青信号に切り替わったことに起因して横断歩道の横断を許可する通知(横断開始通知)を行うことになる。
白線認識部86は、前記判別部82で判別された横断歩道を含む画像領域における当該横断歩道の白線を認識する。
-歩行支援動作-
次に、前述の如く構成された歩行支援システム10による歩行支援動作について説明する。先ず、本実施形態の概要について説明する。
(本実施形態の概要)
ここでは、視覚障碍者の歩行中における時間をt∈[0,T]と表し、当該視覚障碍者の状態を表す変数(状態変数)をs∈RTとする。また、時刻tのときの状態変数はst∈[0,1,2]の整数で表現され、それぞれ、歩行状態(st=0)、停止状態(st=1)、横断状態(st=2)を表すものとする。ここでいう歩行状態とは、例えば歩行者が交差点(信号機および横断歩道のある交差点)に向かって歩行している状態が想定される。また、停止状態とは、視覚障碍者が横断歩道の手前に達し、信号待ちによって(赤信号から青信号に切り替わるのを待って)停止している状態(歩行していない状態)が想定される。また、横断状態とは、視覚障碍者が横断歩道を横断している状態が想定される。
本実施形態は、時刻tでカメラ20によって撮影された画像Xt∈Rw0×h0(w0,h0はそれぞれ画像の縦と横の画像サイズを表す)が入力された際に、視覚障碍者の歩行を支援することを目的とした出力y∈RTを求めるアルゴリズムを提案するものとなっている。ここで、視覚障碍者の歩行を支援する出力としては、yt∈[1,2,3,4]の整数で表現され、それぞれ、停止指示(yt=1)、歩行指示(yt=2)、右逸脱警告(yt=3)、左逸脱警告(yt=4)を表すものとする。以下の説明では停止指示を停止通知という場合もある。また、歩行指示を歩行通知または横断通知という場合もある。これらの指示(通知)および警告は、振動発生機50の振動のパターンによって視覚障碍者に対して行われる。視覚障碍者は、予め、指示および警告と、振動発生機50の振動のパターンとの関係を把握しており、振動発生機50の振動のパターンをグリップ部3から感じ取ることで指示および警告の種類を把握することになる。
また、後述するように、視覚障碍者の状態を表す変数sの遷移を判定する関数(以下、状態遷移関数という)f0,f1,f2と、横断歩道からの逸脱(左右方向への逸脱)を判断する状態遷移関数f3が存在しており、これら状態遷移関数f0~f3が前記ROM(本発明でいう記憶部)に記憶されている。これら状態遷移関数f0~f3の具体例については後述する。
(出力変数yおよび状態遷移関数fiの概要)
前述した視覚障碍者の歩行を支援する出力yt∈[1,2,3,4]について説明する。
前述したように出力ytとしては、視覚障碍者の歩行支援を目的として、停止指示(yt=1)、歩行指示(yt=2)、右逸脱警告(yt=3)、左逸脱警告(yt=4)の4種類の出力が存在する。
停止指示(yt=1)は、歩行する視覚障碍者が横断歩道の手前まで達した時点で当該視覚障碍者に歩行を停止する旨の通知を行うものである。例えば、カメラ20で撮影された画像が、図4(視覚障碍者が横断歩道CWに向かう歩行状態にある際に、カメラ20で撮影された画像の一例を示す図)に示す状態であれば、横断歩道CWまでの距離が比較的長いため、停止指示(yt=1)は行わず、視覚障碍者は歩行状態(st=0)が継続され、カメラ20で撮影された画像が、図5(視覚障碍者が横断歩道CWに達したタイミングにおいてカメラ20で撮影された画像の一例を示す図)に示す状態となった場合には、視覚障碍者が横断歩道CWの手前に達したタイミングであることから、停止指示(yt=1)を出力して、当該視覚障碍者に歩行を停止する旨の通知を行うことになる。この停止指示(yt=1)を行う条件が成立しているか否かの判定(状態遷移関数の算出結果に基づく判定)については後述する。
歩行指示(yt=2)は、信号機TLが赤信号から青信号に切り替わったことで、視覚障碍者に歩行(横断歩道CWの横断)を指示する旨の通知を行うものである。例えば、横断歩道CWの手前で視覚障碍者が停止状態(st=1)にある状況で、カメラ20で撮影された画像に基づいて信号機TLが赤信号から青信号に切り替わった場合に、歩行指示(yt=2)を出力して、当該視覚障碍者に横断歩道CWの横断を開始する旨の通知を行う。この歩行指示(yt=2)を行う条件が成立しているか否かの判定(状態遷移関数の算出結果に基づく判定)についても後述する。
そして、本実施形態では、この歩行指示(yt=2)を行うタイミングとして、信号機TLの状態が赤信号から青信号に切り替わったタイミングとしている。つまり、仮に、視覚障碍者が横断歩道CWに達した時点で既に信号機TLが青信号となっていたとしても歩行指示(yt=2)は行わず、信号機TLが一旦赤信号となり、その後に青信号に切り替わったタイミングで歩行指示(yt=2)を行うようにしている。これによって、視覚障碍者が横断歩道CWを横断するに当たって、信号機TLが青信号となっている時間を十分に確保することができるようにし、視覚障碍者が横断歩道CWを横断している途中で信号機TLが青信号から赤信号に切り替わってしまうといった状況を招き難くしている。
右逸脱警告(yt=3)は、横断歩道CWを横断している視覚障碍者が横断歩道CWから右側に逸脱する方向に向かって歩行している際に、当該視覚障碍者に対して横断歩道CWから右側に逸脱する虞があることの警告を行うものである。例えば、カメラ20で撮影された画像が図6(視覚障碍者が横断歩道CWの横断状態にある際に、カメラ20で撮影された画像の一例を示す図)に示す状態にあって、視覚障碍者が横断歩道CWの横断状態(st=2)にある状況で、カメラ20で撮影された画像が、図7(横断歩道CWの横断状態にある視覚障碍者が横断歩道CWの右側に逸脱する方向に向かって歩行している際に、カメラ20で撮影された画像の一例を示す図)に示す状態となった場合には、視覚障碍者が横断歩道CWから右側に逸脱する方向に向かって歩行していることから、右逸脱警告(yt=3)を出力して、当該視覚障碍者に警告を行うことになる。
左逸脱警告(yt=4)は、横断歩道CWを横断している視覚障碍者が横断歩道CWから左側に逸脱する方向に向かって歩行している際に、当該視覚障碍者に対して横断歩道CWから左側に逸脱する虞があることの警告を行うものである。例えば、カメラ20で撮影された画像が図6に示す状態にあって、視覚障碍者が横断歩道CWの横断状態(st=2)にある状況で、カメラ20で撮影された画像が、図8(横断歩道CWの横断状態にある視覚障碍者が横断歩道CWの左側に逸脱する方向に向かって歩行している際に、カメラ20で撮影された画像の一例を示す図)に示す状態となった場合には、視覚障碍者が横断歩道CWから左側に逸脱する方向に向かって歩行していることから、左逸脱警告(yt=4)を出力して、当該視覚障碍者に警告を行うことになる。
これら右逸脱警告(yt=3)および左逸脱警告(yt=4)を行う条件が成立しているか否かの判定(状態遷移関数の算出結果に基づく判定)についても後述する。
(信号機を含む画像領域の抽出および拡大処理)
前述したように本実施形態では、歩行指示(yt=2)を行うタイミングとして、信号機TLの状態が赤信号から青信号に切り替わったタイミングとしている。また、カメラ20を広角のものとして、視覚障碍者が横断歩道CWの手前まで達した時点で、視覚障碍者の足元付近に存在する横断歩道CWにおける最も手前側にある白線WL1(図4および図5を参照)と、横断先の地点に設置された信号機TLとの両方を撮影可能としている。このような広角のカメラ20で撮影した画像にあっては、画像全体に対する信号機TLの占有領域が小さいので、この画像の情報から信号機TLの状態を判断することが難しく、信号機TLの認識精度が十分に得られる保証がない。
このため、本実施形態では、カメラ20によって撮影された画像中における、横断歩道CWを含む画像領域を判別し(前記判別部82による判別動作)、信号機TLを含む画像領域を抽出すると共に、その抽出した画像領域の拡大処理(前記画像処理部83による処理)を行うようにしている。以下、この処理の概要について説明する。
横断歩道CWの手前で視覚障碍者が停止状態(st=1)にある状況では、カメラ20で撮影された画像は例えば図5に示すものとして取得されることになる。そして、この取得された画像に対し、前記抽出する(切り抜きを行う)領域としては、図9に示すように、当該画像の左下を原点とし、横軸の長さ(座標点)w1,w2、縦軸の長さ(座標点)h1,h2よって指定される。つまり、これらを指定することで、図9において信号機TLを含む画像領域である破線で囲まれた領域Aが抽出されることになる。以下、各長さについて具体的に説明する。
1,w2,h1,は、それぞれ抽出される領域(トリミングされる画像)Aの左辺、右辺、底辺の位置を表す座標を特定するものである。これらは、深層学習モデルによって検出された横断歩道のBoundary Box(図9において一点鎖線で囲んだ四角)のうち、最も上側に位置しているBoundary Box(最も遠い位置にある白線WL7を囲むBoundary Box)の左辺、右辺、上辺の座標を用いて定義される。
そして、前記トリミングされる画像(領域A)の上辺h2は、カメラ20で撮影された画像における横断歩道CWの占有率に応じて定義されるものであって、横断歩道CWの占有率が大きいほど上辺h2の値も大きく設定される。つまり、横断歩道CWの占有率が大きい場合、画像内における信号機TLの高さ位置は上方であることが想定されるため、上辺h2の値を大きく設定して、トリミングされる画像の上辺h2を高い位置に設定する。具体的には、この上辺h2は、h1に乗ずる係数α∈[1,h0/h1]を用いて、h2=α・h1として定義される。これにより、図9において破線で囲まれた領域Aが抽出されることになり、この領域Aが拡大処理されることで図10に示す画像(信号機TLの占有領域が大きくされた画像)が得られることになる。これにより、信号機TLの状態を容易に判断することが可能になり、信号機TLの認識精度を十分に高めることが可能になる。
(歩行支援で用いる特徴量)
次に、視覚障碍者に対する歩行支援で用いる特徴量について説明する。視覚障碍者に対して、横断歩道CWの手前での歩行の停止通知、および、その後の横断開始通知等の各種通知を適切に行うためには、横断歩道CWの位置(横断歩道CWにおいて最も手前側にある白線WL1の位置)、および、信号機TLの状態(青信号であるか赤信号であるか)をカメラ20からの情報によって正確に認識しておくことが必須である。つまり、白線WL1の位置および信号機TLの状態を反映させたモデル式を構築しておき、このモデル式に従って、現在、視覚障碍者が置かれている状況を把握できるようにしておく必要がある。
図11および図12は、視覚障碍者に対する歩行支援で用いる特徴量[w3,w4,w5,h3,r,b]T∈R6の概要を示している。r,bは、それぞれ信号機TLの状態(赤信号および青信号)の検出結果(0:未検出、1:検出)を表している。この信号機TLの状態の検出に際し、前述したように図9において破線で囲まれた領域Aが抽出されると共に、この領域Aが拡大処理されることで図10に示す画像(信号機TLの占有領域が大きくされた画像)による信号機TLの状態の認識が行われることになる。また、w3,w4,w5,h3は、前記白線認識部86によって認識された横断歩道CWの白線WL1~WL7のうち、最も手前に位置する白線WL1に対するBoundary Boxを用いて図12に示すように定義される。つまり、w3は画像の左端からBoundary Boxの左端(白線WL1の左端に相当)までの距離であり、w4はBoundary Boxの幅寸法(白線WL1の幅寸法に相当)であり、w5は画像の右端からBoundary Boxの右端(白線WL1の右端に相当)までの距離であり、h3は画像の下端からBoundary Boxの下端(白線WL1の手前側の端縁に相当)までの距離である。
深層学習を用いて横断歩道CWおよび信号機TLを検出する関数をgとした場合、時刻tでカメラ20によって撮影された画像Xt∈Rw0×h0を用いて予測された横断歩道CWおよび信号機TLのBoundary Boxをg(Xt)と表現すると、視覚障碍者の歩行を支援するために必要な特徴量としては、以下の式(1)として表現できる。
Figure 0007415909000001
ここで、
Figure 0007415909000002
は前記特徴量j(t)を抽出する演算子であり、前記g(Xt)に対する後処理を行うためのものであり、p1は1フレーム当たりのBoundary Boxの最大数である。
(状態遷移関数)
次に、状態遷移関数について説明する。この状態遷移関数は、前述したように、停止指示(yt=1)、歩行指示(yt=2)、右逸脱警告(yt=3)、左逸脱警告(yt=4)それぞれの通知を行う条件が成立しているか否かを判定するために用いられるものである。
時刻t+1での状態量(状態変数)st+1は、横断歩道CWの特徴量に対する時刻履歴情報J={j(0),j(1),…j(t)}と、現在の状態量(状態変数)st、および、時刻t+1で撮影された画像Xt+1を用いて以下の式(3)のように表すことができる。
Figure 0007415909000003
この式(3)における状態遷移関数fは、現在時刻の状態量に応じて以下の式(4)のように定義することができる。
Figure 0007415909000004
つまり、視覚障碍者の歩行の推移としては、歩行(例えば横断歩道CWに向かう歩行)→停止(例えば横断歩道CWの手前での停止)→横断(例えば横断歩道CWの横断)→歩行(例えば横断歩道CWの横断完了後の歩行)を繰り返すことになるが、歩行状態(st=0)にある視覚障碍者に対して停止指示(yt=1)を行う条件の成立の有無を判定するための状態遷移関数がf0(J,Xt+1)であり、停止状態(st=1)にある視覚障碍者に対して横断(歩行)指示(yt=2)を行う条件の成立の有無を判定するための状態遷移関数がf1(J,Xt+1)であり、横断状態(st=2)にある視覚障碍者に対して歩行(横断の完了)の通知を行う条件の成立の有無を判定するための状態遷移関数がf2(J,Xt+1)である。また、後述する式(12)で示すように、横断状態(st=2)にある視覚障碍者に対して横断歩道CWからの逸脱の警告を行う条件の成立の有無を判定するための状態遷移関数がf3(J,Xt+1)である。
以下、各状態量(状態変数)それぞれに応じた状態遷移関数について具体的に説明する。
(歩行状態で適用される状態遷移関数)
現在時刻の状態量が歩行状態(st=0)である場合に使用される状態遷移関数f0(j,Xt+1)は、前記式(1)の特徴量を用いて以下の式(5)~(7)とすることができる。
Figure 0007415909000005
Figure 0007415909000006
Figure 0007415909000007
ここで、HはHeaviside関数であり、δはDelta関数である。また、α1,α2は判定基準に用いられるパラメータであり、t0は利用する過去の状態を指定するパラメータである。また、I2={0,1,0,0,0,0}T、I4={0,0,0,1,0,0}Tである。この式(5)が本発明でいう第1の状態遷移関数(歩行状態にある歩行者に横断歩道の手前で当該歩行の停止通知を行う条件の成立の有無を判定するための第1の状態遷移関数)となっている。
式(5)を用いれば、α1>h3、且つ、w4>α2の条件が過去t0時間では成立しておらず、時刻t+1で初めて成立した場合にのみ「1」が得られ、それ以外の場合には「0」が得られることになる。つまり、α1>h3が成立したことで、視覚障碍者の足元に、横断歩道CWにおける最も手前に位置する白線WL1(白線のBoundary Boxの下端)が位置し、w4>α2が成立したことで、その白線WL1は視覚障碍者の進行方向に直交する方向に延在する(白線のBoundary Boxの幅寸法が所定寸法を超えている)ものであることが判定された場合に「1」が得られるものとなっている。
このようにして式(5)において「1」が得られた場合には、停止指示(yt=1)を行う条件が成立したとして、歩行状態にある視覚障碍者に停止指示(例えば横断歩道CWの手前での歩行の停止指示;停止通知)を行うことになる。
また、本実施形態では、横断歩道CWが視覚障碍者の足元にある条件を(α1>h3)だけでなく、検出された横断歩道CWの幅の制約(w4>α2)を加えていることで、視覚障碍者の進行方向にある横断歩道CW以外の横断歩道(交差点において、視覚障碍者の進行方向に直交する方向の横断歩道等)が、画像Xt+1に含まれる場合の誤検知を防止している。つまり、道路の交差点等において横断方向が互いに異なる複数の横断歩道が存在している場合であっても、視覚障碍者が横断すべき横断歩道CW(白線WL1が、視覚障碍者が横断すべき方向に対して交差する方向に延びていることで、当該白線WL1の幅寸法が比較的広く認識されている横断歩道CW)とその他の横断歩道(白線の幅寸法が比較的狭く認識されている横断歩道)とを明確に判別することができ、視覚障碍者に向けての横断の開始通知を高い精度で正確に行うことが可能になっている。
(停止状態で適用される状態遷移関数)
前時刻の状態量が停止状態(st=1)である場合に使用される状態遷移関数f1(j,Xt+1)は、以下の式(8)~(10)とすることができる。
Figure 0007415909000008
Figure 0007415909000009
Figure 0007415909000010
ここでX’t+1は、前述したXt+1から画像のトリミングと拡大処理とを行って得られたものである。つまり、信号機TLの認識精度が十分に高められた画像X’t+1となっている。また、I5={0,0,0,0,1,0}T、I6={0,0,0,0,0,1}Tである。この式(8)が本発明でいう第2の状態遷移関数(横断歩道の手前で停止状態にある歩行者に横断歩道の横断の開始通知を行う条件の成立の有無を判定するための第2の状態遷移関数)となっている。
式(8)では、過去t0時間に赤信号を検知した後で、時刻t+1で初めて青信号を検知した場合にのみ「1」が得られ、それ以外の場合には「0」が得られることになる。
このようにして式(8)において「1」が得られた場合には、歩行(横断)指示(yt=2)を行う条件が成立したとして、停止状態にある視覚障碍者に横断指示(例えば横断歩道の横断指示;横断通知)を行うことになる。
また、信号機がない交差点の横断歩道では前述のロジックでの状態遷移ができない場合がある。この課題を解決するために、新たなパラメータt1>t0を導入し、時間t1の間、停止状態からの状態遷移がないと判断された場合に、歩行状態に遷移するようにしてもよい。
(横断状態で適用される状態遷移関数)
前時刻の状態量が横断状態(st=2)である場合に使用される状態遷移関数f2(j,Xt+1)は、以下の式(11)とすることができる。
Figure 0007415909000011
この式(11)が本発明でいう第4の状態遷移関数(横断歩道の横断状態にある歩行者に横断歩道の横断が完了したことの通知を行う条件の成立の有無を判定するための第4の状態遷移関数)となっている。
式(11)では、過去t-t0から、現在時刻t+1の間に一度も信号機および足元の横断歩道CWが検出できなかった場合にのみ「1」が得られ、それ以外の場合には「0」が得られることになる。つまり、横断歩道CWを渡りきったことで信号機TLおよび足元の横断歩道CWが検出できなかった場合にのみ「1」が得られることになる。
このようにして式(11)において「1」が得られた場合には、横断完了の通知を行う条件が成立したとして、歩行状態にある視覚障碍者に横断完了(横断歩道の横断の完了)の通知を行うことになる。
(横断歩道からの逸脱を判定する状態遷移関数)
視覚障碍者の横断歩道CWの横断中に、横断歩道CWからの逸脱を判定する状態遷移関数f3(j,Xt+1)は、以下の式(12)~(14)とすることができる。
Figure 0007415909000012
Figure 0007415909000013
Figure 0007415909000014
ここで、α3は判定基準に用いられるパラメータである。また、I1={1,0,0,0,0,0}T、I3={0,0,1,0,0,0}Tである。この式(12)が本発明でいう第3の状態遷移関数(横断歩道の横断状態にある歩行者に横断歩道からの逸脱の警告を行う条件の成立の有無を判定するための第3の状態遷移関数)となっている。
式(12)では、検出された横断歩道CWの位置がフレームの中心からのズレ量が許容量以上であれば「1」が得られ、それ以外では「0」が得られることになる。つまり、w3の値が所定値よりも大きくなった場合(左逸脱の場合)や、w5の値が所定値よりも大きくなった場合(右逸脱の場合)に「1」が得られることになる。
このようにして式(12)において「1」が得られた場合には、右逸脱警告(yt=3)または左逸脱警告(yt=4)を行うことになる。
(歩行支援動作)
次に、歩行支援システム10による歩行支援動作の流れについて説明する。
図13は、前述した歩行支援動作の一連の流れを示すフローチャートである。このフローチャートは、視覚障碍者が路上(歩道上)を歩行している状況において、所定時刻tから所定時刻t+1までの間で1回のルーチンが実施されるように所定時間間隔を存して繰り返して実施される。以下の説明では各状態遷移関数における変数(J,Xt+1)の記載を省略する。
先ず、ステップST1において視覚障碍者が歩行状態にある状況で、ステップST2において、前記白線認識部86によって認識された、横断歩道CWを含む画像領域における当該横断歩道CWの白線WL1の位置(より具体的には、最も手前に位置する白線WL1のBoundary Boxの位置)に基づき、前述した停止指示(yt=1)を行う条件の成立の有無を判定するための状態遷移関数f0(前記式5)において「1」が得られたか否かを判定する。
この状態遷移関数f0において「0」が得られている場合には、停止指示(yt=1)を行う条件が成立していない、つまり、視覚障碍者は未だ横断歩道CWの手前に達していないとしてNO判定され、ステップST1に戻る。視覚障碍者が横断歩道CWの手前に達するまで、ステップST2ではNO判定されるため、ステップST1,ST2の動作を繰り返すことになる。
視覚障碍者が横断歩道CWの手前に達し、状態遷移関数f0において「1」が得られた場合には、ステップST2でYES判定され、ステップST3に移る。このステップST3では、視覚障碍者に対して停止指示(yt=1)を行う。具体的には、視覚障碍者が持っている白杖1の振動発生機50が、停止指示(停止通知)を示すパターンで振動する。これにより、白杖1のグリップ部3を把持している視覚障碍者は、振動発生機50の振動のパターンを感じ取ることで停止指示されたことを認識し、歩行を停止することになる。
ステップST4において視覚障碍者が停止状態にある状況で、ステップST5において、前述した歩行指示(yt=2)を行う条件の成立の有無を判定するための状態遷移関数f1(前記式8)において「1」が得られたか否かを判定する。この状態遷移関数f1による判定動作に際しては、前述した図9で示したように、破線で囲まれた領域Aが抽出され、この領域Aが拡大処理されることで、図10に示す画像が得られ、これによって、信号機TLの状態を容易に判断することが可能になる。この動作が、画像処理部(信号機を含む画像領域を抽出すると共に、その抽出した画像領域の拡大処理を行う画像処理部)83、および、信号機判断部(拡大処理された信号機を含む画像領域の情報から信号機の状態が、停止指示状態および横断許可状態の何れであるかを判断する信号機判断部)84の動作に相当する。
この状態遷移関数f1において「0」が得られている場合には、歩行指示(yt=2)を行う条件が成立していない、つまり、信号機TLは未だ青信号に切り替わっていないとしてNO判定され、ステップST4に戻る。信号機TLが青信号に切り替わるまで、ステップST5ではNO判定されるため、ステップST4,ST5の動作を繰り返すことになる。
信号機TLが青信号に切り替わり、状態遷移関数f1において「1」が得られた場合には、ステップST5でYES判定され、ステップST6に移る。この動作が、信号機判断部(拡大処理された信号機を含む画像領域の情報から信号機の状態が、停止指示状態および横断許可状態の何れであるかを判断する信号機判断部)84の動作、および、切り替わり認識部(信号機の状態が、停止指示状態から横断許可状態に切り替わったことを認識する切り替わり認識部)85の動作に相当する。
ステップST6では、視覚障碍者に対して歩行指示(yt=2)を行う。具体的には、視覚障碍者が持っている白杖1の振動発生機50が、歩行指示(横断開始通知)を示すパターンで振動する。これにより、白杖1のグリップ部3を把持している視覚障碍者は歩行指示されたことを認識し、横断歩道CWの横断を開始することになる。
ステップST7において視覚障碍者が横断歩道CWの横断状態にある状況で、ステップST8において、横断歩道CWからの逸脱の警告を行う条件の成立の有無を判定するための状態遷移関数f3(前記式12)において「1」が得られたか否かを判定する。
状態遷移関数f3において「1」が得られ、ステップST8でYES判定された場合、ステップST9において、その横断歩道CWからの逸脱の方向が右方向(右逸脱)であるか否かを判定する。そして、横断歩道CWからの逸脱の方向が右方向であり、ステップST9でYES判定された場合にはステップST10に移り、視覚障碍者に対して右逸脱警告(yt=3)を行う。具体的には、視覚障碍者が持っている白杖1の振動発生機50が、右逸脱警告を示すパターンで振動する。これにより、白杖1のグリップ部3を把持している視覚障碍者は右逸脱警告されたことを認識し、歩行方向を左方向に向けて変更することになる。
一方、横断歩道CWからの逸脱の方向が左方向であり、ステップST9でNO判定された場合にはステップST11に移り、視覚障碍者に対して左逸脱警告(yt=4)を行う。具体的には、視覚障碍者が持っている白杖1の振動発生機50が、左逸脱警告を示すパターンで振動する。これにより、白杖1のグリップ部3を把持している視覚障碍者は左逸脱警告されたことを認識し、歩行方向を右方向に向けて変更することになる。このようにして逸脱警告を行った後、ステップST14に移る。
横断歩道CWからの逸脱がなく、状態遷移関数f3において「0」が得られている場合には、ステップST8でNO判定され、ステップST12に移る。このステップST12では、現在、ステップST10またはステップST11における逸脱警告の発生中であるか否かを判定する。逸脱警告の発生中でなく、ステップST12でNO判定された場合には、ステップST14に移る。一方、逸脱警告の発生中であり、ステップST12でYES判定された場合には、ステップST13に移り、逸脱警告を解除してステップST14に移る。
ステップST14では、横断完了の通知を行う条件の成立の有無を判定するための状態遷移関数f2(前記式11)において「1」が得られたか否かを判定する。
この状態遷移関数f2において「0」が得られている場合には、横断完了の通知を行う条件が成立していない、つまり、視覚障碍者は横断歩道CWの横断中であるとしてNO判定され、ステップST7に戻る。横断歩道CWの横断が完了するまで、ステップST14ではNO判定されるため、ステップST7~ST14の動作を繰り返すことになる。
つまり、視覚障碍者の横断中に横断歩道CWからの逸脱が発生する場合には前述した逸脱警告が行われ、この逸脱が解消された場合には、逸脱警告が解除されるといった動作を、横断歩道CWの横断が完了するまで行われる。
視覚障碍者が横断歩道CWの横断を完了し、状態遷移関数f2において「1」が得られた場合には、ステップST14でYES判定され、ステップST15に移り、視覚障碍者に対して横断完了の通知を行う。具体的には、視覚障碍者が持っている白杖1の振動発生機50が、横断完了を示すパターンで振動する。これにより、白杖1のグリップ部3を把持している視覚障碍者は横断完了の通知が行われたことを認識し、通常の歩行状態に戻ることになる。
このようにして、視覚障碍者が横断歩道CWを横断する度に前述した動作が繰り返されることになる。
-実施形態の効果-
以上説明したように、本実施形態では、カメラ20によって撮影された画像中における、信号機TLを含む画像領域を判別し、この判別された信号機TLを含む画像領域を抽出すると共に、その抽出した画像領域の拡大処理を行うことによって、信号機TLの状態が赤信号(停止指示状態)および青信号(横断許可状態)の何れであるかを判断すると共に、信号機TLの状態が赤信号から青信号に切り替わったことを条件として視覚障碍者に向けて横断の開始通知を行うようにしている。このため、1台のカメラ20からの画像情報であっても、信号機TLの認識精度を十分に高めることができる。その結果、システムの構成の複雑化やシステムの重量増大を招くことなく、視覚障碍者に対して横断開始通知を適切に行うことができる。
また、本実施形態では、信号機TLの状態が赤信号から青信号に切り替わったことを条件として視覚障碍者に向けて横断の開始通知を行うようにしている。このため、視覚障碍者が横断歩道CWを横断するに当たって、信号機TLの状態が青信号となっている時間を十分に確保することができる。
また、本実施形態では、歩行支援システム10の構成要素を白杖1に内蔵させることにより、白杖1のみで歩行支援システム10を実現しているため、実用性の高い歩行支援システム10を提供することができる。
-他の実施形態-
尚、本発明は、前記実施形態に限定されるものではなく、特許請求の範囲および該範囲と均等の範囲で包含される全ての変形や応用が可能である。
例えば、前記実施形態では、歩行支援システム10を、視覚障碍者が使用する白杖1に内蔵した場合について説明した。本発明はこれに限らず、歩行者が高齢者である場合の杖や手押し車等であってもよい。
また、前記実施形態では、白杖1に充電ソケット70を備えさせ、家庭用電源からバッテリ(二次電池)60を充電するようにしていた。本発明はこれに限らず、白杖1の表面に太陽光発電シートを貼り付けておき、当該太陽光発電シートで発電した電力によってバッテリ60を充電するようにしてもよい。また、二次電池に代えて一次電池を使用するようになっていてもよい。また、白杖1に振り子式発電機を内蔵し、該振り子式発電機を利用してバッテリ60を充電するようにしてもよい。
また、前記実施形態では、振動発生機50の振動パターンによって通知の種類を分けるようにしていた。本発明はこれに限らず、音声によって通知を行うようにしてもよい。
本発明は、歩行する視覚障碍者に対して横断歩道の横断開始通知を行う歩行支援システムに適用可能である。
1 白杖
10 歩行支援システム
20 カメラ(画像取得手段)
50 振動発生機(通知手段)
80 制御装置
82 判別部
83 画像処理部
84 信号機判断部
85 切り替わり認識部
86 白線認識部

Claims (5)

  1. 歩行者が横断歩道を横断するに当たって、当該歩行者に対し、少なくとも当該横断の開始通知を行う歩行支援システムであって、
    前記歩行者が横断歩道に達した際における、当該横断歩道の白線のうち前記歩行者に最も近い位置にある白線、および、前記歩行者の前方に位置する信号機の両方を含む画像を取得可能な画像取得手段と、
    前記画像取得手段によって取得された画像中における、前記横断歩道を含む画像領域と前記信号機を含む画像領域とを判別する判別部と、
    前記判別部で判別された信号機を含む画像領域を抽出すると共に、その抽出した画像領域の拡大処理を行う画像処理部と、
    前記画像処理部によって拡大処理された前記信号機を含む画像領域の情報から前記信号機の状態が、停止指示状態および横断許可状態の何れであるかを判断する信号機判断部と、
    前記信号機判断部によって判断された信号機の状態が、前記停止指示状態から前記横断許可状態に切り替わったことを認識する切り替わり認識部と、
    前記切り替わり認識部において認識された前記信号機の状態が前記停止指示状態から前記横断許可状態に切り替わったことを条件として前記歩行者に向けて横断の開始通知を行う通知手段と、
    前記判別部で判別された前記横断歩道を含む画像領域における当該横断歩道の白線を認識する白線認識部とを備え、
    前記通知手段は、前記白線認識部で認識された前記白線のうち前記横断歩道において最も手前の白線の位置が歩行者から所定距離を存した位置に達したことを条件として前記歩行者に向けて歩行の停止通知を行うことを特徴とする歩行支援システム。
  2. 請求項1記載の歩行支援システムにおいて、
    前記白線認識部は、前記画像取得手段によって取得された画像中における前記白線の幅寸法が所定寸法を超えている場合に、当該白線を、前記歩行者が横断すべき横断歩道の白線であると認識する構成となっていることを特徴とする歩行支援システム。
  3. 請求項1または2記載の歩行支援システムにおいて、
    歩行状態にある前記歩行者に前記横断歩道の手前で当該歩行の停止通知を行う条件の成立の有無を判定するための第1の状態遷移関数、
    前記横断歩道の手前で停止状態にある前記歩行者に前記横断歩道の横断の開始通知を行う条件の成立の有無を判定するための第2の状態遷移関数、
    前記横断歩道の横断状態にある前記歩行者に前記横断歩道からの逸脱の警告を行う条件の成立の有無を判定するための第3の状態遷移関数、
    前記横断歩道の横断状態にある前記歩行者に前記横断歩道の横断が完了したことの通知を行う条件の成立の有無を判定するための第4の状態遷移関数、
    を記憶した記憶部を備えており、
    前記通知手段は、前記各状態遷移関数による前記条件の成立に伴って、その条件の成立に応じた通知を前記歩行者に向けて行う構成となっていることを特徴とする歩行支援システム。
  4. 請求項1、2または3記載の歩行支援システムにおいて、
    前記通知手段は、視覚障碍者が使用する白杖に内蔵されており、振動または音声によって、前記白杖を使用している前記視覚障碍者に向けて通知を行う構成となっていることを特徴とする歩行支援システム。
  5. 請求項4記載の歩行支援システムにおいて、
    前記画像取得手段、前記判別部、前記画像処理部、前記信号機判断部、前記切り替わり認識部、および、前記通知手段それぞれは、前記白杖に内蔵されていることを特徴とする歩行支援システム。
JP2020207866A 2020-12-15 2020-12-15 歩行支援システム Active JP7415909B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2020207866A JP7415909B2 (ja) 2020-12-15 2020-12-15 歩行支援システム
US17/478,962 US11475762B2 (en) 2020-12-15 2021-09-20 Walking aid system
CN202111519770.3A CN114639230B (zh) 2020-12-15 2021-12-13 步行辅助系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020207866A JP7415909B2 (ja) 2020-12-15 2020-12-15 歩行支援システム

Publications (2)

Publication Number Publication Date
JP2022094782A JP2022094782A (ja) 2022-06-27
JP7415909B2 true JP7415909B2 (ja) 2024-01-17

Family

ID=81941606

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020207866A Active JP7415909B2 (ja) 2020-12-15 2020-12-15 歩行支援システム

Country Status (3)

Country Link
US (1) US11475762B2 (ja)
JP (1) JP7415909B2 (ja)
CN (1) CN114639230B (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022172511A (ja) * 2021-05-06 2022-11-17 トヨタ自動車株式会社 歩行支援システム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080123902A1 (en) 2006-11-27 2008-05-29 Jeong-Ho Park Apparatus and method of estimating center line of intersection
JP2015213620A (ja) 2014-05-09 2015-12-03 享司 大塚 歩行補助器具
WO2018025531A1 (ja) 2016-08-05 2018-02-08 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0935180A (ja) 1995-07-20 1997-02-07 Nippon Signal Co Ltd:The 歩行者感応信号制御機
JP3868915B2 (ja) * 2003-03-12 2007-01-17 株式会社東芝 前方監視装置及びその方法
JP3823944B2 (ja) * 2003-05-29 2006-09-20 日産自動車株式会社 移動物体報知装置
JP2007241606A (ja) * 2006-03-08 2007-09-20 Niles Co Ltd 白線検出装置
CN103754226B (zh) * 2009-04-15 2016-05-25 丰田自动车株式会社 驾驶辅助系统以及由驾驶辅助系统执行的方法
JP5631581B2 (ja) * 2009-12-01 2014-11-26 富士重工業株式会社 道路認識装置
JP6185418B2 (ja) * 2014-03-27 2017-08-23 トヨタ自動車株式会社 走路境界区画線検出装置
CN106901956B (zh) * 2017-03-03 2019-06-04 西南大学 一种用于人行横道线处的盲人导航方法及装置
KR102002860B1 (ko) * 2018-12-21 2019-10-17 김영현 보행자를 보호하는 알림서비스 제공 시스템
US20210369545A1 (en) * 2020-04-07 2021-12-02 Arko Ayan Ghosh Method and system for smart navigation for the visually impaired

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080123902A1 (en) 2006-11-27 2008-05-29 Jeong-Ho Park Apparatus and method of estimating center line of intersection
JP2015213620A (ja) 2014-05-09 2015-12-03 享司 大塚 歩行補助器具
WO2018025531A1 (ja) 2016-08-05 2018-02-08 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム

Also Published As

Publication number Publication date
JP2022094782A (ja) 2022-06-27
CN114639230A (zh) 2022-06-17
US20220189291A1 (en) 2022-06-16
CN114639230B (zh) 2024-01-30
US11475762B2 (en) 2022-10-18

Similar Documents

Publication Publication Date Title
CN109758167B (zh) 驾驶员状态检测装置
US20170007459A1 (en) Vision aiding method and apparatus integrated with a camera module and a light sensor
WO2018008314A1 (ja) 歩行者検出装置、歩行者検出方法
WO2014156222A1 (ja) 障害物検出装置、及びそれを備えた電動車両
JP7415909B2 (ja) 歩行支援システム
CN111035542A (zh) 一种基于图像识别的智能导盲系统
JP7165093B2 (ja) 車両制御システム
TW201310403A (zh) 後方來車變換車道預警方法及其系統
CN115721533A (zh) 步行信息提供系统
KR102321500B1 (ko) 교통 약자를 위한 횡단 보도 시스템
JP2022172511A (ja) 歩行支援システム
CN114764972B (zh) 步行支持系统
JP2009251761A (ja) 運転支援システム
JP2010079716A (ja) 車両の歩行者検出装置
KR20210028315A (ko) 스마트 지팡이 및 이를 이용한 시각장애인 안내시스템
JP2008250756A (ja) 信号制御システム
JP2010092353A (ja) 画像処理装置及び画像処理方法
JP2022175230A (ja) 歩行支援システム
JP2023122833A (ja) 移動支援装置および移動支援システム
JP2023048408A (ja) 信号機認識システム
JP4857926B2 (ja) 自律移動装置
JP2023027471A (ja) 歩行支援システム
JP6880615B2 (ja) ドライバ状態判定装置及び運転支援システム
JP2023073100A (ja) 歩行支援システム
JP2022183703A (ja) 歩行支援装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230718

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231113

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231218

R151 Written notification of patent or utility model registration

Ref document number: 7415909

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151