JP2023122833A - 移動支援装置および移動支援システム - Google Patents

移動支援装置および移動支援システム Download PDF

Info

Publication number
JP2023122833A
JP2023122833A JP2022026572A JP2022026572A JP2023122833A JP 2023122833 A JP2023122833 A JP 2023122833A JP 2022026572 A JP2022026572 A JP 2022026572A JP 2022026572 A JP2022026572 A JP 2022026572A JP 2023122833 A JP2023122833 A JP 2023122833A
Authority
JP
Japan
Prior art keywords
contact
movement support
support device
vehicle
moving
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022026572A
Other languages
English (en)
Inventor
浩平 新谷
Kohei Shintani
拓昌 河村
Hiroaki Kawamura
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2022026572A priority Critical patent/JP2023122833A/ja
Priority to US18/172,309 priority patent/US20230263693A1/en
Priority to CN202310152962.8A priority patent/CN116637009A/zh
Publication of JP2023122833A publication Critical patent/JP2023122833A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61HPHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H3/00Appliances for aiding patients or disabled persons to walk about
    • A61H3/06Walking aids for blind persons
    • A61H3/061Walking aids for blind persons with electronic detecting or guiding means
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61FFILTERS IMPLANTABLE INTO BLOOD VESSELS; PROSTHESES; DEVICES PROVIDING PATENCY TO, OR PREVENTING COLLAPSING OF, TUBULAR STRUCTURES OF THE BODY, e.g. STENTS; ORTHOPAEDIC, NURSING OR CONTRACEPTIVE DEVICES; FOMENTATION; TREATMENT OR PROTECTION OF EYES OR EARS; BANDAGES, DRESSINGS OR ABSORBENT PADS; FIRST-AID KITS
    • A61F9/00Methods or devices for treatment of the eyes; Devices for putting-in contact lenses; Devices to correct squinting; Apparatus to guide the blind; Protective devices for the eyes, carried on the body or in the hand
    • A61F9/08Devices or methods enabling eye-patients to replace direct visual perception by another kind of perception
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61HPHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H3/00Appliances for aiding patients or disabled persons to walk about
    • A61H3/06Walking aids for blind persons
    • A61H3/068Sticks for blind persons
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/18Status alarms
    • G08B21/24Reminder alarms, e.g. anti-loss alarms
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B3/00Audible signalling systems; Audible personal calling systems
    • G08B3/10Audible signalling systems; Audible personal calling systems using electric transmission; using electromagnetic transmission
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B6/00Tactile signalling systems, e.g. personal calling systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/80Services using short range communication, e.g. near-field communication [NFC], radio-frequency identification [RFID] or low energy communication
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61HPHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H3/00Appliances for aiding patients or disabled persons to walk about
    • A61H3/06Walking aids for blind persons
    • A61H3/061Walking aids for blind persons with electronic detecting or guiding means
    • A61H2003/063Walking aids for blind persons with electronic detecting or guiding means with tactile perception
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61HPHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H2201/00Characteristics of apparatus not provided for in the preceding codes
    • A61H2201/01Constructive details
    • A61H2201/0119Support for the device
    • A61H2201/0153Support for the device hand-held
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61HPHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H2201/00Characteristics of apparatus not provided for in the preceding codes
    • A61H2201/50Control means thereof
    • A61H2201/5023Interfaces to the user
    • A61H2201/5048Audio interfaces, e.g. voice or music controlled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61HPHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H2201/00Characteristics of apparatus not provided for in the preceding codes
    • A61H2201/50Control means thereof
    • A61H2201/5058Sensors or detectors
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61HPHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H2201/00Characteristics of apparatus not provided for in the preceding codes
    • A61H2201/50Control means thereof
    • A61H2201/5058Sensors or detectors
    • A61H2201/5064Position sensors
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61HPHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H2201/00Characteristics of apparatus not provided for in the preceding codes
    • A61H2201/50Control means thereof
    • A61H2201/5058Sensors or detectors
    • A61H2201/5079Velocity sensors
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61HPHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H2201/00Characteristics of apparatus not provided for in the preceding codes
    • A61H2201/50Control means thereof
    • A61H2201/5097Control means thereof wireless

Landscapes

  • Health & Medical Sciences (AREA)
  • Veterinary Medicine (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Pain & Pain Management (AREA)
  • Physical Education & Sports Medicine (AREA)
  • Rehabilitation Therapy (AREA)
  • Epidemiology (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Vascular Medicine (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Ophthalmology & Optometry (AREA)
  • Electromagnetism (AREA)
  • Traffic Control Systems (AREA)
  • Rehabilitation Tools (AREA)

Abstract

【課題】ユーザと移動体との接触の可能性の有無を早期に認識し、それに応じて適切な移動支援動作が行える移動支援装置および移動支援システムを提供する。【解決手段】カメラ20からの画像によって認識された車両との相対位置関係および当該相対位置関係の変化に基づき、車両との間に距離を存した状態において、当該車両と白杖との接触の可能性の有無を判定し、車両と白杖との接触の可能性があると判定された場合には、移動支援動作を実施する。これにより、ユーザと車両とが接触する可能性があることを早期に認識可能であり、接触の可能性がある場合に、それに応じた移動支援動作を早期に開始することができる。その結果、移動支援動作の開始タイミングを適切に得ることができる。【選択図】図3

Description

本発明は、ユーザの移動(例えば白杖を使用する視覚障碍者の歩行)に対する移動支援を行うための移動支援装置および移動支援システムに係る。特に、本発明は、移動支援(移動支援動作)を行うために取得した情報の処理の改良に関する。
視覚障碍者等の歩行者に対する歩行支援(移動支援デバイスを使用するユーザの移動に対する移動支援)を行うための移動支援装置として特許文献1に開示されているものが知られている。この特許文献1には、視覚を用いずに行動する者(視覚障碍者)が歩く方向を決定する方向決定部と、決定した方向へ視覚障碍者が歩くためのガイド情報を生成するガイド情報生成部とを備え、視覚障碍者が携帯するカメラからの画像と、予め記憶されている参照画像とのマッチングによって視覚障碍者の歩行方向を決定し、音声等によって視覚障碍者に対して歩行方向を案内することが開示されている。
再公表特許WO2018/025531号公報
ところで、視覚障碍者等のユーザ(移動支援デバイスを使用するユーザ)が車道を横断する(例えば横断歩道を渡る)場合にあっては、移動支援デバイスに内蔵されたカメラ等によって取得される情報(例えば画像情報)に基づいて周辺の移動体(車両等)を認識し、ユーザと移動体との接触を回避するための移動支援動作を行うことが求められている。特に、ユーザと移動体との接触の可能性の有無を早期に認識し、接触の可能性がある場合には移動支援動作を早期に開始することが求められている。しかしながら、これまでの移動支援装置にあっては、ユーザと移動体との接触の可能性の有無を早期に認識するといった観点での効果的な提案はなされておらず、移動支援装置としては改良の余地があった。
本発明は、かかる点に鑑みてなされたものであり、その目的とするところは、ユーザと移動体との接触の可能性の有無を早期に認識し、それに応じて適切な移動支援動作が行える移動支援装置および移動支援システムを提供することにある。
前記の目的を達成するための本発明の解決手段は、移動支援デバイスに備えられ、当該移動支援デバイスを使用するユーザの移動を支援するための移動支援動作が可能な移動支援装置を前提とする。そして、この移動支援装置は、移動体認識部、相対位置認識部、接触判定部、情報送信部を備えている。移動体認識部は、周辺に存在する移動体を認識する。相対位置認識部は、前記移動体認識部によって認識された前記移動体との相対位置関係を認識する。接触判定部は、前記相対位置認識部によって認識された前記移動体との相対位置関係および当該相対位置関係の変化のうち少なくとも一方の情報を含む接触判定支援情報に基づき、前記移動体との間に距離を存した状態において、当該移動体と前記移動支援デバイスとの接触の可能性の有無を判定する。情報送信部は、前記接触判定部によって前記移動体と前記移動支援デバイスとの接触の可能性があると判定された場合に、前記移動支援動作を実施するための移動支援動作指示情報を出力する。
この特定事項により、移動支援デバイスを使用するユーザの移動時には、相対位置認識部によって認識された移動体との相対位置関係(移動支援装置に対する移動体の相対位置)および当該相対位置関係の変化(移動体やユーザの移動に伴う移動支援装置に対する移動体の相対位置の変化)のうち少なくとも一方の情報を含む接触判定支援情報に基づき、移動体との間に距離を存した状態において、当該移動体と移動支援デバイスとの接触の可能性の有無を接触判定部が判定(推定)する。そして、移動体と移動支援デバイスとの接触の可能性があると判定された場合には、情報送信部が、移動支援動作を実施するための移動支援動作指示情報を出力する。これにより、移動支援デバイス(言い換えると移動支援デバイスを使用するユーザ)と移動体との接触を回避するための移動支援動作が開始されることになる。このように、本解決手段では、ユーザと移動体とが接触する可能性があることを早期に認識可能であり、接触の可能性がある場合に、それに応じた移動支援動作を早期に開始することができる。その結果、移動支援動作の開始タイミングを適切に得ることができる。
また、前記接触判定部は、予備推定動作を行う予備推定部、および、前記予備推定動作に後続する接触推定動作を行う接触推定部を備えている。そして、前記予備推定部による前記予備推定動作では、前記移動体認識部によって複数の前記移動体が認識された場合に、前記各移動体それぞれとの相対位置関係および当該相対位置関係の変化のうち少なくとも一方の情報に基づき、前記複数の移動体のうち前記接触の可能性があると推定される前記移動体のみを抽出する。また、前記接触推定部による前記接触推定動作では、前記予備推定動作によって抽出された前記移動体のみに対して、前記接触判定支援情報に基づき、前記移動体との間に距離を存した状態において、前記接触の可能性の有無を判定する。
これによれば、接触推定部による接触推定動作にあっては、予備推定部による予備推定動作によって抽出された移動体のみに対して接触の可能性の有無を判定することになり、移動体認識部によって認識されている移動体の全てを対象として接触の可能性の有無を判定する必要がなくなる。つまり、接触の可能性が無い移動体を対象とした接触推定動作が必要なくなる。このため、接触推定部における演算処理の負荷を軽減することができ(有限なリソーセスを効果的に使用でき)、移動体との接触の可能性の有無を判定するまでに要する時間の短縮化を図ることができる。
前記予備推定部による前記予備推定動作として具体的には、前記接触の可能性があると推定される前記移動体の抽出条件として、当該移動体の移動方向が前記移動支援デバイスに接近してくる方向であることを含んでいる。
これによれば、予備推定動作では、移動支援デバイスに接近してくる(ユーザに接近してくる)移動体を、接触の可能性がある移動体として抽出し、これにより、接触推定動作において接触の可能性の有無を判定する対象となる移動体を絞り込むことになる。つまり、移動支援デバイスに接近してこない(ユーザに接近してこない)移動体については、接触推定動作において接触の可能性の有無を判定する対象としないことになり、接触推定部における演算処理の負荷を軽減することができる。
この場合における予備推定動作としてより具体的には、移動方向が前記移動支援デバイスに接近してくる方向である前記移動体の移動速度に応じて、前記接触の可能性がある移動体を抽出するようになっており、前記接触の可能性があると推定される前記移動体の抽出条件としては、移動方向が変化して前記移動支援デバイスに接近してくる前記移動体を前記接触の可能性があると推定する移動速度条件の範囲に比べて、移動方向が変化することなく前記移動支援デバイスに接近してくる前記移動体を前記接触の可能性があると推定する移動速度条件の範囲が高く設定されている。
例えば交差点に進入してくる車両(移動体)のうち、右折や左折を行う(移動方向が変化する)車両は比較的速度が低く、直進する(移動方向が変化しない)車両は比較的速度が高いことが一般的である。この点を考慮し、本解決手段では、接触の可能性があると推定される移動体の抽出条件(移動速度の条件)として、移動方向が変化して移動支援デバイスに接近してくる移動体を接触の可能性があると推定する移動速度条件の範囲に比べて、移動方向が変化することなく移動支援デバイスに接近してくる移動体を接触の可能性があると推定する移動速度条件の範囲を高くし、実際の移動体の移動速度の状況に照らして、接触の可能性があると推定される移動体の抽出条件を設定している。これにより、接触の可能性があると推定される移動体の抽出の信頼性を高めることができる。
また、予備推定動作として、移動方向が前記移動支援デバイスに接近してくる方向である前記移動体の移動加速度に応じて、前記接触の可能性がある移動体を抽出するようになっており、前記接触の可能性があると推定される前記移動体の抽出条件としては、移動方向が変化して前記移動支援デバイスに接近してくる前記移動体を前記接触の可能性があると推定する移動加速度条件の範囲に比べて、移動方向が変化することなく前記移動支援デバイスに接近してくる前記移動体を前記接触の可能性があると推定する移動加速度条件の範囲が高く設定されているものであってもよい。
例えば交差点に進入してくる車両(移動体)のうち、右折や左折を行う(移動方向が変化する)車両は比較的加速度が低く(例えば減速しながら移動方向が変化し)、直進する(移動方向が変化しない)車両は比較的加速度が高い(例えば定速で移動、または、加速しながら移動する)ことが一般的である。本解決手段においても、この点を考慮し、接触の可能性があると推定される移動体の抽出条件(移動加速度の条件)として、移動方向が変化して移動支援デバイスに接近してくる移動体を接触の可能性があると推定する移動加速度条件の範囲に比べて、移動方向が変化することなく移動支援デバイスに接近してくる移動体を接触の可能性があると推定する移動加速度条件の範囲を高くし、実際の移動体の移動加速度の状況に照らして、接触の可能性があると推定される移動体の抽出条件を設定している。これによっても、接触の可能性があると推定される移動体の抽出の信頼性を高めることができる。
また、前記予備推定部による前記予備推定動作では、前記接触の可能性があると推定される前記移動体の抽出条件として、当該移動体が前記ユーザの移動方向前側の位置で停止していることを含んでいる。
ユーザの移動方向前側の位置に移動体が停止している場合、ユーザの移動が進むのに伴って当該ユーザが移動体に接触してしまうことになる。このため、本解決手段では、接触の可能性があると推定される移動体の抽出条件として、当該移動体がユーザの移動方向前側の位置で停止していることとし、この移動体を予備推定動作によって抽出し、接触推定動作によって、当該移動体との接触の可能性の有無を判定する。これにより、停止している移動体に対しても、接触の可能性の有無を早期に判定することができる。
また、前記接触推定部による前記接触推定動作における前記接触判定支援情報は、前記ユーザの移動方向前側に存在する固定物と前記移動体との相対距離を含んでいる。
ユーザの移動方向前側に存在する固定物(例えば横断歩道の白線)と移動体との相対距離が比較的大きい場合には、移動体はユーザの移動方向前側に達していない。この場合、当該移動体は接触の可能性が無いものとして判定することができる。これに対し、ユーザの移動方向前側に存在する固定物と移動体との相対距離が所定値以下(例えば零以下)となっている場合には、移動体はユーザの移動方向前側に達している可能性がある。この場合、当該移動体は接触の可能性があるものとして判定することができる。これにより、接触推定動作によって移動体の接触の可能性の有無を高い精度で判定することができる。
また、前記接触推定部による前記接触推定動作における前記接触判定支援情報は、前記移動体の移動速度を含んでいてもよい。
移動体の移動速度が高い場合、現時点では移動体がユーザの移動方向前側に達していなくても、比較的短時間のうちに当該移動体はユーザの移動方向前側に達する可能性があり、移動体とユーザとが接触してしまう虞がある。このことを考慮し、本解決手段では、接触判定支援情報として移動体の移動速度を含めるようにし、この移動速度を考慮して、移動体の接触の可能性の有無を高い精度で判定することを可能にしている。
また、前記接触推定部による前記接触推定動作における前記接触判定支援情報は、前記移動体と前記移動支援デバイスとの相対距離を含んでいてもよい。
移動体と移動支援デバイスとの相対距離が短い場合、現時点では移動体がユーザの移動方向前側に達していなくても、その後、当該移動体およびユーザの移動が進むことで移動体とユーザとが接触する可能性がある。このことを考慮し、本解決手段では、接触判定支援情報として移動体と移動支援デバイスとの相対距離を含めるようにし、この相対距離を考慮して、移動体の接触の可能性の有無を高い精度で判定することを可能にしている。
また、前記接触判定部による前記移動体との接触の可能性の有無の判定動作は、前記移動体が移動する道路を前記ユーザが横断中であることを条件として実行される。
移動体と移動支援デバイスとの接触は、移動支援デバイスを使用するユーザが、移動体が移動する道路の横断中に発生する。このため、移動体との接触の可能性の有無の判定動作をこの横断中に限って実行することで、無駄な判定動作(移動体が通らない領域をユーザが移動している状況での判定動作)が行われてしまうことを抑制できる。
また、前記移動支援動作を行うための通知手段を備え、該通知手段は、振動または音声によって、前記ユーザに向けて移動支援のための通知を行う構成となっている。
これにより、移動支援デバイスを使用するユーザに対して適切な通知を行うことができる。
また、前記ユーザは視覚障碍者であり、前記移動支援デバイスを、前記視覚障碍者が使用する白杖とした場合、この白杖に移動支援装置が内蔵されることになるので、利用価値の高い白杖を提供することができる。
前記の目的を達成するための本発明の解決手段としては、移動支援装置を含む移動支援システムとして構築されていてもよい。具体的には、移動支援デバイスに備えられ且つ当該移動支援デバイスを使用するユーザの移動を支援するための移動支援動作が可能な移動支援装置を含む移動支援システムを前提とする。そして、この移動支援システムは、前記移動支援装置と、移動体に搭載された指示情報受信部とを含んで構成されている。前記移動支援装置は、周辺に存在する前記移動体を認識する移動体認識部と、前記移動体認識部によって認識された前記移動体との相対位置関係を認識する相対位置認識部と、前記相対位置認識部によって認識された前記移動体との相対位置関係および当該相対位置関係の変化のうち少なくとも一方の情報を含む接触判定支援情報に基づき、前記移動体との間に距離を存した状態において、当該移動体と前記移動支援デバイスとの接触の可能性の有無を判定する接触判定部と、前記接触判定部によって前記移動体と前記移動支援デバイスとの接触の可能性があると判定された場合に、前記移動支援動作を実施するための移動支援動作指示情報を前記移動体の前記指示情報受信部に出力する情報送信部とを備えている。また、前記移動体は、前記指示情報受信部が前記移動支援動作指示情報を受信した際、前記ユーザとの接触を回避するための接触回避動作を実施する接触回避制御部を備えている。
この特定事項によれば、移動体と移動支援デバイスとの接触の可能性があると判定された場合には、情報送信部が、移動体の指示情報受信部に向けて移動支援動作指示情報を送信する。そして、この移動支援動作指示情報を受信した移動体は、接触回避制御部によって接触回避動作が実施されることになる。例えば、運転者に対する注意喚起のための音声を提供したり、移動体に制動力を発生させたりすることが挙げられる。
本発明では、認識された移動体との相対位置関係および当該相対位置関係の変化のうち少なくとも一方の情報を含む接触判定支援情報に基づき、移動体との間に距離を存した状態において、当該移動体と移動支援デバイスとの接触の可能性の有無を判定し、この接触の可能性があると判定された場合には、移動支援動作を実施するための移動支援動作指示情報を出力するようにしている。このため、ユーザと移動体とが接触する可能性があることを早期に認識可能であり、接触の可能性がある場合に、それに応じた移動支援動作を早期に開始することができる。その結果、移動支援動作の開始タイミングを適切に得ることができる。
実施形態に係る移動支援装置を内蔵した白杖を示す図である。 白杖のグリップ部の内部を示す概略図である。 移動支援装置の制御系の概略構成を示すブロック図である。 カメラで撮影された画像の一例を示す図である。 車両の向きを規定する車両向き閾値を説明するための車両の平面図である。 ユーザが横断歩道を横断している状態の一例を示す図である。 車両速度検出処理における時刻t-1の状態の一例を示す図である。 車両速度検出処理における時刻tの状態の一例を示す図である。 車両速度検出処理における車両速度算出原理を説明するための図である。 予備推定動作を説明するための図である。 接触推定動作を説明するための図である。 ユーザが横断歩道に向かう歩行状態にある際に、カメラで撮影された画像の一例を示す図である。 ユーザが横断歩道に達したタイミングにおいてカメラで撮影された画像の一例を示す図である。 ユーザが横断歩道の横断状態にある際に、カメラで撮影された画像の一例を示す図である。 横断歩道の横断状態にあるユーザが横断歩道の右側に逸脱する方向に向かって歩行している際に、カメラで撮影された画像の一例を示す図である。 横断歩道の横断状態にあるユーザが横断歩道の左側に逸脱する方向に向かって歩行している際に、カメラで撮影された画像の一例を示す図である。 認識された横断歩道および信号機の画像を示す図である。 認識された横断歩道の白線のBoundary Boxにおける各部の寸法を説明するための図である。 移動支援装置による歩行支援動作の手順を示すフローチャート図である。 移動支援装置による車両接触推定による歩行支援動作の手順を示すフローチャート図である。 変形例に係る移動支援システムの制御系の概略構成を示すブロック図である。 変形例におけるユーザ位置通知動作を説明するための図6相当図である。
以下、本発明の実施の形態を図面に基づいて説明する。本実施形態では、本発明に係る移動支援装置を、視覚障碍者が使用する白杖(移動支援デバイス)に内蔵した場合について説明する。尚、以下では、視覚障碍者を単にユーザと呼ぶ場合もある。また、本発明におけるユーザとしては視覚障碍者に限定されるものではない。
-白杖の概略構成-
図1は、本実施形態に係る移動支援装置10を内蔵した白杖1を示す図である。この図1に示すように、白杖1は、シャフト部2、グリップ部3、チップ部(石突き)4を備えている。
シャフト部2は、中空の略円形断面を有するロッド状であって、アルミニウム合金やガラス繊維強化樹脂、炭素繊維強化樹脂等で形成されている。
グリップ部3は、シャフト部2の基端部(上端部)に設けられ、ゴム等の弾性体で成るカバー31が装着されて構成されている。また、本実施形態における白杖1のグリップ部3は、ユーザが把持する際の持ち易さと滑り難さを考慮し、先端側(図1における上側)が僅かに湾曲した形状となっている。尚、グリップ部3の構成としてはこれに限定されるものではない。
チップ部4は、硬質の合成樹脂などで形成された略有底筒状の部材であって、シャフト部2の先端部に外挿されて接着やねじ止めなどの手段で固定されている。尚、チップ部4は、先端側の端面が半球状となっている。
本実施形態に係る白杖1は、折り畳み不能な直杖であるが、シャフト部2の中間の一箇所または複数箇所で折り畳み可能或いは伸縮可能とされたものであってもよい。
-移動支援装置の構成-
本実施形態の特徴は、前記白杖1に内蔵された移動支援装置10にある。以下、この移動支援装置10について説明する。
図2は、白杖1のグリップ部3の内部を示す概略図である。この図2に示すように、本実施形態に係る移動支援装置10は、白杖1に内蔵されている。また、図3は、移動支援装置10の制御系の概略構成を示すブロック図である。
これらの図に示すように、移動支援装置10は、カメラ20、近距離無線通信機40、振動発生機(通知手段)50、バッテリ60、充電ソケット70、制御装置80等を備えている。
カメラ20は、グリップ部3の根元部における当該グリップ部3の前面(ユーザの進行方向に向く面)に埋め込まれ、ユーザの進行方向前側(歩行方向前方)を撮影する。このカメラ20は、例えばCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等で成る。また、カメラ20の構成や配設位置は前述したものには限定されず、例えば、シャフト部2の前面(ユーザの進行方向に向く面)に埋め込まれたものであってもよい。
このカメラ20の特徴としては、歩行するユーザの進行方向の前方の画像であって、当該ユーザが横断歩道に達した際における、当該横断歩道の白線のうちユーザに最も近い位置にある白線、および、ユーザの前方に位置する信号機(例えば歩行者用信号機)の両方を含む画像を取得可能な広角のカメラとして構成されている。つまり、ユーザが横断歩道の手前まで達した時点で、ユーザの足元付近(足元から少し前方の位置)に存在する横断歩道における最も手前側にある白線と、横断先の地点に設置された信号機との両方を撮影可能な構成となっている。このカメラ20において必要とされる視野角度(上下方向の視野角度)は、前述したようにユーザに最も近い位置にある白線(横断歩道の白線)および信号機の両方を含む画像を取得(撮影)可能なものとして適宜設定される。また、このカメラ20における左右方向の視野角度としては、ユーザの側方に位置する車両等を撮影可能なものとして設定されている。また、ユーザの斜め後方に位置する車両等を撮影可能な視野角度となっていることが好ましい。
近距離無線通信機40は、前記カメラ20と制御装置80との間で近距離無線通信を行うための無線通信装置である。例えば、周知のBluetooth(登録商標)等の通信手段によって、カメラ20と制御装置80との間で近距離無線通信を行い、カメラ20が撮影した画像の情報を制御装置80に向けて無線送信する構成となっている。
振動発生機50は、グリップ部3の根元部における前記カメラ20の上側に配設されている。この振動発生機50は、内蔵されたモータの作動に伴って振動し、その振動をグリップ部3に伝達することによって、当該グリップ部3を把持しているユーザに向けて種々の通知が行えるようになっている。この振動発生機50の振動によるユーザに向けての通知の具体例については後述する。
バッテリ60は、前記カメラ20、近距離無線通信機40、振動発生機50、制御装置80のための電力を蓄電する二次電池で構成されている。
充電ソケット70は、バッテリ60に電力を蓄える際に充電ケーブルが接続される部分である。例えば、ユーザが在宅中に家庭用電源からバッテリ60を充電する際に充電ケーブルが接続される。
制御装置80は、例えば、CPU(Central Processing Unit)等のプロセッサ、制御プログラムを記憶するROM(Read-Only Memory)、データを一時的に記憶するRAM(Random-Access Memory)、および、入出力ポート等を備えている。
そして、この制御装置80は、前記制御プログラムによって実現される機能部として、情報受信部81、横断歩道検出部82、信号機認識部83、切り替わり認識部84、移動体認識部85、相対位置認識部86、接触判定部87、情報送信部88を備えている。以下、これら各部の機能の概略について説明する。
情報受信部81は、前記カメラ20が撮影した画像の情報を、当該カメラ20から近距離無線通信機40を介して所定時間間隔をもって受信する。
横断歩道検出部82は、情報受信部81が受信した画像の情報(カメラ20によって撮影された画像の情報)の当該画像中における、横断歩道を認識したり、横断歩道における各白線の位置を検出する。
具体的には、図4(カメラ20で撮影された画像の一例を示す図)に示すように、横断歩道CWを構成する複数の白線WL1~WL7に対してBoundary Box(図4の一点鎖線を参照)を設定する。例えば周知のマッチング処理によって横断歩道CWの白線WL1~WL7を確定し、これら確定された白線WL1~WL7に対してBoundary Boxを設定する。また、予めアノテーションされた白線のデータ(ラベルが付けられた白線のデータ;深層学習によって白線を認識するための教師データ)を利用して白線WL1~WL7を確定し、これら確定された白線WL1~WL7に対してBoundary Boxを設定するようにしてもよい。
そして、横断歩道検出部82は、これらBoundary Boxのうち最も歩行者寄りのBoundary Boxの下端位置(図4におけるLNを参照)を検出する。本実施形態では、各白線WL1~WL7に対してBoundary Boxを設定し、画像上において最も下側に位置するBoundary Boxの下端位置LNを「横断歩道における歩行者寄りの端縁位置」としているが、Boundary Boxを設定することなく、画像上において確定された複数の白線WL1~WL7のうち最も下側に位置する白線WL1の下端位置を「横断歩道における歩行者寄りの端縁位置」とするものであってもよい。
尚、前記Boundary Boxは、後述するように、ユーザの停止位置の特定、信号機TLの位置の特定、ユーザが横断歩道CWを横断する際の進行方向の特定、横断歩道CWの横断完了の判断、車両の位置の特定、車両の速度や加速度の算出等に利用される。これらの詳細については後述する。
信号機認識部83は、情報受信部81が受信した画像の情報から信号機TLの状態が、赤信号(停止指示状態)および青信号(横断許可状態)の何れであるかを判断する。情報受信部81が受信した画像上における信号機TLの存在領域を推定するに当たっては、前述の如く認識された白線WL1~WL7に設定されたBoundary Boxのうち、最も遠い位置にあるBoundary Boxの画像内座標を特定すると共に、図4に示すように、前記Boundary Box(認識された白線WL1~WL7のうち最も遠い位置にある白線WL7に設定されたBoundary Box)の上辺に接する四角形(幅寸法がws、高さ寸法がhsの四角形)を規定し、これを信号機TLの領域(信号機TLの存在領域)AとしてのCrop範囲を出力する。この際、Crop範囲は正方形であってもよいし長方形であってもよい。尚、この信号機認識部83によって行われる信号機の状態の判断(色の検出)は、一般的な物体検出アルゴリズムまたはルールベースアルゴリズムが用いられる。
切り替わり認識部84は、前記信号機認識部83によって判断された信号機TLの状態が、赤信号から青信号に切り替わったことを認識する。この信号の切り替わりを認識した際、この切り替わり認識部84は、切り替わり信号を情報送信部88に送信する。この切り替わり信号は、情報送信部88から振動発生機50に送信される。振動発生機50は、この切り替わり信号を受けたことに連動して、所定のパターンで振動し、ユーザに、信号機TLが赤信号から青信号に切り替わったことに起因して横断歩道の横断を許可する通知(横断開始通知)を行うことになる。
移動体認識部85は、情報受信部81が受信した画像の情報(カメラ20によって撮影された画像の情報)の当該画像中における車両(本発明でいう、周辺に存在する移動体)の存在を認識する。
具体的に、この移動体認識部85は、カメラ20によって取得(撮影)された画像に対し、予めアノテーションされたデータに基づく学習済みモデルを用いて車両の認識動作を行う機能部である。より具体的に、移動体認識部85は、深層学習を用いて車両の認識動作を行う。つまり、事前にアノテーションされた車両のデータ(ラベルが付けられた車両のデータ;深層学習によって車両を認識するための教師データ)を利用して、カメラ20によって取得された画像中に車両が存在するか否かの判断(車両の存在の有無の判別)、および、車両の状態(車両が向いている方向等)の認識を行う。ここで、予めアノテーションされたデータの例としては、車両の正面画像、背面画像、右側面画像、左側面画像、右斜め前から見た場合の画像、右斜め後から見た場合の画像、左斜め前から見た場合の画像、左斜め後から見た場合の画像といったように、車両の鉛直軸周りの周方向に亘る各画像のデータが挙げられ、これら画像が予めアノテーションされている。尚、車両の種類としては、多種多様であるので、種々のタイプ(セダンタイプ、ワゴンタイプ、ワンボックスタイプ等)に応じた車両のデータが事前にアノテーションされていることが望ましい。
また、本実施形態では、車両の向きを規定する車両向き閾値(車両が何れの方向を向いているかを識別するために利用する車両向き閾値)として、車両の鉛直軸周りの周方向に亘って5方向の値を設定している。具体的には、図5に示すように、車両Vを正面方向から見た場合の車両向き閾値を0°(=2π)とし、図5における時計回り方向に72°の角度間隔を存した方向として、β1,β2,β3,β4それぞれを車両向き閾値として設定している。このため、カメラ20によって取得された画像中の車両Vにおいて、カメラ20に向いている面が車両向き閾値の0°~β1の範囲にある場合には、当該車両Vはカメラ20に対して正面から右前側の範囲を向けていると判断でき、カメラ20に向いている面が車両向き閾値のβ1~β2の範囲にある場合には、当該車両Vはカメラ20に対して右側面から右後側の範囲を向けていると判断でき、カメラ20に向いている面が車両向き閾値のβ2~β3の範囲にある場合には、当該車両Vはカメラ20に対して背面を向けていると判断でき、カメラ20に向いている面が車両向き閾値のβ3~β4の範囲にある場合には、当該車両Vはカメラ20に対して左側面から左後側の範囲を向けていると判断でき、カメラ20に向いている面が車両向き閾値のβ4~2πの範囲にある場合には、当該車両Vはカメラ20に対して正面から左前側の範囲を向けていると判断できることになる。
相対位置認識部86は、移動体認識部85によって認識された車両Vとの相対位置関係(移動支援装置10に対する車両Vの相対位置)を認識する。つまり、カメラ20によって取得された画像中に車両Vが存在する場合に(移動体認識部85によって車両Vの存在が認識された場合に)、その車両Vが存在している方向を認識する。
図6は、ユーザUが横断歩道CWを横断している状態の一例を示す図である。この図6では、交差点付近に4台の車両A~Dが走行または停止(停車)している状態を示している。図中における車両Aは、ユーザUから見て左斜め前方から交差点に進入してくる車両である。この場合、相対位置認識部86は、車両Aを、左斜め前方に存在する車両として認識する(画像上の左上に位置していることにより左斜め前方に存在する車両として認識する)。尚、この車両Aが交差点に進入してきた場合の進行方向としては、図中に破線の矢印で示すように直進である場合と左折である場合とが想定される(ここでは、右折および後退については考慮しないこととする)。図中における車両Bは、ユーザUから見て左斜め後方から交差点に進入してくる車両である。この場合、相対位置認識部86は、車両Bを、左斜め後方に存在する車両として認識する(画像上の左下に位置していることにより左斜め後方に存在する車両として認識する)。尚、この車両Bが交差点に進入してきた場合の進行方向としては、図中に破線の矢印で示すように直進である場合と右折である場合とが想定される(ここでは、左折および後退については考慮しないこととする)。図中における車両Cは、ユーザUから見て右方向から交差点に進入してくる車両である。この場合、相対位置認識部86は、車両Cを、右方向に存在する車両として認識する(画像上の右側に位置していることにより右方向に存在する車両として認識する)。尚、この車両Cの交差点に向けての(ユーザUに向けての)進行方向としては、直進である場合と停止である場合とが想定される。図中における車両Dは、ユーザUから見て右斜め前方で停止している車両である。この場合、相対位置認識部86は、車両Dを、右斜め前方に存在する車両として認識する(画像上で右上に位置していることにより右斜め前方に存在する車両として認識する)。
接触判定部87は、相対位置認識部86によって認識された車両A~Dとの相対位置関係および当該相対位置関係の変化の情報を含む接触判定支援情報に基づき、ユーザUと何れかの車両との接触の可能性の有無を判定する。この判定動作は、ユーザUが横断歩道CWの横断中であることを条件として実行される。これは、車両とユーザUとの接触は、白杖1を使用するユーザUの横断歩道CWの横断中に発生することを考慮したものである。つまり、車両との接触の可能性の有無の判定動作をこの横断中に限って実行することで、無駄な判定動作(車両が通らない領域(例えば歩道)をユーザUが歩行している状況での判定動作)が行われてしまうことを抑制するようにしたものである。
以下、具体的に説明する。
接触判定部87は、後述する予備推定動作を行う予備推定部87a、および、予備推定動作が行われた後に、後述する接触推定動作を行う接触推定部87bを備えている。
(予備推定動作)
予備推定部87aによって行われる予備推定動作では、前記移動体認識部85によって複数の車両A~Dが認識された場合に、各車両A~Dそれぞれとの相対位置関係および当該相対位置関係の変化の情報に基づき、複数の車両A~Dのうち接触の可能性があると推定される車両のみを抽出する。
具体的には、カメラ20から所定時間間隔をもって送信されてくる画像の情報から、各車両A~Dの走行状態を判断し、複数の車両A~Dのうち接触の可能性があると推定される車両のみを抽出する。ここでいう車両の走行状態とは、車両の向きおよび車両速度を含む指標である。車両の向きとしては、深層学習モデル(前述した学習済みモデル)を用いた推論の結果から求めることができ、前述したように、車両向き閾値で区画される何れの範囲に属しているかによって判別できる。また、車両速度は、所定時間間隔をもってカメラ20から送信されてくる画像の情報から単位時間当たりの車両の移動量を用いることで演算することができる。
ここで、車両速度の演算処理について具体的に説明する。
ユーザは白杖1を左右に振って前方の路面状態を確認しながら歩行する。つまり、白杖1を左右に振ることで、当該白杖1に内蔵されたカメラ20の撮影光軸が左右に振られることになる。このため、ユーザの歩行方向に対してカメラ20の撮影光軸の方向が大きく変化することになり、カメラ20から送信されてくる画像内に車両が存在する場合、この撮影光軸の方向が変化することにより、単位時間当たりの車両の移動量を正確に演算することが困難である。このため、本実施形態では、時刻tで撮影された画像と、1フレーム前の時刻t-1で撮影された画像とを用いて、深層学習モデルにより速度ベクトルを算出することで車両速度を求めるようにしている。
具体的に図7および図8を用いて車両速度検出処理を説明する。図7は時刻t-1で撮影された画像であり、図8は時刻tで撮影された画像である。先ず、時刻t-1で撮影された画像(図7)上において、ユーザに最も近い位置にある白線WLに対してBoundary Boxを設定すると共に、車両Vに対してもBoundary Boxを設定する。これらは、前述した場合と同様に、深層学習によって白線WLを認識するための教師データや車両Vを認識するための教師データを利用して行われる。そして、これらBoundary Boxに基準座標点PWL,PV1(図7に示すものにあっては左上角の位置)を設定し、時刻t-1で撮影された画像(図7)上において、白線WLに対して設定されたBoundary Boxの基準座標点PWLから車両Vに対して設定されたBoundary Boxの基準座標点PV1へのベクトルを設定する。これを第1速度ベクトルと呼ぶ。その後、時刻tで撮影された画像(図8)上において、同一の白線WLに対して設定されたBoundary Boxの基準座標点PWLから車両(時刻t-1から時刻tまでの間に移動した車両)Vに対して設定されたBoundary Boxの基準座標点PV2へのベクトルを設定する。これを第2速度ベクトルと呼ぶ。
そして、図9に示すように第1速度ベクトルと第2速度ベクトルとの差を車両速度(車両速度ベクトルから求まる車両速度)として演算する。これにより、白杖1が左右に振られることに起因して画像上での白線WLの位置や車両Vの位置が変動する状況であっても、車両速度を正確に算出することができる。
本実施形態では、予備推定動作において、接触の可能性があると推定する車両を抽出するための閾値として、v1,v2(v2>v1>0)を設定し、車速vの範囲として、v1>v≧0の範囲(極低速)、v2>v≧v1の範囲(低速)、v≧v2(中速)の範囲を設定している。
図10は、予備推定動作を説明するための図である。この予備推定動作では、車両の走行状態に応じたスクリーニングによって接触の可能性があると推定される車両を絞り込む。
図6を用いて説明したように、交差点付近に4台の車両A~Dが走行または停止している状態において、カメラ20から所定時間間隔をもって送信されてくる画像の情報から、前述した如く各車両A~Dの走行状態(車両の向きおよび車両速度)を認識することが可能である。
そして、図6に示すようにユーザUから見て左斜め前方から交差点に進入してくる車両Aにあっては、前述したように交差点に進入してきた場合の進行方向として直進である場合と左折である場合とが想定され、直進である場合にはユーザUと接触する可能性は無いものの、左折である場合であって、車速が低速である場合にはユーザUと接触する可能性があると推定するようにしている。
図10にあっては、「接触可能性」の欄において×印はユーザUと接触する可能性が無いことを表しており、○印はユーザUと接触する可能性があることを表している。つまり、ユーザUから見て左斜め前方から交差点に進入してきた車両Aが左折する場合、カメラ20に対する車両Aの向きθとしては、正面から右前側の面に遷移していく。この過程において、車両Aはカメラ20に向いている面が車両向き閾値の0°~β1の範囲となる(β1>θ≧0)。また、車両Aは左折時に減速することにより車速vは低速となって、その過程において、低速範囲(v2>v≧v1)となる。これらのことを条件として、車両Aの移動方向が左折である場合であって、車速vが低速である場合にはユーザUと接触する可能性があると推定するようにしている。
この推定は、具体的に、車両の向きθおよび車速vを変数とする以下の式(1)によって行うことができる。
Figure 2023122833000002
ここで、yIDは、車両がユーザと接触する可能性があるか否かの判定値(演算により求められた判定値)であり、θは前記車両向き閾値に応じて設定される車両の向きであり、vは車速(車速範囲)である。前記yIDは、本実施形態では、「1,3,6,7(yID∈{1,3,6,7})」として得られた場合にユーザと接触する可能性がある車両であると推定され、「2,4,5(yID∈{2,4,5})」として得られた場合にユーザと接触する可能性が無い車両であると推定されるようにしている。車両Aが左折する場合には、yID=1となり、ユーザと接触する可能性がある車両であると推定されることになる。
また、ユーザUから見て左斜め後方から交差点に進入してくる車両Bにあっては、前述したように交差点に進入してきた場合の進行方向として直進である場合と右折である場合とが想定され、直進である場合にはユーザUと接触する可能性は無いものの(接触可能性の欄は×印)、右折である場合であって、車速が低速である場合にはユーザUと接触する可能性があると推定するようにしている(接触可能性の欄は○印)。
つまり、ユーザUから見て左斜め後方から交差点に進入してきた車両Bが右折する場合、カメラ20に対する車両の向きθとしては、右側面から右後側の面に遷移していく。この過程において、車両Bはカメラ20に向いている面が車両向き閾値のβ2~β1の範囲となる(β2>θ>β1)。また、車両Bは右折時に減速することにより車速vは低速となって、その過程において、低速範囲(v2>v≧v1)となる。これらのことを条件として、車両Bの移動方向が右折である場合であって、車速vが低速である場合にはユーザUと接触する可能性があると推定するようにしている。
また、ユーザUから見て右方向から交差点に進入してくる車両Cにあっては、前述したように直進である場合と停止する場合とが想定され、停止する場合にはユーザUと接触する可能性は無いものの(接触可能性の欄は×印)、直進である場合であって、車速が中速である場合にはユーザUと接触する可能性があるとしている(接触可能性の欄は○印)。
つまり、ユーザUから見て右方向から交差点に進入してきた車両Cが直進してくる場合、カメラ20に対する車両の向きθとしては、正面から左前側の面の範囲となる。つまり、車両Cはカメラ20に向いている面が車両向き閾値の2π~β4の範囲となる(2π>θ>β4)。また、車両Cは低速とならないことで、中速範囲(v≧v2)となる。これらのことを条件として、車両Cの移動方向が直進である場合であって、車速vが中速である場合にはユーザUと接触する可能性があると推定するようにしている。
また、ユーザUから見て右斜め前方に停止している車両Dにあっては、歩行するユーザUと接触する可能性があるとしている(接触可能性の欄は○印)。つまり、ユーザUから見て右斜め前方に停止している車両Dにおける、カメラ20に対する向きとしては、右後側の面の範囲となる。つまり、車両Dはカメラ20に向いている面が車両向き閾値のβ2~β1の範囲となる(β2>θ>β1)。また、車両Dは停止しているため、車速範囲(v1>v≧0)となる。これらのことを条件として、車両DはユーザUと接触する可能性があると推定するようにしている。
前述したユーザUと接触する可能性があると推定される車速範囲の条件が、本発明でいう「接触の可能性があると推定される移動体の抽出条件としては、移動方向が変化して移動支援デバイスに接近してくる移動体を接触の可能性があると推定する移動速度条件の範囲に比べて、移動方向が変化することなく移動支援デバイスに接近してくる移動体を接触の可能性があると推定する移動速度条件の範囲が高く設定されている」ことに相当する。
このようにして、車両の走行状態に応じたスクリーニングによって複数の車両A~Dのうち接触の可能性があると推定される車両のみが抽出される。例えば、車両Aが右折、車両Bが直進、車両Cが停止、車両Dが発進の場合には、これら4台の車両A~Dのうち車両Aのみが、ユーザUと接触の可能性がある車両と推定され、この車両Aのみが抽出されることになる。また、例えば、車両Aが直進、車両Bが直進、車両Cが停止、車両Dが停止維持の場合には、これら4台の車両A~Dのうち車両Dのみが、ユーザと接触の可能性がある車両と推定され、この車両Dのみが抽出されることになる。
以上が予備推定動作である。
(接触推定動作)
接触推定部87bによって行われる接触推定動作では、前記予備推定動作によって抽出された車両のみに対して、当該車両との間に距離を存した状態において、その車両との接触の可能性の有無を判定する。
具体的には、ユーザの歩行方向前側に存在する固定物(本実施形態にあっては横断歩道CWの白線WL)と車両(予備推定動作によって抽出された車両)との相対距離、車両速度、車両と白杖1との相対距離といった情報(接触判定支援情報)に基づいて車両との接触の可能性の有無を判定する。
図11(接触推定動作を説明するための図)において、車両の走行位置として2箇所の位置を考える。図中の車両Vaの位置は横断歩道CWの手前(図11における左側)であり、図中の車両Vbの位置は横断歩道CW上(より具体的には車両の前輪が横断歩道CWに達する位置)である。
この図11では、画像上の水平方向の座標位置(右方向を大きな値とする座標上の位置)として、車両に対して設定されたBoundary Boxの右端の位置をXcarとし、横断歩道CWにおける最も手前側にある白線WLに対して設定されたBoundary Boxの左端の位置をX0とする。このため、「X0-Xcar」の値として、車両Vaの位置の場合には正の値となり、車両Vbの位置の場合には負の値となる。尚、車両前端の位置が、横断歩道CWにおける最も手前側にある白線WLのBoundary Boxの左端の位置に一致した場合には、「X0-Xcar」の値は零となる。
これを踏まえ、本実施形態では、接触推定動作として以下の式(2)が成立する場合(gc<0の場合)には、車両との接触の可能性があると判定し、式(2)が成立しない場合(gc≧0の場合)には、車両との接触の可能性が無いと判定するようにしている。
Figure 2023122833000003
ここで、δ1(v)は、車両速度に応じた補正項であり、δ2(wcar)は、車両と白杖1との相対距離(言い換えると、車両とユーザとの相対距離)に応じた補正項(画像上における車両の長さ(車体前後方向の長さ)wcarによって求まる相対距離による補正項)である。この場合も、車両の種類毎に長さwcarは多種多様であるので、種々の車両のデータ(長さwcarのデータ)が事前にアノテーションされていることが望ましい。
各補正項について説明する。車両速度が高い場合、現時点では車両が横断歩道に達していなくても(例えば車両Vaの位置を参照)、比較的短時間のうちに当該車両Vaは横断歩道CWに達する可能性がある。このことを考慮し、式(2)では、車両速度に応じた補正項としてδ1(v)を加算し(車両速度が高いほど負の値の絶対値が大きくなるδ1(v)を加算し)、車両速度が高いほどgcが小さい値として求められるようにしている。これにより、車両速度を考慮して判定の精度を高めている。
また、車両と白杖1との相対距離が短い場合、現時点では車両がユーザの歩行方向前側に達していなくても、その後、当該車両の移動およびユーザの歩行が進むことで車両とユーザとが接触する可能性がある。このことを考慮し、式(2)では、車両と白杖1との相対距離に応じた補正項としてδ2(wcar)を加算し(車両と白杖1との相対距離が短いほど負の値の絶対値が大きくなるδ2(wcar)を加算し)、車両と白杖1との相対距離が短いほどgcが小さい値として求められるようにしている。これにより、この相対距離を考慮して判定の精度を高めている。
以上が接触推定動作である。この接触推定動作によって、車両と白杖1(ユーザ)との接触の可能性があると判定された場合には、情報送信部88が、移動支援動作を実施するための移動支援動作指示情報を振動発生機50に出力し、該振動発生機50が、停止指示(停止通知)を示すパターンで振動することになる。
-歩行支援動作-
次に、前述の如く構成された移動支援装置10による歩行支援動作(移動支援動作)について説明する。先ず、歩行支援動作の概要について説明する。
(歩行支援動作の概要)
ここでは、ユーザの歩行中における時間をt∈[0,T]と表し、当該ユーザの状態を表す変数(状態変数)をs∈RTとする。また、時刻tのときの状態変数はst∈{-1,0,1,2}の整数で表現され、それぞれ、システム停止状態(st=-1)、歩行状態(st=0)、停止状態(st=1)、横断状態(st=2)を表すものとする。ここでいうシステム停止状態とは、システムの停止条件が成立したことにより移動支援装置10が停止した状態である。具体的には、本実施形態に係る移動支援装置10では、横断歩道検出部82による横断歩道CWの認識がされない状態が所定時間継続(システムの停止条件が成立)した場合に移動支援装置10を停止するようになっており、システム停止状態とは、このシステムの停止条件が成立したことで移動支援装置10が停止した状態である。歩行状態とは、例えば歩行者が交差点(信号機TLおよび横断歩道CWのある交差点)に向かって歩行している状態が想定される。また、停止状態とは、ユーザが横断歩道CWの手前に達し、信号待ちによって(赤信号から青信号に切り替わるのを待って)停止している状態(歩行していない状態)が想定される。また、横断状態とは、ユーザが横断歩道CWを横断している状態が想定される。
本実施形態は、時刻tでカメラ20によって撮影された画像Xt∈Rw0×h0(w0,h0はそれぞれ画像の縦と横の画像サイズを表す)が入力された際に、ユーザの歩行を支援することを目的とした出力(出力変数)y∈RTを求めるアルゴリズムを提案するものとなっている。ここで、ユーザの歩行を支援する出力としては、yt∈{1,2,3,4,5}の整数で表現され、それぞれ、停止指示(yt=1)、歩行指示(yt=2)、右逸脱警告(yt=3)、左逸脱警告(yt=4)、システム停止通知(yt=5)を表すものとする。以下の説明では停止指示を停止通知という場合もある。また、歩行指示を歩行通知または横断通知という場合もある。これらの指示(通知)および警告は、振動発生機50の振動のパターンによってユーザに対して行われる。ユーザは、予め、指示(通知)および警告と、振動発生機50の振動のパターンとの関係を把握しており、振動発生機50の振動のパターンをグリップ部3から感じ取ることで指示および警告の種類を把握することになる。
また、後述するように、ユーザの状態を表す変数sの遷移を判定する関数(以下、状態遷移関数という)f0,f1,f2と、横断歩道からの逸脱(左右方向への逸脱)を判断する状態遷移関数f3が存在しており、これら状態遷移関数f0~f3が前記ROMに記憶されている。これら状態遷移関数f0~f3の具体例については後述する。
(出力変数yおよび状態遷移関数fiの概要)
前述したユーザの歩行を支援する出力yt∈{1,2,3,4,5}について説明する。
前述したように出力ytとしては、ユーザの歩行支援を目的として、停止指示(yt=1)、歩行指示(yt=2)、右逸脱警告(yt=3)、左逸脱警告(yt=4)、システム停止通知(yt=5)の5種類の出力が存在する。
停止指示(yt=1)は、歩行するユーザが横断歩道の手前まで達した時点で当該ユーザに歩行を停止する旨の通知を行うものである。例えば、カメラ20で撮影された画像が、図12(ユーザが横断歩道CWに向かう歩行状態にある際に、カメラ20で撮影された画像の一例を示す図)に示す状態であれば、横断歩道CWまでの距離が比較的長いため、停止指示(yt=1)は行わず、ユーザは歩行状態(st=0)が継続され、カメラ20で撮影された画像が、図13(ユーザが横断歩道CWに達したタイミングにおいてカメラ20で撮影された画像の一例を示す図)に示す状態となった場合には、ユーザが横断歩道CWの手前に達したタイミングであることから、停止指示(yt=1)を出力して、当該ユーザに歩行を停止する旨の通知を行うことになる。この停止指示(yt=1)を行う条件が成立しているか否かの判定(状態遷移関数の算出結果に基づく判定)については後述する。
歩行指示(yt=2)は、信号機TLが赤信号から青信号に切り替わったことで、ユーザに歩行(横断歩道CWの横断)を指示する旨の通知を行うものである。例えば、横断歩道CWの手前でユーザが停止状態(st=1)にある状況で、カメラ20で撮影された画像に基づいて信号機TLが赤信号から青信号に切り替わった場合に、歩行指示(yt=2)を出力して、当該ユーザに横断歩道CWの横断を開始する旨の通知を行う。この歩行指示(yt=2)を行う条件が成立しているか否かの判定(状態遷移関数の算出結果に基づく判定)についても後述する。
そして、本実施形態では、この歩行指示(yt=2)を行うタイミングとして、信号機TLの状態が赤信号から青信号に切り替わったタイミングとしている。つまり、仮に、ユーザが横断歩道CWに達した時点で既に信号機TLが青信号となっていたとしても歩行指示(yt=2)は行わず、信号機TLが一旦赤信号となり、その後に青信号に切り替わったタイミングで歩行指示(yt=2)を行うようにしている。これによって、ユーザが横断歩道CWを横断するに当たって、信号機TLが青信号となっている時間を十分に確保することができるようにし、ユーザが横断歩道CWを横断している途中で信号機TLが青信号から赤信号に切り替わってしまうといった状況を招き難くしている。
右逸脱警告(yt=3)は、横断歩道CWを横断しているユーザが横断歩道CWから右側に逸脱する方向に向かって歩行している際に、当該ユーザに対して横断歩道CWから右側に逸脱する虞があることの警告を行うものである。例えば、カメラ20で撮影された画像が図14(ユーザが横断歩道CWの横断状態にある際に、カメラ20で撮影された画像の一例を示す図)に示す状態にあって、ユーザが横断歩道CWの横断状態(st=2)にある状況で、カメラ20で撮影された画像が、図15(横断歩道CWの横断状態にあるユーザが横断歩道CWの右側に逸脱する方向に向かって歩行している際に、カメラ20で撮影された画像の一例を示す図)に示す状態となった場合には、ユーザが横断歩道CWから右側に逸脱する方向に向かって歩行していることから、右逸脱警告(yt=3)を出力して、当該ユーザに警告を行うことになる。
左逸脱警告(yt=4)は、横断歩道CWを横断しているユーザが横断歩道CWから左側に逸脱する方向に向かって歩行している際に、当該ユーザに対して横断歩道CWから左側に逸脱する虞があることの警告を行うものである。例えば、カメラ20で撮影された画像が図14に示す状態にあって、ユーザが横断歩道CWの横断状態(st=2)にある状況で、カメラ20で撮影された画像が、図16(横断歩道CWの横断状態にあるユーザが横断歩道CWの左側に逸脱する方向に向かって歩行している際に、カメラ20で撮影された画像の一例を示す図)に示す状態となった場合には、ユーザが横断歩道CWから左側に逸脱する方向に向かって歩行していることから、左逸脱警告(yt=4)を出力して、当該ユーザに警告を行うことになる。
これら右逸脱警告(yt=3)および左逸脱警告(yt=4)を行う条件が成立しているか否かの判定(状態遷移関数の算出結果に基づく判定)についても後述する。
システム停止通知(yt=5)は、システムの停止条件が成立した際に、ユーザに移動支援装置10が停止したことの通知を行うものである。具体的には、横断歩道CW上に障害物在する状況で、カメラ20が取得した画像上において横断歩道CWの全体が障害物によって覆い隠されている(横断歩道CWの殆どの白線または全ての白線WL1~WL7が障害物によって覆い隠されている)状況にあっては、カメラ20が取得した画像から横断歩道CWの存在を認識することができない(横断歩道CWの存在の有無を判断することができない)。つまり、横断歩道CWが存在しないにも拘わらず停止通知(障害物が存在していることに起因して停止通知)を行ってしまう可能性があり、移動支援装置10の作動の信頼性(停止通知の信頼性)を十分に得ることができない。このため、このような状況では、横断歩道CWの認識がされない状態が所定時間継続することになるので、それを条件として、移動支援装置10を停止し、誤った停止通知が行われてしまうことを回避すると共に、移動支援装置10が停止した旨の情報を振動発生機50に送信し、該振動発生機50から歩行者に対して移動支援装置10が停止したことを知らせるようにしている。
(歩行支援で用いる特徴量)
次に、ユーザに対する歩行支援で用いる特徴量について説明する。ユーザに対して、横断歩道CWの手前での歩行の停止通知、および、その後の横断開始通知等の各種通知を適切に行うためには、横断歩道CWの位置(横断歩道CWにおいて最も手前側にある白線WL1の位置)、および、信号機TLの状態(青信号であるか赤信号であるか)をカメラ20からの情報によって正確に認識しておくことが必須である。つまり、白線WL1の位置および信号機TLの状態を反映させたモデル式を構築しておき、このモデル式に従って、現在、ユーザが置かれている状況を把握できるようにしておく必要がある。
尚、以下における特徴量および状態遷移関数の説明は、移動支援装置10の基本的な動作として、横断歩道CW上に障害物が存在しておらず、カメラ20が取得した画像上において横断歩道CWが認識されている(少なくとも最も手前に位置する白線WL1が認識されている)状態である場合について説明する。
図17および図18は、ユーザに対する歩行支援で用いる特徴量{w3,w4,w5,h3,r,b}T∈R6の概要を示している。r,bは、それぞれ信号機TLの状態(赤信号および青信号)の検出結果(0:未検出、1:検出)を表している。この信号機TLの状態の検出に際し、前述したように図4において破線で囲まれた領域A1が抽出されることで信号機TLの状態の認識が行われることになる。また、w3,w4,w5,h3は、前記横断歩道検出部82によって認識された横断歩道CWの白線WL1~WL7のうち、最も手前に位置する白線WL1に対するBoundary Boxを用いて図18に示すように定義される。つまり、w3は画像の左端からBoundary Boxの左端(白線WL1の左端に相当)までの距離であり、w4はBoundary Boxの幅寸法(白線WL1の幅寸法に相当)であり、w5は画像の右端からBoundary Boxの右端(白線WL1の右端に相当)までの距離であり、h3は画像の下端からBoundary Boxの下端(白線WL1の手前側の端縁に相当)までの距離である。
深層学習を用いて横断歩道CWおよび信号機TLを検出する関数をgとした場合、時刻tでカメラ20によって撮影された画像Xt∈Rw0×h0を用いて予測された横断歩道CWおよび信号機TLのBoundary Boxをg(Xt)と表現すると、ユーザの歩行を支援するために必要な特徴量としては、以下の式(3)として表現できる。
Figure 2023122833000004
ここで、
Figure 2023122833000005
は前記特徴量j(t)を抽出する演算子であり、前記g(Xt)に対する後処理を行うためのものであり、p1は1フレーム当たりのBoundary Boxの最大数である。
(状態遷移関数)
次に、状態遷移関数について説明する。この状態遷移関数は、前述したように、停止指示(yt=1)、歩行指示(yt=2)、右逸脱警告(yt=3)、左逸脱警告(yt=4)それぞれの通知を行う条件が成立しているか否かを判定するために用いられるものである。
時刻t+1での状態量(状態変数)st+1は、横断歩道CWの特徴量に対する時刻履歴情報J={j(0),j(1),…j(t)}と、現在の状態量(状態変数)st、および、時刻t+1で撮影された画像Xt+1を用いて以下の式(5)のように表すことができる。
Figure 2023122833000006
この式(5)における状態遷移関数fは、現在時刻の状態量に応じて以下の式(6)のように定義することができる。
Figure 2023122833000007
つまり、ユーザの歩行の推移としては、歩行(例えば横断歩道CWに向かう歩行)→停止(例えば横断歩道CWの手前での停止)→横断(例えば横断歩道CWの横断)→歩行(例えば横断歩道CWの横断完了後の歩行)を繰り返すことになるが、歩行状態(st=0)にあるユーザに対して停止指示(yt=1)を行う条件の成立の有無を判定するための状態遷移関数がf0(J,Xt+1)であり、停止状態(st=1)にあるユーザに対して横断(歩行)指示(yt=2)を行う条件の成立の有無を判定するための状態遷移関数がf1(J,Xt+1)であり、横断状態(st=2)にあるユーザに対して歩行(横断の完了)の通知を行う条件の成立の有無を判定するための状態遷移関数がf2(J,Xt+1)である。また、横断状態(st=2)にあるユーザに対して横断歩道CWからの逸脱の警告を行う条件の成立の有無を判定するための状態遷移関数が後述するf3(J,Xt+1)である。
以下、各状態量(状態変数)それぞれに応じた状態遷移関数について具体的に説明する。
(歩行状態で適用される状態遷移関数)
現在時刻の状態量が歩行状態(st=0)である場合に使用される状態遷移関数f0(j,Xt+1)は、前記式(3)の特徴量を用いて以下の式(7)~(9)とすることができる。
Figure 2023122833000008
Figure 2023122833000009
Figure 2023122833000010
ここで、HはHeaviside関数であり、δはDelta関数である。また、α1,α2は判定基準に用いられるパラメータであり、t0は利用する過去の状態を指定するパラメータである。また、I2={0,1,0,0,0,0}T、I4={0,0,0,1,0,0}Tである。
この式(7)を用いれば、α1>h3、且つ、w4>α2の条件が過去t0時間では成立しておらず、時刻tで初めて成立した場合にのみ「1」が得られ、それ以外の場合には「0」が得られることになる。つまり、α1>h3が成立したことで、ユーザの足元に、横断歩道CWにおける最も手前に位置する白線WL1(白線のBoundary Boxの下端)が位置し、w4>α2が成立したことで、その白線WL1はユーザの進行方向に直交する方向に延在する(白線のBoundary Boxの幅寸法が所定寸法を超えている)ものであることが判定された場合に「1」が得られるものとなっている。
このようにして式(7)において「1」が得られた場合には、停止指示(yt=1)を行う条件が成立したとして、歩行状態にあるユーザに停止指示(例えば横断歩道CWの手前での歩行の停止指示;停止通知)を行うことになる。
また、本実施形態では、横断歩道CWがユーザの足元にある条件を(α1>h3)だけでなく、検出された横断歩道CWの幅の制約(w4>α2)を加えていることで、ユーザの進行方向にある横断歩道CW以外の横断歩道(交差点において、ユーザの進行方向に直交する方向の横断歩道等)が、画像Xt+1に含まれる場合の誤検知を防止している。つまり、道路の交差点等において横断方向が互いに異なる複数の横断歩道が存在している場合であっても、ユーザが横断すべき横断歩道CW(白線WL1が、ユーザが横断すべき方向に対して交差する方向に延びていることで、当該白線WL1の幅寸法が比較的広く認識されている横断歩道CW)とその他の横断歩道(白線の幅寸法が比較的狭く認識されている横断歩道)とを明確に判別することができ、ユーザに向けての横断の開始通知を高い精度で正確に行うことが可能になっている。
(停止状態で適用される状態遷移関数)
前時刻の状態量が停止状態(st=1)である場合に使用される状態遷移関数f1(j,Xt+1)は、以下の式(10)~(12)とすることができる。
Figure 2023122833000011
Figure 2023122833000012
Figure 2023122833000013
ここでX’t+1は、Xt+1から画像のトリミングと拡大処理とを行って得られたものである。つまり、信号機TLの認識精度が十分に高められた画像X’t+1となっている。また、I5={0,0,0,0,1,0}T、I6={0,0,0,0,0,1}Tである。
式(10)では、過去t0時間に赤信号を検知した後で、時刻tで初めて青信号を検知した場合にのみ「1」が得られ、それ以外の場合には「0」が得られることになる。
このようにして式(10)において「1」が得られた場合には、歩行(横断)指示(yt=2)を行う条件が成立したとして、停止状態にあるユーザに横断指示(例えば横断歩道の横断指示;横断通知)を行うことになる。
また、信号機がない交差点の横断歩道では前述のロジックでの状態遷移ができない場合がある。この課題を解決するために、新たなパラメータt1>t0を導入し、時間t1の間、停止状態からの状態遷移がないと判断された場合に、歩行状態に遷移するようにしてもよい。
(横断状態で適用される状態遷移関数)
前時刻の状態量が横断状態(st=2)である場合に使用される状態遷移関数f2(j,Xt+1)は、以下の式(13)とすることができる。
Figure 2023122833000014
この式(13)では、過去t-t0から、現在時刻t+1の間に一度も信号機および足元の横断歩道CWが検出できなかった場合にのみ「1」が得られ、それ以外の場合には「0」が得られることになる。つまり、横断歩道CWを渡りきったことで信号機TLおよび足元の横断歩道CWが検出できなかった場合にのみ「1」が得られることになる。
このようにして式(13)において「1」が得られた場合には、横断完了の通知を行う条件が成立したとして、歩行状態にあるユーザに横断完了(横断歩道の横断の完了)の通知を行うことになる。
(横断歩道からの逸脱を判定する状態遷移関数)
ユーザの横断歩道CWの横断中に、横断歩道CWからの逸脱を判定する状態遷移関数f3(j,Xt+1)は、以下の式(14)~(16)とすることができる。
Figure 2023122833000015
Figure 2023122833000016
Figure 2023122833000017
ここで、α3は判定基準に用いられるパラメータである。また、I1={1,0,0,0,0,0}T、I3={0,0,1,0,0,0}Tである。
この式(14)では、検出された横断歩道CWの位置におけるフレームの中心からのズレ量が許容量以上であれば「1」が得られ、それ以外では「0」が得られることになる。つまり、w3の値が所定値よりも大きくなった場合(左逸脱の場合)や、w5の値が所定値よりも大きくなった場合(右逸脱の場合)に「1」が得られることになる。
このようにして式(14)において「1」が得られた場合には、右逸脱警告(yt=3)または左逸脱警告(yt=4)を行うことになる。
(歩行支援動作)
次に、移動支援装置10による歩行支援動作の流れについて説明する。
図19は、前述した歩行支援動作の一連の流れを示すフローチャートである。このフローチャートは、ユーザが路上(歩道上)を歩行している状況において、所定時刻tから所定時刻t+1までの間で1回のルーチンが実施されるように所定時間間隔を存して繰り返して実施される。以下の説明では各状態遷移関数における変数(J,Xt+1)の記載を省略する。
先ず、ステップST1においてユーザが歩行状態にある状況で、ステップST2において、前記横断歩道検出部82によって認識された、横断歩道CWを含む画像領域における当該横断歩道CWの白線WL1の位置(より具体的には、最も手前に位置する白線WL1のBoundary Boxの位置)に基づき、前述した停止指示(yt=1)を行う条件の成立の有無を判定するための状態遷移関数f0(前記式7)において「1」が得られたか否かを判定する。
この状態遷移関数f0において「0」が得られている場合には、停止指示(yt=1)を行う条件が成立していない、つまり、ユーザは未だ横断歩道CWの手前に達していないとしてNO判定され、ステップST1に戻る。ユーザが横断歩道CWの手前に達するまで、ステップST2ではNO判定されるため、ステップST1,ST2の動作を繰り返すことになる。
ユーザが横断歩道CWの手前に達し、状態遷移関数f0において「1」が得られた場合には、ステップST2でYES判定され、ステップST3に移る。このステップST3では、ユーザに対して停止指示(yt=1)を行う。具体的には、ユーザが持っている白杖1の振動発生機50が、停止指示(停止通知)を示すパターンで振動する。これにより、白杖1のグリップ部3を把持しているユーザは、振動発生機50の振動のパターンを感じ取ることで停止指示されたことを認識し、歩行を停止することになる。
ステップST4においてユーザが停止状態にある状況で、ステップST5において、前述した歩行指示(yt=2)を行う条件の成立の有無を判定するための状態遷移関数f1(前記式10)において「1」が得られたか否かを判定する。この状態遷移関数f1による判定動作に際しては、前述した図4で示したように、破線で囲まれた領域A1が抽出され、例えばこの領域A1が拡大処理されることで信号機TLの状態を容易に判断することが可能になる。
この状態遷移関数f1において「0」が得られている場合には、歩行指示(yt=2)を行う条件が成立していない、つまり、信号機TLは未だ青信号に切り替わっていないとしてNO判定され、ステップST4に戻る。信号機TLが青信号に切り替わるまで、ステップST5ではNO判定されるため、ステップST4,ST5の動作を繰り返すことになる。
信号機TLが青信号に切り替わり、状態遷移関数f1において「1」が得られた場合には、ステップST5でYES判定され、ステップST6に移る。この動作が、切り替わり認識部(信号機の状態が、停止指示状態から横断許可状態に切り替わったことを認識する切り替わり認識部)84の動作に相当する。
ステップST6では、ユーザに対して歩行(横断)指示(yt=2)を行う。具体的には、ユーザが持っている白杖1の振動発生機50が、歩行指示(横断開始通知)を示すパターンで振動する。これにより、白杖1のグリップ部3を把持しているユーザは歩行指示されたことを認識し、横断歩道CWの横断を開始することになる。
ステップST7においてユーザが横断歩道CWの横断状態にある状況で、ステップST8において、横断歩道CWからの逸脱の警告を行う条件の成立の有無を判定するための状態遷移関数f3(前記式14)において「1」が得られたか否かを判定する。
状態遷移関数f3において「1」が得られ、ステップST8でYES判定された場合、ステップST9において、その横断歩道CWからの逸脱の方向が右方向(右逸脱)であるか否かを判定する。そして、横断歩道CWからの逸脱の方向が右方向であり、ステップST9でYES判定された場合にはステップST10に移り、ユーザに対して右逸脱警告(yt=3)を行う。具体的には、ユーザが持っている白杖1の振動発生機50が、右逸脱警告を示すパターンで振動する。これにより、白杖1のグリップ部3を把持しているユーザは右逸脱警告されたことを認識し、歩行方向を左方向に向けて変更することになる。
一方、横断歩道CWからの逸脱の方向が左方向であり、ステップST9でNO判定された場合にはステップST11に移り、ユーザに対して左逸脱警告(yt=4)を行う。具体的には、ユーザが持っている白杖1の振動発生機50が、左逸脱警告を示すパターンで振動する。これにより、白杖1のグリップ部3を把持しているユーザは左逸脱警告されたことを認識し、歩行方向を右方向に向けて変更することになる。このようにして逸脱警告を行った後、ステップST15に移る。
横断歩道CWからの逸脱がなく、状態遷移関数f3において「0」が得られている場合には、ステップST8でNO判定され、ステップST12に移る。このステップST12では、現在、ステップST10またはステップST11における逸脱警告の発生中であるか否かを判定する。逸脱警告の発生中でなく、ステップST12でNO判定された場合には、ステップST14に移り、後述する、車両接触判定による歩行支援動作に移行する。
一方、逸脱警告の発生中であり、ステップST12でYES判定された場合には、ステップST13に移り、逸脱警告を解除してステップST14に移る。
ここで、図20に示す車両接触推定による歩行支援動作について説明する。この車両接触判定による歩行支援動作では、先ず、ステップST21において、車両認識動作が実行される。これは、前述した移動体認識部85によって行われる動作であって、情報受信部81が受信した画像の情報(カメラ20によって撮影された画像の情報)の当該画像中における車両の存在を認識(学習済みモデルを用いて車両を認識)するものである。
その後、ステップST22に移り、前記車両認識動作によって、画像中に車両の存在が認識されたか否かを判定する。車両の存在が認識されない場合には、本サブルーチンを抜けてステップST15(図19を参照)に移る。一方、車両の存在が認識された場合には、ステップST22でYES判定され、ステップST23に移って、前述した予備推定部87aによる予備推定動作が実行される。つまり、認識された車両に対し(認識された車両が1台の場合も含む)、その車両との相対位置関係および当該相対位置関係の変化の情報に基づき、接触の可能性があると推定される車両のみを抽出する。
その後、ステップST24に移り、予備推定動作によって抽出された車両があるか否かを判定する。抽出された車両がない場合には、本サブルーチンを抜けてステップST15(図19を参照)に移る。一方、抽出された車両がある場合には、ステップST24でYES判定され、ステップST25に移って、前述した接触推定部87bによる接触推定動作が実行される。つまり、前記予備推定動作によって抽出された車両のみに対して、当該車両との間に距離を存した状態において、その車両との接触の可能性の有無を判定する。
その後、ステップST26に移り、接触推定動作によって、接触の可能性がある車両が存在するか否かを判定する。接触の可能性がある車両が存在していない場合には、本サブルーチンを抜けてステップST15(図19を参照)に移る。一方、接触の可能性がある車両が存在している場合には、ステップST27に移り、歩行支援動作が実行される。この場合の歩行支援動作の例としては、前述したステップST3の場合と同様のユーザに対する停止指示(yt=1)である。具体的には、ユーザが持っている白杖1の振動発生機50が、停止指示(停止通知)を示すパターンで振動する。これにより、白杖1のグリップ部3を把持しているユーザは、振動発生機50の振動のパターンを感じ取ることで停止指示されたことを認識し、歩行を停止することになる。これにより、歩行を続けた場合に車両に接触する可能性があった場合に、歩行を停止させることで車両との接触を回避する。この歩行支援動作の実行の後、本サブルーチンを抜けてステップST15(図19を参照)に移る。
図19に戻り、ステップST15では、横断完了の通知を行う条件の成立の有無を判定するための状態遷移関数f2(前記式13)において「1」が得られたか否かを判定する。
この状態遷移関数f2において「0」が得られている場合には、横断完了の通知を行う条件が成立していない、つまり、ユーザは横断歩道CWの横断中であるとしてNO判定され、ステップST7に戻る。横断歩道CWの横断が完了するまで、ステップST15ではNO判定されるため、ステップST7~ST15の動作を繰り返すことになる。
ユーザが横断歩道CWの横断を完了し、状態遷移関数f2において「1」が得られた場合には、ステップST15でYES判定され、ステップST16に移り、ユーザに対して横断完了の通知を行う。具体的には、ユーザが持っている白杖1の振動発生機50が、横断完了を示すパターンで振動する。これにより、白杖1のグリップ部3を把持しているユーザは横断完了の通知が行われたことを認識し、通常の歩行状態に戻ることになる。
このようにして、ユーザが横断歩道CWを横断する度に前述した動作が繰り返されることになる。
-実施形態の効果-
以上説明したように、本実施形態では、接触判定部87の判定動作(予備推定部87aによって行われる予備推定動作および接触推定部87bによって行われる接触推定動作)によって、車両と白杖1(ユーザ)との接触の可能性があると判定された場合には、振動発生機50の振動による歩行支援動作が開始されることになる。このため、ユーザと車両とが接触する可能性があることを早期に認識可能であり、接触の可能性がある場合に、それに応じた歩行支援動作を早期に開始することができる。その結果、歩行支援動作の開始タイミングを適切に得ることができる。
また、本実施形態では、接触推定部87bによる接触推定動作にあっては、予備推定部87aによる予備推定動作によって抽出された車両のみに対して接触の可能性の有無を判定することになり、移動体認識部85によって認識されている車両の全てを対象として接触の可能性の有無を判定する必要がない。つまり、接触の可能性が無い車両を対象とした接触推定動作は必要ない。このため、接触推定部87bにおける演算処理の負荷を軽減することができ、車両との接触の可能性の有無を判定するまでに要する時間の短縮化を図ることができる。
また、本実施形態では、接触の可能性があると推定される車両の抽出条件(移動速度の条件)として、移動方向が変化して(右折や左折を伴って)白杖1に接近してくる車両を接触の可能性があると推定する移動速度条件の範囲に比べて、移動方向が変化することなく(直進して)白杖1に接近してくる車両を接触の可能性があると推定する移動速度条件の範囲を高くし、実際の車両速度の状況に照らして、接触の可能性があると推定される車両の抽出条件を設定している。これにより、接触の可能性があると推定される車両の抽出の信頼性を高めることができる。
また、本実施形態では、予備推定部87aによる予備推定動作では、接触の可能性があると推定される車両の抽出条件として、当該車両がユーザの歩行方向前側の位置で停止していることを含んでいる(図6における車両Dを接触の可能性があると推定される車両として抽出している)。つまり、ユーザの歩行が進むのに伴って当該ユーザが車両(停止している車両)に接触してしまう可能性があることを早期に判定することができる。
また、本実施形態では、移動支援装置10を白杖1に内蔵させていることにより、利用価値の高い白杖1を提供することができる。
-変形例-
次に変形例について説明する。本変形例は、移動支援装置10と車両Vとの間での通信によって、車内の情報提供デバイス(例えばナビゲーションシステム等)を利用して、車両の運転者にユーザの存在を把握させるようにした移動支援システムを構築したものである。ここでは、前述した実施形態との相違点について主に説明する。
図21は、本実施形態に係る移動支援システムの制御系の概略構成を示すブロック図である。
図21に示すように、本実施形態における移動支援装置10の情報送信部88は、車両Vに搭載されている無線通信装置としてのDCM(Data Communication Module;本発明でいう指示情報受信部に相当)91と通信可能となっている。
DCM91は、車両Vに搭載されたナビゲーションシステム92との間で車載ネットワークを通じて双方向通信が可能となっている。
本実施形態における制御装置80に備えられた情報送信部88は、前述した予備推定部87aによる予備推定動作および接触推定部87bによる接触推定動作によって、接触の可能性があると推定された車両が存在すると判定された場合に、当該車両を特定し(例えば車両のID情報等を特定し)、その車両VのDCM91に向けて移動支援動作指示情報を出力する。情報送信部88とDCM91との間では、多数の基地局を有する携帯電話網やインターネット網等を含む所定のネットワークを通じた双方向での通信が行われており、車両VのID情報(個体情報)や前記移動支援動作指示情報の送受信が行われている。
そして、DCM91が受信した情報はナビゲーションシステム92に送信され、このナビゲーションシステム92のスピーカから、車両前方に歩行者(ユーザ)が存在している旨の音声が運転者に向けて発せられることになる(ナビゲーションシステム92に内蔵された接触回避制御部(CPUの機能部)からの制御信号によってスピーカから音声が発せられることになる)。また、ナビゲーションシステム92の表示画面上(表示画面の地図上)にユーザの位置を表示させることも可能である。
これにより、ナビゲーションシステム92を利用してユーザの存在を通知することにより、車両の運転者にユーザの存在を気付かせることが可能になる。
例えば、図22に示すように、車両Aが右折、車両Bが直進、車両Cが停止(横断歩道CWの手前で停止)の場合には、これら3台の車両A~Cのうち車両Aのみに対して移動支援動作指示情報が出力され、当該車両Aの運転者に対し、ナビゲーションシステム92を利用してユーザUの存在を通知することになる。
尚、本変形例の構成および動作は、前述した実施形態と組み合わされてもよいし、前述した実施形態と組み合わされなくてもよい。また、本変形例では、ナビゲーションシステム92を利用して、車両の運転者にユーザの存在を気付かせるようにしていたが、白杖1にスピーカを備えさせ、該スピーカから車両に向けて音声を発することによって、車両の運転者にユーザの存在を気付かせるようにしてもよい。この場合、接触の可能性があると推定された車両に向けて音声が発せられるように指向性スピーカを採用することが好ましい。また、白杖1にLEDライトを備えさせ、該LEDライトから車両に向けて光を照射することによって、車両の運転者にユーザの存在を気付かせるようにしてもよい。この場合、接触の可能性があると推定された車両に向けて光が照射されるように、光の照射方向を可変とする駆動部を備えさせることが好ましい。
尚、車両が自動運転車両であった場合には、該車両が前記移動支援動作指示情報を受信した場合に緊急停止するようにしてもよい。
-他の実施形態-
尚、本発明は、前記実施形態に限定されるものではなく、特許請求の範囲および該範囲と均等の範囲で包含される全ての変形や応用が可能である。
例えば、前記実施形態および前記変形例では、移動支援装置10を、ユーザが使用する白杖1に内蔵した場合について説明した。本発明はこれに限らず、ユーザが高齢者である場合の杖や手押し車等に内蔵したものであってもよい。また、移動支援装置10はパーソナルモビリティに搭載されたものであってもよい。
また、前記実施形態および前記変形例では、移動体を車両(自動車)としていたが、移動体としてはオートバイや自転車等を含めるようにしてもよい。
また、前記実施形態および前記変形例では、白杖1に充電ソケット70を備えさせ、家庭用電源からバッテリ(二次電池)60を充電するようにしていた。本発明はこれに限らず、白杖1の表面に太陽光発電シートを貼り付けておき、当該太陽光発電シートで発電した電力によってバッテリ60を充電するようにしてもよい。また、二次電池に代えて一次電池を使用するようになっていてもよい。また、白杖1に振り子式発電機を内蔵し、該振り子式発電機を利用してバッテリ60を充電するようにしてもよい。
また、前記実施形態および前記変形例では、振動発生機50の振動パターンによって通知の種類を分けるようにしていた。本発明はこれに限らず、音声によって通知を行うようにしてもよい。
また、前記実施形態および前記変形例では、予備推定動作において、車両の移動速度(車両速度)に応じて、接触の可能性がある車両を抽出するようにしていたが、車両の移動加速度(車両加速度)に応じて、接触の可能性がある車両を抽出するようにしてもよいし、車両の移動速度および移動加速度の両方に応じて、接触の可能性がある車両を抽出するようにしてもよい。この場合、前述した車両速度に応じた判定の場合と同様に「接触の可能性があると推定される移動体(車両)の抽出条件としては、移動方向が変化して移動支援デバイス(白杖)に接近してくる移動体を接触の可能性があると推定する移動加速度条件の範囲に比べて、移動方向が変化することなく移動支援デバイスに接近してくる移動体を接触の可能性があると推定する移動加速度条件の範囲が高く設定される」ことになる。
本発明は、歩行する視覚障碍者に対して車両の接近の通知を行う移動支援装置に適用可能である。
1 白杖(移動支援デバイス)
10 移動支援装置
50 振動発生機
80 制御装置
85 移動体認識部
86 相対位置認識部
87 接触判定部
87a 予備推定部
87b 接触推定部
88 情報送信部
91 DCM(指示情報受信部)
U ユーザ(視覚障碍者)
V 車両(移動体)

Claims (13)

  1. 移動支援デバイスに備えられ、当該移動支援デバイスを使用するユーザの移動を支援するための移動支援動作が可能な移動支援装置であって、
    周辺に存在する移動体を認識する移動体認識部と、
    前記移動体認識部によって認識された前記移動体との相対位置関係を認識する相対位置認識部と、
    前記相対位置認識部によって認識された前記移動体との相対位置関係および当該相対位置関係の変化のうち少なくとも一方の情報を含む接触判定支援情報に基づき、前記移動体との間に距離を存した状態において、当該移動体と前記移動支援デバイスとの接触の可能性の有無を判定する接触判定部と、
    前記接触判定部によって前記移動体と前記移動支援デバイスとの接触の可能性があると判定された場合に、前記移動支援動作を実施するための移動支援動作指示情報を出力する情報送信部と、を備えていることを特徴とする移動支援装置。
  2. 請求項1記載の移動支援装置において、
    前記接触判定部は、予備推定動作を行う予備推定部、および、前記予備推定動作に後続する接触推定動作を行う接触推定部を備えており、
    前記予備推定部による前記予備推定動作では、前記移動体認識部によって複数の前記移動体が認識された場合に、前記各移動体それぞれとの相対位置関係および当該相対位置関係の変化のうち少なくとも一方の情報に基づき、前記複数の移動体のうち前記接触の可能性があると推定される前記移動体のみを抽出し、
    前記接触推定部による前記接触推定動作では、前記予備推定動作によって抽出された前記移動体のみに対して、前記接触判定支援情報に基づき、前記移動体との間に距離を存した状態において、前記接触の可能性の有無を判定することを特徴とする移動支援装置。
  3. 請求項2記載の移動支援装置において、
    前記予備推定部による前記予備推定動作では、前記接触の可能性があると推定される前記移動体の抽出条件として、当該移動体の移動方向が前記移動支援デバイスに接近してくる方向であることを含んでいることを特徴とする移動支援装置。
  4. 請求項3記載の移動支援装置において、
    前記予備推定部による前記予備推定動作では、移動方向が前記移動支援デバイスに接近してくる方向である前記移動体の移動速度に応じて、前記接触の可能性がある移動体を抽出するようになっており、
    前記接触の可能性があると推定される前記移動体の抽出条件としては、移動方向が変化して前記移動支援デバイスに接近してくる前記移動体を前記接触の可能性があると推定する移動速度条件の範囲に比べて、移動方向が変化することなく前記移動支援デバイスに接近してくる前記移動体を前記接触の可能性があると推定する移動速度条件の範囲が高く設定されていることを特徴とする移動支援装置。
  5. 請求項3または4記載の移動支援装置において、
    前記予備推定部による前記予備推定動作では、移動方向が前記移動支援デバイスに接近してくる方向である前記移動体の移動加速度に応じて、前記接触の可能性がある移動体を抽出するようになっており、
    前記接触の可能性があると推定される前記移動体の抽出条件としては、移動方向が変化して前記移動支援デバイスに接近してくる前記移動体を前記接触の可能性があると推定する移動加速度条件の範囲に比べて、移動方向が変化することなく前記移動支援デバイスに接近してくる前記移動体を前記接触の可能性があると推定する移動加速度条件の範囲が高く設定されていることを特徴とする移動支援装置。
  6. 請求項2記載の移動支援装置において、
    前記予備推定部による前記予備推定動作では、前記接触の可能性があると推定される前記移動体の抽出条件として、当該移動体が前記ユーザの移動方向前側の位置で停止していることを含んでいることを特徴とする移動支援装置。
  7. 請求項2記載の移動支援装置において、
    前記接触推定部による前記接触推定動作における前記接触判定支援情報は、前記ユーザの移動方向前側に存在する固定物と前記移動体との相対距離を含むことを特徴とする移動支援装置。
  8. 請求項7記載の移動支援装置において、
    前記接触推定部による前記接触推定動作における前記接触判定支援情報は、前記移動体の移動速度を含むことを特徴とする移動支援装置。
  9. 請求項7または8記載の移動支援装置において、
    前記接触推定部による前記接触推定動作における前記接触判定支援情報は、前記移動体と前記移動支援デバイスとの相対距離を含むことを特徴とする移動支援装置。
  10. 請求項1~9のうち何れか一つに記載の移動支援装置において、
    前記接触判定部による前記移動体との接触の可能性の有無の判定動作は、前記移動体が移動する道路を前記ユーザが横断中であることを条件として実行されることを特徴とする移動支援装置。
  11. 請求項1~10のうち何れか一つに記載の移動支援装置において、
    前記移動支援動作を行うための通知手段を備え、該通知手段は、振動または音声によって、前記ユーザに向けて移動支援のための通知を行う構成となっていることを特徴とする移動支援装置。
  12. 請求項1~11のうち何れか一つに記載の移動支援装置において、
    前記ユーザは視覚障碍者であり、前記移動支援デバイスは、前記視覚障碍者が使用する白杖であることを特徴とする移動支援装置。
  13. 移動支援デバイスに備えられ且つ当該移動支援デバイスを使用するユーザの移動を支援するための移動支援動作が可能な移動支援装置を含む移動支援システムであって、
    前記移動支援装置と、移動体に搭載された指示情報受信部とを含んで構成され、
    前記移動支援装置は、
    周辺に存在する前記移動体を認識する移動体認識部と、
    前記移動体認識部によって認識された前記移動体との相対位置関係を認識する相対位置認識部と、
    前記相対位置認識部によって認識された前記移動体との相対位置関係および当該相対位置関係の変化のうち少なくとも一方の情報を含む接触判定支援情報に基づき、前記移動体との間に距離を存した状態において、当該移動体と前記移動支援デバイスとの接触の可能性の有無を判定する接触判定部と、
    前記接触判定部によって前記移動体と前記移動支援デバイスとの接触の可能性があると判定された場合に、前記移動支援動作を実施するための移動支援動作指示情報を前記移動体の前記指示情報受信部に出力する情報送信部とを備えており、
    前記移動体は、前記指示情報受信部が前記移動支援動作指示情報を受信した際、前記ユーザとの接触を回避するための接触回避動作を実施する接触回避制御部を備えていることを特徴とする移動支援システム。
JP2022026572A 2022-02-24 2022-02-24 移動支援装置および移動支援システム Pending JP2023122833A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2022026572A JP2023122833A (ja) 2022-02-24 2022-02-24 移動支援装置および移動支援システム
US18/172,309 US20230263693A1 (en) 2022-02-24 2023-02-22 Movement support device and movement support system
CN202310152962.8A CN116637009A (zh) 2022-02-24 2023-02-22 移动辅助装置以及移动辅助系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022026572A JP2023122833A (ja) 2022-02-24 2022-02-24 移動支援装置および移動支援システム

Publications (1)

Publication Number Publication Date
JP2023122833A true JP2023122833A (ja) 2023-09-05

Family

ID=87573332

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022026572A Pending JP2023122833A (ja) 2022-02-24 2022-02-24 移動支援装置および移動支援システム

Country Status (3)

Country Link
US (1) US20230263693A1 (ja)
JP (1) JP2023122833A (ja)
CN (1) CN116637009A (ja)

Also Published As

Publication number Publication date
US20230263693A1 (en) 2023-08-24
CN116637009A (zh) 2023-08-25

Similar Documents

Publication Publication Date Title
AU2015262344B2 (en) Processing apparatus, processing system, processing program, and processing method
JP6768974B2 (ja) 車両制御装置、車両制御方法、およびプログラム
CN109388137B (zh) 驾驶辅助设备和存储介质
CN110239549B (zh) 车辆控制装置、车辆控制方法及存储介质
JP7165093B2 (ja) 車両制御システム
US9607230B2 (en) Mobile object control apparatus and target object detecting apparatus
JP7347238B2 (ja) 車両の走行制御装置
JP2021115973A (ja) 車両制御装置
JP2022048339A (ja) 情報処理装置
JP2007334500A (ja) 自律移動装置
US11475762B2 (en) Walking aid system
US11903897B2 (en) Walking support system
JP2022039469A (ja) 車両走行制御装置
JP2023122833A (ja) 移動支援装置および移動支援システム
US11908316B2 (en) Walking information provision system
CN114764972B (zh) 步行支持系统
JP2020203587A (ja) 自動運転システム
US11938083B2 (en) Walking support system
JP2021115972A (ja) 車両制御装置
CN116774692A (zh) 移动体的控制装置、移动体的控制方法、移动体、信息处理方法及存储介质
JP2024032252A (ja) 移動支援装置
WO2023187890A1 (ja) 移動体の制御装置、移動体の制御方法、移動体、情報処理方法及びプログラム
JP2022073907A (ja) 走行制御装置、走行制御方法、および走行制御プログラム
JP2023027471A (ja) 歩行支援システム
JP2022123940A (ja) 車両制御装置