JP7388297B2 - コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム - Google Patents

コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム Download PDF

Info

Publication number
JP7388297B2
JP7388297B2 JP2020101744A JP2020101744A JP7388297B2 JP 7388297 B2 JP7388297 B2 JP 7388297B2 JP 2020101744 A JP2020101744 A JP 2020101744A JP 2020101744 A JP2020101744 A JP 2020101744A JP 7388297 B2 JP7388297 B2 JP 7388297B2
Authority
JP
Japan
Prior art keywords
unit
distance
target person
user
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020101744A
Other languages
English (en)
Other versions
JP2021196759A (ja
JP2021196759A5 (ja
Inventor
ラマ・エンドリ
和夫 山本
智浩 籔内
直人 岩本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Priority to JP2020101744A priority Critical patent/JP7388297B2/ja
Priority to US17/338,039 priority patent/US11681496B2/en
Publication of JP2021196759A publication Critical patent/JP2021196759A/ja
Publication of JP2021196759A5 publication Critical patent/JP2021196759A5/ja
Application granted granted Critical
Publication of JP7388297B2 publication Critical patent/JP7388297B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61H—PHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H3/00—Appliances for aiding patients or disabled persons to walk about
    • A61H3/06—Walking aids for blind persons
    • A61H3/061—Walking aids for blind persons with electronic detecting or guiding means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016—Input arrangements with force or tactile feedback as computer generated output to the user
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172—Classification, e.g. identification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174—Facial expression recognition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20—Movements or behaviour, e.g. gesture recognition
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B21/00—Teaching, or communicating with, the blind, deaf or mute
    • G09B21/001—Teaching or communicating with blind persons
    • G09B21/003—Teaching or communicating with blind persons using tactile presentation of the information, e.g. Braille displays
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B21/00—Teaching, or communicating with, the blind, deaf or mute
    • G09B21/001—Teaching or communicating with blind persons
    • G09B21/006—Teaching or communicating with blind persons using audible presentation of the information
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B21/00—Teaching, or communicating with, the blind, deaf or mute
    • G09B21/001—Teaching or communicating with blind persons
    • G09B21/007—Teaching or communicating with blind persons using both tactile and audible presentation of the information
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61H—PHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H3/00—Appliances for aiding patients or disabled persons to walk about
    • A61H3/06—Walking aids for blind persons
    • A61H3/061—Walking aids for blind persons with electronic detecting or guiding means
    • A61H2003/063—Walking aids for blind persons with electronic detecting or guiding means with tactile perception
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61H—PHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H2201/00—Characteristics of apparatus not provided for in the preceding codes
    • A61H2201/50—Control means thereof
    • A61H2201/5023—Interfaces to the user
    • A61H2201/5048—Audio interfaces, e.g. voice or music controlled
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61H—PHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H2201/00—Characteristics of apparatus not provided for in the preceding codes
    • A61H2201/50—Control means thereof
    • A61H2201/5058—Sensors or detectors
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61H—PHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H2201/00—Characteristics of apparatus not provided for in the preceding codes
    • A61H2201/50—Control means thereof
    • A61H2201/5058—Sensors or detectors
    • A61H2201/5064—Position sensors
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61H—PHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
    • A61H2201/00—Characteristics of apparatus not provided for in the preceding codes
    • A61H2201/50—Control means thereof
    • A61H2201/5058—Sensors or detectors
    • A61H2201/5092—Optical sensor
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00—Indexing scheme relating to image or video recognition or understanding
    • G06V2201/07—Target detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Business, Economics & Management (AREA)
  • Educational Administration (AREA)
  • Educational Technology (AREA)
  • Data Mining & Analysis (AREA)
  • Psychiatry (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Social Psychology (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Physical Education & Sports Medicine (AREA)
  • Pain & Pain Management (AREA)
  • Epidemiology (AREA)
  • Rehabilitation Therapy (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Telephone Function (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本開示は、コミュニケーション支援装置、コミュニケーション支援方法、及びプログラムに関する。
特許文献１は、ウェアラブルイメージセンサによって画像を取得し、画像解析により検出された画像内の人物が誰であるかに応じてアクションを選択するウェアラブルデバイスを開示している。アクションは、人物の識別情報の報知、ナビゲーション等の動作である。
中国特許出願公開第１１００８４０８８号明細書
装置がユーザの周囲環境についての情報を得た場合、ユーザに対して与える情報が多ければ多い程、ユーザが他者と円滑にコミュニケーションを取ることができるとは限らない。特にユーザと他者との距離が近い場合、多くの情報をユーザに報知する時間又はユーザが多くの情報を理解する時間は少なく、多くの情報をユーザに伝えていたのでは円滑なコミュニケーションは期待できない。
本開示の目的は、ユーザが知人等の対象者と円滑にコミュニケーションを取ることを支援するコミュニケーション支援装置を提供することにある。
本開示の一態様に係るコミュニケーション支援装置は、
ユーザの周囲環境を撮像して撮像画像を取得する撮像部と、
前記撮像画像内で予め定められた対象者を検出する対象者検出部と、
前記撮像画像に基づいて、前記対象者と前記撮像部との距離を測定する距離測定部と、
前記撮像画像に基づいて、前記対象者の表情を特定する表情特定部と、
前記撮像画像に基づいて、前記対象者の動作を特定する動作特定部と、
音声出力部とを備え、
前記音声出力部は、
前記距離測定部によって測定された前記距離が第１閾値以下の交流距離である場合、前記対象者を識別するための識別情報を、音声により前記ユーザに報知し、
前記距離測定部によって測定された前記距離が前記第１閾値より大きい場合、前記表情特定部によって特定された表情に関する表情情報及び前記動作特定部によって特定された動作に関する動作情報のうちの少なくとも１つと、前記識別情報とを、音声により前記ユーザに報知する。
本開示に係るコミュニケーション支援装置は、ユーザが知人等の対象者と円滑なコミュニケーションを取ることを可能にする。
本実施形態に係るコミュニケーション支援装置の適用例を示す模式図である。 本実施形態に係るコミュニケーション支援装置の構成例を示すブロック図である。 本実施形態に係るコミュニケーション支援装置の動作例を示すフローチャートである。 空間距離の一例を説明するための模式図である。 図３に示した遠距離フローの詳細な流れを例示するフローチャートである。 図３に示した遠距離フローの詳細な流れを例示するフローチャートである。 図５Ｂに示した表情特定処理ステップの詳細な流れを例示するフローチャートである。 図５Ｂに示した動作特定処理ステップの詳細な流れを例示するフローチャートである。 図５Ｂに示した交流後処理ステップの詳細な流れを例示するフローチャートである。 本実施形態に係るコミュニケーション支援装置の遠距離フローを含む動作の一例を示す模式図である。 図３に示した中距離フローの詳細な流れを例示するフローチャートである。 本実施形態に係るコミュニケーション支援装置の中距離フローを含む動作の一例を示す模式図である。 図３に示した近距離フローの詳細な流れを例示するフローチャートである。 本実施形態に係るコミュニケーション支援装置の近距離フローを含む動作の一例を示す模式図である。 振動部の構成例を示す図である。 本実施形態に係るコミュニケーション支援装置の出力態様の第１変形例を示す模式図である。
以下、添付の図面を参照して本開示に係るコミュニケーション支援装置の実施の形態を説明する。なお、以下の各実施形態において、同様の構成要素については同一の符号を付している。
１．適用例
図１は、本実施形態に係るコミュニケーション支援装置１００の適用例を示す模式図である。コミュニケーション支援装置１００は、例えば視覚障がい者であるユーザ９０に対してコミュニケーション支援を行う。視覚障がい者は、知人等の対象者８０が接近しても、視覚によりその姿、顔等を知覚することが困難である。したがって、対象者８０の氏名、表情、及び動作等を認識することが困難である。そのため、ユーザ９０は、対象者８０が接近しても、対象者８０に対して挨拶をする等の動作をすることができないことがある。
そこで、コミュニケーション支援装置１００は、例えば、カメラ３により周囲を撮像し、撮像画像を解析して対象者８０を検出し、対象者８０の氏名等の識別情報、位置、距離、表情、及び動作等の情報を出力してユーザ９０に報知する。コミュニケーション支援装置１００は、ユーザ９０が動作を行っている間（例えば歩行中）及び／又は停止中（動作を行っていない間）に個人認識を実行することができる。
コミュニケーション支援装置１００は、例えば、ユーザ９０のリュックサック７０等の荷物に搭載される。あるいは、コミュニケーション支援装置１００自体がウェアラブルなものであってもよい。対象者８０の位置、及び対象者８０とユーザ９０との距離についての情報は、振動部２を用いてユーザ９０に振動により報知することが可能である。一方、対象者８０の氏名等の識別情報、表情、及び動作については、振動により報知することは困難であり、例えば、スピーカ等の音声出力部１を用いてユーザ９０に音声により報知する。
音声による情報の報知は、情報を読み上げるものであり、ユーザ９０への伝達にある程度の時間を要する。したがって、ユーザ９０と対象者８０との距離が近い場合、コミュニケーション支援装置１００が検出した情報をすべて読み上げていたのでは、読み上げている間にユーザ９０が対象者８０とすれ違ってしまう可能性がある。これでは、ユーザ９０は、対象者８０と円滑なコミュニケーションを行うことができない。
そこで、本開示に係るコミュニケーション支援装置１００は、例えば、ユーザ９０と対象者８０との距離に応じ、音声によりユーザ９０に報知する情報を調整する。例えば、コミュニケーション支援装置１００は、ユーザ９０と対象者８０との距離が大きい場合には多くの情報をユーザ９０に音声により報知する一方で、ユーザ９０と対象者８０との距離が小さい場合には、距離が大きい場合に比べて、音声により報知する情報を少なくする。例えば、コミュニケーション支援装置１００は、優先順位の低いものから順に、音声によりユーザ９０に報知することを省略する。このようにして、コミュニケーション支援装置１００は、ユーザ９０と対象者８０との距離に応じて報知する情報を省き、ユーザ９０が対象者８０と円滑なコミュニケーションを行うことを支援する。
コミュニケーション支援装置１００は、目的地までユーザ９０を誘導する等の動作を行ってユーザ９０の移動を支援するナビゲーションロボットに搭載されてもよい。このようなナビゲーションロボットは、ユーザ９０の移動支援に加えて、ユーザ９０による円滑なコミュニケーションを支援することができる。このようなナビゲーションロボットは、例えばユーザ９０が行きたい場所まで自走して先導することにより、ユーザ９０の移動を支援する自走式のロボットであってもよい。あるいは、コミュニケーション支援装置１００は、ユーザ９０がロボットである場合に適用されてもよい。
２．構成例
図２は、本実施形態に係るコミュニケーション支援装置１００の構成例を示すブロック図である。コミュニケーション支援装置１００は、音声出力部１と、振動部２と、カメラ３と、制御部４と、記憶部５と、通信インタフェース（Ｉ／Ｆ）６とを備える。
カメラ３は、ユーザ９０の周囲の環境を撮像して撮像画像を形成する撮像装置である。カメラ３は、例えば所定のフレームレートでユーザ９０の周辺を撮影し、逐次、画像データを生成する。カメラ３は、例えば、ＣＭＯＳ（Complementary MOS）、ＣＣＤ（Charge Coupled Device）等の固体撮像素子によって撮像画像を形成する。カメラ３は、例えば、ユーザ９０が装着できるウェアラブルカメラである。例えば、カメラ３は、眼鏡に搭載された眼鏡型カメラであり、ユーザ９０の目線の方向を撮像する。カメラ３は、リュックサック、スーツケース等のユーザ９０の荷物に搭載されてもよい。
制御部４は、ＣＰＵ（Central Processing Unit）、ＲＡＭ（Random Access Memory）、ＲＯＭ（Read Only Memory）等を含み、情報処理に応じてコミュニケーション支援装置１００の各構成要素の制御を行う情報処理装置である。制御部４は、構成要素として、例えば、画像取得部４１と、対象者検出部４２と、対象者追跡部４３と、位置検出部４４と、距離測定部４５と、表情特定部４６と、動作特定部４７とを含む。制御部４の各構成要素は、制御部４が必要なプログラムを実行することによって、それぞれが担当する処理を実行してもよい。このようなプログラムは、記憶部５に記憶されていてもよい。制御部４が必要なプログラムを実行する際は、記憶部５に記憶された対象となるプログラムをＲＡＭに展開する。制御部４は、ＲＡＭに展開された当該プログラムをＣＰＵにより解釈及び実行して、各構成要素を制御する。各構成要素の動作例については後述する。
記憶部５は、コンピュータその他の装置、機械等が記録されたプログラム等の情報を読み取り可能なように、当該プログラム等の情報を、電気的、磁気的、光学的、機械的又は化学的作用によって蓄積する媒体である。記憶部５は、例えば、ハードディスクドライブ、ソリッドステートドライブ等の補助記憶装置である。記憶部５は、例えば、顔データベース５１、表情データベース５２、動作データベース５３、及び制御部４が実行するプログラム等を記憶する。記憶部５は、ＲＡＭ等の主記憶装置を含んでもよい。これらのデータが記憶部５に格納されることは一例に過ぎず、これらのデータは、例えば外部サーバに格納されてもよい。
通信インタフェース６は、コミュニケーション支援装置１００と外部機器との通信接続を可能とするためのインタフェース回路を含む。通信インタフェース６は、例えば、ＩＥＥＥ８０２．３、ＩＥＥＥ８０２．１１又はＷｉ－Ｆｉ（登録商標）、ＬＴＥ、３Ｇ、４Ｇ、５Ｇ等の規格に従って通信を行う。通信インタフェース６は、ＵＳＢ(Universal Serial Bus)、ＨＤＭＩ（登録商標）、ＩＥＥＥ１３９４、Ｂｌｕｅｔｏｏｔｈ（登録商標）等の規格に従って通信を行うインタフェース回路であってもよい。
音声出力部１は、例えば制御部４による制御に従って音声を出力する出力装置である。音声出力部１は、例えば、スピーカ、イヤホン、及びヘッドホン等のオーディオ機器を含む。振動部２は、例えば制御部４による制御に従って振動を発生させるバイブレータである。
本実施形態では、制御部４の各機能がＣＰＵによって実現される例について説明する。しかしながら、以上の機能の一部又は全部は、１又は複数の専用のプロセッサにより実現されてもよい。また、制御部４の構成要素に関して、実施形態に応じて、適宜、機能の省略、置換及び追加が行われてもよい。制御部４は、ＣＰＵ、ＭＰＵ、ＧＰＵ、マイコン、ＤＳＰ、ＦＰＧＡ、ＡＳＩＣ等の種々の半導体集積回路で構成されてもよい。
３．動作例
３－１．全体フロー
本実施形態に係るコミュニケーション支援装置１００は、知人等の対象者の氏名、位置、及び距離等をユーザ９０に報知することにより、ユーザ９０が当該対象者と円滑なコミュニケーションを取ることを支援する。例えば、コミュニケーション支援装置１００は、視覚障がい者であるユーザ９０が知人等の対象者と円滑なコミュニケーションを取ることを支援する。以下、コミュニケーション支援装置１００の動作例について、図３を参照して説明する。
図３は、コミュニケーション支援装置１００の動作例を示すフローチャートである。図３に示した処理は、例えば制御部４によって繰り返し実行される。
（ステップＳ１）
まず、画像取得部４１は、カメラ３によって撮像された撮像画像を取得する（Ｓ１）。例えば、カメラ３は、ユーザ９０の周囲環境を時系列で撮像して複数の撮像画像データを生成する。このように、カメラ３は、一定のフレームレートで撮像を行ってもよい。カメラ３は、動画を撮影するものであってもよい。ステップＳ１においては、画像取得部４１は、複数の撮像画像を取得してもよい。画像取得部４１は、複数フレームで構成される動画を取得してもよいし、複数枚の静止画像を取得してもよい。
（ステップＳ２）
次に、対象者検出部４２は、画像取得部４１によって取得された撮像画像を解析し、人を検出する（Ｓ２）。ここで、人を検出するとは、撮像画像内において人が写っていると推定される領域を検出することを含む。ステップＳ２において人を検出しなかった場合（ステップＳ２でＮｏの場合）、制御部４は、図３に示したフローを終了する。
（ステップＳ３）
ステップＳ２において人を検出した場合（ステップＳ２でＹｅｓの場合）、対象者検出部４２は、対象者の顔に関する情報が格納された顔データベース５１に基づいて、ステップＳ２において検出された人が知人等の対象者であるか否かを検出する（Ｓ３）。ステップＳ３で実行されるのは、ステップＳ２で検出された人の顔が対象者の顔に一致又は類似するか否かの同一性識別処理である。対象者は、ユーザ９０がコミュニケーションを取りたいと望む相手方又は取り得る相手方であり、例えばユーザ９０の知人、著名人等を含む。対象者検出部４２が参照する顔に関する情報は、記憶部５に記憶された顔データベース５１に限定されない。例えば、対象者検出部４２は、通信インタフェース６を介して、ネットワークに接続された外部サーバに格納された顔のデータベースを参照してもよい。検出された人が対象者であると識別した場合（ステップＳ３でＹｅｓの場合）、ステップＳ４に進み、それ以外の場合（ステップＳ３でＮｏの場合）、制御部４は、図３に示したフローを終了する。
（ステップＳ４）
ステップＳ３において対象者を検出した場合、振動部２は、対象者を検出したことをユーザ９０に振動により報知する（Ｓ４）。具体的には、振動部２は、第１振動パターンで振動することにより、対象者を検出したことをユーザ９０に報知する。このようにして、振動部２は、ユーザ９０への注意喚起のために、対象者を検出したことをユーザ９０にフィードバックする。振動パターンの詳細については後述する。
ステップＳ４では、ステップＳ３で検出された対象者が、後述の観察距離、知覚距離、又は交流距離に進入した際に、第１振動パターンで振動することにより、フィードバックを行ってもよい。この意味で、観察距離、知覚距離、及び交流距離等の予め定められた距離を、フィードバックを行うためのフィードバック距離と呼ぶ。すなわち、振動部２は、対象者追跡部４３が対象者を追跡している場合において、距離測定部４５によって検出された対象者とカメラ３との距離が観察距離、知覚距離、又は交流距離であるときに、第１振動パターンで振動してもよい。
（ステップＳ５）
次に、距離測定部４５は、例えばステップＳ２で検出された情報に基づいて、カメラ３と対象者との空間距離を検出する（Ｓ５）。空間距離（spatial distance）は、本開示の「距離」の一例である。カメラ３は、ユーザ９０が装着するウェアラブルカメラ、ユーザ９０の荷物に搭載されるカメラ等のカメラであるため、カメラ３と対象者との空間距離は、ユーザ９０と対象者との空間距離と同程度のものといえる。
空間距離は、一般的に、２つの点の間の距離を意味し、これらの点間の経路によって異なり得る。ユーザ９０と対象者との空間距離は、例えば、観察距離、知覚距離、交流距離という３つのカテゴリに大別できる。これらの空間距離に対応して、ユーザ９０の周囲の空間は、観察スペース（Observation space）、知覚スペース（Perceptual space）、及び交流スペース（Interaction space）に大別できる。図４は、空間距離の一例を説明するための模式図である。
観察距離は、例えば、情報を取得するために、人が対象物又は対象者を注意深く観察する距離である。例えば、ユーザ９０は、他人が観察距離にいる場合、その他人を観察し、その他人が知り合いであるか否か、及び、その知り合いが誰であるかを識別することができる。観察距離は、例えば、予め定められた第２閾値より長い距離を表す。観察距離は、個人間の空間距離が例えば３．６ｍより大きい場合に相当する。
知覚距離は、例えば、感覚（例えば五感、特に視覚及び聴覚）を通して、他人の動作及び／又は感情を解釈したり、意識したりする距離である。例えばユーザ９０は、他人が知覚距離にいる場合、その他人の表情、動作等を観察し、喜び、怒り、及び悲しみ等の感情を認識することができる。また、例えばユーザ９０は、他人が知覚距離にいる場合、その他人がユーザ９０の方を見ているか否か、電話、タブレット操作等の作業をしているか、及びユーザ９０に向かって手を振っているか否か等の動作を認識することができる。知覚距離は、例えば、予め定められた第１閾値より長くかつ第２閾値以下である距離を表す。知覚距離は、個人間の空間距離が例えば１．２ｍより大きく３．６ｍ以下である場合に相当する。
交流距離は、例えば、通常、会話等の他人との相互作用が行われる距離である。交流距離は、例えば、第１閾値以下の距離を表す。交流距離は、個人間の空間距離が例えば１．２ｍ以下である場合に相当する。
ここでは、観察距離、知覚距離、交流距離という３つのカテゴリに区別可能な空間距離について例示した。しかしながら、空間距離の概念はこれらに限定されない。例えば、空間距離は、プロクセミス（Proxemics、Hall, E. T., The hidden dimension, New York: Doubleday, 1966）に基づいて、例えば公共スペース、社会スペース、パーソナルスペース等に大別されてもよい。また、空間距離は、人物間の親密度、人物が属する文化、人物の性別等によって異なり得る。
（ステップＳ６～Ｓ１１）
図３に戻り、制御部４は、ステップＳ５の測定の結果、カメラ３と対象者との空間距離が観察距離である場合（ステップＳ６でＹｅｓの場合）、ステップＳ７に進んで遠距離フローを実行する。知覚スペースである場合（ステップＳ８でＹｅｓの場合）、ステップＳ９に進んで中距離フローを実行する。交流スペースである場合（ステップＳ１０でＹｅｓの場合）、ステップＳ１１に進んで近距離フローを実行する。このように、コミュニケーション支援装置１００は、ステップＳ３で対象者を発見した時点におけるカメラ３と対象者との空間距離に応じて、異なる処理を実行する。
３－２．遠距離フロー
３－２－１．全体の流れ
図５Ａ及び図５Ｂは、図３に示した遠距離フロー（Ｓ７）の詳細な流れを例示するフローチャートである。図５Ａ及び図５Ｂは、結合子Ａ及び結合子Ｂによって結合されている。図５Ａ及び図５Ｂに示したフローは、リアルタイムに、すなわち画像取得部４１が画像を取得する度に実行されてもよい。あるいは、図５Ａ及び図５Ｂに示したフローは、画像取得部４１によって数秒間～数十秒間に取得された複数フレームの撮像画像に対して実行されてもよい。
（ステップＳ７０１）
まず、音声出力部１は、ステップＳ３で検出された対象者の氏名を音声によりユーザ９０に報知する（Ｓ７０１）。これにより、ユーザ９０は、自分の近くにいる対象者の氏名を知ることができ、誰が自分の近くにいるかを識別することができる。対象者の氏名は、本開示における、対象者を識別するための識別情報の一例である。
（ステップＳ７０２）
次に、振動部２は、対象者との空間距離及び対象者の位置を、ユーザ９０に振動により報知する（Ｓ７０２）。具体的には、振動部２は、第２振動パターンで振動することにより、対象者が観察距離にいることと、対象者の位置とを、ユーザ９０に報知する。振動パターンの詳細については後述する。空間距離は、図３のステップＳ５において距離測定部４５によって測定されたものである。対象者の位置は、例えば位置検出部４４によって検出される。対象者の位置は、例えばカメラ３の光軸を基準として、対象者が右方、正面方向、左方のいずれの方向にいるかによって特定される。さらに、対象者の位置は、例えばカメラ３の光軸を基準として、対象者が上方、下方のいずれの方向にいるかによって特定されてもよい。言い換えれば、対象者の位置は、ユーザ９０から見て対象者が上下左右及び正面のどの方向にいるかを特定する指標を表してもよい。
（ステップＳ７０３）
次に、対象者追跡部４３は、図３のステップＳ３で検出された対象者を追跡する（Ｓ７０３）。具体的には、対象者追跡部４３は、参照フレームにおいて検出又は追跡された対象者の画像内の位置に基づいて、参照フレームより後に撮像された現フレームにおいて対象者を追跡する。対象者の追跡は、例えば、参照フレーム内の対象者をテンプレートとして記憶部５に保存し、当該テンプレートを用いて、例えば公知のテンプレートマッチングなどの手法を適用し、現フレームの中を探索することで実現することができる。
例えば、対象者追跡部４３は、参照フレームにおいて検出又は追跡された対象者と、現フレームにおいて追跡された対象者と、が同一の対象者であることの確からしさを示すマッチングスコアを算出する。マッチングスコアは、例えば０～１の範囲内の値であり、値が大きいほど参照フレームにおいて検出された対象者と、現フレームにおいて検出された対象者と、が同一の対象者である可能性が高いことを意味する。対象者追跡部４３は、マッチングスコアが所定の閾値以上である場合、参照フレームにおいて検出された対象者と、現フレームにおいて検出された対象者と、が同一の対象者であると決定し、当該対象者の追跡が成功したものとする。
（ステップＳ７０４）
対象者追跡部４３は、追跡過程において、検出又は追跡されていた対象者が撮像画像内に映っているか否かを判断する（Ｓ７０４）。例えば、対象者追跡部４３は、対象者が現フレームに映っているか否かを判断する。対象者が撮像画像内に映っていると判断した場合（ステップＳ７０４でＹｅｓの場合）、ステップＳ７０５に進み、映っていないと判断した場合（ステップＳ７０４でＮｏの場合）、ステップＳ７２０に進む。
（ステップＳ７０５）
距離測定部４５は、対象者が知覚距離まで近付いたか否かを判断する（Ｓ７０５）。具体的には、距離測定部４５は、図３のステップＳ５で用いたフレームでは観察距離にいた対象者が、後の時刻に撮像されたフレームにおいて知覚距離にいるか否かを判断する。例えば、距離測定部４５は、カメラ３と対象者との距離が３．６ｍとなった場合、対象者が知覚距離まで近付いたと判断する。対象者が知覚距離まで近付いた場合（ステップＳ７０５でＹｅｓの場合）、図５ＢのステップＳ７０６に進み、対象者が知覚距離まで近付いていない場合（ステップＳ７０５でＮｏの場合）、ステップＳ７０３に戻る。対象者が知覚距離まで近付いていない場合、制御部４は、図５Ａ及び図３の処理を終了してもよい。
（ステップＳ７０６）
図５Ｂに示したステップＳ７０６では、表情特定部４６は、撮像画像に基づいて、対象者の表情を特定する（Ｓ７０６）。表情特定処理ステップＳ７０６の詳細については後述する。
（ステップＳ７０７）
次に、音声出力部１は、ステップＳ７０６で表情特定部４６によって特定された表情に関する表情情報を、音声によりユーザ９０に報知する（Ｓ７０７）。ここで、表情情報は、人の表情そのものを表す情報だけでなく、人が顔にマスク、眼帯、眼鏡、及びサングラス等の装着物又は遮蔽物を装着しているか否かを表す情報をも含んでもよい。例えば、音声出力部１は、「笑顔である」、「怒っている」、「表情が不明である」、「マスクを装着している」等の表情情報をユーザ９０に報知する。これにより、ユーザ９０は、自分の近くにいる対象者の表情を知ることができ、表情に応じた円滑なコミュニケーションを図ることができる。
（ステップＳ７０８）
次に、振動部２は、対象者との空間距離及び対象者の位置を、ユーザ９０に振動により報知する（Ｓ７０８）。具体的には、振動部２は、第３振動パターンで振動することにより、対象者が知覚距離にいることと、対象者の位置とを、ユーザ９０に報知する。振動パターンの詳細については後述する。
（ステップＳ７０９）
次に、動作特定部４７は、撮像画像に基づいて、対象者の動作を特定する（Ｓ７０９）。動作特定処理ステップＳ７０９の詳細については後述する。
（ステップＳ７１０）
次に、音声出力部１は、ステップＳ７０９で動作特定部４７によって特定された動作に関する動作情報を、音声によりユーザ９０に報知する（Ｓ７１０）。例えば、音声出力部１は、「対象者がこちらを見ている」、「対象者が手を振っている」、「対象者が電話をしている」、「対象者が咳をしている」、「対象者の動作が不明である」等の動作情報をユーザ９０に報知する。これにより、ユーザ９０は、対象者の動作を知ることができ、動作に応じた円滑なコミュニケーションを図ることができる。
（ステップＳ７１１）
次に、距離測定部４５は、対象者が交流距離まで近付いたか否かを判断する（Ｓ７１１）。具体的には、距離測定部４５は、図５ＡのステップＳ７０５で用いたフレームでは知覚距離にいた対象者が、後の時刻に撮像されたフレームにおいて交流距離にいるか否かを判断する。例えば、距離測定部４５は、カメラ３と対象者との距離が１．２ｍとなった場合、対象者が交流距離まで近付いたと判断する。対象者が交流距離まで近付いた場合（ステップＳ７１１でＹｅｓの場合）、ステップＳ７１２に進み、対象者が交流距離まで近付いていない場合（ステップＳ７１１でＮｏの場合）、ステップＳ７０９に戻る。長時間経過しても対象者が交流距離まで近付かない場合、制御部４は、図５Ｂ及び図３の処理を終了してもよい。
（ステップＳ７１２）
次に、振動部２は、対象者との空間距離及び対象者の位置を、ユーザ９０に振動により報知する（Ｓ７１２）。具体的には、振動部２は、第４振動パターンで振動することにより、対象者が交流距離にいることと、対象者の位置とを、ユーザ９０に報知する。振動パターンの詳細については後述する。これにより、ユーザ９０は、対象者が交流距離にいることを知ることができ、対象者とコミュニケーションを開始することができる。
（ステップＳ７１３）
ステップＳ７１２の次に、例えばユーザ９０が対象者とのコミュニケーションを終えた後に、制御部４は、交流後処理を実行する（Ｓ７１３）。例えば、制御部４は、振動部２を制御して、対象者がユーザ９０から離れたことを振動により報知する。これにより、ユーザ９０は、対象者が去ったことを知ることができ、対象者とのコミュニケーションの前に行っていた、目的地への移動等の行動を再開することができる。
（ステップＳ７２０）
図５Ａに戻り、ステップＳ７０４において対象者が撮像画像内に映っていないと判断した場合、制御部４は、対象者が撮像画像内に映っていない期間が予め定められた期間より長いか否かを判断する。予め定められた期間は、例えば１秒～数分、例えば４秒である。期間の代わりに、フレーム数が予め定められてもよい。例えば、制御部４は、対象者が、連続した予め定められた数のフレーム画像内に映っているか否かを判断してもよい。対象者が撮像画像内に映っていない期間が予め定められた期間より長い場合（ステップＳ７２０でＹｅｓの場合）、ステップＳ７２１に進み、予め定められた期間以下である場合（ステップＳ７２０でＮｏの場合）、ステップＳ７０３に戻る。
（ステップＳ７２１）
対象者が撮像画像内に映っていない期間が予め定められた期間より長い場合（ステップＳ７２０でＹｅｓの場合）、振動部２は、対象者を追跡できなくなった旨を、ユーザ９０に振動により報知する（Ｓ７２１）。具体的には、振動部２は、第５振動パターンで振動することにより、対象者を追跡できなくなった旨をユーザ９０に報知する。振動パターンの詳細については後述する。これにより、ユーザ９０は、対象者を追跡できなくなった旨、又は対象者がユーザ９０の周辺から去ったことを知ることができる。ステップＳ７２１の後には、制御部４、音声出力部１、振動部２等の構成要素は、ユーザ９０に対し、対象者の検出前に行っていた通常動作である目的地へのナビゲーション動作等を再開してもよい。
３－２－２．表情特定処理
図６は、図５Ｂに示した表情特定処理ステップＳ７０６の詳細な流れを例示するフローチャートである。
（ステップＳ７０６１）
まず、表情特定部４６は、撮像画像を解析し、対象者の顔を検出する（Ｓ７０６１）。ここで、顔を検出するとは、撮像画像内において人の顔が写っていると推定される領域を検出することを含む。
（ステップＳ７０６２）
対象者の顔を検出した場合（ステップＳ７０６２でＹｅｓの場合）、ステップＳ７０６３に進む。対象者の顔を検出しなかった場合（ステップＳ７０６２でＮｏの場合）、ステップＳ７０６７に進む。
（ステップＳ７０６３）
対象者の顔を検出した場合（ステップＳ７０６２でＹｅｓの場合）、表情特定部４６は、対象者がマスク、眼帯、眼鏡、サングラス等の遮蔽物を装着しているか否かを検出する（Ｓ７０６３）。対象者が遮蔽物を装着しているために顔を検出できなかった場合があるため、本実施形態では遮蔽物検出処理が採用される。対象者が遮蔽物を装着しているか否かを検出する手法には、例えば、特開２０１８－１５１９１９号公報に開示されている技術が適用される。
ステップＳ７０６３において対象者が遮蔽物を装着していることを検出した場合（ステップＳ７０６４でＹｅｓの場合）、表情特定部４６は、対象者の表情に関する表情情報につき、遮蔽物を装着した顔であると特定する（Ｓ７０６８）。表情特定部４６は、遮蔽物が何であるかを特定してもよい。例えば、ステップＳ７０６８において、表情特定部４６は、対象者の表情に関する表情情報につき、マスクを装着した顔であると特定してもよい。
ステップＳ７０６３において対象者が遮蔽物を装着していることを検出しなかった場合（ステップＳ７０６４でＮｏの場合）、表情特定部４６は、対象者の顔の表情を識別する（Ｓ７０６５）。例えば、表情特定部４６は、人の表情に関する情報が格納された表情データベース５２と、撮像画像内の対象者の顔とを比較し、対象者の表情を識別する。
表情の識別には、公知の手法が用いられてもよい。例えば、表情特定部４６は、対象者の顔の中で、顔の器官（以下、「顔器官」という。）を検出する。顔器官は、組織の集まりであって、特定の機能を有するものを含む。例えば、顔器官は、目、鼻、口、及び耳を含む。顔器官は、皮膚を含んでもよい。顔全体が顔器官に含まれてもよい。表情特定部４６は、検出された顔器官の情報に基づいて、表情を識別する。例えば、表情特定部４６は、顔器官の情報から、眼、眉、口等の顔の特徴点間の距離、または顔表面のエッジを、表情を表す情報として検出する。
例えば、表情特定部４６は、顔器官の位置情報に基づき顔器官の相対位置や形状に関わる特徴量を抽出する。特徴量は、例えば、Ｈａａｒ－ｌｉｋｅ特徴量、特徴点間距離、フーリエ記述子を含む。次に、抽出された特徴量が、表情を判別する表情判別器に入力され、表情のスコア（表情成分値）が出力されてもよい。表情のスコアは、例えば、笑顔の度合いを示す笑度、幸福の度合いを示す幸福度等を含む。表情判別器は、例えば、ニューラルネットワーク、自己組織化マップ等の機械学習により多数の顔のサンプル画像を学習して構築される。
表情の識別とは、顔表情の種類を判別すること、すなわち認識の対象である顔の表情の種類を感情を示す語によって識別することを含む。ここで、顔表情の識別は、単一の感情を示す語による識別でもよいし、感情を示す語の組み合わせによる識別でもよい。感情を示す語を組み合わせる場合、各感情を示す語が重み付けされていてもよい。例えば、表情は、ポール・エックマン（Paul Ekman）の表情分析をもとに、顔表情を「真顔」、「喜び」、「怒り」、「嫌悪」、「驚き」、「怖れ」、及び「悲しみ」の７種類に分類される。表情の識別結果としては、７種類の表情それぞれの度合い（表情らしさ、表情度とも呼ぶ）を合計が１となるように数値化されたスコアが出力される。各表情のスコアは表情成分値とも呼ばれる。
上記の表情判別器は、１つでなくてもよく、上記の７種類の表情をそれぞれ担当する７つの判別器で構成されてもよい。
表情を推定する手法には、特開２０１９－１１１０９２号公報、特開２０１６－１４９０６３号公報、特開２０１４－２０６９０３号公報等に例示されている技術が適用されてもよい。
（ステップＳ７０６６）
表情特定部４６は、対象者の表情を、ステップＳ７０６５で識別したものに特定する（Ｓ７０６６）。例えば、表情特定部４６は、対象者の表情を、「喜び」の表情であると特定する。
（ステップＳ７０６７）
ステップＳ７０６１において対象者の顔を検出しなかった場合（ステップＳ７０６２でＮｏの場合）、表情特定部４６は、対象者の表情が「不明である」と特定する（Ｓ７０６７）。表情特定部４６は、対象者の表情が、「顔を検出しなかったため不明である」と特定してもよい。ここで、「対象者の顔を検出しなかった場合」とは、１フレームの撮像画像において対象者の顔を検出しなかった場合を含む。また、「対象者の顔を検出しなかった場合」とは、複数フレームの撮像画像に対して顔検出処理を試みたものの、いずれのフレームにおいても対象者の顔を検出しなかった場合を含んでもよい。
図６の表情特定処理ステップＳ７０６で特定された表情情報は、前述のように、図５Ｂに示したステップＳ７０７においてユーザ９０に報知される。例えば、音声出力部１は、「笑顔である」、「怒っている」、「表情が不明である」、「マスクを装着している」等の表情情報をユーザ９０に報知する。これにより、ユーザ９０は、自分の近くにいる対象者の表情を知ることができ、表情に応じた円滑なコミュニケーションを図ることができる。例えば、ユーザ９０は、対象者が怒っている旨の表情情報を報知された場合、対象者に話しかけないという選択をすることができる。
また、例えば、ユーザ９０は、感染症が流行している状況において、対象者がマスクを装着している旨の表情情報を報知されたときには、対象者から離れる等の動作を行い、対象者との社会距離を確保する動作を行うこと（ソーシャルディスタンシング、social distancing）を選択できる。あるいは、ユーザ９０は、例えば、対象者がマスクを装着している旨の表情情報を報知された場合、対象者に対して、体調について尋ねることができる。対象者が病気である場合、及び体調が優れない場合等には、ユーザ９０は、対象者との社会距離を確保する動作を行うことを選択することができる。このようにして、例えば感染症が流行している状況において、ユーザ９０は、コミュニケーション支援装置１００から報知された情報に基づいて、対象者等の他人からの感染のリスクを低減することができる。このように、状況に応じて他人との距離を調整しつつ他人とコミュニケーションを取ることも、円滑なコミュニケーションに含まれる。
３－２－３．動作特定処理
図７は、図５Ｂに示した動作特定処理ステップＳ７０９の詳細な流れを例示するフローチャートである。
（ステップＳ７０９１）
まず、動作特定部４７は、対象者がユーザ９０を見ているか否かを検出する（Ｓ７０９１）。例えば、動作特定部４７は、対象者の顔がカメラ３の方を向いているか否かを検出する。カメラ３は、ユーザ９０が装着するウェアラブルカメラ、ユーザ９０の荷物に搭載されるカメラ等のカメラであるため、対象者の顔がカメラ３の方を向いている場合、対象者がユーザ９０を見ているものと同視できる。あるいは、動作特定部４７は、対象者の虹彩又は瞳孔を検出し、検出された虹彩又は瞳孔の位置に基づいて、対象者の視線を検出してもよい。対象者の視線の方向とカメラ３の光軸方向との差が小さい場合、対象者がユーザ９０を見ているものと同視できる。対象者がユーザ９０を見ていることを検出した場合（Ｓ７０９１でＹｅｓの場合）、ステップＳ７０９４に進む。
（ステップＳ７０９２，Ｓ７０９３）
対象者がユーザ９０を見ていることを検出しなかった場合（Ｓ７０９１でＮｏの場合）、動作特定部４７は、対象者の動作を識別する（Ｓ７０９２）。例えば、動作特定部４７は、人の動作に関する情報が格納された動作データベース５３と、撮像画像内の対象者の姿勢等の動作に関する情報とを比較し、対象者の動作を識別する。対象者の動作は、例えば、対象者が電話中であること、本を読んでいること、手を振っていること、走っていること、歩いていること、咳をしていること等の動作を含む。上記の例では、ステップＳ７０９１において対象者がユーザ９０を見ているか否かを判断したが、本実施形態はこれに限定されない。例えば、対象者がユーザ９０を見ているか否かの判断は、ステップＳ７０９２における動作識別に含まれてもよい。対象者の動作を識別した場合（ステップＳ７０９３でＹｅｓの場合）、ステップＳ７０９４に進み、対象者の動作を識別しなかった場合（ステップＳ７０９３でＮｏの場合）、ステップＳ７０９５に進む。
（ステップＳ７０９４）
対象者の動作を識別した場合（ステップＳ７０９３でＹｅｓの場合）、動作特定部４７は、対象者の動作を、ステップＳ７０９２において識別したものに特定する（ステップＳ７０９４）。また、ステップＳ７０９１において対象者がユーザ９０を見ていることを検出した場合（Ｓ７０９１でＹｅｓの場合）、ステップＳ７０９４では、対象者の動作につき、ユーザ９０を見ていると特定する。特定された動作は、前述のように、図５ＢのステップＳ７１０においてユーザ９０に報知される。
（ステップＳ７０９５）
ステップＳ７０９３で対象者の動作を識別しなかった場合、動作特定部４７は、ステップＳ７０９２で用いたフレーム画像が撮像された時刻より後の時刻に撮像された他のフレーム画像において、動作識別を試みるか否かを判断する（Ｓ７０９５）。どの期間に撮像されたフレーム画像に対して動作識別を試みるかについての情報、又は、何枚のフレーム画像に対して動作識別を試みるかについての情報は、予め定められていてもよい。
（ステップＳ７０９６）
ステップＳ７０９５において、更なる動作識別を試みないと判断した場合（ステップＳ７０９５でＮｏの場合）、動作特定部４７は、対象者の動作が「不明である」と特定する（Ｓ７０９６）。特定された動作は、前述のように、図５ＢのステップＳ７１０においてユーザ９０に報知される。
（ステップＳ７０９７）
動作特定部４７は、ステップＳ７０９２で用いたフレーム画像が撮像された時刻より後の時刻に撮像された他のフレーム画像を取得する（Ｓ７０９７）。
（ステップＳ７０９８）
ステップＳ７０９８～Ｓ７１００は、図５ＡのステップＳ７０４，Ｓ７２０，Ｓ７２１とそれぞれ同様のステップである。ステップＳ７０９８では、動作特定部４７は、ステップＳ７０９７で取得されたフレーム画像内に、対象者が映っているか否かを判断する（Ｓ７０９８）。対象者がフレーム画像内に映っていると判断した場合（ステップＳ７０９８でＹｅｓの場合）、ステップＳ７０９１に戻り、映っていないと判断した場合（ステップＳ７０９８でＮｏの場合）、ステップＳ７０９９に進む。
（ステップＳ７０９９）
制御部４は、対象者が撮像画像内に映っていない期間が予め定められた期間より長いか否かを判断する（Ｓ７０９９）。対象者が撮像画像内に映っていない期間が予め定められた期間より長い場合（ステップＳ７０９９でＹｅｓの場合）、ステップＳ７１００に進み、予め定められた期間以下である場合（ステップＳ７０９９でＮｏの場合）、ステップＳ７０９１に戻る。
（ステップＳ７１００）
対象者が撮像画像内に映っていない期間が予め定められた期間より長い場合（ステップＳ７０９９でＹｅｓの場合）、振動部２は、対象者を追跡できなくなった旨を、ユーザ９０に振動により報知する（Ｓ７１００）。具体的には、振動部２は、第５振動パターンで振動することにより、対象者を追跡できなくなった旨をユーザ９０に報知する。これにより、ユーザ９０は、対象者を追跡できなくなった旨、又は対象者がユーザ９０の周辺から去ったことを知ることができる。ステップＳ７１００の報知の後、制御部４は、図３に示した一連の処理を終了する。図３のフローは、繰り返し開始されてもよい。図３のフローは、例えば、予め定められた周期ごとに開始される。
３－２－４．交流後処理
図８は、図５Ｂに示した交流後処理ステップＳ７１３の詳細な流れを例示するフローチャートである。
（ステップＳ７１３１）
まず、対象者追跡部４３は、対象者を追跡する（Ｓ７１３１）。追跡ステップＳ７１３１では、図５Ａに示した追跡ステップＳ７０３と同様の処理が実行されてもよい。
（ステップＳ７１３２）
次に、対象者追跡部４３は、追跡過程において、検出又は追跡されていた対象者が撮像画像内に映っているか否かを判断する（Ｓ７１３２）。例えば、対象者追跡部４３は、対象者が現フレームに映っているか否かを判断する。対象者が撮像画像内に映っていると判断した場合（ステップＳ７１３２でＮｏの場合）、ステップＳ７１３３に進み、映っていないと判断した場合（ステップＳ７１３２でＹｅｓの場合）、ステップＳ７１３５に進む。
（ステップＳ７１３３）
制御部４は、対象者が撮像画像内に映っていない期間が予め定められた期間より長いか否かを判断する（Ｓ７１３３）。対象者が撮像画像内に映っていない期間が予め定められた期間より長い場合（ステップＳ７１３３でＹｅｓの場合）、ステップＳ７１３４に進み、予め定められた期間以下である場合（ステップＳ７１３３でＮｏの場合）、ステップＳ７１３１に戻る。
（ステップＳ７１３４）
対象者が撮像画像内に映っていない期間が予め定められた期間より長い場合（ステップＳ７１３３でＹｅｓの場合）、振動部２は、対象者を追跡できなくなった旨を、ユーザ９０に振動により報知する（Ｓ７１３４）。具体的には、振動部２は、第５振動パターンで振動することにより、対象者を追跡できなくなった旨をユーザ９０に報知する。これにより、ユーザ９０は、対象者を追跡できなくなった旨、又は対象者がユーザ９０の周辺から去ったことを知ることができる。これにより、ユーザ９０は、目的地への移動等の動作に集中できる。ユーザ９０が自己の動作に集中できるため、ユーザ９０の安全も担保される。ステップＳ７１３４は、図５Ａに示したステップＳ７２１と同様のステップであってもよい。
（ステップＳ７１３５）
ステップＳ７１３２において、対象者が撮像画像内に映っていると判断した場合（ステップＳ７１３２でＹｅｓの場合）、距離測定部４５は、対象者が近付いて来ているか否かを検出する（Ｓ７１３５）。具体的には、距離測定部４５は、異なる時刻に撮像された２つのフレーム画像におけるカメラ３と対象者との距離を比較し、対象者が近付いて来ているか否かを検出する。
対象者が近付いて来ていることを検出した場合（ステップＳ７１３５でＹｅｓの場合）、ユーザ９０が対象者と再びコミュニケーションを取る可能性がある。そこで、制御部４は、図３に示した一連の処理を一旦終了し、再び図３の処理を開始してもよい。図３のフローは、例えば、予め定められた周期ごとに開始される。対象者が近付いて来ていることを検出しなかった場合（ステップＳ７１３５でＮｏの場合）、制御部４は、ステップＳ７１３１に戻り、追跡を続ける。
３－２－５．遠距離フローの例
図９は、検出された対象者８０との空間距離が観察距離である場合（図３のステップＳ６でＹｅｓの場合）におけるコミュニケーション支援装置１００の動作の一例を示す模式図である。コミュニケーション支援装置１００は、観察スペースにいる対象者８０を検出した場合、ユーザ９０に対する注意喚起のために、振動部２を第１パターンで振動させる。次に、音声出力部１は、対象者８０の氏名を音声によりユーザ９０に報知し（Ｓ７０１）、振動部２は、対象者８０との空間距離及び対象者８０の位置を、第２振動パターンで振動することにより報知する（Ｓ７０２）。
その後、対象者８０が知覚スペースに進入した場合、音声出力部１は、対象者８０の表情情報を、音声によりユーザ９０に報知し（Ｓ７０７）、振動部２は、対象者との空間距離及び対象者の位置を、第３振動パターンで振動することにより報知する（Ｓ７０８）。さらに、音声出力部１は、対象者８０の表情情報を、音声によりユーザ９０に報知する（Ｓ７１０）。
その後、対象者８０が交流スペースに進入した場合、振動部２は、対象者との空間距離及び対象者の位置を、第４振動パターンで振動することにより報知する（Ｓ７１２）。これにより、ユーザ９０は、対象者が交流距離にいることを知ることができ、対象者とコミュニケーションを開始することができる。ユーザ９０が対象者とのコミュニケーションを終えた後、例えば、振動部２は、対象者がユーザ９０から離れたことを第５振動パターンで振動することにより報知する（Ｓ７１３４）。その後、制御部４、音声出力部１、振動部２等の構成要素は、ユーザ９０に対し、対象者の検出前に行っていた通常動作である目的地へのナビゲーション動作等を再開してもよい。
３－３．中距離フロー
図１０は、図３に示した中距離フロー（Ｓ９）の詳細な流れを例示するフローチャートである。中距離フローにおいては、前述の遠距離フローにおいて説明したステップと同一又は同様のステップについては、同一の符号を付している。このようなステップとして、中距離フローは、ステップＳ７０１，Ｓ７０６～Ｓ７１０，Ｓ７１２，Ｓ７１３を含む。このようなステップについては、重複説明を省略する場合がある。
中距離フローでは、まず、音声出力部１は、ステップＳ３で検出された対象者の氏名を音声によりユーザ９０に報知する（Ｓ７０１）。次に、振動部２は、対象者との空間距離及び対象者の位置を、ユーザ９０に振動により報知する（Ｓ７０８）。具体的には、振動部２は、第３振動パターンで振動することにより、対象者が知覚距離にいることと、対象者の位置とを、ユーザ９０に報知する。
次に、表情特定部４６は、撮像画像に基づいて、対象者の表情を特定する（Ｓ７０６）。次に、音声出力部１は、ステップＳ７０６で表情特定部４６によって特定された表情に関する表情情報を、音声によりユーザ９０に報知する（Ｓ７０７）。表情特定処理ステップＳ７０６は、対象者の氏名を報知するステップＳ７０１の前に実行されてもよい。
次に、距離測定部４５は、対象者が交流距離まで近付いたか否かを判断する（Ｓ９４）。ステップＳ９４は、図５Ｂに示した前述のステップＳ７１１と同様のステップであってもよい。対象者が交流距離まで近付いたと判断した場合（ステップＳ９４でＹｅｓの場合）、ステップＳ７１２に進み、対象者が交流距離まで近付いていないと判断した場合（ステップＳ９４でＮｏの場合）、ステップＳ７０９に進む。
対象者が交流距離まで近付いたと判断した場合（ステップＳ９４でＹｅｓの場合）、振動部２は、対象者との空間距離及び対象者の位置を、ユーザ９０に振動により報知する（Ｓ７１２）。具体的には、振動部２は、第４振動パターンで振動することにより、対象者が交流距離にいることと、対象者の位置とを、ユーザ９０に報知する。
次に、例えばユーザ９０が対象者とのコミュニケーションを終えた後に、制御部４は、交流後処理を実行する（Ｓ７１３）。
ステップＳ９４において対象者が交流距離まで近付いていないと判断した場合（ステップＳ９４でＮｏの場合）、動作特定部４７は、撮像画像に基づいて、対象者の動作を特定する（Ｓ７０９）。次に、音声出力部１は、ステップＳ７０９で動作特定部４７によって特定された動作に関する動作情報を、音声によりユーザ９０に報知する（Ｓ７１０）。
図１１は、検出された対象者８０との空間距離が知覚距離である場合（図３のステップＳ８でＹｅｓの場合）におけるコミュニケーション支援装置１００の動作の一例を示す模式図である。図９に示した観察距離の場合の模式図と比較すると、図１１では、特に、対象者の動作を音声により報知するステップＳ７１０が省略されている。対象者が交流距離まで近付いた場合、対象者の動作を音声により報知するステップＳ７１０を実行していたのでは、例えば報知の間に相手とすれ違ってしまうことがあり、円滑なコミュニケーションを行うことができないことがある。したがって、中距離フローでは、対象者との距離に応じて、ステップＳ７１０を省略する。ただし、上記のように、中距離フローでは、制御部４は、例えば対象者が交流距離まで近付かずに知覚距離に留まっている場合に、追加的に動作特定処理ステップＳ７０９を実行する。これにより、コミュニケーション支援装置１００は、知覚距離で初めて対象者が検出された場合であっても、状況に応じて、動作情報をもユーザ９０に提供する。状況に応じて十分な情報を受け取ることにより、ユーザ９０は、対象者と円滑なコミュニケーションを取ることができる。
３－４．近距離フロー
図１２は、図３に示した近距離フロー（Ｓ１１）の詳細な流れを例示するフローチャートである。近距離フローにおいては、前述の遠距離フローにおいて説明したステップと同一又は同様のステップについては、同一の符号を付している。このようなステップとして、近距離フローは、ステップＳ７０１，Ｓ７１２，Ｓ７１３を含む。このようなステップについては、重複説明を省略する場合がある。
近距離フローでは、まず、音声出力部１は、ステップＳ３で検出された対象者の氏名を音声によりユーザ９０に報知する（Ｓ７０１）。次に、振動部２は、対象者との空間距離及び対象者の位置を、ユーザ９０に振動により報知する（Ｓ７１２）。具体的には、振動部２は、第４振動パターンで振動することにより、対象者が交流距離にいることと、対象者の位置とを、ユーザ９０に報知する。次に、例えばユーザ９０が対象者とのコミュニケーションを終えた後に、制御部４は、交流後処理を実行する（Ｓ７１３）。
図１３は、検出された対象者８０との空間距離が交流距離である場合（図３のステップＳ１０でＹｅｓの場合）におけるコミュニケーション支援装置１００の動作の一例を示す模式図である。図１１に示した知覚距離の場合の模式図と比較すると、図１３では、特に、対象者の表情を音声により報知するステップＳ７０７が更に省略されている。交流距離のような近距離で対象者を発見した場合、ユーザ９０は、即時に対象者とコミュニケーションを開始できる。このような場合に、音声又は振動により対象者の表情及び動作等の多くの情報をユーザ９０に報知する時間はなく、これらの情報をユーザ９０に報知していたのでは、円滑なコミュニケーションを行うことができないことが通常である。したがって、近距離フローでは、コミュニケーション支援装置１００は、対象者の氏名、距離、及び位置という最小限の情報のみをユーザ９０に報知することにより、ユーザ９０と対象者との円滑なコミュニケーションを図る。
４．振動パターン
４－１．振動部の構成
図１４を参照して、振動部２及び振動部２の振動パターンについて説明する。図１４は、振動部２の構成例を示す図である。振動部２は、例えば、リュックサック７０の肩ベルトに取り付けられる。振動部２は、それぞれが制御部４からの制御信号に従って振動する２つ以上の振動要素を含む。図１４の例では、振動部２は、規則的に配列された第１～第６の振動要素２１～２６を備える。第１～第３の振動要素２１～２３は左肩ベルト７１に、第４～第６の振動要素２４～２６は右肩ベルト７２に取り付けられている。第１～第３の振動要素２１～２３は、左肩ベルト７１が延びる方向に整列している。第４～第６の振動要素２４～２６は、右肩ベルト７２が延びる方向に整列している。第１～第３の振動要素２１～２３は、本開示の「左振動要素」の一例である。第４～第６の振動要素２４～２６は、右肩ベルト７２が延びる方向に整列している。第１～第３の振動要素２１～２３は、本開示の「右振動要素」の一例である。
４－２．第１振動パターン
第１振動パターンは、前述の例では、図３のステップＳ４で説明したように、対象者を検出したことをユーザ９０に報知するための振動パターンである。第１振動パターンは、ユーザ９０への注意喚起の機能を有する。
第１振動パターンでは、制御部４は、振動部２の第１～第６の振動要素２１～２６を順次振動させる。すなわち、第１振動パターンでは、制御部４は、第１の振動要素２１、第２の振動要素２２、第３の振動要素２３、第４の振動要素２４、第５の振動要素２５、第６の振動要素２６の順に振動させるよう制御を行う。ユーザ９０に背負われた状態のリュックサック７０を上方から見ると、第１振動パターンでは、第１～第６の振動要素２１～２６は反時計回りに順番に振動する。ユーザ９０は、反時計回りの振動を感じることにより、対象者が近くにいることを知ることができる。この反時計回りの振動は、１回又は複数回実行されてもよい。
４－３．第２振動パターン
第２振動パターンは、前述の例では、図５ＡのステップＳ７０２で説明したように、対象者が観察距離にいることと、対象者の位置とを、ユーザ９０に報知するための振動パターンである。
例えば、振動部２の各振動要素２１～２６は、弱、中、強の３段階の振動強度で振動可能である。第２振動パターンでは、振動部２の各振動要素２１～２６は、例えば弱振動により、対象者が観察距離にいることをユーザ９０に報知する。あるいは、制御部４は、各振動要素２１～２６による振動の周波数、波形等の振動要素を変更することによって、対象者の位置をユーザ９０に知らせてもよい。
対象者の位置については、例えば、振動部２は、対象者が左方にいる場合は、左肩ベルト７１に取り付けられた第１～第３の振動要素２１～２３のみを振動させることにより、対象者が左方にいることをユーザ９０に報知する。また、例えば、振動部２は、対象者が右方にいる場合は、右肩ベルト７２に取り付けられた第４～第６の振動要素２４～２６のみを振動させることにより、対象者が右方にいることをユーザ９０に報知する。また、例えば、振動部２は、対象者が正面方向にいる場合は、第１～第６の振動要素２１～２６のすべてを振動させる。
このようにして、振動部２は、振動の強度と振動の位置とを制御することにより、対象者との空間距離及び対象者の位置の両方をユーザ９０にほぼ同時に報知することができる。
４－４．第３振動パターン
第３振動パターンは、前述の例では、図５Ｂ及び図１０のステップＳ７０８で説明したように、対象者が知覚距離にいることと、対象者の位置とを、ユーザ９０に報知するための振動パターンである。第３振動パターンでは、振動部２の各振動要素２１～２６は、例えば中程度の強度の振動により、対象者が知覚距離にいることをユーザ９０に報知する。第３振動パターンは、前述の第２振動パターンと振動の強度が異なる以外は同様であるため、重複説明を省略する。
４－５．第４振動パターン
第４振動パターンは、前述の例では、図５Ｂ及び図１０のステップＳ７１２で説明したように、対象者が交流距離にいることと、対象者の位置とを、ユーザ９０に報知するための振動パターンである。第４振動パターンでは、振動部２の各振動要素２１～２６は、例えば強い強度の振動により、対象者が交流距離にいることをユーザ９０に報知する。第４振動パターンは、前述の第２振動パターン及び第３振動パターンと振動の強度が異なる以外は同様であるため、重複説明を省略する。
４－６．第５振動パターン
第５振動パターンは、前述の例では、図５ＡのステップＳ７２１及び図８のステップＳ７１３４で説明したように、追跡していた対象者を追跡できなくなったことをユーザ９０に報知するための振動パターンである。第５振動パターンにより、ユーザ９０は、対象者を追跡できなくなったこと、又は対象者がユーザ９０の周辺から去ったことを知ることができる。
第５振動パターンでは、制御部４は、振動部２の第１～第６の振動要素２１～２６を、第１振動パターンとは異なる順序で順次振動させる。例えば、第５振動パターンでは、制御部４は、第６の振動要素２６、第５の振動要素２５、第４の振動要素２４、第３の振動要素２３、第２の振動要素２２、第１の振動要素２１の順に振動させるよう制御を行う。ユーザ９０に背負われた状態のリュックサック７０を上方から見ると、第５振動パターンでは、第１～第６の振動要素２１～２６は時計回りに順番に振動する。ユーザ９０は、時計回りの振動を感じることにより、対象者を追跡できなくなったこと、又は対象者がユーザ９０の周辺から去ったことを知ることができる。この時計回りの振動は、１回又は複数回実行されてもよい。
また、第１～第５の振動パターンは、上記のものに限定されず、ユーザ９０が第１～第５の振動パターンを互いに区別できるものであればよい。例えば、第１～第５の振動パターンは、互いに異なる振動周期で振動するパターンであってもよい。
４－７．変形例
図１４の例では、振動部２の第１～第６の振動要素２１～２６がリュックサック７０の肩ベルト７１，７２に取り付けられた例について説明した。しかしながら、本開示はこれに限定されず、ユーザ９０が第１～第５の振動パターンを互いに区別できればよい。例えば、振動部２の第１～第６の振動要素２１～２６は、ユーザ９０のベルト、リストバンド、腕時計、帽子等に取り付けられてもよい。振動部２の第１～第６の振動要素２１～２６は、スマートウェアに組み込まれてもよい。ここで、スマートウェアは、例えば、センサ、出力デバイス等を衣類等のウェアラブル素材に備え付けたウェアラブルデバイスである。振動部２の第１～第６の振動要素２１～２６は、スマートウェアを構成するスマートテキスタイル及び材料等に組み込まれる。
５．作用・効果
以上のように、本実施形態に係るコミュニケーション支援装置１００は、カメラ３と、対象者検出部４２と、距離測定部４５と、表情特定部４６と、動作特定部４７と、音声出力部１とを備える。カメラ３は、ユーザ９０の周囲環境を撮像して撮像画像を取得する。対象者検出部４２は、撮像画像内で知人等の予め定められた対象者を検出する。距離測定部４５は、撮像画像に基づいて、対象者とカメラ３との距離を測定する。表情特定部４６は、撮像画像に基づいて、対象者の表情を特定する。動作特定部４７は、撮像画像に基づいて、対象者の動作を特定する。音声出力部１は、距離測定部４５によって測定された距離が第１閾値以下の交流距離である場合、対象者を識別するための氏名等の識別情報を、音声によりユーザ９０に報知する。音声出力部１は、距離測定部４５によって測定された距離が第１閾値より大きい場合、表情情報及び動作情報のうちの少なくとも１つと、識別情報とを、音声によりユーザ９０に報知する。ここで、表情情報は、表情特定部４６によって特定された表情に関する情報であり、動作情報は、動作特定部４７によって特定された動作に関する情報である。
この構成により、コミュニケーション支援装置１００は、対象者とカメラ３との距離が第１閾値より大きい場合には、識別情報に加えて表情情報及び動作情報のうちの少なくとも１つを報知し、できる限り多くの情報をユーザ９０に報知する。一方、対象者とカメラ３との距離が小さい場合には、コミュニケーション支援装置１００が検出した情報をすべて読み上げていたのでは、読み上げている間にユーザ９０が対象者８０とすれ違ってしまう可能性がある。これでは、ユーザ９０は、対象者８０と円滑なコミュニケーションを行うことができない。そこで、コミュニケーション支援装置１００は、対象者とカメラ３との距離が第１閾値以下である場合には、識別情報のみをユーザ９０に報知する。このように、コミュニケーション支援装置１００は、距離が小さい場合には報知する情報を省き、ユーザ９０が対象者と円滑なコミュニケーションを取ることを支援する。
カメラ３は、ユーザ９０の周囲環境を時系列で撮像して複数の撮像画像を取得してもよい。コミュニケーション支援装置１００は、対象者検出部４２によって検出された対象者を複数の撮像画像において追跡する対象者追跡部４３を更に備えてもよい。音声出力部１は、対象者検出部４２が対象者を検出したときに、識別情報をユーザ９０に報知し、その後対象者追跡部４３が対象者を追跡している間は、識別情報をユーザに報知しないものであってもよい。
このように、音声出力部１は、対象者検出部４２が対象者を検出したときに、少なくとも対象者の氏名等の識別情報を報知する。識別情報は、ユーザ９０が他者とのコミュニケーションについての心構え等の準備をする上で考慮する重要な情報である。ユーザ９０は、早い段階で識別情報を知ることにより、その後に対象者と円滑なコミュニケーションを行うことができる。
音声出力部１は、距離測定部４５によって測定された距離が、第１閾値より長くかつ第２閾値以下である知覚距離である場合、表情情報及び動作情報のうちの１つと、識別情報とをユーザ９０に報知してもよい。音声出力部１は、距離測定部４５によって測定された距離が、第２閾値より大きい観察距離である場合、表情情報と、動作情報と、識別情報とをユーザ９０に報知してもよい。
このように、対象者とカメラ３との距離が短くなるに連れて、ユーザ９０に報知する情報を漸次省くことにより、ユーザ９０は、対象者と円滑なコミュニケーションを取ることができる。
音声出力部１は、対象者検出部４２によって検出された時点における、距離測定部４５によって測定された対象者とカメラ３との距離が知覚距離であった場合、識別情報を音声によりユーザ９０に報知した後に、表情情報及び動作情報のうちの一方を音声によりユーザ９０に報知してもよい。その後に距離測定部４５によって測定された対象者とカメラ３との距離が知覚距離であるときは、音声出力部１は、表情情報及び動作情報のうちの他方を音声によりユーザ９０に報知してもよい。
この構成により、知覚距離で初めて対象者が検出された場合であっても、対象者が交流距離まで近付かずに知覚距離に留まっているときには、ユーザ９０は、表情情報及び動作情報の両方を知ることができる。このように、状況に応じて十分な情報を受け取ることにより、ユーザ９０は、対象者と円滑なコミュニケーションを取ることができる。
コミュニケーション支援装置１００は、距離測定部４５による検出結果を振動によりユーザ９０に報知する振動部２を更に備えてもよい。振動部２は、距離測定部４５によって検出された対象者とカメラ３との距離に応じて、振動のパターン及び大きさのうちの少なくとも一方を変更してもよい。
振動部２により、コミュニケーション支援装置１００は、検出結果の一部又は全部を音声報知に比べて短時間でユーザ９０に報知することができる。また、音声による報知と振動による報知とを組み合わせることにより、コミュニケーション支援装置１００は、音声による報知のみを用いる場合に比べて、多くの情報を短時間でユーザ９０に伝えることができる。
カメラ３は、ユーザ９０の周囲環境を時系列で撮像して複数の撮像画像を取得してもよい。この場合、コミュニケーション支援装置１００は、対象者検出部４２によって検出された対象者を複数の撮像画像において追跡する対象者追跡部４３を更に備えてもよい。振動部２は、振動可能な２つ以上の振動要素を備えてもよい。この場合、振動部２は、対象者追跡部４３が対象者を追跡している場合において、距離測定部４５によって検出された対象者とカメラ３との距離が予め定められたフィードバック距離であるときは、予め定められた順序で各振動要素を順次振動させてもよい。振動部２は、対象者追跡部４３が、追跡していた対象者を追跡できなくなった場合、予め定められた順序と異なる順序で各振動要素を順次振動させてもよい。
２つ以上の振動要素が異なる順序で振動する振動パターンを有することにより、コミュニケーション支援装置１００は、様々な情報をユーザ９０に振動により報知することができる。ユーザ９０は、振動パターンの違いにより、対象者との距離がフィードバック距離であり、コミュニケーションの可能性があることと、追跡していた対象者を追跡できなくなったことと、の違いを認識することができる。
振動要素は、規則的に配列された３つ以上の振動要素であってもよい。振動部２は、対象者追跡部４３が対象者を追跡している場合において、距離測定部４５によって検出された対象者とカメラ３との距離がフィードバック距離であるときは、配列順に各振動要素を順次振動させてもよい。対象者追跡部４３が、追跡していた対象者を追跡できなくなった場合、配列順と逆順に各振動要素を順次振動させてもよい。
３つ以上の振動要素が異なる順序で振動する振動パターンを有することにより、２つ以下の振動要素しかない場合に比べて、ユーザ９０は、振動により報知される情報の違いをより明瞭に区別して認識することができる。
コミュニケーション支援装置１００は、撮像画像に基づいて、カメラ３に対する対象者の位置を検出する位置検出部４４を更に備えてもよい。振動要素は、右振動要素と、左振動要素とを含んでもよい。振動部２は、位置検出部４４によって検出されたカメラ３に対する対象者の位置が、カメラ３の光軸より右方にある場合、右振動要素を振動させ、カメラ３の光軸より左方にある場合、左振動要素を振動させてもよい。
この構成により、コミュニケーション支援装置１００は、対象者の相対位置をより明瞭にユーザ９０に振動により報知することができる。
６．変形例
以上、本開示の実施形態を詳細に説明したが、前述までの説明はあらゆる点において本開示の例示に過ぎない。本開示の範囲を逸脱することなく種々の改良や変形を行うことができる。例えば、以下のような変更が可能である。なお、以下では、上記実施形態と同様の構成要素に関しては同様の符号を用い、上記実施形態と同様の点については、適宜説明を省略する。以下の変形例は適宜組み合わせることができる。
図１５は、コミュニケーション支援装置１００の出力態様の変形例を示す模式図である。上記実施形態では、特に視覚障がい者であるユーザ９０に対してコミュニケーション支援を行うコミュニケーション支援装置１００の出力態様について説明した。このような出力態様として、特に、音声による報知を行う音声出力部１と、振動による報知を行う振動部２について説明した。本開示の出力態様はこれらに限定されず、ユーザ９０に情報を報知できるものであればよい。例えば、コミュニケーション支援装置１００は、ユーザ９０に対して視覚的に報知を行うためのディスプレイ７を備えてもよい。
１ 音声出力部
２ 振動部
３ カメラ（撮像部）
４ 制御部
５ 記憶部
６ 通信インタフェース
７ ディスプレイ
２１ 第１の振動要素
２２ 第２の振動要素
２３ 第３の振動要素
２４ 第４の振動要素
２５ 第５の振動要素
２６ 第６の振動要素
４１ 画像取得部
４２ 対象者検出部
４３ 対象者追跡部
４４ 位置検出部
４５ 距離測定部
４６ 表情特定部
４７ 動作特定部
５１ 顔データベース
５２ 表情データベース
５３ 動作データベース
７０ リュックサック
７１ 左肩ベルト
７２ 右肩ベルト
８０ 対象者
９０ ユーザ
１００ コミュニケーション支援装置

Claims (10)

  1. ユーザの周囲環境を撮像して撮像画像を取得する撮像部と、
    前記撮像画像内で予め定められた対象者を検出する対象者検出部と、
    前記撮像画像に基づいて、前記対象者と前記撮像部との距離を測定する距離測定部と、
    前記撮像画像に基づいて、前記対象者の表情を特定する表情特定部と、
    前記撮像画像に基づいて、前記対象者の動作を特定する動作特定部と、
    音声出力部とを備え、
    前記音声出力部は、
    前記距離測定部によって測定された前記距離が第１閾値以下の交流距離である場合、前記対象者を識別するための識別情報を、音声により前記ユーザに報知し、
    前記距離測定部によって測定された前記距離が前記第１閾値より大きい場合、前記表情特定部によって特定された表情に関する表情情報及び前記動作特定部によって特定された動作に関する動作情報のうちの少なくとも１つと、前記識別情報とを、音声により前記ユーザに報知する、
    コミュニケーション支援装置。
  2. 前記撮像部は、前記ユーザの周囲環境を時系列で撮像して複数の撮像画像を取得し、
    前記コミュニケーション支援装置は、前記対象者検出部によって検出された前記対象者を前記複数の撮像画像において追跡する対象者追跡部を更に備え、
    前記音声出力部は、前記対象者検出部が前記対象者を検出したときに、前記識別情報を前記ユーザに報知し、その後前記対象者追跡部が前記対象者を追跡している間は、前記識別情報を前記ユーザに報知しない、
    請求項１に記載のコミュニケーション支援装置。
  3. 前記音声出力部は、
    前記距離測定部によって測定された前記距離が、前記第１閾値より長くかつ第２閾値以下である知覚距離である場合、前記表情情報及び前記動作情報のうちの１つと、前記識別情報とを前記ユーザに報知し、
    前記距離測定部によって測定された前記距離が、前記第２閾値より大きい観察距離である場合、前記表情情報と、前記動作情報と、前記識別情報とを前記ユーザに報知する、
    請求項１又は請求項２に記載のコミュニケーション支援装置。
  4. 前記音声出力部は、
    前記対象者検出部によって検出された時点における、前記距離測定部によって測定された前記対象者と前記撮像部との距離が前記知覚距離であった場合、前記識別情報を音声により前記ユーザに報知した後に、前記表情情報及び前記動作情報のうちの一方を音声により前記ユーザに報知し、
    その後に前記距離測定部によって測定された前記対象者と前記撮像部との距離が前記知覚距離であるときは、前記表情情報及び前記動作情報のうちの他方を音声により前記ユーザに報知する、請求項３に記載のコミュニケーション支援装置。
  5. 前記距離測定部による検出結果を振動により前記ユーザに報知する振動部を更に備え、
    前記振動部は、前記距離測定部によって検出された前記対象者と前記撮像部との距離に応じて、振動のパターン及び大きさのうちの少なくとも一方を変更する、請求項１～４のいずれか１項に記載のコミュニケーション支援装置。
  6. 前記撮像部は、前記ユーザの周囲環境を時系列で撮像して複数の撮像画像を取得し、
    前記コミュニケーション支援装置は、前記対象者検出部によって検出された前記対象者を前記複数の撮像画像において追跡する対象者追跡部を更に備え、
    前記振動部は、振動可能な２つ以上の振動要素を備え、
    前記振動部は、
    前記対象者追跡部が前記対象者を追跡している場合において、前記距離測定部によって検出された前記対象者と前記撮像部との距離が予め定められたフィードバック距離であるときは、予め定められた順序で各振動要素を順次振動させ、
    前記対象者追跡部が、追跡していた前記対象者を追跡できなくなった場合、前記予め定められた順序と異なる順序で各振動要素を順次振動させる、請求項５に記載のコミュニケーション支援装置。
  7. 前記振動要素は、規則的に配列された３つ以上の振動要素であり、
    前記振動部は、
    前記対象者追跡部が前記対象者を追跡している場合において、前記距離測定部によって検出された前記対象者と前記撮像部との距離が前記フィードバック距離であるときは、配列順に各振動要素を順次振動させ、
    前記対象者追跡部が、追跡していた前記対象者を追跡できなくなった場合、前記配列順と逆順に各振動要素を順次振動させる、請求項６に記載のコミュニケーション支援装置。
  8. 前記撮像画像に基づいて、前記撮像部に対する前記対象者の位置を検出する位置検出部を更に備え、
    前記振動要素は、右振動要素と、左振動要素とを含み、
    前記振動部は、前記位置検出部によって検出された前記撮像部に対する前記対象者の位置が、前記撮像部の光軸より右方にある場合、前記右振動要素を振動させ、前記撮像部の光軸より左方にある場合、前記左振動要素を振動させる、請求項６又は請求項７に記載のコミュニケーション支援装置。
  9. 撮像部が、ユーザの周囲環境を撮像して撮像画像を取得するステップと、
    対象者検出部が、前記撮像画像内で予め定められた対象者を検出するステップと、
    距離測定部が、前記撮像画像に基づいて、前記対象者と前記撮像部との距離を測定するステップと、
    表情特定部が、前記撮像画像に基づいて、前記対象者の表情を特定するステップと、
    動作特定部が、前記撮像画像に基づいて、前記対象者の動作を特定するステップと、
    音声出力部が、
    前記距離測定部によって測定された前記距離が第１閾値以下の交流距離である場合、前記対象者を識別するための識別情報を、音声により前記ユーザに報知し、
    前記距離測定部によって測定された前記距離が前記第１閾値より大きい場合、前記表情特定部によって特定された表情に関する表情情報及び前記動作特定部によって特定された動作に関する動作情報のうちの少なくとも１つと、前記識別情報とを、音声により前記ユーザに報知するステップとを含む、
    コミュニケーション支援方法。
  10. 請求項９に記載のコミュニケーション支援方法をコンピュータに実行させるためのプログラム。
JP2020101744A 2020-06-11 2020-06-11 コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム Active JP7388297B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020101744A JP7388297B2 (ja) 2020-06-11 2020-06-11 コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム
US17/338,039 US11681496B2 (en) 2020-06-11 2021-06-03 Communication support device, communication support method, and computer-readable storage medium including program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020101744A JP7388297B2 (ja) 2020-06-11 2020-06-11 コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム

Publications (3)

Publication Number Publication Date
JP2021196759A JP2021196759A (ja) 2021-12-27
JP2021196759A5 JP2021196759A5 (ja) 2023-04-19
JP7388297B2 true JP7388297B2 (ja) 2023-11-29

Family

ID=78825634

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020101744A Active JP7388297B2 (ja) 2020-06-11 2020-06-11 コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム

Country Status (2)

Country Link
US (1) US11681496B2 (ja)
JP (1) JP7388297B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022028263A (ja) * 2020-08-03 2022-02-16 オムロン株式会社 コミュニケーション支援装置、コミュニケーション支援方法、コミュニケーション支援プログラム及びサーバ装置
CN116843805B (zh) * 2023-06-19 2024-03-19 上海奥玩士信息技术有限公司 一种包含行为的虚拟形象生成方法、装置、设备及介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014003593A (ja) 2012-06-19 2014-01-09 International Business Maschines Corporation 表情及び声の感情の認識及びフィードバック
WO2018066191A1 (ja) 2016-10-07 2018-04-12 ソニー株式会社 サーバ、クライアント端末、制御方法、および記憶媒体
JP2019159193A (ja) 2018-03-15 2019-09-19 株式会社Ｒａｉｓｅ ｔｈｅ Ｆｌａｇ． 視覚障がい者用行動支援装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9911361B2 (en) * 2013-03-10 2018-03-06 OrCam Technologies, Ltd. Apparatus and method for analyzing images
DK3189655T3 (da) * 2014-09-03 2020-02-24 Aira Tech Corp Computer-implementeret fremgangsmåde og system til tilvejebringelse af fjernunderstøtning for visuelt-svækkede brugere
US10806658B2 (en) * 2015-09-08 2020-10-20 Sony Corporation Information processing apparatus and information processing method
US9424734B1 (en) * 2015-12-03 2016-08-23 King Abdulaziz University Device to monitor distance between people
EP3292853A1 (en) * 2016-09-09 2018-03-14 ams AG Portable environment sensing device
US10484568B2 (en) 2016-10-26 2019-11-19 Orcam Technologies Ltd. Providing a social media recommendation based on data captured by a wearable device
CN113196803A (zh) * 2018-10-15 2021-07-30 奥康科技有限公司 助听器系统和方法
US20210350346A1 (en) * 2020-05-06 2021-11-11 Capital One Services, Llc System and method for using passive multifactor authentication to provide access to secure services

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014003593A (ja) 2012-06-19 2014-01-09 International Business Maschines Corporation 表情及び声の感情の認識及びフィードバック
WO2018066191A1 (ja) 2016-10-07 2018-04-12 ソニー株式会社 サーバ、クライアント端末、制御方法、および記憶媒体
JP2019159193A (ja) 2018-03-15 2019-09-19 株式会社Ｒａｉｓｅ ｔｈｅ Ｆｌａｇ． 視覚障がい者用行動支援装置

Also Published As

Publication number Publication date
US20210390333A1 (en) 2021-12-16
US11681496B2 (en) 2023-06-20
JP2021196759A (ja) 2021-12-27

Similar Documents

Publication Publication Date Title
US9443307B2 (en) Processing of images of a subject individual
US20160086023A1 (en) Apparatus and method for controlling presentation of information toward human object
US20170046569A1 (en) System and method for predicting neurological disorders
US10867527B2 (en) Process and wearable device equipped with stereoscopic vision for helping the user
JP7388297B2 (ja) コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム
JP2008146356A (ja) 視線方向推定装置及び視線方向推定方法
Al Kork et al. Biometric database for human gait recognition using wearable sensors and a smartphone
US20210196174A1 (en) Apparatus, method and program for determining a cognitive state of a user of a mobile device
CN110705454A (zh) 一种具有活体检测功能的人脸识别方法
KR20200056660A (ko) 얼굴 내 미세움직임 기반 통증 모니터링 방법 및 시스템
US11954908B2 (en) Communication support device, communication support method, computer-readable storage medium including program, and server
KR20160011302A (ko) 글라스형 웨어러블 디바이스의 영상 또는 이미지 처리시스템 및 처리방법
JP7388258B2 (ja) アクセシビリティ判定装置、アクセシビリティ判定方法、及びプログラム
EP3809310B1 (en) Method and electronic device for detecting open and closed states of eyes
US20220036566A1 (en) Communication support device, communication support method, and computer-readable storage medium including program
KR100862526B1 (ko) 얼굴동영상 데이터베이스 구축 방법 및 시스템과 이를이용한 얼굴 인식 방법 및 시스템.
JP7453192B2 (ja) ユーザの動的状態に応じて物体認識に基づく情報を提示する携帯装置、プログラム及び方法
KR20200049936A (ko) 생체 인식 장치 및 방법
KR102243466B1 (ko) 이미지 내 동물의 눈 영역을 검출하는 방법 및 장치
KR102224985B1 (ko) 글라스형 웨어러블 디바이스를 이용한 지인 인식시스템 및 인식방법
US20240112496A1 (en) Image processing apparatus, authentication system, method, and non-transitory computer-readable storage medium
Tapu et al. Face recognition in video streams for mobile assistive devices dedicated to visually impaired
Tran-Le et al. Lie Detection by Facial Expressions in Real Time
Patil et al. Analysis of Facial Expression using Deep Learning Techniques
Kim et al. Smart wearable robot glasses for human visual augmentation based on human intention and scene understanding

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230407

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230411

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231017

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231025

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231030

R150 Certificate of patent or registration of utility model

Ref document number: 7388297

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150