JPWO2019021973A1 - 端末装置、危険予測方法、プログラム - Google Patents
端末装置、危険予測方法、プログラム Download PDFInfo
- Publication number
- JPWO2019021973A1 JPWO2019021973A1 JP2019532574A JP2019532574A JPWO2019021973A1 JP WO2019021973 A1 JPWO2019021973 A1 JP WO2019021973A1 JP 2019532574 A JP2019532574 A JP 2019532574A JP 2019532574 A JP2019532574 A JP 2019532574A JP WO2019021973 A1 JPWO2019021973 A1 JP WO2019021973A1
- Authority
- JP
- Japan
- Prior art keywords
- user
- risk
- terminal device
- walking
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B31/00—Predictive alarm systems characterised by extrapolation or other computation using updated historic data
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B21/00—Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
- G08B21/02—Alarms for ensuring the safety of persons
- G08B21/04—Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons
- G08B21/0407—Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons based on behaviour analysis
- G08B21/0423—Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons based on behaviour analysis detecting deviation from an expected pattern of behaviour or schedule
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B21/00—Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
- G08B21/02—Alarms for ensuring the safety of persons
- G08B21/04—Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons
- G08B21/0438—Sensor means for detecting
- G08B21/0461—Sensor means for detecting integrated or attached to an item closely associated with the person but not worn by the person, e.g. chair, walking stick, bed sensor
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/005—Traffic control systems for road vehicles including pedestrian guidance indicator
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M1/00—Substation equipment, e.g. for use by subscribers
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B21/00—Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
- G08B21/02—Alarms for ensuring the safety of persons
- G08B21/04—Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons
- G08B21/0438—Sensor means for detecting
- G08B21/0446—Sensor means for detecting worn on the body to detect changes of posture, e.g. a fall, inclination, acceleration, gait
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B21/00—Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
- G08B21/02—Alarms for ensuring the safety of persons
- G08B21/04—Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons
- G08B21/0438—Sensor means for detecting
- G08B21/0469—Presence detectors to detect unsafe condition, e.g. infrared sensor, microphone
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B21/00—Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
- G08B21/02—Alarms for ensuring the safety of persons
- G08B21/04—Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons
- G08B21/0438—Sensor means for detecting
- G08B21/0476—Cameras to detect unsafe condition, e.g. video cameras
Abstract
Description
図1は同実施形態による端末装置の構成を示すブロック図である。
端末装置1はスマートフォン、携帯電話、PDA、タブレット端末などの携帯型の端末である。端末装置1はCPU101、ROM102、RAM103、HDD104、通信モジュール105、タッチパネル106、入出力部107、カメラ108、加速度センサ109、マイク110、GPS111、スピーカ112、バイブレータ113、ライト114などの各ハードウェアが備わる。
端末装置1は起動して制御プログラムを実行することにより、制御部11、歩行中操作判定部12、危険予測部13、通知部14、データ送信部15の各機能部を少なくとも有する。端末装置1はその他、電話機能等の公知の機能を有している。
制御部11は端末装置1に備わる各機能部を制御する。
歩行中操作判定部12はユーザが歩行しながら端末装置1を操作しているか否かを判定する。
危険予測部13は端末装置1の歩行中操作を行っているユーザに対する危険を予測または検知する。
通知部14は端末装置1のタッチパネル106などの表示機能に危険を通知する。
データ送信部15は通信接続している装置にデータを送信する。
歩行中操作判定部12は加速度センサ109などの図1で示した各種ハードウェアから得た情報を組み合わせてユーザが歩行中操作を行っているかを判定する。例えば歩行中操作判定部12はタッチパネル106により構成される画面がONになっているかの判定、加速度センサ109の検出パターンが歩行パターンと一致しているかの判定、カメラ108から得た画像において検出した特徴物が移動しているかの判定などに基づいて歩行中操作であるかを判定する。より具体的には歩行中操作判定部12は、画面がONであり、加速度センサ109による加速度の検出パターンと歩行パターンとが一致し、画像において特徴物が移動していると判定した場合、歩行中操作を行っていると判定する。
次に、図3を用いて端末装置1の動作を説明する。
当該端末装置1の処理は、端末装置1がユーザの歩行中操作を行っていると検出した場合に、危険を予測し、その予測結果をユーザに通知する処理でありその一例を示す。
端末装置1は専用サーバ2と通信接続される。専用サーバ2は端末装置1の危険の予測や危険検出の結果を受信して、危険を検出するために利用した画像データなどのデータの特徴や、全ユーザからのフィードバック情報などを収集、分析する機能を有するものとする。
危険予測部13は、加速度センサ109などを利用して端末装置1を携帯するユーザの進行方向を特定する。また危険予測部13は端末装置1の傾きを加速度センサ109から得た情報に基づいて検出する。例えば危険予測部13は端末装置1が板状の形状を成している場合には、板状の端末装置1を垂直に立てた状態を基準とした面垂直方向の傾き(前傾角)、当該面垂直方向に直交する方向の傾き(横傾角)を検出する。なお前傾角は端末装置1が地面と垂直状態からどの程度面垂直方向(ユーザの進行方向に一致)に傾いているか(前傾角が90°の場合は端末が水平状態となる)を表す。横傾角は端末装置1が進行方向からどの程度右手に向いているか(横傾角が90°の場合は端末装置1の上部が右手側に向いており進行方向に対して完全に横向き状態となる)を表す。
例えば危険予測部13は、危険物候補として横断歩道や信号機、駅のホームや道路上にある視覚障害者用の点字・線状ブロック、歩行者や自転車、段差、路面異常、電柱、看板、露店、小動物などの形状を記憶している。危険予測部13はそれら記憶している形状情報と撮影画像から得た物体とのパターンマッチングを行い、それら記憶するいずれの形状と一致するかを判定する。危険予測部13は当該パターンマッチングにより形状が一致したと判定した場合にはその画像中に写る物体を危険物候補と認識する。危険予測部13はこれら危険物候補に接近しているか否かを前後の画像データを比較して判定する。
例えばマイク110から取得した音信号を解析して特徴的な音を検出する。例えば特徴的な音はサイレン、信号機の横断期間を通知する音、踏切遮断時の音、自転車のベルなどである。このような人に対して発せられる人工的な警告音は規則的な繰り返しであることが多いことから、危険予測部13は、音の波形パターンとして事前に記憶しておき、取得した音信号から得た音の波形パターンが予め記憶する警告音のパターンと一致した場合には危険であると予測する。危険予測部13は人工的な警告音に限定せず、「危ない」や「逃げろ」など人の声を音声認識して、音声認識結果で得られた言葉が予め記憶する警告を示す言葉と一致すると判定した場合には、危険物候補が迫っていると判定してもよい。
具体的に通知部14の処理について説明する。通知部14は検出した危険情報をユーザに通知する。例えば通知部14は、検出した危険物候補およびそれに関連する情報を危険情報として端末装置1の画面に表示する。この時、通知部14は、危険が迫っているかを示す危険接近レベルに基づいて衝突予想時刻も併せて表示してもよい。通知部14は端末装置1の向き(姿勢)や危険物候補の接近方向に基づいて、ユーザの危険回避行動を補助するための情報も併せて表示してもよい。なお、ユーザへの危険情報の通知は危険を予測した時に限定せず、カメラ108の撮影により得られた画像データにおいて危険の可能性がある旨や、マイク110で特徴的な音である可能性がある旨の情報をリアルタイムに画面の一部に表示してもよい。
なお危険情報を画面に表示する際は危険接近レベルをレベル1〜レベル3の何れかに設定して出力する。一例としては、危険接近レベル3を衝突予想時刻まで3秒と設定しているが、危険回避行動はユーザの年齢や身体能力による部分もあるため固定値ではなくユーザに応じて設定してもよい。
危険予測部13は、検出した危険物候補と端末装置1との距離を算出し、その距離が閾値以上であると判定した場合には危険接近レベル1と判定する。そして危険予測部13は危険物候補との距離が閾値以上であり、かつ、危険物候補の接近速度が閾値未満または危険物候補が停止していると判定した場合には危険接近レベル1と判定する。一例として危険予測部13は、距離が閾値以上であり接近速度が閾値未満であることにより、ユーザとの衝突までの予想時間が8秒以上であると算出した場合には、危険接近レベル1と判定する。
危険予測部13は、危険物候補との距離が閾値以上であり、かつ、危険物候補の接近速度が閾値以上と判定した場合には危険接近レベル2と判定する。一例として危険予測部13は、距離が閾値以上であるが接近速度が閾値以上であることにより、ユーザとの衝突までの予想時間が8秒〜3秒と算出した場合には、危険接近レベル2と判定する。
危険予測部13は、危険物候補との距離が閾値未満であり、かつ、危険物候補の接近速度が閾値以上と判定した場合には危険接近レベル3と判定する。一例として危険予測部13は、距離が閾値未満でありさらに接近速度が閾値以上であることにより、ユーザとの衝突までの予想時間が3秒未満と算出した場合には、危険接近レベル3と判定する。
衝突予測時刻を算出する際には危険予測部13は、取得した一定時間毎に画像データのフレーム差分を検出することで変化領域を算出し、その変化領域に基づいて危険物候補の移動距離や移動速度(接近速度)を推定することができる。
端末装置1の危険予測部13は、傾き情報を基に端末装置1の画面部分が地面方向に向いておりユーザが視認できない状態だと検知する。そして危険予測部13は、画面への通知だけではユーザが認識できない可能性が高いと判断できるため、バイブレータ113やスピーカ112、ライト114など別の通知手段を選択してユーザへ危険を通知する。また危険予測部13はユーザの視線情報を基に、ユーザが画面を見ていないと検知した場合も通知部14は通知手段を選択してユーザへ危険を通知してよい。
これにより端末装置1は詳細な危険予測を行うことができる。さらに端末装置1は加速度センサ109からの傾きなどの情報や、複数のマイク110からの音や方向などの情報も材料とすることで、カメラ108には映っていない危険も予測とすることが可能となる。
さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。
2・・・専用サーバ
11・・・制御部
12・・・歩行中操作判定部
13・・・危険予測部
14・・・通知部
15・・・データ送信部
101・・・CPU
102・・・ROM
103・・・RAM
104・・・HDD
105・・・通信モジュール
106・・・タッチパネル
107・・・入出力部
108・・・カメラ
109・・・加速度センサ
110・・・マイク
111・・・GPS
112・・・スピーカ
113・・・バイブレータ
114・・・ライト
Claims (5)
- ユーザが歩行しながら自装置を操作しているかを判定する歩行中操作判定手段と、
周囲の音を収集する音収集装置と、
前記ユーザが歩行しながら自装置を操作していると判定された場合に、自装置に備わるカメラから得た画像データに写る危険物候補に基づいて前記ユーザの危険を予測する危険予測手段と、を備え、
前記危険予測手段は前記音収集装置から得た音信号に基づいて前記音の発生源の方向を算出する
端末装置。 - 前記危険予測手段は、前記端末装置の姿勢を検出し、前記ユーザの危険を予測した場合に当該姿勢に基づいて危険の通知に利用する通知手段を選択する
請求項1に記載の端末装置。 - 前記カメラとして前記端末装置の板状筺体に主面に設けられたインカメラと、
前記主面の裏面に設けられたアウトカメラと、を備え、
前記危険予測手段は前記インカメラと前記アウトカメラの両方から得た画像に基づいて前記ユーザの危険を予測する
請求項1または請求項2に記載の端末装置。 - ユーザが歩行しながら自装置を操作しているかを判定し、
周囲の音を収集し、
前記ユーザが歩行しながら自装置を操作していると判定された場合に、端末装置に備わるカメラから得た画像データに写る危険物候補に基づいて前記ユーザの危険を予測するとともに、前記収集した音の信号に基づいて前記音の発生源の方向を算出する
危険予測方法。 - 端末装置のコンピュータを、
ユーザが歩行しながら自装置を操作しているかを判定する歩行中操作判定手段、
周囲の音を収集する音収集手段、
前記ユーザが歩行しながら自装置を操作していると判定された場合に、前記端末装置に備わるカメラから得た画像データに写る危険物候補に基づいて前記ユーザの危険を予測するとともに、前記収集した音の信号に基づいて前記音の発生源の方向を算出する危険予測手段、
として機能させるプログラムを記録する記録媒体。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017146960 | 2017-07-28 | ||
JP2017146960 | 2017-07-28 | ||
PCT/JP2018/027371 WO2019021973A1 (ja) | 2017-07-28 | 2018-07-20 | 端末装置、危険予測方法、記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2019021973A1 true JPWO2019021973A1 (ja) | 2020-07-30 |
JP6822571B2 JP6822571B2 (ja) | 2021-01-27 |
Family
ID=65041174
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019532574A Active JP6822571B2 (ja) | 2017-07-28 | 2018-07-20 | 端末装置、危険予測方法、プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20200372779A1 (ja) |
JP (1) | JP6822571B2 (ja) |
WO (1) | WO2019021973A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109937443A (zh) | 2016-11-10 | 2019-06-25 | 株式会社半导体能源研究所 | 显示装置及显示装置的驱动方法 |
CN111559327B (zh) * | 2019-02-14 | 2022-05-24 | 华为技术有限公司 | 一种数据处理方法及对应的装置 |
CN117379009A (zh) * | 2023-10-18 | 2024-01-12 | 中国人民解放军总医院第二医学中心 | 一种社区老年人群心脑血管急危重症预警监测系统 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015061122A (ja) * | 2013-09-17 | 2015-03-30 | Necカシオモバイルコミュニケーションズ株式会社 | 報知装置、制御方法、及びプログラム |
JP2015185899A (ja) * | 2014-03-20 | 2015-10-22 | 株式会社Nttドコモ | 携帯端末および音通知方法 |
JP2017010385A (ja) * | 2015-06-24 | 2017-01-12 | 株式会社東芝 | 携帯端末、警告出力方法、及び、プログラム |
JP2017060033A (ja) * | 2015-09-17 | 2017-03-23 | カシオ計算機株式会社 | 携帯情報機器、携帯情報システム、表示方法及びプログラム |
-
2018
- 2018-07-20 WO PCT/JP2018/027371 patent/WO2019021973A1/ja active Application Filing
- 2018-07-20 JP JP2019532574A patent/JP6822571B2/ja active Active
- 2018-07-20 US US16/634,253 patent/US20200372779A1/en not_active Abandoned
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015061122A (ja) * | 2013-09-17 | 2015-03-30 | Necカシオモバイルコミュニケーションズ株式会社 | 報知装置、制御方法、及びプログラム |
JP2015185899A (ja) * | 2014-03-20 | 2015-10-22 | 株式会社Nttドコモ | 携帯端末および音通知方法 |
JP2017010385A (ja) * | 2015-06-24 | 2017-01-12 | 株式会社東芝 | 携帯端末、警告出力方法、及び、プログラム |
JP2017060033A (ja) * | 2015-09-17 | 2017-03-23 | カシオ計算機株式会社 | 携帯情報機器、携帯情報システム、表示方法及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
US20200372779A1 (en) | 2020-11-26 |
JP6822571B2 (ja) | 2021-01-27 |
WO2019021973A1 (ja) | 2019-01-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6948325B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
WO2019206270A1 (zh) | 测距方法、智能控制方法及装置、电子设备和存储介质 | |
US20210365696A1 (en) | Vehicle Intelligent Driving Control Method and Device and Storage Medium | |
JP4173901B2 (ja) | 車両周辺監視装置 | |
US9928710B2 (en) | Danger alerting method and device, portable electronic apparatus | |
JP4161208B2 (ja) | 携帯情報装置、携帯電話装置および表示制御方法 | |
WO2017067187A1 (zh) | 前车起步处理方法、装置和系统 | |
JP4173902B2 (ja) | 車両周辺監視装置 | |
JP6822571B2 (ja) | 端末装置、危険予測方法、プログラム | |
Tung et al. | Use of phone sensors to enhance distracted pedestrians’ safety | |
JPWO2017163514A1 (ja) | 眼鏡型ウェアラブル端末、その制御方法および制御プログラム | |
EP3157233A1 (en) | Handheld device, method for operating the handheld device and computer program | |
CN110506277B (zh) | 用于构建鲁棒的深度卷积神经网络的滤波器重用机制 | |
KR20120140486A (ko) | 휴대용 단말기에서 보행 안내 서비스를 제공하기 위한 장치 및 방법 | |
JP5418661B2 (ja) | 車両周辺監視装置 | |
JP7077726B2 (ja) | 車両システム、空間領域推測方法及び空間領域推測装置 | |
JP2006202047A (ja) | 移動物体検出装置及び移動物体検出方法 | |
JP2010026601A (ja) | 車両周辺監視装置 | |
EP3648005B1 (en) | Passage determination method and device | |
US20220189038A1 (en) | Object tracking apparatus, control method, and program | |
KR101827557B1 (ko) | 보행 안전 서비스 제공 방법 | |
KR102263695B1 (ko) | 복수개의 카메라를 이용한 휴대 장치 및 제어방법 | |
JP6120444B2 (ja) | ウェアラブルデバイス | |
JP2006027481A (ja) | 物体警告装置及び物体警告方法 | |
WO2015198284A1 (en) | Reality description system and method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200114 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200114 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200915 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201111 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201208 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201221 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6822571 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |