JP6815104B2 - 映像表示装置及び映像表示方法 - Google Patents
映像表示装置及び映像表示方法 Download PDFInfo
- Publication number
- JP6815104B2 JP6815104B2 JP2016116538A JP2016116538A JP6815104B2 JP 6815104 B2 JP6815104 B2 JP 6815104B2 JP 2016116538 A JP2016116538 A JP 2016116538A JP 2016116538 A JP2016116538 A JP 2016116538A JP 6815104 B2 JP6815104 B2 JP 6815104B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- specific target
- target person
- person
- student
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 117
- 230000008569 process Effects 0.000 claims description 57
- 230000008859 change Effects 0.000 claims description 52
- 238000001514 detection method Methods 0.000 claims description 50
- 230000033001 locomotion Effects 0.000 claims description 48
- 230000004044 response Effects 0.000 claims description 39
- 230000005540 biological transmission Effects 0.000 claims description 34
- 238000004458 analytical method Methods 0.000 claims description 15
- 230000000694 effects Effects 0.000 claims description 4
- 238000012545 processing Methods 0.000 description 128
- 238000005259 measurement Methods 0.000 description 19
- 230000001133 acceleration Effects 0.000 description 16
- 238000004891 communication Methods 0.000 description 11
- 230000006870 function Effects 0.000 description 9
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 8
- 230000002159 abnormal effect Effects 0.000 description 6
- 238000003384 imaging method Methods 0.000 description 4
- 230000005856 abnormality Effects 0.000 description 3
- 235000019577 caloric intake Nutrition 0.000 description 3
- 244000144985 peep Species 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 230000036541 health Effects 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 2
- 230000007704 transition Effects 0.000 description 2
- 230000001960 triggered effect Effects 0.000 description 2
- 208000008918 voyeurism Diseases 0.000 description 2
- 210000000707 wrist Anatomy 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 210000003423 ankle Anatomy 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 230000036760 body temperature Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 210000001624 hip Anatomy 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 210000003127 knee Anatomy 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000000149 penetrating effect Effects 0.000 description 1
- 230000029058 respiratory gaseous exchange Effects 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/74—Details of notification to user or communication with user or patient ; user input means
- A61B5/742—Details of notification to user or communication with user or patient ; user input means using visual displays
- A61B5/7425—Displaying combinations of multiple images regardless of image source, e.g. displaying a reference anatomical image with a live image
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/74—Details of notification to user or communication with user or patient ; user input means
- A61B5/742—Details of notification to user or communication with user or patient ; user input means using visual displays
- A61B5/743—Displaying an image simultaneously with additional graphical information, e.g. symbols, charts, function plots
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0077—Devices for viewing the surface of the body, e.g. camera, magnifying lens
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/024—Detecting, measuring or recording pulse rate or heart rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H10/00—ICT specially adapted for the handling or processing of patient-related medical or healthcare data
- G16H10/60—ICT specially adapted for the handling or processing of patient-related medical or healthcare data for patient-specific data, e.g. for electronic patient records
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H15/00—ICT specially adapted for medical reports, e.g. generation or transmission thereof
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/20—ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H40/00—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
- G16H40/60—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
- G16H40/63—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for local operation
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/30—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for calculating health indices; for individual health risk assessment
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B2505/00—Evaluating, monitoring or diagnosing in the context of a particular type of medical care
- A61B2505/07—Home care
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B2505/00—Evaluating, monitoring or diagnosing in the context of a particular type of medical care
- A61B2505/09—Rehabilitation or training
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/68—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
- A61B5/6887—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient mounted on external non-worn devices, e.g. non-medical devices
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
- G09G5/37—Details of the operation on graphic patterns
- G09G5/377—Details of the operation on graphic patterns for mixing or overlaying two or more graphic patterns
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Medical Informatics (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Biomedical Technology (AREA)
- Physics & Mathematics (AREA)
- Pathology (AREA)
- Veterinary Medicine (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- Biophysics (AREA)
- Heart & Thoracic Surgery (AREA)
- Radiology & Medical Imaging (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Epidemiology (AREA)
- Primary Health Care (AREA)
- Cardiology (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Physiology (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Hardware Design (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Business, Economics & Management (AREA)
- General Business, Economics & Management (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Controls And Circuits For Display Device (AREA)
Description
また上記の構成では、撮影装置の撮影映像のうち、ディスプレイに表示される範囲が映像確認者の顔位置、顔の向き及び視線の変化に連動して切り替わる。これにより、例えば多くの特定対象者が検知された場合において一度にディスプレイに表示し得る特定対象者の人数が限られていても、映像確認者が顔位置や向き、あるいは視線を変えることで特定対象者全員の映像や生体情報を確認することが可能となる。
上記の構成では、複数の特定対象者のうち、所定の動作を行った特定対象者について、その者の人物映像がディスプレイに表示された映像中の何処に表示されているのか(すなわち、表示位置)を特定する。また、特定対象者別に用意された発信器のうち、所定の動作を行った特定対象者に関する情報(他の情報)を送った発信器を特定する。これにより、所定の動作を行った特定対象者の人物映像と、当該特定対象者の生体情報との対応関係を特定することが可能となる。このようにして人物映像と生体情報との対応関係が特定される結果、所定の動作を行った特定対象者の人物映像の位置に応じた領域に、当該特定対象者の生体情報が表示されるようになる。以上により、複数の特定対象者が居る場合であっても、各特定対象者の生体情報をその者の人物映像と対応付けて表示することが可能となる。
上記の構成では、検知部が特定対象者を検知している間、通常時の時間間隔よりも短い時間間隔にて特定対象者の生体情報を取得する。これにより、特定対象者の生体情報が変化した際には、その変化をより速やかに捉えることが可能となる。
また、上記の映像表示装置において、前記映像表示部は、前記特定対象者の前記生体情報に応じた情報として前記映像に重ねて表示する情報の内容を、前記生体情報取得部が前記特定対象者の前記生体情報を取得する度に更新すると、好適である。
上記の構成では、ディスプレイには最新の生体情報に応じた情報が表示されるため、特定対象者の生体情報が変化した際には、その変化を更に速やかに捉えることが可能となる。
上記の構成では、特定対象者を検知すると、当該特定対象者を識別する。その後、識別された特定対象者に装着されたセンサと通信することにより、当該特定対象者の生体情報を取得する。このような手順によれば、検知された特定対象者の生体情報を、より確実に取得することが可能となる。
また、上記の映像表示装置において、前記検知部は、所定の場所に居る前記特定対象者を検知し、前記映像表示部は、前記所定の場所から離れた場所に設置された前記ディスプレイに前記映像を表示すると、更に好適である。
上記の構成では、ある場所に居る対象者の映像及び生体情報を、その場所から離れた遠隔地にて確認することが可能となる。
上記の構成では、特定対象者の生体情報が予め設定された条件を満たしているか否かを判定し、判定結果に応じた表示態様にて、特定対象者の生体情報に応じた情報を表示する。これにより、特定対象者の生体情報が所定の条件を満たしているとき(例えば、生体情報が異常時の内容となっているとき)、かかる事態を容易に気付かせることが可能となる。
上記の構成では、特定対象者の生体情報について成否が判定される条件を、通常時に取得した生体情報に基づいて対象者別に設定する。このように条件を設定すれば、特定対象者の生体情報が当該条件を満たすか否かを判定する際に、特定対象者の通常時の生体情報を加味することが可能となる。つまり、例えば特定対象者の生体情報が異常時の内容となっているかどうかを判断する上で、当該特定対象者の個人差を考慮することが可能となる。
上記の構成では、発信器に搭載された動作検出器が特定対象者の動作を検出した際に生成する動作情報を、特定対象者に関する他の情報として取得する。かかる構成では、ある特定対象者が所定の動作を行うと、その者に対して用意された発信器から、動作検出器が所定の動作を検出した際に生成した動作情報が送られるようになる。これにより、所定の動作を行った特定対象者の発信器を、より的確に特定することが可能となる。この結果、各特定対象者の人物映像と生体情報との対応関係をより適切に特定することが可能となる。
上記の構成では、複数の特定対象者のうちの一人に対して所定の動作を促すことが可能となる。これにより、所定の動作を行っている特定対象者の人物映像の位置を特定することや、所定の動作を行っている特定対象者の発信器を特定することがより容易になる。
また上記の構成では、複数の特定対象者のうちの一人に対して所定の動作を促すために、その者の名前を示す音声を発生させる。そして、この音声への応答動作を所定の動作とすれば、当該所定の動作を行っている特定対象者の人物映像の位置を特定することや、所定の動作を行っている特定対象者の発信器を特定することが一段と容易になる。
上記の構成では、位置特定部が、ディスプレイに表示されている映像中に人物映像が映っている特定対象者の身体各部についての深度(深度については後述する)を示すデータに基づいて、所定の動作を行っている特定対象者の人物映像の位置を特定する。これにより、所定の動作を行っている特定対象者の人物映像の位置を的確に特定することが可能となる。
また、前述した課題は、本発明の映像表示方法によれば、コンピュータが、センサによって計測された対象者の生体情報を、予め設定された時間間隔にて取得することと、コンピュータが、撮影装置が撮影している映像を、ディスプレイに表示することと、コンピュータが、前記映像中に含まれている人物映像の、前記映像における位置を特定することと、コンピュータが、所定の状態にある前記対象者である特定対象者を検知することと、を有し、前記特定対象者の前記人物映像を含む前記映像を前記ディスプレイに表示する際には、前記特定対象者の前記人物映像について特定した前記位置に応じた領域に、前記時間間隔にて取得した前記特定対象者の前記生体情報に応じた情報を前記映像に重ねて表示し、複数の前記特定対象者を検知したときには、前記特定対象者別に用意されており前記センサが搭載された発信器の各々から、前記センサにより計測された前記特定対象者の前記生体情報、及び、前記特定対象者に関する他の情報を取得し、所定の動作を行った前記特定対象者の前記人物映像の前記位置を特定する第一処理と、前記特定対象者別の前記発信器のうち、前記所定の動作を行った前記特定対象者に関する前記他の情報を送った前記発信器を特定する第二処理と、を実行し、前記所定の動作を行った前記特定対象者の前記人物映像を含む前記映像を前記ディスプレイに表示する際には、前記第一処理にて特定した前記位置に応じた領域に、前記第二処理にて特定した前記発信器から取得した前記生体情報に応じた情報を前記映像に重ねて表示することにより解決される。
上記の方法であれば、所定の状態にある対象者の映像と共にその者の生体情報を確認する際に、誰の生体情報であるかを容易に把握することができ、また、生体情報が変化した際には、その変化をより速やかに捉えることが可能となる。
また、本発明によれば、特定対象者の容態が急変したり特定対象者が運動等したりすることで生体情報が変化した際、その変化をより速やかに捉えることが可能となる。この結果、生体情報の変化に対して速やかな対応を採ることができ、特定対象者の状態(例えば、健康状態等)を良好に保つことが可能となる。
また、本発明によれば、複数の対象者の各々の人物映像及び生体情報を表示するにあたり、所定の動作を行っている特定対象者の生体情報と人物映像とを対応付けることにより、生体情報と人物映像との対応関係を適切に特定することが可能となる。
本実施形態に係る映像表示装置(以下、映像表示装置)は、映像確認者が遠隔地に居る対象者の映像を確認するために用いられる。特に、本実施形態では、運動指導用の通信システム(以下、運動指導用システム1)を構築するために映像表示装置が利用される。
次に、運動指導用システム1の機器構成について図2を参照しながら説明する。運動指導用システム1は、図2に図示されているように、通信ネットワーク(以下、ネットワークW)に接続された複数の機器によって構成されている。具体的に説明すると、主に受講者Jによって利用される映像表示用ユニット(以下、受講者側ユニット2)と、主にインストラクターIによって利用される映像表示用ユニット(以下、インストラクター側ユニット3)と、が運動指導用システム1の主要構成機器である。
赤外線センサ15は、所謂デプスセンサであり、赤外線方式にて計測対象物の深度を計測するためのセンサである。具体的に説明すると、赤外線センサ15は、計測対象物に向けて赤外線を照射し、その反射光を受光することで計測対象物各部の深度を計測する。ここで、「深度」とは、基準位置から計測対象物までの距離(すなわち、奥行距離)のことである。ちなみに、本実施形態では、受講者Jが居るジムP1において予め設定された位置、より具体的には、ジムP1に設置されたディスプレイ11の映像表示面(画面)の位置が基準位置に該当する。つまり、赤外線センサ15は、深度として、ディスプレイ11の画面と計測対象物の間の距離、より厳密にはディスプレイ11の画面の法線方向(換言すると、ディスプレイ11を貫く方向)における距離を計測することになる。
次に、第2のデータ処理端末5の構成を機能面から改めて説明する。第2のデータ処理端末5をなすコンピュータは、前述した第2のプログラムが実行されることにより本発明の映像表示装置として機能する。換言すると、第2のデータ処理端末5は、複数の機能部を備えており、具体的には、図7に示すように、生体情報取得部51と、情報解析部52と、映像送信部53と、映像表示部54と、検知部55と、識別部56と、位置特定部57と、変化検出部58、記憶部59とを有する。これらは、第2のデータ処理端末5を構成するハードウェア機器(具体的にはCPU、メモリ、通信用インタフェース及びハードディスクドライブ)と第2のプログラムとが協働することで構成されている。以下、各機能部について説明する。
生体情報取得部51は、ウェアラブルセンサ20によって計測された受講者Jの心拍数を、予め設定された時間間隔にて取得するものである。より詳しく説明すると、通常時、生体情報取得部51は、第1時間間隔t1にて生体情報記憶サーバ30と通信することで、生体情報記憶サーバ30に記憶されている各受講者Jの心拍数を取得する。なお、このときに取得した各受講者Jの心拍数は、第2のデータ処理端末5において受講者J別に記憶される。
情報解析部52は、生体情報取得部51が通常時に第1時間間隔t1にて取得した各受講者Jの心拍数を、受講者J別に集計して受講者J別に解析するものである。より具体的に説明すると、情報解析部52は、第1時間間隔t1にて取得した各受講者Jの心拍数を受講者J別に平均し、受講者J毎の平均心拍数を算出する。なお、本実施形態では、過去に取得した数十個分の心拍数を平均して平均心拍数を算出することになっているが、平均心拍数を算出する際の対象として設定される心拍数の範囲については、任意に決めてよい。
映像送信部53は、専用ブースP2内でインストラクターIが所定の動作を行うこと(例えば、専用ブースP2内のディスプレイ11の手前位置に立つこと)を契機として、専用ブースP2に設置されたカメラ13及びマイク14を制御して専用ブースP2内での撮影や集音を行わせる。その後、映像送信部53は、マイク14が集音した音声をカメラ13の撮影映像に組み込み、その上で当該撮影映像を受講者側ユニット2に向けて送信する。なお、本実施形態では、音声を組み込んだ状態の映像を送信する形となっているが、これに限定されるものではなく、映像と音声とを分離して個別に送信してもよい。
映像表示部54は、受講者側ユニット2から受信した映像、すなわち、ジムP1に設置されたカメラ13が撮影しているリアルタイムの映像をディスプレイ11に表示する。また、映像表示部54は、受信映像に組み込まれている音声を再生した際の再生音を、スピーカ12を通じて発する。
検知部55は、所定の状態にある受講者J、具体的にはジムP1にてレッスンを受講している状態の受講者Jを特定するものである。すなわち、レッスン受講中の受講者Jは、検知部55の検知対象である「特定対象者」に相当する。
識別部56は、検知部55がレッスン受講中の受講者Jを検知した場合に、当該受講者Jを認識するものである。識別部56は、検知部55がレッスン受講中の受講者Jを検知したときに、当該受講者Jの人物映像を解析する。具体的に説明すると、識別部56は、検知部55により検知されたレッスン受講中の受講者Jの顔部分の映像と、事前に登録された受講者Jの顔画像とを照合(マッチング)する画像解析を実施する。これにより、識別部56は、レッスン受講中の受講者Jが誰であるかを特定する。さらに、識別部56は、特定結果に基づき、レッスン受講中の受講者Jの識別情報(受講者ID)を特定する。
位置特定部57は、受講者側ユニット2から受信した映像中にレッスン受講中の受講者Jの人物映像が含まれているときに、当該人物映像の位置(厳密には、専用ブースP2に設置されたディスプレイ11に表示される映像における位置)を特定するものである。位置特定部57は、受講者側ユニット2から受信した映像と深度データとを受信すると、先に説明した手順に従ってレッスン受講中の受講者Jの人物映像の位置を特定する。
変化検出部58は、専用ブースP2でディスプレイ11の表示映像を確認しているインストラクターIの顔位置が移動したとき、当該位置の変化を検出するものである。変化検出部58がインストラクターIの顔位置の変化を検出すると、前述したように、受講者側ユニット2から受信した映像のうち、映像表示部54によって専用ブースP2のディスプレイ11に表示される範囲が、インストラクターIの顔位置の変化に応じて切り替わる。つまり、変化検出部58は、前述した覗き込み処理を開始する契機として、インストラクターIの顔位置の変化を検知する。
記憶部59は、図8に図示のセンサID記憶テーブル、及び、図9に図示の平均心拍数記憶テーブルを記憶している。また、記憶部59は、レッスン受講中の受講者Jの心拍数が異常値であるかどうかを判定するために設定された閾値を、受講者J毎に記憶している。その他、記憶部59には、受講者Jに関する個人情報やレッスン開始からの経過時間やカロリー消費量(具体的には、図5や6に図示したテキストボックスTyに表示する情報)を記憶している。
次に、運動指導用システム1を用いた運動指導の流れについて図10を参照しながら説明する。なお、以下に説明する運動指導用フローでは、本発明の映像表示方法が採用されている。すなわち、以下では、本発明の映像表示方法に関する説明として、当該映像表示方法を適用した運動指導用フローの手順を説明することとする。換言すると、以下に述べる運動指導用フロー中の各ステップは、本発明の映像表示方法の構成要素に相当することになる。
以上までに説明してきたように、本実施形態では、ジムP1にてレッスンを受講している受講者Jが居る場合、当該受講者Jの人物映像を含んだ映像が、専用ブースP2に設置されたディスプレイ11に表示される。このとき、レッスン受講中の受講者Jの心拍数に応じた情報(具体的には、心拍数の現在値を示すテキストボックスTx)が映像に重ねて表示される。このようにレッスン受講中の受講者Jについて映像とともに心拍数を確認することにより、当該受講者Jの状態(例えば、指導に対する理解度合い、疲労度、適切に身体を動かせているか等)を監視することが可能となる。
以上までに説明してきた実施形態(以下、第一実施形態)では、ウェアラブルセンサ20と受講者Jとの対応関係が予め決まっており、具体的には、図8に図示したセンサID記憶テーブルとして上記の対応関係が規定されていることとした。このため、第一実施形態では、あるウェアラブルセンサ20から心拍数の情報を取得した場合、上記のセンサID記憶テーブルを参照することで、どの受講者Jの心拍数であるかを特定することが可能である。また、第一実施形態では、受講者側ユニット2から受信した映像中に受講者Jの人物映像が含まれているとき、識別部56による画像識別機能(厳密には、顔画像識別機能)により、誰の映像であるのかを特定する。
以上までに本発明の映像表示装置及び映像表示方法について一例を挙げて説明してきたが、上記の実施形態では、あくまでも本発明の一実施形態に過ぎず、他の例も考えられる。具体的に説明すると、上記の実施形態では、レッスン受講中の受講者Jの心拍数を取得する際、当該受講者Jが装着しているウェアラブルセンサ20やスマートバンド40と直接通信することでレッスン受講中の受講者Jの心拍数を取得することとした。ただし、これに限定されるものではなく、レッスン受講中の受講者Jの心拍数についても、ウェアラブルセンサ20やスマートバンド40から直接受信するのではなく、生体情報記憶サーバ30と通信することで生体情報記憶サーバ30から取得してもよい。
2 受講者側ユニット
3 インストラクター側ユニット
4 第1のデータ処理端末
5 第2のデータ処理端末(映像表示装置)
11 ディスプレイ
12 スピーカ(機器)
13 カメラ
14 マイク
15 赤外線センサ
20 ウェアラブルセンサ(センサ)
30 生体情報記憶サーバ
40 スマートバンド(発信器)
41 心拍センサ(センサ)
42 加速度センサ(動作検出器)
51 生体情報取得部
52 情報解析部
53 映像送信部
54 映像表示部
55 検知部
56 識別部
57 位置特定部
58 変化検出部
59 記憶部
60 点呼用情報送信部
61 リスト作成部
100 運動指導用システム
D1 発信情報
D2 点呼用情報
I インストラクター(映像確認者)
J 受講者(対象者)
LJ 受講者リスト
P1 ジム
P2 専用ブース
Tx,Ty テキストボックス
Claims (13)
- センサによって計測された対象者の生体情報を、予め設定された時間間隔にて取得する生体情報取得部と、
撮影装置が撮影している映像を、ディスプレイに表示する映像表示部と、
前記映像中に含まれている人物映像の、前記映像における位置を特定する位置特定部と、
所定の状態にある前記対象者である特定対象者を検知する検知部と、を有し、
前記映像表示部は、前記特定対象者の前記人物映像を含む前記映像を前記ディスプレイに表示する際、前記特定対象者の前記人物映像について前記位置特定部が特定した前記位置に応じた領域に、前記生体情報取得部が前記時間間隔にて取得した前記特定対象者の前記生体情報に応じた情報を前記映像に重ねて表示し、
前記ディスプレイの前に居て前記ディスプレイにて前記特定対象者の前記人物映像を確認する映像確認者の顔位置、顔の向き及び視線のうち、少なくとも一つの変化を検出する変化検出部を有し、
該変化検出部が前記変化を検出すると、前記撮影装置が撮影した前記映像のうち、前記映像表示部によって前記ディスプレイに表示される範囲が前記変化に応じて切り替わることを特徴とする映像表示装置。 - センサによって計測された対象者の生体情報を、予め設定された時間間隔にて取得する生体情報取得部と、
撮影装置が撮影している映像を、ディスプレイに表示する映像表示部と、
前記映像中に含まれている人物映像の、前記映像における位置を特定する位置特定部と、
所定の状態にある前記対象者である特定対象者を検知する検知部と、を有し、
前記映像表示部は、前記特定対象者の前記人物映像を含む前記映像を前記ディスプレイに表示する際、前記特定対象者の前記人物映像について前記位置特定部が特定した前記位置に応じた領域に、前記生体情報取得部が前記時間間隔にて取得した前記特定対象者の前記生体情報に応じた情報を前記映像に重ねて表示し、
前記検知部が複数の前記特定対象者を検知したときに、
前記生体情報取得部は、前記特定対象者別に用意されており前記センサが搭載された発信器の各々から、前記センサにより計測された前記特定対象者の前記生体情報、及び、前記特定対象者に関する他の情報を取得し、
前記位置特定部は、
所定の動作を行った前記特定対象者の前記人物映像の前記位置を特定する第一処理と、
前記特定対象者別の前記発信器のうち、前記所定の動作を行った前記特定対象者に関する前記他の情報を送った前記発信器を特定する第二処理と、を実行し、
前記映像表示部は、前記所定の動作を行った前記特定対象者の前記人物映像を含む前記映像を前記ディスプレイに表示する際、前記位置特定部が前記第一処理にて特定した前記位置に応じた領域に、前記位置特定部が前記第二処理にて特定した前記発信器から前記生体情報取得部が取得した前記生体情報に応じた情報を前記映像に重ねて表示することを特徴とする映像表示装置。 - 前記検知部が前記特定対象者を検知している間、前記生体情報取得部は、通常時の前記時間間隔である第1時間間隔よりも短い第2時間間隔にて前記特定対象者の前記生体情報を取得し、
前記映像表示部は、前記特定対象者の前記人物映像を含む前記映像を前記ディスプレイに表示する際、前記生体情報取得部が前記第2時間間隔にて取得した前記特定対象者の前記生体情報に応じた情報を前記映像に重ねて表示することを特徴とする請求項1又は2に記載の映像表示装置。 - 前記映像表示部は、前記特定対象者の前記生体情報に応じた情報として前記映像に重ねて表示する情報の内容を、前記生体情報取得部が前記特定対象者の前記生体情報を取得する度に更新することを特徴とする請求項1乃至3のいずれか一項に記載の映像表示装置。
- 前記センサは、該センサを装着している前記対象者の活動度合いに応じて大きさが変化する前記生体情報を計測し、前記映像表示装置と通信可能であり、
前記検知部が検知した前記特定対象者を識別する識別部と、
前記対象者が装着している前記センサの識別情報を、前記対象者毎に記憶している記憶部と、を有し、
前記生体情報取得部は、前記識別部によって識別された前記特定対象者と対応付けられた前記センサの前記識別情報を前記記憶部から読み出し、読み出した前記識別情報によって特定される前記センサと通信することで前記特定対象者の前記生体情報を取得することを特徴とする請求項1乃至4のいずれか一項に記載の映像表示装置。 - 前記検知部は、所定の場所に居る前記特定対象者を検知し、
前記映像表示部は、前記所定の場所から離れた場所に設置された前記ディスプレイに前記映像を表示することを特徴とする請求項1乃至5のいずれか一項に記載の映像表示装置。 - 前記映像表示部は、前記特定対象者の前記生体情報に応じた情報を前記映像に重ねて表示する際、前記特定対象者の前記生体情報が予め設定された条件を満たしているか否かを判定し、判定結果に応じた表示態様にて、前記特定対象者の前記生体情報に応じた情報を表示することを特徴とする請求項1乃至6のいずれか一項に記載の映像表示装置。
- 前記生体情報取得部が通常時に前記時間間隔にて取得した前記生体情報を、前記対象者別に集計して前記対象者別に解析する情報解析部を更に有し、
前記映像表示部は、前記情報解析部の解析結果に応じて前記対象者別に設定された前記条件のうち、前記特定対象者と対応する前記条件を前記特定対象者の前記生体情報が満たしているかを判定することを特徴とする請求項7に記載の映像表示装置。 - 前記生体情報取得部は、前記特定対象者別に用意された前記発信器の各々から、前記発信器に搭載された動作検出器が前記特定対象者の動作を検出した際に生成する動作情報を前記他の情報として取得し、
前記位置特定部は、前記第二処理において、前記特定対象者別の前記発信器のうち、前記動作検出器が前記所定の動作を検出した際に生成した前記動作情報を送った前記発信器を特定することを特徴とする請求項2に記載の映像表示装置。 - 複数の前記特定対象者が居る場所に設置された機器を制御するための制御情報を送信する制御情報送信部を有し、
該制御情報送信部は、複数の前記特定対象者のうちの一人に対して前記所定の動作の実施を促すように前記機器を制御するための前記制御情報を送信し、
前記生体情報取得部は、前記特定対象者別に用意された前記発信器の各々から、前記特定対象者の名前を前記他の情報として取得し、
前記制御情報送信部は、前記一人に対して前記所定の動作の実施を促すように前記機器を制御するための前記制御情報として、前記一人の名前を示す音声を前記機器に発生させるための前記制御情報を送信し、
前記位置特定部は、前記第一処理において、前記音声への応答動作を行った前記特定対象者の前記人物映像の前記位置を特定することを特徴とする請求項2又は9に記載の映像表示装置。 - 前記位置特定部は、前記第一処理において、前記映像中に前記人物映像が映っている前記特定対象者の身体各部と前記特定対象者が居る場所において設定された基準位置との間の距離を示すデータに基づいて、前記所定の動作を行っている前記特定対象者の前記人物映像の前記位置を特定することを特徴とする請求項2、9、10のいずれか一項に記載の映像表示装置。
- コンピュータが、センサによって計測された対象者の生体情報を、予め設定された時間間隔にて取得することと、
コンピュータが、撮影装置が撮影している映像を、ディスプレイに表示することと、
コンピュータが、前記映像中に含まれている人物映像の、前記映像における位置を特定することと、
コンピュータが、所定の状態にある前記対象者である特定対象者を検知することと、を有し、
前記特定対象者の前記人物映像を含む前記映像を前記ディスプレイに表示する際には、前記特定対象者の前記人物映像について特定した前記位置に応じた領域に、前記時間間隔にて取得した前記特定対象者の前記生体情報に応じた情報を前記映像に重ねて表示し、
前記ディスプレイの前に居て前記ディスプレイにて前記特定対象者の前記人物映像を確認する映像確認者の顔位置、顔の向き及び視線のうち、少なくとも一つの変化を検出することを有し、
該変化を検出すると、前記撮影装置が撮影した前記映像のうち、前記ディスプレイに表示される範囲が前記変化に応じて切り替わることを特徴とする映像表示方法。 - コンピュータが、センサによって計測された対象者の生体情報を、予め設定された時間間隔にて取得することと、
コンピュータが、撮影装置が撮影している映像を、ディスプレイに表示することと、
コンピュータが、前記映像中に含まれている人物映像の、前記映像における位置を特定することと、
コンピュータが、所定の状態にある前記対象者である特定対象者を検知することと、を有し、
前記特定対象者の前記人物映像を含む前記映像を前記ディスプレイに表示する際には、前記特定対象者の前記人物映像について特定した前記位置に応じた領域に、前記時間間隔にて取得した前記特定対象者の前記生体情報に応じた情報を前記映像に重ねて表示し、
複数の前記特定対象者を検知したときには、
前記特定対象者別に用意されており前記センサが搭載された発信器の各々から、前記センサにより計測された前記特定対象者の前記生体情報、及び、前記特定対象者に関する他の情報を取得し、
所定の動作を行った前記特定対象者の前記人物映像の前記位置を特定する第一処理と、
前記特定対象者別の前記発信器のうち、前記所定の動作を行った前記特定対象者に関する前記他の情報を送った前記発信器を特定する第二処理と、を実行し、
前記所定の動作を行った前記特定対象者の前記人物映像を含む前記映像を前記ディスプレイに表示する際には、前記第一処理にて特定した前記位置に応じた領域に、前記第二処理にて特定した前記発信器から取得した前記生体情報に応じた情報を前記映像に重ねて表示することを特徴とする映像表示方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US16/066,488 US20190150858A1 (en) | 2015-12-28 | 2016-12-26 | Image display device and image display method |
PCT/JP2016/088629 WO2017115740A1 (ja) | 2015-12-28 | 2016-12-26 | 映像表示装置及び映像表示方法 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015256875 | 2015-12-28 | ||
JP2015256875 | 2015-12-28 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017120366A JP2017120366A (ja) | 2017-07-06 |
JP6815104B2 true JP6815104B2 (ja) | 2021-01-20 |
Family
ID=59271902
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016116538A Active JP6815104B2 (ja) | 2015-12-28 | 2016-06-10 | 映像表示装置及び映像表示方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20190150858A1 (ja) |
JP (1) | JP6815104B2 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6458782B2 (ja) * | 2016-07-28 | 2019-01-30 | カシオ計算機株式会社 | 表示制御装置、表示制御方法及びプログラム |
JP7034808B2 (ja) * | 2018-04-03 | 2022-03-14 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | 情報処理方法、情報処理装置及び情報処理システム |
CN113040752A (zh) * | 2019-12-26 | 2021-06-29 | 周萌 | 一种基于心率的运动量监测方法和系统 |
JP7388199B2 (ja) | 2020-01-14 | 2023-11-29 | コニカミノルタ株式会社 | 生体情報収集システム、生体情報収集方法及びプログラム |
WO2023105887A1 (ja) * | 2021-12-07 | 2023-06-15 | 株式会社Abelon | 情報処理装置、情報処理方法、および記録媒体 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002042279A (ja) * | 2000-07-27 | 2002-02-08 | Seiko Precision Inc | 自動緊急警報装置及び自動緊急警報出力方法 |
JP2007265032A (ja) * | 2006-03-28 | 2007-10-11 | Fujifilm Corp | 情報表示装置、情報表示システムおよび情報表示方法 |
US9171221B2 (en) * | 2010-07-18 | 2015-10-27 | Spatial Cam Llc | Camera to track an object |
US9025024B2 (en) * | 2011-09-28 | 2015-05-05 | Xerox Corporation | System and method for object identification and tracking |
US9621684B2 (en) * | 2013-02-07 | 2017-04-11 | Under Armour, Inc. | Method and arrangement for monitoring physiological data |
JP6182917B2 (ja) * | 2013-03-15 | 2017-08-23 | ノーリツプレシジョン株式会社 | 監視装置 |
JP5506989B1 (ja) * | 2013-07-11 | 2014-05-28 | パナソニック株式会社 | 追跡支援装置、追跡支援システムおよび追跡支援方法 |
JP6253311B2 (ja) * | 2013-08-28 | 2017-12-27 | キヤノン株式会社 | 画像処理装置、画像処理方法 |
JP2015233250A (ja) * | 2014-06-10 | 2015-12-24 | キヤノン株式会社 | 画像処理装置及びその制御方法 |
-
2016
- 2016-06-10 JP JP2016116538A patent/JP6815104B2/ja active Active
- 2016-12-26 US US16/066,488 patent/US20190150858A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
JP2017120366A (ja) | 2017-07-06 |
US20190150858A1 (en) | 2019-05-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6815104B2 (ja) | 映像表示装置及び映像表示方法 | |
CN108289613B (zh) | 用于生理监测的系统、方法和计算机程序产品 | |
JP6253311B2 (ja) | 画像処理装置、画像処理方法 | |
US9436277B2 (en) | System and method for producing computer control signals from breath attributes | |
CN112584753A (zh) | 基于视频的患者监测系统以及用于检测和监测呼吸的相关方法 | |
TW201820279A (zh) | 訓練並監測吸入器藥物投與之系統及方法 | |
CN107077214A (zh) | 用于在医院中使用的通信的方法和系统 | |
KR102632408B1 (ko) | 웨어러블 디바이스 기반의 운동 관리 시스템 | |
CN107667398A (zh) | 心肺复苏指导方法、计算机程序产品和系统 | |
CN107257651A (zh) | 医学监测的场景检测 | |
KR100822476B1 (ko) | 원격 응급상황 모니터링 시스템 및 방법 | |
JP6579411B1 (ja) | 介護設備又は病院用の監視システム及び監視方法 | |
WO2017115740A1 (ja) | 映像表示装置及び映像表示方法 | |
KR102211723B1 (ko) | 스마트 관리 시스템 | |
Khawandi et al. | Integrated monitoring system for fall detection in elderly | |
JP6583953B1 (ja) | 医療用装身器具の自己抜去監視システム及び医療用装身器具の自己抜去監視方法 | |
US20230397877A1 (en) | Swallowing capture and remote analysis systems including motion capture | |
WO2022019001A1 (ja) | 評価装置、評価方法及びプログラム | |
ES2890715B2 (es) | Sistema para analizar una practica de actividad motora con participantes | |
WO2023026738A1 (ja) | 情報処理装置、表示システム、表示制御方法及びプログラムが格納された非一時的なコンピュータ可読媒体 | |
JP6621127B1 (ja) | 医療用装身器具の自己抜去監視システム及び医療用装身器具の自己抜去監視方法 | |
JP2016147011A (ja) | 所定の空間における生体情報取得装置、生体情報取得方法及び生体情報取得プログラム | |
JP2023000524A (ja) | 情報管理システム | |
Meinich-Bache | Automatic Video Analysis in Resuscitation | |
JP2015202120A (ja) | 解析装置、解析方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190329 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200512 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200618 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201201 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201222 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6815104 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |