JP2022163211A - 生体情報表示装置、生体情報表示方法及び生体情報表示プログラム - Google Patents

生体情報表示装置、生体情報表示方法及び生体情報表示プログラム Download PDF

Info

Publication number
JP2022163211A
JP2022163211A JP2022130134A JP2022130134A JP2022163211A JP 2022163211 A JP2022163211 A JP 2022163211A JP 2022130134 A JP2022130134 A JP 2022130134A JP 2022130134 A JP2022130134 A JP 2022130134A JP 2022163211 A JP2022163211 A JP 2022163211A
Authority
JP
Japan
Prior art keywords
information display
display screen
respiratory
pacer
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022130134A
Other languages
English (en)
Inventor
忠則 手塚
Tadanori Tezuka
剛 中村
Takeshi Nakamura
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2022130134A priority Critical patent/JP2022163211A/ja
Publication of JP2022163211A publication Critical patent/JP2022163211A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/742Details of notification to user or communication with user or patient ; user input means using visual displays
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024Detecting, measuring or recording pulse rate or heart rate
    • A61B5/02405Determining heart rate variability
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0077Devices for viewing the surface of the body, e.g. camera, magnifying lens
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/0205Simultaneously evaluating both cardiovascular conditions and different types of body conditions, e.g. heart and respiratory condition
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/08Detecting, measuring or recording devices for evaluating the respiratory organs
    • A61B5/0816Measuring devices for examining respiratory frequency
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/44Detecting, measuring or recording for evaluating the integumentary system, e.g. skin, hair or nails
    • A61B5/441Skin evaluation, e.g. for skin disorder diagnosis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/48Other medical applications
    • A61B5/486Bio-feedback

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Veterinary Medicine (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Physics & Mathematics (AREA)
  • Public Health (AREA)
  • Cardiology (AREA)
  • Physiology (AREA)
  • Pulmonology (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Dermatology (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

【課題】心拍変動バイオフィードバックを行う際の使い勝手を向上させる。【解決手段】生体情報表示装置10は、カメラ11と、モニタ12と、処理部としてのCPU13、DSP14とを有し、筐体においてカメラ11とモニタ12とが同一面上に配置される。カメラ11において、撮像画像から被観察者の顔の皮膚部分を含む検出領域の映像データを取得し、処理部において、映像データから人の脈波の情報を含む生体情報を取得するとともに、生体情報を用いて心拍変動バイオフィードバックを行うための、被観察者の呼吸を補助する呼吸アシスタントを含む情報表示画面を生成する。情報表示画面において、呼吸アシスタントの少なくとも一部が、カメラ11を通る直線上に配置され、カメラ11を通る直線はカメラ11に最も近いモニタ12の外周端辺と垂直に交わる。【選択図】図1

Description

本開示は、人の生体情報を検出して表示する生体情報表示装置、生体情報表示方法及び生体情報表示プログラムに関する。
人の生体情報を検出するバイタルセンシング技術は、例えば在宅医療や健康管理の分野にとどまらず、運転中の眠気検知、ゲーム中のユーザの心理状態の取得、監視システムでの異常者検知等、多岐にわたる分野への応用が期待されている。バイタルセンシング技術を応用して、心拍、呼吸、脈波等の生体情報から、人の自律神経系の状態を解析し、精神的ストレスを評価する方法が種々研究されている。また、このような精神的ストレス評価方法を用い、ユーザに生体情報を提供することにより、自律神経系の副交感神経の活性を増加させ、ストレスの緩和を図るいわゆる心拍変動バイオフィードバックを行う装置が提案されている(例えば、特許文献1参照)。
特表2008-536648号公報
従来の心拍変動バイオフィードバックを行う装置は、生体情報を検出するセンサ部を人の身体に接触させて使用する構成となっている。このため、使用時にユーザ自身がセンサ部を装着する、或いはセンサ部に指などを常時接触させるなどの煩雑な手間が要求されていた。このように、従来の装置では、使用環境が限定されるという課題があり、使い勝手の改善が望まれる。
本開示は、上述した従来の事情に鑑みて案出され、心拍変動バイオフィードバックを行う際の使い勝手を向上できる生体情報表示装置、生体情報表示方法及びプログラムを提供することを目的とする。
本開示は、被観察者を撮像し、映像データを取得する撮像部と、前記映像データから前記被観察者の生体情報を取得するとともに、前記生体情報を用いてバイオフィードバックを行うための情報表示画面を生成する処理部と、前記情報表示画面を表示する表示部と、を有し、前記処理部は、前記バイオフィードバックを行う前記被観察者を補助するアシスタントを含む前記情報表示画面を前記表示部に配置し、前記情報表示画面は、前記被観察者の呼吸及び心拍の状態を示すインジケータと、前記映像データから前記被観察者の顔領域を抽出した顔画像表示と、を含む、生体情報表示装置を提供する。
また、本開示は、被観察者を撮像する撮像部と、バイオフィードバックを行う前記被観察者を補助するアシスタントを含む情報表示画面を生成する処理部と、前記情報表示画面を表示する表示部と、を備える生体情報表示装置が行う生体情報表示方法であって、前記被観察者を撮像した映像データを取得し、前記映像データから前記被観察者の生体情報を取得し、前記生体情報を用いて、前記被観察者の呼吸及び心拍の状態を示すインジケータと、前記映像データから前記被観察者の顔領域を抽出した顔画像表示と、を含む前記情報表示画面を生成して、前記表示部に配置する、生体情報表示方法を提供する。
また、本開示は、被観察者を撮像する撮像部と、バイオフィードバックを行う前記被観察者を補助するアシスタントを含む情報表示画面を生成する処理部と、前記情報表示画面を表示する表示部と、を備えるコンピュータである生体情報表示装置に、前記被観察者を撮像した映像データを取得するステップと、前記映像データから前記被観察者の生体情報を取得するステップと、前記生体情報を用いて、前記被観察者の呼吸及び心拍の状態を示すインジケータと、前記映像データから前記被観察者の顔領域を抽出した顔画像表示と、を含む前記情報表示画面を生成して、前記表示部に配置するステップと、を実現させるための、生体情報表示プログラムを提供する。
本開示によれば、心拍変動バイオフィードバックを行う際の使い勝手を向上させることができる。
本実施の形態に係る生体情報表示装置の構成の一例を示すブロック図 人の心臓の収縮と光の血管における吸収量との関係の一例を模式的に示す図 光の強度の時系列変化の一例を示す図 ヘモグロビンにおける光の波長毎の吸収率の一例を示す図 撮像画像の映像信号より抽出した生体情報の各信号の一例を示す図 本実施の形態に係る生体情報表示装置の情報表示画面の一例(表示例1)を説明する図 比較例に係る情報表示画面の一例を説明する図 本実施の形態に係る心拍変動バイオフィードバックの動作時の処理手順を示すフローチャート RRIの出力タイミングを説明する図 本実施の形態に係る情報表示画面の表示例2を示す図 本実施の形態に係る情報表示画面の表示例3を示す図 本実施の形態に係る情報表示画面の表示例4を示す図 本実施の形態に係る情報表示画面における呼吸ペーサの表示例1を示す図 本実施の形態に係る情報表示画面における呼吸ペーサの表示例2を示す図 本実施の形態に係る情報表示画面における呼吸ペーサの表示例3を示す図 本実施の形態に係る情報表示画面における呼吸ペーサの表示例4を示す図 本実施の形態に係る情報表示画面における呼吸ペーサの表示例5を示す図 本実施の形態に係る情報表示画面における呼吸ペーサの表示例6を示す図 本実施の形態に係る心拍変動バイオフィードバックの情報表示画面の向き変化時の処理手順を示すフローチャート 本実施の形態に係る生体情報表示装置の情報表示画面の一例(表示例5)を説明する図 比較例に係る情報表示画面の一例を説明する図 本実施の形態に係る情報表示画面のGUIの配置例1を示す図 本実施の形態に係る情報表示画面のGUIの配置例1を示す図 本実施の形態に係る情報表示画面のGUIの配置例2を示す図 本実施の形態に係る情報表示画面のGUIの配置例2を示す図 本実施の形態に係る情報表示画面のGUIの配置例3を示す図 本実施の形態に係る情報表示画面のGUIの配置例3を示す図 本実施の形態に係る情報表示画面のGUIの配置例4を示す図 本実施の形態に係る情報表示画面のGUIの配置例4を示す図
以下、適宜図面を参照しながら、本開示に係る生体情報表示装置、生体情報表示方法及び生体情報表示プログラムを具体的に開示した各実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面及び以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。
(本開示の各実施の形態の内容に至る経緯)
本実施の形態では、心拍変動バイオフィードバックを行うための生体情報を表示する生体情報表示装置として、撮像画像を用いて非接触で生体情報を検出し表示する構成の一例を示す。
心拍変動バイオフィードバックを行う際に、従来の装置では、生体情報を検出するセンサ部を人の身体に接触させる構成となっており、使用時にユーザ自身がセンサ部を装着する、或いはセンサ部に指などを常時接触させるなどの煩雑な手間が要求されていた。この点を考慮し、心拍変動バイオフィードバックにおいて、非接触で生体情報を検出する場合を想定する。
非接触で生体情報を検出する方法の一つとして、カメラの撮像により得られた画像から心拍、脈波等の生体情報を推定する技術が提案されている。撮像画像から生体情報を検出する場合、公知の顔検出技術を用いて、ユーザである被観察者の顔の領域を検出し、顔の領域を皮膚の領域として画像内の所定の検出領域に設定し、所定の検出領域から生体情報を検出する。この場合、以下の2点を考慮することによって、高精度の生体情報の検出が可能となる。
(1)カメラに対してユーザの顔ができるだけ正面に位置するようにする。これにより、顔検出の処理が正常に実行でき、また、顔領域(すなわち皮膚領域)の面積をできるだけ大きくできるため、心拍の測定を精度良く行える。
(2)ユーザの顔ができるだけ動かないようにする。これにより、心拍の測定を安定的に実行でき、より高精度に生体情報を検出できる。
そこで、以下の実施の形態では、ユーザの顔を撮像して撮像画像から非接触で生体情報を検出し、心拍変動バイオフィードバックを行うことによって、使い勝手を向上させることが可能な構成例を開示する。また、カメラに対してユーザの顔を正面に位置させ、顔が動かないようにすることによって、高精度な生体情報の検出が可能となり、適切な心拍変動バイオフィードバックを行うことが可能な構成例を開示する。
(生体情報表示装置の構成)
図1は、本実施の形態に係る生体情報表示装置の構成の一例を示すブロック図である。生体情報表示装置10は、例えば、ノートPC(Personal Computer)、タブレット端末、スマートフォン等の情報処理装置によって構成することができる。生体情報表示装置10は、撮像部、処理部、表示部を含む。撮像部と表示部とは、一体的に構成されたものでもよいし、別体に構成され互いに組み合わせて取り付けられたものでもよい。
生体情報表示装置10は、撮像部の一例としてのカメラ11と、表示部の一例としてのモニタ12と、処理部を構成するCPU(Central Processing Unit)13、DSP(Digital Signal Processor)14、メモリ15とを有する。生体情報表示装置10は、装置筐体においてカメラ11とモニタ12とが同一面上に配置される。ここで、同一面上とは、ユーザから見てカメラ11及びモニタ12の両方が見える状態であれば、同一面上に配置されているといえる。なお、カメラ11とモニタ12との配置は、同一面上であればよく、例えばカメラ11がモニタ12よりも突出した位置にあるなど、必ずしも同一平面上でなくともよい。また、生体情報表示装置10は、モニタ12の表示画像の天地方向を検出するセンサ16と、カメラ11の撮像信号及び制御信号を入出力するカメラ用インタフェース17と、モニタ12の映像信号及び制御信号を入出力する表示用インタフェース18と、各部を接続するバス19とを有する。生体情報表示装置10は、CPU13、DSP14、メモリ15、センサ16、カメラ用インタフェース17、及び表示用インタフェース18が、バス19によって互いに接続され、装置の動作における各種の信号又はデータがやり取りされる。
カメラ11は、撮像レンズと、CCD(Charge Coupled Device)型イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)型イメージセンサ等による撮像デバイスと、を有する。カメラ11は、ユーザである被観察者の顔を撮像し、顔の皮膚部分を含む所定の検出領域の映像データを取得して出力する。カメラ11は、カメラ用インタフェース17を介してCPU13、DSP14、メモリ15等と接続され、撮像したユーザの顔領域を含む映像データを出力する。
モニタ12は、例えばLCD(Liquid Crystal Display)又は有機EL(ElectroLuminescence)ディスプレイ等の表示デバイスを用いて構成される。モニタ12は、表示用インタフェース18を介してCPU13、DSP14、メモリ15等と接続され、画面に表示出力する映像データを入力し、生体情報表示装置10の動作時の情報表示画面、設定画面等の各種情報を表示する。モニタ12は、動作時の情報表示画面において、心拍変動バイオフィードバックのための、呼吸のペースを指示する呼吸ペーサ、ユーザの呼吸及び心拍の状態(判定結果)を示すインジケータ、生体情報の測定結果等を含む各種情報を表示する。カメラ11は、モニタ12の情報表示画面の外周端辺近傍に配置される。情報表示画面の詳細については後述する。
CPU13は、情報処理装置の各部の処理を実行するプロセッサの一例であり、生体情報の取得、生体情報の表示、心拍変動バイオフィードバック用のモニタ表示等における各動作を制御する。DSP14は、情報処理装置におけるデータ処理を実行するプロセッサの一例であり、生体情報に関する信号処理、モニタ表示に関する画像処理等の処理を実行する。メモリ15は、例えばSRAM(Static Random Access Memory)、フラッシュメモリ等の記憶デバイスにより構成され、装置の動作プログラム、設定情報、情報表示画面の部品情報、取得した生体情報等の各種データを記憶する。また、メモリ15は、動作時の各種処理におけるワーキングメモリとして機能する。
センサ16は、検出部の一例として機能するもので、例えば6軸センサを有して構成され、3軸方向の加速度検知によってカメラ11及びモニタ12を含む装置筐体(端末)の向き、回転を検出する。センサ16は、カメラ11の位置を検出するものであってもよい。これにより、センサ16は、モニタ12の表示画像である情報表示画面の天地方向、カメラ11の位置(モニタ12の情報表示画面に対するカメラの配置)、モニタ12の向き、カメラ11とモニタ12の情報表示画面との位置関係などを検出することが可能である。
(生体情報の検出)
ここで、本実施の形態の生体情報表示装置における生体情報の一例としての脈波の検出原理について、図2A及び図2Bを参照して説明する。図2Aは、人の心臓の収縮と光の血管における吸収量との関係の一例を模式的に示す図である。図2Bは、光の強度の時系列変化の一例を示す図である。
図2Aでは、人の心臓の収縮(systole)に同期して血管の容積が変化することが示されている。心臓の収縮に応じて血管の容積が増大すると、光(例えば図3に示す特定波長域の光)の吸収量が増大するので、光の強度(Light intensity)も減少する(図2B参照)。なお、脈波とは、血液が心臓の収縮により大動脈に押し出された時に発生した血管内の圧力変化が末梢方向に伝わっていく時の波の動きを示す。
図2Bでは、横軸は時間を示し、縦軸は光の吸収量の変化によって得られた信号(光電脈波)の強度を示す。つまり、図2Bにおいて、ピークが現れている時は光の吸収量が少ないので血管の容積が増大していない状態になっており、極小値が現れている時には光の吸収量が多いので血管の容積が増大している状態となっている。なお、心臓と末梢部分との距離によって完全には同期しておらず多少の遅延は見られるが、心臓の収縮と光電脈波の強度の変化とは基本的に同期して変動している。
図3は、ヘモグロビンにおける光の波長毎の吸収率の一例を示す図である。図3では、例えばヘモグロビン(血液)は400nmの波長(つまり緑色)を吸収し易いことが示されている。なお、以下の各実施の形態では緑色の光の成分の吸収率が高いことを利用して説明するが、他には例えば赤色の光(例えば1000nmを超える波長)の成分の反射率が高いことを利用して説明してもよい。
図4は、撮像画像の映像信号より抽出した生体情報の各信号の一例を示す図である。本実施の形態の生体情報表示装置10では、撮像部のカメラ11にて取得したユーザの顔の映像データを用いて、検出領域における皮膚部分の動画像の映像から脈波を検出し、心拍数等の生体情報を演算により求める。
まず、処理部のDSP14において、カメラ11による撮像画像の映像データを入力し、撮像画像の中から公知の顔検出処理を行って顔領域を抽出し、顔領域における肌色を認識して顔の肌色の皮膚領域(肌領域)を抽出する。処理部は、抽出した肌領域において脈波を検出する。
このとき、処理部のDSP14において、所定のフィルタ係数を有するバンドパスフィルタを有するフィルタ部を構成し、肌色変動を有する映像データのフィルタ処理を行う。フィルタ部は、入力された映像データの所定範囲の信号(画素値)を平均化することで、例えばカメラ11の撮像時に含まれたノイズ信号を除去する。この平均化により、撮像画像の検出領域内に人が存在する場合、人の脈波が抽出され得るが、まだ身体の動き成分やノイズの残留成分が含まれている可能性が高いので、フィルタ部は、設定されたフィルタ係数を用いて、脈波の基本周波数以外の周波数成分をカットする。フィルタ部のフィルタ係数は、例えば30~120bpmの信号がフィルタ部を通過するように予め設定されている。一般に安静時の成人の心拍は60~80bpmであるが、被観察者の緊張時の影響も考慮し、ここではフィルタ部の通過対象範囲を30~120bpmと設定している。
また、処理部のDSP14において、波形検定部及び心拍推定部を構成し、脈波の基本周波数波形に対する波形検定処理及び心拍推定処理を行う。波形検定部は、フィルタ部の出力信号の少なくとも1周期分の信号を用いて、フィルタ部においてカットできなかったノイズ信号の区間を検出するために、ノイズ信号に該当する所定条件を満たす信号の区間があるか否かを判断する。波形検定部は、所定条件を満たすと判断した出力信号の区間を無効(invalid)区間として排除する。波形検定部は、例えば、所定値(例えばゼロ)に比べて、極端に大きい信号、及び極端に小さい信号を排除する。波形検定部の処理は、人の脈波の振幅が一定幅の中で緩やかに変化するという知見を利用しており、所定条件を満たす信号は外乱ノイズである可能性が高いことになる。
心拍推定部は、フィルタ処理及び波形検定処理後の少なくとも1周期分の信号を用いて、画像データのフレームの入力間隔に基づき、人の心拍数(脈拍数)(Pulse rate)を算出する。心拍推定部は、波形検定部において所定条件を満たす信号の区間があると判断した場合、該当する信号の区間を排除した少なくとも1周期分の信号を用いて、心拍数を算出する。一方、心拍推定部は、波形検定部において所定条件を満たす信号の区間がないと判断した場合、少なくとも1周期分の出力信号をそのまま用いて心拍数を推定する。
また、フィルタ処理及び波形検定処理後の信号は、脈波の信号成分と同等の周期を有する。このため、図4に示すように、撮像画像の肌色変動の信号に対してフィルタ処理及び波形検定処理することにより、心拍数を算出可能であるとともに、心拍間隔(RRI:RR Interval)等の生体情報を抽出できる。なお、生体情報として、RRIの他に、呼吸性洞性不整脈成分(RSA:Respiratory Sinus Arrhythmia)、血圧性変動(MWSA:Mayer Wave related Sinus Arrhythmia)などを算出することも可能であり、これらの生体情報を用いて心拍変動バイオフィードバックを行うこともできる。
図5Aは、本実施の形態に係る生体情報表示装置の情報表示画面の一例(表示例1)を説明する図である。図示例は、ノートPCを用いた生体情報表示装置の例を示している。
生体情報表示装置10において、モニタ12には、心拍変動バイオフィードバックのための情報表示画面30が表示される。モニタ12の近傍には、モニタ12の表示画面の外周端の長辺外側(外周端辺の長い辺)の中央部に、カメラ11が配置される。情報表示画面30は、心拍変動バイオフィードバックに関するGUI(Graphical User Interface)を有する。情報表示画面30は、GUIとして、呼吸を補助する呼吸アシスタントを含む。呼吸アシスタントは例えば、呼吸のペースを指示する呼吸ペーサ31、ユーザの呼吸及び心拍の状態を示すインジケータ32などを含む。呼吸ペーサ31及びインジケータ32は、情報表示画面30において、カメラ11に最も近い長辺の近傍の領域に配置される。呼吸アシスタントの表示は、例えば、呼吸ペーサだけ、インジケータだけ、呼吸ペーサとインジケータの両方を表示する、或いは、両方とも表示しないなど、種々の表示パターンが可能である。なお、呼吸アシスタントは、表示をオフした場合であっても、呼吸ペーサ、インジケータ等の機能の動作は継続している。情報表示画面30は、ユーザの顔の検出領域の顔画像表示33、撮像画像から抽出した脈波を含む変動成分表示34を含んでよい。また、情報表示画面30は、検出した各種の生体情報表示35、停止ボタン(EXIT)36、表示切替ボタン(PAGE1、PAGE2)37を含んでよい。ユーザは、情報表示画面30の表示態様を任意に設定変更可能である。ユーザが操作に慣れてくると、呼吸ペーサ及びインジケータのいずれか一方或いは両方をあえて表示しない状態で、心拍変動バイオフィードバックを実行することも可能である。
呼吸ペーサ31は、例えば情報表示画面30において横長のGUIであり、ガイドとなる円状のマークが三角山型の軌跡を長手方向に移動することによって、ユーザに対して吸気(吸って)、呼気(吐いて)のペース、タイミングを指示するガイド表示である。インジケータ32は、ユーザの呼吸と心拍との相関に応じて、心拍が適切なリズムを刻めているかどうかを示す判定結果のフィードバック情報を表した指標表示である。例えば、ユーザの呼吸と心拍との相関に応じて、心拍が適切なリズムを刻めていると判定される場合、インジケータ32は徐々に増大する。また、インジケータはユーザが呼吸ペーサ31通りに呼吸出来ているかどうかを示す判定結果のフィードバック情報を表した指標表示である。例えば、ユーザが呼吸ペーサ31通りに呼吸出来ている場合、インジケータ32は徐々に増大する。インジケータ32は、例えば情報表示画面30において横長のGUIであり、バー表示の色、色の割合などによって、心拍変動が安定した状態であるかどうかをユーザに通知する。インジケータ32は、バー表示の場合、バーの色の変化などの状態変化によるもの、或いはバーの色やバーの長さが長手方向に移動するものなどを用いてよい。インジケータ32の表示色としては、例えば、心拍変動が安定していない状態を赤、不安定な状態から少し安定方向に推移した状態を黄色、さらに安定方向に推移した状態を青色、心拍変動が安定している状態を緑で表示し、ユーザにとって一目で直感的に心拍変動の状態を認識できるようにする。インジケータ32のバーの長さを変化させる場合、例えば、心拍変動が安定していない状態ではバーを短く、安定方向に推移するにしたがってバーの長さを延長し、心拍変動が安定している状態ではバーを長く表示する。
ユーザが呼吸ペーサ31の指示に従って心拍変動バイオフィードバックを実行することにより、インジケータ32は例えば赤→黄→青→緑のように安定状態の表示に変化していく。精神的ストレスが少なく、自律神経系の副交感神経の働きが優位になると、心拍変動が大きくなる。このとき、RRIのゆらぎは大きくなり、一般的に、RRIの値は大きくなる。
顔画像表示33は、撮像画像中の顔の検出領域を抽出して示したものであり、例えば図において格子状部分が顔の皮膚領域を示している。顔画像表示33において、皮膚領域の面積が大きいほど、より高精度にRRI等の生体情報を検出可能である。RRIは、例えば図において変動成分表示34の波形の山の頂点の間隔によって算出できる。
本実施の形態では、モニタ12の情報表示画面30の長辺方向の中央部にカメラ11が位置している。そして、情報表示画面30において、カメラ11に最も近い長辺の近傍の領域に呼吸ペーサ31及びインジケータ32が位置している。これにより、カメラ11による撮像時の画角は、ユーザの顔を撮像して生体情報を取得するために適切なアングルとなる。したがって、心拍変動バイオフィードバックを行う際に、ユーザが情報表示画面30の呼吸ペーサ31を見るために顔を向けると、自然に(自動的に)カメラ11の撮像画像によって心拍を計測する場合に適した撮像位置及びアングルにユーザの顔が撮影されるようになる。また、カメラ11と情報表示画面30の呼吸ペーサ31等の位置関係、距離によって、撮像画像におけるユーザの顔領域のサイズを、適切な大きさに設定可能となる。また、情報表示画面30において、ユーザが視線移動だけで、或いはできるだけ視線移動が無い状態で確認できる範囲に、呼吸ペーサ31及びインジケータ32が配置される。
情報表示画面30における呼吸ペーサ31及びインジケータ32の配置は、例えば、センサ16により検出したカメラ11の位置、モニタ12及び情報表示画面30の向き、カメラ11と情報表示画面30との相対位置の位置関係などに応じて設定する。なお、カメラ11の位置、カメラ11とモニタ12の情報表示画面30との位置関係は、ユーザによる初期設定の情報、装置を動作させるOS(Operating System)から取得する情報、装置のデフォルト設定として設定された情報、装置の端末情報から取得する情報など、いずれかの情報に基づいて検出可能である。
このため、図5A中の右下に示した撮像画像40のように、ユーザが呼吸ペーサ31又はインジケータ32を見ている際に、カメラ11によって常に顔のほぼ正面の撮像画像を得ることができる。これにより、ユーザの顔検出が容易であり、顔の肌色の皮膚領域(肌領域)を大きく安定して取得できる。また、ユーザの顔の動きを抑制でき、顔が動いた場合であってもカメラ11に対する角度変化が小さいので、顔の動きの影響を小さくできる。したがって、撮像画像から心拍を取得する際の心拍の乱れを抑制でき、心拍変動に関する生体情報を安定的に取得可能であり、生体情報の検出精度を向上できる。また、撮像画像を用いて非接触で生体情報を検出し、心拍変動バイオフィードバックを行うことによって、使い勝手を向上させることができる。
カメラ11は、ノートPC、タブレット端末、スマートフォン等のように、装置筐体においてモニタ12の外周端辺近傍に一体的に配置して構成するのが好ましい。この場合、カメラ11は、モニタ12の情報表示画面30の中央部の上下いずれかに配置する。カメラ11は、ユーザの顔画像撮像時の画角の適性及び肌領域の検出の安定性の観点から、情報表示画面30の上側中央部に配置するのがより好ましい。また、情報表示画面30において、呼吸ペーサ31及びインジケータ32等の主要なGUIは、画面の左右方向では中央部領域、上下方向では上側領域に、できるだけカメラ11に近い領域に配置する。また、情報表示画面30は、カメラ11の位置と情報表示画面30の天地方向に応じて横長画面又は縦長画面を決定する。これにより、心拍変動バイオフィードバックを行う際に、ユーザは視線移動だけで、できるだけ視線移動が無い状態で、呼吸ペーサ31及びインジケータ32を確認できる。
また、カメラ11は、モニタ12とは別体に構成され互いに組み合わせて取り付けられたものでもよい。この場合、カメラ11は、ブラケット等の取り付け部材によってモニタ12の近傍に装着される。カメラ11とモニタ12の情報表示画面30との位置関係は、上記のカメラ11及びモニタ12を一体的に配置した場合と同様であり、カメラ11に近い領域に呼吸ペーサ31及びインジケータ32等の主要なGUIを配置する。
また、カメラ11がモニタ12の情報表示画面30の中央部に位置しておらず、左右いずれかに偏っている場合、情報表示画面30における呼吸ペーサ31及びインジケータ32等の主要なGUIは、カメラ11に近い側の領域に寄せて配置する。また、カメラ11をモニタ12の情報表示画面30の中央部から左右いずれか側方に変位させて配置し、カメラ11の撮像光学系にレンズシフト機能を持たせて、斜め方向から撮像してユーザの顔を正面から見た撮像画像を得るような構成としてもよい。
カメラ11の配置情報は、ユーザが初期設定によって設定して位置登録する、装置端末の機種に応じた位置情報を取得する、OSの設定情報から取得する、予め設定したデフォルト設定の位置情報を用いるなど、種々の方法によって取得すればよい。装置端末の機種に対応するカメラ位置情報を取得する場合、例えば、装置の端末情報(機種情報)と端末種別毎のカメラ位置データベースとを参照し、該当機種におけるカメラ位置情報を取得することが可能である。
なお、呼吸ペーサ31とインジケータ32は、別々のGUIの表示によって表現するものに限定されず、呼吸ペーサ31とインジケータ32を一体的なGUIの表示によって表現するものであってもよい。例えば、GUIの動きやサイズ変化等によって呼吸ペーサを表現し、GUIの色変化等によってインジケータを表現することが可能である。また、生体情報表示装置にスピーカ等の発音部を設け、呼吸ペーサとして、情報表示画面の表示と共に、発音部から発声する音を用い、ユーザに呼吸タイミングを指示する構成としてもよい。また、情報表示画面には呼吸ペーサのみを表示し、インジケータとして、発音部から発声する音を用いて、音によって呼吸変動の状態をユーザに通知する構成としてもよい。
図5Bは、比較例に係る情報表示画面の一例を説明する図である。図5Aに示した本実施の形態の表示例に対し、図5Bに示す比較例では、モニタ512の情報表示画面530の長辺外側の左端部に、カメラ511が配置される。この場合、カメラ511に対して呼吸ペーサ531が離れた位置になる。このため、図中右下に示す撮像画像540のように、ユーザの顔を斜めに撮像することになるので、顔検出が行いにくく、撮像画像における顔の肌色の皮膚領域が小さくなる。また、ユーザが呼吸ペーサ又はインジケータを見ている際に、左右又は上下の視線移動によって顔の動きが大きくなる。さらに、顔が動いた場合にカメラ511に対する角度変化が大きく、顔の動きの影響が大きくなる。よってこの比較例では、心拍変動に関する生体情報に乱れが生じ、安定的に取得できないことが起こり得る。このため、非接触の方法によって望ましい心拍変動バイオフィードバックを実行できない課題が生じる。
図6は、本実施の形態における心拍変動バイオフィードバックの動作時の処理手順を示すフローチャートである。心拍変動バイオフィードバックは、生体情報表示装置10のCPU13において所定のプログラムを実行することにより、CPU13の制御を主体に各処理が実行される。
生体情報表示装置10は、心拍変動バイオフィードバックの動作を開始すると、本動作に関する各種初期化処理を行う(S11)。初期化処理において、生体情報表示装置10は、情報表示画面30に表示する呼吸ペーサ31及びインジケータ32のパラメータを初期化する。この際、生体情報表示装置10は、インジケータのパラメータを心拍が安定していない「不一致」の状態に設定し、呼吸ペーサのパラメータを初期状態(開始位置、開始状態)に設定し、メモリ15に保存している現時点までのRRIデータをクリアする。
初期化処理後、生体情報表示装置10は、心拍変動バイオフィードバックに関するGUIとして、呼吸ペーサ31及びインジケータ32を含む情報表示画面30をモニタ12に表示する(S12)。また、生体情報表示装置10は、モニタ12の近傍にあるカメラ11によって、情報表示画面30に向いているユーザの顔の撮像を開始し、顔の肌領域を含む動画の撮像画像を継続的に取得する。
そして、生体情報表示装置10は、情報表示画面30の呼吸ペーサ31を随時更新し、所定の周期、タイミングで呼吸ペーサ31を動かすことにより、ユーザに吸気、呼気の呼吸タイミングを指示する(S13)。ユーザは、情報表示画面30の呼吸ペーサ31を見ながら、呼吸ペーサ31の指示に合わせて呼吸する。
生体情報表示装置10は、DSP14の信号処理によって、動画の撮像画像の映像データから生体情報を算出して取得する。ここでは、生体情報としてRRIを算出し計測することにより、心拍を測定する(S14)。そして、生体情報表示装置10は、RRIが正常に計測されたかどうかを判断する(S15)。RRIが正常に計測できなかった場合、または更新されなかった場合、生体情報表示装置10は終了判定処理に移行する(S21)。生体情報表示装置10は、RRIが計測されると、順次取得したRRIデータをメモリ15に記録する(S16)。
図7は、RRIの出力タイミングを説明する図である。撮像画像の肌色変動の信号に対してフィルタ処理及び波形検定処理を行い、図7のような被観察者の脈波の周期と同等の信号波形が得られたとする。DSP14は、信号波形が極大値の時にRRIを出力するようになっており、図中の白丸及び黒丸の各点が図6のS15のRRI計測判断を実行するタイミングである。ここで、信号波形がピークとなる黒丸の点(極大点)の時は、S15の判断結果がYESとなり、その他の白丸の点においては、RRIが計測できないのでS15の判断結果がNOとなる。この場合、DSP14は、黒丸の極大点のタイミングにおいて順次RRIを更新することになる。
次に、生体情報表示装置10は、メモリ15に記録したRRIデータのゆらぎを算出し、一定区間のRRIの規則性(周期性)を確認する(S17)。この際、生体情報表示装置10は、生体情報の判定結果として、RRIの周期性と呼吸ペーサの周期性とが一致しているかどうかを判定する(S18)。RRIと呼吸ペーサの周期性の一致判断は、例えば周期の長さやゆらぎについて両者の差分が所定のしきい値以下であるかどうかによって判定する。このような周期性の一致判定によって、ユーザの心拍と呼吸とが合っているかどうか、すなわち精神的ストレスが少なく心拍変動が安定しているかどうかを判定できる。
生体情報表示装置10は、RRIと呼吸ペーサの周期性が一致していないと判定した場合、情報表示画面30のインジケータ32の状態を「不一致」に更新する(S19)。初期状態では、インジケータ32は「不一致」の状態であるので、動作開始後しばらくは「不一致」の状態のまま更新される。また、生体情報表示装置10は、RRIと呼吸ペーサの周期性が一致していると判定した場合、情報表示画面30のインジケータ32の状態を「一致」に更新する(S20)。すなわち、計測したユーザのRRIと画面表示の呼吸ペーサの周期性とが一致した場合、インジケータ32の状態が「一致」に変わる。
そして、生体情報表示装置10は、停止ボタン36の押下操作などにより、終了操作がなされたかどうか判定し(S21)、終了操作がなされた場合は動作を終了する。終了操作がなされていない場合、生体情報表示装置10は、ステップS12の情報表示画面の表示処理に戻り、上記の心拍変動バイオフィードバックの処理を繰り返し実行し、終了操作がなされるまで継続する。
(情報表示画面の他の表示例)
以下に、情報表示画面の他の表示例についていくつか例示する。情報表示画面30において表示される呼吸ペーサ31、インジケータ32等のGUIは、モニタ12とカメラ11との位置関係、及び情報表示画面30の向きに応じて、適切な配置が異なる。よって、本実施の形態における各種条件に応じたGUIの配置例を説明する。
図8Aは、本実施の形態に係る情報表示画面の表示例2を示す図である。表示例2において、モニタ12の表示画面の外周端の長辺外側の中央部(外周端辺の長い辺の上側中央部)に、カメラ11が配置される。モニタ12に表示される情報表示画面302は、長辺が水平である横長になっている。情報表示画面302において、カメラ11に最も近い長辺の近傍の領域、すなわち情報表示画面302の上側中央部に、横長の呼吸ペーサ31とインジケータ32とが配置される。呼吸ペーサ31の左側部に顔画像表示33が配置され、顔画像表示33の下側の画面左端部の縦長領域に停止ボタン、表示切替ボタン等のメニュー表示38が配置される。また、呼吸ペーサ31及びインジケータ32の下側の領域に、脈波を含む変動成分表示、各種の生体情報表示などの取得データ表示39が配置される。取得データ表示39としては、例えば、ユーザの顔領域の撮像画像から取得した肌色平均値などの各種画像データ、心拍数(HR)、心拍変動(RRI)の履歴情報、各種生体指標(CV-RR、SDNN、rMSSD、LF/HF、tone、entropyなど)、ローレンツプロットなどを表示可能である。
図8Bは、本実施の形態に係る情報表示画面の表示例3を示す図である。表示例3において、モニタ12の表示画面の外周端の短辺外側の中央部(外周端辺の短い辺の左側中央部)に、カメラ11が配置される。モニタ12に表示される情報表示画面303は、長辺が水平である横長になっている。情報表示画面303において、カメラ11に最も近い短辺の近傍の領域、すなわち情報表示画面303の左側中央部に、縦長の呼吸ペーサ31とインジケータ32とが配置される。呼吸ペーサ31の上側に顔画像表示33が配置され、顔画像表示33の右側の画面上部の横長領域にメニュー表示38が配置される。また、呼吸ペーサ31及びインジケータ32の右側でメニュー表示38の下側の領域に、取得データ表示39が配置される。
図9は、本実施の形態に係る情報表示画面の表示例4を示す図である。表示例4は、通信端末であるスマートフォンによって生体情報表示装置を構成した場合の表示例を示したものである。生体情報表示装置104は、角丸縦長の筐体に縦長長方形のモニタ12を有し、モニタ12の外周端の短辺外側(外周端辺の短い辺の上側)に、水平方向中心から少し右側にずれた位置に、ユーザ自身の顔を撮像するカメラ11が配置される。モニタ12に表示される情報表示画面304は、長辺が垂直である縦長になっている。情報表示画面304において、カメラ11に最も近い短辺の近傍の領域、すなわち情報表示画面304の上側部分に、横長の呼吸ペーサ31とインジケータ32とが配置される。また、呼吸ペーサ31の上部には、顔画像表示33と脈波を含む変動成分表示34とが配置される。この場合、心拍を安定して測定するためにできるだけ装置筐体を動かさないようにユーザが両手などでしっかり把持しても、呼吸ペーサ31及びインジケータ32がモニタ12上部に位置しているため、隠れることなく表示される。
図10Aは、本実施の形態に係る情報表示画面における呼吸ペーサの表示例1を示す図である。ここで、情報表示画面に表示する呼吸ペーサの具体例をいくつか例示する。表示例1の呼吸ペーサ311は、ガイドとなる円状のマーク311aが三角山型の軌跡311bを移動することにより、ユーザに呼吸のペース、タイミングを指示するものである。図示例では説明のため、呼吸ペーサ311において、呼吸の1周期の中の各時刻t1~t8を指標として表している。実際の呼吸ペーサ311の表示では時刻t1~t8は表示されない。t0-t1、t1-t2、…、t7-t8の各区間は、同一の時間間隔である。
呼吸ペーサ311の軌跡311bの山の上りであるt0-t3が吸う区間である。呼吸ペーサ311のマーク311aは、t0では停止、t0-t1は加速、t1-t2は加速後の一定速度、t2-t3は減速し、停止から徐々に速くなって一定速度で移動し、その後減速して吸気期間(吸う区間)を終了する。例えば、t0-t1においてマーク311aはt1-t2の速度になるまで加速し、t2-t3においてマーク311aはt1-t2の速度から減速する。吸気と呼気の切り替え時点であるt3ではマークを停止させてもよい。また、呼吸ペーサ311の軌跡311bの山の下りであるt3-t8が吐く区間である。呼吸ペーサ311のマーク311aは、t3-t4は加速、t4-t5、t5-t6、t6-t7は一定速度、t7-t8は減速、t8では停止し、低速又は停止から徐々に速くなって一定速度で移動し、その後減速して停止し、呼気期間(吐く区間)を終了する。例えば、t3-t4においてマーク311aはt4-t5の速度になるまで加速し、t7-t8においてマーク311aはt6-t7の速度から減速する。上記のように、呼吸ペーサ311は、呼吸のタイミングに応じて各区間でガイドとなるマーク311aの移動速度が変化する。
このように、各区間にて変化する所定の速度でマークが移動する呼吸ペーサを表示することによって、ユーザが目で呼吸ペーサを追いやすく、呼吸ペーサの動きにユーザが呼吸のペース、タイミングを合わせやすくなり、心拍変動バイオフィードバックを適切に実行できる。
図10Bは、本実施の形態に係る情報表示画面における呼吸ペーサの表示例2を示す図である。表示例2の呼吸ペーサ312は、円形のマークの大きさを変化させることにより、ユーザに呼吸のペース、タイミングを指示するものである。図示例では、t0(吸気開始)、t3(吸気から呼気への切り替え)、t8(呼気終了)の各タイミングのマークをそれぞれ横に並べて示したものである。実際の呼吸ペーサ312の表示では、1つの円形マークが小→大→小に変化し、吸う区間で拡大し、吐く区間で縮小する。なお、マークの大きさを大→小→大に変化させてもよい。また、呼吸ペーサのマークの色を変化させるなどしてインジケータの機能を持たせ、呼吸ペーサがインジケータを兼ねるものとしてもよい。このように、所定速度でマークの大きさが変化する呼吸ペーサを表示することによって、呼吸ペーサの動きによりユーザが適切に呼吸のペース、タイミングを合わせられる。
図10Cは、本実施の形態に係る情報表示画面における呼吸ペーサの表示例3を示す図である。表示例3の呼吸ペーサ313は、棒状のバーの長さを変化させることにより、ユーザに呼吸のペース、タイミングを指示するものである。呼吸ペーサ313は、図示例では水平方向横長のバー表示を示しており、t0からt3の吸う区間ではバーの長さがゼロ又は短い状態から徐々に左端から右端に向けて長くなり、t3からt8の吐く区間ではバーの長さが長い状態から徐々に右端から左端に向けて短くなる。なお、呼吸ペーサ313のバーを回転させ、垂直方向縦長のバー表示としてもよい。また、呼吸ペーサのマークの色を変化させるなどしてインジケータの機能を持たせ、呼吸ペーサがインジケータを兼ねるものとしてもよい。このように、所定速度でバーの長さが変化する呼吸ペーサを表示することによって、呼吸ペーサの動きによりユーザが適切に呼吸のペース、タイミングを合わせられる。
図10Dは、本実施の形態に係る情報表示画面における呼吸ペーサの表示例4を示す図である。表示例4の呼吸ペーサ314は、表示例3の変形例であり、水平又は垂直のバー表示において、中央部から両端に向かって長さが伸縮するよう棒状のバーの長さを変化させることにより、ユーザに呼吸のペース、タイミングを指示するものである。呼吸ペーサ314は、図示例では水平方向横長のバー表示を示しており、t0からt3の吸う区間ではバーの長さがゼロ又は短い状態から徐々に中央部から左右両端に向けて伸長し、t3からt8の吐く区間ではバーの長さが長い状態から徐々に両端から中央部に向けて短縮する。なお、呼吸ペーサ314のバーを回転させ、垂直方向縦長のバー表示としてもよい。また、呼吸ペーサのマークの色を変化させるなどしてインジケータの機能を持たせ、呼吸ペーサがインジケータを兼ねるものとしてもよい。このように、所定速度でバーの長さが変化する呼吸ペーサを表示することによって、呼吸ペーサの動きによりユーザが適切に呼吸のペース、タイミングを合わせられる。
図10Eは、本実施の形態に係る情報表示画面における呼吸ペーサの表示例5を示す図である。表示例5の呼吸ペーサ315は、リング状の表示領域において円周上で色の帯又はマークなどの指標を時計のように移動させることにより、ユーザに呼吸のペース、タイミングを指示するものである。呼吸ペーサ315は、図示例では半周ごとに呼吸の1周期を指示し、1周で2回分の吸う区間、吐く区間を示している。なお、1周で呼吸1回分のペース表示としてもよい。呼吸ペーサ315は、t0-t3及びt0′-t3′においてリングの指標が周上を時計回りに移動することによって吸う区間を指示し、これに続いてt3-t8及びt3′-t8′においてリングの指標が周上を時計回りに移動することによって吸う区間を指示する。このように、所定速度で指標が円周上を移動する呼吸ペーサを表示することによって、呼吸ペーサの動きによりユーザが適切に呼吸のペース、タイミングを合わせられる。
図10Fは、本実施の形態に係る情報表示画面における呼吸ペーサの表示例6を示す図である。表示例6の呼吸ペーサ316は、人物の呼吸の様子を模式的に示すアニメーション表示により、ユーザに呼吸のペース、タイミングを指示するものである。呼吸ペーサ316は、図示例では人物の絵と放射状の複数の線の変化によって吸う区間、吐く区間を示している。例えば、t0からt3の吸う区間では外側から人物の方向に向かって線の色が変化する又は線の長さが短くなり、t3からt8の吐く区間では人物から外側に向かって線の色が変化する又は線の長さが長くなる。なお、吸う区間、吐く区間に応じて人物の胸や腹を動かしてもよい。このように、アニメーションにより状態変化する呼吸ペーサを表示することによって、呼吸ペーサの動きによりユーザが適切に呼吸のペース、タイミングを合わせられる。
図11は、本実施の形態における心拍変動バイオフィードバックの情報表示画面の向き変化時の処理手順を示すフローチャートである。
本実施の形態では、ユーザが装置筐体を動かすなどして、生体情報表示装置10のカメラ11及びモニタ12が回転し、情報表示画面30の向きが変化した場合の処理の一例を示す。情報表示画面30の向きの変化に伴う表示制御は、生体情報表示装置10のCPU13において所定のプログラムを実行することにより、CPU13の制御を主体に各処理が実行される。図11に示す表示制御処理は、例えばセンサ16によってモニタ12の回転を検出した場合にCPU13において割り込み処理として呼び出されるなど、情報表示画面30の向き変化の検出によって起動され、処理が実行開始される。
生体情報表示装置10は、情報表示画面30において、現在表示されている各GUIの情報をメモリ15から読み出す(S31)。生体情報表示装置10は、GUI情報として、それぞれのGUIの種類、配置、向き、大きさ、状態を示すパラメータなどの少なくともいずれかを取得する。
そして、生体情報表示装置10は、現在の情報表示画面30においてGUIの変更の必要があるかどうかを判定する(S32)。ここで、生体情報表示装置10は、センサ16によってモニタ12の天地方向を検出し、モニタ12に表示した情報表示画面30のユーザに対する向きと、カメラ11とモニタ12の情報表示画面30との位置関係とによって、GUIの変更要否を判断する。なお、情報表示画面の向き検出は、カメラ11の撮像画像からユーザの顔向きなどを検出して情報表示画面30の向きを検出するなど、他の方法によっても可能である。また、カメラ11とモニタ12の情報表示画面30との位置関係は、ユーザによる初期設定の情報、装置を動作させるOSから取得する情報、装置のデフォルト設定として設定された情報、装置の端末情報から取得する情報など、いずれかの情報に基づいて検出可能である。
生体情報表示装置10は、現在の情報表示画面30においてGUIの変更の必要がある場合、まずモニタ12に対するカメラ11の位置情報を取得する(S33)。カメラ11の位置情報は、装置筐体(端末)においてモニタ12に対して上、下、左、右などの物理位置を取得する。また、生体情報表示装置10は、装置筐体(端末)の天地情報を取得する(S34)。そして、生体情報表示装置10は、カメラ11の位置情報と端末の天地情報とに基づき、カメラ位置と端末の天地方向(すなわち情報表示画面30の向き)に合わせてGUIを変更する(S35)。
情報表示画面30におけるGUIの変更後、生体情報表示装置10は、現在の情報表示画面30における各GUIの情報を更新し、情報表示画面30の向き及びGUIの向き等の各GUIの情報をメモリ15に保存する(S36)。そして、生体情報表示装置10は本処理を終了する。また、生体情報表示装置10は、現在の情報表示画面30においてGUIの変更の必要がない場合、そのまま本処理を終了する。
図12Aは、本実施の形態に係る生体情報表示装置の情報表示画面の一例(表示例5)を説明する図である。図示例では、カメラ11及びモニタ12を90度ずつ時計回りに回転させた状態を示し、図中左から右へ順に、第1状態→第2状態→第3状態→第4状態を示している。
表示例5において、図中左端に示す第1状態では、モニタ12の表示画面の外周端の短辺外側の中央部(外周端辺の短い辺の上側中央部)に、カメラ11が配置される。モニタ12に表示される情報表示画面305は、長辺が垂直である縦長になっている。この際、情報表示画面305において、カメラ11に最も近い長辺の近傍の領域、すなわち情報表示画面305の上端中央部に、横長の呼吸ペーサ31が配置される。第1状態から装置筐体を時計回りに90度回転させた第2状態では、図中左から2番目に示すように、カメラ11が情報表示画面305の右側中央部に配置されることになる。この際、カメラ11及びモニタ12の回転に伴い、カメラ11の位置に合わせて、情報表示画面305において右端中央部に縦長の呼吸ペーサ31が配置される。
また、第2状態から装置筐体を時計回りに90度回転させた第3状態では、図中左から3番目に示すように、カメラ11が情報表示画面305の下側中央部に配置されることになる。この際、カメラ11及びモニタ12の回転に伴い、カメラ11の位置に合わせて、情報表示画面305において下端中央部に横長の呼吸ペーサ31が配置される。さらに、第3状態から装置筐体を時計回りに90度回転させた第4状態では、図中左から4番目(右端)に示すように、カメラ11が情報表示画面305の左側中央部に配置されることになる。この際、カメラ11及びモニタ12の回転に伴い、カメラ11の位置に合わせて、情報表示画面305において左端中央部に縦長の呼吸ペーサ31が配置される。
図12Bは、比較例に係る情報表示画面の一例を説明する図である。図12Aに示した本実施の形態の表示例に対し、図12Bに示す比較例では、カメラ511及びモニタ512の回転に対して、情報表示画面530における呼吸ペーサ531の位置が変化しないようになっている。この場合、第1状態→第2状態→第3状態→第4状態とカメラ511及びモニタ512を回転させても、呼吸ペーサ531の位置が情報表示画面530内で固定されるため、図中左から3番目の第3状態や図中右端の第4状態のように、カメラ511に対して呼吸ペーサ531が離れた位置になる。このため、ユーザの顔を斜めに撮像した撮像画像となったり、心拍変動バイオフィードバック実行時にユーザの顔が動く場合があり、生体情報を安定して取得できない不具合が生じ得る。
(情報表示画面におけるGUI配置例)
以下に、情報表示画面の向き変更も含めて考慮したGUIの配置例についていくつか例示する。ここでは、種々の形状の呼吸ペーサ31、インジケータ32等のGUIを配置する場合を想定し、各種条件に応じたGUIの配置条件について説明する。
図13A及び図13Bは、本実施の形態に係る情報表示画面のGUIの配置例1を示す図である。図13Aに示す配置例1において、モニタ12の表示画面の外周端の長辺外側の中央部(外周端辺の長い辺の上側中央部)に、カメラ11が配置される。モニタ12に表示される情報表示画面306は、長辺が水平である横長になっている。図において、二点鎖線は情報表示画面306におけるカメラ11に最も近い長辺と垂直でカメラ11を通るカメラ通過直線351、一点鎖線は情報表示画面306の短辺を2等分する2分割直線352、破線は情報表示画面306の長辺を3等分する3分割直線353をそれぞれ示している。情報表示画面306において、カメラ通過直線351上にあり、かつ、カメラ11の近傍、すなわち情報表示画面306の上側中央部である、短辺の2等分線よりも上側、かつ長辺の3等分線の中央の領域を、ペーサ配置領域365とする。このペーサ配置領域365において、横移動する水平方向横長の呼吸ペーサ又はインジケータ361、362、縦移動する垂直方向縦長の呼吸ペーサ又はインジケータ363、同心円移動する円形状の呼吸ペーサ又はインジケータ364のうち、少なくとも一つが配置される。水平方向横長の呼吸ペーサ又はインジケータ361、362は、移動方向がカメラ通過直線351と垂直に交わる状態となる。呼吸ペーサは、ペーサ配置領域365内に位置していればよいが、カメラ通過直線351上に位置しているのがより好ましい。
図13Bは、図13Aの装置のモニタ12及びカメラ11を反時計回りに90度回転させた状態を示すものである。この場合、モニタ12に表示される情報表示画面306は、長辺が垂直である縦長になり、情報表示画面306において、カメラ通過直線351上にあり、かつ、カメラ11の近傍、すなわち情報表示画面306の左側中央部である、短辺の2等分線よりも左側、かつ長辺の3等分線の中央の領域を、ペーサ配置領域365とする。このペーサ配置領域365において、縦移動する垂直方向縦長の呼吸ペーサ又はインジケータ361a、362a、横移動する水平方向横長の呼吸ペーサ又はインジケータ363a、同心円移動する円形状の呼吸ペーサ又はインジケータ364のうち、少なくとも一つが配置される。垂直方向縦長の呼吸ペーサ又はインジケータ361a、362aは、移動方向がカメラ通過直線351と垂直に交わる状態となる。なお、呼吸ペーサ又はインジケータ362、362aのように、大きいGUIの場合、一部がペーサ配置領域365からはみ出すようなものであってもよい。呼吸ペーサは、ペーサ配置領域365内に位置していればよいが、カメラ通過直線351上に位置しているのがより好ましい。
図14A及び図14Bは、本実施の形態に係る情報表示画面のGUIの配置例2を示す図である。図14Aに示す配置例2において、モニタ12の表示画面の外周端の長辺外側の一端部(外周端辺の長い辺の上側左端部)に、カメラ11が配置される。モニタ12に表示される情報表示画面307は、長辺が水平である横長になっている。図において、二点鎖線は情報表示画面307におけるカメラ11に最も近い長辺と垂直でカメラ11を通るカメラ通過直線351、一点鎖線は情報表示画面307の短辺を2等分する2分割直線352、破線は情報表示画面307の長辺を3等分する3分割直線353をそれぞれ示している。情報表示画面307において、カメラ通過直線351上にあり、かつ、カメラ11の近傍、すなわち情報表示画面307の上側左端部である、短辺の2等分線よりも上側、かつ長辺の3等分線の左側端部の領域を、ペーサ配置領域365とする。このペーサ配置領域365において、横移動する水平方向横長の呼吸ペーサ又はインジケータ361、362、縦移動する垂直方向縦長の呼吸ペーサ又はインジケータ363、同心円移動する円形状の呼吸ペーサ又はインジケータ364のうち、少なくとも一つが配置される。呼吸ペーサは、ペーサ配置領域365内に位置していればよいが、カメラ通過直線351上に位置しているのがより好ましい。
図14Bは、図14Aの装置のモニタ12及びカメラ11を時計回りに90度回転させた状態を示すものである。この場合、モニタ12に表示される情報表示画面307は、長辺が垂直である縦長になり、情報表示画面307において、カメラ通過直線351上にあり、かつ、カメラ11の近傍、すなわち情報表示画面307の右側上端部である、短辺の2等分線よりも右側、かつ長辺の3等分線の上側端部の領域を、ペーサ配置領域365とする。このペーサ配置領域365において、縦移動する垂直方向縦長の呼吸ペーサ又はインジケータ361a、362a、横移動する水平方向横長の呼吸ペーサ又はインジケータ363a、同心円移動する円形状の呼吸ペーサ又はインジケータ364のうち、少なくとも一つが配置される。なお、呼吸ペーサ又はインジケータ362、362aのように、大きいGUIの場合、一部がペーサ配置領域365からはみ出すようなものであってもよい。呼吸ペーサは、ペーサ配置領域365内に位置していればよいが、カメラ通過直線351上に位置しているのがより好ましい。
図15A及び図15Bは、本実施の形態に係る情報表示画面のGUIの配置例3を示す図である。図15Aに示す配置例3において、モニタ12の表示画面の外周端の短辺外側の中央部(外周端辺の短い辺の上側中央部)に、カメラ11が配置される。モニタ12に表示される情報表示画面308は、長辺が垂直である縦長になっている。図において、二点鎖線は情報表示画面308におけるカメラ11に最も近い短辺と垂直でカメラ11を通るカメラ通過直線351、破線は情報表示画面308の長辺又は短辺を3等分する3分割直線353をそれぞれ示している。情報表示画面308において、カメラ通過直線351上にあり、かつ、カメラ11の近傍、すなわち情報表示画面308の上側中央部である、長辺の3等分線の上側端部、かつ短辺の3等分線の中央の領域を、ペーサ配置領域365とする。このペーサ配置領域365において、横移動する水平方向横長の呼吸ペーサ又はインジケータ361、362、縦移動する垂直方向縦長の呼吸ペーサ又はインジケータ363、同心円移動する円形状の呼吸ペーサ又はインジケータ364のうち、少なくとも一つが配置される。水平方向横長の呼吸ペーサ又はインジケータ361、362は、移動方向がカメラ通過直線351と垂直に交わる状態となる。呼吸ペーサは、ペーサ配置領域365内に位置していればよいが、カメラ通過直線351上に位置しているのがより好ましい。
図15Bは、図15Aの装置のモニタ12及びカメラ11を反時計回りに90度回転させた状態を示すものである。この場合、モニタ12に表示される情報表示画面308は、長辺が水平である横長になり、情報表示画面308において、カメラ通過直線351上にあり、かつ、カメラ11の近傍、すなわち情報表示画面308の左側中央部である、長辺の3等分線の左側端部、かつ短辺の3等分線の中央の領域を、ペーサ配置領域365とする。このペーサ配置領域365において、縦移動する垂直方向縦長の呼吸ペーサ又はインジケータ361a、362a、横移動する水平方向横長の呼吸ペーサ又はインジケータ363a、同心円移動する円形状の呼吸ペーサ又はインジケータ364のうち、少なくとも一つが配置される。垂直方向縦長の呼吸ペーサ又はインジケータ361a、362aは、移動方向がカメラ通過直線351と垂直に交わる状態となる。なお、呼吸ペーサ又はインジケータ362、362aのように、大きいGUIの場合、一部がペーサ配置領域365からはみ出すようなものであってもよい。呼吸ペーサは、ペーサ配置領域365内に位置していればよいが、カメラ通過直線351上に位置しているのがより好ましい。
図16A及び図16Bは、本実施の形態に係る情報表示画面のGUIの配置例4を示す図である。図16Aに示す配置例4において、モニタ12の表示画面の外周端の短辺外側の一端部(外周端辺の短い辺の上側左端部)に、カメラ11が配置される。モニタ12に表示される情報表示画面309は、長辺が垂直である縦長になっている。図において、二点鎖線は情報表示画面309におけるカメラ11に最も近い短辺と垂直でカメラ11を通るカメラ通過直線351、破線は情報表示画面309の長辺又は短辺を3等分する3分割直線353をそれぞれ示している。情報表示画面309において、カメラ通過直線351上にあり、かつ、カメラ11の近傍、すなわち情報表示画面309の上側左端部である、長辺の3等分線の上側端部、かつ短辺の3等分線の左側端部の領域を、ペーサ配置領域365とする。このペーサ配置領域365において、横移動する水平方向横長の呼吸ペーサ又はインジケータ361、362、縦移動する垂直方向縦長の呼吸ペーサ又はインジケータ363、同心円移動する円形状の呼吸ペーサ又はインジケータ364のうち、少なくとも一つが配置される。呼吸ペーサは、ペーサ配置領域365内に位置していればよいが、カメラ通過直線351上に位置しているのがより好ましい。
図16Bは、図16Aの装置のモニタ12及びカメラ11を時計回りに90度回転させた状態を示すものである。この場合、モニタ12に表示される情報表示画面309は、長辺が水平である横長になり、情報表示画面309において、カメラ通過直線351上にあり、かつ、カメラ11の近傍、すなわち情報表示画面309の右側上端部である、長辺の3等分線の右側端部、かつ短辺の3等分線の上側端部の領域を、ペーサ配置領域365とする。このペーサ配置領域365において、縦移動する垂直方向縦長の呼吸ペーサ又はインジケータ361a、362a、横移動する水平方向横長の呼吸ペーサ又はインジケータ363a、同心円移動する円形状の呼吸ペーサ又はインジケータ364のうち、少なくとも一つが配置される。なお、呼吸ペーサ又はインジケータ362、362aのように、大きいGUIの場合、一部がペーサ配置領域365からはみ出すようなものであってもよい。呼吸ペーサは、ペーサ配置領域365内に位置していればよいが、カメラ通過直線351上に位置しているのがより好ましい。
以上のように、本実施の形態の生体情報表示装置10は、ユーザである被観察者の顔を撮像し、撮像画像から被観察者の顔の皮膚部分を含む検出領域の映像データを取得する撮像部としてのカメラ11と、検出領域の映像データから人の脈波の情報を含む生体情報を取得するとともに、生体情報を用いて心拍変動バイオフィードバックを行うための情報表示画面を生成する処理部としてのCPU13、DSP14と、情報表示画面を表示する表示部としてのモニタ12と、を有する。カメラ11とモニタ12とは、装置筐体において同一面上に配置される。処理部は、心拍変動バイオフィードバックのための、被観察者の呼吸を補助する呼吸アシスタントを含む情報表示画面30を生成し、情報表示画面30において、呼吸アシスタントの少なくとも一部が、カメラ11を通る直線上に配置され、カメラ11を通る直線はカメラ11に最も近いモニタ12の外周端辺と垂直に交わる。呼吸アシスタントは被観察者の呼吸のペースを指示する呼吸ペーサ31を含み、情報表示画面30において、呼吸ペーサ31の少なくとも一部が、カメラ11を通る直線上に配置される。
これにより、心拍変動バイオフィードバックを行う際に、ユーザである被観察者が情報表示画面30の呼吸アシスタントの一例である呼吸ペーサ31を見ている状態で、カメラ11にて撮像した撮像画像によって心拍を計測する場合に適した撮像位置及び画角に被観察者の顔が撮影される。また、情報表示画面30において、ユーザが視線移動だけで、或いはできるだけ視線移動が無い状態で確認できる範囲に、呼吸ペーサ31が配置される。このため、ユーザが呼吸ペーサ31を見ている際に、カメラ11によって常に顔のほぼ正面の撮像画像を得ることができる。したがって、ユーザの顔検出が容易であり、顔の肌色の皮膚領域(肌領域)を大きく安定して取得できる。また、ユーザの顔の動きを抑制でき、顔が動いた場合であってもカメラ11に対する角度変化が小さいので、顔の動きの影響を小さくできる。よって、撮像画像から心拍を取得する際の心拍の乱れを抑制でき、心拍変動に関する生体情報を安定的に取得可能であり、生体情報の検出精度を向上できる。また、撮像画像を用いて非接触で生体情報を検出し、心拍変動バイオフィードバックを行うことによって、使い勝手を向上させることができる。
また、生体情報表示装置10は、呼吸アシスタントは被観察者の呼吸及び心拍の状態を示すインジケータ32を含み、情報表示画面30において、インジケータ32の少なくとも一部が、カメラ11を通る直線上に配置される。これにより、情報表示画面30において、ユーザが視線移動だけで、或いはできるだけ視線移動が無い状態で確認できる範囲に、呼吸ペーサ31及びインジケータ32が配置される。このため、ユーザが呼吸ペーサ31又はインジケータ32を見ている際に、カメラ11によって常に顔のほぼ正面の撮像画像を得ることができ、ユーザの顔検出が容易であり、顔の肌領域を大きく安定して取得できる。したがって、撮像画像から心拍を取得する際の心拍の乱れを抑制でき、心拍変動に関する生体情報を安定的に取得可能であり、生体情報の検出精度を向上できる。
また、生体情報表示装置10において、呼吸アシスタントは被観察者の呼吸及び心拍の状態を示すインジケータ32を含み、呼吸ペーサ31は、情報表示画面30において少なくとも一部が移動して被観察者の呼吸のペースをガイドするものであり、インジケータ32は、情報表示画面30において少なくとも一部が移動するにことより被観察者の状態を示すものであり、呼吸ペーサ31とインジケータ32の移動方向が同じである。例えば、呼吸ペーサ31とインジケータ32とが直線状などの軌跡を同方向に移動するものなど、種々の態様が可能である。また、呼吸ペーサの色などの状態を変化させてインジケータの機能を持たせ、呼吸ペーサがインジケータを兼ねるものとすることも可能である。これにより、ユーザが目で呼吸ペーサを追いやすく、呼吸ペーサの動きにユーザが呼吸のペース、タイミングを合わせやすくなり、心拍変動バイオフィードバックを適切に実行できる。
また、生体情報表示装置10において、呼吸アシスタントは被観察者の呼吸及び心拍の状態を示すインジケータ32を含み、呼吸ペーサ31は、情報表示画面30において少なくとも一部が移動して被観察者の呼吸のペースをガイドするものであり、インジケータ32は、情報表示画面30において少なくとも一部が移動するにことより被観察者の状態を示すものであり、呼吸ペーサ31とインジケータ32の移動方向が異なる。例えば、呼吸ペーサ31は山型の線状、直線状、円周状などの軌跡を移動し、インジケータ32は大きさが変化するもの、呼吸ペーサ31とインジケータ32の移動方向が直交しているものなど、種々の態様が可能である。これにより、呼吸ペーサの動きによりユーザが適切に呼吸のペース、タイミングを合わせられ、インジケータの確認も容易であり、心拍変動バイオフィードバックを適切に実行できる。
また、生体情報表示装置10において、呼吸アシスタントは被観察者の呼吸及び心拍の状態を示すインジケータ32を含み、呼吸ペーサ31は、情報表示画面30において少なくとも一部が移動して被観察者の呼吸のペースをガイドするものであり、インジケータは状態変化により被観察者の状態を示すものである。例えば、呼吸ペーサ31は山型の線状、直線状、円周状などの軌跡を移動し、インジケータ32は色、大きさなどの状態が変化するものなど、種々の態様が可能である。これにより、呼吸ペーサの動きによりユーザが適切に呼吸のペース、タイミングを合わせられ、インジケータの確認も容易であり、心拍変動バイオフィードバックを適切に実行できる。
また、生体情報表示装置10において、呼吸ペーサ31の移動方向が、カメラ11を通る直線と垂直に交わる。これにより、呼吸ペーサを見ているときのユーザの顔の動きを抑制でき、心拍変動に関する生体情報を安定的に取得可能となる。
また、生体情報表示装置10において、呼吸ペーサ31は、情報表示画面30においてカメラ11を通る直線上に位置するペーサ配置領域365に配置され、ペーサ配置領域365は、カメラ11を通る直線に平行な2直線で情報表示画面30を3分割した3領域の中央領域に位置する。これにより、ユーザが呼吸ペーサ31を見ている際に、カメラ11によって常に顔のほぼ正面の撮像画像を得ることができ、顔の肌領域を大きく安定して取得できるため、撮像画像から心拍を取得する際の心拍の乱れを抑制でき、心拍変動に関する生体情報を安定的に取得可能となる。
また、生体情報表示装置10において、呼吸ペーサ31は、情報表示画面30においてカメラ11を通る直線上に位置するペーサ配置領域365に配置され、ペーサ配置領域365は、カメラ11を通る直線に平行な2直線で情報表示画面30を3分割した3領域の端領域に位置する。これにより、ユーザが呼吸ペーサ31を見ている際に、カメラ11によって常に顔のほぼ正面の撮像画像を得ることができ、顔の肌領域を大きく安定して取得できるため、撮像画像から心拍を取得する際の心拍の乱れを抑制でき、心拍変動に関する生体情報を安定的に取得可能となる。
また、生体情報表示装置10において、ペーサ配置領域365は、カメラ11を通る直線に平行な直線で2分割した2領域のカメラ11側の領域に位置する。これにより、カメラ11と呼吸ペーサ31とが近接に配置されるため、ユーザが呼吸ペーサ31を見ている際に、カメラ11によって常に顔のほぼ正面の撮像画像を得ることができ、心拍変動に関する生体情報を安定的に取得可能となる。
また、生体情報表示装置10において、呼吸ペーサ31は、呼吸のタイミングに応じて移動速度が変化する。例えば、呼吸周期を複数に分割した各区間において、吸い始め、吸い終わり、吐き始め、吐き終わりの区間を遅く、他の区間をこれよりも速くする、或いは、吸う区間と吐く区間においてそれぞれ停止→加速→定速→減速→停止とするなど、種々の態様が可能である。これにより、呼吸のタイミングに応じて移動速度が変化する呼吸ペーサを表示することによって、ユーザが目で呼吸ペーサを追いやすく、呼吸ペーサの動きにユーザが呼吸のペース、タイミングを合わせやすくなり、心拍変動バイオフィードバックを適切に実行できる。
また、生体情報表示装置10において、呼吸ペーサ31は、呼吸の吸う区間の始めと終わり、吐く区間の始めと終わりの少なくとも一方において移動速度が遅くなる。また、呼吸ペーサ31は、呼吸の吸う区間の始めと終わり及び吐く区間の始めと終わりを除く、他の区間において等速移動する。これにより、呼吸のタイミングに応じて移動速度が変化する呼吸ペーサを表示することによって、ユーザが目で呼吸ペーサを追いやすく、呼吸ペーサの動きにユーザが呼吸のペース、タイミングを合わせやすくなり、心拍変動バイオフィードバックを適切に実行できる。
また、生体情報表示装置10において、カメラ11の位置を検出する検出部としてのセンサ16を有し、処理部は、カメラ11の位置に応じて、呼吸アシスタントを含む情報表示画面30のGUIを配置する。これにより、ユーザが情報表示画面30の呼吸アシスタントの一例である呼吸ペーサ31を見ている際に、心拍を計測する場合に適した撮像位置及び画角でユーザの顔を撮像可能となる。したがって、顔の肌領域を大きく安定して取得でき、ユーザの顔の動きを抑制できるため、心拍変動に関する生体情報を安定的に取得可能となる。
また、生体情報表示装置10において、モニタ12の向きを検出する検出部としてのセンサ16を有し、処理部は、モニタ12の向き、及びカメラ11と情報表示画面30との位置関係に応じて、呼吸アシスタントを含む情報表示画面30のGUIを配置する。これにより、例えば横長又は縦長の情報表示画面30の縦横に対応して、或いは生体情報表示装置10の情報表示画面30が回転した場合の向きなど、情報表示画面30の向きとカメラ11との位置関係に応じて、適切にユーザの顔を撮像可能となる。したがって、顔の肌領域を大きく安定して取得でき、ユーザの顔の動きを抑制できるため、心拍変動に関する生体情報を安定的に取得可能となる。
また、生体情報表示装置10において、処理部は、モニタ12の向きによって情報表示画面の回転を検出し、情報表示画面30の向きに応じてGUIを変更する。これにより、情報表示画面30が回転した場合に、情報表示画面30の向きとカメラ11との位置関係に応じて、適切にユーザの顔を撮像可能となる。したがって、顔の肌領域を大きく安定して取得でき、ユーザの顔の動きを抑制できるため、心拍変動に関する生体情報を安定的に取得可能となる。
また、本実施の形態の生体情報表示方法は、ユーザである被観察者の顔を撮像する撮像部としてのカメラ11と、撮像画像から取得した生体情報を表示する表示部としてのモニタ12とを有し、筐体においてモニタ12がカメラ11と同一面上に配置された、生体情報表示装置10における生体情報表示方法である。この生体情報表示方法において、カメラ11により被観察者の顔を撮像し、撮像画像から被観察者の顔の皮膚部分を含む検出領域の映像データを取得し、検出領域の映像データから人の脈波の情報を含む生体情報を取得するとともに、生体情報を用いて心拍変動バイオフィードバックを行うための情報表示画面30を生成する。この際、心拍変動バイオフィードバックのための、ユーザの呼吸を補助する呼吸アシスタントを含む情報表示画面30を生成し、情報表示画面30をモニタ12に表示する。情報表示画面30において、呼吸アシスタントの少なくとも一部が、カメラ11を通る直線上に配置され、カメラ11を通る直線はカメラ11に最も近いモニタ12の外周端辺と垂直に交わる。
また、本実施の形態のプログラムは、ユーザである被観察者の顔を撮像する撮像部としてのカメラ11と、撮像画像から取得した生体情報を表示する表示部としてのモニタ12とを有し、筐体においてモニタ12がカメラ11と同一面上に配置された、生体情報表示装置10において、コンピュータにより生体情報表示方法の各処理を実行するプログラムである。このプログラムにおいて、カメラ11により被観察者の顔を撮像し、撮像画像から被観察者の顔の皮膚部分を含む検出領域の映像データを取得するステップと、検出領域の映像データから人の脈波の情報を含む生体情報を取得するとともに、生体情報を用いて心拍変動バイオフィードバックを行うための情報表示画面30を生成するステップと、を含む。この際、心拍変動バイオフィードバックのための、ユーザの呼吸を補助する呼吸アシスタントを含む情報表示画面30を生成するステップと、情報表示画面30をモニタ12に表示するステップと、を含む。情報表示画面30において、アシスタントの少なくとも一部が、カメラ11を通る直線上に配置され、カメラ11を通る直線はカメラ11に最も近いモニタ12の外周端辺と垂直に交わる。
以上、図面を参照しながら各種の実施形態について説明したが、本発明はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。また、発明の趣旨を逸脱しない範囲において、上記実施形態における各構成要素を任意に組み合わせてもよい。
本開示は、心拍変動バイオフィードバックを行う際の使い勝手を向上させることができる生体情報表示装置、生体情報表示方法及び生体情報表示プログラムとして有用である。
10、104 生体情報表示装置
11 カメラ
12 モニタ
13 CPU
14 DSP
15 メモリ
16 センサ
17 カメラ用インタフェース
18 表示用インタフェース
19 バス
30、302、303、304、305、306、307、308、309 情報表示画面
31 呼吸ペーサ
32 インジケータ
33 顔画像表示
34 変動成分表示
35 生体情報表示
36 停止ボタン
37 表示切替ボタン
38 メニュー表示
39 取得データ表示
351 カメラ通過直線
361、362、363、364 呼吸ペーサ又はインジケータ
365 ペーサ配置領域

Claims (4)

  1. 被観察者を撮像し、映像データを取得する撮像部と、
    前記映像データから前記被観察者の生体情報を取得するとともに、前記生体情報を用いてバイオフィードバックを行うための情報表示画面を生成する処理部と、
    前記情報表示画面を表示する表示部と、を有し、
    前記処理部は、前記バイオフィードバックを行う前記被観察者を補助するアシスタントを含む前記情報表示画面を前記表示部に配置し、
    前記情報表示画面は、前記被観察者の呼吸及び心拍の状態を示すインジケータと、前記映像データから前記被観察者の顔領域を抽出した顔画像表示と、を含む、
    生体情報表示装置。
  2. 前記情報表示画面は、さらに前記被観察者の呼吸のペースを指示する呼吸ペーサを含み、
    前記顔画像表示は、前記呼吸ペーサに隣接する、
    請求項1に記載の生体情報表示装置。
  3. 被観察者を撮像する撮像部と、
    バイオフィードバックを行う前記被観察者を補助するアシスタントを含む情報表示画面を生成する処理部と、
    前記情報表示画面を表示する表示部と、を備える生体情報表示装置が行う生体情報表示方法であって、
    前記被観察者を撮像した映像データを取得し、
    前記映像データから前記被観察者の生体情報を取得し、
    前記生体情報を用いて、前記被観察者の呼吸及び心拍の状態を示すインジケータと、前記映像データから前記被観察者の顔領域を抽出した顔画像表示と、を含む前記情報表示画面を生成して、前記表示部に配置する、
    生体情報表示方法。
  4. 被観察者を撮像する撮像部と、
    バイオフィードバックを行う前記被観察者を補助するアシスタントを含む情報表示画面を生成する処理部と、
    前記情報表示画面を表示する表示部と、を備えるコンピュータである生体情報表示装置に、
    前記被観察者を撮像した映像データを取得するステップと、
    前記映像データから前記被観察者の生体情報を取得するステップと、
    前記生体情報を用いて、前記被観察者の呼吸及び心拍の状態を示すインジケータと、前記映像データから前記被観察者の顔領域を抽出した顔画像表示と、を含む前記情報表示画面を生成して、前記表示部に配置するステップと、を実現させるための、
    生体情報表示プログラム。
JP2022130134A 2018-02-13 2022-08-17 生体情報表示装置、生体情報表示方法及び生体情報表示プログラム Pending JP2022163211A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022130134A JP2022163211A (ja) 2018-02-13 2022-08-17 生体情報表示装置、生体情報表示方法及び生体情報表示プログラム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018023436A JP7133771B2 (ja) 2018-02-13 2018-02-13 生体情報表示装置、生体情報表示方法及び生体情報表示プログラム
JP2022130134A JP2022163211A (ja) 2018-02-13 2022-08-17 生体情報表示装置、生体情報表示方法及び生体情報表示プログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2018023436A Division JP7133771B2 (ja) 2018-02-13 2018-02-13 生体情報表示装置、生体情報表示方法及び生体情報表示プログラム

Publications (1)

Publication Number Publication Date
JP2022163211A true JP2022163211A (ja) 2022-10-25

Family

ID=67620992

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2018023436A Active JP7133771B2 (ja) 2018-02-13 2018-02-13 生体情報表示装置、生体情報表示方法及び生体情報表示プログラム
JP2022130134A Pending JP2022163211A (ja) 2018-02-13 2022-08-17 生体情報表示装置、生体情報表示方法及び生体情報表示プログラム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2018023436A Active JP7133771B2 (ja) 2018-02-13 2018-02-13 生体情報表示装置、生体情報表示方法及び生体情報表示プログラム

Country Status (4)

Country Link
US (1) US20200405245A1 (ja)
JP (2) JP7133771B2 (ja)
CN (1) CN111712187A (ja)
WO (1) WO2019159849A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020086004A (ja) * 2018-11-19 2020-06-04 株式会社日立製作所 生体情報検出装置及び生体情報検出方法
US20240138690A1 (en) 2020-12-25 2024-05-02 Astellas Pharma Inc. Arrhythmic state detection assisting device and program
JP7381139B1 (ja) * 2022-12-15 2023-11-15 株式会社オクチィ プログラム、コンピュータ装置及び方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007529283A (ja) * 2004-03-18 2007-10-25 ヘリコール・インコーポレーテッド ストレスを解放するための方法及び装置
JP2008532587A (ja) * 2005-02-22 2008-08-21 ヘルス−スマート リミテッド 生理学的及び心理学的/生理学的モニタリングのための方法及びシステム並びにその使用
WO2016006027A1 (ja) * 2014-07-07 2016-01-14 富士通株式会社 脈波検出方法、脈波検出プログラム及び脈波検出装置
US20160066835A1 (en) * 2013-04-18 2016-03-10 Wichita State University Non-invasive biofeedback system
JP2016101352A (ja) * 2014-11-28 2016-06-02 ダイキン工業株式会社 表示制御装置およびリラックス支援システム
JP2016190022A (ja) * 2015-03-30 2016-11-10 国立大学法人東北大学 生体情報計測装置、生体情報計測方法、生体情報表示装置及び生体情報表示方法
WO2017187671A1 (ja) * 2016-04-27 2017-11-02 ユニ・チャーム株式会社 支援方法、支援システム及びプログラム

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6836681B2 (en) * 2001-02-15 2004-12-28 Jon R. Stabler Method of reducing stress
US7255672B2 (en) * 2004-03-18 2007-08-14 Coherence Llc Method of presenting audible and visual cues for synchronizing the breathing cycle with an external timing reference for purposes of synchronizing the heart rate variability cycle with the breathing cycle
JP5242045B2 (ja) * 2006-12-01 2013-07-24 株式会社東芝 X線コンピュータ断層撮影装置
JP5195741B2 (ja) * 2009-12-25 2013-05-15 株式会社デンソー 生体活動計測装置
JP5578518B2 (ja) * 2010-06-10 2014-08-27 任天堂株式会社 呼吸指示プログラム、呼吸指示装置、呼吸指示システム、および呼吸指示処理方法
JP5623955B2 (ja) * 2011-03-29 2014-11-12 シチズンホールディングス株式会社 血圧計
CN202211686U (zh) * 2011-05-13 2012-05-09 张政波 心血管功能检测装置
GB201114406D0 (en) * 2011-08-22 2011-10-05 Isis Innovation Remote monitoring of vital signs
JP5144828B2 (ja) * 2012-07-19 2013-02-13 パナソニック株式会社 呼吸確認システム、呼吸確認方法、プログラム
WO2014087310A1 (en) * 2012-12-04 2014-06-12 Koninklijke Philips N.V. Device and method for obtaining vital sign information of a living being
US20140276104A1 (en) * 2013-03-14 2014-09-18 Nongjian Tao System and method for non-contact monitoring of physiological parameters
JP6139301B2 (ja) * 2013-06-28 2017-05-31 フクダ電子株式会社 心電計
KR20160026141A (ko) * 2014-08-29 2016-03-09 삼성전자주식회사 윈도우 운용 방법 및 이를 지원하는 전자 장치
JP2017018570A (ja) * 2015-07-10 2017-01-26 安西メディカル株式会社 呼吸安定化装置及びプログラム
CN108135487A (zh) * 2015-10-08 2018-06-08 皇家飞利浦有限公司 用于获得对象的生命体征信息的设备、系统和方法
JP6763719B2 (ja) * 2015-12-07 2020-09-30 パナソニック株式会社 生体情報測定装置、生体情報測定方法及びプログラム
US10188345B2 (en) * 2016-02-12 2019-01-29 Fitbit, Inc. Method and apparatus for providing biofeedback during meditation exercise
CN105797257A (zh) * 2016-05-06 2016-07-27 包磊 生物反馈训练系统、方法及智能终端
CN114680890A (zh) * 2016-10-21 2022-07-01 西铁城时计株式会社 检测装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007529283A (ja) * 2004-03-18 2007-10-25 ヘリコール・インコーポレーテッド ストレスを解放するための方法及び装置
JP2008532587A (ja) * 2005-02-22 2008-08-21 ヘルス−スマート リミテッド 生理学的及び心理学的/生理学的モニタリングのための方法及びシステム並びにその使用
US20160066835A1 (en) * 2013-04-18 2016-03-10 Wichita State University Non-invasive biofeedback system
WO2016006027A1 (ja) * 2014-07-07 2016-01-14 富士通株式会社 脈波検出方法、脈波検出プログラム及び脈波検出装置
JP2016101352A (ja) * 2014-11-28 2016-06-02 ダイキン工業株式会社 表示制御装置およびリラックス支援システム
JP2016190022A (ja) * 2015-03-30 2016-11-10 国立大学法人東北大学 生体情報計測装置、生体情報計測方法、生体情報表示装置及び生体情報表示方法
WO2017187671A1 (ja) * 2016-04-27 2017-11-02 ユニ・チャーム株式会社 支援方法、支援システム及びプログラム

Also Published As

Publication number Publication date
WO2019159849A1 (ja) 2019-08-22
JP7133771B2 (ja) 2022-09-09
JP2019136352A (ja) 2019-08-22
CN111712187A (zh) 2020-09-25
US20200405245A1 (en) 2020-12-31

Similar Documents

Publication Publication Date Title
JP2022163211A (ja) 生体情報表示装置、生体情報表示方法及び生体情報表示プログラム
CN106580346B (zh) 情绪推定方法和情绪推定装置
US11363990B2 (en) System and method for non-contact monitoring of physiological parameters
Lamonaca et al. Health parameters monitoring by smartphone for quality of life improvement
EP3062685B1 (en) Therapy system with a patient interface for obtaining a vital state of a patient
EP2772828B1 (en) Individual body discrimination device and individual body discrimination method
CN107072594B (zh) 用于评估呼吸窘迫的方法和装置
JP7322227B2 (ja) 検出装置
CN114504310A (zh) 用于检测用户的心率的变化的系统和方法
Molinaro et al. Contactless vital signs monitoring from videos recorded with digital cameras: an overview
US20130144111A1 (en) Method and Apparatus for Managing Stress
JP2016513517A (ja) 被検者のバイタルサイン情報を取得するためのデバイス及び方法
US20210282668A1 (en) Non-invasive determination of airway resistance
Papon et al. Non-invasive heart rate measuring smartphone applications using on-board cameras: A short survey
KR101837835B1 (ko) 광용적맥파를 이용하는 호흡수 측정 및 관리 방법
EP3838128A1 (en) Device and method for determining a vital sign of a subject
JP5173251B2 (ja) 拍動ゆらぎ測定装置およびその情報処理方法
TWI559172B (zh) Physiological feedback system
EP4340725A1 (en) Score indicative of mindfulness of a user
JP2022032590A (ja) 生体情報管理システムおよび生体情報管理方法
JP2024002120A (ja) プログラム及び情報処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220817

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230322

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230411

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230526

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230815

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20240227