JP7691663B2 - 情報処理装置、表示システム、表示制御方法及びプログラム - Google Patents

情報処理装置、表示システム、表示制御方法及びプログラム Download PDF

Info

Publication number
JP7691663B2
JP7691663B2 JP2023543751A JP2023543751A JP7691663B2 JP 7691663 B2 JP7691663 B2 JP 7691663B2 JP 2023543751 A JP2023543751 A JP 2023543751A JP 2023543751 A JP2023543751 A JP 2023543751A JP 7691663 B2 JP7691663 B2 JP 7691663B2
Authority
JP
Japan
Prior art keywords
chest
image
abdomen
movement
displacement amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023543751A
Other languages
English (en)
Other versions
JPWO2023026738A5 (ja
JPWO2023026738A1 (ja
Inventor
洵 安川
友嗣 大野
勇気 小阪
宏文 高瀬
淳平 加藤
昭元 二村
浩二 藤田
拓哉 井原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Tokyo Institute of Technology NUC
Institute of Science Tokyo
Original Assignee
NEC Corp
Tokyo Institute of Technology NUC
Institute of Science Tokyo
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp, Tokyo Institute of Technology NUC, Institute of Science Tokyo filed Critical NEC Corp
Publication of JPWO2023026738A1 publication Critical patent/JPWO2023026738A1/ja
Publication of JPWO2023026738A5 publication Critical patent/JPWO2023026738A5/ja
Application granted granted Critical
Publication of JP7691663B2 publication Critical patent/JP7691663B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Measuring devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor or mobility of a limb
    • A61B5/113Measuring movement of the entire body or parts thereof, e.g. head or hand tremor or mobility of a limb occurring during breathing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Measuring devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor or mobility of a limb
    • A61B5/113Measuring movement of the entire body or parts thereof, e.g. head or hand tremor or mobility of a limb occurring during breathing
    • A61B5/1135Measuring movement of the entire body or parts thereof, e.g. head or hand tremor or mobility of a limb occurring during breathing by monitoring thoracic expansion
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B24/00Electric or electronic controls for exercising apparatus of preceding groups; Controlling or monitoring of exercises, sportive games, training or athletic performances
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Pathology (AREA)
  • Medical Informatics (AREA)
  • Dentistry (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Physics & Mathematics (AREA)
  • Biophysics (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Physiology (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Human Computer Interaction (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Physical Education & Sports Medicine (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Description

本発明は情報処理装置、表示システム、表示制御方法及びプログラムに関する。
健康状態の向上及び維持のためには、正しい呼吸法で呼吸を行うことが望ましい。そして、正しい呼吸法で呼吸を行っているかを確かめるために、胸部及び腹部の動きを検出することが行われている。これに関連し、特許文献1は、呼吸をする患者の胸部及び腹部を撮影して得られた画像から、胸部の動き及び腹部の動きを測定することを開示する。また、非特許文献1は、体幹部へのパターン光投影により非接触で自然な呼吸運動の計測を行うことを開示している。
特開2008-154655号公報
仲村秀俊著、「[特集]呼吸機能イメージングの新たな展開『パターン光投影による非接触呼吸計測』」、呼吸臨床、2018年第2巻10号
正しい呼吸法による呼吸トレーニングにおいて、トレーニングを行う被験者の胸部の前後方向の動きと腹部の前後方向の動きとが互いに同期することが重要である。そして、正しい呼吸を行っているか否かを、被験者自身が容易に認識できることが望ましい。ここで、上述した特許文献及び非特許文献にかかる技術は、医師等が患者の呼吸状態を診断するためのものである。つまり、上述した特許文献及び非特許文献にかかる技術は、患者が自身の呼吸状態を把握することを想定していない。したがって、上述した特許文献及び非特許文献で開示された解析画面を患者(被験者)が見ても、自身が正しい呼吸を行っているか否かを認識することは、困難である。
本開示の目的は、このような課題を解決するためになされたものであり、正しい呼吸を行っているか否かを被験者自身が容易に認識することを可能とする情報処理装置、表示制御方法及びプログラムを提供することにある。
本開示にかかる情報処理装置は、呼吸のトレーニングを行う被験者の胸部及び腹部を少なくとも示す画像データを取得する取得手段と、前記画像データを用いて前記被験者の胸部及び腹部それぞれの変位量を検出する検出手段と、検出された胸部及び腹部の前記変位量に基づいて、胸部及び腹部それぞれの、前記被験者の前後方向の動きを示す動き画像が表示されるように制御を行う表示制御手段と、を有し、前記表示制御手段は、胸部の動きと腹部の動きとが互いに同期している場合に胸部の前記動き画像である胸部動き画像の表示形態と腹部の前記動き画像である腹部動き画像の表示形態とが互いに同じとなり、胸部の動きと腹部の動きとが互いに同期していない場合に前記胸部動き画像の表示形態と前記腹部動き画像の表示形態とが互いに異なるように、制御を行う。
また、本開示にかかる表示制御方法は、呼吸のトレーニングを行う被験者の胸部及び腹部を少なくとも示す画像データを取得し、前記画像データを用いて前記被験者の胸部及び腹部それぞれの変位量を検出し、検出された胸部及び腹部の前記変位量に基づいて、胸部及び腹部それぞれの、前記被験者の前後方向の動きを示す動き画像が表示されるように制御を行い、胸部の動きと腹部の動きとが互いに同期している場合に胸部の前記動き画像である胸部動き画像の表示形態と腹部の前記動き画像である腹部動き画像の表示形態とが互いに同じとなり、胸部の動きと腹部の動きとが互いに同期していない場合に前記胸部動き画像の表示形態と前記腹部動き画像の表示形態とが互いに異なるように、制御を行う。
また、本開示にかかるプログラムは、呼吸のトレーニングを行う被験者の胸部及び腹部を少なくとも示す画像データを取得するステップと、前記画像データを用いて前記被験者の胸部及び腹部それぞれの変位量を検出するステップと、検出された胸部及び腹部の前記変位量に基づいて、胸部及び腹部それぞれの、前記被験者の前後方向の動きを示す動き画像が表示されるように制御を行い、胸部の動きと腹部の動きとが互いに同期している場合に胸部の前記動き画像である胸部動き画像の表示形態と腹部の前記動き画像である腹部動き画像の表示形態とが互いに同じとなり、胸部の動きと腹部の動きとが互いに同期していない場合に前記胸部動き画像の表示形態と前記腹部動き画像の表示形態とが互いに異なるように、制御を行うステップと、をコンピュータに実行させる。
本開示によれば、正しい呼吸を行っているか否かを被験者自身が容易に認識することを可能とする情報処理装置、表示制御方法及びプログラムを提供できる。
本開示の実施の形態にかかる情報処理装置の概要を示す図である。 本開示の実施の形態にかかる情報処理装置によって実行される表示制御方法を示すフローチャートである。 実施の形態1にかかる表示システムを示す図である。 実施の形態1にかかる表示システムを示す図である。 実施の形態1にかかる情報処理装置によって実行される表示制御方法を示すフローチャートである。 実施の形態1にかかる画像取得部によって取得された撮影画像を例示する図である。 実施の形態1にかかる表示制御部の制御によって表示装置で表示され、胸部及び腹部の前後方向の変位量を示した表示画面を例示する図である。 実施の形態1にかかる表示制御部の制御によって表示装置で表示され、胸部及び腹部の前後方向の変位量を示した表示画面を例示する図である。 実施の形態1にかかる表示制御部の制御によって表示装置で表示され、胸部及び腹部の前後方向の変位量を示した表示画面を例示する図である。 実施の形態1にかかる表示制御部の制御によって表示装置で表示され、胸部及び腹部の前後方向の変位量を示した表示画面を例示する図である。 実施の形態1にかかる表示制御部の制御によって表示装置で表示され、胸部及び腹部の前後方向の変位量を示した表示画面を例示する図である。 実施の形態1にかかる表示制御部の制御によって表示装置で表示され、胸部及び腹部の前後方向の動き方向を示した表示画面を例示する図である。 実施の形態1にかかる表示制御部の制御によって表示装置で表示され、胸部及び腹部の前後方向の動き方向を示した表示画面を例示する図である。 実施の形態1にかかる表示制御部の制御によって表示装置で表示され、胸部及び腹部の前後方向の動き方向を示した表示画面を例示する図である。 実施の形態1にかかる表示制御部の制御によって表示装置で表示され、胸部及び腹部の左右方向の変位量を示した表示画面を例示する図である。 実施の形態1にかかる指導者用表示画面を例示する図である。 実施の形態1にかかる指導者用表示画面を例示する図である。
(本開示にかかる実施の形態の概要)
本開示の実施形態の説明に先立って、本開示にかかる実施の形態の概要について説明する。図1は、本開示の実施の形態にかかる情報処理装置1の概要を示す図である。情報処理装置1は、例えば、サーバ又はパーソナルコンピュータ等のコンピュータである。
情報処理装置1は、取得部2と、検出部4と、表示制御部6とを有する。取得部2は、取得手段としての機能を有する。検出部4は、検出手段としての機能を有する。表示制御部6は、表示制御手段としての機能を有する。
図2は、本開示の実施の形態にかかる情報処理装置1によって実行される表示制御方法(情報処理方法;支援方法)を示すフローチャートである。取得部2は、被験者の胸部及び腹部を少なくとも示す画像データを取得する(ステップS2)。ここで、「被験者」は、呼吸のトレーニングを行う者である。取得部2は、例えば、被験者を撮影する撮像装置(カメラ)から、画像データを取得してもよい。画像データは、例えば、RGB画像等の2次元画像データであってもよいし、距離画像(3次元点群データ)等の3次元画像データであってもよい。なお、以下、用語「画像」は、情報処理における処理対象としての、「画像を示す画像データ」も意味する。
検出部4は、画像データを用いて被験者の胸部及び腹部それぞれの変位量を検出する(ステップS4)。表示制御部6は、検出された胸部及び腹部の変位量に基づいて、胸部及び腹部それぞれの動き画像が表示されるように制御を行う(ステップS6)。表示制御部6は、情報処理装置1とは別個の表示装置に動き画像を表示させるように制御を行ってもよい。あるいは、表示制御部6は、情報処理装置1に設けられたディスプレイ等に動き画像を表示させるように制御を行ってもよい。
なお、「動き画像」とは、胸部及び腹部それぞれの、被験者の前後方向の動きを示す画像である。なお、「前後方向」とは、被験者に対して前方向又は後方向のことである。つまり、被験者が仰向け(仰臥位)の状態である場合、前方向は上方向に対応し、後方向は下方向に対応する。また、以下、胸部の前後方向の動きを示す動き画像を、「胸部動き画像」と称することがある。また、腹部の前後方向の動きを示す動き画像を、「腹部動き画像」と称することがある。
ここで、表示制御部6は、胸部の動きと腹部の動きとが互いに同期している場合に、胸部動き画像の表示形態と腹部動き画像の表示形態とが互いに同じとなるように、制御を行う。また、表示制御部6は、胸部の動きと腹部の動きとが互いに同期していない場合に、胸部動き画像の表示形態と腹部動き画像の表示形態とが互いに異なるように、制御を行う。ここで、「表示形態が同じ」とは、例えば、色表現が同じことであるが、これに限られない。つまり、「表示形態」は、「色表現」に限られない。
例えば、表示形態が「色表現」である場合、表示制御部6は、胸部の動きと腹部の動きとが互いに同期している場合に、胸部動き画像の色表現と腹部動き画像の色表現とが互いに同じとなるように、制御を行う。また、表示制御部6は、胸部の動きと腹部の動きとが互いに同期していない場合に、胸部動き画像の色表現と腹部動き画像の色表現とが互いに異なるように、制御を行う。
なお、「動き」とは、例えば、胸部及び腹部それぞれの、基準位置に対する前後方向の変位量で定義され得る。この場合、例えば、胸部の変位量は、胸部の位置が基準位置(胸部基準位置)よりも前側にある場合に正(+)の値(0以上の値)となり、胸部の位置が基準位置よりも後側にある場合に負(-)の値(0未満の値)となり得る。同様に、例えば、腹部の変位量は、腹部の位置が基準位置(腹部基準位置)よりも前側にある場合に正(+)の値(0以上の値)となり、腹部の位置が基準位置よりも後側にある場合に負(-)の値(0未満の値)となり得る。基準位置については後述する。
また、「動き」とは、例えば、胸部及び腹部それぞれの動き方向で定義され得る。ここで、「動き方向」とは、胸部及び腹部それぞれの変位量の変化(増減)の方向である。この場合、例えば、胸部の動き方向は、胸部の変位量が増加している場合(例えば吸気状態)に前方向(正方向)となり、胸部の変位量が減少している場合(例えば呼気状態)に後方向(負方向)となり得る。同様に、例えば、腹部の動き方向は、腹部の変位量が増加している場合(例えば吸気状態)に前方向(正方向)となり、腹部の変位量が減少している場合(例えば呼気状態)に後方向(負方向)となり得る。
上述したように、健康状態の向上及び維持のためには、正しい呼吸法で呼吸を行うことが望ましい。そして、正しい呼吸を行うためには、セラピスト等のトレーニング指導者(以下、単に「指導者」と称する)の指導に基づいた正しい呼吸トレーニングを継続的に行うことが望ましい。例えば、正しい呼吸法による呼吸トレーニングを行うと、腰痛などの身体機能及び精神状態等の健康状態が改善され得る。
ここで、呼吸トレーニングでは、胸部と腹部とで前後の動き(運動)が互いに同期していること(「胸部と腹部との同期」)を満たすように被験者が呼吸を行うことによって、トレーニングの効果が良好となると考えられる。さらに、息を吐くとき(呼気時)に肋骨が十分に内旋すること(つまり呼気時に胸部の左右方向の変位量が十分に小さくなること;「肋骨の内旋」)を満たすように被験者が呼吸を行うことによって、トレーニングの効果が良好となると考えられる。しかしながら、被験者自身が、上記のことを確認することは困難である。つまり、被験者が、自身の呼吸状態を認識することは困難である。
これに対し、本開示にかかる情報処理装置1は、上記のように構成されているので、胸部の動きと腹部の動きとが互いに同期しているか否かが視覚的に分かりやすくなるように、胸部動き画像及び腹部動き画像を表示させることができる。したがって、本開示にかかる情報処理装置1によって、正しい呼吸を行っているか否かを被験者自身が容易に認識することが可能となる。
なお、撮像装置と表示装置と情報処理装置1とで構成される表示システムを用いても、正しい呼吸を行っているか否かを被験者自身が容易に認識することが可能となる。また、情報処理装置1で実行される表示制御方法及び表示制御方法を実行するプログラムを用いても、正しい呼吸を行っているか否かを被験者自身が容易に認識することが可能となる。
(実施の形態1)
以下、実施形態について、図面を参照しながら説明する。説明の明確化のため、以下の記載及び図面は、適宜、省略、及び簡略化がなされている。また、各図面において、同一の要素には同一の符号が付されており、必要に応じて重複説明は省略されている。
図3及び図4は、実施の形態1にかかる表示システム20を示す図である。図3は、表示システム20が被験者90の呼吸トレーニングに使用されている状態を例示している。また、図4は、表示システム20の構成を示す機能ブロック図である。なお、図3に示すように、好ましくは、被験者90は、仰向け(仰臥位)の状態で呼吸トレーニングを行うが、被験者90の姿勢は、仰臥位に限られない。以下に説明する実施の形態では、被験者90が仰臥位で呼吸トレーニングを行うとする。
表示システム20は、少なくとも1つの撮像装置30と、表示装置40と、情報処理装置100とを有する。情報処理装置100は、図1に示した情報処理装置1に対応する。情報処理装置100は、撮像装置30及び表示装置40と、有線又は無線のネットワークを介して、通信可能に接続されている。
撮像装置30は、呼吸トレーニングを行う被験者90を撮影する。撮像装置30は、被験者90の胸部92及び腹部94を撮影可能な位置に設置され得る。被験者90が仰臥位で呼吸トレーニングを行う場合、撮像装置30は、例えば、被験者90の胸部92及び腹部94の上側に設置され得る。つまり、撮像装置30は、仰臥位の被験者90と対向する位置に設置され得る。なお、被験者90は、衣服を着た状態で呼吸トレーニングを行ってもよい。この場合、胸部92は、衣服を着た状態における被験者90の胸部に対応する部分である。同様に、腹部94は、衣服を着た状態における被験者90の腹部に対応する部分である。
撮像装置30は、例えばカメラである。撮像装置30は、2次元カメラ(例えばRGBカメラ等)であってもよいし、3次元カメラ(例えば深度センサ、LiDAR(Light Detection and Ranging)、ステレオカメラ等)であってもよいし、これらの両方を含むカメラ(例えばRGB-Dカメラ等)であってもよい。撮像装置30は、例えばToF(Time of Flight)方式によって、撮像された物体までの距離を計測してもよい。
撮像装置30を用いることによって、被験者90の位置を検出することができる。また、撮像装置30を用いることによって、被験者90の動きを検出することができる。例えば、撮像装置30を用いることによって、モーションキャプチャ等を実現することができる。さらに、撮像装置30を用いることによって、撮影された被験者90の骨格(関節)を示す骨格データが生成されてもよい。骨格データは、被験者90の関節の位置を示すデータである。骨格データは、例えば、動作する人物の関節を撮像装置30(又は情報処理装置100)が認識することによって、取得され得る。
撮像装置30は、被験者90を撮影することによって、被験者90の胸部92及び腹部94を少なくとも示す画像データを生成する。つまり、画像データは、被験者90の胸部92及び腹部94、及びこれらの周囲の画像(撮影画像)を示し得る。撮影画像は、動画像であってもよいし、静止画像であってもよい。また、上述したように、画像データは、例えば、RGB画像等の2次元画像データであってもよいし、距離画像(3次元点群データ)等の3次元画像データであってもよい。あるいは、画像データは、2次元画像と3次元画像とが合成された画像を示すデータであってもよい。したがって、画像データは、3次元点群データ等によって、撮影された被験者90の表面の位置の3次元座標(位置情報)を示し得る。また、画像データは、上述した骨格データを含んでもよい。撮像装置30は、生成された画像データを情報処理装置100に送信する。
なお、画像データを用いることによって、被験者90の胸部92の位置及び腹部94の位置を検出できる。また、画像データを用いることによって、被験者90の胸部92の動き及び腹部94の動きを検出できる。したがって、撮像装置30は、被験者90の位置(及び動き)を検出可能な検出装置としても機能し得る。
情報処理装置100は、撮像装置30から画像データを取得する。情報処理装置100は、取得された画像データを用いて被験者90の胸部92及び腹部94それぞれの変位量を検出する。さらに、情報処理装置100は、検出された胸部92及び腹部94の変位量に基づいて、胸部92及び腹部94それぞれの動き画像(「胸部動き画像」及び「腹部動き画像」)が表示されるように制御を行う。詳しくは後述する。
表示装置40は、情報処理装置100の制御によって、胸部92及び腹部94それぞれの動き画像(「胸部動き画像」及び「腹部動き画像」)を表示する。表示装置40は、被験者90のトレーニングに関する情報を表示する。好ましくは、表示装置40は、被験者90向けの画像を表示する。表示装置40は、被験者90の頭上に設置された場合に、被験者90向けの画像を表示するようにしてもよい。例えば、表示装置40は、表示装置40に内蔵されたカメラが被験者90の顔を検出した場合に、被験者90向けの画像を表示するようにしてもよい。
表示装置40は、被験者90から視認可能な位置に画像を表示するように、配置される。表示装置40は、例えば画像を表示するディスプレイを有する。表示装置40は、例えば、LCD(Liquid Crystal Display)を有するが、これに限られない。表示装置40は、有機EL(Electro-Luminescence)ディスプレイ又はプロジェクタ等によって実現されてもよい。表示装置40は、例えば、スマートフォン又はタブレット端末等であってもよい。表示装置40によって表示される内容の詳細については後述する。
図4は、実施の形態1にかかる情報処理装置100の構成を示している。図4に示すように、情報処理装置100は、主要なハードウェア構成として、制御部102と、記憶部104と、通信部106と、インタフェース部108(IF;Interface)とを有する。制御部102、記憶部104、通信部106及びインタフェース部108は、データバスなどを介して相互に接続されている。なお、撮像装置30及び表示装置40も、図4に示した情報処理装置100のハードウェア構成を有し得る。
制御部102は、例えばCPU(Central Processing Unit)等のプロセッサである。制御部102は、制御処理及び演算処理等を行う演算装置としての機能を有する。記憶部104は、例えばメモリ又はハードディスク等の記憶デバイスである。記憶部104は、例えばROM(Read Only Memory)又はRAM(Random Access Memory)等である。記憶部104は、制御部102によって実行される制御プログラム及び演算プログラム等を記憶するための機能を有する。また、記憶部104は、処理データ等を一時的に記憶するための機能を有する。記憶部104は、データベースを含み得る。
通信部106は、撮像装置30及び表示装置40(及び他の装置)とネットワークを介して通信を行うために必要な処理を行う。通信部106は、通信ポート、ルータ、ファイアウォール等を含み得る。インタフェース部108(IF;Interface)は、例えばユーザインタフェース(UI)である。インタフェース部108は、キーボード、タッチパネル又はマウス等の入力装置と、ディスプレイ又はスピーカ等の出力装置とを有する。インタフェース部108は、ユーザ(オペレータ)によるデータの入力の操作を受け付け、ユーザに対して情報を出力する。インタフェース部108は、被験者90の呼吸トレーニングに関する情報を表示してもよい。例えば、インタフェース部108は、指導者向けの画像を表示してもよい。指導者向けの画像は、例えば、呼吸トレーニングに関する設定画面を含み得る。
実施の形態1にかかる情報処理装置100は、構成要素として、画像取得部112、位置特定部114、変位量検出部116、動き方向検出部118、幅検出部120、表示制御部130、結果判定部140、及び、出力制御部150を有する。画像取得部112は、図1に示した取得部2に対応する。画像取得部112は、画像取得手段(取得手段)としての機能を有する。位置特定部114は、位置特定手段としての機能を有する。変位量検出部116は、図1に示した検出部4に対応する。変位量検出部116は、変位量検出手段(検出手段、算出手段)としての機能を有する。動き方向検出部118は、動き方向検出手段(検出手段、算出手段)としての機能を有する。幅検出部120は、幅検出手段としての機能を有する。表示制御部130は、図1に示した表示制御部6に対応する。表示制御部130は、表示制御手段としての機能を有する。結果判定部140は、結果判定手段(判定手段)としての機能を有する。出力制御部150は、出力制御手段としての機能を有する。なお、各構成要素の具体的な機能については後述する。
なお、上述した各構成要素は、例えば、制御部102の制御によって、プログラムを実行させることによって実現できる。より具体的には、各構成要素は、記憶部104に格納されたプログラムを、制御部102が実行することによって実現され得る。また、必要なプログラムを任意の不揮発性記録媒体に記録しておき、必要に応じてインストールすることで、各構成要素を実現するようにしてもよい。また、各構成要素は、プログラムによるソフトウェアで実現することに限ることなく、ハードウェア、ファームウェア、及びソフトウェアのうちのいずれかの組み合わせ等により実現してもよい。また、各構成要素は、例えばFPGA(field-programmable gate array)又はマイコン等の、ユーザがプログラミング可能な集積回路を用いて実現してもよい。この場合、この集積回路を用いて、上記の各構成要素から構成されるプログラムを実現してもよい。
図5は、実施の形態1にかかる情報処理装置100によって実行される表示制御方法を示すフローチャートである。なお、表示制御方法は、表示制御を行うための情報処理方法であるともいえる。また、表示制御方法は、被験者90等のユーザに呼吸トレーニングを支援するための表示を行うための支援方法であるともいえる。
画像取得部112は、被験者90の画像を取得する(ステップS102)。画像取得部112は、通信部106を用いて、撮像装置30から、被験者90の胸部92及び腹部94を少なくとも示す画像データを取得(受信)する。
ここで、S102の処理では、画像取得部112は、安静状態の被験者90の画像を取得する。具体的には、指導者は被験者90に対してリラックスして安静にすることを指示し、撮像装置30は、その状態の被験者90を撮影する。これにより、画像取得部112は、平常時、つまり安静時呼吸の際の被験者90の画像を取得する。なお、上述したように、被験者90の画像は、動画像であってもよいし、静止画像であってもよい。
位置特定部114は、取得された画像における胸部92及び腹部94それぞれの範囲、及び、胸部92及び腹部94それぞれの基準を特定する(ステップS104)。具体的には、位置特定部114は、取得された画像における胸部92に対応する領域(胸部領域)を特定する。同様に、位置特定部114は、取得された画像における腹部94に対応する領域(腹部領域)を特定する。これにより、呼吸トレーニング時に取得される画像における、胸部92及び腹部94それぞれに対応する領域を特定することができる。
胸部92に対応する領域の特定について、位置特定部114は、例えば、画像データに含まれる骨格データを用いて、画像における胸部92に対応する領域を特定してもよい。また、位置特定部114は、例えば、機械学習によって学習された学習済みモデルを用いて、画像における胸部92に対応する領域を特定してもよい。この学習済みモデルは、被験者の画像を入力とし、その画像における胸部の領域を出力とするように、学習されている。また、位置特定部114は、例えば、指導者等のユーザによる操作によって、胸部92に対応する領域を特定してもよい。この場合、ユーザは、例えばタッチパネル上で胸部92に対応する領域を指でなぞるなどの操作によって、タッチパネルに表示された被験者90の画像上の胸部92に対応する領域を選択するようにしてもよい。位置特定部114は、腹部94に対応する領域についても、上述した方法と実質的に同様の方法で、特定してもよい。なお、例えば、位置特定部114は、被験者90の胸骨(及びその周囲)に対応する領域を、胸部領域と特定してもよい。また、位置特定部114は、被験者90の臍(及びその周囲)に対応する領域を、腹部領域と特定してもよい。
図6は、実施の形態1にかかる画像取得部112によって取得された撮影画像52を例示する図である。ここで、撮影画像52が3次元情報を有する場合、撮影画像52を構成する画素は、その画素に対応する被写体の部分の位置情報(距離情報)を含み得る。撮影画像52には、被験者90の画像である被験者画像90Imが含まれている。また、撮影画像52の被験者画像90Imにおいて、位置特定部114によって特定された胸部領域92Im及び腹部領域94Imが示されている。撮影画像52において、例えば、被験者画像90Imは赤色で示され、胸部領域92Imは緑色で示され、腹部領域94Imは青色で示されてもよい。
また、位置特定部114は、被験者90の前後方向及び左右方向を特定してもよい。例えば、位置特定部114は、骨格データを用いて、被験者90の前後方向及び左右方向を特定してもよい。あるいは、位置特定部114は、被験者90の頭部及び下肢部を認識して認識された頭部及び下肢部から認識された被験者90の中心線の向き(図6の矢印A1)から、被験者90の上下方向を特定してもよい。また、位置特定部114は、被験者90の両肩を認識して認識された両肩を結ぶ線の向き(図6の矢印A2)から、被験者90の左右方向を特定してもよい。そして、位置特定部114は、特定された上下方向及び左右方向に垂直な方向を、前後方向と特定してもよい。また、位置特定部114は、被験者90の顔を認識して認識された顔の向きを前方向と特定してもよい。あるいは、被験者90が水平な面で仰臥位の状態である場合、位置特定部114は、鉛直方向に沿った方向を、前後方向と特定してもよい。
また、位置特定部114は、被験者90が安静状態であるときに取得された撮影画像52を用いて、胸部92及び腹部94それぞれの基準位置を特定する。具体的には、位置特定部114は、安静状態の撮影画像52において特定された胸部領域に対応する位置情報を用いて、胸部92の基準位置を特定する。同様に、位置特定部114は、安静状態の撮影画像52において特定された腹部領域に対応する位置情報を用いて、腹部94の基準位置を特定する。なお、位置特定部114は、被験者90の胸部92及び腹部94を含む胴体(体幹)の基準位置を特定してもよい。
ここで、位置特定部114は、胸部92及び腹部94の前後方向の基準位置を特定する。位置特定部114は、胸部92の前後方向の基準位置である胸部基準位置を特定する。同様に、位置特定部114は、腹部94の前後方向の基準位置である腹部基準位置を特定する。例えば、胸部基準位置は、安静状態の呼気時と吸気時との間における、胸部92の表面(前面)の前後方向における平均的な位置であってもよい。同様に、腹部基準位置は、安静状態の呼気時と吸気時との間における、腹部94の表面(前面)の前後方向における平均的な位置であってもよい。なお、位置特定部114は、胸部92及び腹部94を含む胴体の前後方向の基準位置(胴体基準位置)を特定してもよい。
ここで、胸部基準位置は、例えば、安静時の胸部92の表面全体の各箇所における前後方向の位置(仰臥位であれば「高さ」に対応)の平均位置(第1の胸部基準位置)であってもよい。この場合、胸部基準位置は、1個の値で示され得る。
また、胸部基準位置は、例えば、安静時の胸部92の表面における1つ以上の特定箇所(例えば胸部92の胸骨の中央の箇所)の前後方向の位置(第2の胸部基準位置)であってもよい。この場合、胸部基準位置は、特定箇所の数に対応する個数(N個)の値で示され得る。
また、胸部基準位置は、例えば、安静時の胸部92の表面において、上下方向(図6の矢印A1に対応)に所定間隔に並んだM個の箇所それぞれの前後方向の位置(第3の胸部基準位置)であってもよい。この場合、胸部基準位置は、M個の値で示され得る。なお、第3の胸部基準位置において、「上下方向に所定間隔に並んだM個の箇所の前後方向の位置」それぞれは、胸部領域を上下方向に所定間隔で区切り、区切られたエリアの前後方向の平均位置(又は最も前側の位置)であってもよい。
また、胸部基準位置は、安静時の胸部92の表面全体のn個の箇所それぞれの前後方向の位置(第4の胸部基準位置)であってもよい。
これらのことは、腹部基準位置及び胴体基準位置においても同様である。
また、位置特定部114は、被験者90が安静状態であるときに取得された撮影画像52を用いて、胸部92及び腹部94それぞれの左右方向(幅方向)の基準位置(基準幅)を特定する。位置特定部114は、胸部92の左右方向の基準幅である胸部基準幅を特定する。同様に、位置特定部114は、腹部94の左右方向の基準位置である腹部基準幅を特定する。例えば、胸部基準幅は、安静状態の呼気時と吸気時との間における、胸部92の平均的な幅であってもよい。同様に、腹部基準幅は、安静状態の呼気時と吸気時との間における、腹部94の平均的な幅であってもよい。ここで、胸部基準幅は、例えば、安静状態における、胸部92の左端と右端との間の距離であってもよい。同様に、腹部基準幅は、例えば、安静状態における、腹部94の左端と右端との間の距離であってもよい。
なお、位置特定部114は、呼気時の胸部92の幅の閾値Th1を設定してもよい。閾値Th1は、呼気時に息を十分吐き切ったときの胸部92の幅に対応する。したがって、呼気時に閾値Th1まで胸部92の幅が狭くなれば、肋骨の内旋が十分に行われていると言える。したがって、閾値Th1は、呼気時の胸部幅の目標値であるともいえる。閾値Th1は、被験者90の呼吸状態を確認した指導者によって、適宜、設定される。閾値Th1は、胸部基準幅よりも小さい値である。したがって、胸部基準幅を0とすると、閾値Th1は、負の値となる。
画像取得部112は、呼吸トレーニングを行っている被験者90の画像を取得する(ステップS106)。具体的には、指導者は被験者90に対して呼吸トレーニングを行うことを指示し、撮像装置30は、その状態の被験者90を撮影する。これにより、画像取得部112は、呼吸トレーニングを行っている被験者90の画像を取得する。なお、画像取得部112は、好ましくは、呼吸トレーニングを行っている被験者90の動画像を取得する。これにより、後述するように、情報処理装置100は、胸部92及び腹部94の変位量等の推移を検出することができる。
なお、S106及び後述するS110~S132の処理は、取得された動画像の各フレームに対して、実行され得る。つまり、被験者90が呼吸トレーニングを行っている間、継続して、S106~S132の処理が実行される。言い換えると、呼吸トレーニングを行っている被験者90を撮影して得られた動画像の、あるフレームに対してS110~S132の処理が実行され、次のフレームが取得されたときに、その次のフレームに対して、S110~S132の処理が実行される。なお、必要に応じて、後述するS140~S142の処理も、各フレームに対して、実行されてもよい。
変位量検出部116は、胸部92及び腹部94それぞれの基準位置からの変位量を検出する(ステップS110)。具体的には、変位量検出部116は、胸部92及び腹部94の前後方向の位置(仰臥位であれば「高さ」に対応)の変化を検出する。さらに具体的には、変位量検出部116は、S106の処理で取得された被験者90の撮影画像52における胸部領域及び腹部領域を特定する。この特定は、S104において胸部92及び腹部94それぞれに対応する領域を特定した処理を用いて行われてもよい。
また、変位量検出部116は、S104の処理で胸部92及び腹部94それぞれの前後方向の基準位置を特定したときと同様にして、胸部92及び腹部94それぞれの前後方向の位置(仰臥位であれば「高さ」に対応)を検出する。具体的には、変位量検出部116は、S106の処理で取得された撮影画像52において特定された胸部領域に対応する位置情報を用いて、胸部92の前後方向の位置(胸部位置)を検出する。同様にして、変位量検出部116は、S106の処理で取得された撮影画像52において特定された腹部領域に対応する位置情報を用いて、腹部94の前後方向の位置(腹部位置)を検出する。
さらに、変位量検出部116は、S104で特定された胸部基準位置に対する、胸部位置の変位量を算出する。変位量検出部116は、胸部位置と胸部基準位置との差分を、変位量(胸部変位量)として算出する。ここで、胸部位置が胸部基準位置よりも前側である場合、つまり胸部92が安静時よりも拡張している場合、変位量の符号は正(+)となる。一方、胸部位置が胸部基準位置よりも後側である場合、つまり胸部92が安静時よりも収縮している場合、変位量の符号は負(-)となる。したがって、変位量検出部116は、胸部位置の値から胸部基準位置の値を減算することによって、胸部92の変位量を算出する。
また、変位量検出部116は、S104で特定された腹部基準位置に対する、腹部位置の変位量を算出する。変位量検出部116は、腹部位置と腹部基準位置との差分を、変位量(腹部変位量)として算出する。ここで、腹部位置が腹部基準位置よりも前側である場合、つまり腹部94が安静時よりも拡張している場合、変位量の符号は正(+)となる。一方、腹部位置が腹部基準位置よりも後側である場合、つまり腹部94が安静時よりも収縮している場合、変位量の符号は負(-)となる。したがって、変位量検出部116は、腹部位置の値から腹部基準位置の値を減算することによって、腹部94の変位量を算出する。
なお、変位量検出部116は、胸部92及び腹部94と同様にして、胸部92及び腹部94を含む胴体の前後方向の変位量を検出してもよい。この場合、変位量検出部116は、胴体の前後方向の位置(仰臥位であれば「高さ」に対応)である胴体位置を検出し、検出された胴体位置から胴体基準位置を減算して得られた差分を、胴体の変位量(胴体変位量)として算出する。
なお、胸部基準位置が安静時の胸部92の表面全体の平均位置(上述の第1の胸部基準位置)である場合、変位量検出部116は、胸部92の表面の各箇所における前後方向の位置の平均位置を、胸部位置(第1の胸部位置)として算出する。そして、変位量検出部116は、算出された第1の胸部位置と第1の胸部基準位置との差分を算出する。
また、胸部基準位置が安静時の胸部92の表面における特定箇所の前後方向の位置(上述の第2の胸部基準位置)である場合、変位量検出部116は、S110の処理で特定された胸部領域において、特定箇所の前後方向の位置(第2の胸部位置)を検出する。そして、変位量検出部116は、検出された第2の胸部位置と、それに対応する箇所の第2の胸部基準位置との差分(変位量)を算出する。この場合、さらに、変位量検出部116は、N個の特定箇所ごとに得られたN個の差分の合計又は平均値を、変位量として算出してもよい。
また、胸部基準位置が上述の第3の胸部基準位置である場合、変位量検出部116は、S110の処理で特定された胸部領域の上下方向に所定間隔に並んだM個の箇所それぞれの前後方向の位置を、胸部位置(第3の胸部位置)として算出する。そして、変位量検出部116は、算出された第3の胸部位置と、それに対応する箇所の第3の胸部基準位置との差分(変位量)を算出する。この場合、さらに、変位量検出部116は、算出されたM個の箇所ごとに得られたM個の差分の合計又は平均値を、変位量として算出してもよい。
また、胸部基準位置が上述の第4の胸部基準位置である場合、変位量検出部116は、S110の処理で特定された胸部領域の全体のn個の箇所それぞれの前後方向の位置を、胸部位置(第4の胸部位置)として算出する。そして、変位量検出部116は、第4の胸部位置と、それに対応する箇所の第4の胸部基準位置との差分(変位量)を算出する。そして、さらに、変位量検出部116は、算出されたn個の差分(変位量)の合計を、変位量の総和として算出してもよい。
これらのことは、腹部変位量及び胴体変位量についても同様である。
表示制御部130は、変位量画像を表示するための制御を行う(ステップS112)。なお、変位量画像とは、上述した動き画像であって、前後方向の変位量を示す画像である。表示制御部130は、胸部変位量画像及び腹部変位量画像を表示するための制御を行う。ここで、「胸部変位量画像」は、上述した胸部動き画像であって、胸部92の胸部基準位置からの変位量を示す画像(変位量画像)である。つまり、胸部変位量画像は、胸部基準位置に対する胸部位置の変位量(胸部変位量)を示す画像である。また、「腹部変位量画像」は、上述した腹部動き画像であって、腹部94の腹部基準位置からの変位量を示す画像(変位量画像)である。つまり、腹部変位量画像は、腹部基準位置に対する腹部位置の変位量(腹部変位量)を示す画像である。
ここで、表示制御部130は、胸部変位量と腹部変位量とが互いに同期している場合に、胸部変位量画像の表示形態と腹部変位量画像の表示形態とが互いに同じとなるように、制御を行う。一方、表示制御部130は、胸部変位量と腹部変位量とが互いに同期していない場合に、胸部変位量画像の表示形態と腹部変位量画像の表示形態とが互いに異なるように、制御を行う。
ここで、「胸部変位量と腹部変位量とが互いに同期している」場合とは、胸部変位量の符号(正負)と腹部変位量の符号(正負)とが、互いに同じである場合である。逆に、「胸部変位量と腹部変位量とが互いに同期していない」場合とは、胸部変位量の符号(正負)と腹部変位量の符号(正負)とが、互いに異なる場合である。したがって、表示制御部130は、胸部変位量の符号と腹部変位量の符号とが互いに同じ場合に、胸部変位量画像の表示形態と腹部変位量画像の表示形態とが互いに同じとなるように、制御を行う。一方、表示制御部130は、胸部変位量の符号と腹部変位量の符号とが互いに異なる場合に、胸部変位量画像の表示形態と腹部変位量画像の表示形態とが互いに異なるように、制御を行う。
なお、「表示形態」は、例えば、色表現である。この場合、表示制御部130は、胸部変位量と腹部変位量とが互いに同期している場合に、胸部変位量画像の色表現と腹部変位量画像の色表現とが互いに同じとなるように、制御を行う。つまり、表示制御部130は、胸部変位量の符号と腹部変位量の符号とが互いに同じ場合に、胸部変位量画像の色表現と腹部変位量画像の色表現とが互いに同じとなるように、制御を行う。一方、表示制御部130は、胸部変位量の符号と腹部変位量の符号とが互いに異なる場合に、胸部変位量画像の色表現と腹部変位量画像の色表現とが互いに異なるように、制御を行う。なお、表示形態は、色表現に限られない。実施の形態1では、「表示形態」を色表現であるとする。
例えば、表示制御部130は、胸部変位量画像及び腹部変位量画像それぞれについて、変位量の符号が「正」である場合に、変位量が赤色で表示されるように、制御を行う。したがって、胸部変位量の符号が「正」である場合に、胸部変位量画像は赤色で表示される。同様に、腹部変位量の符号が「正」である場合に、腹部変位量画像は赤色で表示される。一方、表示制御部130は、胸部変位量画像及び腹部変位量画像それぞれについて、変位量の符号が「負」である場合に、変位量が青色で表示されるように、制御を行う。したがって、胸部変位量の符号が「負」である場合に、胸部変位量画像は青色で表示される。同様に、腹部変位量の符号が「負」である場合に、腹部変位量画像は青色で表示される。
表示制御部130は、変位量画像を表示させるための指示を示すデータ(変位量画像表示指示データ)を生成して、表示装置40に送信する。変位量画像表示指示データは、変位量と、変位量の符号に応じて表示すべき色表現とを示してもよい。特に、変位量画像表示指示データは、胸部変位量及び胸部変位量の符号に応じて表示すべき色表現と、腹部変位量及び腹部変位量に応じて表示すべき色表現とを示してもよい。また、変位量画像表示指示データは、胴体変位量及び胴体変位量の符号に応じて表示すべき色表現を示してもよい。これにより、表示装置40は、変位量の符号に応じた色表現で、変位量画像を表示する。
また、表示制御部130は、呼吸トレーニングの進行に合わせて変位量画像がリアルタイムで変化して表示されるように、制御を行う。つまり、表示制御部130は、被験者90の呼吸トレーニングの進行に合わせて変化する変位量画像を、表示装置40に表示させる。言い換えると、表示制御部130は、被験者90の呼吸トレーニングの進行に合わせて変化する変位量画像(動き画像)が、当該呼吸トレーニングの進行中に表示されるように、制御を行う。さらに言い換えると、表示制御部130は、呼吸トレーニング中のあるタイミングにおける変位量に対応する変位量画像が、そのタイミングで表示されるように、制御を行う。例えば、時刻t1で変位量が検出されたときに時刻t1+Δtで変位量画像が表示されるようにしてもよい。ここで、Δtは微小時間である。Δtは、情報処理装置100及び表示装置40の処理能力及び情報処理装置100と表示装置40との間の通信環境に応じて定まり得る。
また、表示制御部130は、呼吸トレーニングを行っている被験者90の撮影画像の各フレームが取得されるごとに変位量画像表示指示データを生成して、表示装置40に送信する。これにより、表示制御部130は、呼吸トレーニングの進行に伴って変化する変位量画像を、表示装置40に表示させることができる。
図7~図11は、実施の形態1にかかる表示制御部130の制御によって表示装置40で表示され、胸部92及び腹部94の前後方向の変位量を示した表示画面200を例示する図である。図7は、胸部92の前後方向の変位量(胸部変位量)の符号と腹部94の前後方向の変位量(腹部変位量)の符号とがともに正である場合の、表示画面200を示している。また、図7は、呼吸トレーニング中のあるタイミングにおける変位量を表示する表示画面200を示している。図7に例示した表示画面200は、そのタイミングで、表示装置40に表示される。つまり、図7に例示した表示画面200は、呼吸トレーニング中にリアルタイムで表示装置40に表示される。
図7に例示した表示画面200は、胸部変位量画面210と、腹部変位量画面220と、胴体変位量画面230とを表示している。なお、表示画面200は、胸部変位量画面210及び腹部変位量画面220のみを表示して胴体変位量画面230を表示しなくてもよい。あるいは、表示画面200は、胴体変位量画面230のみを表示して胸部変位量画面210及び腹部変位量画面220を表示しなくてもよい。このことは、以下に説明する図8等においても同様である。
図7において、胸部変位量画面210には、胸部変位量の符号が正であることを示す胸部変位量画像212rdが表示されている。また、腹部変位量画面220には、腹部変位量の符号が正であることを示す腹部変位量画像222rdが表示されている。ここで、胸部変位量画像212rd及び腹部変位量画像222rdは、互いに同じ色表現である赤色で描画されている。なお、胸部変位量画像212rd及び腹部変位量画像222rdの縦方向の長さは、変位量のスカラー値を示している。つまり、胸部変位量画像212rdは、表示画面200(胸部変位量画像212rd)が表示されたタイミングにおける胸部変位量を示している。同様に、腹部変位量画像222rdは、表示画面200(腹部変位量画像222rd)が表示されたタイミングにおける腹部変位量を示している。
ここで、時間経過に伴って、胸部変位量及び腹部変位量は変化する。したがって、表示画面200において、胸部変位量画像212及び腹部変位量画像222は、時間経過に伴って変化する。このことは、図8等においても同様である。
ここで、図7の例では、胸部変位量の符号と腹部変位量の符号とがともに正であるので、胸部変位量と腹部変位量とが互いに同期している。そして、胸部変位量画像212rd及び腹部変位量画像222rdは、ともに赤色で描画されている。したがって、図7の例では、胸部変位量画像212rd及び腹部変位量画像222rdは、胸部変位量と腹部変位量とが互いに同期していることが視覚的に容易に認識可能に、表示されている。したがって、図7に示した表示画面200を見た被験者90は、胸部92の動きと腹部94の動きとが、互いに同期していることを、容易に認識することができる。したがって、被験者90は、自身の呼吸状態を容易に認識することができる。
また、図7において、胴体変位量画面230は、呼吸トレーニング中の被験者90の胴体の3次元点群に対応する点の集合(ドット列)を表示している。胴体変位量画面230において、図7の上方向が被験者90の前方向に対応し、下方向が被験者90の後方向に対応する。また、胴体変位量画面230は、被験者90の胸部92に対応する範囲及び腹部94に対応する範囲を、表示している。
図7において、胴体基準位置ドット列232bkが、黒色の円でそれぞれ形成された複数のドットで構成されるドット列で示されている。胴体基準位置ドット列232bkは、胴体基準位置を示している。表示画面200において、胴体基準位置ドット列232bkは、黒色で描かれている。胴体基準位置ドット列232bkを構成する各ドットは、安静時の被験者90の胴体表面の、そのドットに対応する被験者90の上下方向(図7の左右方向)の各箇所における、前後方向の位置(仰臥位では「高さ」に対応)を示している。
また、図7において、胴体位置ドット列234rdが、白抜きの円でそれぞれ形成された複数のドットで構成されるドット列で示されている。胴体位置ドット列234rdを構成する各ドットは、トレーニング中の被験者90の胴体表面の、そのドットに対応する被験者90の上下方向(図7の左右方向)の各箇所における、前後方向の位置(仰臥位では「高さ」に対応)を示している。つまり、胴体位置ドット列234rdは、表示画面200(胴体位置ドット列234rd)が表示されたタイミングにおける胴体変位量を示している。つまり、胴体位置ドット列234rdは、上述した変位量画像に対応する。そして、胴体位置ドット列234rdは、胴体位置が胴体基準位置よりも前側にある場合(つまり胴体変位量が正である場合)に、赤色で描画される。
ここで、時間経過に伴って、胴体変位量は変化する。したがって、表示画面200において、胴体位置ドット列234は、時間経過に伴って変化する。このことは、図8等においても同様である。
ここで、胸部変位量画像212rd及び腹部変位量画像222rdに示すように、図7の表示画面200が表示されたタイミングでは、胸部92及び腹部94の表面は、ともに、基準位置よりも前側に位置している。したがって、このタイミングでは、図7に例示した胴体変位量画面230において、胴体位置ドット列234rdの全体が、胴体基準位置ドット列232bkよりも上側に位置している。したがって、表示画面200において、胴体位置ドット列234rdの全体が、赤色で描かれている。このように、胴体変位量画面230において、胴体位置ドット列234rdの全体が赤色で描画されているので、胸部変位量と腹部変位量とが互いに同期していることが視覚的に容易に認識可能に、表示されている。したがって、表示画面200を見た被験者90は、胸部92の動きと腹部94の動きとが、互いに同期していることを、容易に認識することができる。また、胴体変位量画面230のように、胸部92の動きと腹部94の動きとを模式的に示すことで、被験者90は、胸部92の動きと腹部94の動きとがどのように同期しているかを、視覚的に容易に認識することができる。
なお、上述した特許文献1では、COPD(chronic obstructive pulmonary disease:慢性閉塞性肺疾患)の患者の胸部の呼吸速度と腹部の呼吸速度との位相差(特に呼気のピークのずれ)を検出することで、当該患者の診断を支援することを、開示している。しかしながら、努力呼気の終末相では、胸部及び腹部の表面位置の変化速度が限りなく小さくなるため、上記の位相差を検出することが困難である。これに対し、実施の形態1では、胸部の表面の位置の変位量と腹部の表面の位置の変位量とを比較することができる。したがって、努力呼気の終末相においても、適切に、胸部の動きと腹部の動きとが同期しているか否かを認識することが可能となる。したがって、効率的に運動機能を高めるエクササイズを支援することができる。
図8は、胸部92の前後方向の変位量(胸部変位量)の符号と腹部94の前後方向の変位量(腹部変位量)の符号とがともに負である場合の、表示画面200を示している。また、図7と同様に、図8は、呼吸トレーニング中のあるタイミングにおける変位量を表示する表示画面200を示している。図8に例示した表示画面200は、そのタイミングで、表示装置40に表示される。
図7と同様に、図8に例示した表示画面200は、胸部変位量画面210と、腹部変位量画面220と、胴体変位量画面230とを表示している。図8において、胸部変位量画面210には、胸部変位量の符号が負であることを示す胸部変位量画像212buが表示されている。また、腹部変位量画面220には、腹部変位量の符号が負であることを示す腹部変位量画像222buが表示されている。ここで、胸部変位量画像212bu及び腹部変位量画像222buは、互いに同じ色表現である青色で描画されている。なお、胸部変位量画像212bu及び腹部変位量画像222buの縦方向の長さは、変位量のスカラー値を示している。つまり、胸部変位量画像212rdと同様に、胸部変位量画像212buは、表示画面200(胸部変位量画像212bu)が表示されたタイミングにおける胸部変位量を示している。同様に、腹部変位量画像222buは、表示画面200(腹部変位量画像222bu)が表示されたタイミングにおける腹部変位量を示している。
ここで、図8の例では、胸部変位量の符号と腹部変位量の符号とがともに負であるので、胸部変位量と腹部変位量とが互いに同期している。そして、胸部変位量画像212bu及び腹部変位量画像222buは、ともに青色で描画されている。したがって、図8の例では、胸部変位量画像212bu及び腹部変位量画像222buは、胸部変位量と腹部変位量とが互いに同期していることが視覚的に容易に認識可能に、表示されている。したがって、図8に示した表示画面200を見た被験者90は、胸部92の動きと腹部94の動きとが、互いに同期していることを、容易に認識することができる。したがって、被験者90は、自身の呼吸状態を容易に認識することができる。
また、図7と同様に、図8において、胴体変位量画面230は、呼吸トレーニング中の被験者90の胴体の3次元点群に対応する点の集合(ドット列)を表示している。胴体基準位置ドット列232bkは、図7に示したものと実質的に同様である。また、図8において、胴体位置ドット列234buが、白抜きの三角形でそれぞれ形成された複数のドットで構成されるドット列で示されている。胴体位置ドット列234rdと同様に、胴体位置ドット列234buは、表示画面200(胴体位置ドット列234bu)が表示されたタイミングにおける胴体変位量を示している。つまり、胴体位置ドット列234buは、上述した変位量画像に対応する。そして、胴体位置ドット列234buは、胴体位置が胴体基準位置よりも後側にある場合(つまり胴体変位量が負である場合)に、青色で描画される。
ここで、胸部変位量画像212bu及び腹部変位量画像222buに示すように、図8の表示画面200が表示されたタイミングでは、胸部92及び腹部94の表面は、ともに、基準位置よりも後側に位置している。したがって、図8に例示した胴体変位量画面230において、胴体位置ドット列234buの全体が、胴体基準位置ドット列232bkよりも下側に位置している。したがって、表示画面200において、胴体位置ドット列234buの全体が、青色で描かれている。このように、胴体変位量画面230において、胴体位置ドット列234buの全体が青色で描画されているので、胸部変位量と腹部変位量とが互いに同期していることが視覚的に容易に認識可能に、表示されている。したがって、表示画面200を見た被験者90は、胸部92の動きと腹部94の動きとが、互いに同期していることを、容易に認識することができる。また、図7と同様に、胴体変位量画面230のように、胸部92の動きと腹部94の動きとを模式的に示すことで、被験者90は、胸部92の動きと腹部94の動きとがどのように同期しているかを、視覚的に容易に認識することができる。したがって、被験者90は、自身の呼吸状態を容易に認識することができる。
図9は、胸部92の前後方向の変位量(胸部変位量)の符号と腹部94の前後方向の変位量(腹部変位量)の符号とが互いに異なる場合の、表示画面200を示している。図9は、胸部変位量の符号が負であり、腹部変位量の符号が正である場合の、表示画面200を示している。また、図7等と同様に、図9は、呼吸トレーニング中のあるタイミングにおける変位量を表示する表示画面200を示している。図9に例示した表示画面200は、そのタイミングで、表示装置40に表示される。
図7等と同様に、図9に例示した表示画面200は、胸部変位量画面210と、腹部変位量画面220と、胴体変位量画面230とを表示している。図9において、胸部変位量画面210には、胸部変位量の符号が負であることを示す胸部変位量画像212buが、青色で表示されている。また、腹部変位量画面220には、腹部変位量の符号が正であることを示す腹部変位量画像222rdが、赤色で表示されている。したがって、胸部変位量画像212bu及び腹部変位量画像222rdは、互いに異なる色表現で描画されている。
ここで、図9の例では、胸部変位量の符号が負であり腹部変位量の符号が正であるので、胸部変位量と腹部変位量とが互いに同期していない。そして、胸部変位量画像212buは青色で描画され、腹部変位量画像222rdは、赤色で描画されている。つまり、胸部変位量画像212bu及び腹部変位量画像222rdが、互いに異なる色表現で描画されている。したがって、図9の例では、胸部変位量画像212bu及び腹部変位量画像222rdは、胸部変位量と腹部変位量とが互いに同期していないことが視覚的に容易に認識可能に、表示されている。したがって、図9に示した表示画面200を見た被験者90は、胸部92の動きと腹部94の動きとが、互いに同期していないことを、容易に認識することができる。
また、図7と同様に、図9において、胴体変位量画面230は、呼吸トレーニング中の被験者90の胴体の3次元点群に対応する点の集合(ドット列)を表示している。胴体基準位置ドット列232bkは、図7に示したものと実質的に同様である。また、図9において、胴体変位量画面230は、赤色で描画された胴体位置ドット列234rdと、青色で描画された胴体位置ドット列234buとを表示している。
ここで、胸部変位量画像212bu及び腹部変位量画像222rdに示すように、図9の表示画面200が表示されたタイミングでは、胸部92の表面は基準位置よりも後側に位置し、腹部94の表面は基準位置よりも前側に位置している。したがって、図9に例示した胴体変位量画面230において、胸部92に対応する箇所では、胴体基準位置ドット列232bkよりも下側に、青色で描画された胴体位置ドット列234buが表示される。一方、腹部94に対応する箇所では、胴体基準位置ドット列232bkよりも上側に、赤色で描画された胴体位置ドット列234rdが表示される。このように、図9に例示した胴体変位量画面230では、基準位置よりも前側に位置している胴体部分では、胴体基準位置ドット列232bkよりも上側に胴体位置ドット列234rdが表示される。一方、基準位置よりも後側に位置している胴体部分では、胴体基準位置ドット列232bkよりも下側に胴体位置ドット列234buが表示される。
このように、胴体変位量画面230において、胴体位置ドット列234rd,234buが互いに異なる色表現で表示されているので、胸部変位量と腹部変位量とが互いに同期していないことが視覚的に容易に認識可能に、表示されている。したがって、表示画面200を見た被験者90は、胸部92の動きと腹部94の動きとが、互いに同期していないことを、容易に認識することができる。また、図7と同様に、胴体変位量画面230のように、胸部92の動きと腹部94の動きとを模式的に示すことで、被験者90は、胸部92の動きと腹部94の動きとがどのように同期していないかを、視覚的に容易に認識することができる。したがって、被験者90は、自身の呼吸状態を容易に認識することができる。
また、図7~図9に例示した表示画面200は、この表示画面200が表示されたタイミングにおける変位量を表示している。したがって、表示画面200は、被験者90の呼吸トレーニング中にリアルタイムで変位量を表示している。したがって、表示画面200を見た被験者90は、自分の呼吸トレーニング中に、現在のタイミングにおける呼吸方法が正しいのか否かを、即座に認識することができる。つまり、図7及び図8に示した表示画面200を見た被験者90は、自分の呼吸トレーニング中に、現在のタイミングにおける呼吸方法が正しいことを、即座に認識することができる。一方、図9に示した表示画面200を見た被験者90は、自分の呼吸トレーニング中に、現在のタイミングにおける呼吸方法が正しくないことを、即座に認識することができる。したがって、被験者90は、自身の呼吸状態を、リアルタイムで容易に認識することができる。
また、表示画面200において、呼吸トレーニングの時間経過に伴って、胸部変位量画像212、腹部変位量画像222及び胴体位置ドット列234の表示は、変化する。したがって、表示画面200を見た被験者90は、呼吸トレーニングの時間経過に伴って自己の胸部92及び腹部94(及び胴体)がどのような動きをしているかを、視覚的に容易に認識することができる。
図10及び図11は、変位量の履歴を表示する変位量履歴画面240が表示された表示画面200を例示する図である。図10は、図7に例示した表示画面200に変位量履歴画面240が表示された場合を例示している。図11は、図9に例示した表示画面200に変位量履歴画面240が表示された場合を例示している。なお、変位量履歴画面240は、図7等に示した胸部変位量画面210、腹部変位量画面220及び胴体変位量画面230とは別個に表示されてもよい。
変位量履歴画面240は、縦軸を胸部92及び腹部94それぞれの変位量とし、横軸を撮影された動画像のフレーム数の推移とするグラフを表示している。つまり、変位量履歴画面240に示されたグラフにおいて、横軸は、時間の経過を示している。したがって、変位量履歴画面240は、胸部変位量及び腹部変位量の時系列データを示している。例えば、撮像装置30のフレームレートが15fps(frames per second)である場合、横軸のフレーム数「600」におけるデータは、撮影開始から40秒後のデータに対応する。また、変位量履歴画面240において、胸部92に対応する点及び腹部94に対応する点は、それぞれ、対応するフレーム数が得られたタイミングの胸部92の変位量(胸部変位量)及び腹部94の変位量(腹部変位量)を示している。
なお、変位量履歴画面240は、呼吸トレーニング中に、時間経過に伴って変化する変位量の履歴の画像を表示してもよい。したがって、時間経過に伴って、変位量履歴画面240の表示は変化する。また、図10及び図11では、胸部変位量及び腹部変位量が、同じグラフに示されているが、別のグラフに示されてもよい。
図10に例示した変位量履歴画面240では、胸部変位量の変化を示すグラフ形状(波形)の位相と腹部変位量の変化を示すグラフ形状(波形)の位相とが、概ね一致している。つまり、胸部変位量が減少するタイミングと略同じタイミングで腹部変位量も減少し、胸部変位量が増加するタイミングと略同じタイミングで腹部変位量も増加する。したがって、図10に例示した変位量履歴画面240により、胸部92の動き(変位量)と腹部94の動き(変位量)とが、同期していることが認識できる。したがって、被験者90は、自身の呼吸状態を容易に認識することができる。
一方、図11に例示した変位量履歴画面240では、胸部変位量の変化を示すグラフ形状(波形)の位相と腹部変位量の変化を示すグラフ形状(波形)位相とが、一致していない。具体的には、矢印Bで示す箇所では、胸部変位量が減少しているタイミングで、腹部変位量が増加してしまっている。したがって、図11に例示した変位量履歴画面240により、矢印Bで示す箇所で、胸部92の動きと腹部94の動きとが同期しない非同期呼吸が発生していることが、認識できる。したがって、被験者90は、自身の呼吸状態を容易に認識することができる。
図5に示すフローチャートの説明に戻る。動き方向検出部118は、胸部92及び腹部94それぞれの動き方向を検出する(ステップS120)。ここで、「動き方向」とは、胸部92及び腹部94それぞれの表面が動いている方向である。つまり、動き方向は、胸部92及び腹部94それぞれの表面が、前方向及び後方向のどちらに動いているかを示す。言い換えると、動き方向は、変位量の変化(増減)の方向である。つまり、変位量が増加している場合、つまり被験者90が吸気を行っている場合、動き方向は前方向(正方向)である。一方、変位量が減少している場合、つまり被験者90が呼気を行っている場合、動き方向は後方向(負方向)である。さらに言い換えると、動き方向は、変位量の変化速度の向きとも言える。
具体的には、動き方向検出部118は、現在の胸部92の変位量から所定時間前の胸部92の変位量を減算する。動き方向検出部118は、減算して得られた値が0以上である場合に、胸部92の動き方向が正方向(前方向)であると判定する。一方、動き方向検出部118は、減算して得られた値が0未満である場合に、胸部92の動き方向が負方向(後方向)であると判定する。
同様に、動き方向検出部118は、現在の腹部94の変位量から所定時間前の腹部94の変位量を減算する。動き方向検出部118は、減算によって得られた値が0以上である場合に、腹部94の動き方向が正方向(前方向)であると判定する。一方、動き方向検出部118は、減算によって得られた値が0未満である場合に、腹部94の動き方向が負方向(後方向)であると判定する。
なお、「所定時間」は、例えば1秒であってもよい。この場合、動き方向は、変位量の変化速度の向きに対応し得る。あるいは、「所定時間」は、フレームレートの逆数であってもよい。この場合、処理対象のフレームに関する動き方向は、その処理対象のフレームの1つ前のフレームについて検出された変位量からの変化の方向に対応する。したがって、この場合、動き方向検出部118は、処理対象のフレームに関する変位量から、その処理対象のフレームの1つ前のフレームに関する変位量を減算することによって、動き方向を検出する。
表示制御部130は、方向画像を表示するための制御を行う(ステップS122)。表示制御部130は、上述した動き画像であって、前後方向の動き方向を示す画像である方向画像を表示するための制御を行う。表示制御部130は、胸部方向画像及び腹部方向画像を表示するための制御を行う。ここで、「胸部方向画像」は、上述した胸部動き画像であって、胸部92の動き方向(胸部動き方向)を示す画像(方向画像)である。つまり、胸部方向画像は、胸部92の変位量の変化(増減)の方向を示す画像である。また、「腹部方向画像」は、上述した腹部動き画像であって、腹部94の動き方向(腹部動き方向)を示す画像(方向画像)である。つまり、腹部方向画像は、腹部94の変位量の変化(増減)の方向を示す画像である。
ここで、表示制御部130は、胸部動き方向と腹部動き方向とが互いに同期している場合に、胸部方向画像の表示形態と腹部方向画像の表示形態とが互いに同じとなるように、制御を行う。一方、表示制御部130は、胸部動き方向と腹部動き方向とが互いに同期していない場合に、胸部方向画像の表示形態と腹部方向画像の表示形態とが互いに異なるように、制御を行う。
ここで、「胸部動き方向と腹部動き方向とが互いに同期している」場合とは、胸部動き方向(正方向又は負方向)と腹部動き方向(正方向又は負方向)とが、互いに同じである場合である。逆に、「胸部動き方向と腹部動き方向とが互いに同期していない」場合とは、胸部動き方向(正方向又は負方向)と腹部動き方向(正方向又は負方向)とが、互いに異なる場合である。したがって、表示制御部130は、胸部動き方向と腹部動き方向とが互いに同じ場合に、胸部方向画像の表示形態と腹部方向画像の表示形態とが互いに同じとなるように、制御を行う。一方、表示制御部130は、胸部動き方向と腹部動き方向とが互いに異なる場合に、胸部方向画像の表示形態と腹部方向画像の表示形態とが互いに異なるように、制御を行う。
なお、「表示形態」は、例えば、色表現である。この場合、表示制御部130は、胸部動き方向と腹部動き方向とが互いに同期している場合に、胸部方向画像の色表現と腹部方向画像の色表現とが互いに同じとなるように、制御を行う。つまり、表示制御部130は、胸部動き方向と腹部動き方向とが互いに同じ場合に、胸部方向画像の色表現と腹部方向画像の色表現とが互いに同じとなるように、制御を行う。一方、表示制御部130は、胸部動き方向と腹部動き方向とが互いに異なる場合に、胸部方向画像の色表現と腹部方向画像の色表現とが互いに異なるように、制御を行う。なお、表示形態は、色表現に限られない。実施の形態1では、「表示形態」を色表現であるとする。
例えば、表示制御部130は、胸部方向画像及び腹部方向画像それぞれについて、動き方向が「正方向(前方向)」である場合に、動き方向が赤色で表示されるように、制御を行う。したがって、胸部動き方向が「正方向(前方向)」である場合に、胸部方向画像は赤色で表示される。同様に、腹部動き方向が「正方向(前方向)」である場合に、腹部方向画像は赤色で表示される。一方、表示制御部130は、胸部方向画像及び腹部方向画像それぞれについて、動き方向が「負方向(後方向)」である場合に、動き方向が青色で表示されるように、制御を行う。したがって、胸部動き方向が「負方向(後方向)」である場合に、胸部方向画像は青色で表示される。同様に、腹部動き方向が「負方向(後方向)」である場合に、腹部方向画像は青色で表示される。
表示制御部130は、方向画像を表示させるための指示を示すデータ(方向画像表示指示データ)を生成して、表示装置40に送信する。方向画像表示指示データは、動き方向と、動き方向に応じて表示すべき色表現とを示してもよい。特に、方向画像表示指示データは、胸部動き方向及び胸部動き方向に応じて表示すべき色表現と、腹部動き方向及び腹部動き方向に応じて表示すべき色表現とを示してもよい。また、方向画像表示指示データは、胴体動き方向及び胴体動き方向に応じて表示すべき色表現を示してもよい。これにより、表示装置40は、動き方向に応じた色表現で、方向画像を表示する。
また、表示制御部130は、呼吸トレーニングの進行に合わせて方向画像がリアルタイムで変化して表示されるように、制御を行う。つまり、表示制御部130は、被験者90の呼吸トレーニングの進行に合わせて変化する方向画像を、表示装置40に表示させる。言い換えると、表示制御部130は、被験者90の呼吸トレーニングの進行に合わせて変化する方向画像(動き画像)が、当該呼吸トレーニングの進行中に表示されるように、制御を行う。さらに言い換えると、表示制御部130は、呼吸トレーニング中のあるタイミングにおける変位量の変化に対応する方向画像が、そのタイミングで表示されるように、制御を行う。
また、表示制御部130は、呼吸トレーニングを行っている被験者90の撮影画像の各フレームが取得されるごとに方向画像表示指示データを生成して、表示装置40に送信する。これにより、表示制御部130は、呼吸トレーニングの進行に伴って変化する方向画像を、表示装置40に表示させることができる。
図12~図14は、実施の形態1にかかる表示制御部130の制御によって表示装置40で表示され、胸部92及び腹部94の前後方向の動き方向を示した表示画面200を例示する図である。図12は、胸部92の前後方向の動き方向(胸部動き方向)と腹部94の前後方向の動き方向(腹部動き方向)とがともに正方向(前方向)である場合の、表示画面200を示している。
また、図12は、呼吸トレーニング中のあるタイミングにおける動き方向(変位量の変化の方向)を表示する表示画面200を示している。図12に例示した表示画面200は、そのタイミングで、表示装置40に表示される。つまり、図12に例示した表示画面200は、呼吸トレーニング中にリアルタイムで表示装置40に表示される。
図12に例示した表示画面200は、胸部方向画面250と、腹部方向画面260とを表示している。なお、表示画面200は、図7等に例示した胸部変位量画面210、腹部変位量画面220及び胴体変位量画面230とともに、胸部方向画面250及び腹部方向画面260を表示してもよい。このことは、図13等においても同様である。
図12において、胸部方向画面250には、胸部動き方向が正方向であることを示す胸部方向画像252rdが表示されている。また、腹部方向画面260には、腹部動き方向が正方向であることを示す腹部方向画像262rdが表示されている。ここで、胸部方向画像252rd及び腹部方向画像262rdは、互いに同じ色表現である赤色で描画されている。つまり、胸部方向画像252rdは、表示画面200(胸部方向画像252rd)が表示されたタイミングにおける胸部動き方向を示している。同様に、腹部方向画像262rdは、表示画面200(腹部方向画像262rd)が表示されたタイミングにおける腹部動き方向を示している。なお、胸部方向画像252及び腹部方向画像262の縦方向の長さは、変位量の差、つまり変位量の変化速度のスカラー値を示してもよい。このことは、図13等においても同様である。
ここで、時間経過に伴って、胸部動き方向及び腹部動き方向は変化する。したがって、表示画面200において、胸部方向画像252及び腹部方向画像262は、時間経過に伴って変化する。このことは、図13等においても同様である。
ここで、図12の例では、胸部動き方向と腹部動き方向とがともに正方向(前方向)であるので、胸部動き方向と腹部動き方向とが互いに同期している。そして、胸部方向画像252rd及び腹部方向画像262rdは、ともに赤色で描画されている。したがって、図12の例では、胸部方向画像252rd及び腹部方向画像262rdは、胸部動き方向と腹部動き方向とが互いに同期していることが視覚的に容易に認識可能に、表示されている。したがって、図12に示した表示画面200を見た被験者90は、胸部92の動きと腹部94の動きとが、互いに同期していることを、容易に認識することができる。したがって、被験者90は、自身の呼吸状態を容易に認識することができる。
図13は、胸部92の前後方向の動き方向(胸部動き方向)と腹部94の前後方向の動き方向(腹部動き方向)とがともに負方向(後方向)である場合の、表示画面200を示している。また、図12と同様に、図13は、呼吸トレーニング中のあるタイミングにおける動き方向(変位量の変化の方向)を表示する表示画面200を示している。図13に例示した表示画面200は、そのタイミングで、表示装置40に表示される。
図12と同様に、図13に例示した表示画面200は、胸部方向画面250と、腹部方向画面260とを表示している。図13において、胸部方向画面250には、胸部動き方向が負方向であることを示す胸部方向画像252buが表示されている。また、腹部方向画面260には、腹部動き方向が負方向であることを示す腹部方向画像262buが表示されている。ここで、胸部方向画像252bu及び腹部方向画像262buは、互いに同じ色表現である青色で描画されている。つまり、胸部方向画像252buは、表示画面200(胸部方向画像252bu)が表示されたタイミングにおける胸部動き方向を示している。同様に、腹部方向画像262buは、表示画面200(腹部方向画像262bu)が表示されたタイミングにおける腹部動き方向を示している。
ここで、図13の例では、胸部動き方向と腹部動き方向とがともに負方向(後方向)であるので、胸部動き方向と腹部動き方向とが互いに同期している。そして、胸部方向画像252bu及び腹部方向画像262buは、ともに青色で描画されている。したがって、図13の例では、胸部方向画像252bu及び腹部方向画像262buは、胸部動き方向と腹部動き方向とが互いに同期していることが視覚的に容易に認識可能に、表示されている。したがって、図13に示した表示画面200を見た被験者90は、胸部92の動きと腹部94の動きとが、互いに同期していることを、容易に認識することができる。したがって、被験者90は、自身の呼吸状態を容易に認識することができる。
図14は、胸部92の前後方向の動き方向(胸部動き方向)と腹部94の前後方向の動き方向(腹部動き方向)とが互いに異なる場合の、表示画面200を示している。図14は、胸部動き方向が負方向(後方向)であり、腹部動き方向が正方向(前方向)である場合の、表示画面200を示している。また、図12等と同様に、図14は、呼吸トレーニング中のあるタイミングにおける動き方向(変位量の変化の方向)を表示する表示画面200を示している。図14に例示した表示画面200は、そのタイミングで、表示装置40に表示される。
図12等と同様に、図14に例示した表示画面200は、胸部方向画面250と、腹部方向画面260とを表示している。図14において、胸部方向画面250には、胸部動き方向が負方向であることを示す胸部方向画像252buが、青色で表示されている。また、腹部方向画面260には、腹部動き方向が正方向であることを示す腹部方向画像262rdが、赤色で表示されている。ここで、胸部方向画像252bu及び腹部方向画像262rdは、互いに異なる色表現で描画されている。
ここで、図14の例では、胸部動き方向が負方向(後方向)であり腹部動き方向が正方向(前方向)であるので、胸部動き方向と腹部動き方向とが互いに同期していない。そして、胸部方向画像252buは青色で描画され、腹部方向画像262rdは、赤色で描画されている。したがって、図14の例では、胸部方向画像252bu及び腹部方向画像262rdは、胸部動き方向と腹部動き方向とが互いに同期していないことが視覚的に容易に認識可能に、表示されている。したがって、図14に示した表示画面200を見た被験者90は、胸部92の動きと腹部94の動きとが、互いに同期していないことを、容易に認識することができる。したがって、被験者90は、自身の呼吸状態を容易に認識することができる。
また、図12~図14に例示した表示画面200は、この表示画面200が表示されたタイミングにおける動き方向(変位量の変化の方向)を表示している。したがって、表示画面200は、被験者90の呼吸トレーニング中にリアルタイムで動き方向を表示している。したがって、表示画面200を見た被験者90は、自分の呼吸トレーニング中に、現在のタイミングにおける呼吸方法が正しいのか否かを、即座に認識することができる。つまり、図12及び図13に示した表示画面200を見た被験者90は、自分の呼吸トレーニング中に、現在のタイミングにおける呼吸方法が正しいことを、即座に認識することができる。一方、図14に示した表示画面200を見た被験者90は、自分の呼吸トレーニング中に、現在のタイミングにおける呼吸方法が正しくないことを、即座に認識することができる。したがって、被験者90は、自身の呼吸状態を、リアルタイムに容易に認識することができる。
図5に示すフローチャートの説明に戻る。幅検出部120は、胸部92及び腹部94それぞれの幅の変化を検出する(ステップS130)。つまり、幅検出部120は、胸部92及び腹部94それぞれの、左右方向の変位量を検出する。具体的には、幅検出部120は、胸部92及び腹部94の左右方向(幅方向)の位置を検出する。さらに具体的には、幅検出部120は、S106の処理で取得された被験者90の撮影画像52における胸部領域及び腹部領域を特定する。この特定は、S104において胸部92及び腹部94それぞれに対応する領域を特定した処理を用いて行われてもよい。
また、幅検出部120は、S104の処理で胸部92及び腹部94それぞれの左右方向の基準位置を特定したときと同様にして、胸部92及び腹部94それぞれの左右方向の位置を検出する。具体的には、幅検出部120は、S106の処理で取得された撮影画像52において特定された胸部領域に対応する位置情報を用いて、胸部92の幅(胸部幅)を検出する。同様にして、幅検出部120は、S106の処理で取得された撮影画像52において特定された腹部領域に対応する位置情報を用いて、腹部94の幅(腹部幅)を検出する。
さらに、幅検出部120は、S104で特定された胸部基準幅に対する胸部幅の変位量を算出する。幅検出部120は、胸部幅と胸部基準幅との差分を、左右方向の変位量(胸部幅増減量)として算出する。ここで、胸部幅が胸部基準幅よりも大きい(広い)場合、左右方向の変位量の符号は正(+)となる。一方、胸部幅が胸部基準幅よりも小さい(狭い)場合、左右方向の変位量の符号は負(-)となる。したがって、幅検出部120は、胸部幅の値から胸部基準幅の値を減算することによって、胸部92の左右方向の変位量を算出する。胸部幅は、例えば、胸部92の左端と右端との間の距離であってもよい。
さらに、幅検出部120は、S104で特定された腹部基準幅に対する腹部幅の変位量を算出する。幅検出部120は、腹部幅と腹部基準幅との差分を、左右方向の変位量(腹部幅増減量)として算出する。ここで、腹部幅が腹部基準幅よりも大きい(広い)場合、左右方向の変位量の符号は正(+)となる。一方、腹部幅が腹部基準幅よりも小さい(狭い)場合、左右方向の変位量の符号は負(-)となる。したがって、幅検出部120は、腹部幅の値から腹部基準幅の値を減算することによって、腹部94の左右方向の変位量を算出する。同様に、腹部幅は、例えば、腹部94の左端と右端との間の距離であってもよい。なお、幅検出部120は、腹部94の左右方向の変位量を算出する必要はない。つまり、幅検出部120は、少なくとも胸部92の左右方向の変位量を算出すればよい。
表示制御部130は、幅画像を表示するための制御を行う(ステップS132)。なお、幅画像は、上述した動き画像であって、基準幅からの幅の増減つまり変化(左右方向の変位量)を示す画像である。つまり、表示制御部130は、被験者90の胸部92及び腹部94の左右方向の変位量が表示されるように、制御を行う。表示制御部130は、胸部幅画像及び腹部幅画像を表示するための制御を行う。ここで、「胸部幅画像」は、上述した胸部動き画像であって、胸部92の幅の胸部基準幅からの変化(増減)を示す画像(幅画像)である。つまり、胸部幅画像は、胸部基準幅に対する胸部幅の変位量(胸部幅増減量)を示す画像である。また、「腹部幅画像」は、上述した腹部動き画像であって、腹部94の幅の腹部基準幅からの変化(増減)を示す画像(幅画像)である。つまり、腹部幅画像は、腹部基準幅に対する腹部幅の変位量(腹部幅増減量)を示す画像である。
ここで、表示制御部130は、胸部幅増減量が閾値Th1(<0)を下回っているときとそうでないときとで、胸部幅画像の表示形態が変わるように、制御を行ってもよい。例えば、表示制御部130は、胸部幅増減量が閾値Th1を下回っていないときに胸部幅画像が青色で表示され、胸部幅増減量が閾値Th1を下回っているときに胸部幅画像が赤色で表示されるように、制御を行ってもよい。
表示制御部130は、幅画像を表示させるための指示を示すデータ(幅画像表示指示データ)を生成して、表示装置40に送信する。幅画像表示指示データは、幅増減量を示してもよい。特に、幅画像表示指示データは、胸部幅増減量と、腹部幅増減量とを示してもよい。また、幅画像表示指示データは、胸部幅増減量と閾値Th1(<0)との比較に応じて描画される胸部幅画像の色表現を示してもよい。
また、表示制御部130は、呼吸トレーニングの進行に合わせて幅画像がリアルタイムで変化して表示されるように、制御を行う。つまり、表示制御部130は、被験者90の呼吸トレーニングの進行に合わせて変化する幅画像を、表示装置40に表示させる。言い換えると、表示制御部130は、被験者90の呼吸トレーニングの進行に合わせて変化する幅画像(動き画像)が、当該呼吸トレーニングの進行中に表示されるように、制御を行う。さらに言い換えると、表示制御部130は、呼吸トレーニング中のあるタイミングにおける幅増減量に対応する幅画像が、そのタイミングで表示されるように、制御を行う。
また、表示制御部130は、呼吸トレーニングを行っている被験者90の撮影画像の各フレームが取得されるごとに幅画像表示指示データを生成して、表示装置40に送信する。これにより、表示制御部130は、呼吸トレーニングの進行に伴って変化する幅画像を、表示装置40に表示させることができる。
図15は、実施の形態1にかかる表示制御部130の制御によって表示装置40で表示され、胸部92及び腹部94の左右方向の変位量を示した表示画面200を例示する図である。図15に例示した表示画面200は、図7に例示した胸部変位量画面210及び腹部変位量画面220とともに、胸部幅画面270と腹部幅画面280とを表示している。なお、表示画面200は、胸部変位量画面210及び腹部変位量画面220とは別個に、胸部幅画面270と腹部幅画面280とを表示してもよい。
胸部幅画面270には、胸部幅増減量(胸部92の左右方向の変位量)を示す胸部幅画像272が、青色で表示されている。また、腹部幅画面280には、腹部幅増減量(腹部94の左右方向の変位量)を示す腹部幅画像282が、青色で表示されている。また、胸部幅画面270には、閾値Th1が表示されている。そして、胸部幅画面270において、胸部幅増減量が閾値Th1を下回るときに、胸部幅画像272が、例えば赤色に変化するようにしてもよい。また、胸部幅増減量と閾値Th1との差に応じて胸部幅画像272の色表現が変化してもよい。例えば、呼気時に、胸部幅増減量(胸部幅画像272)が閾値Th1近づくにつれて、青色から赤色に、徐々に変化するようにしてもよい。
上記のように、表示制御部130による制御によって、表示装置40は、胸部92の左右方向の変位量を示す胸部幅画像272を表示する。したがって、被験者90は、胸部幅画像272(胸部幅画面270)を見ることによって、呼吸トレーニング時の胸部92の左右方向の動きを、視覚的に容易に認識することができる。さらに、胸部幅画面270は、閾値Th1を表示している。したがって、呼気時に胸部幅が閾値Th1を下回っていることを胸部幅画像272が示している場合には、肋骨の内旋が十分に行われていることを、被験者90は、視覚的に容易に認識することができる。一方、呼気時に胸部幅が閾値Th1を下回っていることを胸部幅画像272が示していない場合には、肋骨の内旋が十分に行われていないことを、被験者90は、視覚的に容易に認識することができる。したがって、被験者90は、自身の呼吸状態を容易に認識することができる。
また、図15に例示した表示画面200は、この表示画面200が表示されたタイミングにおける、胸部92の左右方向の変位量(胸部幅)を表示している。したがって、表示画面200は、被験者90の呼吸トレーニング中にリアルタイムで胸部幅を表示している。したがって、表示画面200を見た被験者90は、自分の呼吸トレーニング中に、現在のタイミングにおける呼吸方法が正しいのか否かを、即座に認識することができる。したがって、被験者90は、自身の呼吸状態を、リアルタイムに容易に認識することができる。
図16及び図17は、実施の形態1にかかる指導者用表示画面を例示する図である。なお、指導者用表示画面は、表示装置40に表示されてもよい。また、指導者用表示画面は、被験者90が視認する表示装置40とは別の、指導者によって携帯される表示装置に表示されてもよい。また、指導者用表示画面は、情報処理装置100のインタフェース部108に表示されてもよい。
図16は、指導者用表示画面の第1の例である指導者用表示画面300を例示する。指導者用表示画面300は、図7等に示した胸部変位量画面210と、腹部変位量画面220と、胴体変位量画面230とを表示している。さらに、指導者用表示画面300は、設定画面310と、RGB画像表示画面322と、距離画像表示画面324とを表示する。設定画面310は、呼吸トレーニングのための設定のために使用される。RGB画像表示画面322は、撮像装置30が被験者90を撮影して得られたRGB画像を表示する。距離画像表示画面324は、撮像装置30が被験者90を撮影して得られた距離画像を表示する。指導者は、RGB画像表示画面322及び距離画像表示画面324を視認することによって、被験者90が適切に撮像装置30によって撮影されているかを確認することができる。
図17は、指導者用表示画面の第2の例である指導者用表示画面400を例示する。指導者用表示画面400は、図15に示した胸部変位量画面210と、腹部変位量画面220と、胸部幅画面270と、腹部幅画面280とを表示する。さらに、指導者用表示画面300は、設定画面410と、RGB画像表示画面322と、距離画像表示画面324と、撮影画像表示画面420とを表示する。設定画面410は、呼吸トレーニングのための設定のために使用される。撮影画像表示画面420は、撮影画像52を表示する。
このように、指導者用表示画面300,400を、被験者90が視認する表示画面200とで別個に表示することで、被験者90にとって必要のない情報を、被験者90が視認することを抑制することができる。したがって、被験者90は、呼吸トレーニングを集中して行うことができる。
図5に示すフローチャートの説明に戻る。結果判定部140は、呼吸トレーニングの結果の評価を判定する(ステップS140)。そして、結果判定部140は、トレーニング結果の評価に関する評価情報を生成する。
例えば、結果判定部140は、胸部92の動きと腹部94の動きとが同期しているか否かを判定する。そして、結果判定部140は、胸部92の動きと腹部94の動きとが同期しているか否かを示す評価情報を生成する。
具体的には、結果判定部140は、胸部変位量の符号と腹部変位量の符号とが互いに同じであるか否かを判定する。胸部変位量の符号と腹部変位量の符号とが互いに同じである場合、結果判定部140は、胸部92の動きと腹部94の動きとが同期していると判定してもよい。一方、胸部変位量の符号と腹部変位量の符号とが互いに異なる場合、結果判定部140は、胸部92の動きと腹部94の動きとが同期していないと判定してもよい。
また、結果判定部140は、胸部動き方向と腹部動き方向とが互いに同じであるか否かを判定する。胸部動き方向と腹部動き方向とが互いに同じである場合、結果判定部140は、胸部92の動きと腹部94の動きとが同期していると判定してもよい。一方、胸部動き方向と腹部動き方向とが互いに異なる場合、結果判定部140は、胸部92の動きと腹部94の動きとが同期していないと判定してもよい。あるいは、胸部変位量の符号と腹部変位量の符号とが互いに同じであり、且つ、胸部動き方向と腹部動き方向とが互いに同じである場合に、結果判定部140は、胸部92の動きと腹部94の動きとが同期していると判定してもよい。一方、胸部変位量の符号と腹部変位量の符号とが互いに異なるか、又は、胸部動き方向と腹部動き方向とが互いに異なる場合に、結果判定部140は、胸部92の動きと腹部94の動きとが同期していないと判定してもよい。
あるいは、結果判定部140は、例えばニューラルネットワークなどの機械学習によって学習された学習済みモデルを用いて、胸部92の動きと腹部94の動きとが同期しているか否かを判定してもよい。学習済みモデルは、例えば、教師あり学習によって学習される。例えば、学習済みモデルは、胸部変位量及び腹部変位量と、胸部動き方向及び腹部動き方向とを入力とし、入力データが得られたときの胸部と腹部との同期の判定結果を出力するように、学習されている。なお、学習段階において、正解ラベルである同期の判定結果は、指導者等によって設定され得る。このように、学習済みモデルを用いることによって、より精度よく、胸部92の動きと腹部94の動きとが同期しているか否かを判定することが可能となる。
また、例えば、結果判定部140は、胸部変位量と腹部変位量とのバランスが良好であるか否かを判定する。結果判定部140は、胸部変位量と腹部変位量とのバランスが良好であるか否かを示す評価情報を生成する。結果判定部140は、腹部変位量に対する胸部変位量の比を用いて、胸部変位量と腹部変位量とのバランスが良好であるか否かを判定する。
具体的には、腹部変位量をx1とし、胸部変位量をx2とすると、これらの比sは、以下の式(1)によって表される。つまり、sは、腹部変位量x1に対する胸部変位量x2の比である。
s=x2/x1 ・・・(1)
ここで、s<0である場合、つまりx1の符号とx2の符号とが一致しない場合、結果判定部140は、胸部変位量と腹部変位量とのバランスが良好でないと判定する。また、s>0である場合、つまりx1の符号とx2の符号とが一致している場合、結果判定部140は、s<Th2のときに、胸部変位量と腹部変位量とのバランスが良好でないと判定する。一方、結果判定部140は、s≧Th2のときに、胸部変位量と腹部変位量とのバランスが良好であると判定する。なお、Th2は、例えば0.8等の、予め定められた0より大きい定数である。Th2は、被験者90ごとに呼吸方法の習得具合によって調整される。
また、例えば、結果判定部140は、呼気時に被験者90の肋骨の内旋が十分に行われているか否かを判定する。結果判定部140は、呼気時に被験者90の肋骨の内旋が十分に行われているか否かを示す評価情報を生成する。具体的には、結果判定部140は、呼気時に胸部幅増減量が閾値Th1を下回るか否かを判定する。呼気時に胸部幅増減量が閾値Th1を下回る場合に、結果判定部140は、肋骨の内旋が十分に行われていると判定する。一方、呼気時に胸部幅増減量が閾値Th1を下回らない場合に、結果判定部140は、肋骨の内旋が十分に行われていないと判定する。
また、例えば、結果判定部140は、上述したトレーニング結果の評価(例えば胸部と腹部との同期の有無)を、過去のトレーニング結果と比較することによって、評価してもよい。つまり、結果判定部140は、被験者90の現在のトレーニングの結果を、被験者90の過去のトレーニングの結果と比較することによって、評価する。そして、結果判定部140は、被験者90の過去のトレーニングの結果と現在の被験者90のトレーニングの結果との比較に関する評価情報を生成する。つまり、結果判定部140は、被験者の過去のトレーニングの結果と比較して現在の被験者のトレーニングの結果が改善したか否かを示す評価情報を生成する。
例えば、過去のトレーニングにおいて、呼吸を10回行って、胸部と腹部との同期が3回続いたとする。この場合、結果判定部140は、今回のトレーニングにおいて、胸部と腹部との同期が3回以上続いた場合に、被験者90の呼吸方法が改善していると判定してもよい。結果判定部140は、腹部変位量と胸部変位量とのバランス、及び、肋骨の内旋についても同様にして、被験者90の現在のトレーニングの結果を、被験者90の過去のトレーニングの結果と比較することによって、評価してもよい。
出力制御部150は、トレーニングの結果の評価に関する評価情報が出力されるように、制御を行う(ステップS142)。出力制御部150は、後述するような方法で評価情報を出力させるための指示を示すデータ(評価情報出力指示データ)を生成して、表示装置40に送信する。これにより、出力制御部150は、評価情報が出力されるように制御を行う。表示装置40は、評価情報出力指示データに応じて、評価情報を出力する。
例えば、出力制御部150は、評価情報に対応するメッセージ(文字列)又は画像を、表示装置40に表示させるように、制御を行ってもよい。また、出力制御部150は、評価情報に対応する音声を表示装置40に出力させるように、制御を行ってもよい。また、出力制御部150は、評価情報に対応するような振動を表示装置40に発生させるように、制御を行ってもよい。また、出力制御部150は、評価情報に対応するように表示画面200の色が変化するように、制御を行ってもよい。
また、出力制御部150は、呼吸トレーニング中にリアルタイムで評価情報が出力されるように制御を行ってもよい。つまり、出力制御部150は、呼吸トレーニングの経過に伴って変化し得るトレーニング結果が得られたタイミングで、評価情報が出力されるように制御を行ってもよい。この場合、出力制御部150は、表示画面200に表示された動き画像とともにその動き画像に対応する評価情報が表示されるように、制御を行ってもよい。あるいは、出力制御部150は、トレーニングが終了した後で、トレーニング結果を総括するような評価情報(例えば改善方法)が出力されるように、制御を行ってもよい。
出力制御部150は、胸部92の動きと腹部94の動きとが同期しているか否かを示す評価情報が出力されるように制御を行ってもよい。この場合、胸部92の動きと腹部94の動きとが同期しているときに、出力制御部150は、表示画面200の枠又は背景が緑色で表示されるように制御を行ってもよい。一方、胸部92の動きと腹部94の動きとが同期していないときに、出力制御部150は、表示画面200の枠又は背景が赤色で表示されるように制御を行ってもよい。また、例えば、胸部92の動きと腹部94の動きとが同期しているときに、出力制御部150は、表示画面200に「胸部と腹部とが同期しています」といったメッセージが文字列又は音声で出力されるように、制御を行ってもよい。一方、胸部92の動きと腹部94の動きとが同期していないときに、出力制御部150は、表示画面200に「胸部と腹部とが同期していません」といったメッセージが文字列又は音声で出力されるように、制御を行ってもよい。この際に、出力制御部150は、アラーム音が出力されるように、制御を行ってもよい。また、例えば、胸部92の動きと腹部94の動きとが同期しているときに、出力制御部150は、胸部92の動きと腹部94の動きとが同期していることに対応する振動を表示装置40に発生させるように、制御を行ってもよい。なお、出力制御部150は、腹部変位量と胸部変位量とのバランス、及び、肋骨の内旋についても同様にして、評価情報が出力されるように制御を行ってもよい。
また、出力制御部150は、呼吸トレーニングを誘発するようなメッセージが出力されるように、制御を行ってもよい。例えば、トレーニング結果が良好である(例えば胸部と腹部とが同期している)場合に、出力制御部150は、「この調子です」といったメッセージが文字列又は音声で出力されるように、制御を行ってもよい。一方、トレーニング結果が良好でない(例えば胸部と腹部とが同期していない)場合に、出力制御部150は、「もっと頑張りましょう」といったメッセージが文字列又は音声で出力されるように、制御を行ってもよい。また、肋骨の内旋が十分に行われていない場合に、出力制御部150は、「息を吐き切ってください」といったメッセージが文字列又は音声で出力されるように、制御を行ってもよい。また、出力制御部150は、被験者の過去のトレーニングの結果と比較して被験者の現在のトレーニングの結果が改善した場合に、「この調子です」といったメッセージが文字列又は音声で出力されるように、制御を行ってもよい。
また、出力制御部150は、トレーニング結果が良好でない(例えば胸部と腹部とが同期していない)場合に、画像又は音声等によってアラームが出力されるように、制御を行ってもよい。また、出力制御部150は、1回のトレーニングにおけるアラームの回数、及び、アラームの回数の推移が表示されるように制御を行ってもよい。また、出力制御部150は、アラームの項目が出力されるように制御を行ってもよい。なお、「アラームの項目」は、どの内容(例えば胸部と腹部との同期)でアラームが出力されたかを示す。また、出力制御部150は、目標値及び呼吸方法のガイダンスが出力されるように制御を行ってもよい。
このように、出力制御部150の制御によって評価情報が出力されることによって、被験者90の呼吸トレーニングへの意欲を誘発することができる。また、出力制御部150の制御によって、被験者90の過去のトレーニングの結果と被験者90の現在のトレーニングの結果との比較に関する評価情報が出力されることによって、被験者90は、自己の呼吸方法が改善されているか否かを容易に認識することができる。したがって、被験者90の呼吸トレーニングへの意欲をさらに誘発することができる。
情報処理装置100は、トレーニングを終了するか否かを判定する(ステップS150)。具体的には、情報処理装置100は、ユーザ(例えば指導者等)によってトレーニングを終了する旨の操作が行われたか否かを判定する。例えば、図16に例示した指導者用表示画面300の設定画面310において「計測ストップ」ボタンが操作された場合に、情報処理装置100は、トレーニングを終了すると判定する。一方、図16に例示した指導者用表示画面300の設定画面310において「計測ストップ」ボタンが操作されない場合に、情報処理装置100は、トレーニングを継続すると判定する。トレーニングを継続すると判定された場合(S150のNO)、処理フローはS106に戻り、S106~S142の処理が繰り返される。一方、トレーニングを終了すると判定された場合(S150のYES)、処理フローは終了する。
(変形例)
なお、本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。例えば、上述したフローチャートの各ステップの1つ以上は、適宜、省略可能である。また、上述したフローチャートの各ステップの1つ以上の順序は、適宜、変更可能である。例えば、図5に示したフローチャートにおいて、S120及びS122の処理は、省略されてもよい。また、S130及びS132の処理は、S110及びS112の処理の前であってもよい。また、S112,S122,S132の処理は、S110,S120,S130の処理が全て終了した後で、纏めて実行されてもよい。また、S140及びS142の処理の一部は、トレーニングが終了した後で実行されてもよい。
また、上述した実施の形態では、胸部変位量画像及び腹部変位量画像が、トレーニング中にリアルタイムで表示装置40に表示されるとしたが、このような構成に限られない。胸部変位量画像及び腹部変位量画像は、トレーニング終了後に表示されてもよい。この場合において、表示装置40は、胸部変位量画像及び腹部変位量画像がトレーニングの時間的な推移に応じて変化する様子を、動画像で表示してもよい。
また、表示システム20は、複数の撮像装置30を有してもよい。この場合、複数の撮像装置30を用いて、被験者90が撮影される。これにより、被験者90が複数の視点から撮影され得るので、撮影時に被験者90の死角が発生することを抑制できる。したがって、より精度よく、変位量等を検出することが可能となる。
また、表示システム20は、撮像装置30、表示装置40及び情報処理装置100の2つ以上が一体に構成された装置で実現されてもよい。例えば、撮像装置30、表示装置40及び情報処理装置100を有する1つの装置(スマートフォン等)を用いて、被験者90は、呼吸トレーニングを行ってもよい。これにより、特別な設備がなくても、呼吸トレーニングを行うことが可能となる。例えば、被験者90は、自宅等で気軽に呼吸トレーニングを行うことができる。
なお、スマートフォン等の装置では、骨格データを取得できないことがある。この場合、被験者90は、自己の撮影画像52において、胸部領域及び腹部領域を指定するように操作を行ってもよい。また、撮像装置30、表示装置40及び情報処理装置100を有する1つの装置を用いる場合、3次元データを取得できない撮像装置30を有する装置を用いて、呼吸トレーニングを行ってもよい。例えば、被験者90の横方向に装置を設置して被験者90を撮影することで、被験者90の胸部92及び腹部94の変位量等を検出可能である。そして、表示システム20を実現する装置は、呼吸トレーニングを行っている間は変位量等の検出のみを行って、トレーニング終了後に、変位量画像等を表示するようにしてもよい。なお、この装置は、呼吸トレーニングの間、音声にて、評価情報を出力してもよい。
また、上述した実施の形態においては、動き画像(変位量画像、方向画像、幅増減画像)を示す表示形態を、赤色又は青色の色表現としたが、これに限られない。色表現は、ユーザによって任意に設定可能である。また、表示形態は、色表現に限られない。例えば、表示形態は、グレースケール(黒色の濃淡)又は複数の種類の模様(ハッチング)等であってもよい。つまり、表示形態は、胸部の動きと腹部の動きとが互いに同期している場合に、胸部動き画像と腹部動き画像とが視覚的に同じとなるようなものであればよい。言い換えると、表示形態は、胸部の動きと腹部の動きとを視覚的に区別できるように表現するものであればよい。
上述したプログラムは、コンピュータに読み込まれた場合に、実施形態で説明された1又はそれ以上の機能をコンピュータに行わせるための命令群(又はソフトウェアコード)を含む。プログラムは、非一時的なコンピュータ可読媒体又は実体のある記憶媒体に格納されてもよい。限定ではなく例として、コンピュータ可読媒体又は実体のある記憶媒体は、random-access memory(RAM)、read-only memory(ROM)、フラッシュメモリ、solid-state drive(SSD)又はその他のメモリ技術、CD-ROM、digital versatile disk(DVD)、Blu-ray(登録商標)ディスク又はその他の光ディスクストレージ、磁気カセット、磁気テープ、磁気ディスクストレージ又はその他の磁気ストレージデバイスを含む。プログラムは、一時的なコンピュータ可読媒体又は通信媒体上で送信されてもよい。限定ではなく例として、一時的なコンピュータ可読媒体又は通信媒体は、電気的、光学的、音響的、またはその他の形式の伝搬信号を含む。
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
呼吸のトレーニングを行う被験者の胸部及び腹部を少なくとも示す画像データを取得する取得手段と、
前記画像データを用いて前記被験者の胸部及び腹部それぞれの変位量を検出する検出手段と、
検出された胸部及び腹部の前記変位量に基づいて、胸部及び腹部それぞれの、前記被験者の前後方向の動きを示す動き画像が表示されるように制御を行う表示制御手段と、
を有し、
前記表示制御手段は、胸部の動きと腹部の動きとが互いに同期している場合に胸部の前記動き画像である胸部動き画像の表示形態と腹部の前記動き画像である腹部動き画像の表示形態とが互いに同じとなり、胸部の動きと腹部の動きとが互いに同期していない場合に前記胸部動き画像の表示形態と前記腹部動き画像の表示形態とが互いに異なるように、制御を行う、
情報処理装置。
(付記2)
前記表示制御手段は、
前記胸部動き画像として胸部の前記前後方向の前記変位量を示す胸部変位量画像が表示され、前記腹部動き画像として腹部の前記前後方向の前記変位量を示す腹部変位量画像が表示されるように、制御を行い、
胸部の前記変位量の符号と腹部の前記変位量の符号とが互いに同じ場合に前記胸部変位量画像の表示形態と前記腹部変位量画像の表示形態とが互いに同じとなり、胸部の前記変位量の符号と腹部の前記変位量の符号とが互いに異なる場合に前記胸部変位量画像の表示形態と前記腹部変位量画像の表示形態とが互いに異なるように、制御を行う、
付記1に記載の情報処理装置。
(付記3)
前記表示制御手段は、前記被験者の呼吸のトレーニングの進行に合わせて変化する前記動き画像が、前記トレーニングの進行中に表示されるように、制御を行う、
付記1又は2に記載の情報処理装置。
(付記4)
前記表示制御手段は、さらに、前記被験者の胸部の左右方向の変位量が表示されるように、制御を行う、
付記1から3のいずれか1項に記載の情報処理装置。
(付記5)
前記トレーニングの結果の評価に関する評価情報が出力されるように制御を行う出力制御手段、
をさらに有する付記1から4のいずれか1項に記載の情報処理装置。
(付記6)
前記出力制御手段は、前記被験者の過去の前記トレーニングの結果と現在の前記トレーニングの結果との比較に関する前記評価情報が出力されるように、制御を行う、
付記5に記載の情報処理装置。
(付記7)
前記出力制御手段は、胸部の動きと腹部の動きとが同期しているか否かを示す前記評価情報が出力されるように、制御を行う、
付記5又は6に記載の情報処理装置。
(付記8)
前記出力制御手段は、腹部の前記前後方向の変位量に対する胸部の前記前後方向の変位量の比が予め定められた閾値以上である場合に腹部の前記変位量と胸部の前記変位量とのバランスが良好であることを示す前記評価情報が出力されるように、制御を行う、
付記5から7のいずれか1項に記載の情報処理装置。
(付記9)
前記表示制御手段は、
前記胸部動き画像として胸部の前記変位量の変化の方向を示す胸部方向画像が表示され、前記腹部動き画像として腹部の前記変位量の変化の方向を示す腹部方向画像が表示されるように、制御を行い、
胸部の前記変位量の変化の方向と腹部の前記変位量の変化の方向とが互いに同じ場合に前記胸部方向画像の表示形態と前記腹部方向画像の表示形態とが互いに同じとなり、胸部の前記変位量の変化の方向と腹部の前記変位量の変化の方向とが互いに異なる場合に前記胸部方向画像の表示形態と前記腹部方向画像の表示形態とが互いに異なるように、制御を行う、
付記1から8のいずれか1項に記載の情報処理装置。
(付記10)
前記表示制御手段は、胸部の動きと腹部の動きとが互いに同期している場合に前記胸部動き画像の色表現と前記腹部動き画像の色表現とが互いに同じとなり、胸部の動きと腹部の動きとが互いに同期していない場合に前記胸部動き画像の色表現と前記腹部動き画像の色表現とが互いに異なるように、制御を行う、
付記1から9のいずれか1項に記載の情報処理装置。
(付記11)
胸部の前記前後方向の基準位置である胸部基準位置と腹部の前記前後方向の基準位置である腹部基準位置とを特定する位置特定手段、
をさらに有し、
前記表示制御手段は、前記胸部基準位置に対する胸部の動きと前記腹部基準位置に対する腹部の動きとが同期している場合に前記胸部動き画像の表示形態と前記腹部動き画像の表示形態とが互いに同じとなり、前記胸部基準位置に対する胸部の動きと前記腹部基準位置に対する腹部の動きとが同期していない場合に前記胸部動き画像の表示形態と前記腹部動き画像の表示形態とが互いに異なるように、制御を行う、
付記1から10のいずれか1項に記載の情報処理装置。
(付記12)
付記1から11のいずれか1項に記載の情報処理装置と、
前記被験者を撮影する少なくとも1つの撮像装置と、
前記動き画像を表示する表示装置と、
を有し、
前記取得手段は、前記撮像装置から前記画像データを取得し、
前記表示制御手段は、前記表示装置を制御する、
表示システム。
(付記13)
呼吸のトレーニングを行う被験者の胸部及び腹部を少なくとも示す画像データを取得し、
前記画像データを用いて前記被験者の胸部及び腹部それぞれの変位量を検出し、
検出された胸部及び腹部の前記変位量に基づいて、胸部及び腹部それぞれの、前記被験者の前後方向の動きを示す動き画像が表示されるように制御を行い、
胸部の動きと腹部の動きとが互いに同期している場合に胸部の前記動き画像である胸部動き画像の表示形態と腹部の前記動き画像である腹部動き画像の表示形態とが互いに同じとなり、胸部の動きと腹部の動きとが互いに同期していない場合に前記胸部動き画像の表示形態と前記腹部動き画像の表示形態とが互いに異なるように、制御を行う、
表示制御方法。
(付記14)
前記胸部動き画像として胸部の前記前後方向の前記変位量を示す胸部変位量画像が表示され、前記腹部動き画像として腹部の前記前後方向の前記変位量を示す腹部変位量画像が表示されるように、制御を行い、
胸部の前記変位量の符号と腹部の前記変位量の符号とが互いに同じ場合に前記胸部変位量画像の表示形態と前記腹部変位量画像の表示形態とが互いに同じとなり、胸部の前記変位量の符号と腹部の前記変位量の符号とが互いに異なる場合に前記胸部変位量画像の表示形態と前記腹部変位量画像の表示形態とが互いに異なるように、制御を行う、
付記13に記載の表示制御方法。
(付記15)
前記被験者の呼吸のトレーニングの進行に合わせて変化する前記動き画像が、前記トレーニングの進行中に表示されるように、制御を行う、
付記13又は14に記載の表示制御方法。
(付記16)
さらに、前記被験者の胸部の左右方向の変位量が表示されるように、制御を行う、
付記13から15のいずれか1項に記載の表示制御方法。
(付記17)
前記トレーニングの結果の評価に関する評価情報が出力されるように制御を行う、
付記13から16のいずれか1項に記載の表示制御方法。
(付記18)
前記被験者の過去の前記トレーニングの結果と現在の前記トレーニングの結果との比較に関する前記評価情報が出力されるように、制御を行う、
付記17に記載の表示制御方法。
(付記19)
胸部の動きと腹部の動きとが同期しているか否かを示す前記評価情報が出力されるように、制御を行う、
付記17又は18に記載の表示制御方法。
(付記20)
腹部の前記前後方向の変位量に対する胸部の前記前後方向の変位量の比が予め定められた閾値以上である場合に腹部の前記変位量と胸部の前記変位量とのバランスが良好であることを示す前記評価情報が出力されるように、制御を行う、
付記17から19のいずれか1項に記載の表示制御方法。
(付記21)
前記胸部動き画像として胸部の前記変位量の変化の方向を示す胸部方向画像が表示され、前記腹部動き画像として腹部の前記変位量の変化の方向を示す腹部方向画像が表示されるように、制御を行い、
胸部の前記変位量の変化の方向と腹部の前記変位量の変化の方向とが互いに同じ場合に前記胸部方向画像の表示形態と前記腹部方向画像の表示形態とが互いに同じとなり、胸部の前記変位量の変化の方向と腹部の前記変位量の変化の方向とが互いに異なる場合に前記胸部方向画像の表示形態と前記腹部方向画像の表示形態とが互いに異なるように、制御を行う、
付記13から20のいずれか1項に記載の表示制御方法。
(付記22)
胸部の動きと腹部の動きとが互いに同期している場合に前記胸部動き画像の色表現と前記腹部動き画像の色表現とが互いに同じとなり、胸部の動きと腹部の動きとが互いに同期していない場合に前記胸部動き画像の色表現と前記腹部動き画像の色表現とが互いに異なるように、制御を行う、
付記13から21のいずれか1項に記載の表示制御方法。
(付記23)
胸部の前記前後方向の基準位置である胸部基準位置と腹部の前記前後方向の基準位置である腹部基準位置とを特定し、
前記胸部基準位置に対する胸部の動きと前記腹部基準位置に対する腹部の動きとが同期している場合に前記胸部動き画像の表示形態と前記腹部動き画像の表示形態とが互いに同じとなり、前記胸部基準位置に対する胸部の動きと前記腹部基準位置に対する腹部の動きとが同期していない場合に前記胸部動き画像の表示形態と前記腹部動き画像の表示形態とが互いに異なるように、制御を行う、
付記13から22のいずれか1項に記載の表示制御方法。
(付記24)
呼吸のトレーニングを行う被験者の胸部及び腹部を少なくとも示す画像データを取得するステップと、
前記画像データを用いて前記被験者の胸部及び腹部それぞれの変位量を検出するステップと、
検出された胸部及び腹部の前記変位量に基づいて、胸部及び腹部それぞれの、前記被験者の前後方向の動きを示す動き画像が表示されるように制御を行い、胸部の動きと腹部の動きとが互いに同期している場合に胸部の前記動き画像である胸部動き画像の表示形態と腹部の前記動き画像である腹部動き画像の表示形態とが互いに同じとなり、胸部の動きと腹部の動きとが互いに同期していない場合に前記胸部動き画像の表示形態と前記腹部動き画像の表示形態とが互いに異なるように、制御を行うステップと、
をコンピュータに実行させるプログラム。
以上、実施の形態を参照して本願発明を説明したが、本願発明は上記によって限定されるものではない。本願発明の構成や詳細には、発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
この出願は、2021年8月25日に出願された日本出願特願2021-136990を基礎とする優先権を主張し、その開示の全てをここに取り込む。
1 情報処理装置
2 取得部
4 検出部
6 表示制御部
20 表示システム
30 撮像装置
40 表示装置
52 撮影画像
90 被験者
92 胸部
94 腹部
100 情報処理装置
112 画像取得部
114 位置特定部
116 変位量検出部
118 動き方向検出部
120 幅検出部
130 表示制御部
140 結果判定部
150 出力制御部
200 表示画面
210 胸部変位量画面
212 胸部変位量画像
220 腹部変位量画面
222 腹部変位量画像
230 胴体変位量画面
232bk 胴体基準位置ドット列
234 胴体位置ドット列
240 変位量履歴画面
250 胸部方向画面
252 胸部方向画像
260 腹部方向画面
262 腹部方向画像
270 胸部幅画面
272 胸部幅画像
280 腹部幅画面
282 腹部幅画像
300 指導者用表示画面
310 設定画面
322 RGB画像表示画面
324 距離画像表示画面
400 指導者用表示画面
410 設定画面
420 撮影画像表示画面

Claims (14)

  1. 呼吸のトレーニングを行う被験者の胸部及び腹部を少なくとも示す画像データを取得する取得手段と、
    前記画像データを用いて前記被験者の胸部及び腹部それぞれの変位量を検出する検出手段と、
    検出された胸部及び腹部の前記変位量に基づいて、胸部及び腹部それぞれの、前記被験者の前後方向の動きを示す動き画像が表示されるように制御を行う表示制御手段と、
    を有し、
    前記表示制御手段は、胸部の動きと腹部の動きとが互いに同期している場合に胸部の前記動き画像である胸部動き画像の表示形態と腹部の前記動き画像である腹部動き画像の表示形態とが互いに同じとなり、胸部の動きと腹部の動きとが互いに同期していない場合に前記胸部動き画像の表示形態と前記腹部動き画像の表示形態とが互いに異なるように、制御を行う、
    情報処理装置。
  2. 前記表示制御手段は、
    前記胸部動き画像として胸部の前記前後方向の前記変位量を示す胸部変位量画像が表示され、前記腹部動き画像として腹部の前記前後方向の前記変位量を示す腹部変位量画像が表示されるように、制御を行い、
    胸部の前記変位量の符号と腹部の前記変位量の符号とが互いに同じ場合に前記胸部変位量画像の表示形態と前記腹部変位量画像の表示形態とが互いに同じとなり、胸部の前記変位量の符号と腹部の前記変位量の符号とが互いに異なる場合に前記胸部変位量画像の表示形態と前記腹部変位量画像の表示形態とが互いに異なるように、制御を行う、
    請求項1に記載の情報処理装置。
  3. 前記表示制御手段は、前記被験者の呼吸のトレーニングの進行に合わせて変化する前記動き画像が、前記トレーニングの進行中に表示されるように、制御を行う、
    請求項1又は2に記載の情報処理装置。
  4. 前記表示制御手段は、さらに、前記被験者の胸部の左右方向の変位量が表示されるように、制御を行う、
    請求項1又は2に記載の情報処理装置。
  5. 前記トレーニングの結果の評価に関する評価情報が出力されるように制御を行う出力制御手段、
    をさらに有する請求項に記載の情報処理装置。
  6. 前記出力制御手段は、前記被験者の過去の前記トレーニングの結果と現在の前記トレーニングの結果との比較に関する前記評価情報が出力されるように、制御を行う、
    請求項5に記載の情報処理装置。
  7. 前記出力制御手段は、胸部の動きと腹部の動きとが同期しているか否かを示す前記評価情報が出力されるように、制御を行う、
    請求項5又は6に記載の情報処理装置。
  8. 前記出力制御手段は、腹部の前記前後方向の変位量に対する胸部の前記前後方向の変位量の比が予め定められた閾値以上である場合に腹部の前記変位量と胸部の前記変位量とのバランスが良好であることを示す前記評価情報が出力されるように、制御を行う、
    請求項5又は6に記載の情報処理装置。
  9. 前記表示制御手段は、
    前記胸部動き画像として胸部の前記変位量の変化の方向を示す胸部方向画像が表示され、前記腹部動き画像として腹部の前記変位量の変化の方向を示す腹部方向画像が表示されるように、制御を行い、
    胸部の前記変位量の変化の方向と腹部の前記変位量の変化の方向とが互いに同じ場合に前記胸部方向画像の表示形態と前記腹部方向画像の表示形態とが互いに同じとなり、胸部の前記変位量の変化の方向と腹部の前記変位量の変化の方向とが互いに異なる場合に前記胸部方向画像の表示形態と前記腹部方向画像の表示形態とが互いに異なるように、制御を行う、
    請求項1又は2に記載の情報処理装置。
  10. 前記表示制御手段は、胸部の動きと腹部の動きとが互いに同期している場合に前記胸部動き画像の色表現と前記腹部動き画像の色表現とが互いに同じとなり、胸部の動きと腹部の動きとが互いに同期していない場合に前記胸部動き画像の色表現と前記腹部動き画像の色表現とが互いに異なるように、制御を行う、
    請求項1又は2に記載の情報処理装置。
  11. 胸部の前記前後方向の基準位置である胸部基準位置と腹部の前記前後方向の基準位置である腹部基準位置とを特定する位置特定手段、
    をさらに有し、
    前記表示制御手段は、前記胸部基準位置に対する胸部の動きと前記腹部基準位置に対する腹部の動きとが同期している場合に前記胸部動き画像の表示形態と前記腹部動き画像の表示形態とが互いに同じとなり、前記胸部基準位置に対する胸部の動きと前記腹部基準位置に対する腹部の動きとが同期していない場合に前記胸部動き画像の表示形態と前記腹部動き画像の表示形態とが互いに異なるように、制御を行う、
    請求項1又は2に記載の情報処理装置。
  12. 請求項1又は2に記載の情報処理装置と、
    前記被験者を撮影する少なくとも1つの撮像装置と、
    前記動き画像を表示する表示装置と、
    を有し、
    前記取得手段は、前記撮像装置から前記画像データを取得し、
    前記表示制御手段は、前記表示装置を制御する、
    表示システム。
  13. 呼吸のトレーニングを行う被験者の胸部及び腹部を少なくとも示す画像データを取得し、
    前記画像データを用いて前記被験者の胸部及び腹部それぞれの変位量を検出し、
    検出された胸部及び腹部の前記変位量に基づいて、胸部及び腹部それぞれの、前記被験者の前後方向の動きを示す動き画像が表示されるように制御を行い、
    胸部の動きと腹部の動きとが互いに同期している場合に胸部の前記動き画像である胸部動き画像の表示形態と腹部の前記動き画像である腹部動き画像の表示形態とが互いに同じとなり、胸部の動きと腹部の動きとが互いに同期していない場合に前記胸部動き画像の表示形態と前記腹部動き画像の表示形態とが互いに異なるように、制御を行う、
    表示制御方法。
  14. 呼吸のトレーニングを行う被験者の胸部及び腹部を少なくとも示す画像データを取得するステップと、
    前記画像データを用いて前記被験者の胸部及び腹部それぞれの変位量を検出するステップと、
    検出された胸部及び腹部の前記変位量に基づいて、胸部及び腹部それぞれの、前記被験者の前後方向の動きを示す動き画像が表示されるように制御を行い、胸部の動きと腹部の動きとが互いに同期している場合に胸部の前記動き画像である胸部動き画像の表示形態と腹部の前記動き画像である腹部動き画像の表示形態とが互いに同じとなり、胸部の動きと腹部の動きとが互いに同期していない場合に前記胸部動き画像の表示形態と前記腹部動き画像の表示形態とが互いに異なるように、制御を行うステップと、
    をコンピュータに実行させるプログラム。
JP2023543751A 2021-08-25 2022-07-25 情報処理装置、表示システム、表示制御方法及びプログラム Active JP7691663B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2021136990 2021-08-25
JP2021136990 2021-08-25
PCT/JP2022/028571 WO2023026738A1 (ja) 2021-08-25 2022-07-25 情報処理装置、表示システム、表示制御方法及びプログラムが格納された非一時的なコンピュータ可読媒体

Publications (3)

Publication Number Publication Date
JPWO2023026738A1 JPWO2023026738A1 (ja) 2023-03-02
JPWO2023026738A5 JPWO2023026738A5 (ja) 2024-05-17
JP7691663B2 true JP7691663B2 (ja) 2025-06-12

Family

ID=85323055

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023543751A Active JP7691663B2 (ja) 2021-08-25 2022-07-25 情報処理装置、表示システム、表示制御方法及びプログラム

Country Status (3)

Country Link
US (1) US20250120614A1 (ja)
JP (1) JP7691663B2 (ja)
WO (1) WO2023026738A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000217802A (ja) 1999-01-28 2000-08-08 Japan Science & Technology Corp 検体の胸郭内の空気の流れの測定法およびその装置
JP2013063124A (ja) 2011-09-15 2013-04-11 Terumo Corp 呼吸トレーニング装置及びその制御方法
WO2018185031A1 (en) 2017-04-06 2018-10-11 Iee International Electronics & Engineering S.A. Radar sensor system for breathing monitoring and corresponding method
US20200038708A1 (en) 2018-08-01 2020-02-06 Dwight Cheu System and method for optimizing diaphragmatic breathing

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000217802A (ja) 1999-01-28 2000-08-08 Japan Science & Technology Corp 検体の胸郭内の空気の流れの測定法およびその装置
JP2013063124A (ja) 2011-09-15 2013-04-11 Terumo Corp 呼吸トレーニング装置及びその制御方法
WO2018185031A1 (en) 2017-04-06 2018-10-11 Iee International Electronics & Engineering S.A. Radar sensor system for breathing monitoring and corresponding method
US20200038708A1 (en) 2018-08-01 2020-02-06 Dwight Cheu System and method for optimizing diaphragmatic breathing

Also Published As

Publication number Publication date
WO2023026738A1 (ja) 2023-03-02
US20250120614A1 (en) 2025-04-17
JPWO2023026738A1 (ja) 2023-03-02

Similar Documents

Publication Publication Date Title
US10134307B2 (en) Software application for a portable device for CPR guidance using augmented reality
TWI508034B (zh) 心肺復甦術教學系統及方法
CN101836237B (zh) 用于选择所呈现图形的观看配置的方法和系统
CN109876415B (zh) 姿势辅助矫正设备及其控制方法和控制装置
CN109313934B (zh) 用于确定患者胸部按压深度的cpr辅助设备和方法
JP2016521411A (ja) 頭部及び眼球追跡
JP2010016796A5 (ja)
EP2979635A1 (en) Diagnosis supporting device, diagnosis supporting method, and computer-readable recording medium
JP2019136352A5 (ja)
JP2013101524A5 (ja)
CN115244360A (zh) 计算方法
KR20140057867A (ko) 열화상을 이용한 스트레스 지수 측정 시스템
JP7691663B2 (ja) 情報処理装置、表示システム、表示制御方法及びプログラム
JP2011118767A (ja) 表情モニタリング方法および表情モニタリング装置
JP2016004354A (ja) 身体の姿勢の判定方法
JP2019024579A (ja) リハビリテーション支援システム、リハビリテーション支援方法及びプログラム
JP2024138331A (ja) 眼球突出の度合いの分析のための側方画像を取得するための方法及び撮影デバイス、及びそのための記録媒体
US20220406206A1 (en) Recording medium recorded with cardiopulmonary resuscitation training program, cardiopulmonary resuscitation training method, apparatus, and system
JP2021101961A (ja) 透析患者運動支援システムおよび透析患者運動支援装置ならびにその方法およびプログラム
TWI533238B (zh) 動作偵測與判斷裝置及方法
JP5206516B2 (ja) 撮影補助装置、プログラムおよび撮影システム
JP7343237B2 (ja) 追跡方法
US20240212103A1 (en) Information processing apparatus, information processing method, and non-transitory computer readable medium
JP6330638B2 (ja) トレーニング支援装置およびプログラム
US20230346318A1 (en) Information processing apparatus, information processing method, and non-transitory computer readable medium

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240220

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240220

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240306

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241008

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20241011

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20241028

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250328

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250422

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250515

R150 Certificate of patent or registration of utility model

Ref document number: 7691663

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150