JP6911998B2 - 生体情報推定装置、生体情報推定方法、及び生体情報推定プログラム - Google Patents

生体情報推定装置、生体情報推定方法、及び生体情報推定プログラム Download PDF

Info

Publication number
JP6911998B2
JP6911998B2 JP2020508751A JP2020508751A JP6911998B2 JP 6911998 B2 JP6911998 B2 JP 6911998B2 JP 2020508751 A JP2020508751 A JP 2020508751A JP 2020508751 A JP2020508751 A JP 2020508751A JP 6911998 B2 JP6911998 B2 JP 6911998B2
Authority
JP
Japan
Prior art keywords
reliability
information
biological information
heart rate
measurement target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020508751A
Other languages
English (en)
Other versions
JPWO2019186955A1 (ja
Inventor
祥史 大西
祥史 大西
旭美 梅松
旭美 梅松
剛範 辻川
剛範 辻川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2019186955A1 publication Critical patent/JPWO2019186955A1/ja
Application granted granted Critical
Publication of JP6911998B2 publication Critical patent/JP6911998B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/08Detecting, measuring or recording devices for evaluating the respiratory organs

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Public Health (AREA)
  • Physics & Mathematics (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Physiology (AREA)
  • Pulmonology (AREA)
  • Cardiology (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Description

本発明は、生体情報推定装置、生体情報推定方法、及び生体情報推定プログラムに関する。
医療機関などにおいて、測定対象者の呼吸や心拍などの生体情報を推定する生体情報推定装置が開発されている。特許文献1は、美容分野において、測定対象者の肌診断を行うための皮脂量推定方法を開示している。ここで、測定対象者の毛穴の視覚的特徴量及び年齢と、皮脂量との相関関係を示す式又はモデルを用いて、推定皮脂量を算出している。特許文献2は、測定対象者のバイタルデータ(生体情報)を測定するバイタルデータ測定装置及びバイタルデータ処理方法を開示している。特許文献3は、測定対象者の呼吸数や心拍数などの生体情報を測定し、測定対象者の状態や測定データのバラツキに応じて信頼性を判定し、信頼性の高い生体情報を出力する生体情報出力装置及び生体情報出力方法を開示している。
図3は、従来の生体情報推定装置の構成を示す。生体情報推定装置は、バイタルデータ計測器1001、カメラ1002、呼吸・心拍認識部1003、動作認識部1004、及び呼吸・心拍表示部1005を具備している。この生体情報推定装置の動作は、下記の通りである。
バイタルデータ計測器1001は、例えば、ドップラーセンサなどの非接触計測器であり、測定対象者の呼吸や心拍などのバイタルデータを計測する。動作認識部1004は、カメラ1002で撮影した測定対象者の映像から測定対象者の動きの量を示す動き情報を認識する。呼吸・心拍認識部1003は、バイタルデータと動き情報を入力し、測定対象者の動きの量が閾値以下であるか判定する。測定対象者の動きの量が閾値以下の場合に、バイタルデータの信頼性が高いと判定して、呼吸・心拍表示部1005で表示する。
生体情報推定技術に関連して、映像データから人物の特徴算出方法として、非特許文献1、非特許文献2、非特許文献3が挙げられる。また、映像データから測定対象者の心拍や呼吸を推定する技術として、非特許文献4及び非特許文献5が挙げられる。さらに、人間のストレス状態における心拍変動の算出方法として、非特許文献6が挙げられる。
国際公開第2013/094442号 特開2015−123160号公報 特開2017−47211号公報
Navneet Dalal and Bill Triggs, "Histograms of Oriented Gradients for Human Detection", Proceedings IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2005 Vahid Kazemi and Josephine Sullivan, "One Millisecond Face Alignment with an Ensemble of Regression Trees", IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2014 Davis E. King, Dlib-ml: A Machine Learning Toolkit, Journal of Machine Learning Research 10, pp. 1755-1758, 2009 Ming-Zher Poh, Daniel J. McDuff, and Rosalind W. Picard, "Non-Contact, automated cardiac pulse measurements using video imaging and blind source separation", OPTICS EXPRESS, Vol. 18, No. 10, May 2010, pp. 10762-10774 F. Braun, A. Lemkaddem, V. Moser, S. Dasen, O. Grossenbacher, and M. Bertschi, "Contactless Respiration Monitoring in Real-Time via a Video Camera", Springer Nature Singapore Pte Ltd. 2018, H. eskola et al. (eds.), EMBEC & NBC 2017, IFMBE Proceedings 65 S. Boonnithi and S. Phongsuphap, "Comparison of Heart Rate Variability Measures for Mental Stress Detection", Proceedings of the Computing in Cardiology (CinC’11) pp. 85-88, 2011
特許文献1は、測定対象者の外部の視覚的特徴量に応じて皮脂量を推定するものであり、測定対象者の内部の生体情報を推定するものではない。特許文献2は、心電計等の接触型計測器やドップラーセンサ等の非接触型計測器を用いてバイタルデータを測定しているものの、測定対象者の動きによるノイズを低減するため、測定対象者をカメラで撮影した映像データにより、動きの多い時刻において取得されたバイタルデータを用いないことによりバイタルデータの信頼性を向上させるものであり、測定対象者の動きに依拠して信頼性の低いバイタルデータを除外するという単純な処理を実施しているだけである。特許文献3は、医療や介護の現場において、ベッドとマットレスとの間に設置した検出装置により検出された測定対象者の体動(振動)を検出して、生体情報(呼吸数や心拍数)を算出するものであり、生体情報の異常値を示すアラームの信頼性を高めるため、測定対象者の状態(臥床・離床状態)や測定データのバラツキなどに基づく信頼性評価を行っているが、実験などによる信頼性評価手法を採用しており、処理過程が複雑である。
上述の生体情報推定装置において、バイタルデータの信頼性は、測定対象者の動きの量と閾値との比較で判定するというルールに基づいているため、そのルール設計が困難である。また、測定対象者の身体の動きについても、身体全体が動くのか、身体の一部(例えば、頭部や顔)が動くのかに応じた複数の要因が存在する。何れの要因でも生体情報の推定値の信頼性を低下させ得るが、それぞれが生体情報の推定値にどの程度影響するのか不明である。また、複数の要因が組み合わさった場合、測定対象者の動き判定のルール設計をすることが容易ではない。
本発明は、上記の課題を解決するものであり、生体情報の信頼度判定のルールを設計することなく自動的に信頼度の判定を行ない、高い信頼度で生体情報を推定することができる生体情報推定装置、生体情報推定方法、及び生体情報推定プログラムを提供することを目的とする。
本発明の第一の態様は、測定対象者の映像を解析して測定対象者の顔領域又は身体領域を検出した映像解析情報を生成する映像解析部と、映像解析情報から測定対象者の個別の心拍又は呼吸に係る生体情報を推定する生体情報推定部と、測定対象者から直接計測した参照生体情報と、映像解析情報から推定された生体情報との誤差に相当する教師信号を算出する教師信号算出部と、推定された生体情報と、映像解析情報とに基づいて、教師信号が出力されるように信頼度モデルの学習を行う信頼度モデル学習部と、映像解析情報と、生体情報と、測定対象者の生体情報の誤差に基づく信頼度を算出する信頼度モデルとを用いて、生体情報の信頼度を算出する信頼度算出部と、を具備し、生体情報を信頼度と対応付けて出力するようにした生体情報推定装置である。
本発明の第二の態様は、測定対象者の映像データを入力する映像入力部と、映像データを解析して測定対象者の顔領域又は身体領域を検出した映像解析情報を生成する映像解析部と、映像解析情報から測定対象者の個別の心拍又は呼吸に係る生体情報を推定する生体情報推定部と、測定対象者の生体情報の誤差に基づく信頼度を算出する信頼度モデルを記憶した信頼度モデル記憶部と、測定対象者から直接計測した参照生体情報を入力する参照生体情報入力部と、参照生体情報と、映像解析情報から推定された生体情報との誤差に相当する教師信号を算出する教師信号算出部と、推定された生体情報と、映像解析情報とに基づいて、教師信号が出力されるように信頼度モデルの学習を行う信頼度モデル学習部と、映像解析情報と、生体情報と、信頼度モデルとを用いて、生体情報の信頼度を算出する信頼度算出部と、生体情報信頼度と対応付けて出力する出力部と、を具備した生体情報推定装置である。
本発明の第三の態様は、測定対象者の映像を解析して測定対象者の顔領域又は身体領域を検出した映像解析情報を生成する映像解析工程と、映像解析情報から測定対象者の個別の心拍又は呼吸に係る生体情報を推定する生体情報推定工程と、測定対象者から直接計測した参照生体情報と、映像解析情報から推定された生体情報との誤差に相当する教師信号を算出する教師信号算出工程と、推定された生体情報と、映像解析情報とに基づいて、教師信号が出力されるように信頼度モデルの学習を行う信頼度モデル学習工程と、映像解析情報と、生体情報と、測定対象者の生体情報の誤差に基づく信頼度を算出する信頼度モデルとを用いて、生体情報の信頼度を算出する信頼度算出工程と、を具備し、生体情報を信頼度と対応付けて出力するようにした生体情報推定方法である。
本発明の第四の態様は、測定対象者の映像データを入力する映像入力工程と、映像データを解析して測定対象者の顔領域又は身体領域を検出した映像解析情報を生成する映像解析工程と、映像解析情報から測定対象者の個別の心拍又は呼吸に係る生体情報を推定する生体情報推定工程と、測定対象者の生体情報の誤差に基づく信頼度を算出する信頼度モデルを記憶する信頼度モデル記憶工程と、測定対象者から直接計測した参照生体情報と、映像解析情報から推定された生体情報との誤差に相当する教師信号を算出する教師信号算出工程と、推定された生体情報と、像解析情報とに基づいて、教師信号が出力されるように信頼度モデルの学習を行う信頼度モデル学習工程と、映像解析情報と、推定された生体情報と、信頼度モデルとを用いて、生体情報の信頼度を算出する信頼度算出工程と、生体情報信頼度と対応付けて出力する出力工程と、を具備した生体情報推定方法である。
本発明の第五の態様は、測定対象者の映像を解析して測定対象者の顔領域又は身体領域を検出した映像解析情報を生成する映像解析工程と、映像解析情報から測定対象者の個別の心拍又は呼吸に係る生体情報を推定する生体情報推定工程と、測定対象者から直接計測した参照生体情報と、映像解析情報から推定された生体情報との誤差に相当する教師信号を算出する教師信号算出工程と、推定された生体情報と、映像解析情報とに基づいて、教師信号が出力されるように信頼度モデルの学習を行う信頼度モデル学習工程と、映像解析情報と、生体情報と、測定対象者の生体情報の誤差に基づく信頼度モデルとを用いて、生体情報の信頼度を算出する信頼度算出工程と、をコンピュータに実行させる生体情報推定プログラムである。
本発明では、測定対象者の生体情報について、信頼度判定ルールを設計することなく、信頼度モデルを用いて、生体情報の信頼度を算出するようにしたので、高い信頼度で生体情報を推定することができる。
本発明の一実施例に係る生体情報推定装置の構成を示すブロック図である。 本発明の一実施例に係る生体情報推定装置にて使用される信頼度モデルを学習する信頼度モデル学習装置の構成を示すブロック図である。 従来の生体情報推定装置の一例の構成を示すブロック図である。 生体情報推定装置の動作を説明するフローチャートである。 信頼度モデル学習装置の動作を説明するフローチャートである。 本発明に係る生体情報推定装置の最小構成を示すブロック図である。
本発明に係る生体情報推定装置及び生体情報推定方法について、図面を参照して、実施例とともに詳細に説明する。
図1は、本発明の一実施例に係る生体情報推定装置100の構成を示す。生体情報推定装置は、映像入力部101、映像解析部102、生体情報推定部103、信頼度モデル記憶部104、信頼度算出部105、生体情報出力部106、および信頼度出力部107より構成される。
映像入力部101は、例えば、カメラ機器で撮像された映像データを入力するか、或いは、データベースなどに記憶された映像データをネットワーク経由で受信する。映像解析部102は、映像データを解析し、測定対象者の存在を検出するとともに、測定対象者の顔領域や身体領域を検出し、顔の向きや顔特徴点、並びに視線などを算出する。
映像データから人物を検出するとともに、顔部分の検出や、顔特徴点の算出に係る技術として、例えば、非特許文献1乃至非特許文献3が挙げられる。非特許文献1は、勾配方向ヒストグラムを用いて画像内の人物を検出する技術を開示している。非特許文献2は、回帰木の学習アルゴリズムを用いた顔整列に係る技術を開示している。非特許文献3は、C++プログラム言語によるマシン学習ツールキットを開示している。これらの技術を参酌して、映像解析部102は、測定対象者の映像データから顔特徴点などを算出することが可能である。
生体情報推定部103は、映像解析部102で解析された映像データ(映像情報)に基づいて、測定対象者の心拍、心拍間隔(心拍の変動時系列データ、RRI)、呼吸などの生体情報を推定する。映像データから心拍や呼吸を推定する技術として、例えば、非特許文献4、非特許文献5が挙げられる。非特許文献4は、映像撮像とブラインド信号原分離(BSS)を用いた非接触の自動心拍測定技術を開示している。非特許文献5は、ビデオカメラによる非接触のリアルタイム呼吸監視や呼吸数(Respiratory Rate)推定アルゴリズムを開示している。これらの技術を参酌して、生体情報推定部103は、映像データから生体情報を推定する。或いは、生体情報推定部103は、映像データから生体情報を推定する代わりに、特許文献2に記載されたように、ドップラーセンサなどにより計測したバイタルデータの計測値を用いてもよい。また、信頼度モデル記憶部104は、信頼度モデルを記憶している。
図2は、信頼度モデルを学習する信頼度モデル学習装置200の構成を示す。
信頼度モデル学習装置200は、参照生体情報入力部201、生体情報推定部202、映像解析部203、教師信号算出部204、信頼度モデル学習部205、信頼度モデル記憶部206を具備する。
参照生体情報入力部201は、映像取得装置やドップラーセンサなどの非接触型のセンサに比べて、より頑健に生体情報の測定が可能な接触型センサを用いて計測した生体情報(参照生体情報)を入力する。生体情報推定部202は、図1の生体情報推定装置100の生体情報推定部103と同様の構成及び機能を有する。また、映像解析部203は、図1の生体情報推定装置100の映像解析部102と同様の構成及び機能を有する。
教師信号算出部204は、参照生体情報入力部201で入力した参照生体情報と、生体情報推定部202で推定した生体情報との誤差を教師信号として算出する。誤差の値として、参照生体情報と生体情報との差分、平均絶対誤差、平均二乗誤差、平均平方二乗誤差などを用いることができる。また、参照生体情報が正確でないと判定した場合は、規定のフラグ値を教師信号として算出する。参照生体情報が正確でないか否かは、例えば、通常起こりえない生体信号の値や変化が計測されたか否かで判定する。測定対象者の心拍間隔(RRI)の場合、連続した観測で直前の値から20%以上変化した場合に、異常値と判定することができる。
信頼性モデル学習部205は、生体情報推定部202で推定された生体情報と、映像解析部204で算出された映像解析情報(例えば、測定対象者の顔領域や身体領域の検出情報、顔向きや視線情報、顔特徴点、顔領域の映像情報など)を入力し、教師信号が出力されるように信頼度モデルの学習を行う。信頼度モデルは、ニューラルネットワークやサポートベクトル回帰などの公知の機械学習の手法を用いて構築することができる。信頼度モデル記憶部206は、信頼度モデル学習部205で学習した信頼度モデルを記憶する。
図1に示される、信頼度算出部105は、生体情報推定部103で推定された生体情報と、映像解析部102で算出された映像解析情報(例えば、測定対象者の顔領域や身体領域の検出情報、顔向きや視線情報、顔特徴点、顔領域の映像情報など)を入力し、信頼度モデル記憶部104で記憶された信頼度モデル(即ち、信頼度モデル学習装置200の信頼度モデル記憶部206に記憶された信頼度モデル)を用いて、生体情報推定部103で推定された生体情報の信頼度を算出する。その後、生体情報出力部106は、生体情報推定部103で推定された生体情報を出力する。また、信頼度出力部107は、信頼度算出部105で算出された信頼度を出力する。
図1において、信頼度モデル記憶部104は、例えば、メモリなどの記憶装置として、生体情報推定装置100に含めても良い。或いは、信頼度モデル記憶部104をサーバやクラウドシステムに設置し、生体情報推定装置100はネットワークを介して信頼度モデルを取得するようにしてもよい。また、生体情報出力部106と信頼度出力部107とは別個の機能ではなく、一つにまとめてもよい。例えば、生体情報出力部106と信頼度出力部107の機能をモニタに組み込んだ場合、生体情報や信頼度を関連付けてモニタに表示してもよい。
次に、生体情報推定装置100と信頼度モデル学習装置200の動作について図4A及び図4Bに示されるフローチャートを参照して説明する。
まず、図4Bに示されるフローチャートを参照して、信頼度モデル学習装置200の動作を説明する。信頼度モデル学習装置200において、映像解析部203は、測定対象者の映像データを解析して映像解析情報(例えば、測定対象者の顔領域や身体領域の検出情報、顔向きや視線情報、顔特徴点、顔領域の映像情報など)を生成する(ステップS11)。生体情報推定部202は、映像解析情報に基づいて測定対象者の生体情報を推定する(ステップS12)。参照生体情報入力部201は、接触型センサを用いて参照生体情報を取得する(ステップS13)。教師信号算出部204は、推定された生体情報と参照生体情報との誤差に相当する教師信号を算出する(ステップS14)。信頼度モデル学習部205は、推定された生体情報と映像解析情報を入力し、教師信号が出力されるように信頼度モデルの学習を行う(ステップS15)。その後、学習の結果得られた信頼度モデルを信頼度モデル記憶部206に記憶する(ステップS16)。
次に、図4Aに示されるフローチャートを参照して、生体情報推定装置100の動作を説明する。生体情報推定装置100において、映像解析部102は、映像入力部101で入力した測定対象者の映像データを解析して、映像解析情報(例えば、測定対象者の顔領域や身体領域の検出情報、顔向きや視線情報、顔特徴点、顔領域の映像情報など)を生成する(ステップS1)。生体情報推定部103は、映像解析情報に基づいて生体情報を推定する(ステップS2)。信頼度算出部105は、映像解析部102から映像解析情報を入力するとともに、信頼度モデルを信頼度モデル記憶部104から読み出し、かつ、生体情報推定部103で推定された生体情報を入力する。信頼度算出部105は、映像解析情報と信頼度モデルを用いて、推定された生体情報の信頼度を算出する(ステップS3)。これにより、生体情報の推定値の信頼度低下を生じうる要因に基づいてルール設計を行うことなく、推定された生体情報の信頼度を算出することができる。その後、生体情報出力部106と信頼度出力部107は、生体情報と信頼度とを関連付けて出力する(ステップS4)。
次に、上述の実施例の変形例について説明する。ここでは、図1に示される生体情報推定装置100と、図2に示される信頼度モデル学習装置200とを用いて説明する。
生体情報推定装置100で推定された生体情報は、人間のストレス状態の把握や病気の診断に用いられる。例えば、測定対象者の心拍値をそのまま用いるのではなく、心拍変動値(HRV:Heart Rate Variability)を人間のストレス状態や病気の診断情報として用いるものとする。心拍変動の算出方法として、非特許文献6に開示される技術(精神的ストレス検出用の心拍変動測定技術)を適用することができる。
信頼度モデル学習装置200において、教師信号算出部204は、参照生体情報入力部201で入力された第1の心拍情報から第1の心拍変動を算出し、生体情報推定部202で推定された第2の心拍情報から第2の心拍変動を算出する。また、教師信号算出部204は、第1の心拍変動と第2の心拍変動との誤差を教師信号として算出する。なお、上述の実施例と同様に、参照生体情報入力部201で入力した参照生体情報が正確でないと判定した場合、既存のフラグ値を教師信号として算出してもよい。信頼度モデル学習部205では、第1の心拍変動と第2の心拍変動との誤差に相当する心拍変動誤差を教師信号として用いて、信頼度モデルを学習する。
上述のように、本実施例及び変形例では、測定対象者について推定された心拍値の誤差ではなく、心拍変動値の誤差を教師信号として用いて学習した信頼度モデルにより、生体情報の信頼度を算出している。このため、測定対象者の生体情報そのものの信頼度ではなく、心拍変動により推定された生体情報の活用指標に基づいて、生体情報の信頼度を算出することができる。
次に、本発明に係る生体情報推定装置の最小構成について図5に示されるブロック図を参照して説明する。
生体情報推定装置の最小構成は、映像解析部102、生体情報推定部103、及び信頼度算出部105を具備する。映像解析部102は、測定対象者の映像データを外部から取得して、その映像データを解析して映像解析情報を生成する。生体情報推定部103は、映像解析情報に基づいて測定対象者の生体情報を推定する。信頼度算出部105は、外部の記憶装置から信頼度モデルを取得して、映像解析情報と信頼度モデルを用いて生体情報の信頼度を算出する。なお、生体情報推定部103は、推定した生体情報を外部に出力し、信頼度算出部105は、算出した信頼度を外部に出力する。
本発明に係る生体情報推定装置及び生体情報推定方法は、上述の実施例に限定されるものではなく、請求の範囲に規定される発明の趣旨を具現化する範囲における種々の変更をも包含するものである。例えば、上述の変形例では、心拍変動を例にして説明したが、呼吸数の変動などその他の生体情報(或いは、バイタルデータ)についても、本発明を適用することができる。また、本発明に係る生体情報推定方法をプログラム化して、生体情報推定プログラムを作成して、情報処理装置に搭載することも可能である。この場合、情報処理装置は、映像機器、表示部、処理部、記憶部などを具備するものとし、前述のように参照生体情報と推定生体情報との誤差に相当する教師信号に応じて学習した信頼度モデルを記憶してもよい。
本発明は、測定対象者の心拍や呼吸などの生体情報を映像データに基づいて推定するものであり、例えば、カメラなどの映像機器により測定対象者の心拍などを推定することにより、医療施設における患者の病気判定やストレス判定などの分野に適用できる。しかし、本発明はこれに限定されるものではなく、生体情報と映像情報とを組み合わせた人物検出、人物認証、人物状態分析などの人物情報処理分野にも適用することができる。
100 生体情報
101 映像入力部
102 映像解析部
103 生体情報推定部
104 信頼度モデル記憶部
105 信頼度算出部
106 生体情報出力部
107 信頼度出力部
200 信頼度モデル学習装置
201 参照生体情報入力部
202 生体情報推定部
203 映像解析部
204 教師信号算出部
205 信頼度モデル学習部
206 信頼度モデル記憶部
1001 バイタルデータ計測部
1002 カメラ
1003 呼吸・心拍認識部
1004 動作認識部
1005 呼吸・心拍表示部

Claims (10)

  1. 測定対象者の映像を解析して前記測定対象者の顔領域又は身体領域を検出した映像解析情報を生成する映像解析部と、
    前記映像解析情報から前記測定対象者の個別の心拍又は呼吸に係る生体情報を推定する生体情報推定部と、
    前記測定対象者から直接計測した参照生体情報と、前記映像解析情報から推定された生体情報との誤差に相当する教師信号を算出する教師信号算出部と、
    前記推定された生体情報と、前記映像解析情報とに基づいて、前記教師信号が出力されるように信頼度モデルの学習を行う信頼度モデル学習部と、
    前記映像解析情報と、前記生体情報と、前記測定対象者の前記生体情報の誤差に基づく信頼度を算出する前記信頼度モデルとを用いて、前記生体情報の信頼度を算出する信頼度算出部と、を具備し、
    前記生体情報を前記信頼度と対応付けて出力するようにした生体情報推定装置。
  2. 前記教師信号算出部は、前記生体情報が心拍変動値の場合、前記参照生体情報から第1の心拍変動を算出し、前記生体情報から第2の心拍変動を算出し、前記第1の心拍変動と前記第2の心拍変動との誤差を前記教師信号として算出し、
    前記信頼度算出部は、心拍変動値の誤差を前記教師信号として用いて学習した前記信頼度モデルにより前記生体情報の信頼度を算出する、
    請求項1に記載の生体情報推定装置。
  3. 測定対象者の映像データを入力する映像入力部と、
    前記映像データを解析して前記測定対象者の顔領域又は身体領域を検出した映像解析情報を生成する映像解析部と、
    前記映像解析情報から前記測定対象者の個別の心拍又は呼吸に係る生体情報を推定する生体情報推定部と、
    前記測定対象者の前記生体情報の誤差に基づく信頼度を算出する信頼度モデルを記憶した信頼度モデル記憶部と、
    前記測定対象者から直接計測した参照生体情報を入力する参照生体情報入力部と、
    前記参照生体情報と、前記映像解析情報から推定された前記生体情報との誤差に相当する教師信号を算出する教師信号算出部と、
    前記推定された生体情報と、前記映像解析情報とに基づいて、前記教師信号が出力されるように前記信頼度モデルの学習を行う信頼度モデル学習部と、
    前記映像解析情報と、前記生体情報と、前記信頼度モデルとを用いて、前記生体情報の信頼度を算出する信頼度算出部と、
    前記生体情報前記信頼度と対応付けて出力する出力部と、
    を具備した生体情報推定装置。
  4. 前記教師信号算出部は、前記生体情報が心拍変動値の場合、前記参照生体情報から第1の心拍変動を算出し、前記生体情報から第2の心拍変動を算出し、前記第1の心拍変動と前記第2の心拍変動との誤差を前記教師信号として算出し、
    前記信頼度算出部は、心拍変動値の誤差を前記教師信号として用いて学習した前記信頼度モデルにより前記生体情報の信頼度を算出する、
    請求項3に記載の生体情報推定装置。
  5. 前記生体情報は、測定対象者の心拍間隔又は心拍変動である、請求項1又は請求項に記載の生体情報推定装置。
  6. 測定対象者の映像を解析して前記測定対象者の顔領域又は身体領域を検出した映像解析情報を生成する映像解析工程と、
    前記映像解析情報から前記測定対象者の個別の心拍又は呼吸に係る生体情報を推定する生体情報推定工程と、
    前記測定対象者から直接計測した参照生体情報と、前記映像解析情報から推定された前記生体情報との誤差に相当する教師信号を算出する教師信号算出工程と、
    前記推定された生体情報と、前記映像解析情報とに基づいて、前記教師信号が出力されるように信頼度モデルの学習を行う信頼度モデル学習工程と、
    前記映像解析情報と、前記生体情報と、前記測定対象者の前記生体情報の誤差に基づく信頼度を算出する前記信頼度モデルとを用いて、前記生体情報の信頼度を算出する信頼度算出工程と、を具備し、
    前記生体情報を前記信頼度と対応付けて出力するようにした生体情報推定方法。
  7. 測定対象者の映像データを入力する映像入力工程と、
    前記映像データを解析して前記測定対象者の顔領域又は身体領域を検出した映像解析情報を生成する映像解析工程と、
    前記映像解析情報から前記測定対象者の個別の心拍又は呼吸に係る生体情報を推定する生体情報推定工程と、
    前記測定対象者の前記生体情報の誤差に基づく信頼度を算出する信頼度モデルを記憶する信頼度モデル記憶工程と、
    前記測定対象者から直接計測した参照生体情報と、前記映像解析情報から推定された前記生体情報との誤差に相当する教師信号を算出する教師信号算出工程と、
    前記推定された生体情報と、前記映像解析情報とに基づいて、前記教師信号が出力されるように前記信頼度モデルの学習を行う信頼度モデル学習工程と、
    前記映像解析情報と、前記推定された生体情報と、前記信頼度モデルとを用いて、前記生体情報の信頼度を算出する信頼度算出工程と、
    前記生体情報前記信頼度と対応付けて出力する出力工程と、
    を具備した生体情報推定方法。
  8. 前記教師信号算出工程は、前記生体情報が心拍変動値の場合、前記参照生体情報から第1の心拍変動を算出し、前記生体情報から第2の心拍変動を算出し、前記第1の心拍変動と前記第2の心拍変動との誤差を前記教師信号として算出し、
    前記信頼度算出工程は、心拍変動値の誤差を前記教師信号として用いて学習した前記信頼度モデルにより前記生体情報の信頼度を算出する、
    請求項6又は請求項7に記載の生体情報推定方法。
  9. 測定対象者の映像を解析して前記測定対象者の顔領域又は身体領域を検出した映像解析情報を生成する映像解析工程と、
    前記映像解析情報から前記測定対象者の個別の心拍又は呼吸に係る生体情報を推定する生体情報推定工程と、
    前記測定対象者から直接計測した参照生体情報と、前記映像解析情報から推定された前記生体情報との誤差に相当する教師信号を算出する教師信号算出工程と、
    前記推定された生体情報と、前記映像解析情報とに基づいて、前記教師信号が出力されるように信頼度モデルの学習を行う信頼度モデル学習工程と、
    前記映像解析情報と、前記生体情報と、前記測定対象者の前記生体情報の誤差に基づく信頼度を算出する前記信頼度モデルとを用いて、前記生体情報の信頼度を算出する信頼度算出工程と、をコンピュータに実行させる生体情報推定プログラム。
  10. 前記教師信号算出工程は、前記生体情報が心拍変動値の場合、前記参照生体情報から第1の心拍変動を算出し、前記生体情報から第2の心拍変動を算出し、前記第1の心拍変動と前記第2の心拍変動との誤差を前記教師信号として算出し、
    前記信頼度算出工程は、心拍変動値の誤差を前記教師信号として用いて学習した前記信頼度モデルにより前記生体情報の信頼度を算出する
    請求項9に記載の生体情報推定プログラム。
JP2020508751A 2018-03-29 2018-03-29 生体情報推定装置、生体情報推定方法、及び生体情報推定プログラム Active JP6911998B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/013430 WO2019186955A1 (ja) 2018-03-29 2018-03-29 生体情報推定装置、生体情報推定方法、及び生体情報推定プログラム

Publications (2)

Publication Number Publication Date
JPWO2019186955A1 JPWO2019186955A1 (ja) 2020-12-17
JP6911998B2 true JP6911998B2 (ja) 2021-07-28

Family

ID=68058605

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020508751A Active JP6911998B2 (ja) 2018-03-29 2018-03-29 生体情報推定装置、生体情報推定方法、及び生体情報推定プログラム

Country Status (2)

Country Link
JP (1) JP6911998B2 (ja)
WO (1) WO2019186955A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7381301B2 (ja) * 2019-11-14 2023-11-15 日本光電工業株式会社 学習済みモデルの生成方法、学習済みモデルの生成システム、推論装置、およびコンピュータプログラム
EP4327724A1 (en) * 2021-04-22 2024-02-28 Sony Group Corporation Patient monitoring system

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9640218B2 (en) * 2012-12-07 2017-05-02 Intel Corporation Physiological cue processing
US10052038B2 (en) * 2013-03-14 2018-08-21 Koninklijke Philips N.V. Device and method for determining vital signs of a subject
US20150302158A1 (en) * 2014-04-21 2015-10-22 Microsoft Corporation Video-based pulse measurement
JP6323809B2 (ja) * 2014-10-16 2018-05-16 パナソニックIpマネジメント株式会社 生体情報推定装置及び生体情報推定方法
JP6521845B2 (ja) * 2015-11-22 2019-05-29 国立大学法人埼玉大学 心拍に連動する周期的変動の計測装置及び計測方法
US20170354383A1 (en) * 2016-06-08 2017-12-14 Sense.ly Corporation System to determine the accuracy of a medical sensor evaluation
JP2018038553A (ja) * 2016-09-06 2018-03-15 パナソニックIpマネジメント株式会社 車載表示装置、車載表示装置の制御方法、及び、プログラム

Also Published As

Publication number Publication date
WO2019186955A1 (ja) 2019-10-03
JPWO2019186955A1 (ja) 2020-12-17

Similar Documents

Publication Publication Date Title
JP6371837B2 (ja) 被験者のバイタルサインを取得するデバイスと方法
EP2747647B1 (en) Monitoring system for monitoring a patient and detecting delirium of the patient
EP2772828B1 (en) Individual body discrimination device and individual body discrimination method
EP3037036A1 (en) Biometric authentication method and apparatus
US20190332855A1 (en) Person trend recording device, person trend recording method, and program
EP2960862A1 (en) A method for stabilizing vital sign measurements using parametric facial appearance models via remote sensors
Zamzami et al. Pain assessment in infants: Towards spotting pain expression based on infants' facial strain
TW201837901A (zh) 情感識別裝置以及情感識別程式
Sun et al. Assessment of photoplethysmogram signal quality using morphology integrated with temporal information approach
JP6911998B2 (ja) 生体情報推定装置、生体情報推定方法、及び生体情報推定プログラム
CN115100159A (zh) 一种呼吸状态检测方法、装置、设备和存储介质
Wiede et al. Signal fusion based on intensity and motion variations for remote heart rate determination
Slapnicar et al. Contact-free monitoring of physiological parameters in people with profound intellectual and multiple disabilities
Sikdar et al. Contactless vision-based pulse rate detection of infants under neurological examinations
Carter et al. Deep Learning-Enabled Sleep Staging From Vital Signs and Activity Measured Using a Near-Infrared Video Camera
Huang et al. Unobtrusive inter-beat interval estimation from multichannel ballistocardiogram signal using kalman filter
Nair et al. Illumination invariant non-invasive heart rate and blood pressure estimation from facial thermal images using deep learning
KR20220072484A (ko) 얼굴표정 분석기반 자폐 스펙트럼 장애 평가 방법
Rivest-Hénault et al. Quasi real-time contactless physiological sensing using consumer-grade cameras
Hessler et al. A non-contact method for extracting heart and respiration rates
US20240023856A1 (en) State of consciousness analysis apparatus, storage medium, and observation system
US20230293113A1 (en) System and method of estimating vital signs of user using artificial intelligence
Ma Towards a Contactless Vital Sign System
Hurtado-Otalora et al. Respiratory Rate Estimation by a Non-invasive Optical Method Based on Video Image Processing
Awais et al. Face and its features detection during nap

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200618

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210309

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210427

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210608

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210621

R150 Certificate of patent or registration of utility model

Ref document number: 6911998

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150