JP2023503174A - 心拍数の推定方法、装置及びそれを応用する電子機器 - Google Patents

心拍数の推定方法、装置及びそれを応用する電子機器 Download PDF

Info

Publication number
JP2023503174A
JP2023503174A JP2022530796A JP2022530796A JP2023503174A JP 2023503174 A JP2023503174 A JP 2023503174A JP 2022530796 A JP2022530796 A JP 2022530796A JP 2022530796 A JP2022530796 A JP 2022530796A JP 2023503174 A JP2023503174 A JP 2023503174A
Authority
JP
Japan
Prior art keywords
heart rate
frequency domain
signal
domain signal
peak value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022530796A
Other languages
English (en)
Inventor
張智瑞
許天驕
王進
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
ArcSoft Corp Ltd
Original Assignee
ArcSoft Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ArcSoft Corp Ltd filed Critical ArcSoft Corp Ltd
Publication of JP2023503174A publication Critical patent/JP2023503174A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024Detecting, measuring or recording pulse rate or heart rate
    • A61B5/0245Detecting, measuring or recording pulse rate or heart rate by using sensing means generating electric signals, i.e. ECG signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024Detecting, measuring or recording pulse rate or heart rate
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024Detecting, measuring or recording pulse rate or heart rate
    • A61B5/02416Detecting, measuring or recording pulse rate or heart rate using photoplethysmograph signals, e.g. generated by infrared radiation
    • A61B5/02427Details of sensor
    • A61B5/02433Details of sensor for infrared radiation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0077Devices for viewing the surface of the body, e.g. camera, magnifying lens
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7203Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7253Details of waveform analysis characterised by using transforms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7253Details of waveform analysis characterised by using transforms
    • A61B5/7257Details of waveform analysis characterised by using transforms using Fourier transforms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2576/00Medical imaging apparatus involving image processing or analysis
    • A61B2576/02Medical imaging apparatus involving image processing or analysis specially adapted for a particular organ or body part

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Surgery (AREA)
  • Medical Informatics (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Molecular Biology (AREA)
  • Signal Processing (AREA)
  • Physiology (AREA)
  • Cardiology (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Psychiatry (AREA)
  • Mathematical Physics (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)

Abstract

本発明は心拍数の推定方法、装置及びそれを応用する電子機器に関する。心拍数の推定方法は、顔撮影ビデオを取得するステップS100と、顔撮影ビデオに対して顔検出を行い、心拍数を推定するために設定された顔局所領域を抽出するステップS102と、顔局所領域内の画素点の値に対して第1処理を行い、初期心拍数信号を取得するステップS104と、初期心拍数信号に対して時間領域-周波数領域変換を行い、周波数領域信号を取得するステップS106と、心拍数の推定範囲内で、周波数領域信号に対して第2処理を行い、心拍数の推定値を取得するステップS110と、を含む。

Description

関連出願の相互参照
本出願は2019年11月25日に中国国家知識産権局に出願された、出願番号201911166001.2、出願名称「心拍数の推定方法、装置及びそれを応用する電子機器」の中国特許出願の優先権を主張し、その内容全体は参照により本出願に組み込まれる。
本発明はコンピュータビジョン技術に関し、具体的には、心拍数の推定方法、装置及びそれを応用する電子機器に関する。
心電図は心電計を用いて、心臓の1回の心周期ごとに生じる電気的活動の変化パターンを体表から記録する技術である。該方法は精度が高いが、機器が高価であり、且つ専門家が操作する必要があり、装置が煩雑で、使用シーンが極めて限られている。
光電式容積脈波記録法(PPG)は、光電手段によって生体組織における血液容積の変化を監視する非侵襲的な検出方法である。指間などの皮膚表面に一定の波長を使用した光が照射されると、光は透過又は反射の方式で光受信器に捕捉される。光は皮膚、筋肉、血液などに吸収されることによりプロセス全体を通して減衰し、光受信器に到達する光の強度は減少する。光の強度に対する皮膚、筋肉等の減衰作用は一定であるが、光に対する血管内の血液の減衰作用は、心臓の拍動に伴って拍動性の変化を呈する。心臓が収縮すると血管内の血液容積が増大し、吸収される光の強度が増加し、光受信器が受信する光の強度が弱まり、心臓が拡張する時には逆になる。この光の強度を電気信号に変換し、容積脈波によって血流の変化を得ることができる。該方法はセンサを人体部位に固定して緊密に接触させる必要があり、ユーザの使用方法及びシーンに対して多くの制限がある。
本開示の実施例は、接触させる方法でしか心拍数を推定することができないという従来技術における技術的課題を少なくとも解決する、心拍数の推定方法、装置及びそれを応用する電子機器を提供する。
本発明の実施例の一つの態様によれば、顔撮影ビデオを取得するステップと、前記顔撮影ビデオに対して顔検出を行い、心拍数を推定するために設定された顔局所領域を抽出するステップと、前記顔局所領域内の画素点の値に対して第1処理を行い、初期心拍数信号を取得するステップと、前記初期心拍数信号に対して時間領域-周波数領域変換を行い、周波数領域信号を取得するステップと、心拍数の推定範囲内で、前記周波数領域信号に対して第2処理を行い、心拍数の推定値を取得するステップと、を含む心拍数の推定方法を提供する。
好ましくは、赤外線カメラを用いて前記顔撮影ビデオを収集する。
好ましくは、前記顔局所領域は両眼以下の領域を含む。
好ましくは、心拍数の推定方法は、さらに、顔キーポイント位置決めと前記顔検出を組み合わせることで、心拍数を推定するために設定された前記顔局所領域を抽出するステップを含む。
好ましくは、前記顔局所領域内の画素点の値に対して第1処理を行い、初期心拍数信号を取得するステップは、前記顔局所領域内の画素点の値に対して重みに従って重み付け平均を行い、重み付け平均の値を現フレームの輝度信号とし、ただし、前記現フレームの輝度信号と履歴の前Nフレームの輝度信号が前記初期心拍数信号を構成するステップと、を含む。
好ましくは、前記初期心拍数信号に対して時間領域-周波数領域変換を行い、周波数領域信号を取得するステップは、高速フーリエ変換により前記初期心拍数信号を時間領域から周波数領域に変換し、前記周波数領域信号を取得するステップを含む。
好ましくは、前記画素点の前記顔局所領域内の位置に基づいて前記重みを設定し、前記画素点が顔局所領域内の辺縁位置に近ければ近いほど、前記画素点に対応する前記重みは小さくなる。
好ましくは、初期心拍数信号に対して時間領域-周波数領域変換を行う前に、前記心拍数の推定方法は、さらに、前記初期心拍数信号に対して時間領域においてS-G(Savitzky-Golay)フィルタリング、トレンド除去(Detrend)フィルタリング、移動平均フィルタリング、正規化(Normalize)処理、バンドパス(Bandpass)フィルタリングのうち少なくとも一つを含む第1ノイズ除去処理を行うステップを含んでもよい。
好ましくは前記心拍数の推定範囲内で、周波数領域信号に対して第2処理を行い、心拍数の推定値を取得するステップは、心拍数の推定範囲内で、前記周波数領域信号に対してピーク検出を行い、ピーク値を取得するステップと、前記ピーク値をソートし、ソート結果を取得するステップと、前記ソート結果に基づき、信頼度を計算するステップと、前記信頼度に基づいて前記心拍数の推定値を取得するステップと、を含む。
好ましくは心拍数の推定範囲内で、周波数領域信号に対して第2処理を行い、心拍数の推定値を取得する前記ステップは、心拍数の推定範囲内で、周波数領域信号に対してピーク値検出を行い、最高ピーク値を取得するステップと、前記最高ピーク値の周波数を主周波数として、主周波数に対応する1次高調波及び2次高調波のエネルギーを計算し、エネルギー計算値を取得するステップと、前記エネルギー計算値を前記主周波数以外の残りの周波数のエネルギーで除算し、信頼度を取得するステップと、前記信頼度に基づいて前記心拍数の推定値を取得するステップと、を含む。
好ましくは、前記心拍数の推定範囲は予め設定される。
好ましくは、前記心拍数の推定方法は、さらに、検出時間が第2閾値を超過しているか否かを判断するステップと、前記検出時間が前記第2閾値を超過している場合、周波数領域信号に対して第3処理を行って心拍数の推定範囲を取得するステップと、を含む。
好ましくは、前記周波数領域信号に対して第3処理を行って心拍数の推定範囲を取得するステップは、スライディングウィンドウによって、連続したXフレーム又はX秒間の周波数領域信号を絶えず選択して心拍数の値を取得し且つバッファリングし、次にディープラーニングの方法により心拍数の推定範囲を取得し、Mフレーム又はM秒内に該操作を繰り返し、且つ取得した全ての心拍数の推定範囲を平均することによって最終的な心拍数の推定範囲を取得するステップを含む。
好ましくは、トラバースする方式を用いてピーク値の高い順にピーク値をソートし、最高ピーク値と第2ピーク値をソート結果として選択し、最高ピーク値と第2ピーク値の比を信頼度とする。
好ましくは、前記信頼度に基づいて前記心拍数の推定値を取得する前記ステップは、前記信頼度を第1閾値と比較して、比較結果を取得するステップと、前記信頼度が前記第1閾値より小さい場合、前記比較結果は前記周波数領域信号がノイズにかなり妨害されていることを示しており、現在の結果を放棄して次のフレームの検出を行うステップと、前記信頼度が前記第1閾値以上である場合、前記比較結果は前記周波数領域信号がノイズに妨害されていないか又はノイズ妨害が少ないことを示しており、前記最高ピーク値に対応する周波数を前記心拍数の推定値として取得するステップと、を含む。
好ましくは、前記周波数領域信号に対して第2処理を行う前に、前記心拍数の推定方法は、さらに、前記周波数領域信号に対して離散フーリエ変換(DFT)、バンドパス(Bandpass)フィルタリングのうち少なくとも一つ以上を含む第2ノイズ除去処理を行うステップを含む。
本発明の実施例の別の態様によれば、さらに、顔撮影ビデオを取得するように設定される撮影ユニットと、前記顔撮影ビデオに対して顔検出を行い、心拍数を推定するために設定された顔局所領域を抽出するように設定される検出ユニットと、前記顔局所領域内の画素点の値に対して第1処理を行い、初期心拍数信号を取得するように設定される第1処理ユニットと、前記初期心拍数信号に対して時間領域-周波数領域変換を行い、周波数領域信号を取得するように設定される変換ユニットと、心拍数の推定範囲内で、前記周波数領域信号に対して第2処理を行い、心拍数の推定値を取得するように設定される第2処理ユニットと、を含む心拍数の推定装置を提供する。本発明の実施例の別の態様によれば、さらに、プログラムが記憶された記憶媒体であって、前記プログラムを実行する時に前記記憶媒体が位置する機器を制御して上記いずれか一項に記載の心拍数の推定方法を実行する記憶媒体を提供する。
好ましくは、前記第2処理ユニットは、心拍数の推定範囲内で、前記周波数領域信号に対してピーク検出を行い、ピーク値を取得するように設定されるピーク検出モジュールと、前記ピーク値をソートし、ソート結果を取得するように設定されるソートモジュールと、前記ソート結果に基づき、信頼度を取得するように設定される信頼度計算モジュールと、前記信頼度に基づいて前記心拍数の推定値を取得するように設定される推定モジュールと、を含む。
好ましくは、前記第2処理ユニットは、心拍数の推定範囲内で、周波数領域信号に対してピーク値検出を行い、最高ピーク値を取得するように設定される最高ピーク値検出モジュールと、前記最高ピーク値の周波数を主周波数として、主周波数に対応する1次高調波及び2次高調波のエネルギーを計算し、エネルギー計算値を取得するように設定されるエネルギー計算モジュールと、前記エネルギー計算値を前記主周波数以外の残りの周波数のエネルギーで除算し、信頼度を取得するように設定される信頼度計算モジュールと、前記信頼度に基づいて前記心拍数の推定値を取得するように設定される推定モジュールと、を含む。
好ましくは、前記心拍数の推定装置は、さらに、検出時間が第2閾値を超過したか否かを判断するように設定される判断モジュールと、前記検出時間が前記第2閾値を超過した場合、周波数領域信号に対して第3処理を行って心拍数の推定範囲を取得するように設定される第3処理モジュールと、を含む。
本発明の実施例の別の態様によれば、さらに、プロセッサと、前記プロセッサの実行可能なコマンドを記憶するように設定されるメモリとを含み、前記プロセッサは前記実行可能なコマンドを実行することによって前記いずれか一項に記載の心拍数の推定方法を実行するように構成される電子機器を提供する。
本発明の実施例において、顔撮影ビデオを取得するステップと、前記顔撮影ビデオに対して顔検出を行い、心拍数を推定するために設定された顔局所領域を抽出するステップと、前記顔局所領域内の画素点の値に対して第1処理を行い、初期心拍数信号を取得するステップと、前記初期心拍数信号に対して時間領域-周波数領域変換を行い、周波数領域信号を取得するステップと、心拍数の推定範囲内で、前記周波数領域信号に対して第2処理を行い、心拍数の推定値を取得するステップと、を実行する。これにより、接触させる方法でしか心拍数を推定することができないという従来技術における技術的課題を解決する。
ここで説明される図面は本発明のさらなる理解を提供するために用いられ、本願の一部を構成しているが、本発明の例示的な実施例及びその説明は本発明を説明するために設けられており、本発明に対する不当な制限を構成するものではない。図面の説明は以下のとおりである。
図1は本発明の実施例に基づく第1の選択可能な心拍数の推定方法のフローチャートである。 図2は本発明の実施例に基づく選択可能な抽出された顔局所領域の概略図である。 図3は本発明の実施例に基づく第2の選択可能な心拍数の推定方法のフローチャートである。 図4は本発明の実施例に基づいて提供された心拍数の推定方法の応用シーン図である。 図5は本発明の実施例に基づく選択可能な心拍数の推定装置の構造ブロック図である。
当業者が本発明の解決手段をよりよく理解するために、以下に本発明の実施例における図面を参照しながら、本発明の実施例における技術的解決手段を明確、且つ完全に説明するが、明らかな点として、説明される実施例は本発明の一部の実施例に過ぎず、全ての実施例ではない。本発明の実施例に基づき、当業者が創造的な労力を要することなく取得した全ての他の実施例は、いずれも本発明の保護範囲に属するべきである。
なお、本発明の明細書と特許請求の範囲、及び上記図面における「第1」、「第2」等の用語は類似の対象を区別するために用いられるものであり、特定の順序又は前後を説明するために用いられる必要はない。このように使用される順序は、本明細書で説明される本発明の実施例を本明細書で図示又は説明された以外の順序で実施するために、適切な状況で交換され得ることを理解されたい。また、「含む」及び「有する」という用語及びそれらの任意の同義語は、排他的でない包含を網羅することを意図しており、例えば、一連のステップ又はユニットを含むプロセス、方法、システム、製品又は装置が明示的に列挙されたそれらのステップ又はユニットに限定される必要はなく、明示的に列挙されないもの、或いはこれらのプロセス、方法、製品又は装置に固有の他のステップ又はユニットを含むことができる。
本発明の実施例は、少なくとも1つの撮像ユニットを有し、スマートフォン、タブレットコンピュータ、電子書籍リーダ、デスクトップコンピュータ、ワークステーション、サーバ、パーソナルデジタルアシスタント(PDA)、ポータブルマルチメディアプレーヤ(PMP)、医療機器、カメラ又はウェアラブル機器(腕時計、ブレスレット、眼鏡、ヘッドセットなどのアクセサリタイプの機器)、電子衣服、体内に埋め込み可能なチップ、車載電子機器等であってもよい電子機器に応用することができる。
以下に本発明の実施例の選択可能な心拍数の推定方法のフローチャートを説明する。なお、図面のフローチャートに示されるステップは、コマンドの実行が可能な一組のコンピュータのようなコンピュータシステムにおいて実行することができる。且つ、フローチャートに論理的順序が示されているが、ある状況において、ここに示される又は説明されるステップと異なる順序で実施することができる。
図1は、本発明の実施例に基づく第1の選択可能な心拍数の推定方法のフローチャートである。図1に示すように、該心拍数の推定方法はステップS100、ステップS102、ステップS104、ステップS106、ステップS110を含む。
ステップS100は、顔撮影ビデオを取得するステップである。
選択可能な実施例において、このステップは撮像装置(例えば、RGBカメラ、赤外線カメラ等)により顔撮影ビデオを取得し、一般的にフレームレートを25fpsより大きくすることで、画面の連続性を保持し、心拍数の状態の捕捉に役立つ。赤外線カメラを用いる場合、赤外線は肉眼でほとんど見えないため、人の活動に影響を与えない。且つ、赤外線カメラを使用すると暗い光や複雑な光線による影響を避けることができ、一定の干渉防止及び遮蔽防止能力を有する。また、赤外線光源は送受信の波長帯が明確であるため、一般的なRGBカメラによる手段を採用すると回避できない大量のノイズを効果的に除去することができ、さらに能動的な補光を実現する。赤外線光源は赤外線カメラに内蔵された光源であってもよく、外部の独立した光源であってもよい。撮像装置は独立したカメラであるか、又は他のカメラの全体又は一部と、1つ又は複数の撮像モジュールとして集積されてもよく、独立して取り付けられ、又は組み込み式又は外付けの方式で電子機器に取り付けられてもよい。
ステップS102は、顔撮影ビデオに対して顔検出を行い、心拍数を推定するために設定された顔局所領域を抽出するステップである。
選択可能な実施例において、このステップは、さらに、顔キーポイント位置決めを顔検出と組み合わせる方式により、心拍数を推定するために設定された顔局所領域を抽出することができる。顔キーポイントを導入することにより、心拍数を推定するために設定された顔局所領域をより正確に抽出することができ、顔が揺れた場合でも、動きによるぼやけや顔の変形により心拍数の推定値がずれることがない。
選択可能な実施例において、このステップで抽出する顔の局所領域は両眼以下の領域を含む。両眼以下の領域は顔の他の場所に比べてより多くの静脈分布を有し且つ遮蔽されにくいため、両眼以下の領域を顔局所領域として抽出し、心拍数の推定方法の精度を向上させることができる。
例えば、図2に示す本発明の実施例に基づく選択可能な抽出された顔局所領域の概略図は、顔キーポイント位置決めを顔検出と組み合わせる方式により、心拍数を推定するために設定された顔局所領域を抽出する。図2において、矩形枠20は顔検出により確定された顔領域を示し、不規則なマスク枠22は顔キーポイントにより抽出された顔局所領域を示す。
当然のことながら、当業者であれば、さらに、額、頬などの顔の他の領域を抽出して顔局所領域とすることができる。又は、創造的な労力を要さない場合、当業者は首、手首などの静脈が多い他の人体領域を抽出して心拍数を推定するための検出領域としてもよい。
ステップS104は、顔局所領域内の画素点の値に対して第1処理を行い、初期心拍数信号を取得するステップである。
選択可能な実施例において、このステップは、顔局所領域内の画素点の値に対して重みに従って重み付け平均を行い、重み付け平均の値を現フレームの輝度信号とし、ただし、現フレームの輝度信号と履歴の前Nフレームの輝度信号が初期心拍数信号を構成し、Nは1以上の整数であるステップと、を含む。ここで、画素点の顔局所領域内の位置に基づいて重みを設定し、画素点が顔局所領域内の辺縁位置に近ければ近いほど、該画素点に対応する重みが小さくなるようにすることができる。重みの値の範囲は0~1であってもよい。
ステップS106は、初期心拍数信号に対して時間領域-周波数領域変換を行い、周波数領域信号を取得するステップである。
選択可能な実施例において、初期心拍数信号に対して時間領域-周波数領域変換を行い、周波数領域信号を取得するステップは、高速フーリエ変換により初期心拍数信号を時間領域から周波数領域に変換し、周波数領域信号を取得するステップを含む。
選択可能な実施例において、初期心拍数信号に対して時間領域-周波数領域変換を行う前に、心拍数の推定方法は、さらに、初期心拍数信号に対して時間領域において第1ノイズ除去処理を行うステップを含んでもよい。ここで、第1ノイズ除去処理のステップは、S-G(Savitzky-Golay)フィルタリング、トレンド除去(Detrend)フィルタリング、移動平均フィルタリング、正規化(Normalize)処理、バンドパス(Bandpass)フィルタリングのうち少なくとも一つを含む。S-G(Savitzky-Golay)フィルタリング及びトレンド除去(Detrend)フィルタリングにより、信号ベースラインのシフトが信号に与える影響を低減するように設定することができる(例えば、周囲光の影響を除去する)。移動平均フィルタリングにより信号中のランダムノイズを除去するように設定することができる。正規化(Normalize)処理により信号処理を容易にし、計算効率を向上させることができる。バンドパス(Bandpass)フィルタリングにより正常な心拍数帯域の信号を処理することができる。上記第1ノイズ除去処理により高周波ノイズ、低周波ノイズ及び他の要因(例えば、運動)により導入されるノイズを除去することができ、それにより心拍数信号がより明瞭になり、周期性がより顕著になる。
ステップS110は、心拍数の推定範囲内で、周波数領域信号に対して第2処理を行い、心拍数の推定値を取得するステップである。
選択可能な実施例において、周波数領域信号に対して第2処理を行い、心拍数の推定値を取得するステップは、心拍数の推定範囲内で、周波数領域信号に対してピーク検出を行い、ピーク値を取得するステップS1100と、ピーク値をソートし、ソート結果を取得するステップS1102と、ソート結果に基づき、信頼度を取得するステップS1104と、信頼度に基づいて心拍数の推定値を取得するステップS1106と、を含む。
選択可能な実施例において、トラバースする方式を用いてピーク値の高い順にピーク値をソートし、且つ必要に応じて最高ピーク値と第2ピーク値をソート結果として選択するなどして、ソート結果を取得する。最高ピーク値と第2ピーク値の比を信頼度とし、すなわち信頼度=最高ピーク値/第2ピーク値である。
選択可能な実施例において、周波数領域信号に対して第2処理を行い、心拍数の推定値を取得するステップは、心拍数の推定範囲内で、周波数領域信号に対してピーク値検出を行い、最高ピーク値を取得するステップS1110と、最高ピーク値の周波数を主周波数として、主周波数及び主周波数における1次高調波のエネルギーを計算し、エネルギー計算値を取得するステップS1112と、エネルギー計算値を主周波数以外の残りの周波数のエネルギーで除算し、信頼度を取得するステップS1114と、信頼度に基づいて心拍数の推定値を取得するステップS1116と、を含む。
選択可能な実施例において、心拍数の推定範囲を予め設定することができる。例えば、人体の心拍数の限界値に基づき、心拍数の推定範囲を50回/分~180回/分に予め設定することができる。
選択可能な実施例において、信頼度に基づいて心拍数の推定値を取得するステップは、信頼度を第1閾値と比較して、比較結果を取得するステップと、信頼度が第1閾値より小さい場合、比較結果は周波数領域信号がノイズにかなり妨害されていることを示しており、現在の周波数領域信号を放棄して次のフレームの検出を行うステップと、信頼度が第1閾値以上である場合、比較結果は周波数領域信号がノイズに妨害されていないか又はノイズ妨害が少ないことを示しており、最高ピーク値に対応する周波数を前記心拍数の推定値として取得するステップと、を含む。
選択可能な実施例において、周波数領域信号に対して第2処理を行う前に、前記心拍数の推定方法は、さらに、周波数領域信号に対して第2ノイズ除去処理を行うステップを含んでもよい。ここで、第2ノイズ除去処理の方法は、離散フーリエ変換(DFT)、バンドパス(Bandpass)フィルタリングのうち少なくとも一つを含む。バンドパス(Bandpass)フィルタリングにより正常な心拍数帯域の信号を処理することができる。周波数領域信号に対して第2ノイズ除去処理を行うことにより、必要な主成分信号をさらに強調することができる。
上記実施例が提供する心拍数の推定方法において、心拍数の推定範囲が予め設定された場合、範囲の設定が適切でないため出力数値が不安定になる可能性がある。より正確でより安定した心拍数の推定を実現するために、本発明はさらに自動範囲推定機能を有する別の心拍数の推定方法を提供する。図3を参照し、これは本発明の実施例に基づく第2の選択可能な心拍数の推定方法のフローチャートである。図3に示すように、該心拍数の推定方法は、顔撮影ビデオを取得するステップS300と、顔撮影ビデオに対して顔検出を行い、心拍数を推定するために設定された顔局所領域を抽出するステップS302と、顔局所領域内の画素点の値に対して第1処理を行い、初期心拍数信号を取得するステップS304と、初期心拍数信号に対して時間領域-周波数領域変換を行い、周波数領域信号を取得するステップS306と、検出時間が第2閾値を超過したか否かを判断するステップS307と、周波数領域信号に対して第3処理を行い、心拍数の推定範囲を取得するステップS308と、心拍数の推定範囲内で、周波数領域信号に対して第2処理を行い、心拍数の推定値を取得するステップS310と、を含む。
本実施例が提供する心拍数の推定方法において、ステップS300、ステップS302、ステップS304、ステップS306、ステップS310はそれぞれ第1の実施例におけるステップS100、ステップS102、ステップS104、ステップS106、ステップS110に対応し、ここでは説明を省略する。異なるのは、本実施例が提供する心拍数の推定方法はさらにステップS307及びステップS308を含むことであり、以下に具体的に説明する。
ステップS307において、第2閾値はMフレーム又はM秒に設定することができ、Mは1以上の整数であり、検出時間を計時し且つ計時値を第2閾値と比較することにより、検出時間が第2閾値を超過したか否かを判断する。検出時間が前記第2閾値を超過した場合、ステップS307からステップS308にジャンプし、周波数領域信号に対して第3処理を行って心拍数の推定範囲を取得する。ここで、周波数領域信号に対して第3処理を行って心拍数の推定範囲を取得するステップは、スライディングウィンドウによって、連続したXフレーム又はX秒間の周波数領域信号を絶えず選択して心拍数の値を取得し且つバッファリングし、次にディープラーニングの方法により心拍数の推定範囲を取得し、Mフレーム又はM秒内に該操作を繰り返し、且つ全ての心拍数の推定範囲を平均することによって最終的な心拍数の推定範囲を取得するステップを含んでもよい。検出時間が第2閾値を超過していない場合、ステップS310にジャンプし、心拍数の推定範囲内で、周波数領域信号に対して第2処理を行い、心拍数の推定値を取得する。
本発明の実施例が提供する心拍数の推定方法に基づいて、心拍数推定の検出に用いる以外にも、さらに呼吸数、経皮的動脈血酸素飽和度(SpO2)及び血圧等の心血管パラメータの取得に用いて、身体の状況をモニタリングすることができる。このような心拍数の推定方法は各種の移動プラットフォーム、車載チップ、埋め込み式チップ等に応用することができ、大型で複雑なハードウェア装置を必要とせず、検出プロセスが簡単且つ迅速であり、人体に接触せず無害であり、同時に十分な精度を有し、従来の接触式検出方法が複雑なハードウェア装置に依存し且つ人体と接触させる必要があるという課題を解決し、心拍数の推定方法のロバスト性及び使用範囲を顕著に向上させる。
本発明の実施例の応用シーンのうち、図4に示す本発明の実施例に基づいて提供された心拍数の推定方法の応用シーン図のように、該心拍数の推定方法により運転者の身体の状況をモニタリングすることで、運転者が従来の接触式心拍数装置を装着すると運転に一定の影響を及ぼすという問題を防ぐことができ、図4に示す検出結果から分かるように、該心拍数の推定方法を用いて取得された推定の心拍数値(Estimated)は実際の心拍数値(Real)に近く、精度が非常に高い。且つ夜間、トンネル、逆光等の暗い光の条件下でも正確な心拍数の推定を実現でき、運転者の身体状況に対して追跡及び判断を継続し、運転者の心拍数の異常を検出した場合、警報を発して、運転サポート機能を起動することができる。また、当業者であれば分かるように、本発明の実施例が提供する心拍数の推定方法に基づき、さらに睡眠時心拍数のモニタリングなどに応用することができる。
本発明の実施例の別の態様によれば、さらに、心拍数の推定装置を提供する。図5は、本発明の実施例に基づく選択可能な心拍数の推定装置の構造ブロック図である。図5に示すように、心拍数の推定装置50は、撮像ユニット500と、検出ユニット502と、第1処理ユニット504と、変換ユニット506と、第2処理ユニット510と、を含む。
以下に心拍数の推定装置50に含まれる各ユニットについて具体的に説明する。
撮像ユニット500は、顔撮影ビデオを取得するように設定される。
選択可能な実施例において、撮像ユニット500はRGBカメラ、赤外線カメラなどであってもよく、一般的にフレームレートを25fpsより大きくすることで、画面の連続性を保持し、心拍数の状態の捕捉に役立つ。赤外線カメラを用いる場合、赤外線は肉眼でほとんど見えないため、人の活動に影響を与えない。且つ、赤外線カメラを使用すると暗い光や複雑な光線による影響を避けることができ、一定の干渉防止及び遮蔽防止能力を有する。また、赤外線光源は送受信の波長帯が明確であるため、一般的なRGBカメラによる手段を採用すると回避できない大量のノイズを効果的に除去することができ、さらに能動的な補光を実現する。赤外線光源は赤外線カメラに内蔵された光源であってもよく、外部の独立した光源であってもよい。撮像ユニット500は独立したカメラであるか、又は他のカメラの全体又は一部と、1つ又は複数の撮像モジュールとして集積されてもよく、独立して取り付けられ、又は組み込み式又は外付けの方式で電子機器に取り付けられてもよい。
検出ユニット502は、顔撮影ビデオに対して顔検出を行い、心拍数を推定するために設定された顔局所領域を抽出するように設定される。
選択可能な実施例において、検出ユニット502は顔検出するために設定された顔検出モジュール5020を含む以外に、さらに、顔検出モジュール5020と組み合わせて、心拍数を推定するために設定された顔局所領域を抽出するように設定される顔キーポイント位置決めモジュール5022を含んでもよい。顔キーポイント位置決めモジュール5022を導入することにより、心拍数を推定するために設定された顔局所領域をより正確に抽出することができ、顔が揺れた場合でも、動きによるぼやけや顔の変形により心拍数の推定値がずれることがない。
選択可能な実施例において、このステップで抽出する顔の局所領域は両眼以下の領域を含む。両眼以下の領域は顔の他の場所に比べてより多くの静脈分布を有し且つ遮蔽されにくいため、両眼以下の領域を顔局所領域として抽出し、心拍数の推定方法の精度を向上させることができる。
第1処理ユニット504は、顔局所領域内の画素点の値に対して第1処理を行い、初期心拍数信号を取得するように設定される。
選択可能な実施例において、第1処理ユニット504は、顔局所領域内の画素点の値に対して重みに従って重み付け平均を行い、重み付け平均の値を現フレームの輝度信号とするように設定される輝度信号取得モジュール5040と、現フレームの輝度信号と履歴の前Nフレームの輝度信号に基づいて初期心拍数信号を取得し、Nは1以上の整数であるように設定される初期心拍数信号取得モジュール5042と、を含む。ここで、画素点の顔局所領域内の位置に基づいて重みを設定し、画素点が顔局所領域内の辺縁位置に近ければ近いほど、該画素点に対応する重みが小さくなるようにすることができる。重みの値の範囲は0-1であってもよい。
変換ユニット506は、初期心拍数信号に対して時間領域-周波数領域変換を行い、周波数領域信号を取得するように設定される。
選択可能な実施例において、変換ユニット506は、高速フーリエ変換により初期心拍数信号を時間領域から周波数領域に変換し、周波数領域信号を取得することができる。
選択可能な実施例において、心拍数推定装置50は、さらに、初期心拍数信号に対して時間領域-周波数領域変換を行う前に、初期心拍数信号に対して時間領域において第1ノイズ除去処理を行うように設定される第1ノイズ除去モジュールを含んでもよい。ここで、第1ノイズ除去処理の方法は、S-G(Savitzky-Golay)フィルタリング、トレンド除去(Detrend)フィルタリング、移動平均フィルタリング、正規化(Normalize)処理、バンドパス(Bandpass)フィルタリングのうち少なくとも一つ以上を含む。S-G(Savitzky-Golay)フィルタリング及びトレンド除去(Detrend)フィルタリングにより、信号ベースラインのシフトが信号に与える影響を低減するように設定することができる(例えば、周囲光の影響を除去する)。移動平均フィルタリングにより信号中のランダムノイズを除去するように設定することができる。正規化(Normalize)処理により信号処理を容易にし、計算効率を向上させることができる。バンドパス(Bandpass)フィルタリングにより正常な心拍数帯域の信号を処理することができる。上記第1ノイズ除去処理により高周波ノイズ、低周波ノイズ及び他の要因(例えば、運動)により導入されるノイズを除去することができ、それにより心拍数信号がより明瞭になり、周期性がより顕著になる。
第2処理ユニット510は、心拍数の推定範囲内で、周波数領域信号に対して第2処理を行い、心拍数の推定値を取得するように設定される。
選択可能な実施例において、第2処理ユニット510は、心拍数の推定範囲内で、周波数領域信号に対してピーク検出を行い、ピーク値を取得するように設定されるピーク検出モジュール5100と、ピーク値をソートし、ソート結果を取得するように設定されるソートモジュール5102と、ソート結果に基づき、信頼度を計算するように設定される信頼度計算モジュール5104と、信頼度に基づいて心拍数の推定値を取得するように設定される推定モジュール5106と、を含む。
選択可能な実施例において、トラバースする方式を用いてピーク値の高い順にピーク値をソートし、且つ必要に応じて最高ピーク値と第2ピーク値をソート結果として選択するなどして、ソート結果を取得する。最高ピーク値と第2ピーク値の比を信頼度とし、すなわち信頼度=最高ピーク値/第2ピーク値である。
選択可能な実施例において、第2処理ユニット510は、心拍数の推定範囲内で、周波数領域信号に対してピーク値検出を行い、最高ピーク値を取得するように設定される最高ピーク値検出モジュール5110と、最高ピーク値の周波数を主周波数として、主周波数に対応する1次高調波及び2次高調波のエネルギーを計算し、エネルギー計算値を取得するように設定されるエネルギー計算モジュール5112と、エネルギー計算値を主周波数以外の残りの周波数のエネルギーで除算し、信頼度を取得するように設定される信頼度計算モジュール5114と、信頼度に基づいて心拍数の推定値を取得するように設定される推定モジュール5116と、を含む。
選択可能な実施例において、心拍数の推定範囲を予め設定することができる。例えば、人体の心拍数の限界値に基づき、心拍数の推定範囲を50回/分~240回/分に予め設定することができる。
選択可能な実施例において、推定モジュール5106は、信頼度を第1閾値と比較して、比較結果を取得するステップと、信頼度が第1閾値より小さい場合、比較結果は周波数領域信号がノイズにかなり妨害されていることを示しており、現在の周波数領域信号を放棄して次のフレームの検出を行うステップと、信頼度が第1閾値以上である場合、比較結果は周波数領域信号がノイズに妨害されていないか又はノイズ妨害が少ないことを示しており、最高ピーク値に対応する周波数を前記心拍数の推定値として取得するステップと、を実行するように設定される。
選択可能な実施例において、心拍数推定装置50は、さらに、周波数領域信号に対して第2処理を行う前に、周波数領域信号に対して第2ノイズ除去処理を行うように設定される第2ノイズ除去モジュールを含んでもよい。ここで、第2ノイズ除去処理の方法は、離散フーリエ変換(DFT)、バンドパス(Bandpass)フィルタリングのうち少なくとも一つ以上を含む。バンドパス(Bandpass)フィルタリングにより正常な心拍数帯域の信号を処理することができる。周波数領域信号に対して第2ノイズ除去処理を行うことにより、必要な主成分信号をさらに強調することができる。
選択可能な実施例において、心拍数推定装置50は、さらに、検出時間が第2閾値を超過したか否かを判断し、検出時間を計時し且つ計時値を第2閾値と比較することにより、検出時間が第2閾値を超過したか否かを判断する判断モジュール507であって、第2閾値はMフレーム又はM秒に設定することができ、Mは1以上の整数であるように設定される判断モジュール507と、前記検出時間が前記第2閾値を超過した場合、周波数領域信号に対して第3処理を行って心拍数の推定範囲を取得するように設定される第3処理モジュール508と、を含む。ここで、周波数領域信号に対して第3処理を行って心拍数の推定範囲を取得するステップは、スライディングウィンドウによって、連続したXフレーム又はX秒間の周波数領域信号を絶えず選択して心拍数の値を取得し且つバッファリングし、次にディープラーニングの方法により心拍数の推定範囲を取得し、Mフレーム又はM秒内に該操作を繰り返し、且つ取得した全ての心拍数の推定範囲を平均することによって最終的な心拍数の推定範囲を取得するステップを含んでもよい。検出時間が第2閾値を超過していない場合、第2処理ユニット510は、心拍数の推定範囲内で、周波数領域信号に対して第2処理を行い、心拍数の推定値を取得する。
本発明の実施例の別の態様によれば、さらに、プロセッサと、プロセッサの実行可能なコマンドを記憶するように設定されるメモリとを含み、プロセッサは実行可能なコマンドを実行することによって上記いずれか一項に記載の心拍数の推定方法を実行するように構成される電子機器を提供する。
本発明の実施例の別の態様によれば、さらに、プログラムが記憶された記憶媒体であって、プログラムを実行する時に記憶媒体が位置する機器を制御して上記いずれか一項に記載の心拍数の推定方法を実行する記憶媒体を提供する。
上記本発明の実施例番号は説明のためのものであり、実施例の優劣を表すものではない。
本発明の上記実施例において、各実施例に対する説明はいずれもある方面に重点が置かれており、ある実施例において詳述されていない部分は、他の実施例の関連説明を参照することができる。
本出願が提供するいくつかの実施例において、当然のことながら、開示された技術内容は、他の方式で実現することができる。これまで説明された装置の実施例は例示的なものに過ぎず、例えば、前記ユニットの分割は論理機能の分割であってもよく、実際に実現する時には他の分割方式を有してもよく、例えば複数のユニット又はアセンブリを別のシステムに組み合わせるか又は集積してもよく、又はいくつかの特徴を無視し、又は実行しなくてもよい。別の点では、図示又は議論される相互の結合又は直接的な結合、又は通信接続は、インターフェース、ユニット又はモジュールを介した間接的な結合又は通信接続であってもよく、電気的又は他の形態であってもよい。
前記分離部材として説明されたユニットは物理的に分離してもよく又は分離しなくてもよく、ユニットとして示された部材は物理的ユニットであってもよく又はそうでなくてもよく、すなわち一箇所に位置してもよく、又は複数のユニットに分布していてもよい。実際の必要に応じてそのうちの一部又は全てのユニットを選択して本実施例の解決手段の目的を達成することができる。
また、本発明の各実施例における各機能ユニットは1つの処理ユニットに集積されてもよく、各ユニットが単独で物理的に存在してもよく、2つ以上のユニットが1つのユニットに集積されてもよい。上記集積されるユニットはハードウェアの形式で実現してもよく、ソフトウェア機能ユニットの形式で実現してもよい。
上記集積されるユニットがソフトウェア機能ユニットの形式で実現され且つ独立した製品として販売又は使用される場合、コンピュータで読み取り可能な記憶媒体に記憶することができる。このような理解に基づき、本発明の技術的解決手段は、実質的部分である従来技術に寄与する部分又は該技術的解決手段の全て又は一部をソフトウェア製品の形式で実現することができる。該コンピュータソフトウェア製品は、記憶媒体に記憶される製品であり、1台のコンピュータ装置(パーソナルコンピュータ、サーバ、又はネットワーク装置等であってもよい)により本発明の各実施例に記載の方法の全て又は一部のステップを実行するいくつかのコマンドが含まれる。上記記憶媒体はUSBメモリ、リードオンリーメモリ(ROM、Read-OnlyMemory)、ランダムアクセスメモリ(RAM、Random Access Memory)、リムーバブルハードディスク、磁気ディスク又は光ディスク等のプログラムコードを記憶可能な各種媒体を含む。
以上の記載は本発明の好ましい実施形態に過ぎず、明らかなこととして、当業者であれば、本発明の原理から逸脱しない前提で、更に幾つかの改良及び変更を行うことができ、それらの改良及び変更も本発明の保護範囲とみなされるべきである。
本願の実施例が提供する手段は身体の状況をモニタリングすることができ、本願の実施例が提供する技術的解決手段は、各種の移動プラットフォーム、車載チップ、埋め込み式チップ等の少なくとも1つの撮像ユニットを有する電子機器に応用することができ、大型で複雑なハードウェア装置を必要とせず、検出プロセスが簡単且つ迅速であり、人体に接触せず無害であり、同時に十分な精度を有し、従来の接触式検出方法が複雑なハードウェア装置に依存し且つ人体と接触させる必要があるという課題を解決し、心拍数の推定方法のロバスト性及び使用範囲を顕著に向上させる。運転者の身体状況に対して追跡及び判断を継続し、運転者の心拍数の異常を検出した場合、警報を発して、運転サポート機能を起動することができる。

Claims (22)

  1. 顔撮影ビデオを取得するステップと、
    前記顔撮影ビデオに対して顔検出を行い、心拍数を推定するために設定された顔局所領域を抽出するステップと、
    前記顔局所領域内の画素点の値に対して第1処理を行い、初期心拍数信号を取得するステップと、
    前記初期心拍数信号に対して時間領域-周波数領域変換を行い、周波数領域信号を取得するステップと、
    心拍数の推定範囲内で、前記周波数領域信号に対して第2処理を行い、心拍数の推定値を取得するステップと、
    を含む心拍数の推定方法。
  2. 赤外線カメラを用いて前記顔撮影ビデオを取得する、請求項1に記載の心拍数の推定方法。
  3. 前記顔局所領域は両眼以下の領域を含む、請求項1に記載の心拍数の推定方法。
  4. 顔キーポイント位置決めと前記顔検出を組み合わせることで、心拍数を推定するために設定された前記顔局所領域を抽出するステップをさらに含む、請求項1に記載の心拍数の推定方法。
  5. 前記顔局所領域内の画素点の値に対して第1処理を行い、初期心拍数信号を取得する前記ステップは、前記顔局所領域内の画素点の値に対して重みに従って重み付け平均を行い、重み付け平均の値を現フレームの輝度信号とし、前記現フレームの輝度信号と履歴の前Nフレームの輝度信号が前記初期心拍数信号を構成するステップと、を含む、請求項1に記載の心拍数の推定方法。
  6. 前記初期心拍数信号に対して時間領域-周波数領域変換を行い、周波数領域信号を取得する前記ステップは、高速フーリエ変換により前記初期心拍数信号を時間領域から周波数領域に変換し、前記周波数領域信号を取得するステップを含む、請求項1に記載の心拍数の推定方法。
  7. 前記画素点の前記顔局所領域内の位置に基づいて前記重みを設定し、前記画素点が顔局所領域内の辺縁位置に近ければ近いほど、前記画素点に対応する前記重みは小さくなる、請求項5に記載の心拍数の推定方法。
  8. 初期心拍数信号に対して時間領域-周波数領域変換を行う前に、前記心拍数の推定方法は、さらに、前記初期心拍数信号に対して時間領域においてS-G(Savitzky-Golay)フィルタリング、トレンド除去(Detrend)フィルタリング、移動平均フィルタリング、正規化(Normalize)処理、バンドパス(Bandpass)フィルタリングのうち少なくとも一つを含む第1ノイズ除去処理を行うステップを含む、請求項1に記載の心拍数の推定方法。
  9. 心拍数の推定範囲内で、周波数領域信号に対して第2処理を行い、心拍数の推定値を取得する前記ステップは、
    心拍数の推定範囲内で、前記周波数領域信号に対してピーク検出を行い、ピーク値を取得するステップと、
    前記ピーク値をソートし、ソート結果を取得するステップと、
    前記ソート結果に基づき、信頼度を取得するステップと、
    前記信頼度に基づいて前記心拍数の推定値を取得するステップと、
    を含む、請求項1に記載の心拍数の推定方法。
  10. 心拍数の推定範囲内で、周波数領域信号に対して第2処理を行い、心拍数の推定値を取得する前記ステップは、
    心拍数の推定範囲内で、周波数領域信号に対してピーク値検出を行い、最高ピーク値を取得するステップと、
    前記最高ピーク値の周波数を主周波数として、主周波数に対応する1次高調波及び2次高調波のエネルギーを計算し、エネルギー計算値を取得するステップと、
    前記エネルギー計算値を前記主周波数以外の残りの周波数のエネルギーで除算し、信頼度を取得するステップと、
    前記信頼度に基づいて前記心拍数の推定値を取得するステップと、
    を含む、請求項1に記載の心拍数の推定方法。
  11. 前記心拍数の推定範囲は予め設定される、請求項1に記載の心拍数の推定方法。
  12. 前記心拍数の推定方法は、さらに、
    検出時間が第2閾値を超過しているか否かを判断するステップと、
    前記検出時間が前記第2閾値を超過している場合、周波数領域信号に対して第3処理を行って心拍数の推定範囲を取得するステップと、を含む、請求項10に記載の心拍数の推定方法。
  13. 周波数領域信号に対して第3処理を行って心拍数の推定範囲を取得する前記ステップは、スライディングウィンドウによって、連続したXフレーム又はX秒間の周波数領域信号を絶えず選択して心拍数の値を取得し且つバッファリングし、次にディープラーニングの方法により心拍数の推定範囲を取得し、Mフレーム又はM秒内に該操作を繰り返し、且つ取得した全ての心拍数の推定範囲を平均することによって最終的な心拍数の推定範囲を取得するステップを含む、請求項12に記載の心拍数の推定方法。
  14. トラバースする方式を用いてピーク値の高い順にピーク値をソートし、最高ピーク値と第2ピーク値をソート結果として選択し、最高ピーク値と第2ピーク値の比を信頼度とする、請求項9に記載の心拍数の推定方法。
  15. 前記信頼度に基づいて前記心拍数の推定値を取得する前記ステップは、
    前記信頼度を第1閾値と比較して、比較結果を取得するステップと、
    前記信頼度が前記第1閾値より小さい場合、前記比較結果は前記周波数領域信号がノイズにかなり妨害されていることを示しており、現在の結果を放棄して次のフレームの検出を行うステップと、
    前記信頼度が前記第1閾値以上である場合、前記比較結果は前記周波数領域信号がノイズに妨害されていないか又はノイズ妨害が少ないことを示しており、前記最高ピーク値に対応する周波数を前記心拍数の推定値として取得するステップと、
    を含む、請求項12に記載の心拍数の推定方法。
  16. 前記周波数領域信号に対して第2処理を行う前に、前記心拍数の推定方法は、さらに、前記周波数領域信号に対して離散フーリエ変換(DFT)、バンドパス(Bandpass)フィルタリングのうち少なくとも一つ以上を含む第2ノイズ除去処理を行うステップを含む、請求項1に記載の心拍数の推定方法。
  17. 顔撮影ビデオを取得するように設定される撮影ユニットと、
    前記顔撮影ビデオに対して顔検出を行い、心拍数を推定するために設定された顔局所領域を抽出するように設定される検出ユニットと、
    前記顔局所領域内の画素点の値に対して第1処理を行い、初期心拍数信号を取得するように設定される第1処理ユニットと、
    前記初期心拍数信号に対して時間領域-周波数領域変換を行い、周波数領域信号を取得するように設定される変換ユニットと、
    心拍数の推定範囲内で、前記周波数領域信号に対して第2処理を行い、心拍数の推定値を取得するように設定される第2処理ユニットと、
    を含む、心拍数の推定装置。
  18. 前記第2処理ユニットは、
    心拍数の推定範囲内で、前記周波数領域信号に対してピーク検出を行い、ピーク値を取得するように設定されるピーク検出モジュールと、
    前記ピーク値をソートし、ソート結果を取得するように設定されるソートモジュールと、
    前記ソート結果に基づき、信頼度を取得するように設定される信頼度計算モジュールと、
    前記信頼度に基づいて前記心拍数の推定値を取得するように設定される推定モジュールと、
    を含む、請求項17に記載の心拍数の推定装置。
  19. 前記第2処理ユニットは、
    心拍数の推定範囲内で、周波数領域信号に対してピーク値検出を行い、最高ピーク値を取得するように設定される最高ピーク値検出モジュールと、
    前記最高ピーク値の周波数を主周波数として、主周波数に対応する1次高調波及び2次高調波のエネルギーを計算し、エネルギー計算値を取得するように設定されるエネルギー計算モジュールと、
    前記エネルギー計算値を前記主周波数以外の残りの周波数のエネルギーで除算し、信頼度を取得するように設定される信頼度計算モジュールと、
    前記信頼度に基づいて前記心拍数の推定値を取得するように設定される推定モジュールと、
    を含む、請求項17に記載の心拍数の推定装置。
  20. 前記心拍数の推定装置は、さらに、
    検出時間が第2閾値を超過したか否かを判断するように設定される判断モジュールと、
    前記検出時間が前記第2閾値を超過した場合、周波数領域信号に対して第3処理を行って心拍数の推定範囲を取得するように設定される第3処理モジュールと、
    を含む、請求項17に記載の心拍数の推定装置。
  21. プログラムが記憶された記憶媒体であって、前記プログラムを実行する時に前記記憶媒体が位置する機器を制御して請求項1~16のいずれか一項に記載の心拍数の推定方法を実行する記憶媒体。
  22. プロセッサと、
    前記プロセッサの実行可能なコマンドを記憶するように設定されるメモリと、を含み、
    前記プロセッサは前記実行可能なコマンドを実行することによって請求項1~16のいずれか一項に記載の心拍数の推定方法を実行するように構成される電子機器。
JP2022530796A 2019-11-25 2020-11-18 心拍数の推定方法、装置及びそれを応用する電子機器 Pending JP2023503174A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201911166001.2A CN112826486A (zh) 2019-11-25 2019-11-25 心率估计方法、装置及应用其的电子设备
CN201911166001.2 2019-11-25
PCT/CN2020/129836 WO2021104129A1 (zh) 2019-11-25 2020-11-18 心率估计方法、装置及应用其的电子设备

Publications (1)

Publication Number Publication Date
JP2023503174A true JP2023503174A (ja) 2023-01-26

Family

ID=75922253

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022530796A Pending JP2023503174A (ja) 2019-11-25 2020-11-18 心拍数の推定方法、装置及びそれを応用する電子機器

Country Status (5)

Country Link
US (1) US20220409079A1 (ja)
EP (1) EP4066736A4 (ja)
JP (1) JP2023503174A (ja)
CN (1) CN112826486A (ja)
WO (1) WO2021104129A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150302158A1 (en) * 2014-04-21 2015-10-22 Microsoft Corporation Video-based pulse measurement
CN109480808A (zh) * 2018-09-27 2019-03-19 深圳市君利信达科技有限公司 一种基于ppg的心率检测方法、系统、设备和存储介质

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101777116B (zh) * 2009-12-23 2012-07-25 中国科学院自动化研究所 一种基于动作跟踪的脸部表情分析方法
CN106264532A (zh) * 2015-06-11 2017-01-04 原相科技股份有限公司 光学式呼吸率检测装置及其检测方法
CN105266787B (zh) * 2015-11-03 2018-07-06 西安中科创星科技孵化器有限公司 一种非接触式心率检测方法及系统
CN106778450B (zh) * 2015-11-25 2020-04-24 腾讯科技(深圳)有限公司 一种面部识别方法和装置
CN105989357A (zh) * 2016-01-18 2016-10-05 合肥工业大学 一种基于人脸视频处理的心率检测方法
CN105877723B (zh) * 2016-06-22 2019-11-12 中国科学院苏州生物医学工程技术研究所 无创连续血压测量装置
CN109715062A (zh) * 2016-09-20 2019-05-03 夏普株式会社 计算机、呼吸次数的获取方法以及信息处理系统
CN106214143B (zh) * 2016-10-12 2019-02-19 成都心吉康科技有限公司 瞬时运动干扰识别方法及心率置信度计算方法
EP3495994A1 (en) * 2017-12-05 2019-06-12 Tata Consultancy Services Limited Face video based heart rate monitoring using pulse signal modelling and tracking
CN109602412A (zh) * 2018-12-05 2019-04-12 中国科学技术大学 利用面部视频实现心率检测的方法
CN109977858B (zh) * 2019-03-25 2020-12-01 北京科技大学 一种基于图像分析的心率检测方法及装置
CN110236511A (zh) * 2019-05-30 2019-09-17 云南东巴文健康管理有限公司 一种基于视频的无创心率测量方法
CN110367950B (zh) * 2019-07-22 2022-06-07 西安奇点融合信息科技有限公司 非接触式生理信息检测方法及系统
CN110384491A (zh) * 2019-08-21 2019-10-29 河南科技大学 一种基于普通摄像头的心率检测方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150302158A1 (en) * 2014-04-21 2015-10-22 Microsoft Corporation Video-based pulse measurement
CN109480808A (zh) * 2018-09-27 2019-03-19 深圳市君利信达科技有限公司 一种基于ppg的心率检测方法、系统、设备和存储介质

Also Published As

Publication number Publication date
CN112826486A (zh) 2021-05-25
US20220409079A1 (en) 2022-12-29
EP4066736A4 (en) 2023-01-11
EP4066736A1 (en) 2022-10-05
WO2021104129A1 (zh) 2021-06-03

Similar Documents

Publication Publication Date Title
Siddiqui et al. A pulse rate estimation algorithm using PPG and smartphone camera
US20220386929A1 (en) Detection of atrial fibrillation
US20110251493A1 (en) Method and system for measurement of physiological parameters
KR102268196B1 (ko) 생리 측정들 내 아티팩트들을 제거하는 장치 및 방법
US9737219B2 (en) Method and associated controller for life sign monitoring
Hanyu et al. Motion artifact detection and reduction in PPG signals based on statistics analysis
Bobbia et al. Remote photoplethysmography based on implicit living skin tissue segmentation
Lai et al. Lightweight wrist photoplethysmography for heavy exercise: motion robust heart rate monitoring algorithm
Gudi et al. Efficient real-time camera based estimation of heart rate and its variability
Bashar et al. Developing a novel noise artifact detection algorithm for smartphone PPG signals: Preliminary results
AU2014414868B2 (en) Device and method for removal of artifacts in physiological measurements
JP6933220B2 (ja) 生体情報処理装置、生体情報処理方法及び情報処理装置
Lagido et al. Using the smartphone camera to monitor heart rate and rhythm in heart failure patients
CN106539580B (zh) 一种自主神经系统动态变化的连续监测方法
US11622692B2 (en) Signal processing apparatus, and apparatus and method for estimating bio-information
Kumar et al. Total variation denoising based approach for R-peak detection in ECG signals
US10898087B2 (en) Motion detection and cancellation using ambient light
Qiao et al. Revise: Remote vital signs measurement using smartphone camera
CN114557685B (zh) 一种非接触式运动鲁棒心率测量方法及测量装置
Abdulrahaman Two-stage motion artifact reduction algorithm for rPPG signals obtained from facial video recordings
Pal et al. Improved heart rate detection using smart phone
Chaitanya et al. A simple and robust QRS detection algorithm for wireless medical body area network
EP3370422B1 (en) Image processing apparatus and pulse estimation system provided therewith, and image processing method
CN114929101A (zh) 根据光学数据进行生理测量的系统和方法
JP2023503174A (ja) 心拍数の推定方法、装置及びそれを応用する電子機器

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220525

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220525

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230404

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230703

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230711

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231010

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20240109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240501