JP6727469B1 - 情報処理装置、プログラム及び情報処理方法 - Google Patents
情報処理装置、プログラム及び情報処理方法 Download PDFInfo
- Publication number
- JP6727469B1 JP6727469B1 JP2020500925A JP2020500925A JP6727469B1 JP 6727469 B1 JP6727469 B1 JP 6727469B1 JP 2020500925 A JP2020500925 A JP 2020500925A JP 2020500925 A JP2020500925 A JP 2020500925A JP 6727469 B1 JP6727469 B1 JP 6727469B1
- Authority
- JP
- Japan
- Prior art keywords
- pulse wave
- phase matching
- degree
- region
- measurement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000010365 information processing Effects 0.000 title claims description 22
- 238000003672 processing method Methods 0.000 title claims description 8
- 238000005259 measurement Methods 0.000 claims abstract description 287
- 238000004364 calculation method Methods 0.000 claims abstract description 101
- 238000000605 extraction Methods 0.000 claims abstract description 24
- 238000001514 detection method Methods 0.000 claims abstract description 23
- 239000000284 extract Substances 0.000 claims abstract description 5
- 239000013598 vector Substances 0.000 description 43
- 238000000034 method Methods 0.000 description 24
- 238000003384 imaging method Methods 0.000 description 20
- 238000010586 diagram Methods 0.000 description 16
- 238000012545 processing Methods 0.000 description 10
- 210000001331 nose Anatomy 0.000 description 8
- 238000001228 spectrum Methods 0.000 description 6
- 210000001061 forehead Anatomy 0.000 description 4
- 210000000056 organ Anatomy 0.000 description 4
- 238000012360 testing method Methods 0.000 description 4
- 210000003467 cheek Anatomy 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 210000000624 ear auricle Anatomy 0.000 description 2
- 230000003203 everyday effect Effects 0.000 description 2
- 210000001508 eye Anatomy 0.000 description 2
- 230000001815 facial effect Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000005484 gravity Effects 0.000 description 2
- 210000000214 mouth Anatomy 0.000 description 2
- 230000010363 phase shift Effects 0.000 description 2
- 210000000467 autonomic pathway Anatomy 0.000 description 1
- 230000017531 blood circulation Effects 0.000 description 1
- 210000004204 blood vessel Anatomy 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 210000004709 eyebrow Anatomy 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 239000011888 foil Substances 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 230000036387 respiratory rate Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000035900 sweating Effects 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/024—Detecting, measuring or recording pulse rate or heart rate
- A61B5/02416—Detecting, measuring or recording pulse rate or heart rate using photoplethysmograph signals, e.g. generated by infrared radiation
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/021—Measuring pressure in heart or blood vessels
- A61B5/02108—Measuring pressure in heart or blood vessels from analysis of pulse wave characteristics
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0077—Devices for viewing the surface of the body, e.g. camera, magnifying lens
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/74—Details of notification to user or communication with user or patient ; user input means
- A61B5/7475—User input or interface means, e.g. keyboard, pointing device, joystick
- A61B5/748—Selection of a region of interest, e.g. using a graphics tablet
- A61B5/7485—Automatic selection of region of interest
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B2576/00—Medical imaging apparatus involving image processing or analysis
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/021—Measuring pressure in heart or blood vessels
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/024—Detecting, measuring or recording pulse rate or heart rate
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/11—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
- A61B5/1113—Local tracking of patients, e.g. in a hospital or private home
- A61B5/1114—Tracking parts of the body
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/18—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7235—Details of waveform analysis
- A61B5/7246—Details of waveform analysis using correlation, e.g. template matching or determination of similarity
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7235—Details of waveform analysis
- A61B5/7253—Details of waveform analysis characterised by using transforms
- A61B5/7257—Details of waveform analysis characterised by using transforms using Fourier transforms
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61N—ELECTROTHERAPY; MAGNETOTHERAPY; RADIATION THERAPY; ULTRASOUND THERAPY
- A61N5/00—Radiation therapy
- A61N5/06—Radiation therapy using light
- A61N2005/0635—Radiation therapy using light characterised by the body area to be irradiated
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61N—ELECTROTHERAPY; MAGNETOTHERAPY; RADIATION THERAPY; ULTRASOUND THERAPY
- A61N5/00—Radiation therapy
- A61N5/06—Radiation therapy using light
- A61N2005/0635—Radiation therapy using light characterised by the body area to be irradiated
- A61N2005/0636—Irradiating the whole body
- A61N2005/0637—Irradiating the whole body in a horizontal position
- A61N2005/0639—Irradiating the whole body in a horizontal position with additional sources directed at, e.g. the face or the feet
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/08—Feature extraction
- G06F2218/10—Feature extraction by analysing the shape of a waveform, e.g. extracting parameters relating to peaks
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Veterinary Medicine (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- Physics & Mathematics (AREA)
- Public Health (AREA)
- Pathology (AREA)
- Cardiology (AREA)
- Physiology (AREA)
- Child & Adolescent Psychology (AREA)
- Developmental Disabilities (AREA)
- Educational Technology (AREA)
- Hospice & Palliative Care (AREA)
- Psychiatry (AREA)
- Psychology (AREA)
- Social Psychology (AREA)
- Vascular Medicine (AREA)
- Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
Abstract
Description
図1は、実施の形態1に係る情報処理装置としての脈波推定装置100の構成を概略的に示すブロック図である。
脈波推定装置100は、実施の形態1に係る情報処理方法である脈波推定方法を実行することができる装置である。
図1に示されるように、脈波推定装置100は、肌領域検出部110と、計測領域設定部120と、脈波元信号抽出部130と、位相一致度算出部140と、脈波推定部150とを備える。
なお、画像データに含まれる人である被験者の数は、1人であっても複数人であってもよい。説明を簡単にするため、以下では、画像データに含まれる被験者の数は、1人であるものとして説明する。
肌領域検出部110は、撮像部としての後述する撮像装置から入力情報として与えられた画像データに含まれるフレームIm(k)から、被験者の肌を含む領域である肌領域を検出し、検出された肌領域を示す肌領域情報S(k)を生成する。生成された肌領域情報S(k)は、計測領域設定部120に与えられる。
また、矩形の中心座標は、フレームIm(k)の座標系で表現し、フレームIm(k)の左上を原点とし、フレームIm(k)の右向きをx軸の正方向、フレームIm(k)の下向きをy軸の正方向とする。
まず、計測領域設定部120は、肌領域情報S(k)で示されている肌領域srにおいて、図2(a)又は図2(b)に示されているような、顔器官(目尻、目頭、鼻及び口等)のランドマークをLn(正の整数)個検出し、各ランドマークの座標値を格納したベクトルをL(k)とする。図2(a)及び図2(b)では、ランドマークを丸で示している。
ここでは、肌領域srの頬に対応する部分に、計測領域ri(k)を設定する場合を説明する。
まず、計測領域設定部120は、顔の輪郭のランドマークA1と、鼻のランドマークA2とを選択する。例えば、計測領域設定部120は、まず、鼻のランドマークA2を選択し、その鼻のランドマークA2から最も近い顔の輪郭のランドマークA1を選択すればよい。
同様に、計測領域設定部120は、顔の輪郭のランドマークB1と、鼻のランドマークB2とを選択し、ランドマークB1とランドマークB2との間の線分を4等分するように補助ランドマークb1、b2、b3を設定する。なお、ランドマークB1は、例えば、ランドマークA1に隣接する鼻のランドマークから選択されればよい。ランドマークB2も、ランドマークA2に隣接する顔のランドマークから選択されればよい。
そして、計測領域設定部120は、各計測領域ri(k)の4つの頂点の座標を含む情報を計測領域情報R(k)として生成し、その計測領域情報R(k)を脈波元信号抽出部130に与える。
フィルタ処理では、脈波元信号wi(t)に対して、例えば、ローパスフィルタ、ハイパスフィルタ又はバンドパスフィルタを用いて、処理が施される。以下の説明では、バンドパスフィルタが施されたものとして説明する。
バンドパスフィルタとしては、例えば、バターワースフィルタ等を用いることができる。バンドパスフィルタのカットオフ周波数としては、例えば、低い方のカットオフ周波数は、0.5Hz、高い方のカットオフ周波数は5.0Hzが望ましい。
位相一致度算出部140は、複数のペアを選択した場合には、複数のペアにおいて算出された複数の一致度を、対応する基底成分毎に合算した複数の値を、複数の位相一致度として特定すればよい。
また、位相一致度算出部140は、一つのペアを選択した、その一つのペアで算出された複数の一致度を複数の位相一致度として特定すればよい。
以下では、位相一致度算出部140は、複数のペアを選択するものとして説明する。
位相一致度算出部140は、二領域間位相一致度算出部141と、位相一致度合算部142とを備える。
なお、このようなペアは、少なくとも1つ生成されればよく、複数のペアが生成されて、複数の二領域間位相一致度cuv(t)が算出されてもよい。二領域間位相一致度算出部141は、生成された二領域間位相一致度cuv(t)をまとめたものを二領域間位相一致度情報N(t)として位相一致度合算部142に与える。
基底成分の位相の一致度を算出するにあたっては、まず、二領域間位相一致度算出部141は、脈波元信号wi(t)を基底成分に分解する。以下では、基底成分として、周波数成分を使用した場合を例として説明する。なお、基底成分は、脈波元信号wi(t)を構成する信号成分のことであり、基底成分を任意の関数の引数として与えたときに脈波元信号を表現できるような信号成分のことである。
なお、この場合、位相差の絶対値が小さいほど位相の一致度が高く、位相差の絶対値が大きいほど位相の一致度は低くなる。周波数成分毎の位相の一致度を算出し、並べたものを二領域間位相一致度cuv(t)とする。
そして、二領域間位相一致度算出部141は、周波数成分毎の二領域間位相一致度cuv(t)をまとめることにより、二領域間位相一致度情報N(t)を生成する。
また、二領域間位相一致度算出部141が、脈波元信号wi(t)の算出に使用した複数の計測領域ri(k)の中から二つの計測領域ru(k)、rv(k)からなる一つのペアのみを選択する場合には、位相一致度合算部142を設ける必要はなく、位相一致度合算部142は、二領域間位相一致度情報N(t)を位相一致度情報C(t)として脈波推定部150に与えればよい。
図6に示されている動作は、撮像画像が入力される1フレーム毎に、すなわち1フレーム期間に一度行われる。
まず、肌領域検出部110は、後述する撮像装置から入力情報として与えられたフレームIm(k)から、被験者の肌領域を検出し、検出された肌領域を示す肌領域情報S(k)を生成する(S10)。生成された肌領域情報S(k)は、計測領域設定部120に与えられる。
図7に示されているように、被験者の顔の肌領域に、計測領域A及び計測領域Bが配置されているものとする。
図8(a)に示されている画像は、被験者の顔が撮像装置160の中心に位置している時の例である。このような位置を基準位置とする。
図8(b)に示されている画像は、被験者の顔が撮像装置160の中心よりも右側に位置している時の例である。このような位置を右位置とする。
図8(c)に示されている画像は、被験者の顔が撮像装置160の中心よりも左側に位置している時の例である。このような位置を左位置とする。
計測領域Bは、顔が右位置の場合は基準位置と比べて暗くなり、左位置の場合は基準位置と比べて明るくなる。
図9(c)は、被験者の顔が上記のように動いた場合の計測領域Bの顔の動き成分の輝度値平均の変化を示し、図9(d)は、被験者の顔が上記のように動いた場合の計測領域Bの顔の脈波成分の輝度値平均の変化を示している。
例えば、図9(a)及び(c)に示されているように、計測領域Aと計測領域Bとでは、明るくなるタイミングと暗くなるタイミングとが異なる、言い換えると、計測領域Aが明るいときに、計測領域Bは暗くなるため、輝度値変化を信号成分として見たときに、各周波数成分の位相が異なる。
すなわち、顔の動きによる輝度値変化と脈波による輝度値変化とについて、位相が異なるか、近い値となるかの違いがあるため、各計測領域における基底成分の位相の一致度を比較することで、顔の動きによる輝度値変化の成分と、脈波による輝度値変化の成分とを弁別することができる。
特に、位相の一致度が高い基底成分を脈波成分として選定することで、顔の動きの影響を抑制し、精度良く脈波を推定することができる。
図1に示されているように、実施の形態2に係る脈波推定装置200は、肌領域検出部110と、計測領域設定部120と、脈波元信号抽出部130と、位相一致度算出部240と、脈波推定部150とを備える。
実施の形態2に係る脈波推定装置200の、肌領域検出部110、計測領域設定部120、脈波元信号抽出部130、及び、脈波推定部150は、実施の形態1に係る脈波推定装置100の、肌領域検出部110、計測領域設定部120、脈波元信号抽出部130、及び、脈波推定部150と同様である。
なお、脈波推定装置200は、実施の形態2に係る情報処理方法である脈波推定方法を実行することができる装置である。
また、位相一致度算出部240は、複数のペアの各々に対応する二つの計測領域ru(k)、rv(k)の距離が長いほど、重みが重くなるように重み係数を設定することもできる。
位相一致度算出部240は、二領域間位相一致度算出部141と、位相一致度合算部242と、重み係数算出部243とを備える。
実施の形態2における位相一致度算出部240の二領域間位相一致度算出部141は、実施の形態1における位相一致度算出部140の二領域間位相一致度算出部141と同様である。但し、実施の形態2における二領域間位相一致度算出部141は、二領域間位相一致度情報N(t)を、位相一致度合算部242と、重み係数算出部243とに与える。
以下では、重み係数duv(t)を決定する方法として、二領域間位相一致度cuv(t)の最小値を用いる方法について説明する。
(1)
重みづけ加算は、下記の(2)式で示されるように行われる。
Σu, v (duv(t)×cuv(t)) (2)
図11は、実施の形態3に係る情報処理装置としての脈波推定装置300の構成を概略的に示すブロック図である。
脈波推定装置300は、実施の形態3に係る情報処理方法である脈波推定方法を実行することができる装置である。
図11に示されるように、脈波推定装置300は、肌領域検出部110と、計測領域設定部120と、脈波元信号抽出部130と、位相一致度算出部340と、脈波推定部150と、変動情報取得部370とを備える。
実施の形態3に係る脈波推定装置300の、肌領域検出部110、計測領域設定部120、脈波元信号抽出部130、及び、脈波推定部150は、実施の形態1に係る脈波推定装置100の、肌領域検出部110、計測領域設定部120、脈波元信号抽出部130、及び、脈波推定部150と同様である。
画像上の動きは、例えば、e(eは2以上の整数)番目のフレームIm(e)における計測領域ri(e)の画像上の位置と、e−1番目のフレームIm(e−1)における対応する計測領域ri(e−1)の画像上の位置との差を示した2次元ベクトルである。
形状の変化は、例えば、e番目のフレームIm(e)における計測領域ri(e)の4つの辺の合計の長さに対する各辺の長さの比(4辺あるため、4つの値となる)と、k−1番目のフレームIm(e−1)における対応する計測領域ri(e−1)の4つの辺の合計の長さに対する各辺の長さの比との差を示した4次元ベクトルである。
説明を簡便にするため、以下の説明では、要素情報mi(t)は各計測領域ri(k)の重心の動きを示した2次元ベクトルで構成されたTp分の時系列データとし、変動情報M(t)は、それらをまとめた情報であるものとする。
なお、要素情報mi(t)は、Tp分の時系列データである必要はなく、任意の数のデータで構成されていてもよい。
また、位相一致度算出部340は、変動情報M(t)に基づいて、複数のペアの各々に対応する二つの計測領域ru(k)、rv(k)のサイズの変化の仕方が近いほど、重みが重くなるように重み係数を設定することもできる。
さらに、位相一致度算出部340は、変動情報M(t)に基づいて、複数のペアの各々に対応する二つの計測領域ru(k)、rv(k)の形状の変化の仕方が近いほど、重みが重くなるように重み係数を設定することもできる。
位相一致度算出部340は、二領域間位相一致度算出部141と、位相一致度合算部242と、重み係数算出部343とを備える。
実施の形態3における位相一致度算出部340の二領域間位相一致度算出部141は、実施の形態1における位相一致度算出部140の二領域間位相一致度算出部141と同様である。但し、実施の形態3における二領域間位相一致度算出部141は、二領域間位相一致度情報N(t)を、位相一致度合算部242と、重み係数算出部343とに与える。
実施の形態3における位相一致度算出部340の位相一致度合算部242は、実施の形態2における位相一致度算出部240の位相一致度合算部242と同様である。但し、実施の形態3における位相一致度合算部242は、重み係数算出部343から重み情報D(t)を取得する。
図13は、被験者の顔、撮像装置160、及び、環境光の光源161の位置関係を示す概略図である。
図13に示されているように、被験者の顔の肌領域に、計測領域A、計測領域B及び計測領域Cが配置されているものとする。
図14(a)に示されている画像は、被験者の顔が撮像装置160の中心に位置している時の例である。このような位置を基準位置とする。
図14(b)に示されている画像は、被験者の顔が撮像装置160の中心よりも右側に位置している時の例である。このような位置を右位置とする。
図14(c)に示されている画像は、被験者の顔が撮像装置160の中心よりも左側に位置している時の例である。このような位置を左位置とする。
計測領域Bは、顔が右位置の場合は基準位置と比べて暗くなり、左位置の場合は基準位置と比べて明るくなる。
一方、計測領域A及び計測領域Cのように、画像における縦方向の位置関係にある計測領域では、輝度の変化の仕方が似ている。
すなわち、顔の移動方向と同じ方向の位置関係にある計測領域では輝度の変化の仕方が異なり、顔の移動方向と垂直方向の位置関係にある計測領域では輝度の変化の仕方が似ている。
図15(c)は、被験者の顔が上記のように動いた場合の計測領域Bの顔の動き成分の輝度値平均の変化を示し、図15(d)は、被験者の顔が上記のように動いた場合の計測領域Bの顔の脈波成分の輝度値平均の変化を示している。
図15(e)は、被験者の顔が上記のように動いた場合の計測領域Cの顔の動き成分の輝度値平均の変化を示し、図15(f)は、被験者の顔が上記のように動いた場合の計測領域Cの顔の脈波成分の輝度値平均の変化を示している。
一方、図15(a)及び図15(e)に示されているように、画像における縦方向の位置関係にある計測領域(計測領域Aと計測領域C)では、輝度値平均に含まれる顔の動き成分の位相は近くなる。
duv(t)=|puv(t)・Ms(t)| (3)
重み係数算出部343は、各二領域間位相一致度cuv(t)に対し算出した重み係数duv(t)をまとめたものを、重み情報D(t)として位相一致度合算部242に与える。
重み係数duv(t)=1−(二つの計測領域ru(k)、rv(k)の相関値)
(4)
重み係数duv(t)=1−(二つの計測領域ru(k)、rv(k)の平均相関値)
(5)
図1に示されているように、実施の形態4に係る脈波推定装置400は、肌領域検出部110と、計測領域設定部120と、脈波元信号抽出部130と、位相一致度算出部440と、脈波推定部150とを備える。
実施の形態4に係る脈波推定装置400の、肌領域検出部110、計測領域設定部120、脈波元信号抽出部130、及び、脈波推定部150は、実施の形態1に係る脈波推定装置100の、肌領域検出部110、計測領域設定部120、脈波元信号抽出部130、及び、脈波推定部150と同様である。
なお、脈波推定装置400は、実施の形態4に係る情報処理方法である脈波推定方法を実行することができる装置である。
実施の形態4における位相一致度算出部440の二領域間位相一致度算出部141は、実施の形態1における位相一致度算出部140の二領域間位相一致度算出部141と同様である。但し、実施の形態4における二領域間位相一致度算出部141は、二領域間位相一致度情報N(t)を、位相一致度合算部242と、重み係数算出部443とに与える。
(6)
脈波に相当する周波数成分の振幅は、フレームIm(t)における肌領域の明るさ(輝度値)、又は、被験者の肌のトーン、厚さ若しくは血流量に応じて変化する。その中でも、フレームIm(t)における肌領域の明るさの影響が大きく、肌領域の明るさに基づいて、脈波に相当する周波数成分の振幅を推測することができる。例えば、全計測領域の平均輝度値Iave(t)に基づいて決定される周波数成分の振幅に対する閾値θH(Iave(t))とθL(Iave(t))とを用いて、振幅が閾値θH以上かつ閾値θL以下の周波数成分のみを対象に、最も位相の一致度が高い周波数成分を特定する。
このように、振幅が所定の範囲内の周波数成分から脈拍数を推定することで、より高精度に脈拍数を推定することができる。
Claims (11)
- 予め定められた期間における映像を示す複数のフレームの各々から、人の肌を含む領域である肌領域を検出する肌領域検出部と、
前記肌領域に複数の計測領域を設定する計測領域設定部と、
前記複数の計測領域の各々から、前記予め定められた期間における輝度の変化を示す脈波元信号を抽出することで、前記複数の計測領域の各々に各々が対応する複数の前記脈波元信号を抽出する脈波元信号抽出部と、
前記複数の脈波元信号の各々を構成する複数の基底成分の各々の位相が、対応する基底成分同士において一致している程度を示す位相一致度を算出することで、前記複数の脈波元信号の各々に各々が対応する複数の前記位相一致度を算出する位相一致度算出部と、
前記複数の位相一致度の内、前記位相が一致している程度が最も高い位相一致度を特定し、前記特定された位相一致度に対応する基底成分に基づいて、前記人の脈波を推定する脈波推定部と、を備え、
前記位相一致度算出部は、前記複数の脈波元信号から第1の脈波元信号及び第2の脈波元信号として用いる複数のペアを選択し、前記複数のペアの各々において、前記第1の脈波元信号を構成する前記複数の基底成分の各々と、前記第2の脈波元信号を構成する前記複数の基底成分の各々との間で、対応する基底成分同士において前記位相が一致している程度を示す二領域間位相一致度を算出することで、前記複数の基底成分の各々に各々が対応する複数の前記二領域間位相一致度を算出し、前記複数のペアにおいて算出された前記複数の二領域間位相一致度、前記複数の脈波元信号における前記基底成分の大きさ、前記計測領域の配置、前記計測領域のサイズ、及び、前記計測領域の形状の少なくとも一つに基づいて、重み係数を設定し、前記複数のペアにおいて算出された前記複数の二領域間位相一致度を、前記重み係数を用いて重み付けをして、対応する基底成分毎に合算することで、前記複数の位相一致度を算出すること
を特徴とする情報処理装置。 - 前記位相一致度算出部は、前記複数のペアの各々から算出された前記複数の二領域間位相一致度に、前記第1の脈波元信号を構成する前記複数の基底成分の各々と、前記第2の脈波元信号を構成する前記複数の基底成分の各々との間で、対応する基底成分同士において前記位相が一致している程度の高いものが含まれているほど、重みが重くなるように前記重み係数を設定すること
を特徴とする請求項1に記載の情報処理装置。 - 前記位相一致度算出部は、前記複数のペアの各々に対応する二つの前記計測領域の距離が長いほど、重みが重くなるように前記重み係数を設定すること
を特徴とする請求項1に記載の情報処理装置。 - 前記位相一致度算出部は、前記複数のペアの各々に対応する二つの前記計測領域が配置されている方向が、前記人が動く方向に近いほど、重みが重くなるように前記重み係数を設定すること
を特徴とする請求項1に記載の情報処理装置。 - 前記位相一致度算出部は、前記複数のペアの各々に対応する二つの前記計測領域のサイズの変化の仕方が近いほど、重みが重くなるように前記重み係数を設定すること
を特徴とする請求項1に記載の情報処理装置。 - 前記位相一致度算出部は、前記複数のペアの各々に対応する二つの前記計測領域の形状の変化の仕方が近いほど、重みが重くなるように前記重み係数を設定すること
を特徴とする請求項1に記載の情報処理装置。 - 前記位相一致度算出部は、前記複数のペアの各々から算出された前記複数の二領域間位相一致度を用いて、前記複数のペアの各々に対応する二つの前記計測領域の各々の代表値を算出し、前記代表値が高いほど、重みが重くなるように前記重み係数を設定すること
を特徴とする請求項1に記載の情報処理装置。 - 前記基底成分は、前記脈波元信号の周波数成分であること
を特徴とする請求項1から7の何れか一項に記載の情報処理装置。 - 前記基底成分は、前記脈波元信号の周波数成分であり、
前記二領域間位相一致度は、前記第1の脈波元信号を構成する前記周波数成分と、前記第2の脈波元信号を構成する対応する前記周波数成分との位相差の絶対値であること
を特徴とする請求項1から7の何れか一項に記載の情報処理装置。 - コンピュータを、
予め定められた期間における映像を示す複数のフレームの各々から、人の肌を含む領域である肌領域を検出する肌領域検出部、
前記肌領域に複数の計測領域を設定する計測領域設定部、
前記複数の計測領域の各々から、前記予め定められた期間における輝度の変化を示す脈波元信号を抽出することで、前記複数の計測領域の各々に各々が対応する複数の前記脈波元信号を抽出する脈波元信号抽出部、
前記複数の脈波元信号の各々を構成する複数の基底成分の各々の位相が、対応する基底成分同士において一致している程度を示す位相一致度を算出することで、前記複数の脈波元信号の各々に各々が対応する複数の前記位相一致度を算出する位相一致度算出部、及び、
前記複数の位相一致度の内、前記位相が一致している程度が最も高い位相一致度を特定し、前記特定された位相一致度に対応する基底成分に基づいて、前記人の脈波を推定する脈波推定部、として機能させ、
前記位相一致度算出部は、前記複数の脈波元信号から第1の脈波元信号及び第2の脈波元信号として用いる複数のペアを選択し、前記複数のペアの各々において、前記第1の脈波元信号を構成する前記複数の基底成分の各々と、前記第2の脈波元信号を構成する前記複数の基底成分の各々との間で、対応する基底成分同士において前記位相が一致している程度を示す二領域間位相一致度を算出することで、前記複数の基底成分の各々に各々が対応する複数の前記二領域間位相一致度を算出し、前記複数のペアにおいて算出された前記複数の二領域間位相一致度、前記複数の脈波元信号における前記基底成分の大きさ、前記計測領域の配置、前記計測領域のサイズ、及び、前記計測領域の形状の少なくとも一つに基づいて、重み係数を設定し、前記複数のペアにおいて算出された前記複数の二領域間位相一致度を、前記重み係数を用いて重み付けをして、対応する基底成分毎に合算することで、前記複数の位相一致度を算出すること
を特徴とするプログラム。 - 肌領域検出部が、予め定められた期間における映像を示す複数のフレームの各々から、人の肌を含む領域である肌領域を検出し、
計測領域設定部が、前記肌領域に複数の計測領域を設定し、
脈波元信号抽出部が、前記複数の計測領域の各々から、前記予め定められた期間における輝度の変化を示す脈波元信号を抽出することで、前記複数の計測領域の各々に各々が対応する複数の前記脈波元信号を抽出し、
位相一致度算出部が、前記複数の脈波元信号の各々を構成する複数の基底成分の各々の位相が、対応する基底成分同士において一致している程度を示す位相一致度を算出することで、前記複数の脈波元信号の各々に各々が対応する複数の前記位相一致度を算出し、
脈波推定部が、前記複数の位相一致度の内、前記位相が一致している程度が最も高い位相一致度を特定し、前記特定された位相一致度に対応する基底成分に基づいて、前記人の脈波を推定し、
前記位相一致度算出部は、前記複数の脈波元信号から第1の脈波元信号及び第2の脈波元信号として用いる複数のペアを選択し、前記複数のペアの各々において、前記第1の脈波元信号を構成する前記複数の基底成分の各々と、前記第2の脈波元信号を構成する前記複数の基底成分の各々との間で、対応する基底成分同士において前記位相が一致している程度を示す二領域間位相一致度を算出することで、前記複数の基底成分の各々に各々が対応する複数の前記二領域間位相一致度を算出し、前記複数のペアにおいて算出された前記複数の二領域間位相一致度、前記複数の脈波元信号における前記基底成分の大きさ、前記計測領域の配置、前記計測領域のサイズ、及び、前記計測領域の形状の少なくとも一つに基づいて、重み係数を設定し、前記複数のペアにおいて算出された前記複数の二領域間位相一致度を、前記重み係数を用いて重み付けをして、対応する基底成分毎に合算することで、前記複数の位相一致度を算出すること
を特徴とする情報処理方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018168453 | 2018-09-10 | ||
JP2018168453 | 2018-09-10 | ||
PCT/JP2019/017339 WO2020054122A1 (ja) | 2018-09-10 | 2019-04-24 | 情報処理装置、プログラム及び情報処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6727469B1 true JP6727469B1 (ja) | 2020-07-22 |
JPWO2020054122A1 JPWO2020054122A1 (ja) | 2020-10-22 |
Family
ID=69778575
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020500925A Active JP6727469B1 (ja) | 2018-09-10 | 2019-04-24 | 情報処理装置、プログラム及び情報処理方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20210186346A1 (ja) |
JP (1) | JP6727469B1 (ja) |
CN (1) | CN112638244B (ja) |
DE (1) | DE112019004512T5 (ja) |
WO (1) | WO2020054122A1 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11471083B2 (en) * | 2017-10-24 | 2022-10-18 | Nuralogix Corporation | System and method for camera-based stress determination |
WO2020157972A1 (en) * | 2019-02-01 | 2020-08-06 | Nec Corporation | Estimation apparatus, method and program |
DE112021007389T5 (de) * | 2021-03-26 | 2024-01-04 | Mitsubishi Electric Corporation | Pulswellenerkennungsvorrichtung und Pulswellenerkennungsverfahren |
JP7542779B2 (ja) | 2022-05-06 | 2024-08-30 | 三菱電機株式会社 | 脈波推定装置及び脈波推定方法 |
WO2024116255A1 (ja) * | 2022-11-29 | 2024-06-06 | 三菱電機株式会社 | 脈波推定装置、脈波推定方法、状態推定システム、及び状態推定方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016006027A1 (ja) * | 2014-07-07 | 2016-01-14 | 富士通株式会社 | 脈波検出方法、脈波検出プログラム及び脈波検出装置 |
JP2016055129A (ja) * | 2014-09-12 | 2016-04-21 | 富士通株式会社 | 情報処理装置、脈波計測プログラムおよび脈波計測方法 |
JP2016140373A (ja) * | 2015-01-29 | 2016-08-08 | シャープ株式会社 | 脈波計測装置、および脈波計測方法 |
JP2017000625A (ja) * | 2015-06-15 | 2017-01-05 | フォスター電機株式会社 | 信号処理方法、生体信号処理方法、信号処理装置及び生体信号処理装置 |
WO2017085894A1 (ja) * | 2015-11-20 | 2017-05-26 | 富士通株式会社 | 脈波分析装置、脈波分析方法、および脈波分析プログラム |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5842539B2 (ja) * | 2011-10-28 | 2016-01-13 | オムロンヘルスケア株式会社 | 測定装置、測定装置の作動方法および測定プログラム |
WO2015045554A1 (ja) * | 2013-09-26 | 2015-04-02 | シャープ株式会社 | 生体情報取得装置および生体情報取得方法 |
JP6417697B2 (ja) * | 2014-04-08 | 2018-11-07 | 富士通株式会社 | 情報処理装置、脈波計測プログラムおよび脈波計測方法 |
US10993701B2 (en) * | 2015-09-16 | 2021-05-04 | Hitachi, Ltd. | Ultrasonic imaging device |
JP6495153B2 (ja) * | 2015-11-25 | 2019-04-03 | 日本電信電話株式会社 | 同一性判定システム及び同一性判定方法 |
JP6817782B2 (ja) * | 2016-10-31 | 2021-01-20 | 三星電子株式会社Samsung Electronics Co.,Ltd. | 脈拍検出装置及び脈拍検出方法 |
WO2019102535A1 (ja) * | 2017-11-22 | 2019-05-31 | 日本電気株式会社 | 脈波検出装置、脈波検出方法、及び記憶媒体 |
JP6878687B2 (ja) * | 2018-03-27 | 2021-06-02 | シャープ株式会社 | モデル設定装置、非接触式血圧測定装置、モデル設定方法、モデル設定プログラム、および記録媒体 |
-
2019
- 2019-04-24 JP JP2020500925A patent/JP6727469B1/ja active Active
- 2019-04-24 US US17/269,263 patent/US20210186346A1/en active Pending
- 2019-04-24 WO PCT/JP2019/017339 patent/WO2020054122A1/ja active Application Filing
- 2019-04-24 DE DE112019004512.1T patent/DE112019004512T5/de active Pending
- 2019-04-24 CN CN201980057449.2A patent/CN112638244B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016006027A1 (ja) * | 2014-07-07 | 2016-01-14 | 富士通株式会社 | 脈波検出方法、脈波検出プログラム及び脈波検出装置 |
JP2016055129A (ja) * | 2014-09-12 | 2016-04-21 | 富士通株式会社 | 情報処理装置、脈波計測プログラムおよび脈波計測方法 |
JP2016140373A (ja) * | 2015-01-29 | 2016-08-08 | シャープ株式会社 | 脈波計測装置、および脈波計測方法 |
JP2017000625A (ja) * | 2015-06-15 | 2017-01-05 | フォスター電機株式会社 | 信号処理方法、生体信号処理方法、信号処理装置及び生体信号処理装置 |
WO2017085894A1 (ja) * | 2015-11-20 | 2017-05-26 | 富士通株式会社 | 脈波分析装置、脈波分析方法、および脈波分析プログラム |
Also Published As
Publication number | Publication date |
---|---|
DE112019004512T5 (de) | 2021-06-24 |
US20210186346A1 (en) | 2021-06-24 |
CN112638244B (zh) | 2024-01-02 |
CN112638244A (zh) | 2021-04-09 |
WO2020054122A1 (ja) | 2020-03-19 |
JPWO2020054122A1 (ja) | 2020-10-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6727469B1 (ja) | 情報処理装置、プログラム及び情報処理方法 | |
KR101738278B1 (ko) | 영상을 이용한 감정 인식 방법 | |
JP6957929B2 (ja) | 脈波検出装置、脈波検出方法、及びプログラム | |
KR102285999B1 (ko) | 얼굴 색상과 떨림을 이용한 카메라 기반 심박 측정 방법 및 시스템 | |
JP6927322B2 (ja) | 脈波検出装置、脈波検出方法、及びプログラム | |
KR20170006071A (ko) | 동영상을 이용하여 혈압을 추정하는 방법 | |
WO2015121949A1 (ja) | 信号処理装置、信号処理方法及び信号処理プログラム | |
JP6098304B2 (ja) | 脈波検出装置、脈波検出方法及び脈波検出プログラム | |
CN111938622B (zh) | 心率检测方法、装置及系统、可读存储介质 | |
Dosso et al. | Eulerian magnification of multi-modal RGB-D video for heart rate estimation | |
WO2020158804A1 (ja) | 血圧測定装置、モデル設定装置、および血圧測定方法 | |
CN111970965B (zh) | 模型设定装置、非接触式血压测定装置、模型设定方法以及记录介质 | |
US20240138692A1 (en) | Method and system for heart rate extraction from rgb images | |
Kossack et al. | Local Remote Photoplethysmography Signal Analysis for Application in Presentation Attack Detection. | |
JP6201520B2 (ja) | 生理指標を用いる視線分析システムおよび方法 | |
He et al. | Remote photoplethysmography heart rate variability detection using signal to noise ratio bandpass filtering | |
Ahmedt-Aristizabal et al. | Motion signatures for the analysis of seizure evolution in epilepsy | |
Suriani et al. | Non-contact facial based vital sign estimation using convolutional neural network approach | |
Karmuse et al. | A robust rPPG approach for continuous heart rate measurement based on face | |
WO2017154477A1 (ja) | 脈拍推定装置、脈拍推定システムおよび脈拍推定方法 | |
Le et al. | Heart Rate Estimation Based on Facial Image Sequence | |
Yang et al. | Estimating two-dimensional blood flow velocities from videos | |
KR20200049683A (ko) | 깊이 카메라를 이용한 호흡량 측정 시스템 | |
JP2019058258A (ja) | 心身状態推定装置、心身状態推定方法およびプログラム | |
Malini | Non-Contact Heart Rate Monitoring System using Deep Learning Techniques |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200109 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200109 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20200109 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20200302 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200310 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200422 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200602 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200630 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6727469 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |