JP6665203B2 - ビデオシーケンスからのパルス信号の決定 - Google Patents
ビデオシーケンスからのパルス信号の決定 Download PDFInfo
- Publication number
- JP6665203B2 JP6665203B2 JP2017560151A JP2017560151A JP6665203B2 JP 6665203 B2 JP6665203 B2 JP 6665203B2 JP 2017560151 A JP2017560151 A JP 2017560151A JP 2017560151 A JP2017560151 A JP 2017560151A JP 6665203 B2 JP6665203 B2 JP 6665203B2
- Authority
- JP
- Japan
- Prior art keywords
- frame
- video
- image frames
- subset
- pixels
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 claims description 79
- 238000012935 Averaging Methods 0.000 claims description 16
- 238000005303 weighing Methods 0.000 claims description 4
- 230000008878 coupling Effects 0.000 claims 1
- 238000010168 coupling process Methods 0.000 claims 1
- 238000005859 coupling reaction Methods 0.000 claims 1
- 239000011159 matrix material Substances 0.000 description 34
- 238000012545 processing Methods 0.000 description 30
- 238000001514 detection method Methods 0.000 description 16
- 238000000513 principal component analysis Methods 0.000 description 12
- 230000000875 corresponding effect Effects 0.000 description 11
- 230000003595 spectral effect Effects 0.000 description 11
- 238000001228 spectrum Methods 0.000 description 11
- 238000003384 imaging method Methods 0.000 description 10
- 238000000354 decomposition reaction Methods 0.000 description 9
- 238000000605 extraction Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 8
- 238000005259 measurement Methods 0.000 description 8
- 230000033001 locomotion Effects 0.000 description 7
- 230000001766 physiological effect Effects 0.000 description 7
- 230000008901 benefit Effects 0.000 description 6
- 239000008280 blood Substances 0.000 description 6
- 210000004369 blood Anatomy 0.000 description 6
- 238000004422 calculation algorithm Methods 0.000 description 6
- 230000011218 segmentation Effects 0.000 description 6
- 239000000047 product Substances 0.000 description 5
- 238000011524 similarity measure Methods 0.000 description 5
- 238000004458 analytical method Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000004927 fusion Effects 0.000 description 4
- 238000012880 independent component analysis Methods 0.000 description 4
- 239000013598 vector Substances 0.000 description 4
- 241000282412 Homo Species 0.000 description 3
- 230000017531 blood circulation Effects 0.000 description 3
- 239000003086 colorant Substances 0.000 description 3
- 238000009499 grossing Methods 0.000 description 3
- 238000013186 photoplethysmography Methods 0.000 description 3
- 238000010183 spectrum analysis Methods 0.000 description 3
- 230000002123 temporal effect Effects 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 102000001554 Hemoglobins Human genes 0.000 description 1
- 108010054147 Hemoglobins Proteins 0.000 description 1
- BZLVMXJERCGZMT-UHFFFAOYSA-N Methyl tert-butyl ether Chemical compound COC(C)(C)C BZLVMXJERCGZMT-UHFFFAOYSA-N 0.000 description 1
- 206010034972 Photosensitivity reaction Diseases 0.000 description 1
- 241000270295 Serpentes Species 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 210000000748 cardiovascular system Anatomy 0.000 description 1
- 230000008602 contraction Effects 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 210000001061 forehead Anatomy 0.000 description 1
- 238000009532 heart rate measurement Methods 0.000 description 1
- 239000013067 intermediate product Substances 0.000 description 1
- 238000003064 k means clustering Methods 0.000 description 1
- 230000031700 light absorption Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000006213 oxygenation reaction Methods 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000010363 phase shift Effects 0.000 description 1
- 230000036211 photosensitivity Effects 0.000 description 1
- 230000000704 physical effect Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000001902 propagating effect Effects 0.000 description 1
- 230000000541 pulsatile effect Effects 0.000 description 1
- 230000010349 pulsation Effects 0.000 description 1
- 238000012958 reprocessing Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000000241 respiratory effect Effects 0.000 description 1
- 230000036387 respiratory rate Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000010187 selection method Methods 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000009885 systemic effect Effects 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0077—Devices for viewing the surface of the body, e.g. camera, magnifying lens
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/024—Detecting, measuring or recording pulse rate or heart rate
- A61B5/02416—Detecting, measuring or recording pulse rate or heart rate using photoplethysmograph signals, e.g. generated by infrared radiation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
- G06F18/2134—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on separation criteria, e.g. independent component analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
- G06T7/0014—Biomedical image inspection using an image reference approach
- G06T7/0016—Biomedical image inspection using an image reference approach involving temporal comparison
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/56—Extraction of image or video features relating to colour
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/762—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using clustering, e.g. of similar faces in social networks
- G06V10/763—Non-hierarchical techniques, e.g. based on statistics of modelling distributions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/7715—Feature extraction, e.g. by transforming the feature space, e.g. multi-dimensional scaling [MDS]; Mappings, e.g. subspace methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/12—Fingerprints or palmprints
- G06V40/1382—Detecting the live character of the finger, i.e. distinguishing from a fake or cadaver finger
- G06V40/1388—Detecting the live character of the finger, i.e. distinguishing from a fake or cadaver finger using image processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/15—Biometric patterns based on physiological signals, e.g. heartbeat, blood flow
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
- G06V40/162—Detection; Localisation; Normalisation using pixel segmentation or colour matching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20216—Image averaging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30076—Plethysmography
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/40—Spoof detection, e.g. liveness detection
- G06V40/45—Detection of the body part being alive
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Medical Informatics (AREA)
- Biophysics (AREA)
- Cardiology (AREA)
- Heart & Thoracic Surgery (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Human Computer Interaction (AREA)
- Animal Behavior & Ethology (AREA)
- Surgery (AREA)
- Molecular Biology (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Biomedical Technology (AREA)
- Pathology (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- Physiology (AREA)
- Databases & Information Systems (AREA)
- Computing Systems (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- General Engineering & Computer Science (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Probability & Statistics with Applications (AREA)
- Image Analysis (AREA)
- Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
Description
カメラによるパルス抽出
人間の心血管系では、全身を伝搬する血液パルスが、皮膚組織中の血液ボリュームを変化させる。血液中のヘモグロビンの光吸収は光スペクトルにわたって変動するので、皮膚の反射の色変動を検出することでパルスレートを明らかにすることができる。近年の遠隔フォトプレチスモグラフィ(rPPG)技術により、通常のRGBカメラを使用して、パルスによって引き起こされる人間の皮膚の色変動を検出することが可能になっている。パルスを発見するために時間的RGB信号を因数分解するためのブラインド信号源分離方法(例えば、PCAに基づくもの及びICAに基づくもの)が提案されている。クロミナンスに基づくrPPG方法も提案されており、これは、標準的な皮膚の色合いの想定下でRGBチャネルの線形の組み合わせとしてパルスを定義するものであり、これは、現実的な課題(例えば対象者の皮膚の色の違い)に対処するのに最も正確なrPPG方法の1つである。
人間のパルスはビデオシーケンス中でrPPGによって測定可能であることを考えると、したがって、パルス信号を使用して対象者の検出を支援することができ、すなわち、対象者の生体皮膚組織を特定することにより、生きている対象者を検出する。既存技術の一つは、局所的なパルス抽出のためにビデオを固定された厳正なグリッドに切り出す、パルス信号に基づく顔の検出方法を提案する。この方法は、高いスペクトルエネルギーを持つグリッドを見つけるための厳格な閾値を設定し、それらのグリッドを顔領域としてラベル付けする。この方法は、カメラから事前定義された距離に静止した顔を配置する必要があるビデオに制限される。本明細書に記載されるVPS法には、これらの制限の問題がない。別の既存技術では、rPPGの監視を強化するための顔に対する最適関心領域(RoI)選択方法が提案された。しかし、RoIは事前定義された顔上の標識点に制約され、これは対象者検出のための一般的な解決法ではなく、すなわち、ビデオ中で視認できる可能性のある他の身体部分(例えば手)を検出することはできない。対して、本明細書に記載されるVPS法は、そのような前提を行わず、拍動性の血液ボリュームを持つすべての身体部分を検出することができる。
対象者に関する(又はその内容全般に関する)一切の事前情報を持たずにビデオシーケンスが与えられた場合、まずビデオシーケンスを、パルスを独立して測定できる密な局所領域にセグメント分割する(これが図5の階層ボクセル段階54である)。ビデオシーケンスは固定された厳正なグリッドに切り出すことができるが、このことは、対象者のサイズがグリッドの幾何学的形状によって量子化されることを意味し、これは、対象者が小さいときや身体の動きがあるときには、困難を伴うか、又は失敗する。したがって、VPS法では、「階層ボクセル」と呼ばれる、パルス抽出のための優れたビデオセグメント分割方法を使用することが好ましい。階層ボクセルは、時空間的に一貫性のあるクラスタ(フレームセグメント)から構成され、複数のスケールにあり(スケールは、各画像フレーム20が分割されるクラスタ/セグメントの数を決定する)、時間領域で外観及び空間的な類似度を共有する画像フレーム20中のピクセルが共にグループ化される。以下のVPS法の説明では複数のスケールが好ましく、複数のスケールが使用されるが、VPS法で単一のスケールを使用することが可能である。
この節では、図5のパルス抽出段階56を説明する。階層中の各ボクセル(すなわちビデオサブシーケンス)は、並行したパルス抽出における独立したパルスセンサと見なされる。好ましい実施形態では、クロミナンスに基づく方法(CHROM)がパルスの測定に使用され、これについては、G.de Haan及びV.Jeanneによる「Robust pulse rate from chrominance−based rPPG」(TBME、60(1):2878−2886、2013)に記載される。ただし、当業者は、ボクセルのパルス信号を決定するために使用できる他の技術を把握されよう。例えば、上述のように、PCA又はICAに基づく技術を使用してボクセルからパルス信号を抽出することができ、又はG.de Haan及びA.van Leestによる「Improved motion robustness of remote−PPG by using the blood volume pulse signature」(Physiol.Meas.35 1913、2014)に記載される「PBV」法を使用してRGBトレースからパルスを抽出することができる。すべてのピクセルの空間的に平均されたRGBを使用して局所領域/クラスタ内のパルス信号を導出するCHROMと異なり、ボクセル中のピクセルのRGB値が、ボクセル境界までの各自の距離に基づいてそれらを重み付けすることによって組み合わせられ、すなわち、ボクセル境界に近いピクセルは、隣り合うボクセル間で時折生じるジッタリングアーチファクトのために信頼性がより低く、したがって重み付けを低くすべきである。ピクセルkからボクセル境界までの最も近いユークリッド距離がdkであると仮定すると、tにおけるi番目のスケールのj番目のボクセルの平均RGBは、
この節ではスペクトル分析段階58について説明する。この段階は、3つの下位段階である、類似度行列を形成すること、類似度行列に増分疎PCAを行うこと、及び階層的な融合を使用してビデオシーケンス中の生体皮膚組織のエリアを識別することからなる。
Claims (20)
- パルス信号を決定するための装置であって、前記装置は、
複数の画像フレームを含むビデオシーケンスを取得するカメラと、
プロセッサと、
前記カメラによって取得された前記ビデオシーケンスから複数のビデオサブシーケンスを形成するステップであって、各ビデオサブシーケンスは前記画像フレームのサブセット中の各画像フレームからのフレームセグメントを含み、各サブセットは複数の画像フレームを含み、各画像フレームは複数のフレームセグメントに分割され、各フレームセグメントは、画像フレーム中で隣り合っているピクセルのグループである、ステップと、
前記画像フレームの第1のサブセットからのフレームセグメントから形成された第1のビデオサブシーケンスについて、
前記第1のビデオサブシーケンス中の前記フレームセグメント中のピクセルのピクセル値を平均化することと、
前記フレームセグメント中の前記ピクセル値の平均を正規化することと
によって、第1の代表値を生成するステップと、
前記画像フレームの第2のサブセットからのフレームセグメントから形成された第2のビデオサブシーケンスについて、
前記第2のビデオサブシーケンス中の前記フレームセグメント中のピクセルのピクセル値を平均化することと、
前記フレームセグメント中の前記ピクセル値の平均を正規化することと
によって、第2の代表値を生成するステップと、
前記第1の代表値を、前記第2の代表値と比較するステップと、
前記第1の代表値と前記第2の代表値との前記比較に基づいて、前記第1のビデオサブシーケンスを、前記画像フレームの前記第2のサブセットからの前記フレームセグメントから形成された前記第2のビデオサブシーケンスと連結させるステップと、
連結された前記ビデオサブシーケンスからパルス信号を決定するステップとを含む方法を実行するために前記プロセッサによって実行できるコンピュータ可読コードを有するコンピュータ可読媒体とを含む、
装置。 - 前記方法は、前記画像フレームの複数の前記サブセットの各々からのビデオサブシーケンスを連結するために、前記比較及び前記連結を繰り返すステップをさらに含む、請求項1に記載の装置。
- 前記各画像フレームは、前記画像フレーム中のピクセルの色及び空間的な類似度に基づいて前記ピクセルを前記フレームセグメントにグループ化することにより、複数のフレームセグメントに分割される、請求項1に記載の装置。
- 前記複数のビデオサブシーケンスは、各ビデオサブシーケンスに対して、前記ビデオサブシーケンス中の前記フレームセグメントの色の差及び/又は前記フレームセグメントの位置の間の空間距離が最小化されるように、前記画像フレームの前記サブセット中の前記各画像フレームから前記フレームセグメントを選択することによって形成される、請求項1に記載の装置。
- 前記ピクセル値は、
前記各フレームセグメント中のピクセルの前記ピクセル値を重み付けし、前記ピクセル値は、前記フレームセグメント中でのピクセルの空間位置に基づいて、及び/又は前記フレームセグメントの中心若しくはその近くにあるピクセルとの色の差若しくは前記ピクセルのグループとの色の差に基づいて重み付けされることと、
前記フレームセグメント中の前記ピクセルの重み付けされた前記ピクセル値を平均することとにより、平均化される、
請求項1に記載の装置。 - 前記方法は、前記ビデオサブシーケンス中の前記フレームセグメント中のピクセルの前記ピクセル値の平均間の差を決定することによって、前記各ビデオサブシーケンスについての代表値を決定するステップをさらに含む、請求項1に記載の装置。
- ビデオシーケンスからパルス信号を決定する方法であって、前記方法は、
複数の画像フレームを含むビデオシーケンスを取得するステップと、
前記画像フレームのサブセット中に各画像フレームからのフレームセグメントを各々が含む複数のビデオサブシーケンスを形成するステップであって、各サブセットは複数の画像フレームを含み、各画像フレームは複数のフレームセグメントに分割され、各フレームセグメントは、画像フレーム中で隣り合っているピクセルのグループである、ステップと、
前記画像フレームの第1のサブセットからのフレームセグメントから形成された第1のビデオサブシーケンスについて、前記フレームセグメント中のピクセル値の平均を正規化することによって、前記第1のビデオサブシーケンスのフレームセグメントについての第1の代表値を生成するステップと、
前記画像フレームの第2のサブセットからのフレームセグメントから形成された第2のビデオサブシーケンスについて、前記フレームセグメント中のピクセル値の平均を正規化することによって、前記第2のビデオサブシーケンスのフレームセグメントについての第2の代表値を生成するステップと、
前記第1のビデオサブシーケンスについての前記第1の代表値を、前記第2のビデオサブシーケンスについての前記第2の代表値と比較するステップと、
代表値の前記比較に基づいて、前記第1のビデオサブシーケンスを、前記画像フレームの前記第2のサブセットからの前記フレームセグメントから形成された前記第2のビデオサブシーケンスと連結するステップと、
連結された前記ビデオサブシーケンスからパルス信号を決定するステップとを有する、
方法。 - 前記画像フレームの複数の前記サブセットの各々からのビデオサブシーケンスを連結するために前記比較するステップ及び前記連結するステップを繰り返すステップをさらに有する、請求項7に記載の方法。
- 前記各画像フレームは、ピクセルの色及び空間的な類似度に基づいて前記ピクセルを前記フレームセグメントにグループ化することにより、複数の前記フレームセグメントに分割される、請求項8に記載の方法。
- 前記複数のビデオサブシーケンスを形成するステップは、各ビデオサブシーケンスに対して、前記ビデオサブシーケンス中の前記フレームセグメントの色の差及び/又は前記フレームセグメントの位置の間の空間距離が最小化されるように、前記画像フレームの前記サブセット中の前記各画像フレームから前記フレームセグメントを選択するステップを有する、請求項8に記載の方法。
- 前記ビデオサブシーケンス中の前記フレームセグメント中のピクセルの前記ピクセル値を平均化するステップにより、前記各ビデオサブシーケンスについての代表値を決定するステップをさらに有する、請求項10に記載の方法。
- 前記ピクセル値を平均化するステップは
各フレームセグメント中のピクセルの前記ピクセル値を重み付けするステップであって、前記ピクセル値は、前記フレームセグメント中でのピクセルの空間位置に基づいて、及び/又は前記フレームセグメントの中心若しくはその近くにあるピクセルとの色の差若しくは前記ピクセルのグループとの色の差に基づいて重み付けされる、ステップと、
前記フレームセグメント中の前記ピクセルの重み付けされた前記ピクセル値を平均するステップとを有する、
請求項11に記載の方法。 - コンピュータ可読コードが内部に具現化された非一時的コンピュータ可読媒体であって、前記コンピュータ可読コードは、適切なコンピュータ又はプロセッサによって実行されると、前記コンピュータ又は前記プロセッサに
複数の画像フレームを含むビデオシーケンスを取得するステップと、
複数のビデオサブシーケンスを形成するステップであって、各ビデオサブシーケンスは前記画像フレームのサブセット中の各画像フレームからのフレームセグメントを含み、各サブセットは複数の画像フレームを含み、各画像フレームは複数のフレームセグメントに分割され、各フレームセグメントは、画像フレーム中で隣り合っているピクセルのグループである、ステップと、
前記画像フレームの第1のサブセットからのフレームセグメントから形成された第1のビデオサブシーケンスについて、前記フレームセグメント中のピクセル値の平均を正規化することによって、前記第1のビデオサブシーケンスのフレームセグメントについての第1の代表値を生成するステップと、
前記画像フレームの第2のサブセットからのフレームセグメントから形成された第2のビデオサブシーケンスについて、前記フレームセグメント中のピクセル値の平均を正規化することによって、前記第2のビデオサブシーケンスのフレームセグメントについての第2の代表値を生成するステップと、
前記第1の代表値を、前記第2の代表値と比較するステップと、
代表値の前記比較に基づいて、前記第1のビデオサブシーケンスを、前記画像フレームの前記第2のサブセットからの前記フレームセグメントから形成された前記第2のビデオサブシーケンスと連結するステップと、
連結された前記ビデオサブシーケンスからパルス信号を決定するステップとを有する方法を行わせる、
非一時的コンピュータ可読媒体。 - 前記方法は、前記画像フレームの複数の前記サブセットの各々からのビデオサブシーケンスを連結するために前記比較するステップ及び前記連結するステップを繰り返すステップをさらに有する、請求項13に記載の非一時的コンピュータ可読媒体。
- 前記各画像フレームは、ピクセルの色及び空間的な類似度に基づいて前記ピクセルを前記フレームセグメントにグループ化することにより、複数の前記フレームセグメントに分割される、請求項14に記載の非一時的コンピュータ可読媒体。
- 前記複数のビデオサブシーケンスを形成するステップは、各ビデオサブシーケンスに対して、前記ビデオサブシーケンス中の前記フレームセグメントの色の差及び/又は前記フレームセグメントの位置の間の空間距離が最小化されるように、前記画像フレームの前記サブセット中の前記各画像フレームから前記フレームセグメントを選択するステップを有する、請求項14に記載の非一時的コンピュータ可読媒体。
- 前記方法は、前記ビデオサブシーケンス中の前記フレームセグメント中のピクセルの前記ピクセル値を平均化するステップにより、前記各ビデオサブシーケンスについての代表値を決定するステップをさらに有する、請求項16に記載の非一時的コンピュータ可読媒体。
- 前記ピクセル値を平均化するステップは
各フレームセグメント中のピクセルの前記ピクセル値を重み付けするステップであって、前記ピクセル値は、前記フレームセグメント中でのピクセルの空間位置に基づいて、及び/又は前記フレームセグメントの中心若しくはその近くにあるピクセルとの色の差若しくは前記ピクセルのグループとの色の差に基づいて重み付けされる、ステップと、
前記フレームセグメント中の前記ピクセルの重み付けされた前記ピクセル値を平均するステップとを有する、
請求項17に記載の非一時的コンピュータ可読媒体。 - 前記第1のビデオサブシーケンスの前記フレームセグメントについての前記第1の代表値を生成するステップは、前記フレームセグメント中のピクセル値の前記平均を、前記第1のビデオサブシーケンス中のすべてのフレームセグメント中のすべてのピクセルのピクセル値の平均又は重み付き平均で割ることによって、前記フレームセグメント中の前記ピクセル値の前記平均を正規化するステップを有し、
前記第2のビデオサブシーケンスの前記フレームセグメントについての前記第2の代表値を生成するステップは、前記フレームセグメント中のピクセル値の前記平均を、前記第2のビデオサブシーケンス中のすべてのフレームセグメント中のすべてのピクセルのピクセル値の平均又は重み付き平均で割ることによって、前記フレームセグメント中の前記ピクセル値の前記平均を正規化するステップを有する、
請求項13に記載の非一時的コンピュータ可読媒体。 - 前記第1のビデオサブシーケンスの前記フレームセグメントについての前記第1の代表値を生成するステップは、前記フレームセグメント中のピクセル値の前記平均を、前記第1のビデオサブシーケンスがそれから形成されている画像フレームの前記第1のサブセット中のすべての画像フレーム中のすべてのピクセルのピクセル値の平均又は重み付き平均で割ることによって、前記フレームセグメント中の前記ピクセル値の前記平均を正規化するステップを有し、
前記第2のビデオサブシーケンスの前記フレームセグメントについての前記第2の代表値を生成するステップは、前記フレームセグメント中のピクセル値の前記平均を、前記第2のビデオサブシーケンスがそれから形成されている画像フレームの前記第2のサブセット中のすべての画像フレーム中のすべてのピクセルのピクセル値の平均又は重み付き平均で割ることによって、前記フレームセグメント中の前記ピクセル値の前記平均を正規化するステップを有する、
請求項13に記載の非一時的コンピュータ可読媒体。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP15168575.7 | 2015-05-21 | ||
EP15168575 | 2015-05-21 | ||
PCT/EP2016/060250 WO2016184705A1 (en) | 2015-05-21 | 2016-05-09 | Determining a pulse signal from a video sequence |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2018520418A JP2018520418A (ja) | 2018-07-26 |
JP2018520418A5 JP2018520418A5 (ja) | 2019-04-11 |
JP6665203B2 true JP6665203B2 (ja) | 2020-03-13 |
Family
ID=53268656
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017560151A Expired - Fee Related JP6665203B2 (ja) | 2015-05-21 | 2016-05-09 | ビデオシーケンスからのパルス信号の決定 |
Country Status (5)
Country | Link |
---|---|
US (1) | US10290104B2 (ja) |
EP (1) | EP3298536A1 (ja) |
JP (1) | JP6665203B2 (ja) |
CN (1) | CN107666853A (ja) |
WO (1) | WO2016184705A1 (ja) |
Families Citing this family (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10242441B2 (en) * | 2015-05-21 | 2019-03-26 | Koninklijke Philips N.V. | Identifying living skin tissue in a video sequence using color and spatial similarities |
CN107635457B (zh) * | 2015-05-21 | 2021-05-25 | 皇家飞利浦有限公司 | 识别视频序列中的活的皮肤组织 |
WO2016184705A1 (en) * | 2015-05-21 | 2016-11-24 | Koninklijke Philips N.V. | Determining a pulse signal from a video sequence |
US11328152B2 (en) | 2019-06-17 | 2022-05-10 | Pixart Imaging Inc. | Recognition system employing thermal sensor |
US10335045B2 (en) | 2016-06-24 | 2019-07-02 | Universita Degli Studi Di Trento | Self-adaptive matrix completion for heart rate estimation from face videos under realistic conditions |
US10709354B2 (en) * | 2016-09-06 | 2020-07-14 | Photorithm, Inc. | Generating a breathing alert |
US11389119B2 (en) * | 2016-09-06 | 2022-07-19 | Photorithm, Inc. | Generating a breathing alert |
CN108073933B (zh) * | 2016-11-08 | 2021-05-25 | 杭州海康威视数字技术股份有限公司 | 一种目标检测方法及装置 |
JP6767247B2 (ja) * | 2016-11-29 | 2020-10-14 | 株式会社日立製作所 | 生体情報検出装置及び生体情報検出方法 |
BR112019017575A2 (pt) * | 2017-02-27 | 2020-03-24 | Koninklijke Philips N.V. | Dispositivo de imageamento de vasculatura e mídia de armazenamento não transitório |
EP3440991A1 (en) * | 2017-08-08 | 2019-02-13 | Koninklijke Philips N.V. | Device, system and method for determining a physiological parameter of a subject |
DE102017118636B3 (de) | 2017-08-15 | 2018-12-06 | Technische Universität Chemnitz | Verfahren zur kontaktlosen Bestimmung der Herzfrequenz einer Person |
US11311202B2 (en) | 2017-11-14 | 2022-04-26 | Arizona Board Of Regents On Behalf Of Arizona State University | Robust real-time heart rate monitoring method based on heartbeat harmonics using small-scale radar |
WO2019157256A1 (en) * | 2018-02-08 | 2019-08-15 | Tsouri Gill R | Opportunistic plethysmography using video cameras |
CN110236509A (zh) * | 2018-03-07 | 2019-09-17 | 台北科技大学 | 于视频中实时分析生理特征的方法 |
TWI712909B (zh) * | 2018-04-17 | 2020-12-11 | 和碩聯合科技股份有限公司 | 輔助臉部辨識的防僞方法及系統 |
US11259710B2 (en) * | 2018-05-16 | 2022-03-01 | Mitsubishi Electric Research Laboratories, Inc. | System and method for remote measurements of vital signs |
ES2901638T3 (es) * | 2018-05-17 | 2022-03-23 | Fraunhofer Ges Forschung | Dispositivo y método para detectar concordancias parciales entre una primera señal variable en el tiempo y una segunda señal variable en el tiempo |
CN111374646B (zh) * | 2018-12-28 | 2021-08-03 | 清华大学 | 一种基于智能手机的非硬件依赖型脉象信息采集系统和方法 |
US11783483B2 (en) | 2019-03-19 | 2023-10-10 | Arizona Board Of Regents On Behalf Of Arizona State University | Detecting abnormalities in vital signs of subjects of videos |
US11771380B2 (en) | 2019-03-19 | 2023-10-03 | Arizona Board Of Regents On Behalf Of Arizona State University | Vital sign monitoring system using an optical sensor |
US11103144B2 (en) | 2019-11-21 | 2021-08-31 | Gb Soft Inc. | Method of measuring physiological parameter of subject in contactless manner |
WO2021100994A1 (ko) * | 2019-11-21 | 2021-05-27 | 주식회사 지비소프트 | 비접촉식 생체 지수 측정 방법 |
KR102273903B1 (ko) * | 2019-11-21 | 2021-07-06 | 주식회사 지비소프트 | 비접촉식 생체 지수 측정 방법 |
US11356679B2 (en) * | 2019-12-05 | 2022-06-07 | Alibaba Group Holding Limited | Method and apparatus for chroma sampling |
EP3989106B1 (en) * | 2020-10-26 | 2024-05-15 | Robert Bosch GmbH | Unsupervised training of a video feature extractor |
KR102601683B1 (ko) * | 2021-02-25 | 2023-11-13 | 주식회사 지비소프트 | 생체 지수 측정 방법 |
CN113420612B (zh) * | 2021-06-02 | 2022-03-18 | 深圳中集智能科技有限公司 | 基于机器视觉的生产节拍计算方法 |
EP4098183A1 (en) | 2021-06-02 | 2022-12-07 | Koninklijke Philips N.V. | Blood pressure detection |
CN113378798B (zh) * | 2021-07-16 | 2023-06-23 | 福建师范大学 | 基于视频微运动放大的脉搏视频脉搏提取方法及系统 |
CN116311175A (zh) * | 2021-12-10 | 2023-06-23 | 上海商汤临港智能科技有限公司 | 一种生理状态检测方法、装置、电子设备及存储介质 |
CN117643461B (zh) * | 2024-01-30 | 2024-04-02 | 吉林大学 | 基于人工智能的心率智能监测系统及方法 |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5051472B2 (ja) * | 2006-11-06 | 2012-10-17 | 国立大学法人徳島大学 | 脳画像診断支援方法、プログラムおよび記録媒体 |
US8311277B2 (en) * | 2007-02-01 | 2012-11-13 | Yissum Research Development Company Of The Hebrew University Of Jerusalem | Method and system for video indexing and video synopsis |
US8494608B2 (en) * | 2008-04-18 | 2013-07-23 | Medtronic, Inc. | Method and apparatus for mapping a structure |
WO2011042858A1 (en) * | 2009-10-06 | 2011-04-14 | Koninklijke Philips Electronics N.V. | Method and system for processing a signal including at least a component representative of a periodic phenomenon in a living being |
WO2011042839A1 (en) * | 2009-10-06 | 2011-04-14 | Koninklijke Philips Electronics N.V. | Method and system for obtaining a first signal for analysis to characterize at least one periodic component thereof |
CN101695136B (zh) * | 2009-10-22 | 2011-07-20 | 北京交通大学 | 一种自动式视频颜色协调处理方法和处理系统 |
JP5195741B2 (ja) * | 2009-12-25 | 2013-05-15 | 株式会社デンソー | 生体活動計測装置 |
KR101642897B1 (ko) * | 2011-07-13 | 2016-07-26 | 주식회사 고영테크놀러지 | 검사방법 |
US8838209B2 (en) * | 2012-02-21 | 2014-09-16 | Xerox Corporation | Deriving arterial pulse transit time from a source video image |
US8768438B2 (en) * | 2012-06-25 | 2014-07-01 | Xerox Corporation | Determining cardiac arrhythmia from a video of a subject being monitored for cardiac function |
US9412024B2 (en) * | 2013-09-13 | 2016-08-09 | Interra Systems, Inc. | Visual descriptors based video quality assessment using outlier model |
US9336594B2 (en) * | 2014-03-07 | 2016-05-10 | Xerox Corporation | Cardiac pulse rate estimation from source video data |
CN107635457B (zh) * | 2015-05-21 | 2021-05-25 | 皇家飞利浦有限公司 | 识别视频序列中的活的皮肤组织 |
WO2016184705A1 (en) * | 2015-05-21 | 2016-11-24 | Koninklijke Philips N.V. | Determining a pulse signal from a video sequence |
US10242441B2 (en) * | 2015-05-21 | 2019-03-26 | Koninklijke Philips N.V. | Identifying living skin tissue in a video sequence using color and spatial similarities |
-
2016
- 2016-05-09 WO PCT/EP2016/060250 patent/WO2016184705A1/en unknown
- 2016-05-09 JP JP2017560151A patent/JP6665203B2/ja not_active Expired - Fee Related
- 2016-05-09 EP EP16723310.5A patent/EP3298536A1/en not_active Withdrawn
- 2016-05-09 CN CN201680029350.8A patent/CN107666853A/zh active Pending
- 2016-05-20 US US15/159,932 patent/US10290104B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2018520418A (ja) | 2018-07-26 |
EP3298536A1 (en) | 2018-03-28 |
CN107666853A (zh) | 2018-02-06 |
US10290104B2 (en) | 2019-05-14 |
US20160343135A1 (en) | 2016-11-24 |
WO2016184705A1 (en) | 2016-11-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6665203B2 (ja) | ビデオシーケンスからのパルス信号の決定 | |
JP6343107B1 (ja) | ビデオ・シーケンスにおける生体皮膚組織の識別 | |
JP6549734B2 (ja) | ビデオ・シーケンスにおける生体皮膚組織の識別 | |
EP3057487B1 (en) | Device and method for obtaining a vital sign of a subject | |
Wang et al. | Unsupervised subject detection via remote PPG | |
JP6521845B2 (ja) | 心拍に連動する周期的変動の計測装置及び計測方法 | |
EP3440991A1 (en) | Device, system and method for determining a physiological parameter of a subject | |
Tran et al. | A robust real time system for remote heart rate measurement via camera | |
Macwan et al. | Periodic variance maximization using generalized eigenvalue decomposition applied to remote photoplethysmography estimation | |
Botina-Monsalve et al. | Rtrppg: An ultra light 3dcnn for real-time remote photoplethysmography | |
Speth et al. | Unifying frame rate and temporal dilations for improved remote pulse detection | |
Demirezen et al. | Heart rate estimation from facial videos using nonlinear mode decomposition and improved consistency check | |
Lampier et al. | A deep learning approach to estimate pulse rate by remote photoplethysmography | |
Wang et al. | TransPhys: Transformer-based unsupervised contrastive learning for remote heart rate measurement | |
Sun et al. | Contrast-phys+: Unsupervised and weakly-supervised video-based remote physiological measurement via spatiotemporal contrast | |
Slapnicar et al. | Contact-free monitoring of physiological parameters in people with profound intellectual and multiple disabilities | |
WO2023055862A1 (en) | Systems and methods for platform-agnostic, real-time physiologic vital sign detection from video stream data | |
Li | A temporal encoder-decoder approach to extracting blood volume pulse signal morphology from face videos | |
Jian et al. | Remote Heart Rate Estimation Based on ROI Extraction | |
Gupta et al. | Heart-Rate Evaluation Using Remote Photoplethysmography–A Case Study | |
Raseena et al. | A Maximum Likelihood Formulation to Exploit Heart Rate Variability for Robust Heart Rate Estimation From Facial Video | |
Tu et al. | Standardized rPPG signal generation based on generative adversarial networks |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190228 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190228 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20190228 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190711 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20190806 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190819 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200121 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200219 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6665203 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |