KR102132959B1 - 사용자의 신원 파악이 가능한 심박동수 모니터링 방법 및 시스템 - Google Patents
사용자의 신원 파악이 가능한 심박동수 모니터링 방법 및 시스템 Download PDFInfo
- Publication number
- KR102132959B1 KR102132959B1 KR1020180074958A KR20180074958A KR102132959B1 KR 102132959 B1 KR102132959 B1 KR 102132959B1 KR 1020180074958 A KR1020180074958 A KR 1020180074958A KR 20180074958 A KR20180074958 A KR 20180074958A KR 102132959 B1 KR102132959 B1 KR 102132959B1
- Authority
- KR
- South Korea
- Prior art keywords
- heart rate
- user
- identity
- face
- rate monitoring
- Prior art date
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/024—Detecting, measuring or recording pulse rate or heart rate
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0077—Devices for viewing the surface of the body, e.g. camera, magnifying lens
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7271—Specific aspects of physiological measurement analysis
- A61B5/7275—Determining trends in physiological measurement data; Predicting development of a medical condition based on physiological measurements, e.g. determining a risk factor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/30—Authentication, i.e. establishing the identity or authorisation of security principals
- G06F21/31—User authentication
- G06F21/32—User authentication using biometric data, e.g. fingerprints, iris scans or voiceprints
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Pathology (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Veterinary Medicine (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- Public Health (AREA)
- Cardiology (AREA)
- Computer Security & Cryptography (AREA)
- Physiology (AREA)
- Theoretical Computer Science (AREA)
- Artificial Intelligence (AREA)
- Signal Processing (AREA)
- Psychiatry (AREA)
- Computer Hardware Design (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
Abstract
본 발명은 사용자의 신원 파악이 가능한 심박동수 모니터링 방법에 관한 것으로서, 보다 구체적으로는 심박동수 모니터링 방법으로서, (1) 카메라를 통하여 수집한 이미지 시퀀스에서 사용자의 안면을 인지하는 단계; (2) 상기 단계 (1)에서 인지된 안면을 서버의 데이터베이스와 비교하여 상기 사용자의 신원을 인증하는 단계; (3) 상기 단계 (1)에서 인지된 안면 데이터로부터, 안면의 특징점을 기반으로, 심박동수 측정을 위한 좌표를 생성하는 단계; 및 (4) 상기 단계 (3)에서 생성된 좌표를 추적하여, 상기 사용자의 심박동수를 측정하는 단계를 포함하는 것을 그 구성상의 특징으로 한다.
또한, 본 발명은 사용자의 신원 파악이 가능한 심박동수 모니터링 시스템에 관한 것으로서, 보다 구체적으로는 심박동수 모니터링 시스템으로서, 카메라를 통하여 수집한 이미지 시퀀스에서 사용자의 안면을 인지하는 안면 인지부; 상기 안면 인지부에서 인지된 안면을 서버의 데이터베이스와 비교하여 상기 사용자의 신원을 인증하는 신원 인증부; 상기 안면 인지부서 인지된 안면 데이터로부터, 안면의 특징점을 기반으로, 심박동수 측정을 위한 좌표를 생성하는 좌표 생성부; 및 상기 좌표 생성부에서 생성된 좌표를 추적하여, 상기 사용자의 심박동수를 측정하는 심박동수 측정부를 포함하는 것을 그 구성상의 특징으로 한다.
본 발명에서 제안하고 있는 사용자의 신원 파악이 가능한 심박동수 모니터링 방법 및 시스템에 따르면, 사용자의 신원을 파악할 수 있도록 하며, 카메라를 통하여 심박동수를 측정함으로써, 보다 쉽고 간편하게 사용자의 심박동수를 수집하고 처리할 수 있도록 한다.
또한, 본 발명은 사용자의 신원 파악이 가능한 심박동수 모니터링 시스템에 관한 것으로서, 보다 구체적으로는 심박동수 모니터링 시스템으로서, 카메라를 통하여 수집한 이미지 시퀀스에서 사용자의 안면을 인지하는 안면 인지부; 상기 안면 인지부에서 인지된 안면을 서버의 데이터베이스와 비교하여 상기 사용자의 신원을 인증하는 신원 인증부; 상기 안면 인지부서 인지된 안면 데이터로부터, 안면의 특징점을 기반으로, 심박동수 측정을 위한 좌표를 생성하는 좌표 생성부; 및 상기 좌표 생성부에서 생성된 좌표를 추적하여, 상기 사용자의 심박동수를 측정하는 심박동수 측정부를 포함하는 것을 그 구성상의 특징으로 한다.
본 발명에서 제안하고 있는 사용자의 신원 파악이 가능한 심박동수 모니터링 방법 및 시스템에 따르면, 사용자의 신원을 파악할 수 있도록 하며, 카메라를 통하여 심박동수를 측정함으로써, 보다 쉽고 간편하게 사용자의 심박동수를 수집하고 처리할 수 있도록 한다.
Description
본 발명은 심박동수 모니터링 방법 및 시스템에 관한 것으로서, 특히 사용자의 신원 파악이 가능한 실시간 심박동수 모니터링 방법 및 시스템에 관한 것이다.
환자 모니터링 시스템은, 환자의 건강 상태에 대한 연속적이고 집중적인 모니터링을 위한 시스템으로서, 이를 위해 환자 감시 모니터(bedside monitor)가 주요한 의료 장비로 활용되고 있다. 환자 모니터링 시스템은 환자의 감시에 수반되는 인력과 노력 및 부담의 절감이라는 효과를 가지며, 신속한 환자 상태 파악을 통해 의료진의 적절한 대처를 가능하게 한다. 환자 감시 모니터링 시스템의 기본적인 기능은 환자에 부착된 각종 센서들로부터 환자의 생체 신호들을 수집하고 처리하여 분석하는 기능을 한다.
도 1은 기존의 환자 모니터링 시스템을 도시한 도면이다. 도 1에 도시된 바와 같이 일반적으로 환자 모니터링 시스템의 경우 병원 내 입원한 환자들을 대상으로 한다. 이러한 모니터링 시스템의 경우, 퇴원한 환자를 위한 건강관리나 병원을 방문한 적 없는 일반인을 위한 시스템으로는 부적합하다.
현재의 의료시스템은 질병의 치료보다는 예방에 중점을 두고 있으며, 질병 예방을 위해서는 환자의 정확한 생체데이터 측정과 그 생체데이터를 기반으로 한 신속한 케어가 필요하다. 이러한 의료 시스템의 변화에 따라, 환자의 정확한 생체데이터 측정을 위하여, 의료기기들이 점점 소형화와 간소화 되고 있으며, 착용형 기기나 체내 삽입형 기기들이 많이 개발되고 있다.
도 2는 소형화와 간소화된 착용형 생체신호 모니터링 시스템을 도시한 도면이다. 도 2에 도시된 바와 같이, 소형화 간소화된 모니터링 기기들은 환자가 병원을 방문 하지 않아도 쉽게 환자의 데이터를 측정할 수 있는 장점을 가지며 거의 24시간 동안 데이터를 측정할 수 있는 장점을 가지고 있다. 하지만 현재 개발되고 있는 착용형 기기나 체내 삽입형 기기 또한 보완해야 할 점이 있다.
착용형 생체신호 모니터링 기기의 경우 간소화 되고 소형화 되었다고는 하지만 착용한 상태에서 일상생활을 하는 것에 아직 어려움이 있으며, 또한 기기를 착용하여 측정한 데이터의 신원을 정확히 파악하기 어려운 단점을 가지고 있다. 체내 삽입형 기기의 경우, 신체 내부에 삽입을 하여야 하는 만큼 소재선택에 어려움이 있으며 인체와의 적합성을 고려하여야 하는 문제점이 있다. 또한 배터리 문제로 인하여 주기적으로 교체해주어야 하는 번거로움이 있다.
이러한 문제점들로 인하여 요즘은 신체에 부착하거나 삽입하는 것보다 환자가 편히 느낄 수 있도록 아무런 조작 없이 생체 신호를 측정하는 방법에 대해서 연구가 진행 되고 있다. 대표적인 예로 스마트폰 카메라를 이용한 심박동수 측정이나 산소포화도 측정이 있다. 카메라 영상을 이용한 생체데이터 측정은 환자로 하여금 별다른 조작 없이 생체 데이터를 측정할 수 있도록 한다. 이를 이용하여 실시간으로 환자를 감시할 수 있으며 환자의 급성질환에 대해서 즉각적으로 반응을 할 수 있다. 또한 지속적이고 꾸준한 생체데이터 측정이 가능한 바, 이는 환자의 상태에 대해 좀 더 정확하게 파악할 수 있도록 하며 환자에게 발생할 수 있는 질병의 예방에 큰 도움이 될 수 있다.
이러한 상황을 나타내는 것으로서, U-헬스케어 시스템이라는 이름으로 인터넷이나 모바일 등의 통신기술과 융합하여 시간과 장소에 제약 없이 이용자에게 건강에 대한 정보를 제공하는 시스템이 있다. 도 3은 U-헬스케어 시스템의 구성을 도시한 도면이다. 과거의 헬스케어 시스템은 특정 환자에 대한 치료를 목적으로 하였다면 이제는 개개인의 상태에 따라 일상적으로 이용자의 건강을 관리하는 영역으로 확대되고 있다. 이처럼 사용자의 확대에 따라서 U-헬스케어 시장은 매년 급속도로 성장하였으며, 헬스케어 시스템은 스마트폰과 함께 사물간 인터넷이 연결되어 정보를 교환하는 IoT 기술과 함께 실생활에 깊게 스며들고 있다.
한편, 본 발명과 관련된 선행기술로서, 대한민국 공개특허공보 제10-2013-0118512호(발명의 명칭: 얼굴 인식을 통한 환자 상태 모니터링 시스템 및 이를 이용한 환자 상태 모니터링 서비스 제공 방법) 및 대한민국 공개특허공보 제10-2015-0039113호(발명의 명칭: 생체 신호에 기초하여 컨텐츠를 처리하는 방법, 및 그에 따른 디바이스) 등이 개시된 바 있다.
본 발명은 기존에 제안된 방법들의 상기와 같은 문제점들을 해결하기 위해 제안된 것으로서, 사용자의 신원을 파악할 수 있도록 하며, 카메라를 통하여 심박동수를 측정함으로써, 보다 쉽고 간편하게 사용자의 심박동수를 수집하고 처리할 수 있도록 하는 사용자의 신원 파악이 가능한 심박동수 모니터링 방법 및 시스템을 제공하는 것을 그 목적으로 한다.
상기한 목적을 달성하기 위한 본 발명의 특징에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법은,
심박동수 모니터링 방법으로서,
(1) 카메라를 통하여 수집한 이미지 시퀀스에서 사용자의 안면을 인지하는 단계;
(2) 상기 단계 (1)에서 인지된 안면을 서버의 데이터베이스와 비교하여 사용자의 신원을 인증하는 단계;
(3) 상기 단계 (1)에서 인지된 안면 데이터로부터, 안면의 특징점을 기반으로, 심박동수 측정을 위한 좌표를 생성하는 단계; 및
(4) 상기 단계 (3)에서 생성된 좌표를 추적하여, 사용자의 심박동수를 측정하는 단계를 포함하는 것을 그 구성상의 특징으로 한다.
바람직하게는, 상기 단계 (1)에서는,
이미지 시퀀스를 수집하기 위한 상기 카메라로서 웹캠(Webcam)을 사용할 수 있다.
바람직하게는, 상기 단계 (1)은,
(1-1) 카메라를 통하여 이미지를 수집하는 단계; 및
(1-2) 상기 단계 (1-1)에서 수집된 이미지로부터 안면 부분의 이미지를 선별하는 단계를 포함할 수 있다.
더 바람직하게는, 상기 단계 (1-2)에서는,
PCA(Principal Component Analysis)를 이용해서 얼굴 공통의 형태정보(Eigen face)를 형성하여, 상기 단계 (1-1)에서 수집된 이미지 중에서, 상기 형성된 얼굴 공통의 형태정보와 유사한 형태를 가지고 있는 부분을 사람의 안면 부분 이미지로 선별할 수 있다.
바람직하게는, 상기 단계 (2)는,
(2-1) 상기 단계 (1)에서 인지된 안면의 특징점을 추출하는 단계;
(2-2) EBGM(Elastic Bunch graph matching) 방법을 통하여 상기 단계 (2-1)에서 추출된 특징점들의 기하학적 정보로부터 번치 그래프를 생성하는 단계; 및
(2-3) 상기 단계 (2-2)에서 생성한 번치 그래프를 이용하여 사용자의 신원을 인증하는 단계를 포함할 수 있다.
더 바람직하게는, 상기 단계 (2-2)에서는,
가버(Gabor) 웨이블렛 함수를 통해 상기 특징점들의 가버(Gabor) 계수를 구하며, 각각의 특징점의 가버(Gabor) 계수들을 묶어 번치를 생성하고, 전체 안면의 특징점들의 번치를 모아 상기 번치 그래프를 생성할 수 있다.
더 바람직하게는, 상기 단계 (2-3)에서는,
인지된 사용자 안면의 번치 그래프와 데이터베이스(DB)에 존재하는 번치 그래프들의 유사도를 비교하여 가장 유사도가 높은 번치 그래프에 해당하는 사람으로 사용자의 신원을 인증할 수 있다.
더더욱 바람직하게는, 상기 단계 (2-3)에서는,
Point matching 기법 중에서 Non-rigid matching 기법을 이용하여 유사도를 비교할 수 있다.
더더더욱 바람직하게는, 상기 단계 (2-3)에서는,
상기 Non-rigid matching 기법을 이용하기 위하여 Topology Preserving Relaxation Labeling(TPRL) 알고리즘을 사용할 수 있다.
바람직하게는, 상기 단계 (3)에서는,
상기 추출된 특징점을 기반으로 사용자의 뺨에 해당하는 부분에 심박동수 측정을 위한 좌표를 생성할 수 있다.
바람직하게는, 상기 단계 (4)는,
(4-1) BSS(Blind Source Separation)를 사용하여 상기 단계 (1)에서 선별된 안면 부분의 이미지로부터 독립인자분석(Independent Component Analysis: ICA) 알고리즘을 이용하여 독립인자를 추출하는 단계;
(4-2) 상기 단계 (4-1)에서 추출된 독립인자로부터, 생체조직의 광학적 특성을 이용하여 혈관에 흐르는 혈류량을 측정함으로써 심박동 상태를 측정하도록 하는 신호인 광용적맥파(Photoplethysmography: PPG) 신호를 추출하는 단계; 및
(4-3) 상기 단계 (4-2)에서 추출된 광용적맥파(PPG) 신호로부터 심박동수를 측정하는 단계를 포함할 수 있다.
더 바람직하게는, 상기 단계 (4-1)에서는,
상기 카메라의 RGB 채널로부터 세 개의 독립인자를 추출할 수 있다.
더 바람직하게는, 상기 단계 (4-1)에서는,
상기 카메라의 COG(Cyan, Orange, Green) 채널로부터 세 개의 독립인자를 추출할 수 있다.
바람직하게는, 상기 단계 (4)는,
상기 단계 (3)에서 생성된 심박동수 측정을 위한 좌표의, 광학적 특성에 따른 색상변화를 이용하여 사용자의 심박동수를 측정할 수 있다.
또한, 상기한 목적을 달성하기 위한 본 발명의 특징에 따른, 사용자의 신원 파악이 가능한 심박동수 모니터링 시스템은,
심박동수 모니터링 시스템으로서,
카메라를 통하여 수집한 이미지 시퀀스에서 사용자의 안면을 인지하는 안면 인지부;
상기 안면 인지부에서 인지된 안면을 서버의 데이터베이스와 비교하여 상기 사용자의 신원을 인증하는 신원 인증부;
상기 안면 인지부에서 인지된 안면 데이터로부터, 안면의 특징점을 기반으로, 심박동수 측정을 위한 좌표를 생성하는 좌표 생성부; 및
상기 좌표 생성부에서 생성된 좌표를 추적하여, 상기 사용자의 심박동수를 측정하는 심박동수 측정부를 포함하는 것을 그 구성상의 특징으로 한다.
바람직하게는, 상기 안면 인지부는,
이미지 시퀀스를 수집하기 위한 상기 카메라로서 웹캠(Webcam)을 사용할 수 있다.
바람직하게는, 상기 안면 인지부는,
카메라를 통하여 이미지를 수집하는 이미지 수집 모듈; 및
상기 이미지 수집 모듈에서 수집된 이미지로부터 안면 부분의 이미지를 선별하는 안면 이미지 선별 모듈을 포함할 수 있다.
바람직하게는, 상기 신원 인증부는,
상기 안면 인지부에서 인지된 안면의 특징점을 추출하는 특징점 추출 모듈;
EBGM(Elastic Bunch graph matching) 방법을 통하여 상기 특징점 추출 모듈에서 추출된 특징점들의 기하학적 정보로부터 번치 그래프를 생성하는 번치 그래프 생성 모듈; 및
상기 번치 그래프 생성 모듈에서 생성한 번치 그래프를 이용하여 사용자의 신원을 인증하는 인증 모듈을 포함할 수 있다.
더 바람직하게는, 상기 인증 모듈은,
인지된 사용자 안면의 번치 그래프와 데이터베이스(DB)에 존재하는 번치 그래프들의 유사도를 비교하여 가장 유사도가 높은 번치 그래프에 해당하는 사람으로 사용자의 신원을 인증할 수 있다.
더더욱 바람직하게는, 상기 인증 모듈은,
Point matching 기법 중에서 Non-rigid matching 기법을 이용하기 위하여 Topology Preserving Relaxation Labeling(TPRL) 알고리즘을 사용하여 유사도를 비교할 수 있다.
본 발명에서 제안하고 있는 사용자의 신원 파악이 가능한 심박동수 모니터링 방법 및 시스템에 따르면, 사용자의 신원을 파악할 수 있도록 하며, 카메라를 통하여 심박동수를 측정함으로써, 보다 쉽고 간편하게 사용자의 심박동수를 수집하고 처리할 수 있도록 한다.
도 1은 기존의 환자 모니터링 시스템을 도시한 도면.
도 2는 소형화와 간소화된 착용형 생체신호 모니터링 시스템을 도시한 도면.
도 3은 U-헬스케어 시스템의 구성을 도시한 도면.
도 4는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법의 흐름도를 도시한 도면.
도 5는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법을 도식화한 도면.
도 6은 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법에 있어서, 안면 부분의 이미지를 선별하는 단계를 설명하기 위해 도시한 도면.
도 7은 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법에 있어서, 안면의 특징점을 추출하는 단계를 설명하기 위해 도시한 도면.
도 8은 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법에 있어서, 카메라의 RGB 채널로부터 세 개의 독립인자를 추출하는 단계를 설명하기 위해 도시한 도면.
도 9는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법에 있어서, 안면 부위에 따른 심박동수 측정 단계를 설명하기 위해 도시한 도면.
도 10은 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 시스템의 블럭도를 도시한 도면.
도 11은 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 시스템에 있어서, 안면 인지부의 블럭도를 도시한 도면.
도 12는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 시스템에 있어서, 신원 인증부의 블럭도를 도시한 도면.
도 2는 소형화와 간소화된 착용형 생체신호 모니터링 시스템을 도시한 도면.
도 3은 U-헬스케어 시스템의 구성을 도시한 도면.
도 4는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법의 흐름도를 도시한 도면.
도 5는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법을 도식화한 도면.
도 6은 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법에 있어서, 안면 부분의 이미지를 선별하는 단계를 설명하기 위해 도시한 도면.
도 7은 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법에 있어서, 안면의 특징점을 추출하는 단계를 설명하기 위해 도시한 도면.
도 8은 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법에 있어서, 카메라의 RGB 채널로부터 세 개의 독립인자를 추출하는 단계를 설명하기 위해 도시한 도면.
도 9는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법에 있어서, 안면 부위에 따른 심박동수 측정 단계를 설명하기 위해 도시한 도면.
도 10은 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 시스템의 블럭도를 도시한 도면.
도 11은 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 시스템에 있어서, 안면 인지부의 블럭도를 도시한 도면.
도 12는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 시스템에 있어서, 신원 인증부의 블럭도를 도시한 도면.
이하에서는 첨부된 도면을 참조하여 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 바람직한 실시예를 상세히 설명한다. 다만, 본 발명의 바람직한 실시예를 상세하게 설명함에 있어, 관련된 공지 기능 또는 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략한다. 또한, 유사한 기능 및 작용을 하는 부분에 대해서는 도면 전체에 걸쳐 동일 또는 유사한 부호를 사용한다.
덧붙여, 명세서 전체에서, 어떤 부분이 다른 부분과 ‘연결’되어 있다고 할 때, 이는 ‘직접적으로 연결’되어 있는 경우뿐만 아니라, 그 중간에 다른 소자를 사이에 두고 ‘간접적으로 연결’되어 있는 경우도 포함한다. 또한, 어떤 구성요소를 ‘포함’한다는 것은, 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있다는 것을 의미한다.
도 4는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법의 흐름도를 도시한 도면이며, 도 5는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법을 도식화한 도면이다. 도 4 및 도 5에 도시된 바와 같이, 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법은, 카메라를 통하여 수집한 이미지 시퀀스에서 사용자의 안면을 인지하는 단계(S100), 단계 S100에서 인지된 안면을 서버의 데이터베이스와 비교하여 사용자의 신원을 인증하는 단계(S200), 단계 S100에서 인지된 안면 데이터로부터, 안면의 특징점을 기반으로, 심박동수 측정을 위한 좌표를 생성하는 단계(S300), 및 단계 S300에서 생성된 좌표를 추적하여, 같은 부위의 색상변화를 이용하여 사용자의 심박동수를 측정하는 단계(S400)을 포함하여 구현될 수 있다.
실시예에 따라서, 단계 S100에서는 이미지 시퀀스를 수집하기 위한 카메라로서 웹캠(Webcam)을 사용할 수 있다. 웹캠을 이용하는 경우, 인지된 안면 데이터로부터 얼굴영역을 정의한 뒤 심박동수를 측정할 수 있는바, 사용자 혼자 있는 경우뿐만 아니라 다수의 사람이 있는 상황에서도 카메라를 통한 심박동수 측정이 가능할 수 있다.
단계 S100은, 보다 구체적으로, 카메라를 통해 이미지를 수집하는 단계, 및 수집된 이미지로부터 안면 부분의 이미지를 선별하는 단계를 포함할 수 있다.
안면 부분의 이미지를 선별하는 단계란, PCA(Principal Component Analysis)를 이용해서 얼굴 공통의 형태정보(Eigen face)를 형성하여, 카메라를 통해 수집된 이미지 중에서, 앞서 형성된 얼굴 공통의 형태정보와 유사한 형태를 가지고 있는 부분을 사람의 안면 부분 이미지로 선별하는 단계일 수 있다. 보다 구체적으로 살펴보면, 안면 부분의 이미지를 선별하는 단계에서는, PCA를 이용해서 Eigen face(얼굴 공통의 형태 정보)를 형성하여 입력 영상 중에서 이와 유사한 형태를 가지고 있는 부분을 사람의 얼굴이라고 지정하여 추적할 수 있다.
카메라를 통해 수집된 이미지 중에서, 앞서 형성된 얼굴 공통의 형태정보와 유사한 형태를 가지고 있는 부분을 사람의 안면 부분 이미지로 선별한다는 것은, 보다 구체적으로, 얼굴 공통의 형태정보로부터 눈, 코, 입과 같은 특징적 부위의 형태를 특정한 후, 수집된 이미지 중에서 특징적 부위에 대응하는 부분을 판별하여, 대응되는 유사도가 높은 영역을 사람의 얼굴(안면) 부분 이미지로 선별하는 것일 수 있다.
PCA는 평균과 분산까지의 통계적 성질을 이용한 2차 통계적 기법이다. PCA는 입력 자료에 대하여 최대공분산의 각 방향을 가리키는 직교 정규화된 일련의 축들의 집합을 찾는다. 이는 입력 자료의 가장 중요한 축들을 찾아 효율적으로 자료의 차원을 줄일 수 있는 장점을 갖게 된다. 그러나 PCA는 2차 통계 자료만을 가용하기 때문에 영상에서 가장 기본적인 특징을 나타내기 어렵다.
주어진 자료를 x라 놓고, n개의 관찰된 표본이 있다면 x를 x=[x1, x2, …, xn] 과 같이 정의 할 수 있다. 이 때 x의 각 표본 xi는 해당 표본을 구성하는 xi=[xi(1), xi(2), …, xi(m)]T와 같이 m개의 데이터로 구성되어 있고, 이때 T는 행렬의 전치를 나타내며 얼굴 영상의 경우에는 m 값은 해당 얼굴의 픽셀 수가 되며 1차원 벡터로 나타낼 수 있다.
PCA로 데이터를 표현하는 방법은 다음과 같다. PCA로 데이터가 표현되는 것을 R이라 놓으면, 이 때 각 행이 원래 데이터의 표본에 매칭된다. 고유벡터가 열로 들어 있는 행렬을 V라고 하였을 때, R=XTV로 R을 구할 수 있다. 고유벡터 V가 대칭적이고, 직교 정규화 되어있으므로 VVT=1의 성질을 가지며, 역으로 데이터를 변환하는 것은 XT=RVT와 같이 구할 수 있다.
PCA를 적용하여 얻은 특징 벡터 공간은 영상의 조명변화와 얼굴의 표정변화 등의 특징이 포함되어 있어 인식률이 떨어지게 된다. 이점을 고려하며 PCA를 통하여서는 얼굴의 대략적 위치만을 가져오며, 그 위치 안에서 특징점을 추출하여 특징점 비교를 이용하여 얼굴 인식을 함으로 인식률을 높일 수 있다.
도 6은 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법에 있어서, 안면 부분의 이미지를 선별하는 단계를 설명하기 위해 도시한 도면이다. 도 6에 도시된 바와 같이, 다양한 얼굴 이미지로부터 Eigen face(얼굴 공통의 형태정보)를 형성하며, 수집된 이미지 중에서, 앞서 형성된 얼굴 공통의 형태정보와 유사한 형태를 가진 부분을 안면으로 인지하여 안면 부분 이미지로 선별할 수 있다.
단계 S200은, 단계 S100에서 인지된 안면을 서버의 데이터베이스와 비교하여 사용자의 신원을 인증하는 단계이다. 실시예에 따라서, 단계 S200은, 단계 S100에서 인지된 안면의 특징점을 추출하는 단계, EBGM(Elastic Bunch graph matching) 방법을 통하여 추출된 특징점들의 기하학적 정보로부터 번치 그래프를 생성하는 단계, 및 생성된 번치 그래프를 이용하여 사용자의 신원을 인증하는 단계를 포함하여 구현될 수 있다.
먼저, 단계 S100에서 인지된 안면의 특징점을 추출하는 단계를 구체적으로 살펴보도록 한다. 얼굴 인식 방법은 보통 이미지의 전체 (픽셀) 정보를 이용하기 때문에, 얼굴 이미지의 한 국소부분의 조그마한 조명, 자세, 표정 변화라도 인식 알고리즘에 영향을 미치게 되어 조명, 자세, 표정 변화 등에 덜 강인하다. 반면에 모델 기반 얼굴 인식 방법은 조명, 자세, 표정 변화를 감안하여 모델을 구성할 수 있으므로, 인식 시에 이러한 요인에 의한 영향을 줄일 수 있다. 모델 구성 시에 이용되는 특징 벡터로는 가버(Gabor) 특징 벡터(얼굴 이미지 특징점에 대해 가버 웨이블렛 커널을 컨볼루션하여 얻어진 계수)가 조명, 자세, 표정 변화에 대해 영향을 적게 받는다.
가버(Gabor) 특징 벡터를 이용한 대표적인 얼굴 인식 방법에는 EBGM(Elastic Bunch graph matching)이 있다. EBGM에 의한 얼굴 인식 방법은 얼굴의 특징점들을 찾은 후 이 특징점들에서 가버 계수를 구하고 이를 이용하여 얼굴 인식을 수행한다. 이미지 기반 얼굴 인식 기법은 전체 이미지 정보를 사용하기 때문에 변화하는 환경에 대응하지 못하는 단점이 있으며, 이를 보완하기 위해 지역 정보를 사용하는 특징 벡터 기반 기법인 EBGM을 사용할 수 있다. EBGM은 눈, 코, 입과 같은 얼굴의 기하학적인 정보인 특징점에서 가버 계수를 구하고, 이 가버 계수들 간의 유사도를 비교하여 가장 유사도가 높은 사람을 인증하는 방식으로 이루어진다.
EBGM은 가버 웨이블렛 함수를 통해 이미지에서의 국부적인 주파수 특징만을 검출해 낼 수 있다. 가버 웨이블렛 필터를 이용하여 실수부와 허수부로 나누어 각각을 이산화하여, 가버 웨이블렛 마스크를 만들고 얼굴 영상에서의 특징점의 영역의 픽셀값들과 상승적분하여 얻어진 계수들을 구한다.
다음으로, EBGM(Elastic Bunch graph matching) 방법을 통하여 추출된 특징점들의 기하학적 정보로부터 번치 그래프를 생성하는 단계를 보다 구체적으로 살펴본다. 여기서, 각 특징점에서 얻어진 계수들을 가버 젯이라고 하며, 가버 젯의 묶음을 번치라고 한다. 전체 얼굴 특징점들 각각의 번치의 모음이 번치 그래프이다. 보다 구체적으로, M개의 모델 이미지들에 대해서, 얼굴에 해당하는 부분을 찾은 다음 얼굴 자세를 똑바로 하여 얼굴 크기를 동일한 크기로 하는 정규화를 수행한 후, 정규화된 얼굴에서 각각의 특징점들을 검출하고 이 각각의 특징점들에 대한 가버 젯을 구할 수 있다. 이 때, M개의 모델 이미지 각각에서의 해당 특징점에서 얻어진 M개의 가버 젯, M개의 각 모델 이미지에서의 해당 특징점의 좌표 및 해당 특징점의 평균 위치를 묶은 것이 해당 특징점에서의 가버 번치(Gabor Bunch)가 되며, v개의 특징점들에서의 모든 가버 번치들의 집합을 모델 번치 그래프(Model Bunch Graph)라 한다. 모델 번치 그래프의 개념은 EBGM에서 도입되었다.
모델 번치 그래프는 사용자의 신원을 인증하는 단계에서 사용될 수 있다. EBGM에서 사용되는 특징점 추출은 모델 번치 그래프의 수와 종류에 많은 영향을 받을 수 있다. 그렇기 때문에 모델 번치 그래프는 다양한 성별과 나이, 조명, 포즈, 표정을 고려하여 만들어야 한다. 즉, 모델 번치 그래프를 만드는데 사용되는 모델 이미지는, 다양한 포즈, 표정과 조명을 반영하여 고르게 선정하여야(randomly distributed) 각종 다양한 얼굴 이미지에 대해서 얼굴 특징점들의 검출이 잘될 수 있다.
번치 그래프를 이용하여 사용자의 신원을 인증하는 단계는, 인지된 사용자 안면의 번치 그래프와 데이터베이스(DB)에 존재하는 번치 그래프들의 유사도를 비교하여 가장 유사도가 높은 번치 그래프에 해당하는 사람으로 사용자의 신원을 인증할 수 있다.
도 7은 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법에 있어서, 인지된 안면을 서버의 데이터베이스와 비교하여 사용자의 신원을 인증하는 단계를 도시한 도면이다. 도 7에 도시된 바와 같이, 인지된 안면으로부터 특징점을 추출하게 되면, 가버 웨이블렛 함수를 통해 특징점들의 가버(Gabor) 계수를 구하며, 각각의 특징점에서 얻어진 계수들을 묶어 번치를 생성하고, 전체 안면의 특징점들의 번치를 모아 번치 그래프를 생성할 수 있다. 나아가, 인지된 사용자 안면의 번치 그래프와 데이터베이스(DB)에 존재하는 번치 그래프들을 유사도를 비교하여 가장 유사도가 높은 번치 그래프에 해당하는 사람으로 사용자의 신원을 인증할 수 있다.
Point matching 기법은 컴퓨터비전과 패턴 인식 분야에서 가장 광범위하게 쓰이는 비교 기법이다. Point matching은 크게 두 가지로 분류 할 수 있는데, 이미지 시퀀스에서 추출한 목표 오브젝트의 변형도에 따라 rigid matching 과 non-rigid matching으로 나눌 수 있다. Non-rigid matching은 rigid matching 과 비교하였을 때 훨씬 복잡하다.
Non-rigid matching의 경우 각 특징점 사이의 관계도가 목표 오브젝트의 변형도에 따라 변화폭이 심하여 비교하기에 어려움이 있다. 얼굴 특징점의 경우 표정이나 각도에 따라 변화폭이 심하여 매우 심한 non-rigid matching에 해당하며, 이를 해결하기 위해서는 효과적인 non-rigid matching 알고리즘이 필요하다.
본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법에서는, 효과적인 신원 확인을 위해서 특징점 비교에 Robust Point Matching-preserving Local Neighborhood Structure(RPM- LNS) 알고리즘을 변형한 Topology Preserving Relaxation Labeling(TPRL) 알고리즘을 사용 하여 point matching을 할 수 있다.
단계 S300은, 단계 S100에서 인지된 안면 데이터로부터, 안면의 특징점을 기반으로, 심박동수 측정을 위한 좌표를 생성하는 단계이다. 단계 S300에서 심박동수 측정을 위한 좌표 생성을 위해 기반으로 삼는 안면의 특징점이란, 단계 S200에 의해 사용자의 신원을 인증하는 단계에서 추출된 특징점일 수 있다.
얼굴에서 모세혈관이 밀집하여 있는 부위로는 이마와 뺨이 있다. 이에 따라, 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법에서는 측정부위로 이마와 뺨 두 부위가 바람직하나, 사람에 따라 머리카락이 이마를 가리는 경우가 발생하기 때문에 뺨에 해당하는 부분에 심박동수 측정을 위한 좌표를 생성하는 것이 바람직하다. 즉, 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법은, 추출된 특징점을 기반으로 사용자의 뺨에 해당하는 부분에 심박동수 측정을 위한 좌표를 생성할 수 있다.
사용자의 뺨에 해당하는 부분에 심박동수 측정을 위한 좌표를 생성하는 단계를 보다 구체적으로 살펴보면, 얼굴의 특징점을 추출하였을 때 콧볼을 n(t), 귀를 e(t), 입가를 m(t)라 할 수 있다. 이 n(t), e(t), m(t) 세 점으로 이루어진 삼각형의 무게중심을 G(x,y)라 하며 이 점을 중심점으로 10 x 10 픽셀에서 값을 추출하여 평균을 취할 수 있다.
단계 S400은, 단계 S300에서 생성된 좌표를 추적하여, 사용자의 심박동수를 측정하는 단계일 수 있다. 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법은, 생체조직의 광학적 특성을 이용하여 혈관에 흐르는 혈류량을 측정함으로써 심박동 상태를 측정하는 PPG(Photoplethysmography) 측정을 통하여, 사용자의 심박동수를 측정할 수 있다. 즉, 실시예에 따라서, 단계 S400은, BSS(Blind Source Separation)를 사용하여 단계 S100에서 선별된 안면 부분의 이미지로부터 독립인자분석(Independent Component Analysis: ICA) 알고리즘을 이용하여 독립인자를 추출하는 단계, 추출된 독립인자로부터, 생체조직의 광학적 특성을 이용하여 혈관에 흐르는 혈류량을 측정함으로써 심박동 상태를 측정하도록 하는 신호인 광용적맥파(Photoplethysmography: PPG) 신호를 추출하는 단계, 및 추출된 광용적맥파(PPG) 신호로부터 심박동수를 측정하는 단계를 포함하여 구현될 수 있다.
보다 구체적으로는, BSS(Blind Source Separation)를 사용하여 단계 S100에서 선별된 안면 부분의 이미지로부터 독립인자분석(Independent Component Analysis: ICA) 알고리즘을 이용하여 독립인자를 추출하는 단계에서는, 카메라의 RGB 채널 또는 COG 채널 중 적어도 하나로부터 독립인자를 추출할 수 있다.
심박동수, 호흡률과 같은 생체신호는 일반 카메라와 적절한 조명만으로 측정할 수 있다. 또한, 카메라를 통한 생체신호 측정에 있어서 얼굴은 광용적맥파(Photoplethysmography: PPG) 신호를 추출하기 좋은 부위이다. 이 때, RGB 채널을 통하여 측정할 경우 녹색 채널이 적색이나 청색 채널 보다 심박동수와 호흡률을 측정하기에 적합할 수 있다. 이는 혈액의 발색요인이 되는 헤모글로빈과 산화 헤모글로빈의 광 흡수 파장이 520~580㎚이며, 이 주파수는 카메라의 녹색 필터의 주파수 대역폭에 속하기 때문이다.
본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법에서는, Blind Source Separation(BSS)을 사용하여 카메라의 RGB 채널로부터 세 개의 독립 인자를 추출할 수 있다. 도 8은 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법에 있어서, 카메라의 RGB 채널로부터 세 개의 독립인자를 추출하는 단계를 설명하기 위해 도시한 도면이다. 도 8에 도시된 바와 같이, Blind Source Separation(BSS)을 사용하여 카메라의 RGB 채널로부터 세 개의 독립 인자를 추출할 수 있다. 또한, 이 과정에서 독립인자분석(Independent component Analysis: ICA) 알고리즘을 이용할 수 있다. 이렇게 추출된 세 개의 독립 인자 중 하나로부터 PPG(Photoplethysmography)를 추출할 수 있다.
독립 성분 분석(Independent Component Analysis: ICA)은 다변량의 신호를 통계적으로 독립적인 하부 성분으로 분리하는 계산 방법이다. 각 성분은 비-가우스성(Non-Gaussianity) 신호로서 서로 통계적 독립을 이루는 성분으로 구성되어 있다. 독립 성분 분석은 블라인드 신호를 분리하는 특별한 방법일 수 있다.
독립성의 가정이 옳다면, 혼합 신호의 독립 성분 분석은 좋은 결과를 도출할 수 있다. 혼합 신호가 아닌 경우에도, 분석을 위해 동일한 방법을 사용할 수 있다. 전형적인 독립 성분 분석의 응용으로, 실내에서 녹음 된 여러 사람의 대화에서 특정 인물의 목소리를 빼내는 음원 분리가 있다. 일반적으로 지연이나 반응이 없다고 가정하면 문제가 단순화된다. 고려해야 할 중요한 점은 N개의 자원이 있는 경우 개별을 분리하려면 적어도 N개의 관측 장치(마이크 등)가 필요하다. 이 통계적 기법은 예측되는 성분의 통계적 독립성을 최대화하도록 그 독립 성분(요소, 잠재적 변수, 소스 등)을 찾아낼 수 있다. 중심 극한 정리에 따르면, 비-가우스성(Non-Gaussianity)은 성분의 독립성을 측정하는 하나의 방법이다. 또한, 상호 정보량도 신호 간의 독립성을 측정하는 척도가 된다. 독립 성분 분석의 전형적인 알고리즘은 복잡성을 줄이기 위한 전 단계로서 중심화(centering), 백색화(whitening), 차원 감소(dimensionality reduction) 등의 과정이 필요하다. 백색화와 차원 감소는 주 성분 분석(Principal Component Analysis)과 특이 값 분해(Singular value decomposition)로 한다. 독립 성분 분석의 알고리즘으로는 Infomax, FastICA, JADE 등이 있다. 독립 성분 분석은 블라인드 신호 분리에 중요하며 구체적인 응용이 얼마든지 있을 수 있다.
카메라를 이용한 생체데이터 측정에는 RGB 채널을 사용하는 것보다 COG(cyan, orange and green) 채널을 이용하는 것이 더 적합할 수 있다. COG 채널의 경우, 각각의 채널이 Cyan(470~570㎚), Green(520~620㎚) 그리고 Orange(530~630㎚)로서, 이는 헤모글로빈과 산화 헤모글로빈의 광흡수 파장과 더 많이 겹치기 때문이다.
최근 여러 연구가 진행됨에도 불구하고 생체 데이터 측정 시에는 여러 가지 문제점이 존재하는데, 그 중 가장 빈번하게 생기는 문제점은 조명상태와 측정대상의 움직임에 따라 측정값이 민감하게 변하는 것이다. 특히, 측정대상자의 회전의 경우 색을 측정하는 좌표가 크게 변경되므로 지속적인 측정에 어려움이 있다. 따라서 시스템을 개발하는데 있어 조도 변화를 상쇄할 수 있으며 측정대상의 움직임이 있더라도 지속적으로 측정이 가능한 시스템 개발이 필요하다.
본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법에서 단계 S400은, 단계 S300에서 생성된 심박동수 측정을 위한 좌표의, 광학적 특성에 따른 색상변화를 이용하여 사용자의 심박동수를 측정하는 것일 수 있다. 이 때, 심박동수 측정을 위한 좌표는, 앞서 살펴본 것과 같은 방법으로 사용자의 뺨에 해당하는 부분에 생성된 좌표에 해당할 수 있다.
광학적 특성에 따른 색상변화를 이용하는 것은, 기본적으로 카메라를 이용하여 심박동수를 측정하는 것이다. 감지된 얼굴 영역에서 카메라를 이용하여 심박동수를 측정하는 방법은 기본적으로 PPG 측정 원리와 같다.
일반적으로, PPG측정에 사용되는 센서는 광센서 즉, 광을 전하로 변환시키는 소자로, 광전변환소자가 센서라 할 수 있으며, 포토 다이오드가 주로 사용될 수 있다. 렌즈를 통해서 들어온 광이 광전변환소자에 전달되면 여기서 광이 전하로 변환되며, 이 변환된 전하는 전하결합소자를 통해서 각 픽셀 위치의 광의 세기를 DSP을 통하여 중앙처리장치로 전달되어 화상을 구현한다. 과거에는 물체의 빛을 감지하는 방식이었으나, 지금은 기계에서 광원을 제공한 뒤, 빛이 부딪혀 반사되어 오는 것을 토대로 그 물체의 정보를 얻는 방식을 사용할 수 있다. 이러한 원리를 이용하는 광용적맥파는 특정 파장대역의 빛을 인체에 조사하고 반사 또는 투과된 광을 검출한 신호로 심장 박동에 따라 발생하는 맥동성분을 나타내는 신호이다.
PPG 측정은 생체조직의 광학적 특성을 이용하여 혈관에 흐르는 혈류량을 측정함으로써 심박동수를 추정하는 방법일 수 있다. PPG는 말초혈관으로 혈액이 흐를 때 심장의 이완기와 수축기 사이에 혈액의 흐름이 느려지는데, 이는 혈관 내 투명도의 변화를 일으키며 이 투명도 변화를 감지하는 것을 기본으로 한다. 이러한 형상은 신체의 말초조직 얼굴이나 손가락 귓볼 등에서 확실히 측정할 수 있으며 일반 PPG 측정의 경우 손가락을 이용하여 측정한다.
이와 같은 원리를 얼굴에 적용할 경우, 심박동 상태에 따라 얼굴 피부의 혈관내 혈류량 또한 마찬가지로 변화할 것이며, 이를 카메라를 통하여 측정하여 분석함으로써 심박동 상태를 추정할 수 있다.
카메라를 이용한 심박동수 측정에서는, 카메라를 향한 사람의 얼굴을 녹화하여 분석함으로써 광학적 신호 p(t)를 추출한다. 녹화한 영상은 신호의 세기에 따라 각 프레임별로 V(x,y,t)의 형태로 나타낸다. 각각의 비디오 프레임은 얼굴로부터 반사되어 나온 빛을 각각의 x,y 좌표에 픽셀값으로 저장하며, 카메라 센서가 여러 가지 색상을 측정하는 경우(e.g. red, green, blue) 한 프레임에 색상채널 별로 분리된 여러 개의 데이터 값을 얻을 수 있다(e.g. Vr(x,y,t), Vg(x,y,t), Vb(x,y,t)). 또한, 녹화한 영상의 V(x,y,t) 역시 조명의 세기와 피부의 반사율의 두 가지 요소로 구성되어 있을 수 있다(V(x,y,t)=I(x,y,t)R(x,y,t)).
조명의 세기 I(x,y,t)는 얼굴에 비춰지는 모든 빛을 나타낸다. 카메라를 이용한 심박동수 측정 시에는 측정 부위에 일정한 조명의 세기가 필요하다. 피부의 반사율 R(x,y,t)은 피부로부터 반사된 빛의 세기를 나타내는데 이는 피부표면의 반사와 피하조직의 반사, 이 두 종류의 반사로 이루어져 있다.
추출된 신호의 세기 V(x,y,t)에서 혈류량이 일정하다고 할 수 있을 만큼 작은 영역(Regions of interests: ROIs)으로 나누어 주며 R로 나타내어 준다. 이때 yi(t)는 시간 t에 따른 ROI Ri의 픽셀값의 평균값이며, i는 R의 인덱스 값이다. 또한 ROI Ri의 빛의 세기 I(x,y)는 일정하며 Ii로 나타낼 경우 yi(t)는 yi(t)=Ii(ai×p(t)+bi)+qi(t)와 같이 나타낼 수 있다.
위의 식에서 Ii는 ROI Ri의 빛의 세기를 나타내며, ai는 혈류의 세기를 말한다. 또한, bi는 얼굴 피부 표면에서의 반사율을 말하며, qi(t)는 카메라 양자화 노이즈를 나타낸다. ROI Ri에 Ii의 빛이 비춰질 때 많은 양의 반사(bi)가 피부표면에서 이루어진다. 이 값의 경우 혈류에 따른 변화가 전혀 영향을 미치지 못하는 값이다. 하지만 일부분의 빛이 피부표면을 뚫고 들어가서 혈류변화에 따라 반사량이 달라진다. 이 값을 p(t)로 나타낸다. 또한 ai는 피의 주요 발색요인인 헤모글로빈과 산화헤모글로빈의 빛의 흡수량과 조사하는 빛의 파장에 따라 변화를 보인다. 따라서 피부표면 아래의 빛의 반사에 기여하는 두 요인 ai와 p(t)로 피하 반사율을 구할 수 있다. 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법에서는, 두 발색요인인 헤모글로빈과 산화헤모글로빈의 빛 흡수율이 가장 높은 파장인 녹색채널을 사용하는 것이 바람직할 수 있다.
도 9는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법에 있어서, 안면 부위에 따른 사용자의 심박동수를 측정하는 단계를 설명하기 위해 도시한 도면이다. 도 9에 도시된 바에 따르면, 뺨에 해당하는 부분(y1(t))에서 그래프가 선명하게 나타나는 바, 심박동수 모니터링이 효과적으로 일어날 수 있음을 알 수 있다.
도 10은 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 시스템(10)의 블럭도를 도시한 도면이다. 도 10에 도시된 바와 같이, 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 시스템(10)은, 안면 인지부(100), 신원 인증부(200), 좌표 생성부(300) 및 심박동수 측정부(400)를 포함하여 구성될 수 있다.
보다 구체적으로는, 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 시스템(10)은, 심박동수 모니터링 시스템으로서, 카메라를 통하여 수집한 이미지 시퀀스에서 사용자의 안면을 인지하는 안면 인지부(100), 안면 인지부(100)에서 인지된 안면을 서버의 데이터베이스와 비교하여 사용자의 신원을 인증하는 신원 인증부(200), 안면 인지부(100)에서 인지된 안면 데이터로부터, 안면의 특징점을 기반으로, 심박동수 측정을 위한 좌표를 생성하는 좌표 생성부(300), 및 좌표 생성부(300)에서 생성된 좌표를 추적하여, 사용자의 심박동수를 측정하는 심박동수 측정부(400)를 포함할 수 있다.
안면 인지부(100)는, 카메라를 통하여 수집한 이미지 시퀀스에서 사용자의 안면을 인지할 수 있다. 도 11은 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 시스템(10)에 있어서, 안면 인지부(100)의 블럭도를 도시한 도면이다. 도 11에 도시된 바와 같이, 안면 인지부(100)는, 카메라를 통하여 이미지를 수집하는 이미지 수집 모듈(110), 및 이미지 수집 모듈(110)에서 수집된 이미지로부터 안면 부분의 이미지를 선별하는 안면 이미지 선별 모듈(120)을 포함하여 구성될 수 있다.
신원 인증부(200)는, 안면 인지부(100)에서 인지된 안면을 서버의 데이터베이스와 비교하여 사용자의 신원을 인증할 수 있다. 도 12는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 시스템(10)에 있어서, 신원 인증부(200)의 블럭도를 도시한 도면이다. 도 12에 도시된 바와 같이, 신원 인증부(200)는, 안면 인지부(100)에서 인지된 안면의 특징점을 추출하는 특징점 추출 모듈(210), EBGM(Elastic Bunch graph matching) 방법을 통하여 특징점 추출 모듈(210)에서 추출된 특징점들의 기하학적 정보로부터 번치 그래프를 생성하는 번치 그래프 생성 모듈(220), 및 번치 그래프 생성 모듈(220)에서 생성한 번치 그래프를 이용하여 사용자의 신원을 인증하는 인증 모듈(230)을 포함할 수 있다.
실시예에 따라서, 인증 모듈(230)은, 인지된 사용자 안면의 번치 그래프와 데이터베이스(DB)에 존재하는 번치 그래프들의 유사도를 비교하여 가장 유사도가 높은 번치 그래프에 해당하는 사람으로 사용자의 신원을 인증할 수 있다.
각각의 구성들과 관련된 상세한 내용들은, 앞서 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 방법과 관련하여 충분히 설명되었으므로, 상세한 설명은 생략하기로 한다.
전술한 바와 같이, 본 발명에서 제안하고 있는 사용자의 신원 파악이 가능한 심박동수 모니터링 방법 및 시스템에 따르면, 사용자의 신원을 파악할 수 있도록 하며, 카메라를 통하여 심박동수를 측정함으로써, 보다 쉽고 간편하게 사용자의 심박동수를 수집하고 처리할 수 있도록 한다.
이상 설명한 본 발명은 본 발명이 속한 기술분야에서 통상의 지식을 가진 자에 의하여 다양한 변형이나 응용이 가능하며, 본 발명에 따른 기술적 사상의 범위는 아래의 특허청구범위에 의하여 정해져야 할 것이다.
10: 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 심박동수 모니터링 시스템
100: 안면 인지부
110: 이미지 수집 모듈
120: 안면 이미지 선별 모듈
200: 신원 인증부
210: 특징점 추출 모듈
220: 번치 그래프 생성 모듈
230: 인증 모듈
300: 좌표 생성부
400: 심박동수 측정부
S100: 카메라를 통하여 수집한 이미지 시퀀스에서 사용자의 안면을 인지하는 단계
S200: 단계 S100에서 인지된 안면을 서버의 데이터베이스와 비교하여 사용자의 신원을 인증하는 단계
S300: 단계 S100에서 인지된 안면 데이터로부터, 안면의 특징점을 기반으로, 심박동수 측정을 위한 좌표를 생성하는 단계
S400: 단계 S300에서 생성된 좌표를 추적하여, 같은 부위의 색상변화를 이용하여 사용자의 심박동수를 측정하는 단계
100: 안면 인지부
110: 이미지 수집 모듈
120: 안면 이미지 선별 모듈
200: 신원 인증부
210: 특징점 추출 모듈
220: 번치 그래프 생성 모듈
230: 인증 모듈
300: 좌표 생성부
400: 심박동수 측정부
S100: 카메라를 통하여 수집한 이미지 시퀀스에서 사용자의 안면을 인지하는 단계
S200: 단계 S100에서 인지된 안면을 서버의 데이터베이스와 비교하여 사용자의 신원을 인증하는 단계
S300: 단계 S100에서 인지된 안면 데이터로부터, 안면의 특징점을 기반으로, 심박동수 측정을 위한 좌표를 생성하는 단계
S400: 단계 S300에서 생성된 좌표를 추적하여, 같은 부위의 색상변화를 이용하여 사용자의 심박동수를 측정하는 단계
Claims (20)
- 안면 인지부(100)와 신원 인증부(200)와 좌표 생성부(300)와 심박동수 측정부(400)를 구비하는 심박동수 모니터링 시스템(10)을 이용한 심박동수 모니터링 방법으로서,
(1) 안면 인지부(100)가 카메라를 통하여 수집한 이미지 시퀀스에서 사용자의 안면을 인지하는 단계;
(2) 신원 인증부(200)가 상기 단계 (1)에서 인지된 안면을 서버의 데이터베이스와 비교하여 사용자의 신원을 인증하는 단계;
(3) 좌표 생성부(300)가 상기 단계 (1)에서 인지된 안면 데이터로부터, 안면의 특징점을 기반으로, 심박동수 측정을 위한 좌표를 생성하는 단계; 및
(4) 심박동수 측정부(400)가 상기 단계 (3)에서 생성된 좌표를 추적하여, 사용자의 심박동수를 측정하는 단계를 포함하되,
상기 단계 (2)는,
(2-1) 상기 단계 (1)에서 인지된 안면의 특징점을 추출하는 단계;
(2-2) EBGM(Elastic Bunch graph matching) 방법을 통하여 상기 단계 (2-1)에서 추출된 특징점들의 기하학적 정보로부터 번치 그래프를 생성하는 단계; 및
(2-3) 상기 단계 (2-2)에서 생성한 번치 그래프를 이용하여 사용자의 신원을 인증하는 단계를 포함하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 심박동수 모니터링 방법.
- 제1항에 있어서, 상기 단계 (1)에서는,
이미지 시퀀스를 수집하기 위한 상기 카메라로서 웹캠(Webcam)을 사용하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 심박동수 모니터링 방법.
- 제1항에 있어서, 상기 단계 (1)은,
(1-1) 카메라를 통하여 이미지를 수집하는 단계; 및
(1-2) 상기 단계 (1-1)에서 수집된 이미지로부터 안면 부분의 이미지를 선별하는 단계를 포함하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 심박동수 모니터링 방법.
- 제3항에 있어서, 상기 단계 (1-2)에서는,
PCA(Principal Component Analysis)를 이용해서 얼굴 공통의 형태정보(Eigen face)를 형성하여, 상기 단계 (1-1)에서 수집된 이미지 중에서, 상기 형성된 얼굴 공통의 형태정보와 유사한 형태를 가지고 있는 부분을 사람의 안면 부분 이미지로 선별하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 심박동수 모니터링 방법.
- 삭제
- 제1항에 있어서, 상기 단계 (2-2)에서는,
가버(Gabor) 웨이블렛 함수를 통해 상기 특징점들의 가버(Gabor) 계수를 구하며, 각각의 특징점의 가버(Gabor) 계수들을 묶어 번치를 생성하고, 전체 안면의 특징점들의 번치를 모아 상기 번치 그래프를 생성하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 심박동수 모니터링 방법.
- 제1항에 있어서, 상기 단계 (2-3)에서는,
인지된 사용자 안면의 번치 그래프와 데이터베이스(DB)에 존재하는 번치 그래프들의 유사도를 비교하여 가장 유사도가 높은 번치 그래프에 해당하는 사람으로 사용자의 신원을 인증하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 심박동수 모니터링 방법.
- 제7항에 있어서, 상기 단계 (2-3)에서는,
Point matching 기법 중에서 Non-rigid matching 기법을 이용하여 유사도를 비교하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 심박동수 모니터링 방법.
- 제8항에 있어서, 상기 단계 (2-3)에서는,
상기 Non-rigid matching 기법을 이용하기 위하여 Topology Preserving Relaxation Labeling(TPRL) 알고리즘을 사용하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 심박동수 모니터링 방법.
- 제1항에 있어서, 상기 단계 (3)에서는,
상기 추출된 특징점을 기반으로 사용자의 뺨에 해당하는 부분에 심박동수 측정을 위한 좌표를 생성하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 심박동수 모니터링 방법.
- 제1항에 있어서, 상기 단계 (4)는,
(4-1) BSS(Blind Source Separation)를 사용하여 상기 단계 (1)에서 선별된 안면 부분의 이미지로부터 독립인자분석(Independent Component Analysis: ICA) 알고리즘을 이용하여 독립인자를 추출하는 단계;
(4-2) 상기 단계 (4-1)에서 추출된 독립인자로부터, 생체조직의 광학적 특성을 이용하여 혈관에 흐르는 혈류량을 측정함으로써 심박동 상태를 측정하도록 하는 신호인 광용적맥파(Photoplethysmography: PPG) 신호를 추출하는 단계; 및
(4-3) 상기 단계 (4-2)에서 추출된 광용적맥파(PPG) 신호로부터 심박동수를 측정하는 단계를 포함하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 심박동수 모니터링 방법.
- 제11항에 있어서, 상기 단계 (4-1)에서는,
상기 카메라의 RGB 채널로부터 세 개의 독립인자를 추출하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 심박동수 모니터링 방법.
- 제11항에 있어서, 상기 단계 (4-1)에서는,
상기 카메라의 COG(Cyan, Orange, Green) 채널로부터 세 개의 독립인자를 추출하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 심박동수 모니터링 방법.
- 제1항에 있어서, 상기 단계 (4)는,
상기 단계 (3)에서 생성된 심박동수 측정을 위한 좌표의, 광학적 특성에 따른 색상변화를 이용하여 사용자의 심박동수를 측정하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 심박동수 모니터링 방법.
- 심박동수 모니터링 시스템으로서,
카메라를 통하여 수집한 이미지 시퀀스에서 사용자의 안면을 인지하는 안면 인지부(100);
상기 안면 인지부(100)에서 인지된 안면을 서버의 데이터베이스와 비교하여 상기 사용자의 신원을 인증하는 신원 인증부(200);
상기 안면 인지부(100)에서 인지된 안면 데이터로부터, 안면의 특징점을 기반으로, 심박동수 측정을 위한 좌표를 생성하는 좌표 생성부(300); 및
상기 좌표 생성부(300)에서 생성된 좌표를 추적하여, 상기 사용자의 심박동수를 측정하는 심박동수 측정부(400)를 포함하되,
상기 신원 인증부(200)는,
상기 안면 인지부(100)에서 인지된 안면의 특징점을 추출하는 특징점 추출 모듈(210);
EBGM(Elastic Bunch graph matching) 방법을 통하여 상기 특징점 추출 모듈(210)에서 추출된 특징점들의 기하학적 정보로부터 번치 그래프를 생성하는 번치 그래프 생성 모듈(220); 및
상기 번치 그래프 생성 모듈(220)에서 생성한 번치 그래프를 이용하여 사용자의 신원을 인증하는 인증 모듈(230)을 포함하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 심박동수 모니터링 시스템(10).
- 제15항에 있어서, 상기 안면 인지부(100)는,
이미지 시퀀스를 수집하기 위한 상기 카메라로서 웹캠(Webcam)을 사용하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 심박동수 모니터링 시스템(10).
- 제15항에 있어서, 상기 안면 인지부(100)는,
카메라를 통하여 이미지를 수집하는 이미지 수집 모듈(110); 및
상기 이미지 수집 모듈(110)에서 수집된 이미지로부터 안면 부분의 이미지를 선별하는 안면 이미지 선별 모듈(120)을 포함하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 심박동수 모니터링 시스템(10).
- 삭제
- 제15항에 있어서, 상기 인증 모듈(230)은,
인지된 사용자 안면의 번치 그래프와 데이터베이스(DB)에 존재하는 번치 그래프들의 유사도를 비교하여 가장 유사도가 높은 번치 그래프에 해당하는 사람으로 사용자의 신원을 인증하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 심박동수 모니터링 시스템(10).
- 제15항에 있어서, 상기 인증 모듈(230)은,
Point matching 기법 중에서 Non-rigid matching 기법을 이용하기 위하여 Topology Preserving Relaxation Labeling(TPRL) 알고리즘을 사용하여 유사도를 비교하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 심박동수 모니터링 시스템(10).
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020180074958A KR102132959B1 (ko) | 2018-06-28 | 2018-06-28 | 사용자의 신원 파악이 가능한 심박동수 모니터링 방법 및 시스템 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020180074958A KR102132959B1 (ko) | 2018-06-28 | 2018-06-28 | 사용자의 신원 파악이 가능한 심박동수 모니터링 방법 및 시스템 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20200001877A KR20200001877A (ko) | 2020-01-07 |
| KR102132959B1 true KR102132959B1 (ko) | 2020-07-13 |
Family
ID=69153644
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020180074958A KR102132959B1 (ko) | 2018-06-28 | 2018-06-28 | 사용자의 신원 파악이 가능한 심박동수 모니터링 방법 및 시스템 |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR102132959B1 (ko) |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR101074953B1 (ko) * | 2010-08-30 | 2011-10-18 | 세종대학교산학협력단 | Ｐｃａ와 가버 웨이블렛을 사용한 혼합형 얼굴 인식 방법 및 시스템 |
| KR101783713B1 (ko) * | 2016-04-05 | 2017-10-10 | 계명대학교 산학협력단 | 안면인식을 통해 사용자 인증 및 비접촉 맥박 측정을 동시에 할 수 있는 시스템 및 방법 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9504391B2 (en) * | 2013-03-04 | 2016-11-29 | Microsoft Technology Licensing, Llc | Determining pulse transit time non-invasively using handheld devices |
-
2018
- 2018-06-28 KR KR1020180074958A patent/KR102132959B1/ko active IP Right Grant
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR101074953B1 (ko) * | 2010-08-30 | 2011-10-18 | 세종대학교산학협력단 | Ｐｃａ와 가버 웨이블렛을 사용한 혼합형 얼굴 인식 방법 및 시스템 |
| KR101783713B1 (ko) * | 2016-04-05 | 2017-10-10 | 계명대학교 산학협력단 | 안면인식을 통해 사용자 인증 및 비접촉 맥박 측정을 동시에 할 수 있는 시스템 및 방법 |
Also Published As
| Publication number | Publication date |
|---|---|
| KR20200001877A (ko) | 2020-01-07 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Sanyal et al. | Algorithms for monitoring heart rate and respiratory rate from the video of a user’s face | |
| US10818010B2 (en) | Device, system and method for skin detection | |
| US10004410B2 (en) | System and methods for measuring physiological parameters | |
| EP3664704B1 (en) | Device, system and method for determining a physiological parameter of a subject | |
| KR101738278B1 (ko) | 영상을 이용한 감정 인식 방법 | |
| Sinhal et al. | An overview of remote photoplethysmography methods for vital sign monitoring | |
| EP3440991A1 (en) | Device, system and method for determining a physiological parameter of a subject | |
| KR101644843B1 (ko) | 얼굴의 온도분포 특이성을 이용한 상태 분석 방법 | |
| Fan et al. | Non-contact remote estimation of cardiovascular parameters | |
| US20180303351A1 (en) | Systems and methods for optimizing photoplethysmograph data | |
| Wang | Robust and automatic remote photoplethysmography | |
| Hassan et al. | Video-based heartbeat rate measuring method using ballistocardiography | |
| Nowara et al. | The benefit of distraction: Denoising remote vitals measurements using inverse attention | |
| Gupta et al. | Accurate heart-rate estimation from face videos using quality-based fusion | |
| Liu et al. | Detecting pulse wave from unstable facial videos recorded from consumer-level cameras: A disturbance-adaptive orthogonal matching pursuit | |
| KR102123121B1 (ko) | 사용자의 신원 파악이 가능한 혈압 모니터링 방법 및 시스템 | |
| Malasinghe et al. | A comparative study of common steps in video-based remote heart rate detection methods | |
| KR102132959B1 (ko) | 사용자의 신원 파악이 가능한 심박동수 모니터링 방법 및 시스템 | |
| Ben Salah et al. | Contactless heart rate estimation from facial video using skin detection and multi-resolution analysis | |
| Suriani et al. | Non-contact Facial based Vital Sign Estimation using Convolutional Neural Network Approach | |
| Kim et al. | The non-contact biometric identified bio signal measurement sensor and algorithms | |
| Talukdar et al. | Evaluation of a camera-based monitoring solution against regulated medical devices to measure heart rate, respiratory rate, oxygen saturation, and blood pressure | |
| KR102035172B1 (ko) | 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법 및 시스템 | |
| Saxena | A Non-Contact Based System to Measure SPO2 and Systolic/Diastolic Blood Pressure using Rgb-Nir Camera | |
| Kim et al. | A novel non-contact heart rate estimation algorithm and system with user identification |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination | ||
| E902 | Notification of reason for refusal | ||
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |