KR102035172B1 - Blood oxygen saturation rate monitoring method that can identify the user and blood oxygen saturation rate monitoring system that can identify the user - Google Patents
Blood oxygen saturation rate monitoring method that can identify the user and blood oxygen saturation rate monitoring system that can identify the user Download PDFInfo
- Publication number
- KR102035172B1 KR102035172B1 KR1020180075075A KR20180075075A KR102035172B1 KR 102035172 B1 KR102035172 B1 KR 102035172B1 KR 1020180075075 A KR1020180075075 A KR 1020180075075A KR 20180075075 A KR20180075075 A KR 20180075075A KR 102035172 B1 KR102035172 B1 KR 102035172B1
- Authority
- KR
- South Korea
- Prior art keywords
- oxygen saturation
- blood oxygen
- user
- face
- image
- Prior art date
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/145—Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue
- A61B5/1455—Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters
- A61B5/14551—Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters for measuring blood gases
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0077—Devices for viewing the surface of the body, e.g. camera, magnifying lens
-
- G06K9/00268—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
-
- G06K2009/00932—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/14—Vascular patterns
Abstract
Description
본 발명은 혈중 산소포화도 모니터링 방법 및 시스템에 관한 것으로서, 특히 사용자의 신원 파악이 가능한 실시간 혈중 산소포화도 모니터링 방법 및 시스템에 관한 것이다.The present invention relates to a method and system for monitoring blood oxygen saturation, and more particularly, to a method and system for monitoring blood oxygen saturation in real time.
환자 모니터링 시스템은, 환자의 건강 상태에 대한 연속적이고 집중적인 모니터링을 위한 시스템으로서, 이를 위해 환자 감시 모니터(bedside monitor)가 주요한 의료 장비로 활용되고 있다. 환자 모니터링 시스템은 환자의 감시에 수반되는 인력과 노력 및 부담의 절감이라는 효과를 가지며, 신속한 환자 상태 파악을 통해 의료진의 적절한 대처를 가능하게 한다. 환자 감시 모니터링 시스템의 기본적인 기능은 환자에 부착된 각종 센서들로부터 환자의 생체 신호들을 수집하고 처리하여 분석하는 기능을 한다.
A patient monitoring system is a system for continuous and intensive monitoring of a patient's health condition, and a bedside monitor is used as a main medical device for this purpose. The patient monitoring system has the effect of reducing the manpower, effort, and burden associated with the surveillance of the patient, and enables the medical staff to respond appropriately through rapid patient status. The basic function of the patient surveillance monitoring system is to collect, process and analyze the patient's vital signals from various sensors attached to the patient.
도 1은 기존의 환자 모니터링 시스템을 나타낸 도면이다. 도 1에 도시된 바와 같이 일반적으로 환자 모니터링 시스템의 경우 병원 내 입원한 환자들을 대상으로 한다. 이러한 모니터링 시스템의 경우, 퇴원한 환자를 위한 건강관리나 병원을 방문한 적 없는 일반인을 위한 시스템으로는 부적합하다.
1 is a view showing a conventional patient monitoring system. As shown in FIG. 1, a patient monitoring system generally targets hospitalized patients. Such a monitoring system is not suitable for health care for discharged patients or for the general public who has never visited a hospital.
현재의 의료시스템은 질병의 치료보다는 예방에 중점을 두고 있으며, 질병 예방을 위해서는 환자의 정확한 생체데이터 측정과 그 생체데이터를 기반으로 한 신속한 케어가 필요하다. 이러한 의료 시스템의 변화에 따라, 환자의 정확한 생체데이터 측정을 위하여, 의료기기들이 점점 소형화와 간소화 되고 있으며, 착용형 기기나 체내 삽입형 기기들이 많이 개발되고 있다.
The current medical system focuses on prevention rather than the treatment of diseases, and the prevention of disease requires accurate measurement of the patient's biometric data and prompt care based on the biometric data. As the medical system changes, medical devices are increasingly miniaturized and simplified for accurate measurement of biometric data of patients, and many wearable devices or implantable devices are being developed.
도 2는 소형화와 간소화된 착용형 생체신호 모니터링 시스템을 나타낸 도면이다. 도 2에 도시된 바와 같이, 소형화 간소화된 모니터링 기기들은 환자가 병원을 방문 하지 않아도 쉽게 환자의 데이터를 측정할 수 있는 장점을 가지며 거의 24시간 동안 데이터를 측정할 수 있는 장점을 가지고 있다. 하지만 현재 개발되고 있는 착용형 기기나 체내 삽입형 기기 또한 보완해야 할 점이 있다.
2 illustrates a miniaturized and simplified wearable biosignal monitoring system. As shown in FIG. 2, miniaturized and simplified monitoring devices have an advantage of easily measuring patient data without having to visit a hospital and have an advantage of measuring data for almost 24 hours. However, wearable devices and implantable devices that are currently being developed also need to be supplemented.
착용형 생체신호 모니터링 기기의 경우 간소화 되고 소형화 되었다고는 하지만 착용한 상태에서 일상생활을 하는 것에 아직 어려움이 있으며, 또한 기기를 착용하여 측정한 데이터의 신원을 정확히 파악하기 어려운 단점을 가지고 있다. 체내 삽입형 기기의 경우, 신체 내부에 삽입을 하여야 하는 만큼 소재선택에 어려움이 있으며 인체와의 적합성을 고려하여야 하는 문제점이 있다. 또한 배터리 문제로 인하여 주기적으로 교체해주어야 하는 번거로움이 있다.
Wearable biosignal monitoring devices have been simplified and miniaturized, but they still have difficulty in daily life while wearing them, and also have difficulty in accurately identifying the identity of data measured by wearing the device. In the case of a device inserted into the body, it is difficult to select a material as it must be inserted into the body, and there is a problem of considering compatibility with the human body. There is also a hassle that needs to be replaced periodically due to battery problems.
이러한 문제점들로 인하여 요즘은 신체에 부착하거나 삽입하는 것보다 환자가 편히 느낄 수 있도록 아무런 조작 없이 생체 신호를 측정하는 방법에 대해서 연구가 진행 되고 있다. 대표적인 예로 스마트폰 카메라를 이용한 심박동수 측정이나 산소포화도 측정이 있다. 카메라 영상을 이용한 생체데이터 측정은 환자로 하여금 별다른 조작 없이 생체 데이터를 측정할 수 있도록 한다. 이를 이용하여 실시간으로 환자를 감시할 수 있으며 환자의 급성질환에 대해서 즉각적으로 반응을 할 수 있다. 또한 지속적이고 꾸준한 생체데이터 측정이 가능한 바, 이는 환자의 상태에 대해 좀 더 정확하게 파악할 수 있도록 하며 환자에게 발생할 수 있는 질병의 예방에 큰 도움이 될 수 있다.
Due to these problems, research is now being conducted on how to measure bio signals without any manipulation so that the patient feels more comfortable than attaching or inserting the body. Typical examples include measuring heart rate or oxygen saturation using a smartphone camera. Biometric data measurement using a camera image allows a patient to measure biometric data without any manipulation. This can be used to monitor the patient in real time and to respond immediately to the patient's acute disease. In addition, continuous and consistent measurement of biometric data is possible, which can help to understand the patient's condition more accurately and can be a great help in preventing diseases that may occur in the patient.
이러한 상황을 나타내는 것으로서, U-헬스케어 시스템이라는 이름으로 인터넷이나 모바일 등의 통신기술과 융합하여 시간과 장소의 제약 없이 이용자에게 건강에 대한 정보를 제공하는 시스템이 있다. 과거의 헬스케어 시스템은 특정 환자에 대한 치료를 목적으로 하였다면 이제는 개개인의 상태에 따라 일상적으로 이용자의 건강을 관리하는 영역으로 확대되고 있다. 이처럼 사용자의 확대에 따라서 U-헬스케어 시장은 매년 급속도로 성장하였으며, 헬스케어 시스템은 스마트폰과 함께 사물간 인터넷이 연결되어 정보를 교환하는 IoT 기술과 함께 실생활에 깊게 스며들고 있다.
In order to indicate such a situation, there is a system that provides information about health to a user without restriction of time and place by fusion with communication technology such as the Internet or mobile under the name of U-healthcare system. In the past, healthcare systems were aimed at treating specific patients. Now, the health care system is expanding to the area of managing the health of users on a daily basis according to the individual's condition. As the user expands, the U-healthcare market has grown rapidly every year, and the healthcare system is deeply penetrating real life with IoT technology that exchanges information by connecting the Internet of Things with smartphones.
한편, 본 발명과 관련된 선행기술로서, 대한민국 공개특허공보 제10-2013-0118512호(발명의 명칭: 얼굴 인식을 통한 환자 상태 모니터링 시스템 및 이를 이용한 환자 상태 모니터링 서비스 제공 방법) 및 대한민국 공개특허공보 제10-2015-0039113호(발명의 명칭: 생체 신호에 기초하여 컨텐츠를 처리하는 방법, 및 그에 따른 디바이스) 등이 개시된 바 있다.On the other hand, as the prior art related to the present invention, Korean Patent Application Publication No. 10-2013-0118512 (name of the invention: a patient condition monitoring system and a patient condition monitoring service providing method using the same) and Republic of Korea Patent Publication 10-2015-0039113 (name of the invention: a method for processing content based on a biosignal, and a device according thereto) has been disclosed.
본 발명은 기존에 제안된 방법들의 상기와 같은 문제점들을 해결하기 위해 제안된 것으로서, 사용자의 신원을 파악할 수 있도록 하며, 손가락에 착용하는 별도의 기기 없이 카메라를 통하여 혈중 산소포화도를 측정함으로써, 병원이라는 장소적 제약 없이 보다 쉽고 간편하게 사용자의 혈중 산소포화도를 수집하고 처리할 수 있는, 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법 및 시스템을 제공하는 것을 그 목적으로 한다.The present invention has been proposed to solve the above problems of the conventionally proposed methods, to identify the user's identity, and by measuring the blood oxygen saturation through the camera without a separate device worn on the finger, such as hospital It is an object of the present invention to provide a blood oxygen saturation monitoring method and system capable of identifying a user, which can collect and process blood oxygen saturation of a user more easily and conveniently without location limitations.
상기한 목적을 달성하기 위한 본 발명의 특징에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법은,Blood oxygen saturation monitoring method capable of identifying the user according to the characteristics of the present invention for achieving the above object,
혈중 산소포화도 모니터링 방법으로서,As a blood oxygen saturation monitoring method,
(1) 카메라를 통하여 수집한 이미지 시퀀스에서 사용자의 안면을 인지하는 단계;(1) recognizing a face of a user in an image sequence collected through a camera;
(2) 상기 단계 (1)에서 인지된 안면을 서버의 데이터베이스와 비교하여 사용자의 신원을 인증하는 단계;(2) authenticating the user's identity by comparing the face recognized in step (1) with a database of a server;
(3) 상기 단계 (1)에서 인지된 안면 데이터로부터, 안면의 특징점을 기반으로, 혈중 산소포화도 측정을 위한 좌표를 생성하는 단계; 및(3) generating coordinates for measuring blood oxygen saturation based on facial feature points from the facial data recognized in step (1); And
(4) 상기 단계 (3)에서 생성된 좌표를 추적하여, 사용자의 혈중 산소포화도를 측정하는 단계를 포함하는 것을 그 구성상의 특징으로 한다.
(4) characterized in that it comprises the step of tracking the coordinates generated in the step (3), measuring the blood oxygen saturation level of the user.
바람직하게는, 상기 단계 (1)에서는,Preferably, in step (1),
이미지 시퀀스를 수집하기 위한 상기 카메라로서 웹캠(Webcam)을 사용할 수 있다.
A webcam may be used as the camera for collecting the image sequence.
바람직하게는, 상기 단계 (1)은,Preferably, step (1) is
(1-1) 카메라를 통하여 이미지를 수집하는 단계; 및(1-1) collecting an image through a camera; And
(1-2) 상기 단계 (1-1)에서 수집된 이미지로부터 안면 부분의 이미지를 선별하는 단계를 포함할 수 있다.
(1-2) may include the step of selecting an image of the face portion from the image collected in the step (1-1).
더 바람직하게는, 상기 단계 (1-2)에서는,More preferably, in the step (1-2),
PCA(Principal Component Analysis)를 이용해서 얼굴 공통의 형태정보(Eigen face)를 형성하여, 상기 단계 (1-1)에서 수집된 이미지 중에서, 상기 형성된 얼굴 공통의 형태정보와 유사한 형태를 가지고 있는 부분을 사람의 안면 부분 이미지로 선별할 수 있다.
By using PCA (Principal Component Analysis) to form a common face information (Eigen face), from the image collected in the step (1-1), the portion having a similar shape to the shape information common to the formed face It can be screened with human facial images.
바람직하게는, 상기 단계 (2)는,Preferably, the step (2) is,
(2-1) 상기 단계 (1)에서 인지된 안면의 특징점을 추출하는 단계;(2-1) extracting facial feature points recognized in step (1);
(2-2) EBGM(Elastic Bunch graph matching) 방법을 통하여 상기 단계 (2-1)에서 추출된 특징점들의 기하학적 정보로부터 번치 그래프를 생성하는 단계; 및(2-2) generating a bunch graph from the geometric information of the feature points extracted in the step (2-1) through an elastic bundle graph matching (EBGM) method; And
(2-3) 상기 단계 (2-2)에서 생성한 번치 그래프를 이용하여 사용자의 신원을 인증하는 단계를 포함할 수 있다.
(2-3) It may include the step of authenticating the identity of the user using the bunch graph generated in the step (2-2).
더 바람직하게는, 상기 단계 (2-2)에서는,More preferably, in the step (2-2),
가버(Gabor) 웨이블렛 함수를 통해 상기 특징점들의 가버(Gabor) 계수를 구하며, 각각의 특징점의 가버(Gabor) 계수들을 묶어 번치를 생성하고, 전체 안면의 특징점들의 번치를 모아 상기 번치 그래프를 생성할 수 있다.
The Gabor coefficients of the feature points may be obtained through a Gabor wavelet function, the Gabor coefficients of each feature point may be bundled to generate a bunch, and the bunch of the feature points of the entire face may be collected to generate the bunch graph. have.
더 바람직하게는, 상기 단계 (2-3)에서는,More preferably, in the step (2-3),
인지된 사용자 안면의 번치 그래프와 데이터베이스(DB)에 존재하는 번치 그래프들의 유사도를 비교하여 가장 유사도가 높은 번치 그래프에 해당하는 사람으로 사용자의 신원을 인증할 수 있다.
The identity of the user may be authenticated as a person corresponding to the highest degree of bunch graph by comparing the degree of similarity between the recognized bunch face graph and the bunch graph existing in the database.
더더욱 바람직하게는, 상기 단계 (2-3)에서는,Even more preferably, in the step (2-3),
Point matching 기법 중에서 Non-rigid matching 기법을 이용하여 유사도를 비교할 수 있다.
Among the point matching techniques, the similarity can be compared using the non-rigid matching technique.
더더더욱 바람직하게는, 상기 단계 (2-3)에서는,Even more preferably, in the step (2-3),
상기 Non-rigid matching 기법을 이용하기 위하여 Topology Preserving Relaxation Labeling(TPRL) 알고리즘을 사용할 수 있다.
Topology Preserving Relaxation Labeling (TPRL) algorithm may be used to use the non-rigid matching technique.
바람직하게는, 상기 단계 (3)에서는,Preferably, in step (3),
추출된 특징점을 기반으로 사용자의 뺨에 해당하는 부분에 혈중 산소포화도 측정을 위한 좌표를 생성할 수 있다.
Based on the extracted feature points, coordinates for measuring blood oxygen saturation may be generated at a portion corresponding to the cheek of the user.
바람직하게는, 상기 단계 (4)는,Preferably, step (4),
(4-1) 제1 광원 및 제2 광원에서 상기 단계 (3)에서 생성된 좌표에 교대로 빛을 조사하는 단계;(4-1) irradiating light alternately to the coordinates generated in step (3) in the first and second light sources;
(4-2) 상기 단계 (4-1)에서 조사된 빛을 촬영하는 단계; 및(4-2) photographing the light irradiated in the step (4-1); And
(4-3) 상기 단계 (4-2)에서 촬영된 이미지로부터 혈중 산소포화도를 분석하는 단계를 포함할 수 있다.
(4-3) may include analyzing the oxygen saturation in the blood from the image taken in the step (4-2).
더 바람직하게는, 상기 단계 (4-1)에서는,More preferably, in the step (4-1),
상기 제1 광원 및 제2 광원에서 상기 단계 (3)에서 생성된 좌표에 교대로 서로 다른 파장을 가지는 빛을 조사할 수 있다.
The first light source and the second light source may irradiate light having different wavelengths alternately with respect to the coordinates generated in step (3).
더더욱 바람직하게는,Even more preferably,
상기 제1 광원에서는 765㎚의 파장을 가지는 빛이 조사되며,In the first light source, light having a wavelength of 765 nm is irradiated.
상기 제2 광원에서는 880㎚의 파장을 가지는 빛이 조사될 수 있다.
Light having a wavelength of 880 nm may be irradiated from the second light source.
또한, 상기한 목적을 달성하기 위한 본 발명의 특징에 따른, 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 시스템은,In addition, according to the characteristics of the present invention for achieving the above object, the blood oxygen saturation monitoring system capable of identifying the user,
혈중 산소포화도 모니터링 시스템으로서,Blood oxygen saturation monitoring system,
카메라를 통하여 수집한 이미지 시퀀스에서 사용자의 안면을 인지하는 안면 인지부;Facial recognition unit for recognizing the user's face in the image sequence collected through the camera;
상기 안면 인지부에서 인지된 안면을 서버의 데이터베이스와 비교하여 상기 사용자의 신원을 인증하는 신원 인증부;An identity authentication unit for authenticating the user's identity by comparing the face recognized by the facial recognition unit with a database of a server;
상기 안면 인지부에서 인지된 안면 데이터로부터, 안면의 특징점을 기반으로, 혈중 산소포화도 측정을 위한 좌표를 생성하는 좌표 생성부; 및A coordinate generator configured to generate coordinates for measuring blood oxygen saturation based on facial feature points from facial data recognized by the facial recognizer; And
상기 좌표 생성부에서 생성된 좌표를 추적하여, 상기 사용자의 혈중 산소포화도를 측정하는 혈중 산소포화도 측정부를 포함하는 것을 그 구성상의 특징으로 한다.
It is characterized in that it comprises a blood oxygen saturation measuring unit for tracking the coordinates generated by the coordinate generating unit, measuring the blood oxygen saturation degree of the user.
바람직하게는, 상기 안면 인지부는,Preferably, the face recognition unit,
이미지 시퀀스를 수집하기 위한 상기 카메라로서 웹캠(Webcam)을 사용할 수 있다.
A webcam may be used as the camera for collecting the image sequence.
바람직하게는, 상기 안면 인지부는,Preferably, the face recognition unit,
카메라를 통하여 이미지를 수집하는 이미지 수집 모듈; 및An image acquisition module for collecting an image through a camera; And
상기 이미지 수집 모듈에서 수집된 이미지로부터 안면 부분의 이미지를 선별하는 안면 이미지 선별 모듈을 포함할 수 있다.
It may include a face image screening module for screening the image of the face portion from the image collected by the image collection module.
바람직하게는, 상기 신원 인증부는,Preferably, the identity authentication unit,
상기 안면 인지부에서 인지된 안면의 특징점을 추출하는 특징점 추출 모듈;A feature point extraction module for extracting feature points of a face recognized by the face recognition unit;
EBGM(Elastic Bunch graph matching) 방법을 통하여 상기 특징점 추출 모듈에서 추출된 특징점들의 기하학적 정보로부터 번치 그래프를 생성하는 번치 그래프 생성 모듈; 및A bunch graph generation module for generating a bunch graph from the geometric information of the feature points extracted by the feature point extraction module through an elastic bundle graph matching (EBGM) method; And
상기 번치 그래프 생성 모듈에서 생성한 번치 그래프를 이용하여 사용자의 신원을 인증하는 인증 모듈을 포함할 수 있다.
It may include an authentication module for authenticating the user's identity using the bunch graph generated by the bunch graph generation module.
더 바람직하게는, 상기 인증 모듈은,More preferably, the authentication module,
인지된 사용자 안면의 번치 그래프와 데이터베이스(DB)에 존재하는 번치 그래프들의 유사도를 비교하여 가장 유사도가 높은 번치 그래프에 해당하는 사람으로 사용자의 신원을 인증할 수 있다.
The identity of the user may be authenticated as a person corresponding to the highest degree of bunch graph by comparing the degree of similarity between the recognized bunch face graph and the bunch graph existing in the database.
더더욱 바람직하게는, 상기 인증 모듈은,Even more preferably, the authentication module,
Point matching 기법 중에서 Non-rigid matching 기법을 이용하기 위하여 Topology Preserving Relaxation Labeling(TPRL) 알고리즘을 사용하여 유사도를 비교할 수 있다.
Among the point matching techniques, similarity can be compared using Topology Preserving Relaxation Labeling (TPRL) algorithm to use non-rigid matching technique.
바람직하게는, 혈중 산소포화도 측정부는,Preferably, the blood oxygen saturation measuring unit,
상기 좌표 생성부에서 생성된 좌표에 교대로 빛을 조사하는 제1 광원 및 제2 광원;A first light source and a second light source that irradiate light alternately with the coordinates generated by the coordinate generator;
상기 제1 광원 및 제2 광원에서 조사된 빛을 촬영하는 촬영 모듈; 및An imaging module for photographing light emitted from the first and second light sources; And
상기 촬영 모듈에서 촬영된 이미지로부터 혈중 산소포화도를 분석하는 분석 모듈을 포함할 수 있다.It may include an analysis module for analyzing the oxygen saturation in the blood from the image taken by the imaging module.
본 발명에서 제안하고 있는 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법 및 시스템에 따르면, 사용자의 신원을 파악할 수 있도록 하며, 손가락에 착용하는 별도의 기기 없이 카메라를 통하여 혈중 산소포화도를 측정함으로써, 병원이라는 장소적 제약 없이 보다 쉽고 간편하게 사용자의 혈중 산소포화도를 수집하고 처리할 수 있다.According to the method and system for monitoring the blood oxygen saturation degree that can identify the user's identity proposed in the present invention, it is possible to determine the user's identity, by measuring the blood oxygen saturation level through the camera without a separate device worn on the finger, hospital Users can collect and process oxygen saturation in the blood more easily and conveniently without the restriction of place.
도 1은 기존의 환자 모니터링 시스템을 나타낸 도면.
도 2는 소형화와 간소화된 착용형 생체신호 모니터링 시스템을 나타낸 도면.
도 3은 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법의 흐름을 도시한 도면.
도 4는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법을 도식화한 도면.
도 5는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법에서, 단계 S100의 세부적인 흐름을 도시한 도면.
도 6은 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법에 있어서, 단계 S120을 설명하기 위해 도시한 도면.
도 7은 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법에서, 단계 S200의 세부적인 흐름을 도시한 도면.
도 8은 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법에서, 단계 S200을 설명하기 위해 도시한 도면.
도 9는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법에서, 단계 S400의 세부적인 흐름을 도시한 도면.
도 10은 본 발명의 다른 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법에서, 단계 S400을 설명하기 위해 도시한 도면.
도 11은 혈중 산소포화도 측정기기를 나타낸 도면.
도 12는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 시스템의 블록도를 도시한 도면.
도 13은 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 시스템에서, 안면 인지부의 블럭도를 도시한 도면.
도 14는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 시스템에서, 신원 인증부의 블럭도를 도시한 도면.
도 15는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 시스템에서, 혈중 산소포화도 측정부의 블록도를 도시한 도면.1 illustrates an existing patient monitoring system.
2 illustrates a miniaturized and simplified wearable biosignal monitoring system.
3 is a view showing the flow of blood oxygen saturation monitoring method capable of identifying the user according to an embodiment of the present invention.
Figure 4 is a diagram illustrating a blood oxygen saturation monitoring method capable of identifying the user according to an embodiment of the present invention.
5 is a diagram illustrating a detailed flow of step S100 in the blood oxygen saturation monitoring method capable of identifying a user according to an embodiment of the present invention.
6 is a view illustrating a step S120 in the blood oxygen saturation monitoring method capable of identifying a user according to an embodiment of the present invention.
7 is a diagram illustrating a detailed flow of step S200 in the blood oxygen saturation monitoring method capable of identifying a user according to an embodiment of the present invention.
8 is a view illustrating a step S200 in the blood oxygen saturation monitoring method capable of identifying a user according to an embodiment of the present invention.
9 is a diagram illustrating a detailed flow of step S400 in the blood oxygen saturation monitoring method capable of identifying a user according to an embodiment of the present invention.
10 is a view illustrating a step S400 in the blood oxygen saturation monitoring method capable of identifying a user according to another embodiment of the present invention.
11 is a view showing a blood oxygen saturation measuring device.
12 is a block diagram of a blood oxygen saturation monitoring system capable of identifying a user according to an embodiment of the present invention.
FIG. 13 is a block diagram illustrating a facial recognition unit in a blood oxygen saturation monitoring system capable of identifying a user according to an embodiment of the present invention.
14 is a block diagram illustrating an identity authentication unit in a blood oxygen saturation monitoring system capable of identifying a user according to an embodiment of the present invention.
FIG. 15 is a block diagram of a blood oxygen saturation measuring system in a blood oxygen saturation monitoring system capable of identifying a user according to an embodiment of the present invention.
이하에서는 첨부된 도면을 참조하여 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 바람직한 실시예를 상세히 설명한다. 다만, 본 발명의 바람직한 실시예를 상세하게 설명함에 있어, 관련된 공지 기능 또는 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략한다. 또한, 유사한 기능 및 작용을 하는 부분에 대해서는 도면 전체에 걸쳐 동일 또는 유사한 부호를 사용한다.
Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings so that those skilled in the art may easily implement the present invention. However, in describing the preferred embodiment of the present invention in detail, if it is determined that the detailed description of the related known function or configuration may unnecessarily obscure the subject matter of the present invention, the detailed description thereof will be omitted. In addition, the same or similar reference numerals are used throughout the drawings for parts having similar functions and functions.
덧붙여, 명세서 전체에서, 어떤 부분이 다른 부분과 ‘연결’되어 있다고 할 때, 이는 ‘직접적으로 연결’되어 있는 경우뿐만 아니라, 그 중간에 다른 소자를 사이에 두고 ‘간접적으로 연결’되어 있는 경우도 포함한다. 또한, 어떤 구성요소를 ‘포함’한다는 것은, 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있다는 것을 의미한다.
In addition, throughout the specification, when a part is 'connected' to another part, it is not only 'directly connected' but also 'indirectly connected' with another element in between. Include. In addition, the term 'comprising' of an element means that the element may further include other elements, not to exclude other elements unless specifically stated otherwise.
도 3은 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법의 흐름을 도시한 도면이며, 도 4는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법을 도식화한 도면이다. 도 3 및 도 4에 도시된 바와 같이, 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법은, 카메라를 통하여 수집한 이미지 시퀀스에서 사용자의 안면을 인지하는 단계(S100), 단계 S100에서 인지된 안면을 서버의 데이터베이스와 비교하여 사용자의 신원을 인증하는 단계(S200), 단계 S100에서 인지된 안면 데이터로부터, 안면의 특징점을 기반으로, 혈중 산소포화도 측정을 위한 좌표를 생성하는 단계(S300), 및 단계 S300에서 생성된 좌표를 추적하여, 사용자의 혈중 산소포화도를 측정하는 단계(S400)을 포함하여 구현될 수 있다.
3 is a view showing the flow of blood oxygen saturation monitoring method capable of identifying the user according to an embodiment of the present invention, Figure 4 is a blood oxygen saturation diagram capable of identifying the user in accordance with an embodiment of the present invention A diagram illustrating a monitoring method. 3 and 4, the blood oxygen saturation monitoring method for identifying the user according to an embodiment of the present invention, step of recognizing the user's face in the image sequence collected through the camera (S100) In step S100, a user authenticates the user's identity by comparing the face recognized with the database of the server (S200). Based on the facial feature points, the coordinates for measuring blood oxygen saturation are generated from the facial data recognized in step S100. In step S300, and by tracking the coordinates generated in step S300, it may be implemented, including the step of measuring the blood oxygen saturation level of the user (S400).
실시예에 따라서, 단계 S100에서는 이미지 시퀀스를 수집하기 위한 카메라로서 웹캠(Webcam)을 사용할 수 있다. 웹캠을 이용하는 경우, 인지된 안면 데이터로부터 얼굴영역을 정의한 뒤 혈중 산소포화도를 측정할 수 있는바, 사용자 혼자 있는 경우뿐만 아니라 다수의 사람이 있는 상황에서도 카메라를 통한 혈중 산소포화도 측정이 가능할 수 있다.
According to an embodiment, in step S100, a webcam may be used as a camera for collecting an image sequence. In the case of using a webcam, blood oxygen saturation can be measured after defining a face region from the recognized facial data, and the blood oxygen saturation can be measured by a camera even when there are a large number of people as well as when the user is alone.
도 5는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법에서, 단계 S100의 세부적인 흐름을 도시한 도면이다. 단계 S100은, 보다 구체적으로, 카메라를 통해 이미지를 수집하는 단계(S110), 및 수집된 이미지로부터 안면 부분의 이미지를 선별하는 단계(S120)를 포함할 수 있다.
5 is a diagram illustrating a detailed flow of step S100 in the blood oxygen saturation monitoring method capable of identifying the user according to an embodiment of the present invention. In more detail, step S100 may include collecting an image through a camera (S110), and selecting an image of a face portion from the collected image (S120).
단계 S120은, PCA(Principal Component Analysis)를 이용해서 얼굴 공통의 형태정보(Eigen face)를 형성하여, 카메라를 통해 수집된 이미지 중에서, 앞서 형성된 얼굴 공통의 형태정보와 유사한 형태를 가지고 있는 부분을 사람의 안면 부분 이미지로 선별하는 단계일 수 있다. 보다 구체적으로 살펴보면, 단계 S120에서는, PCA를 이용해서 Eigen face(얼굴 공통의 형태 정보)를 형성하여 입력 영상 중에서 이와 유사한 형태를 가지고 있는 부분을 사람의 얼굴이라고 지정하여 추적할 수 있다.
Step S120 forms a common face information (Eigen face) using a PCA (Principal Component Analysis), and the person having a shape similar to the previously formed face shape information among the images collected by the camera. The screen may be selected as a partial image of the face. In more detail, in step S120, an Eigen face (face common shape information) may be formed using PCA, and a part having a similar shape in the input image may be designated as a human face and tracked.
카메라를 통해 수집된 이미지 중에서, 앞서 형성된 얼굴 공통의 형태정보와 유사한 형태를 가지고 있는 부분을 사람의 안면 부분 이미지로 선별한다는 것은, 보다 구체적으로, 얼굴 공통의 형태정보로부터 눈, 코, 입과 같은 특징적 부위의 형태를 특정한 후, 수집된 이미지 중에서 특징적 부위에 대응하는 부분을 판별하여, 대응되는 유사도가 높은 영역을 사람의 얼굴(안면) 부분 이미지로 선별하는 것일 수 있다.
Among the images collected by the camera, selecting a part having a similar shape to the previously formed face shape information as a face part image of a human is more specifically, such as eyes, nose, mouth, etc. After specifying the shape of the characteristic part, the part corresponding to the characteristic part may be determined from the collected images, and the region having a high similarity may be selected as the face (face) part image of the human.
PCA는 평균과 분산까지의 통계적 성질을 이용한 2차 통계적 기법이다. PCA는 입력 자료에 대하여 최대공분산의 각 방향을 가리키는 직교 정규화된 일련의 축들의 집합을 찾는다. 이는 입력 자료의 가장 중요한 축들을 찾아 효율적으로 자료의 차원을 줄일 수 있는 장점을 갖게 된다. 그러나 PCA는 2차 통계 자료만을 가용하기 때문에 영상에서 가장 기본적인 특징을 나타내기 어렵다.
PCA is a second-order statistical technique using statistical properties up to mean and variance. The PCA finds a set of orthogonal normalized series of axes that point in each direction of the maximum covariance for the input data. This has the advantage of reducing the dimension of the data efficiently by finding the most important axes of the input data. However, because PCA only uses secondary statistical data, it is difficult to represent the most basic features in the image.
주어진 자료를 x라 놓고, n개의 관찰된 표본이 있다면 x를 x=[x1, x2, …, xn] 과 같이 정의 할 수 있다. 이 때 x의 각 표본 xi는 해당 표본을 구성하는 xi=[xi(1), xi(2), …, xi(m)]T와 같이 m개의 데이터로 구성되어 있고, 이때 T는 행렬의 전치를 나타내며 얼굴 영상의 경우에는 m값은 해당 얼굴의 픽셀 수가 되며 1차원 벡터로 나타낼 수 있다.
Let x be the given data, and if there are n observed samples, then x is x = [x 1 , x 2 ,... , x n ] Where each sample x i of x comprises x i = [x i (1), x i (2),... , x i (m)] T is composed of m pieces of data, where T represents the transpose of the matrix, and in the case of a face image, m is the number of pixels of the face and can be expressed as a one-dimensional vector.
PCA로 데이터를 표현하는 방법은 다음과 같다. PCA로 데이터가 표현되는 것을 R이라 놓으면, 이 때 각 행이 원래 데이터의 표본에 매칭된다. 고유벡터가 열로 들어 있는 행렬을 V라고 하였을 때, R=XTV로 R을 구할 수 있다. 고유벡터 V가 대칭적이고, 직교 정규화 되어있으므로 VVT=1의 성질을 가지며, 역으로 데이터를 변환하는 것은 XT=RVT와 같이 구할 수 있다.
The method of representing data in PCA is as follows. Let R be the data represented by the PCA, where each row matches a sample of the original data. When V is a matrix containing eigenvectors, R can be obtained by R = X T V. Since the eigenvector V is symmetrical and orthonormalized, it has the property of VV T = 1, and inversely, transforming data can be obtained as X T = RV T.
PCA를 적용하여 얻은 특징 벡터 공간은 영상의 조명변화와 얼굴의 표정변화 등의 특징이 포함되어 있어 인식률이 떨어지게 된다. 이점을 고려하며 PCA를 통하여서는 얼굴의 대략적 위치만을 가져오며, 그 위치 안에서 특징점을 추출하여 특징점 비교를 이용하여 얼굴 인식을 함으로 인식률을 높일 수 있다.
The feature vector space obtained by applying the PCA includes the features such as the change of illumination of the image and the change of expression of the face. Considering this, only the approximate position of the face is obtained through the PCA, and the recognition rate can be increased by extracting the feature points within the position and recognizing the face using the feature point comparison.
도 6은 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법에 있어서, 단계 S120을 설명하기 위해 도시한 도면이다. 도 6에 도시된 바와 같이, 다양한 얼굴 이미지로부터 Eigen face(얼굴 공통의 형태정보)를 형성하며, 수집된 이미지 중에서, 앞서 형성된 얼굴 공통의 형태정보와 유사한 형태를 가진 부분을 안면으로 인지하여 안면 부분 이미지로 선별할 수 있다.
6 is a view illustrating a step S120 in the blood oxygen saturation monitoring method capable of identifying the user according to an embodiment of the present invention. As shown in FIG. 6, an Eigen face (face common shape information) is formed from various face images, and a face part is recognized as a face among the collected images having a similar shape to the face common shape information previously formed. Can be selected by image.
도 7은 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법에서, 단계 S200의 세부적인 흐름을 도시한 도면이다. 도 7에 도시된 바와 같이, 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법의 단계 S200은, 단계 S100에서 인지된 안면을 서버의 데이터베이스와 비교하여 사용자의 신원을 인증할 수 있다. 실시예에 따라서, 단계 S200은, 단계 S100에서 인지된 안면의 특징점을 추출하는 단계(S210), EBGM(Elastic Bunch graph matching) 방법을 통하여 단계 S210에서 추출된 특징점들의 기하학적 정보로부터 번치 그래프를 생성하는 단계(S220), 및 단계 S220에서 생성한 번치 그래프를 이용하여 사용자의 신원을 인증하는 단계(S230)를 포함하여 구현될 수 있다.
7 is a diagram illustrating a detailed flow of step S200 in the blood oxygen saturation monitoring method capable of identifying the user according to an embodiment of the present invention. As shown in FIG. 7, step S200 of the blood oxygen saturation monitoring method capable of identifying a user according to an embodiment of the present invention authenticates the user's identity by comparing the face recognized in step S100 with a database of a server. can do. According to an embodiment, step S200 may include extracting feature points of the face recognized in step S100 (S210), and generating a bunch graph from geometric information of the feature points extracted in step S210 through an elastic bundle graph matching (EBGM) method. It may be implemented, including step (S220), and step (S230) of authenticating the user's identity using the bunch graph generated in step S220.
단계 S210에서는, 단계 S100에서 인지된 안면의 특징점을 추출할 수 있다. 얼굴 인식 방법은 보통 이미지의 전체 (픽셀) 정보를 이용하기 때문에, 얼굴 이미지의 한 국소부분의 조그마한 조명, 자세, 표정 변화라도 인식 알고리즘에 영향을 미치게 되어 조명, 자세, 표정 변화 등에 덜 강인하다. 반면에 모델 기반 얼굴 인식 방법은 조명, 자세, 표정 변화를 감안하여 모델을 구성할 수 있으므로, 인식 시에 이러한 요인에 의한 영향을 줄일 수 있다. 모델 구성 시에 이용되는 특징 벡터로는 가버(Gabor) 특징 벡터(얼굴 이미지 특징점에 대해 가버 웨이블렛 커널을 컨볼루션하여 얻어진 계수)가 조명, 자세, 표정 변화에 대해 영향을 적게 받는다.
In operation S210, the facial feature points recognized in operation S100 may be extracted. Since the face recognition method usually uses the entire (pixel) information of the image, even small lighting, posture, and facial changes of a local part of the face image affect the recognition algorithm, which makes it less robust to lighting, posture, and facial expression changes. On the other hand, the model-based face recognition method can configure the model in consideration of changes in lighting, posture, and facial expression, thereby reducing the influence of these factors upon recognition. As the feature vector used in model construction, the Gabor feature vector (the coefficient obtained by convolving the Gabor wavelet kernel with respect to the face image feature point) is less affected by changes in illumination, posture, and facial expression.
가버(Gabor) 특징 벡터를 이용한 대표적인 얼굴 인식 방법에는 EBGM(Elastic Bunch graph matching)이 있다. EBGM에 의한 얼굴 인식 방법은 얼굴의 특징점들을 찾은 후 이 특징점들에서 가버 계수를 구하고 이를 이용하여 얼굴 인식을 수행한다. 이미지 기반 얼굴 인식 기법은 전체 이미지 정보를 사용하기 때문에 변화하는 환경에 대응하지 못하는 단점이 있으며, 이를 보완하기 위해 지역 정보를 사용하는 특징 벡터 기반 기법인 EBGM을 사용할 수 있다. EBGM은 눈, 코, 입과 같은 얼굴의 기하학적인 정보인 특징점에서 가버 계수를 구하고, 이 가버 계수들 간의 유사도를 비교하여 가장 유사도가 높은 사람을 인증하는 방식으로 이루어진다.
A typical face recognition method using Gabor feature vectors is EBGM (Elastic Bunch graph matching). In the face recognition method by EBGM, after finding feature points of a face, Gabor coefficients are obtained from the feature points, and face recognition is performed using them. The image-based face recognition technique has a disadvantage in that it cannot cope with changing environments because it uses the entire image information. To compensate for this, the EBGM, which is a feature vector based technique using local information, can be used. The EBGM obtains Gabor coefficients from feature points, which are geometrical information of the face such as eyes, nose, and mouth, and compares the similarities between these Gabor coefficients to authenticate the person with the highest similarity.
EBGM은 가버 웨이블렛 함수를 통해 이미지에서의 국부적인 주파수 특징만을 검출해 낼 수 있다. 가버 웨이블렛 필터를 이용하여 실수부와 허수부로 나누어 각각을 이산화하여, 가버 웨이블렛 마스크를 만들고 얼굴 영상에서의 특징점의 영역의 픽셀값들과 상승적분하여 얻어진 계수들을 구한다.
The EBGM can only detect local frequency features in the image through the Gabor wavelet function. The Gabor wavelet filter is divided into a real part and an imaginary part, respectively, to discretize each other to form a Gabor wavelet mask, and to obtain coefficients obtained by synthesizing pixel values of the region of the feature point in the face image.
단계 S220에서는, EBGM(Elastic Bunch graph matching) 방법을 통하여 단계 S210에서 추출된 특징점들의 기하학적 정보로부터 번치 그래프를 생성할 수 있다. 여기서, 각 특징점에서 얻어진 계수들을 가버 젯이라고 하며, 가버 젯의 묶음을 번치라고 한다. 전체 얼굴 특징점들 각각의 번치의 모음이 번치 그래프이다. 보다 구체적으로, 단계 S220에서는, M개의 모델 이미지들에 대해서, 얼굴에 해당하는 부분을 찾은 다음 얼굴 자세를 똑바로 하여 얼굴 크기를 동일한 크기로 하는 정규화를 수행한 후, 정규화된 얼굴에서 각각의 특징점들을 검출하고 이 각각의 특징점들에 대한 가버 젯을 구할 수 있다. 이 때, M개의 모델 이미지 각각에서의 해당 특징점에서 얻어진 M개의 가버 젯, M개의 각 모델 이미지에서의 해당 특징점의 좌표 및 해당 특징점의 평균 위치를 묶은 것이 해당 특징점에서의 가버 번치(Gabor Bunch)가 되며, v개의 특징점들에서의 모든 가버 번치들의 집합을 모델 번치 그래프(Model Bunch Graph)라 한다. 모델 번치 그래프의 개념은 EBGM에서 도입되었다.
In step S220, a bunch graph may be generated from the geometric information of the feature points extracted in step S210 through an elastic bundle graph matching (EBGM) method. Here, the coefficients obtained at each feature point are called Gabor Jets, and the bundles of Gabor Jets are called bunches. The collection of bunches of each of the full facial feature points is a bunch graph. More specifically, in step S220, with respect to the M model images, the parts corresponding to the face are found and normalized to have the same face size with the face posture straightened, and then the respective feature points are normalized in the normalized face. Can detect and obtain a Gabor jet for each of these feature points. In this case, the Gabor Bunch at the feature point is a combination of the M Gabor jets obtained at the feature points in each of the M model images, the coordinates of the feature points in the M model images, and the average positions of the feature points. The set of all Gabor bunches at the v feature points is called the Model Bunch Graph. The concept of model bunch graphs was introduced in EBGM.
모델 번치 그래프는 사용자의 신원을 인증하는 단계 S230에서 사용될 수 있다. EBGM에서 사용되는 특징점 추출은 모델 번치 그래프의 수와 종류에 많은 영향을 받을 수 있다. 그렇기 때문에 모델 번치 그래프는 다양한 성별과 나이, 조명, 포즈, 표정을 고려하여 만들어야 한다. 즉, 모델 번치 그래프를 만드는데 사용되는 모델 이미지는, 다양한 포즈, 표정과 조명을 반영하여 고르게 선정하여야(randomly distributed) 각종 다양한 얼굴 이미지에 대해서 얼굴 특징점들의 검출이 잘될 수 있다.
The model bunch graph may be used in step S230 for authenticating the user's identity. The feature point extraction used in EBGM can be greatly influenced by the number and type of model bunch graphs. For this reason, model bunch graphs should be created taking into account various genders, ages, lighting, poses, and facial expressions. That is, the model image used to create the model bunch graph should be evenly distributed by reflecting various poses, facial expressions, and lighting so that the facial feature points can be well detected for various various facial images.
단계 S230에서는, 단계 S220에서 생성한 번치 그래프를 이용하여 사용자의 신원을 인증할 수 있다. 보다 구체적으로는, 인지된 사용자 안면의 번치 그래프와 데이터베이스(DB)에 존재하는 번치 그래프들의 유사도를 비교하여 가장 유사도가 높은 번치 그래프에 해당하는 사람으로 사용자의 신원을 인증할 수 있다.
In step S230, the identity of the user may be authenticated using the bunch graph generated in step S220. More specifically, the identity of the user may be authenticated as a person corresponding to a bunch graph having the highest similarity by comparing the similarity between the recognized bunch of graphs of the user's face and the bunch graphs existing in the database DB.
도 8은 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법에서, 단계 S200을 설명하기 위해 도시한 도면이다. 도 8에 도시된 바와 같이, 인지된 안면으로부터 특징점을 추출하게 되면, 가버 웨이블렛 함수를 통해 특징점들의 가버(Gabor) 계수를 구하며, 각각의 특징점에서 얻어진 계수들을 묶어 번치를 생성하고, 전체 안면의 특징점들의 번치를 모아 번치 그래프를 생성할 수 있다. 나아가, 인지된 사용자의 번치 그래프와 데이터베이스(DB)에 존재하는 번치 그래프들의 유사도를 비교하여 가장 유사도가 높은 번치 그래프에 해당하는 사람으로 사용자의 신원을 인증할 수 있다.
8 is a view illustrating a step S200 in the blood oxygen saturation monitoring method capable of identifying a user according to an embodiment of the present invention. As shown in FIG. 8, when the feature points are extracted from the recognized face, Gabor coefficients of the feature points are obtained through the Gabor wavelet function, bundles of coefficients obtained at each feature point are generated, and a bunch is generated. You can collect bunches of fields to create a bunch graph. In addition, the identity of the user may be authenticated as a person corresponding to a bunch graph having the highest similarity by comparing the similarity between the recognized bunch of graphs and the bunch graphs existing in the database DB.
Point matching 기법은 컴퓨터비전과 패턴 인식 분야에서 가장 광범위하게 쓰이는 비교 기법이다. Point matching은 크게 두 가지로 분류 할 수 있는데, 이미지 시퀀스에서 추출한 목표 오브젝트의 변형도에 따라 rigid matching 과 non-rigid matching으로 나눌 수 있다. Non-rigid matching은 rigid matching 과 비교하였을 때 훨씬 복잡하다.
Point matching is the most widely used comparison technique in computer vision and pattern recognition. Point matching can be classified into two types, which can be classified into rigid matching and non-rigid matching according to the deformation degree of the target object extracted from the image sequence. Non-rigid matching is much more complicated than rigid matching.
Non-rigid matching의 경우 각 특징점 사이의 관계도가 목표 오브젝트의 변형도에 따라 변화폭이 심하여 비교하기에 어려움이 있다. 얼굴 특징점의 경우 표정이나 각도에 따라 변화폭이 심하여 매우 심한 non-rigid matching에 해당하며, 이를 해결하기 위해서는 효과적인 non-rigid matching 알고리즘이 필요하다.
In the case of non-rigid matching, the degree of change between the feature points is very difficult to compare according to the degree of deformation of the target object. In the case of facial feature points, the variation is severe depending on the facial expression or angle, which is very severe non-rigid matching. To solve this problem, an effective non-rigid matching algorithm is required.
본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법에서는, 효과적인 신원 확인을 위해서 특징점 비교에 Robust Point Matching-preserving Local Neighborhood Structure(RPM-LNS) 알고리즘을 변형한 Topology Preserving Relaxation Labeling(TPRL) 알고리즘을 사용 하여 point matching을 할 수 있다.
In the blood oxygen saturation monitoring method capable of identifying a user according to an embodiment of the present invention, Topology Preserving Relaxation Labeling is modified from Robust Point Matching-preserving Local Neighborhood Structure (RPM-LNS) algorithm to compare feature points for effective identification. Point matching can be done using the (TPRL) algorithm.
단계 S300은, 단계 S100에서 인지된 안면 데이터로부터, 안면의 특징점을 기반으로, 혈중 산소포화도 측정을 위한 좌표를 생성하는 단계이다. 단계 S300에서 혈중 산소포화도 측정을 위한 좌표 생성을 위해 기반으로 삼는 안면의 특징점이란, 단계 S200에 의해 사용자의 신원을 인증하는 단계에서 추출된 특징점일 수 있다.
Step S300 is a step of generating coordinates for measuring blood oxygen saturation based on facial feature points from the facial data recognized in step S100. The facial feature point based on the generation of coordinates for measuring blood oxygen saturation level in step S300 may be the feature point extracted in the step of authenticating the user's identity by step S200.
얼굴에서 모세혈관이 밀집하여 있는 부위로는 이마와 뺨이 있다. 이에 따라, 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법에서는 측정부위로 이마와 뺨 두 부위가 바람직하나, 사람에 따라 머리카락이 이마를 가리는 경우가 발생하기 때문에 뺨에 해당하는 부분에 혈중 산소포화도 측정을 위한 좌표를 생성하는 것이 바람직하다. 즉, 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법은, 추출된 특징점을 기반으로 사용자의 뺨에 해당하는 부분에 혈중 산소포화도 측정을 위한 좌표를 생성할 수 있다.
Dense capillaries on the face include the forehead and cheeks. Accordingly, in the blood oxygen saturation monitoring method that can determine the user's identity according to an embodiment of the present invention, the forehead and the cheek are preferably measured as the measurement site, but the hair may cover the forehead depending on the person. It is desirable to generate the coordinates for measuring the oxygen saturation level in the blood. That is, the blood oxygen saturation monitoring method capable of identifying a user according to an embodiment of the present invention may generate coordinates for measuring blood oxygen saturation at a portion corresponding to the cheek of the user based on the extracted feature point.
사용자의 뺨에 해당하는 부분에 혈중 산소포화도 측정을 위한 좌표를 생성하는 단계를 보다 구체적으로 살펴보면, 얼굴의 특징점을 추출하였을 때 콧볼을 n(t), 귀를 e(t), 입가를 m(t)라 할 수 있다. 이 n(t), e(t), m(t) 세 점으로 이루어진 삼각형의 무게중심을 G(x,y)라 하며, 이 점을 중심점으로 10 x 10 픽셀에서 값을 추출하여 평균을 취할 수 있다.Looking at the steps of generating coordinates for measuring blood oxygen saturation in the portion corresponding to the cheek of the user, when the feature points of the face are extracted, the nose is n (t), the ears e (t), and the mouth is m ( t). The center of gravity of the triangle consisting of three points n (t), e (t), and m (t) is called G (x, y). Can be.
도 9는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법에서, 단계 S400의 세부적인 흐름을 도시한 도면이다. 도 9에 도시된 바와 같이, 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법의 단계 S400은, 단계 S300에서 생성된 좌표를 추적하여, 사용자의 혈중 산소포화도를 측정할 수 있다. 실시예에 따라서, 단계 S400은, 제1 광원 및 제2 광원에서 단계 S300에서 생성된 좌표에 교대로 빛을 조사하는 단계(S410), 단계 S410에서 조사된 빛을 촬영하는 단계(S420), 및 단계 S420에서 촬영된 이미지로부터 혈중 산소포화도를 분석하는 단계(S430)를 포함하여 구현될 수 있다.
9 is a diagram illustrating the detailed flow of step S400 in the blood oxygen saturation monitoring method capable of identifying the user according to an embodiment of the present invention. As shown in Figure 9, step S400 of the blood oxygen saturation monitoring method capable of identifying the user according to an embodiment of the present invention, by tracking the coordinates generated in step S300, to measure the blood oxygen saturation of the user Can be. According to an embodiment, step S400, the step of irradiating light alternately to the coordinates generated in step S300 in the first light source and the second light source (S410), the step of photographing the light irradiated in step S410 (S420), and It may be implemented, including the step (S430) of analyzing the oxygen saturation in the blood from the image taken in step S420.
일반적으로 산소 포화도(SpO2)를 구할 때, 산소 헤모글로빈과 헤모글로빈의 비로 구할 수 있다.In general, when determining the oxygen saturation (SpO 2 ), it can be obtained by the ratio of oxygen hemoglobin and hemoglobin.
여기서, HbO2는 산소 헤모글로빈, Hb는 산소를 포함하지 않은 일반 헤모글로빈을 나타낸다. HbO2는 파장이 880㎚인 빛을 흡수하고, Hb는 파장이 765㎚인 빛을 흡수하는 성질을 가지고 있다. 이러한 원리를 이용하여 이미지에서 혈중 산소포화도를 분석하기 위해서 765㎚와 880㎚의 파장을 가진 빛이 교대로 조사되는 광원을 사용할 수 있다.
Here, HbO 2 represents oxygen hemoglobin, and Hb represents general hemoglobin without oxygen. HbO 2 absorbs light having a wavelength of 880 nm, and Hb has a property of absorbing light having a wavelength of 765 nm. Using this principle, a light source irradiated with alternating light having wavelengths of 765 nm and 880 nm may be used to analyze blood oxygen saturation in an image.
단계 S410에서는, 단계 S300에서 생성된 좌표에 혈중 산소포화도 측정을 위한 빛을 조사할 수 있다. 즉, 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법에 있어서, 단계 S410에서는, 제1 광원 및 제2 광원에서 단계 S300에서 생성된 좌표에 교대로 빛을 조사할 수 있다. 실시예에 따라서는, 제1 광원 및 제2 광원에서 서로 다른 파장을 가지는 빛을 조사할 수 있으며, 앞서 살펴본 산소 헤모글로빈(HbO2)과 헤모글로빈(Hb)의 빛 흡수 성질에 따라, 제1 광원에서는 765㎚의 파장을 가지는 빛이 조사되며, 제2 광원에서는 880㎚의 파장을 가지는 빛이 조사될 수도 있다.
In operation S410, light for measuring oxygen saturation in blood may be irradiated to the coordinates generated in operation S300. That is, in the blood oxygen saturation monitoring method capable of identifying the user according to an embodiment of the present invention, in step S410, the first light source and the second light source may alternately irradiate the coordinates generated in step S300. have. According to an embodiment, light having different wavelengths may be irradiated from the first light source and the second light source, and according to the light absorbing properties of the oxygen hemoglobin (HbO 2 ) and the hemoglobin (Hb), the first light source may emit light. Light having a wavelength of 765 nm is irradiated, and light having a wavelength of 880 nm may be irradiated with the second light source.
도 10은 본 발명의 다른 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법에서, 단계 S400을 설명하기 위해 도시한 도면이다. 도 10에 도시된 바와 같이, 실시예에 따라서, 시스템에서는 765㎚의 파장을 가지는 빛이 조사되는 제1 광원과, 880㎚의 파장을 가지는 빛이 조사되는 제2 광원이 격자무늬로 번갈아 위치할 수 있다. 이 때, 제1 광원 및 제2 광원은 Light Emitting Diode(LED)로 구현될 수 있다.
10 is a view illustrating a step S400 in the blood oxygen saturation monitoring method capable of identifying a user according to another embodiment of the present invention. As shown in FIG. 10, according to an embodiment, in a system, a first light source irradiated with light having a wavelength of 765 nm and a second light source irradiated with light having a wavelength of 880 nm may be alternately positioned in a lattice pattern. Can be. In this case, the first light source and the second light source may be implemented as a light emitting diode (LED).
단계 S400을 보다 구체적으로 살펴보면, 제1 광원 및 제2 광원은 각각 765㎚와 880㎚의 파장을 가진 빛을 카메라의 샘플링 비율의 절반으로 교대로 조사할 수 있다. 이미지의 시작과 LED 빛 조사 펄스(주기)를 맞춰 이미지를 촬영하면 765㎚의 빛이 찍힌 이미지는 짝수 번째 이미지가 되고, 880㎚의 빛이 찍힌 이미지는 홀수 번째 이미지가 된다. 이와 같이 이미지를 홀수 번째와 짝수 번째로 분리한 다음, 촬영된 이미지의 전체 픽셀의 평균값을 구할 수 있다. 그 후 G채널의 값에 0.5∼3Hz의 버터워스 밴드패스 필터를 통과시킨 후, 아래와 같이 ROS를 구할 수 있다.Referring to step S400 in more detail, the first light source and the second light source may alternately irradiate light having wavelengths of 765 nm and 880 nm at half the sampling rate of the camera. When the image is taken at the start of the image and the LED light irradiation pulse (period), the image taken with 765nm light becomes the even-numbered image, and the image taken with 880nm light becomes the odd-numbered image. In this way, the image is divided into odd and even numbers, and then an average value of all pixels of the captured image may be obtained. Then after passing through the Butterworth band-pass filter of 0.5~3Hz the value of the G channel, can be calculated as follows: R OS.
RV는 765㎚의 빛의 극소점이고, RP는 765㎚의 빛의 극대점이다. IRV는 880㎚의 빛(적외선)의 극소점, IRP는 880㎚의 빛(적외선)의 극대점이다. 위와 같이 계산된 ROS을 실제 SpO2로 대응시켜 혈중 산소포화도를 실시간으로 나타낼 수 있다.
R V is a local minimum of 765 nm light and R P is an local maximum of 765 nm light. IR V is the minimum point of light (infrared rays) of 880 nm, and IR P is the maximum point of light (infrared rays) of 880 nm. The R OS calculated as described above can be represented by real SpO 2 in real time.
도 11은 혈중 산소포화도 측정기기를 나타낸 도면이다. 도 11에 도시된 바와 같이, 일반적으로 혈중 산소포화도 측정은, 손가락에 기기를 착용하는 접촉성 방식에 의하고 있으며, 혈중 산소포화도 측정기기가 구비된 병원에서 측정이 이루어져야 하는 장소적 제약이 따른다. 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법에 의하여 혈중 산소포화도를 측정할 경우, 카메라만 이용하여 비접촉성 방식에 따라 혈중 산소포화도를 측정할 수 있다.
11 is a view showing a blood oxygen saturation measuring device. As shown in FIG. 11, the measurement of blood oxygen saturation in general is based on a contact method in which a device is worn on a finger, and there is a place restriction in which a measurement should be made in a hospital equipped with a blood oxygen saturation measuring device. When blood oxygen saturation is measured by a blood oxygen saturation monitoring method capable of identifying a user according to an embodiment of the present invention, blood oxygen saturation may be measured by a non-contact method using only a camera.
도 12는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 시스템(10)의 블럭도를 도시한 도면이다. 도 12에 도시된 바와 같이, 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 시스템(10)은, 안면 인지부(100), 신원 인증부(200), 좌표 생성부(300) 및 혈중 산소포화도 측정부(400)를 포함하여 구성될 수 있다.
12 is a block diagram of a blood oxygen
보다 구체적으로는, 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 시스템(10)은, 혈중 산소포화도 모니터링 시스템으로서, 카메라를 통하여 수집한 이미지 시퀀스에서 사용자의 안면을 인지하는 안면 인지부(100), 안면 인지부(100)에서 인지된 안면을 서버의 데이터베이스와 비교하여 사용자의 신원을 인증하는 신원 인증부(200), 안면 인지부(100)에서 인지된 안면 데이터로부터, 안면의 특징점을 기반으로, 혈중 산소포화도 측정을 위한 좌표를 생성하는 좌표 생성부(300), 및 좌표 생성부(300)에서 생성된 좌표를 추적하여, 사용자의 혈중 산소포화도를 측정하는 혈중 산소포화도 측정부(400)를 포함할 수 있다.
More specifically, the blood oxygen
안면 인지부(100)는, 카메라를 통하여 수집한 이미지 시퀀스에서 사용자의 안면을 인지할 수 있다. 도 13은 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 시스템(10)에 있어서, 안면 인지부(100)의 블럭도를 도시한 도면이다. 도 13에 도시된 바와 같이, 안면 인지부(100)는, 카메라를 통하여 이미지를 수집하는 이미지 수집 모듈(110), 및 이미지 수집 모듈(110)에서 수집된 이미지로부터 안면 부분의 이미지를 선별하는 안면 이미지 선별 모듈(120)을 포함하여 구성될 수 있다.
The
신원 인증부(200)는, 안면 인지부(100)에서 인지된 안면을 서버의 데이터베이스와 비교하여 사용자의 신원을 인증할 수 있다. 도 14는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 시스템(10)에 있어서, 신원 인증부(200)의 블럭도를 도시한 도면이다. 도 14에 도시된 바와 같이, 신원 인증부(200)는, 안면 인지부(100)에서 인지된 안면의 특징점을 추출하는 특징점 추출 모듈(210), EBGM(Elastic Bunch graph matching) 방법을 통하여 특징점 추출 모듈(210)에서 추출된 특징점들의 기하학적 정보로부터 번치 그래프를 생성하는 번치 그래프 생성 모듈(220), 및 번치 그래프 생성 모듈(220)에서 생성한 번치 그래프를 이용하여 사용자의 신원을 인증하는 인증 모듈(230)을 포함할 수 있다.
The
실시예에 따라서, 인증 모듈(230)은, 인지된 사용자 안면의 번치 그래프와 데이터베이스(DB)에 존재하는 번치 그래프들의 유사도를 비교하여 가장 유사도가 높은 번치 그래프에 해당하는 사람으로 사용자의 신원을 인증할 수 있다.
According to an embodiment, the
혈중 산소포화도 측정부(400)는, 좌표 생성부(300)에서 생성된 좌표를 추적하여, 사용자의 혈중 산소포화도를 측정할 수 있다. 도 15는 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 시스템(10)에서, 혈중 산소포화도 측정부(400)의 블록도를 도시한 도면이다. 도 15에 도시된 바와 같이, 혈중 산소포화도 측정부(400)는, 좌표 생성부(300)에서 생성된 좌표에 교대로 빛을 조사하는 제1 광원(410) 및 제2 광원(420), 제1 광원(410) 및 제2 광원(420)에서 조사된 빛을 촬영하는 촬영 모듈(430), 및 촬영 모듈(430)에서 촬영된 이미지로부터 혈중 산소포화도를 분석하는 분석 모듈(440)을 포함할 수 있다.
The blood oxygen
각각의 구성들과 관련된 상세한 내용들은, 앞서 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법과 관련하여 충분히 설명되었으므로, 상세한 설명은 생략하기로 한다.
Details related to each of the components, since it has been described above with respect to the blood oxygen saturation monitoring method capable of identifying the user according to an embodiment of the present invention, a detailed description thereof will be omitted.
전술한 바와 같이, 본 발명에서 제안하고 있는 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법 및 시스템에 따르면, 사용자의 신원을 파악할 수 있도록 하며, 손가락에 착용하는 별도의 기기 없이 카메라를 통하여 혈중 산소포화도를 측정함으로써, 병원이라는 장소적 제약 없이 보다 쉽고 간편하게 사용자의 혈중 산소포화도를 수집하고 처리할 수 있다.
As described above, according to the blood oxygen saturation degree monitoring method and system which can identify the user's identity proposed in the present invention, it is possible to determine the identity of the user, blood oxygen saturation degree through the camera without a separate device worn on the finger By measuring, it is easier and easier to collect and process blood oxygen saturation of the user without the constraints of the place of hospital.
이상 설명한 본 발명은 본 발명이 속한 기술분야에서 통상의 지식을 가진 자에 의하여 다양한 변형이나 응용이 가능하며, 본 발명에 따른 기술적 사상의 범위는 아래의 특허청구범위에 의하여 정해져야 할 것이다.The present invention described above may be variously modified or applied by those skilled in the art, and the scope of the technical idea according to the present invention should be defined by the following claims.
10: 본 발명의 일실시예에 따른 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 시스템
100: 안면 인지부
110: 이미지 수집 모듈
120: 안면 이미지 선별 모듈
200: 신원 인증부
210: 특징점 추출 모듈
220: 번치 그래프 생성 모듈
230: 인증 모듈
300: 좌표 생성부
400: 혈중 산소포화도 측정부
410: 제1 광원
420: 제2 광원
430: 촬영 모듈
440: 분석 모듈
S100: 카메라를 통하여 수집한 이미지 시퀀스에서 사용자의 안면을 인지하는 단계
S110: 카메라를 통하여 이미지를 수집하는 단계
S120: 단계 S110에서 수집된 이미지로부터 안면 부분의 이미지를 선별하는 단계
S200: 단계 S100에서 인지된 안면을 서버의 데이터베이스와 비교하여 사용자의 신원을 인증하는 단계
S210: 단계 S100에서 인지된 안면의 특징점을 추출하는 단계
S220: EBGM(Elastic Bunch graph matching) 방법을 통하여 단계 S210에서 추출된 특징점들의 기하학적 정보로부터 번치 그래프를 생성하는 단계
S230: 단계 S220에서 생성한 번치 그래프를 이용하여 사용자의 신원을 인증하는 단계
S300: 단계 S100에서 인지된 안면 데이터로부터, 안면의 특징점을 기반으로, 혈중 산소포화도 측정을 위한 좌표를 생성하는 단계
S400: 단계 S300에서 생성된 좌표를 추적하여, 사용자의 혈중 산소포화도를 측정하는 단계
S410: 제1 광원 및 제2 광원에서 단계 S300에서 생성된 좌표에 교대로 빛을 조사하는 단계
S420: 단계 S410에서 조사된 빛을 촬영하는 단계
S430: 단계 S420에서 촬영된 이미지로부터 혈중 산소포화도를 분석하는 단계10: blood oxygen saturation monitoring system capable of identifying the user according to an embodiment of the present invention
100: facial recognition
110: image acquisition module
120: facial image screening module
200: Identity Verification Unit
210: feature point extraction module
220: bunch graph generation module
230: authentication module
300: coordinate generation unit
400: blood oxygen saturation measurement unit
410: first light source
420: second light source
430: shooting module
440: analysis module
S100: step of recognizing the user's face in the image sequence collected through the camera
S110: collecting images through the camera
S120: selecting the image of the face portion from the image collected in step S110
S200: Step of authenticating the user's identity by comparing the face recognized in step S100 with the database of the server
S210: extracting the facial feature points recognized in step S100
S220: generating a bunch graph from the geometric information of the feature points extracted in step S210 through an elastic bundle graph matching (EBGM) method
S230: step of authenticating the user's identity using the bunch graph generated in step S220
S300: generating coordinates for measuring blood oxygen saturation based on facial feature points from the facial data recognized in step S100
S400: tracking the coordinates generated in step S300, measuring the blood oxygen saturation level of the user
S410: irradiating light alternately to the coordinates generated in step S300 in the first light source and the second light source
S420: step of photographing the light irradiated in step S410
S430: analyzing blood oxygen saturation from the image taken in step S420
Claims (20)
(1) 안면 인지부가 카메라를 통하여 수집한 이미지 시퀀스에서 사용자의 안면을 인지하는 단계;
(2) 신원 인증부가 상기 단계 (1)에서 인지된 안면을 서버의 데이터베이스와 비교하여 사용자의 신원을 인증하는 단계;
(3) 좌표 생성부가 상기 단계 (1)에서 인지된 안면 데이터로부터, 안면의 특징점을 기반으로, 혈중 산소포화도 측정을 위한 좌표를 생성하는 단계; 및
(4) 혈중 산소포화도 측정부가 상기 단계 (3)에서 생성된 좌표를 추적하여, 사용자의 혈중 산소포화도를 측정하는 단계를 포함하되,
상기 단계 (1)은,
(1-1) 안면 인지부의 이미지 수집 모듈이 카메라를 통하여 이미지를 수집하는 단계와, (1-2) 안면 인지부의 안면 이미지 선별 모듈이 상기 단계 (1-1)에서 수집된 이미지로부터 안면 부분의 이미지를 선별하는 단계를 포함하고,
상기 단계 (1-2)에서는,
상기 안면 이미지 선별 모듈이 PCA(Principal Component Analysis)를 이용해서 얼굴 공통의 형태정보(Eigen face)를 형성하여, 상기 단계 (1-1)에서 수집된 이미지 중에서, 상기 형성된 얼굴 공통의 형태정보와 유사한 형태를 가지고 있는 부분을 사람의 안면 부분 이미지로 선별하며,
상기 단계 (2)는,
(2-1) 신원 인증부의 특징점 추출 모듈이 상기 단계 (1)에서 인지된 안면의 특징점을 추출하는 단계와, (2-2) 신원 인증부의 번치 그래프 생성 모듈이 EBGM(Elastic Bunch graph matching) 방법을 통하여 상기 단계 (2-1)에서 추출된 특징점들의 기하학적 정보로부터 번치 그래프를 생성하는 단계, 및 (2-3) 신원 인증부의 인증 모듈이 상기 단계 (2-2)에서 생성한 번치 그래프를 이용하여 사용자의 신원을 인증하는 단계를 포함하고,
상기 단계 (2-2)에서는,
상기 번치 그래프 생성 모듈이 가버(Gabor) 웨이블렛 함수를 통해 상기 특징점들의 가버(Gabor) 계수를 구하며, 각각의 특징점의 가버(Gabor) 계수들을 묶어 번치를 생성하고, 전체 안면의 특징점들의 번치를 모아 상기 번치 그래프를 생성하며,
상기 단계 (2-3)에서는,
상기 인증 모듈이 인지된 사용자 안면의 번치 그래프와 데이터베이스(DB)에 존재하는 번치 그래프들의 유사도를 비교하여 가장 유사도가 높은 번치 그래프에 해당하는 사람으로 사용자의 신원을 인증하고,
상기 단계 (4)는,
(4-1) 혈중 산소포화도 측정부의 제1 광원 및 제2 광원에서 상기 단계 (3)에서 생성된 좌표에 교대로 빛을 조사하는 단계와, (4-2) 혈중 산소포화도 측정부의 촬영 모듈이 상기 단계 (4-1)에서 조사된 빛을 촬영하는 단계, 및 (4-3) 혈중 산소포화도 측정부의 분석 모듈이 상기 단계 (4-2)에서 촬영된 이미지로부터 혈중 산소포화도를 분석하는 단계를 포함하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법.
A blood oxygen saturation monitoring method using a blood oxygen saturation monitoring system including a face recognition unit, an identity authentication unit, a coordinate generator, and a blood oxygen saturation unit,
(1) a face recognition unit recognizing a face of a user in an image sequence collected through a camera;
(2) the identity authentication unit authenticates the user's identity by comparing the face recognized in the step (1) with the database of the server;
(3) a coordinate generation unit generating coordinates for measuring blood oxygen saturation based on facial feature points from the facial data recognized in step (1); And
(4) measuring the oxygen saturation level of the user by tracking the coordinates generated in the step (3) by the blood oxygen saturation measurement unit,
Step (1) is,
(1-1) the image collecting module of the face recognizing unit collecting images through the camera, and (1-2) the face image selecting module of the face recognizing unit collects images of the face portion from the image collected in step (1-1). Screening the image,
In the step (1-2),
The face image screening module forms face common shape information using PCA (Principal Component Analysis), and is similar to the formed face common shape information among the images collected in step (1-1). The part that has the shape is selected by the image of the facial part of the person,
Step (2) is,
(2-1) extracting the feature points of the face recognized by the identity authentication module from the identity authentication unit; and (2-2) the Bunch graph generation module of the identity authentication unit using the EBGM (Elastic Bunch graph matching) method. Generating a bunch graph from the geometric information of the feature points extracted in step (2-1) through (2-3) using the bunch graph generated in step (2-2) by the authentication module of the identity authentication unit Authenticating the user's identity,
In the step (2-2),
The bunch graph generation module obtains Gabor coefficients of the feature points through a Gabor wavelet function, bundles Gabor coefficients of each feature point to generate a bunch, and collects a bunch of feature points of the entire face. Create a bunch graph,
In the step (2-3),
The authentication module compares the similarity between the recognized bunch of graphs of the user's face and the bunch graphs present in the database (DB) to authenticate the user's identity with a person corresponding to the highest bunch of graphs.
Step (4),
(4-1) irradiating light alternately to the coordinates generated in the step (3) from the first light source and the second light source of the blood oxygen saturation measuring unit, and (4-2) the imaging module of the blood oxygen saturation measuring unit Photographing the light irradiated in the step (4-1), and (4-3) analyzing the blood oxygen saturation level from the image captured in the step (4-2) by the analysis module of the blood oxygen saturation measurement unit. Characterized in that the user, characterized in that the blood oxygen saturation monitoring method.
이미지 시퀀스를 수집하기 위한 상기 카메라로서 웹캠(Webcam)을 사용하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법.
The method of claim 1, wherein in step (1),
Using a webcam (Webcam) as the camera for collecting the image sequence, blood oxygen saturation monitoring method that can identify the user.
신원 인증부의 인증 모듈이 Point matching 기법 중에서 Non-rigid matching 기법을 이용하여 유사도를 비교하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법.
The method according to claim 1, wherein in step (2-3),
A method for monitoring blood oxygen saturation that can identify a user, characterized in that the authentication module of the identity authentication unit compares the similarity using a non-rigid matching technique among point matching techniques.
상기 Non-rigid matching 기법을 이용하기 위하여 Topology Preserving Relaxation Labeling(TPRL) 알고리즘을 사용하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법.
The method according to claim 8, wherein in step (2-3),
A method for monitoring oxygen saturation in blood, characterized by using a Topology Preserving Relaxation Labeling (TPRL) algorithm to use the non-rigid matching technique.
추출된 특징점을 기반으로 사용자의 뺨에 해당하는 부분에 혈중 산소포화도 측정을 위한 좌표를 생성하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법.
The method of claim 1, wherein in step (3),
The blood oxygen saturation monitoring method for identifying the user, characterized in that for generating a coordinate for measuring the blood oxygen saturation in the portion corresponding to the cheek of the user based on the extracted feature point.
상기 제1 광원 및 제2 광원에서 상기 단계 (3)에서 생성된 좌표에 교대로 서로 다른 파장을 가지는 빛을 조사하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법.
The method according to claim 1, wherein in step (4-1),
The first and second light sources are irradiated with light having different wavelengths alternately to the coordinates generated in the step (3), blood oxygen saturation monitoring method capable of identifying the user.
상기 제1 광원에서는 765㎚의 파장을 가지는 빛이 조사되며,
상기 제2 광원에서는 880㎚의 파장을 가지는 빛이 조사되는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 방법.
The method of claim 12,
In the first light source, light having a wavelength of 765 nm is irradiated.
The second light source is irradiated with light having a wavelength of 880nm, blood oxygen saturation monitoring method capable of identifying the user.
카메라를 통하여 수집한 이미지 시퀀스에서 사용자의 안면을 인지하는 안면 인지부(100);
상기 안면 인지부(100)에서 인지된 안면을 서버의 데이터베이스와 비교하여 상기 사용자의 신원을 인증하는 신원 인증부(200);
상기 안면 인지부(100)에서 인지된 안면 데이터로부터, 안면의 특징점을 기반으로, 혈중 산소포화도 측정을 위한 좌표를 생성하는 좌표 생성부(300); 및
상기 좌표 생성부(300)에서 생성된 좌표를 추적하여, 상기 사용자의 혈중 산소포화도를 측정하는 혈중 산소포화도 측정부(400)를 포함하되,
상기 안면 인지부(100)는,
카메라를 통하여 이미지를 수집하는 이미지 수집 모듈(110)과, 상기 이미지 수집 모듈(110)에서 수집된 이미지로부터 안면 부분의 이미지를 선별하는 안면 이미지 선별 모듈(120)을 포함하고,
상기 신원 인증부(200)는,
상기 안면 인지부(100)에서 인지된 안면의 특징점을 추출하는 특징점 추출 모듈(210)과, EBGM(Elastic Bunch graph matching) 방법을 통하여 상기 특징점 추출 모듈(210)에서 추출된 특징점들의 기하학적 정보로부터 번치 그래프를 생성하는 번치 그래프 생성 모듈(220), 및 상기 번치 그래프 생성 모듈(220)에서 생성한 번치 그래프를 이용하여 사용자의 신원을 인증하는 인증 모듈(230)을 포함하며,
상기 인증 모듈(230)은,
인지된 사용자 안면의 번치 그래프와 데이터베이스(DB)에 존재하는 번치 그래프들의 유사도를 비교하여 가장 유사도가 높은 번치 그래프에 해당하는 사람으로 사용자의 신원을 인증하고,
상기 혈중 산소포화도 측정부(400)는,
상기 좌표 생성부(300)에서 생성된 좌표에 교대로 빛을 조사하는 제1 광원(410) 및 제2 광원(420)과, 상기 제1 광원(410) 및 제2 광원(420)에서 조사된 빛을 촬영하는 촬영 모듈(430), 및 상기 촬영 모듈(430)에서 촬영된 이미지로부터 혈중 산소포화도를 분석하는 분석 모듈(440)을 포함하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 시스템(10).
Blood oxygen saturation monitoring system,
Facial recognition unit 100 for recognizing the user's face in the image sequence collected through the camera;
An identity authentication unit 200 for authenticating the user's identity by comparing the face recognized by the face recognition unit 100 with a database of a server;
A coordinate generator 300 generating coordinates for measuring blood oxygen saturation based on facial feature points from the facial data recognized by the facial recognition unit 100; And
Including the blood oxygen saturation measuring unit 400 for tracking the coordinates generated by the coordinate generator 300, the blood oxygen saturation of the user,
The face recognition unit 100,
An image collection module 110 for collecting images through a camera, and a face image selection module 120 for selecting an image of a face part from an image collected by the image collection module 110,
The identity authentication unit 200,
The feature point extraction module 210 extracts the feature points of the face recognized by the face recognizing unit 100 and bunches from the geometric information of the feature points extracted by the feature point extraction module 210 through an elastic bundle graph matching (EBGM) method. Bunch graph generation module 220 for generating a graph, and authentication module 230 for authenticating the user's identity using the bunch graph generated in the bunch graph generation module 220,
The authentication module 230,
By comparing the similarity between the recognized graph of the face of the user and the bunch of graphs in the database, the user is identified as the person with the most similar bunch of graphs.
The blood oxygen saturation measurement unit 400,
The first light source 410 and the second light source 420 irradiating light alternately to the coordinates generated by the coordinate generator 300 and the first light source 410 and the second light source 420 The imaging module 430 for taking light, and the analysis module 440 for analyzing the blood oxygen saturation level from the image taken by the imaging module 430, characterized in that the blood oxygen saturation can be identified by the user Monitoring system (10).
이미지 시퀀스를 수집하기 위한 상기 카메라로서 웹캠(Webcam)을 사용하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 시스템(10).
The method of claim 14, wherein the face recognition unit 100,
A blood oxygen saturation monitoring system (10) capable of identifying a user, characterized by using a webcam (Webcam) as the camera for collecting image sequences.
Point matching 기법 중에서 Non-rigid matching 기법을 이용하기 위하여 Topology Preserving Relaxation Labeling(TPRL) 알고리즘을 사용하여 유사도를 비교하는 것을 특징으로 하는, 사용자의 신원 파악이 가능한 혈중 산소포화도 모니터링 시스템(10).The method of claim 14, wherein the authentication module 230,
10. A blood oxygen saturation monitoring system capable of identifying a user, characterized by comparing similarity using Topology Preserving Relaxation Labeling (TPRL) algorithm to use a non-rigid matching technique among point matching techniques.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020180075075A KR102035172B1 (en) | 2018-06-28 | 2018-06-28 | Blood oxygen saturation rate monitoring method that can identify the user and blood oxygen saturation rate monitoring system that can identify the user |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020180075075A KR102035172B1 (en) | 2018-06-28 | 2018-06-28 | Blood oxygen saturation rate monitoring method that can identify the user and blood oxygen saturation rate monitoring system that can identify the user |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| KR102035172B1 true KR102035172B1 (en) | 2019-10-22 |
Family
ID=68420086
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020180075075A KR102035172B1 (en) | 2018-06-28 | 2018-06-28 | Blood oxygen saturation rate monitoring method that can identify the user and blood oxygen saturation rate monitoring system that can identify the user |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR102035172B1 (en) |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2008304979A (en) * | 2007-06-05 | 2008-12-18 | Mitsubishi Electric Corp | Face authentication device |
| KR101037759B1 (en) * | 2007-01-22 | 2011-05-27 | 뷰웨이 주식회사 | Robust Face Recognition Method using AAM and Gabor Feature Vectors |
| JP2016514992A (en) * | 2013-03-13 | 2016-05-26 | コーニンクレッカ フィリップス エヌ ヴェＫｏｎｉｎｋｌｉｊｋｅ Ｐｈｉｌｉｐｓ Ｎ．Ｖ． | Device and method for determining blood oxygen saturation of a subject |
| CN106530338A (en) * | 2016-10-31 | 2017-03-22 | 武汉纺织大学 | Method and system for matching MR image feature points before and after nonlinear deformation of biological tissue |
| KR101752560B1 (en) * | 2015-09-02 | 2017-06-30 | 성균관대학교산학협력단 | Oxygen saturation measuring method using image and computer readable storage medium of recording oxygen saturation measuring method using image |
| KR101783713B1 (en) * | 2016-04-05 | 2017-10-10 | 계명대학교 산학협력단 | System and method that can authenticate the user and at the same time non-contact pulse measurements |
| KR20180029319A (en) * | 2016-09-12 | 2018-03-21 | 현대자동차일본기술연구소 | Apparatus and method for measuring of blood oxygen saturation in vehicle |
-
2018
- 2018-06-28 KR KR1020180075075A patent/KR102035172B1/en active IP Right Grant
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR101037759B1 (en) * | 2007-01-22 | 2011-05-27 | 뷰웨이 주식회사 | Robust Face Recognition Method using AAM and Gabor Feature Vectors |
| JP2008304979A (en) * | 2007-06-05 | 2008-12-18 | Mitsubishi Electric Corp | Face authentication device |
| JP2016514992A (en) * | 2013-03-13 | 2016-05-26 | コーニンクレッカ フィリップス エヌ ヴェＫｏｎｉｎｋｌｉｊｋｅ Ｐｈｉｌｉｐｓ Ｎ．Ｖ． | Device and method for determining blood oxygen saturation of a subject |
| KR101752560B1 (en) * | 2015-09-02 | 2017-06-30 | 성균관대학교산학협력단 | Oxygen saturation measuring method using image and computer readable storage medium of recording oxygen saturation measuring method using image |
| KR101783713B1 (en) * | 2016-04-05 | 2017-10-10 | 계명대학교 산학협력단 | System and method that can authenticate the user and at the same time non-contact pulse measurements |
| KR20180029319A (en) * | 2016-09-12 | 2018-03-21 | 현대자동차일본기술연구소 | Apparatus and method for measuring of blood oxygen saturation in vehicle |
| CN106530338A (en) * | 2016-10-31 | 2017-03-22 | 武汉纺织大学 | Method and system for matching MR image feature points before and after nonlinear deformation of biological tissue |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| EP3037036B1 (en) | Biometric authentication method and apparatus | |
| Abdeldayem et al. | A novel approach for ECG-based human identification using spectral correlation and deep learning | |
| US20140196131A1 (en) | User authentication based on a wrist vein pattern | |
| US8494227B2 (en) | System and method for using three dimensional infrared imaging to identify individuals | |
| CN105787420B (en) | Method and device for biometric authentication and biometric authentication system | |
| Kataria et al. | A survey of automated biometric authentication techniques | |
| KR101644843B1 (en) | Analyses of condition based on the peculiarity of face temperature distribution | |
| CN109259749A (en) | A kind of contactless method for measuring heart rate of view-based access control model camera | |
| Prokoski et al. | Infrared identification of faces and body parts | |
| Raghavendra et al. | A low cost wrist vein sensor for biometric authentication | |
| Andreu-Cabedo et al. | Mirror mirror on the wall… An intelligent multisensory mirror for well-being self-assessment | |
| CN111414785A (en) | Identification system and identification method | |
| Kossack et al. | Automatic region-based heart rate measurement using remote photoplethysmography | |
| Gupta et al. | Accurate heart-rate estimation from face videos using quality-based fusion | |
| Trokielewicz et al. | Perception of image features in post-mortem iris recognition: Humans vs machines | |
| Chen et al. | Finger ECG-based authentication for healthcare data security using artificial neural network | |
| KR102123121B1 (en) | Blood pressure monitoring method that can identify the user and blood pressure monitoring system that can identify the user | |
| Zheng | Static and dynamic analysis of near infra-red dorsal hand vein images for biometric applications | |
| Verlekar | Gait analysis in unconstrained environments | |
| KR102035172B1 (en) | Blood oxygen saturation rate monitoring method that can identify the user and blood oxygen saturation rate monitoring system that can identify the user | |
| KR102132959B1 (en) | Heart rate monitoring method that can identify the user and heart rate monitoring system that can identify the user | |
| Yousefi et al. | Brain signals as a new biometric authentication method using brain-computer interface | |
| Kim et al. | The non-contact biometric identified bio signal measurement sensor and algorithms | |
| Shrotri et al. | IR-webcam imaging and vascular pattern analysis towards hand vein authentication | |
| Waqar | Contact-Free Heart Rate Measurement from Human Face Videos and Its Biometric Recognition Application |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |