KR20180023555A - 전자장치, 이를 활용한 적외선 센서 기반의 심장 박동 수 측정 방법 - Google Patents
전자장치, 이를 활용한 적외선 센서 기반의 심장 박동 수 측정 방법 Download PDFInfo
- Publication number
- KR20180023555A KR20180023555A KR1020160109101A KR20160109101A KR20180023555A KR 20180023555 A KR20180023555 A KR 20180023555A KR 1020160109101 A KR1020160109101 A KR 1020160109101A KR 20160109101 A KR20160109101 A KR 20160109101A KR 20180023555 A KR20180023555 A KR 20180023555A
- Authority
- KR
- South Korea
- Prior art keywords
- interest
- region
- user
- heart rate
- electronic device
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 69
- 210000001508 eye Anatomy 0.000 claims description 38
- 238000009532 heart rate measurement Methods 0.000 claims description 26
- 230000008859 change Effects 0.000 claims description 23
- 238000005259 measurement Methods 0.000 claims description 21
- 210000001061 forehead Anatomy 0.000 claims description 20
- 239000000284 extract Substances 0.000 claims description 17
- 230000004044 response Effects 0.000 claims description 9
- 238000007726 management method Methods 0.000 description 64
- 230000006870 function Effects 0.000 description 27
- 238000004891 communication Methods 0.000 description 25
- 230000008569 process Effects 0.000 description 18
- 238000012545 processing Methods 0.000 description 18
- 210000001331 nose Anatomy 0.000 description 16
- 238000010586 diagram Methods 0.000 description 10
- 230000001413 cellular effect Effects 0.000 description 9
- 210000000214 mouth Anatomy 0.000 description 8
- 238000000605 extraction Methods 0.000 description 7
- 230000036541 health Effects 0.000 description 7
- 230000014509 gene expression Effects 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 3
- 210000001747 pupil Anatomy 0.000 description 3
- WQZGKKKJIJFFOK-GASJEMHNSA-N Glucose Natural products OC[C@H]1OC(O)[C@H](O)[C@@H](O)[C@@H]1O WQZGKKKJIJFFOK-GASJEMHNSA-N 0.000 description 2
- 239000008280 blood Substances 0.000 description 2
- 210000004369 blood Anatomy 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000001815 facial effect Effects 0.000 description 2
- 239000008103 glucose Substances 0.000 description 2
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 2
- 240000000015 Iris germanica Species 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000002583 angiography Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000036772 blood pressure Effects 0.000 description 1
- 210000004204 blood vessel Anatomy 0.000 description 1
- 230000036760 body temperature Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- -1 electricity Substances 0.000 description 1
- 238000002567 electromyography Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 239000000446 fuel Substances 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 230000006698 induction Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 210000003141 lower extremity Anatomy 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 229920006395 saturated elastomer Polymers 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000005406 washing Methods 0.000 description 1
- 229910052724 xenon Inorganic materials 0.000 description 1
- FHNFHKCVQCLJFQ-UHFFFAOYSA-N xenon atom Chemical compound [Xe] FHNFHKCVQCLJFQ-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/024—Detecting, measuring or recording pulse rate or heart rate
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/024—Detecting, measuring or recording pulse rate or heart rate
- A61B5/02416—Detecting, measuring or recording pulse rate or heart rate using photoplethysmograph signals, e.g. generated by infrared radiation
- A61B5/02427—Details of sensor
- A61B5/02433—Details of sensor for infrared radiation
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0075—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by spectroscopy, i.e. measuring spectra, e.g. Raman spectroscopy, infrared absorption spectroscopy
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0077—Devices for viewing the surface of the body, e.g. camera, magnifying lens
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/024—Detecting, measuring or recording pulse rate or heart rate
- A61B5/02405—Determining heart rate variability
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/30—Authentication, i.e. establishing the identity or authorisation of security principals
- G06F21/31—User authentication
- G06F21/32—User authentication using biometric data, e.g. fingerprints, iris scans or voiceprints
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
- G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/40—Spoof detection, e.g. liveness detection
- G06V40/45—Detection of the body part being alive
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B2576/00—Medical imaging apparatus involving image processing or analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/15—Biometric patterns based on physiological signals, e.g. heartbeat, blood flow
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
Abstract
본 발명의 다양한 실시예는 전자 장치에서 적외선 센서를 사용하여 심장 박동 수를 결정하는 방법 및 전자장치에 관한 것으로, 상기 적외선 센서를 사용하여 이미지를 수신하고, 상기 수신된 이미지에서 상기 심장 박동 수를 측정하기 위한 적어도 하나의 관심 영역을 결정하고, 상기 결정된 적어도 하나의 관심 영역을 기반으로 상기 심장 박동 수를 결정할 수 있다. 또한, 다른 실시 예가 가능하다.
Description
본 발명의 다양한 실시 예는 적외선 센서를 기반으로 심장 박동 수를 측정하는 방법 및 전자장치에 관한 발명이다.
휴대 전자장치가 널리 보급되고 기술이 발전함에 따라, 사용자들은 휴대 전자장치를 다양한 방법으로 활용할 수 있다. 예를 들어, 휴대 전자장치는 사용자의 건강 정보를 측정하기 위한 측정 수단으로 사용될 수도 있고, 사용자를 인증하기 위한 인증 수단으로 사용될 수도 있다. 사용자들은 휴대 전자장치에 내장된 심장 박동 수(이하, 심박수라고 기재한다.)를 측정하기 위한 센서를 사용하여 본인의 심박수를 측정할 수도 있다 일반적으로, 휴대 전자장치는 심박수를 측정하기 위해 사용자 신체의 일부가 휴대 전자장치에 접촉되고, 상기 접촉된 신체의 일부를 통해 사용자의 심박수를 측정할 수 있다. 휴대 전자장치는 상기 측정한 심박수 정보를 기반으로 사용자의 심박수를 확인할 수 있다. 또한, 휴대 전자장치는 사용자가 설정한 사용자의 고유한 정보(예, 지문 정보, 홍채 정보, 비밀번호, 패턴 정보 등)를 기반으로 사용자를 인증하기 위한 인증 수단으로 사용될 수도 있다.
일반적으로 휴대 전자장치를 심박수 측정 수단으로 활용하는 경우 사용자가 의도적으로 휴대 전자장치의 심박수 센서에 접촉할 필요가 있다. 한편, 카메라를 사용하여 사용자의 피부 색 변화를 확인하고, 상기 확인된 피부 색 변화를 기반으로 심박수를 측정할 수도 있다. 하지만, 주변이 어두울 경우 피부 색 변화를 확인할 수 없으므로, 심박수를 측정하기 어려울 수 있다.
본 발명의 다양한 실시예에 따른 전자장치는 적외선 센서(Infrared Rays(IR) sensor)를 활용하여 심박수를 측정하기 위한 관심 영역을 탐색하고, 상기 탐색된 관심 영역에서의 이미지 변화를 기반으로 사용자의 심박수를 측정할 수 있다. 본 발명의 다양한 실시예는 사용자의 신체 일부가 전자장치에 접촉하지 않은 상태에서 적외선 센서를 사용하여 심박수를 측정할 수 있고, 사용자의 피부 색과 관계 없이 심박수를 측정할 수 있다. 다양한 실시예는 상기 적외선 센서를 사용하여 사용자의 홍채 정보를 확인할 수도 있다. 본 발명의 다양한 실시예에 따른 목적은 적외선 센서를 사용하여 사용자의 심박수를 측정하는 방법과 사용자를 인증하는 방법을 제공함에 있다.
본 발명의 다양한 실시예에 따른 전자장치는, 적외선 센서; 메모리; 및 상기 적외선 센서와 상기 메모리에 전기적으로 연결된 프로세서;를 포함하고, 상기 메모리는, 실행 시에, 상기 프로세서가, 상기 적외선 센서를 사용하여 이미지를 수신하고, 상기 수신된 이미지에서 심장 박동 수를 측정하기 위한 적어도 하나의 관심 영역을 결정하고, 상기 결정된 적어도 하나의 관심 영역을 기반으로 상기 심장 박동 수를 결정하도록 하는 인스트럭션을 저장할 수 있다.
본 발명의 다양한 실시예에 따른 적외선 센서를 사용하여 심장 박동 수를 결정하는 방법은, 상기 적외선 센서를 사용하여 이미지를 수신하는 동작; 상기 수신된 이미지에서 상기 심장 박동 수를 측정하기 위한 적어도 하나의 관심 영역을 결정하는 동작; 상기 결정된 적어도 하나의 관심 영역을 기반으로 상기 심장 박동 수를 결정하는 동작; 을 포함할 수 있다.
본 발명의 다양한 실시예는 적외선 센서를 사용하여 심박수를 측정할 수도 있고, 사용자의 생체 정보를 감지하여 사용자를 인증할 수도 있다. 이로 인해, 본 발명의 전자장치에 대한 보안은 보다 강화될 수 있다. 본 발명의 다양한 실시예는 적외선 센서를 사용하므로, 사용자의 신체적 접촉 없이, 주변이 어두울지라도 사용자의 심박수를 측정할 수 있고, 사용자 인증을 수행할 수 있다. 본 발명의 다양한 실시예는 상기 측정된 심박수에 대한 정보를 다른 프로그램 또는 다른 장치로 전송하고, 상기 심박수의 대한 정보를 다른 프로그램 또는 다른 장치에서 활용할 수 있다.
도 1은 본 발명의 다양한 실시예에 따른 네트워크 환경 내의 전자장치를 도시한 도면이다.
도 2는 본 발명의 다양한 실시예에 따른 전자장치의 블록도이다.
도 3은 본 발명의 다양한 실시예에 따른 프로그램 모듈의 블록도이다.
도 4는 본 발명의 다양한 실시예에 따른 적외선 센서를 사용하여 획득한 심박수 정보 및 홍채 정보를 관리하는 전자장치의 구성도이다.
도 5는 본 발명의 다양한 실시예에 따른 적외선 센서를 사용하여 심박수를 측정하는 방법을 설명하기 위한 순서도이다.
도 6은 본 발명의 다양한 실시예에 따른 적외선 센서를 사용하여 심박수를 측정함에 있어서, 기 저장된 관심 영역이 있으면, 상기 기 저장된 관심 영역을 기반으로 심박수를 측정하고, 기 저장된 관심 영역이 없으면, 관심 영역을 탐색하여 심박수를 측정하는 방법을 설명하기 위한 순서도이다.
도 7은 본 발명의 다양한 실시예에 따른 적외선 센서를 사용하여 사용자를 인증하는 방법을 설명하기 위한 순서도이다.
도 8a 내지 도 8d는 본 발명의 다양한 실시예에 따른 심박수를 측정하기 위해 결정되는 관심 영역을 도시한 예시도이다.
도 9a 내지 도 9d는 본 발명의 다양한 실시예에 따른 도 9a 내지 도 9d의 관심 영역에서 심박수를 측정한 실험값을 도시한 예시도이다.
도 10은 본 발명의 다양한 실시예에 따른 적외선 센서를 사용하여 사용자의 심박수를 측정하는 과정을 도시한 예시도이다.
도 2는 본 발명의 다양한 실시예에 따른 전자장치의 블록도이다.
도 3은 본 발명의 다양한 실시예에 따른 프로그램 모듈의 블록도이다.
도 4는 본 발명의 다양한 실시예에 따른 적외선 센서를 사용하여 획득한 심박수 정보 및 홍채 정보를 관리하는 전자장치의 구성도이다.
도 5는 본 발명의 다양한 실시예에 따른 적외선 센서를 사용하여 심박수를 측정하는 방법을 설명하기 위한 순서도이다.
도 6은 본 발명의 다양한 실시예에 따른 적외선 센서를 사용하여 심박수를 측정함에 있어서, 기 저장된 관심 영역이 있으면, 상기 기 저장된 관심 영역을 기반으로 심박수를 측정하고, 기 저장된 관심 영역이 없으면, 관심 영역을 탐색하여 심박수를 측정하는 방법을 설명하기 위한 순서도이다.
도 7은 본 발명의 다양한 실시예에 따른 적외선 센서를 사용하여 사용자를 인증하는 방법을 설명하기 위한 순서도이다.
도 8a 내지 도 8d는 본 발명의 다양한 실시예에 따른 심박수를 측정하기 위해 결정되는 관심 영역을 도시한 예시도이다.
도 9a 내지 도 9d는 본 발명의 다양한 실시예에 따른 도 9a 내지 도 9d의 관심 영역에서 심박수를 측정한 실험값을 도시한 예시도이다.
도 10은 본 발명의 다양한 실시예에 따른 적외선 센서를 사용하여 사용자의 심박수를 측정하는 과정을 도시한 예시도이다.
이하, 본 문서의 다양한 실시예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 문서의 실시예의 다양한 변경(modifications), 균등물(equivalents), 및/또는 대체물(alternatives)을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다.
본 문서에서, "가진다," "가질 수 있다," "포함한다," 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
본 문서에서, "A 또는 B," "A 또는/및 B 중 적어도 하나," 또는 "A 또는/및 B 중 하나 또는 그 이상"등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B," "A 및 B 중 적어도 하나," 또는 "A 또는 B 중 적어도 하나"는, (1) 적어도 하나의 A를 포함, (2) 적어도 하나의 B를 포함, 또는 (3) 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.
본 문서에서 사용된 "제 1," "제 2," "첫째," 또는 "둘째,"등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 예를 들면, 제 1 사용자 기기와 제 2 사용자 기기는, 순서 또는 중요도와 무관하게, 서로 다른 사용자 기기를 나타낼 수 있다. 예를 들면, 본 문서에 기재된 권리 범위를 벗어나지 않으면서 제 1 구성요소는 제 2 구성요소로 명명될 수 있고, 유사하게 제 2 구성요소도 제 1 구성요소로 바꾸어 명명될 수 있다.
어떤 구성요소(예: 제 1 구성요소)가 다른 구성요소(예: 제 2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소(예: 제 1 구성요소)가 다른 구성요소(예: 제 2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 다른 구성요소(예: 제 3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
본 문서에서 사용된 표현 "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, "~에 적합한(suitable for)," "~하는 능력을 가지는(having the capacity to)," "~하도록 설계된(designed to)," "~하도록 변경된(adapted to)," "~하도록 만들어진(made to)," 또는 "~를 할 수 있는(capable of)"과 바꾸어 사용될 수 있다. 용어 "~하도록 구성된(또는 설정된)"은 하드웨어적으로 "특별히 설계된(specifically designed to)" 것만을 반드시 의미하지 않을 수 있다. 대신, 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(generic-purpose processor)(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서에서 사용된 용어들은 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 다른 실시예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 용어들은 본 문서에 기재된 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 본 문서에 사용된 용어들 중 일반적인 사전에 정의된 용어들은, 관련 기술의 문맥상 가지는 의미와 동일 또는 유사한 의미로 해석될 수 있으며, 본 문서에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 문서에서 정의된 용어일지라도 본 문서의 실시예들을 배제하도록 해석될 수 없다.
본 문서의 다양한 실시예들에 따른 전자 장치는, 예를 들면, 스마트폰(smartphone), 태블릿 PC(tablet personal computer), 이동 전화기(mobile phone), 영상 전화기, 전자책 리더기(e-book reader), 데스크탑 PC(desktop personal computer), 랩탑 PC(laptop personal computer), 넷북 컴퓨터(netbook computer), 워크스테이션(workstation), 서버, PDA(personal digital assistant), PMP(portable multimedia player), MP3 플레이어, 모바일 의료기기, 카메라(camera), 또는 웨어러블 장치(wearable device) 중 적어도 하나를 포함할 수 있다. 다양한 실시예에 따르면, 웨어러블 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD)), 직물 또는 의류 일체형(예: 전자 의복), 신체 부착형(예: 스킨 패드(skin pad) 또는 문신), 또는 생체 이식형(예: implantable circuit) 중 적어도 하나를 포함할 수 있다.
어떤 실시예들에서, 전자 장치는 가전 제품(home appliance)일 수 있다. 가전 제품은, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스(set-top box), 홈 오토매이션 컨트롤 패널(home automation control panel), 보안 컨트롤 패널(security control panel), TV 박스(예: 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(예: XboxTM, PlayStationTM), 전자 사전, 전자 키, 캠코더(camcorder), 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 네비게이션(navigation) 장치, 위성 항법 시스템(GNSS(global navigation satellite system)), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트(infotainment) 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 금융 기관의 ATM(automatic teller's machine), 상점의 POS(point of sales), 또는 사물 인터넷 장치(internet of things)(예: 전구, 각종 센서, 전기 또는 가스 미터기, 스프링클러 장치, 화재경보기, 온도조절기(thermostat), 가로등, 토스터(toaster), 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다.
어떤 실시예에 따르면, 전자 장치는 가구(furniture) 또는 건물/구조물의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터(projector), 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시예에서, 전자 장치는 전술한 다양한 장치들 중 하나 또는 그 이상의 조합일 수 있다. 어떤 실시예에 따른 전자 장치는 플렉서블 전자 장치일 수 있다. 또한, 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않으며, 기술 발전에 따른 새로운 전자 장치를 포함할 수 있다.
이하, 첨부 도면을 참조하여, 다양한 실시예에 따른 전자 장치가 설명된다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1은 본 발명의 다양한 실시예에 따른 네트워크 환경 내의 전자장치를 도시한 도면이다.
도 1을 참조하면, 전자 장치(101, 102 또는 104) 또는 서버(106)는 네트워크(162) 또는 근거리 통신(164)를 통하여 서로 연결될 수 있다.
도 1을 참조하여, 다양한 실시예에서의, 네트워크 환경(100) 내의 전자 장치(101)가 기재된다. 전자 장치(101)는 버스(110), 프로세서(120), 메모리(130), 입출력 인터페이스(150), 디스플레이(160), 및 통신 인터페이스(170)를 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)는, 구성요소들 중 적어도 하나를 생략하거나 다른 구성요소를 추가적으로 구비할 수 있다. 버스(110)는 구성요소들(110-170)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 또는 데이터)을 전달하는 회로를 포함할 수 있다. 프로세서(120)는, 중앙처리장치, 어플리케이션 프로세서, 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(120)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
메모리(130)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리(130)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시예에 따르면, 메모리(130)는 소프트웨어 및/또는 프로그램(140)을 저장할 수 있다. 프로그램(140)은, 예를 들면, 커널(141), 미들웨어(143), 어플리케이션 프로그래밍 인터페이스(API)(145), 및/또는 어플리케이션 프로그램(또는 "어플리케이션")(147) 등을 포함할 수 있다. 커널(141), 미들웨어(143), 또는 API(145)의 적어도 일부는, 운영 시스템으로 지칭될 수 있다. 커널(141)은, 예를 들면, 다른 프로그램들(예: 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 커널(141)은 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147)에서 전자 장치(101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어(143)는, 예를 들면, API(145) 또는 어플리케이션 프로그램(147)이 커널(141)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다. 또한, 미들웨어(143)는 어플리케이션 프로그램(147)으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들면, 미들웨어(143)는 어플리케이션 프로그램(147) 중 적어도 하나에 전자 장치(101)의 시스템 리소스(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)를 사용할 수 있는 우선 순위를 부여하고, 상기 하나 이상의 작업 요청들을 처리할 수 있다. API(145)는 어플리케이션(147)이 커널(141) 또는 미들웨어(143)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다. 입출력 인터페이스(150)는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치(101)의 다른 구성요소(들)에 전달하거나, 또는 전자 장치(101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.
디스플레이(160)는, 예를 들면, 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이, 유기 발광 다이오드(OLED) 디스플레이, 또는 마이크로 전자기계 시스템 (MEMS) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(160)는, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 및/또는 심볼 등)을 표시할 수 있다. 디스플레이(160)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스쳐, 근접, 또는 호버링 입력을 수신할 수 있다.
통신 인터페이스(170)는, 예를 들면, 전자 장치(101)와 외부 장치(예: 제 1 외부 전자 장치(102), 제 2 외부 전자 장치(104), 또는 서버(106)) 간의 통신을 설정할 수 있다. 예를 들면, 통신 인터페이스(170)는 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 외부 장치(예: 제 2 외부 전자 장치(104) 또는 서버(106))와 통신할 수 있다.
무선 통신은, 예를 들면, LTE, LTE-A(LTE Advance), CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunications system), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications) 등 중 적어도 하나를 사용하는 셀룰러 통신을 포함할 수 있다. 한 실시예에 따르면, 무선 통신은, 예를 들면, WiFi(wireless fidelity), 블루투스, 블루투스 저전력(BLE), 지그비(Zigbee), NFC(near field communication), 자력 시큐어 트랜스미션(Magnetic Secure Transmission), 라디오 프리퀀시(RF), 또는 보디 에어리어 네트워크(BAN) 중 적어도 하나를 포함할 수 있다. 한실시예에 따르면, 무선 통신은 GNSS를 포함할 수 있다. GNSS는, 예를 들면, GPS(Global Positioning System), Glonass(Global Navigation Satellite System), Beidou Navigation Satellite System(이하 “Beidou”) 또는 Galileo, the European global satellite-based navigation system일 수 있다. 이하, 본 문서에서는, “GPS”는 “GNSS”와 상호 호환적으로 사용될 수 있다. 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard232), 전력선 통신, 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 네트워크(162)는 텔레커뮤니케이션 네트워크, 예를 들면, 컴퓨터 네트워크(예: LAN 또는 WAN), 인터넷, 또는 텔레폰 네트워크 중 적어도 하나를 포함할 수 있다.
제 1 및 제 2 외부 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 다양한 실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 전자 장치(102,104), 또는 서버(106)에서 실행될 수 있다. 한 실시예에 따르면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 장치(예: 전자 장치(102, 104), 또는 서버(106))에게 요청할 수 있다. 다른 전자 장치(예: 전자 장치(102, 104), 또는 서버(106))는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는 다양한 실시예에 따른 전자 장치(201)의 블록도이다. 전자 장치(201)는, 예를 들면, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 포함할 수 있다. 전자 장치(201)는 하나 이상의 프로세서(예: AP)(210), 통신 모듈(220), (가입자 식별 모듈(224), 메모리(230), 센서 모듈(240), 입력 장치(250), 디스플레이(260), 인터페이스(270), 오디오 모듈(280), 카메라 모듈(291), 전력 관리 모듈(295), 배터리(296), 인디케이터(297), 및 모터(298) 를 포함할 수 있다. 프로세서(210)는, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 프로세서(210)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서(210)는, 예를 들면, SoC(system on chip) 로 구현될 수 있다. 한 실시예에 따르면, 프로세서(210)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서를 더 포함할 수 있다. 프로세서(210)는 도 2에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(221))를 포함할 수도 있다. 프로세서(210) 는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드하여 처리하고, 결과 데이터를 비휘발성 메모리에 저장할 수 있다.
통신 모듈(220)(예: 도 1의 통신 인터페이스(170))와 동일 또는 유사한 구성을 가질 수 있다. 통신 모듈(220)은, 예를 들면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227), NFC 모듈(228) 및 RF 모듈(229)를 포함할 수 있다. 셀룰러 모듈(221)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 가입자 식별 모듈(예: SIM 카드)(224)을 이용하여 통신 네트워크 내에서 전자 장치(201)의 구별 및 인증을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 프로세서(210)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 커뮤니케이션 프로세서(CP)를 포함할 수 있다. 어떤 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다. RF 모듈(229)은, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. RF 모듈(229)은, 예를 들면, 트랜시버, PAM(power amp module), 주파수 필터, LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다. 가입자 식별 모듈(224)은, 예를 들면, 가입자 식별 모듈을 포함하는 카드 또는 임베디드 SIM을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예: IMSI(international mobile subscriber identity))를 포함할 수 있다.
메모리(230)(예: 도 1의 메모리(130))는, 예를 들면, 내장 메모리(232) 또는 외장 메모리(234)를 포함할 수 있다. 내장 메모리(232)는, 예를 들면, 휘발성 메모리(예: DRAM, SRAM, 또는 SDRAM 등), 비휘발성 메모리(예: OTPROM(one time programmable ROM), PROM, EPROM, EEPROM, mask ROM, flash ROM, 플래시 메모리, 하드 드라이브, 또는 솔리드 스테이트 드라이브 (SSD) 중 적어도 하나를 포함할 수 있다. 외장 메모리(234)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD, Mini-SD, xD(extreme digital), MMC(multi-media card) 또는 메모리 스틱 등을 포함할 수 있다. 외장 메모리(234)는 다양한 인터페이스를 통하여 전자 장치(201)와 기능적으로 또는 물리적으로 연결될 수 있다.
센서 모듈(240)은, 예를 들면, 물리량을 계측하거나 전자 장치(201)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈(240)은, 예를 들면, 제스처 센서(240A), 자이로 센서(240B), 기압 센서(240C), 마그네틱 센서(240D), 가속도 센서(240E), 그립 센서(240F), 근접 센서(240G), 컬러(color) 센서(240H)(예: RGB(red, green, blue) 센서), 생체 센서(240I), 온/습도 센서(240J), 조도 센서(240K), UV(ultra violet) 센서(240M), 또는 IR(Infrared Rays) 센서(240N)(또는, 적외선 센서) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로, 센서 모듈(240)은, 예를 들면, 후각(e-nose) 센서, 일렉트로마이오그라피(EMG) 센서, 일렉트로엔씨팔로그램(EEG) 센서, 일렉트로카디오그램(ECG) 센서 및/또는 지문 센서를 포함할 수 있다. 전술된 IR 센서(240N)는 홍채 센서(미도시)를 포함할 수 있다. 센서 모듈(240)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시예에서는, 전자 장치(201)는 프로세서(210)의 일부로서 또는 별도로, 센서 모듈(240)을 제어하도록 구성된 프로세서를 더 포함하여, 프로세서(210)가 슬립(sleep) 상태에 있는 동안, 센서 모듈(240)을 제어할 수 있다.
입력 장치(250)는, 예를 들면, 터치 패널(252), (디지털) 펜 센서(254), 키(256), 또는 초음파 입력 장치(258)를 포함할 수 있다. 터치 패널(252)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(252)은 제어 회로를 더 포함할 수도 있다. 터치 패널(252)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다. (디지털) 펜 센서(254)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트를 포함할 수 있다. 키(256)는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 초음파 입력 장치(258)는 마이크(예: 마이크(288))를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다.
디스플레이(260)(예: 디스플레이(160))는 패널(262), 홀로그램 장치(264), 프로젝터(266), 및/또는 이들을 제어하기 위한 제어 회로를 포함할 수 있다. 패널(262)은, 예를 들면, 유연하게, 투명하게, 또는 착용할 수 있게 구현될 수 있다. 패널(262)은 터치 패널(252)과 하나 이상의 모듈로 구성될 수 있다. 한 실시예에 따르면, 패널(262)은 사용자의 터치에 대한 압력의 세기를 측정할 수 있는 압력 센서(또는 포스 센서)를 포함할 수 있다. 상기 압력 센서는 터치 패널(252)과 일체형으로 구현되거나, 또는 터치 패널(252)과는 별도의 하나 이상의 센서로 구현될 수 있다. 홀로그램 장치(264)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터(266)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 전자 장치(201)의 내부 또는 외부에 위치할 수 있다. 인터페이스(270)는, 예를 들면, HDMI(272), USB(274), 광 인터페이스(optical interface)(276), 또는 D-sub(D-subminiature)(278)를 포함할 수 있다. 인터페이스(270)는, 예를 들면, 도 1에 도시된 통신 인터페이스(170)에 포함될 수 있다. 추가적으로 또는 대체적으로, 인터페이스(270)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
오디오 모듈(280)은, 예를 들면, 소리와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈(280)의 적어도 일부 구성요소는, 예를 들면, 도 1 에 도시된 입출력 인터페이스(150)에 포함될 수 있다. 오디오 모듈(280)은, 예를 들면, 스피커(282), 리시버(284), 이어폰(286), 또는 마이크(288) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다. 카메라 모듈(291)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, 이미지 시그널 프로세서(ISP), 또는 플래시(예: LED 또는 xenon lamp 등)를 포함할 수 있다. 전력 관리 모듈(295)은, 예를 들면, 전자 장치(201)의 전력을 관리할 수 있다. 한 실시예에 따르면, 전력 관리 모듈(295)은 PMIC(power management integrated circuit), 충전 IC, 또는 배터리 또는 연료 게이지를 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리(296)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리(296)는, 예를 들면, 충전식 전지 및/또는 태양 전지를 포함할 수 있다.
인디케이터(297)는 전자 장치(201) 또는 그 일부(예: 프로세서(210))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 모터(298)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동, 또는 햅틱 효과 등을 발생시킬 수 있다. 전자 장치(201)는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어플로(mediaFloTM) 등의 규격에 따른 미디어 데이터를 처리할 수 있는 모바일 TV 지원 장치(예: GPU)를 포함할 수 있다. 본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시예에서, 전자 장치(예: 전자 장치(201))는 일부 구성요소가 생략되거나, 추가적인 구성요소를 더 포함하거나, 또는, 구성요소들 중 일부가 결합되어 하나의 개체로 구성되되, 결합 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다.
도 3은 다양한 실시예에 따른 프로그램 모듈의 블록도이다. 한 실시예에 따르면, 프로그램 모듈(310)(예: 프로그램(140))은 전자 장치(예: 전자 장치(101))에 관련된 자원을 제어하는 운영 체제 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 운영 체제는, 예를 들면, AndroidTM, iOSTM, WindowsTM, SymbianTM, TizenTM, 또는 BadaTM를 포함할 수 있다. 도 3을 참조하면, 프로그램 모듈(310)은 커널(320)(예: 커널(141)), 미들웨어(330)(예: 미들웨어(143)), (API(360)(예: API(145)), 및/또는 어플리케이션(370)(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 전자 장치 상에 프리로드 되거나, 외부 전자 장치(예: 전자 장치(102, 104), 서버(106) 등)로부터 다운로드 가능하다.
커널(320)은, 예를 들면, 시스템 리소스 매니저(321) 및/또는 디바이스 드라이버(323)를 포함할 수 있다. 시스템 리소스 매니저(321)는 시스템 리소스의 제어, 할당, 또는 회수를 수행할 수 있다. 한 실시예에 따르면, 시스템 리소스 매니저(321)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부를 포함할 수 있다. 디바이스 드라이버(323)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WiFi 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다. 미들웨어(330)는, 예를 들면, 어플리케이션(370)이 공통적으로 필요로 하는 기능을 제공하거나, 어플리케이션(370)이 전자 장치 내부의 제한된 시스템 자원을 사용할 수 있도록 API(360)를 통해 다양한 기능들을 어플리케이션(370)으로 제공할 수 있다. 한 실시예에 따르면, 미들웨어(330) 는 런타임 라이브러리(335), 어플리케이션 매니저(341), 윈도우 매니저(342), 멀티미디어 매니저(343), 리소스 매니저(344), 파워 매니저(345), 데이터베이스 매니저(346), 패키지 매니저(347), 커넥티비티 매니저(348), 노티피케이션 매니저(349), 로케이션 매니저(350), 그래픽 매니저(351), 또는 시큐리티 매니저(352) 중 적어도 하나를 포함할 수 있다.
런타임 라이브러리(335)는, 예를 들면, 어플리케이션(370)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리(335)는 입출력 관리, 메모리 관리, 또는 산술 함수 처리를 수행할 수 있다. 어플리케이션 매니저(341)는, 예를 들면, 어플리케이션(370)의 생명 주기를 관리할 수 있다. 윈도우 매니저(342)는 화면에서 사용되는 GUI 자원을 관리할 수 있다. 멀티미디어 매니저(343)는 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱을 이용하여 미디어 파일의 인코딩 또는 디코딩을 수행할 수 있다. 리소스 매니저(344)는 어플리케이션(370)의 소스 코드 또는 메모리의 공간을 관리할 수 있다. 파워 매니저(345)는, 예를 들면, 배터리의 용량 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보를 제공할 수 있다. 한 실시예에 따르면, 파워 매니저(345)는 바이오스(BIOS: basic input/output system)와 연동할 수 있다. 데이터베이스 매니저(346)는, 예를 들면, 어플리케이션(370)에서 사용될 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(347)는 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 갱신을 관리할 수 있다.
커넥티비티 매니저(348)는, 예를 들면, 무선 연결을 관리할 수 있다. 노티피케이션 매니저(349)는, 예를 들면, 도착 메시지, 약속, 근접성 알림 등의 이벤트를 사용자에게 제공할 수 있다. 로케이션 매니저(350)는, 예를 들면, 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저(351)는, 예를 들면, 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 보안 매니저(352)는, 예를 들면, 시스템 보안 또는 사용자 인증을 제공할 수 있다. 한 실시예에 따르면, 미들웨어(330)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화(telephony) 매니저 또는 전술된 구성요소들의 기능들의 조합을 형성할 수 있는 하는 미들웨어 모듈을 포함할 수 있다. 한 실시예에 따르면, 미들웨어(330)는 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 미들웨어(330)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다. API(360)는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.
어플리케이션(370)은, 예를 들면, 홈(371), 다이얼러(372), SMS/MMS(373), IM(instant message)(374), 브라우저(375), 카메라(376), 알람(377), 컨택트(378), 음성 다이얼(379), 이메일(380), 달력(381), 미디어 플레이어(382), 앨범(383), 와치(384), 헬스 케어(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보(예: 기압, 습도, 또는 온도 정보) 제공 어플리케이션을 포함할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 전자 장치와 외부 전자 장치 사이의 정보 교환을 지원할 수 있는 정보 교환 어플리케이션을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치에 특정 정보를 전달하기 위한 노티피케이션 릴레이 어플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리 어플리케이션을 포함할 수 있다. 예를 들면, 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션에서 발생된 알림 정보를 외부 전자 장치로 전달하거나, 또는 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다. 장치 관리 어플리케이션은, 예를 들면, 전자 장치와 통신하는 외부 전자 장치의 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는, 해상도) 조절), 또는 외부 전자 장치에서 동작하는 어플리케이션을 설치, 삭제, 또는 갱신할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 외부 전자 장치의 속성에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션)을 포함할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 외부 전자 장치로부터 수신된 어플리케이션을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어(예: 프로세서(210)), 또는 이들 중 적어도 둘 이상의 조합으로 구현(예: 실행)될 수 있으며, 하나 이상의 기능을 수행하기 위한 모듈, 프로그램, 루틴, 명령어 세트 또는 프로세스를 포함할 수 있다.
도 4는 본 발명의 다양한 실시예에 따른 적외선 센서를 사용하여 획득한 심박수 정보 및 홍채 정보를 관리하는 전자장치의 구성도이다.
도 4를 참조하면, 전자장치(400)(예, 도 2의 전자장치(201))의 프로세서(예, 도 2의 프로세서(210))는 ROI(Region of Interest)(관심 영역) 관리 모듈(410), 홍채 관리 모듈(420) 및 심박수(HR, Heart Rate) 관리 모듈(430)을 포함할 수 있고, 상기 ROI 관리 모듈(410), 홍채 관리 모듈(420) 및 심박수 관리 모듈(430)을 제어할 수 있다.
다양한 실시예에 따르면, 전자장치(400)는 적외선 센서(IR Sensor)(402)(도 2의 IR 센서(240N), 이하에서 IR 센서는 적외선 센서로 기재한다.)를 활용하여 로 데이터(raw data)를 획득할 수 있다. 여기서 적외선 센서(402)는 발광부와 수광부를 모두 포함한 하나의 구성부(센서)로서, 전자장치에 내장된 센서일 수 있다. 다양한 실시예에 따르면, 적외선 센서(402)는 전자장치(400)에 구비된 카메라(도 2의 카메라 모듈(291))에 내장된 센서일 수도 있다. 본 발명의 다양한 실시예는 여러 센서 또는 모듈이 서로 연동하여 하나의 센서로 동작할 수 있다. 다양한 실시예에 따르면, 적외선 센서(402)는 발광부로 구성되어 발광부로 동작할 수 있고, 카메라의 수광부와 연동하여 하나의 적외선 센서로 동작할 수도 있다. 본 발명의 다양한 실시예에 따른 적외선 센서(402)는 전술된 바와 같이, 다양하게 구성될 수 있다.
다양한 실시예에 따르면, 적외선 센서(402)는 상기 적외선 센서(402)의 사용 용도 또는, 사용자와의 거리에 따라 광량이 조절될 수 있다. 상기 적외선 센서(402)의 광량은 상기 사용 용도 또는 사용자와의 거리를 기반으로 최적의 광량이 있을 수 있다. 다양한 실시예에 따른 적외선 센서(402)는 상기 적외선 센서의 사용 용도 또는 사용자와의 거리에 대응하여, 미리 설정된 최적의 광량을 사용하여 동작할 수 있다.
다양한 실시예에 따르면, 1.5A가 최대 전류값(maximum current)인 적외선 센서를 사용하여 홍채 인증과 심박 측정을 한 경우 아래의 표와 같은 실험결과가 있을 수 있다.
위의 표를 참조하면, 다양한 실시에 따른 적외선 센서(402)는 홍채를 인증하거나, 심박수를 측정하거나, 사용자 눈동자의 움직임을 추적(Eye tracker(gazing))할 수 있다. 다양한 실시예에 따르면, 적외선 센서(402)가 eye tracker로 동작하는 경우, 적외선 센서(402)는 눈동자의 위치를 파악하고, 상기 눈동자가 무엇을 보고 있는지, 눈을 뜨고 있는지, 감고 있는지 등을 추적할 수 있다. 다양한 실시예에 따른 적외선 센서(402)는 적외선 센서의 사용 용도 또는 적외선 센서를 사용할 측정 대상과의 거리에 따라, 최적의 전류값 및 광량이 결정될 수 있다.
다양한 실시예에 따르면, 홍채와 약 10~30cm 떨어진 지점에서 적외선 센서(402)를 통해 상기 홍채를 인증하는 경우 적외선 센서(402)는 약 950mA의 전류가 필요할 수 있다. 다양한 실시예에 따른 전자장치(400)는 홍채를 인증하기 위한 최적의 거리를 결정하고, 상기 홍채 인증의 정확도와 눈(홍채)이 안전할 수 있는 광량을 고려하여 전류를 결정할 수 있다. 약 10~30cm의 거리에서 홍채를 인증하기 위한 최적의 전류값은 950mA일 수 있다. 다시 말하면, 적외선 센서(402)가 950mA의 전류로 동작하는 경우 약 10~30cm 떨어진 거리에 위치한 홍채에 대응하는 홍채 인증의 정확도가 최대이고, 눈(홍채)를 안전하게 보호할 수 있는 광량을 기반으로 동작하게 된다. 한편, 약 10~30cm의 거리에서 홍채를 인증하기 위해, 적외선 센서(402)가 950mA보다 큰 전류로 동작하면, 적외선 센서의 광량이 포화(saturation)되어, 홍채 인증을 위한 측정값이 정확하지 않을 수 있고, 눈(홍채)를 안전하게 보호하기 어려울 수 있다. 그리고 적외선 센서(402)가 950mA보다 낮은 전류로 동작하면, 홍채 인증의 정확도가 떨어져서, 적외선 센서는 홍채 인증 수단으로 사용하기 어려울 수 있다.
다양한 실시예에 따르면, 심박수 측정 지점과 약 10~30cm 떨어진 지점에서 적외선 센서(402)를 통해 심박수를 측정하는 경우 적외선 센서(402)는 약 200mA에서 600mA의 전류가 필요할 수 있다. 다양한 실시예에 따른 전자장치(400)는 약 10~30cm 떨어진 거리에서 심박수를 측정할 수 있고, 전자장치(400)는 상기 떨어진 거리를 기반으로 최적의 전류값을 결정할 수 있다. 다양한 실시예에 따르면, 전자장치(400)는 심박수를 측정하기 위한 적외선 센서가 약 600mA의 전류로 동작하는 경우 약 30cm 떨어진 심박수 측정 지점에 대응하는 심박수 측정의 정확도가 최대일 수 있다.
다양한 실시예에 따르면, 사용자의 눈과 약 10cm 이상 떨어진 지점에서 적외선 센서(402)를 Eye tracker 용도로 사용할 때, 전자장치(400)는 사용자 눈동자의 움직임을 추적하기 위해, 약 200mA 이상의 전류로 적외선 센서(402)를 구동할 수 있다. 다양한 실시예에 따르면, 전자장치(400)는 약 10cm 이상 떨어진 지점에서 약 200mA 이상의 전류로 적외선 센서를 동작함에 따라, 사용자 눈동자의 움직임을 추적하는 정확도가 최대일 수 있다.
다양한 실시예에 따르면, 적외선 센서(402)와 측정 대상(예, 홍채, 심박수 측정 지점)과의 거리를 측정하는 방법은 여러 가지가 있을 수 있다. 다양한 실시예에 따르면, 전자장치(400)는 이미지 센서를 이용하여 사용자의 얼굴을 확인하고, 상기 얼굴에 해당하는 픽셀(pixel)들의 평균값을 결정할 수 있다. 전자장치(400)는 상기 결정된 평균값을 기반으로 사용자와의 거리를 결정하고, 상기 거리에 대응하여 적외선 센서의 전류값 및 광량을 조정할 수 있다. 다양한 실시예에 따르면, 전자장치(400)는 사용 용도와 측정 대상과의 거리를 기반으로 적외선 센서의 광량을 조절함에 따라, 사용자의 눈을 보호할 수도 있다.
다양한 실시예에 따르면, 전자장치(400)는 사용 용도와 측정 대상과의 거리에 대응하는 최적의 전류값 및 광량을 미리 설정할 수 있고, 상기 설정된 최적의 전류값 및 광량을 메모리에 저장할 수 있다.
다양한 실시예에 따르면, 전자장치(400)의 프로세서(도 2의 프로세서(210))는 적외선 센서(402)를 사용하여, 어느 하나의 피사체를 촬영하고, 상기 촬영한 피사체로부터 로 데이터를 획득할 수 있다. 전자장치(400)의 프로세서(210)는 상기 획득한 로 데이터를 기반으로 피사체의 특징을 추출하고, 상기 추출된 특징을 기반으로 관심 영역(ROI)을 탐색할 수 있다. 여기서 피사체의 특징은 상기 피사체를 구성하는 구성 요소일 수 있다. 다양한 실시예에 따르면, 피사체가 사용자의 얼굴인 경우 상기 피사체의 특징은 얼굴을 구성하는 눈, 코, 입, 이마 등을 포함할 수 있다. 전자장치(400)는 상기 탐색된 관심 영역(ROI)을 기반으로 피사체의 심박수 정보 및 홍채 정보를 획득할 수 있다. 전자장치(400)는 상기 획득한 심박수 정보 및 홍채 정보를 활용하여 특정 기능을 수행할 수 있다.
다양한 실시예에 따르면, 전자장치(400)는 적외선 센서(402)를 사용하여 피사체(예, 사용자)에 대한 데이터를 수신할 수 있다. 전자장치(400)는 사용자의 심박수를 측정하기 위해, 적외선 센서(402)를 통해 수신된 데이터를 ROI 관리 모듈(410)에게 전송할 수 있다. 또한, 전자장치(400)는 사용자를 인증하기 위해, 적외선 센서(402)를 통해 수신된 데이터를 홍채 관리 모듈(420)에게 전송할 수도 있다.
다양한 실시예에 따르면, 전자장치(400)는 ROI 관리 모듈(410)을 포함하며, ROI 관리 모듈(410)은 특징 추출 모듈(411), ROI 탐색 모듈(413) 및 ROI 측정 모듈(415)을 포함할 수 있다.
다양한 실시예에 따르면, 특징 추출 모듈(411)은 적외선 센서(402)를 통해 획득한 로 데이터(raw data)를 기반으로 피사체의 특징을 추출할 수 있다. 다양한 실시예에 따르면, 피사체가 사용자의 얼굴인 경우 상기 로 데이터는 사용자의 얼굴임을 인식할 수 있는 데이터를 포함할 수 있다. 상기 로 데이터는 얼굴의 방향, 얼굴의 위치를 구별하는 데이터를 포함할 수도 있다. 상기 로 데이터는 얼굴 형태를 확인하기 위한 데이터와, 얼굴의 눈, 코, 입 이마 등의 위치를 확인하기 위한 데이터를 포함할 수 있다. 즉, 특징 추출 모듈(411)은 피사체의 로 데이터를 기반으로, 상기 피사체의 눈, 코, 입, 이마 등의 위치를 확인할 수 있다. 전술된 설명에서 상기 피사체를 사용자의 얼굴로 설명하였으나, 이에 한정하지 않는다. 상기 피사체는 적외선 센서를 사용하여 심박수를 측정할 수 있는 신체 부위를 모두 포함할 수 있다.
다양한 실시예에 따르면, ROI 탐색 모듈(413)은 상기 특징 추출 모듈(411)을 통해 확인된 눈, 코, 입, 이마의 위치를 기반으로, ROI(관심 영역)을 탐색할 수 있다. 여기서 ROI는 피사체의 심박수를 측정할 수 있는 특정 영역을 포함할 수 있다. 본 발명의 다양한 실시예는 사용자 얼굴을 기반으로 특정 위치(예, 이마, 관자놀이, 와잠(臥蠶)(눈 밑 부위, bags under eyes), 코 밑 부위)에서의 이미지 변화를 감지하고, 상기 이미지 변화를 기반으로 사용자의 심박수를 측정할 수 있다. 또한, 본 발명의 다양한 실시예는 사용자의 측면 얼굴을 기반으로 특정 위치(예, 귀밑, 귀볼, 관자놀이, 와잠(눈 밑 부위))에서의 이미지 변화를 감지하고, 상기 이미지 변화를 기반으로 사용자의 심박수를 측정할 수도 있다. ROI는 특징 추출 모듈(411)을 통해 확인된 눈, 코, 입 위치를 기반으로 결정될 수도 있고, 사용자에 대응하여 미리 설정된 관심 영역으로 결정될 수도 있다. ROI 탐색 모듈(413)은 피사체의 심박수를 측정하기 위한 적어도 하나의 관심 영역을 탐색할 수 있다. ROI 탐색 모듈(413)은 전술된 동작을 실시간으로 수행할 수 있다.
다양한 실시예에 따르면, ROI 측정 모듈(415)은 상기 ROI 탐색 모듈(413)을 통해 탐색된 적어도 하나 이상의 ROI(관심 영역)에 대한 데이터를 측정하거나, 기 저장된 하나 이상의 ROI에 대한 데이터를 측정할 수 있다. 다양한 실시예에 따르면, 전자장치(400)는 상기 ROI 탐색 모듈(413)을 통해 결정된 ROI(관심 영역)에 대한 이미지를 촬영하거나, 영상을 촬영할 수 있다. 여기서 ROI 측정 모듈(415)은 적어도 하나 이상의 ROI 데이터를 측정할 수 있고, 상기 ROI 데이터의 측정과 동시에 심박수 변환을 수행할 수 있다. 또한, ROI 측정 모듈(415)은 적어도 하나 이상의 ROI 데이터 중 노이즈가 심한 데이터를 필터링(filtering)할 수도 있다. ROI 측정 모듈(415)은 적어도 하나 이상의 ROI 데이터를 기반으로, 평균값을 계산할 수도 있고, 최적의 값을 도출할 수 있는 데이터를 선택할 수도 있다.
다양한 실시예에 따르면, ROI 측정 모듈(415)은 ROI 데이터(심박수 측정을 위한 데이터)가 일정 임계값 영역을 벗어나거나, 노이즈가 많아서 상기 ROI 데이터를 측정하기 어려울 경우 상기 ROI 탐색 모듈(413)에게 ROI의 재탐색을 요청할 수도 있다.
다양한 실시예에 따르면, ROI 측정 모듈(415)은 1차적으로 ROI 데이터를 필터링하거나, 가공하고 해당 정보를 심박수 관리 모듈(430)에게 전달할 수 있다.
다양한 실시예에 따르면, ROI 관리 모듈(410)은 탐색된 ROI(예, 피사체의 이마, 관자놀이, 와잠(눈 밑 부위))에서의 이미지 변화를 감지하고, 상기 감지된 이미지 변화를 기반으로 피사체의 심박수를 측정하기 위한 심박수 데이터를 획득할 수 있다. ROI 측정 모듈(415)은 상기 획득한 심박수 데이터를 1차적으로 필터링하거나, 가공하여 심박수 관리 모듈(430)에게 전송할 수 있다. 또한, ROI 관리 모듈(410)은 특징 추출 모듈(411)을 통해 확인된 피사체의 눈 위치를 기반으로, 피사체의 홍채 데이터를 획득할 수도 있다. 그리고 ROI 측정 모듈(415)은 상기 획득한 홍채 데이터를 홍채 관리 모듈(420)에게 전송할 수도 있다.
다양한 실시예에 따르면, ROI 관리 모듈(410)은 ROI 데이터 베이스(DB)(460)를 관리할 수 있다. 다양한 실시예에 따르면, ROI 관리 모듈(410)은 피사체의 눈, 코, 입, 이마의 위치에 대응하는 정보를 ROI 데이터 베이스(460)에 저장할 수 있다. 다양한 실시예에 따르면, 사용자 인증 과정을 통해 특정 사용자(예, 제 1 사용자)가 인증되는 경우, ROI 관리 모듈(410)은 상기 인증된 제 1 사용자에 대응하는 ROI 정보를 ROI 데이터 베이스(460)에 저장할 수 있다. 그리고 추후에, 제 1 사용자가 인증된 경우 ROI 관리 모듈(410)은 ROI를 탐색하는 과정 없이, ROI 데이터 베이스(460)에 저장된 상기 제 1 사용자에 대응하는 ROI 정보를 로딩하여, 상기 로딩된 ROI 정보를 기반으로 상기 제 1 사용자의 심박수 데이터를 획득할 수 있다.
다양한 실시예에 따르면, 전자장치(400)는 홍채 관리 모듈(420)을 포함하며, 홍채 관리 모듈(420)은 홍채 데이터 처리 모듈(421)과 사용자 인증 모듈(423)을 포함할 수 있다. 홍채 관리 모듈(420)은 적외선 센서(402)를 사용하여 확인된 데이터(예, 홍채 인식 데이터)를 수신할 수 있다. 또한, 홍채 관리 모듈(420)은 ROI 관리 모듈(410)로부터 홍채 데이터를 수신할 수도 있다. 다양한 실시예에 따르면, 사용자 인증을 위해 충분할 정도의 홍채 관련 데이터를 획득할 수 있는 경우 홍채 관리 모듈(420)은 ROI 관리 모듈(410)을 통해 홍채 데이터를 수신할 수도 있다. 또한, 홍채 관리 모듈(420)은 사용자 데이터 베이스(DB)(440)를 관리할 수 있다.
다양한 실시예에 따르면, 홍채 관리 모듈(420)의 홍채 데이터 처리 모듈(421)은 상기 ROI 관리 모듈(410)로부터 수신된 홍채 데이터를 가공할 수 있다. 홍채 관리 모듈(420)은 상기 가공된 홍채 데이터를 기반으로 사용자를 인증하거나, 상기 홍채 데이터를 기반으로 사용자 데이터 베이스(DB)(440)에 저장된 홍채 정보를 업데이트할 수 있다. 다양한 실시예에 따르면, 홍채 관리 모듈(420)은 전자장치(400)의 사용자에 대응하는 정보를 사용자 데이터 베이스(DB)(440)에 저장할 수 있다.
다양한 실시예에 따르면, ROI 관리 모듈(410)로부터 홍채 데이터를 수신하는 경우 홍채 관리 모듈(420)의 사용자 인증 모듈(423)은 상기 수신된 홍채 데이터와 사용자 데이터 베이스(440)에 저장된 홍채 데이터를 비교하여, 사용자 인증을 수행할 수 있다. 또한, 홍채 관리 모듈(420)은 추가 인증이 필요할 경우 심박수 관리 모듈(430)에게 피사체의 심박수 관련 정보를 요청할 수도 있다. 그리고 홍채 관리 모듈(420)은 특정 사용자를 인증하는데 사용된 정보를 기반으로, 사용자 데이터 베이스(440)를 업데이트할 수 있다.
다양한 실시예에 따르면, 전자장치(400)는 심박수(HR) 관리 모듈(430)을 포함하며, 심박수(HR) 관리 모듈(430)은 HR 데이터 처리 모듈(431)과 심박수 측정 모듈(433)을 포함할 수 있다. 심박수 관리 모듈(430)은 ROI 관리 모듈(410)로부터 심박수 데이터를 수신할 수 있다. 또한, 심박수 관리 모듈(430)은 건강 정보 데이터 베이스(450)를 관리할 수 있다.
다양한 실시예에 따르면, 심박수 관리 모듈(430)의 HR 데이터 처리 모듈(431)은 ROI 관리 모듈(410)로부터 수신된 ROI 데이터를 가공할 수 있다. 다양한 실시예에 따르면, ROI 관리 모듈(410)의 ROI 측정 모듈(415)은 ROI 데이터를 1차적으로 필터링하거나, 가공할 수 있다. 그리고 ROI 관리 모듈(410)은 상기 1차적으로 가공된 ROI 데이터를 심박수 관리 모듈(430)에게 전달할 수 있다. 심박수 관리 모듈(430)의 HR 데이터 처리 모듈(431)은 상기 1차적으로 가공된 ROI 데이터를 기반으로 심박수 데이터로 변환(2차 가공)할 수 있다. 다양한 실시예에 따르면, HR 데이터 처리 모듈(431)은 피사체(사용자)의 눈 밑에서 측정된 데이터만을 전달 받아 심박수 데이터로 변환할 수도 있고, 눈 밑과 관자 놀이에서 측정된 복수 개의 데이터를 전달 받고, 상기 복수 개의 데이터에 대한 평균값을 계산하여 하나의 심박수 데이터로 변환할 수도 있다. 즉, HR 데이터 처리 모듈(431)은 N개 이상의 ROI 영역에서 추출된 데이터 값을 기반으로 평균값을 계산하여 하나의 심박수 데이터로 변환할 수 있다. 또한, HR 데이터 처리 모듈(431)은 노이즈를 필터링하는 과정을 통해, 최적의 ROI 영역(예, 노이즈가 발생하지 않은 ROI 영역)을 기반으로 하나의 심박수 데이터로 변환할 수도 있다.
다양한 실시예에 따르면, 심박수 결정 모듈(433)은 상기 변환된 심박수 데이터를 기반으로 피사체의 예상 심박수를 결정할 수 있다. 다양한 실시예에 따르면, ROI 관리 모듈(410)은 복수 개의 ROI를 기반으로 복수 개의 심박수 데이터를 획득하고, 심박수 관리 모듈(430)에게 전송할 수 있다. 심박수 관리 모듈(430)은 상기 획득한 복수 개의 심박수 데이터를 기반으로, 심박수 데이터의 평균값을 계산할 수 있다. 심박수 관리 모듈(430)은 상기 심박수 데이터의 평균값을 기반으로 피사체의 예상 심박수를 결정할 수 있다.
다양한 실시예에 따르면, 심박수 관리 모듈(430)은 상기 결정된 예상 심박수와 건강 정보 데이터 베이스(450)에 저장된 심박수 정보를 비교하고, 비교 결과에 대한 정보를 사용자에게 제공할 수 있다. 다양한 실시예에 따르면, 심박수 관리 모듈(430)은 상기 결정된 예상 심박수가 정상 상태의 심박수보다 높은 경우 사용자 인터페이스를 통해 심박수에 대한 정보를 제공(예, 사용자 인터페이스의 색 변화, 특정 동작을 수행하기 위한 가이드 메시지 표시)할 수 있다. 또한, 심박수 관리 모듈(430)은 상기 결정된 예상 심박수를 기반으로 건강 정보 데이터 베이스(450)에 저장된 심박수 정보를 업데이트할 수도 있다.
본 발명의 다양한 실시예에 따른 전자장치는, 적외선 센서; 메모리; 및 상기 적외선 센서와 상기 메모리에 전기적으로 연결된 프로세서;를 포함하고, 상기 메모리는, 실행 시에, 상기 프로세서가, 상기 적외선 센서를 사용하여 이미지를 수신하고, 상기 수신된 이미지에서 심장 박동 수를 측정하기 위한 적어도 하나의 관심 영역을 결정하고, 상기 결정된 적어도 하나의 관심 영역을 기반으로 상기 심장 박동 수를 결정하도록 하는 인스트럭션을 저장할 수 있다.
다양한 실시예에 따른 전자장치는, 상기 수신된 이미지에서 피사체를 확인하고, 상기 확인된 피사체의 특징을 추출하고, 상기 추출된 피사체의 특징을 기반으로 상기 적어도 하나의 관심 영역을 결정할 수 있다.
다양한 실시예에 따른 전자장치는, 상기 수신된 이미지에 사용자의 얼굴이 포함된 경우 사용자의 눈, 코, 입, 이마의 위치를 특징으로 추출할 수 있다.
다양한 실시예에 따른 전자장치는, 사용자 인증 요청을 수신하고, 상기 적외선 센서를 사용하여 상기 사용자의 홍채를 인식하고, 상기 관심 영역에서 심장 박동의 측정이 가능한지 여부를 결정하고, 상기 심장 박동이 측정되는 경우 상기 사용자 인증을 완료할 수 있다.
다양한 실시예에 따른 전자장치는, 상기 인증된 사용자에 대응하여 관심 영역이 설정된 경우 상기 설정된 관심 영역을 기반으로 상기 사용자의 심장 박동 수를 결정할 수 있다.
다양한 실시예에 따른 전자장치는, 상기 인증된 사용자에 대응하여 관심 영역이 설정되지 않은 경우 상기 인증된 사용자에 대응하여 상기 결정된 적어도 하나의 관심 영역을 상기 메모리에 저장할 수 있다.
다양한 실시예에 따른 전자장치는, 상기 적어도 하나의 관심 영역에서 발생하는 노이즈를 측정하고, 상기 측정된 노이즈가 설정된 임계값을 초과하는 경우 심장 박동 수의 측정이 가능한 관심 영역 후보군에서 제외할 수 있다.
다양한 실시예에 따른 전자장치는, 상기 심장 박동 수의 측정이 가능한 관심 영역 후보군을 기반으로 심장 박동 수를 결정할 수 있다.
다양한 실시예에 따른 전자장치는, 상기 결정된 적어도 하나의 관심 영역에서 상기 심장 박동 수 측정을 위한 데이터를 수신하고, 상기 수신된 데이터를 기반으로 심장 박동 수 데이터로 변환하고, 상기 변환된 심장 박동 수 데이터를 상기 심장 박동 수로 결정할 수 있다.
다양한 실시예에 따른 전자장치는, 상기 결정된 적어도 하나의 관심 영역에서의 이미지 변화에 대응하는 데이터를 수신하고, 상기 수신된 데이터를 상기 심장 박동 수로 변환하여 상기 심장 박동 수를 결정할 수 있다.
다양한 실시예에 따른 전자장치는, 상기 적외선 센서의 사용 용도 및 피사체와의 거리를 기반으로, 상기 적외선 센서의 광량을 조정할 수 있다.
다양한 실시예에 따른 적외선 센서는, 발광부와 수광부를 모두 포함하는 하나의 센서, 카메라에 내장된 센서, 발광부인 센서와 수광부인 카메라를 연동하는 하나의 센서 중 하나로 구성될 수 있다.
도 5는 본 발명의 다양한 실시예에 따른 적외선 센서를 사용하여 심박수를 측정하는 방법을 설명하기 위한 순서도이다.
도 5를 참조하면, 동작 501에서 전자장치(도 4의 전자장치(400))는 심박수 측정 기능을 수행할 수 있다. 다양한 실시예에 따르면, 전자장치(400)는 어플리케이션 프로그램의 실행에 대응하여 심박수 측정 기능을 수행할 수 있다. 또는, 사용자에 의해 심박수 측정 명령이 수신되면, 전자장치(400)는 심박수 측정 기능을 수행할 수 있다. 심박수 측정 기능의 수행 여부는 사용자 설정에 의해 결정될 수 있다.
동작 503에서 전자장치(400)는 피사체(예, 사용자)를 확인할 수 있다. 다양한 실시예에 따르면, 전자장치(400)는 적외선 센서(도 4의 적외선 센서(402))를 사용하여 피사체를 확인하거나, 카메라를 사용하여 피사체를 확인할 수 있다. 동작 505에서 전자장치(400)는 상기 확인된 피사체의 특징(feature)을 추출할 수 있다. 다양한 실시예에 따르면, 피사체가 사용자의 얼굴에 해당하는 경우 전자장치(400)는 상기 사용자 얼굴의 특징(feature, 이목구비)을 추출할 수 있다. 전자장치(400)는 상기 확인된 사용자의 얼굴 형태를 기반으로, 눈, 코, 입 등이 위치한 영역을 감지할 수 있고, 상기 감지된 영역을 기반으로 사용자의 눈, 코, 입 위치를 정확하게 추출할 수 있다.
동작 507에서 전자장치(400)는 상기 추출된 특징을 기반으로 관심 영역(ROI, Region of Interest)을 결정할 수 있다. 여기서 관심 영역은 사용자의 이마, 사용자의 관자놀이, 사용자의 와잠(눈 밑 부위)을 포함할 수 있다. 관심 영역은 적외선 센서를 사용하여 사용자의 심박수 데이터를 획득할 수 있는, 적어도 하나 이상의, 얼굴 특정 부위(영역)(예, 이마, 관자놀이, 와잠)일 수 있다. 다양한 실시예에 따르면, 전자장치(400)는 적외선 센서를 사용하여 관심 영역에서의 이미지 변화를 감지하고, 상기 감지된 이미지 변화를 기반으로 심박수 데이터를 획득할 수 있다. 즉, 상기 관심 영역은 심박수를 측정할 수 있는, 이미지 변화가 발생하는, 특정 영역일 수 있다. 관심 영역은 전술된 부위에 한정하지는 않는다. 전자장치(400)는 눈, 코, 입, 이마의 위치(특징)를 기반으로 관심 영역을 결정할 수 있다.
동작 509에서 전자장치(400)는 상기 결정된 관심 영역을 기반으로 심박수를 결정할 수 있다. 다양한 실시예에 따르면, 전자장치(400)는 적외선 센서를 사용하여 상기 탐색된 관심 영역에서의 이미지 변화를 감지하고, 상기 감지된 이미지 변화를 기반으로 심박수 데이터를 획득할 수 있다. 상기 탐색된 관심 영역이 복수 개인 경우 전자장치(400)는 복수 개의 심박수 데이터를 획득하고, 상기 획득한 복수 개의 심박수 데이터에 대한 평균값을 계산하여 사용자의 심박수를 결정할 수 있다.
동작 511에서 전자장치(400)는 상기 결정된 심박수에 대한 정보를 특정 어플리케이션 또는 다른 장치(예, 사용자의 wearable 장치, 타 전자장치)에게 전달할 수 있다. 다양한 실시예에 따르면, 전자장치(400)는 건강 관련 어플리케이션에게 일정 주기 마다 상기 결정된 심박수에 대한 정보를 전송할 수 있다. 또한, 전자장치(400)는 상기 결정된 심박수에 대한 정보를 사용자의 wearable 장치에게 전송할 수도 있다. 전자장치(400)는 상기 결정된 심박수를 특정 컨텐츠에 매핑시키거나, 메타 데이터로 저장할 수도 있다.
다양한 실시예에 따르면, 특정 어플리케이션은 사용자의 심박수에 대한 정보를 기반으로 상기 심박수에 대한 정보를 사용자에게 제공할 수 있다. 다양한 실시예에 따르면, 전자장치(400)는 상기 결정된 심박수가 정상 심박수(예, 기 설정된 임계값)보다 큰 경우 사용자 인터페이스의 색상을 변화할 수 있다. 전자장치(400)는 사용자 인터페이스의 색상을 초록색으로 변경하여, 사용자에게 심박수에 대한 정보를 제공할 수 있다. 또는, 전자장치(400)는 사용자 인터페이스에서 가이드(guide) 메시지(예, “잠시 쉬었다 하세요”)를 표시할 수도 있다. 전자장치(400)는 상기 측정된 사용자의 심박수를 기반으로 사용자가 스트레스를 받았는지 여부를 판단하고, 상기 판단 결과에 따라, 건강 서비스를 제공할 수도 있다. 또한, 전자장치(400)는 측정된 사용자의 심박수를 지속적으로 기록하여, 사용자의 스트레스 정도 및 혈관 나이를 유추하는 서비스를 제공할 수도 있다.
다양한 실시예에 따르면, 특정 어플리케이션이 갤러리 관련 어플리케이션인 경우 전자장치(400)는 갤러리에 저장된 이미지에 상기 심박수에 대한 정보를 포함할 수 있다. 그리고 전자장치(400)는 상기 심박수에 대한 정보를 기반으로 상기 이미지를 리스트업하여 표시할 수 있다. 그리고 사용자가 비디오 영상을 보면서 일정 임계값 이상의 심박수가 측정되는 경우 전자장치(400)는 해당되는 시점의 비디오 영상을 클립하여 썸네일(thumbnail)로 표시할 수 있다.
다양한 실시예에 따르면, 전자장치(400)는 홍채 인증과 심박수 측정이 동시에 수행되는 경우 상기 측정된 심박수를 기반으로 피사체(사용자)에 대한 Liveness를 체크하고, 상기 체크 결과(예, “인증 완료”, “심박 정보가 측정되지 않았습니다. 재인증 해주세요”와 같은 알림(메시지) 정보)를 인터페이스를 통해 표시할 수 있다.
다양한 실시예에 따르면, HMD(Head Mounted Display) 장치에서 심박수를 측정하고자 하는 경우 적외선 센서를 구비한 HMD 장치는 사용자의 피부에 접촉하지 않아도 되고, 주변이 어두울 지라도, 상기 적외선 센서를 사용하여 관심 영역을 탐색하고, 상기 관심 영역에서의 이미지 변화를 감지할 수 있다. 다양한 실시예에 따르면, 적외선 센서를 구비한 HMD 장치는 사용자의 생체 정보(예, 홍채 정보)를 검출할 수도 있다. 다양한 실시예에 따르면, HMD 장치는 적외선 센서를 활용하여 사용자의 홍채 정보를 감지하고, 상기 사용자의 홍채 정보를 사용자를 인증하기 위한 데이터로 활용할 수 있다.
다양한 실시예에 따르면, HMD 장치에서 심박수를 측정하는 경우 심박수 변화에 따라, HMD 장치는 사용자에게 특정 정보를 제공할 수 있다. 다양한 실시예에 따르면, 사용자가 HMD 장치를 착용한 상태에서 심박수가 증가하면, HMD 장치는 사용자에게 휴식을 권유하는 알림 메시지를 제공할 수 있다. HMD 장치는 사용자의 심박수가 진정되도록 평안한 음악 및 배경을 바꿔주는 서비스를 제공할 수도 있다.
도 6은 본 발명의 다양한 실시예에 따른 적외선 센서를 사용하여 심박수를 측정함에 있어서, 기 저장된 관심 영역이 있으면, 상기 기 저장된 관심 영역을 기반으로 심박수를 측정하고, 기 저장된 관심 영역이 없으면, 관심 영역을 탐색하여 심박수를 측정하는 방법을 설명하기 위한 순서도이다.
도 6은 도 5의 동작 505 내지 동작 509를 보다 구체화하여 설명하기 위하여 동작을 세분화한 순서도이다. 도 6을 참조하면, 동작 601에서 전자장치의 프로세서(도 4의 프로세서(210))는 확인된 피사체의 특징(feature)을 추출할 수 있다. 동작 601은 도 5의 동작 505와 동일하다. 그리고 동작 603에서 프로세서(210)는 메모리에 기 저장된 관심 영역(ROI)이 존재하는지 여부를 확인할 수 있다.
동작 603에서 기 저장된 관심 영역이 존재하는 경우 동작 605에서 프로세서(210)는 기 저장된 관심 영역을 기반으로 심박수를 측정할 수 있다. 프로세서(210)는 적어도 하나 이상의 기 저장된 관심 영역을 선택하고, 상기 선택된 관심 영역에 대응하는 이미지를 분석할 수 있다. 프로세서(210)는 상기 이미지 분석을 통해 심박수로 변환할 하나 이상의 관심 영역을 결정하고, 상기 결정된 관심 영역을 기반으로 심박수를 측정할 수 있다. 동작 607에서 프로세서(210)는 상기 측정된 심박수를 기반으로 심박수를 결정할 수 있다. 상기 측정된 심박수가 복수 개인 경우 프로세서(210)는 상기 측정된 심박수의 평균값을 계산하고, 상기 평균값을 심박수로 결정할 수 있다.
동작 603에서 기 저장된 관심 영역이 존재하지 않는 경우 동작 609에서 프로세서(210)는 적어도 하나 이상의 관심 영역을 탐색할 수 있다. 다양한 실시예에 따르면, 상기 피사체가 사용자의 얼굴에 해당하는 경우 프로세서(210)는 사용자 얼굴의 특징 예, 사용자의 눈, 코, 입 이마 등의 위치에 대응되는 특징)을 기반으로 적어도 하나 이상의 관심 영역을 탐색할 수 있다. 프로세서(210)는 사용자의 눈, 코, 입, 이마의 위치를 기반으로 심박수를 측정하기 위한 이마의 일부 영역, 관자놀이 및 와잠(눈 밑 부위)을 관심 영역으로 탐색할 수 있다.
다양한 실시예에 따르면, 프로세서(210)는 상기 탐색된 관심 영역에서 발생된 노이즈 값을 측정할 수 있다. 다양한 실시예에 따르면, 프로세서(210)는 상기 탐색된 관심 영역 중 제 1 관심 영역에서의 노이즈 값을 측정할 수 있다. 프로세서(210)는 상기 측정된 노이즈 값이 기 설정된 임계값보다 큰 경우 상기 제 1 관심 영역을 관심 영역 후보군에서 제외할 수 있다.
동작 611에서 프로세서(210)는 상기 추출된 특징을 기반으로 심박수 측정이 가능한 관심 영역 후보군을 결정할 수 있다. 관심 영역 후보군은 노이즈가 적게 발생하는 관심 영역을 포함할 수 있다.
동작 613에서 프로세서(210)는 상기 결정된 관심 영역 후보군을 기반으로 심박수를 측정할 수 있다. 그리고 동작 607에서 프로세서(210)는 상기 측정된 심박수를 기반으로 심박수를 결정할 수 있다.
다양한 실시예에 따르면, 전자장치는 사용자 인증이 수행된 경우 상기 인증된 사용자에 대응하여 심박수 측정이 가능한 관심 영역을 관심 영역 데이터 베이스(도 4의 관심 영역 데이터 베이스(460))에 저장할 수 있다. 이후에, 사용자 인증이 수행된 상태에서 심박수 측정 기능이 수행되는 경우 프로세서(210)는 관심 영역을 탐색하는 과정을 생략할 수 있다. 프로세서(210)는 상기 관심 영역 데이터 베이스(460)에 저장된, 상기 인증된 사용자에 대응하는 관심 영역을 확인하고, 상기 확인된 관심 영역을 기반으로 사용자의 심박수를 측정할 수 있다.
도 7은 본 발명의 다양한 실시예에 따른 적외선 센서를 사용하여 사용자를 인증하는 방법을 설명하기 위한 순서도이다.
도 7을 참조하면, 동작 701에서 전자장치의 프로세서(도 4의 프로세서(210))는 사용자 인증의 수행 여부를 판단할 수 있다. 사용자 인증을 수행하는 경우 동작 703에서 프로세서(210)는 적외선 센서를 사용하여 사용자의 홍채를 인식할 수 있다. 본 발명의 다양한 실시예는 사용자 인증을 위한 홍채를 인식하면서, 심박수 측정을 수행할 수 있다. 본 발명의 다양한 실시예는 홍채 인증을 하고, 심박수 측정이 가능한 경우 사용자 인증을 완료할 수 있다. 본 발명의 다양한 실시예는 홍채 인증과 함께, 심박수 측정 여부를 확인하므로, 보다 강화된 사용자 인증을 수행할 수 있다. 본 발명의 다양한 실시예는 특정 사용자의 홍채 이미지를 복사하여, 상기 홍채 이미지만으로 사용자 인증을 수행하는 행위를 방지할 수 있다.
동작 705에서 프로세서(210)는 심박수 측정 기능의 수행 여부를 판단할 수 있다. 심박수 측정 기능을 수행하는 경우 동작 707에서 프로세서(210)는 피사체(예, 사용자)를 확인할 수 있다. 프로세서(210)는 적외선 센서를 사용하여 피사체를 확인하거나, 카메라를 사용하여 피사체를 확인할 수 있다.
동작 709에서 프로세서(210)는 상기 확인된 피사체의 특징을 추출하고, 동작 711에서 프로세서(210)는 상기 추출된 특징을 기반으로 관심 영역을 결정할 수 있다. 여기서 관심 영역은 피사체에 대응하여 심박수 측정이 가능한 영역일 수 있다. 다양한 실시예에 따르면, 피사체가 사용자의 얼굴에 해당하는 경우 상기 관심 영역은 심박수 측정이 가능한 얼굴의 특정 부위(영역)(예, 관자놀이, 눈 밑 부위, 코 밑 부위 등)일 수 있다.
동작 713에서 프로세서(210)는 상기 결정된 관심 영역을 기반으로 심박수 측정이 가능한지 여부를 판단할 수 있다. 즉, 프로세서(210)는 상기 피사체가 실제로 살아 있는 생명체인지 여부를 판단할 수 있다. 본 발명의 다양한 실시예는 홍채 이미지만을 사용하여 사용자 인증을 수행하는 위조 행위를 방지할 수 있다. 프로세서(210)는 상기 결정된 관심 영역에서 심박수 측정이 불가능한 경우 사용자 인증이 실패한 것으로 결정할 수 있다.
동작 713에서 상기 심박수 측정이 가능한 경우 동작 715에서 프로세서(210)는 사용자 인증 과정을 완료할 수 있다. 즉, 프로세서(210)는 사용자에 대한 심박수 측정이 가능한 경우 동작 703에서 인식한 홍채 정보가 위조되지 않았다고 판단할 수 있다.
도시되지는 않았지만, 프로세서(210)는 결정된 관심 영역을 기반으로 심박수를 결정하고, 상기 결정된 심박수에 대한 정보를 특정 어플리케이션으로 전달할 수도 있다.
도시되지는 않았으나, 동작 715에서 사용자 인증이 완료되면, 프로세서(210)는 동작 711에서 상기 결정된 관심 영역을 사용자 데이터 베이스(예, 도 4의 사용자 DB(440))에 저장할 수 있다. 사용자 인증이 수행된 상태에서 심박수 측정 기능을 수행하는 경우 프로세서(210)는 관심 영역을 결정하는 과정을 생략하고, 상기 인증된 사용자에 대응하는 관심 영역을 상기 사용자 데이터 베이스로부터 불러올 수 있다.
본 발명의 다양한 실시예에 따른 방법은, 적외선 센서를 사용하여 이미지를 수신하는 동작; 상기 수신된 이미지에서 심장 박동 수를 측정하기 위한 적어도 하나의 관심 영역을 결정하는 동작; 상기 결정된 적어도 하나의 관심 영역을 기반으로 상기 심장 박동 수를 결정하는 동작; 을 포함할 수 있다.
본 발명의 다양한 실시예에 따른 방법은, 상기 수신된 이미지에서 피사체를 확인하고, 상기 확인된 피사체의 특징을 추출하고, 상기 추출된 피사체의 특징을 기반으로 상기 적어도 하나의 관심 영역을 결정할 수 있다.
본 발명의 다양한 실시예에 따른 방법은, 상기 수신된 이미지에 사용자의 얼굴이 포함된 경우 사용자의 눈, 코, 입, 이마의 위치를 상기 피사체의 특징으로 추출할 수 있다.
본 발명의 다양한 실시예에 따른 방법은, 사용자 인증 요청에 응답하여, 상기 적외선 센서를 사용하여 상기 사용자의 홍채를 인식하는 동작; 상기 관심 영역에서 심장 박동의 측정이 가능한지 여부를 결정하는 동작; 상기 심장 박동이 측정되는 경우 상기 사용자 인증을 완료하는 동작; 을 더 포함할 수 있다.
본 발명의 다양한 실시예에 따른 방법은, 상기 인증된 사용자에 대응하여 관심 영역이 설정된 경우 상기 설정된 관심 영역을 기반으로 상기 사용자의 심장 박동 수를 결정하는 동작; 을 더 포함할 수 있다.
본 발명의 다양한 실시예에 따른 방법은, 상기 인증된 사용자에 대응하여 관심 영역이 설정되지 않은 경우 상기 인증된 사용자에 대응하여 상기 결정된 적어도 하나의 관심 영역을 메모리에 저장하는 동작; 을 더 포함할 수 있다.
본 발명의 다양한 실시예에 따른 방법은, 상기 적어도 하나의 관심 영역에서 발생하는 노이즈를 측정하고, 상기 측정된 노이즈가 설정된 임계값을 초과하는 경우 상기 심장 박동 수의 측정이 가능한 관심 영역 후보군에서 제외할 수 있다.
본 발명의 다양한 실시예에 따른 방법은, 상기 심장 박동 수의 측정이 가능한 관심 영역 후보군을 기반으로 심장 박동 수를 결정할 수 있다.
본 발명의 다양한 실시예에 따른 방법은, 상기 결정된 적어도 하나의 관심 영역에서 심장 박동 수 측정을 위한 데이터를 수신하고, 상기 수신된 데이터를 기반으로 심장 박동 수 데이터로 변환하고, 상기 변환된 심장 박동 수 데이터를 상기 심장 박동 수로 결정할 수 있다.
본 발명의 다양한 실시예에 따른 방법은, 상기 결정된 적어도 하나의 관심 영역에서의 이미지 변화에 대응하는 데이터를 수신하고, 상기 수신된 데이터를 상기 심장 박동 수로 변환하여 상기 심장 박동 수를 결정할 수 있다.
본 발명의 다양한 실시예에 따른 방법은, 상기 적외선 센서의 사용 용도 및 피사체와의 거리를 기반으로, 상기 적외선 센서의 광량을 조정하는 동작; 을 더 포함할 수 있다.
도 8a 내지 8d는 본 발명의 다양한 실시예에 따른 심박수를 측정하기 위해 결정되는 관심 영역을 도시한 예시도이다.
도 8a를 참조하면, 프로세서(도 4의 프로세서(210))는 피사체(예, 사용자의 얼굴)의 특징을 추출하고, 상기 추출된 특징을 기반으로 사용자의 이마(810)를 인식할 수 있다. 그리고 프로세서(210)는 사용자의 이마(810)에서 이미지 변화가 발생하는 관심 영역(811)을 탐색할 수 있다. 그리고 프로세서(210)는 이마(810)의 일 부분인 관심 영역(811)에 대응하는 하나 이상의 이미지를 획득하고, 상기 획득된 이미지를 기반으로 사용자의 심박수를 측정할 수 있다. 사용자 인증을 수행한 경우 프로세서(210)는 인증된 사용자에 대응하여 관심 영역(811)을 관심 영역 데이터 베이스에 저장할 수 있다.
본 발명의 다양한 실시예에 따른 전자장치는 사용자가 사용자 인증을 수행하는 경우 상기 사용자에 대응하는 관심 영역(811)이 관심 영역 데이터 베이스에 저장되어 있다면, 관심 영역(811)을 탐색하는 과정 없이, 상기 사용자에 대응되는 관심 영역(811)에서 심박수를 측정할 수 있다. 사용자의 이마(810)는 머리카락에 의해 가려질 수 있으며, 머리카락에 의해 가려진 상기 관심 영역(811)에서 측정한 심박수는 노이즈가 많이 발생한 심박수일 수 있다.
도 8b를 참조하면, 프로세서(210)는 얼굴 형태의 특징을 추출하고, 상기 추출된 특징을 기반으로 눈, 코의 위치를 인식할 수 있다. 그리고 프로세서(210)는 이미지 변화가 발생하는, 사용자의 오른쪽 눈 밑 부분(821)을 관심 영역으로 결정할 수 있다. 프로세서(210)는 사용자의 오른쪽 눈 밑 부분(821)에 대응하는 하나 이상의 이미지를 획득하고, 상기 획득된 이미지를 기반으로 사용자의 심박수를 측정할 수 있다. 사용자 인증을 수행한 경우 프로세서(210)는 인증된 사용자에 대응하여 오른쪽 눈 밑 부분(821)을 관심 영역으로 관심 영역 데이터 베이스에 저장할 수 있다.
도 8c를 참조하면, 프로세서(210)는 얼굴 형태의 특징을 추출하고, 상기 추출된 특징을 기반으로 눈의 위치를 인식할 수 있다. 그리고 프로세서(210)는 이미지 변화가 발생하는, 사용자의 오른쪽 관자놀이(831)를 관심 영역으로 결정할 수 있다. 프로세서(210)는 오른쪽 관자놀이(831)에 대응하는 하나 이상의 이미지를 획득하고, 상기 획득된 이미지를 기반으로 사용자의 심박수를 측정할 수 있다. 사용자 인증을 수행한 경우 프로세서(210)는 인증된 사용자에 대응하여 오른쪽 관자놀이(831)를 관심 영역으로 관심 영역 데이터 베이스에 저장할 수 있다.
도 8d를 참조하면, 프로세서(210)는 얼굴 형태의 특징을 추출하고, 상기 추출된 특징을 기반으로 눈의 위치를 인식할 수 있다. 그리고 프로세서(210)는 이미지 변화가 발생하는, 사용자의 왼쪽 관자놀이(841)를 관심 영역으로 결정할 수 있다. 프로세서(210)는 왼쪽 관자놀이(841)에 대응하는 하나 이상의 이미지를 획득하고, 상기 획득된 이미지를 기반으로 사용자의 심박수를 측정할 수 있다. 사용자 인증을 수행한 경우 프로세서(210)는 인증된 사용자에 대응하여 왼쪽 관자놀이(841)를 관심 영역으로 관심 영역 데이터 베이스에 저장할 수 있다.
도 9a 내지 9d는 본 발명의 다양한 실시예에 따른 도 8a 내지 8d의 관심 영역에서 심박수를 측정한 실험값을 도시한 예시도이다.
도 9a는 도 8a에 도시된 이마의 일부분인 관심 영역(811)에서 측정한 심박수에 대한 실험값을 도시한 그래프(910)이다. 상기 그래프(910)는 도 8a에 도시된 관심 영역(811)에서 3초간 측정한 데이터를 도시한다. 도 9a를 참조하면, 상기 데이터에 대응하는 그래프의 최고점에서의 X 좌표값은 0.9333이고, Y 좌표값은 0.000108일 수 있다. 상기 최고점에서의 X 좌표값이 1초 동안의 심박수를 의미하므로, 상기 관심 영역(811)을 기반으로 측정한 심박수는 55.98bpm(0.9333*60=55.98)일 수 있다.
도 9b는 도 8b에 도시된 사용자의 오른쪽 눈 밑 부분(821)에서 측정한 심박수에 대한 실험값을 도시한 그래프(920)이다. 상기 그래프(920)는 도 8b에 도시된 오른쪽 눈 밑 부분(821)에서 3초간 측정한 데이터를 도시한다. 도 9b를 참조하면, 상기 데이터에 대응하는 그래프의 최고점에서의 X 좌표값은 1이고, Y 좌표값은 4.218e-06일 수 있다. 상기 최고점에서의 X 좌표값이 1초 동안의 심박수를 의미하므로, 오른쪽 눈 밑 부분(821)을 기반으로 측정한 심박수는 60.00bpm(1*60=60)일 수 있다.
도 9c는 도 8c에 도시된 사용자의 오른쪽 관자놀이(831)에서 측정한 심박수에 대한 실험값을 도시한 그래프(930)이다. 상기 그래프(930)는 도 8c에 도시된 오른쪽 관자놀이(831)에서 3초간 측정한 데이터를 도시한다. 도 9c를 참조하면, 상기 데이터에 대응하는 그래프의 최고점에서의 X 좌표값은 0.9667이고, Y 좌표값은 2.633e-06일 수 있다. 상기 최고점에서의 X 좌표값이 1초 동안의 심박수를 의미하므로, 오른쪽 관자놀이(831)를 기반으로 측정한 심박수는 58.002bpm(0.9667*60=58.002)일 수 있다.
도 9d는 도 8d에 도시된 사용자의 왼쪽 관자놀이(841)에서 측정한 심박수에 대한 실험값을 도시한 그래프(940)이다. 상기 그래프(940)는 도 8d에 도시된 왼쪽 관자놀이(841)에서 3초간 측정한 데이터를 도시한다. 도 9d를 참조하면, 상기 데이터에 대응하는 그래프의 최고점에서의 X 좌표값은 1.167이고, Y 좌표값은 1.875e-07일 수 있다. 상기 최고점에서의 X 좌표값이 1초 동안의 심박수를 의미하므로, 왼쪽 관자놀이(841)를 기반으로 측정한 심박수는 70.02bpm(1.167*60)일 수 있다.
본 발명의 다양한 실시예에 따른 전자장치는 적어도 하나 이상의 관심 영역을 결정하고, 상기 적어도 하나 이상의 관심 영역에 대응하여 심박수를 측정할 수 있다. 본 발명의 다양한 실시예에 따른 전자장치는 적어도 하나 이상의 관심영역에서 측정한 다수 개의 심박수를 기반으로 평균값을 계산할 수 있으며, 상기 평균값을 사용자의 심박수라고 예상할 수 있다.
도 10은 본 발명의 다양한 실시예에 따른 적외선 센서를 사용하여 사용자의 심박수를 측정하는 과정을 도시한 예시도이다.
도 10을 참조하면, 본 발명의 다양한 실시예는 전자장치(1000)에 구비된 카메라(1100)를 사용하여 사용자의 홍채(1010)를 인증할 수 있다. 여기서 카메라(1100)는 카메라 모듈(도 2의 카메라 모듈(291))과 적외선 센서(도 2의 적외선 센서(240N))를 하나의 발광부로 구성될 수 있다. 전자장치(1000)의 프로세서는 상기 카메라(1100)의 발광부를 구성하는 적외선 센서를 사용하여 사용자의 홍채(1010)에 대한 정보를 수신하고, 상기 사용자에 대한 인증을 수행할 수 있다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. "모듈"은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있으며, 예를 들면, 어떤 동작들을 수행하는, 알려졌거나 앞으로 개발될, ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays), 또는 프로그램 가능 논리 장치를 포함할 수 있다. 다양한 실시예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는 프로그램 모듈의 형태로 컴퓨터로 판독 가능한 저장 매체(예: 메모리(330))에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 프로세서(320))에 의해 실행될 경우, 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(예: 자기테이프), 광기록 매체(예: CD-ROM, DVD, 자기-광 매체 (예: 플롭티컬 디스크), 내장 메모리 등을 포함할 수 있다. 명령어는 컴파일러에 의해 만들어지는 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 다양한 실시예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 다른 구성요소를 더 포함할 수 있다. 다양한 실시예에 따른, 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
400 : 전자장치
402 : 적외선(IR) 센서
410 : ROI(Region of Interest, 관심 영역) 관리 모듈
411 : 특징 추출 모듈 413 : ROI 탐색 모듈
415 : ROI 측정 모듈 420 : 홍채 관리 모듈
421 : 홍채 데이터 처리 모듈 423 : 사용자 인증 모듈
430 : 심박수(HR) 관리 모듈 431 : HR 데이터 처리 모듈
433 : 심박수 결정 모듈 440 : 사용자 DB
450 : 건강 정보 DB 460 : ROI DB
410 : ROI(Region of Interest, 관심 영역) 관리 모듈
411 : 특징 추출 모듈 413 : ROI 탐색 모듈
415 : ROI 측정 모듈 420 : 홍채 관리 모듈
421 : 홍채 데이터 처리 모듈 423 : 사용자 인증 모듈
430 : 심박수(HR) 관리 모듈 431 : HR 데이터 처리 모듈
433 : 심박수 결정 모듈 440 : 사용자 DB
450 : 건강 정보 DB 460 : ROI DB
Claims (23)
- 전자장치에 있어서,
적외선 센서;
메모리; 및
상기 적외선 센서와 상기 메모리에 전기적으로 연결된 프로세서;를 포함하고,
상기 메모리는, 실행 시에, 상기 프로세서가,
상기 적외선 센서를 사용하여 이미지를 수신하고, 상기 수신된 이미지에서 심장 박동 수를 측정하기 위한 적어도 하나의 관심 영역을 결정하고, 상기 결정된 적어도 하나의 관심 영역을 기반으로 상기 심장 박동 수를 결정하도록 하는 인스트럭션을 저장하는 전자장치. - 제 1 항에 있어서,
상기 인스트럭션은,
상기 수신된 이미지에서 피사체를 확인하고, 상기 확인된 피사체의 특징을 추출하고, 상기 추출된 피사체의 특징을 기반으로 상기 적어도 하나의 관심 영역을 결정하도록 하는 전자장치. - 제 2 항에 있어서,
상기 인스트럭션은,
상기 수신된 이미지에 사용자의 얼굴이 포함된 경우 사용자의 눈, 코, 입, 이마의 위치를 특징으로 추출하도록 하는 전자장치. - 제 1 항에 있어서,
상기 인스트럭션은,
사용자 인증 요청을 수신하고, 상기 적외선 센서를 사용하여 상기 사용자의 홍채를 인식하고, 상기 관심 영역에서 심장 박동의 측정이 가능한지 여부를 결정하고, 상기 심장 박동이 측정되는 경우 상기 사용자 인증을 완료하도록 하는 전자장치. - 제 4 항에 있어서,
상기 인스트럭션은,
상기 인증된 사용자에 대응하여 관심 영역이 설정된 경우 상기 설정된 관심 영역을 기반으로 상기 사용자의 심장 박동 수를 결정하도록 하는 전자장치. - 제 5 항에 있어서,
상기 인스트럭션은,
상기 인증된 사용자에 대응하여 관심 영역이 설정되지 않은 경우 상기 인증된 사용자에 대응하여 상기 결정된 적어도 하나의 관심 영역을 상기 메모리에 저장하도록 하는 전자장치. - 제 1 항에 있어서,
상기 인스트럭션은,
상기 적어도 하나의 관심 영역에서 발생하는 노이즈를 측정하고, 상기 측정된 노이즈가 설정된 임계값을 초과하는 경우 심장 박동 수의 측정이 가능한 관심 영역 후보군에서 제외하도록 하는 전자장치. - 제 7 항에 있어서,
상기 인스트럭션은,
상기 심장 박동 수의 측정이 가능한 관심 영역 후보군을 기반으로 심장 박동 수를 결정하도록 하는 전자장치. - 제 1 항에 있어서,
상기 인스트럭션은,
상기 결정된 적어도 하나의 관심 영역에서 상기 심장 박동 수 측정을 위한 데이터를 수신하고, 상기 수신된 데이터를 기반으로 심장 박동 수 데이터로 변환하고, 상기 변환된 심장 박동 수 데이터를 상기 심장 박동 수로 결정하도록 하는 전자장치. - 제 1 항에 있어서,
상기 인스트럭션은,
상기 결정된 적어도 하나의 관심 영역에서의 이미지 변화에 대응하는 데이터를 수신하고, 상기 수신된 데이터를 상기 심장 박동 수로 변환하여 상기 심장 박동 수를 결정하도록 하는 전자장치. - 제 1 항에 있어서,
상기 인스트럭션은,
상기 적외선 센서의 사용 용도 및 피사체와의 거리를 기반으로, 상기 적외선 센서의 광량을 조정하도록 하는 전자장치. - 제 1 항에 있어서,
상기 적외선 센서는,
발광부와 수광부를 모두 포함하는 하나의 센서, 카메라에 내장된 센서, 발광부인 센서와 수광부인 카메라를 연동하는 하나의 센서 중 하나로 구성되는 것을 특징으로 하는 전자장치. - 적외선 센서를 사용하여 심장 박동 수를 결정하는 방법에 있어서,
상기 적외선 센서를 사용하여 이미지를 수신하는 동작;
상기 수신된 이미지에서 상기 심장 박동 수를 측정하기 위한 적어도 하나의 관심 영역을 결정하는 동작;
상기 결정된 적어도 하나의 관심 영역을 기반으로 상기 심장 박동 수를 결정하는 동작; 을 포함하는 방법. - 제 13 항에 있어서,
상기 적어도 하나의 관심 영역을 결정하는 동작은,
상기 수신된 이미지에서 피사체를 확인하는 동작;
상기 확인된 피사체의 특징을 추출하는 동작;
상기 추출된 피사체의 특징을 기반으로 상기 적어도 하나의 관심 영역을 결정하는 동작; 을 포함하는 방법. - 제 14 항에 있어서,
상기 피사체의 특징을 추출하는 동작은,
상기 수신된 이미지에 사용자의 얼굴이 포함된 경우 사용자의 눈, 코, 입, 이마의 위치를 상기 피사체의 특징으로 추출하는 동작; 을 포함하는 방법. - 제 13 항에 있어서,
사용자 인증 요청에 응답하여, 상기 적외선 센서를 사용하여 상기 사용자의 홍채를 인식하는 동작;
상기 관심 영역에서 심장 박동의 측정이 가능한지 여부를 결정하는 동작;
상기 심장 박동이 측정되는 경우 상기 사용자 인증을 완료하는 동작; 을 더 포함하는 방법. - 제 16 항에 있어서,
상기 인증된 사용자에 대응하여 관심 영역이 설정된 경우 상기 설정된 관심 영역을 기반으로 상기 사용자의 심장 박동 수를 결정하는 동작; 을 더 포함하는 방법. - 제 17 항에 있어서,
상기 인증된 사용자에 대응하여 관심 영역이 설정되지 않은 경우 상기 인증된 사용자에 대응하여 상기 결정된 적어도 하나의 관심 영역을 메모리에 저장하는 동작; 을 더 포함하는 방법. - 제 13 항에 있어서,
상기 심장 박동 수를 결정하는 동작은,
상기 적어도 하나의 관심 영역에서 발생하는 노이즈를 측정하는 동작;
상기 측정된 노이즈가 설정된 임계값을 초과하는 경우 상기 심장 박동 수의 측정이 가능한 관심 영역 후보군에서 제외하는 동작; 을 포함하는 방법. - 제 19 항에 있어서,
상기 심장 박동 수의 측정이 가능한 관심 영역 후보군을 기반으로 심장 박동 수를 결정하는 동작; 을 더 포함하는 방법. - 제 13 항에 있어서,
상기 심장 박동 수를 결정하는 동작은,
상기 결정된 적어도 하나의 관심 영역에서 심장 박동 수 측정을 위한 데이터를 수신하는 동작;
상기 수신된 데이터를 기반으로 심장 박동 수 데이터로 변환하고, 상기 변환된 심장 박동 수 데이터를 상기 심장 박동 수로 결정하는 동작; 을 포함하는 방법. - 제 13 항에 있어서,
상기 심장 박동 수를 결정하는 동작은,
상기 결정된 적어도 하나의 관심 영역에서의 이미지 변화에 대응하는 데이터를 수신하는 동작;
상기 수신된 데이터를 상기 심장 박동 수로 변환하여 상기 심장 박동 수를 결정하는 동작; 을 포함하는 방법. - 제 13 항에 있어서,
상기 적외선 센서의 사용 용도 및 피사체와의 거리를 기반으로, 상기 적외선 센서의 광량을 조정하는 동작; 을 더 포함하는 방법.
Priority Applications (6)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020160109101A KR102579895B1 (ko) | 2016-08-26 | 2016-08-26 | 전자장치, 이를 활용한 적외선 센서 기반의 심장 박동 수 측정 방법 |
| US15/682,971 US10806356B2 (en) | 2016-08-26 | 2017-08-22 | Electronic device and method for measuring heart rate based on infrared rays sensor using the same |
| MYPI2019000410A MY197261A (en) | 2016-08-26 | 2017-08-23 | Electronic device and method for measuring heart rate based on infrared rays sensor using the same |
| PCT/KR2017/009203 WO2018038526A1 (en) | 2016-08-26 | 2017-08-23 | Electronic device and method for measuring heart rate based on infrared rays sensor using the same |
| EP17187715.2A EP3287924B1 (en) | 2016-08-26 | 2017-08-24 | Electronic device and method for measuring heart rate based on infrared rays sensor using the same |
| CN201710747742.4A CN107784268B (zh) | 2016-08-26 | 2017-08-25 | 基于红外线传感器使用其来测量心率的方法和电子设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020160109101A KR102579895B1 (ko) | 2016-08-26 | 2016-08-26 | 전자장치, 이를 활용한 적외선 센서 기반의 심장 박동 수 측정 방법 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20180023555A true KR20180023555A (ko) | 2018-03-07 |
| KR102579895B1 KR102579895B1 (ko) | 2023-09-19 |
Family
ID=59745199
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020160109101A KR102579895B1 (ko) | 2016-08-26 | 2016-08-26 | 전자장치, 이를 활용한 적외선 센서 기반의 심장 박동 수 측정 방법 |
Country Status (6)
| Country | Link |
|---|---|
| US (1) | US10806356B2 (ko) |
| EP (1) | EP3287924B1 (ko) |
| KR (1) | KR102579895B1 (ko) |
| CN (1) | CN107784268B (ko) |
| MY (1) | MY197261A (ko) |
| WO (1) | WO2018038526A1 (ko) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102215557B1 (ko) * | 2019-12-18 | 2021-02-15 | (주)감성과학연구센터 | 얼굴 색상과 떨림을 이용한 카메라 기반 심박 측정 방법 및 시스템 |
| US11467034B2 (en) * | 2020-06-30 | 2022-10-11 | Ilooda Co., Ltd. | Temperature measuring device for tracked subject target region |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112043254A (zh) * | 2020-08-12 | 2020-12-08 | 厦门大学 | 一种基于视频图像的对虾心率检测方法及系统 |
| CN112136466B (zh) * | 2020-09-01 | 2022-03-15 | 南京苏美达智能技术有限公司 | 一种人机交互控制方法和自行走设备 |
| US11882366B2 (en) | 2021-02-26 | 2024-01-23 | Hill-Rom Services, Inc. | Patient monitoring system |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20150148687A1 (en) * | 2013-11-22 | 2015-05-28 | Samsung Electronics Co., Ltd. | Method and apparatus for measuring heart rate |
| JP2015177403A (ja) | 2014-03-17 | 2015-10-05 | セイコーエプソン株式会社 | 頭部装着型表示装置および頭部装着型表示装置の制御方法 |
| US20160106329A1 (en) * | 2014-10-20 | 2016-04-21 | Microsoft Corporation | Utilizing different color channels for rgb-image-based differential heart rate detection |
| US20160132732A1 (en) * | 2014-11-10 | 2016-05-12 | Utah State University | Remote Heart Rate Estimation |
| US20160191822A1 (en) * | 2014-12-26 | 2016-06-30 | Kabushiki Kaisha Toshiba | Heart rate detection device and facial recognition system with the heart rate detection device |
Family Cites Families (20)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR100320465B1 (ko) | 1999-01-11 | 2002-01-16 | 구자홍 | 홍채 인식 시스템 |
| EP1744669B1 (en) | 2004-04-29 | 2019-03-27 | Koninklijke Philips N.V. | Apparatus and method for detecting blood flow |
| CN101557758B (zh) | 2005-03-25 | 2015-01-07 | Cnoga控股有限公司 | 用于测量化学浓度、化学饱和度和生物物理参数的光学传感器装置和图象处理单元 |
| JP5195741B2 (ja) | 2009-12-25 | 2013-05-15 | 株式会社デンソー | 生体活動計測装置 |
| KR101231068B1 (ko) | 2010-10-07 | 2013-03-11 | (주)아이리스아이디 | 생체 정보 수집 장치 및 방법 |
| GB201114406D0 (en) | 2011-08-22 | 2011-10-05 | Isis Innovation | Remote monitoring of vital signs |
| JP5752538B2 (ja) | 2011-09-16 | 2015-07-22 | 株式会社トプコン | 光干渉断層画像処理方法及びその装置 |
| KR101426750B1 (ko) | 2012-11-05 | 2014-08-05 | 주식회사 엘에스엘시스템즈 | 열화상을 이용한 심박수 측정 시스템 |
| WO2015021036A1 (en) | 2013-08-05 | 2015-02-12 | Xhale, Inc. | Sensors for photoplethysmography in the ophthalmic artery region |
| EP3111395A1 (en) | 2014-02-24 | 2017-01-04 | Hanscan IP B.V. | Portable biometric-based identity device |
| CN105593903B (zh) * | 2014-05-16 | 2018-10-02 | 联发科技股份有限公司 | 生物体确定装置、测量装置及方法 |
| CN104134144A (zh) * | 2014-07-30 | 2014-11-05 | 中山艺展装饰工程有限公司 | 在网银交易中运用虹膜匹配验证的方法 |
| KR102296396B1 (ko) * | 2014-07-31 | 2021-09-02 | 삼성전자주식회사 | 비접촉 체온 측정 시 정확도를 향상시키기 위한 장치 및 방법 |
| US9750420B1 (en) * | 2014-12-10 | 2017-09-05 | Amazon Technologies, Inc. | Facial feature selection for heart rate detection |
| JP6683367B2 (ja) * | 2015-03-30 | 2020-04-22 | 国立大学法人東北大学 | 生体情報計測装置、生体情報計測方法及び生体情報計測プログラム |
| US20160342782A1 (en) * | 2015-05-18 | 2016-11-24 | Daqri, Llc | Biometric authentication in a head mounted device |
| GB201509809D0 (en) * | 2015-06-05 | 2015-07-22 | Isis Innovation | Method and apparatus for vital signs measurement |
| US10165949B2 (en) * | 2015-06-14 | 2019-01-01 | Facense Ltd. | Estimating posture using head-mounted cameras |
| US20180092588A1 (en) * | 2015-06-14 | 2018-04-05 | Facense Ltd. | Suggest activities according to the dominant nostril |
| US10159411B2 (en) * | 2015-06-14 | 2018-12-25 | Facense Ltd. | Detecting irregular physiological responses during exposure to sensitive data |
-
2016
- 2016-08-26 KR KR1020160109101A patent/KR102579895B1/ko active IP Right Grant
-
2017
- 2017-08-22 US US15/682,971 patent/US10806356B2/en active Active
- 2017-08-23 WO PCT/KR2017/009203 patent/WO2018038526A1/en active Application Filing
- 2017-08-23 MY MYPI2019000410A patent/MY197261A/en unknown
- 2017-08-24 EP EP17187715.2A patent/EP3287924B1/en active Active
- 2017-08-25 CN CN201710747742.4A patent/CN107784268B/zh active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20150148687A1 (en) * | 2013-11-22 | 2015-05-28 | Samsung Electronics Co., Ltd. | Method and apparatus for measuring heart rate |
| JP2015177403A (ja) | 2014-03-17 | 2015-10-05 | セイコーエプソン株式会社 | 頭部装着型表示装置および頭部装着型表示装置の制御方法 |
| US20160106329A1 (en) * | 2014-10-20 | 2016-04-21 | Microsoft Corporation | Utilizing different color channels for rgb-image-based differential heart rate detection |
| US20160132732A1 (en) * | 2014-11-10 | 2016-05-12 | Utah State University | Remote Heart Rate Estimation |
| US20160191822A1 (en) * | 2014-12-26 | 2016-06-30 | Kabushiki Kaisha Toshiba | Heart rate detection device and facial recognition system with the heart rate detection device |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102215557B1 (ko) * | 2019-12-18 | 2021-02-15 | (주)감성과학연구센터 | 얼굴 색상과 떨림을 이용한 카메라 기반 심박 측정 방법 및 시스템 |
| KR20210078387A (ko) * | 2019-12-18 | 2021-06-28 | (주)감성과학연구센터 | 얼굴 색상과 떨림을 이용한 카메라 기반 심박 측정 방법 및 시스템 |
| US11467034B2 (en) * | 2020-06-30 | 2022-10-11 | Ilooda Co., Ltd. | Temperature measuring device for tracked subject target region |
Also Published As
| Publication number | Publication date |
|---|---|
| WO2018038526A1 (en) | 2018-03-01 |
| MY197261A (en) | 2023-06-08 |
| US20180055392A1 (en) | 2018-03-01 |
| EP3287924B1 (en) | 2020-09-30 |
| CN107784268A (zh) | 2018-03-09 |
| CN107784268B (zh) | 2024-01-19 |
| EP3287924A1 (en) | 2018-02-28 |
| KR102579895B1 (ko) | 2023-09-19 |
| US10806356B2 (en) | 2020-10-20 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR102446849B1 (ko) | 생체 정보의 위조를 식별하기 위한 전자 장치 및 방법 | |
| KR102277212B1 (ko) | 디스플레이 정보를 이용한 홍채 인증 방법 및 장치 | |
| KR102139795B1 (ko) | 생채 특징 패턴을 업데이트하는 방법 및 이를 위한 전자 장치 | |
| KR20160125142A (ko) | 지문 감지 방법 및 장치 | |
| KR20170116818A (ko) | 전자 장치 및 그의 동작 방법 | |
| KR20180061835A (ko) | 전자 장치 및 전자 장치에서 홍채 인식을 위한 이미지 표시 방법 | |
| KR102401659B1 (ko) | 전자 장치 및 이를 이용한 카메라 촬영 환경 및 장면에 따른 영상 처리 방법 | |
| KR20170055893A (ko) | 외부 객체의 근접에 따른 동작을 수행하는 전자 장치 및 그 방법 | |
| CN108334809B (zh) | 用于虹膜识别的电子装置及其操作方法 | |
| KR20180052177A (ko) | 전자 장치 및 그의 동작 방법 | |
| KR20180090507A (ko) | 생체 정보 인증을 위한 전자 장치 및 시스템 | |
| KR102365412B1 (ko) | 전자 장치 및 전자 장치에서의 지문 인증을 위한 방법 | |
| KR102329821B1 (ko) | 개인 인증 전자 장치 및 방법 | |
| EP3287924B1 (en) | Electronic device and method for measuring heart rate based on infrared rays sensor using the same | |
| KR102401932B1 (ko) | 생체 정보를 측정하는 전자 장치와 이의 동작 방법 | |
| KR20180097360A (ko) | 복수의 생체 센서를 이용하여 인증을 수행하기 위한 전자 장치 및 그의 동작 방법 | |
| KR20170077730A (ko) | 컨텐트 인식 장치 및 그 동작 방법 | |
| KR102547054B1 (ko) | 카메라 모듈의 활성화를 제어하기 위한 전자 장치 및 방법 | |
| KR20180029365A (ko) | 개인 정보를 보호하기 위한 방법 및 그 전자 장치 | |
| KR20180108214A (ko) | 복수의 카메라를 이용하여 생체 정보를 인증하는 방법 및 장치 | |
| EP3381369B1 (en) | Electronic device and method for measuring biometric information | |
| KR20180014446A (ko) | 전자 장치 및 전자 장치의 터치 스크린 디스플레이 제어 방법 | |
| KR20180089226A (ko) | 생체 센서를 제어하는 방법 및 전자 장치 | |
| KR20180083710A (ko) | 전자장치 및 이를 활용한 액츄에이터 제어 방법 | |
| KR20170076500A (ko) | 생체 신호에 근거하여 기능을 수행하기 위한 방법, 저장 매체 및 전자 장치 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination | ||
| E902 | Notification of reason for refusal | ||
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |