KR100880392B1 - Method for measuring photoplethysmogram - Google Patents

Method for measuring photoplethysmogram Download PDF

Info

Publication number
KR100880392B1
KR100880392B1 KR1020070101273A KR20070101273A KR100880392B1 KR 100880392 B1 KR100880392 B1 KR 100880392B1 KR 1020070101273 A KR1020070101273 A KR 1020070101273A KR 20070101273 A KR20070101273 A KR 20070101273A KR 100880392 B1 KR100880392 B1 KR 100880392B1
Authority
KR
South Korea
Prior art keywords
light
pulse wave
change
data
camera lens
Prior art date
Application number
KR1020070101273A
Other languages
Korean (ko)
Inventor
배병훈
Original Assignee
(주)락싸
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)락싸 filed Critical (주)락싸
Priority to KR1020070101273A priority Critical patent/KR100880392B1/en
Application granted granted Critical
Publication of KR100880392B1 publication Critical patent/KR100880392B1/en

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6887Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient mounted on external non-worn devices, e.g. non-medical devices
    • A61B5/6898Portable consumer electronic devices, e.g. music players, telephones, tablet computers
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/021Measuring pressure in heart or blood vessels
    • A61B5/02108Measuring pressure in heart or blood vessels from analysis of pulse wave characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/02Constructional features of telephone sets
    • H04M1/0202Portable telephone sets, e.g. cordless phones, mobile phones or bar type handsets
    • H04M1/026Details of the structure or mounting of specific components
    • H04M1/0264Details of the structure or mounting of specific components for a camera module assembly
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/02Constructional features of telephone sets
    • H04M1/22Illumination; Arrangements for improving the visibility of characters on dials
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2250/00Details of telephonic subscriber devices
    • H04M2250/12Details of telephonic subscriber devices including a sensor for measuring a physical value, e.g. temperature or motion

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Public Health (AREA)
  • Signal Processing (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Cardiology (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Vascular Medicine (AREA)
  • Physiology (AREA)
  • Multimedia (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)

Abstract

A pulse wave detecting method using a portable phone is provided to enable a user to check his/her health condition by storing pulse-based data in a memory of the portable phone and managing various data stored in the memory through software installed in the portable phone. After a skin tissue of the human body in which the blood flow is changed is located in a camera lens part(20) and a flash(10) which is adjacent to the camera lens part, the light is irradiated on the skin tissue. Data about changes in amount of light corresponding to the light irradiation and the change of the blood flow is collected by using pixels of an image sensor(22) equipped inside the camera lens part. The light change data is constructed in the type of time series data to be utilized as pulse wave data.

Description

휴대폰을 이용한 맥파 검출방법{Method for measuring Photoplethysmogram}Pulse wave detection method using a mobile phone {Method for measuring Photoplethysmogram}

본 발명은 휴대형 통신기기에 장착된 이미지센서 및 플래시를 이용한 맥파검출 방법에 관한 것이다.The present invention relates to a pulse wave detection method using an image sensor and a flash mounted on a portable communication device.

심장의 수축,확장에 의하여 동맥을 따라 혈액을 밀어낸다. 이러한 혈액의 흐름으로 인하여 혈관의 팽창과 이완이 반복되는데 이를 통상 맥박이라고 하며, 이러한 박동현상을 그래프로 나타낸 것을 맥파라고 한다. 일반적으로 성인의 맥박수는 분당 60 ~ 80회이고 나이가 적을수록 많아져서 신생아는 분당 120 ~ 140회정도이다. 맥박의 대소는 맥파의 높이를 말하는 것으로 심장으로부터의 1회의 혈액방출량과 관계가 있다. 심장의 활동성이 클수록 동맥으로 혈액을 더 빨리 내보내므로 맥박이 빨라지고 맥파가 높아진다.By contracting and expanding the heart, blood is pushed along the arteries. Due to the flow of blood, the expansion and relaxation of blood vessels are repeated. This is commonly referred to as a pulse, and the pulse phenomena represented as a graph is called a pulse wave. In general, the pulse rate of adults is 60 to 80 times per minute, and the younger the age, the greater the 120 to 140 times per minute. The magnitude of the pulse is the height of the pulse wave and is related to the volume of blood released from the heart. The greater the activity of the heart, the faster blood flows to the arteries, the faster the pulse and the higher the pulse wave.

맥파를 측정하기 위한 방법으로는 심박출에 수반하는 기관이나 사지 일부의 용적변화를 기록하는 방법, 임피던스 변화를 기록하는 방법, 혈류량의 변화를 광학적 방식으로 검출하는 방법 등이 대표적이다. 이 중에서 광학적 방식이 그 편리성 때문에 많이 사용된다.Typical methods for measuring pulse waves include recording volume changes of organs or extremities associated with cardiac output, recording impedance changes, and detecting blood flow changes in an optical manner. Of these, optical methods are frequently used because of their convenience.

이와 같은 맥파는 임상적으로 심장, 혈관계, 펌프기능, 혈관경화등의 이상정 도를 알 수 있고, 맥파 발생 시간격을 검출하여 교감신경과 부교감신경의 활성화 정도를 알 수 있다. 이를 활용하여 사람의 스트레스 상태를 파악하기도 한다.Such pulse wave can clinically identify abnormalities such as heart, vascular system, pump function, and vascular hardening, and detect pulsation time intervals to determine the degree of activation of sympathetic and parasympathetic nerves. It can also be used to determine a person's stress state.

따라서, 종래에는 일반인이 일상생활에서도 이러한 증상을 간편하게 검사할 수 있도록 휴대형통신기기에 맥파 검출장치를 부가하여 맥파를 검사할 수 있도록 개발되어 왔다.Therefore, in the related art, a pulse wave detection device has been developed to add a pulse wave detection device to a portable communication device so that the general person can easily examine such symptoms in daily life.

그러나 종래의 휴대형통신기기를 기반으로 하여 맥파를 검출하기 위한 방식은 휴대형통신기기외에도 광원과 수광소자를 별도로 구비하여야 가능하였다.However, a method for detecting a pulse wave based on a conventional portable communication device was possible by separately providing a light source and a light receiving element in addition to the portable communication device.

이 밖에도 배터리팩에 맥파검출을 위한 별도의 회로가 배터리팩에 구현되는 방식, 휴대폰의 외부 접속 커넥터를 이용하여 데이터를 휴대폰으로 전송하는 방식 등이 있었지만 이와 같이 별도의 장치를 이용하여 구현하는 경우 사용자는 휴대폰 외의 추가장비 및 센서케이블을 소지하고 다녀야 하고, 추가의 장치에 의한 제조원가 상승, 측정과정의 번거로움 등이 문제점으로 지적되었다.In addition, there was a method in which a separate circuit for pulse wave detection is implemented in the battery pack, and a method of transmitting data to the mobile phone using an external connection connector of the mobile phone. It is pointed out that it is necessary to carry additional equipments and sensor cables other than mobile phones, and to increase manufacturing costs due to additional equipments and hassle of measuring process.

따라서, 본 발명은 상기와 같은 문제점을 해결하고자 제안된 것으로, 본 발명의 목적은 휴대형 통신기기를 이용한 맥파검출 방법에 있어서, 맥파를 측정하기 위해 별도의 추가장치를 마련하지 않아도 맥파를 검출할 수 있는 휴대폰을 이용한 맥파 검출 방법을 제공하는 데 있다.Accordingly, the present invention has been proposed to solve the above problems, and an object of the present invention is to detect a pulse wave without providing an additional device for measuring the pulse wave in a pulse wave detection method using a portable communication device. The present invention provides a pulse wave detection method using a mobile phone.

또한, 본 발명의 다른 목적은, 휴대폰을 이용하여 맥파기반의 데이터를 휴대형통신기기의 메모리에 저장하고, 메모리에 저장된 각종 데이터를 휴대용정보통신기기에 설치된 소프트웨어를 통해 관리함으로써, 사용자가 편리하게 자신의 건강상태를 관리할 수 있는 방법을 제공하는 데 있다.In addition, another object of the present invention, by storing the pulse wave-based data in the memory of the portable communication device using a mobile phone, and manages the various data stored in the memory through the software installed in the portable information communication device, the user conveniently To provide a way to manage your health status.

또한, 본 발명의 또 다른 목적은, 휴대폰에 사용자의 손가락을 접촉하는 것만으로 맥파를 감지하고 측정된 데이터를 휴대용정보통신기기의 메모리에 저장하여, 데이터를 유/무선 통신에 의해 원격서버, 또는 컴퓨터 단말기로 전송하여 컴퓨터 단말기에 설치된 소프트웨어에 의해 관리가능하고, 필요시 전문의에 의한 자문을 받을 수 있는 방법을 제공하는 데 있다.In addition, another object of the present invention is to detect the pulse wave by simply touching the user's finger to the mobile phone and to store the measured data in the memory of the portable information communication device, the remote server by wired / wireless communication, or The present invention provides a method that can be transferred to a computer terminal and managed by software installed in the computer terminal and can be consulted by a specialist if necessary.

상기와 같은 본 발명의 목적들은, 플래시 및 카메라 렌즈부가 구비된 휴대형 통신기기를 이용한 맥파검출 방법에 있어서, 혈류량이 변화되는 인체의 피부조직을 상기 카메라 렌즈부와 상기 카메라 렌즈부와 인접하는 플래시에 위치시키고 광을 조사하는 광조사 단계와, 상기 카메라 렌즈부의 내부에 구비된 이미지센서의 화소로 상기 광 조사 및 혈류량의 변화에 따른 광량 변화 데이터를 수집하고, 상기 광량 변화 데이터를 시계열 데이터로 구축하여 맥파 데이터로 활용하는 단계를 포함하여 이루어지는 것을 특징으로 하는 휴대폰을 이용한 맥파 검출방법에 의해 달성된다.Objects of the present invention as described above, in the pulse wave detection method using a portable communication device equipped with a flash and a camera lens portion, the skin tissue of the human body in which the blood flow is changed to a flash adjacent to the camera lens portion and the camera lens portion A light irradiation step of positioning and irradiating light, collecting light quantity change data according to the light irradiation and blood flow change by using pixels of the image sensor provided inside the camera lens unit, and constructing the light quantity change data as time series data It is achieved by a pulse wave detection method using a mobile phone, characterized in that it comprises the step of utilizing as pulse wave data.

본 발명에 따른 휴대폰을 이용한 맥파 검출방법에 의하면, 맥파를 검출함에 있어서 휴대폰 이외에 별도의 추가장치를 요구하지 않아 제조원가의 절감 효과를 갖으며, 사용자가 시간과 장소에 관계없이 자신의 건강상태를 간편하게 점검할 수 있는 이점이 있다.According to the pulse wave detection method using a mobile phone according to the present invention, there is no need for an additional device other than the mobile phone in detecting the pulse wave, thereby reducing the manufacturing cost, and the user can easily maintain his or her health state regardless of time and place. There is an advantage to check.

이하, 본 발명의 바람직한 실시 예에 대하여 첨부도면을 참조하여 상세히 설명한다. 우선 각 도면의 구성요소들에 참조부호를 부가함에 있어서, 동일한 구성요소들에 한해서는 비록 다른 도면상에 표시되더라도 가능한 한 동일한 부호로 표기되었음에 유의하여야 한다. 또한, 본 발명을 설명함에 있어서, 관련된 공지기능 혹은 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우, 그 상세한 설명을 생략한다.Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings. First, in adding reference numerals to the elements of each drawing, it should be noted that the same elements are denoted by the same reference numerals as much as possible even if they are displayed on different drawings. In addition, in describing the present invention, when it is determined that a detailed description of a related known function or configuration may unnecessarily obscure the subject matter of the present invention, the detailed description thereof will be omitted.

도 1은 본 발명의 일실시예에 따른 휴대폰을 이용한 맥파 검출방법에서 휴대 폰으로 피검자의 맥파를 수집하는 상태를 나타낸 도면이고, 도 2는 카메라 기능이 있는 통상적인 종래의 휴대폰을 나타낸 도면이며, 도 3은 휴대폰의 구성 중 렌즈부에 의해 생성된 이미지 데이터의 시간별 인덱스를 나타낸 도면이다.1 is a view showing a state of collecting the pulse wave of the subject with a mobile phone in the pulse wave detection method using a mobile phone according to an embodiment of the present invention, Figure 2 is a view showing a conventional conventional mobile phone having a camera function, 3 is a diagram illustrating an hourly index of image data generated by a lens unit of a mobile phone.

한편, 도 4는 도 3의 시간별 인덱스를 통합하여 구축된 시계열 데이터를 나타낸 도면이고, 도 5는 본 발명을 설명하기 위한 빛의 주파수에 따른 디옥시헤모글로빈, 옥시헤모글로빈, 물의 흡수계수를 나타낸 그래프이며, 도 6은 본 발명의 일실시예에 따른 휴대폰을 이용한 맥파 검출방법을 설명하기 위한 개략적인 블럭도이다.On the other hand, Figure 4 is a view showing the time series data constructed by incorporating the hourly index of Figure 3, Figure 5 is a graph showing the absorption coefficient of deoxyhemoglobin, oxyhemoglobin, water according to the frequency of light for explaining the present invention 6 is a schematic block diagram illustrating a pulse wave detection method using a mobile phone according to an embodiment of the present invention.

그리고, 도 7은 본 발명의 다른 실시예에 따른 휴대폰을 이용한 맥파 검출방법과정의 일예를 나타낸 도면으로서, 휴대폰에 플래시가 없는 경우 별도의 발광부를 마련하여 맥파를 수집하는 상태를 나타낸 도면이고, 도 8은 본 발명의 또 다른 실시예에 따른 휴대폰을 이용한 맥파 검출방법과정의 일예를 나타낸 도면으로서, 힌지를 기준으로 360°회전 가능한 휴대폰에서 맥파를 검출하는 실시예를 나타낸 도면이다.And, Figure 7 is a view showing an example of the pulse wave detection method using a mobile phone according to another embodiment of the present invention, when the mobile phone does not have a flash showing the state of collecting a pulse wave by providing a separate light emitting unit, 8 is a view showing an example of a pulse wave detection method using a mobile phone according to another embodiment of the present invention, it is a view showing an embodiment of detecting a pulse wave in a mobile phone that can be rotated 360 ° based on the hinge.

바람직하기로, 본 발명은 휴대형 통신기기 즉, 휴대폰(200)에 구비된 플래시(10) 및 카메라 렌즈부(20)의 이미지센서(22)를 이용하여 맥파를 검출하는 방법을 제공한다.Preferably, the present invention provides a method for detecting a pulse wave using a portable communication device, that is, the image sensor 22 of the flash unit 10 and the camera lens unit 20 provided in the mobile phone 200.

상기 휴대형 통신기기는 당업자에 의해 다양하게 선택될 수 있으며, 그 일예로는 도 1에 도시된 플래시(10) 및 카메라 렌즈부(20)가 장착된 휴대폰(200)을 들 수 있다. 즉, 카메라 기능이 있고, 플래시(10)가 구비된 휴대폰(200)은 어느 종이 든 가능한 것이다. 그러나 본 발명은 이에 한정하는 것이 아닌 카메라 렌즈부(20)는 구비되어 있으되, 플래시(10)가 없는 경우에도 맥파를 검출할 수 있도록 도 7에 도시하였으며, 이는 하기에 기술하기로 한다. The portable communication device may be variously selected by those skilled in the art, and an example thereof may include a mobile phone 200 equipped with the flash 10 and the camera lens unit 20 shown in FIG. 1. That is, the mobile phone 200 having the camera function and equipped with the flash 10 can be any species. However, the present invention is not limited thereto, but the camera lens unit 20 is provided, but it is shown in FIG. 7 so that the pulse wave can be detected even when there is no flash 10, which will be described below.

카메라 기능이 있는 휴대폰(200)에는 카메라 렌즈부(20)가 구비되고, 상기 카메라 렌즈부(20)에는 이미지센서(22)가 장착되어 있다. 상기 이미지센서(22)의 종류로는 금속산화물반도체(MOS) 또는 전하결합소자(CCD)가 있으며, CCD이든 MOS 타입이든 이미지 센서는 빛을 받아들여서 각 화소에 입사된 빛의 광량을 전기신호로 변환해 주는 소자이다. 따라서, 본 발명에서는 카메라의 이미지 센서가 각 화소별로 입사된 빛의 광량을 전기신호로 바꿔준다는 이미지 센서의 공통적인 특징을 기반으로 한다.The mobile phone 200 having a camera function is provided with a camera lens unit 20, and the camera lens unit 20 is equipped with an image sensor 22. The type of the image sensor 22 includes a metal oxide semiconductor (MOS) or a charge coupled device (CCD), and whether the CCD or the MOS type image sensor receives light, the amount of light incident on each pixel is converted into an electrical signal. It is a device to convert. Therefore, the present invention is based on the common feature of the image sensor that the image sensor of the camera converts the amount of light incident on each pixel into an electrical signal.

이와 같은 설정으로 본 발명에 따른 휴대폰을 이용한 맥파 검출방법에 대해 설명한다. With such a setting, a pulse wave detection method using a mobile phone according to the present invention will be described.

카메라 렌즈부(20)와 상기 카메라 렌즈부(20)와 인접하는 플래시(10)에 인체의 말초부위(이하, 손가락(100)이라 함)를 밀착시킨다. 그 다음 플래시(10)를 동작시키면 손가락(100)에 빛이 조사되고, 빛은 손가락(100)에 반사 또는 경유하여 카메라 렌즈부(20) 내부에 구비된 이미지센서(22)의 화소로 유입된다.The peripheral portion of the human body (hereinafter referred to as the finger 100) is brought into close contact with the camera lens 20 and the flash 10 adjacent to the camera lens 20. Then, when the flash 10 is operated, light is irradiated to the finger 100, and the light is reflected into the pixel of the image sensor 22 provided in the camera lens unit 20 by reflecting or passing through the finger 100. .

플래시(10)는 보통 백색광을 사용하는데, 백색광이라 함은 빛의 스펙트럼대역에서 넓은 주파수 성분을 갖고 있는 빛이다. 백색광을 피부조직 속으로 투사한 경우 백색광 중에서 빛의 주파수가 빠른 초록색, 푸른색 계열은 대부분이 혈액에서 흡수되고, 주파수가 느린 성분인 붉은색 계열이 상대적으로 흡수율이 작기 때문에 투과된 빛에는 붉은색 계열이 보이게 된다. 이를 설명하는 도 5의 그래프를 보면서 설명한다. 도 5는 빛의 주파수에 따른 ①옥시헤모글로빈(OxyHb;산화헤모글로빈), ②디옥시헤모글로빈(DeoxyHb;탈산화헤모글로빈), ③물 각각의 빛의 주파수에 따른 흡수계수를 보여준다. The flash 10 usually uses white light, and white light is light having a wide frequency component in the light spectrum band. In the case of projecting white light into skin tissue, most of green light and blue color that have a high frequency of light are absorbed by blood, and red color which is a slow frequency component is relatively low in absorption. The series is shown. This will be described with reference to the graph of FIG. 5 illustrating this. Figure 5 shows the absorption coefficient according to the frequency of light ① oxyhemoglobin (OxyHb; Oxygen hemoglobin), ② DeoxyHb (DeoxyHb; deoxidation hemoglobin), ③ water.

특정주파수의 빛의 흡수계수가 크다는 말의 의미는 해당주파수의 빛을 많이 흡수한다는 의미다. 한편, 혈액에 백색광을 투과시킨 경우, 도 5에서 혈액의 기본적인 구성성분인 물에 의하여 900nm 보다 긴 파장의 빛은 대부분이 흡수되게 되며, 개략적으로 700nm 보다 짧은 파장의 빛 역시 헤모글로빈에 의하여 흡수되어 버린다. The fact that the absorption coefficient of light at a particular frequency is large means that it absorbs a lot of light at that frequency. On the other hand, when white light is transmitted through blood, most of light having a wavelength longer than 900 nm is absorbed by water, which is a basic component of blood in FIG. 5, and light having a wavelength shorter than 700 nm is also absorbed by hemoglobin. .

따라서, 700nm에서 900nm사이의 영역이 덜 흡수되고 투과성이 좋음을 알 수 있다. 이런 사유로 인하여 백색광을 피부조직으로 투사시키면 내부적으로 대부분의 주파수 성분은 조직에서 흡수되고 700nm에서 900nm 주파수 성분 빛이 주로 투과되어 나오게 된다. 즉, 혈액이 주파수 대역을 필터링하는 역할을 하게 된다. 경험적으로 잘 알고 있는 피부를 관통한 빛이 붉은색 계열을 보이는 이유가 바로 여기에 있다. 주파수가 빠른 성분(즉, 파란색 녹색계열)은 대부분이 흡수되었기에 투과된 빛에서는 그 성분이 매우 약해지기 때문이다. 상대적으로 덜 흡수된 빛의 주파수 성분을 우리가 보고 있는 것이다.Therefore, it can be seen that the region between 700 nm and 900 nm is absorbed less and the transmittance is good. For this reason, when white light is projected onto the skin tissue, most of the frequency components are absorbed by the tissues internally, and the light from the 700 nm to 900 nm frequency components is mainly transmitted. That is, the blood plays a role of filtering the frequency band. This is why the light that penetrates the skin, which is known empirically, is reddish. Most of the high frequency components (ie, blue green) are absorbed, so the components become very weak in transmitted light. We are looking at the frequency components of light that are relatively less absorbed.

플래시에서 나온 빛이 지나가는 피부조직의 경로에 있는 혈액량이 일정하게 유지된다면, 흡수되는 량이 동일하기 때문에 투과되는 광량 역시 일정하게 유지된다. 그러나, 피부조직 속의 혈류량은 심장의 박동에 의하여 혈류량이 변하고 있으 며, 빛이 지나가는 영역의 혈류량 역시 심장박동에 의하여 혈류량이 변하게 된다. 혈류량의 변화에 의하여 흡수되는 광량이 혈류량에 비례하여 변화하여, 입사된 광량이 일정하므로, 투과광역시 피부조직의 광량의 변화의 시간적인 동적특성을 반영하게 되는 것이다.If the volume of blood in the path of the skin tissue through which the light from the flash passes is constant, the amount of light transmitted is also constant because the amount absorbed is the same. However, the blood flow in the skin tissue is changing due to the heartbeat, and the blood flow in the light passing zone is also changed by the heartbeat. Since the amount of light absorbed by the change of blood flow changes in proportion to the amount of blood flow, the amount of incident light is constant, thereby reflecting the temporal dynamic characteristics of the change in the amount of light in the skin tissue during transmission.

즉, 투과광량 = 입사광량 - 흡수광량 의 관계이며, 흡수광량이 시간적으로 변하게 되면 투과광량의 변화가 나타난다. 즉, 혈류량이 증가하면 투과 광량은 감소하고, 혈류양이 감소하면 투과광량은 증가하는 것이다. That is, it is the relationship between the amount of transmitted light = the amount of incident light and the amount of absorbed light. When the amount of absorbed light changes in time, the amount of transmitted light appears. That is, the amount of transmitted light decreases as the blood flow increases, and the amount of transmitted light increases when the amount of blood flow decreases.

한편, 플래시(10)는 손가락(100)에 흐르는 혈류량의 변화에 따라 빛의 광량 변화를 검출하는 이미지센서(22)를 위해 손가락(100)에 빛이 조사되는 시간은 활용 목적에 따라 적절히 선택할 수 있다. 짧은 시간동안의 맥박 사이의 시간격을 검출할 목적인 경우에는 최소한 맥박이 2번 이상 나타나는 2,3초 정도면 가능하다. 반면에 맥파를 검출하는 목적이 스트레스 검사를 목적으로 하는 심박간격변이율을 검출할 목적인 경우에는 1분 이상 지속적으로 조사되도록 동작이 정지되면 안된다.On the other hand, the flash 10 may be appropriately selected according to the purpose of application of the time the light is irradiated to the finger 100 for the image sensor 22 for detecting a change in the amount of light in accordance with the change in the blood flow flowing through the finger (100). have. For the purpose of detecting the time interval between pulses for a short time, it may be possible for at least two or three seconds when the pulse appears at least twice. On the other hand, when the purpose of detecting the pulse wave is to detect the rate of heart rate variability for the purpose of stress testing, the operation should not be stopped for more than one minute.

여기서, 빛의 혈액 투과도 측정은 손가락에 흘러들어오는 혈액량(즉, 혈류의 체적변화)을 측정하는 것이므로, 종래에 사용되던 산소포화도 검출을 위한 660nm와 940nm의 파장으로 한정하지 않으며 백색광을 이용해도 혈액의 변화를 검출할 수 있다.Here, the blood permeability measurement of the light is to measure the amount of blood flowing into the finger (that is, the volume change of the blood flow), so it is not limited to the wavelength of 660nm and 940nm for detecting oxygen saturation, which has been used in the past, The change can be detected.

한편, 광량 변화가 일어난 빛이 이미지센서(22)의 화소로 유입되면, 이미지센서(22)의 화소에 형성되는 이미지는 렌즈의 초점거리 안에 대상물체가 있는 상황이므로 번져서 보이는 이미지가 형성되어, 대상물체의 형상정보는 확보되지 못한 다. 이미지센서(22)의 화소는 피사체인 손가락을 경유한 투과광을 입력받기 때문에 손가락에 흐르는 혈류량의 변화 즉, 맥박에 따라 달라지는 투과된 빛의 광량은 측정될 수 있다. On the other hand, when light having a change in the amount of light flows into the pixel of the image sensor 22, the image formed on the pixel of the image sensor 22 is a situation that the object is within the focal length of the lens, so the image is seen to be blurred, the object Shape information of the object is not secured. Since the pixel of the image sensor 22 receives the transmitted light through the finger as the subject, the change in the blood flow rate through the finger, that is, the amount of light transmitted through the pulse, can be measured.

따라서, 본 발명은 손가락에 흐르는 혈류량의 변화에 의한 광량의 변화를 검출하는 것이 목적이므로, 번져서 보이는 이미지는 본 발명의 목적을 달성함에 있어서 장애요소가 되지 않는다. Therefore, since the present invention aims to detect a change in the amount of light caused by a change in the blood flow rate through the finger, the blurred image is not an obstacle in achieving the object of the present invention.

이하에서는 이미지 데이터를 샘플링하면서 맥파 데이터를 생성하는 과정을 상세히 설명한다.Hereinafter, a process of generating pulse wave data while sampling image data will be described in detail.

도 6에서 전체적인 단계를 보이고 있다. “이미지센서 화소별 광량신호 획득부”에서 이미지센서로부터 광량신호를 시간순으로 획득하는 부분이며, 여기서 샘플링주파수설정부에서 지정한 시간격으로 화소선택부에서 설정한 지정된 화소영역에 대해서 이미지 센서의 화소의 광량의 변화를 검출하는 단계이다. 도 3에서 이 과정을 상세히 보이고 있다. 임의의 1개 이상의 화소의 광량 정보가 요구되는 이미지 데이터는 이미지센서(22)의 화소 가로 i번째, 세로 j번째의 광량을 Intensity(i,j)라고 정의하고, 이미지센서(22)의 화소를 마이컴(MCU)에서 광량신호를 확보하여 시간적으로 이산적인 샘플링이 이뤄진다. 또한, 시간인덱스 n을 도입하여, Intensity(i,j,n)를 시간축으로 표현하면, 도 4와 같은 시계열 데이터를 얻을 수 있다.The overall steps are shown in FIG. In this section, the image sensor acquires the light quantity signal from the image sensor in chronological order, and the pixel area of the image sensor It is a step of detecting a change in the amount of light. This process is shown in detail in FIG. 3. The image data for which the light quantity information of any one or more pixels is required is defined as the intensity (i, j) of the pixel width i-th and vertical j-th of the image sensor 22 as the intensity of the image sensor 22. In the microcomputer (MCU), the light quantity signal is secured and discrete sampling is performed in time. In addition, when time index n is introduced to express Intensity (i, j, n) on the time axis, time series data as shown in FIG. 4 can be obtained.

도 4의 이산적인 각 데이터 점들이 손가락을 투과하여 이미지센서로 입사된 광의 시간적변화를 보여주고 있는 신호이고, 이는 혈류량의 변화를 알 수 있게 해 주는 맥파신호에 해당하는 것이다.Each of the discrete data points of FIG. 4 is a signal showing the temporal change of the light transmitted through the finger to the image sensor, which corresponds to the pulse wave signal that enables the change of blood flow.

한편, 상기 Intensity(i,j,n)가 직접적인 맥파신호를 이산적으로 검출한 결과이지만, 손가락(100)과 플래시(10)와 이미지센서(22)의 배치에 따라서 각 화소별로도 광량의 변화 차이가 일어날 수 있다. 즉, 가로 1, 세로 2지점에서는 광량의 변화폭이 크게 나올 수 있고, 가로 50, 세로 30지점에서는 광량 폭의 변화가 작을 수 있다. 또 어떤 화소에서는 변별력 있는 신호변화를 관찰되지 않을 수도 있다.On the other hand, although the intensity (i, j, n) is the result of discrete pulse signal detection directly, the amount of light changes for each pixel according to the arrangement of the finger 100, the flash 10 and the image sensor 22 Differences can occur. That is, the width of change in the amount of light may be large at the points 1 and 2, and the change in the amount of light may be small at the points 50 and 30. In other pixels, no discriminating signal change may be observed.

따라서, 맥파신호를 좀더 효율적으로 검출하기 위해서는 임의의 한 개의 화소에서의 출력신호만으로는 측정이 보장되지 않으므로, 여러 개의 화소중에서 신호강도가 크게 나오는 화소를 선택는 처리부가 요구되며, 이것은 도 6의 “화소처리부" 이다. Therefore, in order to detect the pulse wave signal more efficiently, the measurement is not guaranteed only by the output signal of any one pixel. Therefore, a processor is required to select a pixel having a large signal intensity from among the plurality of pixels, which is referred to as the “pixel of FIG. 6. Processor ".

화소처리부에서는 일예로 여러 화소 중에서 광량의 변화폭이 가장 큰 화소를 선택하는 방법이 가능하다. 즉, 화소간의 신호변화의 폭을 비교하여 가장 큰 변화를 출력하는 화소를 선택하는 방법이다. 예컨대, 가로 100, 세로 20의 지점의 화소가 가장 큰 광량의 변화폭을 가져왔다면 Intensity(100,20,n)의 이산 시계열데이터를 맥파신호로 활용하는 식이다. 또는, 광조사 및 혈류량의 변화에 따른 광량 변화가 일어난 모든 화소를 전부 이용하는 방식도 가능한데, 전체 화소의 광량 변화의 평균을 이용하는 것 즉, 아래의 수학식1로 이루어진 것 등을 들 수 있다.For example, the pixel processing unit may select a pixel having the largest variation in the amount of light from among the pixels. That is, a method of selecting a pixel that outputs the largest change by comparing the width of the signal change between the pixels. For example, if a pixel having a width of 100 and a height of 20 has the largest change amount of light, discrete time series data of intensity (100, 20, n) is used as a pulse wave signal. Alternatively, a method of using all of the pixels in which light quantity changes occur due to light irradiation and blood flow changes may be used. Examples thereof include using an average of light amount changes of all pixels, that is, the following formula (1).

Figure 112007072265373-pat00001
Figure 112007072265373-pat00001

여기서, i는 화소의 가로지점, j는 화소의 세로지점, n은 광량 변화 시간이다.Where i is the horizontal point of the pixel, j is the vertical point of the pixel, and n is the light amount change time.

상기와 같은 과정에서 최종적으로 생성된 맥파 데이터는 도 6의 맥파데이터활용부에 의하여 메모리에 저장될 수 있고, 화면에 디스플레이할 수 있으며, 휴대폰의 외부유무선 통신기능을 이용하여 전송이 가능하며, 맥파형의 피크검출, 분당심박수 계산 등을 수행하는 신호처리부에 전달될 수 있다. Finally, the pulse wave data generated in the above process may be stored in a memory by the pulse wave data utilization unit of FIG. 6, may be displayed on a screen, and may be transmitted using an external wired / wireless communication function of a mobile phone. It may be delivered to a signal processor for performing peak detection of waveforms, heart rate calculation per minute, and the like.

한편, 휴대형 통신기기 중에는 카메라만 내장되고, 플래시가 없는 경우도 있는데 이러한 경우는 도 7에 도시된 바와 같이 사용자가 별도의 발광부(11)를 구비하여 이용하면 맥파검출환경이 구축된다. 상기 발광부(11)의 일예로는 발광다이오드 등을 들 수 있다. On the other hand, only a camera is built in some portable communication devices and there is no flash. In this case, as shown in FIG. 7, when a user uses a separate light emitting unit 11, a pulse wave detection environment is established. An example of the light emitting unit 11 may include a light emitting diode.

한편, 본 발명은 상기 시계열 데이터를 휴대형 통신기기 내부에 구비된 마이컴(MCU)에 미리 저장된 정상 데이터와 비교한 후 표시부(LCD)에 출력함으로써 사용자의 건강상태를 쉽고 편리하게 체크할 수 있도록 구축될 수 있을 것이다.Meanwhile, the present invention compares the time series data with normal data previously stored in a microcomputer (MCU) provided in a portable communication device and outputs it to a display unit (LCD) so that the user's health state can be easily and conveniently checked. Could be.

이제까지 본 발명에 대하여 그 바람직한 실시예들을 중심으로 살펴보았다. 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 본 발명이 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 실시예는 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 할 것이다.So far I looked at the center of the preferred embodiment for the present invention. Those skilled in the art will appreciate that the present invention can be implemented in a modified form without departing from the essential features of the present invention. Therefore, the disclosed embodiments should be considered in descriptive sense only and not for purposes of limitation. The scope of the present invention is shown in the claims rather than the foregoing description, and all differences within the scope will be construed as being included in the present invention.

도 1은 본 발명의 일실시예에 따른 휴대폰을 이용한 맥파 검출방법에서 휴대폰으로 피검자의 맥파를 수집하는 상태를 나타낸 도면,1 is a view showing a state of collecting the pulse wave of the subject by the mobile phone in the pulse wave detection method using a mobile phone according to an embodiment of the present invention,

도 2는 통상적인 종래의 휴대폰을 나타낸 도면,2 is a view showing a conventional conventional mobile phone,

도 3은 휴대폰의 구성 중 렌즈부에 의해 생성된 이미지 데이터의 시간별 인덱스를 나타낸 도면,3 is a view showing a time-based index of the image data generated by the lens unit of the configuration of the mobile phone,

도 4는 도 3의 시간별 인덱스를 통합하여 구축된 시계열 데이터를 나타낸 도면,4 is a diagram illustrating time series data constructed by integrating the hourly indexes of FIG. 3;

도 5는 본 발명을 설명하기 위한 빛의 주파수에 따른 디옥시헤모글로빈, 옥시헤모글로빈, 물의 흡수계수를 나타낸 그래프,Figure 5 is a graph showing the absorption coefficient of deoxyhemoglobin, oxyhemoglobin, water according to the frequency of light for explaining the present invention,

도 6은 본 발명의 일실시예에 따른 휴대폰을 이용한 맥파 검출방법을 설명하기 위한 개략적인 블럭도,6 is a schematic block diagram illustrating a pulse wave detection method using a mobile phone according to an embodiment of the present invention;

도 7은 본 발명의 다른 실시예에 따른 휴대폰을 이용한 맥파 검출방법과정의 일예를 나타낸 도면,7 is a view showing an example of a pulse wave detection method process using a mobile phone according to another embodiment of the present invention,

도 8은 본 발명의 또 다른 실시예에 따른 휴대폰을 이용한 맥파 검출방법과정의 일예를 나타낸 도면이다.8 is a view showing an example of a pulse wave detection method process using a mobile phone according to another embodiment of the present invention.

< 도면의 주요부분에 대한 부호의 설명 ><Description of Symbols for Major Parts of Drawings>

10: 플래시 11: 발광부10: Flash 11: Light Emitting Part

20: 카메라 렌즈부 21: 렌즈20: camera lens unit 21: lens

22: 이미지센서 100: 손가락22: Image sensor 100: finger

200: 휴대폰200: cell phone

Claims (3)

플래시(10) 및 카메라 렌즈부(20)가 구비된 휴대형 통신기기를 이용한 맥파검출 방법에 있어서,In the pulse wave detection method using a portable communication device equipped with a flash 10 and a camera lens unit 20, 혈류량이 변화되는 인체의 피부조직을 상기 카메라 렌즈부(20)와 상기 카메라 렌즈부(20)와 인접하는 플래시(10)에 위치시키고 광을 조사하는 광조사 단계(S100)와;A light irradiation step (S100) of placing the skin tissue of the human body whose blood flow is changed in the camera lens unit 20 and the flash 10 adjacent to the camera lens unit 20 and irradiating light; 상기 카메라 렌즈부(20)의 내부에 구비된 이미지센서(22)의 화소로 상기 광 조사 및 혈류량의 변화에 따른 광량 변화 데이터를 수집하고, 상기 광량 변화 데이터를 시계열 데이터로 구축하여 맥파 데이터로 활용하는 단계(S200);를 포함하되,Collecting the light quantity change data according to the light irradiation and blood flow change by the pixel of the image sensor 22 provided in the camera lens unit 20, constructing the light quantity change data as time series data to use as pulse wave data To include (S200); including, 상기 광량 변화 데이터는 광조사 및 혈류량의 변화에 따른 광량의 변화폭이 가장 큰 적어도 하나 이상의 화소를 이용하여 이루어진 것이거나, 아래와 같은 수학식으로 산출되어진 광조사 및 혈류량의 변화에 따른 광량 변화가 일어난 화소들의 전체 평균인 것을 특징으로 하는 휴대폰을 이용한 맥파 검출방법.The light quantity change data is made using at least one pixel having the largest change in light quantity according to light irradiation and blood flow change, or a pixel in which light quantity change occurs due to light irradiation and blood flow change calculated by the following equation. Pulse wave detection method using a mobile phone, characterized in that the overall average of the.
Figure 112008063998917-pat00010
Figure 112008063998917-pat00010
여기서, i는 화소의 가로지점, j는 화소의 세로지점, n은 광량 변화 시간.Where i is the horizontal point of the pixel, j is the vertical point of the pixel, and n is the light change time.
삭제delete 삭제delete
KR1020070101273A 2007-10-09 2007-10-09 Method for measuring photoplethysmogram KR100880392B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020070101273A KR100880392B1 (en) 2007-10-09 2007-10-09 Method for measuring photoplethysmogram

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020070101273A KR100880392B1 (en) 2007-10-09 2007-10-09 Method for measuring photoplethysmogram

Publications (1)

Publication Number Publication Date
KR100880392B1 true KR100880392B1 (en) 2009-01-30

Family

ID=40483131

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020070101273A KR100880392B1 (en) 2007-10-09 2007-10-09 Method for measuring photoplethysmogram

Country Status (1)

Country Link
KR (1) KR100880392B1 (en)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103932693A (en) * 2014-03-27 2014-07-23 西安电子科技大学 Method for measuring human body heart rate on basis of mobile phone image
CN104284097A (en) * 2014-09-28 2015-01-14 联想(北京)有限公司 Electronic device and information processing method
KR20160085092A (en) * 2015-01-07 2016-07-15 아주대학교산학협력단 Apparatus for quantative analysis of biological material using information technology device
WO2017047989A1 (en) * 2015-09-15 2017-03-23 Samsung Electronics Co., Ltd. Mobile optical device and methods for monitoring microvascular hemodynamics
US9615749B2 (en) 2011-08-22 2017-04-11 Isis Innovation Limited Remote monitoring of vital signs
US10188350B2 (en) 2014-01-07 2019-01-29 Samsung Electronics Co., Ltd. Sensor device and electronic device having the same
US10311316B2 (en) 2014-11-21 2019-06-04 Nokia Technologies Oy Apparatus, method and computer program for identifying biometric features
US10599904B2 (en) 2016-03-04 2020-03-24 Samsung Electronics Co., Ltd. Electronic device for measuring biometric information and method of operating same
US10712851B2 (en) 2018-03-30 2020-07-14 Samsung Electronics Co., Ltd. Electronic device and method for controlling the same
US20210319875A1 (en) * 2020-04-10 2021-10-14 Demand Co.,Ltd Stress management system
US11540738B2 (en) 2019-06-17 2023-01-03 Samsung Electronics Co., Ltd. PPG sensor and method of operating the same
US11751814B2 (en) 2021-02-04 2023-09-12 Samsung Electronics Co., Ltd. Apparatus and method for estimating biological information, and electronic device including the same

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20050025554A (en) * 2003-12-19 2005-03-14 주식회사 헬스피아 A battery pack with embeded blood pressure measuring circuit and mobile phone detachably combined with the same pack
KR20050103355A (en) * 2004-04-26 2005-10-31 한국전자통신연구원 Apparatus for measuring health conditions of a mobile phone and a method for controlling informations of the same
KR100650044B1 (en) * 2005-01-07 2006-11-27 학교법인연세대학교 Mobile radio terminal with blood pressure monitoring system PPG signal
KR20060133607A (en) * 2005-06-21 2006-12-27 주식회사 팬택 Mobile communication terminal for self-checking user's health, system and method for offering multimedia contents using mobile communication terminal for self-checking user's health

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20050025554A (en) * 2003-12-19 2005-03-14 주식회사 헬스피아 A battery pack with embeded blood pressure measuring circuit and mobile phone detachably combined with the same pack
KR20050103355A (en) * 2004-04-26 2005-10-31 한국전자통신연구원 Apparatus for measuring health conditions of a mobile phone and a method for controlling informations of the same
KR100650044B1 (en) * 2005-01-07 2006-11-27 학교법인연세대학교 Mobile radio terminal with blood pressure monitoring system PPG signal
KR20060133607A (en) * 2005-06-21 2006-12-27 주식회사 팬택 Mobile communication terminal for self-checking user's health, system and method for offering multimedia contents using mobile communication terminal for self-checking user's health

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9615749B2 (en) 2011-08-22 2017-04-11 Isis Innovation Limited Remote monitoring of vital signs
US10188350B2 (en) 2014-01-07 2019-01-29 Samsung Electronics Co., Ltd. Sensor device and electronic device having the same
CN103932693A (en) * 2014-03-27 2014-07-23 西安电子科技大学 Method for measuring human body heart rate on basis of mobile phone image
CN104284097A (en) * 2014-09-28 2015-01-14 联想(北京)有限公司 Electronic device and information processing method
US10311316B2 (en) 2014-11-21 2019-06-04 Nokia Technologies Oy Apparatus, method and computer program for identifying biometric features
KR101684051B1 (en) 2015-01-07 2016-12-07 아주대학교산학협력단 Apparatus for quantative analysis of biological material using information technology device
KR20160085092A (en) * 2015-01-07 2016-07-15 아주대학교산학협력단 Apparatus for quantative analysis of biological material using information technology device
WO2017047989A1 (en) * 2015-09-15 2017-03-23 Samsung Electronics Co., Ltd. Mobile optical device and methods for monitoring microvascular hemodynamics
US10599904B2 (en) 2016-03-04 2020-03-24 Samsung Electronics Co., Ltd. Electronic device for measuring biometric information and method of operating same
US10712851B2 (en) 2018-03-30 2020-07-14 Samsung Electronics Co., Ltd. Electronic device and method for controlling the same
US11281320B2 (en) 2018-03-30 2022-03-22 Samsung Electronics Co., Ltd. Electronic device and method for controlling the same
US11540738B2 (en) 2019-06-17 2023-01-03 Samsung Electronics Co., Ltd. PPG sensor and method of operating the same
US20210319875A1 (en) * 2020-04-10 2021-10-14 Demand Co.,Ltd Stress management system
US11751814B2 (en) 2021-02-04 2023-09-12 Samsung Electronics Co., Ltd. Apparatus and method for estimating biological information, and electronic device including the same

Similar Documents

Publication Publication Date Title
KR100880392B1 (en) Method for measuring photoplethysmogram
JP7065361B2 (en) Biological information detector
CN103876726B (en) A kind of intelligent cardiac monitor device based on potential and photoelectric detecting method
US8503712B2 (en) Method and apparatus for determining blood oxygenation using a mobile communication device
CN105473060B (en) System and method for extracting physiologic information from the electromagnetic radiation remotely detected
CN104968259A (en) System and method for determining vital sign information of a subject
CN104757949A (en) Wearable equipment
WO2017202120A1 (en) Method and device for collecting ppg signal
US11877886B2 (en) Sublingual microcirculation detection device, sublingual microcirculation detection system and processing method thereof
CN112674739B (en) Detection device and detection method for biological characteristic information and electronic equipment
US20210007648A1 (en) Method and Apparatus for Non-Invasive Hemoglobin Level Prediction
CN206443694U (en) A kind of finger mount type detection means
CN105596010A (en) Intelligent-monitoring ring-type wearable equipment
JP2013031502A (en) Information processing apparatus, information processing method, program, and information processing system
KR20200139039A (en) Non-contact system of measuring ppg signal and its way to working
JP2013104851A (en) Biometric device, biometric method, program, and recording medium
CN110378240A (en) Heart rate variability measurement method, device and mobile terminal based on mobile terminal
Sinhal et al. Estimating vital signs through non-contact video-based approaches: A survey
Spigulis et al. Wearable wireless photoplethysmography sensors
Burton et al. Remote photoplethysmography with consumer smartphone reveals temporal differences between glabrous and nonglabrous skin: Pilot in vivo study
TWI563969B (en) Computerized method and device for analyzing physiological signal
CN104997517A (en) Method for measuring blood glucose by video analysis
KR20230154147A (en) Apparatus and method for estimating cardiovascular information
CN204654952U (en) Pulse oximeter
Skrvan et al. Design of a cheap pulse Oximeter for home care systems

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20130107

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20140106

Year of fee payment: 6

FPAY Annual fee payment

Payment date: 20150106

Year of fee payment: 7

FPAY Annual fee payment

Payment date: 20160108

Year of fee payment: 8

FPAY Annual fee payment

Payment date: 20170109

Year of fee payment: 9

FPAY Annual fee payment

Payment date: 20180108

Year of fee payment: 10

FPAY Annual fee payment

Payment date: 20181220

Year of fee payment: 11

FPAY Annual fee payment

Payment date: 20200108

Year of fee payment: 12