JP2020162871A - Pulse rate detection device and pulse rate detection program - Google Patents
Pulse rate detection device and pulse rate detection program Download PDFInfo
- Publication number
- JP2020162871A JP2020162871A JP2019066380A JP2019066380A JP2020162871A JP 2020162871 A JP2020162871 A JP 2020162871A JP 2019066380 A JP2019066380 A JP 2019066380A JP 2019066380 A JP2019066380 A JP 2019066380A JP 2020162871 A JP2020162871 A JP 2020162871A
- Authority
- JP
- Japan
- Prior art keywords
- image
- pulse rate
- time
- brightness
- frame image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 81
- 238000012937 correction Methods 0.000 claims abstract description 34
- 230000008859 change Effects 0.000 claims abstract description 33
- 230000004397 blinking Effects 0.000 claims abstract description 17
- 101100328887 Caenorhabditis elegans col-34 gene Proteins 0.000 description 54
- 238000000034 method Methods 0.000 description 34
- 210000004204 blood vessel Anatomy 0.000 description 19
- 238000012545 processing Methods 0.000 description 19
- 230000008569 process Effects 0.000 description 17
- 230000006870 function Effects 0.000 description 10
- 238000011156 evaluation Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 6
- 230000015654 memory Effects 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 4
- 239000011159 matrix material Substances 0.000 description 4
- 210000000887 face Anatomy 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 206010041349 Somnolence Diseases 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 210000005069 ears Anatomy 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 230000001815 facial effect Effects 0.000 description 2
- 210000001061 forehead Anatomy 0.000 description 2
- 230000002792 vascular Effects 0.000 description 2
- RRLHMJHRFMHVNM-BQVXCWBNSA-N [(2s,3r,6r)-6-[5-[5-hydroxy-3-(4-hydroxyphenyl)-4-oxochromen-7-yl]oxypentoxy]-2-methyl-3,6-dihydro-2h-pyran-3-yl] acetate Chemical compound C1=C[C@@H](OC(C)=O)[C@H](C)O[C@H]1OCCCCCOC1=CC(O)=C2C(=O)C(C=3C=CC(O)=CC=3)=COC2=C1 RRLHMJHRFMHVNM-BQVXCWBNSA-N 0.000 description 1
- 230000017531 blood circulation Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 210000004247 hand Anatomy 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000004962 physiological condition Effects 0.000 description 1
- 230000035790 physiological processes and functions Effects 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 230000003936 working memory Effects 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/024—Detecting, measuring or recording pulse rate or heart rate
- A61B5/0245—Detecting, measuring or recording pulse rate or heart rate by using sensing means generating electric signals, i.e. ECG signals
Abstract
Description
本発明は、脈拍数検出装置、及び脈拍数検出プログラムに関し、例えば、対象者の脈拍数を検出するものに関する。 The present invention relates to a pulse rate detection device and a pulse rate detection program, for example, a device that detects the pulse rate of a subject.
対象者の健康状態や生理的な状態を把握するためには、脈拍数の検出が重要である。通常、脈拍数は、対象者に器具を装着して検出するが、もっと手軽に検出したいとの要望が高く、非接触で対象者の脈拍数を検出する技術が盛んに研究されている。
これにより、例えば、車両の運転者の脈拍をモニタリングして、より交通安全を推進することができる。
It is important to detect the pulse rate in order to understand the health condition and physiological condition of the subject. Normally, the pulse rate is detected by attaching an instrument to the subject, but there is a high demand for easier detection, and techniques for detecting the pulse rate of the subject in a non-contact manner are being actively researched.
As a result, for example, the pulse of the driver of the vehicle can be monitored to further promote traffic safety.
このように、非接触で脈拍を検出する技術に非特許文献１の技術がある。この技術は、対象者の腕をカメラで撮影し、そのカメラ映像から脈拍を検出する。血流により体表面の輝度や色が変化するため、映像を画像処理することにより脈拍を検出することができる。
As described above, there is a technique of
ところで、対象者の体表面を撮影しているときに環境光が変化すると体表面の輝度も変化してしまい、脈拍による輝度変化と環境光の変化による輝度変化が区別できないという問題があった。
特に、脈拍数検出装置を車両に搭載する場合、環境光が頻繁に変化するため、環境光の変化による光外乱を分別しないと脈拍数を検出することが困難である。
By the way, when the ambient light changes while the body surface of the subject is photographed, the brightness of the body surface also changes, and there is a problem that the brightness change due to the pulse and the brightness change due to the change of the ambient light cannot be distinguished.
In particular, when the pulse rate detecting device is mounted on a vehicle, the ambient light changes frequently, so that it is difficult to detect the pulse rate unless the optical disturbance due to the change in the ambient light is separated.
本発明は、環境光の変化による輝度の変化を分別して脈拍数を検出することを目的とする。 An object of the present invention is to detect a pulse rate by discriminating a change in brightness due to a change in ambient light.
（１）本発明は、前記目的を達成するために、請求項１に記載の発明では、点滅する光源によって対象者の体表面を照明する照明手段と、変動する環境光の下、前記照明された体表面を時系列的に連続する画像によって動画撮影する撮影手段と、前記光源が点灯している時に撮影した点灯時の画像と、前記光源が消灯している時に撮影した消灯時の画像のうちの、一方の画像の撮影時における他方の画像を、当該一方の画像の前後に撮影した他方の画像から推測することで補間する補間手段と、前記補間手段で補間した画像を用いて、前記一方の画像の撮影時における、点灯時の画像の輝度から消灯時の画像の輝度を画素ごとに減じることにより、前記点灯時の画像の輝度を補正する補正手段と、時系列的に連続する前記補正した点灯時の画像の輝度の変化から前記対象者の脈拍数を取得する脈拍数取得手段と、前記取得した脈拍数を出力する出力手段と、を具備したことを特徴とする脈拍数検出装置を提供する。
（２）請求項２に記載の発明では、前記一方の画像は点灯時の画像であり、他方の画像は消灯時の画像であることを特徴とする請求項１に記載の脈拍数検出装置を提供する。
（３）請求項３に記載の発明では、前記照明手段は、前記光源が発する赤外線の点滅によって前記体表面を照明し、前記撮影手段は、前記体表面から反射した赤外線の画像によって動画撮影する、ことを特徴とする請求項１、又は請求項２に記載の脈拍数検出装置を提供する。
（４）請求項４に記載の発明では、前記照明手段は、前記光源としてＬＥＤを点滅させる、ことを特徴とする請求項２、又は請求項３に記載の脈拍数検出装置を提供する。
（５）請求項５に記載の発明では、前記補間手段は、前記前に撮影した他方の画像の撮影時刻Ｔ１から前記後に撮影した他方の画像の撮影時刻Ｔ３までの第１時間と、前記撮影時刻Ｔ１から前記一方の画像の撮影時刻Ｔ２までの第２時間との時間比に基づいて、前記画素ごとの輝度を推定することで補間する、ことを特徴とする請求項１、請求項２、請求項３、又は請求項４に記載の脈拍数検出装置を提供する。
（６）請求項６に記載の発明では、変動する環境光の下、点滅する光源によって照明された対象者の体表面を時系列的に連続する画像によって撮影した画像を取得する画像取得機能と、前記光源が点灯している時に撮影した点灯時の画像と、前記光源が消灯している時に撮影した消灯時の画像のうちの、一方の画像の撮影時における他方の画像を、当該一方の画像の前後に撮影した他方の画像からすることで補間する補間機能と、前記補間機能で補間した画像を用いて、前記一方の画像の撮影時における、点灯時の画像の輝度から消灯時の画像の輝度を画素ごとに減じることにより、前記点灯時の画像の輝度を補正する補正機能と、時系列的に連続する前記補正した点灯時の画像の輝度の変化から前記対象者の脈拍数を取得する脈拍数取得機能と、前記取得した脈拍数を出力する出力機能と、をコンピュータで実現する脈拍数検出プログラムを提供する。
(1) In order to achieve the above object, in the invention according to
(2) In the invention according to
(3) In the invention according to
(4) In the invention according to
(5) In the invention according to
(6) The invention according to
本発明によれば、点滅光を用いて環境光による輝度を推測することにより、これを分別して脈拍数を検出することができる。 According to the present invention, by estimating the brightness due to the ambient light using the blinking light, it is possible to discriminate this and detect the pulse rate.
（１）実施形態の概要
脈拍数検出装置１（図２）は、環境光の下、点滅するＬＥＤ９で照明しながら対象者１１の顔を動画撮影する。
脈拍数検出装置１は、カメラ８のフレームレートに同期させてＬＥＤ９を点滅させ、これによって、ＬＥＤ９の点灯時のフレーム画像（オンフレーム画像）と消灯時のフレーム画像（オフフレーム画像）が交互に撮影された動画を生成する。
(1) Outline of Embodiment The pulse rate detection device 1 (FIG. 2) captures a moving image of the face of the
The pulse
オフフレーム画像の輝度は環境光によるものであり、オンフレーム画像の輝度は環境光によるものとＬＥＤ９によるものを合わせたものである。
ここで、オンフレーム画像から環境光による輝度を除けば、ＬＥＤ９だけによる外乱のない輝度が得られ、これから脈拍数を検出することができる。
The brightness of the off-frame image is due to the ambient light, and the brightness of the on-frame image is the sum of the ambient light and the LED9.
Here, if the brightness due to the ambient light is removed from the on-frame image, the brightness without disturbance is obtained only by the LED 9, and the pulse rate can be detected from this.
そこで、脈拍数検出装置１は、オンフレーム画像の前後のオフフレーム画像を用いることで、オンフレーム画像の撮影時に対応するオフフレーム画像を推測して補間する。その具体的一例として本実施形態では、オンフレーム画像の撮影時刻をＴ２、オンフレーム画像の前のオフフレーム画像の撮影時刻をＴ１、オンフレーム画像の後のオフフレーム画像の撮影時刻をＴ３とした場合に、撮影時刻Ｔ１から撮影時刻Ｔ３までの第１時間と、撮影時刻Ｔ１から撮影時刻Ｔ２までの第２時間との時間比に基づいて、オンフレーム画像撮影時Ｔ２において仮にＬＥＤ９を消灯していたら撮影されていたであろうと推測される推測上の補間フレーム画像（２つのオフフレーム画像をオンフレーム画像撮影時点において補間する推測上のオフフレーム画像）を生成して補間する。
補間フレーム画像の輝度は、オンフレーム画像撮影時の環境光による輝度であると推測される。
Therefore, the pulse
The brightness of the interpolated frame image is presumed to be the brightness due to the ambient light at the time of shooting the on-frame image.
そこで、脈拍数検出装置１は、オンフレーム画像の輝度から補間フレーム画像の輝度を引くことにより、オンフレーム画像から環境光の輝度を除いた補正フレーム画像を生成する。
そして、脈拍数検出装置１は、当該補正フレーム画像の輝度のフーリエ変換から脈拍数を検出する。
Therefore, the pulse
Then, the pulse
（２）実施形態の詳細
図１は、環境光の変化による外乱下で脈波（脈拍）を検出する原理を説明するための図である。
本実施の形態では、ＬＥＤ（ｌｉｇｈｔ ｅｍｉｔｔｉｎｇ ｄｉｏｄｅ）の照明は脈波信号を拡大するが、光外乱を拡大しないという原理原則に基づき、点滅するＬＥＤを用いることによって、脈波による輝度変化と環境光の変化による輝度変化を分別する。
(2) Details of the Embodiment FIG. 1 is a diagram for explaining the principle of detecting a pulse wave (pulse) under disturbance due to a change in ambient light.
In the present embodiment, the illumination of the LED (light emitting diode) expands the pulse wave signal, but based on the principle principle that it does not expand the optical disturbance, by using the blinking LED, the brightness change due to the pulse wave and the ambient light The change in brightness due to the change in is separated.
図１（ａ）は、ＬＥＤ照明を用いずに、環境光だけで体表面を撮影した場合を示している。
体表面（皮膚表面１７と血管１８から構成される）に入射した環境光は、皮膚表面１７と血管１８で反射して、それぞれ皮膚反射光Ａと血管反射光Ｂを生じさせる。カメラが撮影するのは、これらを合成した体表面反射光Ｃである。
FIG. 1A shows a case where the body surface is photographed only with ambient light without using LED lighting.
The ambient light incident on the body surface (composed of the
図１（ａ）のグラフは、これら反射光による輝度信号（輝度信号の振幅）の時間変化を示している。
グラフの皮膚表面輝度信号Ａ、血管輝度信号Ｂ、及び体表面輝度信号Ｃは、それぞれ、皮膚反射光Ａ、血管反射光Ｂ、体表面反射光Ｃによるものである。
皮膚輝度信号Ａは、環境光の変化に伴って変化し、血管輝度信号Ｂは、環境光の変化と脈拍に伴って変化する。
カメラで撮影した動画から得られるのは、これらの変化を合成した体表面輝度信号Ｃである。
The graph of FIG. 1A shows the time change of the luminance signal (amplitude of the luminance signal) due to these reflected lights.
The skin surface brightness signal A, the blood vessel brightness signal B, and the body surface brightness signal C in the graph are based on the skin reflected light A, the blood vessel reflected light B, and the body surface reflected light C, respectively.
The skin luminance signal A changes with the change of the ambient light, and the blood vessel luminance signal B changes with the change of the ambient light and the pulse.
What is obtained from the moving image taken by the camera is the body surface brightness signal C that combines these changes.
図１（ｂ）は、環境光の下、ＬＥＤ光による照明を行いながら体表面を撮影した場合を示している。
体表面に入射したＬＥＤ光は、皮膚表面１７と血管１８で反射して、それぞれ皮膚反射光Ｄと血管反射光Ｅを生じさせる。カメラが撮影するのは、皮膚反射光Ａ、血管反射光Ｂ、皮膚反射光Ｄ、及び血管反射光Ｅを合成した体表面反射光Ｆである。
FIG. 1B shows a case where the body surface is photographed while being illuminated by LED light under ambient light.
The LED light incident on the body surface is reflected by the
図１（ｂ）のグラフは、これらの反射光による輝度信号の時間変化を示している。
グラフの皮膚表面輝度信号Ａ、血管輝度信号Ｂ、皮膚表面輝度信号Ｄ、血管輝度信号Ｅ、及び体表面輝度信号Ｆは、それぞれ、皮膚反射光Ａ、血管反射光Ｂ、皮膚反射光Ｄ、血管反射光Ｅ、及び体表面反射光Ｆによるものである。
ＬＥＤ光の輝度は一定であるため、皮膚表面輝度信号Ｄは一定値をとり、血管輝度信号Ｅは脈拍に伴って変化する。
カメラで撮影した動画から得られるのは、皮膚表面輝度信号Ａ〜血管輝度信号Ｅを合成した体表面輝度信号Ｆである。
The graph of FIG. 1B shows the time change of the luminance signal due to these reflected lights.
The skin surface brightness signal A, blood vessel brightness signal B, skin surface brightness signal D, blood vessel brightness signal E, and body surface brightness signal F in the graph are skin reflected light A, blood vessel reflected light B, skin reflected light D, and blood vessels, respectively. This is due to the reflected light E and the body surface reflected light F.
Since the brightness of the LED light is constant, the skin surface brightness signal D takes a constant value, and the blood vessel brightness signal E changes with the pulse.
The body surface brightness signal F obtained by synthesizing the skin surface brightness signal A to the blood vessel brightness signal E is obtained from the moving image taken by the camera.
図１（ｃ）のグラフは、体表面輝度信号Ｆと体表面輝度信号Ｃの差分を示している。
体表面輝度信号Ｆから体表面輝度信号Ｃを引くと、環境光による光外乱（皮膚表面輝度信号Ａと血管輝度信号Ｂ）が消去されて、ＬＥＤ光による皮膚表面輝度信号Ｄと血管輝度信号Ｅの合計である体表面輝度信号Ｇが得られる。
体表面輝度信号Ｇには、皮膚表面輝度信号Ｄが含まれているが、これは一定であるため、体表面輝度信号Ｇの時間変化は血管輝度信号Ｅの時間変化を表し、これから脈拍数を検出することができる。
The graph of FIG. 1C shows the difference between the body surface brightness signal F and the body surface brightness signal C.
When the body surface brightness signal C is subtracted from the body surface brightness signal F, the light disturbance due to ambient light (skin surface brightness signal A and blood vessel brightness signal B) is erased, and the skin surface brightness signal D and blood vessel brightness signal E due to LED light are erased. The body surface luminance signal G, which is the sum of the above, is obtained.
The body surface brightness signal G includes the skin surface brightness signal D, but since this is constant, the time change of the body surface brightness signal G represents the time change of the blood vessel brightness signal E, and the pulse rate is calculated from this. It can be detected.
このように、ＬＥＤ点灯時の輝度信号とＬＥＤ消灯時の輝度信号の差分から脈拍数を検出することができるが、ＬＥＤが点灯した状態と、ＬＥＤが消灯した状態を同時に実現することはできないという問題がある。 In this way, the pulse rate can be detected from the difference between the brightness signal when the LED is on and the brightness signal when the LED is off, but it is not possible to realize the state where the LED is on and the state where the LED is off at the same time. There's a problem.
そこで、本実施の形態では、ＬＥＤを動画のフレームごとに点滅させて、ＬＥＤをオンして点灯している状態のオンフレーム画像とＬＥＤをオフして消灯している状態のオフフレーム画像を交互に撮影する。そして、オンフレーム画像の前後のオフフレーム画像の輝度と、前のオフフレーム画像の撮影時刻Ｔ１から後のオフフレーム画像撮影時刻Ｔ３までの第１時間と、撮影時刻Ｔ１からオンフレーム画像の撮影時刻Ｔ２までの第２時間との時間比に基づいて、オンフレーム画像撮影時刻Ｔ２における補間フレーム画像（オンフレーム画像撮影時に仮想的に撮影されるオフフレーム画像）の輝度を推測する。
補間フレーム画像の輝度は、オンフレーム画像撮影時の環境光による輝度であると推測できるため、オンフレーム画像による輝度信号（体表面輝度信号Ｆ）と当該推測より得られる輝度信号（体表面輝度信号Ｃの推測値）の差分から脈拍数を検出する。
Therefore, in the present embodiment, the LED is blinked for each frame of the moving image, and the on-frame image in the state where the LED is turned on and on and the off-frame image in the state where the LED is turned off are alternated. Take a picture. Then, the brightness of the off-frame image before and after the on-frame image, the first time from the shooting time T1 of the previous off-frame image to the shooting time T3 of the off-frame image after, and the shooting time of the on-frame image from the shooting time T1. Based on the time ratio with the second time up to T2, the brightness of the interpolated frame image (off-frame image virtually taken at the time of on-frame image shooting) at the on-frame image shooting time T2 is estimated.
Since the brightness of the interpolated frame image can be estimated to be the brightness due to the ambient light at the time of shooting the on-frame image, the brightness signal based on the on-frame image (body surface luminance signal F) and the luminance signal obtained from the estimation (body surface luminance signal) The pulse rate is detected from the difference (estimated value of C).
図２は、本実施の形態の脈拍数検出装置１の構成を示した図である。
脈拍数検出装置１は、例えば、車両に搭載され、搭乗者（ドライバや助手席の乗客などの対象者）の脈波（脈拍）を監視し、ドライバの体調、緊張状態などの生理的な状態を把握する。
また、医療現場や災害現場などで患者や被災者の脈拍数を検出・監視したり、家庭や商業施設に設置して、利用者が手軽に脈拍数を検出するのに利用することができる。
FIG. 2 is a diagram showing the configuration of the pulse
The pulse
In addition, it can be used to detect and monitor the pulse rate of patients and disaster victims at medical sites and disaster sites, or to be installed in homes and commercial facilities so that users can easily detect the pulse rate.
脈拍数検出装置１は、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）２、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）３、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）４、表示部５、入力部６、出力部７、カメラ８、ＬＥＤ９、記憶部１０などから構成されており、対象者１１（脈拍数検出装置１の検出対象者）の脈拍数（脈波、脈拍）を検出する。
ＣＰＵ２は、記憶部１０やＲＯＭ３などに記憶されたプログラムに従って、各種の情報処理や制御を行う中央処理装置である。
本実施の形態では、カメラ８が撮影した動画を画像処理して対象者１１の脈拍数を検出する。
The pulse
The
In the present embodiment, the moving image taken by the
ＲＯＭ３は、読み取り専用メモリであって、脈拍数検出装置１を動作させるための基本的なプログラムやパラメータなどが記憶されている。
ＲＡＭ４は、読み書きが可能なメモリであって、ＣＰＵ２が動作する際のワーキングメモリを提供する。
本実施の形態では、動画を構成するフレーム画像（１コマの静止画像）を展開して記憶したり、計算結果を記憶したりすることにより、ＣＰＵ２が、フレーム画像に写った体表面から脈拍数を検出するのを支援する。
当該体表面は、顔や手足など体表面が露出しているところならよいが、本実施の形態では、一例として顔の表面（顔面）から脈拍数を検出する。
The
The
In the present embodiment, the
The body surface may be a place where the body surface such as the face or limbs is exposed, but in the present embodiment, the pulse rate is detected from the face surface (face) as an example.
表示部５は、液晶画面などの表示デバイスを用いて構成されており、脈拍数検出装置１の操作画面や脈拍数の表示など、脈拍数検出装置１の運用に必要な情報を表示する。
入力部６は、表示デバイスに重畳して設置されたタッチパネルなどの入力デバイスを用いて構成されており、画面表示に対するタッチの有無などから各種の情報の入力を受け付ける。
The
The
出力部７は、各種の情報を外部装置に出力するインターフェースであり、例えば、検出した脈拍数を出力したり、あるいは、脈拍数に変化が現れた場合にアラームを出力することができる。
また出力部７は、車両を制御する制御装置などの他の制御機器に出力することができる。出力部７から脈拍数の出力を受けた制御機器では、例えば、ドライバの眠気や緊張状態等を判断し、ドライバに向けた制御、例えば、眠気を覚醒させるためにハンドルやシートを振動させる制御、警告音やメッセージの出力などを行うことができる。また、車両に対する制御として、脈拍数に基づいて判断したドライバの緊張状態に応じて、車間距離制御、車速制御、又はブレーキ制御の少なくとも１つを行うことも可能である。例えば、制御機器は、ドライバが所定値を超える高い緊張状態にあると判断した場合には、車間距離を基準値よりも大きくとるように制御し、車速を所定車速以下となるように制御し、所定車速以上であれば自動ブレーキ操作による減速処理等を行う。
表示部５や出力部７は、脈拍数を出力する出力手段として機能している。
The output unit 7 is an interface that outputs various kinds of information to an external device. For example, the detected pulse rate can be output, or an alarm can be output when a change appears in the pulse rate.
Further, the output unit 7 can output to other control devices such as a control device that controls the vehicle. In the control device that receives the output of the pulse rate from the output unit 7, for example, the control device that determines the drowsiness or tension state of the driver and controls the driver, for example, the control that vibrates the steering wheel or the seat to awaken the drowsiness. You can output warning sounds and messages. Further, as control for the vehicle, at least one of inter-vehicle distance control, vehicle speed control, and brake control can be performed according to the driver's tension state determined based on the pulse rate. For example, when the driver determines that the driver is in a high tension state exceeding a predetermined value, the control device controls the inter-vehicle distance to be larger than the reference value and controls the vehicle speed to be equal to or less than the predetermined vehicle speed. If the vehicle speed is higher than the specified vehicle speed, deceleration processing by automatic braking operation is performed.
The
カメラ８は、動画を撮影するためのカメラであって、レンズで構成された光学系と、これによって結像した像を電気信号に変換する赤外線イメージセンサを用いて構成されている。
カメラ８は、対象者１１の顔前方に設置されており、対象者１１の顔付近が撮影画面となるように設定されている。
そして、カメラ８は、対象者１１を所定のフレームレートにて撮影し、これら時系列的に連続するフレーム画像（静止画像）で構成された動画を出力する。
The
The
Then, the
フレーム画像は、画像を構成する最小単位である画素（ピクセル）の配列により構成されており、各画素はＬＥＤ９が照射する周波数帯域の赤外線を検出する。
このように、カメラ８は、変動する環境光の下、ＬＥＤ９で照明された体表面を時系列的に連続する画像によって動画撮影する撮影手段として機能する。
The frame image is composed of an array of pixels, which is the smallest unit constituting the image, and each pixel detects infrared rays in the frequency band irradiated by the LED 9.
In this way, the
ＬＥＤ９は、所定の周波数帯域の赤外線を対象に照射してこれを照明する照明装置であって、対象者１１の顔の前方に設置されており、対象者１１の顔を前方から照明する。
ＬＥＤ９は、点滅する光源が発する赤外線によって対象者の体表面を照明する照明手段として機能する。
ＬＥＤ９は、ＣＰＵ２によるオンオフ制御によって、点灯状態と消灯状態をフレームレート（本実施の形態では、一例として毎秒６０フレームとした）に同期して繰り返す。
ＬＥＤ９は、赤外線を発するため、対象者１１には見えず（そのため、まぶしくない）、また、この波長領域では、脈波の検出に良好な皮膚反射光Ｄと血管反射光Ｅを得ることができる。
The LED 9 is a lighting device that irradiates an infrared ray in a predetermined frequency band to illuminate the target, and is installed in front of the face of the
The LED 9 functions as a lighting means for illuminating the body surface of the subject with infrared rays emitted by a blinking light source.
The LED 9 repeats the lighting state and the extinguishing state in synchronization with the frame rate (in this embodiment, 60 frames per second as an example) by the on / off control by the
Since the LED 9 emits infrared rays, it is invisible to the subject 11 (and therefore is not dazzling), and in this wavelength region, skin reflected light D and blood vessel reflected light E that are good for detecting pulse waves can be obtained. ..
なお、カメラ８とＬＥＤ９は、カメラ８とＬＥＤ９が一体となった、照明付きカメラとしてもよい。
また、脈拍数検出装置１は、赤外線により対象者１１の脈波を検出するが、可視光を用いるなど、他の周波数帯域における光を用いてもよい。この場合は、カメラ８とＬＥＤ９を当該光に適合したもので構成する。
The
Further, although the pulse
なお、脈拍数検出装置１で、赤外線を用いたのは、昼夜の区別なく脈拍数の検出が可能であるためである。
但し、可視光による脈拍数の検出が可能な昼間は可視光による脈拍数の検出を行い、車内が所定の明るさ以下になった場合に、赤外線による脈拍数の検出に切り替えるという運用も可能である。また、車内が所定の明るさ以下になるまでの間は、可視光による脈拍数の検出と本実施形態による赤外線による脈拍数の検出の両者を使用し、所定の明るさ以下になった後は本実施形態だけを使用するようにしてもよい。この場合、何れか一方の出力を他方の出力の信頼度を推定するために使用してもよく、また、両出力の平均値を検出値として出力するようにしてもよい。なお、車内の明るさについては、例えば照度センサ等を使用して検出する。
The pulse
However, it is also possible to detect the pulse rate with visible light during the daytime when the pulse rate can be detected with visible light, and switch to the detection of the pulse rate with infrared light when the brightness inside the vehicle becomes less than the specified brightness. is there. Further, until the inside of the vehicle has a predetermined brightness or less, both the detection of the pulse rate by visible light and the detection of the pulse rate by infrared rays according to the present embodiment are used, and after the brightness becomes less than the predetermined brightness. Only the present embodiment may be used. In this case, one of the outputs may be used to estimate the reliability of the other output, or the average value of both outputs may be output as a detection value. The brightness inside the vehicle is detected by using, for example, an illuminance sensor.
記憶部１０は、ハードディスクやＥＥＰＲＯＭ（Ｅｌｅｃｔｒｉｃａｌｌｙ Ｅｒａｓａｂｌｅ Ｐｒｏｇｒａｍｍａｂｌｅ Ｒｅａｄ−Ｏｎｌｙ Ｍｅｍｏｒｙ）などの記憶媒体を用いて構成されており、ＣＰＵ２が脈波を検出するための脈拍数検出プログラム１２やその他のプログラム、及びデータを記憶している。
ＣＰＵ２が脈拍数検出プログラム１２に従って検出した脈拍数は、ＲＡＭ４に一時保存され、必要に応じて外部に出力されたり、記憶部１０に保存される。
The
The pulse rate detected by the
脈拍数検出プログラム１２は、ＣＰＵ２に脈波検出処理を行わせるプログラムである。
ＣＰＵ２は、脈拍数検出プログラム１２を実行することにより、動画撮影した対象者１１の顔から輝度の検出を行う。
The pulse
By executing the pulse
図３は、補間フレーム画像の作成方法を説明するための図である。
図３において、オン、オフと記した菱形図形の列は、動画撮影されたフレーム画像を時系列的に並べたところを模式的に表しており（時間の経過方向は図に向かって右方向とする）、オンと記された菱形図形はオンフレーム画像を、オフと記された菱形図形はオフフレーム画像を表している。
FIG. 3 is a diagram for explaining a method of creating an interpolated frame image.
In FIG. 3, the rows of diamond-shaped figures marked on and off schematically represent the time-series arrangement of the frame images taken as moving images (the time elapses in the right direction toward the figure). The diamond-shaped figure marked on represents an on-frame image, and the diamond-shaped figure marked off represents an off-frame image.
脈拍数検出装置１は、ＬＥＤ９をフレームレートに同期して点滅させるため、・・・、オフフレーム画像２１、オンフレーム画像２２、オフフレーム画像２３、・・・といったように、オフフレーム画像とオンフレーム画像を交互に動画撮影するが、ここでは、一例として、オンフレーム画像２２を補正する場合について考える。
Since the pulse
まず、脈拍数検出装置１は、オンフレーム画像２２の１コマ前（１フレーム前）のオフフレーム画像２１と、１コマ後（１フレーム後）のオフフレーム画像２３を特定する。
そして、オフフレーム画像２１とオフフレーム画像２３の輝度と、撮影時刻の時間比に基づいて、オンフレーム画像２２の撮影時点にて、オフフレーム画像２１とオフフレーム画像２３を補間する推定上のオフフレーム画像である補間フレーム画像２５を生成する。
先に述べたように、補間フレーム画像２５は、オンフレーム画像２２の撮影時における環境光の輝度を推測することで補間した画像である。
First, the pulse
Then, based on the brightness of the off-
As described above, the interpolated
このように、脈拍数検出装置１は、光源が点灯している時に撮影した点灯時の画像（オンフレーム画像）と、前記光源が消灯している時に撮影した消灯時の画像（オフフレーム画像）のうちの、一方の画像の撮影時における他方の画像を、当該一方の画像の前後に撮影した他方の画像から推測することで補間する補間手段を備えている。
上の例では、一方の画像は点灯時の画像であり、他方の画像は消灯時の画像である。補間手段は、当該点灯時の画像の前の消灯時の画像の輝度と、当該点灯時の画像の後の消灯時の画像の輝度と、各画像撮影時の時間比に基づいて、当該点灯時の画像を撮影した時点における消灯時の画像の輝度を推測することにより環境光による輝度を推測している。
なお、当該一方の画像を消灯時の画像、他方の画像を点灯時の画像とすることも可能である。この場合、オフフレーム画像の前後のオンフレーム画像の輝度と、各画像の撮影時刻の時間比に基づいて、オンフレーム画像を補完する補間画像を作成する。
As described above, the pulse
In the above example, one image is an image when it is lit, and the other image is an image when it is extinguished. The interpolation means at the time of lighting is based on the brightness of the image at the time of turning off before the image at the time of lighting, the brightness of the image at the time of turning off after the image at the time of lighting, and the time ratio at the time of taking each image. The brightness due to ambient light is estimated by estimating the brightness of the image when the light is turned off at the time when the image of is taken.
It is also possible to use the one image as the image when the light is turned off and the other image as the image when the light is on. In this case, an interpolated image that complements the on-frame image is created based on the brightness of the on-frame images before and after the off-frame image and the time ratio of the shooting time of each image.
より詳細には、図のグラフに示したように、ｉをフレーム画像のインデックスとして、オフフレーム画像２１の撮影時刻Ｔ１をｔ（ｉ）、処理対象となる画素の輝度をＹ（ｉ）、オンフレーム画像２２の撮影時刻Ｔ２をｔ（ｉ＋１）、対応する画素の輝度をＹ（ｉ＋１）、オフフレーム画像２３の撮影時刻Ｔ３をｔ（ｉ＋２）、対応する画素の輝度をＹ（ｉ＋２）とする。
More specifically, as shown in the graph of the figure, i is used as the index of the frame image, the shooting time T1 of the off-
時刻Ｔ２＝ｔ（ｉ＋１）における補間フレーム画像２５の当該画素の輝度Ｙ（ｉ＋１）は、オフフレーム画像２１とオフフレーム画像２３の当該画素の両輝度と、Ｔ１、Ｔ２、Ｔ３の時間比に基づく式（１）（図３参照）によって計算される。
式（１）は、Ｙ（ｉ＋１）＝Ｙ（ｉ）＋[Ｙ（ｉ＋２）−Ｙ（ｉ）｝×｛ｔ（ｉ＋１）−ｔ（ｉ）｝÷｛ｔ（ｉ＋２）−ｔ（ｉ）｝によって定義されている。
このように、撮影時刻の時間間隔（第１時刻、第２時刻）を都度取得して、この時間比に基づいて、補間フレーム画像２５の当該画素の輝度Ｙ（ｉ＋１）を式（１）により算出しているため、フレーム画像を撮影する時刻がばらついていても、オンフレーム画像２２の撮影時点における補間フレーム画像の輝度を正しく計算することができる。
ここで、式（１）におけるｔ（ｉ＋２）−ｔ（ｉ）が第１時間、ｔ（ｉ＋１）−ｔ（ｉ）が第２時間である。
The brightness Y (i + 1) of the pixel of the interpolated
The formula (1) is Y (i + 1) = Y (i) + [Y (i + 2) -Y (i)} × {t (i + 1) -t (i)} ÷ {t (i + 2) -t (i). } Is defined by.
In this way, the time intervals (first time, second time) of the shooting time are acquired each time, and the brightness Y (i + 1) of the pixel of the interpolated
Here, t (i + 2) -t (i) in the formula (1) is the first time, and t (i + 1) -t (i) is the second time.
脈拍数検出装置１は、式（１）による計算をオフフレーム画像２１、２３の全ての画素の輝度について画素ごとに行う。
脈拍数検出装置１は、以上の処理によって、各オンフレーム画像に対応する補正フレーム画像をオンフレーム画像ごとに生成する。
このように、脈拍数検出装置１が備える補間手段は、前に撮影した他方の画像の撮影時刻Ｔ１から後に撮影した他方の画像の撮影時刻Ｔ３までの第１時間と、撮影時刻Ｔ１から一方の画像の撮影時刻Ｔ２までの第２時間との時間比に基づいて、画素ごとの輝度を推定することで補間している。
The pulse
The pulse
As described above, the interpolation means provided in the pulse
ところで、このようにオンフレーム画像の前後のオフフレーム画像を使用して補間フレーム画像を生成することにしたのは、本願発明者が、オンフレーム画像を、その前後の一方のオフフレーム画像で補正する実験を行ったところ、望ましい精度が得られなかったためである。
そこで、オンフレーム画像の前後のオフフレーム画像を用いて補間フレーム画像を生成し、生成した補間フレーム画像を用いてオンフレーム画像を補正してみたところ、著しい効果が得られたという背景がある。
By the way, the reason why the interpolated frame image is generated by using the off-frame images before and after the on-frame image in this way is that the inventor of the present application corrects the on-frame image with one of the off-frame images before and after the on-frame image. This is because the desired accuracy was not obtained when the experiment was conducted.
Therefore, when an interpolated frame image was generated using the off-frame images before and after the on-frame image and the on-frame image was corrected using the generated interpolated frame image, a remarkable effect was obtained.
以下、脈拍数検出装置１が行う脈波検出処理について説明する。
図４は、脈拍数検出装置１が行う脈拍数検出処理の手順を説明するためのフローチャートである。
以下の処理は、ＣＰＵ２が脈拍数検出プログラム１２に従って行うものである。
まず、ＣＰＵ２は、最低輝度基準と最高輝度基準、及び最低脈拍数基準と、最高脈拍数基準をＲＡＭ４に記憶することにより、輝度脈拍数基準を設定する（ステップ５）。
Hereinafter, the pulse wave detection process performed by the pulse
FIG. 4 is a flowchart for explaining the procedure of the pulse rate detection process performed by the pulse
The following processing is performed by the
First, the
脈拍数検出装置１は、輝度を、例えば、０（最低輝度）から２５５（最高輝度）まで段階的に計測するが、ここでは、一例として最低輝度基準を６０とし最高輝度基準を２５５とした。
最低輝度基準と最高輝度基準は、フレーム画像から体表面に該当する画素を識別する際の基準となる輝度であって、最適値が予めパラメータとして脈拍数検出プログラム１２に設定されている。
これら顔の輝度を検出するのに適した輝度基準を用いることにより、顔の輝度の検出精度を高めることができる。
The pulse
The minimum brightness reference and the maximum brightness reference are brightness that serves as a reference for identifying pixels corresponding to the body surface from the frame image, and optimum values are set in advance in the pulse
By using a brightness reference suitable for detecting the brightness of the face, the accuracy of detecting the brightness of the face can be improved.
また、脈拍数検出装置１は、最低脈拍数を４０ｂｐｍとし、最高脈拍数を１５０ｂｐｍとしている。
脈拍数検出装置１は、最低・最高脈拍数によって常識的な心拍数の範囲を設定し、これから外れるものは光外乱であるとして検出結果から除外する。
これにより、例えば、前方車両の方向指示器の点滅や緊急車両の警告灯の点滅、あるいは、トンネル内の照明などによる脈拍数の誤検出を抑止することができる。
Further, the pulse
The pulse
As a result, for example, it is possible to suppress blinking of the direction indicator of the vehicle in front, blinking of the warning light of the emergency vehicle, or erroneous detection of the pulse rate due to lighting in the tunnel or the like.
次に、ＣＰＵ２は、数理形態クロージング用の構成を定義するパラメータをＲＡＭ４に記憶することにより、当該数理形態クロージングの構成を定義する（ステップ１０）。
後述するように、最低輝度基準と最高輝度基準の範囲にある領域を顔領域として検出すると、一般にいびつな形となる。
これを脈拍数検出や顔の大きさを検出するのに適した形状に整形するのが数理形態クロージングである。
Next, the
As will be described later, when a region within the range of the minimum luminance reference and the maximum luminance reference is detected as a face region, the shape is generally distorted.
Mathematical form closing is to shape this into a shape suitable for detecting the pulse rate and the size of the face.
次に、ＣＰＵ２は、画像取得補正処理を行う（ステップ１５）。
ここで、画像取得補正処理の詳細な手順について説明するが、その前に、図５を用いて画像取得補正処理の概要について説明する。
脈拍数検出装置１は、補正前のフレーム画像をインデックスｉ（ｉ＝１、２、３、・・・）で表し、補正後のフレーム画像をインデックスｊ（ｊ＝１、２、３、・・・）で表す。
Next, the
Here, the detailed procedure of the image acquisition correction processing will be described, but before that, the outline of the image acquisition correction processing will be described with reference to FIG.
The pulse
図５（ａ）に示したように、脈拍数検出装置１は、カメラ８から、補正前の元のフレーム画像Ｆ（ｉ）と、その撮影時刻ｔ＿ｆｒａｍｅ（ｉ）を取得する。
これにより、脈拍数検出装置１は、フレーム画像Ｆ（１）、Ｆ（２）、Ｆ（３）、・・・と、これらの撮影時刻ｔ＿ｆｒａｍｅ（１）、ｔ＿ｆｒａｍｅ（２）、ｔ＿ｆｒａｍｅ（３）、・・を取得する。
このように、脈拍数検出装置１は、フレーム画像と撮影時刻を取り込みながら、フレーム画像Ｆ（５）に達してから補正処理をスタートする。
As shown in FIG. 5A, the pulse
As a result, the pulse
In this way, the pulse
まず、脈拍数検出装置１は、図５（ｂ）の式（２）に従って、補間フレーム画像Ｆ＿ｉｎｔ（ｊ）を作成する。
これにより、脈拍数検出装置１は、フレーム画像Ｆ（１）とフレーム画像Ｆ（３）から、フレーム画像Ｆ（２）に対応する補間フレーム画像Ｆ＿ｉｎｔ（１）を作成する。式（２）は、式（１）を脈拍数検出プログラム１２の計算アルゴリズムに適合する形にしたものであって、内容は同じである。
First, the pulse
As a result, the pulse
そして、脈拍数検出装置１は、図５（ｂ）の式（３）に従って、Ｆ（ｉ−３）−Ｆ＿ｉｎｔ（ｊ）なる差分により輝度を画素ごとに計算して補正後のフレーム画像Ｆ＿ｃｏｒｒ（ｊ）を生成する。
これにより、脈拍数検出装置１は、図５（ａ）に示したように、補正前のフレーム画像Ｆ（２）の輝度から補間フレーム画像Ｆ＿ｉｎｔ（１）の輝度を画素ごとに引いて、補正後のフレーム画像Ｆ＿ｃｏｒｒ（１）を生成する。
このように、脈拍数検出装置１は、推測した輝度（Ｆ＿ｉｎｔ（ｊ）の輝度）を減じることにより、一方の画像の撮影時における、点灯時の画像の輝度から消灯時の画像の輝度を画素ごとに減じることにより、点灯時の画像の輝度を補正する補正手段を備えている。
Then, the pulse
As a result, as shown in FIG. 5A, the pulse
In this way, the pulse
更に、脈拍数検出装置１は、ｔ（ｊ）＝ｔ＿ｆｒａｍｅ（ｉ−３）によって、補正後のフレーム画像Ｆ＿ｃｏｒｒ（ｊ）の撮影時刻を生成する。
これにより、補正後のフレーム画像Ｆ＿ｃｏｒｒ（１）の撮影時刻はｔ（１）＝ｔ＿ｆｒａｍｅ（２）となって、補正前のフレーム画像Ｆ（２）と同じになり、正しい撮影時刻を付与することができる。
Further, the pulse
As a result, the shooting time of the corrected frame image F_corr (1) becomes t (1) = t_frame (2), which is the same as the frame image F (2) before correction, and the correct shooting time is given. Can be done.
脈拍数検出装置１は、以上の処理を、ｉとｊをインクリメントしながら行っていき、補正後のフレーム画像Ｆ＿ｃｏｒｒ（ｊ）と、その撮影時刻ｔ（ｊ）を順次作成していく。
このようにして、脈拍数検出装置１は、フレーム画像Ｆ＿ｃｏｒｒ（ｊ）（ｊ＝１、２、・・・）を撮影時刻ｔ（ｊ）（ｊ＝１、２、・・・）で並べた、補正後の動画を生成することができる。
The pulse
In this way, the pulse
図６は、ステップ１５の画像取得補正処理の手順を説明するためのフローチャートである。
まず、脈拍数検出装置１は、インデックスｉ、ｊを１に初期化してＲＡＭ４に記憶する（ステップ３０５）。
FIG. 6 is a flowchart for explaining the procedure of the image acquisition correction process in
First, the pulse
次に、脈拍数検出装置１は、ＬＥＤ９をオフにして消灯した後（ステップ３１０）、カメラ８で対象者１１の顔を撮影して、環境光だけで撮影した補正前のフレーム画像Ｆ（ｉ）を取得してＲＡＭ４に記憶する（ステップ３１５）。
更に、脈拍数検出装置１は、補正前のフレーム画像Ｆ（ｉ）の撮影時刻ｔ＿ｆｒａｍｅ（ｉ）をＲＡＭ４に記憶することにより記録する（ステップ３２０）。
Next, the pulse
Further, the pulse
次に、脈拍数検出装置１は、ＬＥＤ９をオンにして点灯し、対象者１１の顔をＬＥＤ９で照明する（ステップ３２５）。
そして、脈拍数検出装置１は、ＲＡＭ４に記憶してあるｉを１だけインクリメントして更新する（ステップ３３０）。
Next, the pulse
Then, the pulse
次に、脈拍数検出装置１は、カメラ８で対象者１１の顔を撮影して、環境光とＬＥＤ照明の下に撮影された補正前のフレーム画像Ｆ（ｉ）を取得してＲＡＭ４に記憶する（ステップ３３５）。
更に、脈拍数検出装置１は、補正前のフレーム画像Ｆ（ｉ）の撮影時刻ｔ＿ｆｒａｍｅ（ｉ）をＲＡＭ４に記憶することにより記録する（ステップ３４０）。
Next, the pulse
Further, the pulse
そして、脈拍数検出装置１は、ｉを１だけインクリメントして更新し（ステップ３４５）、ｉが３より大きいか否かを判断する（ステップ３５０）。
当該ループ処理の初回では、ｉ＝３であるので、ｉが３以下となり（ステップ３５０；Ｎ）、脈拍数検出装置１は、後述のステップ４０に移行して、データ取得期間が終了したか否かの判断を行う（ステップ４０）。
Then, the pulse
At the first time of the loop processing, since i = 3, i becomes 3 or less (step 350; N), and the pulse
データ取得期間が終了していない場合（ステップ４０；Ｎ）、脈拍数検出装置１は、ステップ３１０に戻ってフレーム画像の取得を続行する。
一方、データ取得期間が終了している場合（ステップ４０；Ｙ）、脈拍数検出装置１は、後述のステップ４５に移行する。
If the data acquisition period has not ended (
On the other hand, when the data acquisition period has ended (
当該ループ処理の２回目以降では、ｉが５となって３より大きくなり（ステップ３５０；Ｙ）、脈拍数検出装置１は、式（２）に従って補間フレーム画像Ｆ＿ｉｎｔ（ｊ）を作成してＲＡＭ４に記憶する（ステップ３５５）。
そして、脈拍数検出装置１は、式（３）に従って補正後のフレーム画像Ｆ＿ｃｏｒｒ（ｊ）を作成してＲＡＭ４に記憶すると共に（ステップ３６０）、当該補正後のフレーム画像Ｆ＿ｃｏｒｒ（ｊ）の撮影時刻ｔ（ｊ）＝ｔ＿ｆｒａｍｅ（ｉ−３）を作成し、これを補正後のフレーム画像Ｆ＿ｃｏｒｒ（ｊ）と対応させて（紐付けて）ＲＡＭ４に記憶する（ステップ３７０）。
このようにして、脈拍数検出装置１は、補正後のフレーム画像と、当該フレーム画像の撮影時刻を作成すると、メインルーチンにリターンする。
In the second and subsequent loop processes, i becomes 5 and becomes larger than 3 (step 350; Y), and the pulse
Then, the pulse
In this way, when the pulse
以下、図４の続きの処理について説明するが、以下の処理では、補正後のフレーム画像Ｆ＿ｃｏｒｒ（ｊ）と、当該フレーム画像の撮影時刻ｔ（ｊ）を用いて処理を行う。
図４に戻り、ＣＰＵ２は、ＲＡＭ４に記憶したフレーム画像において顔を検出して、検出した顔の位置と大きさをＲＡＭ４に記憶する（ステップ２５）。
より詳細には、図９のフレーム画像３１に示したように、ＣＰＵ２は、矩形３２によって顔を検出する。顔の検出アルゴリズムは、顔検出技術で一般的に用いられているものを使用する。
Hereinafter, the subsequent processing of FIG. 4 will be described. In the following processing, the processing is performed using the corrected frame image F_corr (j) and the shooting time t (j) of the frame image.
Returning to FIG. 4, the
More specifically, as shown in the frame image 31 of FIG. 9, the
図４に戻り、次に、ＣＰＵ２は、顔を検出できたか否かを判断する（ステップ３０）。
顔を検出できた場合（ステップ３０；Ｙ）、ＣＰＵ２は、脈拍数の検出に必要なデータを取得する後述のデータ取得処理を行う（ステップ３５）。
一方、顔を検出できなかった場合（ステップ３０；Ｎ）、ＣＰＵ２は、例えば、顔を検出できなかった旨を示すフラグをＲＡＭ４に立てるなどして顔を検出できなかった状況を記録する（ステップ６０）。
Returning to FIG. 4, the
When the face can be detected (
On the other hand, when the face cannot be detected (
ＣＰＵ２は、データ取得処理を行った後（ステップ３５）、ＲＡＭ４に記憶したインデックスｊを１だけインクリメントし（ステップ３７）、その後、データを取得するデータ取得期間が終了したか否かを判断する（ステップ４０）。
データ取得期間は、脈拍数検出に用いる動画の長さを規定する期間であり、本実施の形態では、一例として、３０秒間の動画から脈拍数を検出する。
After performing the data acquisition process (step 35), the
The data acquisition period is a period that defines the length of the moving image used for detecting the pulse rate. In the present embodiment, as an example, the pulse rate is detected from the moving image for 30 seconds.
データ取得期間が終了していない場合（ステップ４０；Ｎ）、ＣＰＵ２は、ステップ１５に戻って、画像取得補正処理を続行する。
一方、データ取得期間が終了した場合（ステップ４０；Ｙ）、又は顔を検出できなかった状況を記録した後（ステップ６０）、ＣＰＵ２は、ＲＡＭ４にアクセスしてステップ３５で取得したデータがあるか否かを判断する（ステップ４５）。
より詳細には、ＣＰＵ２は、ＲＡＭ４にアクセスして、ステップ３５で取得した輝度信号があるか否かを確認することにより当該判断を行う。
If the data acquisition period has not ended (
On the other hand, when the data acquisition period ends (
More specifically, the
ＲＡＭ４にデータがない場合（ステップ４５；Ｎ）、これはステップ３０で顔が検出できなかった場合であり、ＣＰＵ２は、ＲＡＭ４から顔を検出できなかった状況の記録を読み取って不測定情報（測定が失敗した旨を示す情報）を作成し、これを表示部５や出力部７に出力して（ステップ６５）、処理を終了する。
When there is no data in the RAM 4 (
一方、ＲＡＭ４にデータがある場合（ステップ４５；Ｙ）、ＣＰＵ２は、後述の脈拍数検出処理を行って、当該検出した脈拍数をＲＡＭ４に記憶する（ステップ５０）。
そして、ＣＰＵ２はＲＡＭ４に記憶した脈拍数がＲＡＭ４に設定した最低・最高脈拍数の範囲内にある場合、これを表示部５や出力部７に出力して（ステップ５５）、処理を終了する。
On the other hand, when there is data in the RAM 4 (
Then, when the pulse rate stored in the
図７は、図４のステップ３５で示したデータ取得処理の手順を説明するためのフローチャートである。
まず、ＣＰＵ２は、図４のステップ２５で検出した顔のうち、最も大きい顔を処理対象として選択し、選択結果（即ち、選択した顔を他の顔から識別する情報）をＲＡＭ４に記憶する（ステップ１０５）。
FIG. 7 is a flowchart for explaining the procedure of the data acquisition process shown in
First, the
これは、対象者１１の周囲に第三者が存在して、これら第三者の顔も認識してしまった場合に対象者１１の顔（カメラ８の前に位置するため最も大きい）を選択するものである。
特に、脈拍数検出装置１を車両の運転者に対して使用する場合、運転席に座っている人物の顔が最も大きく写るため、この処理によって運転者の顔を選択することができる。
This is because when a third party exists around the
In particular, when the pulse
次に、ＣＰＵ２は、選択した顔に対して楕円マスクを作成して、当該楕円マスクを特定するデータをＲＡＭ４に記憶する（ステップ１１０）。
ここで、当該楕円マスクを特定するデータは、楕円マスクの形状やフレーム画像における楕円マスクの位置などを特定する座標値などのパラメータで構成されている。
以下では、このような処理を、楕円マスクをＲＡＭ４に記憶するなどと略記することにする。
Next, the
Here, the data for specifying the ellipse mask is composed of parameters such as coordinate values for specifying the shape of the ellipse mask, the position of the ellipse mask in the frame image, and the like.
Hereinafter, such processing will be abbreviated as storing the ellipse mask in the
図９のフレーム画像３５は、矩形３２によって認識した対象者１１の顔に対して楕円マスク３６を作成したところを示している。
このように、ＣＰＵ２は、対象者１１の顔を内部に包含するように、当該顔を含む楕円領域を設定することにより楕円マスク３６を設定する。
なお、本実施の形態では、一例として楕円マスクを用いたが、矩形などの他の形状のマスクを用いることも可能である。
The
In this way, the
In the present embodiment, an elliptical mask is used as an example, but a mask having another shape such as a rectangle can also be used.
ＣＰＵ２は、設定した楕円マスク３６の内部にて顔の領域を特定し、当該領域の輝度から脈拍数を検出する。この楕円マスク３６によって脈拍数を検出する領域を限定すると、良好に脈拍数検出が行えることは本願発明者が試行錯誤の末発見したものである。
The
図７に戻り、次に、ＣＰＵ２は、フレーム画像から輝度マスクを作成してＲＡＭ４に記憶する（ステップ１１５）。
輝度マスクは、フレーム画像において、画素輝度が最低輝度基準以上かつ最高輝度基準以下となる画素で構成された領域であり、ＣＰＵ２は、フレーム画像の各画素の輝度を調べて輝度マスクを作成する。
Returning to FIG. 7, the
The luminance mask is a region composed of pixels in which the pixel brightness is equal to or higher than the minimum luminance reference and equal to or lower than the maximum luminance reference in the frame image, and the
次には、ＣＰＵ２は、ＲＡＭ４に記憶した楕円マスクと輝度マスクを用いて合計マスクを取得し、当該合計マスクをＲＡＭ４に記憶する（ステップ１２０）。
合計マスクは、輝度マスクのうち、楕円マスクに含まれている部分であり、ＣＰＵ２は、楕円マスクと輝度マスクの論理積をとってその値が真となる画素によって合計マスクを作成する。
Next, the
The total mask is a portion of the luminance mask included in the elliptical mask, and the
次に、ＣＰＵ２は、合計マスクを塊にまとめ（ステップ１２５）、まとめた塊のうち、最も大きい塊を選択し、最も大きい塊を新たな合計マスクとしてＲＡＭ４に記憶する（ステップ１３０）。
例えば、楕円マスクの位置には、分断された顔が写っている場合や、別のものが写っている場合がある。即ち、顔の中心部分に対して耳や額などの一部が髪の毛で分断されて写っている場合や、少し離れた位置に手が写っている場合などが存在する。このような場合、顔の中心部分、耳、額、手などが別々の合計マスクとして認識されてしまう。
そこで、各合計マスクの周縁相互の距離が所定閾値以下である一群の合計マスクを、１つの合計マスクとして扱うためにステップ１２５で塊にまとめている。
Next, the
For example, the position of the elliptical mask may show a divided face or another. That is, there are cases where a part of the ears, the forehead, etc. is divided by hair with respect to the central part of the face, and the case where the hand is shown at a slightly distant position. In such a case, the central part of the face, ears, forehead, hands, etc. are recognized as separate total masks.
Therefore, in order to treat a group of total masks in which the distance between the peripheral edges of each total mask is equal to or less than a predetermined threshold value as one total mask, they are grouped together in
その一方で、顔から少し離れた位置に存在する手の合計マスクの塊を除外して、顔の合計マスクの塊を使用するために、ステップ１３０で最も大きい塊を選択している。
このようにＣＰＵ２は、合計マスクを塊にまとめてグループ化することにより顔や手などの部位ごとの塊にまとめ、最も大きい塊が顔である可能性が高いので、最も大きい合計マスクを選択している。
On the other hand, in order to use the facial total mask mass, excluding the hand total mask mass that is located slightly away from the face, the largest mass is selected in
In this way, the
なお、手などの顔以外の体表面からも脈拍数は検出できるが、脈拍数検出装置１は、顔の大きさによって照明と顔との距離を間接的に計測して輝度を補正するため、顔に他の部位が混入すると、顔の大きさが実際より大きくなって輝度補正が困難となる。
そこで、最も大きい合計マスクを選択することにより、このような問題を回避することができる。
Although the pulse rate can be detected from the body surface other than the face such as the hand, the pulse
Therefore, such a problem can be avoided by selecting the largest total mask.
次に、ＣＰＵ２は、ＲＡＭ４に記憶した最も大きい合計マスクからＢｌｏｂマスクを作成してＲＡＭ４に記憶し（ステップ１３５）、更にＢｌｏｂマスクからＢｌｏｂＦｉｌｌを作成してＲＡＭ４に記憶する（ステップ１４０）。
ＢｌｏｂマスクとＢｌｏｂＦｉｌｌの内容は、以下の通りである。
Next, the
The contents of the Blob mask and BlobFill are as follows.
図９に示した合計マスク４１は、ステップ１３０でＣＰＵ２がＲＡＭ４に記憶した最も大きい合計マスクである。一般に合計マスクはいびつな形をしている。
そこで、ＣＰＵ２は、ステップ１０（図４）で記憶した数理形態クロージング用の構成を定義するパラメータをＲＡＭ４から読み出し、これに基づいて合計マスク４１を脈拍数検出に適したなめらかな形状４２に整形してＢｌｏｂマスク４４を作成する。ＣＰＵ２は、Ｂｌｏｂマスク４４を脈拍数の検出に用いる。
The
Therefore, the
また、Ｂｌｏｂマスク４４では、目や口などの部分でＢｌｏｂマスク４４に含まれない閉領域が形成される場合がある。
これら閉領域は、顔の面積に含まれるため、ＣＰＵ２は、これらの閉領域をマスクに含めたＢｌｏｂＦｉｌｌ４５を作成し、これを顔の大きさの判定に用いる。
ＣＰＵ２は、脈拍数の検出にはＢｌｏｂマスク４４を用い、顔の大きさの検出にはＢｌｏｂＦｉｌｌ４５を用いる。
Further, in the
Since these closed areas are included in the area of the face, the
The
図７に戻り、ＣＰＵ２は、Ｂｌｏｂマスク（ステップ１３５）とＢｌｏｂＦｉｌｌ（ステップ１４０）を作成した後、評価画像を作成してＲＡＭ４に記憶する（ステップ１４５）。
評価画像は、フレーム画像のうち、脈拍数の検出に用いる部分の領域を構成する画像であって、ＣＰＵ２は、フレーム画像からＢｌｏｂマスク４４に該当する領域をフレーム画像から抜き出すことにより評価画像を作成する。
Returning to FIG. 7, the
The evaluation image is an image constituting a region of a portion of the frame image used for detecting the pulse rate, and the
より具体的には、ＣＰＵ２は、Ｂｌｏｂマスクとフレーム画像によって論理積を計算し、真となる部分の画素を抽出することによりフレーム画像からＢｌｏｂマスクに該当する部分を取り出して評価画像とする。
このように、Ｂｌｏｂマスクは、フレーム画像から評価画像を抜き出す抜き型のような働きをしており、ＣＰＵ２は、評価画像を構成する画素の輝度から脈拍数を検出する。
More specifically, the
As described above, the Blob mask functions like a die for extracting the evaluation image from the frame image, and the
次に、ＣＰＵ２は、ＲＡＭ４に記憶した評価画像を構成する各画素の輝度の値を合計し、当該輝度の合計値をＲＡＭ４に記憶し（ステップ１５０）、更に、ＲＡＭ４に記憶してあるＢｌｏｂマスクの画素数を取得する（ステップ１５５）。
そして、ＣＰＵ２は、ＲＡＭ４に記憶した輝度の合計値をＲＡＭ４に記憶したＢｌｏｂマスクの画素数で割って、評価画像の輝度の平均値を計算することにより補正前（顔がＬＥＤ９に対して前後移動することによる輝度の変化の輝度補正）の輝度信号Ｒを算出してＲＡＭ４に記憶する（ステップ１６０）。
Next, the
Then, the
次に、ＣＰＵ２は、ｓＲＯＩ（ｓｉｚｅ ｏｆ Ｒｅｇｉｏｎ ｏｆ Ｉｎｔｅｒｅｓｔ）を算出してＲＡＭ４に記憶し（ステップ１６５）、メインルーチンにリターンする。
ｓＲＯＩは、フレーム画像に対する測定領域（顔の大きさ）の割合であって、ＣＰＵ２は、ＢｌｏｂＦｉｌｌの画素数をフレーム画像の画素数で除することによりｓＲＯＩを計算する。
Next, the
The sROI is the ratio of the measurement area (face size) to the frame image, and the
ｓＲＯＩは、フレーム画像における顔の大きさの割合を％で表しており、対象者１１の顔の前後位置を表している（ｓＲＯＩが大きいほどカメラ８とＬＥＤ９から顔までの距離が近い）。
後述するように、ＣＰＵ２は、ｓＲＯＩの値によって補正前の輝度信号Ｒを補正し（上記の輝度補正）、補正後の輝度信号Ｒ′を生成する。
なお、ｓＲＯＩは、フレーム画像に対する測定領域の割合であるところ、フレーム画像の画素数は固定されているため、評価画像の画素数をｓＲＯＩとすることもできる。
The sROI represents the ratio of the face size in the frame image in%, and represents the front-back position of the face of the subject 11 (the larger the sROI, the closer the distance from the
As will be described later, the
Since sROI is the ratio of the measurement area to the frame image, the number of pixels of the frame image is fixed, so the number of pixels of the evaluation image can be set to sROI.
図８は、図４のステップ５０で示した脈拍数検出処理の手順を説明するためのフローチャートである。
まず、ＣＰＵ２は、ＲＡＭ４からデータ取得期間（３０秒間）の間に取得した補正前の輝度信号ＲとｓＲＯＩを読み出す。
そして、ＣＰＵ２は、後述するように最小二乗法を用いて輝度信号ＲとｓＲＯＩの関係式を算出してＲＡＭ４に記憶する（ステップ２０５）。
FIG. 8 is a flowchart for explaining the procedure of the pulse rate detection process shown in step 50 of FIG.
First, the
Then, the
次に、ＣＰＵ２は、ｓＲＯＩを当該関係式に適用して輝度信号Ｒを補正することにより補正後の輝度信号Ｒ′を算出して、当該輝度信号Ｒ′をＲＡＭ４に記憶する（ステップ２１０）。
そして、ＣＰＵ２は、輝度信号Ｒ′をフーリエ変換して輝度信号Ｒ′の周波数成分を算出し、これをＲＡＭ４に記憶する（ステップ２１５）。
Next, the
Then, the
次に、ＣＰＵ２は、ＲＡＭ４に記憶した輝度信号Ｒ′の周波数成分において最大ピークを特定する（ステップ２２０）。
そして、ＣＰＵ２は、当該最大ピークの周波数ｆを特定し、これを対象者１１の脈拍数としてＲＡＭ４に記憶して（ステップ２２５）、メインルーチンにリターンする。
Next, the
Then, the
このように、脈拍数検出装置１は、時系列的に連続する、環境光の光外乱を補正した点灯時の画像（オンフレーム画像）の輝度の変化から対象者の脈拍数（最大ピークの周波数）を取得する脈拍数取得手段を備えている。
In this way, the pulse
図１０は、図８のステップ２０５に係る輝度信号ＲとｓＲＯＩの関係式の算出方法を説明するための図である。
ＲＡＭ４は、３０秒分の輝度信号Ｒを記憶しており、これを時間の順にＲ（１）、Ｒ（２）、Ｒ（３）、・・・、Ｒ（ｉ）、・・・とする。
同様にＲＡＭ４が記憶するｓＲＯＩも時間の順に、ｓＲＯＩ（１）、ｓＲＯＩ（２）、ｓＲＯＩ（３）、・・・、ｓＲＯＩ（ｉ）、・・・とする。
輝度信号Ｒ（ｉ）とｓＲＯＩ（ｉ）は、同じフレーム画像から取得するため、時間的に対応しており、同時刻での値である。
FIG. 10 is a diagram for explaining a method of calculating the relational expression between the luminance signal R and the sROI according to step 205 of FIG.
The
Similarly, the sROI stored in the
Since the luminance signals R (i) and sROI (i) are acquired from the same frame image, they correspond in time and are values at the same time.
ここで、図１０（ａ）の式（１１）と式（１２）で示したようにｙｉ＝Ｒ（ｉ）、ｘｉ＝ｓＲＯＩ（ｉ）とおいて、式（１３）で示したｙｉ＝β０＋β１×ｘｉなる線形の関係が成り立つと仮定すると、式（１４）が成立する。求めたいのはβ０とβ１であり、式（１４）は、最小二乗法の行列表現となっている。 Here, as shown in the formulas (11) and (12) of FIG. 10 (a), yi = R (i) and xi = sROI (i) are set, and y = β0 + β1 × shown in the formula (13). Assuming that a linear relationship of xi holds, equation (14) holds. What we want to find is β0 and β1, and Eq. (14) is a matrix representation of the least squares method.
式（１４）を式（１５）のようにＹ＝Ｘ×Ｂとおくと、式（１６）によってＢについて解くことができる。式中の上付き文字で表したＴと−１は、それぞれ転置行列と逆行列を意味する。
ＣＰＵ２は、ＲＡＭ４に記憶した輝度信号ＲとｓＲＯＩからＸ、Ｙを生成し、式（１６）を計算することにより、β０とβ１を算出する。これによって、輝度信号ＲとｓＲＯＩの関係式ｙｉ＝β０＋β１×ｘｉが定まる（式（１３））。
If Eq. (14) is set to Y = X × B as in Eq. (15), B can be solved by Eq. (16). The superscripts T and -1 in the equation mean the transposed matrix and the inverse matrix, respectively.
The
図１０（ｂ）の散布図５１は、ｘ軸（横軸）をｓＲＯＩ、ｙ軸（縦軸）を輝度信号Ｒとし、（ｘｉ、ｙｉ）をプロットした図である。
これらのデータを式（１３）によって直線近似した直線５２（回帰直線）がＲとｓＲＯＩの関係式を規定しており、直線５２のｙ切片がβ０、傾きがβ１となる。
A straight line 52 (regression straight line) obtained by linearly approximating these data by the equation (13) defines the relational expression between R and sROI, and the y-intercept of the
図１１は、図８のステップ２１０に係る輝度信号Ｒの補正式を説明するための図である。
ｙｉとｘｉは、図１０と同じである。ここで、式（１７）に示したように、補正後の輝度信号であるＲ（１）′、Ｒ（２）′、・・・、Ｒ（ｉ）′、・・・をｙｉ′と表すと、式（１８）が成立し、これが輝度信号Ｒの補正式である。これを行列で表すと式（１９）となり、これにｙｉとｘｉを代入するとｙｉ′、即ち、補正後の輝度信号Ｒ′を計算することができる。
この式は、ｓＲＯＩ（フレーム画像に写った顔の大きさ）によって顔の前後位置を推測し、これによって顔の前後移動による輝度の変化を補正するものである。
FIG. 11 is a diagram for explaining a correction formula for the luminance signal R according to step 210 of FIG.
yi and xi are the same as in FIG. Here, as shown in the equation (17), the corrected luminance signals R (1)', R (2)', ..., R (i)', ... Are expressed as yi'. And the equation (18) holds, and this is the correction equation of the luminance signal R. When this is expressed by a matrix, it becomes equation (19), and by substituting yi and xi into this, yi', that is, the corrected luminance signal R'can be calculated.
This formula estimates the front-back position of the face by sROI (the size of the face reflected in the frame image), thereby correcting the change in brightness due to the back-and-forth movement of the face.
図１２は、実験結果を説明するための図である。
図１２（ａ）は、ＬＥＤ９の点滅による補正がない場合の輝度（輝度信号Ｒ′）の３０秒間の時間変化を示している。
図１２（ｂ）は、これをＦＦＴにて周波数領域に変換したものである。本来なら、７０［ｂｐｍ］付近に脈拍によるピークが現れるはずであるが、ノイズに埋もれていて検出することができない。
FIG. 12 is a diagram for explaining the experimental results.
FIG. 12A shows a time change of the brightness (luminance signal R') for 30 seconds when there is no correction due to blinking of the LED 9.
FIG. 12B shows this converted into a frequency domain by FFT. Originally, a peak due to the pulse should appear near 70 [bpm], but it cannot be detected because it is buried in noise.
図１２（ｃ）は、ＬＥＤ９を点滅させて輝度を補正した場合の輝度（輝度信号Ｒ′）の３０秒間の時間変化を示している。
図１２（ｄ）は、これをＦＦＴにて周波数領域に変換したものである。７０［ｂｐｍ］付近に、脈波による脈拍数ピーク５５が明確に現れている。
このように、ＬＥＤ９を点滅させて、環境光による光外乱を低減すると、光外乱によるノイズに埋もれていた脈波を検出して、これから脈拍数を計算することができる。
FIG. 12C shows a time change of the brightness (luminance signal R') for 30 seconds when the brightness is corrected by blinking the LED 9.
FIG. 12D shows this converted into a frequency domain by FFT. A
By blinking the LED 9 in this way to reduce the light disturbance caused by the ambient light, the pulse wave buried in the noise caused by the light disturbance can be detected and the pulse rate can be calculated from this.
以上に説明した実施の形態によれば、次のような効果を得ることができる。
（１）環境光による体表面の輝度の変化をキャンセルして、脈波による輝度変化を取得することができる。
（２）環境光による光外乱を低減して、体表面の輝度変化から脈拍数を検出することができる。
（３）ＬＥＤ９を点滅させることにより、ＬＥＤ９の消灯時のフレーム画像からＬＥＤ９の点灯時における環境光の輝度を推測することができる。
（４）更に、顔の前後移動による輝度の変化を補正することができる。
According to the embodiment described above, the following effects can be obtained.
(1) It is possible to cancel the change in the brightness of the body surface due to the ambient light and acquire the change in the brightness due to the pulse wave.
(2) It is possible to reduce the light disturbance caused by the ambient light and detect the pulse rate from the change in the brightness of the body surface.
(3) By blinking the LED 9, the brightness of the ambient light when the LED 9 is turned on can be estimated from the frame image when the LED 9 is turned off.
(4) Further, it is possible to correct the change in brightness due to the back-and-forth movement of the face.
１ 脈拍数検出装置
２ ＣＰＵ
３ ＲＯＭ
４ ＲＡＭ
５ 表示部
６ 入力部
７ 出力部
８ カメラ
９ ＬＥＤ
１０ 記憶部
１１ 対象者
１２ 脈拍数検出プログラム
１７ 皮膚表面
１８ 血管
２１、２３ オフフレーム画像
２２ オンフレーム画像
２５ 補間フレーム画像
３１、３５ フレーム画像
３２ 矩形
３６ 楕円マスク
４１ 合計マスク
４２ 形状
４４ Ｂｌｏｂマスク
４５ ＢｌｏｂＦｉｌｌ
５１ 散布図
５２ 直線
５５ 脈拍数ピーク
1
3 ROM
4 RAM
5
10
51
Claims (6)
変動する環境光の下、前記照明された体表面を時系列的に連続する画像によって動画撮影する撮影手段と、
前記光源が点灯している時に撮影した点灯時の画像と、前記光源が消灯している時に撮影した消灯時の画像のうちの、一方の画像の撮影時における他方の画像を、当該一方の画像の前後に撮影した他方の画像から推測することで補間する補間手段と、
前記補間手段で補間した画像を用いて、前記一方の画像の撮影時における、点灯時の画像の輝度から消灯時の画像の輝度を画素ごとに減じることにより、前記点灯時の画像の輝度を補正する補正手段と、
時系列的に連続する前記補正した点灯時の画像の輝度の変化から前記対象者の脈拍数を取得する脈拍数取得手段と、
前記取得した脈拍数を出力する出力手段と、
を具備したことを特徴とする脈拍数検出装置。 Lighting means that illuminate the subject's body surface with a blinking light source,
A shooting means for capturing a moving image of the illuminated body surface with continuous images in chronological order under fluctuating ambient light.
Of the image when the light source is lit and the image when the light source is turned off and the image when the light source is turned off, the other image when one image is taken is the one image. An interpolation means that interpolates by guessing from the other image taken before and after
Using the image interpolated by the interpolation means, the brightness of the image at the time of lighting is corrected by subtracting the brightness of the image at the time of turning off from the brightness of the image at the time of shooting the one image for each pixel. Correction means to be
A pulse rate acquisition means for acquiring the pulse rate of the subject from a time-series continuous change in the brightness of the corrected image at the time of lighting.
An output means for outputting the acquired pulse rate and
A pulse rate detection device, characterized in that it is provided with.
ことを特徴とする請求項１、又は請求項２に記載の脈拍数検出装置。 The lighting means illuminates the body surface by blinking infrared rays emitted from the light source, and the photographing means takes a moving image by an image of infrared rays reflected from the body surface.
The pulse rate detecting device according to claim 1 or 2, wherein the pulse rate detecting device is characterized.
ことを特徴とする請求項２、又は請求項３に記載の脈拍数検出装置。 The lighting means blinks an LED as the light source.
The pulse rate detecting device according to claim 2 or 3, wherein the pulse rate detecting device is characterized.
ことを特徴とする請求項１、請求項２、請求項３、又は請求項４に記載の脈拍数検出装置 The interpolation means has a first time from the shooting time T1 of the other image shot before to the shooting time T3 of the other image shot after the shooting, and from the shooting time T1 to the shooting time T2 of the one image. Interpolates by estimating the brightness of each pixel based on the time ratio with the second time of
The pulse rate detecting device according to claim 1, claim 2, claim 3, or claim 4.
前記光源が点灯している時に撮影した点灯時の画像と、前記光源が消灯している時に撮影した消灯時の画像のうちの、一方の画像の撮影時における他方の画像を、当該一方の画像の前後に撮影した他方の画像からすることで補間する補間機能と、
前記補間機能で補間した画像を用いて、前記一方の画像の撮影時における、点灯時の画像の輝度から消灯時の画像の輝度を画素ごとに減じることにより、前記点灯時の画像の輝度を補正する補正機能と、
時系列的に連続する前記補正した点灯時の画像の輝度の変化から前記対象者の脈拍数を取得する脈拍数取得機能と、
前記取得した脈拍数を出力する出力機能と、
をコンピュータで実現する脈拍数検出プログラム。 An image acquisition function that acquires images taken by chronologically continuous images of the subject's body surface illuminated by a blinking light source under fluctuating ambient light,
Of the image when the light source is lit and the image when the light source is turned off and the image when the light source is turned off, the other image when one image is taken is the one image. An interpolation function that interpolates by using the other image taken before and after
Using the image interpolated by the interpolation function, the brightness of the image at the time of lighting is corrected by subtracting the brightness of the image at the time of turning off from the brightness of the image at the time of shooting the one image for each pixel. Correction function and
A pulse rate acquisition function that acquires the pulse rate of the subject from the corrected brightness change of the image at the time of lighting, which is continuous in time series, and
The output function that outputs the acquired pulse rate and
A pulse rate detection program that realizes on a computer.
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2019066380A JP7161704B2 (en) | 2019-03-29 | 2019-03-29 | Pulse rate detector and pulse rate detection program |
| PCT/JP2020/014361 WO2020203913A1 (en) | 2019-03-29 | 2020-03-27 | Pulse rate detection device and pulse rate detection program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2019066380A JP7161704B2 (en) | 2019-03-29 | 2019-03-29 | Pulse rate detector and pulse rate detection program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2020162871A true JP2020162871A (en) | 2020-10-08 |
| JP7161704B2 JP7161704B2 (en) | 2022-10-27 |
Family
ID=72667708
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2019066380A Ceased JP7161704B2 (en) | 2019-03-29 | 2019-03-29 | Pulse rate detector and pulse rate detection program |
Country Status (2)
| Country | Link |
|---|---|
| JP (1) | JP7161704B2 (en) |
| WO (1) | WO2020203913A1 (en) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2023171337A1 (en) * | 2022-03-11 | 2023-09-14 | ソニーグループ株式会社 | Heart rate measurement system, heart rate measurement method, and program |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2014128273A1 (en) * | 2013-02-21 | 2014-08-28 | Iee International Electronics & Engineering S.A. | Imaging device based occupant monitoring system supporting multiple functions |
| JP2015192852A (en) * | 2014-03-25 | 2015-11-05 | キヤノン株式会社 | imaging device |
| JP2017507724A (en) * | 2014-03-06 | 2017-03-23 | コーニンクレッカ フィリップス エヌ ヴェＫｏｎｉｎｋｌｉｊｋｅ Ｐｈｉｌｉｐｓ Ｎ．Ｖ． | Physiological characteristics determination device |
| JP2017104491A (en) * | 2015-12-07 | 2017-06-15 | パナソニック株式会社 | Living body information measurement device, living body information measurement method, and program |
-
2019
- 2019-03-29 JP JP2019066380A patent/JP7161704B2/en not_active Ceased
-
2020
- 2020-03-27 WO PCT/JP2020/014361 patent/WO2020203913A1/en active Application Filing
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2014128273A1 (en) * | 2013-02-21 | 2014-08-28 | Iee International Electronics & Engineering S.A. | Imaging device based occupant monitoring system supporting multiple functions |
| JP2017507724A (en) * | 2014-03-06 | 2017-03-23 | コーニンクレッカ フィリップス エヌ ヴェＫｏｎｉｎｋｌｉｊｋｅ Ｐｈｉｌｉｐｓ Ｎ．Ｖ． | Physiological characteristics determination device |
| JP2015192852A (en) * | 2014-03-25 | 2015-11-05 | キヤノン株式会社 | imaging device |
| JP2017104491A (en) * | 2015-12-07 | 2017-06-15 | パナソニック株式会社 | Living body information measurement device, living body information measurement method, and program |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2023171337A1 (en) * | 2022-03-11 | 2023-09-14 | ソニーグループ株式会社 | Heart rate measurement system, heart rate measurement method, and program |
Also Published As
| Publication number | Publication date |
|---|---|
| WO2020203913A1 (en) | 2020-10-08 |
| JP7161704B2 (en) | 2022-10-27 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10825314B2 (en) | Baby monitor | |
| WO2020203915A1 (en) | Pulse wave detection device, and pulse wave detection program | |
| US20200334477A1 (en) | State estimation apparatus, state estimation method, and state estimation program | |
| JP5923180B2 (en) | Biological information measuring device and input device using the same | |
| US20140226013A1 (en) | Driving attention amount determination device, method, and computer program | |
| US20100322507A1 (en) | System and method for detecting drowsy facial expressions of vehicle drivers under changing illumination conditions | |
| US20160278644A1 (en) | Contact-less blood pressure measurement | |
| US11398112B2 (en) | Pulse wave detection device, vehicle device, and pulse wave detection program | |
| JP2017536589A (en) | Device, method and computer program for detecting instantaneous sleep | |
| JP2019513437A (en) | Fetal movement monitoring system and method | |
| WO2016193030A1 (en) | Sleep monitoring method and system | |
| JP2007229218A (en) | Apparatus, system, and method for vigilance estimation | |
| WO2020203913A1 (en) | Pulse rate detection device and pulse rate detection program | |
| JP2012000280A (en) | Brain wave estimating device, brain wave estimation method and program | |
| JP6455761B2 (en) | Pulse wave detection device and pulse wave detection program | |
| US20060055546A1 (en) | Method and apparatus for generating an indication of a level of vigilance of an individual | |
| Riztiane et al. | Driver drowsiness detection using visual information on android device | |
| EP3496037A1 (en) | Device, system and method for detecting body movement of a patient | |
| JP2017055949A (en) | Measurement apparatus, measurement system, measurement method, and computer program | |
| JP6593133B2 (en) | Diagnosis support apparatus and diagnosis support method | |
| JP2012093867A (en) | Notification system | |
| WO2017045976A1 (en) | Device and method for migraine monitoring | |
| JP7174358B2 (en) | Pulse rate detector and pulse rate detection program | |
| JP7209947B2 (en) | Pulse rate detector and pulse rate detection program | |
| WO2020203914A1 (en) | Pulse wave detection device and pulse wave detection program |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20210728 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210930 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220916 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220929 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7161704 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| RVOP | Cancellation by post-grant opposition |