WO2016159151A1 - 脈波検出装置、及び脈波検出プログラム - Google Patents

脈波検出装置、及び脈波検出プログラム Download PDF

Info

Publication number
WO2016159151A1
WO2016159151A1 PCT/JP2016/060508 JP2016060508W WO2016159151A1 WO 2016159151 A1 WO2016159151 A1 WO 2016159151A1 JP 2016060508 W JP2016060508 W JP 2016060508W WO 2016159151 A1 WO2016159151 A1 WO 2016159151A1
Authority
WO
WIPO (PCT)
Prior art keywords
pulse wave
color space
component
detection device
wave detection
Prior art date
Application number
PCT/JP2016/060508
Other languages
English (en)
French (fr)
Inventor
マイケル ジョーンズ
英夫 山田
Original Assignee
株式会社エクォス・リサーチ
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社エクォス・リサーチ filed Critical 株式会社エクォス・リサーチ
Priority to EP16773032.4A priority Critical patent/EP3278722B1/en
Priority to CN201680019452.1A priority patent/CN107427242B/zh
Priority to US15/563,409 priority patent/US10595732B2/en
Publication of WO2016159151A1 publication Critical patent/WO2016159151A1/ja

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/026Measuring blood flow
    • A61B5/0261Measuring blood flow using optical means, e.g. infrared light
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/021Measuring pressure in heart or blood vessels
    • A61B5/02108Measuring pressure in heart or blood vessels from analysis of pulse wave characteristics
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/12Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for looking at the eye fundus, e.g. ophthalmoscopes
    • A61B3/1241Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for looking at the eye fundus, e.g. ophthalmoscopes specially adapted for observation of ocular blood flow, e.g. by fluorescein angiography
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024Detecting, measuring or recording pulse rate or heart rate
    • A61B5/0245Detecting, measuring or recording pulse rate or heart rate by using sensing means generating electric signals, i.e. ECG signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • H04N5/57Control of contrast or brightness
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2576/00Medical imaging apparatus involving image processing or analysis
    • A61B2576/02Medical imaging apparatus involving image processing or analysis specially adapted for a particular organ or body part
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0077Devices for viewing the surface of the body, e.g. camera, magnifying lens
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30041Eye; Retina; Ophthalmic
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Definitions

  • the present invention relates to a pulse wave detection device and a pulse wave detection program, for example, a device for detecting a pulse wave using image processing.
  • FIG. 16A a rectangular evaluation area 101 is set on the video screen, and the subject's face is seated in the evaluation area 101.
  • Shoot with video The experiment is performed indoors and sunlight entering through the window is used as the light source.
  • the obtained moving image is separated into R component, G component, and B component and averaged, a fluctuation with a pulse wave is obtained as shown in FIG.
  • Each of these components includes a pulse wave signal that is weighted according to the light absorption characteristics of hemoglobin, and the pulse wave is generated when ICA (Independent Component Analysis) is performed on the pulse wave signal. can get.
  • ICA Independent Component Analysis
  • a pulse wave is obtained from a moving image in this way because the volume of the blood vessel changes with the heartbeat of the subject, which changes the optical distance through which sunlight passes through the skin, which changes the reflected light from the face. Because it appears as
  • An object of the present invention is to perform pulse detection that is robust to changes in brightness.
  • a moving image acquisition unit that acquires a moving image in which an area including the face of the subject is captured, and the moving image acquisition unit Eye part specifying means for specifying the eye part of the subject and brightness change acquisition for acquiring a change in brightness caused by a change in the shooting environment of the moving image from a change in a predetermined color space component of the specified eye part Means, brightness correction means for correcting the brightness of the moving image using the acquired brightness change, and the pulse of the subject from a time change of a predetermined color space component in the corrected skin portion of the subject.
  • a pulse wave detection device comprising a pulse wave acquisition means for acquiring a wave and an output means for outputting the acquired pulse wave.
  • a pulse wave acquisition means for acquiring a wave and an output means for outputting the acquired pulse wave.
  • the reference component registration means which registers the reference component which is the color space component used as the reference
  • the said eye part specification means The pulse wave detection device according to claim 2, wherein a portion of a predetermined color space component corresponding to the registered reference component in the moving image is specified as the eye portion.
  • the skin part specifying means specifies, as the skin part, a part corresponding to a predetermined reference component in which a predetermined color space component is registered in advance in the moving image.
  • the color space component used for the brightness change acquisition means to acquire a change in brightness the color space component used by the pulse wave acquisition means to acquire the pulse wave
  • a wave detection device is provided.
  • the color space component used by the lightness change acquisition unit to acquire a change in lightness and the color space component used by the pulse wave acquisition unit to acquire the pulse wave are: Respectively, the lightness component (Y) and the chromaticity component (Q) of the YIQ color space comprising the lightness component (Y) and the chromaticity components (I, Q).
  • the color space component used for specifying the portion is the color component (H) of the HSV color space including the color component (H), the saturation component (S), and the lightness component (V).
  • a pulse wave detection device is provided.
  • color space conversion means for converting a color space is provided, and the pulse wave acquisition means, the lightness change acquisition means, and the skin part specifying means, The pulse wave detection device according to any one of claims 2 to 6, wherein the color space component is acquired in the color space converted by the color space conversion means.
  • the pulse wave detection device further comprising an area specifying unit for specifying, wherein the reference component registering unit registers a color space component of the specified area as the reference component.
  • the reference component registration means registers, as the reference component, a value obtained by performing predetermined statistical processing on the distribution of the color space component in the specified region.
  • the pulse wave detection device is provided.
  • a pulse wave detection device is provided.
  • the lightness correction means performs the correction in pixel units of the moving image.
  • any one of claims 1 to 10 The pulse wave detection device described in 1. is provided. (12) In the invention described in claim 12, the subject is a passenger of a transport device, and includes monitoring means for monitoring the physical condition of the passenger using the output pulse wave.
  • the pulse wave detection device according to any one of claims 1 to 11 is provided.
  • a moving image acquisition function for acquiring a moving image in which an area including the face of the subject is photographed, and an eye part specification for identifying the portion of the subject's eye that is reflected in the moving image
  • a brightness change acquisition function for acquiring a function and a change in brightness caused by a change in the shooting environment of the moving image from a change in a predetermined color space component of the identified eye part, and using the acquired change in brightness
  • a brightness correction function for correcting the brightness of the moving image
  • a pulse wave acquisition function for acquiring the pulse wave of the subject from a time change of a predetermined color space component in the corrected skin portion of the subject, and the acquisition
  • a pulse wave detection program for realizing an output function for outputting a pulse wave and a computer is provided.
  • the first aspect of the present invention it is possible to correct the brightness of a moving image by obtaining a change in brightness from the eye part of the subject.
  • the accuracy of the pulse wave detection is improved. be able to.
  • the skin portion can be easily extracted from the moving image by comparison with the reference component.
  • a pulse wave detection device can be configured easily and inexpensively by distributing a pulse wave detection program and installing it in a general-purpose computer.
  • the pulse wave detection device 1 color-converts a frame image of a moving image from an RGB component to an HSV component, and the user's skin color prepared in advance as an H component To identify the skin area.
  • the reason why the H component is used is that the robustness is improved when the H component is used for specifying the skin.
  • the pulse wave detection device 1 converts the skin portion of the frame image into a YIQ component, and uses Qm obtained by averaging the Q values of the pixels as a pulse wave signal.
  • the reason why the Q component is used is that the robustness is improved when the Q component is used for detecting the pulse wave signal.
  • the pulse wave detection device 1 performs the above processing on each frame image to acquire a time-series change in the pulse wave signal Qm, and outputs this as a pulse wave.
  • the pulse wave detection device 1 can set the skin part in the moving image as an evaluation region (ROI; Region of Interest), it is preferable to exclude disturbance elements such as the background from the pulse wave detection target. A pulse wave can be detected.
  • ROI Region of Interest
  • the pulse wave detection device 1 color-converts a moving image frame image from an RGB component to a YIQ component, and uses the eye color of the user prepared in advance as the Q component to Is identified. Then, the pulse wave detection device 1 detects the brightness of the shooting environment based on the Y value of the eye portion. Since no pulse wave signal appears in the eye portion, it can be used as a lightness detection target.
  • the pulse wave detection device 1 detects the pulse wave signal Qm from the average of the Q values of the skin portions of the frame image, and further subtracts the average value Ye of the Y values of the eye portions from this to determine the brightness.
  • the change is corrected and Qm after brightness correction is output. Thereby, even when the brightness changes as the user moves with a vehicle or the like, the pulse wave can be detected well.
  • the pulse wave detection device 1 includes camera characteristic data for correcting variations in pixel characteristics due to camera characteristics. Then, the Q value of the skin portion of the frame image is corrected by the camera characteristic data. The pulse wave detection device 1 updates the camera characteristic data by using the change in the Q value of the skin portion that is generated when the skin portion moves in the screen by the user's movement. Further, the pulse wave detection device 1 limits the color to be corrected to the skin color, which eliminates the need for complicated algorithms and calculations, thereby reducing the calculation load and performing the real-time processing of the video well. be able to.
  • FIG. 1 is a diagram showing a configuration of a pulse wave detection device 1 according to the present embodiment.
  • the pulse wave detection device 1 is mounted on a vehicle, for example, and monitors a pulse wave of a passenger (such as a driver or a passenger in a passenger seat) and grasps a physiological state such as a physical condition and a tension state of the driver. It can also be used to detect and monitor pulse waves of patients and victims at medical sites and disaster sites.
  • the pulse wave detection device 1 includes a CPU (Central Processing Unit) 2, a ROM (Read Only Memory) 3, a RAM (Random Access Memory) 4, a display unit 5, an input unit 6, an output unit 7, a camera 8, a storage unit 9, and the like. It detects (or estimates) the pulse wave of the user 10 (the subject of pulse wave detection).
  • CPU Central Processing Unit
  • ROM Read Only Memory
  • RAM Random Access Memory
  • display unit 5 an input unit 6, an output unit 7, a camera 8, a storage unit 9, and the like. It detects (or estimates) the pulse wave of the user 10 (the subject of pulse wave detection).
  • the CPU 2 is a central processing unit that performs various types of information processing and control in accordance with programs stored in the storage unit 9 and the ROM 3.
  • the moving image captured by the camera 8 is subjected to image processing to detect the pulse wave of the user 10.
  • the ROM 3 is a read-only memory, and stores basic programs and parameters for operating the pulse wave detection device 1.
  • the RAM 4 is a readable / writable memory, and provides a working memory when the CPU 2 operates.
  • the CPU 2 by developing and storing a frame image (one frame of still image) constituting a moving image or storing a calculation result, the CPU 2 causes the skin portion of the frame image (hereinafter referred to as skin). Assist in detecting pulse wave from part).
  • the display unit 5 is configured using a display device such as a liquid crystal screen, and displays information necessary for operation of the pulse wave detection device 1 such as an operation screen of the pulse wave detection device 1 and display of a pulse wave.
  • the input unit 6 is configured using an input device such as a touch panel installed so as to be superimposed on the display device, and receives input of various types of information based on whether or not the screen display is touched.
  • the output unit 7 is an interface that outputs various types of information to an external device. For example, the output unit 7 outputs a detected pulse wave, outputs a pulse obtained from the pulse wave, or changes in the pulse wave appear. An alarm can be output in case. Moreover, the output part 7 can output to other control apparatuses, such as a control apparatus which controls a vehicle.
  • the control device that has received the pulse wave or pulse output from the output unit 7 determines, for example, the driver's drowsiness or tension (described later) and controls the driver, for example, Controls that vibrate the seat, output of warning sounds and messages, etc. can be performed.
  • control for the vehicle at least one of inter-vehicle distance control, vehicle speed control, or brake control can be performed in accordance with the tension state of the driver determined based on the pulse wave. For example, when the control device determines that the driver is in a high tension state exceeding a predetermined value, the control device controls the inter-vehicle distance to be larger than the reference value, and controls the vehicle speed to be equal to or lower than the predetermined vehicle speed. If the vehicle speed is higher than the predetermined vehicle speed, a deceleration process by an automatic brake operation is performed.
  • the camera 8 is configured using an optical system composed of lenses and an image sensor that converts an image formed thereby into an electrical signal, and is installed so that the vicinity of the face of the user 10 becomes a shooting screen. Yes.
  • the pulse wave detection device 1 uses a general-purpose product such as a web camera. In the pulse wave detection device 1, the pulse wave can be well detected even by the general-purpose camera 8, so that the cost can be reduced.
  • the camera 8 captures the subject at a predetermined frame rate and outputs a moving image composed of these continuous frame images (still images).
  • the frame image is composed of an array of pixels (pixels), which is the minimum unit constituting the image, and each pixel is arranged by color components (R value, G value, B value) in the RGB space.
  • the storage unit 9 is configured using a storage medium such as a hard disk or an EEPROM (Electrically Erasable Programmable Read-Only Memory), and stores a program and data for the CPU 2 to detect a pulse wave.
  • a storage medium such as a hard disk or an EEPROM (Electrically Erasable Programmable Read-Only Memory)
  • the storage unit 9 stores a pulse wave detection program 12, a user database 14, camera characteristic data 15, and the like.
  • the camera characteristic data 15 is data used in the third embodiment, and will be described later.
  • the pulse wave detection program 12 is a program that causes the CPU 2 to perform a pulse wave detection process.
  • the CPU 2 executes the pulse wave detection program to identify the user's skin part in the moving image and detect the pulse wave from the identified skin part.
  • the user database 14 is a database in which users who use the pulse wave detection device 1 are registered.
  • registration data is stored for each user, such as user 1, user 2,.
  • user-specific information such as face data, skin color data, eye color data,... Is registered.
  • the face data is obtained by converting the features of the user's face into data, and is used for recognizing and identifying a user seated in front of the camera 8.
  • the skin color data is data serving as a skin color reference for specifying the user's skin portion in the frame image.
  • the skin portion is specified by comparing the frame image with the skin color data.
  • the eye color data is data used in the second embodiment and will be described later.
  • FIG. 2 is a diagram for explaining a color space. Since the pulse wave detection device 1 converts the color space of the frame image (referred to as color conversion) when detecting the pulse wave, this will be described first.
  • a color image is represented by three color components. More specifically, the color information associated with each pixel of the image is expressed as a coordinate value of a point in a color space spanned around three color components.
  • a general-purpose video camera often uses R, G, and B components in the RGB space as color components. Even in the prior art, pulse waves are detected using the R, G, and B components included in the video signal as they are. Is going.
  • the inventor of the present application repeated trial and error and searched for a color component that is more robust (resistant) to disturbance elements.
  • the H component in the HSV space is suitable for specifying the skin portion
  • the Q component in the YIQ space is suitable for detecting the pulse wave. Therefore, in the pulse wave detection device 1, color components are properly used according to the purpose.
  • robustness against disturbance can be enhanced by selecting an optimal combination according to the object.
  • FIG. 2A shows the RGB space.
  • the RGB space is composed of R, G, and B axes that are orthogonal to each other and represent RGB components.
  • color information is represented by an R value (red), a G value (green), and a B value (blue), and the RGB value of a pixel is defined by the coordinate value of a point in the RGB space.
  • the RGB method is the most common color model, and the camera 8 also outputs a moving image by the RGB method.
  • FIG. 2B is a diagram showing the HSV space.
  • the HSV space is represented by a cone having a circular bottom surface, the rotation angle in the direction of the cone surface represents the H component, the distance from the center at the bottom surface represents the S component, and the distance of the perpendicular drawn from the apex of the cone to the bottom surface is V component is represented.
  • color information is represented by an H value (color), an S value (saturation), and a V value (lightness), and the HSV value of a pixel is defined by the coordinate value of a point in the HSV space.
  • the HSV method is mainly used in computer graphics.
  • the HSV space can be represented by a cylinder in addition to the cone shown in FIG.
  • the hue (H) changes along the outer periphery of the cylinder
  • the saturation (S) changes with the distance from the center
  • the lightness (V) changes from the apex to the bottom. Change towards.
  • FIG. 2C shows the YIQ space.
  • the YIQ space includes a Y axis, an I axis, and a Q axis that represent YIQ components and are orthogonal to each other.
  • color information is represented by a Y value (lightness), an I value (chromaticity: warm color system), and a Q value (chromaticity: cold color system), and the YIQ value of a pixel is defined by the coordinate value of a point in the YIQ space. Is done.
  • the Y value takes a positive value, and the I value and the Q value can take positive and negative values.
  • the YIQ method is mainly used in video equipment as a component signal method for generating an NTSC signal.
  • FIG. 3 is a diagram for explaining a mechanism for detecting a pulse wave from a moving image.
  • FIG. 3A is a diagram illustrating a method in which the pulse wave detection device 1 collects skin color data from the user's face.
  • the pulse wave detection device 1 captures a still image 30 of the user's face with the camera 8, detects the nose, and sets the nose region 20. The detection of the nose is performed using a general face recognition technique. Then, the pulse wave detection device 1 converts the color space of the nose region 20 from the RGB space to the HSV space, and generates skin color data from the H value of each pixel.
  • the reason why the skin color data is collected is the nose region 20 because it is easy to identify by face recognition and the standard skin color is exposed.
  • skin color data can be collected from other areas such as the forehead and cheeks.
  • FIG. 3B is a diagram for explaining a method for extracting a pulse wave signal from the frame image 31.
  • the frame image 31 in addition to the skin portion, hair 21, eyebrows 22, eyes 23, lips 24, background 25, and the like are imprinted. These parts other than the skin do not include the pulse wave signal or are not suitable for detecting the pulse wave signal, and act as disturbance elements that cause a decrease in accuracy in the pulse wave detection process.
  • the pulse wave detection device 1 performs color conversion on the frame image 31 to generate an HSV image 32, and specifies a portion corresponding to the skin color data as the skin portion 26.
  • the skin portion 26 is specified on a pixel basis, and all portions where the skin such as the neck is exposed are specified. As described above, the pulse wave detection accuracy can be improved by removing the disturbance element and securing the maximum portion including the pulse wave signal.
  • the pulse wave detection device 1 extracts the skin part in the frame image 31 from the position of the skin part 26 in the HSV image 32 and converts it into a YIQ image. As a result, a skin portion 26a in the YIQ space is obtained.
  • the pulse wave detection device 1 calculates Qm by averaging the Q values of the pixels of the skin portion 26a, and outputs Qm as a pulse wave signal.
  • the skin image 26a is obtained by converting the frame image 31 into a YIQ image.
  • the skin image 26a can also be obtained by converting the skin portion 26 of the HSV image 32 into a YIQ image. .
  • FIG. 3C is a diagram showing a pulse wave detected from the moving image.
  • the pulse wave detection device 1 forms the pulse wave 35 by arranging the pulse wave signals Qm output from the respective frame images in time series (in the order of the frame images).
  • the pulse wave detection device 1 can detect the pulse wave while tracking and extracting the skin part in accordance with the movement of the user by specifying the skin part of the user in each frame image. Thereby, the following features are obtained.
  • the pulse wave detection device 1 can track the skin portion by a simple process of identifying the skin portion by comparing the HSV image with the skin color data. Therefore, it is suitable for real-time processing.
  • the pulse wave is detected by simple and low-load processing
  • frame image dropout (so-called frame dropout) caused by the processing capability of the computer can be suppressed even when real-time processing is performed.
  • the interval between the processed frame images is the pulse wave measurement interval (sampling rate), it is possible to prevent the measurement interval from being widened by preventing frame dropping. As a result, a high temporal resolution of the pulse wave can be maintained, and the detection accuracy of the pulse wave is improved.
  • face recognition processing is only performed when skin color data is registered, and since skin color data is already registered, face recognition fails at the site, skin color data cannot be collected, and pulse detection cannot be performed. Can be avoided, and the reliability of the measurement is improved.
  • the detection of the pulse wave is mainly used when the current physiological state of the subject is monitored, and it is important that it can be processed in real time.
  • FIG. 4 is a flowchart for explaining an overall processing procedure performed by the pulse wave detection device 1.
  • the following processing is performed by the CPU 2 in accordance with the pulse wave detection program 12.
  • the CPU 2 detects that the user is seated at the specified position from the change in the image of the camera 8
  • the CPU 2 acquires an image of the user's face and stores it in the RAM 4 (step 5).
  • This image may be taken as a still image or taken out from a frame image of a moving image.
  • the pulse wave detection device 1 includes moving image acquisition means for acquiring a moving image obtained by photographing at least a region including the skin of the subject, and the region including the skin includes the face of the subject.
  • the CPU 2 recognizes the face image stored in the RAM 4 and searches the face image by comparing it with the face data in the user database 14 (step 10).
  • the CPU 2 determines that the user has been registered (step 15; Y), acquires the user's skin color data from the user database 14, and stores it in the RAM 4 (step 20).
  • the CPU 2 determines that the user is not registered (step 15; N), performs skin color data collection processing, and collects skin color data from the face image ( Step 25). Then, the pulse wave detection device 1 forms face data from the face image, and stores the face data and the skin color data in association with each other in the user database 14 to perform user registration (step 27).
  • the CPU 2 When acquiring the skin color data, the CPU 2 acquires a frame image from the moving image transmitted from the camera 8 and stores it in the RAM 4 (step 30). Next, the CPU 2 performs a pulse wave detection process for detecting a pulse wave from the frame image stored in the RAM 4 (step 35).
  • the CPU 2 determines whether or not to continue detecting the pulse wave (step 40).
  • the pulse wave detection device 1 returns to step 30 and performs the pulse wave detection process on the next frame image of the moving image.
  • the pulse wave detection device 1 ends the process.
  • FIG. 5 is a flowchart for explaining the procedure of the skin color data collection process in step 25.
  • the CPU 2 reads a face image from the RAM 4, recognizes the face (step 50), and detects the nose (step 55).
  • the CPU 2 sets a nose region for collecting skin color data in the detected nose (step 60).
  • the pulse wave detection device 1 specifies a predetermined region (nasal region) where the skin of the face is exposed by the face image acquisition unit that acquires an image obtained by photographing the face of the subject and the face recognition process.
  • An area specifying means is provided.
  • the CPU 2 performs color conversion of the color space of the nose region from the RGB space to the HSV space (step 65), and acquires the H value of each pixel (step 70).
  • the CPU 2 calculates the Hm by averaging the H value of each pixel (step 75), and further calculates the standard deviation ⁇ of the H value (step 80).
  • the output skin color data (Hlo and Hhi) function as a reference component that is a color space component that serves as a reference for specifying the skin portion of the subject, and is registered by user registration in step 27 (FIG. 4).
  • the pulse wave detection device 1 includes reference component registration means for registering a reference component, and registers the color space component of the nose region by performing statistical processing using the average value and the standard deviation.
  • FIG. 6 is a flowchart for explaining the procedure of the pulse wave detection process in step 35 (FIG. 5).
  • the CPU 2 converts the color space of the frame image stored in the RAM 4 from the RGB space to the HSV space, and stores the converted HSV image in the RAM 4 (step 100).
  • the CPU 2 acquires Hi, which is the H value of the i-th pixel among the pixels of the HSV image stored in the RAM 4 (step 105). Then, the CPU 2 determines whether Hi satisfies Hlo ⁇ Hi ⁇ Hhi, that is, whether Hi is within the range of the skin color data (step 110). When the Hi is within this range, the CPU 2 determines that the pixel corresponds to the skin color data. When Hi satisfies the inequality, that is, when Hi corresponds to the skin color data (step 110; Y), the CPU 2 stores the position coordinates of the pixel in the RAM 4 (step 115).
  • step 110 After storing the position coordinates in step 115, or if Hi is not in the range of the skin color data in step 110 (step 110; N), has the CPU 2 made the determination in step 110 for all the pixels of the HSV image? It is determined whether or not (step 120).
  • the position coordinates corresponding to the skin portion are stored in the RAM 4.
  • the CPU 2 acquires the evaluation target pixel in the frame image by specifying the pixel located at the position coordinate stored in the RAM 4 in the frame image (step 125).
  • the pulse wave detection device 1 includes a skin part specifying unit that specifies a skin part (evaluation target pixel) of the subject shown in the moving image. This specification is performed by setting a portion corresponding to a reference component registered in a predetermined color space component in a moving image as a skin portion in units of pixels.
  • the CPU 2 converts the color space of the evaluation target pixel from the RGB space to the YIQ space (step 130). Then, the CPU 2 averages the Q values of the respective pixels to calculate an average value Qm (step 135), outputs this as a pulse wave signal (step 140), and returns to the main routine (FIG. 4).
  • a pulse wave signal is carried on the Q value of the pixel to be evaluated. By averaging the pulse wave signal to obtain Qm, the influence of noise can be reduced.
  • the pulse wave signal Qm is detected from one frame image by the above processing, if this is performed for each successive frame image and the pulse wave signal Qm is arranged in the order of the frame image, the pulse wave signal Qm is changed depending on the time change.
  • the pulse wave shown in 3 (c) is obtained.
  • the pulse wave detection device 1 includes a pulse wave acquisition unit that acquires a pulse wave from a time change of a predetermined color space component in the skin portion, and an output unit that outputs the pulse wave.
  • the pulse wave detection device 1 performs identification of the skin portion with the H component in the HSV space and performs pulse wave detection with the Q component in the YIQ space. For this reason, the color space component used for the skin portion specifying means to specify the skin portion and the color space component used for the pulse wave acquisition means to acquire the pulse wave are different color space components.
  • the pulse wave detection device 1 includes color space conversion means for converting the color space of the moving image, and the skin part specifying means and the pulse wave acquisition means acquire the color space component in the color space converted by the color space conversion means. is doing. Furthermore, the pulse wave detection device 1 can be provided with monitoring means for monitoring the physical condition of the passenger of the transport device by the pulse wave.
  • the extracted skin part is color-converted from the RGB space to the YIQ space.
  • the skin part is extracted after color-converting the entire frame image to the YIQ space. You may make it do.
  • a pulse wave is detected under a stable brightness by sunlight that is inserted through a laboratory window.
  • the pulse wave detection device 1 when the pulse wave detection device 1 is used in a vehicle or a medical field, there are various kinds of imaging environments, and it is expected that the brightness changes particularly during the pulse wave detection.
  • a change in brightness is likely to occur frequently due to a change in the traveling position or orientation of the vehicle, a time zone, or the like. Therefore, it was examined whether or not the detection result is affected by a change in brightness that occurs when the pulse wave detector 1 is actually used. That is, the present inventor tried to change the brightness by making a shadow on the face of the subject with a fan while detecting the pulse wave under illumination with a fluorescent lamp.
  • FIG. 7 is a diagram showing the results of the experiment.
  • FIG. 7A shows a time change of the pulse wave signal Qm when the brightness of the environment does not change. As shown in the figure, the pulse wave is clearly detected.
  • FIG. 7B shows a time change of the pulse wave signal Qm when only the brightness is changed by making a shadow with a fan on the face of the subject.
  • the period 41 is a period without a shadow
  • the period 42 is a period with a shadow.
  • the pulse wave signal Qm changes greatly with the change in brightness, and the change in Qm is buried in this change, making it difficult to detect the pulse wave.
  • the pulse wave signal Qm does not appear in the eye part (hereinafter, eye part). From the skin portion, a pulse wave signal Qm in which a change in lightness is superimposed is detected, and from the eye portion, a change in lightness (or magnitude of lightness) not including a pulse wave is detected. By subtracting the latter, changes in brightness can be corrected. Further, since the present inventor has found that the Y component of the YIQ space is suitable for detecting the change in brightness, in the present embodiment, the change in brightness is detected by the Y component. Furthermore, since the pulse wave signal Qm and the Y value of brightness belong to the same color space, they may be simply subtracted.
  • FIG. 8A is a diagram showing an eye portion 45 used for detecting a change in brightness.
  • the eye portion 45 is composed of a pupil portion 48 having a deep color and a substantially central portion, an iris portion 47 around the pupil portion 48, and a white eye portion 46 which is close to white and further outside the iris portion 47.
  • the pulse wave detection device 1 registers the minimum value of the Q value in the eye portion 45 as Qlo, the maximum value of the Q value in the eye portion 45 as Qhi, and these as eye color data. Note that the pulse wave detection device 1 may register the Q value of the white eye portion 46 as Qlo and the Q value of the pupil portion 48 as Qhi, and register these as eye color data. As will be described later, the pulse wave detection device 1 uses the eye color data to extract the eye part 45 from the eye area of the user's face, and detects a change in brightness from the change in the Y value of the extracted eye part 45. .
  • FIG. 8B is a diagram showing the lightness signal 51.
  • the pulse wave detector 1 averages the Y values detected from the eye portion 45 and generates a lightness signal Ym. When this is plotted in time series, the brightness signal 51 is obtained. In the example shown in the figure, since a shadow is made on the face in the period 42, the brightness of the period 42 is smaller than that of the period 41.
  • FIG. 8C is a diagram showing the pulse wave signal 52 before correction.
  • the pre-correction pulse wave signal 52 is a time-series plot of the pulse wave signal Qm before correcting the change in brightness.
  • the pulse wave signal Qm in the period 42 is also lowered due to the influence of the decrease in brightness.
  • FIG. 8D is a diagram showing the corrected pulse wave signal 53.
  • the pulse wave detection device 1 generates a corrected pulse wave signal 53 by subtracting the lightness signal Ym from the pulse wave signal Qm before correction. When this is plotted in time series, a corrected pulse wave signal 53 is obtained.
  • the post-correction pulse wave signal 53 since the influence due to the change in brightness is removed, an appropriate pulse wave can be obtained even in the period 42 in which the brightness is lowered.
  • FIGS. 8E and 8F are diagrams for explaining a method in which the pulse wave detection device 1 identifies the eye portion 45 with a moving frame image.
  • the pulse wave detection device 1 performs face recognition processing on the frame image and extracts an eye region 55 including the eye portion 45. Then, the pulse wave detection device 1 extracts the eye portion 45 by applying the eye color data to the eye region 55.
  • the reason why the eye portion 45 is extracted from the eye region 55 in this way is as follows.
  • the eye color data is applied to the frame image, for example, a part corresponding to the eye color data is accidentally extracted in the background or the like, whereas the eye area 55 is composed of a skin part and an eye part 45, This is because only the eye portion 45 corresponds to the color data, and thus the eye portion 45 can be specified reliably.
  • the eye region 55 is roughly set as described above. Decided to identify.
  • FIG. 9 is a flowchart for explaining an overall processing procedure performed by the pulse wave detection device 1.
  • the same steps as those in the first embodiment are denoted by the same step numbers, and description thereof is simplified or omitted.
  • the CPU 2 acquires skin color data from the user database 14 (step 20), and further acquires eye color data (step 150).
  • the CPU 2 performs skin color data collection processing (step 25), and further performs eye color data collection processing (step 155) to obtain face data and skin color data.
  • the user registration is performed by storing the eye color data in the user database 14 (step 27).
  • the CPU 2 acquires a frame image (step 30), performs a pulse wave detection process (step 35), and detects a pulse wave signal Qm before correction. Next, the CPU 2 performs brightness change countermeasure processing on the pulse wave signal Qm before correction (step 160), and outputs the pulse wave signal Qm after correction.
  • FIG. 10 is a flowchart for explaining the procedure of eye color data collection processing in step 155.
  • the CPU 2 recognizes the face image used in the skin color data collection process (step 180) and detects an eye part (step 185).
  • the pulse wave detection device 1 includes an area specifying unit that specifies the area of the eye of the face (in this case, the eye portion) by performing face recognition processing on the face image.
  • the CPU 2 sets the eye portion as an evaluation area (step 190), and converts the color space of all pixels included in the eye portion from the RGB space to the YIQ space (step 200).
  • the CPU 2 acquires a Q value for each pixel included in the eye portion and stores it in the RAM 4 (step 205). Then, the CPU 2 sets the lowest Q value stored in the RAM 4 to Qlo (step 210), and further sets the highest value to Qhi (step 215). The data is registered in the user database 14 in association with the data (step 220), and the process returns to the main routine (FIG. 9).
  • the pulse wave detection device 1 includes reference component registration means for registering the color space component of the specified region as reference components (Qlo and Qhi) serving as a reference for specifying the eye portion.
  • the reference component registration unit registers a value obtained by performing statistical processing for specifying the minimum value and the maximum value on the distribution of the color space component in the specified region.
  • FIG. 11 is a flowchart for explaining the procedure of the lightness change countermeasure process in step 160.
  • the CPU 2 of the pulse wave detection device 1 performs face recognition using the frame image stored in the RAM 4 to detect a face (step 230), further detects an eye area (step 235), and detects the detected eye area. Is set in the evaluation area (step 240).
  • the CPU 2 converts the color space of the eye area from the RGB space to the YIQ space and stores it in the RAM 4 (step 245).
  • the CPU 2 sets a counter j to 0 (step 250), and acquires Qj, which is the Q value of the jth pixel in the eye area, from the RAM 4 (step 253). Then, the CPU 2 determines the magnitude relationship between Qj, Qlo, and Qhi (step 255). If Qj is Qlo ⁇ Qj ⁇ Qhi (step 255; Y), the CPU 2 determines that the pixel is included in the eye portion, acquires the Y value of the pixel, and stores it in the RAM 4 (step 260).
  • the pulse wave detection device 1 specifies the portion of the eye that appears in the moving image in units of pixels by specifying the portion corresponding to the reference component registered in the predetermined color space component in the moving image as the eye portion.
  • the eye part specifying means is provided.
  • the pulse wave detection device 1 includes brightness change acquisition means for acquiring a change in brightness caused by a change in the shooting environment of a moving image from a change in a predetermined color space component of the eye portion.
  • the CPU 2 acquires the pulse wave signal Qm before correction (step 276), subtracts the average value Ye from this to calculate the corrected pulse wave signal Qm (step 277), and calculates the corrected pulse wave signal after correction.
  • the pulse wave signal Qm is output (step 278), and the process returns to the main routine (FIG. 9).
  • the pulse wave detection device 1 detects a pulse wave from a lightness correction unit that corrects the lightness of a moving image in units of pixels by using a change in lightness, and a temporal change of a predetermined color space component in the corrected skin portion. Pulse wave acquisition means for acquiring is provided.
  • the pulse wave detection device 1 acquires a change in brightness with the Y component, specifies a skin portion with the H component, detects a pulse wave with the Q component, and performs processing with different color components.
  • the pulse wave detection device 1 includes color space conversion means for converting these color spaces.
  • a pulse wave can be detected even when the brightness changes due to a change in photographing environment such as a change in external light or a user's movement.
  • a pulse wave can be detected even when the brightness changes due to a change in photographing environment such as a change in external light or a user's movement.
  • the change in brightness can be corrected without a special device.
  • the skin portion is extracted from the frame image and then the brightness of the skin portion is corrected. However, after the brightness correction is performed on the entire frame image, the skin portion is extracted. It may be.
  • FIG. 12 is a diagram for explaining variation in chrominance due to camera characteristics.
  • FIG. 12A is a diagram showing the variation in the chrominance characteristics of the pixels of the camera 8 in shades. Since the chrominance characteristics are not uniform in this way, when the user moves within the screen, the chrominance value changes, which affects the accuracy of pulse wave detection.
  • FIG. 12B is a diagram comparing pulse waves detected in the left region 61, the center region 62, and the right region 63 of the screen by having the subject move within the screen. As shown in the figure, where the pulse waves should be detected at the same level, there is a difference in the level due to the difference in chrominance.
  • the correction target color is limited to the color of the user's face, and an average value of chrominance for each pixel generated by the user's movement in the screen is stored as camera characteristic data.
  • An accurate pulse wave can be detected by correcting the change in chrominance using the camera characteristic data.
  • the pulse wave detection device 1 sequentially corrects pixels in the region where the skin portion has been swept. As described above, in the present embodiment, a correction value can be automatically created in accordance with the movement of the user in the screen.
  • FIG. 13 is a flowchart for explaining an overall processing procedure performed by the pulse wave detection device 1.
  • the same steps as those in the first embodiment and the second embodiment are denoted by the same step numbers, and description thereof is simplified or omitted.
  • the CPU 2 After step 5 to step 30, after performing the pulse wave detection process (step 35), the CPU 2 performs a camera characteristic data update process (step 305).
  • the CPU 2 acquires the latest updated camera characteristic data (step 310), and uses this to correct the pulse wave signal Qm by camera characteristic pair processing (step 315). Thereafter, the CPU 2 performs brightness change countermeasure processing on the pulse wave signal Qm that has been corrected by the camera characteristics (step 160).
  • FIG. 14 is a flowchart for explaining the procedure of the camera characteristic data update process in step 305 (FIG. 13).
  • Steps 230 to 265 are the same as steps 100 to 130 in FIG. That is, the CPU 2 designates the pixel corresponding to the skin portion in the frame image as the evaluation target pixel, and converts the color space from the RGB space to the YIQ space (step 265).
  • the CPU 2 selects a pixel at the position coordinate (x, y) among the evaluation target pixels (the selection method may be performed by an arbitrary algorithm), acquires the Q value, and stores it in the RAM 4 ( Step 270).
  • the CPU 2 acquires the latest correction value (that is, the latest value until the previous correction) Qc (x, y, k) for the position coordinate from the camera characteristic data 15 and stores it in the RAM 4 (step 275).
  • k is a counter set for each pixel, and is a parameter representing the number of corrections of the pixel up to the previous time.
  • the CPU 2 uses these values stored in the RAM 4 to calculate a new Qc value by the following formula, and stores the result in the RAM 4 (step 280).
  • the CPU 2 updates Qc (x, y, k) of the camera characteristic data 15 with Qc (x, y, k + 1) (step 285).
  • the pulse wave detection device 1 since the pulse wave detection device 1 updates the correction value for each pixel using the statistical processing according to the above formula, the pulse wave detection device 1 is predetermined with respect to a change in the color space component that occurs in the skin portion as the face moves. An update means for updating the correction value for each pixel by performing the statistical processing is provided.
  • the CPU 2 determines whether or not the Qc values have been updated for all the evaluation target pixels (step 290). If there is a pixel that has not yet been updated (step 290; N), the CPU 2 selects the next pixel to be evaluated (x, y) (step 295), and then returns to step 270 to update all the pixels. If so (step 290; Y), the updating process is terminated and the process returns to the main routine (FIG. 13).
  • FIG. 15 is a flowchart for explaining the procedure of the camera characteristic countermeasure process in step 315 (FIG. 13).
  • the CPU 2 calculates Qa (Q value corrected by the camera characteristic countermeasure) by subtracting Qc from the Q value for each pixel set as the evaluation target pixel in the frame image (step 380), and calculates an average value of Qa Then, this is set as the pulse wave signal Qm (step 385), and the process returns to the main routine.
  • Qa Q value corrected by the camera characteristic countermeasure
  • the pulse wave detection device 1 is corrected with the variation correction unit that corrects the variation of the predetermined color space component generated in the moving image due to the characteristics of the camera using the correction value corresponding to the pixel for each pixel.
  • a pulse wave acquisition means for acquiring a pulse wave from a time change of a color space component in the skin part, and an output means for outputting the pulse wave.
  • the pulse wave detection device 1 updates the correction value by performing the camera characteristic data update process in step 305 (FIG. 13) and the camera characteristic countermeasure process in step 315 (FIG. 13) in the same loop process. In the meantime, the variation is corrected using the latest correction value, and the pulse wave is acquired from the skin portion corrected with the latest correction value.
  • the pulse wave detection device 1 outputs the pulse wave signal Qm using the latest correction value while correcting the camera characteristics.
  • the camera characteristic countermeasure process can be configured to end the correction when the correction value converges to a certain extent. In that case, the correction is continued until the fluctuation due to the camera characteristic becomes at least smaller than the fluctuation of the pulse wave signal.
  • the camera characteristic data 15 is completed, and thereafter, by using this, it is not necessary to perform a camera characteristic data update process in pulse wave detection.
  • the load on the CPU 2 is reduced, and the amount can be used for other processing.
  • the pulse wave detection device 1 determines the correction value when the variation in the color space component due to the characteristics of the camera converges to at least a value smaller than the variation in the color space component due to the pulse wave. Complete the update.
  • the following effects can be obtained.
  • (1) Camera characteristics can be detected and corrected while using the pulse wave detector 1. Therefore, no prior adjustment is necessary.
  • timing 1 may be set as a default so that the user can change the timing at an arbitrary timing.
  • Timing 1 The process is started when it is detected that the driver who is the subject of pulse wave monitoring is seated in the driver's seat. When passengers other than the driver (passenger seats and passengers in the rear seats) are also subject to pulse wave monitoring, the processing is started when it is detected that one of the target passenger seats is detected. .
  • the ignition key is turned on when a load sensor is placed on the target seat (seat surface, backrest portion, etc.) and a load exceeding the threshold is detected, or when the seat belt is worn. If it is (for the driver's seat), it is determined that the user is seated.
  • a start button is arranged in any of the pulse wave detection devices 1, and processing is started when any of the passengers selects the start button.
  • the start button is constituted by the display unit 5 and the input unit 6. That is, the pulse wave detection device 1 displays a start button on the display unit 5 and starts processing when the touch panel of the input unit 6 detects that the corresponding part has been touched. Further, an independent hard switch may be provided as the input unit 6. The case start button may be provided for each passenger to be monitored.
  • Timing 3 The process is started when the door of the driver's seat of the vehicle on which the pulse wave detection device 1 is mounted is opened. If a passenger other than the driver is also a monitoring target, the process is started even when the door corresponding to the corresponding passenger is opened.
  • the opening / closing of the door is detected by a known technique such as an opening / closing sensor (contact sensor) on the door. According to this timing 3, it becomes possible to start monitoring the pulse wave earlier than other timings.
  • the process before the pulse wave detection process (step 35) such as the acquisition of skin color data can be completed before the passenger sits after the door is opened, Can be detected.
  • the pulse wave detected by the pulse wave detection device 1 of the present embodiment it is possible to determine and respond to the driver's state such as sleepiness, tension state, and arousal state such as fatigue.
  • the driver's state such as sleepiness, tension state, and arousal state such as fatigue.
  • Japanese Patent Laying-Open No. 2014-20678 “Drowsiness Prediction Device and Sleepiness Prediction System” is available.
  • the presence or absence of sleepiness can be monitored from the pulse wave of the driver.
  • the pulse and HF of the driver are measured using the pulse wave detected from the pulse wave detection device 1.
  • HF is a known index that indicates the amount of heartbeat interval fluctuation (heart rate fluctuation).
  • the driver's sleepiness can be calculated by the following sleepiness value Z.
  • P is a pulse decrease amount (simply bpm) with respect to a normal value
  • Q is an increase rate of HF in a predetermined period (for example, the past 500 seconds).
  • the sympathetic nerve activity changes from an enhanced state to a suppressed state, and thus the pulse rate decreases.
  • the parasympathetic nerve changes to an enhanced state, and the pulse rate decreases and HF increases.
  • the pulse wave detection device 1 monitors a pulse wave, a pulse obtained from the pulse wave, HF, a drowsiness value Z, and the like, and outputs vibration and sound when a drowsiness sign is observed or when drowsiness occurs. , Can alert the driver. Further, since the pulse changes depending on tension, fatigue, etc. in addition to sleepiness, the pulse wave detection device 1 can monitor the driver's arousal level including these concepts by the pulse wave. It is.
  • 101st structure Movie acquisition means for acquiring a moving image obtained by photographing an area including at least the skin of a subject, and a skin part specifying means for specifying a portion of the subject's skin that is reflected in the acquired movie
  • a pulse wave acquisition means for acquiring the pulse wave of the subject from a time change of a predetermined color space component in the specified skin portion, and an output means for outputting the acquired pulse wave.
  • a pulse wave detector for acquiring the pulse wave of the subject from a time change of a predetermined color space component in the specified skin portion, and an output means for outputting the acquired pulse wave.
  • a pulse wave detector for acquiring the pulse wave of the subject from a time change of a predetermined color space component in the specified skin portion, and an output means for outputting the acquired pulse wave.
  • a pulse wave detector for acquiring the pulse wave of the subject from a time change of a predetermined color space component in the specified skin portion, and an output means for outputting the acquired pulse wave.
  • a pulse wave detector for acquiring the pulse
  • (3) 103rd structure It has the reference component registration means which registers the reference component which is the color space component used as the reference
  • specification means is predetermined in the said moving image.
  • the pulse wave detection device according to the 101st configuration or the 102nd configuration, wherein a portion corresponding to the registered reference component is specified as the skin portion.
  • (4) 104th configuration The color space component used by the skin part specifying unit to specify the skin part and the color space component used by the pulse wave acquiring unit to acquire the pulse wave are different colors.
  • the color space component used by the skin part specifying means to specify the skin part is an HSV composed of a color component (H), a saturation component (S), and a lightness component (V).
  • the color component (H) of the color space, and the color space component used by the pulse wave acquisition unit to acquire the pulse wave is a YIQ composed of a lightness component (Y) and a chromaticity component (I, Q).
  • the pulse wave detection device according to the 104th configuration, characterized in that it is the chromaticity component (Q) of the color space.
  • 106th configuration It comprises color space conversion means for converting the color space of a moving image, and the skin part specifying means and the pulse wave acquisition means are converted into a color space obtained by converting the acquired moving image by the color space conversion means.
  • a pulse wave detection device according to any one of the 101st configuration to the 105th configuration, wherein a color space component is acquired.
  • (7) 107th structure The face image acquisition means which acquires the face image which image
  • the pulse wave detection device according to a 107th configuration, wherein the predetermined region is a region of the subject's nose.
  • the tenth configuration is characterized in that the reference component registration means registers, as the reference component, a value obtained by performing predetermined statistical processing on the distribution of the color space component in the specified area.
  • the 110th configuration Any one of the 101st configuration to the 109th configuration, wherein the skin portion specifying means specifies the skin portion in pixel units of the moving image Pulse wave detector.
  • the target person is a passenger of a transport device, and comprises a monitoring means for monitoring the physical condition of the passenger using the output pulse wave.
  • a pulse wave detection device having any one of the configurations to the 110th configuration.
  • (12) The 112th structure The moving image acquisition function which acquires the moving image which image
  • the following effects can be obtained.
  • (1) According to the 101st configuration, it is possible to extract only the skin part by excluding the disturbance elements shown in the moving image, and to detect the pulse wave therefrom, so that the accuracy of pulse wave detection can be improved. .
  • (2) According to the 102nd configuration, it is possible to detect a pulse wave from a face that is exposed daily and that is easy to photograph.
  • (3) According to the 103rd configuration, it is possible to easily extract a skin portion from a moving image by comparison with a reference component.
  • (4) According to the 104th configuration, the robustness against disturbance elements is improved by adopting a combination of color space components suitable for the observation target (because the object to be observed with light is different between the skin and the pulse wave). be able to.
  • a disturbance element can be obtained by combining the H component found to be suitable for specifying the skin part and the Q component found to be suitable for pulse wave detection. The robustness against the can be further improved.
  • (6) according to the 106th configuration, by providing the color conversion processing not in the external device but in the pulse wave detection device, the processing speed is improved and it becomes easy to detect the pulse wave in real time from the moving image. . (7)
  • a reference value including a subtle difference in skin color for each person can be easily obtained. .
  • the skin color reference value can be collected from the nose region where the skin is exposed and the location can be easily identified.
  • the 109th configuration it is possible to equalize the uneven color distribution of the skin having a large individual difference by statistical processing, thereby improving the reliability of the reference component.
  • the 110th configuration since the skin portion is extracted for each pixel, not the region surrounded by the closed curve (pixels not corresponding to the skin portion are scattered), it acts as a disturbance element from the evaluation target. Pixels can be excluded, and detection accuracy can be increased.
  • the 111th structure the physical condition of the passenger of a transport equipment can be monitored.
  • a pulse wave detection apparatus can be easily and inexpensively configured by distributing a pulse wave detection program and installing it in a general-purpose computer.
  • the moving image acquisition means which acquires the moving image which image
  • a pulse wave detection apparatus comprising: a pulse wave acquisition unit that acquires a pulse wave of a subject; and an output unit that outputs the acquired pulse wave.
  • the pulse wave detection device according to the 301st configuration, wherein the region including at least the skin of the subject includes the face of the subject.
  • the 303rd structure The update means which updates the correction value used for the said correction by performing predetermined
  • a pulse wave detection device of the 302nd composition characterized by having performed.
  • a 304th configuration The update means updates the correction value for each pixel constituting the moving image, and the variation correction means uses the correction value corresponding to the pixel for each pixel to calculate the color space.
  • the 305th structure The said update means has the magnitude
  • the pulse wave detection device according to the 303th configuration or the 304th configuration, wherein the update is completed when the value converges.
  • (6) Configuration 306 The variation correction unit corrects the variation using the latest correction value while the update unit is updating the correction value, and the pulse wave acquisition unit The pulse wave detection device according to the 303th configuration, the 304th configuration, or the 305th configuration, wherein the pulse wave is acquired from the skin portion corrected with a correction value.
  • Configuration 307 A brightness change acquisition unit that acquires a change in brightness caused by a change in the shooting environment of the movie, a brightness correction unit that corrects the brightness of the movie using the acquired change in brightness, And the pulse wave acquisition means acquires the pulse wave of the subject from the temporal change of the color space component in the skin portion further corrected by the lightness correction means.
  • a color space component to be corrected by the variation correcting unit and a color space component used by the pulse wave acquiring unit to acquire the pulse wave are a lightness component (Y) and chromaticity.
  • the pulse wave detection device according to any one of the 301st to 307th configurations, wherein the chromaticity component (Q) of the YIQ color space including components (I, Q) is provided.
  • Configuration 309 The 301 is a passenger of a transport device, and includes a monitoring means for monitoring the physical condition of the passenger using the output pulse wave.
  • a pulse wave detection device having one of the configurations up to the 308th configuration.
  • the 310th structure The moving image acquisition function which acquires the moving image which image
  • a pulse wave detection program for realizing a pulse wave acquisition function for acquiring a pulse wave of a subject and an output function for outputting the acquired pulse wave by a computer.
  • the following effects can be obtained.
  • (1) According to the 301st configuration, it is possible to detect a pulse wave well by correcting a variation in a predetermined color space component generated in the moving image due to the characteristics of the camera.
  • (2) According to the 302nd configuration, it is possible to detect a pulse wave from a face where skin is exposed on a daily basis and is easy to shoot.
  • (3) According to the 303rd configuration, the correction value is updated by the change of the color space component caused by the movement of the face. At this time, the variation of the correction value can be equalized by the statistical processing.
  • the correction accuracy can be improved by correcting the area for each pixel instead of correcting the area with the representative value.
  • the pulse wave can be detected satisfactorily by converging the correction until the variation of the color space component becomes smaller than the fluctuation of the pulse wave.
  • the 306th configuration it is possible to detect a pulse wave while correcting.
  • the color space component for pulse wave detection is the Q component found to be suitable for pulse wave detection, thereby improving the robustness to disturbance elements. Can do.
  • the physical condition of the passenger of the transport device can be monitored.
  • a pulse wave detection device can be configured easily and inexpensively by distributing a pulse wave detection program and installing it in a general-purpose computer.
  • Pulse wave detector 2 CPU 3 ROM 4 RAM DESCRIPTION OF SYMBOLS 5 Display part 6 Input part 7 Output part 8 Camera 9 Memory
  • storage part 10 User 12 Pulse wave detection program 14 User database 15 Camera characteristic data 20 Nose area 21 Hair 22 Eyebrow 23 Eye 24 Lip 25 Background 26 Skin part 30 Still image 31 Frame image 32 HSV image 35 Pulse wave 41, 42 Period 45 Eye part 46 White eye part 47 Iris part 48 Pupil part 51 Lightness signal 52 Pre-correction pulse wave signal 53 Post-correction pulse wave signal 55 Eye area 61 Left area 62 Central area 63 Right area 101 Evaluation area 102 Background

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Cardiology (AREA)
  • General Health & Medical Sciences (AREA)
  • Surgery (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biomedical Technology (AREA)
  • Medical Informatics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Public Health (AREA)
  • Biophysics (AREA)
  • Veterinary Medicine (AREA)
  • Pathology (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physiology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Vascular Medicine (AREA)
  • Hematology (AREA)
  • Human Computer Interaction (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Ophthalmology & Optometry (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Abstract

 明度の変化に対してロバスト性のある脈拍検出を行う。 脈波検出装置1は、動画のフレーム画像をRGB成分からYIQ成分に色変換し、予めQ成分で用意してあるユーザの目の色を用いて、目の部分を特定する。そして、脈波検出装置1は、目の部分のY値によって撮影環境の明度を検出する。次に、脈波検出装置1は、フレーム画像の皮膚の部分のQ値の平均から脈波信号Qmを検出し、更に、これから目の部分のY値の平均値Yeを減算することにより明度の変化分を補正して、明度補正後のQmを出力する。これにより、ユーザが車両などで移動することにより明度が変化するような場合でも、良好に脈波を検出することができる。

Description

脈波検出装置、及び脈波検出プログラム
 本発明は、脈波検出装置、及び脈波検出プログラムに関し、例えば、画像処理を用いて脈波を検出するものに関する。
 人間の生理学的な状態を把握するうえで脈波の検出はきわめて重要であり、これを遠隔から非接触にて検出する技術が求められている。
 このような技術として、非特許文献のマサチューセッツ工科大学で行われた研究がある。
 この技術は、ウェブカメラで被験者の顔を動画撮影し、その動画をラップトップコンピュータで撮影後に(即ち、リアルタイム処理ではなく、後からの処理にて)解析して脈波を検出したものである。
 本研究は、従来レーザやドップラレーダなどの特殊な高価な装置を用いて脈波を検出していたのに対して、安価な汎用機器と簡便な方法を用いて脈波の非接触検出を実現したものである。
 ここで、図16を用いてこの技術の概要について説明する。
 まず、図16(a)に示したように、動画の画面に矩形形状の評価領域101を設定して、被験者の顔が評価領域101に入るように着席してもらい、静止した状態の顔を動画で撮影する。実験は、屋内で行われ、窓から入る日光が光源として用いられる。
 得られた動画をR成分、G成分、B成分の各成分に分離して平均すると図16(b)に示したように脈波がのった変動が得られる。
 これら各成分には、ヘモグロビンの光の吸収特性などに応じて重みづけされた脈波信号が含まれており、これに対してICA(Independent Component Analysis;独立成分分析)などを行うと脈波が得られる。
 このように動画から脈波が得られるのは、被験者の心臓の鼓動に伴って血管の体積が変化することにより、日光が皮膚を透過する光学距離が変化し、これが顔からの反射光の変化として現れるからである。
 しかし、この技術は、実験室の理想的な環境下で行われたものであり、例えば、脈波検出装置を車両に搭載してドライバの脈波を検出するなどの実用場面で利用する場合、明度の変化が外乱要素となって脈拍の検出が困難となるという問題があった。
Advancements in Noncontact,Multiparameter Physiological Measurements Using a Webcam,Ming-Zher Poh,Daniel J.McDuff,and Rosalind W.Picard,IEEE Transactions on Biomedical Engineering,Vol.58,No.1,January 2011
 本発明は、明度の変化に対してロバスト性のある脈拍検出を行うことを目的とする。
(1)本発明は、前記目的を達成するために、請求項1に記載の発明では、対象者の顔を含む領域を撮影した動画を取得する動画取得手段と、前記動画に写っている前記対象者の目の部分を特定する目部分特定手段と、前記動画の撮影環境の変化によって生じた明度の変化を、前記特定した目の部分の所定の色空間成分の変化から取得する明度変化取得手段と、前記取得した明度の変化を用いて前記動画の明度を補正する明度補正手段と、前記補正された前記対象者の皮膚の部分における所定の色空間成分の時間変化から前記対象者の脈波を取得する脈波取得手段と、前記取得した脈波を出力する出力手段と、を具備したことを特徴とする脈波検出装置を提供する。
(2)請求項2に記載の発明では、前記取得した動画に写っている前記対象者の皮膚の部分を特定する皮膚部分特定手段を備え、前記脈波取得手段は、前記特定した皮膚の部分における所定の色空間成分の時間変化から前記対象者の脈波を取得することを特徴とする請求項1に記載の脈波検出装置を提供する。
(3)請求項3に記載の発明では、前記対象者の目の部分を特定するための基準となる色空間成分である基準成分を登録する基準成分登録手段を備え、前記目部分特定手段は、前記動画において所定の色空間成分が前記登録した基準成分に対応する部分を前記目の部分として特定することを特徴とする請求項2に記載の脈波検出装置を提供する。
(4)請求項4に記載の発明では、前記皮膚部分特定手段が、前記動画において所定の色空間成分が予め登録した所定の基準成分に対応する部分を前記皮膚の部分として特定することを特徴とする請求項2、又は請求項3に記載の脈波検出装置を提供する。
(5)請求項5に記載の発明では、前記明度変化取得手段が明度の変化を取得するために用いる色空間成分、前記脈波取得手段が前記脈波を取得するために用いる色空間成分、及び、前記皮膚部分特定手段が前記皮膚の部分を特定するために用いる色空間成分は、異なる色空間成分であることを特徴とする請求項2、請求項3、又は請求項4に記載の脈波検出装置を提供する。
(6)請求項6に記載の発明では、前記明度変化取得手段が明度の変化を取得するために用いる色空間成分と前記脈波取得手段が前記脈波を取得するために用いる色空間成分は、それぞれ、明度成分(Y)、及び色度成分(I、Q)から成るYIQ色空間の前記明度成分(Y)と前記色度成分(Q)であり、前記皮膚部分特定手段が前記皮膚の部分を特定するために用いる色空間成分は、色成分(H)、彩度成分(S)、及び明度成分(V)から成るHSV色空間の前記色成分(H)であることを特徴とする請求項5に記載の脈波検出装置を提供する。
(7)請求項7に記載の発明では、色空間を変換する色空間変換手段を備え、前記脈波取得手段、前記明度変化取得手段、及び前記皮膚部分特定手段は、前記取得した動画を前記色空間変換手段で変換した色空間にて色空間成分を取得することを特徴とする請求項2から請求項6までのうちの何れか1の請求項に記載の脈波検出装置を提供する。
(8)請求項8に記載の発明では、前記対象者の顔を撮影した顔画像を取得する顔画像取得手段と、前記取得した顔画像において、顔認識処理により、前記顔の目の領域を特定する領域特定手段を備え、前記基準成分登録手段は、前記特定した領域の色空間成分を前記基準成分として登録することを特徴とする請求項3に記載の脈波検出装置を提供する。
(9)請求項9に記載の発明では、前記基準成分登録手段は、前記特定した領域における色空間成分の分布に対して所定の統計処理を施した値を前記基準成分として登録することを特徴とする請求項8に記載の脈波検出装置を提供する。
(10)請求項10に記載の発明では、前記目部分特定手段が、前記動画の画素単位で前記目の部分を特定することを特徴とする請求項1から請求項7までのうちの何れか1の請求項に記載の脈波検出装置を提供する。
(11)請求項11に記載の発明では、前記明度補正手段が、前記動画の画素単位で前記補正を行うことを特徴とする請求項1から請求項10までのうちの何れか1の請求項に記載の脈波検出装置を提供する。
(12)請求項12に記載の発明では、前記対象者が、輸送機器の搭乗者であって、前記出力した脈波を用いて前記搭乗者の体調を監視する監視手段を具備したことを特徴とする請求項1から請求項11までのうちの何れか1の請求項に記載の脈波検出装置を提供する。
(13)請求項13に記載の発明では、対象者の顔を含む領域を撮影した動画を取得する動画取得機能と、前記動画に写っている前記対象者の目の部分を特定する目部分特定機能と、前記動画の撮影環境の変化によって生じた明度の変化を、前記特定した目の部分の所定の色空間成分の変化から取得する明度変化取得機能と、前記取得した明度の変化を用いて前記動画の明度を補正する明度補正機能と、前記補正された前記対象者の皮膚の部分における所定の色空間成分の時間変化から前記対象者の脈波を取得する脈波取得機能と、前記取得した脈波を出力する出力機能と、をコンピュータで実現する脈波検出プログラムを提供する。
(1)請求項1に記載の発明によれば、対象者の目の部分から明度の変化を取得して動画の明度を補正することができる。
(2)請求項2に記載の発明によれば、動画に写っている外乱要素を除外して皮膚の部分だけ取り出し、そこから脈波を検出することができるため、脈波検出の精度を高めることができる。
(3)請求項3に記載の発明によれば、動画に写っている外乱要素を除外して目の部分だけ取り出し、明度の補正精度を向上させることができる。
(4)請求項4に記載の発明によれば、基準成分との対比により動画から容易に皮膚の部分を抽出することができる。
(5)請求項5に記載の発明によれば、(明度の変化、皮膚、及び脈波では、光で観察する対象が異なるため)観察対象に適した色空間成分の組み合わせを採用することにより外乱要素に対するロバスト性を向上させることができる。
(6)請求項6に記載の発明によれば、明度の変化の検出に好適であることが見いだされたY成分と、皮膚の部分の特定に好適であることが見いだされたH成分と、脈波検出に好適であることが見いだされたQ成分を組み合わせることにより、外乱要素に対するロバスト性をより向上させることができる。
(7)請求項7に記載の発明によれば、色空間変換処理を外部装置ではなく、脈波検出装置内部に備えることにより、処理速度が向上し、動画からリアルタイムで脈波を検出することが容易となる。
(8)請求項8に記載の発明によれば、対象者自身から目の色の基準値を採取することにより、人ごとの微妙な目の色の差異が含まれた基準値を容易に取得することができる。
(9)請求項9に記載の発明によれば、個人差が大きい目の色の分布の偏りを統計処理によって均すことができ、これによって、基準成分の信頼性を向上させることができる。
(10)請求項10に記載の発明によれば、閉曲線で囲んだ(目の部分に該当しない画素も散在する)領域ではなく、画素ごとに目の部分を抽出するため、評価対象から外乱要素として作用する画素を除外することができ、検出精度を高めることができる。
(11)請求項11に記載の発明によれば、閉曲線で囲んだ領域を代表値で補正するのではなく、画素ごとに補正することができるため、検出精度を高めることができる。
(12)請求項12に記載の発明によれば、輸送機器の搭乗者の体調を監視することができる。
(13)請求項13に記載の発明によれば、脈波検出プログラムを流通させ、これを汎用のコンピュータにインストールすることにより、容易かつ安価に脈波検出装置を構成することができる。
脈波検出装置の構成を示した図である。 色空間を説明するための図である。 動画から脈波を検出する仕組みを説明するための図である。 全体的な処理の手順を説明するためのフローチャートである。 皮膚色データ採取処理の手順を説明するためのフローチャートである。 脈波検出処理の手順を説明するためのフローチャートである。 実験による結果を表した図である。 明度の変化の補正方法を説明するための図である。 第2実施形態における全体的な処理の手順を説明するためのフローチャートである。 目色データ採取処理の手順を説明するためのフローチャートである。 明度変化対策処理の手順を説明するためのフローチャートである。 クロミナンスのばらつきを説明するための図である。 第3実施形態における全体的な処理の手順を説明するためのフローチャートである。 カメラ特性データ更新処理の手順を説明するためのフローチャートである。 カメラ特性対策処理の手順を説明するためのフローチャートである。 従来技術を説明するための図である。
(1)実施形態の概要
 第1の実施の形態では、脈波検出装置1は、動画のフレーム画像をRGB成分からHSV成分に色変換し、予めH成分で用意してあるユーザの皮膚の色を用いて、皮膚の部分を特定する。H成分を用いたのは、皮膚の特定に関してはH成分を用いるとロバスト性が向上するためである。
 次に、脈波検出装置1は、フレーム画像の皮膚の部分をYIQ成分に変換し、各画素のQ値を平均したQmを脈波信号とする。Q成分を用いたのは、脈波信号の検出に関してはQ成分を用いるとロバスト性が向上するためである。
 脈波検出装置1は、上記の処理を各フレーム画像に対して行って脈波信号Qmの時系列的な変化を取得し、これを脈波として出力する。
 このように、脈波検出装置1は、動画において皮膚の部分を評価領域(ROI;Region of Interest)に設定することができるため、背景などの外乱要素を脈波検出対象から除外して良好に脈波を検出することができる。
 第2の実施の形態では、脈波検出装置1は、動画のフレーム画像をRGB成分からYIQ成分に色変換し、予めQ成分で用意してあるユーザの目の色を用いて、目の部分を特定する。
 そして、脈波検出装置1は、目の部分のY値によって撮影環境の明度を検出する。目の部分には、脈波信号が現れないので、明度の検出対象として利用することができる。
 次に、脈波検出装置1は、フレーム画像の皮膚の部分のQ値の平均から脈波信号Qmを検出し、更に、これから目の部分のY値の平均値Yeを減算することにより明度の変化分を補正して、明度補正後のQmを出力する。
 これにより、ユーザが車両などで移動することにより明度が変化するような場合でも、良好に脈波を検出することができる。
 第3の実施の形態では、脈波検出装置1は、カメラ特性に起因する画素の特性のばらつきを補正するカメラ特性データを備える。そして、フレーム画像の皮膚の部分のQ値をカメラ特性データによって補正する。
 脈波検出装置1は、ユーザの動きによって皮膚の部分が画面内を移動することにより生じる皮膚の部分のQ値の変化を用いてカメラ特性データを更新していく。
 また、脈波検出装置1は、補正対象の色を皮膚の色に限定しており、これによって複雑なアルゴリズムや計算が不要となるため、計算負荷が低くなり、動画のリアルタイム処理を良好に行うことができる。
(2)実施形態の詳細
(第1の実施の形態)
 図1は、本実施の形態に係る脈波検出装置1の構成を示した図である。
 脈波検出装置1は、例えば、車両に搭載され、搭乗者(ドライバや助手席の乗客など)の脈波を監視し、ドライバの体調、緊張状態などの生理的な状態を把握する。
 また、医療現場や災害現場などで患者や被災者の脈波を検出・監視するのに用いることもできる。
 脈波検出装置1は、CPU(Central Processing Unit)2、ROM(Read Only Memory)3、RAM(Random Access Memory)4、表示部5、入力部6、出力部7、カメラ8、記憶部9などから構成されており、ユーザ10(脈波検出の対象者)の脈波を検出(あるいは、推定)する。
 CPU2は、記憶部9やROM3などに記憶されたプログラムに従って、各種の情報処理や制御を行う中央処理装置である。
 本実施の形態では、カメラ8が撮影した動画を画像処理してユーザ10の脈波を検出する。
 ROM3は、読み取り専用メモリであって、脈波検出装置1を動作させるための基本的なプログラムやパラメータなどが記憶されている。
 RAM4は、読み書きが可能なメモリであって、CPU2が動作する際のワーキングメモリを提供する。
 本実施の形態では、動画を構成するフレーム画像(1コマの静止画像)を展開して記憶したり、計算結果を記憶したりすることにより、CPU2が、フレーム画像の皮膚の部分(以下、皮膚部分)から脈波を検出するのを支援する。
 表示部5は、液晶画面などの表示デバイスを用いて構成されており、脈波検出装置1の操作画面や脈波の表示など、脈波検出装置1の運用に必要な情報を表示する。
 入力部6は、表示デバイスに重畳して設置されたタッチパネルなどの入力デバイスを用いて構成されており、画面表示に対するタッチの有無などから各種の情報の入力を受け付ける。
 出力部7は、各種の情報を外部装置に出力するインターフェースであり、例えば、検出した脈波を出力したり、脈波から得られた脈拍を出力したり、あるいは、脈波に変化が現れた場合にアラームを出力することができる。
 また出力部7は、車両を制御する制御装置などの他の制御機器に出力することができる。出力部7から脈波や脈拍の出力を受けた制御機器では、例えば、ドライバの眠気や緊張状態等(後述する)を判断し、ドライバに向けた制御、例えば、眠気を覚醒させるためにハンドルやシートを振動させる制御、警告音やメッセージの出力などを行うことが出来る。また、車両に対する制御として、脈波に基づいて判断したドライバの緊張状態に応じて、車間距離制御、車速制御、又はブレーキ制御の少なくとも1つを行うことも可能である。例えば、制御機器は、ドライバが所定値を超える高い緊張状態にあると判断した場合には、車間距離を基準値よりも大きくとるように制御し、車速を所定車速以下となるように制御し、所定車速以上であれば自動ブレーキ操作による減速処理等を行う。
 カメラ8は、レンズで構成された光学系と、これによって結像した像を電気信号に変換するイメージセンサを用いて構成されており、ユーザ10の顔付近が撮影画面となるように設置されている。
 カメラ8としては、高価なものを使用することも可能であるが、脈波検出装置1では、ウェブカメラなどの汎用品を用いた。
 脈波検出装置1では、汎用品のカメラ8によっても脈波を良好に検出することができるため、コストを低減することができる。
 カメラ8は、被写体を所定のフレームレートにて撮影し、これら連続するフレーム画像(静止画像)で構成された動画を出力する。
 フレーム画像は、画像を構成する最小単位である画素(ピクセル)の配列により構成されており、各画素は、RGB空間の色成分(R値、G値、B値)により配色されている。
 記憶部9は、ハードディスクやEEPROM(Electrically Erasable Programmable Read-Only Memory)などの記憶媒体を用いて構成されており、CPU2が脈波を検出するためのプログラムやデータを記憶している。
 記憶部9には、脈波検出プログラム12、ユーザデータベース14、カメラ特性データ15などが記憶されている。
 なお、これらのうち、カメラ特性データ15は、第3の実施の形態で用いるデータであるので、後ほど説明する。
 脈波検出プログラム12は、CPU2に脈波検出処理を行わせるプログラムである。
 CPU2は、脈波検出プログラムを実行することにより、動画におけるユーザの皮膚部分の特定、及び特定した皮膚部分からの脈波の検出を行う。
 ユーザデータベース14は、脈波検出装置1を利用するユーザを登録したデータベースである。
 ユーザデータベース14では、ユーザ1、ユーザ2、・・・などとユーザごとに登録データが記憶されている。
 そして、登録データには、顔データ、皮膚色データ、目色データ、・・・といったユーザに固有な情報が登録されている。
 顔データは、ユーザの顔の特徴をデータ化したものであり、カメラ8の前に着席したユーザを顔認識して識別するために用いられる。
 皮膚色データは、フレーム画像でユーザの皮膚部分を特定するための皮膚の色の基準となるデータである。フレーム画像と皮膚色データの対比により皮膚部分が特定される。
 目色データは、第2の実施の形態で用いるデータであるので、後ほど説明する。
 図2は、色空間を説明するための図である。
 脈波検出装置1は、脈波の検出を行うに際して、フレーム画像の色空間を変換する(色変換と呼ばれる)ため、まず、これについて説明する。
 一般にカラー画像は、3つの色成分によって表現される。より詳細には、画像の各画素に付随する色情報は、3つの色成分を軸として張られる色空間の中の点の座標値として表される。
 汎用のビデオカメラでは、色成分としてRGB空間のR成分、G成分、B成分を用いることが多く、従来技術でも、ビデオ信号に含まれるR、G、B成分をそのまま用いて脈波の検出を行っている。
 これに対し、本願発明者は、試行錯誤を繰り返し、外乱要素に対してよりロバストな(耐性のある)色成分を探索した。
 その結果、皮膚部分の特定には、HSV空間のH成分が適しており、脈波検出には、YIQ空間のQ成分が適していることを見いだした。
 そこで、脈波検出装置1では、目的に応じて色成分を使い分けることとした。
 このように、観察対象によって光の反射特性が異なるため、対象に応じた最適な組み合わせを選ぶことにより外乱に対するロバスト性を高めることができる。
 図2(a)は、RGB空間を示した図である。
 RGB空間は、RGB成分を表す互いに直交するR軸、G軸、B軸で構成されている。
 RGB空間では、R値(赤)、G値(緑)、B値(青)によって色情報が表され、RGB空間の点の座標値によって画素のRGB値が規定される。
 RGB方式は、最も一般的なカラーモデルであって、カメラ8もRGB方式にて動画を出力する。
 図2(b)は、HSV空間を示した図である。
 HSV空間は、円形の底面を有する円錐で表され、円錐面方向の回転角がH成分を表し、底面における中心からの距離がS成分を表し、円錐の頂点から底面へ引いた垂線の距離がV成分を表している。
 HSV空間では、H値(色)、S値(彩度)、V値(明度)によって色情報が表され、HSV空間の点の座標値によって画素のHSV値が規定される。
 HSV方式は、主にコンピュータグラフィックなどで用いられている。
 なお、HSV空間は図2(b)で示した円錐で表す場合のほか、円柱で表すことも可能である。この場合も円錐で表した場合と同様に、色相(H)は円柱の外周に沿って変化し、彩度(S)は中心からの距離に伴って変化し、明度(V)は頂点から底へ向かって変化する。
 図2(c)は、YIQ空間を示した図である。
 YIQ空間は、YIQ成分を表す互いに直交するY軸、I軸、Q軸で構成されている。
 YIQ空間では、Y値(明度)、I値(色度:暖色系)、Q値(色度:寒色系)によって色情報が表され、YIQ空間の点の座標値によって画素のYIQ値が規定される。
 Y値は、正の値をとり、I値とQ値は、正負の値をとることができる。
 YIQ方式は、NTSC信号を生成するコンポーネント信号の方式として、主にビデオ機器内で用いられる。
 図3は、動画から脈波を検出する仕組みを説明するための図である。
 図3(a)は、脈波検出装置1が、ユーザの顔から皮膚色データを採取する方法を示した図である。
 脈波検出装置1は、カメラ8でユーザの顔の静止画像30を撮影し、鼻を検出して鼻領域20を設定する。鼻の検出は、一般的な顔認識技術を用いて行う。
 そして、脈波検出装置1は、鼻領域20の色空間をRGB空間からHSV空間に変換し、各画素のH値から皮膚色データを生成する。
 皮膚色データを採取する領域を鼻領域20としたのは、顔認識で特定が容易であり、かつ、標準的な皮膚の色が露出しているからである。
 鼻の他に、例えば、額や頬など、他の領域から皮膚色データを採取するように構成することもできる。
 図3(b)は、フレーム画像31から脈波信号を抽出する方法を説明するための図である。
 フレーム画像31には、皮膚部分のほか、髪21、眉毛22、目23、唇24、背景25などが写し込まれている。
 これら皮膚以外の部分は、脈波信号が含まれていないか、又は、脈波信号を検出するのに適していない部分であり、脈波検出処理において精度低下を来す外乱要素として作用する。
 そこで、脈波検出装置1は、フレーム画像31を色変換してHSV画像32を生成し、皮膚色データに対応する部分を皮膚部分26として特定する。
 皮膚部分26は、画素単位で特定され、首などの皮膚が露出している部分は全て特定される。
 このように、外乱要素を除去しつつ、脈波信号が含まれる部分を最大限確保することにより、脈波検出精度を高めることができる。
 脈波検出装置1は、HSV画像32での皮膚部分26の位置から、フレーム画像31における皮膚部分を抽出し、YIQ画像に変換する。その結果、YIQ空間における皮膚部分26aが得られる。
 脈波検出装置1は、皮膚部分26aの各画素のQ値を平均してQmを算出し、Qmを脈波信号として出力する。
 なお、本実施の形態では、フレーム画像31をYIQ画像に変換して皮膚部分26aを得たが、HSV画像32の皮膚部分26をYIQ画像に変換して皮膚部分26aを得ることも可能である。
 図3(c)は、動画から検出された脈波を示した図である。
 脈波検出装置1は、各フレーム画像から出力した脈波信号Qmを時系列的に(フレーム画像の順に)並べて脈波35を形成する。
 このように、脈波検出装置1は、各フレーム画像でユーザの皮膚部分を特定することにより、ユーザの動きに合わせて皮膚部分を追跡・抽出しながら脈波を検出することができる。これにより、次のような特徴が得られる。
(リアルタイム処理との適合性)
 従来技術では、被験者が評価領域101に顔を合わせた状態で静止したまま動画を撮影する。撮影中に顔が評価領域101からはずれる可能性もあるため、撮影し終わった動画を解析している。
 これに対し、脈波検出装置1は、動画の各フレーム画像において皮膚部分26を特定するため、評価領域がユーザの皮膚に固定されたまま動画内で移動する。
 顔が動いても皮膚部分が評価領域からはずれることがないためリアルタイムで脈波を検出することができる。
 また、仮に各フレーム画像でユーザの顔を顔認識して追跡する場合、コンピュータの高い処理能力が必要とされるうえ、顔認識が失敗する可能性も高い。
 これに対し、脈波検出装置1は、HSV画像を皮膚色データと対比して皮膚部分を特定する簡単な処理で皮膚部分を追跡することができる。そのため、リアルタイム処理に適している。
 更に、簡単で低負荷な処理で脈波を検出するため、リアルタイム処理してもコンピュータの処理能力に起因して生じるフレーム画像の脱落(所謂コマ落ち)を抑制することができる。
 処理できたフレーム画像の間隔は、脈波の測定間隔(サンプリングレート)となるため、コマ落ちを防ぐことにより測定間隔が広がるのを防ぐことができる。
 これによって脈波の高い時間分解能を維持することができ、脈波の検出精度が向上する。
 また、顔認識処理は、皮膚色データ登録時に行うだけで、皮膚色データは、既に登録してあるものを使うため、現場で顔認識に失敗して皮膚色データが採取できず、脈拍検出できないという事態を回避することができ、測定の信頼性が向上する。
 脈波の検出は、対象者の現在の生理状態を監視する場合に用いられることが主であり、リアルタイム処理できることは重要である。
(背景の除去)
 従来技術では、評価領域101を被験者の顔の形状に一致させることが困難なため、背景などの外乱要素が評価領域101に入り、脈波の検出精度が低下する可能性がある。
 これに対し、脈波検出装置1では、評価領域と皮膚部分26が常に一致するため、顔以外の背景などの外乱要素が評価領域に入ることを防ぐことができ、これによって、正確な脈波検出を行うことができる。
(脈波と関係ない顔の部分の除去)
 従来技術では、被験者の顔が評価領域101に正しく設定されている場合であっても脈波と関係のない顔の部分(髪、目、口など)が評価領域に入っているため、これらが外乱要素となって脈波の検出精度に影響する可能性がある。
 これに対し、脈波検出装置1では、これらの顔の要素が皮膚部分26から除外されるため、脈波の検出精度を高めることができる。
 更に、ユーザが瞬きしたり、口を開閉したりしても、顔の動きに合わせて皮膚部分26が動的に設定されるため、顔の動きによる外乱要素も評価領域から除外することができる。
 図4は、脈波検出装置1が行う全体的な処理の手順を説明するためのフローチャートである。
 以下の処理は、CPU2が、脈波検出プログラム12に従って行うものである。
 まず、CPU2は、カメラ8の画像の変化からユーザが指定位置に着席したことを検出すると、ユーザの顔の画像を取得してRAM4に記憶する(ステップ5)。
 この画像は、静止画像として撮影してもよいし、動画のフレーム画像から取り出してもよい。
 このように、脈波検出装置1は、対象者の少なくとも皮膚を含む領域を撮影した動画を取得する動画取得手段を備え、当該皮膚を含む領域は、対象者の顔を含んでいる。
 次に、CPU2は、RAM4に記憶した顔の画像を顔認識し、これをユーザデータベース14の顔データと照合することにより検索する(ステップ10)。
 顔が検索された場合、CPU2は、当該ユーザを登録済みであると判断し(ステップ15;Y)、ユーザデータベース14から当該ユーザの皮膚色データを取得してRAM4に記憶する(ステップ20)。
 一方、顔が検索されなかった場合、CPU2は、当該ユーザを未登録であると判断し(ステップ15;N)、皮膚色データ採取処理を行って、顔の画像から皮膚色データを採取する(ステップ25)。
 そして、脈波検出装置1は、顔の画像から顔データを形成し、顔データと皮膚色データを対応づけてユーザデータベース14に記憶することによりユーザ登録を行う(ステップ27)。
 CPU2は、皮膚色データを取得すると、カメラ8から送信されてくる動画からフレーム画像を取得してRAM4に記憶する(ステップ30)。
 次に、CPU2は、RAM4に記憶したフレーム画像から脈波を検出する脈波検出処理を行う(ステップ35)。
 次に、CPU2は、脈波の検出を継続するか否かを判断する(ステップ40)。
 脈波の検出を継続する場合(ステップ40;Y)、脈波検出装置1は、ステップ30に戻って、動画の次のフレーム画像に対して脈波検出処理を行う。
 一方、ユーザが停止ボタンを押すなどして脈波の検出を継続しない場合(ステップ40;N)、脈波検出装置1は、処理を終了する。
 図5は、ステップ25の皮膚色データ採取処理の手順を説明するためのフローチャートである。
 まず、CPU2は、RAM4から顔の画像を読み出して、これを顔認識し(ステップ50)、そして、鼻を検出する(ステップ55)。
 次に、CPU2は、検出した鼻に皮膚色データ採取用の鼻領域を設定する(ステップ60)。
 このように、脈波検出装置1は、対象者の顔を撮影した画像を取得する顔画像取得手段と、顔認識処理により、顔の皮膚が露出した所定の領域(鼻の領域)を特定する領域特定手段を備えている。
 次に、CPU2は、鼻領域の色空間をRGB空間からHSV空間に色変換し(ステップ65)、各画素のH値を取得する(ステップ70)。
 次に、CPU2は、各画素のH値を平均してHmを算出し(ステップ75)、更に、H値の標準偏差σを算出する(ステップ80)。
 次に、CPU2は、HmとσからH値の下限値Hlo=Hm-n×σを算出してRAM4に記憶する(ステップ85)。nについては後述する。
 更に、CPU2は、H値の上限値Hlo=Hm+n×σを算出してRAM4に記憶する(ステップ90)。
 そして、CPU2は、H値の下限値と上限値を皮膚色データとして出力し(ステップ95)、メインルーチン(図5)にリターンする。
 出力された皮膚色データ(HloとHhi)は、対象者の皮膚の部分を特定するための基準となる色空間成分である基準成分として機能し、ステップ27(図4)のユーザ登録で登録される。
 このように、脈波検出装置1は、基準成分を登録する基準成分登録手段を備えており、鼻領域の色空間成分に対して平均値と標準偏差による統計処理を施して登録している。
 nは、σの乗数であり、Hmを中心としたH値の幅を規定する。後述するように、脈波検出装置1は、フレーム画像からH値がこの幅の間にある部分を皮膚部分として特定するため、実験などによりnを適当な値に調節することができる。
 例えば、n=3とすると、H値がHm±3σの範囲にある部分が皮膚部分として特定される。
 図6は、ステップ35(図5)の脈波検出処理の手順を説明するためのフローチャートである。
 まず、CPU2は、RAM4に記憶されているフレーム画像の色空間をRGB空間からHSV空間に変換し、変換したHSV画像をRAM4に記憶する(ステップ100)。
 次に、CPU2は、画素の順番を数えるカウンタiをi=0に設定する(ステップ103)。
 次に、CPU2は、RAM4に記憶したHSV画像の各画素のうち、i番目の画素のH値であるHiを取得する(ステップ105)。
 そして、CPU2は、HiがHlo<Hi<Hhiを満たしているか否か、即ち、Hiが皮膚色データの範囲に入っているか否かを判断する(ステップ110)。
 CPU2は、Hiがこの範囲にある場合、当該画素と皮膚色データが対応すると判断する。
 Hiが当該不等式を満たしている場合、即ち、Hiが皮膚色データに対応する場合(ステップ110;Y)、CPU2は、当該画素の位置座標をRAM4に記憶する(ステップ115)。
 ステップ115で位置座標を記憶した後、又は、ステップ110でHiが皮膚色データの範囲になかった場合(ステップ110;N)、CPU2は、HSV画像の全ての画素についてステップ110の判断を行ったか否かを判断する(ステップ120)。
 まだ、判断していない画素がある場合(ステップ120;N)、CPU2は、iを1つインクリメントしてi=i+1に更新し(ステップ123)、ステップ105に戻って次の画素に対して同様の処理を繰り返す。
 以上のステップ100~ステップ123を行うことにより皮膚部分に対応する位置座標がRAM4に記憶される。
 次に、CPU2は、フレーム画像でRAM4に記憶した位置座標に位置する画素を特定することにより、フレーム画像における評価対象画素を取得する(ステップ125)。
 このように、脈波検出装置1は、動画に写っている対象者の皮膚の部分(評価対象画素)を特定する皮膚部分特定手段を備えている。
 また、この特定は、動画において所定の色空間成分が登録した基準成分に対応する部分を画素単位で皮膚の部分とすることにより行われている。
 次に、CPU2は、評価対象画素の色空間をRGB空間からYIQ空間に色変換する(ステップ130)。
 そして、CPU2は、各画素のQ値を平均して平均値Qmを算出し(ステップ135)、これを脈波信号として出力し(ステップ140)、メインルーチン(図4)にリターンする。
 評価対象画素のQ値には、脈波信号がのっており、これを平均化してQmとすることにより、ノイズの影響を低減することができる。
 以上の処理によって、1つのフレーム画像から脈波信号Qmを検出したが、これを連続する各フレーム画像について行い、脈波信号Qmをフレーム画像の順に並べると、脈波信号Qmの時間変化によって図3(c)に示した脈波が得られる。
 このように、脈波検出装置1は、皮膚の部分における所定の色空間成分の時間変化から脈波を取得する脈波取得手段と、これを出力する出力手段を備えている。
 以上に説明したように、脈波検出装置1は、皮膚部分の特定をHSV空間のH成分で行い、脈波検出をYIQ空間のQ成分で行う。
 このため、皮膚部分特定手段が皮膚の部分を特定するために用いる色空間成分と、脈波取得手段が脈波を取得するために用いる色空間成分は、異なる色空間成分である。
 そして、脈波検出装置1は、動画の色空間を変換する色空間変換手段を備え、皮膚部分特定手段と脈波取得手段は、色空間変換手段で変換した色空間にて色空間成分を取得している。
 更に、脈波検出装置1には、脈波によって、輸送機器の搭乗者の体調を監視する監視手段を備えることができる。
 なお、本実施形態では、フレーム画像から皮膚部分を抽出した後に当該抽出した皮膚部分をRGB空間からYIQ空間に色変換したが、フレーム画像の全体をYIQ空間に色変換してから皮膚部分を抽出するようにしてもよい。
(第2の実施の形態)
 従来技術では、実験室の窓から差し込む日光による安定した明度の下で脈波の検出が行われている。
 一方、脈波検出装置1を車両や医療現場で用いる場合、どのような撮影環境で使用されるかは様々であり、脈波検出中に特に明度が変化することが予想される。特に車両において運転者や搭乗者などの脈波を検出する場合には、車両の走行位置や向きの変化や時間帯などにより、明度の変化が頻繁に起こりやすい。
 そこで、脈波検出装置1が実際に使用される際に生じる明度変化によって検出結果に影響が生じるか否かについて調べた。すなわち、本願発明者は、蛍光灯による照明の下で脈波の検出を行いながら、団扇で被験者の顔に影を作って明度を変化させてみた。
 図7は、当該実験による結果を表した図である。
 図7(a)は、環境の明度が変化しない場合の脈波信号Qmの時間変化である。
 図に示したように、脈波がきれいに検出されている。
 一方、図7(b)は、被験者の顔に団扇で影を作ることにより明度だけ変化させた場合の脈波信号Qmの時間変化である。
 期間41は、影のない期間であり、期間42は、影のある期間である。
 図に示したように、脈波信号Qmが明度の変化によって大きく変化し、この変化にQmの変化が埋もれてしまって脈波の検出が困難となる。
 このような問題に対して本願発明者が研究したところ、目の部分(以下、目部分)には、脈波信号Qmが現れないことを発見した。
 皮膚部分からは、明度の変化が重畳された脈波信号Qmが検出され、目部分からは、脈波の含まれない明度の変化(あるいは、明度の大きさ)が検出されるため、前者から後者を減算することにより、明度の変化を補正することができる。
 また、本願発明者は、明度の変化の検出には、YIQ空間のY成分が好適であることを見い出したため、本実施の形態では、Y成分により明度の変化を検出する。
 更に、脈波信号Qmと明度のY値は、同じ色空間に属するため、単に減算すればよい。
 図8の各図は、明度の変化の補正方法を説明するための図である。
 図8(a)は、明度の変化の検出に用いられる目部分45を示した図である。
 目部分45は、色が濃く略中央の瞳孔部分48、瞳孔部分48の周囲の虹彩部分47、白に近く虹彩部分47の更に外側の白目部分46、から構成されている。
 脈波検出装置1は、眼部分45の中のQ値の最小値をQloとし、眼部分45の中のQ値の最大値をQhiとして、これらを目色データとして登録する。
 なお、脈波検出装置1は、白目部分46のQ値をQloとし、瞳孔部分48のQ値をQhiとして、これらを目色データとして登録するようにしてもよい。
 後述するように、脈波検出装置1は、目色データを用いてユーザの顔の目領域から目部分45を抽出し、当該抽出した目部分45のY値の変化から明度の変化を検出する。
 図8(b)は、明度信号51を示した図である。
 脈波検出装置1は、目部分45から検出したY値を平均して、明度信号Ymを生成する。これを時系列的にプロットすると明度信号51が得られる。
 図に示した例では、期間42で顔に影を作ったので、期間42の明度が期間41よりも小さくなっている。
 図8(c)は、補正前脈波信号52を示した図である。
 補正前脈波信号52は、明度の変化を補正する前の脈波信号Qmを時系列的にプロットしたものである。
 補正前の脈波信号52では、図8(c)に示す様に、明度の低下の影響を受け、期間42における脈波信号Qmも低下している。
 図8(d)は、補正後脈波信号53を示した図である。
 脈波検出装置1は、補正前の脈波信号Qmから明度信号Ymを減算することにより、補正後脈波信号53を生成する。これを時系列的にプロットすると補正後脈波信号53が得られる。
 補正後脈波信号53では、明度の変化による影響が除去されているため、明度が低下した期間42においても適切な脈波が得られる。
 図8(e)(f)は、脈波検出装置1が動画のフレーム画像で目部分45を特定する方法を説明するための図である。
 まず、脈波検出装置1は、図8(e)に示したように、フレーム画像に対して顔認識処理を行い、目部分45を含む目領域55を抽出する。
 そして、脈波検出装置1は、目領域55に対して目色データを適用して目部分45を抽出する。
 このように、目領域55から目部分45を抽出したのは、次の理由による。
 フレーム画像に対して目色データを適用すると、例えば、背景などでたまたま目色データに対応する部分が抽出されてしまうのに対し、目領域55は、皮膚部分と目部分45から構成され、目色データに対応する部分は目部分45だけであるので、確実に目部分45を特定できるからである。
 また、顔認識によって、目部分45を直接特定することも可能であるが、顔認識の精度を高める必要があるうえ、失敗率も高まるので、このように、画像認識では大まかに目領域55を特定することにした。
 図9は、脈波検出装置1が行う全体的な処理の手順を説明するためのフローチャートである。
 第1の実施の形態と同じステップには、同じステップ番号を付し、説明を簡略化、又は省略する。
 ユーザが登録ユーザであった場合(ステップ15;Y)、CPU2は、ユーザデータベース14から皮膚色データを取得し(ステップ20)、更に目色データを取得する(ステップ150)。
 一方、登録ユーザでなかった場合(ステップ15;N)、CPU2は、皮膚色データ採取処理を行い(ステップ25)、更に目色データ採取処理を行って(ステップ155)、顔データ、皮膚色データ、目色データなどをユーザデータベース14に記憶することによりユーザ登録する(ステップ27)。
 CPU2は、フレーム画像を取得して(ステップ30)、脈波検出処理を行い(ステップ35)、補正前の脈波信号Qmを検出する。
 次に、CPU2は、補正前の脈波信号Qmに対して明度変化対策処理を行い(ステップ160)、補正後の脈波信号Qmを出力する。
 図10は、ステップ155の目色データ採取処理の手順を説明するためのフローチャートである。
 まず、CPU2は、皮膚色データ採取処理で使用した顔の画像を顔認識し(ステップ180)、目部分を検出する(ステップ185)。
 このように脈波検出装置1は、顔画像において、顔認識処理により、顔の目の領域(この場合目部分)を特定する領域特定手段を備えている。
 次に、CPU2は、目部分を評価域に設定し(ステップ190)、目部分に含まれる全ての画素の色空間をRGB空間からYIQ空間に変換する(ステップ200)。
 次に、CPU2は、目部分に含まれる画素ごとにQ値を取得してRAM4に記憶する(ステップ205)。
 そして、CPU2は、RAM4に記憶したQ値のうち最低値をQloとし(ステップ210)、更に、最高値をQhiとし(ステップ215)、これを目色データとして、当該ユーザの顔データと皮膚色データに対応づけてユーザデータベース14に登録し(ステップ220)、メインルーチン(図9)にリターンする。
 このように、脈波検出装置1は、当該特定した領域の色空間成分を目の部分を特定するための基準となる基準成分(QloとQhi)として登録する基準成分登録手段を備えている。
 そして、基準成分登録手段は、特定した領域における色空間成分の分布に対して最小値と最大値を特定する統計処理を施した値を登録している。
 図11は、ステップ160の明度変化対策処理の手順を説明するためのフローチャートである。
 まず、脈波検出装置1のCPU2は、RAM4に記憶されているフレーム画像で顔認識を行って顔を検出し(ステップ230)、更に、目領域を検出し(ステップ235)、検出した目領域を評価域に設定する(ステップ240)。
 次に、CPU2は、目領域の色空間をRGB空間からYIQ空間に変換してRAM4に記憶する(ステップ245)。
 次に、CPU2は、カウンタjを0に設定し(ステップ250)、目領域のj番目の画素のQ値であるQjをRAM4から取得する(ステップ253)。
 そして、CPU2は、QjとQlo、Qhiとの大小関係を判断する(ステップ255)。
 QjがQlo<Qj<Qhiならば(ステップ255;Y)、CPU2は、当該画素が目部分に含まれると判断し、当該画素のY値を取得してRAM4に記憶する(ステップ260)。
 Y値を取得した後、又は、QjがQlo<Qj<Qhiを満たさなかった場合(ステップ255;N)、CPU2は、全ての画素について判断したか否かを判断する(ステップ265)。
 まだ、判断していない画素がある場合(ステップ265;N)、CPU2は、jを1つインクリメントしてj=j+1に更新し(ステップ270)、その後ステップ253に戻って次の画素に対して同様の処理を繰り返す。
 以上の処理によって、目領域から皮膚部分を除いた目部分の各画素のY値が得られる。
 このように、脈波検出装置1は、動画において所定の色空間成分が登録した基準成分に対応する部分を目の部分として特定することにより、動画に写っている目の部分を画素単位で特定する目部分特定手段を備えている。
 CPU2は、このようにして全ての画素のY値をRAM4に記憶すると、これを平均して平均値Yeを算出する(ステップ275)。
 平均値Yeは、撮影環境の明度に対応し、これと前後するフレーム画像のYeとの差が明度の変化を表す。
 そのため各フレーム画像から、それぞれの明度の平均値Yeを減算することにより、明度の変化分を補正することができる。
 このように、脈波検出装置1は、動画の撮影環境の変化によって生じた明度の変化を目の部分の所定の色空間成分の変化から取得する明度変化取得手段を備えている。
 次に、CPU2は、補正前の脈波信号Qmを取得して(ステップ276)、これから平均値Yeを減算して補正後の脈波信号Qmを算出し(ステップ277)、算出した補正後の脈波信号Qmを出力して(ステップ278)、メインルーチン(図9)にリターンする。
 このように、脈波検出装置1は、明度の変化を用いて動画の明度を画素単位で補正する明度補正手段と、補正された皮膚の部分における所定の色空間成分の時間変化から脈波を取得する脈波取得手段を備えている。
 また、脈波検出装置1は、Y成分で明度の変化を取得し、H成分で皮膚部分を特定し、Q成分で脈波を検出しており、異なる色成分で処理を行っている。
 そして、脈波検出装置1は、これら色空間を変換する色空間変換手段を備えている。
 以上に説明した第2の実施の形態により、次のような効果を得ることができる。
(1)外光の変化やユーザの動きなど、撮影環境の変化により明度が変化した場合でも脈波を検出することができる。
(2)顔の皮膚から脈波を検出しながら、同時に目から明度の変化を検出することができる。
(3)特別な装置がなくても明度の変化を補正することができる。
 なお、本実施形態では、フレーム画像から皮膚部分を抽出してから当該皮膚部分の明度の補正を行ったが、フレーム画像の全体に対して明度の補正を行った後、皮膚部分を抽出するようにしてもよい。
 (第3の実施の形態)
 例えば、汎用品のカメラ8を用いる場合、人間が動画を鑑賞する場合には分からないが、脈波を検出するのには障害となる程度の画素ごとの特性のばらつきが存在する。
 本実施の形態では、色成分によって脈波を検出するため、クロミナンス(色質)特性のばらつきによる影響を受ける。
 図12は、カメラ特性によるクロミナンスのばらつきを説明するための図である。
 図12(a)は、カメラ8の画素のクロミナンス特性のばらつきを濃淡で表した図である。
 このようにクロミナンス特性が一様でないため、画面内でユーザが動くと、クロミナンスの値が変化して、脈波検出の精度に影響がでる。
 図12(b)は、画面内で被験者に動いてもらい、画面の左領域61、中央領域62、右領域63で検出した脈波を比較した図である。
 図に示したように、本来なら同じレベルで脈波が検出されるべきところ、クロミナンスの差によってレベルの高さに差が生じている。
 従来では、カメラのクロミナンス特性の補正は、例えば、専門家がキャリブレーション用のチャートを用いて、色々な色に対して行っていた。これは、専門知識が必要なうえ、工数も掛かり、一般のユーザでは困難である。
 また、色々な色に対する補正がなされるため、補正処理が複雑であり、脈波をリアルタイム処理すると、コマ落ちが生じて処理に係るフレームレートが低下する可能性がある。
 そこで、本実施の形態では、補正対象色をユーザの顔の色に限定すると共に、画面内におけるユーザの動きによって生じる各画素ごとのクロミナンスの平均値をカメラ特性データとして記憶する。
 カメラ特性データを用いてクロミナンスの変化を補正することにより正確な脈波を検出することができる。
 また、ユーザが画面内で動くことにより皮膚部分が画面を掃く(スイープする)が、脈波検出装置1は、皮膚の部分が掃いた領域の画素を逐次補正していく。
 このように、本実施の形態では、画面内でのユーザの動きに伴って自動的に補正値を作成することができる。
 図13は、脈波検出装置1が行う全体的な処理の手順を説明するためのフローチャートである。
 第1の実施の形態、及び第2の実施の形態と同じステップには、同じステップ番号を付し、説明を簡略化、又は省略する。
 ステップ5~ステップ30の後、CPU2は、脈波検出処理を行った後(ステップ35)、カメラ特性データ更新処理を行う(ステップ305)。
 そして、CPU2は、更新した最新のカメラ特性データを取得し(ステップ310)、これを用いて、脈波信号Qmに対してカメラ特性対処理による補正を行う(ステップ315)。
 その後、CPU2は、カメラ特性による補正が行われた脈波信号Qmに対して明度変化対策処理を行う(ステップ160)。
 図14は、ステップ305(図13)のカメラ特性データ更新処理の手順を説明するためのフローチャートである。
 ステップ230~265は、図6のステップ100~130と同じである。
 即ち、CPU2は、フレーム画像において皮膚部分に該当する画素を評価対象画素に指定し、その色空間をRGB空間からYIQ空間に変換する(ステップ265)。
 次に、CPU2は、評価対象画素のうち、位置座標(x、y)にある画素を選択し(選択方法は任意のアルゴリズムで行ってよい)、そのQ値を取得してRAM4に記憶する(ステップ270)。
 次に、CPU2は、カメラ特性データ15から、当該位置座標に対する最新の補正値(即ち、前回補正までの最新値)Qc(x、y、k)を取得してRAM4に記憶する(ステップ275)。
 ここで、kは画素ごとに設定されるカウンタであり、前回までの当該画素の補正回数を表すパラメータである。
 次に、CPU2は、RAM4に記憶したこれらの値を用いて、新しいQc値を、次の式で計算し、その結果をRAM4に記憶する(ステップ280)。
 Qc(x、y、k+1)={Qc(x、y、k)×k+Q(x、y)}/(k+1)
 次に、CPU2は、カメラ特性データ15のQc(x、y、k)をQc(x、y、k+1)で更新する(ステップ285)。
 このように、脈波検出装置1は、補正値を上記の式による統計処理を用いて画素ごとに更新するため、顔の移動に伴って皮膚の部分に生じる色空間成分の変化に対して所定の統計処理を施すことにより補正値を画素ごとに更新する更新手段を備えている。
 次に、CPU2は、全ての評価対象画素についてQc値を更新したか否かを判断する(ステップ290)。
 まだ、更新していない画素がある場合(ステップ290;N)、CPU2は、次の評価対象画素(x、y)を選択し(ステップ295)、その後ステップ270に戻り、全ての画素について更新した場合(ステップ290;Y)、更新処理を終了してメインルーチン(図13)にリターンする。
 図15は、ステップ315(図13)のカメラ特性対策処理の手順を説明するためのフローチャートである。
 CPU2は、フレーム画像で評価対象画素に設定された画素ごとにQ値からQcを減算してQa(カメラ特性対策によって補正されたQ値)を算出し(ステップ380)、Qaの平均値を算出して、これを脈波信号Qmとして(ステップ385)、メインルーチンにリターンする。
 このように脈波検出装置1は、カメラの特性に起因して動画に生じる所定の色空間成分のばらつきを画素ごとに当該画素に対応する補正値を用いて補正するばらつき補正手段と、補正された皮膚の部分における色空間成分の時間変化から脈波を取得する脈波取得手段と、脈波を出力する出力手段を備えている。
 更に、脈波検出装置1は、ステップ305(図13)のカメラ特性データ更新処理とステップ315(図13)のカメラ特性対策処理を同じループ処理にて行うことにより、補正値を更新している間に最新の補正値を用いてばらつきを補正し、最新の補正値で補正された皮膚の部分から脈波を取得している。
 以上に説明したように、脈波検出装置1は、カメラ特性を補正しつつ、最新の補正値を用いて脈波信号Qmを出力する。
 また、カメラ特性対策処理は、一定程度補正値が収束した場合には、補正を終了するように構成することができる。
 その場合は、少なくとも脈波信号の変動よりもカメラ特性による変動が小さくなるまで補正を継続する。
 このようにカメラ特性データ15を完成させ、以降は、これを使用することにより、脈波検出においてカメラ特性データ更新処理を行う必要が無くなる。これによってCPU2の負荷が低減し、その分を他の処理に充てることができる。
 この場合、脈波検出装置1は、カメラの特性に起因する色空間成分のばらつきの大きさが、少なくとも、脈波による色空間成分の変化の大きさよりも小さい値に収束した場合に補正値の更新を完了する。
 第3の実施の形態によれば、次のような効果を得ることができる。
(1)脈波検出装置1を利用しながらカメラ特性を検出して補正することができる。そのため、事前の調節が必要ない。
(2)ユーザの動きに伴って補正値を作成していくので、例えば、車両に搭載して搭乗者を対象とするのに適している。
(3)補正の対象とする色を顔の色に限定したため、複雑なキャリブレーション計算は必要なく、動画処理中のコマ落ちを抑制することができる。
(4)コマ落ちの抑制の結果、脈波の時間分解能が向上する。このため、リアルタイム処理に適しており、また、パルス間隔(脈の間隔)解析の精度も向上する。
 次に、説明した第1の実施形態から第3の実施形態における、脈波検出装置1による処理(図4、図9、図13)を開始するタイミングについて説明する。
 各実施形態において、脈波検出装置1による脈派検出処理を次の何れかのタイミングで開始する。各開始タイミングとしては、タイミング1をデフォルトとし、ユーザが任意のタイミングで変更できるようにしてもよい。
(1)タイミング1
 脈波の監視対象である運転者が運転席に着座したことを検出した場合に処理を開始する。
 なお、ドライバ以外の搭乗者(助手席や後部座席の乗客)も脈波の監視対象としている場合には、対象となる搭乗者席のいずれかに着座したことを検出した場合に処理を開始する。
 この場合、搭乗者の検出については、対象となる席(座面や背もたれ部分など)に荷重センサを配置し閾値以上の荷重を検出した場合、シートベルトが着用された場合、イグニッションキーがオンされた場合(運転席用)、のいずれかの場合に着座したと判断する。
(2)タイミング2
 脈波検出装置1の何れかに、開始ボタンを配置し、搭乗者の何れかが開始ボタンを選択した場合に処理を開始する。
 この場合の開始ボタンとしては、表示部5と入力部6により構成する。すなわち、脈波検出装置1は、表示部5に開始ボタンを画像表示し、該当部分がタッチされたことを入力部6のタッチパネルが検出した場合に処理を開始する。
 また、入力部6として独立したハードスイッチを設けておくようにしてもよい。
 なお、場合開始ボタンは、監視対象となる各搭乗者毎に設けるようにしてもよい。
(3)タイミング3
 脈波検出装置1が搭載されている車両の運転席のドアが開いた場合に処理を開始する。
 なお、ドライバ以外の搭乗者も監視対象となっている場合には、該当する搭乗者に対応するドアが開いた場合にも処理を開始する。
 ドアの開閉については、ドア部に開閉センサ(接触センサ)等の周知の技術により検出する。
 このタイミング3によれば、他のタイミングに比べて、脈波の監視開始をいち早く行うことが可能になる。
 とくに、ドアが開いた後搭乗者が着座するまでの間に、皮膚色データの取得などの、脈波検出処理(ステップ35)以前の処理を完了することができるため、より長い時間脈波を検出することができる。
 次に検出した脈波の利用法について説明する。すなわち、本実施形態の脈波検出装置1で検出した脈波を利用し、眠気、緊張状態、疲れなどの覚醒状態といった運転者の状態を判断して対応することができる。
 例えば、脈波から運転者の眠気を検出する技術として、例えば、特開平2014-20678「眠気予測装置及び眠気予測システム」がある。一例として、この技術を用いることにより、運転者の脈波から眠気の有無を監視することができる。
 詳細には、脈波検出装置1から検出された脈波を用いて運転者の脈拍とHFを測定する。HFとは、心拍間隔の変動量(心拍数の揺らぎ)を示す公知の指標である。
 運転者の眠気は、次の眠気数値Zによって計算可能である。
 Z=P×10+(Q-1)×100
 Pは通常時の値に対する脈拍の低下量(単にはbpm)であり、Qは所定期間(例えば、過去500秒)におけるHFの増加率である。
 眠気の兆候がある状態では、交感神経活動が亢進状態から抑制状態へ変わるため、脈拍数が低下する。また、眠気が生じる状態では、副交感神経が亢進状態へと変わることで脈拍数が下がりHFが上昇する。
 脈波検出装置1は、脈波、脈波から求めた脈拍、HF、眠気数値Z等を監視し、眠気の兆候が見られた場合や眠気が生じた場合に振動や音声を出力することによって、運転者の注意を喚起することができる。
 また、脈拍は、眠気のほか、緊張状態、疲労等に応じても変化するため、脈波検出装置1は、これらの概念を含んだ運転者の覚醒度を脈波によって監視することが出可能である。
 以上、3つの実施の形態について説明したが、第1の実施の形態によれば、次の構成を得ることができる。
(1)第101の構成
 対象者の少なくとも皮膚を含む領域を撮影した動画を取得する動画取得手段と、前記取得した動画に写っている前記対象者の皮膚の部分を特定する皮膚部分特定手段と、前記特定した皮膚の部分における所定の色空間成分の時間変化から前記対象者の脈波を取得する脈波取得手段と、前記取得した脈波を出力する出力手段と、を具備したことを特徴とする脈波検出装置。
(2)第102の構成
 前記対象者の少なくとも皮膚を含む領域は、前記対象者の顔を含んでいることを特徴とする第101の構成の脈波検出装置。
(3)第103の構成
 前記対象者の皮膚の部分を特定するための基準となる色空間成分である基準成分を登録する基準成分登録手段を備え、前記皮膚部分特定手段は、前記動画において所定の色空間成分が前記登録した基準成分に対応する部分を前記皮膚の部分として特定することを特徴とする第101の構成、又は第102の構成の脈波検出装置。
(4)第104の構成
 前記皮膚部分特定手段が前記皮膚の部分を特定するために用いる色空間成分と、前記脈波取得手段が前記脈波を取得するために用いる色空間成分は、異なる色空間成分であることを特徴とする第101の構成、第102の構成、又は第103の構成の脈波検出装置。
(5)第105の構成
 前記皮膚部分特定手段が前記皮膚の部分を特定するために用いる色空間成分は、色成分(H)、彩度成分(S)、及び明度成分(V)から成るHSV色空間の前記色成分(H)であり、前記脈波取得手段が前記脈波を取得するために用いる色空間成分は、明度成分(Y)、及び色度成分(I、Q)から成るYIQ色空間の前記色度成分(Q)であることを特徴とする第104の構成の脈波検出装置。
(6)第106の構成
 動画の色空間を変換する色空間変換手段を備え、前記皮膚部分特定手段と前記脈波取得手段は、前記取得した動画を前記色空間変換手段で変換した色空間にて色空間成分を取得することを特徴とする第101の構成から第105の構成までのうちの何れか1の構成の脈波検出装置。
(7)第107の構成
 前記対象者の顔を撮影した顔画像を取得する顔画像取得手段と、前記取得した顔画像において、顔認識処理により、前記顔の皮膚が露出した所定の領域を特定する領域特定手段を備え、前記基準成分登録手段は、前記特定した領域の色空間成分を前記基準成分として登録することを特徴とする第103の構成の脈波検出装置。
(8)第108の構成
 前記所定の領域は、前記対象者の鼻の領域であることを特徴とする第107の構成の脈波検出装置。
(9)第109の構成
 前記基準成分登録手段は、前記特定した領域における色空間成分の分布に対して所定の統計処理を施した値を前記基準成分として登録することを特徴とする第107の構成、又は第108の構成の脈波検出装置。
(10)第110の構成
 前記皮膚部分特定手段は、前記動画の画素単位で前記皮膚の部分を特定することを特徴とする第101の構成から第109の構成までのうちの何れか1の構成の脈波検出装置。
(11)第111の構成
 前記対象者は、輸送機器の搭乗者であって、前記出力した脈波を用いて前記搭乗者の体調を監視する監視手段を具備したことを特徴とする第101の構成から第110の構成までのうちの何れか1の構成の脈波検出装置。
(12)第112の構成
 対象者の少なくとも皮膚を含む領域を撮影した動画を取得する動画取得機能と、前記取得した動画に写っている前記対象者の皮膚の部分を特定する皮膚部分特定機能と、前記特定した皮膚の部分における所定の色空間成分の時間変化から前記対象者の脈波を取得する脈波取得機能と、前記取得した脈波を出力する出力機能と、をコンピュータで実現する脈波検出プログラム。
 以上の構成により、次のような効果を得ることができる。
(1)第101の構成によれば、動画に写っている外乱要素を除外して皮膚の部分だけ取り出し、そこから脈波を検出することができるため、脈波検出の精度を高めることができる。
(2)第102の構成によれば、日常的に皮膚が露出していて撮影の容易な顔から脈波を検出することができる。
(3)第103の構成によれば、基準成分との対比により動画から容易に皮膚の部分を抽出することができる。
(4)第104の構成によれば、(皮膚と脈波では、光で観察する対象が異なるため)観察対象に適した色空間成分の組み合わせを採用することにより外乱要素に対するロバスト性を向上させることができる。
(5)第105の構成によれば、皮膚の部分の特定に好適であることが見いだされたH成分と、脈波検出に好適であることが見いだされたQ成分を組み合わせることにより、外乱要素に対するロバスト性をより向上させることができる。
(6)第106の構成によれば、色変換処理を外部装置ではなく、脈波検出装置内部に備えることにより、処理速度が向上し、動画からリアルタイムで脈波を検出することが容易となる。
(7)第107の構成によれば、対象者自身から皮膚の色の基準成分を採取することにより、人ごとの微妙な皮膚色の差異が含まれた基準値を容易に取得することができる。
(8)第108の構成によれば、皮膚が露出していて場所特定が容易な鼻の領域から皮膚の色の基準値を採取することができる。
(9)第109の構成によれば、個人差が大きい皮膚の色の分布の偏りを統計処理によって均すことができ、これによって、基準成分の信頼性を向上させることができる。
(10)第110の構成によれば、閉曲線で囲んだ(皮膚の部分に該当しない画素も散在する)領域ではなく、画素ごとに皮膚の部分を抽出するため、評価対象から外乱要素として作用する画素を除外することができ、検出精度を高めることができる。
(11)第111の構成によれば、輸送機器の搭乗者の体調を監視することができる。
(12)第112の構成によれば、脈波検出プログラムを流通させ、これを汎用のコンピュータにインストールすることにより、容易かつ安価に脈波検出装置を構成することができる。
 第3の実施の形態によれば、次の構成を得ることができる。
(1)第301の構成
 所定のカメラで対象者の少なくとも皮膚を含む領域を撮影した動画を取得する動画取得手段と、前記取得した動画に写っている前記対象者の皮膚の部分を特定する皮膚部分特定手段と、前記カメラの特性に起因して前記動画に生じる所定の色空間成分のばらつきを補正するばらつき補正手段と、前記補正された前記皮膚の部分における前記色空間成分の時間変化から前記対象者の脈波を取得する脈波取得手段と、前記取得した脈波を出力する出力手段と、を具備したことを特徴とする脈波検出装置。
(2)第302の構成
 前記対象者の少なくとも皮膚を含む領域は、前記対象者の顔を含んでいることを特徴とする第301の構成の脈波検出装置。
(3)第303の構成
 前記顔の移動に伴って前記皮膚の部分に生じる前記色空間成分の変化に対して所定の統計処理を施すことにより前記補正に用いる補正値を更新する更新手段を具備したことを特徴とする第302の構成の脈波検出装置。
(4)第304の構成
 前記更新手段は、前記動画を構成する画素ごとに前記補正値を更新し、前記ばらつき補正手段は、前記画素ごとに当該画素に対応する補正値を用いて前記色空間成分を補正することを特徴とする第303の構成の脈波検出装置。
(5)第305の構成
 前記更新手段は、前記カメラの特性に起因する前記色空間成分のばらつきの大きさが、少なくとも、前記対象者の脈波による前記色空間成分の変化の大きさよりも小さい値に収束した場合に前記更新を完了することを特徴とする第303の構成、又は第304の構成の脈波検出装置。
(6)第306の構成
 前記ばらつき補正手段は、前記更新手段が前記補正値を更新している間に最新の補正値を用いて前記ばらつきを補正し、前記脈波取得手段は、前記最新の補正値で補正された前記皮膚の部分から前記脈波を取得することを特徴とする第303の構成、第304の構成、又は第305の構成の脈波検出装置。
(7)第307の構成
 前記動画の撮影環境の変化によって生じた明度の変化を取得する明度変化取得手段と、前記取得した明度の変化を用いて前記動画の明度を補正する明度補正手段と、を備え、前記脈波取得手段は、前記明度補正手段で更に補正された前記皮膚の部分における前記色空間成分の時間変化から前記対象者の脈波を取得することを特徴とする第301の構成から第306の構成までのうちの何れか1の構成の脈波検出装置。
(8)第308の構成
 前記ばらつき補正手段による補正の対象となる色空間成分と前記脈波取得手段が前記脈波を取得するために用いる色空間成分は、明度成分(Y)、及び色度成分(I、Q)から成るYIQ色空間の前記色度成分(Q)であることを特徴とする第301の構成から第307の構成までのうちの何れか1の構成の脈波検出装置。
(9)第309の構成
 前記対象者は、輸送機器の搭乗者であって、前記出力した脈波を用いて前記搭乗者の体調を監視する監視手段を具備したことを特徴とする第301の構成から第308の構成までのうちの何れか1の構成の脈波検出装置。
(10)第310の構成
 所定のカメラで対象者の少なくとも皮膚を含む領域を撮影した動画を取得する動画取得機能と、前記取得した動画に写っている前記対象者の皮膚の部分を特定する皮膚部分特定機能と、前記カメラの特性に起因して前記動画に生じる所定の色空間成分のばらつきを補正するばらつき補正機能と、前記補正された前記皮膚の部分における前記色空間成分の時間変化から前記対象者の脈波を取得する脈波取得機能と、前記取得した脈波を出力する出力機能と、をコンピュータで実現する脈波検出プログラム。
 以上の構成により、次のような効果を得ることができる。
(1)第301の構成によれば、カメラの特性に起因して前記動画に生じる所定の色空間成分のばらつきを補正することにより、脈波を良好に検出することができる。
(2)第302の構成によれば、日常的に皮膚が露出していて撮影の容易な顔から脈波を検出することができる。
(3)第303の構成によれば、顔の移動によって生じる色空間成分の変化で補正値を更新するが、その際に、統計処理によって補正値のばらつきを均すことができる。
(4)第304の構成によれば、領域を代表値で補正するのではなく、画素ごとに補正することにより、補正の精度を高めることができる。
(5)第305の構成によれば、色空間成分のばらつきが脈波の変動より小さくなるまで補正を収束させることにより、脈波の検出が良好に行えるようになる。
(6)第306の構成によれば、補正をしながら脈波の検出を行うことができる。
(7)第307の構成によれば、更に、明度の変化を行うことにより、環境変化に対するロバスト性が向上し、明度が変化する環境においても脈波を検出することができる。
(8)第308の構成によれば、脈波検出のための色空間成分を、脈波検出に好適であることが見いだされたQ成分とすることにより、外乱要素に対するロバスト性を向上させることができる。
(9)第309の構成によれば、輸送機器の搭乗者の体調を監視することができる。
(10)第310の構成によれば、脈波検出プログラムを流通させ、これを汎用のコンピュータにインストールすることにより、容易かつ安価に脈波検出装置を構成することができる。
 1 脈波検出装置
 2 CPU
 3 ROM
 4 RAM
 5 表示部
 6 入力部
 7 出力部
 8 カメラ
 9 記憶部
 10 ユーザ
 12 脈波検出プログラム
 14 ユーザデータベース
 15 カメラ特性データ
 20 鼻領域
 21 髪
 22 眉毛
 23 目
 24 唇
 25 背景
 26 皮膚部分
 30 静止画像
 31 フレーム画像
 32 HSV画像
 35 脈波
 41、42 期間
 45 目部分
 46 白目部分
 47 虹彩部分
 48 瞳孔部分
 51 明度信号
 52 補正前脈波信号
 53 補正後脈波信号
 55 目領域
 61 左領域
 62 中央領域
 63 右領域
 101 評価領域
 102 背景

Claims (13)

  1.  対象者の顔を含む領域を撮影した動画を取得する動画取得手段と、
     前記動画に写っている前記対象者の目の部分を特定する目部分特定手段と、
     前記動画の撮影環境の変化によって生じた明度の変化を、前記特定した目の部分の所定の色空間成分の変化から取得する明度変化取得手段と、
     前記取得した明度の変化を用いて前記動画の明度を補正する明度補正手段と、
     前記補正された前記対象者の皮膚の部分における所定の色空間成分の時間変化から前記対象者の脈波を取得する脈波取得手段と、
     前記取得した脈波を出力する出力手段と、
     を具備したことを特徴とする脈波検出装置。
  2.  前記取得した動画に写っている前記対象者の皮膚の部分を特定する皮膚部分特定手段を備え、
     前記脈波取得手段は、前記特定した皮膚の部分における所定の色空間成分の時間変化から前記対象者の脈波を取得することを特徴とする請求項1に記載の脈波検出装置。
  3.  前記対象者の目の部分を特定するための基準となる色空間成分である基準成分を登録する基準成分登録手段を備え、
     前記目部分特定手段は、前記動画において所定の色空間成分が前記登録した基準成分に対応する部分を前記目の部分として特定することを特徴とする請求項2に記載の脈波検出装置。
  4.  前記皮膚部分特定手段は、前記動画において所定の色空間成分が予め登録した所定の基準成分に対応する部分を前記皮膚の部分として特定することを特徴とする請求項2、又は請求項3に記載の脈波検出装置。
  5.  前記明度変化取得手段が明度の変化を取得するために用いる色空間成分、前記脈波取得手段が前記脈波を取得するために用いる色空間成分、及び、前記皮膚部分特定手段が前記皮膚の部分を特定するために用いる色空間成分は、異なる色空間成分であることを特徴とする請求項2、請求項3、又は請求項4に記載の脈波検出装置。
  6.  前記明度変化取得手段が明度の変化を取得するために用いる色空間成分と前記脈波取得手段が前記脈波を取得するために用いる色空間成分は、それぞれ、明度成分(Y)、及び色度成分(I、Q)から成るYIQ色空間の前記明度成分(Y)と前記色度成分(Q)であり、
     前記皮膚部分特定手段が前記皮膚の部分を特定するために用いる色空間成分は、色成分(H)、彩度成分(S)、及び明度成分(V)から成るHSV色空間の前記色成分(H)であることを特徴とする請求項5に記載の脈波検出装置。
  7.  色空間を変換する色空間変換手段を備え、
     前記脈波取得手段、前記明度変化取得手段、及び前記皮膚部分特定手段は、前記取得した動画を前記色空間変換手段で変換した色空間にて色空間成分を取得することを特徴とする請求項2から請求項6までのうちの何れか1の請求項に記載の脈波検出装置。
  8.  前記対象者の顔を撮影した顔画像を取得する顔画像取得手段と、
     前記取得した顔画像において、顔認識処理により、前記顔の目の領域を特定する領域特定手段を備え、
     前記基準成分登録手段は、前記特定した領域の色空間成分を前記基準成分として登録することを特徴とする請求項3に記載の脈波検出装置。
  9.  前記基準成分登録手段は、前記特定した領域における色空間成分の分布に対して所定の統計処理を施した値を前記基準成分として登録することを特徴とする請求項8に記載の脈波検出装置。
  10.  前記目部分特定手段は、前記動画の画素単位で前記目の部分を特定することを特徴とする請求項1から請求項7までのうちの何れか1の請求項に記載の脈波検出装置。
  11.  前記明度補正手段は、前記動画の画素単位で前記補正を行うことを特徴とする請求項1から請求項10までのうちの何れか1の請求項に記載の脈波検出装置。
  12.  前記対象者は、輸送機器の搭乗者であって、前記出力した脈波を用いて前記搭乗者の体調を監視する監視手段を具備したことを特徴とする請求項1から請求項11までのうちの何れか1の請求項に記載の脈波検出装置。
  13.  対象者の顔を含む領域を撮影した動画を取得する動画取得機能と、
     前記動画に写っている前記対象者の目の部分を特定する目部分特定機能と、
     前記動画の撮影環境の変化によって生じた明度の変化を、前記特定した目の部分の所定の色空間成分の変化から取得する明度変化取得機能と、
     前記取得した明度の変化を用いて前記動画の明度を補正する明度補正機能と、
     前記補正された前記対象者の皮膚の部分における所定の色空間成分の時間変化から前記対象者の脈波を取得する脈波取得機能と、
     前記取得した脈波を出力する出力機能と、
     をコンピュータで実現する脈波検出プログラム。
PCT/JP2016/060508 2015-03-31 2016-03-30 脈波検出装置、及び脈波検出プログラム WO2016159151A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
EP16773032.4A EP3278722B1 (en) 2015-03-31 2016-03-30 Pulse wave detection device and pulse wave detection program
CN201680019452.1A CN107427242B (zh) 2015-03-31 2016-03-30 脉波检测装置、以及脉波检测程序
US15/563,409 US10595732B2 (en) 2015-03-31 2016-03-30 Pulse wave detection device and pulse wave detection program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2015-073964 2015-03-31
JP2015073964A JP6308161B2 (ja) 2015-03-31 2015-03-31 脈波検出装置、及び脈波検出プログラム

Publications (1)

Publication Number Publication Date
WO2016159151A1 true WO2016159151A1 (ja) 2016-10-06

Family

ID=57005803

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2016/060508 WO2016159151A1 (ja) 2015-03-31 2016-03-30 脈波検出装置、及び脈波検出プログラム

Country Status (5)

Country Link
US (1) US10595732B2 (ja)
EP (1) EP3278722B1 (ja)
JP (1) JP6308161B2 (ja)
CN (1) CN107427242B (ja)
WO (1) WO2016159151A1 (ja)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018088358A1 (ja) * 2016-11-10 2018-05-17 シャープ株式会社 脈波検出装置、画像解析装置および生体情報生成システム
WO2018179150A1 (ja) * 2017-03-29 2018-10-04 日本電気株式会社 心拍推定装置
US10748016B2 (en) 2017-04-24 2020-08-18 Oxehealth Limited In-vehicle monitoring
US10779771B2 (en) 2016-01-22 2020-09-22 Oxehealth Limited Signal processing method and apparatus
US10796140B2 (en) 2016-01-21 2020-10-06 Oxehealth Limited Method and apparatus for health and safety monitoring of a subject in a room
WO2020203914A1 (ja) * 2019-03-29 2020-10-08 株式会社エクォス・リサーチ 脈波検出装置、及び脈波検出プログラム
US10806354B2 (en) 2016-01-21 2020-10-20 Oxehealth Limited Method and apparatus for estimating heart rate
US10885349B2 (en) 2016-11-08 2021-01-05 Oxehealth Limited Method and apparatus for image processing
US10909678B2 (en) 2018-03-05 2021-02-02 Oxehealth Limited Method and apparatus for monitoring of a human or animal subject
US11182910B2 (en) 2016-09-19 2021-11-23 Oxehealth Limited Method and apparatus for image processing
US11403754B2 (en) 2019-01-02 2022-08-02 Oxehealth Limited Method and apparatus for monitoring of a human or animal subject
US11563920B2 (en) 2019-01-02 2023-01-24 Oxehealth Limited Method and apparatus for monitoring of a human or animal subject field
US11690536B2 (en) 2019-01-02 2023-07-04 Oxehealth Limited Method and apparatus for monitoring of a human or animal subject

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6614547B2 (ja) * 2015-08-17 2019-12-04 パナソニックIpマネジメント株式会社 視聴状態検出装置、視聴状態検出システムおよび視聴状態検出方法
JP6796525B2 (ja) * 2017-03-23 2020-12-09 株式会社日立製作所 画像処理装置、画像処理システム及び画像処理方法
JP6765678B2 (ja) * 2017-03-30 2020-10-07 株式会社エクォス・リサーチ 脈波検出装置および脈波検出プログラム
US10515199B2 (en) * 2017-04-19 2019-12-24 Qualcomm Incorporated Systems and methods for facial authentication
CN112020323B (zh) * 2018-04-23 2023-06-13 夏普株式会社 数据解析装置
JP7229676B2 (ja) * 2018-05-21 2023-02-28 株式会社日立製作所 生体情報検出装置および生体情報検出方法
JP7204077B2 (ja) * 2018-09-07 2023-01-16 株式会社アイシン 脈波検出装置、車両装置、及び脈波検出プログラム
JP7212499B2 (ja) * 2018-10-31 2023-01-25 株式会社日立製作所 生体情報検出装置及び生体情報検出方法
CN113347920A (zh) * 2019-01-09 2021-09-03 夏普株式会社 血压测量装置、模式设定装置以及血压测量方法
JP7106126B2 (ja) * 2019-05-28 2022-07-26 学校法人立命館 自律神経系活動評価装置
JP6943319B2 (ja) * 2019-06-07 2021-09-29 ダイキン工業株式会社 判定システム
JP2023055137A (ja) * 2021-10-05 2023-04-17 キヤノン株式会社 映像処理装置及びその制御方法及びプログラム
JPWO2023195149A1 (ja) * 2022-04-08 2023-10-12
WO2023195148A1 (ja) * 2022-04-08 2023-10-12 三菱電機株式会社 脈波推定装置、状態推定装置、及び、脈波推定方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011130996A (ja) * 2009-12-25 2011-07-07 Denso Corp 生体活動計測装置
JP2014073159A (ja) * 2012-10-02 2014-04-24 Fujitsu Ltd 脈波検出装置、脈波検出プログラム及び脈波検出方法
JP2014198201A (ja) * 2013-03-29 2014-10-23 富士通株式会社 脈波検出プログラム、脈波検出方法および脈波検出装置

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3620529B2 (ja) 2002-03-18 2005-02-16 日本ビクター株式会社 映像補正装置及び方法、並びに、映像補正プログラム及びこれを記録した記録媒体
US20040015098A1 (en) * 2002-07-19 2004-01-22 Souvestre Philippe A. Dynamic ocular visual monitoring system
WO2004057314A2 (en) * 2002-12-20 2004-07-08 Fiso Technologies Inc. Polarisation interferometric method and sensor for detecting a chemical substance
JP2005202469A (ja) 2004-01-13 2005-07-28 Fuji Xerox Co Ltd 画像処理装置、画像処理方法、およびプログラム
JP4717539B2 (ja) * 2005-07-26 2011-07-06 キヤノン株式会社 撮像装置及び撮像方法
DE602006009191D1 (de) * 2005-07-26 2009-10-29 Canon Kk Bildaufnahmegerät und -verfahren
JP4706415B2 (ja) 2005-09-27 2011-06-22 カシオ計算機株式会社 撮像装置、画像記録装置およびプログラム
JP4346617B2 (ja) * 2006-03-13 2009-10-21 株式会社東芝 脈波計測モジュール
JP5034713B2 (ja) * 2007-06-28 2012-09-26 株式会社日立製作所 指静脈認証装置および情報処理装置
JP5027604B2 (ja) 2007-09-21 2012-09-19 富士通株式会社 指先適正押圧状態報知方法及び装置
US8615479B2 (en) * 2007-12-13 2013-12-24 The Invention Science Fund I, Llc Methods and systems for indicating behavior in a population cohort
JP5181741B2 (ja) 2008-03-10 2013-04-10 株式会社デンソー 生体情報生成装置、生体情報管理システム
KR100970328B1 (ko) 2008-04-04 2010-07-15 엔에이치엔(주) 성인물 판단 방법 및 시스템
JP2010239499A (ja) 2009-03-31 2010-10-21 Brother Ind Ltd 通信端末装置、通信制御装置、通信端末装置の通信制御方法、通信制御プログラム
EP2486539B1 (en) * 2009-10-06 2016-09-07 Koninklijke Philips N.V. Method and system for obtaining a first signal for analysis to characterize at least one periodic component thereof
US10452894B2 (en) 2012-06-26 2019-10-22 Qualcomm Incorporated Systems and method for facial verification
CN104602594B (zh) 2012-09-07 2017-03-22 富士通株式会社 脉搏检测方法和脉搏检测装置
KR101937323B1 (ko) * 2012-09-18 2019-01-11 한국전자통신연구원 위장 얼굴 판별 장치 및 방법
BR112015006003A2 (pt) * 2012-09-21 2017-07-04 Koninklijke Philips Nv dispositivo e método de processamento de dados deriváveis de radiação eletromagnética detectada remotamente, e, programa de computador
JP6098304B2 (ja) 2013-03-29 2017-03-22 富士通株式会社 脈波検出装置、脈波検出方法及び脈波検出プログラム
JP6186820B2 (ja) 2013-04-10 2017-08-30 株式会社デンソー 眠気予測装置及び眠気予測システム
JP6142664B2 (ja) * 2013-05-14 2017-06-07 富士通株式会社 脈波検出装置、脈波検出プログラム、脈波検出方法及びコンテンツ評価システム
WO2015045554A1 (ja) * 2013-09-26 2015-04-02 シャープ株式会社 生体情報取得装置および生体情報取得方法
US10262203B2 (en) * 2014-09-02 2019-04-16 Samsung Electronics Co., Ltd. Method for recognizing iris and electronic device therefor

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011130996A (ja) * 2009-12-25 2011-07-07 Denso Corp 生体活動計測装置
JP2014073159A (ja) * 2012-10-02 2014-04-24 Fujitsu Ltd 脈波検出装置、脈波検出プログラム及び脈波検出方法
JP2014198201A (ja) * 2013-03-29 2014-10-23 富士通株式会社 脈波検出プログラム、脈波検出方法および脈波検出装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3278722A4 *

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10796140B2 (en) 2016-01-21 2020-10-06 Oxehealth Limited Method and apparatus for health and safety monitoring of a subject in a room
US10806354B2 (en) 2016-01-21 2020-10-20 Oxehealth Limited Method and apparatus for estimating heart rate
US10779771B2 (en) 2016-01-22 2020-09-22 Oxehealth Limited Signal processing method and apparatus
US11182910B2 (en) 2016-09-19 2021-11-23 Oxehealth Limited Method and apparatus for image processing
US10885349B2 (en) 2016-11-08 2021-01-05 Oxehealth Limited Method and apparatus for image processing
CN109982633A (zh) * 2016-11-10 2019-07-05 夏普株式会社 脉搏检测装置、图像分析装置以及生物体信息生成系统
JPWO2018088358A1 (ja) * 2016-11-10 2019-10-03 シャープ株式会社 脈波検出装置、画像解析装置および生体情報生成システム
WO2018088358A1 (ja) * 2016-11-10 2018-05-17 シャープ株式会社 脈波検出装置、画像解析装置および生体情報生成システム
US11064895B2 (en) 2016-11-10 2021-07-20 Sharp Kabushiki Kaisha Pulse wave detection device, image analysis device, and biometric information generation system
WO2018179150A1 (ja) * 2017-03-29 2018-10-04 日本電気株式会社 心拍推定装置
US10748016B2 (en) 2017-04-24 2020-08-18 Oxehealth Limited In-vehicle monitoring
US10909678B2 (en) 2018-03-05 2021-02-02 Oxehealth Limited Method and apparatus for monitoring of a human or animal subject
US11403754B2 (en) 2019-01-02 2022-08-02 Oxehealth Limited Method and apparatus for monitoring of a human or animal subject
US11563920B2 (en) 2019-01-02 2023-01-24 Oxehealth Limited Method and apparatus for monitoring of a human or animal subject field
US11690536B2 (en) 2019-01-02 2023-07-04 Oxehealth Limited Method and apparatus for monitoring of a human or animal subject
JP2020162872A (ja) * 2019-03-29 2020-10-08 株式会社エクォス・リサーチ 脈波検出装置、及び脈波検出プログラム
WO2020203914A1 (ja) * 2019-03-29 2020-10-08 株式会社エクォス・リサーチ 脈波検出装置、及び脈波検出プログラム
JP7174359B2 (ja) 2019-03-29 2022-11-17 株式会社アイシン 脈波検出装置、及び脈波検出プログラム

Also Published As

Publication number Publication date
CN107427242A (zh) 2017-12-01
US10595732B2 (en) 2020-03-24
EP3278722A4 (en) 2018-10-17
US20180085010A1 (en) 2018-03-29
EP3278722B1 (en) 2020-02-12
JP6308161B2 (ja) 2018-04-11
JP2016193021A (ja) 2016-11-17
CN107427242B (zh) 2020-09-08
EP3278722A1 (en) 2018-02-07

Similar Documents

Publication Publication Date Title
JP6308161B2 (ja) 脈波検出装置、及び脈波検出プログラム
JP6547160B2 (ja) 脈波検出装置、及び脈波検出プログラム
EP2936432B1 (en) System and method for extracting physiological information from remotely detected electromagnetic radiation
JP6863408B2 (ja) 情報処理装置、情報処理方法及びプログラム
EP3664704B1 (en) Device, system and method for determining a physiological parameter of a subject
JP6455761B2 (ja) 脈波検出装置、及び脈波検出プログラム
JP6138920B2 (ja) 遠隔検出される特性信号から情報を抽出するデバイス及び方法
EP3440991A1 (en) Device, system and method for determining a physiological parameter of a subject
JP6256488B2 (ja) 信号処理装置、信号処理方法及び信号処理プログラム
JP6098257B2 (ja) 信号処理装置、信号処理方法及び信号処理プログラム
KR102285999B1 (ko) 얼굴 색상과 떨림을 이용한 카메라 기반 심박 측정 방법 및 시스템
JP6822482B2 (ja) 視線推定装置、視線推定方法及びプログラム記録媒体
JP6717424B2 (ja) 心拍推定装置
US20200320718A1 (en) System and method for eye tracking
US20230082016A1 (en) Mask for non-contact respiratory monitoring
Ali et al. A Survey on Non-Contact Heart Rate Estimation from Facial Video

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 16773032

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 15563409

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

REEP Request for entry into the european phase

Ref document number: 2016773032

Country of ref document: EP