WO2018159276A1 - 作業適正度判定システム - Google Patents

作業適正度判定システム Download PDF

Info

Publication number
WO2018159276A1
WO2018159276A1 PCT/JP2018/004777 JP2018004777W WO2018159276A1 WO 2018159276 A1 WO2018159276 A1 WO 2018159276A1 JP 2018004777 W JP2018004777 W JP 2018004777W WO 2018159276 A1 WO2018159276 A1 WO 2018159276A1
Authority
WO
WIPO (PCT)
Prior art keywords
work
worker
information
biological information
determination system
Prior art date
Application number
PCT/JP2018/004777
Other languages
English (en)
French (fr)
Inventor
尚志 渡邉
Original Assignee
パナソニックIpマネジメント株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP2018016972A external-priority patent/JP7045639B2/ja
Application filed by パナソニックIpマネジメント株式会社 filed Critical パナソニックIpマネジメント株式会社
Priority to CN202210958907.3A priority Critical patent/CN115137336A/zh
Priority to CN201880004061.1A priority patent/CN109890288B/zh
Priority to CN202210954582.1A priority patent/CN115137335A/zh
Priority to EP18761519.0A priority patent/EP3590426B1/en
Publication of WO2018159276A1 publication Critical patent/WO2018159276A1/ja
Priority to US16/414,363 priority patent/US11407422B2/en
Priority to US17/848,082 priority patent/US20220315010A1/en

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/117Identification of persons
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/145Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue
    • A61B5/1455Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/145Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue
    • A61B5/1455Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters
    • A61B5/14551Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters for measuring blood gases
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/18Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K28/00Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions
    • B60K28/02Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/12Limiting control by the driver depending on vehicle state, e.g. interlocking means for the control input for preventing unsafe operation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31User authentication
    • G06F21/32User authentication using biometric data, e.g. fingerprints, iris scans or voiceprints
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H10/00ICT specially adapted for the handling or processing of patient-related medical or healthcare data
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H10/00ICT specially adapted for the handling or processing of patient-related medical or healthcare data
    • G16H10/60ICT specially adapted for the handling or processing of patient-related medical or healthcare data for patient-specific data, e.g. for electronic patient records
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/63ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for local operation
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/20Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from infrared radiation only
    • H04N23/21Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from infrared radiation only from near infrared [NIR] radiation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/30Transforming light or analogous information into electric information
    • H04N5/33Transforming infrared radiation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2562/00Details of sensors; Constructional details of sensor housings or probes; Accessories for sensors
    • A61B2562/02Details of sensors specially adapted for in-vivo measurements
    • A61B2562/0219Inertial sensors, e.g. accelerometers, gyroscopes, tilt switches
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W2040/0809Driver authorisation; Driver identity check
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W2040/0818Inactivity or incapacity of driver
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/143Alarm means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/043Identity of occupants
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Definitions

  • This disclosure relates to a system for determining a worker's current work suitability.
  • the degree of mental concentration is very important in daily work. Difficult work that lacks attention is not only less efficient, but it can lead to accidents. For example, lack of concentration during work leads to a decrease in work efficiency and a decrease in productivity. Furthermore, lack of concentration or drowsiness when driving a vehicle can be a direct cause of traffic accidents. If the concentration level is constantly monitored and appropriate advice or assistance can be provided according to the concentration level or the tension level, it is possible to contribute to improvement of work efficiency or safety. In fact, many such efforts have been proposed. For example, a technique has been proposed in which the mental concentration is determined from various biological information, and advice or assistance is provided according to the concentration. Patent Documents 1 to 3 disclose examples of such techniques.
  • JP 2002-65650 A Japanese Patent No. 6003782 Japanese Patent No. 5119375
  • the conventional system for determining the mental state related to the appropriateness of work has a problem that individual differences in biological information are large, and even the same person has a large variation for each measurement.
  • This disclosure provides a work suitability determination system that can suppress the influence of individual differences in biological information and can stably determine the work suitability of an operator.
  • the work suitability determination system specifies an operator based on the characteristics of the worker, outputs an information for identifying the worker, and obtains the biological information of the worker, A living body sensing device that outputs the living body information; a work sensing device that detects a load of work performed by the worker; outputs work information indicating the detected load of the work; a storage device; a signal; And a processing device.
  • the signal processing device stores the information for identifying the worker, the biological information, the work information, and time information in association with each other while the worker is performing the work.
  • the biological information of the worker at the present is estimated, and the estimated current
  • the appropriateness of the work of the worker at the present is determined by comparing the biometric information of the worker at the current and the biometric information of the worker at the present acquired by the biological sensing device.
  • the comprehensive or specific aspect of the present disclosure may be realized by an element, an apparatus, a system, a method, or any combination thereof.
  • Explanatory diagram showing individual differences in biological responses to stress The figure which shows the imaging device using the light source which radiate
  • Diagram showing calculation example of operation workload A figure showing the measured values of changes in cerebral blood flow during driving tasks 1st figure for demonstrating the estimation method of cerebral blood flow 2nd figure for demonstrating the estimation method of cerebral blood flow 3rd figure for demonstrating the estimation method of cerebral blood flow
  • FIG. 12 is a first diagram for explaining signal processing for obtaining biological information in the third embodiment.
  • FIG. 9 is a second diagram for explaining signal processing for obtaining biological information in the third embodiment.
  • FIG. 9 is a third diagram for explaining signal processing for obtaining biological information in the third embodiment.
  • the present disclosure includes a work suitability determination system, method, and computer program described in the following items.
  • the work suitability determination system according to item 1 of the present disclosure is: An authentication device for identifying the worker based on the characteristics of the worker, and outputting information identifying the worker; A biological sensing device that obtains the biological information of the worker and outputs the biological information; A work sensing device that detects a work load performed by the worker and outputs work information indicating the detected load of the work; A storage device; A signal processing device; Is provided.
  • the signal processing device includes: While the worker is performing the work, the information for identifying the worker, the biological information, the work information, and time information are associated and stored in the storage device, Based on the correlation between the time transition of the work information in the past and the time transition of the biological information accumulated in the storage device, the biological information of the worker at the present is estimated, By comparing the biological information of the worker currently estimated with the biological information of the worker currently acquired by the biological sensing device, the appropriateness of the work of the worker at the present time Determine.
  • the authentication device includes an input device that allows the worker to input a personal authentication code before performing the work; The authentication device may specify the worker based on the input personal authentication code.
  • the authentication device may include a biometric authentication device that identifies the worker using at least one selected from the group consisting of a fingerprint, a palm print, an iris, and a vein pattern.
  • the work suitability determination described in Item 1 is An imaging device that captures the image of the worker and acquires data of the image; The authentication device may specify the worker based on the acquired data of the image.
  • the biological sensing device is Placed at a point away from the operator, Including an imaging device that captures an image including the head of the worker and obtains data of the image; The biometric information of the worker may be acquired based on the acquired data of the image.
  • the biological sensing device is A light source that emits spatially or temporally modulated near infrared light; and An image sensor that captures an image including the face of the worker irradiated by the light source; May be included.
  • the near-infrared light may be spatially modulated with a dot array pattern, a line and space pattern, or a checkered pattern.
  • the near infrared light is pulsed light
  • the image sensor may include at least one charge storage unit that receives the pulsed light and stores signal charges.
  • the signal processing device may estimate the current biological information of the worker by analyzing the correlation accumulated in the storage device by multivariate analysis.
  • the signal processing device may learn the correlation accumulated in the storage device by machine learning, and estimate the biological information of the current worker based on a learning result.
  • the worker is a driver who drives a vehicle, The work is driving the vehicle;
  • the work information may be information related to a driving operation of the vehicle.
  • the driving operation may include at least one selected from the group consisting of an accelerator operation, a brake operation, and a steering wheel operation.
  • the work sensing device includes an acceleration sensor, The signal processing device may estimate information related to the driving operation based on information output from the acceleration sensor.
  • the vehicle has an automatic driving function including driving assistance, The signal processing device may determine the content of the driving assistance according to the determined degree of appropriateness of the driver, and cause the vehicle to execute the driving assistance.
  • the work is an input work using a computer, The work information may be information related to an operation input to the computer.
  • the operation may include at least one selected from the group consisting of keyboard input and mouse operation.
  • the signal processing device may cause the computer to output an image or sound indicating advice for the input work according to the determined appropriateness of the worker.
  • the work is learning using a computer,
  • the work information may be information related to the contents of the learning and the operation of the computer.
  • the signal processing device may cause the computer to provide learning content according to the determined appropriateness of the worker.
  • the method of determining the appropriateness of the work of the worker is Obtaining information identifying the worker, biological information of the worker performing the work, and work information indicating a load of the work;
  • the information for identifying the worker, the biological information, the work information, and time information are associated with each other and stored in a storage device, Based on the correlation between the time transition of the work information in the past and the time transition of the biological information accumulated in the storage device, the biological information of the worker at the present is estimated, By comparing the estimated biological information of the worker with the acquired biological information of the worker at the present time, the appropriateness of the work of the worker at the current time is determined.
  • the computer program according to item 21 of the present disclosure is: A computer program stored in a computer-readable recording medium, In the computer, Obtaining information identifying a worker, biological information of the worker performing the work, and work information indicating a load of the work; The information for identifying the worker, the biological information, the work information, and time information are associated with each other and stored in a storage device, Based on the correlation between the time transition of the work information in the past and the time transition of the biological information accumulated in the storage device, the biological information of the worker at the present is estimated, By comparing the estimated biological information of the worker with the acquired biological information of the worker at the current time, the appropriateness of the worker at the current time is determined. To do that.
  • all or part of a circuit, unit, device, member, or part, or all or part of a functional block in a block diagram is, for example, a semiconductor device, a semiconductor integrated circuit (IC), or an LSI (large scale integration).
  • LSI or IC may be integrated on one chip, or may be configured by combining a plurality of chips.
  • the functional blocks other than the memory element may be integrated on one chip.
  • LSI or IC but the name changes depending on the degree of integration, and may be called system LSI, VLSI (very large scale integration), or ULSI (ultra large scale integration).
  • a Field Programmable Gate Array (FPGA), which is programmed after the manufacture of the LSI, or a reconfigurable logic device that can reconfigure the connection relationship inside the LSI or set up the circuit partition inside the LSI can be used for the same purpose.
  • FPGA Field Programmable Gate Array
  • the software is recorded on a non-transitory recording medium such as one or more ROMs, optical disks, hard disk drives, etc., and when the software is executed by a processor, the functions specified by the software are recorded. It is executed by a processor and peripheral devices.
  • the system or apparatus may comprise one or more non-transitory recording media on which software is recorded, a processor, and required hardware devices such as an interface.
  • the first problem is individual differences in biological reactions. Even when the accuracy of work is the same, or even when the degree of arousal or concentration measured based on interviews with the person is the same, the appearance of biological reactions varies greatly from person to person. Simply measuring biological information cannot accurately estimate the individual's mental state.
  • the second issue is stability. Even the same subject may have different biological reactions depending on the environment at the time of measurement or the history of actions or work up to the measurement. Even if the target person is limited to a specific individual, it is difficult to estimate the mental state of the individual with high accuracy based only on the biological reaction at the time of measurement.
  • the third problem is the inspection method.
  • a method is generally used in which a subject is given a stimulus and a mental state is estimated from the biological reaction.
  • a specific task for example, a calculation problem, a quiz, or a direct stimulation to the body
  • the biological reaction can be measured.
  • the work environment and work contents can vary. In such a situation, it is not easy to estimate the mental state of the worker in real time.
  • FIG. 2 is a diagram showing individual differences in biometric information changes when tasks are executed and variations in each measurement.
  • subjects were given a calculation task, and the degree of stress associated with the task was measured based on fluctuations in heart rate variability during relaxation and task execution.
  • the stress at this time is sometimes called arousal level.
  • the heartbeat is always shaking.
  • the high frequency component of the fluctuation of the heart rate variability is affected by parasympathetic nerve activity caused by respiration.
  • the low-frequency component is said to be affected by both sympathetic and parasympathetic activities.
  • the range of the high frequency component is 0.20 Hz or more and less than 0.35 Hz
  • the range of the low frequency component is 0.05 or more and less than 0.20 Hz.
  • a value indicating the magnitude of the high-frequency component of heart rate fluctuation is denoted as “HF”, and a value indicating the magnitude of the low-frequency component is denoted as “LF”.
  • HF high-frequency component of heart rate fluctuation
  • LF low-frequency component
  • LF / HF increases during stress or tension. For this reason, this numerical value can be used as an index of stress or tension.
  • LF / HF on the vertical axis in FIG. 2 represents the amount of change in LF / HF before and after the execution of the task. From the results of FIG. 2, ⁇ LF / HF is above zero (0) with some exceptions. This shows that LF / HF tends to increase with stress or tension. However, this increase tends to decrease as the age of the subject increases.
  • the black circles in the figure indicate the results of multiple tests of the same person. It can be seen that the variation from test to test is large even for the same subject.
  • This disclosure provides a novel technique that makes it possible to stably estimate the mental state of a worker during work.
  • the workload is monitored for each worker, and the relationship between the workload and the biological information is learned.
  • the relationship between the workload and the biological information is learned.
  • FIG. 1A is a diagram illustrating a configuration of a work suitability determination system according to an exemplary embodiment of the present disclosure.
  • the work suitability determination system 100 includes an authentication device 101, a work sensing device 102, a biological sensing device 106, a signal processing device 108, a storage device 104, and a display device 107.
  • the signal processing device 108 includes a biological information estimation unit 103 and a work suitability level determination unit 105.
  • an individual is recognized at the start of work, and a database is constructed for each individual.
  • information indicating a work load (referred to as “work information” in this specification) and biometric information acquired during the work are recorded in association with each work.
  • the work information may include work contents.
  • the personal authentication is performed, for example, when the worker inputs the worker ID at the start of work or when the authentication device 101 performs biometric authentication.
  • the biometric authentication can be performed by a method such as face authentication, fingerprint authentication, iris authentication, or vein authentication, for example.
  • the authentication device 101 can be a device including an input device such as a portable information terminal or a personal computer (PC).
  • the input device may include at least one of a keyboard and a mouse, for example.
  • the authentication device 101 is a device having a biometric authentication function such as face authentication, fingerprint authentication, iris authentication, or vein authentication.
  • the authentication device 101 includes one or more biometric authentication devices necessary for personal authentication, such as a camera or a fingerprint sensor.
  • the work sensing device 102 monitors the current work status of the worker and outputs work information indicating the work load.
  • the configuration of the work sensing device 102 varies depending on the content of the work.
  • the work sensing device 102 may include a sensor such as an acceleration sensor or an angular velocity sensor.
  • the work sensing device 102 may include the computer or its input device.
  • the living body sensing device 106 measures the worker's biological information continuously or intermittently during work.
  • the biological information acquired by the biological sensing device 106 is measured biological information. For this reason, the biological information may be referred to as “measured biological information”.
  • the living body sensing device 106 may acquire the worker's biological information without contact.
  • the biological sensing device 106 acquires the worker's biological information in a non-contact manner, the biological information can be acquired even when it is difficult to wear a contact-type device depending on the work content.
  • the non-contact type bio-sensing device 106 it is possible to eliminate a sense of restraint or discomfort due to wearing of the bio-sensor.
  • the storage device 104 stores a database of the acquired individual measured biological information and work information. Data is accumulated in the database for each individual and for each operation.
  • the storage device 104 may include any storage medium such as a flash memory, a magnetic disk, or an optical disk.
  • the signal processing device 108 may be realized by a combination of a programmable logic device (PLD) such as a digital signal processor (DSP), a field programmable gate array (FPGA), or a central processing unit (CPU) and a computer program.
  • PLD programmable logic device
  • DSP digital signal processor
  • FPGA field programmable gate array
  • CPU central processing unit
  • the signal processing device 108 may be a component of an external device such as a server provided in a remote place.
  • an external device such as a server includes a communication unit, and exchanges data with the authentication device 101, the work sensing device 102, the biological sensing device 106, the storage device 104, and the display device 107.
  • the signal processing device 108 includes a biological information estimation unit 103 and a work suitability determination unit 105. Each of these units can be realized by the signal processing device 108 executing a computer program stored in the storage device 104. Alternatively, each of these units may be an individual circuit configured to execute an operation described later.
  • the biological information estimation unit 103 estimates the current biological information of the worker based on the data stored in the storage device 104.
  • the estimated biological information is the value of the current biological information estimated based on the worker's workload and biological information acquired in the past. For this reason, this may be referred to as “estimated biological information”.
  • the work appropriateness determination unit 105 compares the estimated biological information of the worker with the measured biological information, and determines the appropriateness of the work based on the comparison result. Specific examples of processing by the biological information estimation unit 103 and the work appropriateness determination unit 105 will be described later.
  • the work appropriateness determination unit 105 determines that the work is not adequate. In that case, the work suitability determination unit 105 causes the display device 107 to display an advice or a warning for the worker. Alternatively, the work suitability determination unit 105 may forcibly stop the work. The forcible stop of work is, for example, processing for stopping the apparatus or system. Note that a speaker may be provided instead of the display device 107 or in addition to the display device 107, and a sound for alerting or giving advice may be output to the speaker.
  • FIG. 1B is a flowchart showing an example of the operation of the work suitability determination system. The system performs the operation shown in FIG. 1B for each work.
  • step S101 the authentication device 101 identifies an operator.
  • this specification is performed by an input operation by an operator or a method such as biometric authentication.
  • the living body sensing device 106 acquires the biological information of the worker.
  • the acquisition of biological information can be performed using, for example, a non-contact type cerebral blood flow measuring device described later.
  • the acquired biological information can be, for example, information indicating a temporal change in the cerebral blood flow of the worker or information indicating a temporal change in the heart rate of the worker.
  • the work sensing device 102 detects the current work content of the worker and outputs information indicating the work content.
  • the work sensing device 102 may further calculate a value indicating the degree of work load.
  • the calculation of the work load may be performed by a device different from the work sensing device 102, for example, a processor of the signal processing device 108.
  • step S104 the signal processing device 108 records the measured biological information and information indicating the work load in the storage device 104 for each worker in association with the time information.
  • step S106 the signal processing device 108 compares the estimated biological information of the worker with the measured biological information. Subsequently, in step S107, the signal processing device 108 determines the work suitability of the worker based on the comparison result. For example, when the difference between the estimated biometric information value and the measured biometric information value exceeds a predetermined threshold, it can be determined that the work is not appropriate. Alternatively, the appropriateness of the work may be determined stepwise in accordance with the magnitude of the difference between the estimated biological information value and the measured biological information value.
  • step S108 the signal processing apparatus 108 performs advice, warning, forcible stop of work, etc., for the worker via other devices such as the display device 107.
  • steps S102 to S108 can be repeatedly executed while the worker is working, for example, at predetermined time intervals.
  • data recorded in the past is used in step S105.
  • Work information indicating the work load and biometric information are stored in a database for a relatively long period for each individual. For example, for each operation, data can be repeatedly accumulated over a period of several days, one week, one month, several months, half a year, one year, several years.
  • Current biological information is estimated based on the accumulated data.
  • the estimated current biological information and the actually measured biological information actually measured are compared to determine the work suitability at the current time point.
  • a mechanism is constructed in which changes in workload and changes in biological information are learned, and biological information at the present time can be estimated in real time. Thereby, an operator's load can be estimated more correctly.
  • the relationship between the individual work load and the biological reaction is derived from the past data of the actual work load and the measured value of the biological information. From the relationship between the workload and the biological reaction, the current mental state or work suitability of the worker is estimated. The greatest difference from the conventional system is that the correlation between the individual workload and the biological information is derived from past measurement data and the current biological information is estimated based on the correlation.
  • a stable and highly accurate living body measuring device is used in order to stably determine the mental state. If it is attempted to always measure biological information during work, the sensor that contacts the body may interfere with the work. Moreover, in a contact-type sensor, the contact state of a sensor changes with the body movement accompanying a work
  • the non-contact living body sensing device 106 based on the imaging device is used in the embodiment shown in FIG. 1A. By using the imaging device, non-contact living body sensing without a sense of restraint can be realized.
  • the imaging apparatus has a large number of pixels arranged two-dimensionally, and can simultaneously acquire a large number of biological information.
  • a two-dimensional image signal is obtained in the imaging apparatus. It is also a great advantage that information on the difference in biological responses of different parts of the body can be acquired from this two-dimensional image signal. For example, it is known that nasal blood flow decreases and nasal temperature decreases due to mental stress. When the imaging device is used, it is possible to simultaneously measure the nasal blood flow and the forehead blood flow to be compared. For this reason, it is possible to stably measure changes in biological information.
  • the biological information acquisition method using the imaging device has many advantages, but also has problems. That is, it is difficult to obtain information on the inside of the body, which is necessary for determining the state of brain activity. This is because when an opaque subject such as a living body is photographed, most of the information on the light reflected from the body surface occupies the information on the light from the inside of the living body.
  • Near-infrared light has higher permeability to the human body than visible light, and is suitable for use in acquiring deeper information of a living body.
  • the ratio of the reflected light from the surface of the living body or the epidermis is higher than the reflected light from the inside of the living body. For this reason, the signal-to-noise ratio is lowered, and there is a problem that stable and highly accurate measurement cannot be performed.
  • FIG. 3A is a diagram schematically illustrating an imaging method using a light source that emits light having a uniform distribution.
  • FIG. 3B is a diagram schematically illustrating an imaging method using a light source that emits light subjected to time modulation.
  • FIG. 3C is a diagram schematically illustrating an imaging method using a light source that emits light subjected to spatial modulation.
  • the light source 601a emits light having a uniform distribution.
  • the light source 601a illuminates the living body 602 and captures an image
  • most of the signals acquired by the imaging device 603 are components due to light reflected by the surface. Since the ratio of light components from inside the living body is extremely small, sufficient accuracy cannot be obtained.
  • the light source 601b emits light subjected to time modulation.
  • the light source 601b is used to illuminate the living body 602, and the imaging timing of the imaging device 603 is controlled in synchronization with the modulation of the light from the light source 601b.
  • the time from light emission to detection can be changed by controlling the light emission time and the imaging timing.
  • the time from light emission to detection depends on the propagation distance of light from the light source 601b to the imaging device 603 via the living body 602.
  • the light source 601c emits spatially modulated light.
  • the living body 602 is irradiated with the light emitted from the light source 601c, and the imaging device 603 acquires a signal from a region outside the irradiation site.
  • the position of the light source 601c is separated from the detection position, the light reaches the detection position via an arc-shaped optical path called a banana shape.
  • the detected signal includes information on light that has passed through a deeper part of the living body. For this reason, the method using the light source 601c is suitable for the use of acquiring deep part information of a living body.
  • a system is designed based on the following new knowledge.
  • In order to reduce the influence of individual differences in biological reactions and build a practical work suitability determination system, it is effective to use biological information estimated from a database that records the relationship between biological information and workload. It is effective to use an imaging device including a light source that emits temporally or spatially modulated near-infrared light in order to improve the accuracy of biometric information acquisition.
  • near-infrared light that is, near-infrared light means an electromagnetic wave having a wavelength in a vacuum of about 700 nm to 2500 nm.
  • Embodiments of the present disclosure are not limited to forms using near infrared light. However, biosignals can be acquired with higher accuracy by using near-infrared light.
  • a work suitability determination system using a non-contact type cerebral blood flow measurement device will be described.
  • the work suitability level is determined from information on changes in the cerebral blood flow of the worker.
  • This embodiment is an example in which the work suitability determination system is applied to driver monitoring.
  • the target work is driving the vehicle, and the worker is a driver (also referred to as “driver”).
  • a cerebral blood flow measurement device that measures changes in cerebral blood flow using near-infrared light has been proposed.
  • the worker repeatedly performs a predetermined task and a break a plurality of times.
  • the certain task is, for example, calculation, storage, association, quiz, or the like.
  • the cerebral blood flow measurement device measures changes in cerebral blood flow during each period.
  • the degree of brain activity can be estimated from the data obtained by measurement. However, it is not realistic to repeat such a routine task when driving the vehicle.
  • an irregular work such as a driving operation is used as a task instead of a fixed task.
  • changes in cerebral blood flow are measured during the driving operation.
  • the surrounding environment is constantly changing during operation. For this reason, driving operation can always be a different task.
  • the workload is estimated based on information acquired by the acceleration sensor.
  • a task can be replaced by a driving operation that is a daily operation without using a fixed task.
  • “taskless cerebral blood flow measurement” becomes possible.
  • FIG. 4A is a diagram illustrating a configuration example of a work suitability determination system according to Embodiment 1 of the present disclosure.
  • the work suitability determination system includes a cerebral blood flow measurement device 401 and an acceleration sensor 403.
  • the cerebral blood flow measurement device 401 is an example of the above-described biological sensing device.
  • the acceleration sensor 403 is an example of the aforementioned work sensing device.
  • the cerebral blood flow measuring device 401 measures the cerebral blood flow of the driver 402.
  • the cerebral blood flow measurement device 401 is disposed at a position above the vehicle so as not to obstruct the field of view in front of the driver side windshield in front of the driver 402.
  • An acceleration sensor 403 is installed adjacent to the cerebral blood flow measurement device 401.
  • the acceleration sensor 403 monitors the status of driving work.
  • FIG. 4B is a diagram illustrating a schematic configuration of the cerebral blood flow measurement device 401 according to Embodiment 1 of the present disclosure.
  • the cerebral blood flow measurement device 401 includes a light source 601, an imaging device 603, and a control circuit 604.
  • the control circuit 604 is connected to the light source 601 and the imaging device 603.
  • the control circuit 604 controls the light source 601 and the imaging device 603.
  • the cerebral blood flow measuring device 401 measures the cerebral blood flow of the driver 402 in a non-contact manner using a TOF (Time Of Flight) type imaging device 603.
  • the light source 601 emits time-modulated light in accordance with an instruction from the control circuit 604.
  • the imaging device 603 captures images in synchronization with the emission of light from the light source 601 in accordance with instructions from the control circuit 604.
  • the imaging device 603 captures the forehead portion that is the measurement location of the driver 402.
  • the imaging device 603 includes at least one charge storage unit that receives light and stores signal charges.
  • the imaging device 603 includes a plurality of charge storage units arranged two-dimensionally. Thereby, a two-dimensional image signal can be acquired.
  • the light source 601 in the present embodiment is a light source that emits near-infrared pulsed light with wavelengths of 750 nm and 850 nm.
  • the light source 601 irradiates the forehead portion of the driver 402 with these two types of near infrared light.
  • the light source 601 can be, for example, a laser light source.
  • the imaging device 603 includes an image sensor including a plurality of light receiving elements arranged two-dimensionally. Each light receiving element is sensitive to infrared light of the two wavelengths. For this reason, the imaging device 603 acquires a two-dimensional image of the two types of infrared light irradiated on the forehead portion of the driver 402.
  • the control circuit 604 can measure the distance to the test part based on the time from when the light source 601 emits pulsed light until the reflected light reaches the imaging device 603.
  • the control circuit 604 temporally resolves the light signal returning from the forehead, and the intensity of the light component 404a reflected from the surface of the forehead and the light component 404b that has returned to the brain and returned. Measure strength.
  • the control circuit 604 controls the timing of the electronic shutter of the imaging device 603, and measures the intensity of each of the two light components 404a and 404b. Based on these two types of light intensities, changes in the oxygenated hemoglobin (HbO 2 ) concentration and deoxygenated hemoglobin (Hb) concentration in the brain blood can be measured.
  • HbO 2 oxygenated hemoglobin
  • Hb deoxygenated hemoglobin
  • the cerebral blood flow measuring device 401 measures changes in the concentrations of oxygenated hemoglobin and deoxygenated hemoglobin in the brain using the light source 601 that emits light of two wavelengths. Thereby, the work appropriateness of the driver 402 during driving can be determined.
  • the major role of blood is to receive oxygen from the lungs and carry it to the tissue, receive carbon dioxide from the tissue and circulate it to the lungs.
  • Light absorption characteristics differ between oxygenated hemoglobin and deoxygenated hemoglobin. Oxygenated hemoglobin absorbs near-infrared light having a wavelength exceeding about 830 nm relatively well. On the other hand, deoxygenated hemoglobin absorbs near infrared rays relatively well from red light having a wavelength shorter than 830 nm.
  • the near infrared ray having a wavelength of 830 nm there is no difference in the absorptivity between the two. From the intensity ratio of these infrared light and red light, the ratio of two types of hemoglobin or the oxygen saturation can be obtained.
  • the oxygen saturation is a value indicating how much hemoglobin in the blood is associated with oxygen.
  • C (Hb) represents the concentration of deoxygenated hemoglobin
  • C (HbO 2 ) represents the concentration of oxygenated hemoglobin.
  • the living body contains a component that absorbs light having a wavelength from red to near infrared.
  • the temporal variation in the light absorption rate is mainly caused by hemoglobin in arterial blood. Therefore, the concentration change and / or blood oxygen saturation of two types of hemoglobin can be measured with high accuracy based on the change in absorption rate.
  • Arterial blood pumped from the heart moves in the blood vessel as a pulse wave.
  • venous blood has no pulse wave.
  • the light incident on the living body is absorbed by each layer of the living body such as the arteries and veins and tissues other than blood and passes through the living body. At this time, the thickness of the tissue other than the artery does not vary with time.
  • the scattered light from the living body shows temporal intensity changes according to changes in the thickness of the arterial blood layer due to pulsation.
  • This change reflects changes in arterial blood layer thickness and does not include venous blood and tissue effects. Therefore, arterial blood information can be obtained by focusing only on the fluctuation component of the scattered light. By measuring the period of the component that changes with time, the pulse can also be obtained.
  • the light source 601 that emits light of two wavelengths.
  • a light source that emits near-infrared rays having a single wavelength exceeding 830 nm may be used.
  • FIG. 5 is a diagram illustrating a configuration of the work suitability determination system 200 according to the first embodiment of the present disclosure.
  • the work suitability determination system 200 includes an authentication device 201, a signal processing device 208, a storage device 204, and a display device 206 in addition to the acceleration sensor 403 and the cerebral blood flow measurement device 401 described above.
  • the signal processing device 208 includes a biological information estimation unit 203 and a driving suitability determination unit 207.
  • the acceleration sensor 403 functions as a work sensing device
  • the cerebral blood flow measurement device 401 functions as a living body sensing device.
  • the authentication device 201 authenticates a driver who is an operator.
  • the authentication device 201 includes an imaging device. At the start of operation, the imaging device acquires an image of the driver's face. By comparing this face image with a face image recorded in advance in the storage device 204, the driver is specified.
  • the imaging device in the authentication device 201 may be the same device as the imaging device 603 in the cerebral blood flow measurement device 401.
  • the cerebral blood flow measurement device 401 also specifies a driver by face authentication using an image used for cerebral blood flow measurement.
  • the cerebral blood flow measuring device 205 also has a camera function.
  • the image due to the light component 404a reflected from the surface of the driver's face is similar to the image acquired by a normal camera. Therefore, personal authentication can be easily performed using the image output from the cerebral blood flow measurement device 401.
  • one device may serve as both the function of the authentication device and the function of the biological sensing device.
  • the acceleration sensor 403 monitors the current driving situation and measures the workload of the driver 402.
  • the acceleration sensor 403 is not only the degree of acceleration and deceleration during driving, but also the integrated value of the acceleration indicating the driving speed, the lateral acceleration indicating the cornering speed on the curve, and the periodic lateral acceleration fluctuation indicating the wobbling of the vehicle. Can also be monitored. For this reason, the acceleration sensor 403 is effective in grasping the driving operation status of the driver 402.
  • the work suitability determination system 200 may include a communication circuit to enable data transmission / reception with the vehicle. In such a system, not the acceleration sensor 403 but a computer in the vehicle functions as a work sensing device. If the acceleration sensor 403 is used as in this embodiment, a system can be constructed at a low cost. In addition, a system can be simply configured without integrating different information for each vehicle type. If information communication of automobiles will evolve in the future and vehicle information can be easily acquired, driving information can be easily received from the vehicle without providing the acceleration sensor 403 in the work suitability determination system 200.
  • the acceleration sensor 403 can monitor various driving situations such as acceleration, deceleration, driving speed, cornering speed, and vehicle wobbling during driving. Based on at least a part of the information, it is possible to calculate the load of the driving work.
  • the driving load increases as the acceleration or deceleration increases, the vehicle speed increases, and the cornering speed increases.
  • keeping the vehicle stable in the lane also increases the driving load.
  • Vehicle wobble indicates that the vehicle is not stably maintained in the lane. Therefore, the wobbling of the vehicle itself is an important indicator for proper driving. Vehicle wobbling can be detected from periodic changes with small lateral acceleration. In the calculation of the driving load, the wobbling works in the direction of reducing the driving load.
  • FIG. 6 shows an example of calculation results of acceleration ⁇ (t), speed v (t), and driving load L (t) when driving operations of acceleration and deceleration are performed.
  • the driving load L (t) can be easily calculated from the data of the acceleration sensor 403 based on the equation (1).
  • the calculation of the driving load L (t) can be executed by a processor built in or connected to the acceleration sensor 403.
  • the signal processing device 208 may calculate the operating load L (t).
  • the cerebral blood flow measuring device 401 measures the cerebral blood flow of the driver 402 continuously or intermittently in a non-contact manner by the method described above.
  • FIG. 7 shows an example of measured values of changes in the driver's cerebral blood flow when a vehicle driving test is performed on a test course.
  • the driver performed a driving task that repeated acceleration, deceleration, and stop cycles every 40 seconds.
  • a section indicated by shading indicates a period during which acceleration or deceleration is performed, and a white portion indicates a period during which the vehicle is stopped.
  • HbO 2 oxygenated hemoglobin
  • Hb deoxygenated hemoglobin
  • the signal processing device 208 accumulates the acquired individual biometric information and driving load in the storage device 204 and constructs a database.
  • the biological information estimation unit 203 in the signal processing device 208 estimates current biological information from the accumulated data.
  • the estimated biometric information is the value of the current biometric information estimated from the past driving load and the biometric information of the driver 402 who is an operator. The operation of the biological information estimation unit 203 will be described in more detail.
  • An estimated value of a change in cerebral blood flow can be calculated by convolving and integrating a hemodynamic response function (HRF) with a work load obtained from data acquired by the acceleration sensor 403.
  • the hemodynamic response function is a function that represents a temporal change in cerebral blood flow change caused by brain activity.
  • a formula for calculating the amount of change in cerebral blood flow is expressed by, for example, formula (2).
  • HRF i (t) is the hemodynamic response function of driver i
  • L i (t) is the workload of driver i
  • ⁇ HbO i (t) is the amount of change in oxygenated hemoglobin concentration estimated by driver i. is there.
  • the symbol “*” represents a convolution integral.
  • the cerebral blood flow measuring apparatus 401 in the present embodiment can measure both oxygenated hemoglobin concentration and deoxygenated hemoglobin concentration. However, in this example, only the change in oxygenated hemoglobin concentration is used as the amount of change in cerebral blood flow accompanying brain activity. This is because, as shown in FIG.
  • the oxygenated hemoglobin concentration and the deoxygenated hemoglobin concentration change inversely, and the amount of change is larger in the oxygenated hemoglobin concentration.
  • the deoxygenated hemoglobin concentration can also be utilized, for example, for detection of abnormality in measurement data. If the measurement is performed correctly, the two are reversed as described above. However, when some disturbance occurs, such as fluctuations in irradiation light or body movement, both may change in the same direction in conjunction with each other. By monitoring the concentration of deoxygenated hemoglobin, measurement abnormality can be easily detected, and such abnormal data can be removed. The important point here is that the hemodynamic response function HRF i (t) and the work load L i (t) change with time.
  • HRF i (t) The hemodynamic response function HRF i (t) can be approximated by the function shown in Equation (3).
  • HRF i (t) A o ((t ⁇ ) / ⁇ ) 2 exp ( ⁇ ((t ⁇ ) / ⁇ ) 2 ) (3)
  • a o is a variable of this equation, [delta], and a tau, is k 4 from k 1 in the formula (1) representing the workload L i (t), it is constantly recalculated from the measurement results.
  • FIG. 8A is a diagram showing an example of the hemodynamic response function HRF i (t).
  • FIG. 8B is a diagram illustrating an example of the work load L i (t).
  • FIG. 8C is a diagram illustrating an example of the change amount ⁇ HbO i (t) of the oxygenated hemoglobin concentration.
  • the change amount ⁇ HbO i (t) of the oxygenated hemoglobin concentration shown in FIG. 8C is calculated by the method shown in Expression (2) using the functions shown in FIGS. 8A and 8B. And calculated ⁇ HbO i, as the DerutaHbO m is a variation of the actually measured oxygenated hemoglobin concentration is identical, A o, ⁇ , ⁇ , and k 1 from k 4 is gradually optimized. For the calculation, not only the data at the current time point but also the time-dependent data weighted in the time direction is used. Multivariate analysis is used for parameter determination. In addition to this example, it is also possible to determine parameters with higher accuracy using machine learning.
  • the signal processing device 208 learns and optimizes a biometric information estimation formula in real time from the individual biometric information and driving load database stored in the storage device 204. As a result, it is possible to determine the driving suitability of the driver with high accuracy. By creating a database for each individual, the influence of individual differences was removed, and by accumulating personal data, it became possible to estimate changes in individual biometric information with high accuracy. In addition, by calculating the load associated with driving based on data from the acceleration sensor 403, it is possible to estimate changes in biological information with respect to work or driving conditions that change with time.
  • FIG. 9A is a diagram showing an estimated value (dotted line) and an actual measurement value (solid line) of cerebral blood flow change during normal operation.
  • FIG. 9B is a diagram showing an estimated value (dotted line) and an actual measurement value (solid line) of a change in cerebral blood flow in a state in which driving suitability is lacking.
  • the change in cerebral blood flow here is a change in oxygenated hemoglobin concentration.
  • the vertical axis on the left side of FIG. 9A indicates a change in oxygenated hemoglobin concentration ( ⁇ HbO), and the vertical axis on the right side indicates acceleration.
  • the vertical axis on the left side of FIG. 9B indicates the change in oxygenated hemoglobin concentration ( ⁇ HbO), and the vertical axis on the right side indicates the speed. Changes in cerebral blood flow are seen behind the driving operation of acceleration and deceleration.
  • the driving suitability determination unit 207 compares the estimated biological information with the actually measured biological information. When there is no problem with the driver's driving suitability, as shown in FIG. 9A, the current cerebral blood flow change estimated from the database and the measured cerebral blood flow change substantially coincide. On the other hand, if there is some abnormality in the driver, as shown in FIG. 9B, a difference larger than the variation value calculated from the past data is generated between the estimated value of the biological information and the actually measured value. In the example shown in FIG. 9B, the actually measured cerebral blood flow change amount is significantly smaller than the estimated cerebral blood flow change amount. When such a situation continues, the driving suitability determination unit 207 determines that the driving suitability is not sufficient.
  • the driving suitability determination unit 207 alerts the driver 402, switches warning modes, or switches driving modes via a device such as the display device 206 or a speaker (not shown). For example, voice advice such as “Looks a little tired. Take a deep breath” may be given to the driver via a speaker. Alternatively, it may automatically increase ventilation, introduce outside air, or issue a warning such as “Please stop the vehicle in a safe place because it is dangerous”. If the vehicle is equipped with a driving assistance system, measures such as stopping the vehicle in a safe place or switching to automatic driving may be performed according to the driving suitability of the driver.
  • the system in this embodiment is a stand-alone driver monitoring system that can be added later to an existing vehicle. All the components shown in FIG. 1 are mounted in an integrated system as shown in FIG. 4A.
  • intelligent vehicles have been advanced.
  • a vehicle is equipped with a high-performance computing device or computer, and information on various sensors of the vehicle can be integrated to grasp the vehicle status. Further, it has a communication function such as the Internet, and can exchange information with a computer outside the vehicle.
  • a part of the functions shown in FIG. 1 can be incorporated as software on the computer side of the vehicle.
  • only the biological sensing device 106 can be hardware, and other functions can use the functions of the vehicle.
  • Vehicle operation information (for example, operation of an accelerator, a brake, or a steering wheel) grasped by the vehicle computer can be used as output information of the work sensing device 102.
  • the vehicle computer also has a storage device. For this reason, only the biological sensing device 106 can be used as unique hardware, and other functions can be installed as software in the vehicle hardware. As described above, it is possible to select which part of the system of FIG. 1 is used as dedicated hardware and which part is installed as software on the vehicle computer in accordance with the type and situation of the vehicle to be installed.
  • driver monitoring system of the present embodiment it is possible to constantly monitor the driver's driving suitability stably by reducing false detection due to individual differences and driving condition differences.
  • non-contact cerebral blood flow monitoring allows the driver to constantly monitor the driver without feeling a sense of restraint and pressure. For this reason, safer and more comfortable driving becomes possible.
  • the work suitability determination system in this embodiment measures the work stress of the worker.
  • the purpose of this embodiment is to grasp the workload status of workers involved in office work using a computer such as a PC, for example, and to improve work efficiency and prevent mental health problems of workers.
  • This work suitability determination system evaluates a mental load caused by work in the workplace.
  • an imaging system including a light source that emits temporally modulated near-infrared pulsed light is used for acquiring biological information.
  • an imaging system including a light source that emits spatially modulated near-infrared light is used to acquire biological information.
  • biological signals related to stress are known. It is known that biological signals such as heart rate variability, nasal temperature, blink frequency, respiration frequency, or respiration depth described above are related to the stress state.
  • a problem in using these biological signals for stress check is individual differences in biological reactions. As shown in FIG. 2, the biological reaction has a large individual difference and cannot be used as an objective stress evaluation index as it is. FIG. 2 shows the result of heartbeat fluctuation due to stress. Similarly, it is not possible to determine the degree of stress directly based on only the measured numerical values for other physiological indices that are recognized to be correlated with stress. In this case as well, as in the first embodiment, there are individual differences in biological reactions, reproducibility, and stability of work tasks.
  • the work suitability determination system of this embodiment is provided.
  • the current biological information predicted from the work is estimated from the individual workload and the biological information database.
  • the estimated current biological information and the actually measured biological information are compared to determine the work suitability at the current time point.
  • a work suitability determination system related to work using a computer such as a PC also has the configuration shown in FIG. 1A.
  • the determination of the work suitability is performed according to the flowchart shown in FIG. 1B.
  • a computer such as a PC is used for the work.
  • a work suitability determination system can be operated by using the computing power of the work computer.
  • the biological sensing device 106 is unique hardware. All other components are stored as hardware or software in the computer. With the start of the computer work of the worker, the work suitability is determined in the background of the target work.
  • the biological sensing device 106 which is hardware different from the computer, is connected to the computer. Information acquired by the biological sensing device 106 is processed by a computer.
  • the authentication device 101 performs personal authentication based on the ID input by the worker. For example, personal authentication is performed when an operator inputs an ID and a password using a keyboard connected to a computer such as a PC. Regarding a computer for business use, an individual is usually specified by an individual ID input and password input or biometric authentication at the stage of login before starting work. The personal authentication of the system may be performed using the personal authentication data of the computer.
  • the work suitability determination system of this embodiment can also be called a work stress measurement system.
  • FIG. 10A is a diagram schematically showing the overall configuration of the work suitability determination system of the present embodiment. Similar to the system of the first embodiment, this system also includes a cerebral blood flow measurement device 401 as the biological sensing device 102.
  • the cerebral blood flow measurement device 401 is disposed on the screen of the computer 410 in front of the worker 402, for example.
  • the cerebral blood flow measurement device 401 in this embodiment includes a near-infrared dot array light source and a near-infrared imaging device.
  • the cerebral blood flow measurement device 401 measures the facial blood flow of the worker 402.
  • the system of this embodiment can monitor the blood flow on the face, heart rate, and heart rate variability without contact.
  • FIG. 10B is a diagram showing a schematic configuration of the cerebral blood flow measuring device 401 in the present embodiment.
  • the cerebral blood flow measurement device 401 includes a light source 601c such as a laser that projects a dot pattern of near infrared light, an imaging device 603 that acquires a near infrared image, and a control circuit 604.
  • the light source 601c irradiates a living body (here, the head of the worker 402).
  • the imaging device 603 captures an image of the face of the worker 402 irradiated with near infrared light.
  • the captured image is analyzed by the control circuit 604.
  • the control circuit 604 may be a processor built in a computer such as a PC. In that case, the cerebral blood flow measuring device 401 is realized by a combination of the processor, the light source 601c outside the computer, and the imaging device 603.
  • FIG. 11A shows an example of a captured near-infrared image. Since a dot array light source is used, a strong luminescent spot corresponding to the irradiation position of the dot array and a relatively weak signal around it can be obtained.
  • the relatively weak signal in the peripheral part is a signal due to relatively weak light that enters the body, scatters in the body, and returns to the surface. Human skin has a small absorption coefficient and a large scattering coefficient for near-infrared light. For this reason, light transmitted through the surface of the skin is diffused by repeating multiple scattering in the body and is emitted from the body surface over a wide range.
  • the light source which projects not only a dot array pattern but the near infrared light of a line and space pattern or a checkered pattern may be used, for example. Even when such a light source is used, a similar biological signal can be obtained.
  • FIG. 11B is an enlarged view of an image of a living body information detection area.
  • the information detection area in this example is an operator's forehead area indicated by a dotted frame in FIG. 11A.
  • Scattered light 501 in the body scattered and returned from the inside of the skin is detected around the projected dot pattern of infrared light.
  • the surface reflected light 502 includes information on the skin surface, and the in-body scattered light 501 includes blood information of capillaries in the body. Therefore, the blood flow information in the body can be acquired by extracting and calculating only the data corresponding to the in-vivo scattered light 501 from the image data.
  • FIG. 11C shows an example of the heartbeat signal acquired in this way. From this heartbeat signal, heartbeat variability or heartbeat fluctuation can be obtained. Furthermore, since the absolute value of the reflection intensity of the scattered light in the body corresponds to the blood volume on the surface, the blood volume can be calculated from the signal.
  • a method of detecting biological information by averaging pixel data of a whole region of a biological part in an image is common.
  • the biological information sensing system of this embodiment uses a dot array light source, unnecessary surface reflection light components on the skin surface are removed from the two-dimensional image, and the in-vivo scattered light including biological information is generated. It can be selectively extracted.
  • Biological information can be acquired with high accuracy by efficiently extracting scattered light in the body.
  • the work situation of the worker is performed by analyzing the input to the computer.
  • the work being performed is input to the PC.
  • work information by monitoring the type of application being used and keyboard input or mouse input.
  • work content is word processor work and the number of input characters per unit time is 50 characters / minute”
  • work content is spreadsheet software work and the number of input items per unit time is 30 items / minute”.
  • the history of work information can be easily acquired.
  • the work sensing device 102 in this embodiment is realized by a combination of a processor in a computer and an input device such as a keyboard and a mouse.
  • FIG. 12 is data showing a one-week work load and biometric information regarding one worker acquired by the system of the present embodiment.
  • the work content is input work in a word processor, and the work load is the number of input words.
  • biometric information LF / HF, which is an index of sympathetic nerve activity or a stress index, was used.
  • LF is a low frequency component of heart rate variability
  • HF is a high frequency component.
  • the range of the high frequency component is 0.20 Hz or more and less than 0.35 Hz
  • the range of the low frequency component is 0.05 or more and less than 0.20 Hz.
  • an average distribution weighted on the time axis from relatively long-term data as shown in FIG. 12 is created for each worker from the individual work history and biometric information database. This distribution is used as the estimated current biological information.
  • the long-term average distribution represents the relationship between the worker-specific workload and biological information. This is because if the worker is in a normal state, the actual biological information is considered to indicate biological information close to this distribution.
  • the data for example, the plot of the graph shown in FIG. 12
  • the biological reaction obtained by the work for a relatively short time for example, about 1 hour
  • the above processing is executed by the biological information estimation unit 103 in the signal processing device 108.
  • the system according to the present embodiment grasps the work load and the biological reaction as a frequency map, and determines whether or not the worker is working properly.
  • the work suitability determination unit 105 in the signal processing device 108 compares the estimated current biological information map, that is, the long-term average distribution, with the current biological information map, that is, the short-term average distribution. As a result, it is possible to determine the suitability of the worker. For example, in the current map, if the ratio of the data belonging to the area B shown in FIG. 12 is higher than that of the past data map, the work can be performed with high work efficiency. On the other hand, when the ratio of the data belonging to the area A is high, it is estimated that the state is not concentrated on the work, that is, the state of arousal is low or the work is tired.
  • the work suitability determination system displays advice on the display device 107 (for example, a computer display) such as “Slight concentration has been reduced slightly. Please refresh by performing stretching.” .
  • the system can display an advice such as “Looks a little tired, please take a coffee break” on the display device 107.
  • this system was built on the computer terminal of one worker who worked on input with a word processor, and data was acquired over a relatively long period of time.
  • the period of data acquisition is 3 months.
  • the main work of the operator is an input work with a word processor.
  • FIG. 13A shows the relationship between the number of input words per unit time at the time of the work obtained from the input work for three months and the LF / HF at the time of input.
  • the average input speed was about 75 characters / minute.
  • the value of LF / HF is increased by about 1.3 times compared with the normal time when the work is not performed, and it can be seen that the work is in a light tension state.
  • This distribution represents the relationship between the fluctuation of the work load of the target worker over a long period of time and the fluctuation of the biological information. Unless there is a particular abnormality in the physical condition and mental state of the worker, it will not deviate greatly from this distribution. Such distribution is treated as estimated biological information.
  • This distribution was compared with the current biological information, and the operator's suitability was determined.
  • the current biological information the number of input words and the distribution of changes in biological information in a short time (in this example, every hour) were obtained.
  • two types of unique distributions were measured. Examples of the distribution are shown in FIGS. 13B and 13C.
  • the number of input characters is reduced as compared with the distribution of FIG. 13A, and in this case, the work efficiency is also reduced.
  • the LF / HF representing the stress is higher than that when performing highly efficient work. From this, it can be presumed that at this time, the work efficiency was lowered due to fatigue accompanying the work.
  • the data indicating the relationship between the long-term work load and the biological information shown in FIG. 13A is constantly updated with the latest data.
  • the current work efficiency or work suitability is determined by comparing the work load and biometric information distribution over a relatively long period of time with the current work load and biometric information distribution over a relatively short period of time. can do.
  • by monitoring changes in the work load and biological information distribution over a relatively long period of time it is possible to efficiently take measures against mental health problems.
  • the present embodiment is a work suitability determination system for the purpose of improving learning efficiency in learning using a computer such as a PC.
  • the work appropriateness determination system in the present embodiment can also be referred to as a learning appropriateness determination system.
  • the system can be used, for example, in school, cram school, or online learning.
  • the worker in the present embodiment is a learner, and the work content is learning using a computer.
  • the present embodiment provides a system that determines a learner's concentration level or learning appropriateness level during learning and provides feedback to learning.
  • a computer is used as in the second embodiment.
  • the hardware configuration similar to the hardware configuration in Embodiment 2 can be used.
  • FIG. 10A only the biological sensing device 401 is unique hardware, and is used by being connected to a computer 410 such as a PC. Of the components shown in FIG.
  • all the components other than the biological sensing device 401 are stored in the computer 410 as hardware or software.
  • the computer 410 performs work appropriateness determination in the background of the target work as the worker starts the computer work.
  • the learning software cooperates with this system, the learning content can be changed according to the degree of understanding and concentration of the person, and efficient learning becomes possible.
  • personal authentication is performed by inputting an ID on a computer such as a PC.
  • the hardware configuration of the cerebral blood flow measurement device 401 is the same as that in the second embodiment.
  • the cerebral blood flow measurement device 401 includes a light source 601 c that is a near-infrared dot array light source and an imaging device 603.
  • the system of the second embodiment measures a heart rate from a change in blood flow of the face, and uses heart rate fluctuations as biological information.
  • the system of this embodiment determines the degree of concentration from the change in blood flow in the nose.
  • FIG. 14A shows an example of a captured near-infrared image.
  • FIG. 14B is an enlarged view of an image of a living body information detection region.
  • the biological information detection area is a nose area indicated by a dotted frame in FIG. 14A.
  • In-body scattered light 501 scattered inside the skin is detected around the projected dot pattern.
  • FIG. 14C shows an example of blood flow information acquired in this way. As the blood flow increases, the reflectance decreases due to the absorption of light by the blood. Therefore, a change in blood flow can be detected from the reflected light signal. The difference between the signal shown in FIG.
  • FIG. 14C and the signal shown in FIG. 11C is the width of the vertical axis, and the change in reflectance due to heartbeat fluctuation is small compared to the change in blood flow.
  • FIG. 14C shows the result of removing the influence of heart rate variability by performing time moving average.
  • the measurement result of the blood flow change in the forehead is also shown as comparison data.
  • the system of the present embodiment measures both blood flow changes in the forehead and nose, and uses the measurement result of the forehead as a reference. As a result, it is possible to remove the influence of disturbance such as illuminance change and body movement of the illumination light, and stably detect the presence or degree of psychological stress based on the blood flow change of the nose.
  • the learner proceeds with learning in accordance with an instruction from software installed on a PC or tablet computer (hereinafter referred to as “learning software”), for example. For this reason, the learning content is always grasped by the computer.
  • the cerebral blood flow measurement device 401 measures changes in blood flow when the learning software presents a problem and the learner answers.
  • the cerebral blood flow measurement device 401 acquires data as shown in FIG. 14C. When concentrated on the answers, the blood flow in the nose decreases and the reflectance of near-infrared light increases.
  • the biological information estimation unit 103 analyzes long-term data on the learner's workload and biological reaction, and constructs an individual database in the storage device 104.
  • the work load in the present embodiment is an answer situation to the problem, and the biological reaction is a change in nasal blood flow.
  • Data regarding the time from problem presentation to answer, the difficulty level of the problem, and whether the learner's answer is correct or incorrect can be obtained from the computer 410.
  • the biological information estimation unit 103 calculates the average amount of change in the nasal blood flow of the learner under the conditions. In the present embodiment, this amount of change is used as an estimated value of biological information.
  • the work suitability determination unit 105 in the signal processing device 108 compares the estimated change in the current nasal blood flow with the current change in the actually measured nasal blood flow. Thereby, the learner's learning situation can be grasped. If the answer time is shorter than the expected time and the amount of change in nasal blood flow is smaller than the estimated value, it can be determined that the problem is too easy for the learner's current academic ability level. In that case, it becomes possible to present a more advanced problem or to proceed to the next learning step. When the answer time is longer than the expected time and the change amount of the nasal blood flow is smaller than the estimated value, it is estimated that the degree of concentration on learning is insufficient. For this reason, attention can be given through a computer display or advice can be given to change the mood.
  • the work appropriateness determination unit 105 provides learning content corresponding to the work appropriateness to the learner according to the determination result of the learner.
  • the present disclosure also includes a computer program that defines the operations executed by the signal processing device 108 shown in FIG. 1A.
  • a computer program is stored in a recording medium such as a memory in the work suitability determination system, and causes the signal processing device 108 to execute each operation described above.
  • the present disclosure can be used for a work suitability determination system that determines work suitability of an operator based on the estimated worker biometric information and the measured worker biometric information.

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Public Health (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Automation & Control Theory (AREA)
  • Pathology (AREA)
  • Surgery (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Security & Cryptography (AREA)
  • Human Computer Interaction (AREA)
  • Psychology (AREA)
  • Developmental Disabilities (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Hospice & Palliative Care (AREA)
  • Educational Technology (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Optics & Photonics (AREA)
  • Child & Adolescent Psychology (AREA)
  • Software Systems (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Toxicology (AREA)

Abstract

本開示の一態様に係る作業適正度判定システムは、作業者の特徴に基づき作業者を特定し、作業者を特定する情報を出力する認証装置と、作業者の生体情報を取得し、生体情報を出力する生体センシング装置と、作業者が行っている作業の負荷を検出し、作業の負荷を示す作業情報を出力する作業センシング装置と、記憶装置と、信号処理装置と、を備える。信号処理装置は、作業者が作業を行っている間、作業者を特定する情報と、生体情報と、作業情報と、時刻情報とを関連付けて記憶装置に蓄積させ、記憶装置に蓄積された、過去における作業情報の時間推移と生体情報の時間推移との相関関係に基づいて、現在における作業者の生体情報を推定し、推定された生体情報と、生体センシング装置によって取得された生体情報と、を比較することにより、現在における作業者の作業の適正度を判定する。

Description

作業適正度判定システム
 本開示は、作業者の現時点の作業適正度を判定するシステムに関する。
 日常の作業において精神の集中度は極めて重要である。注意力を欠いた散漫な作業は、効率の低下だけでなく、事故に繋がる危険がある。例えば、業務中に集中度を欠くと、作業効率の低下と生産性の低下を招く。さらに、車両の運転時に集中力を欠いたり、眠気に襲われたりすることは、交通事故の直接の原因となり得る。集中度を常時モニタし、その時々の集中度または緊張度に応じて適切な助言または補助ができれば、作業効率の向上または安全性の向上に貢献できる。実際、このような取り組みは数多く提案されている。例えば、精神の集中度を様々な生体情報から判定して、集中度に応じて助言または補助を行う技術が提案されている。特許文献1から3は、そのような技術の例を開示している。
特開2002-65650号公報 特許第6003782号公報 特許第5119375号公報
 作業の適正度に関わる精神状態を判定する従来のシステムには、生体情報の個人差が大きく、同一人物でも計測ごとにばらつきが大きいという課題があった。
 本開示は、生体情報の個人差の影響を抑え、安定して作業者の作業の適正度を判定することができる作業適正度判定システムを提供する。
 本開示の一態様に係る作業適正度判定システムは、作業者の特徴に基づき作業者を特定し、前記作業者を特定する情報を出力する認証装置と、前記作業者の生体情報を取得し、前記生体情報を出力する生体センシング装置と、前記作業者が行っている作業の負荷を検出し、検出された前記作業の前記負荷を示す作業情報を出力する作業センシング装置と、記憶装置と、信号処理装置と、を備える。前記信号処理装置は、前記作業者が前記作業を行っている間、前記作業者を特定する前記情報と、前記生体情報と、前記作業情報と、時刻情報とを、関連付けて前記記憶装置に蓄積させ、前記記憶装置に蓄積された、過去における前記作業情報の時間推移と前記生体情報の時間推移との相関関係に基づいて、現在における前記作業者の前記生体情報を推定し、推定された現在における前記作業者の前記生体情報と、前記生体センシング装置によって取得された現在における前記作業者の前記生体情報と、を比較することにより、現在における前記作業者の前記作業の適正度を判定する。
 本開示の包括的または具体的な態様は、素子、装置、システム、方法、またはこれらの任意の組み合わせによって実現されてもよい。
 本開示の一態様によれば、個人差の影響を抑え、安定して作業の適正度の判定を行うことが可能になる。
本開示の例示的な実施形態における作業適正度判定システムの構成を示す図 本開示の例示的な実施形態における作業適正度判定システムの動作の例を示す図 ストレスによる生体反応の個人差を示す説明図 均一な分布を持つ光を出射する光源を用いた撮像装置を示す図 時間変調された光を出射する光源を用いた撮像装置の概念を示す図 空間変調された光を出射する光源を用いた撮像装置の概念を示す図 本開示の実施形態1に係る作業適正度判定システムの配置例を示す図 本開示の実施形態1に係る脳血流計測装置の概略を表す図 本開示の実施形態1に係る作業適正度判定システムの構成を表す図 運転の作業負荷の計算例を示す図 運転タスク時の脳血流変化の実測値を表す図 脳血流の推定方法を説明するための第1の図 脳血流の推定方法を説明するための第2の図 脳血流の推定方法を説明するための第3の図 正常運転時における推定された脳血流変化と実測された脳血流変化を示す図 運転適正を欠いた状態における推定された脳血流変化と実測された脳血流変化を示す図 本開示の実施形態2に係る作業ストレスを測定するシステムの配置例を示す図 実施形態2における脳血流計測装置の構成例を示す図 実施形態2における生体情報取得の信号処理を説明するための第1の図 実施形態2における生体情報取得の信号処理を説明するための第2の図 実施形態2における生体情報取得の信号処理を説明するための第3の図 作業時の作業状況と生体情報との関係の例を示す図 長期間のデータに基づいて推定された生体情報および作業情報の分布を示す図 実測された生体情報分布の一例を示す図 実測された生体情報分布の他の例を示す図 実施形態3における生体情報取得の信号処理を説明するための第1の図 実施形態3における生体情報取得の信号処理を説明するための第2の図 実施形態3における生体情報取得の信号処理を説明するための第3の図
 本開示は、以下の各項目に記載の作業適正度判定システム、方法、及びコンピュータプログラムを含む。
[項目1]
 本開示の項目1に係る作業適正度判定システムは、
作業者の特徴に基づき作業者を特定し、前記作業者を特定する情報を出力する認証装置と、
 前記作業者の生体情報を取得し、前記生体情報を出力する生体センシング装置と、
 前記作業者が行っている作業の負荷を検出し、検出された前記作業の前記負荷を示す作業情報を出力する作業センシング装置と、
 記憶装置と、
 信号処理装置と、
を備える。
 前記信号処理装置は、
 前記作業者が前記作業を行っている間、前記作業者を特定する前記情報と、前記生体情報と、前記作業情報と、時刻情報とを、関連付けて前記記憶装置に蓄積させ、
 前記記憶装置に蓄積された、過去における前記作業情報の時間推移と前記生体情報の時間推移との相関関係に基づいて、現在における前記作業者の前記生体情報を推定し、
 推定された現在における前記作業者の前記生体情報と、前記生体センシング装置によって取得された現在における前記作業者の前記生体情報と、を比較することにより、現在における前記作業者の前記作業の適正度を判定する。
[項目2]
 項目1に記載の作業適正度判定システムにおいて、
 前記認証装置は、前記作業を行う前に個人認証コードを前記作業者が入力することを可能にする入力装置を含み、
 前記認証装置は、入力された前記個人認証コードに基づいて前記作業者を特定してもよい。
[項目3]
 項目1に記載の作業適正度判定システムにおいて、
 前記認証装置は、指紋、掌紋、虹彩、および静脈パターンからなる群から選択される少なくとも1つを用いて前記作業者を特定する生体認証装置を含んでいてもよい。
[項目4]
 項目1に記載の作業適正度判定は、
 前記作業者の画像を撮像して前記画像のデータを取得する撮像装置をさらに備え、
 前記認証装置は、取得された前記画像の前記データに基づいて、前記作業者を特定してもよい。
[項目5]
 項目1から4のいずれかに記載の作業適正度判定システムにおいて、
 前記生体センシング装置は、
 前記作業者から離れた地点に配置され、
 前記作業者の頭部を含む画像を撮像して前記画像のデータを取得する撮像素子を含み、
 取得した前記画像の前記データに基づいて、前記作業者の前記生体情報を取得してもよい。
[項目6]
 項目1から4のいずれかに記載の作業適正度判定システムにおいて、
 前記生体センシング装置は、
 空間的または時間的に変調された近赤外光を出射する光源と、
 前記光源によって照射された前記作業者の顔部を含む画像を撮像する撮像素子と、
を含んでいてもよい。
[項目7]
 項目6に記載の作業適正度判定システムにおいて、
 前記近赤外光は、ドットアレーパターン、ラインアンドスペースパターン、または市松パターンで空間的に変調されていてもよい。
[項目8]
 項目6に記載の作業適正度判定システムにおいて、
 前記近赤外光は、パルス光であり、
 前記撮像素子は、前記パルス光を受けて信号電荷を蓄積する少なくとも1つの電荷蓄積部を含んでいてもよい。
[項目9]
 項目1から8のいずれかに記載の作業適正度判定システムにおいて、
 前記信号処理装置は、前記記憶装置に蓄積された前記相関関係を、多変量解析によって解析することにより、現在における前記作業者の前記生体情報を推定してもよい。
[項目10]
 項目1から8のいずれかに記載の作業適正度判定システムにおいて、
 前記信号処理装置は、前記記憶装置に蓄積された前記相関関係を、機械学習によって学習し、学習結果に基づいて、現在の前記作業者の前記生体情報を推定してもよい。
[項目11]
 項目1から10のいずれかに記載の作業適正度判定システムにおいて、
 前記作業者は、車両を運転する運転者であり、
 前記作業は、前記車両の運転であり、
 前記作業情報は、前記車両の運転操作に関する情報であってもよい。
[項目12]
 項目11に記載の作業適正度判定システムにおいて、
 前記運転操作は、アクセル操作、ブレーキ操作、およびハンドル操作からなる群から選択される少なくとも1つを含んでいてもよい。
[項目13]
 項目11または12に記載の作業適正度判定システムにおいて、
 前記作業センシング装置は、加速度センサを含み、
 前記信号処理装置は、前記加速度センサから出力される情報に基づいて、前記運転操作に関する情報を推定してもよい。
[項目14]
 項目11から13のいずれかに記載の作業適正度判定システムにおいて、
 前記車両は、運転補助を含む自動運転機能を有し、
 前記信号処理装置は、判定された前記運転者の前記適正度に応じて、前記運転補助の内容を決定し、前記車両に前記運転補助を実行させてもよい。
[項目15]
 項目1から10のいずれかに記載の作業適正度判定システムにおいて、
 前記作業は、コンピュータを用いた入力作業であり、
 前記作業情報は、前記コンピュータに入力される操作に関する情報であってもよい。
[項目16]
 項目15に記載の作業適正度判定システムにおいて、
 前記操作は、キーボード入力およびマウス操作からなる群から選択される少なくとも1つを含んでいてもよい。
[項目17]
 項目15または16に記載の作業適正度判定システムにおいて、
 前記信号処理装置は、判定された前記作業者の前記適正度に応じて、前記入力作業に対する助言を示す画像または音声を、前記コンピュータに出力させてもよい。
[項目18]
 項目1から10のいずれかに記載の作業適正度判定システムにおいて、
 前記作業は、コンピュータを用いた学習であり、
 前記作業情報は、前記学習の内容と、前記コンピュータの操作と、に関する情報であってもよい。
[項目19]
 項目18に記載の作業適正度判定システムにおいて、
 前記信号処理装置は、判定された前記作業者の前記適正度に応じた学習コンテンツを、前記コンピュータに提供させてもよい。
[項目20]
 本開示の項目20に係る作業者の作業の適正度を判定する方法は、
 前記作業者を特定する情報、前記作業を行っている前記作業者の生体情報、および前記作業の負荷を示す作業情報を取得し、
 前記作業者を特定する前記情報と、前記生体情報と、前記作業情報と、時刻情報とを、関連付けて記憶装置に蓄積させ、
 前記記憶装置に蓄積された、過去における前記作業情報の時間推移と前記生体情報の時間推移との相関関係に基づいて、現在における前記作業者の前記生体情報を推定し、
 推定された現在における前記作業者の前記生体情報と、取得された現在における前記作業者の前記生体情報と、を比較することにより、現在における前記作業者の前記作業の前記適正度を判定する。
[項目21]
 本開示の項目21に係るコンピュータプログラムは、
 コンピュータによって読み取り可能な記録媒体に格納されるコンピュータプログラムであって、
 前記コンピュータに、
 作業者を特定する情報、作業を行っている前記作業者の生体情報、および前記作業の負荷を示す作業情報を取得し、
 前記作業者を特定する前記情報と、前記生体情報と、前記作業情報と、時刻情報とを、関連付けて記憶装置に蓄積させ、
 前記記憶装置に蓄積された、過去における前記作業情報の時間推移と前記生体情報の時間推移との相関関係に基づいて、現在における前記作業者の前記生体情報を推定し、
 推定された現在における前記作業者の前記生体情報と、取得された現在における前記作業者の前記生体情報と、を比較することにより、現在における前記作業者の前記作業の適正度を判定する、
ことを実行させる。
 以下で説明する実施の形態は、いずれも包括的または具体的な例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置などは、一例であり、本開示の技術を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
 本開示において、回路、ユニット、装置、部材又は部の全部又は一部、又はブロック図における機能ブロックの全部又は一部は、例えば、半導体装置、半導体集積回路(IC)、又はLSI(large scale integration)を含む1つ又は複数の電子回路によって実行され得る。LSI又はICは、1つのチップに集積されてもよいし、複数のチップを組み合わせて構成されてもよい。例えば、記憶素子以外の機能ブロックは、1つのチップに集積されてもよい。ここでは、LSI又はICと呼んでいるが、集積の度合いによって呼び方が変わり、システムLSI、VLSI(very large scale integration)、若しくはULSI(ultra large scale integration)と呼ばれるものであってもよい。LSIの製造後にプログラムされる、Field Programmable Gate Array(FPGA)、又はLSI内部の接合関係の再構成又はLSI内部の回路区画のセットアップができるreconfigurable logic deviceも同じ目的で使うことができる。
 さらに、回路、ユニット、装置、部材又は部の全部又は一部の機能又は操作は、ソフトウェア処理によって実行することが可能である。この場合、ソフトウェアは1つ又は複数のROM、光学ディスク、ハードディスクドライブなどの非一時的記録媒体に記録され、ソフトウェアが処理装置(processor)によって実行されたときに、そのソフトウェアで特定された機能が処理装置(processor)および周辺装置によって実行される。システム又は装置は、ソフトウェアが記録されている1つ又は複数の非一時的記録媒体、処理装置(processor)、および必要とされるハードウェアデバイス、例えばインターフェースを備えていてもよい。
 (本開示の基礎となった知見)
 本開示の実施形態を説明する前に、本開示の基礎となった知見を説明する。
 前述のように、人間の作業時の精神状態が当該作業に対して適切であるかどうかは、作業の効率だけでなく、作業の安全性に関わる極めて重要なファクターである。このため、これまでも精神状態を推定するための様々な取り組みがなされてきた。緊張度、覚醒度、または集中度といった精神状態を推定するために、様々な生体情報の検出がなされてきた。例えば、心拍数、心拍数の揺らぎ、呼吸数、呼吸数の揺らぎ、呼吸の深さ、血圧、脳波、脳血流、瞳孔径、鼻部温度、瞬目、または視線移動などの生体情報が用いられてきた。しかし、これらの生体情報から直接精神状態を読み取る方法には、3つの大きな課題があった。
 第1の課題は、生体反応の個人差である。作業の正確性が同程度である場合、または本人へのインタビューに基づいて計測された覚醒度もしくは集中度が同程度である場合であっても、人によって生体反応の現れ方は大きく異なる。単純に生体情報を計測しただけでは、正しくその個人の精神状態を推定することができない。
 第2の課題は、安定性である。同一の対象者であっても、計測時の環境、または計測までの行動もしくは作業の履歴に依存して、生体反応が異なることがある。対象者を特定の個人に限定しても、計測時の生体反応のみに基づいてその個人の精神状態を高い精度で推定することは困難であった。
 第3の課題は、検査方法である。何らかの刺激を対象者に与えて、その生体反応から精神状態を推定する方法が一般に利用される。実験室では、環境を一定にして特定のタスク(例えば、計算問題、クイズ、または身体への直接刺激等)を行って、その生体反応を計測することができる。しかしながら、実際の作業時には、作業環境および作業内容が様々に変化し得る。そのような状況でリアルタイムに作業者の精神状態を推定することは容易ではない。
 図2は、タスクが実行されたときの生体情報の変化の個人差と計測ごとのばらつきを示す図である。ここでは、被験者に計算タスクが与えられ、リラックス時とタスク実行時の心拍変動の揺らぎに基づいて、タスクに伴うストレスの程度が計測された。このときのストレスは、覚醒度と呼ばれることがある。心拍は常に揺らいでいる。その心拍変動の揺らぎの高周波数成分は、呼吸によって生ずる副交感神経の活動の影響を受けるといわれている。一方、低周波成分は、交感神経および副交感神経の両方の活動の影響を受けるといわれている。この例では、高周波数成分の範囲は0.20Hz以上0.35Hz未満であり、低周波成分の範囲は0.05以上0.20Hz未満である。心拍数の揺らぎの高周波成分の大きさを示す値を「HF」と表記し、低周波成分の大きさを示す値を「LF」と表記する。ストレス時または緊張状態にある時にはLF/HFが増加する。このため、この数値をストレスまたは緊張状態の指標として用いることができる。
 図2の縦軸におけるΔLF/HFは、タスクの実行前後のLF/HFの変化量を表している。図2の結果から、ΔLF/HFは、一部の例外を除いて、ゼロ(0)を上回る。このことから、ストレスまたは緊張とともにLF/HFが増加する傾向があることがわかる。しかし、この増加量は、被験者の年齢が増すほど減少する傾向がある。
 図中の黒丸は、同一人物の複数回の試験の結果を示している。同一の被験者であっても検査ごとの変動が大きいことがわかる。
 図2の結果は、特定のタスクが各被検者に与えられるという限定された条件下で得られた。しかし、実際の作業時には作業の内容すなわちタスクが一定ではない。作業内容が変動すると、それに伴う生体情報の変動が生じる。このため、生体情報の計測値のみに基づいて作業者の実作業時における作業適正度の判定を行うことは困難であった。ここで、「作業適正度」とは、ミス無く効率的に作業を遂行できる精神状態の程度を意味する。作業適正度は、例えば、覚醒度、緊張度、注意力、または集中度といった精神状態の程度を指す。
 作業中に作業を中断して一定の判定タスクを行い、その結果から作業適正度を判定するようなシステムも考えられる。しかし、実際には作業中にそのようなタスクを組み込むことは現実的ではない。このため、そのようなシステムは広く活用されてはいない。
 本開示は、安定して作業者の作業時の精神状態を推定すること可能にする新規な技術を提供する。本開示の実施形態によれば、作業者ごとに、作業負荷がモニタリングされ、作業負荷と生体情報との関係が学習される。複数回の学習によって蓄積されたデータを活用することにより、作業に伴う生体情報の変化を推定することが可能になる。
 図1Aは、本開示の例示的な実施形態による作業適正度判定システムの構成を示す図である。作業適正度判定システム100は、認証装置101、作業センシング装置102、生体センシング装置106、信号処理装置108、記憶装置104、および表示装置107を備える。信号処理装置108は、生体情報推定部103と、作業適正度判定部105とを含む。
 本実施形態では、作業開始時に個人が認識され、個人ごとにデータベースが構築される。当該データベースには、作業ごとに、作業の負荷を示す情報(本明細書において、「作業情報」と称する。)と、その作業中に取得された生体情報とが関連付けられて記録される。作業情報は、作業の内容を含んでいてもよい。記録されたデータを活用することにより、生体情報の個人差の影響を低減し、作業者によらず安定して作業適正度を判定することができる。
 個人認証は、例えば、作業開始時に作業者が作業者IDを入力したり、認証装置101が生体認証を行ったりすることによって行われる。生体認証は、例えば、顔認証、指紋認証、虹彩認証、または静脈認証などの方法によって行われ得る。作業者が作業者IDなどの個人認証コードを作業前に入力する形態では、認証装置101は、例えば携帯情報端末またはパーソナルコンピュータ(PC)などの、入力装置を備える機器であり得る。入力装置は、例えばキーボードおよびマウスの少なくとも一方を含み得る。認証装置101が生体認証を行う形態では、認証装置101は、顔認証、指紋認証、虹彩認証、または静脈認証などの生体認証の機能を備えた装置である。後者の形態では、認証装置101は、例えばカメラまたは指紋センサなどの、個人認証に必要な1つ以上の生体認証装置を備える。
 作業センシング装置102は、作業者の現在の作業状況をモニタし、作業の負荷を示す作業情報を出力する。作業センシング装置102の構成は、作業の内容によって異なる。例えば作業が車両の運転である場合には、作業センシング装置102は、加速度センサまたは角速度センサなどのセンサを含み得る。作業がコンピュータを用いた事務作業または学習である場合には、作業センシング装置102は、当該コンピュータまたはその入力装置を含み得る。
 生体センシング装置106は、作業時に連続的または断続的に、作業者の生体情報を計測する。生体センシング装置106によって取得される生体情報は、実測される生体情報である。このため、当該生体情報を「実測生体情報」と称することがある。生体センシング装置106は、非接触で作業者の生体情報を取得してもよい。生体センシング装置106が非接触で作業者の生体情報を取得する場合、作業内容によって接触型の機器を装着することが困難な場合であっても、生体情報を取得することができる。非接触型の生体センシング装置106を用いることにより、生体センサの装着による拘束感または不快感をなくすこともできる。
 記憶装置104は、取得された個人別の実測生体情報および作業情報のデータベースを記憶する。当該データベースには、個人ごとおよび作業ごとにデータが蓄積される。記憶装置104は、例えばフラッシュメモリ、磁気ディスク、または光ディスクなどの、任意の記憶媒体を含み得る。
 信号処理装置108は、例えばデジタルシグナルプロセッサ(DSP)、フィールドプログラマブルゲートアレイ(FPGA)等のプログラマブルロジックデバイス(PLD)、または中央演算処理装置(CPU)とコンピュータプログラムとの組み合わせによって実現され得る。信号処理装置108は、例えば遠隔地に設けられたサーバーなどの外部の装置の構成要素であってもよい。この場合、サーバーなどの外部の装置は通信手段を備え、認証装置101、作業センシング装置102、生体センシング装置106、記憶装置104、および表示装置107と相互にデータの送受信を行う。
 信号処理装置108は、生体情報推定部103および作業適正度判定部105を含む。これらの部の各々は、信号処理装置108が、記憶装置104に格納されたコンピュータプログラムを実行することによって実現され得る。あるいは、これらの部の各々は、後述する動作を実行するように構成された個別の回路であってもよい。
 生体情報推定部103は、記憶装置104に蓄積されたデータに基づいて、作業者の現在の生体情報を推定する。推定された生体情報は、過去に取得された作業者の作業負荷と生体情報とに基づいて推定される現在の生体情報の値である。このため、これを「推定生体情報」と称することがある。作業適正度判定部105は、作業者の推定生体情報と実測生体情報とを比較し、比較結果に基づいて作業の適正度を判定する。生体情報推定部103および作業適正度判定部105による処理の具体例については後述する。
 作業者に異常などがなければ、過去のデータに基づく推定生体情報は、現在の実測生体情報とほぼ一致する。一方で、作業者に何らかの異常などがあれば、推定生体情報と実測生体情報との間に、過去のデータから計算されたばらつき値よりも大きい変化が生じる。その場合には、作業適正度判定部105は、作業の適正が十分でないと判断する。その場合、作業適正度判定部105は、表示装置107に、作業者に対する助言または警告などの表示を実行させる。あるいは、作業適正度判定部105は、作業の強制停止を行ってもよい。作業の強制停止は、例えば、装置またはシステムを停止させる処理である。なお、表示装置107に代えて、または表示装置107に加えて、スピーカを設け、スピーカに注意喚起または助言のための音声を出力させてもよい。
 次に、図1Bを参照しながら、作業適正度判定システムの全体の動作の例を説明する。
 図1Bは、作業適正度判定システムの動作の例を示すフローチャートである。本システムは、作業ごとに、図1Bに示す動作を実行する。
 まず、ステップS101において、認証装置101は、作業者を特定する。この特定は、前述のように、作業者による入力操作、または生体認証などの方法によって行われる。
 ステップS102において、生体センシング装置106は、作業者の生体情報を取得する。生体情報の取得は、例えば後述する非接触式の脳血流計測装置を用いて行われ得る。取得される生体情報は、例えば作業者の脳血流の時間変化を示す情報または作業者の心拍数の時間変化を示す情報であり得る。
 ステップS103において、作業センシング装置102は、作業者の現在の作業内容を検出し、作業内容を示す情報を出力する。作業センシング装置102は、さらに、作業の負荷の程度を示す値を計算してもよい。この作業の負荷の計算は、作業センシング装置102とは異なる装置、例えば信号処理装置108のプロセッサによって行われてもよい。
 ステップS104において、信号処理装置108は、実測された生体情報と、作業の負荷を示す情報とを、時刻情報と関連付けて、作業者ごとに記憶装置104に記録する。
 ステップS106において、信号処理装置108は、作業者の推定生体情報と実測生体情報とを比較する。続いて、ステップS107において、信号処理装置108は、比較結果に基づいて、作業者の作業適正度を判定する。例えば、推定生体情報の値と、実測生体情報の値との差が所定の閾値を上回っている場合には、作業が適正ではないと判定することができる。あるいは、推定生体情報の値と、実測生体情報の値との差の大きさに応じて、段階的に作業の適正度を決定してもよい。
 作業が適正ではないと判断すると、信号処理装置108は、ステップS108に進む。ステップS108において、信号処理装置108は、前述のように、表示装置107などの他の装置を介して、作業者に対する助言、警告、作業の強制停止などを行う。
 ステップS102からS108の動作は、作業者が作業を行っている間、例えば所定の時間間隔で、繰り返し実行され得る。また、一回の作業が終了して、次回、同様の作業を行う際には、ステップS105において、過去に記録されたデータが利用される。比較的長期間の間に蓄積されたデータを利用することにより、より精度の高い推定が可能になる。
 本開示の実施形態において特に重要な点は、以下の点にある。
(1)作業の負荷を示す作業情報と生体情報とを個人ごとに比較的長期間にわたってデータベースに蓄積する。例えば、作業ごとに、数日、1週間、1ヶ月、数ヶ月、半年、1年、数年といった期間にわたって繰り返しデータが蓄積され得る。
(2)蓄積されたデータに基づいて現在の生体情報を推定する。
(3)推定された現在の推定生体情報と実際に計測された実測生体情報とを比較して、現在時点の作業適正度を判定する。
 本実施形態では、作業負荷の変化と生体情報の変化とを学習して、現在時点の生体情報をリアルタイムに推定できるような仕組みが構築されている。これにより、より正確に作業者の負荷を推定することができる。
 従来、個人差を補正するために個人別の生体情報のデータベースを構築し、個人差を補正して作業者の作業適正度を判定するようなシステムは存在した。このようなシステムは、試験環境下で一定の作業、すなわち試験用タスクを行い、その反応を観測するような試験では有効性が示されている。例えば、計算問題または関連する言葉を想起するような試験タスクを作業者に与えて、脳血流変化を計測するような方法が知られている。しかし、実際の作業環境では業務時、学習時、または運転時にこのような作業タスクを与えることは困難である。様々な負荷の異なる作業時の生体情報の変化から作業者の精神状態を判定することが求められる。しかし、過去のデータの単純な平均化または類似の状況のデータを抜き出して平均化するなどの単純な方法では、個人差または作業負荷の影響を補正することはできなかった。
 本開示の実施形態では、実作業の作業負荷と生体情報の計測値の過去のデータから、個人別の作業負荷と生体反応との関係が導出される。その作業負荷と生体反応との関係から、現在の作業者の精神状態または作業適正が推定される。個人別の作業負荷と生体情報との相関性を、過去の計測データから導出し、その相関に基づき現在の生体情報を推定するという点が従来のシステムとの最大の相違点である。
 続いて、生体情報の計測方法の例を説明する。
 本実施形態では、精神状態を安定して判定するために、安定で高精度な生体計測装置が使用される。作業時に常時生体情報を計測しようとすると、身体に接触するセンサは作業に支障をきたす場合がある。また、接触式のセンサでは、作業に伴う体動により、センサの接触状態が変化し、計測精度が低下する可能性がある。このような課題を勘案し、図1Aに示す実施形態では、撮像装置をベースとした非接触の生体センシング装置106が用いられている。撮像装置を用いることで、拘束感のない非接触の生体センシングが実現できる。また、撮像装置は、2次元に配列された多数の画素を有しており、同時に多数の生体情報を取得できる。このため、複数の画素の信号を平均化するなどの処理による高精度化が実現できる。さらに、撮像装置では2次元画像信号が得られる。この2次元画像信号から、身体の異なる部分の生体反応の違いの情報が取得できる点も大きな利点である。例えば、精神的ストレスにより、鼻部血流が低下し、鼻部温度が低下することが知られている。撮像装置を用いた場合、鼻部血流と、比較対象となる額部血流とを同時に計測することができる。このため、安定に生体情報の変化を計測可能となる。
 上述のように、撮像装置を用いた生体情報取得方法には利点が多いが、課題もある。それは、脳活動の状態を判断する上で必要な、体の内部の情報の取得が困難になることである。これは、生体のような不透明な被写体を撮影した場合、体表面で反射された光の情報が大半を占め、生体内部からの光の情報が埋もれてしまうからである。近赤外光は、人体への透過性が可視光に比べて高く、生体のより深部の情報を取得する用途に適している。しかし、近赤外光を用いた場合であっても、生体内部からの反射光に比べて生体表面または表皮からの反射光の比率の方が高い。そのため、信号対ノイズ比が低下し、安定して高精度な計測ができないという課題があった。
 生体情報を含む生体内部からの反射光の割合を高め、生体情報を安定して取得するために、光源から出射される光に時間的または空間的な変調を与えることが考えられる。そのような構成により、より生体深部からの光信号を選択的に取得することが可能になる。
 図3Aは、均一な分布を持つ光を出射する光源を用いた撮像方法を模式的に示す図である。図3Bは、時間変調が施された光を出射する光源を用いた撮像方法を模式的に示す図である。図3Cは、空間変調が施された光を出射する光源を用いた撮像方法を模式的に示す図である。
 図3Aに示す例では、光源601aは、均一な分布を持つ光を出射する。光源601aで生体602を照明して撮像した場合、撮像装置603によって取得される信号の殆どは、表面で反射された光による成分である。生体内部からの光の成分の比率が極めて小さいため、十分な精度が得られない。
 これに対し、図3Bに示す例では、光源601bは、時間変調が加えられた光を出射する。光源601bを用いて、生体602を照明し、光源601bからの光の変調に同期して撮像装置603の撮像のタイミングが制御される。この場合、発光時間と撮像のタイミングを制御することで、発光から検出までの時間を変化させることができる。ここで、発光から検出までの時間は、光源601bから生体602を経て撮像装置603に到達するまでの光の伝搬距離に依存する。発光と検出のタイミングを適切に制御することで、任意の深さの情報を有する反射光を検出することが可能になる。この方式を用いれば、生体の任意の深さの情報を有する反射光を選択的に検出することが可能になる。このため、高い信号対ノイズ比で生体情報を検出することが可能になる。
 図3Cに示す例では、光源601cは、空間的に変調された光を出射する。光源601cから出射された光で生体602が照射され、撮像装置603が照射部位外の領域からの信号を取得する。光源601cの位置と検出位置とが離れている場合、光はバナナシェープと呼ばれる円弧状の光路を経由して検出位置に到達する。図3Aに示す均一な光を出射する光源601aを用いた場合に比べて、検出される信号は、生体のより深部を透過した光の情報を含む。このため、光源601cを用いた方式は、生体の深部情報を取得する用途に適している。
 このように、時間的に変調された光または空間的に変調された光を出射する光源を用い、光源に対応した撮像方法を用いることで、生体のより深部の情報を取得することが可能になる。
 本開示のある実施形態では、以下の新たな知見に基づき、システムの設計が行われている。
・生体反応の個人差の影響を低減して実用的な作業適正度判定システムを構築するために、生体情報と作業負荷との関係を記録したデータベースから推定される生体情報を用いることが有効であること
・生体情報取得の精度向上のために、時間的または空間的に変調された近赤外光を出射する光源を含む撮像装置を用いることが有効であること
 ここで、近赤外光すなわち近赤外線は、真空中の波長が、およそ700nm以上2500nm以下の電磁波を意味する。本開示の実施形態は近赤外光を利用する形態に限定されない。しかし、近赤外光を利用することにより、より高い精度で生体信号を取得することができる。
 以下、本開示の実施形態をより具体的に説明する。ただし、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明および実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になることを避け、当業者の理解を容易にするためである。なお、発明者は、当業者が本開示を十分に理解するために添付図面および以下の説明を提供するのであって、これらによって特許請求の範囲に記載の主題を限定することを意図するものではない。
 (実施形態1)
 第1の実施形態として、非接触式の脳血流計測装置を用いた作業適正度判定システムを説明する。本実施形態では、作業者の脳血流の変化の情報から作業適正度が判定される。本実施形態は、作業適正度判定システムをドライバモニタリングに適用した例である。対象作業は車両の運転であり、作業者はドライバ(「運転者」とも称する)である。
 近赤外光を用いて脳血流量の変化を計測する脳血流計測装置は、これまでにも提案されてきた。従来の方法では、作業者は、あらかじめ定められた一定のタスクと休憩とを複数回繰り返し行う。一定のタスクは、例えば、計算、記憶、連想、またはクイズ等である。脳血流計測装置は、それぞれの期間の脳血流量の変化を計測する。計測によって得られたデータから、脳活動の度合いを推定することができる。しかしながら、このような定型タスクを車両運転時に繰り返し行うことは現実的ではない。
 本実施形態では、定型タスクの代わりに、運転操作という不定形の作業がタスクとして用いられる。そして、運転操作中に脳血流の変化が計測される。運転操作中は周辺環境が絶えず変化する。このため、運転操作は常に異なる作業となり得る。本実施形態では、加速度センサによって取得された情報に基づいて作業負荷が推定される。。本実施形態によれば、定型のタスクを用いることなく、日常の作業である運転作業によってタスクを代替することができる。言い換えれば、本実施形態によれば、「タスクレス脳血流計測」が可能になる。
 図4Aは、本開示の実施形態1に係る作業適正度判定システムの構成例を示す図である。図4Aに示すように、作業適正度判定システムは、脳血流計測装置401と、加速度センサ403とを備える。脳血流計測装置401は、前述の生体センシング装置の一例である。加速度センサ403は、前述の作業センシング装置の一例である。脳血流計測装置401は、ドライバ402の脳血流量を計測する。脳血流計測装置401は、ドライバ402の正面の運転席側フロントガラスの前方の視界を妨げないように、車両上部の位置に配置される。脳血流計測装置401に隣接して、加速度センサ403が設置されている。加速度センサ403は運転作業の状況をモニタする。
 図4Bを参照して、脳血流計測装置401の構成を説明する。図4Bは、本開示の実施形態1に係る脳血流計測装置401の概略構成を表す図である。脳血流計測装置401は、光源601と、撮像装置603と、制御回路604とを備える。制御回路604は、光源601および撮像装置603に接続されている。制御回路604は、光源601および撮像装置603を制御する。
 脳血流計測装置401は、TOF(Time Of Flight)方式の撮像装置603を用いて、非接触でドライバ402の脳血流を計測する。光源601は、制御回路604からの指示に従い、時間変調された光を出射する。撮像装置603は、制御回路604からの指示に従い、光源601からの光の出射に同期して撮像する。撮像装置603は、ドライバ402の計測箇所である額部を撮像する。撮像装置603は、光を受けて信号電荷を蓄積する少なくとも1つの電荷蓄積部を含む。典型的には、撮像装置603は、2次元に配列された複数の電荷蓄積部を含む。これにより、2次元の画像信号を取得できる。
 本実施形態における光源601は、波長750nmと850nmの近赤外パルス光を出射する光源である。光源601は、これらの2種類の近赤外光でドライバ402の額部を照射する。光源601は、例えばレーザ光源であり得る。
 本実施形態における撮像装置603は、2次元的に配列された複数の受光素子を備えるイメージセンサを備えている。各受光素子は、上記2つの波長の赤外光に感度を有する。このため、撮像装置603は、ドライバ402の額部に照射された上記2種類の赤外光による2次元画像を取得する。
 制御回路604は、光源601がパルス光を出射してから、その反射光が撮像装置603に到達するまでの時間に基づいて、被検部までの距離を計測できる。制御回路604は、額部から戻って来る光の信号を時間的に分解して、額部の表面から反射する光の成分404aの強度と、脳まで到達して戻ってきた光の成分404bの強度とを計測する。例えば、制御回路604は、撮像装置603の電子シャッターのタイミングを制御して、上記の2つの光の成分404aおよび404bのそれぞれの強度を計測する。これらの2種類の光の強度に基づいて、脳血液中の酸素化ヘモグロビン(HbO)の濃度と脱酸素化ヘモグロビン(Hb)の濃度のそれぞれの変化を計測することができる。このように、脳血流計測装置401は、2波長の光を出射する光源601を用いて脳内の酸素化ヘモグロビンおよび脱酸素化ヘモグロビンの濃度変化を計測する。これにより、運転時のドライバ402の作業適正度を判定することができる。
 血液の大きな役割は、酸素を肺から受け取って組織に運び、組織から二酸化炭素を受け取ってこれを肺に循環させることである。血液100mlの中には約15gのヘモグロビンが存在している。酸素と結合したヘモグロビンを酸素化ヘモグロビンと呼び、酸素と結合していないヘモグロビンを脱酸素化ヘモグロビンと呼ぶ。酸素化ヘモグロビンと脱酸素化ヘモグロビンとで光の吸収特性が異なる。酸素化ヘモグロビンは約830nmを超える波長の近赤外線を比較的よく吸収する。他方、脱酸素化ヘモグロビンは、830nmよりも短い波長の赤色光から近赤外線を比較的よく吸収する。830nmの波長の近赤外線については、両者の吸収率に差異はない。これらの赤外光と赤色光の強度比から2種類のヘモグロビンの比率または酸素飽和度を求めることができる。酸素飽和度とは、血液中のヘモグロビンのうちどれだけが酸素と結びついているかを示す値である。酸素飽和度は、下記の数式で定義される。
 酸素飽和度=C(HbO)/[C(HbO)+C(Hb)]×100(%)
 ここで、C(Hb)は脱酸素化ヘモグロビンの濃度を、C(HbO)は酸素化ヘモグロビンの濃度を表している。
 生体内には、血液以外にも赤色から近赤外の波長の光を吸収する成分が含まれている。しかし、光の吸収率の時間的変動は、主に動脈血中のヘモグロビンに起因する。よって、吸収率の変動に基づいて、高い精度で2種類のヘモグロビンの濃度変化および/または血中酸素飽和度を測定することができる。心臓から拍出された動脈血は脈波となって血管内を移動する。一方、静脈血は脈波を持たない。生体に入射した光は、動静脈および血液以外の組織などの生体の各層で吸収を受けて生体を透過する。この際、動脈以外の組織は時間的に厚さが変動しない。このため、生体内からの散乱光は、脈動による動脈血層の厚さの変化に応じて時間的な強度変化を示す。この変化は動脈血層の厚さの変化を反映しており、静脈血および組織の影響を含まない。よって、散乱光の変動成分だけに着目することで動脈血の情報を得ることができる。時間に応じて変化する成分の周期を測定することにより、脈拍も求めることができる。
 なお、2波長の光を出射する光源601を用いることは必須の要件ではない。例えば、酸素化ヘモグロビンの濃度のみを計測する場合には、830nmを超える単一波長の近赤外線を出射する光源を用いてもよい。
 図5は、本開示の実施形態1に係る作業適正度判定システム200の構成を示す図である。作業適正度判定システム200は、前述の加速度センサ403および脳血流計測装置401に加えて、認証装置201、信号処理装置208、記憶装置204、および表示装置206を備える。信号処理装置208は、生体情報推定部203と、運転適正度判定部207とを含む。前述のように、加速度センサ403は、作業センシング装置として機能し、脳血流計測装置401は、生体センシング装置として機能する。
 認証装置201は、作業者であるドライバの認証を行う。認証装置201は撮像装置を備える。運転開始時に、撮像装置は、ドライバの顔の画像を取得する。この顔画像を、予め記憶装置204に記録されている顔画像と照合することにより、ドライバが特定される。
 認証装置201における撮像装置は、脳血流計測装置401における撮像装置603と同一の装置であってもよい。その場合には、脳血流計測装置401が、脳血流計測に用いる画像を用いて顔認証によるドライバの特定も行う。脳血流計測装置205は、カメラの機能も有している。ドライバの顔の表面から反射される光の成分404aによる画像は、通常のカメラによって取得される画像に類似する。このため、脳血流計測装置401から出力される画像を用いて容易に個人認証が可能である。このように、1つの装置が、認証装置の機能と生体センシング装置の機能とを兼ねていてもよい。
 加速度センサ403は、現在の運転状況をモニタし、ドライバ402の作業負荷を計測する。加速度センサ403は、運転時の加速および減速の度合いだけでなく、運転速度を示す加速度の積分値、カーブでのコーナリング速度を示す横方向加速度、および車両のふらつきを示す周期的な横加速度の変動もモニタリングできる。このため、加速度センサ403は、ドライバ402の運転操作状況を把握する上で有効である。
 運転状況の把握のために、車両から車の運転情報を取得することも可能である。ここで、「運転情報」とは、アクセル、ブレーキ、ハンドル操作などの、運転操作の経時的な変化に関する情報を意味する。運転情報は、前述の作業情報の一例である。作業適正度判定システム200は、車両との間でデータの送受信を可能にするために通信回路を備えていてもよい。そのようなシステムでは、加速度センサ403ではなく、車両内のコンピュータが作業センシング装置として機能する。本実施形態のように加速度センサ403を利用すれば、低いコストでシステムを構築することができる。また、車種ごとに異なる情報を統合することなく、シンプルにシステムを構成することができる。今後、自動車の情報通信が進化し、車両情報の取得が容易になれば、加速度センサ403を作業適正度判定システム200内に設けることなく、車両から運転情報を受信することが容易になり得る。
 以下、加速度センサ403の出力に基づいて運転状況を把握し、さらに運転負荷、すなわち作業負荷を求める方法を説明する。
 既に述べたように、加速度センサ403は、運転時の加速、減速、運転速度、コーナリング速度、および車両のふらつきなどの様々な運転状況をモニタリングできる。これらの情報の少なくとも一部に基づいて、運転作業の負荷を計算することができる。運転作業の負荷は、加速または減速が大きいほど、車両の速度が高いほど、コーナリング速度が高いほど大きくなる。また、車両を車線内に安定に保つことも運転負荷を増大させる。車両のふらつきは車両が安定に車線内に維持されていないことを表している。よって車両のふらつき自体が運転適正に関する重要な指標となる。車両のふらつきは、横方向の加速度の小さい周期的な変化から検出することができる。運転負荷の計算においては、ふらつきは運転負荷を低減させる方向に働く。車両を安定して制御するためには大きな運転負荷が求められるためである。ここで、車両の加速度をα、横加速度をβ、横加速度の緩やかな周期変動成分をγとする。すると、運転負荷L(t)は、式(1)で表される。
 L(t)=k1|α(t)|+k2∫α(t)dt+k3|β(t)|+k4|γ(t)|     (1)
 ここで、kからkは定数であり、∫α(t)dtは車両の速度を表している。定数kからkには、例えば実験に基づいて予め適切な値が設定される。
 図6は、加速と減速という運転操作を行った場合の、加速度α(t)、速度v(t)および運転負荷L(t)の計算結果の例を示している。加速度センサ403のデータから、式(1)に基づいて、運転負荷L(t)を簡単に計算することができる。なお、運転負荷L(t)の計算は、加速度センサ403に内蔵または接続されたプロセッサによって実行され得る。信号処理装置208が運転負荷L(t)を計算してもよい。
 脳血流計測装置401は、前述の方法により、ドライバ402の脳血流を、連続的あるいは断続的に非接触で計測する。
 図7は、テストコースで車両の運転試験を行った際の、ドライバの脳血流の変化の計測値の例を示している。ドライバは、加速、減速、および停止のサイクルを40秒ごとに繰り返す運転タスクを実行した。網掛けで示される区間が加速または減速を行っている期間を示し、白色の部分が車両が停止している期間を示している。加速または減速の運転操作によって、運転者の脳血流中の酸素化ヘモグロビン(HbO)濃度が増加し、脱酸素化ヘモグロビン(Hb)濃度が低下していることがわかる。また、運転操作に対して血流変化が時間遅れを生じていることがわかる。この脳血流変化の挙動は、以下のメカニズムによって発生すると考えられている。
 まず、運転作業に起因して前頭葉で局所的な神経活動が起こり、脳細胞による酸素消費量が増大する。活動した脳細胞に酸素を供給するために、周囲の毛細血管の局所血流量が増大する。この時、実際の酸素消費量の増加(約5%)よりも、酸素供給のための血流量の増加(約30%から約50%)の方が大きい。毛細血管および細静脈での血流量および流速が増加する。酸素化ヘモグロビンが急速に流れるため、酸素化ヘモグロビン濃度が増加し、脱酸素化ヘモグロビン濃度が減少する。これが、脳活動によって酸素化ヘモグロビン濃度が増加し、脱酸素化ヘモグロビン濃度が減少するメカニズムである。ここで注意が必要なのは、脳が活動し酸素を消費した後で血流増加が起こるため、脳活動に遅れて脳血流変化が発生することである。図7からわかるように、運転操作による脳活動から数秒の時間遅れで脳血流変化が発生する。この時間遅れは、現在時点の脳血流を推定する上で重要である。
 信号処理装置208は、取得された個人別の生体情報および運転負荷を記憶装置204に蓄積し、データベースを構築する。信号処理装置208における生体情報推定部203は、蓄積されたデータから、現在の生体情報を推定する。この推定された生体情報は、作業者であるドライバ402の過去の運転負荷と生体情報とから推定される現在の生体情報の値である。この生体情報推定部203の動作をより詳細に説明する。
 血流動態反応関数(Hemodynamic Response Function:HRF)と、加速度センサ403によって取得されたデータから得られた作業負荷とを畳み込み積分することにより、脳血流変化の推定値を計算することができる。血流動態反応関数は、脳活動によって発生する脳血流変化の時間変化を表す関数である。脳血流量の変化量の計算式は、例えば、式(2)で表される。
 HRF(t)*L(t)=ΔHbO(t)     (2)
 ここで、HRF(t)はドライバiの血流動態反応関数、L(t)はドライバiの作業負荷、ΔHbO(t)はドライバiの推定される酸素化ヘモグロビン濃度の変化量である。記号「*」は畳み込み積分を表す。本実施形態における脳血流計測装置401は、酸素化ヘモグロビン濃度と脱酸素化ヘモグロビン濃度の両方を計測可能である。しかし、この例では、酸素化ヘモグロビンの濃度変化のみを、脳活動に伴う脳血流の変化量として利用している。これは、図7に示すように、多くの場合、酸素化ヘモグロビン濃度と脱酸素化ヘモグロビン濃度は反転して変化し、変化量は酸素化ヘモグロビン濃度の方が大きいためである。ただし、脱酸素化ヘモグロビン濃度も、例えば計測データの異常検知のために活用され得る。正しく計測が行われていれば、既に述べたように両者は反転する関係になる。しかし、何らかの外乱、例えば照射光の変動または体動などが発生した場合には、両者が連動して同じ方向に変化することがある。脱酸素化ヘモグロビンの濃度をモニタリングすることにより、容易に計測異常を検出でき、そのような異常データを除去することが可能となる。ここで重要な点は、血流動態反応関数HRF(t)と作業負荷L(t)が時間の経過に伴って変化することである。
 血流動態反応関数HRF(t)は、式(3)に示す関数で近似され得る。
 HRF(t)=A((t-δ)/τ)exp(-((t-δ)/τ))  (3)
 この式の変数であるA、δ、およびτと、作業負荷L(t)を表す式(1)におけるkからkは、計測結果から常時再計算される。
 図8Aは、血流動態反応関数HRF(t)の例を示す図である。図8Bは、作業負荷L(t)の例を示す図である。図8Cは、酸素化ヘモグロビン濃度の変化量ΔHbO(t)の例を示す図である。
 図8Cに示す酸素化ヘモグロビン濃度の変化量ΔHbO(t)は、図8Aおよび図8Bに示す関数を用いて式(2)で示される方法で計算される。計算されたΔHbOと、実測された酸素化ヘモグロビン濃度の変化量であるΔHbOとが一致するように、A、δ、τ、およびkからkが最適化されていく。計算には、現在時点のデータだけでなく時間方向に重み付けされた経時データが用いられる。このパラメータ決定には、多変量解析が用いられている。この例に限らず、機械学習を用いてより高精度にパラメータを決定することも可能である。信号処理装置208は、記憶装置204に蓄積された個人別の生体情報および運転負荷のデータベースからリアルタイムに生体情報の推定式を学習して最適化する。これにより、高精度に運転者の運転適正度を判定することが可能となる。個人別のデータベースを作成することで個人差の影響を除去し、個人データを蓄積することで個人の生体情報の変化を高精度に推定することが可能になった。また、運転に伴う負荷を加速度センサ403からのデータに基づいて計算することにより、時間とともに変化する作業または運転状況に対する生体情報の変化を推定することが可能になった。
 図9Aは、正常運転時における脳血流変化の推定値(点線)と実測値(実線)とを示す図である。図9Bは、運転適正を欠いた状態での脳血流変化の推定値(点線)と実測値(実線)とを示す図である。ここでの脳血流変化は、酸素化ヘモグロビン濃度の変化である。図9Aの左側の縦軸は酸素化ヘモグロビン濃度の変化(ΔHbO)を示し、右側の縦軸は加速度を示している。図9Bの左側の縦軸は酸素化ヘモグロビン濃度の変化(ΔHbO)を示し、右側の縦軸は速度を示している。加速および減速の運転操作に遅れて脳血流の変化が見られる。
 運転適正度判定部207は、推定された生体情報と実際に計測された生体情報とを比較する。運転者の運転適正に問題がない場合には、図9Aに示すように、データベースから推定される現在の脳血流変化と実測された脳血流変化とはほぼ一致する。一方、運転者に何らかの異常があれば、図9Bに示すように、生体情報の推定値と実測値との間に過去データから計算されたばらつき値よりも大きい差が生じる。図9Bに示す例では、実測された脳血流変化量は、推定された脳血流変化量に比べて優位に小さい。このような状況が継続した場合、運転適正度判定部207は、運転適正が十分でないと判断する。その場合、運転適正度判定部207は、表示装置206または不図示のスピーカなどの装置を介して、ドライバ402に注意喚起、警告、または運転モードの切り替えを行う。例えば、スピーカを介して、運転者に、「少し疲れているようです。深呼吸してください」等の音声による助言を行ってもよい。あるいは、自動で換気を強めたり外気を導入したり、「危険ですので車両を安全な場所に停止してください」等の警告を発してもよい。運転補助システムを搭載した車両であれば、車両を安全な場所に停止する、あるいは自動運転への切り替えを行うなどの処置を運転者の運転適正度に応じて行ってもよい。
 本実施形態におけるシステムは、既存の車両に後から追加して搭載可能なスタンドアローンのドライバモニタリングシステムである。図1に示す全ての構成要素が、図4Aに示すような一体型のシステムに搭載されている。近年、車両のインテリジェント化が進んでいる。車両が高性能な演算装置またはコンピュータを搭載し、車両の様々なセンサの情報を統合して車両状況を把握することが可能になっている。また、インターネット等の通信機能を有し、車両の外部のコンピュータとの情報のやり取りを行うことが可能になっている。このような車両においては、図1に示す機能の一部を車両のコンピュータ側にソフトウェアとして組み込むことも可能である。例えば、生体センシング装置106のみをハードウェアとし、それ以外の機能は車両の機能を利用することが可能である。ドライバの個人認証機能をもつ車種は既に存在している。車両のコンピュータが把握した車両の操作情報(例えば、アクセル、ブレーキ、またはハンドルの操作)を、作業センシング装置102の出力情報として利用できる。車両のコンピュータは記憶装置も有している。このため、生体センシング装置106のみを固有のハードウェアとし、それ以外の機能は車両のハードウェアにソフトウェアとして搭載することも可能である。このように、搭載する車両の種類と状況に応じて、図1のシステムのどの部分を専用のハードウェアとし、どの部分を車両のコンピュータにソフトウェアとして搭載するかを選択することも可能である。
 本実施形態のドライバモニタリングシステムを用いることで、個人差および運転状況の差による誤検出を減らして、安定にドライバの運転適正を常時モニタリングすることが可能になる。この方式では、非接触脳血流モニタリングにより、運転者は、拘束感および圧迫感を感じることなく、常時ドライバモニタリングが可能となる。このため、より安全で快適な運転が可能になる。
 (実施形態2)
 本実施形態における作業適正度判定システムは、作業者の作業ストレスの計測を行う。本実施形態は、例えば、PCなどのコンピュータを用いた事務的な業務に関わる作業者の作業負荷の状況を把握し、作業の効率化と作業者のメンタルヘルス不調の未然防止を目的としている。この作業適正度判定システムは、職場での作業による精神的な負荷の評価を行う。実施形態1においては、時間的に変調された近赤外パルス光を出射する光源を含む撮像システムが生体情報の取得に用いられた。これに対し、本実施形態では、空間的に変調された近赤外光を出射する光源を含む撮像システムが生体情報の取得に用いられる。
 近年、仕事または職業生活に関して強い不安、悩み、またはストレスを感じている労働者が増加している。このため、事業場において積極的に心の健康の保持増進を図ることが求められている。現状行われている「ストレスチェック」では、例えば以下のような方法が用いられている。まず、ストレスに関する質問票に労働者が記入する。それを集計して分析することで、自分のストレスがどのような状態にあるのかを把握することができる。この方法は、本人の主観的な回答に基づいており、個人差が大きい。より客観的な判定のベースになる作業負荷の指標が求められていた。例えば、ストレス状態を数値評価できるような簡単な計測方法が求められていた。
 ストレスに関連する多くの生体信号が知られている。すでに述べた心拍変動、鼻部温度、瞬目頻度、呼吸の頻度、または呼吸の深さ等の生体信号がストレス状態と関連していることが知られている。これらの生体信号をストレスチェックに用いる際の問題点は、生体反応の個人差である。図2に示したように、生体反応は個人差が大きく、そのままでは客観的なストレスの評価指標として用いることはできない。図2はストレスによる心拍揺らぎの結果を示している。ストレスとの相関が認められている他の生理指標についても同様に、計測された数値のみに基づいて直接ストレス度合いを判定することはできない。ここでも問題になるのは、実施形態1と同じく、生体反応の個人差、再現性、および作業タスクの安定性である。
 これらの解決策として、本実施形態の作業適正度判定システムが提供される。すでに述べたように、個人別の作業負荷と生体情報のデータベースから、作業から予測される現在の生体情報が推定される。この推定された現在の生体情報と実際に計測された生体情報とを比較して、現在時点の作業適正度が判定される。本実施形態のシステムによれば、作業負荷の変化と生体情報の変化とを常時学習して、常に現在時点の作業に伴うストレスをリアルタイムに推定できる。
 PCなどのコンピュータを用いた業務に関わる作業適正度判定システムも、図1Aの構成を備える。作業適正度の判定は、図1Bに示すフローチャートに従って行われる。本実施形態ではコンピュータを用いた作業に伴う作業適正度の判定を目的としているため、作業にPCなどのコンピュータが用いられる。この作業用のコンピュータの演算能力を用いて、作業適正度判定システムを稼動できる。
 本実施形態では、図1Aに示す各構成要素のうち、生体センシング装置106のみが固有のハードウェアである。それ以外の構成要素は、全てコンピュータにハードウェアまたはソフトウェアとして格納されている。作業者のコンピュータ作業の開始に伴って、目的とする作業のバックグラウンドで作業適正度判定が行われる。コンピュータとは別のハードウェアである生体センシング装置106は、当該コンピュータに接続されている。生体センシング装置106によって取得された情報はコンピュータで処理される。
 以下、図1Aを参照しながら、ストレス判定に至る手順を具体的に説明する。本実施形態において、認証装置101は、作業者が入力したIDに基づいて、個人認証を行う。例えば、PCなどのコンピュータに接続されたキーボードを用いて作業者がIDおよびパスワードを入力することにより、個人認証が行われる。業務用のコンピュータに関しては、通常、作業開始前のログインの段階で、個人別のID入力とパスワード入力、あるいは生体認証により、個人が特定される。このコンピュータの個人認証データを用いて、システムの個人認証を行ってもよい。
 本実施形態の作業適正度判定システムは、作業ストレス計測システムと称することもできる。
 図10Aは、本実施形態の作業適正度判定システムの全体構成を模式的に示す図である。本システムも、実施形態1のシステムと同様、生体センシング装置102として、脳血流計測装置401を備える。脳血流計測装置401は、例えば、作業者402の正面のコンピュータ410の画面上に配置される。本実施形態における脳血流計測装置401は、近赤外ドットアレー光源と、近赤外撮像装置とを備える。脳血流計測装置401は、作業者402の顔血流を計測する。本実施形態のシステムは、非接触で顔の表面の血流量、心拍数、および心拍変動をモニタリングすることができる。
 図10Bは、本実施形態における脳血流計測装置401の概略的な構成を示す図である。本実施形態の脳血流計測装置401は、近赤外光によるドットパターンを投影するレーザなどの光源601cと、近赤外画像を取得する撮像装置603と、制御回路604とを備える。光源601cは、生体(ここでは作業者402の頭部)を照射する。撮像装置603は、近赤外光で照射された作業者402の顔の画像を撮影する。撮影された画像は制御回路604によって解析される。制御回路604は、PCなどのコンピュータに内蔵されたプロセッサであってもよい。その場合、脳血流計測装置401は、当該プロセッサと、コンピュータの外部の光源601cおよび撮像装置603との組み合わせによって実現される。
 図11Aから図11Cを参照して、近赤外画像を取得する撮像装置603で撮影された画像から生体情報を取得するための信号処理のフローを説明する。
 図11Aは、撮影された近赤外画像の例を示している。ドットアレー光源が用いられているため、ドットアレーの照射位置に対応する強い輝点と、その周辺の比較的弱い信号とが得られる。周辺部の比較的弱い信号は、照射光が体内に侵入して体内で散乱して表面に戻ってくる比較的弱い光による信号である。人の肌は、近赤外光に対しては、吸収係数が小さく、散乱係数が大きい。このため、皮膚の表面を透過した光は体内で多重散乱を繰り返して拡散して広範囲にわたって体表面から射出される。なお、ドットアレーパターンに限らず、例えばラインアンドスペースパターンまたは市松パターンの近赤外光を投影する光源を用いてもよい。そのような光源を用いた場合でも、同様の生体信号を得ることができる。
 図11Bは、生体の情報検出領域の画像の拡大図である。この例における情報検出領域は、図11Aに点線枠で示す作業者の額領域である。投影された赤外光のドットパターンの周辺に、肌の内部から散乱して戻ってきた体内散乱光501が検出される。表面反射光502は肌表面の情報を含んでおり、体内散乱光501は体内の毛細血管の血液情報を含んでいる。従って、画像データから体内散乱光501に相当するデータのみを抽出して計算することで体内の血流情報を取得することができる。
 図11Cは、このようにして取得した心拍信号の例を示している。この心拍信号から、心拍変動または心拍揺らぎを求めることができる。さらに、体内散乱光の反射強度の絶対値は、表面の血液量に対応しているため、その信号から血液量を算出することができる。
 従来のカメラを用いた生体情報センシングシステムでは、画像中の生体部分の領域全体の画素データを平均化して生体情報を検出するという方法が一般的であった。これに対し、本実施形態の生体情報センシングシステムは、ドットアレー光源を用いているため、2次元画像から不必要な肌表面での表面反射光成分を除去し、生体情報を含む体内散乱光を選択的に抽出することができる。体内散乱光を効率的に抽出することにより、高精度に生体情報を取得することができる。
 心拍数の時間的なゆらぎから心理的ストレスを推定できることが知られている。自律神経が正常に機能している場合、心拍の間隔は揺らぐが、ストレスにより心拍の間隔の揺らぎが減少することが知られている。この心拍の間隔の揺らぎの変化に基づいて心理的ストレスの有無または程度を検出することが可能である。
 続いて、作業センシング装置102による作業情報の取得方式を説明する。本実施形態では、作業者の作業状況は、コンピュータへの入力を解析することによって行われる。PC作業の場合は、行っている作業がPCに入力される。このため、用いられているアプリケーションの種類と、キーボード入力またはマウス入力をモニタリングすることで、作業情報の取得が可能となる。例えば、「作業内容はワードプロセッサ作業で、単位時間当たりの入力文字数は50文字/分」、または「作業内容は表計算ソフト作業で、単位時間当たりの入力項目数は30項目/分」というように、容易に作業情報の履歴を取得することができる。本実施形態における作業センシング装置102は、コンピュータ内のプロセッサと、キーボードおよびマウスなどの入力装置との組み合わせによって実現される。
 次に、本実施形態における信号処理装置108の動作を説明する。
 図12は、本実施形態のシステムで取得された一人の作業者に関する1週間の作業負荷と生体情報の変化を示すデータである。作業内容はワードプロセッサでの入力作業であり、作業負荷は入力ワード数である。生体情報として、交感神経の活性度の指標またはストレス指標であるとされるLF/HFを用いた。前述のように、LFは心拍変動の低周波成分、HFは高周波成分である。この例では、高周波数成分の範囲は0.20Hz以上0.35Hz未満であり、低周波成分の範囲は0.05以上0.20Hz未満である。
 入力ワード数の増加による作業の負荷の高まりに伴って、矢印302に示すようにストレス指標であるLF/HFが増加する。さらに作業を継続すると、作業者の疲労が増加し、作業効率が低下するとともに、矢印301に示すようにストレス指標のLF/HFはさらに増加する。ただし、既に述べたように、このような反応は個人差が大きく、ばらつきも大きい。このため、単純に入力ワード数とLF/HFの数値のみに基づいてストレスまたは疲労度を判定することはできない。
 本実施形態では、個人別の作業履歴と生体情報のデータベースから、作業者ごとに、図12に示すような比較的長期間のデータから時間軸で重み付けした平均的な分布が作成される。この分布が、推定される現在の生体情報として利用される。長期間の平均的な分布は、その作業者固有の作業負荷と生体情報との関係を表す。作業者が正常な状態であれば、実際の生体情報が、この分布に近い生体情報を示すと考えられるためである。これに対し、現在までの比較的短時間(例えば1時間程度)の作業によって得られる作業負荷と生体反応とのデータ(例えば、図12に示すグラフのプロット)が現在の計測された生体情報として用いられる。以上の処理が、信号処理装置108における生体情報推定部103によって実行される。このように、本実施形態のシステムは、作業負荷と生体反応とを頻度マップとして捉らえ、作業者の作業適正の判定を行う。
 信号処理装置108における作業適正度判定部105は、推定された現在の生体情報のマップ、すなわち長期間の平均分布と、現在の生体情報のマップ、すなわち短時間の平均分布とを比較する。これにより、作業者の作業適正を判断することが可能になる。例えば、現在のマップにおいて、過去のデータのマップと比較して、図12に示すB領域に属するデータの比率が高ければ、高い作業効率で業務が遂行できていることになる。一方、A領域に属するデータの割合が高い場合、作業に集中できていない状態、つまり覚醒度が低い、あるいは作業に飽きている状態であることが推定される。このような場合、作業適正度判定システムは、例えば「少し集中力が低下しています。ストレッチングを行ってリフレッシュしてください。」等のアドバイスを、表示装置107(例えばコンピュータディスプレイ)に表示する。逆に、現在のデータの分布がC領域に偏っている場合、疲労が蓄積し作業効率が低下していると推定される。この場合には、本システムは、「少し疲れているようです、コーヒーブレイクを取って下さい。」というようなアドバイスを表示装置107に表示することができる。このように、本実施形態のシステムを用いることで、作業効率の低下を検知し、適切なタイミングでアドバイスを行うことができる。これにより、高い作業効率を実現することが可能である。
 さらに、本システムを用いることで、うつ病などの悪いメンタルヘルスの兆候を検知することが可能になる。既に述べたように、作業者ごとに比較的長期間にわたる作業負荷と生体反応との関係が常に更新されてデータベースに記録される。この分布の長期間の変動をトレースすることで、うつ病の兆候を把握することが可能になる。徐々にうつ傾向が進行している場合、分布は徐々に図12の矢印301に示す方向にシフトしていく。このような分布の変化を検知することにより、うつ傾向を把握することができる。このような傾向が見られる場合、作業者に産業医の診断を受けさせる等の対策を施すことができる。うつ病の場合、副交感神経の活性度を示す心拍変動の低周波成分LFが減少することが知られている。よって、図12に示すようなLF/HFと作業負荷との関係だけでなく、LFと作業負荷との関係をモニタリングしてもよい。そのようにすることにより、より高い精度でうつ傾向の検知が可能になる。
 実際に、ワードプロセッサでの入力を業務とする一名の作業者のコンピュータ端末に本システムを構築し、比較的長期間にわたってデータの取得を行った。データを取得した期間は3ヶ月である。作業者の主な作業はワードプロセッサでの入力作業である。
 図13Aは、3ヶ月間の入力作業から得られた作業時の単位時間当たりの入力語数と入力時のLF/HFとの関係を示している。暗い領域ほど出現頻度が高いことを表している。入力速度の平均は、約75文字/分であった。作業を行なっていない平常時に比べてLF/HFの値は1.3倍程度に上昇しており、作業に伴い軽い緊張状態にあることがわかる。この分布が、対象作業者の長期間にわたる作業負荷の変動と生体情報の変動との関係を表している。作業者の体調および精神状態に特に異常がなければ、この分布から大きく外れることはない。このような分布が、推定される生体情報として扱われる。この分布と現在の生体情報とを比較して、作業者の作業適正の判断を行った。現在の生体情報として、短時間(この例では1時間毎)での入力語数と生体情報の変化の分布を求めた。3ヶ月間の計測中に、2種類の特異な分布が多く計測された。その分布の例を、図13Bおよび図13Cに示す。
 図13Bの分布では、図13Aの分布と比べると、入力文字数が減少している。このため、作業効率が低下していることがわかる。この場合、集中度またはストレスを表すLF/HFも低下している。この時、作業者は集中力を欠いていたと推定できる。
 一方、図13Cの分布では、図13Aの分布と比べると、入力文字数が減少しており、この場合も作業効率が低下している。しかしながら、ストレスを表すLF/HFは、効率の高い作業を行っている場合と比べて高くなっている。このことから、この時、作業者は、作業に伴う疲労により作業効率が低下していたと推定できる。
 以上のように、作業効率だけを計測しても、作業効率の低下は確認できるが、その原因まではわからず、作業効率の向上のためにどのような対策が有効であるかはわからない。本実施形態のシステムを用いることで、作業者の作業適正度を判定し、その結果に応じて適切な助言を行うことができる。これにより、労働生産性の向上を図ることが可能になる。
 前述のように、図13Aに示す長期間の作業負荷と生体情報との関係を示すデータは、常に最新のデータで更新されていく。この分布の変化を解析することで、作業者の長期的なメンタルヘルスの状況をチェックすることができる。例えば、図13Aに示す高頻度の部分の分布が図12に示す矢印301の方向に徐々に変化している場合、何らかのメンタルヘルス上の問題が進行している可能性があることがわかる。メンタルヘルス上の問題を早期に把握し、適切な対応を行うことは、労働安全上特に重要である。
 上述のように、比較的長期間にわたる作業負荷および生体情報の分布と、現在の比較的短時間にわたる作業負荷および生体情報の分布とを比較することにより、現在の作業効率または作業適正度を判定することができる。また、比較的長期間の作業負荷および生体情報の分布の時間変化をモニタリングすることにより、メンタルヘルスの問題への対策を効率的に行うことができる。
 (実施形態3)
 本実施形態は、PCなどのコンピュータを用いた学習において、学習の効率化を目的とした作業適正度判定システムである。本実施形態における作業適正度判定システムは、学習適正度判定システムと称することもできる。本システムは、例えば、学校、塾、またはオンライン学習において用いられ得る。本実施形態における作業者は学習者であり、作業内容は、コンピュータを用いた学習である。
 近年、コンピュータを用いた様々な学習システムおよび学習機材の市場が拡大している。学習者の都合に合わせて自由な時間に学ぶことができることが利点である。しかし、教師がいないために集中度を欠いて成果が上がりにくいという課題があった。本実施形態は、このような課題を解決するために、学習中に学習者の集中度または学習適正度を判定し、学習にフィードバックを行うシステムを提供する。本実施形態でも、実施形態2と同様、コンピュータが用いられる。このため、本実施形態でも、実施形態2におけるハードウェア構成と同様のハードウェア構成を用いることができる。図10Aに示すように、生体センシング装置401のみが固有のハードウェアとなっており、PCなどのコンピュータ410に接続されて使用される。図1Aに示す構成要素のうち、生体センシング装置401以外の構成要素は、全てコンピュータ410にハードウェアまたはソフトウェアとして格納されている。コンピュータ410は、作業者のコンピュータ作業の開始に伴って、目的とする作業のバックグラウンドで作業適正度判定を行う。学習ソフトウェアが本システムと連携することにより、本人の理解度および集中度に応じて学習内容を変化させることができ、効率的な学習が可能になる。
 本実施形態でも、個人認証は、例えばPCなどのコンピュータでのID入力によって行われる。
 脳血流計測装置401のハードウェア構成は、実施形態2における構成と同じである。図10Bに示すように、脳血流計測装置401は、近赤外ドットアレー光源である光源601cと、撮像装置603とを備える。実施形態2のシステムは、顔の血流変化から心拍数を計測し、心拍数の揺らぎを生体情報として利用する。これに対し、本実施形態のシステムは、鼻部の血流変化から集中度を判定する。
 図14Aから図14Cを参照して、撮像装置603で撮影された画像から生体情報を取得する信号処理のフローを説明する。
 図14Aは、撮像された近赤外画像の例を示している。図14Bは、生体の情報検出領域の画像の拡大図である。この例では、生体の情報検出領域は、図14Aに点線枠で示す鼻の領域である。投影されたドットパターンの周辺に肌の内部で散乱された体内散乱光501が検出される。画像データから体内散乱光501に相当するデータのみを抽出して計算することで、体内の血流情報を取得することができる。図14Cは、このようにして取得した血流情報の例を示している。血流量が増加すると、血液による光の吸収により、反射率が低下する。よって反射光の信号から血流量の変化を検出することができる。図14Cに示す信号と図11Cに示す信号との違いは、縦軸の幅であり、血流量変化に比べて、心拍変動による反射率の変化は小さい。図14Cは、時間移動平均を行うことによって心拍変動の影響を除去した結果を示している。図14Cには、鼻部の計測結果に加えて、比較用データとして、額部の血流変化の計測結果も示されている。
 ストレスによって鼻部の温度が変化することが知られている。鼻部の周辺には、交感神経の支配下にある動静脈吻合血管と呼ばれる動脈と静脈との吻合部が集中している。よって、自律神経の活性または抑制に起因する血流量の変化が、鼻部の皮膚温度の変化に直接的に反映される。人が緊張またはストレスを感じているときには、交感神経が活性化し、血流量が減少する。これにより、鼻部の皮膚温度が下降する。鼻部周辺の皮膚温度をサーモグラフィによってモニタすることにより、精神的なストレスまたは集中度を評価することが旧来から行われてきた。本実施形態のシステムは、温度を測定する代わりに、温度変化を生じさせる血流変化を近赤外撮像装置によって直接的に評価する。既に述べたように、鼻部は体の他の部位に比べて動静脈吻合血管が集中しており、鼻部の血流は自律神経の変化の影響を強く受ける。これに対して額部の血流は、自律神経の変化の影響を受けにくく安定しており、体の深部の体温との関係が深い。そこで、本実施形態のシステムは、額部と鼻部の血流変化の両方を計測し、額部の計測結果をリファレンスとして利用する。これにより、照明光の照度変化および体動などの外乱の影響を除去し、安定して鼻部の血流変化に基づいて心理的ストレスの有無または程度を検出することが可能になる。
 続いて、本実施形態における作業センシング装置102による作業情報の取得方式を説明する。学習者は、例えばPCまたはタブレットコンピュータなどにインストールされたソフトウェア(以下、「学習ソフト」と称する。)での指示に従って学習を進める。このため、学習内容は常にコンピュータで把握される。本実施形態における脳血流計測装置401は、学習ソフトが問題を提示し学習者が回答を行う際の血流変化を計測する。脳血流計測装置401は、図14Cに示すようなデータを取得する。回答に集中すると、鼻部の血流が低下し、近赤外光の反射率が上昇する。
 次に、信号処理装置108における生体情報推定部103の動作を説明する。本実施形態でも、生体情報推定部103は、学習者の作業負荷と、生体反応との長期的なデータを解析し、個人別のデータベースを記憶装置104に構築する。本実施形態における作業負荷は、問題への回答状況であり、生体反応は鼻部血流の変化である。問題提示から回答までの時間、問題の難易度、および学習者の回答が正解か不正解かに関するデータは、コンピュータ410から入手可能である。生体情報推定部103は、そのデータに基づき、その条件での学習者の平均的な鼻部血流の変化量を算出する。本実施形態では、この変化量が、生体情報の推定値として利用される。
 信号処理装置108における作業適正度判定部105は、推定された現在の鼻部血流の変化量と現在の実際に計測された鼻部血流の変化量とを比較する。これにより、学習者の学習状況が把握可能となる。回答時間が想定される時間よりも短く、鼻部血流の変化量が推定値よりも小さい場合、学習者の現在の学力レベルに対し問題が易しすぎると判断できる。その場合、さらに高度な問題を提示する、あるいは次の学習ステップに進むというような判断が可能になる。回答時間が想定される時間よりも長く鼻部血流の変化量が推定値よりも小さい場合には、学習に対する集中度が不足していると推定される。このため、コンピュータのディスプレイを通じて注意喚起を行ったり、気分転換するようにアドバイスしたりすることができる。鼻部血流の変化量が大きく、集中しているにも関わらず、回答が不正解であった場合には、学習範囲に理解が不足している部分があると推定される。この場合には、理解の不十分な部分を検出できるような問題を提示するか、重要部分を再学習するような学習内容に変更することができる。鼻部血流の変化量が大きく、集中しており、かつ回答が正解であった場合には、学習が順調に進んでいると推定される。その場合には、さらに難度の高い問題を提示するか、難度の高い学習内容に移行するというような判断が可能になる。このように、作業適正度判定部105は、学習者の判定結果に応じて、学習者に作業適正度に応じた学習コンテンツを提供する。
 以上のように、本実施形態のシステムを用いることで、学習の理解度または集中度を作業適正度として判定することができる。学習者の作業適正度の判定結果に応じた学習コンテンツまたは注意喚起などの表示を、コンピュータに提供させることができる。それにより、集中度を維持したまま効率的な学習が可能となる。
 本開示は、図1Aに示す信号処理装置108が実行する動作を規定するコンピュータプログラムも含む。そのようなコンピュータプログラムは、作業適正度判定システム内のメモリなどの記録媒体に格納され、信号処理装置108に上述の各動作を実行させる。
 本開示は、推定された作業者の生体情報と、実測された作業者の生体情報とに基づいて、作業者の作業適正を判定する作業適正度判定システムに利用可能である。
 100,200 作業適正度判定システム
 101,201 認証装置
 102 作業センシング装置
 103 生体センシング装置
 104,204 記憶装置
 105 作業適正度判定部
 106,205 生体情報取得部
 107,206 表示装置

Claims (21)

  1.  作業者の特徴に基づき作業者を特定し、前記作業者を特定する情報を出力する認証装置と、
     前記作業者の生体情報を取得し、前記生体情報を出力する生体センシング装置と、
     前記作業者が行っている作業の負荷を検出し、検出された前記作業の前記負荷を示す作業情報を出力する作業センシング装置と、
     記憶装置と、
     信号処理装置と、
    を備え、
     前記信号処理装置は、
     前記作業者が前記作業を行っている間、前記作業者を特定する前記情報と、前記生体情報と、前記作業情報と、時刻情報とを、関連付けて前記記憶装置に蓄積させ、
     前記記憶装置に蓄積された、過去における前記作業情報の時間推移と前記生体情報の時間推移との相関関係に基づいて、現在における前記作業者の前記生体情報を推定し、
     推定された現在における前記作業者の前記生体情報と、前記生体センシング装置によって取得された現在における前記作業者の前記生体情報と、を比較することにより、現在における前記作業者の前記作業の適正度を判定する、
    作業適正度判定システム。
  2.  前記認証装置は、前記作業を行う前に個人認証コードを前記作業者が入力することを可能にする入力装置を含み、
     前記認証装置は、入力された前記個人認証コードに基づいて前記作業者を特定する、
    請求項1に記載の作業適正度判定システム。
  3.  前記認証装置は、指紋、掌紋、虹彩、および静脈パターンからなる群から選択される少なくとも1つを用いて前記作業者を特定する生体認証装置を含む、
    請求項1に記載の作業適正度判定システム。
  4.  前記作業者の画像を撮像して前記画像のデータを取得する撮像装置をさらに備え、
     前記認証装置は、取得された前記画像の前記データに基づいて、前記作業者を特定する、
    請求項1に記載の作業適正度判定システム。
  5.  前記生体センシング装置は、
     前記作業者から離れた地点に配置され、
     前記作業者の頭部を含む画像を撮像して前記画像のデータを取得する撮像素子を含み、
     取得した前記画像の前記データに基づいて、前記作業者の前記生体情報を取得する、
    請求項1から4のいずれかに記載の作業適正度判定システム。
  6.  前記生体センシング装置は、
     空間的または時間的に変調された近赤外光を出射する光源と、
     前記光源によって照射された前記作業者の顔部を含む画像を撮像する撮像素子と、
    を含む、
    請求項1から4のいずれかに記載の作業適正度判定システム。
  7.  前記近赤外光は、ドットアレーパターン、ラインアンドスペースパターン、または市松パターンで空間的に変調されている、
    請求項6に記載の作業適正度判定システム。
  8.  前記近赤外光は、パルス光であり、
     前記撮像素子は、前記パルス光を受けて信号電荷を蓄積する少なくとも1つの電荷蓄積部を含む、
    請求項6に記載の作業適正度判定システム。
  9.  前記信号処理装置は、前記記憶装置に蓄積された前記相関関係を、多変量解析によって解析することにより、現在における前記作業者の前記生体情報を推定する、
    請求項1から8のいずれかに記載の作業適正度判定システム。
  10.  前記信号処理装置は、前記記憶装置に蓄積された前記相関関係を、機械学習によって学習し、学習結果に基づいて、現在の前記作業者の前記生体情報を推定する、
    請求項1から8のいずれかに記載の作業適正度判定システム。
  11.  前記作業者は、車両を運転する運転者であり、
     前記作業は、前記車両の運転であり、
     前記作業情報は、前記車両の運転操作に関する情報である、
    請求項1から10のいずれかに記載の作業適正度判定システム。
  12.  前記運転操作は、アクセル操作、ブレーキ操作、およびハンドル操作からなる群から選択される少なくとも1つを含む、
    請求項11に記載の作業適正度判定システム。
  13.  前記作業センシング装置は、加速度センサを含み、
     前記信号処理装置は、前記加速度センサから出力される情報に基づいて、前記運転操作に関する情報を推定する、
    請求項11または12に記載の作業適正度判定システム。
  14.  前記車両は、運転補助を含む自動運転機能を有し、
     前記信号処理装置は、判定された前記運転者の前記適正度に応じて、前記運転補助の内容を決定し、前記車両に前記運転補助を実行させる、
    請求項11から13のいずれかに記載の作業適正度判定システム。
  15.  前記作業は、コンピュータを用いた入力作業であり、
     前記作業情報は、前記コンピュータに入力される操作に関する情報である、
    請求項1から10のいずれかに記載の作業適正度判定システム。
  16.  前記操作は、キーボード入力およびマウス操作からなる群から選択される少なくとも1つを含む、
    請求項15に記載の作業適正度判定システム。
  17.  前記信号処理装置は、判定された前記作業者の前記適正度に応じて、前記入力作業に対する助言を示す画像または音声を、前記コンピュータに出力させる、
    請求項15または16に記載の作業適正度判定システム。
  18.  前記作業は、コンピュータを用いた学習であり、
     前記作業情報は、前記学習の内容と、前記コンピュータの操作と、に関する情報である、
    請求項1から10のいずれかに記載の作業適正度判定システム。
  19.  前記信号処理装置は、判定された前記作業者の前記適正度に応じた学習コンテンツを、前記コンピュータに提供させる、
    請求項18に記載の作業適正度判定システム。
  20.  作業者の作業の適正度を判定する方法であって、
     前記作業者を特定する情報、前記作業を行っている前記作業者の生体情報、および前記作業の負荷を示す作業情報を取得し、
     前記作業者を特定する前記情報と、前記生体情報と、前記作業情報と、時刻情報とを、関連付けて記憶装置に蓄積させ、
     前記記憶装置に蓄積された、過去における前記作業情報の時間推移と前記生体情報の時間推移との相関関係に基づいて、現在における前記作業者の前記生体情報を推定し、
     推定された現在における前記作業者の前記生体情報と、取得された現在における前記作業者の前記生体情報と、を比較することにより、現在における前記作業者の前記作業の前記適正度を判定する、
    方法。
  21.  コンピュータによって読み取り可能な記録媒体に格納されるコンピュータプログラムであって、
     前記コンピュータに、
     作業者を特定する情報、作業を行っている前記作業者の生体情報、および前記作業の負荷を示す作業情報を取得し、
     前記作業者を特定する前記情報と、前記生体情報と、前記作業情報と、時刻情報とを、関連付けて記憶装置に蓄積させ、
     前記記憶装置に蓄積された、過去における前記作業情報の時間推移と前記生体情報の時間推移との相関関係に基づいて、現在における前記作業者の前記生体情報を推定し、
     推定された現在における前記作業者の前記生体情報と、取得された現在における前記作業者の前記生体情報と、を比較することにより、現在における前記作業者の前記作業の適正度を判定する、
    ことを実行させる、
    コンピュータプログラム。
PCT/JP2018/004777 2017-02-28 2018-02-13 作業適正度判定システム WO2018159276A1 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
CN202210958907.3A CN115137336A (zh) 2017-02-28 2018-02-13 处理方法、系统及存储介质
CN201880004061.1A CN109890288B (zh) 2017-02-28 2018-02-13 作业适宜度判定系统
CN202210954582.1A CN115137335A (zh) 2017-02-28 2018-02-13 处理方法、系统及存储介质
EP18761519.0A EP3590426B1 (en) 2017-02-28 2018-02-13 Work appropriateness determination system
US16/414,363 US11407422B2 (en) 2017-02-28 2019-05-16 Operation appropriateness determination system, method for determining operation appropriateness, and non-transitory computer readable medium storing program for determining operation appropriateness
US17/848,082 US20220315010A1 (en) 2017-02-28 2022-06-23 Operation appropriateness determination system, method for determining operation appropriateness, and non-transitory computer readable medium storing program for determining operation appropriateness

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2017-035796 2017-02-28
JP2017035796 2017-02-28
JP2018016972A JP7045639B2 (ja) 2017-02-28 2018-02-02 作業適正度判定システム
JP2018-016972 2018-02-02

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US16/414,363 Continuation US11407422B2 (en) 2017-02-28 2019-05-16 Operation appropriateness determination system, method for determining operation appropriateness, and non-transitory computer readable medium storing program for determining operation appropriateness

Publications (1)

Publication Number Publication Date
WO2018159276A1 true WO2018159276A1 (ja) 2018-09-07

Family

ID=63370016

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2018/004777 WO2018159276A1 (ja) 2017-02-28 2018-02-13 作業適正度判定システム

Country Status (4)

Country Link
US (1) US20220315010A1 (ja)
JP (2) JP7316574B2 (ja)
CN (2) CN115137336A (ja)
WO (1) WO2018159276A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2564563A (en) * 2017-06-09 2019-01-16 Ford Global Tech Llc Vehicle driver workload management
WO2023119763A1 (ja) * 2021-12-21 2023-06-29 パナソニックIpマネジメント株式会社 運転者状態推定装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5119375B2 (ja) 1972-05-24 1976-06-17
JPS603782B2 (ja) 1977-09-21 1985-01-30 株式会社日立製作所 回路素子取付用基板
JPH1165422A (ja) * 1997-08-22 1999-03-05 Omron Corp 作業者の心身状態評価方法,機器を用いた作業の作業内容制御方法及び作業内容制御システム
JP2002065650A (ja) 2000-09-04 2002-03-05 Nissan Motor Co Ltd 疲労度判定装置
JP2008056059A (ja) * 2006-08-30 2008-03-13 Equos Research Co Ltd 運転者状態推定装置及び運転支援装置
JP2008062852A (ja) * 2006-09-08 2008-03-21 Fujitsu Ten Ltd 車両制御装置
JP2015033457A (ja) * 2013-08-08 2015-02-19 日産自動車株式会社 運転状態推定装置及び運転状態推定方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11203006A (ja) * 1998-01-20 1999-07-30 Fujitsu Ltd ユーザ状況推定装置
JP2001344352A (ja) 2000-05-31 2001-12-14 Toshiba Corp 生活支援装置および生活支援方法および広告情報提供方法
CN102884544B (zh) 2010-04-30 2017-02-08 亿码技术股份有限公司 以人为传感器的风险评价系统
RU2581785C2 (ru) * 2013-12-30 2016-04-20 ХЕРЕ Глобал Б.В. Способ и устройство для различения связанных со здоровьем состояний пользователя на основании информации о взаимодействии с пользователем
EP3245093B1 (en) * 2015-01-12 2021-09-01 Harman International Industries, Incorporated Cognitive load driving assistant
US9727055B2 (en) * 2015-03-31 2017-08-08 Alcatel-Lucent Usa Inc. System and method for video processing and presentation
US10328852B2 (en) * 2015-05-12 2019-06-25 University Of North Dakota Systems and methods to provide feedback to pilot/operator by utilizing integration of navigation and physiological monitoring
US9988055B1 (en) * 2015-09-02 2018-06-05 State Farm Mutual Automobile Insurance Company Vehicle occupant monitoring using infrared imaging

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5119375B2 (ja) 1972-05-24 1976-06-17
JPS603782B2 (ja) 1977-09-21 1985-01-30 株式会社日立製作所 回路素子取付用基板
JPH1165422A (ja) * 1997-08-22 1999-03-05 Omron Corp 作業者の心身状態評価方法,機器を用いた作業の作業内容制御方法及び作業内容制御システム
JP2002065650A (ja) 2000-09-04 2002-03-05 Nissan Motor Co Ltd 疲労度判定装置
JP2008056059A (ja) * 2006-08-30 2008-03-13 Equos Research Co Ltd 運転者状態推定装置及び運転支援装置
JP2008062852A (ja) * 2006-09-08 2008-03-21 Fujitsu Ten Ltd 車両制御装置
JP2015033457A (ja) * 2013-08-08 2015-02-19 日産自動車株式会社 運転状態推定装置及び運転状態推定方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2564563A (en) * 2017-06-09 2019-01-16 Ford Global Tech Llc Vehicle driver workload management
WO2023119763A1 (ja) * 2021-12-21 2023-06-29 パナソニックIpマネジメント株式会社 運転者状態推定装置

Also Published As

Publication number Publication date
CN115137336A (zh) 2022-10-04
JP7316574B2 (ja) 2023-07-28
JP2022082547A (ja) 2022-06-02
CN115137335A (zh) 2022-10-04
JP2023145468A (ja) 2023-10-11
US20220315010A1 (en) 2022-10-06

Similar Documents

Publication Publication Date Title
JP7045639B2 (ja) 作業適正度判定システム
US20200297270A1 (en) Biometric apparatus, biometric method, and determination apparatus
Afergan et al. Dynamic difficulty using brain metrics of workload
Liao et al. A multimodal study to measure the cognitive demands of hazard recognition in construction workplaces
Sibi et al. Monitoring driver cognitive load using functional near infrared spectroscopy in partially autonomous cars
JP7316574B2 (ja) 作業適正度判定システム
JP5308336B2 (ja) 被験者の特定認知感情状態を検出するシステム
US20140316218A1 (en) Systems and methods for monitoring brain metabolism and activity using electroencephalogram and optical imaging
EP2371286A1 (en) Organism fatigue evaluation device and organism fatigue evaluation method
US20150230744A1 (en) Method and system for assessing a stimulus property perceived by a subject
NZ732929A (en) Method and apparatus for deriving a mental state of a subject
Purnamasari et al. Heart beat based drowsiness detection system for driver
Sibi et al. Assessing driver cortical activity under varying levels of automation with functional near infrared spectroscopy
Rahimpour et al. Classification of fNIRS based brain hemodynamic response to mental arithmetic tasks
Giusti et al. A noninvasive system for evaluating driver vigilance level examining both physiological and mechanical data
Katmah et al. Mental stress management using fnirs directed connectivity and audio stimulation
US10835169B2 (en) Brain function index computing device and brain function index computing method
Boere et al. Validation of a mobile fNIRS device for measuring working memory load in the prefrontal cortex
CN111588348B (zh) 认知功能的指标化方法
JP6886686B2 (ja) ストレス評価装置およびストレス状態の評価方法
Bevilacqua et al. Proposal for non-contact analysis of multimodal inputs to measure stress level in serious games
RU2736397C1 (ru) Система и способ определения состояния стресса на основе биометрического сигнала ЭЭГ и электродермальной активности
Hiroyasu et al. Classification subject effects using changes in cerebral blood flow on the Stroop test
Amidei et al. Unobtrusive Multimodal Monitoring of Physiological Signals for Driver State Analysis
KR20210029055A (ko) 헤모다이나믹스에 기초하여 혈류 조절 기능을 평가하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18761519

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2018761519

Country of ref document: EP

Effective date: 20190930