CN108697392B - 判定结果输出装置、判定结果提供装置及判定结果输出系统 - Google Patents
判定结果输出装置、判定结果提供装置及判定结果输出系统 Download PDFInfo
- Publication number
- CN108697392B CN108697392B CN201780013923.2A CN201780013923A CN108697392B CN 108697392 B CN108697392 B CN 108697392B CN 201780013923 A CN201780013923 A CN 201780013923A CN 108697392 B CN108697392 B CN 108697392B
- Authority
- CN
- China
- Prior art keywords
- determination result
- information
- unit
- brain function
- determination
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000008859 change Effects 0.000 claims abstract description 246
- 230000004913 activation Effects 0.000 claims description 312
- 230000003925 brain function Effects 0.000 claims description 309
- 230000001815 facial effect Effects 0.000 claims description 94
- 238000000354 decomposition reaction Methods 0.000 claims description 90
- 238000004364 calculation method Methods 0.000 claims description 42
- 239000000284 extract Substances 0.000 claims description 33
- 210000001061 forehead Anatomy 0.000 claims description 28
- 238000012880 independent component analysis Methods 0.000 claims description 28
- 238000000513 principal component analysis Methods 0.000 claims description 27
- 230000005540 biological transmission Effects 0.000 claims description 21
- 230000002093 peripheral effect Effects 0.000 claims description 21
- 230000003213 activating effect Effects 0.000 claims description 6
- 230000007177 brain activity Effects 0.000 description 155
- 230000000875 corresponding effect Effects 0.000 description 100
- 210000004556 brain Anatomy 0.000 description 93
- 230000017531 blood circulation Effects 0.000 description 92
- 238000004458 analytical method Methods 0.000 description 90
- 238000010586 diagram Methods 0.000 description 76
- 238000006243 chemical reaction Methods 0.000 description 60
- 241000282414 Homo sapiens Species 0.000 description 56
- 238000012545 processing Methods 0.000 description 45
- 238000012360 testing method Methods 0.000 description 41
- 238000012800 visualization Methods 0.000 description 40
- 238000000034 method Methods 0.000 description 36
- 238000003384 imaging method Methods 0.000 description 29
- 238000001514 detection method Methods 0.000 description 27
- 238000004891 communication Methods 0.000 description 20
- 238000002474 experimental method Methods 0.000 description 16
- 206010016256 fatigue Diseases 0.000 description 14
- 238000001931 thermography Methods 0.000 description 14
- 238000001816 cooling Methods 0.000 description 13
- 230000033001 locomotion Effects 0.000 description 13
- 230000006870 function Effects 0.000 description 12
- 230000002779 inactivation Effects 0.000 description 11
- 238000005259 measurement Methods 0.000 description 11
- 230000035790 physiological processes and functions Effects 0.000 description 11
- 238000007781 pre-processing Methods 0.000 description 10
- 238000009434 installation Methods 0.000 description 9
- 230000000694 effects Effects 0.000 description 8
- 230000007246 mechanism Effects 0.000 description 8
- 206010015150 Erythema Diseases 0.000 description 7
- 238000002595 magnetic resonance imaging Methods 0.000 description 7
- 230000003340 mental effect Effects 0.000 description 7
- 230000008569 process Effects 0.000 description 7
- 238000004497 NIR spectroscopy Methods 0.000 description 6
- 231100000321 erythema Toxicity 0.000 description 6
- 230000006996 mental state Effects 0.000 description 6
- 230000004048 modification Effects 0.000 description 6
- 238000012986 modification Methods 0.000 description 6
- 230000009849 deactivation Effects 0.000 description 5
- 238000005286 illumination Methods 0.000 description 5
- 239000000523 sample Substances 0.000 description 5
- 230000000007 visual effect Effects 0.000 description 5
- 238000000605 extraction Methods 0.000 description 4
- 238000004088 simulation Methods 0.000 description 4
- 230000036760 body temperature Effects 0.000 description 3
- 238000000537 electroencephalography Methods 0.000 description 3
- 230000010365 information processing Effects 0.000 description 3
- 210000004761 scalp Anatomy 0.000 description 3
- 230000002123 temporal effect Effects 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 2
- 210000000467 autonomic pathway Anatomy 0.000 description 2
- 230000004397 blinking Effects 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 230000004424 eye movement Effects 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 239000004615 ingredient Substances 0.000 description 2
- 210000003695 paranasal sinus Anatomy 0.000 description 2
- 230000005855 radiation Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 239000000758 substrate Substances 0.000 description 2
- 102000001554 Hemoglobins Human genes 0.000 description 1
- 108010054147 Hemoglobins Proteins 0.000 description 1
- 208000019914 Mental Fatigue Diseases 0.000 description 1
- 210000004958 brain cell Anatomy 0.000 description 1
- 230000001149 cognitive effect Effects 0.000 description 1
- 238000010835 comparative analysis Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000002996 emotional effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 210000004709 eyebrow Anatomy 0.000 description 1
- 238000002599 functional magnetic resonance imaging Methods 0.000 description 1
- 230000001339 gustatory effect Effects 0.000 description 1
- 210000004209 hair Anatomy 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000036651 mood Effects 0.000 description 1
- 210000005036 nerve Anatomy 0.000 description 1
- 210000001331 nose Anatomy 0.000 description 1
- 210000005037 parasympathetic nerve Anatomy 0.000 description 1
- 230000001936 parietal effect Effects 0.000 description 1
- 238000005498 polishing Methods 0.000 description 1
- 238000010248 power generation Methods 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 238000012847 principal component analysis method Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000002889 sympathetic effect Effects 0.000 description 1
- 230000008685 targeting Effects 0.000 description 1
- 238000001757 thermogravimetry curve Methods 0.000 description 1
- 230000002618 waking effect Effects 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/165—Evaluating the state of mind, e.g. depression, anxiety
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/40—Detecting, measuring or recording for evaluating the nervous system
- A61B5/4058—Detecting, measuring or recording for evaluating the nervous system for evaluating the central nervous system
- A61B5/4064—Evaluating the brain
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0062—Arrangements for scanning
- A61B5/0064—Body surface scanning
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0075—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by spectroscopy, i.e. measuring spectra, e.g. Raman spectroscopy, infrared absorption spectroscopy
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0077—Devices for viewing the surface of the body, e.g. camera, magnifying lens
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/01—Measuring temperature of body parts ; Diagnostic temperature sensing, e.g. for malignant or inflamed tissue
- A61B5/015—By temperature mapping of body part
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/026—Measuring blood flow
- A61B5/0261—Measuring blood flow using optical means, e.g. infrared light
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/168—Evaluating attention deficit, hyperactivity
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7235—Details of waveform analysis
- A61B5/7246—Details of waveform analysis using correlation, e.g. template matching or determination of similarity
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7235—Details of waveform analysis
- A61B5/7264—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/74—Details of notification to user or communication with user or patient ; user input means
- A61B5/742—Details of notification to user or communication with user or patient ; user input means using visual displays
- A61B5/743—Displaying an image simultaneously with additional graphical information, e.g. symbols, charts, function plots
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/01—Measuring temperature of body parts ; Diagnostic temperature sensing, e.g. for malignant or inflamed tissue
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/162—Testing reaction times
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
Abstract
提供一种对表示对象者的各种状态的判定结果进行输出的判定结果输出装置和判定结果输出系统,以及提供判定结果的判定结果提供装置。判定结果输出系统(700B)包括对表示对象者(300)的状态的判定结果进行输出的判定结果输出装置(800B)以及提供判定结果的判定结果提供装置(900B)。若判定结果提供装置(900B)从判定结果输出装置(800B)获取与对象目的相关联的脸部变化信息,则该判定结果提供装置根据脸部变化信息生成判定用信息,对包括对象者的状态水平在内的判定结果进行确定,并且将判定结果送出至判定结果输出装置(800B)。
Description
技术领域
本发明涉及一种判定结果输出装置、判定结果提供装置及判定结果输出系统。
背景技术
近年来,尝试利用通过专利文献1(日本专利特开2013-176406号公报)所公开的脑波测量法(EEG)、磁共振图像法(fMRI:functional Magnetic Resonance Imaging)以及近红外线分光法(NIRA)检测出的数据对人类的脑活动进行推定。此外,也研究了根据推定出的脑活动来判定人类的身体状况和精神状态等的应用。
发明内容
发明所要解决的技术问题
然而,在脑波测量法以及近红外线分光法中,需要进行必须向对象者安装电极等前期处理。此外,在磁共振图像法中,需要在规定的MRI室进行测量。总而言之,上述这些方法中,存在准备阶段的作业较繁琐以及测量时的条件受到限制这些问题。此外,上述这些方法均需要花费很大的成本。其结果是,在上述这些方法中,对对象者的身体状况以及精神状态进行判定等是较困难的。
本发明的技术问题是提供一种能够容易地对对象者的身体状况和精神状态进行判定的装置以及系统。特别地,本发明的目的是提供一种对表示对象者的各种状态的判定结果进行输出的判定结果输出装置和判定结果输出系统,以及提供判定结果的判定结果提供装置。
解决技术问题所采用的技术方案
本发明第一观点的判定结果输出装置包括对象目的选择部、脑功能激活信息提供部或脑功能激活信息检测部、脸部变化信息获取部以及判定结果输出部。对象目的选择部选择多个判定目的中的一个判定目的作为对象目的。脑功能激活信息提供部提供与对象目的对应的脑功能激活信息。脑功能激活信息检测部对与对象目的对应的脑功能激活信息进行检测。脸部变化信息获取部对提供有脑功能激活信息时或检测出脑功能激活信息时的、表示对象者的脸部数据的时间序列变化的脸部变化信息进行获取。判定结果输出部根据与对象目的对应的脑功能激活信息和脸部变化信息来输出表示对象者的状态的判定结果。
在第一观点所述的判定结果输出装置中,根据提供有脑功能激活信息时或检测出脑功能激活信息时的、对象者的脸部变化信息以及与对象目的对应的脑功能激活信息来判定对象者的状态,因此能够以简易的结构对对象者的各种状态进行判定。藉此,能够提供一种能够容易地对对象者的身体状况和精神状态进行判定的装置。
在第一观点所述的判定结果输出装置的基础上,本发明第二观点的判定结果输出装置还包括判定用信息生成部、相关值计算部以及判定结果确定部。判定用信息生成部根据脸部变化信息生成判定用信息。相关值计算部计算出与对象目的对应的脑功能激活信息和判定用信息的相关值。判定结果确定部根据相关值来确定表示对象者的状态的判定结果。
在第二观点所述的判定结果输出装置中,根据与对象目的对应的脑功能激活信息和判定用信息的相关值来对表示对象者的状态的判定结果进行确定,因此,能够以简易的结构判定对象者的各种状态。
在第二观点所述的判定结果输出装置的基础上,在本发明第三观点的判定结果输出装置中,判定用信息生成部通过对脸部变化信息进行奇异值分解、主成分分析或独立成分分析,提取出与对应于对象目的的脑功能激活信息相关的判定用成分,并且根据判定用成分生成上述判定用信息。
在第三观点所述的判定结果输出装置中,通过奇异值分解、主成分分析、独立成分分析,从脸部变化信息提取出与对应于选择的对象目的的脑功能激活信息相关的判定用成分,因此,不使用安装前需要进行前期处理的电极等也能够对对象者是否具有脑活动进行推定。此外,根据与对象者的脑功能对应的判定用成分,能够对与对象目的对应的、表示对象者的各种状态的判定结果进行输出。在第三观点所述的判定结果输出装置的基础上,本发明第四观点的判定结果输出装置还包括基准信息存储部。基准信息存储部根据多个判定目的中的每一个判定目的,将下述变化量与状态水平相关联并作为基准信息进行存储,上述变化量是指针对脑功能激活信息的、与脸部变化信息的基准判定用成分的基准相关值相比的变化量。此外,判定结果确定部根据相关值和基准信息对对象者的状态水平进行判定。
在第四观点所述的判定结果输出装置中,能够利用预先设定好的基准相关值来输出与对象目的对应的、表示对象者的各种状态的判定结果。
本发明第五观点的判定结果提供装置从判定结果输出装置获取针对关联于对象目的的脑功能激活信息的判定用信息的相关值,并且将针对对象目的的判定结果提供至判定结果输出装置。上述判定结果提供装置包括基准信息存储部、判定结果确定部以及判定结果送出部。基准信息存储部根据多个判定目的中的每一个判定目的,将下述变化量与状态水平相关联并作为基准信息进行存储,上述变化量是指针对脑功能激活信息的与基准相关值相比的变化量。判定结果确定部在从判定结果输出装置获取针对关联于对象目的的脑功能激活信息的判定用信息的相关值时,根据相关值和基准信息确定包括对象者的状态水平在内的判定结果。判定结果送出部将判定结果送出至判定结果输出装置。
在第五观点所述的判定结果提供装置中,能够利用预先设定好的基准相关值来提供与对象目的对应的、表示对象者的各种状态的判定结果。
本发明第六观点的判定结果输出装置将针对对象目的的脑功能激活信息和判定用信息的相关值送出至判定结果提供装置,并且从判定结果提供装置获取针对对象目的的判定结果。上述判定结果输出装置包括对象目的选择部、脑功能激活信息提供部或脑功能激活信息检测部、脸部变化信息获取部、判定用信息生成部、相关值计算部、相关值送出部、判定结果获取部以及判定结果输出部。对象目的选择部选择多个判定目的中的一个判定目的作为对象目的。脑功能激活信息提供部提供与对象目的对应的脑功能激活信息。脑功能激活信息检测部对与对象目的对应的脑功能激活信息进行检测。脸部变化信息获取部对表示对象者的脸部数据的时间序列变化的脸部变化信息进行获取。判定用信息生成部根据脸部变化信息生成判定用信息。相关值计算部计算出脑功能激活信息和判定用信息的相关值。相关值送出部将相关值与对象目的相关联并送出至判定结果提供装置。判定结果获取部根据相关值和对象目的的送出,从判定结果提供装置获取判定结果。判定结果输出部输出判定结果。
在第六观点所述的判定结果输出装置中,根据与对象目的对应的脑功能激活信息和判定用信息的相关值来对表示对象者的状态的判定结果进行确定,因此,能够以简易的结构判定对象者的各种状态。
在第六观点所述的判定结果输出装置的基础上,在本发明第七观点的判定结果输出装置中,判定用信息生成部通过奇异值分解、主成分分析或独立成分分析,提取出与对应于对象目的的脑功能激活信息相关的判定用成分,并且根据判定用成分生成判定用信息。
在第七观点所述的判定结果输出装置中,通过奇异值分解、主成分分析、独立成分分析,从脸部变化信息提取出与对应于选择的对象目的的脑功能激活信息相关的判定用成分,因此,不使用安装前需要进行前期处理的电极等也能够对对象者是否具有脑活动进行推定。此外,根据与对象者的脑功能对应的成分,能够对与对象目的对应的、表示对象者的各种状态的判定结果进行输出。本发明第八观点的判定结果输出系统包括对表示对象者的状态的判定结果进行输出的判定结果输出装置以及提供判定结果的判定信息提供装置。判定结果输出装置包括:对象目的选择部,上述对象目的选择部将多个判定目的中的一个判定目的作为对象目的加以选择;脑功能激活信息提供部或脑功能激活信息检测部,上述脑功能激活信息提供部提供与对象目的对应的脑功能激活信息,上述脑功能激活信息检测部对与对象目的对应的脑功能激活信息进行检测;脸部变化信息获取部,上述脸部变化信息获取部对表示对象者的脸部数据的时间序列变化的脸部变化信息进行获取;判定用信息生成部,上述判定用信息生成部根据脸部变化信息生成判定用信息;相关值计算部,上述相关值计算部计算出脑功能激活信息和判定用信息的相关值;相关值送出部,上述相关值送出部将相关值与对象目的相关联并送出至判定结果提供装置;判定结果获取部,上述判定结果获取部根据相关值和对象目的的送出,从判定结果提供装置获取判定结果;以及判定结果输出部,上述判定结果输出部输出判定结果。判定结果提供装置包括:基准信息存储部,上述基准信息存储部根据多个判定目的的每一个判定目的将下述变化量与状态水平相关联并作为基准信息进行存储,其中,上述变化量是指针对脑功能激活信息的与基准相关值相比的变化量;判定结果确定部,在从判定结果输出装置获取与对象目的相关联的相关值时,上述判定结果确定部根据相关值和基准信息确定包括对象者的状态水平在内的判定结果;以及判定结果送出部,上述判定结果送出部将判定结果送出至判定结果输出装置。
在第八观点所述的判定结果输出系统中,根据与对象目的对应的脑功能激活信息和判定用信息的相关值来对表示对象者的状态的判定结果进行确定,因此,能够以简易的结构判定对象者的各种状态。
在第八观点所述的判定结果输出系统的基础上,在本发明第九观点的判定结果输出系统中,判定用信息生成部通过对脸部变化信息进行奇异值分解、主成分分析或独立成分分析,提取出与对应于对象目的的脑功能激活信息相关的判定用成分,并且根据判定用成分生成判定用信息。
在第九观点所述的判定结果输出系统中,通过奇异值分解、主成分分析、独立成分分析,从脸部变化信息提取出与对应于选择的对象目的的脑功能激活信息相关的判定用成分,因此,不使用安装前需要进行前期处理的电极等也能够对对象者是否具有脑活动进行推定。此外,根据与对象者的脑功能对应的判定用成分,能够对与对象目的对应的、表示对象者的各种状态的判定结果进行输出。
本发明第十观点的判定结果提供装置从判定结果输出装置获取针对对象目的的脸部变化信息,并且将针对对象目的的判定结果提供至判定结果输出装置。上述判定结果提供装置包括基准信息存储部、判定用信息生成部、相关值计算部、判定结果确定部以及判定结果送出部。基准信息存储部根据多个判定目的中的每一个判定目的,将下述变化量与状态水平相关联并作为基准信息进行存储,其中,上述变化量是指针对脑功能激活信息的与基准相关值相比的变化量。判定用信息生成部在从判定结果输出装置获取与对象目的相关联的脸部变化信息时,根据脸部变化信息生成判定用信息。相关值计算部计算出脑功能激活信息和判定用信息的相关值。判定结果确定部根据相关值和基准信息对包括对象者的状态水平在内的判定结果进行确定。判定结果送出部将判定结果送出至判定结果输出装置。
在第十观点所述的判定结果提供装置中,根据与对象目的对应的脑功能激活信息和判定用信息的相关值来对表示对象者的状态的判定结果进行确定,因此,能够以简易的结构判定对象者的各种状态。
在第十观点所述的判定结果输出系统的基础上,在本发明第十一观点的判定结果提供装置中,判定用信息生成部通过对脸部变化信息进行奇异值分解、主成分分析或独立成分分析,提取出与对应于对象目的的脑功能激活信息相关的判定用成分,并且根据判定用成分生成判定用信息。
在第十一观点所述的判定结果提供装置中,通过奇异值分解、主成分分析、独立成分分析,从脸部变化信息提取出与对应于选择的对象目的的脑功能激活信息相关的判定用成分,因此,不使用安装前需要进行前期处理的电极等也能够对对象者是否具有脑活动进行推定。此外,根据与对象者的脑功能对应的判定用成分,能够对与对象目的对应的、表示对象者的各种状态的判定结果进行提供。
本发明第十二观点的判定结果输出装置将与对象目的相关联的脸部变化信息送出至判定结果提供装置,并且从判定结果提供装置获取针对对象目的的判定结果。上述判定结果输出装置包括对象目的选择部、脑功能激活信息提供部或脑功能激活信息检测部、脸部变化信息获取部、脸部变化信息送出部、判定结果获取部以及判定结果输出部。对象目的选择部选择多个判定目的中的一个判定目的作为对象目的。脑功能激活信息提供部提供与对象目的对应的脑功能激活信息。脑功能激活信息检测部对与对象目的对应的脑功能激活信息进行检测。脸部变化信息获取部对表示对象者的脸部数据的时间序列变化的脸部变化信息进行获取。脸部变化信息送出部将脸部变化信息与对象目的相关联并送出至判定结果提供装置。判定结果获取部根据脸部变化信息和对象目的的送出,从判定结果提供装置获取判定结果。判定结果输出部输出判定结果。
在第十二观点所述的判定结果输出装置中,能够选择多个判定目的中的一个判定目的作为对象目的,并且输出与对象目的对应的判定结果。
本发明第十三观点的判定结果输出系统包括对表示对象者的状态的判定结果进行输出的判定结果输出装置以及提供判定结果的判定信息提供装置。判定结果输出装置包括:对象目的选择部,上述对象目的选择部将多个判定目的中的一个判定目的作为对象目的加以选择;脑功能激活信息提供部或脑功能激活信息检测部,上述脑功能激活信息提供部提供与对象目的对应的脑功能激活信息,上述脑功能激活信息检测部对与对象目的对应的脑功能激活信息进行检测;脸部变化信息获取部,上述脸部变化信息获取部对表示对象者的脸部数据的时间序列变化的脸部变化信息进行获取;脸部变化信息送出部,上述脸部变化信息送出部将脸部变化信息与对象目的相关联并送出至判定结果提供装置;判定结果获取部,上述判定结果获取部根据脸部变化信息和对象目的的送出,从判定结果提供装置获取判定结果;以及判定结果输出部,上述判定结果输出部输出判定结果。判定结果提供装置包括:基准信息存储部,上述基准信息存储部根据多个判定目的的每一个判定目的将下述变化量与状态水平相关联并作为基准信息进行存储,其中,上述变化量是指针对脑功能激活信息的与基准相关值相比的变化量;判定用信息生成部,在从判定结果输出装置获取与对象目的相关联的脸部变化信息时,上述判定用信息生成部根据脸部变化信息生成判定用信息;相关值计算部,上述相关值计算部计算出脑功能激活信息和判定用信息的相关值;判定结果确定部,上述判定结果确定部根据相关值和基准信息对包括对象者的状态水平在内的判定结果进行确定;判定结果送出部,上述判定结果送出部将判定结果送出至判定结果输出装置。
在第十三观点所述的判定结果输出系统中,根据与对象目的对应的脑功能激活信息和判定用信息的相关值来对表示对象者的状态的判定结果进行确定,因此,能够以简易的结构判定对象者的各种状态。
在第十三观点所述的判定结果输出系统的基础上,在本发明第十四观点的判定结果输出系统中,判定用信息生成部通过对脸部变化信息进行奇异值分解、主成分分析或独立成分分析,提取出与对应于对象目的的脑功能激活信息相关的判定用成分,并且根据判定用成分生成判定用信息。
在第十四观点所述的判定结果输出系统中,通过奇异值分解、主成分分析、独立成分分析,从脸部变化信息提取出与对应于选择的对象目的的脑功能激活信息相关的判定用成分,因此,不使用安装前需要进行前期处理的电极等也能够对对象者是否具有脑活动进行推定。此外,根据与对象者的脑功能对应的判定用成分,能够对与对象目的对应的、表示对象者的各种状态的判定结果进行输出。
发明效果
在第一观点~第四观点所述的判定结果输出装置中,能够对与对象目的对应的、表示对象者的各种状态的判定结果进行输出。
在第五观点所述的判定结果提供装置中,能够对与对象目的对应的、表示对象者的各种状态的判定结果进行提供。
在第六观点、第七观点所述的判定结果输出装置中,能够对与对象目的对应的、表示对象者的各种状态的判定结果进行输出。
在第八观点、第九观点所述的判定结果输出系统中,能够对与对象目的对应的、表示对象者的各种状态的判定结果进行输出。
在第十观点、第十一观点所述的判定结果提供装置中,能够对与对象目的对应的、表示对象者的各种状态的判定结果进行提供。
在第十二观点所述的判定结果输出装置中,能够对与对象目的对应的判定结果进行输出。
在第十三观点、第十四观点所述的判定结果输出系统中,能够对与对象目的对应的、表示对象者的各种状态的判定结果进行输出。
附图说明
图1是表示拍摄图像数据以及对该拍摄图像数据进行解析后的结果一例的图。
图2是表示对脸部皮肤温度数据进行解析后的部分结果的图。
图3是表示对脸部皮肤温度数据进行解析后的部分结果的图。
图4是表示成分二的成分波形的振幅和测定出的脑波中的β波的振幅的图。
图5是表示成分三的成分波形的振幅和测定出的脑波中的β波的振幅的图。
图6是表示对由对照实验得到的脸部皮肤温度数据进行解析后的部分结果的图。
图7是表示对基于脸部的拍摄图像数据的成分波形进行解析后的部分结果的图。
图8是表示对基于脸部皮肤温度数据的成分波形进行解析后的部分结果的图。
图9是表示对基于脸部的拍摄图像数据的成分波形进行解析后的部分结果的图。
图10是表示对基于脸部皮肤温度数据的成分波形进行解析后的部分结果的图。
图11是表示对基于脸部的拍摄图像数据的成分波形进行解析后的部分结果的图。
图12是表示对基于脸部皮肤温度数据的成分波形进行解析后的部分结果的图。
图13是表示对基于脸部的拍摄图像数据的成分波形进行解析后的部分结果的图。
图14是表示对基于脸部皮肤温度数据的成分波形进行解析后的部分结果的图。
图15是表示对基于脸部的拍摄图像数据的成分波形进行解析后的部分结果的图。
图16是表示对基于脸部皮肤温度数据的成分波形进行解析后的部分结果的图。
图17是表示对基于脸部的拍摄图像数据的成分波形进行解析后的部分结果的图。
图18是表示对基于脸部皮肤温度数据的成分波形进行解析后的部分结果的图。
图19是本发明一实施方式的脑活动可视化装置的示意图。
图20是表示在脑活动可视化装置中对表示反映了脑功能的皮肤温度的变化的成分进行确定时的处理的流程的流程图。
图21是本发明一实施方式的脑活动可视化装置的示意图。
图22是表示在脑活动可视化装置中对表示反映了脑功能的脸部的RGB变化的成分进行确定时的处理的流程的一例的流程图。
图23是表示第一实施方式中的判定结果输出装置800的结构的示意图。
图24是表示第一实施方式中的脑功能激活信息数据库831的结构的示意图。
图25是表示第一实施方式中的基准信息数据库832的结构的示意图。
图26是用于说明第一实施方式中的判定结果输出装置800的动作的顺序图。
图27是表示第二实施方式中的判定结果输出系统700A的结构的示意图。
图28是用于说明第二实施方式中的判定结果输出系统700A的动作的顺序图。
图29是表示第三实施方式中的判定结果输出系统700B的结构的示意图。
图30是用于说明第三实施方式中的判定结果输出系统700B的动作的顺序图。
具体实施方式
在对本发明的实施方式进行说明前,首先,对作为本发明者们完成本发明时的重要基础的、本发明者们的见解进行说明。
(1)本发明者们的见解的要点
已知,人类的脑活动反映了人类的智力活动(认知活动等)以及情感活动(愉快/不愉快等活动)。此外,目前,虽然尝试对人类的脑活动进行推定,但在这种情况下,大多采用通过脑波测量法、磁共振图像法以及近红外线分光法中的任一方法检测出的数据。
此处,作为检测方法,例如在采用脑波测量法的情况下,需要对试验者安装脑波电极。此外,由于在安装脑波电极时,需要减小皮肤和电极之间的电阻,因而需要进行研磨皮肤的处理以及将糊料涂敷于电极等作业。此外,在采用磁共振图像法的情况下,无法在MRI室以外进行测定,并且具有无法将金属带入测定室内等测定条件的限制。此外,在采用近红外线分光法的情况下,需要向试验者安装探针,但长时间安装探针会使试验者感到疼痛,并且有时由于试验者的头发和探针的接触状况而无法准确地检测。这样,在为了测定人类的脑活动而采用目前的检测方法的情况下,需要进行安装脑波电极或探针等时的前期处理,或者测定条件被限定等,从而使施加给试验者的负担变大。
因此,需要开发一种设备,该设备能够减轻试验者的负担,并且能够简便地对人类的脑活动进行推定。
此外,本发明者们对下述情况进行了考虑:能否根据人类的脸部的皮肤温度或被认为与脸部的皮肤温度成比例的脸部的血液循环状态来推定人类的脑活动。对于人类的脸部的皮肤温度,能够采用热成像等测定装置来获取,对于脸部的血液循环状态即脸部的血液循环量,能够通过采用拍摄装置所得到的脸部的拍摄图像的RGB数据来推定。这样,不需要安装脑波电极或探针等安装前需要进行处理的传感器就能够获取脸部的皮肤温度或脸部的拍摄图像。
另一方面,已知,人类的脸部的皮肤温度受到外部空气温度以及/或者自主神经的活动等各种因素的影响而变化。因此,可以认为,若根据脸部的皮肤温度或根据被认为与脸部的皮肤温度成比例的脸部的血液循环量对脑活动进行推定,则很难判断获取到的数据是否仅反映脑活动。
本发明者们通过专心研究发现了下述结果:通过采用奇异值分解法、主成分分析法或者独立成分分析法来将时间序列的脸部皮肤温度数据或时间序列的脸部的血液循环量数据分解成多个成分,并且对分解后的多个成分进行解析,从而能够对表示反映了脑活动的脸部的皮肤温度的变化或脸部的血液循环量的变化的成分进行确定,其中,上述时间序列的脸部皮肤温度数据是检测脸部的皮肤温度,包括检测出的温度数据以及检测部位的位置数据(坐标数据),上述时间序列的脸部的血液循环量是根据RGB数据计算得到的,上述RGB数据是通过时间序列的脸部的拍摄图像数据得到的。此外,本发明者们通过推定对象者的脑活动并且对上述脑活动进行解析,从而得到能够根据推定出的脑活动而将对象者的生理状态可视化的本发明。
(2)脸部的各种数据的获取方法以及对获取后的各种数据进行解析的方法
(2-1)脸部皮肤温度数据的获取方法以及脸部皮肤温度数据的解析方法
接着,对本发明者们获得上述见解时采用的脸部皮肤温度数据的获取方法以及脸部皮肤温度数据的解析方法进行说明。
在本试验中,从六名试验者获取了脸部皮肤温度数据。具体而言,让试验者坐在设置于室温维持为25℃的人工气候室内的椅子上,并采用红外线热成像装置从试验者的整个脸部获取到脸部皮肤温度数据。红外线热成像装置能够通过红外线相机对从对象物辐射出的红外线辐射能进行检测,将检测出的红外线辐射能转换成对象物表面的温度(此处为摄氏温度),并将上述温度分布作为脸部皮肤温度数据(例如,表示温度分布的图像数据)予以显示并储存。此外,在本试验中,使用NEC Avio红外线技术株式会社(日文:NEC Avio赤外線テクノロジー株式会社)制造的R300作为红外线热成像装置。另外,红外线相机设置于试验者的正面且距离试验者1.5米处的位置。此外,脸部皮肤温度数据是在三十分钟内获取的。
另外,在本试验中,在获取脸部皮肤温度数据的期间,向试验者提供了脑功能激活问题。藉此,获取到脑非激活时的脸部皮肤温度数据以及脑激活时的脸部皮肤温度数据。作为脑功能激活问题,列举了试验者根据显示装置等显示的画面所进行的计算,或者对数值、形状以及颜色进行识别,或者对记号、文字乃至语言进行记忆等心理作业。在本试验中,采用“乘法的心算”作为脑功能激活问题,让试验者对通过笔算形式显示于显示装置的数字进行计算,并且通过键盘输入上述问题的答案。此外,在本试验中,从开始获取脸部皮肤温度数据的五分钟后的十分钟持续向试验者提供脑功能激活问题。
作为对脸部皮肤温度数据的解析,将获取到的脸部皮肤温度数据作为对象,并且采用MATLAB(注册商标)的SVD(奇异值分解(英文:Singular Value Decomposition))作为分析工具进行奇异值分解。在奇异值分解中,将以时间序列获取到的所有脸部皮肤温度数据(三十分钟的数据)作为对象,将因子设为每三十秒的时间数据(三十分钟有六十个时间点),将测度设为上述期间(三十秒)的脸部皮肤温度数据(240×320像素)。接着,通过奇异值分解将脸部皮肤温度数据X分解成多个成分,并且计算出各成分的时间分布V、空间分布U以及表示各成分大小的奇异值S。另外,上述关系通过下式表示。此外,V’是将V的行和列进行交换后得到的矩阵。
(数学式1)
X=(U*S)*V′
接着,将由奇异值分解求出的各成分的时间分布V和空间分布U绘制成图,从而生成各成分的成分波形图和温度分布图。
此外,根据生成后的各成分的成分波形图和温度分布图,进行了对表示反映了脑活动的皮肤温度的变化的成分进行确定的解析。
根据各成分的成分波形图进行了上述成分波形的振幅与脑非激活时和脑激活时有无相关性关系的解析。具体而言,对各成分的成分波形图所示的振幅与脑非激活期间/脑激活期间之间是否具有相关性关系进行了评价。在本试验中,在获取脸部皮肤温度数据的期间,将作为未向试验者提供脑功能激活问题期间的、从开始获取数据的时刻到经过了五分钟的时刻为止的五分钟期间以及从开始获取数据时经过了十五分钟的时刻到数据获取结束时刻为止的十五分钟的期间设为脑非激活时,将作为向试验者提供脑功能激活问题的期间的、从开始获取数据时经过了五分钟的时刻到经过了十分钟的时刻为止的十分钟的期间设为脑激活时。接着,对各成分的成分波形图所示的振幅与脑非激活时和脑激活时有无相关性关系进行了评价。另外,对有无相关性关系进行了统计性的相关性分析,并且在显著水平(α)为0.05以下的情况下判断为具有相关性。
根据各成分的温度分布图,对脸部的规定部位的温度是否有变化进行了解析。此处,脑具有选择性脑冷却机构(Selective Brain Cooling System)这样独立于体温的、对脑进行冷却的结构。已知,选择性脑冷却机构利用前额部和鼻窦周围(包括眉间和鼻部周围)将由脑活动产生的热量排出。因此,在本试验中,在各成分的温度分布图中,对鼻窦周围以及前额部的温度是否发生变化进行了评价。此外,关于温度分布图中鼻窦周围和前额部的温度是否有变化,将通过目视(visual inspection)判断温度是否有变化,或者鼻窦周围以及前额部的温度是否与整个测定数据的平均温度具有一个标准偏差(SD)以上不同作为温度是否有变化的基准。
此外,由于脸部皮肤温度数据X的极性(正负)通过空间分布U、奇异值S以及时间分布V的值的关系来确定,因此,有时在各成分的成分波形图和温度分布图中极性会反转。因此,关于成分波形图和温度分布图的评价,极性不作为评价对象。
此处,在上述红外线热成像装置中,如上所述,将从对象物检测出的红外线辐射能转换成温度,并且将上述温度分布作为脸部皮肤温度数据。此外,在将人类作为对象并且采用红外线热成像装置来获取脸部的皮肤温度的情况下,也会将脸部的动作以及/或者自主神经的活动等各种与脑活动无关的温度变化(即干扰)作为脸部皮肤温度数据进行获取(参照图1的(a))。因此,为了对上述这样与脑活动无关的温度变化进行检测,生成将包含于每三十秒的脸部皮肤温度数据的温度数据的整体平均值设为“0”的相对脸部皮肤温度数据,对于生成后的脸部皮肤温度数据,也采用MATLAB(注册商标)的SVD作为分析工具来进行奇异值分解,从而生成基于奇异值S的各成分的成分波形图和温度分布图,进而进行了对表示反映了脑活动的皮肤温度的变化的成分进行确定的解析。
此外,以下,为了便于说明,将通过红外线热成像装置获取到的脸部皮肤温度数据称为“基于温度换算数据的脸部皮肤温度数据”,将相对脸部皮肤温度数据称为“基于相对温度换算数据的脸部皮肤温度数据”,其中,上述相对脸部皮肤温度数据将基于每个规定时间(本试验中为每三十秒)的温度换算数据的脸部皮肤温度数据所包含的温度数据的整体平均值设为“0”。
另外,对于六名试验者中的一名试验者,除了进行基于红外线热成像装置的脸部皮肤温度的检测外,还在该名试验者的头皮上连接电极并测定脑波,对作为清醒时或意识紧张时出现的波形而公知的β波(频率为14~30Hz的脑波)的振幅和成分波形图的振幅之间的相关性关系进行了评价。此外,在脑波测定时,根据国际标准10-20法,在六个部位(F3、F4、C3、C4、Cz、Pz)配置了电极。
可以认为,在向试验者提供脑功能激活问题的期间,试验者的头上下运动。由此,试验者的脸部相对于红外线相机的位置会发生变化。为了验证上述脸部的位置的变化是否对皮肤温度的变化有影响,对一名试验者进行了对照试验。在对获取脸部皮肤温度数据时试验者的动作所产生的影响进行验证的对照试验中,与上述试验相同,采用红外线热成像装置来获取试验者的脸部皮肤温度数据,而在未被提供脑功能激活问题的期间(即,脑非激活时),在随机的时刻也向试验者布置按键盘的作业。针对基于由上述对照试验得到的温度换算数据的脸部皮肤温度数据以及基于相对温度换算数据的脸部皮肤温度数据,也采用MATLAB(注册商标)的SVD作为分析工具来进行奇异值分解,从而生成基于奇异值S的各成分的成分波形图和温度分布图,进而进行了对表示反映了皮肤温度的变化的成分进行确定的解析。
(2-2)脸部拍摄图像数据的获取方法以及脸部拍摄图像数据的解析方法
图1的(a)是表示由拍摄装置拍摄到的试验者的脸部的鼻窦周围的拍摄图像数据的一例的图。图1的(b)是表示血液循环量分布图(图像映射)的一例的图。
接着,对本发明者们获得上述见解时采用的脸部拍摄图像数据的获取方法以及脸部拍摄图像数据的解析方法进行说明。
在本试验中,从六名试验者获取到脸部的拍摄图像数据。具体而言,让试验者坐在设置于室温维持为25℃的人工气候室内的椅子上,并采用能够以时间序列获取图像的拍摄装置,从而以时间序列获取到试验者的整个脸部的鼻窦周围的拍摄图像数据。
此外,若根据上述选择性脑冷却机构,则可以认为与伴随脑活动的脸部皮肤温度成比例的脸部的血液循环量的变化出现在前额部以及/或者鼻窦周围。由此,本发明者们认为,只要能够至少捕捉到前额部以及/或者鼻窦周围的脸部的血液循环量的变化,就能够高精度地推定脑活动。接着,在本试验中,以时间序列获取到试验者的脸部的鼻窦周围的拍摄图像数据。
此外,在上述试验中,作为拍摄装置,使用苹果公司(原文:Apple社)制造的iPadAir(注册商标)所具有的液晶画面侧的拍摄装置,获取到彩色的动画数据以作为时间序列的拍摄图像数据。此外,拍摄装置设置于试验者的正面侧且距离试验者1.0米处的位置。接着,通过采用拍摄装置以30帧/秒的拍摄周期沿着时间轴连续拍摄三十分钟的拍摄图像数据来得到脸部的动画数据。
另外,在本试验中,在获取脸部的动画数据的期间,向试验者提供了脑功能激活问题。藉此,获取到脑非激活时的脸部的动画数据以及脑激活时的脸部的动画数据。在本试验中,与上述试验相同,采用“乘法的心算”作为脑功能激活问题,让试验者对通过笔算形式显示于显示装置的数字进行计算,并且通过键盘输入上述问题的答案。此外,在本试验中,从开始获取脸部的动画数据的五分钟后的十分钟持续向试验者提供脑功能激活问题。
作为脸部的动画数据的解析,根据由拍摄到的脸部的动画数据所得到的RGB数据来计算出血液循环量数据,将计算出的时间序列的血液循环量数据作为对象,并且将MATLAB(注册商标)的SVD作为分析工具进行了奇异值分解。此处,根据CIE-L*a*b*表色系统求出与根据图像的RGB数据运算出的皮肤的发红程度和血红蛋白量具有相关性的红斑指数“α*”,并将该红斑指数“α*”作为血液循环量数据。此外,在奇异值分解中,将基于通过以时间序列获取到的所有动画数据(三十分钟的数据)得到的RGB数据的血液循环量数据(此处为红斑指数)设为对象,将因子设为每三十秒的时间数据(三十分钟有六十个时间点),将测度设为根据上述期间(每三十秒)的RGB数据运算出的红斑指数(每三十秒取出一秒的帧数据,对由上述帧数据得到的RGB值的平均值进行运算而得到红斑指数;240×320像素)。接着,通过奇异值分解将基于由脸部的动画数据得到的RGB数据的时间序列的血液循环量数据分解成多个成分,并且计算出各成分的时间分布V、空间分布U以及表示各成分大小的奇异值S。另外,上述关系通过与上式(数学式1)相同的式子表示。
接着,将由奇异值分解求出的各成分的时间分布V和空间分布U绘制成图,从而生成各成分的成分波形图和血液循环量分布图。
然后,根据生成后的各成分的成分波形图和血液循环量分布图,进行了对表示反映了脑活动的脸部的血液循环量的变化即脸部的RGB变化的成分进行确定的解析。
根据各成分的成分波形图进行了上述成分波形的振幅与脑非激活时和脑激活时有无相关性关系的解析。具体而言,对各成分的成分波形图所示的振幅与脑非激活期间/脑激活期间之间是否具有相关性关系进行了评价。在本试验中,在获取脸部的拍摄图像数据的期间,将作为未向试验者提供脑功能激活问题期间的、从开始获取数据的时刻到经过了五分钟的时刻为止的五分钟期间以及从开始获取数据时经过了十五分钟的时刻到数据获取结束时刻为止的十五分钟的期间设为脑非激活时,将作为向试验者提供脑功能激活问题的期间的、从开始获取数据时经过了五分钟的时刻到经过了十分钟的时刻为止的十分钟的期间设为脑激活时。接着,对各成分的成分波形图所示的振幅与脑非激活时和脑激活时有无相关性关系进行了评价。另外,对有无相关性关系进行了统计性的相关性分析,并且在显著水平(α)为0.01以下的情况下判断为具有相关性。
根据各成分的血液循环量分布图,对脸部的规定部位的血液循环量是否有变化进行了解析。血液循环量分布图通过将在每个像素计算出的空间分布U排列于各像素的位置而生成。在如上述那样生成的各成分的血液循环量分布图中,对鼻窦周围以及前额部的血液循环量是否有变化进行了评价。此外,关于血液循环量分布图中鼻窦周围以及前额部的血液循环量是否有变化这一点,将通过目视(visual inspection)判断血液循环量是否有变化,或者如图1的(b)所示鼻窦周围以及前额部的血液循环量的值不为“0.000”来作为血液循环量是否有变化的基准。
另外,由于血液循环量数据X的极性(正负)通过空间分布U、奇异值S以及时间分布V的值的关系来确定,因此,有时在各成分的成分波形图和血液循环量分布图中极性会反转。因此,关于成分波形图和血液循环量分布图的评价,极性不作为评价对象。
然后,为了对脸部的皮肤温度和脸部的血液循环量的相关性关系进行验证,在从六名试验者以时间序列获取脸部的拍摄图像数据的期间,通过红外线热成像装置以时间序列还获取脸部皮肤温度数据,并且将MATLAB(注册商标)的SVD作为分析工具来对获取到的脸部皮肤温度数据也进行奇异值分解,从而生成基于奇异值S的各成分的成分波形图,进而对上述成分波形的振幅与脑非激活时和脑激活时是否具有相关性关系进行了解析。此外,在本试验中,采用了与上述试验相同的红外线热成像装置。另外,红外线相机设置于试验者的正面且距离试验者1.5米处的位置。
此外,在使用拍摄装置来获取脸部的拍摄图像数据的情况下,有时在拍摄中太阳光等照射到脸上而使光通过脸反射,从而致使上述反射光进入拍摄装置的透镜。由此,在拍摄到的脸部的拍摄图像数据中会记录有上述反射光。此处,在由拍摄图像数据得到的RGB数据中,由于基于脸部的血液循环量的明度的变化比基于反射光的明度的变化小,因此,可以认为,若对根据由记录有反射光的拍摄图像数据得到的RGB数据而计算出的血液循环量进行解析,则可能混入与脑活动无关的脸部的RGB变化(即干扰)。因此,为了防止混入上述这样与脑活动无关的脸部的RGB变化,通过将每三十秒的RGB数据的整体平均值设为“0”的相对RGB数据生成相对血液循环量数据,对于生成后的血液循环量数据,也采用MATLAB(注册商标)的SVD作为分析工具来进行奇异值分解,从而生成基于奇异值S的各成分的成分波形图和血液循环量分布图,进而进行了对表示反映了脑活动的脸部的RGB变化的成分进行确定的解析。
此外,以下,为了便于说明,将基于将每个规定时间(本试验中为每三十秒)的RGB数据的整体平均值设为“0”的相对RGB数据的相对血液循环量数据称为“相对换算血液循环量数据”,将基于换算成相对RGB数据前的RGB数据的血液循环量数据仅称为“血液循环量数据”。
另外,在通过拍摄装置从六名试验者获取脸部的时间序列的拍摄图像数据的期间,在各试验者的头皮上连接电极并测定脑波,从而对作为清醒时等的脑细胞活动时所呈现的波形而公知的β波(频率为13~30Hz的脑波)的振幅和成分波形图的振幅之间的相关性关系进行了评价。此外,在脑波测定中,根据国际标准10-20法,在头皮上十九个部位(Fp1、Fp2、F3、F4、C3、C4、P3、P4、O1、O2、F7、F8、T3、T4、T5、T6、Fz、Cz以及Pz)配置了电极。
此外,可以认为,在向试验者提供脑功能激活问题的期间,试验者的头上下运动。由此,试验者的脸部相对于拍摄装置的位置会发生变化。为了验证上述脸部的位置的变化是否对脸部的RGB变化有影响,对一名试验者进行了对照试验。在对照试验中,与上述试验相同,使用拍摄装置来获取试验者的脸部的时间序列的拍摄图像数据,但在未提供脑功能激活问题的期间(即,脑非激活时),也在随机的时刻向试验者布置按键盘的作业。针对基于由通过上述对照试验拍摄到的脸部的时间序列的拍摄图像数据得到的RGB数据的时间序列的血液循环量数据,也采用MATLAB(注册商标)的SVD作为分析工具来进行奇异值分解,从而生成基于奇异值S的各成分的成分波形图,进而对上述成分波形的振幅与脑非激活时和脑激活时是否具有相关性关系进行了解析。此外,对各成分波形的振幅和实际的脸部的动作是否具有相关性关系进行了解析。实际的脸部的动作通过下述方式进行了评价:通过拍摄图像数据获取脸的相同部位的二维坐标,并且将对照实验开始时的拍摄图像数据作为基准来计算出拍摄时每三十秒的脸部的移动距离。并且,对各成分波形的振幅和拍摄中的键盘的输入数是否具有相关性关系也进行了解析。拍摄中的键盘的输入数通过计算出时间序列的拍摄图像数据中每三十秒的单纯移动平均值来评价。
(3)解析结果
(3-1)脸部皮肤温度数据的解析结果
图2是表示对基于温度换算数据的脸部皮肤温度数据进行解析后的部分结果的图。图2的(a)表示试验者一的成分二的成分波形图。图2的(b)表示试验者一的成分二的温度分布图。图3的(a)表示试验者一的成分三的成分波形图。图3的(b)表示试验者一的成分三的温度分布图。图4和图5是表示成分波形的振幅和脑波的关系的图。图4是表示试验者一的成分二的成分波形的振幅和测定出的脑波中的β波的振幅的图。图5是表示试验者一的成分三的成分波形的振幅和测定出的脑波中的β波的振幅的图。图6是表示对由对照实验得到的脸部皮肤温度数据进行解析后的部分结果的图。图6的(a)表示成分三的成分波形图。图6的(b)表示成分三的温度分布图。
表1示出了各试验者的脸部皮肤温度数据的解析结果。
通过对上述脸部皮肤温度数据进行解析得到的结果可知,通过奇异值分解将时间序列的脸部皮肤温度数据分解而得到的多个成分中的成分二以及/或者成分三和人类的脑活动之间具有显著的相关性。
(表1)
此外,如图4和图5所示,通过脑波解析的结果可知,成分二和成分三的各成分波形的振幅和脑波的β波的振幅之间具有显著的相关性。
此外,在对照实验中,即使在获取脸部皮肤温度数据的期间试验者处于运动状态,成分三和人类的脑活动之间也具有显著的相关性(参照图6)。由此可以认为,获取脸部皮肤温度数据时的试验者的动作对多个成分中的成分三没有影响。
根据上述结果,本发明者们得到下述见解。
通过采用奇异值分解将从试验者获取到的时间序列的脸部皮肤温度数据分解成多个成分、并且由对分解后的各成分进行解析后的结果可知,多个成分中的成分三是与脑活动相关的成分。即可知,通过采用奇异值分解将时间序列的脸部皮肤温度数据分解成多个成分,从分解后的多个成分提取出与脑激活/非激活相关的成分,并且利用选择性脑冷却机构对提取出的成分进行解析,从而能够从多个成分中对表示反映了皮肤温度的变化的成分进行确定。由此,本发明者们得到了下述见解:能够根据人类的脸部的皮肤温度来对脑活动进行推定。
(3-2)脸部的拍摄图像数据的解析结果
图7~图18是表示对基于脸部的拍摄图像数据(血液循环量数据)或脸部皮肤温度数据的成分波形图进行解析后的部分结果的图。图7是表示基于试验者一的拍摄图像数据的成分二的成分波形的振幅和测定出的试验者一的脑波中的β波的振幅的图。图8是表示基于试验者一的脸部皮肤温度数据的成分二的成分波形的振幅和测定出的试验者一的脑波中的β波的振幅的图。图9是表示基于试验者二的拍摄图像数据的成分二的成分波形的振幅和测定出的试验者二的脑波中的β波的振幅的图。图10是表示基于试验者二的脸部皮肤温度数据的成分二的成分波形的振幅和测定出的试验者二的脑波中的β波的振幅的图。图11是表示基于试验者三的拍摄图像数据的成分四的成分波形的振幅和测定出的试验者三的脑波中的β波的振幅的图。图12是表示基于试验者三的脸部皮肤温度数据的成分三的成分波形的振幅和测定出的试验者三的脑波中的β波的振幅的图。图13是表示基于试验者四的拍摄图像数据的成分三的成分波形的振幅和测定出的试验者四的脑波中的β波的振幅的图。图14是表示基于试验者四的脸部皮肤温度数据的成分二的成分波形的振幅和测定出的试验者四的脑波中的β波的振幅的图。图15是表示基于试验者五的拍摄图像数据的成分二的成分波形的振幅和测定出的试验者五的脑波中的β波的振幅的图。图16是表示基于试验者五的脸部皮肤温度数据的成分二的成分波形的振幅和测定出的试验者五的脑波中的β波的振幅的图。图17是表示基于试验者六的拍摄图像数据的成分四的成分波形的振幅和测定出的试验者六的脑波中的β波的振幅的图。图18是表示基于试验者六的脸部皮肤温度数据的成分三的成分波形的振幅和测定出的试验者六的脑波中的β波的振幅的图。
如图7~图18所示,通过各成分波形和脑波解析的结果可知,脸部的皮肤温度和脸部的血液循环量具有相关性关系。此外,基于脸部的皮肤温度数据以及脸部的血液循环量数据中的任一数据的解析也可知,各成分波形的振幅和安装于头顶部或后头部的电极测定出的脑波的β波的振幅之间具有显著的相关性。
如下所示的表2示出了各试验者的脸部的拍摄图像数据的解析结果。
(表2)
如表2所示,通过由上述脸部的拍摄图像数据的解析得到的结果可知,在对基于脸部的拍摄图像数据的时间序列的血液循环量数据进行奇异值分解而得到的多个成分中,成分一、成分二、成分三、成分四、成分五和人类的脑活动之间具有显著的相关性。另外,在此认为,不仅在基于血液循环量数据的相关性中被观察到具有显著的相关性且在基于相对换算血液循环量数据的相关性中被观察到具有显著的相关性的成分与人类的脑活动具有显著的相关性,而且虽然在基于血液循环量数据的相关性中未被观察到具有显著的相关性但在基于相对换算血液循环量的相关性中被观察到具有显著的相关性的成分也与人类的脑活动具有显著的相关性。
此外,如下所示的表3示出了对照实验的结果。
(表3)
与脑休息时/脑激活时具有相关性关系的成分 | 成分一、成分二 |
与脸部移动距离具有相关性关系的成分 | 成分一、成分三、成分四 |
与键盘输入数具有相关性关系的成分 | 成分八 |
如表3所示,在对照实验中,在获取脸部的拍摄图像数据的期间试验者有动作的情况下,未发现成分二分别与移动距离和键盘输入数之间具有显著的相关性,其中,成分二是上述成分波形的振幅与脑非激活时和脑激活时之间具有显著的相关性的成分中的成分。由此可知,在通过对基于从脸部的拍摄图像数据获取到的RGB数据的血液循环量数据进行奇异值分解而得到的多个成分中,与脑活动之间具有显著的相关性的成分虽然受到由在获取脸部的时间序列的拍摄图像数据时的试验者的动作产生的影响,但上述影响远比由脑的脑活动产生的影响(由脑激活或非激活产生的影响)小。
根据上述结果,本发明者们得到下述见解。
采用奇异值分解将通过基于从试验者获取到的时间序列的脸部的拍摄图像数据的脸部的RGB数据得到的血液循环量数据分解成多个成分,并且通过对分解后的各成分进行解析后的结果可知,多个成分中的成分一、成分二、成分三、成分四和成分五是与脑活动有关的成分。即可知,通过采用奇异值分解将通过基于时间序列的脸部的拍摄图像数据的脸部的RGB数据得到的血液循环量数据分解成多个成分,从分解后的多个成分提取出与脑激活/脑非激活相关的成分,并且对提取出的成分进行解析,从而能够从多个成分中对表示反映了脑活动的脸部的RGB变化的成分进行确定。由此,本发明者们得到了下述见解:能够根据人类的脸部的时间序列的拍摄图像数据来对脑活动进行推定。
(4)脑活动可视化装置
接着,根据上述说明的见解,对本发明者们完成的本发明的一实施方式的脑活动可视化装置10、110进行说明。此外,本发明的脑活动可视化装置不限定于下述实施方式,能够在不脱离其主旨的范围内进行适当的变更。
本发明的一实施方式的脑活动可视化装置10、110包括:脑活动推定单元30,该脑活动推定单元30根据脸部皮肤温度数据对脑活动进行推定;以及/或者脑活动推定单元130,该脑活动推定单元130根据脸部的拍摄图像数据对脑活动进行推定。以下,在对本发明的一实施方式的脑活动可视化装置10、110进行说明前,对各脑活动推定单元30、130进行说明。
(4-1)根据脸部皮肤温度对脑活动进行推定的脑活动推定单元30
图19是本发明的一实施方式的脑活动可视化装置10的示意图。图20是表示在脑活动可视化装置10中对表示反映了脑功能的皮肤温度的变化的成分进行确定时的处理的流程的流程图。
脑活动可视化装置10所包括的脑活动推定单元30通过个人(试验者)的脸部的皮肤温度对个人的脑活动进行推定。如图19所示,脑活动可视化装置10包括脸部皮肤温度获取单元20、脑活动推定单元30以及状态可视化单元200。
脸部皮肤温度获取单元20对个人的脸部的至少一部分的皮肤温度进行检测,并且以时间序列获取包括检测出的温度数据以及其检测部位的位置数据的脸部皮肤温度数据(步骤S1)。此外,此处,脸部皮肤温度获取单元20是红外线热成像装置,如图19所示,该脸部皮肤温度获取单元20具有红外线相机21和处理部22。红外线相机21用于对从个人的脸部辐射出的红外线辐射能进行检测。接着,此处,红外线相机21从个人的整个脸部对红外线辐射能进行检测。处理部22将由红外线相机21检测出的红外线辐射能转换成温度以作为温度数据,并且生成将检测出红外线辐射能的部位作为位置数据(坐标数据)的整个脸部的脸部皮肤温度的温度分布图,将生成后的温度分布图作为基于温度换算数据的脸部皮肤温度数据进行处理。基于温度换算数据的脸部皮肤温度数据储存于处理部22具有的存储部(未图示)。
此处,在处理部22生成整个脸部的脸部皮肤温度的温度分布图,但不限定于此,也可以生成至少包括鼻窦周围以及/或者前额部的脸部皮肤温度的温度分布图,并且将上述温度分布图作为基于温度换算数据的脸部皮肤温度数据。
此外,此处,在采用脸部皮肤温度获取单元20对基于温度换算数据的脸部皮肤温度数据进行获取的期间,在一定期间内向个人提供脑功能激活问题。即,采用脸部皮肤温度获取单元20获取的、基于温度换算数据的脸部皮肤温度数据包括向个人提供脑功能激活问题期间的数据。此外,作为向个人提供的脑功能激活问题,只要推定为能够使人脑处于激活状态,则不做特别的限定,例如,可以根据脑活动可视化装置10的利用目的来适当地确定上述脑功能激活问题的内容。
脑活动推定单元30根据由脸部皮肤温度获取单元20获取到的基于温度换算数据的脸部皮肤温度数据来对人类的脑活动进行推定。具体而言,如图19所示,脑活动推定单元30具有换算部31、解析部32和推定部33。
换算部31将基于温度换算数据的脸部皮肤温度数据所包含的温度数据换算成相对温度数据,然后生成基于换算后的相对温度数据的脸部皮肤温度数据即基于相对温度换算数据的脸部皮肤温度数据(步骤S2)。具体而言,换算部31将基于每个规定时间(例如,30秒)的温度换算数据的脸部皮肤温度数据所包含的温度数据的平均值作为基准值,并且将该温度数据换算成相对温度数据。接着,换算部31利用换算后的相对温度数据和位置数据来生成基于相对温度换算数据的脸部皮肤温度数据。
解析部32通过奇异值分解、主成分分析或独立成分分析分别将基于时间序列的温度换算数据的脸部皮肤温度数据和基于相对温度换算数据的脸部皮肤温度数据分解成多个成分(步骤S3)。此处,解析部32分别将获取到的基于温度换算数据的脸部皮肤温度数据和换算后的基于相对温度换算数据的脸部皮肤温度数据作为对象,并且采用MATLAB(注册商标)的SVD作为分析工具来进行奇异值分解。针对以时间序列获取到的基于温度换算数据的脸部皮肤温度数据和基于相对温度换算数据的脸部皮肤温度数据,通过将因子设为每个规定期间(例如,30秒)的时间数据,并且将测度设为上述期间的基于温度换算数据的脸部皮肤温度数据和基于相对温度换算数据的脸部皮肤温度数据,从而进行奇异值分解。接着,通过奇异值分解分别将基于温度换算数据的脸部皮肤温度数据和基于相对温度换算数据的脸部皮肤温度数据分解成多个成分,然后计算出时间分布、空间分布以及表示各成分大小的奇异值。
此外,为了从由奇异值分解分解出的多个成分来对表示反映了脑活动的皮肤温度的变化的成分进行确定,解析部32对各成分是否满足第一条件和第二条件进行判定(步骤S4a、步骤S4b、步骤S5a、步骤S5b)。另外,此处,在解析部32中,首先对基于与温度换算数据对应的脸部皮肤温度数据的各成分是否满足第一条件进行判定(步骤S4a),对在步骤S4a中判定为满足第一条件的、基于与温度换算数据对应的脸部皮肤温度数据的成分是否满足第二条件进行判定(步骤S4b)。接着,仅对基于与相对温度换算数据对应的脸部皮肤温度数据的各成分中的、与在步骤S4a和步骤S4b中判定为满足第一条件和第二条件的成分一致的成分是否满足第一条件进行判定(步骤S5a),然后,对在步骤S5a中判定为满足第一条件的、基于与相对温度换算数据对应的脸部皮肤温度数据的成分是否满足第二条件进行判定(步骤S5b)。不过,解析部32的上述判定的顺序不限定于此,例如,可以分别对基于与温度换算数据对应的脸部皮肤温度数据的各成分以及基于与相对温度换算数据对应的脸部皮肤温度数据的各成分是否满足第一条件和第二条件进行判定,最后提取出判定结果一致的成分。
第一条件是指通过奇异值分解分解出的成分的成分波形的振幅与脑非激活时以及脑激活时的变化具有相关性关系的条件。解析部32提取出多个成分中满足第一条件的成分以作为判定用成分。另外,此处,在获取基于温度换算数据的脸部皮肤温度数据的期间,向个人提供脑功能激活问题的期间是一定期间。解析部32将未向个人提供脑功能激活问题的期间设为脑非激活时,将向个人提供脑功能激活问题的期间设为脑激活时,并且将提供有脑功能激活问题的期间以及未提供有脑功能激活问题的期间和各成分的成分波形进行比较和解析。解析部32利用基于成分波形数据的比较解析结果来对各成分的成分波形是否与脑非激活时和脑激活时具有相关性关系进行评价,并且将多个成分中评价为具有相关性关系的成分提取并作为满足第一条件的判定用成分。另一方面,解析部32判定多个成分中评价为不具有相关性关系的成分不满足第一条件,不是表示反映了人类的脑活动的温度变化的成分(步骤S6)。
此处,在获取基于温度换算数据的脸部皮肤温度数据时,在一定期间内向个人提供脑活动激活问题,解析部32藉此提取出判定用成分,但是,第一条件的内容即解析部32中判定用成分的提取手段不限定于此。例如,在通过预先实验等确定多个成分中表示与脑非激活时和脑激活时具有相关性关系的成分波形的成分的情况下,解析部32将从多个成分中确定的上述成分提取以作为判定用成分。此外,在本脑活动可视化装置对眼球运动或眨眼等作为与脑激活/非激活有关的动作而公知的人类的动作进行检测的情况下,解析部32可以通过将上述检测结果和各成分的成分波形进行比较、解析和评价,从而从多个成分中提取出判定用成分。另外,通过解析部32进行是否满足第一条件的判定的基准根据脑活动可视化装置10的利用目的等并且通过模拟或实验、理论计算等来适当地确定。
第二条件是指在提取出的判定用成分中,人类的脸部的规定部位的温度有变化的条件。解析部32将判定用成分中满足第二条件的成分判定为与人类的脑活动有关的可能性较高的成分,并且提取上述成分以作为候补成分。也就是说,解析部32根据人类的脸部的规定部位的温度是否有变化来对判定用成分是否与人类的脑活动有关进行判定。具体而言,解析部32根据提取出的判定用成分的温度分布数据来对鼻窦周围以及/或者前额部的温度是否发生变化进行判定,在温度发生变化的情况下,判定上述判定用成分是满足第二条件的、与人类的脑活动有关的可能性较高的成分,从而将上述成分提取以作为候补成分。另一方面,在鼻窦周围以及/或者前额部的温度没有发生变化的情况下,解析部32判定上述判定用成分不满足第二条件,不是表示反映了脑活动的皮肤温度的变化的成分(步骤S6)。此外,通过解析部32进行是否满足第二条件的判定的基准根据脑活动可视化装置10的利用目的等并且通过模拟或实验、理论计算等来适当地确定。
接着,解析部32将在步骤S5b中判定为满足第二条件的成分确定为表示反映了脑活动的皮肤温度的变化的成分(步骤S7)。也就是说,在步骤S7中确定为表示反映了脑活动的皮肤温度的变化的成分是通过对基于温度换算数据的脸部皮肤温度数据进行奇异值分解、解析而提取出的候补成分和通过对基于相对温度换算数据的脸部皮肤温度数据进行奇异值分解、分析而提取出的候补成分之间一致的成分。此外,关于在两种解析中不一致的候补成分,在步骤S6中判定为不是表示反映了脑活动的皮肤温度的变化的成分。
推定部33根据解析部32中确定为表示反映了人类的脑活动的皮肤温度的变化的成分的成分来对人类的脑活动进行推定。具体而言,推定部33根据在解析部32中确定的成分的成分波形数据来对获取脸部皮肤温度数据时的脑活动量进行推定。
(4-1-1)变形例1A
上述脑活动推定单元30具有换算部31,采用换算部31生成基于相对温度换算数据的脸部皮肤温度数据。接着,解析部32通过奇异值分解不仅将由脸部皮肤温度获取单元20获取到的基于温度换算数据的脸部皮肤温度数据、而且将基于与换算成相对温度数据的温度数据对应的相对温度数据的脸部皮肤温度数据也分解成多个成分,并且对各成分进行解析。
作为替代,脑活动推定单元30可以不具有换算部31。在这种情况下,能够省略对基于相对温度换算数据的脸部皮肤温度数据进行生成以及对基于与相对温度换算数据对应的脸部皮肤温度数据的数据进行解析的处理。
但是,为了高精度地确定与人类的脑活动有关的成分,较佳的是,如上述实施方式所述,脑活动推定单元30具有换算部31,使解析部32通过奇异值分解不仅将由脸部皮肤温度获取单元20获取到的基于温度换算数据的脸部皮肤温度数据、而且将基于与换算成相对温度数据的温度数据对应的相对温度数据的脸部皮肤温度数据也分解成多个成分,并且对各成分进行解析。
(4-1-2)变形例1B
此外,上述脸部皮肤温度获取单元20是能够在与对象物不接触的状态下获取温度数据的红外线热成像装置。
但是,只要能够对个人的脸部的至少一部分的皮肤温度进行检测,并且以时间序列获取包括检测出的温度数据以及其检测部位的位置数据的脸部皮肤温度数据,则脸部皮肤温度获取单元也不限定于红外线热成像装置。
例如,脸部皮肤温度获取单元可以是包括温度传感器的装置。具体而言,可以在个人的脸部的规定部位安装温度传感器,根据温度传感器检测出的温度数据以及安装温度传感器的部位的位置数据来获取时间序列的脸部皮肤温度数据。这样,即使在温度传感器在与作为对象的个人接触的状态下获取脸部皮肤温度数据的情况下,温度传感器也不像脑波电极等那样需要进行安装前的处理,因此,与脑波测量法、磁共振图像法以及近红外线分光法等现有检测方法相比,能够简便地获取数据。藉此,能够简便地对人类的脑活动进行推定。
(4-2)根据脸部的拍摄图像数据对脑活动进行推定的脑活动推定单元130
图21是本发明的实施方式的脑活动可视化装置110的示意图。图22是表示在脑活动可视化装置110中对表示反映了脑功能的脸部的RGB变化的成分进行确定时的处理的流程的一例的流程图。
脑活动可视化装置110所包括的脑活动推定单元130通过个人(试验者)的脸部的拍摄图像数据对个人的脑活动进行推定。如图21所示,脑活动可视化装置110包括图像数据获取单元120、脑活动推定单元130以及状态可视化单元200。
图像数据获取单元120以时间序列获取个人的脸部的至少一部分的拍摄图像数据(步骤S101)。此外,只要是至少具有拍摄装置的设备,则对图像数据获取单元120不做特别的限定,例如,可以列举智能手机或平板电脑(例如,iPad:注册商标)等内置拍摄装置型移动终端等。此处,如图21所示,图像数据获取单元120具有作为拍摄装置的相机121和存储部122。相机121用于以时间序列获取个人的脸部的拍摄图像数据。此处,相机121对个人的整个脸部的动画进行拍摄,从而获取拍摄到的动画数据。存储部122对由拍摄装置拍摄到的时间序列的拍摄图像数据进行储存。此处,存储部122对通过相机121获取到的动画数据进行储存。
另外,此处通过相机121对整个脸部的动画进行拍摄,但不限定于此,只要对脸部的至少包括前额部以及/或者鼻窦周围的图像的动画进行拍摄即可。
此外,此处,在采用图像数据获取单元120对脸部的时间序列的拍摄图像数据进行获取的期间,在一定期间内向个人提供脑功能激活问题。也就是说,采用图像数据获取单元120获取的拍摄图像数据包括向个人提供脑功能激活问题期间的数据。此外,作为向个人提供的脑功能激活问题,只要推定为能够使人脑处于激活状态,则不做特别的限定,例如,可以根据脑活动可视化装置110的利用目的来适当地确定上述脑功能激活问题的内容。
脑活动推定单元130根据由图像数据获取单元120获取到的脸部的时间序列的拍摄图像数据来对人类的脑活动进行推定。具体而言,如图21所示,脑活动推定单元130具有RGB处理部131、换算部132、血液循环量计算部133、解析部134以及推定部135。另外,在图21中示出了脑活动推定单元130作为一个具有RGB处理部131、换算部132、血液循环量计算部133、解析部134和推定部135的装置而存在的形态,但在本发明中不限定于此,上述脑活动推定单元130也可作为RGB处理部131、换算部132、血液循环量计算部133、解析部134以及推定部135的一部分独立或互相独立的装置而存在。此外,此处,脸部血液循环量获取单元通过图像数据获取单元120、RGB处理部131、换算部132以及血液循环量计算部133构成。
RGB处理部131进行将由图像数据获取单元120获取到的拍摄图像数据分解成R成分、G成分以及B成分的三种颜色成分的RGB处理(步骤S102)。在此,可以对整个脸部的拍摄图像数据进行RGB处理,但此处,为了减少运算处理量和干扰,从拍摄图像数据提取出前额部以及/或者鼻窦周围的数据,并且仅对提取出的数据进行RGB处理。
换算部132将由RGB处理获得的拍摄图像数据的RGB数据换算成相对RGB数据(步骤S103)。具体而言,换算部132将从每个规定时间(例如,30秒)获取到的拍摄图像数据得到的RGB数据的平均值作为基准值,并且将上述RGB数据换算成相对RGB数据。
血液循环量计算部133根据由RGB处理获得的拍摄图像数据的RGB数据来计算出脸部的时间序列的血液循环量数据(步骤S104)。
解析部134通过奇异值分解、主成分分析或独立成分分析将时间序列的相对换算血液循环量数据分解成多个成分(步骤S105)。此处,解析部134采用MATLAB(注册商标)的SVD作为分析工具来对相对换算血液循环量数据进行奇异值分解。具体而言,通过将时间序列的相对换算血液循环量数据设为对象,将因子设为每个规定期间(例如,30秒)的时间数据,并且将测度设为从每个上述期间的相对RGB数据运算出的每个像素的相对换算血液循环量数据,从而进行奇异值分解。接着,通过奇异值分解将时间序列的相对换算血液循环量数据分解成多个成分,然后计算出时间分布、空间分布以及表示各成分大小的奇异值。
此外,为了从通过奇异值分解分解出的多个成分中对表示反映了脑活动的脸部的RGB变化的成分进行确定,解析部134对各成分是否满足规定条件进行判定(步骤S106)。在此,规定条件例如包括通过奇异值分解分解出的成分的成分波形的振幅与脑非激活时和脑激活时的变化具有相关性关系的条件(以下,称为第一条件),以及在通过奇异值分解分解出的成分中人类的脸部的规定部位的血液循环量有变化的条件(以下,称为第二条件)等。作为在解析部134中进行判定的规定条件,只要设定一个或多个条件即可,此处,设定第一条件以作为规定条件。
接着,解析部134提取出多个成分中满足规定条件的成分以作为判定用成分。然后,解析部134将提取出的判定用成分中的、满足包含于规定条件的所有条件的成分确定为表示反映了脑活动的脸部的RGB变化的成分(步骤S107)。另一方面,解析部134将多个成分中的、判定为至少不满足包含于规定条件的一个条件的成分判定为不是表示反映了脑活动的脸部的RGB变化的成分(步骤S108)。
此处,如上所述,仅设定一个条件(第一条件)作为规定条件,在对脸部的时间序列的拍摄图像数据进行获取的期间,向个人提供脑功能激活问题的期间是一定期间。因此,解析部134将未向个人提供脑功能激活问题的期间设为脑非激活时,将向个人提供脑功能激活问题的期间设为脑激活时,并且将提供有脑功能激活问题的期间以及未提供有脑功能激活问题的期间与各成分的成分波形进行比较和解析。接着,解析部134利用基于成分波形数据的比较解析结果来对各成分的成分波形是否与脑非激活时和脑激活时具有相关性关系进行评价,并且将多个成分中评价为具有相关性关系的成分提取并作为满足规定条件的判定用成分,并且将其确定为表示反映了脑活动的脸部的RGB变化的成分。另一方面,解析部134判定多个成分中评价为不具有相关性关系的成分不满足规定条件,不是表示反映了人类的脑活动的脸部的RGB变化的成分。
此处,在获取脸部的时间序列的拍摄图像数据时,在一定期间内向个人提供脑活动激活问题,解析部134藉此提取出判定用成分,但是,第一条件的内容即解析部134中判定用成分的提取手段不限定于此。例如,在通过预先实验等确定多个成分中表示与脑非激活时和脑激活时具有相关性关系的成分波形的成分的情况下,解析部134将从多个成分中确定的上述成分提取以作为判定用成分。此外,在脑活动可视化装置110对眼球运动或眨眼等作为与脑激活/非激活有关的动作而公知的人类的动作也进行检测的情况下,解析部134可以通过将上述检测结果和各成分的成分波形进行比较、解析和评价,从而从多个成分中提取出判定用成分。另外,通过解析部134进行是否满足第一条件的判定的基准根据脑活动可视化装置110的利用目的等并且通过模拟或实验、理论计算等来适当地确定。
此外,在设定第二条件作为规定条件的情况下,解析部134根据人类的脸部的规定部位处脸部的血液循环量是否有变化来提取判定用成分。具体而言,解析部134根据与通过奇异值分解分解出的多个成分对应的血液循环量分布图来对鼻窦周围以及/或者前额部的血液循环量是否发生变化进行判定,在血液循环量发生变化的情况下,判定上述成分满足第二条件。另一方面,鼻窦周围以及/或者前额部的血液循环量没有发生变化的情况下,解析部134判定上述成分不满足第二条件。另外,通过解析部134进行是否满足第二条件的判定的基准根据脑活动可视化装置110的利用目的等并且通过模拟或实验、理论计算等来适当地确定。
此外,在通过血液循环量计算部133对基于换算成相对RGB数据前的RGB数据的时间序列的血液循环量数据进行计算的情况下,可以通过解析部134对通过对上述血液循环量数据进行奇异值分解等而得到的多个成分是否满足上述第一条件以及/或者第二条件进行判定,从而提取判定用成分。
推定部135根据解析部134中确定为表示反映了人类的脑活动的脸部的RGB变化的成分的成分来对人类的脑活动进行推定。具体而言,推定部135根据在解析部134中确定的成分的成分波形数据来对获取脸部的拍摄图像数据时的脑活动量进行推定。
(4-2-1)变形例2A
如上所述,作为相机121,例如能够利用智能手机或平板电脑(例如,ipad:注册商标)等内置拍摄装置型移动终端等。也就是说,上述拍摄图像数据能够采用对可视光区域的图像进行拍摄所得到的数据。
此外,在上述血液循环量计算部133中,可以主要采用包含于RGB数据的各像素中的R成分来计算出脸部的血液循环量数据。另外,只要能够根据RGB数据计算出血液循环量数据,血液循环量数据未必限定于红斑指数。
(4-2-2)变形例2B
上述血液循环量计算部133根据由换算部132换算得到的相对RGB数据来计算出相对换算血液循环量数据,但作为替代或在此基础上,也可根据换算成相对RGB数据前的RGB数据来计算出血液循环量数据。在此,在根据换算成相对RGB数据前的RGB数据计算出的血液循环量数据中,由于与脑活动相关的成分容易出现(检验力较高),因此,例如,相比根据相对RGB数据计算出的相对换算血液循环量数据,可以先对根据换算成相对RGB数据前的RGB数据计算出的血液循环量数据进行解析。此外,例如,能够通过下述方式来减少运算处理量:首先对血液循环量数据进行解析来提取出具有显著的相关性的成分,然后,关于相对换算血液循环量数据,仅对与上述提取出的成分对应的成分进行解析。
(4-2-3)变形例2C
上述相机121是以可视光区域的通常的相机为前提的,但也能够采用红外线相机。在这种情况下,照射红外光,通过红外线相机对上述红外光的反射波进行拍摄。藉此,能够获得对象者的脸部变化等的拍摄图像数据。本发明者们确认了下述情况:通过由红外线的反射得到的拍摄图像数据计算出的血液循环量数据和主要采用包含于在可视光区域拍摄到的RGB数据的各像素中的R成分计算出的血液循环量数据具有相关性。因此,即使采用通过上述这样的红外线的反射得到的拍摄图像数据,也能够对人类的脑活动进行推定。
(4-2-4)变形例2D
此外,在上述说明中,脑活动可视化装置110采用包括图像数据获取单元120和脑活动推定单元130的形态,但本实施方式的脑活动可视化装置不限定于上述形态。也就是说,只要本实施方式的脑活动可视化装置包括血液循环量计算部133、解析部134和推定部135,则该脑活动可视化装置的其它结构能够采用任意的形态。具体而言,本实施方式的脑活动可视化装置不仅包括该装置自身对图像数据进行拍摄的形态,还包括从外部的装置接受拍摄图像数据并且对上述数据进行解析的形态。(4-3)状态可视化单元200
状态可视化单元200以根据由脑活动推定单元30以及/或者脑活动推定单元130推定出的对象者的脑活动来表示对象者的生理状态的方式进行可视化。例如,状态可视化单元200可以具有通过对对象者的脑活动量的变化进行解析来对对象者的生理状态进行解析的解析部201。具体而言,解析部201通过对与向对象者提供的刺激(视觉刺激、听觉刺激、触觉刺激、嗅觉刺激或味觉刺激等)对应的脑活动量的变化进行解析来对对象者的生理状态进行判定。此外,关于生理状态的种类或等级,可以基于脑活动量的上升程度以及/或者持续时间并且根据脑活动可视化装置10、110的用途进行适当的设置。接着,通过从状态可视化单元200的显示部202向管理者输出由解析部201解析得到的对象者的生理状态,从而能够使管理者了解对象者的生理状态。作为显示部202,只要是显示图像或消息的显示设备等能够将与解析得到的对象者的生理状态相关的信息可视化并提供给管理者的设备即可。
此外,在解析部32、134中确定了反映脑活动的成分后,进一步通过脸部皮肤温度获取单元20以及/或者图像数据获取单元120来获取时间序列的各种数据的情况下,通过在脑活动可视化装置10、110中进一步采用奇异值分解将获取的各种数据分解成多个成分,并且仅对确定后的成分进行解析,从而能够实时地了解对象者的生理状态。
此外,虽然目前具有通过试验者的脸部的皮肤温度或拍摄到的图像来获取试验者的心跳信息和生物信息等技术,但通过对针对由脸部皮肤温度获取单元20以及/或者图像数据获取单元120得到的各种数据进行奇异值分解等而得到的成分采用目前的技术,能够高精度地获取心跳信息和生物信息。因此,可以使解析部32以及/或者解析部134具有对奇异值分解得到的多个成分进行解析来获取心跳信息和生物信息的功能,可以使上述实施方式的推定部33、135具有根据获取到的心跳信息和生物信息对交感神经/副交感神经的动作进行推定的功能。
(5)特征
(5-1)
在本实施方式中,根据由脸部皮肤温度获取单元20以及/或者图像数据获取单元120获取到的时间序列的脸部皮肤温度数据以及/或者脸部血液循环量数据对人类的脑活动进行推定。因此,即使不安装脑波电极等安装前需要进行处理的传感器,也能够对人类的脑活动进行推定。因此,能够简便地对人类的脑活动进行推定,并且根据推定后的脑活动将对象者的生理状态可视化。
(5-2)
在此,在获取时间序列的脸部的皮肤温度数据以及/或者图像数据时,在通过向人类实际提供脑功能激活问题或不提供脑功能激活问题来制造人类的脑被激活或未被激活的状态的情况下,可以认为,各成分的成分波形与脑激活时以及脑非激活时之间具有相关性关系的成分是作为表示反映了脑活动的皮肤温度以及/或者血液循环量的变化的成分的可能性较高的成分。
在本实施方式中,在通过脸部皮肤温度获取单元20以及/或者图像数据获取单元120来获取时间序列的脸部的皮肤温度数据以及/或者图像数据的期间,在一定期间内向个人提供脑功能激活问题。也就是说,在本实施方式中,通过向个人实际提供脑功能激活问题或不提供脑功能激活问题来制造人类的脑被激活或未被激活的状况。接着,通过奇异值分解将如上所述获取到的时间序列的各种数据分解成多个成分,并且对各成分的成分波形和脑激活时以及脑非激活时的相关性关系进行评价,从而从多个成分中提取出具有相关性关系的成分以作为判定用成分。因此,例如,与从多个成分中提取出通过预先实验等所确定的规定成分以作为提取用成分的情况相比,能够降低从多个成分中提取出与人类的脑活动的相关性较低的成分以作为提取用成分的可能性。
(5-3)
在此,脑具有选择性脑冷却机构这样独立于体温的、对脑进行冷却的结构。已知,选择性脑冷却机构利用前额部和鼻窦周围将由脑活动产生的热量排出。这样,伴随着脑活动的脸部皮肤温度以及与脸部皮肤温度相关的脸部的血液循环量的变化会出现在前额部以及/或者鼻窦周围。
在本实施方式中,对前额部以及/或者鼻窦周围的各种数据进行解析,从而提取出判定用成分。因此,能够高精度地提取出与人类的脑活动相关的成分。
(6)脑活动可视化装置的用途例(判定结果输出装置、判定结果提供装置、系统)
接着,对应用本发明的脑活动可视化装置的判定结果输出装置以及系统进行说明。
(6-1)第一实施方式
(6-1-1)判定结果输出装置800的结构
图23是表示第一实施方式中的判定结果输出装置800的结构的示意图。
判定结果输出装置800包括输入部810、拍摄部815、周围信息获取部816、输出部820、存储部830以及处理部840。此外,在判定结果输出装置800的周围存在脑功能激活信息提供物600。此处,脑功能激活信息提供物600提供激活人类的脑功能的“脑功能激活信息”。作为脑功能激活信息提供物600,例如对应于信号器等。关于脑功能激活信息在后面进行说明。
输入部810将各种信息输入至判定结果输出装置800。例如,输入部810由键盘、鼠标以及/或者触摸屏等构成。通过上述输入部810将各种命令输入至判定结果输出装置800,并且在处理部840执行与命令对应的处理。
拍摄部815对对象者300的包括脸部在内的“脸部图像”进行拍摄。例如,拍摄部815由对RGB图像进行获取的CCD以及CMOS等固体拍摄元件或对热谱图进行获取的红外线相机等构成。通过将红外线相机用于拍摄部815,从而能够不受周围的亮度的影响地判定对象者的状态。特别地,在夜间容易发生由于疲劳引起的事故等。在上述这样的情况下,通过在第一实施方式的判定结果输出装置800装载红外线相机,能够对夜间的对象者的状态进行监视。较佳的是,红外线相机等能够在通常的室温条件下以较高的灵敏度对从29.0℃到37.0℃的范围进行检测。此外,拍摄部815能够以规定的间隔进行连续的拍摄。在对脸部图像进行拍摄的情况下,较佳的是,从正面进行拍摄,以一定的照明进行拍摄。在由于姿势变动而无法获得正面图像的情况下,采用摄动空间法对姿势变动图像的脸的三维形状进行推定,接着通过渲染成正面图像从而获得脸部图像。关于照明变动图像,采用将漫反射模型构建于基底的人脸的照明基础模型(日文:照明基底モデル)来获得一定照明条件的脸部图像。接着,通过拍摄部815将连续拍摄得到的脸部图像送出至处理部840。
周围信息获取部816对从存在于判定结果输出装置800周围的脑功能激活信息提供物600提供的脑功能激活信息进行检测。例如,在采用“显示红色信号”作为脑功能激活信息的情况下,周围信息获取部816对判定结果输出装置800的“周围图像”进行获取。通过周围信息获取部816获取到的信息被送出至处理部840的脑功能激活信息检测部843。
输出部820从判定结果输出装置800输出各种信息。例如,输出部820由显示器和扬声器等构成。此处,通过输出部820将后述的脑功能激活信息提供给对象者300。此外,通过上述输出部820输出判定结果。
存储部830对输入至判定结果输出装置800的信息以及由判定结果输出装置800计算出的信息等进行存储。例如,存储部830由存储器和硬盘装置等构成。此外,存储部830对用于实现后述的处理部840的各功能的程序进行存储。此处,存储部830具有脑功能激活信息数据库831和基准信息数据库832。
如图24所示,脑功能激活信息数据库831按照判定目的对激活人类的脑功能的“脑功能激活信息”进行存储。此处,作为判定目的,例如能够选择“疲劳状态判定”、“抑郁状态判定”以及“驾驶员状态判定”等。这样,在进行疲劳状态判定的情况下,能够采用心算问题等作为脑功能激活信息。此外,在进行抑郁状态判定的情况下,能够采用被分类为具有消极意义的图像或具有积极意义的图像的情绪图像作为脑功能激活信息。此外,在进行驾驶设备的对象者的驾驶员状态判定的情况下,能够采用下述信息作为脑功能激活信息,上述信息是指与汽车、轨道车辆、飞机以及核能发电设备和各种工厂设备等其它自动设备的运转有关的从任意的现象、时刻得到的信息。例如,在对象者300是汽车、轨道车辆以及飞机等交通设备的驾驶员的情况下,能够采用警告音等作为脑功能激活信息。此外,在对象者300是汽车的司机的情况下,能够利用“显示红色信号”等作为脑功能激活信息。在上述情况下,通过作为脑功能激活信息提供物600的信号器提供脑功能激活信息。另外,“驾驶员状态”是指表示驾驶设备的对象者的精神状态以及身体状态。例如,精神状态通过与精神疲劳、精神压力、漫不经心状态、集中状态等对应的指标来表示。此外,身体状态通过与身体疲劳、身体压力等对应的指标来表示。
基准信息数据库832根据多个判定目的中的每一个判定目的对基准信息进行存储。具体而言,如图25所示,基准信息数据库832根据多个判定目的中的每一个判定目的,将规定范围的变化量Δr(=r1-r2)与“状态等级”相关联并且预先作为“基准信息”进行存储,其中,上述规定范围的变化量Δr(=r1-r2)是指与针对由后述的判定用信息提取部846提取出的脑功能激活信息的基准判定用成分的“基准相关值r1”相比,针对脑功能激活信息的判定用成分的相关值r2的规定范围的变化量。“基准判定用成分”通过在规定的时刻提取出的判定用成分的数据、上一次提取出的判定用成分的数据以及从外部提供的判定用成分的数据等进行设定。此处,在图25中例示了判定目的为“疲劳状态”的情况下的基准信息的概念。也就是说,基准信息数据库432根据变化量Δr的值的范围,将Δr=Δra~Δrb为止的值作为“正常状态”进行存储,将Δr=Δrb~Δrc为止的值作为“轻疲劳状态”进行存储,将Δr=Δrc~Δrd为止的值作为“疲劳状态”进行存储。此处,值按照Δra、Δrb、Δrc、Δrd的顺序变大。另外,基准判定用成分的数据也存储于基准信息数据库832。
处理部840执行判定结果装置800中的信息处理。具体而言,处理部840由CPU和高速缓存器等构成。处理部840通过执行存储于存储部830的程序来起到对象目的选择部841、脑功能激活信息提供部842、脑功能激活信息检测部843、脸部变化信息获取部844、脸部变化信息分解部845、判定用信息生成部846、相关值计算部847以及判定结果确定部848的作用。
对象目的选择部841选择多个判定目的中的一个判定目的作为“对象目的”。具体而言,对象目的选择部841对存储于脑功能激活信息数据库831的判定目的进行读取,并且将上述判定目的输出至输出部820。接着,通过对象者300对输入部810进行操作来输入对象目的的选择命令,并且据此来选择对象目的。
脑功能激活信息提供部842提供与对象目的对应的脑功能激活信息。详细而言,若通过对象目的选择部841选择对象目的,则脑功能激活信息提供部842从脑功能激活信息数据库831读取脑功能激活信息,并且将读取出的脑功能激活信息送出至输出部820。
脑功能激活信息检测部843对与对象目的对应的脑功能激活信息进行检测。具体而言,脑功能激活信息检测部843根据从周围信息获取部816送来的信息对脑功能激活信息进行检测。例如,在选择“驾驶员状态判定”作为对象目的的情况下,脑功能激活信息检测部843要求周围信息获取部816发送周围图像。在根据上述发送要求从周围信息获取部816获取到周围图像的情况下,脑功能激活信息检测部843对周围图像是否显示有红色信号等进行检测。
脸部变化信息获取部844从由拍摄部815拍摄到的脸部图像获取“脸部数据”以及表示脸部数据的时间序列变化的“脸部变化信息”。具体而言,脸部变化信息获取部844以与脑功能激活信息提供部842提供脑功能激活信息的时刻、或者脑功能激活信息检测部843检测脑功能激活信息的时刻等同步的方式通过拍摄部815获取脸部数据。接着,脸部变化信息获取部844从持续获取到的脸部数据获取表示对象者300的脸部数据的时间序列变化的脸部变化信息。例如,在以规定间隔获取到六十点240×320像素的脸部数据的情况下,脸部变化信息是4,608,000个数据的集合。获取到的脸部变化信息被送出至脸部变化信息分解部845。此外,在拍摄部815为红外线相机的情况下,脸部变化信息获取部844获取表示对象者300的脸部的皮肤温度的脸部皮肤温度数据以作为脸部数据。此外,在拍摄部815为CCD以及CMOS等固体拍摄元件的情况下,脸部变化信息获取部844获取对象者300的脸部的基于RGB数据的脸部血液循环量数据以作为脸部数据。另外,脸部变化信息获取部844可以仅获取对象者300的鼻窦周围以及/或者前额部的数据以作为脸部数据。
脸部变化信息分解部845通过奇异值分解、主成分分析或独立成分分析将作为多个数据的集合的脸部变化信息分解成多个成分一、成分二、成分三、……。分解出的各成分的信息被送出至判定用信息生成部846。在此,在将脸部变化信息进行了奇异值分解等的情况下,从奇异值较高的成分开始设定为成分一、成分二、成分三、……。此外,奇异值越高的成分越容易反映变动较大的影响。因此,在成分一中,相比提供脑功能激活信息的影响,往往反映了外部环境的干扰等的影响。
判定用信息生成部846根据脸部变化信息生成判定用信息。具体而言,判定用信息生成部846从多个成分一、成分二、成分三、……提取出与脑功能激活信息相关的成分以作为“判定用成分”,并且根据判定用成分生成判定用信息。相关值计算部847计算出与对象目的对应的脑功能激活信息和判定用成分的相关值r。
判定结果确定部848根据脑功能激活信息和判定用成分的相关值r来确定表示对象者的状态的判定结果。具体而言,判定结果确定部848计算出基准相关值r1和相关值r2之差Δr,其中,上述基准相关值r1是脑功能激活信息与在规定时刻提取出的基准判定用成分的基准相关值,上述相关值r2是脑功能激活信息与随后提取出的判定用成分的相关值。接着,判定结果确定部848根据存储于基准信息数据库832的基准信息来确定与基准相关值r1和本次的相关值r2之差Δr对应的状态等级。确定后的状态等级通过输出部820输出至显示装置等。
(6-1-2)判定结果输出装置的动作
图26是用于说明第一实施方式中的判定结果输出装置800的动作的顺序图。另外,在第一实施方式中,与后述的第二实施方式和第三实施方式不同的是,判定结果输出装置800不需要与判定结果提供装置900进行通信。但是,不排除第一实施方式的判定结果输出装置800以下述方式构成:利用其它的装置构成该判定结果输出装置800的各功能且经由网络进行通信。
首先,进行对象目的的选择(S1)。具体而言,根据对象者300对输入部810进行的操作,对象目的选择部841对存储于脑功能激活信息数据库831的多个判定目的进行读取,并且将上述判定目的输出至输出部820。接着,通过对象者300对输入部810进行操作来选择多个判定目的中的一个判定目的以作为对象目的。例如,此处,作为判定目的显示有“疲劳状态判定”、“抑郁状态判定”以及“驾驶员状态判定”,通过输入部810选择“疲劳状态判定”。
此处,在与对象目的对应的脑功能激活信息存储于脑功能激活信息数据库831的情况下,通过脑功能激活信息提供部842从脑功能激活信息数据库831读取脑功能激活信息,并且将上述脑功能激活信息送出至输出部820(S2)。另一方面,在与对象目的对应的脑功能激活信息未存储于脑功能激活信息数据库831的情况下,利用脑功能激活信息检测部843并通过周围信息获取部816检测脑功能激活信息。例如,在选择了“疲劳状态判定”的情况下,从脑功能激活信息数据库831提取出心算问题,并且通过输出部820提供给对象者300(S2)。另一方面,在选择“驾驶员状态判定”作为对象目的的情况下,由于在脑功能激活信息数据库831未存储有对应的脑功能激活信息,因此,通过周围信息获取部816从外部环境获取脑功能激活信息。
接着,在规定的时刻,利用拍摄部815以每隔规定间隔的方式对位于输出部820的前方的对象者300的脸部图像进行拍摄(S3)。拍摄到的脸部图像被送出至脸部变化信息获取部844。
接着,通过脸部变化信息获取部844从拍摄到的脸部图像获取表示对象者300的脸部数据的时间序列变化的脸部变化信息。然后,通过脸部变化信息分解部845并利用奇异值分解、主成分分析或独立成分分析将脸部变化信息分解成多个成分一、成分二、成分三、……(S4)。
接着,通过判定用信息生成部846提取出由脸部变化信息分解部845分解出的多个成分一、成分二、成分三、……中与脑功能激活信息相关的成分以作为判定用成分(S5、S6)。在未提取出判定用成分的情况下,中止判定处理。
接着,通过相关值计算部847计算出脑功能激活信息和判定用成分的相关值r2(S7)。
然后,通过判定结果确定部848计算出规定的基准相关值r1和上述相关值r2的差作为变化量Δr(S8)。接着,根据判定结果确定部848确定基于变化量Δr的值的状态水平。例如,在选择了“疲劳状态判定”作为对象目的的情况下,根据如图25所示的基准信息数据库832的信息,当变化量Δr在上述Δra~Δrb的范围内时判定为正常状态,当变化量Δr超过Δrb时判定为疲劳状态。然后,上述判定结果通过输出部820输出至显示装置等(S9)。
(6-1-3)判定结果输出装置800的特征
(6-1-3-1)
如上述说明那样,第一实施方式的判定结果输出装置800包括对象目的选择部841、脑功能激活信息提供部842或脑功能激活信息检测部843、脸部变化信息获取部844、判定用信息生成部846、相关值计算部847、判定结果确定部848以及输出部(判定结果输出部)820。对象目的选择部841选择多个判定目的中的一个判定目的作为“对象目的”。脑功能激活信息提供部842提供与对象目的对应的“脑功能激活信息”。脑功能激活信息检测部843对与对象目的对应的“脑功能激活信息”进行检测。脸部变化信息获取部844对表示对象者300的脸部数据的时间序列变化的“脸部变化信息”进行获取。判定用信息生成部(判定用成分提取部)846通过奇异值分解、主成分分析或独立成分分析从脸部变化信息提取出与对应于对象目的的脑功能激活信息相关的“判定用成分”。相关值计算部847计算出与对象目的对应的脑功能激活信息和判定用成分的“相关值”。判定结果确定部848根据相关值来确定表示对象者的状态的“判定结果”。输出部820输出判定结果。
因此,在第一实施方式的判定结果输出装置800中,通过奇异值分解、主成分分析、独立成分分析,从脸部变化信息提取出与对应于选择的对象目的的脑功能激活信息相关的判定用成分,因此,不使用安装前需要进行前期处理的电极等也能够对对象者是否具有脑活动进行推定。此外,根据与对象者的脑功能对应的判定用成分的相关值,能够对与对象目的对应的、表示对象者300的各种状态的判定结果进行输出。
(6-1-3-2)
此外,第一实施方式的判定结果输出装置800还包括基准信息数据库832。基准信息数据库832根据多个判定目的中的每一个判定目的,将变化量Δr与状态水平相关联并且作为基准信息进行存储,上述变化量Δr是指针对脑功能激活信息的、与脸部变化信息的基准判定用成分的基准相关值r1相比的变化量。此外,判定结果确定部848根据相关值r2和基准相关值r1对对象者300的状态水平进行判定。根据上述结构,能够利用在规定的时间点得到的基准相关值r1输出与对象目的对应的、表示对象者300的各种状态的判定结果。
(6-1-3-3)
此外,在第一实施方式的判定结果输出装置800中,由于脸部变化信息获取部844获取对象者300的鼻窦周围以及/或者前额部的数据以作为脸部数据,因此,能够高精度地抽取出与脑活动相关的判定用成分。此处,脑具有选择性脑冷却机构(Selective BrainCooling System)这样独立于体温的、对脑进行冷却的结构。已知,选择性脑冷却机构利用鼻窦和前额部周围将由脑活动产生的热量排出。因此,通过对上述部位的数据进行解析能够高精度地提取出与脑活动相关的成分。作为结果,第一实施方式的判定结果输出装置800能够高精度地执行对象者300的状态判定。
(6-1-3-4)
此外,在第一实施方式的判定结果输出装置800中,脸部变化信息获取部844获取表示对象者300的脸部的皮肤温度的脸部皮肤温度数据以作为脸部数据。换言之判定结果输出装置800能够利用红外线相机等执行对象者300的状态判定。
(6-1-3-5)
此外,在第一实施方式的判定结果输出装置800中,脸部变化信息获取部844获取对象者300的脸部的基于RGB数据的脸部血液循环量数据以作为脸部数据。也就是说,判定结果输出装置800能够利用固体拍摄元件(CCD、CMOS)执行对象者300的状态判定。藉此,能够以简易的结构执行各种状态判定。
(6-1-3-6)
此外,在第一实施方式的判定结果输出装置800中,判定用信息生成部846根据危险率的值来提取判定用成分。在判定结果输出装置800中,根据危险率的值来提取与脑功能激活信息相关的判定用成分,因此,能够提高状态判定的可靠性。
(6-1-3-7)
另外,在上述说明中,通过奇异值分解等从脸部变化信息提取出与对应于对象目的的脑功能激活信息相关的判定用成分,但第一实施方式的判定结果输出装置800不限定于上述形态。例如,在第一实施方式的判定结果输出装置800中,也可利用基于脸部变化信息生成的、判定用成分以外的任意的判定用信息对对象者的状态进行判定。此外,为了生成上述判定用信息,也可将奇异值分解等以外的任意的方法应用于脸部变化信息。
(6-2)第二实施方式
(6-2-1)判定结果输出系统700A的结构
以下,对与已经说明的部分相同的部分标注大致相同的符号,并省略重复的说明。为了与其它的实施方式区别,在本实施方式中对不同的结构标注附加字A。
图27是表示第二实施方式中的判定结果输出系统700A的结构的示意图。
第二实施方式的判定结果输出系统700A包括对表示对象者300的状态的判定结果进行输出的判定结果输出装置800A以及提供判定结果的判定结果提供装置900A。
判定结果输出装置800A除了包括输入部810、拍摄部815、周围信息获取部816、输出部820、存储部830以及处理部840A以外,还包括通信部860A。
第二实施方式的处理部840A通过执行存储于存储部830的程序来起到对象目的选择部841、脑功能激活信息提供部842、脑功能激活信息检测部843、脸部变化信息获取部844、脸部变化信息分解部845、判定用信息生成部846、相关值计算部847、相关值送出部851A以及判定结果获取部852A的作用。
相关值送出部851A将由相关值计算部847计算出的相关值与对象目的相关联并送出至判定结果提供装置900A。
判定结果获取部852A根据相关值和对象目的的送出,从判定结果提供装置900A获取判定结果。
通信部860A用于能够以有线及无线通信的方式与外部网络进行通信。判定结果输出装置800A能够通过通信部860A与判定结果提供装置900A进行通信。
判定结果提供装置900A从判定结果输出装置800A获取针对关联于对象目的的脑功能激活信息的判定用成分的相关值,并且将针对对象目的的判定结果提供至判定结果输出装置800A。上述判定结果提供装置900A包括存储部930A、处理部940A以及通信部960A。
存储部930A具有基准信息数据库932A。基准信息数据库932A具有与第一实施方式的基准信息数据库832相同的结构。也就是说,基准信息数据库932A根据多个判定目的中的每一个判定目的,将变化量Δr与状态水平相关联并且作为基准信息进行存储,上述变化量Δr是指针对脑功能激活信息的、与脸部变化信息的基准判定用成分的基准相关值r1相比的变化量。
处理部940A执行判定结果提供装置900A中的信息处理。具体而言,处理部940A由CPU和高速缓存器等构成。处理部940A通过执行存储于存储部930A的程序来起到判定结果确定部945A和判定结果送出部946A的作用。
若判定结果确定部945A从判定结果输出装置800A获取针对关联于对象目的的脑功能激活信息的判定用成分的相关值r2,则该判定结果确定部945A根据相关值r2和基准信息确定包括对象者300的状态水平在内的判定结果。
判定结果送出部946A将判定结果送出至判定结果输出装置800A。
通信部960A用于能够以有线及无线通信的方式与外部网络进行通信。判定结果提供装置900A能够通过通信部960A与多个判定结果输出装置800A同时进行通信。
(6-2-2)判定结果输出系统700A的结构
图28是用于说明第二实施方式中的判定结果输出系统700A的动作的顺序图。
首先,在判定结果输出装置800A中选择多个判定目的中的一个判定目的作为“对象目的”(T1)。藉此,在判定结果输出装置800A中进行脑功能激活信息的输出或脑功能激活信息的检测(T2)。
接着,在规定的时刻,在判定结果输出装置800A中,对对象者300的脸部图像进行拍摄(S3)。然后,在判定结果输出装置800A中,对脸部变化信息进行奇异值分解等(T4),从而提取出与脑功能激活信息相关的判定用成分并且计算出相关值r2(T5~T7)。
接着,从判定结果输出装置800A将相关值与对象目的相关联地送出至判定结果提供装置900A(T8)。
相应地,在判定结果提供装置900A中,从判定结果输出装置800A获取与对象目的相关联的相关值。接着,通过判定结果提供装置900A并根据基准信息数据库942的基准信息和相关值来确定判定结果(T9)。确定后的判定结果被送出至判定结果输出装置800A。
然后,通过判定结果输出装置800A获取来自判定结果提供装置900的判定结果。接着,判定结果被输出至判定结果输出装置800A的输出部820(T10)。
(6-2-3)判定结果输出系统700A的特征
(6-2-3-1)
如上述说明那样,第二实施方式的判定结果输出系统700A包括对表示对象者300的状态的判定结果进行输出的判定结果输出装置800A以及提供判定结果的判定结果提供装置900A。根据上述结构,在第二实施方式的判定结果输出系统700A中,根据与对象者300的脑功能对应的判定用成分,能够对与对象目的对应的、表示对象者300的各种状态的判定结果进行输出。
(6-2-3-2)
此外,第二实施方式的判定结果输出装置800A包括对象目的选择部841、脑功能激活信息提供部842或脑功能激活信息检测部843、脸部变化信息获取部844、判定用信息生成部846、相关值计算部847、相关值送出部851A、判定结果获取部852A以及输出部820。对象目的选择部841选择多个判定目的中的一个判定目的作为对象目的。脑功能激活信息提供部842提供与对象目的对应的脑功能激活信息。脑功能激活信息检测部843对与对象目的对应的脑功能激活信息进行检测。脸部变化信息获取部844对表示对象者300的脸部数据的时间序列变化的脸部变化信息进行获取。判定用信息生成部846通过奇异值分解、主成分分析或独立成分分析从脸部变化信息提取出与对应于对象目的的脑功能激活信息相关的判定用成分。相关值计算部847计算出脑功能激活信息和判定用成分的相关值r2。相关值送出部851A将相关值r2与对象目的相关联并送出至判定结果提供装置900A。判定结果获取部852A根据相关值r2和对象目的的送出,从判定结果提供装置900A获取判定结果。输出部820输出判定结果。
因此,在第二实施方式的判定结果输出装置800A中,通过奇异值分解、主成分分析、独立成分分析,从脸部变化信息提取出与对应于选择的对象目的的脑功能激活信息相关的判定用成分,因此,不使用安装前需要进行前期处理的电极等也能够对对象者300是否具有脑活动进行推定。此外,根据与对象者300的脑功能对应的成分,能够对与对象目的对应的、表示对象者300的各种状态的判定结果进行输出。此外,由于上述判定结果输出装置800A使判定结果提供装置900A执行一部分的计算功能,因此能够减轻计算负荷。此外,第二实施方式的判定结果输出装置800A能够通过仅将脑功能激活信息数据库831保存于存储部830来抑制应用程序的容量。另外,能够在通过安装程序来实现功能的任意的终端实现判定结果输出装置800A。
此外,判定结果输出装置800A也可由专用芯片构成。此外,判定结果输出装置800A也可在提供脑功能激活信息之前和之后计算出与心跳信息的相关值。根据判定目的,也可将心跳信息用于状态水平的判定。
此外,判定结果输出装置800B能够选择疲劳状态、困倦状态、集中度状态、抑郁状态以及漫不经心驾驶状态作为对象目的。作为脑功能激活信息,能够采用影像、计算、游戏、音乐、动作、加速度以及温度变化等。
(6-2-3-3)
此外,本实施方式的判定结果提供装置900A包括基准信息数据库932A、判定结果确定部951A以及判定结果送出部952A。基准信息数据库932A根据多个判定目的中的每一个判定目的,将变化量Δr与状态水平相关联并且作为基准信息进行存储,上述变化量Δr是指针对脑功能激活信息的、与脸部变化信息的基准判定用成分的基准相关值r1相比的变化量。若判定结果确定部951A从判定结果输出装置800A获取与对象目的相关联的相关值r2,则该判定结果确定部951A根据相关值r2和基准信息确定包括对象者300的状态水平在内的判定结果。判定结果送出部952A将判定结果送出至判定结果输出装置800A。
因此,在第二实施方式的判定结果提供装置900A中,能够利用预先设定好的基准相关值r1将与对象目的对应的、表示对象者300的各种状态的判定结果提供至任意的判定结果输出装置800A。此外,判定结果提供装置900A能够通过通信部960A将单独的判定结果同时提供至多个判定结果输出装置800A。
(6-2-3-4)
此外,在第二实施方式中具有与在第一实施方式的(6-1-3)中说明的特征相同的特征。
另外,在上述说明中,通过奇异值分解等从脸部变化信息提取出与对应于对象目的的脑功能激活信息相关的判定用成分,但第二实施方式的判定结果输出系统700A不限定于上述形态。例如,在第二实施方式的判定结果输出系统700A中,也可利用基于脸部变化信息生成的、判定用成分以外的任意的判定用信息对对象者的状态进行判定。此外,为了生成上述判定用信息,也可将奇异值分解等以外的任意的方法应用于脸部变化信息。
(6-3)第三实施方式
(6-3-1)判定结果输出系统700B的结构
以下,对与已经说明的部分相同的部分标注大致相同的符号,并省略重复的说明。为了与其它的实施方式区别,在本实施方式中对不同的结构标注附加字B。
图29是表示第三实施方式中的判定结果输出系统700B的结构的示意图。
第三实施方式的判定结果输出系统700B包括对表示对象者300的状态的判定结果进行输出的判定结果输出装置800B以及提供判定结果的判定结果提供装置900B。
判定结果输出装置800B除了包括输入部810、拍摄部815、周围信息获取部816、输出部820、存储部830以及处理部840B以外,还包括通信部860B。
第三实施方式的处理部840B通过执行存储于存储部830的程序来起到对象目的选择部841、脑功能激活信息提供部842或脑功能激活信息检测部843、脸部变化信息获取部844、脸部变化信息送出部851B以及判定结果获取部852B的作用。
脸部变化信息送出部851B将脸部变化信息与对象目的相关联并送出至判定结果提供装置900B。
判定结果获取部852B根据脸部变化信息和对象目的的送出,从判定结果提供装置900B获取判定结果。
通信部860B用于能够以有线及无线通信的方式与外部网络进行通信。判定结果输出装置800B能够通过通信部860与判定结果提供装置900B进行通信。
判定结果提供装置900B从判定结果输出装置800B获取针对对象目的的脸部变化信息,并且将针对对象目的的判定结果提供至判定结果输出装置800B。上述判定结果提供装置900B包括存储部930B、处理部940B以及通信部960B。
存储部930B具有基准信息数据库932B。基准信息数据库932B具有与第一实施方式的基准信息数据库832相同的结构。也就是说,基准信息数据库932B根据多个判定目的中的每一个判定目的,将变化量Δr与状态水平相关联并且作为基准信息进行存储,上述变化量Δr是指针对脑功能激活信息的、与脸部变化信息的基准判定用成分的基准相关值r1相比的变化量。
处理部940B执行判定结果提供装置900B中的信息处理。具体而言,处理部940B由CPU和高速缓存器等构成。处理部940B通过执行存储于存储部930B的程序来起到脸部变化信息分解部941B、判定用信息生成部942B、相关值计算部943B、判定结果决定部945B以及判定结果送出部946B的作用。
脸部变化信息分解部941通过奇异值分解、主成分分析或独立成分分析将作为多个数据的集合的脸部变化信息分解成多个成分一、成分二、成分三、……。分解出的各成分的信息被送出至判定用信息生成部942B。
判定用信息生成部942B通过奇异值分解、主成分分析或独立成分分析从脸部变化信息提取出与对应于对象目的的脑功能激活信息相关的判定用成分。
相关值计算部943B计算出脑功能激活信息和判定用成分的相关值。
判定结果确定部945B根据相关值和基准信息对包括对象者300的状态水平在内的判定结果进行确定。
判定结果送出部946B将判定结果送出至判定结果输出装置800B。
(6-3-2)判定结果输出系统700B的动作
图30是用于说明第三实施方式中的判定结果输出系统700B的动作的顺序图。
首先,在判定结果输出装置800B中选择多个判定目的中的一个判定目的作为“对象目的”(V1)。藉此,在判定结果输出装置800B中进行脑功能激活信息的输出或脑功能激活信息的检测(V2)。
接着,在规定的时刻,在判定结果输出装置800B中,对对象者300的脸部图像进行拍摄(V3)。然后,拍摄到的脸部图像的时间序列数据与对象目的相关联并且被送出至判定结果提供装置900B(V4)。
接着,通过判定结果提供装置900B获取与对象目的相关联的脸部变化信息。然后,在判定结果提供装置900B中,对脸部变化信息进行奇异值分解等(V5),从而提取出与脑功能激活信息相关的判定用成分并且计算出相关值(V6~V8)。接着,在判定结果提供装置900A中根据基准信息数据库942的基准信息和相关值来确定判定结果(V9)。确定后的判定结果被送出至判定结果输出装置800B。
然后,通过判定结果输出装置800B获取来自判定结果提供装置900的判定结果。接着,判定结果被输出至判定结果输出装置800B的输出部820(V10)。
(6-3-3)判定结果输出系统700B的特征
(6-3-3-1)
如上述说明那样,第三实施方式的判定结果输出系统700B包括对表示对象者300的状态的判定结果进行输出的判定结果输出装置800B以及提供判定结果的判定结果提供装置900B。根据上述结构,在第三实施方式的判定结果输出系统700B中,根据与对象者300的脑功能对应的判定用成分,能够对与对象目的对应的、表示对象者的各种状态的判定结果进行输出。
(6-3-3-2)
此外,第三实施方式的判定结果输出装置800B包括对象目的选择部841、脑功能激活信息提供部842或脑功能激活信息检测部843、脸部变化信息获取部844、脸部变化信息送出部851B、判定结果获取部852B以及输出部820。对象目的选择部841选择多个判定目的中的一个判定目的作为对象目的。脑功能激活信息提供部842提供与对象目的对应的脑功能激活信息。脑功能激活信息检测部843对与对象目的对应的脑功能激活信息进行检测。脸部变化信息获取部844对表示对象者300的脸部数据的时间序列变化的脸部变化信息进行获取。脸部变化信息送出部851B将脸部变化信息与对象目的相关联并送出至判定结果提供装置900B。判定结果获取部852B根据脸部变化信息和对象目的的送出,从判定结果提供装置900B获取判定结果。输出部820输出判定结果。
根据上述结构,在第三实施方式的判定结果输出装置800B中,能够选择多个判定目的中的一个判定目的作为对象目的,并且输出与对象目的对应的判定结果。此外,由于上述判定结果输出装置800B使判定结果提供装置900B执行一部分的计算功能,因此能够减轻计算负荷。此外,第三实施方式的判定结果输出装置800B能够通过仅将脑功能激活信息数据库831保存于存储部830来抑制应用程序的容量。另外,能够在通过安装程序来实现功能的任意的终端实现判定结果输出装置800B。
另外,判定结果输出装置800B能够选择疲劳状态、困倦状态、集中度状态、抑郁状态以及漫不经心驾驶状态作为对象目的。作为脑功能激活信息,能够采用影像、计算、游戏、音乐、动作、加速度以及温度变化等。
(6-3-3-3)
此外,第三实施方式的判定结果提供装置900B包括基准信息数据库932B、判定用信息生成部942B、相关值计算部943B、判定结果确定部945B以及判定结果送出部946B。基准信息数据库932根据多个判定目的中的每一个判定目的,将变化量Δr与状态水平相关联并且作为基准信息进行存储,上述变化量Δr是指针对脑功能激活信息的、与脸部变化信息的基准判定用成分的基准相关值r1相比的变化量。若判定用信息生成部942B从判定结果输出装置800B获取与对象目的相关联的脸部变化信息,则该判定用信息生成部942B通过奇异值分解、主成分分析或独立成分分析从脸部变化信息提取出与对应于对象目的的脑功能激活信息相关的判定用成分。相关值计算部943B计算出脑功能激活信息和判定用成分的相关值。判定结果确定部945B根据相关值和基准信息对包括对象者的状态水平在内的判定结果进行确定。判定结果送出部946B将判定结果送出至判定结果输出装置800B。
因此,在第三实施方式的判定结果输出装置900B中,通过奇异值分解、主成分分析、独立成分分析,从脸部变化信息提取出与对应于选择的对象目的的脑功能激活信息相关的判定用成分,因此,不使用安装前需要进行前期处理的电极等也能够对对象者是否具有脑活动进行推定。此外,根据与对象者的脑功能对应的判定用成分,能够将与对象目的对应的、表示对象者300的各种状态的判定结果提供至任意的判定结果输出装置800B。此外,判定结果提供装置900B能够通过通信部960B将单独的判定结果同时提供至多个判定结果输出装置800B。
另外,判定结果输出装置900B也可在提供脑功能激活信息之前和之后计算出与心跳信息的相关值。根据判定目的,也可将心跳信息用于状态水平的判定。
(6-3-3-4)
此外,在第三实施方式中具有与在第一实施方式的(6-1-3)中说明的特征相同的特征。
另外,在上述说明中,通过奇异值分解等从脸部变化信息提取出与对应于对象目的的脑功能激活信息相关的判定用成分,但第三实施方式的判定结果输出系统700B不限定于上述形态。例如,在第三实施方式的判定结果输出系统700B中,也可利用基于脸部变化信息生成的、判定用成分以外的任意的判定用信息对对象者的状态进行判定。此外,为了生成上述判定用信息,也可将奇异值分解等以外的任意的方法应用于脸部变化信息。
工业上的可利用性
根据本发明,由于能够简便地对脑活动进行推定,因此将本发明应用于根据脑活动将对象者的生理状态可视化的脑活动可视化装置是有效的。
符号说明
300 对象者;
600 脑功能激活信息提供物;
700A 判定结果输出系统;
700B 判定结果输出系统;
800 判定结果输出装置;
800A 判定结果输出装置;
800B 判定结果输出装置;
810 输入部;
815 拍摄部;
816 周围信息获取部;
820 输出部;
830 存储部;
831 脑功能激活信息数据库;
832 基准信息数据库;
840 处理部;
840 处理部;
840A 处理部;
840B 处理部;
841 对象目的选择部;
842 脑功能激活信息提供部;
843 脑功能激活信息检测部;
844 脸部变化信息获取部;
845 脸部变化信息分解部;
846 判定用信息生成部(判定用成分提取部);
847 相关值计算部;
848 判定结果确定部;
851A 相关值送出部;
851B 脸部变化信息送出部;
852A 判定结果获取部;
852B 判定结果获取部;
860A 通信部;
860B 通信部;
900 判定结果提供装置;
900A 判定结果提供装置;
900B 判定结果提供装置;
930A 存储部;
930B 存储部;
932A 基准信息数据库;
940A 处理部;
940B 处理部;
941B 脸部变化信息分解部;
942B 判定用信息生成部(判定用成分提取部);
943B 相关值计算部;
945A 判定结果确定部;
945B 判定结果确定部;
946A 判定结果送出部;
946B 判定结果送出部;
960A 通信部;
960B 通信部。
现有技术文献
专利文献
专利文献1:日本专利特开2013-176406号公报。
Claims (14)
1.一种判定结果输出装置(800),其特征在于,包括:
对象目的选择部(841),所述对象目的选择部(841)将多个判定目的中的一个判定目的作为对象目的加以选择;
脑功能激活信息数据库(831),所述脑功能激活信息数据库(831)存储有激活对象者(300)的脑功能的脑功能激活信息;
周围信息获取部(816),所述周围信息获取部(816)获取从存在于周围的脑功能激活信息提供物(600)提供的所述脑功能激活信息;
脑功能激活信息提供部(842)或脑功能激活信息检测部(843),所述脑功能激活信息提供部(842)提供存储于所述脑功能激活信息数据库(831)的与所述对象目的对应的脑功能激活信息,所述脑功能激活信息检测部(843)对通过所述周围信息获取部(816)获取到的与所述对象目的对应的脑功能激活信息进行检测;
脸部变化信息获取部(844),所述脸部变化信息获取部(844)对提供有所述脑功能激活信息时或检测出所述脑功能激活信息时的、表示所述对象者(300)的脸部数据的时间序列变化的脸部变化信息进行获取;以及
判定结果输出部(820),所述判定结果输出部(820)根据与所述对象目的对应的脑功能激活信息和所述脸部变化信息来输出表示所述对象者的状态的判定结果,
所述脸部数据是包括前额部以及/或者鼻窦周围的脸部数据。
2.如权利要求1所述的判定结果输出装置,其特征在于,还包括:
判定用信息生成部(846),所述判定用信息生成部(846)根据所述脸部变化信息生成判定用信息;
相关值计算部(847),所述相关值计算部(847)计算出与所述对象目的对应的脑功能激活信息和所述判定用信息的相关值;以及
判定结果确定部(848),所述判定结果确定部(848)根据所述相关值对表示所述对象者的状态的判定结果进行确定。
3.如权利要求2所述的判定结果输出装置,其特征在于,
所述判定用信息生成部通过对所述脸部变化信息进行奇异值分解、主成分分析或独立成分分析,提取出与对应于所述对象目的的脑功能激活信息相关的判定用成分,并且根据所述判定用成分生成所述判定用信息。
4.如权利要求3所述的判定结果输出装置,其特征在于,
还包括基准信息存储部(832),所述基准信息存储部(832)根据多个所述判定目的的每一个判定目的将下述变化量与状态水平相关联并作为基准信息进行存储,其中,所述变化量是指针对脑功能激活信息的、与脸部变化信息的基准判定用成分的基准相关值相比的变化量;
所述判定结果确定部根据所述相关值和基准相关值判定所述对象者的状态水平。
5.一种判定结果输出装置(800A),所述判定结果输出装置(800A)将针对对象目的的脑功能激活信息和判定用信息的相关值送出至判定结果提供装置(900A),并且从所述判定结果提供装置获取针对所述对象目的的判定结果,所述判定结果输出装置的特征在于,包括:
对象目的选择部(841),所述对象目的选择部(841)将多个判定目的中的一个判定目的作为对象目的加以选择;
脑功能激活信息数据库(831),所述脑功能激活信息数据库(831)存储有激活对象者(300)的脑功能的脑功能激活信息;
周围信息获取部(816),所述周围信息获取部(816)获取从存在于周围的脑功能激活信息提供物(600)提供的所述脑功能激活信息;
脑功能激活信息提供部(842)或脑功能激活信息检测部(843),所述脑功能激活信息提供部(842)提供存储于所述脑功能激活信息数据库(831)的与所述对象目的对应的脑功能激活信息,所述脑功能激活信息检测部(843)对通过所述周围信息获取部(816)获取到的与所述对象目的对应的脑功能激活信息进行检测;
脸部变化信息获取部(844),所述脸部变化信息获取部(844)对表示所述对象者(300)的脸部数据的时间序列变化的脸部变化信息进行获取;
判定用信息生成部(846),所述判定用信息生成部(846)根据所述脸部变化信息生成判定用信息;
相关值计算部(847),所述相关值计算部(847)计算出所述脑功能激活信息和所述判定用信息的相关值;以及
相关值送出部(851A),所述相关值送出部(851A)将所述相关值与所述对象目的相关联并送出至所述判定结果提供装置;
判定结果获取部(852A),所述判定结果获取部(852A)根据所述相关值和所述对象目的的送出,从所述判定结果提供装置获取判定结果;以及
判定结果输出部(820),所述判定结果输出部(820)输出所述判定结果,
所述脸部数据是包括前额部以及/或者鼻窦周围的脸部数据。
6.如权利要求5所述的判定结果输出装置(800A),其特征在于,
所述判定结果提供装置(900A)包括:
基准信息存储部(932A),所述基准信息存储部(932A)根据多个所述判定目的的每一个判定目的将下述变化量与状态水平相关联并作为基准信息进行存储,其中,所述变化量是指针对脑功能激活信息的与基准相关值相比的变化量;
判定结果确定部(951A),在从所述判定结果输出装置获取针对关联于对象目的的脑功能激活信息的判定用信息的相关值时,所述判定结果确定部(951A)根据所述相关值和所述基准信息确定包括所述对象者的状态水平在内的判定结果;以及
判定结果送出部(952A),所述判定结果送出部(952A)将所述判定结果送出至所述判定结果输出装置。
7.如权利要求5所述的判定结果输出装置,其特征在于,
所述判定用信息生成部通过奇异值分解、主成分分析或独立成分分析,提取出与对应于所述对象目的的脑功能激活信息相关的判定用成分,并且根据所述判定用成分生成所述判定用信息。
8.一种判定结果输出系统(700A),所述判定结果输出系统(700A)包括对表示对象者(300)的状态的判定结果进行输出的判定结果输出装置(800A)以及提供所述判定结果的判定结果提供装置,所述判定结果输出系统的特征在于,
所述判定结果输出装置包括:
对象目的选择部(841),所述对象目的选择部(841)将多个判定目的中的一个判定目的作为对象目的加以选择;
脑功能激活信息数据库(831),所述脑功能激活信息数据库(831)存储有激活对象者(300)的脑功能的脑功能激活信息;
周围信息获取部(816),所述周围信息获取部(816)获取从存在于周围的脑功能激活信息提供物(600)提供的所述脑功能激活信息;
脑功能激活信息提供部(842)或脑功能激活信息检测部(843),所述脑功能激活信息提供部(842)提供存储于所述脑功能激活信息数据库(831)的与所述对象目的对应的脑功能激活信息,所述脑功能激活信息检测部(843)对通过所述周围信息获取部(816)获取到的与所述对象目的对应的脑功能激活信息进行检测;
脸部变化信息获取部(844),所述脸部变化信息获取部(844)对表示所述对象者(300)的脸部数据的时间序列变化的脸部变化信息进行获取;
判定用信息生成部(846),所述判定用信息生成部(846)根据所述脸部变化信息生成判定用信息;
相关值计算部(847),所述相关值计算部(847)计算出所述脑功能激活信息和所述判定用信息的相关值;
相关值送出部(851A),所述相关值送出部(851A)将所述相关值与所述对象目的相关联并送出至所述判定结果提供装置;
判定结果获取部(852A),所述判定结果获取部(852A)根据所述相关值和所述对象目的的送出,从所述判定结果提供装置获取判定结果;以及
判定结果输出部(820),所述判定结果输出部(820)输出所述判定结果,
所述判定结果提供装置包括:
基准信息存储部(932A),所述基准信息存储部(923A)根据多个所述判定目的的每一个判定目的将下述变化量与状态水平相关联并作为基准信息进行存储,其中,所述变化量是指针对脑功能激活信息的与基准相关值相比的变化量;
判定结果确定部(945A),在从所述判定结果输出装置获取与所述对象目的相关联的所述相关值时,所述判定结果确定部(945A)根据所述相关值和所述基准信息确定包括所述对象者的状态水平在内的判定结果;以及
判定结果送出部(946A),所述判定结果送出部(946A)将所述判定结果送出至所述判定结果输出装置,
所述脸部数据是包括前额部以及/或者鼻窦周围的脸部数据。
9.如权利要求8所述的判定结果输出系统,其特征在于,
所述判定用信息生成部通过对所述脸部变化信息进行奇异值分解、主成分分析或独立成分分析,提取出与对应于所述对象目的的脑功能激活信息相关的判定用成分,并且根据所述判定用成分生成所述判定用信息。
10.一种判定结果提供装置(900B),所述判定结果提供装置(900B)从权利要求1至4中任一项所述的判定结果输出装置(800)获取针对对象目的的、表示对象者(300)的脸部数据的时间序列变化的脸部变化信息,并且将针对所述对象目的的判定结果提供至所述判定结果输出装置,所述判定结果提供装置的特征在于,包括:
基准信息存储部(932B),所述基准信息存储部(932B)根据多个判定目的的每一个判定目的将下述变化量与状态水平相关联并作为基准信息进行存储,其中,所述变化量是指针对脑功能激活信息的与基准相关值相比的变化量;
判定用信息生成部(942B),在从所述判定结果输出装置获取与所述对象目的相关联的所述脸部变化信息时,所述判定用信息生成部(942B) 根据所述脸部变化信息生成判定用信息;
相关值计算部(943B),所述相关值计算部(943B)计算出所述脑功能激活信息和所述判定用信息的相关值;
判定结果确定部(945B),所述判定结果确定部(945B)根据所述相关值和所述基准信息对包括所述对象者的状态水平在内的判定结果进行确定;以及
判定结果送出部(946B),所述判定结果送出部(946B)将所述判定结果送出至所述判定结果输出装置,
所述脸部数据是包括前额部以及/或者鼻窦周围的脸部数据。
11.如权利要求10所述的判定结果提供装置,其特征在于,
所述判定用信息生成部通过对所述脸部变化信息进行奇异值分解、主成分分析或独立成分分析,提取出与对应于所述对象目的的脑功能激活信息相关的判定用成分,并且根据所述判定用成分生成所述判定用信息。
12.一种判定结果输出装置(800B),所述判定结果输出装置(800B)将与对象目的相关联的脸部变化信息送出至判定结果提供装置(900B),并且从所述判定结果提供装置获取针对所述对象目的的判定结果,所述判定结果输出装置的特征在于,包括:
对象目的选择部(841),所述对象目的选择部(841)将多个判定目的中的一个判定目的作为对象目的加以选择;
脑功能激活信息数据库(831),所述脑功能激活信息数据库(831)存储有激活对象者(300)的脑功能的脑功能激活信息;
周围信息获取部(816),所述周围信息获取部(816)获取从存在于周围的脑功能激活信息提供物(600)提供的所述脑功能激活信息;
脑功能激活信息提供部(842)或脑功能激活信息检测部(843),所述脑功能激活信息提供部(842)提供存储于所述脑功能激活信息数据库(831)的与所述对象目的对应的脑功能激活信息,所述脑功能激活信息检测部(843)对通过所述周围信息获取部(816)获取到的与所述对象目的对应的脑功能激活信息进行检测;
脸部变化信息获取部(844),所述脸部变化信息获取部(844)对表示所述对象者(300)的脸部数据的时间序列变化的脸部变化信息进行获取;
脸部变化信息送出部(851B),所述脸部变化信息送出部(851B)将所述脸部变化信息与所述对象目的相关联并送出至所述判定结果提供装置;
判定结果获取部(852B),所述判定结果获取部(852B)根据所述脸部变化信息和所述对象目的的送出,从所述判定结果提供装置获取判定结果;以及
判定结果输出部(820),所述判定结果输出部(820)输出所述判定结果,
所述脸部数据是包括前额部以及/或者鼻窦周围的脸部数据。
13.一种判定结果输出系统(700B),所述判定结果输出系统(700B)包括对表示对象者(300)的状态的判定结果进行输出的判定结果输出装置(800B)以及提供所述判定结果的判定结果提供装置,所述判定结果输出系统的特征在于,
所述判定结果输出装置包括:
对象目的选择部(841),所述对象目的选择部(841)将多个判定目的中的一个判定目的作为对象目的加以选择;
脑功能激活信息数据库(831),所述脑功能激活信息数据库(831)存储有激活对象者(300)的脑功能的脑功能激活信息;
周围信息获取部(816),所述周围信息获取部(816)获取从存在于周围的脑功能激活信息提供物(600)提供的所述脑功能激活信息;
脑功能激活信息提供部(842)或脑功能激活信息检测部(843),所述脑功能激活信息提供部(842)提供存储于所述脑功能激活信息数据库(831)的与所述对象目的对应的脑功能激活信息,所述脑功能激活信息检测部(843)对通过所述周围信息获取部(816)获取到的与所述对象目的对应的脑功能激活信息进行检测;
脸部变化信息获取部(844),所述脸部变化信息获取部(44)对表示所述对象者(300)的脸部数据的时间序列变化的脸部变化信息进行获取;
脸部变化信息送出部(851B),所述脸部变化信息送出部(851B)将所述脸部变化信息与所述对象目的相关联并送出至所述判定结果提供装置;
判定结果获取部(852B),所述判定结果获取部(852B)根据所述脸部变化信息和所述对象目的的送出,从所述判定结果提供装置获取判定结果;以及
判定结果输出部(820),所述判定结果输出部(820)输出所述判定结果,
所述判定结果提供装置包括:
基准信息存储部(932B),所述基准信息存储部(932B)根据多个所述判定目的的每一个判定目的将下述变化量与状态水平相关联并作为基准信息进行存储,其中,所述变化量是指针对脑功能激活信息的与基准相关值相比的变化量;
判定用信息生成部(942B),在从所述判定结果输出装置获取与所述对象目的相关联的所述脸部变化信息时,所述判定用信息生成部(942B)根据所述脸部变化信息生成判定用信息;
相关值计算部(943B),所述相关值计算部(943B)计算出所述脑功能激活信息和所述判定用信息的相关值;
判定结果确定部(945B),所述判定结果确定部(945B)根据所述相关值和所述基准信息对包括所述对象者的状态水平在内的判定结果进行确定;以及
判定结果送出部(946B),所述判定结果送出部(946B)将所述判定结果送出至所述判定结果输出装置,
所述脸部数据是包括前额部以及/或者鼻窦周围的脸部数据。
14.如权利要求13所述的判定结果输出系统,其特征在于,
所述判定用信息生成部通过对所述脸部变化信息进行奇异值分解、主成分分析或独立成分分析,提取出与对应于所述对象目的的脑功能激活信息相关的判定用成分,并且根据所述判定用成分生成所述判定用信息。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016038483 | 2016-02-29 | ||
JP2016-038483 | 2016-02-29 | ||
PCT/JP2017/007991 WO2017150576A1 (ja) | 2016-02-29 | 2017-02-28 | 判定結果出力装置、判定結果提供装置、及び判定結果出力システム |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108697392A CN108697392A (zh) | 2018-10-23 |
CN108697392B true CN108697392B (zh) | 2022-01-28 |
Family
ID=59744281
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201780013923.2A Active CN108697392B (zh) | 2016-02-29 | 2017-02-28 | 判定结果输出装置、判定结果提供装置及判定结果输出系统 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11357443B2 (zh) |
EP (1) | EP3424425A4 (zh) |
JP (2) | JP6196402B2 (zh) |
CN (1) | CN108697392B (zh) |
WO (1) | WO2017150576A1 (zh) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6196361B2 (ja) * | 2015-10-15 | 2017-09-13 | ダイキン工業株式会社 | 運転者状態判定装置及び運転者状態判定方法 |
US10902492B2 (en) * | 2017-04-03 | 2021-01-26 | L'oreal | Method for providing a customized skin care product to a consumer |
EP3766425A4 (en) * | 2018-03-15 | 2021-06-23 | Panasonic Intellectual Property Management Co., Ltd. | SYSTEM, RECORDING MEDIA, AND METHOD FOR ESTIMATING THE PSYCHOLOGICAL STATE OF A USER |
US11864875B2 (en) * | 2018-04-23 | 2024-01-09 | Sharp Kabushiki Kaisha | Data analysis device |
CN112020743A (zh) | 2018-04-27 | 2020-12-01 | 三菱化学株式会社 | 隔音片部件用组合物、隔音片部件和隔音结构体 |
GB2571379B (en) * | 2018-07-16 | 2021-10-27 | Npl Management Ltd | System and method for obtaining thermal image data of a body part and thermal imager |
US20210076942A1 (en) * | 2019-09-13 | 2021-03-18 | Northwestern University | Infrared thermography for intraoperative functional mapping |
US11769595B2 (en) * | 2020-10-01 | 2023-09-26 | Agama-X Co., Ltd. | Information processing apparatus and non-transitory computer readable medium |
JP2022059140A (ja) | 2020-10-01 | 2022-04-13 | 株式会社Agama-X | 情報処理装置及びプログラム |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6092058A (en) * | 1998-01-08 | 2000-07-18 | The United States Of America As Represented By The Secretary Of The Army | Automatic aiding of human cognitive functions with computerized displays |
CN101491443A (zh) * | 2009-03-06 | 2009-07-29 | 北京理工大学 | 驾驶人疲劳与车辆行驶轨迹的关系模型 |
CN101933804A (zh) * | 2009-06-29 | 2011-01-05 | 索尼公司 | 生物信号测量的可安装单元和生物信号测量方法 |
WO2014138925A1 (en) * | 2013-03-15 | 2014-09-18 | Interaxon Inc. | Wearable computing apparatus and method |
CN105105772A (zh) * | 2015-08-07 | 2015-12-02 | 北京环度智慧智能技术研究所有限公司 | 一种用于认知能力值测试的刺激信息编制方法 |
WO2016004117A1 (en) * | 2014-06-30 | 2016-01-07 | Cerora, Inc. | System and signatures for a multi-modal physiological periodic biomarker assessment |
Family Cites Families (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB9617915D0 (en) * | 1996-08-28 | 1996-10-09 | Tessal Stephan | Polygraphy |
US6837615B2 (en) * | 2002-03-19 | 2005-01-04 | John Scott Newman | Method of evaluating level of anxiety of person based on skin temperature |
US20050177058A1 (en) * | 2004-02-11 | 2005-08-11 | Nina Sobell | System and method for analyzing the brain wave patterns of one or more persons for determining similarities in response to a common set of stimuli, making artistic expressions and diagnosis |
ES2318933B2 (es) * | 2006-01-24 | 2009-10-01 | Universidad Politecnica De Madrid | Metodo para la monitorizacion del nivel de alerta en tiempo real basado en ondas cerebrales y dispositivo para la puesta en practica del mismo. |
JP4788956B2 (ja) | 2006-01-31 | 2011-10-05 | 独立行政法人産業技術総合研究所 | 脳活動解析方法および装置 |
CN101686815B (zh) * | 2007-06-27 | 2011-03-30 | 松下电器产业株式会社 | 人的状态推定装置以及方法 |
US8401261B2 (en) * | 2007-09-25 | 2013-03-19 | University Of Houston System | Imaging facial signs of neuro-physiological responses |
US9192300B2 (en) * | 2008-05-23 | 2015-11-24 | Invention Science Fund I, Llc | Acquisition and particular association of data indicative of an inferred mental state of an authoring user |
JP5476137B2 (ja) * | 2010-01-19 | 2014-04-23 | 株式会社日立製作所 | 生体および脳機能計測に基づくヒューマンインターフェイス |
JP2013176406A (ja) | 2010-05-27 | 2013-09-09 | Hitachi Ltd | 脳機能計測装置 |
JP5665025B2 (ja) * | 2010-08-06 | 2015-02-04 | 国立大学法人東京農工大学 | 精神疾患判定装置、方法、及びプログラム |
JP5280494B2 (ja) * | 2011-07-13 | 2013-09-04 | 株式会社日立製作所 | 複数脳賦活観測システム |
US9004687B2 (en) * | 2012-05-18 | 2015-04-14 | Sync-Think, Inc. | Eye tracking headset and system for neuropsychological testing including the detection of brain damage |
CN104363948B (zh) * | 2012-06-15 | 2016-08-24 | 株式会社日立制作所 | 刺激呈现系统 |
US9501704B2 (en) * | 2012-10-05 | 2016-11-22 | Panasonic Intellectual Property Corporation Of America | Drowsiness estimation device, drowsiness estimation method, and computer-readable non-transient recording medium |
EP2992824B1 (en) * | 2013-05-01 | 2021-12-29 | Advanced Telecommunications Research Institute International | Brain activity analysis device and brain activity analysis method |
US20140375785A1 (en) * | 2013-06-19 | 2014-12-25 | Raytheon Company | Imaging-based monitoring of stress and fatigue |
JP5981506B2 (ja) * | 2014-09-01 | 2016-08-31 | ダイキン工業株式会社 | 脳活動推定装置 |
-
2017
- 2017-02-28 CN CN201780013923.2A patent/CN108697392B/zh active Active
- 2017-02-28 US US16/080,284 patent/US11357443B2/en active Active
- 2017-02-28 JP JP2017037063A patent/JP6196402B2/ja active Active
- 2017-02-28 WO PCT/JP2017/007991 patent/WO2017150576A1/ja active Application Filing
- 2017-02-28 EP EP17760040.0A patent/EP3424425A4/en active Pending
- 2017-08-17 JP JP2017157408A patent/JP2017221709A/ja active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6092058A (en) * | 1998-01-08 | 2000-07-18 | The United States Of America As Represented By The Secretary Of The Army | Automatic aiding of human cognitive functions with computerized displays |
CN101491443A (zh) * | 2009-03-06 | 2009-07-29 | 北京理工大学 | 驾驶人疲劳与车辆行驶轨迹的关系模型 |
CN101933804A (zh) * | 2009-06-29 | 2011-01-05 | 索尼公司 | 生物信号测量的可安装单元和生物信号测量方法 |
WO2014138925A1 (en) * | 2013-03-15 | 2014-09-18 | Interaxon Inc. | Wearable computing apparatus and method |
WO2016004117A1 (en) * | 2014-06-30 | 2016-01-07 | Cerora, Inc. | System and signatures for a multi-modal physiological periodic biomarker assessment |
CN105105772A (zh) * | 2015-08-07 | 2015-12-02 | 北京环度智慧智能技术研究所有限公司 | 一种用于认知能力值测试的刺激信息编制方法 |
Also Published As
Publication number | Publication date |
---|---|
EP3424425A1 (en) | 2019-01-09 |
US11357443B2 (en) | 2022-06-14 |
CN108697392A (zh) | 2018-10-23 |
US20190069832A1 (en) | 2019-03-07 |
EP3424425A4 (en) | 2020-03-04 |
JP2017221709A (ja) | 2017-12-21 |
JP2017153963A (ja) | 2017-09-07 |
JP6196402B2 (ja) | 2017-09-13 |
WO2017150576A1 (ja) | 2017-09-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108697392B (zh) | 判定结果输出装置、判定结果提供装置及判定结果输出系统 | |
CN110520047B (zh) | 生理状态判定装置 | |
CN108135497B (zh) | 驾驶员状态判定装置及驾驶员状态判定方法 | |
CN108135491B (zh) | 生理状态判定装置及生理状态判定方法 | |
CN108135498B (zh) | 有用信息呈现装置 | |
JP7111450B2 (ja) | 脳活動推定装置 | |
CN108712879B (zh) | 疲劳状态判定装置及疲劳状态判定方法 | |
JP6158887B2 (ja) | 有用情報提示装置 | |
JP2017074215A (ja) | 脳年齢提示装置 | |
JP6096857B1 (ja) | 感情判定装置 | |
JP2017086992A (ja) | 感情判定装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |