JP7203314B2 - 生体情報検出装置 - Google Patents

生体情報検出装置 Download PDF

Info

Publication number
JP7203314B2
JP7203314B2 JP2017110918A JP2017110918A JP7203314B2 JP 7203314 B2 JP7203314 B2 JP 7203314B2 JP 2017110918 A JP2017110918 A JP 2017110918A JP 2017110918 A JP2017110918 A JP 2017110918A JP 7203314 B2 JP7203314 B2 JP 7203314B2
Authority
JP
Japan
Prior art keywords
light
image
living body
biological information
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017110918A
Other languages
English (en)
Other versions
JP2018008039A5 (ja
JP2018008039A (ja
Inventor
尚志 渡邉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JP2018008039A publication Critical patent/JP2018008039A/ja
Publication of JP2018008039A5 publication Critical patent/JP2018008039A5/ja
Priority to JP2022198302A priority Critical patent/JP7450167B2/ja
Application granted granted Critical
Publication of JP7203314B2 publication Critical patent/JP7203314B2/ja
Priority to JP2024022908A priority patent/JP2024054367A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/0205Simultaneously evaluating both cardiovascular conditions and different types of body conditions, e.g. heart and respiratory condition
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/026Measuring blood flow
    • A61B5/0261Measuring blood flow using optical means, e.g. infrared light
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0077Devices for viewing the surface of the body, e.g. camera, magnifying lens
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/021Measuring pressure in heart or blood vessels
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/113Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb occurring during breathing
    • A61B5/1135Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb occurring during breathing by monitoring thoracic expansion
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/145Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue
    • A61B5/1455Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters
    • A61B5/14551Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters for measuring blood gases
    • A61B5/14552Details of sensors specially adapted therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/165Evaluating the state of mind, e.g. depression, anxiety
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/44Detecting, measuring or recording for evaluating the integumentary system, e.g. skin, hair or nails
    • A61B5/441Skin evaluation, e.g. for skin disorder diagnosis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/44Detecting, measuring or recording for evaluating the integumentary system, e.g. skin, hair or nails
    • A61B5/441Skin evaluation, e.g. for skin disorder diagnosis
    • A61B5/443Evaluating skin constituents, e.g. elastin, melanin, water
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/44Detecting, measuring or recording for evaluating the integumentary system, e.g. skin, hair or nails
    • A61B5/441Skin evaluation, e.g. for skin disorder diagnosis
    • A61B5/444Evaluating skin marks, e.g. mole, nevi, tumour, scar
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/44Detecting, measuring or recording for evaluating the integumentary system, e.g. skin, hair or nails
    • A61B5/441Skin evaluation, e.g. for skin disorder diagnosis
    • A61B5/445Evaluating skin irritation or skin trauma, e.g. rash, eczema, wound, bed sore
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7203Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal
    • A61B5/7207Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal of noise induced by motion artifacts
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7271Specific aspects of physiological measurement analysis
    • A61B5/7278Artificial waveform generation or derivation, e.g. synthesising signals from measured signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/145Illumination specially adapted for pattern recognition, e.g. using gratings
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/40Spoof detection, e.g. liveness detection
    • G06V40/45Detection of the body part being alive
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2562/00Details of sensors; Constructional details of sensor housings or probes; Accessories for sensors
    • A61B2562/02Details of sensors specially adapted for in-vivo measurements
    • A61B2562/0233Special features of optical sensors or probes classified in A61B5/00
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2576/00Medical imaging apparatus involving image processing or analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/14Vascular patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/30Transforming light or analogous information into electric information
    • H04N5/33Transforming infrared radiation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/03Circuitry for demodulating colour component signals modulated spatially by colour striped filters by frequency separation
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02BCLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO BUILDINGS, e.g. HOUSING, HOUSE APPLIANCES OR RELATED END-USER APPLICATIONS
    • Y02B20/00Energy efficient lighting technologies, e.g. halogen lamps or gas discharge lamps
    • Y02B20/40Control techniques providing energy savings, e.g. smart controller or presence detection

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Surgery (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Public Health (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Animal Behavior & Ethology (AREA)
  • Physiology (AREA)
  • Signal Processing (AREA)
  • Psychiatry (AREA)
  • Multimedia (AREA)
  • Dermatology (AREA)
  • Cardiology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Hematology (AREA)
  • Optics & Photonics (AREA)
  • Hospice & Palliative Care (AREA)
  • Child & Adolescent Psychology (AREA)
  • Developmental Disabilities (AREA)
  • Educational Technology (AREA)
  • Social Psychology (AREA)
  • Psychology (AREA)
  • Vascular Medicine (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Pulmonology (AREA)
  • Dentistry (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Description

本開示は、生体情報検出装置に関する。例えば、非接触で心拍等の生体情報を検出する生体情報検出装置に関する。
人間の健康状態を判断するための基礎的なパラメータとして、心拍、血流量、血圧、血中酸素飽和度などが広く用いられている。血液に関するこれらの生体情報は、通常、接触型の測定器によって測定される。接触型の測定器は、被検者の生体を拘束するため、特に長時間にわたって連続して測定する場合に被検者の不快感を招いていた。
人間の健康状態を判断するための基礎的な生体情報を簡単に測定する様々な試みがなされている。例えば、特許文献1は、カメラで撮影した顔などの画像情報から非接触で心拍数を検出する方法を開示している。特許文献2は、白色光源とレーザー光源とを用いて、生体表面の後方で散乱したレーザー光のレーザドップラー効果を利用して血中酸素飽和度を測定する方法を開示している。特許文献3は、通常のカラーカメラを用いて周辺光の影響を除外して血中酸素飽和度を測定する方法を開示している。
特開2005-218507号公報 特表2003-517342号公報 特表2014-527863号公報 特開平6-54836号公報 特開2008-237244号公報 特開2002-200050号公報
青木、他2名、「近赤外輝点マトリックス照影による非接触・無拘束就寝者呼吸監視システム」電気学会論文誌.C、電子・情報・システム部門誌、2004年6月1日、124(6)、 pp.1251~1258 黒田、他1名、「情動変動に伴う顔色と顔面皮膚温の分析とその顔色合成」、ヒューマンインタフェース学会研究報告集、1999年2月16日、1(1)、15-20
上記従来の技術では、取得される生体情報の精度もしくは安定性、または生体情報の取得の簡便性に課題があった。特に、体の動きおよび環境光の変動に伴う測定の不安定性が、実用化に向けて大きな課題となっていた。
本開示は、被検者の生体を拘束することなく、高い精度で安定して生体情報を検出することができる技術を提供する。
本開示の一態様に係る生体情報検出装置は、第1の光による複数の第1のドットを、生体を含む対象物に投影する第1の光源と、
前記複数の第1のドットが投影された前記対象物からの第2の光を検出する複数の第1の光検出セルを含み、前記複数の第1のドットが投影された前記対象物の第1の画像を示す第1の画像信号を生成して出力する撮像装置と、
第1演算回路と、
第2演算回路と、
を備える。
前記第1の画像は複数の画素を含む。
前記第1演算回路は、前記第1の画像信号を用いて、前記第1の画像のうち、前記生体に対応する第1部分を検出する。
前記第2演算回路は、前記複数の画素のうち、前記第1の画像の前記第1部分内の画素のデータを用いて、前記生体に関する生体情報を算出する。
上記の包括的または具体的な態様は、素子、装置、システム、方法、集積回路、コンピュータプログラム、記録媒体、またはこれらの任意の組み合わせで実現されてもよい。
本開示の一態様によれば、被検者の生体を拘束することなく、高速に安定して生体の心拍、血流量、または血中酸素飽和度等の生体情報を検出することが可能になる。さらに、本開示の他の態様によれば、上記のような血液に関する情報から、被検者の体調または感情等の状態を判定することもできる。
本開示のある実施形態における生体情報の取得の基本的な考え方を説明するための図 撮像装置によって取得される生体表面の画像の特性を説明するための図 実施形態1の生体情報検出装置の構成を示す図 実施形態1における撮像装置の構成および出力される画像および生体情報の例を示す図 実施形態1におけるコンピュータ20の構成を示すブロック図 実施形態1における呼吸センシングの方法を説明するための図 実施形態1における人体検知の実験例を示す第1の図 実施形態1における人体検知の実験例を示す第1の図 実施形態1における人体検知に用いられるコントラストの計算方法の例を示す図 実施形態1における画像処理の流れを示すフローチャート 実施形態3における生体情報検出装置およびその処理を模式的に示す図 実施形態3における見守りシステムのアルゴリズムを説明するための図 実施形態3における見守りシステムのアルゴリズムを示すフローチャート 実施形態4における生体情報検出装置の構成を示す図 実施形態4における2台の撮像装置を用いた生体情報センシングの概要を示す図 実施形態4における2つのバンドパスフィルタの透過特性を示す図 実施形態4の方法で測定した脈波の例を示す図 実施形態4の方法および従来の方法で血中酸素飽和度を測定した結果を示す図 実施形態4におけるステレオカメラ方式の生体情報検出装置の構成を示す図 実施形態5におけるステレオレンズ方式の生体情報検出装置の構成を示す図 実施形態6の生体情報検出装置を用いてストレスセンシングを行った結果を示す図 実施形態6における画像中の鼻部と頬部とを示す図 実施形態6の生体情報検出装置を用いて得られた血流量および血中酸素飽和度の変化を示す図 実施形態7における生体情報検出装置の構成を模式的に示す断面図 実施形態7における画像中の鼻部と額部とを示す図 実施形態7における笑いの感情を誘起した場合の総血流量(酸化ヘモグロビンおよび脱酸素化ヘモグロビン)の時間変化と、酸化ヘモグロビンの血流量の割合(酸素飽和度)の時間変化とを示す図 情動と総血流量および酸素飽和度との関係を示す図 実施形態8における生体情報検出装置の構成を模式的に示す図 実施形態8における複数のカラーフィルタを示す図 実施形態8において生成される画像の例を示す図 実施形態9における生体情報検出装置の構成を示す図 実施形態9における複数のカラーフィルタを示す図 実施形態9において生成される画像の例を示す図 R、G、B、IRの4種類のカラーフィルタを有するマルチスペクトルセンサーの構成例を示す図 撮像装置を用いた生体情報センシングシステムの構成例(比較例)を示す図 生体の主要な成分であるヘモグロビン、メラニン、水の、可視光から近赤外光の波長域での吸光係数と散乱係数を示す図
本開示の実施形態を説明する前に、本開示の基礎となった知見を説明する。
カメラを用いた遠隔生体情報センシングは、拘束感なく連続して長時間の測定ができることから、さまざまな用途での活用が期待されている。例えば、病院等の医療機関では、患者の状態を定常的にモニタし容体の急変に迅速に対応すること、および長時間のモニタリングによって得られるデータを診断に活用することが期待されている。また、医療機関での活用だけでなく、家庭内での就寝時の突然死の防止、および睡眠時無呼吸症候群のモニタなどの用途が期待されている。さらに、家庭内または職場で定常的に取得される日常生活における身体情報データを取得し、クラウド経由でサーバーに蓄積したデータを解析することにより、身体状況の変化を定常的にモニタリングして健康管理に役立てるような用途、および取得データを医療機関と共有して医療に役立てるというような用途が期待されている。このような定常的な生体情報取得のためには、拘束感がなく、特に意識することなしに定常的に生体情報を測定するシステムが求められる。カメラを用いたシステムは、非拘束な遠隔計測が可能であるため、このような用途に最適であると考えられている。
しかしながら、カメラを用いて日常生活での生体情報のセンシングを行う場合、プライバシーへの配慮が必要となる。カメラで取得された本人を特定できるような高い解像度の画像が記憶装置に記録されるようなシステムは、画像流出のリスクを生じるため、できるだけ避ける必要がある。取得された画像自体が記録されない場合であっても、測定システムからカメラ(またはカメラレンズ)が見えるようなシステムは、被検者に心理的な抵抗を生じさせ得る。このため、カメラが見えないようなシステムが望ましい。
上述のような医療およびヘルスケア分野の強い要請により、カメラを用いた遠隔生体情報センシングを実現するためのシステムの開発はさまざまな研究機関で行われ、いくつかの製品が市販されている。従来のカメラを用いた遠隔生体情報センシングシステムの最大の課題は、測定の精度および安定性にある。人体をカメラで撮影する場合、カメラに入射する光の大部分は、肌の表面または表面近傍で反射された光である。皮膚最表面の角質層には血管が無く代謝も起こらないため、表面反射の成分から生体情報を取得することはできない。皮膚の内部まで透過し、血管のある表皮部で反射した光を検出する必要がある。皮膚から反射される光においては、皮膚の表面で反射された成分が支配的で、皮膚内部まで透過した光は、生体の強い光吸収によって急速に失われる。このため、反射光に占める生体情報を含む光の割合は低い。さらに、測定用の照明系をもたず、環境光を用いて画像を取得するシステムでは、周囲の環境光の変化に伴い、取得される画像信号が変化することによる不安定性が課題となっていた。
さらに、遠隔センシングの場合、体動による測定の不安定性が大きな課題となる。体動に伴う測定領域の変化およびカメラに対する向き(角度)の変化により、取得される信号が変動するため、安定した測定ができなくなる。すでに述べたように、カメラで取得される信号の大半は、生体情報を含まない皮膚での表面反射に起因する成分であり、生体情報を含む信号成分は微弱である。体動に伴う測定領域の変化および向きの変化により、表面反射が大きく変化するため、微弱な生体情報は取得できなくなる。このことが、カメラを用いた遠隔生体情報センシングの最大の課題である。安定した計測のためには、体動を止め静止した状態で測定する必要があり、非拘束というメリットを十分に活かすことができなかった。
カメラを用いた遠隔生体センシングにおいては、被検者の画像が得られるため、この画像を用いて体動の影響を低減する方法が用いられる場合があった。そのような方法では、カメラから得られる画像から、顔認識機能を利用して顔部分を検出し、さらに顔の部位認識を行って測定すべき部位を認識し、体動があっても常に画像上で測定部位を捕捉して生体情報を検知する。例えば部位認識により額部を検出できれば、額部が体動により画像上で移動しても、常に額部の情報を取得することができる。
しかしながら、画像認識を用いる方法には二つの課題がある。一つは、画像全体から特徴抽出によって顔部位を認識するため、計算負荷が大きいことである。したがって、高性能で高価な演算装置を用いて高速な画像処理を行うか、1つのフレームの処理が終わってから次のフレームを処理できるようにフレームレートを下げて使用する必要があった。高速な処理には費用がかかり、装置の大型化および高価格化を招く。低速な処理を採用した場合には測定精度が低下する。もう一つの課題は、画像認識を行って体動の影響を低減したとしても、体動に伴う被検部の向き(カメラの正面方向に対する被検部表面の法線方向の角度)の変化により、検出精度の向上には限界があることである。表面反射光の反射率には角度依存性があるため、体動によって測定対象部位の向きが変化すると、カメラに到達する表面反射光の量が変動するため、検出精度が低下する。
このように、カメラを用いて遠隔生体情報センシングを行う際の最大の課題は、体動による測定の不安定性である。この不安定性に起因する信頼性の低さのため、現在まで、カメラを用いた遠隔生体情報センシングが様々な用途で広く用いられるようにはなっていない。
前述のように、人間の健康状態を判断するための基礎的な生体情報を測定する様々な試みがなされている。例えば、特許文献1は、カメラで撮影した顔などの画像の情報から非接触で心拍数を検出する方法を提案している。特許文献1の方法は、取得したカラー画像の空間周波数成分を分析することによって心拍数を求める。しかし、この方法では、室内の照明光等の外乱光の影響によって精度が低下するため、安定な検出ができない。
血中酸素飽和度の測定にはパルスオキシメータが一般に用いられる。パルスオキシメータは、指を挟みこむようにして赤色~近赤外の波長域に含まれる2つの波長の光を指に照射し、その透過率を測定する。これにより、血液中の酸化ヘモグロビンの濃度と還元ヘモグロビンの濃度との比を求めることができる。パルスオキシメータは、簡便な構成で血中酸素飽和度を測定できる。しかし、接触型の装置であるため、拘束感があるという課題がある。
非接触型の血中酸素飽和度測定装置の一例が特許文献2に開示されている。この装置は、白色光源とレーザー光源とを用いて、生体表面の後方で散乱したレーザー光によるレーザドップラー効果を利用して血中酸素飽和度を測定する。しかし、この方法では装置の構成が複雑になり、得られる信号も微弱であるという課題がある。
特許文献3は、通常のカラーカメラを用いて周辺光の影響を除外して血中酸素飽和度を測定する方法を提案している。この方法でも皮膚の表面での反射光の影響が大きいため、高い精度で安定して血中酸素飽和度を測定することは困難である。
このように、従来の非接触型の心拍、血流量、血中酸素飽和度等の生体情報の測定方法は、精度および安定性に課題がある。
さらに、カメラを用いて生体情報を測定するためには、カメラ画像の中から測定領域(例えば額領域)を特定し、その領域内の画像情報を用いて生体情報を検出する必要がある。測定領域の特定のための方法には、測定前に測定領域を指定する方法と、画像から測定領域を自動的に設定する方法とがある。測定前に測定領域を指定する方法では、測定者は、測定を開始する前に被検者の画像から測定領域を指定し、測定中は同一の箇所の測定を続ける。この方法は簡単であるが、測定中被測定者は動くことを許されず、非接触測定における非拘束というメリットが失われる。これを避けるために、自動的に測定領域を設定する方法が用いられることがある。そのような方式では、例えば、測定領域が額の領域である場合、カメラは、取得した画像から顔認識を行い、さらに顔の部位認識を行って、画像上の額部を特定し、その部分の計測を行うことができる。
図21は、そのようなシステムの一例(比較例)を模式的に示す図である。このシステムにおけるカメラである撮像装置2は、イメージセンサ7を有するカメラ筐体6と、レンズである光学系5とを備えている。撮像装置2におけるイメージセンサ7には、演算装置(または演算回路)が内蔵または接続されている。演算装置は、取得された画像(例えば図21の部分(a))について顔認識を行い、額部を特定した上で額部の画像データ(例えば図21の部分(b))を抽出する。そして、額部の画像データから、心拍変動等の生体情報(例えば図21の部分(c))を生成する。図21の部分(c)は、図21の部分(b)に示す額部の画像データを、額部の領域内で平均化した値の時間変動を示している。ここで用いられる顔の部位認識アルゴリズムは、コンピュータの画像処理に大きな負荷をかける。このため、高速な処理のためには演算装置のコストが大きくなる。また、画像認識を用いる方法には、体の向きが変化した場合および顔の一部が隠れた場合には認識率が低下するという課題があった。さらに、環境光の影響を受けやすいという課題もあった。このことから、連続的に安定して計測することは困難であった。
顔認識を用いる方法では、上記の課題の他にも、顔以外の部位(腕または胸など)の測定を行うことができないという課題もあった。さらに、プライバシーへの配慮が必要であるという課題もあった。被検者は常にカメラで画像を取得されていることに心理的なストレスを受ける。しかし、高い精度の画像認識のためには、高い解像度のカメラを用いて撮影することが必要である。このため、カメラで常に撮影されていることが被検者に心理的な負担を感じさせるおそれがある。
本発明者は、上記の課題に着目し、上記課題を解決するための構成を検討した。その結果、光によるドットパターンを生体表面に投影する光源を用いて画像を取得し、その画像における直接反射光(「表面反射光」とも称する。)による成分と生体内部での散乱光(「体内散乱光」と称する。)による成分との比率(例えば後述するコントラスト)に基づいて、画像上の生体領域(例えば人体領域)を検出し、検出された生体領域において直接反射光による成分と生体内部での散乱光による成分とを信号処理によって分離することによって上記課題を解決することができることを見出した。すなわち、生体情報検出装置は、まず画像上で生体であると推定される領域を検出し、その領域内で生体情報を計測する。このような方法により、後に詳しく説明するように、画像処理の演算量を大幅に低減し、高速で安定した生体情報の検出が可能となる。
本開示の一態様に係る生体情報検出装置は、
第1の光による複数の第1のドットを、生体を含む対象物に投影する第1の光源と、
前記複数の第1のドットが投影された前記対象物からの第2の光を検出する複数の第1の光検出セルを含み、前記複数の第1のドットが投影された前記対象物の第1の画像を示す第1の画像信号を生成して出力する撮像装置と、
第1演算回路と、
第2演算回路と、
を備える。
前記第1の画像は複数の画素を含む。
前記第1演算回路は、前記第1の画像信号を用いて、前記第1の画像のうち、前記生体に対応する第1部分を検出する。
前記第2演算回路は、前記複数の画素のうち、前記第1の画像の前記第1部分内の画素のデータを用いて、前記生体に関する生体情報を算出する。
前記第1演算回路は、ドットパターンが投影されている領域における画素の信号と、当該領域の周辺の領域における画素の信号との比率に基づいて、生体領域を検出することができる。例えば、前記画像に含まれる特定の画素、および前記特定の画素の周辺に配置された複数の画素における画素値の標準偏差と平均値との比(「コントラスト」と称する。)に基づいて、前記特定の画素に対応する位置に生体が存在するか否かを決定することができる。前記第2演算回路は、前記画像信号のうち、主に前記ドットパターンが投影されていない領域の信号を用いて、前記生体に関する情報を生成して出力する。このような構成により、生体情報を高い精度で取得することができる。
本明細書において、「生体情報」とは、心拍、血流量、血圧、血中酸素飽和度、呼吸などの、生体に関する種々の情報を意味する。本明細書では、これらの情報から得られる、人の集中度または情動などの状態を示す情報も、「生体情報」に含まれる。
(原理)
以下、生体情報の高精度な取得を可能とする生体情報検出装置の原理を説明する。
本開示の実施形態における生体情報検出装置では、例えば略650nm以上略950nm以下の波長範囲の光が使用される。この波長範囲は、赤色~近赤外線の波長範囲に含まれる。本明細書では、可視光のみならず赤外線についても「光」の用語を使用する。上記の波長範囲は、「生体の窓」と呼ばれ、体内での吸収率が低いことで知られている。
図22は、酸化ヘモグロビン、還元ヘモグロビン、メラニン、および水のそれぞれの光の吸収係数、ならびに体内での光の散乱係数の波長依存性を示す図である。650nm以下の可視光領域では血液(即ちヘモグロビン)による吸収が大きく、950nmよりも長い波長域では水による吸収が大きい。よって、これらの波長域の光は生体内の情報の取得には適していない。一方、略650nm以上略950nm以下の波長範囲内では、ヘモグロビンおよび水の吸収係数が比較的低く、散乱係数は大きい。散乱係数が吸収係数よりも1桁以上大きく、「生体の窓」の波長帯では皮膚と近赤外光との相互作用は散乱が支配的になる。このため、この波長範囲内の光は、体内に侵入した後、強い散乱を受けて体表面に戻ってくる。このような光学特性は肌に特有であるため、この拡散反射特性を用いて人体と他の物質を区別することが可能になる。
本開示の実施形態における生体情報検出装置は、主にこの「生体の窓」に該当する波長域の光を利用する。例えばドットアレー光源を用いることにより、生体表面で直接反射された光と体内で散乱して戻ってきた光とを高い精度で空間的に分離して検出できるため、生体の情報を効率的に取得することができる。
図1Aは、本開示の例示的な実施形態における生体情報検出装置の概略的な構成を示す図である。この装置は、離散的に配列された複数の点像(本明細書において、「配列点像」または「ドットパターン」と称することがある。)を、生体を含む対象物に投影する配列点像光源である光源1と、カメラである2とを備える。光源1は、複数の点像を生体3に投影するように配置される。撮像装置2は、イメージセンサ(「撮像素子」とも称する。)を有し、生体表面4を撮像し、画像信号を生成して出力する。
図1Bは、撮像装置2によって取得される生体表面の画像の特性を説明するための図である。光源1から出射された光L0は生体表面4で反射される。生体表面4で反射された表面反射光L1は、光源1による配列点像のイメージを保っている。これに対し、生体3の内部に侵入し生体内部で散乱されて生体表面4から出ていく体内散乱光L2は、生体内での強い散乱によって光源1の配列点像のイメージを失っている。光源1を用いることにより、表面反射光L1と体内散乱光L2とを空間的に容易に分離できる。
図1Aに示す生体3は人間の皮膚であり、表皮33、真皮34、および皮下組織35を含む。表皮33には血管がないが、真皮34には毛細血管31および細動静脈32が存在する。表皮33には血管がないため、表面反射光L1は血液に関する情報を含まない。表皮33は光を強く吸収するメラニン色素を含むため、表皮33からの表面反射光L1は血液の情報を取得する上ではノイズとなる。よって、表面反射光L1は、血液情報の取得に役立たないだけでなく、正確な血液情報の取得を妨げる。高い精度で生体情報を検知するためには、表面反射光の影響を抑制し、体内散乱光の情報を効率よく取得することが極めて重要である。
本開示の実施形態は、上記の課題を解決するために、配列点像を生体に投影する光源と撮像装置(または撮像システム)とを用いて、直接反射光と体内散乱光とを空間的に分離するという新規な構成を有する。これにより、生体内の情報を非接触で高い精度で測定することが可能である。
従来、このような生体表面の直接反射光を分離するために、例えば特許文献6に開示されているような偏光照明を用いた方法が用いられてきた。偏光照明を用いた方法では、撮影対象から反射された照明光の偏光方向と直交する偏光透過軸をもつ偏光子が用いられる。そのような偏光子を通してカメラで撮像することにより、表面反射光の影響を抑制することができる。しかしながら、肌のような凹凸を有する表面からの反射に関しては、表面反射光の偏光度が位置によって異なり、十分に直接反射光を分離できないという課題があった。本開示の方法によれば、直接反射光と散乱光とを空間的に分離できるため、表面反射光の影響をより効果的に抑制することができる。
本開示は、例えば以下の項目に記載の態様を含む。
[項目1]
本開示の項目1に係る生体情報検出装置は、
第1の光による複数の第1のドットを、生体を含む対象物に投影する第1の光源と、
前記複数の第1のドットが投影された前記対象物からの第2の光を検出する複数の第1の光検出セルを含み、前記複数の第1のドットが投影された前記対象物の第1の画像を示す第1の画像信号を生成して出力する撮像装置と、
第1演算回路と、
第2演算回路と、
を備え、
前記第1の画像は複数の画素を含み、
前記第1演算回路は、前記第1の画像信号を用いて、前記第1の画像のうち、前記生体に対応する第1部分を検出し、
前記第2演算回路は、前記複数の画素のうち、前記第1の画像の前記第1部分内の画素のデータを用いて、前記生体に関する生体情報を算出する。
[項目2]
項目1に記載の生体情報検出装置において、
前記第2の光は、前記対象物の前記表面の、前記複数の第1のドットのうち少なくとも1つの第1のドットが投影された位置からの第3の光と、前記対象物の前記表面の、前記複数の第1のドットが投影された位置と異なる位置であって、前記少なくとも1つの第1のドットを囲む位置からの第4の光とを含み、
前記第1演算回路は、前記第1の画像信号のうち、前記第3の光に対応する第1の画像信号および前記第4の光に対応する第1の画像信号を用いて、前記第1の画像の前記第1部分を検出し、
前記第2演算回路は、前記第1の画像の前記第1部分内の画素のうち、前記第4の光に対応する画素のデータを用いて、前記生体に関する生体情報を算出してもよい。
[項目3]
項目2に記載の生体情報検出装置において、
前記第1演算回路は、前記第3の光に対応する第1の画像信号の強度と、前記第4の光に対応する第1の画像信号の強度との割合を求め、前記割合を用いて、前記第1の画像の前記第1部分を検出してもよい。
[項目4]
項目2に記載の生体情報検出装置において、
前記第1演算回路は、前記第3の光に対応する第1の画像信号の強度、および前記第4の光に対応する第1の画像信号の強度の標準偏差と平均値との比を用いて、前記第1の画像の前記第1部分を検出してもよい。
[項目5]
項目1から4のいずれかに記載の生体情報検出装置において、
前記第1の光は、650nm以上950nm以下の波長の光を含んでいてもよい。
[項目6]
項目1から5のいずれかに記載の生体情報検出装置において、
前記生体情報は、前記生体の心拍数、前記生体の血圧、前記生体の血流量、および前記生体の血中酸素飽和度、前記生体の皮膚におけるメラニン色素の濃度、前記生体の皮膚におけるしみの有無、および前記生体の皮膚におけるあざの有無からなる群から選択される少なくとも1つを含んでいてもよい。
[項目7]
項目1から6のいずれかに記載の生体情報検出装置において、
前記撮像装置は、
前記第2の光を透過させる第1のバンドパスフィルタと、
前記複数の第1の光検出セルが配置された撮像面を有し、前記第1のバンドパスフィルタを透過した光が前記撮像面に入射するイメージセンサと、
をさらに含んでいてもよい。
[項目8]
項目1から7のいずれかに記載の生体情報検出装置において、
前記第2演算回路は、前記画素のデータの少なくとも一部にローパスフィルタリング処理を施して得られる値の時間変化を用いて、前記生体の心拍数、前記生体の血圧、および前記生体の血流量からなる群から選択される少なくとも1つを前記生体情報として算出してもよい。
[項目9]
項目1から8のいずれかに記載の生体情報検出装置は、
第2の光による複数の第2のドットを、前記対象物に投影する第2の光源をさらに備え、
前記第1の光は、650nm以上800nm以下の波長の光を含み、
前記第2の光は、800nm以上950nm以下の波長の光を含み、
前記撮像装置は、前記複数の第2のドットが投影された前記対象物からの第5の光を検出する複数の第2の光検出セルをさらに含み、
前記撮像装置は、前記複数の第2のドットが投影された前記対象物の第2の画像を示す第2の画像信号を生成して出力してもよい。
[項目10]
項目9に記載の生体情報検出装置において、
前記撮像装置は、
前記複数の第1の光検出セルが配置された第1の領域と、前記複数の第2の光検出セルが配置された第2の領域とに分割された撮像面を有するイメージセンサと、
前記第1の領域に前記第1の画像を形成する第1の光学系と、
前記第2の領域に前記第2の画像を形成する第2の光学系と、
をさらに含んでいてもよい。
[項目11]
項目10に記載の生体情報検出装置において、
前記撮像装置は、
前記第2の光の経路上に配置され、前記第2の光を透過させる第1のバンドパスフィルタと、
前記第5の光の経路上に配置され、前記第5の光を透過させる第2のバンドパスフィルタと、
をさらに含んでいてもよい。
[項目12]
項目9に記載の生体情報検出装置において、
前記撮像装置は、
前記複数の第1の光検出セルおよび前記複数の第2の光検出セルが配置された撮像面と、
前記複数の第1の光検出セルに対向し前記第2の光を透過させる複数の第1のバンドパスフィルタと、
前記複数の第2の光検出セルに対向し前記第5の光を透過させる複数の第2のバンドパスフィルタと、を含むイメージセンサと、
前記撮像面に前記第1の画像および前記第2の画像を形成する光学系と、
をさらに含んでいてもよい。
[項目13]
項目9に記載の生体情報検出装置において、
前記撮像装置は、
前記複数の第1の光検出セル、前記複数の第2の光検出セル、および複数の第3の光検出セルが配置された撮像面と、
前記複数の第1の光検出セルに対向し前記第2の光を透過させる複数の第1のバンドパスフィルタと、
前記複数の第2の光検出セルに対向し前記第5の光を透過させる複数の第2のバンドパスフィルタと、
前記複数の第3の光検出セルに対向し可視光を透過させる複数の第3のバンドパスフィルタと、を含むイメージセンサと、
前記撮像面に前記第1の画像および前記第2の画像を形成する光学系と、
をさらに含み、
前記複数の第3のバンドパスフィルタは、互いに透過波長域の異なる複数の色フィルタを含み、
前記イメージセンサは、前記複数の第3の光検出セルを用いてカラー画像信号を生成して出力してもよい。
[項目14]
項目9から13のいずれかに記載の生体情報検出装置において、
前記第2演算回路は、前記第1の画像信号および前記第2の画像信号を用いて、前記生体の血中酸素飽和度を示す情報を算出してもよい。
[項目15]
項目9から13のいずれかに記載の生体情報検出装置において、
前記第2演算回路は、
前記第1の画像信号および前記第2の画像信号を用いて、前記生体の血流量および前記生体の血中酸素飽和度を算出し、
前記生体の血流量および前記生体の血中酸素飽和度を用いて、前記生体の体調、感情、および集中度からなる群から選択される少なくとも1つを示す情報を生成してもよい。
[項目16]
項目9から13のいずれかに記載の生体情報検出装置において、
前記第1の画像および前記第2の画像に、前記生体の額および鼻からなる群から選択される少なくとも1つが含まれるとき、
前記第2演算回路は、前記第1の画像信号および前記第2の画像信号を用いて、前記額および前記鼻からなる群から選択される前記少なくとも1つにおける血流量の時間変化および血中酸素飽和度の時間変化を算出し、
前記血流量の時間変化および前記血中酸素飽和度の時間変化を用いて、前記生体の体調、感情、および集中度からなる群から選択される少なくとも1つを示す情報を生成してもよい。
[項目17]
項目9から13のいずれかに記載の生体情報検出装置において、
前記第1の画像および前記第2の画像に、前記生体の額および鼻が含まれるとき、
前記第2演算回路は、前記第1の画像信号および前記第2の画像信号を用いて、前記額における血流量の時間変化および血中酸素飽和度の時間変化、並びに前記鼻における血流量の時間変化および血中酸素飽和度の時間変化を算出し、
前記額における前記血流量の時間変化および前記血中酸素飽和度の時間変化と、前記鼻における前記血流量の時間変化および前記血中酸素飽和度の時間変化との比較に基づいて、前記生体の体調、感情、および集中度からなる群から選択される少なくとも1つを示す情報を生成してもよい。
[項目18]
項目1から17のいずれかに記載の生体情報検出装置において、
前記第1の光源は、レーザー光源であってもよい。
[項目19]
項目1から18のいずれかに記載の生体情報検出装置において、
前記撮像装置は、
前記複数の第1の光検出セルが配置された撮像面を有するイメージセンサと、
前記撮像面に前記第1の画像を形成する光学系と、
前記光学系の焦点を調整する調整機構と、
をさらに含み、
前記調整機構は、前記焦点を調整することにより、前記第1の画像のコントラストを最大にしてもよい。
[項目20]
項目1から19のいずれかに記載の生体情報検出装置において、
前記第1演算回路は、前記第1の画像信号を用いて、前記第1の画像に前記生体の額、鼻、口、眉毛、および毛髪からなる群から選択される少なくとも1つが含まれているか否かを決定し、
前記第1の画像に前記生体の額、鼻、口、眉毛、および毛髪からなる群から選択される前記少なくとも1つが含まれていると決定されたとき、
前記第2演算回路は、前記生体に関する生体情報を算出して、もよい。
[項目21]
項目1から20のいずれかに記載の生体情報検出装置において、
前記第1演算回路は、さらに、前記複数の画素のうち、前記第1の画像の前記第1部分と異なる第2部分内の画素のデータを用いて、前記生体に関する他の生体情報を算出してもよい。
[項目22]
項目1から20のいずれかに記載の生体情報検出装置において、
前記第2演算回路は、さらに、第1の時刻における、前記第1の画像内の前記第1部分の位置と、第2の時刻における、前記第1の画像内の前記第1部分の位置とを比較することにより、前記生体が動いたか否かを決定してもよい。
本開示において、回路、ユニット、装置、部材又は部の全部又は一部、又はブロック図の機能ブロックの全部又は一部は、半導体装置、半導体集積回路(IC)、又はLSI(large scale integration)を含む一つ又は複数の電子回路によって実行されてもよい。LSI又はICは、一つのチップに集積されてもよいし、複数のチップを組み合わせて構成されてもよい。例えば、記憶素子以外の機能ブロックは、一つのチップに集積されてもよい。ここでは、LSIまたはICと呼んでいるが、集積の度合いによって呼び方が変わり、システムLSI、VLSI(very large scale integration)、若しくはULSI(ultra large scale integration)と呼ばれるものであってもよい。 LSIの製造後にプログラムされる、Field Programmable Gate Array(FPGA)、又はLSI内部の接合関係の再構成又はLSI内部の回路区画のセットアップができるreconfigurable logic deviceも同じ目的で使うことができる。
さらに、回路、ユニット、装置、部材又は部の全部又は一部の機能又は操作は、ソフトウエア処理によって実行することが可能である。この場合、ソフトウエアは一つ又は複数のROM、光学ディスク、ハードディスクドライブなどの非一時的記録媒体に記録され、ソフトウエアが処理装置(processor)によって実行されたときに、そのソフトウエアで特定された機能が処理装置(processor)および周辺装置によって実行される。システム又は装置は、ソフトウエアが記録されている一つ又は複数の非一時的記録媒体、処理装置(processor)、及び必要とされるハードウエアデバイス、例えばインタフェース、を備えていても良い。
以下、本開示の実施形態をより詳細に説明する。以下の実施形態は、主に人の顔面を生体表面として、非接触で生体情報を測定する生体情報検出装置に関する。ただし、本開示の技術は人間の顔面に限らず、顔面以外の部位または人間以外の動物の皮膚の部分にも適用可能である。
(実施形態1)
第1の実施形態として、本開示の技術を非接触の心拍計測に応用したシステムを説明する。ヘルスケア意識の高まりにより、定常的な生体情報センシングの重要性が増している。非接触で常時生体情報が測定可能なシステムは、病院だけでなく日常生活における健康管理にも重要である。本実施形態のシステムは、非接触で心拍数および心拍変動をモニタリングすることができる。
図2は、本実施形態の生体検知システムの概略的な構成を示す図である。本実施形態の生体検知システムは、図2に示すように、生体3から離れて位置する近赤外の波長域の光線を射出する光源1と、照射された生体表面4の画像を記録可能なカメラである撮像装置2と、光源1および撮像装置2とに接続されたコンピュータ20とを備えている。コンピュータ20は、撮像された画像から生体表面での表面反射光L1の成分と体内散乱光L2の成分とを分離して測定することができる。コンピュータ20は、表面反射光L1の強度と体内散乱光L2の強度とに基づいて画像中に生体が含まれるかを検出することができる。また、画像中の生体の領域における信号から、心拍数などの生体情報を算出して出力することができる。
光源1は、ドットパターンを生体表面4に投影するように設計されている。ドットパターンは、典型的には2次元に配列された微小な輝点の集合である。用途によっては1次元に配列されたドットパターンを用いてもよい。本実施形態では、例えば米国Osela社のランダムドットパターンレーザープロジェクターRPP017ESを光源1として使用できる。このレーザー光源は830nmの近赤外レーザー光を発する光源であり、45°×45°の視野角内に57446点のレーザードットパターンを投影する。
図3Aは、撮像装置の構成および生成される画像および生体情報の一例を示す図である。カメラである撮像装置2は、光学系5とカメラ筐体6とを有する。光学系5は複数のレンズの集合体であり得る。カメラ筐体6の内部にはイメージセンサ7と、光源1からの光の波長である830nm±10nmの波長の光のみを透過させるバンドパスフィルタ8とが搭載されている。
人を被検体とする場合、イメージセンサ7は、位置ごとの赤外線反射率に応じた輝度をもつ複数の点像を含む画像の信号を取得する。図3Aの部分(a)は、そのような画像信号が示す画像の一例を示している。この画像信号から、コンピュータ20内の演算回路は、図3Aの部分(b)に示すように、信号処理によって人体の領域のみを検出する。この検出は、表面反射光L1による信号成分と、体内散乱光L2による信号成分との比率に基づいて行われる。
既に述べたように、生体は赤色~近赤外線の波長に対して「生体の窓」と呼ばれる特異な光学特性を持つ。人体の肌はこの波長範囲では吸収係数が小さく、散乱係数が大きい。よって、生体表面4である皮膚の表面を透過した光は体内で多重散乱を繰り返して拡散して広範囲にわたって生体表面4から射出される。このため、図3Aの部分(c)の拡大図に示されるように、画像中の人体の領域では、表面反射光L1に起因する各輝点の周囲に、体内散乱光L2に起因する領域が生じる。上記波長範囲では、直接反射光に対して散乱光の割合が高いことが生体の特徴である。これに対し、生体以外の物体では、散乱光よりも表面反射光の割合の方が圧倒的に多い。よって、直接光と散乱光との比率に基づいて生体領域を検出することが可能である。さらに、得られた画像内の生体領域に含まれる複数の画素の信号を用いて生体情報を高速に取得することができる。肌の光学特性を利用した本実施形態における人体領域の検出は、従来の画像認識を用いた方法に比べて高速かつ高精度である。人体領域の検出およびその情報を用いた高精度な人体検出により、高速かつ高精度な生体情報センシングが可能となった。
図3Bは、コンピュータ20の構成を示すブロック図である。コンピュータ20は、撮像装置2に電気的に接続された入力インタフェース(IF)21と、画像内の人体の領域を検出するための信号処理を行う第1演算回路22と、検出された人体領域内の画像データを用いて生体情報(本実施形態では脈動)を算出する第2演算回路23と、各種のデータを記録するメモリ25と、装置全体の動作を制御する制御回路26と、第2演算回路23によって生成されたデータを出力する出力インタフェース(IF)24と、処理結果を表示するディスプレイ27とを備えている。演算回路22、23の各々は、例えばデジタルシグナルプロセッサ(DSP)等の画像処理回路であり得る。図3Bでは、演算回路22、23を異なるブロックで表しているが、両者が1つの回路によって実現されていてもよい。制御回路26は、例えば中央演算処理装置(CPU)またはマイクロコンピュータ(マイコン)等の集積回路であり得る。制御回路26は、例えばメモリ25に記録された制御プログラムを実行することにより、光源1への点灯指示、撮像装置2への撮像指示、および演算回路22、23への演算指示等の制御を行う。制御回路26と演算回路22、23とは、統合された1つの回路によって実現されていてもよい。図3Bの例ではコンピュータ20がディスプレイ27を備えているが、ディスプレイは有線または無線で電気的に接続された外部の装置であってもよい。コンピュータ20は、不図示の通信回路によって遠隔地の撮像装置2から画像情報を取得してもよい。
図3Aに示す例では、第2演算回路23は、第1演算回路22が検出した人体領域内で、体内散乱光L2の信号成分を平均化する。この平均化は、例えば動画像のフレームごとに実行される。これにより、図3Aの部分(d)に例示するように、体内散乱光L2の信号成分の平均値の時間変動のデータが得られる。このデータから、周期または周波数を求めることにより、心拍数(単位時間あたりの拍動数)を求めることができる。
さらに、同様のシステム構成により、心拍数の測定と同時に、呼吸の測定も実現できる。図3Cは、そのような呼吸センシングを行うシステムを模式的に示す図である。この例におけるハードウェアは図3Aに示すものとまったく同一である。この構成により、画像信号処理によって非接触での呼吸のモニタリングを実現できる。
人の呼吸の間隔は、およそ3~4秒(15~20回/分)であり、呼吸による胸部および腹壁の膨張および収縮は、成人の場合およそ5mm程度である。撮像装置でこの胸部の動きを測定できれば、呼吸をモニタリングすることができる。
近赤外ドットアレー光源を用いて、胸部の移動量から呼吸をモニタリングする方法は、例えば非特許文献1に開示されている。非特許文献1のシステムは、静止している被検者に対してあらかじめ検査領域を決定しておくことで高精度な呼吸の非接触センシングを実現している。非特許文献1のシステムは、就寝時の非接触呼吸モニタリングを想定しており、大型のシステムで呼吸のみをモニタしている。
これに対し、図3Cに示す本実施形態のシステムを用いると、小型かつ安価に心拍センシングと同時に呼吸センシングが可能になる。さらに、被検者の体動に追従して安定した測定が可能になる。
以下、図3Cを参照して、本実施形態における呼吸の測定方法を説明する。第1演算回路22は、イメージセンサ7によって取得された近赤外画像(図3Cの部分(a))から前述の方法で人体検知を行い、人体領域のデータ(図3Cの部分(b))から顔領域を推定する。さらに、顔領域の中心から胸の位置を推定する。例えば、顔の中心から顔領域の縦方向の長さの1倍から1.2倍程度下にシフトした位置を胸領域と推定する。そして、この胸領域のドットアレー(図3Cの部分(d))の時間的な位置変動を測定する。その際、複数のドットの位置変動を平均化することで、画素ピッチ以下の位置変動を測定することができる。ここで注意すべきは、対象(胸)が横方向に移動しても撮像されたドットの位置は殆ど変化せず、奥行き方向に変化したときのみドットの位置が移動して測定されることである。通常の画像を用いた方法では、対象の横方向の移動と縦方向の移動が両方とも画素上の移動として検出され、横方向の移動がより高感度に検出されるため、測定精度が低かった。これに対し、本実施形態では、ドットアレー光源を用いることで、対象の横方向の移動は検出されず縦方向の動きのみが検出される。このため、高精度な呼吸のモニタリングが可能になる。胸領域のドットアレーパターンのフレーム間の変化量を、ドットアレーパターンの自己相関を計算することによって求めることができる。この平均的な移動量が呼吸による胸の上下動を表している。図3Cの部分(e)に示すように、ドットパターンの平均的な移動量を時間軸にプロットすることで、呼吸のモニタリングが可能になる。本実施形態の構成によれば、体動がある場合でも、胸領域を追尾しながら高精度の呼吸センシングが可能である。
図3Cに示す例において、画像中の額領域における画素のデータを用いて心拍数を測定する方法は、図3Aに示す方法と同じである。図3Cの例では、心拍数および呼吸の両方を測定しているが、呼吸のみを測定してもよい。
次に、実際のデータを用いて行った生体検知方法の一例を説明する。
図4Aは、可視光を検出する通常の撮像装置によって取得された画像の一例を示している。中央部に人の顔Fが見えている。図4Bの左側の図は、本実施形態の撮像装置2によって取得された830nmの波長の光源1で照明された図4Aと同一のシーンを示している。この画像では手前に配置されている箱Bによる強い反射により、顔Fを認識することが困難である。そこで、人体を検知するために、第1演算回路22は、近赤外の画像から直接反射光と散乱光とのコントラストを計算する。
図5は、コントラストの計算に用いる画素領域の一例を示す図である。画像データは2次元の強度データとしてメモリ25に記録されている。横(x)方向にi番目、縦(y)方向にj番目の画素のデータをPijとする。この(i,j)画素のコントラストCijを以下のように定義する。
Cij = Sij / Aij
ここで、SijおよびAijは、それぞれ、(i,j)画素を中心とする7×7画素の領域内の画素データの標準偏差値および平均値である。直接反射光に対する散乱光の比率が高まるほど標準偏差値Sijが小さくなるため、Cijの値は小さくなる。この処理を全画素について繰り返した上で、第1演算回路22は、Cijの値が所定の範囲内である画素のみを抽出する。一例として、0.2 < Cij < 0.47となる領域の一部を表示したのが、図4Bの右側の図である。この図では、Cijの値が上記の範囲内にある画素を白く表示し、それ以外の画素を黒く表示している。生体(即ち顔F)の部分が正しく抽出されていることがわかる。
このように、本実施形態における第1演算回路22は、画像に含まれる特定の画素、およびその画素の周辺に配置された複数の画素における画素値の標準偏差と平均値との比であるコントラストCijを計算する。その値に基づいて、上記特定の画素に対応する位置に生体が存在するか否かを判定し、その存否を示す情報を出力することができる。
本実施形態によれば、生体の特異な光学特性を利用して、多くの物体の中に隠れた生体を効率的に検出することが可能である。ここでは画像のコントラスト(即ち直接反射光と散乱光とのコントラスト)を求めるために7×7画素の領域内の平均値と標準偏差値とを求めたが、これは一例である。コントラストの演算に用いられる画素領域のサイズ(即ち画素数)は、光源1によって形成される複数の点像の密度と撮像装置2の解像度に応じて適切に設定される。計算結果のばらつきを抑えるために、演算対象の画素領域内に複数(例えば3個以上)の点像が含まれ得る。演算対象の領域の画素数を増加させることによってコントラストの計算値の精度は向上するが、得られる生体のイメージの解像度は低下する。このため、演算対象の領域の画素数は、システムの構成と使用目的とに応じて適切に設定される。さらに、演算対象の画素数だけでなく、この処理を繰り返す画素の間隔も処理速度を左右する。上記の処理では全画素について順次計算を繰り返したが、演算を行う画素間隔を増やすことで解像度は低下するが処理速度を高めることができる。この画素間隔についても、システムの構成と使用目的とに応じて適切に設定すればよい。同様に、コントラストの所定の範囲も、0.2<Cij<0.47に限らず、システムの構成と使用目的とに応じて適切に設定すればよい。
以上の方法により、第1演算回路22は、撮像装置2が取得した2次元画像から、画像内の人体の領域を検出する。次に、第2演算回路23は、生体情報の取得を行う。既に第1演算回路22によって画像内の人体領域が特定されているため、この領域内の画素データを用いて、生体情報が生成される。第2演算回路23は、例えば図3Cに示すように、心拍数および呼吸の時間変動のデータを生体情報として生成する。これにより、非接触で心拍数および心拍変動をモニタリングすることが可能である。
従来のカメラを用いた生体情報センシングシステムでは、画像中の生体領域の画素データを平均化して生体情報を検出するという方法が一般的であった。これに対して、本実施形態の生体情報センシングシステムは、ドットアレー光源を用いているため、2次元画像から不必要な肌表面での表面反射光成分を除去し、生体情報を含む体内散乱光を選択的に抽出することが可能になる。投影されたドットアレーの像(表面反射光)は高い画素値をもつ点として検出され、体内で散乱する成分(体内散乱光)はドットを中心に、当該ドットに比べて低い画素値として検出される。光強度に閾値を設けて、一定以上の光強度の画素のデータを除いた画素のデータを平均化することで、体内散乱光を効率的に抽出できる。このような処理により、高精度に生体情報を取得することが可能になった。
図6は、本実施形態における第1演算回路22および第2演算回路23によって実行される動作の一例を示すフローチャートである。ここでは、イメージセンサ7によって動画像が取得される場合を例に、演算回路22、23の動作を説明する。なお、以下の動作は、メモリに格納されたコンピュータプログラムを1つまたは複数のプロセッサが実行することによって実現され得る。
まず、第1演算回路22は、取得された動画像から、人体の領域を抽出する(ステップS101)。人体領域の抽出方法は、前述のとおりである。次に、第2演算回路23は、抽出された人体領域内の画素値のデータのうち、直接反射光成分に相当するドットアレーの中心部分のデータを、予め設定した閾値を用いて除去する(ステップS102)。その上で、第2演算回路23は、人体領域内の画素値(体内散乱成分に相当)の平均値を計算する(ステップS103)。以上のステップS101~S103は、動画像のフレームごとに行われる。第2演算回路23は、所定の期間(例えば、数秒から数十秒)のフレームのデータを用いて、上記平均値の時間変動の周期および振幅を算出する(ステップS104)。これにより、生体内の血流の情報を取得することができる。心臓から拍出された動脈血が脈波と呼ばれる波動を持って血管内を移動するため、近赤外線の吸収率および反射率が脈動に連動して変化する。この反射率の変動の周期から心拍数を求めることができる。さらに、脈動の振幅から血圧または血流量を推定することができる。
予め設定した閾値を用いて直接反射光成分を除去する工程(ステップS102)では、撮像装置と被検者との距離が一定である場合は固定の閾値を用いることができる。しかし、通常は、撮像装置と被検者との距離が変動する場合が多いため、そのような場合に対応できるようにすることが望まれる。そこで、例えば演算対象の生体領域全体の画素値の平均値を計算し、その平均値に応じて閾値を変化させるようにしてもよい。そのような形態では、画素値の平均値が高いほど閾値が高く設定され得る。
本実施形態によれば、例えば図3Aの部分(d)に示されているような心拍のデータを得ることができる。通常の可視カメラおよび近赤外カメラを用いて心拍を非接触でモニタする方法については数多くの方法が提案されている。これらの従来の方法では、表面反射光の成分と散乱光の成分との分離が不十分なため、非接触では外乱光の影響を受けやすく、安定かつ高精度な測定は困難であった。これに対し、本実施形態では、取得した画像信号における表面反射光成分と散乱光成分とを空間的に分離することにより、安定かつ高精度な心拍測定が可能になった。例えば、従来のカメラを用いた遠隔心拍測定では、会話時には発声に伴う体動により検出が不安定になり、精度の高い心拍測定は不可能であった。本実施形態の方法を用いることにより、会話程度の体動であれば安定して心拍を測定することが可能になった。
本実施形態によれば、被検者の心理的ストレスも推定できる。心拍数の時間的なゆらぎから心理的ストレスが推定できることが知られている。自律神経が正常に機能している場合、心拍の間隔は揺らぐが、ストレスにより心拍の間隔の揺らぎが減少することが知られている。本実施形態における第2演算回路23は、この心拍の間隔の揺らぎの変化に基づいて、心理的ストレスの有無または程度を検出することもできる。ストレスセンシングを生活の中で定常的に行うためには、本実施形態のような非拘束で非接触な心拍センシング技術が重要である。
以上のように、本実施形態のシステムを用いることで、拘束されることなく、就寝時を含め、常時心拍数または血圧をモニタすることが可能になった。これにより、例えば病院で患者の状態を常時モニタリングし、異常発生時に医療スタッフに警告を発するようなシステムを構築できる。一般家庭においても、例えば無呼吸症候群を罹患した患者の夜間の心拍数のモニタリングが可能である。さらに、日常生活においても、上述のように簡便にストレスセンシングを行うことができるため、より充実した日常生活をおくることが可能になる。
(実施形態2)
実施形態1では画像から人体領域を検知し、画像内の人体領域から生体情報を取得するシステムについて説明した。以下に第2の実施形態として、人体検知を用いた代表的な適用例を説明する。人体検知は、例えば災害現場で瓦礫等に埋もれた被災者を探知する目的で開発が進んでいる。災害後72時間以内に被災者を発見することが被災者の生存率を決定づける。このため、簡単で安定した生体検知システムが必要とされている。生体検知技術は、セキュリティ分野および交通分野でも利用される。セキュリティ分野では侵入者を発見するために、交通分野では歩行者を検知するために、生体検知技術は重要な役割を果たす。様々な構造物または物体が含まれる画像の中から生体(特に人間)を選択的に検知可能なシステムの必要性が高まっている。実施形態1における第1演算回路22の動作によって生体を検知することができるが、さらに生体が検知された領域に対し、生体情報(例えば脈動の有無)をセンシングすることで、より確実でより高度な生体検知が可能となる。以下、用途ごとに、本実施形態の動作を説明する。本実施形態における物理構成は、実施形態1における物理構成と同じである。
(1)災害時の被災者の発見
地震、津波、土石流などの自然災害の発生時に、瓦礫に埋もれた被災者を早期に発見することは、人命救助の観点から特に重要である。3日を越えると生存率が大幅に低下するといわれる「72時間の壁」があり、混乱した状況下で速やかに被災者を発見することが必要とされている。本実施形態のシステムを用いることにより、瓦礫が散乱するような状況の中でも撮像してリアルタイムで瓦礫に隠れた被災者を検知することが可能になる。システムが小型であるため、例えばUAV(Unmanned aerial vehicle、所謂ドローン)に搭載することもできる。これにより、2次災害の危険がありアクセスが困難な災害現場であっても、遠隔地からリモートコントロールで画像を取得し生存者を探査することが可能である。
実施形態1における第1演算回路22による生体検知処理によって人体検知を行うことが可能であるが、精度を向上させるため、本実施形態では、さらに第2演算回路23の処理結果を利用する。第1演算回路22によって生体であると推定された領域(生体領域と称する。)について、第2演算回路23は、生体情報(例えば脈動の有無)をセンシングする。これにより、より確実に人体を検知することが可能となる。生体領域について、体動の有無を判定することで、誤検出を減らし信頼性を高めることができる。体動の有無は、例えば連続する複数のフレームを比較し、生体領域において時間的に変動が生じているか否かに基づいて判定できる。さらに、生体領域における画素データを用いて、心拍の有無を判定することにより、人体の検出精度を飛躍的に向上することができる。本実施形態によれば、皮膚の光学特性を利用した生体検知、生体領域の移動による体動検知、生体領域における信号強度から算出される心拍測定を併用することで高速で信頼性の高い生体検知が可能となる。さらに、生体情報から被災者の身体状態がわかるので、そのデータに基づいて救援の優先度を決定することが可能になる。
以下に述べる人体検知の用途においても、本実施形態における(1)生体検知、(2)体動検知、(3)心拍数検知の情報を併用することで、より信頼性の高い生体検知を実現することができる。
(2)監視用途
監視カメラが広く普及し、市民生活の安全および安心に貢献している。監視カメラの台数が増えるほど、その監視カメラの映像を誰がどのように確認するかが重要になる。現状では、人が画像を常時確認することは困難であるため、画像を蓄積しておき、問題(事件)が発生した後でその画像を確認することで状況を把握するような使われ方が多い。例えば、リアルタイムの画像から問題発生の瞬間を捉え、即時に問題に対応できるような利用方法が考えられる。本開示の技術を用いることで、監視カメラの画面に人が入ってきたときにそれを認識して、担当者に警告を発してその画像をリアルタイムに確認させるようなシステムを構築できる。担当者は必ずしも監視カメラのモニタ前に待機する必要は無く、人を検知した場合に担当者のもつ携帯端末に警告が現れ、画像が表示されるようなシステムを構築することが可能である。通常人の立ち入らないような、倉庫もしくは建物の裏口、または立ち入りが制限されているような場所の監視にはこのようなシステムが適している。また、ビル等の、多数のカメラを集中的に監視しているような場所では、人を検知したカメラ映像をハイライト表示することで、異常の見逃し防止、異常の早期発見および対策に役立てることができる。
監視目的においても、不審者の検知だけでなく、第2演算回路23を用いて生体情報(脈動の有無)をセンシングすることでより重要な情報を取得することが可能になる。監視画像に現れた不審者の心拍数または心拍変動から、心理的な緊張状態を推定することができる。推定した緊張状態から、その人物の危険度(注意レベル)を推定することが可能になる。空港または商業施設等における群集の中で犯罪を犯す潜在的可能性の高い人物を、カメラ映像によって検知するセキュリティシステムの開発が進められている。本実施形態の生体検知・生体センシングシステムはこのような目的にも適用可能である。
監視用途においては、従来の監視画像を人間が判断する方式から、画像認識技術の進展によりコンピュータによる物体認識を行う方式の開発が進められている。このような用途では、画像をホストコンピュータに送りホストコンピュータ側で認識を行う方式が一般的である。しかし、画像データをコンピュータに送る必要があり、通信量の増大・通信速度の低下、ホストコンピュータの負荷増大といった問題が発生していた。監視カメラで一次的な画像の認識と判定が可能であれば、通信・記録・演算の負荷を大幅に軽減できる。ただし、この認識に十分な信頼性がないと事象の見逃しにつながるという課題があった。本実施形態の人検知方式では、高い信頼性で人間を検知できるため、人を検知した場合に人を含む部分画像のみを選択的にホストコンピュータに送ることが可能になる。その結果、監視システムの効率的な運用が可能になる。
また、画像認識技術の進化により、画像によって個人を高精度に特定することが可能になってきている。画像からの個人特定についても現状では、画像をホストコンピュータに送りホストコンピュータ側で認識を行う方式が一般的であるが、前述のように通信・記録・演算の負荷が課題になっている。演算時に、顔認識のために顔部を抽出する作業に大きな負荷がかかっている。本実施形態の検知方式を用いれば、画像内から容易に顔部分を抽出できる。このため、顔部分のみをホストコンピュータに送り個人特定を行うことが可能になり、個人特定の負荷を大幅に低減できる。さらに、限定された人数であれば特徴をあらかじめ監視カメラ側に登録しておくことでホストコンピュータを介さずに、即時にカメラ側で個人の特定が可能になる。
(3)車載用途
本実施形態のシステムを自動車に搭載することで、路上の歩行者を常に認識し、より安全な運転を実現することができる。人が物陰に隠れていて、視認性の悪い場合でも人を検知してドライバーに警告することが可能である。自動運転においては、ブレーキで停止ができず、左右どちらに方向転換しても事故が避けられないような局面でどちらに避けるかという問題が発生することが想定される。そのような場合、本システムで人体を検知し人を避ける方向に進路を変更することが有効になる。このような用途の場合、高い精度で高速に人体を検知することが求められるため、本実施形態のシステムは特に適している。
(4)人体検知スイッチ
人体を検知して電源のオンおよびオフを切り替えるというような用途は幅広く存在する。例えば、室内の人間を検知してエアコンまたは電灯等の機器のスイッチを制御したり、自動ドアを高い精度で制御したり、横断歩道で歩行者を検知して歩行者信号を制御したり、自動販売機の照明の照度を変更したりするなどの用途が存在する。本実施形態は、それらの用途に適用可能である。本実施形態のシステムを用いて、物およびペットには反応せず人だけに感応する高機能なスイッチを実現することができる。このような用途では、本システムにおける光源、撮像装置、および演算回路を一体化した小型の人体検知センサーユニットを構成することができる。
(5)生体認証
指紋認証、虹彩認証、および静脈認証などの生体認証が個人認証の方法として広く用いられている。利用が拡大するにつれ、生体認証の成りすましの事例およびリスクが増加している。画像を用いた認証においては、これまでコピー等の画像複製技術が用いられてきた。近年、虹彩認証および3Dプリンターの利用の拡大とともに、さらに高精度な複製を用いた成りすましのリスクが拡大している。このようなリスクの対策として、2段階の認証システムが有効である。例えば、本実施形態の生体検知システムで対象が生体であることを確認したうえで、通常の生体認証を行うという方式が有効である。本システムの生体検知システムを用いて生体であることの確認を行うことで、生体認証の信頼性を高めることが可能になる。
以上説明した用途のうち、(1)~(4)の用途においては、第2演算回路23は、人体であると判断された領域を可視画像に重ね合わせた画像データを生成し、ディスプレイに表示してもよい。人体領域を示す単独の画像、または、赤外画像と人体領域を示す近赤外画像とを重ねあわせた画像では、人間の視覚イメージと異なるため、人体が検出された場合でも人間が人体位置を認識する際に課題があった。この課題を解決するために、図3Aに示すシステムに可視カメラを追加してもよい。第2演算回路23は、可視カメラから得られる可視画像と、イメージセンサ7から得られる赤外画像との重ねあわせを行い、可視画像上に人体領域を重ね合わせた画像データを生成してもよい。可視画像上に人体領域を強調して示すことにより、視認性を高めることができる。人体を検出した後の判断を人間が行うような用途では、可視画像と人体領域の画像との重ね合わせが可能なシステムがより有効である。
さらに、可視カメラを追加したシステムを用いる場合、第2演算回路23は、可視画像から画像の輪郭線を抽出し、人体領域であると推定される領域から輪郭線に相当する部分を除去してもよい。物体の輪郭部分で赤外線の反射率が大きく変化する場合があり、それによって物体の輪郭領域を人体と誤検出する場合があるからである。輪郭領域を除去することで、ノイズの少ない人体領域画像を得ることができる。
カメラ1台で可視画像と人体検知のための近赤外画像とを取得するためには、例えば、カメラから可視カットフィルタを取り外し、照明光をカメラのフレームレートと連動させて可視光と近赤外光とを1フレーム毎に切り替えればよい。そのような構成により、1台のカメラで可視画像と近赤外画像とを取得することができる。この方法の利点は、一台のカメラで可視画像と近赤外画像とが取得可能であるため、カメラ間の視差が無く、画像の重ね合わせが容易であることである。
(実施形態3)
第3の実施形態として、人体検知と人体情報センシングとを組み合わせて用いるより具体的な応用例を説明する。前述のように、本開示のシステムによれば、人体を迅速に検出し、検出された人体領域のデータから心拍等の生体情報を高速かつ高精度に取得することができる。これを利用して、浴室、トイレ、および寝室等の個人空間における見守りシステムを実現することができる。個人空間においてはプライバシーへの配慮が特に重要である。高い解像度のカメラで常時対象者を撮影し、その画像を用いるようなシステムでは、画像の流出によるプライバシー侵害の懸念、およびカメラの存在による撮影時の心理的な負荷が発生する。このような課題は、本実施形態の見守りシステムによって解決される。
高齢化の進行に伴い、日本国内における入浴中の死亡者は、年間1万から2万人といわれている。この数は、交通事故死者数の4千から5千人よりもはるかに多い。浴室での死亡の原因には、事故(溺死)および病気(心疾患および脳疾患による発作)がある。死亡者は高齢者に多く、冬季に多く発生しており、高齢化に伴い年間件数も増加している。浴室内での死亡については、事故および病気のいずれの場合も異常発生時に早期に発見できれば救命が可能であった可能性のある事案が多数含まれている。浴室は閉鎖されたプライバシー空間であるために、発見が遅れ死亡に至るケースが多くある。プライバシーに配慮しながら浴室内の対象者を見守ることができるシステムが強く望まれている。
図7Aは、本実施形態における生体情報検出装置およびその処理を模式的に示す図である。本実施形態の生体情報検出装置の構成は、基本的には、図3Aに示す構成と同じである。ただし、本実施形態では、浴室での使用を考慮して、光源1およびカメラである撮像装置2が、防水機能を有する筐体15に格納されている。筐体15は、光源1からの光および被検者3から戻ってくる光を遮らないように、正面に開口を有している。開口には、可視光をカットし、近赤外光を透過させるフィルタ16が設けられている。光源1から出射した近赤外光は、フィルタ16を通過して被検者3に入射する。被検者3で反射された当該近赤外光は、再びフィルタ16を通過して撮像装置2のレンズである光学系5およびバンドパスフィルタ8を通過し、イメージセンサ7に入射する。
図7Aに示す生体情報検出装置は、さらに、警報(警告音)を発するスピーカ18と、制御装置17とを備えている。制御装置17は、撮像装置2、光源1、およびスピーカ18に接続され、これらを制御する。制御装置17は、図2に示すコンピュータ20に相当する要素であり、図3Bに示す第1演算回路22、第2演算回路23、メモリ25、および制御回路26などを有している。制御装置17における制御回路26は、異常を検知したとき、スピーカ18に、警報を発するように指示する。
本実施形態では、システムの防水化が図られ、撮像装置2が人間の眼から見えないように配慮されている。これにより、浴室内で撮影されているという心理的な負荷を低減することが可能となった。基本的なシステムの構成および信号処理に関しては、実施形態1とほぼ同じである。
以下、図7Bおよび図7Cを参照して、本実施形態における実際の見守りのアルゴリズムを説明する。本実施形態では、図7Aに示す生体情報検出装置(「見守りシステム」とも称する。)が浴室の隅に設置されており、図7Bの部分(a)に示すように、浴室全体を監視できるようになっている。撮像によって取得された近赤外画像のデータから、人体検知(図7Bの部分(b))、体動検知(図7Bの部分(c))、および心拍異常の検知(図7Bの部分(d))が行われる。人体が検知された後、体動が無い場合、第1の警報(警報1)が例えば入浴中の本人に発せられ、注意喚起が行われる。さらに、心拍異常が検知された場合、例えば浴室外の人に、第2の警報(警報2)が発せられる。以下、図7Cのフローチャートを参照しながら、本実施形態の見守りシステムの動作をより詳細に説明する。
図7Cは、本実施形態の見守りシステムの動作を示すフローチャートである。まず、第1演算回路22は、取得された近赤外画像のデータに基づいて、実施形態1と同じ方法により、人体の検知を行う(ステップS201)。ここで人体が検知された場合、次の体動検知のステップS202に移る。この際、人体検知に用いられた画像のデータは記憶装置(例えば、図3Bに示すメモリ25)に記録されず、人体領域のデータのみを残して動画の次フレームの画像のデータで書き換えられる。このように、個人を特定できるような画像データを残さないため、プライバシーが保護される。
次に、第2演算回路23は、検出された人体領域について、連続する複数のフレーム間のデータを比較することにより、体動を検知する(ステップS202)。例えば、一定時間(例えば30秒)以上体動が無い場合、本人に対し警報1が発せられる(ステップS203)。これは、例えば「起きていますか?お風呂で危険です。起きていたらOKボタンを押してください。」といった警報であり得る。警報1は、本人に対する注意喚起と状態の確認を行うことを目的としている。体動が無い場合には、さらに、第2演算回路23は脈動を測定する(ステップS204)。脈動が少ない場合または脈動を検知できない場合には、警報2が発せられる(ステップS205)。これは、浴室外の人(家族、介護者、救急車など)に対する警報である。システムであらかじめ設定された対象者に対して、音声警報、電話、またはインターネットを通じた確認および救援依頼を目的とする警報であり得る。
本実施形態によれば、簡単なシステム構成で、(1)人体検知、(2)体動検知、(3)心拍測定の3段階の検知が可能である。このため、信頼性の高い見守りを実現することができる。
上述の例では、(1)人体検知、(2)体動検知、(3)心拍測定の3段階の検知を、ステップを追って行っているが、このような順序で行わなくてもよい。例えば、人体検知のあと、体動検知および心拍測定を並行して行ってもよい。これにより、入浴者の心拍を定常的にモニタすることができ、入浴者に対して適切なアドバイスを行うことができる。脱衣場と浴室との温度差による血管収縮に伴う心拍変化、および体表面血流の上昇に伴う脳および心臓の血流の低下とそれに伴う起立性低血圧の発生による立ち眩み(湯のぼせ)による溺死が多数発生している。本実施形態のように心拍を定常的にモニタすることにより、入浴者の体調変化をリアルタイムに検出できる。体調変化を検出したときに、入浴者にフィードバックすることにより、前述のような事故を防ぐことができる。例えば、心拍数の上昇が大きい場合、「立ち眩みに注意が必要です。立ち上がる際には手すりにつかまり、ゆっくりと立ち上がってください。」というようなメッセージを発信することができる。
浴室、トイレ、および寝室等のプライバシー空間での見守りシステムでは、プライバシーの保護が特に重要である。本実施形態では、カメラで取得された近赤外画像は人体検知にのみ用いられ、画像データ自体は記憶媒体に記録されること無く人体検知処理後に次フレームのデータで常時書き換えられる。また、本実施形態のシステムは画像データの出力機構を持たないように設計されている。このため、外部から画像データを取得することは不可能である。悪意を持つハッカー等の攻撃にあってもプライバシーが侵害されないように配慮されている。また、近赤外光を用いることでカメラを外部から不可視化できるため、撮影されているという感覚をもたれることなく見守りが可能となっている。プライバシー空間での見守りシステムでは、このようなハードウェア面での、および心理面でのプライバシー確保が特に重要である。本実施形態により、プライバシーに配慮した家庭内の見守りが可能になった。
(実施形態4)
第4の実施形態として、非接触で血中酸素飽和度を測定するシステムを説明する。血液の大きな役割は、酸素を肺から受け取って組織へと運び、組織からは二酸化炭素を受け取ってこれを肺に循環させることである。血液100mlの中には約15gのヘモグロビンが存在している。酸素と結合したヘモグロビンを酸化ヘモグロビン(HbO2)と呼び、
酸素と結合していないヘモグロビンを還元ヘモグロビン(Hb)と呼ぶ。図2に示したように、酸化ヘモグロビンおよび還元ヘモグロビンの光吸収特性は異なる。酸化ヘモグロビンは約830nmを超える波長の 赤外線を比較的よく吸収し、還元ヘモグロビンは赤色
光(例えば660nmの波長)を比較的強く吸収する。830nmの波長の近赤外線については、両者の吸収率に差異はない。そこで、本実施形態では、660nmおよび830nmのこれら2つの波長における透過光を測定する。これらの赤外光と赤色光の透過光の比率から2種類のヘモグロビンの比率(酸素飽和度)を求めることができる。酸素飽和度とは、血液中のヘモグロビンのうちどれだけが酸素と結びついているかを示す値である。酸素飽和度は、下記の数式で定義される。
酸素飽和度=C(HbO2)/[C(HbO2)+C(Hb)]×100(%)
ここで、C(Hb)は還元ヘモグロビンの濃度を、C(HbO2)は酸化ヘモグロビンの濃度を表している。
生体内には、血液以外にも赤~近赤外の波長の光を吸収する成分が含まれているが、光の吸収率が時間的に変動するのは、主に動脈血中のヘモグロビンに起因する。よって、吸収率の変動に基づいて、高い精度で血中酸素飽和度を測定することができる。心臓から拍出された動脈血は脈波となって血管内を移動する。一方、静脈血は脈波を持たない。生体に照射した光は、動静脈および血液以外の組織など生体の各層で吸収を受けて生体を透過する。この際、動脈以外の組織は時間的に厚さが変動しない。このため、生体内からの散乱光は、脈動による動脈血層の厚さの変化に応じて時間的な強度変化を示す。この変化は動脈血層の厚さの変化を反映しており、静脈血および組織の影響を含まない。よって、散乱光の変動成分だけに着目することで動脈血の情報を得ることができる。時間に応じて変化する成分の周期を測定することにより、脈拍も求めることができる。
図8は、本実施形態のシステムの構成を示す図である。本システムは、生体3から離れた位置に配置された近赤外の波長の光線(例えば波長830nm)および赤色の波長の光線(例えば波長660nm)をそれぞれ射出する2つの配列点像光源である光源101、102と、照射された生体表面を記録可能な2つのカメラである撮像装置201、202と、取得された画像から生体表面での直接反射光強度と体内での散乱光の強度とを分離して測定し、直接反射光の強度と散乱光の強度とから生体情報を算出するコンピュータ20とを備えている。ここでは、血中酸素飽和度を測定するために、波長の異なる2個の光源101、102と、それぞれの光源に対応した撮像装置201、202を装備している。
図9は、撮像装置の構成を示す図である。撮像装置201、202の各々は、レンズである光学系5とカメラ筐体6とを有する。カメラ筐体6には、イメージセンサ7と、近赤外光(波長830nm)を選択的に透過させるバンドパスフィルタ802とが搭載されている。カメラ筐体6には、イメージセンサ7と、赤色の光(波長660nm)を選択的に透過させるバンドパスフィルタ801とが搭載されている。
光源101には、例えば米国Osela社のランダムドットパターンレーザープロジェクターRPP017ESを使用できる。このレーザー光源は、830nmの近赤外レーザー光源であり、45×45°の視野角内に57446点のレーザードットパターンを投影する。光源102には、例えば米国Osela社のランダムドットパターンレーザープロジェクターRPP016ESを使用できる。このレーザー光源は、660nmの赤色レーザー光源であり、35×35°の視野角内に23880点のレーザードットパターンを投影する。
コンピュータ20は、2台の撮像装置201、202が連動して同時に撮像するようにこれらの撮像装置および光源101、102を制御する。これにより、例えば図9の右側に示すように撮像装置201、202から2つの波長の異なる光の画像が生成される。
図10は、バンドパスフィルタ801、802の透過率特性を示す図である。バンドパスフィルタ801は、透過中心波長が830nmでバンド幅が10nmの透過特性を有する。バンドパスフィルタ802は、透過中心波長が660nmでバンド幅が10nmの特性を有する。バンドパスフィルタ801、802の透過中心波長は、光源101、102の波長の中心値とそれぞれ一致している。このため、撮像装置201では830nmの波長の光による画像が取得され、撮像装置202では660nmの波長の光による画像が取得される。
コンピュータ20内の第1演算回路22は、実施形態1と同様に、まず動画像から人体領域を抽出する。その領域内の画素のデータに閾値によるデータ選択を行い、直接反射光成分を除去する。その上で、測定領域内の画素値の平均値を計算する。以上の処理を、830nm、660nmのそれぞれの撮像装置について実行する。このようにして計算された平均値は生体からの拡散反射光の強度を示す。
図11は、得られた拡散反射光強度の時間変化の一例を示す図である。近赤外光(波長830nm)、赤色光(波長660nm)の双方について、反射光強度は時間的に変動している。ここで、光源101、102からの光の生体表面での強度をそれぞれIi(830)、Ii(660)とし、生体からの拡散反射光の変動成分の時間平均値をそれぞれΔI(830)、ΔI(660)とする。血中酸素飽和度SpOは、以下の式で計算される。
SpO2 = a+b*(log(ΔI(660)/Ii(660)))/(log(ΔI(830)/Ii(830)))
上式のa、bは、既存のパルスオキシメータの測定値との関係から決定することができる。
測定装置の精度を確認するために、本システムを用いて額ではなく指先の酸素飽和度を測定した。血圧測定に用いられるベルト(カフ)を用いて上腕部を一定圧力(200mmHg)で加圧して、血流を止めて指先で酸素飽和度を測定した。
比較のため、人差し指に市販の指を挟みこむ方式のパルスオキシメータを装着し、本システムで中指の酸素飽和度を非接触で測定した。最初の測定で上述のa、bを決定し、2回目以降の測定で血中酸素飽和度SpOを測定した。
図12は、接触式のパルスオキシメータを用いた場合の測定値と本実施形態における測定値の比較結果を示している。両者の結果が概ね一致していることから、精度よく測定できていることがわかる。本実施形態の方式では、血中酸素飽和度だけでなく、図11に示す脈波から脈拍数も同時に測定することができる。
脈波の揺らぎまたは周波数特性からストレスおよび疲れが測定できることが知られている。本実施形態のシステムを用いることで、脈波から非接触で被検者のストレス等の心理状態および体調を推定することが可能である。
(実施形態5)
第5の実施形態として、1台のカメラを用いて血中酸素飽和度を測定する方式について説明する。第4の実施形態では2台のカメラを用いてそれぞれのカメラで異なる光源波長の信号を取得していた。この方式は既存のカメラを流用できるというメリットがあるが、2台のカメラを連動して撮像するためシステム構成が複雑になる。取得されるデータも2台分の独立した動画データとなるため、時間を合わせたデータ処理が複雑になるという課題もある。これを避けるために、本実施形態では、1台のカメラで同時に2波長分の画像のデータを取得可能なカメラを実現した。
図13は、本実施形態の生体情報検出装置の構成を示す図である。この装置は、2つの撮像装置201、202を有する2眼ステレオカメラの構造を備える。そこで、本明細書では、このような方式を「ステレオカメラ方式」と称する。カメラである生体情報検出装置は、第1のレーザー点像光源である光源101(波長830nm)と第2のレーザー点像光源である光源102(波長760nm)とを有している。光源101、102で照明された生体からの反射光は、それぞれ、バンドパスフィルタ801、802を通過し、進行方向がミラー901、902で90度折り曲げられ、レンズである光学系501、502によって、イメージセンサ701、702の撮像面に結像する。バンドパスフィルタ801、802は、それぞれ、2つの光源の波長に対応する830±15nm、760±15nmの波長の光のみを透過させる狭帯域バンドパスフィルタである。
シャッターボタン11が押されると、2つの光源101、102が点灯し、同時にイメージセンサ701、702が生体の画像を取得する。取得された画像は画像処理プロセッサ(図3Bにおける演算回路22または23に相当)によってステレオ画像のフォーマットに変換され、画像信号処理が行われた上で記憶装置(図3Bにおけるメモリ24に相当)に蓄積される。その後の処理は、実施形態3または4と同様である。
本実施形態によれば、撮像系を一台のステレオカメラの構成とすることで、システム全体がコンパクトになり、後段の画像信号処理から酸素飽和度計算までの信号処理系の構成をシンプルにできる。これにより、操作の簡便性と高速性を両立できる。
2つの光源の波長として、例えば近赤外領域の760nmおよび830nmが用いられ得る。酸化ヘモグロビンと還元ヘモグロビンとの吸収差は、実施形態2および3で用いた660nmの方が760nmよりも大きいため、酸素飽和度をより高精度に測定可能である。しかし、660nmの波長は可視領域であるため、この波長を用いると被検者に負担を与える可能性がある。さらに、蛍光灯およびLED照明には660nmの波長の成分が含まれているため、環境光の影響を受けやすいという問題がある。本実施形態では、このことを考慮して760nmの波長を選択した。還元ヘモグロビンの吸収ピークが760nmにあるため、短波長側の光源を近赤外領域に設定する場合、760-780nmの波長を用いることが有効である。使用される波長は、上記のものに限定されず、用途と使用環境に応じて適切に選択すればよい。
(実施形態6)
第6の実施形態として、1台のカメラを用いて血中酸素飽和度を測定する他の方式を説明する。第5の実施形態では1台のカメラが2つの光学系と2つのイメージセンサとを含むステレオカメラ方式の構成であった。本実施形態では、複数のレンズを用いて画像を分割することで、2波長に対応する異なる2つの画像を1つのイメージセンサで取得するシステムを採用した。本実施形態の方式を、「ステレオレンズ方式」と称する。ステレオレンズ方式のシステムについて、図14を参照しながら説明する。
図14は、本実施形態の生体情報検出装置の一部を模式的に示す断面図である。図14では省略されているが、生体情報検出装置は、830nmおよび760nmの2波長の光によるドットパターンを投影する2つの光源を、例えばカメラ筐体6内に備えている。図14に示すように、光学系5は、内部に2組のレンズである光学系501、502を有する。光学系501、502は、イメージセンサ7の撮像面の異なる2つの領域にそれぞれ結像するように設計されている。光学系501、502の前方には、2つの光源の波長に対応する830nmおよび760nmの光をそれぞれ透過させる2つの狭帯域バンドパスフィルタ801、802がそれぞれ配置されている。
このような構成により、1つのイメージセンサ7を用いて同時刻の2波長の光による2つの画像を取得できる。第2制御回路23は、実施形態3~5と同様の方法で、この2つの画像から血中酸素飽和度を計算する。本実施形態によれば、1つの画像信号に、異なる2つの波長に対応する同時刻の2つの画像の情報が含まれるため、演算処理が容易になる。
このステレオレンズ方式のシステムを用いて、ストレスセンシングを行った結果について以下に説明する。特許文献4および特許文献5は、人がストレス(緊張)を感じたり集中したりすることによって発生する鼻の周辺部分の温度の低下をサーモグラフィによって検知する方法を開示している。心理的変化により鼻部の血流が低下し、それに伴って鼻部の温度低下が起こる。これをサーモグラフィにより検知する方法は一般に行われている。顔面の温度の変化は血流の変化によって生じる。血流の変化を高い精度で測定できれば、血流の変化の結果として起こる表面温度の変化を測定するよりも高い精度で応答性良くストレスセンシングが可能になる。
図15Aは、本実施形態の生体情報検出装置を用いてストレスセンシングを行った結果を示す図である。ストレスとして、右手を冷水(氷水)に入れる冷水負荷を行った。比較のために、図15Bに点線で囲んだ鼻部と頬部の温度変化をサーモグラフィを用いて測定した。図15Aは、この測定結果を示している。鼻部の温度は冷水負荷開始後、3分ほどかけて徐々に低下し、約1.2℃低下して安定した。負荷終了後、やはり3分ほどかけて温度は元に戻っていることがわかる。一方、頬部の温度は冷水負荷の影響をほとんど受けず、安定していることがわかる。
図15Cは、ステレオレンズ方式を採用した本実施形態の生体情報検出装置を用いて得られた血流量および血中酸素飽和度の変化を示す図である。顔部における血流量と酸素飽和度(SpO)のデータから、図15Bに点線で示す鼻部と頬部の領域のデータを抽出した。実線は血流量の時間変化を示し、点線は酸素飽和度(ΔSpO)の時間変化を示している。図15Cに示すように、鼻部の血流量は冷温刺激直後から低下傾向を示しており、時間応答性が高いことを示している。一方、頬部の血流量はほとんど変化していない。酸素飽和度については、鼻部では血流量の低下とともに酸素飽和度の低下も観測されたが、頬部ではほとんど変化がなかった。
本結果からわかるように、顔の異なる部位で、血流量および酸素飽和度を測定することによって多くのデータが得られる。これらのデータに基づいて、高い精度で情動(即ち感情)、体調、または集中度 の検知が可能である。自律神経系の影響による血流量の変化
は顔の部位により異なるため、カメラを用いて特定の部位の血流量の変化を測定することは特に重要である。その際、血流量の変化の少ない部位を同時に測定してリファレンスとすることで測定の精度を高めることができる。
(実施形態7)
第7の実施形態として、1台のカメラを用いて血中酸素飽和度を測定する他の方式を説明する。
図16は、本実施形態における生体情報検出装置の構成を模式的に示す断面図である。この装置は、通常のレンズである光学系5に取り付け可能なステレオアダプター10を備えている。ステレオアダプター10は、4枚のミラー151、152、153、154と、2つのバンドパスフィルタ801、802とを備えるアタッチメントである。ステレオアダプター10を用いることにより、2つの波長に対応する2つの画像をイメージセンサ7の撮像面の異なる2つの領域にそれぞれ形成することができる。この方式を、「ステレオアダプター方式」と称する。
ステレオアダプター方式では、2組の対向するミラーを用いて、2つの波長に対応する異なる2つの画像を1つのイメージセンサ7で取得することができる。図16では省略されているが、実際には830nmおよび760nmの2波長の光をそれぞれ発する2つの光源がカメラ筐体6に内蔵されている。ステレオアダプター10は光学系5の先端に装着される。2組のミラー(ミラー151、152の対と、ミラー153、154の対)は、光路を2回曲げて光学系5に導入する。光学系5とミラー151、152、153、154との間には光源の波長に対応する830nmおよび760nmの波長の光を透過させる狭帯域バンドパスフィルタ801、802が搭載されている。
この生体情報検出装置は、1つのイメージセンサ7で同時刻の2波長の画像を取得できる。基本的な考え方は、実施形態5と同様である。ステレオレンズ方式は、レンズを小型にできるため、システム全体を小型化できるというメリットがある。一方、ステレオアダプター方式では、システム全体は大型化するが、高性能なカメラレンズを使用することができ解像度を向上できること、並びに、倍率の異なるレンズおよびズームレンズを使用することができるという利点がある。システムの自由度をあげることができる点がステレオアダプター方式の利点である。
本実施形態の、カメラである生体情報検出装置を用いて人間の情動を検知するための検討を行った。実施形態5で説明したように、血流量に基づいて人間のストレス等の感情または情動を安定して検出することが可能である。人間の感情または情動の変化により、自律神経が活性化して皮膚表面の血流量が変化する。この血流量の変化によって顔色が変化する。この顔色の微妙な変化から対象人物の情動または体調を検知することを、人間は普通に行っている。名医と呼ばれる医師が患者の顔を見ただけで体調または病因を診断できるのは、患者の微妙な顔色の変化から身体の変化を見分けることができるためであると考えられている。また、感覚の鋭い人が、相手の感情を読み取る際にも微妙な表情の変化とともに、微妙な顔色の変化が重要な役割を果たしていると言われている。さらに、近年進歩の著しいゲーム、アニメーション、およびコンピュータグラフィックスの分野では、自然な印象またはリアリティを場面に与えるために、人物の顔色を微妙に変化させることについての研究が広く行われている。これらの例からわかるように、顔色は人の情動および体調を表しており、顔色を計測することで感情を読み取ろうとする検討が進められている(例えば、非特許文献2)。しかしながら、顔色から直接的に情動を計測する試みは、安定した測定が難しく実用には適さない。これは、顔色の変化に個人差があり、顔色の変化が微妙で外乱光およびカメラの影響を強く受けることから、安定した測定が困難であるためである。顔色の変化を測色以外の方法で、より安定にかつ高精度に測定する方法が求められている。
人の顔色は主として、皮膚表面(真皮)に含まれるメラニン色素の量と、血液中のヘモグロビン(酸化ヘモグロビンおよび脱酸素化(還元)ヘモグロビン)の濃度で決まることが知られている。メラニン色素は短時間では変動しないため(経年変化、日焼け等によっては変化する)、情動の変化は血流量を測定することによって安定に測定できる。本実施形態は、情動の変化を検知するために、顔色を計測するのではなく、顔色を変化させている酸素化ヘモグロビンおよび脱酸素化ヘモグロビンの血流量を直接測定する。実施形態5において説明したように、顔面の血流量の変化は部位によって異なる。これは、顔面の部位によって、自律神経系の影響の受け易さが異なるからである。例えば、鼻部には動静脈吻合血管が多く自律神経系の影響を受けやすいのに対し、前額部は皮膚血管収縮神経の影響を受けにくいといった特徴がある。本実施形態における演算回路22は、異なる複数の部位の血流量を演算によって求め、それらを比較することにより、高い精度で情動の変化を検知することが可能である。
以下、情動の変化に伴う血流量の変化の計測について説明する。図16に示すステレオアダプター方式のカメラを血流量の測定に用いた。被検者はカメラの正面に座り、顔面をカメラによって撮像した。安定した状態から、被検者は恐怖、笑い、驚き、嫌悪感等を与えるようなビデオを視聴し、被検者の顔のカラー画像を取得した。ビデオのシーンとカラー画像における表情の変化から情動の変動を読み取り、そのときの血流量の変化を測定した。血流量は、図17Aに点線で示すように、鼻部および額部について測定した。
図17Bは、笑いの感情を誘起した場合の総血流量(酸化ヘモグロビンおよび脱酸素化ヘモグロビン)の時間変化と、酸化ヘモグロビンの血流量の割合(酸素飽和度)の時間変化とを示す図である。笑いの情動変化により、血液総血流量とともに血中酸素飽和度の値も大きく変化していることがわかる。同様の検討を他の情動についても行った。結果を図18に示す。図18は、酸素飽和度を横軸に総血流量を横軸にとって、それぞれの情動変化の際に生じた血流と酸素飽和度との関係をプロットした図である。悲しみ、驚き、憂鬱、恐れ、嫌悪、怒り、集中、幸福といった笑い以外の他の情動を誘起した場合の総血流量および血中酸素飽和度の変化量を上記と同様に計算によって求めた。12人の被検者について、同じ測定を行った。図18は、12人の実験結果の平均値を示している。個人差はあるが、ほぼ全員の被検者で総血流量および血中酸素飽和度の変化は同様の傾向を示した。この結果から、情動の変化を血流量および酸素飽和度の少なくとも一方により検知することが可能であることが示された。
図17Bに示すように顔の部位によって酸素飽和度と血流量の関係は異なる。このため、顔の複数の部位の血流量と酸素飽和度とを求めることにより、より高精度に情動のセンシングを行うことができる。本実施形態について行った情動センシングの試験では、額と頬と鼻の3点の測定を行った。情動変化による酸素飽和度および血流量の変化は、額と頬と鼻とで異なっていた。このため、それぞれの部位の酸素飽和度および血流量の変化量の関係を示すテーブルをあらかじめ作成しておき、酸素飽和度と血流量の実測値と相関を計算することにより 、高精度に情動の変化を検知することが可能である。
(実施形態8)
第8の実施形態として、光学系で画像分割することなく1台のカメラを用いて血中酸素飽和度を測定する方式について説明する。実施形態3~7では、2つの波長に対応する2つの光源からの光を分割してセンシングし、酸素飽和度等の生体情報を演算によって求める方法を説明した。本実施形態の生体情報検出装置は、画像の分割を行わず、イメージセンサによって異なる波長の2つの画像信号を取得する。
図19Aは、本実施形態における生体情報検出装置の構成を模式的に示す図である。この装置は、2波長に対応する2つの画像を光学系ではなくイメージセンサ703で分離する。図19Aでは点像光源は省略されているが、実際には830nmと760nmの2波長の光をそれぞれ発する2つの光源がカメラ筐体6内に内蔵されている。カメラのレンズである光学系5の前面には、730nm以上850nm以下の波長の光を透過させるバンドパスフィルタ8が配置されている。バンドパスフィルタ8は、可視光および長波長の赤外線をカットする。バンドパスフィルタ8を透過した光は光学系5でイメージセンサ703の撮像面上に結像する。ここで用いられているイメージセンサ703は、通常のイメージセンサとは異なり、近赤外線を透過させる2種類のバンドパスフィルタを有している。
図19Bは、イメージセンサ703の撮像面上に配列された複数の光検出セルに対向する複数のフィルタを示す図である。イメージセンサ703は、680-800nmの光を選択的に透過させるフィルタIR1と、800nm以上の波長の光を選択的に透過させるフィルタIR2とを有している。フィルタIR1、IR2は、市松状に配列されている。図19Bの下の図は、フィルタIR1、IR2の透過率の波長依存性の一例を示す図である。イメージセンサ703は、2つの光源の波長である760nmおよび830nmの光による2つの画像を、複数の光検出セル(画素とも称する。)によって検出する。
第1演算回路22(図3B)は、イメージセンサ703から760nmの波長に対応する複数の光検出セルのデータと、830nmの波長に対応する複数の光検出セルのデータとを個別に読み出す。それぞれの画像について、人体領域を検出する。その後、第2演算回路23(図3B)は、図19Cに示すように、それぞれのデータにおける不足する画素のデータを補間して760nmの波長の画像と830nmの波長の画像とを生成する。第2演算回路23は、これらの2枚の画像から、血流量および酸素飽和度を計算する。これらの2枚の画像は完全に重なっているため、分割した2枚の画像から血流量と酸素飽和度を計算するのに比べて演算は簡単になる。この方法の課題は、それぞれの光源に対応したバンドパスフィルタを用いるのに比べてフィルタの遮蔽能力が低いために、光源間の混色が起こる懸念がある点である。
(実施形態9)
第9の実施形態として、画像を分割せずに2波長の光源に対応する2つの画像だけでなく、カラー画像も併せて取得可能な生体情報検出装置を説明する。
図20Aは、本実施形態における生体情報検出装置の構成を示す図である。図20Aでも点像光源は省略されているが、830nmと760nmの2波長の光をそれぞれ発する2つの光源がカメラ筐体6に内蔵されている。本実施形態ではカラー画像を取得するためにレンズである光学系5の前面にバンドパスフィルタは設けられていない。可視光およびレーザー光源の照明光は、光学系5によってイメージセンサ704の撮像面上に結像する。ここで用いられているイメージセンサ704は、通常のイメージセンサとは異なり、カラー画像を取得するための光検出セルと、近赤外画像を取得するための2種類の光検出セルとを含む。
図20Bは、イメージセンサ704の撮像面に配列された複数のバンドパスフィルタ(またはカラーフィルタ)を示す図である。図20Bの下の図は、各フィルタに対向する画素の相対感度の波長依存性を示している。図20Bに示されるように、青色、緑色、赤色の光をそれぞれ透過する3種類のカラーフィルタ(R、G、Bフィルタ)と、650nm以上の光を透過させるフィルタIR-1と、800nm以上の光を透過させるフィルタIR-2とが撮像面上に配列されている。斜め方向に隣接して2つの緑フィルタが配置され、その対角側に赤および青のフィルタが配置される配列は通常のイメージセンサのベイヤー配列と同じである。ベイヤー配列の4つのフィルタの基本単位の横に、2つのフィルタIR-1、IR-2が配置されている点が従来のイメージセンサと異なる。
実施形態8におけるフィルタIR1と、本実施形態におけるフィルタIR-1とでは、透過波長域が異なっている。実施形態8におけるフィルタIR1は、650-800nmの波長域の光を透過させる比較的狭帯域のフィルタであったのに対し、本実施形態では、650nm以上の波長域の光を透過させるフィルタを用いた。これはイメージセンサ703の製造工程を簡素化するためである。ただしこれに限られず、実施形態8に示すフィルタを用いることも可能である。本実施形態のフィルタIR-1は760nmおよび830nmの両方に感度を持つ。このため、第2演算回路23は、フィルタIR-1に対向する光検出セルの信号からフィルタIR-2に対向する光検出セルの信号を引いて760nmに相当する信号を計算した上で血中酸素飽和度を求める。これにより、図20Cに示すように、イメージセンサ704から、赤・青・緑の画像(カラー画像)と、760nm、830nmの各波長の画像とが求められる。
この方式では、実施形態8に比べてもさらに混色が発生し易い。しかし、簡単な1台のカメラを用いたシステムでカラー画像と血流量および血中酸素飽和度の情報とを同時に得ることができる。本システムの利点は、1台のカメラで可視画像および近赤外画像を取得するため、視差のない可視画像および近赤外画像を取得できる点である。これは可視画像と近赤外画像とを重ね合わせて表示するような用途では特に有効である。
ここでは、赤外域の2波長および可視域の3波長(赤、青、緑)の5波長に対応するマルチスペクトルセンサーを用いた生体情報センシングカメラの構成例について述べた。実施形態1で説明した人体検知方式のカメラであれば、赤外域1波長および可視域3波長(赤、青、緑)の4波長の計測でカラー撮像と人体検知が可能となる。このような用途には、例えば図20Dに示される、4波長に対応した4種類のカラーフィルタを有するマルチスペクトルセンサーを利用できる。カラーフィルタはイメージセンサで通常用いられるベイヤー配列の2つの緑画素のうちの1つの画素に近赤外(IR)画素を割り付けている。ここでは850nmの近赤外照明を点灯するシステムに対応するカメラを想定し、近赤外フィルタとしては、850nmを選択的に透過するようなフィルタを選択した。このようなカメラを用いることにより、1台のカメラシステムで通常のカラーカメラと生体検知カメラとを兼用することが可能となる。監視カメラが1台で済み、人体を検知した部分のカラー画像を切り出すことも2台のカメラを用いるよりも容易になる。ここでは850nmに対応したカラーフィルタを用いたが、用いる近赤外光源に応じて近赤外フィルタを変更することが可能である。
(他の実施形態)
以上、本開示の実施形態を例示したが、本開示は上記の実施形態に限定されず、多様な変形が可能である。上述した各実施形態について説明した処理は、他の実施形態においても適用できる場合がある。以下、他の実施形態の例を説明する。
以上の実施形態では、配列点像光源にレーザー光源を用いているが、他の種類の光源を用いてもよい。例えば、より安価なLED光源を用いることも可能である。ただし、レーザー光源に比べてLED光源は直進性が低く広がりやすい。このため、LED光源を用いる場合、専用の集光光学系を用いるか、撮像対象物とカメラとの距離を制約してもよい。
生体情報検出装置は、光学系の焦点を調整する調整機構を備えていてもよい。そのような調整機構は、例えば不図示のモータおよび図3Bに示す制御回路26によって実現され得る。そのような調整機構は、光源によって対象物に投影されるドットパターンの像のコントラストを最大にするように光学系の焦点を調整する。これにより、実施形態1において説明したコントラストの計算の精度が向上する。
第1演算回路22は、イメージセンサから出力された画像信号を用いて生体領域を検出する。その際、画像内に複数の生体領域(別人あるいは同人物の顔と手の領域)が検知された場合、その検知領域の大きさまたは形状に基づいて検出すべき生体領域を決定しても良い。
第2演算回路23は、画像信号に基づいて、メラニン色素の濃度、しみの有無、あざの有無の少なくとも1つを含む表皮内の情報を生成してもよい。前述のように、表皮は光を強く吸収するメラニン色素を含む。しみおよびあざは、メラニン色素の増加によって生じる。したがって、生体の表面からの光の強度分布に基づいてメラニン色素の濃度、しみ、あざを検出することができる。第2演算回路23は、例えば、画像信号から、生体の表面からの直接反射光成分を抽出し、この直接反射光成分に基づいて、メラニン色素の濃度、しみの有無、あざの有無の少なくとも1つを含む表皮内の情報を生成してもよい。直接反射光成分は、例えば実施形態1におけるコントラストが所定の閾値を超えたか否か、または、画像信号における低周波成分を除去することによって得ることができる。
本開示では、2台のカメラを用いるダブルカメラ方式(図8)、二組の光学系と二組のイメージセンサが一台のカメラに搭載されたステレオカメラ方式(図13)、二組のレンズと一つのイメージセンサを用いるステレオレンズ方式(図14)、レンズアダプタを用いて一つのレンズと一つのイメージセンサを用いるステレオアダプター方式(図16)、イメージセンサを用いて画像を分割する方式(図19A、図20A)を説明した。既に述べたようにそれぞれの方式には利点と欠点があるため、用途に応じて最適な方式を選択することができる。
以上説明したように、本開示の実施形態によれば、被検者を拘束せず、かつセンサ等の検出装置を被検者に接触させることなく、心拍数および血流量だけでなく血中酸素飽和度も測定することができる。被検者の異なる部位の血流量および酸素飽和度の測定値から、被検者の情動または体調を推定することもできる。
本開示の生体情報検出装置は、例えば、被検者の心拍数、血流量、血圧、血中酸素飽和度、情動、および体調等の生体情報を検出する用途に有用である。
1、101、102 光源
2、201、202 撮像装置
3 生体
4 生体表面
5、501、502 光学系
6 カメラ筐体
7、701、702、703、704 イメージセンサ
8、801、802 バンドパスフィルタ
901、902、151、152、153、154 ミラー
11 シャッターボタン
15 筐体
16 フィルタ
20 コンピュ-タ
21 入力インタフェース
22 第1演算回路
23 第2演算回路
24 出力インタフェース
25 メモリ
26 制御回路
27 ディスプレイ
31 毛細血管
32 細動静脈
33 表皮
34 真皮
35 皮下組織
L0 光源からの光
L1 表面反射光
L2 体内散乱光

Claims (26)

  1. 第1の光による複数の第1のドットを、生体を含む対象物に投影する第1の光源と、
    前記複数の第1のドットが投影された前記対象物からの第2の光を検出する複数の第1の光検出セルを含み、前記複数の第1のドットが投影された前記対象物の第1の画像を示す第1の画像信号を生成して出力する撮像装置と、
    少なくとも1つの回路と、
    を備え、
    前記第1の画像は複数の画素を含み、
    前記第2の光は、前記生体の表面の、前記複数の第1のドットのうち少なくとも1つの第1のドットが投影された位置からの直接反射光である第3の光と、前記複数の第1のドットが投影された位置と異なる位置からの散乱光である、前記生体からの第4の光とを含み、
    前記少なくとも1つの回路は、
    前記第1の画像信号を用いて、前記第1の画像のうち、前記生体に対応する第1部分を検出し、
    前記第1部分内の画素のうち、前記生体からの前記第4の光に対応する画素を抽出し、前記4の光に対応する画素のデータを用いて、前記生体に関する生体情報を算出する、生体情報検出装置。
  2. 前記第1の光は、650nm以上950nm以下の波長の光を含む、
    請求項1に記載の生体情報検出装置。
  3. 前記生体情報は、前記生体の心拍数、前記生体の血圧、前記生体の血流量、および前記生体の血中酸素飽和度、前記生体の皮膚におけるメラニン色素の濃度、前記生体の皮膚におけるしみの有無、および前記生体の皮膚におけるあざの有無からなる群から選択される少なくとも1つを含む、
    請求項1または2に記載の生体情報検出装置。
  4. 前記撮像装置は、
    前記第2の光を透過させる第1のバンドパスフィルタと、
    前記複数の第1の光検出セルが配置された撮像面を有し、前記第1のバンドパスフィル
    タを透過した光が前記撮像面に入射するイメージセンサと、
    をさらに含む、
    請求項1から3のいずれかに記載の生体情報検出装置。
  5. 前記少なくとも1つの回路は、前記画素のデータの少なくとも一部にローパスフィルタリング処理を施して得られる値の時間変化を用いて、前記生体の心拍数、前記生体の血圧、および前記生体の血流量からなる群から選択される少なくとも1つを前記生体情報として算出する、
    請求項1から4のいずれかに記載の生体情報検出装置。
  6. 前記第1の光源は、レーザー光源である、
    請求項1から5のいずれかに記載の生体情報検出装置。
  7. 前記撮像装置は、
    前記複数の第1の光検出セルが配置された撮像面を有するイメージセンサと、
    前記撮像面に前記第1の画像を形成する光学系と、
    前記光学系の焦点を調整する調整機構と、
    をさらに含み、
    前記調整機構は、前記焦点を調整することにより、前記第1の画像のコントラストを最大にする、
    請求項1から6のいずれかに記載の生体情報検出装置。
  8. 前記少なくとも1つの回路は、前記第1の画像信号を用いて、前記第1の画像に前記生体の額、鼻、口、眉毛、および毛髪からなる群から選択される少なくとも1つが含まれているか否かを決定し、
    前記第1の画像に前記生体の額、鼻、口、眉毛、および毛髪からなる群から選択される前記少なくとも1つが含まれていると決定されたとき、
    前記少なくとも1つの回路は、前記生体に関する生体情報を算出する、
    請求項1から7のいずれかに記載の生体情報検出装置。
  9. 前記少なくとも1つの回路は、さらに、前記複数の画素のうち、前記第1の画像の前記第1部分と異なる第2部分内の画素のデータを用いて、前記生体に関する他の生体情報を算出する、
    請求項1から8のいずれかに記載の生体情報検出装置。
  10. 前記少なくとも1つの回路は、さらに、第1の時刻における、前記第1の画像内の前記第1部分の位置と、第2の時刻における、前記第1の画像内の前記第1部分の位置とを比較することにより、前記生体が動いたか否かを決定する、
    請求項1から8のいずれかに記載の生体情報検出装置。
  11. 前記少なくとも1つの回路は、
    前記生体情報に基づき、前記生体の異常を検知し、
    前記生体の異常を検知した場合に、警報を示す情報を出力する、
    請求項1から10のいずれかに記載の生体情報検出装置。
  12. 前記生体情報は、前記生体の脈動に関する情報を含む、
    請求項11に記載の生体情報検出装置。
  13. 前記少なくとも1つの回路は、前記生体に投影された前記複数の第1のドットの位置に基づき、前記生体の奥行情報を生成する、
    請求項1から12のいずれかに記載の生体情報検出装置。
  14. 前記少なくとも1つの回路は、
    前記第1部分内の画素のうち、前記第3の光に対応する画素のデータを除去する、請求項1に記載の生体情報検出装置。
  15. 前記少なくとも1つの回路は、
    前記第1部分内の画素のうち、所定の閾値よりも高い画素値を有する画素のデータを除去する、請求項14に記載の生体情報検出装置。
  16. 前記少なくとも1つの回路は、
    前記第1部分内の画素の画素値に応じて、前記所定の閾値を決定する、請求項15に記載の生体情報検出装置。
  17. 第1の光による複数の第1のドットを、生体を含む対象物に投影する第1の光源と、
    第6の光による複数の第2のドットを、前記対象物に投影する第2の光源と、
    前記複数の第1のドットが投影された前記対象物からの第2の光を検出する複数の第1の光検出セル、および前記複数の第2のドットが投影された前記対象物からの第5の光を検出する複数の第2の光検出セルを含み、前記複数の第1のドットが投影された前記対象物の第1の画像を示す第1の画像信号、および前記複数の第2のドットが投影された前記対象物の第2の画像を示す第2の画像信号を生成して出力する撮像装置と、
    少なくとも1つの回路と、
    を備え、
    前記第1の光は、650nm以上800nm以下の波長の光を含み、
    前記第6の光は、800nm以上950nm以下の波長の光を含み、
    前記第1の画像は複数の画素を含み、
    前記少なくとも1つの回路は、
    前記複数の画素に対応する第1の画像信号の強度の標準偏差と平均値の比を用いて、前記第1の画像のうち、前記生体に対応する第1部分を検出し、
    前記複数の画素のうち、前記第1の画像の前記第1部分内の画素のデータを用いて、前記生体に関する生体情報を算出する、生体情報検出装置。
  18. 前記撮像装置は、
    前記複数の第1の光検出セルが配置された第1の領域と、前記複数の第2の光検出セルが配置された第2の領域とに分割された撮像面を有するイメージセンサと、
    前記第1の領域に前記第1の画像を形成する第1の光学系と、
    前記第2の領域に前記第2の画像を形成する第2の光学系と、
    をさらに含む、
    請求項17に記載の生体情報検出装置。
  19. 前記撮像装置は、
    前記第2の光の経路上に配置され、前記第2の光を透過させる第1のバンドパスフィルタと、
    前記第5の光の経路上に配置され、前記第5の光を透過させる第2のバンドパスフィルタと、
    をさらに含む、
    請求項18に記載の生体情報検出装置。
  20. 前記撮像装置は、
    前記複数の第1の光検出セルおよび前記複数の第2の光検出セルが配置された撮像面と

    前記複数の第1の光検出セルに対向し前記第2の光を透過させる複数の第1のバンドパスフィルタと、
    前記複数の第2の光検出セルに対向し前記第5の光を透過させる複数の第2のバンドパスフィルタと、を含むイメージセンサと、
    前記撮像面に前記第1の画像および前記第2の画像を形成する光学系と、
    をさらに含む、
    請求項17に記載の生体情報検出装置。
  21. 前記撮像装置は、
    前記複数の第1の光検出セル、前記複数の第2の光検出セル、および複数の第3の光検出セルが配置された撮像面と、
    前記複数の第1の光検出セルに対向し前記第2の光を透過させる複数の第1のバンドパスフィルタと、
    前記複数の第2の光検出セルに対向し前記第5の光を透過させる複数の第2のバンドパスフィルタと、
    前記複数の第3の光検出セルに対向し可視光を透過させる複数の第3のバンドパスフィルタと、を含むイメージセンサと、
    前記撮像面に前記第1の画像および前記第2の画像を形成する光学系と、
    をさらに含み、
    前記複数の第3のバンドパスフィルタは、互いに透過波長域の異なる複数の色フィルタを含み、
    前記イメージセンサは、前記複数の第3の光検出セルを用いてカラー画像信号を生成して出力する、
    請求項17に記載の生体情報検出装置。
  22. 前記少なくとも1つの回路は、前記第1の画像信号および前記第2の画像信号を用いて、前記生体の血中酸素飽和度を示す情報を算出する、
    請求項17から21のいずれかに記載の生体情報検出装置。
  23. 前記少なくとも1つの回路は、
    前記第1の画像信号および前記第2の画像信号を用いて、前記生体の血流量および前記生体の血中酸素飽和度を算出し、
    前記生体の血流量および前記生体の血中酸素飽和度を用いて、前記生体の体調、感情、および集中度からなる群から選択される少なくとも1つを示す情報を生成する、
    請求項17から21のいずれかに記載の生体情報検出装置。
  24. 前記第1の画像および前記第2の画像に、前記生体の額および鼻からなる群から選択される少なくとも1つが含まれるとき、
    前記少なくとも1つの回路は、前記第1の画像信号および前記第2の画像信号を用いて、前記額および前記鼻からなる群から選択される前記少なくとも1つにおける血流量の時間変化および血中酸素飽和度の時間変化を算出し、
    前記血流量の時間変化および前記血中酸素飽和度の時間変化を用いて、前記生体の体調、感情、および集中度からなる群から選択される少なくとも1つを示す情報を生成する、
    請求項17から21のいずれかに記載の生体情報検出装置。
  25. 前記第1の画像および前記第2の画像に、前記生体の額および鼻が含まれるとき、
    前記少なくとも1つの回路は、前記第1の画像信号および前記第2の画像信号を用いて、前記額における血流量の時間変化および血中酸素飽和度の時間変化、並びに前記鼻における血流量の時間変化および血中酸素飽和度の時間変化を算出し、
    前記額における前記血流量の時間変化および前記血中酸素飽和度の時間変化と、前記鼻における前記血流量の時間変化および前記血中酸素飽和度の時間変化との比較に基づいて、前記生体の体調、感情、および集中度からなる群から選択される少なくとも1つを示す情報を生成する、
    請求項17から21のいずれかに記載の生体情報検出装置。
  26. 生体情報検出装置においてコンピュータによって実行される処理方法であって、
    前記生体情報検出装置は、
    第1の光による複数の第1のドットを、生体を含む対象物に投影する第1の光源と、
    前記複数の第1のドットが投影された前記対象物からの第2の光を検出する複数の第1の光検出セルを含み、前記複数の第1のドットが投影された前記対象物の第1の画像を示す第1の画像信号を生成して出力する撮像装置と、
    を備え、
    前記第1の画像は複数の画素を含み、
    前記第2の光は、前記生体の表面の、前記複数の第1のドットのうち少なくとも1つの第1のドットが投影された位置からの直接反射光である第3の光と、前記複数の第1のドットが投影された位置と異なる位置からの散乱光である、前記生体からの第4の光とを含み、
    前記処理方法は、
    前記第1の画像信号を用いて、前記第1の画像のうち、前記生体に対応する第1部分を検出することと、
    前記第1部分内の画素のうち、前記生体からの前記第4の光に対応する画素を抽出し、前記第4の光に対応する画素のデータを用いて、前記生体に関する生体情報を算出することと、
    を含む、処理方法。
JP2017110918A 2016-06-30 2017-06-05 生体情報検出装置 Active JP7203314B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2022198302A JP7450167B2 (ja) 2016-06-30 2022-12-13 生体情報検出装置
JP2024022908A JP2024054367A (ja) 2016-06-30 2024-02-19 生体情報検出装置

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2016130137 2016-06-30
JP2016130137 2016-06-30

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022198302A Division JP7450167B2 (ja) 2016-06-30 2022-12-13 生体情報検出装置

Publications (3)

Publication Number Publication Date
JP2018008039A JP2018008039A (ja) 2018-01-18
JP2018008039A5 JP2018008039A5 (ja) 2020-08-13
JP7203314B2 true JP7203314B2 (ja) 2023-01-13

Family

ID=60806240

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2017110918A Active JP7203314B2 (ja) 2016-06-30 2017-06-05 生体情報検出装置
JP2022198302A Active JP7450167B2 (ja) 2016-06-30 2022-12-13 生体情報検出装置
JP2024022908A Pending JP2024054367A (ja) 2016-06-30 2024-02-19 生体情報検出装置

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2022198302A Active JP7450167B2 (ja) 2016-06-30 2022-12-13 生体情報検出装置
JP2024022908A Pending JP2024054367A (ja) 2016-06-30 2024-02-19 生体情報検出装置

Country Status (3)

Country Link
US (4) US10653328B2 (ja)
JP (3) JP7203314B2 (ja)
CN (2) CN107550474A (ja)

Families Citing this family (46)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9443298B2 (en) 2012-03-02 2016-09-13 Authentect, Inc. Digital fingerprinting object authentication and anti-counterfeiting system
US20220091578A1 (en) * 2012-03-02 2022-03-24 Alitheon, Inc. Additive manufacturing part authentication system and method
US10037537B2 (en) 2016-02-19 2018-07-31 Alitheon, Inc. Personal history in track and trace system
US10740767B2 (en) 2016-06-28 2020-08-11 Alitheon, Inc. Centralized databases storing digital fingerprints of objects for collaborative authentication
US10915612B2 (en) 2016-07-05 2021-02-09 Alitheon, Inc. Authenticated production
US10839528B2 (en) 2016-08-19 2020-11-17 Alitheon, Inc. Authentication-based tracking
US10210320B2 (en) * 2016-09-21 2019-02-19 Lextron Systems, Inc. System and method for secure 5-D user identification
WO2018088358A1 (ja) * 2016-11-10 2018-05-17 シャープ株式会社 脈波検出装置、画像解析装置および生体情報生成システム
US10159435B1 (en) * 2017-09-29 2018-12-25 Novelic D.O.O. Emotion sensor system
JP2021014988A (ja) * 2017-10-25 2021-02-12 パナソニックIpマネジメント株式会社 計測装置
US10533858B2 (en) * 2017-11-06 2020-01-14 International Business Machines Corporation Automated emergency response
US11087013B2 (en) 2018-01-22 2021-08-10 Alitheon, Inc. Secure digital fingerprint key object database
WO2019176535A1 (ja) * 2018-03-15 2019-09-19 パナソニックIpマネジメント株式会社 ユーザの心理状態を推定するためのシステム、記録媒体、および方法
JP7091763B2 (ja) * 2018-03-23 2022-06-28 富士フイルムビジネスイノベーション株式会社 生体情報測定装置、及び生体情報測定プログラム
TWI658815B (zh) * 2018-04-25 2019-05-11 國立交通大學 非接觸式心跳量測系統、非接觸式心跳量測方法以及非接觸式心跳量測裝置
CN108392189A (zh) * 2018-05-14 2018-08-14 王庆亚 基于激光扫描三维动态轮廓测量技术的全息脉诊仪
JP6869205B2 (ja) * 2018-05-15 2021-05-12 Kddi株式会社 生体の拍動を検出する生体情報検出装置、プログラム及び方法
JP7229676B2 (ja) * 2018-05-21 2023-02-28 株式会社日立製作所 生体情報検出装置および生体情報検出方法
WO2019230306A1 (ja) * 2018-05-30 2019-12-05 パナソニックIpマネジメント株式会社 識別装置および識別方法
CN110604582B (zh) * 2018-06-15 2022-05-03 中国科学院国家空间科学中心 一种氧饱和度分布检测仪及检测方法
US10609361B2 (en) * 2018-06-29 2020-03-31 Semiconductor Components Industries, Llc Imaging systems with depth detection
CN108921098B (zh) * 2018-07-03 2020-08-18 百度在线网络技术(北京)有限公司 人体运动分析方法、装置、设备及存储介质
SG10201807508YA (en) * 2018-08-31 2020-03-30 Nec Asia Pacific Pte Ltd Methods and systems for grouping same persons
CN112912713B (zh) * 2018-10-30 2023-08-01 夏普株式会社 系数确定装置、色素浓度计算装置以及系数确定方法
CN113167722A (zh) 2018-11-06 2021-07-23 索尼集团公司 信息处理装置、信息处理方法和程序
US10963670B2 (en) 2019-02-06 2021-03-30 Alitheon, Inc. Object change detection and measurement using digital fingerprints
EP3703073A1 (en) * 2019-03-01 2020-09-02 Koninklijke Philips N.V. A projection and measurement system
EP3736717A1 (en) 2019-05-10 2020-11-11 Alitheon, Inc. Loop chain digital fingerprint method and system
CN110309794B (zh) * 2019-07-04 2021-05-25 北京集创北方科技股份有限公司 生物特征采集方法、特征采集设备及计算机可读存储介质
JP7323787B2 (ja) * 2019-07-31 2023-08-09 日亜化学工業株式会社 照明装置及び赤外線カメラ付き照明装置
US11238146B2 (en) 2019-10-17 2022-02-01 Alitheon, Inc. Securing composite objects using digital fingerprints
JP7340801B2 (ja) * 2019-10-31 2023-09-08 パナソニックIpマネジメント株式会社 バイタルデータ出力方法、バイタルデータ出力装置およびバイタルセンシングシステム
JP7443044B2 (ja) * 2019-12-13 2024-03-05 シャープ株式会社 生体情報取得装置、端末装置、生体情報取得方法、生体情報取得プログラム、及びコンピュータ読み取り可能な記録媒体
EP3838115A1 (en) * 2019-12-19 2021-06-23 Koninklijke Philips N.V. Device, system and method for determining a vital sign of a subject
KR20210079608A (ko) 2019-12-20 2021-06-30 삼성전자주식회사 맥파 센싱 모듈 및 이를 구비하는 장치
EP3859603A1 (en) 2020-01-28 2021-08-04 Alitheon, Inc. Depth-based digital fingerprinting
JP2021132726A (ja) * 2020-02-25 2021-09-13 シャープ株式会社 生体情報処理装置、および、生体情報処理方法
EP3885984A1 (en) 2020-03-23 2021-09-29 Alitheon, Inc. Facial biometrics system and method of using digital fingerprints
EP3929806A3 (en) 2020-04-06 2022-03-09 Alitheon, Inc. Local encoding of intrinsic authentication data
CN111626127A (zh) * 2020-04-26 2020-09-04 杨铭轲 基于人脸图像的用户信息获取方法、装置和计算机设备
US11423639B2 (en) * 2020-07-31 2022-08-23 Ford Global Technologies, Llc Hidden camera detection systems and methods
CN112013786A (zh) * 2020-09-01 2020-12-01 三一重工股份有限公司 一种大视场深度相机及三维信息探测方法
JP7314893B2 (ja) * 2020-09-23 2023-07-26 カシオ計算機株式会社 電子装置、電子装置の制御プログラム及び電子装置の制御方法
CN114676403A (zh) * 2020-12-24 2022-06-28 华为云计算技术有限公司 认证系统、设备及方法
SE2130200A1 (en) * 2021-07-16 2023-01-17 Rths Ab A sensing arrangement for obtaining data from a body part
CN114333238A (zh) * 2021-12-30 2022-04-12 广东省第二人民医院(广东省卫生应急医院) 一种基于5g的紧急救援通信系统

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001153796A (ja) 1999-11-25 2001-06-08 Shimadzu Corp 光生体測定装置
JP2005095317A (ja) 2003-09-24 2005-04-14 Hitachi Ltd 光学測定装置及びそれを用いた血糖値測定装置
JP2007050144A (ja) 2005-08-19 2007-03-01 Muroran Institute Of Technology 自律神経活動評価装置
JP2007206875A (ja) 2006-01-31 2007-08-16 Secom Co Ltd 指紋画像生成装置
JP2009511094A (ja) 2005-09-01 2009-03-19 ルミダイム インコーポレイテッド バイオメトリックセンサ
JP2011142967A (ja) 2010-01-12 2011-07-28 Nihon Univ ストレス状態測定装置
WO2014017566A1 (ja) 2012-07-24 2014-01-30 公立大学法人広島市立大学 心拍計測方法および装置
JP2014099065A (ja) 2012-11-14 2014-05-29 Fujitsu Ltd 画像処理装置、画像処理システム、画像処理方法及びプログラム
JP2014527863A (ja) 2011-08-22 2014-10-23 アイシス イノヴェイション リミテッド バイタルサインのリモートモニタリング
JP2015523132A (ja) 2012-06-12 2015-08-13 コーニンクレッカ フィリップス エヌ ヴェ カメラによる生命徴候測定システム
US20160155006A1 (en) 2014-12-01 2016-06-02 Koninklijke Philips N.V. Device and method for skin detection
JP2016007300A5 (ja) 2014-06-24 2017-07-20

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2868192B2 (ja) 1991-07-30 1999-03-10 学校法人帝京平成大学 人の心理的変化の推定方法及び装置
JP3738335B2 (ja) * 1997-09-30 2006-01-25 コーリンメディカルテクノロジー株式会社 末梢循環状態測定装置
ES2312220T3 (es) 1998-11-18 2009-02-16 Lea Medizintechnik Gmbh Dispositivo para la determinacion no invasiva de la conversion de oxigeno en tejidos.
JP2002042280A (ja) 2000-07-27 2002-02-08 Seiko Precision Inc 自動緊急警報装置及び自動緊急警報出力方法
JP3877959B2 (ja) 2000-12-28 2007-02-07 花王株式会社 肌色測定装置および肌画像処理装置
JP2003123162A (ja) 2001-10-18 2003-04-25 Noritz Corp 人体検出装置
JP3471788B1 (ja) 2002-11-21 2003-12-02 清水 公也 酸素飽和度測定装置
US7545963B2 (en) 2003-04-04 2009-06-09 Lumidigm, Inc. Texture-biometrics sensor
JP2005218507A (ja) 2004-02-03 2005-08-18 Tama Tlo Kk バイタルサイン計測方法と装置
EP1835845A4 (en) * 2004-12-28 2008-09-10 Hypermed Inc HYPERSPECTRAL / MULTISPECTRAL IMAGERY FOR THE DETERMINATION, EVALUATION AND MONITORING OF SYSTEMIC PHYSIOLOGY OR IMPACT CONDITIONS
JP5077929B2 (ja) 2007-03-23 2012-11-21 独立行政法人海上技術安全研究所 緊張度計測用熱源支持装置
CN201822858U (zh) * 2010-02-24 2011-05-11 武汉一海数字工程有限公司 双光源双探头乳腺血氧功能成像系统
JP5682504B2 (ja) 2010-09-09 2015-03-11 コニカミノルタ株式会社 安否監視装置
CN201822358U (zh) 2010-09-16 2011-05-11 沈阳师范大学 便携式空气坐垫
WO2012143977A1 (ja) * 2011-04-22 2012-10-26 株式会社日立製作所 血管画像撮影装置及び生体認証装置
DE102011052002B4 (de) * 2011-07-20 2013-04-11 Telesto GmbH Lasertherapiesystem mit UVA- und IR-Laser-Licht zur gerichteten Erzeugung einer dermalen Kollagen-Matrix
US9566301B2 (en) * 2012-03-29 2017-02-14 Cxl Ophthalmics, Llc Compositions and methods for treating or preventing diseases associated with oxidative stress
JP2014067193A (ja) * 2012-09-25 2014-04-17 Canon Inc 画像処理装置および画像処理方法
JP6476603B2 (ja) 2014-06-16 2019-03-06 株式会社リコー 光学センサ、光学検査装置、および内部特性推定方法
JP2016007300A (ja) * 2014-06-24 2016-01-18 株式会社日立メディコ 生体光計測装置及び生体光計測方法
US9968285B2 (en) 2014-07-25 2018-05-15 Christie Digital Systems Usa, Inc. Multispectral medical imaging devices and methods thereof
EP3188650B1 (en) * 2014-09-05 2021-07-21 Lakeland Ventures Development, LLC Method and apparatus for the continous estimation of human blood pressure using video images
DE102014017197B4 (de) * 2014-11-21 2016-06-09 Markus Depfenhart Therapiesystem zur gerichteten transkutanen Rekonstruktion des Hautskeletts
CN112932416A (zh) * 2015-06-04 2021-06-11 松下知识产权经营株式会社 生物体信息检测装置及生物体信息检测方法
US20170119287A1 (en) * 2015-07-24 2017-05-04 Johnson & Johnson Vision Care, Inc. Quantum-dot spectrometers for use in biomedical devices and methods of use
CN105520724A (zh) * 2016-02-26 2016-04-27 严定远 一种测量人体心跳速率和呼吸频率的方法

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001153796A (ja) 1999-11-25 2001-06-08 Shimadzu Corp 光生体測定装置
JP2005095317A (ja) 2003-09-24 2005-04-14 Hitachi Ltd 光学測定装置及びそれを用いた血糖値測定装置
JP2007050144A (ja) 2005-08-19 2007-03-01 Muroran Institute Of Technology 自律神経活動評価装置
JP2009511094A (ja) 2005-09-01 2009-03-19 ルミダイム インコーポレイテッド バイオメトリックセンサ
JP2007206875A (ja) 2006-01-31 2007-08-16 Secom Co Ltd 指紋画像生成装置
JP2011142967A (ja) 2010-01-12 2011-07-28 Nihon Univ ストレス状態測定装置
JP2014527863A (ja) 2011-08-22 2014-10-23 アイシス イノヴェイション リミテッド バイタルサインのリモートモニタリング
JP2015523132A (ja) 2012-06-12 2015-08-13 コーニンクレッカ フィリップス エヌ ヴェ カメラによる生命徴候測定システム
WO2014017566A1 (ja) 2012-07-24 2014-01-30 公立大学法人広島市立大学 心拍計測方法および装置
JP2014099065A (ja) 2012-11-14 2014-05-29 Fujitsu Ltd 画像処理装置、画像処理システム、画像処理方法及びプログラム
JP2016007300A5 (ja) 2014-06-24 2017-07-20
US20160155006A1 (en) 2014-12-01 2016-06-02 Koninklijke Philips N.V. Device and method for skin detection

Also Published As

Publication number Publication date
CN114795151A (zh) 2022-07-29
US20230346238A1 (en) 2023-11-02
JP2024054367A (ja) 2024-04-16
US20200237238A1 (en) 2020-07-30
US20210169353A1 (en) 2021-06-10
CN107550474A (zh) 2018-01-09
US10959628B2 (en) 2021-03-30
JP2023036691A (ja) 2023-03-14
US11730383B2 (en) 2023-08-22
US20180000359A1 (en) 2018-01-04
JP7450167B2 (ja) 2024-03-15
US10653328B2 (en) 2020-05-19
JP2018008039A (ja) 2018-01-18

Similar Documents

Publication Publication Date Title
JP7450167B2 (ja) 生体情報検出装置
JP7336696B2 (ja) 生体情報検出装置
US20210264598A1 (en) Human detection device equipped with light source projecting at least one dot onto living body
CN111148469B (zh) 生物体计测装置、生物体计测方法及判定装置
US10575764B2 (en) System and method for extracting physiological information from remotely detected electromagnetic radiation
EP2748743B1 (en) Data administration system and method
US20210224983A1 (en) System and Method for Remote Measurements of Vital Signs of a Person in a Volatile Environment
Cobos-Torres et al. Simple measurement of pulse oximetry using a standard color camera
Mitsuhashi et al. Noncontact pulse wave detection by two-band infrared video-based measurement on face without visible lighting
CN116568214A (zh) 使用光谱传感器系统进行健康分析

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200527

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200527

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210325

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210406

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210603

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220124

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220531

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220728

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221115

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221213

R151 Written notification of patent or utility model registration

Ref document number: 7203314

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151