JP6462594B2 - 撮像装置、画像処理装置および画像処理方法 - Google Patents

撮像装置、画像処理装置および画像処理方法 Download PDF

Info

Publication number
JP6462594B2
JP6462594B2 JP2015560119A JP2015560119A JP6462594B2 JP 6462594 B2 JP6462594 B2 JP 6462594B2 JP 2015560119 A JP2015560119 A JP 2015560119A JP 2015560119 A JP2015560119 A JP 2015560119A JP 6462594 B2 JP6462594 B2 JP 6462594B2
Authority
JP
Japan
Prior art keywords
visible light
vital information
subject
filter
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015560119A
Other languages
English (en)
Other versions
JPWO2016174778A1 (ja
Inventor
和徳 吉崎
和徳 吉崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2016174778A1 publication Critical patent/JPWO2016174778A1/ja
Application granted granted Critical
Publication of JP6462594B2 publication Critical patent/JP6462594B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024Detecting, measuring or recording pulse rate or heart rate
    • A61B5/02416Detecting, measuring or recording pulse rate or heart rate using photoplethysmograph signals, e.g. generated by infrared radiation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/0205Simultaneously evaluating both cardiovascular conditions and different types of body conditions, e.g. heart and respiratory condition
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/44Detecting, measuring or recording for evaluating the integumentary system, e.g. skin, hair or nails
    • A61B5/441Skin evaluation, e.g. for skin disorder diagnosis
    • A61B5/443Evaluating skin constituents, e.g. elastin, melanin, water
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/48Other medical applications
    • A61B5/4884Other medical applications inducing physiological or psychological stress, e.g. applications for stress testing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/48Other medical applications
    • A61B5/4887Locating particular structures in or on the body
    • A61B5/489Blood vessels
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7271Specific aspects of physiological measurement analysis
    • A61B5/7278Artificial waveform generation or derivation, e.g. synthesising signals from measured signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/11Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00186Optical arrangements with imaging filters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/021Measuring pressure in heart or blood vessels
    • A61B5/0215Measuring pressure in heart or blood vessels by means inserted into the body
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024Detecting, measuring or recording pulse rate or heart rate
    • A61B5/02405Determining heart rate variability
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/145Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue
    • A61B5/14542Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue for measuring blood gases

Description

本発明は、被写体を撮像し、該被写体のバイタル情報を検出するために用いる画像データを生成する撮像装置、画像処理装置および画像処理方法に関する。
従来、医療分野および健康分野において、人間の健康状態を把握するための情報として、心拍数、酸素飽和度および血圧等のバイタル情報を用いて、被写体の健康状態を把握している。例えば、赤色の光および近赤外の光それぞれを照射する測定プローブ内に指等の生体を接触させた状態でイメージセンサによって撮像し、このイメージセンサによって生成された画像データに基づいて、生体の酸素飽和度を算出する技術が知られている(特許文献1参照)。この技術によれば、イメージセンサによって生成された画像データに応じて算出した生体による光の吸収度合いと、この光の吸収度合いの時間変化とに基づいて、生体の酸素飽和度を算出する。
特開2013−118978号公報
しかしながら、上述した特許文献1では、生体が測定プローブに接触した状態でなければ、生体のバイタル情報を得ることができなかった。
本発明は、上記に鑑みてなされたものであって、生体と非接触状態であっても、その生体のバイタル情報を得ることができる撮像装置、画像処理装置および画像処理方法を提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明に係る撮像装置は、被写体のバイタル情報を検出するための画像データを生成する撮像装置であって、二次元状に配置された複数の画素がそれぞれ受光した光を光電変換することによって前記画像データを生成する撮像素子と、可視光帯域内における透過スペクトルの最大値が互いに異なる複数の可視光フィルタと、前記可視光帯域より長波長側の非可視光領域に透過スペクトルの最大値を有する非可視光フィルタと、を含むユニットを、前記複数の画素に対応させて配置したフィルタアレイと、前記撮像素子が生成した前記画像データに対応する画像に対して、前記被写体の部分領域を検出する部分領域検出部と、前記部分領域検出部が検出した前記部分領域に対応する前記撮像素子の撮像領域における画素のうち前記非可視光フィルタが配置された画素によって出力された画像信号に基づいて、前記被写体のバイタル情報を生成するバイタル情報生成部と、を備えたことを特徴とする。
また、本発明に係る撮像装置は、上記発明において、前記非可視光フィルタの数は、前記複数の可視光フィルタの各々の数より少ないことを特徴とする。
また、本発明に係る撮像装置は、上記発明において、前記フィルタアレイの受光面に配置され、前記複数の可視光フィルタそれぞれの透過スペクトルの最大値を含む第1波長帯域および前記非可視光フィルタの透過スペクトルの最大値を含む第2波長帯域のいずれかに含まれる光を透過する光学フィルタをさらに備えたことを特徴とする。
また、本発明に係る撮像装置は、上記発明において、前記第2波長帯域の範囲内の波長を有する光であって、前記第2波長帯域の半分以下の半値幅を有する第1波長の光を前記被写体に向けて照射する第1光源部をさらに備えたことを特徴とする。
また、本発明に係る撮像装置は、上記発明において、前記非可視光フィルタの透過波長帯域の波長を有する光を前記被写体に向けて照射する第1光源部をさらに備えたことを特徴とする。
また、本発明に係る撮像装置は、上記発明において、前記バイタル情報生成部は、前記部分領域検出部が検出した前記部分領域に対応する前記撮像素子の撮像領域における画素のうち前記複数の可視光フィルタの各々が配置された画素が出力した画像信号および前記非可視光フィルタが配置された画素によって出力された画像信号に基づいて、前記被写体のバイタル情報を生成することを特徴とする。
また、本発明に係る撮像装置は、上記発明において、前記バイタル情報生成部は、前記部分領域検出部が複数の前記部分領域を検出した場合、複数の前記部分領域の各々に対して前記被写体のバイタル情報を生成することを特徴とする。
また、本発明に係る撮像装置は、上記発明において、前記バイタル情報生成部は、前記部分領域検出部が検出した前記部分領域を複数の領域に分割し、該分割した複数の領域の各々に対して前記被写体のバイタル情報を生成することを特徴とする。
また、本発明に係る撮像装置は、上記発明において、前記撮像素子が生成した前記画像データに対応する画像の輝度が所定の輝度以上であるか否かを判定する輝度判定部をさらに備え、前記部分領域検出部は、前記輝度判定部が前記所定の輝度以上であると判定した場合、前記可視光フィルタが配置された画素が出力した画像信号に基づいて前記部分領域を検出する一方、前記輝度判定部が前記所定の輝度以上でないと判定した場合、前記可視光フィルタが配置された画素が出力した画像信号および前記非可視光フィルタが配置された画素が出力した画像信号に基づいて前記部分領域を検出することを特徴とする。
また、本発明に係る撮像装置は、上記発明において、前記撮像素子は、前記画像データを連続的に生成し、前記部分領域検出部は、前記撮像素子が連続的に生成した前記画像データに対応する画像に対して前記部分領域を順次検出し、前記バイタル情報生成部は、前記部分領域検出部が前記部分領域を検出する毎に前記バイタル情報を生成することを特徴とする。
また、本発明に係る撮像装置は、上記発明において、前記バイタル情報は、血圧、心拍、心拍変動、ストレス、酸素飽和度、肌水分および静脈パターンのいずれか1つ以上であることを特徴とする。
また、本発明に係る画像処理装置は、二次元状に配置された複数の画素がそれぞれ受光した光を光電変換することによって前記画像データを生成する撮像素子と、可視光帯域内における透過スペクトルの最大値が互いに異なる複数の可視光フィルタと、前記可視光帯域より長波長側の非可視光領域に透過スペクトルの最大値を有する非可視光フィルタと、を含むユニットを、前記複数の画素に対応させて配置したフィルタアレイと、を備えた撮像装置が生成した前記画像データを用いて被写体のバイタル情報を生成する画像処理装置であって、前記画像データに対応する画像に対して、前記被写体の部分領域を検出する部分領域検出部と、前記部分領域検出部が検出した前記部分領域に対応する前記撮像素子の撮像領域における画素のうち前記非可視光フィルタが配置された画素によって出力された画像信号に基づいて、前記被写体のバイタル情報を生成するバイタル情報生成部と、を備えたことを特徴とする。
また、本発明に係る画像処理方法は、二次元状に配置された複数の画素がそれぞれ受光した光を光電変換することによって前記画像データを生成する撮像素子と、可視光帯域内における透過スペクトルの最大値が互いに異なる複数の可視光フィルタと、前記可視光帯域より長波長側の非可視光領域に透過スペクトルの最大値を有する非可視光フィルタと、を含むユニットを、前記複数の画素に対応させて配置したフィルタアレイと、を備えた撮像装置が生成した前記画像データを用いて被写体のバイタル情報を生成する画像処理装置が実行する画像処理方法であって、前記画像データに対応する画像に対して、前記被写体の部分領域を検出する部分領域検出ステップと、前記部分領域検出ステップが検出した前記部分領域に対応する前記撮像素子の撮像領域における画素のうち前記非可視光フィルタが配置された画素によって出力された画像信号に基づいて、前記被写体のバイタル情報を生成するバイタル情報生成ステップと、を含むことを特徴とする。
本発明によれば、非接触状態で生体のバイタル情報を得ることができるという効果を奏する。
図1は、本発明の実施の形態1に係る撮像装置の機能構成を示すブロック図である。 図2は、本発明の実施の形態1に係るフィルタアレイの構成を模式的に示す図である。 図3は、本発明の実施の形態1に係る各フィルタの透過率特性の一例を示す図である。 図4は、本発明の実施の形態1に係る撮像装置が実行する処理の概要を示すフローチャートである。 図5は、本発明の実施の形態1に係る撮像装置が生成する画像データに対応する画像の一例を示す図である。 図6は、本発明の実施の形態1に係るバイタル情報生成部が生成するバイタル情報としての心拍を模式的に示す図である。 図7は、本発明の実施の形態2に係る撮像装置の機能構成を示すブロック図である。 図8は、本発明の実施の形態2に係るフィルタアレイの構成を模式的に示す図である。 図9は、本発明の実施の形態2に係る撮像装置が実行する処理の概要を示すフローチャートである。 図10Aは、本発明の実施の形態2に係る撮像装置が生成するRGBデータに対応する画像の一例を示す図である。 図10Bは、本発明の実施の形態2に係る撮像装置が生成するIRデータに対応する画像の一例を示す図である。 図11は、本発明の実施の形態3に係る撮像装置が実行する処理の概要を示すフローチャートである。 図12は、本発明の実施の形態3に係る撮像装置が生成する画像データに対応する画像の一例を示す図である。 図13は、本発明の実施の形態3に係るバイタル情報生成部が生成する部分領域を模式的に示す図である。 図14は、本発明の実施の形態3の変形例1に係る部分領域検出部が検出する複数の部分領域を模式的に示す図である。 図15は、図14に示す各部分領域における心拍を模式的に示す図である。 図16は、本発明の実施の形態3の変形例2に係るバイタル情報生成部が部分領域検出部によって検出された部分領域を複数の領域に分割してバイタル情報を生成する際の状況を模式的に示す図である。 図17は、本発明の実施の形態4に係る撮像装置の機能構成を示すブロック図である。 図18は、本発明の実施の形態4に係る光学フィルタの透過率特性を示す図である。 図19は、本発明の実施の形態5に係る撮像装置の機能構成を示すブロック図である。 図20は、本発明の実施の形態5に係る各フィルタの透過率特性と第1光源部が照射する第1波長光との関係を示す図である。 図21は、本発明の実施の形態6に係る撮像装置の機能構成を示すブロック図である。 図22は、本発明の実施の形態6に係る撮像装置の光学フィルタの透過率特性、第1光源部が照射する第1波長帯域の光および第2光源部が照射する第2波長帯域の光の関係を示す図である。
以下、本発明を実施するための形態を図面とともに詳細に説明する。なお、以下の実施の形態により本発明が限定されるものではない。また、以下の説明において参照する各図は、本発明の内容を理解でき得る程度に形状、大きさ、および位置関係を概略的に示してあるに過ぎない。即ち、本発明は、各図で例示された形状、大きさ、および位置関係のみに限定されるものではない。また、同一の構成には同一の符号を付して説明する。
(実施の形態1)
〔撮像装置の構成〕
図1は、本発明の実施の形態1に係る撮像装置の機能構成を示すブロック図である。図1に示す撮像装置1は、光学系21と、撮像素子22と、フィルタアレイ23と、A/D変換部24と、表示部25と、記録部26と、制御部27と、を備える。
光学系21は、一または複数のレンズ、例えばフォーカスレンズやズームレンズ、しぼりおよびシャッタ等を用いて構成され、被写体像を撮像素子22の受光面に結像する。
撮像素子22は、フィルタアレイ23を透過した被写体像を受光して光電変換を行うことによって、画像データを所定のフレーム(60fps)に従って連続的に生成する。撮像素子22は、二次元状に配置された複数の画素の各々がフィルタアレイ23を透過した光を受光した光を光電変換し、電気信号を生成するCMOS(Complementary Metal Oxide Semiconductor)またはCCD(Charge Coupled Device)等を用いて構成される。
フィルタアレイ23は、撮像素子22の受光面に配置される。フィルタアレイ23は、可視光帯域内における透過スペクトルの最大値が互いに異なる複数の可視光フィルタと、可視光領域より長波長側の非可視光領域に透過スペクトルの最大値を有する非可視光フィルタと、を含むユニットを、撮像素子22における複数の画素に対応させて配置される。
図2は、フィルタアレイ23の構成を模式的に示す図である。図2に示すように、フィルタアレイ23は、撮像素子22を構成する各画素の受光面に配置され、赤色の光を透過する可視光フィルタRと、緑色の光を透過する可視光フィルタGと、青色の光を透過する可視光フィルタBと、非可視光の光を透過する非可視光フィルタIRと、を含むユニットを複数の画素に対応させて配置している。なお、以下においては、可視光フィルタRが配置された画素をR画素、可視光フィルタGが配置された画素をG画素、可視光フィルタBが配置された画素をB画素および非可視光フィルタIRが配置された画素をIR画素として説明する。さらに、R画像が出力する画像信号をRデータ、G画素が出力する画像信号をGデータ、B画素が出力する画像信号をBデータおよびIR画素が出力する画像信号をIRデータとして説明する。
図3は、各フィルタの透過率特性の一例を示す図である。図3において、横軸が波長(nm)を示し、縦軸が透過率を示す。また、図3において、曲線LRが可視光フィルタRの透過率を示し、曲線LGが可視光フィルタGの透過率を示し、曲線LBが可視光フィルタBの透過率を示し、曲線LIRが非可視光フィルタIRの透過率を示す。なお、図3においては、説明を簡略化するため、各フィルタの透過率特性について説明するが、画素毎に各フィルタを設けた場合における各画素(R画素、G画素、B画素およびIR画素)の分光感度特性と同じである。
図3に示すように、可視光フィルタRは、可視光帯域に透過スペクトルの最大値を有する。具体的には、可視光フィルタRは、波長帯域620〜750nmに透過スペクトルの最大値を有し、この波長帯域620〜750nmの光を透過するとともに、非可視光域の波長帯域850〜950nmの光の一部も透過する。可視光フィルタGは、可視光帯域に透過スペクトルの最大値を有する。具体的には、可視光フィルタGは、波長帯域495〜570nmに透過スペクトルの最大値を有し、この波長帯域495〜570nmの光を透過するとともに、非可視光域の波長帯域850〜950nmの光の一部も透過する。可視光フィルタBは、可視光帯域に透過スペクトルの最大値を有する。具体的には、可視光フィルタBは、波長帯域450〜495nmに透過スペクトルの最大値を有し、この波長帯域450〜495nmの光を透過するとともに、非可視光域の波長帯域850〜950nmの光の一部も透過する。非可視光フィルタIRは、非可視光帯域に透過スペクトルの最大値を有し、波長帯域850〜950nmの光を透過する。
図1に戻り、撮像装置1の構成の説明を続ける。
A/D変換部24は、撮像素子22から入力されたアナログの画像データをデジタルの画像データに変換して制御部27へ出力する。
表示部25は、制御部27から入力される画像データに対応する画像を表示する。表示部25は、液晶または有機EL(Electro Luminescence)等の表示パネルを用いて構成される。
記録部26は、撮像装置1に関する各種情報を記録する。記録部26は、撮像素子22が生成した画像データおよび撮像装置1に関する各種プログラムや実行中の処理に関するパラメータ等を記録する。記録部26は、SDRAM(Synchronous Dynamic Random Access Memory)、Flashメモリおよび記録媒体等を用いて構成される。
制御部27は、撮像装置1を構成する各部に対する指示やデータの転送等を行うことによって、撮像装置1の動作を統括的に制御する。制御部27は、CPU(Central Processing Unit)等を用いて構成される。なお、本実施の形態1では、制御部27が画像処理装置として機能する。
ここで、制御部27の詳細な構成について説明する。制御部27は、少なくとも、画像処理部271と、部分領域検出部272と、バイタル情報生成部273と、を有する。
画像処理部271は、A/D変換部24から入力される画像データに対して、所定の画像処理を行う。ここで、所定の画像処理とは、オプティカルブラック減算処理、ホワイトバランス調整処理、画像データの同時化処理、カラーマトリクス演算処理、γ補正処理、色再現処理およびエッジ強調処理等である。また、画像処理部271は、R画素、G画素およびB画素それぞれが出力したRデータ、GデータおよびBデータを用いてデモザイキング処理を行う。即ち、画像処理部271は、IR画素が出力したIRデータを用いることなく、IR画素のIRデータを他の画素(R画素、G画素またはB画素)が出力したデータで補間することによって、デモザイキング処理を行う。
部分領域検出部272は、A/D変換部24から入力される画像データのRGBデータに対応する画像に対して、所定の部分領域を検出する。具体的には、部分領域検出部272は、画像に対してパターンマッチング処理を行うことによって、被写体の顔を含む領域を検出する。なお、部分領域検出部272は、被写体の顔以外に、画像に含まれる色成分に基づいて、被写体の肌領域を検出してもよい。
バイタル情報生成部273は、部分領域検出部272が検出した部分領域に対応する撮像素子22の撮像領域における画素のうちIR画素によって出力されたIRデータ(以下、「部分領域のIRデータ」という)に基づいて、被写体のバイタル情報を生成する。ここで、バイタル情報とは、血圧、心拍、心拍変動、ストレス、酸素飽和度、肌水分および静脈パターンのいずれか1つ以上である。
このように構成された撮像装置1は、被写体を撮像することによって、被写体のバイタル情報を検出するために用いる画像データを生成する。
〔撮像装置の処理〕
次に、撮像装置1が実行する処理について説明する。図4は、撮像装置1が実行する処理の概要を示すフローチャートである。
図4に示すように、まず、撮像素子22は、所定のフレームレートに従って、被写体を連続的に撮像して時間的に連続する画像データを順次生成する(ステップS101)。
続いて、部分領域検出部272は、撮像素子22が生成した画像データのRGBデータに対応する画像に対して、被写体の部分領域を検出する(ステップS102)。具体的には、図5に示すように、部分領域検出部272は、撮像素子22が生成した画像データのRGBデータに対応する画像P1に対して、パターンマッチング技術を用いて被写体O1の顔を含む部分領域A1を検出する。
その後、バイタル情報生成部273は、部分領域検出部272が検出した部分領域のIRデータに基づいて、被写体のバイタル情報を生成する(ステップS103)。具体的には、バイタル情報生成部273は、部分領域検出部272のIRデータに基づいて、被写体の心拍をバイタル情報として説明する。
図6は、バイタル情報生成部273が生成するバイタル情報としての心拍を模式的に示す図である。図6において、横軸が時間を示し、縦軸が部分領域のIRデータの平均値を示す。
図6に示すように、バイタル情報生成部273は、部分領域検出部272が検出した部分領域のIRデータの平均値を算出し、平均値の最大値の数をカウントすることによって被写体の心拍を算出することによってバイタル情報を生成する。
図4に戻り、ステップS104以降の説明を続ける。
ステップS104において、被写体のバイタル情報の生成を終了する場合(ステップS104:Yes)、撮像装置1は、本処理を終了する。これに対して、被写体のバイタル情報の生成を終了しない場合(ステップS104:No)、撮像装置1は、ステップS101へ戻る。
以上説明した本発明の実施の形態1によれば、バイタル情報生成部273が部分領域検出部272によって検出された部分領域のIRデータに基づいて、被写体のバイタル情報を生成するので、生体と非接触状態であっても、その生体のバイタル情報を得ることができる。
さらに、本発明の実施の形態1によれば、バイタル情報生成部273が部分領域検出部272によって検出された部分領域に対応する撮像素子22の撮像領域における画素のうち非可視光フィルタが配置された画素によって出力された画像信号に基づいて、被写体のバイタル情報を生成するので、バイタル情報の取得精度を向上させることができる。
また、本発明の実施の形態1によれば、部分領域検出部272が撮像素子22によって画像データが生成される毎に順次部分領域を検出し、バイタル情報生成部273が部分領域検出部272によって部分領域が検出される毎にバイタル情報を生成するので、動画データから精度の高いバイタル情報を生成することができる。
さらに、本発明の実施の形態1によれば、バイタル情報生成部273がIR画素から出力されたIRデータ(RAWデータ)を用いてバイタル情報を生成するので、デモザキング処理等の画像処理を省略することができることによって、バイタル情報の処理時間を高速化することができる。
(実施の形態2)
次に、本発明の実施の形態2について説明する。本実施の形態2に係る撮像装置は、上述した実施の形態1に係る撮像装置1のフィルタアレイ23の構成が異なるうえ、部分領域検出部272が部分領域を検出する検出方法が異なる。このため、以下においては、本実施の形態2に係る撮像装置のフィルタアレイの構成を説明後、本実施の形態2に係る撮像装置が実行する処理について説明する。
〔撮像装置の構成〕
図7は、本発明の実施の形態2に係る撮像装置の機能構成を示すブロック図である。図7に示す撮像装置1aは、上述した実施の形態1に係る撮像装置1のフィルタアレイ23および制御部27それぞれに換えて、フィルタアレイ23aと、制御部27aを備える。
フィルタアレイ23aは、可視光帯域内における透過スペクトルの最大値が互いに異なる複数の可視光フィルタと、可視光領域より長波長側の非可視光領域であって、互いに異なる非可視光領域内における透過スペクトルの最大値が互いに異なる複数の非可視光フィルタと、を用いて所定の配列パターンを形成し、この配列パターンを形成する個々のフィルタを撮像素子22の複数の画素のいずれかに対応する位置に配置する。
図8は、フィルタアレイ23aの構成を模式的に示す図である。図8に示すように、フィルタアレイ23aは、可視光フィルタR、可視光フィルタG、可視光フィルタBおよび非可視光フィルタIRを1組K1とする配列の2つのユニットと、可視光フィルタR、2つの可視光フィルタGおよび可視光フィルタBを1組K2とするベイヤー配列の2つのユニットと、で1組(4×4)となり繰り返さされたパターンで構成される。また、フィルタアレイ23aは、非可視光フィルタIRの数が可視光フィルタR、可視光フィルタGおよび可視光フィルタBの各々の数より少ない(R>IR,G>IR,B>IR)。
制御部27aは、撮像装置1aを構成する各部に対する指示やデータの転送等を行うことによって、撮像装置1aの動作を統括的に制御する。制御部27aは、画像処理部271と、部分領域検出部275と、バイタル情報生成部273と、輝度判定部274と、を有する。なお、本実施の形態2では、制御部27aが画像処理装置として機能する。
輝度判定部274は、A/D変換部24から入力される画像データに対応する画像が所定の輝度以上であるか否かを判定する。具体的には、輝度判定部274は、画像データに含まれるRGB画像データが所定の値を超えているか否かを判定する。
部分領域検出部275は、輝度判定部274によってA/D変換部24から入力される画像データに対応する画像が所定の輝度以上であると判定された場合、RGBデータに対応する画像に対して、パターンマッチング処理を行うことによって、被写体の顔または肌を含む部分領域を検出する一方、輝度判定部274によってA/D変換部24から入力される画像データに対応する画像が所定の輝度以上でないと判定された場合、RGBデータおよびIRデータに対応する画像に対して、パターンマッチング処理を行うことによって、被写体の顔または肌を含む部分領域を検出する。
〔撮像装置の処理〕
次に、撮像装置1aが実行する処理について説明する。図9は、撮像装置1aが実行する処理の概要を示すフローチャートである。
図9に示すように、まず、撮像素子22は、被写体を連続的に撮像して時間的に連続する画像データを順次生成する(ステップS201)。
続いて、輝度判定部274は、A/D変換部24から入力される画像データに対応する画像が所定の輝度以上であるか否かを判定する(ステップS202)。輝度判定部274がA/D変換部24から入力される画像データに対応する画像が所定の輝度以上であると判定した場合(ステップS202:Yes)、撮像装置1aは、後述するステップS203へ移行する。これに対して、輝度判定部274がA/D変換部24から入力される画像データに対応する画像が所定の輝度以上でないと判定した場合(ステップS202:No)、撮像装置1aは、後述するステップS205へ移行する。
ステップS203において、部分領域検出部275は、RGBデータに対応する画像に対して、パターンマッチング処理を行うことによって、被写体の顔または肌を含む部分領域を検出する。
続いて、バイタル情報生成部273は、部分領域検出部275によって検出された部分領域のIRデータに基づいて、被写体のバイタル情報を生成する(ステップS204)。ステップS204の後、撮像装置1aは、後述するステップS206へ移行する。
ステップS205において、部分領域検出部275は、RGBデータおよびIRデータに対応する画像に対して、パターンマッチング処理を行うことによって、被写体の顔または肌を含む部分領域を検出する。ステップS205の後、撮像装置1aは、後述するステップS206へ移行する。
図10Aは、RGBデータに対応する画像の一例を示す図である。図10Bは、RGBデータおよびIRデータに対応する画像の一例を示す図である。図10Aおよび図10Bにおいては、被写体が暗い場所で撮像装置1aが撮像した際の画像を示す。図10Aおよび図10Bに示すように、部分領域検出部275は、通常、被写体O2の周囲の環境が暗い場合、通常のRGBデータに対応する画像P2のみでは、R画素、G画素およびB画素それぞれの信号値(輝度が小さい)が少ないため、被写体O2の顔を含む部分領域A2を検出することが難しい。このため、本実施の形態2では、部分領域検出部275は、RGBデータに加えて、IR画素が出力するIRデータをさらに用いることによって、被写体O2の顔を含む部分領域A2を検出する。即ち、本実施の形態2では、図10Bに示すように、部分領域検出部275が輝度判定部274によってA/D変換部24から入力される画像データに対応する画像が所定の輝度以上でないと判定された場合、RGBデータおよびIRデータに対応する画像P3に対して、パターンマッチング処理を行う。これにより、撮影領域が暗い場合であっても、被写体の顔または肌を含む部分領域A2を検出することができる。
ステップS206において、被写体のバイタル情報の生成を終了する場合(ステップS206:Yes)、撮像装置1aは、本処理を終了する。これに対して、被写体のバイタル情報の生成を終了しない場合(ステップS206:No)、撮像装置1aは、ステップS201へ戻る。
以上説明した本発明の実施の形態2によれば、バイタル情報生成部273が部分領域検出部275によって検出された部分領域に対応する撮像素子22の撮像領域における非可視光フィルタおよび可視光フィルタが配置された画素によって出力された画像信号に基づいて、被写体のバイタル情報を生成するので、バイタル情報の取得精度を向上させることができる。
さらに、本発明の実施の形態2によれば、非可視光フィルタの数が複数の可視光フィルタの各々の数より少ないので、精度の高い通常画像(高解像度)を得ることができる。
また、本発明の実施の形態2によれば、部分領域検出部275が輝度判定部274によってRGBデータに対応する画像が所定の輝度以上でないと判定された場合、RGBデータおよびIRデータに対応する画像に対して、パターンマッチング処理を行うことによって、被写体の顔または肌を含む部分領域を検出するので、撮影領域が暗い場合であっても、被写体の顔または肌を含む部分領域を精度よく検出することができる。
(実施の形態3)
次に、本発明の実施の形態3について説明する。本実施の形態3に係る撮像装置は、上述した実施の形態1に係る撮像装置1と同一の構成を有し、実行する処理が異なる。具体的には、上述した実施の形態1に係る撮像装置1は、部分領域検出部272が1つの部分領域のみを検出していたが、本実施の形態3に係る撮像装置に係る部分領域検出部は、複数の部分領域を検出する。このため、以下においては、本実施の形態3に係る撮像装置が実行する処理のみについて説明する。なお、上述した実施の形態1に係る撮像装置1と同一の構成には同一の符号を付して説明を省略する。
(撮像装置の処理)
図11は、本発明の実施の形態3に係る撮像装置1が実行する処理の概要を示すフローチャートである。
図11に示すように、まず、撮像素子22は、被写体を撮像して画像データを生成する(ステップS301)。
続いて、部分領域検出部272は、撮像素子22が生成した画像データに対応する画像に対して、パターンマッチング処理を行うことによって、画像に含まれる全ての被写体の部分領域を検出する(ステップS302)。具体的には、図12に示すように、部分領域検出部272は、撮像素子22が生成した画像データに対応する画像P10に対して、パターンマッチング処理を行うことによって、画像P10に含まれる全ての被写体O10〜O14の顔を含む領域を部分領域A10〜A14として検出する。
その後、バイタル情報生成部273は、部分領域検出部272が検出した複数の部分領域それぞれのIRデータに基づいて、被写体O10〜O15それぞれのバイタル情報として心拍を生成する(ステップS303)。具体的には、図13に示すように、バイタル情報生成部273は、部分領域検出部272が検出した複数の部分領域それぞれのIRデータに基づいて、被写体O10〜O15それぞれのバイタル情報として心拍を生成する。
その後、バイタル情報生成部273は、図13に示すように、部分領域検出部272が検出した複数の部分領域それぞれの心拍の平均値を算出する(ステップS304)。これにより、群集心理の状態をバイタル情報として生成することができる。なお、バイタル情報生成部273は、部分領域検出部272が検出した複数の部分領域それぞれの心拍の平均値を算出していたが、部分領域検出部272が検出した複数の部分領域毎に重み付けを行ってもよい。例えば、バイタル情報生成部273は、性別、年齢、顔の領域等に応じて心拍に重み付けを行ってもよい。
続いて、バイタル情報の生成を終了する場合(ステップS305:Yes)、撮像装置1は、本処理を終了する。これに対して、バイタル情報の生成を終了しない場合(ステップS305:No)、撮像装置1は、ステップS301へ戻る。
以上説明した本発明の実施の形態3によれば、部分領域検出部272が撮像素子22によって生成された画像データに対応する画像に対して、パターンマッチング処理を行うことによって、画像に含まれる全ての被写体の部分領域を検出するので、例えば群集心理の状態をバイタル情報として生成することができる。
(実施の形態3の変形例1)
本発明の実施の形態3では、部分領域検出部272が複数の被写体の顔を検出していたが、1人に対して複数の部分領域を検出してもよい。
図14は、部分領域検出部272が検出する複数の部分領域を模式的に示す図である。図14に示すように、部分領域検出部272は、撮像素子22が生成したRGBデータに対応する画像P20に写る被写体O20の顔を含む領域、および被写体O20の手(肌色)を含む領域O21,O22それぞれを部分領域A20〜A22として検出する。
続いて、バイタル情報生成部273は、部分領域検出部272が検出した部分領域A20〜A23のIRデータに基づいて、被写体O20の心拍をバイタル情報として生成する。その後、バイタル情報生成部273は、被写体O20の動脈硬化の度合いをバイタル情報として生成する。
図15は、図14に示す各部分領域における心拍を模式的に示す図である。図15において、横軸が時間を示す。また、図15において、図15の(a)が上述した部分領域A20の心拍を示し、図15の(b)が上述した部分領域A21の心拍を示し、図15の(c)が上述した部分領域S22の心拍を示す。
バイタル情報生成部273は、部分領域A20〜A22それぞれの心拍の最大値のズレ量に基づいて、被写体O20の動脈硬化の度合いをバイタル情報として生成する。具体的には、図15に示すように、部分領域A20〜A22それぞれの心拍の最大値M1〜M3のズレ量(位相差)に基づいて、被写体O20の動脈硬化の度合いをバイタル情報として生成する。
以上説明した本発明の実施の形態3の変形例1によれば、部分領域検出部272が同じ被写体に対して複数の部分領域を検出し、バイタル情報生成部273が部分領域検出部272によって検出された同じ被写体の複数の部分領域におけるIRデータを用いる被写体の複数箇所の心拍を生成するので、被検体の動脈硬化を判定することができる。
(実施の形態3の変形例2)
本発明の実施の形態3の変形例2では、バイタル情報生成部273が部分領域検出部272によって検出された被写体の顔を含む部分領域を複数の領域に分割し、領域毎にバイタル情報を生成してもよい。
図16は、バイタル情報生成部273が部分領域検出部272によって検出された部分領域を複数の領域に分割してバイタル情報を生成する際の状況を模式的に示す図である。図16に示すように、バイタル情報生成部273は、部分領域検出部272が検出した撮像素子22によって生成されたRGBデータに対応する画像P30に写る被写体O30の顔を含む部分領域A30を複数の領域a1〜a16に分割し(4×4)、この分割した複数の領域a1〜a16それぞれのIRデータに基づいて、複数の領域a1〜a16のバイタル情報を生成する。この場合、バイタル情報生成部273は、四隅の領域a1,a4,a13,a16を除外することによって、バイタル情報を生成する。
以上説明した本発明の実施の形態3の変形例2によれば、バイタル情報生成部273が部分領域検出部272によって検出された部分領域を複数の領域に分割し、この複数の領域に対してバイタル情報を生成するので、より精度の高いバイタル情報を得ることができる。
(実施の形態4)
次に、本発明の実施の形態4について説明する。本実施の形態4に係る撮像装置は、上述した実施の形態1に係る撮像装置1と構成が異なる。具体的には、本実施の形態4に係る撮像装置は、光学系とフィルタアレイとの間に所定の波長帯域の光のみを透過する光学フィルタを配置する。このため、以下においては、本実施の形態4に係る撮像装置の構成について説明する。なお、上述した実施の形態1に係る撮像装置1と同一の構成には同一の符号を付して説明を省略する。
〔撮像装置の構成〕
図17は、本発明の実施の形態4に係る撮像装置の機能構成を示すブロック図である。図17に示す撮像装置1bは、上述した実施の形態1に係る撮像装置1の構成に加えて、光学フィルタ28をさらに備える。
光学フィルタ28は、フィルタアレイ23の前面に配置され、可視光フィルタR、可視光フィルタGおよび可視光フィルタBそれぞれの透過スペクトルの最大値を含む第1波長帯域および非可視光フィルタIRの透過スペクトルの最大値を含む第2波長帯域の光を透過する。
図18は、光学フィルタ28の透過率特性を示す図である。図18において、横軸が波長(nm)を示し、縦軸が透過率を示す。また、図18において、折れ線LFが光学フィルタ28の透過率特性を示す。
図18に示すように、光学フィルタ28は、可視光フィルタR、可視光フィルタGおよび可視光フィルタBそれぞれの透過スペクトルを含む第1波長帯域W1および非可視光フィルタIRの透過スペクトルの第2波長帯域W2の光を透過する。具体的には、光学フィルタ28は、可視光領域において400〜760nmの光を透過するとともに、非可視光領域において850〜950nmの光を透過する。これにより、可視光の画像データおよび非可視光の画像データそれぞれを取得することができる。なお、図18においては、説明を簡略するため、光学フィルタ28を可視光領域において400〜760nmの光を透過するとともに、非可視光領域において850〜950nmの光を透過していたが、もちろん760〜850nmの波長帯域を有する光に対して、少なくとも一部を透過させてもよい(少なくとも一部を透過させない)。例えば、光学フィルタ28は、少なくとも770〜800nmの波長帯域の一部を有する光を透過させてもよい。
以上説明した本発明の実施の形態4によれば、光学フィルタ28が可視光フィルタR、可視光フィルタGおよび可視光フィルタBそれぞれの透過スペクトルを含む第1波長帯域W1および非可視光フィルタIRの透過スペクトルを含む第2波長帯域W2の光を透過することによって、不要な情報(波長成分)を除去するので、可視光領域の精度向上を実現(高解像度)できるとともに、非可視光領域の使用光源の自由度を向上させることができる。非接触状態で被写体のバイタル情報を生成するための画像データを取得することができる。
(実施の形態5)
次に、本発明の実施の形態5について説明する。本実施の形態5に係る撮像装置は、上述した実施の形態1に係る撮像装置1と構成が異なる。具体的には、本実施の形態5に係る撮像装置は、可視光領域より長波長側の非可視光領域の光を照射する照射部をさらに備える。このため、以下においては、本実施の形態5に係る撮像装置の構成について説明する。なお、上述した実施の形態1に係る撮像装置1と同一の構成には同一の符号を付して説明を省略する。
〔撮像装置の構成〕
図19は、本発明の実施の形態5に係る撮像装置の機能構成を示すブロック図である。図19に示す撮像装置1cは、被写体を撮像し、被写体の画像データを生成する本体部2と、本体部2に対して着脱自在であり、撮像装置1cの撮像領域に向けて所定の波長帯域を有する光を照射する照射部3と、を備える。
〔本体部の構成〕
まず、本体部2の構成について説明する。
本体部2は、光学系21と、撮像素子22と、フィルタアレイ23と、A/D変換部24と、表示部25と、記録部26と、制御部27cと、アクセサリー通信部29と、を備える。
アクセサリー通信部29は、制御部27cの制御のもと、所定の通信規格に従って、本体部2に接続されるアクセサリーに対して駆動信号を送信する。
制御部27cは、撮像装置1cを構成する各部に対する指示やデータの転送等を行うことによって、撮像装置1cの動作を統括的に制御する。制御部27cは、画像処理部271と、部分領域検出部272と、バイタル情報生成部273と、照明制御部276と、を備える。
照明制御部276は、アクセサリー通信部29を介して本体部2に接続された照射部3の発光を制御する。例えば、照明制御部276は、撮像装置1cに被写体のバイタル情報を生成するバイタル情報生成モードが設定されている場合において、本体部2に照射部3が接続されているとき、撮像素子22の撮像タイミングに同期して照射部3に光を照射させる。
〔照射部の構成〕
次に、照射部3の構成について説明する。照射部3は、通信部31と、第1光源部32と、を備える。
通信部31は、本体部2のアクセサリー通信部29から入力された駆動信号を第1光源部32へ出力する。
第1光源部32は、通信部31を介して本体部2から入力される駆動信号に従って、非可視光フィルタIRが透過する波長範囲内の波長帯域を有する光を(以下、「第1波長光」という)を被写体に向けて照射する。第1光源部32は、発光LED(Light Emitting Diode)を用いて構成される。
次に、各フィルタと第1光源部32が照射する第1波長光との関係について説明する。図20は、各フィルタの透過率特性と第1光源部32が照射する第1波長光との関係を示す図である。図20において、横軸が波長(nm)を示し、縦軸が透過率を示す。また、図20において、曲線LRが可視光フィルタRの透過率を示し、曲線LGが可視光フィルタGの透過率を示し、曲線LBが可視光フィルタBの透過率を示し、曲線LIRが非可視光フィルタIRの透過率を示し、曲線L10が第1光源部32によって照射される第1波長帯域を示す。
図20に示すように、第1光源部32は、通信部31を介して本体部2から入力される駆動信号に従って、非可視光フィルタIRが透過する波長範囲内の波長帯域を有する第1波長光を照射する。具体的には、第1光源部32は、860〜900nmの光を照射する。
以上説明した本発明の実施の形態5によれば、第1光源部32が光学フィルタ28における第2波長帯域W2の範囲内であって、この第2波長帯域W2の半分以下の幅の半値幅を有する第1波長光を照射するので、非接触状態で被写体のバイタル情報を生成するための画像データを取得することができる。
また、本発明の実施の形態5によれば非可視光フィルタIRが透過する波長範囲内の波長帯域を有する第1波長光を照射するので、精度の高い非可視光情報を得ることができる。
また、本発明の実施の形態5では、第1光源部32は、第1波長光として860〜900nmの光を照射していたが、例えば生体のバイタル情報として肌水分を検出する場合、970nmの光を照射可能な発光LEDを用いて構成してもよい。このとき、第2波長帯域として900〜1000nmの可視光帯域の光を透過可能な光学フィルタ28を用いればよい。
また、本発明の実施の形態5では、バイタル情報生成部273は、A/D変換部24から連続的に入力される撮像素子22の画像データ(以下、「動画データ」という)におけるIR画素からのIRデータに基づいて、被写体の皮膚の色の変動を検出するとともに、動画データにおけるR画素、G画素およびB画素それぞれのRGBデータに基づいて、被写体の心拍・心拍変動を検出するとともに、この検出した被写体の心拍・心拍変動と上述した皮膚の色の変動とに基づいて、被写体の正確な心拍を検出するようにしてもよい。さらに、バイタル情報生成部273は、バイタル情報として、上述した心拍変動の波形から被検体のストレス具合を検出するようにしてもよい。
また、本発明の実施の形態5では、照射部3が本体部2に対して着脱自在であったが、照射部3と本体部2とを一体的に形成してもよい。
(実施の形態6)
次に、本発明の実施の形態6について説明する。本実施の形態6に係る撮像装置は、上述した実施の形態5に係る撮像装置1cと構成が異なる。このため、以下においては、本実施の形態6に係る撮像装置の構成を説明する。なお、上述した実施の形態5に係る撮像装置1cと同一の構成には同一の符号を付して説明を省略する。
図21は、本発明の実施の形態6に係る撮像装置の機能構成を示すブロック図である。図21に示す撮像装置1dは、本体部2dと、照射部3dと、を備える。
〔本体部の構成〕
まず、本体部2dの構成について説明する。本体部2dは、上述した実施の形態5に係る撮像装置1cの本体部2の構成に加えて、上述した実施の形態4に係る光学フィルタ28をさらに備える。
〔照射部の構成〕
次に、照射部3dの構成について説明する。照射部3dは、撮像装置1dの撮像領域に向けて所定の波長帯域を有する光を照射する。また、照射部3dは、上述した実施の形態5に係る照射部3の構成に加えて、第2光源部33をさらに備える。
第2光源部33は、光学フィルタ28における第2波長帯域の範囲内の光であって、第2波長帯域の半分以下の幅の半値幅を有し、第1波長の光と異なる第2波長の光を被写体に向けて照射する。第2光源部33は、発光LEDを用いて構成される。
次に、上述した光学フィルタ28、第1光源部32が照射する第1波長帯域の光および第2光源部33が照射する第2波長帯域の光の関係について説明する。図22は、光学フィルタ28の透過率特性、第1光源部32が照射する第1波長帯域の光および第2光源部33が照射する第2波長帯域の光の関係を示す図である。図22において、横軸が波長(nm)を示し、縦軸が透過率を示す。また、図22において、折れ線LFが光学フィルタ28の透過率特性を示し、曲線L20が第1光源部32によって照射された光の波長帯域を示し、曲線L21が第2光源部33によって照射された光の波長帯域を示す。
図22に示すように、光学フィルタ28は、可視光フィルタR、可視光フィルタGおよび可視光フィルタBそれぞれの第1波長帯域W1の光および非可視光フィルタIRの第2波長帯域W2の光のみを透過する。また、曲線L20に示すように、第1光源部32は、光学フィルタ28が透過する第2波長帯域W2の範囲内であって、この第2波長帯域の半分以下の幅の半値幅を有する第1波長帯域W1の光を照射する。さらに、曲線L21に示すように、第2光源部33は、光学フィルタ28が透過する第2波長帯域W2の範囲内であって、この第2波長帯域W2の半分以下の半値幅を有する第2波長帯域の光を照射する。さらに、第2光源部33は、第1光源部32が照射する第1波長帯域の光と異なる波長帯域を有する第2波長帯域W2の光を照射する。具体的には、第2光源部33は、940〜1000nmの光を照射する。
このように構成された撮像装置1dは、照明制御部276が第1光源部32および第2光源部33それぞれを交互に照射させることによって、バイタル情報を得ることができるとともに、3Dパターン投影による3次元マップの空間情報や距離情報を得ることができる。
以上説明した本発明の実施の形態6によれば、光学フィルタ28における第2波長帯域の範囲内の光であって、第2波長帯域の半分以下の半値幅を有し、第1波長の光と異なる第2波長の光を被写体に向けて照射する第2光源部33をさらに設け、照明制御部276が第1光源部32および第2光源部33それぞれを交互に照射させるので、バイタル情報を得ることができるとともに、3Dパターン投影による3次元マップの空間情報や距離情報を得ることができる。
さらに、本発明の実施の形態6によれば、第1光源部32および第2光源部33それぞれが互いに異なる近赤外光(例えば940nmおよび1000nm)を照射し、バイタル情報生成部273が部分領域のIRデータに基づいて、皮膚面における酸素飽和度をバイタル情報として生成することができる。
なお、本発明の実施の形態6では、照明制御部276が第1光源部32および第2光源部33を交互に発光させていたが、例えば撮像素子22が生成する画像データの所定のフレーム数毎に発光タイミングを変更させてもよい。さらに、照明制御部276は、第1光源部32および第2光源部33それぞれの発光回数に応じて切り替えるようにしてもよい。
(その他の実施の形態)
上述した実施の形態5,6では、発光LEDを用いて第1光源部または第2光源部を構成していたが、例えばハロゲン光源のように可視光波長帯域および近赤外波長帯域の光を照射する光源を用いて構成してもよい。
また、上述した実施の形態1〜6では、可視光フィルタとして、可視光フィルタR、可視光フィルタGおよび可視光フィルタBの原色フィルタを用いていたが、例えばマゼンタ、シアンおよびイエロー等の補色フィルタを用いてもよい。
また、上述した実施の形態1〜6では、光学系、光学フィルタ、フィルタアレイおよび撮像素子が本体部に組み込まれていたが、光学系、光学フィルタ、フィルタアレイおよび撮像素子をユニット内に収容し、このユニットが本体部としての画像処理装置に対して着脱自在であってもよい。もちろん、光学系を鏡筒内に収容し、この鏡筒を光学フィルタ、フィルタアレイおよび撮像素子を収容したユニットに対して着脱自在に構成してもよい。
また、上述した実施の形態1〜6では、バイタル情報生成部が本体部に設けられていたが、例えば双方向に通信可能な携帯機器や時計が眼鏡等のウエアラブル機器にバイタル情報生成可能な機能をプログラムやアプリケーションソフトによって実現し、撮像装置によって生成された画像データを送信することによって、携帯機器やウエアラブル機器で被写体のバイタル情報を生成するようにしてもよい。
また、本発明は、上述した実施の形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。例えば、本発明の説明に用いた撮像装置以外にも、携帯電話やスマートフォンにおける撮像素子を備えた携帯機器やウエアラブル機器、ビデオカメラ、内視鏡、監視カメラ、顕微鏡のような光学機器を通して被写体を撮影する撮像装置等、被写体を撮像可能ないずれの機器にも適用できる。
また、上述した実施の形態における画像処理装置による各処理の手法、即ち、各タイミングチャートに示す処理は、いずれもCPU等の制御部に実行させることができるプログラムとして記憶させておくこともできる。この他、メモリカード(ROMカード、RAMカード等)、磁気ディスク、光ディスク(CD−ROM、DVD等)、半導体メモリ等の外部記憶装置の記憶媒体に格納して配布することができる。そして、CPU等の制御部は、この外部記憶装置の記憶媒体に記憶されたプログラムを読み込み、この読み込んだプログラムによって動作が制御されることにより、上述した処理を実行することができる。
また、本発明は、上述した実施の形態および変形例そのままに限定されるものではなく、実施段階では、発明の要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上述した実施の形態に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、上述した実施の形態および変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、各実施の形態および変形例で説明した構成要素を適宜組み合わせてもよい。
また、明細書または図面において、少なくとも一度、より広義または同義な異なる用語とともに記載された用語は、明細書または図面のいかなる箇所においても、その異なる用語に置き換えることができる。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能である。
1,1a,1b,1c,1d 撮像装置
2,2d 本体部
3,3d 照射部
21 光学系
22 撮像素子
23,23a フィルタアレイ
24 A/D変換部
25 表示部
26 記録部
27,27a,27c 制御部
28 光学フィルタ
29 アクセサリー通信部
31 通信部
32 第1光源部
33 第2光源部
271 画像処理部
272,275 部分領域検出部
273 バイタル情報生成部
274 輝度判定部
276 照明制御部

Claims (13)

  1. 被写体のバイタル情報を検出するための画像データを生成する撮像装置であって、
    二次元状に配置された複数の画素がそれぞれ受光した光を光電変換することによって前記画像データを生成する撮像素子と、
    可視光帯域内における透過スペクトルの最大値が互いに異なる複数の可視光フィルタと、前記可視光帯域より長波長側の非可視光領域に透過スペクトルの最大値を有する非可視光フィルタと、を含むユニットを、前記複数の画素に対応させて配置したフィルタアレイと、
    前記撮像素子が生成した前記画像データに対応する画像に対して、前記被写体の部分領域を検出する部分領域検出部と、
    前記部分領域検出部が検出した前記部分領域に対応する前記撮像素子の撮像領域における画素のうち前記非可視光フィルタが配置された画素によって出力された画像信号に基づいて、前記被写体のバイタル情報を生成するバイタル情報生成部と、
    を備えたことを特徴とする撮像装置。
  2. 前記非可視光フィルタの数は、前記複数の可視光フィルタの各々の数より少ないことを特徴とする請求項1に記載の撮像装置。
  3. 前記フィルタアレイの受光面に配置され、前記複数の可視光フィルタそれぞれの透過スペクトルの最大値を含む第1波長帯域および前記非可視光フィルタの透過スペクトルの最大値を含む第2波長帯域のいずれかに含まれる光を透過する光学フィルタをさらに備えたことを特徴とする請求項1または2に記載の撮像装置。
  4. 前記第2波長帯域の範囲内の波長を有する光であって、前記第2波長帯域の半分以下の半値幅を有する第1波長の光を前記被写体に向けて照射する第1光源部をさらに備えたことを特徴とする請求項3に記載の撮像装置。
  5. 前記非可視光フィルタの透過波長帯域の波長を有する光を前記被写体に向けて照射する第1光源部をさらに備えたことを特徴とする請求項1または2に記載の撮像装置。
  6. 前記バイタル情報生成部は、前記部分領域検出部が検出した前記部分領域に対応する前記撮像素子の撮像領域における画素のうち前記複数の可視光フィルタの各々が配置された画素が出力した画像信号および前記非可視光フィルタが配置された画素によって出力された画像信号に基づいて、前記被写体のバイタル情報を生成することを特徴とする請求項1〜5のいずれか一つに記載の撮像装置。
  7. 前記バイタル情報生成部は、前記部分領域検出部が複数の前記部分領域を検出した場合、複数の前記部分領域の各々に対して前記被写体のバイタル情報を生成することを特徴とする請求項1〜5のいずれか一つに記載の撮像装置。
  8. 前記バイタル情報生成部は、前記部分領域検出部が検出した前記部分領域を複数の領域に分割し、該分割した複数の領域の各々に対して前記被写体のバイタル情報を生成することを特徴とする請求項1〜5のいずれか一つに記載の撮像装置。
  9. 前記撮像素子が生成した前記画像データに対応する画像の輝度が所定の輝度以上であるか否かを判定する輝度判定部をさらに備え、
    前記部分領域検出部は、前記輝度判定部が前記所定の輝度以上であると判定した場合、前記可視光フィルタが配置された画素が出力した画像信号に基づいて前記部分領域を検出する一方、前記輝度判定部が前記所定の輝度以上でないと判定した場合、前記可視光フィルタが配置された画素が出力した画像信号および前記非可視光フィルタが配置された画素が出力した画像信号に基づいて前記部分領域を検出することを特徴とする請求項1〜8のいずれか一つに記載の撮像装置。
  10. 前記撮像素子は、前記画像データを連続的に生成し、
    前記部分領域検出部は、前記撮像素子が連続的に生成した前記画像データに対応する画像に対して前記部分領域を順次検出し、
    前記バイタル情報生成部は、前記部分領域検出部が前記部分領域を検出する毎に前記バイタル情報を生成することを特徴とする請求項1〜9のいずれか一つに記載の撮像装置。
  11. 前記バイタル情報は、血圧、心拍、心拍変動、ストレス、酸素飽和度、肌水分および静脈パターンのいずれか1つ以上であることを特徴とする請求項1〜7のいずれか一つに記載の撮像装置。
  12. 二次元状に配置された複数の画素がそれぞれ受光した光を光電変換することによって画像データを生成する撮像素子と、可視光帯域内における透過スペクトルの最大値が互いに異なる複数の可視光フィルタと、前記可視光帯域より長波長側の非可視光領域に透過スペクトルの最大値を有する非可視光フィルタと、を含むユニットを、前記複数の画素に対応させて配置したフィルタアレイと、を備えた撮像装置が生成した前記画像データを用いて被写体のバイタル情報を生成する画像処理装置であって、
    前記画像データに対応する画像に対して、前記被写体の部分領域を検出する部分領域検出部と、
    前記部分領域検出部が検出した前記部分領域に対応する前記撮像素子の撮像領域における画素のうち前記非可視光フィルタが配置された画素によって出力された画像信号に基づいて、前記被写体のバイタル情報を生成するバイタル情報生成部と、
    を備えたことを特徴とする画像処理装置。
  13. 二次元状に配置された複数の画素がそれぞれ受光した光を光電変換することによって画像データを生成する撮像素子と、可視光帯域内における透過スペクトルの最大値が互いに異なる複数の可視光フィルタと、前記可視光帯域より長波長側の非可視光領域に透過スペクトルの最大値を有する非可視光フィルタと、を含むユニットを、前記複数の画素に対応させて配置したフィルタアレイと、を備えた撮像装置が生成した前記画像データを用いて被写体のバイタル情報を生成する画像処理装置が実行する画像処理方法であって、
    前記画像データに対応する画像に対して、前記被写体の部分領域を検出する部分領域検出ステップと、
    前記部分領域検出ステップが検出した前記部分領域に対応する前記撮像素子の撮像領域における画素のうち前記非可視光フィルタが配置された画素によって出力された画像信号に基づいて、前記被写体のバイタル情報を生成するバイタル情報生成ステップと、
    を含むことを特徴とする画像処理方法。
JP2015560119A 2015-04-30 2015-04-30 撮像装置、画像処理装置および画像処理方法 Active JP6462594B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2015/063048 WO2016174778A1 (ja) 2015-04-30 2015-04-30 撮像装置、画像処理装置および画像処理方法

Publications (2)

Publication Number Publication Date
JPWO2016174778A1 JPWO2016174778A1 (ja) 2018-02-22
JP6462594B2 true JP6462594B2 (ja) 2019-01-30

Family

ID=57198237

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015560119A Active JP6462594B2 (ja) 2015-04-30 2015-04-30 撮像装置、画像処理装置および画像処理方法

Country Status (4)

Country Link
US (1) US20160317098A1 (ja)
JP (1) JP6462594B2 (ja)
CN (1) CN107427264A (ja)
WO (1) WO2016174778A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150010230A (ko) * 2013-07-18 2015-01-28 삼성전자주식회사 단일 필터를 이용하여 대상체의 컬러 영상 및 깊이 영상을 생성하는 방법 및 장치.
CN116269261A (zh) * 2016-12-01 2023-06-23 松下知识产权经营株式会社 生物体信息处理方法及生物体信息处理系统
EP3585250A1 (en) * 2017-02-27 2020-01-01 Koninklijke Philips N.V. Venipuncture and arterial line guidance via signal variation amplification
CN111048209A (zh) * 2019-12-28 2020-04-21 安徽硕威智能科技有限公司 基于活体人脸识别的健康评估方法、装置及其存储介质

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3478504B2 (ja) * 1993-03-19 2003-12-15 オリンパス株式会社 画像処理装置
JP2978053B2 (ja) * 1994-05-06 1999-11-15 オリンパス光学工業株式会社 生体撮像装置、及び血液情報演算処理回路
IL135571A0 (en) * 2000-04-10 2001-05-20 Doron Adler Minimal invasive surgery imaging system
JP4385284B2 (ja) * 2003-12-24 2009-12-16 ソニー株式会社 撮像装置及び撮像方法
JP4346634B2 (ja) * 2006-10-16 2009-10-21 三洋電機株式会社 目標物検出装置
JP4971816B2 (ja) * 2007-02-05 2012-07-11 三洋電機株式会社 撮像装置
US8323694B2 (en) * 2007-05-09 2012-12-04 Nanoprobes, Inc. Gold nanoparticles for selective IR heating
US20110144462A1 (en) * 2008-03-19 2011-06-16 Rick Lifsitz Miniaturized multi-spectral imager for real-time tissue oxygenation measurement
US8611975B2 (en) * 2009-10-28 2013-12-17 Gluco Vista, Inc. Apparatus and method for non-invasive measurement of a substance within a body
JP2011149901A (ja) * 2010-01-25 2011-08-04 Rohm Co Ltd 受光装置およびモバイル機器
US10300296B2 (en) * 2010-03-17 2019-05-28 Photopill Medical Ltd. Capsule phototherapy
JP2012014668A (ja) * 2010-06-04 2012-01-19 Sony Corp 画像処理装置、画像処理方法、プログラム、および電子装置
US8836793B1 (en) * 2010-08-13 2014-09-16 Opto-Knowledge Systems, Inc. True color night vision (TCNV) fusion
US8996086B2 (en) * 2010-09-17 2015-03-31 OptimumTechnologies, Inc. Digital mapping system and method
US8836796B2 (en) * 2010-11-23 2014-09-16 Dolby Laboratories Licensing Corporation Method and system for display characterization or calibration using a camera device
US9124777B2 (en) * 2011-01-05 2015-09-01 Koninklijke Philips N.V. Device and method for extracting information from characteristic signals
CN103827730B (zh) * 2011-06-21 2017-08-04 管理前街不同收入阶层的前街投资管理有限公司 用于生成三维图像信息的方法和装置
GB201114406D0 (en) * 2011-08-22 2011-10-05 Isis Innovation Remote monitoring of vital signs
CN102309315A (zh) * 2011-09-07 2012-01-11 周翊民 无接触式光学生理检测仪
CN102499664B (zh) * 2011-10-24 2013-01-02 西双版纳大渡云海生物科技发展有限公司 基于视频图像的非接触式生命体征的检测方法及检测系统
CN102525442B (zh) * 2011-12-21 2013-08-07 Tcl集团股份有限公司 一种测量人体脉搏的方法及装置
CN102973253B (zh) * 2012-10-31 2015-04-29 北京大学 一种利用视觉信息监测人体生理指标的方法和系统
GB2551594B (en) * 2013-08-29 2018-05-09 Real Imaging Ltd Surface simulation
US10404924B2 (en) * 2013-11-11 2019-09-03 Osram Sylvania Inc. Human presence detection techniques
US9392262B2 (en) * 2014-03-07 2016-07-12 Aquifi, Inc. System and method for 3D reconstruction using multiple multi-channel cameras
JP2015185947A (ja) * 2014-03-20 2015-10-22 株式会社東芝 撮像システム
WO2015195746A1 (en) * 2014-06-18 2015-12-23 Innopix, Inc. Spectral imaging system for remote and noninvasive detection of target substances using spectral filter arrays and image capture arrays
US9734704B2 (en) * 2014-08-12 2017-08-15 Dominick S. LEE Wireless gauntlet for electronic control
US9307120B1 (en) * 2014-11-19 2016-04-05 Himax Imaging Limited Image processing system adaptable to a dual-mode image device

Also Published As

Publication number Publication date
US20160317098A1 (en) 2016-11-03
CN107427264A (zh) 2017-12-01
WO2016174778A1 (ja) 2016-11-03
JPWO2016174778A1 (ja) 2018-02-22

Similar Documents

Publication Publication Date Title
EP2877080B1 (en) Ycbcr pulsed illumination scheme in a light deficient environment
US9741113B2 (en) Image processing device, imaging device, image processing method, and computer-readable recording medium
US10171757B2 (en) Image capturing device, image capturing method, coded infrared cut filter, and coded particular color cut filter
JP2011010258A (ja) 画像処理装置、画像表示システム、画像抽出装置
JP6462594B2 (ja) 撮像装置、画像処理装置および画像処理方法
JP2013093914A (ja) 画像入力装置
JP2006109120A (ja) 赤外線撮像装置
JP7229676B2 (ja) 生体情報検出装置および生体情報検出方法
JP2011234844A (ja) 制御装置、内視鏡装置及びプログラム
US10874293B2 (en) Endoscope device
WO2017086155A1 (ja) 撮像装置、撮像方法、およびプログラム
US10980409B2 (en) Endoscope device, image processing method, and computer readable recording medium
JP7374600B2 (ja) 医療用画像処理装置及び医療用観察システム
JP6419093B2 (ja) 撮像装置
JP2009165553A (ja) 医療用画像処理装置及び医療用撮像システム
JP6550827B2 (ja) 画像処理装置、画像処理方法及びプログラム
US9978144B2 (en) Biological information measurement apparatus, biological information measurement method, and computer-readable recording medium
WO2018193544A1 (ja) 撮像装置および内視鏡装置
JP2013187711A (ja) 画像処理装置、撮像装置及び画像処理方法
TWI428108B (zh) 影像感測裝置及其處理系統
JP2009125411A (ja) 内視鏡画像処理方法および装置ならびにこれを用いた内視鏡システム
JP2018192043A (ja) 内視鏡及び内視鏡システム
JP2021003347A (ja) 医療用画像処理装置及び医療用観察システム
JP2018130450A (ja) 電子内視鏡システム
JP2016209380A (ja) 医療用撮像装置、撮像方法及び撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181002

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181018

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181204

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181227

R151 Written notification of patent or utility model registration

Ref document number: 6462594

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250