JP2017220926A - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP2017220926A
JP2017220926A JP2017099273A JP2017099273A JP2017220926A JP 2017220926 A JP2017220926 A JP 2017220926A JP 2017099273 A JP2017099273 A JP 2017099273A JP 2017099273 A JP2017099273 A JP 2017099273A JP 2017220926 A JP2017220926 A JP 2017220926A
Authority
JP
Japan
Prior art keywords
signal
image sensor
light
period
floating diffusion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017099273A
Other languages
English (en)
Other versions
JP6887097B2 (ja
Inventor
中村 達也
Tatsuya Nakamura
達也 中村
藤井 俊哉
Toshiya Fujii
俊哉 藤井
真明 柳田
Masaaki Yanagida
真明 柳田
貴真 安藤
Takamasa Ando
貴真 安藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JP2017220926A publication Critical patent/JP2017220926A/ja
Application granted granted Critical
Publication of JP6887097B2 publication Critical patent/JP6887097B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/30Transforming light or analogous information into electric information
    • H04N5/33Transforming infrared radiation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/044Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for absorption imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0655Control therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0033Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room
    • A61B5/004Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room adapted for image acquisition of a particular organ or body part
    • A61B5/0042Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room adapted for image acquisition of a particular organ or body part for the brain
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/145Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue
    • A61B5/1455Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/145Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue
    • A61B5/1455Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters
    • A61B5/14551Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters for measuring blood gases
    • A61B5/14553Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters for measuring blood gases specially adapted for cerebral tissue
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/40Detecting, measuring or recording for evaluating the nervous system
    • A61B5/4058Detecting, measuring or recording for evaluating the nervous system for evaluating the central nervous system
    • A61B5/4064Evaluating the brain
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7203Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal
    • A61B5/7207Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal of noise induced by motion artifacts
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/046Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for infrared imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/021Measuring pressure in heart or blood vessels
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024Detecting, measuring or recording pulse rate or heart rate
    • A61B5/02416Detecting, measuring or recording pulse rate or heart rate using photoplethysmograph signals, e.g. generated by infrared radiation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/026Measuring blood flow
    • A61B5/0261Measuring blood flow using optical means, e.g. infrared light
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/145Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue
    • A61B5/14546Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue for measuring analytes not otherwise provided for, e.g. ions, cytochromes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/165Evaluating the state of mind, e.g. depression, anxiety
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20224Image subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/63Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current

Abstract

【課題】被検体の内部の情報を高い精度で取得する。
【解決手段】本開示の一態様に係る撮像装置は、光源と、イメージセンサと、制御回路とを備える。イメージセンサの各画素は、信号電荷を蓄積する第1および第2の蓄積部と、排出部とを含む。制御回路は、光源から出射されたパルス光のうち、対象物の表面で反射された表面反射成分がイメージセンサに入射している間に、排出部に信号電荷が排出される状態にして、信号電荷のうち、排出部に排出されなかった部分を第1および第2の蓄積部に蓄積させ、対象物の内部で散乱された内部散乱成分がイメージセンサに入射している間に、排出部に信号電荷が排出されず、第1の蓄積部に信号電荷が蓄積される状態にして、第1の蓄積部に信号電荷を蓄積させ、イメージセンサに、第1および第2の蓄積部に蓄積された信号電荷にそれぞれ基づく第1および第2の信号を生成させる。
【選択図】図1

Description

本開示は、対象物の内部の情報を取得するための撮像装置に関する。
生体計測および材料分析の分野では、対象物に光を照射し、対象物の内部を透過した光の情報から、対象物の内部情報を非接触で取得する方法が用いられている。例えば、特許文献1は、人の頭部を光で照射し、CMOSまたはCCDのようなイメージセンサを用いて、生体内で拡散した光を検出する方法を開示している。また、特許文献2は、ストリークカメラを用いて、深さ方向において異なる位置にある情報を検出する方法を開示している。
特開2015−134157号公報 特開平4―189349号公報
本開示は、対象物の内部情報を、対象物に接触せず、かつ、対象物の表面で反射された強い光の成分によるノイズを抑制した状態で取得し得る技術を提供する。
本開示の一態様に係る撮像装置は、
対象物の画像を撮像するための撮像装置であって、
前記対象物に照射される少なくとも1つのパルス光を出射する第1の光源、
複数の画素を含み、前記複数の画素の各々が、
入射した光を信号電荷に変換する光電変換素子と、
前記信号電荷を蓄積する第1の蓄積部と、
前記信号電荷を蓄積する第2の蓄積部と、
前記信号電荷を排出する排出部と、を含む、イメージセンサ、並びに
前記第1の光源および前記イメージセンサを制御する制御回路
を備え、
前記制御回路は、1つのフレームの前記画像を撮像する期間であるフレーム期間において、
前記第1の光源に前記少なくとも1つのパルス光を出射させ、
前記少なくとも1つのパルス光のうち、前記対象物の表面で反射された表面反射成分が前記イメージセンサに入射している期間を含む第1期間に、
前記イメージセンサの状態を、前記排出部に前記信号電荷が排出される状態にすることにより、前記信号電荷のうち、前記排出部に排出されなかった部分を前記第1の蓄積部および前記第2の蓄積部に蓄積させ、
前記少なくとも1つのパルス光のうち、前記対象物の内部で散乱された内部散乱成分が前記イメージセンサに入射している第2期間に、
前記イメージセンサの状態を、前記排出部に前記信号電荷が排出されず、かつ前記第1の蓄積部に前記信号電荷が蓄積される状態にすることにより、前記第1の蓄積部に前記信号電荷を蓄積させ、
前記第1期間および前記第2期間の後、前記イメージセンサに、前記第1の蓄積部に蓄積された前記信号電荷に基づく第1の信号と、前記第2の蓄積部に蓄積された前記信号電
荷に基づく第2の信号とを生成させる。
上記の包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラム、または記録媒体で実現されてもよい。あるいは、システム、装置、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。
本開示の一態様によれば、対象物の内部情報を、対象物に接触せず、かつ、対象物の表面で反射された光の成分によるノイズを抑制した状態で取得できる。
図1は、撮像装置の概略的な構成を示す模式図である。 図2は、検討例におけるイメージセンサにおける1つの画素の構成を簡易的に示す図である。 図3は、光源から光が出射するタイミングと、対象物からの光がイメージセンサに入射するタイミングと、電子シャッタのタイミングとの関係を示す図である。 図4Aは、イメージセンサの構成例を模式的に示す図である。 図4Bは、画素アレイのうち、隣接する4つの画素を模式的に示す図である。 図4Cは、図4Bにおける4C−4C線断面を模式的に示す図である。 図4Dは、図4Cにおける4D−4D線に沿った信号電荷のポテンシャルを模式的に示す図である。 図5は、本開示の実施形態1における撮像装置の構成を模式的に示す図である。 図6は、ダブルバンドパスフィルタの分光透過率の例を示すグラフである。 図7は、イメージセンサの1つの画素401の概略的な構成を示す図である。 図8は、イメージセンサの構成の一例を模式的に示す図である。 図9は、実施形態1における撮像装置の動作の例を示すタイミング図である。 図10は、実施形態2の撮像装置におけるイメージセンサおよび光学系を模式的に示す図である。 図11Aは、実施形態2における1番目のフレーム期間の信号を取得する動作を示すタイミング図である。 図11Bは、実施形態2における2番目のフレーム期間の信号を取得する動作を示すタイミング図である。 図12は、実施形態2における、フレーム期間と、各浮遊拡散層との信号量とを模式的に示す図である。 図13Aは、実施形態3における1番目のフレーム期間のシステムタイミングを示している。 図13Bは、実施形態3における2番目のフレーム期間のシステムタイミングを示している。 図13Cは、実施形態3における3番目のフレーム期間のシステムタイミングを示している。 図14は、実施形態3における信号処理回路の構成を模式的に示すブロック図である。 図15は、実施形態3における信号処理の具体例を説明するための図である。 図16Aは、実施形態4における1番目のフレーム期間の動作を示すタイミング図である。 図16Bは、実施形態4における2番目のフレーム期間の動作を示すタイミング図である。 図16Cは、実施形態4における3番目のフレーム期間の動作を示すタイミング図である。 図17Aは、実施形態5における1番目のフレーム期間の動作を示すタイミング図である。 図17Bは、実施形態5における2番目のフレーム期間の動作を示すタイミング図である。 図17Cは、実施形態5における3番目のフレーム期間の動作を示すタイミング図である。 図18は、実施形態6における撮像装置の構成を示す図である。 図19は、実施形態6におけるイメージセンサの画素構成を模式的に示す図である。 図20は、実施形態6におけるイメージセンサの構成の一例を模式的に示す図である。 図21Aは、実施形態6における1番目のフレーム期間のシステムタイミングを示している。 図21Bは、実施形態6における2番目のフレーム期間のシステムタイミングを示している。 図21Cは、実施形態6における3番目のフレーム期間のシステムタイミングを示している。 図21Dは、実施形態6における4番目のフレーム期間のシステムタイミングを示している。 図21Eは、実施形態6における5番目のフレーム期間のシステムタイミングを示している。 図22Aは、図21Aに示す時刻aから時刻bにおける動作をより詳細に示す図である。 図22Bは、図22Aにおける点線枠内を拡大して示す図である。 図23は、実施形態7におけるCCD型のイメージセンサの画素の構成を示す図である。 図24は、実施形態7における動作を示すタイミング図である。
(本開示の基礎となった知見)
本開示の実施形態を説明する前に、本開示の基礎となった知見を説明する。
本発明者らの検討によれば、前述した先行技術には、以下の課題があることがわかった。
特許文献1に記載されている方法では、検出した光に含まれる成分の殆どは、生体の表面で反射された光の成分であり、生体内部(例えば脳)を経由した光の成分は微量である。そのため、脳を経由した光の成分による信号量に対して、表面で反射された光の成分に起因するショットノイズが無視できないほど大きくなる。すなわち、信号雑音比(SN比)が低くなるという課題がある。一方、特許文献2に開示された方法では、対象物の空間情報について、1次元の情報しか取得できない。また、パルス幅が数100フェムト秒〜数ピコ秒の超短パルスの光源およびストリークカメラが使用されるため、非常に高価であるという課題がある。
本発明者らは、前述の先行技術とは異なる原理に基づく撮像装置を検討した。図1は、そのような撮像装置の概略的な構成を示す模式図である。本発明者らは、図1に示すよう
な撮像装置101(「時間分解撮像システム」とも称する。)を用いて、対象物102(この例では人体頭部の内部の脳血流)を非接触で計測することを試みた。この撮像装置101は、近赤外領域のパルス光を発する第1の光源103と、第1の光源103から出射され、対象物102から戻ってきたパルス光を検出するイメージセンサ113と、第1の光源103およびイメージセンサ113を制御する制御回路114とを備えている。
第1の光源103は、例えばレーザーパルス光源であり、近赤外領域の波長の短パルス光を、制御回路114によって決定された高速のパターンで繰り返し出射する。第1の光源103から出射される光の波長は、検出対象が生体である場合、例えば略650nm以上略950nm以下に設定され得る。この波長範囲は、赤色から近赤外線の波長範囲に含まれ、生体内での吸収率が低く、生体内の情報を取得する用途に適している。なお、本明細書では、可視光のみならず赤外線についても「光」の用語を使用し、赤外線を「赤外光」と称することがある。
イメージセンサ113は、例えばピコ秒からナノ秒の時間スケールで信号の蓄積および排出の制御が可能な高い時間分解能を有している。制御回路114は、第1の光源103の発光タイミングと、イメージセンサ113の各画素の露光タイミングとを制御する。
光を対象物102(例えば人の額)に照射すると、対象物102の最表面で反射された強い光I1(以下、「表面反射光」または「表面反射成分」と称することがある。)がイメージセンサ113にまず到達する。続いて、対象物102の内部で散乱されて戻ってきた弱い光I2(以下、「内部散乱光」または「内部散乱成分」と称することがある。)が、光I1に遅れてイメージセンサ113に到達する。脳血流の情報は内部散乱成分I2に反映されるため、表面反射成分I1は不要である。そこで、本発明者らは、時間分解法を利用して対象物102の内部で散乱された光I2のみを検出することを試みた。
以下、図2から図4を参照しながら、対象物102からの表面反射成分I1と内部散乱成分I2とを分離して検出する方法の例(検討例)を説明する。
図2は、イメージセンサ113における1つの画素401の構成を簡易的に示す図である。イメージセンサ113は、撮像面に2次元的に配列された複数の画素と、各画素の信号電荷の蓄積および排出のタイミングを制御する高速タイミング制御回路414とを有している。高速タイミング制御回路414は、制御回路114からの指令に基づいて動作する。
イメージセンサ113の各画素401は、光電変換素子であるフォトダイオード403と、信号電荷を蓄積する蓄積部である浮遊拡散層(Floating Diffusion:FD)404と、信号電荷を排出する排出部であるドレイン402とを含む。
1回のパルス光の発光に起因して各画素401に入射した光は、フォトダイオード403によって信号電荷である信号エレクトロンに変換される。変換された信号エレクトロンは、高速タイミング制御回路414から入力される制御信号に従って、ドレイン402に排出されるか、信号電荷を蓄積する浮遊拡散層404に振り分けられる。高速タイミング制御回路414によるこの制御によって電子シャッタが実現される。
図3は、第1の光源103から光が出射するタイミングと、対象物102からの光がイメージセンサ113に入射するタイミングと、電子シャッタのタイミングとの関係を示す図である。図3において、信号Aは、第1の光源103から出射されるパルス光の波形を示している。信号Dは、パルス光のうち、対象物102の表面で反射されて戻ってくる表面反射成分I1の波形を示している。信号Eは、パルス光のうち、対象物102の内部で
散乱されて戻ってくる内部散乱成分I2の波形を示している。信号Fは、表面反射成分I1と内部散乱成分I2とを合わせた波形を示している。信号Bは、電子シャッタのOPEN、CLOSEのタイミングを示している。横軸は時間を表し、縦軸は、信号A、D、E、Fにおいては光の強度を、信号Bにおいては電子シャッタのOPENまたはCLOSEの状態を表している。ここで、「CLOSE」とは、ドレイン402に信号電荷が排出される状態を意味する。「OPEN」とは、信号電荷が排出されない状態を意味する。高速タイミング制御回路414は、例えば電圧の調整によって浮遊拡散層404およびドレイン402における信号電荷のポテンシャルエネルギー(以下、単に「ポテンシャル」と称する。)を変化させることにより、浮遊拡散層404への信号電荷の蓄積およびドレイン402への信号電荷の排出を制御できる。
第1の光源103が対象物102にパルス光を照射すると、前述のように、表面反射成分I1および内部散乱成分I2が発生する。内部散乱成分I2は、対象物102の内部を通過した光であるため、表面反射成分I1に比べて光路長が長い。したがって、内部散乱成分I2は、表面反射成分I1よりも遅れてイメージセンサ113に到達する。高速タイミング制御回路414は、イメージセンサ113に表面反射成分I1が入射している間は電子シャッタをCLOSEにする。例えば、高速タイミング制御回路414は、ドレイン402に印可する電圧を高くしてドレイン402における信号電荷(電子)のポテンシャルを下げ、ドレイン402に信号電荷が排出されるようにする。イメージセンサ113への表面反射成分I1の入射が終了すると(図3における時刻f)、高速タイミング制御回路414は、電子シャッタをOPENにする。例えば、高速タイミング制御回路414は、ドレイン402に印可する電圧を低くしてドレイン402における信号電荷のポテンシャルを上げ、浮遊拡散層404に信号電荷が蓄積されるようにする。その後、所定時間(例えば、発光パルス幅相当の時間)が経過するまで、OPENの状態を維持する。この間、浮遊拡散層FD404に、内部散乱成分I2に起因する信号電荷が蓄積される。その後、高速タイミング制御回路414は、電子シャッタを再びCLOSEにする。制御回路114は、電子シャッタがCLOSEになってから所定時間が経過した後、再びパルス発光を開始する。以後、上記動作が複数回(例えば数百回から数万回程度)繰り返される。その間に浮遊拡散層404に蓄積された信号電荷に基づいて1つのフレームの画像が生成される。
本デバイスでは、電子シャッタがCLOSE(即ち、ドレイン排出がアクティブ)であるとき、表面反射成分I1に起因する信号電荷がドレイン402に排出される。一方、電子シャッタがOPEN(即ち、ドレイン排出が非アクティブ)であるとき、内部散乱成分I2に起因する信号電荷がFD404に蓄積される。このような動作が実現されるように、各画素のフォトダイオード403、FD404、およびドレイン402における信号電荷のポテンシャルが設計されている。しかし、本発明者らの検討によれば、ドレイン排出がアクティブであっても、実際には全ての信号電荷が排出されるわけではなく、ごく一部(例えば1万分の1程度)の電荷は、FD404に漏れ込んでしまう。この漏れ込みが、脳血流のような微弱な生体信号を検出する際には、大きなノイズになり、検出精度の低下を招くことが判明した。
以下、この課題を、図4Aから図4Dを参照しながらより詳細に説明する。
図4Aは、イメージセンサ113の構成例を模式的に示す図である。ここでは一例として、CCD(Charge Coupled Device)の構造を有するイメージセンサ113を考える。このイメージセンサ113は、複数の画素401が撮像面に2次元的に配列された画素アレイと、画素駆動回路601と、水平CCD602と、出力回路603とを備える。
図4Bは、画素アレイのうち、隣接する4つの画素を模式的に示す図である。1つの画素401は、フォトダイオード403を含む。垂直方向(図における縦方向)に並んだ複数のフォトダイオード403に隣接して、垂直CCD604が配置されている。垂直CCD604は、信号電荷の蓄積および転送を行う要素であり、図2におけるFD404に相当する。
図4Cは、図4Bにおける4C−4C線断面を模式的に示す図である。図4Cに示すように、各垂直CCD604の上部(正面側)には、電極606と、電極606を覆う遮光部材605が設けられている。電極606と垂直CCD604との間には、図示されていない酸化膜が存在する。画素の背面側(図4Cにおける下側)には、ドレイン402が配置されている。ドレイン402は、例えば、N型半導体基板である。垂直CCD604には電圧Vvが印加される。ドレイン402には、電圧Vsubが印加される。垂直CCD604への信号電荷の蓄積、および信号電荷の排出は、電圧Vvと、電圧Vsubとによって制御される。高速タイミング制御回路414は、電圧VvおよびVsubを調整することにより、信号の蓄積および排出のタイミングを制御する。ドレイン402の上には、例えば、p型のウェル領域609が配置されている。図4Cに示すように、ウェル領域609内に、垂直CCD604およびフォトダイオード403が配置されている。垂直CCD604は、例えば、n型の半導体領域である、フォトダイオード403は、例えば、n型の半導体領域と、その上に配置されたp型の半導体領域とにより構成される。
図4Dは、図4Cにおける4D−4D線に沿った信号電荷である電子のポテンシャルを模式的に示す図である。電圧Vvがある値に設定されている状態において、電圧Vsubを所定値よりも低いLOW状態にすると、ドレイン402における電子のポテンシャルが、垂直CCD604におけるポテンシャルよりも高くなる。この状態では、信号電荷はドレイン402に排出されず、垂直CCD604に蓄積される。この状態は、電子シャッタがOPEN(ドレインが非アクティブ)の状態に相当する。一方、Vsubを上記所定値よりも高いHIGH状態にすると、ドレイン402における電子のポテンシャルが、垂直CCD604におけるポテンシャルよりも低くなる。このため、信号電荷はドレイン402に排出される。この状態は、電子シャッタがCLOSEの状態であるドレインがアクティブの状態に相当する。この状態では、大部分の信号電荷がドレイン402に排出され、垂直CCD604には信号電荷が殆ど蓄積されない。しかし、ごく一部の信号電荷(例えば全体の数万分の1程度)は、ドレイン402に排出されず、垂直CCD604に蓄積されてしまう。これは、信号電荷のポテンシャルのピークが、フォトダイオード403の領域のうち、垂直CCD604に近い端部にあるからである。このため、フォトダイオード403の端部に入射した一部の光(主に斜め光)に起因して生じた信号電荷は、ドレイン402に排出されず、垂直CCD604に蓄積され得る。また、垂直CCD604に斜め光が直接入射する場合もあり、この場合も不要な信号電荷が蓄積される。以上の問題は、CCDの構造を有するイメージセンサに限らず、CMOSなどの他の構造を有するイメージセンサでも同様に発生し得る。
電子シャッタがOPENのときに光電変換されて蓄積部であるFD404または垂直CCD604に蓄積される信号電荷は内部散乱成分I2に起因する信号電荷であり、その量は、表面反射成分I1に起因して発生する信号電荷の量の、例えば1万分の1程度である。このため、蓄積部には、表面反射光の漏れ込みによる信号電荷が、内部散乱光による信号電荷と比較して無視できないほどの比率で混在することになる。このような状態では、内部散乱光の光量およびその時間変化を正しく検出することができない。
以上の問題は、従来の撮像装置においては認識されていなかった。従来の撮像装置を用いて一般の対象物を撮影する場合には、電子シャッタがOPENの状態で対象物から入射する光の量が、電子シャッタがOFFの状態で蓄積部に漏れ込む光の量と比べて圧倒的に
多い。このため、光の漏れ込みは問題にはならない。しかし、人の頭部の奥にある脳血流の情報のような微弱な生体情報を検出するような場合には、蓄積部に漏れ込む表面反射成分が、内部散乱成分に対して無視できないため、上記の問題が生じる。
本発明者らは、以上の課題を見出し、新規なイメージセンサの構成を検討した。本発明者らは、イメージセンサの各画素に少なくとも2つの信号蓄積部を設け、そのうちの一方を用いて信号蓄積部に漏れ込む表面反射光による成分を検出することにより、他方の信号蓄積部で検出された信号から不要な成分を除去できることに想到した。以上の考察に基づいて、本発明者らは、以下の項目に記載の撮像装置を完成するに至った。
[項目1]
本開示の項目1に係る撮像装置は、
対象物の画像を撮像するための撮像装置であって、
前記対象物に照射される少なくとも1つのパルス光を出射する第1の光源、
複数の画素を含み、前記複数の画素の各々が、
入射した光を信号電荷に変換する光電変換素子と、
前記信号電荷を蓄積する第1の蓄積部と、
前記信号電荷を蓄積する第2の蓄積部と、
前記信号電荷を排出する排出部と、を含む、イメージセンサ、並びに
前記第1の光源および前記イメージセンサを制御する制御回路
を備え、
前記制御回路は、1つのフレームの前記画像を撮像する期間であるフレーム期間において、
前記第1の光源に前記少なくとも1つのパルス光を出射させ、
前記少なくとも1つのパルス光のうち、前記対象物の表面で反射された表面反射成分が前記イメージセンサに入射している期間を含む第1期間に、
前記イメージセンサの状態を、前記排出部に前記信号電荷が排出される状態にすることにより、前記信号電荷のうち、前記排出部に排出されなかった部分を前記第1の蓄積部および前記第2の蓄積部に蓄積させ、
前記少なくとも1つのパルス光のうち、前記対象物の内部で散乱された内部散乱成分が前記イメージセンサに入射している第2期間に、
前記イメージセンサの状態を、前記排出部に前記信号電荷が排出されず、かつ前記第1の蓄積部に前記信号電荷が蓄積される状態にすることにより、前記第1の蓄積部に前記信号電荷を蓄積させ、
前記第1期間および前記第2期間の後、前記イメージセンサに、前記第1の蓄積部に蓄積された前記信号電荷に基づく第1の信号と、前記第2の蓄積部に蓄積された前記信号電荷に基づく第2の信号とを生成させる。
[項目2]
項目1に記載の撮像装置において、
前記イメージセンサに電気的に接続された信号処理回路をさらに備え、
前記信号処理回路は、前記複数の画素の各々について、前記第1の信号および第2の信号を用いた演算を行うことにより、前記画像を示す信号を生成してもよい。
[項目3]
項目2に記載の撮像装置において、
前記信号処理回路は、前記複数の画素の各々について、前記第1の信号から前記第2の信号を減算することにより、前記画像を示す信号を生成してもよい。
[項目4]
項目1に記載の撮像装置において、
前記制御回路は、
前記フレーム期間とは異なる他のフレーム期間において、
前記第1の光源に前記少なくとも1つのパルス光を出射させ、
前記少なくとも1つのパルス光のうち、前記表面反射成分が前記イメージセンサに入射している期間を含む第3期間に、
前記イメージセンサの状態を、前記排出部に前記信号電荷が排出される状態にすることにより、前記信号電荷のうち、前記排出部に排出されなかった部分を前記第1の蓄積部および第2の蓄積部に蓄積させ、
前記第3期間の後、前記イメージセンサに、前記第1の蓄積部に蓄積された前記信号電荷に基づく第3の信号と、前記第2の蓄積部に蓄積された前記信号電荷に基づく第4の信号とを生成させてもよい。
[項目5]
項目4に記載の撮像装置は、
前記イメージセンサに電気的に接続された信号処理回路をさらに備え、
前記信号処理回路は、前記複数の画素の各々について、前記第1の信号、第2の信号、第3の信号および第4の信号を用いた演算を行うことにより、前記画像を示す信号を生成してもよい。
[項目6]
項目5に記載の撮像装置において、
前記第1の信号をS1、前記第2の信号をS2、前記第3の信号をS3、前記第4の信号をS4とするとき、
前記信号処理回路は、S=S1−S2×S3/S4の演算によって得られる信号Sを、前記画像を示す信号として生成してもよい。
[項目7]
項目1に記載の撮像装置において、
前記制御回路は、
前記フレーム期間とは異なる他のフレーム期間において、
前記第1の光源に前記少なくとも1つのパルス光を出射させ、
前記少なくとも1つのパルス光のうち、前記表面反射成分が前記イメージセンサに入射している期間を含む第3期間に、
前記イメージセンサの状態を、前記排出部に前記信号電荷が排出される状態にすることにより、前記信号電荷のうち、前記排出部に排出されなかった部分を前記第1の蓄積部および前記第2の蓄積部に蓄積させ、
前記少なくとも1つのパルス光のうち、前記内部散乱成分が前記イメージセンサに入射している第4期間に、
前記イメージセンサの状態を、前記排出部に前記信号電荷が排出されず、かつ前記第2の蓄積部に前記信号電荷が蓄積される状態にすることにより、前記第2の蓄積部に前記信号電荷を蓄積させ、
前記第3期間および前記第4期間の後、前記イメージセンサに、前記第1の蓄積部に蓄積された前記信号電荷に基づく第3の信号と、前記第2の蓄積部に蓄積された前記信号電荷に基づく第4の信号とを生成させてもよい。
[項目8]
項目7に記載の撮像装置において、
前記イメージセンサに電気的に接続された信号処理回路をさらに備え、
前記信号処理回路は、前記複数の画素の各々について、前記第3の信号に係数を乗算し
た信号を、前記第4の信号から減算することにより、前記他のフレーム期間における前記画像を示す信号を生成してもよい。
[項目9]
項目8に記載の撮像装置において、
前記信号処理回路は、前記複数の画素の各々について、前記画像を示す信号に基づいて、前記対象物の動きを検出し、
前記複数の画素のうち、前記対象物の動きがないと検出された画素について、前記第1から第4の信号の少なくとも一部を用いて、前記係数を変更してもよい。
[項目10]
項目1に記載の撮像装置において、
前記制御回路は、前記フレーム期間において、
前記少なくとも1つのパルス光が前記イメージセンサに入射していない期間に、
前記イメージセンサの状態を、前記排出部に前記信号電荷が排出されず、かつ前記第2の蓄積部に前記信号電荷が蓄積される状態にすることにより、前記第2の蓄積部に前記信号電荷をさらに蓄積させてもよい。
[項目11]
項目1に記載の撮像装置において、
前記少なくとも1つのパルス光は、第1のパルス光、および前記第1のパルス光の後に前記第1の光源から出射される第2のパルス光を含み、
前記制御回路は、
前記第1のパルス光の前記イメージセンサへの入射が終了した後、前記第2のパルス光の前記イメージセンサへの入射が開始する前に、
前記イメージセンサの状態を、前記排出部に前記信号電荷が排出されず、かつ前記第2の蓄積部に前記信号電荷が蓄積される状態にすることにより、前記第2の蓄積部に前記信号電荷をさらに蓄積させてもよい。
[項目12]
項目1に記載の撮像装置において、
前記制御回路は、前記フレーム期間において、
前記第1および前記第2の蓄積部への前記少なくとも1つのパルス光に起因する信号電荷の蓄積が完了した後、
前記イメージセンサの状態を、前記排出部に前記信号電荷が排出されず、かつ前記第2の蓄積部に前記信号電荷が蓄積される状態にすることにより、前記第2の蓄積部に前記信号電荷をさらに蓄積させてもよい。
[項目13]
項目1から12のいずれかに記載の撮像装置は、
前記第1の光源からの前記少なくとも1つのパルス光とは異なる波長を有する第4のパルス光を出射させる第2の光源をさらに備え、
前記イメージセンサは、前記信号電荷を蓄積する第3の蓄積部をさらに含み、
前記制御回路は、前記フレーム期間において、
前記第1期間および前記第2期間の後に、
前記第2の光源に前記第4のパルス光を出射させ、
前記第4のパルス光のうち、前記表面反射成分が前記イメージセンサに入射している期間を含む第5期間に、
前記イメージセンサの状態を、前記排出部に前記信号電荷が排出される状態にすることにより、前記信号電荷のうち、前記排出部に排出されなかった部分を前記第1の蓄積部
、前記第2の蓄積部および第3の蓄積部に蓄積させ、
前記第4のパルス光のうち、前記内部散乱成分が前記イメージセンサに入射している第6期間に、
前記イメージセンサの状態を、前記排出部に前記信号電荷が排出されず、かつ前記第3の蓄積部に前記信号電荷が蓄積される状態にすることにより、前記第3の蓄積部に前記信号電荷を蓄積させ、
前記第5期間および前記第6期間の後、前記イメージセンサに、前記第1の蓄積部に蓄積された前記信号電荷に基づく前記第1の信号と、前記第2の蓄積部に蓄積された前記信号電荷に基づく前記第2の信号と、前記第3の蓄積部に蓄積された前記信号電荷に基づく前記第3の信号とを生成させてもよい。
本開示において、回路、ユニット、装置、部材又は部の全部又は一部、又はブロック図の機能ブロックの全部又は一部は、半導体装置、半導体集積回路(IC)、又はLSI(large scale integration)を含む一つ又は複数の電子回路によって実行されてもよい。LSI又はICは、一つのチップに集積されてもよいし、複数のチップを組み合わせて構成されてもよい。例えば、記憶素子以外の機能ブロックは、一つのチップに集積されてもよい。ここでは、LSIまたはICと呼んでいるが、集積の度合いによって呼び方が変わり、システムLSI、VLSI(very large scale integration)、若しくはULSI(ultra large scale integration)と呼ばれるものであってもよい。 LSIの製造後にプログラムされる、Field Programmable Gate Array(FPGA)、又はLSI内部の接合関係の再構成又はLSI内部の回路区画のセットアップができるreconfigurable logic deviceも同じ目的で使うことができる。
さらに、回路、ユニット、装置、部材又は部の全部又は一部の機能又は操作は、ソフトウエア処理によって実行することが可能である。この場合、ソフトウエアは一つ又は複数のROM、光学ディスク、ハードディスクドライブなどの非一時的記録媒体に記録され、ソフトウエアが処理装置(processor)によって実行されたときに、そのソフトウエアで特定された機能が処理装置(processor)および周辺装置によって実行される。システム又は装置は、ソフトウエアが記録されている一つ又は複数の非一時的記録媒体、処理装置(processor)、及び必要とされるハードウエアデバイス、例えばインターフェース、を備えていても良い。
以下、本開示の実施形態を、図面を参照しながら詳細に説明する。なお、以下で説明する実施形態は、いずれも包括的または具体的な例を示している。以下の実施形態で示される数値、形状、材料、構成要素、構成要素の配置および接続形態、ステップ、ステップの順序などは、一例であり、本開示を限定する主旨ではない。本明細書において説明される種々の態様は、矛盾が生じない限り互いに組み合わせることが可能である。また、以下の実施形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。以下の説明において、実質的に同じまたは類似する構成要素は共通の参照符号で示し、説明を省略することがある。
(実施形態1)
本実施形態の撮像装置は、対象物として、生体等の光散乱体を対象としている。より具体的には、本実施形態の撮像装置は、観測すべき被検者の脳内の酸素化ヘモグロビンおよび脱酸素化ヘモグロビンの濃度分布と、その時間変化とを検出する。これにより、当該濃度分布を示す2次元画像(静止画像または動画像)を生成することができる。当該画像の情報を利用することにより、例えば、被検者の脳活動(例えば、集中度または感情等)を推定することができる。本実施形態の撮像装置は、上記のような生体情報を非接触で検出
することができるため、検出に伴う煩わしさを解消することができる。さらに、対象物の表面で反射された強い表面反射光に起因する信号電荷の一部が蓄積部に漏れ込むことによって生じる不要な信号成分を高い精度で除去することができる。これにより、従来技術と比較して、生体情報の検出精度を大きく向上させることができる。以下、このような高精度の検出を可能とする本実施形態の撮像装置の構成および動作を説明する。
[1.構成]
図5は、本実施形態における撮像装置101の構成を模式的に示す図である。図5には、撮像装置101だけでなく、検出対象である対象物102(人体頭部)も示されている。本実施形態の撮像装置101は、概略的には、図1に示す検討例における撮像装置101と同じ構成を有する。ただし、本実施形態では、光源の数が2個であり、イメージセンサ113が3個の蓄積部を有している点で、前述の検討例とは異なっている。
撮像装置101は、第1の光源103と、第2の光源104と、イメージセンサ113と、ダブルバンドパスフィルタ112と、光学系111と、制御回路114と、信号処理回路115とを備える。第1の光源103と、第2の光源104とは、撮像装置101の正面方向(対象物102が位置する方向)に向けてパルス光を出射する。本実施形態では、第1の光源103は、中心波長が750nmの狭帯域のパルス光を出射するレーザ光源である。第2の光源104は、中心波長が850nmの狭帯域のパルス光を出射するレーザ光源である。イメージセンサ113は、光学系111の結像面に配置され、対象物102からの反射光を検出する。光学系111は、対象物102とイメージセンサ113との間に配置され、1つまたは複数のレンズを含み得る。光学系111は、対象物102からの光を集光してイメージセンサ113の撮像面に結像する。ダブルバンドパスフィルタ112は、光学系111とイメージセンサ113との間に配置され、第1の光源103および第2の光源104からの光の波長に相当する2つの狭帯域の波長の光のみを主に透過させる。制御回路114は、第1の光源103、第2の光源104およびイメージセンサ113に接続され、これらの動作を制御する。より具体的には、制御回路114は、第1の光源103および第2の光源104の発光タイミングと、イメージセンサ113の各画素の信号蓄積および信号排出のタイミングとを同期して制御する。これにより、生体内部の脳血流の情報を高い精度で検出することができる。信号処理回路115は、イメージセンサ113に接続され、イメージセンサ113から出力された電気信号である画素ごとの明暗の情報に基づいて、画像データ(例えば2次元の動画像のデータ)を生成して出力する。生成された画像データは、例えば不図示のディスプレイに送られ、脳血流の状態を示す画像がディスプレイに表示され得る。なお、信号処理回路115は、撮像装置101の外部の装置に設けられていてもよい。例えば、撮像装置101に有線または無線で接続される外部のコンピュータが信号処理回路115を備えていてもよい。そのような態様では、撮像装置101が計算負荷の高い演算を行う必要がないため、撮像装置101を安価に構成し得る。なお、撮像装置101は、図5に示されていない他の要素を含み得る。例えば、撮像装置101は、第1の光源103および第2の光源104からの光の進行方向を変化させるミラーなどの光学系、または無線通信を行う通信回路などを備えていてもよい。
図5に示す各構成要素は、同一の筐体内に配置されている必要はない。例えば、撮像装置101は、スマートフォンまたはタブレットコンピュータのような情報端末と、当該情報端末に接続される他の装置との組み合わせによって実現され得る。そのようなアタッチメントは、第1の光源103および第2の光源104、イメージセンサ113、ダブルバンドパスフィルタ112、および光学系111を備え得る。情報端末に特定のソフトウェアをインストールすることにより、情報端末のプロセッサ(CPUおよびGPUなど)を、制御回路114および信号処理回路115として機能させることができる。
以下、各構成要素をより詳細に説明する。
[1−1.第1の光源103および第2の光源104]
本実施形態における第1の光源103は、中心波長が750nmの狭帯域のパルス光を出射するレーザーパルス光源である。第2の光源104は、中心波長が850nmの狭帯域のパルス光を出射するレーザーパルス光源である。第1の光源103および第2の光源104の各々は、後述するように、制御回路114によって決定された所定のパターンでパルス光を繰り返し出射する。第1の光源103および第2の光源104が出射するパルス光は、例えば、立ち下り時間である立ち下りを開始してから完全に立ち下るまでの時間がゼロに近い矩形波状の光であり得る。第1の光源103および第2の光源104が発生させるパルス光の立ち上り時間である立ち上りを開始してから完全に立ち上るまでの時間は任意である。第1の光源103および第2の光源104は、パルス光の立ち下り部分が時間軸に対して垂直に近い(即ち、時間応答特性が急進な)レーザーダイオード(LD)などの光源であり得る。第1の光源103および第2の光源104には、例えば半導体レーザ、固体レーザ、ファイバレーザなどの、パルス光を発する任意の種類の光源が用いられ得る。
本実施形態の撮像装置101では、対象物102が人体であるため、網膜への影響が考慮された第1の光源103および第2の光源104が用いられ得る。例えば、レーザ光源を使用する場合、各国で策定されているレーザ安全基準のクラス1を満足する光源が用いられ得る。クラス1が満足されている場合、被爆放出限界(AEL)が1mWを下回るほどの低照度の光が対象物102に照射される。第1の光源103および第2の光源104自体がクラス1を満たしていなくても、他の光学素子との組み合わせによってクラス1が満たされていてもよい。例えば、拡散板またはNDフィルタなどの素子が第1の光源103および第2の光源104と対象物102との間に配置され、光が拡散または減衰されることによってレーザ安全基準のクラス1が満たされてもよい。
第1の光源103および第2の光源104がそれぞれ発する光の波長は、750nmおよび850nmに限定されない。例えば650nm以上950nm以下の波長範囲に含まれる任意の波長の光が用いられ得る。上記の波長範囲は、「生体の窓」と呼ばれており、生体内の水分およびヘモグロビンに比較的吸収されにくいという性質を有する。生体を検出対象にする場合、上記の波長範囲の光を使用することにより、検出感度を高くすることができる。本実施形態のように、対象物102の脳血流中の酸素化ヘモグロビンおよび脱酸素化ヘモグロビンの濃度を検出する場合、使用される光は、805nmよりも長い波長の近赤外光と、および805nmよりも短い波長の赤色光または近赤外光とであり得る。酸素化ヘモグロビンは、脱酸素化ヘモグロビンと比較して、805nmよりも長い波長の光を相対的によく吸収する。逆に、脱酸素化ヘモグロビンは、酸素化ヘモグロビンと比較して、805nmよりも短い波長の光を相対的によく吸収する。したがって、805nmよりも長い波長の光と、805nmよりも短い波長の光とを用いることにより、血流中の酸素化ヘモグロビンおよび脱酸素化ヘモグロビンの各々の濃度変化を精度よく検出することができる。このように、検出対象に対する吸収率が異なる複数の波長を選択することで、検出対象の特性を分析することができる。他の生体情報(例えば、心拍、血流量、血圧など)を検出する場合には、複数の波長の光を使用する必要はない。図1に示す構成のように、1つの第1の光源103を用いて、本実施形態と同様の制御を行ってもよい。後述する他の実施形態についても同様に、光源の数は1つでもよい。
なお、本開示において、対象物102は生体に限定されない。例えば、ガス、薬品、食品などの他の種類の光散乱体を対象物102にすることも可能である。第1の光源103および第2の光源104が発する光の波長域は、近赤外線の波長域である約700nm以上約2500nm以下に限定されず、例えば可視光の波長域である約400nm以上約700nm以下、紫外線の波長域である約10nm以上約400nm以下であってもよい。
用途によっては、中赤外線、遠赤外線、またはテラヘルツ波もしくはミリ波等の電波域の電磁波を使用することもできる。
図1を参照して説明したように、第1の光源103および第2の光源104から対象物102に到達した光は、対象物102の表面で反射する成分である表面反射成分I1と、対象物102の内部で1回反射もしくは散乱、または多重散乱する成分である内部散乱成分I2とに分かれる。表面反射成分I1は、直接反射成分、拡散反射成分、および散乱反射成分の3つを含む。直接反射成分は、入射角と等しい反射角で反射される成分である。拡散反射成分は、表面の凹凸形状に起因して拡散して反射される成分である。散乱反射成分は、表面近傍の内部組織によって散乱して反射される成分である。対象物102が人の肌である場合、散乱反射成分は、表皮内部で散乱して反射される成分である。本開示では、表面反射成分I1は、これら3つの成分を含むものとする。また、内部散乱成分I2は、表面近傍の内部組織によって散乱して反射する成分を含まないものとする。表面反射成分I1および内部散乱成分I2は、反射または散乱によって進行方向が変化し、その一部が光学系111およびダブルバンドパスフィルタ112を透過してイメージセンサ113に到達する。
[1−2.光学系111およびダブルバンドパスフィルタ112]
本実施形態における光学系111は、テレセントリックな光学系を実現するカメラレンズである。テレセントリックな光学系111を用いることにより、各画素に斜めに入射する光を少なくすることができるため、後述するように、信号処理を簡単にすることができる。
ダブルバンドパスフィルタ112は、750nmおよび850nmの二波長の光を主に透過させるフィルタである。図6は、ダブルバンドパスフィルタ112の分光透過率の例を示すグラフである。図示されるように、ダブルバンドパスフィルタ112は、第1の光源103および第2の光源104からそれぞれ出射される750nmおよび850nmを中心波長とする狭帯域の光を透過させ、それ以外の波長の光を遮光する。このようなダブルバンドパスフィルタ112を配置することにより、外乱光(例えば背景光)がイメージセンサ113に入射することを抑制できる。
[1−3.イメージセンサ113]
イメージセンサ113は、第1の光源103および第2の光源104から出射され対象物102で反射された光を受光する。イメージセンサ113は、撮像面上に2次元に配列された複数の画素を有し、対象物102の内部の2次元情報を取得する。イメージセンサ113は、例えば、CCDイメージセンサまたはCMOSイメージセンサであり得る。
イメージセンサ113は、電子シャッタを有する。電子シャッタは、受光した光を有効な電気信号に変換して蓄積する1回の信号蓄積の期間(「露光期間」と称する。)の長さ(「シャッタ幅」と称する。)と、1回の露光期間が終了してから次の露光期間が開始するまでの時間とを制御する回路である。本明細書において、電子シャッタが露光している状態を「OPEN」(開いた状態)と表現し、電子シャッタが露光を停止している状態を「CLOSE」(閉じた状態)と表現する。イメージセンサ113は、電子シャッタによって1回の露光期間が終了してから次の露光期間が開始するまでの時間をサブナノ秒(例えば、30ps〜1ns)の時間スケールで調整できる。本実施形態では、対象物までの距離の測定を目的とする従来のTOF(Time of Flight)カメラと異なり、シャッタ幅をパルス幅よりも大きくする必要はない。従来のTOFカメラは、対象物の明るさを補正するために、光源から出射して対象物で反射されて戻ってきたパルス光の全てを検出する。したがって、従来のTOFカメラでは、シャッタ幅が光のパルス幅よりも大きい必要があった。これに対し、本実施形態の撮像装置101は、対象物からの光量を
補正する必要が無いため、シャッタ幅がパルス幅よりも大きい必要はない。本実施形態では、シャッタ幅は、例えば、1〜30ns程度であり得る。本実施形態の撮像装置101によれば、シャッタ幅を従来よりも短縮できるため、検出信号に含まれる暗電流を低減することができる。
対象物102が例えば人の額であり、脳血流などの情報を検出する用途では、対象物102の内部での光の減衰率は非常に大きく、例えば、100万分の1程度に減衰し得る。このため、内部散乱光I2を検出するには、1パルスの照射だけでは光量が不足する場合がある。この場合、第1の光源103および第2の光源104がパルス光を複数回発光し、それに応じてイメージセンサ113も電子シャッタによって複数回露光するようにしてもよい。そのような動作によれば、検出信号が積算されることにより、感度を向上させることができる。
図7は、イメージセンサ113の1つの画素401の概略的な構成を示す図である。なお、図7は、1つの画素401の構成を模式的に示しており、現実の構造を必ずしも反映していない。画素401は、光電変換を行う光電変換素子であるフォトダイオード403と、信号電荷を蓄積する蓄積部である浮遊拡散層404、405、406と、信号電荷を排出する排出部であるドレイン402とを含む。各浮遊拡散層404、405、406およびドレイン402の機能は、図2を参照しながら説明した機能と同様である。
イメージセンサ113は、制御回路114からの指令に基づいて各画素401における信号電荷の蓄積および排出を制御する高速タイミング制御回路414を備えている。高速タイミング制御回路414は、プロセッサとメモリとを有する回路(例えば、マイクロコントローラユニット)であり得る。高速タイミング制御回路414は、メモリに格納された制御プログラムに従い、外部の制御回路114からの指示に応じて浮遊拡散層404、405、406への信号電荷の蓄積、およびドレイン402への信号電荷の排出を制御する。イメージセンサ113は、複数の浮遊拡散層404、405、406を有することにより、高い時間分解能で撮像することができる。
本実施形態では、イメージセンサ113の正面側にテレセントリックな光学系111が配置されているため、フォトダイオード403を中心に等方的に光が漏れ込むと考えられる。このため、浮遊拡散層404、405、406は、フォトダイオード403に対して等方的または等距離に配置され得る。
1回のパルス光の発光に起因して各画素401に入射した光は、フォトダイオード403によって信号電荷である信号エレクトロンに変換される。変換された信号エレクトロンは、高速タイミング制御回路414から入力される制御信号に従って、ドレイン402に排出されるか、3つの浮遊拡散層404、405、406のいずれかに振り分けられる。
図8は、イメージセンサ113の構成の一例を模式的に示す図である。図8において、破線の枠で囲まれた領域が1つの画素401に相当する。画素401は、3つの浮遊拡散層404、405、406を含む。3つの浮遊拡散層404、405、406に蓄積される信号は、あたかも一般的なCMOSイメージセンサの3画素の信号のように取り扱われ、イメージセンサ113から出力される。なお、図8には、各浮遊拡散層に信号電荷の蓄積が完了してから、浮遊拡散層内の信号電荷をイメージセンサ113から出力する動作(「低速読み出し動作」と称する。)に関係する要素のみが示されている。ドレイン402、フォトダイオード403、および高速タイミング制御回路414は、低速読み出し動作には直接関係しないので、図8からは省略されている。
各画素401は、3つの信号検出回路を含む。各信号検出回路は、ソースフォロワトラ
ンジスタ509と、行選択トランジスタ508と、リセットトランジスタ510とを含む。この例では、リセットトランジスタ510が、図7に示すドレイン402に相当する。リセットトランジスタ510のゲートに入力されるパルス信号により、信号電荷の排出が制御される。各トランジスタは、例えば半導体基板に形成された電界効果トランジスタであるが、これに限定されない。図示されるように、ソースフォロワトランジスタ509の入力端子および出力端子の一方(典型的にはソース)と、行選択トランジスタ508の入力端子および出力端子のうちの一方(典型的にはドレイン)とが接続されている。ソースフォロワトランジスタ509の制御端子であるゲートは、図8には示されていないフォトダイオード403に電気的に接続されている。フォトダイオード403によって生成された信号電荷である正孔または電子は、フォトダイオード403とソースフォロワトランジスタ509との間の蓄積部である浮遊拡散層404、405、406に蓄積される。
浮遊拡散層404、405、406に蓄積された信号電荷は、行選択回路502によって行選択トランジスタ508のゲートがONにされることにより、読み出される。この際、浮遊拡散層404、405、406の信号の電位に応じて、ソースフォロワ電源505からソースフォロワトランジスタ509およびソースフォロワ負荷506へ流入する電流が増幅される。垂直信号線504から読み出されるこの電流によるアナログ信号は、列毎に接続されたアナログ−デジタル(AD)変換回路507によってデジタル信号データに変換される。このデジタル信号データは、列選択回路503によって列ごとに読み出され、イメージセンサ113から出力される。行選択回路502および列選択回路503は、1つの行の読出しを行った後、次の行の読み出しを行い、以下同様に、全ての行の浮遊拡散層の信号電荷の情報を読み出す。高速タイミング制御回路414は、全ての信号電荷を読み出した後、リセットトランジスタ510のゲートをオンにすることで、全ての浮遊拡散層をリセットする。これにより、1つのフレームの撮像が完了する。以下同様に、フレームの高速撮像を繰り返すことにより、イメージセンサ113による一連のフレームの撮像が完結する。
なお、本実施形態では、CMOS型のイメージセンサ113の例を説明したが、イメージセンサ113はCCD型であっても、単一光子計数型素子であっても、増幅型イメージセンサであるEMCCD、ICCDであっても構わない。
[1−4.制御回路114および信号処理回路115]
制御回路114は、例えば、マイクロプロセッサおよびメモリの組み合わせ、またはプロセッサおよびメモリを内蔵するマイクロコントローラ等の集積回路であり得る。制御回路114は、例えばプロセッサがメモリに記録された制御プログラムを実行することにより、第1の光源103および第2の光源104への点灯指示、イメージセンサ113への撮像指示、および信号処理回路115への演算指示等を行う。制御回路114からの指示に基づいて、イメージセンサ113における高速タイミング制御回路414は、各画素における信号電荷の蓄積および排出を制御する。
信号処理回路115は、イメージセンサ113から出力された画像信号を処理する回路である。信号処理回路115は、例えばデジタルシグナルプロセッサ(DSP)、フィールドプログラマブルゲートアレイ(FPGA)等のプログラマブルロジックデバイス(PLD)、または中央演算処理装置(CPU)もしくは画像処理用演算プロセッサ(GPU)とコンピュータプログラムとの組み合わせによって実現され得る。なお、制御回路114および信号処理回路115は、統合された1つの回路によって実現されていてもよい。
本実施形態における信号処理回路115は、イメージセンサ113から出力された信号に基づき、脳内の酸素化ヘモグロビンおよび脱酸素化ヘモグロビンの濃度分布と、その時間変化とを示す動画像データを生成する。信号処理回路115は、そのような動画像デー
タに限らず、他の情報を生成してもよい。例えば、脳における血流量、血圧、血中酸素飽和度、または心拍数などの生体情報を生成してもよい。
脳血流量または血流内成分(例えばヘモグロビン)の変化と、人間の神経活動との間には密接な関係があることが知られている。例えば、人間の感情の変化に応じて神経細胞の活動が変化することにより、脳血流量または血液内の成分が変化する。したがって、脳血流量または血液内成分の変化などの生体情報を計測できれば、被検者の心理状態を推定することができる。被検者の心理状態とは、例えば、気分(例えば、快、不快)、感情(例えば、安心、不安、悲しみ、憤りなど)、健康状態(例えば、元気、倦怠)、温度感覚(例えば、暑い、寒い、蒸し暑い)などを意味する。また、これに派生して、脳活動の程度を表す指標、例えば熟練度、習熟度、および集中度なども心理状態に含まれる。信号処理回路115は、脳血流量などの変化に基づいて、被検者の集中度などの心理状態を推定し、推定結果を示す信号を出力してもよい。
[2.動作]
次に、本実施形態の撮像装置101の動作を説明する。
図1を参照して説明したとおり、対象物102である頭部に照射された750nmまたは850nmの波長の光の大部分のエネルギーは、対象物102の表面で反射される。しかし、ごく一部の成分は対象物102の深部まで散乱しながら到達し、さらに散乱を継続して、極少量のエネルギー成分が内部散乱成分として、再び頭部の額表面に到達する。その光の一部は、光学系111およびダブルバンドパスフィルタ112を透過して、イメージセンサ113に到達する。
イメージセンサ113に到達する内部散乱光のエネルギーは、イメージセンサ113に到達する表面反射光のエネルギーの約1万分の1程度に減衰し得る。この減衰した光の成分に脳活動の情報が含まれるため、エネルギーの高いノイズである表面反射成分の影響を如何に除去するかが重要な問題となる。
そこで、本実施形態における制御回路114は、図3を参照して説明した例と同様、イメージセンサ113の各画素において、パルス光の表面反射成分が入射している間は電子シャッタをCLOSEにし、表面反射成分の後端が入射した後、内部散乱成分が入射している間に電子シャッタをOPENに切り替える。そして、発光パルス幅相当の期間、シャッタOPENの状態を維持し、再びシャッタをCLOSEにする。その後、次のパルス発光を行い、同じ動作を行う。以上の動作を繰り返すことで、表面反射光に起因する成分を効率良く除去して、脳活動の情報を含む内部散乱光の成分のみを検出することができる。
なお、発光を開始してから電子シャッタをCLOSEからOPENに切り替えるまでの時間は、検出開始前に予め決定され得る。例えば、検出開始前に、第1の光源103または第2の光源104による予備的な発光を行い、その光をイメージセンサ113で検出することにより、発光を開始してから表面反射成分の後端がイメージセンサ113に到達するまでの時間を測定できる。当該時間を、発光を開始してから電子シャッタをOPENにするまでの時間に設定すればよい。
対象物102が人の額であり、脳血流などの情報を検出する際には、内部での光の減衰率が非常に大きいため、内部散乱光のみを検出するには、1パルスの照射だけでは光量が不足し得る。このため、本実施形態では、パルス光を複数回発光し、それに応じてイメージセンサ113の電子シャッタによって複数回露光する。これにより、検出信号が積算されるため、感度を向上させることができる。しかし、用途によっては、複数回の発光および露光を行わなくてもよい場合もあり得る。その場合には、各光源について、1フレーム
期間あたり1回の発光および露光が行われる。
前述のように、電子シャッタがCLOSEの場合であっても、全ての信号電荷が排出されるわけではない。強い表面反射光に起因する信号電荷の一部は、各浮遊拡散層に漏れ込んでしまう。そこで、本実施形態では、この漏れ込む信号電荷の量を検出するために、常に非アクティブに設定される浮遊拡散層406が配置されている。本実施形態において、浮遊拡散層404、405は本開示における第1の蓄積部に相当し、浮遊拡散層406は本開示における第2の蓄積部に相当する。
図9は、本実施形態における撮像装置101の動作の例を示すタイミング図である。図9において、信号A1、A2はそれぞれ第1の光源103、第2の光源104から出射されるパルス光の波形を示し、信号Bは電子シャッタのOPEN、CLOSEのタイミングを示し、信号C1、C2、C3はそれぞれ浮遊拡散層404、405、406のON(すなわち浮遊拡散層に電荷が蓄積される状態)、OFF(すなわち浮遊拡散層に電荷が蓄積されない状態)のタイミングを示す。
図9は、1つのフレームの画像信号を取得する期間(「フレーム期間」と称する。)の動作を例示している。1つのフレーム期間は、750nmの波長の光を出射する第1の光源103を用いて撮像する期間と、850nmの波長の光を出射する第2の光源104を用いて撮像する期間とに分けられる。制御回路114は、まず、第1の光源103を所定の周期で複数回発光させ、その発光に同期して浮遊拡散層404に信号電荷を蓄積させる。次に、制御回路114は、第2の光源104を所定の周期で複数回発光させ、その発光に同期して浮遊拡散層405に信号電荷を蓄積させる。浮遊拡散層404に蓄積された信号電荷は、750nmの波長の光に基づく画像の生成に用いられる。浮遊拡散層405に蓄積された信号電荷は、850nmの波長の光に基づく画像の生成に用いられる。以下、この動作をより詳細に説明する。
制御回路114は、まず、750nmの波長の光を出射する第1の光源103にパルス光を複数回出射させる。例えば、制御回路114は、第1の光源103に、約10nsのパルス幅のパルス光を、約10MHzの周波数で、100μsec程度の期間にわたって1000回程度繰り返し発光させる。第1の光源103の発光が繰り返されている間、浮遊拡散層404はアクティブの状態に、浮遊拡散層405、406は、非アクティブの状態にされる。この状態において、第1の光源103の発光に同期して電子シャッタのOPENおよびCLOSEの状態が切り替えられる。より具体的には、イメージセンサ113における高速タイミング制御回路414は、図1を参照して説明したように、対象物102からのパルス光の内部散乱成分がフォトダイオード403に入射する期間だけ、ドレイン402のポテンシャルを相対的に高くして電子シャッタをOPENにする。当該期間以外においては、高速タイミング制御回路414は、ドレイン402のポテンシャルを相対的に低くして電子シャッタをCLOSEにする。このような制御により、対象物102からの内部散乱光に起因してフォトダイオード403で発生した信号電荷は、浮遊拡散層404に繰り返し蓄積される。
制御回路114は、浮遊拡散層404への信号電荷の蓄積が完了すると、浮遊拡散層404を非アクティブにし、代わりに、浮遊拡散層405をアクティブにする。浮遊拡散層406は、非アクティブのままである。この状態で、制御回路114は、850nmの波長の光を出射する第2の光源104のパルス発光を開始する。第2の光源104のパルス発光も、第1の光源103のパルス発光と同じ周波数、パルス幅で、同じ回数だけ行われ得る。以後、第2の光源104の発光に同期して電子シャッタのOPENおよびCLOSEの状態が切り替えられる。高速タイミング制御回路414は、対象物102からのパルス光の内部散乱成分がフォトダイオード403に入射する期間だけ、ドレイン402のポ
テンシャルを相対的に高くして電子シャッタをOPENにする。当該期間以外においては、高速タイミング制御回路414は、ドレイン402のポテンシャルを相対的に低くして電子シャッタをCLOSEにする。このような制御により、対象物102からの内部散乱光に起因してフォトダイオード403で発生した信号電荷が、浮遊拡散層405に繰り返し蓄積される。
以上の動作が完了すると、制御回路114は、イメージセンサ113に、浮遊拡散層404、405、406にそれぞれ蓄積された信号電荷に基づく電気信号を生成させる。イメージセンサ113は、生成した電気信号を、信号処理回路115に送る。信号処理回路115は、浮遊拡散層404に蓄積された信号電荷に基づく信号から、浮遊拡散層406に蓄積された信号電荷に基づく信号を減算することにより、第1の光源103からの光の波長に対応する画素信号を生成する。同様に、浮遊拡散層405に蓄積された信号電荷に基づく信号から、浮遊拡散層406に蓄積された信号電荷に基づく信号を減算することにより、第2の光源104からの光の波長に対応する画素信号を生成する。このような演算を画素ごとに実行することにより、750nmおよび850nmの各波長に対応する画像の各画素の信号が得られる。以上の処理により、信号処理回路115は、波長750nm、850nmのそれぞれについて、画像のデータを生成する。
[3.効果等]
以上のように、本実施形態における撮像装置は、対象物に照射されるパルス光を発する第1の光源103および第2の光源104と、イメージセンサ113と、制御回路114と、信号処理回路115とを備える。イメージセンサ113は、複数の画素を有し、各画素が、光電変換素子と、光電変換素子で生じた信号電荷を蓄積する3つの蓄積部とを有する。第1の光源103は、第1波長域(例えば750nmを中心とする波長域)のパルス光を出射する。第2の光源104は、第2波長域(例えば850nmを中心とする波長域)のパルス光を出射する。制御回路114は、第1の光源103にパルス光を出射させるタイミングと、3つの蓄積部に信号電荷を蓄積させるタイミングと、信号電荷を排出するタイミングとを制御する。制御回路114は、以下の動作を実行する。
(1)1つのフレーム期間において、第1の光源103および第2の光源104の各々に、少なくとも1つのパルス光を出射させる。
(2)第1の光源103および第2の光源104の各々から出射されたパルス光のうち、対象物102の表面で反射された表面反射成分I1がイメージセンサ113に入射している期間を少なくとも含む期間に、ドレイン402に信号電荷が排出される状態にして、フォトダイオード403で生じた信号電荷のうち、排出されずに残った信号電荷を浮遊拡散層406に蓄積させる。
(3)第1の光源103から出射された中心波長750nmのパルス光のうち、表面反射成分I1の後端がイメージセンサ113に入射した後、対象物の内部で散乱されて戻ってきた内部散乱成分I2がイメージセンサ113に入射している期間に、ドレイン402に信号電荷が排出されず、かつ浮遊拡散層404に信号電荷が蓄積される状態にして、浮遊拡散層404に信号電荷を蓄積させる。
(4)第2の光源104から出射された中心波長850nmのパルス光のうち、表面反射成分I1の後端がイメージセンサ113に入射した後、対象物の内部で散乱されて戻ってきた内部散乱成分I2がイメージセンサ113に入射している期間に、ドレイン402に信号電荷が排出されない状態にして、浮遊拡散層404に信号電荷を蓄積させる。
(5)浮遊拡散層404、405、406への信号電荷の蓄積が完了した後、イメージセンサ113に、浮遊拡散層404に蓄積された信号電荷に基づく信号S1と、浮遊拡散層405に蓄積された信号電荷に基づく信号S2と、浮遊拡散層406に蓄積された信号電荷に基づく信号S3とを生成させる。
信号処理回路115は、画素ごとに信号S1から信号S3を減算することにより、中心波長750nmの光による画像の各画素の信号を生成する。同様に、画素ごとに信号S2から信号S3を減算することにより、波長850nmの光による画像の各画素の信号を生成する。
以上の構成および動作により、浮遊拡散層404、405のそれぞれの信号に混入するノイズ成分を、浮遊拡散層406によって検出し、除去することができる。これにより、生体の内部で散乱された光に基づく信号を高い精度で求めることができる。
本実施形態では、2つの第1の光源103および第2の光源104を用いているが、1つの光源のみを用いてもよい。1つの光源のみを用いる場合は、図9に示す動作のうち、いずれか一方の光源を用いて露光または信号蓄積する動作のみを行えばよい。この点については、後述する他の実施形態においても同様である。
(実施形態2)
次に、本開示の実施形態2における撮像装置101を説明する。本実施形態は、光学系111が非テレセントリックな光学系である点、および、検出前に、いずれの浮遊拡散層もアクティブにしない状態での撮像をキャリブレーションとして行う点で、実施形態1と異なっている。以下、実施形態1と異なる点を中心に説明する。
図10は、本実施形態の撮像装置101におけるイメージセンサ113および光学系111を模式的に示す図である。本実施形態における光学系111は、イメージセンサ113の周辺部において主光線が斜めに入射する(すなわち主光線角が0度よりも大きい)レンズ系である。実施形態1では、カメラレンズに比較的高価なテレセントリック光学系が用いられているが、一般的には、安価なレンズ系である非テレセントリックな光学系を用いることが多い。非テレセントリックな光学系111を用いた場合、イメージセンサ113の撮像面の中央部と周辺部とで主光線角が異なる。このため、浮遊拡散層毎に、生体表面で反射された光に起因して生じる漏れ込み成分の量に偏りが生じる。
本実施形態では、1番目のフレーム期間に、いずれの浮遊拡散層への転送も非アクティブ(OFF)な状態で取得されるキャリブレーションフレームが設けられる。2番目のフレーム期間以降は、実施形態1と同様、特定の浮遊拡散層への転送がアクティブ(ON)にされた状態で取得される。キャリブレーションフレームを設けることにより、各浮遊拡散層に漏れ込む光の成分の分布の情報を取得することができる。この分布の情報を利用することで、各浮遊拡散層に漏れ込む信号電荷の量に偏りがある場合であっても、取得した信号から、漏れ込み成分を精度よく除去することができる。
図11Aは、本実施形態における1番目のフレーム期間の信号を取得する動作を示すタイミング図である。図11Bは、本実施形態における2番目のフレーム期間の信号を取得する動作を示すタイミング図である。
1番目のフレーム期間において、図7に示す制御回路114は、まず、750nmの波長の光を出射する第1の光源103にパルス光を複数回出射させる。例えば、制御回路114は、第1の光源103に、約10nsのパルス幅のパルス光を、約10MHzの周波数で、100μsec程度の期間にわたって1000回程度繰り返し発光させる。第1の光源103の発光が繰り返されている間、浮遊拡散層404、405、406は、常に非アクティブの状態にされ、電子シャッタは常にCLOSEの状態にされる。その後、制御回路114は、850nmの波長の光を出射する第2の光源104についても同様の動作を行う。第2の光源104の発光が繰り返されている間も、浮遊拡散層404、405、406は、常に非アクティブの状態にされ、電子シャッタは常にCLOSEの状態にされ
る。この動作により、浮遊拡散層404、405、406の各々には、生体内で散乱された光による信号電荷は蓄積されず、生体の表面で反射された光に起因して漏れ込むノイズ成分のみが蓄積される。
2番目のフレーム期間以降については、図11Bに示すように、実施形態1における動作(図9)と同じ動作が行われる。すなわち、制御回路114は、第1の光源103を周期的に発光させながら浮遊拡散層404に信号電荷を蓄積させる動作と、第2の光源104を周期的に発光させながら浮遊拡散層405に信号電荷を蓄積させる動作とを交互に繰り返す。浮遊拡散層406は、常に非アクティブである。これにより、浮遊拡散層404には、第1の光源103が発する中心波長750nmのパルス光の内部散乱成分による信号電荷が蓄積される。浮遊拡散層405には、第2の光源104が発する中心波長850nmのパルス光の内部散乱成分による信号電荷が蓄積される。浮遊拡散層406には、第1の光源103および第2の光源104が発する光の表面反射成分による信号電荷のうち、ドレイン402に排出されなかった信号電荷である漏れ込み成分が蓄積される。
本実施形態では、光学系111が安価な非テレセントリック光学系であるため、浮遊拡散層404に蓄積される信号電荷に含まれる漏れ込み成分の量と、浮遊拡散層405に蓄積される信号電荷に含まれる漏れ込み成分の量とが異なる。さらに、両者の比率は、画素によって異なる。そこで、本実施形態では、信号処理回路115が、1番目のフレーム期間に得られる浮遊拡散層404、405、406の信号を用いて、2番目のフレーム期間以降に得られる浮遊拡散層404、405の信号を補正する。
以下、図12を参照して、本実施形態における生体で散乱された光の成分の算出方法を説明する。
図12は、本実施形態におけるフレーム期間と、浮遊拡散層404、405、406の信号量とを模式的に示す図である。図12には、連続する4つのフレーム期間が例示されている。
1番目のフレーム期間では、全ての浮遊拡散層404、405、406がOFFの状態であるため、浮遊拡散層404、405、406の各々に、750nmの光信号および850nmの光信号の漏れ込み成分が蓄積される。1番目のフレーム期間の撮像において、浮遊拡散層404、405、406に蓄積される信号量を、それぞれ、C1_FD1、C1_FD2、C1_FD3と表す。また、n番目のフレーム期間(nは2以上の整数)の撮像において、浮遊拡散層404、405、406に蓄積される信号量を、それぞれ、an、bn、Cn_FD3と表す。anには、波長750nmの内部散乱光による信号量と、750nmの光信号および850nmの光信号の漏れ込み成分による信号量とが含まれる。bnには、波長850nmの内部散乱光による信号量と、750nmの光信号および850nmの光信号の漏れ込み成分による信号量とが含まれる。Cn_FD3には、750nmの光信号および850nmの光信号の漏れ込み成分による信号量が含まれる。
本実施形態における信号処理回路115は、以下の演算を行うことにより、浮遊拡散層404、405の信号成分から、漏れ込み成分を除去する。
2番目のフレーム期間における波長750nmの信号成分および波長850nmの信号成分は、浮遊拡散層404の信号量a2と、浮遊拡散層405の信号量b2と、浮遊拡散層406の信号量C2_FD3と、1番目のフレーム期間に検出された浮遊拡散層404、405、406の各々の信号量C1_FD1、C1_FD2、C1_FD3とを用いて、以下の演算によって得られる。
波長750nmの信号成分 = a2 − C2_FD3 × C1_FD1/C1_FD3
波長850nmの信号成分 = b2 − C2_FD3 × C1_FD2/C1_FD3
3番目のフレーム期間以降のn番目のフレーム期間についても同様に、波長750nmの信号成分および波長850nmの信号成分は、以下の演算によって得られる。
波長750nmの信号成分 = an − Cn_FD3 × C1_FD1/C1_FD3
波長850nmの信号成分 = bn − Cn_FD3 × C1_FD2/C1_FD3
本実施形態では、1番目のフレーム期間において全ての浮遊拡散層404、405、406をOFFの状態にしているが、任意のフレーム期間で全ての浮遊拡散層404、405、406をOFFにしてもよい。例えば、イメージセンサ113の熱蓄積などの影響で漏れ込み成分の量が変動することを考慮し、特定のフレーム期間の周期で全ての浮遊拡散層404、405、406をOFFにして漏れ込み成分を検出してもよい。
以上のように、本実施形態では、制御回路114は、通常のフレーム期間とは異なる他のフレーム期間(例えば最初のフレーム期間)において、パルス光の表面反射成分がイメージセンサに入射している期間を少なくとも含む期間に、ドレイン402に信号電荷が排出される状態にして、光電変換素子で生じた信号電荷のうち、排出されずに残った信号電荷を浮遊拡散層404、405、406に蓄積させる。そして、浮遊拡散層404、405、406への信号電荷の蓄積が完了した後、イメージセンサ113に、浮遊拡散層404、405、406各々に蓄積された信号電荷に基づく信号を生成させる。ここで、通常のフレーム期間(図11B)における浮遊拡散層404、405、406の信号をそれぞれS1、S1’、S2とし、キャリブレーションフレーム(図11A)における浮遊拡散層404、405、406の信号をそれぞれS3、S3’、S4とする。信号処理回路115は、S=S1−S2×S3/S4の演算によって得られる信号Sを、中心波長750nmのフレームにおける画素信号として生成する。同様に、信号処理回路115は、S’=S1’−S2×S3’/S4の演算によって得られる信号S’を、中心波長850nmのフレームにおける画素信号として生成する。
このような動作により、浮遊拡散層404、405、406各々への漏れ込み成分の分布に偏りが生じる場合であっても、浮遊拡散層404、405、406各々に蓄積される信号成分から漏れ込み成分を正しく除去することができる。本実施形態によれば、比較的安価な非テレセントリックな光学系111を使用することができる。また、浮遊拡散層404、405、406がフォトダイオードから等方的に配置されている必要もない。このため、撮像装置101の設計の自由度を高くすることができる。
(実施形態3)
次に、本開示の実施形態3における撮像装置101を説明する。本実施形態の撮像装置101は、内部散乱成分を検出する2つの浮遊拡散層と、漏れ込み成分を検出する浮遊拡散層との組み合わせを、フレーム期間ごとに変更する点で、実施形態2と異なっている。本実施形態によれば、キャリブレーションフレームを用いることなく、漏れ込み成分が除去された生体信号を生成することができる。以下、実施形態2と異なる点を中心に説明する。
本実施形態における撮像装置101は、実施形態1、2と同様、図5に示す構成を有する。本実施形態でも、非テレセントリックな光学系111が用いられる。本実施形態では、信号処理回路115が、対象物102の動きを検出し、対象物102が動いていないタイミングで、信号の補正に用いる係数を随時更新する機能を有する。信号処理回路115は、イメージセンサ113から出力された画素ごとの輝度情報の時間変化に基づいて、画像中の各点における動きを検出することができる。
図13Aから図13Cは、本実施形態における制御方法を示すタイミング図である。図13Aは、1番目のフレーム期間のシステムタイミングを示している。図13Bは、2番目のフレーム期間のシステムタイミングを示している。図13Cは、3番目のフレーム期間のシステムタイミングを示している。4番目のフレーム期間以降は、図13A〜図13Cに示す動作が順に繰り返される。
図13Aに示す1番目のフレーム期間の動作は、実施形態1における動作(図9)および実施形態2における通常のフレーム期間における信号を取得する際の動作(図11B)と同じである。すなわち、制御回路114は、第1の光源103を周期的に発光させながら浮遊拡散層404に信号電荷を蓄積させる動作と、第2の光源104を周期的に発光させながら浮遊拡散層405に信号電荷を蓄積させる動作とを順に行う。浮遊拡散層406は、常に非アクティブである。これにより、浮遊拡散層404には、第1の光源103が発する中心波長750nmのパルス光の内部散乱成分による信号電荷が蓄積される。浮遊拡散層405には、第2の光源104が発する中心波長850nmのパルス光の内部散乱成分による信号電荷が蓄積される。浮遊拡散層406には、第1の光源103および第2の光源104が発する光の表面反射成分による信号電荷のうち、ドレイン402に排出されなかった信号電荷である漏れ込み成分が蓄積される。
図13Bに示す2番目のフレーム期間の動作は、1番目のフレーム期間における浮遊拡散層404、405、406の役割を入れ替えた動作に相当する。第1の光源103、第2の光源104および電子シャッタの動作は1番目のフレーム期間と同じである。2番目のフレーム期間においては、第1の光源103が発光する期間は、浮遊拡散層406がアクティブにされ、浮遊拡散層404、405は非アクティブにされる。一方、第2の光源104が発光する期間は、浮遊拡散層404がアクティブにされ、浮遊拡散層405、406は非アクティブにされる。これにより、浮遊拡散層406には、第1の光源103が発する中心波長750nmのパルス光の内部散乱成分による信号電荷が蓄積される。浮遊拡散層404には、第2の光源104が発する中心波長850nmのパルス光の内部散乱成分による信号電荷が蓄積される。浮遊拡散層405には、第1の光源103および第2の光源104が発する光の表面反射成分による信号電荷のうち、ドレイン402に排出されなかった信号電荷である漏れ込み成分が蓄積される。
図13Cに示す3番目のフレーム期間の動作は、2番目のフレーム期間における浮遊拡散層404、405、406の役割をさらに入れ替えた動作に相当する。第1の光源103、第2の光源104および電子シャッタの動作は1フレーム目および2フレーム目と同じである。3フレーム目においては、第1の光源103が発光する期間は、浮遊拡散層405がアクティブにされ、浮遊拡散層404、406は非アクティブにされる。一方、第2の光源104が発光する期間は、浮遊拡散層406がアクティブにされ、浮遊拡散層404、405は非アクティブにされる。これにより、浮遊拡散層405には、第1の光源103が発する中心波長750nmのパルス光の内部散乱成分による信号電荷が蓄積される。浮遊拡散層406には、第2の光源104が発する中心波長850nmのパルス光の内部散乱成分による信号電荷が蓄積される。浮遊拡散層404には、第1の光源103および第2の光源104が発する光の表面反射成分による信号電荷のうち、ドレイン402に排出されなかった信号電荷である漏れ込み成分が蓄積される。
4番目のフレーム期間以降は、図13Aから図13Cに示す動作が順に繰り返される。このように、本実施形態では、750nmの内部散乱光による信号電荷を蓄積する浮遊拡散層と、850nmの内部散乱光による信号電荷を蓄積する浮遊拡散層と、信号電荷の漏れ込み成分を蓄積する浮遊拡散層とが、フレーム期間ごとにローテーションされる。このような動作により、実施形態2において設けられていたキャリブレーションフレームを設けることなく、信号から不要な成分を除去することができる。
以下、図14および図15を参照しながら、本実施形態における信号処理を説明する。
図14は、本実施形態における信号処理回路115の構成を模式的に示すブロック図である。信号処理回路115は、図示されるように、イメージセンサ113からの信号を読み出す処理を実行する信号読み出し回路700と、対象物102の動きを検出する処理を実行する動き検出回路702と、信号を補正する処理を実行する補正回路704と、補正後の信号に基づいて画像のデータを生成する処理を実行する画像処理回路706とを含む。これらの各処理は、例えば信号処理回路115におけるプロセッサがメモリに格納されたプログラムを実行することによって実行され得る。信号処理回路115は、イメージセンサ113から出力された各フレーム期間の信号を記録するフレームメモリである第1メモリ708(と、補正処理に用いられる係数を記録する第2メモリ710とを含む。第1メモリ708と第2メモリ710とは、同一のメモリであってもよいし、異なるメモリであってもよい。
図15は、本実施形態における信号処理の具体例を説明するための図である。図15は、n番目(nは2以上の整数)のフレーム期間からn+7番目のフレーム期間における1つの画素における浮遊拡散層404、405、406の信号量と、対象物102の動きの有無と、補正後の浮遊拡散層404、405、406の信号量とを例示している。
図15において、浮遊拡散層404、405、406をそれぞれFD1、FD2、FD3で表している。図15において、750nmの波長の内部散乱光の成分に漏れ込み成分が重畳された信号量はaで表され、850nmの波長の内部散乱光の成分に漏れ込み成分が重畳された信号量はbで表され、漏れ込み成分を示す信号量はcで表されている。下付きの添え字は、フレーム期間の番号に対応する。ただし、n番目のフレーム期間の番号を「1」、n+1番目のフレーム期間の番号を「2」といった具合に、フレーム期間の順番からnを引いて1を加えた数をそのフレーム期間の番号としている。図15に示されているように、例えば、信号読み出し処理では、n番目のフレーム期間において、浮遊拡散層404の信号量をa1とし、浮遊拡散層405の信号量をb1とし、浮遊拡散層406の信号量をc1としている。n+1番目のフレーム期間においては、浮遊拡散層404の信号量をb2とし、浮遊拡散層405の信号量をc2とし、浮遊拡散層406の信号量をa2としている。n+2番目のフレーム期間においては、浮遊拡散層404の信号量をc3とし、浮遊拡散層405の信号量をa3とし、浮遊拡散層406の信号量をb3としている。以降のフレーム期間についても同様に、各信号量を図15に示す記号で表す。図15における「フレームメモリ読出し」とは、フレームメモリに記録された、直前のフレーム期間における同一画素の浮遊拡散層404、405、406の信号量を読み出す処理を意味する。
本実施形態では、記号aおよびbで表される信号量から、記号cで表される信号量に補正係数を掛けた量を減算することによって、補正後の信号が得られる。ここで、係数α、βを以下のように定義する。
α = c_FD2/c_FD1
β = c_FD3/c_FD1
_FD1、c_FD2、c_FD3は、それぞれ、浮遊拡散層404、405、406を用いて既に検出された漏れ込み成分の信号量を表す。ただし、αの決定に用いられるc_FD1およびc_FD2は、対象物102に動きがない2つのフレーム期間に得られた値である。同様に、βの決定に用いられるc_FD1およびc_FD3は、対象物102に動きがない他の2つのフレーム期間に得られた値である。
図15に示す例では、n番目のフレーム期間の検出の前に、係数αとしてα1という値が、係数βとしてβ1という値が、既に決定されている。これらの係数α1、β1を用いて、内部散乱成分を示す信号量が補正される。
例えば、n番目のフレーム期間においては、波長750nmの信号成分、波長850nmの信号成分、および漏れ込み成分は、以下の式で表される。
波長750nmの信号成分=a1−c1×c_FD1/c_FD3=a1−c1/β1
波長850nmの信号成分=b1−c1×c_FD2/c_FD3=b1−c1/β1×α1
漏れ込み成分 = c1
α1、β1は、n番目のフレーム期間の検出以前に決定され、第2メモリに書き込まれている。α1は、対象物102に動きがない連続する2つのフレーム期間において、浮遊拡散層405によって検出された漏れ込み成分と、浮遊拡散層404によって検出された漏れ込み成分との比である。β1は、対象物102に動きがない連続する2つのフレーム期間において、浮遊拡散層406によって検出された漏れ込み成分と、浮遊拡散層404によって検出された漏れ込み成分との比である。信号処理回路115は、イメージセンサ113から信号a1、b1、c1を取得し、第2メモリから係数α1、β1の値を取得し、上式の演算を行うことにより、浮遊拡散層404および浮遊拡散層405の信号を補正する。
n+1番目のフレーム期間においては、波長750nmの信号成分、波長850nmの信号成分、および漏れ込み成分は、以下の式で表される。
波長750nmの信号成分=a2−c2×c_FD3/c_FD2=a2−c2×β1/α1
波長850nmの信号成分=b2−c2×c_FD1/c_FD2=b2−c2/α1
漏れ込み成分=c2
信号処理回路115は、イメージセンサ113から信号a2、b2、c2を取得し、第2メモリから係数α1、β1の値を取得し、上式の演算を行うことにより、浮遊拡散層406および浮遊拡散層404の信号を補正する。
n+2番目のフレーム期間においては、波長750nmの信号成分、波長850nmの信号成分、および漏れ込み成分は、以下の式で表される。
波長750nmの信号成分=a3−c3×c_FD2/c_FD1=a3−c3×α1
波長850nmの信号成分=b3−c3×c_FD3/c_FD1=b3−c3×β1
漏れ込み成分 = c3
信号処理回路115は、イメージセンサ113から信号a3、b3、c3を取得し、第2メモリから係数α1、β1の値を取得し、上式の演算を行うことにより、浮遊拡散層405および浮遊拡散層406の信号を補正する。
以下、信号処理回路115は、n+3〜n+5番目のフレーム期間において、それぞれ、n〜n+2番目のフレーム期間と同様の計算式を用いて信号を補正する。以後、同様に、3種類の計算式をフレーム期間毎に順番に適用して信号を補正する。このように、本実施形態では、浮遊拡散層404、浮遊拡散層405、および浮遊拡散層406の駆動方法がローテーションすることにより、各波長の信号成分を求める演算もローテーションする。
以上のように、上記の演算を行うことにより、信号を補正することができる。しかし、フレーム期間間で対象物102が動いてしまうと、表面反射光の入射の仕方が変化するため、漏れ込み成分の分布が変化し得る。その場合、それまでの係数α1、β1を適用した場合には正しい信号が得られない。そこで、本実施形態では、信号処理回路115は、対
象物102の動きを検出し、動きが検出された場合、次に静止したタイミングで、係数を更新する。対象物102の動きの検出は、例えば画素ごとまたは近接する画素群ごとに行われ得る。動き検出の方法は、特定の方法に限られず、任意の方法で行ってよい。例えば、信号処理回路115は、個々の画素における輝度値の時間あたりの変化量と所定の閾値とを比較することによって対象物102のその画素における動きを検出してもよい。あるいは、着目する画素を中心とする画素群における対象物102の動きベクトルを計算し、当該動きベクトルの大きさが所定の閾値よりも大きい場合に、対象物102が動いていると判断してもよい。
図15に示す例では、例えばn番目のフレーム期間で信号が生成される際、各画素における3つの浮遊拡散層の信号a1、b1、c1が、信号処理回路115に入力され、フレームメモリである第1メモリに記録される。信号処理回路115は、フレームメモリに既に記録されている1フレーム期間前の信号a0、b0、c0を読み出す。信号処理回路115は、n番目のフレーム期間の信号a1、b1、c1と、1フレーム期間前の信号a0、b0、c0とを比較し、連続する2つのフレーム期間の間での対象物102の動きの有無を判断する。信号処理回路115は、以降のフレーム期間についても、同様の動作を行い、フレーム期間毎に、対象物102の動きの有無を判断する。
図15に示す例では、n+2番目のフレーム期間までは対象物102の動きが検出されているが、n+3番目のフレーム期間において、対象物102がn+2番目のフレーム期間から動いておらず、静止していることが検出されている。同様に、n+7番目のフレーム期間において、対象物102がn+6番目のフレーム期間から動いていないことが検出されている。このため、信号処理回路115は、n+3番目のフレーム期間を生成するときに、α2=C2/C3の計算を行い、それまでの係数α1をα2に更新して第2メモリに記録する。同様に、n+7番目のフレーム期間での信号を生成する際に、β2=C7/C6の計算を行い、それまでの係数β1をβ2に更新して第2メモリに記録する。信号処理回路115は、係数を更新すると、その後は更新した係数を用いて、波長750nmおよび850nmのそれぞれの信号成分を算出する。
以上の説明では、2番目のフレーム期間以降の処理を想定して説明したが、1番目のフレーム期間についても同様の処理を適用できる。1番目のフレーム期間で用いる係数αおよびβは、例えば工場出荷時に検査した漏れ込み成分の比率から決定され得る。そのような係数の初期値は予め信号処理回路115の第2メモリに記録される。
本実施形態では第1の光源103および第2の光源104が用いられるが、いずれか一方の光源のみを用いて同様の動作を行ってもよい。その場合、浮遊拡散層の数は2つ以上であればよく、連続する2つのフレーム期間で2つの浮遊拡散層の役割を交互に入れ替えればよい。例えば、本実施形態の構成から第2の光源104および浮遊拡散層405を除外した構成を考える。そのような構成では、制御回路114は、連続する第1および第2のフレーム期間について、例えば以下の動作を行う。
<第1のフレーム期間>
(1)第1の光源103に少なくとも1つのパルス光を出射させ、第1の光源103から出射されたパルス光のうち、表面反射成分がイメージセンサ113に入射している期間を含む期間に、信号電荷が排出される状態にして、光電変換素子で生じた信号電荷のうち、ドレイン402に排出されずに残った信号電荷を浮遊拡散層406に蓄積させる。
(2)第1の光源103から出射されたパルス光のうち、表面反射成分の後端がイメージセンサ113に入射した後、内部散乱成分がイメージセンサ113に入射している期間に、ドレイン402に信号電荷が排出されず、かつ浮遊拡散層404に信号電荷が蓄積される状態にして、浮遊拡散層404に信号電荷を蓄積させる。
(3)浮遊拡散層404、406への信号電荷の蓄積が完了した後、イメージセンサ113に、浮遊拡散層404に蓄積された信号電荷に基づく第1の信号と、浮遊拡散層406に蓄積された信号電荷に基づく第2の信号とを生成させる。
<第2のフレーム期間>
(4)第1の光源103に少なくとも1つのパルス光を出射させ、第1の光源103から出射されたパルス光のうち、表面反射成分がイメージセンサ113に入射している期間を含む期間に、信号電荷が排出される状態にして、光電変換素子で生じた信号電荷のうち、ドレイン402に排出されずに残った信号電荷を浮遊拡散層404に蓄積させる。
(5)第1の光源103から出射されたパルス光のうち、表面反射成分の後端がイメージセンサ113に入射した後、内部散乱成分がイメージセンサ113に入射している期間に、ドレイン402に信号電荷が排出されず、かつかつ浮遊拡散層406に信号電荷が蓄積される状態にして、浮遊拡散層406に信号電荷を蓄積させる。
(6)浮遊拡散層404および浮遊拡散層406への信号電荷の蓄積が完了した後、イメージセンサ113に、浮遊拡散層404に蓄積された信号電荷に基づく第3の信号と、浮遊拡散層406に蓄積された信号電荷に基づく第4の信号とを生成させる。
信号処理回路115は、画素ごとに、第3の信号に予め計算された係数(前述のβに相当)を乗算した信号を、第4の信号から減算することにより、第2のフレーム期間におけるフレームの各画素の信号値を算出することができる。
第2のフレーム期間の次の第3のフレーム期間においては、再び第1のフレーム期間と同様の動作が行われる。ただし、第3のフレーム期間においては、信号処理回路115は、画素ごとに、第2の信号に予め計算された係数(1/βに相当)を乗算した信号を、第1の信号から減算することにより、各画素の信号値を算出する。また、信号処理回路115は、フレームのデータに基づいて、対象物102の動きを画素ごとに検出し、対象物102の動きがないことを検出したとき、第1から第4の信号の少なくとも一部を用いて、係数を更新してもよい。これにより、対象物102に動きがある場合でも高精度の検出が可能になる。
以上の処理により、本実施形態では、フレーム期間ごとに、各画素における対象物102からの光の内部散乱成分を高い精度で検出することができる。各浮遊拡散層への漏れ込み成分の分布に偏りが生じる場合であっても、各浮遊拡散層に蓄積される信号成分から漏れ込み成分を正しく除去することができる。本実施形態によれば、比較的安価な非テレセントリックな光学系111を使用することができ、複数の浮遊拡散層がフォトダイオードから等方的に配置されている必要がない。このため、撮像装置101の設計自由度を高くすることができる。また、実施形態2のようにキャリブレーションフレームを設ける必要がないため、フレームレートをより高くすることができる。
(実施形態4)
次に、実施形態4の撮像装置101を説明する。本実施形態は、光の漏れ込み成分に加えて背景光成分を同時に検出できる点で実施形態3と異なっている。内部散乱成分を検出する2つの浮遊拡散層と、漏れ込み成分を検出する浮遊拡散層との組み合わせを、フレーム期間ごとに変更する点は、実施形態3と同じである。漏れ込み成分に加えて背景光成分を検出することにより、信号から漏れ込み成分と背景光成分とを精度良く除去することが可能である。以下、実施形態3と異なる点を中心に説明する。
撮像装置101を使用する際に、第1の光源103および第2の光源104から出射されるパルス光以外に、照明および自然光などの環境に起因する背景光が存在することが一般的である。そのような背景光には、第1の光源103および第2の光源104から出射
されるパルス光の波長と同じ波長の成分が含まれる場合がある。その場合、ダブルバンドパスフィルタ112をイメージセンサ113の撮像面に対向して配置していたとしても、イメージセンサ113に背景光が入射し、ノイズを発生させるおそれがある。そこで、本実施形態では、各フレーム期間において、漏れ込み成分に加えて背景光成分を検出する期間が設けられる。
図16Aから図16Cは、本実施形態における動作を示すタイミング図である。図16Aは、1番目のフレーム期間の動作を示すタイミング図である。図16Bは、2番目のフレーム期間の動作を示すタイミング図である。図16Cは、3番目のフレーム期間の動作を示すタイミング図である。4番目のフレーム期間以降は、図16A〜図16Cに示す動作が順に繰り返される。
本実施形態では、実施形態3と比較して、各フレーム期間の信号を取得する際、750nmのレーザーパルス光による信号電荷の蓄積期間と、850nmのレーザーパルス光による信号電荷の蓄積期間とが終了した後、背景光成分を取得するための期間が追加される。当該期間では、第1の光源103および第2の光源104を非発光の状態にして、浮遊拡散層404、405、406のうち1つのみをアクティブにし、他の期間と同様に電子シャッタの開閉が行われる。
1番目のフレーム期間においては、750nmの発光期間および850nmの発光期間が終了した後、第1の光源103および第2の光源104を非発光の状態にして、浮遊拡散層406のみをアクティブにし、浮遊拡散層404または浮遊拡散層405がアクティブの期間における電子シャッタの制御時間と同じ時間で、同じ回数だけ電子シャッタをOPENにする。これにより、浮遊拡散層406には、浮遊拡散層404または浮遊拡散層405に蓄積された背景光成分と同程度の量の背景光成分が蓄積される。第1の光源103および第2の光源104が発光している期間の動作は、実施形態3における図13Aの動作と同じである。
2番目のフレーム期間においては、750nmの発光期間および850nmの発光期間が終了した後、第1の光源103および第2の光源104を非発光の状態にして、浮遊拡散層405のみをアクティブにし、浮遊拡散層404または浮遊拡散層406がアクティブの期間における電子シャッタの制御時間と同じ時間で、同じ回数だけ電子シャッタをOPENにする。これにより、浮遊拡散層405には、浮遊拡散層404または浮遊拡散層406に蓄積された背景光成分と同程度の量の背景光成分が蓄積される。第1の光源103および第2の光源104が発光している期間の動作は、実施形態3における図13Bの動作と同じである。
3番目のフレーム期間においては、750nmの発光期間および850nmの発光期間が終了した後、第1の光源103および第2の光源104を非発光の状態にして、浮遊拡散層404のみをアクティブにし、浮遊拡散層405または浮遊拡散層406がアクティブの期間における電子シャッタの制御時間と同じ時間で、同じ回数だけ電子シャッタをOPENにする。これにより、浮遊拡散層404には、浮遊拡散層405または浮遊拡散層406に蓄積された背景光成分と同程度の量の背景光成分が蓄積される。第1の光源103および第2の光源104が発光している期間の動作は、実施形態3における図13Cの動作と同じである。
各浮遊拡散層に含まれる信号量から、750nmの信号量および850nmの信号量を算出する方法は、実施形態3における方法と同じであるため、説明を省略する。
なお、背景光成分を取得する期間は、第1の光源103および第2の光源104の発光
期間が終了した後である必要はない。第1の光源103および第2の光源104の発光期間の前、または第1の光源103の発光期間と第2の光源104の発光期間との間に行ってもよい。
以上のように、本実施形態における制御回路114は、各フレーム期間において、表面反射光の漏れ込み成分を検出する蓄積部に、パルス光の表面反射成分に主に起因する信号電荷を蓄積させ、かつ、いずれのパルス光もイメージセンサ113に入射していない期間(例えばパルス発光が終了した後)に、信号電荷が排出されない状態にして、当該蓄積部に信号電荷をさらに蓄積させる。
以上の処理により、検出した信号から、表面反射光の漏れ込み成分だけでなく、背景光成分を除去することができる。このため、各画素における内部散乱成分をさらに高い精度で検出することができる。本実施形態においても、各浮遊拡散層への漏れ込み成分の分布に偏りが生じる場合であっても、各FDに蓄積される信号成分から漏れ込み成分を正しく除去することができる。本実施形態によれば、比較的安価な非テレセントリックな光学系111を使用することができ、複数の浮遊拡散層がフォトダイオードから等方的に配置されている必要がない。このため、撮像装置101の設計自由度を高くすることができる。また、実施形態2のようにキャリブレーションフレームを設ける必要がないため、フレームレートをより高くすることができる。
なお、本実施形態では、実施形態3と同様、内部散乱成分を検出する浮遊拡散層と、漏れ込み成分を検出する浮遊拡散層との組み合わせを、フレーム期間ごとにローテーションさせているが、実施形態2と同様に、いずれの浮遊拡散層もアクティブにしないキャリブレーションフレーム期間を設けてもよい。その場合、実施形態2における信号処理と同様の処理を適用して生体信号を取得できる。
(実施形態5)
次に、実施形態5の撮像装置101を説明する。本実施形態は、表面反射光の漏れ込み成分に加えて背景光成分を同時に検出する点で実施形態4と共通するが、背景光成分を検出するタイミングが実施形態4とは異なる。内部散乱成分を検出する2つの浮遊拡散層と、漏れ込み成分を検出する浮遊拡散層との組み合わせを、フレーム期間ごとに変更する点は、実施形態3と同じである。漏れ込み成分に加えて背景光成分を検出することにより、検出した信号から漏れ込み成分と背景光成分とを精度良く除去することが可能である。以下、実施形態4と異なる点を中心に説明する。
図17Aから図17Cは、本実施形態における動作を示すタイミング図である。図17Aは、1番目のフレーム期間の動作を示すタイミング図である。図17Bは、2番目のフレーム期間の動作を示すタイミング図である。図17Cは、3番目のフレーム期間の動作を示すタイミング図である。4番目のフレーム期間以降は、図17A〜図17Cに示す動作が順に繰り返される。
図17A〜図17Cからわかるように、本実施形態では、実施形態4において各フレーム期間の最後に行われていた背景光成分を蓄積するための動作が、連続する2つのパルス発光の中間のタイミングで行われる。浮遊拡散層制御の高速化により、背景光成分および漏れ込み成分を、内部散乱成分と同様、発光パルスとほぼ同じタイミングで取得することができる。実施形態4と比べて背景光成分を取得するまでの時間が短縮されるため、フレームレートを向上させることができる。
以上のように、本実施形態では、第1の光源103および第2の光源104の各々が、連続する2つのパルス光(第1および第2のパルス光)を発生させる間に、背景光成分の
信号電荷の蓄積が行われる。制御回路114は、第1のパルス光のイメージセンサ113への入射が終了した後、第2のパルス光のイメージセンサへ113の入射が開始する前に、信号電荷が排出されない状態にして、漏れ込み成分を検出する蓄積部に信号電荷をさらに蓄積させる。信号処理回路115は、実施形態3、4と同様の処理を行い、内部散乱成分に起因する信号から漏れ込み成分および背景光成分を除去する。
以上の動作により、実施形態4と同様の効果を得ることができる。さらに、実施形態4よりもフレームレートを高くすることができる。
(実施形態6)
次に実施形態6の撮像装置101を説明する。本実施形態では、1回の発光について異なる2位相の電子シャッタ期間が設けられ、それぞれ異なる浮遊拡散層に信号電荷が蓄積される。これにより、対象物102の浅部の頭皮血流の情報と、深部の脳血流の情報とを高い精度で分離して検出することができる。
図18は、本実施形態の撮像装置101の構成を示す図である。本実施形態では、イメージセンサ113の各画素の構成および信号処理回路115の動作が、実施形態5とは異なっている。以下、実施形態5と異なる点を中心に説明する。
本実施形態における信号処理回路115は、対象物102の浅部の情報と、深部の情報とを分離する処理を行う第1回路802と、イメージのデータを生成する処理を行う第2回路804と、動き検出処理とを実行する動き検出回路806と、メモリ808とを含む。これらのうち、対象物102の浅部の情報と、深部の情報とを分離する処理以外は、実施形態5における処理と同様である。
図19は、本実施形態におけるイメージセンサ113の画素構成を模式的に示す図である。本実施形態におけるイメージセンサ113の各画素は、5個の浮遊拡散層404、405、406、407、408を有している。生体の浅部と深部の情報を波長ごとに独立して取得するために、第1の光源103および第2の光源104のそれぞれに対応して2個ずつ浮遊拡散層が設けられている。なお、本実施形態では、実施形態3について説明した制御が行われるため、浮遊拡散層404、405、406、407、408は、フォトダイオード403から等方的に配置されている必要はない。
図20は、イメージセンサ113の構成の一例を模式的に示す図である。図20において、一点鎖線の枠で囲まれた領域が1つの画素401に相当する。画素401は、5つの浮遊拡散層404、405、406、407、408を含む。5つの浮遊拡散層404、405、406、407、408に蓄積される信号は、あたかも一般的なCMOSイメージセンサの5画素の信号のように取り扱われ、イメージセンサ113から出力される。なお、図20には、各浮遊拡散層404、405、406、407、408に信号電荷の蓄積が完了してから、浮遊拡散層404、405、406、407、408内の信号電荷をイメージセンサ113から出力する動作(「低速読み出し動作」と称する。)に関係する要素のみが示されている。ドレイン402、フォトダイオード403、および高速タイミング制御回路414は、低速読み出し動作には直接関係しないので、図20からは省略されている。
図21Aから図21Eは、本実施形態における制御方法を示すタイミング図である。図21Aから図21Eにおいて、信号A1、A2はそれぞれ第1の光源103、第2の光源104から出射されるパルス光の波形を示し、信号Bは電子シャッタのOPEN、CLOSEのタイミングを示し、信号C1、C2、C3、C4、C5はそれぞれ浮遊拡散層404、405、406、407,408のON(すなわち浮遊拡散層に電荷が蓄積される状
態)、OFF(すなわち浮遊拡散層に電荷が蓄積されない状態)のタイミングを示す。図21Aは、1番目のフレーム期間のシステムタイミングを示している。図21Bは、2番目のフレーム期間のシステムタイミングを示している。図21Cは、3番目のフレーム期間のシステムタイミングを示している。図21Dは、4番目のフレーム期間のシステムタイミングを示している。図21Eは、5番目のフレーム期間のシステムタイミングを示している。6番目のフレーム期間以降は、図21A〜図21Eに示す動作が順に繰り返される。図21A〜図21Eからわかるように、本実施形態では、フレーム期間ごとに、浮遊拡散層404、405、406、407、408の各々の役割が順番に変更されている。
図21Aに示す1番目のフレーム期間においては、中心波長750nmのパルス光の内部散乱成分は浮遊拡散層404、405によって検出される。中心波長850nmのパルス光の内部散乱成分は浮遊拡散層406、407によって検出される。表面反射光の漏れ込み成分および背景光成分は、浮遊拡散層408によって検出される。
図21Bに示す2番目のフレーム期間においては、中心波長750nmのパルス光の内部散乱成分は浮遊拡散層405、406によって検出される。中心波長850nmのパルス光の内部散乱成分は浮遊拡散層407、408によって検出される。表面反射光の漏れ込み成分および背景光成分は、浮遊拡散層404によって検出される。
図21Cに示す3番目のフレーム期間においては、中心波長750nmのパルス光の内部散乱成分は浮遊拡散層406、407によって検出される。中心波長850nmのパルス光の内部散乱成分は浮遊拡散層404、408によって検出される。表面反射光の漏れ込み成分および背景光成分は、浮遊拡散層405によって検出される。
図21Dに示す4番目のフレーム期間においては、中心波長750nmのパルス光の内部散乱成分は浮遊拡散層407、408によって検出される。中心波長850nmのパルス光の内部散乱成分は浮遊拡散層404、405によって検出される。表面反射光の漏れ込み成分および背景光成分は、浮遊拡散層406によって検出される。
図21Eに示す5番目のフレーム期間においては、中心波長750nmのパルス光の内部散乱成分は浮遊拡散層404、408によって検出される。中心波長850nmのパルス光の内部散乱成分は浮遊拡散層405、406によって検出される。表面反射光の漏れ込み成分および背景光成分は、浮遊拡散層407によって検出される。
各フレーム期間における具体的な動作は、光源の発光に同期して制御される浮遊拡散層の数が2個に増えた点を除いて、実施形態5の動作と同様である。
図22Aは、図21Aに示す時刻aから時刻bにおける動作をより詳細に示す図である。図22Bは、図22Aにおける点線枠内を拡大して示す図である。
図22Aおよび図22Bにおいて、信号Aは、第1の光源103から出射されるパルス光の波形を示している。信号Dは、パルス光のうち、対象物102の表面で反射されて戻ってくる表面反射成分I1の波形を示している。信号Eは、パルス光のうち、対象物102の内部で散乱されて戻ってくる内部散乱成分I2の波形を示している。信号Fは、表面反射成分I1と内部散乱成分I2とを合わせた波形を示している。信号Bは、電子シャッタのOPEN、CLOSEのタイミングを示している。信号C1、C2はそれぞれ浮遊拡散層404、405のON(すなわち浮遊拡散層に電荷が蓄積される状態)、OFF(すなわち浮遊拡散層に電荷が蓄積されない状態)のタイミングを示す。
これらの図からわかるように、本実施形態では、パルス光の表面反射成分が消失するタ
イミングである時刻fで電子シャッタがCLOSEからOPENに切り替えられる。発光パルス幅相当の期間、OPENの期間が維持され、時刻jで再びCLOSEに切り替えられる。この際、浮遊拡散層404は、シャッタOPEN時には既にアクティブであり、シャッタがOPENになっている最中の時刻iで非アクティブにされる。浮遊拡散層404が非アクティブになると同時に、浮遊拡散層405がアクティブにされる。シャッタがCLOSEになるタイミングまで、浮遊拡散層405はアクティブの状態を継続し、その後、非アクティブにされる。第1の光源103は繰り返しパルス発光するので、電子シャッタ、浮遊拡散層404、および浮遊拡散層405も、発光に同期して制御される。
図22Aに示す期間において、浮遊拡散層406、407、408は非アクティブになっている。よって、電子シャッタがOPENである期間の前半である時刻fから時刻iまでの信号電荷は浮遊拡散層404に蓄積され、後半である時刻iから時刻jまでの信号電荷は浮遊拡散層405に蓄積される。このため、浮遊拡散層404の信号電荷は、対象物102の深部である脳からの光による成分よりも、対象物102の浅部である頭皮からの光による成分を非常に多く含む。一方、浮遊拡散層405の信号電荷は、対象物102の浅部である頭皮からの光による成分よりは少ないものの、対象物102の深部である脳からの光による成分の割合が比較的多い。
電子シャッタのOPENの期間の前半と後半に分割して浮遊拡散層404、405に信号電荷をそれぞれ蓄積させることにより、浅部の成分と深部の成分との比率が、浮遊拡散層404と浮遊拡散層405とでは異なるようにすることができる。
以上の動作は、中心波長850nmのパルス光を発する第2の光源104が駆動される期間においても、使用される浮遊拡散層のペアが異なる点を除き、同じである。1番目のフレーム期間の第2の光源104が駆動される期間においては、浮遊拡散層404、405、408は非アクティブになっている。よって、電子シャッタがOPENである期間の前半の信号電荷は浮遊拡散層406に蓄積され、後半の信号電荷は浮遊拡散層407に蓄積される。このため、浮遊拡散層406の信号電荷は、対象物102の深部である脳からの光による成分よりも、対象物102の浅部である頭皮からの光による成分を非常に多く含む。一方、浮遊拡散層407の信号電荷は、対象物102の浅部である頭皮からの光による成分よりは少ないものの、対象物102の深部である脳からの光による成分の割合が比較的多い。
図21Aに示すように、1番目のフレーム期間において、浮遊拡散層408は、750nmの光と850nmの光がイメージセンサ113から消光している期間にONにされる。この間、浮遊拡散層404、405、406、407はOFFにされているため、フォトダイオードで光電変換されて発生した信号電荷は浮遊拡散層408に蓄積される。即ち、背景光成分が浮遊拡散層408からの信号に含まれる。なお、浮遊拡散層408の露光時間および露光回数は、浮遊拡散層404、405、406、407のそれぞれの露光時間および露光回数と等しい。
図21Bから図21Dに示す他のフレーム期間の動作は、アクティブにされる3つの浮遊拡散層の組み合わせが異なる点を除き、1番目のフレーム期間の動作と同じであるため、説明を省略する。また、各浮遊拡散層から得られる信号に基づいて、750nmの光の内部散乱成分の信号量および850nmの光の内部散乱成分の信号量を算出する方法は、実施形態3における方法(例えば図15)と同様の考え方で実行できるため、説明を省略する。
以上のように、本実施形態では、実施形態5の効果に加えて、光源ごとに、生体の深部の成分の割合が相対的に多い信号と、少ない信号とを得ることができる。このため、信号
処理回路115は、両者の信号に基づいて、頭皮血流の状態を示す信号と、脳血流の状態とを示す信号を生成することができる。
なお、本実施形態では、実施形態3と同様、内部散乱成分を検出する浮遊拡散層と、漏れ込み成分を検出する浮遊拡散層との組み合わせを、フレーム期間ごとにローテーションさせているが、実施形態2と同様に、いずれの浮遊拡散層もアクティブにしないキャリブレーションフレームを設けてもよい。その場合、実施形態2における信号処理と同様の処理を適用して生体信号を取得できる。
(実施形態7)
次に実施形態7の撮像装置101を説明する。本実施形態は、イメージセンサ113がCCD型である場合について、具体的に説明する。本実施形態では、特定の浮遊拡散層のポテンシャルを他の浮遊拡散層よりも相対的に低くすることでフォトダイオードから信号電荷を読み出す。本実施形態は、特定の浮遊拡散層以外の他の浮遊拡散層への光漏れ成分の漏れ込みが少ない場合において適用される。
図23にCCD型のイメージセンサ113の画素901の概要を示す。画素901は、CCD型のイメージセンサ113へ入射した光が電荷信号に変換するフォトダイオード903と、電子シャッタ902と、浮遊拡散層904、浮遊拡散層905を備えている。尚、各浮遊拡散層には、電荷を垂直転送するためのゲート電極(図示しない)が複数含まれているものとする。
電子シャッタ902は、フォトダイオード903に対して基板側(紙面に対して垂直な方向)に配置されている。また、フォトダイオード903に蓄積された信号は、電子シャッタ902によって基板側に流れるとする。もしくは、浮遊拡散層内の信号電荷をイメージセンサ113から出力する場合には、ポテンシャルが低くなる浮遊拡散層(図中では浮遊拡散層904)に流れるとする。尚、本実施形態に係る撮像装置101の全体構成は図5と同じであるが、簡単のため、第2の光源104は用いずに、第1の光源103のみを用いて1つの波長の光を利用した場合を説明する。
図24は本実施形態の動作を示すタイミング図である。信号A1は第1の光源103から出射されるパルス光の波形を示し、信号Bは電子シャッタ902のOPEN/CLOSEのタイミングを示し、信号C1、C2はそれぞれ浮遊拡散層904、905のON/OFFのタイミングを示す。
浮遊拡散層904は、生体に照射したパルス光のうち、生体中を散乱した成分を検出する。この時、浮遊拡散層904のポテンシャルは浮遊拡散層905よりも相対的に低く設定されている。そのため、光漏れ成分の殆どは浮遊拡散層904へ漏れ込み、浮遊拡散層905へ漏れ込む光漏れ成分は無視可能なほど少ない。
次に、図24の矢印で示す時刻に、浮遊拡散層904に蓄積された信号電荷を図示しない他の浮遊拡散層へ垂直転送するとともに、浮遊拡散層905に蓄積されている信号電荷を浮遊拡散層904へ垂直転送する。すなわち、各浮遊拡散層に蓄積されている信号電荷を一つずつずらしていく。これによって、あたかも浮遊拡散層905の物理的な位置が浮遊拡散層904の位置へ移動したようにみえるため、浮遊拡散層904を仮想的に浮遊拡散層905として扱う。このとき、浮遊拡散層904は、光漏れ成分を検出するため、読み出し転送の状態(ポテンシャルを他の浮遊拡散層よりも低くした状態)にしたままにして、電子シャッタはCLOSEの状態を維持する。これにより、浮遊拡散層904には光漏れ成分のみが検出されるが、浮遊拡散層904は仮想的に浮遊拡散層905として扱われるため、撮像装置101としては光漏れ成分のみを検出したのは浮遊拡散層905であ
ると認識する。
このとき、実施形態4と同じように、パルス光がイメージセンサ上に到達して十分な時間が経過した後に電子シャッタをOPENにすることで背景光も同時に取得することができる。
このような駆動とすることで、一つの浮遊拡散層は生体を散乱した成分と光漏れ成分とを検出し、他の浮遊拡散層は光漏れ成分と背景光成分とを検出する。異なる浮遊拡散層で検出されたこれらの成分を減算処理することで、生体を散乱した成分を精度良く求めることができる。
本開示の技術は、例えば、脳血流などの生体情報の検出に有用である。例えば、人体の頭皮血流および頭部内部の脳血流を非接触で分離して検出する用途に利用できる。生体センシング以外にも、例えば、材料分析、食品分析、および車載センシングシステム等に応用できる。
101 撮像装置
102 対象物
103 第1の光源
104 第2の光源
111 光学系
112 ダブルバンドパスフィルタ
113 イメージセンサ
114 制御回路
115 信号処理回路
401 画素
402 ドレイン
403 フォトダイオード
404、405、406、407、408 浮遊拡散層 414 高速タイミング制御回路
502 行選択回路
503 列選択回路
504 垂直信号線
505 ソースフォロワ電源
506 ソースフォロワ負荷
507 AD変換器
508 行選択トランジスタ
509 ソースフォロワトランジスタ
510 リセットトランジスタ
601 画素駆動回路
602 水平CCD
603 出力回路
604 垂直CCD
605 遮光部材
606 電極
609ウェル領域
700 信号読み出し回路
702、806 動き検出回路
704 補正回路
706 画像処理回路
708 第1メモリ
710 第2メモリ
802 第1回路
804 第2回路
808 メモリ

Claims (13)

  1. 対象物の画像を撮像するための撮像装置であって、
    前記対象物に照射される少なくとも1つのパルス光を出射する第1の光源、
    複数の画素を含み、前記複数の画素の各々が、
    入射した光を信号電荷に変換する光電変換素子と、
    前記信号電荷を蓄積する第1の蓄積部と、
    前記信号電荷を蓄積する第2の蓄積部と、
    前記信号電荷を排出する排出部と、を含む、イメージセンサ、並びに
    前記第1の光源および前記イメージセンサを制御する制御回路
    を備え、
    前記制御回路は、1つのフレームの前記画像を撮像する期間であるフレーム期間において、
    前記第1の光源に前記少なくとも1つのパルス光を出射させ、
    前記少なくとも1つのパルス光のうち、前記対象物の表面で反射された表面反射成分が前記イメージセンサに入射している期間を含む第1期間に、
    前記イメージセンサの状態を、前記排出部に前記信号電荷が排出される状態にすることにより、前記信号電荷のうち、前記排出部に排出されなかった部分を前記第1の蓄積部および前記第2の蓄積部に蓄積させ、
    前記少なくとも1つのパルス光のうち、前記対象物の内部で散乱された内部散乱成分が前記イメージセンサに入射している第2期間に、
    前記イメージセンサの状態を、前記排出部に前記信号電荷が排出されず、かつ前記第1の蓄積部に前記信号電荷が蓄積される状態にすることにより、前記第1の蓄積部に前記信号電荷を蓄積させ、
    前記第1期間および前記第2期間の後、前記イメージセンサに、前記第1の蓄積部に蓄積された前記信号電荷に基づく第1の信号と、前記第2の蓄積部に蓄積された前記信号電荷に基づく第2の信号とを生成させる、
    撮像装置。
  2. 前記イメージセンサに電気的に接続された信号処理回路をさらに備え、
    前記信号処理回路は、前記複数の画素の各々について、前記第1の信号および前記第2の信号を用いた演算を行うことにより、前記画像を示す信号を生成する、
    請求項1に記載の撮像装置。
  3. 前記信号処理回路は、前記複数の画素の各々について、前記第1の信号から前記第2の信号を減算することにより、前記画像を示す信号を生成する、
    請求項2に記載の撮像装置。
  4. 前記制御回路は、
    前記フレーム期間とは異なる他のフレーム期間において、
    前記第1の光源に前記少なくとも1つのパルス光を出射させ、
    前記少なくとも1つのパルス光のうち、前記表面反射成分が前記イメージセンサに入射している期間を含む第3期間に、
    前記イメージセンサの状態を、前記排出部に前記信号電荷が排出される状態にすることにより、前記信号電荷のうち、前記排出部に排出されなかった部分を前記第1の蓄積部および第2の蓄積部に蓄積させ、
    前記第3期間の後、前記イメージセンサに、前記第1の蓄積部に蓄積された前記信号電荷に基づく第3の信号と、前記第2の蓄積部に蓄積された前記信号電荷に基づく第4の信号とを生成させる、
    請求項1に記載の撮像装置。
  5. 前記イメージセンサに電気的に接続された信号処理回路をさらに備え、
    前記信号処理回路は、前記複数の画素の各々について、前記第1の信号、前記第2の信号、前記第3の信号および前記第4の信号を用いた演算を行うことにより、前記画像を示す信号を生成する、
    請求項4に記載の撮像装置。
  6. 前記第1の信号をS1、前記第2の信号をS2、前記第3の信号をS3、前記第4の信号をS4とするとき、
    前記信号処理回路は、S=S1−S2×S3/S4の演算によって得られる信号Sを、前記画像を示す信号として生成する、
    請求項5に記載の撮像装置。
  7. 前記制御回路は、
    前記フレーム期間とは異なる他のフレーム期間において、
    前記第1の光源に前記少なくとも1つのパルス光を出射させ、
    前記少なくとも1つのパルス光のうち、前記表面反射成分が前記イメージセンサに入射している期間を含む第3期間に、
    前記イメージセンサの状態を、前記排出部に前記信号電荷が排出される状態にすることにより、前記信号電荷のうち、前記排出部に排出されなかった部分を前記第1の蓄積部および前記第2の蓄積部に蓄積させ、
    前記少なくとも1つのパルス光のうち、前記内部散乱成分が前記イメージセンサに入射している第4期間に、
    前記イメージセンサの状態を、前記排出部に前記信号電荷が排出されず、かつ前記第2の蓄積部に前記信号電荷が蓄積される状態にすることにより、前記第2の蓄積部に前記信号電荷を蓄積させ、
    前記第3期間および前記第4期間の後、前記イメージセンサに、前記第1の蓄積部に蓄積された前記信号電荷に基づく第3の信号と、前記第2の蓄積部に蓄積された前記信号電荷に基づく第4の信号とを生成させる、
    請求項1に記載の撮像装置。
  8. 前記イメージセンサに電気的に接続された信号処理回路をさらに備え、
    前記信号処理回路は、前記複数の画素の各々について、前記第3の信号に係数を乗算した信号を、前記第4の信号から減算することにより、前記他のフレーム期間における前記画像を示す信号を生成する、
    請求項7に記載の撮像装置。
  9. 前記信号処理回路は、前記複数の画素の各々について、前記画像を示す信号に基づいて、前記対象物の動きを検出し、
    前記複数の画素のうち、前記対象物の動きがないと検出された画素について、前記第1から第4の信号の少なくとも一部を用いて、前記係数を変更する、
    請求項8に記載の撮像装置。
  10. 前記制御回路は、前記フレーム期間において、
    前記少なくとも1つのパルス光が前記イメージセンサに入射していない期間に、
    前記イメージセンサの状態を、前記排出部に前記信号電荷が排出されず、かつ前記第2の蓄積部に前記信号電荷が蓄積される状態にすることにより、前記第2の蓄積部に前記信号電荷をさらに蓄積させる、
    請求項1に記載の撮像装置。
  11. 前記少なくとも1つのパルス光は、第1のパルス光、および前記第1のパルス光の後に前記第1の光源から出射される第2のパルス光を含み、
    前記制御回路は、
    前記第1のパルス光の前記イメージセンサへの入射が終了した後、前記第2のパルス光の前記イメージセンサへの入射が開始する前に、
    前記イメージセンサの状態を、前記排出部に前記信号電荷が排出されず、かつ前記第2の蓄積部に前記信号電荷が蓄積される状態にすることにより、前記第2の蓄積部に前記信号電荷をさらに蓄積させる、
    請求項1に記載の撮像装置。
  12. 前記制御回路は、前記フレーム期間において、
    前記第1および前記第2の蓄積部への前記少なくとも1つのパルス光に起因する信号電荷の蓄積が完了した後、
    前記イメージセンサの状態を、前記排出部に前記信号電荷が排出されず、かつ前記第2の蓄積部に前記信号電荷が蓄積される状態にすることにより、前記第2の蓄積部に前記信号電荷をさらに蓄積させる、
    請求項1に記載の撮像装置。
  13. 前記第1の光源からの前記少なくとも1つのパルス光とは異なる波長を有する第4のパルス光を出射させる第2の光源をさらに備え、
    前記イメージセンサは、前記信号電荷を蓄積する第3の蓄積部をさらに含み、
    前記制御回路は、前記フレーム期間において、
    前記第1期間および前記第2期間の後に、
    前記第2の光源に前記第4のパルス光を出射させ、
    前記第4のパルス光のうち、前記表面反射成分が前記イメージセンサに入射している期間を含む第5期間に、
    前記イメージセンサの状態を、前記排出部に前記信号電荷が排出される状態にすることにより、前記信号電荷のうち、前記排出部に排出されなかった部分を前記第1の蓄積部、前記第2の蓄積部および前記第3の蓄積部に蓄積させ、
    前記第4のパルス光のうち、前記内部散乱成分が前記イメージセンサに入射している第6期間に、
    前記イメージセンサの状態を、前記排出部に前記信号電荷が排出されず、かつ前記第3の蓄積部に前記信号電荷が蓄積される状態にすることにより、前記第3の蓄積部に前記信号電荷を蓄積させ、
    前記第5期間および前記第6期間の後、前記イメージセンサに、前記第1の蓄積部に蓄積された前記信号電荷に基づく前記第1の信号と、前記第2の蓄積部に蓄積された前記信号電荷に基づく前記第2の信号と、前記第3の蓄積部に蓄積された前記信号電荷に基づく前記第3の信号とを生成させる、
    請求項1から12のいずれかに記載の撮像装置。
JP2017099273A 2016-06-07 2017-05-18 撮像装置 Active JP6887097B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2016113424 2016-06-07
JP2016113424 2016-06-07

Publications (2)

Publication Number Publication Date
JP2017220926A true JP2017220926A (ja) 2017-12-14
JP6887097B2 JP6887097B2 (ja) 2021-06-16

Family

ID=60483627

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017099273A Active JP6887097B2 (ja) 2016-06-07 2017-05-18 撮像装置

Country Status (3)

Country Link
US (1) US10397496B2 (ja)
JP (1) JP6887097B2 (ja)
CN (1) CN107468209B (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018142878A1 (ja) * 2017-02-06 2018-08-09 パナソニックIpマネジメント株式会社 3次元モーション取得装置、及び3次元モーション取得方法
WO2019176535A1 (ja) * 2018-03-15 2019-09-19 パナソニックIpマネジメント株式会社 ユーザの心理状態を推定するためのシステム、記録媒体、および方法
JPWO2018142878A1 (ja) * 2017-02-06 2019-11-21 パナソニックIpマネジメント株式会社 3次元モーション取得装置、及び3次元モーション取得方法
WO2020137352A1 (ja) * 2018-12-27 2020-07-02 パナソニックIpマネジメント株式会社 生体計測方法、地図データ生成方法、プログラム、コンピュータ読み取り可能な記録媒体、および生体計測装置
WO2022176965A1 (ja) * 2021-02-18 2022-08-25 古河電気工業株式会社 生体情報測定装置、生体情報測定方法、およびプログラム

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111148469B (zh) * 2017-12-19 2024-04-09 松下知识产权经营株式会社 生物体计测装置、生物体计测方法及判定装置
US11381825B2 (en) * 2018-11-27 2022-07-05 Advanced Micro Devices, Inc. Variable rate rendering based on motion estimation
JP7386438B2 (ja) * 2018-12-20 2023-11-27 パナソニックIpマネジメント株式会社 生体計測装置、生体計測方法、コンピュータ読み取り可能な記録媒体、およびプログラム
JP7149505B2 (ja) * 2019-03-27 2022-10-07 パナソニックIpマネジメント株式会社 測距方法、測距装置、及び、プログラム
JP6824363B1 (ja) 2019-10-30 2021-02-03 浜松ホトニクス株式会社 イメージセンサ、及びイメージセンサの制御方法
CN114650764A (zh) * 2019-11-13 2022-06-21 索尼奥林巴斯医疗解决方案公司 光源设备与被检体观察系统
US20220167855A1 (en) * 2020-11-30 2022-06-02 Samsung Electronics Co., Ltd. Biological information measuring apparatus and electronic device including the same

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6298876A (ja) * 1985-10-25 1987-05-08 Hitachi Ltd 固体撮像装置の駆動方法
US5212667A (en) * 1992-02-03 1993-05-18 General Electric Company Light imaging in a scattering medium, using ultrasonic probing and speckle image differencing
JPH09173324A (ja) * 1995-08-08 1997-07-08 Technol Res Assoc Of Medical & Welfare Apparatus 計測装置
JPH11234574A (ja) * 1998-02-16 1999-08-27 Fuji Photo Film Co Ltd 電子カメラのメカシャッター調整方法
JP2005039727A (ja) * 2003-07-18 2005-02-10 Sony Corp 固体撮像装置
CN1622594A (zh) * 2003-11-28 2005-06-01 三洋电机株式会社 拖尾运算电路、摄像装置和固体摄像元件的驱动方法
JP2008008700A (ja) * 2006-06-28 2008-01-17 Fujifilm Corp 距離画像センサ
JP2012125370A (ja) * 2010-12-15 2012-07-05 Hitachi Ltd 生体計測装置
JP2012217082A (ja) * 2011-04-01 2012-11-08 Panasonic Corp 撮像装置、信号処理装置及び撮像方法、信号処理方法
JP2015215181A (ja) * 2014-05-08 2015-12-03 浜松ホトニクス株式会社 測距装置及び測距装置の駆動方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5305759A (en) 1990-09-26 1994-04-26 Olympus Optical Co., Ltd. Examined body interior information observing apparatus by using photo-pulses controlling gains for depths
JP3162070B2 (ja) 1990-11-22 2001-04-25 オリンパス光学工業株式会社 被検体内部情報観察装置
JP3220213B2 (ja) 1992-03-18 2001-10-22 浜松ホトニクス株式会社 光断層イメージング装置
JP4280993B2 (ja) * 2003-12-24 2009-06-17 ソニー株式会社 撮像装置及びその方法並びにプログラム
JP4804980B2 (ja) 2006-03-27 2011-11-02 オリンパスメディカルシステムズ株式会社 赤外観察システム
JP4931232B2 (ja) * 2007-07-04 2012-05-16 キヤノン株式会社 撮像装置及びその処理方法
JP5372356B2 (ja) * 2007-10-18 2013-12-18 オリンパスメディカルシステムズ株式会社 内視鏡装置及び内視鏡装置の作動方法
JP2010194291A (ja) * 2009-01-30 2010-09-09 Fujifilm Corp 内視鏡装置及びその駆動方法
JP5476190B2 (ja) * 2010-03-31 2014-04-23 本田技研工業株式会社 固体撮像装置
JP2012134756A (ja) 2010-12-21 2012-07-12 Olympus Corp 撮像装置
JP6594620B2 (ja) 2013-12-20 2019-10-23 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 光脳機能計測装置
US10499821B2 (en) * 2014-07-23 2019-12-10 Shenzhen GOODIX Technology Co., Ltd. Optical heart rate sensor

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6298876A (ja) * 1985-10-25 1987-05-08 Hitachi Ltd 固体撮像装置の駆動方法
US5212667A (en) * 1992-02-03 1993-05-18 General Electric Company Light imaging in a scattering medium, using ultrasonic probing and speckle image differencing
JPH09173324A (ja) * 1995-08-08 1997-07-08 Technol Res Assoc Of Medical & Welfare Apparatus 計測装置
JPH11234574A (ja) * 1998-02-16 1999-08-27 Fuji Photo Film Co Ltd 電子カメラのメカシャッター調整方法
JP2005039727A (ja) * 2003-07-18 2005-02-10 Sony Corp 固体撮像装置
CN1622594A (zh) * 2003-11-28 2005-06-01 三洋电机株式会社 拖尾运算电路、摄像装置和固体摄像元件的驱动方法
JP2008008700A (ja) * 2006-06-28 2008-01-17 Fujifilm Corp 距離画像センサ
JP2012125370A (ja) * 2010-12-15 2012-07-05 Hitachi Ltd 生体計測装置
JP2012217082A (ja) * 2011-04-01 2012-11-08 Panasonic Corp 撮像装置、信号処理装置及び撮像方法、信号処理方法
JP2015215181A (ja) * 2014-05-08 2015-12-03 浜松ホトニクス株式会社 測距装置及び測距装置の駆動方法

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018142878A1 (ja) * 2017-02-06 2018-08-09 パナソニックIpマネジメント株式会社 3次元モーション取得装置、及び3次元モーション取得方法
JPWO2018142878A1 (ja) * 2017-02-06 2019-11-21 パナソニックIpマネジメント株式会社 3次元モーション取得装置、及び3次元モーション取得方法
WO2019176535A1 (ja) * 2018-03-15 2019-09-19 パナソニックIpマネジメント株式会社 ユーザの心理状態を推定するためのシステム、記録媒体、および方法
JPWO2019176535A1 (ja) * 2018-03-15 2021-03-11 パナソニックIpマネジメント株式会社 ユーザの心理状態を推定するためのシステム、記録媒体、および方法
US11557148B2 (en) 2018-03-15 2023-01-17 Panasonic Intellectual Property Management Co., Ltd. System, computer-readable non-transitory recording medium, and method for estimating psychological state of user
JP7308430B2 (ja) 2018-03-15 2023-07-14 パナソニックIpマネジメント株式会社 ユーザの心理状態を推定するためのシステム、記録媒体、および方法
US11963772B2 (en) 2018-03-15 2024-04-23 Panasonic Intellectual Property Management Co., Ltd. System, computer-readable non-transitory recording medium, and method for estimating psychological state of user
WO2020137352A1 (ja) * 2018-12-27 2020-07-02 パナソニックIpマネジメント株式会社 生体計測方法、地図データ生成方法、プログラム、コンピュータ読み取り可能な記録媒体、および生体計測装置
WO2022176965A1 (ja) * 2021-02-18 2022-08-25 古河電気工業株式会社 生体情報測定装置、生体情報測定方法、およびプログラム

Also Published As

Publication number Publication date
US10397496B2 (en) 2019-08-27
JP6887097B2 (ja) 2021-06-16
US20170353672A1 (en) 2017-12-07
CN107468209A (zh) 2017-12-15
CN107468209B (zh) 2021-10-08

Similar Documents

Publication Publication Date Title
JP6887097B2 (ja) 撮像装置
JP7065421B2 (ja) 撮像装置および対象物の内部の情報を取得する方法
JP6814967B2 (ja) 撮像装置
US11303828B2 (en) Imaging apparatus including light source that emits pulsed light, image sensor, and control circuit
JP2018094400A (ja) 撮像装置
CN112188866A (zh) 生物体计测装置及生物体计测方法
JP7417867B2 (ja) 光計測装置
WO2020137276A1 (ja) 撮像装置
CN110891481B (zh) 生物体计测装置及头戴式显示器装置
JP2021141949A (ja) 測定装置、およびプログラム
CN115052530A (zh) 计测装置以及对计测装置进行控制的方法
WO2022138063A1 (ja) 生体計測装置、生体計測方法、及び、コンピュータプログラム
WO2023090188A1 (ja) 光検出システム、処理装置、光検出システムを制御する方法、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200416

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210112

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210323

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210330

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210422

R151 Written notification of patent or utility model registration

Ref document number: 6887097

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151