JPWO2015186225A1 - 走査型投影装置、投影方法、走査装置、及び手術支援システム - Google Patents

走査型投影装置、投影方法、走査装置、及び手術支援システム Download PDF

Info

Publication number
JPWO2015186225A1
JPWO2015186225A1 JP2016525632A JP2016525632A JPWO2015186225A1 JP WO2015186225 A1 JPWO2015186225 A1 JP WO2015186225A1 JP 2016525632 A JP2016525632 A JP 2016525632A JP 2016525632 A JP2016525632 A JP 2016525632A JP WO2015186225 A1 JPWO2015186225 A1 JP WO2015186225A1
Authority
JP
Japan
Prior art keywords
light
tissue
unit
scanning
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016525632A
Other languages
English (en)
Other versions
JP6468287B2 (ja
Inventor
進 牧野内
進 牧野内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Publication of JPWO2015186225A1 publication Critical patent/JPWO2015186225A1/ja
Application granted granted Critical
Publication of JP6468287B2 publication Critical patent/JP6468287B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/24Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for the mouth, i.e. stomatoscopes, e.g. with tongue depressors; Instruments for opening or keeping open the mouth
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0033Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room
    • A61B5/0036Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room including treatment, e.g., using an implantable medical device, ablating, ventilating
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0062Arrangements for scanning
    • A61B5/0064Body surface scanning
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0071Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by measuring fluorescence emission
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0075Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by spectroscopy, i.e. measuring spectra, e.g. Raman spectroscopy, infrared absorption spectroscopy
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0082Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes
    • A61B5/0088Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes for oral or dental tissue
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/48Other medical applications
    • A61B5/4869Determining body composition
    • A61B5/4872Body fat
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/48Other medical applications
    • A61B5/4869Determining body composition
    • A61B5/4875Hydration status, fluid retention of the body
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/25Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
    • G01N21/31Investigating relative effect of material at wavelengths characteristic of specific elements or molecules, e.g. atomic absorption spectrometry
    • G01N21/35Investigating relative effect of material at wavelengths characteristic of specific elements or molecules, e.g. atomic absorption spectrometry using infrared light
    • G01N21/359Investigating relative effect of material at wavelengths characteristic of specific elements or molecules, e.g. atomic absorption spectrometry using infrared light using near infrared light
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B2090/364Correlation of different images or relation of image positions in respect to the body
    • A61B2090/366Correlation of different images or relation of image positions in respect to the body using projection of images directly onto the body
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2505/00Evaluating, monitoring or diagnosing in the context of a particular type of medical care
    • A61B2505/05Surgical care
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0077Devices for viewing the surface of the body, e.g. camera, magnifying lens
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/44Detecting, measuring or recording for evaluating the integumentary system, e.g. skin, hair or nails

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Pathology (AREA)
  • Public Health (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Engineering & Computer Science (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Radiology & Medical Imaging (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Dentistry (AREA)
  • Optics & Photonics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Biochemistry (AREA)
  • General Physics & Mathematics (AREA)
  • Immunology (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Image Processing (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)

Abstract

走査型投影装置(1)において、照射部(2)は、生物の組織(BT)に検出光(L1)を照射する。組織(BT)は、検出光(L1)を受けると光を放射する。組織(BT)が放射する光のスペクトルは、当該組織(BT)中の脂質及び水の割合により、並びに当該組織(BT)中の蛍光物質の量により異なる。光検出部(3)は、組織(BT)が放射する光を検出する。画像生成部(4)は、当該検出の結果を処理して組織(BT)に関する画像のデータを生成する。投影光学系(7)は、当該データに基づいて組織(BT)を可視光(L2)で走査し、組織(BT)上に画像を投影する。その結果、組織(BT)上に、脂質及び水の分布を示す画像又は蛍光物質の分布を示す画像が投影される。オペレータは、組織(BT)上に投影された画像を見て組織(BT)中の腫瘍を識別する。

Description

本発明は、走査型投影装置、投影方法、及び手術支援システムに関する。
医療などの分野において、組織上に画像を投影する技術が提案されている(例えば、下記の特許文献1参照)。例えば、特許文献1に係る装置は、赤外線を身体組織に照射し、身体組織で反射した赤外線に基づいて皮下血管の映像を取得する。この装置は、皮下血管の可視光像を身体組織の表面に投影する。
特開2006−102360号明細書
ところで、組織の表面は凹凸面になっている場合があり、組織の表面に画像を投影する際に焦点を合わせにくいことがある。その結果、組織の表面に投影する投影像の焦点がずれてしまい、表示された画像にボケが生じることがある。本発明は、生物の組織上に鮮明な画像を投影可能な走査型投影装置、投影方法、及び手術支援システムを提供することを目的とする。
本発明の第1の態様に従えば、生物の組織に検出光を照射する照射部と、検出光が照射されている組織から放射される光を検出する光検出部と、光検出部の検出結果を使って、組織に関する画像のデータを生成する画像生成部と、データに基づいて組織を可視光で走査する投影光学系を含み、可視光の走査によって組織上に画像を投影する投影部と、を備える走査型投影装置が提供される。
本発明の第2の態様に従えば、生物の組織に検出光を照射することと、検出光が照射されている組織から放射される光を光検出部によって検出することと、光検出部の検出結果を使って、組織に関する画像のデータを生成することと、データに基づいて組織を可視光で走査し、可視光の走査によって組織上に画像を投影することと、を含む投影方法が提供される。
本発明の第3の態様に従えば、第1の態様の走査型投影装置と、走査型投影装置によって組織上に画像が投影されている状態において、組織に対する処理が可能な操作デバイスと、を備える手術支援システムが提供される。
本発明によれば、生物の組織上に鮮明な画像を投影可能な走査型投影装置、投影方法、及び手術支援システムを提供することができる。
第1実施形態に係る走査型投影装置を示す図である。 本実施形態に係る画像の画素配列の例を示す概念図である。 本実施形態に係る近赤外波長領域における吸光度の分布を示すグラフである。 第1実施形態に係る投影方法を示すフローチャートである。 本実施形態に係る照射部の変形例を示す図である。 本実施形態に係る光検出部の変形例を示す図である。 本実施形態に係る投影部の変形例を示す図である。 第2実施形態に係る走査型投影装置を示す図である。 本実施形態に係る照射部および投影部の動作の一例を示すタイミングチャートである。 第3実施形態に係る走査型投影装置を示す図である。 第4実施形態に係る走査型投影装置を示す図である。 本実施形態に係る手術支援システムの一例を示す図である。 本実施形態に係る手術支援システムの他の例を示す図である。
[第1実施形態]
第1実施形態について説明する。図1は、本実施形態に係る走査型投影装置1を示す図である。走査型投影装置1は、生物(例えば、動物など)の組織BTから放射される光を検出し、その検出結果を使って組織BTに関する画像を組織BT上に投影する。走査型投影装置1は、組織BTの情報を含む画像を組織BT上に直接的に表示可能である。また、生物の組織BTから放射される光は、例えば、赤外光を組織BTに照射して得られる光(例、赤外光)、や蛍光色素などの発光物質でラベル化された組織BTに励起光を照射して発光される蛍光、などを含む。
走査型投影装置1は、例えば外科的手術の開腹手術に利用できる。走査型投影装置1は、近赤外光を用いて解析された患部の情報を患部の上に直接的に投影する。走査型投影装置1は、組織BTに関する画像として、組織BTの成分を示す画像を表示可能である。また、走査型投影装置1は、組織BTに関する画像として、組織BTのうち特定の成分を強調した画像を表示可能である。このような画像は、例えば、組織BTにおける脂質の分布、水分の分布などを示す画像である。例えば、この画像は、患部(組織BT)における腫瘍の有無を判定すること等に利用できる。走査型投影装置1は、患部に関する画像を患部に重ねて表示可能であり、手術者は、患部に表示された情報を直接的に見ながら手術等を行うことができる。走査型投影装置1の操作者(オペレータ)は、手術者(オペレータ)と同じ人でもよいし、別の人(サポート担当者や医療従事者など)でもよい。
なお、走査型投影装置1は、一般的な手術のように組織BTを傷つける処理の他に、組織BTを傷つけない各種処理など、医療用途や検査用途、調査用途等に適用できる。例えば、走査型投影装置1は、採血、病理解剖、病理診断、生体検査(生検)などの臨床検査などにも利用できる。組織BTは、人間の組織であってもよいし、人間以外の生物の組織であってもよい。例えば、組織BTは、生物から切り取った状態の組織であってもよいし、生物に付随した状態の組織であってもよい。また、例えば、組織BTは、生存している生物(生体)の組織(生体組織)であってもよいし、死亡後の生物(死体)の組織であってもよい。組織BTは、生物から摘出した物体であってもよい。例えば、組織BTは、生物のいずれの器官を含んでいてもよく、皮膚を含んでいてもよいし、皮膚よりも内側の内臓などを含んでいてもよい。
走査型投影装置1は、照射部2、光検出部3、画像生成部4、及び投影部5を備える。本実施形態において、走査型投影装置1は、走査型投影装置1の各部を制御する制御装置6を備え、画像生成部4は、制御装置6に設けられている。
走査型投影装置1の各部は、概略すると以下のように動作する。照射部2は、生物の組織BTに検出光L1を照射する。光検出部3は、検出光L1が照射されている組織BTから放射される光を検出する。画像生成部4は、光検出部3の検出結果を使って、組織BTに関する画像のデータを生成する。投影部5は、このデータに基づいて組織BTを可視光L2で走査する投影光学系7を含み、可視光L2の走査によって組織BT上に画像(投影画像)を投影する。また、例えば、画像生成部4は、光検出部3の検出結果を演算処理することによって上記の投影画像を生成する。
次に、走査型投影装置1の各部について説明する。本実施形態において、照射部2は、赤外光を射出する光源10を備える。光源10は、例えば赤外LED(赤外発光ダイオード)を含み、検出光L1として赤外光を射出する。光源10は、レーザー光源と比較して、波長帯が広い赤外光を射出する。光源10は、第1波長、第2波長、及び第3波長を含む波長帯の赤外光を射出する。第1波長、第2波長、および第3波長については後述するが、組織BTにおける特定の成分の情報を算出するのに使われる波長である。光源10は、LED以外の固体光源を含んでいてもよいし、ハロゲンランプなどのランプ光源を含んでいてもよい。
光源10は、例えば、検出光が照射される領域(検出光の照射領域)が移動しないように固定される。組織BTは、検出光の照射領域に配置される。例えば、光源10と組織BTとは、相対位置が変化しないように配置される。本実施形態において、光源10は、光検出部3から独立して支持され、投影部5から独立して支持される。光源10は、光検出部および投影部5の少なくとも一方と一体的に固定されていてもよい。
光検出部3は、組織BTを経由した光を検出する。組織BTを経由した光は、組織BTで反射した光、組織BTを透過した光、及び組織BTで散乱した光の少なくとも一部を含む。本実施形態において、光検出部3は、組織BTで反射、散乱した赤外光を検出する。
本実施形態において、光検出部3は、第1波長の赤外光と、第2波長の赤外光と、第3波長の赤外光とを分離して検出する。光検出部3は、撮像光学系11、赤外フィルター12、及びイメージセンサー13を備える。
撮像光学系11は、1または2以上の光学素子(例、レンズ)、を含み、検出光L1が照射されている組織BTの像を形成可能である。赤外フィルター12は、撮像光学系11を通った光のうち所定の波長帯の赤外光を通すとともに、所定の波長帯以外の赤外光を遮断する。イメージセンサー13は、組織BTから放射された赤外光の少なくとも一部を、撮像光学系11および赤外フィルター12を介して検出する。
イメージセンサー13は、CMOSセンサーあるいはCCDセンサーのように、二次元的に配列された複数の受光要素を有する。この受光要素は、画素あるいはサブ画素と呼ばれることがある。イメージセンサー13は、フォトダイオード、読出回路、A/D変換器などを備える。フォトダイオードは、受光要素ごとに設けられ、受光要素に入射した赤外光により電荷が発生する光電変換素子である。読出回路は、フォトダイオードに蓄積された電荷を受光要素ごとに読み出し、電荷量を示すアナログ信号を出力する。A/D変換器は、読出回路によって読み出されたアナログ信号をデジタル信号に変換する。
本実施形態において、赤外フィルター12は、第1フィルター、第2フィルター、及び第3フィルターを備える。第1フィルター、第2フィルター、及び第3フィルターは、透過する赤外光の波長が互いに異なる。第1フィルターは、第1波長の赤外光を通すとともに第2波長および第3波長の赤外光を遮断する。第2フィルターは、第2波長の赤外光を通すとともに第1波長および第3波長の赤外光を遮断する。第3フィルターは、第3波長の赤外光を通すとともに第1波長および第2波長の赤外光を遮断する。
第1フィルター、第2フィルター、及び第3フィルターは、各受光要素に入射する赤外光が第1フィルターと第2フィルターと第3フィルターとのいずれか1つを通るように、受光要素の配列に応じて配置されている。例えば、第1フィルターを通った第1波長の赤外光は、イメージセンサー13の第1受光要素に入射する。第2フィルターを通った第2波長の赤外光は、第1受光要素の隣の第2受光要素に入射する。第3フィルターを通った第3波長の赤外光は、第2受光要素の隣の第3受光要素に入射する。このように、イメージセンサー13は、隣り合う3つの受光要素によって、組織BT上の一部分から放射された第1波長の赤外光、第2波長の赤外光、及び第3波長の赤外光の光強度を検出する。
本実施形態において、光検出部3は、イメージセンサー13による検出結果を、画像形式のデジタル信号(以下、撮像画像データという)で出力する。以下の説明において、イメージセンサー13が撮像した画像を、適宜、撮像画像という。また、撮像画像のデータを撮像画像データという。ここでは、説明の便宜上、撮像画像がフルスペックハイビジョン形式(HD形式)であるものとするが、撮像画像の画素数、画素配列(アスペクト比)、画素値の階調などについて限定はない。
図2は、画像の画素配列の例を示す概念図である。HD形式の画像において、水平走査線方向には1920個の画素が並び、垂直走査線方向には1080個の画素が並ぶ。水平走査線方向に一列に並ぶ複数の画素は、水平走査線と呼ばれることがある。各画素の画素値は、例えば8ビットのデータで表され、十進数では0から255の256階調で表される。
上述のように、イメージセンサー13の各受光要素が検出する赤外光の波長は、受光要素の位置によって定まっていることから、撮像画像データの各画素値は、イメージセンサー13が検出した赤外光の波長と関連付けられる。ここで、撮像画像データ上の画素の位置を(i,j)で表し、(i,j)に配置されている画素をP(i,j)で表す。iは、水平走査方向の一端の画素を0とし、他端へ向かう順に1、2、3と昇順する画素の番号である。jは、垂直走査方向の一端の画素を0とし、他端へ向かう順に1、2、3と昇順する画素の番号である。HD形式の画像において、iは0から1919までの正の整数をとり、jは0から1079までの正の整数をとる。
第1波長の赤外光を検出するイメージセンサー13の受光要素に対応する第1画素は、例えば、正の整数Nに対してi=3Nを満たす画素群である。また、第2波長の赤外光を検出する受光要素に対応する第2画素は、例えば、i=3N+1を満たす画素群である。また、第3波長の赤外光を検出する受光要素に対応する第3画素は、i=3N+2を満たす画素群である。
制御装置6は、光検出部3による撮像処理の条件を設定する。制御装置6は、撮像光学系11に設けられる絞りの開口率を制御する。また、制御装置6は、イメージセンサー13に対する露光が開始するタイミング、及び露光が終了するタイミングを制御する。このように、制御装置6は、光検出部3を制御して、検出光L1が照射されている組織BTを撮像させる。また、制御装置6は、光検出部3による撮像結果を示す撮像画像データを、光検出部3から取得する。制御装置6は、記憶部14を備え、撮像画像データを記憶部14に記憶させる。記憶部14は、撮像画像データの他に、画像生成部4が生成したデータ(投影画像データ)、走査型投影装置1の設定を示すデータなど各種情報を記憶する。
画像生成部4は、算出部15およびデータ生成部16を備える。算出部15は、光検出部3が検出した光(例、赤外光や蛍光など)の波長に対する光強度の分布を使って、組織BTの成分に関する情報を算出する。ここで、組織BTの成分に関する情報を算出する方法を説明する。図3は、近赤外波長領域における第1物質の吸光度の分布D1、及び第2物質の吸光度の分布D2を示すグラフである。図3において、第1物質は脂質であり、第2物質は水である。図3のグラフの縦軸は吸光度であり、横軸は波長[nm]である。
第1波長λ1は、任意の波長に設定可能であるが、例えば、近赤外波長領域における第1物質(脂質)の吸光度の分布のうち相対的に吸光度が小さく、かつ、近赤外波長領域における第2物質(水)の吸光度の分布のうち相対的に吸光度が小さい波長に設定される。一例として、本実施形態において、第1波長λ1は約1150nmに設定されている。第1波長λ1の赤外光は、脂質に吸収されるエネルギーが少なく、脂質から放射される光強度が強い。また、第1波長λ1の赤外光は、水に吸収されるエネルギーが少なく、水から放射される光強度が強い。
第2波長λ2は、第1波長λ1と異なる任意の波長に設定可能である。第2波長λ2は、例えば、第1物質(脂質)の吸光度が第2物質(水)の吸光度よりも高い波長に設定される。一例として、本実施形態において、第2波長λ2は、約1720nmに設定されている。第2波長λ2の赤外光は、物体(例、組織)に照射された際に、この物体に含まれる水に対する脂質の割合が大きいほど、物体に吸収されるエネルギーが多く、この物体から放射される光強度が弱くなる。例えば、組織の第1部分に含まれる脂質の割合が水より大きい場合、第2波長λ2の赤外光は、組織の第1部分に吸収されるエネルギーが多く、この第1部分から放射される光強度が弱くなる。また、例えば、組織の第2部分に含まれる脂質の割合が水より小さい場合、第2波長λ2の赤外光は、組織の第2部分に吸収されるエネルギーが少なく、この第2部分から放射される光強度が第1部分と比べて強くなる。
第3波長λ3は、第1波長λ1と第2波長λ2のいずれとも異なる任意の波長に設定可能である。第3波長λ3は、例えば、第2物質(水)の吸光度が第1物質(脂質)の吸光度よりも高い波長に設定される。一例として、本実施形態において、第3波長λ2は、約1950nmに設定されている。第3波長λ3の赤外光は、物体に照射された際に、この物体に含まれる脂質に対する水の割合が大きいほど、物体に吸収されるエネルギーが多く、この物体から放射される光強度が弱くなる。上述の第2波長λ2の場合と反対に、例えば、例えば、組織の第1部分に含まれる脂質の割合が水より大きい場合、第3波長λ3の赤外光は、組織の第1部分に吸収されるエネルギーが少なく、この第1部分から放射される光強度が強くなる。また、例えば、組織の第2部分に含まれる脂質の割合が水より小さい場合、第3波長λ3の赤外光は、組織の第2部分に吸収されるエネルギーが多く、この第2部分から放射される光強度が第1部分と比べて弱くなる。
図1の説明に戻り、算出部15は、光検出部3から出力された撮像画像データを使って、組織BTの成分に関する情報を算出する。本実施形態において、イメージセンサー13の各受光要素が検出する赤外光の波長は、各受光要素と赤外フィルター12(第1から第3フィルター)との位置関係によって定まる。算出部15は、撮像画素(図2参照)のうち、第1波長の赤外光を検出した受光要素の出力に対応する画素値P1と、第2波長の赤外光を検出した受光要素の出力に対応する画素値P2と、第3波長の赤外光を検出した受光要素の出力に対応する画素値P3とを使って、組織BTに含まれる脂質の分布および水分の分布を算出する。
ここで、図2の画素P(i,j)は、イメージセンサー13において第1波長の赤外光を検出する受光要素に対応する画素とする。また、画素P(i+1,j)は、第2波長の赤外光を検出する受光要素に対応する画素とする。また、画素P(i+2,j)は、イメージセンサー13において第2波長の赤外光を検出する受光要素に対応する画素とする。
本実施形態において、画素P(i,j)の画素値は、波長が1150nmの赤外光をイメージセンサー13が検出した結果に相当し、画素P(i,j)の画素値をA1150と表す。画素P(i+1,j)の画素値は、波長が1720nmの赤外光をイメージセンサー13が検出した結果に相当し、画素P(i+1,j)の画素値をA1720と表す。画素P(i+2,j)の画素値は、波長が1950nmの赤外光をイメージセンサー13が検出した結果に相当し、画素P(i+2,j)の画素値をA1950と表す。算出部15は、これら画素値を使って、下記の式(1)に示す指標Q(i,j)を算出する。
Q(i,j)=(A1950−A1150)/(A1720−A1150)・・・(1)
例えば、式(1)から算出される指標Qは、組織BTのうち画素P(i,j)、画素P(i+1,j)、画素P(i+2,j)により撮像された部分において、脂質の量と水の量との比率を示す指標である。図3に示したように、波長が1720nmの赤外光に対して脂質の吸光度は水の吸光度よりも大きいので、脂質の量が水の量よりも多い部位であるほど、A1720の値が小さくなり、式(1)における(A1720−A1150)の値が小さくなる。また、波長が1950nmの赤外光に対して脂質の吸光度は水の吸光度よりも小さいので、脂質の量が水の量よりも多い部位であるほど、式(1)における(A1950−A1150)の値が大きくなる。つまり、脂質の量が水の量よりも多い部位であるほど、(A1720−A1150)の値が小さくなり、(A1950−A1150)の値が大きくなるので、指標Q(i,j)が大きくなる。このように、指標Q(i,j)が大きいことは脂質の量が多いことを示し、指標Q(i,j)が小さいことは水の量が多いことを示す。
このように算出部15は、画素P(i,j)における指標Q(i,j)を算出する。また、算出部15は、i、jの値を変化させながら、他の画素における指標を算出し、指標の分布を算出する。例えば、画素P(i+3,j)は、画素P(i,j)と同様に、イメージセンサー13において第1波長の赤外光を検出する受光要素に対応するので、算出部15は、画素P(i,j)の画素値の代わりに画素P(i+3,j)の画素値を使って、他の画素における指標を算出する。例えば、算出部15は、第1波長の赤外光の検出結果に相当する画素P(i+3,j)の画素値、第2波長の赤外光の検出結果に相当する画素P(i+4,j)の画素値、及び第3波長の赤外光の検出結果に相当する画素P(i+5,j)の画素値を使って、指標Q(i+1,j)を算出する。
このように、算出部15は、複数の画素に関して、各画素の指標Q(i,j)を算出することにより、指標の分布を算出する。算出部15は、指標Q(i,j)の算出に必要とされる画素値が撮像画素データに含まれる範囲において、全ての画素に関する指標Q(i,j)を算出してもよい。また、算出部15は、一部の画素に関する指標Q(i,j)を算出し、算出した指標Q(i,j)を使って補間演算をすることにより指標Q(i,j)の分布を算出してもよい。
ところで、算出部15が算出した指標Q(i,j)は、一般的に正の整数にならない。そこで、図1のデータ生成部16は、適宜、数値の丸めを行って、指標Q(i,j)を所定の画像形式のデータに変換する。例えば、データ生成部16は、算出部15が算出した結果を使って、組織BTの成分に関する画像のデータを生成する。以下の説明において、組織BTの成分に関する画像を、適宜、成分画像(又は投影画像)という。また、成分画像のデータを成分画像データ(又は投影画像データ)という。
ここでは、説明の便宜上、成分画像は、図2に示したようなHD形式の成分画像であるものとするが、成分画像の画素数、画素配列(アスペクト比)、画素値の階調などについて限定はない。成分画像は、撮像画像と同じ画像形式であってもよいし。撮像画像と異なる画像形式であってもよい。データ生成部16は、撮像画像と異なる画像形式の成分画像のデータを生成する場合に、適宜、補間処理を行う。
データ生成部16は、成分画像の画素(i,j)の画素値として、指標Q(i,j)を8ビット(256階調)のデジタルデータに変換した値を算出する。例えば、データ生成部16は、画素値の1階調に相当する指標を変換定数として、指標Q(i,j)を変換定数で除算し、その除算値の小数点以下を四捨五入することによって、指標Q(i,j)を画素(i,j)の画素値に変換する。この場合に、画素値は、指標と概ね線形な関係を満たすように算出される。
ところで、上述のように、撮像画像の3つの画素の画素値を使って1つの画素に関する指標を算出すると、撮像画像の端の画素に関する指標を算出するのに必要な画素が不足する場合がある。その結果、成分画像の端の画素の画素値を算出するのに必要な指標が不足する。このように、成分画像の画素の画素値を算出するのに必要な指標が不足する場合に、データ生成部16は、補間などにより成分画像の画素の画素値を算出してもよい。また、このような場合に、データ生成部16は、指標の不足により算出できない成分画像の画素の画素値を、予め定められた値(例えば、0)にしてもよい。
なお、指標Q(i,j)を画素値に変換する方法は、適宜変更できる。例えば、データ生成部16は、画素値と指標とが非線形な関係になるように、成分画像データを算出してもよい。また、データ生成部16は、撮像画像の画素(i,j)の画素値、画素(i+1,j)の画素値、及び画素(i+2,j)の画素値を使って算出した指標を画素値に換算した値を、画素(i+1,j)の画素値としてもよい。
また、データ生成部16は、指標Q(i,j)の値が所定の範囲の下限値未満である場合に、指標Q(i,j)に対する画素値を一定値にしてもよい。この一定値は、画素値の最小階調(例えば、0)であってもよい。また、指標Q(i,j)の値が所定の範囲の上限値を超える場合に指標Q(i,j)に対する画素値を一定値にしてもよい。この一定値は、画素値の最大階調(例えば、255)であってもよいし、画素値の最小階調(例えば、0)であってもよい。
ところで、式(1)により算出される指標Q(i,j)は、脂質の量が多い部位であるほど大きくなることから、画素(i,j)の画素値は、脂質の量が多い部位であるほど大きくなる。例えば、画素値が大きいことは、一般的に画素が明るく表示されることに対応することから、脂質の量が多い部位であるほど明るく強調されて表示されることになる。なお、水の量が多い部位を明るく表示したいというオペレータの要望もありえる。
そこで、本実施形態において、走査型投影装置1は、第1物質の量に関する情報を明るく強調して表示する第1モードと、第2物質の量に関する情報を明るく強調して表示する第2モードとを有する。走査型投影装置1が第1モードと第2モードのいずれのモードに設定されているか示す設定情報は、記憶部14に記憶されている。
モードが第1モードに設定されている場合に、データ生成部16は、指標Q(i,j)を画素(i,j)の画素値に変換した第1の成分画像データを生成する。また、指標Q(i,j)の逆数を画素(i,j)の画素値に変換した第2の成分画像データを生成する。組織において水の量が多いほど、指標Q(i,j)の値が小さくなり、指標Q(i,j)の逆数の値が大きくなる。そのため、第2の成分画像データにおいて、水の量が多い部位に対応する画素の画素値(階調)が高くなる。
なお、モードが第2モードに設定されている場合に、データ生成部16は、指標Q(i,j)から換算された画素値を所定の階調から差し引いた差分値を、画素(i,j)の画素値として算出してもよい。例えば、指標Q(i,j)から換算された画素値が50である場合に、データ生成部16は、画素値の最大階調(例えば、255)から50を差し引いた205を、画素(i,j)の画素値として算出してもよい。
図1の画像生成部4は、生成した成分画像データを記憶部14に記憶させる。制御装置6は、画像生成部4が生成した成分画像データを投影部5に供給し、組織BTの特定部分(例、上記の第1部分や第2部分など)を強調させるために投影部5に成分画像を組織BT上に投影させる。また、制御装置6は、投影部5が成分画像を投影するタイミングを制御する。また、制御装置6は、投影部5が投影する成分画像の明るさを制御する。制御装置6は、投影部5に画像の投影を停止させることができる。制御装置6は、組織BTの特定部分を強調させるために、成分画像が組織BT上で点滅して表示されるように、成分画像の投影の開始と停止とを制御できる。
投影部5は、組織BT上に光を走査させる走査投影式であって、光源20、投影光学系7、及び投影部コントローラ21を備える。光源20は、検出光とは異なる所定波長の可視光を射出する。光源20は、レーザーダイオードを含み、可視光としてレーザー光を射出する。光源20は、外部から供給される電流に応じた光強度のレーザー光を射出する。
投影光学系7は、光源20から射出されたレーザー光を組織BT上に導くとともに、このレーザー光で組織BTを走査する。投影光学系7は、走査部22および波長選択ミラー23を備える。走査部22は、光源20から射出されたレーザー光を2方向において偏向可能である。例えば、走査部22は、反射系の光学系である。走査部22は、第1走査ミラー24、第1走査ミラー24を駆動する第1駆動部25、第2走査ミラー26、及び第2走査ミラー26を駆動する第2駆動部27を備える。また、例えば、第1走査ミラー24及び第2走査ミラー26のそれぞれは、ガルバノミラー、MEMSミラー、又はポリゴンミラー等である。
第1走査ミラー24および第1駆動部25は、光源20から射出されたレーザー光を水平走査方向において偏向させる水平走査部である。第1走査ミラー24は、光源20から射出されたレーザー光が入射する位置に配置されている。第1駆動部25は、投影部コントローラ21に制御されて、投影部コントローラ21から受信する駆動信号に基づいて第1走査ミラー24を回動する。光源20から射出されたレーザー光は、第1走査ミラー24で反射し、第1走査ミラー24の角度位置に応じた方向に偏向する。また、第1走査ミラー24は、光源20から射出されるレーザー光の光路に配置される。
第2走査ミラー26および第2駆動部27は、光源20から射出されたレーザー光を垂直走査方向において偏向させる垂直走査部である。第2走査ミラー26は、第1走査ミラー24で反射したレーザー光が入射する位置に配置されている。第2駆動部27は、投影部コントローラ21に制御されて、投影部コントローラ21から受信する駆動信号に基づいて第2走査ミラー26を回動する。第1走査ミラー24で反射したレーザー光は、第2走査ミラー26で反射し、第2走査ミラー26の角度位置に応じた方向に偏向する。また、第2走査ミラー26は、光源20から射出されるレーザー光の光路に配置される。
水平走査部および垂直走査部のそれぞれは、例えばガルバノスキャナー等である。垂直走査部は、水平走査部と同様の構成であってもよいし、異なる構成であってもよい。一般的に、水平方向走査は、垂直方向の走査よりも高周波数で行われることが多い。そのため、垂直走査方向の走査にガルバノミラーを用いるとともに、水平走査方向の走査に、ガルバノミラーよりも高周波数で動作するMEMSミラーあるいはポリゴンミラーを用いてもよい。
波長選択ミラー23は、走査部22によって偏向されたレーザー光を、組織BT上に導く光学部材である。第2走査ミラー26で反射したレーザー光は、波長選択ミラー23で反射し、組織BTに照射される。本実施形態において、波長選択ミラー23は、組織BTと光検出部3との間の光路に配置されている。波長選択ミラー23は、例えば、ダイクロイックミラーあるいはダイクロイックプリズムである。波長選択ミラー23は、照射部2の光源10から射出される検出光が透過し、かつ投影部5の光源20から射出される可視光が反射する特性を有する。波長選択ミラー23は、赤外領域の光が透過し、かつ可視領域の光が反射する特性を有する。
本明細書において、投影光学系7の光軸7aは、投影光学系7がレーザー光を走査する走査範囲SAの中心を通るレーザー光と同軸の軸(同一の光軸)であるとする。一例として、投影光学系7の光軸7aは、第1走査ミラー24および第1駆動部25による水平走査方向の中心を通り、かつ第2走査ミラー26および第2駆動部27による垂直走査方向の中心を通るレーザー光と同軸である。投影光学系7の光射出側の光軸7aは、投影光学系7のうち最もレーザー光の照射対象物に近い側に配置される光学部材と、照射対象物との間の光路において、走査範囲SAの中心を通るレーザー光と同軸である。本実施形態において、投影光学系7の光射出側の光軸7aは、波長選択ミラー23と組織BTとの間の光路において、走査範囲SAの中心を通るレーザー光と同軸である。
本実施形態において、撮像光学系11の光軸7aは、撮像光学系11に含まれるレンズの回転中心軸と同軸である。撮像光学系11の光軸11aと投影光学系7の光出射側の光軸7aとは同軸に設定されている。したがって、本実施形態における走査型投影装置1を用いて組織BTに対する撮影位置がユーザによって変えられた場合であっても、組織BT上に投影する上記成分画像をずらすことなく投影できる。本実施形態において、光検出部3および投影部5は、それぞれ、筐体30に収容されている。光検出部3および投影部5は、それぞれ、筐体30に固定されている。そのため、光検出部3と投影部5との位置ずれが抑制され、撮像光学系11の光軸7aと投影光学系7の光軸との位置ずれが抑制される。
投影部コントローラ21は、画素値に応じて光源20に供給する電流を制御する。例えば、投影部コントローラ21は、成分画像のうち画素(i,j)を表示する際に、画素(i,j)の画素値に応じた電流を光源20に供給する。一例として、投影部コントローラ21は、光源20に供給される電流を、画素値に応じて振幅変調する。また、投影部コントローラ21は、第1駆動部25を制御することにより、走査部22によるレーザー光の走査範囲の水平走査方向において、各時刻にレーザー光が入射する位置を制御する。また、投影部コントローラ21は、第2駆動部27を制御することにより、走査部22によるレーザー光の走査範囲の垂直走査方向において、各時刻にレーザー光が入射する位置を制御する。一例として、投影部コントローラ21は、光源20から射出されるレーザー光の光強度を画素(i,j)の画素値に応じて制御するとともに、レーザー光が走査範囲上で画素(i,j)に相当する位置に入射するように第1駆動部25および第2駆動部27を制御する。
本実施形態において、制御装置6には、表示装置31および入力装置32が設けられている。表示装置31は、例えば、液晶ディスプレイなどのフラットパネルディスプレイである。制御装置6は、撮像画像や走査型投影装置1の動作の設定などを、表示装置31に表示させることができる。また、制御装置6は、光検出部3が撮像した撮像画像、あるいは撮像画像を画像処理した画像を表示装置31に表示可能である。また、制御装置6は、画像生成部4が生成した成分画像、あるいは成分画像を画像処理した画像を表示装置31に表示可能である。また、制御装置6は、成分画像を撮像画像とともに合成処理した合成画像を、表示装置31に表示可能である。
撮像画像と成分画像の少なくとも一方を表示装置31に表示させる場合に、そのタイミングは、投影部5によって成分画像を投影するタイミングと同じであってもよいし、異なるタイミングであってもよい。例えば、制御装置6は、記憶部14に成分画像データを記憶させ、表示装置31に表示させる旨の入力信号を入力装置32が受信した場合に、記憶部14に記憶されている成分画像データを表示装置31に供給してもよい。
また、制御装置6は、可視光の波長帯に感度を有する撮像装置で組織BTを撮像した画像を表示装置31に表示させてもよいし、このような画像とともに、成分画像と撮像画像の少なくとも一方を表示装置31に表示させてもよい。
入力装置32は、例えば、切替スイッチ、マウス、キーボート、タッチパネルなどである。入力装置32には、走査型投影装置1の動作を設定する設定情報を入力可能である。制御装置6は、入力装置32が操作されたことを検出可能である。制御装置6は、入力装置32を介して入力された情報に応じて、走査型投影装置1の設定を変更すること、走査型投影装置1の各部に処理を実行させること等ができる。
例えば、脂質の量に関する情報を投影部5により明るく表示する第1モードを指定する入力がユーザによって入力装置32になされた場合に、制御装置6は、データ生成部16を制御して、第1モードに応じた成分画像データを生成させる。また、水の量に関する情報を投影部5により明るく表示する第2モードを指定する入力がユーザによって入力装置32になされた場合に、制御装置6は、データ生成部16を制御して、第2モードに応じた成分画像データを生成させる。このように、走査型投影装置1は、投影部5によって投影される成分画像を強調して表示するモードとして、第1モードと第2モードとを切替可能である。
また、制御装置6は、入力装置32を介した入力信号に従って投影部コントローラ21を制御し、投影部5による成分画像の表示を開始、中止、あるいは再開させることができる。また、制御装置6は、入力装置32を介した入力信号に従って投影部コントローラ21を制御し、投影部5により表示される成分画像の色と明るさとの少なくとも一方を調整可能である。例えば、組織BTは血液などに由来して赤みが強い色彩である場合があり、このような場合に成分画像を組織BTと補色の関係になる色(例えば緑色)で表示すると、組織BTと成分画像とを視覚的に識別しやすい。
次に、上述の走査型投影装置1に基づいて、本実施形態に係る走査型の投影方法について説明する。図4は、本実施形態に係る投影方法を示すフローチャートである。
ステップS1において、照射部2は、生物の組織BTに検出光(例、赤外光)を照射する。ステップS2において、光検出部3は、検出光が照射されている組織BTから放射される光(例、赤外光)を検出する。ステップS3において、画像生成部4の算出部15は、組織BTの脂質の量および水の量に関する成分情報を算出する。ステップS4において、データ生成部16は、算出部15による算出結果を使って、組織BTに関する画像(成分画像)のデータ(成分画像データ)を生成する。このように、画像生成部4は、ステップS3およびステップS4において、光検出部3の検出結果を使って、組織BTに関する画像のデータを生成する。ステップS5において、投影部5は、制御装置6から供給される成分画像データに基づいて組織BTを可視光で走査し、可視光の走査によって組織BT上に成分画像を投影する。例えば、本実施形態における走査型投影装置1は、成分画像データに基づいて2つの走査ミラー(例、第1走査ミラー24及び第2走査ミラー26)を用いて可視光を2次元(2方向)に順次走査することによって、組織BT上に成分画像を投影することができる。
本実施形態に係る走査型投影装置1は、走査部22を用いてレーザー光で組織BT上を走査することによって、組織BTに関する情報を示す画像(例えば成分画像)を組織BT上に直接的に表示(描画)する。レーザー光は、一般的に平行度が高く、光路長の変化に対してスポットサイズの変化が小さい。そのため、走査型投影装置1は、組織BTの凹凸に関わらずボケの少ない鮮明な画像を組織BT上に投影できる。また、走査型投影装置1は、投影レンズによって画像を投影する構成と比較して小型化や軽量化が可能であり、例えば携帯型の装置にすることによって、ユーザの操作性を向上することもできる。
また、走査型投影装置1は、撮像光学系11の光軸7aと投影光学系7の光軸7aとが同軸とに設定されている。そのため、走査型投影装置1は、組織BTと光検出部3との相対位置が変化した場合であっても、組織BTのうち光検出部3が撮像した部分と、投影部5によって画像が投影される部分との位置ずれが低減される。例えば、走査型投影装置1は、投影部5が投影する画像と組織BTとに視差が生じることが低減される。
また、走査型投影装置1は、組織BTに関する情報を示す画像として、組織BTの特定部位が強調された成分画像を投影する。このような成分画像は、例えば組織BTに腫瘍などの患部があるか否かの判断などに利用できる。例えば、組織BTに腫瘍がある場合に、腫瘍の部分に含まれる脂質または水の比率は、腫瘍がない組織と異なる。更に、その比率は腫瘍の種類によって異なる場合もある。そのため、オペレータは、組織BT上の成分画像を見ながら、腫瘍の疑いがある部分に切開、切除、薬物投与などの処置を施すことができる。また、走査型投影装置1は、成分画像の色と明るさを変えることができるので、成分画像を組織BTと視覚的に識別することが容易なように表示できる。本実施形態のように、投影部5がレーザー光を直接的に組織BTに照射する場合、組織BT上に投影される成分画像に視認しやすいスペックルと呼ばれるちらつきが生じるため、ユーザはこのスペックルによって成分画像を組織BTと容易に識別することができる。
また、走査型投影装置1は、成分画像の1フレームを投影する期間を可変であってもよい。例えば、投影部5は、60フレーム毎秒で画像を投影可能であって、画像生成部4は、成分画像と次の成分画像との間に、全画素が暗表示の全黒画像を含むように、画像のデータを生成してもよい。この場合に、成分画像は、ちらついて視認されやすく、組織BTと識別しやすい。
本実施形態において、制御装置6は、ASICなどの演算回路を含み、演算回路により画像演算などの各種処理を実行する。制御装置6が実行する処理の少なくとも一部は、CPUおよびメモリを含むコンピュータがプログラムに従って処理を実行する態様であってもよい。このプログラムは、例えば、コンピュータに、生物の組織BTに検出光を照射することと、検出光が照射されている組織から放射される光を光検出部3によって検出することと、光検出部3の検出結果を使って、組織BTに関する画像のデータを生成することと、このデータに基づいて組織BTを可視光で走査し、可視光の走査によって組織BT上に画像を投影することと、を実行させるプログラムである。このプログラムは、光ディスクやCD−ROM、USBメモリ、SDカード等の、コンピュータで読み取り可能な記憶媒体に格納されて提供されてもよい。
なお、上述の実施形態において、走査型投影装置1は、組織BTから放射される赤外光の波長に対する光強度の分布を使って組織BTの成分画像を生成するが、他の方法によって成分画像を生成してもよい。例えば、走査型投影装置1は、組織BTから放射される可視光を光検出部3で検出し、光検出部3による検出結果を使って組織BTの成分画像を生成してもよい。
例えば、図1に示した走査型投影装置1は、蛍光物質が付与された組織BTの蛍光像を検出し、その検出結果に基づいて組織BTの成分画像を生成してもよい。この場合に、組織BTを撮像する処理に先立ち、組織BT(患部)にICG(インドシニアングリーン)などの蛍光物質を付与しておく。そして、例えば、照射部2は、組織BTに付与されている蛍光物質を励起する波長の検出光(励起光)を射出する光源を含み、この光源から射出された検出光を組織BTに照射する。励起光の波長は、蛍光物質の種類に応じて設定され、赤外光の波長を含んでいてもよいし、可視光の波長を含んでいていてもよく、紫外光の波長を含んでいてもよい。
光検出部3は、蛍光物質から放射される蛍光に感度を有する光検出器を含み、検出光が照射されている組織BTの像(蛍光像)を撮像する。なお、組織BTから放射される光から蛍光を抽出するには、例えば、波長選択ミラー23として、蛍光が透過し、蛍光以外の光の少なくとも一部が反射する特性を有する光学部材を用いてもよい。また、このような特性を有するフィルターは、波長選択ミラー23と光検出器との間の光路に配置されていてもよい。このフィルターは、波長選択ミラー23と光検出器との間の光路に挿脱可能であってもよく、蛍光物質の種類すなわち励起光の波長に応じて交換可能であってもよい。
また、組織BTから放射される光から蛍光を抽出するには、励起光が照射されていない状態の組織BTを撮像した第1撮像画像と、励起光が照射されている状態の組織BTを撮像した第2撮像画像との差分を求めてもよい。例えば、図1の制御装置6は、照射部2による励起光の射出を停止させるとともに、光検出部3に組織BTを撮像させて、第1撮像画像のデータを光検出部3から取得する。また、制御装置6は、照射部2に励起光を射出させるとともに光検出部3に組織BTを撮像させて、第2撮像画像のデータを取得する。画像生成部4は、第1撮像画像のデータと第2撮像画像のデータとで差分を求めることにより、蛍光像を抽出できる。
画像生成部4は、成分画像データとして、抽出した蛍光像を示す画像のデータを生成する。投影部5は、このような成分画像データに基づいて成分画像を組織BT上に投影する。これにより、組織BTの成分のうち蛍光物質と結びつく物質の量、分布を示す成分画像が組織BT上に表示される。このように、走査型投影装置1は、脂質および水以外の物質に関する成分画像を生成することもできる。
なお、走査型投影装置1は、組織BTから放射される赤外光の波長に対する光強度の分布に基づいて成分画像を生成するモードと、組織BTの蛍光像に基づいて成分画像を生成するモードとを切替可能であってもよい。また、走査型投影装置1は、組織BTから放射される赤外光の波長に対する光強度の分布に基づく成分画像と、組織BTの蛍光像に基づいて成分画像とを投影してもよい。
なお、走査型投影装置1は、成分画像を生成しなくてもよい。例えば、走査型投影装置1は、予め生成された成分画像を取得し、組織BTを光検出部3により撮像した撮像画像を使って、組織BTと成分画像との位置合わせを行って、組織BT上に成分画像を投影してもよい。
また、走査型投影装置1は、成分画像を投影しなくてもよい。例えば、組織BTに関する画像は、組織BTの成分に関する画像でなくてもよく、組織BTの一部の位置に関する画像などであってもよい。例えば、走査型投影装置1は、組織BTを光検出部3により撮像した撮像画像を使って、組織BTのうち予め設定されている部位の範囲(位置)を示す画像を生成し、この画像を組織BT上に投影してもよい。予め設定されている部位は、例えば組織BTのうち手術や検査などの処置が予定されている部位である。この部位の情報は、入力装置32の操作により記憶部14に記憶されていてもよい。また、走査型投影装置1は、組織BTのうち光検出部3が検出する領域と異なる領域に、画像を投影してもよい。例えば、走査型投影装置1は、組織BTのうち処置が予定されている部位の近傍に、この部位の視認を妨げないように画像を投影してもよい。
なお、本実施形態において、照射部2は、第1波長、第2波長の赤外光、及び第3波長を含む波長帯の赤外光を射出するが、このような構成に限定されない。以下、照射部2の変形例について説明する。
図5は、照射部2の変形例を示す図である。図5の照射部2は、光源10a、光源10b、及び光源10cを含む複数の光源を備える。光源10a、光源10b、及び光源10cは、いずれも赤外光を射出するLEDを含み、射出する赤外光の波長が互いに異なる。光源10aは、第1波長を含み、第2波長および第3波長を含まない波長帯の赤外光を射出する。光源10bは、第2波長を含み、第1波長および第3波長を含まない波長帯の赤外光を射出する。光源10cは、第3波長を含み、第1波長および第2波長を含まない波長帯の赤外光を射出する。
制御装置6は、光源10aと光源10bと光源10cとのそれぞれの点灯および消灯を制御できる。例えば、制御装置6は、照射部2を、光源10aが点灯し、かつ光源10bおよび光源10cが消灯している第1状態に設定する。第1状態において、組織BTには、照射部2から射出された第1波長の赤外光が照射される。制御装置6は、照射部2を第1状態に設定しつつ、光検出部3によって組織BTを撮像させ、第1波長の赤外光が照射されている組織BTを撮像した画像のデータ(撮像画像データ)を光検出部3から取得する。
制御装置6は、照射部2を、光源10bが点灯し、かつ光源10aおよび光源10cが消灯している第2状態に設定する。制御装置6は、照射部2を第2状態に設定しつつ、光検出部3によって組織BTを撮像させ、第2波長の赤外光が照射されている組織BTの撮像画像データを光検出部3から取得する。また、制御装置6は、照射部2を、光源10cが点灯し、かつ光源10aおよび光源10bが消灯している第3状態に設定する。制御装置6は、照射部2を第3状態に設定しつつ、光検出部3によって組織BTを撮像させ、第3波長の赤外光が照射されている組織BTの撮像画像データを光検出部3から取得する。
走査型投影装置1は、図5に示した照射部2を適用した構成においても、組織BTに関する情報を示す画像(例、成分画像)を組織BT上に投影できる。このような走査型投影装置1は、組織BTを波長帯ごとにイメージセンサー13(図1参照)により撮像するので、解像度を確保することが容易である。
なお、本実施形態において、光検出部3は、第1波長の赤外光、第2波長の赤外光、及び第3波長の赤外光を、同じイメージセンサー13で一括して検出するが、このような構成に限定されない。以下、光検出部3の変形例について説明する。
図6は、光検出部3の変形例を示す図である。図6の光検出部3は、撮像光学系11、波長分離部33、イメージセンサー13a、イメージセンサー13b、及びイメージセンサー13cからなる複数のイメージセンサーを備える。
波長分離部33は、組織BTから放射された光を波長の違いにより分光する。図6の波長分離部33は、例えばダイクロイックプリズムである。波長分離部33は、第1波長分離膜33aおよび第2波長分離膜33bを有する。第1波長分離膜33aは、第1波長の赤外光IRaが反射し、第2波長の赤外光IRbおよび第3波長の赤外光IRcが透過する特性を有する。第2波長分離膜33bは、第1波長分離膜33aと交差するように設けられている。第2波長分離膜33bは、第3波長の赤外光IRcが反射し、第1波長の赤外光IRaおよび第2波長の赤外光IRbが透過する特性を有する。
組織BTから放射された赤外光IRのうち第1波長の赤外光IRaは、第1波長分離膜33aで反射して偏向され、イメージセンサー13aに入射する。イメージセンサー13aは、第1波長の赤外光IRaを検出することにより、組織BTの第1波長の像を撮像する。イメージセンサー13aは、撮像した画像のデータ(撮像画像データ)を制御装置6に供給する。
組織BTから放射された赤外光IRのうち第2波長の赤外光IRbは、第1波長分離膜33aおよび第2波長分離膜33bを透過して、イメージセンサー13bに入射する。イメージセンサー13bは、第2波長の赤外光IRbを検出することにより、組織BTの第2波長の像を撮像する。イメージセンサー13bは、撮像した画像のデータ(撮像画像データ)を制御装置6に供給する。
組織BTから放射された赤外光IRのうち第3波長の赤外光IRcは、第2波長分離膜33bで反射し、第1波長の赤外光IRaと反対側へ偏向され、イメージセンサー13cに入射する。イメージセンサー13cは、第3波長の赤外光IRcを検出することにより、組織BTの第3波長の像を撮像する。イメージセンサー13aは、撮像した画像のデータ(撮像画像データ)を制御装置6に供給する。
また、イメージセンサー13a、イメージセンサー13b、及びイメージセンサー13cは、互いに光学的に共役な位置に配置されている。イメージセンサー13a、イメージセンサー13b、及びイメージセンサー13cは、撮像光学系11からの光学的距離がほぼ同じになるように配置されている。
走査型投影装置1は、図6に示した光検出部3を適用した構成においても、組織BTに関する情報を示す画像を組織BT上に投影できる。このような光検出部3は、波長分離部33によって分離した赤外光を、イメージセンサー13aとイメージセンサー13bとイメージセンサー13cとに分けて検出するので、解像度を確保することが容易である。
なお、光検出部3は、ダイクロイックプリズムの代わりに、第1波長分離膜33aと同様の特性を有するダイクロイックミラー、及び第2波長分離膜33bと同様の特性を有するダイクロイックミラーを用いて赤外光を波長の違いにより分離する構成でもよい。この場合に、第1波長の赤外光、第2波長の赤外光、及び第3波長の赤外光のいずれか1つ赤外光の光路長が他の赤外光の光路長と異なる場合には、リレーレンズなどにより光路長を揃えてもよい。
なお、本実施形態の投影部5は、単色の画像を投影するが、複数色の画像を投影してもよい。図7は、投影部5の変形例を示す図である。図7の投影部5は、射出するレーザー光の波長が互いに異なるレーザー光源20a、レーザー光源20b、及びレーザー光源20cを備える。
レーザー光源20aは、赤の波長帯のレーザー光を射出する。赤の波長帯は、700nmを含み、例えば610nm以上780nm以下である。レーザー光源20bは、緑の波長帯のレーザー光を射出する。緑の波長帯は、546.1nmを含み、例えば500nm以上570nm以下である。レーザー光源20cは、青の波長帯のレーザー光を射出する。青の波長帯は、435.8nmを含み、例えば430nm以上460nm以下である。
本例において、画像生成部4は、投影部5によって投影する画像として成分の量や割合に基づくカラー画像を形成可能である。例えば、画像生成部4は、脂質の量が多いほど緑の階調値が高くなるように緑の画像データを生成する。また、画像生成部4は、水の量が多いほど青の階調値が高くなるように青の画像データを生成する。制御装置6は、画像生成部4が生成した緑の画像データおよび青の画像データを含む成分画像データを、投影部コントローラ21に供給する。
投影部コントローラ21は、制御装置6から供給された成分画像データのうち緑の画像データを使って、レーザー光源20bを駆動する。例えば、投影部コントローラ21は、緑の画像データに規定された画素値が高いほど、レーザー光源20bから射出される緑のレーザー光の光強度が強くなるように、レーザー光源20bに供給される電流を大きくする。同様に、投影部コントローラ21は、制御装置6から供給された成分画像データのうち青の画像データを使って、レーザー光源20cを駆動する。
このような投影部5を適用した走査型投影装置1は、脂質の量が多い部分を緑色で明るく強調して表示できるとともに、水の量が多い部分を青で明るく強調して表示できる。なお、走査型投影装置1は、脂質の量および水の量がいずれも多い部分を赤で明るく表示してもよく、脂質と水のいずれとも異なる第3物質の量を赤で表示してもよい。
なお、図1等において、光検出部3は波長選択ミラー23を通った光を検出し、投影部5は波長選択ミラー23で反射した光により成分画像を投影するが、このような構成に限定されない。例えば、光検出部3は波長選択ミラー23で反射した光を検出し、投影部5は波長選択ミラー23を通った光により成分画像を投影してもよい。波長選択ミラー23は、撮像光学系11の一部であってもよいし、投影光学系7の一部であってもよい。また、投影光学系7の光軸は、撮像光学系11の光軸と同軸でなくてもよい。
[第2実施形態]
次に、第2実施形態について説明する。本実施形態において、上述の実施形態と同様の構成については、同じ符号を付してその説明を簡略化あるいは省略する。
図8は、本実施形態に係る走査型投影装置1を示す図である。本実施形態において、投影部コントローラ21は、インターフェース40、画像処理回路41、変調回路42、及びタイミング生成回路43を備える。インターフェース40は、制御装置6から画像データを受け取る。この画像データには、各画素の画素値を示す階調データ、及びリフレッシュレート等を規定した同期データが含まれている。インターフェース40は、画像データから階調データを抽出し、階調データを画像処理回路41に供給する。また、インターフェース40は、画像データから同期データを抽出し、同期データをタイミング生成回路43に供給する。
タイミング生成回路43は、光源20および走査部22の動作タイミングを示すタイミング信号を生成する。タイミング生成回路43は、画像の解像度、リフレッシュレート(フレームレート)、走査方式等に応じて、タイミング信号を生成する。ここでは、画像がフルHD形式であるとし、説明の便宜上、光の走査において、1本の水平走査線の描画が終了してから次の水平走査線の描画が開始するまでの時間(帰線時間)がないものとする。
フルHD形式の画像は、1920個の画素が並ぶ水平走査線を有し、水平走査線が垂直走査方向に1080本並ぶ形式である。画像を30Hzのリフレッシュレートで表示する場合に、垂直走査方向の走査の周期は、33ミリ秒(1/30秒)程度になる。例えば、垂直走査方向に走査する第2走査ミラー26は、回動範囲の一端から他端まで約33ミリ秒で回動することにより、1フレームの画像の垂直走査方向の走査を行う。タイミング生成回路43は、垂直走査信号VSSとして、第2走査ミラー26が各フレームの最初の水平走査線の描画を開始する時刻を規定する信号を生成する。垂直走査信号VSSは、例えば、約33ミリ秒の周期で立ち上がる波形である。
また、水平走査線あたりの描画時間(点灯時間)は、約31マイクロ秒(1/30/1080秒)程度になる。例えば、第1走査ミラー24は、回動範囲の一端から他端までを約31マイクロ秒で回動することにより、水平走査線の1本分に相当する走査を行う。タイミング生成回路43は、水平走査信号HSSとして、第1走査ミラー24が各水平走査線の走査を開始する時刻を規定する信号を生成する。水平走査信号HSSは、例えば、約31マイクロ秒の周期で立ち上がる波形である。
また、画素あたりの点灯時間は、約16ナノ秒(1/30/1080/1920秒)程度になる。例えば、光源20は、射出するレーザー光の光強度が画素値に応じて約16ナノ秒の周期で切り替わることにより、各画素を表示する。タイミング生成回路43は、光源20が点灯するタイミングを規定する点灯信号を生成する。点灯信号は、例えば、約16ナノ秒の周期で立ち上がる波形である。
タイミング生成回路43は、生成した水平走査信号HSSを第1駆動部25に供給する。第1駆動部25は、水平走査信号HSSに従って第1走査ミラー24を駆動する。タイミング生成回路43は、生成した垂直走査信号VSSを第2駆動部27に供給する。第2駆動部27は、垂直走査信号VSSに従って第2走査ミラー26を駆動する。
また、タイミング生成回路43は、生成した水平走査信号HSS、垂直走査信号VSS、及び点灯信号を画像処理回路41に供給する。画像処理回路41は、画像データの階調データにガンマ処理等の各種画像処理を行う。また、画像処理回路41は、階調データが走査部22の走査方式に整合した時間順次で変調回路42に出力されるように、タイミング生成回路43から供給されたタイミング信号に基づいて、階調データを調整する。画像処理回路41は、例えば、階調データをフレームバッファに記憶させておき、この階調データに含まれる画素値を表示される画素の順に読み出して、変調回路42に出力する。
変調回路42は、光源20から射出されるレーザー光の強度が画素ごとの階調に対応して時間変化するように、光源20の出力を調整する。本実施形態において、変調回路42は、画素値に応じて振幅が変化する波形信号を生成し、この波形信号により光源20を駆動する。これにより、光源20に供給される電流が画素値に応じて時間変化し、光源20から射出されるレーザー光の光強度が画素値に応じて時間変化する。このように、タイミング生成回路43が生成したタイミング信号は、光源20と走査部22との同期をとるのに使われる。
本実施形態において、照射部2は、照射部コントローラ50、光源51、及び投影光学系7を備える。照射部コントローラ50は、光源51の点灯および消灯を制御する。光源51は、検出光としてレーザー光を射出する。照射部2は、光源51から射出されたレーザー光を投影光学系7によって所定の2方向(例、第1方向および第2方向)に偏向し、レーザー光で組織BTを走査する。
光源51は、レーザー光源51a、レーザー光源51b、及びレーザー光源51cを含む複数のレーザー光源を備える。レーザー光源51a、レーザー光源51b、及びレーザー光源51cは、いずれも赤外光を射出するレーザー素子を含み、射出する赤外光の波長が互いに異なる。レーザー光源51aは、第1波長を含み、第2波長および第3波長を含まない波長帯の赤外光を射出する。レーザー光源51bは、第2波長を含み、第1波長および第3波長を含まない波長帯の赤外光を射出する。レーザー光源51cは、第3波長を含み、第1波長および第2波長を含まない波長帯の赤外光を射出する。
照射部コントローラ50は、レーザー光源51a、レーザー光源51b、及びレーザー光源51cのそれぞれにレーザー素子の駆動用の電流を供給する。照射部コントローラ50は、レーザー光源51aに電流を供給してレーザー光源51aを点灯させ、レーザー光源51aへの電流の供給を停止してレーザー光源51aを消灯させる。照射部コントローラ50は、制御装置6に制御されて、レーザー光源51aへの電流の供給を開始または停止する。例えば、制御装置6は、レーザー光源51aを点灯あるいは消灯するタイミングを、照射部コントローラ50を介して制御する。同様に、照射部コントローラ50は、レーザー光源51b及びレーザー光源51cのそれぞれを点灯あるいは消灯する。制御装置6は、レーザー光源51b及びレーザー光源51cのそれぞれについて、点灯あるいは消灯するタイミングを制御する。
投影光学系7は、導光部52、及び走査部22を備える。走査部22は、第1実施形態と同様の構成であり、第1走査ミラー24および第1駆動部25(水平走査部)と、第2走査ミラーおよび第2駆動部27(垂直走査部)とを備える。導光部52は、レーザー光源51a、レーザー光源51b、及びレーザー光源51cのそれぞれから射出される検出光を、投影部5の光源20から射出される可視光と同じ光路を通るように、走査部22へ導く。
導光部52は、ミラー53、波長選択ミラー54a、波長選択ミラー54b、及び波長選択ミラー54cを備える。ミラー53は、レーザー光源51aから射出された第1波長の検出光が入射する位置に配置されている。
波長選択ミラー54aは、ミラー53で反射した第1波長の検出光と、レーザー光源51bから射出された第2波長の検出光とが入射する位置に配置されている。波長選択ミラー54aは、第1波長の検出光が透過し、第2波長の検出光が反射する特性を有する。
波長選択ミラー54bは、波長選択ミラー54aを透過した第1波長の検出光と、波長選択ミラー54bで反射した第2波長の検出光と、レーザー光源51cから射出された第3波長の検出光とが入射する位置に配置されている。波長選択ミラー54bは、第1波長の検出光および第2波長の検出光が反射し、第3波長の検出光が透過する特性を有する。
波長選択ミラー54cは、波長選択ミラー54bで反射した第1波長の検出光および第2波長の検出光、波長選択ミラー54bを透過した第3波長の検出光、並びに光源20から射出された可視光が入射する位置に配置されている。波長選択ミラー54cは、第1波長の検出光、第2波長の検出光、及び第3波長の検出光が反射し、可視光が透過する特性を有する。
波長選択ミラー54cで反射した第1波長の検出光、第2波長の検出光、及び第3波長の検出光と、波長選択ミラー54cを透過した可視光は、いずれも同じ光路を通って、走査部22の第1走査ミラー24に入射する。走査部22に入射した第1波長の検出光、第2波長の検出光、及び第3波長の検出光は、それぞれ、画像の投影用の可視光と同様に走査部22によって偏向される。このように、照射部2は、第1波長の検出光、第2波長の検出光、及び第3波長の検出光のそれぞれで、走査部22を用いて組織BT上を走査可能である。したがって、本実施形態における走査型投影装置1は、走査型の撮像機能と走査型の画像投影機能との両方を備える構成である。
本実施形態において、光検出部3は、照射部2によってレーザースキャニングされている組織BTから放射された光を検出する。光検出部3は、検出した光の光強度と、照射部2から照射されたレーザー光の位置情報とを関連付けることにより、照射部2がレーザー光を走査する範囲における、組織BTから放射される光の光強度の空間分布を検出する。光検出部3は、集光レンズ55、光センサー56、及び画像メモリ57を備える。
光センサー56は、シリコンPINフォトダイオードやGaAsフォトダイオードなどのフォトダイオードを含む。光センサー56のフォトダイオードには、入射した光の光強度に応じた電荷を発生する。光センサー56は、フォトダイオードに発生した電荷を、デジタル形式の検出信号として出力する。光センサー56は、例えば画素数が1個または数個程度であり、イメージセンサーよりも画素数が少ない。このような光センサー56は、一般的なイメージセンサーに比べて小型であり、低コストである。
集光レンズ55は、組織BTから放射される光の少なくとも一部を光センサー56のフォトダイオードに集光する。集光レンズ55は、組織BT(検出光の照射領域)の像を形成しなくてもよい。すなわち、集光レンズ55は、検出光の照射領域と光センサー56のフォトダイオードとを光学的に共役にしなくてもよい。このような集光レンズ55は、一般的な撮影レンズ(結像光学系)に比べて、小型化や軽量化が可能であり、また低コストである。
画像メモリ57は、光センサー56から出力されたデジタル信号を記憶する。画像メモリ57には、投影部コントローラ21から水平走査信号HSSおよび垂直走査信号VSSが供給され、画像メモリ57は、水平走査信号HSSおよび垂直走査信号VSSを使って、光センサー56から出力された信号を画像形式のデータに変換する。
例えば、画像メモリ57は、垂直走査信号VSSの立ち上がりから立ち下りまでの期間に光センサー56から出力された検出信号を、1フレームの画像データとする。画像メモリ57は、垂直走査信号VSSの立ち上がりに同期して、光センサー56からの検出信号の記憶を開始する。また、画像メモリ57は、水平走査信号HSSの立ち上がりから立ち上がりまでの間に光センサー56から出力された検出信号を、1本の水平走査線のデータとする。画像メモリ57は、垂直走査信号VSSの立ち上がりに同期して、水平走査線のデータの記憶を開始する。画像メモリ57は、垂直走査信号VSSの立ち下がりに同期して、水平走査線のデータの記憶を終了する。画像メモリ57は、水平走査線ごとのデータの記憶を、水平走査線の数だけ繰り返すことによって、1フレームに画像に相当する画像形式のデータを記憶する。このような画像形式のデータを、以下の説明において適宜、検出画像データという。検出画像データは、第1実施形態で説明した撮像画像データに対応する。光検出部3は、検出画像データを制御装置6に供給する。
制御装置6は、照射部2が照射する検出光の波長を制御する。制御装置6は、照射部コントローラ50を制御することによって、光源51から射出される検出光の波長を制御する。制御装置6は、レーザー光源51a、レーザー光源51b、及びレーザー光源51cの点灯あるいは消灯のタイミングを規定する制御信号を、照射部コントローラ50に供給する。照射部コントローラ50は、制御装置6から供給された制御信号に従って、レーザー光源51a、レーザー光源51b、及びレーザー光源51cを選択的に点灯させる。
例えば、制御装置6は、レーザー光源51aを点灯させるとともに、レーザー光源51bおよびレーザー光源51cを消灯させる。この場合に、検出光として、光源51から第1波長のレーザー光が射出され、第2波長のレーザー光および第3波長のレーザー光が射出されない。このように、制御装置6は、光源51から射出される検出光の波長を、第1波長と第2波長と第3波長とで切替えることができる。
制御装置6は、照射部2に第1波長の光を照射させている第1の期間に、組織BTから放射される光を光検出部3に検出させる。また、制御装置6は、照射部2に第2波長の光を照射させている第2の期間に、組織BTから放射される光を光検出部3に検出させる。また、制御装置6は、照射部2に第3波長の光を照射させている第3の期間に、組織BTから放射される光を光検出部3に検出させる。制御装置6は、光検出部3を制御して、第1の期間における光検出部3の検出結果と、第2の期間における光検出部3の検出結果と、第3の期間における光検出部3の検出結果とを別々に、画像生成部4へ出力させる。
図9は、照射部2および投影部5の動作の一例を示すタイミングチャートである。図9には、第1走査ミラー24の角度位置、第2走査ミラー26の角度位置、及び各光源に供給される電力を示した。第1期間T1は、1フレームの表示期間に相当し、その長さはリフレッシュレートが30Hzである場合に1/30秒程度である。第2期間T2、第3期間T3、及び第4期間T4についても同様である。
第1期間T1において、制御装置6は、第1波長用のレーザー光源51aを点灯状態にする。また、第1期間T1において、制御装置6は、第2波長用のレーザー光源51bおよび第3波長のレーザー光源51cを消灯状態にする。
第1期間T1において、第1走査ミラー24および第2走査ミラー26は、投影部5が画像を投影する際と同じ条件で動作する。第1期間T1において、第1走査ミラー24は、回動範囲の一端から他端までの回動を、水平走査線の数だけ繰り返す。第1走査ミラー24の角度位置において、立ち上がりから次の立ち上がりまでの単位波形は、1本の水平走査線を走査する間の角度位置に相当する。例えば、投影部5が投影する画像がフルHD形式である場合に、第1期間T1には、第1走査ミラー24の角度位置における単位波形が1080周期含まれる。第1期間T1において、第2走査ミラー26は、回動範囲の一端から他端までの回動を1回行う。
このような走査部22の動作によって、レーザー光源51aから射出された第1波長のレーザー光は、組織BT上の走査範囲の全域を走査する。制御装置6は、第1期間T1において光検出部3が検出した結果に相当する第1検出画像データを、光検出部3から取得する。
第2期間T2において、制御装置6は、第2波長用のレーザー光源51bを点灯状態にする。また、第2期間T2において、制御装置6は、第1波長用のレーザー光源51aおよび第3波長用のレーザー光源51cを消灯状態にする。第2期間T2において、第1走査ミラー24および第2走査ミラー26は、第1期間T1と同様に動作する。これにより、レーザー光源51bから射出された第2波長のレーザー光は、組織BT上の走査範囲の全域を走査する。制御装置6は、第2期間T2において光検出部3が検出した結果に相当する第2検出画像データを、光検出部3から取得する。
第3期間T3において、制御装置6は、第3波長用のレーザー光源51cを点灯状態にする。第3期間T3において、制御装置6は、第1波長用のレーザー光源51aおよび第2波長用のレーザー光源51bを消灯状態にする。第3期間T3において、第1走査ミラー24および第2走査ミラー26は、第1期間T1と同様に動作する。これにより、レーザー光源51cから射出された第3波長のレーザー光は、組織BT上の走査範囲の全域を走査する。制御装置6は、第3期間T3において光検出部3が検出した結果に相当する第3検出画像データを、光検出部3から取得する。
図8に示した画像生成部4は、第1検出画像データ、第2検出画像データ、及び第3検出画像データを使って成分画像を生成し、成分画像データを投影部5に供給する。画像生成部4は、第1実施形態で説明した撮像画像データの代わりに検出画像データを使うことによって、成分画像を生成する。例えば、算出部15は、光検出部3が検出した光の光強度の時間変化を使って、組織BTの成分に関する情報を算出する。
第4期間T4において、図8に示した投影部コントローラ21は、制御装置6から供給された成分画像データを使って、画素値に応じて振幅が時間変化する駆動電力波を投影用の光源20に供給するとともに、走査部22を制御する。このように投影部5は、第4期間T4において、成分画像を組織BT上に投影する。
本実施形態に係る走査型投影装置1は、検出光で組織BTをレーザースキャンしながら、組織BTから放射される光を光センサー56によって検出し、組織BTの撮像画像データに相当する検出画像データを取得する。このような光センサー56は、画素の数がイメージセンサーよりも少ないものであってもよい。そのため、走査型投影装置1は、小型化や軽量化、低コスト化などが可能である。また、光センサー56の受光面積を、イメージセンサーの1画素の受光面積よりも大きくすることが容易であり、光検出部3の検出精度を高めることができる。
また、本実施形態において、照射部2は、射出する光の波長が互いに異なる複数の光源を含み、複数の光源のうち点灯する光源を時間的に切り替えて検出光を照射する。そのため、波長がブロードな検出光を照射する構成と比較して、光検出部3によって検出しない波長の光を減らすことができる。そのため、例えば検出光によって組織BTに付与される単位時間当たりのエネルギーを減らすことができ、検出光L1による組織BTの昇温を抑制することができる。また、検出光によって組織BTに付与される単位時間当たりのエネルギーを増すことなく検出光の光強度を強くすることもでき、光検出部3の検出精度を高めることができる。
また、図9の例において、第1期間T1と第2期間T2と第3期間T3とが、照射部2が検出光を照射する照射期間であり、組織BTから放射された光を光検出部3が検出する検出期間である。投影部5は、照射期間と検出期間の少なくとも一部において、画像を投影しない。そのため、投影部5は、投影された画像がちらついて視認されるように、画像を表示することができる。そのため、ユーザは成分画像などを組織BTから識別しやすくなる。
なお、投影部5は、照射期間と検出期間の少なくとも一部において、画像を投影してもよい。例えば、走査型投影装置1は、光検出部3が第1の検出期間に検出した結果を使って第1成分画像を生成し、第1の検出期間よりも後の第2の検出期間の少なくとも一部において第1成分画像を組織BT上に投影してもよい。例えば、投影部5が画像を投影している間に、照射部2が検出光を照射するとともに光検出部3が光を検出してもよい。また、画像生成部4は、投影部5が第1フレームの画像を表示している間に、第1フレームの後に投影する第2フレームの画像のデータを生成してもよい。また、画像生成部4は、第1フレームの画像が表示されている間に光検出部3が検出した結果を使って、第2フレームの画像のデータを生成してもよい。投影部5は、上記のような第1フレームの画像の次に第2フレームの画像を投影してもよい。
なお、本実施形態において、照射部2は、複数の光源のうち点灯する光源を択一的に切り替えて検出光を照射するが、複数の光源のうち2以上の光源を並行して点灯させて検出光を照射してもよい。例えば、照射部コントローラ50は、レーザー光源51a、レーザー光源51b、及びレーザー光源51cがいずれも点灯状態となるように、光源51を制御してもよい。この場合に、光検出部3は、図6のように組織BTから放射された光を、波長分離して波長ごとに検出してもよい。
[第3実施形態]
次に、第3実施形態に係る走査型投影装置について説明する。本実施形態において、上述の実施形態と同様の構成については、同じ符号を付してその説明を簡略化あるいは省略する。
図10は、第3実施形態に係る走査型投影装置1を示す図である。この走査型投影装置1は、ダーモスコープなどの携帯型の装置である。走査型投影装置1は、使用者が手に持つことができる形状のボディ60を有している。ボディ60は、図8などに示した照射部2、光検出部3、及び投影部5が設けられる筐体である。本実施形態において、ボディ60には、制御装置6およびバッテリー61が設けられている。バッテリー61は、走査型投影装置1の各部で消費される電力を供給する。
なお、本実施形態において、走査型投影装置1は、バッテリー61を備えていなくてもよく、例えば電源ケーブルなどの有線を介して電力の供給を受ける形態でもよいし、無線で電力供給される形態でもよい。また、制御装置6は、ボディ60に設けられていなくてもよく、通信ケーブルを介して、又は無線で各部と通信可能に接続されていてもよい。また、照射部2は、ボディ60に設けられていなくてもよく、例えば三脚などの支持部材に固定されていてもよい。また、光検出部3と投影部5の少なくとも一方は、ボディ60と別体の部材に設けられていてもよい。
なお、本実施形態における走査型投影装置1は、ユーザの頭部や腕部(指などを含む)などの身体に直接装着できる装着部(例、ベルト)を備えるウェアラブル投影装置であっても良い。また、本実施形態における走査型投影装置1は、手術用、病理用や検査用などの医療支援用ロボットに設けられる構成でも良いし、該医療支援用ロボットのハンド部などに装着できる装着部を備える構成でも良い。
[第4実施形態]
次に、第4実施形態に係る走査型投影装置について説明する。本実施形態において、上述の実施形態と同様の構成については、同じ符号を付してその説明を簡略化あるいは省略する。
図11は、第4実施形態に係る走査型投影装置1を示す図である。この走査型投影装置1は、例えば歯列の検査や観察など処理に利用される。走査型投影装置1は、ベース65、保持プレート66、保持プレート67、照射部2、光検出部3、及び投影部5を備える。ベース65は、使用者やロボットハンド等によって把持される部分である。図1などに示した制御装置6は、例えばベース65の内部に収容されるが、その少なくとも一部がベース65と別の部材に設けられていてもよい。
保持プレート66および保持プレート66は、それぞれ、ベース65の一端から延びた単一部材を途中から二又に分岐させ、それぞれ同一方向に屈曲させて形成される。保持プレート66の先端部66aと、保持プレート67の先端部67aとの間隔は、歯茎BT1等を間に位置させることができる距離に設定される。なお、保持プレート66と保持プレート67の少なくとも一方は、例えば変形可能は材質で形成され、先端部66aと先端部67aとの間隔を変更可能であってもよい。照射部2、光検出部3、及び投影部5は、それぞれ、保持プレート66の先端部66aに設けられている。
この走査型投影装置1は、被検者の口から保持プレート66および保持プレート67を差し込み、先端部66aと先端部67aとの間に、処理対象物である歯茎BT1または歯BT2を配置させる。続いて、先端部66aの照射部2で歯茎BT1等に検出光を照射し、歯茎BT1から放射される光を光検出部3で検出する。投影部5は、歯茎BT1上に歯茎BT1に関する情報を示す画像を投影する。このような走査型投影装置1は、例えば歯茎BT1に含まれる水の量を示す成分画像を投影することによって、浮腫や炎症など血液や水分の分布を変化させる病変の検査、観察などに活用できる。なお、携帯型の走査型投影装置1は、図10あるいは図11に示した例の他に、内視鏡などにも適用できる。
[手術支援システム]
次に、手術支援システム(医療支援システム)について説明する。本実施形態において、上述の実施形態と同様の構成については、同じ符号を付してその説明を簡略化あるいは省略する。
図12は、本実施形態に係る手術支援システムSYSの一例を示す図である。この手術支援システムSYSは、上記の実施形態で説明した走査型投影装置を利用したマンモトームである。手術支援システムSYSは、走査型投影装置として、照明ユニット70、赤外カメラ71、レーザー光源72、及びガルバノスキャナー73を備える。照明ユニット70は、乳房などの組織に検出光を照射する照射部である。赤外カメラ71は、組織から放射される光を検出する光検出部である。レーザー光源72およびガルバノスキャナー73は、組織に関する情報を示す画像(例、成分画像)を投影する投影部である。この投影部は、光検出部による検出結果を使って制御装置(図示略)が生成した画像を投影する。
また、手術支援システムSYSは、ベッド74と、透明プラスチック板75と、穿孔針76とを備える。ベッド74は、被検者をうつ伏せで横臥させるものである。ベッド74は、被写体である被検者の乳房BT3(組織)を下方に露出させるための開口部74aを有する。透明プラスチック板75は、乳房BT3を両側から挟んで平板状に変形させるのに用いられる。穿孔針76は、組織に対する処理が可能な操作デバイスである。穿孔針76は、コアニードル生検において乳房BT3に挿入され、検体を採取する。
赤外カメラ71、照明ユニット70、レーザー光源72、及びガルバノスキャナー73は、ベッド74の下方に配置される。赤外カメラ71は、赤外カメラ71とガルバノスキャナー73との間に透明プラスチック板75を位置させた状態で設置されている。赤外カメラ71及び照明ユニット70は、それぞれ、球面状に複数配置されている。
図12に示すように、乳房BT3を透明プラスチック板75で両側から押し付けて平板状に変形させ、この状態で照明ユニット70から所定波長の赤外光を出射させて赤外カメラ71により撮像する。これにより、赤外カメラ71は、照明ユニット70からの反射赤外光によって乳房BT3の画像を取得する。レーザー光源72およびガルバノスキャナー73は、赤外カメラ71による撮像画像から生成される成分画像を、投影する。
ところで、一般的なコアニードル生検では、超音波エコーを用いて針の深さを計測しながら穿孔針(コアニードル)を挿入する。乳房は、一般的に脂質が多い組織を含むが、乳癌が発生していると、乳癌の部分は、他の部分と水の量が異なる場合がある。
手術支援システムSYSは、レーザー光源72およびガルバノスキャナー73によって乳房BT3の成分画像を投影しながら、穿孔針76を乳房BT3に挿入して検体を採取できる。例えば、オペレータは、乳房BT3上に投影された成分画像を観察しながら、乳房BT3のうち水の量が他の部分と異なる部分に穿孔針76を挿入することができる。
このような本実施形態に係る手術支援システムSYSによれば、赤外分光スペクトラムの違いを用いた赤外マンモトームをコアニードル生検に用いることにより、正確な組織像の空間認識に基づいて、検体の採取が可能になる。また、X線被曝の影響の無い赤外光による撮像は、妊娠の有無にかかわらず産婦人科において日常的に適用できる。
次に、手術支援システムの他の例について説明する。図13は、手術支援システムSYSの他の例を示す図である。この手術支援システムSYSは、開腹手術などに利用される。手術支援システムSYSは、処置の対象である組織に関する画像を組織上に投影した状態で、組織に対する処理が可能な操作デバイス(図示略)を備える。操作デバイスは、例えば、採血デバイス、止血デバイス、内視鏡器具などを有する腹腔鏡デバイス、切開デバイス、及び開腹デバイスの少なくとも一つを含む。
手術支援システムSYSは、手術灯80と、2台の表示装置31と、を備えている。手術灯80は、可視光を出射する複数の可視照明灯81、複数の赤外LEDモジュール82、赤外カメラ71、及び投影部5を備える。複数の赤外LEDモジュール82は、開腹により露出している組織に検出光を照射する照射部である。赤外カメラ71は、組織から放射される光を検出する光検出部である。投影部5は、赤外カメラ71による検出結果(撮像画像)を使って制御装置(図示略)が生成した画像を投影する。表示装置31は、赤外カメラ71によって取得した画像や、制御装置が生成した成分画像を表示可能である。なお、例えば手術灯80に可視カメラが設けられており、表示装置31は、可視カメラで取得した画像を表示することもできる。
ところで、手術治療の侵襲性・効率は、切開・止血に随伴する損傷・焼灼の範囲と強度で決定される。手術支援システムSYSは、組織に関する情報を示す画像を組織上に投影するので、病変部の他、神経、すい臓などの実質臓器、脂質組織、血管などを視認しやすくなり、手術治療の侵襲性を低減することや、手術治療の効率を高めることができる。
なお、本発明の技術範囲は、上記の実施形態あるいは変形例に限定されるものではない。例えば、上記の実施形態あるいは変形例で説明した要件の1つ以上は、省略されることがある。また、上記の実施形態あるいは変形例で説明した要件は、適宜組み合わせることができる。
1 走査型投影装置、2 照射部、3 光検出部、4 画像生成部、5 投影部、7 投影光学系、11 撮像光学系、15 算出部、16 データ生成部、22 走査部、BT
組織、SYS 手術支援システム
本発明は、走査型投影装置、投影方法、走査装置、及び手術支援システムに関する。
ところで、組織の表面は凹凸面になっている場合があり、組織の表面に画像を投影する際に焦点を合わせにくいことがある。その結果、組織の表面に投影する投影像の焦点がずれてしまい、表示された画像にボケが生じることがある。本発明は、生物の組織上に鮮明な画像を投影可能な走査型投影装置、投影方法、走査装置、及び手術支援システムを提供することを目的とする。
本発明の第3の態様に従えば、第1の態様の走査型投影装置と、走査型投影装置によって組織上に画像が投影されている状態において、組織に対する処理が可能な操作デバイスと、を備える手術支援システムが提供される。
本発明の第4の態様に従えば、ターゲットに検出光を照射する照射部と、検出光が照射されているターゲットから放射される光を検出する検出部と、検出部の検出結果に基づき、ターゲットにおける水又は脂質に関するデータを生成する生成部と、水又は脂質に関するデータに基づいてターゲットを可視光で走査する走査部と、を備える走査装置が提供される。
本発明の第5の態様に従えば、第4の態様の走査装置を備える手術支援システムが提供される。
本発明によれば、生物の組織上に鮮明な画像を投影可能な走査型投影装置、投影方法、走査装置、及び手術支援システムを提供することができる。
ここで、図2の画素P(i,j)は、イメージセンサー13において第1波長の赤外光を検出する受光要素に対応する画素とする。また、画素P(i+1,j)は、第2波長の赤外光を検出する受光要素に対応する画素とする。また、画素P(i+2,j)は、イメージセンサー13において第3波長の赤外光を検出する受光要素に対応する画素とする。
本実施形態において、撮像光学系11の光軸11aは、撮像光学系11に含まれるレンズの回転中心軸と同軸である。撮像光学系11の光軸11aと投影光学系7の光出射側の光軸7aとは同軸に設定されている。したがって、本実施形態における走査型投影装置1を用いて組織BTに対する撮影位置がユーザによって変えられた場合であっても、組織BT上に投影する上記成分画像をずらすことなく投影できる。本実施形態において、光検出部3および投影部5は、それぞれ、筐体30に収容されている。光検出部3および投影部5は、それぞれ、筐体30に固定されている。そのため、光検出部3と投影部5との位置ずれが抑制され、撮像光学系11の光軸11aと投影光学系7の光軸との位置ずれが抑制される。
ージセンサー13において第3波長の赤外光を検出する受光要素に対応する画素とする。
また、走査型投影装置1は、撮像光学系11の光軸11aと投影光学系7の光軸7aとが同軸とに設定されている。そのため、走査型投影装置1は、組織BTと光検出部3との相対位置が変化した場合であっても、組織BTのうち光検出部3が撮像した部分と、投影部5によって画像が投影される部分との位置ずれが低減される。例えば、走査型投影装置1は、投影部5が投影する画像と組織BTとに視差が生じることが低減される。
なお、本実施形態において、照射部2は、第1波長、第2波長、及び第3波長を含む波長帯の赤外光を射出するが、このような構成に限定されない。以下、照射部2の変形例について説明する。
1は、投影部5が投影する画像と組織BTとに視差が生じることが低減される。

Claims (16)

  1. 生物の組織に検出光を照射する照射部と、
    前記検出光が照射されている前記組織から放射される光を検出する光検出部と、
    前記光検出部の検出結果を使って、前記組織に関する画像のデータを生成する画像生成部と、
    前記データに基づいて前記組織を可視光で走査する投影光学系を含み、前記可視光の走査によって前記組織上に前記画像を投影する投影部と、を備える走査型投影装置。
  2. 前記投影光学系は、前記可視光を2次元に走査可能な走査部を有する、
    請求項1に記載の走査型投影装置。
  3. 前記画像生成部は、
    前記光検出部が検出した光の波長に対する光強度の分布を使って、前記組織の成分に関する情報を算出する算出部と、
    前記算出部が算出した結果を使って、前記成分に関する前記画像のデータを生成するデータ生成部と、を含む、
    請求項1又は請求項2に記載の走査型投影装置。
  4. 前記算出部は、波長に対する第1物質の吸光度の分布および波長に対する第2物質の吸光度の分布を使って、前記組織に含まれる前記第1物質の量および前記第2物質の量についての前記成分に関する情報を算出する、
    請求項3に記載の走査型投影装置。
  5. 前記第1物質は脂質であり、前記第2物質は水である、
    請求項4に記載の走査型投影装置。
  6. 前記照射部が照射する前記検出光の波長を制御する制御部を備え、
    前記制御部は、前記照射部に第1波長の光を照射させている間に前記光検出部が検出した第1の結果と、前記照射部に第2波長の光を照射させている間に前記光検出部が検出した第2の結果とを分けて前記画像生成部へ出力させる、
    請求項1から請求項5のいずれか一項に記載の走査型投影装置。
  7. 前記光検出部は、前記検出光のうち赤外帯域に感度を有するセンサーを含み、
    前記投影光学系の光出射側の光軸は、前記センサーの光入射側の光軸と同軸に設定されている、
    請求項1から請求項6のいずれか一項に記載の走査型投影装置。
  8. 前記組織から放射される光を前記光検出部へ導光する撮像光学系を備え、
    前記撮像光学系の光軸と前記投影光学系の光軸とは光学的に同軸に設定されている、
    請求項1から請求項7のいずれか一項に記載の走査型投影装置。
  9. 前記照射部は、前記検出光としてレーザー光を射出する光源を含み、前記投影光学系により前記組織上を前記レーザー光で走査し、
    前記光検出部は、前記レーザー光が照射されている前記組織から放射される光を検出する、
    請求項1から請求項8のいずれか一項に記載の走査型投影装置。
  10. 前記投影部の光源と前記照射部の光源とは、前記可視光と前記レーザー光とが前記投影光学系の光路を通るように配置されている、
    請求項9に記載の走査型投影装置。
  11. 前記画像生成部は、前記投影部が第1フレームの前記画像を表示している間に、前記第1フレームの後に投影する第2フレームの前記画像のデータを生成する、
    請求項1から請求項10のいずれか一項に記載の走査型投影装置。
  12. 前記投影部は、前記画像の色と明るさの少なくとも一方を調整可能である、
    請求項1から請求項11のいずれか一項に記載の走査型投影装置。
  13. 前記照射部と前記光検出部と前記投影部とが設けられる筐体を備える、
    請求項1から請求項12のいずれか一項に記載の走査型投影装置。
  14. 生物の組織に検出光を照射することと、
    前記検出光が照射されている前記組織から放射される光を光検出部によって検出することと、
    前記光検出部の検出結果を使って、前記組織に関する画像のデータを生成することと、
    前記データに基づいて前記組織を可視光で走査し、前記可視光の走査によって前記組織上に前記画像を投影することと、を含む投影方法。
  15. 前記検出光としてレーザー光を射出することと、
    前記組織を前記可視光で走査する投影光学系によって、前記組織を前記レーザー光で走査することと、
    前記レーザー光が照射されている前記組織から放射される光を、前記光検出部によって検出することと、を含む、
    請求項14に記載の投影方法。
  16. 請求項1から請求項13のいずれか一項に記載の走査型投影装置と、
    前記走査型投影装置によって前記組織上に前記画像が投影されている状態において、前記組織に対する処理が可能な操作デバイスと、を備える手術支援システム。
JP2016525632A 2014-06-05 2014-06-05 走査型投影装置、投影方法、走査装置、及び手術支援システム Expired - Fee Related JP6468287B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2014/064989 WO2015186225A1 (ja) 2014-06-05 2014-06-05 走査型投影装置、投影方法、及び手術支援システム

Publications (2)

Publication Number Publication Date
JPWO2015186225A1 true JPWO2015186225A1 (ja) 2017-05-25
JP6468287B2 JP6468287B2 (ja) 2019-02-13

Family

ID=54766321

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016525632A Expired - Fee Related JP6468287B2 (ja) 2014-06-05 2014-06-05 走査型投影装置、投影方法、走査装置、及び手術支援システム

Country Status (3)

Country Link
US (1) US20170079741A1 (ja)
JP (1) JP6468287B2 (ja)
WO (1) WO2015186225A1 (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6534096B2 (ja) * 2014-06-25 2019-06-26 パナソニックIpマネジメント株式会社 投影システム
JP6609098B2 (ja) * 2014-10-30 2019-11-20 キヤノン株式会社 表示制御装置、表示制御方法、及びコンピュータプログラム
JP6609688B2 (ja) * 2016-02-29 2019-11-20 オリンパス株式会社 光走査型撮影投影装置および内視鏡システム
JP6544757B2 (ja) * 2016-03-22 2019-07-17 国立研究開発法人産業技術総合研究所 光照射システム、制御装置、光照射制御方法、及び手術用顕微鏡装置
US10558047B2 (en) * 2016-09-22 2020-02-11 Magic Leap, Inc. Augmented reality spectroscopy
WO2018059669A1 (de) * 2016-09-27 2018-04-05 Siemens Aktiengesellschaft Verfahren zum betreiben eines spektroskops und spektroskop
EP3506624B1 (en) * 2016-09-28 2022-12-21 Panasonic Holdings Corporation Display system
KR102201627B1 (ko) * 2017-02-21 2021-01-12 가부시키가이샤 나노룩스 고체 촬상 소자 및 촬상 장치
WO2018216658A1 (ja) * 2017-05-23 2018-11-29 国立研究開発法人産業技術総合研究所 撮像装置、撮像システム、及び撮像方法
WO2019003285A1 (ja) * 2017-06-26 2019-01-03 オリンパス株式会社 画像処理装置、画像処理方法およびプログラム
US11153514B2 (en) * 2017-11-30 2021-10-19 Brillnics Singapore Pte. Ltd. Solid-state imaging device, method for driving solid-state imaging device, and electronic apparatus
DE102017129837A1 (de) * 2017-12-13 2019-06-13 Leibniz-Institut für Photonische Technologien e. V. Kombinierte Untersuchung mit Bildgebung und Lasermessung
US11480467B2 (en) 2018-03-21 2022-10-25 Magic Leap, Inc. Augmented reality system and method for spectroscopic analysis
JP2019184707A (ja) * 2018-04-04 2019-10-24 パナソニック株式会社 画像投影装置
US10524666B2 (en) * 2018-05-09 2020-01-07 Inner Ray, Inc. White excitation light generating device and white excitation light generating method
KR20200008749A (ko) * 2018-07-17 2020-01-29 주식회사 아이원바이오 구강 스캐너 및 이를 이용한 3차원 오버레이 영상 표시방법
US11442254B2 (en) 2019-04-05 2022-09-13 Inner Ray, Inc. Augmented reality projection device
US11633089B2 (en) * 2019-06-20 2023-04-25 Cilag Gmbh International Fluorescence imaging with minimal area monolithic image sensor
EP4127649A1 (en) * 2020-03-27 2023-02-08 Faxitron Bioptics, LLC Pathology review station
WO2023192306A1 (en) * 2022-03-29 2023-10-05 Activ Surgical, Inc. Systems and methods for multispectral and mosaic imaging

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08164123A (ja) * 1994-12-15 1996-06-25 Nikon Corp 採血装置
JP2004329786A (ja) * 2003-05-12 2004-11-25 Kawasumi Lab Inc 血管投影機及び血管投影方法
JP2006326153A (ja) * 2005-05-30 2006-12-07 Olympus Corp ヘモグロビン観察装置及びヘモグロビン観察方法
JP2007075366A (ja) * 2005-09-14 2007-03-29 Olympus Medical Systems Corp 赤外観察システム
JP2009512500A (ja) * 2005-10-20 2009-03-26 スペクトロス コーポレイション 体内腫瘍のスクリーニングのための超高特定性装置及び方法
JP2009068940A (ja) * 2007-09-12 2009-04-02 Canon Inc 測定装置
JP2010127969A (ja) * 2008-11-25 2010-06-10 Seiko Epson Corp 画像表示装置
JP2010205445A (ja) * 2009-02-27 2010-09-16 Seiko Epson Corp 光源装置、プロジェクター、光量補正方法
JP2010266824A (ja) * 2009-05-18 2010-11-25 Seiko Epson Corp 画像表示装置
JP2011212386A (ja) * 2010-04-02 2011-10-27 Seiko Epson Corp 血管表示装置
JP2013515266A (ja) * 2009-12-21 2013-05-02 テルモ株式会社 目標の癌組織を視覚化する励起/検出/投射システム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6205353B1 (en) * 1998-12-22 2001-03-20 Research Foundation Of Cuny Time-resolved optical backscattering tomographic image reconstruction in scattering turbid media
US7599732B2 (en) * 2003-06-20 2009-10-06 The Texas A&M University System Method and system for near-infrared fluorescence contrast-enhanced imaging with area illumination and area detection
US8364246B2 (en) * 2007-09-13 2013-01-29 Sure-Shot Medical Device, Inc. Compact feature location and display system
US8849380B2 (en) * 2007-11-26 2014-09-30 Canfield Scientific Inc. Multi-spectral tissue imaging
US8226246B2 (en) * 2007-12-04 2012-07-24 Silicon Quest Kabushiki-Kaisha Apparatus and method, both for controlling spatial light modulator
US9167217B2 (en) * 2013-05-02 2015-10-20 Microvision, Inc. High efficiency laser modulation

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08164123A (ja) * 1994-12-15 1996-06-25 Nikon Corp 採血装置
JP2004329786A (ja) * 2003-05-12 2004-11-25 Kawasumi Lab Inc 血管投影機及び血管投影方法
JP2006326153A (ja) * 2005-05-30 2006-12-07 Olympus Corp ヘモグロビン観察装置及びヘモグロビン観察方法
JP2007075366A (ja) * 2005-09-14 2007-03-29 Olympus Medical Systems Corp 赤外観察システム
JP2009512500A (ja) * 2005-10-20 2009-03-26 スペクトロス コーポレイション 体内腫瘍のスクリーニングのための超高特定性装置及び方法
JP2009068940A (ja) * 2007-09-12 2009-04-02 Canon Inc 測定装置
JP2010127969A (ja) * 2008-11-25 2010-06-10 Seiko Epson Corp 画像表示装置
JP2010205445A (ja) * 2009-02-27 2010-09-16 Seiko Epson Corp 光源装置、プロジェクター、光量補正方法
JP2010266824A (ja) * 2009-05-18 2010-11-25 Seiko Epson Corp 画像表示装置
JP2013515266A (ja) * 2009-12-21 2013-05-02 テルモ株式会社 目標の癌組織を視覚化する励起/検出/投射システム
JP2011212386A (ja) * 2010-04-02 2011-10-27 Seiko Epson Corp 血管表示装置

Also Published As

Publication number Publication date
WO2015186225A1 (ja) 2015-12-10
US20170079741A1 (en) 2017-03-23
JP6468287B2 (ja) 2019-02-13

Similar Documents

Publication Publication Date Title
JP6468287B2 (ja) 走査型投影装置、投影方法、走査装置、及び手術支援システム
JP6710735B2 (ja) 撮像システム及び手術支援システム
US11439307B2 (en) Method for detecting fluorescence and ablating cancer cells of a target surgical area
JP6745508B2 (ja) 画像処理システム、画像処理装置、投影装置、及び投影方法
WO2012033139A1 (ja) 測定装置、測定システム、測定方法、制御プログラム、および、記録媒体
JP2017537744A (ja) 口腔内3d蛍光撮像
JP2006525494A (ja) リアルタイムの同時的マルチモードイメージングとその分光学的用途
JP2008149107A (ja) 皮膚疾患の光学診断および治療のための装置、光源システムおよび方法
EP3009098A1 (en) Microscope system for surgery
JP2016017921A (ja) 観察システム
EP2837321A1 (en) Optical measurement device and endoscope system
WO2016006113A1 (ja) 画像解析装置、撮像システム、手術支援システム、画像解析方法、及び画像解析プログラム
CN204207717U (zh) 内窥镜照射光谱选择装置及超光谱内窥镜成像系统
JP4109132B2 (ja) 蛍光判定装置
CN104352216B (zh) 内窥镜照射光谱选择装置及超光谱内窥镜成像系统
WO2020217541A1 (ja) 光源ユニット
JP4109133B2 (ja) 蛍光判定装置
JP2021115405A (ja) 医療用制御装置及び医療用観察システム
WO2020188969A1 (ja) 医療用制御装置及び医療用観察装置
WO2022239339A1 (ja) 医療用情報処理装置、医療用観察システム及び医療用情報処理方法
JP2003339622A (ja) 蛍光判定方法および装置
EP3945993A1 (en) Medical instrumentation utilizing narrowband imaging
JP2013233365A (ja) プローブシステム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161201

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170420

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180125

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20180619

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180903

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20180911

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181106

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181204

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181218

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181231

R150 Certificate of patent or registration of utility model

Ref document number: 6468287

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees