JPWO2018221041A1 - 医療用観察システム及び医療用観察装置 - Google Patents

医療用観察システム及び医療用観察装置 Download PDF

Info

Publication number
JPWO2018221041A1
JPWO2018221041A1 JP2019522014A JP2019522014A JPWO2018221041A1 JP WO2018221041 A1 JPWO2018221041 A1 JP WO2018221041A1 JP 2019522014 A JP2019522014 A JP 2019522014A JP 2019522014 A JP2019522014 A JP 2019522014A JP WO2018221041 A1 JPWO2018221041 A1 JP WO2018221041A1
Authority
JP
Japan
Prior art keywords
image
image pickup
light
medical observation
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019522014A
Other languages
English (en)
Other versions
JP7095693B2 (ja
Inventor
高橋 健治
健治 高橋
高橋 康昭
康昭 高橋
岳志 宮井
岳志 宮井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2018221041A1 publication Critical patent/JPWO2018221041A1/ja
Application granted granted Critical
Publication of JP7095693B2 publication Critical patent/JP7095693B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00186Optical arrangements with imaging filters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00188Optical arrangements with focusing or zooming features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/0012Surgical microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/18Arrangements with more than one light path, e.g. for comparing two specimens
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/361Optical details, e.g. image relay to the camera or image sensor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/958Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • A61B1/051Details of CCD assembly
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • G02B21/367Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2476Non-optical details, e.g. housings, mountings, supports
    • G02B23/2484Arrangements in relation to a camera or imaging device
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B11/00Filters or other obturators specially adapted for photographic purposes
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B19/00Cameras
    • G03B19/02Still-picture cameras
    • G03B19/04Roll-film cameras
    • G03B19/06Roll-film cameras adapted to be loaded with more than one film, e.g. with exposure of one or the other at will

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Optics & Photonics (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biophysics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Optical Elements Other Than Lenses (AREA)

Abstract

【課題】より好適な態様で高画質な画像を取得可能とする。【解決手段】医療用観察装置と画像処理装置とを含み、医療用観察装置は、複数の撮像素子と入射光を複数の光に分離する分岐光学系とを有し、分岐光学系により分離された複数の光のそれぞれは、複数の撮像素子のうちの少なくともいずれかに導光され、複数の撮像素子のうち、2以上の撮像素子それぞれにより互いに明るさの異なる画像が撮像され、2以上の撮像素子については、分岐光学系との間の光学的距離が互いに異なるように配設され、画像処理装置は、互いに明るさの異なる複数の画像に基づく当該複数の画像それぞれよりもダイナミックレンジの広い第1の合成画像と、分岐光学系との間の光学的距離が互いに異なる2以上の撮像素子それぞれにより撮像された複数の画像に基づく当該複数の画像それぞれよりも被写界深度の深い第2の合成画像と、のうち少なくともいずれかを生成する、医療用観察システム。【選択図】図1

Description

本開示は、医療用観察システム及び医療用観察装置に関する。
CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどの撮像素子を備えた、デジタルスチルカメラやデジタルビデオカメラ(以下、これらを総じて「デジタルカメラ」とも称する)等の撮像装置が広く普及している。特に近年では、このような撮像装置は、例えば、内視鏡や手術用顕微鏡等のような医療用の観察装置にも適用されている。
また、HDR(High Dynamic Range)やEDoF(Extended Depth of Field)と呼ばれる技術のように、デジタルカメラ等の撮像装置により撮像された画像に基づき、当該画像よりも高画質な画像を取得可能とする技術が各種提案されている。例えば、特許文献1には、被写体に対して焦点が合っている距離が異なる複数の画像に基づき、当該複数の画像それぞれよりも被写界深度のより深い合成画像を生成する技術の一例が開示されている。
国際公開第2013/061819号
特に、近年では、撮像素子の高精細化に伴い、より高解像な画像を撮像可能な撮像素子も各種提案されている。そのため、このような撮像素子の利用に際し、より好適な態様で高画質な画像を取得可能とする技術の提供が求められている。
そこで、本開示では、より好適な態様で高画質な画像を取得可能とする医療用観察システム及び医療用観察装置を提案する。
本開示によれば、医療用観察装置と、前記医療用観察装置により撮像された画像に対して画像処理を施す画像処理装置と、を含み、前記医療用観察装置は、複数の撮像素子と、入射光を複数の光に分離する分岐光学系と、を有し、前記分岐光学系により分離された前記複数の光のそれぞれは、前記複数の撮像素子のうちの少なくともいずれかに導光され、前記複数の撮像素子のうち、2以上の撮像素子それぞれにより互いに明るさの異なる画像が撮像され、2以上の撮像素子については、前記分岐光学系との間の光学的距離が互いに異なるように配設され、前記画像処理装置は、互いに明るさの異なる複数の画像に基づく、当該複数の画像それぞれよりもダイナミックレンジの広い第1の合成画像と、分岐光学系との間の光学的距離が互いに異なる前記2以上の撮像素子それぞれにより撮像された複数の画像に基づく、当該複数の画像それぞれよりも被写界深度の深い第2の合成画像と、のうち少なくともいずれかを生成する、医療用観察システムが提供される。
また、本開示によれば、複数の撮像素子と、入射光を複数の光に分離する分岐光学系と、を備え、前記分岐光学系により分離された前記複数の光のそれぞれは、前記複数の撮像素子のうちの少なくともいずれかに導光され、前記複数の撮像素子のうち、2以上の撮像素子により互いに明るさの異なる画像が撮像され、2以上の撮像素子については、前記分岐光学系との間の光学的距離が異なる、医療用観察装置が提供される。
以上説明したように本開示によれば、より好適な態様で高画質な画像を取得可能とする医療用観察システム及び医療用観察装置が提供される。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
本開示に係る技術が適用され得る内視鏡撮像システムの概略的な構成の一例を示す図である。 図1に示すカメラヘッド及びCCUの機能構成の一例を示すブロック図である。 本開示の一実施形態に係る撮像装置の構成の一例について説明するための説明図である。 同実施形態に係る撮像装置の概要について説明するための説明図である。 同実施形態に係る撮像システムの機能構成の一例を示したブロック図である。 変形例1に係る撮像装置の構成の一例について説明するための説明図である。 変形例2に係る撮像装置の構成の一例について説明するための説明図である。 変形例2に係る撮像装置に適用されるダイクロイック膜253の分光特性の一例について示した図である。 変形例2に係る撮像装置に適用されるダイクロイック膜253の分光特性の一例について示した図である。 本開示の一実施形態に係る内視鏡撮像システムを構成する情報処理装置のハードウェア構成の一構成例を示す機能ブロック図である。 本開示の一実施形態に係る撮像システムの応用例について説明するための説明図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.撮像システムの構成例
2.高画質な画像を取得可能とする仕組みに関する検討
3.技術的特徴
3.1.撮像装置の構成例
3.2.機能構成
3.3.変形例
4.ハードウェア構成の一例
5.応用例
6.むすび
<<1.撮像システムの構成例>>
まず、図1及び図2を参照して、本開示の一実施形態に係る撮像システムの概略的な構成の一例として、当該撮像システムを内視鏡撮像システムのような所謂「医療用観察システム」として構成した場合の一例について説明する。
例えば、図1は、本開示に係る技術が適用され得る内視鏡撮像システムの概略的な構成の一例を示す図であり、当該内視鏡撮像システムを所謂内視鏡手術システムとして構成した場合の一例を示している。図1では、術者(医師)167が、内視鏡手術システム100を用いて、患者ベッド169上の患者171に手術を行っている様子が図示されている。図示するように、内視鏡手術システム100は、内視鏡101と、その他の術具117と、内視鏡101を支持する支持アーム装置127と、内視鏡下手術のための各種の装置が搭載されたカート137と、から構成される。
内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ125a〜125dと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ125a〜125dから、内視鏡101の鏡筒103や、その他の術具117が患者171の体腔内に挿入される。図示する例では、その他の術具117として、気腹チューブ119、エネルギー処置具121及び鉗子123が、患者171の体腔内に挿入されている。また、エネルギー処置具121は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具117はあくまで一例であり、術具117としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
内視鏡101によって撮影された患者171の体腔内の術部の画像が、表示装置141に表示される。術者167は、表示装置141に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具121や鉗子123を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ119、エネルギー処置具121及び鉗子123は、手術中に、術者167又は助手等によって支持される。
(支持アーム装置)
支持アーム装置127は、ベース部129から延伸するアーム部131を備える。図示する例では、アーム部131は、関節部133a、133b、133c、及びリンク135a、135bから構成されており、アーム制御装置145からの制御により駆動される。アーム部131によって内視鏡101が支持され、その位置及び姿勢が制御される。これにより、内視鏡101の安定的な位置の固定が実現され得る。
(内視鏡)
内視鏡101は、先端から所定の長さの領域が患者171の体腔内に挿入される鏡筒103と、鏡筒103の基端に接続されるカメラヘッド105と、から構成される。図示する例では、硬性の鏡筒103を有するいわゆる硬性鏡として構成される内視鏡101を図示しているが、内視鏡101は、軟性の鏡筒103を有するいわゆる軟性鏡として構成されてもよい。なお、カメラヘッド105または当該カメラヘッド105を含む内視鏡101が、「医療用観察装置」の一例に相当する。
鏡筒103の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡101には光源装置143が接続されており、当該光源装置143によって生成された光が、鏡筒103の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者171の体腔内の観察対象(換言すると、撮像対象物)に向かって照射される。なお、内視鏡101は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド105の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU:Camera Control Unit)139に送信される。なお、カメラヘッド105には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
なお、例えば立体視(3D表示)等に対応するために、カメラヘッド105には撮像素子が複数設けられてもよい。この場合、鏡筒103の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
(カートに搭載される各種の装置)
CCU139は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡101及び表示装置141の動作を統括的に制御する。具体的には、CCU139は、カメラヘッド105から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU139は、当該画像処理を施した画像信号を表示装置141に提供する。また、CCU139は、カメラヘッド105に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。
表示装置141は、CCU139からの制御により、当該CCU139によって画像処理が施された画像信号に基づく画像を表示する。内視鏡101が例えば4K(水平画素数3840×垂直画素数2160)又は8K(水平画素数7680×垂直画素数4320)等の高解像度の撮影に対応したものである場合、及び/又は3D表示に対応したものである場合には、表示装置141としては、それぞれに対応して、高解像度の表示が可能なもの、及び/又は3D表示可能なものが用いられ得る。4K又は8K等の高解像度の撮影に対応したものである場合、表示装置141として55インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置141が設けられてもよい。
光源装置143は、例えばLED(light emitting diode)等の光源から構成され、術部を撮影する際の照射光を内視鏡101に供給する。
アーム制御装置145は、例えばCPU等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置127のアーム部131の駆動を制御する。
入力装置147は、内視鏡手術システム100に対する入力インタフェースである。ユーザは、入力装置147を介して、内視鏡手術システム100に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置147を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置147を介して、アーム部131を駆動させる旨の指示や、内視鏡101による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示、エネルギー処置具121を駆動させる旨の指示等を入力する。
入力装置147の種類は限定されず、入力装置147は各種の公知の入力装置であってよい。入力装置147としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ157及び/又はレバー等が適用され得る。入力装置147としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置141の表示面上に設けられてもよい。
あるいは、入力装置147は、例えばメガネ型のウェアラブルデバイスやHMD(Head Mounted Display)等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置147は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置147は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置147が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ(例えば術者167)が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
処置具制御装置149は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具121の駆動を制御する。気腹装置151は、内視鏡101による視野の確保及び術者の作業空間の確保の目的で、患者171の体腔を膨らめるために、気腹チューブ119を介して当該体腔内にガスを送り込む。レコーダ153は、手術に関する各種の情報を記録可能な装置である。プリンタ155は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
以下、内視鏡手術システム100において特に特徴的な構成について、更に詳細に説明する。
(支持アーム装置)
支持アーム装置127は、基台であるベース部129と、ベース部129から延伸するアーム部131と、を備える。図示する例では、アーム部131は、複数の関節部133a、133b、133cと、関節部133bによって連結される複数のリンク135a、135bと、から構成されているが、図1では、簡単のため、アーム部131の構成を簡略化して図示している。実際には、アーム部131が所望の自由度を有するように、関節部133a〜133c及びリンク135a、135bの形状、数及び配置、並びに関節部133a〜133cの回転軸の方向等が適宜設定され得る。例えば、アーム部131は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部131の可動範囲内において内視鏡101を自由に移動させることが可能になるため、所望の方向から内視鏡101の鏡筒103を患者171の体腔内に挿入することが可能になる。
関節部133a〜133cにはアクチュエータが設けられており、関節部133a〜133cは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置145によって制御されることにより、各関節部133a〜133cの回転角度が制御され、アーム部131の駆動が制御される。これにより、内視鏡101の位置及び姿勢の制御が実現され得る。この際、アーム制御装置145は、力制御又は位置制御等、各種の公知の制御方式によってアーム部131の駆動を制御することができる。
例えば、術者167が、入力装置147(フットスイッチ157を含む)を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置145によってアーム部131の駆動が適宜制御され、内視鏡101の位置及び姿勢が制御されてよい。当該制御により、アーム部131の先端の内視鏡101を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部131は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部131は、手術室から離れた場所に設置される入力装置147を介してユーザによって遠隔操作され得る。
また、力制御が適用される場合には、アーム制御装置145は、ユーザからの外力を受け、その外力にならってスムーズにアーム部131が移動するように、各関節部133a〜133cのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部131に触れながらアーム部131を移動させる際に、比較的軽い力で当該アーム部131を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡101を移動させることが可能となり、ユーザの利便性を向上させることができる。
ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡101が支持されていた。これに対して、支持アーム装置127を用いることにより、人手によらずに内視鏡101の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
なお、アーム制御装置145は必ずしもカート137に設けられなくてもよい。また、アーム制御装置145は必ずしも1つの装置でなくてもよい。例えば、アーム制御装置145は、支持アーム装置127のアーム部131の各関節部133a〜133cにそれぞれ設けられてもよく、複数のアーム制御装置145が互いに協働することにより、アーム部131の駆動制御が実現されてもよい。
(光源装置)
光源装置143は、内視鏡101に術部を撮影する際の照射光を供給する。光源装置143は、例えばLED、レーザー光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、RGBレーザー光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置143において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザー光源それぞれからのレーザー光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド105の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置143は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド105の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置143は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置143は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
(カメラヘッド及びCCU)
図2を参照して、内視鏡101のカメラヘッド105及びCCU139の機能についてより詳細に説明する。図2は、図1に示すカメラヘッド105及びCCU139の機能構成の一例を示すブロック図である。
図2を参照すると、カメラヘッド105は、その機能として、レンズユニット107と、撮像部109と、駆動部111と、通信部113と、カメラヘッド制御部115と、を有する。また、CCU139は、その機能として、通信部159と、画像処理部161と、制御部163と、を有する。カメラヘッド105とCCU139とは、伝送ケーブル165によって双方向に通信可能に接続されている。
まず、カメラヘッド105の機能構成について説明する。レンズユニット107は、鏡筒103との接続部に設けられる光学系である。鏡筒103の先端から取り込まれた観察光は、カメラヘッド105まで導光され、当該レンズユニット107に入射する。レンズユニット107は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット107は、撮像部109の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
撮像部109は撮像素子によって構成され、レンズユニット107の後段に配置される。レンズユニット107を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部109によって生成された画像信号は、通信部113に提供される。
撮像部109を構成する撮像素子としては、例えばCMOS(Complementary Metal Oxide Semiconductor)タイプのイメージセンサであり、ベイヤ(Bayer)配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば4K以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者167は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
また、撮像部109を構成する撮像素子は、3D表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成される。3D表示が行われることにより、術者167は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部109が多板式で構成される場合には、各撮像素子に対応して、レンズユニット107も複数系統設けられる。
また、撮像部109は、必ずしもカメラヘッド105に設けられなくてもよい。例えば、撮像部109は、鏡筒103の内部に、対物レンズの直後に設けられてもよい。
駆動部111は、アクチュエータによって構成され、カメラヘッド制御部115からの制御により、レンズユニット107のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部109による撮像画像の倍率及び焦点が適宜調整され得る。
通信部113は、CCU139との間で各種の情報を送受信するための通信装置によって構成される。通信部113は、撮像部109から得た画像信号をRAWデータとして伝送ケーブル165を介してCCU139に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者167が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部113には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル165を介してCCU139に送信される。
また、通信部113は、CCU139から、カメラヘッド105の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部113は、受信した制御信号をカメラヘッド制御部115に提供する。なお、CCU139からの制御信号も、光通信によって伝送されてもよい。この場合、通信部113には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部115に提供される。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてCCU139の制御部163によって自動的に設定される。つまり、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が内視鏡101に搭載される。
カメラヘッド制御部115は、通信部113を介して受信したCCU139からの制御信号に基づいて、カメラヘッド105の駆動を制御する。例えば、カメラヘッド制御部115は、撮像画像のフレームレートを指定する旨の情報及び/又は撮像時の露光を指定する旨の情報に基づいて、撮像部109の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部115は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部111を介してレンズユニット107のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部115は、更に、鏡筒103やカメラヘッド105を識別するための情報を記憶する機能を備えてもよい。
なお、レンズユニット107や撮像部109等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド105について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
次に、CCU139の機能構成について説明する。通信部159は、カメラヘッド105との間で各種の情報を送受信するための通信装置によって構成される。通信部159は、カメラヘッド105から、伝送ケーブル165を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部159には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部159は、電気信号に変換した画像信号を画像処理部161に提供する。
また、通信部159は、カメラヘッド105に対して、カメラヘッド105の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
画像処理部161は、カメラヘッド105から送信されたRAWデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/又は手ブレ補正処理等)、並びに/又は拡大処理(電子ズーム処理)等、各種の公知の信号処理が含まれる。また、画像処理部161は、AE、AF及びAWBを行うための、画像信号に対する検波処理を行う。
画像処理部161は、CPUやGPU等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部161が複数のGPUによって構成される場合には、画像処理部161は、画像信号に係る情報を適宜分割し、これら複数のGPUによって並列的に画像処理を行う。
制御部163は、内視鏡101による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部163は、カメラヘッド105の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部163は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡101にAE機能、AF機能及びAWB機能が搭載されている場合には、制御部163は、画像処理部161による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
また、制御部163は、画像処理部161によって画像処理が施された画像信号に基づいて、術部の画像を表示装置141に表示させる。この際、制御部163は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部163は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具121使用時のミスト等を認識することができる。制御部163は、表示装置141に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者167に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
カメラヘッド105及びCCU139を接続する伝送ケーブル165は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル165を用いて有線で通信が行われていたが、カメラヘッド105とCCU139との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル165を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル165によって妨げられる事態が解消され得る。
以上、本開示に係る技術が適用され得る内視鏡手術システム100の一例について説明した。なお、ここでは、一例として内視鏡手術システム100について説明したが、本開示に係る技術が適用され得るシステムはかかる例に限定されない。例えば、本開示に係る技術は、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
<<2.高画質な画像を取得可能とする仕組みに関する検討>>
デジタルカメラ等の撮像装置により撮像された画像に基づき、当該画像よりも高画質な画像を取得可能とする技術が各種提案されている。このような技術の具体的な一例として、HDR(High Dynamic Range)やEDoF(Extended Depth of Field)と呼ばれる技術が挙げられる。
HDRは、露出条件の異なる複数の画像(例えば、ダイナミックレンジの異なる複数の画像)を合成することで、当該複数の画像それぞれよりもダイナミックレンジの広い画像を生成する技術である。また、EDoFは、例えば、被写体に対して焦点が合っている距離が異なる複数の画像を合成することで、当該複数の画像それぞれよりも被写界深度のより深い画像(即ち、焦点の合う奥行き方向の範囲がより広い画像)を生成する技術である。
このような高画質な画像を取得可能とする技術は、例えば、図1及び図2を参照して前述したような撮像システムへの導入も期待されている。
特に、近年では、撮像素子の高精細化に伴い(即ち、画素ピッチがより狭くなることにより)、より解像度の高い画像を撮像可能となってきている。その一方で、このような高精細な撮像素子により解像度のより高い画像を得られる撮像条件は、画素ピッチのより広い撮像素子に比べて制限される場合がある。具体的な一例として、撮像素子の高精細化に伴い、撮像される画像の解像度がより大きくなるほど焦点深度がより浅くなるため、当該画像の被写界深度がより浅くなる傾向にある。このような特性は、特に4K以上の解像度においてより顕著に表れる傾向にある。
このような状況を鑑み、本開示では、高精細な撮像素子を利用してより解像度の高い画像を撮像するような状況下においても、高画質な画像をより好適な態様で取得可能とする技術の一例について提案する。
<<3.技術的特徴>>
以下に、本実施形態に係る撮像装置の技術的特徴について説明する。
<3.1.撮像装置の構成例>
まず、図3を参照して、本実施形態に係る撮像装置の概略的な構成の一例について、特に、撮像装置内に入射した光が撮像素子に結像するまでの構成に着目して説明する。図3は、本実施形態に係る撮像装置の構成の一例について説明するための説明図であり、前述した内視鏡手術システム100のカメラヘッド105として適用可能な撮像装置の一例を示している。なお、以降の説明では、図3に示す撮像装置を、カメラヘッド105として適用可能な他の撮像装置と明示的に区別するために、「撮像装置105a」と称する場合がある。
図3に示すように、本実施形態に係る撮像装置105aは、分岐光学系211と、第1の撮像素子1051〜第3の撮像素子1053とを含む。
撮像装置105aにより被写体のカラー画像を撮像する場合には、第1の撮像素子1051〜第3の撮像素子1053は、例えば、R画素、B画素、及びG画素が配置されてなる。この場合には、第1の撮像素子1051〜第3の撮像素子1053としては、例えば、所謂ベイヤ(Bayer)配列を有するものが適用されてもよい。また、他の一例として、撮像装置105aにより被写体の白黒画像を撮像する場合には、第1の撮像素子1051〜第3の撮像素子1053として、カラーフィルタが設けられていない撮像素子が適用されてもよい。
また、第1の撮像素子1051〜第3の撮像素子1053としては、有効画素数が、例えば、8K、4K等のUHD(Ultra High−definition)、HD(High−definition)、あるいはSD(Standard Definition)の解像度に相当するものが適用され得る。なお、第1の撮像素子1051〜第3の撮像素子1053としては、有効画素数が4Kの解像度以上に相当するものであるとより好ましい。
分岐光学系211は、撮像装置105aに入射した入射した光(以降では、「入射光」とも称する)を複数の光に分離し、分離した各光を第1の撮像素子1051〜第3の撮像素子1053にそれぞれ結像させる。
具体的には、図3に示すように、分岐光学系211は、第1プリズム217と第2プリズム218とがビームスプリッタ213を介して互いに接合され、かつ、第2プリズム218と第3プリズム219とがビームスプリッタ215を介して互いに接合されたプリズムである。即ち、第1プリズム217と第2プリズム218との界面に、ビームスプリッタ213が設けられている。また、第2プリズム218と第3プリズム219との界面にビームスプリッタ215が設けられている。
ビームスプリッタ213は、入射光の一部を反射することで、当該入射光を複数の光に分離する。なお、ビームスプリッタ213で反射される光と、当該ビームスプリッタ213を透過する光との間の比率は、当該ビームスプリッタ213の反射率(換言すると、透過率)に応じて決定される。同様に、ビームスプリッタ215は、上記ビームスプリッタ213を透過した光の一部を反射することで、当該光を複数の光に分離する。即ち、ビームスプリッタ215で反射される光と、当該ビームスプリッタ215を透過する光との間の比率は、当該ビームスプリッタ215の反射率(換言すると、透過率)に応じて決定される。ビームスプリッタ213及び215のうち少なくとも一方が、所謂ハーフミラー膜として構成されていてもよい。
第1プリズム217は、撮像装置105aへの入射光が入射するとともに、ビームスプリッタ213により反射された当該入射光の一部が導光される光路として機能するプリズムである。第2プリズム218は、ビームスプリッタ213を透過した光が入射するとともに、ビームスプリッタ215により反射された当該光の一部が導光される光路として機能するプリズムである。第3プリズム219は、ビームスプリッタ215を透過した光が導光される光路として機能するプリズムである。
第1プリズム217に入射した入射光は、第1プリズム217内を直進し、光軸上に斜めに設けられたビームスプリッタ213によって一部が反射され、他の一部が当該ビームスプリッタ213を透過することで、複数の光に分離される。
ビームスプリッタ213によって反射分離された光は、第1プリズム217内を導光される。ここで、反射分離された当該光は、図3に示した位置Aで一度だけ全反射して、第1プリズム217の外部へと透過する。これにより、ビームスプリッタ213の成膜面の光軸に対する角度を垂直に近づけることができる。逆に言えば、本実施形態に係るビームスプリッタ213の光軸上への設置角度は、位置Aにおける可視光線の全反射条件が成立するように設定されている。第1プリズム217を透過した光は、第1の撮像素子1051へと導光される。なお、第1プリズム217と第1の撮像素子1051との間に、他の光学系が介在してもよい。
ビームスプリッタ213を透過した光は、第2プリズム218に入射する。第2プリズム218に入射した光は、当該第2プリズム218内を直進し、光軸上に斜めに設けられたビームスプリッタ215によって一部が反射され、他の一部が当該ビームスプリッタ215を透過することで、複数の光に分離される。
ビームスプリッタ215によって反射分離された光は、第2プリズム218内を導光される。第2プリズム218におけるビームスプリッタ215が設けられている側とは逆側の端面(換言すれば、第2プリズム218の光軸下流側の出射面)は、光軸に対して垂直となるように設けられている。そのため、ビームスプリッタ215によって反射分離された光は、第2プリズム218の出射面に対して垂直となる状態を維持したまま、第2プリズム218の外部に透過する。第2プリズム218を透過した光は、第3の撮像素子1053へと導光される。なお、第2プリズム218と第3の撮像素子1053との間に、他の光学系が介在してもよい。
ビームスプリッタ215を透過した光は、第3プリズム219に入射して、当該第3プリズム219の内部を直進する。第3プリズム219におけるビームスプリッタ215が設けられている側とは逆側の端面(換言すれば、第3プリズム219の光軸下流側の出射面)は、光軸に対して垂直となるように設けられている。そのため、ビームスプリッタ215を透過した光は、第3プリズム219の出射面に対して垂直となる状態を維持したまま、第3プリズム219の外部に透過する。第3プリズム219を透過した光は、第2の撮像素子1052へと導光される。なお、第3プリズム219と第2の撮像素子1052との間に、他の光学系が介在してもよい。
また、本実施形態に係る撮像装置105aは、第1の撮像素子1051〜第3の撮像素子1053のうち2以上の撮像素子により互いに明るさの異なる画像が撮像されるように構成されている。具体的な一例として、撮像装置105aは、第1の撮像素子1051、第2の撮像素子1052、及び第3の撮像素子1053それぞれにより撮像される画像の明るさが、4:4:1となるように構成されているとよい。このような構成により、例えば、第2の撮像素子1052及び第3の撮像素子1053それぞれにより撮像された、互いに明るさの異なる画像を合成することで、当該画像それぞれよりもダイナミックレンジのより広い画像(例えば、HDR(High Dynamic Range)画像)を生成することが可能となる。
なお、2以上の撮像素子により互いに明るさの異なる画像が撮像されれば、当該画像を撮像するための構成は特に限定されない。具体的な一例として、ビームスプリッタ213及び215の反射率(透過率)を調整することで、第1の撮像素子1051〜第3の撮像素子1053それぞれに結像する光の光量が調整されてもよい。具体的な一例として、ビームスプリッタ213の反射率(透過率)が、透過光と反射光との間の光量の差が5:4となるように調整されていてもよい。また、ビームスプリッタ213の反射率(透過率)が、透過光と反射光との間の光量の差が4:1となるように調整されていてもよい。このような構成により、第1の撮像素子1051、第2の撮像素子1052、及び第3の撮像素子1053それぞれに結像する光の光量の比率が4:4:1となる。
また、他の一例として、第1の撮像素子1051〜第3の撮像素子1053のうち2以上の撮像素子それぞれのシャッタースピードを制御することで、当該2以上の撮像素子に互いに明るさの異なる画像を撮像させてもよい。また、他の一例として、当該2以上の撮像素子それぞれの感度を制御することで、当該2以上の撮像素子に互いに明るさの異なる画像を撮像させてもよい。また、他の一例として、当該2以上の撮像素子のうち少なくとも一方の前段に絞りを設け、当該絞りを制御することで、当該2以上の撮像素子それぞれに結像する光の光量が制御されてもよい。
本実施形態に係る撮像装置105aにおいて、第1の撮像素子1051〜第3の撮像素子1053のうち2以上の撮像素子は、分岐光学系211からの光学的距離が互いに異なるように配設されている。より具体的には、分岐光学系211が両側テレセントリックに構成されており、当該2以上の撮像素子は、当該分岐光学系211の出射端からの光学的距離が互いに異なるように配設されている。このような構成により、当該2以上の撮像素子は、被写体に対して焦点が合っている距離が互いに異なる画像を撮像することとなる。換言すると、当該2以上の撮像素子は、分岐光学系211を基準として焦点距離が互いに異なるとも言える。なお、「光学的距離」とは、光の進む速さから算出される光学的な距離に相当し、光の経路の物理的距離と当該経路における屈折率とにより算出される。
例えば、図3において、参照符号L11は、分岐光学系211(第1プリズム217)のうち、第1の撮像素子1051に結像する光が出射する出射端と、当該第1の撮像素子1051と、の間の光学的距離を示している。また、参照符号L12は、分岐光学系211(第3プリズム219)のうち、第2の撮像素子1052に結像する光が出射する出射端と、当該第2の撮像素子1052と、の間の光学的距離を示している。即ち、図3に示す例では、光学的距離L11と光学的距離L12とが互いに異なるように、第1の撮像素子1051及び第2の撮像素子1052が配設されていてもよい。
例えば、図4は、本実施形態に係る撮像装置105aの概要について説明するための説明図である。具体的には、図4は、第1の撮像素子1051及び第2の撮像素子1052のそれぞれと、分岐光学系211のように第1の撮像素子1051及び第2の撮像素子1052それぞれへと光を導光する光学系と、の間の光学的な位置関係を模式的に示している。図4において、参照符号200は、第1の撮像素子1051及び第2の撮像素子1052それぞれへと光を導光する光学系を模式的に示しており、撮像装置105a(例えば、カメラヘッド等)に取り付けられるレンズ等の光学系(例えば、内視鏡、顕微鏡等)や、図3に示す分岐光学系211を含み得る。また、参照符号L11及びL12は、図3に示す光学的距離L11及びL12それぞれを模式的に示している。
図4に示すように、光学系200を導光した後に当該光学系200を出射した光が、第1の撮像素子1051及び第2の撮像素子1052それぞれに結像するまでの光学的距離L11及びL12が互いに異なる。即ち、第1の撮像素子1051及び第2の撮像素子1052は、光学系200を基準として焦点距離が互いに異なるとも言える。そのため、第1の撮像素子1051及び第2の撮像素子1052それぞれには、光学系200からの距離(即ち、被写体距離)が互いに異なる被写体の像が結像することとなる。換言すると、第1の撮像素子1051及び第2の撮像素子1052は、被写体に対して焦点が合っている距離が互いに異なる画像を撮像することとなる。
具体的な一例として、図4に示す例では、第2の撮像素子1052には、参照符号P12で示された被写体の像が結像する。例えば、図4において、参照符号L16は、光学系200から被写体P12までの光学的距離(換言すると、被写体距離)を模式的に示している。これに対して、第1の撮像素子1051は、第2の撮像素子1052に比べて、光学系200からの光学的距離が長い。そのため、第1の撮像素子1051には、参照符号P11で示された被写体、即ち、光学系200に対して被写体P12よりも離間した被写体の像が結像することとなる。例えば、図4において、参照符号L16は、光学系200から被写体P12までの光学的距離(換言すると、被写体距離)を模式的に示している。
このような構成により、例えば、被写体距離が互いに異なる被写体の像が結像する第2の撮像素子1052及び第1の撮像素子1051それぞれにより撮像された画像を合成することで、当該画像それぞれよりも被写界深度のより深い画像(例えば、EDoF(Extended Depth of Field)画像)を生成することが可能となる。
ところで、図1及び図2を参照して説明した例のように、撮像装置105aを内視鏡101のカメラヘッド105として構成する場合には、注目している被写体に対して、奥側よりも手前側の方が飽和しやすい傾向にある。そのため、このようなケースにおいては、例えば、図4に示す例において第2の撮像素子1052に対応する被写体距離を基準とする場合に、第1の撮像素子1051については、被写体距離が当該第2の撮像素子1052よりも短くなるように(即ち、より手前側に焦点が合うように)配設されるとよい。即ち、この場合においては、第1の撮像素子1051は、第2の撮像素子1052に比べて、光学系200との間の光学的距離がより短くなるように配設されるとよい。
なお、上記では、3つの撮像素子を含む所謂3板構成の撮像装置の一例について説明したが、必ずしも本実施形態に係る撮像装置の構成を限定するものではない。具体的には、分岐光学系により入射光から分離された各光が複数の撮像素子にそれぞれ結像するように構成されていれば、撮像素子の数は4つ以上であってもよい。また、撮像素子を追加することで、HDR及びEDoFに限らず、他の機能を追加することも可能である。具体的な一例として、赤外(IR)の波長帯域に属する光を検知可能な撮像素子を別途追加することにより、本実施形態に係る撮像装置を、ICG(Indocyanine green)等の蛍光体を使用した蛍光観察に応用することも可能である。また、他の一例として、複数の撮像素子間においてベイヤ配列の位相をずらし、当該複数の撮像素子それぞれにより撮像された画像を合成することで、当該画像それぞれよりも解像度の高い画像を生成することも可能である。
以上、図3を参照して、本実施形態に係る撮像装置の概略的な構成の一例について、特に、撮像装置内に入射した光が撮像素子に結像するまでの構成に着目して説明した。
<3.2.機能構成>
続いて、図5を参照して、本実施形態に係る撮像システムの概略的な機能構成の一例について、特に、図3を参照して説明した撮像装置105aにより撮像された画像に対して画像処理を施す画像処理装置の構成に着目して説明する。図5は、本実施形態に係る撮像システムの機能構成の一例を示したブロック図である。
図5に示すように、本実施形態に係る撮像システム1は、撮像装置105aと、画像処理装置300と、出力部350とを含む。
撮像装置105aは、図3を参照して説明した撮像装置105aに相当し、例えば、図1に示す内視鏡手術システム100における内視鏡101のカメラヘッド105に相当し得る。図3を参照して説明したように、撮像装置105aは、第1の撮像素子1051〜第3の撮像素子1053を含む。なお、図4では、撮像装置105aの構成として、第1の撮像素子1051〜第3の撮像素子1053以外の他の構成については図示を省略している。
また、図4に示す例では、第2の撮像素子1052を基準として、第1の撮像素子1051及び第3の撮像素子1053が配設されている。具体的には、第1の撮像素子1051は、図3に示す分岐光学系211からの距離(換言すると、焦点距離)が第2の撮像素子1052とは異なるように配設されている。また、第3の撮像素子1053により、第2の撮像素子1052よりも低露光の画像(即ち、明るさのより暗い画像)が撮像されるように、撮像装置105aが構成されている。
以上のような構成の基で、第1の撮像素子1051〜第3の撮像素子1053のそれぞれは、撮像した画像を画像処理装置300に出力する。なお、以降の説明では、第1の撮像素子1051、第2の撮像素子1052、及び第3の撮像素子1053により撮像された画像を、それぞれ「第1の画像」、「第2の画像」、及び「第3の画像」とも称する。
画像処理装置300は、撮像装置105aの第1の撮像素子1051〜第3の撮像素子1053それぞれにより撮像された画像に対して各種画像処理を施すことで出力画像を生成し、生成した当該出力画像を出力部350に表示させる。出力部350は、所謂ディスプレイ等により構成され、画像等のような提示対象となる情報を表示情報として表示することで、当該情報をユーザに提示する。なお、画像処理装置300及び出力部350は、例えば、図1に示す内視鏡手術システム100におけるCCU139及び表示装置141に相当し得る。
より具体的な一例として、画像処理装置300は、図4に示すように、第1の画像処理部301と、第2の画像処理部303と、出力制御部305とを含む。
第1の画像処理部301は、第1の撮像素子1051により撮像された第1の画像と、第2の撮像素子1052により撮像された第2の画像とを取得する。第1の画像処理部301は、取得した第1の画像及び第2の画像に対して、例えばEDoF技術に基づく信号処理を施すことで第1の画像及び第2の画像を合成し、当該第1の画像及び当該第2の画像のいずれよりも被写界深度の深い合成画像(所謂EDoF画像)を生成する。なお、以降の説明では、第1の画像処理部301により生成される合成画像を「第1の合成画像」とも称する。第1の画像処理部301は、生成した第1の合成画像を出力制御部305に出力する。
第2の画像処理部303は、第2の撮像素子1052により撮像された第2の画像と、第3の撮像素子1053により撮像された第3の画像とを取得する。第2の画像処理部303は、取得した第2の画像及び第3の画像に対して、例えばHDR技術に基づく信号処理を施すことで第2の画像及び第3の画像を合成し、当該第2の画像及び当該第3の画像のいずれよりもダイナミックレンジの広い合成画像(所謂HDR画像)を生成する。なお、以降の説明では、第2の画像処理部303により生成される合成画像を「第2の合成画像」とも称する。第2の画像処理部303は、生成した第1の合成画像を出力制御部305に出力する。
出力制御部305は、第1の撮像素子1051により撮像された第1の画像と、第2の撮像素子1052により撮像された第2の画像と、に基づく第1の合成画像(EDoF画像)を、第1の画像処理部301から取得する。また、出力制御部305は、第2の撮像素子1052により撮像された第2の画像と、第3の撮像素子1053により撮像された第3の画像と、に基づく第2の合成画像(HDR画像)を、第2の画像処理部303から取得する。出力制御部305は、取得した第1の合成画像及び第2の合成画像のうち少なくともいずれかに応じた出力画像を出力部350に表示させる。
具体的な一例として、出力制御部305は、取得した第1の合成画像及び第2の合成画像を合成することで第3の合成画像を生成し、生成した当該第3の合成画像を出力部350に表示させてもよい。このようにして生成された第3の合成画像は、第1の合成画像(EDoF画像)の特性と、第2の合成画像(HDR画像)の特性とを有することとなる。即ち、このような構成により、第1の画像〜第3の画像のいずれよりも、被写界深度がより深く、かつダイナミックレンジのより広い第3の合成画像を、出力部350を介してユーザに提示することが可能となる。また、他の一例として、出力制御部305は、第1の合成画像及び第2の合成画像のいずれかを出力部350に表示させてもよい。
また、出力制御部305は、上述した第1の合成画像〜第3の合成画像のうち2以上の合成画像の中から、いずれかの合成画像を所定の条件に応じて選択的に切り替えて出力部350に表示させてもよい。具体的な一例として、出力制御部305は、所定の入力部(図示を省略する)を介したユーザからの指示に応じて、第1の合成画像〜第3の合成画像のうちのいずれかを出力部350に表示させてもよい。また、他の一例として、出力制御部305は、所定のイベントの検出結果をトリガとして、第1の合成画像〜第3の合成画像のうちのいずれかを出力部350に表示させてもよい。
また、出力制御部305は、第1の合成画像〜第3の合成画像のうち2以上の合成画像が提示された出力画像を生成し、生成した出力画像を出力部350に表示させてもよい。具体的な一例として、出力制御部305は、第1の合成画像〜第3の合成画像のうちの一部の合成画像が、他の合成画像の一部の領域に部分画像として提示された出力画像を生成し、当該出力画像を出力部350に表示させてもよい。
また、出力部350が複数台設けられている場合には、出力制御部305は、第1の合成画像〜第3の合成画像のうち2以上の合成画像を、互いに異なる出力部350に個別に表示させてもよい。
なお、上述した例はあくまで一例であり、第1の合成画像〜第3の合成画像のうち少なくともいずれかの合成画像を、出力部350を介してユーザに提示することが可能であれば、当該合成画像を提示する態様は特に限定されない。
以上、図5を参照して、本実施形態に係る撮像システムの概略的な機能構成の一例について、特に、図3を参照して説明した撮像装置105aにより撮像された画像に対して画像処理を施す画像処理装置の構成に着目して説明した。
<3.3.変形例>
続いて、本実施形態に係る撮像装置の変形例について説明する。
(変形例1:2板構成の撮像装置の一例)
まず、変形例1として、図6を参照して、2板構成の撮像装置の構成の一例について説明する。図6は、変形例1に係る撮像装置の構成の一例について説明するための説明図である。なお、以降の説明では、本変形例に係る撮像装置を、前述した実施形態や他の変形例に係る撮像装置と区別するために、「撮像装置105b」と称する場合がある。
図6に示すように、変形例1に係る撮像装置105bは、分岐光学系231と、第1の撮像素子1054及び第2の撮像素子1055とを含む。
第1の撮像素子1054及び第2の撮像素子1055は、図3を参照して前述した撮像装置105aにおける第1の撮像素子1051〜第3の撮像素子1053と同様の構成を取り得る。即ち、撮像装置105bの用途(例えば、カラー画像及び白黒画像のいずれを撮像するか)に応じて、第1の撮像素子1054及び第2の撮像素子1055として、ベイヤ(Bayer)配列を有するものが適用されてもよいし、カラーフィルタが設けられていない撮像素子が適用されてもよい。また、第1の撮像素子1054及び第2の撮像素子1055としては、有効画素数が4Kの解像度以上のものであるとより好ましい。
分岐光学系211は、撮像装置105aに入射した光(即ち、入射光)を複数の光に分離し、分離した各光を第1の撮像素子1054及び第2の撮像素子1055にそれぞれ結像させる。
具体的には、図6に示すように、分岐光学系231は、第1プリズム235と第2プリズム237とがビームスプリッタ233を介して互いに接合されたプリズムである。即ち、第1プリズム235と第2プリズム237との界面に、ビームスプリッタ233が設けられている。
ビームスプリッタ233は、入射光の一部を反射することで、当該入射光を複数の光に分離する。なお、ビームスプリッタ233で反射される光と、当該ビームスプリッタ233を透過する光との間の比率は、当該ビームスプリッタ233の反射率(換言すると、透過率)に応じて決定される。
第1プリズム235は、撮像装置105bへの入射光が入射するとともに、ビームスプリッタ233により反射された当該入射光の一部が導光される光路として機能するプリズムである。第2プリズム237は、ビームスプリッタ233を透過した光が導光される光路として機能するプリズムである。
第1プリズム235に入射した入射光は、第1プリズム235内を直進し、光軸上に斜めに設けられたビームスプリッタ233によって一部が反射され、他の一部が当該ビームスプリッタ233を透過することで、複数の光に分離される。
ビームスプリッタ233によって反射分離された光は、第1プリズム235内を導光される。ここで、反射分離された当該光は、図5に示した位置Aで一度だけ全反射して、第1プリズム235の外部へと透過する。これにより、ビームスプリッタ233の成膜面の光軸に対する角度を垂直に近づけることができる。逆に言えば、本変形例に係るビームスプリッタ233の光軸上への設置角度は、位置Aにおける可視光線の全反射条件が成立するように設定されている。第1プリズム235を透過した光は、第1の撮像素子1054へと導光される。なお、第1プリズム235と第1の撮像素子1054との間に、他の光学系が介在してもよい。
ビームスプリッタ233を透過した光は、第2プリズム237に入射して、当該第2プリズム237の内部を直進する。第2プリズム237におけるビームスプリッタ233が設けられている側とは逆側の端面(換言すれば、第2プリズム237の光軸下流側の出射面)は、光軸に対して垂直となるように設けられている。そのため、ビームスプリッタ233を透過した光は、第2プリズム237の出射面に対して垂直となる状態を維持したまま、第2プリズム237の外部に透過する。第2プリズム237を透過した光は、第2の撮像素子1055へと導光される。なお、第2プリズム237と第2の撮像素子1055との間に、他の光学系が介在してもよい。
また、本変形例に係る撮像装置105bは、第1の撮像素子1054及び第2の撮像素子1055により互いに明るさの異なる画像が撮像されるように構成されている。具体的な一例として、第1の撮像素子1054により、第2の撮像素子1055よりも低露光の画像(即ち、明るさのより暗い画像)が撮像されるように、撮像装置105bが構成されていてもよい。このような構成により、例えば、第2の撮像素子1055及び第1の撮像素子1054それぞれにより撮像された、互いに明るさの異なる画像を合成することで、当該画像それぞれよりもダイナミックレンジのより広い画像(例えば、HDR画像)を生成することが可能となる。なお、第1の撮像素子1054及び第2の撮像素子1055により互いに明るさの異なる画像が撮像されれば、そのため構成は特に限定されない。
また、本変形例に係る撮像装置105bにおいて、第1の撮像素子1054及び第2の撮像素子1055は、分岐光学系231からの光学的距離(換言すると、焦点距離)が互いに異なるように配設されている。より具体的には、分岐光学系231が両側テレセントリックに構成されており、第1の撮像素子1054及び第2の撮像素子1055は、当該分岐光学系231の出射端からの光学的距離が互いに異なるように配設されている。換言すると、第1の撮像素子1054及び第2の撮像素子1055は、分岐光学系231を基準として焦点距離が互いに異なるとも言える。
例えば、図6において、参照符号L21は、分岐光学系231(第1プリズム235)のうち、第1の撮像素子1054に結像する光が出射する出射端と、当該第1の撮像素子1054と、の間の光学的距離を示している。また、参照符号L22は、分岐光学系231(第2プリズム237)のうち、第2の撮像素子1055に結像する光が出射する出射端と、当該第2の撮像素子1055と、の間の光学的距離を示している。即ち、図6に示す例では、光学的距離L21と光学的距離L22とが互いに異なるように、第1の撮像素子1054及び第2の撮像素子1055が配設されている。
このような構成により、分岐光学系231から光学的距離が互いに異なる(即ち、被写体距離が互いに異なる被写体の像が結像する)第1の撮像素子1054及び第2の撮像素子1055それぞれにより撮像された画像を合成することで、当該画像それぞれよりも被写界深度のより深い画像(例えば、EDoF画像)を生成することが可能となる。
以上のような構成により、第1の撮像素子1054及び第2の撮像素子1055それぞれにより撮像される画像を合成することで、当該画像それぞれよりも、ダイナミックレンジがより広く、かつ被写界深度がより深い画像を取得することが可能となる。
以上、変形例1として、図6を参照して、2板構成の撮像装置の構成の一例について説明した。
(変形例2:3板構成の撮像装置の他の一例)
続いて、変形例2として、図7を参照して、3板構成の撮像装置の他の一例について説明する。図7は、変形例2に係る撮像装置の構成の一例について説明するための説明図である。なお、以降の説明では、本変形例に係る撮像装置を、前述した実施形態や他の変形例に係る撮像装置と区別するために、「撮像装置105c」と称する場合がある。
図7に示すように、変形例2に係る撮像装置105cは、分岐光学系251と、第1の撮像素子1057〜第3の撮像素子1059とを含む。
分岐光学系251は、撮像装置105cに入射した光(即ち、入射光)を複数の光に分離し、分離した各光を第1の撮像素子1057〜第3の撮像素子1059にそれぞれ結像させる。
具体的には、図7に示すように、分岐光学系251は、第1プリズム257と第2プリズム258とがダイクロイック膜253を介して互いに接合され、かつ、第2プリズム258と第3プリズム259とがビームスプリッタ255を介して互いに接合されたプリズムである。即ち、第1プリズム257と第2プリズム258との界面に、ダイクロイック膜253が設けられている。また、第2プリズム258と第3プリズム259との界面にビームスプリッタ255が設けられている。
ダイクロイック膜253は、撮像装置105cに入射した光(即ち、入射光)を、可視光波長帯域に属する光のうち一部の波長帯域に属する光と、当該一部の波長帯域とは異なる他の波長帯域に属する光と、に分離する光学膜である。具体的な一例として、ダイクロイック膜253は、可視光波長帯域に属する光のうちR成分(赤色成分)及びB成分(青色成分)を含む波長帯域に属する光を反射し、G成分(緑色成分)を含む波長帯域に属する光を透過する特性を有する。
例えば、図8及び図9は、変形例2に係る撮像装置に適用されるダイクロイック膜253の分光特性の一例について示した図である。具体的には、図8は、ダイクロイック膜253の分光反射率の特性の一例を示している。即ち、図8において、横軸は波長(nm)を示しており、縦軸は分光反射率(%)を示している。また、図9は、ダイクロイック膜253の分光透過率の特性の一例を示している。即ち、図9において、横軸は波長(nm)を示しており、縦軸は分光透過率(%)を示している。図8及び図9に示すように、ダイクロイック膜253は、R成分、G成分、及びG成分の3原色の光のうち、R成分及びB成分を含む波長帯域の光の大部分(例えば、90%以上)を反射させ、G成分を含む波長帯域の光の大部分(例えば、90%以上)を透過させる特性を有している。
第1プリズム257は、撮像装置105cへの入射光が入射するとともに、ダイクロイック膜253により反射されたR成分及びB成分を含む波長帯域に属する光が導光される光路として機能するプリズムである。第2プリズム258は、ダイクロイック膜253を透過したG成分を含む波長帯域に属する光が入射するとともに、ビームスプリッタ255により反射された当該光の一部が導光される光路として機能するプリズムである。第3プリズム259は、ビームスプリッタ255を透過した光(即ち、G成分を含む波長帯域に属する光の他の一部)が導光される光路として機能するプリズムである。
第1プリズム257に入射した入射光は、第1プリズム257内を直進し、光軸上に斜めに設けられたダイクロイック膜253によって、R成分及びB成分を含む波長帯域に属する光と、G成分を含む波長帯域に属する光と、に分離される。なお、以降の説明では、便宜上、ダイクロイック膜253によって入射光から分離された光のうち、R成分及びB成分を含む波長帯域に属する光を「第1の光」とも称し、G成分を含む波長帯域に属する光を「第2の光」とも称する。
第1の光は、ダイクロイック膜253によって反射されて、第1プリズム257内を導光される。ここで、反射分離された第1の光は、図7に示した位置Aで一度だけ全反射して、第1プリズム257の外部へと透過する。これにより、ダイクロイック膜253の成膜面の光軸に対する角度を垂直に近づけることができる。逆に言えば、本変形例に係るダイクロイック膜253の光軸上への設置角度は、位置Aにおける可視光線の全反射条件が成立するように設定されている。第1プリズム257を透過した光は、第1の撮像素子1057へと導光される。なお、第1プリズム257と第1の撮像素子1057との間に、他の光学系が介在してもよい。
ダイクロイック膜253を透過した第2の光は、第2プリズム258に入射する。第2プリズム258に入射した第2の光は、当該第2プリズム258内を直進し、光軸上に斜めに設けられたビームスプリッタ255によって一部が反射され、他の一部が当該ビームスプリッタ255を透過することで、複数の光に分離される。
ビームスプリッタ255によって反射分離された光(即ち、第2の光の一部)は、第2プリズム258内を導光される。第2プリズム258におけるビームスプリッタ255が設けられている側とは逆側の端面(換言すると、第2プリズム258の光軸下流側の出射面)は、光軸に対して垂直となるように設けられている。そのため、ビームスプリッタ255によって反射分離された光は、第2プリズム258の出射面に対して垂直となる状態を維持したまま、第2プリズム258の外部に透過する。第2プリズム258を透過した光は、第3の撮像素子1059へと導光される。なお、第2プリズム258と第3の撮像素子1059との間に、他の光学系が介在してもよい。
ビームスプリッタ255を透過した光(即ち、第2の光の他の一部)は、第3プリズム259に入射して、当該第3プリズム259の内部を直進する。第3プリズム259におけるビームスプリッタ255が設けられている側とは逆側の端面(換言すれば、第3プリズム259の光軸下流側の出射面)は、光軸に対して垂直となるように設けられている。そのため、ビームスプリッタ255を透過した光は、第3プリズム259の出射面に対して垂直となる状態を維持したまま、第3プリズム259の外部に透過する。第3プリズム259を透過した光は、第2の撮像素子1058へと導光される。なお、第3プリズム259と第2の撮像素子1058との間に、他の光学系が介在してもよい。
第1の撮像素子1057は、上述の通り、ダイクロイック膜253により入射光が分離された各光のうち、当該ダイクロイック膜253により反射分離された第1の光が結像する。そのため、例えば、ダイクロイック膜253が、R成分及びB成分を含む波長帯域に属する光を反射するように構成されている場合には、第1の撮像素子1057は、少なくともR画素及びB画素を含むように構成される。
より具体的な一例として、第1の撮像素子1057は、R画素及びB画素のみが配置されて構成されてもよい。また、他の一例として、第1の撮像素子1057は、R画素、B画素、及びG画素が配置されて構成されてもよい。この場合には、例えば、第1の撮像素子1057として、ベイヤ(Bayer)配列を有するものが適用されてもよい。また、第1の撮像素子1057としては、有効画素数が4Kの解像度以上のものであるとより好ましい。なお、上記第1の光が結像する第1の撮像素子1057が、「第6の撮像素子」の一例に相当する。
第2の撮像素子1058及び第3の撮像素子1059は、上述の通り、ダイクロイック膜253により入射光が分離された各光のうち、当該ダイクロイック膜253を透過した第2の光が、ビームスプリッタ255により分離されてそれぞれ結像する。より具体的には、第2の撮像素子1058は、当該第2の光のうち、当該ビームスプリッタ255を透過した一部の光が結像する。また、第3の撮像素子1059は、当該第2の光のうち、当該ビームスプリッタ255により反射分離された他の一部の光が結像する。そのため、例えば、ダイクロイック膜253が、R成分及びB成分を含む波長帯域に属する光を反射するように構成されている場合には、第2の撮像素子1058及び第3の撮像素子1059には、G成分を含む波長帯域に属する光が結像することとなる。
以上のような構成から、第2の撮像素子1058及び第3の撮像素子1059としては、例えば、カラーフィルタが設けられていない撮像素子が適用されるとよい。また、他の一例として、第2の撮像素子1058及び第3の撮像素子1059のうち少なくともいずれかとして、R画素、B画素、及びG画素が配置されて構成された撮像素子が適用されてもよい。この場合には、例えば、当該撮像素子として、ベイヤ(Bayer)配列を有するものが適用されてもよい。また、第2の撮像素子1058及び第3の撮像素子1059としては、有効画素数が4Kの解像度以上のものであるとより好ましい。なお、ビームスプリッタ255によって第2の光から分離された各光が「第3の光」及び「第4の光」の一例に相当する。また、ビームスプリッタ255によって第2の光から分離された各光(即ち、第3の光及び第4の光)がそれぞれ結像する第2の撮像素子1058及び第3の撮像素子1059が、「第4の撮像素子」及び「第5の撮像素子」の一例に相当する。
また、本変形例に係る撮像装置105cは、第2の撮像素子1058及び第3の撮像素子1059により互いに明るさの異なる画像が撮像されるように構成されている。具体的な一例として、第3の撮像素子1059により、第2の撮像素子1058よりも低露光の画像(即ち、明るさのより暗い画像)が撮像されるように、撮像装置105cが構成されていてもよい。このような構成により、例えば、第1の撮像素子1057、第2の撮像素子1058、及び第3の撮像素子1059それぞれにより撮像された画像を合成することで、当該画像それぞれよりもダイナミックレンジのより広い画像(例えば、HDR画像)を生成することが可能となる。なお、第2の撮像素子1058及び第3の撮像素子1059により互いに明るさの異なる画像が撮像されれば、そのため構成は特に限定されない。
また、本変形例に係る撮像装置105cにおいて、第2の撮像素子1058及び第3の撮像素子1059は、分岐光学系251からの光学的距離(換言すると、焦点距離)が互いに異なるように配設されている。より具体的には、分岐光学系251が両側テレセントリックに構成されており、第2の撮像素子1058及び第3の撮像素子1059は、当該分岐光学系251の出射端からの光学的距離が互いに異なるように配設されている。換言すると、第2の撮像素子1058及び第3の撮像素子1059は、分岐光学系251を基準として焦点距離が互いに異なるとも言える。
例えば、図6において、参照符号L32は、分岐光学系251(第3プリズム259)のうち、第2の撮像素子1058に結像する光が出射する出射端と、当該第2の撮像素子1058と、の間の光学的距離を示している。また、参照符号L33は、分岐光学系251(第2プリズム258)のうち、第3の撮像素子1059に結像する光が出射する出射端と、当該第3の撮像素子1059と、の間の光学的距離を示している。即ち、図7に示す例では、光学的距離L32と光学的距離L33とが互いに異なるように、第2の撮像素子1058及び第3の撮像素子1059が配設されている。なお、分岐光学系251と第1の撮像素子との間の光学的距離については特に限定されない。具体的な一例として、第1の撮像素子は、分岐光学系251と当該第1の撮像素子との間の光学的距離が、光学的距離L32と略等しくなるように配設されていてもよい。
このような構成により、例えば、第1の撮像素子1057、第2の撮像素子1058、及び第3の撮像素子1059それぞれにより撮像された画像を合成することで、当該画像それぞれよりも被写界深度のより深い画像(例えば、EDoF画像)を生成することが可能となる。
以上、変形例2として、図7〜図9を参照して、3板構成の撮像装置の他の一例について説明する。
<<4.ハードウェア構成の一例>>
続いて、図10を参照しながら、前述した内視鏡撮像システム(即ち、内視鏡手術システム)におけるCCUのように、各種処理を実行する情報処理装置(例えば、画像処理装置)のハードウェア構成の一例について、詳細に説明する。図10は、本開示の一実施形態に係る内視鏡撮像システムを構成する情報処理装置のハードウェア構成の一構成例を示す機能ブロック図である。
本実施形態に係る内視鏡撮像システムを構成する情報処理装置900は、主に、CPU901と、ROM903と、RAM905と、を備える。また、情報処理装置900は、更に、ホストバス907と、ブリッジ909と、外部バス911と、インタフェース913と、入力装置915と、出力装置917と、ストレージ装置919と、ドライブ921と、接続ポート923と、通信装置925とを備える。
CPU901は、演算処理装置及び制御装置として機能し、ROM903、RAM905、ストレージ装置919又はリムーバブル記録媒体927に記録された各種プログラムに従って、情報処理装置900内の動作全般又はその一部を制御する。ROM903は、CPU901が使用するプログラムや演算パラメータ等を記憶する。RAM905は、CPU901が使用するプログラムや、プログラムの実行において適宜変化するパラメータ等を一次記憶する。これらはCPUバス等の内部バスにより構成されるホストバス907により相互に接続されている。
ホストバス907は、ブリッジ909を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス911に接続されている。また、外部バス911には、インタフェース913を介して、入力装置915、出力装置917、ストレージ装置919、ドライブ921、接続ポート923及び通信装置925が接続される。
入力装置915は、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチ、レバー及びペダル等、ユーザが操作する操作手段である。また、入力装置915は、例えば、赤外線やその他の電波を利用したリモートコントロール手段(いわゆる、リモコン)であってもよいし、情報処理装置900の操作に対応した携帯電話やPDA等の外部接続機器929であってもよい。さらに、入力装置915は、例えば、上記の操作手段を用いてユーザにより入力された情報に基づいて入力信号を生成し、CPU901に出力する入力制御回路などから構成されている。情報処理装置900のユーザは、この入力装置915を操作することにより、情報処理装置900に対して各種のデータを入力したり処理動作を指示したりすることができる。
出力装置917は、取得した情報をユーザに対して視覚的又は聴覚的に通知することが可能な装置で構成される。このような装置として、CRTディスプレイ装置、液晶ディスプレイ装置、プラズマディスプレイ装置、ELディスプレイ装置及びランプ等の表示装置や、スピーカ及びヘッドホン等の音声出力装置や、プリンタ装置等がある。出力装置917は、例えば、情報処理装置900が行った各種処理により得られた結果を出力する。具体的には、表示装置は、情報処理装置900が行った各種処理により得られた結果を、テキスト又はイメージで表示する。他方、音声出力装置は、再生された音声データや音響データ等からなるオーディオ信号をアナログ信号に変換して出力する。
ストレージ装置919は、情報処理装置900の記憶部の一例として構成されたデータ格納用の装置である。ストレージ装置919は、例えば、HDD(Hard Disk Drive)等の磁気記憶部デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等により構成される。このストレージ装置919は、CPU901が実行するプログラムや各種データ等を格納する。
ドライブ921は、記録媒体用リーダライタであり、情報処理装置900に内蔵、あるいは外付けされる。ドライブ921は、装着されている磁気ディスク、光ディスク、光磁気ディスク又は半導体メモリ等のリムーバブル記録媒体927に記録されている情報を読み出して、RAM905に出力する。また、ドライブ921は、装着されている磁気ディスク、光ディスク、光磁気ディスク又は半導体メモリ等のリムーバブル記録媒体927に記録を書き込むことも可能である。リムーバブル記録媒体927は、例えば、DVDメディア、HD−DVDメディア又はBlu−ray(登録商標)メディア等である。また、リムーバブル記録媒体927は、コンパクトフラッシュ(登録商標)(CF:CompactFlash)、フラッシュメモリ又はSDメモリカード(Secure Digital memory card)等であってもよい。また、リムーバブル記録媒体927は、例えば、非接触型ICチップを搭載したICカード(Integrated Circuit card)又は電子機器等であってもよい。
接続ポート923は、情報処理装置900に直接接続するためのポートである。接続ポート923の一例として、USB(Universal Serial Bus)ポート、IEEE1394ポート、SCSI(Small Computer System Interface)ポート等がある。接続ポート923の別の例として、RS−232Cポート、光オーディオ端子、HDMI(登録商標)(High−Definition Multimedia Interface)ポート等がある。この接続ポート923に外部接続機器929を接続することで、情報処理装置900は、外部接続機器929から直接各種のデータを取得したり、外部接続機器929に各種のデータを提供したりする。
通信装置925は、例えば、通信網(ネットワーク)931に接続するための通信デバイス等で構成された通信インタフェースである。通信装置925は、例えば、有線若しくは無線LAN(Local Area Network)、Bluetooth(登録商標)又はWUSB(Wireless USB)用の通信カード等である。また、通信装置925は、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ又は各種通信用のモデム等であってもよい。この通信装置925は、例えば、インターネットや他の通信機器との間で、例えばTCP/IP等の所定のプロトコルに則して信号等を送受信することができる。また、通信装置925に接続される通信網931は、有線又は無線によって接続されたネットワーク等により構成され、例えば、インターネット、家庭内LAN、赤外線通信、ラジオ波通信又は衛星通信等であってもよい。
以上、本開示の実施形態に係る内視鏡撮像システムを構成する情報処理装置900の機能を実現可能なハードウェア構成の一例を示した。上記の各構成要素は、汎用的な部材を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用するハードウェア構成を変更することが可能である。なお、図10では図示しないが、内視鏡撮像システムを構成する情報処理装置900に対応する各種の構成を当然備える。
なお、上述のような本実施形態に係る内視鏡撮像システムを構成する情報処理装置900の各機能を実現するためのコンピュータプログラムを作製し、パーソナルコンピュータ等に実装することが可能である。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体も提供することができる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリなどである。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信してもよい。また、当該コンピュータプログラムを実行させるコンピュータの数は特に限定されない。例えば、当該コンピュータプログラムを、複数のコンピュータ(例えば、複数のサーバ等)が互いに連携して実行してもよい。
<<5.応用例>>
続いて、本開示の一実施形態に係る撮像システムの応用例として、図11を参照して、当該撮像システムを、顕微鏡ユニットを備えた顕微鏡撮像システムとして構成した場合の一例について説明する。
図11は、本開示の一実施形態に係る撮像システムの応用例について説明するための説明図であり、顕微鏡撮像システムの概略的な構成の一例について示している。具体的には、図11には、本開示の一実施形態に係る顕微鏡撮像システムが用いられる場合の一適用例として、アームを備えた手術用ビデオ顕微鏡装置が用いられる場合の一例について示されている。
例えば、図11は、手術用ビデオ顕微鏡装置を用いた施術の様子を模式的に表している。具体的には、図11を参照すると、施術者(ユーザ)820である医師が、例えばメス、鑷子、鉗子等の手術用の器具821を使用して、施術台830上の施術対象(患者)840に対して手術を行っている様子が図示されている。なお、以下の説明においては、施術とは、手術や検査等、ユーザ820である医師が施術対象840である患者に対して行う各種の医療的な処置の総称であるものとする。また、図11に示す例では、施術の一例として手術の様子を図示しているが、手術用ビデオ顕微鏡装置810が用いられる施術は手術に限定されず、他の各種の施術であってもよい。
施術台830の脇には手術用ビデオ顕微鏡装置810が設けられる。手術用ビデオ顕微鏡装置810は、基台であるベース部811と、ベース部811から延伸するアーム部812と、アーム部812の先端に先端ユニットとして接続される撮像ユニット815とを備える。アーム部812は、複数の関節部813a、813b、813cと、関節部813a、813bによって連結される複数のリンク814a、814bと、アーム部812の先端に設けられる撮像ユニット815を有する。図11に示す例では、簡単のため、アーム部812は3つの関節部813a〜813c及び2つのリンク814a、814bを有しているが、実際には、アーム部812及び撮像ユニット815の位置及び姿勢の自由度を考慮して、所望の自由度を実現するように関節部813a〜813c及びリンク814a、814bの数や形状、関節部813a〜813cの駆動軸の方向等が適宜設定されてもよい。
関節部813a〜813cは、リンク814a、814bを互いに回動可能に連結する機能を有し、関節部813a〜813cの回転が駆動されることにより、アーム部812の駆動が制御される。ここで、以下の説明においては、手術用ビデオ顕微鏡装置810の各構成部材の位置とは、駆動制御のために規定している空間における位置(座標)を意味し、各構成部材の姿勢とは、駆動制御のために規定している空間における任意の軸に対する向き(角度)を意味する。また、以下の説明では、アーム部812の駆動(又は駆動制御)とは、関節部813a〜813cの駆動(又は駆動制御)、及び、関節部813a〜813cの駆動(又は駆動制御)を行うことによりアーム部812の各構成部材の位置及び姿勢が変化される(変化が制御される)ことをいう。
アーム部812の先端には、先端ユニットとして撮像ユニット815が接続されている。撮像ユニット815は、撮像対象物の画像を取得するユニットであり、例えば動画や静止画を撮像できるカメラ等である。図11に示すように、アーム部812の先端に設けられた撮像ユニット815が施術対象840の施術部位の様子を撮像するように、手術用ビデオ顕微鏡装置810によってアーム部812及び撮像ユニット815の姿勢や位置が制御される。なお、アーム部812の先端に先端ユニットとして接続される撮像ユニット815の構成は特に限定されず、例えば、撮像ユニット815は、撮像対象物の拡大像を取得する顕微鏡として構成されている。また、撮像ユニット815は、当該アーム部812に対して着脱可能に構成されていてもよい。このような構成により、例えば、利用用途に応じた撮像ユニット815が、アーム部812の先端に先端ユニットとして適宜接続されてもよい。なお、当該撮像ユニット815として、例えば、前述した実施形態に係る分岐光学系が適用された撮像装置を適用することが可能である。即ち、本応用例においては、撮像ユニット815または当該撮像ユニット815を含む手術用ビデオ顕微鏡装置810が、「医療用観察装置」の一例に相当し得る。また本説明では、先端ユニットとして撮像ユニット815が適用されている場合に着目して説明したが、アーム部812の先端に接続される先端ユニットは、必ずしも撮像ユニット815に限定されない。
また、ユーザ820と対向する位置には、モニタやディスプレイ等の表示装置850が設置される。撮像ユニット815によって撮像された施術部位の画像は、表示装置850の表示画面に電子画像として表示される。ユーザ820は、表示装置850の表示画面に表示される施術部位の電子画像を見ながら各種の処置を行う。
以上のような構成により、手術用ビデオ顕微鏡装置810によって施術部位の撮像を行いながら手術を行うことが可能となる。
<<6.むすび>>
以上、説明したように、本実施形態に係る撮像システムは、撮像装置(例えば、図1及び図2に示すカメラヘッド105)と、撮像装置により撮像された画像に対して画像処理を施す画像処理装置(例えば、図1及び図2に示すCCU139)とを含む。撮像装置は、複数の撮像素子と、入射光を複数の光に分離する分岐光学系と、を有する。また、当該分岐光学系により分離された複数の光のそれぞれは、当該複数の撮像素子のうちの少なくともいずれかに導光される(即ち、結像する)。このような構成の基で、複数の撮像素子のうち、2以上の撮像素子それぞれにより互いに明るさの異なる画像が撮像され、2以上の撮像素子については、当該分岐光学系との間の光学的距離が互いに異なるように配設される。画像処理装置は、例えば、互いに明るさの異なる複数の画像に基づき、当該複数の画像それぞれよりもダイナミックレンジの広い第1の合成画像を生成してもよい。また、他の一例として、画像処理装置は、分岐光学系との間の光学的距離が互いに異なる上記2以上の撮像素子それぞれにより撮像された複数の画像に基づき、当該複数の画像それぞれよりも被写界深度の深い第2の合成画像を生成してもよい。なお、画像処理装置は、第1の合成画像及び第2の合成画像のうちいずれかを選択的に生成してもよいし、双方を生成してもよい。また、画像処理装置は、第1の合成画像及び第2の合成画像を合成することで第3の合成画像を生成してもよい。
このような構成により、本実施形態に係る撮像システムに依れば、例えば、ダイナミックレンジのより広い画像と、被写界深度のより深い画像との少なくともいずれかを、状況に応じて選択的に取得することも可能である。また、本実施形態に係る撮像システムに依れば、ダイナミックレンジがより広く、かつ被写界深度のより深い画像を取得することも可能である。即ち、本時実施形態に係る撮像システムに依れば、高精細な撮像素子を利用してより解像度の高い画像を撮像するような状況下においても、高画質な画像をより好適な態様で取得することが可能となる。
また、前述したように、本実施形態に係る撮像システムでは、入射光を分岐光学系により分離し、入射光から分離された各光を複数の撮像素子それぞれに結像させている。このような構成のため、当該撮像システムに依れば、複数の機能を組み合わせたシステムに比べて、複数の画像間に生じる視差をより小さく抑える(理想的には、視差を生じさせない)ことが可能となる。また、このような構成のより、当該撮像システムに依れば、1つの撮像素子を利用してHDR等を実現する場合に比べて、空間解像度や時間解像度をより向上させることが可能となる。また、当該撮像システムは、単体で複数の機能を実現することが可能であるため、複数の機能を組み合わせたシステムに比べてより小型化することも可能となる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、上記実施形態では、EDoF及びHDRに着目してより高画質な画像を生成するための構成の一例について説明した。一方で、複数の画像を合成することでより高画質な画像を生成することが可能であれば、そのための方法は必ずしもEDoFやHDRのみには限定されない。即ち、本実施形態に係る撮像装置に含まれる複数の撮像素子それぞれにより撮像された画像を合成することで、当該画像よりも高画質な画像を生成することが可能であれば、撮像装置の構成や、画像の合成に係る処理の内容は限定されない。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
医療用観察装置と、
前記医療用観察装置により撮像された画像に対して画像処理を施す画像処理装置と、
を含み、
前記医療用観察装置は、
複数の撮像素子と、入射光を複数の光に分離する分岐光学系と、を有し、
前記分岐光学系により分離された前記複数の光のそれぞれは、前記複数の撮像素子のうちの少なくともいずれかに導光され、
前記複数の撮像素子のうち、2以上の撮像素子それぞれにより互いに明るさの異なる画像が撮像され、2以上の撮像素子については、前記分岐光学系との間の光学的距離が互いに異なるように配設され、
前記画像処理装置は、
互いに明るさの異なる複数の画像に基づく、当該複数の画像それぞれよりもダイナミックレンジの広い第1の合成画像と、
分岐光学系との間の光学的距離が互いに異なる前記2以上の撮像素子それぞれにより撮像された複数の画像に基づく、当該複数の画像それぞれよりも被写界深度の深い第2の合成画像と、
のうち少なくともいずれかを生成する、
医療用観察システム。
(2)
前記複数の撮像素子のうち、第1の撮像素子及び第2の撮像素子により互いに明るさの異なる前記画像が撮像され、
当該第1の撮像素子及び当該第2の撮像素子は、前記分岐光学系との間の光学的距離が互いに異なるように配設される、
前記(1)に記載の医療用観察システム。
(3)
前記複数の撮像素子のうち、第1の撮像素子及び第2の撮像素子により互いに明るさの異なる前記画像が撮像され、
当該複数の撮像素子のうち、前記第1の撮像素子と、前記第2の撮像素子とは異なる第3の撮像素子とは、前記分岐光学系との間の光学的距離が互いに異なるように配設される、
前記(1)に記載の医療用観察システム。
(4)
前記分岐光学系は、
前記入射光から所定の波長帯域に属する第1の光を分離するダイクロイック膜と、
前記入射光から前記第1の光が分離された第2の光を、第3の光及び第4の光に分離するビームスプリッタと、
を含み、
前記複数の撮像素子のうち、前記第3の光が導光される第4の撮像素子と、前記第4の光が導光される第5の撮像素子とにより、互いに明るさの異なる前記画像が撮像され、
前記第4の撮像素子及び前記第5の撮像素子は、前記分岐光学系との間の光学的距離が互いに異なるように配設される、
前記(1)に記載の医療用観察システム。
(5)
前記第4の撮像素子及び前記第5の撮像素子は、カラーフィルタが設けられていない撮像素子である、前記(4)に記載の医療用観察システム。
(6)
前記第2の光は、可視光波長帯域のうちの一部の波長帯域に属する、前記(4)または(5)に記載の医療用観察システム。
(7)
前記第2の光は、G成分の波長帯域に属する光を含み、
前記第1の光は、R成分及びB成分それぞれの波長帯域に属する光を含む、
前記(6)に記載の医療用観察システム。
(8)
前記複数の撮像素子のうち、前記第1の光が導光される第6の撮像素子は、ベイヤ配列の撮像素子である、前記(4)〜(7)のいずれか一項に記載の医療用観察システム。
(9)
前記複数の撮像素子のうち少なくとも一部の撮像素子により撮像される画像は、解像度が4K以上である、前記(1)〜(8)のいずれか一項に記載の医療用観察システム。
(10)
前記第1の合成画像の生成元となる複数の前記画像の取得条件は、対応する撮像素子に導光される光の光量、当該撮像素子の感度、及びシャッタースピードのうち少なくともいずれかが異なる、前記(1)〜(9)のいずれか一項に記載の医療用観察システム。
(11)
前記第1の合成画像の生成元となる前記画像を撮像する2以上の撮像素子に対して、光量の異なる光が導光されるように、前記入射光を分離する、前記(10)に記載の医療用観察システム。
(12)
前記第1の合成画像の生成元となる前記画像を撮像する2以上の撮像素子それぞれの前段に設けられた絞りが制御されることで、当該2以上の撮像素子それぞれに対して光量の異なる光が導光される、前記(10)に記載の医療用観察システム。
(13)
前記複数の撮像素子のうち、前記第2の合成画像の生成元となる前記画像を撮像する2以上の撮像素子は、前記分岐光学系の出射端との間の光学的距離が互いに異なるように配設される、前記(1)〜(12)のいずれか一項に記載の医療用観察システム。
(14)
前記画像処理装置は、前記第1の合成画像と前記第2の合成画像とに基づき第3の合成画像を生成する、前記(1)〜(13)のいずれか一項に記載の医療用観察システム。
(15)
前記医療用観察装置は、
被検体の滞空内に挿入される鏡筒を含む内視鏡部を備え、
前記内視鏡部により取得された前記被検体の像を撮像する、
前記(1)〜(14)のいずれか一項に記載の医療用観察システム。
(16)
前記医療用観察装置は、
撮像対象物の拡大像を取得する顕微鏡部を備え、
前記顕微鏡部により取得された前記撮像対象物の像を撮像する、
前記(1)〜(14)のいずれか一項に記載の医療用観察システム。
(17)
複数の撮像素子と、
入射光を複数の光に分離する分岐光学系と、
を備え、
前記分岐光学系により分離された前記複数の光のそれぞれは、前記複数の撮像素子のうちの少なくともいずれかに導光され、
前記複数の撮像素子のうち、2以上の撮像素子により互いに明るさの異なる画像が撮像され、2以上の撮像素子については、前記分岐光学系との間の光学的距離が異なる、
医療用観察装置。
1 撮像システム
105a 撮像装置
211 分岐光学系
213 ビームスプリッタ
215 ビームスプリッタ
217 第1プリズム
218 第2プリズム
219 第3プリズム
1051 第1の撮像素子
1052 第2の撮像素子
1053 第3の撮像素子
105b 撮像装置
231 分岐光学系
233 ビームスプリッタ
235 第1プリズム
237 第2プリズム
1054 第1の撮像素子
1055 第2の撮像素子
105c 撮像装置
251 分岐光学系
253 ダイクロイック膜
255 ビームスプリッタ
257 第1プリズム
258 第2プリズム
259 第3プリズム
1057 第1の撮像素子
1058 第2の撮像素子
1059 第3の撮像素子
300 画像処理装置
301 第1の画像処理部
303 第1の画像処理部
303 第2の画像処理部
305 出力制御部
350 出力部

Claims (17)

  1. 医療用観察装置と、
    前記医療用観察装置により撮像された画像に対して画像処理を施す画像処理装置と、
    を含み、
    前記医療用観察装置は、
    複数の撮像素子と、入射光を複数の光に分離する分岐光学系と、を有し、
    前記分岐光学系により分離された前記複数の光のそれぞれは、前記複数の撮像素子のうちの少なくともいずれかに導光され、
    前記複数の撮像素子のうち、2以上の撮像素子それぞれにより互いに明るさの異なる画像が撮像され、2以上の撮像素子については、前記分岐光学系との間の光学的距離が互いに異なるように配設され、
    前記画像処理装置は、
    互いに明るさの異なる複数の画像に基づく、当該複数の画像それぞれよりもダイナミックレンジの広い第1の合成画像と、
    分岐光学系との間の光学的距離が互いに異なる前記2以上の撮像素子それぞれにより撮像された複数の画像に基づく、当該複数の画像それぞれよりも被写界深度の深い第2の合成画像と、
    のうち少なくともいずれかを生成する、
    医療用観察システム。
  2. 前記複数の撮像素子のうち、第1の撮像素子及び第2の撮像素子により互いに明るさの異なる前記画像が撮像され、
    当該第1の撮像素子及び当該第2の撮像素子は、前記分岐光学系との間の光学的距離が互いに異なるように配設される、
    請求項1に記載の医療用観察システム。
  3. 前記複数の撮像素子のうち、第1の撮像素子及び第2の撮像素子により互いに明るさの異なる前記画像が撮像され、
    当該複数の撮像素子のうち、前記第1の撮像素子と、前記第2の撮像素子とは異なる第3の撮像素子とは、前記分岐光学系との間の光学的距離が互いに異なるように配設される、
    請求項1に記載の医療用観察システム。
  4. 前記分岐光学系は、
    前記入射光から所定の波長帯域に属する第1の光を分離するダイクロイック膜と、
    前記入射光から前記第1の光が分離された第2の光を、第3の光及び第4の光に分離するビームスプリッタと、
    を含み、
    前記複数の撮像素子のうち、前記第3の光が導光される第4の撮像素子と、前記第4の光が導光される第5の撮像素子とにより、互いに明るさの異なる前記画像が撮像され、
    前記第4の撮像素子及び前記第5の撮像素子は、前記分岐光学系との間の光学的距離が互いに異なるように配設される、
    請求項1に記載の医療用観察システム。
  5. 前記第4の撮像素子及び前記第5の撮像素子は、カラーフィルタが設けられていない撮像素子である、請求項4に記載の医療用観察システム。
  6. 前記第2の光は、可視光波長帯域のうちの一部の波長帯域に属する、請求項4に記載の医療用観察システム。
  7. 前記第2の光は、G成分の波長帯域に属する光を含み、
    前記第1の光は、R成分及びB成分それぞれの波長帯域に属する光を含む、
    請求項6に記載の医療用観察システム。
  8. 前記複数の撮像素子のうち、前記第1の光が導光される第6の撮像素子は、ベイヤ配列の撮像素子である、請求項4に記載の医療用観察システム。
  9. 前記複数の撮像素子のうち少なくとも一部の撮像素子により撮像される画像は、解像度が4K以上である、請求項1に記載の医療用観察システム。
  10. 前記第1の合成画像の生成元となる複数の前記画像の取得条件は、対応する撮像素子に導光される光の光量、当該撮像素子の感度、及びシャッタースピードのうち少なくともいずれかが異なる、請求項1に記載の医療用観察システム。
  11. 前記第1の合成画像の生成元となる前記画像を撮像する2以上の撮像素子に対して、光量の異なる光が導光されるように、前記入射光を分離する、請求項10に記載の医療用観察システム。
  12. 前記第1の合成画像の生成元となる前記画像を撮像する2以上の撮像素子それぞれの前段に設けられた絞りが制御されることで、当該2以上の撮像素子それぞれに対して光量の異なる光が導光される、請求項10に記載の医療用観察システム。
  13. 前記複数の撮像素子のうち、前記第2の合成画像の生成元となる前記画像を撮像する2以上の撮像素子は、前記分岐光学系の出射端との間の光学的距離が互いに異なるように配設される、請求項1に記載の医療用観察システム。
  14. 前記画像処理装置は、前記第1の合成画像と前記第2の合成画像とに基づき第3の合成画像を生成する、請求項1に記載の医療用観察システム。
  15. 前記医療用観察装置は、
    被検体の滞空内に挿入される鏡筒を含む内視鏡部を備え、
    前記内視鏡部により取得された前記被検体の像を撮像する、
    請求項1に記載の医療用観察システム。
  16. 前記医療用観察装置は、
    撮像対象物の拡大像を取得する顕微鏡部を備え、
    前記顕微鏡部により取得された前記撮像対象物の像を撮像する、
    請求項1に記載の医療用観察システム。
  17. 複数の撮像素子と、
    入射光を複数の光に分離する分岐光学系と、
    を備え、
    前記分岐光学系により分離された前記複数の光のそれぞれは、前記複数の撮像素子のうちの少なくともいずれかに導光され、
    前記複数の撮像素子のうち、2以上の撮像素子により互いに明るさの異なる画像が撮像され、2以上の撮像素子については、前記分岐光学系との間の光学的距離が異なる、
    医療用観察装置。
JP2019522014A 2017-05-30 2018-04-16 医療用観察システム Active JP7095693B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017106163 2017-05-30
JP2017106163 2017-05-30
PCT/JP2018/015686 WO2018221041A1 (ja) 2017-05-30 2018-04-16 医療用観察システム及び医療用観察装置

Publications (2)

Publication Number Publication Date
JPWO2018221041A1 true JPWO2018221041A1 (ja) 2020-05-21
JP7095693B2 JP7095693B2 (ja) 2022-07-05

Family

ID=64454553

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019522014A Active JP7095693B2 (ja) 2017-05-30 2018-04-16 医療用観察システム

Country Status (3)

Country Link
US (1) US11653824B2 (ja)
JP (1) JP7095693B2 (ja)
WO (1) WO2018221041A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018225377A1 (ja) * 2017-06-07 2018-12-13 オリンパス株式会社 内視鏡撮像システム
JP6765494B1 (ja) 2019-10-31 2020-10-07 パナソニックi−PROセンシングソリューションズ株式会社 3板式カメラ
EP3862804A1 (en) * 2020-02-05 2021-08-11 Leica Instruments (Singapore) Pte. Ltd. Apparatuses, methods and computer programs for a microscope system
JP7477158B2 (ja) 2020-07-31 2024-05-01 i-PRO株式会社 3板式カメラ
JPWO2022230270A1 (ja) * 2021-04-27 2022-11-03
US11595589B2 (en) * 2021-07-22 2023-02-28 Arthrex, Inc. Surgical camera system with high dynamic range

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012095828A (ja) * 2010-11-02 2012-05-24 Olympus Corp 撮像装置、内視鏡装置及び画像生成方法
JP2013128723A (ja) * 2011-12-22 2013-07-04 Olympus Corp 内視鏡装置
WO2014171284A1 (ja) * 2013-04-19 2014-10-23 オリンパスメディカルシステムズ株式会社 内視鏡装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060241496A1 (en) * 2002-01-15 2006-10-26 Xillix Technologies Corp. Filter for use with imaging endoscopes
US8684914B2 (en) * 2011-08-12 2014-04-01 Intuitive Surgical Operations, Inc. Image capture unit and an imaging pipeline with enhanced color performance in a surgical instrument and method
US8784301B2 (en) * 2011-08-12 2014-07-22 Intuitive Surgical Operations, Inc. Image capture unit and method with an extended depth of field
EP2668891B1 (en) 2011-10-27 2019-02-06 Olympus Corporation Endoscope system
BR112016015198A2 (pt) * 2013-12-31 2017-08-08 Memorial Sloan Kettering Cancer Center Sistemas, métodos e aparelho para a produção de imagens multicanal de fontes fluorescentes em tempo real
EP3190394A3 (en) * 2015-12-15 2017-11-15 Applied Spectral Imaging Ltd. System and method for spectral imaging
WO2017217189A1 (ja) * 2016-06-17 2017-12-21 オリンパス株式会社 対物光学系及びそれを備えた内視鏡装置
DE102017206442B4 (de) * 2017-04-13 2021-01-28 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung zur Abbildung von Teilgesichtsfeldern, Multiaperturabbildungsvorrichtung und Verfahren zum Bereitstellen derselben

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012095828A (ja) * 2010-11-02 2012-05-24 Olympus Corp 撮像装置、内視鏡装置及び画像生成方法
JP2013128723A (ja) * 2011-12-22 2013-07-04 Olympus Corp 内視鏡装置
WO2014171284A1 (ja) * 2013-04-19 2014-10-23 オリンパスメディカルシステムズ株式会社 内視鏡装置

Also Published As

Publication number Publication date
WO2018221041A1 (ja) 2018-12-06
US11653824B2 (en) 2023-05-23
JP7095693B2 (ja) 2022-07-05
US20200081235A1 (en) 2020-03-12

Similar Documents

Publication Publication Date Title
US11788966B2 (en) Imaging system
JP7095693B2 (ja) 医療用観察システム
JP6996518B2 (ja) 分岐光学系、撮像装置、及び撮像システム
US11531151B2 (en) Imaging apparatus and image generating method that detects an orientation of an imaging section and generates an image corresponding to a polarization direction corresponding to the orientation the imaging section
JP7363767B2 (ja) 画像処理装置と画像処理方法およびプログラム
WO2018230066A1 (ja) 医療用システム、医療用装置および制御方法
WO2019239942A1 (ja) 手術用観察装置、手術用観察方法、手術用光源装置、及び手術用の光照射方法
WO2018221068A1 (ja) 情報処理装置、情報処理方法および情報処理プログラム
JPWO2019031000A1 (ja) 信号処理装置、撮像装置、信号処理方法及びプログラム
JP2019004978A (ja) 手術システムおよび手術用撮像装置
JP7444163B2 (ja) 撮像装置、撮像方法、及びプログラム
WO2020008920A1 (ja) 医療用観察システム、医療用観察装置、及び医療用観察装置の駆動方法
JP7092111B2 (ja) 撮像装置、映像信号処理装置および映像信号処理方法
WO2021140923A1 (ja) 医療画像生成装置、医療画像生成方法および医療画像生成プログラム
JP7456385B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
WO2020203265A1 (ja) 映像信号処理装置、映像信号処理方法および撮像装置
WO2020045014A1 (ja) 医療システム、情報処理装置及び情報処理方法
WO2020009127A1 (ja) 医療用観察システム、医療用観察装置、及び医療用観察装置の駆動方法
WO2018043205A1 (ja) 医療用画像処理装置、医療用画像処理方法、プログラム
JPWO2019049595A1 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP7480779B2 (ja) 医療用画像処理装置、医療用画像処理装置の駆動方法、医療用撮像システム、及び医療用信号取得システム
WO2022004250A1 (ja) 医療システム、情報処理装置及び情報処理方法
WO2020050187A1 (ja) 医療システム、情報処理装置及び情報処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210309

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220126

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220524

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220606

R151 Written notification of patent or utility model registration

Ref document number: 7095693

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151