JP2020168569A - 外科手術器具の画像取込み装置 - Google Patents

外科手術器具の画像取込み装置 Download PDF

Info

Publication number
JP2020168569A
JP2020168569A JP2020124976A JP2020124976A JP2020168569A JP 2020168569 A JP2020168569 A JP 2020168569A JP 2020124976 A JP2020124976 A JP 2020124976A JP 2020124976 A JP2020124976 A JP 2020124976A JP 2020168569 A JP2020168569 A JP 2020168569A
Authority
JP
Japan
Prior art keywords
image
image capture
sensor
light
capture sensor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020124976A
Other languages
English (en)
Other versions
JP7169725B2 (ja
Inventor
マクドウォール,イアン,エム
M Mcdowall Ian
スターン,ジョン,ディー
D Stern John
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Intuitive Surgical Operations Inc
Original Assignee
Intuitive Surgical Operations Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US13/209,121 external-priority patent/US8684914B2/en
Priority claimed from US13/208,982 external-priority patent/US8672838B2/en
Priority claimed from US13/209,158 external-priority patent/US8784301B2/en
Priority claimed from US13/209,041 external-priority patent/US8764633B2/en
Priority claimed from US13/209,084 external-priority patent/US8734328B2/en
Application filed by Intuitive Surgical Operations Inc filed Critical Intuitive Surgical Operations Inc
Publication of JP2020168569A publication Critical patent/JP2020168569A/ja
Application granted granted Critical
Publication of JP7169725B2 publication Critical patent/JP7169725B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00193Optical arrangements adapted for stereoscopic vision
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00064Constructional details of the endoscope body
    • A61B1/00071Insertion part of the endoscope body
    • A61B1/0008Insertion part of the endoscope body characterised by distal tip features
    • A61B1/00096Optical elements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • A61B1/051Details of CCD assembly
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/361Image-producing devices, e.g. surgical cameras
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B18/00Surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body
    • A61B2018/00982Surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body combined with or comprising means for visual or photographic inspections inside the body, e.g. endoscopes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/361Image-producing devices, e.g. surgical cameras
    • A61B2090/3618Image-producing devices, e.g. surgical cameras with a mirror
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • A61B2090/371Surgical systems with images on a monitor during operation with simultaneous use of two cameras

Abstract

【課題】同一平面の画像取込みセンサを有する画像取込みユニットを提供すること。【解決手段】低侵襲外科手術システムにおいて、画像取込みユニットは、レンズ・アセンブリおよびセンサ・アセンブリを含む。センサ・アセンブリは、プリズム・アセンブリおよび同一平面の画像取込みセンサを含む。同一平面の画像取込みセンサはそれぞれ、共通の前端部光学構造、例えばレンズ・アセンブリを有する。制御装置は、同一平面の画像取込みセンサによって取得された画像をエンハンスする。エンハンスされた画像としては、(a)フィーチャ精細度がエンハンスされた可視画像、(b)見かけの解像度が高められた画像、(c)ダイナミック・レンジが高められた画像、(d)3つ以上の色成分を有する画素色成分ベクトルに基づく方法で表示された画像、および(e)被写界深度が拡大された画像などが挙げられる。【選択図】図4A

Description

本発明の態様は、概して内視鏡撮像に関し、さらに詳細には、共通の前端部光学的構造から複数の画像取込みセンサに光を取り込むことに関する。
米国カリフォルニア州SunnyvaleのIntuitive Surgical社製のda Vinci(登録商標)外科手術システムは、体への外傷が小さい、回復が早い、入院期間が短いなど多くの利点を患者にもたらす、低侵襲遠隔走査型外科手術システムである。da Vinci(登録商標)外科手術システム(例えばモデルIS3000、da Vinci(登録商標)Si HD)の1つの重要な要素は、可視画像の2チャネル(すなわち左右)ビデオ取込みおよび表示を行って、執刀医に立体視を提供する機能である。このような電子立体撮像システムは、高精細度のビデオ画像を執刀医に出力することができ、ズームなどの機能によって、執刀医が特定の組織の種類および特徴を識別し、より高い精度で作業することを可能にする「拡大」ビューを提供することができる。
通常、低侵襲外科手術システムでは、画像取込みシステムが、立体内視鏡の近位端部(外科手術部位から離れた端部)に結合される。しかし、一部の立体内視鏡は、画像取込み構成要素を内視鏡の遠位端部(外科手術部位に最も近い端部)に備えている。図1Aから図1Dは、米国特許第4873572号(1988年2月24日出願)に記載の立体内視鏡の遠位端部にある画像取込みセンサの構成の例を示す図である。
図1Aでは、内視鏡の遠位端部100Aは、内視鏡の長手方向軸線133Aと一致する中心線を有する板状パッケージ113Aを含む。2つの電荷結合素子(CCD)114A1および114A2が、パッケージ113Aの対向する表面上に取り付けられる。2つの対物レンズ115A1および115A2が、内視鏡の長手方向軸線133Aの両側に対称に配置される。ミラー116A1および116A2が、それぞれ対物レンズ115A1および115A2の光学軸線上に対照的に配置される。内視鏡外部の物体によって反射された光は、対物レンズ115A1および115A2を通過して、ミラー116A1および116A2によってCCD114A1および114A2の撮像面上に反射される。CCD114A1および114A2からのビデオ信号は、内視鏡外部のビデオ・プロセッサに伝送される。
図1Bでは、内視鏡の遠位端部100Bは、図1Aの対物レンズ115A1および115A2と同じように配置された2つの対物レンズ115B1および115B2を含む。ミラー116B1および116B2が、ミラー表面を内視鏡の長手方向軸線133Bと平行に、ただし長手方向軸線133bからずらして取り付けられる。内視鏡外部の物体によって反射された光は、対物レンズ115B1および115B2を通過して、ミラー116B1および116B2によって屈折プリズム117B1および117B2に反射される。プリズム117B1および117B2からの光路は、CCD114B1および114B2の撮像面に向かう。CCD114B1および114B2は、CCD114B1および114B2の撮像面がそれぞれプリズム117B1および117B2からの光路の光学軸線と直角に交差するように取り付けられる。したがって、CCD114B1および114B2はそれぞれ、撮像面が内視鏡の長手方向軸線133Bに対して所定の角度で傾斜した状態で取り付けられる。
図1Cでは、2つの対物レンズ115C1および115C2は、例えばレンズの中心軸から上側に偏心している。反射プリズム117C1および117C2はそれぞれ、対物レンズ115C1および115C2の光学軸線上に配置される。プリズム115C1および115C2の中心は、それぞれ対物レンズ115C1および115C2と同じ高さに位置決めされるが、水平方向には若干変位している。プリズム117C1は、対物レンズ115C1から左に若干変位しており、プリズム117C2は、対物レンズ115C2から右に若干変位している。
各プリズム117C1および117C2によって反射された光は、プリズム118Cのそれぞれの斜面で反射されて、パッケージ113Cに取り付けられたCCD114Cの撮像面上に画像を形成する。CCD114Cからのビデオ信号は、内視鏡外部のビデオ・プロセッサに伝送される。
図1Dでは、内視鏡の遠位端部100Dは、図1Cの対物レンズ115C1および115C2と同じように配置された2つの偏心対物レンズ115D1および115D2を含む。プリズム117D1および117D2の位置は、図1Cのプリズム117C1および117C2と比較すると前後に変位している。プリズム117D1および117D2によって反射された光はそれぞれ、ミラー118D1および118D2によって反射されて、内視鏡の長手方向軸線と平行なパッケージ113D上に隣接して取り付けられたCCD114D1および114D2上にそれぞれの画像を形成する。
一方のミラー118D1は、凹型であり、したがってCCD114D2上の画像の光路長より若干短い光路長でCCD114D1上に画像を形成する。したがって、この例では、左の光学チャネルの方が、右の光学チャネルより短い光路長を有する。CCD114D1および114D2からのビデオ信号は、内視鏡外部のビデオ・プロセッサに伝送される。
図1Aから図1Dは、内視鏡先端の制約された空間内でステレオ画像を取り込むいくつかの方法を例示するものである。しかし、内視鏡の遠位端部の外径は小さい方が望ましいので、これらの図に示す構成は、外径の小さな遠位端部の画像取込みシステムで高画質の立体画像を取り込むことが、数多くの問題のために如何に困難であるかということも示している。
図1Aの構成について考える。この装置を合焦させるためには、両対物レンズ115A1および115A2の小さなレンズを極めて精密に移動させて焦点を合わせなければならない。図1Bに示す構成には、プリズムを用いて光を半端な角度で曲げる必要があるという問題がある。これにより、左右の画像センサにおいて横方向の色歪みが生じ、性能が不均一になる可能性が高い。これらの画像は、最適な間隔にならない。
図1Cおよび図1Dに示す構成では、画像が光学素子の平面内で水平になるようにする必要がある。CCDまたは光学構成要素を、丸い内視鏡の先端の中央面に載ることはできないので、これらの構成では、極めて小さな光学構成要素(および小さな瞳距離)または非常に小さなCCDが必要となるが、これらは、面積が小さいために画素数および/または画素サイズが制限され、そのために撮像品質が制限される。また、図1Dの構成では、光路長が異なるので、各チャネルの光学構成要素を違うものにしなければならない。
米国特許第4873572号 米国特許出願第11/762165号 米国特許第US6837883B2号 米国特許第6331181号 米国特許出願第12/855905号
同一平面の画像取込みセンサを有する画像取込みユニットは、内視鏡の遠位端部で使用される従来技術のカメラの欠点を克服し、多数の新たな機能を提供する。内視鏡の1つのチャネル内の同一平面の画像取込みセンサはそれぞれ、共通の前端部光学構造を有しており、例えば、画像取込みユニット内のレンズ・アセンブリは、各センサで同じである。画像取込みセンサを共通かつ同一平面の光学的構成にすることにより、レンズ・アーチファクトの較正が不要になる。内視鏡の複数の独立したチャネルで取り込まれた異なる画像を再位置合わせが不要となる。内視鏡のチャネルで取り込まれた画像は、時間的に位置合わせされている。また、画像は、互いに空間的に位置合わせされている。
あるシーンの1つまたは複数の可視画像およびそのシーンの1つまたは複数の蛍光画像を、画像取込みユニットによって取得する。制御装置は、取得した画像をエンハンスする。エンハンスされた画像が、1つの態様では、立体視ディスプレイに表示される。エンハンスされた画像としては、(a)シーン中の特定のフィーチャが例えば低侵襲外科手術システムのオペレータに対して強調表示される、フィーチャ精細度がエンハンスされた画像、(b)見かけの解像度が高められた画像、(c)ダイナミック・レンジが高められた画像、(d)3つ以上の色成分を有する画素色成分ベクトルに基づく方法で表示された画像、および(e)被写界深度が拡大された画像などが挙げられる。
1つの態様では、画像取込みユニットは、第1のセンサ面を有する第1の画像取込みセンサと、第2のセンサ面を有する第2の画像取込みセンサとを含む。第1および第2の画像取込みセンサ面は、同一平面である。別の態様では、第1の面は第1の平面内にあり、第2の面は第2の平面内にある。第1の平面と第2の平面は平行であり、既知の距離だけ離間している。画像取込みユニット内のビーム・スプリッタは、光を受光するように位置決めされる。ビーム・スプリッタは、受光した光の第1の部分を第1のセンサ面に向けて送り、受光した光の第2の部分を通過させる。画像取込みユニット内の反射ユニットは、受光した光の第2の部分を受光し、受光した光の第2の部分を第2の画像取込みセンサに向けて送るように位置決めされる。
1つの態様では、第1の画像取込みセンサおよび第2の画像取込みセンサは、1つの画像取込みセンサ・チップの異なる領域にある。別の態様では、第1の画像取込みセンサおよび第2の画像取込みセンサは、共通のプラットフォーム上に取り付けられた2つの別個の画像取込みセンサ・チップである。さらに別の態様では、第1の画像取込みセンサおよび第2の画像取込みセンサは、単一の画像取込みセンサ・チップ上の2つの別個の撮像領域にある。
1つの態様では、内視鏡の遠位端部は、第1および第2の画像取込みセンサと、ビーム・スプリッタを含むプリズム・アセンブリと、反射ユニットとを含む。別の態様では、立体視内視鏡は、遠位端部、1対のチャネル、ならびに複数の第1および第2の画像取込みセンサと、プリズム・アセンブリと、反射アセンブリとを含む。第1の画像取込みセンサ、第2の画像取込みセンサ、プリズム・アセンブリ、および反射ユニットは複数含まれる。1対のチャネルの各チャネルは、立体視内視鏡の遠位端部に、異なる第1の画像取込みセンサ、異なる第2の画像取込みセンサ、異なるプリズム・アセンブリ、および異なる反射ユニットを複数含む。
1実施態様では、ビーム・スプリッタは、ビーム・スプリッタから受光した光の第1の部分を第1のセンサ面に向けて送るように位置決めされた面も含むプリズム・アセンブリに含まれる。この面は、それ以外の光がこの面に入射しないように位置決めされる。反射ユニットは、受光した光の第2の部分を第2の画像取込みセンサの表面に反射するように位置決めされた反射面を含む。別の実施態様では、プリズム・アセンブリおよび反射ユニットは、1つの一体構造に含まれる。
1つの態様では、プリズム・アセンブリは、受光した光がプリズム・アセンブリに進入する遠位面を含む。画像取込みユニットは、遠位面から第2のセンサ面までの第2の光路長とほぼ等しいような、遠位面から第1のセンサ面までの第1の光路長を有する。別の態様では、第1の光路等と第2の光路長が異なり、この2つの光路長の差は、第1の画像取込みセンサおよび第2の画像取込みセンサが取得した画像の間の焦点の差をもたらすように構成される。
実施態様に関わらず、プリズム・アセンブリは、このプリズム・アセンブリが受光した光の第1の部分を反射するように構成され、かつ受光した光の第2の部分を透過させるように構成されたビーム・スプリッタを含む。1つの態様では、受光した光の第1の部分は、受光した光の第1の割合であり、受光した光の第2の部分は、受光した光の第2の割合である。1つの態様では、ビーム・スプリッタは、第1の割合と第2の割合がほぼ等しくなるように構成される。別の態様では、ビーム・スプリッタは、第1の割合と第2の割合が等しくならないように構成される。ビーム・スプリッタは、薄い金属コーティング、誘電体コーティング、ダイクロイック・コーティング、または普通なら透明な界面上の反射タイルのパターンなど、様々な形態で実装することができる。
第1および第2の画像取込みセンサは、両方ともカラー画像取込みセンサとしてもよいし、あるいは、一方をカラー画像センサとし、もう一方をモノクロ画像取込みセンサとしてもよい。
この画像取込みユニットでは、共通の前端部光学系から受光した光の第1の部分による第1の画像を、第1の画像取込みセンサが取り込む。共通の前端部光学系から受光した光の第2の部分による第2の画像を、第2の画像取込みセンサが取り込む。第1の画像取込みセンサおよび第2の画像取込みセンサは、同一平面であり、第1の画像と第2の画像は、取り込まれるときに互いに空間的に位置合わせされる。
プリズム・アセンブリおよび反射ユニットの同じ基本的幾何形状を、様々な態様のそれぞれで使用して、上述の利点を得る。特定のエンハンスに応じて、ビーム・スプリッタの構成を変化させ、照明源を変化させることができる。
フィーチャ識別のエンハンスでは、レンズ・アセンブリから受光した光は、遠位面からプリズム・アセンブリに進入する。ビーム・スプリッタは、受光した光の偏光状態に基づいて受光した光の第1の部分を反射するように構成され、かつ受光した光の偏光状態に基づいて受光した光の第2の部分を透過させるように構成される。遠位面から第1のセンサ面までの第1の光路長は、遠位面から第2のセンサ面までの第2の光路長とほぼ等しい。制御装置が、第1および第2の画像取込みセンサに結合される。この制御装置は、第1の画像取込みセンサによって取り込まれた第1の画像から得られる情報と第2の画像取込みセンサによって取り込まれた第2の画像から得られる情報とを結合して、受光した光の偏光の差に基づいてその中のフィーチャの顕著性を高めた画像を生成する。
解像度およびダイナミック・レンジのエンハンスでは、ビーム・スプリッタは、受光した光の第1の割合を反射するように構成され、かつ受光した光の第2の割合を透過させるように構成される。この場合も、プリズム・アセンブリの遠位面から第1のセンサ面までの第1の光路長は、遠位面から第2のセンサ面までの第2の光路長とほぼ等しい。
1つの態様では、第1の画像取込みセンサおよび第2の画像取込みセンサは、カラー画像取込みセンサである。この場合も、制御装置が、第1および第2の画像取込みセンサに結合される。この制御装置は、第1の画像取込みセンサによって取り込まれた第1の画像から得られる情報と第2の画像取込みセンサによって取り込まれた第2の画像から得られる情報とを結合して、単一の画像取込みセンサによって取り込まれた画像と比較してエンハンスされた空間解像度およびエンハンスされたダイナミック・レンジのうちの1つを有する画像を生成する。
第1の割合と第2の割合がほぼ等しいときには、制御装置が生成する画像は、エンハンスされた空間解像度を有する。第1の割合と第2の割合がほぼ等しいと言えないときには、制御装置が生成する画像は、エンハンスされたダイナミック・レンジを有する。
解像度のエンハンスでは、1つの態様では、第1の割合は、受光した光の約50パーセントであり、第2の割合も、受光した光の約50パーセントである。プリズム・アセンブリのビーム・スプリッタおよび反射面は、第1の光路長が依然として第2の光路長とほぼ等しいままとなるようにして、第1の画像取込みセンサによって取り込まれた画像を第2の画像取込みセンサによって取り込まれた画像からオフセットするように位置決めされる。制御装置は、第1の画像取込みセンサによって取り込まれた第1の画像中の第1の画素をサンプリングし、第2の画像取込みセンサによって取り込まれる第1の画素に対応する第2の画素をサンプリングする。この2つのサンプリングした画素から得られる情報を用いて、制御装置は、第1および第2の画像取込みセンサによって取り込まれた画像より高い色性能を有する画像の画素を生成する。制御装置は、1つの画素ではなく画素群を用いてこのプロセスを実行することができる。
ビーム・スプリッタが、第1の割合と第2の割合が等しくならないように受光した光を分離するときには、例えば第1の画像取込みセンサによって取り込まれた画像が、第1の画像取込みセンサのダイナミック・レンジのためにクリッピングされないように、第1の割合は、第1の画像取込みセンサのダイナミック・レンジに基づいて選択される。1つの態様では、第1の割合は、受光した光の約N%であり、第2の割合は、受光した光の約M%である。NおよびMは正の数である。100%からN%を引くと、M%とほぼ等しくなる。制御装置は、第1の画像取込みセンサによって取り込まれた画像中の画素をサンプリングし、第2の画像取込みセンサによって取り込まれた画像中のそれに対応する画素をサンプリングする。制御装置は、これらのサンプリングした画素から得られる情報を用いて、出力画像の画素を生成する。この出力画像は、単一の画像取込みセンサによって取り込まれた画像より高いダイナミック・レンジを有する。制御装置は、1つの画素ではなく画素群を用いてこのプロセスを実行することができる。
解像度のエンハンスの別の態様では、ビーム・スプリッタが受光する光は、複数の色成分を含む。ビーム・スプリッタは、複数の色成分のうちの1つの色成分を反射するように構成され、かつ複数の色成分のうちの他の色成分を透過させるように構成される。プリズム・アセンブリの遠位面から第1のセンサ面までの第1の光路長は、遠位面から第2のセンサ面までの第2の光路長とほぼ等しい。
この態様では、第1の画像取込みセンサは、モノクロ画像取込みセンサであり、第2の画像取込みセンサは、複数の色成分のうちの上記の他の色成分用のカラー・フィルタ・アレイを有する画像取込みセンサである。制御装置は、複数の色成分のうちの上記の1つではフル空間解像度を有し、複数の色成分のうちの上記の他の色成分ではそれより低減された空間解像度を有する。制御装置は、カラー画像取込みセンサによって取り込まれた画像より改善された空間解像度および鮮鋭度を有する画像を生成する。
3つ以上の色成分を有する画素色成分ベクトルを含む態様では、ビーム・スプリッタは、複数のノッチ・フィルタを含む。ノッチ・フィルタは、フィルタが反射性になるスペクトル帯域が狭く、反射帯域の片側または両側に存在する通過帯域がそれより広いフィルタである。複数のノッチ・フィルタは、第1の光成分のセットを受光した光の第1の部分として反射し、第2の光成分のセットを受光した光の第2の部分として通過させる。この場合も、プリズム・アセンブリの遠位面から第1のセンサ面までの第1の光路長は、遠位面から第2のセンサ面までの第2の光路長とほぼ等しい。
このシステムは、複数の色成分を含む出力光を生成する照明器を含む。制御装置は、第1の画像取込みセンサによって取り込まれた第1の画像のモザイク解除処理された画像を受信するように構成され、かつ第2の画像取込みセンサによって取り込まれた第2の画像のモザイク解除処理された画像を受信するように構成される。制御装置は、第1のモザイク解除処理された画像中の対応する画素の色成分ベクトルおよび第2のモザイク解除処理された画像中の対応する画素の色成分ベクトルから出力画像中の画素のN要素色成分ベクトルを生成する。ここで、Nは最低でも3である。
被写界深度を拡大する態様では、ビーム・スプリッタは、受光した光の第1の部分を反射し、受光した光の第2の部分を透過させる。プリズム・アセンブリの遠位面から第1のセンサ面までの第1の光路長は、遠位面から第2のセンサ面までの第2の光路長より短い。第1の画像取込みセンサは、第1の物体距離のところに合焦した画像を取り込み、第2の画像取込みセンサは、第2の物体距離のところに合焦した画像を取り込む。1つの態様では、制御装置は、第1および第2の画像取込みセンサに結合されて、第1および第2の画像を受信する。制御装置は、内視鏡内部の光学素子を物理的に動かすことなく、物体から内視鏡までの距離が変化するにつれて、出力画像を第1の画像と第2の画像との間で自動的にシフトする。別の態様では、制御装置は、第1の画像中の画素領域をサンプリングし、第2の画像中の対応する画素領域をサンプリングして、個々の第1の画像および第2の画像と比較して増大した見かけの被写界深度を有する出力画像中の画素を生成するように構成される。さらに別の態様では、制御装置は、第1の画像取込みセンサによって取り込まれた第1の画像を第2の画像取込みセンサによって取り込まれた第2の画像と結合し、見ている組織に対して内視鏡が物理的に移動している間も自動的に焦点が合った状態に留まる第3の画像を生成する。これは、制御装置が第1および第2の画像の領域を処理して、それらの鮮鋭度を比較することによって行われる。制御装置は、各領域の2つの画像のうちより鮮鋭な方の画像の画素から第3の画像を作成する。したがって、第3の画像は、2つの画像の最も鮮鋭な部分で構成される。
さらに別の態様では、制御装置は、第1の画像取込みセンサによって取り込まれた第1の画像および第2の画像取込みセンサによって取り込まれた第2の画像を取り出し、第1および第2の画像取込みセンサから取得した画素領域の相対鮮鋭度に基づいてチャネル深さマップを生成する。この深さマップは、システムが様々な方法で使用することができる。1つの方法は、制御装置が、シーンの3次元表面を生成し、第1および第2の画像をこの3次元表面に(ソフトウェアを実行することによって)投影してテクスチャ・マッピングして、このテクスチャ処理された仮想画像面を生成するというものである。制御装置は、チャネル深さマップおよびテクスチャ処理された画像面から仮想カメラ点の新たな仮想画像を生成する。必要に応じて、複数の仮想カメラ位置および対応する画像を生成することもできる。例えば、仮想カメラ位置を左眼位置から右眼位置に行き来させる、すなわち両眼間距離にわたって行き来させる間に、シーンの実時間画像を生成する。ある仮想カメラ視点からの画像が生成されると、その画像は、非ステレオ・ディスプレイ・ユニットに表示される。この視点が次の仮想カメラ位置に移動すると、その視点からの画像が生成され、表示される。このように、仮想カメラ位置が行き来するときに、表示されるシーンは時間経過とともに前後に揺れるので、立体視ビューアがなくても、その表示を見ている人に奥行きの手掛かりが与えられる。
さらに別の態様では、装置は、第1の画像取込みセンサおよび第2の画像取込みセンサを含む。第1の画像取込みセンサは、第1のセンサ面を有し、第2の画像取込みセンサは、第2のセンサ面を有する。この装置は、第1のレンズ・アセンブリおよび第2のレンズ・アセンブリも含む。反射ユニットが、第1のレンズ・アセンブリを通過した光を受光するように位置決めされ、かつ第2のレンズ・アセンブリを通過した光を受光するように位置決めされる。反射ユニットは、第1のレンズ・アセンブリから受光した光を、第1のセンサ面に反射する。また、反射ユニットは、第2のレンズ・アセンブリから受光した光を、第2のセンサ面に反射する。第1のレンズ・アセンブリから第1のセンサ面までの第1の光路長は、第2のレンズ・アセンブリから第2のセンサ面までの第2の光路長とほぼ等しい。
1つの態様では、この装置の第1の画像取込みセンサ面および第2の画像取込みセンサ面は、同一平面である。別の態様では、第1のセンサ面は、第1の平面内にある。第2のセンサ面は、第2の平面内にあり、第1の平面と第2の平面は、実質的に平行であり、既知の距離だけ離間している。どちらの場合も、第1の光路等と第2の光路長は、ほぼ等しい。
立体視内視鏡の遠位端部の画像取込みセンサ構成の従来技術の例を示す図である。 立体視内視鏡の遠位端部の画像取込みセンサ構成の従来技術の例を示す図である。 立体視内視鏡の遠位端部の画像取込みセンサ構成の従来技術の例を示す図である。 立体視内視鏡の遠位端部の画像取込みセンサ構成の従来技術の例を示す図である。 立体視内視鏡の遠位端部に複数の画像取込みユニットを含むような低侵襲外科手術システムを示すブロック図である。 複数の画像取込みユニットを含む立体視内視鏡の遠位端部を示すブロック図である。 画像取込みユニットを含むようなモノスコープ内視鏡の遠位端部を示すブロック図である。 レンズ・アセンブリと、同一平面の画像取込みセンサを有するセンサセンブリとを含む画像取込みユニットの一部を示す図である。 プリズム・アセンブリとしてペンタプリズムを使用する図4Aの構造の実施態様の例を示す図である。 照明器からの非偏光光を供給する照明チャネルと、レンズ・アセンブリおよびセンサ・アセンブリを有する画像取込みユニットをそれぞれ含む左右の立体視光学チャネルとを含む立体視内視鏡の遠位端部を示す概略図である。 照明器からの非偏光光を供給する照明チャネルと、照明チャネルからの照明を偏光させる偏光器と、レンズ・アセンブリおよびセンサ・アセンブリを有する画像取込みユニットをそれぞれ含む左右の立体視光学チャネルとを含む立体視内視鏡の遠位端部を示す概略図である。 立体視内視鏡の遠位端部と、照明器からの光を供給する照明チャネルと、レンズ・アセンブリおよびセンサ・アセンブリを有する画像取込みユニットをそれぞれ含む左右の立体視光学チャネルとを示す概略図である。各センサ・アセンブリは、受光した光の第1の割合を反射し、受光した光の第2の割合を通過させるコーティング面を有するビーム・スプリッタを含む。 第1の画像中の画素ブロックと第2の画像中のそれに対応する画素ブロックのオフセットを示す概略図である。 複数の照明器のうちの1つからの光を供給する照明チャネルと、レンズ・アセンブリおよびセンサ・アセンブリを有する画像取込みユニットをそれぞれ含む左右の立体視光学チャネルとを含む立体視内視鏡の遠位端部を示す概略図である。 図7Aの立体視内視鏡ならびに本明細書に記載するその他の内視鏡および装置のいずれかに結合することができる照明器を示すブロック図である。 図7Aの立体視内視鏡ならびに本明細書に記載するその他の内視鏡および装置のいずれかに結合することができる照明器を示すブロック図である。 図7Aの立体視内視鏡ならびに本明細書に記載するその他の内視鏡および装置のいずれかに結合することができる照明器を示すブロック図である。 図7Aの立体視内視鏡ならびに本明細書に記載するその他の内視鏡および装置のいずれかに結合することができる照明器を示すブロック図である。 複数のノッチ・フィルタを含むフィルタを示すグラフである。 画像取込みユニットが受光する光のスペクトルを示すグラフである。 複数のノッチ・フィルタを含む別のフィルタを示すグラフである。 照明器からの光を供給する照明チャネルと、レンズ・アセンブリおよびセンサ・アセンブリを有する画像取込みユニットをそれぞれ含む左右の立体視光学チャネルとを含む立体視内視鏡の遠位端部を示す概略図である。各センサ・アセンブリは、2つの異なる光路長を有する。 異なる被写界深度および異なる焦点を有するセンサ・アセンブリ中に取り込まれた2つの画像を示す図である。 異なる被写界深度および異なる焦点を有するセンサ・アセンブリ中に取り込まれた2つの画像を示す図である。 拡大された被写界深度の焦点が合った画像を形成するために組み合わされた図8Bおよび図8Cの2つの画像のうちの1つの組み合わせを示す図である。 第1および第2の画像取込みセンサによって取得される画像の鮮鋭度を、物体距離に対して示す図である。 画像取込みユニットが取り込んだ複数の画像から、仮想カメラ視点における仮想画像を生成する方法の処理フロー図である。 レンズ・アセンブリと、同一平面ではない画像取込みセンサを有するセンサ・アセンブリとを含む画像取込みユニットの一部を示す図である。 2つのレンズ・アセンブリから受光した光を同一平面の画像センサに向けて送る面を有する立体視内視鏡の遠位端部を示す概略図である。
これらの図面では、図番が1桁である図面では、参照番号の最初の数字が、その参照番号が付された要素が最初に現れる図面を表している。図番が2桁である図面では、参照番号の最初の2つの数字が、その参照番号が付された要素が最初に現れる図面を表している。
本明細書で用いる電子立体撮像では、2つの撮像チャネル(すなわち左側画像用のチャネルが1つと、右側画像用のチャネルが1つ)を使用する。
本明細書で用いる立体光路は、撮像対象の組織などの物体からの光を伝達するための2つのチャネル(例えば左右の画像用のチャネルなど)を含む。各チャネルで伝達される光は、外科手術野内のシーンの異なるビュー(立体視の左右いずれかのビュー)を表している。これらの立体視チャネルは、それぞれが、1つ、2つまたはそれ以上の光路を含むことができるので、1つの立体視チャネルに沿って伝達される光は、1つ以上の画像を形成することができる。例えば、左の立体視チャネルでは、第1の光路に沿って進行する光から1つの左側画像を取り込み、第2の光路に沿って進行する光から第2の左側画像を取り込むこともできる。以下にさらに完全に記載する態様は、フィールド順次ステレオ取得システムおよび/またはフィールド順次表示システムの状況でも、普遍性または適用可能性を失うことなく使用することができる。
本明細書で用いる照明チャネルは、画像取込みユニットから離間して(例えば内視鏡の遠位端部から離間して)位置する照明源から、または画像取込みユニットにおいて、またはその付近に位置する照明源(例えば内視鏡の遠位端部において、またはその付近にある1つまたは複数の発光ダイオード(LED)など)から、組織を照明する経路を含む。
本明細書で用いる白色光は、例えば赤の可視色成分、緑の可視色成分および青の可視色成分など、3つ(またはそれ以上)の可視色成分で構成された可視白色光である。可視色成分が照明器によって与えられる場合には、この可視色成分は可視色照明成分と呼ばれる。例えば加熱されたタングステン・フィラメントまたはキセノン・ランプから分かるように、白色光という言葉は、可視スペクトル中のさらに連続性の高いスペクトルを指すこともある。
本明細書で用いる可視画像は、可視色成分を含む。
本明細書で用いる非可視画像は、いずれの可視色成分も含まない画像である。したがって、非可視画像は、通常可視であると考えられている範囲外の光によって形成された画像である。
本明細書で用いる、蛍光の結果として取り込まれる画像は、蛍光取得画像と呼ばれる。様々な蛍光撮像モダリティがある。蛍光は、天然組織蛍光で生じさせてもよいし、あるいは、例えば注射色素、蛍光蛋白質または蛍光標識抗体などを用いて生じさせてもよい。蛍光は、例えばレーザまたはその他のエネルギー源による励起によって生じさせることができる。このような構成では、ノッチ・フィルタを使用して、内視鏡に進入する励起波長を阻止することが分かっている。蛍光画像は、病理学的情報(例えば蛍光を発する腫瘍など)や解剖学的情報(例えば蛍光を発する標識された腱など)など、外科手術に重要な生体内患者情報を与えることができる。
本明細書で用いる入射角は、ある表面に入射する光線と、その入射点におけるその表面に直交する直線とがなす角度である。
本明細書で用いる画像は、デジタル処理され、画像のインデックスの付け方を変えることによって再配向またはミラーリングすることができる。再配向またはミラーリングは、画像センサを読み取る順序に行うこともできる。
本発明の態様は、外科手術野内のシーンの可視および非可視の立体視画像を取得することを容易にするものである。図2を参照すると、例えば、画像取込みユニット225Lおよび225R(図2)は、例えば米国カリフォルニア州SunnyvaleのIntuitive Surgical社製の低侵襲遠隔操作外科手術システムda Vinci(登録商標)などの低侵襲外科手術システム200の立体視内視鏡202の遠位端部に位置する。矢印235が示すように、遠位方向は、組織203に向かう方向であり、近位方向は、組織203から離れる方向である。
第1の画像取込みユニット225Lは、左側立体視画像と呼ばれることもある、立体視画像の左側画像を取り込む。第2の画像取込みユニット225Rは、右側立体視画像と呼ばれることもある、立体視画像の右側画像を取り込む。
以下でさらに完全に述べるように、各画像取込みユニットは、レンズ・アセンブリおよびセンサ・アセンブリを含む。レンズ・アセンブリは、前端部光学系と呼ばれることもある。センサ・アセンブリは、1対の同一平面画像取込みセンサと、一態様では、レンズ・アセンブリから同一平面画像取込みセンサのうちの一方に光を伝達する屈曲光路と、レンズ・アセンブリからもう一方の同一平面画像取込みセンサに光を伝達する別の屈曲光路とを含む。画像取込みセンサが共通の前端部光学構造を有すると言えるように、両方の画像取込みセンサに対して、画像取込みユニットのレンズ・アセンブリは同じものを使用する。レンズ・アセンブリが共有されることと、画像取込みセンサが同一平面構成になっていることが相まって、レンズのアーチファクトを補償するための較正が不要になる。2つの画像取込みセンサの空間的関係が一定であり、また画像取込みセンサが共通のレンズ・アセンブリを共有しているので、2つの画像取込みセンサによって取り込まれた1対の画像の空間的位置合わせは、時間が経っても一定であり、また焦点を変えるなど光学的条件を変化させる間も一定である。内視鏡202の1つのチャネルで取り込まれる1対の画像は、互いに時間的に位置合わせすることもできる。
1つの態様では、画像取込みユニット225Lおよび225Rは、複数のビュー・モード、すなわち通常モードおよび1つまたは複数のエンハンス・モードを有する低侵襲外科手術システムで使用される。執刀医用のコンソール250と呼ばれることもある執刀医用用制御コンソール250上に示されるユーザ・インタフェース262内に通常示される表示モードスイッチ252を用いて、ビュー・モードを切り替える。
通常ビュー・モードでは、外科手術野内のシーンの可視画像は、画像取込みユニット225Lおよび225Rによって取得され、執刀医用制御コンソール250の立体視ディスプレイ251に表示される。エンハンス・ビュー・モードでは、シーンの1つまたは複数の可視画像およびシーン内の1つまたは複数の蛍光画像が、画像取込みユニット225Lおよび225Rによって取得され、中央制御装置260内のデュアル画像エンハンス・モジュール240Rおよび240Lが、この取得された画像をエンハンスする。そのエンハンスされた画像が、立体視ディスプレイ251に表示される。エンハンスされた画像としては、(a)低侵襲外科手術システム200のオペレータに対してシーン内の特定のフィーチャが強調表示される、フィーチャ精細度をエンハンスした可視画像、(b)見た目の解像度を高めた画像、(c)ダイナミック・レンジを高めた画像、(d)3つ以上の色成分を有する画素の色成分ベクトルに基づく方法で表示される画像、および(e)被写界深度を拡大した画像などが挙げられる。
画像取込みユニット225Lおよび225Rならびにエンハンス動作モードについてさらに詳細に考慮する前に、低侵襲外科手術システム200について説明する。システム200は、例示のみを目的としたものであり、画像取込みユニット225Lおよび225Rの適用対象をこの特定のシステムに限定するものではない。画像取込みユニット225Lおよび225Rは、立体視顕微鏡、モノスコープ内視鏡、顕微鏡などその他の様々な装置に実装することができ、既存の内視鏡カメラの代替品として使用することもできる。
例えばda Vinci(登録商標)外科手術システムである低侵襲外科手術システム200は、画像取込みユニット225Lおよび225Rを含む。この例では、執刀医用コンソール250のところにいる執刀医が、ロボット操作アーム(図示せず)に取り付けられた内視鏡202を遠隔操作する。da Vinci(登録商標)外科手術システムと連動する部品やケーブルなどは他にもあるが、それらは、本開示を損なうのを避けるために図2には図示していない。低侵襲外科手術システムに関するさらに詳しい情報は、例えば、参照によりその全体を本明細書に組み込む、米国特許出願第11/762165号(「低侵襲外科手術システム」、2007年6月23日出願)、米国特許第6,837,883B2号(「テレロボティック外科手術システムのアーム・カート」、2001年10月5日出願)、米国特許第6,331,181号(「外科手術ロボット・ツール、データ・アーキテクチャおよびこの使用」2001年12月28日出願)などに見ることができる。
照明器210が、立体視内視鏡202に結合される。照明器210は、少なくとも白色光源を含み、必要に応じて、1つまたは複数の蛍光励起源を含むこともできる。照明器210を、立体視内視鏡202内の少なくとも1つの照明チャネルとともに使用して、組織203を照明する。あるいは、照明器210は、内視鏡202の遠位先端またはその付近にある照明源で置き換えることもでき、その場合でも普遍性は失われない。このような遠位先端照明は、例えばLEDまたはその他の照明源によって行うことができる。
1つの例では、照明器210は、組織203を白色光で照明する白色光照明を行う。実施態様によっては、照明器210は、蛍光を励起する非可視光、および白色光を構成する可視色成分のうちの一部を供給することもできる。
通常は、3つ(またはそれ以上)の可視色成分によって白色光が構成される。例えば、白色光は、第1の可視色成分、第2の可視色成分および第3の可視色成分を含む。これら3つの可視色成分は、それぞれ異なる可視色成分、例えば赤色成分、緑色成分、および青色成分である。シアンなどの追加の色成分を使用して、システムの色忠実度を向上させることもできる。
実施態様によっては、照明器210の蛍光励起源は、組織203内で蛍光を励起する蛍光励起照明成分を供給する。例えば、蛍光励起源からの狭い帯域の光を使用して、組織に固有の近赤外線を発する蛍光物質を励起して、画像取得ユニット225Lおよび225Rが組織203内の特定のフィーチャの蛍光画像を取得するようにする。
照明器210からの光は、照明器210を内視鏡202内の照明チャネルに結合する照明チャネル226に向けて送られる。立体視内視鏡202内の照明チャネルは、この光を組織203に向けて送る。別の態様では、LEDまたはその他の照明源などの照明源を、内視鏡202の遠位先端またはその付近に設ける。この照明チャネルは、光ファイバ束、1本の剛性または可撓性のロッド、あるいは光ファイバで実装することができる。
1つの態様では、内視鏡202内の画像取込みユニット225Lおよび225Rはそれぞれ、一態様では、組織203から受光した光をセンサ・アセンブリに送るレンズ・アセンブリを1つ含む。組織203からの光は、白色光照明源から反射された可視スペクトル光成分と、例えば蛍光励起照明源からエネルギーを受け取った結果として組織203で発生した蛍光(可視または非可視)とを含む可能性がある。反射白色光成分は、見る者が通常の可視光スペクトルで見るであろうと予想する1つまたは複数の画像を取り込むために使用される。
画像取込みユニット225Lは、左カメラ制御ユニット(CCU)230Lを介して執刀医用コンソール250内の立体視ディスプレイ251に結合される。画像取込みユニット225Rは、右カメラ制御ユニット(CCU)230Rを介して執刀医用コンソール250内の立体視ディスプレイ251に結合される。カメラ制御ユニット230Lおよび230Rは、利得の制御、画像の取込みの制御、取り込んだ画像のデュアル画像エンハンス・モジュール240Rおよび240Lへの伝送の制御などを行うシステム・プロセス・モジュール263から信号を受信する。システム・プロセス・モジュール263は、システム200内のビジョン・システム制御装置など様々な制御装置を代表するものである。カメラ制御ユニット230Lおよび230Rは、別個のユニットであってもよいし、結合して単一のデュアル制御ユニットとしてもよい。
表示モード選択スイッチ252が、信号をユーザ・インタフェース262に供給し、ユーザ・インタフェース262が、選択された表示モードをシステム・プロセス・モジュール263に送る。システム・プロセス・モジュール263内の様々なビジョン・システム制御装置が、照明器210を、所望の照明を生成するように設定し、所望の画像を取得するように左右のカメラ制御ユニット230Lおよび230Rを設定し、取得した画像を処理するために必要なその他の任意の要素を、執刀医が要求した画像がディスプレイ251に示されるように設定する。
色補正モジュール241Lおよび241Rは、実施形態によっては、それぞれデュアル画像エンハンス・モジュール240Lおよび240R(以下でさらに詳細に述べる)の一部である。色補正モジュール241Lおよび240Lは、取得した画像の色を、システム・プロセス・モジュール263が決定したように新たな所望の色バランスに変換する。図2に示すように、説明のために、ユーザ・インタフェース262と、システム・プロセス・モジュール263と、画像エンハンス・モジュール240Lおよび240Rとを、中央制御装置260として1つのグループにまとめる。任意選択の画像処理モジュール264は、中央制御装置260からビデオを受信し、色補正モジュール241Lおよび241Rからの画像を処理した後で、執刀医用コンソール250内の立体視ディスプレイ251上に表示する。任意選択の画像処理モジュール264は、従来技術の低侵襲外科手術システムの画像処理モジュールと等価であるので、これ以上詳細には考慮しない。
図3Aは、画像取込みユニット325Lおよび325Rと照明チャネル305とを含む立体視内視鏡302Aの遠位端部を示すブロック図である。各画像取込みユニット325R、325Lは、レンズ・アセンブリ301R、301L、およびセンサ・アセンブリ320R、320Lを含む。センサ・アセンブリ320R、320Lは、レンズ・アセンブリ301R、301Lを通過する光を受光するように位置決めされる。各画像取込みユニット320R、320Lは、1つの態様では、プリズム・アセンブリ330R、330L、反射アセンブリ340R、340L、および同一平面画像取込みセンサ(310R、315R)、(310L、315L)を含む。立体視内視鏡302Aは、立体視内視鏡202の一例である。
図3Aに示すように、内視鏡302Aと呼ばれることもある立体視内視鏡302Aの遠位端部内の各立体視チャネルは、同じ要素構成を有する。この図3Aの態様では、画像取込みユニット325L(左の立体視チャネル)と画像取込みユニット325R(右の立体視チャネル)が、内視鏡302Aの中心線の長手方向軸線390と交差する平面に関して対称である(すなわち、互いに鏡像として位置決めされる)。矢印335が示すように、遠位方向は、組織303に向かう方向であり、近位方向は、組織303から離れる方向である。
この例では、内視鏡302A内の1つまたは複数の照明チャネル305からの光が、組織303を照明する。図3Aには示していないが、内視鏡302Aの視野内の1つまたは複数の外科手術器具も、照明チャネル305からの光によって照明することができる。内視鏡内の照明チャネルを使用することは単なる例示であり、本明細書に示す様々な例に限定することを意図したものではない。照明は、内視鏡内の照明源によって行ってもよいし、内視鏡の内部または外部のその他の何らかの装置によって行ってもよい。
組織303で反射された光および任意の蛍光を、レンズ・アセンブリ301Lおよび301Rが受光する。レンズ・アセンブリ301Lおよび301R内のレンズ304Lおよび304Rは、それぞれ、受光した光をセンサ・アセンブリ320Lおよび320Rに向けて送る1つまたは複数の光学構成要素を含むことができる。他の態様では、レンズ・アセンブリ301Lおよび301Rを折り畳んで、画像取込みユニット325Lおよび325Rの長手方向長さを短縮する。
レンズ304L、304Rからの光は、それぞれセンサ・アセンブリ320L、320Rを通過する。センサ・アセンブリ320L、320R内では、この光を、プリズム・アセンブリ330L、330R内のビーム・スプリッタ331L、331Rが受光する。1つの態様では、各ビーム・スプリッタ331L、331Rは、埋め込まれたコーティング面331L、331Rとして実装される。以下でさらに完全に説明するように、各コーティング面331L、331Rの1層または複数層のコーティングは、特定の機能を実現するように選択される。コーティング面331L、331Rは、レンズ・アセンブリ301L、301Rが受光した光の第1の部分を反射し、この受光した光の第2の部分を透過させる。組織303のフィーチャを識別するために、コーティング面は、レンズ・アセンブリ301L、301Rから受光した光の偏光の違いを識別する。さらに他の態様では、コーティング面は、やはり受光した光の複数の部分を反射し、受光した光の他の部分を透過させるノッチ・フィルタを含む。
コーティング面331L、331Rの実施態様に関わらず、ビーム・スプリッタ331Lは、受光した光の第1の部分を、例えば画像取込みセンサ310Lの表面311Lなど、画像取込みユニット325L内の第1の画像取込みセンサ310Lに向けて送り、この受光した光の第2の部分は、そのビーム・スプリッタ331Lを透過させる。同様に、ビーム・スプリッタ331Rは、受光した光の第1の部分を、例えば画像取込みセンサ310Rの表面311Rなど、画像取込みユニット325R内の第1の画像取込みセンサ310Rに向けて送り、この受光した光の第2の部分は、そのビーム・スプリッタ331Rを透過させる。
図3Aの例では、ビーム・スプリッタ331Lおよび331Rを通過した光は、光学レンズ350Lおよび350Rがそれぞれ受光する。レンズ350Lおよび350Rは、受光した光を合焦させて画像取込みセンサ315Lおよび315Rまでの光路長を形成する。レンズ350Lおよび350Rは、必要に応じて設けられる。
レンズ350Lおよび350Rからの光は、反射アセンブリ340Lおよび340Rがそれぞれ受光する。反射ユニット340Lは、例えば受光した光を画像取込みセンサ315Lの面316Lに向けて送るなど、受光した光を画像取込みユニット325L内の第2の画像取込みセンサ315Lに向けて送る。同様に、反射ユニット340Rは、例えば受光した光を画像取込みセンサ315Rの面316Rに向けて送るなど、受光した光を画像取込みユニット325R内の第2の画像取込みセンサ315Rに向けて送る。本明細書に記載する各態様において、光は、画像取込みセンサの一表面に向けて送られるが、簡潔のために、これを「光は画像取込みセンサに向けて送られる」と言う。
反射アセンブリ340L、340Rは、それぞれ、例えば鏡面など、受光した光を反射する反射面341L、341Rを含む。図3Aの例では、装置340Lおよび340Rはそれぞれ、1つの面が反射性コーティングを有するプリズムとして実装されるか、またはプリズムの斜辺の内部全反射を用いて実装される。1つの態様では、反射面341Rを含む平面と、画像取込みセンサ310Rの面311Rおよび画像取込みセンサ315Rの面316Rを含む平面とが交差して形成される角度θは45度であるので、このプリズムは、45度プリズムと呼ばれる。45度プリズムの面341Rは、面314Rの近傍の媒質が空気であるときには内部全反射を示すので、表面341Rは反射面と呼ばれる。
画像取込みセンサ310Lおよび315Lは、同一平面である。すなわち、センサ上面311Lおよび316Lは、実質的に同じ平面内にある。センサ310Lおよび315Lの底面は、プラットフォーム312の第1の面によって規定される平面上にある。同様に、画像取込みセンサ310Rおよび315Rは、同一平面である。例えば、上面311Rおよび316Rは、実質的に同じ平面内にある。センサ310Rおよび315Rの底面は、プラットフォーム312の第2の面によって規定される平面上にある。プラットフォーム312は、例えば軸線390に沿って接合された2つのセラミック部品など、2つの平坦部品で構成することができる。プラットフォーム312の第1の面は、プラットフォーム312の第2の面と反対側の、第2の面から離間した表面である。
1つの態様では、2つの画像取込みセンサ310R、315Rを含む第1の半導体ダイ317Rを、第1のセラミック・プラットフォーム上に取り付ける。2つの画像取込みセンサ310L、315Lを含む第2の半導体ダイ317Lを、第2のセラミック・プラットフォーム上に取り付ける。次いで、これら2つのセラミック・プラットフォームを接合して、プラットフォーム312を形成する。2つのダイ317R、317Lへのワイヤは、プラットフォーム312の1つまたは複数のチャネルを通過する。1つのダイで2つの画像取込みセンサを使用することは単なる例示であり、限定を目的としたものではない。いくつかの態様では、この2つの画像センサが、別々のダイの中にある(図9参照)。この2つの画像取込みセンサは、ダイ内の1つの大きな画像取込みセンサの一部とすることもでき、例えば画像取込みセンサ310Rと画像取込みセンサ315Rの間にあるその画像取込みセンサの画素は、無視される。
いくつかの態様では、プラットフォーム312を使用しなくてもよく、2組の画像取込みセンサを、電源ケーブル、制御ケーブルおよびビデオ・ケーブルへの必要な接続を行うように構成された1つの構造内に含める。また、図3Aに示すように1つの画像取込みユニット内で2つの同一平面の画像取込みセンサを使用することは、単なる例示であり、限定を目的としたものではない。例えば、いくつかの態様では、3つ以上の同一平面の画像取込みセンサを使用することもでき、例えば、複数のビーム・スプリッタを1列にして使用し、反射ユニットをその列の近位端部に配置することもできる。
画像取込みセンサを同一平面構成にすることにより、レンズのアーチファクトを補償するための較正、ならびに画像取込みセンサ310R/315R(第1の対)および310L/315L(第2の対)が取り込んだ異なる画像の再位置合わせが不要になる。上述のように、所与の対に含まれる2つの画像取込みセンサの空間的関係は一定であり、所与の対に含まれる2つの画像取込みセンサは共通のレンズ・アセンブリ、すなわち共通の前端部光学構造を共有しているので、これら2つの画像取込みセンサが取り込む1対の画像の空間的位置合わせは、時間が経っても一定であり、また焦点を変えるなど光学的条件を変化させる間も一定である。
図3Bは、図3Aと同様であるが、内視鏡302Bがモノスコープ内視鏡であり、内視鏡302Bの外部にあって内視鏡302Bに接続されていない照明器によって照明が行われる点が異なる。ただし、いくつかの態様では、内視鏡302B上に照明器が取り付けられる。内視鏡302Bでは、画像取込みユニット325の要素301、304、320、330、331、340、341、350、310、311、315、316および312Bは、それぞれ要素301L、304L、320L、330L、331L、340L、341L、350L、310L、311L、315L、316Lおよび312と同じであるので、これらの要素について繰り返し説明することはしない。内視鏡外部の照明源は、記載する様々な内視鏡の実施形態において、内視鏡内部の照明チャネルまたは内視鏡に取り付けられた照明チャネルの代わりに、あるいはそれに加えて使用することができる。
図4Aは、レンズ・アセンブリ401Aおよびセンサ・アセンブリ420Aを含む画像取込みユニット425Aの一部を示す図である。センサ・アセンブリ420Aは、1つの態様では、プリズム・アセンブリ430A、反射ユニット440A、および同一平面の画像取込みセンサ410A、415Aを含む。レンズ・アセンブリ401Aは、遮蔽体470Aと呼ばれることもある光遮蔽体470Aを画定する光学素子など、複数の光学素子を含む。本明細書で用いる遮蔽体は、開口を有する空間内の平面または主光線の高さがゼロとなる光路中の位置である。遮蔽体470を通過した光は、画像取込みユニット425Aのプリズム・アセンブリ430A内のビーム・スプリッタ431Aによって受光される。
立体視装置は、図4Aに示すように2つの画像取込みユニットを含むことになる。ただし、図3Aを参照して上記に示したように、画像取込みユニットを有する左右の立体視チャネルは対称であるので、説明の重複を避けるために、1つのチャネルおよび画像取込みユニットについてのみ説明する。画像取込みユニットを含むもう一方のチャネルは、図4Aに示すチャネルを有する内視鏡の長手方向軸線と交差する平面に関して対称である。
ビーム・スプリッタ431Aは、遮蔽体470Aを通過する光を受光するように位置決めされる。ビーム・スプリッタ431Aは、受光した光の第1の部分を第1の画像取込みセンサ410Aに向けて送り、受光した光の第2の部分はビーム・スプリッタを通して反射ユニット440Aに送るように構成される。この例では、プリズム・アセンブリ430A内のビーム・スプリッタ431Aは、コーティングされた第1の面として実装される。したがって、ビーム・スプリッタ431Aは、コーティングされた第1の面431Aと呼ばれることもある。コーティングされた第1の面431Aは、受光した光を2つの部分に分離する。
コーティングされた第1の面431Aは、受光した光の第1の部分を第2の面432Aに向けて送り、第2の面432Aは、例えば反射するなどして、この光を第1の画像取込みセンサ410Aに向けて送る。コーティングされた第1の面431Aは、受光した光の第2の部分を、コーティングされた第1の面431Aを通過して反射ユニット440まで透過させる。1つの態様では、この光のコーティング面431Aへの入射角は、45度未満である。
第2の面432Aは、コーティングされた第1の面431Aによって反射された光以外の光が第2の面432Aに入射しないように位置決めされる。1つの態様では、第2の面432Aは、コーティング面および内部全反射面のうちの一方として実装される反射面である。
反射ユニット440Aは、ビーム・スプリッタ431Aから受光した光を第2の画像取込みセンサ415Aに反射する第3の面441Aを含む。1つの態様では、第3の面441Aは、例えばコーティング面および内部全反射面のうちの一方として実装される反射面である。
画像取込みセンサ410Aおよび415Aは、同一平面である。1つの態様では、遮蔽体470Aからコーティングされた第1の面431Aおよび第2の面432Aを経由して画像取込みセンサ410Aに至る第1の光路長は、遮蔽体470Aからコーティングされた第1の面431Aを通りコーティング面441Aを経由して画像取込みセンサ415Aに至る第2の光路長とほぼ等しい。別の態様では、第1の光路長と第2の光路長は等しくない。等しくない光路長は、以下にさらに完全に記載するように、反射ユニット内の表面とプリズム・アセンブリ内のビーム・スプリッタとの間の空間的関係を調節することによって実現することができる。
あるいは、画像取込みセンサ410Aは、センサ上面を第1の平面内に有し、画像取込みセンサ415Aは、センサ上面を第2の平面内に有し、第1の平面と第2の平面が平行であり、既知の距離だけ離間している(図9参照)。画像取込みセンサのこの代替構成では、2つの画像取込みセンサまでの光路長は、ほぼ等しくてもよいし、等しくなくてもよい。画像取込みセンサのセンサ上面は、センサ・アセンブリ内の少なくとも1つの光学構成要素から光を受光するその画像取込みセンサの面である。例えばセンサ415Aまでの第2の光路中で、レンズ350(図3参照)として示すように任意選択の光学素子を使用することもできる。
本明細書では、「ほぼ等しい」または「実質的に等しい」とは、2つの光路長が、様々な光路の要素の製造および取付けに関連する許容差の範囲内で等しいという意味である。また、遮蔽体470Aから始まる光路長の定義は例示であり、限定を目的としたものではない。光路長は、受光した光がプリズム・アセンブリ430Aに進入するプリズム・アセンブリ430Aの遠位面を基準にする、レンズ・アセンブリ内の最初の要素を基準にする、またはコーティングされた第1の面431Aを基準にするなど、様々に定義することができる。
図4Aでは、プリズム・アセンブリ430A、反射ユニット440Aおよび画像取込みセンサ410A、415Aの離隔は一定の比率ではない。実際の使用に際しては、プリズム・アセンブリ430Aおよび反射ユニット440Aは、大抵固体のガラスであり、これらのガラス構造と画像取込みセンサ410A、415Aとの間には小さな隙間がある。図4Bは、プリズムを用いた図4Aの構造の実施態様の例である。
図4Bは、立体視内視鏡の遠位端部内の画像取込みユニット425Bを示す図である。画像取込みユニット425Bは、共有レンズ・アセンブリ401Bおよびセンサ・アセンブリ420Bを含む。センサ・アセンブリ420Bは、1つの態様では、プリズム・アセンブリ430B、反射ユニット440B、および同一平面の画像取込みセンサ410B、415Bを含む。センサ・アセンブリ420Bは、レンズ・アセンブリ401Bを通過する光を受光するように位置決めされる。もう一方の画像吐露込みユニット(図示せず)は、図4Bに示すものと等価な構成要素を含む。これら2つの画像吐露込みユニットは、図3Aに示すのと等価な形態で立体視内視鏡の長手方向軸線と交差する平面に関して対称である。
組織によって反射された照明器からの光、または組織から生じた蛍光は、平面403Bで表される。この光は、窓481を通ってレンズ・アセンブリ401Bに入射し、次いで第1のレンズのセット482、プリズム483、第2のレンズのセット484、および遮蔽体を構成する開口素子470Bを通過する。
要素485は必要に応じて設けられるものであり、様々な位置で様々なレンズ・アセンブリの実施形態に組み込むことができる様々なフィーチャを個々に、または組み合わせて例示するものである。1つの態様では、要素485は、蛍光励起波長を阻止するノッチ・フィルタの窓を表す。別の態様では、要素485は、合焦素子を表す。
別の態様では、要素485は、平面−平面(plano−plano)素子を表す。さらに別の態様では、要素485は、制御電圧が印加されたときに可変焦点レンズとして機能する液晶セルを含む構造を表す。制御電圧は、光が通過する物質の屈折率プロファイルを動的に変化させる。液晶セルは、良好な光学的性能で、焦点を無限大から10センチメートルまでの所望の焦点距離に調節することができる。これらの性能特性を有する液晶セルは、米国カリフォルニア州Mountain ViewのLensVector社からLens Vector(商標)AutoFocus素子として入手することができる(LENSVECTORは、米国のLensVector社の商標である)。
いくつかの態様では、要素485は、レンズ・アセンブリ内のその他の要素が受光した光を前処理する1つまたは複数のフィルタを表す。あるいは、この1つまたは複数のフィルタは、内視鏡の遠位端部面に取り付けてもよいし、開口素子470Bとプリズム構造460との間に挿入してもよい。
この態様では、プリズム構造460は、ビーム・スプリッタ431Bを備えるプリズム・アセンブリ430Bおよび反射面441Bを備える反射ユニット440Bを含む一体プリズム構造(2つ以上のプリズムが隙間なく接合されている)である。1つの態様では、プリズム構造460は、2つの画像取込みセンサへの所望の画像分離を実現するような特定の屈折率およびプリズム幾何形状を有する材料で設計される。プリズム構造460の設計は、多面プリズムから始めて、次いでセンサ間隔と、プリズムの幾何形状を制約する立体視内視鏡の所望の最大外側チューブ直径とに適応するように最適化する。
図4Bに示す態様では、プリズム・アセンブリ430Bは、少なくとも2つのコーティング面431Bおよび432Bを有するペンタ(五角形)プリズムを含む。あるいは、表面432Bをコーティングせず、内部全反射を用いてもよい。ビーム・スプリッタすなわちコーティングされた第1の面431Bは、受光した光を2つの部分に分離する。コーティングされた第1の面431Bは、受光した光の第1の部分を第2の面432Bに反射し、この第2の面432Bが、この光を第1の画像取込みセンサ410Aに向けて送る、すなわち反射する。コーティングされた第1の面431Bは、受光した光の第2の部分を、面431Aを通過して反射ユニット440Bまで透過させる。プリズム450は、必要に応じて設けられるものであり、プリズム構造460の取扱いおよび取付けを容易にするために設けられる。
ペンタプリズムは、光ビームを90度偏向させるために使用される反射プリズムである。光ビームは、ペンタプリズム内部で2回反射され、これにより倒立像または逆転像を生じることなく光ビームを90度曲げて透過させることができる。通常は、ペンタプリズムは、5つの辺で構成された外周を有する。ペンタプリズムは、光路に対するペンタプリズムの配向に関わらず光路を同じ角度だけ偏向させるので、一定偏角プリズムである。本明細書では、ペンタプリズムは、その他のプリズムまたは光学素子に接着するなどして接合する、あるいはその他のプリズムまたは光学素子を基準として位置決めすることができる。
1つの態様では、コーティングされた第1の面431Bは、多層埋込みコーティング面である。この面は、以下でさらに完全に述べるように、例えば多層ダイクロイック・コーティング、金属コーティングまたはひだ状(rugate)コーティングなど、所望の反射特性および透過特性を有する多層コーティングでコーティングされる。面431Bに対する光の入射角は、1つの態様では45度未満であるが、これは要件ではない。第2の面432Bは、コーティングされた第1の面431Bによって反射された光以外の光が第2の面432Bに入射しないように位置決めされる。
遠位面と呼ばれることもある遠位端部面433は、レンズ・アセンブリ401Bから受光した光が通過する、プリズム構造460およびプリズム・アセンブリ430Bの端部である。1つの態様では、第1の面431B、第2の面432Bおよび第3の面441Bは、遠位端部面433から画像取込みセンサ410Bまでの第1の光路長が、遠位端部面433から画像取込みセンサ415Bまでの第2の光路長とほぼ等しくなるように位置決めされる。別の態様では、面441Bは、この2つの光路長がわずかだけ異なるように位置決めされる。
1つの態様では、反射ユニット440Bが、反射コーティングを有する面441Bを含むプリズムであるか、または面441Bが、内部全反射による反射が可能になる角度で使用される。1つの態様では、反射面441Bを含む平面と画像取込みセンサ415Bのセンサ上面を含む平面とが交差して形成する角度は、45度であるので、このプリズムは45度プリズムと呼ばれる。この例では、プリズム構造460は、既知の技術を用いて3つの部品を接着することによって形成した一体構造である。前述のように、この3つの部品は、画像取込みセンサ410Bおよび415Bにおいて所望の画像分離をもたらすような材料、屈折率およびプリズム幾何形状で設計される。3つの部品を使用することは単なる例示であり、限定を目的としたものではない。例えば、プリズム構造460は、2つの部品を用いて形成した一体構造であってもよい。
画像取込みセンサ410Bおよび415Bは、同一平面にあり、1つの態様では、他方のレンズ・アセンブリの同一平面の画像センサも取り付けられているプラットフォーム上に取り付けられる(図3A参照)。いくつかの態様では、2つの画像取込みセンサが、1つの構造に含まれる。
遮蔽体470Bは、プリズム構造460の付近または内側に配置または形成して、プリズム構造460のサイズを小さくし、画像取込みセンサ410Bおよび415Bに対するコーナ線(corner rays)の入射角を小さくする。遮蔽体470Bは、要素485の遠位側(図示)に位置決めしても、近位側に位置決めしてもよい。
図4Bに示す例示的な態様では、レンズ・アセンブリ401B内の中央要素483は、プリズムとすることができる。いくつかの態様では、このプリズムは、例えば内視鏡の長手方向軸線に対して30度に配向された視野を有する内視鏡となるように屈曲光路を形成するように位置決めされる。この屈曲は、画像取込みセンサ410Bおよび415Bの平面に対して直交する平面内で起こる。
図2、図3A、図3b、図4Aおよび図4Bを再度参照して、画像取込みユニットの様々な態様を示し、これらについて説明する。画像取込みユニットは、撮像対象の物体から光を受光するレンズ・アセンブリを含む。レンズ・アセンブリを通る前端部光路は、直線であってもよいし、あるいは屈曲させて様々な角度の付いた視野を内視鏡に持たせてもよい。レンズ・アセンブリからの光は、センサ・アセンブリまで進行する。様々な任意選択の光学構成要素(開口、フィルタ、合焦素子など)をレンズ・アセンブリ内に配置することもできるし、あるいは、設計制限が許せば、これらの光学構成要素を、センサ・アセンブリの1つまたは複数の光路内に挿入することもできる。
1つの態様では、センサ・アセンブリは、2つ以上の同一平面の画像取込みセンサを含む。これらの同一平面の画像取込みセンサは、内視鏡の長さ方向に配列される。例えば、同一平面の画像取込みセンサが2つある場合には、これらの画像取込みセンサのうちの一方を、レンズ・アセンブリに比較的近接して(内視鏡の遠位端部側に)位置決めし、もう一方の画像取込みセンサを、レンズ・アセンブリから比較的離して(内視鏡の遠位端部から離間させて)位置決めする。このように、画像取込みセンサは、内視鏡の中心線の長手方向軸線にほぼ平行な平面内にある。1つの態様では、これらの画像取込みセンサが、両方とも、同じ半導体基板上の画像取込み領域(例えばCMOS画像取込み領域などであるが、あるいはCCD領域を使用してもよい)として形成される。したがって、この単一の基板は、少なくともその幅の約2倍の長さを有し、そのため、これらのセンサ領域は内視鏡内で長手方向に配列されるので、空間使用効率の観点から内視鏡内に位置決めすることができる。あるいは、画像取込みセンサは、上記の単一センサ基板構成と同様に、内視鏡内に配置された指示プラットフォームまたは基板上に、個別に形成し、位置決めすることもできる。
センサ・アセンブリの内部では、レンズ・アセンブリから受光した光は、ビーム・スプリッタで2つ以上のビームに分割される。2つのセンサの実施態様では、例えば、これらのビームのうちの一方は、ビーム・スプリッタから、第1の画像取込みセンサに入射する一方の光路に沿って進行し、もう一方のビームは、第2の画像取込みセンサに入射する別の光路に沿って進行する。センサ・アセンブリ内のこれらの光路は、画像取込みセンサに入射した光がレンズ・アセンブリから受光した光に対してほぼ直交するように屈曲している。いくつかの態様では、センサ・アセンブリ内のこれらの光路は、レンズ・アセンブリがこれらの光学センサに取り込まれた画像にほぼ同じように影響を及ぼすように、ほぼ等しい長さになるように構成される。コーティング面または内部全反射面である反射面を様々に組み合わせて使用して、画像取込みアセンブリの光路の幾何形状を規定することができる。いくつかの態様では、プリズムを使用して、画像取込みセンサの反射面の位置合わせ要件を簡略化する。
いくつかの態様では、1つの内視鏡内で使用される画像取込みユニットが1つであるので、内視鏡がモノスコープ機能を有する。しかし、他の態様では、1つの内視鏡内で2つの画像取込みユニットを使用して、立体視機能を実現する。一方の画像取込みユニットが左の立体視画像機能を実施し、他方の画像取込みユニットが右の立体視画像機能を実施する。いくつかの態様では、2つの画像取込みユニット内の画像取込みセンサは、これらセンサがほぼ内視鏡の中心に向くように背中合わせに配向される。このような構成では、2つの画像取込みユニットの前端部対物経路(objective path)が良好な立体視分離をもたらすように位置決めされ、かつ画像取込みセンサの回路を統合することができるので、内視鏡内の横方向の空間を効率的に使用することができる。いくつかの態様では、背中合わせの画像取込みセンサを、単一のプラットフォームまたは基板で支持して、さらに空間を節約し、光学的位置合わせをさらに良好にする(例えば、2つの画像取込みユニットを互いに位置合わせした後で内視鏡内に組み込むことができる)。背中合わせの画像取込みセンサは、ほぼ内視鏡の中心線の長手方向軸線に沿って位置決めすることができるが、いくつかの態様では、例えば場合によって使用されることもあるその他の遠位端部の内視鏡のフィーチャによって内視鏡の中心線の長手方向軸線からオフセットされることもある。あるいは、2つの画像取込みユニットは、同一面の画像取込みセンサが互いに向き合うように、または一方の画像取込みユニットの同一平面の画像取込みセンサが他方の画像取込みセンサの同一平面の画像取込みセンサと同一平面になるように(すなわち全ての画像取込みセンサが同一平面に(場合によっては同一基板上で同一平面に)なるように)、位置決めすることもできる。2つの画像取込みユニットの間の画像取込みセンサの平面の配向については、その他の様々な配向を使用することもできる。また、これらの1つまたは複数の画像取込みユニットは内視鏡の遠位端部にあるものとして概略的に述べたが、いくつかの態様では、これらの1つまたは複数の画像取込みユニットが内視鏡の近位端部にあってもよいことを理解されたい。
以下でさらに詳細に述べるように、この小型のデュアル撮像式画像取込みユニットの光学的幾何形状により、2つの比較的大きな画像センサを、所望の光学チャネルごとに内視鏡内に配置することができ、また入射光を2つ以上のビームに分割する画像取込みユニットのフィーチャにより、撮像システムを使用する人に対して数多くの異なる視覚表示機能を与えることができる。例えば、2つの画像取込みユニットを使用する場合には、一方の立体視画像のセットは第1の光ビームから取り込んだ特徴を有し、もう一方の立体視画像のセットは第2の光ビームから取り込んだ特徴を有する、2組の精密に位置合わせされた立体視画像のセットを取り込むことができる。
フィーチャ識別のエンハンス
外科手術部位のシーンの画像で時折生じる問題の1つに、執刀医用制御コンソール250で執刀医に対して提示される画像をエンハンスしようとしたときの飽和がある。1つの理由は、通常は視野内にある外科手術器具が組織より多くの光を反射することである。別の問題は、例えば神経や患部など、組織表面に直接的に存在していないようなシーン内の関心のあるフィーチャを識別することである。
1つの態様では、プリズム構造460および同一平面の画像410B、415Bを使用して照明が視野内の組織などの物体とどのように相互作用するかについての追加情報を集めることによって、シーンの撮像をエンハンスする。特に、照明光の偏光状態は、組織表面、組織内の表面下の構造、および外科手術器具によって様々に変動する。
エンハンスされたフィーチャ識別機能を照明側で実施する方法は、少なくとも2つある。照明は、偏光を優勢にすることも、非偏光を優勢にすることもできる。当業者には既知のように、光は完全に偏光することはないので、「偏光を優勢にする」とは、例えば理想的には1000:1など、識別するのに必要な程度まで偏光させることを意味する。ただし、コントラスト比がそれより低くても十分であることもある。同様に、「非偏光を優勢にする」とは、必要な程度まで非偏光にすることを意味する。
フィーチャ識別のエンハンス(非偏光照明)
図5Aは、画像取込みユニット525Lおよび525Rならびに照明器からの非偏光光を供給する照明チャネル505を備える立体視内視鏡502Aの遠位端部を示す概略図である。矢印535が示すように、遠位方向は、組織503に向かう方向であり、近位方向は、組織503から離れる方向である。
各画像取込みユニット525R、525Lは、レンズ・アセンブリ501R、501L、およびセンサ・アセンブリ520R、520Lを含む。センサ・アセンブリ520R、520Lは、レンズ・アセンブリ501R、501Lを通過した光を受光するように位置決めされる。各センサ・アセンブリ520R、520Lは、1つの態様では、プリズム・アセンブリ530R、530L、反射ユニット540R、540L、および同一平面画像取込みセンサ(510R、515R)、(510L、515L)を含む。立体視内視鏡502Aは、内視鏡502Aと呼ばれることもある。
照明チャネル505からの照明の一部は、組織503の表面で反射される。図5Aには示していないが、照明チャネル505からの照明の一部は、内視鏡502Aの視野内の外科手術器具によって反射されることもある。一部の組織は、それらの組織で反射された光にある程度の偏光を与える。
以下の記述では、立体視内視鏡502Aの右チャネルの光路について述べる。内視鏡502の対称性により、立体視内視鏡502Aの左チャネルの光路は、右チャネルの光路と同じであるので、以下の記述では、左チャネルの参照番号を、右チャネルの要素の説明の後の括弧内に記載する。これは、その記述が左チャネルの対応する要素にも当てはまることを示している。
組織503からの偏光および非偏光の反射光は、レンズ・アセンブリ501R(501R)内のレンズ素子504R(504L)を通過して、遮蔽体570R(570L)に至る。レンズ・アセンブリ401B(図4B)内の要素は、レンズ素子504R(504L)の例である。この例では、任意選択の4分の1波長板580R(580L)が、遮蔽体570R(570L)と画像取込みユニット525R(525L)の遠位端部面との間の光路中に挿入される。別の態様(図示せず)では、4分の1波長板580R(580L)は、この光路に挿入されない。
遮蔽体570R(570L)を通過する光は、センサ・アセンブリ520L(520R)によって受光され、ビーム・スプリッタ531R(531L)を含むプリズム・アセンブリ530R(530L)に進入する。ビーム・スプリッタ531R(531L)は、1つの態様では、偏光型ビーム・スプリッタである。ビーム・スプリッタ531R(531L)は、受光した光の偏光状態に基づいて受光した光の第1の部分を反射するように構成され、受光した光の偏光状態に基づいて受光した光の第2の部分を透過させるように構成される。1つの態様では、ビーム・スプリッタ531R(531L)は、コーティング面である。
例えば、プリズム・アセンブリ530R(530L)に進入する非偏光光は、ビーム・スプリッタ531R(531L)によって第1の画像取込みセンサ510R(510L)と第2の画像取込みセンサ515R(515L)との間で均等に分割される。プリズム・アセンブリ530R(530L)に進入する直線偏光光は、その光の偏光と面531R(531L)のコーティングの配向の相対的な配向に応じて、ビーム・スプリッタ531R(531L)によって反射または透過される。直交する場合には、全ての偏光光が、第1の画像取込みセンサ510R(510L)または第2の画像取込みセンサ515R(515L)のいずれかに向けて送られる。1つの態様では、コーティング面531R(531L)に対する光の入射角は、45度未満である。
コーティングされた第1の面531R(531L)は、受光した光の第1の部分を第2の面532R(532L)に反射し、この第2の面532R(532L)が、この光を例えば反射するなどして、第1の画像取込みセンサ510R(510L)に向けて送る。第2の面532R(532L)は、コーティング面または内部全反射面のいずれかとすることができる。第2の面532R(532L)は、コーティングされた第1の面531R(531L)によって反射された光以外の光が第2の面532R(532L)に入射しないように位置決めされる。
コーティングされた第1の面531R(531L)は、受光した光の第2の部分を面531R(531L)を通じて反射ユニット540R(540L)まで透過させる。具体的には、コーティング面を透過した光は、反射ユニット540R(540L)の第3の面541R(541L)によって受光され、この第3の面541R(541L)が、この光を例えば反射するなどして、第2の画像取込みセンサ515R(515L)に向けて送る。表面541R(541L)は、コーティング面または内部全反射面のいずれかとすることができる。
1つの態様では、プリズム・アセンブリ530R(530L)および反射ユニット540R(540L)が、プリズム構造に含まれる。この態様では、このプリズム構造は、以下にさらに完全に述べるように、埋込み多層偏光選択層を有する埋込みコーティング面431Bを含むプリズム構造460(図4B)と等価である。したがって、プリズム構造460に関する記述が、図5Aの態様で使用されるプリズム構造にも当てはまる。
コーティングされた第1の面531R(531L)は、例えば、埋込み多層偏光ビーム・スプリッタである。これらの層は、当業者には既知であり、偏光ビーム・スプリッタ・キューブとして一般的に使用されている。これらの誘電体膜型コーティングは、通常は埋込み型であり、1つの態様では、このようなコーティングを使用する。あるいは、偏光型ビーム・スプリッタは、米国ユタ州OremのMoxtek(登録商標)社や日本のポラテクノ社製の材料を用いてPBF02偏光ビーム・スプリッタとして構成することもできる(MOXTEKは、米国ユタ州OremのMoxtek(登録商標)社の米国登録商標)。
画像取込みセンサ510R(510L)および515R(515L)は、同一平面にある。1つの態様では、遮蔽体570R(570L)からコーティングされた第1の面531R(531L)および第2の面532R(532L)を経由して画像取込みセンサ510R(510L)に至る第1の光路長は、遮蔽体570R(570L)からコーティングされた第1の面531R(531L)および第3の面541R(541L)を経由して画像取込みセンサ515R(515L)に至る第2の光路長とほぼ等しい。また、遮蔽体570R(570L)から始まる光路長の定義は例示であり、限定を目的としたものではない。光路長は、受光した光がプリズム・アセンブリ530R(530L)に進入するプリズム・アセンブリ530R(530L)の遠位面を基準にする、レンズ・アセンブリ501R(501L)内の最初の要素を基準にする、またはコーティングされた第1の面531R(531L)を基準にするなど、様々に定義することができる。
同一平面の画像取込みセンサ510R(510L)および515R(515L)は、レンズ・アセンブリ501R(501L)内の前端部光学構造を通る光路長は共通であり、センサ・アセンブリ520R(520L)内の各画像取込みセンサまでの光路長はほぼ同じである。一方の画像取込みセンサ510R(510L)は、偏光ビーム・スプリッタ531R(531L)によって反射された光で構成された画像を取り込む。他方の画像取込みセンサ515R(515L)は、偏光ビーム・スプリッタ531R(531L)を透過した光で構成された画像を取り込む。
画像取込みユニット525R(525L)は、2つの偏光状態(直交直線状態、または4分の1波長板580R(580L)を用いた左右の円偏光状態)を撮像する。この場合には、画像取込みユニット525R(525L)が取得する画像は、組織自体の構造によって与えられる優先偏光に基づいて情報を提供する。画像取込みユニット525R(525L)は、受光した光の偏光状態の2つの直交成分の相対強度を取り込むことしかできない(光の偏光の性質全てではない)。しかし、有用な情報を得るには、これで十分である。
例えば、光は、表面によって鏡面反射されるときに優先的に偏光される。偏光の程度(および偏向の状態)は、照明の角度および表面の反射特性によって決まる。
臨床の状況では、これにより、一部の鏡面反射を減少させることができる。画像取込みユニット525R(525L)に進入する反射光は、直線偏光に基づいて分離され、2つの画像が取り込まれる。取り込んだ画像内における光る器具による反射は、一方の取込み画像には出現するが、他方の取込み画像には出現しないので、ソフトウェアを実行することによって識別して減少させることができる。このプロセスは、光る器具によって反射された光が部分偏光であるためにうまくいく。このプロセスにより、立体視ディスプレイ251上で執刀医に対して提示される画像では、鏡面反射が減少する。
1つの態様では、デュアル画像エンハンス・モジュール240R(240L)(図2)が、画像取込みセンサ510R(510L)および515R(515L)(図5A)が取り込んだ画像を処理して、外科手術器具による反射を減少させる。例えば第2の画像内の画素値の何割かを第1の画像内の対応する画素値から減算するなど、画像取込みセンサ515R(515L)によって取り込まれた第2の画像内の画素からの情報を使用して画像取込みセンサ510R(510L)によって取り込まれた第1の画像内の画素を修正して、外科手術器具を表す画素の輝度をさらに低下させる。1つの態様では、この割合は、経験的に決定される。これは、2つの画像が同じ前端部光学構造を有し、空間的および時間的に互いに対して位置合わせされているために行うことができる。
さらに、一部の組織は、その組織が反射した光にある程度の偏光を与える。例えば、長い繊維質の組織は、反射光に偏光を与えることがある。この態様では、デュアル画像エンハンス・モジュール240R(240L)(図2)は、画像取込みセンサ515R(515L)が、受光した偏光光から取り込んだ第2の画像の画素を処理し、例えば画素に着色することができる。次いで、着色された画像を、画像取込みセンサ510R(510L)からの第1の画像と結合し、この結合した画像を、立体視ディスプレイ251に送信して、執刀医が見られるようにする。この状況では、「着色」は、それにより関心のある特定の画素を背景より視覚的に顕著にすることができるので、好ましいことである。
これに加えて、またはその別法として、デュアル画像エンハンス・モジュール240R(240L)(図2)は、画像取込みセンサ515R(515L)が、受光した偏光光から取り込んだ第2の画像の画素を処理し、その後、画像取込みセンサ510R(510L)が取り込んだ第1の画像の対応する画素を決定する。デュアル画像エンハンス・モジュール240R(240L)は、例えば透明度を上げるなど、第1の画像の対応する画素の性質を変化させ、その後、第1の画像と第2の画像とを結合する。結合した画像は、立体視ディスプレイ251に送信され、執刀医が見られるようにする。入射光を偏光させない組織の方が透明度が高いので、これにより、執刀医は、入射光を偏光させた組織をより明確に識別することができるようになるので、組織を識別するための追加の手掛かりが得られる。このように、デュアル画像エンハンス・モジュール240R(240L)によって生成された結合画像では、受光した光の偏光の違いに基づいて画像のフィーチャの顕著性が高められており、例えば上に重なる組織の透明度を上げ、その他の鏡面反射を減少させることによって、そのフィーチャを見えやすくしている。
画像取込みユニットの画像取込みセンサは同一平面であるので、2つの画像取込みユニット内の画像取込みセンサのセットは、互いに固定された一定の関係にある。また、各画像取込みユニットのレンズ・アセンブリは同じである。したがって、様々な画像を処理して、執刀医の見ている画像が整列されて適切な立体視画像を形成するようにするときに、積極的な位置合わせを行う必要がない。このため、これらの特徴を用いずに取り込まれた画像より、画像に必要な処理が減少する。
フィーチャ識別のエンハンス(偏光照明)
図5Bは、画像取込みユニット525Rおよび525Lならびに照明器からの光を供給する照明チャネル505を備える立体視内視鏡502Bの遠位端部を示す概略図である。矢印535が示すように、遠位方向は、組織503に向かう方向であり、近位方向は、組織503から離れる方向である。
各画像取込みユニット525R、525Lは、レンズ・アセンブリ501R、501L、およびセンサ・アセンブリ520R、520Lを含む。センサ・アセンブリ520R、520Lは、レンズ・アセンブリ501R、501Lを通過した光を受光するように位置決めされる。各センサ・アセンブリ520R、520Lは、1つの態様では、プリズム・アセンブリ530R、530L、反射ユニット540R、540L、および同一平面画像取込みセンサ(510R、515R)、(510L、515L)を含む。また、立体視内視鏡502Aは、内視鏡502Aと呼ばれることもある。
照明を偏光させる偏光器581は、照明光路長の中に設けられる。図5Bでは、偏光器581は、立体視内視鏡502Aの遠位端部に示してあるが、これは単なる例示であり、この位置に限定するものではない。偏光器581は、照明の経路中の偏光器を代表して表すものであり、その経路中の適当な位置に配置することができる。あるいは、照明チャネル505は、偏光源からの光を送ることもできるし、あるいは偏光光源を位置581に配置してもよい。
以下の記述では、立体視内視鏡502Bの右チャネルの光路について述べる。立体視内視鏡502Bの左チャネルの光路は、右チャネルの光路と同じであるので、以下の記述では、左チャネルの参照番号を、右チャネルの要素の説明の後の括弧内に記載する。これは、その記述が左チャネルの対応する要素にも当てはまることを示している。
組織503からの偏光および非偏光の光は、レンズ素子504R(504L)および遮蔽体570R(570L)を通過する。この場合も、レンズ・アセンブリ401B(図4B)内の要素は、レンズ素子504R(504L)の例である。この例では、遮蔽体570R(570L)とセンサ・アセンブリ520R(520L)の遠位端部面との間の任意選択の4分の1波長板580R(580L)(図5A)が、取り外されている。しかし、以下に述べるその他の態様では、4分の1波長板がレンズ・アセンブリに含まれている。
遮蔽体570R(570L)を通過する光は、センサ・アセンブリ520L(520R)によって受光され、遠位面を通ってプリズム・アセンブリ530R(530L)に進入する。上述のように、プリズム・アセンブリ530R(530L)の偏光ビーム・スプリッタ531R(531L)は、受光した光の偏光状態に基づいて受光した光の第1の部分を反射するように構成され、受光した光の偏光状態に基づいて受光した光の第2の部分を透過させるように構成される。
この例では、偏光ビーム・スプリッタ531R(531L)は、1つの偏光状態で第1の画像取込みセンサ510R(510L)に向けるように構成され、残りの光を、例えば反射ユニット540R(540L)に送るなどして、反射ユニット540R(540L)まで透過させるように構成され、この反射ユニット540R(540L)が、その透過光を画像取込みセンサ515R(515L)に向けて送る。したがって、プリズム・アセンブリ530R(530L)、偏光ビーム・スプリッタ531R(531L)、反射ユニット540R(540L)ならびに画像取込みセンサ515R(510L)および515R(515L)について繰り返し説明することはせず、図5Aに関する上記の説明を、参照により本明細書に組み込む。
偏光器581からの偏光照明の一部は、組織503の表面で反射される。この表面で反射された光は、偏光照明とほぼ同じ偏光を有する。例えば、上面反射は、依然として、組織503に入射する光の元の偏光状態の大部分を占めている。
この表面で反射されない光は組織503に進入し、組織503の表面より下にある入射光の偏光を修正するフィーチャ503−1から503−4と相互作用する。組織503に進入する光は、散乱または吸収される。散乱光の一部は、組織503の表面から出て、レンズ素子504R(504L)において反射光のように見える。したがって、組織503から出る光の一部は、偏光の変化により、取り込んだ画像に追加の情報を与える。したがって、偏光光によって照明して、偏光感知検出器を用いて撮像するときには、例えば偏光解消された光など、照明の偏光と異なる偏光を有する光は、組織503の表面下のものと相互作用しているに違いないということになる。
例えば、照明が直線偏光である場合には、その光は、組織503の表面下フィーチャ503−1から503−4に進入してそこから反射されるときに次第に偏光解消される。表面下フィーチャ503−1から503−4からの反射光は、基本的に偏光解消される。
したがって、偏光器581およびコーティングされた第1の面531R(531L)を適切に配向すれば、画像取込みセンサ515R(515L)は、主に組織503の表面によって反射された光および表面下フィーチャ503−1から503−4からの光の約50パーセントから、画像を取り込む。画像取込みセンサ515R(515L)は、表面下フィーチャ503−1から503−4によって主として反射された光から画像を取り込み、表面503からの光はそれほど取り込まない。センサ・アセンブリ520R(520L)は、受光した光の偏光状態の2つの直交成分の相対強度を取り込むことしかできない(光の偏光の性質全てではない)。しかし、有用な情報を得るには、これで十分である。
特に、偏光照明を偏光感知撮像と併用すると、撮像プロセス中に組織の表面層を選択的に弱めることができる。この態様では、デュアル画像エンハンス・モジュール240R(240L)(図2)は、画像取込みセンサ510R(510L)が、受光した光から取り込んだ第1の画像の画素を処理し、その後、画像取込みセンサ515R(515L)が取り込んだ第2の画像の対応する画素を決定する。デュアル画像エンハンス・モジュール240R(240L)は、ユーザ・インタフェース262からの入力の制御下で、立体視ディスプレイ251に表示されるものを調節することができる。例えば、表面503だけを見るには、画像エンハンス・モジュール240R(240L)は、画像取込みセンサ515R(515L)が取り込んだ画像から画像取込みセンサ510R(510L)が取り込んだ画像を減算する。その結果得られた画像を立体視ディスプレイ251に送信して、執刀医が見られるようにする。あるいは、ユーザ・インタフェース262からの入力に応答して表面下フィーチャ503−1から503−4を示すには、画像エンハンス・モジュール240R(240L)は、画像取込みセンサ510R(510L)が取り込んだ画像をスケーリングして、立体視ディスプレイ251に表示されている画像と同様の輝度を実現する。その結果得られた画像を立体視ディスプレイ251に送信して、執刀医が見られるようにする。
入射光の偏光を変化させない表面組織の透明度が上がっているので、これにより、執刀医は、入射光の偏光を変化させた表面下フィーチャをより明確に識別することができるようになり、組織を識別するための追加の手掛かりが得られる。このように、デュアル画像エンハンス・モジュール240R(240L)によって生成されたエンハンス画像では、受光した光の偏光の違いに基づいて画像のフィーチャの顕著性が高められている。
さらに、照明が円偏光の場合には、組織503の上面からの反射が、偏光の左右像が反転した状態で起こる。センサ・アセンブリ520R(520L)において、反射光が4分の1波長板(図5Aの4分の1波長板580R参照)に進入した後に直線偏光に基づいて分離された場合には、上面反射は大幅に減少し、光る道具からの反射も減少する。表面下組織層は依然として次第に光を偏光解消するので、表面層は以前より透明に見えるように執刀医に対して提示することができる。これにより、組織の層、組織の種類、または組織503の表面下に現れる病気の状態をより良好に識別することができるようになる。このようにして、執刀医は、上述のように、最上層の透明度を上げ、鏡面反射を減少させることによって、最上層からの反射を抑制することができるので、組織503の上面を選択的に「透かして」見ることができる。さらに、上述のように、組織503の上面だけを見ることもできる。
この技術によって強調することができる組織フィーチャの例としては、子宮内膜症などが挙げられる。また、この技術は、偏光サインを有する神経を識別する機能を強化することもできる。このように、様々な臨床の状況で、デュアル画像エンハンス・モジュール240R(240L)によって生成した結合画像では、受光した光の偏光の違いに基づいて画像のフィーチャの顕著性が高められている。
解像度およびダイナミック・レンジのエンハンス
内視鏡の遠位端部に従来技術のカメラを配置しても立体視カラー画像は得られるが、これらのカメラは、各立体視チャネルで画像をとらえる1つのCCDが提供する解像度およびダイナミック・レンジに制限される。立体視内視鏡の従来のカメラと同様に、解像度は、CCDの画素数およびカラー・フィルタ・アレイによって制限される。立体視内視鏡の遠位端部では利用できる空間が制限されていることを考えると、CCDの画素数を増やすことは実用的ではないので、解像度をさらに上げることは実用的ではなかった。
同様に、外科手術部位のシーンの中心は、通常はそのシーンの周辺部よりはるかに明るい。これにより、取り込まれた画像の輝度の範囲がCCDのダイナミック・レンジを超えると、取り込まれた画像(の強度)がクリッピングされる可能性がある。画像取込みユニット625Rおよび625L(図6A)は、以下でさらに完全に述べるように、さらに高い見かけの解像度およびさらに高いダイナミック・レンジの両方を提供することにより、これらの従来技術の問題を解消する。
図6Aは、画像取込みユニット625Lおよび625Rならびに照明器からの光を供給する照明チャネル505を備える立体視内視鏡602の遠位端部を示す概略図である。矢印635が示すように、遠位方向は、組織603に向かう方向であり、近位方向は、組織603から離れる方向である。
各画像取込みユニット625R、625Lは、レンズ・アセンブリ601R、601L、およびセンサ・アセンブリ620R、620Lを含む。センサ・アセンブリ620R、620Lは、レンズ・アセンブリ601R、601Lを通過した光を受光するように位置決めされる。各センサ・アセンブリ620R、620Lは、1つの態様では、プリズム・アセンブリ630R、630L、反射ユニット640R、640L、および同一平面画像取込みセンサ(610R、615R)、(610L、615L)を含む。立体視内視鏡602は、内視鏡602と呼ばれることもある。
以下の記述では、立体視内視鏡602の右チャネルの光路について述べる。内視鏡602の対称性により、立体視内視鏡602の左チャネルの光路は、右チャネルの光路と同じであるので、以下の記述では、左チャネルの参照番号を、右チャネルの要素の説明の後の括弧内に記載する。これは、その記述が左チャネルの対応する要素にも当てはまることを示している。また、図6Aでは、図5Aおよび図5Bに示す要素と同じ参照番号を有する要素は、図5Aおよび図5Bに関連して上述した要素と同じまたは等価な要素である。繰り返しを避けるために、同じ参照番号を有する要素について、図6Aで再度述べることはしない。
組織503からの光は、レンズ・アセンブリ501R(501L)内のレンズ素子504R(504L)および遮蔽体570R(570L)を通過する。レンズ・アセンブリ401B(図4B)内の要素は、レンズ素子504R(504L)の例である。センサ・アセンブリ620L(620R)によって受光された光は、プリズム・アセンブリ630に進入する。プリズム・アセンブリ630R(630L)は、プリズム・アセンブリ630R(630L)が受光した光の第1の割合を反射し、受光した光の第2の割合を反射ユニット540R(540L)まで通過させる、例えばコーティングされた第1の面などのビーム・スプリッタ631R(631L)を含む。
コーティングされた第1の面631R(631L)によって反射された光は、第2の面632R(632L)によって受光され、第2の面632R(632L)は、この光を、例えば反射するなどして、第1の画像取込みセンサ610R(610L)に向けて送る。第2の面632R(632L)は、例えば、コーティング面および内部全反射面のうちの1つである。コーティングされた第1の面631R(631L)を透過した光は、反射ユニット540R(540L)の第3の面541R(541L)によって受光され、第3の面541R(541L)は、この光を反射するなどして、第2の画像取込みセンサ615R(615L)に向けて送る。
第2の面632R(632L)は、コーティングされた第1の面631R(631L)によって反射された光以外の光が第2の面632R(632L)に入射しないように位置決めされる。1つの態様では、コーティング面631R(631L)に対する光の入射角は、45度未満である。
1つの態様では、プリズム・アセンブリ630R(630L)および反射ユニット540R(540L)は、プリズム・アセンブリ630R(630L)を含むペンタプリズムを有するプリズム構造に含まれる。この態様のプリズム構造は、受光した光の第1の割合を反射し、受光した光の第2の割合はコーティング面を通過させるように構成された埋込みコーティング面431Bを有するプリズム構造460(図4B)と等価である。したがって、プリズム構造460の説明が、図6Aの態様で使用されるプリズム構造にも当てはまる。
1つの態様では、第1の割合と第2の割合はほぼ等しい。別の態様では、第1の割合と第2の割合は異なる。したがって、プリズム・アセンブリ630R(630L)は、受光した光を2つの部分、すなわち(i)第1の部分と呼ばれることもある受光した光の第1の割合と、(ii)第2の部分と呼ばれることもある受光した光の第2の割合とに分離するコーティングされた第1の面531R(531L)として実装されるビーム・スプリッタを含む。
画像取込みセンサ610R(610L)および615R(615L)は、同一平面である。1つの態様では、遮蔽体570R(570L)からコーティングされた第1の面531R(531L)および第2の面632R(632L)を経由して画像取込みセンサ610R(610L)に至る第1の光路長は、遮蔽体570R(570L)からコーティングされた第1の面631R(631L)および第3の面541R(541L)を経由して画像取込みセンサ615R(615L)に至る第2の光路長とほぼ等しい。この場合も、遮蔽体570R(570L)から開始する光路長の定義は例示であり、限定を目的としたものではない。光路長は、受光した光がプリズム・アセンブリ630R(630L)に進入するプリズム・アセンブリ630R(630L)の遠位面を基準にする、レンズ・アセンブリ601R(601L)内の最初の要素を基準にする、またはコーティングされた第1の面631R(631L)を基準にするなど、様々に定義することができる。
このように、同一平面の画像取込みセンサ610R(610L)および615R(615L)は、レンズ・アセンブリ601R(601L)内の前端部光学構造を通る共通の光路長を有しており、センサ・アセンブリ620R(620L)内の各画像取込みセンサまでの光路長はほぼ同じである。一方の画像取込みセンサ610R(610L)は、センサ・アセンブリ620R(620L)が受光した光の第1の部分から画像を取り込む。他方の画像取込みセンサ615R(615L)は、センサ・アセンブリ620R(620L)が受光した光の第2の部分から画像を取り込む。以下でさらに完全に述べるように、1つの態様では、画像取込みセンサ610R(610L)615R(615L)はそれぞれ、カラー・フィルタ・アレイを有するカラー・センサである。別の態様では、これらのカラー・センサの1つからカラー・フィルタ・アレイが取り外され、そのセンサはモノクロ・センサとして機能する。もう一方のカラー・センサのカラー・フィルタ・アレイは、そのセンサが受け取る色成分の数に合わせて修正される。
解像度のエンハンス(例1)
1つの態様では、プリズム・アセンブリ630R(630L)のコーティングされた第1の面631R(631L)は、プリズム・アセンブリ630R(630L)がレンズ・アセンブリ601R(601L)から受光した光の反射させる部分と透過させる部分がほぼ等しくなるように、すなわち第1の割合と第2の割合がほぼ等しくなるように構成される。ビーム・スプリッタ631R(631L)が反射させる光と透過させる光がほぼ等しいとき、そのビーム・スプリッタは、バランス・ビーム・スプリッタと呼ばれる。画像取込みセンサ610R(610L)および615R(615L)はそれぞれ、この態様では、カラー・フィルタ・アレイを有するカラー・センサである。このカラー・フィルタ・アレイは、ベイヤー・カラー・フィルタ・アレイである。したがって、2つのベイヤー・パターン画像取込みセンサが、同じシーンで同じ光学素子を透かし見ている。ここで、ベイヤー・パターン画像取込みセンサは、ベイヤー・カラー・フィルタ・アレイを含む単一のチップ・センサ、または単一のチップの一部である。上述のように、同一平面の画像取込みセンサ610R(610L)および615R(615L)は、共通の前端部光学構造を有し、各センサまでの光路長がほぼ同じである。
プリズム・アセンブリ630R(630L)および反射ユニット540R(540L)が、両ベイヤー・パターン画像取込みセンサ610R(610L)および615R(615L)によって取り込まれたカラー画像が同じになるように構成されるときに、画像取込みセンサ610R(610L)が取り込むカラー画像は、画像取込みセンサ615R(615L)が取り込むカラー画像と同じシーンである。したがって、ある程度の静的較正を行えば、そのシーン内の空間中の各点が、2つの画素で表される。この2つの画素とは、画像取込みセンサ610R(610L)が取り込むカラー画像中の1つの画素と、画像取込みセンサ615R(615L)が取り込むカラー画像中の1つの画素とである。
シーン内の空間中の各点ごとに2つの画素を取り込むことには、シーン内の空間中の各点ごとに1つの画素を有する通常のカラー画像に優る利点がいくつかある。例えば、ディスプレイ251では、画素がそれぞれ空間中の1つのポイントの2つの画素に基づいているので、ノイズ・レベルが低下し、見かけの解像度が高い。中央制御装置260内のデュアル画像エンハンス・モジュール240R(240L)から立体視ディスプレイ251に送信される各出力画素は、ベイヤー・パターン画像取込みセンサ610R(610L)および615R(615L)が取り込んだそれぞれの画像から1つずつ取った、2つの画素のサンプリングに基づいている。
デュアル画像エンハンス・モジュール240R(240L)が2つの入力画素をサンプリングすることにより、1つの画像取込みセンサからの画像のみを中央制御装置260が処理する場合にはより小さなフィーチャの撮像が可能になる。したがって、立体視ディスプレイ251に表示される画像の見かけの解像度は、単一の画像取込みセンサが取り込んだ画像に基づいて立体視ディスプレイ251上に表示される画像の解像度より高い。ここで、立体視ディスプレイ251に送信される画像の解像度は、単一の画像取込みセンサからの画像の解像度より高くすることができるので、より高い見かけの解像度を有すると言える。
解像度のエンハンス(例2)
別の態様では、プリズム・アセンブリ630R(630L)のコーティングされた第1の面631R(631L)は、依然として、プリズム・アセンブリ630R(630L)が受光した光の反射させる部分と透過させる部分がほぼ等しくなるように、すなわち第1の割合と第2の割合がほぼ等しくなるように構成される。画像取込みセンサ610R(610L)および615R(615L)はそれぞれ、ベイヤー・カラー・フィルタ・アレイを有するカラー・センサである。この場合も、同一平面の画像取込みセンサ610R(610L)および615R(615L)は、共通の前端部光学構造を有し、各センサまでの光路長がほぼ同じである。ただし、総光路長は変化しないが、プリズム・アセンブリ630R(630L)の面631R(631L)および632R(632L)が若干傾斜しており、画像取込みセンサ610R(610L)が取り込んだ画像が、画像取込みセンサ615R(615L)が取り込んだ画像から半画素分だけオフセットしている。
この場合には、2つのベイヤー・パターン画像取込みセンサが、同じシーンで同じ光学素子を透かし「見て」いる。しかし、2つの取り込まれた画像は、互いに半画素分だけオフセットしている。図6Bは、第1の画像中の画素ブロック691と、これに対応する第2の画像中の画素ブロック695のオフセットを示す概略図である。画素ブロック691の各画素は、周囲を破線で囲んだ正方形で表し、画素の色は、正方形の中心の数字「2」の前の頭文字で色を表してある。画素ブロック695の各画素は、周囲を実線で囲んだ正方形で表し、画素の色は、正方形の中心の数字「1」の前の頭文字で色を表してある。この例では、ベイヤー・カラー・フィルタ・アレイは、赤/緑/青/緑(RGBG)アレイである。
1つの態様では、中央制御装置260内のデュアル画像エンハンス・モジュール240R(240L)は、2つの画像の画素を補間して、立体視ディスプレイ251に送信する画像のより高い空間解像度を有するカラー画像を作成する。この補間は、3つのCCDカラー・カメラで行われるものと同様であるが、2つのカラー画像を使用する点が異なる。サンプリングに利用できる画素の数が多いことにより、見かけの解像度が高くなり、信号対雑音比の性能が向上する。
解像度のエンハンス(例3)
さらに別の態様では、プリズム・アセンブリ630R(630L)のコーティングされた第1の面631R(631L)は、プリズム・アセンブリ630Rがレンズ・アセンブリ601R(601L)から受光した光の第1の色成分を反射し、受光した光の他の色成分を透過させるように構成される。この態様では、画像取込みセンサ610R(610L)および615R(615L)は、それぞれベイヤー・カラー・フィルタ・アレイを有するカラー・センサではない。
画像取込みセンサ610R(610L)は、例えばカラー・フィルタ・アレイが取り外されたカラー・センサなどのモノクロ・センサである。説明のために、センサ・アセンブリ620R(620L)が受光する光を、複数の可視色成分、すなわち第1の可視色成分、第2の可視色成分および第3の可視色成分を有するものと捉える。画像取込みセンサ615R(615L)は、この3つの可視色成分のうちの2つ、例えば複数の可視色成分に含まれる可視色成分の数から1を引いた数の可視色成分に対するカラー・フィルタ・アレイを有するカラー・センサである。上述のように、同一平面の画像取込みセンサ610R(610L)および615R(615L)は、共通の前端部光学構造を有し、各センサまでの光路長がほぼ同じである。
この態様では、プリズム・アセンブリ630R(630L)および反射ユニット540R(540L)は、両画像取込みセンサ610R(610L)および615R(615L)が取り込んだ画像が同じシーンとなるように配列されるが、第1の画像はモノクロであり、第2の画像はマルチカラーである。例えば、モノクロ画像は、緑の色成分画像を表し、マルチカラー画像は、赤の色成分および青の色成分の画像である。この場合には、画像取込みセンサ615R(615L)のカラー・フィルタ・アレイは、赤および青のチェッカボード・パターンである。
赤および青の画素に対する緑の画素の比率は、ベイヤー・カラー・フィルタ・アレイの場合と同じであるが、従来技術の単色センサと比較すると各色の画素の数は2倍である。したがって、緑の画素の解像度は、中央制御装置260内のデュアル画像エンハンス・モジュール240R(240L)による完全空間サンプリングを用いて生成されるが、赤および青の画素の解像度は、デュアル画像エンハンス・モジュール240R(240L)による緑の画素より少ない空間サンプリングを用いて生成される。それにも関わらず、この態様の赤および青の画素の空間サンプリングは、従来技術の単色センサの緑の画素の空間サンプリングと同じである。このエンハンスされた空間サンプリングも、見かけの解像度の向上および信号対雑音比の改善をもたらす。
ダイナミック・レンジのエンハンス
通常、外科手術部位画像は類似しており、明るい中央領域と、それより暗い周辺領域とを有する。また、一部の外科手術器具からの反射は、組織からの反射よりはるかに明るい。これにより、従来技術の内視鏡の画像取込みセンサが取り込む輝度値の範囲に差が生じる。輝度値が画像取込みセンサのダイナミック・レンジを超えた場合には、それらの画素の値はクリッピングされる、すなわち、その画像取込みセンサの最高値に設定される。
あるシーンが0から400の輝度範囲を有するものと仮定する。このシーンを、0から100のダイナミック・レンジを有するセンサが撮像した場合には、100を超える値がクリッピングされる。例えば、ある画素の輝度値が400であっても、その画素の取り込まれる輝度値は100である。100を超える全ての輝度値がクリッピングされて100に設定されるので、100を超える輝度を有するシーンの部分については、輝度情報が失われる。画像取込みセンサの利得を0.25に調節すれば、これらの高い輝度値はクリッピングされないが、4未満の全てのシーン輝度値がゼロにマッピングされる。この場合には、高い輝度値はクリッピングされないが、シーンのより暗い部分の情報が失われる。画像取込みユニット625R(625L)は、高輝度情報を保存し、かつ従来技術のシステムより多くの低輝度情報も保存することにより、この問題の解決策を与える。0から400の輝度範囲は、単なる例示である。実際の外科手術シーンでは、輝度の変動が何桁にもなることがある。したがって、外科手術シーンのダイナミック・レンジは、画像取込みセンサのダイナミック・レンジより大きい。したがって、単一の画像取込みセンサでは、外科手術シーンのダイナミック・レンジを取り込むことができない。
センサ・アセンブリ620R(620L)内のプリズム・アセンブリ630R(630L)の例えばビーム・スプリッタなどのコーティングされた第1の面631R(631L)は、プリズム・アセンブリ630R(630L)が受光した光の反射する部分と透過させる部分が異なるように、すなわち上記で定義した第1の割合と第2の割合が異なるように構成される。ビーム・スプリッタ631R(631L)は、この態様では、ダイナミック・レンジが調節されたビーム・スプリッタである。ダイナミック・レンジが調節されたビーム・スプリッタは、受光した光のM%を反射し、受光した光のN%を通過させる。ここで、M%はN%と異なる。ここで、MおよびNは、正の数である。1つの態様では、M%とN%を足すと、ほぼ100パーセントに等しくなる。この同等性は、光の損失およびセンサ・アセンブリ620R(620L)の様々な部品の許容差により、厳密なものではないこともある。
この態様では、画像取込みセンサ610R(610L)および615R(615L)はそれぞれ、カラー・フィルタ・アレイを有するカラー・センサである。カラー・フィルタ・アレイは、1つの態様では、ベイヤー・カラー・フィルタ・アレイである。したがって、2つのベイヤー・パターン画像取込みセンサ610R(610L)および615R(615L)は、同じシーンで同じ光学素子を透かし見ている。ここで、ベイヤー・パターン画像取込みセンサは、ベイヤー・カラー・フィルタ・アレイを含む単一のチップ・センサ、または単一のチップの一部である。上述のように、同一平面の画像取込みセンサ610R(610L)および615R(615L)は、共通の前端部光学構造を有し、各センサまでの光路長がほぼ同じである。既知のダイナミック・レンジを有する1対の同一平面の画像取込みセンサ610R(610L)および615R(615L)では、例えば、画像取込みセンサ610R(610L)および615R(615L)の利得を、ビーム・スプリッタ631R(631L)の構成に対応するように調節する。
通常は、第1の面631R(631L)のコーティングの特性の選択では、取り込んだ画像の輝度および/または取り込んだ画像の一部の輝度、画像取込みセンサ610R(610L)および615R(615L)の可能なダイナミック・レンジ、ならびに撮像パイプラインの能力を考慮する。本明細書で用いる撮像パイプラインとは、中央制御システム260(図2)の、取り込んだ画像を処理して立体視ディスプレイ251用の出力画像を生成する部分である。撮像パイプラインは、選択した実施態様に応じて、CCU230R(230L)の一部であってもよいし、デュアル画像エンハンス・モジュール240R(240L)の一部であってもよい。
通常の外科手術シーンの重要な領域において情報がクリッピングされないようにするために、この領域の最大輝度Bmaxを経験的に決定する。重要な領域は、シーン全体であっても、シーン全体の一部であってもよい。次いで、画像取込みセンサ610R(610L)のダイナミック・レンジを、例えば0からS1maxなどに決定する。表面631R(631L)上のコーティングによって反射される受光した光の一部Mは、以下のように選択される。
M≒(S1max/Bmax)
第1の面631R(631L)のコーティングによって反射される受光した光の割合M%は、第1の画像取込みセンサ610R(610L)に入射する光のダイナミック・レンジがクリッピングされないように選択される。したがって、この態様では、第1の画像取込みセンサ610R(610L)が取り込んだ画像の高輝度領域の画素の輝度がクリッピングされない。面631R(631L)のコーティングを透過する受光した光の割合はN%であり、ここで、N%は、100からM%を引いた値にほぼ等しい。第2の画像取込みセンサ615R(615L)の利得を、センサ615R(615L)のダイナミック・レンジがゼロから最大輝度Bmaxの約N%倍になるように調節する。
一例として、最大輝度Bmaxが400であるシーンを考慮する。画像取込みセンサ610R(610L)は、0から100のダイナミック・レンジを有する。したがって、以下のようになる。
M=100/400=1/4
M%=25%
N%=75%
したがって、第1の面631R(631L)のコーティングは、受光した光の約25%を反射し、受光した光の約75%を透過させるように選択される。画像取込みセンサ615R(615L)の利得は、0から300のダイナミック・レンジを有するように調節する。
センサ610R(610L)および615R(615L)によって取り込まれる2つの画像は、基本的に同時に得られる。センサ・アセンブリ620R(620L)が受光した光は、センサ610R(610L)上の輝度範囲が0から100(1/4×400)である画像と、センサ615R(615L)上の輝度範囲が0から300(3/4×400)である画像の2つの画像に分割される。シーンの高輝度領域の画素は、センサ615R(615L)が取り込んだ画像では飽和しない。同時に、センサ610R(610L)が取り込んだ画像は、シーンの暗い部分を保存して、正確に撮像する。なお、この例では、輝度が1であるシーン領域は、画像取込みセンサが1未満の値を保存しない場合には失われることがあることに留意されたい。ただし、これは400のうちのわずかであるので、立体視ディスプレイ251上で画像を見ている執刀医が気が付く可能性は低い。
状況によっては、大部分の光を受光するセンサを上限値で意図的に飽和させることによって、さらに良好な結果を得ることもできる。この場合、もう一方のセンサが暗すぎて値を記録できない下限値のレンジを拡大する。
プリズム・アセンブリ630R(630L)および反射ユニット540R(540L)は、両方のベイヤー・パターン画像取込みセンサ610R(610L)および615R(615L)が取り込んだカラー画像が異なる輝度範囲を有する同じシーンになるように配列されるときには、そのシーン内の空間中の各ポイントが、2つの画素で表される。この2つの画素とは、画像取込みセンサ610R(610L)が取り込むカラー画像中の1つの画素と、画像取込みセンサ615R(615L)が取り込むカラー画像中の1つの画素である。ただし、この2つの画素は、どちらの画素の輝度値もクリッピングされなければ互いにリニアスケールである異なる輝度値を有する。
この例では、最大輝度は、既知であるものと仮定した。ただし、臨床の状況では、立体視内視鏡の構造が固定され、全てのシーンが同じ最大輝度を有しているわけではない。したがって、最大輝度が500であるシーンで上述の構成を使用する場合には、このシーンの最も明るい部分の画素がクリッピングされる。それでも、ダイナミック・レンジは、従来技術の解決策よりは拡大されている。
シーン内の空間中の各ポイントごとに異なる輝度値を有する2つの画素を取り込むことには、空間中の各ポイントごとに1つの輝度値を有するような通常のカラー画像に優る利点がある。例えば、ディスプレイ251では、画素がそれぞれ空間中の1つのポイントの2つの画素に基づいているので、中間輝度領域のノイズ・レベルが低下し、ダイナミック・レンジが従来技術より拡大する。上述した空間解像度の利点に加えて、これらの利点がある。
中央制御装置260内のデュアル画像エンハンス・モジュール240R(240L)から立体視ディスプレイ251への各出力画素は、ベイヤー・パターン画像取込みセンサ610R(610L)および615R(615L)が取り込んだそれぞれの画像から1つずつ取った、2つの画素のサンプリングに基づいている。上述のように、デュアル画像エンハンス・モジュール240R(240L)が入力の2つの画素をサンプリングすることにより、1つの画像取込みセンサからの画像のみを中央制御装置260が処理する場合には撮像できない小さなフィーチャの撮像が可能になる。さらに、1つの態様では、デュアル画像エンハンス・モジュール240R(240L)のトーン・マッピング・プロセスにより、取得した画像の領域をマッピングして、コントラストを保存し、立体視ディスプレイ251の出力ダイナミック・レンジに合わせる。トーン・マッピングでは、元のシーンの内容を最もよく表現するために重要な、画像のコントラストおよび色の見た目を保存しながら、取り込んだ画像の輝度を表示可能な範囲にマッピングする。トーン・マッピングは、従来技術の技術と同様であるが、画素値を1つずつ順にサンプリングするのではなく、空間および時間の同一点について2つの画素値をサンプリングすることによってエンハンスされている点が異なる。
上記の例では、0から400の輝度値が、トーン・マッピングによって立体視ディスプレイ251の出力ダイナミック・レンジ(コントラスト比)にマッピングされる。飽和していない画素については、センサ615R(615L)が取り込んだ画像の輝度値は、空間中の同じポイントについてセンサ610R(610L)が取り込んだ画像の輝度値の3倍である。トーン・マッピング・プロセスでは、この関係を利用して、立体視ディスプレイ251に出力される画像の画素の輝度を決定する。周囲の画素についての情報に基づいて、トーン・マッピングは、コントラストを維持するように個々の画素のグループ/領域を処理し、それによりノイズ・レベルおよびダイナミック・レンジを低下させる。
従来技術の0から100の輝度範囲を、1から400の輝度範囲に拡大して、全体的なダイナミック・レンジの利得を向上させている。2つの画像を結合し、二重サンプリングを利用することにより、中間輝度領域のノイズを低下させると同時に、ダイナミック・レンジ全体を増大させることができる。
図6Aの態様および図6Aに関連して上述した各例では、立体視チャネルの画像取込みセンサは、同一平面である。これは単なる例示であり、限定を目的としたものではない。例えば、これらの画像取込みセンサのうちの第1の画像取込みセンサが、第1の平面内にセンサ上面を有し、これらの画像取込みセンサのうちの第2の画像取込みセンサが、第2の平面内にセンサ上面を有していてもよい(図9参照)。第1の平面と第2の平面は互いに平行であり、既知の距離だけ離間している。ビーム・スプリッタと反射ユニット内の反射面との間の間隔を調節して、第1の画像取込みセンサまでの第1の光路長が第2の画像取込みセンサまでの第2の光路長とほぼ等しくなるように、上記の既知の距離を補償する。したがって、2つの光路長はほぼ等しいままであるので、上述の図6Aの各態様は、そのままこの構成に適用可能である。
色性能のエンハンス
現在では、ほとんどの撮像システムで、3つの可視色成分、すなわち赤、緑および青(RGB)を使用しており、これは3原色モデルと呼ばれる。ほとんどのカメラでは、RGB型カラー・フィルタ・アレイを有するベイヤー・カラー・フィルタ・アレイ型画像取込みセンサを使用している。3原色モデルは、ほとんどの液晶ディスプレイ(LCD)およびプラズマ・ディスプレイでも使用されている。
3原色モデルは、実際には、カメラが取り込み、ディスプレイに提示することができる色相の範囲を制限する。追加の原色を使用することにより、さらに知覚的に正確な画像の取込みおよび表示が可能になる。Sharp Electronics社(Sharp)は、4色画素技術を用いた発光ダイオード(LED)背面照明LCDテレビジョンを販売している。Sharpは、従来の赤、緑および青のカラー・フィルタ・アレイに黄色を追加することで、より豊かな色の表示を可能にしている。
カメラによって1つの画像中で追加の色成分を取り込むことにより、より忠実な色表現が可能になる。ただし、取り込む色成分が増えれば、黄色や橙などの新たな色を含むように従来の赤/緑/緑/青(RGGB)のベイヤー・カラー・フィルタ・アレイを変更する必要がある。すなわち、カラー・フィルタ・アレイを赤/橙/緑/黄/緑/青(ROGYGB)に変更する必要がある。しかし、所与の数の画素を有する画像取込みセンサでは、この6成分カラー・フィルタ・アレイでは、カメラの空間解像度が低下し、画像センサ上でのプリンティングに適した新たなマスクおよび色素を開発する必要がある。黄色または橙色の選択は、ディスプレイに合わせて最適化されることになる。
画像取込みユニット725R(725L)と組み合わせて適当な照明器を使用することにより、例えば、空間解像度を低下させることなく、また画像センサ上でのプリンティングに適した新たなマスクおよび色素の開発を必要とすることなく、画素あたり最大6色の色成分ベクトルが得られる。この特性は、以下でさらに完全に述べるように、いくつかの方法で実現される。この特性は、モザイク解除処理後に画素あたり3色から6色の色成分ベクトルを提供するだけでなく、被写界深度が拡大した画像も提供し、さらにエンハンスされた蛍光撮像能も提供する。
図7Aは、画像取込みユニット725R(725L)と、照明器710B(図7B)、照明器710C(図7C)、照明器710D(図7D)および照明器710E(図7E)のうちの1つから光を供給する照明チャネル705とを備える、立体視内視鏡702の遠位端部を示す概略図である。照明器がどのようにして照明チャネルに結合されるかについては、図2を参照されたい。矢印735が示すように、遠位方向は、組織703に向かう方向であり、近位方向は、組織703から離れる方向である。
各画像取込みユニット725R、725Lは、レンズ・アセンブリ701R、701L、およびセンサ・アセンブリ720R、720Lを含む。センサ・アセンブリ720R、720Lは、レンズ・アセンブリ701R、701Lを通過した光を受光するように位置決めされる。各センサ・アセンブリ720R、720Lは、1つの態様では、プリズム・アセンブリ730R、730L、反射ユニット740R、740L、および同一平面画像取込みセンサ(710R、715R)、(710L、715L)を含む。立体視内視鏡702は、内視鏡702と呼ばれることもある。
以下の記述では、立体視内視鏡702の右チャネルの光路について述べる。立体視内視鏡702の左チャネルの光路は、内視鏡702の対称性により右チャネルの光路と同じであるので、以下の記述では、左チャネルの参照番号を、右チャネルの要素の説明の後の括弧内に記載する。これは、その記述が左チャネルの対応する要素にも当てはまることを示している。また、図7Aでは、図5Aおよび図5Bの要素と同じ参照番号を有する要素は、図5Aおよび図5Bに関連して上述した要素と同じまたは等価な要素である。繰り返しを避けるために、同じ参照番号を有する要素について、図7Aで再度詳細に述べることはしない。
以下に述べる様々な態様それぞれの画像取込みユニット725L、725Rの基本構造を、図7Aに示す。プリズム・アセンブリ730R(730L)、反射ユニット540R(540L)、画像取込みセンサ710R(710L)、および画像取込みセンサ715R(715L)の間の空間的関係および位置合わせは、図7Aに関連して考慮する様々な各態様で同じである。ただし、プリズム・アセンブリ730R(730L)のコーティングされた第1の面731R(731L)のコーティング、画像取込みセンサのタイプ、および画像取込みセンサで使用されるフィルタは、以下でさらに完全に述べるように、態様ごとに変わる可能性がある。
組織703からの反射光は、レンズ・アセンブリ701R(701L)内のレンズ素子704R(704L)および遮蔽体570R(570L)を通過する。レンズ・アセンブリ401B(図4B)内の要素は、レンズ素子704R(704L)の例である。レンズ・アセンブリ701R(701L)を通過する光は、プリズム・アセンブリ730R(730L)によって受光され、ビーム・スプリッタ731R(731L)に進入する。ビーム・スプリッタ731R(731L)は、この態様では、受光した光の第1の部分を反射し、受光した光の第2の部分を反射ユニット540R(540L)まで通過させるようなコーティングされた第1の面として実装される。
コーティングされた第1の面731R(731L)によって反射された光は、プリズム・アセンブリ730R(730L)内の第2の面732R(732L)によって受光され、第2の面732R(732L)は、この光を、例えば反射するなどして、第1の画像取込みセンサ710R(710L)に向けて送る。表面732R(732L)は、コーティング面または内部全反射面のいずれかとすることができる。コーティングされた第1の面731R(731L)を透過した光は、反射ユニット540R(540L)の第3の面541R(541L)によって受光され、第3の面541R(541L)は、この光を、例えば反射するなどして、第2の画像取込みセンサ715R(715L)に向けて送る。
第2の面732R(732L)は、コーティングされた第1の面731R(731L)によって反射された光以外の光が第2の面732R(732L)に入射しないように位置決めされる。1つの態様では、コーティングされた第1の面731R(731L)への光の入射角は、45度未満である。
1つの態様では、プリズム・アセンブリ730R(730L)および反射ユニット740R(740L)は、プリズム・アセンブリ730R(730L)を含むペンタプリズムを有するプリズム構造に含まれる。この態様では、このプリズム構造は、以下にさらに完全に述べるように、複数のノッチ・フィルタを含む埋込みコーティング面431Bを有するプリズム構造460(図4B)と等価である。したがって、プリズム構造460に関する記述が、この態様で使用されるプリズム構造にも当てはまる。
1つの態様では、コーティングされた第1の面731R(731L)によって反射される第1の部分は、受光した光に含まれる複数の色成分のうちの第1の選択された波長を含み、コーティングされた第1の面731R(731L)を透過する第2の部分は、受光した光に含まれる複数の色成分のうちの第2の選択された波長を含む。受光した光に含まれる複数の色成分のうちの第1の選択された波長は、受光した光に含まれる複数の色成分のうちの第2の選択された波長とは異なる。1つの態様では、コーティングされた第1の面731R(731L)は、複数のノッチ・フィルタを含む。これらのノッチ・フィルタが、受光した光を第1の部分と第2の部分とに分離する。
画像取込みセンサ710R(710L)および715R(715L)は、同一平面にある。1つの態様では、遮蔽体570R(570L)からコーティングされた第1の面731R(731L)および第2の面732R(732L)を経由して画像取込みセンサ710R(710L)に至る第1の光路長は、遮蔽体570R(570L)からコーティングされた第1の面731R(731L)および第3の面741R(741L)を経由して画像取込みセンサ715R(715L)に至る第2の光路長とほぼ等しい。この場合も、遮蔽体570R(570L)から始まる光路長の定義は例示であり、限定を目的としたものではない。光路長は、受光した光がプリズム・アセンブリ630R(630L)に進入するプリズム・アセンブリ730R(730L)の遠位面を基準にする、レンズ・アセンブリ701R(701L)内の最初の要素を基準にする、またはコーティングされた第1の面731R(731L)を基準にするなど、様々に定義することができる。
したがって、同一平面の画像取込みセンサ710R(710L)および715R(715L)は、共通の前端部光学構造を有し、各センサまでの光路長はほぼ同じである。第1の画像取込みセンサ710R(710L)は、センサ・アセンブリ720R(720L)が受光した光の第1の部分から画像を取り込む。第2の画像取込みセンサ715R(715L)は、受光した光の第2の部分から画像を取り込む。以下でさらに完全に述べるように、1つの態様では、画像取込みセンサ710R(710L)および715R(715L)はそれぞれ、標準的なカラー・フィルタ・アレイを有するカラー・センサである。別の態様では、これらのカラー・センサのうちの一方のカラー・フィルタ・アレイおよびセンサ機能は、内視鏡702が受光した光に基づいて選択される。
制御装置260は、画像取込みセンサ710R(710L)が取り込んだ第1の画像および画像取込みセンサ715R(715L)が取り込んだ第2の画像を処理し、立体視ディスプレイ251用の出力画像を生成する。制御装置260は、出力画像の各画素ごとにN色成分ベクトルを生成する。ここで、Nは3から6の範囲である。出力画像の画素の色成分ベクトルは、第1の画像中の対応する画素(または複数の画素の何らかの組合せ)の色成分ベクトル、および第2の画像中の対応する画素の色成分ベクトルから生成される。なお、出力画像の各画素は、画像取込みセンサが取り込んだシーン内の空間中のポイントを表していることに留意されたい。出力画像中の画素に対応する両取込み画像中の画素は、空間中の同じポイントを表す画素である。
色性能のエンハンス(6色成分照明)
第1の態様では、6色成分照明器710B(図7B)は、照明チャネル705(図7A)に結合される。照明器710Bは、赤色成分R1、赤色成分R2、緑色成分G1、緑色成分G2、青色成分B1、および青色成分B2をそれぞれ生成する、6個のレーザ照明源710B1から710B6を含む。これらのレーザ照明源では、赤色成分R1およびR2、緑色成分G1およびG2、ならびに青色成分B1およびB2の波長は、従来の発光ダイオード型照明器では色成分ごとに約60ナノメートル(nm)であるのに対して、通常2から5nmの幅を有する。照明源710B1用のミラーおよび照明源710B2から710B6用のダイクロイック・ミラーを有する複数の照明源を備えた照明器の構成は既知であるので、本明細書ではこれ以上詳細に考慮しない。例えば、参照により本明細書に組み込む米国特許出願第12/855905号(「デュアル・スペクトル蛍光を用いる外科手術用照明器」、2010年8月13日出願)を参照されたい。
この態様では、プリズム・アセンブリ730R(730L)のコーティングされた第1の面731R(731L)は、複数のノッチ・フィルタを含む。第1のノッチ・フィルタは、受光した光の赤色成分R1を反射し、受光した光の赤色成分R2を透過させる。第2のノッチ・フィルタは、受光した光の緑色成分G1を反射し、受光した光の緑色成分G2を透過させる。第3のノッチ・フィルタは、受光した光の青色成分B1を反射し、受光した光の青色成分B2を透過させる。3つのノッチ・フィルタを使用するというのは、説明を容易にするためのものであり、3つの別個のフィルタに限定することを意図しているわけではない。この記述に鑑みて、当業者なら、ここで述べる反射特性および透過特性を有するノッチ・フィルタを実装することができる。コーティング設計でもノッチは実装される。例えば、米国ニューヨーク州RochesterのSemrock Products社の「Stopline」および「Quad−Notch」の系列の製品を参照されたい。
したがって、コーティングされた第1の面731R(731L)は、受光した光の赤色成分R1、受光した光の緑色成分G1、および受光した光の青色成分B1を、第2の面732R(732L)に反射する。第2の面732R(732L)は、コーティングされた第1の面731R(731L)から受光した赤色成分R1、緑色成分G1および青色成分B1を、画像取込みセンサ710R(710L)に反射する。
コーティングされた第1の面731R(731L)は、受光した光の赤色成分R2、受光した光の緑色成分G2、および受光した光の青色成分B2を、反射ユニット540R(540L)内の第3の面541R(541L)まで透過させる。第3の面541R(541L)は、コーティングされた第1の面731R(731L)から受光した赤色成分R2、緑色成分G2および青色成分B2を、画像取込みセンサ715R(715L)に反射する。
画像取込みセンサ710R(710L)および715R(715L)はそれぞれ、この態様では、カラー・フィルタ・アレイを有するカラー・センサである。カラー・フィルタ・アレイは、赤/緑/緑/青(RGGB)のベイヤー・カラー・フィルタ・アレイである。したがって、2つのベイヤー・パターン画像取込みセンサが、同じシーンで同じ光学素子を透かし見ている。ここで、ベイヤー・パターン画像取込みセンサは、ベイヤー・カラー・フィルタ・アレイを含む単一のチップ・センサ、または単一のチップの一部である。上述のように、同一平面の画像取込みセンサ710R(710L)および715R(715L)は、共通の前端部光学構造を有し、各センサまでの光路長がほぼ同じである。
プリズム・アセンブリ730R(730L)および反射ユニット540R(540L)が、両ベイヤー・パターン画像取込みセンサ710R(710L)および715R(715L)によって取り込まれたカラー画像が同じシーンになるように構成されるときには、画像取込みセンサ710R(710L)が取り込むカラー画像は、画像取込みセンサ715R(715L)が取り込むカラー画像と同じフル解像度を有する。したがって、そのシーン内の空間中の各ポイントは、異なる3色成分ベクトルをそれぞれ有する2つの画素で表される。センサ・アセンブリ720R(720L)と、したがって画像取込みユニット725R(725L)とは、光または空間解像度の損失を生じることなく、6つの原色成分を有するフル解像度画像を取得している。
中央制御装置260内のデュアル画像エンハンス・モジュール240R(240L)から立体視ディスプレイ251に出力される各画素の色成分ベクトルは、その画素の6つの原色成分から導出される。これにより、解像度の損失を生じることなく、例えば各画素について4要素ベクトルで立体視ディスプレイを駆動することが可能になる。デュアル画像エンハンス・モジュール240R(240L)は、2つの取り込まれた画像をサンプリングし、色補正行列を適用して、立体視ディスプレイ251が必要とする画素ベクトルを生成する。
立体視ディスプレイ251に送信される色成分ベクトルは、シーンのスペクトルの内容をより正確に表現するために、4つ以上の色成分を有することもできる。実際の使用に際しては、色ベクトルと呼ばれることもある色成分ベクトルで使用される色成分の数は、ディスプレイで使用される色成分の数と一致する。Sharp社は、5色成分のディスプレイも発表している。
別の態様では、例えば、蛍光を励起したときに、その蛍光が可視スペクトル内にあることもあることに留意されたい。例えば、フルオレセインは、490nmの青い光で励起して、主に520nmから530nmの範囲で蛍光を発することができる。したがって、この態様では、例えば490nmの励起レーザ・モジュールからの反射照明の透過を阻止する色フィルタが、コーティングされた第1の面731R(731L)に含まれる。青色波長のノッチ・フィルタは、フルオレセインによる蛍光が画像取込みセンサ715R(715L)まで通過するように、色成分B1を反射し、その他の青色波長は通過させるように構成される。赤および緑の色成分のノッチ・フィルタおよび照明器の照明構成要素は、反射された色成分R1、B1およびG1が第1の画像取込みセンサ710R(710L)によって取り込まれるように選択される。残りの色は、第2の画像取込みセンサ715R(715L)に送られる。なお、励起レーザ成分B1は、第1の画像取込みセンサ710R(710L)の青画素を飽和させることがあるが、これは、フルオレセインによる蛍光が第2の画像取込みセンサ715R(715L)によって取り込まれるので許容可能であることに留意されたい。
別の態様では、制御装置260内のデュアル画像エンハンス・モジュール240R(240L)の色補正モジュール241R(241L)は、第1の画像の3つの色画素と、第2の画像の3つの色画素とを使用して、Sharp製5色ディスプレイの5色成分出力ベクトル、例えば赤/赤の補色/黄/緑/青(RR’YGB)色成分を生成する。色補正行列は、6要素の取得色空間からディスプレイの5要素の色空間への所望のマッピングを行うように設定される。
さらに詳細には、中央制御装置260内のデュアル画像エンハンス・モジュール240R(240L)の色補正モジュール241R(241L)は、第1および第2の画像取込みセンサ710R(710L)および715R(715L)に結合される。カメラ制御ユニット230R(230L)は、第1の画像取込みセンサ710R(710L)が取り込んだ第1の画像をモザイク解除処理し、第2の画像取込みセンサ715R(715L)が取り込んだ第2の画像をモザイク解除処理する。モザイク解除処理された画像の各画素は、3要素色ベクトルを有する。色補正モジュール241R(241L)は、この2つのモザイク解除処理された画像を受け取る。2つのモザイク解除処理された画像からの3要素色ベクトルを結合して、各画素ごとにN要素色成分ベクトルを生成する。ここで、Nは3以上であり、この例では6である。次いで、色補正モジュール241R(241L)の色補正行列が、出力画像の画素のM要素色成分ベクトルを、それに対応する画素のN要素色成分ベクトルから生成する。なお、Mが3であるときには、2つの取り込んだ画像を利用して解像度などを高める上述のプロセスも適用することができることに留意されたい。
色性能のエンハンス(白色広帯域照明)
第2の態様では、白色広帯域照明器710C(図7C)は、照明チャネル705(図7A)に結合される。1つの例では、照明器710Cは、楕円形の背面反射器および帯域フィルタ・コーティングを有するキセノン・ランプ710C1を使用して、赤外線成分をほとんど含まない広帯域の白色照明光を生成する。キセノン・ランプを使用することは単なる例示であり、限定を目的としたものではない。例えば、高圧水銀アーク・ランプ、その他のアーク・ランプ、またはその他の広帯域光源を使用することができる。
この態様では、プリズム・アセンブリ730R(730L)のコーティングされた第1の面731R(731L)は、複数のノッチ・フィルタを含むフィルタ790F(図7F)を有する。第1のノッチ・フィルタ791Fは、受光した光の赤色成分Rの第1の部分R1を反射し、受光した光の赤色成分Rの第1の部分R1の補色R1’を透過させる。第2のノッチ・フィルタ792Fは、受光した光の緑色成分Gの第1の部分G1を反射し、受光した光の緑色成分Gの第1の部分G1の補色G1’を透過させる。第3のノッチ・フィルタ793Fは、受光した光の青色成分Bの第1の部分B1を反射し、受光した光の青色成分Bの第1の部分B1の補色B1’を透過させる。3つのノッチ・フィルタを使用するというのは、説明を容易にするためのものであり、3つの別個のフィルタに限定することを意図しているわけではない。3つの別個のノッチ・フィルタは、本明細書に記載する反射特性および透過特性を有する1つのマルチ・ノッチ・フィルタとみなすこともできる。
したがって、コーティングされた第1の面731R(731L)は、受光した光の赤色成分R1、受光した光の緑色成分G1、および受光した光の青色成分B1を、第2の面732R(732L)に反射する。第2の表面732R(732L)のコーティング表面は、コーティングされた第1の面731R(731L)から受光した全ての波長を、画像取込みセンサ710R(710L)に反射する。
コーティングされた第1の面731R(731L)は、受光した光の赤色成分R1’、受光した光の緑色成分G1’、および受光した光の青色成分B1’を、反射ユニット540R(540L)内の第3の面541R(541L)まで透過させる。第3の面541R(541L)のコーティング面は、コーティングされた第1の面731R(731L)から受光した全ての波長を、画像取込みセンサ715R(715L)に反射する。
画像取込みセンサ710R(710L)および715R(715L)はそれぞれ、この態様では、カラー・フィルタ・アレイを有するカラー・センサである。カラー・フィルタ・アレイは、RGGBのベイヤー・カラー・フィルタ・アレイである。したがって、2つのベイヤー・パターン画像取込みセンサが、同じシーンで同じ光学素子を透かし見ている。ここで、ベイヤー・パターン画像取込みセンサは、ベイヤー・カラー・フィルタ・アレイを含む単一のチップ・センサ、または単一のチップの一部である。上述のように、同一平面の画像取込みセンサ710R(710L)および715R(715L)は、共通の前端部光学構造を有し、各センサまでの光路長がほぼ同じである。
プリズム・アセンブリ730R(730L)および反射ユニット540R(540L)が、両ベイヤー・パターン画像取込みセンサ710R(710L)および715R(715L)によって取り込まれたカラー画像が同じシーンになるように構成されるときには、画像取込みセンサ710R(710L)が取り込むカラー画像は、画像取込みセンサ715R(715L)が取り込むカラー画像と同じフル解像度を有する。したがって、そのシーン内の空間中の各ポイントは、異なる3色成分ベクトルをそれぞれ有する2つの画素で表される。したがって、センサ・アセンブリ720R(720L)は、ノッチ・フィルタによる光の損失を生じることなく、画素あたり6つの原色成分(第1の取り込まれた画像から3つ、第2の取り込まれた画像から3つ)を有するフル解像度画像を取得している。
中央制御装置260内のデュアル画像エンハンス・モジュール240R(240L)から立体視ディスプレイ251への各出力画素の色成分ベクトルは、その画素の6つの原色成分から導出される。これにより、解像度の損失を生じることなく、例えば各画素ごとに4要素色ベクトルを用いて立体視ディスプレイを駆動することが可能になる。デュアル画像エンハンス・モジュール240R(240L)は、2つの画像をサンプリングし、色補正行列を適用して、立体視ディスプレイ251が必要とする画素ベクトルを生成する。
この態様では、コーティングされた第1の面731R(731L)のコーティング(ノッチ・フィルタ)は、色分離を選択する柔軟性を提供する。コーティングされた第1の面731R(731L)の色分離は、当然のことながら、画素のRGGBパターンによって倍加される。したがって、コーティングされた第1の面731R(731L)が例えば黄色を分離する場合には、これにより緑および赤の画素の両方が励起され、次いでこれが撮像パイプラインの色補正行列プロセスで回復されることが予想される。同様に、コーティングされた第1の面は、例えば、蛍光スペクトルの青色波長は通過させるが、その他の全ての青色の波長は反射するように構成することができる。
上述のように、色補正行列は、画素ごとに6要素ベクトル(画像取込みセンサ710R(710L)が取り込んだ第1の画像の対応する画素の3色成分ベクトルに、画像取込みセンサ715Rが取り込んだ第2の画像の対応する画素の3色成分ベクトルを足したもの)に作用して、ディスプレイと同じ数の色成分(「通常の」LCDでは、赤/緑/青(RGB)色成分、Sharp製色ディスプレイでは、赤/赤の補色/黄/緑/青(RR’YGB)色成分)を有する出力色成分ベクトルを生成する。
さらに詳細には、中央制御装置260内のデュアル画像エンハンス・モジュール240R(240L)の色補正モジュール241R(241L)は、第1および第2の画像取込みセンサ710R(710L)および715R(715L)に結合される。カメラ制御ユニット230R(230L)は、第1の画像取込みセンサ710R(710L)が取り込んだ第1の画像をモザイク解除処理し、各画素ごとにN要素色ベクトルを生成する。ここで、Nは、通常は3である。カメラ制御ユニット230R(230L)は、同様に、第2の画像取込みセンサ715R(715L)が取り込んだ第2の画像もモザイク解除処理して画素にする。ここで、各画素は、第2のN要素色ベクトルによって表される。次いで、デュアル画像エンハンス・モジュール240R(240L)が、この2つのN要素色ベクトルを、色補正モジュール241R(241L)によって2N(通常は6)色ベクトルとして処理して、所望の数の色成分を有する出力色ベクトルを各画素ごとに生成する。通常の液晶ディスプレイ用の出力色ベクトルは、3つの色成分を有する。5原色のSharp製ディスプレイでは、出力色ベクトルは、5要素色ベクトルとなる。個々の色補正行列は、何らかのメトリックによる最良の色性能を達成するための最適化に基づいて選択される。このメトリックは、例えば、何らかの組織の種類の組についてキセノン照明を用いて人間の観察者が見る色と一致することができる。
色性能のエンハンス(白色広帯域照明および被写界深度のエンハンス)
第3の態様では、照明器710C(図7C)は、照明チャネル705(図7A)に結合される。照明器710Cは、上述したものと同じであるので、ここで同じ説明を繰り返すことはしない。したがって、シーンは、照明器710Cからの広帯域白色光によって照明される。
上述のように、組織703からの反射光は、レンズ素子704R(704L)および遮蔽体570R(570L)を通過する。この態様では、レンズ素子704R(704L)は、図7Aに関連するその他の態様について上記で考慮したレンズ素子とは異なる。他の態様では、レンズ素子704R(704L)は、様々な色成分がほぼ同じ平面上に合焦するように、縦色収差を補償するように設計される。この態様では、レンズ素子704R(704L)は、縦色収差を補償しない。その代わりに、レンズ素子704R(704L)は、異なる波長の光をレンズから異なる距離のところに合焦させるように設計される、すなわち、有意な制御された量の縦色(longitudinal color)を有するように設計される。例えば、レンズ・アセンブリ401B(図4B)内のレンズ群482および484は、有意な制御された量の縦色を有するように設計される。このようなレンズ群は、当業者には既知であるので、ここではこれ以上詳細には考慮しない。
この態様では、プリズム・アセンブリ730R(730L)のコーティングされた第1の面731R(731L)は、上述のフィルタ790F(図7F)を含む。繰り返しを避けるために、フィルタ790Fに関する上記の説明をここで繰り返すことはしない。
したがって、コーティングされた第1の面731R(731L)は、受光した光の赤色成分R1、受光した光の緑色成分G1、および受光した光の青色成分B1を、第2の面732R(732L)に反射する。第2の面732R(732L)のコーティング面は、コーティングされた第1の面731R(731L)から受光した全ての波長を、画像取込みセンサ710R(710L)に反射する。
コーティングされた第1の面731R(731L)は、受光した光の赤色成分R1’、受光した光の緑色成分G1’、および受光した光の青色成分B1’を、反射ユニット540R(540L)内の第3の面541R(541L)まで透過させる。第3の面541R(541L)のコーティング面は、コーティングされた第1の面731R(731L)から受光した全ての波長を、画像取込みセンサ715R(715L)に反射する。
この場合も、画像取込みセンサ710R(710L)および715R(715L)はそれぞれ、この態様では、カラー・フィルタ・アレイを有するカラー・センサである。カラー・フィルタ・アレイは、RGGBのベイヤー・カラー・フィルタ・アレイである。したがって、2つのベイヤー・パターン画像取込みセンサが、同じシーンで同じ光学素子を透かし見ている。ここで、ベイヤー・パターン画像取込みセンサは、ベイヤー・カラー・フィルタ・アレイを含む単一のチップ・センサ、または単一のチップの一部である。上述のように、同一平面の画像取込みセンサ710R(710L)および715R(715L)は、共通の前端部光学構造を有し、各センサまでの光路長がほぼ同じである。
プリズム・アセンブリ730R(730L)および反射ユニット540R(540L)が、両ベイヤー・パターン画像取込みセンサ710R(710L)および715R(715L)によって取り込まれたカラー画像が同じシーンになるように構成されるときには、画像取込みセンサ710R(710L)が取り込むカラー画像は、画像取込みセンサ715R(715L)が取り込むカラー画像と同じフル解像度を有する。したがって、そのシーン内の空間中の各ポイントは、異なる3要素ベクトルをそれぞれ有する2つの画素で表される。したがって、センサ・アセンブリ720R(720L)は、ノッチ・フィルタによる光の損失を生じることなく、空間中の各ポイントごとに6つの原色成分(第1の取り込まれた画像から3つ、第2の取り込まれた画像から3つ)を有するフル解像度画像を取得している。ただし、縦色により、これらの取り込まれた画像は、取得した6つの原色それぞれが異なる量だけ不鮮明である。
したがって、この態様では、デュアル画像エンハンス・モジュール240R(240L)は、第1および第2の画像それぞれについてデジタル・フィルタ・カーネルを有する。デジタル・フィルタ・カーネルは、既知の縦色収差に基づいて取り込んだ画像を処理して、画像の鮮鋭度および焦点をエンハンスする、すなわち第3および第4の画像を生成する。第3および第4の画像を、モザイク解除処理する。その結果得られたモザイク解除処理された第3の画像および第4の画像はそれぞれ、レンズ・アセンブリから一定の距離範囲のところで合焦させ、従来の全ての色成分を合焦させるレンズ設計で得られる被写界深度より大きな被写界深度を有する画像が得ることができる。デジタル・フィルタ・カーネルは、当業者には既知である。この手法は、波長に対して平滑な反射率曲線を有する表面でうまく機能するが、これはほとんどの組織に当てはまる。
中央制御装置260内のデュアル画像エンハンス・モジュール240R(240L)から立体視ディスプレイ251への各出力画素のベクトルは、モザイク解除処理された第3および第4の画像の画素の6つの原色成分から導出される。デュアル画像エンハンス・モジュール240R(240L)は、デジタル・フィルタ・カーネルによって作成された第3の画像および第4の画像をサンプリングし、色補正行列を適用して、立体視ディスプレイ251が必要とする画素ベクトルを生成する。その結果得られた結合画像は、従来のレンズ系で得られる画像より場合によっては3倍大きい被写界深度を有する。
色性能のエンハンス(3色成分照明および蛍光)
第4の態様では、照明器710D(図7D)は、照明チャネル705(図7A)に結合される。照明器710Dは、赤色成分R1、緑色成分G1および青色成分B1をそれぞれ生成する、3つのレーザ照明源710D1から710D3を含む。本明細書では、3つのレーザ照明源710D1から710D3を3つのレーザ照明モジュールと呼ぶこともある。複数の異なる照明源、照明源710D1用のミラーならびに照明源710D2および710D3用のダイクロイック・ミラーを有する照明器の構成は、既知である。これらのレーザ照明源では、赤色成分R1、緑色成分G1および青色成分B1の波長は、従来の発光ダイオード型照明器では色成分ごとに約60nmであるのに対して、通常2から5ナノメートル(nm)の幅を有する。
赤色レーザ、緑色レーザおよび青色レーザからの光は、組織703で反射される。反射された色成分R1、G1およびB1の強度は、組織の反射率関数によって変調される。照明器710Dからの3つの反射色成分に加えて、組織703が他の光を発することもある。例えば、これらのレーザのうちの1つの光が、蛍光を励起することがある。例えば、スペクトル795G(図7G)を参照されたい。3つのピークは、組織703で反射された、照明器710Dの赤色レーザ、緑色レーザおよび青色レーザからの光である。このスペクトルの赤領域の比較的小さい幅広のピークが、蛍光である。スペクトル795Gは、内視鏡702に進入する光の視覚化を補助するために示されるものであり、いかなる実際のデータも表してはいない。
センサ・アセンブリ720R(720L)は、第1の画像取込みセンサ710R(710L)によるカラー画像の取込みを可能にし、そのカラー画像と関連のない全ての光を第2の画像取込みセンサ715R(715L)に転送できるようにする。したがって、以下でさらに完全に説明するように、センサ・アセンブリ720R(720L)は、可視または近赤外線領域のほぼ全ての波長で蛍光を実時間で撮像することも可能にし、組織の自然蛍光の撮像も可能にする。
蛍光マーカを、近赤外線スペクトルの波長を発するような照明器710E内のレーザ710E4などの狭帯域源で刺激することもできる。ただし、この蛍光発光スペクトルは、ある範囲の波長である。蛍光発光スペクトルの形状は、蛍光の励起波長の範囲内の励起波長にそれほど依存しない。
したがって、1つの態様では、蛍光は、照明器710E内のレーザ・モジュール710E4からの光によってトリガされる。一例として、Medarex社製の抗体剤を、525nmレーザを用いて励起した。別の態様では、照明器710Dは、赤色成分R1、緑色成分G1および青色成分B1を生成する3つのレーザ・モジュールに加えて、1つまたは複数の光モジュールを含む。追加の光モジュールの数およびタイプは、関心のある1つまたは複数の蛍光の蛍光励起波長に基づいて選択される。
複合光源210用に選択される特定の蛍光励起源は、使用する1つまたは複数の蛍光物質によって決まる。生体内で使用される様々なFDA承認蛍光色素の励起極大および発光極大を、表1に示す。
Figure 2020168569

表2は、生物系で使用される一般的な蛍光蛋白質の例を示す表である。
Figure 2020168569

当業者なら、蛍光物質が、患者の特定の組織と結び付く作用物質と結合することができることは分かる。特定の蛍光物質を選択したとき、照明器710D内の3つの可視色成分レーザ・モジュールのうちの1つが必要な励起波長を供給しない場合には、別のレーザ・モジュール710E4を照明器710Dに追加して、その蛍光物質の励起極大波長を有する光を供給する照明器710Eを得ることができる。したがって、関心のある1つまたは複数の蛍光物質および使用する異なる蛍光物質の数が与えられれば、適当な光源を照明器710Dに含めて、そのシーンのカラー画像の照明を行い、蛍光を励起することができる。
上記の表1および2の例は、単なる例示であり、記載した具体的な例にこの態様を限定することを意図したものではない。本開示に鑑みて、組織の代替の撮像特性を選択して、利用する蛍光に基づいて適当な光源を選択することができる。
この態様では、プリズム・アセンブリ730R(730L)のコーティングされた第1の面731R(731L)、すなわちビーム・スプリッタは、複数のノッチ・フィルタを含むフィルタ790H(図7H)を有する。第1のノッチ・フィルタ791Hは、受光した光の赤色成分R1を反射し、受光した光の赤色成分Rの他の波長を透過させる。第2のノッチ・フィルタ792Hは、受光した光の緑色成分G1を反射し、受光した光の緑色成分Gの他の波長を透過させる。第3のノッチ・フィルタ793Hは、受光した光の青色成分B1を反射し、受光した光の青色成分Bの他の波長を透過させる。3つのノッチ・フィルタを使用するというのは、説明を容易にするためのものであり、3つの別個のフィルタに限定することを意図しているわけではない。3つの別個のノッチ・フィルタは、本明細書に記載する反射特性および透過特性を有する1つのマルチ・ノッチ・フィルタとみなすこともできる。
したがって、コーティングされた第1の面731R(731L)は、受光した光の赤色成分R1、受光した光の緑色成分G1、および受光した光の青色成分B1を、第2の面732R(732L)に反射する。第2の面732R(732L)は、コーティング面731R(731L)から受光した全ての波長を、画像取込みセンサ710R(710L)に反射する。
コーティングされた第1の面731R(731L)は、受光した光の赤色成分R1以外の赤色光、受光した光の緑色成分G1以外の緑色光、および受光した光の青色成分B1以外の青色光を、反射ユニット540R(540L)内の第3の面541R(541L)まで透過させる。第3の面541R(541L)は、コーティング面731R(731L)から受光した全ての波長を、画像取込みセンサ715R(715L)に反射する。
このように、画像取込みセンサ710R(710L)は、レーザ照明されたシーンのRGB画像を取得する。これはカラー画像である。残りの全ての光は、画像取込みセンサ715R(715L)上に反射される。この光は、照明以外の光源からの光であるはずである。例えば、組織による自然蛍光がある場合、その蛍光は、画像取込みセンサ715R(715L)によって取り込まれる。画像取込みセンサ715R(715L)がカラー画像取込みセンサである場合には、蛍光は、任意の色を持つことができ、画像取込みセンサ715R(715L)にカラーで撮像される。コーティングされた第1の面731R(731L)のノッチ・フィルタにより、若干の蛍光の損失があることもある。この態様では、画像取込みセンサ710R(710L)は、カラー・フィルタ・アレイを有するカラー・センサである。カラー・フィルタ・アレイは、RGGBのベイヤー・カラー・フィルタ・アレイである。
画像取込みセンサ715R(715L)として選択される画像取込みセンサの種類は、画像取込みセンサ715R(715L)が取り込むその他の光の特性によって決まる。画像取込みセンサ715R(715L)の利得およびその他のパラメータは、画像取込みセンサ715R(715L)が可能な限り最良の画像を取得するように、画像取込みセンサ710R(710L)とは無関係にすることができる。
1つの蛍光スペクトルが関心の対象である場合、または異なる蛍光スペクトルの識別には関心がない場合には、画像取込みセンサ715R(715L)は、モノクロ・センサでもよい。あるいは、例えば赤波長の蛍光スペクトルおよび緑波長の蛍光スペクトルなど、複数色の蛍光スペクトルが関心の対象である場合には、画像取込みセンサ715R(715L)は、ベイヤー・カラー・フィルタ・アレイを有するカラー画像取込みセンサとすればよい。
モノクロ画像取込みセンサでは、解像度および集光の点で利点がある。カラー画像取込みセンサは、受光した光の1つまたは複数の波長について与える情報が多い。
画像取込みセンサ715R(715L)の実施態様に関わらず、2つの画像取込みセンサが、同じシーンで同じ光学素子を透かし見ている。上述のように、同一平面の画像取込みセンサ710R(710L)および715R(715L)は、共通の前端部光学構造を有し、各センサまでの光路長がほぼ同じである。
レーザ照明の反射光ではない光で、画像取込みセンサ710R(710L)まで進む光が少量あったとしても、それは、レーザ照明の反射光より少ない。画像取込みセンサ710R(710L)および715R(715L)によって取り込まれる画像のスペクトル応答が広く、位置合わせが良好であると仮定すれば、デュアル画像エンハンス・モジュール240R(240L)は、画像取込みセンサ715R(715L)が取り込んだ画像を用いて、画像取込みセンサ710R(710L)が取り込んだ画像を補正することができる。
波長R1、G1およびB1を有する光を生成するような照明器710D内の照明モジュール以外の照明モジュールからの励起波長によって蛍光が励起される場合には、例えば遮蔽体570R(570L)とセンサ・アセンブリ720R(720L)との間の画像取込みユニットの撮像経路内に、励起阻止ノッチ・フィルタが必要である。蛍光の励起波長に関わりなく、蛍光は、可視スペクトル内とすることができ、画像取込みセンサ715R(715L)上で撮像することができる。必要に応じて、複数の蛍光を同時に撮像することもでき、発光スペクトルが、画像取込みセンサ715R(715L)上で異なる色を励起する。
デュアル画像エンハンス・モジュール240R(240L)の構成は、第2の画像取込みセンサ715R(715L)がカラー画像取込みセンサであるかモノクロ画像取込みセンサであるかによって決まる。両画像取込みセンサがカラー・センサである場合には、上述のように、CCU230R(230L)が2つの取り込まれた画像をモザイク解除処理し、制御装置260が出力画像の各画素ごとにN要素色成分ベクトルを生成する。N要素色成分ベクトルの色成分のうち3つは、カラー画像を表し、残りの色成分は、蛍光を表す。第2の画像取込みセンサがモノクロである場合には、第2の取り込まれた画像のモザイク解除処理は不要である。
このように、第2の画像取込みセンサ715R(715L)の実施態様に関わらず、制御装置260は、出力画像の画素について、少なくとも4要素色成分ベクトルを、第1の画像中のそれに対応する画素の色成分ベクトルおよび第2の画像中のそれに対応する画素の色成分ベクトルから生成するように構成する。4要素色成分ベクトルの要素のうち3つは、可視カラー画像のものであり、4要素色成分ベクトルの第4の要素は、蛍光画像のものである。
図7Aの態様および図7Aに関連して上述した各例では、立体視チャネルの画像取込みセンサは、同一平面にある。これは単なる例示であり、限定を目的としたものではない。例えば、これらの画像取込みセンサのうちの第1の画像取込みセンサが、第1の平面内にセンサ上面を有し、これらの画像取込みセンサのうちの第2の画像取込みセンサが、第2の平面内にセンサ上面を有してもよい。第1の平面と第2の平面は互いに平行であり、既知の距離だけ離間している(図9参照)。ビーム・スプリッタと反射ユニット内の反射面との間の間隔を調節して、第1の画像取込みセンサまでの第1の光路長が第2の画像取込みセンサまでの第2の光路長とほぼ等しくなるように、上記の既知の距離を補償する。したがって、2つの光路長はほぼ等しいままであるので、上述の図7Aの各態様は、そのままこの構成に適用可能である。
被写界深度の拡大
外科手術内視鏡では、可能な限り鮮鋭で明るい画像を執刀医に提供することが望ましい。そのためには、可能な限り大きな開口を有するレンズ設計が必要である。開口が大きくなるほど、形成される画像が(センサの限界内で)鮮鋭になり、通過する光が増えるので画像が明るくなる(信号対雑音比が向上する)。ただし、開口が大きくなると被写界深度が浅くなるという交換条件がある。執刀医は、カメラから様々な距離のところにある複数のものを見るときに撮像システムの焦点を制御しなければならなくなることを避けるために、大きな被写界深度を有する画像を好む。したがって、執刀医にとっては、大きな開口の鮮鋭度および輝度と、大きく改善された被写界深度とを有する画像があれば好ましい。この目的を達成するために、画像取込みユニット825Lおよび825R(図8A)はそれぞれ、異なる焦点で組織803の画像を取り込む。デュアル画像エンハンス・モジュール240R、240L(図2)は、取り込まれた画像を処理し、以前には実現できなかった被写界深度機能を執刀医に提供する。
例えば、1つの態様では、センサ・アセンブリ820R(820L)によって取り込まれた第1の画像881(図8B)は、第1の焦点を有する。センサ・アセンブリ820R(820L)によって取り込まれた第2の画像882(図8C)は、第2の焦点を有する。画像881では、画像の中央のフィーチャは、濃いはっきりした線で表すように焦点が合っている。画像881の左側および右側のフィーチャは、画像取込みユニット825R(825L)からさらに離れており、網掛けで表すように焦点が合っていない。画像882では、画像の中央のフィーチャは、網掛けで表すように焦点が合っていない。画像882の左側および右側のフィーチャは、濃いはっきりした線で表すように焦点が合っていない。
以下でさらに完全に説明するように、画像881および882の焦点が合っている部分を使用して、立体視ディスプレイ251(図8D)に送信する焦点の合った複合画像を生成する。これにより、画像881および882のいずれかで得られるより良好な被写界深度を有する画像が得られる。この手法のもう1つの利点は、画像881および882からの情報ならびに鮮鋭度メトリックを使用して、複数の仮想カメラの視点からの画像を生成し、これが立体視ディスプレイ251に送信されて表示される。これにより、執刀医は、内視鏡802を物理的に動かすことなく、わずかに異なる視点から組織803を見ることができる。
図8Aは、画像取込みユニット825Lおよび825Rならびに照明器からの光を供給する照明チャネル805を備える立体視内視鏡802の遠位端部を示す概略図である。矢印835が示すように、遠位方向は、組織803に向かう方向であり、近位方向は、組織803から離れる方向である。
各画像取込みユニット825R、825Lは、レンズ・アセンブリ801R、801L、およびセンサ・アセンブリ820R、820Lを含む。センサ・アセンブリ820R、820Lは、レンズ・アセンブリ801R、801Lを通過した光を受光するように位置決めされる。各センサ・アセンブリ820R、820Lは、1つの態様では、プリズム・アセンブリ830R、830L、反射ユニット840R、840L、および同一平面画像取込みセンサ(810R、815R)、(810L、815L)を含む。ただし、図8Aの構成を用いて説明する態様で、図9に示す構成を使用してもよい。立体視内視鏡802は、内視鏡802と呼ばれることもある。
以下の記述では、立体視内視鏡802の右チャネルの光路について述べる。内視鏡802の対称性により、立体視内視鏡802の左チャネルの光路は、右チャネルの光路と同じであるので、以下の記述では、左チャネルの参照番号を、右チャネルの要素の説明の後の括弧内に記載する。これは、その記述が左チャネルの対応する要素にも当てはまることを示している。また、説明する撮像処理は、連続的なビデオ・シーケンスがディスプレイに送られるように実時間で実行される。
組織803からの光は、レンズ・アセンブリ801R(801L)内のレンズ素子804R(804L)および遮蔽体870R(870L)を通過する。レンズ・アセンブリ401B(図4B)内の要素は、レンズ素子804R(804L)の例である。レンズ・アセンブリ801R(801L)を通過する光は、画像取込みユニット825L(825R)によって受光され、プリズム・アセンブリ830Rに進入する。プリズム・アセンブリ830R(830L)は、受光した光の第1の割合を反射するビーム・スプリッタ831R(831L)を含む。ビーム・スプリッタ831R(831L)は、受光した光の第2の割合をこのビームスプリッタ831R(831L)を通じて反射ユニット840R(840L)まで通過させる。
1つの態様では、ビーム・スプリッタ831R(831L)は、コーティングされた第1の面831R(831L)として実装される。コーティングされた第1の面831R(831L)によって反射された光は、第2の面832R(832L)によって受光され、第2の面832R(832L)は、この光を、例えば反射するなどして、第1の画像取込みセンサ810R(810L)に向けて送る。表面832R(832L)は、コーティング面または内部全反射面のいずれかとすることができる。コーティングされた第1の面831R(831L)を透過した光は、反射ユニット540R(540L)の第3の面541R(541L)によって受光され、第3の面541R(541L)は、この光を、例えば反射するなどして、第2の画像取込みセンサ815R(815L)に向けて送る。
第2の面832R(832L)は、コーティングされた第1の面831R(831L)によって反射された光以外の光が第2の面832R(832L)に入射しないように位置決めされる。1つの態様では、コーティング面831R(831L)に対する光の入射角は、45度未満である。
1つの態様では、プリズム・アセンブリ830R(830L)および反射ユニット840R(840L)は、プリズム・アセンブリ830R(830L)を含むペンタプリズムを有するプリズム構造に含まれる。この態様のプリズム構造は、受光した光を第1の割合と第2の割合とに分割する埋込みコーティング面431Bを有するプリズム構造460(図4B)と等価である。したがって、プリズム構造460の説明が、この態様で使用されるプリズム構造にも当てはまる。
1つの態様では、第1の割合と第2の割合はほぼ等しい。別の態様では、第1の割合と第2の割合は異なる。したがって、プリズム・アセンブリ830R(830L)は、受光した光を2つの部分、すなわち(i)第1の部分と呼ばれることもある受光した光の第1の割合と、(ii)第2の部分と呼ばれることもある受光した光の第2の割合とに分離するビーム・スプリッタ831R(831L)を含む。
画像取込みセンサ810R(810L)および815R(815L)は、同一平面にある。1つの態様では、遮蔽体870R(870L)からコーティングされた第1の面831R(831L)および第2の面832R(832L)を経由して画像取込みセンサ810R(810L)に至る第1の光路長は、第1の長さである。遮蔽体870R(870L)からコーティングされた第1の面831R(831L)およびアセンブリ840R(840L)内の第3の面841R(841L)を経由して画像取込みセンサ815R(815L)に至る第2の光路長は、第2の長さである。第1の長さと第2の長さは異なる、すなわちほぼ等しいとは言えない。この場合も、遮蔽体870R(870L)から開始する光路長の定義は例示であり、限定を目的としたものではない。これらの等しくない光路長は、受光した光がプリズム・アセンブリ830R(830L)に進入するプリズム・アセンブリ830R(830L)の遠位面を基準にする、レンズ・アセンブリ801R(801L)内の最初の要素を基準にする、またはコーティングされた第1の面831R(831L)を基準にするなど、様々に定義することができる。別の態様では、これらの異なる光路長は、2つの画像センサ領域に設けた屈折率の異なるガラス板またはその他の同様の手段を用いて実現することができる。
このように、同一平面の画像取込みセンサ810R(810L)および815R(815L)は、レンズ・アセンブリ801R(801L)内の前端部光学構造を通る光路長は共通であるが、センサ・アセンブリ820R(820L)内の各画像取込みセンサまでの光路長は異なる。第1の画像取込みセンサ810R(810L)は、センサ・アセンブリ820R(820L)が受光した光の第1の部分から画像を取り込む。第2の画像取込みセンサ815R(815L)は、センサ・アセンブリ820R(820L)が受光した光の第2の部分から画像を取り込む。
1つの態様では、画像取込みセンサ810R(810L)および815R(815L)はそれぞれ、カラー・フィルタ・アレイを有するカラー・センサである。別の態様では、これらのカラー・センサの1つからカラー・フィルタ・アレイが取り外され、そのセンサはモノクロ・センサとして機能する。モノクロ・センサを使用するときには、2つの画像の焦点が違いすぎない場合、例えば2つの画像が、それら2つの画像の鮮鋭度曲線885と886が交差する点の近傍で合焦している場合(図8E参照)には、モノクロ・センサが取り込んだ画像の鮮鋭度が、カラー画像に伝達される。
1つの態様では、プリズム・アセンブリ830R(830L)のコーティングされた第1の面831R(831L)は、プリズム・アセンブリ830R(830L)が受光した光の反射させる部分と透過させる部分とがほぼ等しくなるように、すなわち第1の割合と第2の割合とがほぼ等しくなるように構成される。したがって、この態様のビーム・スプリッタ831R(831L)は、上述のバランス・ビーム・スプリッタである。この例では、画像取込みセンサ810R(810L)および815R(815L)はそれぞれ、カラー・フィルタ・アレイを有するカラー・センサである。このカラー・フィルタ・アレイは、ベイヤー・カラー・フィルタ・アレイである。したがって、2つのベイヤー・パターン画像取込みセンサ810R(810L)および815R(815L)が、同じシーンで同じ光学素子を透かし見ている。ここで、ベイヤー・パターン画像取込みセンサは、ベイヤー・カラー・フィルタ・アレイを含む単一のチップ・センサ、または単一のチップの一部にある。上述のように、同一平面の画像取込みセンサ810R(810L)および815R(815L)は、共通の前端部光学構造を有しているが、各センサまでの光路長は異なる。
画像取込みセンサ810R(810L)まで進む光は、画像取込みユニット825R(825L)から第1の物体距離DAのところに合焦する第1の画像として取り込まれる。例えば、図8Bを参照されたい。画像取込みセンサ815R(815L)まで進む光は、センサ815R(815L)に到達するまでにこれよりわずかに長い経路をたどり、画像取込みユニットから第2の物体距離DBのところに合焦する第2の画像として取り込まれる。例えば、図8Cを参照されたい。距離DBは、距離DAより長い。この経路長の差は、例えばレンズ素子804R(804L)の焦点距離、2つの取り込まれた画像それぞれの最良の合焦が得られる距離など、前端部の光学的設計に基づく。
第1の画像と第2の画像は位置合わせされ、同じレンズ素子804R(804L)を通して撮像される。2つの画像の焦点面は異なる。2つの画像の被写界深度も異なる。例えば画像881など、距離DAのところに合焦する画像は、短い被写界深度を有するが、例えば画像882など、距離DBのところに合焦する画像は、それより広い被写界深度を有する。
上述のように、執刀医は、ユーザ・インタフェース262を使用して、デュアル画像エンハンス・モジュール240R(240L)に、2つの取り込まれた画像(図8Bおよび図8C)から被写界深度がエンハンスされた焦点の合った画像(図8D)を生成させることができる。あるいは、執刀医は、立体視ディスプレイ251と呼ばれることもある執刀医用制御コンソールのディスプレイ251における調整が外科手術部位における外科手術に関する調整と一致するように、ディスプレイの2つの面に2つの画像を表示することができる。最後に、執刀医は、第1の焦点を有する第1の画像と第2の焦点を有する第2の画像とを切り替えることができる。
1つの態様では、デュアル画像エンハンス・モジュール240R(240L)は、画像取込みセンサ810R(810L)および815R(815L)によって取り込まれた2つの画像から、被写界深度が拡大された焦点の合った画像を生成する。第1の態様では、第1の画像中のある画素群すなわちタイルについて、第1の鮮鋭度メトリックを生成し、第2の画像中のそれに対応する画素群について、第2の鮮鋭度メトリックを生成する。この2つの鮮鋭度メトリックを比較して、どちらの鮮鋭度メトリックの方が大きいかを判定する。最大の鮮鋭度メトリックを有する画素群(あるいはそのタイル内で選択された1つまたは複数の画素)を、混合画像用に選択する。デュアル画像エンハンス・モジュール240R(240L)は、2つの取り込まれた画像を画素群ごとに調べ、2つの画素群のうちの一方を、2つの取り込まれた画像より大きな視野にわたって焦点が合っている混合画像に含めるものとして選択する。
図8Eは、画像取込みセンサ810R(810L)が取り込んだ画像の鮮鋭度プロファイル885、および画像取込みセンサ815R(815L)が取り込んだ画像の鮮鋭度プロファイル886を示すグラフである。鮮鋭度プロファイルは、内視鏡の遠位端部からの距離に対する画像取込みセンサが取り込んだ画像の鮮鋭度を示す曲線である。1つの態様では、鮮鋭度プロファイル885および886は、内視鏡802を用いて実行した較正と、内視鏡802の遠位端部から異なる距離のところにある複数の既知の物体を撮影した複数の画像とに基づいて、経験的に生成される。
1つの態様では、プロファイル885および886は、参照テーブルとしてメモリに記憶される。記憶された鮮鋭度プロファイルを、デュアル画像エンハンス・モジュール240R(240L)が使用して、画像取込みユニット825R(825L)内の光学素子を動かすことなく内視鏡802を動かすときに、画像取込みセンサ810R(810L)が取り込んだ第1の画像を表示するか、画像取込みセンサ815R(815L)が取り込んだ第2の画像を表示するかを決定する。デュアル画像エンハンス・モジュール240R(240L)は、第1および第2の画像それぞれについて、当業者には既知の従来技術を用いて鮮鋭度メトリックを生成する。デュアル画像エンハンス・モジュール240R(240L)は、鮮鋭度プロファイル885および886と鮮鋭度メトリックとを使用して、内視鏡802の遠位端部と各画像の組織との間の距離を決定する。
例えば、第1の画像の鮮鋭度メトリックが0.5である場合には、組織803までの距離DAは、鮮鋭度プロファイル885に基づき、約42ミリメートル(mm)または約27ミリメートル(mm)のいずれかとなる。第2の画像の鮮鋭度メトリックが0.43である場合には、組織803までの距離DBは、鮮鋭度プロファイル886に基づき、約42ミリメートル(mm)である。あるいは、第2の画像の鮮鋭度メトリックが約0.08である場合には、組織までの距離は、約27ミリメートル(mm)である。なお、鮮鋭度プロファイル885は、鮮鋭度メトリックに基づくので組織の深さについては曖昧であるが、組織の深さは、第2の曲線886によって曖昧さが除去されることに留意されたい。両画像はほぼ同時に得られたものであるので、この曖昧さ除去は、時間的な影響によって歪むことはない。デュアル画像エンハンス・モジュール240R(240L)は、この2つの画像の間の相対鮮鋭度メトリックと、これらの曲線のアプリオリ(a-priori)な構成とを使用して、内視鏡802が移動して、画像取込みユニットから組織までの距離が変化するときに、2つの画像のうちのどちらを表示するかを決定する。中央制御装置260は、内視鏡の遠位端部の位置を知っている。
内視鏡802を移動させて組織803に近づけた場合には、第1の取り込まれた画像が、デュアル画像エンハンス・モジュール240R(240L)によってディスプレイ251に送信される。内視鏡802を移動させて組織803から遠ざけた場合には、デュアル画像エンハンス・モジュール240R(240L)は、内視鏡802の遠位端部の組織803からの距離を、プロファイル交差距離と呼ばれる鮮鋭度プロファイル885および886が交差する距離とを比較する。内視鏡802の遠位端部の組織803からの距離がプロファイル交差距離より小さい場合には、第1の取り込まれた画像がディスプレイ251に伝送される。内視鏡802の遠位端部の組織803からの距離がプロファイル交差距離より大きい場合には、第2の取り込まれた画像がディスプレイ251に伝送される。したがって、前段落の鮮鋭度メトリックスでは、内視鏡802の遠位端部が組織803から45mm未満のところにあるときには、第1の画像が執刀医に提示されることになる。内視鏡802の遠位端部が組織803から45mmを超えるところにあるときには、第2の画像が執刀医に提示されることになる。したがって、内視鏡802を移動させたとき、画像取込みユニット825R(825L)内の光学素子を動かさなくても、適当な画像が執刀医に提示される。
さらに、2つの画像のうちのどちらを執刀医に提示するかの判定は、相対鮮鋭度メトリックのみに基づいて行うことができる。つまり、組織の深さの計算は不要である。ステレオ・ビューアの左右の目に提示される画像対は、調和した状態に保たれ、鮮鋭度メトリックの比較では、第1の画像または第2の画像を使用する判定中に左目用に取り込まれた画像対からのデータおよび右目用に取り込まれた画像対からのデータを使用することができる。一般に、提示される画像全体の焦点を切り替える場合には、第1の画像が左右両目用に選択されるか、または第2の画像が左右の目用に選択される。
別の態様では、取り込まれた2つの画像および鮮鋭度プロファイル885、886を使用して、深さマップを作成する。鮮鋭度プロファイル885を鮮鋭度プロファイル886に分割して、距離に対する鮮鋭度メトリックのチャネル鮮鋭度プロファイルを生成する。例えば、所与の距離のプロファイル886の値を、その所与の距離のプロファイル885の値で割って、その所与の距離の鮮鋭度メトリックを得る。この鮮鋭度メトリックを、スライディング・タイルを使用して計算して、画像全体の深さマップを作成することができる。当然、この情報を、さらに多くの従来のステレオ・マッチング・アルゴリズムと組み合わせて、さらに良い状態の深さマップを生成することができる。
1つの態様では、鮮鋭度プロファイル885および886は、内視鏡802を用いて実行した較正と、内視鏡802の遠位端部から異なる距離のところにある複数の既知の物体を撮影した複数の画像とに基づいて、経験的に生成される。鮮鋭度プロファイルは、画像取込みユニット825Rおよび画像取込みユニット825Lの両方について得る。チャネル鮮鋭度プロファイルは、左右のチャネルのそれぞれについて生成される。1つの態様では、左右のチャネル鮮鋭度プロファイルは、参照テーブルとしてメモリ899(図8F)に保存される。
基本的には、第1の取り込まれた画像の画素と第2の取り込まれた画像の画素との間には1対1の対応があることに留意されたい。場合によっては、この1対1の対応を確立するのに、較正、および若干の画像変形またはソフトウェアによる画像間の位置合わせが必要になることがある。デュアル画像エンハンス・モジュール240R(240L)は、当業者には既知の従来技術を用いて、第1および第2の各画像中の対応する画素の周りのタイルまたは画素群の鮮鋭度メトリックを生成する。第1の取り込まれた画像中の画素、またはその画素の周りの画素群の鮮鋭度メトリックを、第2の取り込まれた画像中の対応する画素、またはその対応する画素の周りの対応する画素群の鮮鋭度メトリックに分割して、それらの画素のチャネル鮮鋭度プロファイルを生成する。それらの画素のチャネル鮮鋭度プロファイルを使用して、チャネル鮮鋭度プロファイル上のポイントの位置を突き止める。チャネル鮮鋭度プロファイル上のそのポイントに対応する距離が、その画素の(X、Y)位置と関連付けられる深さである。このプロセスを取り込まれた画像中の各画素について実行して、取り込まれた画像の深さマップを生成する。
1つの態様では、この深さマップを使用して、内視鏡802の視点とは異なる視点、すなわち仮想カメラの視点からの組織803のシーンのビューを生成する。中央制御装置260は、2次元仮想化モジュール890(図8F)を使用して、その仮想カメラの視点の立体視画像対を生成する。
3次元仮想化モジュール890は、内視鏡802の右の立体視チャネルで取り込まれた第1および第2の画像を使用し、右チャネルから見たシーンの第1のチャネルの深さマップを生成する。同様に、3次元仮想化モジュール890は、内視鏡802の左の立体視チャネルで取り込まれた第1および第2の画像を使用し、左チャネルから見たシーンの第2のチャネルの深さマップを生成する。画像のステレオ・マッチングで得られる追加情報を使用して、結合深さマップの安定度および精度を向上させることもできる。シーンの3次元表面は、第1および第2のチャネルの深さマップを使用して生成され、4つの取り込まれた画像の最も良く焦点が合っている部分を3次元表面上に投影し、テクスチャ処理して、テクスチャ処理した3次元画像表面を作成する。
執刀医が、ユーザ・インタフェース262を用いて、視点すなわち仮想カメラ視点を入力すると、デュアル画像エンハンス・モジュール240R(240L)は、右チャネルのチャネル深さマップおよびテクスチャ処理した3次元画像表面を使用して、その仮想カメラ視点からの右チャネルの画像を生成する。同様に、デュアル画像エンハンス・モジュール240R(240L)は、左チャネルのチャネル深さマップおよびテクスチャ処理した3次元画像表面を使用して、その仮想カメラ視点からの左チャネルの画像も生成する。この2つの画像が立体視ディスプレイ251に送信され、内視鏡802を仮想カメラ視点まで移動させなくても、仮想3次元画像が執刀医に提示される。
さらに詳細には、3D仮想化モジュール895を各チャネルについて実行する。これは、中央制御装置260で利用できるメモリおよび処理能力に応じて、並列に、または順次行うことができる。
右チャネルの画像取出しプロセス891では、画像取込みセンサ810Rおよび815Rによって取り込まれた第1および第2の画像が取り出され、プロセス892と呼ばれることもある深さマップ作成プロセス892に送られる。プロセス892では、2つの画像中の例えばタイルなどの画素群に対して同じプロセスを繰り返し実行する。
画素(X、Y)についてのプロセス892では、画素(X、Y)を含む画素群を、右チャネルの第1の画像および第2の画像のそれぞれから選択する。ここで、Xは、画素のx座標、Yは画素のy座標である。例えば、画素群は、画素(X、Y)を中心とする5画素×5画素のブロックとすることができる。第1の画像の画素ブロックの第1の鮮鋭度メトリックを生成し、第2の画像の同じ画素ブロックの第2の鮮鋭度メトリックを生成する。第2の鮮鋭度メトリックを第1の鮮鋭度メトリックで割って、チャネル鮮鋭度メトリックを生成する。メモリ899内の右チャネル鮮鋭度プロファイルを用いて、このチャネル鮮鋭度メトリックに対応する距離Zを得る。距離Zを画素(X、Y)に割り当てる。こうして、右チャネル深さマップでは、この画素は、画素(X、Y、Zxy)として表される。
次に、このプロセスを画素(X+1、Y)について繰り返し、深さマップ内のこの画素を、画素(X+1、Y、Z(x+1)y)とする。このように、画素(X、Y)の共通のブロックの鮮鋭度メトリックを決定する際に使用される画素の一部は、画素(X+1、Y)の共通のブロックの鮮鋭度メトリックを決定する際にも利用される。このプロセスを、ある列の画素列の各画素について繰り返した後、Yインデックスを増分して、このプロセスを次の列の各画素について繰り返す。完全な画素ブロックで囲まれていないシーンの境界領域の画素については、1つの態様では、対称性を仮定して、そのブロック内で利用できる画素の値を用いて、欠けている画素の値を生成する。
全ての画素列を処理すると、シーン内の各画素を右チャネルから見た、右チャネル深さマップが作成される。各画素は、x次元の値、y次元の値、およびz次元の深さを有する。右チャネル深さマップは、1つの態様では、メモリ895に記憶される。
右チャネル深さマップの深さは、画素群の大きさの関数によって決まる平均値である。大きな画素群ではノイズが低下するが、画素群が大きくなるにつれて、その大きな画素群で平均化されることにより、z次元の詳細が失われる。したがって、画素群の大きさは、深さ値の所望の特異性を維持しながら、ノイズを許容レベルまで低下させるように、経験的に決定される。また、深さを生成している画素をブロックの中心に配置したのは、単なる例示であり、この特定の配置に限定することを意図しているわけではない。
同じプロセスを、深さマップ作成プロセス892によって、左チャネルについても実行する。左右のチャネル両方の処理が完了すると、メモリ895は右チャネル深さマップおよび左チャネル深さマップを格納している。左チャネル深さマップおよび右チャネル深さマップにより、内視鏡802の視点のシーンの深さマッピングが実現する。
中央制御装置260における3D表面生成プロセス893では、左チャネル深さマップおよび右チャネル深さマップを使用して、シーンの3次元表面を生成する。2つの深さマップを使用して3次元深さマップ表面を生成することは、当業者には既知であるので、本明細書ではこれ以上考慮しない。
シーンの3次元表面を生成した後、画像投影/テクスチャ・マッピング・プロセス894により、右チャネルの2つの取得画像の最も鮮鋭な部分、および左チャネルの2つの取得画像の最も鮮鋭な部分を、3次元深さマップ表面に投影およびテクスチャ・マッピングして、テクスチャ処理された画像面と呼ばれることもあるテクスチャ処理した3次元画像表面を生成する。複数の取り込んだ画像と3次元表面とを用いて投影およびテクスチャ処理を行ってテクスチャ処理された画像面を生成することは、当業者には既知であるので、本明細書ではこれ以上考慮しない。
テクスチャ処理された画像面および2つのチャネル深さマップを用いて、仮想カメラ視点からの立体視画像対の画像を生成することができる。この態様では、ユーザ・インタフェース262により、執刀医は、例えば現在のシーンをそこから見たいと思う別の視点など、自分が現在のシーンをそこから見たいと思う仮想カメラ視点を指定することができる。
したがって、仮想カメラ視点受取りプロセス897で、ユーザ・インタフェース262から仮想カメラ視点を受け取り、この仮想カメラ視点を画像生成プロセス896に送る。画像生成プロセス896では、深さマップ895からの右チャネル深さマップ、テクスチャ処理された画像面、および仮想カメラ視点を用いて、その仮想カメラ視点からの仮想右チャネル画像を生成する。同様に、画像生成プロセス896では、深さマップ895からの左チャネル深さマップ、テクスチャ処理された画像面、および仮想カメラ視点を用いて、その仮想カメラ視点からの仮想左チャネル画像を生成する。深さマップおよび仮想カメラ視点のテクスチャ処理された画像面を用いて仮想画像を生成することは、当業者には既知であるので、これ以上詳細には考慮しない。
仮想カメラ視点の左チャネル仮想画像および右チャネル仮想画像を生成したら、画像伝送プロセス898で、この2つの仮想画像を立体視ディスプレイ251に送信して、執刀医に表示する。したがって、内視鏡802を動かすことなく、執刀医は、異なる視点、すなわち仮想カメラ視点からシーンを見ることができる。当然、内視鏡802の視点と大きく異なる視点からシーンを見ると、必ずしも高画質の画像が得られるとは限らない。しかし、内視鏡の先端付近の仮想カメラ視点の画像は、妥当な画質を有している。
この手法を使用して、手術室内の他の当事者用に画像を生成することもできる。例えば、患者の近くにいる手術室スタッフは、テレビジョン画面やモニタなど、非ステレオ・ディスプレイ装置で外科手術手順を見る可能性が高い。仮想カメラ位置からの画像を作成できることにより、この手術室スタッフにそのディスプレイ上で奥行き感を与えるようにシーンを提示することが可能になる可能性もある。
これは、執刀医の実際の右眼位置と執刀医の実際の左眼位置の間を行き来する仮想カメラ位置からの一連の画像を実時間で提示することによって行うことができる。すなわち、これらの仮想カメラ位置は、両眼の位置の間を行き来する。このように仮想カメラ視点を前後に行き来させることにより、1つのシーンを複数の仮想カメラ視点から見た一連の画像が生成される。具体的には、時間ステップごとに、異なる仮想カメラ視点からの画像を生成して提示する。
「実際の右眼位置」および「実際の左眼位置」は、1つの態様では、例えば、執刀医用制御コンソールの一部である立体視ビューアの右眼位置および左眼位置を指す。左眼位置と右眼位置は、両眼間距離だけ隔てられている。
このように時間経過とともに仮想カメラ位置を行き来させることによって生成された画像を表示すると、ディスプレイ上では、頭がわずかに前後に動いているように見える。すなわち表示画像においてシーンが前後に若干揺れる。これは、人間の視覚系で用いられる多くの奥行きの手掛かりのうちの1つであり、立体視ディスプレイを使用しなくても、シーンの奥行き感覚を手術室スタッフに与える。さらに、このことには、画像が手術室スタッフのディスプレイに対する向きとは無関係の奥行きを通信し、いかなる特別な追加機器も必要としないという利点がある。仮想カメラ画像を、サンプルとして取り込んだ光照射野の画像を考慮して、かつ画像ベースのレンダリング技術を使用して作成して、新たな仮想カメラビューを作成することもできる。
ここまでに述べた態様では、立体視内視鏡802からの画像を用いて、仮想カメラ視点の立体視画像を生成した。別の態様では、例えば立体視内視鏡802の右チャネルしか備えていない内視鏡などのモノスコープ内視鏡からの1対の画像を用いて、仮想カメラ視点の立体視画像を生成する。
この態様では、3D仮想化モジュール890は、2つの取り込んだ画像についてプロセス891から894を実行して、3次元画像の第1の画像を生成する。3次元画像の第2の画像を生成するには、画像生成プロセス896で、第1の画像と仮想画像を立体視画像対として見たときに執刀医が3次元画像であると感じるように、適当な眼の間隔を有する視点からの仮想画像を生成する。
この手法は、モノスコープ内視鏡で見ているシーン内に前景物体の鮮鋭な縁部がないときには、シーンの仮想カメラ視点の立体視ビューを生成するのに十分である。通常は、外科手術部位のシーンは、鮮鋭な縁部がなく平滑であるので、このプロセスで使用に適した立体視ビューが生成される。シーン内に外科手術器具がある場合には、立体視ビューの外科手術器具の背後に穴が生じることもあるが、この領域は、通常は執刀医にとって関心のある領域ではない。外科手術器具の背後に穴がある立体視ビューでも、執刀医が必要とする情報は提供されるので、許容可能である。
上記の例では、ビーム・スプリッタ831R(831L)は、バランス・ビームスプリッタとして構成した。しかし、別の態様では、上記の例は、外科手術部位の照明が、内視鏡の一部である上記では照明チャネルと呼んだ光導波路を用いて通常は実施されることを利用するように構成されたビーム・スプリッタ831R(831L)を使用する。したがって、照明器が、内視鏡の先端に取り付けられ、これとともに移動する。その結果として、内視鏡の先端が組織表面に近接しているときには、組織から遠いときよりも画像がはるかに明るくなる。この態様では、コーティングされた第1の面831R(831L)は、受光した光の反射させる部分と透過させる部分とが異なるように、すなわち上記で定義した第1の割合と第2の割合とが異なるように構成される。
ビーム・スプリッタ831R(831L)は、受光した光のM%を反射し、受光した光のN%を通過させる。ここで、M%はN%と異なる。ここで、MおよびNは正の数である。1つの態様では、M%にN%を足すと、ほぼ100パーセントに等しくなる。この同等性は、光の損失および画像取込みユニット825R(825L)の様々な部品の許容差により、厳密なものではないこともある。プリズム・アセンブリ830R(830L)のその他の態様は、上記と同様である。センサ・アセンブリ820R(820L)によって取り込まれた画像の処理は、バランス・ビーム・スプリッタについて上述した処理と同じであるので、繰り返し述べることはしない。
上記の例では、画像取込みセンサは同一平面にあった。ただし、いくつかの態様では、画像取込みセンサは、既知の距離だけ離間した平行な平面内にあってもよいと説明した。図9は、このような画像取込みセンサを有する画像取込みユニットを有するチャネルの一部を示す概略図である。図9の構成は、本明細書に記載する態様および例のいずれでも使用することができるので、様々な態様および例のそれぞれを、この構成について繰り返し説明することはしない。
図9では、画像取込みユニット925は、レンズ・アセンブリ901およびセンサ・アセンブリ920を含む。センサ・アセンブリ920は、プリズム・アセンブリ930と、反射ユニット940と、画像取込みセンサ910および915とを含む。レンズ・アセンブリ901は、遮蔽体970と呼ばれることもある光遮蔽体970を画定する光学素子を含む複数の光学素子を有する。遮蔽体970を通過する光は、画像取込みユニット925のプリズム・アセンブリ930内のビーム・スプリッタ931によって受光される。
立体視装置は、図9に示すように、2つの画像取込みユニットを含む。ただし、図3Aに関連して上述したように、画像取込みユニットを含む左右の立体視チャネルは対称であるので、一方のチャネルおよび画像取込みユニットについてのみ説明し、説明の重複を避ける。画像取込みユニットを含むもう一方のチャネルは、内視鏡の長手方向軸線と交差する平面に関して図9に示すチャネルと対称である。
ビーム・スプリッタ931は、遮蔽体970を通過する光を受光するように位置決めされる。ビーム・スプリッタ931は、受光した光の第1の部分を第1の画像取込みセンサ910に向けて送り、受光した光の第2の部分をこのビーム・スプリッタを通して反射ユニット940に送るように構成される。この例では、プリズム・アセンブリ930内のビーム・スプリッタ931は、コーティングされた第1の面として実装される。したがって、ビーム・スプリッタ931は、コーティングされた第1の面931と呼ばれることもある。コーティングされた第1の面931は、受光した光を2つの部分に分離する。
コーティングされた第1の面931は、受光した光の第1の部分を第2の面932に向けて送り、第2の面932は、例えば反射するなどして、この光を第1の画像取込みセンサ910に向けて送る。受光した光の第2の部分は、コーティングされた第1の面931を通過して反射ユニット940まで通過する。1つの態様では、この光のコーティング面931への入射角は、45度未満である。
第2の面932は、コーティングされた第1の面931によって反射された光以外の光が第2の面932に入射しないように位置決めされる。1つの態様では、第2の面932は、コーティング面および内部全反射面のうちの一方として実装される反射面である。
反射ユニット940は、ビーム・スプリッタ931から受光した光を第2の画像取込みセンサ915に反射する第3の面941を含む。1つの態様では、第3の面941は、例えばコーティング面および内部全反射面のうちの一方として実装される反射面である。
第1の画像取込みセンサ910は、第1の平面911内にセンサ上面を有する。第2の画像取込みセンサ915は、第2の平面914内にセンサ上面を有する。第1の平面911は、第2の平面914と実質的に平行であり、第2の平面914から既知の距離dだけ離間している。本明細書では、「ほぼ平行」または「実質的に平行」とは、2つの平面が、画像取込みセンサの製造および取付けに関連する許容差の範囲内にある平面であるという意味である。画像取込みセンサのセンサ上面は、センサ・アセンブリ内の少なくとも1つの光学構成要素から光を受光する画像取込みセンサの表面である。
1つの態様では、遮蔽体970からコーティングされた第1の面931および第2の面932を経由して画像取込みセンサ910に至る第1の光路長は、遮蔽体970からコーティングされた第1の面931および第3の面941を経由して画像取込みセンサ915に至る第2の光路長とほぼ等しい。したがって、この態様では、画像取込みセンサ910および915は、レンズ・アセンブリ901内の前端部光学構造を通る光路長は共通であり、センサ・アセンブリ920内の各画像取込みセンサまでの光路長はほぼ同じである。
別の態様では、コーティング面941は、第1の光路長と第2の光路長とが等しくならないように位置決めされる。この態様では、画像取込みセンサ910および915は、レンズ・アセンブリ901内の前端部光学構造を通る光路長は共通であるが、センサ・アセンブリ920内の各画像取込みセンサまでの光路長は異なる。
上記の例では、実施態様は、各チャネルで1組の画像セットを取り込んで処理することを考慮した。これは、説明を容易にするためのものであり、限定を目的としたものではない。通常は、カメラ制御ユニット(CCU)230Rおよび230Lを有する中央制御装置260は、各チャネルの複数組の画像セットを取り込む頻度を制御する。上述した取り込んだ画像の処理は、1つの態様では、執刀医が立体視画像のビデオ・シーケンスを見られるように実時間で行われる。
同様に、フィーチャ識別、解像度のエンハンス、ダイナミック・レンジのエンハンス、様々な画素ベクトル構成、および被写界深度の拡大といった様々な態様についても、別個に考慮した。しかし、本開示に鑑みて、これらの様々な態様を組み合わせて、様々な利点を組み合わせて実現することもできる。様々な組合せを実現するために考えられる置換については、繰り返しを避けるために個別に説明しない。
また、上記の例では、立体視またはモノスコープの内視鏡の遠位端部に取り付けられた画像取込みユニットを考慮した。しかし、この新たな画像取込みユニットの構成を、従来の内視鏡カメラや、例えば立体視外科手術顕微鏡などで使用することもできる。したがって、画像取込みユニットを内視鏡に実装するという記述は、単なる例示であり、限定を目的としたものではない。
図10は、画像取込みユニット1025を備えた立体視内視鏡1002の遠位端部を示す概略図である。画像取込みユニット1025は、この態様では、左レンズ・アセンブリ1001Lと、右レンズ・アセンブリ1001Rと、同一平面の右画像取込みセンサ1010Rおよび左画像取込みセンサ1010Lとを有するセンサ・アセンブリ1020を含む。この態様では、内視鏡1002と呼ばれることもある立体視内視鏡1002は、照明チャネル1005を含む。ただし、内部照明器および外部照明器など、本明細書に記載する様々な照明器はいずれも、内視鏡1002とともに使用することができる。この態様では、右画像取込みセンサ1010Rおよび左画像取込みセンサ1010Lは、プラットフォーム1012に取り付けられる、半導体ダイまたは半導体チップと呼ばれることもある半導体基板1017に含まれる。
組織1003からの光は、レンズ・アセンブリ1001Rおよび1001Lを通過して、センサ・アセンブリ1020に至る。レンズ・アセンブリ401B(図4B)内の要素は、レンズ・アセンブリ1001Rおよびレンズ・アセンブリ1001Lの例である。レンズ・アセンブリ1001Rおよび1001Lを通過した光は、反射ユニット1040の反射面1041によって受光される。反射面1041は、この光を例えば反射するなどして、第1の画像取込みセンサ1010Rのセンサ上面および第2の画像取込みセンサ1010Lのセンサ上面に向けて送る。表面1041は、コーティング面または内部全反射面のいずれかとすることができる。
内視鏡1002内の第1の画像取込みセンサ1010Rまでの光路長および第2の画像取込みセンサ1010Lまでの光路長は、実質的に同じ長さである。例えば、レンズ・アセンブリ1001Rから第1の画像取込みセンサ1010Rのセンサ上面までの第1の光路長は、レンズ・アセンブリ1001Lから第2の画像取込みセンサ1010Lのセンサ上面までの第2の光路長とほぼ等しい。したがって、内視鏡1002内の各立体視光学チャネルは、画像センサまでの光路長がほぼ等しい。
この態様では、画像取込みセンサ1010Rの面と画像取込みセンサ1010Lの面とが同一平面にある。あるいは、画像取込みセンサ1010Rが第1の平面内にセンサ上面を有し、画像取込みセンサ1010Lが第2の平面内にセンサ上面を有し、第1の平面と第2の平面が平行で、既知の距離だけ離間していてもよい(図9参照)。この態様では、反射ユニット内の反射面の位置を調節して、第1の画像取込みセンサまでの第1の光路長が第2の画像取込みセンサまでの第2の光路長とほぼ等しくなるように、上記の既知の距離を補償する。あるいは、またはこれに加えて、これらの光路の一方または両方でレンズを使用して、ほぼ等しい光路長を実現することもできる。
図10の例、および代替の画像取込みセンサの構成では、第1の画像取込みセンサ1010Rおよび第2の画像取込みセンサ1010Lが取り込む画像は、同じ焦点および被写界深度を有し、互いに空間的に位置合わせされている。画像取込みユニット1025は、小型でコンパクトなので、上述の画像取込みユニットを収容できるだけのスペースがない適用分野でも使用することができる。また、この画像取込みユニットは、内視鏡1002の中心軸線1090に関して対称ではないことにも留意されたい。道具または器具を収容するための空間(lumens)がさらにある特定の適用分野では、この非対称性が利点となる。また、この構造では、画像センサがそれぞれの目の撮像領域を1つのシリコン・ダイ上に含む場合、またはこの装置がさらに大型の撮像装置を使用し、2つの撮像領域の間の領域の画素の一部を必ずしも使用しない場合には、左右の眼の撮像領域を完全に位置合わせすることが可能である。
全ての例および例示を目的とした言及は、非制限的なものであり、特許請求の範囲を本明細書に記載した具体的な実施態様および実施形態ならびにそれらの均等物に限定するために用いるべきものではない。上記の各表題は、1つの表題に続く本文が、1つまたは複数の表題と相互参照関係にあったり、1つまたは複数の表題に続く本文に当てはまったりすることもあるので、単に書式上のものであり、いかなる意味でも主題を制限するために用いるべきものではない。最後に、本開示に鑑みて、1つの態様または実施形態に関連して記載した特定の機能は、具体的に図面に図示したり本文に記載したりしていなくても、開示した本発明のその他の態様または実施形態に適用することができる。
本明細書に記載した様々なモジュールは、プロセッサ上で実行されるソフトウェア、ハードウェア、ファームウェアまたはこの3つの任意の組合せによって実装することができる。モジュールがプロセッサ上で実行されるソフトウェアとして実装されるときには、このソフトウェアは、コンピュータ可読命令としてメモリに記憶され、このコンピュータ可読命令がプロセッサ上で実行される。メモリの全体または一部は、プロセッサをメモリに結合することができるならば、プロセッサとは異なる物理的位置にあってもよい。「メモリ」とは、揮発性メモリ、不揮発性メモリ、またはこの2つの任意の組合せを指す。
また、本明細書に記載した様々なモジュールの機能は、1つのユニットによって実行してもよいし、あるいは異なる複数の構成要素間で分割してもよく、それらの構成要素はそれぞれ、ハードウェア、プロセッサ上で実行されるソフトウェア、およびファームウェアの任意の組合せによって実施することができる。異なる構成要素間で分割するときには、これらの構成要素は、1つの位置に集中させてもよいし、分散処理のためにシステム200内で分散させてもよい。様々なモジュールを実行することにより、これらの様々なモジュールおよび制御装置260の上述したプロセスを実行する方法が得られる。
したがって、プロセッサは、そのプロセッサが実行する命令を含むメモリに結合される。これは、コンピュータ・システム内で実施することもできるし、あるいはモデムおよびアナログ回線またはデジタル・インタフェースおよびデジタル回線を介して別のコンピュータに接続することによって実施することもできる。
本明細書では、コンピュータ・プログラム製品は、本明細書に記載するプロセスのいずれか一部または全てに必要なコンピュータ可読コードを記憶するように構成された、あるいはこれらのプロセスのいずれか一部または全てに必要なコンピュータ可読コードが記憶された、コンピュータ可読媒体を含む。コンピュータ・プログラム製品の例としては、CD−ROMディスク、DVDディスク、フラッシュ・メモリ、ROMカード、フロッピー(登録商標)・ディスク、磁気テープ、コンピュータ・ハード・ドライブ、ネットワーク上のサーバ、およびネットワークを介して伝送されるコンピュータ可読プログラム・コードを表す信号などがある。非一時的な有形のコンピュータ・プログラム製品は、上記のプロセスのいずれか一部または全てのためのコンピュータ可読命令を記憶するように構成された、あるいはこれらのプロセスのいずれか一部または全てのためのコンピュータ可読命令が記憶された、有形のコンピュータ可読媒体を含む。非一時的な有形のコンピュータ・プログラム製品は、CD−ROMディスク、DVDディスク、フラッシュ・メモリ、ROMカード、フロッピー(登録商標)・ディスク、磁気テープ、コンピュータ・ハード・ドライブ、およびその他の物理的記憶媒体である。
本開示に鑑みて、本明細書に記載するプロセスのいずれか一部または全てで使用される命令は、ユーザが関心のあるオペレーティング・システムおよびコンピュータ・プログラミング言語を用いる様々なコンピュータ・システム構成で実施することができる。
本明細書では、「第1」および「第2」は、要素を区別するための形容詞として使用しており、要素の数を示すことを意図しているわけではない。また、「上」、「底」および「側」は、図中に示す要素の区別を助け、要素間の相対的な関係の視覚化を助けるための形容詞として使用している。例えば、上面と底面は、反対の位置にあって互いに離間している第1の面と第2の面である。側面は、第1の面と第2の面の間に延びる第3の面である。「上」、「底」および「側」は、絶対的な物理的位置を定義するために使用しているわけではない。
本発明の態様および実施形態を例示する上記の説明および添付の図面は、限定的なものとして解釈すべきではなく、保護される本発明は、特許請求の範囲によって定義される。本明細書および特許請求の範囲の趣旨および範囲を逸脱することなく、機構、構成、構造、要素および動作に関する様々な変更を加えることができる。場合によっては、本発明が曖昧になるのを避けるために、周知の回路、構造および技術は、詳細な図示または説明を省略している。
さらに、本明細書の用語は、本発明を限定することを意図したものではない。例えば、「下方」、「下」、「下側」、「上」、「上側」、「近位」、「遠位」などの空間的相対語は、図面に示す要素またはフィーチャの別の要素またはフィーチャとの関係を説明するために使用することができる。これらの空間相対語は、図面に示す位置および配向だけでなく、使用中または動作中に装置がとる様々な位置(すなわち配置)および配向(すなわち回転位置)を含むものとする。例えば、図中の装置をひっくり返した場合には、別の要素またはフィーチャの「下」または「下方」にあると述べられている要素が、その別の要素またはフィーチャの「上」または「上方」になる。したがって、例えば「下」という用語は、「上」および「下」の位置および配向を両方とも含むことができる。装置はその他に配向する(90度またはその他の配向に回転させる)こともでき、本明細書で使用する空間相対要素も、それに応じて解釈することができる。同様に、様々な軸線に沿った運動および様々な軸線の周りの運動に関する記述も、様々な固有の装置の位置および配向を含む。
単数形は、文脈から複数形を含まないことが分かる場合を除き、複数形も含むものとする。「備える、有する、含む」などの用語は、そこに記載するフィーチャ、ステップ、動作、要素および/または構成要素が存在することを示すものであり、それ以外の1つまたは複数のフィーチャ、ステップ、動作、要素、構成要素および/またはグループの存在または追加を排除するものではない。「結合される」と述べられる構成要素は、電気的または機械的に直接結合されていることもあるし、あるいは1つまたは複数の中間構成要素を介して間接的に結合されていることもある。以下の実施形態は、本明細書に含まれる。
第1の実施形態
装置は、第1のセンサ面を含む第1の画像取込みセンサと、第2のセンサ面を含む第2の画像取込みセンサとを含み、第1および第2の画像取込みセンサ面が同一平面にあり、さらに、光を受光するように位置決めされ、受光した光の第1の部分を第1のセンサ面に向けて送り、受光した光の第2の部分を通過させるように構成されたビーム・スプリッタと、受光した光の第2の部分を受光し、受光した光の第2の部分を第2の画像取込みセンサに向けて送るように位置決めされた反射ユニットとを含む。いくつかの態様では、第1の画像取込みセンサおよび第2の画像取込みセンサは、1つの画像取込みセンサ・チップの異なる領域を構成することができる。いくつかの態様では、この装置は、第1の画像取込みセンサおよび第2の画像取込みセンサと、ビーム・スプリッタと、反射ユニットとを有する遠位端部を含む内視鏡を有することができる。いくつかの態様では、この装置は、遠位端部、1対のチャネル、ならびに複数の第1および第2の画像取込みセンサと、ビーム・スプリッタと、反射ユニットとを含む立体視内視鏡をさらに含むことができ、第1の画像取込みセンサ、第2の画像取込みセンサ、ビーム・スプリッタおよび反射ユニットは複数含まれ、1対のチャネルの各チャネルは、立体視内視鏡の遠位端部に、異なる第1の画像取込みセンサ、異なる第2の画像取込みセンサ、異なるビーム・スプリッタおよび異なる反射ユニットを複数含む。いくつかの態様では、この装置は、ビーム・スプリッタを含むプリズム・アセンブリをさらに有することができ、このビーム・スプリッタが、受光した光の第1の部分を反射し、受光した光の第2の部分を通過させるように構成されること、および/または、プリズム・アセンブリが、第1の面から受光した光を第1のセンサ面に向けて送るように構成された第2の面をさらに含むことができ、第2の面が、他の光が第2の面に入射しないように位置決めされること、および/または、第1の面が、多層コーティング面をさらに含むことができること、および/または、反射ユニットが、受光した光の第2の部分を第2の画像取込みセンサの表面に反射するように位置決めされた反射面をさらに含むことができること、および/または、第1の面が、45度未満の入射角を有することができること、および/または、プリズム・アセンブリおよび反射ユニットが、1つの一体構造を構成し(例えば2つもしくは3つの部品を接着したもの、またはペンタプリズムなど)、第1の面が、多層コーティング面を含むことができること、および/または、この1つの一体構造が、2つの部品を接着したものおよび3つの部品を接着したものの一方を含むことができること、および/または、この1つの一体構造が、ペンタプリズムを含むことができること、および/または、この装置が、プリズム・アセンブリの遠位に近接して位置決めされた遮蔽体をさらに含むことができ、遮蔽体の遠位に近接して位置決めされた液晶型合焦素子を必要に応じてさらに含むこと、および/または、プリズム・アセンブリが、受光した光がプリズム・アセンブリに進入する第1の面をさらに含むことができ、第1の面から第1のセンサ面までの第1の光路長が、第1の面から第2のセンサ面までの第2の光路長とほぼ等しい、または第1の面から第2のセンサ面までの第2の光路長と異なり、2つの光路長の差が第1の画像取込みセンサが取得する画像と第2の画像取込みセンサが取得する画像の間の焦点の違いをもたらすように構成されるようになっていることを特徴とする。いくつかの態様では、ビーム・スプリッタは、受光した光の第1の部分を反射し、受光した光の第2の部分を透過させるように構成されたコーティング面をさらに含むことができ、受光した光の第1の部分および第2の部分は、受光した光の異なる、または実質的に等しい、第1の割合および第2の割合である。いくつかの態様では、第1の画像取込みセンサおよび第2の画像取込みセンサは、両方ともカラー画像取込みセンサを含むこともできるし、あるいは一方がモノクロ画像取込みセンサを含むこともできる
第2の実施形態
装置は、第1のセンサ面を含む第1の画像取込みセンサと、第2のセンサ面を含む第2の画像取込みセンサとを含み、第1のセンサ面が第1の平面内にあり、第2のセンサ面が第2の平面内にあり、第1の平面と第2の平面が実質的に平行であり、既知の距離だけ離間しており、さらに、光を受光するように位置決めされ、受光した光の第1の部分を第1のセンサ面に向けて送り、受光した光の第2の部分を通過させるように構成されたビーム・スプリッタと、受光した光の第2の部分を受光し、受光した光の第2の部分を第2の画像取込みセンサに向けて送るように位置決めされた反射ユニットとを含む。
第3の実施形態
装置は、第1のセンサ面を含む第1の画像取込みセンサと、第2のセンサ面を含む第2の画像取込みセンサと、第1のレンズ・アセンブリと、第2のレンズ・アセンブリと、第1のレンズ・アセンブリを通過した光を受光し、第1のレンズ・アセンブリから受光した光を第1のセンサ面に反射するように位置決めされ、かつ第2のレンズ・アセンブリを通過した光を受光し、第2のレンズ・アセンブリから受光した光を第2のセンサ面に反射するように位置決めされた反射ユニットとを含み、第1のレンズ・アセンブリから第1のセンサ面までの第1の光路長は、第2のレンズ・アセンブリから第2のセンサ面までの第2の光路長とほぼ等しい。いくつかの態様では、第1および第2の画像取込みセンサ面は、同一平面であってもよいし、あるいは第1および第2のセンサ面はそれぞれ、実質的に平行で既知の距離だけ離間した第1および第2の平面内にあってもよい。
第4の実施形態
方法は、共通の前端部光学系から受光した光の第1の部分から、第1の画像を、画像取込みユニットの第1の画像取込みセンサで取り込むステップと、共通の前端部光学系から受光した光の第2の部分から、第2の画像を、画像取込みユニットの第2の画像取込みセンサで取り込むステップとを含み、第1および第2の画像取込みセンサは同一平面であり、第1の画像と第2の画像は、取込み時に互いに空間的に位置合わせされる。いくつかの態様では、この方法は、画像取込みユニットのビーム・スプリッタによって、受光した光を第1の部分と第2の部分とに分離するステップと、受光した光の第1の部分を第1の画像取込みセンサに向けて送るステップと、この光の第2の部分を第2の画像取込みセンサに向けて送るステップとをさらに含むことができる。
第5の実施形態
装置は、第1の画像取込みセンサ面を含む第1の画像取込みセンサと、第2の画像取込みセンサ面を含む第2の画像取込みセンサと、光を受光するように位置決めされたプリズム・アセンブリであり、受光した光がプリズム・アセンブリに進入する遠位面、受光した光の偏光状態に基づいて受光した光の第1の部分を反射し、受光した光の偏光状態に基づいて受光した光の第2の部分を透過させるように構成されたビーム・スプリッタ、および受光した光の第1の部分を第1の画像取込みセンサに向けて送るように構成された表面を含むプリズム・アセンブリと、受光した光の第2の部分を受光し、受光した光の第2の部分を第2の画像取込みセンサに向けて送るように位置決めされた反射ユニットとを含み、遠位面から第1のセンサ面までの第1の光路長は、遠位面から第2のセンサ面までの第2の光路長とほぼ等しい。いくつかの態様では、第1および第2の画像取込みセンサ面は、同一平面とすることができる。いくつかの態様では、第1および第2のセンサ面は、それぞれ、実質的に平行で既知の距離だけ離間した第1および第2の平面内にあってもよい。いくつかの態様では、第1の画像取込みセンサおよび第2の画像取込みセンサは、1つの画像取込みセンサ・チップの異なる領域を構成することができる。いくつかの態様では、この装置は、第1の画像取込みセンサおよび第2の画像取込みセンサと、プリズム・アセンブリと、反射ユニットとを有する遠位端部を含む内視鏡を有することができる。いくつかの態様では、この装置は、遠位端部、1対のチャネル、ならびに複数の第1および第2の画像取込みセンサと、プリズム・アセンブリと、反射ユニットとを含む立体視内視鏡をさらに含むことができ、第1の画像取込みセンサ、第2の画像取込みセンサ、プリズム・アセンブリおよび反射ユニットは複数含まれ、1対のチャネルの各チャネルは、立体視内視鏡の遠位端部に、異なる第1の画像取込みセンサ、異なる第2の画像取込みセンサ、異なるプリズム・アセンブリおよび異なる反射ユニットを複数含む。いくつかの態様では、ビーム・スプリッタは、多層コーティング面を含むことができる。いくつかの態様では、反射ユニットは、受光した光の第2の部分を第2の画像取込みセンサに反射するように位置決めされた反射面をさらに含むことができる。いくつかの態様では、プリズム・アセンブリおよび反射ユニットは、1つの一体構造(例えば2つもしくは3つの部品を接着したもの、および/またはペンタプリズムなど)を構成することができる。いくつかの態様では、ビーム・スプリッタは、45度未満の入射角を有することができる。いくつかの態様では、この装置は、ビーム・スプリッタの遠位に位置決めされた遮蔽体をさらに含むことができる。いくつかの態様では、この装置は、遮蔽体とプリズム・アセンブリの遠位面との間に位置決めされた4分の1波長板をさらに含むことができる。いくつかの態様では、この装置は、第1および第2の画像取込みセンサに結合された制御装置をさらに含むことができ、この制御装置は、第1の画像取込みセンサによって取り込まれた第1の画像と第2の画像取込みセンサによって取り込まれた第2の画像とを結合して、受光した光の偏光の差に基づいてその中のフィーチャの顕著性を高めた画像を生成する。いくつかの態様では、この装置は、偏光を有する照明源をさらに含むことができ、受光する光は、この偏光とは異なる偏光を有する反射光と、この偏光を有する反射光とを含む。いくつかの態様では、この装置は、非偏光照明源をさらに含むことができ、受光する光は、反射非偏光光および反射偏光光を含む。
第6の実施形態
方法は、共通の前端部光学系から受光した光の第1の偏光部分から、第1の画像を、画像取込みユニットの第1の画像取込みセンサで取り込むステップと、共通の前端部光学系から受光した光の第2の部分から、第2の画像を、画像取込みユニットの第2の画像取込みセンサで取り込むステップとを含み、共通の前端部光学系から第1のセンサ面までの第1の光路長は、共通の前端部光学系から第2のセンサ面までの第2の光路長とほぼ等しい。いくつかの態様では、第1および第2の画像取込みセンサは、同一平面にあってもよいし、あるいはそれぞれ実質的に平行で既知の距離だけ離間した第1および第2の平面内にあってもよい。いくつかの態様では、この方法は、画像取込みユニットのビーム・スプリッタの偏光に基づいて、受光した光を第1の偏光部分と第2の部分に分離するステップと、受光した光の第1の偏光部分をビーム・スプリッタによって第1の画像取込みセンサに向けて送るステップと、この光の第2の部分を反射ユニットによって第2の画像取込みセンサに向けて送るステップとをさらに含むことができる。いくつかの態様では、この方法は、第1の画像取込みセンサによって取り込まれた第1の画像と第2の画像取込みセンサによって取り込まれた第2の画像とを結合して、受光した光の偏光の差に基づいてその中のフィーチャの顕著性を高めた画像を生成するステップをさらに含むことができる。いくつかの態様では、この方法は、偏光光または非偏光光でシーンを照明するステップをさらに含むことができる。
第7の実施形態
装置は、第1の画像取込みセンサ面を含む第1の画像取込みセンサと、第2の画像取込みセンサ面を含む第2の画像取込みセンサと、光を受光するように位置決めされたプリズム・アセンブリであり、受光した光がプリズム・アセンブリに進入する遠位面、受光した光の第1の割合を反射し、受光した光の第2の割合を透過させるように構成されたビーム・スプリッタ、および受光した光の第1の割合を第1の画像取込みセンサに向けて送るように構成された表面を含むプリズム・アセンブリと、受光した光の第2の割合を受光し、受光した光の第2の割合を第2の画像取込みセンサに向けて送るように位置決めされた反射ユニットとを含み、遠位面から第1のセンサ面までの第1の光路長は、遠位面から第2のセンサ面までの第2の光路長とほぼ等しい。いくつかの態様では、第1および第2の画像取込みセンサ面は、同一平面にあってもよいし、あるいはそれぞれ実質的に平行で既知の距離だけ離間した第1および第2の平面内にあってもよい。いくつかの態様では、第1の画像取込みセンサおよび第2の画像取込みセンサは、1つの画像取込みセンサ・チップの異なる領域を構成することができる。いくつかの態様では、この装置は、第1の画像取込みセンサおよび第2の画像取込みセンサと、プリズム・アセンブリと、反射ユニットとを有する遠位端部を含む内視鏡を有することができる。いくつかの態様では、この装置は、遠位端部、1対のチャネル、ならびに複数の第1および第2の画像取込みセンサと、プリズム・アセンブリと、反射ユニットとを含む立体視内視鏡をさらに有することができ、第1の画像取込みセンサ、第2の画像取込みセンサ、プリズム・アセンブリおよび反射ユニットは複数含まれ、1対のチャネルの各チャネルは、立体視内視鏡の遠位端部に、異なる第1の画像取込みセンサ、異なる第2の画像取込みセンサ、異なるプリズム・アセンブリおよび異なる反射ユニットを複数含む。いくつかの態様では、プリズム・アセンブリは、ペンタプリズムを含むことができる。いくつかの態様では、この装置は、プリズム・アセンブリの遠位に位置決めされた遮蔽体をさらに含むことができる。いくつかの態様では、100パーセントから第1の割合を引くと、ほぼ第2の割合になる。いくつかの態様では、第1および第2の画像取込みセンサは、カラー・センサを含むことができる。いくつかの態様では、この装置は、第1および第2の画像取込みセンサに結合された制御装置をさらに含むことができ、この制御装置が、第1の画像取込みセンサによって取り込まれた第1の画像から得られる情報と第2の画像取込みセンサによって取り込まれた第2の画像から得られる情報とを結合して、単一の画像取込みセンサによって取り込まれた画像よりエンハンスされた空間解像度およびエンハンスされたダイナミック・レンジの一方を有する画像を生成すること、第1の割合と第2の割合がほぼ等しく、この制御装置が生成する画像が、エンハンスされた空間解像度を有すること、あるいは、第1の割合と第2の割合はほぼ等しいとは言えず、この制御装置が生成する画像がエンハンスされたダイナミック・レンジを有することを特徴とする。いくつかの態様では、第1の割合と第2の割合は、ほぼ等しくすることができ、第1の割合が、受光した光の約50パーセントとすることができ、第2の割合が、受光した割合の約50パーセントとすることができること、ビーム・スプリッタおよび表面が、第1の光路長が依然として第2の光路長とほぼ等しいままとなるようにして、第1の画像取込みセンサによって取り込まれた画像を第2の画像取込みセンサによって取り込まれた画像からオフセットするように位置決めすることができること、および/または、この装置が、第1の画像取込みセンサによって取り込まれた第1の画像中の第1の画素をサンプリングし、第2の画像取込みセンサによって取り込まれる第1の画素に対応する第2の画素をサンプリングし、第1および第2の画像取込みセンサによって取り込まれた画像より高い見かけの解像度を有する画像の画素を生成するように構成された、第1および第2の画像取込みセンサに結合された制御装置をさらに含むことができることを特徴とする。いくつかの態様では、第1の割合と第2の割合が等しくなく、第1の割合は、第1の画像取込みセンサのダイナミック・レンジに基づく。いくつかの態様では、第1の割合は、受光した光の約N%であり、第2の割合は、受光した光の約M%であり、NおよびMは正の数であり、100パーセントからN%を引くとM%とほぼ等しくなり、N%は、第1の画像取込みセンサのダイナミック・レンジに基づいて選択され、この装置は、第1および第2の画像取り込みセンサに結合された制御装置をさらに含んでおり、第1の画像取込みセンサによって取り込まれた画像中の画素をサンプリングし、第2の画像取込みセンサによって取り込まれた画像中のそれに対応する画素をサンプリングし、サンプリングした画素を用いて出力画像の画素を生成し、この出力画像は、単一の画像取込みセンサによって取り込まれた画像より高いダイナミック・レンジを有する。
第8の実施形態
装置は、第1の画像取込みセンサ面を含む第1の画像取込みセンサと、第2の画像取込みセンサ面を含む第2の画像取込みセンサと、複数の色成分を含む光を受光するように位置決めされたプリズム・アセンブリであり、受光した光がビーム・スプリッタに進入する遠位面、複数の色成分のうちの1つの色成分を反射し、複数の色成分のうちの他の色成分を透過させるように構成されたビーム・スプリッタ、上記の1つの色成分を第1の画像取込みセンサに向けて送るように構成された表面を含むプリズム・アセンブリと、受光した光の第2の部分を受光し、上記の他の色成分を第2の画像取込みセンサに向けて送るように位置決めされた反射ユニットとを含み、遠位面から第1のセンサ面までの第1の光路長は、遠位面から第2のセンサ面までの第2の光路長とほぼ等しい。いくつかの態様では、第1および第2の画像取込みセンサ面は、同一平面にあってもよいし、あるいはそれぞれ実質的に平行で既知の距離だけ離間した第1および第2の平面内にあってもよい。いくつかの態様では、第1の画像取込みセンサは、モノクロ画像取込みセンサを含むことができ、第2の画像取込みセンサは、複数の色成分のうちの上記の他の色成分用のカラー・フィルタ・アレイを有する画像取込みセンサを含むことができ、複数の色成分のうちの上記の1つが緑色成分であり、複数の色成分のうちの上記の他の色成分が赤色成分および青色成分であること、カラー・フィルタ・アレイが、赤および青の画素のチェッカボードとすることができること、および/または、この装置が、複数の色成分のうちの上記の1つではフル空間解像度を有し、複数の色成分のうちの上記の他の色成分ではそれより低減された空間解像度を有し、カラー画像取込みセンサによって取り込まれた画像より改善された空間解像度および鮮鋭度を有する画像を生成するように構成された、第1および第2の画像取込みセンサに結合された制御装置をさらに含むことができることを特徴とする。
第9の実施形態
方法は、共通の前端部光学系から受光した光の第1の割合から、第1の画像を、画像取込みユニットの第1の画像取込みセンサで取り込むステップと、共通の前端部光学系から受光した光の第2の割合から、第2の画像を、画像取込みユニットの第2の画像取込みセンサで取り込むステップであり、画像取込みユニット内での第1の画像取込みセンサまでの第1の光路長が画像取込みユニット内での第2の画像取込みセンサまでの第2の光路長とほぼ等しいステップと、第1の画像から得られる情報と第2の画像から得られる情報とを結合して、単一の画像取込みセンサによって取り込まれた画像よりエンハンスされた空間解像度およびエンハンスされたダイナミック・レンジの一方を有する画像を生成するステップとを含むことができる。いくつかの態様では、第1および第2の画像取込みセンサ面は、同一平面にあってもよいし、あるいはそれぞれ実質的に平行で既知の距離だけ離間した第1および第2の平面内にあってもよい。
第10の実施形態
装置は、第1の画像取込みセンサ面を含む第1の画像取込みセンサと、第2の画像取込みセンサ面を含む第2の画像取込みセンサと、光を受光するように位置決めされたプリズム・アセンブリであり、受光した光がプリズム・アセンブリに進入する遠位面、第1の光成分のセットを受光した光の第1の部分として反射し、第2の光成分のセットを受光した光の第2の部分として通過させる複数のノッチ・フィルタを含むビーム・スプリッタ、および受光した光の第1の部分を第1の画像取込みセンサに向けて送るように構成された表面を含むプリズム・アセンブリと、受光した光の第2の部分を受光し、受光した光の第2の部分を第2の画像取込みセンサに向けて送るように位置決めされた反射ユニットとを含み、遠位面から第1のセンサ面までの第1の光路長が、遠位面から第2のセンサ面までの第2の光路長とほぼ等しい。いくつかの態様では、第1および第2の画像取込みセンサ面は、同一平面にあってもよいし、あるいはそれぞれ実質的に平行で既知の距離だけ離間した第1および第2の平面内にあってもよい。いくつかの態様では、第1の画像取込みセンサおよび第2の画像取込みセンサは、1つの画像取込みセンサ・チップの異なる領域を構成することができる。いくつかの態様では、この装置は、第1の画像取込みセンサおよび第2の画像取込みセンサと、プリズム・アセンブリと、反射ユニットとを有する遠位端部を含む内視鏡を有することができる。いくつかの態様では、この装置は、遠位端部、1対のチャネル、ならびに複数の第1および第2の画像取込みセンサと、プリズム・アセンブリと、反射ユニットとを含む立体視内視鏡をさらに含むことができ、第1の画像取込みセンサ、第2の画像取込みセンサ、プリズム・アセンブリおよび反射ユニットを複数含み、1対のチャネルの各チャネルは、立体視内視鏡の遠位端部に、異なる第1の画像取込みセンサ、異なる第2の画像取込みセンサ、異なるプリズム・アセンブリおよび異なる反射ユニットを複数含む。いくつかの態様では、プリズム・アセンブリは、ペンタプリズムを含むことができる。いくつかの態様では、この装置は、プリズム・アセンブリの遠位に位置決めされた遮蔽体をさらに含むことができる。いくつかの態様では、第1および第2の画像取込みセンサは、カラー・センサを含むことができ、および/または、この装置は、複数の色成分を含む出力光を生成する照明器をさらに含むことができ、および/または、この装置は、第1の画像取込みセンサによって取り込まれた第1の画像のモザイク解除処理された画像を受信し、第2の画像取込みセンサによって取り込まれた第2の画像のモザイク解除処理された画像を受信し、第1の画像中の対応する画素の色成分ベクトルおよび第2の画像中の対応する画素の色成分ベクトルから出力画像中の画素のN要素色成分ベクトルを生成するように構成された、第1および第2の画像取込みセンサに結合された色補正モジュールをさらに含むことができ、Nが最低でも3である。いくつかの態様では、第1および第2の画像取込みセンサは、カラー・センサを含むことができ、各カラー・センサは、赤/緑/緑/青のベイヤー・カラー・フィルタ・アレイを含み、この装置は、第1の赤色成分出力照明を生成する第1のレーザ照明源と、第1の赤色成分出力照明とは異なる第2の赤色成分出力照明を生成する第2のレーザ照明源と、第1の緑色成分出力照明を生成する第3のレーザ照明源と、第1の緑色成分出力照明とは異なる第2の緑色成分出力照明を生成する第4のレーザ照明源と、第1の青色成分出力照明を生成する第5のレーザ照明源と、第1の青色成分出力照明とは異なる第2の青色成分出力照明を生成する第6のレーザ照明源とを含む照明器をさらに含むことができる。いくつかの態様では、複数のノッチ・フィルタは、第1の赤色光成分、第1の緑色光成分、および第1の青色光成分を、受光した光の第1の部分として反射することができ、複数のノッチ・フィルタは、第2の赤色光成分、第2の緑色光成分、および第2の青色光成分を、受光した光の第2の部分として通過させることができる。いくつかの態様では、この装置は、第1の画像取込みセンサによって取り込まれた第1の画像のモザイク解除処理された画像を受信し、第2の画像取込みセンサによって取り込まれた第2の画像のモザイク解除処理された画像を受信し、第1の画像中の対応する画素の3色成分ベクトルおよび第2の画像中の対応する画素の3色成分ベクトルから出力画像中の画素の6要素色成分ベクトルを生成するように構成された、第1および第2の画像取込みセンサに結合された制御装置をさらに含むことができ、さらに、いくつかの態様では、広帯域白色光照明器も含むことができる。いくつかの態様では、複数のノッチ・フィルタは、受光した光の赤色成分の第1の部分、緑色成分の第1の部分および青色成分の第1の部分を反射し、受光した光の赤色成分の第2の部分、緑色成分の第2の成分、および青色成分の第2の部分を通過させることができる。いくつかの態様では、この装置は、第1の画像取込みセンサによって取り込まれた第1の画像のモザイク解除処理された画像を受信し、第2の画像取込みセンサによって取り込まれた第2の画像のモザイク解除処理された画像を受信し、第1の画像中の対応する画素の3色成分ベクトルおよび第2の画像中の対応する画素の色成分ベクトルから出力画像中の画素のN要素色を生成するように構成された、第1および第2の画像取込みセンサに結合された制御装置をさらに含むことができ、ここでNは3から6の範囲の整数であり、また、この装置は、各画素についてN要素色成分ベクトルを受信するように構成された、制御装置に結合されたディスプレイをさらに含むことができる。いくつかの態様では、この装置は、プリズム・アセンブリの遠位に位置決めされたレンズ系をさらに含むことができ、このレンズ系は、そのレンズ系から異なる距離のところに異なる波長の光を合焦させるように構成される。いくつかの態様では、この装置は、第1の画像取込みセンサによって取り込まれた第1の画像および第2の画像取込みセンサによって取り込まれた第2の画像にデジタル・フィルタ・カーネルを適用して第3および第4の画像を生成し、第3および第4の画像をモザイク解除処理し、モザイク解除処理された第3の画像中の対応する画素の色成分ベクトルおよびモザイク解除処理された第4の画像中の対応する画素の色成分ベクトルから出力画像中の画素のN要素色成分ベクトルを生成するように構成された、第1および第2の画像取込みセンサに結合された制御装置をさらに含むことができる。ここで、Nは3から6の範囲の整数である。いくつかの態様では、この装置は、赤色成分出力照明を生成する第1のレーザ照明源と、緑色成分出力照明を生成する第2のレーザ照明源と、青色成分出力照明を生成する第3のレーザ照明源とを含む照明器をさらに含むことができ、いくつかの態様では、複数のノッチ・フィルタは、赤色光成分、緑色光成分および青色光成分を受光した光の第1の部分として反射し、蛍光を通過させ、またいくつかの態様では、この装置は、第1の画像中の対応する画素の色成分ベクトルおよび第2の画像中の対応する画素の色成分ベクトルから出力画像中の画素の4要素色成分ベクトルを生成するように構成された、第1および第2の画像取込みセンサに結合された制御装置をさらに含むことができ、また、4要素色成分ベクトルの要素のうち3つの要素は可視カラー画像用であり、4要素色成分ベクトルの要素のうち第4の要素は蛍光画像用であり、またいくつかの態様では、第1および第2の画像取込みセンサはそれぞれ、赤/緑/緑/青のベイヤー・カラー・フィルタ・アレイを含むカラー・センサを含み、またいくつかの態様では、照明器は、蛍光励起光源をさらに含むことができ、この装置は、受光した光に含まれる蛍光励起光源からの光を阻止するために取り付けられたフィルタをさらに含むことができ、またいくつかの態様では、この蛍光は、複数の蛍光に含めることができ、各蛍光が異なる色を構成する。
第11の実施形態
方法は、共通の前端部光学系を通して受光した光を、画像取込みユニットの複数のノッチ・フィルタによって第1の複数の光成分と第2の複数の光成分とに分離するステップと、第1の複数の光成分から、第1の画像を、画像取込みユニットの第1の画像取込みセンサで取り込むステップと、第2の複数の光成分から、第2の画像を、画像取込みユニットの第2の画像取込みセンサで取り込むステップであり、画像取込みユニット内での第1の画像取込みセンサまでの第1の光路長が画像取込みユニット内での第2の画像取込みセンサまでの第2の光路長とほぼ等しいステップと、第1の画像中の対応する画素の色成分ベクトルおよび第2の画像中の対応する画素の色成分ベクトルから出力画像中の画素のN要素色成分ベクトルを生成するステップとを含み、ここで、Nは最低でも3である。いくつかの態様では、第1および第2の画像取込みセンサ面は、同一平面にあってもよいし、あるいはそれぞれ実質的に平行で既知の距離だけ離間した第1および第2の平面内にあってもよい。
第12の実施形態
装置は、第1の画像取込みセンサ面を含む第1の画像取込みセンサと、第2の画像取込みセンサ面を含む第2の画像取込みセンサと、光を受光するように位置決めされたプリズム・アセンブリであり、受光した光がプリズム・アセンブリに進入する遠位面、受光した光の第1の部分を反射し、受光した光の第2の部分を透過させるように構成されたビーム・スプリッタ、および受光した光の第1の部分を第1の画像取込みセンサに向けて送るように構成された表面を含むプリズム・アセンブリと、受光した光の第2の部分を受光し、受光した光の第2の部分を第2の画像取込みセンサに向けて送るように位置決めされた反射ユニットとを含み、遠位面から第1のセンサ面までの第1の光路長は、遠位面から第2のセンサ面までの第2の光路長より短く、第1の画像取込みセンサは、第1の物体距離のところに合焦した画像を取り込み、第2の画像取込みセンサは、第2の物体距離のところに合焦した画像を取り込む。いくつかの態様では、第1および第2の画像取込みセンサ面は、同一平面にあってもよいし、あるいはそれぞれ実質的に平行で既知の距離だけ離間した第1および第2の平面内にあってもよい。いくつかの態様では、第1の画像取込みセンサおよび第2の画像取込みセンサは、1つの画像取込みセンサ・チップの異なる領域を構成することができる。いくつかの態様では、この装置は、第1の画像取込みセンサおよび第2の画像取込みセンサと、プリズム・アセンブリと、反射ユニットとを有する遠位端部を含む内視鏡を有することができる。いくつかの態様では、この装置は、遠位端部、1対のチャネル、ならびに複数の第1および第2の画像取込みセンサと、プリズム・アセンブリと、反射ユニットとを有する立体視内視鏡をさらに含むことができ、第1の画像取込みセンサ、第2の画像取込みセンサ、プリズム・アセンブリおよび反射ユニットを複数含み、1対のチャネルの各チャネルは、立体視内視鏡の遠位端部に、異なる第1の画像取込みセンサ、異なる第2の画像取込みセンサ、異なるプリズム・アセンブリおよび異なる反射ユニットを複数含む。いくつかの態様では、プリズム・アセンブリは、ペンタプリズムを含むことができる。いくつかの態様では、この装置は、プリズム・アセンブリの遠位に位置決めされた遮蔽体をさらに含むことができる。いくつかの態様では、受光した光の第1の部分は、受光した光の第1の割合とすることができ、受光した光の第2の部分は、受光した光の第2の割合とすることができ、いくつかの態様では、第1の割合と第2の割合はほぼ等しく、またいくつかの態様では、100パーセントから第1の割合を引くと、第2の割合にほぼ等しくなり、またいくつかの態様では、第1の割合と第2の割合はほぼ等しいとは言えず、第1の割合は第2の割合より小さく、またいくつかの態様では、第1および第2の画像取込みセンサのうちの少なくとも一方は、カラー画像取込みセンサを含み、いくつかの態様では、この装置は、第1および第2の画像取込みセンサに結合されて第1および第2の画像を受信する制御装置をさらに含み、この制御装置は、第1および第2の画像から焦点の合った出力画像を自動的に生成するように構成され、さらに、いくつかの態様において、第1の画像中の第1の画素群をサンプリングし、第2の画像中の対応する第2の画素群をサンプリングし、第1の画素群および第2の画素群のうちの一方を出力画像用に選択するように構成され、また他の態様では、この装置は、第1および第2の画像取込みセンサに結合された制御装置をさらに含み、この制御装置は、第1の画像取込みセンサによって取り込まれた第1の画像および第2の画像取込みセンサによって取り込まれた第2の画像を取り出すように構成され、かつ第1および第2の画像から深さマップを生成するように構成され、さらに、いくつかの態様において、シーンの3次元表面を生成し、第1および第2の画像をこの3次元表面に投影してテクスチャ・マッピングしてテクスチャ処理された画像面を生成し、深さマップおよびテクスチャ処理された画像面から仮想カメラ点の新たな画像を生成するように構成され、その他の態様では、この装置は、遠位端部、1対のチャネル、ならびに複数の第1および第2の画像取込みセンサと、プリズム・アセンブリと、反射アセンブリとを有する立体視内視鏡をさらに含み、第1の画像取込みセンサ、第2の画像取込みセンサ、プリズム・アセンブリおよび反射ユニットを複数含み、1対のチャネルの各チャネルは、立体視内視鏡の遠位端部に、異なる第1の画像取込みセンサ、異なる第2の画像取込みセンサ、異なるプリズム・アセンブリおよび異なる反射ユニットを複数含み、いくつかの態様では、この装置は、上記の対のうちの第1のチャネル中の第1および第2の画像取込みセンサに結合されて第1および第2の取得画像を受信し、上記の対のうちの第2のチャネル中の第1および第2の画像取込みセンサに結合されて第3および第4の取得画像を受信する制御装置をさらに含み、この制御装置は、第1のチャネル用の第1のチャネルの深さマップを生成し、第2のチャネル用の第2のチャネルの深さマップを生成し、第1および第2のチャネルの深さマップに基づいてシーンの3次元表面を生成し、第1、第2、第3および第4の取得画像をこの3次元表面に投影してテクスチャ処理して、テクスチャ処理された画像面を生成し、テクスチャ処理された画像面から新たな仮想カメラ視点の新たな画像を生成するように構成される。
第13の実施形態
方法は、共通の前端部光学系から受光した光の一部から、第1の画像を、画像取込みユニットの第1の画像取込みセンサで取り込むステップと、共通の前端部光学系から受光した光の第2の部分から、第2の画像を、画像取込みユニットの第2の画像取込みセンサで取り込むステップとを含み、画像取込みユニット内での第1の画像取込みセンサまでの第1の光路長は、画像取込みユニット内での第2の画像取込みセンサまでの第2の光路長より短く、さらに、第1の画像から得られた情報と第2の画像から得られた情報とを結合して、拡大された被写界深度を有する焦点の合った画像を生成するステップを含む。いくつかの態様では、第1および第2の画像取込みセンサは、同一平面にあり、あるいはそれぞれ実質的に平行で既知の距離だけ離間した第1および第2の平面内にある。
第14の実施形態
方法は、共通の前端部光学系から受光した光の一部から、第1の画像を、画像取込みユニットの第1の画像取込みセンサで取り込むステップと、共通の前端部光学系から受光した光の第2の部分から、第2の画像を、画像取込みユニットの第2の画像取込みセンサで取り込むステップとを含み、画像取込みユニット内での第1の画像取込みセンサまでの第1の光路長は、画像取込みユニット内での第2の画像取込みセンサまでの第2の光路長より短く、さらに、第1の画像から得られた情報と第2の画像から得られた情報とを結合して、仮想カメラ視点からの画像を生成するステップを含む。いくつかの態様では、第1および第2の画像取込みセンサは、同一面にあってもよいし、あるいはそれぞれ実質的に平行で既知の距離だけ離間した第1および第2の平面内にあってもよい。いくつかの態様では、この方法は、表示されたシーンが時間経過とともに前後に揺れるように、1つのシーンの複数の仮想カメラ視点からの複数の画像を、非ステレオ・ディスプレイ・ユニット上に表示するステップをさらに含むことができる。




Claims (18)

  1. 装置であって、当該装置は、
    第1の画像取込みセンサ面を有する第1の画像取込みセンサと、
    第2の画像取込みセンサ面を有する第2の画像取込みセンサと、
    光を受光するように位置決めされたプリズム・アセンブリであって、該プリズム・アセンブリは、
    前記受光した光が前記プリズム・アセンブリに進入する遠位面と、
    前記受光した光の第1の部分を反射し、且つ前記受光した光の第2の部分を透過するように構成されるビーム・スプリッタと、
    前記受光した光の前記第1の部分を前記第1の画像取込みセンサに向けるように構成される表面と、
    前記受光した光の前記第2の部分を受光し、且つ前記受光した光の前記第2の部分を前記第2の画像取込みセンサに向けるように位置決めされた反射ユニットと、を含む、プリズム・アセンブリと、を有しており、
    前記遠位面から前記第1の画像取込みセンサ面までの第1の光路長が、前記遠位面から前記第2の画像取込みセンサ面までの第2の光路長よりも短く、前記第1の画像取込みセンサは、第1の物体距離に合焦した画像を取り込み、前記第2の画像取込みセンサは、第2の物体距離に合焦した画像を取り込む、
    装置。
  2. 前記第1及び第2の画像取込みセンサ面は、同一平面上にある、請求項1に記載の装置。
  3. 前記第1の画像取込みセンサ面は第1の平面内にあり、前記第2の画像取込みセンサ面は第2の平面内にあり、前記第1及び第2の平面は、略平行であり、且つ既知の距離だけ離間している、請求項1に記載の装置。
  4. 前記第1及び第2の画像取込みセンサは、1つの画像取込みセンサ・チップの異なる領域にある、請求項1に記載の装置。
  5. 遠位端部を含む内視鏡を有しており、前記遠位端部には、前記第1及び第2の画像取込みセンサ、前記プリズム・アセンブリ、及び前記反射ユニットが含まれる、請求項1に記載の装置。
  6. 前記プリズム・アセンブリは、ペンタプリズムを含む、請求項1に記載の装置。
  7. 前記プリズム・アセンブリの遠位に位置決めされた遮蔽体をさらに有する、請求項1に記載の装置。
  8. 前記受光した光の前記第1の部分は前記受光した光の第1の割合であり、前記受光した光の前記第2の部分は前記受光した光の第2の割合である、請求項1に記載の装置。
  9. 前記第1及び第2の割合は両方とも略等しい、請求項8に記載の装置。
  10. 100パーセントから前記第1の割合を引くと、前記第2の割合に略等しい、請求項8に記載の装置。
  11. 前記第1及び第2の割合は略等しくなく、前記第1の割合は前記第2の割合よりも小さい、請求項8に記載の装置。
  12. 第1及び第2の画像を受け取るために前記第1及び第2の画像取込みセンサに結合され、且つ前記第1及び第2の画像から出力画像を自動的に生成するように構成された制御装置をさらに有しており、
    前記出力画像は、前記第1の画像又は前記第2の画像のいずれかに比べて、見かけの被写界深度が増大している、請求項1に記載の装置。
  13. 前記制御装置は、前記第1の画像中の第1の画素グループをサンプリングし、前記第2の画像中の対応する第2の画素グループをサンプリングし、且つ前記出力画像のために前記第1の画素グループ及び前記第2の画素グループの一方を選択するように構成される、請求項12に記載の装置。
  14. 前記第1及び第2の画像取込みセンサに結合され、前記第1の画像取込みセンサによって取り込まれた第1の画像及び前記第2の画像取込みセンサによって取り込まれた第2の画像を取り出し、且つ前記第1及び第2の画像から深さマップを生成するように構成される制御装置をさらに有する、請求項1に記載の装置。
  15. 前記制御装置は、シーンの3次元表面を生成し、前記第1及び第2の画像を前記3次元表面に投影しテクスチャ・マッピングしてテクスチャ処理された画像面を生成し、且つ前記深さマップ及び前記テクスチャ処理された画像面から仮想カメラの新しい画像を生成するように構成される、請求項14に記載の装置。
  16. 前記第1及び第2の画像取込みセンサに結合され、前記第1の画像取込みセンサによって取込まれた第1の画像及び前記第2の画像取込みセンサによって取込まれた第2の画像を取り出し、且つ第3の物体距離に基づいて、出力画像を前記第1の画像と前記第2の画像との間でシフトさせるように構成される制御装置をさらに有する、請求項1に記載の装置。
  17. 前記第1及び第2の画像取込みセンサに結合され、
    前記第1の画像取込みセンサによって取り込まれた第1の画像及び前記第2の画像取込みセンサによって取り込まれた第2の画像を取り出し、
    前記第1の画像の領域及び前記第2の画像の対応する領域を処理し、
    前記第1の画像の各領域について、前記第1の画像の前記領域の鮮鋭度を前記第2の画像の前記対応する領域の鮮鋭度と比較し、且つ
    該比較に基づいて、前記領域から第3の画像を作成するように構成される制御装置をさらに含む、請求項1に記載の装置。
  18. 前記第1及び第2の画像取込みセンサに結合され、前記第1の画像取込みセンサによって取込まれた第1の画像及び前記第2の画像取込みセンサによって取込まれた第2の画像を取り出し、且つ前記第1及び第2の画像を立体ディスプレイに表示するように構成される制御装置をさらに有する、請求項1に記載の装置。



JP2020124976A 2011-08-12 2020-07-22 外科手術器具の画像取込み装置 Active JP7169725B2 (ja)

Applications Claiming Priority (10)

Application Number Priority Date Filing Date Title
US13/209,158 2011-08-12
US13/209,121 US8684914B2 (en) 2011-08-12 2011-08-12 Image capture unit and an imaging pipeline with enhanced color performance in a surgical instrument and method
US13/209,041 2011-08-12
US13/208,982 2011-08-12
US13/208,982 US8672838B2 (en) 2011-08-12 2011-08-12 Image capture unit in a surgical instrument
US13/209,121 2011-08-12
US13/209,158 US8784301B2 (en) 2011-08-12 2011-08-12 Image capture unit and method with an extended depth of field
US13/209,084 2011-08-12
US13/209,041 US8764633B2 (en) 2011-08-12 2011-08-12 Feature differentiation image capture unit and method in a surgical instrument
US13/209,084 US8734328B2 (en) 2011-08-12 2011-08-12 Increased resolution and dynamic range image capture unit in a surgical instrument and method

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2019020224A Division JP6740401B2 (ja) 2011-08-12 2019-02-07 外科手術器具の画像取込み装置

Publications (2)

Publication Number Publication Date
JP2020168569A true JP2020168569A (ja) 2020-10-15
JP7169725B2 JP7169725B2 (ja) 2022-11-11

Family

ID=47715395

Family Applications (4)

Application Number Title Priority Date Filing Date
JP2014525180A Active JP6258201B2 (ja) 2011-08-12 2012-08-10 外科手術器具の画像取込み装置
JP2017114998A Active JP6480508B2 (ja) 2011-08-12 2017-06-12 外科手術器具の画像取込み装置
JP2019020224A Active JP6740401B2 (ja) 2011-08-12 2019-02-07 外科手術器具の画像取込み装置
JP2020124976A Active JP7169725B2 (ja) 2011-08-12 2020-07-22 外科手術器具の画像取込み装置

Family Applications Before (3)

Application Number Title Priority Date Filing Date
JP2014525180A Active JP6258201B2 (ja) 2011-08-12 2012-08-10 外科手術器具の画像取込み装置
JP2017114998A Active JP6480508B2 (ja) 2011-08-12 2017-06-12 外科手術器具の画像取込み装置
JP2019020224A Active JP6740401B2 (ja) 2011-08-12 2019-02-07 外科手術器具の画像取込み装置

Country Status (5)

Country Link
EP (1) EP2741702B1 (ja)
JP (4) JP6258201B2 (ja)
KR (7) KR102529996B1 (ja)
CN (3) CN103889353B (ja)
WO (1) WO2013025530A1 (ja)

Families Citing this family (44)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102013206911A1 (de) * 2013-04-17 2014-10-23 Siemens Aktiengesellschaft Verfahren und Vorrichtung zur stereoskopischen Darstellung von Bilddaten
TW201528775A (zh) 2014-01-02 2015-07-16 Ind Tech Res Inst 景深圖校正方法及系統
US9648254B2 (en) * 2014-03-21 2017-05-09 Hypermed Imaging, Inc. Compact light sensor
WO2015176298A1 (en) 2014-05-23 2015-11-26 Covidien Lp 3d laparoscopic image capture apparatus with a single image sensor
US20160029892A1 (en) * 2014-07-30 2016-02-04 Novartis Ag Vital stain visualization in ophthalmic surgical procedures and associated devices, systems, and methods
TWI561773B (en) * 2014-08-06 2016-12-11 Delta Electronics Inc Six-primary solid state illuminator and operating method using the same
WO2016059906A1 (ja) * 2014-10-16 2016-04-21 オリンパス株式会社 内視鏡装置
WO2016080218A1 (ja) * 2014-11-21 2016-05-26 オリンパス株式会社 撮像システム
DE102015217253A1 (de) * 2015-09-10 2017-03-16 Robert Bosch Gmbh Umfelderfassungseinrichtung für ein Fahrzeug und Verfahren zum Erfassen eines Bilds mittels einer Umfelderfassungseinrichtung
EP3156761B1 (en) * 2015-10-14 2020-12-30 H4 Technologies Limited Image acquisition and processing
CN105611276B (zh) * 2015-12-22 2017-12-26 广州广康医疗科技股份有限公司 一种与达芬奇机器人配套使用的高清3d录直播系统
US10257394B2 (en) 2016-02-12 2019-04-09 Contrast, Inc. Combined HDR/LDR video streaming
US10264196B2 (en) * 2016-02-12 2019-04-16 Contrast, Inc. Systems and methods for HDR video capture with a mobile device
JP2017148432A (ja) * 2016-02-26 2017-08-31 富士フイルム株式会社 内視鏡用光源装置
US11163169B2 (en) 2016-06-07 2021-11-02 Karl Storz Se & Co. Kg Endoscope and imaging arrangement providing improved depth of field and resolution
US11307430B2 (en) 2016-06-07 2022-04-19 Karl Storz Se & Co. Kg Optical device and method for providing improved depth of field and resolution modes
US10324300B2 (en) 2016-06-07 2019-06-18 Karl Storz Se & Co. Kg Endoscope and imaging arrangement providing depth of field
WO2017217115A1 (ja) * 2016-06-17 2017-12-21 ソニー株式会社 画像処理装置、画像処理方法、プログラム、及び画像処理システム
WO2018031441A1 (en) 2016-08-09 2018-02-15 Contrast, Inc. Real-time hdr video for vehicle control
US11782256B2 (en) * 2016-09-21 2023-10-10 Omnivision Technologies, Inc. Endoscope imager and associated method
NL2017973B1 (en) * 2016-12-09 2018-06-19 Quest Photonic Devices B V Dichroic prism assembly with four or five channels
JP6513307B2 (ja) 2017-03-24 2019-05-15 オリンパス株式会社 内視鏡システム
JP6463573B1 (ja) * 2017-06-07 2019-02-06 オリンパス株式会社 内視鏡撮像システム
JP7088185B2 (ja) * 2017-06-12 2022-06-21 ソニーグループ株式会社 医療用システム、医療用装置および制御方法
US11699215B2 (en) 2017-09-08 2023-07-11 Sony Corporation Imaging device, method and program for producing images of a scene having an extended depth of field with good contrast
US20210030509A1 (en) * 2018-01-31 2021-02-04 Intuitive Surgical Operations, Inc. Display with folded optical path
EP3557531A1 (en) 2018-04-18 2019-10-23 Vision RT Limited Camera monitoring system for monitoring a patient in a bore based medical system
CN108896545B (zh) * 2018-05-09 2021-07-13 歌尔光学科技有限公司 涂胶检测方法、装置及计算机可读存储介质
CN108803228B (zh) * 2018-06-15 2021-01-08 郭洪志 一种仿生摄像头三维立体成像系统和方法
US10884263B2 (en) * 2018-08-01 2021-01-05 Htc Corporation Head-mounted display and imaging apparatus for displaying image thereof
CN109259717B (zh) * 2018-08-27 2020-08-14 彭波 一种立体内窥镜及内窥镜测量方法
DE102018122816B4 (de) * 2018-09-18 2024-01-04 Carl Zeiss Meditec Ag Verfahren und Vorrichtung zum Bestimmen einer Eigenschaft eines Objekts
US20200397239A1 (en) 2019-06-20 2020-12-24 Ethicon Llc Offset illumination of a scene using multiple emitters in a fluorescence imaging system
JP7352411B2 (ja) * 2019-08-22 2023-09-28 キヤノン株式会社 撮像装置
EP4061199A4 (en) * 2019-11-22 2023-11-29 Convergascent LLC USE OF MULTIPLE IMAGERS AND COMPUTER-ASSISTED PHOTOGRAPHY IN ENDOSCOPY
US20230086111A1 (en) * 2020-03-06 2023-03-23 270 Surgical Ltd. A multi focal endoscope
CN111474140A (zh) * 2020-03-23 2020-07-31 江苏大学 一种双通道正交相位显微成像采样系统
WO2021231508A1 (en) * 2020-05-12 2021-11-18 Covidien Lp Systems and methods for image mapping and fusion during surgical procedures
CN111766699A (zh) * 2020-07-24 2020-10-13 重庆金山科技(集团)有限公司 成像装置及方法、内窥镜系统
WO2022023157A1 (en) * 2020-07-30 2022-02-03 Interdigital Ce Patent Holdings, Sas Debayering with multiple camera rotations
WO2022044897A1 (ja) * 2020-08-31 2022-03-03 ソニーグループ株式会社 医療撮像システム、医療撮像装置、および動作方法
WO2022243994A1 (en) * 2021-05-19 2022-11-24 270 Surgical Ltd. Distal tip of a multi camera medical imaging device
US11808935B2 (en) 2021-10-12 2023-11-07 Olympus Corporation Endoscope and endoscope apparatus
DE102022105090B3 (de) 2022-03-03 2023-06-29 Schölly Fiberoptic GmbH Stereoskopische Anordnung und Operationsmikroskop mit stereoskopischer Anordnung

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01122274A (ja) * 1987-11-06 1989-05-15 Fujitsu Ltd 撮像装置
JP2005182521A (ja) * 2003-12-19 2005-07-07 Matsushita Electric Ind Co Ltd 虹彩撮像カメラおよび虹彩認証システム
JP2005176940A (ja) * 2003-12-16 2005-07-07 Olympus Corp 電子内視鏡
WO2005084011A1 (ja) * 2004-02-26 2005-09-09 Matsushita Electric Industrial Co., Ltd. 認証用画像撮像装置
JP2007528028A (ja) * 2004-03-09 2007-10-04 イアティア イメージング プロプライアタリー リミティド 異なる焦点に合わせられた画像を生成する光学システム
JP2010220890A (ja) * 2009-03-24 2010-10-07 Olympus Corp 蛍光観察装置および蛍光観察方法
JP2011062378A (ja) * 2009-09-18 2011-03-31 Fujifilm Corp 内視鏡システム
JP2011517192A (ja) * 2008-03-28 2011-05-26 コントラスト オプティカル デザイン アンド エンジニアリング,インク. 全ビーム画像スプリッタシステム

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4074306A (en) * 1975-07-28 1978-02-14 Olympus Optical Co., Ltd. Endoscope utilizing color television and fiber optics techniques
JPS62174715A (ja) * 1987-01-24 1987-07-31 Olympus Optical Co Ltd 内視鏡装置
JPH0820603B2 (ja) * 1987-02-27 1996-03-04 オリンパス光学工業株式会社 ビデオスコ−プ装置
US4873572A (en) * 1987-02-27 1989-10-10 Olympus Optical Co., Ltd. Electronic endoscope apparatus
JP3093875B2 (ja) * 1992-06-09 2000-10-03 オリンパス光学工業株式会社 立体視内視鏡
JP3628717B2 (ja) * 1994-03-17 2005-03-16 オリンパス株式会社 立体視内視鏡
US5743846A (en) * 1994-03-17 1998-04-28 Olympus Optical Co., Ltd. Stereoscopic endoscope objective lens system having a plurality of front lens groups and one common rear lens group
JPH10118004A (ja) * 1996-10-24 1998-05-12 Fuji Photo Film Co Ltd 蛍光撮像装置
US6331181B1 (en) 1998-12-08 2001-12-18 Intuitive Surgical, Inc. Surgical robotic tools, data architecture, and use
US6659939B2 (en) 1998-11-20 2003-12-09 Intuitive Surgical, Inc. Cooperative minimally invasive telesurgical system
JP2000221411A (ja) * 1999-01-29 2000-08-11 Fuji Photo Optical Co Ltd 偽似カラー表示可能な電子内視鏡装置
IL135571A0 (en) * 2000-04-10 2001-05-20 Doron Adler Minimal invasive surgery imaging system
DE60122894T2 (de) * 2000-07-14 2007-03-15 Xillix Technologies Corp., Richmond Kompaktes fluorezenz endoskopisches video system
JP5259033B2 (ja) * 2001-08-03 2013-08-07 オリンパス株式会社 内視鏡システム
US7101334B2 (en) * 2001-10-31 2006-09-05 Olympus Corporation Optical observation device and 3-D image input optical system therefor
JP2004313523A (ja) * 2003-04-17 2004-11-11 Pentax Corp 固体撮像素子、電子内視鏡
US20060241495A1 (en) * 2005-03-23 2006-10-26 Eastman Kodak Company Wound healing monitoring and treatment
JP5086535B2 (ja) * 2005-11-21 2012-11-28 オリンパスメディカルシステムズ株式会社 2板撮像装置
DE102006034205B4 (de) * 2006-07-25 2012-03-01 Carl Mahr Holding Gmbh Dynamische Bildaufnahme mit bildgebenden Sensoren
US8814779B2 (en) * 2006-12-21 2014-08-26 Intuitive Surgical Operations, Inc. Stereoscopic endoscope
JP5448353B2 (ja) * 2007-05-02 2014-03-19 キヤノン株式会社 光干渉断層計を用いた画像形成方法、及び光干渉断層装置
US20090131800A1 (en) * 2007-11-15 2009-05-21 Carestream Health, Inc. Multimodal imaging system for tissue imaging
JP2010082040A (ja) * 2008-09-30 2010-04-15 Fujifilm Corp 内視鏡システム
US20100165080A1 (en) * 2008-12-26 2010-07-01 Fujifilm Corporation Image capturing apparatus and endoscope

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01122274A (ja) * 1987-11-06 1989-05-15 Fujitsu Ltd 撮像装置
JP2005176940A (ja) * 2003-12-16 2005-07-07 Olympus Corp 電子内視鏡
JP2005182521A (ja) * 2003-12-19 2005-07-07 Matsushita Electric Ind Co Ltd 虹彩撮像カメラおよび虹彩認証システム
WO2005084011A1 (ja) * 2004-02-26 2005-09-09 Matsushita Electric Industrial Co., Ltd. 認証用画像撮像装置
JP2007528028A (ja) * 2004-03-09 2007-10-04 イアティア イメージング プロプライアタリー リミティド 異なる焦点に合わせられた画像を生成する光学システム
JP2011517192A (ja) * 2008-03-28 2011-05-26 コントラスト オプティカル デザイン アンド エンジニアリング,インク. 全ビーム画像スプリッタシステム
JP2010220890A (ja) * 2009-03-24 2010-10-07 Olympus Corp 蛍光観察装置および蛍光観察方法
JP2011062378A (ja) * 2009-09-18 2011-03-31 Fujifilm Corp 内視鏡システム

Also Published As

Publication number Publication date
KR20140050712A (ko) 2014-04-29
CN112220438A (zh) 2021-01-15
KR102274896B1 (ko) 2021-07-09
KR102529996B1 (ko) 2023-05-08
KR20190047066A (ko) 2019-05-07
JP2019072557A (ja) 2019-05-16
KR20210087564A (ko) 2021-07-12
JP6740401B2 (ja) 2020-08-12
KR102166302B1 (ko) 2020-10-16
KR102390141B1 (ko) 2022-04-25
KR20220057635A (ko) 2022-05-09
KR20200119901A (ko) 2020-10-20
WO2013025530A1 (en) 2013-02-21
CN112220438B (zh) 2024-02-06
KR101971211B1 (ko) 2019-04-23
EP2741702B1 (en) 2022-10-19
JP6480508B2 (ja) 2019-03-13
JP6258201B2 (ja) 2018-01-10
CN107913053A (zh) 2018-04-17
KR20200019779A (ko) 2020-02-24
JP2014524290A (ja) 2014-09-22
JP7169725B2 (ja) 2022-11-11
CN103889353B (zh) 2017-05-03
JP2017148657A (ja) 2017-08-31
KR102079689B1 (ko) 2020-02-20
KR20230062898A (ko) 2023-05-09
EP2741702A1 (en) 2014-06-18
CN107913053B (zh) 2020-10-30
CN103889353A (zh) 2014-06-25
EP2741702A4 (en) 2016-02-24

Similar Documents

Publication Publication Date Title
JP6740401B2 (ja) 外科手術器具の画像取込み装置
US10809519B2 (en) Increased resolution and dynamic range image capture unit in a surgical instrument and method
US20210204803A1 (en) Image capture unit in a surgical instrument
US9782056B2 (en) Image capture unit and method with an extended depth of field
US9254076B2 (en) Feature differentiation image capture unit and method in a surgical instrument
US8684914B2 (en) Image capture unit and an imaging pipeline with enhanced color performance in a surgical instrument and method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200728

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210831

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220405

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220624

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221018

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221027

R150 Certificate of patent or registration of utility model

Ref document number: 7169725

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150