JP2020061743A - 非白色光の一般的な照明装置を含む手術システム - Google Patents

非白色光の一般的な照明装置を含む手術システム Download PDF

Info

Publication number
JP2020061743A
JP2020061743A JP2019218438A JP2019218438A JP2020061743A JP 2020061743 A JP2020061743 A JP 2020061743A JP 2019218438 A JP2019218438 A JP 2019218438A JP 2019218438 A JP2019218438 A JP 2019218438A JP 2020061743 A JP2020061743 A JP 2020061743A
Authority
JP
Japan
Prior art keywords
color
camera
illumination
light
white light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019218438A
Other languages
English (en)
Other versions
JP7005581B2 (ja
Inventor
ディカルロ,ジェフリー
Dicarlo Jeffrey
ザオ,タオ
Tao Zhao
ジェイ ブルメンクランツ,スティーブン
J Blumenkranz Stephen
ジェイ ブルメンクランツ,スティーブン
ディー ホフマン,ブライアン
D Hoffman Brian
ディー ホフマン,ブライアン
リッチモンド,ジェフ
Richmond Geoff
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Intuitive Surgical Operations Inc
Original Assignee
Intuitive Surgical Operations Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Intuitive Surgical Operations Inc filed Critical Intuitive Surgical Operations Inc
Publication of JP2020061743A publication Critical patent/JP2020061743A/ja
Priority to JP2021176669A priority Critical patent/JP7296437B2/ja
Application granted granted Critical
Publication of JP7005581B2 publication Critical patent/JP7005581B2/ja
Priority to JP2023068230A priority patent/JP2023089220A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00193Optical arrangements adapted for stereoscopic vision
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0655Control therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B34/35Surgical robots for telesurgery
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/30Devices for illuminating a surgical field, the devices having an interrelation with other surgical devices or with a surgical procedure
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • A61B2090/371Surgical systems with images on a monitor during operation with simultaneous use of two cameras
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02BCLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO BUILDINGS, e.g. HOUSING, HOUSE APPLIANCES OR RELATED END-USER APPLICATIONS
    • Y02B20/00Energy efficient lighting technologies, e.g. halogen lamps or gas discharge lamps
    • Y02B20/40Control techniques providing energy savings, e.g. smart controller or presence detection

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biomedical Technology (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Physics & Mathematics (AREA)
  • Biophysics (AREA)
  • Optics & Photonics (AREA)
  • Signal Processing (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Multimedia (AREA)
  • Robotics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Gynecology & Obstetrics (AREA)
  • Endoscopes (AREA)
  • Color Television Image Signal Generators (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Non-Portable Lighting Devices Or Systems Thereof (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

【課題】遠隔手術システムにおいて、手術部位の画像ノイズを最小限に抑える。【解決手段】遠隔操作手術システム200の内視鏡201は、非白色光で手術部位203を照明する。カメラ220Lは、手術部位203の画像を取り込み、その画像を立体視ディスプレイ251上に表示させる。非白色光の照明218は、白色光照明を用いて取り込まれ、且つ、モニタ上に表示される画像と比較して、立体視ディスプレイ251上に提示される手術部位の画像のノイズを最小限に抑えるよう制御される。【選択図】図2

Description

関連出願
本願は、(2014年3月17日に出願された、Jeffrey DiCarloらの”Surgical System Including a Non-White Light General Illuminator”を開示する)米国特許出願第61/954,512号について優先権及びその利益を主張するものであり、この文献は、参照により本明細書に組み込まれる。
本発明の態様は、内視鏡イメージングに関しており、より具体的には、遠隔操作手術システムの一般的な照明に使用される非白色光に関する。
カリフォルニア州のサニーベールのIntuitive Surgical, Inc.により商品化されているda Vinci(登録商標)手術システムは、身体への低減した外傷、より早い回復及び短い入院日数等の多くの利益を患者に提供する最小侵襲性遠隔操作手術システムである。da Vinci(登録商標)手術システムの1つの特徴は、外科医に立体視を提供するために、2チャンネル(すなわち、左右の)ビデオキャプチャを提供し且つ可視化画像を表示させる能力である。
このような電子的な立体視撮像システムは、外科医に、高解像度ビデオ画像を出力することができ、及び、外科医が、特定の組織タイプ及び特性を特定するだけでなく、向上した精度で作業を行うことを可能にする「拡大」ビューを提供するズーム等の機能を可能にする。しかしながら、典型的な手術分野では、電子的な立体視撮像システムのカメラによって取り込まれた画質は、カメラの信号対雑音比によって制限される。
カメラが光を収集する際に、取り込まれた光が、電子に変換され、及び画像センサのウェル(well)に蓄積される。画素毎に1つのウェルがある。図1は、赤色画素Rのためのウェル101、緑色画素Gのためのウェル102、及び青色画素Bのためのウェル103の概略図である。カメラがより多くの電子をそのウェル内に集めれば、その信号が増殖される一方ノイズが比較的一定に留まり、それによって信号対雑音比が増大する、すなわち、ウェルに取り込まれた信号が、ノイズに対して増大する。
カメラによる光キャプチャの物理的特性は、カメラの画素がより多くの光を取り込めば、カメラは、光が取り込まれた速度をより良く推定できるということである。しかしながら、カメラ画素が非常に多くの光を収集し、ウェルに過剰に充填された場合に、その画素の信号は失われ、もはや有効ではなくなる。従って、カメラの露出時間は、その電子ウェル101,102,103のいずれかを過剰充填させることなく、可能な限り高くその電子ウェル101,102,103の全てを充填するように光の収集を試みるように設定される。
一般的な観察のために白色光によって照明される典型的な手術部位のシーンでは、赤色は、カメラによって取り込まれたシーンにおいて支配的な色である。これは、殆どの反射光が、青色及び緑色スペクトルに比較して赤色スペクトルであるためである。
典型的には、遠隔操作手術システムで使用されるカラービデオカメラは、カラーフィルタ・アレイを含む。カラーフィルタ・アレイは、モザイク状の異なるカラーフィルタである。理想的には、異なる各カラーフィルタは、特定の色のスペクトルに対応する可視電磁スペクトルの一部のみを通過させ、例えば、カラーフィルタ・アレイの第1セットのフィルタが主に赤色光を透過させ、第2のセットのフィルタが主に緑色光を通過させ、及び第3のセットのフィルタが主に青色光を通過させる。
カメラは、カラーフィルタ・アレイを通過する光を取り込む画素を有する画像センサを含む。各画素は、光を取り込むと、電子で充填されるウェルである。第1セットのフィルタを通過する光を取り込むカメラの画素のセットは、カメラの第1のカラーチャンネルに含まれる。第2セットのフィルタを通過する光を取り込むカメラの画素のセットは、カメラの第2のカラーチャンネルに含まれる。第3セットのフィルタを通過する光を取り込むカメラの画素のセットは、カメラの第3のカラーチャンネルに含まれる。
この技術分野の精通者に知られているように、一例では、白色光照明は、正常な色知覚を有する人間の目に白く見えるような、赤色スペクトルの光、緑色スペクトルの光、及び青色スペクトルの光の組合せで構成される。しかしながら、手術部位による赤色スペクトル光の支配的な反射によって、赤色画素ウェル101(図1)は、典型的には、緑色画素ウェル102、又は青色画素ウェル103のいずれかよりもはるかに速く充填される。赤色画素ウェル101がオーバーフローしないように、カメラの露出は、赤色画素ウェル101がオーバーフローしないように、収集する光を制限するように設定される。
殆どの光を受光するカラーチャンネルのウェルがまさにオーバーフローするときに、光の収集を停止するとその結果は、図1に示されるように他のカラーチャンネルのウェルが十分でない可能性があるということになる。図1の例では、緑色ウェル102及び青色ウェル103は、光の収集が停止したときに、全体の50%未満である。これらの完全ではないカラーチャンネルの信号対雑音比は、まさにオーバーフローしようとしたカラーチャンネル(複数可)の信号対雑音比よりも著しく小さい。再び、図1の例について、赤色チャンネルの信号対雑音比は、約6であるが、緑色及び青色チャンネルのそれぞれの信号対雑音比は、約3である。
カメラは、カメラ・カラーチャンネルのウェル101,102,103の全てが充填されていないときに、より悪い信号対雑音比の性能を有する。完全ではないウェル102及び103からの信号は、表示用の画像を形成するために、手術システムの画像処理のホワイトバランス・ステージの一部として信号に適用されるゲインを有する必要がある。ホワイトバランス調整は、カメラが、白色面の画像を取り込む際に、この白色面がディスプレイ・モニタ上で白色に見えるのを保証するために必要である。ホワイトバランス調整は、完全ではないカラーチャンネル(図1の青色及び緑色カラーチャンネル)を増幅すること、例えば、カメラが白色面の画像を取り込んだときに、全てのカラーチャンネルが同じ値を有するようなデジタル・ゲインを適用することにより構成される。これらの完全ではないウェル信号の増幅は、他の色信号に対してこれら完全でないウェルの色信号のノイズを増大させ、さらに最終的な画像のノイズを増大させる。
一態様では、遠隔操作手術システムの内視鏡からの非白色光を使用して、手術部位を照明する。カメラが、手術部位の画像を取り込み、その画像が、モニタ上に表示される。非白色光の照明は、白色光照明を用いて取り込まれ且つモニタ上に表示される画像に対して、モニタ上に提示される手術部位の画像のノイズを最小限に抑える。
手術部位を照明するために使用される光の色は、非白色光、例えば紫色の色合いを有する光であるが、モニタ上に表示される画像は、この色合いを含んでいない。視認者にとって、手術部位を照明する光は、モニタで視た場合に、白く見える。内視鏡が患者から除去された場合にのみ、内視鏡から出射された光は、視認者が非白色光を見ているように直接的に視認される。非白色光は、一般的な照明に使用され、及び特定の解剖学的構造を強調表示するために使用される、例えば2つのみの狭スペクトル光源の組合せとは異なる。
一態様では、機器は、カメラ及び照明装置を含む。カメラは、カメラに入射する光を画素のセットに分離するように構成される。画素のセットの各セットは、カメラの異なるカラーチャンネルにある。一態様では、カメラは、カラーフィルタ・アレイを含む。カラーフィルタ・アレイは、カメラに入射する光を画素のセットに分離するように構成される。
照明装置は、この照明装置が非白色光を出力し、それによって各カメラ・カラーチャンネルが、完全な反射面から反射した非白色光に対して略等しい応答を有するように構成される。本明細書で使用される場合に、完全な反射面は、照明スペクトル全体に亘ってスペクトル的に均一で、等しい減衰である、照明スペクトルに対する応答を有する表面である。本明細書で使用される場合に、「略等しい」又は「実質的に等しい」とは、応答が、反射面の反射特性の差(例えば、反射面は、表面のどこでも同程度に正確に完全な反射性ではない可能性がある)によって、及び画像センサの電子ウェルの応答の通常の差によって、正確に等しくない可能性があるが、その応答は、画像センサ及び表面の組合せ許容範囲内において等しいことを意味する。
一態様では、照明装置は、複数の色成分の照明源を含む。複数の色成分の照明源は、照明装置が非白色光を出力するように構成される。
別の態様では、機器は、複数の色成分の照明源に結合された制御装置も含む。制御装置は、複数の色成分の照明源の出力の組合せが非白色光となるように、複数の色成分の照明源のそれぞれの出力に重み付けするように構成される。
さらに別の態様では、機器は、カメラ、照明装置、及び制御装置を含む。カメラは、カメラに入射する光を色成分に分離するように構成される。色成分は、カメラによって画素のセットとして取り込まれる。画素のセットの各セットは、異なるカメラ・カラーチャンネルにある。一態様では、カメラは、カラーフィルタ・アレイを含む。カラーフィルタ・アレイは、カメラに入射する光を画素のセットに分離するように構成される。
制御装置は、照明装置に結合される。制御装置は、カメラによって取り込まれたカラー画像のための1つのカメラ・カラーチャンネルの画素の信号対雑音比を増大させるために、照明装置によって出力される光の特性を調整するように構成される。
一態様では、照明装置は、複数の色成分の照明源を有する。制御装置は、複数の色成分の照明源に結合される。制御装置は、1つのカメラ・カラーチャンネルの画素の信号対雑音比を増大させるために、複数の色成分の照明源のうちの少なくとも1つの特性を調整するように構成される。
一態様では、複数の色成分の照明源は、複数の発光ダイオードである。別の態様では、複数の色成分の照明源は、複数のレーザダイオードである。
一態様では、制御装置は、照明装置が非白色を出力するように照明装置の複数の色成分の照明源の出力を制御するように構成され、それによって、各カメラ・カラーチャンネルは、完全な反射面から反射した非白色光に対して略等しい応答を有する。別の態様では、制御装置は、照明装置が非白色光を出力するように、照明装置の複数の色成分の照明源のうちの少なくとも1つの照度レベルを変えるように構成される。別の態様では、固定したフィルタを使用して、照明装置が非白色光を出力するように、照明装置の複数の色成分の照明源のうちの少なくとも1つの照度レベルを変える。さらに別の態様では、非白色光を生成する照度レベルの変動は、複数の色成分の照明源の寿命によって誘起される経年劣化の不均等な電力損失を調整するように制御される。
別の態様では、機器は、カメラによって取り込まれた単色画像から高ダイナミックレンジ画像を形成するように構成された画像処理パイプラインを含む。この態様では、制御装置は、照明装置の複数の色成分の照明源のうちの少なくとも1つの照度レベルを変えるように構成される。照度レベルを変えることは、例えば回転ホイール又は液晶装置を用いて実施することができる。
回転ホイールは、複数のセクションを有する。複数のセクションのそれぞれは、複数のカラー照明成分のうちの1つの色を有し、複数のセクションのそれぞれは、異なる光減衰レベルを有する。
一態様では、液晶装置は、オン/オフ・パルス幅変調シャッターモードに設定され、オン/オフ時間の可変比が、カメラの画像フレームキャプチャあたり1つ又は複数のオン/オフサイクルを含む。別の態様では、液晶装置は、調整可能な減衰器として構成される。さらに別の態様では、液晶装置は、波長可変フィルタとして構成される。
本方法は、非白色光でシーンを照明するステップを含む。非白色光は、カメラの各カメラ・カラーチャンネルが、完全な反射面から反射された非白色光に対して略等しい応答を有するように構成される。本方法は、また、カメラでシーンの画像を取り込むステップと、取り込まれた画像のホワイトバランス調整せずに取り込まれた画像に基づいて、表示用の画像を出力するステップとを含む。
別の方法は、カラー画像を取り込むステップを含む。取り込まれたカラー画像は、画素のセットを含む。画素のセットの各セットは、カメラの異なるカラーチャンネルにある。この方法は、画素のセットから高ダイナミックレンジ画像を構成するステップも含む。
さらに別の方法は、非白色光で部位を照明するステップを含む。非白色光は、カメラの各カメラ・カラーチャンネルが、部位から反射した非白色光に対して略等しい応答を有するように構成される。この方法は、カメラで部位の画像を取り込むステップと、取り込まれた画像に基づいて表示用の画像を出力するステップとを含む。
白色光によって照明されたシーンを取り込んだ画像の色成分について、画像センサの電子ウェルの従来技術の充填量を示す図である。 非白色光を出力する照明装置を含む遠隔操作手術システムの一部のブロック図である。 図2のカメラの応答関数の例を示す図である。 図2の照明装置の一態様における、各発光ダイオードのパワースペクトルのグラフである。 図2の照明装置からの白色光と非白色光との比較を示すグラフである。 ダイナミックカラーチャンネル照明制御因子を生成する時系列の概略図である。 非白色光によって照明されたシーンを取り込んだ画像の色成分について、画像センサの電子ウェルの充填量を示す図である。 非白色光によって照明されたシーンを取り込んだ画像の色成分について、画像センサの電子ウェルの充填量を示す図である。 非白色光によって照明されたシーンを取り込んだ画像の色成分について、画像センサの電子ウェルの充填量を示す図である。 図2の照明装置からの様々な色成分の照明源の出力の期間に亘ってオン/オフタイムを相対的に異ならせることにより、非白色光をどの様に生成するかの方法を示す図である。
図面において、参照符号の最初の桁数は、その参照符号を含む要素が最初に現れた図を示す。
本明細書で使用される場合に、電子的な立体視イメージングは、2つの撮像チャンネル(すなわち、左右画像のためのチャンネル)の使用を含む。
本明細書で使用される場合に、立体視の光路は、組織からの光を搬送するために内視鏡内の2つのチャンネル(例えば、左右画像のためのチャンネル)を含む。各チャンネルで搬送される光は、組織の異なるビューを表す。その光は、1つ又は複数の画像を形成することができる。一般性又は適用性を失うことなく、以下でより完全に説明する態様は、フィールド順次立体視取得システム及び/又はフィールド順次ディスプレイシステムの文脈で使用することもできる。
本明細書で使用される場合に、照明経路は、組織に照明を提供する内視鏡内の経路を含む。
本明細書で使用される場合に、白色光は、3つ(又はそれ以上)の可視色成分、例えば、赤色の可視色成分、緑色の可視色成分、及び青色の可視色成分で構成される可視白色光である。白色光は、人間が、例えば、加熱されたタングステンフィラメントから見ることができるような、可視スペクトル内の複数の連続スペクトルを指すこともできる。
本明細書で使用される場合に、非白色光は、3つ(又はそれ以上)の可視色成分、例えば、白色光を形成するために使用される組合せとは異なる組合せの赤色の可視色成分、緑色の可視色成分、及び青色の可視色成分で構成された可視光である。非白色光は、可視電磁スペクトルの複数の連続スペクトル、例えば、白色光として人間の観察者には見えないが複数の色の可視スペクトルを含む、可視電磁スペクトルの広範な波長のスペクトルを指すこともできる。非白色光は、2つの異なる狭スペクトルの青色光源の組合せ等の2つの狭スペクトルのみの光源の組合せ、又は特定の組織を区別するために使用される狭スペクトルの青色光源と狭スペクトルの緑色光源との組合せを含まない。
本明細書で使用される場合に、色成分は、可視電磁スペクトル内の波長のスペクトルを有する。
本明細書で使用される場合に、可視電磁スペクトルは、約400ナノメートル(nm)〜700nmの波長の範囲である。
本明細書で使用される場合に、カラー画像は、単色のカラー画像、又はカラーモデルの色成分のサブセットの組合せのみを含むカラー画像とは対照的に、カラーモデルの全ての色成分の組合せを含む。例えば、赤、緑、青色成分を含むカラーモデルについて、カラー画像は、赤、緑、及び青色成分の組合せを含む。赤色画像、緑色画像、青色画像、青及び緑色画像等は、このような画像が、カラーモデルの全ての色成分の組合せを含んでいないので、カラー画像の規定には含まれない。
一態様では、遠隔操作手術システム200の一部を構成する内視鏡201からの光を使用して、手術部位203を照明する。その照明は、例えば人間が直接的に視たときに光が紫がかって見える、非白色光である。非白色光の照明を使用することは、外科医コンソール250において、時にはディスプレイ251と呼ばれる立体視ディスプレイ251上に提示される手術部位203の画像のノイズを最小限に抑える。外科医コンソール250は、時にはコンソール250と呼ばれる。
手術部位203を照明するために使用される光の色は、非白色光、例えば紫の色合いを有する光であるが、外科医コンソール250の立体視ディスプレイ251上に表示される画像はこの色合いを含んでいない。視認者にとって、外科医コンソール250を介して視た場合に、手術部位203を照明する光は、白く見える。
以下でより完全に説明するように、遠隔操作手術システム200のカメラ220L,220R及び画像処理パイプライン240は、立体視ディスプレイ251上に表示される手術用画像の紫の色合いを除去するために、取り込んだ画像を修正する。外科医が、外科医コンソール250にから出て、患者から内視鏡201を引っ張り、内視鏡201から放射される光を直接的に見た場合にのみ、外科医は、非白色光を見ることになる。
本発明の態様は、非白色の照明を用いて手術部位203を照明するのを容易にし、且つ白色光照明を用いて手術部位203を取り込んだ画像と比較して改善された信号対雑音で、遠隔操作手術システム200のカメラ220L,220R(図2)により手術部位203のカラー画像を取得するのを容易にする。遠隔操作手術システム200の1つの例は、カリフォルニア州サニーベールのIntuitive Surgical, Inc.によって商品化されたda Vinci(登録商標)最小侵襲性遠隔操作手術システムである。遠隔操作手術システム200は、単なる例示であり、画像の信号対雑音比を改善するための非白色照明をこの特定の遠隔操作手術システムに適用すること限定されるものではない。本開示に鑑みて、非白色照明は、カラーカメラ(複数可)を利用して、これらのカラーカメラによって取り込まれたカラー画像の信号対雑音比を改善するあらゆる手術システムに使用することができる。
この例では、外科医コンソール250における外科医は、ロボットマニピュレータアーム(図示せず)に取り付けられた内視鏡201を遠隔で操作する。da Vinci(登録商標)手術システムに関連した等の他の部品、ケーブル等が存在しているが、これらは、本開示から逸脱するのを避けるために、図2に示していない。遠隔操作による最小侵襲性手術システムに関する更なる情報は、例えば、(2007年6月13日に出願された、”Minimally Invasive Surgical System”を開示する)米国特許出願第11/762,165号、及び(2001年12月18日に出願された、”Surgical Robotic Tools, Data Architecture, and Use”を開示する)米国特許第6,331,181号に見出すことができ、これら両文献は、参照により本明細書に組み込まれる。
照明システム、例えば照明装置210は、内視鏡201に結合される。一態様では、照明装置210は、光源211及び照明制御装置215を含む。照明制御装置215は、光源211に結合されるとともに、オプションの可変非白色光機器218に結合される。
照明制御装置215は、システム処理モジュール262と光源211との間に接続される非白色光モジュール217を含む。非白色光モジュールは、一態様では、照明装置210が、手術部位203の一般的な照明に使用される非白色光を出力するように、照明装置210からの出力照明を制御する。
一態様では、光源211は、複数の色成分の照明光源212を含む。図2に示される態様では、複数の色成分の照明源は、P色成分の照明源を含み、ここでPは、非ゼロの正の整数である。一態様では、数Pは、色成分の照明源の組合せが、従来技術の広域スペクトルの白色光を提供するように、選択される。また、非白色光を形成するために、複数の色成分の照明源212のうちの少なくとも1つの光パワー出力が、従来技術の広域スペクトルの白色光を生成するために使用される状態と比較して、増減するように変更される。
一態様では、複数の色成分の照明源212は、複数の発光ダイオード(LEDs)を含む。LEDの使用は、単なる例示であり、これに限定されるものではない。複数の色成分の照明源212は、例えば、LEDの代わりに複数のレーザ光源を実装することもできる。
この態様では、照明装置210は、手術部位203を照明するために、立体内視鏡201の少なくとも1つの照明経路に関連して使用される。照明装置210からの非白色光は、コネクタ216に導かれる。コネクタ216は、非白光を立体内視鏡201の照明経路に供給し、次に、その光を手術部位203に導く。コネクタ216及び立体内視鏡201内の照明経路のそれぞれは、例えば、光ファイバ束、単一の剛性ロッド又は可撓性ロッド、又は光ファイバで実装することができる。一態様では、内視鏡201は、例えば反射された非白色光等の、手術部位203からの光を通過させる2つの光チャンネル、すなわち立体視の光路も含む。しかしながら、立体内視鏡の使用は、単なる例示であり、これに限定されるものではない。本開示に鑑みて、手術部位203からの光を通過させる単一の光チャンネルを含む内視鏡を使用することができる。
手術部位203(図2)からの非白色光は、内視鏡201の立体視光チャンネルによってカメラ220L,220Rに渡される。以下でより完全に説明するように、一態様では、左側カメラ220Lは、カラーフィルタ・アレイ及び左側画像センサ221Lを含む。左側画像センサ221Lは、立体内視鏡201の左チャンネルから受け取った光を左画像222Lとして取り込む。同様に、この態様では、右側カメラ220Rは、カラーフィルタ・アレイ及び右側画像センサ221Rを含む。右側画像センサ221Rは、立体内視鏡201の右チャンネルから受け取った光を右画像222Rとして取り込む。こうして、カメラ220L,220Rは、カラーフィルタ・アレイを使用するカラーカメラである。しかしながら、これは単なる例示であり、これに限定されるものではない。
ここで、カメラは、カメラに入射する光をN色成分に分離するように構成され、色成分は、カメラによってNセットの画素として取り込まれ、画素のセットの各セットは、異なるカメラ・カラーチャンネルにある。こうして、各カメラ220L,220Rは、複数のカラーチャンネルを含む。一態様では、複数のカラーチャンネルは、N色成分チャンネルであり、ここでNは、ゼロでない正の整数である。
カメラ220Lは、左側カメラ制御ユニット230L及び画像処理パイプライン240によって外科医コンソール250の立体視ディスプレイ251に結合される。カメラ220Rは、右側カメラ制御ユニット230R及び画像処理パイプライン240によって外科医コンソール250の立体視ディスプレイ251に結合される。カメラ制御ユニット230L,230Rは、システム・プロセス262から信号を受信する。システム・プロセス262は、システム200内の各種制御装置を表す。
表示モード選択スイッチ252は、ユーザインターフェイス261に信号を提供し、次に選択された表示モードをシステム・プロセス262に渡す。システム・プロセス内の262各種制御装置は、照明制御装置215内の非白色光モジュール217を設定し、所望の画像を取得するために、左右のカメラ制御ユニット230L及び230Rを設定し、及び外科医が要求する画像をディスプレイ250に提示するように、要求された画像を処理するために必要な画像処理パイプライン240内の他の要素を設定する。撮像処理パイプライン240は、本明細書に提供される詳細を除き、既知の画像処理パイプラインと等価である。
ここで、カメラ220Lによって取り込まれた画像の取込み、処理、及び表示は、カメラ220Rによって取り込まれた画像の取込み、処理、及び表示と同じである。従って、以下の説明では、カメラ220Lに関連する画像のみについて、以下で検討する。その説明は、カメラ220Rに関連した画像に直接的に適用可能であり、そのため、その説明は、カメラ220Rについて繰り返さない。その説明は、単一のカメラのみを利用するシステム、及び単一の光チャンネルを有する内視鏡を備えた単一の画像処理パイプラインにも直接的に適用可能である。
先に示したように、典型的に、3つ(又はそれ以上)の可視色成分の照明成分が、白色光を形成するために組み合わされる、すなわち、白色光は、第1の可視色成分、第2の可視色成分、及び第3の可視色成分の組合せを含む。3つの可視色成分のそれぞれは、異なる可視色成分、例えば、赤色成分、緑色成分、及び青色成分である。赤、緑、青色成分と一緒にシアン色成分等のより多くの可視色の照明成分を使用して、白色光を生成することもできる。
また、上述したように、一態様では、光源211は、複数の色成分の照明源212を含む。一態様では、非白色光の照明を生成するために、非白色光モジュール217は、白色光を形成するために必要とされるものと比較して、複数の色成分の照明源212のうちの少なくとも1つの光パワー出力を変化させる。(非)照明装置210の照明出力は、非白色光である。非白色光は、白色光に比べて色合いを有する。
図2では、カメラ220L,220R及び光源212は、内視鏡201の外部に存在するように示される。しかしながら、一態様では、カメラ220L,220R及び光源212は、組織203に隣接する内視鏡201の先端チップに含まれる。
照明装置が非白色光の照明を出力するように照明装置210を構成するために、様々な方法がある。第1の方法は、白色面の較正に基づくものであり、第2の方法は、手術部位の画像較正に基づくものである。また、複数の色成分の照明源のうちの少なくとも1つの点灯時間を変化させる非白色光の生成について、説明する。これらのプロセスのそれぞれは、順番に検討される。
非白色光の白色面の較正
この態様では、非白色光モードは、カメラ220Lの複数のカラーチャンネルの全てが、白色(完全反射)面に向けられた(viewing)ときに、同量の反射光を受け取るように、照明制御装置215によって、光源211における複数の色成分の照明源212からの照明強度を変化させるように動作する。白色面を撮像するときに、カメラ220Lが、カラーチャンネル亘って均等に光に応答するという2の有益な効果がある。第1に、全てのカラーチャンネルは、それらのウェル容量を完全に利用することができる、すなわち、1つのチャンネルは、別のチャンネルがそのウェルを最初に充填するによって、そのウェル容量の割合に制限されない。これは、全ての画素の信号対雑音比を増大させる。第2に、カメラは、ノイズ増幅を排除するデジタル・ホワイトバランス・ゲインをいくつかのカラーチャンネルに適用する必要がない。これらの両方の効果によって、立体視ディスプレイ251上に表示される最終的な外科手術の画像を向上させる。
ここでは、カメラ220Lのノイズ特性は、画像センサ221Lの電子ウェルがどの位高く充填されているかに依存して全体的に解釈される。カメラ220Lは、光を集光するにつれて、取り込まれた光が電子に変換され、これらの電子のウェルに蓄積される。画素毎に1つの電子ウェルがある。画像センサ221L、例えばカメラ220Lが、その電子ウェルにより多くの電子を収集するにつれて、カメラの信号対雑音比が増大する、すなわち、ノイズに対する信号が向上する。
先に示したように、カメラ220Lが非常に多くの光を集光し、電子ウェルを過剰に充填した場合に、その電子ウェルの信号が失われ、もはや有効でなくなる。従って、カメラ220Lの露出時間は、あらゆる電子ウェルを過剰充填させることなく、可能な限り高くその電子ウェルの全てを充填するように光を収集するように設定される。殆どの光を受光するカラーチャンネルがその電子ウェルをまさにオーバーフローさせようとするときに光の収集を停止すると、その結果は、他のカラーチャンネルの電子ウェルが十分ではないということになる。他のカラーチャンネルの電子ウェルは、全体の50%のみである可能性がある。これらの完全でない電子ウェルを有するカラーチャンネルの信号対雑音比は、電子ウェルがまさにオーバーフローするカラーチャンネルの信号対雑音比よりも著しく小さい。
先に説明したように、通常の白色光照明について、カメラは、カメラの全てのカラーチャンネルが完全又は略完全なウェルを有していないときに、悪化した信号対雑音比の性能を有するのみならず、完全でないウェルからの信号が、従来技術のカメラの画像処理段階におけるホワイトバランス・ステージの一部として増幅される。
通常の白色光照明とは対照的に、非白色光の照明モードの一態様は、カメラ220Lの複数のカラーチャンネルの全てが、白(完全反射)面に向けられたときに、同量の光を受け取るように、照明制御装置215によって、光源211における複数の色成分の照明源212の照明強度を変化させるように動作する。カメラ220Lの複数のカラーチャンネルのそれぞれは、概ね同量の光を受け取るので、カメラのカラーチャンネルは全て、非白色照明モードで完全に利用することができる。それは、カラーチャンネルが最初にそのウェル容量に達していないためである。代わりに、複数のカラーチャンネルのウェルは、略同じ時間でそのウェル容量に達する。白色面を撮影するときに、カラーチャンネルのウェルは、そのウェル容量の50%になることはないだろう。
また、照明装置210からの非白色照明が、白色面に向けられたときに、3つの全てのカメラのチャンネル応答が光に対して均等になるように設計されているので、白色光照明を用いる画像処理パイプライン240におけるホワイトバランス・ステージは、複数のカラーチャンネルのいずれの信号も増幅する必要がない。複数のカラーチャンネルの信号が、既に等しい。全体的な効果は、ウェルを完全に利用することによって、取込み中のノイズが殆ど無いので、得られる画像のノイズが著しく少なく、他のカラーチャンネルに関して任意のカラーチャンネルを増幅する必要がない。
カメラ220Lが白色面に向けられているときに、カメラ220Lのカラーチャンネルが均等に応答するように、複数の色成分の照明源212における異なる色成分の照明源の強度を増減する方法を決定するために、カメラ220Lの特性が検討され、且つ光源211の制御が検討される。先に述べたように、カメラ220Rについての検討事項は、カメラ220Lと同じであるので、その説明は、カメラ220Rについて繰り返さない。また、以下の説明は、単一の信号チャンネル及び単一のカメラのみを利用する内視鏡システムにも適用される。
また、以下の説明において、赤、緑、及び青色成分を利用する色空間について、検討する。典型的には、カラーカメラは、ベイヤー・カラーフィルタ・アレイ等のカラーフィルタ・アレイを含む。カラーカメラの構成に拘わらず、以下の説明では、画像取込みセンサ221Lによって取り込まれた、カメラの赤色チャンネルに関連する第1のセットの画素が存在する。画像取込みセンサ221Lによって取り込まれた、カメラの緑色チャンネルに関連する第2のセットの画素があり、画像取込みセンサ221Lによって取り込まれた、カメラの青色チャンネルに関連する第3のセットの画素が存在する。カメラ220Lの複数のNカラーチャンネルを表すような3つのカラーチャンネルの使用は、単なる例示であり、これに限定されるものではない。また、3つのカラーチャンネルとして赤、緑、青色チャンネルの使用は、単なる例示であり、これに限定されるものではない。この開示に鑑みて、この技術分野の精通者は、関心対象の色空間及び関心対象のカラーフィルタ・アレイに基づいて、カメラ220Lに関連するチャンネルの数と、チャンネルの数に関連した特定の色との両方を規定することができる。
カメラ220Lの光学系、カメラ220Lで使用されるカラーフィルタ・アレイ、及びカメラ220Lの量子効率(これらは総称してカメラの感度関数と呼ばれる)は、カメラ220Lが、異なる波長の入射光にどの様に応答するか、すなわち、手術部位203からの光にどの様に応答するかを決定する。図3は、カメラ220Lの応答関数の一例を示す。カメラ220Lの複数のNカラーチャンネルのそれぞれに対して応答関数が存在する。
こうして、この例では、3つの応答関数、青色チャンネルについて1つの応答関数301、緑色チャンネルについて1つの応答関数302、及び赤色チャンネルについて1つの応答関数303が存在する。図3では、応答関数301〜303のそれぞれは、曲線で表される。
特定の応答関数のより大きい値は、カメラ220Lのカラーチャンネルが、その特定の応答関数についてより低い値を有する他の波長の光と比較して、その特定の波長の光により多く応答することを示す。例えば、赤色の応答関数303は、カメラ220Lの赤色チャンネルが、450〜500nmの波長範囲よりも、600〜650nmの波長範囲の光をより多く通過させることを示す。
特定の応答関数のより低い値は、カメラ220Lのカラーチャンネルが、その特定の応答関数についてより高い値を有する他の波長の光と比較して、その特定の波長の光に殆ど応答しないことを示す。例えば、青色の応答関数301は、カメラ220Lの青色チャンネルが、440〜470nmの波長範囲よりも、600〜650nmの波長範囲の光を殆ど通過させないことを示す。応答関数のゼロ値は、カメラ220Lのカラーチャンネルがその光の波長を認識できないことを示す。
一態様では、カメラ220Lの複数のカラーチャンネルの応答関数は、行列Rを構成する3つの列ベクトルとしてマトリックス表記に変換される。行列Rは、M×N行列である。具体的には、一態様では、例えば400nm〜700nmで1nm毎に離間した、M個の等間隔の波長のセットが、選択され、次に、応答関数の値は、これらの選択された波長のそれぞれで読み取られる。この例では、301個の値が、各応答関数について生成される。こうして、この例では、Mは、301に等しく、Nは、赤、緑、青の応答関数の3に等しい。400nm〜700nmの範囲が、応答関数の全ての重要な非ゼロの部分を包含する限り、インターバル間隔は、十分に小さく(1nm)、次に、ベクトル形式は、完全な曲線に対応する。サンプリング範囲及び間隔は、通常、用途に基づいて変化する。
上述したように、一態様では、光源211は、複数のP色成分の照明源212を含む。例として、光源211が、4つの異なる色成分の照明源、例えば異なる強度の光を放射するように調整できる4つの個々のLEDを含むように、Pが4である実装態様について検討する。4つの個々のLEDを含む照明装置の一例は、(2010年8月13日に出願された、”Surgical Illuminator With Dual Spectrum Fluorescence”を開示する)米国特許出願公開第2012/0004508号明細書に示されており、この文献は、参照により本明細書に組み込まれる。
4つの異なる各LEDの照明スペクトルの例が、図4に示される。スペクトル401は、青色成分の照明である。スペクトル402は、シアン色成分の照明である。スペクトル403は、緑色成分の照明であり、スペクトル404は、赤色成分の照明である。この態様では、複数の色成分の照明源212のそれぞれは、異なる色成分の照明源である。
スペクトル401〜404も、マトリックス表記で表すことができる。各スペクトルは、行列Eの列である。行列Eは、M×P行列である。具体的には、一態様では、例えば400nm〜700nmで1nm毎に離間した、M個の等間隔の波長のセットが選択され、次に、LED照明スペクトルの値が、これらのM個の選択された波長のそれぞれで読み取られる。
また、照明制御装置215が、光源211における各LEDの出力強度を制御するので、及びLEDの照明出力が、その混合出力と一緒に光学的に線形的に組み合わされるので、内視鏡201の先端部から放射される光のスペクトルeoutは、以下のように表すことができる。
Figure 2020061743

ここで、eoutは、M×1列ベクトルとして放射されたスペクトルであり、
tは、M×1列ベクトルとして表される内視鏡の照明チャンネルの分光透過率であり、
diag(x)は、他の全ての要素がゼロである行列の対角にベクトルxを配置することを示し、
wは、P×1の単一の列重みベクトルであり、重みベクトルwの各要素は、複数のP個のLEDの対応するLEDの強度を決定するために、非白色光モジュール217によって使用される。
非白色光を実現するために、重みベクトルwは、複数のNカメラ・カラーチャンネルのそれぞれからの応答が、LEDが負の光(negative light)を放射することができない場合に、重みベクトルwの要素を正にしなければならないという制約を等しく受けるように決定される。これは、以下のマトリックス形式で書くことができる。
Figure 2020061743

ここで、目標は、重みベクトルwを解くことであり、[1]は、1のN×1列ベクトルを表し、Rは、応答関数の行列Rの転置行列であるN×M行列を表す。
別の言い方をすれば、先の式は、非白色光の照明モジュール217が、Pカラーチャンネルの照明制御因子CCIWのうちの異なる1つを、光源211におけるP色成分の照明源のそれぞれに適用するときに、照明装置210が非白色光を出力するように、Pカラーチャンネルの照明制御因子CCIW(重みベクトルwの要素)を決定し、そして内視鏡201によって放射された非白色光が完全な反射面、すなわち白色面に入射するときに、カメラ220Lの各電子ウェルは、100%完全なレベルにまで充填される。
こうして、問題は、正の成分のみを含む重みベクトルwを見つけることである。制御可能なLEDの数Pが、カメラ・カラーチャンネルの数Nに等しい場合に、簡易解法は、行列R*diag(t)*Eが正方行列である場合に、逆行列を取ることである。この場合には、以下のようになる。
Figure 2020061743
重みベクトルwが、全て正又はゼロである(及びR*diag(t)*Eが逆行列を有する)限り、解が存在する。重みベクトルwが、負の成分を有する場合に、LEDは、カメラ・カラーチャンネルを等化するように制御することができない。しかしながら、この状況では、重みベクトルwの負の成分は、最も近い解を得るためにゼロにクリップすることができる。
しかしながら、制御可能なLEDの数Pが、カメラ・カラーチャンネルの数Nに等しくない場合に、行列R*diag(t)*Eの逆行列が存在しないため、簡易解法は不可能である。例えば、4つの制御可能なLED及び3つのみのカラーチャンネルを有するカメラ220Lでは、簡易解法は利用できない。
この特定のケースでは(つまり、制御可能な色成分の照明源の数Pが、カラーチャンネルの数Nよりも大きいときはいつでも)、重みベクトルwの成分について多くの解が存在している、すなわち、重みベクトルwについての複数の異なる解は、完全な反射面に入射する非白色光についてカメラ・カラーチャンネルのウェルの充填を均一にするだろう。具体的には、wに対する解のセットは、以下のように表すことができる。
Figure 2020061743

ここで、wは、擬似逆行列解であり、
は、N×(P−N)行列の(P−N)ゼロ空間の列ベクトルを規定する、すなわち、カメラの応答を変更することなく、解wを変化させることができる方向性が存在し、
αは、wに対する1つの特定解を(P−N)×1ベクトルとして規定する。
1つの重みベクトルwに対する解法を制限するには、別の制約を解法に与えなければならない、すなわち、我々は、単一のα値を決定することにより、ゼロ空間の値を指定する必要がある。
可能な制約として、放射パワーの最大化、放射パワーの最小化、駆動電流の最大化、駆動電流の最小化、又は外科医コンソールの外部で見た光の色をより白く見えるように変更することが挙げられるが、これらに限定されるものではない。LED駆動電子機器の制約によって、最小LED輝度を最大化する制約が、実施された。基本的に、照明制御装置215が、低輝度で光を確実に制御することができないので、所望されることは、重みベクトルwの最小値を可能な限り高くすることである。
このような制約を解決するためにミニマックス最適化があるが、解(P−N=1)に1つだけ余分な自由度が存在しているので、緑色及びシアン色LEDからの照明は、カメラ220Lについて常に最も低く、ゼロ空間ベクトルVの中で反対の符号を有することに経験的に気付いた。重みベクトルwの値は、緑色及びシアン色チャンネルが等しくなるまで、ゼロ空間の成分αを掃き出すことによって決定した。
表1は、MatLab(登録商標)のコンパイラでコンパイルしたMatLabコンピュータコードの例であり、このコードは、次に、プロセッサ上で実行され、緑色及びシアン色の照明チャンネルが等しくなるまで、ゼロ空間の成分αを掃き出すことにより重みベクトルwを決定する。(MatLabは、米国、郵便番号01760、マサチューセッツ州、ナティック、アップルヒルドライブ、3にあるMathworks社の米国登録商標である。)
Figure 2020061743

ここで、svd(X)は、Xの特異値分解であり、
diag(x)は、xの対角行列であり、
2及び3のインデックスは、それぞれ緑色及びシアン色のLEDに対応する。
ここでは、U,S,Vは、特異値分解(svd)の出力である。特異値分解(svd)は、行列を3つの別々の行列に分割するための一般的な方法である:X=USV、ここでU及びVは、正規直交行列であり、Sは、対角行列である。XのU,S,Vへのこの分解によって、擬似逆及びゼロ空間の成分を見つけることができる。
図5は、上記の手順を使用した、白色光照明502と非白色照明501との間の差を示している。図から明らかなように、青色及び赤色LEDは、白色光モードに比べて非白色光モードにおいて、緑色及びシアン色LEDよりもはるかに多くの光を出力している。一態様では、白色面から反射されたときに、白色光に対するカメラ220Lの応答は、赤(R):61%,緑(G):100%,青(B)67%であるが、非白色光を使用したカメラ応答は、その応答が設計されたように赤(R):100%,緑(G):100%,青(B):100%である。
非白色光を生成するこの技術は、表示された手術シーンでのノイズ減少が、内視鏡からの光の色を調整することによって達成できることを実証している。具体的には、カメラ(複数可)の全てのカラーチャンネルが、白色面に向けられたときに、そのシーン応答を等しく取り込む場合に、表示された手術シーンにおいて各画素の信号対雑音比を増大させることができる。信号対雑音比が増大すると、最終的な手術用画像における知覚ノイズが減少する。
非白色光のシーン・ベースの較正
従来例では、非白色光モジュール217は、照明装置210が非白色光で手術部位203を照明するように、光源211を駆動するように構成されていたので、カメラ220Lにより取り込まれたカラー画像の白色光の色のバランス調整は、非白色光が白色面で反射されたときに、不要であった。これは、通常の白色光照明を用いて取り込まれ且つディスプレイ251上に表示される画像と比較して、ディスプレイ251上に表示される画像の信号対雑音比を改善した。
しかしながら、非白色光を他の方法で生成して、ディスプレイ251上に提示される画像の信号対雑音比を改善することができる。例えば、制御装置215は、照明装置210が非白色光を出力するように、複数の色成分の照明源212のうちの少なくとも1つの出力照度レベル、例えば光パワー出力を変化させるように構成される。複数の色成分の照明源212のうちの少なくとも1つの出力照度レベルの変化は、カメラ220Lによって取り込まれたカラーシーンの色成分特性に基づくものである。この件で生成された非白色光は、通常の白色光照明を用いて取り込まれ且つディスプレイ251上に表示されるシーンと比較して、ディスプレイ251上に表示されるシーンの改善された信号対雑音比をもたらす。
一態様では、カラーチャンネル照明制御因子CCIWは、様々な方法で生成される。最初に取り込まれたシーンの情報が、照明制御装置215によって使用される、生成されたカラーチャンネル照明制御因子CCIWに使用される。
一態様では、動的なアプローチが、非白色光を生成するために使用されるカラーチャンネル照明制御因子CCIWを決定する。例えば、フレーム610(図6A)が、取り込まれ、これを使用して、第1セットのカラーチャンネル照明制御因子CCIW620を生成する。第1のセットのカラーチャンネル照明制御因子CCIW620は、取り込まれた次のZ個の連続フレームに使用され、ここでZは、非ゼロの正の整数である。Z個の連続フレームが、取り込まれ、処理され、及び表示されるが、このシーケンス内のフレーム621のうちの1つを使用して、第2のセットのカラーチャンネル照明制御因子CCIW621を生成する。第2のセットのカラーチャンネル照明制御因子CCIW621は、取り込まれた次のZ個の連続フレームのために使用され、その処理が継続される。
一態様では、時間加重移動平均が、カラーチャンネル照明制御因子CCIW621を生成するために使用される。この態様では、フレームチャンネル照明制御因子CCIW_frameが、フレーム毎に生成され、上述したように、次の固定されたフレーム数に亘って減少する重み付けし、他の加重フレームチャンネル照明制御因子CCIW_frameと加算され、最近のフレームのフレームチャンネル照明制御因子CCIW_frameが、支配的となるが、以前のフレームのフレームチャンネル照明制御因子CCIW_frameの(例えば、線形的に)減少した画分が加算されるように平均化され、例えば、フレームレートで更新される現在適用される加重時間移動平均チャンネル照明制御因子CCIW621を与える。
一態様では、数Zは、システム200の安定性を維持するためにフレーム数の時間平均として経験的に決定される。別の態様では、数Zは、一定ではない。むしろ、カラーチャンネルの平均輝度を監視し、いずれかのカラーチャンネルの平均輝度が、所定の割合、例えば5%を超えるように変化した場合に、新しいセットのカラーチャンネル照明制御因子CCIWが、生成される。このアプローチは、カメラの視野内の手術部位の特性が変化した場合に、電子ウェルが、最適な充填の近く留まるように、外科的処置手術中に、カメラのカラーチャンネルのウェルの充填量(fullness)の変化を適応的に補償し、且つカラーチャンネル照明制御因子CCIWを調整する。
別の態様では、取り込んだシーンについて、カメラ220Lの各カラーチャンネルの画素の輝度のヒストグラムが作成される。カメラ220Lの複数のNカラーチャンネルのそれぞれの画素の輝度のヒストグラムが作成される。この技術分野の精通者に知られているように、各画素は、画素の輝度を表す単一の数である画素値を有する。画素値は、その画素の画素ウェルの充填量の指標である。こうして、カメラ220Lについて、各カラーチャンネルについて1つ、N個の輝度ヒストグラムが作成される。
N個の輝度ヒストグラムのそれぞれにおいて、輝度値は、x軸上にプロットされる。各輝度値についてのバーの高さは、その輝度値を有するカラーチャンネルの画素数を表す。輝度ヒストグラムは、取り込んだ画像全体、又は、取り込んだ画像の関心領域に基づくことができる。例えば、関心領域は、遠隔操作手術システム200を使用する者の中心窩内の領域として規定することができる。画像センサ221Lの画素のウェルの充填量の表示は、そのカラーチャンネルが各カラーチャンネルの輝度ヒストグラムから導出される箇所にある。表示は、平均値、又は全ての値の90パーセンタイルに相当する値とすることができる。
行列Bは、照明コントロールとカメラセンサの色チャンネル応答との間の結合として規定される。この行列は、照明コントロール、P要素ベクトルをカメラセンサのカラーチャンネル応答、N要素ベクトルに変換する。行列Bは、基準レベルにおいて、1つずつ照明チャンネル上で回転させることによって測定することができる。こうして、以下の通りになる。
Figure 2020061743
カラーチャンネル照明制御因子CCIWは、次のように規定される。
Figure 2020061743

ここで、WFullは、N×1列ベクトルであり、各成分が、カメラ220Lのカラーチャンネルの画素ウェルの所望の充填量を表し、
CCIWは、P×1の列ベクトルであり、各要素が、光源211の色成分の照明源のうちの1つのカラーチャンネル照明制御因子を表す。
PがNに等しく、且つBの逆行列が存在する場合に、カラーチャンネル照明制御因子CCIWの決定は、容易である。PがNよりも大きい場合に、Bの擬似逆行列を使用する。
行列の擬似逆行列は、この技術分野の精通者にはよく知られている。ここで使用するのに適した擬似逆行列は、Moore-Penrose疑似逆行列と呼ばれる。Moore-Penrose疑似逆行列の一般的な使用は、固有の解法を欠く線形方程式の系に対して「最適な」最小二乗解を計算することである。Moore-Penrose疑似逆行列の別の使用は、線形方程式の系に対して最小値(ユークリッド)ノルム解を見つけることである。一態様では、最適な最小二乗解を使用する。
このようにして生成されたカラーチャンネル照明制御因子CCIWは、遠隔操作手術システム200において、上述したように、静的アプローチ又は動的アプローチのいずれかで使用することができる。カラーチャンネル照明制御因子CCIWを生成するために使用される技術に拘わらず、非白色光の照明を使用することは、白色光照明を用いて取り込んだ画像から形成された表示画像と比較して、表示画像へのノイズの寄与を低減することにより、ディスプレイ251上に表示される画質を向上させる。
例として、カメラ220Lが、赤、緑、青色チャンネルを有しており、例えばNが3であり、所望の充填量WFullが、各カラーチャンネルについて75%であると想定する。白色光照明を用いると、赤色チャンネルR603Bが、90%の充填量であり(図6B)、緑色チャンネルG602Bが50%であり、及び青色チャンネルB601Bが、37.5%である。非白色照明について、赤色チャンネルR603Cが、約75%の充填量であり(図6C)、緑色チャンネルG602Cが、75%であり、青チャンネルB601Cが、約75%の充填量である。白色照明及び非白色照明の両方のノイズフロアを15%とした。こうして、青及び緑色成分の信号対雑音比は、非白色光について改善される。
しかしながら、光源211における複数の色成分の照明源212のそれぞれからの照明が、手術部位203によって吸収され且つ異なる方向に反射されるので、電子ウェルは、正確に75%の充填量になる可能性はない。こうして、この態様では、カメラチャンネルの非白色光に対する応答が略等しくなるときに、異なるカラーチャンネルにおけるカメラの画像センサの部分の応答は、手術部位による非白色光の吸収及び反射の差が考慮される場合に、等しいことを意味する。それにも拘わらず、信号対雑音比は、青及び緑色画素について少なくとも改善された。
手術部位203のカラー画像では、緑及び青色照明成分が、赤色照明成分よりも殆ど散乱されず且つ赤色照明成分よりも殆ど浸透しないため、緑及び青色画素は、細部の殆どを提供する。結果として、青及び緑色画素の信号対雑音比を改善することは、ディスプレイ251に提供される画質を向上させる。
図6Cに示されるように充填されたウェルを有する画素が、ディスプレイ251上に表示するために直接的に処理された場合に、表示された画像は、非白色光照明に関連したカラーチャンネルの電子ウェルの充填量によって適切なカラーバランス調整を行うことはないだろう。こうして、各カラーチャンネルの画素が画像センサから取得された場合に、カラーチャンネルの画素値は、カラーチャンネル照明制御因子CCIWを補償するように補正される。中間色の対象物(例えば、ホワイトバランス標的)のシーンを観察するときに、照明コントロールL0が、白色画像を生成する仮定すると、
Figure 2020061743

ここで、I0=[r0,g0,b0]は、N×1の画素輝度行列であり、RGB成分が同じ値を有し、
L0=[L01,...,L0P]は、P×1の光パワー出力行列である。
後で、追加のゲインA=[ccw1,...,ccwP]=CCWはが、L0の上部の照明コントロールに適用され、Lをもたらし、ここで、L=[L1,...,LP]=[ccw1*L01,...,ccwP*L0P]である。照明Lを用いたカメラからの色応答は、I=[r,g,b]である。
K=B*A=[kr,kg,kb]
調整された画素の色I’=[r/kr,g/kg,b/kb]は、ディスプレイに提示され、正確な色を実現する。これは、図6Dに示されるように、典型的な画素値をもたらす。赤色チャンネルのノイズが若干増加したが、緑及び青色チャンネルのノイズが無くなっている。こうして、緑及び青色チャンネルの信号が、画像処理パイプライン240のホワイトバランス調整プロセスで増幅される場合に、信号対雑音比は、白色光照明を用いた場合よりも良好である。
非白色光を用いた高ダイナミックレンジ画像
ビデオカメラを使用して、高ダイナミックレンジ画像を形成するための標準的な方法は、ビデオカメラによって、異なる露出レベルで連続した画像を撮影することである。異なって露出された画像は、単一の高解像度画像にマージされる。この技術は、ビデオカメラが、フレーム毎に露出設定を切り替える機能を有する必要がある。これは、取り込まれた各フレームから表示画像を生成するビデオカメラと比較して、効果的に低減したフレームレートをもたらす。また、シーンに動きがある場合に、経時的に取り込まれた画像が、単一の高解像度画像にマージされたときに、動きアーチファクトが観察される可能性がある。
高ダイナミックレンジ画像を形成するために撮影に使用される別のアプローチは、段階的な減光フィルタを用いて画像を取り込むことである。シーンの明るい領域が、フィルタによってシーンの薄暗い領域よりも多く減衰されるように、減光フィルタを段階的に調整する。これは、異なる輝度の既知の領域を有するシーン、例えば日の出や日没のシーンに適しているが、手術部位のシーンの同じ部分は、常にシーンの最も明るい領域ではないため、遠隔操作手術システムでの段階的な減光フィルタの使用は、実用的ではない。
カラー画像を必要としない用途では、カメラ220L及び手術部位203を照明する非白色光を使用して、単色の高ダイナミックレンジ画像を生成することができる。例えば、診断とは異なり、カラー画像は、手術用器具(複数可)のナビゲーション中に、例えば肺のナビゲーションの案内中に重要ではないかもしれない。
モノクロ画像が許容される用途では、非白色光の照明と、異なる露出設定又は減光フィルタを使用しないカメラとを用いて、高ダイナミックレンジ画像を形成することが可能である。非白色光モジュール217は、複数の色成分の照明源212が、白色光照明を形成するために使用される通常の強度以外の強度を有するように、複数の色成分の照明源212を駆動するように構成される。
従って、カメラ220Lは、N枚の画像を取り込み、カメラのN個のカラーチャンネルのそれぞれは、色成分の照明源212に使用される異なる重みによって効果的に異なって露出される。これらのN個の画像を使用して、減光フィルタを有するカメラに使用されるものと同等の方法で高ダイナミックレンジ画像を生成する。こうして、高ダイナミックレンジ画像は、任意の特殊フィルタや可変露出設定のカメラを必要とせずに、得られる。非白色光の照明を使用することによって、遠隔操作手術システムで使用される、カラーフィルタ・アレイを含む従来のカメラを使用して、高ダイナミックレンジ画像の生成が可能になる。
実施例の目的のために、複数の色成分の照明源212における色成分の照明源の数Pが3つであり、3つの色成分の照明光源は、赤色光源、緑色光源、及び青色光源であると想定する。また、通常の白色光照明について、非白色光モジュール217は、3つの光源のそれぞれを等しく重み付けする、例えば、赤、緑、青色の重み(カラーチャンネル照明制御因子CCIW)は、1:1:1であると想定する。一態様では、重み(カラーチャンネル照明制御因子CCIW)は、照明装置210が、例えば赤、緑、青色光源の非白色光を提供するように変更され、その重みは、0.5:1.0:2.0である。
一般的に、色成分の重みは、手術シーンからの反射光のダイナミックレンジ(シーンダイナミックレンジ)に対するカメラ220Lのカラーチャンネルの画素のダイナミックレンジ(画素ダイナミックレンジ)の比を取ることによって決定される。シーンダイナミックレンジに対する画素ダイナミックレンジの比は、1:DRであり、ここでDRは、ゼロ以外の正の整数である。この例では、第1の照明色成分の最大重みが、第Nの照明色成分の重みのDR倍である。第2の間の(N−1)照明色成分による重みは、2の累乗だけ最小重みと最大重みとの間で均一に離間している。例えば、画素ダイナミックレンジが1:256であり、且つシーンダイナミックレンジが1:1024である場合に、両者の比は、1:4(2)である。上記の例では、最小の重みは1であったので、最大の重みは、4であった。1と4との間の2の累乗は、2=2であるので、第3の重みは、2である。
別の例として、1:16の比及び3つの色成分の照明源について検討する。最小重みは、1であり、最大重みは16である。他の重みは、4である。その比が1:16であり、且つ4つの色成分の照明源がある場合に、その重みは、1:2(4/3):2(8/3):16になるだろう。
シーンがカメラ220Lで反射された非白色光から取り込まれるときに、Nカラーチャンネルのそれぞれは、光源212におけるP色成分の照明源の光パワー出力の差によって異なる反射光強度でグレースケールのシーンを取り込む。Nグレースケールのシーンを処理して、高ダイナミックレンジのグレースケール画像を生成する。この処理を行うための1つの技術が、Nayar and Mitunga, “High Dynamic Range Imaging: Spatially Varying Pixel Exposures,” IEEE Conference on Computer Vision and Pattern Recognition, Vol.1, pp.472-479(2000),に記載されており、この文献は、参照により本明細書に組み込まれる。
異なるカメラ露出設定や減光フィルタを用いて得られた画像を使用するのではなく、異なる強度のカラー照明成分の組合せを含む非白色光の照明を使用して、露出を固定したカメラを用いて異なる露出画像を取得する。N個の異なる露出画像を同時に取り込むので、動きアーチファクトが存在しない。
先の例では、異なる露出の画像を単一のフレームに取り込むために、非白色光の異なる強度の色成分を使用した。同様の効果は、各色成分の照明源がフレームの露出時間内に出力される、時間の長さを変化させることによって、得ることができる。この態様では、非白色光モジュール217によって適用される重みは、白色光に使用されるものと同じであるが、スイッチング素子(複数可)が、非白色光モジュール217に追加される。
赤、緑、青色成分の光パワー出力の比が0.5:1:2であり、且つ露出時間が時間tである同じ例について検討する。この例では、青色光源は、時間(2/3.5)*tに亘って出力される。緑色光源は、時間(1/3.5)*tに亘って出力され、赤色光源は、時間(0.5/3.5)*tに亘って出力される。こうして、色成分の光源のそれぞれは、特定の割合の露出時間になるようにパルス幅変調される。
図7は、照明装置210からの出力光を制御するために、照明装置210の赤、青、及び緑色成分の照明源からの出力を変化させる一例を示す図である。露出時間の58%に亘って青色光源がオンになり、露出時間の28%に亘って緑色光源がオンになり、露出時間の14%に亘って赤色光源がオンになる限り、各色成分の照明源をオン/オフさせる特定の順序は、重要ではない。当然ながら、光源のオン/オフを切り替える代わりに、光源をオン状態に維持することができ、光源の出力は、図7のオフ状態で示されるように露出時間中に、照明装置210の出力から離れる方向に向ける又はその出力に到達するのを阻止することができる。
上記の例で使用される特定の数の光成分の照明源と、光成分の照明源の重みは、単なる例示であり、実施例で使用される特定の数の光成分の照明源及び重みに限定されるものではない。
別の実施例では、色成分の照明源の出力は、図7に示されるように変化するが、異なるフレームが、各色成分の照明源について取り込まれる。固定フレームシャッターが使用される場合に、照明の切替えは、画像取得に同期される。ローリングシャッタを使用する場合に、照明の切替えは、照明を切り替えることによって、取り込んだ画像にフリッカーを生じないような周波数にしなければならない。ここで使用される場合に、ローリングシャッタは、フレーム全体を一度に取り込むのではなく、情報が、フレームの各行から順々に、例えば上から下に読み出されることを意味する。
こうして、この例では、カメラの露出時間が固定されるが、照明は、異なる露出画像を得るために変化される。この場合に、高ダイナミックレンジ画像は、異なる露出で撮影された画像について高ダイナミックレンジ画像を取得するための既知の技術に相当する方法で形成される。
照明装置210の出力能力を変化させることは、多くの方法で実現することができる。複数の成分の光源の出力は、上述したように直接的に制御することができる。要素218は、照明装置210から出力される光の経路に配置される複数のセクションを有する回転ホイールとすることができる。複数のセクションのそれぞれは、複数の色成分のうちの1つの色を有し、複数のセクションのそれぞれは、異なる光減衰レベルを有する。別の態様では、要素218は、制御装置に結合された音響光学光変調器である。
あるいはまた、要素218は、液晶装置とすることができる。一態様では、液晶装置は、オン/オフ・パルス幅変調シャッターモードに構成され、このモードは、カメラ画像フレームのキャプチャ当たり1つ又は複数のオン/オフサイクルを含むオン/オフ時間の変動比を有する。別の態様では、液晶装置は、例えば、入射偏光子、補償型液晶可変リターダ(retarder)、及び出射偏光子等の、調整可能な減衰器として構成され、入射及び出射偏光子は、直線偏光子と交差する。さらに別の態様では、液晶装置は、波長可変フィルタとして構成される。液晶波長可変フィルタの使用及び動作は、この技術分野の精通者によく知られている。
こうして、いくつかの態様では、固定フィルタを使用して、照明装置が非白色光を出力するように、複数の色成分の照明源のうちの少なくとも1つの照度レベルを変更する。
また、いくつかの態様では、非白色光を生成する照度レベルの変動は、複数の色成分の照明源212の寿命によって誘起される経年劣化の不均等な電力損失を調節するように制御される。こうして、発光ダイオード又はレーザダイオード等の光パワー出力が、経年劣化によって誘起される電力損失によって経時的に減少する場合に、カラーチャンネル照明制御因子CCIWは、複数の色成分の照明源212のそれぞれの経年劣化によって誘起される不均等な電力損失を補償するために、静的又は動的に調整することができる。
本明細書で説明する様々なモジュールは、プロセッサ、ハードウェア、ファームウェア、又はこれら3つの任意の組合せで実行されるソフトウェアにより実現することができる。モジュールがプロセッサ上で実行されるソフトウェアとして実現される場合に、ソフトウェアは、コンピュータ可読命令としてメモリに格納され、コンピュータ可読命令は、プロセッサで実行される。メモリの全部又は一部は、プロセッサがメモリに結合される限り、プロセッサとは異なる物理的な位置にあってもよい。メモリは、揮発性メモリ、不揮発性メモリ、又はその2つのメモリの任意の組合せを指す。
また、本明細書に記載されるように、様々なモジュールの機能は、1つのユニットによって実行される、或いは異なるコンポーネント又は異なるモジュール間で分割することができ、各機能は、次に、ハードウェア、プロセッサ上で実行されるソフトウェア、及びファームウェアの任意の組合せによって実施することができる。異なるコンポーネント又はモジュール間で分割する場合に、コンポーネント又はモジュールは、一箇所に集中させてもよく、又は分散型処理のためにシステム200に亘って分散させてもよい。様々なモジュールの実行は、様々なモジュール及び制御装置260について上述した処理を実行する方法を生じさせる。
こうして、プロセッサは、プロセッサによって実行される命令を含むメモリに結合される。これは、コンピュータシステム内で、或いは、モデム及びアナログライン又はデジタルインターフェイス及びデジタルキャリアラインを介して他のコンピュータとの結合を介して達成することができる。
ここで、コンピュータプログラム製品は、本明細書に記載したプロセスの一部又は全てに必要なコンピュータ可読コードを格納するように構成された、又はこれらのプロセスの一部又は全てのコンピュータ可読コードが格納されたコンピュータ可読媒体を含む。コンピュータプログラム製品のいくつかの例は、CD−ROMディスク、DVDディスク、フラッシュメモリ、ROMカード、フロッピー(登録商標)ディスク、磁気テープ、コンピュータハードドライブ、ネットワーク上のサーバー、及びコンピュータ可読プログラムコードを表す、ネットワークを介して送信される信号である。非一時的な有形のコンピュータプログラム製品は、プロセスの一部又は全てのコンピュータ可読命令を格納するように構成された、又はプロセスの一部又は全てのコンピュータ可読命令が格納された有形のコンピュータ可読媒体を含む。非一時的な有形のコンピュータプログラム製品は、CD−ROMディスク、DVDディスク、フラッシュメモリ、ROMカード、フロッピー(登録商標)ディスク、磁気テープ、コンピュータハードドライブ、及び他の物理的記憶媒体である。
本開示に鑑みて、本明細書で説明したプロセスの一部又は全てに使用される命令は、ユーザにとって関心のあるオペレーティングシステム及びコンピュータプログラム言語を使用して広範なコンピュータシステム構成で実装することができる。
本発明の態様及び実施形態を示す上述した詳細な説明及び添付の図面は、限定するものと解釈すべきではなく、特許請求の範囲が、保護される発明を規定する。種々の機械的な、組成的な、構造的な、電気的な、及び操作上の変更は、本明細書及び特許請求の範囲の精神及び範囲から逸脱することなく行うことができる。いくつかの例では、周知の回路、構造、及び技術は、本発明を不明瞭にすることを避けるために詳細に示していない又は説明していない。
また、この詳細な説明の用語は、本発明を限定するものではない。例えば、「〜の下に(beneath)」、「〜より下の(below)」、「〜の下方の(lower)」、「〜より上の(above)」、「〜の上方の(upper)」、「基端の(proximal)」、「先端の(distal)」等の空間に関連する用語は、図に示される1つの要素又は機構に対して別の要素又は機構との関係を説明するために使用される。これらの空間に関連する用語は、図面に示される位置及び向きに加えて、使用又は操作中の装置の異なる位置(すなわち、配置)及び向き(すなわち、回転位置)を包含することを意図している。
例えば図面内の装置をひっくり返した場合に、他の要素又は機構「より下の(below)」又は「の下に(beneath)」として説明された要素は、次に、他の要素又は機構「より上の(above)」又は「の上に(over)」となる。従って、例示的な用語「〜より下の(below)」は、「〜より上の(above)」及び「〜より下の(below)」両方の位置及び向きを包含することができる。その装置は、他の方法で向き合わせ(90度回転又は他の向きに)してもよく、本明細書で使用される空間に関連する説明は、それに応じて解釈される。
同様に、様々な軸線に沿った及びこの軸線周りの運動の説明は、装置の様々な特別な位置及び向きを含む。単数形「1つの(a, an)」及び「その(the)」は、文脈が他に指示しない限り、複数形も含むことを意図している。用語「備える、有する、含む(comprises, comprising)」、「含む、有する(including)」等は、説明した特徴、ステップ、操作、要素、及び/又は構成要素の存在を特定するが、1つ以上の他の特徴、ステップ、操作、要素、構成要素、及び/又はグループの存在又は追加を排除するものではない。
「結合した」として説明した構成要素は、電気的に又は機械的に直接的に結合されるか、又は1つ以上の中間部品を介して間接的に結合してもよい。本開示に鑑みて、向上したディスプレイシステムに関して記載した操作のいずれか又は任意の組合せで使用される命令は、ユーザにとって関心のあるオペレーティングシステム及びコンピュータプログラム言語を使用して広範なコンピュータシステム構成で実施することができる。
全ての実施例及び説明の参照は、非限定的であり、特許請求の範囲を本明細書で説明した特定の実装態様や実施形態及びその等価物に限定するために使用すべきではない。見出しは、単に形式のためであり、1つの見出しの下のテキストは、相互参照することができ、すなわち1つ以上の見出しの下のテキストに適用することができるので、主題をあらゆる方法で制限するように使用すべきではない。最後に、本開示に鑑みて、一態様又は実施形態に関連して説明した特定の特徴は、図面に特に示されておらず又は本文中に記載されていないにも拘わらず、本発明の開示された他の態様又は実施形態に適用することができる。
以下に、出願当初の特許請求の範囲の内容を実施例として記載しておく。
[実施例1]
機器であって、当該機器は、
カメラであって、該カメラは、該カメラに入射する光を画素のセットに分離するように構成され、前記画素のセットの各セットは、前記カメラの異なるカラーチャンネルにある、カメラと、
照明装置であって、該照明装置は、非白色光を出力し、それによって前記カメラの各カラーチャンネルが、完全な反射面から反射した前記非白色光に対して略等しい応答を有するよう構成される、照明装置と、を備える、
機器。
[実施例2]
前記照明装置は、複数の色成分の照明源を有しており、該複数の色成分は、前記照明装置が前記非白色光を出力するように構成される、実施例1に記載の機器。
[実施例3]
前記複数の色成分の照明源に結合された制御装置をさらに有しており、該制御装置は、前記複数の色成分の照明源の出力の組合せが非白色となるように、前記複数の色成分の照明源のそれぞれの出力に重み付けするように構成される、実施例2に記載の機器。
[実施例4]
機器であって、当該機器は、
カメラと、
照明装置と、
該照明装置に結合された制御装置と、を備えており、
前記カメラは、該カメラに入射する光を色成分に分離するように構成され、前記色成分は、前記カメラにより画素のセットとして取り込まれ、前記画素のセットの各セットは、別のカメラ・カラーチャンネルにあり、
前記制御装置は、前記カメラによって取り込まれたカラー画像のための1つのカメラ・カラーチャンネルの画素の信号対雑音比を増大させるために、前記照明装置によって出力された光の特性を調整するように構成される、
機器。
[実施例5]
前記照明装置は、複数の色成分の照明源を有する、実施例4に記載の機器。
[実施例6]
前記制御装置は、前記複数の色成分の照明源に結合され、前記制御装置は、前記カメラによって取り込まれた前記カラー画像のための前記1つのカメラ・カラーチャンネルの前記画素の信号対雑音比を増大させるために、前記複数の色成分の照明源のうちの少なくとも1つの特性を調整するように構成される、実施例5に記載の機器。
[実施例7]
前記複数の色成分の照明源は、複数の発光ダイオードである、実施例5に記載の機器。
[実施例8]
前記複数の色成分の照明源は、複数のレーザダイオードである、実施例5に記載の機器。
[実施例9]
前記制御装置は、前記照明装置が非白色光を出力するように、前記照明装置の複数の色成分の照明源の出力を制御するように構成され、それによって、各カメラ・カラーチャンネルは、完全な反射面から反射された前記非白色光に対して略等しい応答を有する、実施例4に記載の機器。
[実施例10]
前記制御装置は、前記照明装置が非白色光を出力するように、前記照明装置の複数の色成分の照明源のうちの少なくとも1つの照度レベルを変えるように構成される、実施例4に記載の機器。
[実施例11]
前記制御装置は、前記カメラによって取り込まれた単色画像から高ダイナミックレンジ画像を形成するようにさらに構成される、実施例4に記載の機器。
[実施例12]
前記制御装置は、前記照明装置の複数の色成分の照明源のうちの少なくとも1つの照度レベルを変えるように構成される、実施例11に記載の機器。
[実施例13]
前記制御装置に結合された、複数のセクションを有する回転ホイールをさらに含み、前記複数のセクションのそれぞれは、前記複数の色成分のうちの1つの色を有しており、前記複数のセクションのそれぞれは、異なる光減衰レベルを有する、実施例12に記載の機器。
[実施例14]
前記制御装置に結合された液晶装置をさらに含む、実施例12に記載の機器。
[実施例15]
前記液晶装置は、オン/オフ時間の変動比がカメラの画像フレームキャプチャあたりの1つ又は複数のオン/オフサイクルを含む、オン/オフ・パルス幅変調シャッターモードに設定される、実施例14に記載の機器。
[実施例16]
前記液晶装置は、調整可能な減衰器として構成される、実施例14に記載の機器。
[実施例17]
前記液晶装置は、波長可変フィルタとして構成される、実施例14に記載の機器。
[実施例18]
前記制御装置に結合された音響光学光変調器をさらに含む、実施例12に記載の機器。
[実施例19]
方法であって、当該方法は、
非白色光でシーンを照明するステップであって、前記非白色光は、カメラの各カメラ・カラーチャンネルが、完全な反射面から反射した光に対して略等しい応答を有するように構成される、照明するステップと、
前記カメラを用いて前記シーンの画像を取り込むステップと、
該取り込まれた画像のホワイトカラーバランス調整をせずに、前記取り込まれた画像に基づいて表示用の画像を出力するステップと、を含む、
方法。
[実施例20]
方法であって、当該方法は、
画素のセットを含むカラー画像を取り込むステップであって、前記画素のセットの各セットは、カメラの異なるカラーチャンネルにある、取り込むステップと、
前記画素のセットから高ダイナミックレンジ画像を構成するステップと、を含む、
方法。
[実施例21]
方法であって、当該方法は、
非白色光で部位を照明するステップであって、前記非白色光は、カメラの各カメラ・カラーチャンネルが前記部位から反射した非白色光に対して略等しい応答を有するように構成される、照明するステップと、
前記カメラを用いて前記部位の画像を取り込むステップと、
該取り込んだ画像に基づいて表示用の画像を出力するステップと、を含む
方法。

Claims (15)

  1. システムであって、当該システムは、
    命令を格納するメモリと、
    該メモリに通信可能に結合されたプロセッサと、を含んでおり、
    該プロセッサは、前記命令を実行し、
    照明装置を制御して、手術部位を非白色光で照明すること、
    カメラを制御して、前記手術部位から反射された光を取り込むことであって、前記カメラは、前記取り込まれた光を複数の色成分に分離するように構成され、該複数の色成分は、前記カメラによって、ビデオストリーム内の1つのフレームの複数の画素セットとして取り込まれ、該複数の画素セットの各セットが前記カメラの異なるカラーチャンネルにある、取り込むこと、及び
    前記カメラによって取り込まれた前記光の色成分特性に基づいて、前記照明装置を制御して、前記カメラの各カラーチャンネルが、前記ビデオストリームにおいて続いて取り込まれるフレームについて、前記カメラによって取り込まれた前記光と略等しい応答を有するように前記非白色光を構成すること、を行うように設定される、
    システム。
  2. 前記照明装置は、複数の色成分の照明源を含み、
    前記非白色光を構成することは、前記複数の色成分の照明源の出力の組合せが前記非白色光となるように、前記複数の色成分の照明源に含まれる各色成分の照明源の出力に重み付けすることを含む、請求項1に記載のシステム。
  3. 前記ビデオストリームは複数のフレームを含み、該複数のフレームは、第1セットの連続フレームと、該第1セットの連続フレームに続く第2セットの連続フレームとを含み、
    前記第1セットの連続フレームには前記ビデオストリームの前記1つのフレームが含まれ、前記第2セットの連続フレームには続いて取り込まれたフレームが含まれ、
    前記プロセッサは、前記命令を実行し、前記カメラによって取り込まれた前記光の前記色成分特性に基づいて、第1セットのカラーチャンネル照明制御因子を決定するようにさらに設定され、該第1セットのカラーチャンネル照明制御因子は、前記複数の色成分の照明源に含まれる各色成分の照明源のカラーチャンネル照明制御因子を含み、
    前記非白色光を構成することは、前記第2セットの連続フレームに含まれる各フレームについて、前記第1セットのカラーチャンネル照明制御因子に基づいて前記複数の色成分の照明源の出力に重み付けすることを含む、請求項1に記載のシステム。
  4. 前記第1セットのカラーチャンネル照明制御因子は、前記ビデオストリームの前記1つのフレームの前記色成分特性に基づいて決定される、請求項3に記載のシステム。
  5. 前記第1セットのカラーチャンネル照明制御因子は、前記第1セットの連続フレームの時間加重移動平均に基づいて決定される、請求項3に記載のシステム。
  6. 前記プロセッサは、前記命令を実行して、
    前記カメラのカラーチャンネルの平均輝度を監視すること、及び
    前記カラーチャンネルの前記平均輝度の所定の変化を検出することに応答して、前記第1セットのカラーチャンネル照明制御因子を決定すること、を行うようにさらに設定される、請求項3に記載のシステム。
  7. 前記複数のフレームは、前記第2セットの連続フレームに続く第3セットの連続フレームをさらに含み、
    前記プロセッサは、前記命令を実行して、
    前記第2セットの連続フレームの間に前記カメラによって取り込まれた光の前記色成分特性に基づいて、第2セットのカラーチャンネル照明制御因子を決定すること、及び
    前記第3セットの連続フレームに含まれる各フレームについて、前記複数の色成分の照明源の前記出力を前記第2セットのカラーチャンネル照明制御因子で重み付けすること、を行うようにさらに設定され、
    前記第2セットのカラーチャンネル照明制御因子は、前記第1セットのカラーチャンネル照明制御因子とは異なる、請求項3に記載のシステム。
  8. システムであって、当該システムは、
    手術部位を非白色光で照明するように構成された照明装置と、
    前記手術部位から反射された光を取り込み、且つ該取り込まれた光を複数の色成分に分離するように構成されたカメラであって、前記複数の色成分は、前記カメラによって、ビデオストリーム内の1つのフレームの複数の画素セットとして取り込まれ、該複数の画素セットの各セットが前記カメラの異なるカラーチャンネルにある、カメラと、
    前記照明装置に通信可能に結合された制御装置であって、該制御装置は、前記カメラによって取り込まれた前記光の色成分特性に基づいて、前記照明装置を制御して、前記カメラの各カラーチャンネルが、前記ビデオストリームにおいて続いて取り込まれるフレームについて、前記カメラによって取り込まれた前記光と略等しい応答を有するように前記非白色光を構成するように設定される、制御装置と、を有する、
    システム。
  9. 方法であって、当該方法は、
    制御システムが、照明装置を制御して、手術部位を非白色光で照明するステップと、
    前記制御システムが、カメラを制御して、前記手術部位から反射された光を取り込むステップであって、前記カメラは、前記取り込まれた光を複数の色成分に分離するように構成され、該複数の色成分は、前記カメラによって、ビデオストリーム内の1つのフレームの複数の画素セットとして取り込まれ、該複数の画素セットの各セットが前記カメラの異なるカラーチャンネルにある、取り込むステップと、
    前記制御システムが、前記カメラによって取り込まれた前記光の色成分特性に基づいて、前記照明装置を制御して、前記カメラの各カラーチャンネルが、前記ビデオストリームにおいて続いて取り込まれるフレームについて、前記カメラによって取り込まれた前記光と略等しい応答を有するように前記非白色光を構成するステップと、を含む、
    方法。
  10. 前記照明装置は、複数の色成分の照明源を含み、
    前記非白色光を構成するステップは、前記複数の色成分の照明源の出力の組合せが前記非白色光となるように、前記複数の色成分の照明源に含まれる各色成分の照明源の出力に重み付けするステップを含む、請求項9に記載の方法。
  11. 前記制御システムが、前記カメラによって取り込まれた前記光の前記色成分特性に基づいて、第1セットのカラーチャンネル照明制御因子を決定するステップであって、該第1セットのカラーチャンネル照明制御因子は、前記複数の色成分の照明源に含まれる各成分の照明源のカラーチャンネル照明制御因子を含む、決定するステップをさらに含み、
    前記ビデオストリームは複数のフレームを含み、該複数のフレームは、第1セットの連続フレームと、該第1セットの連続フレームに続く第2セットの連続フレームとを含み、
    前記第1セットの連続フレームには前記ビデオストリームの前記1つのフレームが含まれ、前記第2セットの連続フレームには続いて取り込まれたフレームが含まれ、
    前記非白色光を構成するステップは、前記第2セットの連続フレームに含まれる各フレームについて、前記第1セットのカラーチャンネル照明制御因子に基づいて前記複数の色成分の照明源の出力に重み付けするステップを含む、請求項9に記載の方法。
  12. 前記第1セットのカラーチャンネル照明制御因子は、前記ビデオストリームの前記1つのフレームの前記色成分特性に基づいて決定される、請求項11に記載の方法。
  13. 前記第1セットのカラーチャンネル照明制御因子は、前記第1セットの連続フレームの時間加重移動平均に基づいて決定される、請求項11に記載の方法。
  14. 前記制御システムが、前記カメラのカラーチャンネルの平均輝度を監視するステップをさらに含み、
    前記第1セットのカラーチャンネル照明制御因子は、前記カラーチャンネルの前記平均輝度の所定の変化を検出することに応答して決定される、請求項11に記載の方法。
  15. 前記複数のフレームは、前記第2セットの連続フレームに続く第3セットの連続フレームをさらに含み、
    当該方法は、
    前記制御システムが、前記第2セットの連続フレームの間に前記カメラによって取り込まれた光の前記色成分特性に基づいて、前記第1セットのカラーチャンネル照明制御因子とは異なる第2セットのカラーチャンネル照明制御因子を決定するステップと、
    前記制御システムが、前記第3セットの連続フレームに含まれる各フレームについて、前記複数の色成分の照明源の前記出力を前記第2セットのカラーチャンネル照明制御因子で重み付けするステップと、をさらに以下を含む、請求項11に記載の方法。



JP2019218438A 2014-03-17 2019-12-03 非白色光の一般的な照明装置を含む手術システム Active JP7005581B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021176669A JP7296437B2 (ja) 2014-03-17 2021-10-28 非白色光の一般的な照明装置を含む手術システム
JP2023068230A JP2023089220A (ja) 2014-03-17 2023-04-19 非白色光の一般的な照明装置を含む手術システム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201461954512P 2014-03-17 2014-03-17
US61/954,512 2014-03-17

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2016557988A Division JP2017511176A (ja) 2014-03-17 2015-03-17 非白色光の一般的な照明装置を含む手術システム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021176669A Division JP7296437B2 (ja) 2014-03-17 2021-10-28 非白色光の一般的な照明装置を含む手術システム

Publications (2)

Publication Number Publication Date
JP2020061743A true JP2020061743A (ja) 2020-04-16
JP7005581B2 JP7005581B2 (ja) 2022-01-21

Family

ID=54145196

Family Applications (4)

Application Number Title Priority Date Filing Date
JP2016557988A Pending JP2017511176A (ja) 2014-03-17 2015-03-17 非白色光の一般的な照明装置を含む手術システム
JP2019218438A Active JP7005581B2 (ja) 2014-03-17 2019-12-03 非白色光の一般的な照明装置を含む手術システム
JP2021176669A Active JP7296437B2 (ja) 2014-03-17 2021-10-28 非白色光の一般的な照明装置を含む手術システム
JP2023068230A Pending JP2023089220A (ja) 2014-03-17 2023-04-19 非白色光の一般的な照明装置を含む手術システム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2016557988A Pending JP2017511176A (ja) 2014-03-17 2015-03-17 非白色光の一般的な照明装置を含む手術システム

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2021176669A Active JP7296437B2 (ja) 2014-03-17 2021-10-28 非白色光の一般的な照明装置を含む手術システム
JP2023068230A Pending JP2023089220A (ja) 2014-03-17 2023-04-19 非白色光の一般的な照明装置を含む手術システム

Country Status (6)

Country Link
US (4) US10506914B2 (ja)
EP (2) EP4282370A3 (ja)
JP (4) JP2017511176A (ja)
KR (3) KR102438482B1 (ja)
CN (2) CN106456272B (ja)
WO (1) WO2015142800A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111726542A (zh) * 2020-06-12 2020-09-29 Oppo广东移动通信有限公司 一种摄像头补光方法及终端、存储介质

Families Citing this family (48)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8218847B2 (en) 2008-06-06 2012-07-10 Superdimension, Ltd. Hybrid registration method
KR102438482B1 (ko) 2014-03-17 2022-09-02 인튜어티브 서지컬 오퍼레이션즈 인코포레이티드 비백색광 일반 조명기를 포함하는 수술 시스템
US9633431B2 (en) 2014-07-02 2017-04-25 Covidien Lp Fluoroscopic pose estimation
US9603668B2 (en) 2014-07-02 2017-03-28 Covidien Lp Dynamic 3D lung map view for tool navigation inside the lung
US9986983B2 (en) 2014-10-31 2018-06-05 Covidien Lp Computed tomography enhanced fluoroscopic system, device, and method of utilizing the same
CN107409200B (zh) * 2015-03-12 2019-02-12 奥林巴斯株式会社 图像处理装置、图像处理方法和计算机可读取的记录介质
US10674982B2 (en) 2015-08-06 2020-06-09 Covidien Lp System and method for local three dimensional volume reconstruction using a standard fluoroscope
US10716525B2 (en) 2015-08-06 2020-07-21 Covidien Lp System and method for navigating to target and performing procedure on target utilizing fluoroscopic-based local three dimensional volume reconstruction
US10702226B2 (en) 2015-08-06 2020-07-07 Covidien Lp System and method for local three dimensional volume reconstruction using a standard fluoroscope
EP4002826A1 (en) * 2017-02-06 2022-05-25 Intuitive Surgical Operations, Inc. System and method for extracting multiple feeds from a rolling-shutter sensor
US11793579B2 (en) 2017-02-22 2023-10-24 Covidien Lp Integration of multiple data sources for localization and navigation
US10699448B2 (en) 2017-06-29 2020-06-30 Covidien Lp System and method for identifying, marking and navigating to a target using real time two dimensional fluoroscopic data
US11436858B2 (en) 2017-07-09 2022-09-06 Ringo Ai, Inc. Characterizing reflectance, illuminance, and sensor response for electromagnetic radiation
WO2019014145A1 (en) * 2017-07-09 2019-01-17 Lumenetix, Inc. COMPLETE SPECTRUM FLASH FOR ELECTRONIC DEVICES
CN117731393A (zh) * 2017-09-22 2024-03-22 直观外科手术操作公司 增强计算机辅助远程操作外科手术中不同组织之间的可见差异
EP3694412A4 (en) 2017-10-10 2021-08-18 Covidien LP SYSTEM AND METHOD FOR IDENTIFYING AND MARKING A TARGET IN A THREE-DIMENSIONAL FLUOROSCOPIC RECONSTRUCTION
JP6834907B2 (ja) 2017-10-25 2021-02-24 トヨタ自動車株式会社 撮像方法
US10905498B2 (en) 2018-02-08 2021-02-02 Covidien Lp System and method for catheter detection in fluoroscopic images and updating displayed position of catheter
US10893842B2 (en) 2018-02-08 2021-01-19 Covidien Lp System and method for pose estimation of an imaging device and for determining the location of a medical device with respect to a target
US10930064B2 (en) 2018-02-08 2021-02-23 Covidien Lp Imaging reconstruction system and method
US11705238B2 (en) 2018-07-26 2023-07-18 Covidien Lp Systems and methods for providing assistance during surgery
US11071591B2 (en) 2018-07-26 2021-07-27 Covidien Lp Modeling a collapsed lung using CT data
US11291508B2 (en) 2018-09-14 2022-04-05 Neuralink, Corp. Computer vision techniques
EP3849656A4 (en) 2018-09-14 2022-04-27 Neuralink Corp. DEVICE IMPLANTATION USING A CARTRIDGE
CN117459845A (zh) 2018-09-18 2024-01-26 直观外科手术操作公司 用于增强的图像传感器定时的方法和系统
US11944388B2 (en) 2018-09-28 2024-04-02 Covidien Lp Systems and methods for magnetic interference correction
US11877806B2 (en) 2018-12-06 2024-01-23 Covidien Lp Deformable registration of computer-generated airway models to airway trees
US11045075B2 (en) 2018-12-10 2021-06-29 Covidien Lp System and method for generating a three-dimensional model of a surgical site
US11801113B2 (en) 2018-12-13 2023-10-31 Covidien Lp Thoracic imaging, distance measuring, and notification system and method
US11617493B2 (en) 2018-12-13 2023-04-04 Covidien Lp Thoracic imaging, distance measuring, surgical awareness, and notification system and method
EP3669743B1 (en) * 2018-12-20 2024-04-03 Leica Instruments (Singapore) Pte. Ltd. System and method, in particular for microscopes and endoscopes, for creating an hdr image of a fluorescing fluorophore
US11357593B2 (en) 2019-01-10 2022-06-14 Covidien Lp Endoscopic imaging with augmented parallax
CN218943284U (zh) * 2019-01-18 2023-05-02 直观外科手术操作公司 连接器组件、接收器组件和对应的连接系统
US11625825B2 (en) 2019-01-30 2023-04-11 Covidien Lp Method for displaying tumor location within endoscopic images
US11564751B2 (en) 2019-02-01 2023-01-31 Covidien Lp Systems and methods for visualizing navigation of medical devices relative to targets
US11925333B2 (en) 2019-02-01 2024-03-12 Covidien Lp System for fluoroscopic tracking of a catheter to update the relative position of a target and the catheter in a 3D model of a luminal network
US11744643B2 (en) 2019-02-04 2023-09-05 Covidien Lp Systems and methods facilitating pre-operative prediction of post-operative tissue function
US11819285B2 (en) 2019-04-05 2023-11-21 Covidien Lp Magnetic interference detection systems and methods
US11269173B2 (en) 2019-08-19 2022-03-08 Covidien Lp Systems and methods for displaying medical video images and/or medical 3D models
US11864935B2 (en) 2019-09-09 2024-01-09 Covidien Lp Systems and methods for pose estimation of a fluoroscopic imaging device and for three-dimensional imaging of body structures
US11931111B2 (en) 2019-09-09 2024-03-19 Covidien Lp Systems and methods for providing surgical guidance
US11627924B2 (en) 2019-09-24 2023-04-18 Covidien Lp Systems and methods for image-guided navigation of percutaneously-inserted devices
US10986321B1 (en) * 2019-12-10 2021-04-20 Arthrex, Inc. Method and device for color correction of two or more self-illuminated camera systems
US11847730B2 (en) 2020-01-24 2023-12-19 Covidien Lp Orientation detection in fluoroscopic images
US11380060B2 (en) 2020-01-24 2022-07-05 Covidien Lp System and method for linking a segmentation graph to volumetric data
CN115280766B (zh) * 2020-03-06 2024-05-03 Oppo广东移动通信有限公司 图像传感器、成像装置、电子设备、图像处理系统及信号处理方法
US11950950B2 (en) 2020-07-24 2024-04-09 Covidien Lp Zoom detection and fluoroscope movement detection for target overlay
CN117440584B (zh) * 2023-12-20 2024-02-20 深圳市博盛医疗科技有限公司 手术器械分割辅助图像曝光方法、系统、设备及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0898200A (ja) * 1994-09-29 1996-04-12 Sanyo Electric Co Ltd ビデオカメラ
JP2002218479A (ja) * 2001-01-19 2002-08-02 Mitsubishi Electric Corp 撮像装置
JP2011015043A (ja) * 2009-06-30 2011-01-20 Canon Inc 撮像装置、その制御方法及びプログラム
JP2012509098A (ja) * 2008-11-18 2012-04-19 ストライカー・コーポレーション フィードバック制御を行う内視鏡光源システム及びその内視鏡光源システムの同期方法
JP2012217486A (ja) * 2011-04-04 2012-11-12 Fujifilm Corp 内視鏡システム及びその駆動方法

Family Cites Families (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US1050691A (en) 1911-08-10 1913-01-14 Charles Benjamin Redrup Fluid-pressure engine or pump.
US6449006B1 (en) 1992-06-26 2002-09-10 Apollo Camera, Llc LED illumination system for endoscopic cameras
JP3235818B2 (ja) 1995-11-08 2001-12-04 オリンパス光学工業株式会社 内視鏡撮像装置
US6331181B1 (en) 1998-12-08 2001-12-18 Intuitive Surgical, Inc. Surgical robotic tools, data architecture, and use
US5986271A (en) * 1997-07-03 1999-11-16 Lazarev; Victor Fluorescence imaging system
US20040052076A1 (en) * 1997-08-26 2004-03-18 Mueller George G. Controlled lighting methods and apparatus
JPH11253402A (ja) 1998-03-10 1999-09-21 Olympus Optical Co Ltd 内視鏡装置
JP2001208985A (ja) 2000-01-27 2001-08-03 Olympus Optical Co Ltd 内視鏡装置
US6639623B2 (en) * 1999-12-23 2003-10-28 Hill-Rom Services, Inc. Controls for a surgical theater system
US7057768B2 (en) * 2001-07-02 2006-06-06 Corel Corporation Automatic color balance
DE10339618A1 (de) * 2003-08-28 2005-03-24 Leica Microsystems (Schweiz) Ag Leuchtdioden-Beleuchtung für ein optisches Beobachtungsgerät, insbesondere ein Stereo- oder ein Stereooperationsmikroskop
US7544163B2 (en) * 2003-09-26 2009-06-09 Tidal Photonics, Inc. Apparatus and methods relating to expanded dynamic range imaging endoscope systems
US20090312817A1 (en) * 2003-11-26 2009-12-17 Wicab, Inc. Systems and methods for altering brain and body functions and for treating conditions and diseases of the same
JP2007528505A (ja) * 2003-12-24 2007-10-11 ザ ジェネラル ホスピタル コーポレーション マルチチャンネル光学画像法
US7683950B2 (en) * 2005-04-26 2010-03-23 Eastman Kodak Company Method and apparatus for correcting a channel dependent color aberration in a digital image
JP4727374B2 (ja) * 2005-09-30 2011-07-20 富士フイルム株式会社 電子内視鏡装置
JP4836859B2 (ja) * 2006-04-20 2011-12-14 リオン株式会社 耳かけ形補聴器
US8736709B2 (en) * 2008-07-11 2014-05-27 The Invention Science Fund I, Llc Spectral improvement of digital camera color images
DE102009018142A1 (de) * 2009-04-08 2010-10-14 Karl Storz Gmbh & Co. Kg Vorrichtung zur Fluoreszenzdiagnose
DE102009024942A1 (de) * 2009-06-09 2010-12-23 Carl Zeiss Surgical Gmbh Lichtquellenanordnung für eine Beleuchtungsvorrichtung eines medizinisch-optischen Beobachtungsgeräts
US9211058B2 (en) * 2010-07-02 2015-12-15 Intuitive Surgical Operations, Inc. Method and system for fluorescent imaging with background surgical image composed of selective illumination spectra
US20120004508A1 (en) * 2010-07-02 2012-01-05 Mcdowall Ian Surgical illuminator with dual spectrum fluorescence
IN2013CN01305A (ja) * 2010-08-17 2015-08-07 Koninkl Philips Electronics Nv
US10010268B2 (en) * 2010-09-15 2018-07-03 Olympus Corporation Endoscope apparatus
KR20120114895A (ko) 2011-04-08 2012-10-17 삼성전자주식회사 내시경 장치 및 상기 내시경 장치의 영상 획득 방법
JP5326065B2 (ja) * 2011-08-26 2013-10-30 オリンパスメディカルシステムズ株式会社 内視鏡装置
US8804021B2 (en) * 2011-11-03 2014-08-12 Omnivision Technologies, Inc. Method, apparatus and system for providing improved full well capacity in an image sensor pixel
US20130158525A1 (en) * 2011-12-09 2013-06-20 Adn International, Llc Flexible channel surgical instruments
US20130222603A1 (en) * 2012-02-28 2013-08-29 Aptina Imaging Corporation Imaging systems for infrared and visible imaging
CN102709304B (zh) * 2012-06-26 2013-06-19 天津大学 提高图像传感器满阱容量与量子效率光电二极管及方法
US9332243B2 (en) * 2012-10-17 2016-05-03 DotProduct LLC Handheld portable optical scanner and method of using
CA2896985A1 (en) * 2013-01-03 2014-07-10 Meta Company Extramissive spatial imaging digital eye glass for virtual or augmediated vision
JP5698878B2 (ja) * 2013-02-12 2015-04-08 オリンパスメディカルシステムズ株式会社 内視鏡装置
US9071764B2 (en) * 2013-11-13 2015-06-30 Arecont Vision, Llc. System and method for color imaging under low light
US9396544B2 (en) * 2014-01-08 2016-07-19 Adobe Systems Corporation Single image photometric stereo for colored objects
KR102438482B1 (ko) 2014-03-17 2022-09-02 인튜어티브 서지컬 오퍼레이션즈 인코포레이티드 비백색광 일반 조명기를 포함하는 수술 시스템

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0898200A (ja) * 1994-09-29 1996-04-12 Sanyo Electric Co Ltd ビデオカメラ
JP2002218479A (ja) * 2001-01-19 2002-08-02 Mitsubishi Electric Corp 撮像装置
JP2012509098A (ja) * 2008-11-18 2012-04-19 ストライカー・コーポレーション フィードバック制御を行う内視鏡光源システム及びその内視鏡光源システムの同期方法
JP2011015043A (ja) * 2009-06-30 2011-01-20 Canon Inc 撮像装置、その制御方法及びプログラム
JP2012217486A (ja) * 2011-04-04 2012-11-12 Fujifilm Corp 内視鏡システム及びその駆動方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111726542A (zh) * 2020-06-12 2020-09-29 Oppo广东移动通信有限公司 一种摄像头补光方法及终端、存储介质

Also Published As

Publication number Publication date
KR20220124276A (ko) 2022-09-13
JP7296437B2 (ja) 2023-06-22
US10506914B2 (en) 2019-12-17
KR102372763B1 (ko) 2022-03-10
JP2023089220A (ja) 2023-06-27
CN106456272A (zh) 2017-02-22
US11759093B2 (en) 2023-09-19
KR102521043B1 (ko) 2023-04-14
US10932649B2 (en) 2021-03-02
US20210145249A1 (en) 2021-05-20
EP4282370A2 (en) 2023-11-29
EP3119321A4 (en) 2017-12-06
EP4282370A3 (en) 2024-02-21
CN106456272B (zh) 2020-03-31
US20170112354A1 (en) 2017-04-27
WO2015142800A1 (en) 2015-09-24
JP2022009679A (ja) 2022-01-14
EP3119321A1 (en) 2017-01-25
KR20160133520A (ko) 2016-11-22
CN111281311A (zh) 2020-06-16
JP7005581B2 (ja) 2022-01-21
US20230371783A1 (en) 2023-11-23
JP2017511176A (ja) 2017-04-20
CN111281311B (zh) 2022-09-02
KR20220036986A (ko) 2022-03-23
US20200077870A1 (en) 2020-03-12
KR102438482B1 (ko) 2022-09-02

Similar Documents

Publication Publication Date Title
JP7296437B2 (ja) 非白色光の一般的な照明装置を含む手術システム
US11263984B2 (en) Image signal luminance processing method, device and display apparatus
US10188281B2 (en) Programmable multispectral illumination system for surgery and visualization of light-sensitive tissues
WO2020256986A1 (en) Noise aware edge enhancement in a pulsed laser mapping imaging system
US20210297606A1 (en) Medical image processing device and medical observation system
JP2009131324A (ja) フィールドシーケンシャル撮像表示システム
US11596293B2 (en) Endoscope system and operation method therefor
US10278628B2 (en) Light source device for endoscope and endoscope system
WO2019225074A1 (ja) 内視鏡システム
US11892617B2 (en) Endoscope system with adaptive lighting control
WO2016125450A1 (en) Endoscopic system, image processing apparapus, and image processing method
EP3991633A1 (en) Microscope system for use in eye surgery and corresponding system, methods and computer programs

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191213

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201005

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210128

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210629

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211028

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20211028

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20211108

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20211109

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220105

R150 Certificate of patent or registration of utility model

Ref document number: 7005581

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150