JP2023544358A - 外科用可視化及び粒子傾向分析システム - Google Patents

外科用可視化及び粒子傾向分析システム Download PDF

Info

Publication number
JP2023544358A
JP2023544358A JP2023520146A JP2023520146A JP2023544358A JP 2023544358 A JP2023544358 A JP 2023544358A JP 2023520146 A JP2023520146 A JP 2023520146A JP 2023520146 A JP2023520146 A JP 2023520146A JP 2023544358 A JP2023544358 A JP 2023544358A
Authority
JP
Japan
Prior art keywords
surgical
data
light
tissue
metric
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2023520146A
Other languages
English (en)
Inventor
シェルトン・ザ・フォース・フレデリック・イー
ハリス・ジェイソン・エル
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Cilag GmbH International
Original Assignee
Cilag GmbH International
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Cilag GmbH International filed Critical Cilag GmbH International
Publication of JP2023544358A publication Critical patent/JP2023544358A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/48Other medical applications
    • A61B5/4848Monitoring or testing the effects of treatment, e.g. of medication
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/063Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements for monochromatic or narrow-band illumination
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B17/068Surgical staplers, e.g. containing multiple staples or clamps
    • A61B17/072Surgical staplers, e.g. containing multiple staples or clamps for applying a row of staples in a single action, e.g. the staples being applied simultaneously
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B17/32Surgical cutting instruments
    • A61B17/320068Surgical cutting instruments using mechanical vibrations, e.g. ultrasonic
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B18/00Surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body
    • A61B18/04Surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body by heating
    • A61B18/12Surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body by heating by passing a current through the tissue to be heated, e.g. high-frequency current
    • A61B18/14Probes or electrodes therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/25User interfaces for surgical systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0075Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by spectroscopy, i.e. measuring spectra, e.g. Raman spectroscopy, infrared absorption spectroscopy
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0082Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes
    • A61B5/0084Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes for introduction into the body, e.g. by catheters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/02007Evaluating blood vessel condition, e.g. elasticity, compliance
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/026Measuring blood flow
    • A61B5/0261Measuring blood flow using optical means, e.g. infrared light
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/145Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue
    • A61B5/14542Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue for measuring blood gases
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/48Other medical applications
    • A61B5/4887Locating particular structures in or on the body
    • A61B5/489Blood vessels
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00017Electrical control of surgical instruments
    • A61B2017/00022Sensing or detecting at the treatment site
    • A61B2017/00039Electric or electromagnetic phenomena other than conductivity, e.g. capacity, inductivity, Hall effect
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00017Electrical control of surgical instruments
    • A61B2017/00022Sensing or detecting at the treatment site
    • A61B2017/00057Light
    • A61B2017/00061Light spectrum
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00017Electrical control of surgical instruments
    • A61B2017/00221Electrical control of surgical instruments with wireless transmission of data, e.g. by infrared radiation or radiowaves
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00367Details of actuation of instruments, e.g. relations between pushing buttons, or the like, and activation of the tool, working tip, or the like
    • A61B2017/00398Details of actuation of instruments, e.g. relations between pushing buttons, or the like, and activation of the tool, working tip, or the like using powered actuators, e.g. stepper motors, solenoids
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00743Type of operation; Specification of treatment sites
    • A61B2017/00809Lung operations
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B17/068Surgical staplers, e.g. containing multiple staples or clamps
    • A61B17/072Surgical staplers, e.g. containing multiple staples or clamps for applying a row of staples in a single action, e.g. the staples being applied simultaneously
    • A61B2017/07214Stapler heads
    • A61B2017/07285Stapler heads characterised by its cutter
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B17/32Surgical cutting instruments
    • A61B17/320068Surgical cutting instruments using mechanical vibrations, e.g. ultrasonic
    • A61B2017/320082Surgical cutting instruments using mechanical vibrations, e.g. ultrasonic for incising tissue
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B18/00Surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body
    • A61B2018/00315Surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body for treatment of particular body parts
    • A61B2018/00541Lung or bronchi
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B18/00Surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body
    • A61B2018/00571Surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body for achieving a particular surgical effect
    • A61B2018/00601Cutting
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B18/00Surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body
    • A61B2018/00571Surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body for achieving a particular surgical effect
    • A61B2018/0063Sealing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B18/00Surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body
    • A61B2018/00636Sensing and controlling the application of energy
    • A61B2018/00773Sensed parameters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B18/00Surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body
    • A61B2018/00994Surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body combining two or more different kinds of non-mechanical energy or combining one or more non-mechanical energies with ultrasound
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2218/00Details of surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body
    • A61B2218/001Details of surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body having means for irrigation and/or aspiration of substances to and/or from the surgical site
    • A61B2218/002Irrigation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2218/00Details of surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body
    • A61B2218/001Details of surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body having means for irrigation and/or aspiration of substances to and/or from the surgical site
    • A61B2218/007Aspiration
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2218/00Details of surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body
    • A61B2218/001Details of surgical instruments, devices or methods for transferring non-mechanical forms of energy to or from the body having means for irrigation and/or aspiration of substances to and/or from the surgical site
    • A61B2218/007Aspiration
    • A61B2218/008Aspiration for smoke evacuation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B34/37Master-slave robots
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/021Measuring pressure in heart or blood vessels

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Medical Informatics (AREA)
  • Animal Behavior & Ethology (AREA)
  • Molecular Biology (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Pathology (AREA)
  • Biophysics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Optics & Photonics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Cardiology (AREA)
  • Physiology (AREA)
  • Vascular Medicine (AREA)
  • Hematology (AREA)
  • Signal Processing (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Plasma & Fusion (AREA)
  • Otolaryngology (AREA)
  • Dentistry (AREA)
  • Mechanical Engineering (AREA)
  • Human Computer Interaction (AREA)
  • Robotics (AREA)
  • Endoscopes (AREA)
  • Surgical Instruments (AREA)

Abstract

外科用可視化システム(108)は、粒子傾向分析を含み得る。外科用可視化システムは、後方散乱レーザ光のセンサ情報を、術野の一部における粒子移動(例えば、血球)のリアルタイム情報に変換するように構成されている、フィールドプログラマブルゲートアレイ(FPGA)を含み得る。システムは、リアルタイム情報を、集約して分析するために、FPGAから遠隔にあるプロセッサに通信し得る。外科用可視化システムは、移動粒子の現在の状態を表すメトリックと移動粒子の凝集状態との両方を表示してもよい。システムは、外科医による使用のために、粒子移動の速度及び加速度の両方を表示してもよい。

Description

(関連出願の相互参照)
本出願は、以下に関連するものであり、その各々の内容は、参照により本明細書に組み込まれる:
「Surgical System Distributed Processing」と題する、2018年3月29日出願の、米国特許出願第15/940,663号、
「Use Of Laser Light And Red-Green-Blue Coloration To Determine Properties Of Back Scattered Light」と題する、2018年3月29日出願の、米国特許出願第15/940,704号、
「Method for Operating Tiered Operation Modes in A Surgical System」と題する、本出願と共に出願された米国特許出願(代理人整理番号END9287USNP1)、
「Tiered-Access Surgical Visualization System」と題する、本出願と共に出願された米国特許出願(代理人整理番号END9287USNP2)、及び
「Field Programmable Surgical Visualization System」と題する、本出願と共に出願された米国特許出願(代理人整理番号END9287USNP4)。
外科用システムは、臨床医(複数可)が、例えば、モニタなどの1つ以上のディスプレイ上で、手術部位及び/又はその1つ以上の部分を見ることを可能にできる撮像システムを組み込んでいることが多い。ディスプレイ(複数可)は、手術現場(surgical theater)に局所的であってもよく、かつ/又は、遠隔であってもよい。撮像システムは、手術部位を見て、かつ臨床医が見ることができるディスプレイにビューを送信する、カメラを備えたスコープを含むことができる。スコープとしては、関節鏡、血管鏡、気管支鏡、胆道鏡、結腸鏡、膀胱鏡、食道胃十二指腸鏡、腸鏡、食道十二指腸鏡(胃カメラ)、内視鏡、喉頭鏡、鼻咽喉-腎盂鏡、S状結腸鏡、胸腔鏡、尿管鏡、及び外視鏡が挙げられるが、これらに限定されない。撮像システムは、臨床医(複数可)を認識することができる、かつ/又は臨床医(複数可)に伝達することができる情報によって制限される場合がある。例えば、三次元空間内の特定の隠れた構造、物理的輪郭、及び/又は寸法は、特定の撮像システムでは手術中に認識できないことがある。追加的に、特定の撮像システムは、手術中に特定の情報を臨床医(複数可)に通信すること、及び/又は伝達することができない場合がある。
外科用可視化システムは、粒子傾向分析を含み得る。外科用可視化システムは、後方散乱レーザ光のセンサ情報を、術野の一部における粒子移動(例えば、血球)のリアルタイム情報に変換するように構成されている、フィールドプログラマブルゲートアレイ(FPGA)を含み得る。システムは、リアルタイム情報を、集約して分析するために、FPGAから遠隔にあるプロセッサに通信し得る。外科用可視化システムは、移動粒子の現在の状態を表すメトリックと移動粒子の凝集状態との両方を表示してもよい。例えば、システムは、外科医による使用のために、粒子移動の速度及び加速度の両方を表示してもよい。
本発明の様々な実施形態によれば、以下の実施例が提供される。
1.術野の少なくとも一部を分析するための外科用可視化システムであって、そのシステムは、
術野の少なくとも一部を、レーザ光で照明するように構成されたレーザ光照明源と、
反射レーザ光を受光するように構成された光センサと、
反射レーザ光を示す情報を、術野の少なくとも一部内の移動粒子を示す情報に変換するように構成されたフィールドプログラマブルゲートアレイと、
術野の少なくとも一部を含む画像を表示するように構成されたディスプレイと、
第1のメトリック及び第2のメトリックを画像に重ね合わせて表示するようにディスプレイを制御するように構成されたプロセッサと、を備え、
第1のメトリックは、術野の少なくとも一部における移動粒子の現在の状態を表し、
第2のメトリックは、術野の少なくとも一部における移動粒子の凝集状態を表す、外科用可視化システム。
2.術野の少なくとも一部における移動粒子の凝集状態は、データ傾向を含む、実施例1に記載の外科用可視化システム。
3.第2のメトリックは、数秒間の凝集を表し、傾向として示される、実施例1に記載の外科用可視化システム。
4.第2のメトリックは、術野の少なくとも一部における移動粒子の加速度を含む、実施例1に記載の外科用可視化システム。
5.第2のメトリックは、閉塞、器具の血管封止/クランプ効率、血管樹概観、及び経時的な動きの振動の大きさのうちのいずれかを識別するのに好適である、実施例1~4のいずれか1つに記載の外科用可視化システム。
6.プロセッサは、ディスプレイを制御して、画像上に重ね合わされたグラフィカル傾向アニメーションを表示させるように構成されている、実施例1~5のいずれか1つに記載の外科用可視化システム。
7.第2のメトリックを表示するために使用されるべきユニットのタイプのユーザ選択を受信するためのユーザインターフェースを更に備える、実施例1~6のいずれか1つに記載の外科用可視化システム。
8.タグ付けされた粒子群のユーザ選択を受信するためのユーザインターフェースを更に備え、第2のメトリックは、タグ付けされた粒子群の凝集状態を表す、実施例1~7のいずれか1つに記載の外科用可視化システム。
9.プロセッサは、画像取得モジュールに関連付けられた第1のプロセッサを備え、システムは、外部処理リソースに関連付けられた第2のプロセッサを更に備え、術野の少なくとも一部内の移動粒子を示す情報は、凝集分析のために第2のプロセッサに伝達され、第2のメトリックを示す情報は、第2のプロセッサから第1のプロセッサに伝達される、実施例1~8のいずれか1つに記載の外科用可視化システム。
10.術野の少なくとも一部を分析するための外科用可視化システムであって、そのシステムは、
反射レーザ光を示す情報を、術野の少なくとも一部内の移動粒子を示す情報に変換するように構成されたフィールドプログラマブルゲートアレイと、
フィールドプログラマブルゲートアレイと共に収容され、術野の少なくとも一部における移動粒子の現在の状態を表す第1のメトリックを生成するように構成された第1のプロセッサと、
フィールドプログラマブルゲートアレイから遠隔にあり、術野の少なくとも一部内の移動粒子を示す情報を受信し、術野の少なくとも一部内の移動粒子の凝集状態を表す第2のメトリックを生成するように構成された第2のプロセッサと、を備える、外科用可視化システム。
11.ディスプレイを更に備え、第2のプロセッサは、第2のメトリックを第1のプロセッサに伝達し、第1のプロセッサは、ディスプレイに、第1のメトリック及び第2のメトリックを、術野の少なくとも一部を含む画像の上に重ね合わされた状態で表示するように指示する、実施例10に記載の外科用可視化システム。
12.術野の少なくとも一部をレーザ光で照明するように構成されたレーザ光照明源と、反射レーザ光を受光するように構成された光センサと、を更に備える、実施例10又は11に記載の外科用可視化システム。
13.術野の少なくとも一部における移動粒子の凝集状態は、データ傾向を含む、実施例10~12のいずれか1つに記載の外科用可視化システム。
14.第2のメトリックは、数秒間の凝集を表し、傾向として示される、実施例10~12のいずれか1つに記載の外科用可視化システム。
15.第2のメトリックは、術野の少なくとも一部における移動粒子の加速度を含む、実施例10~12のいずれか1つに記載の外科用可視化システム。
16.第2のメトリックは、閉塞、器具の血管封止/クランプ効率、血管樹概観、及び経時的な動きの振動の大きさのうちのいずれかを識別するのに適している、実施例10~15のいずれか1つに記載の外科用可視化システム。
17.術野の少なくとも一部を分析するための外科用可視化システムであって、そのシステムは、
術野の少なくとも一部を含む画像を表示するように構成されたディスプレイと、
第1のメトリック及び第2のメトリックを画像に重ね合わせて表示するようにディスプレイを制御するように構成されたプロセッサと、を備え、
第1のメトリックは、術野の少なくとも一部における移動粒子の現在の状態を表し、
第2のメトリックは、術野の少なくとも一部における移動粒子の凝集状態を表す、外科用可視化システム。
18.術野の少なくとも一部における移動粒子の凝集状態は、データ傾向を含む、実施例17に記載の外科用可視化システム。
19.第2のメトリックは、数秒間の凝集を表し、傾向として示される、実施例17に記載の外科用可視化システム。
20.タグ付けされた粒子群のユーザ選択を受信するためのユーザインターフェースを更に備え、第2のメトリックは、タグ付けされた粒子群の凝集状態を表す、実施例17~19のいずれか1つに記載の外科用可視化システム。
21.光センサは、反射レーザ光を示す情報を提供する、実施例1~10及び実施例12~16のいずれか1つに記載のシステム。
22.第1のメトリックは、フィールドプログラマブルゲートアレイによって提供される、移動粒子を示す情報を表す、実施例1~16のいずれか1つに記載のシステム。
23.反射レーザ光を示す情報は、振幅、周波数、波長、ドップラーシフト、及び/又は他の時間領域品質若しくは周波数領域品質のうちの1つ以上を含む、実施例1~22のいずれか1つに記載のシステム。
24.移動粒子を示す情報は、単位時間当たりの移動粒子の数、粒子の速さ、粒子速度、及び/又は体積のうちの1つ以上を含む、実施例1~23のいずれか1つに記載のシステム。
25.第2のメトリックは、移動粒子を示す情報を経時的に集約し、最小二乗回帰技法、多項式フィット技法、平均、相加平均、モード、最大、最小、分散及び/若しくは同様のものなどの他の統計法を実行することによって、又は加速度を表す値を計算することによって計算される、実施例1~24のいずれか1つに記載のシステム。
上記の実施例、特に実施例1、10、及び17によって、リアルタイムデータを取得して表示すると同時に、集約データを計算して表示し、臨床関連データの傾向について臨床医又はユーザに知らせることが可能である。これにより、撮像されている術野の現在の状態に対する臨床医又はユーザの理解を向上させることができ、それに比例して、臨床医又はユーザが実施している処置の安全性及び有効性が向上することとなる。
上記の実施例、特に実施例1及び10によれば、術野からの光データをリアルタイムデータに変換する機能は、フィールドプログラマブルゲートアレイによって実行される一方で、リアルタイムデータを表示することと、そのデータを処理してそのデータを集約かつ計算して集約されたデータを表示することとは、過剰な処理負荷、電力消費などが、情報の適切な取得及び変換に干渉する可能性を軽減するように、別個のプロセッサによって実行される。
上記の実施例、特に実施例1、11、及び17によれば、追加情報が術野の画像上のオーバーレイとして提示されるので、臨床医又はユーザは、常に、画像及び臨床的に関連する情報の両方を自分の視野内に有することができる。これは、臨床医又はユーザが処置をモニタリングし、安全性を確保にする能力を改善する。
上記の実施例、特に実施例6では、集約されたデータが、傾向アニメーションの形態で表示され、これは、例えば、静的に表示されるメトリック(例えば、値)よりも、臨床医又は外科用可視化システムのユーザによってより迅速に理解可能であり得る。これにより、臨床医又はユーザが、手術野の撮像された部分内の現在及び傾向のある状態をより容易に査定し、ひいては、適切な臨床判断を迅速に安全に行う能力を向上させ、それに応じて、臨床医又はユーザが実施している処置の安全性及び有効性を向上させることを可能にすることができる。
上記の実施例によって、特に実施例7では、臨床医又はシステムのユーザは、彼らが実行している特定の処置に最も適切なユニットの表示を選択することができる。これにより、臨床医又はユーザが処置を行う能力を改善するだけでなく、不必要な処理能力又は帯域幅が無関係なメトリックの計算又は表示に使用されることを回避する。
上記の実施例、特に実施例8及び20では、臨床医又はシステムのユーザは、タグ付けされるべき粒子の特定のグループを選択することができ、実行されている処置において特定の臨床的関連性を有する粒子のグループ内の傾向又は他の集約されたメトリックを追跡することを可能にし、それによって、臨床医又はユーザが処置を実行する能力を改善する。
上記の実施例、特に実施例9又は10では、第1のプロセッサが画像取得モジュールに関連付けられ、凝集分析が第2のプロセッサ上で実行される。潜在的により計算負荷のかかる凝集分析のタスクが、第2のプロセッサによって実行されるので、凝集分析の計算負荷がリアルタイムメトリックの表示に干渉するリスクを軽減することが可能である。このリスク軽減がなければ、システムを使用して処置を実行する臨床医又はユーザの能力を損なうというリスクがあり得、これによって、実行される処置の安全性を改善し、かつ/又は処置に要する時間を低減させる。
例示的コンピュータ実装インタラクティブ外科用システムのブロック図である。 手術室内で外科処置を行うために使用されている例示的外科用システムの図である。 可視化システムと、ロボットシステムと、インテリジェント器具とペアリングされた例示的外科用ハブの図である。 医療施設の1つ以上の手術室、又は外科処置のための専門設備を備えた医療施設内の任意の部屋に位置しているモジュール式デバイスをクラウドに接続するように構成されたモジュール式通信ハブを備える、例示的外科用データネットワークを示す図である。 例示的コンピュータ実装インタラクティブ外科用システムを示す図である。 モジュール式制御タワーに連結された複数のモジュールを備える、例示的外科用ハブを示す図である。 外科用器具又はツールの例示的な制御システムを示す論理図である。 様々な機能を実行するために起動され得る複数のモータを備える、外科用器具又はツールを示す図である。 例示的状況認識外科用システムを示す図である。 外科処置における各工程で検出されたデータから、外科用ハブが作成することができる例示的な外科処置及び推論のタイムラインを示す図である。 例示的コンピュータ実装インタラクティブ外科用システムのブロック図である。 例示的コンピュータ実装インタラクティブ外科用システムの、機能アーキテクチャを図示するブロック図である。 モジュール式デバイスのための制御プログラムのアップデートを適応的に生成するように構成されている、例示的コンピュータ実装インタラクティブ外科用システムのブロック図である。 コントローラ及びモータを有するハンドルと、ハンドルに解放可能に連結されるアダプタと、アダプタに解放可能に連結される装填ユニットと、を含む、例示的外科用システムを示す図である。 動作モードを決定するための例示的なフロー図である。 動作モードを変更するための例示的な機能ブロック図である。 例示的可視化システムを示す図である。 例示的可視化システムを示す図である。 例示的可視化システムを示す図である。 例示的可視化システムを示す図である。 例示的可視化システムに組み込まれ得る複数のレーザエミッタの図である。 カラーフィルタのベイヤーパターンを有する画像センサの照明の図である。 複数のフレームに対する画素アレイの動作のグラフィカル表現の図である。 色度及び輝度フレームの動作シーケンスの一例を示す概略図である。 センサ及びエミッタパターンの一例の図である。 画素アレイの動作のグラフィカル表現の図である。 NIR分光法のための例示的な器具類を示す図である。 フーリエ変換赤外撮像法に基づいてNIRSを測定するための例示的な器具類を示す図である。 移動する血球から散乱される光の波長の変化を示す図である。 移動する血球から散乱される光の波長の変化を示す図である。 移動する血球から散乱される光の波長の変化を示す図である。 組織の部分から散乱したレーザ光のドップラーシフトを検出するために使用され得る例示的器具類を示す図である。 表面下構造を有する組織に衝突する光に対する例示的な光学効果を示す図である。 表面下構造を有する組織に衝突する光に対する例示的な光学効果を示す図である。 様々なレーザ波長でのレーザドップラー分析に基づく組織深さでの移動血球の検出を示す図である。 は、様々なレーザ波長でのレーザドップラー分析に基づく組織深さでの移動血球の検出を示す図である。 は、様々なレーザ波長でのレーザドップラー分析に基づく組織深さでの移動血球の検出を示す図である。 は、様々なレーザ波長でのレーザドップラー分析に基づく組織深さでの移動血球の検出を示す図である。 表面下血管の存在を検出するためのドップラーイメージングの使用法の一例を示す図である。 表面下の血管を流れる血球による青色光のドップラーシフトを示す図である。 表面下深部血管の例示的な位置特定を示す図である。 表面下浅部血管の例示的な位置特定を示す図である。 表面画像及び表面下血管の画像を含む、例示的な合成画像を示す図である。 組織片内の表面の特徴部の深さを決定するための例示的方法を示す図である。 例示的可視化システムを示す図である。 2つのセンサモジュールを有する例示的レーザ光センサを示す図である。 複数のフレームに対する画素アレイの例示的動作のグラフィック表現を示す図である。 動作モードを決定するための例示的方法を示す図である。 リアルタイム情報及び傾向情報をユーザに表示するための例示的方法を示す図である。 リアルタイム情報及び/又は傾向情報が表示されている例示的ユーザインターフェースを描いた図である。 例示的アップグレードフレームワークを描いた図である。 フィールドプログラマブルゲートアレイを再構成するための例示的方法を示す図である。
外科用ハブは、腹腔鏡スコープからの画像及びより多くの他のスマートデバイスのうちの1つからの情報を表示する、より多くの手段のうちの1つとの、協働的相互作用を有し得る。ハブは、ハブと通信する複数のディスプレイにわたって分散されるデータの組み合わされた表示及び制御を可能にするアルゴリズム又は制御プログラムを使用して、これらの複数のディスプレイと相互作用する能力を有してもよい。
図1を参照すると、コンピュータ実装インタラクティブ外科用システム100は、1つ以上の外科用システム102と、クラウドベースのシステム(例えば、ストレージデバイス105に連結されたリモートサーバ113を含み得るクラウド104)と、を含み得る。各外科用システム102は、少なくとも1つの外科用ハブ106を含み得、この外科用ハブ106は、リモートサーバ113を含み得るクラウド104と通信する。一例では、図1に示すように、外科用システム102は、可視化システム108と、ロボットシステム110と、手持ち式インテリジェント外科用器具112と、を含み、これらは、互いに通信するように、かつ/又はハブ106と通信するように構成されている。いくつかの態様では、外科用システム102は、M個のハブ106と、N個の可視化システム108と、O個のロボットシステム110と、P個の手持ち式インテリジェント外科用器具112と、を含んでもよく、M、N、O、及びPは、1以上の整数であり得る。
様々な態様では、可視化システム108は、図2に示すように、1つ以上の撮像センサと、1つ以上の画像処理ユニットと、1つ以上のストレージアレイと、滅菌野に対して戦略的に配置される1つ以上のディスプレイと、を含み得る。一態様では、可視化システム108は、HL7、PACS、及びEMR用のインターフェースを含み得る。視覚化システム108の様々な構成要素は、2017年12月28日に出願された「INTERACTIVE SURGICAL PLATFORM」と題する米国特許仮出願第62/611,341号において「Advanced Imaging Acquisition Module」という見出しの下で説明され、また2018年12月4日に出願された「METHOD OF HUB COMMUNICATION,PROCESSING,STORAGE AND DISPLAY」と題する米国特許出願公開第2019-0200844(A1)号において説明されており、これらの両方の開示は、参照によりその全体が本明細書に組み込まれる。
図2に示すように、主要ディスプレイ119は、手術台114のオペレータが見ることができるように、滅菌野に配置される。加えて、可視化タワー111が、滅菌野の外に配置される。可視化タワー111は、互いに反対側を向いている第1の非滅菌ディスプレイ107、及び第2の非滅菌ディスプレイ109を含み得る。ハブ106によって誘導される可視化システム108は、ディスプレイ107、109、及び119を利用して、滅菌野の内側及び外側のオペレータへの情報フローを調整するように構成されている。例えば、ハブ106は、可視化システム108に、主要ディスプレイ119上に手術部位のライブ映像を維持しながら、撮像デバイス124によって記録される手術部位のスナップショットを非滅菌ディスプレイ107又は109に表示させることができる。非滅菌ディスプレイ107又は109上のスナップショットにより、例えば、非滅菌オペレータが、外科処置に関連する診断工程を実行することを可能にすることできる。
一態様では、ハブ106は、可視化タワー111にいる非滅菌オペレータによって入力された診断入力又はフィードバックを滅菌野内の主要ディスプレイ119に送り、これを手術台にいる滅菌オペレータが見ることができるようにも構成され得る。一例では、入力は、ハブ106によって主要ディスプレイ119に送ることができる、非滅菌ディスプレイ107又は109上に表示されるスナップショットへの修正の形態であり得る。
図2を参照すると、外科用器具112は、外科処置において外科用システム102の一部として使用され得る。ハブ106はまた、外科用器具112のディスプレイへの情報フローを調整するようにも構成され得る。例えば、2017年12月28日に出願された「INTERACTIVE SURGICAL PLATFORM」と題する米国特許仮出願第62/611,341号、及び2018年12月4日に出願された「METHOD OF HUB COMMUNICATION,PROCESSING,STORAGE AND DISPLAY」と題する米国特許出願公開第2019-0200844(A1)号にあり、これらの両方の開示は、参照によりその全体が本明細書に組み込まれる。可視化タワー111にいる非滅菌オペレータによって入力される診断入力又はフィードバックは、ハブ106によって滅菌野内の外科用器具ディスプレイ115に送ることができ、これを外科用器具112のオペレータが見ることができる。外科用システム102と共に用いるのに好適な例示的外科用器具については、例えば、2017年12月28日に出願された「INTERACTIVE SURGICAL PLATFORM」と題する米国特許仮出願第62/611,341号において「Surgical Instrument Hardware」の項目で説明され、また2018年12月4日に出願された「METHOD OF HUB COMMUNICATION,PROCESSING,STORAGE AND DISPLAY」と題する米国特許出願公開第2019-0200844(A1)号において説明されており、これらの両方の開示は、参照によりその全体が本明細書に組み込まれる。
図2は、手術室116内の手術台114上に横たわっている患者に対して外科処置を実行するために使用されている外科用システム102の例を示す。ロボットシステム110は、外科処置において外科用システム102の一部として使用され得る。ロボットシステム110は、外科医のコンソール118と、患者側カート120(外科用ロボット)と、外科用ロボットハブ122と、を含み得る。外科医が外科医のコンソール118を通じて手術部位を見る間、患者側カート120は、患者の身体の低侵襲切開部を通じて、少なくとも1つの着脱可能に連結された手術具117を操作することができる。手術部位の画像は、医療用撮像デバイス124によって取得され、この医療用撮像デバイス124は、撮像デバイス124を配向するように患者側カート120によって操作することができる。ロボットハブ122を使用して、手術部位の画像を処理し、その後、外科医のコンソール118を通じて、外科医に表示することができる。
他の種類のロボットシステムを、外科用システム102と共に使用するように容易に適合させることができる。共に使用するのに好適なロボットシステム及び外科用ツールの様々な例は、2018年12月4日に出願の、「METHOD OF ROBOTIC HUB COMMUNICATION,DETECTION,AND CONTROL」と題する米国特許出願公開第2019-0201137(A1)号(米国特許出願第16/209,407号)に記載されており、その開示は、参照により、その全体が本明細書に組み込まれる。
クラウド104によって実行され、本開示と共に使用するのに好適なクラウドベース分析法の様々な例は、2018年12月4日出願の、「METHOD OF CLOUD BASED DATA ANALYTICS FOR USE WITH THE HUB」と題する米国特許出願公開第2019-0206569(A1)号(米国特許出願第16/209,403号)に記載されており、その開示は、参照により、その全体が本明細書に組み込まれる。
様々な態様では、撮像デバイス124は、少なくとも1つの画像センサと、1つ以上の光学構成要素と、を含み得る。好適な画像センサとしては、電荷結合素子(charge-coupled device、CCD)センサ及び相補型金属酸化膜半導体(CMOS)センサが挙げられ得るが、これらに限定されない。
撮像デバイス124の光学構成要素は、1つ以上の照明源、及び/又は1つ以上のレンズを含み得る。1つ以上の照明源は、術野の一部を照明するように方向付けられ得る。1つ以上の画像センサは、組織及び/又は外科用器具から反射又は屈折された光を含む、術野から反射又は屈折された光を受信することができる。
1つ以上の照明源は、可視スペクトル並びに不可視スペクトル内の電磁エネルギーを照明するように構成され得る。可視スペクトルは、場合によっては、光スペクトル又は発光スペクトルとも称され、人間の目に見える(すなわち、人間の目によって検出することができる)電磁スペクトルの一部分であり、可視光、又は単に光と称されることがある。典型的な人間の目は、空気中の約380nm~約750nmの波長に応答する。
不可視スペクトル(例えば、非発光スペクトル)は、可視スペクトル未満及び可視スペクトルを超えて位置する(すなわち、約380nm未満及び約750nm超の波長の)電磁スペクトルの一部分である。不可視スペクトルは、人間の目で検出可能ではない。約750nmを超える波長は、赤色可視スペクトルよりも長く、これらは不可視赤外線(IR)、マイクロ波、及び無線電磁放射線になる。約380nm未満の波長は、紫色スペクトルよりも短く、これらは不可視紫外線、X線、及びガンマ線電磁放射線になる。
様々な態様では、撮像デバイス124は、低侵襲性処置において使用するように構成されている。本開示と共に使用するために好適な撮像デバイスの例としては、関節鏡、血管鏡、気管支鏡、胆道鏡、結腸鏡、膀胱鏡、十二指腸鏡、腸鏡、食道胃十二指腸鏡(胃カメラ)、内視鏡、喉頭鏡、鼻咽喉-腎盂鏡、S状結腸鏡、胸腔鏡、及び尿管鏡が挙げられるが、これらに限定されない。
撮像デバイスは、トポグラフィと下層構造とを区別するために、マルチスペクトルモニタリングを採用し得る。マルチスペクトル画像は、電磁スペクトル全体から特定の波長範囲内の画像データを捕捉するものである。波長は、フィルタによって、又は可視光範囲を超える周波数、例えば、IR、及び紫外からの光を含む特定の波長に対する感度を有する器具を使用することによって分離することができる。スペクトル撮像により、人間の目がもつ赤、緑、青の受容体では捕捉することができない追加情報を抽出することが可能である。マルチスペクトル撮像の使用は、2018年12月4日に出願された「METHOD OF HUB COMMUNICATION,PROCESSING,STORAGE AND DISPLAY」と題する米国特許出願公開第2019-0200844(A1)号(米国特許出願第16/209,385号)中に、「Advanced Imaging Acquisition Module」という見出しの下でより詳細に説明されており、この開示は、参照により、その全体が本明細書に組み込まれる。マルチスペクトルモニタリングは、処置された組織に対して上述の試験のうちの1つ以上を実行するための手術タスクが完了した後に術野を再配置するのに有用なツールであり得る。いかなる外科手術においても手術室及び手術機器の厳格な滅菌が必要であることは自明である。「手術現場」、すなわち、手術室又は処置室において要求される厳格な衛生条件及び滅菌条件は、全ての医療デバイス及び機器の可能な最も高い滅菌性を必要とする。上記の滅菌プロセスの一部としては、撮像デバイス124並びにその付属品及び構成要素を含む、患者と接触する、又は滅菌野に侵入するあらゆるものを滅菌する必要性が挙げられる。滅菌野は、トレイ内若しくは滅菌タオル上などの微生物を含まないと見なされる特定の領域と見なされ得ること、又は、滅菌野は、外科処置の準備が整った患者の直ぐ周囲の領域と見なされ得るということは理解されよう。滅菌野は、適切な衣類を着用した手洗浄済みのチーム構成員、並びにその領域内の全ての備品及び固定具を含み得る。
ここで図3を参照すると、可視化システム108、ロボットシステム110、及びハンドヘルド式インテリジェント外科用器具112と通信するハブ106が示されている。ハブ106は、ハブディスプレイ135、撮像モジュール138、発生器モジュール140、通信モジュール130、プロセッサモジュール132、及びストレージアレイ134、及び手術室マッピングモジュール133を含む。特定の態様では、図3に示すように、ハブ106は、排煙モジュール126及び/又は吸引/灌注モジュール128を更に含む。外科処置中、封止及び/又は切断のために、組織へエネルギーを印加することは、一般に、排煙、過剰な流体の吸引、及び/又は組織の灌注と関連付けられる。異なる供給源からの流体ライン、電力ライン、及び/又はデータラインは、外科処置中に絡まり合うことが多い。外科処置中にこの問題に対処することで貴重な時間が失われる場合がある。ラインの絡まりをほどくには、それらの対応するモジュールからラインを抜くことが必要となる場合があり、そのためにはモジュールをリセットすることが必要となる場合がある。ハブのモジュール式エンクロージャ136は、電力ライン、データライン、及び流体ラインを管理するための統一環境を提供し、このようなライン間の絡まりの発生頻度を低減させる。本開示の態様は、手術部位における組織へのエネルギー印加を伴う外科処置において使用するための外科用ハブを提示する。外科用ハブは、ハブエンクロージャと、ハブエンクロージャのドッキングステーション内に摺動可能に受容可能な組み合わせ発生器モジュールと、を含む。ドッキングステーションは、データ接点及び電力接点を含む。組み合わせ発生器モジュールは、単一ユニット内に収容された、超音波エネルギー発生器構成要素、双極RFエネルギー発生器構成要素、及び単極RFエネルギー発生器構成要素のうちの2つ以上を含む。一態様では、組み合わせ発生器モジュールはまた、排煙構成要素と、組み合わせ発生器モジュールを外科用器具に接続するための少なくとも1つのエネルギー供給ケーブルと、組織への治療エネルギーの印加によって発生した煙、流体、及び/又は微粒子を排出するように構成された少なくとも1つの排煙構成要素と、遠隔手術部位から排煙構成要素まで延在する流体ラインと、を含む。一態様では、上記の流体ラインは第1の流体ラインであり、第2の流体ラインが、遠隔手術部位から、ハブエンクロージャ内に摺動可能に受容される吸引及び灌注モジュールまで延在している。一態様では、ハブエンクロージャは、流体インターフェースを備える。特定の外科処置は、2つ以上のエネルギータイプを組織に印加することを必要とする場合がある。1つのエネルギータイプは、組織を切断するのにより有益であり得るが、別の異なるエネルギータイプは、組織を封止するのにより有益であり得る。例えば、双極発生器は、組織を封止するために使用することができ、一方で、超音波発生器は、封止された組織を切断するために使用することができる。本開示の態様は、ハブのモジュール式エンクロージャ136が様々な発生器を収容して、これらの間のインタラクティブ通信を促進するように構成されているという解決法を提示する。ハブのモジュール式エンクロージャ136の利点の1つは、様々なモジュールの迅速な取り外し及び/又は交換を可能にすることである。本開示の態様は、組織へのエネルギー印加を伴う外科処置で使用するためのモジュール式外科用エンクロージャを提示する。モジュール式外科用エンクロージャは、組織に印加するための第1のエネルギーを発生させるように構成された第1のエネルギー発生器モジュールと、第1のデータ及び電力接点を含む第1のドッキングポートを備える第1のドッキングステーションと、を含み、第1のエネルギー発生器モジュールは、電力及びデータ接点と電気的に係合するように摺動可能に移動可能であり、また第1のエネルギー発生器モジュールは、第1の電力及びデータ接点との電気的係合から外れるように摺動可能に移動可能である。上記に対して更に、モジュール式外科用エンクロージャはまた、第1のエネルギーとは異なる、組織に印加するための第2のエネルギーを発生させるように構成された第2のエネルギー発生器モジュールと、第2のデータ接点及び電力接点を含む第2のドッキングポートを備える第2のドッキングステーションと、を含み、第2のエネルギー発生器モジュールは、電力接点及びデータ接点と電気的に係合するように摺動可能に移動可能であり、また第2のエネルギー発生器モジュールは、第2の電力接点及びデータ接点との電気的係合から外れるように摺動可能に移動可能である。加えて、モジュール式外科用エンクロージャはまた、第1のエネルギー発生器モジュールと第2のエネルギー発生器モジュールとの間の通信を容易にするように構成されている、第1のドッキングポートと第2のドッキングポートとの間の通信バスを含む。図3を参照すると、発生器モジュール140と、排煙モジュール126と、吸引/灌注モジュール128との、モジュール式統合を可能にするハブのモジュール式エンクロージャ136に関する本開示の態様が提示される。ハブのモジュール式エンクロージャ136は、モジュール140とモジュール126とモジュール128と間のインタラクティブ通信を更に促進する。発生器モジュール140は、ハブのモジュール式エンクロージャ136に摺動可能に挿入可能な単一のハウジングユニット内に支持される、一体化された単極構成要素、双極構成要素、及び超音波構成要素を備える発生器モジュールであってもよい。発生器モジュール140は、単極デバイス142、双極デバイス144、及び超音波デバイス146に接続するように構成することができる。代替的に、発生器モジュール140は、ハブのモジュール式エンクロージャ136を介して相互作用する一連の単極発生器モジュール、双極発生器モジュール、及び/又は超音波発生器モジュールを備えてもよい。ハブのモジュール式エンクロージャ136は、複数の発生器が単一の発生器として機能するように、複数の発生器の挿入と、ハブのモジュール式エンクロージャ136にドッキングされた発生器間のインタラクティブ通信と、を促進するように構成されてもよい。
図4は、医療施設の1つ以上の手術室、又は外科手術のための専門設備を備えた医療施設内の任意の部屋に位置するモジュール式デバイスをクラウドベースのシステム(例えば、ストレージデバイス205に連結されたリモートサーバ213を含み得るクラウド204)に接続するように構成されたモジュール式通信ハブ203を備える外科用データネットワーク201を示す。一態様では、モジュール式通信ハブ203は、ネットワークルータと通信するネットワークハブ207及び/又はネットワークスイッチ209を備える。モジュール式通信ハブ203はまた、ローカルコンピュータシステム210に連結することができ、ローカルコンピュータ処理及びデータ操作を提供することができる。外科用データネットワーク201は、パッシブ、インテリジェント、又は切り替え式として構成されてもよい。受動的外科用データネットワークはデータの導管として機能し、データが1つのデバイス(又はセグメント)から別のデバイス(又はセグメント)に、及びクラウドコンピューティングリソースに行くことを可能にする。インテリジェント外科用データネットワークは、トラフィックがモニタリング対象の外科用データネットワークを通過することを可能にし、ネットワークハブ207又はネットワークスイッチ209内の各ポートを構成する追加の機構を含む。インテリジェント外科用データネットワークは、管理可能なハブ又はスイッチと称され得る。スイッチングハブは、各パケットの宛先アドレスを読み取り、次いでパケットを正しいポートに転送する。
手術室に位置するモジュール式デバイス1a~1nは、モジュール式通信ハブ203に連結されてもよい。ネットワークハブ207及び/又はネットワークスイッチ209は、ネットワークルータ211に連結されて、デバイス1a~1nをクラウド204又はローカルコンピュータシステム210に接続することができる。デバイス1a~1nに関連付けられたデータは、遠隔データ処理及び操作のためにルータを介してクラウドベースのコンピュータに転送されてもよい。デバイス1a~1nに関連付けられたデータはまた、ローカルでのデータ処理及び操作のためにローカルコンピュータシステム210に転送されてもよい。同じ手術室に位置するモジュール式デバイス2a~2mもまた、ネットワークスイッチ209に連結されてもよい。ネットワークスイッチ209は、ネットワークハブ207及び/又はネットワークルータ211に連結されて、デバイス2a~2mをクラウド204に接続することができる。デバイス2a~2nに関連付けられたデータは、データ処理及び操作のためにネットワークルータ211を介してクラウド204に転送されてもよい。デバイス2a~2mに関連付けられたデータはまた、ローカルでのデータ処理及び操作のためにローカルコンピュータシステム210に転送されてもよい。
複数のネットワークハブ207及び/又は複数のネットワークスイッチ209を複数のネットワークルータ211と相互接続することによって、外科用データネットワーク201が拡張され得ることが理解されるであろう。モジュール式通信ハブ203は、複数のデバイス1a~1n/2a~2mを受容するように構成されたモジュール式制御タワー内に収容され得る。ローカルコンピュータシステム210もまた、モジュール式制御タワーに収容されてもよい。モジュール式通信ハブ203は、ディスプレイ212に接続されて、例えば、外科処置中に、デバイス1a~1n/2a~2mのうちのいくつかによって取得された画像を表示する。様々な態様では、デバイス1a~1n/2a~2mとしては、外科用データネットワーク201のモジュール式通信ハブ203に接続され得るモジュール式デバイスの中でもとりわけ、例えば、内視鏡に連結された撮像モジュール138、エネルギーベースの外科用デバイスに連結された発生器モジュール140、排煙モジュール126、吸引/灌注モジュール128、通信モジュール130、プロセッサモジュール132、ストレージアレイ134、ディスプレイに連結された外科用デバイス、及び/又は非接触センサモジュールなどの様々なモジュールが挙げられ得る。
一態様では、外科用データネットワーク201は、デバイス1a~1n/2a~2mをクラウドに接続する、ネットワークハブ(複数可)、ネットワークスイッチ(複数可)、及びネットワークルータ(複数可)との組み合わせを含んでもよい。ネットワークハブ又はネットワークスイッチに連結されたデバイス1a~1n/2a~2mのいずれか1つ又は全ては、リアルタイムでデータを収集し、データ処理及び操作のためにデータをクラウドコンピュータに転送することができる。クラウドコンピューティングは、ソフトウェアアプリケーションを取り扱うために、ローカルサーバ又はパーソナルデバイスを有するのではなく、コンピューティングリソースを共有することに依存するということは理解されるであろう。「クラウド」という語は、「インターネット」の隠喩として使用され得るが、この用語はそのように限定はされない。したがって、「クラウドコンピューティング」という用語は、本明細書では「インターネットベースのコンピューティングの一種」を指すために使用することができ、この場合、サーバ、ストレージ、及びアプリケーションなどの様々なサービスは、インターネットを介して、手術現場(例えば、固定式、移動式、一時的、又は野外の手術室又は空間)に位置するモジュール式通信ハブ203及び/又はコンピュータシステム210に、かつモジュール式通信ハブ203及び/又はコンピュータシステム210に接続されたデバイスに送達される。クラウドインフラストラクチャは、クラウドサービスプロバイダによって維持され得る。この文脈において、クラウドサービスプロバイダは、1つ以上の手術室内に位置するデバイス1a~1n/2a~2mの使用及び制御を調整する事業体であり得る。クラウドコンピューティングサービスは、スマート外科用器具、ロボット、及び手術室内に位置する他のコンピュータ化デバイスによって収集されたデータに基づいて多数の計算を実施することができる。ハブハードウェアは、複数のデバイス又は接続部がクラウドコンピューティングリソース及びストレージと通信するコンピュータに接続することを可能にする。
デバイス1a~1n/2a~2mによって収集されたデータにクラウドコンピュータデータ処理技術を適用することで、外科用データネットワークは、外科的結果の改善、コスト低減、及び患者満足度の改善を提供することができる。組織の封止及び切断処置後に、組織の状態を観察して封止された組織の漏出又は灌流を評価するために、デバイス1a~1n/2a~2mのうちの少なくともいくつかを用いることができる。クラウドベースのコンピューティングを使用して、身体組織のサンプルの画像を含むデータを診断目的で検査して疾患の影響などの病理を識別するために、デバイス1a~1n/2a~2mのうちの少なくともいくつかを用いることができる。そのようなデータには、組織の位置特定及びマージン確認並びに表現型が含まれ得る。撮像デバイスと一体化された様々なセンサを使用し、かつ複数の撮像デバイスによって捕捉された画像をオーバーレイするなどの技術を使用して、身体の解剖学的構造を識別するために、デバイス1a~1n/2a~2mのうちの少なくともいくつかを用いることができる。画像データを含む、デバイス1a~1n/2a~2mによって収集されたデータは、画像処理及び操作を含むデータ処理及び操作のために、クラウド204若しくはローカルコンピュータシステム210又はその両方に転送されてもよい。データは、組織特異的部位及び状態に対する内視鏡的介入、新興技術、標的化放射線、標的化介入及び精密ロボットの適用などの更なる治療を遂行できるかを判定することによって、外科処置の結果を改善するために分析されてもよい。こうしたデータ分析は、予後分析処理を更に用いてもよく、標準化された手法を使用することは、外科的治療及び外科医の挙動を確認するか、又は外科的治療及び外科医の挙動に対する修正を提案するかのいずれかのために有益なフィードバックを提供することができる。
手術室デバイス1a~1nは、ネットワークハブに対するデバイス1a~1nの構成に応じて有線チャネル又は無線チャネルを介して、モジュール式通信ハブ203に接続されてもよい。ネットワークハブ207は、一態様では、開放型システム間相互接続(Open System Interconnection、OSI)モデルの物理層上で機能するローカルネットワークブロードキャストデバイスとして実装されてもよい。ネットワークハブは、同じ手術室ネットワーク内に位置するデバイス1a~1nに接続性を提供し得る。ネットワークハブ207は、パケットの形態のデータを収集し得るが、それらを半二重モードでルータに送信する。ネットワークハブ207は、いかなるデバイスデータを転送するための媒体アクセス制御/インターネットプロトコル(media access control/Internet Protocol、MAC/IP)も記憶しなくてもよい。デバイス1a~1nのうちの1つのみが、ネットワークハブ207を介して一度にデータを送信することができる。ネットワークハブ207は、情報の送信先に関するルーティングテーブル又はインテリジェンスを有さなくてもよく、全てのネットワークデータを各コネクション全体及びクラウド204上のリモートサーバ213(図4)にブロードキャストする。ネットワークハブ207は、コリジョンなどの基本的なネットワークエラーを検出することができるが、全ての情報を複数のポートにブロードキャストすることは、セキュリティリスクとなりボトルネックを引き起こすおそれがある。
手術室デバイス2a~2mは、有線チャネル又は無線チャネルを介してネットワークスイッチ209に接続されてもよい。ネットワークスイッチ209は、OSIモデルのデータリンク層内で機能する。ネットワークスイッチ209は、同じ手術室内に位置するデバイス2a~2mをネットワークに接続するためのマルチキャストデバイスであり得る。ネットワークスイッチ209は、フレームの形態のデータをネットワークルータ211に送信し得るが、全二重モードで機能する。複数のデバイス2a~2mは、ネットワークスイッチ209を介して同時にデータを送信することができる。ネットワークスイッチ209は、データを転送するためにデバイス2a~2mのMACアドレスを記憶し、かつ使用する。
ネットワークハブ207及び/又はネットワークスイッチ209は、クラウド204に接続するためにネットワークルータ211に連結され得る。ネットワークルータ211は、OSIモデルのネットワーク層内で機能する。ネットワークルータ211は、デバイス1a~1n/2a~2mのいずれか1つ又は全てによって収集されたデータを更に処理し、かつ操作するために、ネットワークハブ207及び/又はネットワークスイッチ211から受信したデータパケットをクラウドベースのコンピュータリソースに送信するための経路を作成する。ネットワークルータ211は、例えば、同じ医療施設の異なる手術室又は異なる医療施設の異なる手術室に位置する異なるネットワークなどの、異なる位置に位置する2つ以上の異なるネットワークを接続するために用いられてもよい。ネットワークルータ211は、パケットの形態のデータをクラウド204に送信し得、全二重モードで機能する。複数のデバイスが同時にデータを送信することができる。ネットワークルータ211は、データを転送するためにIPアドレスを使用する。
一例では、ネットワークハブ207は、複数のUSBデバイスをホストコンピュータに接続することを可能にするUSBハブとして実装されてもよい。USBハブは、デバイスをホストシステムコンピュータに接続するために利用可能なポートが多くなるように、単一のUSBポートをいくつかの階層に拡張することができる。ネットワークハブ207は、有線チャネル又は無線チャネルを介して情報を受信するための有線機能又は無線機能を含むことができる。一態様では、無線USB短距離高帯域無線通信プロトコルが、手術室内に位置するデバイス1a~1nとデバイス2a~2mとの間の通信のために用いられてもよい。
いくつかの実施例では、手術室デバイス1a~1n/2a~2mは、固定及びモバイルデバイスから短距離にわたってデータを交換し(2.4~2.485GHzのISM帯域における短波長UHF電波を使用して)、かつパーソナルエリアネットワーク(personal area network、PAN)を構築するために、Bluetooth無線技術規格を介してモジュール式通信ハブ203と通信することができる。手術室デバイス1a~1n/2a~2mは、数多くの無線又は有線通信規格又はプロトコルを介してモジュール式通信ハブ203と通信することができ、そのような規格又はプロトコルとしては、Wi-Fi(IEEE802.11ファミリー)、WiMAX(IEEE802.16ファミリー)、IEEE802.20、ニューラジオ(new radio、NR)、ロング・ターム・エボリューション(long-term evolution、LTE)並びにEv-DO、HSPA+、HSDPA+、HSUPA+、EDGE、GSM、GPRS、CDMA、TDMA、DECT及びこれらのイーサネット派生物のみならず3G、4G、5G及びそれ以降と指定される任意の他の無線及び有線プロトコルが挙げられるがこれらに限定されない。コンピューティングモジュールは、複数の通信モジュールを含んでもよい。例えば、第1の通信モジュールは、Wi-Fi及びBluetoothなどのより短距離の無線通信専用であってもよく、第2の通信モジュールは、GPS、EDGE、GPRS、CDMA、WiMAX、LTE、Ev-DOなどのより長距離の無線通信専用であってもよい。
モジュール式通信ハブ203は、手術室デバイス1a~1n/2a~2mの1つ又は全ての中央接続部として機能することができ、フレームとして知られるデータ型を取り扱い得る。フレームは、デバイス1a~1n/2a~2mによって生成されたデータを搬送し得る。フレームがモジュール式通信ハブ203によって受信されると、フレームは増幅されてネットワークルータ211へ送信され、ネットワークルータ211は本明細書に記載されるように、数多くの無線又は有線通信規格又はプロトコルを使用することによって、このデータをクラウドコンピューティングリソースに転送する。
モジュール式通信ハブ203は、スタンドアロンのデバイスとして使用されてもよいか、又はより大きなネットワークを形成するために互換性のあるネットワークハブ及びネットワークスイッチに接続されてもよい。モジュール式通信ハブ203は、一般に据え付け、構成、及び維持が容易であり得るため、モジュール式通信ハブ203は手術室デバイス1a~1n/2a~2mをネットワーク接続するための良好な選択肢となり得る。
図5は、コンピュータ実装インタラクティブ外科用システム200を示す。コンピュータ実装インタラクティブ外科用システム200は、多くの点で、コンピュータ実装インタラクティブ外科用システム100と類似している。例えば、コンピュータ実装インタラクティブ外科用システム200は、多くの点で外科用システム102と類似する1つ以上の外科用システム202を含む。各外科用システム202は、リモートサーバ213を含み得るクラウド204と通信する少なくとも1つの外科用ハブ206を含む。一態様では、コンピュータ実装インタラクティブ外科用システム200は、例えば、インテリジェント外科用器具、ロボット、及び手術室内に位置する他のコンピュータ化デバイスなどの、複数の手術室デバイスに接続されたモジュール式制御タワー236を備える。図6に示すように、モジュール式制御タワー236は、コンピュータシステム210に連結されたモジュール式通信ハブ203を備える。
図5の実施例に示すように、モジュール式制御タワー236は、内視鏡239に連結され得る撮像モジュール238と、エネルギーデバイス241に連結され得る発生器モジュール240と、排煙器モジュール226と、吸引/灌注モジュール228と、通信モジュール230と、プロセッサモジュール232と、ストレージアレイ234と、任意選択的にディスプレイ237に連結されたスマートデバイス/器具235と、非接触センサモジュール242と、に連結され得る。手術室デバイスは、モジュール式制御タワー236を介してクラウドコンピューティングリソース及びデータストレージに連結され得る。ロボットハブ222もまた、モジュール式制御タワー236及びクラウドコンピューティングリソースに接続されてもよい。とりわけ、デバイス/器具235、可視化システム208が、本明細書に記載されるように、有線通信又は無線通信の規格又はプロトコルを介して、モジュール式制御タワー236に連結されてもよい。モジュール式制御タワー236は、撮像モジュール、デバイス/器具ディスプレイ及び/又は他の可視化システム208から受信した画像を表示し、かつオーバーレイするためにハブディスプレイ215(例えば、モニタ、スクリーン)に連結されてもよい。ハブディスプレイはまた、モジュール式制御タワーに接続されたデバイスから受信されたデータを、画像及びオーバーレイされた画像と共に表示してもよい。
図6は、モジュール式制御タワー236に連結された複数のモジュールを備える外科用ハブ206を示す。モジュール式制御タワー236は、例えば、ネットワーク接続デバイスなどのモジュール式通信ハブ203と、例えば、ローカルでの処理、可視化、及び撮像を行うためのコンピュータシステム210と、を備え得る。図6に示すように、モジュール式通信ハブ203は、モジュール式通信ハブ203に接続されてもよいモジュール(例えば、デバイス)の数を拡張するために階層化構成で接続されてもよく、モジュールに関連付けられたデータをコンピュータシステム210、クラウドコンピューティングリソース、又はその両方に転送してもよい。図6に示すように、モジュール式通信ハブ203内のネットワークハブ/スイッチの各々は、3つの下流ポート及び1つの上流ポートを含み得る。上流のネットワークハブ/スイッチは、クラウドコンピューティングリソース及びローカルディスプレイ217への通信接続を提供するためにプロセッサに接続され得る。クラウド204への通信は、有線通信チャネル又は無線通信チャネルのいずれかを介して行うことができる。
外科用ハブ206は、手術室の寸法を測定するため、また超音波非接触測定デバイス又はレーザ型非接触測定デバイスのいずれかを使用して手術現場のマップを生成するために、非接触センサモジュール242を使用し得る。それら両方の開示内容全体が参照により本明細書に組み込まれる、「INTERACTIVE SURGICAL PLATFORM」と題する、2017年12月28日出願の米国特許仮出願第62/611,341号中の「Surgical Hub Spatial Awareness Within an Operating Room」の項、及び「METHOD OF HUB COMMUNICATION,PROCESSING,STORAGE AND DISPLAY」と題する、2018年12月4日出願の米国特許出願公開第2019-0200844(A1)号で説明されるように、超音波ベースの非接触センサモジュールは、超音波のバーストを送信し、超音波のバーストが手術室の外壁に反射したときのエコーを受信することによって手術室を走査し得、ここでセンサモジュールが、手術室のサイズを判定し、かつBluetoothペアリングの距離限界を調整するように構成される。レーザベースの非接触センサモジュールは、例えば、レーザ光パルスを送信することによって手術室を走査し、手術室の外壁に反射するレーザ光パルスを受信し、送信されたパルスの位相を受信したパルスと比較して手術室のサイズを判定し、Bluetoothペアリング距離限界を調整し得る。
コンピュータシステム210は、プロセッサ244と、ネットワークインターフェース245と、を備え得る。プロセッサ244は、システムバスを介して、通信モジュール247、ストレージ248、メモリ249、不揮発性メモリ250及び入力/出力インターフェース251に連結され得る。システムバスは、任意の様々な利用可能なバスアーキテクチャを使用する、メモリバス若しくはメモリコントローラ、ペリフェラルバス若しくは外部バス、及び/又はローカルバスを含むいくつかのタイプのバス構造(複数可)のうちのいずれかであってもよく、それらのアーキテクチャの例としては、9ビットバス、業界標準アーキテクチャ(industrial standard architecture、ISA)、マイクロシャルメルアーキテクチャ(micro-charmel architecture、MSA)、拡張ISA(extended ISA、EISA)、インテリジェントドライブエレクトロニクス(intelligent drive electronics、IDE)、VESAローカルバス(VESA local bus、VLB)、周辺デバイス相互接続(peripheral component interconnect、PCI)、USB、アドバンスドグラフィックスポート(advanced graphics port、AGP)、パーソナルコンピュータメモリカード国際協会バス(personal computer memory card international association、PCMCIA)、小型計算機システムインターフェース(small computer systems interface、SCSI)、又は任意の他の独自バスが挙げられるが、これらに限定されない。
プロセッサ244は、Texas Instruments製のARM Cortexの商品名で知られているものなど、任意のシングルコア又はマルチコアプロセッサであってもよい。一態様では、プロセッサは、例えば、Texas Instrumentsから入手可能なLM4F230H5QR ARM Cortex-M4Fプロセッサコアであってもよい。このプロセッサコアは、最大40MHzの256KBのシングルサイクルフラッシュメモリ若しくは他の不揮発性メモリのオンチップメモリ、性能を40MHz超に改善するためのプリフェッチバッファ、32KBのシングルサイクルシリアルランダムアクセスメモリ(single-cycle serial random access memory、SRAM)、StellarisWare(登録商標)ソフトウェアを搭載した内部読み出し専用メモリ(read-only memory、ROM)、2KBの電気的消去可能プログラマブル読み出し専用メモリ(electrically erasable programmable read-only memory、EEPROM)及び/又は、1つ以上のパルス幅変調(pulse width modulation、PWM)モジュール、1つ以上の直交エンコーダ入力(quadrature encoder input、QEI)アナログ、12個のアナログ入力チャネルを備える1つ以上の12ビットアナログ-デジタル変換器(analog-to-digital converter、ADC)を含み、その詳細は、製品データシートで入手可能である。
一態様では、プロセッサ244は、同じくTexas Instruments製のHercules ARM Cortex R4の商品名で知られるTMS570及びRM4xなどの2つのコントローラベースのファミリーを含む安全コントローラを含んでもよい。安全コントローラは、拡張性のある性能、接続性及びメモリの選択肢を提供しながら、高度な集積型安全機構を提供するために、とりわけ、IEC61508及びISO26262の安全限界用途専用に構成されてもよい。
システムメモリとしては、揮発性メモリ及び不揮発性メモリが挙げられ得る。起動中などにコンピュータシステム内の要素間で情報を転送するための基本ルーチンを含む基本入出力システム(basic input/output system、BIOS)は、不揮発性メモリに記憶される。例えば、不揮発性メモリとしては、ROM、プログラマブルROM(programmable ROM、PROM)、電気的プログラマブルROM(electrically programmable ROM、EPROM)、EEPROM、又はフラッシュメモリが挙げられ得る。揮発性メモリとしては、外部キャッシュメモリとして機能するランダムアクセスメモリ(random-access memory、RAM)が挙げられる。更に、RAMは、SRAM、ダイナミックRAM(dynamic RAM、DRAM)、シンクロナスDRAM(synchronous DRAM、SDRAM)、ダブルデータレートSDRAM(double data rate SDRAM、DDR SDRAM)、エンハンスドSDRAM(enhanced SDRAM、ESDRAM)、シンクリンクDRAM(Synchlink DRAM、SLDRAM)、及びダイレクトランバスRAM(direct Rambus RAM、DRRAM)などの多くの形態で利用可能である。
コンピュータシステム210はまた、取り外し可能/取り外し不可能な、揮発性/不揮発性のコンピュータストレージ媒体、例えば、ディスク記憶デバイスなどを含み得る。ディスク記憶デバイスとしては、磁気ディスクドライブ、フロッピーディスクドライブ、テープドライブ、Jazドライブ、Zipドライブ、LS-60ドライブ、フラッシュメモリカード、又はメモリスティックのようなデバイスが挙げられ得るが、これらに限定されない。加えて、ディスク記憶デバイスは、上記の記憶媒体を、独立して、又は他の記憶媒体との組み合わせで含むことができる。他の記憶媒体としては、コンパクトディスクROMデバイス(compact disc ROM、CD-ROM)、コンパクトディスク記録可能ドライブ(compact disc recordable、CD-Rドライブ)、コンパクトディスク書き換え可能ドライブ(compact disc rewritable、CD-RWドライブ)、若しくはデジタル多用途ディスクROMドライブ(digital versatile disc ROM、DVD-ROM)などの光ディスクドライブが挙げられるがこれらに限定されない。ディスク記憶デバイスのシステムバスへの接続を容易にするために、取り外し可能な又は取り外し不可能なインターフェースが用いられてもよい。
コンピュータシステム210は、好適な動作環境で説明されるユーザと基本コンピュータリソースとの間で媒介として機能するソフトウェアを含み得るということを理解されたい。このようなソフトウェアとしてはオペレーティングシステムが挙げられ得る。ディスク記憶デバイス上に記憶され得るオペレーティングシステムは、コンピュータシステムのリソースを制御し、割り当てるように機能し得る。システムアプリケーションは、システムメモリ内又はディスク記憶デバイス上のいずれかに記憶されたプログラムモジュール及びプログラムデータを介して、オペレーティングシステムによるリソース管理を活用し得る。本明細書に記載される様々な構成要素は、様々なオペレーティングシステム又はオペレーティングシステムの組み合わせで実装することができるということを理解されたい。
ユーザは、I/Oインターフェース251に連結された入力デバイス(複数可)を介してコンピュータシステム210にコマンド又は情報を入力し得る。入力デバイスとしては、マウス、トラックボール、スタイラス、タッチパッドなどのポインティングデバイス、キーボード、マイクロフォン、ジョイスティック、ゲームパッド、衛星放送受信アンテナ、スキャナ、TVチューナカード、デジタルカメラ、デジタルビデオカメラ、ウェブカメラなどが挙げられ得るが、これらに限定されない。これら及び他の入力デバイスは、インターフェースポート(複数可)を介し、システムバスを通じてプロセッサに接続する。インターフェースポート(複数可)としては、例えば、シリアルポート、パラレルポート、ゲームポート、及びUSBが挙げられる。出力デバイスは(複数可)、入力デバイス(複数可)と同じタイプのポートのうちのいくつかを使用する。したがって、例えば、USBポートを使用して、コンピュータシステムに入力を提供し、コンピュータシステムからの情報を出力デバイスに出力してもよい。出力アダプタは、特別なアダプタを必要とする場合がある出力デバイスの中でもとりわけ、モニタ、ディスプレイ、スピーカ、及びプリンタなどのいくつかの出力デバイスが存在することを示すために提供され得る。出力アダプタとしては、出力デバイスとシステムバスとの間の接続手段を提供するビデオ及びサウンドカードが挙げられ得るが、これは例示としてのものであり、限定するものではない。リモートコンピュータ(複数可)などの他のデバイス及び/又はデバイスのシステムは、入力機能及び出力機能の両方を提供し得るということに留意されたい。
コンピュータシステム210は、クラウドコンピュータ(複数可)などの1つ以上のリモートコンピュータ又はローカルコンピュータへの論理接続を使用するネットワーク化環境で動作することができる。リモートクラウドコンピュータ(複数可)は、パーソナルコンピュータ、サーバ、ルータ、ネットワークPC、ワークステーション、マイクロプロセッサベースの機器、ピアデバイス又は他の一般的なネットワークノードなどであり得るが、典型的には、コンピュータシステムに関して説明される要素の多く又は全てを含む。簡潔にするために、リモートコンピュータ(複数可)と共に、メモリストレージデバイスのみが示される。リモートコンピュータ(複数可)は、ネットワークインターフェースを介してコンピュータシステムに論理的に接続され、続いて、通信接続部を介して物理的に接続され得る。ネットワークインターフェースは、ローカルエリアネットワーク(local area network、LAN)及びワイドエリアネットワーク(wide area network、WAN)などの通信ネットワークを包含し得る。LAN技術としては、光ファイバ分散データインターフェース(fiber distributed data interface、FDDI)、銅線分散データインターフェース(copper distributed data interface、CDDI)、Ethernet/IEEE802.3、Token Ring/IEEE802.5などが挙げられ得る。WAN技術としては、ポイントツーポイントリンク、統合サービスデジタルネットワーク(integrated services digital network、ISDN)及びその変形などの回路交換ネットワーク、パケット交換ネットワーク並びにデジタル加入者回線(digital subscriber line、DSL)が挙げられ得るが、これらに限定されない。
様々な態様では、図6のコンピュータシステム210、図5~図6の撮像モジュール238、及び/又は可視化システム208、及び/又はプロセッサモジュール232は、画像プロセッサ、画像処理エンジン、メディアプロセッサ、又はデジタル画像の処理に使用される任意の専用デジタル信号プロセッサ(digital signal processor、DSP)を含んでもよい。画像プロセッサは、単一命令複数データ(single instruction, multiple data、SIMD)技術、又は複数命令複数データ(multiple instruction, multiple data、MIMD)技術を用いた並列コンピューティングを用いて速度及び効率を高めることができる。デジタル画像処理エンジンは、様々なタスクを実施することができる。画像プロセッサは、マルチコアプロセッサアーキテクチャを備えるチップ上のシステムであってもよい。
通信接続部(複数可)とは、ネットワークインターフェースをバスに接続するために用いられるハードウェア/ソフトウェアを指し得る。例示の明瞭さのため、通信接続部は、コンピュータシステム内部に示されているが、通信接続部は、コンピュータシステム210の外部にあってもよい。例示のみを目的として、ネットワークインターフェースへの接続に必要なハードウェア/ソフトウェアとしては、通常の電話グレードモデム、ケーブルモデム及びDSLモデムを含むモデム、ISDNアダプタ並びにイーサネットカードなどの内部及び外部技術が挙げられ得る。
図7は、本開示の1つ以上の態様による、外科用器具又はツールの制御システム470の論理図を示す。システム470は、制御回路を備え得る。制御回路は、プロセッサ462及びメモリ468を備えるマイクロコントローラ461を含み得る。例えば、センサ472、474、476のうちの1つ以上が、プロセッサ462にリアルタイムなフィードバックを提供する。モータドライバ492によって駆動されるモータ482は、長手方向に移動可能な変位部材を動作可能に連結して、Iビームナイフ要素を駆動する。追跡システム480は、長手方向に移動可能な変位部材の位置を判定するように構成され得る。位置情報は、長手方向に移動可能な駆動部材の位置、並びに発射部材、発射バー、及びIビームナイフ要素の位置を判定するようにプログラム又は構成することができるプロセッサ462に提供され得る。追加のモータが、Iビームの発射、閉鎖管の移動、シャフトの回転、及び関節運動を制御するために、ツールドライバインターフェースに設けられてもよい。ディスプレイ473は、器具の様々な動作条件を表示してもよく、データ入力のためのタッチスクリーン機能を含んでもよい。ディスプレイ473上に表示された情報は、内視鏡撮像モジュールを介して取得された画像とオーバーレイさせることができる。
一態様では、マイクロコントローラ461は、Texas Instruments製のARM Cortexの商品名で知られているものなど、任意のシングルコア又はマルチコアプロセッサであってもよい。一態様では、主マイクロコントローラ461は、例えば、その詳細が製品データシートで入手可能である、最大40MHzの256KBのシングルサイクルフラッシュメモリ若しくは他の不揮発性メモリのオンチップメモリ、性能を40MHz超に改善するためのプリフェッチバッファ、32KBのシングルサイクルSRAM、StellarisWare(登録商標)ソフトウェアを搭載した内部ROM、2KBのEEPROM、1つ以上のPWMモジュール、1つ以上のQEIアナログ、及び/又は12個のアナログ入力チャネルを備える1つ以上の12ビットADCを含む、Texas Instrumentsから入手可能なLM4F230H5QR ARM Cortex-M4Fプロセッサコアであってもよい。
一態様では、マイクロコントローラ461は、同じくTexas Instruments製のHercules ARM Cortex R4の商品名で知られるTMS570及びRM4xなどの2つのコントローラベースのファミリーを含む安全コントローラを含んでもよい。安全コントローラは、拡張性のある性能、接続性、及びメモリの選択肢を提供しながら、高度な集積型安全機構を提供するために、とりわけ、IEC61508及びISO26262の安全限界用途専用に構成されてもよい。
マイクロコントローラ461は、ナイフ及び関節運動システムの速さ及び位置に対する精密制御など、様々な機能を実施するようにプログラムされてもよい。一態様では、マイクロコントローラ461は、プロセッサ462及びメモリ468を含み得る。電気モータ482は、ギアボックス、及び関節運動又はナイフシステムへの機械的連結部を備えたブラシ付き直流(direct current、DC)モータであってもよい。一態様では、モータドライバ492は、Allegro Microsystems,Incから入手可能なA3941であってもよい。他のモータドライバを、絶対位置付けシステムを備える追跡システム480で使用するために容易に代用することができる。絶対位置決めシステムに関する詳細な説明は、その全体が参照により本明細書に組み込まれる「SYSTEMS AND METHODS FOR CONTROLLING A SURGICAL STAPLING AND CUTTING INSTRUMENT」と題する2017年10月19日公開の米国特許出願公開第2017/0296213号に記載されている。
マイクロコントローラ461は、変位部材及び関節運動システムの速さ及び位置に対する正確な制御を提供するようにプログラムされてもよい。マイクロコントローラ461は、マイクロコントローラ461のソフトウェア内で応答を計算するように構成されてもよい。計算された応答は、実際のシステムの測定された応答と比較されて「観測された」応答を得てもよく、この「観測された」応答が、実際のフィードバックの判定に使用される。観測された応答は、シミュレートされた応答の滑らかで連続的な性質と、測定された応答とのバランスをとる好適な調整された値であり得るが、これにより、システムに及ぼす外部の影響を検出することができる。
いくつかの例では、モータ482は、モータドライバ492によって制御されてもよく、外科用器具又はツールの発射システムによって用いられ得る。様々な形態において、モータ482は、例えば、約25,000RPMの最大回転速度を有するブラシ付きDC駆動モータであってもよい。いくつかの例では、モータ482としては、ブラシレスモータ、コードレスモータ、同期モータ、ステッパモータ、又は任意の他の好適な電気モータが挙げられ得る。モータドライバ492は、例えば、電界効果トランジスタ(field-effect transistor、FET)を含むHブリッジドライバを備えてもよい。モータ482は、外科用器具又はツールに制御電力を供給するために、ハンドル組立体又はツールハウジングに解除可能に装着された電源組立体によって給電され得る。電源組立体は、外科用器具又はツールに給電するための電源として使用され得る、直列に接続された多数の電池セルを含み得る電池を備えてもよい。特定の状況下では、電源組立体の電池セルは、交換可能かつ/又は再充電可能であってもよい。少なくとも1つの例では、電池セルは、電源組立体に連結可能かつ電源組立体から分離可能であり得るリチウムイオン電池であり得る。
モータドライバ492は、Allegro Microsystems,Incから入手可能なA3941であってもよい。A3941 492は、特にブラシ付きDCモータなどの誘導負荷を目的として設計された外部Nチャネルパワー金属酸化膜半導体電界効果トランジスタ(metal-oxide semiconductor field-effect transistor、MOSFET)と共に使用するためのフルブリッジコントローラであり得る。ドライバ492は、固有の電荷ポンプレギュレータを備え得るが、このレギュレータは、完全(10V超)ゲート駆動を7Vまでの電池電圧に提供することができ、A3941が5.5Vまでの低減ゲート駆動で動作することを可能にし得る。NチャネルMOSFETに必要な上記の電池供給電圧を与えるために、ブートストラップコンデンサが用いられてもよい。ハイサイド駆動用の内部電荷ポンプにより、DC(100%デューティサイクル)動作が可能となる。フルブリッジは、ダイオード又は同期整流を使用して高速又は低速減衰モードで駆動され得る。低速減衰モードにおいて、電流の再循環は、ハイサイドのFETによっても、ローサイドのFETによっても可能である。電力FETは、抵抗器で調節可能なデッドタイムによって、シュートスルーから保護され得る。統合診断は、低電圧、温度過昇、及びパワーブリッジの異常を示すものであり、ほとんどの短絡状態下でパワーMOSFETを保護するように構成され得る。他のモータドライバを、絶対位置決めシステムを備えた追跡システム480で使用するために容易に代用することができる。
追跡システム480は、本開示の一態様による位置センサ472を備える制御されたモータ駆動回路配置を備え得る。絶対位置付けシステム用の位置センサ472は、変位部材の位置に対応する固有の位置信号を提供し得る。いくつかの例では、変位部材は、ギア減速機組立体の対応する駆動ギアと噛合係合するための駆動歯のラックを備える長手方向に移動可能な駆動部材を表し得る。いくつかの例では、変位部材は、駆動歯のラックを含むように適合され、構成され得る発射部材を表し得る。いくつかの例では、変位部材は、発射バー又はIビームを表し得るが、それらの各々は、駆動歯のラックを含むように適合され、構成され得る。したがって、本明細書で使用するとき、変位部材という用語は、一般的に、駆動部材、発射部材、発射バー、Iビーム、又は変位され得る任意の要素など、外科用器具又はツールの任意の可動部材を指すために使用され得る。一態様では、長手方向に移動可能な駆動部材は、発射部材、発射バー、及びIビームに連結され得る。したがって、絶対位置決めシステムは、実際には、長手方向に移動可能な駆動部材の直線変位を追跡することによって、Iビームの直線変位を追跡することができる。様々な態様では、変位部材は、直線変位を測定するのに好適な任意の位置センサ472に連結されてもよい。したがって、長手方向に移動可能な駆動部材、発射部材、発射バー、若しくはIビーム、又はそれらの組み合わせは、任意の好適な直線変位センサに連結されてもよい。直線変位センサは、接触式変位センサ又は非接触式変位センサを含んでもよい。直線変位センサは、線形可変差動変圧器(linear variable differential transformer、LVDT)、差動可変磁気抵抗型変換器(differential variable reluctance transducer、DVRT)、スライドポテンショメータ、移動可能な磁石及び一連の直線状に配置されたホール効果センサを備える磁気感知システム、固定された磁石及び一連の移動可能な直線状に配置されたホール効果センサを備える磁気感知システム、移動可能な光源及び一連の直線状に配置された光ダイオード若しくは光検出器を備える光学検出システム、固定された光源及び一連の移動可能な直線状に配置された光ダイオード若しくは光検出器を備える光学検出システム、又はこれらの任意の組み合わせを含んでもよい。
電気モータ482は、変位部材上の駆動歯の組又はラックと噛合係合で装着されるギア組立体と動作可能にインターフェースする回転式シャフトを含んでもよい。センサ素子は、位置センサ472素子の1回転が、変位部材のいくつかの直線長手方向並進に対応するように、ギア組立体に動作可能に連結されてもよい。ギアリング及びセンサの構成は、ラックピニオン構成によって直線アクチュエータに、又はスパーギア若しくは他の接続によって回転アクチュエータに接続することができる。電源は、絶対位置決めシステムに電力を供給し得、出力インジケータは、絶対位置決めシステムの出力を表示し得る。変位部材は、ギア減速機アセンブリの対応する駆動ギアと噛合係合するための、その上に形成された駆動歯のラックを備える長手方向に移動可能な駆動部材を表し得る。変位部材は、長手方向に移動可能な発射部材、発射バー、Iビーム、又はこれらの組み合わせを表し得る。
位置センサ472と関連付けられたセンサ素子の1回転は、変位部材の長手方向直線変位d1に相当し得るが、d1は、変位部材に連結されたセンサ素子の1回転した後で、変位部材が点「a」から点「b」まで移動する長手方向の直線距離である。センサ機構は、位置センサ472が変位部材のフルストロークに対して1回以上の回転を完了する結果をもたらすギアの減速を介して連結されてもよい。位置センサ472は、変位部材のフルストロークに対して複数回の回転を完了することができる。
位置センサ472の2回以上の回転に対する固有の位置信号を提供するために、一連のスイッチ(ここでnは1よりも大きい整数である)が、単独で、又はギアの減速との組み合わせで用いられてもよい。スイッチの状態は、マイクロコントローラ461にフィードバックされてもよく、マイクロコントローラ461は、論理を適用して、変位部材の長手方向の直線変位d1+d2+...dnに対応する固有の位置信号を判定する。位置センサ472の出力は、マイクロコントローラ461に提供される。センサ機構の位置センサ472は、位置信号又は値の固有の組み合わせを出力する、磁気センサ、電位差計などのアナログ回転センサ、又はアナログホール効果素子のアレイを備えてもよい。
位置センサ472は、例えば、全磁界又は磁界のベクトル成分を測定するかどうかに従って分類される磁気センサなどの、任意の数の磁気感知素子を備えてもよい。両タイプの磁気センサを生産するために使用される技術は、物理学及び電子工学の多数の側面を含み得る。磁界の感知に使用される技術としては、とりわけ、探りコイル、フラックスゲート、光ポンピング、核摂動、SQUID、ホール効果、異方性磁気抵抗、巨大磁気抵抗、磁気トンネル接合、巨大磁気インピーダンス、磁歪/圧電複合材、磁気ダイオード、磁気トランジスタ、光ファイバ、磁気光学、及び微小電気機械システムベースの磁気センサが挙げられ得る。
一態様では、絶対位置付けシステムを備える追跡システム480の位置センサ472は、磁気回転絶対位置付けシステムを備え得る。位置センサ472は、Austria Microsystems,AGから入手可能なAS5055EQFTシングルチップ磁気回転位置センサとして実装されてもよい。位置センサ472は、マイクロコントローラ461とインターフェースされて絶対位置付けシステムを提供する。位置センサ472は、低電圧低電力の構成要素であり得るが、磁石の上方に位置する位置センサ472のエリアに、4つのホール効果素子を含む。また、高解像度ADC及びスマート電力管理コントローラがチップ上に設けられ得る。加算、減算、ビットシフト、及びテーブル参照演算のみを必要とする、双曲線関数及び三角関数を計算する簡潔かつ効率的なアルゴリズムを実装するために、桁毎法及びボルダーアルゴリズムとしても知られる、座標回転デジタルコンピュータ(coordinate rotation digital computer、CORDIC)プロセッサが設けられ得る。角度位置、アラームビット、及び磁界情報は、シリアル周辺インターフェース(serial peripheral interface、SPI)インターフェースなどの標準的なシリアル通信インターフェースを介してマイクロコントローラ461に伝送され得る。位置センサ472は、12ビット又は14ビットの解像度を提供し得る。位置センサ472は、小型のQFN16ピン4x4x0.85mmパッケージで提供されるAS5055チップであってもよい。
絶対位置付けシステムを備える追跡システム480は、PID、状態フィードバック、及び適応コントローラなどのフィードバックコントローラを備えてもよく、かつ/又はこれを実装するようにプログラムされてもよい。電源は、フィードバックコントローラからの信号を、システムへの物理的入力、この場合は電圧へと変換する。他の例としては、電圧、電流、及び力のPWMが挙げられる。位置センサ472によって測定される位置に加えて、物理的システムの物理パラメータを測定するために、他のセンサ(複数可)が設けられてもよい。いくつかの態様では、他のセンサ(複数可)としては、その全体が参照により本明細書に組み込まれる、「STAPLE CARTRIDGE TISSUE THICKNESS SENSOR SYSTEM」と題する2016年5月24日発行の米国特許第9,345,481号、その全体が参照により本明細書に組み込まれる、「STAPLE CARTRIDGE TISSUE THICKNESS SENSOR SYSTEM」と題する2014年9月18日公開の米国特許出願公開第2014/0263552号、及びその全体が参照により本明細書に組み込まれる、「TECHNIQUES FOR ADAPTIVE CONTROL OF MOTOR VELOCITY OF A SURGICAL STAPLING AND CUTTING INSTRUMENT」と題する2017年6月20日出願の米国特許出願第15/628,175号に記載されているものなどのセンサ配置を挙げることができる。デジタル信号処理システムでは、絶対位置付けシステムは、デジタルデータ取得システムに連結され、ここで絶対位置付けシステムの出力は、有限の解像度及びサンプリング周波数を有する。絶対位置付けシステムは、計算された応答を測定された応答に向けて駆動する加重平均及び理論制御ループなどのアルゴリズムを使用して、計算された応答を測定された応答と組み合わせるために、比較及び組み合わせ回路を備え得る。入力を知ることによって物理的システムの状態及び出力がどうなるかを予測するために、物理的システムの計算された応答は、質量、慣性、粘性摩擦、誘導抵抗などの特性を考慮に入れてもよい。
絶対位置付けシステムは、単にモータ482がとった前方又は後方へのステップの数を計数してデバイスアクチュエータ、駆動バー、ナイフなどの位置を推定する従来の回転エンコーダで必要となり得るような、変位部材をリセット(ゼロ又はホーム)位置へ後退又は前進させることなしに、器具の電源投入時に変位部材の絶対位置を提供し得る。
例えば、歪みゲージ又は微小歪みゲージなどのセンサ474は、例えば、アンビルに加えられる閉鎖力を示すことができる、クランプ動作中にアンビルに及ぼされる歪みの振幅などのエンドエフェクタの1つ以上のパラメータを測定するように構成され得る。測定された歪みは、デジタル信号に変換されて、プロセッサ462に提供され得る。センサ474の代わりに、又はこれに加えて、例えば、負荷センサなどのセンサ476が、閉鎖駆動システムによってアンビルに加えられる閉鎖力を測定することができる。例えば、負荷センサなどのセンサ476は、外科用器具又はツールの発射ストローク中にIビームに加えられる発射力を測定することができる。Iビームは、楔形スレッドと係合するように構成されており、楔形スレッドは、ステープルドライバを上向きにカム作用して、ステープルを押し出してアンビルと変形接触させるように構成されている。Iビームはまた、Iビームを発射バーによって遠位に前進させる際に組織を切断するために使用することができる、鋭利な切刃を含み得る。代替的に、モータ482により引き込まれる電流を測定するために、電流センサ478を用いることができる。発射部材を前進させるのに必要な力は、例えば、モータ482によって引き込まれる電流に対応し得る。測定された力は、デジタル信号に変換されて、プロセッサ462に提供され得る。
一形態では、歪みゲージセンサ474を使用して、エンドエフェクタによって組織に加えられる力を測定することができる。治療されている組織に対するエンドエフェクタによる力を測定するために、歪みゲージをエンドエフェクタに連結することができる。エンドエフェクタによって把持された組織に加えられる力を測定するためのシステムは、例えば、エンドエフェクタの1つ以上のパラメータを測定するように構成され得る微小歪みゲージなどの歪みゲージセンサ474を備え得る。一態様では、歪みゲージセンサ474は、組織圧縮を示し得る、クランプ動作中にエンドエフェクタのジョー部材に及ぼされる歪みの振幅又は規模を測定することができる。測定された歪みは、デジタル信号に変換されて、マイクロコントローラ461のプロセッサ462に提供され得る。負荷センサ476は、例えば、アンビルとステープルカートリッジとの間に捕捉された組織を切断するために、ナイフ要素を動作させるために使用される力を測定することができる。磁界センサは、捕捉された組織の厚さを測定するために用いることができる。磁界センサの測定値もデジタル信号に変換されて、プロセッサ462に提供され得る。
センサ474、476によってそれぞれ測定される、組織圧縮、組織の厚さ、及び/又はエンドエフェクタを組織上で閉鎖するのに必要な力の測定値は、発射部材の選択された位置、及び/又は発射部材の速さの対応する値を特性決定するために、マイクロコントローラ461によって使用することができる。一例では、メモリ468は、評価の際にマイクロコントローラ461によって用いることができる技術、等式、及び/又はルックアップテーブルを記憶することができる。
外科用器具又はツールの制御システム470はまた、図5及び図6に示されるようにモジュール式通信ハブ203と通信するための有線通信回路又は無線通信回路を備えてもよい。
図8は、様々な機能を実施するために起動され得る複数のモータを備える外科用器具又はツールを示す。特定の例では、第1のモータを起動させて第1の機能を実施することができ、第2のモータを起動させて第2の機能を実施することができ、第3のモータを起動させて第3の機能を実施することができ、第4のモータを起動させて第4の機能を実施することができる、といった具合である。特定の例では、ロボット外科用器具600の複数のモータは個々に起動されて、エンドエフェクタにおいて発射運動、閉鎖運動、及び/又は関節運動を生じさせることができる。発射運動、閉鎖運動、及び/又は関節運動は、例えば、シャフトアセンブリを介してエンドエフェクタに伝達することができる。
特定の例では、外科用器具システム又はツールは、発射モータ602を含んでもよい。発射モータ602は、具体的にはIビーム要素を変位させるために、モータ602によって生成された発射運動をエンドエフェクタに伝達するように構成することができる、発射モータ駆動組立体604に動作可能に連結されてもよい。特定の例では、モータ602によって生成される発射運動によって、例えば、ステープルをステープルカートリッジから、エンドエフェクタによって捕捉された組織内へと配備し、かつ/又はIビーム要素の切刃を前進させて、捕捉された組織を切断してもよい。Iビーム要素は、モータ602の方向を逆転させることによって後退させることができる。
特定の例では、外科用器具又はツールは、閉鎖モータ603を含んでもよい。閉鎖モータ603は、具体的には閉鎖管を変位させてアンビルを閉鎖し、アンビルとステープルカートリッジとの間で組織を圧縮するためにモータ603によって生成された閉鎖運動をエンドエフェクタに伝達するように構成され得る、閉鎖モータ駆動組立体605と動作可能に連結されてもよい。閉鎖運動によって、エンドエフェクタは、例えば、組織を捕捉する、開放構成から接近構成へと移行することができる。エンドエフェクタは、モータ603の方向を逆転させることによって開放位置に移行され得る。
特定の例では、外科用器具又はツールは、例えば、1つ以上の関節運動モータ606a、606bを含み得る。モータ606a、606bは、モータ606a、606bによって生成された関節運動をエンドエフェクタに伝達するように構成され得る、対応する関節運動モータ駆動組立体608a、608bに動作可能に連結され得る。特定の例では、関節運動によって、例えば、エンドエフェクタがシャフトに対して関節運動することができる。
本明細書において説明したように、外科用器具又はツールは、様々な独立した機能を実施するように構成され得る複数のモータを含んでもよい。特定の例では、外科用器具又はツールの複数のモータは、他のモータが停止した状態を維持している間に、個別に又は別個に起動させて、1つ以上の機能を実施することができる。例えば、関節運動モータ606a、606bを起動させて、発射モータ602が停止した状態を維持している間に、エンドエフェクタを関節運動させることができる。代替的に、発射モータ602を起動させて、関節運動モータ606が停止した状態を維持している間に、複数のステープルを発射させる、かつ/又は切刃を前進させることができる。更に、閉鎖モータ603は、本明細書の以下でより詳細に説明されるように、閉鎖管及びIビーム要素を遠位に前進させるために、発射モータ602と同時に起動されてもよい。
特定の例では、外科用器具又はツールは、外科用器具又はツールの複数のモータと共に用いることができる、共通の制御モジュール610を含んでもよい。特定の例では、共通の制御モジュール610は、一度に複数のモータのうちの1つに対応することができる。例えば、共通の制御モジュール610は、ロボット外科用器具の複数のモータに対して個々に連結可能かつ分離可能であってもよい。特定の例では、外科用器具又はツールの複数のモータは、共通の制御モジュール610などの1つ以上の共通の制御モジュールを共有してもよい。特定の例では、外科用器具又はツールの複数のモータは、共通の制御モジュール610に個別にかつ選択的に係合することができる。特定の例では、共通の制御モジュール610は、外科用器具又はツールの複数のモータのうちの一方とのインターフェース接続から、外科用器具又はツールの複数のモータのうちのもう一方とのインターフェース接続へと選択的に切り替えることができる。
少なくとも1つの例では、共通の制御モジュール610は、関節運動モータ606a、606bとの動作可能な係合と、発射モータ602又は閉鎖モータ603のいずれかとの動作可能な係合と、の間で選択的に切り替えることができる。少なくとも1つの実施例では、図8に示すように、スイッチ614は、複数の位置及び/又は状態間を移動又は移行させることができる。例えば、第1の位置616では、スイッチ614は、共通の制御モジュール610を発射モータ602と電気的に連結してもよく、第2の位置617では、スイッチ614は、共通の制御モジュール610を閉鎖モータ603と電気的に連結してもよく、第3の位置618aでは、例えば、スイッチ614は、共通の制御モジュール610を第1の関節運動モータ606aと電気的に連結してもよく、第4の位置618bでは、スイッチ614は、共通の制御モジュール610を第2の関節運動モータ606bと電気的に連結してもよい。特定の例では、同時に、別個の共通の制御モジュール610を、発射モータ602、閉鎖モータ603、及び関節運動モータ606a、606bと電気的に連結してもよい。特定の例では、スイッチ614は、機械的スイッチ、電気機械的スイッチ、固体スイッチ、又は任意の好適な切り替え機構であってもよい。
モータ602、603、606a、606bの各々は、モータのシャフト上の出力トルクを測定するためのトルクセンサを備えてもよい。エンドエフェクタ上の力は、ジョーの外側の力センサによって、又はジョーを作動させるモータのトルクセンサなどによって、任意の従来の様式で感知されてもよい。
様々な例では、図8に示されるように、共通の制御モジュール610は、1つ以上のHブリッジFETを備え得るモータドライバ626を備えてもよい。モータドライバ626は、例えば、マイクロコントローラ620(「コントローラ」)からの入力に基づいて、電源628から共通の制御モジュール610に連結されたモータへと伝達された電力を変調してもよい。特定の例では、本明細書において説明されているように、例えば、モータが共通の制御モジュール610に連結されている間にマイクロコントローラ620を用いて、モータによって引き込まれる電流を判定することができる。
特定の例では、マイクロコントローラ620は、マイクロプロセッサ622(「プロセッサ」)と、1つ以上の非一時的コンピュータ可読媒体又はメモリユニット624(「メモリ」)と、を含んでもよい。特定の例では、メモリ624は、様々なプログラム命令を記憶することができ、それが実行されると、プロセッサ622に、本明細書に記載される複数の機能及び/又は計算を実施させることができる。特定の例では、メモリユニット624のうちの1つ以上が、例えば、プロセッサ622に連結されてもよい。
特定の例では、電源628を用いて、例えば、マイクロコントローラ620に電力を供給してもよい。特定の例では、電源628は、例えば、リチウムイオン電池などの電池(又は「電池パック」若しくは「電源パック」)を含んでもよい。特定の例では、電池パックは、外科用器具600に電力を供給するため、ハンドルに解除可能に装着されるように構成されてもよい。直列で接続された多数の電池セルを、電源628として使用してもよい。特定の例では、電源628は、例えば、交換可能かつ/又は再充電可能であってもよい。
様々な例では、プロセッサ622は、モータドライバ626を制御して、共通の制御モジュール610に連結されたモータの位置、回転方向、及び/又は速度を制御することができる。特定の例では、プロセッサ622は、モータドライバ626に信号伝達して、共通の制御モジュール610に連結されるモータを停止する、かつ/又は無効化することができる。「プロセッサ」という用語は、本明細書で使用されるとき、任意の好適なマイクロプロセッサ、マイクロコントローラ、又は、コンピュータの中央処理装置(central processing unit、CPU)の機能を1つの集積回路又は最大で数個の集積回路上で統合した他の基本コンピューティングデバイスを含むと理解されるべきである。プロセッサは、デジタルデータを入力として受理し、メモリに記憶された命令に従ってそのデータを処理し、結果を出力として提供する、多目的プログラマブルデバイスであり得る。これは、内部メモリを有するので、逐次的デジタル論理の一例であり得る。プロセッサは、二進数法で表される数字及び記号で動作し得る。
プロセッサ622は、Texas Instruments製のARM Cortexの商品名で知られているものなど、任意のシングルコア又はマルチコアプロセッサであってもよい。特定の例では、マイクロコントローラ620は、例えば、Texas Instrumentsから入手可能なLM 4F230H5QRであってもよい。少なくとも1つの実施例では、Texas InstrumentsのLM4F230H5QRは、製品データシートで容易に利用可能な機能の中でもとりわけ、最大40MHzの256KBのシングルサイクルフラッシュメモリ若しくは他の不揮発性メモリのオンチップメモリ、性能を40MHz超に改善するためのプリフェッチバッファ、32KBのシングルサイクルSRAM、StellarisWare(登録商標)ソフトウェアを搭載した内部ROM、2KBのEEPROM、1つ以上のPWMモジュール、1つ以上のQEIアナログ、12個のアナログ入力チャネルを備える1つ以上の12ビットADCを含むARM Cortex-M4Fプロセッサコアである。他のマイクロコントローラが、モジュール4410と共に使用するのに容易に代用されてもよい。したがって、本開示は、この文脈に限定されるべきではない。
メモリ624は、共通の制御モジュール610に連結可能な外科用器具600のモータの各々を制御するためのプログラム命令を含んでもよい。例えば、メモリ624は、発射モータ602、閉鎖モータ603、及び関節運動モータ606a、606bを制御するためのプログラム命令を含んでもよい。このようなプログラム命令は、プロセッサ622に、外科用器具又はツールのアルゴリズム又は制御プログラムからの入力に従って、発射機能、閉鎖機能、及び関節運動機能を制御させることができる。
例えば、センサ630などの1つ以上の機構及び/又はセンサを用いて、特定の設定で使用すべきプログラム命令をプロセッサ622に知らせることができる。例えば、センサ630は、エンドエフェクタの発射、閉鎖、及び関節運動に関連するプログラム命令を使用するようにプロセッサ622に知らせることができる。特定の例では、センサ630は、例えば、スイッチ614の位置を感知するために用いることができる位置センサを備えてもよい。したがって、プロセッサ622は、例えば、センサ630を介してスイッチ614が第1の位置616にあることを検出すると、エンドエフェクタのIビームの発射と関連付けられたプログラム命令を使用することができ、プロセッサ622は、例えば、センサ630を介してスイッチ614が第2の位置617にあることを検出すると、アンビルの閉鎖と関連付けられたプログラム命令を使用することができ、プロセッサ622は、例えば、センサ630を介してスイッチ614が第3の位置618a又は第4の位置618bにあることを検出すると、エンドエフェクタの関節運動と関連付けられたプログラム命令を使用することができる。
図9は、本開示の少なくとも1つの態様に係る、状況認識外科用システム5100の図を示す。いくつかの例示では、データソース5126は、例えば、モジュール式デバイス5102(患者及び/又はモジュール式デバイス自体に関連付けられたパラメータを検出するように構成されたセンサを含み得る)、データベース5122(例えば、患者記録を含むEMRデータベース)、及び患者モニタリングデバイス5124(例えば、血圧(blood pressure、BP)モニタ、及び心電図(electrocardiography、EKG)モニタ)を含み得る。外科用ハブ5104は、例えば、受信したデータの特定の組み合わせ(複数可)又はデータソース5126からデータが受信される特定の順序に基づいて、データから外科処置に関するコンテキスト情報を導出するように構成され得る。受信されたデータから推測されるコンテキスト情報は、例えば、実施される外科処置の種類、外科医が実行している外科処置の特定の工程、手術されている組織の種類、又は処置の対象である体腔を含むことができる。受信されたデータから外科処置に関する情報を導出又は推測するための外科用ハブ5104のいくつかの態様に係わるこの機能は、「状況認識」と称することもある。一例示では、外科用ハブ5104は、受信されたデータから外科処置に関連するコンテキスト情報を導出する外科用ハブ5104に関連付けられたハードウェア及び/又はプログラミングである状況認識システムを組み込むことができる。
外科用ハブ5104の状況認識システムは、様々な異なる方法でデータソース5126から受信されたデータから、コンテキスト情報を導出するように構成することができる。一例示では、状況認識システムは、様々な入力(例えば、データベース5122、患者モニタリングデバイス5124、及び/又はモジュール式デバイス5102からのデータ)を、外科処置に関する対応するコンテキスト情報と相関させるために、訓練データで訓練されたパターン認識システム、又は機械学習システム(例えば、人工ニューラルネットワーク)を含み得る。言い換えると、機械学習システムは、提供された入力から外科処置に関するコンテキスト情報を正確に導出するように訓練することができる。いくつかの例では、状況認識システムは、外科処置に関する事前に特性評価されたコンテキスト情報を、そのコンテキスト情報に対応する1つ以上の入力(又は、入力の範囲)と関連付けて記憶する、ルックアップテーブルを含むことができる。1つ以上の入力による問い合わせに応答して、ルックアップテーブルは、モジュール式デバイス5102を制御するために状況認識システムの対応するコンテキスト情報を返すことができる。いくつかの例では、外科用ハブ5104の状況認識システムによって受信されたコンテキスト情報は、1つ以上のモジュール式デバイス5102の特定の制御調節、又は一連の制御調節に関連付けられる。いくつかの例では、状況認識システムは、コンテキスト情報を入力として提供された際、1つ以上のモジュール式デバイス5102の1つ以上の制御調節を生成又は読み出す、更なる機械学習システム、ルックアップテーブル、又は他のそのようなシステムを含み得る。
状況認識システムを組み込む外科用ハブ5104は、外科用システム5100に多くの利点をもたらし得る。1つの利点としては、検知されて収集されたデータの解釈を改善することが挙げられ得るが、これは、外科処置の過程中の処理精度、及び/又はデータの使用を改善させるであろう。以前の例に戻ると、状況認識外科用ハブ5104は、どの種類の組織が手術されているかを判定することができるので、したがって、外科用器具のエンドエフェクタを閉鎖するための予想外に高い力が検出されると、状況認識外科用ハブ5104は、組織種類に合わせて外科用器具のモータを正しく加速させるか、又は減速させることができる。
手術されている組織の種類は、特定の組織間隙測定用の外科用ステープル留め及び切断器具の圧縮速度と負荷閾値になされる調節に影響を及ぼし得る。状況認識外科用ハブ5104は、実行されている外科処置が胸部手術であるのか、又は腹部手術であるのかを推測することができ、これにより、外科用ハブ5104は、外科用ステープル留め及び切断器具のエンドエフェクタによってクランプされている組織が肺であるのか(胸部手術の場合)、又は胃であるのか(腹部手術の場合)を決定することができる。次いで、外科用ハブ5104は、外科用ステープル留め及び切断器具の圧縮速度及び負荷閾値を、組織の種類に合わせて適切に調節することができる。
送気処置中に手術されている体腔の種類は、排煙器の機能に影響を及ぼし得る。状況認識外科用ハブ5104は、手術部位が(外科処置が送気を利用していると判定することによって)圧力下にあるかどうかを判定し、処置の種類を決定することができる。一般に、ある処置種類は、特定の体腔内で実行され得るので、外科用ハブ5104は、手術されている体腔に合わせて適切に排煙器のモータ速度を制御することができる。このようにして、状況認識外科用ハブ5104は、胸部手術及び腹部手術の両方用に一貫した量の煙排出を提供し得る。
実行されている処置の種類は、超音波外科用器具又は高周波(radio frequency、RF)電気外科用器具が動作するのに最適なエネルギーレベルに、影響を及ぼし得る。例えば、関節鏡処置では、超音波外科用器具、又はRF電気外科用器具のエンドエフェクタが流体中に浸漬されるので、より高いエネルギーレベルを必要とし得る。状況認識外科用ハブ5104は、外科処置が関節鏡処置であるかどうかを決定することができる。次いで、外科用ハブ5104は、流体充填環境を補償するために、発生器のRF電力レベル又は超音波振幅(すなわち、「エネルギーレベル」)を調節することができる。関連して、手術されている組織の種類は、超音波外科用器具又はRF電気外科用器具が動作するのに最適なエネルギーレベルに影響を及ぼし得る。状況認識外科用ハブ5104は、どの種類の外科処置が実行されているかを決定し、次いで、外科処置について予想される組織プロファイルに従って、超音波外科用器具又はRF電気外科用器具のエネルギーレベルをそれぞれカスタマイズすることができる。更に、状況認識外科用ハブ5104は、単に処置毎にではなく、外科処置の過程にわたって、超音波外科用器具又はRF電気外科用器具のエネルギーレベルを調節するように構成することができる。状況認識外科用ハブ5104は、外科処置のどの工程が実行されているか、又は引き続き実行されるかを決定し、次いで、発生器、及び/又は超音波外科用器具若しくはRF電気外科用器具の制御アルゴリズムをアップデートして、外科処置の工程に従って予想される組織種類に適切な値までエネルギーレベルを設定することができる。
いくつかの例では、外科用ハブ5104が1つのデータソース5126から導き出される結論を改善するために、追加のデータソース5126からデータを導出することも可能である。状況認識外科用ハブ5104は、モジュール式デバイス5102から受信したデータを、他のデータソース5126から外科処置に関して構築したコンテキスト情報で強化し得る。例えば、状況認識外科用ハブ5104は、医療用撮像デバイスから受信されたビデオ又は画像データに従って、止血が行われたかどうか(すなわち、手術部位での出血が止まったかどうか)を決定するように構成することができる。しかしながら、場合によっては、ビデオ又は画像データは、決定的ではない可能性がある。したがって、一例示では、外科用ハブ5104は、生理学的測定(例えば、外科用ハブ5104へと通信可能に接続されたBPモニタで検知された血圧)を、(例えば、外科用ハブ5104へと通信可能に連結された医療用撮像デバイス124(図2)からの)止血の視覚データ又は画像データと比較して、ステープルライン又は組織溶着の完全性に関する決定を行うように更に構成することができる。言い換えると、外科用ハブ5104の状況認識システムは、生理学的測定データを考慮して、可視化データを分析する際に追加のコンテキストを提供することができる。追加のコンテキストは、可視化データがそれ自体では決定的ではないか、又は不完全であり得る場合に有用となり得る。
例えば、状況認識外科用ハブ5104は、処置の後続の工程でRF電気外科用器具の使用が必要とされると判定された場合に、そのRF電気外科用器具が接続されている発生器を事前に起動させることができる。エネルギー源を事前に起動することにより、処置の先行する工程が完了すると直ぐに器具を使用準備完了にすることが可能となり得る。
状況認識外科用ハブ5104は、外科医が見る必要があると予想される手術部位の形状部(複数可)に従って、外科処置の現工程、又は後続の工程が、ディスプレイ上の異なるビューや倍率を必要とするかどうかを決定することができる。次いで、外科用ハブ5104は、表示されたビュー(例えば、可視化システム108用に医療用撮像デバイスから供給される)を適切に事前に変更することができ、これにより、ディスプレイは外科処置にわたって自動的に調節する。
状況認識外科用ハブ5104は、外科処置のどの工程が実行されているか、又は次に実行されるか、及び特定のデータ又はデータどうしの比較が外科処置の該当工程に必要とされるかどうかを決定することができる。外科用ハブ5104は、外科医が特定の情報を尋ねるのを待つことなく、実行されている外科処置の工程に基づいて、データスクリーンを自動的に呼び出すように構成することができる。
外科処置のセットアップ中、又は外科処置の過程中に、エラーをチェックし得る。例えば、状況認識外科用ハブ5104は、手術室が、実行されるべき外科処置用に適切に又は最適にセットアップされているかどうかを決定することができる。外科用ハブ5104は、実行されている外科処置の種類を決定し、対応するチェックリスト、製品位置、又はセットアップ要件を(例えば、メモリから)読み出し、次いで、現在の手術室のレイアウトを、実行されていると外科用ハブ5104が決定した外科処置の種類の標準レイアウトと比較するように構成することができる。いくつかの例示では、外科用ハブ5104は、処置のための項目リスト、及び/又は外科用ハブ5104とペアリングされたデバイスのリストを、所与の外科処置のための項目及び/又はデバイスの推奨される又は予想される目録と比較するように構成され得る。リストどうしに分断が存在する場合、外科用ハブ5104は、特定のモジュール式デバイス5102、患者モニタリングデバイス5124、及び/又は他の手術用物品が欠落していることを示すアラートを提供するように構成することができる。いくつかの例示では、外科用ハブ5104は、例えば、近接センサによってモジュール式デバイス5102及び患者モニタリングデバイス5124の相対距離又は相対位置を決定するように構成することができる。外科用ハブ5104は、デバイスの相対位置を、特定の外科処置用に推奨又は予測されるレイアウトと比較することができる。レイアウトどうしに分断が存在する場合、外科用ハブ5104は、外科処置の現在のレイアウトが推奨レイアウトから逸脱していることを示すアラートを提供するように構成することができる。
状況認識外科用ハブ5104は、外科医(又は、他の医療従事者)が誤りを犯しているかどうか、又は外科処置の過程中に予想される一連のアクションから逸脱しているかどうかを決定することができる。例えば、外科用ハブ5104は、実行されている外科処置の種類を決定し、機器使用の工程又は順序の対応リストを(例えば、メモリから)読み出し、次いで、外科処置の過程中に実行されている工程又は使用されている機器を、外科用ハブ5104が実行されていると判定した外科処置の種類について予想される工程、又は機器と比較するように構成することができる。いくつかの例示では、外科用ハブ5104は、外科処置における特定の工程で想定外のアクションが実行されているか、又は想定外のデバイスが利用されていることを示すアラートを提供するように構成することができる。
外科用器具(及び他のモジュール式デバイス5102)は、各外科処置の特定の状況に合わせて調整されてもよく(異なる組織タイプへ合うように調整するなど)、外科処置中の動作を検証してもよい。次の工程、データ、及び表示調整は、処置の特定のコンテキストに従って、手術現場内の外科用器具(及び他のモジュール式デバイス5102)に提供され得る。
図10は、例示的な外科処置のタイムライン5200と、外科処置の各工程でデータソース5126から受信されたデータから外科用ハブ5104が導出することができるコンテキスト情報と、を示す。図9に示されるタイムライン5200の以下の説明では、図9も参照されたい。タイムライン5200は、手術室のセットアップで始まり、患者を術後回復室に移送することで終了する肺区域切除手術の過程中に、看護師、外科医及び他の医療従事者がとるであろう一般的な工程を示し得る。状況認識外科用ハブ5104は、外科処置の過程全体にわたって、医療関係者が外科用ハブ5104とペアリングされたモジュール式デバイス5102を使用するたびに生成されるデータを含むデータを、データソース5126から受信し得る。外科用ハブ5104は、ペアリングされたモジュール式デバイス5102及び他のデータソース5126からこのデータを受信して、任意の所与の時間に処置のどの工程が行われているかなどの新しいデータが受信されると、進行中の処置に関する推定(すなわち、コンテキスト情報)を継続的に導出することができる。外科用ハブ5104の状況認識システムは、例えば、報告を生成するために処置に関するデータを記録すること、医療関係者によってとられている工程を検証すること、特定の処置工程に関連し得るデータ又はプロンプトを(例えば、ディスプレイスクリーンを介して)提供すること、コンテキストに基づいてモジュール式デバイス5102を調整する(例えば、モニタを起動する、医療用撮像デバイスのFOVを調整する、又は超音波外科用器具若しくはRF電気外科用器具のエネルギーレベルを変更する)こと、及び本明細書に記載の任意の他のこうした動作を行うことが可能であり得る。
この例示的な処置における第1の工程5202として、病院職員は、病院のEMRデータベースから、患者のEMRを読み出し得る。EMRにおいて選択された患者データに基づいて、外科用ハブ5104は、実施される処置が胸部手術であることを判定する。第2の5204では、職員は、処置のために入来する医療用品をスキャンし得る。外科用ハブ5104は、スキャンされた物資を様々な種類の処置において利用され得る物資のリストと相互参照し、物資の組み合わせが、胸部処置に一致することを確認する。更に、外科用ハブ5104はまた、処置が楔状切除術ではないと判定することが可能であり得る(入来する用品が、胸部楔状切除術に必要な特定の用品を含まないか、又は別の点で胸部楔状切除術に対応していないかのいずれかであるため)。第3の5206で、医療従事者は、外科用ハブ5104に通信可能に接続されたスキャナ5128を介して患者バンドをスキャンし得る。次いで、外科用ハブ5104は、スキャンされたデータに基づいて患者の身元を確認することができる。第4の5208では、医療職員が補助デバイスをオンにする。利用されている補助機器は、外科処置の種類、及び外科医が使用する技術に従って変動し得るが、この例示的なケースでは、排煙器、送気器、及び医療用撮像デバイスが挙げられる。起動されると、モジュール式デバイス5102である補助デバイスは、その初期化プロセスの一部として、モジュール式デバイス5102の特定の近傍内に位置し得る外科用ハブ5104と自動的にペアリングすることができる。次いで、外科用ハブ5104は、この術前又は初期化段階中にそれとペアリングされるモジュール式デバイス5102の種類を検出することによって、外科処置に関するコンテキスト情報を導出することができる。この特定の実施例では、外科用ハブ5104は、ペアリングされたモジュール式デバイス5102のこの特定の組み合わせに基づいて、外科処置がVATS処置であると判定し得る。患者のEMRからのデータの組み合わせ、処置に用いられる医療用品のリスト、及びハブに接続するモジュール式デバイス5102の種類に基づいて、外科用ハブ5104は、外科チームが実施する特定の処置を概ね推定することができる。外科用ハブ5104が、何の特定の処置が行われているかを知ると、次いで外科用ハブ5104は、メモリから、又はクラウドからその処置の工程を読み出し、次いで接続されたデータソース5126(例えば、モジュール式デバイス5102及び患者モニタリングデバイス5124)からその後受信したデータを相互参照して、外科処置のどの工程を外科チームが実行しているかを推定することができる。第5の5210では、職員は、EKG電極及び他の患者モニタリングデバイス5124を患者に取り付ける。EKG電極及び他の患者モニタリングデバイス5124は、外科用ハブ5104とペアリングし得る。外科用ハブ5104が患者モニタリングデバイス5124からデータの受信を開始すると、外科用ハブ5104は、例えば、プロセス5207で説明するように、患者が手術室にいることを確認し得る。第6の5212では、医療関係者は患者に麻酔をかけてもいよ。外科用ハブ5104は、例えば、EKGデータ、血圧データ、人工呼吸器データ又はこれらの組み合わせを含む、モジュール式デバイス5102、及び/又は患者モニタリングデバイス5124からのデータに基づいて、患者が麻酔下にあることを推測することができる。第6の工程5212が完了すると、肺区域切除手術の術前部分が完了し、手術部分が開始する。
第7の5214では、手術されている患者の肺が虚脱されてもよい(換気が対側肺に切り替えられる間に)。外科用ハブ5104は、例えば、患者の肺が虚脱されたことを人工呼吸器データから推測することができる。外科用ハブ5104は、患者の肺が虚脱したのを検出したことを、処置の予期される工程(事前にアクセス又は読み出すことができる)と比較することができるため、処置の手術部分が開始したことを推定して、それによって肺を虚脱させることがこの特定の処置における第1の手術工程であり得ると判定することができる。第8の5216では、医療用撮像デバイス5108(例えば、スコープ)が挿入されてもよく、医療用撮像デバイスからのビデオ映像が開始されてもよい。外科用ハブ5104は、医療用撮像デバイスへの接続を通じて医療用撮像デバイスデータ(すなわち、ビデオ又は画像データ)を受信し得る。医療用撮像デバイスデータを受信すると、外科用ハブ5104は、外科処置の腹腔鏡部分が開始したことを判定することができる。更に、外科用ハブ5104は、行われている特定の処置が、肺葉切除術とは対照的に区域切除術であると判定することができる(処置の第2の工程5204で受信したデータに基づいて、楔状切除術は外科用ハブ5104によって既に考慮に入れられていないことに留意されたい)。医療用撮像デバイス124(図2)からのデータを利用して、様々な方法で、例えば、患者の解剖学的構造の可視化に対して向けられている医療用撮像デバイスの角度を判定することによって、利用されている(すなわち、起動されており、外科用ハブ5104とペアリングされている)数又は医療用撮像デバイスをモニタリングすることによって、及び利用されている可視化デバイスの種類をモニタリングすることによって、行われている処置の種類に関するコンテキスト情報を判定することができる。例えば、VATS肺葉切除術を実行するための1つの技術は、カメラを患者の胸腔の前下方角部の横隔膜上方に配置し得るが、他方、VATS区域切除術を実行するための1つの技術は、カメラを、区域裂に対して前方の肋間位置に配置する。状況認識システムは、例えば、パターン認識技術又は機械学習技術を使用して、患者の解剖学的構造の可視化に従って、医療用撮像デバイスの位置を認識するように訓練することができる。VATS肺葉切除を実行するための例示的な技術は、単一の医療用撮像デバイスを利用することができる。VATS区域切除術を実行するための例示的な技術は、複数のカメラを利用する。VATS区域切除術を実行するための1つの例示的な技術は、区域裂を可視化するために赤外線光源(可視化システムの一部として外科用ハブへと通信可能に連結できる)を利用するが、これはVATS肺葉切除術では利用されない。医療用撮像デバイス5108からのこのデータのいずれか又は全てを追跡することによって、外科用ハブ5104は、行われている特定の種類の外科処置、及び/又は特定の種類の外科処置に使用されている技術を判定することができる。
第9の5218では、外科チームは、処置の切開工程を開始し得る。外科用ハブ5104は、エネルギー器具が発射されていることを示すRF又は超音波発生器からのデータを受信するため、外科医が患者の肺を切開して分離するプロセスにあると推定することができる。外科用ハブ5104は、受信したデータを外科処置の読み出しされた工程と相互参照して、プロセスのこの時点(すなわち、上述された処置の工程が完了した後)で発射されているエネルギー器具が切開工程に対応していると判定することができる。第10の5220では、外科チームは、処置の結紮工程に進み得る。外科用ハブ5104は、器具が発射されていることを示すデータを外科用ステープル留め及び切断器具から受信し得るため、外科医が動脈及び静脈を結紮していると推定することができる。前工程と同様に、外科用ハブ5104は、外科用ステープル留め及び切断器具からのデータの受信を、読み出しされたプロセス内の工程と相互参照することによって、この推定を導出することができる。第11の5222では、処置の区域切除術の部分が行われ得る。外科用ハブ5104は、外科用ステープル留め及び切断器具からのデータ(そのカートリッジからのデータを含む)に基づいて、外科医が実質組織を横切開していると推定することができる。カートリッジのデータは、例えば、器具によって発射されているステープルのサイズ又はタイプに対応することができる。異なる種類のステープルが異なる種類の組織に利用されるので、カートリッジのデータは、ステープル留めされている、かつ/又は横切開されている組織の種類を示すことができる。この場合、発射されているステープルの種類は、実質組織(又は他の同様の組織種)に利用され、これにより、外科用ハブ5104は、処置の区域切除術の部分が行われていると推定することができる。続いて第12の5224で、結節切開工程が行われる。外科用ハブ5104は、RF又は超音波器具が発射されていることを示す、発生器から受信したデータに基づいて、外科チームが結節を切開し、漏れ試験を行っていると推定することができる。この特定の処置の場合、実質組織が横切開された後に利用されるRF又は超音波器具は結節切開工程に対応しており、これにより外科用ハブ5104がこの推定を行うことができる。異なる器具が特定のタスクに対してより良好に適合するので、外科医が、処置中の特定の工程に応じて、外科用ステープル留め器具/切断器具と手術用エネルギー(すなわち、RF又は超音波)器具とを、定期的に交互に切り替えることに留意されたい。したがって、ステープル留め器具/切断器具及び手術用エネルギー器具が使用される特定のシーケンスは、外科医が処置のどの工程を実行しているかを示すことができる。第12の工程5224が完了すると、切開部が閉鎖され、処置の術後部分が開始し得る。
第13の5226では、患者を麻酔から覚醒させ得る。外科用ハブ5104は、例えば、人工呼吸器データに基づいて(すなわち、患者の呼吸速度が増加し始める)、患者が麻酔から覚醒しつつあると推定することができる。最後に、第14の工程5228は、医療関係者が患者から様々な患者モニタリングデバイス5124を除去する工程であり得る。したがって、外科用ハブ5104は、ハブがEKG、BP、及び患者モニタリングデバイス5124からの他のデータを喪失したとき、患者が回復室に移送されていると推定することができる。この例示的な処置の説明からわかるように、外科用ハブ5104と通信可能に連結された各種データソース5126から受信したデータに従って、外科用ハブ5104は、所与の外科処置の各工程が発生しているときを判定又は推定することができる。
図10に示されるタイムライン5200の第1の工程5202に示されるように、EMRデータベース(複数可)からの患者データを利用して、行われる外科処置の種類を推定することに加えて、患者データはまた、状況認識外科用ハブ5104によって利用されて、ペアリングされたモジュール式デバイス5102の制御調整を生成することができる。
図11は、本開示の少なくとも1つの態様による、コンピュータ実装インタラクティブ外科用システムのブロック図である。一態様では、このコンピュータ実装インタラクティブ外科用システムは、外科用ハブ、外科用器具、ロボットデバイス、及び手術室又は医療施設を含む様々な外科用システムの動作に関するデータをモニタリング及び分析するように構成され得る。コンピュータ実装インタラクティブ外科用システムは、クラウドベースの分析システムを含み得る。クラウドベースの分析システムは、外科用システムとして記載され得るが、必ずしもそのように限定されるものではなく、一般的にクラウドベースの医療システムであってもよい。図11に示すように、クラウドベースの分析システムは、(器具112と同じ又は類似であってもよい)複数の外科用器具7012と、(ハブ106と同じ又は類似であってもよい)複数の外科用ハブ7006と、外科用ハブ7006を(クラウド204と同じ又は類似であってよい)クラウド7004に連結するための(ネットワーク201と同じ又は類似であってもよい)外科用データネットワーク7001と、を含み得る。複数の外科用ハブ7006のそれぞれは、1つ以上の外科用器具7012に通信可能に連結され得る。ハブ7006はまた、ネットワーク7001を介してコンピュータ実装インタラクティブ外科用システムのクラウド7004に通信可能に連結され得る。クラウド7004は、様々な外科用システムの動作に基づいて生成されたデータを記憶、操作、及び通信するためのハードウェア及びソフトウェアのリモートの集中型供給源であり得る。図11に示すように、クラウド7004へのアクセスはネットワーク7001を介して達成されてもよく、このネットワーク7001は、インターネットであってもよく、又は他の好適なコンピュータネットワークであってもよい。クラウド7004に連結され得る外科用ハブ7006は、クラウドコンピューティングシステムのクライアント側(すなわち、クラウドベースの分析システム)と見なすことができる。外科用器具7012は、本明細書に記載される様々な外科処置又は動作の制御及び実施のために、外科用ハブ7006とペアリングされ得る。
加えて、外科用器具7012は、(これも送受信機を備え得る)対応する外科用ハブ7006へのデータ伝送、及び外科用ハブ7006からのデータ伝送のための送受信機を備えてもよい。外科用器具7012と対応するハブ7006との組み合わせは、医療手術を提供するための医療施設(例えば、病院)内の手術室などの、特定の位置を示すことができる。例えば、外科用ハブ7006のメモリは、位置データを記憶することができる。図11に示すように、クラウド7004は、(リモートサーバ7013と同じ又は同様であってもよい)中央サーバ7013、ハブアプリケーションサーバ7002、データ分析モジュール7034、及び入出力(「I/O」)インターフェース7006を含む。クラウド7004の中央サーバ7013は、クラウドコンピューティングシステムを集合的に管理し、これは、クライアントモジュール7006による要求をモニタリングし、その要求を実行するためのクラウド7004の処理能力を管理することを含む。中央サーバ7013のそれぞれは、ランダムアクセスメモリ(RAM)などの揮発性メモリ及び磁気記憶デバイスなどの不揮発性メモリを含むことができる、好適なメモリデバイス7010に連結された1つ以上のプロセッサ7008を備え得る。メモリデバイス7010は、実行されると、プロセッサ7008に、クラウドベースのデータ分析、動作、推奨、及び以下で説明するその他の動作のためのデータ分析モジュール7034を実行させる、機械実行可能命令を含み得る。更に、プロセッサ7008は、独立して、又はハブ7006によって独立して実行されるハブアプリケーションと併せて、データ分析モジュール7034を実行することができる。中央サーバ7013はまた、メモリ2210内に存在し得る集約された医療データのデータベース2212を含み得る。
ネットワーク7001を介した様々な外科用ハブ7006への接続に基づいて、クラウド7004は、様々な外科用器具7012及びそれらの対応するハブ7006によって生成された具体的データから、データを集約することができる。そのような集約されたデータは、クラウド7004の集約された医療データベース7012内に記憶されてもよい。具体的には、クラウド7004は、有利にも、集約されたデータ上でデータ分析及び動作を実行して、洞察をもたらし、かつ/又は個別のハブ7006がそれ自体では達成できない場合がある機能を行うことができる。この目的のために、図11に示すように、クラウド7004と外科用ハブ7006とは、情報を送受信するために通信可能に連結されている。I/Oインターフェース7006は、ネットワーク7001を介して複数の外科用ハブ7006に接続される。このようにして、I/Oインターフェース7006は、外科用ハブ7006と集約された医療データのデータベース7011との間で情報を転送するように構成することができる。したがって、I/Oインターフェース7006は、クラウドベースの分析システムの読み出し/書き込み動作を容易にすることができる。このような読み出し/書き込み動作は、ハブ7006からの要求に応じて実行されてもよい。これらの要求は、ハブアプリケーションを介してハブ7006に送信され得る。I/Oインターフェース7006は、ユニバーサルシリアルバス(USB)ポート、IEEE1394ポート、並びにクラウド7004をハブ7006に接続するためのWi-Fi及びBluetooth I/Oインターフェースを含んでもよい1つ以上の高速データポートを含んでもよい。クラウド7004のハブアプリケーションサーバ7002は、外科用ハブ7006によって実行されるソフトウェアアプリケーション(例えば、ハブアプリケーション)に共有機能をホストし、かつ供給するように構成され得る。例えば、ハブアプリケーションサーバ7002は、ハブアプリケーションによるハブ7006を介する要求を管理し、集約された医療データのデータベース7011へのアクセスを制御し、負荷分散を実行し得る。データ分析モジュール7034について、図12を参照して更に詳細に説明する。
本開示に記載される特定のクラウドコンピューティングシステムの構成は、具体的には、外科用器具7012、112などの医療用デバイスを使用して実行される医療手術及び処置のコンテキストにおいて生じる様々な問題に対処するように設計され得る。特に、外科用器具7012は、外科手術の成績を改善するための技術を実施するために、クラウド7004と相互作用するように構成されたデジタル外科用デバイスであってよい。様々な外科用器具7012及び/又は外科用ハブ7006は、臨床医が外科用器具7012とクラウド7004との間の相互作用の態様を制御できるように、タッチ制御されたユーザインターフェースを含み得る。聴覚的に制御されたユーザインターフェースなどの制御のための他の好適なユーザインターフェースもまた使用することもできる。
図12は、本開示の少なくとも1つの態様による、コンピュータ実装インタラクティブ外科用システムの機能アーキテクチャを示すブロック図である。クラウドベースの分析システムは、医療分野において特に生じる問題にデータ分析ソリューションを提供するために、クラウド7004のプロセッサ7008によって実行され得る複数のデータ分析モジュール7034を含み得る。図12に示すように、クラウドベースのデータ分析モジュール7034の機能は、外科用ハブ7006上でアクセスすることができるハブアプリケーションサーバ7002によってホストされたハブアプリケーション7014を介して支援されてもよい。クラウドプロセッサ7008及びハブアプリケーション7014は、データ分析モジュール7034を実行するために連携して動作してもよい。アプリケーションプログラムインターフェース(application program interface、API)7016は、ハブアプリケーション7014に対応する一連のプロトコル及びルーチンを規定し得る。加えて、API7016は、アプリケーション7014の動作のために集約された医療データベース7012へのデータの記憶及び検索を管理し得る。キャッシュ7018はまた、データを(例えば、一時的に)記憶してもよく、アプリケーション7014によって使用されるデータのより効率的な検索のためにAPI7016に連結されてもよい。図12のデータ分析モジュール7034は、リソース最適化7020、データ収集及び集約7022、認可及びセキュリティ7024、制御プログラムのアップデート7026、患者転帰分析7028、推奨7030、並びにデータ分類及び優先順位付け7032のためのモジュールを含み得る。他の好適なデータ分析モジュールも、いくつかの態様により、クラウド7004によって実装され得る。一態様では、データ分析モジュールは、傾向、転帰、及び他のデータの分析に基づいて、具体的な推奨事項を提供するために使用され得る。
例えば、データ収集及び集約モジュール7022は、顕著な特徴又は構成(例えば、傾向)の識別、冗長データセットの管理、及び手術によってグループ化することができるが、必ずしも実際の外科手術日付及び外科医に一致していないペアリングされたデータセットへのデータの保存を含む、自己記述型データ(例えば、メタデータ)を生成するために使用され得る。特に、外科用器具7012の動作から生成される対のデータセットは、例えば、出血又は非出血事象などの二項分類を適用することを含み得る。より一般的には、二項分類は、望ましい事象(例えば、成功した外科処置)又は望ましくない事象(例えば、誤発射又は誤使用された外科用器具7012)のいずれかとして特徴付けられ得る。集約された自己記述型データは、外科用ハブ7006の様々なグループ又はサブグループから受信された個々のデータに対応し得る。したがって、データ収集及び集約モジュール7022は、外科用ハブ7006から受信した生データに基づいて、集約メタデータ又はその他の編成されたデータを生成することができる。この目的のために、プロセッサ7008は、データ分析モジュール7034を実行するために、ハブアプリケーション7014及び集約された医療データのデータベース7011に動作的に連結することができる。データ収集及び集約モジュール7022は、集約された編成データを集約された医療データのデータベース2212に記憶してよい。
リソース最適化モジュール7020は、この集約されたデータを分析して、特定の医療施設又は医療施設のグループに関するリソースの最適な使用を決定するように構成することができる。例えば、リソース最適化モジュール7020は、外科用ステープル留め器具7012の対応する予測される要求に基づいて、医療施設のグループに関する外科用ステープル留め器具7012の最適な発注点を決定することができる。リソース最適化モジュール7020はまた、リソース使用を改善することができるかどうかを判定するために、様々な医療施設のリソース使用又は他の動作構成を評価することができる。同様に、推奨モジュール7030は、データ収集及び集約モジュール7022から集約された編成データを分析して推奨を提供するように構成することができる。例えば、推奨モジュール7030は、特定の外科用器具7012が、例えば、誤り率が予測よりも高いことに基づいて改善されたバージョンにアップグレードされるべきであることを、医療施設(例えば、病院などの医療サービス提供者)に推奨することができる。加えて、推奨モジュール7030及び/又はリソース最適化モジュール7020は、製品再注文点などのより良好なサプライチェーンパラメータを推奨し、異なる外科用器具7012、その使用、又は手術結果を改善する処置工程の提案を提供することができる。医療施設は、対応する外科用ハブ7006を介してそのような推奨を受信することができる。様々な外科用器具7012のパラメータ又は構成に関する、より具体的な推奨事項もまた提供することができる。ハブ7006及び/又は外科用器具7012はそれぞれ、クラウド7004によって提供されるデータ又は推奨事項を表示するディスプレイスクリーンを有することもできる。
患者転帰分析モジュール7028は、外科用器具7012の現在使用されている動作パラメータに関連付けられた手術結果を分析することができる。患者転帰分析モジュール7028はまた、他の潜在的な動作パラメータを分析し、かつ評価してもよい。これに関連して、推奨モジュール7030は、より良好な封止又はより少ない出血などの、より良好な手術結果をもたらすことに基づいて、これらの他の潜在的な動作パラメータを使用して推奨することができる。例えば、提案モジュール7030は、対応するステープル留め外科用器具7012に特定のカートリッジを使用するときに関する提案を外科用7006に送信することができる場合もある。したがって、クラウドベースの分析システムは、共通変数を制御しながら、収集された大規模な生データを分析し、複数の医療施設にわたって(有利には、集約されたデータに基づいて決定される)集中的推奨を提供するように構成され得る。例えば、クラウドベースの分析システムは、医療行為の種類、患者の種類、患者の数、同様の種類の器具を使用する医療提供者間の地理的類似性などを、1つの医療施設が単独で独立して分析することはできない方法で、分析、評価、及び/又は集約することができる。制御プログラムアップデートモジュール7026は、対応する制御プログラムがアップデートされたときに、様々な外科用器具7012の推奨を実施するように構成することができる。例えば、患者転帰分析モジュール7028は、特定の制御パラメータを成功した(又は失敗した)結果と結び付ける相関関係を識別することができる。そのような相関関係は、アップデートされた制御プログラムが制御プログラムアップデートモジュール7026を介して外科用器具7012に送信されるときに対処され得る。対応するハブ7006を介して送信され得る器具7012へのアップデートは、クラウド7004のデータ収集及び集約モジュール7022によって収集されかつ分析された集約された成績データを組み込んでもよい。加えて、患者転帰分析モジュール7028及び推奨モジュール7030は、集約された成績データに基づいて、器具7012を使用する改善された方法を識別することができる。
クラウドベースの分析システムは、クラウド7004によって実装されるセキュリティ機能を含んでもよい。これらのセキュリティ機能は、認可及びセキュリティモジュール7024によって管理され得る。各外科用ハブ7006は、ユーザ名、パスワード、及びその他の好適なセキュリティ資格情報などの関連する固有の資格情報を有することができる。これらの資格情報は、メモリ7010に記憶され、許可されたクラウドアクセスレベルに関連付けることができる。例えば、正確な資格情報を提供することに基づいて、外科用ハブ7006は、クラウドと所定の範囲まで通信するアクセスを付与され得る(例えば、特定の定義された種類の情報の送信又は受信を行ってよい)。この目的のために、クラウド7004の集約された医療データのデータベース7011は、提供された資格情報の正確さを検証するための認定された資格情報のデータベースを含んでもよい。異なる資格情報は、クラウド7004によって生成されたデータ分析を受信するための所定のアクセスレベルなど、クラウド7004との相互作用のための様々なレベルの許可に関連付けられてよい。更に、セキュリティ目的のために、クラウドは、ハブ7006、器具7012、及び禁止されたデバイスの「ブラックリスト」を含み得るその他のデバイスのデータベースを維持することができる。具体的には、ブラックリスト上に列挙された外科用ハブ7006は、クラウドと相互作用することを許可されなくてもよい一方で、ブラックリスト上に列挙された外科用器具7012は、対応するハブ7006への機能的アクセスを有さなくてもよく、かつ/又は対応するハブ7006とペアリングされたときに完全に機能することが防止されてもよい。追加的に又は代替的に、クラウド7004は、不適合性又はその他の指定された基準に基づいて、器具7012にフラグを立ててもよい。このようにして、偽造医療用デバイス、及びそのようなデバイスの、クラウドベースの分析システム全体での不適切な再使用を識別し、対処することができる。
外科用器具7012は、無線送受信機を使用して、例えば、対応するハブ7006及びクラウド7004へのアクセスのための認可資格情報を表し得る無線信号を送信してもよい。有線送受信機も、信号を送信するために使用することができる。そのような認可資格情報は、外科用器具7012のそれぞれのメモリデバイスに記憶することができる。認可及びセキュリティモジュール7024は、認可資格情報が正確であるか又は偽造であるかを判定することができる。認可及びセキュリティモジュール7024はまた、強化されたセキュリティのために、認可資格情報を動的に生成してもよい。資格情報はまた、ハッシュベースの暗号化を使用することなどによって、暗号化することができる場合もある。適切な認可を送信すると、外科用器具7012は、対応するハブ7006及び最終的にはクラウド7004に信号を送信して、器具7012が医療データを取得して送信する準備ができていることを示すことができる。これに応答して、クラウド7004は、集約された医療データのデータベース7011に記憶するための医療データを受信することが可能な状態に遷移し得る。このデータ伝送準備は、例えば、器具7012上の光インジケータによって示すことができる。クラウド7004はまた、それらの関連する制御プログラムをアップデートするために、外科用器具7012に信号を送信することができる。クラウド7004は、制御プログラムに対するソフトウェアアップデートが適切な外科用器具7012にのみ送信されるように、特定の部類の外科用器具7012(例えば、電気外科器具)に向けられた信号を送信することができる。更に、クラウド7004は、選択的データ送信及び認可資格情報に基づいてローカル又はグローバルの問題に対処するために、システム全体のソリューションを実装するために使用することができる場合もある。例えば、外科用器具7012のグループが共通の製造欠陥を有するものとして識別される場合、クラウド7004は、このグループに対応する認可資格情報を変更して、このグループの動作ロックアウトを実施し得る。
クラウドベースの分析システムは、改善された実務を判定し、それに応じて変更を推奨する(例えば、提案モジュール2030を介して)ために、複数の医療施設(例えば、病院のような医療施設)をモニタリングすることを可能にし得る。したがって、クラウド7004のプロセッサ7008は、個々の医療施設に関連付けられたデータを分析して、施設を識別し、そのデータを他の医療施設に関連付けられた他のデータと集約することができる。グループは、例えば、同様の操作行為又は地理的位置に基づいて規定し得る。このようにして、クラウド7004は、医療施設グループに幅広い分析及び推奨を提供することができる。クラウドベースの分析システムはまた、強化された状況認識のために使用することもできる。例えば、プロセッサ7008は、(全体的な動作及び/又は様々な医療処置と比較して)特定の施設に対するコスト及び有効性に関する推奨の効果を予測的にモデル化してもよい。その特定の施設に関連するコスト及び有効性はまた、他の施設又は任意のその他の同等の施設の対応するローカル領域と比較することもできる。
データ分類及び優先順位付けモジュール7032は、重大性(例えば、データに関連付けられた医療イベントの重篤度、意外さ、不審さ)に基づいてデータを優先順位付けして分類してもよい。この分類及び優先順位付けは、本明細書に記載されるクラウドベースの分析及び動作を改善するために、本明細書において説明される他のデータ分析モジュール7034の機能と併せて使用し得る。例えば、データ分類及び優先順位付けモジュール7032は、データ収集及び集約モジュール7022並びに患者転帰分析モジュール7028によって実行されるデータ分析に対する優先度を割り当てることができる。異なる優先順位レベルは、迅速応答のための上昇、特別な処理、集約された医療データのデータベース7011からの除外、又はその他の好適な応答などの、(緊急性のレベルに対応して)クラウド7004からの特定の応答をもたらすことができる。更に、必要に応じて、クラウド7004は、対応する外科用器具7012からの追加データのために、ハブアプリケーションサーバを介して要求(例えば、プッシュメッセージ)を送信することができる。プッシュメッセージは、支持又は追加のデータを要求するために、対応するハブ7006上に表示された通知をもたらすことができる。このプッシュメッセージは、クラウドが有意な不規則性又は外れ値を検出し、クラウドがその不規則性の原因を判定することができない状況で必要とされ得る。中央サーバ7013は、例えば、データが所定の閾値を超えて予測値と異なると判定されたとき、又はセキュリティが含まれていたと見られる場合など、特定の重大な状況において、このプッシュメッセージをトリガするようにプログラムされることができる。
説明された様々な機能に関する更なる例示的な詳細を、以下の説明において提供する。様々な説明のそれぞれは、ハードウェア及びソフトウェアの実装の一実施例として図11及び図12に記載されるように、クラウドアーキテクチャを利用してもよい。
図13は、本開示の少なくとも1つの態様による、モジュール式デバイス9050のための制御プログラムのアップデートアップデートを適応的に生成するように構成されている、コンピュータ実装適応的外科用システム9060のブロック図を示す。いくつかの例示では、外科用システムは、外科用ハブ9000と、外科用ハブ9000に通信可能に連結された複数のモジュール式デバイス9050と、外科用ハブ9000に通信可能に連結された分析システム9100と、を含み得る。単一の外科用ハブ9000が示され得るが、外科用システム9060は、任意の数の外科用ハブ9000を含んでいてもよく、それらは、分析システム9010に通信可能に連結される外科用ハブ9000のネットワークを形成するように接続され得るということに留意されたい。いくつかの例示では、外科用ハブ9000は、記憶された命令を実行するためのメモリ9020に連結されたプロセッサ9010と、データがそれを通って分析システム9100に送信されるデータ中継インターフェース9030と、を含み得る。いくつかの例示では、外科用ハブ9000は、ユーザからの入力を受信するための入力デバイス9092(例えば、静電容量タッチスクリーン又はキーボード)と、ユーザに出力を提供するための出力デバイス9094(例えば、ディスプレイスクリーン)と、を有する、ユーザインターフェース9090を更に含み得る。出力は、ユーザによって入力されたクエリからのデータ、所与の処置において使用するための製品又は製品の混合の提案、及び/又は外科処置前、外科処置間、若しくは外科処置後に行われるアクションのための命令を含むことができる。外科用ハブ9000は更に、モジュール式デバイス9050を外科用ハブ9000に通信可能に連結するためのインターフェース9040を含み得る。一態様では、インターフェース9040は、無線通信プロトコルを介してモジュール式デバイス9050に通信可能に接続可能な送受信機を含み得る。モジュール式デバイス9050は、例えば、外科用ステープル留め器具及び切断器具、電気外科用器具、超音波器具、吸入器、人工呼吸器、並びにディスプレイスクリーンを含むことができる。いくつかの例示では、外科用ハブ9000は更に、例えば、EKGモニタ又はBPモニタなどの、1つ以上の患者モニタリングデバイス9052に通信可能に連結されることができる。いくつかの例示では、外科用ハブ9000は更に、外科用ハブ9000が位置する医療施設のEMRデータベースなどの1つ以上のデータベース9054又は外部コンピュータシステムに、通信可能に連結されることができる。
モジュール式デバイス9050が外科用ハブ9000に接続されると、外科用ハブ9000は、モジュール式デバイス9050から周術期データを感知又は受信し、次いで、受信した周術期データを外科処置結果データと関連付けることができる。周術期データは、外科処置の過程でモジュール式デバイス9050がどのように制御されたかを示し得る。処置結果データは、外科処置(又はその工程)からの結果に関連付けられたデータを含み、それは、外科処置(又はその工程)が肯定的な結果を有したか又は否定的な結果を有したかを含むことができる。例えば、結果データは、患者が特定の処置による術後合併症に罹患したかどうか、又は特定のステープルライン若しくは切開線において漏出(例えば、出血又は空気漏出)があったかどうかを含むことができる。外科用ハブ9000は、外部ソースから(例えば、EMRデータベース9054から)データを受信することによって、結果を(例えば、接続されたモジュール式デバイス9050のうちの1つを介して)直接検出することによって、又は状況認識システムを通して結果の発生を推測することによって、外科処置結果データを取得することができる。例えば、術後合併症に関するデータをEMRデータベース9054から検索することができ、ステープルライン又は切開線の漏れに関するデータを状況認識システムによって直接検出又は推測することができるであろう。外科処置結果データは、モジュール式デバイス9050自体、患者モニタリングデバイス9052、及び外科用ハブ9000が接続されるデータベース9054を含む、種々のデータソースから受信されるデータから、状況認識システムによって推測されることができる。
外科用ハブ9000は、関連付けられたモジュール式デバイス9050のデータ及び結果データを、分析システム9100上で処理するために分析システム9100に送信することができる。モジュール式デバイス9050がどのように制御されるかを示す周術期データと、処置結果データとの両方を送信することによって、分析システム9100は、モジュール式デバイス9050を制御する異なる様式を、特定の処置タイプのための手術結果と相関させることができる。いくつかの例示では、分析システム9100は、外科用ハブ9000からデータを受信するように構成された解析サーバ9070のネットワークを含んでもよい。分析サーバ9070の各々は、メモリと、メモリに連結され、受信されたデータを分析するためにそこに記憶された命令を実行しているプロセッサと、を含むことができる。いくつかの例示では、分析サーバ9070は、分散コンピューティングアーキテクチャで接続されてもよく、かつ/又はクラウドコンピューティングアーキテクチャを利用してもよい。次に、この対にされたデータに基づいて、分析システム9100は、様々なタイプのモジュール式デバイス9050のための最適又は好ましい動作パラメータを学習し、現場のモジュール式デバイス9050の制御プログラムに対する調整を生成し、次いで、モジュール式デバイス9050の制御プログラムに対するアップデートを送信(又は「プッシュ」)することができる。
外科用ハブ9000及びそれに接続可能な種々のモジュール式デバイス9050を含む、コンピュータ実装インタラクティブ外科用システム9060に関する更なる詳細は、図5~図6に関連して説明される。
図14は、本開示による外科用システム6500を提供し、その外科用システム6500は、外科用器具6502を含んでいてもよく、その外科用器具6502は、ローカルエリアネットワーク6518又はクラウドネットワーク6520を通じて、コンソール6522又はポータブルデバイス6526と、有線接続若しくは無線接続を介して通信することができるようになっている。様々な態様では、コンソール6522及びポータブルデバイス6526は、任意の好適なコンピューティングデバイスであり得る。外科用器具6502は、ハンドル6504と、アダプタ6508と、装填ユニット6514と、を含み得る。アダプタ6508は、ハンドル6504に解放可能に連結し、装填ユニット6514は、アダプタ6508が駆動シャフトから装填ユニット6514に力を伝達するように、アダプタ6508に解放可能に連結する。アダプタ6508又は装填ユニット6514は、装填ユニット6514に及ぼされる力を測定するために、その中に配設される力ゲージ(明示的に図示せず)を含んでもよい。装填ユニット6514は、第1のジョー6532及び第2のジョー6534を含むエンドエフェクタ6530を含み得る。装填ユニット6514は、装填ユニット6514を再装填するために装填ユニット6514が手術部位から除去される必要なく、臨床医が複数の締結具を複数回発射することを可能にする、現位置装填又はマルチ発射装填ユニット(multi-firing loading unit、MFLU)であってもよい。
第1のジョー6532及び第2のジョー6534は、それらの間に組織をクランプし、クランプされた組織を通して締結具を発射し、クランプされた組織を切断するように構成され得る。第1のジョー6532は、少なくとも1つの締結具を複数回発射するように構成されてもよいか、又は交換される前に2回以上発射されてもよい複数の締結具(例えば、ステープル、クリップなど)を含む交換可能なマルチ発射型締結具カートリッジを含むように構成されてもよい。第2のジョー6534は、締結具がマルチ発射型締結具カートリッジから排出される際に、締結具を変形させるか、又は他のやり方で組織の周りに固定するアンビルを含み得る。
ハンドル6504は、駆動シャフトの回転に影響を及ぼすように駆動シャフトに連結されるモータを含み得る。ハンドル6504は、モータを選択的に起動するための制御インターフェースを含み得る。制御インターフェースは、ボタン、スイッチ、レバー、スライダ、タッチスクリーン、及び任意の他の好適な入力機構又はユーザインターフェースを含んでもよく、これらは、モータを起動するために臨床医によって作動され得る。
ハンドル6504の制御インターフェースは、ハンドル6504のコントローラ6528と通信して、モータを選択的に起動させ、駆動シャフトの回転に影響を及ぼすことができる。コントローラ6528は、ハンドル6504内に配設されてもよく、制御インターフェースからの入力、及びアダプタ6508からのアダプタデータ、又は装填ユニット6514からの装填ユニットデータを受信するように構成される。コントローラ6528は、モータを選択的に起動するために、制御インターフェースからの入力と、アダプタ6508及び/又は装填ユニット6514から受信されたデータとを分析し得る。ハンドル6504はまた、ハンドル6504の使用中に臨床医が見ることができるディスプレイを含み得る。ディスプレイは、器具6502の発射前、発射中、又は発射後に、アダプタデータ又は装填ユニットデータの一部を表示するように構成されてもよい。
アダプタ6508は、その中に配置されるアダプタ識別デバイス6510を含んでもよく、装填ユニット6514は、その中に配設される装填ユニット識別デバイス6516を含む。アダプタ識別デバイス6510は、コントローラ6528と通信してもよく、装填ユニット識別デバイス6516は、コントローラ6528と通信してもよい。装填ユニット識別デバイス6516は、装填ユニット識別デバイス6516からコントローラ6528への通信を中継又は通過させるアダプタ識別デバイス6510と通信し得るということが理解されるであろう。
アダプタ6508はまた、アダプタ6508又は環境の種々の状態(例えば、アダプタ6508が装填ユニットに接続されている場合、アダプタ6508がハンドルに接続されている場合、駆動シャフトが回転している場合、駆動シャフトのトルク、駆動シャフトの歪み、アダプタ6508内の温度、アダプタ6508の発射回数、発射中のアダプタ6508のピーク力、アダプタ6508に印加される力の総量、アダプタ6508のピーク後退力、発射中のアダプタ6508の休止回数など)を検出するために、その周囲に配設される複数のセンサ6512(1つが図示されている)を含んでもよい。複数のセンサ6512は、アダプタ識別デバイス6510に、入力をデータ信号の形態で提供することができる。複数のセンサ6512のデータ信号は、アダプタ識別デバイス6510内に記憶されてもよいか、又はアダプタ識別デバイス6510内に記憶されたアダプタデータをアップデートするために使用されてもよい。複数のセンサ6512のデータ信号は、アナログ又はデジタルであってもよい。複数のセンサ6512は、発射中に装填ユニット6514に及ぼされる力を測定するための力ゲージを含んでもよい。
ハンドル6504及びアダプタ6508は、電気インターフェースを介して、アダプタ識別デバイス6510及び装填ユニット識別デバイス6516をコントローラ6528と相互接続するように構成され得る。電気的インターフェースは、直接的な電気インターフェースであってもよい(すなわち、エネルギー及び信号をそれらの間で伝送するために互いに係合する電気接点を含み得る)。加えて、又は代替として、電気インターフェースは、エネルギー及び信号をそれらの間で無線伝送する(例えば、誘導伝送する)ための非接触型電気インターフェースであってもよい。アダプタ識別デバイス6510及びコントローラ6528は、電気インターフェースとは別個の無線接続を介して互いに無線通信し得るということも企図される。
ハンドル6504は、コントローラ6528からシステム6500の他の構成要素(例えば、LAN6518、クラウド6520、コンソール6522、又はポータブルデバイス6526)に器具データを送信するように構成された送信機6506を含み得る。送信機6506はまた、システム6500の他の構成要素からデータ(例えば、カートリッジデータ、装填ユニットデータ、又はアダプタデータ)を受信し得る。例えば、コントローラ6528は、ハンドル6504に取り付けられている、取り付けられたアダプタ(例えば、アダプタ6508)のシリアル番号、アダプタに取り付けられた装填ユニット(例えば、装填ユニット6514)のシリアル番号、及び装填ユニットに装填されたマルチ発射型締結具カートリッジ(例えば、マルチ発射型締結具カートリッジ)のシリアル番号を含む器具データを、コンソール6528に送信してもよい。その後、コンソール6522は、取り付けられたカートリッジ、装填ユニット、及びアダプタにそれぞれ関連付けられたデータ(例えば、カートリッジデータ、装填ユニットデータ、又はアダプタデータ)を、コントローラ6528に返信し得る。コントローラ6528は、ローカル器具ディスプレイ上にメッセージを表示するか、又は送信機6506を介してコンソール6522又はポータブルデバイス6526にメッセージを送信して、それぞれディスプレイ6524又はポータブルデバイススクリーン上にメッセージを表示することができる。
図15Aは、動作モードを決定し、決定されたモードで動作するための例示的なフローを示す。コンピュータ実装インタラクティブ外科用システム、並びに/又はコンピュータ実装インタラクティブ外科用システムの構成要素及び/若しくはサブシステムは、アップデートされるように構成されてもよい。そのようなアップデートは、アップデート前にユーザに利用可能でなかった機能及び利益の包含を含み得る。これらのアップデートは、ユーザに機能を導入するのに好適なハードウェア、ファームウェア、及びソフトウェアのアップデートの任意の方法によって確立することができる。例えば、交換可能/スワップ可能(例えば、ホットスワップ可能)なハードウェア構成要素、フラッシュ可能なファームウェアデバイス、及びアップデート可能なソフトウェアシステムを使用して、コンピュータ実装インタラクティブ外科用システム、並びに/又はコンピュータ実装インタラクティブ外科用システムの構成要素及び/若しくはサブシステムをアップデートし得る。
アップデートは、任意の好適な基準又は基準のセットを条件とすることができる。例えば、アップデートは、処理能力、帯域幅、解像度など、システムの1つ以上のハードウェア能力を条件とすることができる。例えば、アップデートは、あるソフトウェアコードの購入など、1つ以上のソフトウェア態様を条件とすることができる。例えば、アップデートは、購入されたサービス階層を条件とすることができる。サービス階層は、ユーザがコンピュータ実装インタラクティブ外科用システムに関連して使用する資格がある1つの機能及び/又は一組の機能を表してもよい。サービス階層は、ライセンスコード、eコマースサーバ認証インタラクション、ハードウェア鍵、ユーザ名/パスワードの組み合わせ、生体認証インタラクション、公開/秘密鍵交換インタラクションなどによって決定され得る。
10704において、システム/デバイスパラメータが識別され得る。システム/デバイスパラメータは、アップデートが条件付けられる任意の要素又は要素のセットであり得る。例えば、コンピュータ実装インタラクティブ外科用システムは、モジュール式デバイスと外科用ハブとの間の通信のある帯域幅を検出してもよい。例えば、コンピュータ実装インタラクティブ外科用システムは、特定のサービス階層の購入を表す指標を検出してもよい。
10708において、動作モードが、識別されたシステム/デバイスパラメータに基づいて決定され得る。この決定は、システム/デバイスパラメータを動作モードにマッピングするプロセスによって行われ得る。プロセスは、手動プロセス及び/又は自動プロセスであり得る。プロセスは、ローカルでの計算及び/又はリモートでの計算の結果であってよい。例えば、クライアント/サーバインタラクションを使用し、識別されたシステム/デバイスパラメータに基づいて、動作モードを決定することができる。例えば、ローカルソフトウェア及び/又はローカルに埋め込まれたファームウェアが、識別されたシステム/デバイスパラメータに基づいて動作モードを決定するために使用され得る。例えば、セキュアなマイクロプロセッサなどのハードウェアキーを使用し、識別されたシステム/デバイスパラメータに基づいて、動作モードを決定することができる。
10710において、決定された動作モードに従って、動作が進行し得る。例えば、システム又はデバイスは、デフォルトの動作モードで動作するように進み得る。例えば、システム又はデバイスは、代替的動作モードで動作するように進んでもよい。動作モードは、システム又はデバイス内に既に存在する制御ハードウェア、ファームウェア、及び/又はソフトウェアによって指示され得る。動作モードは、新しくインストール/アップデートされた制御ハードウェア、ファームウェア、及び/又はソフトウェアによって指示されてもよい。
図15Bは、動作モードを変更するための、例示的な機能ブロック図を示す。アップグレード可能な要素10714は、初期化構成要素10716を含み得る。初期化構成要素10716は、動作モードを決定するのに好適な任意のハードウェア、ファームウェア、及び/又はソフトウェアを含み得る。例えば、初期化構成要素10716は、システム又はデバイスのスタートアップ手順の一部であり得る。初期化構成要素10716は、アップグレード可能な要素10714の動作モードを決定するためのインタラクションに関与してもよい。例えば、初期化構成要素10716は、例えば、ユーザ10730、外部リソース10732、及び/又はローカルリソース10718とインタラクションすることができる。例えば、初期化構成要素10716は、ユーザ10730からライセンスキーを受信して、動作モードを決定することができる。初期化構成要素10716は、動作モードを決定するために、アップグレード可能なデバイス10714のシリアル番号を用いて、例えば、サーバなどの外部リソース10732にクエリを行ってもよい。例えば、初期化構成要素10716は、利用可能な帯域幅の量を決定するためのローカルクエリ及び/又は、例えば、動作モードを決定するためのハードウェアキーのローカルクエリなど、ローカルリソース10718にクエリを行ってもよい。
アップグレード可能な要素10714は、1つ以上の動作構成要素10720、10722、10726、10728及び動作ポインタ10724を含み得る。初期化構成要素10716は、アップグレード可能要素10741の動作を、決定された動作モードに対応する動作構成要素10720、10722、10726、10728に指示するように、動作ポインタ10724に指示してもよい。初期化構成要素10716は、アップグレード可能な要素の動作をデフォルト動作構成要素10720に指示するように、動作ポインタ10724に指示してもよい。例えば、デフォルト動作構成要素10720は、他の代替的動作モードが決定されていないという条件で選択されてもよい。例えば、デフォルト動作構成要素10720は、初期化構成要素の不良及び/又はインタラクション不良という条件で選択されてもよい。初期化構成要素10716は、アップグレード可能要素10714の動作を、常駐動作構成要素10722に指示するように、動作ポインタ10724に指示してもよい。例えば、特定の機能は、アップグレード可能な構成要素10714に常駐していてもよいが、動作させるためには起動を必要とする。初期化構成要素10716は、新たな動作構成要素10728及び/又は新たにインストールされた動作構成要素10726をインストールするように、アップグレード可能要素10714の動作を指示するために、動作ポインタ10724に指示してもよい。例えば、新しいソフトウェア及び/又はファームウェアがダウンロードされてもよい。新しいソフトウェア及び/又はファームウェアは、選択された動作モードによって表される機能を有効にするコードを含み得る。例えば、新しいハードウェア構成要素をインストールして、選択された動作モードを有効にすることができる。
図16A~図16D及び図17A~図17Fは、外科用システムに組み込まれ得る可視化システム2108の一例の様々な態様を示す。可視化システム2108は、撮像制御ユニット2002及びハンドユニット2020を含み得る。撮像制御ユニット2002は、1つ以上の照明源、1つ以上の照明源のための電源、1つ以上の種類のデータ通信インターフェース(USB、イーサネット、又は無線インターフェース2004を含む)、及び1つ以上の映像出力2006を含み得る。撮像制御ユニット2002は、USB対応デバイスに統合映像及び画像捕捉データを送信するように構成された、USBインターフェース2010などのインターフェースを更に含み得る。撮像制御ユニット2002はまた、プロセッサユニット、一時メモリユニット、非一時メモリユニット、画像処理ユニット、計算構成要素の中でデータリンクを形成するためのバス構造、撮像制御ユニットから情報を受信し、撮像制御ユニットに含まれない構成要素に情報を送信するために必要な任意のインターフェース(例えば、入力及び/又は出力)デバイスが挙げられるが、これらに限定されない、1つ以上の計算構成要素を含み得る。非一時的なメモリは、プロセッサユニットによって実行されると、ハンドユニット2020及び/又は撮像制御ユニットに含まれない計算デバイスから受信され得るデータが、任意の数の操作を実行することができる命令を更に含んでもよい。
照明源は、白色光源2012及び1つ以上のレーザ光源を含み得る。撮像制御ユニット2002は、ハンドユニット2020との光学的通信及び/又は電気的通信のための1つ以上の光学インターフェース及び/又は電気的インターフェースを含んでもよい。1つ以上のレーザ光源は、非限定的な例として、赤色レーザ光源、緑色レーザ光源、青色レーザ光源、赤外線レーザ光源、及び紫外線レーザ光源のうちの任意の1つ以上を含み得る。いくつかの非限定的な例では、赤色レーザ光源は、635nm~660nmの、両端の値を含む範囲であり得るピーク波長を有する照明を供給してもよい。赤色レーザピーク波長の非限定的な例は、約635nm、約640nm、約645nm、約650nm、約655nm、約660nm、又はそれらの間の任意の値若しくは値の範囲を含んでもよい。いくつかの非限定的な例では、緑色レーザ光源は、520nm~532nmの、両端の値を含む範囲であり得るピーク波長を有する照明を供給してもよい。緑色レーザピーク波長の非限定的な例は、約520nm、約522nm、約524nm、約526nm、約528nm、約530nm、約532nm、又はそれらの間の任意の値若しくは値の範囲を含んでもよい。いくつかの非限定的な例では、青色レーザ光源は、405nm~445nmの、両端の値を含む範囲であり得るピーク波長を有する照明を供給してもよい。青色レーザピーク波長の非限定的な例は、約405nm、約410nm、約415nm、約420nm、約425nm、約430nm、約435nm、約440nm、約445nm、又はそれらの間の任意の値若しくは値の範囲を含んでもよい。いくつかの非限定的な例では、赤外線レーザ光源は、750nm~3000nmの、両端の値を含む範囲であり得るピーク波長を有する照明を供給してもよい。赤外線レーザピーク波長の非限定的な例は、約750nm、約1000nm、約1250nm、約1500nm、約1750nm、約2000nm、約2250nm、約2500nm、約2750nm、3000nm、又はそれらの間の任意の値若しくは値の範囲を含んでもよい。いくつかの非限定的な例では、紫外線レーザ光源は、200nm~360nmの、両端の値を含む範囲であり得るピーク波長を有する照明を供給してもよい。紫外線レーザピーク波長の非限定的な例は、約200nm、約220nm、約240nm、約260nm、約280nm、約300nm、約320nm、約340nm、約360nm、又はそれらの間の任意の値若しくは値の範囲を含んでもよい。
非限定的な一態様では、ハンドユニット2020は、本体2021と、本体2021に取り付けられたカメラスコープケーブル2015と、細長いカメラプローブ2024と、を含んでもよい。ハンドユニット2020の本体2021は、ハンドユニット制御ボタン2022を含んでもよいか、又は医療専門家がハンドユニット2020を使用して、例えば、光源を含む、ハンドユニット2020又は撮像制御ユニット2002の他の構成要素の動作を制御することを可能にする他の制御部を含んでもよい。カメラスコープケーブル2015は、1つ以上の導電体及び1つ以上の光ファイバを含み得る。カメラスコープケーブル2015は、カメラヘッドコネクタ2008が撮像制御ユニット2002の1つ以上の光学インターフェース及び/又は電気インターフェースと嵌合するように構成されている近位端において、カメラヘッドコネクタ2008で終端してもよい。導電体は、本体2021及び細長いカメラプローブ2024を含むハンドユニット2020、並びに/又は、本体2021及び/若しくは細長いカメラプローブ2024を含むハンドユニット2020の内部の任意の電気構成要素に電力を供給してもよい。導電体はまた、任意の1つ以上の構成要素間の双方向データ通信を、ハンドユニット2020及び撮像制御ユニット2002に提供するように機能してもよい。1つ以上の光ファイバは、ハンドユニット本体2021を通って、細長いカメラプローブ2024の遠位端まで、撮像制御ユニット2002内の1つ以上の照明源からの照明を伝導してもよい。いくつかの非限定的な態様では、1つ以上の光ファイバはまた、手術部位から、細長いカメラプローブ2024、ハンドユニット本体2021、及び/又は撮像制御ユニット2002内に配設された1つ以上の光学センサに反射又は屈折された光を伝導してもよい。
図16B(平面図)は、可視化システム2108のハンドユニット2020のいくつかの態様をより詳細に示す。ハンドユニット本体2021は、プラスチック材料で構成されてもよい。ハンドユニット制御ボタン2022又は他の制御部は、外科医によって操作されることを可能にしながら、制御部を保護するためのゴムオーバーモールドを有してもよい。カメラスコープケーブル2015は、導電体と一体化された光ファイバを有してもよく、カメラスコープケーブル2015は、PVCなどの保護及び可撓性オーバーコートを有してもよい。いくつかの非限定的な例では、カメラスコープケーブル2015は、外科処置中に使いやすくするために、長さ約10フィートであってもよい。カメラスコープケーブル2015の長さは、約5フィート~約15フィートの範囲であってもよい。カメラスコープケーブル2015の長さの非限定的な例は、約5フィート、約6フィート、約7フィート、約8フィート、約9フィート、約10フィート、約11フィート、約12フィート、約13フィート、約14フィート、約15フィート、又はそれらの間の任意の長さ若しくは長さの範囲であってもよい。細長いカメラプローブ2024は、ステンレス鋼などの剛性材料から作製されてもよい。いくつかの態様では、細長いカメラプローブ2024は、回転可能なカラー2026を介してハンドユニット本体2021と接合されてもよい。回転可能なカラー2026は、細長いカメラプローブ2024をハンドユニット本体2021に対して回転させることを可能にし得る。いくつかの態様では、細長いカメラプローブ2024は、エポキシで封止されたプラスチック窓2028にて、遠位端で終端してよい。
図16Cに示されるハンドユニットの側面平面図は、光センサ又は画像センサ2030が、細長いカメラプローブの遠位端2032aに又はハンドユニット本体2032b内に配設され得ることを示す。いくつかの代替的な態様では、光センサ又は画像センサ2030は、撮像制御ユニット2002内に追加の光学素子と共に配設されてもよい。図16Cは、約4mmの半径を有するマウント2036内に配設されたCMOS画像センサ2034を備える、光センサ2030の例を更に示す。図16Dは、画像センサのアクティブエリア2038を示す、CMOS画像センサ2034の態様を示す。図16CのCMOS画像センサは、約4mmの半径を有するマウント2036内に配設されるように描かれているが、このようなセンサ及びマウントの組み合わせは、細長いカメラプローブ2024、ハンドユニット本体2021内に、又は画像制御ユニット2002内に配設される任意の有用なサイズであってもよいことが認識され得る。このような代替マウントのいくつかの非限定的な例としては、5.5mmのマウント2136a、4mmのマウント2136b、2.7mmのマウント2136c、及び2mmのマウント2136dが挙げられ得る。画像センサはまた、CCD画像センサを含んでもよいことが認識され得る。CMOSセンサ又はCCDセンサは、個々の光感知素子(画素)の配列を含んでもよい。
図17A~図17Fは、可視化システム2108に組み込まれ得る照明源及びそれらの制御のいくつかの例の、様々な態様を示す。
図17Aは、電磁エネルギーの複数の波長を放射する複数のレーザ束を有するレーザ照明システムの態様を示す。図からわかるように、照明システム2700は、光ファイバ2755を介して一緒に光学的に全てを結合する赤色レーザ束2720と、緑色レーザ束2730と、青色レーザ束2740と、を含むことができる。図からわかるように、レーザ束のそれぞれは、特定のレーザ束又は波長の出力を感知するための、対応する光感知素子又は電磁センサ2725、2735、2745をそれぞれ有することができる。
外科用可視化システム2108で使用するための図17Aに示されるレーザ照明システムに関する更なる開示は、2014年3月15日に出願の、「CONTROLLING THE INTEGRAL LIGHT ENERGY OF A LASER PULSE」と題する米国特許出願公開第2014/0268860号(2017年10月3日に米国特許第9,777,913号として発行)に見出すことができ、その内容は、その全体が、あらゆる目的のために、参照により本明細書に組み込まれる。
図17Bは、読み出しモードのローリングに使用されるセンサの動作サイクルを示す。X方向は、時間に対応し、斜線2202は、データの各フレームを読み取る内部ポインタの活動、1行ずつの時間を示すことが理解されるであろう。同じポインタは、次の露光期間の画素の各列をリセットすることに関与する。各列2219a~cの正味の積分時間は等価であるが、ローリングリセット及び読み出しプロセスにより、互いに対して時間的にずれている。したがって、異なる構成の光を表すために隣接するフレームが必要とされる任意のシナリオについて、各列に一貫性をもたせるための唯一の選択肢は、読み出しサイクル2230a~c間の光をパルスすることである。より具体的には、最大利用可能期間は、ブランキング時間と、フレームの開始又は終了時に光学的黒又は光学ブラインド(OB)列(2218、2220)がサービスされる時間との合計に対応する。
図17Bは、ローリング読み出しモードにて又はセンサ読み出し2200の間に使用されるセンサの、動作サイクルを示す。フレーム読み出しは、垂直線2210で開始され、それによって表され得る。読み出し期間は、対角線又は斜線2202で表される。センサは、列単位で読み出すことができ、下向きの斜縁の最上部は、センサ最上列2212であり、下向きの斜縁の最下部は、センサ最下列2214である。最後の列読み出しと次の読み出しサイクルとの間の時間は、ブランキング時間2216a~dと呼ばれることがある。ブランキング時間2216a~dは、成功の読み出しサイクル間で同じであってもよいか、又は成功の読み出しサイクル間で異なってもよいことが理解され得る。センサ画素列のうちのいくつかは、遮光体(例えば、金属コーティング又は任意のその他の、別の種類の材料の実質的黒の層)で覆われ得るということに留意されたい。これらの覆われた画素列は、光学的黒の列2218及び2220と称され得る。光学的黒の列2218及び2220は、補正アルゴリズムのための入力として使用することができる。
図17Bにて示すように、これらの光学的黒の列2218及び2220は、画素アレイの上部の上若しくは画素アレイの底部に、又は画素アレイの上部及び底部に配置され得る。いくつかの態様では、電磁放射線、例えば、画素に露光され、それにより、画素により積分される又は蓄積される、光の量を制御することが望ましい場合がある。光子は、電磁放射線の素粒子であることが理解されよう。光子は、各画素により積分、吸収、又は蓄積され、電荷又は電流に変換される。いくつかの態様では、電子シャッタ又はローリングシャッタを使用して、画素をリセットすることによって積分時間(2219a~c)を開始することができる。次に、光は、次の読み出し段階まで積分し得る。いくつかの態様では、電子シャッタの位置は、光の所与の量に対する画素飽和を制御するために、2つの読み出しサイクル2202の間で移動し得る。電子シャッタがないいくつかの代替的な態様では、入射光の積分時間2219a~cは、最初の読み出しサイクル2202中に開始することができ、次の積分の開始をも定義する次の読み出しサイクル2202にて終了し得る。いくつかの代替的な態様では、各画素によって蓄積された光の量は、ブランキング時間2216a~d中に光がパルスされた時間2230a~dによって制御されてもよい。これにより、全ての列は、同じ光パルス2230a~cに由来する同じ光を見ることができる。換言すれば、各列は、最大光パルス幅の読み出しフレーム(m)の光学的黒の後列2220にあってもよい第1の暗色環境2231においてその積分を開始し、次いで、光ストロボを受光し、最大光パルス幅のために次の後続の読み出しフレーム(m+1)の光学的黒の前列2218にあってもよい第2の暗色環境2232においてその積分を終了する。したがって、光パルス2230a~cから生成された画像は、フレーム(m)及び(m+2)とのいずれの干渉もなしに、フレーム(m+1)読み出し中にのみ利用可能であり得る。
1フレーム内でのみ読み取られ、かつ隣接フレームに干渉しない光パルス2230a~cを有する状態が、ブランキング時間2216中に、所与の光パルス2230a~cの発射を有する、という点に留意すべきである。光学的黒の列2218、2220は、光に対して非感応性であるので、光学的黒の後列2220のフレーム時間(m)及び光学的黒の前列2218のフレーム時間(m+1)をブランキング時間2216に追加して、光パルス2230の発射時間の最大範囲を決定することができる。
いくつかの態様では、図17Bは、従来のCMOSセンサによる連続フレーム捕捉のタイミング図の一例を示す。このようなCMOSセンサは、図17Cに示すように、カラーフィルタのベイヤーパターンを組み込んでよい。ベイヤーパターンは、色度よりも高い輝度詳細を提供するということが認識される。更に、画像の集約空間部分の色情報を生成するために、合計4つの隣接する画素が必要とされるため、センサは空間解像度が低減されていることが更に認識され得る。代替的なアプローチでは、色画像は、様々な中心光波長を有する様々な光源(レーザ又は発光ダイオードのいずれか)と共に高速で可視化領域を迅速にストロービングすることによって構築されてもよい。
光学ストロービングシステムは、カメラシステムの制御下にあってもよく、高速読み出しを有する特別に設計されたCMOSセンサを含んでもよい。主な利益は、センサが、従来のベイヤーカメラ又は3センサカメラと比較して、画素が著しく少ない状態で、同じ空間解像度を達成することができることである。したがって、画素アレイによって占有される物理空間を低減し得る。実際のパルス周期(2230a~c)は、図17Bに示すように、繰り返しパターン内で異なってもよい。これは、例えば、より大きな光エネルギーを必要とする構成要素又はより弱い光源を有する構成要素に、より大きな時間を配分するのに有用である。平均捕捉フレームレートが必要な最終システムフレームレートの整数倍である限り、データは、単に信号処理チェーン内で適宜バッファリングされてもよい。
これらの方法の全てを組み合わせることによって許容される範囲までCMOSセンサチップ領域を低減するための設備は、小径(約3~10mm)の内視鏡で特に魅力的である。具体的には、センサが空間拘束された遠位端内に位置している内視鏡設計が可能となり、それにより、高精細映像を提供しながら、光学部分の複雑さ及びコストを大幅に低減する。このアプローチの結果は、各最終的なフルカラー画像を再構築するために、データが3つの別個のスナップショットから時間的に融合されることを必要とする。対象物の縁が各捕捉された構成要素内のわずかに異なる位置に見えるため、内視鏡の参照の光学フレームに対してシーン内の任意の動きは、一般に、知覚解像度を低下させるであろう。本開示では、空間解像度が、色度情報よりも輝度情報にとって非常に重要であるという事実を利用する、この問題を減少させる手段が記載される。
このアプローチの基礎は、各フレーム中に単色光を発射する代わりに、3つの波長の組み合わせが、単一画像内の輝度情報の全てを提供するために使用されることである。色度情報は、例えば、Y-Cb-Y-Cr(図17D)などの反復パターンを有する別個のフレームから導出される。パルス比の賢い選択によって純粋な輝度データを提供することが可能であるが、色度には同じことが当てはまらない。
一態様では、図17Dに示すように、内視鏡システム2300aは、均一な画素を有する画素アレイ2302aを含んでもよく、システム2300aは、Y(輝度パルス)2304a、Cb(ChromaBlue)2306a及びCr(ChromaRed)2308aパルスを受信するように動作し得る。
フルカラー画像を完成させるためには、色度の2つの成分も提供される必要がある。しかしながら、RGB係数の一部が負であるという事実に反映されるように、輝度に適用された同じアルゴリズムは、符号化されているため、色度画像に直接適用することができない。この解決策は、最終的なパルスエネルギーの全てが正になる、十分な大きさの輝度を加えることである。ISPにおける色融合プロセスが、色度フレームの組成を認識している限り、それらは、隣接フレームから適切な量の輝度を減算することによってデコードすることができる。パルスエネルギー比率は、以下のとおりである。
Y=0.183・R+0.614・G+0.062・B
Cb=λ・Y-0.101・R-0.339・G+0.439・B
Cr=6・Y+0.439・R-0.399・G-0.040・B
λ≧0.399/0.614=0.552
δ≧0.339/0.614=0.650
λ係数が0.552に等しい場合には、赤色成分及び緑色成分の両方が正確に相殺され、その場合、Cb情報には純粋な青色光を提供することができるということが判明している。同様に、設定δ=0.650は、Crの青色成分及び緑色成分を相殺して、純粋な赤色になる。この特定の例は、図17Eに示されており、これはまた、λ及びδを、
Figure 2023544358000002
の整数倍として示す。これは、デジタルフレーム再構成にとって便利な近似値である。
Y-Cb-Y-Crパルス化スキームの場合、画像データは、既に、色融合後のYCbCr空間にある。したがって、この場合、色補正を実行するために線形RGBに変換する前に、前の輝度及び色度に基づく動作を実行することを意味する。
色融合プロセスは、空間補間がないため、ベイヤーパターン(図17Cを参照)によって必要とされるデモザイクよりも単純である。各画素に利用可能な必要な情報の全てを有するためには、フレームのバッファリングを必要とする。一般的な一態様では、Y-Cb-Y-Crパターンのデータは、2つの生の捕捉画像当たり1つのフルカラー画像を生成するようにパイプラインされてよい。これは、各色度サンプルを2回使用することによって達成される。図17Fでは、60Hzの最終映像を提供する120Hzフレーム捕捉速度の具体例が示されている。
外科用可視化システム108で使用するための図17B~図17Fに示される照明システムのレーザ構成要素の制御に関する更なる開示は、米国特許第9,516,239号として2016年12月6日に発行され、「YCBCR PULSED ILLUMINATION SCHEME IN A LIGHT DEFICIENT ENVIRONMENT」と題する、2013年7月26日出願の、米国特許出願公開第2014/0160318号、及び米国特許第9,743,016号として、2017年8月22日に発行された、「CONTINUOUS VIDEO IN A LIGHT DEFICIENT ENVIRONMENT」と題する、2013年7月26日出願の米国特許出願公開第2014/0160319号に見出すことができ、その内容は、その全体が参照により本明細書に組み込まれる。
表面下の血管の撮像
外科処置中に、所望の医療結果をもたらすために、外科医が組織を操作することが必要とされ得る。外科医の行為は、手術部位において視覚的に観察可能なものによって制限される。したがって、外科医は、例えば、処置中に操作されている組織の下にある血管構造の配置を認識しないおそれがある。
外科医は手術部位の下の血管構造を可視化できないため、外科医は、手術中に1つ以上の重要な血管を偶発的に切断するおそれがある。
したがって、提示が手術部位の表面の下に位置する血管構造の存在に関連する情報を含むことができる、外科医に提示するための手術部位の撮像データを取得することができる、外科用可視化システムを有することが望ましい。
本開示のいくつかの態様は、レーザ光源などの1つ以上の照明源を使用して手術部位の照明を制御し、1つ以上の画像センサから撮像データを受信するように構成された制御回路を更に提供する。いくつかの態様では、本開示は、実行されると、デバイスに組織内の血管を検出させ、組織の表面の下の深さを判定させる、コンピュータ可読命令を記憶する非一時的なコンピュータ可読媒体を提供する。
いくつかの態様では、外科用画像取得システムは、複数の照明源であって、各照明源は、特定の中心波長を有する光を放射するように構成されている、複数の照明源と、複数の照明源のうちの1つ以上によって照明されたときに組織試料から反射された光の一部分を受光するように構成された光センサと、コンピューティングシステムと、を含んでもよい。コンピューティングシステムは、組織試料が複数の照明源のそれぞれによって照明されるときに、光センサからデータを受信し、組織試料が複数の照明源のそれぞれによって照明されたときに、光センサによって受信されたデータに基づいて、組織試料内の構造の深さ位置を決定し、構造及び構造の深さ位置に関する可視化データを計算するように構成されてもよい。いくつかの態様では、可視化データは、ディスプレイシステムによって使用され得るデータフォーマットを有してもよく、構造は、1つ以上の血管組織を含んでもよい。
NIR分光法を用いた血管撮像
一態様では、外科用画像取得システムは、可視光及び可視範囲外の光を含む照明源の独立したカラーカスケードを含んで、異なる時間及び異なる深さで手術部位内の1つ以上の組織を撮像することができる。外科用画像取得システムは、手術部位から反射かつ/又は屈折された光の特性を更に検出又は計算することができる。光の特性は、手術部位内の組織の合成画像を提供するために並びに手術部位の表面において直接可視ではない、下に存在する組織の分析を提供するために使用され得る。外科用画像取得システムは、別個の測定デバイスを必要とせずに、組織深さ位置を決定することができる。
一態様では、手術部位から反射かつ/又は屈折される光の特性は、1つ以上の波長における光の吸光度の量であり得る。個々の組織の様々な化学成分は、波長依存性である特定の光吸光パターンをもたらし得る。
一態様では、照明源は、赤色レーザ源及び近赤外線レーザ源を含んでもよく、撮像される1つ以上の組織は、静脈又は動脈などの血管組織を含んでもよい。いくつかの態様では、赤色レーザ源(可視範囲内)を使用して、可視赤色範囲の分光法に基づいて、下にある血管組織の一部の態様を撮像してもよい。いくつかの非限定的な例では、赤色レーザ光源は、635nm~660nmの、両端の値を含む範囲であり得るピーク波長を有する照明を供給してもよい。赤色レーザピーク波長の非限定的な例は、約635nm、約640nm、約645nm、約650nm、約655nm、約660nm、又はそれらの間の任意の値若しくは値の範囲を含んでもよい。いくつかの他の態様では、近赤外線レーザ源を使用して、近赤外分光法に基づいて下にある血管組織を撮像してもよい。いくつかの非限定的な例では、近赤外線レーザ源は、750nm~3000nmの、両端の値を含む範囲であり得る波長を有してもよい。赤外線レーザピーク波長の非限定的な例は、約750nm、約1000nm、約1250nm、約1500nm、約1750nm、約2000nm、約2250nm、約2500nm、約2750nm、3000nm、又はそれらの間の任意の値若しくは値の範囲を含んでもよい。下にある血管組織は、赤色光分光法及び赤外分光法の組み合わせを用いてプロービングされ得ることが認識され得る。いくつかの例では、約660nmのピーク波長を有する赤色レーザ源と、約750nm又は約850nmのピーク波長を有する近赤外線レーザ源とを使用して、血管組織をプロービングすることができる。
近赤外分光法(near infrared spectroscopy、NIRS)は、組織内の酸素ヘモグロビン及び脱酸素ヘモグロビンの分光光度定量に基づいた組織酸素化の決定を可能にする非侵襲性技術である。いくつかの態様では、NIRSは、血管組織と非血管組織との間の照明吸光度の差に基づいて、血管組織を直接撮像するために使用することができる。あるいは、血管組織は、動脈及び静脈閉塞法などの生理学的介入の適用前後の組織における血流の照明吸光度の差に基づいて間接的に可視化することができる。
近赤外線(NIR)分光法のための器具類は、UV-可視光及び中赤外線範囲の器具類と同様であり得る。このような分光器具は、組織試料を照明するための特定の近赤外線波長を選択するための照明源、検出器、及び分散素子を含んでもよい。いくつかの態様では、光源は、白熱光源又は石英ハロゲン光源を含んでもよい。いくつかの態様では、検出器は、半導体(例えば、InGaAs)フォトダイオード又はフォトアレイを含んでもよい。いくつかの態様では、分散素子は、プリズム又はより一般的には回折格子を含んでもよい。干渉計を使用するフーリエ変換NIR器具も一般的であり、特に約1000nmを超える波長用である。試料に応じて、スペクトルは、反射モード又は透過モードのいずれかで測定することができる。
図18は、NIR分光法のUV-可視光及び中赤外線範囲の器具類と同様の器具類2400の一例を概略的に示す。光源2402は、分散素子2406(プリズム又は回折格子など)に衝突し得る広いスペクトル範囲の照明2404を放射し得る。分散素子2406は、広域スペクトル光源2402によって放射された光の狭い波長部分2408を選択するように動作してもよく、光の選択された部分2408は、組織2410を照明してもよい。組織2412から反射された光は、検出器2416に向けられてもよく(例えば、ダイクロイックミラー2414によって)、反射光2412の強度を記録することができる。組織2410を照明する光の波長は、分散素子2406によって選択されてもよい。いくつかの態様では、組織2410は、分散素子2406によって選択された単一で狭い波長部分2408によってのみ照明されて、光源2402を形成してもよい。他の態様では、組織2410は、分散素子2406によって選択される様々な狭い波長部分2408で走査されてもよい。このようにして、組織2410の分光分析は、NIR波長の範囲にわたって取得されてもよい。
図19は、フーリエ変換赤外線撮像法に基づいてNIRSを測定するための、器具類2430の概略的な一例を示す。図19では、近赤外線範囲内の光2434を放射するレーザ源2432は、組織試料2440を照明する。組織2440によって反射された光2436は、ダイクロイックミラー2444などのミラーによってビームスプリッタ2446へと反射される。ビームスプリッタ2446は、組織2440によって反射された光の一部分2448を、静止ミラー2450に向け、組織2440によって反射された光2436の一部分2452を、移動ミラー2454に向ける。移動ミラー2454は、電圧周波数を有する正弦波電圧によって作動される固定圧電変換器に基づいて、定位置で振動することができる。空間内の移動ミラー2454の位置は、圧電変換器の正弦波作動電圧の周波数に対応する。移動ミラー及び静止ミラーから反射された光は、ビームスプリッタ2446で再結合され(2458)、検出器2456に向けられてよい。計算構成要素は、検出器2456の信号出力を受信し、受信した信号のフーリエ変換(時間)を実行することができる。移動ミラー2454から受光される光の波長は、静止ミラー2450から受光された光の波長に対して時間が変化するため、再結合された光の時間に基づくフーリエ変換は、再結合された光2458の波長フーリエ変換に対応する。このようにして、組織2440から反射された光の波長に基づくスペクトルを決定することができ、組織2440から反射された光2436のスペクトル特性を取得することができる。したがって、組織2440から反射された光からのスペクトル成分における照明の吸光度の変化は、特定の光吸収特性(ヘモグロビンなど)を有する組織の存在又は不在を示し得る。
ヘモグロビン酸素化を決定するための近赤外線光の代替は、ヘモグロビンの赤色光吸光度特性を決定するための単色赤色光の使用である。ヘモグロビンによる約660nmの中心波長を有する赤色光の吸光度特性は、ヘモグロビンが酸素化(動脈血)又は脱酸素(静脈血)であるかを示し得る。
いくつかの代替的な外科処置では、造影剤を使用して、酸素化及び組織酸素消費に対して収集されるデータを改善することができる。非限定的な一例では、NIRS技術は、約800nmでピーク吸光度を有するインドシアニングリーン(indocyanine green、ICG)などの近赤外線用造影剤のボーラス注射と併用されてもよい。ICGは、脳血流を測定するために、一部の医療処置において使用されている。
レーザドップラー流量測定を使用した血管撮像
一態様では、手術部位から反射かつ/又は屈折される光の特性は、その照明源からの光波長のドップラーシフトであり得る。
レーザドップラー流量測定を使用して、効果的に静止した背景に対して移動する粒子の流れを可視化し、特徴付けることができる。したがって、血球などの粒子を移動させることによって散乱されるレーザ光は、元の照明レーザ源の波長とは異なる波長を有し得る。対照的に、効果的に静止した背景(例えば、血管組織)によって散乱されたレーザ光は、元の照明レーザ源の波長と同じ波長を有し得る。血球からの散乱光の波長の変化は、レーザ源に対する血球の流れの方向及び血球速度の両方を反映し得る。
図20A~図20Cは、レーザ光源から離れる方向(図20A)又はレーザ光源に向かう方向に(図20C)移動し得る血球から散乱した光の波長の変化を示す。
図20A~図20Cのそれぞれにおいて、0の相対中心波長を有する元の照明光2502が示されている。図20Aでは、レーザ源2504から離れる方向に移動する血球から散乱した光は、レーザ源の波長に対していくらかの量2506だけより長い波長にシフトされた波長を有する(したがって、赤色シフトされた)波長を有することが観察され得る。また、図20Cでは、レーザ源2508から向かって移動する血球から散乱した光は、レーザ源の波長に対していくらかの量2510だけより短い波長にシフトされた波長を有する(したがって、青色シフトされる)こともまた、観察され得る。波長シフトの量(例えば、2506又は2510)は、血球の運動速度に依存し得る。いくつかの態様では、一部の血球の赤色シフトの量(2506)は、一部の他の血球の青色シフトの量(2510)とほぼ同じであり得る。あるいは、一部の血球の赤色シフトの量(2506)は、一部の他の血球の青色シフトの量(2510)と異なり得る。図20Aに示されるように、レーザ源から離れて流れる血球の速度は、波長シフト(2506及び2510)の相対的な大きさに基づいて、図26Cに示すようにレーザ源に向かって流れる血球の速度よりも小さくなり得る。対照的に、図26Bに示すように、レーザ光源に対して移動していない組織(例えば、血管2512又は非血管組織2514)から散乱した光は、波長のいかなる変化も示さない場合がある。
図21は、組織2540の部分から散乱したレーザ光のドップラーシフトを検出するために使用され得る器具2530の態様を示す。レーザ2532から発する光2534は、ビームスプリッタ2544を通過してもよい。レーザ光2536の一部はビームスプリッタ2544によって透過されてもよく、組織2540を照明してもよい。レーザ光の別の部分は、検出器2550に衝突するためにビームスプリッタ2544によって反射され得る(2546)。組織2540による光後方散乱2542は、ビームスプリッタ2544によって方向付けられてもよく、また検出器2550に衝突し得る。レーザ2532から発する光2534と組織2540による後方散乱2542との組み合わせは、検出器2550によって検出された干渉パターンをもたらし得る。検出器2550によって受信された干渉パターンは、レーザ2532から発する光2534と、組織2540からのドップラーシフトされた(したがって波長シフトした)光後方散乱2452との組み合わせから生じる干渉縞を含み得る。
組織2540からの後方散乱光2542はまた、組織2540内の境界層からの後方散乱光及び/又は組織2540内の物質による波長固有光吸収を含み得るということが認識され得る。その結果、検出器2550で観察された干渉パターンは、これらの追加の光学効果から干渉縞特徴を取り込み得るため、したがって、適切に分析されない限り、それらが紛れ込んだドップラーシフトの計算結果をもたらすおそれがある。
図22は、これらの追加の光学効果の一部を示す。第1の屈折率n1を有する第1の光学媒体を通過する光は、第2の屈折率n2を有する第2の光学媒体との境界面で反射され得るということが良く知られている。第2の光学媒体を透過した光は、屈折率n1とn2との差に基づいて、入射光の角度とは異なる境界面に対する透過角を有する(スネルの法則)。図22は、外科分野で提示され得るように、多成分組織2150の表面に衝突する光に対するスネルの法則の効果を示す。多成分組織2150は、屈折率n1を有する外側組織層2152と、血管壁2156を有する血管などの埋め込み組織と、から構成されてもよい。血管壁2156は、屈折率n2によって特徴付けることができる。血液は、血管2160の内腔内に流れることができる。いくつかの態様では、外科処置中に、外側組織層2152の表面2154の下の血管2160の位置を決定し、ドップラーシフト技術を使用して血流を特徴付けることが重要であり得る。
入射レーザ光2170aは、血管2160をプロービングするために使用されてもよく、外側組織層2152の上面2154上に向けられてもよい。入射レーザ光2170aの部分2172は、上面2154で反射されてもよい。入射レーザ光2170aの別の部分2170bは、外側組織層2152を浸透してもよい。外側組織層2152の上面2154における反射部分2172は、入射光2170aの同じ経路長を有し、したがって入射光2170aの同じ波長及び位相を有する。しかしながら、外側組織層2152に透過される光の部分2170bは、外側組織層2152が空気の屈折率とは異なる屈折率n1を有するため、組織表面に衝突する光の入射角とは異なる透過角を有する。
外側組織層2152を透過した光の一部が、例えば、血管壁2156の第2の組織表面2158に衝突する場合、光の一部の部分2174a、bは、入射光の光源2170aに向かって反射されて戻る。したがって、外側組織層2152と血管壁2156との間の境界面で反射された光2174aは、入射光2170aと同じ波長を有するが、光路長の変化に起因して位相シフトされる。外側組織層2152と血管壁2156との間の境界面から、センサ上の入射光と共に、反射された光2174a、bを投影することは、2つの光源間の位相差に基づいて干渉パターンを生成する。
更に、入射光2170cの一部は、血管壁2156を透過され、血管内腔2160内に浸透することができる。入射光2170cのこの部分は、血管内腔2160内の移動血球と相互作用することができ、上述のように、血球の速度に従ってシフトされた波長ドップラーを有する衝突光の光源に向かって反射されて戻り得る(2176a~c)。移動する血球から反射され、ドップラーシフトされた光2176a~cは、入射光と共にセンサ上に投影され得るが、その結果、2つの光源間の波長差に基づいた縞模様を有する干渉パターンが得られる。
図22において、放射された光と移動する血球によって反射された光との間に屈折率の変化がない場合の、血管内腔2160内の赤血球に衝突する光の光路2178が提示されている。この例では、反射光波長のドップラーシフトのみを検出することができる。しかしながら、血球によって反射された光(2176a~c)は、ドップラー効果による波長変化に加えて、組織屈折率の変動に起因する位相変化を組み込み得る。
したがって、光センサが、入射光、1つ以上の組織界面から反射された光(2172及び2174a、b)、血球からのドップラーシフトされた光(2176a~c)を受光する場合、光センサ上で生成される干渉パターンは、ドップラーシフトに起因する効果(波長の変化)と共に、組織内の屈折率の変化に起因する効果(位相の変化)を含み得るということが理解され得る。結果として、試料内の屈折率の変化による影響が補償されない場合、組織試料によって反射された光のドップラー分析が誤った結果を生じさせ得る。
図23は、下にある血管の深さ及び位置を決定するために、組織試料に衝突する光2250のドップラー分析に対する効果の一例を示す。血管と組織表面との間に介在組織が存在しない場合、センサで検出される干渉パターンは、主に、移動血球から反射される波長の変化に起因し得る。結果として、干渉パターンから導出されるスペクトル2252は、一般に、血球のドップラーシフトのみを反射し得る。しかしながら、血管と組織表面との間に介在組織が存在する場合、センサで検出される干渉パターンは、移動血球から反射される波長の変化と、介在組織の屈折率による位相シフトとの組み合わせに起因し得る。このような干渉パターンから導出されたスペクトル2254は、反射光の追加の位相変化に起因した紛れ込みのあるドップラーシフトの計算結果をもたらすおそれがある。いくつかの態様では、介在組織の特性(厚さ及び屈折率)に関する情報が既知である場合、結果として得されるスペクトル2256は、波長の変化のより正確な計算を提供するように補正されてもよい。
光の組織浸透深さは、使用される光の波長に依存することが認識される。したがって、レーザ源光の波長は、特定の範囲の組織深さで粒子運動(血球など)を検出するように選択されてもよい。
図24A~図24Cは、レーザ光波長に基づいて様々な組織深さで血球などの移動粒子を検出するための手段を概略的に示す。図24Aに示すように、レーザ源2340は、レーザ光2342の入射ビームを手術部位の表面2344上に向けることができる。血管2346(静脈又は動脈など)は、組織表面からある程度の深さδで、組織2348内に配置されてもよい。レーザの組織2348への浸透深さ2350は、少なくとも部分的にレーザ波長に依存し得る。したがって、約635nm~約660nmの赤色範囲の波長を有するレーザ光は、約1mmの深さまで組織2351aを浸透することができる。約520nm~約532nmの緑色範囲の波長を有するレーザ光は、約2~3mmの深さまで組織2351bを浸透することができる。約405nm~約445nmの青色範囲の波長を有するレーザ光は、約4mm以上の深さまで組織2351cを浸透し得る。図30A~図30Cに示される例では、血管2346は、組織表面下の約2~3mmの深さδに位置してもよい。赤色レーザ光は、この深さに浸透しないため、この血管内を流れる血球を検出しない。しかしながら、緑色及び青色のレーザ光の両方は、この深さを浸透することができる。したがって、血管2346内の血球からの散乱した緑色及び青色レーザ光は、波長のドップラーシフトを示し得る。
図24Bは、反射レーザ光の波長におけるドップラーシフト2355がどのように現れ得るかを示す。組織表面2344に衝突する放射光(又はレーザ源光2342)は、中心波長2352を有してよい。例えば、緑色レーザからの光は、約520nm~約532nmの範囲内の中心波長2352を有し得る。反射された緑色光は、光が検出器から離れて移動する赤血球などの粒子から反射された場合、より長い波長(赤色シフト)にシフトされた中心波長2354を有してよい。放射されたレーザ光の中心波長2352と放射されたレーザ光の中心波長2354との間の差は、ドップラーシフト2355を含む。
図22及び図23に関連して上述したように、組織2348内の構造から反射レーザ光はまた、組織構造又は組成物の変化から生じる屈折率の変化による反射光の位相シフトを示し得る。組織表面2344に衝突する放射光(又はレーザ源光2342)は、第1の位相特性2356を有してよい。反射レーザ光は、第2の位相特性2358を有してよい。組織を約4mm以上の深さに浸透することができる青色レーザ光2351cは、赤色レーザ光(約1mm、2351a)又は緑色レーザ光(約2~3mm、2351b)よりも様々な組織構造に遭遇し得ることが認識され得る。したがって、図30Cに示すように、反射された青色レーザ光の位相シフト2358は、少なくとも浸透の深さに起因して有意であり得る。
図24Dは、赤色2360a、緑色2360b及び青色2360cのレーザ光によって連続的に組織を照明する態様を示す。いくつかの態様では、組織は、赤色2360a、緑色2360b、及び青色2360cのレーザ照明によって、連続的にプロービングされてもよい。いくつかの代替例では、図17D~図17Fに示されるように、赤色2360a、緑色2360b及び青色2360cのレーザ光の1つ以上の組み合わせは、画定された照明配列に従って組織を照明するために使用されてよい。図24Dは、経時的なCMOS撮像センサ2362a~dに対するこのような照明の効果を示す。したがって、第1の時間t.sub.1において、CMOSセンサ2362aは、赤色2360aレーザによって照明され得る。第2の時間t.sub.2において、CMOSセンサ2362bは、緑色2360bレーザによって照明され得る。第3の時間t.sub.3において、CMOSセンサ2362cは、青色2360cレーザによって照明され得る。次いで、照明サイクルを、第4の時間t.sub.4から開始して繰り返すことができ、この時点で、CMOSセンサ2362dを再び赤色2360aレーザによって照明することができる。異なる波長でのレーザ照明による組織の連続的な照明は、経時的に様々な組織深さでのドップラー分析を可能にし得ることが認識され得る。赤色2360a、緑色2360b及び青色2360cのレーザ源を使用して手術部位を照明してもよいが、可視光の外側の他の波長(赤外領域又は紫外領域など)を使用して、ドップラー分析のために手術部位を照明することができることが認識され得る。
図25は、手術部位2600で観察可能ではない血管の存在を検出するためのドップラー撮像の使用の一例を示す。図25では、外科医は、肺の右上後方ローブ2604内に見出される腫瘍2602を切除することを望む場合がある。肺は非常に血管が多いため、組織に関連するこれらの血管のみを識別し、肺の罹患していない部分への血流を損なうことなく、それらの血管のみを封止するために注意を払わなければならない。図25では、外科医は、腫瘍2604のマージン2606を識別している。次いで、外科医は、マージン領域2606において初期切開領域2608を切断してもよく、露出した血管2610が、切断及び封止のために観察され得る。ドップラー撮像検出器2620は、切開領域内の観察可能な2612ではない血管の位置を特定し、識別するために使用され得る。撮像システムは、手術部位2600から取得されたデータの分析及び表示のためにドップラー撮像検出器2620からデータを受信し得る。いくつかの態様では、撮像システムは、手術部位2600の可視画像を含む手術部位2600を、手術部位2600の画像上の隠れた血管2612の画像オーバーレイと共に示すディスプレイを含んでもよい。
図25に関して上述したシナリオでは、外科医は、非癌組織に関連する血管を温存しながら、酸素及び栄養素を腫瘍に供給する血管を切断することを望む。更に、血管は、手術部位2600内又はその周囲の異なる深さで配置され得る。したがって、外科医は、血管の位置(深さ)を識別し、切除に適切であるかどうかを判定しなければならない。図26は、それを通って流れる血球からの光のドップラーシフトに基づいて、深い血管を識別するための1つの方法を示す。上述したように、赤色レーザ光は約1mmの浸透深さを有し、緑色のレーザ光は、約2~3mmの浸透深さを有する。しかしながら、4mm以上の表面下深さを有する血管は、これらの波長における浸透深さの外側にある。しかしながら、青色レーザ光は、このような血管をその血流に基づいて検出することができる。
図26は、手術部位の下の特定の深さで血管から反射されたレーザ光のドップラーシフトを示す。この部位は、赤色レーザ光、緑色レーザ光、及び青色レーザ光によって照明され得る。照明光の中心波長2630は、相対的中心3631に正規化されてもよい。血管が手術部位の表面の4mm以上の深さにある場合、赤色レーザ光も緑色レーザ光も血管によって反射されることはない。その結果、反射された赤色光の中心波長2632及び反射された緑色光の中心波長2634は、照明赤色光又は緑色光の中心波長2630とは、それぞれ大きく異なっていない。しかし、この部位が青色レーザ光によって照明される場合、反射された青色光2636の中心波長2638は、照明青色光の中心波長2630とは異なる。場合によっては、反射された青色光2636の振幅はまた、照明青色光の振幅から著しく低減され得る。したがって、外科医は、そのおおよその深さと共に深部血管の存在を決定し、それによって、表面組織切開中の深部血管を回避し得る。
図27及び図28は、手術部位の表面下の血管のおおよその深さを決定するための異なる中心波長(色)を有するレーザ源の使用を概略的に示す。図27は、表面2654と、表面2654の下に配置された血管2656と、を有する第1の手術部位2650を示す。一方法では、血管2656は、血管2656内の血球の流れ2658に衝突する光のドップラーシフトに基づいて識別され得る。手術部位2650は、複数のレーザ2670、2676、2682からの光によって照明されてもよく、各レーザは、いくつかの異なる中心波長のうちの1つで光を放射することによって特徴付けられる。上述のように、赤色レーザ2670による照明は、約1mmだけ組織を浸透することができる。したがって、血管2656が表面2654の下の1mm未満の深さ2672に位置している場合、赤色レーザ照明は反射され(2674)、反射された赤色照明2674のドップラーシフトが決定され得る。更に、上述したように、緑色レーザ2676による照明は、組織を約2~3mmだけ浸透することができる。血管2656が表面2654の下の約2~3mmの深さ2678に位置した場合、緑色レーザ照明は反射され(2680)、一方、赤色レーザ照明2670は反射されず、反射された緑色照明2680のドップラーシフトを決定することができる。しかしながら、図27に示すように、血管2656は、表面2654の下の約4mmの深さ2684に位置する。したがって、赤色レーザ照明2670も緑色レーザ照明2676も反射されない。代わりに、青色レーザ照明のみが反射され(2686)、反射された青色照明2686のドップラーシフトが決定されてもよい。
図27に示される血管2656とは対照的に、図28に示される血管2656’は、手術部位における組織の表面に近接して位置する。血管2656’はまた、血管2656’がはるかに厚い壁2657を有するように示されるという点で、血管2656と区別され得る。したがって、血管2656は静脈の一例であり得るが、動脈壁は静脈壁よりも厚いことが知られているため、血管2656’は動脈の一例であり得る。いくつかの例では、動脈壁は、約1.3mmの厚さを有し得る。上述のように、赤色レーザ照明2670’は、約1mmの深さ2672’まで組織を浸透することができる。したがって、血管2656’が手術部位で露出している場合であっても(図25の2610を参照)、血管2656’の表面から反射される赤色レーザ光2674’は、血管壁2657の厚さによるドップラー分析下で血管2656’内の血流2658’を可視化することができない場合がある。しかしながら、上述したように、組織の表面上に衝突する緑色レーザ光2676’は、約2~3mmの深さ2678’に浸透し得る。更に、組織の表面上に衝突する青色レーザ光2682’は、約4mmの深さ2684’に浸透し得る。したがって、血管2656’内を流れる血球2658’から緑色のレーザ光が反射されてもよく(2680’)、青色レーザ光は、血管2656’内を流れる血球2658’から反射され得る(2686’)。結果として、反射された緑色光2680’及び反射された青色光2686’のドップラー分析は、近表面血管における血流、特に血管のおおよその深さに関する情報を提供することができる。
上述したように、手術部位の下の血管の深さは、波長依存性ドップラー撮像に基づいてプロービングされてよい。このような血管を通る血流の量は、スペックルコントラスト(干渉)分析によって決定されてよい。ドップラーシフトは、静止光源に対する移動粒子を示し得る。上述のように、ドップラー波長シフトは、粒子運動の速度の指標であり得る。血球などの個々の粒子は、別個に観察可能ではない場合がある。しかしながら、各血球の速度は、それに比例するドップラーシフトを生成する。干渉パターンは、血球のそれぞれからの後方散乱光のドップラーシフトの差に起因して、複数の血球から後方散乱した光の組み合わせによって生成され得る。干渉パターンは、可視化フレーム内の血球の数密度を示す指標であり得る。干渉パターンは、スペックルコントラストと呼ばれることがある。スペックルコントラスト分析は、フルフレーム300×300のCMOS撮像アレイを使用して計算することができ、スペックルコントラストは、所与の露光期間にわたってレーザ光と相互作用する移動粒子(例えば、血球)の量に直接関連し得る。
CMOS画像センサは、デジタル信号プロセッサ(DSP)に連結されてもよい。センサの各画素は、多重化され、デジタル化されてもよい。光のドップラーシフトは、ドップラーシフトされた光と比較して、光源レーザ光を見ることによって分析することができる。より大きいドップラーシフト及びスペックルは、血管内のより多くの数の血球及びそれらの速度に関連し得る。
図29は、外科処置中に外科医に提示され得る複合視覚ディスプレイ2800の態様を示す。複合視覚ディスプレイ2800は、ドップラー分析画像2850を用いて手術部位の白色光画像2830をオーバーレイすることによって構築されてもよい。
いくつかの態様では、白色光画像2830は、手術部位2832、1つ以上の外科的切開部2834、及び組織2836を、外科的切開部2834内で容易に視認可能にすることができる。白色光画像2830は、白色光源2838で手術部位2832を照明し(2840)、反射した白色光2842を光検出器によって受光することによって生成されてもよい。白色光源2838を使用して手術部位の表面を照明してもよいが、一態様では、図17C~図17Fに関して上述したように、赤色2854、緑色2856、及び青色2858のレーザ光の適切な組み合わせを使用して、手術部位の表面を可視化することができる。
いくつかの態様では、ドップラー分析画像2850は、血流情報2852と共に(スペックル分析から)血管深さ情報を含んでもよい。上述したように、血管深さ及び血流速度は、複数の波長のレーザ光で手術部位を照明し、特定の波長の光の既知の浸透深さに基づいて血管深さ及び血流を決定することによって得ることができる。一般に、手術部位2832は、赤色レーザ2854、緑色レーザ2856、及び青色レーザ2858などの1つ以上のレーザによって放射された光によって照明されてもよい。CMOS検出器2872は、手術部位2832及びその周囲の組織から反射されて戻った光(2862、2866、2870)を受光し得る。ドップラー分析画像2850は、CMOS検出器2872からの複数の画素データの分析に基づいて構築されてもよい(2874)。
一態様では、赤色レーザ2854は、手術部位2832上に赤色レーザ照明2860を放射してもよく、反射光2862は表面又は最小の表面下構造を露出させることができる。一態様では、緑色レーザ2856は、手術部位2832上に緑色レーザ照明2864を放射してもよく、反射光2866は、より深い表面下特性を示すことができる。別の態様では、青色レーザ2858は、手術部位2832上に青色レーザ照明2868を放射してもよく、反射光2870は、例えば、より深い血管構造内の血流を明らかにすることができる。加えて、スペックルコントラスト分析は、より深い血管構造を通る血流の量及び速度に関する情報を外科医に提示し得る。
図29には示されていないが、撮像システムはまた、可視範囲外の光で手術部位を照明してもよいことが理解され得る。このような光は、赤外線光及び紫外線光を含んでもよい。いくつかの態様では、赤外線光又は紫外線光の光源は、広帯域波長光源(タングステン光源、タングステンハロゲン光源、又は重水素光源など)を含んでもよい。いくつかの他の態様では、赤外線又は紫外線光の光源は、狭帯域波長光源(IRダイオードレーザ、UVガスレーザ、又は色素レーザ)を含んでもよい。
図30は、組織片内の表面特徴部の深さを決定するための方法のフロー図2900である。画像取得システムは、第1の中心周波数を有する第1の光線で組織を照明し(2910)、第1の光線によって照明された組織から第1の反射光を受光する(2912)ことができる。次いで、画像取得システムは、第1の光線及び第1の反射光に基づいて、第1のドップラーシフトを計算してもよい(2914)。次いで、画像取得システムは、第2の中心周波数を有する第2の光線で組織を照明し(2916)、第2の光線によって照明された組織から第2の反射光を受光してもよい(2918)。次いで、画像取得システムは、第2の光線及び第2の反射光に基づいて、第2のドップラーシフトを計算してもよい(2920)。次いで、画像取得システムは、第1の中心波長、第1のドップラーシフト、第2の中心波長、及び第2のドップラーシフトに少なくとも部分的に基づいて、組織特徴部の深さを計算してもよい(2922)。いくつかの態様では、組織特徴は、血管内で移動する血球などの移動粒子の存在並びに移動粒子の流れの方向及び速度を含んでもよい。本方法は、任意の1つ以上の追加の光線による組織の照明を含むように拡張され得ることが理解され得る。更に、システムは、組織表面の画像と組織内に配置された構造の画像との組み合わせを含む画像を計算することができる。
いくつかの態様では、複数の視覚ディスプレイが使用されてもよい。例えば、3Dディスプレイは、合成された白色光(又は赤色、緑色、及び青色レーザ光の適切な組み合わせ)及びレーザドップラー画像を表示する合成画像を提供することができる。追加のディスプレイは、組織の血液酸素化応答のみを可視化するために、白色光ディスプレイのみ又は複合白色光ディスプレイ及びNIRSディスプレイを示す表示のみを提供してもよい。しかしながら、NIRSディスプレイは、組織の応答を可能にするサイクル毎に必要とされない場合がある。
マルチスペクトルOCTを用いた表面組織の特性評価
外科処置の間、外科医は、組織の操作のために「スマート」外科用デバイスを使用してもよい。このようなデバイスは、それらの使用に関連するデバイスに基づくパラメータの動作を指示、制御、かつ/又は変更する自動化された機能を含むという点で、「スマート」と見なすことができる。パラメータは、操作される組織の種類及び/又は組成を含んでもよい。操作される組織の種類及び/又は組成が未知である場合、スマートデバイスの動作は、操作される組織に不適切であり得る。結果として、組織は損傷されるおそれがあるか、又は組織の操作は、スマートデバイスの不適切な設定に起因して無効であり得る。
外科医は、試行錯誤的にスマートデバイスのパラメータを変化させるように手動で試みる場合があり、結果として、非効率的かつ長い外科処置がもたらされる。
したがって、手術部位の下にある組織構造をプロービングしてそれらの構造及び組成特性を決定し、このようなデータを外科処置で使用されるスマート外科用器具に提供することができる、外科用可視化システムを有することが望ましい。
本開示のいくつかの態様は、レーザ光源などの1つ以上の照明源を使用して手術部位の照明を制御し、1つ以上の画像センサから撮像データを受信するように構成された制御回路を更に提供する。いくつかの態様では、本開示は、コンピュータ可読命令を記憶する非一時的なコンピュータ可読媒体を提供し、この命令は、実行されると、デバイスに、手術部位で表面の下の構造を特徴付けさせ、組織の表面の下の構造の深さを判定させる。
いくつかの態様では、外科用画像取得システムは、複数の照明源であって、各照明源は、特定の中心波長を有する光を放射するように構成されている、複数の照明源と、複数の照明源のうちの1つ以上によって照明されるときに、組織試料から反射された光の一部を受光するように構成された光センサと、コンピューティングシステムと、を備え得る。コンピューティングシステムは、組織試料が複数の照明源のそれぞれによって照明されるときに、光センサからデータを受信し、組織試料が照明源のそれぞれによって照明されるときに、光センサによって受信されたデータに基づいて、組織試料内の構造の特性に関する構造データを計算し、スマート外科用デバイスによって受信される、構造の特性に関する構造データを送信するように構成され得る。いくつかの態様では、構造の特性は、表面特性又は構造組成である。
一態様では、外科用システムは、複数のレーザ光源を含んでもよく、組織から反射されたレーザ光を受光することができる。組織から反射された光は、システムによって使用されて、組織内に配設された構成要素の表面特性を計算することができる。組織内に配設された構成要素の特性は、構成要素の組成及び/又は構成要素の表面凹凸に関連する測定基準を含んでよい。
一態様では、外科用システムは、構成要素の組成物に関連するデータ及び/又は構成要素の表面凹凸に関連する測定基準を、組織上で使用される第2の器具に送信して、第2の器具の制御パラメータを修正してもよい。
いくつかの態様では、第2のデバイスは、前進エネルギーデバイスであってもよく、制御パラメータの修正は、クランプ圧力、動作電力レベル、動作周波数、及び変換器信号振幅を含み得る。
上述のように、血管内で移動する血球によって反射される光のドップラーシフトに基づいて、手術部位の表面下で血管を検出することができる。
レーザドップラー流量測定を使用して、効果的に静止した背景に対して移動する粒子の流れを可視化し、かつ特徴付けし得る。したがって、血球などの移動粒子によって散乱されるレーザ光は、元の照明レーザ源の波長とは異なる波長を有し得る。対照的に、効果的に静止した背景(例えば、血管組織)によって散乱されたレーザ光は、元の照明レーザ源の波長と同じ波長を有し得る。血球からの散乱光の波長の変化は、レーザ源に対する血球の流れの方向及び血球速度の両方を反映し得る。先に開示されたように、図20A~図20Cは、レーザ光源から離れる方向(図20A)又はレーザ光源に向かう方向に(図20C)移動し得る血球から散乱した光の波長の変化を示す。
図20A~図20Cのそれぞれにおいて、0の相対中心波長を有する元の照明光2502が示されている。図20Aでは、レーザ源2504から離れる方向に移動する血球から散乱した光は、レーザ源の波長に対していくらかの量2506だけより長い波長にシフトされた波長を有する(したがって、赤色シフトされる)ことが観察され得る。また、図18Cでは、レーザ源2508から向かって移動する血球から散乱した光は、レーザ源の波長に対していくらかの量2510だけより短い波長にシフトされた波長を有する(したがって、青色シフトされる)こともまた、観察され得る。波長シフトの量(例えば、2506又は2510)は、血球の運動速度に依存し得る。いくつかの態様では、一部の血球の赤色シフトの量(2506)は、一部の他の血球の青色シフトの量(2510)とほぼ同じであり得る。あるいは、一部の血球の赤色シフトの量(2506)は、一部の他の血球の青色シフトの量(2510)と異なり得る。図24Aに示されるように、レーザ源から離れて流れる血球の速度は、波長シフト(2506及び2510)の相対的な大きさに基づいて、図20Cに示すようにレーザ源に向かって流れる血球の速度よりも小さくなり得る。対照的に、図20Bに示すように、レーザ光源に対して移動していない組織(例えば、血管2512又は非血管組織2514)から散乱した光は、波長のいかなる変化も示さない場合がある。
先に開示したように、図21は、組織2540の一部から散乱したレーザ光のドップラーシフトを検出するために使用され得る器具2530の態様を示す。レーザ2532から発する光2534は、ビームスプリッタ2544を通過し得る。レーザ光2536の一部は、ビームスプリッタ2544によって透過され、組織2540を照明し得る。レーザ光の別の部分は、ビームスプリッタ2544によって反射され(2546)、検出器2550に衝突し得る。組織2540による光後方散乱2542は、ビームスプリッタ2544によって方向付けられてもよく、また、検出器2550に衝突し得る。レーザ2532から発する光2534と組織2540による後方散乱2542との組み合わせは、検出器2550によって検出された干渉パターンをもたらし得る。検出器2550によって受信された干渉パターンは、レーザ2532から発する光2534と、組織2540からのドップラーシフトされた(したがって波長シフト)光後方散乱2452との組み合わせから生じる干渉縞を含み得る。
組織2540からの後方散乱光2542はまた、組織2540内の境界層からの後方散乱光及び/又は組織2540内の物質による波長固有の光吸収を含み得るということが認識され得る。その結果、検出器2550で観察された干渉パターンは、これらの追加の光学効果から干渉縞特徴を取り込み得るため、したがって、適切に分析されない限り、それらが紛れ込んだドップラーシフトの計算結果をもたらすおそれがある。
組織から反射された光はまた、組織内の境界層からの後方散乱光及び/又は組織内の物質による波長固有の光吸収を含み得るということが認識され得る。その結果、検出器で観察される干渉パターンは、適切に分析されない限り、ドップラーシフトの計算に紛れ込んでしまうおそれがある縞の特徴を取り込み得る。
先に開示したように、図22は、これらの追加の光学効果の一部を示す。第1の屈折率n1を有する第1の光学媒体を通過する光は、第2の屈折率n2を有する第2の光学媒体との境界面で反射され得るということが良く知られている。第2の光学媒体を透過した光は、屈折率n1とn2との差に基づいて入射光の角度とは異なる境界面に対する透過角を有する(スネルの法則)。図20は、外科分野で提示され得るように、多成分組織2150の表面に衝突する光に対するスネルの法則の効果を示す。多成分組織2150は、屈折率n1を有する外側組織層2152と、血管壁2156を有する血管などの埋め込み組織と、から構成されてもよい。血管壁2156は、屈折率n2によって特徴付けることができる。血液は、血管2160の内腔内に流れることができる。いくつかの態様では、外科処置中に、外側組織層2152の表面2154の下の血管2160の位置を決定し、ドップラーシフト技術を使用して血流を特徴付けることが重要であり得る。
入射レーザ光2170aは、血管2160をプロービングするために使用されてもよく、外側組織層2152の上面2154上に向けられ得る。入射レーザ光2170aの部分2172は、上面2154で反射され得る。入射レーザ光2170aの別の部分2170bは、外側組織層2152に浸透し得る。外側組織層2152の上面2154における反射部分2172は、入射光2170aと同じ経路長を有し、したがって入射光2170aと同じ波長及び位相を有する。しかしながら、外側組織層2152内に透過される光の部分2170bは、外側組織層2152が空気の屈折率とは異なる屈折率n1を有するため、組織表面に衝突する光の入射角とは異なる透過角を有する。
外側組織層2152を透過した光の一部が、例えば、血管壁2156の第2の組織表面2158に衝突する場合、光の一部の部分2174a、bは、入射光の光源2170aに向かって反射されて戻る。したがって、外側組織層2152と血管壁2156との間の境界面で反射された光2174aは、入射光2170aと同じ波長を有するが、光路長の変化に起因して位相シフトされる。外側組織層2152と血管壁2156との間の境界面から反射された光2174a、bを、入射光と共にセンサ上に投影すると、2つの光源間の位相差に基づく干渉パターンを生成する。
更に、入射光2170cの一部は、血管壁2156に透過され、血管内腔2160内に浸透することができる。入射光2170cのこの部分は、血管内腔2160内の移動血球と相互作用することができ、上述のように、血球の速度に従ってシフトされた波長ドップラーを有する衝突光の光源に向かって反射されて戻り得る(2176a~c)。移動する血球から反射され、ドップラーシフトされた光2176a~cは、入射光と共にセンサ上に投影され得るが、その結果、2つの光源間の波長差に基づいた縞模様を有する干渉パターンが得られる。
図22において、放射された光と移動する血球によって反射された光との間に屈折率の変化がない場合の、血管内腔2160内の赤血球に衝突する光の光路2178が提示されている。この例では、反射光波長のドップラーシフトのみを検出することができる。しかしながら、血球(2176a~c)によって反射された光は、ドップラー効果による波長変化に加えて、組織屈折率の変動に起因する位相変化を組み込み得る。
したがって、光センサが、入射光、1つ以上の組織界面(2172及び2174a、b)から反射された光、血球(2176a~c)からのドップラーシフトされた光を受光する場合、光センサ上で生成される干渉パターンは、ドップラーシフトに起因する効果(波長の変化)と共に、組織内の屈折率の変化に起因する効果(位相の変化)を含み得ることが理解され得る。結果として、試料内の屈折率の変化による影響が補償されない場合、組織試料によって反射された光のドップラー分析が誤った結果を生じさせ得る。
先に開示したように、図23は、下にある血管の深さ及び位置を決定するために、組織試料上に衝突する光2250のドップラー分析に対する効果の一例を示す。血管と組織表面との間に介在組織が存在しない場合、センサで検出される干渉パターンは、主に、移動血球から反射される波長の変化に起因し得る。結果として、干渉パターンから導出されるスペクトル2252は、一般に、血球のドップラーシフトのみを反映し得る。しかしながら、血管と組織表面との間に介在組織が存在する場合、センサで検出される干渉パターンは、移動血球から反射される波長の変化と、介在組織の屈折率による位相シフトとの組み合わせに起因し得る。このような干渉パターンから導出されたスペクトル2254は、反射光の追加の位相変化に起因した紛れ込みのあるドップラーシフトの計算結果をもたらすおそれがある。いくつかの態様では、介在組織の特性(厚さ及び屈折率)に関する情報が既知である場合、結果として得されるスペクトル2256は、波長の変化のより正確な計算を提供するように補正され得る。
組織からの反射光の位相シフトは、ドップラー効果にかかわらず、下にある組織構造に関する追加情報を提供し得ることが認識され得る。
本明細書に開示される撮像技術を使用する外科用可視化システムは、非常に高い頻度でのサンプリング及び非常に高い表示周波数から利益を得ることができる。サンプリングレートは、サンプリングを実行する基礎となるデバイスの能力に関連付けられ得る。ソフトウェアを有する汎用コンピューティングシステムは、達成可能なサンプリングレートの第1の範囲に関連付けられ得る。純粋なハードウェア実装形態(例えば、専用特定用途向け集積回路、ASIC)は、達成可能なサンプリングレートの第2の範囲に関連付けられ得る。純粋ハードウェア実装形態に関連付けられた第2の範囲は、一般に、汎用コンピューティングソフトウェア実装形態に関連付けられた第1の範囲よりも高い(例えば、はるかに高い)。
本明細書に開示される、撮像技術を使用する外科用可視化システムは、適応可能かつ/又はアップデート可能な撮像アルゴリズム(例えば、変換及び撮像処理など)から利益を享受し得る。ソフトウェアを有する汎用コンピューティングシステムは、高度な適応性及び/又はアップグレード可能性に関連付けられ得る。純粋ハードウェア実装形態(例えば、専用の特定用途向け集積回路、ASIC)は、ソフトウェアを有する汎用コンピューティングシステムのものよりも一般的に低い程度の適応性及び/又はアップグレード可能性に関連付けられ得る。これは、部分的には、純粋ハードウェア実装形態(新しいハードウェア構成要素が物理的に設計、構築、追加、かつ/又は交換される)と比較して、ソフトウェアが適合され得る、かつ/又はアップデートされ得る(異なるソフトウェアをコンパイルかつロードすること、及び/又はモジュール構成要素をアップデートすることを含み得る)一般的な容易さに起因し得る。
本明細書に開示される撮像技術を使用する外科用可視化システムは、ハードウェアベースの実装形態に関連付けられるより高いサンプリングレートと、ソフトウェアシステムの適応性及び/又はアップデート可能性とのバランスをとるソリューションから利益を得ることができる。そのような外科用可視化システムは、ハードウェアソリューションとソフトウェアソリューションとの混合を採用し得る。例えば、外科用可視化システムは、ソフトウェアセレクタを有する様々なハードウェア実装変換を使用することができる。外科用可視化システムはまた、フィールドプログラマブルゲートアレイ(FPGA)を採用してもよい。FPGAは、1つ以上の論理素子を含み得るハードウェアデバイスを含み得る。これらの論理素子は、様々な機能を実装するためにビットストリームによって構成され得る。例えば、論理素子は、特定の個々の論理機能を実行するように構成されてもよく、特定の順序及び相互接続でそれらを実行するように構成されてもよい。一度構成されると、FPGAは、更なる構成なしに、ハードウェア論理素子を使用してその機能を実行することができる。また、一度構成されると、FPGAは、異なる機能を実装するために異なるビットストリームを用いて再構成され得る。同様に、一度再構成されると、FPGAは、ハードウェア論理素子を使用してこの異なる機能を実行することができる。
図31は、例示的な外科用可視化システム10000を示す。外科用可視化システム10000は、術野の少なくとも一部を分析するために使用されてもよい。例えば、外科用可視化システム10000は、術野の少なくとも一部内の組織10002を分析するために使用され得る。外科用可視化システム10000は、フィールドプログラマブルゲートアレイ(FPGA)10004、プロセッサ(例えば、FPGA10004に対してローカルなプロセッサ10006)、メモリ10008、レーザ光照明源10010、光センサ10012、ディスプレイ10014、及び/又はFGPAから遠隔にあるプロセッサ10016を含み得る。外科用可視化システム10000は、例えば、図16A~図16Dに関連して説明された構成要素及び機能を含んでもよい。
システム10000は、FPGA10004を使用して、周波数の変換を通して反射レーザ光を変換し、例えば、光のドップラーシフトを識別し、移動粒子を判定してもよい。この変換されたデータは、表示され得る(例えば、リアルタイムで表示され得る)。そのデータは、例えば、1秒当たりに移動する粒子の数を表すグラフィック及び/又はメトリック10020として表示され得る。システム10000は、FPGA10004に対してローカルなプロセッサ10006とFGPAから遠隔にあるプロセッサ10016との間の通信を含み得る。例えば、FGPA10004から遠隔にあるプロセッサ10016は、データ(例えば、複数秒分のデータ)を集約することができる。また、システムは、データのその集約を表示することが可能であってもよい。例えば、移動傾向を表すグラフィック及び/又はメトリック10026として表示されてもよい。このグラフィック及び/又はメトリック10026は、リアルタイムデータ上に重ね合わされてもよい。そのような傾向情報は、閉塞を識別するため、器具の血管封止/クランプ効率を識別するため、血管樹概観を識別するため、更には経時的な動きの振動の大きさを識別するためにさえも使用され得る。FPGA10004は、オンザフライアップデート可能、例えば、異なる(例えば、より高度な)変換を用いてアップデート可能であるように構成されてもよい。これらのアップデートは、ローカル又はリモート通信サーバから入手してもよい。これらのアップデートは、例えば、変換の分析を、屈折度(例えば、細胞の不規則性の分析)から、血流、複数の同時深さ分析などに変更することができる。
FPGAアップデートは、ユーザのための様々な撮像オプションを実装する変換を含んでもよい。これらの撮像オプションは、標準複合可視光、組織屈折率、ドップラーシフト、モーションアーチファクト補正、改善されたダイナミックレンジ、改善された局所鮮明度、超解像度、NIR蛍光法、マルチスペクトル撮像、共焦点レーザ顕微内視鏡法、光干渉断層撮影、ラマン分光法、光音響撮像、又は任意の組み合わせを含んでもよい。撮像オプションは、以下のいずれかに提示されるオプションのいずれかを含んでもよい。2018年3月29日に出願された「DUAL CMOS ARRAY IMAGING」と題する米国特許出願第15/940,742号、2013年7月26日に出願された「WIDE DYNAMIC RANGE USING MONOCHROMATIC SENSOR」と題する米国特許出願第13/952,564号、2014年3月14日に出願された「SUPER RESOLUTION AND COLOR MOTION ARTIFACT CORRECTION IN A PULSED COLOR IMAGING SYSTEM」と題する米国特許出願第14/214,311号、2013年7月26日に出願された「CAMERA SYSTEM WITH MINIMAL AREA MONOLITHIC CMOS IMAGE SENSOR」と題する米国特許出願第13/952,550号。これらの各々は、参照により、その全体が本明細書に組み込まれる。ドップラー波長シフトは、例えば、移動粒子の数、サイズ、速さ、及び/又は方向性を識別するために使用され得る。ドップラー波長シフトは、例えば、組織深さ及び移動粒子を相互に関連付けるために、複数のレーザ波長と共に使用されてもよい。組織屈折度は、例えば、組織表面及び表面下の態様の不規則性又は多様性の識別のために使用され得る。外科的実践において、それは、腫瘍マージン、感染、破壊された表面組織、癒着、組織組成の変化などを同定するのに有益であり得る。NIR蛍光法は、全身的に注入された薬物が標的組織によって優先的に吸収される技術を含み得る。適切な波長の光で照明されると、注入された薬物は蛍光を発し、NIR対応スコープ/カメラを通して撮像することができる。ハイパースペクトル撮像法及び/又はマルチスペクトル撮像法は、リアルタイム画像を提供するために、電磁スペクトル全体を通して多くの波長にわたる組織の照明及び評価を含み得る。これは、標的組織どうしを区別するために使用され得る。それはまた、例えば、0~10mmの撮像深さを可能にし得る。共焦点レーザ顕微内視鏡検査(confocal laser endomicroscopy、CLE)は、光を使用して、組織に浸透することなく高分解能の細胞レベル分解能の画像を捕捉することができる。CLEは、組織のリアルタイム病理像を提供し得る。光を使用して、組織内から、マイクロメートル解像度の3D画像を捕捉する技術である。光干渉断層撮影(optical coherence tomography、OCT)は、NIR光を用いてもよい。OCTは、例えば、1~2mmの深さでの組織の撮像を可能にし得る。ラマン分光法は、組織の単色レーザ照明によって引き起こされる光子シフトを測定する技法を含み得る。ラマン分光法は、特定の分子を同定するために使用され得る。光音響撮像は、エネルギーの一部が熱弾性膨張及び超音波放出を引き起こすように、組織をレーザパルスにさらすことを含み得る。これらの結果として生じる超音波は、検出かつ分析されて、画像を形成し得る。
これらのアップデートは、ユーザ入力又はシステム互換性チェックに基づいて自動的に行うことができる。システム10000のこれらのリアルタイム、集約、及びアップデート可能な特徴は、システムの構成の任意の態様、例えば、システム容量、電力可用性、空きメモリアクセス、通信容量、ソフトウェアレベル、階層化購入レベルなどに基づいて、選択的に有効化されてもよい。
レーザ光照明源10010は、ヒト組織を分析するために好適なレーザ光の任意の照明源を含んでもよい。レーザ光照明源10010は、例えば、図17A~図17Fに図示される、ソースレーザエミッタなどのデバイスを含んでもよい。レーザ光照明源10010は、組織10002を照明するために、レーザ光の1つ以上の波長を使用してもよい。例えば、レーザ光照明源10010は、赤色-青色-緑色-紫外線1-紫外線2-赤外線の組み合わせを使用してもよい。例えば、360~480Hzのサンプリング及び作動レートとの上記の組み合わせは、各光源が、エンドユーザの60Hzの組み合わされたフレームレートで、複数のフレームを有することを可能にする。独立した光源とのレーザ光波長の組み合わせは、単一のアレイからの解像度を増加させることができ、様々な深さへの浸透を可能にすることができる。
組織10002は、例えば、術野の一部内のヒト組織であってもよい。レーザ光は、組織10002から反射して、反射レーザ光をもたらし得る。反射レーザ光は、光センサ10012によって受信され得る。光センサ10012は、術野の少なくとも一部から反射レーザ光を受信するように構成されてもよい。光センサ10012は、術野全体からレーザ光を受信するように構成されてもよい。光センサは、術野の選択可能部分から反射レーザ光を受信するように構成されてもよい。例えば、外科医などのユーザは、術野の特定の部分を分析するように、光センサ並びに光レーザ光照明源及び/又はレーザ光照明源に指示してもよい。
光センサ10012は、反射レーザ光を感知し、対応する情報を出力するのに好適な任意のデバイスであり得る。例えば、光センサ10012は、反射レーザ光の1つ以上の特性、例えば、振幅、周波数、波長、ドップラーシフト、及び/又は他の時間領域品質若しくは周波数領域品質などを検出し得る。レーザ光センサ10012は、例えば、図16A~図16Dに関連して開示される光センサなどのデバイスを含み得る。
レーザ光センサ10012は、1つ以上のセンサモジュール10013を含み得る。センサモジュール10013は、広範囲の波長を測定するように構成され得る。センサモジュール10013は、例えば、特定の波長を測定するように調整かつ/又はフィルタリングされ得る。センサモジュール10013は、例えば、個別のセンサ、センサの集合、センサアレイ、センサアレイの組み合わせなどを含み得る。例えば、センサモジュール10013は、フォトダイオード、CMOS(相補型金属酸化膜半導体)イメージセンサ、CCD(電荷結合素子)イメージセンサなどの半導体部品を含み得る。
レーザ光センサ10012は、デュアルCMOSアレイを含んでもよい。図31Bは、例示的なレーザ光センサ10030を示す。レーザ光センサ10030は、2つのセンサモジュール10032、10034を含み得る。センサモジュール10032、10034は、デュアル並列CMOSアレイとして実装されてもよい。例えば、レーザ光センサ10030は、2つのセンサモジュール10032、10034(例えば、2つの並列4mmセンサ)を有する外科用スコープ10031(例えば、直径7mmの外科用スコープ)のフォームファクタに組み込まれ得る。レーザ光センサ10030は、撮像モード間のシフトを可能にするように構成されてもよい。モードは、例えば、3次元立体撮像及び2次元同時撮像(例えば、屈折度分析及び/又はドップラー分析のための撮像と共に視覚的撮像)を含み得る。モードは、例えば、より狭い又はより広い視覚化範囲での撮像を含み得る。モードは、例えば、より低い若しくはより高い解像度及び/又はアーチファクト補正による撮像を含み得る。センサモジュール10032、10034は、異なるタイプのセンサを含み得る。例えば、第1のセンサモジュール10032は、CMOSデバイスであってもよい。第2のセンサモジュール10034は、異なるCMOSデバイスであってもよい。CMOSデバイスにおける差異は、集光能力のより大きな多様性を可能にし得る。例えば、異なるCMOSデバイスは、より広い光コントラスト及び/又はより良好な集光を可能にし得る。例えば、第1のセンサアレイ10032は、第2のセンサアレイ10034に対してより多くの画素検出器を有し得る。外科用スコープ10031は、例えば、レーザ光照明源などの、1つ以上の光源10036を含み得る。
図31Cは、複数のフレームに対する画素アレイの例示的な動作のグラフィック表現である。センサモジュール(例えば、CMOSセンサモジュールなど)は、光感知のためのパターン及び/又は技法を組み込み得る。センサモジュールの動作に関連する光感知技術は、フィルタリングを組み込み得る。センサモジュールに関連する光感知技術は、光源のストロービングを組み込み得る。これらの技法の例は、例えば、図17C及び図17Dに関連して本明細書で開示される技法を含み得る。センサモジュールに関連してストロービング光源のパターンを使用して、反射光を測定し、反射光を示す情報を生成し得る。画素アレイは、様々な中心光波長を有する様々な光源(レーザ又は発光ダイオードのいずれか)と共に高速で可視化領域を迅速にストロービングすることによって捕捉されてもよい。
ストロービングは、センサに、対応する波長に関連付けられたそれぞれの画素アレイを捕捉させ得る。例えば、第1のパターン10038では、赤色、緑色、及び青色、並びに赤外線(例えば、近赤外線)の波長光が、ストロービングされ得る。そのようなストロービングは、センサに、例えば、赤色波長に関連付けられた第1の画素アレイ10040、緑色波長に関連付けられた第2の画素アレイ10042、青色波長に関連付けられた第3の画素アレイ10044、緑色波長に関連付けられた第4の画素アレイ4046、赤外線(例えば、近赤外線)波長に関連付けられた第5の画素アレイ10048、緑色波長に関連付けられた第6の画素アレイ10050、及び青色波長に関連付けられた第7の画素アレイ10052を捕捉させ得る。例えば、第2のパターン10054では、赤色、緑色、及び青色、並びに赤外線(例えば、近赤外線)の波長光が、ストロービングされ得る。そのようなストロービングは、センサに、例えば、赤色波長に関連付けられた第8の画素アレイ10056、緑色波長に関連付けられた第9の画素アレイ10058、青色波長に関連付けられた第10の画素アレイ10060、緑色波長に関連付けられた第11の画素アレイ10062、紫外線波長に関連付けられた第12の画素アレイ10064、緑色波長に関連付けられた第13の画素アレイ10066、及び青色波長に関連付けられた第14の画素アレイ10068を捕捉させ得る。
例えば、第1のパターン10038及び第2のパターン10054などのパターンは、1つ以上のセンサモジュールと関連付けられてもよい。例えば、第1のパターン10038及び第2のパターン10054などのパターンは、本明細書で開示されるような動作モードに関連付けられてもよい。例えば、第1のパターン10038及び第2のパターン10054などのパターンは、連続的に動作されてもよい。例えば、第1のパターン10038及び第2のパターン10054などのパターンは、(例えば、適切なブランキングを用いて)並行的に動作させることができる。例えば、第1のパターン10038及び第2のパターン10054などのパターンはそれぞれ、それぞれ対応するセンサモジュールに関連付けられてもよい。例えば、第1のパターン10038及び第2のパターン10054などのパターンは、センサモジュールに共同で関連付けられてもよい。
図31Aに示されるように、光センサ10012によって収集された情報は、FPGA10004に伝達され得る。FPGA10004は、光センサ10012からのデータを分析するのに好適な任意のアップデート可能なゲートアレイデバイスを含み得る。FPGA10004は、1つ以上の論理素子10018を含み得る。論理素子10018は、入来する情報に対して変換を実行するように構成され得る。FPGA10004は、組織を表す分析されたデータ及び/又は処理されたデータを、FPGA10016及び/又はディスプレイ10014から遠隔にあるプロセッサに渡すのに好適な出力を含み得る。
例えば、FPGA10004の論理素子10018は、ディスプレイ10014に渡され、光センサ10012によって受信された反射レーザ光情報の変換を表すリアルタイムデータ又はメトリック10020として表示され得る情報を提供し得る。変換は、光センサ10012から受信されたデータを部分的な動きを示す情報に変換するための、任意の数学演算及び/又は論理演算を含み得る。例えば、変換は、高速フーリエ変換(fast Fourier transform、FFT)を含み得る。
FGPA10004の論理素子10018は、例えば、リアルタイムデータ又はメトリック10020をディスプレイ10014に直接、かつ/又はフィールドプログラマブルゲートアレイに対してローカルなプロセッサ10006と協調して提供することができる。リアルタイムデータ及び/又はメトリック10020は、例えば、1秒当たりの粒子数などの粒子の動きの表現を含み得る。リアルタイムデータ及び/又はメトリック10020は、ディスプレイ10014上に表示されてもよい。リアルタイムデータ及び/又はメトリック10020は、組織10002を視覚化したものに重ね合わせて表示されてもよい。
例えば、FPGA10004の論理素子10018は、集約及び/又は処理のためにFPGA10004から遠隔にあるプロセッサ10016に渡され得る情報を提供してもよい。FPGA10004から遠隔にあるプロセッサ10016は、このデータの集約及び分析を提供し得る。例えば、FPGA10004から遠隔にあるプロセッサ10016は、移動平均及び他の集約技術を提供し得る。FPGA10004から遠隔にあるプロセッサ10016は、可変時間粒度を有する時間集約データを展開し得る。例えば、FPGA10004から遠隔にあるプロセッサ10016は、フィールドプログラマブルゲートアレイ10004からの数秒分のデータを集約することができる。FPGA10004から遠隔にあるプロセッサ10016は、最小二乗回帰技法、多項式フィット技法、平均、相加平均、モード、最大、最小、分散及び/又は同様のものなどの他の統計法など、データを集約して分析するのに好適な他のアルゴリズム10022を含み得る。FPGA10004の遠隔にあるプロセッサ10016は、光センサ10012から受信したデータ及び/又はFPGA10004によって変換されたデータを、例えば、状況認識データ、処置状態、医療情報、患者転帰、出血事象などの有害事象などの他の集約データを含む手術の他の態様と相関させる相関アルゴリズムを含み得る。FPGA10004から遠隔にあるプロセッサ10016は、特定の人工知能及び/又は機械学習ベースのアルゴリズムを含み得る。例えば、以前に取得されたデータは、1つ以上の人工知能及び/又は機械学習アルゴリズムへの訓練セットとして使用され、種々の外科手術事象と、光センサ10012から受信される入力及びFPGA10004によって変換される入力との間の更なる相関を提供してもよい。集約及び分析アルゴリズムから得られる情報は、ユーザへの表示のためにディスプレイ10014に送信されてもよい(例えば、FPGA10004に対してローカルなプロセッサ10006と協力して送信される)。
ディスプレイ10014は、ユーザに情報を表示するのに好適な任意のデバイスを含み得る。ディスプレイ10014は、例えば、図3に関連するモニタ135を含み得る。例えば、ディスプレイ10014は、従来のコンピュータモニタを含み得る。例えば、ディスプレイ10014は、画像及び/又はテキストデータをユーザに表示するのに好適な任意のデバイスを含み得る。例えば、ディスプレイ10014は、光センサ10012及び/又は他の画像センサから受信された画像データ10024を表示して、組織10002の視覚表現を描いてもよい。ディスプレイ10014はまた、1つ以上の表示されたデータ要素を含むコンテキスト情報をユーザに提供するために好適であり得る。データ要素は、データ及び/又はメトリックの数値表現又はグラフィカル表現を含み得る。例えば、メトリックは、単位のグラフィカル表現を伴う1つ以上の数を含み得る。例えば、ディスプレイ10014は、例えば、FPGA10004の出力に従って検出されている1秒当たりの粒子数などの、リアルタイムメトリック10020を表示し得る。ディスプレイ10014は、FPGA10006から遠隔にあるプロセッサ10016の集約及び分析アルゴリズムからの処理されたメトリック10026(例えば、ある期間にわたって測定されるような、1秒当たりの粒子数の変化率など)を表示してもよい。
FPGA10004に対してローカルに含まれるプロセッサ10006は、外科用可視化システム10000の制御処理に好適な任意のデバイスを含むことができる。例えば、FPGAに対してローカルなプロセッサ10006は、マイクロプロセッサ、マイクロコントローラ、FPGA、及び特定用途向け集積回路(ASIC)、システムオンチップ(SOIC)、デジタル信号処理(DSP)プラットフォーム、リアルタイムコンピューティングシステムなどを含み得る。
FPGA10004に対してローカルなプロセッサ10006は、外科用可視化システム10000の下位構成要素のいずれかの制御動作を提供し得る。例えば、FPGA10004に対してローカルなプロセッサ10006は、レーザ光照明源10010の動作を制御し得る。FPGA10004に対してローカルなプロセッサ10006は、例えば、様々なレーザ光シーケンスのためのタイミングを提供し得る。FPGA10004に対してローカルなプロセッサ10006は、例えば、レーザ光照明源の周波数及び/又は振幅の変調を提供し得る。FPGA10004に対してローカルなプロセッサ10006は、例えば、図17A~図17Fに開示される技法のいずれかにおいて、レーザ光照明源に指示して照明させてもよい。
FPGA10004に対してローカルなプロセッサ10006は、光センサ10012の動作を制御するのに好適であり得る。例えば、FPGA10004に対してローカルなプロセッサ10006は、特定の光センサが、例えば、特定の時間にオン又はオフにされるように、光センサ10012に指示して特定のシャッタリングシーケンスを提供させ得る。FPGA10004に対してローカルなプロセッサ10006は、例えば、局所露光、コントラスト、解像度、帯域幅、視野、及び撮像処理などの、光センサ10012の特定の構成を指示する。
FPGA10004に対してローカルなプロセッサ10006は、外科用可視化システムの構成要素間のデータフローを方向付けるための内部ネットワーク機能を提供し得る。例えば、FPGA10004に対してローカルなプロセッサ10006は、光センサ10012から受信したデータをFPGA10004に向けてもよい。FPGA10004に対してローカルなプロセッサ10006は、光センサ10012からFPGA10004の1つ以上の論理素子10018へのデータの適切な伝達を可能にするように、スイッチングファブリックを提供する、かつ/又はスイッチングファブリックに指示することができる。
FPGA10004に対してローカルなプロセッサ10006は、ディスプレイ10014の動作の全部又は一部を制御し得る。例えば、FPGA10004に対してローカルなプロセッサ10006は、特定の画像データ10024、処理されたデータ及び/若しくはメトリック10026、並びに/又はリアルタイムデータ及び/若しくはメトリック10020をディスプレイ10014上に表示させるための命令を提供し得る。
FPGA10004に対してローカルなプロセッサ10006は、ユーザインターフェース(図示せず)から情報を受信してもよい。例えば、FPGA10004に対してローカルなプロセッサ10006は、画像データ10024上の関心領域の特定の選択を受信し得る。例示のために、外科医が術野の特定の領域における粒子の流れに関心があった場合、外科医は、ユーザインターフェース(例えば、キーボード及びマウス)を使用してディスプレイ上の関心領域を選択してもよく、FPGA10004に対してローカルなプロセッサ10006は、それに応じて応答する。例えば、上記の応答は、外科用可視化システムに、外科医によって行われた選択に関連付けられた1つ以上の測定基準を決定させ、表示させることによって行われる。
FPGA10004に対してローカルなプロセッサ10006及び/又はFPGA10004から遠隔にあるプロセッサ10016は、FPGA10004の構成変更を可能にするために、個別に又は協調して動作することができる。例えば、FPGA10004は、データの第1の変換を実行するための論理素子の第1の配列を含み得る。FPGA10004は、論理素子の第1の配列から論理素子の第2の配列に遷移して、データの第2の変換を実行するように構成されてもよい。例えば、FPGA10004に対してローカルなプロセッサ10006及び/又はFPGA10004から遠隔にあるプロセッサ10016は、論理素子10018が第2の変換を実行するように、FPGA10004の論理素子10018の配置又は構成を、調整、再構成、かつ/又は再配置するのに好適であってもよい。第2の変換は、第1の変換とは異なり得る。第2の変換は、第1の変換の変形であり得る。この特徴を示すために、例示的な第1の変換は、11ビット符号付き整数入力を使用する32点Cooly-Tukey Radix-2実装高速フーリエ変換(FFT)を含み得る一方、第2の変換は、12ビット符号付き整数入力を使用する1024点Cooly-Tukey Radix-2実装FFTを含み得る。
異なる変換を実装する論理素子10028の種々の構成を表すデータは、外科用可視化システムに利用可能であり得る。例えば、FPGA10004から遠隔にあるプロセッサ10016は、論理素子10028の1つ以上の構成をデータベースに記憶していてもよい。これらの構成10028は、時々アップデートされ得る。これらの構成10028は、様々な変換を表し得る。これらの構成10028は、異なるレベルのハードウェア及び処理リソースを必要とする変換を表し得る。例えば、それらは、あまり高性能ではないFPGAによって実装され得る変換及び/又はより高性能のFPGAによって実装され得る変換を含み得る。構成情報10028は、種々の処置及び/又は組織に関連付けられる変換のための構成を含み得る。例えば、構成情報10028は、新たに開発された変換及び/又は経時的に集約されたデータの分析に従って開発された変換を含むことができる。この態様を例示するために、一例では、特定の変換が、特定の外科処置における出血事象のより良好な予測因子であると決定され得、そのような相関は、当該変換を更に精緻化するため、更には、類似患者データ及び/又は処置データが指図するとき、当該変換の使用を促すために使用されてもよい。
変換のアップグレード可能性は、購入された機能階層(例えば、購入されたソフトウェア階層)に関連付けられ得る。例えば、購入された機能階層は、FGPA10004がアップデート可能になることを有効化することができ、かつ/又は特定の変換を外科用可視化システム10000に利用可能にすることができる。購入された機能階層は、例えば、病院、手術室、外科医、処置、器具類のセット、及び/又は特定の器具に関連付けられ得る。例示のために、外科用可視化システム10000は、デフォルト変換と共に使用するように病院に設置され得る。デフォルト変換は、多くの処置に好適な一般化された変換を含み得る。アップグレードされた機能階層を購入すると、FPGA10004は、代替的変換を実装するように再構成され得るが、その代替的変換は、例えば、特定の処置、組織タイプ、又は外科医の好みに合わせてよりカスタマイズされたものであり得る。
適応的FPGAアップデートは、可変オーバーレイを可能にし得る。そのようなオーバーレイは、代替的ソースデータセットからのデータ及び/又はメトリックを含み得る。これらのデータセットを使用して、リアルタイム粒子移動及び集計傾向データにコンテキストを与えることができる。例えば、環境パラメータは、局所的手術部位における血流及び/又は炎症に影響を及ぼすように制御され得る。流体の流れをモニタリングして、FPGAから遠隔にあるプロセッサは、部屋及び/又は患者の設定を推奨する(又は、例えば、自動的に変更する)ことができる。これらの設定変更は、手術場所を最適化し、かつ/又はデバイス性能を向上させ得る。例えば、血流をモニタリングすることによって、ユーザは、実際に実行に移す前に、可視化フィードバックを受信して、ある動作(例えば、ステープル及び/又はシール)の結果を理解し得る。体温の上昇又は低下、ベッド角度の上昇/下降、圧迫カフの圧力及び配置などの設定が、視覚的フィードバックと共に使用されて、血液をモニタリングされる場所に向かって、又はそこから離れるように方向付け得る。
メモリ10008は、データを記憶すること及び記憶されたデータを提供することに好適な、任意のデバイスを含み得る。メモリは、読み取り専用メモリ(ROM)及び/又はランダムアクセスメモリ(RAM)を含み得る。メモリ10008は、例えば、電気的消去可能プログラマブル読み出し専用メモリ(EEPROM)を含み得る。メモリ10008は、例えば、埋め込み型システムに好適であってもよい。メモリ10008は、例えば、外科用可視化システムの動作における任意の中間データ製品を記憶するのに好適である。メモリ10008は、1つ以上のコマンドパラメータ、及び/又は当該論理素子のための構成情報を含む、外科用可視化システムの構成情報を記憶するために好適であり得る。メモリ10008は、システムパラメータを記憶するのに好適であり得る。メモリ10008は、1つ以上のバッファ、レジスタ、及び/又は情報の一時ストレージを提供するのに好適であってもよい。
図32は、動作モードを決定するための例示的な方法を示す。10200において、リアルタイムデータが収集され得る。例えば、外科用可視化システムは、組織に関連付けられたリアルタイムデータを収集し得る。例えば、レーザ光照明源は、組織を照明し、反射レーザ光を結果として生じ得るが、その反射レーザ光は、光センサによって感知され、フィールドプログラマブルゲートアレイ(FPGA)内の論理素子の配列内に実装される変換に従って変換され得る。この収集されたリアルタイムデータは、ユーザに提示され得る。この収集されたリアルタイムデータは、例えば、フィールドプログラマブルゲートアレイに対してローカルなプロセッサ及び/又はフィールドプログラマブルゲートアレイから遠隔にあるプロセッサによって処理かつ/又は記憶かつ/又は集約され得る。
10202において、制御パラメータ及び/又は入力が、論理処理のために考慮され得る。例えば、制御パラメータ及び/又は入力のこの考慮は、動作がデフォルト動作モード及び/又は代替的動作モードで継続するかどうかを決定するために使用され得る。例えば、システムパラメータに基づくローカル処理及び傾向に関するシステムロックアウトステータスの決定が存在し得る。
ユーザからの入力及び/又は制御パラメータは、デフォルトモードで動作するか又は代替的モードで動作するかを決定するのを助けるのに好適な、任意の数のパラメータ又は任意の情報を含み得る。例えば、ローカルに配置された制御システムとのデータ交換を、制御パラメータとして使用することができる。例えば、リモートシステムと双方向通信するローカル制御システムが使用され得る。例えば、制御パラメータは、処理能力、メモリ能力を有する帯域のいずれかを含み得る。制御パラメータは、ソフトウェア階層の購入を含み得る。入力は、デフォルト変換ではなく代替的変換を選択するための、外科医などのユーザからの入力を含み得る。例えば、入力は、例えば、特定の分析のために術野の一部を選択するユーザ入力であってもよい。制御パラメータ及び/又は入力は、データの集約及び/又は集約データの分析の有効化を示すのに好適な制御パラメータ及び入力を含んでもよい。
デフォルトモードで動作するか又は代替的モードで動作するかの決定は、データの最大能力をユーザに表示することを含んでもよい。デフォルトモードで動作するか又は代替的モードで動作するかの決定は、ディスプレイ及びユーザインターフェースを介したユーザとの通知及び確認のインタラクションを含み得る。デフォルトモードで動作するか又は代替的モードで動作するかの決定に従って、動作は、10204においてデフォルトモードで、又は10206において代替的モードで継続することができる。例えば、デフォルト動作モードでの動作は、デフォルト変換に従って、リアルタイムデータを収集し、かつ処理することを含み得る。また、代替的動作モードにおける動作は、例えば、リアルタイムデータの収集に替わる、変換又は第2の変換若しくは代替的変換に従って動作することを含み得る。
光生成及び撮像センサアレイを伴う外科用可視化システムでは、検出された光の変換は、その情報を、移動粒子サイズ、速さ、及び体積に変換し得る。変換の結果は、モニタ上に表示され得る。デフォルト変換及び/又は代替的変換は、種々のプログラムパラメータを含み得る。デフォルト変換及び/又は代替的変換からの出力は、データの傾向を決定し、集約するために、外部処理に連結されてもよい。デフォルト動作モードで動作するか又は代替的動作モードで動作するかは、粒子データ、傾向データ、階層化データなどを表示するための選択を含むことができ、この選択は、システム制御パラメータに依存して行われ得る。
図33は、リアルタイム情報及び傾向情報をユーザに表示するための例示的方法を示す。光波長のドップラーシフトのリアルタイム変換は、プロセッサ構成要素にエクスポートされ得る。プロセッサ構成要素は、先行するある秒数分の量のデータセットを記憶することが可能であり得る。これらのデータセットは、動きデータを傾向データに集約するための基準として使用され得る。また、傾向データをディスプレイ上に重ね合わせて、リアルタイムの動きと動きの傾向との両方を示してもよい。
移動の傾向は、例えば、履歴データ(例えば、同じ処置内での、先行する数分間及び/又は数時間からのローカル履歴データ、より長期の履歴データなど)と比較されてもよい。移動の傾向は、例えば、ローカルソース及び/又は外部ソースからのデータと比較されてもよい。比較は、傾向のコンテキスト、例えば、ベースラインに対する傾向を提供することができる。例えば、異なる時点で同じ患者から比較を行ってもよい。例えば、比較は、1人以上の類似の患者(例えば、類似の関連する特性を有する患者)から行ってもよい。比較は、外科医の決定に情報を与えるために使用され得る。
10300において、リアルタイムデータが収集され得る。レーザ光は、術野内の組織上に照射され、光センサに向かって反射されて戻り得る。リアルタイムデータは、光センサによって受信されたデータを含み得る。リアルタイムデータは、反射光の周波数及び/又は波長の表現を含み得る。
術野における移動粒子は、反射光の波長においてドップラーシフトを引き起こし得る。10302において、リアルタイムデータは、ドップラーシフトを評価するための変換によって変換され得る。結果として得られる情報は、例えば、速さ、速度、体積などの、移動粒子の態様を表すことができる。この結果得られた情報は、10304においてユーザに表示され得る。
更に、データ及び/又はシステムの最大能力がユーザに表示されてもよい。そして、10306において、結果として生じる情報及び/又はリアルタイムデータは、集約され、かつ/又は更に分析され得る。例えば、状況認識を用いて処理されてもよい。例えば、これは、血流、間質液、煙、微粒子、霧、エアロゾルなどの分離及び/又は識別を可能にし得る。また、他のデータタイプからのノイズなしに、選択されたデータの表示を可能にすることができる。例えば、ハイライトされた粒子追跡のユーザによる選択は、更なる処理及び分析を用いて、所望のリアルタイムデータ、結果得られる情報などに表示をフォーカスさせ得る。例えば、ユーザは、表示されるデータのタイプ、粒子のサイズ、体積、増加率、粒子群の速度、及び/又はタグ付けされた群の経時的な移動などを選択することができる。結果として生じる情報及び/又はリアルタイムデータは、集約され、かつ/又は更に分析されて、例えば、経時的傾向の決定、様々な態様の変化率(例えば、加速度など)への変換、温度、吹送ガスタイプ、レーザ源、組み合わせられたレーザデータセットなどに対する較正及び/又は調整を決定してもよい。集約及び分析は、リアルタイム情報の表示と同時に行われてもよい。移動粒子に関する情報の集約及び分析は、移動粒子に関するリアルタイムデータを表示した後のある時点で行われてもよい。移動粒子に関する集約及び分析情報は、移動粒子に関するリアルタイム情報の表示なしで行われてもよい。移動粒子に関する情報の集約及び分析は、視覚化データを分析するのに好適な任意の数のアルゴリズムと、本発明者らの分析と、を含み得る。
10308において、集約及び更なる分析から得られた情報(例えば、傾向情報)をユーザに表示することができる。傾向情報は、グラフィカル傾向アニメーションに組み合わされてもよい。傾向情報は、メトリックとして示すことができる。傾向情報は、生の移動粒子データに重ね合わせることができる。
図34は、リアルタイム情報及び/又は傾向情報が表示されている例示的ユーザインターフェースを描く。第1のユーザインターフェース10402は、画像データを含む。この画像データは、術野の画像部分2810を表すことができる。画像部分2810は、外科医が対象の血管2815のみを切開することに焦点を合わせることができるように、血管樹2814の拡大図を提示し得る。対象の血管2815を切除するために、外科医は、スマートRF焼灼デバイス2816を使用し得る。画像データは、CMOS画像センサ及び/又は光センサによって生成され得る。データはまた、この組織に衝突し、光センサによって受信され、変換によってリアルタイムで処理される広帯域光及び/又はレーザ光によって収集されてもよい。この変換の出力は、視野のある部分内で動く、1秒当たりの粒子数のメトリック10404及び/又は他の表現であり得る。例えば、このメトリックは、例えば、煙、液体、血球などの粒子を表すことができる。メトリック10404は、第1のユーザインターフェース10402上に表示され得る。
ユーザインターフェース要素10405がユーザに表示されてもよい。例えば、ユーザインターフェース要素10405は、外科医がデータの更なる分析のためにローカル処理及び/又はリモート処理を行いたいかどうかを示すテキストボックスを含み得る。そのような処理を作動させるために、ある条件が満たされることが要求され得る。例えば、作動は、ソフトウェア階層の購入を条件とすることができる。例えば、作動は、帯域幅及び/又は処理能力を条件とすることができる。
その作動を考慮して、傾向情報10406が、第2のユーザインターフェース10408上に表示され得る。第2のユーザインターフェース10408は、ディスプレイ上に表示され得る。例えば、傾向データは、毎秒毎秒の粒子のメトリック、及び/又は情報グラフィック若しくは他の視覚化、例えば、チャート、アイコン、グラフなどを含み得る。
例えば、1秒当たりの粒子数などのリアルタイムメトリック10404、及び、例えば、粒子加速度などの傾向情報10406は、第2のユーザインターフェース上に含まれ得る。これらの情報要素は、ユーザに対して表示されてもよい。例えば、リアルタイムメトリック10404及び傾向情報10406は、画像データ上に重ね合わされてもよい。例えば、1秒当たりの粒子数などの、そのようなリアルタイムメトリック10404、及び/又は、例えば、粒子加速度などの傾向情報10406は、血管2815の切除を行う外科医にとって有用であり得る。
図35は、外科用可視化システムのための例示的なアップグレードフレームワークを示す。フレームワークは、2×2のグリッドを含む。左軸は入力を表す。下のアクセスは、変換及び/又はアルゴリズムを表す。外科用可視化システムに対するアップデートを実行するとき、アップデートは、例えば、光の波長、パターン、強度を変更するなど、入力に対する変更を含むことができる。入力に対する変更は、例えば、単一波長からマルチスペクトル入力への変更を含み得る。外科用可視化システムに対するアップデートを実行するとき、アップデートは、変換及び/又はアルゴリズムに対する変更を含み得る。変換は、処理効率、応答性、エネルギー使用、帯域幅などのために変換を新たに調整することを含み得る。
図示のように、アップデートは、グリッド内の任意のボックスの形態をとることができる。アップデートは、変換及び/又はアルゴリズムが同じままでの入力の変更を含み得る。アップデートは、入力が同じままでの変換及び/又はアルゴリズムの変更を含み得る。アップデートは、変換及び/又はアルゴリズムの変更と、入力に対する変更とを含み得る。
図36は、FPGAを再構成するための例示的な方法を示す。10602において、マルチスペクトル撮像データを変換するために、所定のFPGA変換が使用され得る。10604において、この変換から生成された情報は、集約及び/又は更なる分析を受けることができる。集約及び更なる分析により、特定の目的により好適な代替的変換を特定することができる。システムは、10606において、変換に対するアップデートに関連付けられた入力(例えば、制御パラメータなど)を要求かつ/又は受信することができる。そのような入力及び/又は制御パラメータがアップデートしないことを示す場合、システムは、10608において、既存の変換を継続使用することができる。システムがアップグレード可能である場合、システムは、10610において、代替的構成を取得することができる。10612において、FPGA内の論理素子は、アップデートされた変換を反映するように、代替的構成に従って再構成され得る。システムは、アップデートされたFPGA変換を用いて、マルチスペクトル撮像を再開し得る。
実施形態の以下のリストは、説明の一部を形成する。
1.術野の少なくとも一部を分析するための外科用可視化システムであって、そのシステムは、
術野の少なくとも一部を、レーザ光で照明するように構成されたレーザ光照明源と、
反射レーザ光を受光するように構成された光センサと、
反射レーザ光を示す情報を、術野の少なくとも一部内の移動粒子を示す情報に変換するように構成されたフィールドプログラマブルゲートアレイと、
術野の少なくとも一部を含む画像を表示するように構成されたディスプレイと、
第1のメトリック及び第2のメトリックを画像に重ね合わせて表示するようにディスプレイを制御するように構成されたプロセッサと、を備え、
第1のメトリックは、術野の少なくとも一部における移動粒子の現在の状態を表し、
第2のメトリックは、術野の少なくとも一部における移動粒子の凝集状態を表す、外科用可視化システム。
2.術野の少なくとも一部における移動粒子の凝集状態は、データ傾向を含む、実施形態1に記載の外科用可視化システム。
3.第2のメトリックは、数秒間の凝集を表し、傾向として示される、実施形態1に記載の外科用可視化システム。
4.第2のメトリックは、閉塞、器具の血管封止/クランプ効率、血管樹概観、及び経時的な動きの振動の大きさのうちのいずれかを識別するのに好適である、実施形態1に記載の外科用可視化システム。
5.第2のメトリックは、術野の少なくとも一部における移動粒子の加速度を含む、実施形態1に記載の外科用可視化システム。
6.プロセッサは、ディスプレイを制御して、画像上に重ね合わされたグラフィカル傾向アニメーションを表示させるように構成されている、実施形態1に記載の外科用可視化システム。
7.第2のメトリックを表示するために使用されるべきユニットのタイプのユーザ選択を受信するためのユーザインターフェースを更に備える、実施形態1に記載の外科用可視化システム。
8.タグ付けされた粒子群のユーザ選択を受信するためのユーザインターフェースを更に備え、第2のメトリックは、タグ付けされた粒子群の凝集状態を表す、実施形態1に記載の外科用可視化システム。
9.プロセッサは、画像取得モジュールに関連付けられた第1のプロセッサを備え、システムは、外部処理リソースに関連付けられた第2のプロセッサを更に備え、術野の少なくとも一部内の移動粒子を示す情報は、凝集分析のために第2のプロセッサに伝達され、第2のメトリックを示す情報は、第2のプロセッサから第1のプロセッサに伝達される、実施形態1に記載の外科用可視化システム。
10.術野の少なくとも一部を分析するための外科用可視化システムであって、そのシステムは、
反射レーザ光を示す情報を、術野の少なくとも一部内の移動粒子を示す情報に変換するように構成されたフィールドプログラマブルゲートアレイと、
フィールドプログラマブルゲートアレイと共に収容され、術野の少なくとも一部における移動粒子の現在の状態を表す第1のメトリックを生成するように構成された第1のプロセッサと、
フィールドプログラマブルゲートアレイから遠隔にあり、術野の少なくとも一部内の移動粒子を示す情報を受信し、術野の少なくとも一部内の移動粒子の凝集状態を表す第2のメトリックを生成するように構成された第2のプロセッサと、を備える、外科用可視化システム。
11.ディスプレイを更に備え、第2のプロセッサは、第2のメトリックを第1のプロセッサに伝達し、第1のプロセッサは、ディスプレイに、第1のメトリック及び第2のメトリックを、術野の少なくとも一部を含む画像の上に重ね合わされた状態で表示するように指示する、実施形態10に記載の外科用可視化システム。
12.術野の少なくとも一部をレーザ光で照明するように構成されたレーザ光照明源と、反射レーザ光を受光するように構成された光センサと、を更に備える、実施形態10に記載の外科用可視化システム。
13.術野の少なくとも一部における移動粒子の凝集状態は、データ傾向を含む、実施例10に記載の外科用可視化システム。
14.第2のメトリックは、数秒間の凝集を表し、傾向として示される、実施形態10に記載の外科用可視化システム。
15.第2のメトリックは、閉塞、器具の血管封止/クランプ効率、血管樹概観、及び経時的な動きの振動の大きさのうちのいずれかを識別するのに適している、実施形態10に記載の外科用可視化システム。
16.第2のメトリックは、術野の少なくとも一部における移動粒子の加速度を含む、実施形態10に記載の外科用可視化システム。
17.術野の少なくとも一部を分析するための外科用可視化システムであって、そのシステムは、
術野の少なくとも一部を含む画像を表示するように構成されたディスプレイと、
第1のメトリック及び第2のメトリックを画像に重ね合わせて表示するようにディスプレイを制御するように構成されたプロセッサと、を備え、
第1のメトリックは、術野の少なくとも一部における移動粒子の現在の状態を表し、
第2のメトリックは、術野の少なくとも一部における移動粒子の凝集状態を表す、外科用可視化システム。
18.術野の少なくとも一部における移動粒子の凝集状態は、データ傾向を含む、実施形態17に記載の外科用可視化システム。
19.第2のメトリックは、数秒間の凝集を表し、傾向として示される、実施形態17に記載の外科用可視化システム。
20.タグ付けされた粒子群のユーザ選択を受信するためのユーザインターフェースを更に備え、第2のメトリックは、タグ付けされた粒子群の凝集状態を表す、請求項17に記載の外科用可視化システム。
〔実施の態様〕
(1) 術野の少なくとも一部を分析するための外科用可視化システムであって、前記システムは、
前記術野の前記少なくとも一部を、レーザ光で照明するように構成されたレーザ光照明源と、
反射レーザ光を受光するように構成された光センサと、
前記反射レーザ光を示す情報を、前記術野の前記少なくとも一部内の移動粒子を示す情報に変換するように構成されたフィールドプログラマブルゲートアレイと、
前記術野の前記少なくとも一部を含む画像を表示するように構成されたディスプレイと、
第1のメトリック及び第2のメトリックを前記画像に重ね合わせて表示するように前記ディスプレイを制御するように構成されたプロセッサと、を備え、
前記第1のメトリックは、前記術野の前記少なくとも一部における移動粒子の現在の状態を表し、
前記第2のメトリックは、前記術野の前記少なくとも一部における移動粒子の凝集状態を表す、外科用可視化システム。
(2) 前記術野の前記少なくとも一部における移動粒子の前記凝集状態は、データ傾向を含む、実施態様1に記載の外科用可視化システム。
(3) 前記第2のメトリックは、数秒間の凝集を表し、傾向として示される、実施態様1に記載の外科用可視化システム。
(4) 前記第2のメトリックは、前記術野の前記少なくとも一部における移動粒子の加速度を含む、実施態様1に記載の外科用可視化システム。
(5) 前記第2のメトリックは、閉塞、器具の血管封止/クランプ効率、血管樹概観、及び経時的な動きの振動の大きさのうちのいずれかを識別するのに好適である、実施態様1~4のいずれかに記載の外科用可視化システム。
(6) 前記プロセッサは、前記ディスプレイを制御して、前記画像上に重ね合わされたグラフィカル傾向アニメーションを表示させるように構成されている、実施態様1~5のいずれかに記載の外科用可視化システム。
(7) 前記第2のメトリックを表示するために使用されるべきユニットのタイプのユーザ選択を受信するためのユーザインターフェースを更に備える、実施態様1~6のいずれかに記載の外科用可視化システム。
(8) タグ付けされた粒子群のユーザ選択を受信するためのユーザインターフェースを更に備え、前記第2のメトリックは、前記タグ付けされた粒子群の前記凝集状態を表す、実施態様1~7のいずれかに記載の外科用可視化システム。
(9) 前記プロセッサは、画像取得モジュールに関連付けられた第1のプロセッサを備え、前記システムは、外部処理リソースに関連付けられた第2のプロセッサを更に備え、前記術野の前記少なくとも一部内の移動粒子を示す前記情報は、凝集分析のために前記第2のプロセッサに伝達され、前記第2のメトリックを示す情報は、前記第2のプロセッサから前記第1のプロセッサに伝達される、実施態様1~8のいずれかに記載の外科用可視化システム。
(10) 術野の少なくとも一部を分析するための外科用可視化システムであって、前記システムは、
反射レーザ光を示す情報を、前記術野の前記少なくとも一部内の移動粒子を示す情報に変換するように構成されたフィールドプログラマブルゲートアレイと、
前記フィールドプログラマブルゲートアレイと共に収容され、前記術野の前記少なくとも一部における移動粒子の現在の状態を表す第1のメトリックを生成するように構成された第1のプロセッサと、
前記フィールドプログラマブルゲートアレイから遠隔にあり、前記術野の前記少なくとも一部内の移動粒子を示す前記情報を受信し、前記術野の前記少なくとも一部内の移動粒子の凝集状態を表す第2のメトリックを生成するように構成された第2のプロセッサと、を備える、外科用可視化システム。
(11) ディスプレイを更に備え、前記第2のプロセッサは、前記第2のメトリックを前記第1のプロセッサに伝達し、前記第1のプロセッサは、前記ディスプレイに、前記第1のメトリック及び前記第2のメトリックを、前記術野の前記少なくとも一部を含む画像の上に重ね合わされた状態で表示するように指示する、実施態様10に記載の外科用可視化システム。
(12) 前記術野の前記少なくとも一部をレーザ光で照明するように構成されたレーザ光照明源と、前記反射レーザ光を受光するように構成された光センサと、を更に備える、実施態様10又は11に記載の外科用可視化システム。
(13) 前記術野の前記少なくとも一部における移動粒子の前記凝集状態は、データ傾向を含む、実施態様10~12のいずれかに記載の外科用可視化システム。
(14) 前記第2のメトリックは、数秒間の凝集を表し、傾向として示される、実施態様10~12のいずれかに記載の外科用可視化システム。
(15) 前記第2のメトリックは、前記術野の前記少なくとも一部における移動粒子の加速度を含む、実施態様10~12のいずれかに記載の外科用可視化システム。
(16) 前記第2のメトリックは、閉塞、器具の血管封止/クランプ効率、血管樹概観、及び経時的な動きの振動の大きさのうちのいずれかを識別するのに適している、実施態様10~15のいずれかに記載の外科用可視化システム。
(17) 術野の少なくとも一部を分析するための外科用可視化システムであって、前記システムは、
前記術野の前記少なくとも一部を含む画像を表示するように構成されたディスプレイと、
第1のメトリック及び第2のメトリックを前記画像に重ね合わせて表示するように前記ディスプレイを制御するように構成されたプロセッサと、を備え、
前記第1のメトリックは、前記術野の前記少なくとも一部における移動粒子の現在の状態を表し、
前記第2のメトリックは、前記術野の前記少なくとも一部における移動粒子の凝集状態を表す、外科用可視化システム。
(18) 前記術野の前記少なくとも一部における移動粒子の前記凝集状態は、データ傾向を含む、実施態様17に記載の外科用可視化システム。
(19) 前記第2のメトリックは、数秒間の凝集を表し、傾向として示される、実施態様17に記載の外科用可視化システム。
(20) タグ付けされた粒子群のユーザ選択を受信するためのユーザインターフェースを更に備え、前記第2のメトリックは、前記タグ付けされた粒子群の前記凝集状態を表す、実施態様17~19のいずれかに記載の外科用可視化システム。
(21) 前記光センサは、前記反射レーザ光を示す前記情報を提供する、実施態様1~10及び実施態様12~16のいずれかに記載のシステム。
(22) 前記第1のメトリックは、前記フィールドプログラマブルゲートアレイによって提供される、移動粒子を示す前記情報を表す、実施態様1~16のいずれかに記載のシステム。
(23) 前記反射レーザ光を示す前記情報は、振幅、周波数、波長、ドップラーシフト、及び/又は他の時間領域品質若しくは周波数領域品質のうちの1つ以上を含む、実施態様1~22のいずれかに記載のシステム。
(24) 移動粒子を示す前記情報は、単位時間当たりの移動粒子の数、粒子の速さ、粒子速度、及び/又は体積のうちの1つ以上を含む、実施態様1~23のいずれかに記載のシステム。
(25) 前記第2のメトリックは、移動粒子を示す前記情報を経時的に集約し、最小二乗回帰技法、多項式フィット技法、平均、相加平均(mean)、モード、最大、最小、分散及び/若しくは同様のものなどの他の統計法を実行することによって、又は加速度を表す値を計算することによって計算される、実施態様1~24のいずれかに記載のシステム。

Claims (25)

  1. 術野の少なくとも一部を分析するための外科用可視化システムであって、前記システムは、
    前記術野の前記少なくとも一部を、レーザ光で照明するように構成されたレーザ光照明源と、
    反射レーザ光を受光するように構成された光センサと、
    前記反射レーザ光を示す情報を、前記術野の前記少なくとも一部内の移動粒子を示す情報に変換するように構成されたフィールドプログラマブルゲートアレイと、
    前記術野の前記少なくとも一部を含む画像を表示するように構成されたディスプレイと、
    第1のメトリック及び第2のメトリックを前記画像に重ね合わせて表示するように前記ディスプレイを制御するように構成されたプロセッサと、を備え、
    前記第1のメトリックは、前記術野の前記少なくとも一部における移動粒子の現在の状態を表し、
    前記第2のメトリックは、前記術野の前記少なくとも一部における移動粒子の凝集状態を表す、外科用可視化システム。
  2. 前記術野の前記少なくとも一部における移動粒子の前記凝集状態は、データ傾向を含む、請求項1に記載の外科用可視化システム。
  3. 前記第2のメトリックは、数秒間の凝集を表し、傾向として示される、請求項1に記載の外科用可視化システム。
  4. 前記第2のメトリックは、前記術野の前記少なくとも一部における移動粒子の加速度を含む、請求項1に記載の外科用可視化システム。
  5. 前記第2のメトリックは、閉塞、器具の血管封止/クランプ効率、血管樹概観、及び経時的な動きの振動の大きさのうちのいずれかを識別するのに好適である、請求項1~4のいずれか一項に記載の外科用可視化システム。
  6. 前記プロセッサは、前記ディスプレイを制御して、前記画像上に重ね合わされたグラフィカル傾向アニメーションを表示させるように構成されている、請求項1~5のいずれか一項に記載の外科用可視化システム。
  7. 前記第2のメトリックを表示するために使用されるべきユニットのタイプのユーザ選択を受信するためのユーザインターフェースを更に備える、請求項1~6のいずれか一項に記載の外科用可視化システム。
  8. タグ付けされた粒子群のユーザ選択を受信するためのユーザインターフェースを更に備え、前記第2のメトリックは、前記タグ付けされた粒子群の前記凝集状態を表す、請求項1~7のいずれか一項に記載の外科用可視化システム。
  9. 前記プロセッサは、画像取得モジュールに関連付けられた第1のプロセッサを備え、前記システムは、外部処理リソースに関連付けられた第2のプロセッサを更に備え、前記術野の前記少なくとも一部内の移動粒子を示す前記情報は、凝集分析のために前記第2のプロセッサに伝達され、前記第2のメトリックを示す情報は、前記第2のプロセッサから前記第1のプロセッサに伝達される、請求項1~8のいずれか一項に記載の外科用可視化システム。
  10. 術野の少なくとも一部を分析するための外科用可視化システムであって、前記システムは、
    反射レーザ光を示す情報を、前記術野の前記少なくとも一部内の移動粒子を示す情報に変換するように構成されたフィールドプログラマブルゲートアレイと、
    前記フィールドプログラマブルゲートアレイと共に収容され、前記術野の前記少なくとも一部における移動粒子の現在の状態を表す第1のメトリックを生成するように構成された第1のプロセッサと、
    前記フィールドプログラマブルゲートアレイから遠隔にあり、前記術野の前記少なくとも一部内の移動粒子を示す前記情報を受信し、前記術野の前記少なくとも一部内の移動粒子の凝集状態を表す第2のメトリックを生成するように構成された第2のプロセッサと、を備える、外科用可視化システム。
  11. ディスプレイを更に備え、前記第2のプロセッサは、前記第2のメトリックを前記第1のプロセッサに伝達し、前記第1のプロセッサは、前記ディスプレイに、前記第1のメトリック及び前記第2のメトリックを、前記術野の前記少なくとも一部を含む画像の上に重ね合わされた状態で表示するように指示する、請求項10に記載の外科用可視化システム。
  12. 前記術野の前記少なくとも一部をレーザ光で照明するように構成されたレーザ光照明源と、前記反射レーザ光を受光するように構成された光センサと、を更に備える、請求項10又は11に記載の外科用可視化システム。
  13. 前記術野の前記少なくとも一部における移動粒子の前記凝集状態は、データ傾向を含む、請求項10~12のいずれか一項に記載の外科用可視化システム。
  14. 前記第2のメトリックは、数秒間の凝集を表し、傾向として示される、請求項10~12のいずれか一項に記載の外科用可視化システム。
  15. 前記第2のメトリックは、前記術野の前記少なくとも一部における移動粒子の加速度を含む、請求項10~12のいずれか一項に記載の外科用可視化システム。
  16. 前記第2のメトリックは、閉塞、器具の血管封止/クランプ効率、血管樹概観、及び経時的な動きの振動の大きさのうちのいずれかを識別するのに適している、請求項10~15のいずれか一項に記載の外科用可視化システム。
  17. 術野の少なくとも一部を分析するための外科用可視化システムであって、前記システムは、
    前記術野の前記少なくとも一部を含む画像を表示するように構成されたディスプレイと、
    第1のメトリック及び第2のメトリックを前記画像に重ね合わせて表示するように前記ディスプレイを制御するように構成されたプロセッサと、を備え、
    前記第1のメトリックは、前記術野の前記少なくとも一部における移動粒子の現在の状態を表し、
    前記第2のメトリックは、前記術野の前記少なくとも一部における移動粒子の凝集状態を表す、外科用可視化システム。
  18. 前記術野の前記少なくとも一部における移動粒子の前記凝集状態は、データ傾向を含む、請求項17に記載の外科用可視化システム。
  19. 前記第2のメトリックは、数秒間の凝集を表し、傾向として示される、請求項17に記載の外科用可視化システム。
  20. タグ付けされた粒子群のユーザ選択を受信するためのユーザインターフェースを更に備え、前記第2のメトリックは、前記タグ付けされた粒子群の前記凝集状態を表す、請求項17~19のいずれか一項に記載の外科用可視化システム。
  21. 前記光センサは、前記反射レーザ光を示す前記情報を提供する、請求項1~10及び請求項12~16のいずれか一項に記載のシステム。
  22. 前記第1のメトリックは、前記フィールドプログラマブルゲートアレイによって提供される、移動粒子を示す前記情報を表す、請求項1~16のいずれか一項に記載のシステム。
  23. 前記反射レーザ光を示す前記情報は、振幅、周波数、波長、ドップラーシフト、及び/又は他の時間領域品質若しくは周波数領域品質のうちの1つ以上を含む、請求項1~22のいずれか一項に記載のシステム。
  24. 移動粒子を示す前記情報は、単位時間当たりの移動粒子の数、粒子の速さ、粒子速度、及び/又は体積のうちの1つ以上を含む、請求項1~23のいずれか一項に記載のシステム。
  25. 前記第2のメトリックは、移動粒子を示す前記情報を経時的に集約し、最小二乗回帰技法、多項式フィット技法、平均、相加平均、モード、最大、最小、分散及び/若しくは同様のものなどの他の統計法を実行することによって、又は加速度を表す値を計算することによって計算される、請求項1~24のいずれか一項に記載のシステム。
JP2023520146A 2020-10-02 2021-09-29 外科用可視化及び粒子傾向分析システム Pending JP2023544358A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US17/062,522 2020-10-02
US17/062,522 US20220104765A1 (en) 2020-10-02 2020-10-02 Surgical visualization and particle trend analysis system
PCT/IB2021/058890 WO2022070057A1 (en) 2020-10-02 2021-09-29 Surgical visualization and particle trend analysis system

Publications (1)

Publication Number Publication Date
JP2023544358A true JP2023544358A (ja) 2023-10-23

Family

ID=78080398

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023520146A Pending JP2023544358A (ja) 2020-10-02 2021-09-29 外科用可視化及び粒子傾向分析システム

Country Status (5)

Country Link
US (1) US20220104765A1 (ja)
EP (1) EP4037539A1 (ja)
JP (1) JP2023544358A (ja)
CN (1) CN116528742A (ja)
WO (1) WO2022070057A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11992372B2 (en) 2020-10-02 2024-05-28 Cilag Gmbh International Cooperative surgical displays
US11911030B2 (en) 2020-10-02 2024-02-27 Cilag Gmbh International Communication capability of a surgical device with component
US12016566B2 (en) 2020-10-02 2024-06-25 Cilag Gmbh International Surgical instrument with adaptive function controls
US11877897B2 (en) 2020-10-02 2024-01-23 Cilag Gmbh International Situational awareness of instruments location and individualization of users to control displays
US11672534B2 (en) 2020-10-02 2023-06-13 Cilag Gmbh International Communication capability of a smart stapler
US11830602B2 (en) 2020-10-02 2023-11-28 Cilag Gmbh International Surgical hub having variable interconnectivity capabilities
US12064293B2 (en) 2020-10-02 2024-08-20 Cilag Gmbh International Field programmable surgical visualization system
US11883052B2 (en) 2020-10-02 2024-01-30 Cilag Gmbh International End effector updates
US11748924B2 (en) 2020-10-02 2023-09-05 Cilag Gmbh International Tiered system display control based on capacity and user operation
US11963683B2 (en) 2020-10-02 2024-04-23 Cilag Gmbh International Method for operating tiered operation modes in a surgical system
US11877792B2 (en) 2020-10-02 2024-01-23 Cilag Gmbh International Smart energy combo control options

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011133768A1 (en) * 2010-04-22 2011-10-27 Abbott Diabetes Care Inc. Devices, systems, and methods related to analyte monitoring and management
JP5065538B2 (ja) * 2010-09-14 2012-11-07 オリンパスメディカルシステムズ株式会社 内視鏡システム及び視界不良判定システムの動作方法
IN2015MN00022A (ja) 2012-07-26 2015-10-16 Olive Medical Corp
US9743016B2 (en) 2012-12-10 2017-08-22 Intel Corporation Techniques for improved focusing of camera arrays
US9345481B2 (en) 2013-03-13 2016-05-24 Ethicon Endo-Surgery, Llc Staple cartridge tissue thickness sensor system
EP2967300A4 (en) 2013-03-15 2016-11-23 Olive Medical Corp CONTROL OF THE INTEGRATED LIGHT ENERGY OF A LASER PULSE
EP3136950A1 (en) * 2014-04-28 2017-03-08 Northwestern University Devices, methods, and systems of functional optical coherence tomography
US9839365B1 (en) * 2014-11-24 2017-12-12 Verily Life Sciences Llc Applications of vasculature mapping using laser speckle imaging
US10666928B2 (en) * 2015-02-06 2020-05-26 The University Of Akron Optical imaging system and methods thereof
US11607239B2 (en) 2016-04-15 2023-03-21 Cilag Gmbh International Systems and methods for controlling a surgical stapling and cutting instrument
WO2018000342A1 (zh) * 2016-06-30 2018-01-04 深圳迈瑞生物医疗电子股份有限公司 超声流体频谱多普勒成像方法和系统
JP6850225B2 (ja) * 2017-09-01 2021-03-31 富士フイルム株式会社 医療画像処理装置、内視鏡装置、診断支援装置、及び、医療業務支援装置
US11937769B2 (en) 2017-12-28 2024-03-26 Cilag Gmbh International Method of hub communication, processing, storage and display
US20190206569A1 (en) 2017-12-28 2019-07-04 Ethicon Llc Method of cloud based data analytics for use with the hub
US11559307B2 (en) 2017-12-28 2023-01-24 Cilag Gmbh International Method of robotic hub communication, detection, and control

Also Published As

Publication number Publication date
EP4037539A1 (en) 2022-08-10
US20220104765A1 (en) 2022-04-07
CN116528742A (zh) 2023-08-01
WO2022070057A1 (en) 2022-04-07

Similar Documents

Publication Publication Date Title
US20220104713A1 (en) Tiered-access surgical visualization system
US12064293B2 (en) Field programmable surgical visualization system
JP2023544358A (ja) 外科用可視化及び粒子傾向分析システム
US12068068B2 (en) Cooperative composite video streams layered onto the surgical site and instruments
US20210212602A1 (en) Dual cmos array imaging
JP7234238B2 (ja) レーザ光及び赤色-緑色-青色着色を使用した、後方散乱光の特性の決定
US20240156326A1 (en) Characterization of tissue irregularities through the use of mono-chromatic light refractivity
US20240260966A1 (en) Method for operating tiered operation modes in a surgical system
JP2023544593A (ja) 協働的外科用ディスプレイ
JP2023548747A (ja) 外科医制御の二次ディスプレイ及び一次ディスプレイのための通信制御
JP2024530876A (ja) 冗長通信チャネル及び撮像フィードの処理
WO2023002384A1 (en) Cooperative composite video streams layered onto the surgical site and instruments
CN118019507A (zh) 冗余通信信道和对成像馈送的处理

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240828