JP6598982B2 - 内視鏡装置、内視鏡システム、及びそれらを備えた手術システム - Google Patents

内視鏡装置、内視鏡システム、及びそれらを備えた手術システム Download PDF

Info

Publication number
JP6598982B2
JP6598982B2 JP2018506729A JP2018506729A JP6598982B2 JP 6598982 B2 JP6598982 B2 JP 6598982B2 JP 2018506729 A JP2018506729 A JP 2018506729A JP 2018506729 A JP2018506729 A JP 2018506729A JP 6598982 B2 JP6598982 B2 JP 6598982B2
Authority
JP
Japan
Prior art keywords
endoscope
image
imaging device
acquired
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018506729A
Other languages
English (en)
Other versions
JPWO2017163407A1 (ja
Inventor
徹朗 石川
正人 濱谷
淳 長塚
俊二 渡辺
次郎 井上
康彦 橋本
博文 田中
悦之 田村
充一 平塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Medicaroid Corp
Original Assignee
Nikon Corp
Medicaroid Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp, Medicaroid Corp filed Critical Nikon Corp
Publication of JPWO2017163407A1 publication Critical patent/JPWO2017163407A1/ja
Application granted granted Critical
Publication of JP6598982B2 publication Critical patent/JP6598982B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00147Holding or positioning arrangements
    • A61B1/00149Holding or positioning arrangements using articulated arms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/25User interfaces for surgical systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/361Image-producing devices, e.g. surgical cameras
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/50Supports for surgical instruments, e.g. articulated arms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/313Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for introducing through surgical openings, e.g. laparoscopes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B2034/301Surgical robots for introducing or steering flexible instruments inserted into the body, e.g. catheters or endoscopes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B2034/302Surgical robots specifically adapted for manipulations within body cavities, e.g. within abdominal or thoracic cavities
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B2034/305Details of wrist mechanisms at distal ends of robotic arms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B2090/364Correlation of different images or relation of image positions in respect to the body
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/70Manipulators specially adapted for use in surgery

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Pathology (AREA)
  • Physics & Mathematics (AREA)
  • Biophysics (AREA)
  • Optics & Photonics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Robotics (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Description

本開示は、内視鏡装置、及びそれを備えた手術システムに関する。
近年、小さい切開部を通して体内の手術部位に導入されるカメラおよび細長い手術器具を使用し、トロカールスリーブまたはカニューレを通して、患者を手術するための低侵襲手術(Minimally Invasive Surgery; MIS)技術が注目されている。手術部位は、多くの場合、患者の腹部等の体腔を含む。体腔は任意で、吹送ガス等の透明流体を使用して拡張される。一般的に、低侵襲手術において、医師等の術者は、細長い手術器具のエンドエフェクタを用い、当該手術器具のハンドルを作動させ、ビデオモニタで手術部位を見ながら組織を操作する。
低侵襲手術の一般的な形態は、内視鏡検査である。腹腔鏡検査は、腹腔の内部で低侵襲検査および手術を実行するための、内視鏡検査の一種である。標準的な腹腔鏡手術においては、カニューレスリーブを小さい(一般に、1/2インチ以下)切開部に通過させ、腹腔鏡手術器具用の入口ポートが設定される。また、患者の腹部にはガスが吹送され、腹腔内を一定容積の空間が形成される。
腹腔鏡手術器具は、腹腔鏡(腹腔内の手術野を見るために適用された内視鏡の一種)および作業ツールを含んでいる。当該作業ツールは、各ツールの作業端またはエンドエフェクタが、ツールシャフトによってそのハンドルから分離されていることを除き、従来の切開手術において使用されるものと同様である。
このような腹腔鏡を有する手術システムに関し、例えば、特許文献1には、手術用器具を移動するためのマニピュレータのようなロボットマニピュレータ、腹腔鏡を支持し、それらを患者身体中の所望の手術部位と整列する、最小侵襲的ロボット手術システムが開示されている。
特開2014−028296号公報
特許文献1に開示されるような従来の手術システムでは、手術部位及びその周辺部位に関して取得できる画像の範囲が限定されている。例えば、腹腔鏡に設けられたカメラの背後(例えば、腹腔鏡の筒状筐体の根元に近い部分(カニューレ近傍))の画像を取得することは困難である。
(i)本実施形態による内視鏡装置は、それぞれが筒状筐体(円筒形に限られるものであはない)の先端部分に撮像デバイスを備え、被検体の体内の画像を取得する、3つ以上の内視鏡と、3つ以上の内視鏡に電気的に接続し、3つ以上の内視鏡のそれぞれが取得した画像を処理する制御装置と、を備える。当該制御装置は、3つ以上の内視鏡の各撮像デバイスの位置情報と各撮像デバイスが取得した各画像の特徴点とを用いて各画像を繋ぎ合わせて合成画像を生成する。
(ii)本実施形態による別の態様の内視鏡装置は、筒状筐体の先端部分に撮像デバイスを備え、被検体の腹腔内の画像を取得する内視鏡と、内視鏡の筒状筐体の少なくとも先端部分を回転させる回転駆動制御部と、内視鏡に電気的に接続し、内視鏡が取得した画像を処理する制御装置と、を備える。撮像デバイスの光軸は、筒状筐体の先端部分の回転軸と所定の角度をなしている。制御装置は、内視鏡の筒状筐体の先端部分を回転させながら撮像デバイスで取得した画像を繋ぎ合わせて合成画像を生成する。
(iii)本実施形態による内視鏡システムは、内視鏡装置と、手術器具が取り付けられる手術用アームと、を備えるロボットカートと、ロボットカートの内視鏡と手術用アームとを操作するための指示を送信するコンソール装置と、内視鏡装置によって撮像された画像を表示画面上に表示する表示装置と、を備える。内視鏡装置は、それぞれが筒状筐体の先端部分に撮像デバイスを備え、被検体の体内の画像を取得する、3つ以上の内視鏡と、3つ以上の内視鏡に電気的に接続し、3つ以上の内視鏡のそれぞれが取得した画像を処理する制御装置と、を備える。制御装置は、各撮像デバイスが取得した各画像の特徴点を用いて各画像を繋ぎ合わせて合成画像を生成する。
(iv)本実施形態による別の態様の内視鏡システムは、内視鏡装置と、手術器具が取り付けられる手術用アームと、を備えるロボットカートと、ロボットカートの内視鏡と手術用アームとを操作するための指示を送信するコンソール装置と、内視鏡装置によって撮像された画像を表示画面上に表示する表示装置と、を備える。内視鏡装置は、筒状筐体の先端部分に撮像デバイスを備え、被検体の体内の画像を取得する内視鏡と、内視鏡の筒状筐体の少なくとも先端部分を回転させる回転駆動部と、前記内視鏡に電気的に接続し、前記内視鏡が取得した画像を処理する制御装置と、を備える。撮像デバイスの光軸は、筒状筐体の先端部分の回転軸と所定の角度をなしている。制御装置は、内視鏡の筒状筐体の先端部分を回転させながら撮像デバイスで取得した画像を繋ぎ合わせて合成画像を生成する。
(v)本開示に関連する更なる特徴は、本明細書の記述、添付図面から明らかになるものである。また、本開示の態様は、要素及び多様な要素の組み合わせ及び以降の詳細な記述と添付される請求の範囲の様態により達成され実現される。本明細書の記述は典型的な例示に過ぎず、本開示の請求の範囲又は適用例を如何なる意味に於いても限定するものではないことを理解する必要がある。
実施形態による手術システム(手術用ロボットシステムとも呼ぶことができる)1の概略構成例を示す図である。 第1の実施形態による患者側カート20の内部構成例を示す図である。 第1の実施形態における合成画像生成処理を説明するためのフローチャートである。 撮像デバイスの視野を模式的に示し、本開示において3つ以上の内視鏡を設けた理由を説明するための図である。 第2の実施形態による患者側カート20の構成例を示す図である。 先端部分に丸みを持たせた透明シース61を被せた内視鏡アーム27の先端部分を示す図である。 内視鏡アーム27の先端部分を回転させたときに確保される視野について説明するための図である。 第2の実施形態における合成画像生成処理を説明するためのフローチャートである。 第3の実施形態による患者側カート20の構成例を示す図である。
以下、添付図面を参照して本開示の実施形態について説明する。添付図面では、機能的に同じ要素は同じ番号で表示される場合もある。なお、添付図面は本開示の原理に則った具体的な実施形態と実装例を示しているが、これらは本開示の理解のためのものであり、決して本開示を限定的に解釈するために用いられるものではない。
本実施形態では、当業者が本開示を実施するのに十分詳細にその説明がなされているが、他の実装・形態も可能で、本開示の技術的思想の範囲と精神を逸脱することなく構成・構造の変更や多様な要素の置き換えが可能であることを理解する必要がある。従って、以降の記述をこれに限定して解釈してはならない。
更に、本開示の実施形態は、後述されるように、汎用コンピュータ上で稼動するソフトウェアで実装しても良いし専用ハードウェア又はソフトウェアとハードウェアの組み合わせで実装しても良い。
以下では「プログラムとしての各処理部(例えば、画像処理部等)」を主語(動作主体)として本開示の実施形態における各処理について説明を行うが、プログラムはプロセッサ(CPU等:単に制御装置とも言うことも可能)によって実行されることで定められた処理をメモリ及び通信ポート(通信制御装置)を用いながら行うため、プロセッサを主語とした説明としてもよい。
(1)第1の実施形態
第1の実施形態は、例えば、3以上の内視鏡アームを含む内視鏡装置を備える患者側カート(手術用ロボットとも言う)と、患者側カートを操作するためのコンソール装置と、を備える手術システムについて開示する。内視鏡装置では、例えば、3つ以上の内視鏡の各撮像デバイスが取得した各画像の特徴点を用いて記各画像を繋ぎ合わせて合成画像が生成され、当該合成画像が表示画面上に表示される。3つの視野の画像から合成画像を生成し、術者に提供するので、広範囲の画像を提供でき、術者が術中に様々な箇所を目視確認することが可能となる(開腹手術のような視野の広さを確保しながら内視鏡手術を実現することが可能)。また、例えば、3つ以上の内視鏡を適切な位置に配置することにより、体内(腹腔内や胸腔内)に内視鏡を挿入した際の内視鏡の進入経路の画像をリアルタイムに取得することも可能であり、この場合、内視鏡が体内の周辺臓器を圧迫しているか否かも確認することが可能となる。
上記3つ以上の内視鏡が備える各撮像デバイスのレンズとしては、例えば視野角が90度以上のレンズ(例えば、中心窩レンズ)を用いることが可能である。中心窩レンズを用いた場合、180度程度の視野を確保することができ、人の視野のように、視野中心ははっきりと見え、視野の周辺領域はぼんやりと見える。
上述のようにリアルタイムで内視鏡の進入経路を確認することもできるが、3つ以上の内視鏡は必ずしも最適な位置から挿入できるとは限らない。そこで、例えば、3つ以上の内視鏡が患者(被検体)の体内に挿入されたときから各撮像デバイスによって取得された合成前の画像と、3つ以上の内視鏡が被検体の体内に挿入されたときからの合成画像と、を例えばメモリに保持しておく。そして、術者によって入力された指示に応答して、メモリから所定時点における合成画像や合成前の画像を表示画面上に表示することも可能である。例えば、内視鏡の侵入経路の過去の画像を術中の画像と併せて表示することにより、術者は、内視鏡の挿入過程に間違いが無かったか確認することが可能となる。
<手術システムの構成>
図1は、実施形態による手術システム(手術用ロボットシステムとも呼ぶことができる)1の概略構成例を示す図である。
手術システム1は、例えば、術者(例えば外科医)Oが操作するコンソール装置10と、コンソール装置10からの指示に基づいて手術台40に横たわった患者(被検体とも呼ぶことが可能である)Pに対して所定の手術を施すための患者側カート(手術用ロボットカートと呼ぶことも可能である)20と、表示装置30と、を備える。図1においては、コンソール装置10、患者側カート20、及び表示装置30は、例えば有線で接続されているが、無線ネットワーク(例えば、インターネットや無線LANなど)によって接続されるように構成しても良い。
コンソール装置10は、所定の動作や処理を制御するプロセッサ(CPUや制御装置とも呼ぶことができる)11と、術者Oが患者側カート20に取り付けられた内視鏡アームや手術用アームを遠隔操作するための左右の操作部(マニュピレータ)12及び13と、後述の内視鏡からの画像を表示するための表示部14と、患者側カート20と情報やデータの送受信をするための通信部15と、を備える。また、コンソール装置10は、図示しないが、少なくとも1つのフットペダルを含んでいても良い。右操作部12と左操作部13は、例えば術者Oが自身の手で握って患者側カート20を操作する把持入力機構である。術者Oはコンソール装置10の右操作部12(把持入力機構)及び左操作部13(把持入力機構)入力装置を操作することを通じて、患者側カート20に取り付けられた1又は複数の手術用アームや内視鏡アームを遠隔操作することができる。これにより、手術用アームに取り付けられた手術器具(それらのエンドエフェクタを含む)や内視鏡アームに取り付けられた内視鏡の所望の動作を実現することが可能になっている。従って、コンソール装置10は、所望の外科的処置を実行する際に、患者側カート20を操作するためのマスタコントローラとして機能するものである。また、患者側カート20に取り付けられた手術器具や内視鏡の動作以外の機能を制御するためのコマンドも、コンソール装置10を通じて患者側カート20に提供されることもある。例えば、図示しないフットペダルを用いて、患者側カート20の手術用アームに取り付けられた電気手術器具へ電気手術エネルギを供給するための焼灼コマンドをコンソール装置10から患者側カート20に送ることができる。ただし、手術システム1においては、コンソール装置10によって患者側カート20に取り付けられた内視鏡や手術器具を操作することができるだけでなく、例えば、患者側カート20におけるカート側操作部200を用いて手術器具等の操作を実現するように構成しても良い。例えば、患者側カート20における内視鏡や手術器具は、患者側カート20を直接操作する手術補助者Aや別の術者(例えば、外科医)によって、操作される場合もある。なお、コンソール装置10の入力装置は、把持機構又はフットペダル以外の、例えば、ジョイスティック、運動センサ、スイッチ、親指/指制御等の態様を採ることも可能である。なお、上述の「エンドエフェクタ」とは手術器具の実際の作業部分(通常、先端部分)を意味し、例えば、鉗子、把持器、剪刀、吻合器、撮像レンズ、および持針器を含み得る。内視鏡(腹腔鏡或いは胸腔鏡)用のエンドエフェクタは、例えば、ツールシャフトを介してカメラおよびランプに光学的に連結され得るレンズおよび光源(後述の構成では照明用光源212は内視鏡装置21の本体部に含まれる)を含む場合がある。手術手順を実行するためには、術者O或いは手術補助者A執刀医は、カニューレスリーブを介してこれらの作業ツールまたは器具を体内の手術部位に渡し、腹部の外側からそれらを操作する。
患者側カート20は、例えば、少なくとも3つの内視鏡アーム22乃至24を備える内視鏡装置21と、少なくとも2つの手術用アーム25及び26と、カート側操作部200と、を備える。内視鏡アーム22乃至24と手術用アーム25及び26とを総称して患者側マニュピレータアームと呼ぶことも可能である。少なくとも3つの内視鏡アーム22乃至24にはそれぞれ、先端に撮像デバイス(例えば、CMOSセンサやCCD。単にカメラと言うことも可能である。以下同様)が備えつけられている。当該撮像デバイスは、各内視鏡アーム22乃至24から着脱可能に構成しても良い。少なくとも2つの手術用アーム25及び26には術式に応じた手術器具が着脱可能に取り付けられている。内視鏡アーム22乃至24及び手術用アーム25及び26のそれぞれは、例えば、複数の関節部221乃至223、231乃至233、241乃至243、251乃至254、及び261乃至264を備えている。設定される関節部の数は図示したものに限定されず、任意に設定可能である。各関節部には、アームの各可動要素の回転方向及び回転各を検出する位置検出器と、各可動要素を駆動するためのアクチュエータが対応付けられて備えられている(図示せず)。位置検出器としては例えばエンコーダであるが、レゾルバやポテンショメータであってもよい。各関節部の回転方向及び回転角度の情報、各関節部間の長さの情報(可動要素の長さ寸法。予め決まっている)、アーム先端側最終関節部からアーム先端部までの長さ(予め決まっている)、及び取り付けられる手術器具や撮像デバイスの長さ(予め決まっている)に基づいて、患者Pの体内(例えば、腹腔内や胸腔内)における内視鏡の撮像デバイスの位置及び患者Pの体内における手術器具の先端や所定の部分の位置を特定することができる。ここで、内視鏡とは、腹腔手術に用いられる腹腔鏡と肺手術に用いられる胸腔鏡とを含む概念であり、例えば、硬性内視鏡と呼ぶことができる。
表示装置30は、例えば患者側カート20とは独立したオープンな場所に設置され(コンソール装置10の表示部14のように術者O専用ディスプレイとして設けられている訳ではない)、患者側カート20の内視鏡アーム22乃至24に取り付けられた撮像デバイス(例えば、CMOSセンサやCCDなど)によって取得された画像を表示画面上に表示する。これにより、遠隔的に施術する術者Oだけでなく、手術補助者Aや別のスタッフも術中の様子を確認することができるようになる。表示装置30の動作は、例えば、患者側カート20におけるCPU(プロセッサや制御装置と呼びこともできる)によって制御しても良い。図1において、表示装置30は、患者側カート20に一体のものとして設けても良い。
<患者側カートの構成>
図2は、第1の実施形態による患者側カート20の内部構成例を示す図である。患者側カート20は、ロボットアームを含むロボットカートであり、内視鏡及び内視鏡アームを制御する内視鏡装置21と、手術用アームを制御するその他の部分とに分けて説明することができる。内視鏡装置21を含む一方で手術用アームは含まないロボットカートをコンソール装置10で遠隔操作するシステムは内視鏡システムであり、ロボットカートが手術用アームも備え、コンソール装置10の操作により手術器具と内視鏡を操作することにより手術を行うシステムは手術システムである。
内視鏡装置21は、例えば、装置全体を制御するCPU(プロセッサや制御装置と呼ぶこともできる)211と、内視鏡の撮像デバイスに光源を提供する照明用光源212と、CPU211の指示に応答して照明用光源212の動作を制御する光源制御部213と、内視鏡の撮像デバイスの撮像動作を制御する撮像制御部215と、撮像デバイスによって取得した画像を処理する画像処理部216と、各内視鏡アーム22乃至24を駆動制御する内視鏡アーム駆動制御部214と、を備える。また、第1の実施形態による内視鏡装置21には、例えば、少なくとも3つの内視鏡アーム22乃至24が取り付けられている。なお、内視鏡アーム22乃至24を含めて内視鏡装置21としても良い。図2は、患者側カート20の機能ブロック図として示されているが、光源制御部213、内視鏡アーム駆動制御部214、撮像制御部215、画像処理部216、及び手術用アーム駆動制御部204をプログラムとして実現しても良い。この場合、CPU201やCPU211が各種プログラムを実行し、所定の処理動作を実現することになる。
内視鏡アーム22乃至24は、例えば、複数の関節部221乃至223、231乃至233、及び241乃至243と、光学アダプタ224乃至244と、各関節間の可動要素(参照番号なし)と、を備えている。複数の関節部221乃至223、231乃至233、241乃至243は、図示しない複数の位置検出器(例えばエンコーダ)が各関節に対応付けられて備えられ、それぞれの位置検出器は各関節部が回転する方向及び角度を検出することができる。位置検出器によって検出された各関節部の回転方向及び角度の情報は、撮像制御部215を介して、或いは撮像制御部215を介さずに直接、画像処理部216に提供される。内視鏡アーム22乃至24の先端に取り付けられた光学アダプタ224乃至244は、撮像デバイス2241乃至2441と、照明用光源212からの光を照射するための照明光学系2242乃至2442と、を備える。撮像デバイス2241乃至2441は、例えば、伝送ライン(伝送路:有線でも無線でも良い)を介して撮像制御部215と接続されている。撮像デバイス2241乃至2441に用いられるレンズはなるべく広角の視野を確保できるレンズ(例えば、画角(視野角)が90度以上180度以下)が好ましく、例えば、中心窩レンズが用いられる。例えば、魚眼レンズを用いても良い。照明光学系2242乃至2442は、例えば光ファイバを介して照明用光源212と接続されている。内視鏡アーム22乃至24の先端部分にさらに関節を設け、撮像デバイス2241乃至2441の撮像方向を先端部分の動作によって変化させることができるようにしても良い。内視鏡アーム22乃至24の先端部(例えば、少なくとも、最終関節部223乃至243から先端までの部分であって、患者Pの体内(例えば、腹腔内或いは胸腔内)に挿入される部分)の筒状筐体の径はなるべく小さい方が好ましい。径が小さければ小さいほど患者Pの体内に挿入しても術後に縫合しなくても済むし、より多くの内視鏡アームを患者Pの体内に挿入することが可能だからである。筒状筐体としては例えば円筒形のものが適用可能であるが、円筒形に限らず、別の形の筒状筐体(例えば、楕円筒形や多角筒形等でも良い)を用いることも可能である。
光源制御部213は、術者Oや手術補助者Aから与えられた指示(例えば、CPU211を介して与えらえる)に応答して、照明用光源(例えば、LED、キセノンランプ、水銀ランプ、ハロゲンランプ、メタルハライドランプ等)212の照射光量(強度)や色を調整する。なお、照明用光源の他に、例えば、LD(レーザダイオード)を設け、当該LDをコヒーレントな光によって患者の臓器などの切開や止血を行うためのレーザメスとして機能させても良い。この場合、LDの出力は、例えば、光源制御部213によって制御することができる。
撮像制御部215は、例えば、撮像デバイス2241乃至2441と接続された信号線を介して制御信号を出力し、撮像デバイス2241乃至2441を制御する。撮像制御部215は、例えば、撮像デバイス2241乃至2441から出力された画像のデータをタイムスタンプと共に図示しない画像メモリに格納する。
画像処理部216は、図示しない画像メモリから撮像デバイス2241乃至2441のそれぞれが取得した画像を取得する。画像処理部216は、複数の関節部221乃至223、231乃至233、241乃至243の回転方向及び角度の情報(位置検出器によって検知)と、各関節部間(可動要素)の長さの情報と、内視鏡アーム先端からそれに一番近い関節部までの長さの情報とを取得し、撮像デバイス2241乃至2441のそれぞれの、患者Pの体内(例えば、腹腔内、或いは胸腔内)における位置を特定(算出)する。なお、各関節部間(可動要素)の長さの情報と、内視鏡アーム先端からそれに一番近い関節部までの長さの情報とは、例えば、予め図示しないメモリ(画像メモリ内のメモリ領域を使用しても良い)に保持されている。画像処理部216は、特定した撮像デバイスの位置の情報(例えば、基準点からの距離及び基準点からの方向及び角度を含む情報)及び/又は各画像の特徴点(特徴量)に基づいて、3つ以上の撮像デバイス2241乃至2441からの画像を繋ぎ合わせ、合成画像を生成する。各画像の特徴点は、例えば、フーリエ変換や離散コサイン変換などを用いたり、エッジフィルタ処理を各画像に施したりすることによって抽出することができる。各画像の特徴点を抽出した後、例えばパターンマッチングの手法を用いて各画像を繋ぎ合わせることができる。
内視鏡アーム駆動制御部214は、例えば、内視鏡アーム22乃至24がコンソール装置10の操作部12及び13によって指示された動作をするように、或いはカート側操作部200によって指示された動作をするように、CPU211から当該指示を受け取り、当該指示に応答して各関節部221乃至223、231乃至233、241乃至243に設けられたモータ(図示せず)を駆動させる。
患者側カート20の内視鏡装置21以外の構成は、例えば、内視鏡装置21以外の部分の動作を制御するCPU(プロセッサや制御装置と呼ぶこともできる)201と、コンソール装置10と通信をするための通信部203と、例えば手術補助者Aが患者側カート20を操作するためのカート側操作部200と、各手術用アーム25及び26を駆動制御する手術用アーム駆動制御部204と、少なくとも2つの手術用アーム25及び26と、を備える。図2では、CPU201とは別に内視鏡装置21用のCPU211を設けているが、内視鏡装置21を含む患者側カート20の全体の動作を1つのCPU(CPU201及びCPU211のどちらか一方)で制御するようにしても良い。
手術用アーム25及び26は、例えば、複数の関節部251乃至254及び261乃至264と、各関節間の可動要素(参照番号なし)と、先端部分に手術器具用アダプタ255及び265と、を備えている。複数の関節部251乃至254及び261乃至264は、図示しない複数の位置検出器が各関節部に対応付けて備えられ、各関節部が回転する角度及び方向を検出することができる。位置検出器によって検出された各関節部の回転方向及び角度の情報は、CPU201に提供される。
カート側操作部200は、把持機構又はフットペダル以外の様々な態様を採ることができ、限定されるものではないが、例えば、ジョイスティック、運動センサ、スイッチ、親指/指制御等で構成される。
通信部203は、コンソール装置10からの操作指示を受信し、CPU201や内視鏡装置21のCPU211に当該受信した指示を提供する。CPU201及びCPU211は、受け取った指示に基づいて、内視鏡装置21の内視鏡アーム22乃至24や手術用アーム25及び26の動作を制御する。
手術用アーム駆動制御部204は、手術用アーム25及び26がコンソール装置10の操作部12及び13によって指示された指令を実行するように、或いはカート側操作部200によって指示された指令を実行するように、CPU201から当該指令を受け取り、当該指令に応答して各関節部251乃至254及び261乃至265に設けられたアクチュエータ(図示せず)を駆動させる。アクチュエータは、例えばサーボモータである。
<合成画像生成処理>
図3は、第1の実施形態における合成画像生成処理を説明するためのフローチャートである。当該合成画像生成処理は、例えば、画像処理部216によって実行されるが、上述のように画像処理部216をプログラムで実現した場合には動作主体はCPU211となる。以下では、画像処理部216を動作主体として合成画像生成処理について説明するが、CPU211と読み替えて理解しても良い。
(i)ステップ301及びステップ307
画像処理部216は、時間t〜tにおいて撮像デバイス2241乃至2441が取得した各画像に対してステップ302〜ステップ306の処理を繰り返し実行する。当該合成画像生成処理は、例えば、手術開始から手術終了まで実行するとした場合、手術開始時間をtとし、手術終了時間をtnとする。撮像デバイス2241乃至2441が例えば1秒間に30フレームを撮像する場合、各画像の取得時間間隔は1/30秒である。合成画像生成処理はフレーム単位で実行してもフィールド単位(1/60秒毎に1フィールド画像)で実行しても良い。
(ii)ステップ302
画像処理部216は、図示しない画像メモリから、時間tにおいて撮像デバイス2241乃至2441によって取得された画像(例えば、3フレーム以上のデジタル画像)を読み込む。当該ステップでは、同一時間に撮像された3フレーム以上の画像が取得される。
(iii)ステップ303
画像処理部216は、内視鏡アーム22乃至24の各先端部分に取り付けられた撮像デバイス2241乃至2441の、患者Pの体内(例えば、腹腔内、胸腔内)における位置を算出する。具体的に、画像処理部216は、例えば、図示しないメモリから、複数の関節部221乃至223、231乃至233、241乃至243の回転方向及び角度の情報(位置検出器によって検知)と、予め決められた各関節部間(可動要素)の長さの情報と、予め決められた内視鏡アーム先端からそれに一番近い関節部までの長さの情報と、を取得する。画像処理部216は、これらの情報に基づいて、予め決められた基準点からの各撮像デバイスの距離及び回転角度を算出することによりそれぞれの位置を特定する(例えば、関節部231の位置を基準点として設定し、これを原点として空間座標を形成することにより内視鏡アーム先端に位置する各撮像デバイスの基準点からの距離及び回転角度を算出することができる)。
(iv)ステップ304
画像処理部216は、各画像について特徴点(特徴量と言うことも可能である。特徴量は、濃淡の変化が大きい特徴点周りの領域を画素値や微分値により特徴ベクトルにしたものである)を抽出する。具体的に、画像処理部216は、例えば、処理対象の画像をブロック単位(例えば、8ピクセル×8ピクセルのブロック)に分割し、フーリエ変換や離散コサイン変換などを用いて各ブロックの画素値を周波数領域におけるデータに変換する。これにより、各ブロックにおける周波数成分の分布が取得され、各ブロックの特徴点(特徴量)を抽出することができる。フーリエ変換や離散コサイン変換の他に、エッジフィルタを用いて各ブロックのエッジを強調した画像を特徴点(特徴量)としても良い。
(v)ステップ305
画像処理部216は、各画像についてパターンマッチング処理を実行する。各画像の全ての領域についてパターンマッチング処理(例えば、全ての画素やブロックについて相関を計算し、最も相関値が高い画素或いはブロックをパターン一致点とする)を実行しても良いが、探索範囲を限定して行っても良い。この場合、処理の迅速化及び効率化を図ることができる。探索範囲を限定する場合、ステップ303で特定された撮像デバイス2241乃至2441のそれぞれの位置の情報に基づいて、各画像の特徴量が一致するブロック或いは画素を探索する範囲を決定することができる(例えば、各画像の周辺20%の領域を探索範囲とするなど)。画像処理部216は、その探索範囲内でパターンマッチング処理を実行し、各画像の探索領域においてマッチングする位置(相関が最も高い位置)をパターン一致点とする。
(vi)ステップ306
画像処理部216は、ステップ305でパターン一致点と認識された位置において、各画像を繋ぎ合わせて合成画像を生成する。なお、パターンマッチング処理を実行すると、各画像において互いに重なり合う領域が検出される。当該重なり合う領域における各画像の画素値は多少異なる場合がある(例えば、各撮像デバイスの撮像方向が異なるため同じ対象物でも撮像して得られる画素値に差が生じる場合がある)ため、重ね合わせる画像の一方から重なり合う領域を取り除いてから各画像を繋ぎ合わせても良い。
以上のような方法で合成画像を生成することができるが、例えば特開平10−178564号公報で開示された方法を用いて合成画像を生成しても良い。
<3つ以上の内視鏡を用いた理由>
図4は、撮像デバイスの視野を模式的に示し、本実施形態において3つ以上の内視鏡を設けた理由を説明するための図である。図4A及び図4Bは撮像デバイスを2つ設けた場合の視野を示し、図4Cは撮像デバイスを3つ設けた場合の視野を示している。
例えば、2つの撮像デバイスを用いて撮像する場合、各撮像デバイスの視野401と視野402とをなるべく重ならないようにしなければならない(図4Aの場合、重なり合う領域405が小さい)。この場合、重なり合う領域405の面積は小さくすることができるが、視野401と視野402との間に死角404が生じてしまう。逆に、図4Bに示されるように、死角404の面積を小さくしようとすると、視野401と視野402とでカバーできる範囲が小さくなり、重なり合う領域405の面積が大きくなってしまう。これでは患者の体内(例えば、腹腔内或いは胸腔内)における手術の様子や手術対象臓器の周辺の様子を観察するための画像を取得する上で十分な視野を稼げない。
そこで、本開示では、撮像デバイスを3つ以上設け、3つの視野を利用することにより、上述のような矛盾する課題を解決しようとしている。例えば、図4Cに示されるように、重なり合う領域405の面積を小さくすると共に、2つの視野だと重ねることによって形成されてしまう死角404をなくし、視野401、視野402、及び視野403によって、より広範囲の全体視野を形成することができるようになる。
以上の理由により、本開示の第1の実施形態では、3つ以上の撮像デバイス2241乃至2441を用いることとしている。
(2)第2の実施形態
第2の実施形態による手術システムは、第1の実施形態による手術システムと同様の構成を備えている。ただし、第2の実施形態では、患者側カート20における内視鏡装置21の構成が異なっている。
第2の実施形態は、例えば、内視鏡の筒状筐体の少なくとも先端部分を回転させる機能を有する内視鏡アームを含む内視鏡装置を備える患者側カート(手術用ロボットとも言う)と、患者側カートを操作するためのコンソール装置と、を備える手術システムについて開示する。内視鏡装置では、例えば、撮像デバイスの光軸は、筒状筐体の先端部分の回転軸と所定の角度をなし、内視鏡の筒状筐体の先端部分を回転させながら撮像デバイスで取得した画像を繋ぎ合わせて合成画像が生成され、表示画面上に表示される。このように内視鏡の先端部分を回転させることにより、内視鏡の位置を中心とした広角の視野の画像を術者に提供することができ、術者は患部及びその周辺の所望の位置の状態を目視確認しながら手術をすることが可能となる(開腹手術のような視野の広さを確保しながら内視鏡手術を実現することが可能)。この場合も、撮像デバイスのレンズとして、例えば、中心窩レンズを用いることが可能である。
<患者側カート20の構成>
図5は、第2の実施形態による患者側カート20の構成例を示す図である。第1の実施形態と異なる点は、内視鏡アーム27が1つ取り付けられ、内視鏡アーム27の先端部分の光学アダプタ274(撮像デバイス2741及び照明光学系2742を含む)を回転軸中心に回転可能に構成されている点である。また、内視鏡アーム27の先端面が斜めに形成され、撮像デバイス2741の光軸が回転軸と所定の角度をなしている。撮像デバイス2741の光軸と回転軸とのなす角度は、例えば、撮像デバイス2741のレンズの画角(視野角)の1/2に設定することができる。この場合、内視鏡アーム27の先端面の傾斜角も例えば、撮像デバイス2741のレンズの画角の1/2とすることができる。
第2の実施形態では、内視鏡アーム27の先端部分の光学アダプタ274を、回転軸を中心に回転させながら、撮像デバイス2741で手術中の画像を撮像する。当該内視鏡アーム27の先端部分の光学アダプタ274の回転の制御は、内視鏡アーム駆動制御部214によって行われる。具体的には、関節部273に関節駆動用のアクチュエータとは別の先端部分回転用の小型(低速)アクチュエータを設け、回転駆動機構(先端部分に連結された回転駆動軸と回転駆動伝達用の各種ギア(例えば、傘歯ギアなどのギアにより先端部分と小型モータの軸が連結する場合もある)を含む)によって内視鏡アーム27の先端部分を回転させることができる。当該先端部分の回転速度等が例えば内視鏡アーム駆動制御部214によって制御可能なように構成される。内視鏡アーム27の先端部分の回転は、位置検出器(例えばエンコーダ)によって検知することができる。例えば、当該先端部分に一番近い関節に設けられた位置検出器を用いることができる。
撮像制御部215は、撮像デバイス2741が回転しながら撮像した画像をタイムスタンプと共に、図示しない画像メモリに格納する。
画像処理部216は、撮像制御部215が取得した画像間のマッチングを取りながら合成画像を生成する。合成画像生成処理については後述する。
なお、内視鏡アーム27の先端部分には、図6に示されるように、先端部分に丸みを持たせた透明シース61を被せることが可能である。これにより、手術中に患者Pの体内組織を損傷させないようにすることができる。
<先端部分を回転させたときに確保される視野>
図7は、内視鏡アーム27の先端部分を回転させたときに確保される視野について説明するための図である。
図7において、撮像デバイスのレンズの視野角は例えば90度となっている。また、当該レンズの光軸と回転軸との角度は例えば45度に設定されている。このような構成において内視鏡アーム27の先端部分を回転軸中心に回転させると、回転によって確保できる視野角θは、90度の2倍の180度となり、より広範囲の視野を確保することができるようになる。レンズの視野角を例えば120度とすると、光軸と回転軸との角度は60度(先端面の傾斜角φは30度)とするのが好ましい。この場合、回・BR>]によって確保できる視野角θは、120度の2倍の240度となる。例えば、内視鏡アーム27の先端部分に180度の視野角を有するレンズの光軸が回転軸と90度をなすように当該レンズを配置すれば、理論的には、360度の視野角θを確保できる。
<合成画像生成処理>
図8は、第2の実施形態における合成画像生成処理を説明するためのフローチャートである。当該合成画像生成処理は、例えば、画像処理部216によって実行されるが、上述のように画像処理部216をプログラムで実現した場合には動作主体はCPU211となる。以下では、画像処理部216を動作主体として合成画像生成処理について説明するが、CPU211と読み替えて理解しても良い。
(i)ステップ801及びステップ806
画像処理部216は、時間t〜tにおいて撮像デバイス2741が取得した各画像に対してステップ802〜ステップ805の処理を繰り返し実行する。当該合成画像生成処理は、例えば、手術開始から手術終了まで実行するとした場合、手術開始時間をtとし、手術終了時間をtnとする。撮像デバイス2741が例えば1秒間に30フレームを撮像する場合、各画像の取得時間間隔は1/30秒である。合成画像生成処理はフレーム単位で実行してもフィールド単位(1/60秒毎に1フィールド画像)で実行しても良い。
(ii)ステップ802
画像処理部216は、図示しない画像メモリから、時間tまでの画像を用いて生成された合成画像(前回の処理で生成された合成画像:前回の合成画像)と、撮像デバイス2741によって取得された画像を読み込む。処理開始の初期段階で合成画像がまだ生成されていない場合(tの場合)には、合成画像の代わりに時間tと時間tにおける画像が画像メモリから読み込まれる。
(iii)ステップ803
画像処理部216は、前回の合成画像と時間tk+1おける画像について特徴点(特徴量)を抽出する。具体的に、画像処理部216は、例えば、処理対象の画像をブロック単位(例えば、8ピクセル×8ピクセルのブロック)に分割し、フーリエ変換や離散コサイン変換などを用いて各ブロックの画素値を周波数領域におけるデータに変換する。これにより、各ブロックにおける周波数成分の分布が取得され、各ブロックの特徴量を抽出することができる。フーリエ変換や離散コサイン変換の他に、エッジフィルタを用いて各ブロックのエッジを強調した画像を特徴量としても良い。前回の合成画像について既に特徴量を抽出している場合には、例えば、図示しない画像メモリから読み込むだけで良い。
(iv)ステップ804
画像処理部216は、前回の合成画像と時間tk+1おける画像と対してパターンマッチング処理を実行する。第2の実施形態では、撮像デバイス2741は回転しているので、パターンマッチングは動画におけるパターンマッチングと同等に実行することができる。具体的には、画像処理部216は、例えば、予め探索範囲(回転速度から画像が1フレーム時間(例えば、1/60秒間)に移動する距離(画像がずれる範囲)を算出することが可能であり、その範囲と誤差を考慮したマージンによって探索範囲を設定することが可能である)内でパターンマッチング処理を実行し、各画像の探索領域においてマッチングする位置(相関が最も高い位置)をパターン一致点とする。
(v)ステップ805
画像処理部216は、ステップ804でパターン一致点と認識された位置において、前回の合成画像と時間tk+1おける画像とを繋ぎ合わせて新たな合成画像を生成する。なお、内視鏡アーム27の先端部分の回転が一周すると、視野角θにおける合成画像が生成されることなる。2周目以降の回転によって取得された画像は、既に生成された合成画像の適切な位置(マッチングが取れた位置)に逐次重畳されることになる。
以上のような方法で合成画像を生成することができるが、例えば特開平10−178564号公報で開示された方法を用いて合成画像を生成しても良い。
<低解像度モードと高解像度モード>
本実施形態では、例えば、内視鏡アーム27の先端部分を回転させながら取得した画像は低解像度(低画質:第1解像度或いは第1画質ともいう)で提供され、よってそれらを合成して得られる合成画像も低解像度で表示装置30の表示画面上に表示される。一方、当該先端部分の回転を停止させて取得した画像は高解像度(高画質:第2解像度或いは第2画質ともいう(第1解像度よりも高解像度))で表示装置30の表示画面上に表示される。
例えば、術者Oは、合成画像において気になる部分などを発見しそこを重点的に観察したいと思う場合などには、コンソール装置10を操作して当該先端部分の回転停止を指示し、さらに重点的に観察したい部分を指示することによって当該箇所を高解像度の画像で確認することができる。
本実施形態に係る内視鏡装置及び手術システムは、第1の実施形態と比べて、患者Pの体内に挿入する内視鏡の数を少なくできるため、より低侵襲とすることができる。
(3)第3の実施形態
第3の実施形態による手術システムは、第1の実施形態による手術システムと同様の構成を備えている。ただし、第3の実施形態では、患者側カート20における内視鏡装置21の構成が異なっている。第2の実施形態では、内視鏡装置21において、先端部分が回転する内視鏡アーム27が1つだけで設けられているが、第3の実施形態では、先端部分が回転する内視鏡アームが3つ以上設けられている点で異なる。
第3の実施形態は、例えば、内視鏡を3つ以上有し、各内視鏡の筒状筐体の少なくとも先端部分を回転させる機能を有する3つ以上の内視鏡アームを含む内視鏡装置を備える患者側カート(手術用ロボットとも言う)と、患者側カートを操作するためのコンソール装置と、を備える手術システムについて開示する。内視鏡装置では、例えば、各撮像デバイスの光軸は、各筒状筐体の先端部分の回転軸と所定の角度をなし、各内視鏡の筒状筐体の先端部分を回転させながら撮像デバイスで取得した3つ以上の画像を繋ぎ合わせて合成画像が生成され、表示画面上に表示される。このように3つ以上の内視鏡の先端部分を回転させることにより、さらに広範囲(例えば、360度)の視野の画像を術者に提供することができ、術者は患部及びその周辺の所望の位置の状態を広範囲に目視確認しながら手術をすることが可能となる(開腹手術のような視野の広さを確保しながら内視鏡手術を実現することが可能)。この場合も、撮像デバイスのレンズとして、例えば、中心窩レンズを用いることが可能である。
例えば、術者が各内視鏡アームの先端部分の回転停止を指示すると、回転を停止した状態での画像が表示画面上に表示される。この場合、例えば、停止した状態で取得され表示される画像は、回転させながら取得した画像よりも高画質とすることが可能である。これにより、術者はより詳細に所望の箇所を目視確認することが可能となる。この場合、術者は、例えば、回転を停止した状態で画像を取得する体内の対象の位置の情報を含むようにしても良い。このとき、例えば、対象の位置を撮像可能な撮像デバイスによってのみ取得された画像が表示画面上に表示される。
<患者側カートの構成>
図9は、第3の実施形態による患者側カート20の構成例を示す図である。第1の実施形態と異なる点は、3つ以上の内視鏡アーム27乃至29の先端部分が第2の実施形態と同様に回転することである。第2の実施形態と異なる点は、先端部分が回転する内視鏡アーム27乃至29が3つ以上設けられていることである。
第2の実施形態と同様に、内視鏡アーム27乃至29の先端面が斜めに形成され、撮像デバイス2741乃至2941の各光軸が各先端部分の回転軸と所定の角度をなしている。撮像デバイス2741乃至2941の各光軸と各回転軸とのなす角度は、例えば、撮像デバイス2741乃至2941の各レンズの画角(視野角)の1/2に設定することができる。この場合、内視鏡アーム27乃至29の先端面の傾斜角は、例えば、(90-撮像デバイス2741のレンズの視野角×1/2)度とすることができる。
第3の実施形態では、例えば、内視鏡アーム27乃至29の先端部分の各光学アダプタ274乃至294を回転軸中心に回転させながら、撮像デバイス2741乃至2941で手術中の画像を撮像する。当該内視鏡アーム27乃至29の先端部分の光学アダプタ274乃至294の回転の制御は、例えば、内視鏡アーム駆動制御部214によって行われる。具体的には、例えば関節部273乃至293のそれぞれに関節駆動用のモータとは別の先端部分回転用の小型(低速)モータを設け、回転駆動機構(先端部分に連結された回転駆動軸と回転駆動伝達用の各種ギア(例えば、傘歯ギアなどのギアにより先端部分と小型モータの軸が連結する場合もある)を含む)によって内視鏡アーム27乃至29の先端部分を回転させることができる。当該先端部分の回転速度等が例えば内視鏡アーム駆動制御部214によって制御可能なように構成される。内視鏡アーム27乃至29の各先端部分の回転は、位置検出器(例えばエンコーダ)によって検知することができる。例えば、当該各先端部分に一番近い関節に設けられた各位置検出器を用いることができる。
撮像制御部215は、撮像デバイス2741乃至2941が回転しながら撮像した画像をタイムスタンプと共に、図示しない画像メモリに格納する。
画像処理部216は、撮像制御部215が取得した画像間のマッチングを取りながら合成画像を生成する。合成画像生成処理については後述する。
なお、内視鏡アーム27乃至29の先端部分には、第2の実施形態と同様に、図6に示されるように、例えば、先端部分に丸みを持たせた透明シース61を被せることが可能である。これにより、手術中に患者Pの体内組織を損傷させないようにすることができる。
<合成画像生成処理>
第3の実施形態における合成画像生成処理は、第1の実施形態における合成画像生成処理(図3)と第2の実施形態における合成画像生成処理(図8)とを組み合わせることによって実現することが可能である。例えば、3つ以上の内視鏡アーム27乃至29の撮像デバイス2741乃至2941のそれぞれを回転させながら撮像して得られた画像の合成画像を図8の処理に従って生成する。これにより、3つ以上の回転合成画像(アラウンドビュー画像とも呼ぶ)が生成される。この3つ以上の回転合成画像をさらに図3の処理に従って合成し、最終的な合成画像を生成することができる。
<低解像度モードと高解像度モード>
本実施形態では、第2の実施形態と同様に、例えば、内視鏡アーム27乃至29の先端部分を回転させながら取得した画像は低解像度(低画質:第1解像度或いは第1画質ともいう)で提供され、よって各先端部分の回転画像の合成画像、及び3つ以上の合成画像をさらに繋ぎ合わせて得られる最終的な合成画像も低解像度で表示装置30の表示画面上に表示される。一方、当該先端部分の回転を停止させて取得した画像は、第2の実施形態と同様に、高解像度(高画質:第2解像度或いは第2画質ともいう(第1解像度よりも高解像度))で表示装置30の表示画面上に表示される。
例えば、術者Oは、最終的な合成画像において気になる部分などを発見しそこを重点的に観察したいと思う場合などには、コンソール装置10を操作して3つ以上の内視鏡アーム27乃至29の先端部分のうち当該重点観察箇所をカバーする少なくとも1つの先端部分の回転停止を指示し、さらに重点的に観察したい部分を指示することによって当該箇所を高解像度の画像で確認することができる。
(4)変形例
(i)第1乃至第3の実施形態では、手術中の患者の体内(例えば、腹腔内或いは胸腔内)の現在の様子を表す合成画像が表示装置30の表示画面上に表示されるが、過去の画像(合成画像か否かに関係なく)を合わせて(例えば、マルチ画面で)表示画面上に表示しても良い。例えば、内視鏡アーム22乃至24の先端部分(撮像デバイスが取り付けられた部分)及び内視鏡アーム27乃至29の先端部分を患者Pの体内に挿入した時点から手術部位の画像を撮像できる位置に移動する時点までの間の画像群は図示しない画像メモリに保持されている。このため、各内視鏡アームの挿入経路付近の画像、及び各手術用アームに取り付けられた手術器具の挿入経路周辺の画像(共に過去に撮像した画像)を現在の手術中の画像と併せて表示画面上に表示することにより、例えば、術者Oは、自身が操作する手術器具が患者Pの体内の臓器を過度に圧迫しながら挿入されていないかを確認することができるようになる。
各実施形態の機能及び構成は適宜組み合わせて用いることが可能である。例えば、内視鏡装置に3つ以上の内視鏡アーム22乃至24を設けた場合、3つ以上の内視鏡アームの全ての先端部分を回転可能に構成しなくても良い(少なくとも1つの内視鏡アームの先端部分を回転可能なように構成してもよい)。
(ii)各実施形態の機能は、ソフトウェアのプログラムコードによっても実現することができる。この場合、プログラムコードを記録した記憶媒体をシステム或は装置に提供し、そのシステム或は装置のコンピュータ(又はCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出す。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコード自体、及びそれを記憶した記憶媒体は本実施形態に含まれる。このようなプログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、CD−ROM、DVD−ROM、ハードディスク、光ディスク、光磁気ディスク、CD−R、磁気テープ、不揮発性のメモリカード、ROMなどが用いられる。
また、プログラムコードの指示に基づき、コンピュータ上で稼動しているOS(オペレーティングシステム)などが実際の処理の一部又は全部を行い、その処理によって前述した実施の形態の機能が実現されるようにしてもよい。さらに、記憶媒体から読み出されたプログラムコードが、コンピュータ上のメモリに書きこまれた後、そのプログラムコードの指示に基づき、コンピュータのCPUなどが実際の処理の一部又は全部を行い、その処理によって前述した実施形態の機能が実現されるようにしてもよい。
さらに、実施形態の機能を実現するソフトウェアのプログラムコードを、ネットワークを介して配信することにより、それをシステム又は装置のハードディスクやメモリ等の記憶手段又はCD−RW、CD−R等の記憶媒体に格納し、使用時にそのシステム又は装置のコンピュータ(又はCPUやMPU)が当該記憶手段や当該記憶媒体に格納されたプログラムコードを読み出して実行するようにしても良い。
1 手術システム
10 コンソール装置
20 患者側カート
21 内視鏡装置
22、23、24、27、28、29 内視鏡アーム
25、26 手術用アーム
30 表示装置

Claims (20)

  1. 筒状筐体の先端部分に撮像デバイスを備え、被検体の体内の画像を取得する1又は複数の内視鏡と、
    複数の関節のそれぞれに対応づけて位置検出器が設けられた、前記1又は複数の内視鏡を保持する1又は複数の内視鏡アームと、
    前記1又は複数の内視鏡により取得した複数の画像を処理する制御装置を備え、
    前記制御装置は、前記位置検出器を用いて取得された前記撮像デバイスの位置情報と、前記撮像デバイスで取得した各画像の特徴点を用いて前記各画像をつなぎ合わせて合成画像を生成する、内視鏡装置。
  2. 請求項1において、
    つ以上の前記内視鏡と、
    前記3つ以上の内視鏡に電気的に接続され、前記3つ以上の内視鏡のそれぞれが取得した画像を処理する前記制御装置とを備え、
    前記複数の画像は、前記3つ以上の内視鏡の前記撮像デバイスによって取得される、内視鏡装置。
  3. 請求項において、
    前記3つ以上の内視鏡が取得する少なくとも3つの画像には、互いに重なり合う領域が存在し、
    前記制御装置は、前記各画像の特徴点を用いて前記互いに重なり合う領域を特定し、前記合成画像を生成する、内視鏡装置。
  4. 請求項2又は3において、
    前記3つ以上の内視鏡が備える各撮像デバイスは、視野角が90度以上のレンズを含む、内視鏡装置。
  5. 請求項2から4の何れか1項において、
    さらに、画像を格納するためのメモリを備え、
    前記制御装置は、前記3つ以上の内視鏡が前記被検体の体内に挿入されたときから前記各撮像デバイスによって取得された合成前の画像と、前記3つ以上の内視鏡が前記被検体の体内に挿入されたときからの前記合成画像と、を前記メモリに格納し、入力された指示に応答して前記メモリから所定時点における前記合成画像を読み出す、内視鏡装置。
  6. 請求項1において、
    記内視鏡の筒状筐体の少なくとも先端部分を回転させる回転駆動制御部を備え、
    前記撮像デバイスの光軸は、前記筒状筐体の先端部分の回転軸と所定の角度をなし、
    前記複数の画像は、前記内視鏡の前記筒状筐体の先端部分を回転させて前記撮像デバイスにより取得される、内視鏡装置。
  7. 請求項6において、
    前記回転軸は、前記筒状筐体の長手方向と同一であり、
    前記撮像デバイスは、前記回転軸に対して傾斜して前記筒状筐体の先端部分に配置され、前記撮像デバイスの光軸と前記回転軸とが前記所定の角度をなす、内視鏡装置。
  8. 請求項6又は7において、
    前記撮像デバイスの光軸と前記回転軸とがなす前記所定の角度は、前記撮像デバイスのレンズの視野角の1/2である、内視鏡装置。
  9. 請求項6から8の何れか1項において、
    前記撮像デバイスのレンズは、中心窩レンズである、内視鏡装置。
  10. 請求項6から9の何れか1項において、
    前記筒状筐体の先端部分には、シースが取り付けられている、内視鏡装置。
  11. 請求項10において、
    前記シースは先端部分が丸みを持ち、かつ透明である、内視鏡装置。
  12. 請求項6において、
    3つ以上の前記内視鏡を備え、
    前記複数の画像は、前記3つ以上の内視鏡の各筒状筐体の先端部分を回転させながら前記各撮像デバイスによって取得される、内視鏡装置。
  13. 請求項6から12の何れか1項において、
    前記制御装置は、入力された指示に応答して、前記各筒状筐体の先端部分の回転を停止し、当該回転を停止した状態で撮像デバイスの少なくとも1つによって前記複数の画像を取得する、内視鏡装置。
  14. 請求項13において、
    前記回転を停止した状態で取得され表示される画像は、前記各筒状筐体の先端部分を回転させながら取得した画像よりも高画質である、内視鏡装置。
  15. 請求項13又は14において、
    前記入力された指示は、前記回転を停止した状態で画像を取得する前記体内の対象の位置の情報を含み、
    前記制御装置は、前記対象の位置を撮像可能な撮像デバイスによってのみ取得された画像を取得する、内視鏡装置。
  16. 筒状筐体の先端部分に撮像デバイスを備え、被検体の体内の画像を取得する1又は複数の内視鏡と、
    複数の関節のそれぞれに対応づけて位置検出器が設けられた、前記1又は複数の内視鏡を保持する1又は複数の内視鏡アームとを含む内視鏡装置を備えるロボットカートと、
    前記内視鏡アームを操作するための指示を送信するコンソール装置と、
    前記内視鏡装置によって撮像された画像を表示画面上に表示する表示装置と、を備え、
    前記内視鏡装置は、
    前記1又は複数の内視鏡により取得した複数の画像を処理する制御装置を備え、
    前記制御装置は、前記位置検出器を用いて取得された前記撮像デバイスの位置情報と、前記撮像デバイスで取得した各画像の特徴点を用いて前記各画像をつなぎ合わせて合成画像を生成する、内視鏡システム。
  17. 請求項16において、
    前記内視鏡装置は、3つ以上の前記内視鏡を備え、
    前記複数の画像は、前記3つ以上の内視鏡の前記撮像デバイスによって取得される、内視鏡システム。
  18. 請求項16において、
    前記内視鏡装置は、前記内視鏡の筒状筐体の少なくとも先端部分を回転させる回転駆動部を備え、
    前記撮像デバイスの光軸は、前記筒状筐体の先端部分の回転軸と所定の角度をなし、
    前記複数の画像は、前記内視鏡の前記筒状筐体の先端部分を回転させて前記撮像デバイスにより取得される、内視鏡システム。
  19. 請求項18において、
    前記内視鏡装置は、前記内視鏡を3つ以上備え、
    前記回転駆動部は、前記3つ以上の内視鏡の筒状筐体の少なくとも先端部分をそれぞれ回転させ、
    前記3つ以上の内視鏡の各撮像デバイスの光軸は、対応する前記筒状筐体の先端部分の回転角と所定の角度をなし、
    前記複数の画像は、前記3つ以上の内視鏡の各筒状筐体の先端部分を回転させながら前記各撮像デバイスにより取得される、内視鏡システム。
  20. 請求項16から18の何れか1項に記載の内視鏡システムを備え、
    前記ロボットカートは、手術器具が取り付けられる手術用アームをさらに備え、
    前記コンソール装置は、前記手術用アームを操作するための指示を送信する、手術システム。
JP2018506729A 2016-03-25 2016-03-25 内視鏡装置、内視鏡システム、及びそれらを備えた手術システム Active JP6598982B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2016/059672 WO2017163407A1 (ja) 2016-03-25 2016-03-25 内視鏡装置、内視鏡システム、及びそれらを備えた手術システム

Publications (2)

Publication Number Publication Date
JPWO2017163407A1 JPWO2017163407A1 (ja) 2019-02-14
JP6598982B2 true JP6598982B2 (ja) 2019-10-30

Family

ID=59900080

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018506729A Active JP6598982B2 (ja) 2016-03-25 2016-03-25 内視鏡装置、内視鏡システム、及びそれらを備えた手術システム

Country Status (4)

Country Link
US (1) US20190008367A1 (ja)
EP (1) EP3434170B1 (ja)
JP (1) JP6598982B2 (ja)
WO (1) WO2017163407A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111278344B (zh) * 2017-11-01 2023-09-05 索尼公司 手术臂系统和手术臂控制系统
CN109330694B (zh) * 2018-07-31 2020-08-21 深圳市精锋医疗科技有限公司 能够调节的从操作设备组件及手术机器人
JP7247702B2 (ja) * 2019-03-27 2023-03-29 ソニーグループ株式会社 内視鏡システム、内視鏡制御方法、及び、撮像制御装置
US11504193B2 (en) * 2019-05-21 2022-11-22 Verb Surgical Inc. Proximity sensors for surgical robotic arm manipulation
US11278361B2 (en) 2019-05-21 2022-03-22 Verb Surgical Inc. Sensors for touch-free control of surgical robotic systems
WO2021152754A1 (ja) * 2020-01-29 2021-08-05 オリンパス株式会社 画像処理装置、観察システム、及び観察方法
JPWO2022092026A1 (ja) * 2020-10-29 2022-05-05
US20230017411A1 (en) * 2021-07-14 2023-01-19 Cilag Gmbh International Endoscope with source and pixel level image modulation for multispectral imaging
US20230100698A1 (en) * 2021-09-29 2023-03-30 Cilag Gmbh International Methods for Controlling Cooperative Surgical Instruments

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07327921A (ja) * 1994-06-14 1995-12-19 Olympus Optical Co Ltd 医療用撮像装置
JP3506809B2 (ja) * 1995-06-08 2004-03-15 オリンパス株式会社 体腔内観察装置
JPH1043127A (ja) * 1996-08-02 1998-02-17 Tsunehisa Shimoda 医療用内視鏡
JP4049859B2 (ja) * 1997-10-20 2008-02-20 オリンパス株式会社 内視鏡装置
JP2004289225A (ja) * 2003-03-19 2004-10-14 Minolta Co Ltd 撮像装置
US7763015B2 (en) * 2005-01-24 2010-07-27 Intuitive Surgical Operations, Inc. Modular manipulator support for robotic surgery
JP2006288869A (ja) * 2005-04-13 2006-10-26 Hitachi Medical Corp 内視鏡画像表示装置
WO2010050243A1 (ja) * 2008-10-31 2010-05-06 合同会社ジャパン・メディカル・クリエーティブ 手術装置
DE102012025100A1 (de) * 2012-12-20 2014-06-26 avateramedical GmBH Entkoppeltes Mehrkamerasystem für die minimal-invasive Chirurgie
US20150045619A1 (en) * 2013-08-09 2015-02-12 Chang Bing Show Chwan Memorial Hospital System and method for mosaicing endoscope images using wide angle view endoscope
US11606497B2 (en) * 2014-06-10 2023-03-14 Nitesh Ratnakar Endoscope with multiple views and novel configurations adapted thereto

Also Published As

Publication number Publication date
WO2017163407A1 (ja) 2017-09-28
EP3434170A4 (en) 2019-11-20
EP3434170B1 (en) 2021-03-17
EP3434170A1 (en) 2019-01-30
JPWO2017163407A1 (ja) 2019-02-14
US20190008367A1 (en) 2019-01-10

Similar Documents

Publication Publication Date Title
JP6598982B2 (ja) 内視鏡装置、内視鏡システム、及びそれらを備えた手術システム
JP6982605B2 (ja) 外科用器具可視性のロボット制御
US10182704B2 (en) Robotic control of an endoscope from blood vessel tree images
JP2023544360A (ja) 複数の外科用ディスプレイ上へのインタラクティブ情報オーバーレイ
JP6389467B2 (ja) 低侵襲手術のための分離されたマルチカメラシステム
JP2023544593A (ja) 協働的外科用ディスプレイ
JP2023544594A (ja) 容量及びユーザ操作に基づく階層化されたシステムの表示制御
JP3506809B2 (ja) 体腔内観察装置
US9615890B2 (en) Surgical robot system and method of controlling the same
JP7115493B2 (ja) 手術アームシステム及び手術アーム制御システム
KR20140112207A (ko) 증강현실 영상 표시 시스템 및 이를 포함하는 수술 로봇 시스템
JP2006218129A (ja) 手術支援システム
JP7334499B2 (ja) 手術支援システム、制御装置及び制御方法
KR20140139840A (ko) 디스플레이 장치 및 그 제어방법
WO2018088105A1 (ja) 医療用支持アーム及び医療用システム
JP4027876B2 (ja) 体腔内観察システム
CN114051387A (zh) 医学观察系统、控制装置和控制方法
WO2020054566A1 (ja) 医療用観察システム、医療用観察装置及び医療用観察方法
WO2019155931A1 (ja) 手術システム、画像処理装置及び画像処理方法
JPH08336497A (ja) 体腔内観察装置
KR20140130815A (ko) 수술용 트로카 및 이를 이용한 영상 획득 방법
WO2017082047A1 (ja) 内視鏡システム
CN114340469A (zh) 医疗支撑臂和医疗系统
JP2006223374A (ja) 手術支援装置、手術支援システム及び手術支援方法
CN113905652A (zh) 医学观察系统、控制装置和控制方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180830

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180830

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190903

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191001

R150 Certificate of patent or registration of utility model

Ref document number: 6598982

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250