JP7022400B2 - 手術支援装置、その制御方法、プログラム並びに手術支援システム - Google Patents

手術支援装置、その制御方法、プログラム並びに手術支援システム Download PDF

Info

Publication number
JP7022400B2
JP7022400B2 JP2018561788A JP2018561788A JP7022400B2 JP 7022400 B2 JP7022400 B2 JP 7022400B2 JP 2018561788 A JP2018561788 A JP 2018561788A JP 2018561788 A JP2018561788 A JP 2018561788A JP 7022400 B2 JP7022400 B2 JP 7022400B2
Authority
JP
Japan
Prior art keywords
point
controlled
medical device
surgical
posture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018561788A
Other languages
English (en)
Other versions
JPWO2018131188A1 (ja
Inventor
岳洋 安藤
寛之 宮本
啓太 粟野
吉英 杉浦
Original Assignee
朝日サージカルロボティクス株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 朝日サージカルロボティクス株式会社 filed Critical 朝日サージカルロボティクス株式会社
Publication of JPWO2018131188A1 publication Critical patent/JPWO2018131188A1/ja
Priority to JP2021179283A priority Critical patent/JP7229319B2/ja
Application granted granted Critical
Publication of JP7022400B2 publication Critical patent/JP7022400B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B34/32Surgical robots operating autonomously
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/70Manipulators specially adapted for use in surgery
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • B25J13/08Controls for manipulators by means of sensing devices, e.g. viewing or touching devices
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • B25J13/08Controls for manipulators by means of sensing devices, e.g. viewing or touching devices
    • B25J13/088Controls for manipulators by means of sensing devices, e.g. viewing or touching devices with position, velocity or acceleration sensors
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1679Programme controls characterised by the tasks executed
    • B25J9/1689Teleoperation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2055Optical tracking systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2068Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis using pointers, e.g. pointers having reference marks for determining coordinates of body points
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B2034/302Surgical robots specifically adapted for manipulations within body cavities, e.g. within abdominal or thoracic cavities
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/06Measuring instruments not otherwise provided for
    • A61B2090/062Measuring instruments not otherwise provided for penetration depth
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/06Measuring instruments not otherwise provided for
    • A61B2090/067Measuring instruments not otherwise provided for for measuring angles

Description

本発明は、手術支援装置、その制御方法、プログラム並びに手術支援システムに関する。
腹壁に小径の複数の穴を空け、術者が手に持つ術具や内視鏡等の医療器具を小径の穴のそれぞれから体腔内に挿入することにより手術を行う腹腔鏡手術が知られている。一般に腹腔鏡手術では、超音波メスや鉗子など複数の術具を操作して手術を行う術者を、腹腔鏡を操作するスコーピストや鉗子によって臓器を牽引等する助手等が補助することによって行われるため、腹部を切開する開腹手術と比較して煩雑となる場合がある。このため、スコーピスト等による支援に代えてロボットアームによって術者を支援する技術が提案されている。
特許文献1は、処置具に取り付けた可動コイルと、スコープを備える垂直多関節型6自由度ロボット側に取り付けた固定発信器とを用いて術具の姿勢を計測し、腹腔鏡の軸心上を術具の先端位置が通るように腹腔鏡の姿勢を制御する技術を提案している。また、特許文献2は、トラカールに傾斜センサ等の慣性センサと挿入量センサを設けて術具の姿勢を計測し、術具の先端位置を追従するように腹腔鏡の姿勢を制御する技術を提案している。
特開2003-127076号公報 特開2007-301378号公報
しかしながら、特許文献1で提案された技術では、6自由度の姿勢を取得する必要があるため高価であり、各自由度に対する計測誤差によりロボットアームの制御に大きく影響を与える場合がある。また、特許文献2で提案された技術のように、操作される術具の移動を慣性センサによって計測する場合、実際にはドリフトエラーといわれる計測誤差が蓄積し、計測結果が実際の位置から離れていく問題がある。すなわち、術具に対する計測結果に計測誤差が蓄積すれば、ロボットアームの動作が不自然になってしまう。
また、いずれの技術も、術者の意図的な操作対象はあくまで処置のための主たる術具であり、腹腔鏡等の従たる術具は主たる術具の先端位置の移動に伴って制御されるものである。すなわち、術者の意図的な操作対象を従たる術具として、その姿勢を主たる術具によって直感的に操作することは考慮されていない。主たる術具の用途が、処置の用途から、従たる術具を直接操作する用途に切り替わって、術者が従たる術具の姿勢を所望に操作できれば、ロボットアームによる術者への支援効果をより高めることができる。
本発明は、上述した課題に鑑みてなされたものである。すなわち、機械的に制御される術具の姿勢を、処置のための術具を用いて直感的かつ計測誤差の影響を抑制しながら制御することが可能な手術支援装置、その制御方法、プログラム並びに手術支援システムを提供することを目的とする。
これらの課題を解決するために、例えば本発明の手術支援装置は以下の構成を備える。すなわち、体腔に挿入され且つ機械的に駆動される第1の術具の姿勢を制御する手術支援装置であって、処置のために体腔に挿入される第2の術具のシャフトの体腔への挿入角度と挿入深度とを計測する計測手段と、先端に光学部品が取り付けられた第1の術具の姿勢を制御するために、第1の術具の姿勢を特定するための被制御点であって術者による制御対象である被制御点の目標位置を、計測手段による計測結果に基づいて決定する演算手段と、を有し、被制御点と、位置が変化しないように固定される固定点とが光学部品の光軸の方向と略同一の方向を有する仮想的な軸上に配置されると共に、被制御点は光学部品の位置である仮想的な軸上の位置に配置され、固定点は、所定の基準時刻において所定の距離だけ被制御点から離れた仮想的な軸上の位置に配置され、演算手段は、計測された挿入角度及び挿入深度の所定の基準時刻からの変化量に応じて、固定点を基点とする被制御点の位置を求めることにより、被制御点の目標位置を決定所定の基準時刻は、処置のために第2の術具を用いる第1モードと第1の術具を制御するために第2の術具を用いる第2モードとを切り替える切替手段により、第2モードが開始される時刻である、ことを特徴とする。
本発明によれば、機械的に制御される術具の姿勢を、処置のための術具を用いて直感的かつ計測誤差の影響を抑制しながら制御することが可能となる。
本発明のその他の特徴及び利点は、添付図面を参照とした以下の説明により明らかになるであろう。なお、添付図面においては、同じ若しくは同様の構成には、同じ参照番号を付す。
添付図面は明細書に含まれ、その一部を構成し、本発明の実施の形態を示し、その記述と共に本発明の原理を説明するために用いられる。
本実施形態に係る手術支援システムの構成例を示す図 本実施形態に係る、ロボットの座標系と慣性センサの座標系との間の関係を求めるためのキャリブレーションの方法を説明する図 本実施形態に係る、ロボット医療器具の被制御点に対する目標位置を決定する処理を説明する図 本実施形態に係る、ロボット医療器具の被制御点に対する目標姿勢を決定する処理を説明する図 本実施形態に係る、棒状のロボット医療器具の制御について説明する図 本実施形態に係る、複数の自由度を有するロボット医療器具の姿勢の制御について説明する図 本実施形態に係る、光軸の向きを変更可能なロボット医療器具の姿勢の制御について説明する図 本実施形態に係る、その他の機構を有するロボット医療器具の姿勢の制御について説明する図 本実施形態に係る、手持ち医療器具を用いたロボット医療器具の操作に係る一連の動作を示すフローチャート 撮像デバイスを有するロボット医療器具の操作について説明する図 本実施形態に係る、撮像デバイスを有するロボット医療器具の制御について説明する図
以下、本発明の例示的な実施形態について、図面を参照して詳細に説明する。なお、以下の説明において、単に術具の姿勢を計測又は制御するものとして説明した場合、術具の特定箇所の位置を計測又は術具の特定箇所を他の位置に制御するものを含む場合がある。
(手術支援システムの構成)
図1は、本実施形態に係る手術支援システム1の機能構成例を示す図である。なお、図1に示す機能ブロックの1つ以上は、ASICやプログラマブルロジックアレイ(PLA)などのハードウェアによって実現されてもよいし、CPUやMPU等のプログラマブルプロセッサがソフトウェアを実行することによって実現されてもよい。また、ソフトウェアとハードウェアの組み合わせによって実現されてもよい。従って、以下の説明において、異なる機能ブロックが動作主体として記載されている場合であっても、同じハードウェアが主体として実現されうる。
本実施形態に係る手術支援システム1は、手術支援装置2と、術具やエンドエフェクタの姿勢を制御する医療器具駆動部11とを含む。また、手術支援装置2は、例えば、術者が持つ術具の姿勢を計測する位置姿勢計測装置22と、制御状態を切り替えるためのモード切替部3と、座標変換、制御対象の位置等の演算や医療器具駆動部11を制御する制御部4と、表示部7、及び不揮発性メモリ8とを含む。また、図1では、手術台6上に横たわる患者の体腔内に外套管を通して術具やエンドエフェクタが挿入されている様子を示している。
本実施形態に係る手術支援システム1は、術者及び患者の近くに設置され、術者による術具の操作と協調するように医療器具駆動部11を制御することにより術者による手術を支援する。術者は、手持ち医療器具21を操作して、処置(例えば電気メスで臓器の一部を切開する)と、ロボット医療器具12やエンドエフェクタの姿勢の制御(従来助手が鉗子によって臓器を牽引する)とを切り替えて、交互に行うことができる。
このため、本実施形態に係るロボット医療器具12やエンドエフェクタの姿勢の制御は、上述した常に術具の先端位置を計測してその先端位置付近を腹腔鏡等に追従させる制御とは異なり、切開等の処置のために手持ち医療器具21を操作する合間に行われる。従って、ロボット医療器具12やエンドエフェクタの姿勢を制御するために行う手持ち医療器具21の姿勢の計測は、比較的短時間で終了することになる。
医療器具駆動部11は、ロボット医療器具12の移動やエンドエフェクタ13の姿勢を制御する駆動部(例えばロボットアーム)を含む。例えば、ロボット医療器具12の腹壁5に対する挿入角度、ロボット医療器具12のシャフトの長軸方向への移動(挿入深度)、及びエンドエフェクタ13の駆動を制御可能に構成される。駆動部の機構は、例えばRガイドを用いた機構、平行リンクを用いた機構、又は垂直多関節アームによる機構等であってよいが、エンドエフェクタ13の姿勢を能動的に制御することが可能であればその形状は任意でよい。駆動部にはサーボモータ等の位置決め用アクチュエータが複数含まれており、アクチュエータに含まれるエンコーダから機構の関節角等の現在位置情報を取得可能である。医療器具駆動部11は、手術支援装置2と、LAN等の通信路或いはバスを介して接続され、手術支援装置2の制御部4とデータの受送信を行う。医療器具駆動部11は、手術支援装置2の制御部4へ関節角等の現在位置情報を出力することができ、また、制御部4から出力された制御情報に基づいて、ロボット医療器具12の移動やエンドエフェクタ13の姿勢を制御することができる。なお、以後の説明において単に「ロボット」という場合は、医療器具駆動部11、ロボット医療器具12、エンドエフェクタ13のすべてを指すものとする。
ロボット医療器具12は、腹壁5に開けた小径の穴に挿入された外套管14を通過して、その一部が体腔内に挿入される。例えば、ロボット医療器具12は、体腔内に挿入して使用される鉗子、攝子、電気メス、吸引管、超音波凝固切開装置、止血装置、ラジオ波焼灼装置、内視鏡、胸腔鏡、腹腔鏡等を含み、その形状は直線状であっても屈曲関節を有していてもよい。
手持ち医療器具21は、術者が実際に手で動かして通常の処置を行う医療器具であり、腹壁5に開けた小径の穴に挿入された外套管23を通して体腔内に挿入される。手持ち医療器具21には、位置姿勢計測装置22が取り付けられ、後述するセンサにより手持ち医療器具21の姿勢を計測する。このセンサは一般的な6自由度の絶対位置姿勢を計測可能なセンサでもよいが、本実施形態では、ある時刻、位置からの相対的な位置姿勢しか測れないセンサを使用する例を説明する。
位置姿勢計測装置22は、3自由度の姿勢を計測可能な慣性センサと、体腔内への挿入深度を計測可能な距離センサとの組み合わせで構成される。慣性センサとしては、例えば加速度センサ、傾斜センサ、ジャイロセンサ、地磁気センサなどの一般的なセンサおよびそれらの組み合わせが利用できる。また、距離センサとしては、手持ち医療器具21の挿入によって回転するローラーを用いたエンコーダ、光や磁気を用いた距離計等が使用できる。
モード切替部3は、手術支援システムの操作モードを適切に切り替えるための操作部材を含み、例えば手元スイッチ、フットスイッチ等により構成される。操作モードは、処置のために手持ち医療器具21を操作して実際に手術を行うモード(単に処置モードともいう)と、ロボット医療器具12やエンドエフェクタを操作するため手持ち医療器具21を用いるモード(単にロボット操作モードともいう)とを含む。また、ロボット操作モードは更に、後述するキャリブレーションを行うためのキャリブレーションモードと、手持ち医療器具21を用いてロボット医療器具12等の所定箇所の位置を制御するための位置制御モードとを含む。術者がモード切替部3を介して操作モードを切り替えると、制御部4はモード切替部3からの信号に応じてシステムの操作モードを切り替え、現在の操作モードを不図示のRAMに記録する。なお、モード切替部3を介して所定の音声、所定のジェスチャーの情報を取得し、制御部4が入力された情報に対応する操作モードに切り替えるようにしてもよい。
制御部4は、CPU又はMPUなどの中央演算装置、ROM及びRAMを含み、ROM或いは不揮発性メモリ8等の記録媒体に記憶されたプログラムを実行して、手術支援装置2の各ブロックの動作を制御する。また、制御部4は、医療器具駆動部11から関節角等の現在位置情報(或いはこれらに基づいて得られる関節角等の間の距離情報等)を取得する。また、ロボット医療器具12の移動やエンドエフェクタ13の姿勢を制御するための制御情報を医療器具駆動部11へ送信する。
表示部7は、例えば、液晶ディスプレイ、有機ELディスプレイ等の表示デバイスを含み、腹壁に挿入された不図示の腹腔鏡で撮影された体腔内の画像又は映像を表示する。また、表示部7は、(ロボットや手持ち医療器具21の姿勢を示す数値等を含む)システム内部の状態表示や、本システムを操作するための操作画面等を表示する。
不揮発性メモリ8は、半導体メモリや磁気ディスク等から構成される記録媒体を含み、制御部4が実行するプログラムや動作用の定数などを記憶する。
(手持ち医療器具21の姿勢を計測する際の問題点)
手持ち医療器具21を用いてロボット医療器具12を操作するために、手持ち医療器具21の姿勢を計測する必要がある。本実施形態では、当該姿勢を求めるために、腹壁5における回転中心を原点とした、慣性センサの起動時の姿勢を基準とする座標系を用いる。しかしながら、このような姿勢の計測方法には、以下の3つの問題がある。
第1に、慣性センサの座標系とロボットが持つ座標系とが異なるため、手持ち医療器具21の姿勢を計測したとしてもロボット医療器具12やエンドエフェクタ13を術者が意図する方向に移動させることができない。
第2に、慣性センサは重力軸回りの回転角の計測値にドリフトエラーを含むという問題がある。慣性センサはジャイロセンサと加速度センサを組み合わせて姿勢を算出するものが一般的であるが、重力軸回りの回転角においては、ジャイロセンサのみの値しか用いることができない。このため、角速度を積分した値を回転角として用いることになる。角速度の計測結果には大なり小なり誤差が存在するため、その値を積分した場合には時間経過とともに計測誤差が増大する。この計測誤差をドリフトエラーという。ドリフトエラーが生じると、最初に規定した座標系があたかも回転したような状態になり、手持ち医療器具の実際の姿勢と計測値とがかけ離れてゆく。なお、ジャイロセンサを用いずに加速度センサのみを用いる場合であっても、加速度を積分した値を位置として用いるため、計測結果は同様にドリフトエラーを含む。
第3に、挿入深度を計測するための距離センサの基準点を、腹壁の回転中心に合わせることが困難であるという問題がある。通常、位置姿勢計測装置22に含まれる距離センサは、外套管23や手持ち医療器具21上の所定の位置に設けられるため、この位置を基準とする距離の計測しか行えない。このため、距離センサの基準点は、腹壁5における手持ち医療器具21の回転中心とは異なる位置にある。しかし、腹壁5における回転中心は、腹壁内部にあり、また腹壁の厚さ等によっても変化するため、外套管23から一定の距離に決定することができない。すなわち、手持ち医療器具21の回転中心と距離センサの基準点を相互に変換できなければ、手持ち医療器具21の原点をロボット座標系上で正確に求めることができず、不自然な操作となってしまう。
(手持ち医療器具21を用いたロボット医療器具の操作に係る一連の動作)
次に、図9を参照して、手持ち医療器具21を用いたロボット医療器具12の操作に係る一連の動作を説明する。各ステップのより詳細な説明については別途後述するが、この動作によって上述した問題点を解消すると共に、術者が手持ち医療器具21を用いてより直感的にロボット医療器具12やエンドエフェクタ13を操作することが可能になる。なお、本動作では、制御部4が不揮発性メモリ8に記録されているプログラムを不図示のRAMに展開、実行することにより実現される。また、本処理は、例えば術者がモード切替部3を操作して、操作モードをキャリブレーションモードに切り替えたときに開始される。
S1では、制御部4は、仮想的な回転中心として用いる制御基準点を決定する。本実施形態では、制御基準点の位置を、手持ち医療器具21の回転中心の位置と同じ位置に設定する。このため、制御部4は、後に詳述するキャリブレーションによる計測結果に基づいて慣性センサの座標系における手持ち医療器具21の回転中心の位置(すなわち制御基準点の位置)を決定する。
S2では、制御部4は、慣性センサの座標系をロボットの座標系に変換する。より具体的には、S1のキャリブレーションによって特定された少なくとも2つの位置に対する慣性センサの座標系の位置とロボットの座標系における位置との関係から座標系の間の変換関数を決定する。
S3では、制御部4は、位置制御モードへの切り替え指示を受けたかを判定する。例えば、術者がS2の処理の完了後にモード切替部3を介して操作モードを位置制御モードに設定すると、制御部4は、操作モードを位置制御モードに切り替える指示を受ける。制御部4は、操作モードの切り替え指示を受けた場合、S4に処理を進める。一方、操作モードの切り替え指示を受けていない場合、処理を再びS3に戻す(必要に応じて本一連の動作を終了させても良い)。
S4では、制御部4は、操作モードが位置制御モードに切り替わった時刻における、制御基準点から被制御点に向かう基準ベクトルを計算する。被制御点は、術者がロボット医療器具12やエンドエフェクタ13を操作する際の制御対象となる点を指す。制御部は算出した基準ベクトルの情報を例えばRAM等に保持する。この処理では、モードが切り替わったタイミングで規定される、制御基準点から被制御点に伸びる仮想的なシャフトを決定して保持することを意味する。
S5では、制御部4は、基準ベクトルを計算した時刻(すなわち位置制御モードに切り替わった時刻)からの、手持ち医療器具21の相対的な移動量を求める。更にS6では、制御部4は、S5で求めた相対移動量に基づいて基準ベクトルを動かすことにより、被制御点があるべき位置を示す目標位置を決定する。換言すれば、S4で求めた仮想的なシャフトの先端の目標位置を、術者が手持ち医療器具21を動かした相対移動量に応じて決定することを意味する。その後、制御部4は、ロボットアームを制御してエンドエフェクタ13を当該目標位置へ移動させて、本一連の動作を終了する。
このように、上述した処理によれば、手持ち医療器具21に対する相対移動量を用いるため、ドリフトエラーによる影響を抑制することができる。また、制御基準点から見た被制御点の位置を、手持ち医療器具21に対してした移動量によって変化させるため、術者には、あたかも仮想的な棒の先端で被制御点を直接操作しているような直感的な操作感を与えることができる。以降では、図9を参照して説明したステップについて、より詳細な説明を補足する。
<S1:制御基準点の決定>
まず、S1において上述した、仮想的な回転中心として用いる制御基準点を決定する動作について説明する。手持ち医療器具21に取り付けられる位置姿勢計測装置22は、外套管23と手持ち医療器具21の先端との相対距離を計測する距離センサと、3軸の姿勢を計測可能な少なくとも1つの慣性センサとを含む。この距離センサと慣性センサとの組み合わせでは、腹壁5の回転中心と距離センサの計測原点とのオフセットが不明であり、また、重力軸回りの回転についてはドリフトエラーを持つ。但し、ドリフトエラーは、通常は数秒~数分程度の短い時間であれば無視できる程度に小さいため、計測値のドリフトは考慮しなくて良い。すなわち、本実施形態における手持ち医療器具21を用いたエンドエフェクタの操作は、現実的に数分程度で終了して手持ち医療器具21を用いた実際の手術に切り替わるため、この間に蓄積するドリフトエラーは無視できる程度に小さい。仮に手持ち医療器具21を用いたエンドエフェクタの操作が長時間必要な場合があっても、一旦手持ち医療器具21を用いた実際の手術に操作を切り替えて再びエンドエフェクタの操作に切り替えることができる。このため、各操作はドリフトエラーを無視できる程度の時間内で操作を行うことができる。
キャリブレーションは、ロボット医療器具12と術者が持つ手持ち医療器具21とがそれぞれ外套管14及び外套管23を通過して体腔内に挿入された状態で行われる。具体的に、術者は、エンドエフェクタ13を、手持ち医療器具21の先端が接触可能な位置まで移動させる。エンドエフェクタ13の移動は、術者が手動で(例えばジョグ動作等を動かして)行い、目的位置に到達したら停止させる。このとき、制御部4は、医療器具駆動部11から各関節に備わるセンサ情報(現在位置情報)を取得して、ロボットの座標系におけるエンドエフェクタ13の姿勢を、公知の順運動学を解くことによって求める。また、制御部4は、位置姿勢計測装置22の情報から、外套管23と手持ち医療器具21の先端との相対距離、及び手持ち医療器具の姿勢を慣性センサの座標系において求めることができる。この慣性センサの座標系は前述したドリフトエラーによって長期的には回転してしまうが、数秒~数分の単位であれば回転していないとみなすことができる。
次に、図2に示すように、ロボットの座標系において既知である、少なくとも2点と、手持ち医療器具21の先端とを接触させる。制御部4は、接触したときの距離センサと慣性センサから出力された計測値を保持しておく。なお、ロボットの座標系における2点に手持ち医療器具21を接触させるために、術者は、別途体腔内に挿入された不図示の腹腔鏡から得られる映像を表示部7に表示させ、表示された映像を見ながら操作を行うことができる。
また、制御部4は、ロボットの順運動学を計算し、接触させた2点のそれぞれの位置をロボット座標系において計算する。接触させる2点は、例えばエンドエフェクタ13の先端と根本の位置とする。但し、機械的に既知の位置であれば任意の位置でよい。また、1点目を接触させてからロボットを異なる位置に移動させて2点目としてもよいし、2つ以上のロボットアームが存在すれば、それぞれのエンドエフェクタ上の点を各点としてもよい。但し、接触させる2点が重力軸上にある場合には重力軸まわりの回転を求めることができないため、当該接触させる2点を結ぶ直線と重力軸とが角度を持つように2点を設定する。望ましくは、重力軸に対して垂直な平面(地面に平行な平面)上に、接触させる2点をとる。例えば、制御部4は、接触させる2点における重力軸上の位置の差分を計算し、差分値(例えば、-3、・・-1、0、+1、・・、+3等)を表示部7に表示する。このようにすれば、ロボットを移動させるユーザが、接触させる2点を重力軸と垂直な平面上に調節し易くなる。
更に、制御部4は、距離センサの値を、腹壁の回転中心を基準とする挿入深度に変換する。また、接触させた2点がロボット座標系において既知であることから、制御部4は、この2点間の距離dを、
Figure 0007022400000001

として取得することができる。ここでp、pは手持ち医療器具21とエンドエフェクタ13等を接触させた2点の、ロボットの座標系における位置である。
一方、制御部4は、慣性センサの情報により、エンドエフェクタ13の2点に接触した際のベクトルを取得し、その間の角αを内積により求める。また、距離センサの情報により、外套管23を基準とした距離を計測する。接触させた各点での外套管23との相対距離をL、Lとし、距離センサの基準点と回転中心との距離Loffとすると、それぞれの長さには以下の関係がある。
Figure 0007022400000002

ここで、L1、L2は必ずしも外套管23から手持ち医療器具21の先端までの距離を表している必要はなく、手持ち医療器具21の他の位置からの距離を、符号を考慮して用いてもよい。これをLoffについて解くと、幾何学的な条件から解は1つに決まり、以下のように求めることができる。
Figure 0007022400000003
<S2:慣性センサの座標系からロボットの座標系への変換>
次に、慣性センサの座標系をロボットの座標系に変換するステップについて説明を補充する。制御部4は、回転中心を原点とする慣性センサの座標系における、接触させた2点の位置を求め、これらをq、qとする。これらの点とロボット座標系における同2点p、pとが対応することから、回転行列Rと並進ベクトルtとを用いて下記の評価関数Hを作成することができる。
Figure 0007022400000004
この評価関数を最小化する回転行列Rと並進ベクトルtを求めれば慣性センサ座標系がロボット座標系に変換されることになる。なお、回転行列Rと並進ベクトルtは合計で6個の変数が含まれており、異なる2点で接触させた条件を用いると6つの方程式が作成できる。このため、少なくとも2点においてロボットと手持ち医療器具21とを接触させれば解を収束させることができる。もちろん、2つ以上の点を用いて評価関数を最適化してもよい。
<S4:制御基準点から被制御点に向かう基準ベクトルの算出>
次に、図3を参照して、制御基準点から被制御点に向かう基準ベクトルを算出する動作をより詳細に説明する。まず、制御部4は、ロボット座標系において規定可能な任意の点として被制御点を取得する。被制御点は、ロボット医療器具12の先端、エンドエフェクタ13の付け根や先端等であってよいし、被制御点はロボットが位置決め可能であれば、空間上に規定してもよい。ここでは、手持ち医療器具21によって操作するエンドエフェクタ13の付け根を被制御点とする例について説明する。制御部4は、医療器具駆動部11から取得した現在位置情報から被制御点の位置を取得する。また、手持ち医療器具21の回転中心を制御基準点として設定する。
術者が操作モードを位置制御モードに切り替えた瞬間における、被制御点の位置をpとする。また、既に決定されている制御基準点の位置をpとする。ここで、制御部4は、制御基準点pから医療器具の被制御点pに向かうベクトルv(すなわち基準ベクトル)を以下の式に従って計算する。
Figure 0007022400000005
制御部4は、この計算を、モード切替部3によって位置制御モードに切り替えられた瞬間のみ行い、当該位置制御モードが解除されるまで基準ベクトルvを定数として保持する。ここで、基準ベクトルvを極座標で表示すると、以下のようになる。
Figure 0007022400000006
<S5:手持ち医療器具の相対移動量の算出>
次に、術者がモード切替部3によって位置制御モードに切り替えた瞬間tの手持ち医療器具21のセンサ計測値を(l´、φ´、θ´)とする。この時点から手持ち医療器具21をある位置に移動させた時tと、それぞれの変化した値は(l´k+i、φ´k+i、θ´k+i)と表せる。そして、制御部4は、上述した手持ち医療器具21の相対移動量として、計測値の変化量は以下のように算出する。
Figure 0007022400000007
なお、得られた相対移動量(Δl´、Δφ´、Δθ´)は、ロボットを位置制御モードに設定している間の数秒~数分という短い時間であるため、Δθ´はドリフトエラーを考慮しなくてもよい。
<S6:被制御点の目標位置の決定>
更に、制御部4は、これらのセンサにおける計測値の変化量(相対移動量)と基準ベクトルを用いて、制御基準点から目標位置に対するベクトルvを算出する。
Figure 0007022400000008
これにより、ロボット座標系における目標位置を示すベクトルpを以下のように求めることができる。
Figure 0007022400000009
制御部4は、その後、与えられた目標位置に対して、公知のロボットアームの制御方法を用いてエンドエフェクタ13の被制御点を当該目標位置へ移動させる。ここに表れる変数にはドリフトエラーの影響を受けるものがない。このため、術者は、結果として座標系の回転を意識せずに直感的にロボットを操作することが可能である。
また、図9の説明において上述したように、本実施形態の処理により、術者は被制御点を直接操作するような直感的な操作を行うことが可能となる。上述の例では、手持ち医療器具21の原点を制御基準点pとしているため、術者にとっては、あたかも回転中心から被制御点に伸びる仮想的なシャフトが存在し、それを手に持って被制御点を操作しているかのように認識される。
以上説明したように、本実施形態では、ロボット医療器具12の操作を開始する基準時刻(位置制御モードの開始時点)からの手持ち医療器具21の相対移動量に基づいて、ロボット医療器具12等における被制御点の目標位置を決定するようにした。このようにすることで、慣性センサの座標系におけるドリフトエラーの影響を抑制し、かつ術者が手持ち医療器具を用いてロボットアーム上の所望の点の位置を直感的に制御できるようになる。換言すれば、機械的に制御される術具の姿勢を、処置のための術具を用いて直感的かつ計測誤差の影響を抑制しながら制御することが可能になる。
なお、制御基準点を求める処理やキャリブレーションのための処理は、採用するロボット医療器具の構成や必要とされる用途によって簡略化することができる。例えば、ロボット座標系の任意の1軸は重力方向を向いているとする。このような状況では、慣性センサの座標系とロボット座標系の変換は、並進と重力軸回りの回転のみ求めればよく、解析解を用いて計算することが可能となる。また、ロボット座標系の任意の1軸が重力軸と一致していなくても、ロボットに加速度センサを取り付けることにより、少なくとも1軸が重力軸と平行である座標系に変換することが可能となる。すなわち、座標を変換した後で上記の簡略化した計算を行ってもよい。
距離センサの基準点と実際の回転中心を合わせるための方法もいくつか考えられる。例えば、外套管23を腹壁5に挿入する深さをいつも一定にできるようにするために、外套管23の所定の位置に印をつけたり、一定以上挿入されないように外套管23にストッパーを付けたりしてもよい。外套管23を腹壁5に挿入する深さが一定となれば、距離センサの原点を回転中心にオフセットすることが可能となる。
また、ロボットの点の位置を計測するために、ロボット座標系上の任意の点の位置を計測可能な計測装置を用いてもよい。このような計測装置としては、機械的なアーム先端の位置を計測する装置、光学的に位置を計測する装置、磁気的に距離を計測する装置等が考えられる。これらの計測装置は通常、ロボット座標系にあらかじめ統合可能であるため、ロボット座標系上の任意の位置を計測することが可能となる。また、このような装置を用いて、手持ち医療器具21の回転中心位置を求めれば、得られた手持ち医療器具21の座標系をロボット座標系に統合することが可能となる。
さらに、上述したキャリブレーションの手順を踏まずに、予め定めた制御基準点の中から所定の制御基準点を選択するようにしてもよい。この場合、手持ち医療器具21の原点が存在する場所を定義したテンプレートを用意し、術者は行う手術に一番近い配置を選択するだけでよい。また、ロボット座標系に統合できる場合、3次元空間上の任意の点を指定してもよい。このように、制御基準点は必ずしも手持ち医療器具の回転中心に存在する必要はなく、ロボット座標系上の点であれば、用途に応じて選択もしくは計算によって決定することが可能である。
(エンドエフェクタの姿勢制御)
これまでの説明では、エンドエフェクタ13の付け根の位置を制御する例について説明した。しかし、エンドエフェクタは、付け根を基準とした位置の制御に加え、付け根から先の部分の姿勢も考慮することができる。例えば、その先端が常に所定の点を向くような、ロボット座標系における所定の点に対して姿勢が固定されるように制御してもよい。また、単純に関節が固定された状態で被制御点の位置のみを移動するように制御してもよい。
更に、上述した一連の動作を、エンドエフェクタ13の姿勢制御にも応用する例を説明する。エンドエフェクタ13の姿勢を制御するため、モード切替部3は、エンドエフェクタ13の位置を操作するための位置制御モードに加えて、姿勢を操作するための姿勢制御モードを含む。
姿勢制御を行う際に直感的に操作することが可能な制御基準点と被制御点との組み合わせには、例えば、手持ち医療器具21の回転中心とエンドエフェクタ13の先端との組み合わせがあり、以下の説明ではこの組み合わせを例に説明する。しかし、当該組み合わせは、ロボット座標系で規定可能な点の組み合わせであれば、任意である。
姿勢制御モードでは、エンドエフェクタ13の姿勢のみを変更可能にするために、(位置の制御に用いた)エンドエフェクタの他の被制御点(例えば根元の位置)はその位置に固定される。固定される点(固定点)は必ずしも被制御点である必要はないが、エンドエフェクタ13が複数の被制御点を有する場合には、複数の被制御点のうちの1つを現在の制御対象として制御対象を順次変更し、現在の制御対象でない被制御点を固定点としてもよい。どこを固定点とするかはロボットの構成や使用方法によって異なってよく、例えば棒状のシャフトの先端に屈曲関節を持つような医療器具を想定した場合、屈曲関節の中心を固定点とし、そこから先の姿勢のみを制御する。
図4を参照して、姿勢制御モードにおける制御について説明する。姿勢制御モード時にも、基本的な制御の処理は位置制御モードにおける処理と共通である。まず上述したS1~S2が実行済みであると仮定して、制御部4は、S3に代わって姿勢制御モードへの切り替え通知をうけた場合、S4において、モードが切り替わった瞬間における回転中心(制御基準点)から被制御点に向かう基準ベクトルvを計算する。次に、S5において、慣性センサ等から得られた情報を用いて手持ち医療器具21の相対移動量を求め、S5において、ロボットの目標位置pを決定する。
姿勢制御モード時は、固定点によってエンドエフェクタの付け根等が固定されているため、被制御点を目標位置に持って行く制御には物理的な制限がある場合がある。そこで、固定点pから目標位置pに向かうベクトルを計算し、それを目標姿勢vとしてロボットに入力する。このvはロボット座標系上における目標姿勢を表すものである。ロボットはエンドエフェクタの姿勢を自由に制御できるものであるため、結果としてエンドエフェクタの姿勢を、手持ち医療器具21によって直感的に、かつドリフトエラーの影響を抑制して制御することができる。
(ロボット医療器具の姿勢制御の適用例)
ロボット医療器具12の姿勢制御、すなわち、被制御点、固定点及び手持ち医療器具21の回転中心(制御基準点)を用いた制御は、様々な操作に応用可能である。
例えば、図5に示すように、ロボット医療器具12として棒状の医療器具を想定し、ロボットが自由にその姿勢を変更できる場合を考える。この医療器具は外套管14を通して腹腔内に挿入されているため、ロボット側にも腹壁5における回転中心が存在する。上述した固定点をロボット側の回転中心位置に設定し、手持ち医療器具21の制御基準点を仮想的にその固定点に移動し、被制御点として棒状の医療器具の先端を選択する。すると、術者はあたかもロボット側の医療器具を自身の手に持っているかのように操作することが可能となる。なお、この場合、固定点は回転中心としての役割を果たし、直動方向の自由度は許容する。
他の例として、図6に示す、複数の自由度を持つロボット医療器具12を想定することができる。この医療器具はアクチュエータにより任意に形状が変更でき、ロボット座標系においてその医療器具の任意の点は制御可能であるとする。この場合、固定点を先端と、先端から離れたもう一点に設定し、被制御点としてはそれらの固定点の間にある点を選択する。制御基準点は、手持ち医療器具21の実際の回転中心位置としてよい。この例では、障害物等の存在により、移動することが不可能な点は固定しつつも、医療器具の一部分の姿勢を変更することが可能となる。被制御点が物理的に入力値に追従できない場合は、前述の姿勢制御モードの例を応用し、姿勢ベクトルのみを変更してもよい。また、ロボット医療器具12に複数の被制御点を持たせ、複数の被制御点から1つの被制御点を姿勢制御の対象にし、他の被制御点を固定点としてもよい。この場合、制御対象となる被制御点をトグル操作等によって、被制御点と固定点とを順に切り替えながら、姿勢制御を行う。図6の例では、被制御点と固定点2を切り替える。被制御点を順に切り替える際には、姿勢制御モードの開始時間をリセットして設定しなおすようにしてもよい。このようにすれば、ドリフトエラーの影響を低減できる。
上述した被制御点、固定点及び制御基準点は、物理的に実際に存在する点である必要ではなく、目的に応じて仮想的な位置に移動してもよい。また、それらが各々2つ以上存在してもよい。被制御点は、例えば光軸上の点でもよい。例えば、図7に示すように、光軸の向きを変化可能な医療器具をロボット医療器具12として想定する。この場合、固定点は光軸が曲がる起点とし、被制御点は固定点からある距離rだけ離れた光軸上の点を選ぶ。このような構成により、ロボット医療器具12に取り付けられた光学機器における光軸の向きをエンドエフェクタに対する制御と同様に制御することが可能になる。
(他の操作部材を組み合わせたロボット医療器具の操作)
また、他の操作部材を更に組み合わせることにより、関節等を有するような他の形態のエンドエフェクタを直感的に操作することができる。例えば、ロボット医療器具12として、図8に示すような、先端に回転と開閉するジョーの機構を持つ鉗子状の医療器具を想定する。ジョーの機構を持つ医療器具を操作する場合、ジョーの開閉のための専用の入力装置を設ける。例えば、ジョーの機構を開閉するためのスイッチやダイヤル等を、手持ち医療器具21に取り付けるようにすればよい。代わりにフットスイッチや音声で開閉を操作できるようにしてもよい。
先端の回転に関しても、同様にスイッチやダイヤル等の専用の入力装置を設けてもよいが、手持ち医療器具の姿勢情報から制御することも可能である。制御部4は、術者が操作モードをロボット操作モード(位置制御、姿勢制御は問わない)に切り替えたタイミングで、手持ち医療器具21のシャフト周りの回転角及びエンドエフェクタ13の先端の回転角それぞれを0°とする。そして、制御部4は、この状態から手持ち医療器具21をシャフト周りに回転させたときの相対角度を慣性センサによって計測し、その計測値をエンドエフェクタ13の先端の回転角として入力する。これにより、これまで述べた制御方法に加えてエンドエフェクタの先端回転を制御することが可能である。なお、このように制御すれば回転角はドリフトエラーの影響を受けない。
また、上述した実施形態では、位置制御モード及び姿勢制御モードをそれぞれ制御する場合について説明したが、これらの制御モードを並行して実行してもよい。例えば、位置制御モード、姿勢制御モードのどちらかを手持ち医療器具21の挿入角度及び挿入深度とは異なる入力により操作するようにしてもよい。例えば、位置制御モードは上述した手持ち医療器具21の挿入角度及び挿入深度により制御し、同時に、手持ち医療器具に取り付けたスイッチ等の操作部材によってエンドエフェクタ13の姿勢を変更する。このようにすれば、エンドエフェクタの位置制御を手持ち医療器具21の姿勢によって操作し、エンドエフェクタの姿勢制御を手元スイッチから行うこととなり、エンドエフェクタの位置制御と姿勢制御とを同時に行えるという利点がある。なお、操作対象を入れ替えて、エンドエフェクタの位置制御を手元のスイッチ等で行うようにしてもよい。
(ロボットアームのパラメータ設定への適用)
上述の制御は、ロボット医療器具12を操作するために用いるだけではなく、医療器具駆動部11(ロボットアーム)の各種パラメータを変更するための入力装置として用いることもできる。この場合、モード切替部3は、パラメータ変更モードを更に設定可能であり、制御部4は、医療器具駆動部11或いは不揮発性メモリ8からパラメータを取得して、設定されるパラメータを表示部7に表示する。モード切替部3を介してパラメータ変更モードに設定された場合、医療器具駆動部11はその時点の姿勢に固定し、代わりに、医療器具駆動部11に設定される制御パラメータを変更可能にする。変更可能なパラメータには、入力量に対する動作量(モーションスケーリング)の倍率、速度、力、可動範囲の制限等の、操作に関わる全てのパラメータが含まれる。例えば、把持の力を変更する場合の一例を挙げる。パラメータ変更モードが設定された場合、手持ち医療器具21の姿勢は、一般的なボリューム等の入力装置のように扱えるようになる。制御部4は、例えば、手持ち医療器具21をシャフト周りに右回転された場合には把持力を増加させ、逆回転された場合には把持力を減少させる。制御部4は、操作対象のパラメータが変更される様子を表示部7に表示するため、術者(又は操作者)は現在値を把握することができる。表示方法は数値、グラフ、音量、音程、振動の強弱、光の明暗、色等のいずれであってもよい。また、姿勢情報から演算可能な物理量であれば、それを用いてパラメータ変更を行うことができる。例えば、挿入量、傾き、移動速度、回転速度、衝撃を与えるような入力、振動を与えるような入力、手持ち医療器具21の先端で描く特定の図形等、様々な入力方法が考えられる。
(撮像可能なロボット医療器具の直感的操作)
ロボット医療器具として想定される医療器具には、例えば内視鏡のように、医療器具のシャフトの先端付近に光学部品(例えばレンズや光ファイバ)を取り付け、当該光学部品から入射した被写体光を撮像して画像信号を出力するものがある。このような医療器具は、医療器具のシャフトの中心軸と光学部品の光軸とが一致するものだけでなく、斜視鏡や、先端が屈曲する内視鏡のように、ロボット医療器具12のシャフトの方向と光軸の方向が異なるものも多い。なお、以下の説明における光学部品は、ロボット医療器具12の鏡筒の外部からの光を鏡筒内に入射させる位置にある光学部品(すなわち対物側の部分)を指すものとする。
このような内視鏡を、図5において説明した固定点と被制御点を用いた制御により、術者があたかもロボット医療器具12を自ら握っているかのように操作する場合について考える。すなわち、ロボット医療器具12の腹壁5における回転中心を固定点に設定するとともに、手持ち医療器具21の制御基準点を仮想的にこの固定点の位置として、ロボット医療器具12のシャフト先端にある被制御点(光学部品の取り付け位置)を制御する。このとき、ロボット医療器具12のシャフト先端に取り付けられた光学部品は、その光軸の向きがシャフトの中心軸に対して所定の角度をもって固定されている。
術者がロボット医療器具12を操作する状況を図10を参照して説明する。図10は、ロボット医療器具12のシャフトの中心軸に対して光軸が傾いた状態の光学部品を用いて、腹壁内の物体を被写体として撮影する様子を示している。この図では、光学部品の光軸が物体に向いており、ロボット医療器具12のシャフトの中心軸方向には物体は存在しない。このような状況において、例えば、術者が手持ち医療器具21を操作して、ロボット医療器具12上の仮想的な握り位置101を位置102に(スライドさせるように)移動させた場合、光学部品を介して撮影される内視鏡映像は、ズームアウトするように内視鏡映像103から104に変化する。従って、術者による操作の方向と内視鏡映像の変化する方向とに大きなずれが生じており、そのずれが大きい場合には操作に違和感を生じさせる場合がある。
そこで、術者による手持ち術具に対する操作方向と映像の変化する方向のずれを低減するために、術者が、光軸を共有する仮想的な棒を握って光軸の方向を操作しているかのようにロボット医療器具12を制御できるようにする。すなわち、術者が腹壁の回転中心を基点に手持ち医療器具21をスライドさせるように操作した場合には、内視鏡映像がその操作方向に合わせてパンニングするようにロボット医療器具12を制御する。
具体的には、光学部品の姿勢を規定するカメラ座標系とロボット座標系とをキャリブレーションによって統合したうえで、光学部品の位置(すなわち被制御点)を通り、光学部品の光軸の方向と略同一となる仮想的な棒の方向を決定する。そして、決定した仮想的な棒の軸上に固定点を設定し、当該固定点を基点として被制御点の位置を術者の操作に応じて制御する。なお、仮想的な棒の軸上に設定する固定点は制御基準点でもある。
キャリブレーションは、まず、撮影対象の物体を含む内視鏡映像を表示部7に表示させる。このとき、物体の特定の位置(例えば物体の中心)が画面中心となるようにロボット医療器具12の姿勢を決める。そして、制御部4は、この状態でロボット座標系における光学部品の位置(内視鏡先端の位置)を記録する。次に、撮影される物体の大きさが変化(すなわちズームイン・ズームアウトした状態)になるように、手動でロボット医療器具12の姿勢を変化させて、その状態における光学部品の位置を記録する。このとき、上記物体の特定の位置は概ね画面中心になるようにする。ここで、概ね画面中心とするのは、光軸の方向がロボット医療器具12のシャフトの中心軸に対して固定されているため、厳密には物体の特定の位置が画面中心にならない場合があるためである。しかし、記録した2つの位置の距離が短い場合、図10のロボット医療器具12の先端位置に示すように、記録した2つの位置を通る直線は光学部品の光軸の方向とほぼ同一であると近似できる。従って、当該直線を、光軸を共有する仮想的な棒として決定することができる。一般的には、画面の水平方向は地面に対して並行とするため、光軸回りの姿勢は決定される。またカメラ座標系の原点は内視鏡の先端にほぼ一致するため、ロボット座標系から見たカメラ座標系の位置姿勢が求まることとなる。
なお、内視鏡映像を用いて行うキャリブレーションは、カメラ座標系とロボット座標系が統合されていないロボット医療器具12を用いる場合に必要であるが、予めこれらの座標系の間の変換行列等が求められる状況であれば、他の方法で座標系を統一してもよい。また、先端が屈曲するような自由度を持つ内視鏡の場合、先端の屈曲が変化すれば、カメラ座標系とロボット座標系の対応関係が変化する。このような場合であっても、上記のキャリブレーションを、屈曲角を変更するごとに行えば、この方法を適用可能である。また、先端の屈曲角を求められるセンサを用いてカメラ座標系とロボット座標系を統合することも可能である。
次に、求めたカメラ座標系の位置姿勢を制御するために、被制御点を光学部品の位置(カメラ座標系の原点)に設定する。これは前述のように例えば内視鏡の先端位置である。固定点は、図11に示すように、仮想的な棒上に設定し、カメラ座標系の原点と内視鏡の腹壁における回転中心との距離(L)だけオフセットした位置とする。また、手持ち医療器具の制御基準点の位置を、求めた固定点の位置に設定する。このような被制御点、固定点の設定をすることで、光学部品の光軸が術具のシャフトに対してどのような方向を向いていても、光学部品の光軸と共通する方向の仮想的な棒を直接持って動かしているかのような直感的な操作が可能となる。なお、被制御点と固定点の設定は、基本的には位置制御モード或いは姿勢制御モードに移った時点で行えばよい。また、上述の例では、ロボット医療器具12がそのシャフトの先端に光学部品のみを備える例を説明したが、当該光学部品が撮像素子と一体化された構成であってもよい。更に、被制御点及び固定点の位置は必ずしも上述の位置である必要はなく、当該2つの点の距離をあえて遠ざけたり近づけたりして、仮想的な棒のふり幅の大きさを変更するようにしてもよい。
なお、上述した実施形態では、ドリフトエラーが発生するような位置姿勢計測装置22を用いてエンドエフェクタの姿勢を直感的に操作する例について説明したが、当該操作は、絶対位置を取得可能な位置姿勢計測装置22を用いても実現可能である。
また、上述した実施形態は、上述したシステム又は装置のコンピュータにおけるプロセッサがネットワークを介して取得したプログラムを読出し実行することによっても実現可能である。
本発明は上記実施の形態に制限されるものではなく、本発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、本発明の範囲を公にするために、以下の請求項を添付する。
本願は、2017年1月13日提出の日本国特許出願特願2017-004566を基礎として優先権を主張するものであり、その記載内容の全てを、ここに援用する。

Claims (6)

  1. 体腔に挿入され且つ機械的に駆動される第1の術具の姿勢を制御する手術支援装置であって、
    処置のために前記体腔に挿入される第2の術具のシャフトの前記体腔への挿入角度と挿入深度とを計測する計測手段と、
    先端に光学部品が取り付けられた前記第1の術具の姿勢を制御するために、前記第1の術具の姿勢を特定するための被制御点であって術者による制御対象である前記被制御点の目標位置を、前記計測手段による計測結果に基づいて決定する演算手段と、を有し、
    前記被制御点と、位置が変化しないように固定される固定点とが前記光学部品の光軸の方向と略同一の方向を有する仮想的な軸上に配置されると共に、前記被制御点は前記光学部品の位置である前記仮想的な軸上の位置に配置され、前記固定点は、所定の基準時刻において所定の距離だけ前記被制御点から離れた前記仮想的な軸上の位置に配置され
    前記演算手段は、計測された前記挿入角度及び前記挿入深度の前記所定の基準時刻からの変化量に応じて、前記固定点を基点とする前記被制御点の位置を求めることにより、前記被制御点の目標位置を決定
    前記所定の基準時刻は、処置のために前記第2の術具を用いる第1モードと前記第1の術具を制御するために前記第2の術具を用いる第2モードとを切り替える切替手段により、前記第2モードが開始される時刻である、ことを特徴とする手術支援装置。
  2. 前記仮想的な軸上の前記固定点の位置は、前記第1の術具の前記体腔への挿入角度を計測するための回転中心の位置から前記被制御点までの距離だけ、前記仮想的な軸上を前記被制御点から離れた位置にある、ことを特徴とする請求項1に記載の手術支援装置。
  3. 前記演算手段は、前記体腔内の所定の被写体が前記光学部品を介して異なる大きさで撮影されるようにした前記第1の術具の複数の姿勢に基づいて、前記仮想的な軸の向きを求める、ことを特徴とする、請求項1又は2に記載の手術支援装置。
  4. 体腔に挿入され且つ機械的に駆動される第1の術具の姿勢を制御する手術支援装置の制御方法であって、
    計測手段が、処置のために前記体腔に挿入される第2の術具のシャフトの前記体腔への挿入角度と挿入深度とを計測する計測工程と、
    演算手段が、先端に光学部品が取り付けられた前記第1の術具の姿勢を制御するために、前記第1の術具の姿勢を特定するための被制御点であって術者による制御対象である前記被制御点の目標位置を、前記計測手段による計測結果に基づいて決定する演算工程と、を有し、
    前記被制御点と、位置が変化しないように固定される固定点とが前記光学部品の光軸の方向と略同一の方向を有する仮想的な軸上に配置されると共に、前記被制御点は前記光学部品の位置である前記仮想的な軸上の位置に配置され、前記固定点は、所定の基準時刻において所定の距離だけ前記被制御点から離れた前記仮想的な軸上の位置に配置され
    前記演算工程では、計測された前記挿入角度及び前記挿入深度の前記所定の基準時刻からの変化量に応じて、前記固定点を基点とする前記被制御点の位置を求めることにより、前記被制御点の目標位置を決定
    前記所定の基準時刻は、処置のために前記第2の術具を用いる第1モードと前記第1の術具を制御するために前記第2の術具を用いる第2モードとを切り替える切替手段により、前記第2モードが開始される時刻である、ことを特徴とする手術支援装置の制御方法。
  5. コンピュータを、請求項1からのいずれか1項に記載の手術支援装置の各手段として機能させるためのプログラム。
  6. 手術支援装置と医療器具駆動装置とを含む手術支援システムであって、
    前記手術支援装置は、体腔に挿入され且つ機械的に駆動される第1の術具の姿勢を制御する、前記手術支援装置であって、
    処置のために前記体腔に挿入される第2の術具のシャフトの前記体腔への挿入角度と挿入深度とを計測する計測手段と、
    先端に光学部品が取り付けられた前記第1の術具の姿勢を制御するために、前記第1の術具の姿勢を特定するための被制御点であって術者による制御対象である前記被制御点の目標位置を、前記計測手段による計測結果に基づいて決定する演算手段と、を有し、
    前記被制御点と、位置が変化しないように固定される固定点とが前記光学部品の光軸の方向と略同一の方向を有する仮想的な軸上に配置されると共に、前記被制御点は前記光学部品の位置である前記仮想的な軸上の位置に配置され、前記固定点は、所定の基準時刻において所定の距離だけ前記被制御点から離れた前記仮想的な軸上の位置に配置され
    前記演算手段は、計測された前記挿入角度及び前記挿入深度の前記所定の基準時刻からの変化量に応じて、前記固定点を基点とする前記被制御点の位置を求めることにより、前記被制御点の目標位置を決定し、
    前記所定の基準時刻は、処置のために前記第2の術具を用いる第1モードと前記第1の術具を制御するために前記第2の術具を用いる第2モードとを切り替える切替手段により、前記第2モードが開始される時刻であり、
    前記医療器具駆動装置は、
    前記第1の術具の前記被制御点の位置が、前記手術支援装置の前記演算手段によって決定された前記被制御点の目標位置となるように前記第1の術具の姿勢を制御する駆動手段と、を有する、ことを特徴とする手術支援システム。
JP2018561788A 2017-01-13 2017-06-02 手術支援装置、その制御方法、プログラム並びに手術支援システム Active JP7022400B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021179283A JP7229319B2 (ja) 2017-01-13 2021-11-02 手術支援装置、その制御方法、プログラム並びに手術支援システム

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017004566 2017-01-13
JP2017004566 2017-01-13
PCT/JP2017/020699 WO2018131188A1 (ja) 2017-01-13 2017-06-02 手術支援装置、その制御方法、プログラム並びに手術支援システム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021179283A Division JP7229319B2 (ja) 2017-01-13 2021-11-02 手術支援装置、その制御方法、プログラム並びに手術支援システム

Publications (2)

Publication Number Publication Date
JPWO2018131188A1 JPWO2018131188A1 (ja) 2019-11-07
JP7022400B2 true JP7022400B2 (ja) 2022-02-18

Family

ID=62840073

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2018561788A Active JP7022400B2 (ja) 2017-01-13 2017-06-02 手術支援装置、その制御方法、プログラム並びに手術支援システム
JP2021179283A Active JP7229319B2 (ja) 2017-01-13 2021-11-02 手術支援装置、その制御方法、プログラム並びに手術支援システム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2021179283A Active JP7229319B2 (ja) 2017-01-13 2021-11-02 手術支援装置、その制御方法、プログラム並びに手術支援システム

Country Status (6)

Country Link
US (1) US11406460B2 (ja)
EP (1) EP3569180A4 (ja)
JP (2) JP7022400B2 (ja)
KR (2) KR102222124B1 (ja)
CN (1) CN110225720B (ja)
WO (1) WO2018131188A1 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140005640A1 (en) 2012-06-28 2014-01-02 Ethicon Endo-Surgery, Inc. Surgical end effector jaw and electrode configurations
WO2020070883A1 (ja) * 2018-10-05 2020-04-09 オリンパス株式会社 内視鏡システム
JP6469304B1 (ja) * 2018-10-23 2019-02-13 株式会社A−Traction 手術支援装置、その制御方法及びプログラム
US11612445B2 (en) * 2019-06-27 2023-03-28 Cilag Gmbh International Cooperative operation of robotic arms
US11547468B2 (en) 2019-06-27 2023-01-10 Cilag Gmbh International Robotic surgical system with safety and cooperative sensing control
US11607278B2 (en) 2019-06-27 2023-03-21 Cilag Gmbh International Cooperative robotic surgical systems
US11723729B2 (en) 2019-06-27 2023-08-15 Cilag Gmbh International Robotic surgical assembly coupling safety mechanisms
US11399906B2 (en) 2019-06-27 2022-08-02 Cilag Gmbh International Robotic surgical system for controlling close operation of end-effectors
US11413102B2 (en) 2019-06-27 2022-08-16 Cilag Gmbh International Multi-access port for surgical robotic systems
CN111012289A (zh) * 2019-12-24 2020-04-17 西安申兆光电科技有限公司 一种弯曲形状检测装置、检测方法以及内窥镜系统
KR102585785B1 (ko) * 2021-05-31 2023-10-13 한국기계연구원 절대거리 측정 기반 다변측정시스템 및 이를 이용한 다변측정방법
US11974829B2 (en) 2021-06-30 2024-05-07 Cilag Gmbh International Link-driven articulation device for a surgical device
US11931026B2 (en) 2021-06-30 2024-03-19 Cilag Gmbh International Staple cartridge replacement
CN113547515B (zh) * 2021-07-16 2022-07-12 华中科技大学 一种基于超声伺服手术机器人的坐标标定方法
CN114504385A (zh) * 2022-01-18 2022-05-17 上海术航机器人有限公司 手术机器人末端姿态调整方法、系统、设备和介质
DE102022118328A1 (de) 2022-07-21 2024-02-01 Karl Storz Se & Co. Kg Steuervorrichtung und System

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003127076A (ja) 1993-12-28 2003-05-08 Olympus Optical Co Ltd 医療器具
JP2007301378A (ja) 2006-05-11 2007-11-22 Olympus Medical Systems Corp 治療システム及びトラカール並びに治療システムの制御方法
WO2015119012A1 (ja) 2014-02-07 2015-08-13 オリンパス株式会社 手術システムおよび手術システムの作動方法

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3532660B2 (ja) * 1995-06-09 2004-05-31 オリンパス株式会社 体腔内観察装置
US20080125794A1 (en) * 1998-02-24 2008-05-29 Hansen Medical, Inc. Surgical instrument
DE10025285A1 (de) * 2000-05-22 2001-12-06 Siemens Ag Vollautomatische, robotergestützte Kameraführung unter Verwendung von Positionssensoren für laparoskopische Eingriffe
JP4656700B2 (ja) * 2000-07-11 2011-03-23 オリンパス株式会社 内視鏡外科手術システム
EP2289454B1 (en) * 2005-06-06 2020-03-25 Intuitive Surgical Operations, Inc. Laparoscopic ultrasound robotic surgical system
US8560047B2 (en) * 2006-06-16 2013-10-15 Board Of Regents Of The University Of Nebraska Method and apparatus for computer aided surgery
WO2009036367A1 (en) * 2007-09-13 2009-03-19 Transcorp, Inc. Transcorporeal spinal decompression and repair system and related method
JP5014941B2 (ja) * 2007-10-02 2012-08-29 オリンパスメディカルシステムズ株式会社 内視鏡形状解析装置
JP5380348B2 (ja) * 2010-03-31 2014-01-08 富士フイルム株式会社 内視鏡観察を支援するシステムおよび方法、並びに、装置およびプログラム
EP2577642A4 (en) * 2010-05-26 2016-06-08 Health Research Inc METHOD AND SYSTEM FOR EXERCISING MINIMALLY INVASIVE SURGICAL PROCEDURES BY TRACKING DATA
JP2013202313A (ja) * 2012-03-29 2013-10-07 Panasonic Corp 手術支援装置および手術支援プログラム
JP6323974B2 (ja) * 2012-05-18 2018-05-16 オリンパス株式会社 手術支援装置
EP2854691B1 (en) * 2012-06-01 2021-11-17 Intuitive Surgical Operations, Inc. Redundant axis and degree of freedom for hardware-constrained remote center robotic manipulator
JP6120715B2 (ja) * 2013-07-26 2017-04-26 オリンパス株式会社 医療システム
JP6278737B2 (ja) * 2014-02-26 2018-02-14 オリンパス株式会社 医療用システムの作動方法
JP2016002445A (ja) * 2014-06-18 2016-01-12 株式会社システム・ジェーピー 手術器具位置姿勢計測装置
US10314463B2 (en) * 2014-10-24 2019-06-11 Auris Health, Inc. Automated endoscope calibration
EP3256811B1 (en) * 2015-02-13 2021-09-15 Think Surgical, Inc. Laser gauge for robotic calibration and monitoring
US11020144B2 (en) * 2015-07-21 2021-06-01 3Dintegrated Aps Minimally invasive surgery system
CN205411945U (zh) * 2015-11-10 2016-08-03 康健 皮肤激光治疗辅助机器人
US11246670B2 (en) * 2016-08-16 2022-02-15 Cilag Gmbh International Modular surgical robotic tool
US10993760B2 (en) * 2016-08-16 2021-05-04 Ethicon, Llc Modular surgical robotic tool
US10973585B2 (en) * 2016-09-21 2021-04-13 Alcon Inc. Systems and methods for tracking the orientation of surgical tools
JP6213646B2 (ja) 2016-09-30 2017-10-18 株式会社Jvcケンウッド 報知機器、及び、報知方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003127076A (ja) 1993-12-28 2003-05-08 Olympus Optical Co Ltd 医療器具
JP2007301378A (ja) 2006-05-11 2007-11-22 Olympus Medical Systems Corp 治療システム及びトラカール並びに治療システムの制御方法
WO2015119012A1 (ja) 2014-02-07 2015-08-13 オリンパス株式会社 手術システムおよび手術システムの作動方法

Also Published As

Publication number Publication date
EP3569180A4 (en) 2020-01-08
KR20210024212A (ko) 2021-03-04
KR102222124B1 (ko) 2021-03-03
WO2018131188A1 (ja) 2018-07-19
US20190328469A1 (en) 2019-10-31
KR102345763B1 (ko) 2022-01-03
US11406460B2 (en) 2022-08-09
JP7229319B2 (ja) 2023-02-27
CN110225720A (zh) 2019-09-10
KR20190099280A (ko) 2019-08-26
CN110225720B (zh) 2022-12-16
JP2022023201A (ja) 2022-02-07
EP3569180A1 (en) 2019-11-20
JPWO2018131188A1 (ja) 2019-11-07

Similar Documents

Publication Publication Date Title
JP7022400B2 (ja) 手術支援装置、その制御方法、プログラム並びに手術支援システム
JP6091410B2 (ja) 内視鏡装置の作動方法及び内視鏡システム
JP6270537B2 (ja) 医療用システム
US9439733B2 (en) Surgical robot system
JP6072283B2 (ja) 医療用マニピュレータおよび医療用マニピュレータの作動方法
JP5384108B2 (ja) 遠隔操作システム
US10638915B2 (en) System for moving first insertable instrument and second insertable instrument, controller, and computer-readable storage device
KR20140110685A (ko) 싱글 포트 수술 로봇의 제어 방법
JP6149175B1 (ja) 手術支援装置、その制御方法、プログラム並びに手術支援システム
US20180193103A1 (en) Medical system
KR101284087B1 (ko) 시각센서를 이용한 수술용 로봇, 그 수술용 로봇의 위치 및 각도 분석방법, 그 수술용 로봇의 제어방법, 그 수술용 로봇의 위치 및 각도 분석시스템 및 그 수술용 로봇의 제어 시스템
JP6388686B2 (ja) 手術支援装置、その制御方法、プログラム並びに手術支援システム
WO2018150489A1 (ja) 手術器具の動作方法、ロボット手術システム、及びカメラ座標とロボットに関する座標との関係の推定プログラム
JP6150968B1 (ja) 内視鏡システム
US11890062B2 (en) Estimation device, estimation method, and program
WO2017169143A1 (ja) 情報処理装置、情報処理方法及びキャリブレーションシステム
EP3829826A1 (en) Systems and methods for controlling a robotic manipulator or associated tool

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200529

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210305

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20210430

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210702

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210806

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211104

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20211104

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20211130

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20211203

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220106

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220127

R150 Certificate of patent or registration of utility model

Ref document number: 7022400

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150