JP3766805B2 - Surgery support device - Google Patents

Surgery support device Download PDF

Info

Publication number
JP3766805B2
JP3766805B2 JP2002072903A JP2002072903A JP3766805B2 JP 3766805 B2 JP3766805 B2 JP 3766805B2 JP 2002072903 A JP2002072903 A JP 2002072903A JP 2002072903 A JP2002072903 A JP 2002072903A JP 3766805 B2 JP3766805 B2 JP 3766805B2
Authority
JP
Japan
Prior art keywords
manipulator
orientation
observation
manipulators
coordinate system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002072903A
Other languages
Japanese (ja)
Other versions
JP2003265500A (en
Inventor
幸司 西澤
不二夫 田島
宏亮 岸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2002072903A priority Critical patent/JP3766805B2/en
Publication of JP2003265500A publication Critical patent/JP2003265500A/en
Application granted granted Critical
Publication of JP3766805B2 publication Critical patent/JP3766805B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/70Manipulators specially adapted for use in surgery
    • A61B34/72Micromanipulators

Description

【0001】
【発明の属する技術分野】
本発明は、手術支援装置に係わり、特にマニピュレータを操作手段により操作する手術支援装置に好適なものである。
【0002】
【従来の技術】
従来の手術支援装置として、特開平7−328016号公報(特にその図27および図28を参照した第8実施例の説明)に示されているように、操作者が操作する操作手段と、操作手段の操作に基づいて動作するマニピュレータと、マニピュレータの動作を観察する観察手段と、観察手段で観察したマニピュレータ映像を表示する表示手段と、マニピュレータの動作を制御する制御装置とを備え、観察手段によりマニピュレータを観察し、また、表示手段の画面内にマニピュレータの先端に設定されたツール座標系をスーパインポーズさせ、操作手段にはツール座標系の座標軸に対応して移動させる機能を設けるようにしたことにより、表示手段の画面内に表示されるツール座標系を見ながら種々の操作手段によりそれの操作を容易にできるようにしたものがある。
【0003】
【発明が解決しようとする課題】
一般に、手術中の患者の姿勢は、体格や治療部位、患部および患部周辺の状況などにより個人差がある。治療にマニピュレータを用いる場合、マニピュレータを患者に対してどのような位置に配置するか、どのような姿勢で患部にアプローチするかは、患者との干渉を避け、周囲の臓器との干渉を避け、安全にかつ作業しやすい姿勢となるように決定されるため、患者ごとにマニピュレータの配置および姿勢が異なることになる。
【0004】
また、手術室内には様々な器具が置かれ、大勢のスタッフが手術室内を動き回りながら手術をサポートすることが多い。このため、マニピュレータを操作するための操作手段は、手術室内で患者および他の医療器具、医療スタッフの作業の邪魔にならない場所に配置されると共に、手術に対応して配置場所が変更できることが望まれる。
【0005】
操作手段を用いてマニピュレータを操作する場合、操作手段を操作した方向とマニピュレータが動作する方向とがずれていると、操作者の意図を正確に反映したマニピュレータの動作を実現することが困難であり、操作する方向と動作する方向が手術ごとに変ってしまうような状況では、操作者の負担が大きくなり、安全で効果的な治療の実現が難しい。
【0006】
マニピュレータに装備する処置具が治療する様子を肉眼で確認しながらマニピュレータを操作する場合と、内視鏡などの観察手段を用いて画像情報を表示手段に表示して治療および動作の様子を確認しながらマニピュレータを操作する場合がある。
【0007】
特に近年では、患者の肉体的な負担を低減するために、患者の身体に小さな切開部を設け、そこから術具や内視鏡を挿入し、患部の様子および術具の様子を内視鏡の画像で確認しながら治療を行なう術式が広まっている。マニピュレータを用いる治療においても同様に、小さな切開部からマニピュレータを挿入し、内視鏡画像を参照しながら操作して治療を行なう術式が患者の肉体的負担を低減するためには好ましい。
【0008】
このような状況下で、患者に対するマニピュレータの配置、複数のマニピュレータの相対関係、内視鏡とマニピュレータとの相対関係などが患者ごとに異なり、マニピュレータとそれを操作する操作手段の相対関係も異なるようにすることが望ましい。そして、操作者の操作で動作するマニピュレータを備えた手術支援装置おいて、表示手段に表示される画像でマニピュレータと患部の様子を観察しながら、術者の意志を正確に反映したマニピュレータの動作を容易に実現できることが望ましい。
【0009】
ところが、上述した従来技術では、表示手段に表示されるマニピュレータ映像の先端に設定されたツール座標系を見ながら操作手段により操作できることが示されているが、このツール座標系と操作手段の座標系とが当該公報の図28に示されているように異なるため、操作手段の操作方向に一致してマニピュレータ映像を動作させることができなかった。換言すれば、当該公報に記載されたものでは、観察手段、マニピュレータ、操作手段、表示手段などがそれぞれ任意に置かれた場合に、表示手段に表示されるマニピュレータ映像の動作方向と操作手段を操作する方向とを一致させることには配慮が為されていなかった。
【0010】
このため、係る従来技術では、操作手段、マニピュレータ、観察手段などの構成要素が任意に配置される環境での操作性に問題があった。
【0012】
本発明の目的は、マニピュレータおよび操作手段を任意の場所に配置しても表示手段を見ながら操作手段を容易に操作でき、安全性、作業性および操作性に優れた手術支援装置を提供することにある。
【0014】
なお、本発明のその他の目的と有利点は以下の記述から明らかにされる。
【0016】
【課題を解決するための手段】
記目的を達成するための本発明の手術支援装置は、操作者が操作指令を入力するために操作する操作手段と、処置具が設けられ且つ制御指令に基づいて動作するマニピュレータと、前記マニピュレータの動作を観察する観察手段と、前記観察手段で観察したマニピュレータの映像を画面に表示する表示手段と、前記操作手段および前記マニピュレータの位置姿勢を計測する位置姿勢計測手段と、前記マニピュレータの動作を制御する制御装置とを備えた手術支援装置において、前記制御装置は、前記操作手段で入力された操作指令前記位置姿勢計測手段で計測された前記操作手段前記マニピュレータおよび前記観察手段それぞれの動作の基点となる位置を原点とした座標系で表す位置姿勢に基づいて、前記操作手段の操作方向と前記観察手段で観察されて前記表示手段に表示されマニピュレータの処置具の映像の動作方向とを一致させる制御指令を生成する変換部を有する構成にしたことにある。
【0018】
【発明の実施の形態】
以下、本発明の実施形態を図に基づいて説明する。
【0019】
まず、本実施例の手術支援装置の全体構成を図1を参照しながら説明する。図1は本発明の一実施例を示す手術支援装置の斜視図である。
【0020】
手術支援装置は、操作者が操作指令を入力するために操作する操作手段8、9と、制御指令に基づいて動作するマニピュレータ3〜5と、マニピュレータ4、5の動作を観察する観察手段6と、観察手段6で観察したマニピュレータ映像を画面に表示する表示手段10と、操作手段7〜9(操作手段7は図2参照)およびマニピュレータ3〜5の位置姿勢を計測する位置姿勢計測手段14と、マニピュレータ3〜5の動作および表示手段10の表示を制御する制御装置32(図2参照)とを備えて構成されている。
【0021】
マニピュレータ3の先端には内視鏡のように画像情報の提供が可能な観察手段6が設けられ、マニピュレータの一部として構成されている。マニピュレータ4、5の先端には術具のような処置具11、12が設けられている。マニピュレータ4、5は手術台2に横たわる患者1の患部に対して処置可能に配置されている。マニピュレータ3は患部の様子や処置具11、12の様子が観察できるように配置されている。本実施例では、マニピュレータ3が患者の頭部側に配置されると共に、マニピュレータ4、5が患者の両側に配置されている。
【0022】
操作者が操作する操作手段8、9と、観察手段6が得た情報を画面に表示可能な表示手段10と、が操作卓13に設けられている。操作手段8はマニピュレータ4の動作を制御するものであり、操作手段9はマニピュレータ5の動作を制御するものである。この両者8、9は操作卓13上に並置されている。そして、表示手段10は操作手段8、9に対向するように操作卓13上に設置されている。本実施例では、操作卓13は患者の足元側に配置されている。
【0023】
各マニピュレータ3〜5、操作手段7〜9および表示手段10の位置姿勢を計測するための位置姿勢計測手段14は、それぞれの装置の計測が可能な場所に配置されている。本実施例では、位置姿勢計測手段14は患者の頭部側に配置されている。この位置姿勢計測手段14が計測対象の位置姿勢を計測するための補助部品である識別手段15は、それぞれの計測対象であるマニピュレータ3〜5、表示手段10、操作手段7〜9に設けられている。したがって、識別手段15は位置姿勢計測手段の一部を構成する。
【0024】
同調指示手段21は、操作手段7〜9からの操作指令をマニピュレータに伝えることを指示するためのものであり、操作者が操作可能な場所に配置されている。本実施例では、一例としてスイッチを用いた同調指示手段21を示している。
【0025】
マニピュレータ3〜5のそれぞれの相対的な配置の関係は任意に設定可能である。操作卓上の表示手段10および操作手段8、9の配置も任意に設定可能であり、これらはマニピュレータの配置との関係においても任意に設定可能である。すなわち、これらマニピュレータ3〜5、表示手段10、操作手段8、9および操作卓13の配置は自由に変更可能である。
【0026】
観察手段6および処置具11、12の位置姿勢はマニピュレータ3〜5によって制御される。操作者は表示手段10に表示されるマニピュレータ4、5やその先端の処置具11、12を見ながら操作手段8、9を操作し、操作手段8、9に入力された指示を元にマニピュレータ4、5が動作して、患部を処置する。マニピュレータ3は別の操作手段7からの指示によって観察手段6の位置姿勢を制御可能である。
【0027】
次に、手術支援装置の制御構成を図2を参照しながら説明する。図2は図1の手術支援装置の制御ブロック図である。
【0028】
操作手段7〜9、同調指示手段21および位置姿勢計測手段14は、制御装置32に信号伝達可能に接続されている。これによって、操作手段7〜9、同調指示手段21および位置姿勢計測手段14から制御装置32に操作情報、同調情報および計測結果情報が入力される。また、マニピュレータ3〜5および表示手段10は、信号伝達可能に制御装置32に接続されている。これによって、制御装置32からマニピュレータ3〜5および表示手段10に制御情報が出力される。制御装置32はマイクロコンピュータなどのコンピュータにより構成されている。
【0029】
制御装置32内で実行される制御プログラムは、変換行列算出部24と、操作同調制御部34と、座標変換部35とを有して構成されている。変換行列算出部24は、位置姿勢計測手段14からの計測結果情報23に基づいて、操作方向から動作方向を算出するための変換行列を算出する手段である。同調制御部34は、操作手段8、9の指示に従い、マニピュレータ4、5を動作させるかどうかを場合分けする手段である。座標変換部35は、変換行列算出部24で算出した変換行列を用いて、操作方向から動作方向を算出する手段である。
【0030】
位置姿勢計測手段14から得られる計測結果情報23は変換行列算出部24に入力され、変換行列算出部24からの出力である座標変換行列は座標変換部35に入力される。操作手段7〜9からの操作情報31はマニピュレータ3〜5を動作させるか否か場合分けする同調制御部34に入力され、同調制御部34からの出力は座標変換部35に入力される。座標変換部35からの出力である動作方向に関する制御情報36はマニピュレータ4、5に入力される。制御装置32内での接続は電気信号および制御プログラム内の変数受け渡しとして構成されることになる。
【0031】
図1および図3を参照しながら各マニピュレータ3〜5、操作手段8、9および表示手段10の位置姿勢について説明する。図3は処置具および観察手段の座標系の説明図である。
【0032】
各マニピュレータ3〜5の姿勢は、それぞれ動作の基点となる位置を原点とした座標系ΣS17で定義する。観察手段6の姿勢は、観察手段6の先端で観察する視野内の空間を座標系ΣE19で定義する。操作手段7〜9の姿勢は、操作の基点となる位置を原点とした座標系ΣM20で定義する。表示手段10姿勢は、表示手段10の表示面の向きとして、表示面を基点とした座標系ΣD18で定義する。なお、マニピュレータ3〜5、観察手段6、操作手段7〜9、表示手段10がそれぞれ複数ある場合は、それぞれの姿勢をそれぞれの座標系で定義する。
【0033】
各座標系の軸方向を、実施例の説明上、図1、図3に示すように仮定する。つまり、座標系ΣSでは、マニピュレータの長手方向をZS方向、鉛直上方をYS方向、ZS方向を向いて右側をXS方向と定義する。座標系ΣMでは、操作手段の奥行き方向をZM方向、鉛直上方をYM方向、ZM方向を向いて右側をXM方向と定義する。座標系ΣEでは、観察手段6の長手方向、つまり、撮影する画像の奥行き方向をZE方向、ZE方向を向いて視野の上方をYE方向、ZE方向を向いて視野の右方向をXE方向と定義する。座標系ΣDでは、表示手段10の画面奥をZD方向、画面上方をYD方向、画面右方向をXD方向と定義する。座標間の回転行列が得られれば結果として同じになるので、座標系の軸方向の定義は上記とまったく同じでなくともよい。
【0034】
図1の表示手段10の画面内に示した座標系は観察手段6の視野内に投影した座標系ΣE19の向きを示している。この実施例では視野内に投影した座標系ΣE19と座標系ΣDの各座標軸の向きは一致している。
【0035】
各マニピュレータ3〜5の運動学を解くことによって、それぞれの先端に装備した観察手段6および処置具11、12の、各座標系ΣSにおける位置姿勢を特定することが可能である。運動学を用いてそれぞれのマニピュレータ3〜5の座標系ΣSにおける先端の位置姿勢を特定するのは通常行なわれる一般的な手法である。
【0036】
観察手段6および処置具11、12を特定の方向に動作させるためのマニピュレータ3〜5の各自由度の動作方向および動作量は、各マニピュレータ3〜5の逆運動学を解くことによって、算出することが可能である。マニピュレータ先端に意図する動作を実行させるために、逆運動学を用いて、各自由度の動作方向および動作量を算出することが可能である。
【0037】
各マニピュレータ座標系ΣS17の空間における三次元的な位置姿勢は、位置姿勢計測手段14の一例である三次元位置計測装置(三次元運動計測装置とも呼ばれる)を用いることで計測可能である。その計測の方式は、既知のパターンで配置された複数の発光体を有するマーカーセットを識別手段15として、マニピュレータ3〜5を操作することによっても動作しないマニピュレータ3〜5の座標原点などの基点に取付け、三次元位置計測装置14がある位置からそれぞれの発光体を計測し、複数の発光体の配置から識別手段15の位置と姿勢を算出する方法である。これにより、識別手段15の位置姿勢を特定し、ひいてはマニピュレータ座標系ΣSの位置姿勢を算出することが可能となる。なお、発光体の代わりに反射体を用いてもよい。
【0038】
図4を参照しながら識別手段15の取付例を説明する。図4は識別手段の取付例を示す分解斜視図である。図4では計測対象をマニピュレータ3として説明を行なうが、他の計測対象も同様の取付構成である。
【0039】
マニピュレータ3は識別手段15を所定の位置姿勢に固定するための装備部22を有する。識別手段15は複数の発光体169が識別部材168に固定されてなる。識別手段15と装備部22の間に挟まれて結合される部位を中間リンク部と呼ぶことにする。
【0040】
マニピュレータ3の一部を構成する装備部22には複数の凸部155が設けられている。これらと結合される結合部材151には、凸部155と嵌め合う複数の凹部156が設けられている。凸部155と凹部156とが一つの場合は、上下左右が非対称となる形状とすることが好ましい。凸部155と凹部155が複数ある場合は、それらを異なる形状として、結合時に表裏を間違えた結合を防ぐことが好ましい。また同形状の凹凸である時は、三つ以上の凹凸を設け、組み合わせになる凹凸の組同士の間の距離を変えることで、結合時の間違いを防ぐことができる。結合した時の位置と姿勢が一意に決まる形状であれば、図4で示したような凹凸形状でなくてもかまわない。そして、結合部材151は、凸部155に凹部56を嵌め合わせた後に、止めねじ154で装備部22に固定される。
【0041】
識別手段15を固定するための固定部材164は結合部材151と回転自由に結合される。固定部材164はギア部163を一体的に有している。この固定部材164の回転を計測するための角度センサ161は装備部22あるいは結合部材151に固定されている。角度センサ161はギア部163と噛み合う計測ギア162を有している。固定部材164および識別部材168は装備部22および結合部材151の凹凸構造と同様の凹凸構造を有している。すなわち、固定部材164には複数の凸部165が設けられ、識別部材168にはこれらに合致する凹部166が設けられている。この凹凸構造は、上述した装備部22と結合部材151とが噛み合う凹凸構造と同様に、位置姿勢を一意に決定できるよう、その形状および対になる凹凸の間の距離を変えるなどすることが好ましい。固定部材164の凸部165に識別手段15の識別部材168の凹部166を嵌め合わせた後に止めねじ160を識別部材168のねじ穴158に合わせて固定する。
【0042】
これにより、識別手段15の発光体169が陰になって計測しにくい時は、識別手段15の向きを位置姿勢計測手段14が計測するのに適した向きに調節可能となり、その回転角度を角度センサ161で計測できるので、位置姿勢計測手段14が計測した結果と角度センサ161の検出結果により、装備部22つまりマニピュレータ3の座標系ΣSの向きを特定することが可能となる。これは、識別手段15の向きを計測に適した姿勢に向けても、常にマニピュレータの位置姿勢を計測可能なため、マニピュレータ3の配置の自由度が向上する。
【0043】
上記の例では、中間リンク部の自由度を回転自由度として説明したが、識別手段15の姿勢を調節可能としかつその調節量を計測可能とすれば、回転自由度でも並進の自由度でも、あるいはこれらをそれぞれ一つ以上組み合わせた構成でも、物陰から計測しやすい姿勢へと識別手段15を調整できれば同様の効果が期待できる。装置の配置によって、自由度の構成を決定すればよい。
【0044】
また、装置間の重なりなどがない場合は、識別手段15を直接マニピュレータ3に固定してもよい。この場合、装備部22と中間リンク部との間に設けた嵌め合わせの形状と、識別手段15と中間リンク部との間に設けた嵌め合わせの形状を同一にすれば、識別手段15を直接に装備部22に取付けることも、間に中間リンク部を挟んで取付けることも自由に選択可能である。識別手段15および中間リンク部は着脱自在であるため、不要になった時や治療の邪魔になる時は、取り外すことも可能である。さらには、計測が終了した時に、中間リンク部を動かして、識別手段15が治療の邪魔にならない場所に向きを変えることも可能である。
【0045】
係る識別手段15を用いて測定した位置姿勢計測手段14からの情報は、制御装置32へ経時的(例えば定期的)に送信される。角度センサ161は制御装置32に信号伝達可能に接続されており、角度センサ161で検出した情報も位置姿勢計測手段14と同様に制御装置32へ経時的(例えば定期的)に送信される。位置姿勢計測手段14や角度センサ161と制御装置32との間の接続をコネクタなどを用いて行なうことで制御装置とこれらとの間で着脱自在となり、不要な場合はコネクタを外すことも可能となる。
【0046】
上述した手術支援装置の構成により、任意に配置された各マニピュレータ3〜5の相対的な位置姿勢の関係および、各マニピュレータ3に装備した観察手段6とマニピュレータ4、5の先端に装備した処置具11、12とのそれぞれの相対的な関係を明らかにすることができる。つまり、各手段の座標の向きと、座標間の軸方向のずれ、座標間を写像する回転行列を算出することができる。
【0047】
また、(回転行列の算出法を書く)操作手段8、9と表示手段10との間の相対関係も同様の手法で計測し、明らかにすることができる。なお、マニピュレータ3〜5の位置姿勢を計測した位置姿勢計測手段14とは別の位置姿勢計測手段を用いて、操作手段8、9と表示手段10との間の相対関係を計測し、マニピュレータの位置姿勢の情報と同様に制御装置32へ情報を入力あるいは送信するようにしてもよい。
【0048】
ここで、座標系ΣMから座標系ΣDへ写像する回転行列をCMD(図示せず)とし、座標系ΣDと表示手段10の画面内に投影された座標系ΣEの各軸の向きを合わせる回転行列をCDE(図示せず)とし、座標系ΣEと座標系ΣSの各軸の向きを合わせる回転行列をCES(図示せず)とすると、
操作者が操作手段8、9を用いて行なった操作方向を、回転行列CMD、CDE、CESを用いて座標変換し、座標系ΣDおよび座標系ΣSでの操作方向を算出する。算出した座標変換後のこれらの操作方向を制御指令として、表示手段10およびマニピュレータ4、5の動作を制御する。ただし、この実施例では表示手段10の画面内に投影された座標系ΣEと座標系ΣDの各軸の向きが一致するため、回転行列CDEは単位行列となる。
【0049】
上記のような座標変換行列の取り方とその座標変換行列を用いた動作方向の算出方法に基づく制御により、操作者が操作手段8、9を操作した方向が、表示手段10に提供される画面内に映される空間での動作方向に変換され、さらに処置具11、12がその方向に動く様にマニピュレータ4、5の動作方向が算出されるため、表示手段10に映る処置具11、12の動作方向を、操作手段8、9で操作した方向に一致させることが可能になる。
【0050】
つまり、マニピュレータ4、5同士の相対関係、マニピュレータ3〜5と操作手段8、9の相対関係、あるいは処置具11、12と観察手段6の相対関係に係らず、操作手段8、9を画面に向かって右に動く様に操作すれば、画面内の処置具11、12は右に動き、画面奥に操作すれば、画面内の処置具11、12は画面奥に動作する。まさに、手元の動きと、モニタ内の処置具11、12の動きが同じ方向に同期するので、手元で実際に処置具11、12を持って操作しているように、画面内の処置具11、12が制御される。
【0051】
同調制御部34では、同調指示手段21から同調実行の信号を受けている間は常にマニピュレータ3〜5を操作情報に従い制御し、同調実行の信号が途切れた後は、操作手段7〜9からの操作情報の伝達を停止させるように構成されている。なお、信号が入力されている間は同調を切り、信号入力が途切れている間のみ、同調を実行するようにしてもよく、あるいは、同調指示手段21から信号が入力されるたび、同調実行か否かを切替えるように制御を行なってもよい。同調制御部34は、各回転行列を用いて操作方向からマニピュレータの動作方向を算出する座標変換部35の前に構成されても、後に構成されてもかまわない。
【0052】
次に、具体的な制御動作を図5を参照しながら説明する。図5は手術支援装置の制御動作を示すフローチャート図である。
【0053】
まず、操作手段8、9の位置姿勢を周期的に検出する(ステップ40)。そして、前回の検出時からの位置姿勢の変化量を算出し、操作手段8、9に入力された操作指令(操作方向と操作量)を算出する(ステップ41)。このとき算出される座標系ΣMにおける操作方向をベクトルMと呼ぶ。
【0054】
次いで、同調実行が指示されているかをチェックし(ステップ42)、これが指示されていない場合は、ステップ40に戻ってマニピュレータ3〜5を動作させない。同調実行が指示されている場合は、位置姿勢計測手段14の計測結果情報23の変更があれば座標変換行列の更新を行なう(ステップ43)。
【0055】
次いで、最新の計測結果情報に基づいて算出された回転行列CMD、CDE、CESを用いてベクトルMを座標変換し、座標系ΣDにおけるベクトルDおよび座標系ΣSにおけるベクトルSを算出する(ステップ44)。これは同じ方向を示すベクトルをそれぞれの座標系での値に換算し、操作方向のベクトルMと同じ方向を意味する表示手段10に映される処置具11、12の動作方向ベクトルSを算出している。
【0056】
次いで、操作手段8、9に入力された操作量を元に、操作手段8、9とマニピュレータ4、5の間の動作量の比率等のパラメータを勘案して、実際にマニピュレータ4、5が動作する量を算出する(ステップ45)。
【0057】
最後に、これまでに算出した動作方向(座標系ΣD・ΣSにおけるベクトルD・S)と動作量に従い、表示手段10およびマニピュレータ4、5を制御する(ステップ46)。
【0058】
算出の際に、操作手段8、9とマニピュレータ3、4の間の姿勢を元に決定した回転行列ではなく、操作手段8、9と表示手段10に表示されるマニピュレータ3、4に装備した処置具11、12の間の姿勢を元に決定した回転行列を用いるため、実際の操作方向と、表示手段10に映される動作方向が操作者から見て同一方向となる。
【0059】
以上のような手法で、治療前、治療中に各装置間の姿勢を算出することができ、ひいては各座標間の回転行列を算出することができ、表示手段10内のマニピュレータ4、5つまり表示手段10に表示されている処置具11、12の動きと操作手段8、9の動きの方向を一致させることができる。
【0060】
本手法によれば、マニピュレータ3〜5の配置および、マニピュレータ3〜5と表示手段10の配置が任意であっても、座標系ΣEから座標系ΣSへ座標変換する行列と座標系ΣDから座標系ΣEへ座標変換する行列を用いて、表示手段10に設定した座標系ΣDと、表示手段10に表示されるマニピュレータ4、5の動作方向の座標系ΣSを一致させることができる。これにより、動作方向を表示手段10における座標系ΣDや表示手段10における上下左右奥手前など相対的な表現で処置具11、12の動作方向を示すことができる。
【0061】
さらには、操作者はマニピュレータ3〜5の配置やマニピュレータ3〜5と操作手段8、9の相対関係、マニピュレータ4、5と観察手段6の相対関係、操作手段8、9と表示手段10の相対関係など、各手段間の位置姿勢をいっさい気にすることなく、位置姿勢計測手段14からの計測結果情報23を元に変換行列算出部24で算出した変換行列を用いて、操作手段8、9の操作方向と表示手段10に表示される処置具11、12の映像の動作方向を一致させることができる。これにより、実際に自分の手で処置を行なっているように、表示手段10内に映る処置具11、12を動かしたい方向に操作手段8、9を操作するだけでよくなるので、各手段の配置によらず高い操作性を得ることが可能となる。
【0062】
さらには、画面内で処置具11、12が操作方向に一致して動作するので、細かな動きが操作者の意図通りに実現できる。よって、周囲の正常な組織を傷付けることなく、必要な処置を正確に、かつ迅速に行なえ、治療の効果や処置の安全性が高まる。
【0063】
また、操作性の変化を気にすることなく、患者の体位や患部の位置、周囲の装置の配置の状況などに応じて、マニピュレータ3〜5や観察手段6、操作手段8、9を配置できるため、マニピュレータ3〜5や観察手段6が患部にアプローチする姿勢をより適切に調整して、治療を行なうことができる。
【0064】
さらには、マニピュレータ3〜5の装備部22は、識別手段15や中間リンク部と着脱自在であるため、各手段の姿勢を検出するための機構が治療を行なう医療スタッフや周囲の医療機器の邪魔になることがなく、医師は治療に専念できる。また、これらの部品をはずしてしまうことで、これらの部品に医療スタッフが接触して、マニピュレータや観察手段が動いてしまい、患者の身体に接触することを防止できる。よって、マニピュレータを用いた手術において、治療しやすい環境を医療スタッフに提供することができる。
【0065】
また、観察手段6と処置具11、12の相対関係が常に算出可能であるため、術中に観察手段6を動かすことができる。治療中に、患部が他の臓器や処置具11、12の陰になって見えにくい場合、観察手段6の姿勢を変えて、より観察しやすい姿勢に変えた場合でも、前述したのと同様に表示手段10に映るマニピュレータ4、5の動作方向と操作手段8、9の操作方向を一致させることができる。
【0066】
さらには、マニピュレータ3〜5を使用している最中に、各手段の配置を変えるなど、事前に計測した情報が変更される場合でも、位置姿勢計測手段14の新しい計測結果情報23に基づいて各手段間の座標変換行列が更新されるので、常に、操作手段8、9と表示手段10に表示される処置具11、12の映像の動作方向を一致するように、マニピュレータ4、5を制御することが可能である。
【0067】
また、マニピュレータ4、5と操作手段8、9の直接の相対関係が無関係であるため、操作手段8、9を含む操作卓13を、術中に移動させたり、向きを変えたりした場合でも、表示手段10に表示される処置具11、12の映像の動作方向と操作手段8、9の操作方向は一致を保ち、術前、術中に任意に操作卓13を動かすことができる。よって、他の医療機器との兼ね合いで、操作卓13を配置しやすい位置に常に移動できるため、運用上の利便性が高い。また、術中に移動させてもそのまま引き続き操作可能であるため、マニピュレータ4、5と操作手段8、9の直接の相対関係を再設定するなどの手間もなく、迅速に手術を再開できる。
【0068】
これらに加えて、同調指示手段21を用いて、操作手段7〜9からの指示伝達を切ったりつないだりできることで、マニピュレータ3〜5の位置を固定したまま、操作手段7〜9の姿勢を、操作しやすい様に調整し、その後、同調を実行することで、操作しやすい姿勢から、マニピュレータ3〜5を操作し始めることができる。また、操作手段7〜9とマニピュレータ3〜5の配置が任意なので、操作開始時に表示手段10に表示される処置具11、12の姿勢と操作手段8、9の姿勢は異なることが考えられる。よって、操作開始時は同調実行を切って、操作手段8、9と表示手段10に表示される処置具11、12を同じような姿勢に合わせてから、同調実行の信号を送ることで、各装置の配置が任意の場合に、表示手段10に表示される処置具11、12の映像と操作手段8、9の姿勢を合わせて操作を開始することが可能になり、操作感の向上と、より的確に操作者の意図を直感的に処置具11、12に反映させることができ、操作性の向上が図れる。
【0069】
次に、識別手段15の異なる取付例を図6を参照しながら説明する。図6は識別手段の異なる取付例を示す斜視図であり、図4に対応する図である。この取付例は、複数の回転自由度をリンクで結合し、識別手段15の動作範囲を広くした例である。
【0070】
結合部材151は図4の結合部材151と同一の形状である。この結合部材151に第一の延長リンク170を固定し、第一の延長リンク170と第二の延長リンク171を回転自由に組み合わせる。第二の延長リンク171の端部である組み合わせ部172はギアになっており、第一の延長リンク170に固定された第一の角度センサ173と第一の計測ギア174を介して組み合わされている。第二の延長リンク171のもう一方の端部は固定部材164と回転自由に組み合わされる。固定部材164は図3と同様にギア部163を有する。第二の角度センサ161が第二の延長リンク171に固定され、計測ギア162を介してギア部163と組み合わされる。固定部材164には複数の発光体169が識別部材168に固定されてなる識別手段15が凹凸を嵌め合わせて固定される。
【0071】
第二の延長リンク171の回転角度は第一の角度センサ173によって計測され、識別手段15の回転角度は第二の角度センサ161によって計測することができる。これらの角度情報と、第一の延長リンク170および第二の延長リンク171の長さと、識別手段15を位置姿勢計測手段14で計測して得られる識別手段15の位置姿勢の情報を合わせて、図6に示す中間リンク部を有する識別手段15が装備された各手段の座標の向きを算出することが可能である。延長リンク170、171により、識別手段15の動作範囲が広がり、より広範囲で計測に適した姿勢に識別手段15の位置と向きを調整可能となる。識別手段15の調整範囲が広がることで、各手段の配置の自由度が広がり、より患者の体位や治療に適した配置で手術を行なうことが可能となる。
【0072】
次に、識別手段15を取付ける中間リンク部の異なる取付例を図7を参照しながら説明する。図7は識別手段を取付けるの中間リンク部の異なる例を示す分解斜視図である。図7では、装備部22へ嵌め合わせる中間リンク部のみ図示して識別手段を省略してある。中間リンク部に固定する識別手段は図3と同様である。
【0073】
装備部22の凹部179と結合部175の凸部178とは嵌め合わせ可能である。凹部179は、嵌め合わせた結合部175の回転方向の角度を一意に決定できるように、上下左右が非対称の形状をしている。この凹部179の周囲には結合用磁石177が固定されており、嵌め合わされた結合部材175の固定フランジ176と磁力により固定される。深さ方向についても、結合用磁石177と固定フランジ176とが接触する位置で一意に決定される。結合部材175は、他の例と同様に固定部材164を回転自由に結合させたり、図示していないが延長リンク170などを結合させたりすることなどが可能である。また、自由度を持つ部位には、これまでの例と同様、角度センサ161と計測ギア162とギア部163の組み合わせによって、回転角度が計測可能である。長さ方向に並進自由度を持つリンクの場合は、距離を計測するようにセンサを構成すればよく、移動距離計測の手法は、並進動作を回転に変換して角度センサにより計測する手法や、移動距離に応じて計測ワイヤが引き出される方式のセンサや、並進型のポテンショメータ、あるいは、光学センサなどを用いる手法によって容易に実現可能である。
【0074】
この取付例では、結合部材175と装備部22は磁力を用いて結合されるため、より着脱が容易であり、識別手段の着脱にかかる手間をさらに軽減することができる。
【0075】
マニピュレータ3〜5の三次元的な位置姿勢を特定する手段として、マーカーセットを用いる光学的計測手法を代表として記述したが、本発明は、三次元的な位置姿勢を特定するために、他の手法を用いてもかまわない。例えば、磁気センサを用いた装置も利用可能である。位置姿勢計測手段14が、発光体169ではなく、磁性体を識別手段15として用いる場合は、上記の識別手段15であるマーカーセットが、利用する三次元位置計測装置に適した識別手段になる。識別手段を用いて三次元空間内での位置姿勢を計測する装置であれば、同様の手法が利用可能である。
【0076】
次に、位置姿勢計測手段14の異なる例を図8を参照しながら説明する。図8は図1に示す位置姿勢計測手段の変形例を説明するための斜視図である。この図8では、上述した識別手段15を利用した位置姿勢計測手段14ではなく、装置間の座標の傾きを計測する手法を用いた位置姿勢計測手段14について述べる。
【0077】
図8はマニピュレータ間を一つ以上の回転可能な関節もしくは並進動作可能な直動部を有するリンクで結合し、マニピュレータ同士の座標の回転行列を求める例である。マニピュレータ3とマニピュレータ4とを結合する場合を例として説明する。
【0078】
マニピュレータ3の装備部22と結合させる結合部材151に第一の延長リンク170が固定される。第一の延長リンク170と第二の延長リンク171とが回転自由に結合される。第二の延長リンク171は一端に第一の延長リンク170と嵌め合わせるギア部172を有し、第一の延長リンク170に固定される角度センサ173のギア部172が計測ギア174に噛み合わされる。これにより、第二の延長リンク171の第一の延長リンク170に対する回転角度が角度センサ173により計測可能となる。
【0079】
第二の延長リンク171のもう一方の端は第三の延長リンク183と回転自由に結合される。第三の延長リンク183は一端に第二の延長リンク171の端部180と嵌め合わせるギア部181を有し、第二の延長リンク171の端部180に固定される角度センサ189とギア部181が計測ギア182を介して組み合わされる。これにより、第三の延長リンク183の第二の延長リンク171に対する回転角度が角度センサ189により計測可能となる。
【0080】
第三の延長リンク183のもう一方の端には第四の延長リンク187と回転自由に結合するギア部184を有し、第四の延長リンク187に固定される角度センサ186のギア部184が計測ギア185に噛み合わされる。これにより、第三の延長リンク183の第四の延長リンク187に対する回転角度が角度センサ186により計測可能となる。
【0081】
第四の延長リンク187のもう一方の端は、マニピュレータ4の装備部22に結合する結合部材188が固定されている。
【0082】
マニピュレータ3と結合部材材151を結合させ、マニピュレータ4と結合部材材188を結合させると、マニピュレータ3、4同士の相対姿勢と相対距離に応じて、第一の延長リンク170と第二の延長リンク171との間の角度、および、第二の延長リンク171と第三の延長リンク183との間の角度、および、第三の延長リンク183と第四の延長リンク187との角度が変化する。この時の各角度の値を角度センサ173、189、186によって計測できる。この計測結果と、第二の延長リンク171と第三の延長リンク183の長さから、マニピュレータ3、4同士の相対姿勢を算出することが可能となる。これらの値はマニピュレータの制御装置32に取り込まれ、マニピュレータ3、4の座標間の回転行列を算出し、制御において、これを利用することができる。
【0083】
マニピュレータ3、4間を結合する計測リンクを用いた位置姿勢計測手段14も計測終了とともにマニピュレータ3、4から取り外すことが可能であり、患者の周囲の空間を位置姿勢計測手段14で占有しないようにすることができる。また、治療途中に再びマニピュレータ3、4の配置を変える時は、再度、計測リンクを用いた位置姿勢計測手段14を装備部22に結合すればよい。マニピュレータ3、4に位置姿勢計測手段14を結合させたままでも特に邪魔にならない場合は、そのまま結合させておいてもよい。この場合でも、治療中、マニピュレータ3、4を動かしたくなった時はいつでも配置変更が行なえ、常に最新の相対姿勢の情報を計測可能である。
【0084】
図8の計測リンクを用いた位置姿勢計測手段14において、第二の延長リンク171の一端である角度センサ189を固定する端部180から第五の延長リンクを第三の延長リンクと干渉しない様に回転自由に結合させて設け、さらに第五の延長リンクから他の延長リンクと同様に垂直方向の第六の延長リンクを介して別の結合部材に結合する構成にすることも可能である。これにより、一度に結合できるマニピュレータの数を二つから、三つに増やし、それぞれの相対姿勢を一度に計測可能になり、術中の計測の手間を軽減することが可能になる。同様の手法で、マニピュレータの装備部22と結合する部位を三つ以上に増やすことも可能である。
【0085】
計測対象から着脱自在の図8に示した計測リンクの一部を天井や手術ベッド、患者を固定するフレーム、あるいは床上を可搬することの可能な保持器に固定する構成にすることも可能である。これにより、取り外した計測リンクを、術中に再び利用可能とするために、清潔区域内に保管する場所を確保することなく、マニピュレータからはずして邪魔にならない位置に移動させるだけで、術中の清潔を保ち、かつ利用したい時にすぐに再結合することが容易になる。よって、手術の流れを妨げず、迅速な装置運用が可能になる。
【0086】
図8に係わる説明では、マニピュレータ間の姿勢の相対関係を表したが、同様に、表示手段と操作手段の間の相対関係を計測することも可能である。
【0087】
観察手段6と処置具11、12の相対距離が分かることで、表示手段10の画面上でのマニピュレータの動作量を算出することが可能になる。この動作量を操作手段8、9の操作量と合わせるように制御することも可能であるし、操作手段8、9の動作の所定の倍率の動きをマニピュレータに実施させることも制御可能である。外科医の好みや、治療の状況、手技や治療方法に応じて動作の倍率を変更すること可能であり、より操作性を向上させることができる。
【0088】
上述した実施例では、観察手段6を装備している装置も制御可能なマニピュレータ3であるとしたが、例えば、各関節角度を手動で調整、固定できる支持手段であってもよい。
【0089】
次に、観察手段6を装備した支持手段の例を図9を参照しながら説明する。図9は図1に示す観察手段を装備した支持手段の例を示す斜視図である。
【0090】
第一の支持リンク50と第二の支持リンク51は並進可能に接続されている。第二の支持リンク51と第三の支持リンク53、第三の支持リンク53と第四の支持リンク55、第四の支持リンク55と第五の支持リンク57は、それぞれ回転可能な関節52、54、56で接続されている。第五の支持リンク57と第六の支持リンク59は捻じり関節58でねじり可能に接続されている。第六の支持リンク59の端部60と把持部61は回転可能に接続されている。把持部61は観察手段6の一部を挟み込み、あるいは、挿入して、固定することが可能である。図9では、把持部61の中空部に観察手段6のレンズ部62を挿入し、固定ねじ63で固定する様子を図示している。
【0091】
第一の支持リンク50には、識別手段15が固定されており、位置姿勢計測手段14から、支持手段の基点となる部位の位置姿勢を計測することができるようになっている。各可動部には、図8に示したような、回転角度を計測する角度センサや、並進距離を計測するリニアセンサが設けられており、可動量を計測可能である。各支持リンク50、51、53、55、57の長さと、センサ情報から、把持部61に固定した観察手段6の姿勢を算出することができる。
【0092】
支持手段の自由度の数や機構は症例や体位などに合わせて適宜最適あるいは最小限と思われる自由度を有していればよい。
【0093】
観察手段6は助手によって保持されていてもよい。この場合、観察手段6の座標系ΣEの向きは、非接触で姿勢を検出する手法が好ましい。例えば、上述した実施例で示したように、姿勢を検出する識別手段15を三次元位置計測装置で常に識別手段15の向きを計測する手法を用いる。観察手段6には識別手段15を所定の姿勢で装備する装備部22を設け、識別手段15の姿勢を常に計測しつづける。識別手段15の取付け姿勢は観察手段6に対して既知の姿勢となるため、座標系ΣEの向きを算出可能である。マニピュレータ4、5の座標系ΣSの向きを検出する識別手段15も同様に常に計測し、観察手段6の保持姿勢の変化に合わせて、座標系ΣEと座標系ΣSの間の回転行列を算出する。回転行列を用いた制御方法は上述した説明と同様に行われる。これによって、観察手段6を人が保持した場合でも、表示手段10に映し出される処置具11、12の映像の動作方向と操作手段8、9の操作方向を合わせるようにマニピュレータ4、5を制御可能となる。
【0094】
上述した実施例では、回転行列CMD、CDE、CESを用いて操作手段の操作方向と表示手段に表示される処置具11、12の映像の動作方向とを一致させる例を示したが、回転行列CDE、CESのみを用いて操作方向を座標変換するようにしてもよい。この場合、表示手段10に対する操作手段8、9の操作方向は任意となり、予め操作手段に設定した規則に従い、表示手段10に表示される処置具11、12の動作方向を制御することになる。つまり、操作手段8、9に固定された座標系ΣMのXM方向に操作した場合は、操作手段11、12と表示手段10との間の相対的な姿勢の関係に係らず、表示手段10のXD方向に表示手段10に表示される処置具11、12を制御する。
【0095】
係る制御動作を図10を参照しながら説明する。図10は図1の手術支援装置における図5と異なる制御動作のフローチャート図である。
【0096】
この制御動作では、図5とはステップ44の処理が異なり、操作方向が意味する表示手段10に対する方向を座標変換する処理を行なう。すなわち、図10のステップ70に具体的に示すように、ベクトルが意味する動作方向を回転行列CDE、CESを用いて座標変換し、座標系D・Sにおける処置具の動作方向ベクトルD・Sを算出するステップに変更したものである。
【0097】
他の装置との兼ね合いで操作手段8、9や表示手段10を配置する場所が十分に確保できない場合などに、表示手段10を操作者からみて斜めの方向に設置せざるを得なくなることがあるが、このような場合には、操作手段8、9の操作方向を直接処置具11、12の映像の動作方向に一致させるよりは、操作手段8、9をどちらに操作したら、表示手段10内でどちらに処置具11、12が動作するかを予め設定した規則に従い制御したほうが、操作性が向上する場合がある。
【0098】
操作手段8、9と表示手段10との間の相対姿勢で、座標変換を行ない、操作手段8、9と表示手段10に表示される処置具11、12の映像との間で、操作方向と動作方向の一致を実現するか、あるいは、操作手段8、9と表示手段10の間で設定した規則に従い、表示手段10に表示される処置具11、12の映像の動作方向を制御するかは、スイッチなどで切替え可能とすることで、手術支援装置を使用する外科医の好みにに合わせて、あるいは、操作卓13周囲の広さなどの状況に応じてより的確に選択可能となり、より的確で操作性の高い治療を実現することが可能となる。
【0099】
次に、表示手段と操作手段との配置構成の変形例を図11を参照しながら説明する。図11は表示手段と操作手段とを一体に配置した例の斜視図である。この図11では、表示手段10の左右に二つの操作手段8、9を配置し、操作方向が表示手段10に表示される処置具をどちらに動作させるかを操作手段8、9に予め設定している。
【0100】
表示装置10の左右に操作手段8、9が表示装置10と一体で構成されている。操作手段8、9は複数の方向支持ボタンからなる。上ボタン73を押すと、表示手段上方を示す方向支持マーク80の方向へ処置具12が動作し、右ボタン74を押すと、表示手段右を示す方向支持マーク81の方向へ処置具12が動作し、下ボタン75を押すと、表示手段下方を示す方向支持マーク82の方向へ処置具12が動作し、左ボタン76を押すと、表示手段左を示す方向支持マーク83の方向へ処置具12が動作する。奥ボタン77を押すと、表示手段の奥方向へ処置具12が動作し、手前ボタン78を押すと、表示手段の手前方向へ処置具12が動作する。把持ボタン79を押すと、処置具12は先端の把持部が閉じる。このように、処置具11、12と同様の動作が出来ない操作手段8、9を用いて、操作手段8、9の操作と、それが意味する、表示された処置具11、12の動作とを一対一で所定の規則で対応づけすることで、表示手段10に表示された処置具11、12を、任意に配置された観察手段6とマニピュレータ4、5の相対姿勢によらず、常に同一の操作性を実現することができる。
【0101】
以上述べた実施例によれば、治療に必要な観察手段6、処置具11、12、観察手段6からの情報を提示する表示手段10、処置具11、12の位置姿勢を操作する操作手段8、9のそれぞれの配置を、操作者の希望に合わせた任意の位置に配置することができ、かつ、その任意の配置状態にもかかわらず、表示手段10に表示される処置具11、12の動作方向を、操作手段8、9の操作方向に一致させる様に制御することが可能になり、常に同一の操作性を得られ、さらに、操作方向と画面内の動作方向が一致するので、操作者が直接処置具11、12を把持して操作しているようなより快適な操作性が得られる。また、それぞれ独立した各手段は、治療に最適な姿勢へと配置する自由度が高く、治療中は医療スタッフの邪魔になることもなく、複数のマニピュレータを用いるような治療においても、より作業しやすい環境を提供することができる。
【0102】
また、表示手段10に表示される処置具11、12の動作方向を、表示手段10と操作手段8、9の相対的な姿勢の関係に係らず、予め決められた対応を元に指示できるので、操作者がより操作しやすい配置に操作手段8、9と表示手段10を配置して治療を行なうことができる。よって、操作者の事情で、画面を脇において、斜めに見ながら操作を行なう場合でも、操作手段8、9を正面において操作を行なう場合でも同一の操作性で処置具11、12を操作可能となるので、操作手段8、9の操作と表示手段10に対する処置具11、12の動作が常に同一に保たれる。これにより、操作者は操作に慣れやすく、より的確に治療動作に対するの意志を正確に反映させた治療が可能になる。
【0103】
このように、より的確に意志を反映させやすい環境を提供できることから、治療の正確さ、緻密さを向上させ、ひいては治療効果の向上と低侵襲化が期待できる。
【0104】
まとめとして、本発明に係わる構成に関して以下の事項を開示する。
【0105】
任意に配置された内視鏡などの観察手段と、処置具を有するマニピュレータと、モニタなどの表示手段とマニピュレータを操作する操作手段が任意に配置された環境で、操作手段を操作する方向と表示手段に映る処置具が動く方向とを一致するよう制御する構成とする。
【0106】
また、操作手段の操作方向と、表示手段に映る処置具の動く方向とを、予め設定した対応関係で一致させるように構成する。
【0107】
さらには、保持手段によって保持された観察手段と、観察手段を保持する保持手段から独立した観察手段に観察されるマニピュレータのそれぞれに、観察手段とマニピュレータの姿勢を計測可能な識別手段を着脱自在に装備し、この識別手段を介して観察手段とマニピュレータの姿勢を計測して得られる観察手段とマニピュレータの間の姿勢を一致させる回転行列を算出し、操作手段に入力された操作方向に回転行列を用いて変換した方向にマニピュレータを動作させる制御系を有する構成とする。
【0108】
さらには、識別手段と観察手段もしくはマニピュレータとの間に、一つ以上の自由度と、自由度の変位量を計測する変位量計測手段を有し、識別手段を解して得られる位置姿勢と変位量計測手段の計測量から、観察手段もしくはマニピュレータの間の姿勢を一致させる回転行列を算出し、操作手段に入力された操作方向に回転行列を用いて変換した方向にマニピュレータを動作させる制御系を有する構成とする。
【0109】
さらには、周期的に、あるいはマニピュレータもしくは観察手段を保持する保持手段もしくは表示手段もしくは操作手段の配置が変更された場合に、回転行列を再計算し、再計算した回転行列を用いて、マニピュレータの動作方向を算出する制御装置を有する構成とする。
【0110】
さらには、マニピュレータの座標系と、観察手段の先端の座標系を関係づける座標変換行列と、観察手段の座標系と表示手段に固定された座標系を関係づける座標変換行列と、表示手段に固定された座標系と操作手段に固定された座標系を関係づける座標変換行列を持ち、操作入力された動作指示を順次座標変換してマニピュレータの動作方向と動作量を求めるよう制御する構成とする。
【0111】
さらには、マニピュレータ先端の処置具の座標系と、マニピュレータを観察する観察手段の座標系を関係づける座標変換行列と、観察手段の先端の座標系と表示手段に固定された座標系を関係づける座標変換行列と、表示手段に固定された座標系と操作手段の把持部に固定された座標系が予め設定した対応関係をもち、操作入力された動作指示を表示手段と観察手段の間の座標変換行列と観察手段と処置具の間の座標変換行列とで順次座標変換してマニピュレータ先端の動作方向と動作量を求めるよう制御する構成とする。
【0112】
さらには、マニピュレータ先端の処置具の姿勢とマニピュレータ先端を観察する観察手段の姿勢と表示手段の姿勢と操作手段の姿勢を計測する位置姿勢計測手段をもち、処置具を装備するマニピュレータの姿勢と観察手段を装備するマニピュレータの姿勢との間の相対的な姿勢のずれと、観察手段の姿勢と表示手段の姿勢における、観察手段のレンズに垂直な軸と、表示手段の表示面に垂直な軸とを一致させたときの、レンズに水平な面内の二軸と表示手段画面に水平な面内の二軸のずれと、表示手段の姿勢と操作手段の把持部の姿勢のずれとから算出される座標変換行列を持ち、操作手段になされた操作方向を座標変換行列で変換した値にしたがって、マニピュレータが動作する手術支援装置を用いる構成とする。
【0113】
さらには、マニピュレータや表示手段、操作手段の姿勢を位置姿勢計測手段を用いて計測する際に、計測対象にとりつける識別手段において、計測対象の所定の位置姿勢に着脱自在に固定できるように、計測対象に非対称な凹凸からなる装備部と、これにはめあわせて位置と姿勢を一意に決定できる凹凸を有する識別手段を用いる構成とする。そして、装備部と識別手段の間に、一つ以上の自由度を有する延長リンクを設ける構成とする。
【0114】
さらには、着脱自在で複数の関節を有し、計測対象に対して位置姿勢を一意に決定できる凹凸からなる結合手段を有し、各関節の移動量を計測するためのセンサを有する計測リンクで、各計測対象を着脱自在に結合する構成とする。
【0116】
【発明の効果】
発明によれば、マニピュレータおよび操作手段を任意の場所に配置しても表示手段を見ながら操作手段を容易に操作でき、安全性、作業性および操作性に優れた手術支援装置を得ることができる。
【図面の簡単な説明】
【図1】本発明の一実施例を示す手術支援装置の斜視図である。
【図2】図1の手術支援装置の制御ブロック図である。
【図3】図1の手術支援装置の処置具および観察手段の座標系の説明図である。
【図4】図1の手術支援装置の識別手段の取付例を示す分解斜視図である。
【図5】図1の手術支援装置の制御動作を示すフローチャート図である。
【図6】図1の手術支援装置の識別手段の異なる取付例を示す斜視図である。
【図7】図1の手術支援装置の識別手段を取付けるの中間リンク部の異なる例を示す分解斜視図である。
【図8】図1に示す位置姿勢計測手段の変形例を説明するための斜視図である。
【図9】図1に示す観察手段を装備した支持手段の例を示す斜視図である。
【図10】図1の手術支援装置における図5と異なる制御動作のフローチャート図である。
【図11】図1に示す表示手段および操作手段の変形例の斜視図である。
【符号の説明】
1…患者、2…手術ベッド、3〜5…マニピュレータ、6…観察手段、8…操作手段、9…操作手段、10…表示手段、11、12…処置具、13…操作卓、14…位置姿勢計測手段、15…識別手段(マーカーセット)、17…マニピュレータの座標系、18…表示手段の座標系、19…観察手段の座標系、20…操作手段の座標系、21…同調指示手段、22…装備部、25…処置具に投影したマニピュレータの座標系、26…処置具に投影した観察手段の座標系、32…制御装置。
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a surgery support apparatus, and is particularly suitable for a surgery support apparatus in which a manipulator is operated by an operation means.
[0002]
[Prior art]
As a conventional surgery support device, as shown in Japanese Patent Laid-Open No. 7-328016 (especially, description of the eighth embodiment with reference to FIGS. 27 and 28), an operation means operated by an operator, A manipulator that operates based on the operation of the means, an observation unit that observes the operation of the manipulator, a display unit that displays a manipulator image observed by the observation unit, and a control device that controls the operation of the manipulator. Observe the manipulator, and superimpose the tool coordinate system set at the tip of the manipulator in the screen of the display means, and provide the operation means with the function to move according to the coordinate axis of the tool coordinate system. Therefore, it is possible to easily operate it by various operation means while looking at the tool coordinate system displayed on the screen of the display means. There are things that you like to.
[0003]
[Problems to be solved by the invention]
In general, the posture of a patient during surgery varies depending on the individual depending on the physique, the treatment site, the affected area, and the situation around the affected area. When using a manipulator for treatment, how to position the manipulator with respect to the patient and how to approach the affected part is to avoid interference with the patient, avoid interference with surrounding organs, Since the posture is determined so as to be safe and easy to work, the arrangement and posture of the manipulator are different for each patient.
[0004]
In addition, various instruments are placed in the operating room, and many staff members often support the operation while moving around the operating room. For this reason, it is desirable that the operation means for operating the manipulator is disposed in a place where it does not interfere with the operation of the patient, other medical instruments, and medical staff in the operating room, and can be changed in accordance with the operation. It is.
[0005]
When operating the manipulator using the operating means, if the direction in which the operating means is operated deviates from the direction in which the manipulator operates, it is difficult to realize a manipulator operation that accurately reflects the operator's intention. In a situation where the direction of operation and the direction of operation change from surgery to surgery, the burden on the operator increases and it is difficult to realize safe and effective treatment.
[0006]
When operating the manipulator while confirming with the naked eye that the treatment tool equipped on the manipulator is treating, and displaying the image information on the display means using an observation means such as an endoscope to confirm the state of treatment and operation The manipulator may be operated.
[0007]
In particular, in recent years, in order to reduce the physical burden on the patient, a small incision is provided in the patient's body, and a surgical tool or endoscope is inserted from there, and the state of the affected part and the state of the surgical tool are endoscopeed. The technique of performing treatment while confirming with the image of is spreading. Similarly, in the treatment using a manipulator, an operation method in which a manipulator is inserted through a small incision portion and operated while referring to an endoscopic image is preferable in order to reduce the physical burden on the patient.
[0008]
Under these circumstances, the placement of the manipulator with respect to the patient, the relative relationship between multiple manipulators, the relative relationship between the endoscope and the manipulator, etc. are different for each patient, and the relative relationship between the manipulator and the operating means for operating it is also different. It is desirable to make it. Then, in a surgical operation support apparatus equipped with a manipulator that is operated by an operator's operation, the operation of the manipulator that accurately reflects the operator's will is observed while observing the state of the manipulator and the affected part in the image displayed on the display means. It is desirable that it can be easily realized.
[0009]
However, in the above-described prior art, it is shown that the operation unit can be operated while looking at the tool coordinate system set at the tip of the manipulator image displayed on the display unit. The tool coordinate system and the coordinate system of the operation unit are shown. Are different from each other as shown in FIG. 28 of the publication, and the manipulator image cannot be operated in accordance with the operation direction of the operation means. In other words, in the publication described in the publication, when the observation means, manipulator, operation means, display means, etc. are arbitrarily placed, the operation direction of the manipulator image displayed on the display means and the operation means are operated. No consideration has been given to matching the direction to do.
[0010]
For this reason, in the related art, there is a problem in operability in an environment where components such as an operation unit, a manipulator, and an observation unit are arbitrarily arranged.
[0012]
  The present inventionEyesThe purpose is to provide a surgical operation support device that can easily operate the operating means while looking at the display means even if the manipulator and the operating means are arranged at any place, and is excellent in safety, workability, and operability.
[0014]
Other objects and advantages of the present invention will become apparent from the following description.
[0016]
[Means for Solving the Problems]
  in frontNoteThe surgical operation support device of the present invention for achieving the objective comprises operating means operated by an operator to input an operation command;A treatment tool is provided andA manipulator that operates based on a control command, an observation unit that observes the operation of the manipulator, a display unit that displays an image of the manipulator observed by the observation unit on a screen, and measures the position and orientation of the operation unit and the manipulator In the surgical operation support apparatus comprising the position / orientation measurement means for controlling and the control device for controlling the operation of the manipulator, the control device is configured to operate the operation command input by the operation means.WhenThe operation means measured by the position and orientation measurement means,The manipulatorAnd the observation meansofRepresented in a coordinate system with the origin as the base point of each motionPosition and orientationWhenBased on the operating direction of the operating means andObserved by the observation meansDisplayed on the display meansTheManipulatorTreatment instrumentThe present invention has a configuration including a conversion unit that generates a control command for matching the moving direction of the video.
[0018]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
[0019]
First, the overall configuration of the surgery support apparatus of this embodiment will be described with reference to FIG. FIG. 1 is a perspective view of a surgery support apparatus showing an embodiment of the present invention.
[0020]
The surgery support apparatus includes operation means 8 and 9 that are operated by an operator to input an operation command, manipulators 3 to 5 that operate based on the control command, and observation means 6 that observes the operation of the manipulators 4 and 5. A display unit 10 that displays a manipulator image observed by the observation unit 6 on a screen, an operation unit 7 to 9 (see FIG. 2 for the operation unit 7), and a position and orientation measurement unit 14 that measures the position and orientation of the manipulators 3 to 5. And a control device 32 (see FIG. 2) for controlling the operations of the manipulators 3 to 5 and the display of the display means 10.
[0021]
An observation means 6 capable of providing image information like an endoscope is provided at the tip of the manipulator 3 and is configured as a part of the manipulator. Treatment tools 11 and 12 such as surgical tools are provided at the distal ends of the manipulators 4 and 5. The manipulators 4 and 5 are disposed so as to be able to treat the affected part of the patient 1 lying on the operating table 2. The manipulator 3 is arranged so that the state of the affected part and the state of the treatment tools 11 and 12 can be observed. In this embodiment, the manipulator 3 is disposed on the patient's head side, and the manipulators 4 and 5 are disposed on both sides of the patient.
[0022]
The console 13 is provided with operating means 8 and 9 operated by an operator, and display means 10 capable of displaying information obtained by the observation means 6 on a screen. The operation means 8 controls the operation of the manipulator 4, and the operation means 9 controls the operation of the manipulator 5. Both 8 and 9 are juxtaposed on the console 13. The display unit 10 is installed on the console 13 so as to face the operation units 8 and 9. In this embodiment, the console 13 is arranged on the patient's foot side.
[0023]
The position / orientation measurement means 14 for measuring the positions and orientations of the manipulators 3 to 5, the operation means 7 to 9 and the display means 10 are arranged at locations where measurement of the respective devices is possible. In this embodiment, the position / orientation measuring means 14 is arranged on the patient's head side. The identification means 15 which is an auxiliary component for the position / orientation measurement means 14 to measure the position / orientation of the measurement object is provided in the manipulators 3 to 5, the display means 10, and the operation means 7 to 9 which are the measurement objects. Yes. Therefore, the identification unit 15 constitutes a part of the position / orientation measurement unit.
[0024]
The tuning instruction means 21 is for instructing to transmit an operation command from the operation means 7 to 9 to the manipulator, and is arranged at a place where the operator can operate. In this embodiment, the tuning instruction means 21 using a switch is shown as an example.
[0025]
The relative arrangement relationship of each of the manipulators 3 to 5 can be arbitrarily set. The arrangement of the display means 10 and the operation means 8 and 9 on the console can be arbitrarily set, and these can also be arbitrarily set in relation to the arrangement of the manipulator. That is, the arrangement of the manipulators 3 to 5, the display unit 10, the operation units 8 and 9 and the console 13 can be freely changed.
[0026]
The position and orientation of the observation means 6 and the treatment tools 11 and 12 are controlled by the manipulators 3 to 5. The operator operates the operation means 8 and 9 while looking at the manipulators 4 and 5 displayed on the display means 10 and the treatment tools 11 and 12 at the tips thereof, and the manipulator 4 based on the instructions input to the operation means 8 and 9. 5 operates to treat the affected area. The manipulator 3 can control the position and orientation of the observation means 6 by an instruction from another operation means 7.
[0027]
Next, the control configuration of the surgery support apparatus will be described with reference to FIG. FIG. 2 is a control block diagram of the surgery support apparatus of FIG.
[0028]
The operation means 7 to 9, the tuning instruction means 21, and the position / orientation measurement means 14 are connected to the control device 32 so as to be able to transmit signals. As a result, the operation information, the tuning information, and the measurement result information are input from the operation units 7 to 9, the tuning instruction unit 21, and the position / orientation measurement unit 14 to the control device 32. Further, the manipulators 3 to 5 and the display means 10 are connected to the control device 32 so that signals can be transmitted. As a result, control information is output from the control device 32 to the manipulators 3 to 5 and the display means 10. The control device 32 is configured by a computer such as a microcomputer.
[0029]
The control program executed in the control device 32 includes a conversion matrix calculation unit 24, an operation tuning control unit 34, and a coordinate conversion unit 35. The conversion matrix calculation unit 24 is a unit that calculates a conversion matrix for calculating the motion direction from the operation direction based on the measurement result information 23 from the position and orientation measurement unit 14. The tuning control unit 34 is a means for classifying whether or not to operate the manipulators 4 and 5 in accordance with instructions from the operation means 8 and 9. The coordinate conversion unit 35 is a means for calculating the operation direction from the operation direction using the conversion matrix calculated by the conversion matrix calculation unit 24.
[0030]
The measurement result information 23 obtained from the position / orientation measurement unit 14 is input to the conversion matrix calculation unit 24, and the coordinate conversion matrix output from the conversion matrix calculation unit 24 is input to the coordinate conversion unit 35. The operation information 31 from the operation means 7 to 9 is input to the tuning control unit 34 that classifies whether or not to operate the manipulators 3 to 5, and the output from the tuning control unit 34 is input to the coordinate conversion unit 35. Control information 36 relating to the operation direction, which is output from the coordinate conversion unit 35, is input to the manipulators 4 and 5. The connection in the control device 32 is configured as an electric signal and variable passing in the control program.
[0031]
The positions and orientations of the manipulators 3 to 5, the operation means 8 and 9, and the display means 10 will be described with reference to FIGS. 1 and 3. FIG. 3 is an explanatory diagram of the coordinate system of the treatment tool and the observation means.
[0032]
The posture of each of the manipulators 3 to 5 is defined by a coordinate system ΣS17 with the position serving as the base point of the operation as the origin. The posture of the observation unit 6 is defined by a coordinate system ΣE19 in a field in the field of view observed at the tip of the observation unit 6. The postures of the operating means 7 to 9 are defined by a coordinate system ΣM20 with the origin serving as the base point of the operation. The orientation of the display means 10 is defined by a coordinate system ΣD18 with the display surface as a base point, as the orientation of the display surface of the display means 10. When there are a plurality of manipulators 3 to 5, observation means 6, operation means 7 to 9, and display means 10, each posture is defined in each coordinate system.
[0033]
The axial direction of each coordinate system is assumed as shown in FIGS. 1 and 3 in the description of the embodiment. That is, in the coordinate system ΣS, the longitudinal direction of the manipulator is defined as the ZS direction, the vertically upward direction is defined as the YS direction, and the right side facing the ZS direction is defined as the XS direction. In the coordinate system ΣM, the depth direction of the operating means is defined as the ZM direction, the vertically upward direction is defined as the YM direction, and the right side facing the ZM direction is defined as the XM direction. In the coordinate system ΣE, the longitudinal direction of the observation means 6, that is, the depth direction of the image to be photographed is defined as the ZE direction, the ZE direction is directed to the YE direction above the field of view, and the right direction of the field of view is defined as the XE direction. To do. In the coordinate system ΣD, the back of the display unit 10 is defined as the ZD direction, the top of the screen is defined as the YD direction, and the right side of the screen is defined as the XD direction. If a rotation matrix between coordinates is obtained, the result is the same, so the definition of the axial direction of the coordinate system may not be exactly the same as described above.
[0034]
The coordinate system shown in the screen of the display unit 10 in FIG. 1 indicates the direction of the coordinate system ΣE19 projected in the field of view of the observation unit 6. In this embodiment, the directions of the coordinate axes of the coordinate system ΣE19 and the coordinate system ΣD projected in the field of view coincide.
[0035]
By solving the kinematics of each of the manipulators 3 to 5, it is possible to specify the position and orientation of the observation means 6 and the treatment tools 11 and 12 equipped at the respective tips in each coordinate system ΣS. It is a general method that is usually performed to specify the position and orientation of the tip in the coordinate system ΣS of each of the manipulators 3 to 5 using kinematics.
[0036]
The motion direction and the motion amount of each degree of freedom of the manipulators 3 to 5 for operating the observation means 6 and the treatment tools 11 and 12 in a specific direction are calculated by solving the inverse kinematics of each manipulator 3 to 5. It is possible. In order to cause the manipulator tip to perform the intended motion, it is possible to calculate the motion direction and motion amount for each degree of freedom using inverse kinematics.
[0037]
The three-dimensional position and orientation in the space of each manipulator coordinate system ΣS17 can be measured by using a three-dimensional position measurement device (also called a three-dimensional motion measurement device) that is an example of the position and orientation measurement means 14. The measurement method uses a marker set having a plurality of light emitters arranged in a known pattern as a discriminating means 15 as a base point such as the coordinate origin of the manipulators 3 to 5 that do not operate even when the manipulators 3 to 5 are operated. In this method, each of the light emitters is measured from a certain position, and the position and orientation of the identification means 15 are calculated from the arrangement of the plurality of light emitters. As a result, the position and orientation of the identification means 15 can be specified, and thus the position and orientation of the manipulator coordinate system ΣS can be calculated. A reflector may be used instead of the light emitter.
[0038]
An example of attaching the identification means 15 will be described with reference to FIG. FIG. 4 is an exploded perspective view showing an example of attaching the identification means. In FIG. 4, the measurement object is described as the manipulator 3, but the other measurement objects have the same mounting configuration.
[0039]
The manipulator 3 has an equipment portion 22 for fixing the identification means 15 to a predetermined position and orientation. The identification means 15 is formed by fixing a plurality of light emitters 169 to the identification member 168. A portion sandwiched and coupled between the identification means 15 and the equipment portion 22 will be referred to as an intermediate link portion.
[0040]
A plurality of convex portions 155 are provided on the equipment portion 22 constituting a part of the manipulator 3. The coupling member 151 coupled to these is provided with a plurality of recesses 156 that fit into the projections 155. In the case where the number of the convex portions 155 and the number of the concave portions 156 is one, it is preferable that the upper, lower, left, and right are asymmetric. In the case where there are a plurality of convex portions 155 and concave portions 155, it is preferable to prevent them from being combined with the wrong sides by combining them with different shapes. Moreover, when it is the unevenness | corrugation of the same shape, the mistake at the time of a coupling | bonding can be prevented by providing three or more unevenness | corrugations and changing the distance between the uneven | corrugated groups used as a combination. As long as the position and orientation when combined are uniquely determined, the uneven shape as shown in FIG. 4 is not necessary. The coupling member 151 is fixed to the equipment portion 22 with a set screw 154 after the concave portion 56 is fitted into the convex portion 155.
[0041]
A fixing member 164 for fixing the identification means 15 is rotatably coupled to the coupling member 151. The fixing member 164 has a gear portion 163 integrally. The angle sensor 161 for measuring the rotation of the fixing member 164 is fixed to the equipment portion 22 or the coupling member 151. The angle sensor 161 has a measurement gear 162 that meshes with the gear portion 163. The fixing member 164 and the identification member 168 have a concavo-convex structure similar to the concavo-convex structure of the equipment portion 22 and the coupling member 151. That is, the fixing member 164 is provided with a plurality of convex portions 165, and the identification member 168 is provided with a concave portion 166 that matches these. In the concavo-convex structure, like the concavo-convex structure in which the equipment portion 22 and the coupling member 151 mesh with each other, it is preferable to change the shape and the distance between the pair of concavo-convex so that the position and orientation can be uniquely determined. . After the concave portion 166 of the identification member 168 of the identification means 15 is fitted to the convex portion 165 of the fixing member 164, the set screw 160 is fixed to the screw hole 158 of the identification member 168.
[0042]
Thereby, when the light emitter 169 of the identification unit 15 is shaded and difficult to measure, the direction of the identification unit 15 can be adjusted to a direction suitable for the position / orientation measurement unit 14 to measure, and the rotation angle is set to the angle. Since it can be measured by the sensor 161, the orientation of the coordinate system ΣS of the equipment unit 22, that is, the manipulator 3 can be specified based on the result measured by the position / orientation measurement unit 14 and the detection result of the angle sensor 161. This is because the position and orientation of the manipulator can always be measured even when the orientation of the identification means 15 is directed to a posture suitable for measurement, so that the degree of freedom in the arrangement of the manipulator 3 is improved.
[0043]
In the above example, the degree of freedom of the intermediate link portion has been described as the degree of freedom of rotation. However, if the posture of the identification means 15 can be adjusted and the amount of adjustment can be measured, both the degree of freedom of rotation and the degree of freedom of translation can be obtained. Alternatively, even in a configuration in which one or more of these are combined, the same effect can be expected if the identification means 15 can be adjusted to a posture that allows easy measurement from the shadow. The configuration of the degree of freedom may be determined depending on the arrangement of the devices.
[0044]
If there is no overlap between the devices, the identification means 15 may be directly fixed to the manipulator 3. In this case, if the fitting shape provided between the equipment portion 22 and the intermediate link portion is the same as the fitting shape provided between the identification means 15 and the intermediate link portion, the identification means 15 is directly connected. It is possible to freely select attachment to the equipment part 22 or attachment with the intermediate link part interposed therebetween. Since the identification means 15 and the intermediate link part are detachable, they can be removed when they are no longer needed or when they interfere with the treatment. Furthermore, when the measurement is completed, the intermediate link portion can be moved to change the direction to a place where the identification means 15 does not interfere with the treatment.
[0045]
Information from the position / orientation measurement unit 14 measured using the identification unit 15 is transmitted to the control device 32 over time (for example, periodically). The angle sensor 161 is connected to the control device 32 so as to be able to transmit signals, and information detected by the angle sensor 161 is also transmitted to the control device 32 over time (for example, periodically) in the same manner as the position and orientation measurement means 14. By connecting the position / orientation measuring means 14 or the angle sensor 161 and the control device 32 using a connector or the like, the control device and the control device 32 can be freely attached and detached, and the connector can be removed if unnecessary. Become.
[0046]
With the above-described configuration of the surgical operation support device, the relative position and orientation relationship of the manipulators 3 to 5 that are arbitrarily arranged, and the treatment means equipped at the tips of the observation means 6 and the manipulators 4 and 5 equipped on the manipulators 3. 11 and 12 can be clarified. That is, it is possible to calculate the orientation of the coordinates of each means, the axial deviation between the coordinates, and the rotation matrix that maps the coordinates.
[0047]
In addition, the relative relationship between the operation means 8 and 9 (writing the rotation matrix calculation method) and the display means 10 can be measured and clarified by the same method. It should be noted that the relative orientation between the operation means 8 and 9 and the display means 10 is measured using a position / orientation measurement means different from the position / orientation measurement means 14 that measures the position / orientation of the manipulators 3 to 5, and the manipulator Information may be input or transmitted to the control device 32 in the same manner as the position and orientation information.
[0048]
Here, the rotation matrix that maps from the coordinate system ΣM to the coordinate system ΣD is CMD (not shown), and the rotation matrix that matches the orientation of each axis of the coordinate system ΣD and the coordinate system ΣE projected on the screen of the display means 10. Is CDE (not shown), and CES (not shown) is a rotation matrix that matches the directions of the axes of the coordinate system ΣE and the coordinate system ΣS.
The operation direction performed by the operator using the operation means 8 and 9 is coordinate-converted using the rotation matrices CMD, CDE, and CES, and the operation direction in the coordinate system ΣD and the coordinate system ΣS is calculated. The operation of the display means 10 and the manipulators 4 and 5 is controlled using these calculated operation directions after coordinate conversion as control commands. However, in this embodiment, since the directions of the axes of the coordinate system ΣE and the coordinate system ΣD projected on the screen of the display means 10 coincide, the rotation matrix CDE becomes a unit matrix.
[0049]
A screen on which the direction in which the operator operates the operation means 8 and 9 by the operator is provided to the display means 10 by the control based on the method of obtaining the coordinate conversion matrix and the calculation method of the operation direction using the coordinate conversion matrix as described above. Since the operation direction of the manipulators 4 and 5 is calculated so that the treatment tools 11 and 12 are moved in that direction, the treatment tools 11 and 12 reflected in the display means 10 are converted into the movement directions in the space reflected in the space. Can be made to coincide with the direction operated by the operating means 8 and 9.
[0050]
That is, regardless of the relative relationship between the manipulators 4 and 5, the relative relationship between the manipulators 3 to 5 and the operation means 8 and 9, or the relative relationship between the treatment tools 11 and 12 and the observation means 6, the operation means 8 and 9 are displayed on the screen. If operated to move rightward, the treatment tools 11 and 12 in the screen move to the right, and if operated to the back of the screen, the treatment tools 11 and 12 in the screen move to the back of the screen. Exactly, the movement of the hand and the movement of the treatment tools 11 and 12 in the monitor are synchronized in the same direction, so that the treatment tool 11 in the screen is actually operated with the treatment tools 11 and 12 at hand. , 12 are controlled.
[0051]
The tuning control unit 34 always controls the manipulators 3 to 5 according to the operation information while receiving the tuning execution signal from the tuning instruction means 21, and after the tuning execution signal is interrupted, from the operation means 7 to 9. It is configured to stop transmission of operation information. The tuning may be turned off while the signal is input, and the tuning may be executed only while the signal input is interrupted, or the tuning may be executed every time a signal is input from the tuning instruction means 21. Control may be performed to switch whether or not. The tuning control unit 34 may be configured before or after the coordinate conversion unit 35 that calculates the operation direction of the manipulator from the operation direction using each rotation matrix.
[0052]
Next, a specific control operation will be described with reference to FIG. FIG. 5 is a flowchart showing the control operation of the surgery support apparatus.
[0053]
First, the position and orientation of the operation means 8 and 9 are periodically detected (step 40). Then, the amount of change in position and orientation from the previous detection is calculated, and the operation command (operation direction and operation amount) input to the operation means 8 and 9 is calculated (step 41). The operation direction in the coordinate system ΣM calculated at this time is called a vector M.
[0054]
Next, it is checked whether or not the execution of tuning is instructed (step 42). If this is not instructed, the process returns to step 40 and the manipulators 3 to 5 are not operated. If the execution of tuning is instructed, the coordinate transformation matrix is updated if the measurement result information 23 of the position / orientation measurement means 14 is changed (step 43).
[0055]
Next, the vector M is coordinate-transformed using the rotation matrices CMD, CDE, and CES calculated based on the latest measurement result information, and the vector D in the coordinate system ΣD and the vector S in the coordinate system ΣS are calculated (step 44). . This converts vectors indicating the same direction into values in the respective coordinate systems, and calculates the motion direction vector S of the treatment instruments 11 and 12 displayed on the display means 10 that means the same direction as the operation direction vector M. ing.
[0056]
Next, the manipulators 4 and 5 are actually operated based on the operation amounts input to the operation units 8 and 9 in consideration of parameters such as the ratio of the operation amount between the operation units 8 and 9 and the manipulators 4 and 5. The amount to be calculated is calculated (step 45).
[0057]
Finally, the display means 10 and the manipulators 4 and 5 are controlled according to the motion direction calculated so far (vector D · S in the coordinate system ΣD · ΣS) and the motion amount (step 46).
[0058]
In the calculation, not the rotation matrix determined based on the posture between the operation means 8 and 9 and the manipulators 3 and 4, but the treatments provided in the manipulators 3 and 4 displayed on the operation means 8 and 9 and the display means 10 Since the rotation matrix determined based on the posture between the tools 11 and 12 is used, the actual operation direction and the operation direction displayed on the display unit 10 are the same as viewed from the operator.
[0059]
With the above-described method, the posture between the devices can be calculated before and during the treatment, and thus the rotation matrix between the coordinates can be calculated, and the manipulators 4 and 5 in the display means 10, that is, the display The movement of the treatment tools 11 and 12 displayed on the means 10 and the direction of movement of the operation means 8 and 9 can be matched.
[0060]
According to this method, even if the arrangement of the manipulators 3 to 5 and the arrangement of the manipulators 3 to 5 and the display unit 10 are arbitrary, the coordinate system from the coordinate system ΣE to the coordinate system ΣS and the coordinate system ΣD to the coordinate system The coordinate system ΣD set in the display means 10 and the coordinate system ΣS in the operation direction of the manipulators 4 and 5 displayed on the display means 10 can be made to coincide with each other by using a matrix for coordinate conversion to ΣE. Thereby, the operation direction of the treatment instruments 11 and 12 can be shown by relative expressions such as the coordinate system ΣD on the display unit 10 and the top, bottom, left and right in the display unit 10.
[0061]
Further, the operator can arrange the manipulators 3 to 5, the relative relationship between the manipulators 3 to 5 and the operation means 8 and 9, the relative relationship between the manipulators 4 and 5 and the observation means 6, and the relative relationship between the operation means 8 and 9 and the display means 10. Using the conversion matrix calculated by the conversion matrix calculation unit 24 based on the measurement result information 23 from the position / orientation measurement unit 14 without worrying about the position / orientation between the units such as the relationship, the operation units 8 and 9 are used. And the operation direction of the images of the treatment instruments 11 and 12 displayed on the display means 10 can be matched. As a result, it is only necessary to operate the operation means 8 and 9 in the direction in which the treatment tools 11 and 12 shown in the display means 10 are to be moved as if the treatment is actually performed by one's hand. Regardless of this, high operability can be obtained.
[0062]
Furthermore, since the treatment tools 11 and 12 operate in the screen in accordance with the operation direction, fine movement can be realized as intended by the operator. Therefore, the necessary treatment can be performed accurately and quickly without damaging the surrounding normal tissue, and the therapeutic effect and the safety of the treatment are enhanced.
[0063]
Further, the manipulators 3 to 5, the observation means 6, and the operation means 8 and 9 can be arranged according to the patient's body position, the position of the affected part, the arrangement of surrounding devices, etc., without worrying about the change in operability. Therefore, the manipulators 3 to 5 and the observation means 6 can more appropriately adjust the posture of approaching the affected area to perform treatment.
[0064]
Furthermore, since the equipment unit 22 of the manipulators 3 to 5 is detachable from the identification unit 15 and the intermediate link unit, a mechanism for detecting the posture of each unit interferes with medical staff who performs treatment and surrounding medical devices. Doctors can concentrate on treatment. Further, by removing these parts, it is possible to prevent the medical staff from coming into contact with these parts and the manipulator and the observation means to move and contact the patient's body. Therefore, it is possible to provide a medical staff with an easy-to-treat environment in an operation using a manipulator.
[0065]
Moreover, since the relative relationship between the observation means 6 and the treatment tools 11 and 12 can always be calculated, the observation means 6 can be moved during the operation. In the same way as described above, even if the affected area is difficult to see behind the other organs or the treatment tools 11 and 12 during treatment, even if the posture of the observation means 6 is changed to a posture that allows easier observation. The operation direction of the manipulators 4 and 5 reflected on the display means 10 and the operation direction of the operation means 8 and 9 can be matched.
[0066]
Further, even when the information measured in advance is changed, for example, the arrangement of each means is changed while the manipulators 3 to 5 are being used, based on the new measurement result information 23 of the position and orientation measurement means 14. Since the coordinate transformation matrix between each means is updated, the manipulators 4 and 5 are always controlled so that the operation directions of the images of the treatment tools 11 and 12 displayed on the operation means 8 and 9 and the display means 10 coincide with each other. Is possible.
[0067]
Further, since the direct relative relationship between the manipulators 4 and 5 and the operation means 8 and 9 is irrelevant, even if the console 13 including the operation means 8 and 9 is moved during the operation or the direction is changed, the display is possible. The operation direction of the images of the treatment instruments 11 and 12 displayed on the means 10 and the operation direction of the operation means 8 and 9 are kept in agreement, and the console 13 can be moved arbitrarily before and during the operation. Therefore, since it is possible to always move the console 13 to a position where it is easy to arrange the balance with other medical devices, the convenience in operation is high. Further, since the operation can be continued as it is even if it is moved during the operation, the operation can be resumed quickly without the trouble of resetting the direct relative relationship between the manipulators 4 and 5 and the operation means 8 and 9.
[0068]
In addition to these, since the instruction transmission from the operation means 7-9 can be cut or connected using the tuning instruction means 21, the posture of the operation means 7-9 can be changed while the positions of the manipulators 3-5 are fixed. The manipulators 3 to 5 can be started to operate from an easy-to-operate posture by performing adjustment so as to be easy to operate and then performing tuning. Moreover, since the arrangement of the operation means 7 to 9 and the manipulators 3 to 5 is arbitrary, it is conceivable that the postures of the treatment tools 11 and 12 displayed on the display means 10 at the start of the operation and the postures of the operation means 8 and 9 are different. Therefore, when the operation is started, the tuning execution is turned off, and the treatment tools 11 and 12 displayed on the operation means 8 and 9 and the display means 10 are set to the same posture, and then a tuning execution signal is sent. When the arrangement of the apparatus is arbitrary, it becomes possible to start the operation by matching the images of the treatment tools 11 and 12 displayed on the display means 10 with the postures of the operation means 8 and 9, The operator's intention can be more accurately reflected in the treatment tools 11 and 12 more accurately, and the operability can be improved.
[0069]
Next, different mounting examples of the identification means 15 will be described with reference to FIG. FIG. 6 is a perspective view showing an example of attachment of different identification means, and corresponds to FIG. This attachment example is an example in which a plurality of degrees of freedom of rotation are coupled by a link to widen the operating range of the identification means 15.
[0070]
The coupling member 151 has the same shape as the coupling member 151 of FIG. The first extension link 170 is fixed to the coupling member 151, and the first extension link 170 and the second extension link 171 are freely combined. The combination part 172 which is an end part of the second extension link 171 is a gear, and is combined via the first angle sensor 173 fixed to the first extension link 170 and the first measurement gear 174. Yes. The other end of the second extension link 171 is rotatably combined with the fixing member 164. The fixing member 164 has a gear portion 163 as in FIG. The second angle sensor 161 is fixed to the second extension link 171 and combined with the gear portion 163 via the measurement gear 162. Identification means 15 in which a plurality of light emitters 169 are fixed to the identification member 168 is fixed to the fixing member 164 by fitting the irregularities.
[0071]
The rotation angle of the second extension link 171 can be measured by the first angle sensor 173, and the rotation angle of the identification unit 15 can be measured by the second angle sensor 161. By combining these angle information, the length of the first extension link 170 and the second extension link 171, and the position and orientation information of the identification means 15 obtained by measuring the identification means 15 with the position and orientation measurement means 14, It is possible to calculate the coordinate direction of each means equipped with the identification means 15 having the intermediate link portion shown in FIG. The extension links 170 and 171 expand the operation range of the identification unit 15, and the position and orientation of the identification unit 15 can be adjusted to a posture suitable for measurement over a wider range. Since the adjustment range of the identification means 15 is expanded, the degree of freedom of arrangement of each means is increased, and it is possible to perform an operation with an arrangement more suitable for the patient's body position and treatment.
[0072]
Next, different attachment examples of the intermediate link portion for attaching the identification means 15 will be described with reference to FIG. FIG. 7 is an exploded perspective view showing a different example of the intermediate link portion for attaching the identification means. In FIG. 7, only the intermediate link part fitted to the equipment part 22 is shown and the identification means is omitted. The identification means for fixing to the intermediate link part is the same as in FIG.
[0073]
The concave portion 179 of the equipment portion 22 and the convex portion 178 of the coupling portion 175 can be fitted together. The concave portion 179 has an asymmetric shape in the upper, lower, left, and right directions so that the angle in the rotational direction of the coupling portion 175 fitted can be uniquely determined. A coupling magnet 177 is fixed around the recess 179 and is fixed by a magnetic force to the fixed flange 176 of the coupling member 175 fitted. The depth direction is also uniquely determined at the position where the coupling magnet 177 and the fixed flange 176 are in contact with each other. As in the other examples, the coupling member 175 can couple the fixing member 164 to freely rotate, or couple the extension link 170 or the like (not shown). In addition, the rotation angle can be measured at a portion having a degree of freedom by a combination of the angle sensor 161, the measurement gear 162, and the gear portion 163, as in the previous examples. In the case of a link with translational freedom in the length direction, it is only necessary to configure the sensor to measure the distance. This can be easily realized by a method using a sensor in which a measurement wire is pulled out according to the moving distance, a translational potentiometer, an optical sensor, or the like.
[0074]
In this attachment example, since the coupling member 175 and the equipment portion 22 are coupled using magnetic force, the coupling member 175 can be more easily detached and the labor required for the identification means can be further reduced.
[0075]
As a means for specifying the three-dimensional position and orientation of the manipulators 3 to 5, an optical measurement method using a marker set has been described as a representative. However, in order to specify the three-dimensional position and orientation, A method may be used. For example, an apparatus using a magnetic sensor can be used. When the position / orientation measurement unit 14 uses a magnetic material instead of the light emitter 169 as the identification unit 15, the marker set as the identification unit 15 is an identification unit suitable for the three-dimensional position measurement apparatus to be used. A similar method can be used as long as it is a device that measures the position and orientation in the three-dimensional space using the identification means.
[0076]
Next, a different example of the position / orientation measuring means 14 will be described with reference to FIG. FIG. 8 is a perspective view for explaining a modification of the position and orientation measuring means shown in FIG. In FIG. 8, not the position / orientation measurement unit 14 using the identification unit 15 described above, but the position / orientation measurement unit 14 using a method of measuring the inclination of coordinates between apparatuses will be described.
[0077]
FIG. 8 is an example in which the manipulators are connected by one or more rotatable joints or links having a linear motion part that can translate, and a rotation matrix of coordinates between the manipulators is obtained. A case where the manipulator 3 and the manipulator 4 are combined will be described as an example.
[0078]
The first extension link 170 is fixed to the coupling member 151 that is coupled to the equipment portion 22 of the manipulator 3. The first extension link 170 and the second extension link 171 are rotatably coupled. The second extension link 171 has a gear portion 172 that is fitted to the first extension link 170 at one end, and the gear portion 172 of the angle sensor 173 fixed to the first extension link 170 is engaged with the measurement gear 174. . Thereby, the rotation angle of the second extension link 171 relative to the first extension link 170 can be measured by the angle sensor 173.
[0079]
The other end of the second extension link 171 is rotatably coupled to the third extension link 183. The third extension link 183 has, at one end, a gear portion 181 that fits with the end portion 180 of the second extension link 171, and an angle sensor 189 and a gear portion 181 that are fixed to the end portion 180 of the second extension link 171. Are combined through the measurement gear 182. Thereby, the rotation angle of the third extension link 183 relative to the second extension link 171 can be measured by the angle sensor 189.
[0080]
The other end of the third extension link 183 has a gear portion 184 that is rotatably coupled to the fourth extension link 187, and the gear portion 184 of the angle sensor 186 fixed to the fourth extension link 187 is provided. It meshes with the measurement gear 185. Thereby, the rotation angle of the third extension link 183 relative to the fourth extension link 187 can be measured by the angle sensor 186.
[0081]
At the other end of the fourth extension link 187, a coupling member 188 that is coupled to the equipment portion 22 of the manipulator 4 is fixed.
[0082]
When the manipulator 3 and the coupling member material 151 are coupled, and the manipulator 4 and the coupling member material 188 are coupled, the first extension link 170 and the second extension link according to the relative posture and the relative distance between the manipulators 3 and 4. The angle between the second extension link 171 and the third extension link 183 and the angle between the third extension link 183 and the fourth extension link 187 change. The angle values at this time can be measured by the angle sensors 173, 189, and 186. From the measurement results and the lengths of the second extension link 171 and the third extension link 183, the relative postures of the manipulators 3 and 4 can be calculated. These values are taken into the control device 32 of the manipulator, a rotation matrix between the coordinates of the manipulators 3 and 4 is calculated, and this can be used in the control.
[0083]
The position / orientation measurement means 14 using the measurement link connecting the manipulators 3 and 4 can also be detached from the manipulators 3 and 4 upon completion of the measurement, so that the position / orientation measurement means 14 does not occupy the space around the patient. can do. Further, when the arrangement of the manipulators 3 and 4 is changed again during the treatment, the position and orientation measuring means 14 using the measurement link may be coupled to the equipment unit 22 again. Even if the position / orientation measurement means 14 is coupled to the manipulators 3 and 4, if not particularly disturbing, they may be coupled as they are. Even in this case, during the treatment, when it becomes necessary to move the manipulators 3 and 4, the arrangement can be changed at any time, and the latest information on the relative posture can always be measured.
[0084]
In the position / orientation measurement means 14 using the measurement link of FIG. 8, the fifth extension link does not interfere with the third extension link from the end 180 that fixes the angle sensor 189 that is one end of the second extension link 171. It is also possible to provide a structure in which the fifth extension link is connected to another connection member via the sixth extension link in the vertical direction in the same manner as the other extension links. As a result, the number of manipulators that can be coupled at one time is increased from two to three, and the relative postures of each can be measured at one time, thereby reducing the labor of measurement during the operation. In the same manner, it is possible to increase the number of sites coupled to the manipulator 22 to three or more.
[0085]
A part of the measurement link shown in FIG. 8 that is detachable from the measurement target can be fixed to a ceiling, a surgical bed, a frame for fixing a patient, or a holder that can be carried on the floor. is there. As a result, in order to make the removed measurement link available again during the operation, it is necessary to remove it from the manipulator and move it out of the way without securing a place to store it in the clean area. It becomes easy to recombine quickly when you want to keep and use. Therefore, the apparatus can be operated quickly without obstructing the flow of surgery.
[0086]
In the description related to FIG. 8, the relative relationship between the postures of the manipulators is shown. Similarly, it is possible to measure the relative relationship between the display unit and the operation unit.
[0087]
By knowing the relative distance between the observation means 6 and the treatment tools 11 and 12, it is possible to calculate the movement amount of the manipulator on the screen of the display means 10. It is also possible to control the operation amount so as to match the operation amount of the operation means 8 and 9, and it is also possible to control the manipulator to perform the movement of the operation means 8 and 9 at a predetermined magnification. The magnification of the operation can be changed according to the surgeon's preference, the treatment situation, the technique and the treatment method, and the operability can be further improved.
[0088]
In the embodiment described above, the device equipped with the observation means 6 is also the controllable manipulator 3. However, for example, a support means that can manually adjust and fix each joint angle may be used.
[0089]
Next, an example of support means equipped with the observation means 6 will be described with reference to FIG. FIG. 9 is a perspective view showing an example of support means equipped with the observation means shown in FIG.
[0090]
The 1st support link 50 and the 2nd support link 51 are connected so that translation is possible. The second support link 51 and the third support link 53, the third support link 53 and the fourth support link 55, the fourth support link 55 and the fifth support link 57 are respectively rotatable joints 52, 54 and 56 are connected. The fifth support link 57 and the sixth support link 59 are connected via a twist joint 58 so that they can be twisted. The end portion 60 of the sixth support link 59 and the grip portion 61 are rotatably connected. The gripping part 61 can be fixed by inserting or inserting a part of the observation means 6. FIG. 9 shows a state in which the lens portion 62 of the observation means 6 is inserted into the hollow portion of the gripping portion 61 and fixed with the fixing screw 63.
[0091]
The identification means 15 is fixed to the first support link 50, and the position / orientation of the part that becomes the base point of the support means can be measured from the position / orientation measurement means 14. Each movable part is provided with an angle sensor for measuring a rotation angle and a linear sensor for measuring a translation distance, as shown in FIG. 8, and the movable amount can be measured. From the length of each support link 50, 51, 53, 55, 57 and sensor information, the posture of the observation means 6 fixed to the grasping portion 61 can be calculated.
[0092]
The number and mechanism of the degree of freedom of the support means may have a degree of freedom that seems to be optimal or minimal as appropriate according to the case, body posture, and the like.
[0093]
The observation means 6 may be held by an assistant. In this case, the direction of the coordinate system ΣE of the observation means 6 is preferably a method of detecting the posture without contact. For example, as shown in the above-described embodiment, a method of always measuring the orientation of the identification unit 15 with a three-dimensional position measurement device is used as the identification unit 15 that detects the posture. The observation means 6 is provided with an equipment portion 22 for mounting the identification means 15 in a predetermined posture, and the posture of the identification means 15 is continuously measured. Since the attachment posture of the identification unit 15 is a known posture with respect to the observation unit 6, the direction of the coordinate system ΣE can be calculated. Similarly, the identification means 15 for detecting the orientation of the coordinate system ΣS of the manipulators 4 and 5 always measures and calculates the rotation matrix between the coordinate system ΣE and the coordinate system ΣS in accordance with the change in the holding posture of the observation means 6. . The control method using the rotation matrix is performed in the same manner as described above. Thereby, even when the observation means 6 is held by a person, the manipulators 4 and 5 can be controlled so that the operation directions of the images of the treatment tools 11 and 12 displayed on the display means 10 and the operation directions of the operation means 8 and 9 are matched. It becomes.
[0094]
In the above-described embodiment, an example in which the operation direction of the operation unit is matched with the operation direction of the video of the treatment tools 11 and 12 displayed on the display unit using the rotation matrices CMD, CDE, and CES has been described. The operation direction may be coordinate-transformed using only CDE and CES. In this case, the operation direction of the operation means 8 and 9 with respect to the display means 10 is arbitrary, and the operation direction of the treatment instruments 11 and 12 displayed on the display means 10 is controlled according to the rules set in advance in the operation means. That is, when the operation is performed in the XM direction of the coordinate system ΣM fixed to the operation means 8 and 9, regardless of the relative posture relationship between the operation means 11 and 12 and the display means 10, The treatment tools 11 and 12 displayed on the display means 10 are controlled in the XD direction.
[0095]
This control operation will be described with reference to FIG. FIG. 10 is a flowchart of control operations different from those in FIG. 5 in the surgery support apparatus of FIG.
[0096]
In this control operation, the processing in step 44 is different from that in FIG. 5, and the processing for converting the direction of the display means 10, which means the operation direction, is performed. That is, as specifically shown in step 70 of FIG. 10, the motion direction indicated by the vector is coordinate-transformed using the rotation matrices CDE and CES, and the motion direction vector D · S of the treatment instrument in the coordinate system D · S is obtained. The calculation step is changed.
[0097]
When it is not possible to secure a sufficient place to arrange the operation means 8 and 9 and the display means 10 due to the balance with other devices, the display means 10 may have to be installed in an oblique direction as viewed from the operator. However, in such a case, when the operating means 8 and 9 are operated in either direction rather than making the operating direction of the operating means 8 and 9 directly coincide with the moving direction of the image of the treatment instrument 11 or 12, In some cases, the operability may be improved by controlling which of the treatment instruments 11 and 12 operates according to a preset rule.
[0098]
Coordinate conversion is performed in the relative posture between the operation means 8 and 9 and the display means 10, and the operation direction is determined between the operation means 8 and 9 and the images of the treatment tools 11 and 12 displayed on the display means 10. Whether to match the movement directions or to control the movement directions of the images of the treatment instruments 11 and 12 displayed on the display means 10 according to the rules set between the operation means 8 and 9 and the display means 10 By making it possible to switch with a switch or the like, it becomes possible to select more appropriately according to the preference of the surgeon using the operation support device or according to the situation such as the area around the console 13, and more accurately It becomes possible to realize treatment with high operability.
[0099]
Next, a modified example of the arrangement configuration of the display means and the operation means will be described with reference to FIG. FIG. 11 is a perspective view of an example in which display means and operation means are integrally arranged. In FIG. 11, two operation means 8 and 9 are arranged on the left and right sides of the display means 10, and the operation means 8 and 9 are set in advance as to which direction the operation tool displayed on the display means 10 is operated. ing.
[0100]
Operation means 8 and 9 are integrally formed with the display device 10 on the left and right sides of the display device 10. The operation means 8 and 9 are composed of a plurality of direction support buttons. When the upper button 73 is pressed, the treatment instrument 12 operates in the direction of the direction support mark 80 indicating the display means upward, and when the right button 74 is pressed, the treatment instrument 12 operates in the direction of the direction support mark 81 indicating the display means right. Then, when the lower button 75 is pressed, the treatment instrument 12 operates in the direction of the direction support mark 82 indicating the display means below, and when the left button 76 is pressed, the treatment instrument 12 is moved in the direction of the direction support mark 83 indicating the display means left. Works. When the back button 77 is pressed, the treatment instrument 12 operates in the rear direction of the display unit, and when the front button 78 is pressed, the treatment instrument 12 operates in the front direction of the display unit. When the grip button 79 is pressed, the distal end of the treatment instrument 12 is closed. Thus, using the operation means 8 and 9 that cannot perform the same operation as the treatment tools 11 and 12, the operation of the operation means 8 and 9 and the operation of the displayed treatment tools 11 and 12 that means 1 to 1 according to a predetermined rule, the treatment tools 11 and 12 displayed on the display means 10 are always the same regardless of the relative positions of the observation means 6 and the manipulators 4 and 5 arranged arbitrarily. The operability can be realized.
[0101]
According to the embodiment described above, the observation means 6 necessary for the treatment, the treatment tools 11 and 12, the display means 10 for presenting information from the observation means 6, and the operation means 8 for operating the position and orientation of the treatment tools 11 and 12. , 9 can be arranged at arbitrary positions according to the operator's wishes, and the treatment tools 11, 12 displayed on the display means 10 irrespective of the arbitrary arrangement state. It is possible to control the operation direction so as to match the operation direction of the operation means 8 and 9, and the same operability can always be obtained, and furthermore, the operation direction matches the operation direction in the screen. A more comfortable operability such as a person directly holding and operating the treatment tools 11 and 12 can be obtained. In addition, each independent means has a high degree of freedom to arrange in an optimal posture for treatment, and does not interfere with medical staff during treatment, and more work is performed in treatment using multiple manipulators. An easy environment can be provided.
[0102]
In addition, the direction of movement of the treatment instruments 11 and 12 displayed on the display means 10 can be instructed based on a predetermined correspondence regardless of the relative posture relationship between the display means 10 and the operation means 8 and 9. The operation means 8 and 9 and the display means 10 can be arranged in an arrangement that is easier for the operator to operate, and treatment can be performed. Therefore, it is possible to operate the treatment tools 11 and 12 with the same operability even when the operation is performed while viewing the screen at an angle or when the operation means 8 and 9 are operated in front due to the circumstances of the operator. Therefore, the operation of the operation means 8 and 9 and the operation of the treatment tools 11 and 12 with respect to the display means 10 are always kept the same. This makes it easy for the operator to get used to the operation, and enables treatment that accurately reflects the will for the treatment operation more accurately.
[0103]
As described above, since an environment in which the will can be more easily reflected can be provided, it is possible to improve the accuracy and precision of the treatment, and thus improve the treatment effect and reduce the invasiveness.
[0104]
In summary, the following matters are disclosed regarding the configuration according to the present invention.
[0105]
Direction and display for operating the operation means in an environment in which observation means such as an endoscope arranged arbitrarily, a manipulator having a treatment instrument, display means such as a monitor, and operation means for operating the manipulator are arbitrarily arranged It is set as the structure which controls so that the treatment tool reflected in a means may correspond to the moving direction.
[0106]
In addition, the operation direction of the operation unit and the moving direction of the treatment tool reflected on the display unit are configured to coincide with each other with a preset correspondence relationship.
[0107]
Further, the observation means held by the holding means and the manipulator observed by the observation means independent from the holding means holding the observation means are detachably attachable to the observation means and the identification means capable of measuring the attitude of the manipulator. Equipped with this, the rotation matrix that matches the attitude between the observation means and the manipulator obtained by measuring the attitude of the observation means and the manipulator through the identification means is calculated, and the rotation matrix is calculated in the operation direction input to the operation means. It is set as the structure which has a control system which operates a manipulator in the direction converted using.
[0108]
Furthermore, between the identification means and the observation means or manipulator, there is one or more degrees of freedom, and a displacement measuring means for measuring the displacement of the degrees of freedom, and a position and orientation obtained by solving the identification means A control system that calculates a rotation matrix that matches the posture between the observation means or the manipulator from the measurement amount of the displacement amount measurement means, and operates the manipulator in the direction converted using the rotation matrix into the operation direction input to the operation means It is set as the structure which has.
[0109]
Furthermore, the rotation matrix is recalculated periodically or when the arrangement of the holding means or the display means or the operation means for holding the manipulator or the observation means is changed, and the recalculated rotation matrix is used to recalculate the manipulator. A configuration is provided that includes a control device that calculates an operation direction.
[0110]
Furthermore, a coordinate transformation matrix relating the coordinate system of the manipulator and the coordinate system at the tip of the observation means, a coordinate transformation matrix relating the coordinate system of the observation means and the coordinate system fixed to the display means, and fixed to the display means The coordinate system is configured to have a coordinate conversion matrix that associates the coordinate system that is fixed with the coordinate system that is fixed to the operation means, and sequentially controls the operation instructions input by the operation to obtain the operation direction and the operation amount of the manipulator.
[0111]
Furthermore, the coordinate system of the treatment tool at the tip of the manipulator, the coordinate transformation matrix that relates the coordinate system of the observation means that observes the manipulator, and the coordinate that associates the coordinate system of the tip of the observation means and the coordinate system fixed to the display means The transformation matrix, the coordinate system fixed to the display means, and the coordinate system fixed to the gripping part of the operation means have a preset correspondence relationship, and the operation instructions input by the operation are converted between the display means and the observation means. The coordinate control is performed by sequentially converting the matrix, the coordinate conversion matrix between the observation means, and the treatment tool so as to obtain the movement direction and movement amount of the manipulator tip.
[0112]
Further, the posture of the manipulator equipped with the treatment tool is provided with position / orientation measurement means for measuring the posture of the treatment tool at the tip of the manipulator, the posture of the observation means for observing the tip of the manipulator, the posture of the display means, and the posture of the operation means. A deviation of the relative posture between the posture of the manipulator equipped with the means, an axis perpendicular to the lens of the observation means, and an axis perpendicular to the display surface of the display means in the posture of the observation means and the posture of the display means Is calculated from the deviation between the two axes in the plane horizontal to the lens and the two axes in the plane horizontal to the display means screen, and the deviation in the attitude of the display means and the gripping portion of the operation means. The surgical operation support apparatus in which the manipulator operates according to the value obtained by converting the operation direction performed by the operation means using the coordinate conversion matrix is used.
[0113]
Furthermore, when measuring the attitude of the manipulator, display means, and operation means using the position / orientation measurement means, measurement is performed so that the identification means attached to the measurement object can be detachably fixed to a predetermined position and orientation of the measurement object. A configuration is used in which an equipment part having an asymmetrical unevenness is used as a target, and an identification means having unevenness that can uniquely determine the position and orientation. And it is set as the structure which provides the extension link which has one or more degrees of freedom between an equipment part and an identification means.
[0114]
Furthermore, it is a measurement link that has a plurality of joints that are detachable, has a coupling means composed of irregularities that can uniquely determine the position and orientation with respect to the measurement target, and has a sensor for measuring the movement amount of each joint. The measurement objects are configured to be detachably coupled.
[0116]
【The invention's effect】
  BookAccording to the invention, even if the manipulator and the operation means are arranged at arbitrary places, the operation means can be easily operated while viewing the display means, and a surgical operation support apparatus excellent in safety, workability, and operability can be obtained. .
[Brief description of the drawings]
FIG. 1 is a perspective view of a surgery support apparatus showing an embodiment of the present invention.
FIG. 2 is a control block diagram of the surgery support apparatus in FIG. 1;
3 is an explanatory diagram of a coordinate system of the treatment tool and the observation means of the surgery support apparatus in FIG. 1. FIG.
4 is an exploded perspective view showing an example of attaching identification means of the surgery support apparatus of FIG. 1. FIG.
FIG. 5 is a flowchart showing a control operation of the surgery support apparatus in FIG. 1;
6 is a perspective view showing a different example of attachment of the identification means of the surgery support apparatus of FIG. 1. FIG.
7 is an exploded perspective view showing a different example of the intermediate link portion for attaching the identification means of the surgery support apparatus of FIG. 1. FIG.
FIG. 8 is a perspective view for explaining a modified example of the position and orientation measuring means shown in FIG. 1;
9 is a perspective view showing an example of support means equipped with the observation means shown in FIG. 1. FIG.
10 is a flowchart of a control operation different from FIG. 5 in the surgery support apparatus of FIG.
FIG. 11 is a perspective view of a modified example of the display unit and the operation unit shown in FIG.
[Explanation of symbols]
DESCRIPTION OF SYMBOLS 1 ... Patient, 2 ... Surgical bed, 3-5 ... Manipulator, 6 ... Observation means, 8 ... Operation means, 9 ... Operation means, 10 ... Display means, 11, 12 ... Treatment tool, 13 ... Console, 14 ... Position Attitude measurement means, 15 ... identification means (marker set), 17 ... coordinate system of manipulator, 18 ... coordinate system of display means, 19 ... coordinate system of observation means, 20 ... coordinate system of operation means, 21 ... tuning instruction means, DESCRIPTION OF SYMBOLS 22 ... Equipment part, 25 ... Coordinate system of manipulator projected on treatment tool, 26 ... Coordinate system of observation means projected on treatment tool, 32 ... Control apparatus.

Claims (2)

操作者が操作指令を入力するために操作する操作手段と、
処置具が設けられ且つ制御指令に基づいて動作するマニピュレータと、
前記マニピュレータの動作を観察する観察手段と、
前記観察手段で観察したマニピュレータの映像を画面に表示する表示手段と、
前記操作手段および前記マニピュレータの位置姿勢を計測する位置姿勢計測手段と、
前記マニピュレータの動作を制御する制御装置とを備えた手術支援装置において、
前記制御装置は、前記操作手段で入力された操作指令前記位置姿勢計測手段で計測された前記操作手段前記マニピュレータおよび前記観察手段それぞれの動作の基点となる位置を原点とした座標系で表す位置姿勢に基づいて、前記操作手段の操作方向と前記観察手段で観察されて前記表示手段に表示されマニピュレータの処置具の映像の動作方向とを一致させる制御指令を生成する変換部を有することを特徴とする手術支援装置。
Operation means operated by an operator to input an operation command;
A manipulator provided with a treatment tool and operating based on a control command;
Observation means for observing the operation of the manipulator;
Display means for displaying an image of the manipulator observed by the observation means on a screen;
Position and orientation measurement means for measuring the position and orientation of the operation means and the manipulator;
In a surgery support device comprising a control device for controlling the operation of the manipulator,
The control device has a coordinate system in which an origin is a position serving as a base point of each operation of the operation means , the manipulator and the observation means measured by the operation command input by the operation means and the position and orientation measurement means. based on the position and orientation representing a conversion unit for generating a control command to match the operation direction of the operation direction and the image of the treatment instrument manipulator displayed on the display means is observed by the observation means of said operating means A surgical operation support device comprising:
請求項1において、前記制御装置は、前記マニピュレータを観察する観察手段の姿勢を前記観察手段に観察される前記マニピュレータの姿勢に一致させる座標変換行列を有し、操作手段に入力される操作方向と前記座標変換行列とから前記観察手段で観察されるマニピュレータの処置具の動作方向を算出する算出部を有することを特徴とする手術支援装置。Oite to claim 1, wherein the control device has a coordinate transformation matrix for matching the orientation of the viewing means for observing said manipulator on the attitude of the manipulator observed in the observation means, is input to the operation unit operation An operation support apparatus comprising: a calculation unit that calculates an operation direction of a treatment tool of a manipulator observed by the observation unit from a direction and the coordinate transformation matrix.
JP2002072903A 2002-03-15 2002-03-15 Surgery support device Expired - Fee Related JP3766805B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002072903A JP3766805B2 (en) 2002-03-15 2002-03-15 Surgery support device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002072903A JP3766805B2 (en) 2002-03-15 2002-03-15 Surgery support device

Publications (2)

Publication Number Publication Date
JP2003265500A JP2003265500A (en) 2003-09-24
JP3766805B2 true JP3766805B2 (en) 2006-04-19

Family

ID=29202771

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002072903A Expired - Fee Related JP3766805B2 (en) 2002-03-15 2002-03-15 Surgery support device

Country Status (1)

Country Link
JP (1) JP3766805B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1973021A2 (en) 2007-03-20 2008-09-24 Hitachi, Ltd. Master-slave manipulator system
JP2010082189A (en) * 2008-09-30 2010-04-15 Olympus Corp Calibration method of manipulator in surgical manipulator system

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6804333B1 (en) 1999-01-28 2004-10-12 International Business Machines Corporation Dynamically reconfigurable distributed interactive voice response system
US6817974B2 (en) 2001-06-29 2004-11-16 Intuitive Surgical, Inc. Surgical tool having positively positionable tendon-actuated multi-disk wrist joint
US20060178556A1 (en) 2001-06-29 2006-08-10 Intuitive Surgical, Inc. Articulate and swapable endoscope for a surgical robot
KR101118049B1 (en) 2002-12-06 2012-02-24 인튜어티브 서지컬 인코포레이티드 Medical instrument
KR100756625B1 (en) 2006-04-10 2007-09-07 건국대학교 산학협력단 Image registration system and method for intra-cavity surgical robot
JP2012171088A (en) * 2011-02-24 2012-09-10 Olympus Corp Master operation input device, and master-slave manipulator
JP6021484B2 (en) 2011-08-04 2016-11-09 オリンパス株式会社 Medical manipulator
JP5953058B2 (en) 2011-08-04 2016-07-13 オリンパス株式会社 Surgery support device and method for attaching and detaching the same
JP6021353B2 (en) 2011-08-04 2016-11-09 オリンパス株式会社 Surgery support device
JP5855656B2 (en) * 2011-08-04 2016-02-09 オリンパス株式会社 Medical manipulator and method of operating the same
JP6081061B2 (en) 2011-08-04 2017-02-15 オリンパス株式会社 Surgery support device
JP6009840B2 (en) 2011-08-04 2016-10-19 オリンパス株式会社 Medical equipment
JP5841451B2 (en) 2011-08-04 2016-01-13 オリンパス株式会社 Surgical instrument and control method thereof
JP6000641B2 (en) 2011-08-04 2016-10-05 オリンパス株式会社 Manipulator system
EP2740433B1 (en) 2011-08-04 2016-04-27 Olympus Corporation Surgical implement and medical treatment manipulator
EP2740434A4 (en) 2011-08-04 2015-03-18 Olympus Corp Medical manipulator and method for controlling same
JP5931497B2 (en) 2011-08-04 2016-06-08 オリンパス株式会社 Surgery support apparatus and assembly method thereof
CN103648425B (en) * 2011-08-04 2016-10-19 奥林巴斯株式会社 Medical manipulator and surgery support device
JP5936914B2 (en) 2011-08-04 2016-06-22 オリンパス株式会社 Operation input device and manipulator system including the same
JP6005950B2 (en) 2011-08-04 2016-10-12 オリンパス株式会社 Surgery support apparatus and control method thereof
WO2014146090A1 (en) 2013-03-15 2014-09-18 Intuitive Surgical Operations, Inc. Inter-operative switching of tools in a robotic surgical system
JP6097390B2 (en) * 2013-06-13 2017-03-15 テルモ株式会社 Medical manipulator
WO2015129474A1 (en) 2014-02-28 2015-09-03 ソニー株式会社 Robot arm apparatus, robot arm control method, and program
CN107072717B (en) * 2014-08-22 2020-01-03 直观外科手术操作公司 System and method for adaptive input mapping
WO2016194539A1 (en) * 2015-05-29 2016-12-08 オリンパス株式会社 Medical manipulator system
KR102437404B1 (en) * 2016-07-14 2022-08-30 인튜어티브 서지컬 오퍼레이션즈 인코포레이티드 Systems and methods for controlling surgical instruments
WO2018150489A1 (en) * 2017-02-15 2018-08-23 株式会社メディカロイド Method for operating surgical instrument, robotic surgery system, program for estimating relationship between camera coordinates and coordinates related to robot
WO2018225121A1 (en) * 2017-06-05 2018-12-13 オリンパス株式会社 Medical system and medical system operation method
US10987179B2 (en) 2017-12-06 2021-04-27 Auris Health, Inc. Systems and methods to correct for uncommanded instrument roll
KR102478344B1 (en) * 2022-07-06 2022-12-16 주식회사 에어스메디컬 Method, program, and apparatus for mornitoring control of medical robot

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1973021A2 (en) 2007-03-20 2008-09-24 Hitachi, Ltd. Master-slave manipulator system
JP2008228967A (en) * 2007-03-20 2008-10-02 Hitachi Ltd Master-slave manipulator system
JP2010082189A (en) * 2008-09-30 2010-04-15 Olympus Corp Calibration method of manipulator in surgical manipulator system

Also Published As

Publication number Publication date
JP2003265500A (en) 2003-09-24

Similar Documents

Publication Publication Date Title
JP3766805B2 (en) Surgery support device
US11963666B2 (en) Overall endoscopic control system
JP6891244B2 (en) Medical devices, systems, and methods that use eye tracking
US20210386494A1 (en) Systems and methods for controlling a surgical instrument
JP3540362B2 (en) Surgical manipulator control system and control method
US11877816B2 (en) Systems and methods for master/tool registration and control for intuitive motion
JP7405432B2 (en) Robotic surgical device with tracking camera technology and related systems and methods
EP2046538B1 (en) Surgical tool position and identification indicator displayed in a boundary area of a computer display screen
US6201984B1 (en) System and method for augmentation of endoscopic surgery
JP7257559B2 (en) Auxiliary instrument control in computer-aided remote control system
EP3651677B1 (en) Systems and methods for switching control between multiple instrument arms
KR20220066432A (en) Computer-assist remote control surgical system and method
US20230240765A1 (en) Remote control apparatus
EP3592276B1 (en) Systems for controlling tool with articulatable distal portion
US20210315647A1 (en) Surgical Robot and Method for Displaying Image of Patient Placed on Surgical Table
JP2020044354A (en) Remote operation device and remote operation system
JPH08215205A (en) Medical manipulator
JP2020006231A (en) Remote operation device
CN116869669B (en) Surgical robot system
CN116869668B (en) Surgical robot system
JP4460700B2 (en) Surgical site observation system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040419

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050627

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050705

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050902

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20050902

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060124

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060130

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 3766805

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100203

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100203

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110203

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120203

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120203

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130203

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130203

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees