JP5856745B2 - 手術システム及びその制御方法 - Google Patents

手術システム及びその制御方法 Download PDF

Info

Publication number
JP5856745B2
JP5856745B2 JP2011057050A JP2011057050A JP5856745B2 JP 5856745 B2 JP5856745 B2 JP 5856745B2 JP 2011057050 A JP2011057050 A JP 2011057050A JP 2011057050 A JP2011057050 A JP 2011057050A JP 5856745 B2 JP5856745 B2 JP 5856745B2
Authority
JP
Japan
Prior art keywords
abnormality
image information
determined
abnormality detection
surgical
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011057050A
Other languages
English (en)
Other versions
JP2012192004A (ja
Inventor
啓能 並木
啓能 並木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2011057050A priority Critical patent/JP5856745B2/ja
Priority to CN201280012794.2A priority patent/CN103429188B/zh
Priority to EP12757164.4A priority patent/EP2687181B1/en
Priority to PCT/JP2012/056261 priority patent/WO2012124651A1/ja
Priority to US13/418,683 priority patent/US9585724B2/en
Publication of JP2012192004A publication Critical patent/JP2012192004A/ja
Application granted granted Critical
Publication of JP5856745B2 publication Critical patent/JP5856745B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/044Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for absorption imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B34/37Master-slave robots
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00017Electrical control of surgical instruments
    • A61B2017/00115Electrical control of surgical instruments with audible or visual output
    • A61B2017/00119Electrical control of surgical instruments with audible or visual output alarm; indicating an abnormal situation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • A61B2090/373Surgical systems with images on a monitor during operation using light, e.g. by using optical scanners

Description

本発明は、例えば医療用マニピュレータシステム等の手術システム及びその制御方法に関する。
近年、ロボットを用いた医療処置に係る技術について種々の提案が為されている。特に外科分野においては、多自由度アームを有する多自由度マニピュレータによって患者の処置をする医療用マニピュレータシステムについて各種の提案がなされている。
例えば特許文献1には、複数の医療用マニピュレータを使用した手術においてマニピュレータに何等かの動作不良が生じた場合に、それに対して速やかに対処できる安全性及び操作性に優れた医療用マニピュレータシステムが開示されている。
具体的には、特許文献1に開示されている医療用マニピュレータシステムでは、赤外線センサーが所定量の赤外線を検知した場合に、センサー処理回路がそれを認識し、処置用スレーブマニピュレータの動作が停止される。
例えば、赤外線センサーからの検知データ値が予め設定された閾値以上であるとセンサー処理回路で判断された場合には、センサー処理回路から処置用スレーブマニピュレータを実際に制御しているサーボ処理回路に停止命令が送られ、処置用スレーブマニピュレータの動作が停止される。このようにして、処置具の先端が、意図せずして臓器に接触してしまうことを防ぐことができる。
特許第3717552号公報
ところで、医療用マニピュレータシステムのうち撮像系(例えば内視鏡等)に異常が発生した場合には、術者は、視野を失う等の非常に大きな不都合を蒙る。従って、従来より医療用マニピュレータシステムのような手術システムにおいて、撮像系に生じた異常状態に対して適切且つ迅速に対処する技術が望まれている。なお、特許文献1に開示されている技術は、撮像系に生じた異常状態に対処する処理を規定しているものではない。
本発明は、上記の事情に鑑みてなされたもので、撮像系を具備する手術システムであって、撮像系により取得した画像が正常に表示されていない状態(異常状態)である場合に、適切に対処する処理を実行する手術システム及びその制御方法を提供することを目的とする。
上記の目的を達成するために、本発明の一態様の手術システムは、
画像情報を取得する撮像系を具備する手術システムであって、
前記画像情報が異常状態の内容を表す複数の異常検出パターンのいずれかにあてはまるかを判定する判定部と、
前記判定部により前記画像情報が少なくとも1つの前記異常検出パターンにあてはまると判定された場合に異常対応処理を実行する異常処理モードに切り替える制御部と、
を具備し、
前記制御部は、前記画像情報が複数の前記異常検出パターンにあてはまると判定された場合、前記異常処理モードにおいて、あてはまると判定された複数の前記異常検出パターンから導出された異常対応処理を実行し、前記画像情報が1つの前記異常検出パターンにあてはまると判定された場合、前記異常処理モードにおいて、あてはまると判定された1つの前記異常検出パターンに対応する異常対応処理を実行する。
上記の目的を達成するために、本発明の一採用の手術システムの制御方法は、
画像情報を取得する撮像系を具備する手術システムの制御方法であって、
前記画像情報が異常状態の内容を表す複数の異常検出パターンのいずれかにあてはまるかを判定することと、
前記画像情報が少なくとも1つの前記異常検出パターンにあてはまると判定された場合に異常対応処理を実行する異常処理モードに切り替えることと、
を具備し、
前記画像情報が複数の前記異常検出パターンにあてはまると判定された場合の前記異常処理モードは、
あてはまると判定された複数の前記異常検出パターンから異常対応処理を導出することと、
前記導出された異常対応処理を実行することと、
を含み、
前記画像情報が1つの前記異常検出パターンにあてはまると判定された場合の前記異常処理モードは、
あてはまると判定された1つの前記異常検出パターンに対応する異常対応処理を実行することを含む。
本発明によれば、撮像系を具備する手術システムであって、撮像系により取得した画像が正常に表示されていない状態(異常状態)である場合に、適切に対処する処理を実行する手術システム及びその制御方法を提供することができる。

本発明の一実施形態に係る手術システムの第1の構成例を示す図。 本発明の一実施形態に係る手術システムの第2の構成例を示す図。 本発明の一実施形態に係る手術システムに生じた異常状態への対応処理の一例のフローチャートを示す図。 図3に示すフローチャートのステップS4における処理(ステップS4からステップS5又はステップS8への分岐処理;同フローチャートにおいて破線で囲まれた領域D内の処理)を詳細に記すフローチャートを示す図。 図3に示すフローチャートにおけるステップS10の処理(第二のモードへの設定処理)のサブルーチンのフローチャートを示す図。
以下、図面を参照して本発明の一実施形態について説明する。
図1は、本一実施形態に係る手術システムの第1の構成例を示す図である。本例では、マスタースレーブ方式の手術システムを想定している。ここで、マスタースレーブ方式の手術システムとは、マスターアームとスレーブアームとからなる2種のアームを有し、マスターアームの動作に追従させるようにしてスレーブアームを遠隔制御するシステムのことを言うものとする。
図1に示す手術システムは、手術台100と、スレーブアーム200a〜200dと、スレーブ制御回路400と、マスターアーム500a,500bと、操作部600と、入力処理回路700と、画像処理回路800と、ディスプレイ900a,900bと、を有している。
手術台100は、観察・処置の対象となる患者1が載置される台である。この手術台100の近傍には、複数のスレーブアーム200a、200b、200c、200dが設置されている。なお、スレーブアーム200a〜200dを手術台100に設置するようにしても良い。
スレーブアーム200a、200b、200c、200dは、それぞれ複数の多自由度関節を有して構成されている。このようなスレーブアーム200a、200b、200c、200dは、各関節を湾曲させることによって、手術台100に載置された患者1に対してスレーブアーム200a〜200dの先端側(患者1の体腔に向かう側とする)に装着される処置具や観察器具といった各種の術具を位置決めする。
スレーブアーム200a〜200dの各関節は、アーム内に設けられた動力部によって個別に駆動される。この動力部としては、例えばインクリメンタルエンコーダや減速器等を備えたサーボ機構を有するモータ(サーボモータ)が用いられる。このサーボモータの動作制御は、スレーブ制御回路400によって行われる。
さらに、スレーブアーム200a〜200dは、各々の先端側に装着される術具240a〜240dを駆動するための複数の動力部も有している。この動力部も例えばサーボモータが用いられ、このサーボモータの動作制御もスレーブ制御回路400によって行われる。
スレーブアーム200a〜200dの動力部が駆動された場合には、モータの駆動量が位置検出器によって検出される。位置検出器からの検出信号はスレーブ制御回路400に入力され、この検出信号により、スレーブアーム200a〜200dの駆動量がスレーブ制御回路400において検出される。
手術用動力伝達アダプタ(以下、単にアダプタと言う)220a、220b、220c、220dは、スレーブアーム200a、200b、200c、200dと術具240a、240b、240c、240dとの間に介在されてスレーブアーム200a、200b、200c、200dと術具240a、240b、240c、240dとをそれぞれ接続する。詳細は後述するが、アダプタ220a〜220dは、それぞれが直動機構を有し、対応するスレーブアームの動力部において発生した動力を直動運動によって対応する術具に伝達するように構成されている。
術具240a〜240dは、複数の自由度を有する関節部を有し、患者1の体壁に開けられた図示しない挿入孔から患者1の体腔内に挿入される。また、術具240a〜240dは、先端部が湾曲駆動したり回転駆動したりできるように構成されている。
この湾曲駆動は、例えばスレーブアーム200a〜200d内にそれぞれ設けられたサーボモータを駆動させて術具240a〜240d内に挿通配置されているワイヤを押し引き操作することによって行われる。また、回転駆動は、例えばスレーブアーム200a〜200d内にそれぞれ設けられたサーボモータを駆動させて術具240a〜240d内にそれぞれ設けられた回転機構を作動させたりすることによって行われる。
さらに、術具の種類によっては、術具の先端に開閉機構が設けられている。この開閉機構は、例えば、処置を行う為の針や糸等の器具、血管、臓器、及び脂肪等を把持する操作を可能とする為の機構である。この開閉機構も、例えばスレーブアーム200a〜200dにそれぞれ設けられたサーボモータを駆動させて術具内に挿通配置されたワイヤを押し引き操作することにより作動される。
ここで、図1に示す4本のスレーブアーム200a〜200dのうち、例えば、スレーブアーム200a、200b、200dは処置用のスレーブアームとして用いられるものである。これら処置用のスレーブアーム200a、200b、200dには、術具240a、240b、240dとして各種の外科手術器具が装着される。
なお、本一実施形態における外科手術器具とは、例えばメスや鋏等の、患者1の体内の組織部位に対して処置を行うための術具を言うものとする。また、スレーブアーム200cは観察用のカメラアームとして用いられるものである。スレーブアーム200cには、術具240cとして各種の観察器具が装着される。本一実施形態における観察器具とは、電子内視鏡等の、患者1の体内の組織部位を観察するための術具を言うものとする。
また、アダプタ220a〜220dに装着された術具240a〜240dは、交換用術具240eと交換可能になされている。このような術具の交換作業は、例えば助手2によって行われる。
ドレープ300は、本一実施形態に係る手術システムにおいて滅菌処理を行う部位(以下、清潔域と称する)と滅菌処理を行わない部位(以下、不潔域と称する)とを分けるためものである。
例えば、メスや鋏等の外科手術器具は患者1の体腔内に直接接触するものであり、洗浄処理や滅菌処理を十分に行っておく必要がある。これに対し、スレーブアーム200a〜200dの動力部等は各種の電子部品を備えているため、通常は滅菌処理に耐え得る構造をしていない。
したがって、アダプタ220a〜220dを介してスレーブアーム200a〜200dに術具240a〜240dを装着した状態で手術を行う際には、滅菌処理済みの術具240a〜240dの部分を露出させ、スレーブアーム200a〜200dの動力部が保護されるように、図1に示すように、スレーブアーム200a〜200dの動力部の部分をドレープ300によって包むようにした状態で手術を行う。
ドレープ300によって清潔域と不潔域とを分けておくことにより、手術中において清潔域と不潔域との交錯を防止する。
スレーブ制御回路400は、例えばCPUやメモリ等を有して構成されている。このスレーブ制御回路400は、スレーブアーム200a〜200bの制御を行うための所定のプログラムを記憶しており、入力処理回路700からの制御信号に従って、スレーブアーム200a〜200b又は術具240a〜240dの動作を制御する。
即ち、スレーブ制御回路400は、入力処理回路700からの制御信号に基づいて、操作者3によって操作されたマスターアームの操作対象のスレーブアーム(又は術具)を特定し、特定したスレーブアーム(術具)に操作者3のマスターアームの操作量に対応した動きをさせるために必要な駆動量を演算する。そして、スレーブ制御回路400は、算出した駆動量に応じてマスターアームの操作対象のスレーブアームの動作を制御する。この際、スレーブ制御回路400は、対応したスレーブアームに駆動信号を入力するとともに、対応したスレーブアームの動作に応じて動力部の位置検出器から入力されてくる検出信号に応じて、操作対象のスレーブアームの駆動量が目標の駆動量となるように駆動信号の大きさや極性を制御する。
さらに、スレーブ制御回路400は、スレーブアーム200cに装着された観察器具から画像信号が入力されてきた場合には、入力された画像信号を画像処理回路800に出力することも行う。なお、詳細は後述するが、この画像信号に基づいて、画像処理回路800は、視野異常の検出(判定)を行う。そして、画像処理回路800は、この視野異常の検出(判定)結果に基づいて、制御モード(第一のモード、第二のモード)を切り替える。この際、スレーブ制御回路400は、画像処理回路800からの制御信号に基づいて、各々の制御モードにおける処理を実行するように、各スレーブアームの動作制御を行う。
また、スレーブ制御回路400近傍には、図1に示すように本一実施形態に係る手術システムの状態等を確認するエンジニアであるME4が位置している場合もある。
ここで、前記制御モード(第一のモード、第二のモード)について詳細に説明する。
“第一のモード”とは、通常時(撮像系に異常が生じていない場合)の制御モードである。一方、“第二のモード”とは、撮像系により取得した画像が正常に表示されていない状態(異常状態)である場合の制御モードである。この第二のモードは、発生した異常状態の内容(後述する“異常検出パターン”)と、異常時に実行する処理(後述する“異常対応処理”)内容と、が対応付けされた制御モードである。
この第二のモードの対応付け設定は、例えば異常状態の内容、及び/または当該手術システムの操作者に応じて適宜為される。この設定は予め規定されていてもよいし、操作者により適宜変更可能にしてもよい。
前記異常の内容(異常検出パターン)とは、例えば後述の各異常フラグに対応する異常の内容である。
《異常検出パターン1》モニタ異常
ディスプレイ900a,900bに全く画像が来ていない(モニタへ信号は来ていない)
《異常検出パターン2》色異常
表示画像の色が不適切(RGBのバランスが極端に崩れている)
《異常検出パターン3》くもり異常
観察用のカメラアームであるスレーブアーム200cのレンズが曇っている、明度が低下している、エッジの無い画像になっている
《異常検出パターン4》ノイズ異常
電源系のノイズが画像信号に混入している(画像信号を周波数解析すると特定周波数に大きなピークが立っている)
《異常検出パターン5》フレーム異常
フレームが欠落している(画像処理が表示更新処理に追いつかない、タイムアウトを検出している)
《異常検出パターン6》3D片目異常
3D表示において片目表示となっている(3D表示画像を取得する為の2台の内視鏡(左右の内視鏡)の画像が極端に違う)
なお、上述の各《異常検出パターン》はあくまでも一例であって、上述の例に限られないことは勿論である。
上述の異常検出パターンのうち、《異常検出パターン1》及び《異常検出パターン6》は撮像系の異常に起因する異常状態であり、《異常検出パターン2》〜《異常検出パターン5》は表示画像に係る異常状態である。
ところで、前記異常時に実行する処理(異常対応処理)内容とは、例えば次のような処理である。
《異常対応処理1》その場で停止処理
スレーブアーム200a〜200dのうち少なくとも1つを、その場で停止させる。
《異常対応処理2》退避させて停止処理
スレーブアーム200a〜200dのうち少なくとも1つを、患者1の体外に後退させてから停止させる。
《異常対応処理3》術具による把持を解除してから退避させて停止処理
スレーブアーム200a、200b、200dの術具(外科手術器具)240a、240b、240dのうち少なくとも1つの把持状態を解除してから、スレーブアーム200a、200b、200dのうち少なくとも1つを、患者1の体外に後退させてから停止させる。
《異常対応処理4》撮像系のアームを後退させて広い視野を確保した上で術具のアームを退避させて停止させる処理
術具240cとして各種の観察器具が装着されたスレーブアーム200c(例えば内視鏡等)を後退させて、内視鏡による広い視野を確保した上で、術具(外科手術器具)240a、240b、240dが装着されたスレーブアーム200a、200b、200dのうち少なくとも1つを、患者1の体外に退避させて停止させる。
《異常対応処理5》画像に異常が生じている可能性があることを操作者、助手、及びME等に提示する処理(アラーム、ワーニング)
ディスプレイ900a,900bに再生表示されている画像に異常が生じている可能性があることを、例えば音声・映像等によって、操作者3及び/または助手2に対して報知する。
《異常対応処理6》画像に異常が生じている可能性がある場合に、その異常内容(表示異常、色ずれ、くもり、片目など)を操作者、助手、及びME等に提示する処理
ディスプレイ900a,900bに再生表示されている画像に異常が生じている可能性がある場合に、その異常内容を、例えば音声・映像等によって、操作者3及び/または助手2に対して報知する。
《異常対応処理7》特別な処理を何も行わない
撮像系において異常が発生したからといって、必ずしも特別な処理が必要となるわけではない。従って、特別な処理が必要でない場合には、特別な処理を何も行わない(実質的に、通常時(撮像系に異常が生じていない場合)の処理モードである“第一のモード”に設定されている状態と同じ)。
なお、上述の各《異常対応処理》はあくまでも一例であって、上述の例に限られないことは勿論である。
ここで、“第二のモード”においては、上述の《異常検出パターン》と《異常対応処理》とが対応付けられて設定されており、《異常検出パターン》と《異常対応処理》との組み合わせは予め規定されてもよいし、ユーザが任意に設定できるようにしてもよい。
さらに、“第二のモード”においては、例えば次のような設定を行ってもよい。
[視野異常フラグに優先順位をつける設定]
同時に複数の視野異常フラグがONに設定された場合の為に、各異常フラグ間で優先順位をつける。そして、同時に複数の視野異常フラグがONに設定された場合には、優先順位がより上位の視野異常フラグに対応する異常対応処理を実行する。
[異常フラグがONされた回数に基づいて、異常対応処理を変更していく設定]
例えば、或る視野異常フラグが一度目のON時には《異常対応処理5》を実行し、二度目のON時には《異常対応処理6》を実行する処理を行う。
[異常検出パターン毎に重み付けを行う設定]
異常検出パターン毎に重み付けを行い、発生した異常に対応する重みの和が所定値に達すると、《異常対応処理》を変更する。
以上、“第二のモード”の設定について説明したが、この設定は、予め定めた設定としてもよいし、ユーザが任意に設定できるようにしてもよい。また、当該手術システムの操作者の手術経験、技術レベル、手術対象部位等によって、適宜、設定変更可能に構成してもよい。
ところで、マスターアーム500a、500bは複数のリンク機構で構成されている。リンク機構を構成する各リンクには例えばインクリメンタルエンコーダ等の位置検出器が設けられている。この位置検出器によって各リンクの動作を検知することで、マスターアーム500a、500bの操作量が入力処理回路700において検出される。
なお、図1の例において、マスターアーム500aが操作者3の右手によって操作されるアームであり、マスターアーム500bが操作者3の左手によって操作されるアームである。このように、図1は、2本のマスターアーム500a、500bを用いて4本のスレーブアームを操作する場合の例を示している。この場合、マスターアームの操作対象のスレーブアームを適宜切り替える必要が生じる。このような切り替えは、例えば操作者3の操作部600の操作によって行われる。勿論、マスターアームの本数とスレーブアームの本数とを同数とすることで操作対象を1対1の対応とすれば、このような切り替えは不要である。
操作部600は、マスターアーム500a、500bの操作対象のスレーブアームを切り替えるための切替ボタン(以下、切替ボタンと言う)や、システムを緊急停止させたりするためのフットスイッチ等の各種の操作部材を有している。操作者3によって操作部600を構成する何れかの操作部材が操作された場合には、対応する操作部材の操作に応じた操作信号が操作部600から入力処理回路700に入力される。
入力処理回路700は、マスターアーム500a、500bからの操作信号及び操作部600からの操作信号を解析し、操作信号の解析結果に従って本手術システムを制御するための制御信号を生成してスレーブ制御回路400に入力する。
画像処理回路800は、スレーブ制御回路400及び入力処理回路700と協働して当該手術システム全体を統括的に制御する。後述する図3乃至図5に示すフローチャートにおける処理も、主として画像処理回路800による制御で行われる。
また、画像処理回路800は、スレーブ制御回路400から入力された画像信号を表示させるための各種の画像処理を施して、操作者用ディスプレイ900a、助手用ディスプレイ900bにおける表示用の画像データを生成する。操作者用ディスプレイ900a及び助手用ディスプレイ900bは、例えば液晶ディスプレイで構成され、観察器具を介して取得された画像信号に従って画像処理回路800において生成された画像データに基づく画像を表示する。
上述した図1の構成の手術システムにおいては、まず滅菌処理済みの術具240a〜240dを装着する。本実施形態における滅菌処理としてはオートクレーブ滅菌やEOG滅菌等の各種の方式を用いることができる。
操作者3は、スレーブアーム200cの先端に装着された観察器具を介して取り込まれた画像信号に基づいて操作者用ディスプレイ900aに表示された画像を見ながら、マスターアーム500a、500bを操作する。操作者3によるマスターアーム500a、500bの操作を受けて、マスターアーム500a、500bの各リンクに取り付けられた位置検出器からの検出信号が入力処理回路700に入力される。また、操作部600の切替ボタンが操作されることにより、操作部600からの操作信号が入力処理回路700に入力される。
入力処理回路700は、操作部600の切替ボタンからの操作信号の入力回数をカウントしており、この操作信号の入力回数に従って、マスターアーム500a、500bの操作対象のスレーブアームの切り替えを行う。例えば、初期状態では、マスターアーム500aの操作対象をスレーブアーム200aとし、マスターアーム500bの操作対象をスレーブアーム200bとしておく。
この初期状態において、切替ボタンが1回押された場合に、入力処理回路700は、マスターアーム500aの操作対象をスレーブアーム200cに切り替えたり、マスターアーム500bの操作対象をスレーブアーム200dに切り替える。以下、切替ボタンが1回押される毎に、入力処理回路700は、マスターアーム500aの操作対象をスレーブアーム200aとスレーブアーム200cとの間で切り替えたり、マスターアーム500bの操作対象をスレーブアーム200bとスレーブアーム200dとの間で切り替える。
さらに、入力処理回路700は、マスターアーム500a、500bの何れかの位置検出器から検出信号が入力された場合に、検出信号の値からマスターアームの操作量を判別する。そして、入力処理回路700は、操作者3によって操作されたマスターアームの操作量を示す情報と、操作されたマスターアームの操作対象のスレーブアームを判別するための情報とを含む制御信号を生成し、生成した制御信号をスレーブ制御回路400に入力する。
スレーブ制御回路400は、入力処理回路700からの制御信号に従って、操作者3によるマスターアームの操作に応じた動きをスレーブマニピュレータにさせるために必要な駆動量を演算する。そして、スレーブ制御回路400は、マスターアームの操作対象のスレーブアームの駆動量が演算した駆動量に達するように、操作対象のスレーブアームに入力する駆動信号の大きさや極性を制御する。
また、スレーブ制御回路400は、操作者3によってフットスイッチ踏まれて入力処理回路700からシステムの緊急停止をさせる旨の制御信号が入力されたときには、スレーブアーム200a〜200dを停止させる。
図2は、本一実施形態に係る手術システムの第2の構成例を示す図である。図2に示す例では、ハンディタイプの手術システムを想定している。ここで、ハンディタイプの手術システムとは、外科手術器具が装着されたアームを操作者3が直接操作するシステムのことを言うものとする。
図2において、図1と同一又は対応する構成については図1と同一の参照符号を付すことで説明を省略する。
ここで、図2に示すスレーブ制御回路400は、カメラアームとしてのアーム200cの動作をマスタースレーブ方式で制御するために設けられている。アーム200cについてもハンディタイプのアームとするのであれば、スレーブ制御回路400は不要である。
ハンディアーム200fは、スレーブアーム200a〜200dと同様、手術台100の近傍に設置されている。ハンディアーム200fも、スレーブアーム200a〜200dと同様、先端側に接続される術具を駆動するための複数の動力部を有している。
ハンディアーム200fの動力部は、ハンディアーム200fに設けられている図示しない操作部からの駆動信号に従って動力を発生する。また、図2に示すように、ハンディアーム200fの先端にも図1で示したのと同様のアダプタ220fが接続され、さらに、アダプタ220fの先端には術具240fが接続される。
ハンディアーム200f、アダプタ220f、術具240fは、それぞれ、別のハンディアーム200g、アダプタ220g、術具240gと交換可能になされている。このような術具の交換作業は、例えば助手2によって行われる。
図2で示した構成の手術システムにおいては、操作者3がハンディアーム200fの図示しない操作部を操作することにより、ハンディアーム200fや術具240fが駆動される。その他の動作については図1で説明した動作が適用される。
図3は、本一実施形態に係る手術システムにおいて、撮像系により取得した画像が正常に表示されていない状態(異常状態)である場合の一例のフローチャートを示す図である。
まず、当該手術システムが起動処理されると、画像処理回路800は所定の各種パラメータやフラグを読み込み(ステップS1)、動作を開始する(ステップS2)。ここで、画像処理回路800は、ステップS1において読み込んだフラグのうち“視野異常フラグ”の状態を、ユーザに提示する(ステップS3)。この提示は、例えばディスプレイ900a,900bを利用して行われる。
“視野異常フラグ”は、詳細は後述するが主として撮像系における異常状態の発生に係るフラグであり、本例では、“モニタ異常フラグ”、“色異常フラグ”、“くもり異常フラグ”、“ノイズ異常フラグ”、“フレーム異常フラグ”、及び“3D片目異常フラグ”を設けている。
続いて、画像処理回路800は、ディスプレイ900a,900bに表示されている画像データを、ディスプレイ900a,900bから受信し、該画像データに基づいて、視野が正常であるか否か(撮像系により取得した画像が正常に表示されているか否か)を判定する(ステップS4)。
このステップS4における処理(ステップS4からステップS5又はステップS8への分岐処理;同フローチャートにおいて破線で囲まれた領域D内の処理)は、詳細には次のような処理である。図4は、図3に示すフローチャートのステップS4における処理(ステップS4からステップS5又はステップS8への分岐処理;同フローチャートにおいて破線で囲まれた領域D内の処理)を詳細に記すフローチャートを示す図である。
図4に示すように、本例では、“視野異常フラグ”を構成する複数のフラグ(“モニタ異常フラグ”、“色異常フラグ”、“くもり異常フラグ”、“ノイズ異常フラグ”、“フレーム異常フラグ”、及び“3D片目異常フラグ”)について直列的に判定していく。
すなわち、まず、画像処理回路800は、対象のモニタ(ディスプレイ900a,900b)に映像信号が届いているか否かを判定する(ステップS4−1)。このステップS4−1をNOに分岐する場合(対象のモニタに映像信号が届いていない場合)、“モニタ異常フラグ”をONに設定する(ステップS8−1)。
ステップS4−1をYESに分岐する場合またはステップS8−1における処理の後、画像処理回路800は、対象のモニタ(ディスプレイ900a,900b)にて再生表示されている画像の色バランスが正常範囲内に収まっているかを判定する(ステップS4−2)。このステップS4−2をNOに分岐する場合(再生表示されている画像の色バランスが正常範囲内に収まっていない場合)、“色異常フラグ”をONに設定する(ステップS8−2)。
ステップS4−2をYESに分岐する場合またはステップS8−2における処理の後、画像処理回路800は、対象のモニタ(ディスプレイ900a,900b)にて再生表示されている映像がくもっていないか否か判定する(ステップS4−3)。このステップS4−3をNOに分岐する場合(再生表示されている映像がくもっている場合)、“くもり異常フラグ”をONに設定する(ステップS8−3)。
ステップS4−3をYESに分岐する場合またはステップS8−3における処理の後、画像処理回路800は、対象のモニタ(ディスプレイ900a,900b)にて再生表示されている画像のノイズが正常範囲内のノイズであるか否か判定する(ステップS4−4)。このステップS4−4をNOに分岐する場合(再生表示されている画像のノイズが正常範囲内のノイズでない場合)、“ノイズ異常フラグ”をONに設定する(ステップS8−4)。
ステップS4−4をYESに分岐する場合またはステップS8−4における処理の後、画像処理回路800は、対象のモニタ(ディスプレイ900a,900b)にて再生表示されている映像にフレーム落ちが無いか否かを判定する(ステップS4−5)。このステップS4−5をNOに分岐する場合(再生表示されている映像にフレーム落ちが有る場合)、“フレーム異常フラグ”をONに設定する(ステップS8−5)。
ステップS4−5をYESに分岐する場合またはステップS8−5における処理の後、画像処理回路800は、対象のモニタ(ディスプレイ900a,900b)にて再生表示されている映像が“3D片目異常になっていないか(正常な3D表示であるか否か)”を判定する(ステップS4−6)。このステップS4−6をNOに分岐する場合(再生表示されている映像が“3D片目異常になっている(正常な3D表示でない)”場合)、“3D片目異常フラグ”をONに設定する(ステップS8−6)。
ここで、ステップS4−6をNOに分岐する場合とは、例えば、3D画像を取得する為の2台の内視鏡のうち片方の内視鏡のみが、レンズ汚れ等により正常な立体画像を取得できない状態となっている場合である。
なお、ステップS4−6及びステップS8−6は、当該手術システムの撮像系が3D表示を行う仕様に構成されていない場合には不要なステップである。
以上説明した図4のフローチャートに示す各ステップ(ステップS4−1〜ステップS4−6)における判定は、当該判定時の瞬間においての判定でもよいし、或る異常状態が一定時間(一定割合)持続した場合に異常であると判定するとしてもよい。
なお、図4に示す処理例では、各視野異常フラグについて直列的に判断していく処理としているが、並列的に判断していく処理としても勿論よい。
上述した図4に示すフローチャートの処理を終えると、一つでも視野異常フラグがONに設定されている場合にはステップS9へ移行し、全ての視野異常フラグがONに設定されなかった場合にはステップS5へ移行する(当該ステップS4をYESに分岐する)。
ステップS4をYESに分岐した場合(視野が正常である場合)、画像処理回路800は、全ての“視野異常フラグ”をOFFに設定し、当該手術システムを“第一のモード”に設定する(ステップS6)。ここで“第一のモード”とは、通常時(撮像系に異常が生じていない場合)の処理モードである。
その後、画像処理回路800は、“当該手術システムを終了するか否か”の判断をユーザに求める表示をディスプレイ900a,900bを利用して行い、該表示に対するユーザの応答操作に基づいて、当該手術システムを終了するか否かを判断する(ステップS7)。
ユーザにより当該手術システムの終了操作が行われた場合、ステップS7をYESに分岐し、画像処理回路800は、当該時点において設定されている状態の視野異常フラグを不揮発性メモリ等に書き込み(ステップS12)、当該手術システムを終了させる。一方、ステップS7をNOに分岐する場合は、前記ステップS3へ移行する。
ところで、前記ステップS4−1〜ステップS4−6のうち少なくとも何れか一つのステップをNOに分岐し、少なくとも一つの“視野異常フラグ”がONに設定されると(ステップS8−1〜ステップS8−6)、ステップS9に移行する。
このステップS9において、画像処理回路800は、当該時点において視野異常フラグが“有効”であるか否かを判定する(ステップS9)。このステップS9は、後述するステップS13において視野異常フラグが既に“無効化処理”されており、当該時点においても未だ無効のままである場合を考慮したステップである。
このステップS9をNOに分岐する場合(視野異常フラグが無効である場合)、前記ステップS6に移行する。一方ステップS9をYESに分岐する場合(視野異常フラグが有効である場合)、当該手術システムを“第二のモード”に設定する(ステップS10)。
このステップS10における処理は、詳細には次のような処理である。図5は、図3に示すフローチャートにおけるステップS10の処理(第二のモードへの設定処理)のサブルーチンのフローチャートを示す図である。すなわち、まず、画像処理回路800は、予め設定されている“第二のモードの設定”を読み込む(ステップS10−1)。
そして、画像処理回路800は、前記ステップS10−1において読み込んだ第二のモードの設定に基づいて、当該時点においてONに設定されている視野異常フラグ(検出されている《異常検出パターン》)に対応付けされている《異常対応処理》を実行する(ステップS10−2)。その後、図3に示すフローチャートのステップS11へ移行する。
そして、画像処理回路800は、“当該手術システムを終了するか否か”の判断をユーザに求める表示をディスプレイ900a,900bを利用して行い、該表示に対するユーザの応答操作に基づいて、当該手術システムを終了するか否かを判断する(ステップS11)。
ユーザにより当該手術システムの終了操作が行われた場合、ステップS11をYESに分岐し、画像処理回路800は、当該時点において設定されている状態の視野異常フラグを不揮発性メモリ等に書き込み(ステップS12)、当該手術システムを終了させる。
他方、ステップS11をNOに分岐する場合は(当該手術システムでの処理を続行する場合は)、当該時点においてONに設定されている《視野異常フラグ》のON状態を無効化処理する(ステップS13)。
具体的には、このステップS13における無効化処理の為に、例えばトグルスイッチを用いて有効/無効の切替えを行うように構成しても良いし、タイマ機能を用いて一定時間だけ《視野異常フラグ》のON状態を無効化するように構成してもよい。このステップS13における処理の後、前記ステップS3に移行する。
以上説明したように、本一実施形態によれば、撮像系を具備する手術システムであって、撮像系により取得した画像が正常に表示されていない状態(異常状態)である場合に、適切に対処する処理を実行する手術システムを提供することができる。
従来より、手術システムにおいて撮像系に異常が発生した場合には、操作者等が当該撮像系の異常を認知してから、手動でスレーブマニピュレータの動作を停止させる等の処理を行っている。従って、撮像系に異常が発生してから実際に当該異常に対処するまでに、或る程度の時間が掛かってしまう(タイムラグが生じる)。しかしながら、本一実施形態に係る手術システムによれば、撮像系における異常(例えば内視鏡の故障等)が生じた場合に、そのことについての操作者の認知とは関係なく、速やかに異常対応処理が実行される。これにより、利便性が非常に向上する。
なお、上述の例では、視野異常フラグのON/OFF設定を行った上で、第1のモードと第二のモードとの切り替えを行っているが、異常が検出された時点で直ちにモード切り替えを行っても勿論よい。
以上、一実施形態に基づいて本発明を説明したが、本発明は上述した実施形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。
さらに、上記した実施形態には種々の段階の発明が含まれており、開示される複数の構成要件の適当な組合せにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、上述したような課題を解決でき、上述したような効果が得られる場合には、この構成要件が削除された構成も発明として抽出され得る。
100…手術台、200a〜200d…スレーブアーム、 200f,200g…ハンディアーム、220a〜220d…手術用動力伝達アダプタ(アダプタ)、 220f,220g…アダプタ、240a〜240d…術具、 240e…交換用術具、 240f,240g…術具、300…ドレープ、400…スレーブ制御回路、500a,500b…マスターアーム、600…操作部、700…入力処理回路、800…画像処理回路、900a…操作者用ディスプレイ、900b…助手用ディスプレイ。

Claims (8)

  1. 画像情報を取得する撮像系を具備する手術システムであって、
    前記画像情報が異常状態の内容を表す複数の異常検出パターンのいずれかにあてはまるかを判定する判定部と、
    前記判定部により前記画像情報が少なくとも1つの前記異常検出パターンにあてはまると判定された場合に異常対応処理を実行する異常処理モードに切り替える制御部と、
    を具備し、
    前記制御部は、前記画像情報が複数の前記異常検出パターンにあてはまると判定された場合、前記異常処理モードにおいて、あてはまると判定された複数の前記異常検出パターンから導出された異常対応処理を実行し、前記画像情報が1つの前記異常検出パターンにあてはまると判定された場合、前記異常処理モードにおいて、あてはまると判定された1つの前記異常検出パターンに対応する異常対応処理を実行する手術システム。
  2. 前記制御部は、前記画像情報が複数の前記異常検出パターンにあてはまると判定された場合の前記異常処理モードにおいて前記異常対応処理を導出する際に、複数の前記異常検出パターンのそれぞれに重み付けをし、前記重み付けの総和を算出し、前記総和から異常対応処理を導出する請求項1に記載の手術システム。
  3. 前記制御部は、前記画像情報が複数の前記異常検出パターンにあてはまると判定された場合の前記異常処理モードにおいて前記異常対応処理を導出する際に、前記制御部は、複数の前記異常検出パターンのそれぞれに優先順位をつけ、前記画像情報が当てはまると判定された前記異常検出パターンの中で最も高い優先順位が付けられた前記異常検出パターンに対応する異常対応処理を導出する請求項1に記載の手術システム。
  4. 術具を先端に有するスレーブアームをさらに具備し、
    前記異常対応処理は、前記スレーブアームを患者の体外へ退避させることを含む請求項1に記載の手術システム。
  5. 画像情報を取得する撮像系を具備する手術システムの制御方法であって、
    前記画像情報が異常状態の内容を表す複数の異常検出パターンのいずれかにあてはまるかを判定することと、
    前記画像情報が少なくとも1つの前記異常検出パターンにあてはまると判定された場合に異常対応処理を実行する異常処理モードに切り替えることと、
    を具備し、
    前記画像情報が複数の前記異常検出パターンにあてはまると判定された場合の前記異常処理モードは、
    あてはまると判定された複数の前記異常検出パターンから異常対応処理を導出することと、
    前記導出された異常対応処理を実行することと、
    を含み、
    前記画像情報が1つの前記異常検出パターンにあてはまると判定された場合の前記異常処理モードは、
    あてはまると判定された1つの前記異常検出パターンに対応する異常対応処理を実行することを含む、
    手術システムの制御方法。
  6. 前記異常対応処理を導出することは、
    複数の前記異常検出パターンのそれぞれに重み付けをすることと、
    前記重み付けの総和を算出することと、
    前記総和から異常対応処理を導出することと、
    を含む請求項5に記載の手術システムの制御方法。
  7. 前記異常対応処理を導出することは、
    複数の前記異常検出パターンのそれぞれに優先順位をつけることと、
    前記画像情報が当てはまると判定された前記異常検出パターンの中で最も高い優先順位が付けられた前記異常検出パターンに対応する異常対応処理を導出することと、
    を含む請求項5に記載の手術システムの制御方法。
  8. 前記手術システムは、術具を先端に有するスレーブアームを具備し、
    前記異常対応処理は、前記スレーブアームを患者の体外へ退避させることを含む請求項5に記載の手術システムの制御方法。
JP2011057050A 2011-03-15 2011-03-15 手術システム及びその制御方法 Expired - Fee Related JP5856745B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2011057050A JP5856745B2 (ja) 2011-03-15 2011-03-15 手術システム及びその制御方法
CN201280012794.2A CN103429188B (zh) 2011-03-15 2012-03-12 手术系统
EP12757164.4A EP2687181B1 (en) 2011-03-15 2012-03-12 Surgical system
PCT/JP2012/056261 WO2012124651A1 (ja) 2011-03-15 2012-03-12 手術システム
US13/418,683 US9585724B2 (en) 2011-03-15 2012-03-13 Surgical system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011057050A JP5856745B2 (ja) 2011-03-15 2011-03-15 手術システム及びその制御方法

Publications (2)

Publication Number Publication Date
JP2012192004A JP2012192004A (ja) 2012-10-11
JP5856745B2 true JP5856745B2 (ja) 2016-02-10

Family

ID=46829060

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011057050A Expired - Fee Related JP5856745B2 (ja) 2011-03-15 2011-03-15 手術システム及びその制御方法

Country Status (5)

Country Link
US (1) US9585724B2 (ja)
EP (1) EP2687181B1 (ja)
JP (1) JP5856745B2 (ja)
CN (1) CN103429188B (ja)
WO (1) WO2012124651A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5996492B2 (ja) 2013-07-25 2016-09-21 オリンパス株式会社 関節機構および医療機器
JP6485899B2 (ja) * 2014-12-08 2019-03-20 ソニー・オリンパスメディカルソリューションズ株式会社 医療用立体観察装置、医療用立体観察方法、及びプログラム
EP3254638A4 (en) 2015-02-03 2018-10-03 Olympus Corporation Medical manipulator system and control method therefor
US11284963B2 (en) * 2019-12-30 2022-03-29 Cilag Gmbh International Method of using imaging devices in surgery
CN111568558B (zh) * 2020-04-13 2022-02-22 上海市胸科医院 电子设备、手术机器人系统及其控制方法

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0734742B1 (en) * 1995-03-31 2005-05-11 Kabushiki Kaisha Toshiba Ultrasound therapeutic apparatus
JP3717552B2 (ja) 1995-09-01 2005-11-16 オリンパス株式会社 医療用マニピュレータシステム
US6245028B1 (en) * 1999-11-24 2001-06-12 Marconi Medical Systems, Inc. Needle biopsy system
JP2003334164A (ja) * 2002-05-21 2003-11-25 Olympus Optical Co Ltd 内視鏡装置
JP2005296198A (ja) * 2004-04-08 2005-10-27 Olympus Corp 医療システム
JP2006025912A (ja) * 2004-07-13 2006-02-02 Olympus Corp 手術用顕微鏡
CA2826925C (en) * 2005-02-22 2017-01-24 Mako Surgical Corp. Haptic guidance system and method
JP2007007040A (ja) * 2005-06-29 2007-01-18 Hitachi Medical Corp 手術支援システム
DE102005036998B4 (de) * 2005-08-05 2014-11-20 Siemens Aktiengesellschaft Vorrichtung zur automatischen Detektion von Auffälligkeiten in medizinischen Bilddaten
DE102006008509A1 (de) * 2006-02-23 2007-08-02 Siemens Ag Verfahren und Vorrichtung zur verbesserten automatischen Detektion von Auffälligkeiten in medizinischen Bilddaten
WO2007119297A1 (ja) * 2006-03-16 2007-10-25 Olympus Medical Systems Corp. 医療用画像処理装置及び医療用画像処理方法
JP2008194179A (ja) 2007-02-09 2008-08-28 Olympus Medical Systems Corp 回転自走式内視鏡システム
JP4932559B2 (ja) * 2007-03-26 2012-05-16 オリンパスメディカルシステムズ株式会社 自動挿入式電子内視鏡装置、自動挿入式電子内視鏡装置の制御プログラム
JP2009225851A (ja) * 2008-03-19 2009-10-08 Fujinon Corp 内視鏡のプロセッサ装置
JP2010004979A (ja) * 2008-06-25 2010-01-14 Fujifilm Corp 画像処理装置、および内視鏡用プロセッサ装置
JP5127636B2 (ja) * 2008-08-29 2013-01-23 富士フイルム株式会社 電子内視鏡用プロセッサ装置
JPWO2011052391A1 (ja) * 2009-10-28 2013-03-21 オリンパスメディカルシステムズ株式会社 医療用装置
JP6021353B2 (ja) * 2011-08-04 2016-11-09 オリンパス株式会社 手術支援装置

Also Published As

Publication number Publication date
US20120239058A1 (en) 2012-09-20
CN103429188B (zh) 2016-08-10
WO2012124651A1 (ja) 2012-09-20
EP2687181A1 (en) 2014-01-22
EP2687181B1 (en) 2019-03-06
JP2012192004A (ja) 2012-10-11
EP2687181A4 (en) 2014-10-08
CN103429188A (zh) 2013-12-04
US9585724B2 (en) 2017-03-07

Similar Documents

Publication Publication Date Title
JP5537204B2 (ja) 医療用マニピュレータシステム
US8583274B2 (en) Method for graphically providing continuous change of state directions to a user of medical robotic system
KR102105142B1 (ko) 입력 장치의 오퍼레이터가 볼 수 있는 디스플레이 영역으로 기구가 진입할 때 기구의 제어를 입력 장치로 전환하는 방법
CN107249497B (zh) 手术室和手术部位感知
JP5856745B2 (ja) 手術システム及びその制御方法
US9283047B2 (en) Control device and control method for surgical system
JP5608486B2 (ja) 手術用動力伝達アダプタ及び医療用マニピュレータシステム
CN117717411A (zh) 在计算机辅助远程操作外科手术中的可重新配置的显示器
CN113057735B (zh) 手术机器人系统的控制方法、可读存储介质及机器人系统
JP2007029232A (ja) 内視鏡手術操作支援システム
JP2019188038A (ja) 外科手術システム及び外科手術システムの制御方法
WO2020044994A1 (ja) ロボット手術器具
US11737837B2 (en) Surgical instrument
Li et al. Microvascular anastomoses performed in rats using a microsurgical telemanipulator
KR20120045734A (ko) 수술용 로봇 시스템의 마스터 입력장치 및 이를 이용한 수술용 로봇 시스템의 제어방법
US20230061446A1 (en) Robotic surgical system, surgical robot, and robotic surgical method
US20220395346A1 (en) Sterile drape, surgical robot, and method of attaching sterile drape
CN115998427A (zh) 手术机器人系统、安全控制方法、从端装置及可读介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140204

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150217

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150415

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150728

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150928

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20151201

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151214

R151 Written notification of patent or utility model registration

Ref document number: 5856745

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees