JP2021118883A - 医療用アーム装置、医療用アーム装置の作動方法、及び情報処理装置 - Google Patents

医療用アーム装置、医療用アーム装置の作動方法、及び情報処理装置 Download PDF

Info

Publication number
JP2021118883A
JP2021118883A JP2021074343A JP2021074343A JP2021118883A JP 2021118883 A JP2021118883 A JP 2021118883A JP 2021074343 A JP2021074343 A JP 2021074343A JP 2021074343 A JP2021074343 A JP 2021074343A JP 2021118883 A JP2021118883 A JP 2021118883A
Authority
JP
Japan
Prior art keywords
distance
arm
safety control
unit
lens barrel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021074343A
Other languages
English (en)
Other versions
JP7414770B2 (ja
Inventor
亘 小久保
Wataru Kokubo
亘 小久保
毅 前田
Tsuyoshi Maeda
毅 前田
竜己 坂口
Tatsuki Sakaguchi
竜己 坂口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Group Corp
Original Assignee
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Group Corp filed Critical Sony Group Corp
Publication of JP2021118883A publication Critical patent/JP2021118883A/ja
Application granted granted Critical
Publication of JP7414770B2 publication Critical patent/JP7414770B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00039Operational features of endoscopes provided with input arrangements for the user
    • A61B1/00042Operational features of endoscopes provided with input arrangements for the user for mechanical operation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00055Operational features of endoscopes provided with output arrangements for alerting the user
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00147Holding or positioning arrangements
    • A61B1/00149Holding or positioning arrangements using articulated arms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00193Optical arrangements adapted for stereoscopic vision
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/10Computer-aided planning, simulation or modelling of surgical operations
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/03Automatic limiting or abutting means, e.g. for safety
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/50Supports for surgical instruments, e.g. articulated arms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B17/00234Surgical instruments, devices or methods, e.g. tourniquets for minimally invasive surgery
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2051Electromagnetic tracking systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2063Acoustic tracking systems, e.g. using ultrasound
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/03Automatic limiting or abutting means, e.g. for safety
    • A61B2090/033Abutting means, stops, e.g. abutting on tissue or skin
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/06Measuring instruments not otherwise provided for
    • A61B2090/061Measuring instruments not otherwise provided for for measuring dimensions, e.g. length
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/06Measuring instruments not otherwise provided for
    • A61B2090/064Measuring instruments not otherwise provided for for measuring force, pressure or mechanical tension
    • A61B2090/065Measuring instruments not otherwise provided for for measuring force, pressure or mechanical tension for measuring contact or contact pressure
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/0009Constructional details, e.g. manipulator supports, bases

Abstract

【課題】医療行為における安全性をより高めることが可能な、新規かつ改良された医療用安全制御装置、医療用安全制御方法、及び医療用支援システムを提供する。【解決手段】術具によって患者の生体組織に対して処置を行っている間に検出される前記術具と前記生体組織との距離である術具生体組織間距離に基づいて、前記術具を支持する支持アーム装置のアーム部120の動作を制限する制限動作指示を発行する、医療用安全制御装置を提供する。【選択図】図2

Description

本開示は、医療用安全制御装置、医療用安全制御方法、及び医療用支援システムに関する。
近年、医療現場においては、検査や手術をサポートするために支持アーム装置が用いられつつある。例えば、支持アーム装置のアーム部によって内視鏡や電子撮像式の顕微鏡(ビデオ式の顕微鏡)等の術部を拡大観察するための観察用器具を支持し、当該観察用器具によって撮影された映像を見ながら医師が検査や手術を行う方法が提案されている。あるいは、アーム部の先端に鉗子やレトラクタ等の処置具を設け、従来人手で行われていた処置具の支持や操作を、支持アーム装置に行わせる方法も提案されている。
また、このような支持アーム装置を用いた手術を対象とした手術支援システムが開発されている。例えば、特許文献1には、マニピュレータによって術具(上述した観察用器具や処置具)を支持し、当該マニピュレータを操作することによって手術を行う際に、事前に取得されたMRI(Magnetic Resonance Imaging)やCT(Computed Tomography)の情報から患者の体腔内の生体組織の3次元情報を生成するとともに、手術中における術具の位置を検出し、表示装置に、その3次元情報から生成される生体組織の画像と当該生体組織に対する術具の位置を表示する技術が開示されている。更に、特許文献1に記載の技術では、事前に設定された領域や経路から術具が離れた場合に警告が発せられる。このように、当該技術では、ユーザが術部と術具との相対的な位置関係を常に把握することができるとともに、例えば体腔内への進入経路から術具が外れた場合には警告が発せられることにより、術者による手術の実行が支援される。
特開2004−223128号公報
ここで、上記特許文献1に記載の技術では、手術前に取得されたMRIやCTの情報に基づいて術部の3次元情報が生成される。そして、手術中における生体組織の位置は、この手術前に生成された3次元情報に基づいて特定されている。しかしながら、手術中には、患者の生体組織の位置や形状は経時的に変化し得る。従って、実際の手術時における体腔内の生体組織の状況は、必ずしも手術前に取得された情報に基づく生体組織の3次元情報とは一致しない場合がある。このような場合には、特許文献1に記載の技術では、警告が有効に働かず、安全を十分に確保できない恐れがある。
また、特許文献1に記載の技術では、事前に設定された領域や経路から術具が離れた場合に警告が発せられる。つまり、ユーザは、安全な領域や経路から術具が離れたときに、初めて自身の操作が誤っていたかもしれないこと、すなわち危険が生じ得る状況であることに気付くこととなる。しかしながら、安全性をより確実に確保するためには、より早期に、危険の発生が予期される場合に、ユーザがその状況を把握できることが望ましい。
このように、これまで提案されている、医療行為における安全を確保するための技術には、安全性の観点から更なる改善の余地があると考えられる。そこで、本開示では、医療行為における安全性をより高めることが可能な、新規かつ改良された医療用安全制御装置、医療用安全制御方法、及び医療用支援システムを提供する。
本開示によれば、術具によって患者の生体組織に対して処置を行っている間に検出される前記術具と前記生体組織との距離である術具生体組織間距離に基づいて、前記術具を支持する支持アーム装置のアーム部の動作を制限する制限動作指示を発行する、医療用安全制御装置が提供される。
また、本開示によれば、術具によって患者の生体組織に対して処置を行っている間に検出される前記術具と前記生体組織との距離である術具生体組織間距離に基づいて、前記術具を支持する支持アーム装置のアーム部の動作を制限する制限動作指示を発行すること、を含む、医療用安全制御方法が提供される。
また、本開示によれば、アーム部によって術具を支持する支持アーム部と、前記支持アーム部の駆動を制御するアーム制御部と、前記術具によって患者の生体組織に対して処置を行っている間に検出される前記術具と前記生体組織との距離である術具生体組織間距離に基づいて、前記アーム部の動作を制限する制限動作指示を、前記アーム制御部に対して発行する医療用安全制御部と、を備える、医療用支援システムが提供される。
本開示によれば、術具によって患者の生体組織に対して処置を行っている間に、当該術具と当該生体組織との距離である術具生体組織間距離が検出される。そして、検出された当該術具生体組織間距離に基づいて、当該術具を支持する支持アーム装置のアーム部の動作を制限する制限動作指示が発行される。このように、いわばリアルタイムで検出された術具生体組織間距離を用いることにより、最新の術具と生体組織との位置関係に応じて、術具を支持するアーム部に対して制限動作指示がなされるため、医療行為における安全性をより高めることができる。
以上説明したように本開示によれば、医療行為における安全性をより高めることが可能になる。なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、又は上記の効果に代えて、本明細書に示されたいずれかの効果、又は本明細書から把握され得る他の効果が奏されてもよい。
本実施形態に係る内視鏡手術システムの一構成例を示す図である。 本実施形態に係る支援システムの機能構成の一例を示すブロック図である。 面測距の様子を概略的に示す図である。 面測距の結果を概略的に示す図である。 本実施形態に係る支援システムを用いた手術の様子を表す図である。 支援システムにおけるNUIについて説明するための図である。 第1制限距離の範囲を変更する際のUIの一表示例を示す図である。 第1制限距離の範囲を変更する際のUIの他の表示例を示す図である。 本実施形態に係る安全制御方法の処理手順の一例を示すフロー図である。 内視鏡の先端に測距センサが設けられる変形例に係る支援システムの機能構成の一例を示すブロック図である。 1点測距の様子を概略的に示す図である。 内視鏡の先端に測距センサが設けられる変形例に係る安全制御方法の処理手順の一例を示すフロー図である。 内視鏡の鏡筒を外部から観測する距離検出部が設けられる変形例に係る支援システムの機能構成の一例を示すブロック図である。 動作制限として退避動作が実行される変形例に係る安全制御方法の処理手順の一例を示すフロー図である。 動作制限として退避動作が実行される変形例に係る安全制御方法の処理手順の他の例を示すフロー図である。 NUIを介して内視鏡手術システムの他の構成に対する操作入力が可能に構成された支援システムの機能構成の一例を示すブロック図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.内視鏡手術システムの構成
2.支援システムの構成
3.動作制限情報の入力方法
4.安全制御方法
5.変形例
5−1.測距方法
5−1−1.鏡筒の先端に測距センサが設けられる場合
5−1−2.外部に距離検出部が設けられる場合
5−2.退避動作
5−3.NUIを介したその他の構成の操作
5−4.マスタースレイブ方式の支持アーム装置への適用
5−5.3Dモデルの利用
6.補足
なお、以下では、本開示の好適な一実施形態として、内視鏡手術システムに対して本技術が適用される場合を例に挙げて説明する。ただし、本技術はかかる例に限定されず、支持アーム装置によって術具(観察用器具及び/又は処置具)を支持して行う医療行為(各種の検査や手術等)に対して適用可能である。また、以下の説明において、「ユーザ」とは、内視鏡手術システムを用いる医療スタッフ(手術を行う術者、内視鏡を操作するスコピスト、助手等)の少なくともいずれかのことを意味するものとする。特に区別する必要がある場合のみ、当該ユーザを、術者又はスコピスト等と記載する。
(1.内視鏡手術システムの構成)
図1を参照して、本実施形態に係る支援システムが適用され得る内視鏡手術システムの構成について説明する。図1は、本実施形態に係る内視鏡手術システムの一構成例を示す図である。
図1では、術者(医師)3501が、内視鏡手術システム3000を用いて、患者ベッド3503上の患者3505に手術を行っている様子が図示されている。図示するように、内視鏡手術システム3000は、内視鏡3100と、その他の術具3200と、内視鏡3100を支持する支持アーム装置3300と、内視鏡下手術のための各種の装置が搭載されたカート3400と、から構成される。内視鏡手術システム3000に対して本実施形態に係る支援システムが適用されることにより、より安全な手術が実現され得る。
内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ3207a〜3207dと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ3207a〜3207dから、内視鏡3100の鏡筒3101や、その他の術具3200が患者3505の体腔内に挿入される。図示する例では、その他の術具3200として、気腹チューブ3201、エネルギー処置具3203及び鉗子3205が、患者3505の体腔内に挿入されている。エネルギー処置具3203は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具3200はあくまで一例であり、術具3200としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
内視鏡3100によって撮影された患者3505の体腔内の術部の画像が、後述する表示装置3403に表示される。術者3501は、表示装置3403に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具3203や鉗子3205を用いて、例えば患部を切除する等の処置を行う。
なお、図示は省略しているが、気腹チューブ3201、エネルギー処置具3203及び鉗子3205は、手術中に、術者3501又は助手等によって支持される。あるいは、図示する例では、内視鏡3100を支持する支持アーム装置3300が1基のみ備えられているが、支持アーム装置3300が複数備えられ、気腹チューブ3201、エネルギー処置具3203及び鉗子3205がその複数の支持アーム装置3300のそれぞれによって支持されてもよい。
(支持アーム装置)
支持アーム装置3300は、ベース部3301から延伸するアーム部3303を備える。図示する例では、アーム部3303は、関節部3305a、3305b、3305c、及びリンク3307a、3307bから構成されており、アーム制御装置3407からの制御により駆動される。アーム部3303によって内視鏡3100が支持され、その位置及び姿勢が制御される。これにより、内視鏡3100の安定的な位置の固定が実現され得る。
ただし、図1では、簡単のため、アーム部3303の構成を簡略化して図示している。実際には、アーム部3303が所望の自由度を有するように、関節部3305a〜3305c及びリンク3307a、3307bの形状、数及び配置、並びに関節部3305a〜3305cの回転軸の方向等が適宜設定され得る。例えば、アーム部3303は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部3303の可動範囲内において内視鏡3100を自由に移動させることが可能になるため、所望の方向から内視鏡3100の鏡筒3101を患者3505の体腔内に挿入することが可能になる。
関節部3305a〜3305cにはアクチュエータが設けられており、関節部3305a〜3305cは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動が後述するアーム制御装置3407によって制御されることにより、各関節部3305a〜3305cの回転角度が制御され、アーム部3303の駆動が制御される。これにより、内視鏡3100の位置及び姿勢が制御される。
具体的には、関節部3305a〜3305cに設けられるアクチュエータには、各関節部の回転角度を検出するエンコーダや、各関節部に作用するトルクを検出するトルクセンサ等の、各関節部の状態を検出するための各種のセンサが設けられる。これらのセンサの検出値は、アーム制御装置3407に送信される。アーム制御装置3407は、アーム部3303の幾何学的状態及び力学的状態が支持アーム装置3300の内部座標によって表現された内部モデルを有しており、当該内部モデルと、当該センサの検出値と、に基づいて、現在の関節部3305a〜3305cの状態、すなわち現在のアーム部3303の状態(位置、姿勢、速度等)を把握することができる。アーム制御装置3407は、把握したアーム部3303の状態に基づいて、ユーザによるアーム部3303の動作に対する操作入力に対応する各関節部の駆動制御量(例えば、回転角度や駆動トルク)を算出し、当該駆動制御量に応じて各関節部を駆動させる。
本実施形態では、アーム制御装置3407は、力制御によって、アーム部3303の駆動を制御する。力制御が適用される場合には、アーム制御装置3407は、内視鏡3100を操作する医師(スコピスト)がアーム部3303又は内視鏡3100に直接触れて行う操作(以下、直接操作ともいう)に応じて、その直接操作における外力にならってスムーズにアーム部3303が移動するように各関節部3305a〜3305cのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行うことができる。これにより、スコピストが直接アーム部3303に触れながらアーム部3303を移動させる際に、比較的軽い力で当該アーム部3303を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡3100を移動させることが可能となり、スコピストの利便性を向上させることができる。
ただし、本実施形態はかかる例に限定されず、アーム制御装置3407は、位置制御によってアーム部3303の駆動を制御してもよい。また、直接操作以外の他の方法に応じて、アーム部3303が操作されてもよい。例えば、ユーザが、入力装置3409(フットスイッチ3419を含む)を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置3407によってアーム部3303の駆動が適宜制御され、内視鏡3100の位置及び姿勢が制御されてよい。あるいは、アーム部3303は、ユーザのジェスチャ等によって操作されてもよい。あるいは、アーム部3303は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部3303は、手術室から離れた場所に設置される入力装置3409を介してユーザによって遠隔操作され得る。このような、直接操作以外の操作に応じたアーム部3303の駆動については、下記(5−3.NUIを介したその他の構成の操作)及び(5−4.マスタースレイブ方式の支持アーム装置への適用)で改めて説明する。
(内視鏡)
内視鏡3100は、先端から所定の長さの領域が患者3505の体腔内に挿入される鏡筒3101と、鏡筒3101の基端に接続されるカメラヘッド3103と、から構成される。内視鏡3100は、硬性の鏡筒3101を有するいわゆる硬性鏡である。ただし、本実施形態はかかる例に限定されず、内視鏡3100は、軟性の鏡筒3101を有するいわゆる軟性鏡として構成されてもよい。
鏡筒3101の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡3100は、鏡筒3101の延伸方向と光軸が略一致するように上記対物レンズが設置される直視鏡として構成される。内視鏡3100には後述する光源装置3405が接続されており、当該光源装置3405によって生成された光が、鏡筒3101の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者3505の体腔内の観察対象に向かって照射される。なお、本実施形態はかかる例に限定されず、内視鏡3100は、斜視鏡又は側視鏡であってもよい。
カメラヘッド3103の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとして後述するカメラコントロールユニット(CCU:Camera Control Unit)3401に送信される。なお、カメラヘッド3103には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載され得る。
なお、本実施形態では、立体視(3D表示)等に対応するために、カメラヘッド3103には撮像素子が複数設けられる。すなわち、内視鏡3100は、ステレオカメラとして構成され得る。この場合、鏡筒3101の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。ただし、本実施形態はかかる例に限定されず、内視鏡3100は、カメラヘッド3103が単一の撮像素子を有するように構成されてもよい。
(カートに搭載される各種の装置)
CCU3401は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等のプロセッサによって構成され、内視鏡3100及び表示装置3403の動作を統括的に制御する。具体的には、CCU3401は、カメラヘッド3103から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU3401は、当該画像処理を施した画像信号を表示装置3403に提供する。また、CCU3401は、カメラヘッド3103に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。
表示装置3403は、CCU3401からの制御により、当該CCU3401によって画像処理が施された画像信号に基づく画像を表示する。内視鏡3100が例えば4K又は8K等の高解像度の撮影に対応したものである場合、及び/又は3D表示に対応したものである場合には、表示装置3403としては、それぞれに対応して、高解像度の表示が可能なもの、及び/又は3D表示可能なものが用いられ得る。また、表示装置3403は、後述する安全制御装置3408からの指示に応じて、スコピストによる内視鏡3100の操作に対する警告を、例えばテキスト等の形式で表示する。
光源装置3405は、例えばLED(light emitting diode)等の光源から構成され
、術部を撮影する際の照射光を内視鏡3100に供給する。
アーム制御装置3407は、例えばCPU等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置3300のアーム部3303の駆動を制御する。なお、アーム制御装置3407がアーム部3303の駆動を制御するための具体的な方法としては、各種の公知な方法を適用することができるため、ここではその詳細な説明は省略する。
安全制御装置3408は、例えばCPU等のプロセッサによって構成され、CCU3401及びアーム制御装置3407と連携し、内視鏡手術システム3000を用いた手術において、安全を確保することを目的として、スコピストの操作を支援するための各種の制御を行う。安全制御装置3408の機能の詳細については、下記(2.支援システムの構成)で改めて説明する。
入力装置3409は、内視鏡手術システム3000に対する入力インタフェースである。ユーザは、入力装置3409を介して、内視鏡手術システム3000に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置3409を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置3409を介して、アーム部3303を駆動させる旨の指示や、内視鏡3100による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示等を入力する。また、ユーザは、入力装置3409を介して、支援システムにおいて処理される各種の情報(後述する動作制限情報等)を入力することができる。
入力装置3409の種類は限定されず、入力装置3409は各種の公知の入力装置であってよい。入力装置3409としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ3419及び/又はレバー等が適用され得る。入力装置3409としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置3403の表示面上に設けられてもよい。
あるいは、入力装置3409は、例えばメガネ型のウェアラブルデバイスやHMD(Head Mounted Display)等の、ユーザによって装着されるデバイスであってもよく、これらのデバイスによって検出されるユーザのジェスチャや視線の動き、ヘッドトラック等に応じて各種の入力が行われてもよい。あるいは、入力装置3409は、ユーザの動きを検出可能なカメラであってもよい。当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われ得る。あるいは、入力装置3409は、ユーザの声を収音可能なマイクロフォンであってもよい。当該マイクロフォンを介して音声によって各種の入力が行われ得る。このように、入力装置3409が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ(例えば術者3501)が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
処置具制御装置3411は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具3203の駆動を制御する。気腹装置3413は、内視鏡3100による視野の確保及び術者3501の作業空間の確保の目的で、患者3505の体腔を膨らめるために、気腹チューブ3201を介して当該体腔内にガスを送り込む。レコーダ3415は、手術に関する各種の情報を記録可能な装置である。プリンタ3417は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
以上、内視鏡手術システム3000の構成について説明した。
(2.支援システムの構成)
図2を参照して、以上説明した内視鏡手術システム3000に適用される、本実施形態に係る支援システムの構成について説明する。図2は、本実施形態に係る支援システムの機能構成の一例を示すブロック図である。なお、本実施形態に係る支援システムは、検査時や手術時において、支持アーム装置によって支持される術具を当該支持アーム装置を介して操作するユーザを支援するものである。本実施形態では、一例として、支援システムが、スコピストが支持アーム装置のアーム部を直接操作によって動かしながら内視鏡を操作する際に、当該スコピストの操作を支援する場合について説明する。ただし、本実施形態はかかる例に限定されず、支持アーム装置によって支持される他の術具が他のユーザによって操作される場合には、支援システムは、当該他のユーザによる当該他の術具の操作を支援してもよい。
図2を参照すると、本実施形態に係る支援システム1は、その機能として、内視鏡部110と、支持アーム部120と、アーム制御部130と、画像処理距離算出部140と、入力部150と、出力部160と、安全制御部170と、を備える。
内視鏡部110の機能は、図1に示す内視鏡3100によって実現され得る。内視鏡部110は、患者の体腔内における術部の画像を撮影する。内視鏡部110は、撮影した患者の術部の画像についての情報を、画像処理距離算出部140に提供する。
支持アーム部120の機能は、図1に示す支持アーム装置3300によって実現され得る。支持アーム部120は、そのアーム部によって内視鏡部110を支持するとともに、アーム制御部130からの制御により当該アーム部を駆動することにより、内視鏡部110の位置、姿勢及び動作を制御する。支持アーム部120からは、アーム部の各関節部に設けられる各種のセンサ(エンコーダやトルクセンサ等)によって取得される、当該各関節部の状態を示す情報が、アーム制御部130に提供される。なお、図2では、支持アーム部120のアーム部によって内視鏡部110が支持されていることを示すために、両者を破線で結んでいる。
アーム制御部130の機能は、図1に示すアーム制御装置3407によって実現され得る。アーム制御部130は、支持アーム部120から提供される各関節部の状態を示す情報、及びスコピストによる操作入力に応じて、支持アーム部120におけるアーム部の駆動を制御することにより、内視鏡部110の位置、姿勢及び動作を制御する。このとき、本実施形態では、アーム制御部130は、安全制御部170から、支持アーム部120の動作を制限する旨の指示(以下、動作制限指示ともいう)を受け、当該動作制限指示に従って制限を設けた上でアーム部を駆動させる。安全制御部170による動作制限指示の詳細については後述する。
画像処理距離算出部140は、内視鏡部110から提供される術部の画像についての情報に基づいて、内視鏡の鏡筒の先端と、その画像に含まれる物体(患者の体腔内の生体組織)との距離(以下、鏡筒生体組織間距離ともいう)を算出する。図示する構成例では、内視鏡部110はステレオカメラとして構成されており、その撮像画像は3次元情報を有するものとして取得されるため、画像処理距離算出部140は、内視鏡部110において取得された画像信号に対して各種の画像処理を施すとともに、距離の算出処理を行うことにより、鏡筒生体組織間距離を算出することができる。なお、ステレオカメラを用いた距離の算出の具体的な方法としては、各種の公知の方法が用いられてよいため、ここでは詳細な説明は省略する。
本実施形態では、画像処理距離算出部140は、手術中にリアルタイムで鏡筒生体組織
間距離を算出する。ここで、本明細書において、「手術中」とは、少なくとも術具によって患者の生体組織に対して処置を行っている期間を意味する。例えば、今説明している実施形態のように内視鏡手術システム3000におけるスコピストの操作を支援の対象とする場合であれば、「手術中」とは、少なくとも内視鏡部110による術部の撮影が行われている期間を意味する。また、本明細書において、「リアルタイムに実行される」とは、手術中に少なくとも1度は実行されることを意味する。本実施形態では、例えば、画像処理距離算出部140は、内視鏡部110による撮影のフレームレートごとに、各フレームレートにおいて取得された画像信号に基づいて鏡筒生体組織間距離を算出する。ただし、画像処理距離算出部140による鏡筒生体組織間距離の算出間隔はかかる例に限定されず、画像処理距離算出部140は、より広い時間間隔で鏡筒生体組織間距離を算出してもよい。当該算出間隔は、後述する鏡筒生体組織間距離に応じた支持アーム部120の動作制限によって安全性が十分に確保され得るように、適宜決定されてよい。
画像処理距離算出部140は、算出した鏡筒生体組織間距離についての情報を、算出する度に随時、安全制御部170に提供する。
なお、画像処理距離算出部140の機能は、CCU3401及び安全制御装置3408が協働することにより実現され得る。この場合、例えば、画像処理がCCU3401によって実行され、距離算出に係る演算処理が安全制御装置3408によって実行される。あるいは、画像処理距離算出部140の機能は、CCU3401及び安全制御装置3408のいずれか一方によって実現されてもよい。
入力部150の機能は、図1に示す入力装置3409によって実現され得る。入力部150は、ユーザによる、支持アーム部120の動作制限についての情報(以下、動作制限情報ともいう)を受け付ける。具体的には、動作制限情報は、動作制限を規定する各種の条件についての情報、例えば、動作制限を実行するか否かについての情報、後述する第1制限距離及び第2制限距離、進行領域及び周辺領域、並びに動作速度を制限する際の許容速度等についての情報を含む。
本実施形態では、入力部150は多様な入力方法に対応し得る。図示する構成例では、入力部150は、更にその機能として、音声検出部151と、視線検出部152と、ヘッドトラック検出部153と、ジェスチャ検出部154と、装置操作検出部155と、を有する。ユーザは、これらのいずれかの機能を利用して、動作制限情報を入力することができる。
音声検出部151は、例えばマイクロフォン等の収音装置によって実現され、ユーザの音声を検出する。視線検出部152は、例えばHMDや眼鏡型のウェアラブルデバイスに設けられる視線検出センサによって実現され、ユーザの視線の動きを検出する。ヘッドトラック検出部153は、例えばHMDや眼鏡型のウェアラブルデバイス等のユーザの頭部に装着されるデバイスに設けられる加速度センサによって実現され、ユーザの頭部の動きを検出する。ジェスチャ検出部154は、例えば手術室内に設けられるユーザを撮影可能なカメラ装置や、例えば腕時計型のウェアラブルデバイス等のユーザの身体に装着されるデバイスに設けられる加速度センサによって実現され、ユーザのジェスチャを検出する。装置操作検出部155は、上述した以外の各種の入力装置(例えば、フットスイッチ、レバー、ボタン、タッチセンサ等)によって実現され、これらの装置を介したユーザの操作入力を検出する。
なお、以上説明した音声検出部151、視線検出部152、ヘッドトラック検出部153及びジェスチャ検出部154を介した操作入力は、いわゆるNUI(Natural User Interface)を介した操作入力であり、非接触での操作入力を可能とするものである。一方、装置操作検出部155は、NUI以外の操作入力を受け付ける機能を有するものである。ここで、医療現場では、清潔域に属するユーザが、不潔域に属する装置に対して操作入力を与えたい場合がある。このような場合において、非接触での操作入力が行えない場合には、当該ユーザが直接入力装置に触れながら操作入力を行うことができないため、例えば助手に口頭で指示を行い、当該助手が入力装置を介して操作入力を行う必要があり、非効率である。これに対して、本実施形態では、NUIを適用することにより、非接触での操作入力が可能となるため、不潔域に属する装置に対しても、清潔域に属するユーザが直接操作入力を行うことが可能となる。従って、より直感的な操作入力が可能となり、ユーザの利便性を向上させることができる。なお、動作制限情報を入力するためのUIの例については、下記(3.動作制限情報の入力方法)で改めて説明する。
入力部150は、ユーザによって入力された動作制限情報を、安全制御部170に提供する。
出力部160の機能は、図1に示す表示装置3403によって実現され得る。また、出力部160は、図1には図示しないランプ等の他の視覚的な出力装置や、スピーカ等の音声出力装置によって実現されてもよい。出力部160は、安全制御部170からの指示に基づいて、表示、音等により、スコピストによる内視鏡部110の操作に対する警告を行う。当該警告は、表示装置によるテキスト等の表示、ランプの発光、並びに/又は音声出力装置による音声及びアラーム等の出力によって行われ得る。このとき、本実施形態では、安全制御部170からの警告の指示は段階的に設定され得る。これに対応して、出力部160は、警告を段階的に発するように構成され得る。例えば、出力部160は、表示されるテキストのフォントの大きさや、ランプの発光強度や色の種類、音の大きさ等を適宜制御することにより、比較的小規模な警告と、比較的大規模な警告と、をそれぞれ発することが可能である。
安全制御部170の機能は、図1に示す安全制御装置3408によって実現され得る。安全制御部170は、画像処理距離算出部140から提供される鏡筒生体組織間距離と、入力部150から提供される動作制限情報に基づいて、動作制限指示をアーム制御部130に発行する。また、安全制御部170は、当該鏡筒生体組織間距離及び当該動作制限情報に基づいて、警告を発する旨の指示を出力部160に発行する。なお、このとき、安全制御部170は、アーム制御部130からアーム部の状態についての情報を取得し、当該情報に基づいて把握される内視鏡の鏡筒の位置を利用して、画像処理距離算出部140から提供された鏡筒生体組織間距離を、適宜補正してもよい。
具体的には、安全制御部170は、動作制限情報に基づいて、第1制限距離及び第2制限距離を設定する。ここで、第1制限距離は、安全を確保するために許容され得る鏡筒と術部との最小距離(許容限界距離)に近い値として設定される。また、第2制限距離は、第1制限距離よりも長い距離であり、直ちに危険が及ぶことはないものの、そのまま内視鏡が進行すればまもなく許容限界距離に達する恐れのある距離として設定される。安全制御部170は、鏡筒生体組織間距離と、第1制限距離及び第2制限距離との関係に応じて、動作制限指示及び警告の指示を発行する。
ただし、上述したように、本実施形態では、ステレオカメラによる撮像画像に基づいて鏡筒生体組織間距離が算出されるため、鏡筒生体組織間距離として、内視鏡の撮影範囲に含まれる各物体と鏡筒との距離が算出され得る。つまり、鏡筒の進行方向と略垂直な面内における鏡筒生体組織間距離の2次元的な分布を得ることができる。これを利用して、本実施形態では、安全制御部170は、鏡筒の進行方向に複数の領域を設定し、これら複数の領域のそれぞれにおける、鏡筒生体組織間距離と第1制限距離及び第2制限距離との関係性に応じて、動作制限指示及び警告の指示を発行する。なお、以下では、便宜的に、このような鏡筒生体組織間距離の2次元的な分布を取得することができる測距のことを、面測距とも呼称する。
面測距及び領域分割の一例について、図3及び図4を参照して説明する。図3は、面測距の様子を概略的に示す図である。図4は、面測距の結果を概略的に示す図である。
図3に示すように、体腔内において、鏡筒201の進行方向の正面に生体組織203が存在し、鏡筒201の進行方向に位置しているが、正面からは外れた場所に位置している他の生体組織205が存在しているとする。ただし、生体組織205は、生体組織203よりも鏡筒201に近い場所に位置している。
この場合において、ステレオカメラによる撮像画像に基づいて鏡筒生体組織間距離を算出すると、撮像画像内における当該鏡筒生体組織間距離の分布を得ることができる。図4は、この撮像画像内における当該鏡筒生体組織間距離の分布を概略的に図示したものである。図4に示す例では、算出した鏡筒生体組織間距離を3段階に分け、それぞれの距離に属する領域に異なるハッチングを付けて図示している。近距離領域207aは、鏡筒生体組織間距離が比較的近い領域であり、中距離領域207bは、鏡筒生体組織間距離が中程度の領域であり、遠距離領域207cは、鏡筒生体組織間距離が比較的遠い領域である。図4を参照すると、近距離領域207aに位置する生体組織205が検出されていることが分かる。
ここで、説明の便宜のため、第1制限距離が近距離領域207aと中距離領域207bとの境界の値として設定され、第2制限距離が中距離領域207bと遠距離領域207cとの境界の値として設定されているとする。この場合、例えば、安全制御部170は、撮像画像内に近距離領域207a及び/又は中距離領域207bが存在していることを判断基準として、動作制限指示及び警告の指示を発行してもよい。
しかしながら、図4を参照すると、近距離領域207aは、撮像画像内の中央から外れた場所に分布している。従って、図3に示す位置関係からも明らかなように、鏡筒201がこのままその延伸方向に進行したとしても、鏡筒201が、近距離領域207aに位置する生体組織205に衝突する危険性は低いと考えられる。このような場合に、上記のように撮像画像内に近距離領域207a及び/又は中距離領域207bが存在していることを単純に判断基準として動作制限指示及び警告の指示を発行すると、かえってスコピストの操作の妨げとなる恐れがある。
従って、本実施形態では、安全制御部170は、動作制限情報に基づいて、鏡筒201の進行方向に複数の領域を設定する。当該複数の領域は、鏡筒201の光軸を中心とする同心円状の領域として設定され得る。図示する例では、鏡筒201が今後進行する領域である進行領域209と、当該進行領域の周辺の領域である周辺領域211が設定されている。進行領域209は、鏡筒201の進行方向において、鏡筒201の外径よりも若干大きな直径を有する円柱形状の領域として設定される。周辺領域211は、当該進行領域209の外周を取り囲む円筒形状の領域として設定される。
安全制御部170は、進行領域209と周辺領域211において、それぞれ、鏡筒生体組織間距離と第1制限距離及び/又は第2制限距離との関係性に応じて、動作制限指示及び警告の指示を発行する。具体的には、安全制御部170は、進行領域209において鏡筒生体組織間距離が第1制限距離以下である場合には、進行方向への鏡筒201の移動を停止させるように(すなわち、支持アーム部120のアーム部のそのときの移動方向への動作を停止させるように)、アーム制御部130に対して動作制限指示を発行する。また、安全制御部170は、併せて、出力部160に対して、比較的大規模な警告を発する旨の指示を発行する。
また、安全制御部170は、進行領域209において鏡筒生体組織間距離が第2制限距離以下である場合には、鏡筒201の移動速度(すなわち、支持アーム部120のアーム部の動作速度)を制限するように、アーム制御部130に対して動作制限指示を発行する。また、安全制御部170は、併せて、出力部160に対して、比較的小規模な警告を発する旨の指示を発行する。
また、安全制御部170は、周辺領域211において鏡筒生体組織間距離が第1制限距離以下である場合には、動作速度を制限するように、アーム制御部130に対して指示を出す。また、安全制御部170は、併せて、出力部160に対して、比較的小規模な警告を発する旨の指示を出す。
また、安全制御部170は、上記以外の場合には、動作制限指示及び警告の指示を発行せず、アーム制御部130に対してアーム部に通常動作を行わせる旨の指示を出す。ここで、通常動作とは、動作制限が課されることなく、スコピストの操作に従って、アーム部が自由に移動する動作である。
アーム制御部130は、安全制御部170からの指示を受けて、制限を設けた上で支持アーム部120を駆動させる。このとき、アーム制御部130は、スコピストによる支持アーム部120に対する操作よりも、安全制御部170からの指示を優先して、支持アーム部120を駆動させる。これにより、万が一スコピストが操作を誤り、鏡筒201が生体組織203、205に必要以上に近付いたとしても、鏡筒201の移動速度が低下される、又は鏡筒201の移動が停止されることとなり、患者の安全性が確保される。また、同時に、出力部160により、比較的小規模な警告又は大規模な警告が行われるため、スコピストは、当該警告により自身の操作に問題が生じていることを把握することができる。このとき、本実施形態によれば、鏡筒生体組織間距離がリアルタイムで検出されているため、より正確な鏡筒201と生体組織203、205との位置関係に基づいて、安全制御部170による指示がなされる。従って、手術の安全性をより向上させることが可能になる。
また、本実施形態では、上記のように、2種類の制限距離(第1制限距離及び第2制限距離)を設定することにより、鏡筒生体組織間距離に応じて、支持アーム部120のアーム部の動作制限、及び出力部160による警告が、段階的に行われる。従って、スコピストは、支持アーム部120のアーム部の動作速度が制限されたこと、及び出力部160によって小規模な警告がなされた段階で、危険が生じる可能性があることを把握し、自身の操作を改めることができる。このように、本実施形態によれば、実際に危険が生じる前に、より早い段階で、鏡筒201と生体組織203、205との位置関係をスコピストに知らせることができるため、更に安全性を高めることができる。
また、上記のように、鏡筒201の進行領域209及び周辺領域211も考慮して動作制限指示及び警告の指示を発行することにより、動作制限を行うかどうか及び警告を行うかどうかの判断基準をより細かく設定することができ、動作制限及び警告をより多段階で行うことが可能となる。従って、不要な動作制限及び警告を減少させることができ、スコピストの利便性をより向上させることができる。なお、上記の例では2つの領域(進行領域209及び周辺領域211)を設定していたが、より多くの領域が設定されてもよく、これらの領域に応じて、動作制限を行うかどうか及び警告を行うかどうかの判断基準も、更に詳細に設定されてもよい。これにより、更に多段階の動作制限及び警告がなされることとなり、スコピストの利便性を更に向上させることができる。
また、上記の実施形態では、進行領域209及び周辺領域211をそれぞれ円柱形状及び円筒形状の領域として設定していたが、進行領域209及び周辺領域211はかかる例に限定されない。進行領域209及び周辺領域211の大きさや形状は、任意に設定されてよい。例えば、進行領域209及び周辺領域211は、鏡筒201の先端を頂点とする錐体(円錐、三角錐等)として設定されてもよい。
なお、進行領域209及び周辺領域211は、例えば図3に示すようにそれぞれ円柱形状及び円筒形状の領域として空間上に設定されるが、実際には、安全制御部170は、図4に示すような撮像画像(測距画像)に対して、仮想的に進行領域209及び周辺領域211を設定することとなる。従って、安全制御部170は、進行領域209及び周辺領域211を設定する際には、内視鏡部110の光学系の構成、生体組織の検出距離、並びに、進行領域209及び周辺領域211の形状等に基づいて、所望の進行領域209及び周辺領域211が設定され得るように、適宜補正処理等を行ってよい。
ここで、動作制限情報は、手術前又は手術中に、入力部150を介してユーザによって入力されてよい。手術中に動作制限情報を入力可能なことにより、ユーザ、特に内視鏡部110を操作しているスコピストの利便性を向上させることができる。例えば、手術中に、より鏡筒を生体組織に接近させる必要が生じた場合等、いわばイレギュラーな操作を行う必要が生じた場合には、安全制御部170による動作制限が、かえってスコピストの操作を妨害してしまう恐れがある。このような場合に、手術中にスコピスト自身によって動作制限についての設定が適宜変更可能であることにより、例えば当該スコピストは必要に応じて動作制限を解除したり、第1制限距離及び第2制限距離をより短くしたりすることができ、より円滑に操作を行うことが可能になる。なお、動作制限情報の入力方法については、下記(3.動作制限情報の入力方法)で改めて説明する。
なお、支援システム1では、安全制御部170において、ユーザの指示に従って、動作制限を規定する各種の条件(第1制限距離、第2制限距離、進行領域及び周辺領域等)が設定される設定モードと、ユーザによるアーム部が操作される操作モードとが切り替え可能である。ユーザは、設定モードに切り替えてから、動作制限情報の入力を行う。安全制御部170は、設定モードにおいて、入力された動作制限情報に基づいて、動作制限を規定する各種の条件を設定する。動作制限情報の入力が終了したら、ユーザは、操作モードに切り替えた後、アーム部の操作を行う。安全制御部170は、操作モードにおいて、設定された動作制限を規定する各種の条件に従って、適宜動作制限指示及び警告の指示を発行する。
ここで、上記の実施形態において安全制御部170が進行方向への鏡筒201の移動を停止させるようにアーム制御部130に対して動作制限指示を発行した場合(すなわち、アーム部の動作を停止させるようにアーム制御部130に対して動作制限指示を発行した場合)に、その後、設定モードにおいてこの動作制限が解除されるまでスコピストが鏡筒201を動かせないことになると、手術の続行の妨げになってしまうことが懸念される。従って、安全制御部170がアーム部の動作を停止させるようにアーム制御部130に対して動作制限指示を発行した場合には、当該安全制御部170は、所定の時間の後、鏡筒生体組織間距離を増やす方向にのみ動作速度を制限しながら鏡筒201が移動可能であるようにアーム部を動作させる旨の動作制限指示を、アーム制御部130に対して発行してもよい。これにより、動作制限によりアーム部の動作が停止されたとしても、間もなく、より安全な方向により安全な速度であれば、スコピストの操作によって鏡筒201を移動させることが可能となるため、円滑に手術を続行することが可能になる。
以上、本実施形態に係る支援システム1の構成について説明した。以上説明したように、本実施形態によれば、リアルタイムで検出される鏡筒生体組織間距離に基づいて、支持アーム部120に対して動作制限指示が発行されるとともに、出力部160に対して警告の指示が発行される。従って、より安全な手術が実現され得る。
ここで、本実施形態に係る支援システム1は、スコピストが支持アーム部120に対する直接操作により内視鏡部110を操作する際に、特に有益である。図5を参照して、その理由について説明する。
図5は、本実施形態に係る支援システム1を用いた手術の様子を表す図である。図5では、スコピスト301が、患者ベッド303上の患者305に対して、内視鏡307の鏡筒を挿入し、その位置及び姿勢を操作している様子が図示されている。内視鏡307は支持アーム装置309によって支持されており、スコピスト301は、当該支持アーム装置309に対する直接操作により、内視鏡307を操作することができる。内視鏡307及び支持アーム装置309は、図2における内視鏡部110及び支持アーム部120を構成し得るものである。
支援システム1によれば、内視鏡部110の鏡筒の先端と患者305の体腔内の生体組織311との距離である鏡筒生体組織間距離dがリアルタイムで検出される。そして、その検出された鏡筒生体組織間距離dに基づいて、支持アーム装置309の動作が制限される。また、鏡筒生体組織間距離dに基づいて、警告が発せられる。例えば、鏡筒が生体組織311に近付き過ぎている場合には、その距離に応じて、支持アーム装置309の動作速度が制限されるとともに小規模な警告が発せられる、又は支持アーム装置309の動作が停止されるとともに大規模な警告が発せられる。
この際、スコピスト301が、直接操作により支持アーム装置309を介して内視鏡307を操作している場合には、当該スコピスト301は、アーム部の速度が低下したこと又はアーム部の動作が停止したことを直感的に認識することができる。つまり、スコピスト301に対してより直感的に鏡筒と生体組織311との位置関係を通知することができるため、スコピスト301は、操作を変更する等の対応をより迅速に行うことが可能になる。よって、手術の安全性を更に向上させることができる。
なお、以上説明した実施形態では、支持アーム部120における動作制限と、出力部160による警告が同時に行われていたが、本実施形態はかかる例に限定されない。本実施形態では、支援システム1は、アーム制御部130に対する動作制限指示、及び出力部160に対する警告の指示の、少なくともいずれかが行われるように構成することができる。
また、支持アーム部120に対する動作制限の種類も、上述した例に限定されない。本実施形態では、安全制御部170は、鏡筒生体組織間距離に応じて徐々にスコピストに対して危険性を通知し得るように動作制限指示を発行すればよく、その具体的な動作制限の内容は適宜設定可能である。例えば、安全制御部170は、第1制限距離と第2制限距離との間に更に複数の制限距離を設定し、それら複数の制限距離と鏡筒生体組織間距離との関係に応じて、速度制限制御における許容速度を段階的に変更してもよい。つまり、安全制御部170は、鏡筒が生体組織に近付くほど、アーム部の動作速度が遅くなるように、動作指示を行ってもよい。これにより、スコピストが、更に直感的に鏡筒と生体組織との位置関係を把握することが可能になるため、手術の更なる安全性の向上が実現され得る。
あるいは、支持アーム部120の駆動が力制御によって制御される場合には、安全制御部170は、動作速度の制限に代えて、スコピストの操作に対して抵抗感を付与するようにアーム部の各関節部に設けられるアクチュエータを動作させる旨の動作制限指示を発行してもよい。このような動作制限が実行されることによって、特に図5に示すようなスコピスト301が支持アーム装置309に対する直接操作により内視鏡307を操作する場合において、当該スコピスト301に対して、鏡筒と生体組織との位置関係を更に直感的に通知することが可能になる。
(3.動作制限情報の入力方法)
上述したように、本実施形態では、動作制限情報は、手術前又は手術中に、ユーザによって適宜入力され得る。ここでは、動作制限情報の具体的な入力方法のいくつかの例について説明する。
なお、支援システム1では、上述したように、NUIを用いて非接触で動作制限情報を入力することができる。これにより、術者やスコピストが、手術中に動作制限の設定を変更したい場合に、自身の作業を継続しながら、音声や視線等により、よりスムーズに動作制限情報を入力することが可能になる。従って、以下の動作制限情報の入力方法についての説明では、主にNUIを用いた入力方法について説明する。
図6は、支援システム1におけるNUIについて説明するための図である。図4では、スコピスト401が、患者ベッド403上の患者405に対して内視鏡407を操作している様子が図示されている。患者405の体腔内に、支持アーム装置409によって支持された内視鏡407の鏡筒が挿入されており、当該内視鏡407によって撮影された術部の画像が、手術室内に設けられる表示装置411に表示される。スコピスト401は、当該表示装置411の画像を参照しながら、術部について所望の画像が得られるように、鏡筒の位置を調整する。なお、表示装置411は、図1に示す表示装置3403に対応し得るものである。また、内視鏡407及び支持アーム装置409は、図2における内視鏡部110及び支持アーム部120を構成し得るものである。
図2を参照して説明したように、支援システム1では、NUIのための入力装置が設けられ得る。図示する例では、表示装置411の上部に、スコピスト401の様子を撮影するためのカメラ装置413が設けられている(図2に示すジェスチャ検出部154に対応する)。当該カメラ装置413によって撮影された画像に基づいて、スコピスト401のジェスチャが検出され得る。
また、図示する例では、スコピスト401は、眼鏡型のウェアラブルデバイス415を装着している。当該ウェアラブルデバイス415には、視線検出センサ(図2に示す視線検出部152に対応する)及び加速度センサ(図2に示すヘッドトラック検出部153に対応する)が設けられる。加速度センサの検出値に基づいて、スコピスト401の頭部の動きが検出され得る。なお、スコピスト401は、ウェアラブルデバイス415の代わりに、視線検出センサ及び加速度センサが備えられたHMDを装着してもよい。
また、スコピスト401は、ヘッドセット(図示せず)を更に装着し得る。当該ヘッドセットのマイクロフォン(図2に示す音声検出部151に対応する)を介して、スコピスト401の音声が検出され得る。
支援システム1では、これらの、スコピスト401のジェスチャ、視線、ヘッドトラック及び音声による入力と、他の入力装置(フットスイッチ等)による入力を適宜組み合わせることにより、より円滑な動作制限情報の入力が可能となる。以下、いくつかの入力方法の具体例について説明する。
例えば、動作制限を行うか否かについての情報は、音声による入力とフットスイッチによる入力が組み合わされて行われ得る。当該入力例では、スコピスト401が、安全制御部170のモードを設定モードに切り替えた後、「リミットオン」等の予め設定されたキーワードを音声で入力した上で、フットスイッチを押下することにより、支持アーム装置409に対して動作制限が適用される。また、同様に、スコピスト401が、「リミットオフ」等の予め設定されたキーワードを音声で入力した上で、フットスイッチを押下することにより、支持アーム装置409に対する動作制限が解除される。
また、例えば、第1制限距離の値を変更する旨の情報は、音声による入力と、視線による入力と、フットスイッチによる入力が組み合わされて行われ得る。図7は、第1制限距離の範囲を変更する際のUIの一表示例を示す図である。例えば、スコピスト401が、安全制御部170のモードを設定モードに切り替えた上で、「ディスタンス」等の予め設定されたキーワードを音声で入力すると、図7に示す表示画面421が表示装置411に表示される。図示する例では、第1制限距離の値を3段階で設定可能であり、表示画面421には、これに対応して、第1制限距離の値を指定するための3つのアイコン423a、423b、423cが表示されている。アイコン423aには、比較的短い距離であることを表す「short」との表示が記載されており、アイコン423bには、中程度の距離であることを表す「middle」との表示が記載されており、アイコン423cには、比較的長い距離であることを表す「long」との表示が記載されている。
更に、表示画面421には、ポインタ425が表示される。当該ポインタ425は、スコピスト401の視線に応じて移動させることが可能である。スコピスト401は、希望する第1制限距離に応じて、アイコン423a、423b、423cのいずれかの上に、視線によってポインタ425を移動させる。ポインタ425によって、アイコン423a、423b、423cのいずれかが選択されている状態で、スコピスト401がフットスイッチを押下することにより、その選択されたアイコンに対応する値に、第1制限距離が変更される。
また、他の入力方法として、第1制限距離の値を変更する旨の情報は、音声による入力と、ヘッドトラックによる入力と、フットスイッチによる入力が組み合わされて行われ得る。図8は、第1制限距離の範囲を変更する際のUIの他の表示例を示す図である。図8に示す例では、図7に示すUIよりも、より詳細に第1制限距離を設定可能なUIが提供される。
例えば、スコピスト401が、安全制御部170のモードを設定モードに切り替えた上で、「ディスタンス」等の予め設定されたキーワードを音声で入力すると、図8に示す表示画面431が表示装置411に表示される。図示する例では、第1制限距離の値をより多段階で設定可能であり、表示画面431には、これに対応して、第1制限距離の値を指定するための目盛りのついた数直線433が表示されている。数直線433の値は、新たに設定する第1制限距離の値に対応しており、その一端から他端に向かうにつれて、第1制限距離がより長い距離に設定され得ることを示している。
更に、表示画面431には、ポインタ435が表示される。当該ポインタ435は、数直線433の下部に表示され、スコピスト401のヘッドトラックに応じて、数直線433に沿って、1目盛りごとに移動させることが可能である。スコピスト401は、希望する第1制限距離に応じて、数直線433上の所望の数値の下に、ヘッドトラックによってポインタ435を移動させる。ポインタ435によって数直線433上のいずれかの位置が選択されている状態で、スコピスト401がフットスイッチを押下することにより、その選択された位置に応じた値に、第1制限距離が変更される。
以上、NUIを用いた動作制限情報の入力方法のいくつかの具体例について説明した。なお、以上説明した具体例では、動作制限を行うか否かについての情報、及び第1制限距離についての情報しか扱わなかったが、もちろん他の動作制限情報についても同様に入力可能である。例えば、第2制限距離、進行領域、周辺領域、動作速度を制限する際の許容速度の値等は、図7又は図8を参照して説明した方法と同様にして設定され得る。また、以上説明した入力方法はあくまで一例であり、本実施形態では、以上説明した図2に示す入力部150を介した任意の方法によって、動作制限情報が入力可能である。また、以上の説明ではスコピスト401による動作制限情報の入力について説明したが、動作制限情報の入力は、スコピスト401だけでなく、他のユーザによっても同様に実行され得る。
(4.安全制御方法)
図9を参照して、本実施形態に係る安全制御方法の処理手順について説明する。図9は、本実施形態に係る安全制御方法の処理手順の一例を示すフロー図である。なお、図9に示す各ステップにおける処理は、図2に示す安全制御部170によって実行される処理に対応している。
図9を参照すると、本実施形態に係る安全制御方法では、まず、操作モード又は設定モードの切り替えが行われる(ステップS101)。具体的には、ステップS101では、ユーザからの指示に従ってこれらのモードが切り替えられる。
次に、操作モードか設定モードかの判断処理が行われる(ステップS103)。ステップS103で現在のモードが設定モードであると判断された場合には、ユーザが入力した動作制限情報に基づいて、動作制限を規定する各種の条件(例えば、第1制限距離、第2制限距離、進行領域及び周辺領域等)が設定される(ステップS105)。このとき、動作制限情報は、上記(3.動作制限情報の入力方法)で説明したように、例えばNUIを介して入力され得る。
ステップS103で現在のモードが操作モードであると判断された場合、又はステップS105での動作制限を規定する各種の条件の設定処理が終わった場合には、ステップS107に進む。以降のステップS107〜ステップS121における処理は、スコピストの操作に従いアーム部が移動している間に実行される処理である。
ステップS107では、アーム部の移動中に、鏡筒生体組織間距離についての距離情報が取得される。具体的には、ステップS107では、図2に示す画像処理距離算出部140によって撮像画像から鏡筒生体組織間距離が算出され、当該鏡筒生体組織間距離についての情報が安全制御部170に提供される。
次に、進行領域内で鏡筒生体組織間距離が第1制限距離よりも大きいかどうかが判断される(ステップS109)。進行領域内で鏡筒生体組織間距離が第1制限距離以下である場合は、危険を及ぼし得る位置まで鏡筒が生体組織に接近しつつある状態を意味している。従って、この場合には、ステップS111に進み、アーム部の動作を停止させる旨の指示、及び比較的大規模な警告を実行する旨の指示が発行される。具体的には、ステップS111では、図2に示す安全制御部170が、アーム制御部130に対してアーム部の動作を停止させる旨の指示を発行するとともに、出力部160に対して比較的大規模な警告を実行する旨の指示を発行する。アーム制御部130及び出力部160がこれらの指示に従って動作することにより、アーム部の動作停止、及び比較的大規模な警告が実行される。
一方、ステップS109で進行領域内で鏡筒生体組織間距離が第1制限距離よりも大きいと判断された場合には、ステップS113に進む。ステップS113では、進行領域内で鏡筒生体組織間距離が第2制限距離よりも大きいかどうかが判断される。進行領域内で鏡筒生体組織間距離が第2制限距離以下である場合は、第1制限距離までは接近していないものの、鏡筒が生体組織に接近しつつある状態を意味しているため、そのまま鏡筒が移動すると危険が生じる恐れがある。従って、この場合には、ステップS115に進み、アーム部の動作速度を制限する旨の指示、及び比較的小規模な警告を実行する旨の指示が発行される。具体的には、ステップS115では、図2に示す安全制御部170が、アーム制御部130に対してアーム部の動作速度を制限させる旨の指示を発行するとともに、出力部160に対して比較的小規模な警告を実行する旨の指示を発行する。アーム制御部130及び出力部160がこれらの指示に従って動作することにより、アーム部の動作速度の制限、及び比較的小規模な警告が実行される。
ステップS113で進行領域内で鏡筒生体組織間距離が第2制限距離よりも大きいと判断された場合には、ステップS117に進む。ステップS117では、周辺領域内で鏡筒生体組織間距離が第1制限距離よりも大きいかどうかが判断される。周辺領域内で鏡筒生体組織間距離が第2制限距離以下である場合は、そのままの方向に鏡筒が進行すれば危険が生じる可能性は低いものの、鏡筒の比較的近くに生体組織が存在している状態を意味している。従って、この場合には、ステップS119に進み、アーム部の動作速度を制限する旨の指示、及び比較的小規模な警告を実行する旨の指示が発行される。具体的には、ステップS119では、ステップS115と同様に、図2に示す安全制御部170が、アーム制御部130に対してアーム部の動作速度を制限させる旨の指示を発行するとともに、出力部160に対して比較的小規模な警告を実行する旨の指示を発行する。アーム制御部130及び出力部160がこれらの指示に従って動作することにより、アーム部の動作速度の制限、及び比較的小規模な警告が実行される。
ステップS117で周辺領域内で鏡筒生体組織間距離が第1制限距離よりも大きいと判断された場合には、ステップS121に進む。ステップS121では、アーム部に通常動作をさせる旨の指示が発行される。具体的には、ステップS121では、図2に示す安全制御部170が、アーム制御部130に対してアーム部に通常動作を行わせる旨の指示を発行する。アーム制御部130が当該指示に従って動作することにより、アーム部の通常動作が実行される。
ステップS111、ステップS115、ステップS117又はステップS121における処理が終了したら、ステップS101に戻る。そして、以上説明した一連の処理が手術中に繰り返し実行される。
以上、本実施形態に係る安全制御方法の処理手順について説明した。なお、ステップS111における処理では、アーム部の動作を停止させる旨の指示、及び比較的大規模な警告を実行する旨の指示が発行された後、更に、鏡筒生体組織間距離を増やす方向にのみ動作速度が制限されながら鏡筒が移動可能であるようにアーム部を動作させる旨の動作制限指示が発行されてもよい。これにより、アーム部の動作を停止させる旨の指示が発行された場合であっても、ステップS101〜ステップS105まで戻って設定モードにおいて動作制限を解除する旨の指示を入力するまでもなく、安全が確保された状態で鏡筒を移動させることが可能となるため、手術をより円滑に続行することが可能になる。
(5.変形例)
以上説明した実施形態におけるいくつかの変形例について説明する。なお、以上説明した実施形態に係る構成、及び以下に説明する各変形例に係る構成は、可能な範囲で互いに組み合わされてよい。
(5−1.測距方法)
以上説明した実施形態では、内視鏡がステレオカメラとして構成されており、その撮像画像に基づいて鏡筒生体組織間距離が検出されていた。しかし、本実施形態はかかる例に限定されず、他の方法によって鏡筒生体組織間距離が検出されてもよい。ここでは、本実施形態の変形例として、他の測距方法が適用される場合における支援システムの構成、及び当該支援システムにおいて実行される処理について説明する。なお、本変形例に係る支援システムも、上述した実施形態と同様に、図1に示す内視鏡手術システム3000に適用され得るものである。
(5−1−1.鏡筒の先端に測距センサが設けられる場合)
例えば、内視鏡の鏡筒の先端に測距センサが設けられてもよい。図10は、このような、内視鏡の先端に測距センサが設けられる変形例に係る支援システムの機能構成の一例を示すブロック図である。
図10を参照すると、本変形例に係る支援システム1aは、その機能として、内視鏡部110と、支持アーム部120と、アーム制御部130と、入力部150と、出力部160と、安全制御部170と、距離検出部180aと、を備える。なお、本変形例に係る支援システム1aは、鏡筒生体組織間距離の測定方法が異なること、及びそれに伴い安全制御部170における処理が異なること以外は、図2に示す支援システム1と略同様の構成を有する。従って、以下の支援システム1aについての説明では、支援システム1との相違点について主に説明することとし、重複する事項についてはその詳細な説明を省略する。
図10に示すように、支援システム1aは、支援システム1が備えていた画像処理距離算出部140の機能を有していない。その代わりに、支援システム1aには、距離検出部180aの機能が設けられる。
距離検出部180aは、内視鏡部110の鏡筒の先端と、当該鏡筒の進行方向に存在する生体組織との間の距離を検出する。当該距離検出部180aの機能は、内視鏡部110の鏡筒の先端に設けられる測距センサによって実現され得る。当該測距センサの種類は限定されず、例えば赤外線センサ、超音波センサ等、各種の公知のものを用いることができる。距離検出部180aは、検出した鏡筒生体組織間距離についての情報を、安全制御部170に提供する。なお、図10では、距離検出部180aが内視鏡部110の鏡筒の先端に設けられ得ることを示すために、両者を破線で結んでいる。
ここで、一般的に、測距センサによる測距では、ステレオカメラの撮像画像に基づく測距のように面測距を行うことはできず、対象となる所定の点との距離を検出することができる。以下、便宜的に、このような、対象となる所定の点との距離を検出する測距のことを1点測距とも呼称することとする。
図11は、1点測距の様子を概略的に示す図である。図11では、図3と同様に、体腔内における、鏡筒201、鏡筒201の進行方向の正面に位置する生体組織203、及び鏡筒201の進行方向に位置しているが、正面からは外れた場所に位置している他の生体組織205の位置関係を図示している。
図3を参照して説明したように、上記の実施形態では、面測距が実行可能であったため、2次元的な鏡筒生体組織間距離の分布を得ることができた。一方、図11に示すように、本変形例では、鏡筒201の先端と、当該鏡筒201の延伸方向における1点との距離のみが検出され得る。つまり、本変形例では、鏡筒201と生体組織203との距離は検出することができるものの、鏡筒201と他の生体組織205との距離は検出することができない。そのため、安全制御部170にも、鏡筒生体組織間距離についての情報として、1点測距によって検出された、鏡筒201の先端と生体組織205表面の所定の点との距離についての情報が提供されることとなる。このように、本変形例では、1点での鏡筒生体組織間距離しか検出され得ないため、上述した実施形態のように進行領域や周辺領域を設定し、これらの領域ごとに鏡筒生体組織間距離の判定を行うことは困難である。
従って、本変形例では、安全制御部170における処理も、上述した実施形態から変更される。図12は、本変形例に係る安全制御方法の処理手順の一例を示すフロー図である。なお、図12に示す各ステップにおける処理は、図11に示す安全制御部170によって実行される処理に対応している。
図12を参照すると、本変形例に係る安全制御方法では、ステップS201〜ステップS207における処理は、図9に示す上述した実施形態に係る安全制御方法でのステップS101〜ステップS107における処理と略同様である。すなわち、まず、操作モード又は設定モードの切り替えが行われ(ステップS201)、次いで、モードの判断処理が行われる(ステップS203)。そして、設定モードである場合には、動作制限を規定する各種の条件が設定される(ステップS205)。ただし、ステップS205では、ステップS105とは異なり、進行領域及び周辺領域は設定されない。次に、アーム部の移動中に鏡筒生体組織間距離についての距離情報が取得される(ステップS207)。ただし、ステップS207では、図10に示す距離検出部180aによって1点測距によって検出された鏡筒生体組織間距離についての情報が、安全制御部170に提供される。
本変形例では、以降の処理が、上述した実施形態と大きく異なる。具体的には、本変形例では、次に、鏡筒生体組織間距離が第1制限距離よりも大きいかどうかが判断される(ステップS209)。鏡筒生体組織間距離が第1制限距離以下である場合は、危険を及ぼし得る位置まで鏡筒が生体組織に接近しつつある状態を意味している。従って、この場合には、ステップS211に進み、アーム部の動作を停止させる旨の指示、及び比較的大規模な警告を実行する旨の指示が発行される。具体的には、ステップS211では、図10に示す安全制御部170が、アーム制御部130に対してアーム部の動作を停止させる旨の指示を発行するとともに、出力部160に対して比較的大規模な警告を実行する旨の指示を発行する。アーム制御部130及び出力部160がこれらの指示に従って動作することにより、アーム部の動作停止、及び比較的大規模な警告が実行される。なお、上述した実施形態と同様に、ステップS211における処理では、アーム部の動作を停止させる旨の指示、及び比較的大規模な警告を実行する旨の指示が発行された後、更に、鏡筒生体組織間距離を増やす方向にのみ動作速度が制限されながら鏡筒が移動可能であるようにアーム部を動作させる旨の動作制限指示が発行されてもよい。
一方、ステップS209で鏡筒生体組織間距離が第1制限距離よりも大きいと判断された場合には、ステップS213に進む。ステップS213では、鏡筒生体組織間距離が第2制限距離よりも大きいかどうかが判断される。鏡筒生体組織間距離が第2制限距離以下である場合は、第1制限距離までは接近していないものの、鏡筒が生体組織に接近しつつある状態を意味しているため、そのまま鏡筒が移動すると危険が生じる恐れがある。従って、この場合には、ステップS215に進み、アーム部の動作速度を制限する旨の指示、及び比較的小規模な警告を実行する旨の指示が出される。具体的には、ステップS215では、図10に示す安全制御部170が、アーム制御部130に対してアーム部の動作速度を制限させる旨の指示を発行するとともに、出力部160に対して比較的小規模な警告を実行する旨の指示を発行する。アーム制御部130及び出力部160がこれらの指示に従って動作することにより、アーム部の動作速度の制限、及び比較的小規模な警告が実行される。
ステップS213で鏡筒生体組織間距離が第2制限距離よりも大きいと判断された場合には、ステップS217に進む。ステップS217では、アーム部に通常動作をさせる旨の指示が発行される。具体的には、ステップS217では、図10に示す安全制御部170が、アーム制御部130に対してアーム部に通常動作を行わせる旨の指示を発行する。アーム制御部130が当該指示に従って動作することにより、アーム部の通常動作が実行される。
ステップS211、ステップS215及びステップS217における処理が終了したら、ステップS201に戻る。そして、以上説明した一連の処理が手術中に繰り返し実行される。
以上説明したように、本変形例によれば、進行領域及び周辺領域を考慮せずに、アーム部の動作を制限するか否かの判断処理が行われる。このような、進行領域及び周辺領域を考慮しない安全制御方法であっても、鏡筒の進行方向における所定の点を対象とした鏡筒生体組織間距離に基づいてアーム部の動作の制限が行われるため、鏡筒の進行方向における当該鏡筒と生体組織との接触は効果的に防止することが可能である。このように、例えば内視鏡がステレオカメラとして構成されておらず、測距センサを用いて鏡筒生体組織間距離を検出する場合であっても、上述した実施形態と同様に、手術の安全性をより高める効果を得ることが可能である。
(5−1−2.外部に距離検出部が設けられる場合)
更に他の測距方法として、内視鏡の鏡筒を外部から観測し得る位置に距離検出部を設け、当該距離検出部によって鏡筒生体組織間距離を検出する方法が考えられる。図13は、このような、内視鏡の鏡筒を外部から観測する距離検出部が設けられる変形例に係る支援システムの機能構成の一例を示すブロック図である。
図13を参照すると、本変形例に係る支援システム1bは、その機能として、内視鏡部110と、支持アーム部120と、アーム制御部130と、入力部150と、出力部160と、安全制御部170と、距離検出部180bと、を備える。なお、本変形例に係る支援システム1bは、鏡筒生体組織間距離の測定方法が異なること、及びそれに伴い安全制御部170における処理が異なること以外は、図2に示す支援システム1と略同様の構成を有する。従って、以下の支援システム1bについての説明では、支援システム1との相違点について主に説明することとし、重複する事項についてはその詳細な説明を省略する。
図13に示すように、支援システム1bは、支援システム1が備えていた画像処理距離算出部140の機能を有していない。その代わりに、支援システム1bには、距離検出部180bの機能が設けられる。
距離検出部180bは、内視鏡部110の鏡筒の先端と、当該鏡筒の進行方向に存在する生体組織との間の距離を検出する。当該距離検出部180bの機能は、例えば、内視鏡部110の鏡筒、及び当該鏡筒の進行方向に位置する生体組織を観測し得る位置に設けられる測距センサによって実現され得る。当該測距センサは、例えば、内視鏡部110の鏡筒や他の術具等とは別に、患者の体腔内に挿入される。当該測距センサとしては、空間上の2点間の距離を測定可能な、各種の公知なセンサ(例えば、超音波センサ等)を適用することができる。あるいは、距離検出部180bの機能は、内視鏡部110とは異なる、他の内視鏡によって実現されてもよい。当該他の内視鏡がステレオカメラとして構成されていれば、当該他の内視鏡の鏡筒を、内視鏡部110の鏡筒、及び当該鏡筒の進行方向に位置する生体組織を観測し得る位置まで挿入し、当該内視鏡部110の鏡筒及び当該生体組織を含む画角で撮像画像を撮影することにより、その撮像画像から、当該内視鏡部110の鏡筒と当該生体組織との距離を検出することができる。距離検出部180bは、検出した鏡筒生体組織間距離についての情報を、安全制御部170に提供する。
ここで、本変形例では、距離検出部180bは、面測距を実行可能に構成されてもよい
し、1点測距を実行可能に構成されてもよい。距離検出部180bが面測距を実行可能に構成される場合には、安全制御部170は、図9に示す処理手順に従って、安全制御方法を実行することができる。また、距離検出部180bが1点測距を実行可能に構成される場合には、安全制御部170は、図12に示す処理手順に従って、安全制御方法を実行することができる。このように、本変形例では、距離検出部180bの構成に応じて、図9又は図12に示す安全制御方法が適宜実行され得る。
以上説明したように、本変形例のように外部に設けられる距離検出部によって鏡筒生体組織間距離を検出する場合であっても、上述した実施形態又は上述した変形例と同様の安全制御方法を実行可能である。従って、本変形例においても、上述した実施形態と同様に、手術の安全性をより高める効果を得ることが可能である。
なお、内視鏡が斜視鏡又は側視鏡である場合には、ステレオカメラによる撮像画像に基づく測距では、当該内視鏡の鏡筒の先端と、当該鏡筒の進行方向に存在する生体組織との間の距離を測定することはできない。これに対して、以上説明した変形例によれば、内視鏡が斜視鏡又は側視鏡であっても、当該内視鏡の鏡筒の先端と、当該鏡筒の進行方向に存在する生体組織との間の距離を測定することが可能である。このように、以上説明した他の測距方法に係る変形例は、好適に、内視鏡が斜視鏡又は側視鏡である場合に対して適用され得る。
(5−2.退避動作)
上述した実施形態では、アーム部に対する動作制限として、動作の停止及び動作速度の制限が行われていた。ただし、動作制限の種類はかかる例に限定されず、本実施形態では、他の動作制限が行われてもよい。
例えば、鏡筒生体組織間距離が比較的小さい場合(例えば、鏡筒が第1制限距離以下まで生体組織に接近している場合)には、鏡筒が生体組織から離れる動作(退避動作)を行うように、アーム部の動作が制御されてもよい。
例えば、上述した実施形態において、アーム部の動作を制限する際に、その動作を停止させる代わりに退避動作が行われてもよい。これにより、鏡筒が生体組織に第1制限距離よりも接近した場合に、鏡筒の動きが停止するだけでなく、鏡筒を当該生体組織から離れるように動作させることが可能になる。従って、手術の安全性を更に高めることが可能になる。
なお、このとき、退避動作では、鏡筒が進行してきた経路を一定距離自動で逆向きに辿るように、鏡筒が移動することが好ましい。鏡筒が進行してきた経路は、既に鏡筒が通過してきた経路であるから、いわば安全が確保された経路であると言える。従って、鏡筒が自動的に退避動作を行ったとしても、そのことが患者に危険を及ぼすことはない。
このような、動作制限として退避動作が実行される変形例に係る支援システムは、図2に示す上述した実施形態に係る支援システム1と同様の機能構成によって実現可能である。従って、本変形例に係る支援システムの機能構成についての説明は省略する。ただし、本変形例に係る支援システムでは、安全制御部170における処理が、上述した実施形態とは異なる。
図14を参照して、本変形例に係る安全制御部における処理について説明する。図14は、動作制限として退避動作が実行される変形例に係る安全制御方法の処理手順の一例を示すフロー図である。
図14を参照すると、本変形例に係る安全制御方法では、ステップS301〜ステップS309、及びステップS313〜ステップS321における処理は、図9に示す上述した実施形態に係る安全制御方法でのステップS101〜ステップS109、及びステップS113〜ステップS121における処理と略同様である。従って、これらの処理については、詳細な説明は省略する。
本変形例では、ステップS309において進行領域内で鏡筒生体組織間距離が第1制限距離以下であると判断された場合に、鏡筒を退避させる旨の指示、及び比較的大規模な警告を実行する旨の指示が発行される(ステップS311)。具体的には、ステップS311では、図2に示す安全制御部170が、アーム制御部130に対してアーム部に退避動作を実行させる旨の指示を発行するとともに、出力部160に対して比較的大規模な警告を実行する旨の指示を発行する。アーム制御部130及び出力部160がこれらの指示に従って動作することにより、鏡筒の退避動作、及び比較的大規模な警告が実行される。
ここで、図14に示す処理手順は、上述した実施形態と同様に、支援システムが面測距を実行可能に構成される場合に対応するものである。しかし、本変形例はかかる例に限定されず、上記(5−1−1.鏡筒の先端に測距センサが設けられる場合)で説明したような、1点測距を実行可能に構成される支援システムに対しても適用可能である。つまり、本変形例に係る支援システムは、図10に示す支援システム1aと同様の機能構成によって実現されてもよい。
この場合における安全制御部170における処理について、図15を参照して説明する。図15は、動作制限として退避動作が実行される変形例に係る安全制御方法の処理手順の他の例を示すフロー図である。
図15を参照すると、本変形例に係る安全制御方法では、ステップS401〜ステップS409、及びステップS413〜ステップS417における処理は、図12に示す鏡筒の先端に測距センサが設けられる変形例に係る安全制御方法でのステップS201〜ステップS209、及びステップS213〜ステップS217における処理と略同様である。従って、これらの処理については、詳細な説明は省略する。
本変形例では、ステップS409において鏡筒生体組織間距離が第1制限距離以下であると判断された場合に、鏡筒を退避させる旨の指示、及び比較的大規模な警告を実行する旨の指示が出される(ステップS411)。具体的には、ステップS411では、図10に示す安全制御部170が、アーム制御部130に対してアーム部に退避動作を実行させる旨の指示を発行するとともに、出力部160に対して比較的大規模な警告を実行する旨の指示を発行する。アーム制御部130及び出力部160がこれらの指示に従って動作することにより、鏡筒の退避動作、及び比較的大規模な警告が実行される。
以上説明したように、本変形例によれば、鏡筒生体組織間距離が比較的小さい場合に鏡筒の退避動作が行われることにより、更に手術の安全性を確保することが可能になる。また、その際、測距方法にかかわらず、本変形例を適用することが可能である。
(5−3.NUIを介したその他の構成の操作)
上述した実施形態では、NUIを介して動作制限情報が入力可能であった。ただし、本実施形態はかかる例に限定されず、NUIを介して図1に示す内視鏡手術システム3000の他の構成に対する操作入力が可能であってもよい。
図16は、本実施形態の一変形例である、NUIを介して内視鏡手術システム3000の他の構成に対する操作入力が可能に構成された支援システムの機能構成の一例を示すブロック図である。
図16を参照すると、本変形例に係る支援システム1cは、その機能として、内視鏡部110と、支持アーム部120と、アーム制御部130と、画像処理距離算出部140と、入力部150と、出力部160と、安全制御部170と、撮像制御部181と、表示制御部182と、を備える。なお、本変形例に係る支援システム1cは、アーム制御部130及び画像処理距離算出部140の機能が一部変更されるとともに、撮像制御部181及び表示制御部182の機能が追加されること以外は、図2に示す支援システム1と略同様の構成を有する。従って、以下の本変形例に係る支援システム1cについての説明では、支援システム1との相違点について主に説明することとし、重複する事項についてはその詳細な説明を省略する。
支援システム1cでは、入力部150からの操作入力により、内視鏡部110における撮像条件(例えば、照射光の種類、倍率及び/又は焦点距離等)が変更可能に構成される。具体的には、支援システム1cは、その機能として、内視鏡部110における撮像条件を制御する撮像制御部181を備え、内視鏡部110に対するユーザの操作入力についての情報が、入力部150から当該撮像制御部181に提供される。撮像制御部181は、ユーザの指示に従って、内視鏡部110の撮像条件を適宜制御する。なお、撮像制御部181の機能は、図1に示すCCU3401によって実現され得る。
また、支援システム1cでは、入力部150からの操作入力により、支持アーム部120のアーム部を操作可能に構成される。つまり、直接操作以外の操作入力によって、アーム部が操作され得る。具体的には、支援システム1cでは、当該アーム部に対するユーザの操作入力についての情報が、入力部150からアーム制御部130に提供される。アーム制御部130は、ユーザの指示に従って、アーム部の動作を適宜制御する。
また、支援システム1cでは、入力部150からの操作入力により、出力部160を構成する表示装置(図1に示す表示装置3403に対応する)における表示を操作可能に構成される。具体的には、支援システム1cでは、画像処理距離算出部140が、鏡筒生体組織間距離の算出処理とともに、内視鏡部110によって取得された画像信号に対して、当該画像信号に基づく画像を表示装置に表示させるための各種の画像処理(例えば、現像処理等)を施す。そして、画像処理距離算出部140は、画像処理を施した画像信号を表示制御部182に提供する。表示制御部182は、出力部160を構成する表示装置を駆動させ、その表示を制御する機能を有しており、当該画像信号に基づいて、撮像画像を当該表示装置に表示させる。本変形例では、当該表示装置に対するユーザの操作入力についての情報が、入力部150から表示制御部182に提供される。表示制御部182は、ユーザの指示に従って、当該表示装置における表示を適宜制御する。例えば、ユーザによる操作により、表示する画像の倍率や、明度等が変更されてよい。なお、表示制御部182の機能は、図1に示すCCU3401によって実現され得る。
なお、以上説明した撮像制御部181及び表示制御部182の機能は、図1に示す内視鏡手術システム3000に元々備えられている機能である。つまり、図16では、説明のため、これらの機能をあえて明示したが、撮像制御部181による内視鏡部110の撮像条件の制御や、表示制御部182による表示装置における表示の制御は、上述した実施形態及び各変形例に係る支援システムでも同様に行われている。つまり、本変形例は、支援システム1cを適用することにより新たに導入された操作の入力方法(例えばNUIを介した操作入力)によって、内視鏡手術システム3000に元々備えられている機能を制御可能にするものである。
以上説明したように、本変形例によれば、NUIを介した操作入力により、内視鏡部110の撮像条件、支持アーム部120のアーム部の動作、及び出力部160を構成する表示装置の表示を適宜操作することが可能である。NUIを用いることにより、非接触で操作入力を行うことが可能となるため、例えば清潔域に属するユーザであっても不潔域に属する入力装置に触れることなく、操作入力を行うことができる。また、より簡易な動作で、より直感的に操作入力を行うことができるため、作業の手を止めずに、各種の操作入力を行うことができる。従って、本変形例のように、NUIを介して内視鏡手術システム3000における各構成を操作可能であることにより、ユーザの利便性を格段に高めることが可能になる。
(5−4.マスタースレイブ方式の支持アーム装置への適用)
以上説明した実施形態では、内視鏡を支持する支持アーム装置は、スコピストによる直接操作によって操作可能に構成されていた。しかし、本実施形態はかかる例に限定されない。上記(1.内視鏡手術システムの構成)で説明したように、本実施形態に係る支援システムが適用され得る支持アーム装置は、マスタースレイブ方式で操作可能に構成されてもよい。
支持アーム装置がマスタースレイブ方式で操作可能に構成される場合であっても、例えば図2に示す支援システム1の構成によって、上述した実施形態と同様に、安全制御を実行することが可能である。ただし、マスタースレイブ方式では、ユーザが直接支持アーム装置のアーム部に触れることがないので、動作制限が行われた際に、ユーザがそのことを直感的に把握し難いことが懸念される。従って、マスタースレイブ方式の支持アーム装置に対して支援システムが適用される場合には、動作制限が行われたことが、ユーザに対してより積極的に通知されることが好ましい。
例えば、ユーザが操作入力を行うコントローラに対して、動作制限に応じたフィードバックが行われ得る。具体的には、アーム部の動作速度が制限された場合には、その動作速度に応じて、ユーザが操作するジョイスティック等の操作体の動作に抵抗感が付与されてもよい。あるいは、アーム部の動作が停止された場合には、それに連動して、ユーザが操作する操作体も動かなくなるように固定されてもよい。更に、このような操作体への抵抗感の付与、又は操作体の固定とともに、コントローラが振動してもよい。このような動作制限に応じた種々のフィードバックがユーザに対してなされることにより、当該ユーザは、動作制限が行われていることをより直観的に把握することが可能になる。
(5−5.3Dモデルの利用)
上述した実施形態において鏡筒生体組織間距離を算出する際に、例えば上記特許文献1に記載されているような、体腔内の生体組織の3Dモデルが併用されてもよい。例えば、3Dモデルを併用する変形例に係る支援システムは、図2に示す支援システム1に対して、3Dモデルを構築するための患者の体腔内の生体組織の3次元情報を記憶する記憶部が更に設けられることによって実現され得る。
例えば、本変形例に係る支援システムでは、手術前に患者に対して実行されるMRIやCTによって得られた情報に基づいて、患者の体腔内の生体組織の位置及び形状を示す3次元情報を生成しておく。当該3次元情報は上記記憶部に記憶されており、支援システムは当該3次元情報に適宜アクセスすることが可能である。
ここで、本変形例では、鏡筒生体組織間距離を患者の体腔内でリアルタイムで検出することができる。これを利用して、検出された当該鏡筒生体組織間距離によって、当該記憶部に格納されている3次元情報を手術中に随時更新する。鏡筒の位置は、アーム制御部から提供されるアーム部の状態を示す情報に基づいて算出可能であるため、安全制御部は、更新された3次元情報から最新の生体組織の3Dモデルを構築し、算出された鏡筒の位置と、構築した3Dモデルと、検出された鏡筒生体組織間距離と、を組み合わせることにより、鏡筒と当該鏡筒の周囲の生体組織との位置関係を同定することができる。そして、安全制御部は、その位置関係に応じて、上述した実施形態と同様に、動作制限指示及び警告の指示を適宜発行することができる。
ここで、上記特許文献1に記載の技術では、手術前に取得された3次元情報に基づいて構築された3Dモデルを用いて、鏡筒と生体組織との距離を算出していたため、実際の手術時の生体の位置及び形状が正確に反映できていない可能性があった。これに対して、本変形例によれば、上述したように、リアルタイムで検出された鏡筒生体組織間距離によって、3次元情報が随時更新される。従って、実際の状況を反映した生体組織の3Dモデルを構築することができ、鏡筒と生体組織との距離をより正確に同定することが可能となる。このように、本実施形態に係る支援システムに、生体組織の3Dモデルを用いて鏡筒と生体組織との位置関係を把握する方法を併用することにより、動作制限及び警告をより適切に行うことが可能となり、更に安全な手術を提供することが可能になる。
(6.補足)
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
また、本明細書に記載された効果は、あくまで説明的又は例示的なものであって限定的なものではない。つまり、本開示に係る技術は、上記の効果とともに、又は上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏し得る。
例えば、上記実施形態では、一例として内視鏡手術システムにおける内視鏡の操作に対して、本開示に係る支援システムが適用された場合について説明したが、本技術はかかる例に限定されない。例えば、鉗子やレトラクタ等の他の術具に対して、本開示に係る支援システムが適用されてもよい。この場合には、これらの術具の先端に測距センサを設けたり、これらの術具を外部から観測し得る位置に測距センサを設けたりすることにより、上記(5−1.測距方法)で説明した変形例に係る支援システムを適用することが可能である。また、術部を拡大観察するための顕微鏡が支持アーム装置によって支持される、顕微鏡手術システムに対して、本開示に係る支援システムが適用されてもよい。この場合には、例えばステレオカメラからなる顕微鏡の撮像画像、顕微鏡に設けられる測距センサの検出値、又は顕微鏡を外部から観測し得る位置に設けられる測距センサの検出値、に基づいて、顕微鏡と当該顕微鏡の対物レンズと対向する生体組織との間の距離が検出され、顕微鏡と患者の生体組織とが接触しないように、安全制御が実行され得る。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
術具によって患者の生体組織に対して処置を行っている間に検出される前記術具と前記生体組織との距離である術具生体組織間距離に基づいて、前記術具を支持する支持アーム装置のアーム部の動作を制限する制限動作指示を発行する、
医療用安全制御装置。
(2)
前記術具生体組織間距離が所定の第1制限距離以下である場合に、前記制限動作指示として、前記アーム部の動作を停止させる旨の指示を発行する、
前記(1)に記載の医療用安全制御装置。
(3)
前記術具生体組織間距離が前記第1制限距離よりも大きい所定の第2制限距離以下である場合に、前記制限動作指示として、前記アーム部の動作速度を所定の値以下に制限する旨の指示を発行する、
前記(2)に記載の医療用安全制御装置。
(4)
前記アーム部の動作速度を制限する前記所定の値は、前記術具生体組織間距離に応じて変化する、
前記(3)に記載の医療用安全制御装置。
(5)
前記術具生体組織間距離が所定の第1制限距離以下である場合に、前記制限動作指示として、前記術具が前記生体組織から離れる退避動作を行うように前記アーム部を動作させる旨の指示を発行する、
前記(1)、(3)又は(4)に記載の医療用安全制御装置。
(6)
前記退避動作では、前記術具が進行してきた経路を逆に辿って移動する、
前記(5)に記載の医療用安全制御装置。
(7)
前記術具生体組織間距離に基づいて、警告を発する旨の指示を更に発行する、
前記(1)〜(6)のいずれか1項に記載の医療用安全制御装置。
(8)
前記警告は、前記術具生体組織間距離に応じて段階的に設定される、
前記(7)に記載の医療用安全制御装置。
(9)
前記術具は、ステレオカメラとして構成される内視鏡であり、
前記術具生体組織間距離は、前記内視鏡による撮像画像に基づいて検出される、
前記(1)〜(8)のいずれか1項に記載の医療用安全制御装置。
(10)
前記術具の進行方向と略垂直な面内における前記術具生体組織間距離の分布が検出され、
前記術具の進行方向に設定される複数の領域のそれぞれにおける前記術具生体組織間距離に基づいて、前記制限動作指示を発行する、
前記(9)に記載の医療用安全制御装置。
(11)
前記術具生体組織間距離は、前記術具の先端に設けられる測距センサによって検出される、
前記(1)〜(8)のいずれか1項に記載の医療用安全制御装置。
(12)
前記術具生体組織間距離は、前記術具及び前記生体組織を観測可能な位置に設けられる距離検出部によって検出される、
前記(1)〜(8)のいずれか1項に記載の医療用安全制御装置。
(13)
前記アーム部の動作の制限を規定する条件は、ユーザによるNUIを介した入力に従って設定される、
前記(1)〜(12)のいずれか1項に記載の医療用安全制御装置。
(14)
前記NUIを介した入力は、ユーザの音声、ユーザの視線の動き、ユーザの頭部の動き、及びユーザのジェスチャの少なくともいずれかによって実行される、
前記(13)に記載の医療用安全制御装置。
(15)
前記アーム部に対して、ユーザが前記アーム部に加えた外力にならって前記アーム部が
駆動されるパワーアシスト制御が実行される、
前記(1)〜(14)のいずれか1項に記載の医療用安全制御装置。
(16)
術具によって患者の生体組織に対して処置を行っている間に検出される前記術具と前記生体組織との距離である術具生体組織間距離に基づいて、前記術具を支持する支持アーム装置のアーム部の動作を制限する制限動作指示を発行すること、
を含む、医療用安全制御方法。
(17)
アーム部によって術具を支持する支持アーム部と、
前記支持アーム部の駆動を制御するアーム制御部と、
前記術具によって患者の生体組織に対して処置を行っている間に検出される前記術具と前記生体組織との距離である術具生体組織間距離に基づいて、前記アーム部の動作を制限する制限動作指示を、前記アーム制御部に対して発行する医療用安全制御部と、
を備える、医療用支援システム。
1、1a、1b、1c 支援システム
110 内視鏡部
120 支持アーム部
130 アーム制御部
140 画像処理距離算出部
150 入力部
151 音声検出部
152 視線検出部
153 ヘッドトラック検出部
154 ジェスチャ検出部
155 装置操作検出部
160 出力部
170 安全制御部
180a、180b 距離検出部
181 撮像制御部
182 表示制御部
3000 内視鏡手術システム
3100 内視鏡
3300 支持アーム装置
3401 CCU
3403 表示装置
3407 アーム制御装置
3408 安全制御装置
3409 入力装置
本開示は、医療用アーム装置、医療用アーム装置の作動方法、及び情報処理装置に関する。
このように、これまで提案されている、医療行為における安全を確保するための技術には、安全性の観点から更なる改善の余地があると考えられる。そこで、本開示では、医療行為における安全性をより高めることが可能な、新規かつ改良された医療用アーム装置、医療用アーム装置の作動方法、及び情報処理装置を提供する。
本開示によれば、患者の生体組織を撮像する撮像部を支持するアーム部と、前記撮像部により取得された二次元画像情報に基づいて前記撮像部と前記生体組織との間の距離を算出し、前記アーム部の可動域における安全領域を出力する安全制御部と、具備する、医療用アーム装置が提供される。
また、本開示によれば、医療用アーム装置が、患者の生体組織を撮像する撮像部により取得された二次元画像情報に基づいて前記撮像部と前記生体組織との間の距離を算出し、前記撮像部を支持するアーム部の可動域における安全領域を出力すること、を含む、医療用アーム装置の作動方法が提供される。
また、本開示によれば、患者の生体組織を撮像する撮像部により取得された二次元画像情報に基づいて前記撮像部と前記生体組織との間の距離を算出し、前記撮像部を支持するアーム部の可動域における安全領域を出力する、情報処理装置が提供される。
本開示によれば、患者の生体組織を撮像する撮像部により取得された二次元画像情報に基づいて撮像部と生体組織との間の距離が算出され、撮像部を支持するアーム部の可動域における安全領域が出力される。医療行為における安全性をより高めることができる。

Claims (17)

  1. 術具によって患者の生体組織に対して処置を行っている間に検出される前記術具と前記生体組織との距離である術具生体組織間距離に基づいて、前記術具を支持する支持アーム装置のアーム部の動作を制限する制限動作指示を発行する、
    医療用安全制御装置。
  2. 前記術具生体組織間距離が所定の第1制限距離以下である場合に、前記制限動作指示として、前記アーム部の動作を停止させる旨の指示を発行する、
    請求項1に記載の医療用安全制御装置。
  3. 前記術具生体組織間距離が前記第1制限距離よりも大きい所定の第2制限距離以下である場合に、前記制限動作指示として、前記アーム部の動作速度を所定の値以下に制限する旨の指示を発行する、
    請求項2に記載の医療用安全制御装置。
  4. 前記アーム部の動作速度を制限する前記所定の値は、前記術具生体組織間距離に応じて変化する、
    請求項3に記載の医療用安全制御装置。
  5. 前記術具生体組織間距離が所定の第1制限距離以下である場合に、前記制限動作指示として、前記術具が前記生体組織から離れる退避動作を行うように前記アーム部を動作させる旨の指示を発行する、
    請求項1に記載の医療用安全制御装置。
  6. 前記退避動作では、前記術具が進行してきた経路を逆に辿って移動する、
    請求項5に記載の医療用安全制御装置。
  7. 前記術具生体組織間距離に基づいて、警告を発する旨の指示を更に発行する、
    請求項1に記載の医療用安全制御装置。
  8. 前記警告は、前記術具生体組織間距離に応じて段階的に設定される、
    請求項7に記載の医療用安全制御装置。
  9. 前記術具は、ステレオカメラとして構成される内視鏡であり、
    前記術具生体組織間距離は、前記内視鏡による撮像画像に基づいて検出される、
    請求項1に記載の医療用安全制御装置。
  10. 前記術具の進行方向と略垂直な面内における前記術具生体組織間距離の分布が検出され、
    前記術具の進行方向に設定される複数の領域のそれぞれにおける前記術具生体組織間距離に基づいて、前記制限動作指示を発行する、
    請求項9に記載の医療用安全制御装置。
  11. 前記術具生体組織間距離は、前記術具の先端に設けられる測距センサによって検出される、
    請求項1に記載の医療用安全制御装置。
  12. 前記術具生体組織間距離は、前記術具及び前記生体組織を観測可能な位置に設けられる距離検出部によって検出される、
    請求項1に記載の医療用安全制御装置。
  13. 前記アーム部の動作の制限を規定する条件は、ユーザからの入力に従って設定される、
    請求項1に記載の医療用安全制御装置。
  14. 前記ユーザからの入力は、ユーザの音声、ユーザの視線の動き、ユーザの頭部の動き、及びユーザのジェスチャの少なくともいずれかによって実行される、
    請求項13に記載の医療用安全制御装置。
  15. 前記アーム部に対して、ユーザが前記アーム部に加えた外力にならって前記アーム部が駆動されるパワーアシスト制御が実行される、
    請求項1に記載の医療用安全制御装置。
  16. 術具によって患者の生体組織に対して処置を行っている間に検出される前記術具と前記生体組織との距離である術具生体組織間距離に基づいて、前記術具を支持する支持アーム装置のアーム部の動作を制限する制限動作指示を発行すること、
    を含む、医療用安全制御方法。
  17. アーム部によって術具を支持する支持アーム部と、
    前記支持アーム部の駆動を制御するアーム制御部と、
    前記術具によって患者の生体組織に対して処置を行っている間に検出される前記術具と前記生体組織との距離である術具生体組織間距離に基づいて、前記アーム部の動作を制限する制限動作指示を、前記アーム制御部に対して発行する医療用安全制御部と、
    を備える、医療用支援システム。
JP2021074343A 2016-01-25 2021-04-26 医療用アーム装置、医療用アーム装置の作動方法、及び情報処理装置 Active JP7414770B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016011348 2016-01-25
JP2016011348 2016-01-25
JP2017563725A JPWO2017130567A1 (ja) 2016-01-25 2016-12-02 医療用安全制御装置、医療用安全制御方法、及び医療用支援システム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2017563725A Division JPWO2017130567A1 (ja) 2016-01-25 2016-12-02 医療用安全制御装置、医療用安全制御方法、及び医療用支援システム

Publications (2)

Publication Number Publication Date
JP2021118883A true JP2021118883A (ja) 2021-08-12
JP7414770B2 JP7414770B2 (ja) 2024-01-16

Family

ID=59399052

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2017563725A Pending JPWO2017130567A1 (ja) 2016-01-25 2016-12-02 医療用安全制御装置、医療用安全制御方法、及び医療用支援システム
JP2021074343A Active JP7414770B2 (ja) 2016-01-25 2021-04-26 医療用アーム装置、医療用アーム装置の作動方法、及び情報処理装置

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2017563725A Pending JPWO2017130567A1 (ja) 2016-01-25 2016-12-02 医療用安全制御装置、医療用安全制御方法、及び医療用支援システム

Country Status (4)

Country Link
US (2) US11058509B2 (ja)
JP (2) JPWO2017130567A1 (ja)
DE (1) DE112016006299T5 (ja)
WO (1) WO2017130567A1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9204939B2 (en) * 2011-08-21 2015-12-08 M.S.T. Medical Surgery Technologies Ltd. Device and method for assisting laparoscopic surgery—rule based approach
US20180263461A1 (en) * 2015-10-02 2018-09-20 Sony Corporation Medical control apparatus, control method, and program
US10678338B2 (en) * 2017-06-09 2020-06-09 At&T Intellectual Property I, L.P. Determining and evaluating data representing an action to be performed by a robot
US20200337798A1 (en) * 2017-11-20 2020-10-29 Medi Plus Inc. Medical safety system
US20200015899A1 (en) * 2018-07-16 2020-01-16 Ethicon Llc Surgical visualization with proximity tracking features
JP2020156800A (ja) * 2019-03-27 2020-10-01 ソニー株式会社 医療用アームシステム、制御装置、及び制御方法
FR3101532A1 (fr) * 2019-10-04 2021-04-09 Collin Dispositif robotisé d’intervention chirurgicale à bras articulé commandé pour le suivi d’un trajet
CN113729940B (zh) * 2021-09-23 2023-05-23 上海卓昕医疗科技有限公司 手术辅助定位系统及其控制方法
CN114027968B (zh) * 2021-11-30 2024-04-02 深圳市联影高端医疗装备创新研究院 手术设备、电外科手术装置和手术设备的安全检测方法
CN114469340A (zh) * 2022-01-18 2022-05-13 上海健康医学院 一种手术机器人软组织识别处理方法和系统

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05211990A (ja) * 1991-12-10 1993-08-24 Olympus Optical Co Ltd 電動湾曲式内視鏡装置
JPH0966056A (ja) * 1995-09-01 1997-03-11 Olympus Optical Co Ltd 医療用マニピュレータシステム
JP2004223128A (ja) * 2003-01-27 2004-08-12 Hitachi Ltd 医療行為支援装置および方法
JP2007007041A (ja) * 2005-06-29 2007-01-18 Hitachi Medical Corp 手術支援装置
JP2007029232A (ja) * 2005-07-25 2007-02-08 Hitachi Medical Corp 内視鏡手術操作支援システム
JP2011212245A (ja) * 2010-03-31 2011-10-27 Fujifilm Corp 内視鏡観察を支援するシステムおよび方法、並びに、装置およびプログラム
WO2015046081A1 (ja) * 2013-09-24 2015-04-02 ソニー・オリンパスメディカルソリューションズ株式会社 医療用ロボットアーム装置、医療用ロボットアーム制御システム、医療用ロボットアーム制御方法及びプログラム
JP2015531271A (ja) * 2012-09-14 2015-11-02 ソニー株式会社 外科用画像処理システム、外科用画像処理方法、プログラム、コンピュータ可読記録媒体、医用画像処理装置、および画像処理検査装置

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5923139A (en) * 1996-02-23 1999-07-13 Northwestern University Passive robotic constraint devices using non-holonomic transmission elements
US6810281B2 (en) * 2000-12-21 2004-10-26 Endovia Medical, Inc. Medical mapping system
GB0102245D0 (en) * 2001-01-29 2001-03-14 Acrobot Company The Ltd Systems/Methods
US7035716B2 (en) * 2001-01-29 2006-04-25 The Acrobot Company Limited Active-constraint robots
US20050193451A1 (en) * 2003-12-30 2005-09-01 Liposonix, Inc. Articulating arm for medical procedures
JP2006136385A (ja) 2004-11-10 2006-06-01 Pentax Corp 内視鏡
US8945095B2 (en) * 2005-03-30 2015-02-03 Intuitive Surgical Operations, Inc. Force and torque sensing for surgical instruments
US10555775B2 (en) * 2005-05-16 2020-02-11 Intuitive Surgical Operations, Inc. Methods and system for performing 3-D tool tracking by fusion of sensor and/or camera derived data during minimally invasive robotic surgery
US9266239B2 (en) * 2005-12-27 2016-02-23 Intuitive Surgical Operations, Inc. Constraint based control in a minimally invasive surgical apparatus
US7907166B2 (en) * 2005-12-30 2011-03-15 Intuitive Surgical Operations, Inc. Stereo telestration for robotic surgery
KR101477121B1 (ko) * 2006-06-13 2014-12-29 인튜어티브 서지컬 인코포레이티드 미소절개 수술 시스템
US8496575B2 (en) * 2006-11-14 2013-07-30 Olympus Corporation Measuring endoscope apparatus, program and recording medium
US8561473B2 (en) * 2007-12-18 2013-10-22 Intuitive Surgical Operations, Inc. Force sensor temperature compensation
US8641663B2 (en) * 2008-03-27 2014-02-04 St. Jude Medical, Atrial Fibrillation Division, Inc. Robotic catheter system input device
JP5211990B2 (ja) 2008-09-29 2013-06-12 沖電気工業株式会社 現金入出金装置の精査システム、その精査方法及び窓口端末装置
JP5259340B2 (ja) 2008-10-28 2013-08-07 オリンパスメディカルシステムズ株式会社 医療機器
US8317746B2 (en) * 2008-11-20 2012-11-27 Hansen Medical, Inc. Automated alignment
US20120059378A1 (en) * 2009-11-25 2012-03-08 James David Farrell Efficient Sculpting System
US20120158011A1 (en) * 2010-12-16 2012-06-21 Sandhu Kulbir S Proximity sensor interface in a robotic catheter system
WO2012131660A1 (en) * 2011-04-01 2012-10-04 Ecole Polytechnique Federale De Lausanne (Epfl) Robotic system for spinal and other surgeries
US10866783B2 (en) * 2011-08-21 2020-12-15 Transenterix Europe S.A.R.L. Vocally activated surgical control system
JP5931528B2 (ja) 2012-03-21 2016-06-08 オリンパス株式会社 手術用映像システムおよび手術用映像システムの作動方法
JP6150554B2 (ja) 2013-02-26 2017-06-21 オリンパス株式会社 画像処理装置、内視鏡装置、画像処理装置の作動方法及び画像処理プログラム
CN105050479B (zh) * 2013-04-12 2017-06-23 奥林巴斯株式会社 内窥镜系统
JP6205304B2 (ja) 2013-04-23 2017-09-27 オリンパス株式会社 導入装置
WO2014199413A1 (ja) * 2013-06-13 2014-12-18 テルモ株式会社 医療用マニピュレータおよびその制御方法
DE102013108115A1 (de) * 2013-07-30 2015-02-05 gomtec GmbH Verfahren und Vorrichtung zum Festlegen eines Arbeitsbereichs eines Roboters
US9283048B2 (en) * 2013-10-04 2016-03-15 KB Medical SA Apparatus and systems for precise guidance of surgical tools
US10368850B2 (en) * 2014-06-18 2019-08-06 Siemens Medical Solutions Usa, Inc. System and method for real-time ultrasound guided prostate needle biopsies using a compliant robotic arm
US10828120B2 (en) * 2014-06-19 2020-11-10 Kb Medical, Sa Systems and methods for performing minimally invasive surgery
JP6816721B2 (ja) * 2015-10-01 2021-01-20 ソニー株式会社 医療用支持アーム装置及び医療用システム
US10136952B2 (en) * 2016-06-16 2018-11-27 Zimmer, Inc. Soft tissue balancing in articular surgery

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05211990A (ja) * 1991-12-10 1993-08-24 Olympus Optical Co Ltd 電動湾曲式内視鏡装置
JPH0966056A (ja) * 1995-09-01 1997-03-11 Olympus Optical Co Ltd 医療用マニピュレータシステム
JP2004223128A (ja) * 2003-01-27 2004-08-12 Hitachi Ltd 医療行為支援装置および方法
JP2007007041A (ja) * 2005-06-29 2007-01-18 Hitachi Medical Corp 手術支援装置
JP2007029232A (ja) * 2005-07-25 2007-02-08 Hitachi Medical Corp 内視鏡手術操作支援システム
JP2011212245A (ja) * 2010-03-31 2011-10-27 Fujifilm Corp 内視鏡観察を支援するシステムおよび方法、並びに、装置およびプログラム
JP2015531271A (ja) * 2012-09-14 2015-11-02 ソニー株式会社 外科用画像処理システム、外科用画像処理方法、プログラム、コンピュータ可読記録媒体、医用画像処理装置、および画像処理検査装置
WO2015046081A1 (ja) * 2013-09-24 2015-04-02 ソニー・オリンパスメディカルソリューションズ株式会社 医療用ロボットアーム装置、医療用ロボットアーム制御システム、医療用ロボットアーム制御方法及びプログラム

Also Published As

Publication number Publication date
JP7414770B2 (ja) 2024-01-16
JPWO2017130567A1 (ja) 2018-11-22
DE112016006299T5 (de) 2018-10-11
US20210322125A1 (en) 2021-10-21
US20190000585A1 (en) 2019-01-03
US11058509B2 (en) 2021-07-13
WO2017130567A1 (ja) 2017-08-03

Similar Documents

Publication Publication Date Title
JP7414770B2 (ja) 医療用アーム装置、医療用アーム装置の作動方法、及び情報処理装置
US20220096185A1 (en) Medical devices, systems, and methods using eye gaze tracking
US20200397515A1 (en) Interface for Laparoscopic Surgeries - Movement Gestures
EP3426128B1 (en) Image processing device, endoscopic surgery system, and image processing method
WO2017169098A1 (ja) 制御装置及び制御方法
JP7067467B2 (ja) 医療用情報処理装置、情報処理方法、医療用情報処理システム
WO2019116592A1 (ja) 内視鏡の表示画像の調整装置及び手術システム
WO2018195319A1 (en) Systems and methods for constraining a virtual reality surgical system
JPWO2007145327A1 (ja) 遠隔操作システム
US20230329818A1 (en) Virtual console for controlling a surgical robot
JP2018075218A (ja) 医療用支持アーム及び医療用システム
US20220322919A1 (en) Medical support arm and medical system
JP7044140B2 (ja) 手術支援システム、画像処理方法及び情報処理装置
JP2001238205A (ja) 内視鏡システム
WO2023017651A1 (ja) 医療用観察システム、情報処理装置及び情報処理方法
WO2022201933A1 (ja) 生体内観察システム、観察システム、生体内観察方法及び生体内観察装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210525

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210525

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220614

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220714

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220913

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221017

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20221017

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20221026

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20221101

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20221209

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20221213

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20230314

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20230418

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231011

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231228

R150 Certificate of patent or registration of utility model

Ref document number: 7414770

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150