JP6662785B2 - 撮像装置及び入力コントロールを再芯出しするためのシステム及び方法 - Google Patents

撮像装置及び入力コントロールを再芯出しするためのシステム及び方法 Download PDF

Info

Publication number
JP6662785B2
JP6662785B2 JP2016557612A JP2016557612A JP6662785B2 JP 6662785 B2 JP6662785 B2 JP 6662785B2 JP 2016557612 A JP2016557612 A JP 2016557612A JP 2016557612 A JP2016557612 A JP 2016557612A JP 6662785 B2 JP6662785 B2 JP 6662785B2
Authority
JP
Japan
Prior art keywords
imaging device
centering
motion
control unit
examples
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016557612A
Other languages
English (en)
Other versions
JP2017512549A (ja
JP2017512549A5 (ja
Inventor
ディー イトコウィッツ,ブランドン
ディー イトコウィッツ,ブランドン
ハナスチック,マイケル
ダブリュ モーア,ポール
ダブリュ モーア,ポール
エム アワータッシュ,アージャン
エム アワータッシュ,アージャン
Original Assignee
インテュイティブ サージカル オペレーションズ, インコーポレイテッド
インテュイティブ サージカル オペレーションズ, インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by インテュイティブ サージカル オペレーションズ, インコーポレイテッド, インテュイティブ サージカル オペレーションズ, インコーポレイテッド filed Critical インテュイティブ サージカル オペレーションズ, インコーポレイテッド
Publication of JP2017512549A publication Critical patent/JP2017512549A/ja
Publication of JP2017512549A5 publication Critical patent/JP2017512549A5/ja
Application granted granted Critical
Publication of JP6662785B2 publication Critical patent/JP6662785B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1679Programme controls characterised by the tasks executed
    • B25J9/1689Teleoperation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00147Holding or positioning arrangements
    • A61B1/00149Holding or positioning arrangements using articulated arms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00147Holding or positioning arrangements
    • A61B1/0016Holding or positioning arrangements using motor drive units
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/313Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for introducing through surgical openings, e.g. laparoscopes
    • A61B1/3132Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for introducing through surgical openings, e.g. laparoscopes for laparoscopy
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/25User interfaces for surgical systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B34/35Surgical robots for telesurgery
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B34/37Master-slave robots
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/70Manipulators specially adapted for use in surgery
    • A61B34/74Manipulators with manual electric input means
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2055Optical tracking systems
    • A61B2034/2057Details of tracking cameras
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2059Mechanical position encoders
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B2034/301Surgical robots for introducing or steering flexible instruments inserted into the body, e.g. catheters or endoscopes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • A61B2090/371Surgical systems with images on a monitor during operation with simultaneous use of two cameras

Description

関連出願
本開示は、2014年3月17日に出願された”System and
Method for Recentering Imaging Devices and Input Controls”という標題の米国仮特許出願第61/954,191号について優先権を主張するものであり、この文献は、その全体が参照により本明細書に組み込まれる。
本開示は、概して関節式アームを含む装置の遠隔操作に関し、より具体的には、撮像装置及び入力コントロールを再芯出し(recentering)することに関する。
益々多くの装置が、自律的な及び半自律的な電子装置に置き換えられている。これは、自律的な及び半自律的な電子装置の大型アレイが、手術室、介入処置室、集中治療室、救急処置室等で見受けられるような、今日の病院に特に当てはまる。例えば、ガラス体温計や水銀体温計が、電子体温計に置き換えられ、点滴ラインが、現在、電子監視装置及び流れ調整器を含み、従来のハンドヘルド式手術用器具は、コンピュータ支援医療装置に置き換えられている。
これらの電子装置は、それら電子装置を操作する従事者に利点と課題との両方を与える。これらの電子装置の多くは、1つ又は複数の関節式アーム及び/又はエンドエフェクタの自律的な又は半自律的な動作を可能にする。関節式アーム及び/又はエンドエフェクタの動作及び/又は操作を制御するために、オペレータ・ワークステーション上で1つ又は複数の入力コントロールを使用して、遠隔操作によって電子装置を操作することも一般的である。電子装置をオペレータ・ワークステーションからリモートで操作する場合に、及び/又はエンドエフェクタが患者の解剖学的構造によって隠されるときのコンピュータ支援手術中等に、オペレータにとって直接的に見えない領域でエンドエフェクタを使用する場合に、電子装置は、関心領域を取り込み、表示装置を使用してその関心領域をオペレータに表示する撮像装置を含んでもよい。オペレータが関節式アーム及び/又はエンドエフェクタを制御する際に、オペレータは、一般的に、エンドエフェクタの操作を表示装置上で観察できるように、エンドエフェクタを撮像装置の視野内に維持するよう試みる。加えて、入力コントロールの位置及び向きは、典型的には、入力コントロールを移動すると、エンドエフェクタがそれら入力コントロールの動きに「追従」するようにエンドエフェクタに一致させられる。
撮像装置及び/又はエンドエフェクタを移動させる際に、オペレータは、1つ又は複数のエンドエフェクタを見失う可能性があり、及び/又は撮像装置とエンドエフェクタとの間の空間的関係の追跡を見失う可能性がある。これは、電子装置のオペレータが関心領域の周りに他の領域に駐機し得る追加の関節式アーム及び/又はエンドエフェクタに制御を切り替える場合に、及び/又はエンドエフェクタが関心領域の他の物体によって部分的に又は全体的に塞がれる場合に、さらに複雑になり得る。エンドエフェクタについての可視化を再取得するために(すなわち、エンドエフェクタを撮像装置の視野ボリューム内に配置するために)、オペレータは、撮像装置(エンドエフェクタを含む)の適切な姿勢(位置及び向き)を見つけるために、一連の再芯出し運動を撮像装置で実行する必要があり得る。この一連の運動は、煩わしく、時間が長引き及び/又は非現実的になりがちである。
加えて、撮像装置を移動させ及び/又は入力コントロールを追加の関節式アーム及び/又はエンドエフェクタに切り替える際に、撮像装置とエンドエフェクタとの間の空間的な向きは、変更される可能性がある。これは、表示装置によって表示されるようなエンドエフェクタの位置及び/又は向きと、それらエンドエフェクタの入力コントロールの対応する位置及び/又は向きとの間に不調和を生じさせ得る。いくつかのケースでは、これは、入力コントロールのクラッチを起動し、次にエンドエフェクタの位置及び/又は向きを表示装置上に示されるように一致させるために入力コントロールを再位置付け及び/又は再向き合わせすることによって、オペレータによって補正することができる。撮像装置の運動と同様に、これらの再位置付け及び/又は再向き合せ操作も、煩わしく、時間が長引き及び/又は非実用的になりがちである。
従って、エンドエフェクタを視覚的に再取得すること及び/又は、エンドエフェクタと一致させるために入力コントロールを再位置付け及び/又は再向き合わせするための改良された方法及びシステムが、所望される。
いくつかの実施形態に一致する、コンピュータ支援医療装置は、1つ又は複数のエンドエフェクタと、撮像装置と、1つ又は複数のエンドエフェクタを遠隔操作するための1つ又は複数の入力コントロールと、制御ユニットとを含み、この制御ユニットは、エンドエフェクタ、撮像装置、及び入力コントロールに結合された1つ又は複数のプロセッサを含む。制御ユニットは、再芯出し要求に応答して、入力コントロールによるエンドエフェクタの遠隔操作制御を一時停止し;エンドエフェクタを撮像装置の視野空間内に収めるように、撮像装置の視野再芯出し運動を決定し;入力コントロールのそれぞれとエンドエフェクタのうちの対応する1つとの位置及び向きの調和を提供するように、1つ又は複数の入力コントロール再芯出し運動を決定し;視野再芯出し運動及び入力コントロール再芯出し運動を実行し;入力コントロールによるエンドエフェクタの遠隔操作制御を回復させる。
いくつかの実施形態に一致する、医療装置の動きを制御する方法は、再芯出し要求に応答して、医療装置の1つ又は複数の入力コントロールによる医療装置の1つ又は複数のエンドエフェクタの遠隔操作制御を一時停止するステップと;エンドエフェクタを医療装置の撮像装置の視野空間内に収めるように、撮像装置の視野再芯出し運動を決定するステップと;入力コントロールのそれぞれとエンドエフェクタのうちの対応する1つの間の位置及び向きの調和を提供するように、1つ又は複数の入力コントロール再芯出し運動を決定するステップと;視野再芯出し運動及び入力コントロール再芯出し運動を実行するステップと;入力コントロールによるエンドエフェクタの遠隔操作制御を回復させるステップと;を含む。
いくつかの実施形態に一致する、医療装置の動きを制御する方法は、再芯出し要求に応答して、医療装置の1つ又は複数の入力コントロールによる医療装置の1つ又は複数のエンドエフェクタの遠隔操作制御を一時停止するステップと;エンドエフェクタを医療装置の撮像装置の視野空間内に収めるように、撮像装置の視野再芯出し運動を決定するステップと;視野再芯出し運動を実行するステップと;入力コントロールによるエンドエフェクタの遠隔操作制御を回復させるステップと;を含む。
いくつかの実施形態に一致する、医療装置の撮像装置の好適な作動距離を決定する方法は、医療装置の撮像装置の再位置付け運動の開始を検出するステップと;再位置付け運動の終了を検出するステップと;再位置付け運動の終了の際に、撮像装置と、撮像装置の視野ボリューム内にある、医療装置の1つ又は複数のエンドエフェクタに関連した1つ又は複数の標的との間の第1の距離に基づいて、現在の作動距離を決定するステップであって、第1の距離は、撮像装置の視野の方向に測定される、決定するステップと;好適な作動距離を決定するために、現在の作動距離を以前取得した現在の作動距離と集計するステップと;を含む。
いくつかの実施形態に一致する、医療装置の動きを制御する方法は、再芯出し要求に応答して、医療装置の1つ又は複数の入力コントロールによる医療装置の1つ又は複数のエンドエフェクタの遠隔操作制御を一時停止するステップと;入力コントロールのそれぞれとエンドエフェクタのうちの対応する1つとの位置及び向きの調和を提供するように、1つ又は複数の入力コントロール再芯出し運動を決定するステップと;入力コントロール再芯出し運動を実行するステップと;入力コントロールによるエンドエフェクタの遠隔操作制御を回復させるステップと;を含む。
いくつかの実施形態に一致する、医療装置のオペレータ・ワークステーションの人間工学に基づく中心を決定する方法は、医療装置の1つ又は複数の入力コントロールの再位置付け運動の開始を検出するステップと;再位置付け運動の終了を検出するステップと;再位置付け運動の終了の際に、入力コントロールに関連した1つ又は複数の制御点の位置を決定するステップと;複数の位置を集計して入力コントロール中心点を決定するステップと;人間工学に基づく中心を決定するために、入力コントロール中心点を以前取得した入力コントロール中心点と集計するステップと;を含む。
いくつかの実施形態に一致する、非一時な機械可読媒体は、複数の機械可読命令を含む。機械可読命令を医療装置に関連した1つ又は複数のプロセッサによって実行させると、1つ又は複数のプロセッサに、再芯出し要求に応答して、医療装置の1つ又は複数の入力コントロールによる医療装置の1つ又は複数のエンドエフェクタの遠隔操作制御を一時停止させること;エンドエフェクタを医療装置の撮像装置の視野空間内に収めるように、撮像装置の視野再芯出し運動を決定すること;入力コントロールのそれぞれとエンドエフェクタのうちの対応する1つとの間の位置及び向きの調和を提供するように、1つ又は複数の入力コントロール再芯出し運動を決定すること;視野再芯出し運動及び入力コントロール再芯出し運動を実行すること;入力コントロールによるエンドエフェクタの遠隔操作制御を回復させること;を実行させる。
いくつかの実施形態に一致する、医療装置に結合された撮像装置の動きを制御する方法は、撮像装置動作モードの起動を検出するステップと;1つ又は複数の動作入力コントロールが使用されているか否かを判定するステップと;を含む。1つ又は複数の動作入力コントロールが使用されている場合に、1つ又は複数の動作入力コントロールに基づいて、撮像装置の姿勢を制御する。1つ又は複数の動作入力コントロールがタイムアウト期間まで使用されない場合に、撮像装置を再芯出しする。撮像装置を再芯出しするステップは、医療装置の1つ又は複数のエンドエフェクタを撮像装置の視野空間内に収めるように、撮像装置の視野再芯出し運動を決定するステップと;視野再芯出し運動を実行するステップと;を含む。
いくつかの実施形態に係るコンピュータ支援システムの簡略図である。 いくつかの実施形態に係るエンドエフェクタ及び入力コントロールを再芯出しする方法の簡略図である。 いくつかの実施形態に係る視野再芯出し動作前の撮像視野の簡略図である。 いくつかの実施形態に係る視野再芯出し動作後の撮像視野の簡略図である。 いくつかの実施形態に係る視野再芯出し動作後の撮像視野の簡略図である。 いくつかの実施形態に係る視野再芯出し動作後の側面視野の簡略図である。 いくつかの実施形態に係る視野再芯出し方法の簡略図である。 いくつかの実施形態に係る撮像装置の好適な作動距離を決定する方法の簡略図である。 いくつかの実施形態に係る、入力コントロール再芯出し動作に続く、表示装置上の画像内のエンドエフェクタとコンソール作業空間の対応する入力コントロールとの関係を示す簡略図である。 いくつかの実施形態に係る入力コントロール再芯出し方法の簡略図である。 いくつかの実施形態に係る入力コントロールの人間工学に基づく中心を決定する方法の簡略図である。 いくつかの実施形態に係る撮像装置を制御する方法の簡略図である。
図面において、同一の記号表示を有する要素は、同一又は同様の機能を有する。
以下の説明では、本開示に一致するいくつかの実施形態を説明する具体的な詳細について記載する。しかしながら、いくつかの実施形態は、これらの特定の詳細の一部又は全てを用いずに実施できることは、当業者には明らかであろう。本明細書に開示された特定の実施形態は、例示することを意図しており、限定するものではない。当業者は、ここでは特に説明しない、本開示の範囲及び精神の範囲内にある他の要素を実現し得る。また、不必要な繰返しを避けるために、一実施形態に関連して図示し且つ説明した1つ又は複数の特徴は、他に特に明記しない限り又は1つ又は複数の特徴が実施形態を機能的でないものにしない限り、他の実施形態に組み込むことができる。
図1は、いくつかの実施形態に係るコンピュータ支援システム100の簡略図である。図1に示されるように、コンピュータ支援システム100は、1つ又は複数の可動式又は関節式アーム120を有する装置110を含む。1つ又は複数の関節式アーム120のそれぞれは、1つ又は複数のエンドエフェクタ125を支持することができる。いくつかの例では、装置110は、コンピュータ支援手術用装置と一致してもよい。1つ又は複数のエンドエフェクタ125は、手術用器具、撮像装置等を含むことができる。いくつかの例では、手術用器具は、クランプ、グリッパ、開創器、焼灼ツール、吸引ツール、縫合装置等を含むことができる。いくつかの例では、撮像装置は、内視鏡、カメラ、立体視装置等を含むことができる。
装置110は、インターフェイスを介して制御ユニット130に結合される。インターフェイスは、1つ又は複数のケーブル、コネクタ、及び/又はバスを含んでもよく、且つ1つ又は複数のネットワーク・スイッチング及び/又はルーティング装置を含む1つ又は複数のネットワークをさらに含んでもよい。制御ユニット130は、メモリ150に結合されたプロセッサ140を含む。制御ユニット130の動作は、プロセッサ140によって制御される。1つのプロセッサ140のみを含む制御ユニット130が示されているが、プロセッサ140は、制御ユニット130内の1つ又は複数の中央処理装置、マルチコアプロセッサ、マイクロプロセッサ、マイクロコントローラ、デジタル信号プロセッサ、フィールドプログラマブル・ゲートアレイ(FPGA)、特定用途向け集積回路(ASIC)等であってもよいことが理解される。制御ユニット130は、コンピュータ装置に追加されたスタンドアロン型のサブシステム及び/又はボード、或いは仮想マシンとして実現してもよい。
メモリ150は、制御ユニット130によって実行されるソフトウェア及び/又は制御ユニット130の動作中に使用される複数のデータ構造を格納するために使用することができる。メモリ150は、1つ又は複数のタイプの機械可読媒体を含んでもよい。機械可読媒体のいくつかの一般的な形態は、フロッピー(登録商標)ディスク、フレキシブルディスク、ハードディスク、磁気テープ、他の磁気媒体、CD−ROM、他の光媒体、パンチカード、紙テープ、ホール(holes)パターンを含む他の物理媒体、RAM、PROM、EPROM、FLASH−EPROM、他のメモリチップ又はカートリッジ、及び/又はプロセッサ又はコンピュータが読み取るように適合された他の媒体を含むことができる。
示されるように、メモリ150は、装置110の自律的な及び/又は半自律的な制御をサポートするために使用され得る動作制御アプリケーション160を含む。動作制御アプリケーション160は、装置110から位置、動作、及び/又は他のセンサ情報を受信し、位置、動作、及び/又は衝突回避情報を他の装置に関する他の制御ユニットと交換し、及び/又は、装置110、装置110の関節式アーム120及び/又はエンドエフェクタ125の動作を計画及び/又は支援するための1つ又は複数のアプリケーション・プログラミング・インターフェイス(API)を含むことができる。動作制御アプリケーション160は、ソフトウエア・アプリケーションとして示されているが、動作制御アプリケーション160は、ハードウェア、ソフトウェア、及び/又はハードウェアとソフトウェアとの組合せを用いて実現することができる。
制御ユニット130は、インターフェイスを介してオペレータ・ワークステーション170にさらに結合してもよい。オペレータ・ワークステーション170は、外科医等のオペレータによって、関節式アーム120及びエンドエフェクタ125の運動及び/又は動作を制御するために使用することができる。関節式アーム120の操作をサポートするために、オペレータ・ワークステーション170は、1つ又は複数の関節式アーム120及び/又はエンドエフェクタ125の少なくとも一部の画像を表示する表示装置180を含むことができる。例えば、表示装置180は、オペレータが、関節式アーム120及び/又はエンドエフェクタ125を使用する際に、それら関節式アーム120及び/又はエンドエフェクタ125を見ることが非現実的及び/又は不可能である場合に、使用され得る。オペレータ・ワークステーション170は、1つ又は複数の入力コントロール又はマスターコントロール195を含むコンソール作業空間をさらに含むことができ、その作業空間は、装置110、関節式アーム120、及び/又はエンドエフェクタ125を操作するために使用され得る。各入力コントロール195をそれらコントロール自体の関節式アームの先端部に結合することができ、それによって入力コントロール195の運動をオペレータ・ワークステーション170によって検出し且つ制御ユニット130に通信することができる。改善された人間工学的機能を提供するために、コンソール作業空間は、オペレータが入力コントロール195を操作しながら自分の腕を置くことができるアームレスト190等の1つ又は複数の置台も含むことができる。いくつかの例では、表示装置180及び入力コントロール195は、オペレータが、関節式アーム120及び/又はエンドエフェクタ125を遠隔操作するために使用してもよい。いくつかの実施形態では、装置110、オペレータ・ワークステーション170、及び制御ユニット130は、カリフォルニア州、サニーベールのIntuitive
Surgical, Inc.により市販されているda Vinci(登録商標)手術システムに対応してもよい。
いくつかの実施形態では、他の構成及び/又はアーキテクチャをコンピュータ支援システム100と共に使用してもよい。いくつかの例では、制御ユニット130を、オペレータ・ワークステーション170及び/又は装置110の一部として含めてもよい。いくつかの実施形態では、コンピュータ支援システム100は、手術室及び/又は介入処置室に確認することができる。コンピュータ支援システム100は、2つの関節式アーム120を有する1つのみの装置110を含むが、コンピュータ支援システム100は、装置110と同様の及び/又は異なる設計の関節式アーム及び/又はエンドエフェクタを有する任意数の装置を含んでもよいことを当業者は理解するであろう。いくつかの例では、各装置は、より少ない又はより多い関節式アーム120及び/又はエンドエフェクタ125を含んでもよい。
図2は、いくつかの実施形態に係るエンドエフェクタ及び入力コントロールを再芯出しする方法200の簡略図である。方法200のプロセス210〜280の1つ又は複数は、非一時的な、有形の機械可読媒体上に格納された実行可能コードの形態で少なくとも部分的に実施することができ、1つ又は複数のプロセッサ(例えば、制御ユニット130内のプロセッサ140)によって実行されたときに、1つ又は複数のプロセッサに、プロセス210〜280の1つ又は複数を実行させることができる。いくつかの実施形態では、方法200は、動作制御アプリケーション160等のアプリケーションによって実行してもよい。いくつかの実施形態では、方法200は、撮像装置により取り込まれ且つ表示装置180に表示される画像において1つ又は複数のエンドエフェクタ125を再芯出しし、及び/又はコンソール作業空間において1つ又は複数の入力コントロール195を再芯出するように使用することができ、それによって入力コントロール195の位置及び/又は向きが、画像に表示されたエンドエフェクタ125の位置及び/又は向きに対応する。
プロセス210では、再芯出しの要求が検出される。いくつかの例では、電子装置のオペレータは、スイッチ、ペダル、レベル、音声認識等の1つ又は複数の入力コントロールを使用して、再芯出しの要求を手動でトリガしてもよい。いくつかの例では、その要求は、再芯出しをトリガする瞬間的な入力、及び/又は、その完了及び/又はその入力を取り下げるまで再芯出しを起動する連続的な入力として発することができる。いくつかの例では、再芯出しの要求は、システムの状態の変化に応答して自動化することができる。いくつかの例では、システムの状態の変化は、入力コントロールと遠隔操作されるエンドエフェクタとの間の関連性の変化を含んでもよい。いくつかの例では、システムの状態の変化は、1つ又は複数のエンドエフェクタが撮像装置の視野の外にあるように検出されるような、入力コントロールと遠隔操作されるエンドエフェクタとの間の関連性の変化を含んでもよい。いくつかの例では、システムの状態の変化は、1つ又は複数のエンドエフェクタが撮像装置の視野の外になるような撮像装置のモードの変化(例えば、デジタルズームの変化、遠視野角の変化等)を含み得る。いくつかの例では、再芯出しの要求は、再芯出しすべき関節式アーム及びエンドエフェクタの指定を含んでもよい。いくつかの例では、再芯出し要求の検出は、固有の音、コンソール上のメッセージ、インジケータ等の適切なフィードバックによってオペレータに認識させることができる。
プロセス220では、1つ又は複数のエンドエフェクタのオペレータ制御が一時停止される。再芯出しを開始できるようにする前に、電子装置の1つ又は複数のエンドエフェクタを制御及び/又は遠隔操作するオペレータの能力が、一時停止される。オペレータによる制御の一時停止は、オペレータによって指令された動作と干渉せずに、再芯出し動作を続行するのを可能にする。
プロセス230では、所望の視野再芯出し運動が、決定される。例えば、関節式アーム及び関節式アームに結合されたエンドエフェクタの感知された関節位置と、関節式アーム及びエンドエフェクタの1つ又は複数の運動学的モデルとを使用して、視野再芯出し運動が決定される。いくつかの例では、これは、制御される電子装置に関連した1つ又は複数の関心のあるエンドエフェクタの姿勢(例えば、位置及び/又は向き)を決定することを含むことができる。いくつかの例では、決定された姿勢のそれぞれは、ワールド座標系及び/又は視野座標系等の共通の座標系にマッピングすることができる。撮像装置の姿勢の幾何学的配置及び好適な作動距離の知見を使用して、エンドエフェクタを撮像装置の視野空間内に配置する撮像システムの所望の姿勢が、決定される。次に、撮像装置の姿勢及び1つ又は複数の運動学的モデルを使用して、撮像装置の所望の視野再芯出し運動を決定することができる。
プロセス240では、所望の入力コントロール再芯出し運動が、決定される。プロセス230の間に決定されたエンドエフェクタの姿勢は、エンドエフェクタに対応する入力コントロールが配置されるコンソール作業空間の座標系にマッピングすることができる。姿勢は、コンソール作業空間の好適な人間工学に基づく中心(ergonomic
center)の知見、及びエンドエフェクタが使用する作業空間の距離と入力コントロールを含むコンソール作業空間の距離との間のスケール係数を使用してマッピングすることができる。次に、マッピングされた姿勢及び入力コントロールの1つ又は複数の運動学的モデルを使用して、入力コントロールの対応する入力コントロール再芯出し運動を決定することができる。いくつかの実施形態では、2つの入力コントロール再芯出し運動が決定され、一方が、第1のエンドエフェクタに関連した左入力コントロールに対応し、他方が、第2のエンドエフェクタに関連した右入力コントロールに対応する。いくつかの実施形態では、他の数の入力コントロールが、決定された対応する再芯出し運動を有してもよい。
プロセス250では、視野再芯出し運動及び/又は入力コントロール再芯出し運動が、有効であるか否かが判定される。撮像装置の運動学的モデル及びプロセス230の間に決定された撮像装置の所望の再芯出し運動を使用して、撮像装置の所望の再芯出し運動が、有効であるか否かが判定される。いくつかの例では、この有効性の判定は、撮像装置の運動、他の関節式アームの位置、他のエンドエフェクタ及び/又は電子装置の作業空間内での装置、及び/又はエンドエフェクタの適切な画像を取得するための撮像装置の能力に関する1つ又は複数の制約条件を検討することを含んでもよい。入力コントロールの運動学的モデル及びプロセス240の間に決定された入力コントロールの所望の再芯出し運動を使用して、入力コントロールの所望の再芯出し運動が有効であるか否かが判定される。いくつかの例では、この有効性の判定は、入力コントロールの運動、コンソール作業空間におけるオペレータ・ワークステーションの一部の位置、及び/又は入力コントロールについてのオペレータの人間工学的な考慮に関する1つ又は複数の制約条件を検討すること含んでもよい。再芯出し運動が有効であると判定された場合に、再芯出し運動が、プロセス260を使用して実行される。再芯出し運動のいずれかが無効であると判定された場合に、エラーが、プロセス270を使用して示される。
プロセス260では、視野再芯出し運動及び入力コントロール再芯出し運動が、調整される。撮像装置に結合された関節式アームの1つ又は複数のアクチュエータに1つ又は複数の運動コマンドを送って、撮像装置に指令及び/又は指示して、視野再芯出し運動を実行させる。入力コントロールに結合された関節式アームの1つ又は複数のアクチュエータにも1つ又は複数の運動コマンドを送って、入力コントロールに指令及び/又は指示して、入力コントロール再芯出し運動を実行させる。撮像装置及び入力コントロールの運動コマンドは、典型的には、調整される。いくつかの例では、この調整によって、撮像装置及び入力コントロールの両方の同時再芯出しを可能にする。いくつかの例では、再芯出し運動中に撮像装置の視野空間内のエンドエフェクタと入力コントロールの姿勢との間の少なくともいくつかの位置及び/又は向きの調和を維持するように、その調整を行ってもよい。いくつかの例では、プロセス260は、再芯出し動作が行われていることを示す音声及び/又は視覚的なフィードバックをオペレータに提供することも含んでもよい。いくつかの例では、音声フィードバックは、固有の音、音声によるフレーズ等を含んでもよい。再芯出し運動が完了すると、オペレータ制御は、プロセス280を使用して再開される。
プロセス270では、エラーが表示される。決定された再芯出し運動が無効であると判定された場合に、オペレータに通知される。いくつかの例では、通知は、任意の適切な音声及び/又は視覚的なフィードバックを含んでもよい。いくつかの例では、音声フィードバックは、固有の音の再生を含んでもよい。エラーが表示された後に、オペレータ制御は、プロセス280を使用して再開される。
プロセス280では、エンドエフェクタのオペレータ制御が、回復される。再芯出し運動がプロセス260を使用して実行される、又はエラーがプロセス270を使用して表示されるかに拘わらず、入力コントロールを使用するエンドエフェクタの制御が、オペレータに戻される。エラーが表示される場合に、撮像装置及び/又は入力コントロールの再芯出しは、オペレータが責任を持つことになる。オペレータによるエンドエフェクタ及び/又は撮像装置の制御期間の後に、別の再芯出し動作が、プロセス210を使用して検出され得る。
上述したように且つさらにここで強調するように、図2は、単なる例であり、特許請求の範囲を不当に制限するものではない。当業者は、多くの変形、代替、及び修正を認識するであろう。いくつかの実施形態によれば、追加の条件が、プロセス280を使用してオペレータ制御を戻すことにより及び/又は装置動作の一時停止等により、方法200の早期終了をもたらし得る。いくつかの例では、追加の条件は、オペレータ・ワークステーション上の1つ又は複数のコントロール又は関節式アームを使用するオペレータによる手動による介入又はオーバーライド、1つ又は複数の安全インターロックを使用して、オペレータ・ワークステーションとの関係が外れたオペレータの検出、関節式アーム及び/又は入力コントロールの位置追跡エラー、システム障害等を含み得る。
図3A及び図3Bは、いくつかの実施形態に係る視野再芯出し動作の前後の撮像視野の簡略図である。図3Aに示されるように、視野再芯出し動作の実行前に、3つの関節式アームを含む作業空間が、示されている。第1の関節式アームは、グリッパ型エンドエフェクタ310で終端する。グリッパ型エンドエフェクタ310は、2つの把持フィンガ312及び314と、旋回式関節316とを含む。第2の関節式アームも、グリッパ型エンドエフェクタ320で終端し、このエンドエフェクタ320は、2つの把持フィンガ322及び334と、旋回式関節326とを含む。第3の関節式アームは、端点332及び基準点334を有する単一フィンガのエンドエフェクタ330を含む。いくつかの例では、基準点334は、回転式関節に対応してもよい。いくつかの例では、単一フィンガのエンドエフェクタ330は、焼灼ツール、吸引ツール等を表してもよい。いくつかの例では、関節式アームは、関節式アーム120の代表例であってもよく、グリッパ型の及び/又は単一フィンガのエンドエフェクタ310、320及び/又は330は、エンドエフェクタ125の代表例であってもよい。
また、図3Aに視野空間340が示される。いくつかの例では、視野空間340は、撮像装置により取り込まれた画像に対応することができる。示されるように、視野空間340は、グリッパ型エンドエフェクタ320、グリッパ型エンドエフェクタ310の一部を含むが、単一フィンガのエンドエフェクタ330は含まない。いくつかの例では、図3Aは、オペレータがエンドエフェクタ310及び/又は320を制御しながら撮影した画像に対応することができる。
いくつかの例では、オペレータが、エンドエフェクタ310及び320ではなくエンドエフェクタ310及び330の制御に切り替えることを望む場合に、問題を引き起こし得る。例えば、エンドエフェクタ330が視野空間340内にないので、エンドエフェクタ330は、視野空間340の画像に表示されておらず、且つオペレータは、エンドエフェクタ330を配置した場所を覚えていない可能性がある。いくつかの例では、オペレータは、エンドエフェクタ310及び330の両方を視野空間340内に配置するために、視野空間340を手動で再芯出しすることができる。いくつかの例では、オペレータは、方法200と同様の方法を使用して自動再芯出しをトリガし、再芯出しを行うべきエンドエフェクタとしてエンドエフェクタ310及び330を指定することができる。
図3Bは、再芯出し後のエンドエフェクタ310及び330の視野空間350を示している。視野再芯出し運動を使用して、エンドエフェクタ310及び330の画像を取り込むために使用される撮像装置が、エンドエフェクタ310及び330を含む姿勢に再位置付け及び/又は再向き合わせされる。再芯出し運動によって、視野再芯出し運動前の視野空間340を、視野再芯出し運動を行った後の視野空間350に変化させる。この視野再芯出し運動は、把持フィンガ312及び314、旋回式関節316、端点332、及び基準点334を含む視野空間350をもたらす。視野空間350は、把持フィンガ312及び314、旋回式関節316、端点332、及び基準点334に関して芯出しされる。
図4A及び図4Bは、いくつかの実施形態に係る、視野再芯出し動作後の、撮像視野及び側面視野それぞれの簡略図である。図4A及び図4Bは、エンドエフェクタ310及び330上の標的を使用して、視野空間350をエンドエフェクタ310及び330上に中心決め(芯出し)することを示す。図4Aは、視野空間350を使用して撮像装置によって取り込まれた画像からこの中心決めを行うことを示す。いくつかの例では、視野座標系を使用した場合に、視野空間350は、視野空間350の左から右方向にx軸、視野空間の上方向にy軸、及び視野方向のz軸を含むことができる。
エンドエフェクタ310及び330を視野空間350内で再芯出しするのを補助するために、各エンドエフェクタ310及び/又は330上の1つ又は複数の標的が、選択される。いくつかの実施形態では、各標的は、エンドエフェクタ310及び/又は330の各フィンガのチップだけでなく、図4Aに示されるように関心対象の関節及び/又は基準点のいずれかに関連付けることができる。いくつかの実施形態では、他の基準を使用して、フィンガの丁度チップの、及び/又は、エンドエフェクタ310及び/又は330及び/又は関連する関節式アームの他の位置での関連する標的等の標的を選択することができる。図4Aに示されるように、3つの標的が、グリッパ型エンドエフェクタ310で使用され、及び2つの標的が、単一フィンガのエンドエフェクタ330で使用される。グリッパ型エンドエフェクタ310上の3つの標的は、把持フィンガ312及び314のそれぞれのチップに中心決めされた標的412及び414と、旋回式関節316に中心決めされた標的点416とを含む。単一フィンガのエンドエフェクタ330上の2つの標的は、端点332に中心決めされた標的点432と、基準点334に中心決めされた標的点434とを含む。
いくつかの例では、各標的412〜416及び/又は432〜434は、フィンガの対応するチップに中心を有する及び/又は、対応する関節及び/又は基準点の中心に又はその近くに中心を有する仮想境界球としてモデル化することができる。いくつかの例では、各仮想球の半径は、それぞれの標的点に関連したエンドエフェクタの対応する部分のボリュームを少なくとも取り込むのに十分な大きさである。いくつかの例では、半径は、視野空間350が、対応するエンドエフェクタだけでなく、対応するエンドエフェクタの周りの空間マージンを取り込み得るように、エンドエフェクタの対応する部分のボリュームよりも2〜3倍大きくしてもよい。これは、エンドエフェクタを視野空間350の丁度縁部に配置するのを防止するのに役立つ。いくつかの例では、半径は、標的点の位置の運動学的な不確実性を考慮した大きさにしてもよい。
いくつかの例では、各標的412〜416及び/又は432〜434の中心点の重心440を計算することができる。次に、重心440を視野空間350の中心点として使用してもよい。次に、視野空間350が各標的412〜416及び/又は432〜434を含むように、重心440と撮像装置との間の作動距離を調整してもよい。
図4Bは、視野空間350の対応する側面視野を示す。図4Bの側面視野は、視野空間350が撮像装置450から離れるにつれて広がる視錐台であることを示す。いくつかの例では、その錐台の角度幅は、撮像装置450の光学特性から決定することができる。いくつかの例では、撮像装置450は、カニューレ460を通して患者に挿入される内視鏡であってもよい。いくつかの例では、撮像装置450は、立体視装置であってもよい。いくつかの例では、カニューレ460は、撮像装置450のロール、ピッチ、ヨー回転が遠隔中心の周りに中心決めされるように、撮像装置450の遠隔中心付近に位置付けすることができる。図4Bにさらに示されるように、撮像装置450は、視野座標系のz方向の視野方向に沿って重心440と向き合わせされる。重心440は、各標的412〜416及び/又は332〜334のz方向の平均深さに配置してもよい。重心440は、撮像装置450のチップ470から作動距離480に配置してもよい。
いくつかの実施形態では、作動距離480は、1つ又は複数の基準に基づいて選択することができる。このプロセスは、重心440を決定し、且つ撮像装置上の基準点から重心440への方向を視野方向又はz軸方向として使用することによって開始する。いくつかの例では、基準点は、撮像装置がカニューレ460とチップ470との間で直線状である場合に、カニューレ460に対応し得る。いくつかの例では、撮像装置の1つ又は複数の運動学的モデルを使用して、カニューレ460に対する基準点の位置を決定することができる。いくつかの例では、基準点をチップ470に関連付けてもよい。次に、各標的412〜416及び/又は432〜434の最大のx軸範囲及び/又はy軸範囲を使用して、標的412〜416及び/又は432〜434が視野空間350の錐台内にあるように、各標的412〜416及び/又は432〜434のそれぞれの最小の視野距離を決定する。次に、各標的412〜416及び/又は432〜434に関連したボリュームが視野空間350内に収まるのを確実にするように、最大の最小視野距離(largest
minimum viewing distance)を、作動距離480として選択することができる。いくつかの例では、作動距離480は、撮像装置が指定された場合に、撮像装置450の好適な作動距離まで増大させることができ、それは、最大の最小観察距離よりも大きい。いくつかの例では、作動距離480は、撮像装置450の最小及び最大の焦点距離内にあるように制約され得る。
一旦視線方向/視線座標系のz軸及び作動距離480が決定されると、撮像装置450の視野再芯出し運動を決定することができる。視野再芯出し運動は、撮像装置450のピッチ及びヨーを調整して視線方向に整列すること、及び作動距離480に基づいてカニューレ460に対するチップ470の挿入量及び/又は後退量を調整することを含むことができる。いくつかの例では、視野再芯出し運動を解析して、その視野再芯出し運動が有効であるか否かを判定することができる。いくつかの例では、これは、撮像装置450が取り付けられた関節式アームが視野再芯出し運動を実行し得るか否かを判定することを含むことができる。いくつかの例では、関節式アームは、関節の制限、視野再芯出し運動に関して設けられた最大移動制限、及び/又は他の関節式アーム(例えば、関節式アーム310、320、及び/又は330)、患者の解剖学的構造、及び/又は作業空間内の他の物体との衝突回避のために、視野再芯出し運動を実行できない可能性がある。いくつかの例では、最大移動制限は、ピッチ及びヨー角度制限を含んでおり、30度以下のピッチ及びヨー運動を制限し、及び/又はチップ470の事前に規定された移動位置を越える挿入を禁止する。いくつかの例では、撮像装置450の運動に関して設けられた制約がもはや視野空間350の錐台内に含まれない標的をもたらしたときに、視野再芯出し運動を無効であると判定することができる。
いくつかの例では、視野再芯出し運動は、撮像装置450を重心440から離れる方向に後退させること、ピッチ及び/又はヨーの向き合わせを行って視線方向と整列させること、次にチップ470を重心440から作動距離480まで挿入すること等の多段階の運動として計画することができる。いくつかの例では、視野再芯出し運動がズームイン動作を含む場合に、多段階の運動は、チップ470を重心440から作動距離480まで挿入する前に、ピッチ及び/又はヨーの向き合わせを行って視線方向と整列させることを含むことができる。いくつかの例では、視野再芯出し運動がズームアウト動作を含む場合に、多段階の運動は、ピッチ及び/又はヨーの向き合わせを行う前に、撮像装置を作動距離480まで後退させることを含むことができる。いくつかの例では、多段階の運動は、チップ470が、関節式アーム310、320、及び/又は330のエンドエフェクタ、患者の解剖学的構造、及び/又は作業空間内の他の物体と衝突する可能性を減らすのに役立つ。いくつかの例では、視野再芯出し運動は、見上げる視野(view up)/視野座標系のy軸が、ワールド座標系と整列するように撮像装置450を回転させることも含むことができる。いくつかの例では、視野再芯出し運動は、撮像装置450の向き合せ及び/又は位置付けエラーを最小化するように、撮像装置450の関節式アームを制御する関節の精度限界に基づいて、撮像装置450のピッチ、ヨー、及び挿入を最適化する反復運動計画動作を使用して決定することができる。
いくつかの実施形態では、視野再芯出し運動が無効であると判定された場合に、代替の視野再芯出し運動は、チップ470を最小の挿入深さまで後退させた位置で決定される。いくつかの例では、最小の挿入深さは、撮像装置が、撮像装置450を位置付け及び/又は向き合わせするために使用した関節式アームの1つ又は複数の部分によって部分的に塞がれる深さに対応してもよい。いくつかの例では、撮像装置を部分的に塞ぎ得る関節式アームの部分は、カニューレ460に対応してもよい。いくつかの例では、最小の挿入深さは、撮像装置の遠隔中心から所定の距離の点に対応することができる。いくつかの例では、所定の距離は、カニューレ460の長さに基づいてもよい。いくつかの例では、所定の距離は、長さが2〜9センチメートル(cm)であってよい。チップ470をカニューレ460まで後退させた状態で、次に、撮像装置450の視線方向を重心440に向いたポイントに設定する。次に、各標的412〜416及び/又は432〜434の最大のx軸範囲及び/又はy軸範囲をチェックして、それら(最大のx軸範囲及び/又はy軸範囲)が視野空間350内に入るか否かを確認する。各標的412〜416及び/又は432〜434が視野空間350内に入らない場合に、代替の視野再芯出し運動も無効であると判定する。視野再芯出し運動と同様に、代替の視野再芯出し運動の有効性に関する追加チェックは、撮像装置450が取り付けられた関節式アームが代替の視野再芯出し運動を実行できるか否かを判定することを含むことができる。いくつかの例では、関節式アームは、関節の制限、視野再芯出し運動に関して設けられた最大移動制限、及び/又は他の関節式アーム(例えば、関節式アーム310、320、及び/又は330)、及び/又は患者の解剖学的構造との衝突回避によって、代替の視野再芯出し運動を実行できない可能性がある。代替の視野再芯出し運動が無効である場合には、視野再芯出しが中止され、適切なエラーが表示される。
図5は、いくつかの実施形態に係る視野再芯出しの方法500の簡略図である。方法500のプロセス510〜580の1つ又は複数は、非一時的な、有形の機械可読媒体上に格納された実行可能コードの形態で少なくとも部分的に実施することができ、1つ又は複数のプロセッサ(例えば、制御ユニット130内のプロセッサ140)によって実行されたときに、1つ又は複数のプロセッサに、プロセス510〜580の1つ又は複数を実行させることができる。いくつかの実施形態では、方法500は、動作制御アプリケーション160の等のアプリケーションによって実行され得る。いくつかの実施形態では、方法500は、エンドエフェクタ125及び/又はエンドエフェクタ310〜330の1つ又は複数を撮像装置450等の撮像装置の視野空間において再芯出しするために使用することができ、それによって、対応する画像を表示装置180に表示することができる。
プロセス510では、視野中心点が決定される。いくつかの例では、視野中心点は、撮像装置450等の撮像装置によって取り込まれた画像で再芯出しすべき1つ又は複数のエンドエフェクタの重心に対応することができる。図3A、図3B、図4A、及び図4Bの例では、エンドエフェクタは、エンドエフェクタ310及び330に対応してもよく、視野中心点は、重心440に対応してもよい。いくつかの例では、重心は、標的412〜416及び/又は432〜434等の1つ又は複数の標的の重心を考慮することによって決定することができる。いくつかの例では、エンドエフェクタ310及び/又は330の関節式アームに関連したセンサを使用して、関節式アームの関節の位置を決定することができる。エンドエフェクタ310及び/又は330及びそれらの関節式アームの1つ又は複数の運動学的モデルと組み合わせた関節位置を使用して、エンドエフェクタ310及び/又は330の位置を決定することができ、次に、この決定された位置を使用して重心を決定することができる。
プロセス520では、作動距離が決定される。いくつかの例では、作動距離は、各標的を撮像装置の視野空間内にあるようにするために、エンドエフェクタの標的をどの位離すべきかを決定することによって決定することができる。いくつかの例では、作動距離は、標的毎に視野方向に対して垂直な最大のx軸範囲及び/又はy軸範囲を決定すること、次に標的が視野空間の錐台内にあるように、標的毎にそれぞれの最小の視野距離を決定することによって、決定することができる。次に、最大の最小視野距離は、各標的を視野空間中に収めるのを確実にするような、作動距離として選択することができる。いくつかの例では、作動距離は、撮像装置が指定された場合に、撮像装置の好適な作動距離まで増大させることができ、それは、最大の最小視野距離よりも大きい。いくつかの例では、好適な作動距離は、撮像装置のオペレータが設定してもよい。いくつかの例では、作動距離は、撮像装置の最小及び最大の焦点距離内にあるように制約され得る。
プロセス530では、撮像装置の所望の位置及び向きが決定される。撮像装置上の基準点と視野中心との間のベクトルによる撮像装置の向きが、プロセス510の間に決定される。いくつかの例では、基準点は、撮像装置が遠隔中心と撮像装置のチップとの間で直線状ある場合であって、撮像装置が撮像装置450のカニューレ460等の遠隔中心の周りの運動によって制限される場合に、遠隔中心に対応することができる。いくつかの例では、撮像装置の1つ又は複数の運動学的モデルを使用して、基準点の位置を決定することができる。いくつかの例では、基準点は、撮像装置のチップに関連付けてもよい。いくつかの例では、方向ベクトルは、撮像装置のロール位置を維持し、次に撮像装置の視野方向をその方向ベクトルとして使用しながら、撮像装置のチップを視野中心と配置することによって決定することができる。撮像装置のチップの位置は、プロセス520の間に決定されるように、視野方向とは反対方向の視野中心から離れる作動距離に撮像装置のチップを配置することに基づいて、決定される。
プロセス540では、撮像装置の所望の位置及び向きが有効であるか否かが判定される。いくつかの例では、これは、撮像装置が取り付けられた関節式アームが、その現在の位置及び向きからプロセス530の間に決定された撮像装置の位置及び向きに視野再芯出し運動を実行できるか否かを判定することを含む。いくつかの例では、関節式アームは、関節の制限、視野再芯出し運動に関して設けられた最大移動制限、及び/又は他の関節式アーム、患者の解剖学的構造、及び/又は作業空間内の他の物体との衝突回避によって、視野再芯出し運動を実行できない可能性がある。いくつかの例では、最大移動制限は、ピッチ及び/又はヨー角度制限を含んでもよく、ピッチ及びヨー運動を30度以下に制限し、及び/又は撮像装置のその事前に規定された移動位置を越える挿入を禁止する。いくつかの例では、撮像装置の運動に関して設けられた制約が、もはや視野空間の錐台内に含まれない標的をもたらしたときに、視野再芯出し運動を無効であると判定することができる。撮像装置の所望の位置及び向きが有効である場合に、撮像装置は、プロセス550を使用して撮像装置の所望の位置及び向きに移動される。撮像装置の所望の位置及び向きが有効でない場合に、撮像装置の代替の位置及び向きが、プロセス560を使用して決定される。
プロセス550では、撮像装置が移動される。撮像装置は、撮像装置及びこの撮像装置が取り付けられる関節式アームに適した動作を計画することによって移動され、次に、計画された運動は、関節式アームのアクチュエータに1つ又は複数のコマンドを送信することによって実行される。いくつかの例では、運動計画は、撮像装置を視野中心点から離れる方向に後退させること、撮像装置を視野中心点に向けて向き合わせするように、ピッチ及び/又はヨーの向き合わせを行って視線方向と整列させること、次に撮像装置を視野中心点から作動距離まで挿入すること含む多段階の運動を含んでもよい。いくつかの例では、撮像装置の運動がズームイン動作を含む場合に、多段階の運動は、撮像装置を作動距離に挿入する前に、ピッチ及び/又はヨー向き合わせを行って視線方向と整列させることを含むことができる。いくつかの例では、撮像装置の運動がズームアウト動作を含む場合に、多段階の運動は、ピッチ及び/又はヨー向き合わせを行う前に、撮像装置を作動距離に後退させること含むことができる。いくつかの例では、多段階の運動は、撮像装置が、他の関節式アームのエンドエフェクタ、患者の解剖学的構造、及び/又は作業空間内の他の物体と衝突する可能性を減らすのに役立つ。いくつかの例では、プロセス560の間に決定されるように撮像装置を後退させた場合に、挿入ステップを省略してもよい。いくつかの例では、計画された運動は、撮像装置の見上げる視野の方向がワールド座標系と整列されるように、撮像装置を回転することも含むことができる。いくつかの例では、撮像装置に関連した関節式アームの1つ又は複数の運動学的モデルを使用して、運動計画を支援することができる。いくつかの例では、計画された運動は、撮像装置の向き合せ及び/又は位置付けエラーを最小化するように、撮像装置に関連した関節式アームを制御する関節の精度限界に基づいて、ヨー、ピッチ、及び撮像装置の挿入及び/又は後退を最適化する反復運動計画の動作を使用して決定することができる。一旦撮像装置が移動されると、再芯出し操作が完了する。
プロセス560では、撮像装置の代替の位置及び向きが決定される。プロセス540の間に決定された撮像装置の所望の位置及び向きが無効である場合に、撮像装置の代替の位置及び向きは、撮像装置を視野の中心点から離れる方向に後退させた位置で決定される。いくつかの例では、撮像装置の代替の位置及び向きは、撮像装置を最小の使用可能な挿入深さに後退させること、及びプロセス520の間に決定された作動距離を無視することを含むことができる。いくつかの例では、最小の挿入深さは、撮像装置が、撮像装置を位置付け及び/又は向き合わせするために使用した関節式アームの1つ又は複数の部分によって部分的に塞がれる深さ深さに対応してもよい。いくつかの例では、撮像装置を部分的に塞ぎ得る関節式アームの部分は、カニューレ460等のカニューレに対応してもよい。いくつかの例では、最小の挿入深さは、撮像装置の遠隔中心から所定の距離の点に対応することができる。いくつかの例では、所定の距離は、カニューレの長さに基づいてもよい。いくつかの例では、所定の距離は、長さが2〜9cmであってよい。次に、撮像装置の代替の向きは、プロセス530の間に使用されたのと同様のアプローチを使用して、撮像装置を視野中心点に向けて向き合わせすることを含む。
プロセス570では、撮像装置の代替の位置及び向きが有効であるか否かが判定される。いくつかの例では、これは、撮像装置が取り付けられた関節式アームが、現在の位置及び向きからプロセス560の間に決定された撮像装置の代替の位置及び向きに視野再芯出し運動を実行できるか否かを判定することを含む。いくつかの例では、関節式アームは、関節の制限、視野再芯出し運動に関して設けられた最大移動制限、及び/又は他の関節式アーム、患者の解剖学的構造、及び/又は作業空間内の他の物体との衝突回避によって、視野再芯出し運動を実行できない可能性がある。いくつかの例では、最大移動制限は、ピッチ及びヨー運動を30度以下に制限するピッチ及びヨー角度制限を含み得る。撮像装置の代替の位置及び向きが有効である場合に、撮像装置は、プロセス550を使用して、撮像装置の代替の位置及び向きに移動される。撮像装置の代替の位置及び向きが有効でない場合に、エラーが、プロセス580を使用して表示される。
プロセス580では、エラーが表示される。撮像装置の決定された代替の位置及び向きが無効であると判定された場合に、オペレータに通知される。いくつかの例では、通知は、任意の適切な音声及び/又は視覚的なフィードバックを含んでもよい。いくつかの例では、音声フィードバックは、固有の音の再生を含んでもよい。
上述したように且つさらにここで強調するように、図5は、単なる例であり、特許請求の範囲を不当に制限するものではない。当業者は、多くの変形、代替、及び修正を認識するだろう。いくつかの実施形態によれば、追加の条件及び/又は安全係数は、方法500の間に検討され、より具体的には、撮像装置が自動化された動作中であるときのプロセス550の間に検討することができる。
いくつかの実施形態では、1つ又は複数の事前の注意を使用して、撮像装置と、患者の解剖学的構造及び/又は撮像装置に近接する他の障害物との間の接触及び/又は干渉を減少及び/又は防止することができる。いくつかの例では、患者の解剖学的構造の1つ又は複数の手術前及び/又は手術中画像を使用して、撮像装置が入るべきではない1つ又は複数の飛行禁止区域を特定することができる。いくつかの例では、撮像装置を操作するために使用される1つ又は複数の関節の力及び/又はトルクを適切なセンサを使用して監視して、予期しない力及び/又はトルクが、撮像装置が患者の解剖学的構造及び/又は他の障害物との容認できない接触することを示すか否かを判定することができる。いくつかの例では、指令された位置及び/又は速度と、撮像装置及び/又は撮像装置を操作するために使用した関節の実際の位置及び/又は速度との間のエラーを監視して、エラーが設定可能な閾値を超えるか否かを判定することができる。いくつかの例では、設定可能な閾値は、関節毎に異なっていてもよい。いくつかの例では、エラーは、他の許容される一時的な状態による誤判定の検出を回避するために、ローパスフィルタ処理及び/又は平滑化処理してもよい。いくつかの例では、撮像装置の先端部付近に配置された1つ又は複数の接点を監視して、撮像装置が患者の解剖学的構造及び/又は他の障害物と接触しているか否かを判定することができる。いくつかの例では、撮像装置が患者の解剖学的構造と接触及び/又は干渉しているという判定は、撮像装置の運動の早期終了、及び/又は、1つ又は複数の視覚及び/又は音声アラームの起動を生じさせ得る。
いくつかの実施形態では、1つ又は複数のインターロックを使用して、オペレータが再芯出し動作を監視するために存在することを確実にしてもよい。いくつかの例では、ヘッド内(head-in)のセンサ等の1つ又は複数の入力コントロールを使用して、オペレータが、オペレータコンソールに存在しており且つ撮像装置からの画像を確認する位置にいることを判定することができる。いくつかの例では、照度センサを使用して、撮像装置からの画像を、オペレータコンソールのビューア上でオペレータに表示していることを判定することができる。いくつかの例では、1つ又は複数のインターロックが、オペレータの不在を検出すること及び/又は撮像装置上の画像の欠損を検出することの判定は、撮像装置の運動の早期終了、及び/又は、1つ又は複数の視覚及び/又は音声アラームの起動を生じさせ得る。
いくつかの実施形態では、プロセス550の間に計画され且つ実行された動作は、撮像装置の速度及び/又は加速度に、及び/又は撮像装置を操作するために使用した1つ又は複数の関節に関して上限を設けるように設計することができる。いくつかの例では、再芯出し動作を監視するオペレータが、撮像装置の潜在的に望ましくない動作に反応し且つ再芯出し動作をオーバーライド及び/又は終了するのに十分な時間を有することができるように、速度及び/又は加速度を制限してもよい。いくつかの例では、撮像装置を操作するために使用された関節のフィードフォワードトルクが、患者の解剖学的構造、撮像装置に近接した他のエンドエフェクタ、及び/又は他の予期しない障害物との過度に力を加えるような接触につながる可能性がある運動を許容することなく、予想される慣性、粘性摩擦等に打ち勝つような撮像装置の動きを可能にする十分な最小レベルに維持されるように、速度及び/又は加速度を限定してもよい。いくつかの例では、撮像装置を操作するために使用した関節のフィードバックトルクは、滅菌ドレープ、カニューレシールの摩擦等の予想される抵抗源に打ち勝つのに十分な最小値に制限することができる。
図6は、いくつかの実施形態に係る撮像装置の好適な作動距離を決定する方法600の簡略図である。方法600のプロセス610〜660は、非一時的な、有形の機械可読媒体上に格納された実行可能コードの形態で少なくとも部分的に実施することができ、1つ又は複数のプロセッサ(例えば、制御ユニット130内のプロセッサ140)によって実行されたときに、1つ又は複数のプロセッサに、プロセス610〜660の1つ又は複数を実行させることができる。いくつかの実施形態では、方法600は、動作制御アプリケーション160等のアプリケーションによって実行され得る。いくつかの実施形態では、方法600は、撮像装置と視野中心点との間の好適な作動距離を決定するために使用することができる。いくつかの例では、好適な作動距離は、プロセス520の間に使用された好適な作動距離であってもよい。いくつかの実施形態では、方法600は、オペレータがオペレータにとって好適な作動距離を学ぶために、撮像装置の手動の再位置付け操作を監視するために使用することができる。
プロセス610では、撮像装置の動作の開始を検出する。オペレータが1つ又は複数の関節式アーム及び撮像装置を含む装置を操作する際に、撮像装置の再位置付け運動を監視することができる。いくつかの例では、撮像装置の動作は、チップ470等の撮像装置のチップに関連付けてもよい。いくつかの例では、関心対象の運動は、オペレータによる撮像装置の手動の再位置付けに関連付けてもよい。撮像装置の手動の再位置付けを監視することにより、撮像装置と、撮像装置により撮影された画像内に取り込まれた1つ又は複数のエンドエフェクタとの間のオペレータの好適な距離を知ることが可能になる。いくつかの例では、手動の再位置付け操作のそれぞれは、撮像装置の再位置付け及び/又は再向き合せコントロールの起動により検出することができる。いくつかの例では、手動の再位置付けの開始が検出された場合に、撮像装置の現在の位置及び/又は向きを記録することができる。
プロセス620では、撮像装置の動作の終了を検出する。一旦撮像装置の動作がプロセス610の間に検出されると、その動作は、終了するまで監視される。いくつかの例では、動作の終了は、撮像装置の運動の欠如によって検出することができる。いくつかの例では、運動の欠如は、撮像装置の速度が最小閾値を下回ることを判定することによって検出することができる。いくつかの例では、運動の欠如は、撮像装置の速度が所定の時間に亘って最小閾値未満に留まることを判定することによって検出することができる。いくつかの例では、動作の終了は、再位置付け及び/又は再向き合せコントロールの停止で述べるように、手動の再位置付けの終了に関連付けてもよい。いくつかの例では、動作の終了が検出されたときに、撮像装置の現在の位置及び/又は向きを記録することができる。
プロセス630では、十分な動作が撮像装置で検出されたか否かが判定される。プロセス610及び620の間に記録された現在の位置及び/又は向きの値を使用して、撮像装置の動きの量を決定することができる。いくつかの例では、動きの量は、開始位置と終了位置の間のユークリッド距離等の距離であってもよい。いくつかの例では、動きの量は、さらに開始向きと終了向きとの間の角度の変化に基づいてもよい。いくつかの例では、角度の変化は、角度の変化のサイン及び/又はコサインを決定すること、及び動作の開始がプロセス610の間に検出される前に、撮像装置の作動距離に関連する距離と、それら角度の変化のサイン及び/又はコサインのいずれかとを乗じることによって、距離に変換することができる。動きの量が、0.5cm程度の最小閾値を超える場合に、新しい好適な作動距離が、プロセス640で開始され決定される。動きの量が最小閾値を超えない場合に、方法600は、プロセス610に戻って撮像装置の将来の動作を検出する。
プロセス640では、z距離が、関心点について決定される。いくつかの例では、撮像装置の作動距離は、視野方向に沿った撮像装置から1つ又は複数の関心点までの垂直距離に基づいて特徴付けることができる。いくつかの例では、関心点を撮像装置の視野座標系にマッピングする場合に、各関心点のz値は、対応するz距離を表すことができる。いくつかの例では、関心点は、1つ又は複数のエンドエフェクタ上の1つ又は複数の標的の中心に対応してもよい。いくつかの例では、エンドエフェクタは、オペレータによって選択してもよく、及び/又は撮像装置により取り込まれた画像に表示されるように決定されたエンドエフェクタに基づいて自動的に選択してもよい。図4A及び図4Bの例では、標的は、標的412〜416、422〜426、及び/又は432〜434から選択してもよい。
プロセス650では、現在の作動距離が決定される。いくつかの例では、現在の作動距離は、プロセス640の間に決定された各z距離を集計することによって決定することができる。いくつかの例では、集計は、平均値、中央値、最小値、最大値等を含んでもよい。いくつかの例では、重心440等の関心点の重心のz座標を使用して、現在の作動距離を決定することができる。
プロセス660では、現在の作動距離は、以前の作動距離と一緒に集計される。プロセス650の間に決定された現在の作動距離を以前の作動距離の値と集計して、好適な作動距離を決定する。いくつかの例では、プロセス650の間に決定された現在の作動距離は、撮像装置の動作の開始と終了との間の動きの量に基づいて重み付けすることができ、それによってより大きな運動が、好適な作動距離により大きな影響を与えることになる。いくつかの例では、集計は、移動平均、所定の時間に亘ったウィンドウ平均(windowed
average)、指数平滑法等を決定することを含んでもよい。いくつかの例では、好適な作動距離をデフォルト値に初期化してもよい。いくつかの例では、デフォルト値は、撮像装置の最小及び/又は最大の焦点距離に基づいてもよい。いくつかの例では、デフォルト値を7cm程度に設定してもよい。いくつかの実施形態では、複数の好適な作動距離を、検出した動作の内容に基づいて決定してもよい。いくつかの例では、その内容は、異なるオペレータについての異なる好適な作動距離、異なる手順、手順の異なる段階、デジタルズーム設定、焦点距離設定、立体視差設定等を維持することを含んでもよい。一旦集計が行われると、方法600は、撮像装置の好適な作動距離である集計の追加の運動を含むように繰り返すことができる。
図7は、いくつかの実施形態に係る入力コントロール再芯出し動作に続く、表示装置上の画像内のエンドエフェクタと、コンソール作業空間の対応する入力コントロールとの関係を示す簡略図である。いくつかの例では、入力コントロール再芯出し動作は、方法200の間に再芯出しの一部として発生する入力コントロール再芯出しに対応することができる。いくつかの例では、再芯出し動作の目標の1つは、視野再芯出し中の撮像装置の視野空間におけるエンドエフェクタと、エンドエフェクタに対応する入力コントロールとの間の位置及び/又は向きの調和を維持することである。いくつかの例では、入力コントロール再芯出しは、それぞれのエンドエフェクタの位置及び/又は向きに対応するように、各入力コントロールの位置及び/又は向きを変化させることを含む。
図7の上部には、図3B及び図4Aの視野再芯出し運動に続いて、表示装置180に表示される画像として取り込まれるようなエンドエフェクタ310及び330の画像を示している。撮像装置450を使用して取り込まれた画像は、表示装置180の境界710内に示されるように表示装置180に表示することができる。明確にするために、エンドエフェクタ310及び330、及びそれらの関節式アームの追加部分が、図7に示されているが、それら追加部分は、表示装置180に表示されず、及びエンドエフェクタを部分的又は完全に塞ぎ得る任意の物体も、同様に画像から除去されている。重心440に対応し得る視野中心点720も示されている。いくつかの例では、入力コントロールの再芯出しを容易にするために、エンドエフェクタ310及び330上の各関心点を、x、y、及びz軸によって示されるような視野座標系にマッピングすることもできる。いくつかの例では、関心点は、標的412〜416及び/又は432〜434に対応してもよい。
図7の下部には、エンドエフェクタ310及び330にそれぞれ対応する入力コントロール760及び770を含むコンソール作業空間が、示されている。入力コントロール760及び770は、それ自体の関節式アームを介してオペレータ・ワークステーションの本体730に結合してもよい。いくつかの例では、コンソール作業空間は、アームレスト740に対して位置付けしてもよい。いくつかの例では、オペレータ・ワークステーションは、オペレータ・ワークステーション170に対応してもよく、アームレスト740は、アームレスト190に対応してもよい。各オペレータは、アームレスト740について異なる高さを好み、異なる大きさ及び長さの腕、手首、及び/又は手を有し、及び/又は肘の配置及び/又は肘の曲げについて異なる好みを有する可能性があるため、人間工学に基づく中心750を、コンソール作業空間内で決定してもよい。いくつかの例では、コンソール作業空間の座標系は、x、y、及びz軸で示されるように規定することができる。
いくつかの実施形態では、エンドエフェクタ310及び330と、入力コントロール760及び770との間の位置及び/又は向きの調和は、入力コントロール760及び770上の制御点と、エンドエフェクタ310及び330上の対応する点との間のマッピングに基づいて、決定することができる。より具体的には、図7の例に示されるように、入力コントロール760のフィンガループ上の制御点762及び764は、それぞれ、標的412及び414にマッピングすることができ、それによって、オペレータが遠隔操作中に制御点762と764との間の距離を開いたり閉じたりする際に、把持フィンガ312及び314が開閉する。さらに、入力コントロール760上の制御点766を、標的点416にマッピングすることができ、それによって旋回点766が遠隔操作中に移動される際に、旋回式関節316は、それに応じて移動することができる。同様に、入力コントロール770上の制御点772及び774を、それぞれ、標的432及び434にマッピングしてもよい。
エンドエフェクタ310及び330と、入力コントロール760及び770との間のそれぞれの位置及び/又は向きの調和を維持するために、入力コントロール再芯出し動作は、人間工学に基づく中心750の周りに入力コントロール760及び770を再位置付け及び/又は再向き合わせして、境界710を含む画像に対応する視野空間内のエンドエフェクタ310及び330の位置及び/又は向きにおおよそ対応させる。こうして、図7に示されるように、入力コントロール760は、コンソール作業空間の左下部分に位置付けされ、且つエンドエフェクタ310の位置及び向きに一致する右上方向に向き合わせされる。同様に、入力コントロール770は、コンソール作業空間の右上部分に位置付けされ、且つエンドエフェクタ330の位置及び向きに一致する左下方向に向き合わせされる。位置及び/又は向きの調和を維持するために、視野座標系及びコンソール立体視ビューア作業空間の座標系は、典型的には、左右(x及びx)、上下(y及びy)、及び前後(z及びz)方向に整列される。一般的に、これは、入力コントロールのオペレータの手の運動が、エンドエフェクタ310及び/又は330の対応する運動に変換されるように、遠隔操作中にエンドエフェクタ310及び/又は330の直感的な動作を提供する。
いくつかの実施形態では、エンドエフェクタ310及び330と入力コントロール760及び770との間のそれぞれの位置及び/又は向きの調和は、エンドエフェクタ310及び330の標的412〜416及び/又は432〜434を視野座標系からコンソール作業空間座標系にマッピングすること、次に入力コントロール760及び770に関連した関節式アームの1つ又は複数のアクチュエータを使用して、対応する制御点762〜766及び/又は772〜774をコンソール作業空間座標系内のマッピングされた位置に位置付け及び/又は向き合わせすることによって維持することができる。いくつかの例では、これは、並進及びスケーリング変換を使用して達成することができる。いくつかの例では、1つ又は複数の並進変換を使用して、視野中心点720を人間工学に基づく中心740にマッピングすることができる。一旦視野中心点720及び人間工学に基づく中心740が整列されると、視野座標系の距離は、コンソール作業空間座標系の対応する距離にスケーリングすることができる。いくつかの例では、スケーリングのための1つ又は複数のスケール係数は、オペレータ・ワークステーションのオペレータによって設定してもよい。いくつかの例では、1つ又は複数のスケール係数は、画像境界710及びコンソール作業空間の相対的な大きさに基づいて設定してもよい。エンドエフェクタの各点312〜316及び/又は332〜334をマッピングして、対応する制御点762〜766及び/又は772〜774の位置を決定すると、入力コントロール760及び770の運動計画が、開発され、且つ実行される。
いくつかの実施形態では、各制御点762〜766及び/又は772〜774の位置は、運動計画を開発及び実行する前に、制約することができる。いくつかの例では、制御点762〜766及び/又は772〜774の位置及び/又は向きは、入力コントロール760と770との間の最小及び/又は最大距離を維持するために、アームレスト740及び/又はオペレータ・ワークステーションの他の部分との衝突を回避するために、入力コントロール760及び770の左/右十字交差を防止するために、入力コントロール760及び770の望ましくない位置及び/又は向きを回避するために、標的412〜416及び/又は432〜434、及び/又は制御点762〜766及び/又は772〜774の位置精度(例えば、1cm程度)を考慮する等のために、対応する関節式アームにおける関節の動きの制限の範囲によって制約される可能性がある。
図7には示されていないが、入力コントロール760及び/又は770の前後位置は、対応するエンドエフェクタ310及び/又は330の深さに一致している。こうして、標的412〜416及び/又は432〜434のz座標は、制御点762〜766及び/又は772〜774のz座標を決定するために対応してシフト及びスケーリングされる。こうして、図4Bに示される側面視野の関係と一致して、制御点672及び674は、制御点762〜766よりもオペレータに近い位置に配置してもよい。
図8は、いくつかの実施形態に係る入力コントロール再芯出しの方法800の簡略図である。方法800のプロセス810〜860の1つ又は複数は、非一時的な、有形の機械可読媒体上に格納された実行可能コードの形態で少なくとも部分的に実施することができ、1つ又は複数のプロセッサ(例えば、制御ユニット130内のプロセッサ140)によって実行されたときに、1つ又は複数のプロセッサに、プロセス810〜860の1つ又は複数を実行させることができる。いくつかの実施形態では、方法800は、動作制御アプリケーション160等のアプリケーションによって実行され得る。いくつかの実施形態では、方法800を使用して、入力コントロール195、760、及び/又は770のうちの1つ又は複数をコンソール作業空間において再芯出し、撮像装置450等の撮像装置により取り込まれ且つ表示装置180に表示される画像に表示されるように対応するエンドエフェクタ125、310、320、及び/又は330との位置及び/又は向きの調和を維持することができる。
プロセス810では、エンドエフェクタの位置が決定される。いくつかの例では、エンドエフェクタに関連付けられた関節式アームに関連したセンサを使用して、関節式アームの関節の位置を決定することができる。これらの関節位置を関節式アーム及びエンドエフェクタの1つ又は複数の運動学的モデルと組み合わせて使用して、エンドエフェクタの位置を決定することができる。いくつかの例では、エンドエフェクタの1つ又は複数の画像を使用して、エンドエフェクタの位置を決定することができる。図3A、図3B、図4A、図4B、及び図7の例では、エンドエフェクタは、エンドエフェクタ310及び330に対応することができ、エンドエフェクタ310及び/又は330の位置は、標的412〜416及び/又は432〜434によって特徴付けられる。
プロセス820では、エンドエフェクタの位置が、視野座標系にマッピングされる。撮像装置に関連付けられた関節式アームに関連したセンサ及び撮像装置に関連した関節式アームの1つ又は複数の運動学的モデルを使用して、視野座標系が、撮像装置について決定される。次に、プロセス810の間に決定されたエンドエフェクタの位置を、視野座標系にマッピングする。このマッピングは、撮像装置によって取り込まれた画像内のエンドエフェクタのx及びy位置だけでなく、エンドエフェクタが撮像装置から視野方向にどの位離れているかを示すエンドエフェクタのz位置を決定するのに役立つ。図7の例では、視野座標系におけるエンドエフェクタの位置は、標的412〜416及び/又は432〜434のx、y、及びz座標値に対応することができる。
プロセス830では、エンドエフェクタの位置が、人間工学に基づく中心の周りにシフトされる。エンドエフェクタとオペレータコンソールの1つ又は複数の入力コントロールとの位置及び/又は向きの調和を維持するのを支援するために、視野座標系が、コンソール作業空間座標系にマッピングされる。いくつかの例では、視野座標系とコンソール作業空間座標系との間のマッピングは、視野座標系の中心点をコンソール作業空間座標系の中心点と関連付けることによって開始する。いくつかの例では、エンドエフェクタの位置の重心を、視野座標系における中心点として選択してもよい。いくつかの例では、コンソール作業空間の人間工学に基づく中心を、コンソール作業空間座標系の中心点として選択してもよい。いくつかの例では、2つの中心点は、視野座標系及び/又はコンソール作業空間座標系の原点が選択された中心点と一致しない場合に、1つ又は複数の並進変換を使用して関連付けることができる。いくつかの例では、コンソール作業空間の人間工学に基づく中心は、オペレータコンソールのオペレータによって、及び/又はオペレータコンソール及びその入力コントロールの幾何学的形状によって予め選択してもよい。いくつかの例では、コンソール・ワークステーション上のアームレスト等の1つ又は複数の置台を再位置付けするときに、人間工学に基づく中心を移動してもよい。いくつかの例では、人間工学に基づく中心は、図9に関してさらに詳細に説明するように、オペレータ・ワークステーションの動作を監視することによって知ることができる。図7の例では、プロセス830は、重心720を人間工学に基づく中心750に整列させることに対応する。
プロセス840では、エンドエフェクタの位置を人間工学に基づく中心に関してスケーリングして、制御点の位置を決定する。視野座標及びコンソール作業空間座標系のスケールは、一般的に異なるため、視野座標系の中心点に対する視野座標系のエンドエフェクタの位置は、コンソール作業空間座標系における人間工学に基づく中心に関してスケーリングされる。スケーリングは、エンドエフェクタの位置と視野座標系の中心点との間の相対距離を、入力コントロールの位置とコンソール作業空間座標系における人間工学に基づく中心との間の対応する相対距離に変換する。次に、視野座標系からスケーリングされた各点は、コンソール作業空間座標系の制御点になる。いくつかの例では、スケーリングのための1つ又は複数のスケール係数は、オペレータ・ワークステーションのオペレータによって設定してもよい。いくつかの例では、1つ又は複数のスケール係数は、視野座標系で取り込まれた画像の相対的なサイズとコンソール作業空間のサイズとに基づいて設定してもよい。図7の例では、プロセス840のスケーリングは、相対的なx、y、及びz距離をそれぞれx、y、z距離に変換し、それによって標的412〜416及び/又は432〜434の位置を、それぞれ、制御点762〜766及び/又は772〜774の位置に変換する。
プロセス850では、制御点の位置が制約される。いくつかの例では、視野座標系のエンドエフェクタの位置に関連した点をコンソール作業空間座標系の制御点の位置にマッピングすることは、入力コントロール195、760、及び/又は770等の入力コントロールに適した位置及び/又は向きをもたらさない可能性がある。いくつかの実施形態では、プロセス830及び/又は940の間にマッピングされた各制御点の位置を制約してもよい。いくつかの例では、制御点の位置及び/又は向きは、異なる入力コントロールの制御点同士に間の最小及び/又は最大距離を維持するために、アームレスト及び/又はオペレータ・ワークステーションの他の部分との衝突を回避するために、入力コントロールの右/左十字交差を防止するために、入力コントロールの望ましくない位置及び/又は向きを回避するために、エンドエフェクタの点及び/又は入力コントロールの制御点のいずれかの位置精度の制限(例えば、1cm程度)を考慮する等のために、対応する関節式アームに関節の動きの制限の範囲によって制約される可能性がある。
プロセス860では、入力コントロールが、制御点の位置に移動される。入力コントロールに関連した関節式アームの1つ又は複数の運動学的モデルを使用して、入力コントロール上の制御点をそれら制御点の以前の位置からプロセス830〜850を使用して決定された制御点の位置に移動させる運動計画が、入力コントロールから決定される。いくつかの例では、入力コントロールの所望の動作及び制御点の位置によって、入力コントロールに関連した関節式アーム同士の間の衝突及び/又は略衝突がもたらされる可能性がある場合に、運動計画は、衝突及び/又は略衝突を回避する中間制御位置の点を含む複数のセグメント化計画を含むことができる。次に、運動計画は、関節式アームに関連したアクチュエータに1つ又は複数のコマンドを送信することによって実現してもよい。いくつかの例では、適切な運動計画が決定されない場合に、エラーが表示される。
図9は、いくつかの実施形態に係る入力コントロールについての人間工学に基づく中心を決定する方法900の簡略図である。方法900のプロセス910〜950の1つ又は複数は、非一時的な、有形の機械可読媒体上に格納された実行可能コードの形態で少なくとも部分的に実施することができ、1つ又は複数のプロセッサ(例えば、制御ユニット130内のプロセッサ140)によって実行されたときに、1つ又は複数のプロセッサに、プロセス910〜950の1つ又は複数を実行させることができる。いくつかの実施形態では、方法900は、動作制御アプリケーション160等のアプリケーションによって実行され得る。いくつかの実施形態では、方法900は、コンソール作業空間内の1つ又は複数の入力コントロールの人間工学に基づく中心を決定するために使用することができる。いくつかの実施形態では、方法900は、オペレータにとって好適な人間工学に基づく中心を知るために、入力コントロールの手動の再位置付け動作を監視するために使用することができる。
プロセス910では、入力コントロールの再位置付け運動の開始が検出される。オペレータ・ワークステーションを使用する遠隔操作装置の動作中に、オペレータは、1つ又は複数の入力コントロールをより快適な及び/又は人間工学的な位置に定期的に再位置付けすることができる。いくつかの例では、これは、オペレータによって、クラッチを係合させることによってトリガしてもよく、クラッチは、それぞれの入力コントロールによって遠隔操作されるエンドエフェクタから入力コントロールの運動を解放する。いくつかの例では、クラッチの係合を検出することは、入力コントロールの再位置付け運動の開始を示す。いくつかの例では、入力コントロールの再位置付け運動の開始が検出されたときに、入力コントロールの1つ又は複数の制御点について、入力コントロールの現在の位置及び/又は向きを記録することができる。
プロセス920では、入力コントロールの再位置付け運動の終了が検出される。オペレータが入力コントロールの再位置付け運動を完了したときに、クラッチは係合が解除され、関節式アーム及びエンドエフェクタの遠隔操作が再開される。いくつかの例では、クラッチの係合解除を検出することは、入力コントロールの再位置付け運動の終了を示す。いくつかの例では、入力コントロールの再位置付け運動の終了が検出されたときに、入力コントロールの現在の位置及び/又は向きは、入力コントロールの1つ又は複数の制御点に基づいて記録してもよい。
プロセス930では、十分な運動が、入力コントロールの再位置付け運動の開始と終了との間に入力コントロールで検出されたか否かが判定される。プロセス910及び920の間に記録された現在の位置及び/又は向きの値を使用して、入力コントロールの動きの量を決定することができる。いくつかの例では、動きの量は、開始位置と終了位置との間のユークリッド距離等の距離であってもよい。いくつかの例では、動きの量は、1つ又は複数の制御点の開始位置と終了位置との間の1つ又は複数の距離の集計であってもよい。いくつかの例では、集計は、和、加重和、平均値等であってもよい。動きの量が2cm程度の最小閾値を超える場合に、入力コントロールの中心は、プロセス940で開始して決定される。動きの量が最小閾値を超えない場合に、方法900は、プロセス910に戻って、将来の入力コントロールの再位置付け運動を検出することができる。
プロセス940では、入力コントロールの中心が決定される。プロセス920の間に記録された入力コントロールの終了位置を使用して、入力コントロールの中心が決定される。いくつかの例では、入力コントロールの中心は、入力コントロールの1つ又は複数の制御点の終了位置の重心等の集計を使用して決定することができる。
プロセス950では、入力コントロールの中心は、以前の入力コントロールの中心と集計される。プロセス940の間に決定された入力コントロール中心を以前の入力コントロールの中心と集計して、人間工学に基づく中心を決定する。いくつかの例では、プロセス940の間に決定された入力コントロールの中心は、入力コントロールの再位置付け運動の開始と終了との間の動きの量に基づいて重み付けすることができ、それによってより大きな運動が人間工学に基づく中心により大きな影響を与える。いくつかの例では、集計は、移動平均、所定の時間に亘ったウィンドウ平均、指数平滑法等を決定することを含んでもよい。いくつかの例では、人間工学に基づく中心をデフォルト値に初期化してもよい。いくつかの例では、デフォルト値は、入力コントロールの幾何学的形状、コンソール作業空間、及び/又はオペレータの予想される生理機能に基づいてもよい。いくつかの実施形態では、複数の人間工学に基づく中心を、検出された動作の内容に基づいて決定してもよい。いくつかの例では、その内容は、異なるオペレータについての異なる人間工学に基づく中心、異なる手順、手順の異なる段階は、入力コントロールによって遠隔操作される異なるエンドエフェクタ等を維持することを含んでもよい。一旦集計が行われると、方法900は、人間工学的な中心である集計に、追加の入力コントロールの再位置付け運動を含むように繰り返すことができる。いくつかの例では、人間工学に基づく中心は、コンソール作業空間におけるアームレスト等の1つ又は複数の置台の位置を考慮するために調整することができる。
図10は、いくつかの実施形態に係る撮像装置を制御する方法1000の簡略図である。方法1000のプロセス1005〜10501つ又は複数は、非一時的な、有形の機械可読媒体上に格納された実行可能コードの形態で少なくとも部分的に実施することができ、1つ又は複数のプロセッサ(例えば、制御ユニット130内のプロセッサ140)によって実行されたときに、1つ又は複数のプロセッサに、プロセス1005〜1050の1つ又は複数を実行させることができる。いくつかの実施形態では、方法1000は、動作制御アプリケーション160等のアプリケーションによって実行され得る。いくつかの実施形態では、方法1000は、コンソール作業空間の1つ又は複数の入力コントロールを使用して、撮像装置450等の撮像装置の手動制御を撮像装置の自動芯出しと組み合わせるために使用することができる。いくつかの実施形態では、プロセスの変形が可能である。いくつかの例では、プロセス1020〜1035は、異なる順序で、及び/又は実質的に並列に実行してもよい。
プロセス1005では、撮像装置動作モードの起動が検出される。いくつかの例では、電子装置のオペレータは、スイッチ、ボタン、ペダル、レベル、音声認識等の1つ又は複数の入力コントロールを使用して、撮像装置動作モードの起動を手動でトリガすることができる。いくつかの例では、撮像装置動作モードをトリガする瞬間的な入力として及び/又は撮像装置動作モードを起動する連続入力として、要求を発することができる。
プロセス1010では、撮像装置動作モードに入る。いくつかの例では、撮像装置動作モードに入る前に、1つ又は複数のエンドエフェクタのオペレータ制御が一時停止される。いくつかの例では、1つ又は複数のマスターコントロール195等の1つ又は複数の動作入力コントロールは、1つ又は複数のエンドエフェクタの制御から切り離すことができる。いくつかの例では、切離しは、関節式アームの先端部に取り付けられた装置を制御するための限られた数のオペレータ制御、及び/又は電子装置の1つ又は複数のエンドエフェクタを制御及び/又は遠隔操作するオペレータの限られた能力によって発生する可能性がある。オペレータによる制御の一時停止は、オペレータによって指令された1つ又は複数のエンドエフェクタの動きと干渉することなく、撮像装置を移動させるのを可能にする。
プロセス1015では、1つ又は複数の動作入力コントロールが使用されているか否かが判定される。いくつかの例では、プロセス1010の間に撮像装置動作モードに入ると、タイムアウト期間を開始することができる。タイムアウト期間中に、1つ又は複数の動作入力コントロールを監視して、オペレータが1つ又は複数の動作入力コントロールを使用して撮像装置の位置及び/又は向きを手動で制御しようとしているか否かを判定することができる。いくつかの例では、タイムアウト期間は、0.5秒程度の設定長さであってもよい。いくつかの例では、1つ又は複数の動作入力コントロールの使用は、オペレータが、1つ又は複数の動作入力コントロールを閾値距離以上に移動させたか否か、1つ又は複数の動作入力コントロールを閾値角度以上に回転させたか否か、及び/又は両方の組み合わせを集計することに基づいて決定することができる。いくつかの例では、閾値距離を5〜10mmとしてもよい。いくつかの例では、閾値角度は、5°以上であってもよい。タイムアウト期間が1つ又は複数の動作入力コントロールを使用しないで終了する場合に、再芯出しが、プロセス1020で開始する。1つ又は複数の入力コントロールの使用をタイムアウト期間中に検出した場合に、撮像装置の手動制御が、プロセス1040で開始する。
プロセス1020では、撮像装置の再芯出しが行われる。いくつかの例では、方法500のプロセス510〜580と同様のプロセスを使用して、プロセス1020の間に撮像装置の再芯出しを行うことができる。いくつかの例では、撮像装置がプロセス1020の間に再芯出しされている間に、1つ又は複数の動作入力コントロールは、1つ又は複数の動作入力コントロールと撮像装置との間の位置及び/又は向きの調和を維持するように自動的に移動させることができる。いくつかの例では、方法800のプロセス810〜860と同様のプロセスを修正して、1つ又は複数の動作入力コントロールと撮像装置との間の位置及び/又は向きの調和を維持することができ、撮像装置の位置及び/又は向きは、エンドエフェクタの位置及び/又は向きに置換される。
プロセス1025では、1つ又は複数の動作入力コントロールが使用されているか否かが判定される。いくつかの例では、1つ又は複数の動作入力コントロールの使用は、1つ又は複数の動作入力コントロールと撮像装置との間の位置及び/又は向きの調和を維持する際に、オペレータによって、1つ又は複数の動作入力コントロールの動きを慎重に検討すること、及び/又は1つ又は複数の動作入力コントロールの位置及び/又は向きの変化に対してオペレータによる十分な抵抗を慎重に検討することに対応することができる。いくつかの例では、慎重に検討した動きは、プロセス1015の間に使用されたアプローチと同様のアプローチを使用して検出することができる。いくつかの例では、オペレータによる抵抗は、閾値距離及び/又は閾値角度を超えた入力コントロールの指令された位置及び/又は向きと、実際の位置及び/又は向きとの間の差を決定することによって検出することができる。いくつかの例では、閾値距離は、1〜3cm程度であってもよい。いくつかの例では、閾値角度は、5°以上であってもよい。1つ又は複数の動作入力コントロールの使用が検出されない場合に、再芯出しは、プロセス1030で継続する。1つ又は複数の入力コントロールの使用が検出された場合に、撮像装置の手動制御は、プロセス1040で開始する。
プロセス1030では、再芯出しが完了したか否かが判定される。プロセス1020により行われる再芯出しを監視して、再芯出しの一部として計画された動きが、撮像装置が所望の姿勢を有した状態で完了したか否かを判定する。再芯出しが完了した場合に、撮像装置の手動制御が、プロセス1040で開始する。再芯出しが完了していない場合に、再芯出しは、プロセス1035で継続される。
プロセス1035では、撮像装置動作モードの停止が検出されたか否かが判定される。いくつかの例では、オペレータは、スイッチ、ボタン、ペダル、レベル、音声認識等の1つ又は複数の入力コントロールを使用して、撮像装置動作モードの停止を示すことができる。いくつかの例では、撮像装置動作モードを起動する要求が瞬間的な入力を使用してプロセス1005の間に活性化された場合に、相補的な瞬間的な入力を使用して、撮像装置動作モードを停止することができる。いくつかの例では、撮像装置動作モードを起動する要求が連続的な入力を使用してプロセス1005の間に活性化された場合に、ペダルから足を外す等の連続的な入力の解除を使用して、撮像装置動作モードを停止することができる。いくつかの例では、方法500及び/又はプロセス550に関連した1つ又は複数の事前の注意、安全機能、及び/又はインターロックを使用して、撮像装置動作モードを停止すべきことを決定することができる。撮像装置動作モードの停止が検出されない場合に、再芯出しは、プロセス1020〜1035を繰り返すことにより継続する。撮像装置動作モードの停止が検出された場合に、撮像装置動作モードは、プロセス1050を使用して終了される。
プロセス1040では、撮像装置は、動作入力コントロールに基づいて移動される。いくつかの例では、動作入力コントロールを使用して、撮像装置の位置及び/又は向きを手動で制御することができる。いくつかの例では、撮像装置は、1つ又は複数の動作入力コントロールと撮像装置との間の位置及び/又は向きの調和を維持するために移動させることができる。いくつかの例では、動作入力コントロールを使用して、動作入力コントロールの位置及び/又は向きの変化を撮像装置の位置及び/又は向きの対応する変化にミラーリングすることにより、撮像装置を遠隔操作することができる。いくつかの例では、動作入力コントロール、撮像装置、及び/又は撮像装置が取り付けられた関節式アームの1つ又は複数の運動学的モデルを使用して、動作入力コントロールの変化を撮像装置の対応する変化に変換することができる。いくつかの例では、1つ又は複数の運動学的モデルを使用して、動作入力コントロールの変化を撮像装置の対応する変化にマッピングするような1つ又は複数の座標変換行列を決定することができる。いくつかの例では、座標変換行列は、1つ又は複数のシフト及び/又はスケール変換を実行することができる。いくつかの例では、撮像装置の位置及び/又は向きの変化は、撮像装置が取り付けられた関節式アームのアクチュエータに1つ又は複数のコマンドを送信することによって実行してもよい。
プロセス1045では、撮像装置動作モードの停止が検出されたか否かが判定される。プロセス1035と同様のプロセスを使用して、撮像装置動作モードを終了するか否かが判定される。撮像装置動作モードの停止が検出されない場合に、撮像装置の手動制御は、プロセス1040を繰り返すことにより継続される。撮像装置動作モードの停止が検出された場合に、撮像装置動作モードは、プロセス1050を使用して終了する。
プロセス1050では、撮像装置動作モードを終了する。プロセス1035及び/又は1045の間に撮像装置動作モードを停止すると、撮像装置動作モードが終了する。いくつかの例では、撮像装置動作モードが終了すると、プロセス1020の再芯出しによる撮像装置のあらゆる動きが終了し、1つ又は複数の動作入力コントロールは、撮像装置の位置及び/又は方向の制御から切り離される。いくつかの例では、撮像装置動作モードを終了すると、撮像装置の手動及び/又は再芯出し制御が終了する。いくつかの例では、撮像装置動作モードを終了すると、電子装置は、1つ又は複数の動作入力コントロールが休止状態になり及び/又は電子装置の1つ又は複数のエンドエフェクタの制御に戻るようなモードに戻すことができる。
制御ユニット130等の制御ユニットのいくつかの例は、実行可能なコードを含む非一時的な、有形の機械可読媒体を含むことができ、1つ又は複数のプロセッサ(例えば、プロセッサ140)によって実行されたときに、1つ又は複数のプロセッサに、方法200、500、600、800、900、及び/又は1000のプロセスを実行させることができる。方法200、500、600、800、900、及び/又は1000のプロセスを含むことができる機械可読媒体のいくつかの一般的な形態は、例えば、フロッピー(登録商標)ディスク、フレキシブルディスク、ハードディスク、磁気テープ、他の磁気媒体、CD−ROM、他の光媒体、パンチカード、紙テープ、孔パターンを有する他の物理媒体、RAM、ROM、EPROM、フラッシュ−EPROM、他のメモリチップ又はカートリッジ、及び/又はプロセッサ又はコンピュータが読み取るように適合された他の媒体である。
例示的な実施形態について図示し且つ説明してきたが、広範な修正、変更、及び置換が、前述した開示において企図されており、いくつかの例では、実施形態のいくつかの特徴は、他の特徴の対応する使用なしに用いることができる。当業者は、多くの変形形態、代替形態、及び修正形態を認識するであろう。従って、本発明の範囲は、以下の特許請求の範囲によってのみ限定され、特許請求の範囲は、本明細書に開示された実施形態の範囲と一致する態様で及び広範に解釈することが適切である。

Claims (28)

  1. コンピュータ支援医療装置であって、当該コンピュータ支援医療装置は、
    1つ又は複数のエンドエフェクタと、
    撮像装置と、
    前記1つ又は複数のエンドエフェクタを遠隔操作するための1つ又は複数の入力コントロールと、
    前記エンドエフェクタ、前記撮像装置、及び前記1つ又は複数の入力コントロールに結合された1つ又は複数のプロセッサを含む制御ユニットと、を備えており、
    該制御ユニットは、
    再芯出し要求に応答して、前記1つ又は複数の入力コントロールによる前記エンドエフェクタの遠隔操作制御を一時停止し、
    前記エンドエフェクタを前記撮像装置の視野空間内に含めるように、前記撮像装置の視野再芯出し運動を決定し、
    前記視野再芯出し運動を実行し、且つ
    前記1つ又は複数の入力コントロールによって前記エンドエフェクタの遠隔操作制御を回復させる、ように構成される、
    コンピュータ支援医療装置。
  2. 前記制御ユニットは、
    前記入力コントロールのそれぞれと前記エンドエフェクタのうちの対応する1つとの間の位置及び向きの調和を提供するように、1つ又は複数の入力コントロール再芯出し運動を決定し、且つ
    前記視野再芯出し運動及び前記入力コントロール再芯出し運動の互いに関連するような調整を行う、ようにさらに構成される、請求項1に記載のコンピュータ支援医療装置。
  3. 前記視野再芯出し運動及び前記入力コントロール再芯出し運動は、同時に実行される、請求項2に記載のコンピュータ支援医療装置。
  4. 前記制御ユニットは、前記視野再芯出し運動及び前記入力コントロール再芯出し運動が有効であるか否かを判定し、前記視野再芯出し運動及び前記入力コントロール再芯出し運動の1つ又は複数が無効である場合に、エラーを表示するようにさらに構成される、請求項2に記載のコンピュータ支援医療装置。
  5. 前記視野再芯出し運動を決定するために、前記制御ユニットは、
    前記エンドエフェクタに関連する1つ又は複数の標的に基づいて、視野中心点を決定し、
    前記撮像装置の作動距離を決定し、且つ
    前記視野中心点及び前記作動距離に基づいて、前記撮像装置の所望の位置及び所望の向きを決定する、ようにさらに構成される、請求項1乃至4のいずれか一項に記載のコンピュータ支援医療装置。
  6. 前記制御ユニットは、
    各標的が、前記エンドエフェクタのうちの対応する1つに関連した関心地点を中心とする仮想球として規定される、
    前記撮像装置に関連した遠隔中心と前記視野中心点との間のベクトルに基づいて、視野の方向を決定する、
    前記撮像装置に関連した基準点と前記視野中心点との間のベクトルに基づいて、視野の方向を決定する、又は
    前記標的の重心を計算することにより、前記視野中心点を決定する、ようにさらに構成される、請求項5に記載のコンピュータ支援医療装置。
  7. 前記制御ユニットは、
    各標的によって占有されるボリュームが前記撮像装置の前記視野空間に対応する視錐台内にあるように、前記作動距離を決定する、
    視野の方向に対して垂直な前記標的のそれぞれの範囲に基づいて、前記標的の最小作動距離を決定し、前記最小作動距離のうちの最大のものを作動距離として選択する、又は
    前記作動距離を好適な作動距離と少なくとも同じ大きさであると決定することであって、前記好適な作動距離は、前記撮像装置に基づく又はオペレータによって指定される、決定する、ようにさらに構成される、請求項5又は6に記載のコンピュータ支援医療装置。
  8. 前記視野再芯出し運動を決定するために、前記制御ユニットは、前記撮像装置に関連した関節式アームの関節の動きの制限、視野再芯出し運動に関連した移動制限、前記視野再芯出し運動中の前記関節式アームの衝突の可能性、及び前記視野再芯出し運動後に、前記標的が前記撮像装置の視錐台内に収まるか否か、から構成されるグループから選択される1つ又は複数の基準に基づいて、前記所望の位置及び前記所望の向きが有効であるか否かを判定するようにさらに構成される、請求項5乃至7のいずれか一項に記載のコンピュータ支援医療装置。
  9. 前記視野再芯出し運動を決定するために、前記制御ユニットは、前記所望の位置及び前記所望の向きが無効である場合に、前記撮像装置を後退させる代替位置を決定するようにさらに構成される、請求項5乃至7のいずれか一項に記載のコンピュータ支援医療装置。
  10. 前記代替位置は、前記撮像装置を位置付け及び向き合わせするために使用される関節式アームによって前記撮像装置が塞がれないような最小の挿入深さに前記撮像装置を後退させることを含む、請求項9に記載のコンピュータ支援医療装置。
  11. 前記視野再芯出し運動は、前記撮像装置の視野座標系のy軸をワールド座標系と整列させるために前記撮像装置をロールさせることを含む、請求項1乃至10のいずれか一項に記載のコンピュータ支援医療装置。
  12. 前記視野再芯出し運動は、視野中心点に前記撮像装置を向けるための前記撮像装置の再向き合わせを含む、請求項1乃至11のいずれか一項に記載のコンピュータ支援医療装置。
  13. 前記視野再芯出し運動は、前記撮像装置のチップが視野中心点からの作動距離にあるような前記撮像装置の挿入を含む、請求項1乃至12のいずれか一項に記載のコンピュータ支援医療装置。
  14. 前記視野再芯出し運動は、前記撮像装置の後退を含む、請求項1乃至13のいずれか一項に記載のコンピュータ支援医療装置。
  15. 前記好適な作動距離を決定するために、前記制御ユニットは、
    オペレータによる前記撮像装置の再位置付けの開始を検出し、
    前記オペレータによる前記撮像装置の前記再位置付けの終了を検出し、
    前記オペレータによる前記撮像装置の前記再位置付けの終了の際に、前記撮像装置と該撮像装置の視野ボリューム内の標的との間の第1の距離であって、前記撮像装置の視野の方向に測定される第1の距離に基づいて、現在の作動距離を決定し、且つ
    前記好適な作動距離を決定するために、前記現在の作動距離を以前取得した現在の作動距離と集計する、ようにさらに構成される、請求項7に記載のコンピュータ支援医療装置。
  16. 前記制御ユニットは、前記撮像装置の十分な動きが前記オペレータによる前記撮像装置の前記再位置付けの開始と終了との間に発生したか否かを判定するようにさらに構成される、請求項15に記載のコンピュータ支援医療装置。
  17. 前記制御ユニットは、前記現在の作動距離を、前記オペレータによる前記撮像装置の前記再位置付けの開始と終了との間の前記撮像装置の動きの量に基づいて重み付けすることにより、前記現在の作動距離を以前取得した現在の作動距離と集計する、ように構成される、請求項15又は16に記載のコンピュータ支援医療装置。
  18. 前記1つ又は複数の入力コントロールからの第1の入力コントロールに関連する入力コントロール再芯出し運動のそれぞれを決定するために、前記制御ユニットは、
    前記エンドエフェクタから第1の入力コントロールに対応する第1のエンドエフェクタに関連する1つ又は複数の第1の位置を決定し、
    第1の位置を視野座標系にマッピングし、
    第1の位置を前記視野座標系からコンソール作業空間座標系にマッピングし、且つ
    前記コンソール作業空間座標系にマッピングされた第1の位置に対応する、第1の入力コントロールに関する第1の制御点の第2の位置を決定する、ようにさらに構成され、
    第1の位置は、第1のエンドエフェクタに関連する1つ又は複数の標的に対応し、
    前記視野座標系は、前記撮像装置に対して決定され、且つ
    第1の位置を前記視野座標系から前記コンソール作業空間座標系にマッピングするために、前記制御ユニットは、第1の位置と前記視野座標系の視野中心点との間の距離に基づいて、前記コンソール作業空間座標系の中心点に対して第1の位置をスケーリングするようにさらに構成される、請求項2乃至4のいずれか一項に記載のコンピュータ支援医療装置。
  19. 第1の位置を前記視野座標系から前記コンソール作業空間座標系にマッピングするために、前記制御ユニットは、前記視野座標系の前記視野中心点を前記コンソール作業空間座標系の前記中心点に対して並進させるようにさらに構成される、
    請求項18に記載のコンピュータ支援医療装置。
  20. 前記1つ又は複数の入力コントロールは複数の入力コントロールを含み、
    第1の再芯出し運動は、前記複数の入力コントロールの間の衝突を回避するために、複数のセグメント化された運動計画を含む、請求項2,3,4,18又は19に記載のコンピュータ支援医療装置。
  21. 前記再芯出し要求は、当該コンピュータ支援医療装置のシステム状態の変化によってトリガされる、請求項1乃至20のいずれか一項に記載のコンピュータ支援医療装置。
  22. 前記システム状態の変化は、前記エンドエフェクタと前記1つ又は複数の入力コントロールとの間の関連性の変化に対応する、請求項21に記載のコンピュータ支援医療装置。
  23. 前記システム状態の変化は、前記エンドエフェクタが前記撮像装置の視野空間の外側になることに対応する、請求項22に記載のコンピュータ支援医療装置。
  24. 医療装置の動きを制御する方法であって、当該方法は、
    制御ユニットが、再芯出し要求に応答して、前記医療装置の1つ又は複数の入力コントロールによる前記医療装置の1つ又は複数のエンドエフェクタの遠隔操作制御を一時停止するステップと、
    前記制御ユニットが、前記エンドエフェクタを前記医療装置の撮像装置の視野空間内に含めるように、前記撮像装置の視野再芯出し運動を決定するステップと、
    前記制御ユニットが、前記視野再芯出し運動を実行するステップと、
    前記制御ユニットが、前記1つ又は複数の入力コントロールによる前記エンドエフェクタの遠隔操作制御を回復させるステップと、を含む、
    方法。
  25. 前記制御ユニットが、前記入力コントロールのそれぞれと前記エンドエフェクタのうちの対応する1つとの間の位置及び向きの調和を提供するように、1つ又は複数の入力コントロール再芯出し運動を決定するステップと、
    前記制御ユニットが、前記視野再芯出し運動及び前記入力コントロール再芯出し運動の互いに関連するような調整を行うステップと、をさらに含む、請求項24に記載の方法。
  26. 前記視野再芯出し運動を決定するステップは、
    前記制御ユニットが、前記エンドエフェクタに関連する1つ又は複数の標的に基づいて、視野中心点を決定するステップと、
    前記制御ユニットが、前記撮像装置の作動距離を決定するステップと、
    前記制御ユニットが、前記標的を前記撮像装置の視野空間内に含めるように、前記視野中心点及び前記作動距離に基づいて、前記撮像装置の所望の位置及び所望の向きを決定するステップと、を含む、請求項24又は25に記載の方法。
  27. 前記視野再芯出し運動を決定するステップは、前記所望の位置及び所望の向きが無効である場合に、前記制御ユニットが、前記撮像装置を後退させる代替位置を決定するステップをさらに含む、請求項26に記載の方法。
  28. 前記視野再芯出し運動を実行するステップは、
    前記制御ユニットが、前記撮像装置を後退させるステップと、
    前記制御ユニットが、前記視野中心点に前記撮像装置を向けるように、前記撮像装置を再向き合わせするステップと、
    前記制御ユニットが、前記撮像装置のチップが前記視野中心点からの前記作動距離にあるように前記撮像装置を挿入するステップと、
    のうちの少なくとも2つを含む、請求項26又は27に記載の方法。
JP2016557612A 2014-03-17 2015-03-17 撮像装置及び入力コントロールを再芯出しするためのシステム及び方法 Active JP6662785B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201461954191P 2014-03-17 2014-03-17
US61/954,191 2014-03-17
PCT/US2015/021105 WO2015142953A1 (en) 2014-03-17 2015-03-17 System and method for recentering imaging devices and input controls

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2019195983A Division JP6882422B2 (ja) 2014-03-17 2019-10-29 撮像装置及び入力コントロールを再芯出しするためのシステム及び方法

Publications (3)

Publication Number Publication Date
JP2017512549A JP2017512549A (ja) 2017-05-25
JP2017512549A5 JP2017512549A5 (ja) 2018-04-12
JP6662785B2 true JP6662785B2 (ja) 2020-03-11

Family

ID=54145245

Family Applications (4)

Application Number Title Priority Date Filing Date
JP2016557612A Active JP6662785B2 (ja) 2014-03-17 2015-03-17 撮像装置及び入力コントロールを再芯出しするためのシステム及び方法
JP2019195983A Active JP6882422B2 (ja) 2014-03-17 2019-10-29 撮像装置及び入力コントロールを再芯出しするためのシステム及び方法
JP2021078669A Active JP7170784B2 (ja) 2014-03-17 2021-05-06 撮像装置及び入力コントロールを再芯出しするためのシステム及び方法
JP2022175258A Active JP7408754B2 (ja) 2014-03-17 2022-11-01 撮像装置及び入力コントロールを再芯出しするためのシステム及び方法

Family Applications After (3)

Application Number Title Priority Date Filing Date
JP2019195983A Active JP6882422B2 (ja) 2014-03-17 2019-10-29 撮像装置及び入力コントロールを再芯出しするためのシステム及び方法
JP2021078669A Active JP7170784B2 (ja) 2014-03-17 2021-05-06 撮像装置及び入力コントロールを再芯出しするためのシステム及び方法
JP2022175258A Active JP7408754B2 (ja) 2014-03-17 2022-11-01 撮像装置及び入力コントロールを再芯出しするためのシステム及び方法

Country Status (6)

Country Link
US (3) US10398521B2 (ja)
EP (4) EP3590460B1 (ja)
JP (4) JP6662785B2 (ja)
KR (2) KR102446091B1 (ja)
CN (3) CN115590628A (ja)
WO (1) WO2015142953A1 (ja)

Families Citing this family (152)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009070743A1 (en) 2007-11-26 2009-06-04 Eastern Virginia Medical School Magnaretractor system and method
US11871901B2 (en) 2012-05-20 2024-01-16 Cilag Gmbh International Method for situational awareness for surgical network or surgical network connected device capable of adjusting function based on a sensed situation or usage
US8764769B1 (en) 2013-03-12 2014-07-01 Levita Magnetics International Corp. Grasper with magnetically-controlled positioning
EP3096673A4 (en) 2014-01-21 2017-10-25 Levita Magnetics International Corp. Laparoscopic graspers and systems therefor
EP3119320B1 (en) 2014-03-17 2020-07-22 Intuitive Surgical Operations, Inc. Automated structure with pre-established arm positions in a teleoperated medical system
KR102356213B1 (ko) 2014-03-17 2022-01-28 인튜어티브 서지컬 오퍼레이션즈 인코포레이티드 원격조정 의료 장치를 위한 안내 설정
EP3590460B1 (en) 2014-03-17 2021-06-02 Intuitive Surgical Operations, Inc. Device and machine readable medium executing a method of recentering end effectors and input controls
US11504192B2 (en) 2014-10-30 2022-11-22 Cilag Gmbh International Method of hub communication with surgical instrument systems
EP3219039B1 (en) * 2014-11-10 2021-05-05 Telefonaktiebolaget LM Ericsson (publ) Reducing interference caused by uplink carrier aggregation
EP3954303A1 (en) 2015-04-13 2022-02-16 Levita Magnetics International Corp. Grasper with magnetically-controlled positioning
EP3282923B1 (en) 2015-04-13 2021-08-11 Levita Magnetics International Corp. Retractor devices
WO2017012074A1 (zh) * 2015-07-21 2017-01-26 华为技术有限公司 一种降低干扰的方法及装置
WO2017037047A1 (en) * 2015-09-04 2017-03-09 Sony Corporation Wireless telecommunications system
JP6272291B2 (ja) * 2015-12-24 2018-01-31 株式会社Subaru 車両用電源装置
WO2017115425A1 (ja) * 2015-12-28 2017-07-06 オリンパス株式会社 医療用マニピュレータシステム
CA3010863C (en) * 2016-01-19 2024-01-16 Titan Medical Inc. Method and apparatus for positioning a workstation for controlling a robotic system
EP3419543B1 (en) 2016-02-26 2023-04-05 Intuitive Surgical Operations, Inc. System for collision avoidance using virtual boundaries
WO2017167754A1 (en) * 2016-03-31 2017-10-05 Koninklijke Philips N.V. Image guided robot for catheter placement
WO2018005750A1 (en) * 2016-07-01 2018-01-04 Intuitive Surgical Operations, Inc. Computer-assisted medical systems and methods
WO2018225132A1 (ja) * 2017-06-05 2018-12-13 オリンパス株式会社 医療システムおよび医療システムの作動方法
WO2019014493A1 (en) * 2017-07-13 2019-01-17 Intuitive Surgical Operations, Inc. SYSTEMS AND METHODS FOR CONTROL SWITCHING BETWEEN MULTIPLE ARMS OF INSTRUMENTS
WO2019050729A1 (en) * 2017-09-05 2019-03-14 Covidien Lp ROBOTIC SURGICAL SYSTEMS AND METHODS AND COMPUTER-READABLE MEDIA FOR CONTROLLING THEM
WO2019083886A1 (en) 2017-10-25 2019-05-02 Intuitive Surgical Operations, Inc. SYSTEM AND METHOD FOR REPOSITIONING INPUT CONTROL DEVICES
US11311342B2 (en) 2017-10-30 2022-04-26 Cilag Gmbh International Method for communicating with surgical instrument systems
US11510741B2 (en) 2017-10-30 2022-11-29 Cilag Gmbh International Method for producing a surgical instrument comprising a smart electrical system
US11229436B2 (en) 2017-10-30 2022-01-25 Cilag Gmbh International Surgical system comprising a surgical tool and a surgical hub
US11564756B2 (en) 2017-10-30 2023-01-31 Cilag Gmbh International Method of hub communication with surgical instrument systems
US11759224B2 (en) 2017-10-30 2023-09-19 Cilag Gmbh International Surgical instrument systems comprising handle arrangements
US11801098B2 (en) 2017-10-30 2023-10-31 Cilag Gmbh International Method of hub communication with surgical instrument systems
US11911045B2 (en) 2017-10-30 2024-02-27 Cllag GmbH International Method for operating a powered articulating multi-clip applier
US11317919B2 (en) 2017-10-30 2022-05-03 Cilag Gmbh International Clip applier comprising a clip crimping system
US11291510B2 (en) 2017-10-30 2022-04-05 Cilag Gmbh International Method of hub communication with surgical instrument systems
US11406390B2 (en) 2017-10-30 2022-08-09 Cilag Gmbh International Clip applier comprising interchangeable clip reloads
CN110709024A (zh) * 2017-11-21 2020-01-17 直观外科手术操作公司 用于直观运动的主/工具配准和控制的系统和方法
US11202570B2 (en) 2017-12-28 2021-12-21 Cilag Gmbh International Communication hub and storage device for storing parameters and status of a surgical device to be shared with cloud based analytics systems
US11672605B2 (en) 2017-12-28 2023-06-13 Cilag Gmbh International Sterile field interactive control displays
US11304763B2 (en) 2017-12-28 2022-04-19 Cilag Gmbh International Image capturing of the areas outside the abdomen to improve placement and control of a surgical device in use
US11291495B2 (en) 2017-12-28 2022-04-05 Cilag Gmbh International Interruption of energy due to inadvertent capacitive coupling
US11896322B2 (en) 2017-12-28 2024-02-13 Cilag Gmbh International Sensing the patient position and contact utilizing the mono-polar return pad electrode to provide situational awareness to the hub
US11273001B2 (en) 2017-12-28 2022-03-15 Cilag Gmbh International Surgical hub and modular device response adjustment based on situational awareness
US11389164B2 (en) 2017-12-28 2022-07-19 Cilag Gmbh International Method of using reinforced flexible circuits with multiple sensors to optimize performance of radio frequency devices
US11311306B2 (en) 2017-12-28 2022-04-26 Cilag Gmbh International Surgical systems for detecting end effector tissue distribution irregularities
US11076921B2 (en) 2017-12-28 2021-08-03 Cilag Gmbh International Adaptive control program updates for surgical hubs
US11432885B2 (en) 2017-12-28 2022-09-06 Cilag Gmbh International Sensing arrangements for robot-assisted surgical platforms
US11324557B2 (en) 2017-12-28 2022-05-10 Cilag Gmbh International Surgical instrument with a sensing array
US11058498B2 (en) 2017-12-28 2021-07-13 Cilag Gmbh International Cooperative surgical actions for robot-assisted surgical platforms
US11602393B2 (en) 2017-12-28 2023-03-14 Cilag Gmbh International Surgical evacuation sensing and generator control
US10849697B2 (en) 2017-12-28 2020-12-01 Ethicon Llc Cloud interface for coupled surgical devices
US11364075B2 (en) 2017-12-28 2022-06-21 Cilag Gmbh International Radio frequency energy device for delivering combined electrical signals
US11266468B2 (en) 2017-12-28 2022-03-08 Cilag Gmbh International Cooperative utilization of data derived from secondary sources by intelligent surgical hubs
US10944728B2 (en) 2017-12-28 2021-03-09 Ethicon Llc Interactive surgical systems with encrypted communication capabilities
US11633237B2 (en) 2017-12-28 2023-04-25 Cilag Gmbh International Usage and technique analysis of surgeon / staff performance against a baseline to optimize device utilization and performance for both current and future procedures
US11069012B2 (en) 2017-12-28 2021-07-20 Cilag Gmbh International Interactive surgical systems with condition handling of devices and data capabilities
US11559307B2 (en) 2017-12-28 2023-01-24 Cilag Gmbh International Method of robotic hub communication, detection, and control
US10892899B2 (en) 2017-12-28 2021-01-12 Ethicon Llc Self describing data packets generated at an issuing instrument
US11864728B2 (en) 2017-12-28 2024-01-09 Cilag Gmbh International Characterization of tissue irregularities through the use of mono-chromatic light refractivity
US11464559B2 (en) 2017-12-28 2022-10-11 Cilag Gmbh International Estimating state of ultrasonic end effector and control system therefor
US11832840B2 (en) 2017-12-28 2023-12-05 Cilag Gmbh International Surgical instrument having a flexible circuit
US11744604B2 (en) 2017-12-28 2023-09-05 Cilag Gmbh International Surgical instrument with a hardware-only control circuit
US11051876B2 (en) 2017-12-28 2021-07-06 Cilag Gmbh International Surgical evacuation flow paths
US10943454B2 (en) * 2017-12-28 2021-03-09 Ethicon Llc Detection and escalation of security responses of surgical instruments to increasing severity threats
US11612444B2 (en) 2017-12-28 2023-03-28 Cilag Gmbh International Adjustment of a surgical device function based on situational awareness
US20190201146A1 (en) 2017-12-28 2019-07-04 Ethicon Llc Safety systems for smart powered surgical stapling
US11857152B2 (en) 2017-12-28 2024-01-02 Cilag Gmbh International Surgical hub spatial awareness to determine devices in operating theater
US11096693B2 (en) 2017-12-28 2021-08-24 Cilag Gmbh International Adjustment of staple height of at least one row of staples based on the sensed tissue thickness or force in closing
US11576677B2 (en) 2017-12-28 2023-02-14 Cilag Gmbh International Method of hub communication, processing, display, and cloud analytics
US11253315B2 (en) 2017-12-28 2022-02-22 Cilag Gmbh International Increasing radio frequency to create pad-less monopolar loop
US11234756B2 (en) 2017-12-28 2022-02-01 Cilag Gmbh International Powered surgical tool with predefined adjustable control algorithm for controlling end effector parameter
US10932872B2 (en) 2017-12-28 2021-03-02 Ethicon Llc Cloud-based medical analytics for linking of local usage trends with the resource acquisition behaviors of larger data set
US11446052B2 (en) 2017-12-28 2022-09-20 Cilag Gmbh International Variation of radio frequency and ultrasonic power level in cooperation with varying clamp arm pressure to achieve predefined heat flux or power applied to tissue
US11410259B2 (en) 2017-12-28 2022-08-09 Cilag Gmbh International Adaptive control program updates for surgical devices
US11376002B2 (en) 2017-12-28 2022-07-05 Cilag Gmbh International Surgical instrument cartridge sensor assemblies
US10755813B2 (en) 2017-12-28 2020-08-25 Ethicon Llc Communication of smoke evacuation system parameters to hub or cloud in smoke evacuation module for interactive surgical platform
US11419667B2 (en) 2017-12-28 2022-08-23 Cilag Gmbh International Ultrasonic energy device which varies pressure applied by clamp arm to provide threshold control pressure at a cut progression location
US10892995B2 (en) 2017-12-28 2021-01-12 Ethicon Llc Surgical network determination of prioritization of communication, interaction, or processing based on system or device needs
US11179175B2 (en) 2017-12-28 2021-11-23 Cilag Gmbh International Controlling an ultrasonic surgical instrument according to tissue location
US11160605B2 (en) 2017-12-28 2021-11-02 Cilag Gmbh International Surgical evacuation sensing and motor control
US11257589B2 (en) 2017-12-28 2022-02-22 Cilag Gmbh International Real-time analysis of comprehensive cost of all instrumentation used in surgery utilizing data fluidity to track instruments through stocking and in-house processes
US11304720B2 (en) 2017-12-28 2022-04-19 Cilag Gmbh International Activation of energy devices
US11424027B2 (en) 2017-12-28 2022-08-23 Cilag Gmbh International Method for operating surgical instrument systems
US11109866B2 (en) 2017-12-28 2021-09-07 Cilag Gmbh International Method for circular stapler control algorithm adjustment based on situational awareness
US20190201039A1 (en) 2017-12-28 2019-07-04 Ethicon Llc Situational awareness of electrosurgical systems
US11056244B2 (en) 2017-12-28 2021-07-06 Cilag Gmbh International Automated data scaling, alignment, and organizing based on predefined parameters within surgical networks
US11540855B2 (en) 2017-12-28 2023-01-03 Cilag Gmbh International Controlling activation of an ultrasonic surgical instrument according to the presence of tissue
US11529187B2 (en) 2017-12-28 2022-12-20 Cilag Gmbh International Surgical evacuation sensor arrangements
US11317937B2 (en) 2018-03-08 2022-05-03 Cilag Gmbh International Determining the state of an ultrasonic end effector
US11678881B2 (en) 2017-12-28 2023-06-20 Cilag Gmbh International Spatial awareness of surgical hubs in operating rooms
US11937769B2 (en) 2017-12-28 2024-03-26 Cilag Gmbh International Method of hub communication, processing, storage and display
US11589888B2 (en) 2017-12-28 2023-02-28 Cilag Gmbh International Method for controlling smart energy devices
US11666331B2 (en) 2017-12-28 2023-06-06 Cilag Gmbh International Systems for detecting proximity of surgical end effector to cancerous tissue
US11818052B2 (en) 2017-12-28 2023-11-14 Cilag Gmbh International Surgical network determination of prioritization of communication, interaction, or processing based on system or device needs
US11559308B2 (en) 2017-12-28 2023-01-24 Cilag Gmbh International Method for smart energy device infrastructure
US11571234B2 (en) 2017-12-28 2023-02-07 Cilag Gmbh International Temperature control of ultrasonic end effector and control system therefor
US11423007B2 (en) 2017-12-28 2022-08-23 Cilag Gmbh International Adjustment of device control programs based on stratified contextual data in addition to the data
US11100631B2 (en) 2017-12-28 2021-08-24 Cilag Gmbh International Use of laser light and red-green-blue coloration to determine properties of back scattered light
US11596291B2 (en) 2017-12-28 2023-03-07 Cilag Gmbh International Method of compressing tissue within a stapling device and simultaneously displaying of the location of the tissue within the jaws
US11147607B2 (en) 2017-12-28 2021-10-19 Cilag Gmbh International Bipolar combination device that automatically adjusts pressure based on energy modality
US11896443B2 (en) 2017-12-28 2024-02-13 Cilag Gmbh International Control of a surgical system through a surgical barrier
US11464535B2 (en) 2017-12-28 2022-10-11 Cilag Gmbh International Detection of end effector emersion in liquid
US11786251B2 (en) 2017-12-28 2023-10-17 Cilag Gmbh International Method for adaptive control schemes for surgical network control and interaction
US11045591B2 (en) 2017-12-28 2021-06-29 Cilag Gmbh International Dual in-series large and small droplet filters
US11308075B2 (en) 2017-12-28 2022-04-19 Cilag Gmbh International Surgical network, instrument, and cloud responses based on validation of received dataset and authentication of its source and integrity
US11419630B2 (en) 2017-12-28 2022-08-23 Cilag Gmbh International Surgical system distributed processing
US11166772B2 (en) 2017-12-28 2021-11-09 Cilag Gmbh International Surgical hub coordination of control and communication of operating room devices
US11179208B2 (en) 2017-12-28 2021-11-23 Cilag Gmbh International Cloud-based medical analytics for security and authentication trends and reactive measures
US11903601B2 (en) 2017-12-28 2024-02-20 Cilag Gmbh International Surgical instrument comprising a plurality of drive systems
US11284936B2 (en) 2017-12-28 2022-03-29 Cilag Gmbh International Surgical instrument having a flexible electrode
US11304699B2 (en) 2017-12-28 2022-04-19 Cilag Gmbh International Method for adaptive control schemes for surgical network control and interaction
US11786245B2 (en) 2017-12-28 2023-10-17 Cilag Gmbh International Surgical systems with prioritized data transmission capabilities
US11832899B2 (en) 2017-12-28 2023-12-05 Cilag Gmbh International Surgical systems with autonomously adjustable control programs
US10987178B2 (en) 2017-12-28 2021-04-27 Ethicon Llc Surgical hub control arrangements
US10966791B2 (en) 2017-12-28 2021-04-06 Ethicon Llc Cloud-based medical analytics for medical facility segmented individualization of instrument function
US10695081B2 (en) 2017-12-28 2020-06-30 Ethicon Llc Controlling a surgical instrument according to sensed closure parameters
US11278281B2 (en) 2017-12-28 2022-03-22 Cilag Gmbh International Interactive surgical system
US11132462B2 (en) 2017-12-28 2021-09-28 Cilag Gmbh International Data stripping method to interrogate patient records and create anonymized record
US10758310B2 (en) 2017-12-28 2020-09-01 Ethicon Llc Wireless pairing of a surgical device with another device within a sterile surgical field based on the usage and situational awareness of devices
US11304745B2 (en) 2017-12-28 2022-04-19 Cilag Gmbh International Surgical evacuation sensing and display
US20190201139A1 (en) 2017-12-28 2019-07-04 Ethicon Llc Communication arrangements for robot-assisted surgical platforms
US11659023B2 (en) 2017-12-28 2023-05-23 Cilag Gmbh International Method of hub communication
US20210059775A1 (en) * 2018-01-10 2021-03-04 Covidien Lp Determining positions and conditions of tools of a robotic surgical system utilizing computer vision
US11589915B2 (en) 2018-03-08 2023-02-28 Cilag Gmbh International In-the-jaw classifier based on a model
US11259830B2 (en) 2018-03-08 2022-03-01 Cilag Gmbh International Methods for controlling temperature in ultrasonic device
US11464532B2 (en) 2018-03-08 2022-10-11 Cilag Gmbh International Methods for estimating and controlling state of ultrasonic end effector
US10973520B2 (en) 2018-03-28 2021-04-13 Ethicon Llc Surgical staple cartridge with firing member driven camming assembly that has an onboard tissue cutting feature
US11219453B2 (en) 2018-03-28 2022-01-11 Cilag Gmbh International Surgical stapling devices with cartridge compatible closure and firing lockout arrangements
US11278280B2 (en) 2018-03-28 2022-03-22 Cilag Gmbh International Surgical instrument comprising a jaw closure lockout
US11259806B2 (en) 2018-03-28 2022-03-01 Cilag Gmbh International Surgical stapling devices with features for blocking advancement of a camming assembly of an incompatible cartridge installed therein
US11096688B2 (en) 2018-03-28 2021-08-24 Cilag Gmbh International Rotary driven firing members with different anvil and channel engagement features
US11090047B2 (en) 2018-03-28 2021-08-17 Cilag Gmbh International Surgical instrument comprising an adaptive control system
US11471156B2 (en) 2018-03-28 2022-10-18 Cilag Gmbh International Surgical stapling devices with improved rotary driven closure systems
US11207067B2 (en) 2018-03-28 2021-12-28 Cilag Gmbh International Surgical stapling device with separate rotary driven closure and firing systems and firing member that engages both jaws while firing
US11129611B2 (en) 2018-03-28 2021-09-28 Cilag Gmbh International Surgical staplers with arrangements for maintaining a firing member thereof in a locked configuration unless a compatible cartridge has been installed therein
CN112437643A (zh) * 2018-05-15 2021-03-02 直观外科手术操作公司 用于操纵组织的方法和装置
KR102115446B1 (ko) * 2019-01-04 2020-05-27 대진대학교 산학협력단 의료용 초음파 영상에서 질량중심 위치의 가중치 연산을 이용하여 부엽을 억제하는 방법
US11357503B2 (en) 2019-02-19 2022-06-14 Cilag Gmbh International Staple cartridge retainers with frangible retention features and methods of using same
US11331100B2 (en) 2019-02-19 2022-05-17 Cilag Gmbh International Staple cartridge retainer system with authentication keys
US11317915B2 (en) 2019-02-19 2022-05-03 Cilag Gmbh International Universal cartridge based key feature that unlocks multiple lockout arrangements in different surgical staplers
US11751872B2 (en) 2019-02-19 2023-09-12 Cilag Gmbh International Insertable deactivator element for surgical stapler lockouts
US11369377B2 (en) 2019-02-19 2022-06-28 Cilag Gmbh International Surgical stapling assembly with cartridge based retainer configured to unlock a firing lockout
WO2020206176A1 (en) * 2019-04-03 2020-10-08 Intuitive Surgical Operations, Inc. System and method for view restoration
USD964564S1 (en) 2019-06-25 2022-09-20 Cilag Gmbh International Surgical staple cartridge retainer with a closure system authentication key
USD950728S1 (en) 2019-06-25 2022-05-03 Cilag Gmbh International Surgical staple cartridge
USD952144S1 (en) 2019-06-25 2022-05-17 Cilag Gmbh International Surgical staple cartridge retainer with firing system authentication key
EP4125683A1 (en) * 2020-03-23 2023-02-08 Intuitive Surgical Operations, Inc. Systems and methods for optimizing configurations of a computer-assisted surgical system for reachability of target objects
US11737663B2 (en) 2020-03-30 2023-08-29 Auris Health, Inc. Target anatomical feature localization
CN111658144B (zh) * 2020-06-15 2021-07-27 青岛市中心医院 基于自主控制的血管机器人的控制系统及方法
CN111991085B (zh) * 2020-10-08 2022-03-04 深圳市精锋医疗科技股份有限公司 手术机器人及其图形化控制装置、图形化显示方法
US11102381B1 (en) 2021-01-05 2021-08-24 Board Of Regents, The University Of Texas System Clearcam Inc. Methods, systems and controllers for facilitating cleaning of an imaging element of an imaging device
CN114952806B (zh) * 2022-06-16 2023-10-03 法奥意威(苏州)机器人系统有限公司 约束运动控制方法、装置、系统和电子设备
JP2024036816A (ja) * 2022-09-06 2024-03-18 川崎重工業株式会社 手術支援システムおよび操作装置の制御方法
WO2024073094A1 (en) * 2022-09-30 2024-04-04 Vicarious Surgical Inc. Hand controllers, systems, and control methods for surgical robotic systems
WO2024076592A1 (en) * 2022-10-04 2024-04-11 Intuitive Surgical Operations, Inc. Increasing mobility of computer-assisted systems while maintaining a partially constrained field of view

Family Cites Families (52)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3094091B2 (ja) 1991-10-16 2000-10-03 工業技術院長 宇宙ロボットの制御装置
US5631973A (en) * 1994-05-05 1997-05-20 Sri International Method for telemanipulation with telepresence
JP2665052B2 (ja) * 1993-05-14 1997-10-22 エスアールアイ インターナショナル 遠隔中心位置決め装置
US6468265B1 (en) * 1998-11-20 2002-10-22 Intuitive Surgical, Inc. Performing cardiac surgery without cardioplegia
US6459926B1 (en) * 1998-11-20 2002-10-01 Intuitive Surgical, Inc. Repositioning and reorientation of master/slave relationship in minimally invasive telesurgery
US8004229B2 (en) 2005-05-19 2011-08-23 Intuitive Surgical Operations, Inc. Software center and highly configurable robotic systems for surgery and other uses
DE10025285A1 (de) 2000-05-22 2001-12-06 Siemens Ag Vollautomatische, robotergestützte Kameraführung unter Verwendung von Positionssensoren für laparoskopische Eingriffe
US20020093484A1 (en) * 2000-12-07 2002-07-18 Michael Skala Method and system for use of a pointing device with moving images
US7972298B2 (en) 2004-03-05 2011-07-05 Hansen Medical, Inc. Robotic catheter system
US9789608B2 (en) 2006-06-29 2017-10-17 Intuitive Surgical Operations, Inc. Synthetic representation of a surgical robot
US20070156126A1 (en) 2005-12-29 2007-07-05 Flaherty J C Medical device insertion system and related methods
US10258425B2 (en) * 2008-06-27 2019-04-16 Intuitive Surgical Operations, Inc. Medical robotic system providing an auxiliary view of articulatable instruments extending out of a distal end of an entry guide
JP4916011B2 (ja) * 2007-03-20 2012-04-11 株式会社日立製作所 マスタ・スレーブ式マニピュレータシステム
US9469034B2 (en) 2007-06-13 2016-10-18 Intuitive Surgical Operations, Inc. Method and system for switching modes of a robotic system
US8620473B2 (en) * 2007-06-13 2013-12-31 Intuitive Surgical Operations, Inc. Medical robotic system with coupled control modes
US9138129B2 (en) 2007-06-13 2015-09-22 Intuitive Surgical Operations, Inc. Method and system for moving a plurality of articulated instruments in tandem back towards an entry guide
US9084623B2 (en) 2009-08-15 2015-07-21 Intuitive Surgical Operations, Inc. Controller assisted reconfiguration of an articulated instrument during movement into and out of an entry guide
US9089256B2 (en) * 2008-06-27 2015-07-28 Intuitive Surgical Operations, Inc. Medical robotic system providing an auxiliary view including range of motion limitations for articulatable instruments extending out of a distal end of an entry guide
US8808164B2 (en) * 2008-03-28 2014-08-19 Intuitive Surgical Operations, Inc. Controlling a robotic surgical tool with a display monitor
US8155479B2 (en) * 2008-03-28 2012-04-10 Intuitive Surgical Operations Inc. Automated panning and digital zooming for robotic surgical systems
US8189738B2 (en) 2008-06-02 2012-05-29 Elekta Ltd. Methods and systems for guiding clinical radiotherapy setups
US9179832B2 (en) 2008-06-27 2015-11-10 Intuitive Surgical Operations, Inc. Medical robotic system with image referenced camera control using partitionable orientational and translational modes
US8864652B2 (en) * 2008-06-27 2014-10-21 Intuitive Surgical Operations, Inc. Medical robotic system providing computer generated auxiliary views of a camera instrument for controlling the positioning and orienting of its tip
US8332072B1 (en) * 2008-08-22 2012-12-11 Titan Medical Inc. Robotic hand controller
US8315720B2 (en) * 2008-09-26 2012-11-20 Intuitive Surgical Operations, Inc. Method for graphically providing continuous change of state directions to a user of a medical robotic system
US20100331856A1 (en) 2008-12-12 2010-12-30 Hansen Medical Inc. Multiple flexible and steerable elongate instruments for minimally invasive operations
US8335590B2 (en) * 2008-12-23 2012-12-18 Intuitive Surgical Operations, Inc. System and method for adjusting an image capturing device attribute using an unused degree-of-freedom of a master control device
US8918207B2 (en) 2009-03-09 2014-12-23 Intuitive Surgical Operations, Inc. Operator input device for a robotic surgical system
US8521331B2 (en) 2009-11-13 2013-08-27 Intuitive Surgical Operations, Inc. Patient-side surgeon interface for a minimally invasive, teleoperated surgical instrument
EP2549943B1 (en) * 2010-03-22 2018-01-31 Brainlab AG Controlling a surgical microscope
DE102010029275A1 (de) * 2010-05-25 2011-12-01 Siemens Aktiengesellschaft Verfahren zum Bewegen eines Instrumentenarms eines Laparoskopierobotors in einer vorgebbare Relativlage zu einem Trokar
WO2012049623A1 (en) 2010-10-11 2012-04-19 Ecole Polytechnique Federale De Lausanne (Epfl) Mechanical manipulator for surgical instruments
WO2012078989A1 (en) * 2010-12-10 2012-06-14 Wayne State University Intelligent autonomous camera control for robotics with medical, military, and space applications
US9498289B2 (en) * 2010-12-21 2016-11-22 Restoration Robotics, Inc. Methods and systems for directing movement of a tool in hair transplantation procedures
US9119655B2 (en) * 2012-08-03 2015-09-01 Stryker Corporation Surgical manipulator capable of controlling a surgical instrument in multiple modes
US8951266B2 (en) * 2011-01-07 2015-02-10 Restoration Robotics, Inc. Methods and systems for modifying a parameter of an automated procedure
US20130033164A1 (en) * 2011-08-03 2013-02-07 Yosi Shani Planar remote phosphor illumination apparatus
DE202012013197U1 (de) * 2011-08-21 2015-05-21 M.S.T. Medical Surgery Technologies Ltd. Vorrichtung zum Unterstützen einer laparoskopischen Chirurgie - Regelbasierte Herangehensweise
US10052157B2 (en) * 2011-08-21 2018-08-21 M.S.T. Medical Surgery Technologies Ltd Device and method for assisting laparoscopic surgery—rule based approach
US10866783B2 (en) * 2011-08-21 2020-12-15 Transenterix Europe S.A.R.L. Vocally activated surgical control system
US9204939B2 (en) * 2011-08-21 2015-12-08 M.S.T. Medical Surgery Technologies Ltd. Device and method for assisting laparoscopic surgery—rule based approach
US9707043B2 (en) * 2011-09-02 2017-07-18 Stryker Corporation Surgical instrument including housing, a cutting accessory that extends from the housing and actuators that establish the position of the cutting accessory relative to the housing
US9795282B2 (en) * 2011-09-20 2017-10-24 M.S.T. Medical Surgery Technologies Ltd Device and method for maneuvering endoscope
FR2983059B1 (fr) 2011-11-30 2014-11-28 Medtech Procede assiste par robotique de positionnement d'instrument chirurgical par rapport au corps d'un patient et dispositif de mise en oeuvre.
JP5912627B2 (ja) * 2012-02-14 2016-04-27 川崎重工業株式会社 撮像検査装置ならびにその制御装置および制御方法
JP6134336B2 (ja) 2012-02-15 2017-05-24 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 入力装置の操作者が視認可能なディスプレイ領域に器具が入ったときのその器具の制御権限の入力装置への切り換え
KR101372189B1 (ko) * 2012-04-27 2014-03-07 한양대학교 에리카산학협력단 수술도구의 위치변경이 가능한 수술로봇
US9782224B2 (en) * 2012-08-09 2017-10-10 Universite De Strasbourg (Etablissement Public National A Caractere Scientifique, Culturel Et Professionnel) Device for grasping an elongated body, such as a needle, and robotized device comprising the same
US9283046B2 (en) 2013-03-15 2016-03-15 Hansen Medical, Inc. User interface for active drive apparatus with finite range of motion
EP3104804B1 (en) 2014-02-12 2021-12-15 Koninklijke Philips N.V. Robotic control of surgical instrument visibility
EP3590460B1 (en) 2014-03-17 2021-06-02 Intuitive Surgical Operations, Inc. Device and machine readable medium executing a method of recentering end effectors and input controls
WO2019083886A1 (en) 2017-10-25 2019-05-02 Intuitive Surgical Operations, Inc. SYSTEM AND METHOD FOR REPOSITIONING INPUT CONTROL DEVICES

Also Published As

Publication number Publication date
JP7170784B2 (ja) 2022-11-14
US11246671B2 (en) 2022-02-15
EP3884901A1 (en) 2021-09-29
US20170000574A1 (en) 2017-01-05
US20220125534A1 (en) 2022-04-28
CN115590628A (zh) 2023-01-13
WO2015142953A1 (en) 2015-09-24
EP4233768A2 (en) 2023-08-30
EP3590460A1 (en) 2020-01-08
JP6882422B2 (ja) 2021-06-02
EP3119323A1 (en) 2017-01-25
EP4233768A3 (en) 2023-12-27
JP2020022806A (ja) 2020-02-13
CN110236682B (zh) 2022-11-01
KR102446091B1 (ko) 2022-09-22
KR20210126149A (ko) 2021-10-19
EP3884901B1 (en) 2023-06-14
CN106456251B (zh) 2019-08-30
CN106456251B9 (zh) 2019-10-15
JP2021126523A (ja) 2021-09-02
US20190321117A1 (en) 2019-10-24
CN106456251A (zh) 2017-02-22
KR102311986B1 (ko) 2021-10-14
CN110236682A (zh) 2019-09-17
JP2017512549A (ja) 2017-05-25
US10398521B2 (en) 2019-09-03
JP2022189986A (ja) 2022-12-22
JP7408754B2 (ja) 2024-01-05
EP3590460B1 (en) 2021-06-02
EP3119323B1 (en) 2019-08-28
EP3119323A4 (en) 2017-08-02
KR20160135298A (ko) 2016-11-25

Similar Documents

Publication Publication Date Title
JP7170784B2 (ja) 撮像装置及び入力コントロールを再芯出しするためのシステム及び方法
JP6543742B2 (ja) 画像キャプチャ装置及び操作可能な装置可動アームの制御された動作の間の衝突回避
US11703952B2 (en) System and method for assisting operator engagement with input devices
US20210030502A1 (en) System and method for repositioning input control devices

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180302

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180302

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190311

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190820

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191029

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20191107

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200121

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200204

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200213

R150 Certificate of patent or registration of utility model

Ref document number: 6662785

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250