JP2021003201A - 手術顕微鏡システム、制御装置及び制御方法 - Google Patents

手術顕微鏡システム、制御装置及び制御方法 Download PDF

Info

Publication number
JP2021003201A
JP2021003201A JP2019117384A JP2019117384A JP2021003201A JP 2021003201 A JP2021003201 A JP 2021003201A JP 2019117384 A JP2019117384 A JP 2019117384A JP 2019117384 A JP2019117384 A JP 2019117384A JP 2021003201 A JP2021003201 A JP 2021003201A
Authority
JP
Japan
Prior art keywords
microscope
target value
surgical
joint
surgical microscope
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019117384A
Other languages
English (en)
Inventor
潤一郎 榎
Junichiro Enoki
潤一郎 榎
芳男 相馬
Yoshio Soma
芳男 相馬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2019117384A priority Critical patent/JP2021003201A/ja
Priority to PCT/JP2020/024328 priority patent/WO2020262281A1/ja
Priority to US17/619,973 priority patent/US20220354583A1/en
Publication of JP2021003201A publication Critical patent/JP2021003201A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/20Surgical microscopes characterised by non-optical aspects
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/20Surgical microscopes characterised by non-optical aspects
    • A61B90/25Supports therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/361Image-producing devices, e.g. surgical cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1628Programme controls characterised by the control loop
    • B25J9/1633Programme controls characterised by the control loop compliant, force, torque control, e.g. combined with position control
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1694Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • B25J9/1697Vision controlled systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/32Micromanipulators structurally combined with microscopes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2055Optical tracking systems

Abstract

【課題】大掛かりなシステムを必要とせずに鏡筒の位置及び向きの調整を可能とする手術顕微鏡システム、制御装置及び制御方法を提供すること。【解決手段】本技術に係る手術顕微鏡システムは、アームと、手術顕微鏡と、目標値設定部と、推定部と、制御部とを具備する。上記アームは、回転可能な関節を備える。上記手術顕微鏡は、顕微鏡光学系と、上記顕微鏡光学系による術野の顕微鏡拡大像である術野画像を撮像するカメラとを備え、上記アームに支持されている。上記目標値設定部は、上記手術顕微鏡の位置及び向きの目標値を設定する。上記推定部は、上記術野画像に基づいて上記手術顕微鏡の位置及び向きを推定し、推定値を生成する。上記制御部は、上記目標値と上記推定値の比較結果に応じて上記関節の回転に制限を加える。【選択図】図1

Description

本技術は、手術顕微鏡の操作に係る手術顕微鏡システム、制御装置及び制御方法に関する。
各種の手術で用いられる手術顕微鏡には、可動式のアームに顕微鏡が接続され、顕微鏡の位置及び向きを調整可能なものがある。顕微鏡の動かし方には、ユーザが顕微鏡を把持して直接に顕微鏡を移動させる「粗動」と、フットスイッチ等を用いてアームを駆動する「微動」が含まれる。
この粗動においては、粗動によって観察対象が顕微鏡視野(以下、術野)から外れやすいという問題がある。手術顕微鏡は高倍率であるため、少しの角度や位置のずれで術野が大きく変化してしまうためである。また、粗動は目分量で行うため、観察対象に対する角度や距離を正確に設定することが容易ではなく、再現性の高い観察が難しいという問題もある。
これらの問題は、特に様々な角度や位置からの観察を可能とするフリーアーム動作が可能な多軸のアームを備える手術顕微鏡になるほど、動かすためのパラメータが増えるため、より顕著となる。一方で、従来の手術顕微鏡の接眼部の代わりに、手術顕微鏡にカメラを設け、3D映像をモニタやヘッドマウントディスプレイ越しに観察しながら手術を行うHUS(Head up surgery)が広まりつつある。
HUSの利点の一つとして、手術顕微鏡の接眼部に影響されずに自由な位置や角度から観察が可能になることがある。したがって、HUSの普及と共に従来よりもフリーアーム動作が可能な手術顕微鏡が増え、上述のような粗動時の問題が生じる機会が増加すると予想される。
手術顕微鏡の位置や姿勢の調整に関しては、自動制御を可能とする技術も提案されている。例えば、特許文献1には、顕微鏡の位置を検出し、顕微鏡の位置を自動制御するシステムや広角で撮影し、撮影画像を電子ズームで切り出す機構を備えるシステムが開示されている。
特開2018−99297号公報
特許文献1に記載のように、顕微鏡の位置を自動制御するシステムは、所望の術野を得ることが可能であるものの、ロボットアームのように顕微鏡を自動的に移動させる機構が必要であり、システムが大掛かりとなる。また、顕微鏡が動くことにより、周囲の人や物に衝突するおそれがあり、安全面や衛生面でのリスクが生じることになる。
以上のような事情に鑑み、本技術の目的は、大掛かりなシステムを必要とせずに手術顕微鏡の位置及び向きの調整を可能とする手術顕微鏡システム、制御装置及び制御方法を提供することにある。
上記目的を達成するため、本技術に係る手術顕微鏡システムは、アームと、手術顕微鏡と、目標値設定部と、推定部と、制御部とを具備する。
上記アームは、回転可能な関節を備える。
上記手術顕微鏡は、顕微鏡光学系と、上記顕微鏡光学系による術野の顕微鏡拡大像である術野画像を撮像するカメラとを備え、上記アームに支持されている。
上記目標値設定部は、上記手術顕微鏡の位置及び向きの目標値を設定する。
上記推定部は、上記術野画像に基づいて上記手術顕微鏡の位置及び向きを推定し、推定値を生成する。
上記制御部は、上記目標値と上記推定値の比較結果に応じて上記関節の回転に制限を加える。
上記制御部は、上記関節が上記目標値と上記推定値の差異を大きくする方向に回転する場合、上記関節の回転抵抗を大きくしてもよい。
上記アームは複数の関節について、一定量回転した場合の上記目標値と上記推定値の差異の変化量を算出し、上記変化量が大きい関節の回転抵抗を、上記変化量が小さい関節の回転抵抗より大きくしてもよい。
上記制御部は、上記目標値と上記推定値の差異が大きいほど、上記関節の回転抵抗を大きくしてもよい。
上記制御部は、上記関節が上記目標値と上記推定値の差異を大きくする方向に回転する場合、上記関節の回転を停止させてもよい。
上記制御部は、上記関節が上記目標値と上記推定値の差異を最小とする回転角度となっている場合に上記関節の回転を停止させてもよい。
上記手術顕微鏡システムは、上記目標値と上記推定値を比較し、上記目標値と上記推定値の適合度を算出する適合度算出部をさらに具備し、上記制御部は、上記適合度に応じて上記関節の回転に制限を加えてもよい。
上記制御部は、さらに、上記カメラの撮像可能範距離に応じて、上記関節の回転に制限を加えてもよい。
上記カメラで撮影された術野画像に基づいて基準対象を決定する基準対象決定部をさらに具備し、上記目標値設定部は、上記基準対象の位置に対する上記手術顕微鏡の位置及び向きを上記目標値として設定してもよい。
目標値設定部は、上記カメラで撮像された術野画像に含まれる撮像対象の位置に対する上記手術顕微鏡の位置及び向きを上記目標値として設定してもよい。
上記目標値設定部は、過去の上記手術顕微鏡の位置及び向きを上記目標値のプリセットとして保持し、ユーザによる選択によって上記プリセットから上記目標値を設定してもよい。
上記推定部は、上記カメラの内部パラメータを上記手術顕微鏡の位置及び向きの推定に利用し、
上記制御部は、上記顕微鏡光学系を、上記推定部が保持している上記内部パラメータが利用できる設定に変更してもよい。
上記目的を達成するため、本技術に係る制御装置は、顕微鏡光学系と、上記顕微鏡光学系による術野の顕微鏡拡大像である術野画像を撮像するカメラとを備え、回転可能な関節を備えるアームに支持された手術顕微鏡の制御装置である。
上記制御装置は、目標値設定部と、推定部と、制御部とを具備する。
上記目標値設定部は、上記手術顕微鏡の位置及び向きの目標値を設定する。
上記推定部は、上記術野画像に基づいて上記手術顕微鏡の位置及び向きを推定し、推定値を生成する。
上記制御部は、上記目標値と上記推定値の比較結果に応じて上記関節の回転に制限を加える。
上記目的を達成するため、本技術に係る制御方法は、顕微鏡光学系と、上記顕微鏡光学系による術野の顕微鏡拡大像である術野画像を撮像するカメラとを備え、回転可能な関節を備えるアームに支持された手術顕微鏡の制御方法であり、目記目標値設定部が、上記手術顕微鏡の位置及び向きの目標値を設定し、推定部が、上記術野画像に基づいて上記手術顕微鏡の位置及び向きを推定して推定値を生成し、制御部が、上記目標値と上記推定値の比較結果に応じて上記関節の回転に制限を加える。
本技術の実施形態に係る手術顕微鏡システムの構成を示すブロック図である。 上記手術顕微鏡システムが備える手術顕微鏡ユニットの模式図である。 上記手術顕微鏡ユニットの動作を示す模式図である。 上記手術顕微鏡システムの第1処理フローのフローチャートである。 上記手術顕微鏡ユニットが備えるアームの関節の動作を示す模式図である。 上記手術顕微鏡システムによるUI表示処理を示す模式図である。 上記手術顕微鏡システムの第2処理フローのフローチャートである。 上記手術顕微鏡システムにおける、撮像対象に対するカメラの距離及び角度の推定方法を示す模式図である。 上記手術顕微鏡システムが備える制御装置のハードウェア構成を示すブロック図である。
本技術の実施形態に係る手術顕微鏡システムについて説明する。
[出術顕微鏡システムの構成]
図1は、本実施形態に係る手術顕微鏡システム100の構成を示すブロック図である。同図に示すように手術顕微鏡システム100は、手術顕微鏡ユニット110、制御装置120及び表示装置130を備える。
図2は、手術顕微鏡ユニット110の模式図である。同図に示すように、手術顕微鏡ユニット110は、基部111、アーム112、手術顕微鏡113、顕微鏡光学系114及びカメラ115を備える。
アーム112は、可動性を有し、手術顕微鏡113を支持する。アーム112は、図2に示すように、複数のアーム部117及び複数の関節118を備える。各関節118は隣接するアーム部117の間を接続し、回転可能である。各関節118が回転することにより、各アーム部117は隣接するアーム部117に対する角度が変化し、手術顕微鏡113を任意の位置及び向きとすることが可能である。
図3は、アーム112の動作を示す模式図であり、観察対象に対する手術顕微鏡113の位置及び向きの変化を示す。同図では観察対象の一例として眼球Eを示している。図3(a)及び(b)に示すように手術顕微鏡113はアーム112の動作によって各方向に移動可能であり、各方向に手術顕微鏡113を傾けることができる。
なお、アーム112の具体的構成は図2及び図3に示すものに限定されず、少なくとも1つのアーム部117と少なくとも一つの関節118を備え、手術顕微鏡113の位置及び向きを変更することが可能なものであればよい。
手術顕微鏡113は、アーム112によって支持され、位置及び向きを変更することが可能に構成されている。手術顕微鏡113は、対物レンズ119及びその他の図示しない光学素子を含む顕微鏡光学系114を備える。
カメラ115は、手術顕微鏡113に設けられ、顕微鏡光学系114によって生成された顕微鏡拡大像を撮像する。カメラ115は、顕微鏡拡大像の静止画又は動画を撮像可能なものであればよい。なお、以下の説明において、顕微鏡光学系114を介してカメラ115によって撮像される視野範囲を「術野」とし、カメラ115によって術野を撮像した画像又は動画を「術野画像」とする。カメラ115は、術野画像を制御装置120に出力する。
手術顕微鏡ユニット110は粗動が可能に構成されている。粗動は、ユーザによるアーム112の動作であり、ユーザは手術顕微鏡113を把持し、任意の方向に動かすことができる。またアーム112は、粗動に加え、微動が可能なものであってもよい。微動は、アーム112自体によるアーム112の動作であり、各関節118を回転駆動させることにより、アーム112が動作する。ユーザはフットスイッチ等を用いて手術顕微鏡ユニット110に微動を指示することができる。
制御装置120は、図1に示すように基準対象決定部121、目標値設定部122、推定部123、適合度算出部124、制御部125及び画像処理部126を備える。制御装置120の各構成はソフトウェアとハードウェアの協働によって実現される機能的構成である。制御装置120は、手術顕微鏡ユニット110とは独立した情報処理装置であってもよく、手術顕微鏡ユニット110のCCU(camera control unit)に搭載されてもよい。また、制御装置120はネットワークを介して手術顕微鏡ユニット110と接続されていてもよい。
以下では、制御装置120の各構成について説明するが、詳細については後述する手術顕微鏡システム100の動作と合わせて説明する。
基準対象決定部121は、カメラ115から術野画像を取得し、基準となる対象(以下、基準対象)を検出及び決定する。基準対象は術野画像に映っている術野全体でもよく、術野画像のうち一部領域、術具や生体組織(眼球等)であってもよい。基準対象決定部121は決定した基準対象を目標値設定部122に供給する。
目標値設定部122は、「目標値」を設定する。目標値は、ユーザがアーム112を粗動により動かす際の、粗動後の手術顕微鏡113の位置及び向きである。目標値設定部122は、ユーザからの指定やプリセットからの選択により目標値を設定することができる。目標値設定部122は設定した目標値を適合度算出部124に供給する。
推定部123は、術野画像に基づいて手術顕微鏡113の位置及び向きを推定する。以下、推定部123によって推定された手術顕微鏡113の位置及び向きを「推定値」とする。推定部123は、SLAM(Simultaneous Localization and Mapping)技術等を用いて推定値を生成することができる。推定部123は、生成した推定値を適合度算出部124に供給する。
適合度算出部124は、目標値設定部122から供給された目標値と、推定部123から供給された推定値を比較し、適合度を算出する。適合度算出部124は、パラメータ(距離及び向き)毎に適合度を算出することができる。適合度算出部124は、算出した適合度を制御部125及び画像処理部126に供給する。
制御部125は、目標値と推定値の比較結果に応じてアーム112の動作を制御し、具体的には、適合度算出部124から供給された適合度に基づいて、アーム112の動作を制御する。アーム制御の具体的内容については後述する。また、制御部125は、顕微鏡光学系114のズーム倍率や絞りの大きさ等を制御することが可能なものが好適である。
画像処理部126は、カメラ115によって撮像された術野画像から表示画像を生成し、生成した表示画像を表示装置130に表示させる。この際、画像処理部126は、適合度算出部124から供給された適合度に応じてUI(user inter Interface)表示処理を実行してもよい。
表示装置130は、画像処理部126から出力された表示画像を表示する。表示装置130は一般的なディスプレイであってもよく、3D映像を表示可能な3次元ディスプレイやヘッドマウントディスプレイであってもよい。
[出術顕微鏡システムの動作]
手術顕微鏡システム100の粗動動作について説明する。手術顕微鏡システム100において手術顕微鏡ユニット110の粗動を用いるユースケースとしては、以下の2つのケースがある。
第1のケースは、術野中に基準対象が存在する状態から粗動を開始し、手術顕微鏡113の基準対象に対する角度及び距離の少なくとも一方を変更して観察したいケースである。例えば、図3(a)に示すように、眼科手術において眼球Eの鉛直方向に手術顕微鏡113を配置した状態で創口作成を行った後、図3(b)に示すように手術顕微鏡113を傾け、眼球Eに対して斜め方向から隅角処理を行うケースが挙げられる。
第2のケースは、術野中に基準対象が存在しない状態から粗動を開始し、最初の術野を得るケースである。例えば、手術の開始時に最初の術野を得るためにセットアップを行うケースが挙げられる。
以下、2つケースのそれぞれについて、手術顕微鏡システム100の処理フローを説明する。
(第1のケースについての処理フロー)
手術顕微鏡システム100は、ユーザの指示を受けて第1のケースについての処理フロー(以下、第1処理フロー)を実行する。ユーザは、手術顕微鏡113に設けられた物理スイッチやタッチパネル、フットスイッチ又は音声コマンド等により、手術顕微鏡システム100に処理フロー開始の指示を行うことができる。図4は、第1処理フローを示すフローチャートである。
基準対象決定部121は、ユーザの指示が入力されると、カメラ115から術野画像を取得する(St111)。基準対象決定部121は、静止画を取得してもよく、カメラ115は術中は撮像を継続しているため、直近のいくつかのフレームを常に記録しておき、その中から画像を抽出してもよい。この際、基準対象決定部121は、ユーザの指示が入力されたタイミングになるべく近く、ブレ、ボケ及び隠れの少ない画像を抽出すると好適である。
基準対象決定部121は、取得した術野画像から基準対象を決定する(St112)。基準対象は術野画像に映っている術野全体でもよく、術野画像のうち、術野中央部やフォーカスが合っている領域であってもよい。また、基準対象決定部121は、ユーザから指定された生体の部位や術具等の物体を基準対象としてもよい。ユーザは表示装置130によって術野画像を参照し、基準対象とする物体を指定することができる。
また、基準対象決定部121は、画像認識技術を用いて基準対象を決定してもよい。例えば、ユーザが「眼球」、「隅角鏡」といった物体の名称を入力すると、基準対象決定部121は画像認識技術によりこれらの物体を検出し、基準対象として決定することができる。
さらに、基準対象決定部121は、ユーザがポインティングした点を含む同一部位を領域検出により抽出することで基準対象を決定してもよい。例えば、ユーザが目の一部をポインティングすると、基準対象決定部121は眼球全体を基準対象として決定することができる。この際、基準対象決定部121は画像認識技術として機械学習系の技術や特徴点抽出に基づく技術を用いることができる。また基準対象決定部121は、術具等に付されたマーカを検出することにより、術具等を検出し、基準対象とすることも可能である。
目標値設定部122は、基準対象の位置(以下、基準位置)に対する粗動後の手術顕微鏡113の位置及び向きを「目標値」として設定する(St113)。目標値設定部122は、ユーザからの指定によって目標値を設定することができる。ユーザは、基準位置を原点とした観察対象との距離及び向きの形式で目標値を指定することができ、例えば、「基準位置に対して角度45度、WD(Working Distance)=150mm」のように目標値を指定する。ユーザは、距離及び向きの両方を目標値として指定してもよく、いずれか一方のみを指定してもよい。
また、目標値設定部122は、事前に目標値のプリセットを備えていてもよい。ユーザはプリセットされた値から目標値を選択することで、類似のアーム動作を繰り返す際に同じ設定をする手間を省くことができる。目標値設定部122は例えば、白内障手術や緑内障種々等、手術の種類に応じたプリセットを備えるものとすることができる。
さらに、ユーザが一度アーム112を動かした後に、動かす前の状態に戻したい場合がある。このため、目標値設定部122は、過去の手術顕微鏡113の位置及び向きをプリセットとして記憶しておき、ユーザが選択できるようにしてもよい。
続いて、ユーザがアーム112を動かし、粗動を開始する(St114)。なお、上述の各ステップ(St111〜St113)はユーザが粗動を実施している間に実行してもよい。
続いて、推定部123は、カメラ115から術野画像を取得する(St115)。推定部123は、粗動が実施されている間の術野画像を定期的に取得することができる。術野画像の取得タイミングは、毎フレームでもよく、一定間隔毎でもよい。
続いて、推定部123は、取得した術野画像から基準位置に対する手術顕微鏡113の位置及び向きを推定(St116)し、推定値を生成する。推定部123は、SLAM(Simultaneous Localization and Mapping)技術を用いて推定値を生成することができる。SLAMでは環境マップの構築も行われるため、粗動中は基準対象が術野に映らなくてもよいという利点がある。
また、推定部123は、術野画像の特徴点の比較から推定値を生成することも可能である。ユーザは術野を見ながら粗動を行うことができるため、ある程度術野に基準対象が映るように制御することは可能である。このため、2つの画像取得ステップ(St111及びSt115)で取得した術野画像において画像に含まれる特徴点の対応を取り、Perspective-n-Point Problem問題を解くことにより、推定値を生成することも可能である。
また、術野画像がステレオ画像である場合、推定部123は術野画像からDepth Mapを生成することで推定値を生成することが可能である。さらに推定部123は、TOF(Time-of-Flight)技術を用いて推定値を生成してもよい。
続いて、適合度算出部124は、目標値設定ステップ(St113)で設定した目標値と、手術顕微鏡位置推定ステップ(St116)で生成された推定値を比較し、適合度を算出する(St117)。適合度算出部124は、パラメータ(距離及び向き)毎に適合度を算出することができ、例えば、「距離の適合度:90%、角度の適合度:85%」のように適合度を算出する。
続いて制御部125は、アーム112の動作を制御する(St118)。具体的には、制御部125は、適合度算出ステップ(St117)で算出された適合度に基づいて、関節118の回転に制限を加える。
制御部125は、関節118毎に、関節118が一定量回転すると適合度がどの程度変化するかを算出する。制御部125は、ユーザが手術顕微鏡113の位置又は向きの少なくとも一方を変更するために手術顕微鏡113を移動させると、各関節118が適合度を低下させる方向に回転するか、適合度を増大させる方向に回転するかを判別する。
図5は、関節118の回転の例を示す模式図である。同図において、目標値設定部122より設定された目標値を目標値Pとして示す。手術顕微鏡113の位置及び向きは推定部123によって推定され、推定値として制御部125に供給されている。
同図において関節118の回転方向Raは、手術顕微鏡113が目標値Pに接近する回転方向であり、即ち適合度を増大させる回転方向である。一方、回転方向Rbは手術顕微鏡113が目標値Pから離間する回転方向であり、即ち適合度を低下させる回転方向である。制御部125は各関節118について、適合度が増加する回転方向及び適合度が減少する回転方向を特定する。また、制御部125は、関節118の回転量に伴う適合度の変動量を算出する。図5ではX−Y方向の手術顕微鏡113の移動を示すが、Z方向の手術顕微鏡113の移動も同様である。
制御部125は、関節118が、目標値と推定値の差異を大きくする方向、即ち適合度を低下させる方向に回転する場合、関節118にブレーキをかけ、回転抵抗を増大させることができる。図5に示す例では回転方向Rbの回転抵抗を回転方向Raの回転抵抗より大きくする。また、手術顕微鏡113が目標値Pを通り過ぎると、回転方向Raが適合度を低下させる回転方向となり、制御部125は回転方向Raの回転抵抗を大きくする。
これにより、ユーザが適合度を低下させる方向に手術顕微鏡113を移動させようとすると、手術顕微鏡113を移動させるために要する力が大きくなるため、手術顕微鏡113を目標値に合わせやすくなる。
また、制御部125は、関節118毎に回転抵抗を変更してもよい。制御部125は、一定量回転した場合の目標値と推定値の差異の変化量が大きい、即ち適合度の低下量が大きい関節118の回転抵抗を、同変化量が小さい、即ち適同度の低下量が小さい関節118の回転抵抗より大きくすることができる。上記変化量が大きい関節118は手術顕微鏡113の移動に伴う回転量が多い関節118であり、上記変化量が小さい関節118は手術顕微鏡113の移動に伴う回転量が少ない関節118である。この場合もユーザが、適合度が低下させる方向に手術顕微鏡113を移動させようとすると、手術顕微鏡113を移動させるために要する力が大きくなるため、手術顕微鏡113を目標値に合わせやすくなる。
さらに制御部125は、目標値と推定値の差異が大きい、即ち適合度が小さいほど、関節118の回転抵抗を大きくしてもよい。これにより、手術顕微鏡113の位置が目標値から離間している場合は手術顕微鏡113が動かしやすく、手術顕微鏡113の位置が目標値に接近すると、手術顕微鏡113が動かしにくくなるため、手術顕微鏡113を目標値に合わせやすくなる。
また、制御部125は、関節118が目標値と推定値の差異を大きくする方向、即ち適合度を低下させる方向に回転する場合、関節118をロックし、回転を停止させてもよい。図5に示す例では、回転方向Raへの回転は許容し、回転方向Rbへの回転は停止させる。これによりユーザは、手術顕微鏡113を適合度が増大する方向にのみ移動させることが可能となるため、手術顕微鏡113を目標値に合わせやすくなる。
また、制御部125は、各関節118の回転角度毎に適合度を算出し、各関節118が、目標値と推定値の差異を最小とする回転角度、即ち適合度が最大となる回転角度となっているかを判定してもよい。制御部125は、目標値と推定値の差異を最小とする回転角度となっている関節118の回転を停止させることができる。これにより、目標値と推定値の差異が最小となる回転角度に合わせられた関節118から順次関節118の回転が固定され、手術顕微鏡113を目標値に合わせやすくなる。
また、制御部125は、カメラ115の撮像可能距離に応じて関節118の回転を制限してもよい。例えば、カメラ115がオートフォーカス機能を有している場合、オートフォーカスの範囲外に手術顕微鏡113が位置するとフォーカスが合った術野画像を撮像することができない。
このため、制御部125は、オートフォーカスが有効な範囲から手術顕微鏡113が外れようとするとその方向に手術顕微鏡113を移動させる関節118の回転をロックすることができる。オートフォーカス範囲の他にも制御部125は顕微鏡光学系114の光学特性等に応じてカメラ115の撮像可能範囲に応じて関節118の回転を制限することができる。
手術顕微鏡システム100は、粗動が継続している場合(St119:No)、画像取得ステップ(St115)からアーム制御ステップ(St118)を繰り返し実行し、粗動が終了(St119:Yes)すると処理フローを終了する。
なお、アーム112の動作を制御するステップ(St118)ステップでは、アーム動作の制御に加え、適合度に応じたUI(user inter Interface)表示処理を実行してもよい。
図6は、画像処理部126によって生成される表示画像の例として表示画像301を示す模式図である。同図に示すように画像処理部126は、術野画像302において眼球Eの周囲等に適合度を示すインジケータ303を配置し、表示画像301を生成することができる。インジケータ303は、適合度に応じて、色、形状又は透過性等を変化させ、ユーザに適合度を提示する。
また、画像処理部126は、インジケータ303と共に、又はインジケータ303に代えて、適合度を示す文字列を術野画像302に重畳させ、表示画像301を生成してもよい。また、画像処理部126は、適合度に変えて、手術顕微鏡113の角度や距離情報を表示してもよく、手術顕微鏡113の目標値とのずれ度合いを表示してもよい。この他にも画像処理部126は、目標値と推定値の違いを示す各種表示を術野画像302に重畳させ、表示画像301を生成することができる。
画像処理部126は、生成した表示画像を表示装置130に出力する。これにより、ユーザは、上述した関節118の回転制御に加え、表示画像において提示されている情報を参照して手術顕微鏡113を動かすことが可能であり、さらに手術顕微鏡113を所望の位置及び向きに合わせやすくなる。
上記処理フローにしたがって粗動を実行したのち、ユーザはフットスイッチ等を操作し、アーム112を動作(微動)させてもよい。この際、画像処理部126は、適合度に応じてUI表示処理を実行し、生成した表示画像(図6参照)を表示装置130に表示させることができる。これにより、ユーザは微動においても適合度を参照して手術顕微鏡113の位置及び向きを微調整することが可能である。
<第1処理フローの変形例>
上記説明では、基準対象を決定するため、術野画像取得ステップ(St111)において術野画像を取得するとしたが、特定の術具を基準対象とする場合はその術具の情報を事前に取得しておくことで術野画像取得ステップ(St111)は不要となる。
例えば、基準対象を隅角鏡とする場合、手術顕微鏡位置推定ステップ(St116)において術野画像からレンズ縁の楕円を検出し、長軸と短軸を取得することで、手術顕微鏡113の位置及び向きを推定することが可能となる。
さらに、手術顕微鏡位置推定ステップ(St116)においては、性能を改善するために以下のようにしてもよい。推定部123が手術顕微鏡113の位置及び向きを推定するためにはカメラの内部パラメータが既知であることが求められる。カメラの内部パラメータは、カメラ座標原点の3次元座標を画像上の座標に変換する際の変換行列であり、術野画像からカメラ115の3次元位置を推定する際に必要となる。
しかしながら、ズーム倍率等の設定により内部パラメータは変化するため、任意の倍率で対応しようとすると無数の内部パラメータを保持するか、近い内部パラメータによって代替する必要がある。
そこで、制御部125は、粗動が実行される際、手術顕微鏡113のズーム倍率や絞り等を、推定部123が保持する内部パラメータが利用できる設定に変更するように顕微鏡光学系114を制御することができる。これにより、推定部123は既知の内部パラメータを用いて手術顕微鏡113の位置及び向きを推定することができ、推定精度を向上させることができる。
また、制御部125は、顕微鏡光学系の倍率が高すぎると、基準対象が術野外になりやすいため、ある程度広角となるように顕微鏡光学系114を制御してもよい。さらに、フォーカスが合わないぼけた画像では手術顕微鏡113の位置及び向きの推定が難しいため、制御部125はオートフォーカスが動作するようにしたり、被写界深度が広くなるように絞りを絞ったり等の粗動用モードに設定を切り替えるように顕微鏡光学系114を制御してもよい。
(第2のケースについての処理フロー)
第2のケースについての処理フロー(以下、第2処理フロー)では、第1処理フローに対して最初の術野画像取得ステップ及び基準対象決定ステップがない点が異なる。
第2処理フローにおいても手術顕微鏡システム100は、ユーザの指示を受けて処理フローを実行する。ユーザは、手術顕微鏡113に設けられた物理スイッチやタッチパネル、フットスイッチ又は音声コマンド等により、手術顕微鏡システム100に処理フロー開始の指示を行うことができる。図7は、第2処理フローを示すフローチャートである。
目標値設定部122は、粗動後の手術顕微鏡113の位置及び向きを「目標値」として設定する(St121)。目標値設定部122は、ユーザからの指定によって目標値を設定することができる。第2処理フローでは、座標系を定める基準対象が存在しないため、ユーザは粗動中にカメラ115に映る対象(以下、撮像対象)との距離や手術顕微鏡113の傾け角度等の形式で目標値を指定することができる。傾け角度は「撮像対象の表面を平面で近似した場合の鉛直方向に対する傾け度合い」とすることができる。ユーザは例えば、「眼球に対して45度、WD(Working Distance)=150mm」のように目標値を指定することができる。ユーザは、距離及び向きの両方を目標値として指定してもよく、いずれか一方のみを指定してもよい。
また、目標値設定部122は、事前に目標値のプリセットを備えていてもよい。ユーザはプリセットされた値から目標値を選択することで、類似のアーム動作を繰り返す際に同じ設定をする手間を省くことができる。目標値設定部122は例えば、白内障手術や緑内障種々等、手術の種類に応じた目標値を備えるものとすることができ、例えば白内障用のプリセット値は「眼球に対し鉛直、WD=200mm」、緑内障用のプリセット値は「眼球に対し45度、WD=200mm」等とすることができる。
さらに、ユーザが一度アーム112を動かした後に、動かす前の状態に戻したい場合がある。このため、目標値設定部122は、過去の手術顕微鏡113の位置や向きをプリセットとして記憶しておき、ユーザが選択できるようにしてもよい。
続いて、ユーザがアーム112を動かし、粗動を開始する(St122)。なお、目標値設定ステップ(St121)はユーザが粗動を実施している間に実行してもよい。
続いて、推定部123は、カメラ115から術野画像を取得する(St123)。推定部123は、粗動が実施されている間の術野画像を定期的に取得することができる。術野画像の取得タイミングは、毎フレームでもよく、一定間隔毎でもよい。
続いて、推定部123は、取得した術野画像から手術顕微鏡113の位置及び向きを推定(St124)し、推定値を生成する。第2処理フローでは、基準対象を必要としない推定方法のみが利用可能である。具体的には推定部123は、SLAM(Simultaneous Localization and Mapping)技術を用いて推定値を生成することができる。SLAMでは環境マップの構築も行われるため、撮像対象との距離に加え、撮像対象の表面形状も取得することができる。
また、術野画像がステレオ画像である場合、推定部123は術野画像からDepth Mapを生成することで撮像対象に対する距離及び表面形状を求めることも可能である。図8は手術顕微鏡113の撮像対象に対する傾き及び距離を示す模式図である。同図に示すように撮像対象(ここでは例として眼球E)の表面形状が求められると、表面形状に対して平面304を当てはめ、平面304に対する垂直方向305を求めることで、手術顕微鏡113の傾きθ及び距離Lを算出することができる。
続いて、適合度算出部124は、目標値設定ステップ(St121)で設定した目標値と、手術顕微鏡位置推定ステップ(St124)で生成された推定値を比較し、適合度を算出する(St125)。適合度算出部124は、第1処理フローと同様にパラメータ(距離及び向き)毎に適合度を算出することができる。
続いて制御部125は、アーム112の動作を制御する(St126)。具体的には、制御部125は、適合度算出ステップ(St125)で算出された適合度に基づいて、第1処理フローと同様に関節118の回転に制限を加える。さらに、制御部125は、カメラ115の撮像可能距離に応じて関節118の回転を制限してもよい。
手術顕微鏡システム100は、粗動が継続している場合(St127:No)、画像取得ステップ(St123)からアーム制御ステップ(St126)を繰り返し実行し、粗動が終了(St127:Yes)すると処理フローを終了する。
なお、アーム112の動作を制御するステップ(St126)ステップでは第1処理フローと同様に、関節118の回転の制限に加え、画像処理部126が適合度に応じたUI表示処理を実行し(図6参照)、ユーザの粗動を補助してもよい。
上記処理フローにしたがって粗動を実行したのち、ユーザはフットスイッチ等を操作し、アーム112を動作(微動)させてもよい。この際にも、画像処理部126は、適合度に応じたUI表示処理を実行し(図6参照)、ユーザの微動を補助することが可能である。
<第2処理フローの変形例>
第2処理フローにおいても、制御部125は、粗動が実行される際、手術顕微鏡113のズーム倍率や絞り等を推定部123が保持する内部パラメータが利用できる設定に変更するように顕微鏡光学系114を制御することができる。これにより、推定部123は既知の内部パラメータを用いて手術顕微鏡113の位置及び向きを推定することができ、推定精度を向上させることができる。
また、制御部125は、顕微鏡光学系の倍率が高すぎると、基準対象が術野外になりやすいため、ある程度広角となるように顕微鏡光学系114を制御してもよい。さらに、フォーカスが合わないぼけた画像では手術顕微鏡113の位置及び向きの推定が難しいため、制御部125はオートフォーカスが動作するようにしたり、被写界深度が広くなるように絞りを絞ったり等の粗動用モードに設定を切り替えるように顕微鏡光学系114を制御してもよい。
[出術顕微鏡システムによる効果]
以上のように手術顕微鏡システム100では、目標値と推定値の適合度に応じて関節118の回転が制限され、手術顕微鏡113を粗動によって目標とする位置及び向きに合わせやすくすることが可能である。
これによりユーザは所望の距離や角度から観察対象の観察が容易となる。また、手術顕微鏡システム100に目標値を記憶させることにより、再現性の高いセッティングとすることが可能となる。さらに、手術顕微鏡113がカメラ115のオートフォーカス範囲外等の撮像に不適当な位置に移動することを防止できる。
さらに、手術顕微鏡113はユーザが動かすため、手術顕微鏡システム100はロボットアーム等による位置制御が不要であり、大掛かりなシステムが必要ないため、コストの抑制も可能である。
[ハードウェア構成]
制御装置120ハードウェア構成について説明する。図9は制御装置120のハードウェア構成を示す模式図である。
同図に示すように、制御装置120は、CPU(Central Processing Unit)1001を内蔵している。CPU1001にはバス1004を介して、入出力インタフェース1005が接続されている。バス1004には、ROM(Read Only Memory)1002およびRAM(Random Access Memory)1003が接続されている。
入出力インタフェース1005には、ユーザが操作コマンドを入力するキーボード、マウスなどの入力デバイスよりなる入力部1006、処理操作画面や処理結果の画像を表示デバイスに出力する出力部1007、プログラムや各種データを格納するハードディスクドライブなどよりなる記憶部1008、LAN(Local Area Network)アダプタなどよりなり、インターネットに代表されるネットワークを介した通信処理を実行する通信部1009が接続されている。また、磁気ディスク、光ディスク、光磁気ディスク、もしくは半導体メモリなどのリムーバブル記憶媒体1011に対してデータを読み書きするドライブ1010が接続されている。
CPU1001は、ROM1002に記憶されているプログラム、または磁気ディスク、光ディスク、光磁気ディスク、もしくは半導体メモリ等のリムーバブル記憶媒体1011ら読み出されて記憶部1008にインストールされ、記憶部1008からRAM1003にロードされたプログラムに従って各種の処理を実行する。RAM1003にはまた、CPU1001が各種の処理を実行する上において必要なデータなども適宜記憶される。なお、CPU1001はGPU(Graphics Processing Unit)の機能を有するものであってもよく、制御装置120はCPU1001とは別にGPUを備えるものであってもよい。
以上のように構成される制御装置120では、CPU1001が、例えば、記憶部1008に記憶されているプログラムを、入出力インタフェース1005及びバス1004を介して、RAM1003にロードして実行することにより、上述した一連の処理が行われる。
制御装置120が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブル記憶媒体1011に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
制御装置120では、プログラムは、リムーバブル記憶媒体1011をドライブ1010に装着することにより、入出力インタフェース1005を介して、記憶部1008にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部1009で受信し、記憶部1008にインストールすることができる。その他、プログラムは、ROM1002や記憶部1008に、あらかじめインストールしておくことができる。
なお、制御装置120が実行するプログラムは、本開示で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであってもよい。
また、制御装置120のハードウェア構成はすべてが一つの装置に搭載されていなくてもよく、複数の装置によって制御装置120が構成されていてもよい。また制御装置120のハードウェア構成の一部又はネットワークを介して接続されている複数の装置に搭載されていてもよい。
以上説明した本技術に係る特徴部分のうち、少なくとも2つの特徴部分を組み合わせることも可能である。すなわち各実施形態で説明した種々の特徴部分は、各実施形態の区別なく、任意に組み合わされてもよい。また上記で記載した種々の効果は、あくまで例示であって限定されるものではなく、また他の効果が発揮されてもよい。
なお、本技術は以下のような構成もとることができる。
(1)
回転可能な関節を備えるアームと、
顕微鏡光学系と、上記顕微鏡光学系による術野の顕微鏡拡大像である術野画像を撮像するカメラとを備え、上記アームに支持された手術顕微鏡と、
上記手術顕微鏡の位置及び向きの目標値を設定する目標値設定部と、
上記術野画像に基づいて上記手術顕微鏡の位置及び向きを推定し、推定値を生成する推定部と、
上記目標値と上記推定値の比較結果に応じて上記関節の回転に制限を加える制御部と
を具備する手術顕微鏡システム。
(2)
上記(1)に記載の手術顕微鏡システムであって、
上記制御部は、上記関節が上記目標値と上記推定値の差異を大きくする方向に回転する場合、上記関節の回転抵抗を大きくする
手術顕微鏡システム。
(3)
上記(2)に記載の手術顕微鏡システムであって、
上記アームは複数の関節を備え、
上記制御部は、上記複数の関節について、一定量回転した場合の上記目標値と上記推定値の差異の変化量を算出し、上記変化量が大きい関節の回転抵抗を、上記変化量が小さい関節の回転抵抗より大きくする
手術顕微鏡システム。
(4)
上記(1)から(3)のうちいずれか一つに記載の手術顕微鏡システムであって、
上記制御部は、上記目標値と上記推定値の差異が大きいほど、上記関節の回転抵抗を大きくする
手術顕微鏡システム。
(5)
上記(1)から(4)のうちいずれか一つに記載の手術顕微鏡システムであって、
上記制御部は、上記関節が上記目標値と上記推定値の差異を大きくする場合、上記関節の回転を停止させる
手術顕微鏡システム。
(6)
上記(5)に記載の手術顕微鏡システムであって、
上記制御部は、上記関節が上記目標値と上記推定値の差異を最小とする回転角度となっている場合に上記関節の回転を停止させる
手術顕微鏡システム。
(7)
上記(1)から(6)のうちいずれか一つに記載の顕微鏡システムであって、
上記目標値と上記推定値を比較し、上記目標値と上記推定値の適合度を算出する適合度算出部をさらに具備し、
上記制御部は、上記適合度に応じて上記関節の回転に制限を加える
手術顕微鏡システム。
(8)
上記(1)から(7)のうちいずれか一つに記載の手術顕微鏡システムであって、
上記制御部は、さらに、上記カメラの撮像可能距離に応じて、上記関節の回転に制限を加える
手術顕微鏡システム。
(9)
上記(1)から(8)のうちいずれか一つに記載の手術顕微鏡システムであって、
上記カメラで撮影された術野画像に基づいて基準対象を決定する基準対象決定部をさらに具備し、
上記目標値設定部は、上記基準対象の位置に対する上記手術顕微鏡の位置及び向きを上記目標値として設定する
手術顕微鏡システム。
(10)
上記(1)から(8)のうちいずれか一つに記載の手術顕微鏡システムであって、
上記目標値設定部は、上記カメラで撮像された術野画像に含まれる撮像対象の位置に対する上記手術顕微鏡の位置及び向きを上記目標値として設定する
手術顕微鏡システム。
(11)
上記(1)から(10)のうちいずれか一つに記載の手術顕微鏡システムであって、
上記目標値設定部は、過去の上記手術顕微鏡の位置及び向きを上記目標値のプリセットとして保持し、ユーザによる選択によって上記プリセットから上記目標値を設定する
手術顕微鏡システム。
(12)
上記(1)から(11)のうちいずれか一つに記載の手術顕微鏡システムであって、
請求項1に記載の手術顕微鏡システムであって、
上記推定部は、上記カメラの内部パラメータを上記手術顕微鏡の位置及び向きの推定に利用し、
上記制御部は、上記顕微鏡光学系を、上記推定部が保持している上記内部パラメータが利用できる設定に変更する
手術顕微鏡システム。
(13)
顕微鏡光学系と、上記顕微鏡光学系による術野の顕微鏡拡大像である術野画像を撮像するカメラとを備え、回転可能な関節を備えるアームに支持された手術顕微鏡の制御装置であって、
上記手術顕微鏡の位置及び向きの目標値を設定する目標値設定部と、
上記術野画像に基づいて上記手術顕微鏡の位置及び向きを推定し、推定値を生成する推定部と、
上記目標値と上記推定値の比較結果に応じて上記関節の回転に制限を加える制御部と
を具備する制御装置。
(14)
顕微鏡光学系と、上記顕微鏡光学系による術野の顕微鏡拡大像である術野画像を撮像するカメラとを備え、回転可能な関節を備えるアームに支持された手術顕微鏡の制御方法であって、
目標値設定部が、上記手術顕微鏡の位置及び向きの目標値を設定し、
推定部が、上記術野画像に基づいて上記手術顕微鏡の位置及び向きを推定して推定値を生成し、
制御部が、上記目標値と上記推定値の比較結果に応じて上記関節の回転に制限を加える
制御方法。
100…手術顕微鏡システム
110…手術顕微鏡ユニット
112…アーム
113…手術顕微鏡
114…顕微鏡光学系
115…カメラ
117…アーム部
118…関節
120…制御装置
121…基準対象決定部
122…目標値設定部
123…推定部
124…適合度算出部
125…制御部
126…画像処理部
130…表示装置

Claims (14)

  1. 回転可能な関節を備えるアームと、
    顕微鏡光学系と、前記顕微鏡光学系による術野の顕微鏡拡大像である術野画像を撮像するカメラとを備え、前記アームに支持された手術顕微鏡と、
    前記手術顕微鏡の位置及び向きの目標値を設定する目標値設定部と、
    前記術野画像に基づいて前記手術顕微鏡の位置及び向きを推定し、推定値を生成する推定部と、
    前記目標値と前記推定値の比較結果に応じて前記関節の回転に制限を加える制御部と
    を具備する手術顕微鏡システム。
  2. 請求項1に記載の手術顕微鏡システムであって、
    前記制御部は、前記関節が前記目標値と前記推定値の差異を大きくする方向に回転する場合、前記関節の回転抵抗を大きくする
    手術顕微鏡システム。
  3. 請求項2に記載の手術顕微鏡システムであって、
    前記アームは複数の関節を備え、
    前記制御部は、前記複数の関節について、一定量回転した場合の前記目標値と前記推定値の差異の変化量を算出し、前記変化量が大きい関節の回転抵抗を、前記変化量が小さい関節の回転抵抗より大きくする
    手術顕微鏡システム。
  4. 請求項1に記載の手術顕微鏡システムであって、
    前記制御部は、前記目標値と前記推定値の差異が大きいほど、前記関節の回転抵抗を大きくする
    手術顕微鏡システム。
  5. 請求項1に記載の手術顕微鏡システムであって、
    前記制御部は、前記関節が前記目標値と前記推定値の差異を大きくする方向に回転する場合、前記関節の回転を停止させる
    手術顕微鏡システム。
  6. 請求項5に記載の手術顕微鏡システムであって、
    前記制御部は、前記関節が前記目標値と前記推定値の差異を最小とする回転角度となっている場合に前記関節の回転を停止させる
    手術顕微鏡システム。
  7. 請求項1に記載の手術顕微鏡システムであって、
    前記目標値と前記推定値を比較し、前記目標値と前記推定値の適合度を算出する適合度算出部をさらに具備し、
    前記制御部は、前記適合度に応じて前記関節の回転に制限を加える
    手術顕微鏡システム。
  8. 請求項1に記載の手術顕微鏡システムであって、
    前記制御部は、さらに、前記カメラの撮像可能距離に応じて、前記関節の回転に制限を加える
    手術顕微鏡システム。
  9. 請求項1に記載の手術顕微鏡システムであって、
    前記カメラで撮影された術野画像に基づいて基準対象を決定する基準対象決定部をさらに具備し、
    前記目標値設定部は、前記基準対象の位置に対する前記手術顕微鏡の位置及び向きを前記目標値として設定する
    手術顕微鏡システム。
  10. 請求項1に記載の手術顕微鏡システムであって、
    前記目標値設定部は、前記カメラで撮像された術野画像に含まれる撮像対象の位置に対する前記手術顕微鏡の位置及び向きを前記目標値として設定する
    手術顕微鏡システム。
  11. 請求項1に記載の手術顕微鏡システムであって、
    前記目標値設定部は、過去の前記手術顕微鏡の位置及び向きを前記目標値のプリセットとして保持し、ユーザによる選択によって前記プリセットから前記目標値を設定する
    手術顕微鏡システム。
  12. 請求項1に記載の手術顕微鏡システムであって、
    前記推定部は、前記カメラの内部パラメータを前記手術顕微鏡の位置及び向きの推定に利用し、
    前記制御部は、前記顕微鏡光学系を、前記推定部が保持している前記内部パラメータが利用できる設定に変更する
    手術顕微鏡システム。
  13. 顕微鏡光学系と、前記顕微鏡光学系による術野の顕微鏡拡大像である術野画像を撮像するカメラとを備え、回転可能な関節を備えるアームに支持された手術顕微鏡の制御装置であって、
    前記手術顕微鏡の位置及び向きの目標値を設定する目標値設定部と、
    前記術野画像に基づいて前記手術顕微鏡の位置及び向きを推定し、推定値を生成する推定部と、
    前記目標値と前記推定値の比較結果に応じて前記関節の回転に制限を加える制御部と
    を具備する制御装置。
  14. 顕微鏡光学系と、前記顕微鏡光学系による術野の顕微鏡拡大像である術野画像を撮像するカメラとを備え、回転可能な関節を備えるアームに支持された手術顕微鏡の制御方法であって、
    目標値設定部が、前記手術顕微鏡の位置及び向きの目標値を設定し、
    推定部が、前記術野画像に基づいて前記手術顕微鏡の位置及び向きを推定して推定値を生成し、
    制御部が、前記目標値と前記推定値の比較結果に応じて前記関節の回転に制限を加える
    制御方法。
JP2019117384A 2019-06-25 2019-06-25 手術顕微鏡システム、制御装置及び制御方法 Pending JP2021003201A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019117384A JP2021003201A (ja) 2019-06-25 2019-06-25 手術顕微鏡システム、制御装置及び制御方法
PCT/JP2020/024328 WO2020262281A1 (ja) 2019-06-25 2020-06-22 手術顕微鏡システム、制御装置及び制御方法
US17/619,973 US20220354583A1 (en) 2019-06-25 2020-06-22 Surgical microscope system, control apparatus, and control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019117384A JP2021003201A (ja) 2019-06-25 2019-06-25 手術顕微鏡システム、制御装置及び制御方法

Publications (1)

Publication Number Publication Date
JP2021003201A true JP2021003201A (ja) 2021-01-14

Family

ID=74061634

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019117384A Pending JP2021003201A (ja) 2019-06-25 2019-06-25 手術顕微鏡システム、制御装置及び制御方法

Country Status (3)

Country Link
US (1) US20220354583A1 (ja)
JP (1) JP2021003201A (ja)
WO (1) WO2020262281A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021058734A (ja) * 2021-01-13 2021-04-15 株式会社ニューギン 遊技機

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102008011639B4 (de) * 2008-02-28 2013-01-03 Leica Instruments (Singapore) Pte. Ltd. Stativ, insbesondere für ein Operations-Mikroskop
EP2549943B1 (en) * 2010-03-22 2018-01-31 Brainlab AG Controlling a surgical microscope
KR20170035831A (ko) * 2014-03-14 2017-03-31 시냅티브 메디컬 (바베이도스) 아이엔씨. 인텔리전트 포지셔닝 시스템과 그것의 방법들
US10272569B2 (en) * 2014-10-27 2019-04-30 Intuitive Surgical Operations, Inc. System and method for instrument disturbance compensation
JP2017104914A (ja) * 2015-12-07 2017-06-15 リバーフィールド株式会社 外力追従制御システム
JP6643072B2 (ja) * 2015-12-10 2020-02-12 キヤノン株式会社 顕微鏡システムおよびその制御方法
US10917543B2 (en) * 2017-04-24 2021-02-09 Alcon Inc. Stereoscopic visualization camera and integrated robotics platform
CA2977380C (en) * 2017-08-28 2020-06-30 Synaptive Medical (Barbados) Inc. End effector force sensor and manual actuation assistance
DE102018206406B3 (de) * 2018-04-25 2019-09-12 Carl Zeiss Meditec Ag Mikroskopiesystem und Verfahren zum Betrieb eines Mikroskopiesystems
JP6871220B2 (ja) * 2018-11-08 2021-05-12 ファナック株式会社 制御システム
US20200282558A1 (en) * 2019-03-07 2020-09-10 LinkDyn Robotics Inc. System and method for controlling a robot with torque-controllable actuators

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021058734A (ja) * 2021-01-13 2021-04-15 株式会社ニューギン 遊技機

Also Published As

Publication number Publication date
WO2020262281A1 (ja) 2020-12-30
US20220354583A1 (en) 2022-11-10

Similar Documents

Publication Publication Date Title
JP7249278B2 (ja) 眼科手術用の適応的画像レジストレーション
US20140282196A1 (en) Robotic system providing user selectable actions associated with gaze tracking
KR101856546B1 (ko) 영상에서 처리 대상 객체를 제거하는 방법 및 이러한 방법을 수행하는 장치
US20220227000A1 (en) Geometrically appropriate tool selection assistance for determined work site dimensions
JP2016214781A (ja) 手術システム、並びに画像処理装置および方法
JP2015035211A (ja) パターンマッチング方法及びパターンマッチング装置
WO2020262281A1 (ja) 手術顕微鏡システム、制御装置及び制御方法
US11409091B2 (en) Method of operating a surgical microscope and surgical microscope
US11864841B2 (en) Method of operating a surgical microscope and surgical microscope
CN113633387A (zh) 术野追踪的扶持腹腔镜微创机器人触力交互方法和系统
JP4653041B2 (ja) イメージ・ブロックを合成し顕微鏡スライドのシームレスな拡大イメージを作成するシステム及び方法
WO2023040817A1 (zh) 医生控制台的控制方法、医生控制台、机器人系统和介质
CN113907693B (zh) 操作映射比例调整方法、装置、电子设备以及存储介质
WO2023245708A1 (zh) 基于机器视觉的电极植入方法及系统
CN113472984B (zh) 图像获取方法、装置、系统、存储介质和设备
JP4568024B2 (ja) 眼球運動測定装置、及び眼球運動測定プログラム
JPH08313217A (ja) 非接触画像計測システム
EP3793425A1 (en) System and method for automated image-guided robotic intraocular surgery
JP2000306106A (ja) 3次元有向体の定位方法及び画像処理装置
JP2686685B2 (ja) ロボットによる物体操作のための能動的カメラ探索装置
EP3669749B1 (en) Optical coherence tomography scan control
JP7450115B2 (ja) 顕微鏡法システムの動作方法及び顕微鏡法システム
US11977678B2 (en) Robotic system providing user selectable actions associated with gaze tracking
US20220233245A1 (en) Medical control device and medical observation system
WO2023100234A1 (ja) 内視鏡システムおよび座標系補正方法