JP7350726B2 - 画像ベースの分岐検出およびナビゲーション用マッピング - Google Patents

Description

本開示は、医療器具のナビゲーションのシステムおよび方法に関し、より具体的には、画像ベースの分岐検出およびナビゲーションにおけるロボット制御される医療器具のマッピングに関する。

内視鏡検査（例えば、気管支鏡検査）などの医療手技には、診断目的または治療目的で患者の管腔（例えば、気道）内にアクセスおよび視覚化することが含まれる。特定の手技では、内視鏡などの軟性の管状の道具や器具が患者の体内に挿入される。場合によっては、診断および／または治療目的で識別された組織部位に対して、第２の器具が内視鏡に通されることもある。

気管支鏡検査は、医師が気管支や細気管支などの患者の肺気道の内部状態を検査できる医療手技である。医療手技中に、気管支鏡として知られる薄くて柔軟な管状ツールを患者の口に挿入し、患者の喉から肺気道を経由して、後続の診断と治療のために識別された対象組織部位に向けて通してもよい。気管支鏡は、対象組織部位への経路を提供する内部管腔（「ワーキングチャネル」）を有し、カテーテルおよび種々の医療器具を、ワーキングチャネルを通して組織部位に挿入することができる。

特定の医療手技では、手術具の挿入および／または操作を制御するために手術ロボットシステムが使用される。手術ロボットシステムは、少なくとも１つのロボットアームや、手技中に手術具の位置決め制御に使用するマニピュレータアセンブリなどのその他の器具位置決め装置を有する。

ロボット対応医療システムは、腹腔鏡手技などの低侵襲手技や内視鏡手技などの非侵襲手技を含む種々の医療手技を行うために使用することができる。内視鏡手技においては、気管支鏡検査、尿管鏡検査、消化器検査などを実行するためにロボット対応医療システムを使用することができる。これらの手技においては、施術者および／またはコンピュータシステムによって、患者の管腔ネットワークを通って医療器具をナビゲートすることができる。管腔ネットワークには、複数の分岐を有する管腔（気管支ネットワークや腎臓部のネットワークなど）や１本の管腔（胃腸管など）が含まれる。ロボット対応医療システムは、管腔ネットワークを通って医療器具をガイドする（あるいはガイドを支援する）ナビゲーションシステムを有してもよい。

本件開示の実施形態は、画像ベースの分岐検出およびマッピングのシステムおよび方法に関する。画像ベースの分岐検出およびマッピングは、管腔ネットワークにおけるナビゲーションを支援することができる。画像ベースの分岐検出は、画像処理装置によって取得された器具の画像内における、管腔ネットワークの１つ以上の分岐に関連する１つ以上の開口を識別することを含む。画像ベースの分岐マッピングは、検出された１つ以上の開口を、管腔ネットワークの対応する分岐にマッピングすることを含む。これらのシステムおよび方法を使用することで、管腔ネットワーク内の器具の位置を特定または推定することができる。本件開示のシステム、方法および装置には、それぞれいくつかの革新的な側面があり、いずれも本明細書に開示する所望の特徴を単独で担うものではない。

したがって、第１の側面は、命令が記憶された非一時的なコンピュータ可読記憶媒体であって、前記命令が実行されると、装置のプロセッサに少なくとも、管腔ネットワークの
現在の分岐内に位置する器具の位置状態の推定を特定することと、前記位置状態の推定と前記管腔ネットワークの術前モデルとに少なくとも部分的に基づいて、予想される後続の一連の分岐を特定することと、前記器具上に位置する画像処理装置によって前記現在の分岐の画像を取得することと、前記画像内において、前記管腔ネットワークの後続の分岐と現在の分岐とを接続する複数の開口を検出することと、前記検出された複数の開口の１つまたは複数の特徴と前記予想される後続の一連の分岐とを比較して、前記複数の開口のそれぞれを前記予想される後続の一連の分岐のいずれかの分岐にマッピングすることと、前記比較に少なくとも部分的に基づいて、更新された位置状態の推定を提供することと、を実行させる非一時的なコンピュータ可読記憶媒体に関する。

また、第１の側面では、以下の１つまたは複数の特徴を任意に組み合わせてもよい。（ａ）前記更新された位置状態の推定は、前記位置状態の推定が正しい確率を含む。（ｂ）前記確率は、前記検出された複数の開口の前記１つまたは複数の特徴と前記予想される後続の一連の分岐との比較に少なくとも部分的に基づいて特定される。（ｃ）前記確率は、前記検出された複数の開口の前記１つまたは複数の特徴が前記予想される後続の一連の分岐と一致する度合いに部分的に基づいて特定される。（ｄ）前記更新された位置状態の推定は、前記器具の移動先である後続の分岐の推定を含む。（ｅ）前記命令が実行されると、前記装置の前記プロセッサに、前記検出された複数の開口のいずれの開口が前記画像の中心により近いかを特定すること、を実行させる。（ｆ）前記更新された位置状態の推定は、前記画像の中心により近いと特定された開口に前記器具が移動する確率を含む。（ｇ）前記位置状態の推定は、前記器具の長手方向の軸周りにおける前記器具の回転の推定を含み、前記更新された位置状態の推定は、前記回転の推定が正しい確率を含み、前記確率は、前記画像内における前記検出された開口の向きと前記術前モデルに基づいて予想される、前記後続の一連の分岐の向きとを比較することによって特定される。（ｈ）前記位置状態の推定は、前記器具の長手方向の軸周りにおける前記器具の回転の推定を含み、前記命令が実行されると、前記装置の前記プロセッサに、前記画像内における前記検出された開口の向きと前記術前モデルに基づいて予想される、前記後続の一連の分岐の向きとを比較することによって、回転の修正された推定を特定すること、を実行させる。（ｉ）前記命令が実行されると、前記装置の前記プロセッサに、前記検出された開口の前記１つまたは複数の特徴を特定すること、を実行させる。（ｊ）前記１つまたは複数の特徴は、開口の重心、開口の輪郭、２つの開口の重心を結ぶベクトルからなる群から選択される。（ｋ）前記命令が実行されると、前記装置の前記プロセッサに、前記術前モデルから前記予想される後続の一連の分岐に関する情報を取得することであって、前記情報は、開口の重心と開口の輪郭と２つの開口の重心を結ぶベクトルとのうち少なくとも１つを含む、こと、を実行させる。（ｌ）前記命令が実行されると、前記装置の前記プロセッサに、前記検出された開口のそれぞれに対して、前記検出された開口の１つまたは複数の特徴を前記予想される後続の一連の分岐にマッチングさせることを繰り返し行うことによって、前記検出された複数の開口の前記１つまたは複数の特徴を、前記予想される後続の一連の分岐と比較すること、を実行させ、前記マッチングの一致度が最も高いものを用いて、前記検出された開口を前記予想される後続の分岐の１つの分岐にマッピングする。（ｍ）前記命令が実行されると、前記装置の前記プロセッサに、前記画像の画素強度値のヒストグラムを生成することと、前記ヒストグラムを解析して画像内の前記複数の開口を識別することと、によって、前記画像内の前記複数の開口を検出すること、を実行させる。（ｎ）前記ヒストグラムを解析することは、前記ヒストグラム内の少なくとも２つのピークを識別することと、前記少なくとも２つのピークの間の中間点を識別することと、前記中間点の第１の側にある画素を開口として分類することと、を含む。

第２の側面は、患者の管腔ネットワークにおけるナビゲーションを行うロボットシステムであって、器具であって、前記管腔ネットワークに挿入される長尺の本体と、前記長尺の本体の遠位部分に位置する画像処理装置と、を有する器具と、前記器具に取り付けられ
る器具位置決め装置であって、前記器具位置決め装置は、前記器具を前記管腔ネットワークを通って移動させる、器具位置決め装置と、実行可能な命令を記憶する少なくとも１つのコンピュータ可読メモリと、前記少なくとも１つのコンピュータ可読メモリと通信する１つまたは複数のプロセッサであって、前記命令を実行して、前記システムに少なくとも、管腔ネットワークの現在の分岐内に位置する器具の位置状態の推定を特定することと、前記位置状態の推定と前記管腔ネットワークの術前モデルとに少なくとも部分的に基づいて、予想される後続の一連の分岐を特定することと、前記器具上に位置する画像処理装置によって前記現在の分岐の画像を取得することと、前記画像内において、前記管腔ネットワークの後続の分岐と現在の分岐とを接続する複数の開口を検出することと、前記検出された複数の開口の１つまたは複数の特徴と前記予想される後続の一連の分岐とを比較して、前記複数の開口のそれぞれを前記予想される後続の一連の分岐のいずれかの分岐にマッピングすることと、前記比較に少なくとも部分的に基づいて、更新された位置状態の推定を提供することと、
を実行させる１つまたは複数のプロセッサと、を有することを特徴とするシステムに関する。

また、第２の側面では、以下の１つまたは複数の特徴を任意に組み合わせてもよい。（ａ）前記器具は内視鏡を含む。（ｂ）前記器具位置決め装置はロボットアームを含む。（ｃ）前記管腔ネットワークは、肺の気管支ネットワークまたは胃腸管または腎臓部のネットワークを含む。（ｄ）前記更新された位置状態の推定は、前記画像の中心により近いと特定された開口に前記器具が移動する確率を含む。（ｅ）前記確率は、前記検出された複数の開口の前記１つまたは複数の特徴と前記予想される後続の一連の分岐との比較に部分的に基づいて特定される。（ｆ）前記確率は、前記検出された複数の開口の前記１つまたは複数の特徴が前記予想される後続の一連の分岐と一致する度合いに部分的に基づいて特定される。（ｇ）前記更新された位置状態の推定は、前記画像の中心により近いと特定された開口に前記器具が移動する確率を含む。（ｈ）前記命令が実行されると、前記１つまたは複数のプロセッサに、前記検出された複数の開口のいずれの開口が前記画像の中心により近いかを特定すること、を実行させる。（ｉ）前記更新された位置状態の推定は、前記画像の中心により近いと特定された開口に前記器具が移動する確率を含む。（ｊ）前記位置状態の推定は、前記器具の長手方向の軸周りにおける前記器具の回転の推定を含み、前記命令が実行されると、前記１つまたは複数のプロセッサに、前記画像内における前記検出された開口の向きと前記術前モデルに基づいて予想される、前記後続の一連の分岐の向きとを比較することによって、回転の修正された推定を特定すること、を実行させる。（ｋ）前記位置状態の推定は、前記器具の長手方向の軸周りにおける前記器具の回転の推定を含み、前記命令が実行されると、前記１つまたは複数のプロセッサに、前記画像内における前記検出された開口の向きと前記術前モデルに基づいて予想される、前記後続の一連の分岐の向きとを比較することによって、回転の修正された推定を特定すること、を実行させる。（ｌ）前記命令が実行されると、前記１つまたは複数のプロセッサに、前記検出された開口の前記１つまたは複数の特徴を特定すること、を実行させる。（ｍ）前記１つまたは複数の特徴は、開口の重心、開口の輪郭、２つの開口の重心を結ぶベクトルからなる群から選択される。（ｎ）前記命令が実行されると、前記１つまたは複数のプロセッサに、前記術前モデルから前記予想される後続の一連の分岐に関する情報を取得することであって、前記情報は、開口の重心と開口の輪郭と２つの開口の重心を結ぶベクトルとのうち少なくとも１つを含む、こと、を実行させる。（ｏ）前記命令が実行されると、前記１つまたは複数のプロセッサに、前記検出された開口のそれぞれに対して、前記検出された開口の１つまたは複数の特徴を前記予想される後続の一連の分岐にマッチングさせることを繰り返し行うことによって、前記検出された複数の開口の前記１つまたは複数の特徴を、前記予想される後続の一連の分岐と比較すること、を実行させ、前記マッチングの一致度が最も高いものを用いて、前記検出された開口を前記予想される後続の分岐の１つの分岐にマッピングする。（ｐ）前記命令が実行されると、前記１つまたは複数のプロセッ
サに、前記画像の画素強度値のヒストグラムを生成することと、前記ヒストグラムを解析して画像内の前記複数の開口を識別することと、によって、前記画像内の前記複数の開口を検出すること、を実行させる。（ｑ）前記ヒストグラムを解析することは、前記ヒストグラム内の少なくとも２つのピークを識別することと、前記少なくとも２つのピークの間の中間点を識別することと、前記中間点の第１の側にある画素を開口として分類することと、を含む。

第３の側面は、管腔ネットワークにおけるナビゲーションを実行する方法であって、前記管腔ネットワークの現在の分岐に器具を挿入することと、前記器具の位置状態の推定を受信することと、前記初期状態の推定と前記管腔ネットワークの術前モデルとに少なくとも部分的に基づいて、予想される後続の一連の分岐を特定することと、前記器具上に位置する画像処理装置によって前記現在の分岐の画像を取得することと、前記画像を解析して、後続の分岐と前記現在の分岐とを接続する複数の開口を検出することと、前記検出された複数の開口の特徴と前記予想される後続の一連の分岐とを比較して、前記複数の開口のそれぞれを前記予想される後続の一連の分岐のいずれかの分岐にマッピングすることと、前記比較に少なくとも部分的に基づいて、更新された位置状態の推定を提供することと、を含むことを特徴とする方法に関する。

また、第３の側面では、以下の１つまたは複数の特徴を任意に組み合わせてもよい。（ａ）前記器具は内視鏡を含む。（ｂ）前記器具位置決め装置はロボットアームを含む。（ｃ）前記管腔ネットワークは、肺の気管支ネットワークまたは胃腸管または腎臓部のネットワークを含む。（ｄ）前記更新された位置状態の推定は、前記画像の中心により近いと特定された開口に前記器具が移動する確率を含む。（ｅ）前記確率は、前記検出された複数の開口の前記１つまたは複数の特徴と前記予想される後続の一連の分岐との比較に部分的に基づいて特定される。（ｆ）前記確率は、前記検出された複数の開口の前記１つまたは複数の特徴が前記予想される後続の一連の分岐と一致する度合いに部分的に基づいて特定される。（ｇ）前記更新された位置状態の推定は、前記画像の中心により近いと特定された開口に前記器具が移動する確率を含む。（ｈ）前記検出された複数の開口のいずれの開口が前記画像の中心により近いかを特定すること、をさらに含む。（ｉ）前記更新された位置状態の推定は、前記画像の中心により近いと特定された開口に前記器具が移動する確率を含む。（ｊ）前記位置状態の推定は、前記器具の長手方向の軸周りにおける前記器具の回転の推定を含み、前記更新された位置状態の推定は、前記回転の推定が正しい確率を含み、前記方法はさらに、前記画像内における前記検出された開口の向きと前記術前モデルに基づいて予想される、前記後続の一連の分岐の向きとを比較することによって、前記確率を特定する、ことを含む。（ｋ）前記位置状態の推定は、前記器具の長手方向の軸周りにおける前記器具の回転の推定を含み、前記方法はさらに、前記画像内における前記検出された開口の向きと前記術前モデルに基づいて予想される、前記後続の一連の分岐の向きとを比較することによって、回転の修正された推定を特定すること、を含む。（ｌ）前記検出された開口の前記１つまたは複数の特徴を特定すること、を含む。（ｍ）前記１つまたは複数の特徴は、開口の重心、開口の輪郭、２つの開口の重心を結ぶベクトルからなる群から選択される。（ｎ）前記術前モデルから前記予想される後続の一連の分岐に関する情報を取得することであって、前記情報は、開口の重心と開口の輪郭と２つの開口の重心を結ぶベクトルとのうち少なくとも１つを含む、こと、を含む。（ｏ）前記検出された複数の開口の前記１つまたは複数の特徴を、前記予想される後続の一連の分岐と比較することは、前記検出された開口のそれぞれに対して、前記検出された開口の１つまたは複数の特徴を前記予想される後続の一連の分岐にマッチングさせることを繰り返し行うこと、を含み、前記マッチングの一致度が最も高いものを用いて、前記検出された開口を前記予想される後続の分岐の１つの分岐にマッピングする。（ｐ）前記画像内の前記複数の開口を検出することは、前記画像の画素強度値のヒストグラムを生成することと、前記ヒストグラムを解析して画像内の前記複数の開口を識別することと、を含む。（ｑ）前記ヒス
トグラムを解析することは、前記ヒストグラム内の少なくとも２つのピークを識別することと、前記少なくとも２つのピークの間の中間点を識別することと、前記中間点の第１の側にある画素を開口として分類することと、を含む。

第４の側面は、管腔ネットワークの分岐の開口を識別する方法であって、前記分岐内に位置する画像処理装置を用いて前記管腔ネットワークの前記分岐の内部の画像を取得することと、前記画像の画素強度値のヒストグラムを生成することと、前記画像において閾値未満の画素を開口を示すものとして識別することと、を含むことを特徴とする方法に関する。

また、第４の側面では、以下の１つまたは複数の特徴を任意に組み合わせてもよい。（ａ）前記ヒストグラムに基づいて前記閾値を特定する。（ｂ）前記閾値を特定することは、前記ヒストグラム内の少なくとも２つのピークを識別することと、前記少なくとも２つのピークの間の中間点を識別することと、前記閾値を前記中間点の前記強度値に等しい値に設定することと、を含む。（ｃ）前記画像において前記識別された開口のそれぞれに対して、前記開口の重心を特定する。（ｄ）前記画像において前記識別された開口のそれぞれに対して、前記開口の輪郭を特定する。（ｅ）前記画像内の前記識別された開口の数と不良フレーム検出器の閾値とを比較することと、前記識別された開口の数が前記不良フレーム検出器の閾値を超えたことに応じて、前記分岐の前記内部の第２の画像を取得し、前記第２の画像を解析して、前記第２の画像内で開口を特定する、ことと、をさらに含む。（ｆ）前記管腔ネットワークは、肺の気管支ネットワークまたは胃腸管または腎臓部のネットワークである。

本件開示の側面について、添付の図面および表と共に以下に説明するが、例示であって開示の側面を限定するものではなく、同様の構成要素には同様の名称を付す。

気管支鏡検査手技の診断および／または治療用に構成されたカートベースのロボットシステムの一実施形態を示す図である。 図１のロボットシステムの別の側面を示す図である。 尿管鏡検査用に構成された図１のロボットシステムの一実施形態を示す図である。 血管手技用に構成された図１のロボットシステムの一実施形態を示す図である。 気管支鏡検査手技用に構成されたテーブルベースのロボットシステムの一実施形態を示す図である。 図５のロボットシステムの代替の図である。 ロボットアームを収容するように構成されたシステムの一例を示す図である。 尿管鏡検査用に構成されたテーブルベースのロボットシステムの一実施形態を示す図である。 腹腔鏡検査用に構成されたテーブルベースのロボットシステムの一実施形態を示す図である。 ピッチ調整または傾き調整された図５～９のテーブルベースのロボットシステムの一実施形態を示す図である。 図５～１０のテーブルベースのロボットシステムのテーブルとカラムとの間のインタフェースの詳細図である。 例示的な器具駆動部を示す図である。 組になった器具駆動部を有する例示的な医療器具を示す図である。 駆動ユニットの軸が器具の細長いシャフトの軸と平行である、器具駆動部および器具の代替の設計を示す図である。 実施形態の一例における、図１３や１４の器具の位置など、図１～１０のロボットシステム１つまたは複数の要素の位置を推定する位置決めシステムを示すブロック図である。 管腔ネットワークのナビゲーションを行う器具の一例を示す図である。 ロボット制御手術システムのコマンドコンソールの一例を示す図である。 一実施形態の医療器具の遠位端を示す図である。 画像ベースの分岐検出およびマッピングの方法の一例を示すフローチャートである。 管腔ネットワークの分岐の内部の画像の一例を示す図である。 画像ベースの分岐検出の方法の一例を示すフローチャートである。 画素強度値のヒストグラムの一例を示す図である。 画像ベースの分岐検出を示す画像の一例を示す図である。 画像ベースの分岐検出を示す画像の一例を示す図である。 画像ベースの分岐検出の方法の一例を示すフローチャートである。 管腔ネットワークの簡易表示を示す図である。 画像ベースの分岐マッピングの方法の一例を示すフローチャートである。 画像ベースの分岐マッピングの方法におけるステップの一例を示す図である。 画像ベースの分岐マッピングの方法におけるステップの一例を示す図である。 画像ベースの分岐マッピングの方法におけるステップの一例を示す図である。 画像ベースの分岐予測の画像の一例を示す図である。 画像ベースの分岐検出およびマッピングの方法の一例を示すフローチャートである。

（１．はじめに）
本件開示の側面は、腹腔鏡検査などの低侵襲の手技や内視鏡検査などの非侵襲の手技を含む種々の医療手技を実行可能なロボット対応医療システムに組み込むことができる。内視鏡検査の手技においては、本システムは、気管支鏡検査、尿管鏡検査、消化器病検査などを実行することができる。

本システムは、さまざまな手技を実行できることに加えて、術者を支援する強化された画像取得や誘導など、追加の利点を提供することができる。また、本システムは、扱いにくいアームの動きや位置などに対応する必要なく、人工工学による位置から手技を行うことが可能な機能を術者に提供することができる。さらに、本システムは、システムの１つまたは複数の器具を１人のユーザで制御可能な使いやすさが向上した手技を行うことが可能な機能を術者に提供することができる。

以下に、例示目的の図面とともに種々の実施形態について説明する。開示の技術的思想のその他多数の実装が可能であり、さまざまな利点が開示の実装と共に得られる。また、ここには、参照用および多数の節の位置がわかるように見出しが含まれている。これらの見出しは、見出しが示す技術思想の範囲を制限するものではない。それぞれの技術思想は本明細書全体にわたって適用されてよい。

（Ａ．ロボットシステム－カート）
ロボット対応医療システムは、特定手技に応じてさまざまに構成することができる。図１は、気管支鏡検査の診断手技および／または治療樹技用に配置されたカートベースのロ
ボット対応システム１０の一実施形態を示す。気管支検査時に、システム１０は、気管支鏡検査用の手技に特化した気管支鏡を自然開口のアクセスポイント（この例ではテーブルに配置された患者の口など）に操作可能な内視鏡１３などの医療器具を搬送して診断用の道具および／または治療用の道具を搬送するための、１つまたは複数のロボットアーム１２を有するカート１１を備える。図に示すように、カート１１は、当該アクセスポイントにアクセスするために、患者の上半身に近い位置に配置されている。同様に、ロボットアーム１２は、当該アクセスポイントに対して気管支鏡を配置するように作動可能である。図１に示す配置は、胃腸に関する（ＧＩ；gastro-intestinal）手技用の特別な内視鏡で
ある胃鏡を用いた胃腸に関する手技を行うときにも使用できる。図２は、カートの一例である実施形態をより詳細に示す。

引き続き図１を参照すると、カート１１が適切に位置決めされると、ロボットアーム１２は操縦可能な内視鏡１３を患者に、ロボットにより、手動により、またはそれらの組み合わせにより挿入することができる。図示のように、操縦可能な内視鏡１３は内側リーダ部分および外部シース部分などの少なくとも２つの入れ子式部分を備えることができ、各部分は器具ドライバ２８のセットから別個の器具ドライバに結合され、各器具ドライバは個々のロボットアームの遠位端に結合される。リーダ部分をシース部分と同軸に位置合わせすることを容易にする、器具ドライバ２８のこの線形配置は、１つ以上のロボットアーム１２を異なる角度および／または位置に操作することによって、空間内で再配置され得る「仮想レール」２９を作成する。本明細書で説明する仮想レールは破線を使用して図示され、したがって、破線はシステムのいかなる物理的構造も示さない。仮想レール２９に沿った器具ドライバ２８の移動は外部シース部分に対して内側リーダ部分を入れ子式にし、または内視鏡１３を患者から前進または後退させる。仮想レール２９の角度は、臨床用途または医師の好みに基づいて、調整、移動、および旋回されてもよい。例えば、気管支鏡検査では、図示のような仮想レール２９の角度および位置が内視鏡１３を患者の口内に曲げることに起因する摩擦を最小限に抑えながら、内視鏡１３への医師のアクセスを提供することの折衷案を表す。

内視鏡１３は、挿入後、ロボットシステムからの正確なコマンドを使用して、目標位置または手術部位に到達するまで、患者の気管および肺に向けられ得る。患者の肺ネットワークを通るナビゲーションを強化し、かつ／または所望の標的に到達するために、内視鏡１３を操作して、外部シース部分から内側リーダ部分を入れ子式に延ばして、関節動作を強化し、曲げ半径を大きくすることができる。別個の器具ドライバ２８の使用はまた、リーダ部分およびシース部分が、互いに独立して駆動されることを可能にする。

例えば、内視鏡１３は例えば、患者の肺内の病変または結節などの標的に生検針を送達するように指示されてもよい。針は病理学者によって解析されるべき組織サンプルを得るために、内視鏡の長さにわたるワーキングチャネルに沿って展開され得る。病理学的結果に応じて、追加のツールが追加の生検のために、内視鏡のワーキングチャネルの下方に配置されてもよい。悪性である結節を同定した後、内視鏡１３は、潜在的に癌性の組織を切除するためのツールを内視鏡的に送達し得る。いくつかの例において、診断および治療手技は、別々の手続で送達される必要があり得る。これらの状況では、内視鏡１３はまた、基準を送達して、対象結節の位置を「マーキング」するために使用され得る。他の例において、診断および治療手技は、同じ手順の間に送達され得る。

システム１０はまた、可動タワー３０を含むことができ、このタワー３０は、支持ケーブルを介してカート１１に接続されて、カート１１に対する制御、電子機器、流体工学、光学系、センサ、および／または電力のためのサポートを提供することができる。このような機能をタワー３０内に配置することにより、より小さなフォームファクタのカート１１が可能になり、これは、手術医師およびそのスタッフによって、より容易に調整および
／または再配置され得る。さらに、カート／テーブルと支持タワー３０との間の機能の分割は手術室の混乱を低減し、臨床作業の流れを改善することを容易にする。カート１１を患者の近くに配置することができるが、タワー３０は手技中に邪魔にならないように離れた場所に収容することができる。

上述のロボットシステムのサポートにおいて、タワー３０はコンピュータプログラム命令を、例えば、永続的磁気記憶ドライブ、ソリッドステートドライブなどの非一時的コンピュータ可読記憶媒体内に記憶するコンピュータベースの制御システムの構成要素を含むことができる。これらの命令の実行は、実行がタワー３０またはカート１１内で行われるかどうかにかかわらず、システム全体またはそのサブシステムを制御することができる。例えば、コンピュータシステムのプロセッサによって実行される場合、命令はロボットシステムの構成要素に、関連するキャリッジおよびアームマウントを作動させ、ロボットアームを作動させ、医療器具を制御させることができる。例えば、制御信号の受信に応じて、ロボットアームのジョイント内のモータは、アームを特定の姿勢に位置決めすることができる。

タワー３０はまた、内視鏡１３を通して展開され得るシステムに制御された潅注および吸引能力を提供するために、ポンプ、流量計、弁制御、および／または流体アクセスを含む。これらの構成要素は、タワー３０のコンピュータシステムを使用して制御することもできる。いくつかの実施形態では、洗浄および吸引能力が別個のケーブルを介して内視鏡１３に直接送達されてもよい。

タワー３０はカート１１にフィルタされ保護された電力を供給するように設計された電圧およびサージプロテクタを含むことができ、それによって、カート１１内に電力変圧器および他の補助電力部品を配置することが回避され、その結果、より小さく、より可動性の高いカート１１が得られる。

タワー３０はまた、ロボットシステム１０全体に展開されるセンサのための支持装置を含むことができる。例えば、タワー３０はロボットシステム１０全体にわたって光学センサまたはカメラから受信したデータを検出し、受信し、処理するための光電子機器を含むことができる。制御システムと組み合わせて、このような光電子機器を使用して、タワー３０を含むシステム全体に配置された任意の数のコンソールに表示するためのリアルタイム画像を生成することができる。同様に、タワー３０は配置された電磁（ＥＭ；Electromagnetic）センサから受信された信号を受信し、処理するための電子サブシステムも含む
ことができる。タワー３０はまた、医療器具内または医療器具上の電磁センサによる検出のために電磁場発生器を収容し、位置決めするために使用されてもよい。

タワー３０は、システムの残りの部分で利用可能な他のコンソール、例えばカートの頂部に取り付けられたコンソールに加えて、コンソール３１を含むこともできる。コンソール３１は、ユーザインタフェースと、医師の操作者のためのタッチスクリーンなどの表示画面とを含むことができる。システム１０内のコンソールは一般に、ロボット制御と、内視鏡１３のナビゲーションおよび位置決め情報などの手術前およびリアルタイム情報との両方を提供するように設計される。コンソール３１が医師が利用できる唯一のコンソールではない場合、看護師のような第二の操作者によって、患者の健康状態や活動状態とシステムの動作を監視し、ナビゲーションおよび位置決め情報などの手続固有のデータを提供するために使用することができる。他の実施形態では、コンソール３０は、タワー３０とは別の筐体内に格納されている。

タワー３０は、１つまたは複数のケーブルまたは接続部（図示せず）を介してカート１１および内視鏡１３に結合することができる。いくつかの実施形態では、タワー３０から
のサポート機能が単一のケーブルを介してカート１１に提供されてもよく、手術室を単純化し、混乱を解消する。他の実施形態では、特定の機能が別個のケーブル配線および接続で結合されてもよい。例えば、単一の電力ケーブルを介してカートに電力を供給することができるが、制御、光学、流体、および／またはナビゲーションのための支持体は別個のケーブルを介して提供することができる。

図２は、図１に示されたカートベースのロボット使用可能システムからのカートの実施形態の詳細図を提供する。カート１１は全体として、細長い支持構造１４（しばしば「カラム」と呼ばれる）、カート基部１５、およびカラム１４の上端部にコンソール１６を含む。カラム１４は、１つまたは複数のロボットアーム１２（図２には３つが示されている）の展開を支持するためのキャリッジ１７（あるいは「アーム支持体」）などの１つまたは複数のキャリッジを含むことができる。キャリッジ１７は、患者に対してより良好に位置決めするためにロボットアーム１２の基部を調整するために垂直軸に沿って回転する個別に構成可能なアームマウントを含むことができる。キャリッジ１７はまた、キャリッジ１７がカラム１４に沿って垂直に移動することを可能にするキャリッジインタフェース１９を含む。

キャリッジインタフェース１９は、キャリッジ１７の垂直方向の移動を案内するためにカラム１４の両側に配置されたスロット２０のようなスロットを介してカラム１４に接続されている。スロット２０はキャリッジをカート基部１５に対して種々の垂直高さに位置決めし、保持するための垂直移動インタフェースを含む。キャリッジ１７の垂直移動は、カート１１が様々なテーブル高さ、患者サイズ、および医師の好みに合うようにロボットアーム１２の到達範囲を調整することを可能にする。同様に、キャリッジ１７上の個々に構成可能なアームマウントは、ロボットアーム１２のロボットアームベース２１が様々な構成で角度付けされることを可能にする。

いくつかの実施形態では、スロット２０がキャリッジ１７が垂直に移動するときに、カラム１４の内部チャンバおよび垂直移動インタフェース内への汚れおよび流体の進入を防止するために、スロット表面と面一であり、かつ平行であるスロットカバーで補足されてもよい。スロットカバーは、スロット２０の縦上端部および底部の近くに配置されたバネスプールの対を通して展開されてもよい。カバーはキャリッジ１７が垂直に上下に平行移動するときに、展開されてそれらのコイル状態から伸縮するまで、スプール内でコイル状に巻かれる。スプールのばね荷重はキャリッジ１７がスプールに向かって移動するときにカバーをスプール内に引っ込める力を提供し、一方、キャリッジ１７がスプールから離れるように移動するときにも緊密な捺印を維持する。カバーは例えば、キャリッジ１７が移動するときにカバーの適切な伸縮を確実にするために、キャリッジインタフェース１９内のブラケットを使用して、キャリッジ１７に接続されてもよい。

カラム１４はユーザ入力、例えばコンソール１６からの入力に応答して生成される制御信号に応答して機械的な方法でキャリッジ１７を移動させるために、垂直に位置合わせされた親ねじを使用するように設計された、歯車およびモータなどの機構を内部に備えることができる。

ロボットアーム１２は一般に、一連のジョイント２４によって接続された一連のリンク機構２３によって分離されたロボットアーム基部２１およびエンドエフェクタ２２を備えることができ、各ジョイントは独立したアクチュエータを備え、各アクチュエータは独立して制御可能なモータを備える。各独立して制御可能なジョイントは、ロボットアームに利用可能な独立した自由度を表す。アーム１２のそれぞれは７つのジョイントを有し、したがって、７つの自由度を提供する。多数のジョイントは多数の自由度をもたらし、「冗長である」自由度を可能にする。冗長な自由度は、ロボットアーム１２が異なる結合位置
および関節角を使用して、空間内の特定の位置、向き、および軌道にそれぞれのエンドエフェクタ２２を位置決めすることを可能にする。これにより、システムは医師が腕の関節を患者から離れた臨床的に有利な位置に移動させて、腕の衝突を回避して、より広いアクセス範囲を実現しながら、空間内の所望の位置から医療器具を位置決めしたり方向付けたりすることが可能になる。

カート基部１５は、床上のカラム１４、キャリッジ１７、およびアーム１２の重量を釣り合わせる。したがって、カート基部１５は、電子機器、モータ、電源などのより重い構成要素、ならびにカートの移動および／または固定のいずれかを可能にする構成要素を収容する。例えば、カート基部１５は、手技の前にカートが部屋の周りを容易に移動することを可能にする、回転可能なホイール形状のキャスタ２５を含む。適切な位置に到達した後、キャスタ２５は、手続中にカート１１を所定の位置に保持するためにホイールロックを使用して固定されてもよい。

コンソール１６はカラム１４の垂直端部に配置されているので、ユーザ入力を受け取るためのユーザインタフェースと、医師ユーザに手術前および手術中の両方のデータを提供するための表示画面（または、例えば、タッチスクリーン２６などの二目的用装置）との両方を可能にする。タッチスクリーン２６上の潜在的な術前データは、術前計画、術前コンピュータ断層撮影（ＣＴ）スキャンから導出されたナビゲーションおよびマッピングデータ、および／または術前患者インタビューからの注を含むことができる。ディスプレイ上の手術中データは、器具から提供される光学情報、センサおよびセンサからの座標情報、ならびに呼吸、心拍数、および／または脈拍などの患者の活動統計を含むことができる。コンソール１６は医師がキャリッジ１７の反対側のカラム１４の側からコンソールにアクセスすることができるように、配置され、傾斜されてもよい。この位置から、医師はカート１１の背後からコンソール１６を操作しながら、コンソール１６、ロボットアーム１２、および患者を見ることができる。図示のように、コンソール１６はまた、カート１１の操縦および安定化を補助するためのハンドル２７を含む。

図３は、尿管鏡検査のために配置されたロボット使用可能システム１０の実施形態を示す。尿管鏡手技では、カート１１が患者の尿道および尿管を横切るように設計された手技特有の内視鏡である尿管鏡３２を患者の下腹部領域に送達するように配置されてもよい。尿管鏡検査では、尿管鏡３２を患者の尿道と直接位置合わせして、領域内の繊細な解剖学的構造に対する摩擦および力を低減することが望ましい場合がある。図に示されるように、カート１１はロボットアーム１２が患者の尿道への直接的な線形アクセスのために尿管鏡３２を位置決めすることを可能にするために、テーブルの足に位置合わせすることができる。テーブルの足から、ロボットアーム１２は、尿管鏡３２を仮想レール３３に沿って尿道を通して患者の下腹部に直接挿入することができる。

尿道への挿入後、気管支鏡検査におけるのと同様の制御手法を使用して、尿管鏡３２は診断および／または治療用途のために、膀胱、尿管、および／または腎臓内にナビゲートされ得る。例えば、尿管鏡３２は、尿管鏡３２のワーキングチャネルの下に配置されたレーザまたは超音波砕石装置を用いて、尿管および腎臓に向けられて、腎結石の蓄積を破壊することができる。砕石術が完了した後、得られた結石断片は、尿管鏡３２の下方に配置されたバスケットを用いて除去され得る。

図４は、血管手技のために同様に配置されたロボット使用可能システムの実施形態を示す。血管手技では、システム１０がカート１１が操縦可能なカテーテルなどの医療器具３４を患者の脚の大腿動脈内のアクセスポイントに送ることができるように構成することができる。大腿動脈はナビゲーションのためのより大きな直径と、患者の心臓への比較的遠回りで曲がりくねった経路との両方の特徴があり、このためナビゲーションを単純化でき
る。尿管鏡手技におけるように、カート１１は、ロボットアーム１２が患者の大腿／股関節領域における大腿動脈アクセスポイントへの直接的な線形アクセスを有する仮想レール３５を提供することを可能にするように、患者の脚および下腹部に向かって配置され得る。動脈内への挿入後、医療器具３４は、器具ドライバ２８を移動させることによって方向付けられ、挿入されてもよい。あるいは、カートが例えば、肩および手首の近くの頸動脈および上腕動脈などの代替の血管アクセスポイントに到達するために、患者の上腹部の周りに配置されてもよい。

（Ｂ.ロボットシステム－テーブル）
ロボット対応医療システムの実施形態はまた、患者のテーブルを組み込んでもよい。テーブルを組み込むことにより、カートを取り外すことによって手術室内の資本設備の量が減少し、患者へのアクセスがより大きくなる。図５は、気管支鏡検査手順のために配置されたそのようなロボット使用可能システムの実施形態を示す。システム３６は、床の上にプラットフォーム３８（「テーブル」または「ベッド」として示される）を支持するための支持構造または支柱３７を含む。カートベースのシステムと同様に、システム３６のロボットアーム３９のエンドエフェクタは、図５の気管支鏡４０などの細長い医療器具を、器具ドライバ４２の直線的な位置合わせから形成された仮想レール４１を通して、またはそれに沿って操作するように設計された器具ドライバ４２を備える。実際には、Ｘ線透視画像を提供するためのＣアームがテーブル３８の周りにエミッタおよび検出器を配置することによって、患者の上腹部領域の上に配置され得る。

図６は、説明のため患者および医療器具を除いたシステム３６の代替図を示す。図示されているように、カラム３７はシステム３６内にリング形状として示されている１つ以上のキャリッジ４３を含むことができ、このキャリッジを基に１つ以上のロボットアーム３９を構成することができる。キャリッジ４３はロボットアーム３９が患者に到達するように配置され得る異なる視点を提供するために、カラム３７の長さに沿って延びる垂直カラムインタフェース４４に沿って移動してもよい。キャリッジ４３は、カラム３７内に配置された機械的モータを使用してカラム３７の周りを回転して、ロボットアーム３９がテーブル３８の複数の側、例えば患者の両側にアクセスできるようにすることができる。複数のキャリッジを有する実施形態では、キャリッジがカラム上に個別に配置されてもよく、他のキャリッジとは独立して移動および／または回転してもよい。キャリッジ４３はカラム３７を取り囲む必要はなく、または円形である必要もないが、図示されるようなリング形状は構造的バランスを維持しながら、カラム３７の周りのキャリッジ４３の回転を容易にする。キャリッジ４３の回転および移動により、システムは、内視鏡および腹腔鏡のような医療器具を患者の異なるアクセスポイントに位置合わせすることができる。他の実施形態（図示せず）では、システム３６は、調節可能なアーム支持部を有する患者テーブルまたはベッドを備えてもよく、アーム支持部はテーブルまたはベッドに沿って延伸するバーやレールの形態として設けることができる。１つまたは複数のロボットアーム３９（肘関節を有する肩部を介するなどによる）は、上記の調節可能なアーム支持部を垂直方向に調整して取り付けることができる。垂直方向の調整ができることで、ロボットアーム３９は、患者テーブルまたは別途の下にコンパクトに収容でき、後で手技時に引き上げることができる。

アーム３９は、ロボットアーム３９に追加の構成要素を提供するために個別に回転および／または入れ子式に延在することができる一連のジョイントを備える一組のアームマウント４５を介してキャリッジに取り付けることができる。さらに、アームマウント４５は、キャリッジ４３が適切に回転されたときに、アームマウント４５がテーブル３８の同じ側（図６に示す）、テーブル３８の反対側（図９に示す）、またはテーブル３８の隣接する側（図示せず）のいずれかに配置されるように、キャリッジ４３上に配置されてもよい。

カラム３７は構造的に、テーブル３８を支持し、キャリッジを垂直方向に移動させるための経路を提供する。内部においては、カラム３７がキャリッジの垂直移動を案内するためのリードスクリューと、リードスクリューに基づいて前記キャリッジの移動を機械化するためのモータとを備えることができる。カラム３７はまた、キャリッジ４３およびその上に取り付けられたロボットアーム３９に電力および制御信号を伝達することができる。

テーブル基部４６は図２に示すカート１１のカート基部１５と同様の機能を果たし、テーブル／ベッド３８、カラム３７、キャリッジ４３、およびロボットアーム３９をバランスさせるためのより重い構成要素を収容する。テーブル基部４６はまた、手続中の安定性を提供するために、硬性キャスタを組み込んでもよい。キャスタはテーブル基部４６の下端から展開されて、基部４６の両側で反対方向に延在し、システム３６を移動させる必要があるときに後退することができる。

引き続き図６を参照すると、システム３６は、テーブルとタワーとの間でシステム３６の機能を分割してテーブルのフォームファクタおよびバルクを低減するタワー（図示せず）を含むこともできる。上記の実施形態と同様に、タワーは、処理、計算、および制御能力、電力、流体工学、ならびに／または光学およびセンサ処理などの様々なサポート機能をテーブルに提供することができる。タワーはまた、医師のアクセスを改善し、手術室を煩雑にしないようにするために、患者から離れて配置されるように移動可能であってもよい。さらに、タワー内に部品を配置することにより、ロボットアームの潜在的な収納のためのテーブル基部内のより大きい収納スペースが実現する。タワーはまた、キーボードおよび／またはペンダントなどのユーザ入力のためのユーザインタフェースと、リアルタイム画像、ナビゲーション、および追跡情報などの術前および術中情報のための表示画面（またはタッチスクリーン）との両方を提供するコンソールを含むことができる。

いくつかの実施形態では、テーブル基部が使用されていないときにロボットアームを収納し、格納することができる。図７は、テーブルベースのシステムの一実施形態においてロボットアームを収容するシステム４７を示す。システム４７では、キャリッジ４８がロボットアーム５０、アームマウント５１、およびキャリッジ４８を基部４９内に収容するために、基部４９内に垂直に移動させることができる。基地カバー５２は、キャリッジ４８、アームマウント５１、およびアーム５０を列５３の近辺に展開するために移動されて開閉され、使用されていないときにそれらを保護するために閉じられてもよい。基部カバー５２は、その開口の縁部に沿って膜５４で封止されて、閉鎖時の汚れおよび流体の進入を防止することができる。

図８は、尿管鏡検査手順のために構成されたロボット使用可能なテーブルベースのシステムの実施形態を示す。尿管鏡検査では、テーブル３８が患者をカラム３７およびテーブル基部４６から外れた角度に位置決めするための旋回部分５５を含むことができる。旋回部分５５は旋回部分５５の下端を支柱３７から離して位置決めするために、旋回点（例えば、患者の頭部の下に位置する）の周りで回転または旋回してもよい。例えば、旋回部分５５の旋回は、Ｃアーム（図示せず）がテーブル３８の下のカラム（図示せず）と空間を競合することなく、患者の下腹部の上に配置されることを可能にする。キャリッジ３５（図示せず）を支柱３７の周りに回転させることによって、ロボットアーム３９は、尿管鏡５６を仮想レール５７に沿って患者の鼠径部に直接挿入して尿道に到達させることができる。尿管鏡検査では、手技中に患者の脚の位置を支持し、患者の鼠径部への明確なアクセスを可能にするために、スターラップ５８をテーブル３８の旋回部分５５に固定することもできる。

腹腔鏡手技では、患者の腹壁の小さな切開を通して、最小侵襲性器具（１つ以上の切開
のサイズに適応するように細長い形状）が患者の解剖学的構造に挿入され得る。患者の腹腔を膨張させた後、しばしば腹腔鏡と呼ばれる器具は把持、切断、切除、縫合などの手術タスクを実行するように指示されてもよく、図９は腹腔鏡手技のために構成されたロボット使用可能なテーブルベースのシステムの実施形態を示す。図９に示されるように、システム３６のキャリッジ４３はテーブル３８の両側にロボットアーム３９の対を位置決めするように回転され、垂直に調整され、その結果、腹腔鏡５９は患者の腹腔に到達するために患者の両側の最小切開部を通過するようにアームマウント４５を使用して位置決めされ得る。

腹腔鏡手技に適応するために、ロボット使用可能テーブルシステムは、プラットフォームを所望の角度に傾斜させることもできる。図１０は、ピッチまたはチルト調整を有するロボット使用可能医療システムの実施形態を示す。図１０に示すように、システム３６は、テーブル３８の傾斜に適応して、テーブルの一部分を床から他の部分よりも大きな距離に位置決めすることができる。さらに、アームマウント４５はアーム３９がテーブル３８と同じ平面関係を維持するように、傾きに合わせて回転することができる。より急勾配の角度に適応するために、カラム３７は、カラム３７の垂直延長部がテーブル３８が床に触れたり基部４６と衝突したりしないようにする入れ子式部分６０を含むこともできる。

図１１は、テーブル３８とカラム３７との間のインタフェースの詳細を示す。ピッチ回転機構６１は、欄３７に対するテーブル３８のピッチ角を複数の自由度で変更するように構成されてもよい。ピッチ回転機構６１はカラム・テーブル・インタフェースにおける直交軸１、２の位置決めによって可能にすることができ、各軸は、電気的なピッチ角コマンドに応答して各軸が別個のモータ３、４によって作動される。一方のねじ５に沿った回転は一方の軸１における傾斜調整を可能にし、他方のねじ６に沿った回転は、他方の軸２に沿った傾斜調整を可能にする。いくつかの実施形態では、ボールジョイントを用いて、複数の自由度でカラム３７に対する相対的なテーブル３８のピッチ角を変更することができる。

例えば、ピッチ調整は下腹部手術のために、テーブルをトレンデレンブルグ位置に位置決めしようとするとき、すなわち、患者の下腹部を患者の下腹部よりも床から高い位置に位置決めしようとするとき、特に有用である。トレンデレンブルグ位置は患者の内部器官を重力によって患者の上腹部に向かってスライドさせ、腹腔鏡前立腺切除術などの下腹部手術手技を開始して実行するための最小侵襲性ツール（minimally invasive tool）のた
めに腹腔の空間を空ける。

（Ｃ.器具ドライバとインタフェース）
システムのロボットアームのエンドエフェクタは、（１）医療器具を作動させるための電気機械的手段を組み込む器具ドライバ（あるいは「器具駆動機構」または「器具装置マニピュレータ（ＩＤＭ；instrument device manipulator）」と呼ばれる）と、（２）モ
ータなどの任意の電気機械的構成要素を削除できる取り外し可能または取り外し可能な医療器具とを備える。この二分法は、医療手技に使用される医療器具を滅菌する必要性、およびそれらの複雑な機械的アセンブリおよび繊細な電子機器のために高価な資本設備を適切に滅菌することができないことが起因となりうる。したがって、医療器具は医師または医師のスタッフによる個々の滅菌または廃棄のために、器具ドライバ（したがってシステム）から取り外し、取り外し、および交換されるように設計されてもよい。対照的に、器具ドライバは、交換または滅菌される必要はなく、保護のためにドレープで覆われてもよい。

図１２は、例示的な器具ドライバを示す。ロボットアームの遠位端に配置された器具ドライバ６２は駆動シャフト６４を介して医療器具に制御されたトルクを提供するために、
平行軸に配置された１つ以上の駆動ユニット６３を備える。各駆動ユニット６３は器具と相互作用するための個々の駆動シャフト６４と、モータシャフトの回転を所望のトルクに変換するためのギアヘッド６５と、駆動トルクを生成するためのモータ６６と、モータシャフトの速度を測定し、制御回路にフィードバックを提供するためのエンコーダ６７と、制御信号を受信し、駆動ユニットを作動させるための制御回路６８とを備える。各駆動ユニット６３は独立して制御され、電動化されており、器具ドライバ６２は、医療器具に複数（図１２に示すように４つ）の独立した駆動出力を提供することができる。動作中、制御回路６８は制御信号を受信し、モータ信号をモータ６６に送信し、エンコーダ６７によって測定された結果のモータ速度を所望の速度と比較し、モータ信号を変調して所望のトルクを生成する。

無菌環境を必要とする手技では、ロボットシステムが器具ドライバと医療器具との間に位置する、無菌ドレープに接続された無菌アダプタなどの駆動インタフェースを組み込むことができる。無菌アダプタの主な目的は駆動シャフトと駆動入力との間の物理的分離、したがって無菌性を維持しながら、器具ドライバの駆動シャフトから器具の駆動入力に角運動を伝達することである。したがって、例示的な無菌アダプタは、器具ドライバの駆動シャフトおよび器具上の駆動入力と嵌合されることが意図される一連の回転入力および出力を備えてもよい。滅菌アダプタに接続された滅菌ドレープは透明または半透明プラスチックなどの薄い軟性材料からなり、器具ドライバ、ロボットアーム、およびカート（カートベースのシステム内）またはテーブル（テーブルベースのシステム内）などの資本設備を覆うように設計される。ドレープの使用は滅菌を必要としない領域（すなわち、非滅菌領域）に依然として配置されている間に、患者の近くに資本設備を配置することを可能にする。滅菌ドレープの反対側では、医療器具が滅菌を必要とする領域（すなわち、滅菌野）において患者と接触することができる。

（Ｄ.医療器具）
図１３は、組になった器具ドライバを有する例示的な医療器具を示す。ロボットシステムと共に使用するように設計された他の器具と同様に、医療器具７０は、細長いシャフト７１（または細長い本体）および器具基部７２を備える。医師による手動操作向けの設計として「器具ハンドル」とも呼ばれる器具基部７２は、全体として、ロボットアーム７６の遠位端で器具ドライバ７５上の駆動インタフェースを通って延びる駆動出力７４と嵌合するように設計された、回転可能な駆動入力７３、例えば、レセプタクル、プーリ、またはスプールを備えてもよい。物理的に接続され、ラッチされ、および／または結合されると、器具基部７２の嵌合された駆動入力７３は器具ドライバ７５内の駆動出力７４と回転軸を共有し、駆動出力７４から駆動入力７３へのトルクの伝達が可能になる。いくつかの実施形態では、駆動出力７４が駆動入力７３上のレセプタクルと嵌合するように設計されたスプラインを備えてもよい。

細長いシャフト７１は例えば、内視鏡検査におけるように、解剖学的な開口またはルーメン、または、例えば、腹腔鏡検査におけるように、最小侵襲性切開のいずれかを介して送られるように設計される。細長いシャフト６６は軟性（例えば、内視鏡と同様の特性を有する）または硬性（例えば、腹腔鏡と同様の特性を有する）のいずれかであり得るか、または軟性部分および硬性部分の両方のカスタマイズされた組み合わせを含む。腹腔鏡検査用に設計される場合、硬性の細長いシャフトの遠位端は回転軸を有するＵリンクと、器具ドライバ７５の駆動出力７４から受け取ったトルクに応じて駆動入力が回転するときにテンドンからの力に基づいて作動され得る、例えば、１つまたは複数の把持器などの手術用道具とから形成される接合手首を備えるエンドエフェクタに接続されてもよい。内視鏡検査用に設計される場合、可撓性の細長いシャフトの遠位端は、器具ドライバ７５の駆動出力７４から受け取られるトルクに基づいて関節動作および屈曲され得る、操縦可能または制御可能な屈曲部を含む。

器具ドライバ７５からのトルクは、シャフト７１内のテンドンを使用して細長いシャフト７１に伝達される。プルワイヤなどのこれらの個々のテンドンは、器具ハンドル７２内の個々の駆動入力７３に個々に固定することができる。ハンドル７２から、テンドンは、細長いシャフト７１内の１つ以上のプルルーメンに向けられ、細長いシャフト７１の遠位部分に固定される。腹腔鏡検査では、これらのテンドンが手首、把持器、またはさみなどの遠位に取り付けられたエンドエフェクタに結合されてもよい。このような構成の下では、駆動入力７３に及ぼされるトルクがテンドンに表面張力を伝達し、それによってエンドエフェクタを何らかの方法で作動させる。腹腔鏡検査では、テンドンは関節を軸の周りに回転させ、それによってエンドエフェクタを一指示または別の指示に移動させることができる。あるいはテンドンは細長いシャフト７１の遠位端において、把持器の１つ以上の顎に接続され得、ここで、テンドンからの張力によって把持器が閉じる。

内視鏡検査では、テンドンは接着剤、制御リング、または他の機械的固定を介して、細長いシャフト７１に沿って（例えば、遠位端で）配置された屈曲または関節動作部に結合されてもよい。屈曲部の遠位端に固定して取り付けられると、駆動入力７３に及ぼされるトルクがテンドンに伝達され、より柔軟性のある屈曲部（関節部または関節動作領域と呼ばれることもある）を屈曲または関節動作させる。非屈曲部に沿って、個々のテンドンを内視鏡シャフトの壁に沿って（または内側に）向ける個々のプルルーメンを螺旋状または螺旋状にして、プルワイヤの表面張力から生じる半径方向の力を釣り合わせることが効果的であり得る。スパイラルの角度および／またはそれらの間の間隔は特定の目的のために変更または設計されてもよく、スパイラルを緊密にすると荷重力下でのシャフト圧縮が小さくなり、一方、スパイラルを少なくすると荷重力下でのシャフト圧縮が大きくなるが限界曲げとなる。スペクトルの他端では、プルルーメンが細長いシャフト７１の長手方向軸に平行に向けられて、所望の屈曲または関節動作可能な部分における制御された関節動作が可能となる。

内視鏡検査では、細長いシャフト７１がロボットシステム手続を補助するために、いくつかの構成要素を収容する。シャフトは、シャフト７１の遠位端における手術領域に手術ツール、潅注、および／または吸引を展開するためのワーキングチャネルを備えてもよい。シャフト７１はまた、ワイヤおよび／または光ファイバを収容して、光学カメラを含む遠位先端の光学アセンブリへ／から信号を伝達し得る。シャフト７１はまた、光ファイバを収容して、発光ダイオードなどの近位に位置する光源からシャフトの遠位端に光を運ぶことができる。

器具７０の遠位端において、遠位先端はまた、診断および／または治療、潅注、および吸引のためのツールを手術部位に送達するためのワーキングチャネルの開口を備え得る。遠位先端はまた、内部解剖学的空間の画像を取得するために、ファイバースコープまたはデジタルカメラなどのカメラのためのポートを含んでもよい。関連して、遠位先端はまた、カメラを使用するときに解剖学的空間を照明するための光源のためのポートを含む。

図１３の例では駆動シャフト軸、したがって駆動入力軸は細長いシャフトの軸に直交する。しかしながら、この配置では、細長いシャフト７１の回転機能が複雑になる。駆動入力７３を静止状態に保ちながら、細長いシャフト７１をその軸に沿って回転させると、テンドンが駆動入力７３から延出して細長いシャフト７１内のプルルーメンに入るときに、テンドンの望ましくない絡み合いが生じる。そのようなテンドンによって生じる絡み合いは、内視鏡手技時に可撓性の細長いシャフトの移動を予測することを目的とする任意の制御アルゴリズムの障害となり得る。

図１４は器具ドライバおよび器具の代替設計を示し、駆動ユニットの軸が器具の細長い
シャフトの軸に平行である。図示のように、円形の器具ドライバ８０は、ロボットアーム８２の端部に平行に位置合わせされた駆動出力８１を有する４つの駆動ユニットを備える。駆動ユニットおよびそれぞれの駆動出力８１は、アセンブリ８３内の駆動ユニットのうちの１つによって駆動される器具ドライバ８０の回転アセンブリ８３内に収容される。回転駆動ユニットによって提供されるトルクに応じて、回転アセンブリ８３は、回転アセンブリ８３を器具ドライバの非回転部分８４に接続する円形ベアリングに沿って回転する。電気接点を介して器具ドライバ８０の非回転部分８４から回転アセンブリ８３に電力および制御信号を伝達することができ、この信号は、ブラシ付きスリップリング接続（図示せず）による回転によって維持することができる。他の実施形態では、回転アセンブリ８３が非回転部分８４に一体化され、したがって他の駆動ユニットと平行ではない別個の駆動ユニットに応答することができる。回転機構８３は、器具ドライバ８０が器具ドライバ軸８５の周りに単一のユニットとして、駆動ユニットおよびそれぞれの駆動出力８１を回転させることができる。

上記に開示した実施形態と同様に、器具８６は、細長いシャフト部分８８と、器具ドライバ８０内の駆動出力８１を受けるように構成された複数の駆動入力８９（レセプタクル、プーリ、およびスプールなど）を備える器具基部８７（説明のために透明な外皮と共に示されている）とを備えることができる。先に開示された実施形態とは異なり、器具シャフト８８は、図１３の設計におけるように直交するのではなく、駆動入力８９の軸に実質的に平行な軸を有する器具基部８７の中心から延伸する。

器具ドライバ８０の回転アセンブリ８３に結合されると、器具基部８７および器具シャフト８８を備える医療器具８６は、器具ドライバ軸８５の周りで回転アセンブリ８３と組み合わせて回転する。器具シャフト８８は器具基部８７の中心に配置されているので、器具シャフト８８は取り付けられたとき、器具ドライバ軸８５と同軸である。したがって、回転アセンブリ８３の回転は、器具シャフト８８をそれ自体の前後軸の周りに回転させる。さらに、器具基部８７が器具シャフト８８と共に回転するとき、器具基部８７の駆動入力８９に接続されたテンドンは、回転中に絡み合わない。したがって、駆動出力８１、駆動入力８９、および器具シャフト８８の軸の平行性は、任意の制御テンドンの絡み合いを発生させることなく、シャフトを回転させることができる。

（Ｅ.ナビゲーションと制御）
従来の内視鏡検査には、Ｘ線透視法（例えば、Ｃアームを介して送達され得るよう）および他の形態の放射線ベースの画像化モダリティの使用が含まれ、操作者の医師に管腔内ガイダンスが提供される。一方、本件開示によって実現されるロボットシステムは、放射線に対する医師の曝露を低減し、手術室内の器具の数を減らすために、非放射線ベースのナビゲーションおよび位置決め手段を提供する。本明細書で使用されるように、用語「位置決め」は、基準座標系における物体の位置を特定および／または監視することを指すことができる。術前マッピング、コンピュータビジョン、リアルタイム電磁追跡、およびロボットコマンドデータなどの技術は放射線を用いない運用環境を達成するために、個別に、または組み合わせて使用されてもよい。放射線ベースの画像モダリティが依然として使用される他の場合には、術前マッピング、コンピュータビジョン、リアルタイム電磁追跡、およびロボットコマンドデータは放射線ベースの画像モダリティによってのみ得られる情報を改善するために、個別に、または組み合わせて使用されてもよい。

図１５は、例示的な実施形態による、器具の位置など、ロボットシステムの１つまたは複数の要素の位置を推定する位置決めシステム９０を示すブロック図である。位置決めシステム９０は、１つまたは複数の命令を実行するように構成された１つまたは複数の計算装置のセットとすることができる。計算装置は、上述の１つまたは複数の構成要素内のプロセッサ（または複数のプロセッサ）およびコンピュータ可読メモリによって具現化され
得る。限定ではなく例示として、計算装置は、図１に示すタワー３０内や、図１～４に示すカート内や、図５～１０に示すベッド内などに配置されてよい。

図１５に示すように、位置決めシステム９０は、入力データ９１～９４を処理して医療器具の遠位先端の位置データ９６を生成する位置決めモジュール９５を含むことができる。位置データ９６は、基準系に対する器具の遠位端の位置および／または向きを表すデータまたはロジックであってもよい。基準系は、患者の解剖学的構造、または電磁場発生器（電磁場発生器については以下の説明を参照）などの既知の物体に対する基準系とすることができる。

ここで、さまざまな入力データ９１～９４についてより詳細に説明する。術前マッピングは、低線量ＣＴスキャンの収集を使用することによって達成することができる。術前ＣＴスキャンは２次元画像を生成し、各画像は、患者の内部解剖学的構造の破断図の「スライス」を表す。集合体で解析される場合、患者の肺ネットワークなどの患者の解剖学的構造の解剖学的空洞、空間、および構造のための画像ベースのモデルが生成され得る。中心線ジオメトリのような手法は、ＣＴ画像から決定され、近似されて、術前モデルデータ９１と呼ばれる患者の解剖学的構造の３次元ボリュームを展開することができる。中心線ジオメトリの使用については、米国特許第１４／５２３，７６０号に記載されており、その内容の全体を本願に援用する。また、ネットワークトポロジーモデルは、ＣＴ画像から導出されてもよく、気管支鏡検査に特に適している。

いくつかの実施形態では、器具が視覚データ９２を提供するためにカメラを装備することができる。位置決めモジュール９５は１つまたは複数の視覚ベースの位置追跡を可能にするために、視覚データを処理することができる。例えば、手術前モデルデータは医療器具（例えば、内視鏡または内視鏡のワーキングチャネルを通る器具の前進）のコンピュータビジョンベースの追跡を可能にするために、ビジョンデータ９２と共に使用されてもよい。例えば、手術前モデルデータ９１を使用して、ロボットシステムは内視鏡の予想される移動経路に基づいてモデルから予想される内視鏡画像のライブラリを生成することができ、各画像はモデル内の位置にリンクされる。手術中に、このライブラリはカメラ（例えば、内視鏡の遠位端にあるカメラ）で取得されたリアルタイム画像を画像ライブラリ内の画像と比較して位置決めを補助するために、ロボットシステムによって参照されてもよい。

他のコンピュータビジョンベースの追跡技術は、カメラ、したがって内視鏡の動きを特定するために特徴追跡を使用する。位置決めモジュール９５のいくつかの特徴は解剖学的な管腔に対応する手術前モデルデータ９１内の円形の幾何学的形状を識別し、それらの幾何学的形状の変化を追跡して、どの解剖学的な管腔が選択されたかや、カメラの相対的な回転および／または移動運動を特定することができる。トポロジーマップの使用によって、視覚ベースのアルゴリズムまたは方法をさらに強化することができる。

別のコンピュータビジョンベースの技術であるオプティカルフローはカメラの動きを推測するために、ビジョンデータ９２のビデオシーケンス内の画像画素の変位および移動を解析することができる。複数の反復にわたる複数のフレームの比較によって、カメラ（したがって、内視鏡）の移動および位置を特定することができる。

位置決めモジュール９５は、リアルタイム電磁追跡を使用して、手術前モデルによって表される患者の解剖学的構造に位置合わせすることができるグローバル座標系における内視鏡のリアルタイム位置を生成し得る。電磁追跡では医療器具（例えば、内視鏡ツール）の１つ以上の位置および向きに埋め込まれた１つ以上のセンサコイルを備える電磁センサ（トラッカ）は既知の位置に配置された１つ以上の静的電磁場発生器によって生成された
電磁場の変動を測定する。電磁センサによって検出された位置情報は、電磁データ記憶される。電磁場発生器（または送信機）は埋め込まれたセンサが検出し得る低強度磁場を生成するために、患者の近くに配置され得る。磁界は電磁センサコイルに小さな電流をガイドし、この電流は、電磁センサと電磁界発生器との間の距離および角度を特定するために解析され得る。これらの距離および向きは、座標系内の単一の位置を患者の解剖学的構造の手術前モデル内の位置と位置合わせさせる幾何学的変換を特定するために、患者の解剖学的構造（例えば、手術前モデル）に対して手術中に「位置合わせ」されてもよい。一旦位置合わせされると、医療器具の１つ以上の位置（例えば、内視鏡の遠位先端）に埋め込まれた電磁追跡装置は、患者の解剖学的構造を通る医療器具の進歩のリアルタイムの指示を提供し得る。

ロボットコマンドおよび運動学データ９４はまた、ロボットシステムのための位置決めデータ９６を提供するために、位置決めモジュール９５によって使用されてもよい、関節動作コマンドから生じる装置ピッチおよびヨーは、手術前較正中に特定され得る。手術中に、これらの較正計量値は器具の位置を推定するために、既知の挿入デプス情報と組み合わせて使用されてもよい。あるいは、これらの計算がネットワーク内の医療器具の位置を推定するために、電磁、視覚、および／またはトポロジーモデリングと組み合わせて解析されてもよい。

図１５に示すように、多数の他の入力データを位置決めモジュール９５によって使用することができる。例えば、図１５には示されていないが、形状感知ファイバを用いる器具は、位置決めモジュール９５が器具の位置および形状を特定するために使用する形状データを提供することができる。

位置決めモジュール９５は、入力データ９１～９４を組み合わせて使用することができる。場合によっては、このような組み合わせは位置決めモジュール９５が入力データ９１～９４のそれぞれから特定された位置に信頼性重みを割り当てる確率的アプローチを使用することができる。したがって、電磁データが信頼できない場合（電磁干渉がある場合のように）、電磁データによって特定される位置の信頼性は低下する可能性があり、位置決めモジュール９５は、視覚データ９２および／またはロボットコマンドおよび運動学データ９４により依存する可能性がある。

上記の通り、本明細書で説明するロボットシステムは、上記の技術のうちの１つまたは複数の組合せを組み込むように設計することができる。タワー、ベッドおよび／またはカートに基づくロボットシステムのコンピュータベースの制御システムはコンピュータプログラム命令を、例えば、永続的磁気記憶ドライブ、ソリッドステートドライブなどの非一時的コンピュータ可読記憶媒体内に記憶することができ、これは、実行時に、システムにセンサデータおよびユーザコマンドを受信および解析させ、システム全体の制御信号を生成させ、グローバル座標系内の器具の位置、解剖学的マップなどのナビゲーションおよび位置決めデータを表示させる。

（２．管腔ネットワークのナビゲーション）
上述の様々なロボットシステムは、内視鏡および腹腔鏡処置などの様々な医療手技を実行するために使用することができる。特定の手技において、ロボット制御医療器具などの医療器具が、患者の体内に挿入される。患者の体内で、器具は、患者の管腔ネットワーク内に配置されてもよい。本明細書で使用されるように、管腔ネットワークという用語は、複数の管腔または分枝（例えば、肺または血管などの複数の分枝管腔）または単一の管腔または分枝（例えば、胃腸管内）を含むか否かにかかわらず、体内の任意の管腔構造を指す。手技中に、器具は、管腔ネットワークを通って、１つ以上の関心領域に移動（例えば、ナビゲート、ガイド、駆動など）されてよい。システムを通る器具の移動は、ロボット
システムを制御する医師に器具に関する位置情報を提供する、上記のナビゲーションシステムまたは位置特定システム９０によって支援されてもよい。

図１６は、患者の例示的な管腔ネットワーク１３０を示す。図示の実施形態では、管腔ネットワーク１３０は、患者の肺の気道１５０（すなわち、管腔、枝）の気管支ネットワークである。図示された管腔ネットワーク１３０は、患者の肺内の気管支ネットワークであるが、本開示は、図示された例のみに限定されない。本明細書に記載されるロボットシステムおよび方法は、気管支ネットワーク、腎臓部のネットワーク、循環器ネットワーク（例えば、動脈および静脈）、胃腸管、尿路などの任意の種類の管腔ネットワークをナビゲートするために使用することができる。

図に示すように、管腔ネットワーク１３０は、分岐構造に配置される複数の管腔１５０を含む。一般に、管腔ネットワーク１３０は、三次元構造を含む。説明の便宜上、図１６は、二次元構造としての管腔ネットワーク１３０を表す。このことは、本開示を二次元管腔ネットワークに限定すると解釈するものではない。

図１６はまた、管腔ネットワーク１３０内に配置された医療器具の一例を示す。医療器具は、診断および／または治療のために、管腔ネットワーク１３０を通って関心領域（例えば、結節１５５）に向かってナビゲートされる。図示の例では、結節１５５は、気道１５０の周辺部に配置されるが、関心領域は、患者および手技に応じて、管腔ネットワーク１３０内の任意の場所に配置することができる。

図示の例では、医療器具は内視鏡１１５を含む。内視鏡１１５は、シース１２０およびリーダ１４５を有し、いくつかの実施形態では、シース１２０およびリーダ１４５は、伸縮式に配置することができる。例えば、リーダ１４５は、シース１２０のワーキングチャネル内に摺動可能に配置することができる。シース１２０が第１の直径を有し、その遠位端が結節１５５の周囲のより小さい直径の気道１５０を通って位置決めすることができない場合もある。そこで、リーダ１４５は、シース１２０のワーキングチャネルから結節１５５までの残りの距離だけ伸長するように構成されてもよい。リーダ１４５は、器具、例えば、生検針、細胞診ブラシ、および／または組織サンプリング鉗子が、結節１５５の目標の組織部位に通され得るルーメンを有する。そのような実施形態では、シース１２０の遠位端およびリーダ１４５の遠位端の両方に、気道１５０内におけるそれぞれの位置を追跡するための電磁器具センサ（例えば、図１８に示す電磁器具センサ３０５）を設けることができる。このようなシース１２０およびリーダ１４５の入れ子式の構成により、内視鏡１１５をより細径に設計でき、シース１２０を介して構造的な支持を提供しながら、内視鏡１１５の曲げ半径を改善することができる。

他の実施形態では、入れ子式の構成を用いず、内視鏡１１５の全体の直径を周辺部に到達するのに十分小さくしてもよく、または、非可動のカテーテルを介して医療器具を展開するために周辺部（例えば、２．５～３ｃｍの範囲）に接近するのに十分小さくしてもよい。内視鏡１１５を介して配置される医療器具は、電磁器具センサ（例えば、図１８の電磁器具センサ３０５）を備えることができ、以下に説明する画像ベースの分岐検出およびマッピングナビゲーション技術を、これら医療器具に適用することができる。

図示のように、結節１５５に到達するために、器具（例えば、内視鏡）は、管腔ネットワークの管腔または分岐１５０を通ってナビゲートまたはガイド作者（医師など）は、ロボットシステムを制御して、器具を結節１５５にナビゲートすることができる。操作者は、ロボットシステムを制御するための入力を提供することができる。

図１７は、本明細書で説明するロボットシステムのいくつかの実装形態で使用する例示
的なコマンドコンソール２００を示す。操作者は、ロボットシステムを制御するための入力を提供して、例えば、コマンドコンソール２００を介して、結節１５５などの関心領域に器具をナビゲートまたはガイドすることができる。コマンドコンソール２００は、種々の構成により実現することができる。図示の例では、コマンドコンソール２００は、コンソールベース２０１、ディスプレイ２０２（例えば、モニタ）、および１つ以上の制御モジュール（例えば、キーボード２０３およびジョイスティック２０４）を含む。ユーザ２０５（例えば、操作者や医師）は、コマンドコンソール２００を使用して、人間工学的な位置から医療ロボットシステム（例えば、図１～１５を参照して説明したシステム）を遠隔制御することができる。

ディスプレイ２０２は、電子モニタ（例えば、ＬＣＤディスプレイ、ＬＥＤディスプレイ、タッチセンサ式ディスプレイ）、仮想現実表示デバイス（例えば、ゴーグルまたは眼鏡）、および／または他の表示装置を含む。いくつかの実施形態では、１つまたは複数のディスプレイ２０２は、例えば、位置特定システム９０（例えば、図１５）によって決定される器具に関する位置情報を表示する。いくつかの実施態様において、１つまたは複数のディスプレイ２０２は、患者の管腔ネットワーク１３０の術前モデルを表示する。位置情報は、術前モデル上に重畳表示することができる。ディスプレイ２０２はまた、管腔ネットワーク１３０内の器具上に配置されたカメラまたは他の感知装置から受信された画像情報を表示することができる。いくつかの実施形態では、手術または医療手技の状態の表示を支援するために、器具のモデルまたは表現が、術前モデルと共に表示される。

いくつかの実施形態では、コンソールベース２０１は、中央処理ユニット（ＣＰＵまたはプロセッサ）、メモリユニット（コンピュータ可読メモリ）、データバス、および関連するデータ通信ポートを含み、これらは、例えば、患者の管腔ネットワーク内に配置された医療器具からの、カメラ画像および追跡センサデータなどの信号の解釈および処理を担う。

コンソールベース２０１はまた、制御モジュール２０３、２０４を介してユーザ２０５によって提供されるコマンドおよび命令を処理することができる。図２０に示されるキーボード２０３およびジョイスティック２０４に加えて、制御モジュールは、コンピュータマウス、トラックパッド、トラックボール、制御パッド、ハンドヘルド遠隔制御装置などの制御装置、および手のジェスチャおよび指のジェスチャを取得するセンサ（例えば、モーションセンサまたはカメラ）などの他の装置を含んでもよい。コントローラは、器具の動作（例えば、関節動作、駆動、水洗浄など）にマッピングされた一組のユーザ入力（例えば、ボタン、ジョイスティック、方向パッドなど）を含むことができる。コンソールベース２００の制御モジュール２０３、２０４を使用して、ユーザ２０５は、管腔ネットワーク１３０を通って器具をナビゲートすることができる。

図１８は、例示的な医療器具３００の遠位端の詳細を示す。図１８の医療器具３００は、図１６の内視鏡１１５または操縦可能なカテーテル１４５を表す。医療器具３００は、図１の内視鏡１３、図３の尿管鏡３２、図９の腹腔鏡５９など、本開示全体にわたって説明される任意の医療器具を表す。図１８において、器具３００の遠位端は、電磁器具センサを形成する、撮像デバイス３１５、照明光源３１０、および電磁センサコイル３０５の端部を含む。遠位端はさらに、器具３００のワーキングチャネル３２０への開口を有し、この開口を通って、生検針、細胞診ブラシ、鉗子などの手術器具が、器具シャフトに沿って挿入することができ、器具先端付近の領域へのアクセスを可能にする。

器具３００の遠位端に位置する電磁コイル３０５は、器具３００が管腔ネットワーク内に位置する際に、電磁追跡システムと共に、器具３００の遠位端の位置と方向を検出するために使用される。いくつかの実施形態では、コイル３０５は、異なる軸に沿って電磁場
に対する感応性を与えるように角度付けられ、本開示のナビゲーションシステムが、完全な６自由度（ＤｏＦ）、すなわち、３つの位置ＤｏＦおよび３つの角度ＤｏＦを計測することができる。他の実施形態では、単一のコイル３０５のみが、その軸が器具シャフトに沿う状態で、遠位端上または遠位端内に配置されてもよい。このような構成の回転対称性の理由から、その軸周りを回転に対しては感応性がないために、このような実装では、５自由度のみが検出され得る。この代わりにあるいはこれに加えて、他の種類の位置センサが使用されてもよい。

照明光源３１０は、解剖学的空間の一部を照明する光を提供する。各照明光源は、選択された波長または波長の範囲で光を放射するように構成された１つまたは複数の発光デバイスである。いくつかの例を挙げると、波長は、任意の適切な波長、例えば、可視スペクトル光、赤外線、Ｘ線（例えば、蛍光透視法用）であり得る。いくつかの実施形態では、照明光源３１０は、器具３００の遠位端に位置する発光ダイオード（ＬＥＤ）を含む。いくつかの実施形態では、照明光源３１０は、遠隔光源、例えばＸ線発生器から遠位端を通って光を透過させるための、内視鏡の全長にわたって延伸する１つまたは複数の光ファイバを有する。遠位端が複数の照明光源３１０を含む場合は、各光源は、互いに同じ波長または異なる波長の光を放射するように構成することができる。

画像処理装置３１５は、受光した光を表すエネルギーを電気信号に変換するように構成された任意の感光性基板または構造、例えば、電荷結合素子（ＣＣＤ）または相補型金属酸化膜半導体（ＣＭＯＳ）イメージセンサを含む。画像処理装置３１５のいくつかの例は、内視鏡の遠位端３００から内視鏡の近位端付近の接眼レンズおよび／またはイメージセンサに画像を表す光を伝送するように構成された、１つまたは複数の光ファイバ、例えば光ファイババンドルを含む。画像処理装置３１５は、さらに、種々の光学設計に必要な１つまたは複数のレンズおよび／または波長パスまたはカットオフフィルタを含む。照明光源３１０から放射される光は、画像処理装置３１５が患者の管腔ネットワークの内部の画像を取得することを可能にする。これらの画像は、個別のフレームまたは連続した一連のフレーム（例えば、ビデオ）として、コマンドコンソール２００などのコンピュータシステムに送信することができる。上記あるいは以下の詳細な説明の通り、画像処理装置３１５によって取得された画像（例えば、図１５の視覚データ９２）は、管腔ネットワーク内の器具の位置（例えば、器具３００の遠位端の位置）を特定または推定するために、ナビゲーションシステムまたは位置特定システム９５に使用される。

（３.ナビゲーション用の画像ベースの分岐検出およびマッピング）
本開示の実施形態は、画像ベースの分岐検出およびマッピングのためのシステムおよび技術に関する。本明細書で説明するように、画像ベースの分岐検出は、画像内で、管腔ネットワークの１つまたは複数の分岐に関連する１つまたは複数の開口を識別することを指す。例えば、画像ベースの分岐検出システムは、管腔ネットワーク内の器具上に配置された画像処理装置を使用して、管腔ネットワークの内部の画像を取得することができ、画像ベースの分岐検出システムは、管腔ネットワークの後続の分岐に関連する１つまたは複数の開口を検出するための解析を行うことができる。本明細書で説明するように、画像ベースの分岐マッピングは、検出された１つまたは複数の開口を管腔ネットワークの対応する分岐にマッピングすることを指す。例えば、画像ベースの分岐マッピングシステムは、管腔ネットワークの１つ以上の分岐のいずれの分岐が画像内の１つ以上の検出された開口に対応するかを識別するように構成されてもよい。これらのシステムおよび技術は、管腔ネットワーク内の器具の位置を特定または推定するために使用することができる。特定の実装形態では、これらのシステムおよび手法は、（例えば、図１５を参照して説明したように）他の種々のナビゲーションおよび位置決めモダリティとともに使用することができる。

（Ａ．ナビゲーション用の画像ベースの分岐検出およびマッピングの概要）
管腔ネットワーク内をナビゲートする機能は、本明細書に説明するロボット制御手術システムの１つの特徴でもある。本明細書で説明するように、ナビゲーションは、管腔ネットワーク内の器具の位置決めや位置の特定を行うことを指す。特定された位置は、管腔ネットワーク内の１つ以上の特定の関心領域に器具をガイドするのを支援するために使用することができる。いくつかの実施形態では、ロボット制御手術システムは、手術中における器具のナビゲーションを提供するために、１つまたは複数の独立した感知モダリティを利用する。図１５に示すように、独立した感知モダリティは、データ（例えば、電磁データ９３）、視覚データ９２、および／またはロボットコマンドおよび運動学データ９４の位置を特定することができる。これらの独立した感知モダリティは、独立した位置推定を提供するように構成された推定モジュールを有する。また、独立した推定は、例えば、位置特定モジュール９５を使用して、１つのナビゲーション出力として結合でき、システムで使用したり、ユーザに表示したりすることができる。画像ベースの分岐検出およびマッピングは、位置の独立した推定を提供する、視覚データ９２に基づく、独立した感知モダリティを提供することができる。特に、いくつかの例では、画像ベースの分岐検出およびマッピングは、感知モダリティと、管腔ネットワークの管腔または分岐を推定する、状態／位置推定モジュールと組み合わせることができ、器具の画像処理装置は、画像処理装置によって取得された画像に基づく。いくつかの実施形態では、画像ベースの分岐検出およびマッピングによって提供される推定値は、単独で、または他の位置推定とともに使用されて、システムが使用したり、ユーザに表示したりすることが可能な、最終的な位置推定を特定することができる。

いくつかの実施形態では、同じ感知モダリティに基づいて並列に動作する複数の状態推定モジュールが提供される。一例として、それぞれ複数の（例えば、３つの）異なる位置推定（すべて視覚データ９２に基づく）を出力する異なる方法で、視覚データ９２を処理する複数の（例えば、３つの）異なる状態推定モジュールが提供される。本開示は、視覚データ９２に基づいて（例えば、単一の画像に基づいて）分岐の開口を検出し、検出された分岐の開口を管腔ネットワーク内の特定の解剖学的分岐にマッピングすることによって、器具の現在の位置を推定する、画像ベースの分岐検出およびマッピングモジュールという、モジュールに関する。以下でより詳細に説明するように、いくつかの実施形態では、画像ベースの分岐検出およびマッピングモジュールは、ナビゲーションまたは位置特定システム９０（１つまたは複数の感知モダリティに基づく）によって決定される現在または以前の位置推定を使用して、検出された開口を管腔ネットワーク内の特定の解剖学的分岐にマッピングすることができる。言い換えれば、本明細書で説明する画像ベースの分岐検出およびマッピングシステムおよび方法は、器具が管腔ネットワーク内に位置する場合の、ナビゲーションモジュールまたは位置特定モジュール９５に位置の推定を提供するように構成されてもよい。いくつかの実施形態では、本明細書で説明する画像ベースの分岐検出およびマッピングシステムおよび方法は、他の任意のモダリティとは独立していてもよい。いくつかの実施形態では、本明細書で説明する画像ベースの分岐検出およびマッピングシステムおよび方法は、複数の感知モダリティを使用して特定される以前の位置推定に基づいて、推定を提供してもよい。

図１９は、画像ベースの分岐検出およびマッピングのための例示的な方法４００を示す。方法４００は、本明細書で説明するように、種々のロボット制御手術システムに実装することができる。方法４００は、画像内の分岐の開口を検出するステップ（ブロック４０２）と、検出された開口を管腔ネットワークの分岐にマッピングするステップ（ブロック４０４）の２つのステップまたはブロックを含む。

ブロック４０２において、方法４００は、画像内の分岐の開口を検出する。上記の通り、医療手技時に、器具は、管腔ネットワーク内に位置する（図１６参照）。図１８に示す
ように、器具は、器具上に配置された画像処理装置３１５（カメラなど）を有する。画像処理装置３１５は、管腔ネットワークの内部の画像を取得することができる。例えば、特定の瞬間に、画像処理装置３１５は、器具が現在位置する管腔ネットワークの特定の分岐の内部の画像を取得することができる。ブロック４０２において、方法４００は、画像内の１つまたは複数の開口を検出するために画像を解析することができる。１つまたは複数の開口は、管腔ネットワークの１つまたは複数の後続の分岐を、器具が位置する現在の分岐に接続することができる。一般に、ブロック４０２は、画像が１つ以上の分岐の開口を含むか否かを特定するために画像を処理する画像解析を含む。一実施態様では、画像が１つまたは複数の分岐の開口を含むと特定される場合に、開口に関する種々の特徴が特定されてもよい。そのような特徴には、検出された１つまたは複数の分岐の開口の重心を識別すること、および／または検出された１つまたは複数の分岐の開口の形状または輪郭を識別することが含まれる。本明細書では、ブロック４０２（画像内の分岐の開口の検出）を、画像ベースの分岐検出と呼び、以下の３．Ｂ節でより詳細に説明する。

ブロック４０４において、方法４００は、１つまたは複数の検出された分の岐開口を管腔ネットワークの特定の分岐にマッピングする。一般に、ブロック４０４において、方法４００は、管腔ネットワークのどの分岐が検出された開口と関連するかを特定する。特定の実施態様では、ブロック４０４は、（例えば、現在の位置推定および管腔ネットワークの術前モデルに基づいて）予想される後続の一連の分岐を特定することや、予想される後続の分岐の特徴を検出された分岐の開口にマッチングすることを含む。本明細書では、ブロック４０４（検出された開口を管腔ネットワークの分岐にマッピングすること）を、画像ベースの分岐マッピングと呼び、以下の３．Ｃ節でより詳細に説明する。

検出された開口を管腔ネットワークの特定の分岐にマッピングすることによって、方法４００は、器具の位置の推定を提供することができる。例えば、方法４００を使用して、システムまたは器具は、器具を「見る」分岐を識別し、この情報を使用して管腔ネットワーク内における器具の位置を推定することができる。

（Ｂ．画像ベースの分岐検出）
画像ベースの分岐検出は、管腔ネットワーク内に配置された器具の画像処理装置３１５によって取得された画像を解析して、画像内の１つまたは複数の分岐開口を検出することができる。例えば、画像ベースの分岐検出は、分岐の内部の画像を解析して、現在の分岐への管腔ネットワークの後続の分岐に接続された１つ以上の開口が画像内に存在するか否かを検出する。

図２０は、管腔ネットワークの分岐の内部の例示的な画像５００を示す。図の例では、画像５００は、肺の気道の内部の画像であるが、画像５００は、任意の種類の管腔ネットワークを表す画像であってよい。２つの分岐の開口５０２が画像５００内に存在する。分岐の開口５０２は、後続の分岐（例えば、後続の気道）を現在の分岐に接続する。

画像ベースの分岐検出は、コンピュータシステムが分岐の開口５０２をコンピュータ処理によって認識することができる方法を含むことができる。場合によっては、画像５００は、２つの区分の画素、すなわち、（１）管腔ネットワークの壁（例えば、組織）を表す画素と（２）開口を表す画素を含む。特定の実施形態によれば、画像ベースの分岐検出は、これら２区分の画素をシステム的に検出して、画像内の分岐の開口を識別および検出することができる。

図２１は、画像ベースの分岐検出のための例示的な方法６００を示す。方法６００は、ブロック６０２から開始し、管腔ネットワークの分岐の内部の画像が、分岐内に配置された撮像デバイスによって取得される。上記の通り、画像は、管腔ネットワーク内に位置す
る器具上の画像装置３１５によって取得したり、画像装置３１５から受信したりすることができる。

ブロック６０４では、画像に対する画素強度値のヒストグラムが生成される。例えば、ブロック６０４は、各強度値における画素の数をプロットする。画素強度は、例えば、暗色と明色との間の範囲とすることができる。明暗のスケールは、例えば、０～１の範囲（０は完全に暗い（黒）を表し、１は完全に明るい（白色）を表す）、または０～２５６の範囲（０は完全に暗い（黒）を表し、１は完全に明るい（白色）を表す）として、数値的に表すことができる。他の尺度が採用されてもよい。本開示は、画素強度（輝度）に基づいてヒストグラムを生成する例について説明するが、ヒストグラムは、画像の他の特徴（色など）に基づいて生成することもできる。

図２２は、１つまたは複数の分岐の開口（例えば、図２０の画像５００）を含む画像の例示的なヒストグラム７００を示す。図２２では、画素強度が均等化され、０から２５６の間の数値スケールで表されている。ヒストグラムの均等化により、直線的なヒストグラムが得られる。図の棒線は、各強度値における画像内の画素の数を表す。図に示すように、ヒストグラム７００は双峰分布である。すなわち、ヒストグラム７００は、２つの異なるピーク７０２、７０４を有する。第１のピーク７０２は、管腔ネットワーク（例えば、組織）の壁を表す画素を示し、第２のピーク７０４は、画像内の開口を表す画素を示す。多くの場合、管腔ネットワークの分岐内のヒストグラムは、図のように２つのピークを含む双峰分布である。このようになる理由は、（管腔ネットワーク内などの）トンネルのような表示において、画素は、一般に、暗部（開口を表す）か、明部（分岐の壁を表す）かのいずれかであるためである。

図２１の方法６００に戻ると、ブロック６０６において、閾値未満の画素は、画像において開口を示すものとして識別される。この代わりにあるいはこれに加えて、閾値を超えるまたは閾値未満の画素を、分岐の開口を示すものとして識別または分類されてもよい。この代わりにあるいはこれに加えて、閾値を超えるまたは閾値未満の画素を、管腔ネットワークの組織または壁を示すものとして識別または分類されてもよい。概してブロック６０６では、分岐の開口を表す画素と分岐の壁を表す画素との間で画像の画素を分ける閾値が決まる。画素を分岐の開口または分岐の壁のいずれを表すものとして分類または識別することにより、画像内の分岐の開口を検出することができる。

図２３Ａおよび図２３Ｂは、分岐の開口８０２がどのように検出されるかを示す例示的な画像８００ａ、８００ｂを示す。図２３Ａを参照すると、決定された閾値の画素が強調され、開口８０２を取り囲むプロファイル８０５を生成する。図２３Ｂを参照すると、画素は、開口８０２を識別するために、閾値を超えるか閾値未満となるかで区別されている。例えば、閾値を超える画素は、白色で区分されて示されているが、閾値未満の画素は、黒色で区分されて示されている。図２３Ｂの実施例では、黒色の画素は、開口８０２を表す。

図２４は、方法６００（図２１）のブロック６０６のいくつかの実施形態において実装されて、分岐の開口を示すものとして、閾値を超えるまたは閾値未満の画素を識別／分類することができる例示的なサブルーチンまたは方法９００を示す。方法９００は、４つのステップまたはブロックを含む。ブロック９０２において、ヒストグラムのピークが識別される。上述のように、概して管腔の内部の画像のヒストグラムは、２つの識別可能なピークを含む双峰分布である。例えば、図２２のヒストグラム７００において、第１のピーク７０２は６０の強度値で生じ、第２のピーク７０２は１８０の強度値で生じる。

ブロック９０４において、ピーク間の中間値が識別される。次に、図２２の例を参照す
ると、ヒストグラム７００のピーク７０２間の中間点７０４は、１４０の強度値で生じる。体系的に、中間点７０４は、ヒストグラム７００を分割する（例えば、等しく）２つのピーク７０２の間の値を見つけることによって決定することができる。図２４に戻ると、ブロック９０６において、閾値は、中間点７０４に等しい値になるように設定される。したがって、中間点７０４または閾値を超える任意の画素を組織であると特定でき、中間点７０４または閾値未満の任意の画素を開口であると特定できる。図２３Ａに示すように、開口８０２の輪郭８０５を示すために、閾値の画素を強調表示してもよい。

最後に、ブロック９０６において、閾値を超えるまたは閾値未満の画素が識別されるか、または分岐の開口を示すものとして分類される。図２３Ｂに示すように、閾値は、閾値を超える画素を最大強度（例えば、白色）に、閾値未満の画素を最小強度（例えば、黒）に割り当てることによって、明部領域および暗部領域に画像を区分するために使用できる。これにより、開口８０２を検出および可視化することができる。

上述のように、画像ベースの分岐検出は、分岐の開口を検出するために画像を解析するように構成することができる。本明細書で説明する画像ベースの分岐検出方法は、本開示全体にわたって説明するロボット制御手術システムの種々の実施形態において使用することができる。いくつかの実施形態では、画像ベースの分岐検出は、管腔ネットワークの分岐の開口を識別するための方法を実施することを含む。この方法は、管腔ネットワークの分岐の内部の画像を、分岐内に配置された撮像デバイスで取得することを含む。画像は、管腔ネットワークの分岐内に配置された器具上の画像処理装置３１５を使用して取得されてもよい。またこの方法は、画像に対する画素強度値のヒストグラムを生成することを含む。概してヒストグラムは、組織（例えば、管腔ネットワークの壁）および分岐の開口を表すピークを伴う双峰分布である。本方法はまた、画像内の開口を示すものとして、閾値未満の画素を識別することを含む。

いくつかの実施形態では、本方法はまた、ヒストグラムに基づいて閾値を決定することを含む。閾値は、ヒストグラムの２つのピーク間の中間点値であってもよい。例えば、閾値を決定するステップは、ヒストグラム内の少なくとも２つのピークを識別するステップと、少なくとも２つのピーク間の中間点を識別するステップと、閾値を中間点の強度値に等しく設定するステップとを含むことができる。他の実施形態では、閾値は、他の方法によって決定されてもよい。例えば、閾値は、記憶に格納された所定の値であってもよい。

画像ベースの分岐検出方法は、種々の他の特徴を含むことができる。例えば、いくつかの実施形態では、画像ベースの分岐検出方法は、検出された分岐の開口の他の特徴を識別することを含む。例えば、画像ベースの分岐検出方法はまた、画像内の識別された開口のそれぞれについて、開口の重心を決定することを含む。別の例として、画像ベースの分岐検出方法はまた、画像内の識別された開口のそれぞれについて、開口のプロファイルを決定することを含む。プロファイルは、閾値における画素を識別することによって決定され得る。

いくつかの実施形態において、画像ベースの分岐検出方法はまた、画像内の識別された開口の数を不良フレーム検出器の閾値と比較することを含む。いくつかの実施形態では、不良フレーム検出器の閾値は、３、４、５、６、またはそれ以上に設定される。画像ベースの分岐検出方法が、不良フレーム検出器値以上の開口数を検出した場合、この方法は、不良フレームまたはエラーを判定し、画像を破棄することができる。例えば、いくつかの例では、画像内の気泡または他の特徴は、開口として現れ、偽陽性を生成し得る。検出された開口の数が、不良フレーム検出器の閾値によって表される可能性のある開口の数を超える場合、本方法は、それが偽陽性（例えば、実際には開口ではない開口）を識別したことを決定することができる。このような場合、本方法は、現在の画像を破棄し、第２の画
像内の開口を再検出することができる。例えば、識別された開口の数が不良フレーム検出器閾値を超える場合、本方法は、さらに、分岐の内部の第２の画像を取得し、第２の画像を解析して、第２の画像内の開口を決定するステップを含んでもよい。

（Ｃ．画像ベースの分岐マッピング）
画像ベースの分岐マッピングは、管腔ネットワークのどの分岐が検出された開口と関連しているかを決定または識別する。すなわち、画像ベースの分岐マッピングは、検出された分岐の開口において、管腔ネットワークのどの後続の分岐が現在の分岐に接続されているかを特定することができる。検出された開口を管腔ネットワークの分岐にマッピングすることによって、管腔ネットワーク内の器具の位置を決定することができる。さらに、機器の移動先の分岐を推定または予測することもできる。

広義には、検出された開口の特徴を管腔ネットワークの分岐の特徴と比較することによって、検出された開口を管腔ネットワークの分岐にマッピングすることができる。検出された開口の特徴は、上述のように画像解析によって特定されてもよい。管腔ネットワークの分岐の特徴は、管腔ネットワークの術前モデルなどの管腔ネットワークのモデルから特定することができる。さらに、特定の実施形態では、検出された開口を管腔ネットワークの分岐にマッピングすることは、管腔ネットワーク内の器具の現在の位置推定に基づくことができる。現在の位置推定は、図１５を参照して説明した感知モダリティに基づいて特定することができる。現在の位置推定に基づいて、検出された開口を管腔ネットワークの分岐にマッピングすることで、マッピングプロセスの効率、速度、および／または精度を向上させることができる。例えば、現在の位置推定値が与えられると、検出された開口の特徴を、予想される後続の分岐の特徴と比較することができる。これは、マッピングを実行し、マッピング速度を向上させるために必要な計算負荷を最小限にすることができる。

図２５は、管腔ネットワーク１０００を簡略化して示す。管腔ネットワーク１０００は、複数の分岐（例えば、管腔、セグメントなど）１００２、１００４、１００６、１００８、１０１０、１０１２、１０１４、１０１６を含む。管腔ネットワーク１０００はまた、様々な分岐を互いに接続する分岐１０２０、１０２２、１０２４を有する。管腔ネットワーク１０００は、肺の気管支ネットワークの一部を表し、分枝は気道を表す。管腔ネットワーク１０００は、モデルによって表現することができる。モデルは術前に特定することができる。術前モデルデータ９１（すなわち、術前モデルに関する情報）を格納することで、ナビゲーションおよび位置特定システム９０（例えば、図１５）が使用できる。一例として以下に説明するように、画像ベースの分岐マッピングは、検出された開口を管腔ネットワーク１０００の分岐にマッピングするように構成することができる。

図２６は、画像ベースの分岐マッピングのための例示的な方法１１００を示す。方法１１００は、本明細書に記載されるロボット制御手術システムの様々な構成要素によって実施することができる。方法１１００は、一例として、図２５の管腔ネットワーク１０００を例に説明するが、図の態様に限定されない。

ブロック１１０２において、方法１１００は、管腔ネットワーク１０００内に配置された器具の位置状態の推定を受信または特定する。位置状態の推定には、器具が現在配置されている分岐を識別することが含まれてよい。位置状態の推定は、例えば、図１５のナビゲーションおよび位置確認システム９０によって特定することができる。位置状態の推定は、術前モデルデータ９１、視覚データ９２、電磁データ９３（あるいは他の位置感知データ）、形状感知データ、および／またはロボットコマンドおよび運動学データ９４などの様々なおよび／または複数の位置感知モダリティおよび情報に基づいて決定することができる。

図２５を参照すると、例えば、位置状態の推定には、器具が管腔ネットワーク１０００の任意の分岐（例えば、分岐１００２、分岐１００４、分岐１００６など）内に現在配置されていること示す指標が含まれる。

また、位置状態の推定には、追加情報が含まれてもよい。追加情報としては、現在のセグメントの深さの決定または推定、および／または現在の器具の回転の決定または推定（例えば、器具の長手方向の軸周りの回転）を含む。いくつかの実施形態では、システムまたは方法は、複数の位置状態の推定を維持または生成することができ、位置状態の推定のそれぞれに確率を割り当てることができる。複数の位置状態の推定のうち、最も確率の高い位置状態の推定をユーザに提供することができる。例えば、システムまたは方法は、第１の位置状態の推定（例えば、第１の深さおよび回転角で、装置が第１の分岐１００２内に位置決めされることを示す指標）および第２の位置状態推定値（例えば、第２の深さおよび回転角で、装置が第２の分岐１００４内に位置決めされることを示す指標）を生成してもよい。システムは、各位置状態の推定に対する確率を特定することができる。例えば、システムは、器具の第１の位置状態の推定が正しい確率を６０％、器具の第２の位置状態の推定が正しい確率を４０％と特定する。ここで、第１の位置状態の推定の確率の方が高いことから、システムは、第１の位置状態の推定をユーザに提供したり、方法１１００の１つまたは複数の追加ステップにおいて第１の位置状態の推定を使用したりすることができる。

ブロック１１０４で、方法１１００は、ブロック１１０２で特定された位置状態の推定に基づいて、予想される後続の一連の分岐を特定する。例えば、位置状態の推定が器具が分岐１００２内にあることを示す場合、予想される後続の一連の分岐は、分岐１００２、分岐１００４、分岐１００６に接続される分岐を含む。別の例として、位置状態の推定が、器具が分岐１００４にあることを示す場合、予想される後続の一連の分岐は、分岐１００８、分岐１０１０を含む。別の例として、位置状態の推定が器具が分岐１００６にあることを示す場合、予想される後続の一連の分岐は、分岐１０１２、分岐１０１４、分岐１０１６を含む。後続の一連の分岐に関する情報は、術前モデルデータ９１（例えば、図１５）として記憶された術前モデルから得られる。

後続の分岐の指標に加えて、予想される後続の一連の分岐に関する追加のデータを特定してもよい。例えば、予想される後続の分岐の開口の重心および／または後続の一連の分岐の開口の輪郭も術前モデルから特定することができる。

ブロック１１０６において、方法１１００は、器具回転に対して補正を実行してもよい。器具が管腔ネットワーク１０００を移動するとき、器具は、回転（例えば、器具の長手方向の軸周りの回転）する場合がある。このような回転は、管腔ネットワークにおける移動を容易にするために命令された回転または意図しない回転である。器具の回転に関する情報は、例えば、ロボットコマンドおよび運動データ９４、および／またはねじり剛性などの器具の物理的特性から特定することができる。いくつかの例では、以下のブロック１１０８で説明されるように、検出された開口の特徴を、予想される後続の一連の開口の特徴と比較するために、器具の回転を補正する必要がある場合がある。ブロック１１０６、１１０８、１１１０の一例を、図２７Ａ～図２７Ｃを参照しながら以下に説明する。

ブロック１１０８において、方法１１００は、ブロック１１０４で特定されるように、検出された開口の特徴を、検出された後続の一連の分岐の開口と比較する。一例では、検出された開口の重心を互いに結ぶベクトルを、予想される後続の一連の開口の重心を互いに結ぶベクトルと比較する。別の実施形態では、検出された各開口の形状または輪郭を、検出された後続の一連の開口の各開口の形状または輪郭と比較する。なお、他の特徴と比較してもよい。

ブロック１１１０において、方法１１００は、検出された開口を管腔ネットワーク１０００の分岐にマッピングする。マッピングは、ブロック１１０８の比較に基づいてもよく、最も一致の度合いが高いマッチングを、検出された開口を管腔ネットワーク１０００の分岐にマッピングするために使用する。

例えば、図２７Ａは、２つの検出された開口を含む画像１２０２を示す。検出された各開口についての重心１２０４が識別され、重心１２０４を結ぶベクトルＶ_ｉが決定される。図２７Ｂの左側のパネルでは、器具の現在の位置推定に基づいて、一組の予想される後続の分岐が特定されている。予想される後続の一連の分岐は、この例では、分岐２と分岐１１９を含む。分岐１１９を分岐２と接続するベクトルＶ_Ｍが示されている。図２７Ｂの右側のパネルに示されるように、ベクトルＶ_Ｍを器具回転について補正してベクトルＶ_Ｖを生成することができる。図示しないが、分岐２を分岐１１９と接続する第２のベクトルも特定され、補正することができる。この２番目のベクトルは、ベクトルＶ_Ｖと同じ大きさであるが、逆向きである。次に、これらの２つのベクトルをベクトルＶ_ｉと比較することができる。いくつかの例では、これらのベクトルを比較することは、内積（ドット積）を取ることを含む。次に、最も一致の度合いが高い組（例えば、内積（ドット積）が１に最も近い組）を使用して、検出された開口を、予想される後続の一連の分岐にマッピングすることができる。図２７Ｃに示すように、２つの検出された分岐は、分岐２および分岐１１９にマッピングされている。

別の実施例として、画像ベースの分岐マッピングの方法は、以下を含むことができる。（１）画像内の検出された分岐の位置（例えば、ＸＹ座標）を識別すること。（２）器具が現在いずれの分岐に配置されているかの推定を特定または受信すること。（３）現在の分岐の推定を用いて、術前モデルに基づいて、推定された分岐に対して存在するすべての直接的な子（すなわち、現在の分岐に接続する分岐）ならびにそれらの位置（例えば、ＸＹ座標）の一覧を生成すること。（４）これらの子の変換された（例えば、回転が補正された）座標を、ステップ１で特定された位置にマッチングすることを繰り返し、各繰り返し（または一組の繰り返し）に対する（計量の）コストを算出すること。（５）最もコストが低いマッチングを用いて、これらの子を検出された分岐に割り当てること。

（Ｄ．画像ベースの分岐予測）
特定の実装形態では、本開示のシステムおよび方法は、器具の現在の位置に基づいて、器具が次にいずれの気道に移動する確率が高いかを予測または推定することもできる。いくつかの実装形態では、本開示のシステムおよび方法は、検出およびマッピングされたそれぞれの分岐に器具が移動する確率の予測または推定を提供することができる。特定の例では、これは、検出およびマッピングされた分岐のうちのいずれが画像の中心に最も近いかを特定することで達成することができる。

図２８は、画像１３００の中心と、検出およびマッピングされた２つの開口２、１１９の重心との間の距離ｄ_２およびｄ_１１９を示す画像１３００を示す。図に示すように、距離ｄ_２は、距離ｄ_１１９よりも短くなる。これは、開口２の重心が画像の中心により近いためである。したがって、方法またはシステムは、器具が分岐２に移動する確率が高いという推定または予測を提供することができる。いくつかの例では、方法またはシステムは、器具が分岐２および分岐１１９に移動する確率を提供することができる。確率は、距離ｄ_２およびｄ_１１９と比例関係にある。距離が短いことは、上記確率がより高いことと関連する。これは、距離が短いほど、器具が対応する開口と対向しているか、開口の方を向いていることを示すためである。

これらの推定または確率は、位置特定モジュール９５（例えば、図１５）に提供され、
更新された位置データ９６を提供するために使用されてもよい。したがって、いくつかの実施形態では、未来の位置状態の推定は、有利には、少なくとも部分的に、複数の分岐のうちいずれの分岐に器具が移動する確率が高いかに関する以前の位置状態の推定に基づいてもよい。システムは、画像の中心に最も近い開口に器具が移動する確率が最も高いと特定してもよい。これは、未来の位置状態の推定が、以前の位置状態の推定における確率に基づくことで、ナビゲーションが支援される。場合によっては、これは、有利には、位置を推定するために必要な計算負荷を低減することができる。いくつかの実施形態では、これは、位置状態の推定を特定する時間を有利に短縮できる。いくつかの実施形態では、これは、位置状態の推定の精度を向上させることができる。

（Ｅ．画像ベースの分岐検出およびマッピングによるナビゲーション方法およびシステムの例）
図２９は、上記の画像ベースの分岐検出およびマッピングを実施するための例示的な方法１４００を示す。方法１４００は、本開示全体にわたって説明する種々のロボット制御システムにおいて実施することができる。方法１４００は、管腔ネットワークに挿入されるように構成された細長い本体を有する器具を含むロボットシステムで実施することができる。画像処理装置は、細長い本体上（例えば、細長い本体の遠位端上）に配置され得る。器具は、管腔ネットワークを通って器具を移動させるように構成された器具位置決め装置（例えば、ロボットアーム）に取り付けることができる。方法１４００を採用するシステムは、プロセッサに方法１４００を実行させる命令で構成されたプロセッサを含むことができる。方法１４００は、例としてのみ提供され、画像ベースの分岐検出およびマッピングは、図２９に示されるステップとは異なるステップを使用して実施することができる。

ブロック１４０１において、方法１４００は、管腔ネットワークの現在の分岐に器具を挿入する。ブロック１４０２において、方法１４００は、器具についての位置状態の推定を受信する。いくつかの実施形態では、ブロック１４０２は、管腔ネットワークの現在の分岐内に配置された器具の位置状態の推定を特定し、位置状態の推定は、図１５のナビゲーションシステムおよび位置特定システム９０による種々の感知モダリティの１つまたは複数のモダリティに基づいて特定することができる。

ブロック１４０４において、方法１４００は、少なくとも部分的に、初期状態の推定および管腔ネットワークの術前モデルに基づいて、一組の予想される後続の分岐を特定する。

ブロック１４０６では、方法１４００は、器具上に配置された画像処理装置（例えば、画像処理装置３１５）によって現在の分岐の画像を撮像する。

ブロック１４０８で、方法１４００は、画像を解析して、管腔ネットワークの後続の分岐を現在の分岐に接続する開口を検出する。いくつかの実施形態では、画像内の複数の開口を検出することは、画像解析を実行することを含む。いくつかの実施形態に於いて、画像解析は、画像に関する画素強度値のヒストグラムを生成し、画像内の複数の開口を識別するためにヒストグラムを解析することを含む。いくつかの実施形態では、ヒストグラムを解析することは、ヒストグラム内の少なくとも２つのピークを識別することと、少なくとも２つのピークの間の中間点を識別することと、中間点の第１の側面上の画素を開口として分類することとを含む。

いくつかの実施形態では、ブロック１４０８において、方法１４００はまた、検出された開口の１つまたは複数の特徴を特定する。１つまたは複数の特徴は、開口の重心、開口の輪郭、および２つの開口の重心結ぶベクトルからなる群から選択することができる。

ブロック１４１０において、方法１４００は、検出された開口の特徴を、予想される後続の一連の分岐と比較して、複数の開口のそれぞれの開口を、予想される後続の分岐のうちの１つ分岐にマッピングする。いくつかの実施形態では、方法１４００はまた、術前モデルから予想される後続の一連の分岐に関連する情報を取得することを含む。情報は、開口の重心、開口の輪郭、および２つの開口の重心を結ぶベクトルのうちの少なくとも１つを含む。いくつかの実施形態では、検出された複数の開口の特徴を、検出された開口のそれぞれについて、検出された開口の１つまたは複数の特徴を、予想される後続の一連の分岐に関連する情報に一致させることを繰り返すことを含む、予想される後続の一連の分岐と比較することができる。いくつかの実施形態では、最も一致の度合いが高い組が、検出された開口を予想される後続の分岐にマッピングするために使用される。

ブロック１４１２において、方法１４００は、少なくとも部分的に比較に基づいて、更新された位置状態の推定を提供する。いくつかの実施形態では、少なくとも部分的に比較に基づいて、ブロック１４１２は、更新された位置状態の推定を提供する。いくつかの実施形態では、更新された位置状態の推定は、位置状態の推定が正しい確率を含む。いくつかの実施形態では、確率は、検出された複数の開口の１つまたは複数の特徴と、予想される後続の一連の分岐との間の比較に部分的に基づいて決定される。いくつかの実施形態では、確率は、検出された複数の開口の１つまたは複数の特徴が、予想される後続の一連の分岐と一致する度合いに部分的に基づいて決定される。いくつかの実施形態では、更新された位置状態の推定は、器具が後続の分岐に移動する推定を含む。

いくつかの実施形態では、方法１４００は、複数の検出された開口のいずれの開口が画像の中心により近いかを特定することをさらに含む。いくつかの実施形態では、更新された位置状態の推定は、画像の中心により近いと判断される開口に器具が移動する確率を含む。

いくつかの実施態様において、器具は内視鏡を含む。いくつかの実施形態では、管腔ネットワークは、肺の気管支ネットワーク、胃腸管、または腎臓部のネットワークを含むが、他の管腔ネットワークのナビゲーションも可能である。

（３．システムの実装および用語）
本明細書に開示される実施形態は、ロボット制御医療器具のナビゲーションにおける画像ベースの分岐検出およびマッピングのためのシステム、方法、および装置を提供する。ここで説明する種々の実装により、管腔ネットワークのナビゲーションの向上が実現する。

本明細書で使用される用語「結合する」、「結合する」、「結合される」、または単語対の他の変更は間接接続または直接接続のいずれかを示すことができ、例えば、第１の構成要素が第２の構成要素に「結合される」場合、第１の構成要素は、別の構成要素を介して第２の構成要素に間接的に接続されるか、または第２の構成要素に直接接続されることができることに留意されたい。

本明細書で説明する特徴類似度計算、位置推定、およびロボット動作作動機能は、プロセッサ可読媒体またはコンピュータ可読媒体上に１つまたは複数の命令として格納することができる。用語「コンピュータ可読媒体」は、コンピュータまたはプロセッサによってアクセスされ得る任意の利用可能な媒体を指す。限定ではなく例として、そのような媒体は、ＲＡＭ（ランダムアクセスメモリ）、ＲＯＭ（リードオンリメモリ）、ＥＥＰＲＯＭ（電気的消去可能プログラマブルリードオンリメモリ）、フラッシュメモリ、ＣＤ－ＲＯＭ（コンパクトディスクリードオンリ）または他の光ディスクストレージ、磁気ディスク
ストレージまたは他の磁気ストレージデバイス、あるいは命令またはデータ構造の様式で所望のプログラムコードを格納するために使用され得、コンピュータによってアクセスされ得る任意の他の媒体を備えることができる。コンピュータ可読媒体は、有形かつ非一時的であり得ることに留意されたい。本明細書で使用されるように、用語「コード」は、計算装置またはプロセッサによって実行可能なソフトウェア、命令、コード、またはデータを指すことができる。

本明細書で開示される方法は、説明される方法を達成するための１つまたは複数のステップまたはアクションを備える。方法のステップおよび／またはアクションは、代替形態の範囲から逸脱することなく、互いに交換することができる。言い換えれば、ステップまたはアクションの特定の命令が説明されている方法の適切な動作のために必要とされない限り、特定のステップおよび／またはアクションの命令および／または使用は、代替の範囲から逸脱することなく修正され得る。

本明細書で使用される場合、用語「複数」は２つ以上を意味する。例えば、複数の構成要素は２つ以上の構成要素を示す。用語「特定すること」が多種多様なアクションを包含し、したがって、「特定すること」は計算すること、計算すること、処理すること、導出すること、調査すること、参照すること（例えば、テーブル、データベース、または別のデータ構造を参照すること）、確認することなどを含むことができ、「特定すること」は受信すること（例えば、情報を受信すること）、アクセスすること（例えば、メモリ内のデータにアクセスすること）などを含むことができる。また、「特定すること」は、解決すること、選択すること、選ぶこと、確立することなどを含むことができる。

「に基づく」という語句は特に断らない限り、「のみに基づく」という意味ではない。言い換えれば、「に基づく」という語句は、「のみに基づく」および「少なくともに基づく」の両方を表す。

開示された実施形態の上記の説明は、当業者が本件開示を実現または使用することを可能にするために提供される。これらの実装に対する様々な修正は当業者には容易に明らかであり、本明細書で定義される一般的な原理は、本件開示の範囲から逸脱することなく、他の実装に適用することができる。例えば、当業者は、工具構成要素を固定、取り付け、結合、または係合する等価な方法、特定の作動運動を生成するための等価な機構、および電気エネルギーを送達するための等価な機構などの、いくつかの対応する代替的および等価な構造的詳細を採用することができることが理解されるのであろう。したがって、本件開示は、本明細書に示される実装に限定されることを意図するものではなく、本明細書に開示される原理および新規な特徴と一致する最も広い範囲を与えられるべきである。

Claims (17)

1. 命令が記憶された非一時的なコンピュータ可読記憶媒体であって、前記命令が実行されると、装置のプロセッサに少なくとも、
   管腔ネットワークの現在の分岐内に位置する器具の位置状態の推定を特定し、前記位置状態の推定は、前記器具の長手方向の軸周りにおける前記器具の回転の推定を含み、
   前記位置状態の推定と前記管腔ネットワークの術前モデルとに少なくとも部分的に基づいて、予想される後続の一連の分岐を特定することと、
   前記器具上に位置する画像処理装置によって前記現在の分岐の画像を取得することと、
   前記画像内において、前記管腔ネットワークの後続の分岐と前記現在の分岐とを接続する複数の開口を検出することと、
   ２つの開口の重心を結ぶ第１のベクトルを含む、前記検出された複数の開口の１つまたは複数の特徴を特定することと、
   前記予想される後続の一連の分岐を結ぶ第２のベクトルを含む、前記予想される後続の一連の分岐の１つまたは複数の特徴を特定することと、
   前記器具の前記回転の推定に基づいて前記第２のベクトルを修正することと、
   前記第１のベクトルと前記修正された前記第２のベクトルとの内積の値を計算することによって、前記検出された複数の開口の前記１つまたは複数の特徴と前記修正された前記予想される後続の一連の分岐の１つまたは複数の特徴とを比較して、前記複数の開口のそれぞれを前記予想される後続の一連の分岐のいずれかの分岐にマッピングすることと、
   前記比較に少なくとも部分的に基づいて、更新された位置状態の推定を提供することと、
   前記検出された複数の開口のいずれの開口が前記画像の中心により近いかを特定し、それにより、前記器具が前記いずれの開口に移動するかについての確率を提供することと、
   を実行させることを特徴とする非一時的なコンピュータ可読記憶媒体。
2. 前記更新された位置状態の推定は、前記位置状態の推定が正しい確率を含むことを特徴とする請求項１に記載の非一時的なコンピュータ可読記憶媒体。
3. 前記位置状態の推定が正しい確率は、前記検出された複数の開口の前記１つまたは複数の特徴と前記修正された前記予想される後続の一連の分岐の前記１つまたは複数の特徴との比較に少なくとも部分的に基づいて特定されることを特徴とする請求項２に記載の非一時的なコンピュータ可読記憶媒体。
4. 前記更新された位置状態の推定は、前記器具の移動先である後続の分岐の推定を含むことを特徴とする請求項１に記載の非一時的なコンピュータ可読記憶媒体。
5. 前記更新された位置状態の推定は、前記回転の推定が正しい確率を含み、
   前記回転の推定が正しい確率は、前記画像内における前記検出された開口の向きと前記術前モデルに基づいて予想される、前記後続の一連の分岐の向きとを比較することによって特定される、
   ことを特徴とする請求項１に記載の非一時的なコンピュータ可読記憶媒体。
6. 前記命令が実行されると、前記装置の前記プロセッサに、
   前記検出された開口のそれぞれに対して、前記検出された開口の前記１つまたは複数の特徴を前記修正された前記予想される後続の一連の分岐の前記１つまたは複数の特徴にマッチングさせることを繰り返し行うことによって、前記検出された複数の開口の前記１つまたは複数の特徴を、前記予想される後続の一連の分岐と比較すること、
   を実行させ、
   前記マッチングの一致度が最も高いものを用いて、前記検出された開口を前記予想される後続の分岐の１つの分岐にマッピングする
   ことを特徴とする請求項１に記載の非一時的なコンピュータ可読記憶媒体。
7. 患者の管腔ネットワークにおけるナビゲーションを行うロボットシステムであって、
   器具であって、
   前記管腔ネットワークに挿入される長尺の本体と、
   前記長尺の本体の遠位部分に位置する画像処理装置と、
   を有する器具と、
   前記器具に取り付けられる器具位置決め装置であって、前記器具位置決め装置は、前記器具を前記管腔ネットワークを通って移動させる、器具位置決め装置と、
   実行可能な命令を記憶する少なくとも１つのコンピュータ可読メモリと、
   前記少なくとも１つのコンピュータ可読メモリと通信する１つまたは複数のプロセッサであって、前記命令を実行して、前記システムに少なくとも、
   前記管腔ネットワークの現在の分岐内に位置する前記器具の位置状態の推定を特定し、前記位置状態の推定は、前記器具の長手方向の軸周りにおける前記器具の回転の推定を含み、
   前記位置状態の推定と前記管腔ネットワークの術前モデルとに少なくとも部分的に基づいて、予想される後続の一連の分岐を特定することと、
   前記器具上に位置する前記画像処理装置によって前記現在の分岐の画像を取得することと、
   前記画像内において、前記管腔ネットワークの後続の分岐と現在の分岐とを接続する複数の開口を検出することと、
   ２つの開口の重心を結ぶ第１のベクトルを含む、前記検出された複数の開口の１つまたは複数の特徴を特定することと、
   前記予想される後続の一連の分岐を結ぶ第２のベクトルを含む、前記予想される後続の一連の分岐の１つまたは複数の特徴を特定することと、
   前記器具の前記回転の推定に基づいて前記第２のベクトルを修正することと、
   前記第１のベクトルと前記修正された前記第２のベクトルとの内積の値を計算することによって、前記検出された複数の開口の前記１つまたは複数の特徴と前記修正された前記予想される後続の一連の分岐の前記１つまたは複数の特徴とを比較して、前記複数の開口のそれぞれを前記予想される後続の一連の分岐のいずれかの分岐にマッピングすることと、
   前記検出された複数の開口のいずれの開口が前記画像の中心により近いかを特定するし、それにより、前記器具が前記いずれの開口に移動するかについての確率を提供することと、
   前記比較に少なくとも部分的に基づいて、更新された位置状態の推定を提供することと、
   を実行させる１つまたは複数のプロセッサと、
   を有することを特徴とするシステム。
8. 前記器具は内視鏡を含むことを特徴とする請求項７に記載のシステム。
9. 前記器具位置決め装置はロボットアームを含むことを特徴とする請求項７に記載のシステム。
10. 前記管腔ネットワークは、肺の気管支ネットワークまたは胃腸管または腎臓部のネットワークを含むことを特徴とする請求項７に記載のシステム。
11. 前記命令が実行されると、前記１つまたは複数のプロセッサに、
    前記画像内における前記検出された開口の向きと前記術前モデルに基づいて予想される、前記後続の一連の分岐の向きとを比較することによって、回転の修正された推定を特定すること、
    を実行させることを特徴とする請求項７に記載のシステム。
12. 前記命令が実行されると、前記１つまたは複数のプロセッサに、
    前記検出された開口のそれぞれに対して、前記検出された複数の開口の１つまたは複数の特徴を前記予想される後続の一連の分岐にマッチングさせることを繰り返し行うことによって、前記検出された複数の開口の前記１つまたは複数の特徴を、前記予想される後続の一連の分岐と比較すること、
    を実行させ、
    前記マッチングの一致度が最も高いものを用いて、前記検出された開口を前記予想される後続の分岐の１つの分岐にマッピングする
    ことを特徴とする請求項７に記載のシステム。
13. プロセッサの作動方法であって、
    前記プロセッサが、器具の長手方向の軸周りにおける前記器具の回転の推定を含む前記器具の位置状態の推定を受信することと、
    前記プロセッサが、前記位置状態の推定と管腔ネットワークの術前モデルとに少なくとも部分的に基づいて、予想される後続の一連の分岐を特定することと、
    前記プロセッサが、前記器具上に位置する画像処理装置から現在の分岐の画像を受信することと、
    前記プロセッサが、前記画像を解析して、後続の分岐と前記現在の分岐とを接続する複数の開口を検出することと、
    前記プロセッサが、２つの開口の重心を結ぶ第１のベクトルを含む、前記検出された複数の開口の１つまたは複数の特徴を特定することと、
    前記プロセッサが、前記予想される後続の一連の分岐を結ぶ第２のベクトルを含む、前記予想される後続の一連の分岐の１つまたは複数の特徴を特定することと、
    前記プロセッサが、前記器具の前記回転の推定に基づいて前記第２のベクトルを修正することと、
    前記プロセッサが、前記第１のベクトルと前記修正された前記第２のベクトルとの内積の値を計算することによって、前記プロセッサが、前記検出された複数の開口の前記１つまたは複数の特徴と前記修正された前記予想される後続の一連の分岐の前記１つまたは複数の特徴とを比較して、前記複数の開口のそれぞれを前記予想される後続の一連の分岐のいずれかの分岐にマッピングすることと、
    前記プロセッサが、前記比較に少なくとも部分的に基づいて、更新された位置状態の推定を提供することと、
    前記プロセッサが、前記検出された複数の開口のいずれの開口が前記画像の中心により近いかを特定し、それにより、前記プロセッサが、前記器具が前記いずれの開口に移動するかについての確率を提供することと、
    を含むことを特徴とするプロセッサの作動方法。
14. 前記更新された位置状態の推定は、前記位置状態の推定が正しい確率を含むことを特徴とする請求項１３に記載のプロセッサの作動方法。
15. 前記位置状態の推定が正しい確率は、前記検出された複数の開口の前記１つまたは複数の特徴と前記修正された前記予想される後続の一連の分岐の前記１つまたは複数の特徴との比較に部分的に基づいて特定されることを特徴とする請求項１４に記載のプロセッサの作動方法。
16. 前記位置状態の推定が正しい確率は、前記検出された複数の開口の前記１つまたは複数の特徴が前記修正された前記予想される後続の一連の分岐の前記１つまたは複数の特徴と一致する度合いに部分的に基づいて特定されることを特徴とする請求項１５に記載のプロセッサの作動方法。
17. 前記更新された位置状態の推定は、前記回転の推定が正しい確率を含み、
    前記プロセッサの作動方法はさらに、
    前記プロセッサが、前記画像内における前記検出された開口の向きと前記術前モデルに基づいて予想される、前記後続の一連の分岐の向きとを比較することによって、前記回転の推定が正しい確率を特定する、
    ことを含むことを特徴とする請求項１３に記載のプロセッサの作動方法。

Images