JP2009297435A - 受動的多自由度システムおよび内視鏡装置 - Google Patents
受動的多自由度システムおよび内視鏡装置 Download PDFInfo
- Publication number
- JP2009297435A JP2009297435A JP2008158145A JP2008158145A JP2009297435A JP 2009297435 A JP2009297435 A JP 2009297435A JP 2008158145 A JP2008158145 A JP 2008158145A JP 2008158145 A JP2008158145 A JP 2008158145A JP 2009297435 A JP2009297435 A JP 2009297435A
- Authority
- JP
- Japan
- Prior art keywords
- image
- sum
- imaging unit
- passive
- acquired
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Abstract
【課題】広角レンズのように光学歪みを有する撮像部により広い視野範囲を確保しながら、取得される画像中のいずれの位置に検出される注目点に対しても迅速に位置制御を行う。
【解決手段】複数の受動関節により連結された多数のリンク3を備える多関節体4と、該多関節体4のリンク3に取り付けられた広角レンズ11を含み被写体の画像を取得する撮像部8と、各受動関節の角度和を検出する角度和検出手段5と、撮像部8の姿勢および位置を制御する制御装置9とを備え、該制御装置9が、角度和検出手段5により検出された各受動関節の角度の和に基づいて撮像部8の姿勢を制御する姿勢制御部13と、撮像部8により取得された画像中における注目点の移動量に基づいて該撮像部8の位置を制御する位置制御部14とを備え、該位置制御部14が、取得された画像上における注目点の位置に応じてフィードバックゲインを変更する受動的多自由度システム1を提供する。
【選択図】図1
【解決手段】複数の受動関節により連結された多数のリンク3を備える多関節体4と、該多関節体4のリンク3に取り付けられた広角レンズ11を含み被写体の画像を取得する撮像部8と、各受動関節の角度和を検出する角度和検出手段5と、撮像部8の姿勢および位置を制御する制御装置9とを備え、該制御装置9が、角度和検出手段5により検出された各受動関節の角度の和に基づいて撮像部8の姿勢を制御する姿勢制御部13と、撮像部8により取得された画像中における注目点の移動量に基づいて該撮像部8の位置を制御する位置制御部14とを備え、該位置制御部14が、取得された画像上における注目点の位置に応じてフィードバックゲインを変更する受動的多自由度システム1を提供する。
【選択図】図1
Description
本発明は、受動的多自由度システムおよび内視鏡装置に関するものである。
従来、受動的多自由度システムとして、複数の受動関節により連結された多関節体と、該多関節体に取り付けられた撮像部と、前記各受動関節の角度を検出する角度センサと、撮像部の姿勢および位置を制御する制御装置とを備えるものが知られている(例えば、非特許文献1参照。)。
この受動的多自由度システムは、角度センサにより検出された各受動関節の角度の和に基づいて撮像部の姿勢を制御するとともに、撮像部により取得された画像に基づいて該撮像部の位置を制御するようになっている。
そして、画像に基づく撮像部の位置制御においては、画像内の注目点の動きに着目し、時間間隔をあけて取得された2枚の画像間における注目点の移動量を抽出してそれを戻すように、先端のリンクに接続された一組のワイヤの張力を調節することが行われる。
そして、画像に基づく撮像部の位置制御においては、画像内の注目点の動きに着目し、時間間隔をあけて取得された2枚の画像間における注目点の移動量を抽出してそれを戻すように、先端のリンクに接続された一組のワイヤの張力を調節することが行われる。
後藤和之他、「受動的冗長自由度を持つシステムのビジュアルフィードバック制御」、電気学会研究会試料IIC(産業計測制御研究会),2007,No.19,p65−69
しかしながら、このような受動的多自由度システムを、例えば、内視鏡装置に適用する場合に、先端のリンクに取り付ける撮像部としては、極めて細径であることと、広い視野範囲を有することとが要求されるため、超広角の広角レンズを備えたものが採用される。このような撮像部により取得される画像は、周辺部に行くほど大きな歪みを有する画像となるので、2つの画像間の差分により抽出される移動量は現実の移動量より小さくなって、その移動量を補正するための整定時間が長くなるという不都合がある。画像処理等により歪みを補正した画像を得る技術も知られているが、画像全体の歪みを補正すると計算量が多くなったり演算時間が長くなったりする等の不都合がある。特に、画像情報をフィードバックに使用する場合には、サンプリング時間を短縮することが望まれる。
本発明は上述した事情に鑑みてなされたものであって、広角レンズのように光学歪みを有する撮像部により広い視野範囲を確保しながら、取得される画像中のいずれの位置に検出される注目点に対しても迅速に位置制御を行うことができる受動的多自由度システムおよび内視鏡装置を提供することを目的としている。
上記目的を達成するために、本発明は以下の手段を提供する。
本発明は、複数の受動関節により連結された多数のリンクを備える多関節体と、該多関節体のリンクに取り付けられた広角レンズを含み被写体の画像を取得する撮像部と、前記各受動関節の角度和を検出する角度和検出手段と、前記撮像部の姿勢および位置を制御する制御装置とを備え、該制御装置が、前記角度和検出手段により検出された各受動関節の角度の和に基づいて前記撮像部の姿勢を制御する姿勢制御部と、前記撮像部により取得された画像中における注目点の移動量に基づいて該撮像部の位置を制御する位置制御部とを備え、該位置制御部が、取得された画像上における注目点の位置に応じてフィードバックゲインを変更する受動的多自由度システムを提供する。
本発明は、複数の受動関節により連結された多数のリンクを備える多関節体と、該多関節体のリンクに取り付けられた広角レンズを含み被写体の画像を取得する撮像部と、前記各受動関節の角度和を検出する角度和検出手段と、前記撮像部の姿勢および位置を制御する制御装置とを備え、該制御装置が、前記角度和検出手段により検出された各受動関節の角度の和に基づいて前記撮像部の姿勢を制御する姿勢制御部と、前記撮像部により取得された画像中における注目点の移動量に基づいて該撮像部の位置を制御する位置制御部とを備え、該位置制御部が、取得された画像上における注目点の位置に応じてフィードバックゲインを変更する受動的多自由度システムを提供する。
本発明によれば、角度和検出手段により検出された受動関節の角度の和に基づいて姿勢制御部の作動により撮像部の姿勢が制御され、撮像部により取得された画像に基づいて位置制御部の作動により撮像部の位置が制御される。この場合に、位置制御部は、取得された画像上における注目点の移動量に基づいて撮像部の位置を制御することとなるが、その際のフィードバックゲインを注目点の位置に応じて変更するので、広角レンズを含む撮像部のように光学歪みを有する撮像部により取得された画像を用いても、注目点の位置に依存することなく、撮像部を精度よく迅速に位置制御することが可能となる。
上記発明においては、前記位置制御部が、画像上の位置とゲインとを対応づけて記憶するゲイン記憶部と、取得された画像上の注目点の位置に基づいてゲイン記憶部内に記憶されているゲインを検索しフィードバックゲインとして適用する補正手段とを備えることとしてもよい。
このようにすることで、位置制御部は、ゲイン記憶部に記憶されているゲインを検索し、補正手段によりフィードバックゲインとして適用するので、撮像部に含まれている広角レンズに適したゲインを記憶しておくだけで、注目点が視野範囲のいずれの位置に配置されていても、簡易かつ迅速に撮像部を精度よく位置制御することができる。
このようにすることで、位置制御部は、ゲイン記憶部に記憶されているゲインを検索し、補正手段によりフィードバックゲインとして適用するので、撮像部に含まれている広角レンズに適したゲインを記憶しておくだけで、注目点が視野範囲のいずれの位置に配置されていても、簡易かつ迅速に撮像部を精度よく位置制御することができる。
また、本発明は、上記いずれかの受動的多自由度システムを備える内視鏡装置を提供する。
本発明によれば、撮像部を体腔内に挿入して、体腔内の観察を行いながら外科的な処置を行っている場合に、患者の体動その他の外乱によって撮像部の位置が変動しても、迅速に視野を回復して、処置の継続を図ることができる。
本発明によれば、撮像部を体腔内に挿入して、体腔内の観察を行いながら外科的な処置を行っている場合に、患者の体動その他の外乱によって撮像部の位置が変動しても、迅速に視野を回復して、処置の継続を図ることができる。
本発明によれば、広角レンズのように光学歪みを有する撮像部により広い視野範囲を確保しながら、取得される画像中のいずれの位置に検出される注目点に対しても迅速に位置制御を行うことができるという効果を奏する。
以下、本発明の一実施形態に係る受動的多自由度システム1および内視鏡装置2について、図1〜図4を参照して以下に説明する。
本実施形態に係る内視鏡装置2は、体腔内に挿入される細長い挿入部2aを備え、該挿入部2a内に受動的多自由度システム1を備えている。
本実施形態に係る内視鏡装置2は、体腔内に挿入される細長い挿入部2aを備え、該挿入部2a内に受動的多自由度システム1を備えている。
本実施形態に係る受動的多自由度システム1は、図1に示されるように、相互に直交する2方向に自由度を有するように連結された多数のリンク3を備える多関節体4と、該多関節体4を構成しているリンク3間の角度を検出するように関節毎に設けられた角度センサ5と、先端のリンク3に一端が接続され、各リンク3の先端側部分を通過して、基端のリンク3よりも基端側に配置されたプーリ6に接続された2組のワイヤ7(1組のみ図示。)と、先端のリンク3に固定された撮像部8と、前記角度センサ5により検出されたリンク3の角度および撮像部8により取得された画像Pに基づいてワイヤ7の張力を制御する制御装置9とを備えている。
ワイヤ7は、リンク3の各自由度毎に1組ずつ設けられている。ここでは、一方の自由度についてのみ説明する。図中、符号10は、プーリ6を回転させるモータである。
撮像部8は、リンク3の先端に設けられた超広角レンズ11と、該超広角レンズ11により集光された光を撮影するCCDカメラ12とを備えている。
撮像部8は、リンク3の先端に設けられた超広角レンズ11と、該超広角レンズ11により集光された光を撮影するCCDカメラ12とを備えている。
制御装置9は、角度センサ5により検出されたリンク3間の角度に基づいて、撮像部8の姿勢を制御する姿勢制御部13(図3参照。)と、撮像部8により取得された画像Pに基づいて撮像部8の位置を制御する位置制御部14(図3参照。)とを備えている。
姿勢制御部13は、全ての角度センサ5により検出されたリンク3間の角度の総和である関節角度和θsumを演算し、該関節角度和θsumが一定となるようにワイヤ7の張力を制御するようになっている。
姿勢制御部13は、全ての角度センサ5により検出されたリンク3間の角度の総和である関節角度和θsumを演算し、該関節角度和θsumが一定となるようにワイヤ7の張力を制御するようになっている。
すなわち、各角度センサ5により検出されるリンク3間の角度の総和である関節角度和θsumは、ベース座標系に対する先端のリンク3の姿勢、すなわち、先端のリンク3に取り付けられた撮像部8の姿勢を表すようになっている。
これを図2に示す。図2(a)と図2(b)とは関節角度和θsumが等しく、従って撮像部8の姿勢は同一である。
これを図2に示す。図2(a)と図2(b)とは関節角度和θsumが等しく、従って撮像部8の姿勢は同一である。
しかしながら、関節角度和θsumが同一で姿勢が等しくても、図2(a)と図2(b)とでは撮像部8の位置が異なり、したがって、撮像部8により取得される被写体の画像Pの位置も相違する。また、関節角度和θsumが微小変化すると撮像部8の姿勢も微小に変化する。
そこで、位置制御部14は、撮像部8により時間間隔をあけて取得された2枚の画像Pの差分から画像P上における注目点の移動量を算出し、該移動量に基づいて、関節角度和θsumを微小変化させる指令を発生させることにより、ワイヤ7の張力を変化させ、撮像部8の位置を制御するようになっている。
さらに具体的には、関節角度和θsumの微小変化Δθsumに対する注目点の微小変化ΔuTとの関係を示す画像ヤコビ行列Jimageを用いると、図3の制御ブロック図を得ることができる。
図3において、
画像ヤコビ行列 : Jimage=ΔuT/Δθsum
注目点の目標位置指令 : ur
位置指令偏差 : eu
位置制御伝達関数 : CI
注目点の微小変化指令 : Δur
関節角度和の微小変化指令: Δθsum_r
角度偏差 : eθ
姿勢制御伝達関数 : CR
機構部伝達関数 : System
注目点の位置 : uT
注目点位置の微小変化 : ΔuT
フィードバックゲイン : G
である。
図3において、
画像ヤコビ行列 : Jimage=ΔuT/Δθsum
注目点の目標位置指令 : ur
位置指令偏差 : eu
位置制御伝達関数 : CI
注目点の微小変化指令 : Δur
関節角度和の微小変化指令: Δθsum_r
角度偏差 : eθ
姿勢制御伝達関数 : CR
機構部伝達関数 : System
注目点の位置 : uT
注目点位置の微小変化 : ΔuT
フィードバックゲイン : G
である。
位置制御伝達関数CIおよび姿勢制御伝達関数CRは、それぞれ、以下のように設定されている。
CI: KPIeu−KVIΔuT
CR: KPReθ−KVRΔθsum
ここで、KPI,KVI,KPR,KVRは制御パラメータである。
CI: KPIeu−KVIΔuT
CR: KPReθ−KVRΔθsum
ここで、KPI,KVI,KPR,KVRは制御パラメータである。
また、本実施形態に係る受動的多自由度システム1は、撮像部8により取得された画像Pにおける注目点の位置uTに応じてフィードバックゲインGを調節するようになっている。
フィードバックゲインGは、例えば、図4に示されるように、注目点の位置が画像Pの中心から離れるに従って、大きくなるように調節されるようになっている。
フィードバックゲインGは、例えば、図4に示されるように、注目点の位置が画像Pの中心から離れるに従って、大きくなるように調節されるようになっている。
画像Pにおける注目点の検出は、画像P上における高輝度領域を2値化等の画像処理により抽出し、その重心位置を演算することにより行われる。フィードバックゲインGは、注目点の位置uTの関数G(uT)として記憶されていてもよいし、図1に示されるゲイン記憶部15にマップとして記憶されていてもよい。
すなわち、撮像部8に備えられた超広角レンズ11により集光された光を撮影して取得された画像Pは、超広角レンズ11の光学歪みにより歪んでいるため、画像Pから検出された注目点の移動量は現実の移動量が同じ場合であっても画像P上の位置に応じて異なる値となる。このため、超広角レンズ11を備えた撮像部8により取得された画像Pにおいては、画像P上の周辺位置における移動量は、中央位置における移動量より縮小されて検出される。
そこで、本実施形態におけるフィードバックゲインGは、注目点の位置が画像Pの中央位置にある場合には小さく、画像Pの周辺位置にある場合には大きくなるように調節されることにより、注目点の位置にかかわらず、現実の移動量が等しい場合には、同一の検出結果をフィードバックすることができる。
このように構成された本実施形態に係る受動的多自由度システム1および内視鏡装置2によれば、体腔内に挿入部2aを挿入して、撮像部8を被写体の観察対象部位に対向させた状態で、角度センサ5によりリンク3間の角度を検出し、撮像部8の作動により画像Pを取得する。
姿勢制御部13は、関節角度和θsumを算出し、位置制御部14は、画像Pから注目点を抽出し、その変化を監視する。
姿勢制御部13は、関節角度和θsumを算出し、位置制御部14は、画像Pから注目点を抽出し、その変化を監視する。
撮像部8により取得された画像Pから抽出された注目点の位置が変動した場合には、位置制御部14はその位置情報をフィードバックすることにより、目標位置との間の偏差euを算出し、その偏差euに基づいて関節角度和θsumを微小変化させるよう指令信号Δurが出力される。姿勢制御部13では、この指令信号Δurに基づいてワイヤ7の張力が算出され、関節角度和θsumが指令信号θsum_rに一致するよう制御される。
その結果、撮像部8の姿勢が保たれるとともに、注目点の位置ズレを解消するように撮像部8が移動させられるので、観察対象部位を同じ方向から同じ位置で観察することができる。
この場合において、本実施形態によれば、検出された注目点の位置が画像P上のどの位置に配置されるかによってフィードバックゲインGを変化させる。すなわち、画像P上の周辺部位に存在する場合には、フィードバックゲインGを大きくして、検出された注目点の移動量を大きく補正し、画像P上の中央部位に存在する場合にはフィードバックゲインGを小さくして、検出された注目点の移動量を小さく補正する。
この場合において、本実施形態によれば、検出された注目点の位置が画像P上のどの位置に配置されるかによってフィードバックゲインGを変化させる。すなわち、画像P上の周辺部位に存在する場合には、フィードバックゲインGを大きくして、検出された注目点の移動量を大きく補正し、画像P上の中央部位に存在する場合にはフィードバックゲインGを小さくして、検出された注目点の移動量を小さく補正する。
したがって、超広角レンズ11を用いて広い視野範囲にわたる観察対象部位の観察を行いながら、患者の体動等の外乱によって注目点の位置が変動した場合であっても、画像P上の注目点の位置に依存することなく、注目点の位置を迅速に修正することができる。その結果、内視鏡観察下で外科的な処置を行っている場合においても、迅速に視野範囲を回復して処置が中断される不都合の発生を防止することができるという利点がある。
なお、本実施形態においては、検出された注目点の位置をフィードバックする際に乗算するフィードバックゲインGを注目点の位置に応じて調節することとしたが、これに代えて、これと等価な効果を有するように任意の状態量、例えば、制御量にかけるゲインを調節することにしてもよい。
また、内視鏡装置2においては、制御装置9に対して挿入部2aを交換することが行われるため、フィードバックゲインGのデータを挿入部2a側に備えられた記憶部(図示略)に記憶しておき、挿入部2aを交換する際に制御装置9内に読み込むことにしてもよい。このようにすることで、共通の制御装置9によって種々のタイプの挿入部2aに対応できるという利点がある。なお、本発明は以上の説明に限定されるものではなく、例えば角度和検出手段として角度センサの和の代わり、モータ角度を用いる等してもよく、また、ワイヤの代わりにリングを用いて駆動する等してもよい。また駆動手段としてのモータ10も、同動作を可能にするものであれば、他の駆動手段であってもよい。
P 画像
1 受動的多自由度システム
2 内視鏡装置
3 リンク
4 多関節体
5 角度センサ
8 撮像部
9 制御装置
11 広角レンズ
13 姿勢制御部
14 位置制御部(補正手段)
15 ゲイン記憶部
1 受動的多自由度システム
2 内視鏡装置
3 リンク
4 多関節体
5 角度センサ
8 撮像部
9 制御装置
11 広角レンズ
13 姿勢制御部
14 位置制御部(補正手段)
15 ゲイン記憶部
Claims (3)
- 複数の受動関節により連結された多数のリンクを備える多関節体と、
該多関節体のリンクに取り付けられた広角レンズを含み被写体の画像を取得する撮像部と、
前記各受動関節の角度和を検出する角度和検出手段と、
前記撮像部の姿勢および位置を制御する制御装置とを備え、
該制御装置が、前記角度和検出手段により検出された各受動関節の角度の和に基づいて前記撮像部の姿勢を制御する姿勢制御部と、前記撮像部により取得された画像中における注目点の移動量に基づいて該撮像部の位置を制御する位置制御部とを備え、
該位置制御部が、取得された画像上における注目点の位置に応じてフィードバックゲインを変更する受動的多自由度システム。 - 前記位置制御部が、画像上の位置とゲインとを対応づけて記憶するゲイン記憶部と、取得された画像上の注目点の位置に基づいてゲイン記憶部内に記憶されているゲインを検索しフィードバックゲインとして適用する補正手段とを備える請求項1に記載の受動的多自由度システム。
- 請求項1または請求項2に記載の受動的多自由度システムを備える内視鏡装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008158145A JP2009297435A (ja) | 2008-06-17 | 2008-06-17 | 受動的多自由度システムおよび内視鏡装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008158145A JP2009297435A (ja) | 2008-06-17 | 2008-06-17 | 受動的多自由度システムおよび内視鏡装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009297435A true JP2009297435A (ja) | 2009-12-24 |
Family
ID=41544941
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008158145A Withdrawn JP2009297435A (ja) | 2008-06-17 | 2008-06-17 | 受動的多自由度システムおよび内視鏡装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2009297435A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017026653A1 (ko) * | 2015-08-11 | 2017-02-16 | 강윤식 | 내시경 |
WO2019017018A1 (ja) * | 2017-07-18 | 2019-01-24 | 富士フイルム株式会社 | 内視鏡装置及び計測支援方法 |
WO2019017019A1 (ja) * | 2017-07-18 | 2019-01-24 | 富士フイルム株式会社 | 内視鏡装置及び計測支援方法 |
-
2008
- 2008-06-17 JP JP2008158145A patent/JP2009297435A/ja not_active Withdrawn
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017026653A1 (ko) * | 2015-08-11 | 2017-02-16 | 강윤식 | 내시경 |
WO2019017018A1 (ja) * | 2017-07-18 | 2019-01-24 | 富士フイルム株式会社 | 内視鏡装置及び計測支援方法 |
WO2019017019A1 (ja) * | 2017-07-18 | 2019-01-24 | 富士フイルム株式会社 | 内視鏡装置及び計測支援方法 |
US11160438B2 (en) | 2017-07-18 | 2021-11-02 | Fujifilm Corporation | Endoscope device and measurement support method |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108366833B (zh) | 手术信息处理设备和方法 | |
US10945796B2 (en) | Robotic control of surgical instrument visibility | |
EP2925250B1 (en) | Operation support system | |
JP4812418B2 (ja) | 内視鏡装置 | |
JP2020510820A5 (ja) | ||
JP4899217B2 (ja) | 前庭動眼反射の原理を用いる眼球運動制御装置 | |
WO2016072059A1 (en) | Endoscope system, image processing device, image processing method, and program | |
JP2016531281A5 (ja) | ||
JP7092382B2 (ja) | 自己配向型画像化装置およびその使用方法 | |
US11684247B2 (en) | Automatic image orientation based on use | |
JP2006218027A (ja) | 内視鏡装置 | |
US11540699B2 (en) | Medical manipulator system | |
JP2009297435A (ja) | 受動的多自由度システムおよび内視鏡装置 | |
JP3070022B2 (ja) | 超広角内視鏡 | |
US20180071034A1 (en) | Medical manipulator system | |
JP4759277B2 (ja) | 観察方法および観察補助具 | |
US10917572B2 (en) | Image processing apparatus, image processing method, and optical member | |
JP6646133B2 (ja) | 画像処理装置および内視鏡 | |
WO2020196026A1 (ja) | 撮影制御装置、撮影制御方法、プログラム、及び、撮影システム | |
JP5944450B2 (ja) | 管内調査装置及びカメラヘッド | |
JP2010014965A (ja) | 生体観察装置 | |
JP6640378B2 (ja) | 内視鏡装置及び内視鏡装置の制御方法 | |
JP2008229219A (ja) | 電子内視鏡システム | |
JP2012137665A (ja) | 内視鏡装置 | |
KR20230059158A (ko) | 내시경 카메라 장치 및 카메라 정렬 오류 수정 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Withdrawal of application because of no request for examination |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20110906 |