JPWO2020012576A1 - 内視鏡システム、内視鏡のキャリブレーション方法および内視鏡の制御装置 - Google Patents

内視鏡システム、内視鏡のキャリブレーション方法および内視鏡の制御装置 Download PDF

Info

Publication number
JPWO2020012576A1
JPWO2020012576A1 JP2020529895A JP2020529895A JPWO2020012576A1 JP WO2020012576 A1 JPWO2020012576 A1 JP WO2020012576A1 JP 2020529895 A JP2020529895 A JP 2020529895A JP 2020529895 A JP2020529895 A JP 2020529895A JP WO2020012576 A1 JPWO2020012576 A1 JP WO2020012576A1
Authority
JP
Japan
Prior art keywords
fixed point
endoscope
motion vector
calculated
control device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020529895A
Other languages
English (en)
Other versions
JP7135087B2 (ja
Inventor
謙介 上杉
謙介 上杉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2020012576A1 publication Critical patent/JPWO2020012576A1/ja
Application granted granted Critical
Publication of JP7135087B2 publication Critical patent/JP7135087B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00057Operational features of endoscopes provided with means for testing or calibration
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00147Holding or positioning arrangements
    • A61B1/00149Holding or positioning arrangements using articulated arms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00147Holding or positioning arrangements
    • A61B1/0016Holding or positioning arrangements using motor drive units
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/005Flexible endoscopes
    • A61B1/0051Flexible endoscopes with controlled bending of insertion part
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/005Flexible endoscopes
    • A61B1/0051Flexible endoscopes with controlled bending of insertion part
    • A61B1/0052Constructional details of control elements, e.g. handles
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00681Aspects not otherwise provided for
    • A61B2017/00725Calibration or performance testing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B2034/301Surgical robots for introducing or steering flexible instruments inserted into the body, e.g. catheters or endoscopes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2560/00Constructional details of operational features of apparatus; Accessories for medical measuring apparatus
    • A61B2560/02Operational features
    • A61B2560/0223Operational features of calibration, e.g. protocols for calibrating sensors

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Medical Informatics (AREA)
  • Optics & Photonics (AREA)
  • Biophysics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Pathology (AREA)
  • Signal Processing (AREA)
  • Robotics (AREA)
  • Astronomy & Astrophysics (AREA)
  • General Physics & Mathematics (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Abstract

長手軸を有する長尺部(5)と、長尺部(5)の先端に備えられた撮像部(6)と、撮像部(6)の長尺部(5)に対する傾斜角度を変化させる湾曲部(7)と、湾曲部(7)を駆動する湾曲駆動部(8)と、長尺部(5)を長手軸回りに回転させる回転駆動部(9)と、撮像部(6)により取得された画像を処理する制御装置(10)とを備え、制御装置(10)は、回転駆動部(9)による長尺部(5)の回転動作中に、撮像された複数の画像を撮像部(6)から取得し、取得された複数の画像に基づいて、画像上における不動点の位置を算出し、算出された不動点の位置から画像の中心に位置する方向を決定する内視鏡システム(1)である。

Description

本発明は、内視鏡システム、内視鏡のキャリブレーション方法および内視鏡の制御装置に関するものである。
挿入部の先端に備えられた湾曲部を真っ直ぐに延ばした状態に自動的に動作させる、いわゆるセンタリング動作を行う内視鏡が知られている(例えば、特許文献1参照。)。
特許文献1の内視鏡においては、湾曲部を動作させるための各モータの回転量をポテンショメータにより検出し、検出された回転量に基づいて湾曲残り角度を推定し、推定された湾曲残り角度分だけモータを動作させている。
特開2002−323661号公報
しかしながら、特許文献1の内視鏡においては、モータの回転量に基づいて推定された湾曲残り角度だけ補正しているため、現実に湾曲部を直線化できたか否かについては明確ではない。
本発明は、湾曲部を精度よく直線化することができる内視鏡システム、内視鏡のキャリブレーション方法および内視鏡の制御装置を提供することを目的としている。
本発明の一態様は、長手軸を有する長尺部と、該長尺部の先端に備えられた撮像部と、該撮像部の前記長尺部に対する傾斜角度を変化させる湾曲部と、該湾曲部を駆動する湾曲駆動部と、前記長尺部を前記長手軸回りに回転させる回転駆動部と、前記撮像部により取得された画像を処理する制御装置とを備え、該制御装置は、前記回転駆動部による前記長尺部の回転動作中に、撮像された複数の前記画像を前記撮像部から取得し、取得された複数の前記画像に基づいて、該画像上の不動点の位置を算出し、算出された前記不動点の位置から前記画像の中心に位置する方向を決定する、内視鏡システムである。
本態様によれば、長尺部を撮像部から体内に挿入し、回転駆動部を動作させて長尺部を長手軸回りに回転させるとともに、回転動作中に撮像部を作動させて、撮像部によって撮像された複数の画像を取得させる。取得された複数の画像に基づいて、制御装置によって画像上における不動点の位置が算出され、不動点の位置から画像の中心に位置する方向が決定される。
すなわち、回転駆動部による回転動作は、長尺部を長手軸回りに回転させるので、回転動作中に撮像部により経時的に取得される画像は、長手軸の延長上に配置される点である不動点の回りに回転する。したがって、湾曲駆動部により湾曲部を駆動して、不動点の位置から画像の中心に位置する方向を決定することができ、これにより、湾曲部を精度よく直線化することができる。
上記態様においては、前記制御装置は、複数の前記画像に基づいて、複数の不動点候補を設定し、各該不動点候補の前記長尺部の回転動作中における動きベクトルを算出し、算出された各該動きベクトルの大きさが最小となる前記不動点候補の位置を前記不動点の位置として算出してもよい。
この構成により、画像内に不動点が存在する場合には、不動点の位置を精度よく算出することができる。したがって、精度よく算出された不動点の位置から画像の中心に位置する方向を決定することでき、これにより、湾曲部を精度よく直線化することができる。
また、上記態様においては、前記制御装置は、前記動きベクトルの大きさが最小、かつ所定閾値よりも小さい前記不動点候補の位置を前記不動点の位置として算出してもよい。
この構成により、画像内に不動点が存在しない場合に、動きベクトルの大きさが最小となる不動点候補が不動点として誤検出されることを防止できる。
また、上記態様においては、前記制御装置は、前記動きベクトルの大きさが前記所定閾値よりも大きい場合に、前記湾曲駆動部により前記湾曲部を前記動きベクトルに交差させ、かつ、前記動きベクトルが小さくなる方向に、前記湾曲部を動作させてもよい。
この構成により、動きベクトルが最も小さくなる位置に配置されている不動点を画像内に引き込んで、不動点の位置の算出を行わせることができる。
また、上記態様においては、前記長尺部を前記長手軸方向に進退させる進退駆動部をさらに備え、前記制御装置は、前記動きベクトルの大きさが前記所定閾値よりも大きい場合に、前記進退駆動部が、内視鏡を前記長手軸方向後方に後退させてもよい。
この構成により、長尺部を長手軸方向後方に後退させることにより、視野範囲が拡大するので、画像の外側にはみ出している不動点を画像内に引き込むことができる。
また、上記態様においては、前記制御装置は、決定された前記方向に基づいて前記湾曲駆動部を制御してもよい。
この構成により、制御装置の作動により、動きベクトルが最も小さくなる位置に配置されている不動点から画像の中心に位置する方向を決定して自動的に、湾曲部を精度よく直線化することができる。
また、上記態様においては、前記制御装置は、算出された前記不動点の位置と前記中心との距離を小さくする方向に前記湾曲部の角度を調節してもよい。
この構成により、動きベクトルが最も小さくなる位置に配置されている不動点から画像の中心に位置する方向を決定し、湾曲部を精度よく直線化することができる。
また、上記態様においては、前記制御装置により決定された前記方向を報知する情報報知部を備えていてもよい。
この構成により、報知された情報に基づいて術者が内視鏡を操作して、湾曲部を湾曲させることができ、動きベクトルが最も小さくなる位置に配置されている不動点から画像の中心に位置する方向を決定して手動により、湾曲部を精度よく直線化することができる。
また、本発明の他の態様は、内視鏡のキャリブレーション方法であって、前記内視鏡が、長手軸を有する長尺部と、該長尺部の先端に備えられた撮像部と、該撮像部の前記長尺部に対する傾斜角度を変化させる湾曲部とを備え、前記長尺部の回転動作中に、前記撮像部によって撮像された複数の画像を取得し、取得された複数の前記画像に基づいて、該画像上の不動点の位置を算出し、算出された該不動点の位置から前記画像の中心に位置する方向を決定し、決定された方向に基づいて、前記湾曲部を動作する、内視鏡のキャリブレーション方法である。
上記態様においては、複数の前記画像に基づいて、複数の不動点候補を設定し、各該不動点候補の前記長尺部の回転動作中における動きベクトルを算出し、算出された各該動きベクトルの大きさが最小となる前記不動点候補の位置を前記不動点の位置として算出してもよい。
また、上記態様においては、前記動きベクトルの大きさが最小、かつ所定閾値よりも小さい前記不動点候補の位置を前記不動点の位置として算出してもよい。
また、上記態様においては、前記動きベクトルの大きさが前記所定閾値よりも大きい場合に、前記湾曲部を前記動きベクトルに交差させ、かつ、前記動きベクトルが小さくなる方向に、前記湾曲部を動作させてもよい。
また、上記態様においては、前記動きベクトルの大きさが前記所定閾値よりも大きい場合に、前記内視鏡を該内視鏡における長手軸方向後方に後退させてもよい。
また、本発明の他の態様は、内視鏡の制御装置であって、1以上のプロセッサを備え、該プロセッサは、前記内視鏡の回転駆動部による前記内視鏡の長尺部の回転動作中に、撮像された複数の画像を前記内視鏡の撮像部により取得し、取得された前記複数の画像に基づいて、画像上の不動点の位置を算出し、算出された前記不動点の位置から前記画像の中心に位置する方向を決定する、内視鏡の制御装置である。
上記態様においては、前記プロセッサは、複数の前記画像に基づいて、複数の不動点候補を設定し、各該不動点候補の前記長尺部の回転動作中における動きベクトルを算出し、算出された各該動きベクトルの大きさが最小となる前記不動点候補の位置を前記不動点の位置として算出してもよい。
また、上記態様においては、前記プロセッサは、前記動きベクトルの大きさが最小、かつ所定閾値よりも小さい前記不動点候補の位置を前記不動点の位置として算出してもよい。
また、上記態様においては、前記プロセッサは、前記動きベクトルの大きさが前記所定閾値よりも大きい場合に、前記内視鏡の湾曲部を前記動きベクトルに交差させ、かつ、前記動きベクトルが小さくなる方向に、前記湾曲部を動作させてもよい。
また、上記態様においては、前記プロセッサは、前記動きベクトルの大きさが前記所定閾値よりも大きい場合に、前記内視鏡を前記長尺部の長手軸方向後方に後退させてもよい。
本発明によれば、湾曲部を精度よく直線化することができるという効果を奏する。
本発明の一実施形態に係る内視鏡システムを示す全体構成図である。 図1の内視鏡システムに備えられる内視鏡の挿入部と被写体における特徴点の一例を示す図である。 図2の内視鏡の撮像部により取得された画像例を示す図である。 図2の状態から挿入部を長手軸回りに90°回転させたときに取得された画像例を示す図である。 図2の状態から挿入部を長手軸回りに180°回転させたときに取得された画像例を示す図である。 図2の状態から挿入部を長手軸回りに270°回転させたときに取得された画像例を示す図である。 図3から図6の画像から算出された特徴点毎の動きベクトルの一例を示す図である。 図1の内視鏡システムを用いた内視鏡のキャリブレーション方法を説明するフローチャートである。 図8の不動点の検出ステップを説明するフローチャートである。 図8の湾曲部駆動ステップを説明するフローチャートである。 図10の湾曲部駆動ステップの変形例を説明するフローチャートである。 制御装置が備えられた内視鏡の一例を示す図である。 図1の内視鏡システムの変形例を示す全体構成図である。
本発明の一実施形態に係る内視鏡システム1、内視鏡2のキャリブレーション方法および内視鏡2の制御装置10について図面を参照して以下に説明する。
本実施形態に係る内視鏡システム1は、図1に示されるように、患者の体腔X内に挿入され体腔X内の画像(図3参照)Gを取得する内視鏡2と、内視鏡2の位置および姿勢を調節可能なロボット3と、内視鏡2により取得された画像Gを処理する制御装置10とを備えている。
内視鏡2は、患者の体壁に形成された孔から挿入される長尺の挿入部(長尺部)5と、挿入部5の先端に備えられた撮像部6と、撮像部6による視野範囲の挿入部5の長手軸Kに対する傾斜角度を変化させる湾曲部7と、湾曲部7を駆動する湾曲モータ(湾曲駆動部)8と、挿入部5を長手軸K回りに回転させるロールモータ(回転駆動部)9とを備えている。
ロボット3は、内視鏡2を手首先端に支持する汎用の6軸多関節型ロボットでよい。
ロボット3および内視鏡2は制御装置10に接続され、制御装置10には操作装置11が接続されている。
操作装置11は、操作者が内視鏡2およびロボット3を遠隔操作する際に操作する装置であり、キャリブレーションの開始を指示する入力を行うことができる。
制御装置10は、操作装置11からキャリブレーションの開始を指示する入力が行われたときには、内視鏡2のロールモータ9を作動させることによって、内視鏡2を作動させる。その上で、制御装置10は、挿入部5の長手軸K回りの回転動作中に、複数枚の画像Gを取得する。制御装置10は、プロセッサおよびメモリを備えるコンピュータにより構成されている。
制御装置10は、挿入部5の長手軸K回りの回転動作中に取得された複数の画像Gが入力されてくると、入力された複数の画像Gを処理することにより、画像G上における不動点の位置を算出し、算出された不動点の位置を画像Gの中心位置(中心)Pに近づけさせる情報に基づいて湾曲モータ8を作動させる。
なお、複数の画像Gは、少なくとも回転角度位置が異なるタイミングの画像Gが複数取得されればよい。より具体的には、挿入部5の回転動作中に、撮像部6のフレームレートごとに複数の画像Gを取得する(経時的に画像Gを取得する)。あるいは、制御装置10にタイマー機能を実装することで、任意の時間間隔あるいはランダムな時間間隔を予め設定して、そのタイミングで複数の画像Gを取得してもよい。あるいは、ロールモータ9の図示しないエンコーダから挿入部5の回転角度を取得し、エンコーダの検出値に基づき、所定の回転角度ごとに複数の画像Gを取得することでもよい。
ここで、不動点の位置の算出について説明する。
図2に示されるように、被写体Oに複数の特徴点が存在する場合に、初期状態で湾曲部7が一方向に若干湾曲していると、撮像部6により、図3に示されるような画像Gが取得される。この状態から、ロールモータ9を作動させて内視鏡2を挿入部5の長手軸K回りに1回転させる間に、所定角度毎、例えば、90°毎に撮像部6により画像Gを取得すると、図3から図6に示される合計4枚の画像Gが取得される。
制御装置10は、これらの画像Gが入力されてくると、各特徴点の動きベクトルを算出する。図7に示されるように、挿入部5の長手軸Kの延長上に配置されている特徴点は、湾曲部7が湾曲している状態で挿入部5が回転しても、画像G上の同じ位置に配置されているため、動きベクトルの大きさが最も小さくなる。制御装置10は、時間軸方向に隣接する2枚の画像G間でそれぞれ、各特徴点の動きベクトルを算出し、算出された動きベクトルの大きさを合計する。これにより、算出された動きベクトルの大きさの合計が最も小さくなる特徴点を不動点として検出することができる。
制御装置10は、不動点の位置の座標が算出されたときには、算出された不動点の位置を画像Gの中心位置Pに近づけさせる情報として、不動点を画像Gの中心位置Pに移動させるために必要な湾曲モータ8の駆動量を算出する。制御装置10は駆動量に基づいて湾曲モータ8を駆動することにより、湾曲部7を作動させる。これにより、湾曲部7を挿入部5の長手軸Kに沿って直線状に延びる状態に近接させることができる。
次に、本実施形態の内視鏡システム1における内視鏡2のキャリブレーション方法について説明する。
本実施形態に係るキャリブレーション方法は、湾曲部7を挿入部5の長手軸Kに沿って直線状に延びる状態に配置する方法であって、図8に示されるように、まず、画像G内における不動点の位置を算出する不動点検出ステップS1と、算出された不動点位置に基づいて、湾曲部7を湾曲動作させる湾曲部駆動ステップS2とを含んでいる。
不動点検出ステップS1は、図9に示されるように、操作装置11においてキャリブレーションを開始する指示が入力されたときに、まず、カウンタnがn=0に設定され(ステップS101)、撮像部6により画像Gが取得される(ステップS102)。
取得された画像Gは制御装置10に送られて複数の特徴点が抽出され(ステップS103)、送られてきた画像Gおよび抽出された特徴点の座標が記憶される(ステップS104)。
カウンタが所定回数Aであるか否かが判定され(ステップS105)、所定回数Aではない場合には、ロールモータ9が作動させられ、挿入部5が長手軸K回りに所定角度θだけ回転させられる(ステップS106)。ここで、例えば、θ=90°、A=360°/θ=4である。所定角度θは180°より小さければよい。
カウンタがインクリメントされ(ステップS107)、カウンタnがn=1であるか否かが判定され(ステップS108)、n=1である場合には、ステップS102からの工程が繰り返される。カウンタnがn=1ではない場合には、直前の2枚の画像Gに基づいて、各特徴点の動きベクトルが算出され(ステップS109)、記憶され(ステップS110)、ステップS102からの工程が繰り返される。
ステップS105においてn=Aである場合には、それまでに算出された動きベクトルの大きさの総和Sが特徴点毎に算出される(ステップS111)。そして、各特徴点について算出された動きベクトルの大きさの総和Sの大きさが比較され、最小の総和Sminを有する特徴点が抽出される(ステップS112)。そして、算出された最小の総和Sminが所定の閾値Bより小さいか否かが判定され(ステップS113)、所定の閾値Bよりも小さい場合には、最小の総和Sminを有する特徴点を不動点として検出し、その座標を記憶する(ステップS114)。最小の総和Sminが所定の閾値B以上の場合には、画像G上に不動点が存在しない可能性があるため、湾曲部7を動作させた後(ステップS115)、ステップS101からの工程を繰り返す。
ステップS115における湾曲動作としては、次の2つの方法を挙げることができる。
第1に、画像Gの中心位置Pと、ステップS112において抽出された、最小の動きベクトルの総和Sminを有する特徴点とを結ぶ直線の延長上に不動点が存在するものと推定されるので、画像Gからはみ出している不動点を画像G内に入れるために、先端が画像Gの中心位置Pから最小の動きベクトルの総和Sminを有する特徴点に向かって移動する方向に湾曲部7を湾曲動作させる方法である。
第2に、不動点の方向を推定することなく任意の方向に湾曲部7を所定角度だけ湾曲させながら不動点を探索し、複数回湾曲させても不動点が見つからない場合には、湾曲方向を切り替えて同様の処理を繰り返す方法である。
湾曲部駆動ステップS2は、図10に示されるように、まず、算出された不動点の位置の座標と、画像Gの中心位置Pの座標とに基づいて、画像Gの中心位置Pから不動点までの距離Lを算出する(ステップS201)。算出された距離Lが所定の閾値Th以下であるか否かが判定され(ステップS202)、閾値Th以下であれば、処理を終了する。閾値Thより大きい場合には、画像Gの中心位置Pに対する不動点の方向が判定される(ステップS203)。
ステップS203においては、不動点が画像Gの中心位置Pに対して上下方向にあるか否かが判定され、上下方向にある場合には、上方向にあるか否かが判定され(ステップS204)、上方向に存在しない場合には、湾曲部7は挿入部5の長手軸Kに対して上向きに湾曲していると判定でき、制御装置10が湾曲モータ8を制御して、湾曲部7を下向きに所定角度だけ動作させる(ステップS205)。一方、不動点が画像Gの中心位置Pに対して上方向に存在する場合には、湾曲部7は挿入部5の長手軸Kに対して下向きに湾曲していると判定でき、制御装置10が、湾曲部7を上向きに所定角度だけ動作させる(ステップS206)。
また、ステップ203において、上下方向にないと判定された場合には、左方向にあるか否かが判定され(ステップS207)、左方向に存在しない場合には、湾曲部7は挿入部5の長手軸Kに対して左向きに湾曲していると判定でき、制御装置10が湾曲部7を右向きに所定角度だけ動作させる(ステップS208)。一方、不動点が画像Gの中心位置Pに対して左方向に存在する場合には、湾曲部7は挿入部5の長手軸Kに対して右向きに湾曲していると判定でき、制御装置10が湾曲部7を左向きに所定角度だけ動作させる(ステップS209)。
ステップS205,S206,S208,S209が終了した後には、ステップS201からの工程が繰り返される。そして、ステップS202において、距離Lが閾値Th以下であると判定された場合には、キャリブレーション動作が終了する。
本実施形態に係る内視鏡システム1、内視鏡2のキャリブレーション方法および内視鏡2の制御装置10によれば、内視鏡2の挿入部5を、先端に備えられた撮像部6から体内に挿入し、ロールモータ9を動作させて挿入部5を長手軸K回りに回転させるとともに、回転動作中に撮像部6を作動させて、複数の画像Gを取得する。
そして、取得された複数の画像Gが制御装置10において処理されることにより、画像G上における不動点の位置が算出され、不動点の位置を画像Gの中心位置Pに近づけさせる情報が得られる。
すなわち、ロールモータ9による回転動作は、挿入部5を長手軸K回りに回転させるので、回転動作中に撮像部6により経時的に取得される画像Gは、長手軸Kの延長上に配置される点である不動点の回りに回転する。したがって、制御装置10が情報に基づいて、湾曲モータ8の作動により湾曲部7を駆動して、不動点の位置を画像Gの中心位置Pに近づける。すなわち、不動点の位置から画像Gの中心位置Pに位置する方向を決定することができ、これにより、湾曲部7を精度よく直線化することができる。
なお、本実施形態においては、湾曲部駆動ステップS2において、湾曲部7を所定角度だけ上下左右方向に駆動する場合を例示したが、これに代えて、図11に示されるように、ステップS201において算出された距離Lに基づいて、湾曲モータ8の駆動角度を算出することにしてもよい(ステップS210)。例えば、距離Lに定数Cを乗算することにより湾曲モータ8の駆動角度Dを算出すればよい。これにより、画像Gの中心位置Pに不動点が近づくに連れて、湾曲部7の駆動角度Dが小さくなるので、より精度よく、湾曲部7を直線化することができるという利点がある。
また、本実施形態においては、操作装置11による操作に応じて制御装置10がロボット3および内視鏡2を制御する内視鏡システム1を例示したが、これに限定されるものではなく、手動の内視鏡2が、内視鏡2の位置および姿勢を保持するサージカルアーム等の支持装置により支持されていてもよい。内視鏡2には、挿入部5を長手軸K回りに回転させる手動のハンドル(回転駆動部:図12参照)22と、湾曲部7を湾曲させる手動のハンドル(湾曲駆動部:図12参照)23が設けられていればよい。
この場合には、制御装置10から出力される、不動点の位置を画像Gの中心位置Pに近づけさせる情報を報知する情報報知部(図12参照)20が備えられていればよい。
情報報知部20としては、ディスプレイ、スピーカ等任意の報知手段を採用できる。
ディスプレイによって報知する場合には、不動点の位置を画像Gの中心位置Pに近づけさせる情報として「右方向に5°だけ湾曲させて下さい。」のような文字を表示することにしてもよい。情報報知部20における報知内容に従って、術者が内視鏡2を作動させることにより、取得された画像Gを制御装置10が処理して、不動点の位置を画像Gの中心位置Pに近づけさせることができる。また、角度を明示せず、湾曲させる方向だけ報知することにしてもよい。
また、ロボット3やサージカルアームを用意することなく、図12に示されるように、術者が支持する内視鏡2自体に、ハンドル22,23、制御装置10、ロールモータ9および湾曲モータ8が設けられている手動の内視鏡システム21に適用してもよい。
また、本実施形態においては、画像G内に不動点の位置が算出されなかった場合に、湾曲部7を湾曲動作させて、不動点が画像G内に取り込まれる位置に内視鏡2の視野範囲を移動させることとしたが、これに代えて、ロボット(進退駆動部)3等により、内視鏡2を挿入部5の長手軸Kに沿う方向に後退させて、視野範囲を広げ、それによって、不動点を画像G内に取り込むことにしてもよい。これにより、湾曲部7を作動させずに済むので、挿入部5の先端における湾曲部7の動作スペースが狭い場合に周囲組織との干渉を回避しながら、不動点の位置を算出することができる。
また、この場合に、6軸多関節型ロボットを例示したが、これに代えて、図13に示されるように、4軸ロボットの先端に、内視鏡2を挿入部5の長手軸Kに沿う方向に進退させる直動軸(進退駆動部)30を備えるロボット3を採用してもよい。これにより、より簡易に、内視鏡2を挿入部5の長手軸方向に進退させることができる。
また、本実施形態においては、画像Gの中心位置Pを不動点に一致させるために、湾曲部7を上下左右の4方向に個別に湾曲動作させる場合を例示したが、これに代えて、4方向の湾曲動作を組み合わせて、算出された動きベクトルに交差し、かつ、動きベクトルが小さくなる方向に、湾曲部7を湾曲動作させることにしてもよい。
また、本実施形態においては、制御装置10として、内視鏡2の制御と画像処理とを実行するものを例示したが、これに代えて、内視鏡2を制御するものと、画像処理を実行するものとを別個に設けたものを採用してもよい。
1,21 内視鏡システム
3 ロボット(進退駆動部)
5 挿入部(長尺部)
6 撮像部
7 湾曲部
8 湾曲モータ(湾曲駆動部)
9 ロールモータ(回転駆動部)
10 制御装置
20 情報報知部
22 ハンドル(回転駆動部)
23 ハンドル(湾曲駆動部)
30 直動軸(進退駆動部)
G 画像
K 長手軸
P 中心位置(中心)

Claims (18)

  1. 長手軸を有する長尺部と、
    該長尺部の先端に備えられた撮像部と、
    該撮像部の前記長尺部に対する傾斜角度を変化させる湾曲部と、
    該湾曲部を駆動する湾曲駆動部と、
    前記長尺部を前記長手軸回りに回転させる回転駆動部と、
    前記撮像部により取得された画像を処理する制御装置とを備え、
    該制御装置は、
    前記回転駆動部による前記長尺部の回転動作中に、撮像された複数の前記画像を前記撮像部から取得し、
    取得された複数の前記画像に基づいて、該画像上の不動点の位置を算出し、
    算出された前記不動点の位置から前記画像の中心に位置する方向を決定する、
    内視鏡システム。
  2. 前記制御装置は、
    複数の前記画像に基づいて、複数の不動点候補を設定し、
    各該不動点候補の前記長尺部の回転動作中における動きベクトルを算出し、
    算出された各該動きベクトルの大きさが最小となる前記不動点候補の位置を前記不動点の位置として算出する、
    請求項1に記載の内視鏡システム。
  3. 前記制御装置は、
    前記動きベクトルの大きさが最小、かつ所定閾値よりも小さい前記不動点候補の位置を前記不動点の位置として算出する、
    請求項2に記載の内視鏡システム。
  4. 前記制御装置は、
    前記動きベクトルの大きさが前記所定閾値よりも大きい場合に、前記湾曲駆動部により前記湾曲部を前記動きベクトルに交差させ、かつ、前記動きベクトルが小さくなる方向に、前記湾曲部を動作させる、
    請求項3に記載の内視鏡システム。
  5. 前記長尺部を前記長手軸方向に進退させる進退駆動部をさらに備え、
    前記制御装置は、
    前記動きベクトルの大きさが前記所定閾値よりも大きい場合に、前記進退駆動部が、内視鏡を前記長手軸方向後方に後退させる、
    請求項3に記載の内視鏡システム。
  6. 前記制御装置は、決定された前記方向に基づいて前記湾曲駆動部を制御する、
    請求項1に記載の内視鏡システム。
  7. 前記制御装置は、算出された前記不動点の位置と前記中心との距離を小さくする方向に前記湾曲部の角度を調節する、
    請求項6に記載の内視鏡システム。
  8. 前記制御装置により決定された前記方向を報知する情報報知部を備える、
    請求項1に記載の内視鏡システム。
  9. 内視鏡のキャリブレーション方法であって、
    前記内視鏡が、長手軸を有する長尺部と、該長尺部の先端に備えられた撮像部と、該撮像部の前記長尺部に対する傾斜角度を変化させる湾曲部とを備え、
    前記長尺部の回転動作中に、前記撮像部によって撮像された複数の画像を取得し、
    取得された複数の前記画像に基づいて、該画像上の不動点の位置を算出し、
    算出された該不動点の位置から前記画像の中心に位置する方向を決定し、
    決定された方向に基づいて、前記湾曲部を動作する、
    内視鏡のキャリブレーション方法。
  10. 複数の前記画像に基づいて、複数の不動点候補を設定し、
    各該不動点候補の前記長尺部の回転動作中における動きベクトルを算出し、
    算出された各該動きベクトルの大きさが最小となる前記不動点候補の位置を前記不動点の位置として算出する、
    請求項9に記載の内視鏡のキャリブレーション方法。
  11. 前記動きベクトルの大きさが最小、かつ所定閾値よりも小さい前記不動点候補の位置を前記不動点の位置として算出する、
    請求項10に記載の内視鏡のキャリブレーション方法。
  12. 前記動きベクトルの大きさが前記所定閾値よりも大きい場合に、前記湾曲部を前記動きベクトルに交差させ、かつ、前記動きベクトルが小さくなる方向に、前記湾曲部を動作させる、
    請求項11に記載の内視鏡のキャリブレーション方法。
  13. 前記動きベクトルの大きさが前記所定閾値よりも大きい場合に、前記内視鏡を該内視鏡における長手軸方向後方に後退させる、
    請求項11に記載の内視鏡のキャリブレーション方法。
  14. 内視鏡の制御装置であって、
    1以上のプロセッサを備え、
    該プロセッサは、
    前記内視鏡の回転駆動部による前記内視鏡の長尺部の回転動作中に、撮像された複数の画像を前記内視鏡の撮像部により取得し、
    取得された前記複数の画像に基づいて、画像上の不動点の位置を算出し、
    算出された前記不動点の位置から前記画像の中心に位置する方向を決定する、
    内視鏡の制御装置。
  15. 前記プロセッサは、
    複数の前記画像に基づいて、複数の不動点候補を設定し、
    各該不動点候補の前記長尺部の回転動作中における動きベクトルを算出し、
    算出された各該動きベクトルの大きさが最小となる前記不動点候補の位置を前記不動点の位置として算出する、
    請求項14に記載の内視鏡の制御装置。
  16. 前記プロセッサは、
    前記動きベクトルの大きさが最小、かつ所定閾値よりも小さい前記不動点候補の位置を前記不動点の位置として算出する、
    請求項15に記載の内視鏡の制御装置。
  17. 前記プロセッサは、
    前記動きベクトルの大きさが前記所定閾値よりも大きい場合に、前記内視鏡の湾曲部を前記動きベクトルに交差させ、かつ、前記動きベクトルが小さくなる方向に、前記湾曲部を動作させる、
    請求項16に記載の内視鏡の制御装置。
  18. 前記プロセッサは、
    前記動きベクトルの大きさが前記所定閾値よりも大きい場合に、前記内視鏡を前記長尺部の長手軸方向後方に後退させる、
    請求項16に記載の内視鏡の制御装置。
JP2020529895A 2018-07-11 2018-07-11 内視鏡システムおよび内視鏡の制御装置 Active JP7135087B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/026181 WO2020012576A1 (ja) 2018-07-11 2018-07-11 内視鏡システム、内視鏡のキャリブレーション方法および内視鏡の制御装置

Publications (2)

Publication Number Publication Date
JPWO2020012576A1 true JPWO2020012576A1 (ja) 2021-08-02
JP7135087B2 JP7135087B2 (ja) 2022-09-12

Family

ID=69141418

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020529895A Active JP7135087B2 (ja) 2018-07-11 2018-07-11 内視鏡システムおよび内視鏡の制御装置

Country Status (4)

Country Link
US (1) US20210121250A1 (ja)
JP (1) JP7135087B2 (ja)
CN (1) CN112351722A (ja)
WO (1) WO2020012576A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115089303A (zh) * 2021-05-10 2022-09-23 武汉联影智融医疗科技有限公司 机器人定位方法及系统
WO2023126769A1 (en) * 2021-12-30 2023-07-06 Auris Health, Inc. Calibration of camera and location sensor
CN114136682B (zh) * 2022-01-27 2022-05-17 极限人工智能有限公司 器械的运动控制精度检测方法、装置、设备及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06114002A (ja) * 1992-10-01 1994-04-26 Olympus Optical Co Ltd 内視鏡装置
JP2003245246A (ja) * 2002-02-25 2003-09-02 Olympus Optical Co Ltd 電動湾曲内視鏡装置
WO2005091649A1 (ja) * 2004-03-22 2005-09-29 National University Corporation Shizuoka University 単一の撮像装置で連続取得したビデオ映像による立体表示方法
WO2016136353A1 (ja) * 2015-02-26 2016-09-01 オリンパス株式会社 内視鏡システム及び内視鏡較正方法

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5588948A (en) * 1993-02-17 1996-12-31 Olympus Optical Co. Ltd. Stereoscopic endoscope
JP2002323661A (ja) * 2001-04-24 2002-11-08 Olympus Optical Co Ltd 電動湾曲内視鏡のセンタリング機構
US7599730B2 (en) * 2002-11-19 2009-10-06 Medtronic Navigation, Inc. Navigation system for cardiac therapies
US7344494B2 (en) * 2004-02-09 2008-03-18 Karl Storz Development Corp. Endoscope with variable direction of view module
US7520854B2 (en) * 2004-07-14 2009-04-21 Olympus Corporation Endoscope system allowing movement of a display image
US8079950B2 (en) * 2005-09-29 2011-12-20 Intuitive Surgical Operations, Inc. Autofocus and/or autoscaling in telesurgery
US9782229B2 (en) * 2007-02-16 2017-10-10 Globus Medical, Inc. Surgical robot platform
US20090259099A1 (en) * 2008-04-10 2009-10-15 Georgia Tech Research Corporation Image-based control systems
JP2009261798A (ja) * 2008-04-28 2009-11-12 Olympus Corp 画像処理装置、画像処理プログラムおよび画像処理方法
JP2010035587A (ja) * 2008-07-31 2010-02-18 Fujifilm Corp 内視鏡、内視鏡システム及び内視鏡の湾曲部矯正方法
EP2484268B1 (en) * 2009-09-30 2018-04-25 Olympus Corporation Endoscope apparatus
JP6168849B2 (ja) * 2013-05-29 2017-07-26 オリンパス株式会社 内視鏡装置及び内視鏡画像の撮影方法
WO2015141483A1 (ja) * 2014-03-17 2015-09-24 オリンパス株式会社 内視鏡システム
EP3235417A4 (en) * 2014-12-19 2018-09-12 Olympus Corporation Endoscope system
JP6356623B2 (ja) * 2015-03-18 2018-07-11 富士フイルム株式会社 画像処理装置、方法、及びプログラム
EP3305161A4 (en) * 2015-05-28 2019-01-09 Olympus Corporation ENDOSCOPE SYSTEM
JP6177488B2 (ja) * 2015-07-23 2017-08-09 オリンパス株式会社 マニピュレータ及び医療システム
US9918705B2 (en) * 2016-07-07 2018-03-20 Brian Giles Medical devices with distal control

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06114002A (ja) * 1992-10-01 1994-04-26 Olympus Optical Co Ltd 内視鏡装置
JP2003245246A (ja) * 2002-02-25 2003-09-02 Olympus Optical Co Ltd 電動湾曲内視鏡装置
WO2005091649A1 (ja) * 2004-03-22 2005-09-29 National University Corporation Shizuoka University 単一の撮像装置で連続取得したビデオ映像による立体表示方法
WO2016136353A1 (ja) * 2015-02-26 2016-09-01 オリンパス株式会社 内視鏡システム及び内視鏡較正方法

Also Published As

Publication number Publication date
WO2020012576A1 (ja) 2020-01-16
JP7135087B2 (ja) 2022-09-12
CN112351722A (zh) 2021-02-09
US20210121250A1 (en) 2021-04-29

Similar Documents

Publication Publication Date Title
JP6218634B2 (ja) 内視鏡システム及び内視鏡の作動方法
US20210121250A1 (en) Endoscope system, method for calibrating endoscope, and endoscope control device
JP6072283B2 (ja) 医療用マニピュレータおよび医療用マニピュレータの作動方法
US10932875B2 (en) Manipulator, medical system, and medical system control method
JP5932172B2 (ja) 内視鏡システム
US11419481B2 (en) Medical system and operation method of medical system for controlling a driver to move an area defined by a plurality of positions of a treatment tool to a predetermined region in next image captured
EP3099213B1 (en) Endoscopic system and image processing device
US11540699B2 (en) Medical manipulator system
JP2017056546A (ja) ロボットの機構パラメータを校正するために使用される計測装置
JP2008245838A (ja) 内視鏡装置に搭載されるロボティクスアームシステム
JP2006218027A (ja) 内視鏡装置
JP6053358B2 (ja) 手術支援装置
JP2020082273A5 (ja)
WO2015116584A1 (en) Ultrasound diagnostic apparatus, method thereof and program
US20230172675A1 (en) Controller, endoscope system, and control method
JP4458492B2 (ja) 手術支援ロボットの動作制御システム及び位置検出装置
KR102386660B1 (ko) 결석 제거장치 및 결석 크기 측정방법
US11033346B2 (en) Medical master-slave manipulator system
EP3305161A1 (en) Endoscope system
JP2019077026A (ja) 制御装置、ロボットシステム、制御装置の動作方法及びプログラム
WO2023100234A1 (ja) 内視鏡システムおよび座標系補正方法
US11890062B2 (en) Estimation device, estimation method, and program
WO2023144986A1 (ja) 内視鏡システム、制御方法および記録媒体
JP6857748B2 (ja) 医療システムおよび医療システムの作動方法
CN113876427A (zh) 一种腔内夹钳的检测装置及方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201223

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201223

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220412

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220531

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220609

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20220609

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20220620

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20220621

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220809

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220831

R151 Written notification of patent or utility model registration

Ref document number: 7135087

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151