JPWO2019008726A1 - 管状挿入装置 - Google Patents

管状挿入装置 Download PDF

Info

Publication number
JPWO2019008726A1
JPWO2019008726A1 JP2019528285A JP2019528285A JPWO2019008726A1 JP WO2019008726 A1 JPWO2019008726 A1 JP WO2019008726A1 JP 2019528285 A JP2019528285 A JP 2019528285A JP 2019528285 A JP2019528285 A JP 2019528285A JP WO2019008726 A1 JPWO2019008726 A1 JP WO2019008726A1
Authority
JP
Japan
Prior art keywords
information
unit
tubular
insertion device
flexible tube
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019528285A
Other languages
English (en)
Other versions
JP6949959B2 (ja
Inventor
高山 晃一
晃一 高山
藤田 浩正
浩正 藤田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2019008726A1 publication Critical patent/JPWO2019008726A1/ja
Application granted granted Critical
Publication of JP6949959B2 publication Critical patent/JP6949959B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000096Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope using artificial intelligence
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00064Constructional details of the endoscope body
    • A61B1/00071Insertion part of the endoscope body
    • A61B1/0008Insertion part of the endoscope body characterised by distal tip features
    • A61B1/00097Sensors
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/005Flexible endoscopes
    • A61B1/009Flexible endoscopes with bending or curvature detection of the insertion part
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/0002Operational features of endoscopes provided with data storages

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Signal Processing (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Abstract

管状挿入装置は、可撓管部を被検体に挿入する管状装置と、被検体内での可撓管部の配置状態を検知するセンサと、センサにより検知された配置状態と、可撓管部の各配置状態に応じた管状装置の操作に関わる蓄積データと、に基づいて、管状装置の次に行うべき操作に関わる情報である次操作情報を演算する予測演算部(31)と、予測演算部が演算した次操作情報を出力する出力回路(32)と、を有する。

Description

本発明は、可撓管部を被検体に挿入する管状装置を備えた管状挿入装置に関する。
内視鏡などの、可撓管部(挿入部)を備えた管状装置において、可撓管部の挿入支援を行うための装置や方法が提案されている。
例えば、米国特許第9,086,340号には、可撓管部に加わる外力に関する複数の外力情報を含む操作支援情報を取得する管状挿入装置が開示されている。
米国特許第9,086,340号に開示された管状挿入装置では、好ましくない挿入状況が発生したとき又は発生しそうなとき、その原因が操作支援情報として呈示され得るだけであり、その状況からの具体的な回避操作を呈示することができない。
そこで、本発明は、挿入状況に応じた的確な操作情報を操作支援情報として出力可能な管状挿入装置を提供することを目的とする。
本発明の一実施形態によれば、管状挿入装置は、可撓管部を被検体に挿入する管状装置と、前記被検体内での前記可撓管部の配置状態を検知するセンサと、前記センサにより検知された前記配置状態と、前記可撓管部の各配置状態に応じた前記管状装置の操作に関わる蓄積データと、に基づいて、前記管状装置の次に行うべき操作に関わる情報である次操作情報を演算する予測演算部と、前記予測演算部が演算した前記次操作情報を出力する出力回路と、を具備する。
本発明によれば、現在の可撓管部の配置状態から最適な操作支援情報を取得できるため、挿入状況に応じた的確な操作情報を操作支援情報として出力可能な管状挿入装置を提供することができる。
図1は、本発明の第1実施形態に係る管状挿入装置の一例を概略的に示す図である。 図2は、被検体である大腸の各部位を概略的に示す解剖図である。 図3は、管状挿入装置の予測演算部の構成を説明するための図である。 図4は、ニューラルネットワークモデルを示す図である。 図5は、第1実施形態による挿入支援制御フローの一例を示す図である。 図6は、本発明の第2実施形態に係る管状挿入装置の予測演算部における複数の機械学習モデルを説明するための図である。 図7は、第2実施形態による挿入支援制御フローの一例を示す図である。 図8は、予測演算部が有する操作妥当性検証部の機能を説明するための図である。 図9は、本発明の第3実施形態に係る管状挿入装置の予測演算部におけるシミュレーションモデルを説明するための図である。 図10は、N字形状及びループ解除時の形状を示す図である。 図11は、図9のシミュレーションモデルをニューラルネットワークにより構築した場合の入出力関係を示す図である。 図12は、第3実施形態による挿入支援制御フローの一例を示す図である。
実施形態
以下、本発明の各実施形態について図面を参照して説明する。以下では、本発明の管状挿入装置の一例として、大腸内視鏡を含む内視鏡装置を挙げて説明する。
[第1実施形態]
図1は、内視鏡装置1の一例を概略的に示す図である。内視鏡装置1は、大腸内視鏡10と、ファイバセンサ20と、制御装置30と、表示装置40と、を有している。
大腸内視鏡10は、挿入部11を被検体である大腸に挿入する管状装置である。ここで、まず、被検体である大腸の各部位について説明する。図2は、大腸200の各部位を概略的に示す解剖図である。大腸200は、肛門300につながっている直腸210と、直腸210につながっている結腸220と、結腸220につながっている盲腸230とからなる。直腸210は、肛門側から順に、下部直腸211と、上部直腸212と、直腸S状部213とからなる。結腸220は、直腸210側から順に、S状結腸221と、下行結腸222と、横行結腸223と、上行結腸224とからなる。S状結腸221の最上部は、S状結腸頂上部(いわゆるS−top)225である。S状結腸221と下行結腸222との境界部は、S状結腸下行結腸移行部(いわゆるSD−Junction(SD−J))226である。下行結腸222と横行結腸223との境界部は、脾彎曲部(SF)227である。横行結腸223と上行結腸224との境界部は、肝彎曲部(HF)228である。S−top225、SD−J226、SF227及びHF228は、結腸220における屈曲部である。直腸210の下部直腸211及び上部直腸212、結腸220の下行結腸222及び上行結腸224は、固定腸管である。一方、直腸210の直腸S状部213、結腸220のS状結腸221及び横行結腸223、盲腸230は、可動腸管である。すなわち、直腸S状部213、S状結腸221、横行結腸223及び盲腸230は、腹部内で固定されておらず、可動性を有している。
大腸内視鏡10は、このような大腸200に挿入される挿入部11に加えて、この挿入部11の基端側に設けられた操作部12と、この操作部12と制御装置30とを接続するユニバーサルコード13と、を有している。
挿入部11は、特に図示はしていないが、先端硬質部と、この先端硬質部の基端側に設けられた能動湾曲部と、この湾曲部の基端側に設けられた受動湾曲部と、を有している。先端硬質部は、図示はしないが、照明レンズを含む照明光学系及び対物レンズを含む観察光学系、撮像素子、等を含む。能動湾曲部は、可撓性を有し、操作部12の操作により湾曲する部分であり、その湾曲形状を能動的に変更可能である。受動湾曲部は、可撓性を有する細長い管状部分であり、受動的に湾曲する。
なお、挿入部11の全長において先端硬質部は極短い部分であるため、以下では、特に明示しない限り、「挿入部11」は、能動湾曲部及び受動湾曲部を指すものとする。すなわち、「挿入部」は、特に明示しない限り、管状装置における湾曲可能な可撓管部とほぼ同義に用いられる。ファイバセンサ20が検出する「挿入部11の配置状態」は、能動湾曲部及び受動湾曲部の配置状態を指しており、また、「挿入部11の先端」は、能動湾曲部の先端とほぼ同義に用いられる。
操作部12には、能動湾曲部の湾曲操作のために用いられるアングルノブ14UD及び14RLと、送気・送水・吸引操作を含む各種操作のために用いられる1以上のボタン(図示せず)と、が設けられている。術者がアングルノブ14UDを操作することにより、能動湾曲部は、撮像素子によって取得される内視鏡画像に関して上下方向となる方向に湾曲し、術者がアングルノブ14RLを操作することにより、能動湾曲部は、内視鏡画像に関して左右方向となる方向に湾曲する。また、操作部12には、制御装置30の設定により内視鏡画像の静止・記録、フォーカス切り替えなどの機能が割り当てられる1以上のスイッチ(図示せず)も設けられている。
ファイバセンサ20は、光ファイバ21の曲げによる光伝達量の損失を利用した形状センサである。ファイバセンサ20は、光ファイバ21に加えて、光源22と、受光部23と、湾曲量演算回路24と、形状演算回路25と、を有する。ここで、光源22、受光部23、湾曲量演算回路24及び形状演算回路25は、制御装置30の内部に配置される。勿論、制御装置30とは別体の装置として構成しても構わない。
光源22は、複数の波長を有する光を出射する。この光源22は、観察及び撮像のための照明光を出射する光源装置の光源とは別体である。なお、図1では、この光源装置は省略されている。
この光源22から出射された光を導光する光ファイバ21は、可撓性を有し、光源22から、ユニバーサルコード13、操作部12及び挿入部11の内部を延びている。この光ファイバ21の挿入部11に相当する部分には、複数の被検出部26が設けられている。1本の光ファイバ21の長手軸方向において互いに異なる位置に複数の被検出部26が配置されると共に、その1本の光ファイバ21の長手軸方向において同じ位置または近傍の位置であって長手軸方向の軸周り方向において互いに異なる位置に複数の被検出部26が配置される。あるいは、1本の光ファイバ21に1つの被検出部26が用いられても良い。この場合は、光ファイバ21の長手軸方向において他の光ファイバ21の被検出部26とは異なる位置に、当該光ファイバ21の被検出部26が配置されるように、複数本の光ファイバ21が配置される。また、光ファイバ21の長手軸方向において同じ位置または近傍の位置且つ長手軸方向の軸周り方向において互いに異なる位置に、複数の被検出部26が配置されるように、更に複数本の光ファイバ21が配置される。このようなに、光ファイバ21の長手軸方向において同じ位置または近傍の位置で且つ長手軸方向の軸周り方向において互いに異なる位置に複数の被検出部26を配置することで、湾曲量だけでなく湾曲の方向も検出可能となる。
すなわち、被検出部26は、光ファイバ21の光学特性、例えば所定の波長の光の光伝達量を、その湾曲量に応じて変化させるものである。複数の被検出部26は、互いに、この所定の波長が異なっている。挿入部11が湾曲すると、この湾曲に応じて光ファイバ21が湾曲し、したがって、挿入部11の湾曲量に応じて、光ファイバ21の光伝達量が変化する。この光伝達量の変化の情報を含む光信号は、受光部23に受光される。受光部23は、例えば、分光器で構成され、光信号の各波長成分を独立して検出する。受光部23は、カラーフィルタのような分光のための素子と、フォトダイオードのような受光素子と、を有しても良い。受光部23は、光信号を状態情報として湾曲量演算回路24に出力する。
なお、光ファイバ21は、一端が光源22に光学的に接続され、挿入部11の先端部で、長手軸方向のほぼ中央が折り返されて、他端が受光部23に光学的に接続されるように配置される。また、図示していないが、光分岐部を用いて、光ファイバ21の一端を光源22と受光部23との両方に光学的に接続し、挿入部11の先端部に位置する光ファイバ21の他端は反射部に光学的に接続するように構成しても良い。この場合、光分岐部は、光源22から出射された光を光ファイバ21に導き、また、反射部によって反射されて光ファイバ21によって導かれた戻り光を受光部23に導く。つまり光は、光源22、光分岐部、光ファイバ21、反射部、光ファイバ21、光分岐部、受光部23との順に進行する。ここで、光分岐部は、例えば光カプラまたはハーフミラーを有する。
湾曲量演算回路24は、受光部23からの状態情報、つまり各被検出部26の位置での挿入部11の湾曲状態に応じた光量の変化より、各位置の湾曲量を演算する。湾曲量演算回路24は、その演算結果を形状演算回路25に出力する。
形状演算回路25は、湾曲量演算回路24にて演算された湾曲量を、形状に幾何学的に変換することにより、挿入部11の形状を算出する。形状演算回路25は、算出した挿入部11の形状、つまり、大腸200内での挿入部11の配置状態を、予測演算部31に入力する。
なお、湾曲量演算回路24及び形状演算回路25は、CPUなどのプロセッサで構成されて良い。この場合、例えば、プロセッサをそれらの回路24及び25として機能させるための各種プログラムを不図示の内部メモリあるいは外部メモリに準備しておき、そのプログラムをプロセッサが実行することで、プロセッサがそれら回路24及び25としての機能を実施する。あるいは、回路24及び25は、ASIC(Application Specific Integrated Circuit)、FPGA(Field−Programmable Gate Array)などを含むハードウエア回路によって構成されて良い。
このようにして、ファイバセンサ20は、大腸200内での挿入部11の配置状態、すなわち被検体内での可撓管部の配置状態を検知し、その検知した可撓管部の配置状態を予測演算部31に入力する。
なお、被検体である大腸200内での可撓管部である挿入部11の配置状態を検知するセンサは、このようなファイバセンサ20に限定されるものではない。センサは、挿入部11の配置状態を検出可能なものであれば良い。例えば、センサは、挿入部11の先端硬質部の前方及び/又は側方を撮像する画像センサ、挿入部11の空間上の位置を検出する磁気式位置推定センサ、挿入部11の曲がり具合(そこから形状に直しても可)を検出する光ファイバを利用した湾曲量センサ、挿入部11と大腸200の内壁との接触程度を検出する圧力又はひずみセンサ、大腸200への挿入部11の挿入量を検出するセンサ、挿入部11の能動湾曲部を湾曲させるための湾曲操作量、挿入部11の回転量センサ、挿入部11の地球に対する向きを検出する重力加速度センサ、挿入部11及び被検体(被検体である大腸200を有する人体を含む)の一部あるいは全体を撮像し得る作業風景画像センサ(X線センサを含み得る)、等々の、何れか1つ又はこれらの組合せによって構成されて良い。
制御装置30は、上記ファイバセンサ20の一部を構成する上記の光源22、受光部23、湾曲量演算回路24及び形状演算回路25に加えて、予測演算部31と出力回路32とを有する。また、特に図示はしていないが、大腸内視鏡10の撮像素子で被写体からの光を変換した電気信号をビデオ信号に変換処理して内視鏡画像を生成する画像処理回路を有する。
予測演算部31は、ファイバセンサ20が検知した大腸200内での挿入部11の配置状態と、挿入部11の配置状態に応じた大腸内視鏡10の操作に関わる蓄積データと、に基づいて、大腸内視鏡10の次に行うべき操作に関わる情報である次操作情報を演算する。この予測演算部31は、大容量メモリとCPUなどのプロセッサとで構成される。処理の高速化のためには、GPU(Graphics Processing Unit)やその他の専用チップを用いることが好ましい。
出力回路32は、予測演算部31が演算した結果である次操作情報や、不図示の画像処理回路が生成した内視鏡画像を、表示装置40に出力して、表示装置40に表示させる。また、出力回路32は、予測演算部31が演算した結果である次操作情報を、表示装置40に出力して、それを操作支援情報として表示装置40に表示させる。内視鏡画像と操作支援情報は、表示装置40の表示画面に別々のウィンドウとして表示され得る。表示装置40は、液晶ディスプレイなどの一般的なモニタである。なお、内視鏡画像と操作支援情報を表示する表示装置は、それぞれ独立した装置であっても良い。
また、出力回路32は、特に図示はしていないが、制御装置30内に設けられた又はネットワーク上に配置された記憶装置に、予測演算部31の演算結果や内視鏡画像を出力して、そこに保存させることも可能である。また、予測演算部31が演算した次操作情報を、図示しないスピーカなどの音発生装置に出力して、それをガイド音声や警告音などとして出力させるようにしても良い。
こうして、予測演算部31が演算した大腸内視鏡10の次に行うべき操作に関わる情報、つまり、次に大腸内視鏡10をどのように操作したら良いのかという操作方法が、操作支援情報として大腸内視鏡10のオペレータに呈示される。そして、オペレータは、その呈示内容にしたがって、アングルノブ14UD及び14RLを操作して挿入部11の能動湾曲部を湾曲させたり、挿入部11を押し込む/引き抜く/捩るなどの挿入操作を行ったり、送気・送水・吸引操作を含む各種操作を行ったりすることができる。
次に、上記予測演算部31について、より詳細に説明する。
予測演算部31は、機械学習モデル、例えば、図3に示すように、膨大な蓄積データのディープラーニングによるニューラルネットワークモデル31NNMを有している。形状演算回路25から入力される、湾曲量より算出された大腸200内での挿入部11の配置状態すなわち挿入部11全体の形状情報は、このニューラルネットワークモデル31NNMへ入力される。
ニューラルネットワークモデルは、図4に示すように、入力層IR、中間層MR及び出力層ORを含む複数の層から構成されている。中間層MRは多層構造となっている。ニューラルネットワークモデルでは、入力層IRにおける入力情報と出力層ORにおける出力情報との関係を定義付けるように、ニューラルネットワークの各種パラメータPAが決定される。各種パラメータPAとは、ニューロンNE間の重み付け関数などであり、この関数が最適になるよう設計された値である。
予測演算部31を構成するニューラルネットワークモデル31NNMにおいては、入力層IRにおける入力情報は、挿入部11全体の形状情報である。出力層ORにおける出力情報は、次操作情報である。すなわち、ニューラルネットワークモデル31NNMは、入力された挿入部11全体の形状情報から、オペレータが次に行うべき操作、例えば、挿入部11を押し込む「挿入操作」、挿入部11を捩る「捩じり操作」、挿入部11に可撓管部の硬さを変更し得る硬度可変部が設けられている場合には、その硬さを変更する「硬度操作」、アングルノブ14UD及び14RLの操作により挿入部11の能動湾曲部の湾曲角を変更させる「アングル操作」、被検体である大腸200を有する人体の体位を変更させる「体位変換指示」、吸気や送気などを行う「吸気、送気操作」、を含む各種操作の何れか1つ又はそれらの組合せを演算する。
このようなニューラルネットワークモデル31NNMは、挿入部11が、大腸200との接触箇所に働く力が小さく且つ狙いの形状になるような操作方法を予測するために、膨大な蓄積データから構築されている。この蓄積データは、熟練者の操作情報やシミュレーションから得た情報を基に構成されている。
すなわち、ニューラルネットワークモデル31NNMを構築する蓄積データは、入力情報と出力情報とを含み、入力情報は、時刻(t)の熟練者の操作による形状情報や形状に関する情報である。出力情報は、熟練者がその次に行った作業の情報である。ここで、その次に行った作業とは、挿入部11の捩じり操作、押し操作、硬度可変操作、体位変換などの操作情報である。この操作情報は、時刻(t)における形状情報と次の時刻(t+1)における形状情報との差を見て、その差から挿入部11に捩じり操作が入ったのか、押し操作が入ったのかを判断し、作成する。なお、ニューラルネットワークモデルでは、時刻(t)と時刻(t+1)とで、形状に差があるものだけを教示データとして学習させる。
体位変換については、図2に矢印で示すように、横行結腸223へ挿入部11を挿入する際に体位変換すると、同図に白抜き矢印で示すような重力Gの関係で、挿入方向が鈍角になるなどのメリットがあるため、行うものである。この体位変換についての情報も、蓄積データとして取得する。
その他、蓄積データつまり学習される教示データとしては、挿入部11の大腸200内部及び外部の少なくとも一方での挿入部11の挿入状態に関わる情報である挿入状態情報に基づいて分析した結果を含む。ここで、挿入状態情報は、挿入部11の前方及び側方の空間程度、挿入部11先端の大腸200への挿入有無、大腸200内の目的地点方向への挿入具合、挿入部11の撓みや座屈の程度、挿入部11の所定ループ形状の形成、所定ループ形状のサイズ、などの少なくとも1つを含む。
また、蓄積データとしての教示データは、被検体自体に関わる情報である被検体情報に基づいて分析した結果を含むこともできる。ここで、被検体情報は、被検体である大腸200に加えられている力の程度、大腸200を有する人体の痛みの程度、挿入部11と大腸200とのサイズ比較、大腸200の長さ、癒着や憩室などの特徴形状、手術暦、手術痕、人体の心拍数、人体の動き、穿孔情報、内視鏡の故障や処置具の故障などの少なくとも1つを含む。
また、蓄積データとして教示データは、例えば、上記挿入部11の所定ループ形状が解除されるまでの間の挿入部11の可撓管部の接触箇所に働く力である外力を考慮して、この外力が大きな場合は、学習させないようにすることが望ましい。なお、外力情報については、挿入部11の形状から算出しても良いし、シミュレーションによって算出しても良い。このシミュレーションによって算出する場合には、有限要素法(FEM)や機構解析等のシミュレーションより明らかにした上記外力が小さくなる最適な解除方法を学習させるようにしても良い。外力とは、S−top225付近に働く力や横行結腸223に働く力などである。ループ形状の解除方法は、最適化演算(局所最適化手法または大域的最適化手法)により明らかにした操作方法である。このようにして学習されたニューラルネットワークモデル31NNMは、図4のように構築される。
このようなニューラルネットワークモデル31NNMを有する予測演算部31を備える内視鏡装置1における挿入支援制御動作を、図5を参照して説明する。
まず、ファイバセンサ20の光源22は、光ファイバ21へ光を入射させ、受光部23は、光ファイバ21に設けられた被検出部26によって湾曲状態に応じて伝達量が変えられた光の光量を測定する(ステップS11)。そして、ファイバセンサ20の湾曲量演算回路24は、受光部23が測定した光量の変化から各被検出部26における湾曲量を演算し、形状演算回路25は、この湾曲量演算回路24が演算した湾曲量に基づいて光ファイバ21の形状つまり挿入部11の形状を演算する(ステップS12)。形状演算回路25は、この演算した挿入部11の形状を示す形状情報を予測演算部31に入力する(ステップS13)。
予測演算部31は、ニューラルネットワークモデル31NNMによって、最適な次のオペレータ操作である次操作情報を演算する(ステップS14)。そして、予測演算部31は、演算結果である次操作情報を出力回路32に出力し、出力回路32は、それを表示装置40に表示させることで、オペレータに次にどのような操作を行うべきかを示す操作支援情報を呈示する(ステップS15)。その後、上記ステップS11より繰り返す。
こうして上記ステップS11〜ステップS15のルーチンを繰り返し実行していくことで、例えば、挿入部11にループ形状が発生している時、その解除に望ましい形状が直線形状である際には、予測演算部31は、以下のような次操作情報を演算して、操作支援情報を呈示することができる。すなわち、オペレータへ、まず「押す」という挿入操作が呈示され、その後に挿入部11が円筒形状へと曲がり始めた際は、「硬度を変える」という硬度操作や「体位を変えさせる」という体位変換指示等が提供される。そして、挿入部11がループ解除に望ましい形状になった際は、「右に捩じる」や「左に捩じる」等の捩り操作や、「押す」や「引く」といった挿入操作が、オペレータへ提供される。
こうして上記ステップS11〜ステップS15のルーチンを実行中に、例えば制御装置30に設けた又は接続された図示しない入力スイッチ操作により、オペレータから終了指示が行われると、このルーチンを終了する。
以上のように、第1実施形態に係る管状挿入装置としての内視鏡装置1は、可撓管部である挿入部11を被検体である大腸200に挿入する管状装置である大腸内視鏡10と、大腸200内での挿入部11の配置状態、例えば挿入部11の形状情報、を検知するセンサであるファイバセンサ20と、ファイバセンサ20により検知された挿入部11の形状情報と、挿入部11の各形状情報に応じた大腸内視鏡10の操作に関わる蓄積データと、に基づいて、大腸内視鏡10の次に行うべき操作に関わる情報である次操作情報を演算する機械学習モデルであるニューラルネットワークモデル31NNMを有する予測演算部31と、予測演算部31が演算した次操作情報を出力する出力回路32と、を備える。
よって、本第1実施形態に係る管状挿入装置としての内視鏡装置1によれば、現在の挿入部11の形状から最適な操作支援情報を取得できるため、挿入状況に応じた的確な操作情報を操作支援情報として出力可能となる。
例えば、大腸内視鏡検査においてS状結腸221部分の内視鏡挿入手技を習得するのは難しい。特に、経験の少ない不慣れなオペレータが可動腸管の屈曲部の先にある次の管腔に挿入部11の先端を潜り込ませることは難しい。しかしながら、本実施形態によれば、内視鏡装置1が適切な挿入支援を提供することにより、オペレータの操作を容易にすることができる。よって、経験が少ないオペレータも熟練者のオペレータに近い操作ができるようになる。
なお、図3に示すニューラルネットワークモデル31NNMでは、入力情報が形状情報となっている。入力情報としては、このように挿入部11の形状情報をそのまま入力しても良いが、形状情報から算出された特徴的な形状などを入力するようにしても良い。この特徴的な形状は、例えば、挿入部11の変曲点(湾曲方向が逆転する箇所)の数、各変曲点における曲率の大きさ、等を含む。また、形状情報以外の情報として、画像情報や硬度可変情報、アングル操作量などを入力するようにしても良い。
[第2実施形態]
本発明の第2実施形態について、図6乃至図8を参照して説明する。以下の説明では、第1実施形態と異なる部分を主に説明し、第1実施形態と同様の構成等は第1実施形態と同様の参照符号を付してその説明を省略する。
第1実施形態は、1つのニューラルネットワークモデル31NNMで全ての動作を模擬するモデルであったが、1つのモデルで大腸200全体について最適な操作支援情報を取得するためには、膨大なデータの学習量が必要となる。そこで、本第2実施形態では、ニューラルネットワークモデル31NNMを、図2に示す大腸200の各部に応じて、複数のニューラルネットワークモデルとして構築する。例えば、予測演算部31は、図6に示すように、S−top225付近に応じたS−top付近モデル31NNM1、上行結腸224付近に応じた上行結腸付近モデル31NNM2、下行結腸222付近に応じた下行結腸付近モデル31NNM3、横行結腸付近223に応じた横行結腸付近モデル31NNM4、盲腸230付近に応じた盲腸付近モデル31NNM5、SF227付近に応じた脾彎曲付近モデル31NNM6、HF228付近に応じた肝彎曲付近モデル31NNM7、等を有する。
なお、未学習のデータすなわち初めての形状情報が形状演算回路25から入力された時に、オペレータに適切でない操作を行わせないように、予測演算部31は、シミュレーションモデル31SMにより、リアルタイムで、次に行うべき操作に関わる代替情報を演算するシミュレータなどを有しても良い。例えば、予測演算部31は、シミュレーションモデルを用いて、大腸200内に挿入されている挿入部11の大腸200との接触箇所に働く力量を算出し、この力量が小さくなる解除方法を、代替情報として演算する。
未学習のデータであるか否かは、例えば、ファイバセンサ20により検知された挿入部11の形状情報と、ニューラルネットワークモデル31NNMの蓄積データとの照合度が低いかどうか、つまり、学習させた教示データとの乖離が大きいかどうかで、判断することができる。あるいは、各種形状とNG形状を予め学習させたニューラルネットワークモデルを有しても良い。この場合には、次操作情報演算のためにニューラルネットワークモデル31NNMに学習させた形状とは明らかに異なる形状などを意図的に何パターンか作り出して、学習させれば良い。
ここで、図7を参照して、本実施形態の内視鏡装置1における挿入支援制御動作を説明する。なお、ステップS21〜ステップS23は、第1実施形態におけるステップS11〜ステップS13と同様であるので、その説明は省略する。
予測演算部31は、入力された挿入部11の形状情報に基づいて、どのニューラルネットワークモデルが適用されるかを検討する(ステップS24)。そして、適用されるニューラルネットワークモデルが有れば(ステップS25のYES)、予測演算部31は、そのニューラルネットワークモデルを選択して挿入部11の形状情報を入力し、そのニューラルネットワークモデルによって、最適な次のオペレータ操作である次操作情報を演算する(ステップS26)。
これに対して、適用されるニューラルネットワークモデルが無ければ(ステップS25のNO)、予測演算部31は、シミュレーションモデル31SMにより、最適ではないが、危険ではない、次のオペレータ操作である代替操作情報を演算する(ステップS27)。なお、こうして得られた代替操作情報は、挿入部11の形状情報に応じたニューラルネットワークモデルへ、新たな蓄積データつまり教示データとして登録するようにしても良い。
こうして、次操作情報または代替操作情報が演算されたならば、予測演算部31は、その演算結果である次操作情報または代替操作情報を出力回路32に出力し、出力回路32は、それを表示装置40に表示させることで、オペレータに次にどのような操作を行うべきかを示す操作支援情報を呈示する(ステップS28)。その後、上記ステップS21より繰り返す。
こうして上記ステップS21〜ステップS28のルーチンを実行中に、例えば制御装置30に設けた又は接続された図示しない入力スイッチ操作により、オペレータから終了指示が行われると、このルーチンを終了する。
以上のように、第2実施形態に係る管状挿入装置としての内視鏡装置1によれば、予測演算部31は、挿入部11の配置状態例えば形状情報により選択される複数のニューラルネットワークモデル(31NNM1〜31NNM7)を有し、次操作情報を演算するのに使用するニューラルネットワークモデルを、ファイバセンサ20により検知された大腸200内での挿入部11の形状情報に応じて切り替える。
このように、S−top225など部位限定で有り得るパターンで構築したニューラルネットワークモデルを用いることで、より最適な次操作情報を演算でき、間違った操作指示を出す確率を減少させることができる。また、様々なオペレータの操作に合った最適な次操作情報を呈示することができる。さらに、各部位に合ったニューラルネットワークモデルであるため、1つのモデルに対して少量の蓄積データで高精度なニューラルネットワークモデルが構築できる。
なお、大腸200の各部に応じたニューラルネットワークモデルを更に細分化し、オペレータの操作手技に応じたニューラルネットワークモデルを利用しても良い。例えば、S−top付近モデル31NNM1であれば、挿入手技の一つとして知られているプッシュ法に応じたプッシュ法モデル31NNM1A、挿入手技の一つとして知られている軸保持短縮法に応じた軸保持短縮法モデル31NNM1B、等を含む。挿入部11の形状情報から、S−top225付近において、オペレータがプッシュ法によるループ解除を狙っていると判断されれば、プッシュ法モデル31NNM1Aが利用され、軸保持短縮法を狙っていると判断された場合は、軸保持短縮法ワークモデル31NNM1Bが利用されて、次操作情報が演算される。さらには、挿入部11に発生するループ形状に応じたニューラルネットワークモデルを構築しても良い。例えば、S−top付近モデル31NNM1であれば、αループ形状に応じたαループモデル31NNM1a等を含む。挿入部11の形状情報からαループが発生していると判断されれば、αループモデル31NNM1aが利用されて、次操作情報が演算される。
また、本実施形態によれば、予測演算部31は、ファイバセンサ20により検知された挿入部11の形状情報の、蓄積データとの照合度が低い(学習させた教示データとの乖離が大きい)場合には、次操作情報の演算手法(ニューラルネットワークモデル)とは異なる演算手法(シミュレーションモデル)により、大腸内視鏡10の次に行うべき操作に関わる代替情報を取得するバックアップ処理部31BUPとしてのシミュレータなどを有する。これにより、未学習な形状情報が入力されても、オペレータに適切でない操作、特に、危険な操作を行わせることを無くすことができる。
また、本実施形態によれば、予測演算部31は、ファイバセンサ20により検知された挿入部11の形状情報と上記代替情報とに基づいて、蓄積データの増強を行う登録部31REGを有する。よって、未学習データが入力されたとき、バックアップ処理部31BUPによって演算された代替操作情報を、新たな学習データとして利用することが可能となる。
また、バックアップ処理部31BUPは、熟練者のオペレータ等が未学習の操作を行い、新たに教示データ31TDを作成するものであっても良い。この教示データ31TDは、代替操作情報として経験が少ないオペレータに呈示されても良いし、登録部31REGによって、新たな学習データとして登録されても良い。なお、この登録は、オペレータのレベルに応じた登録ができるようにしても良い。例えば、このオペレータのレベルに応じた登録とは、ループ形状解除の際の挿入部11の接触箇所に働く力である外力の力量に応じて、大きい場合は低いレベルの解除方法として登録し、外力が小さい場合は高いレベルの解除方法として登録するなどでも良い。
あるいは、バックアップ処理部31BUPは、適切でない操作をオペレータに行わせないために、操作支援を行なわないようにしても良い。すなわち、バックアップ処理部31BUPは、ファイバセンサ20により検知された挿入部11の形状情報の、蓄積データとの照合度が低い(学習させた教示データとの乖離が大きい)場合には、出力回路32へ、演算不能の結果を出力し、出力回路32は、この演算不能の結果が入力されたとき、その演算不能の結果を表示装置40に出力しない、又は、次操作情報を出力することができないことを表示装置40に呈示させる。
また、予測演算部31が通信機能を備えていれば、バックアップ処理部31BUPは、ネットワークNETを通じて、ハイパフォーマンスコンピュータなどにより、高速にループ解除演算を行わせるようにしても良い。すなわち、バックアップ処理部31BUPは、ネットワークNETを介して、シミュレーションモデルSMを用いて代替情報を演算するサーバ装置に、代替情報の演算を要求し、ネットワークNETを介して、サーバ装置から演算結果である代替情報を受信する。この場合も、受信した代替情報を、出力回路32を介してオペレータに呈示するだけでなく、登録部31REGにより、新たな学習データとして登録するようにしても良い。
あるいは、バックアップ処理部31BUPは、ネットワークNETを通じて、形状情報などの情報をリアルタイムで、他のオペレータ、例えば操作に熟練した医師(Dr)などに送信し、他のオペレータからのフィードバック(Dr指示DR)を受け取っても良い。すなわち、バックアップ処理部31BUPは、ネットワークNETを介して、代替情報を入力するための入力装置に、代替情報の送信を要求し、ネットワークNETを介して、入力装置から送信されてきた代替情報を受信する。この場合も、受信した代替情報を、出力回路32を介してオペレータに呈示するだけでなく、登録部31REGにより、新たな学習データとして登録するようにしても良い。
それ以外にも、バックアップ処理部31BUPは、ニューラルネットワークモデルを提供する提供者に、未学習データをネットワークNETを通じて送信し、その提供者のデータベースDBにストックさせることで、提供者が次回に提供するニューラルネットワークモデルのための教示データに利用されるようにしても良い。
バックアップ処理部31BUPが上記の何れの動作を行うかは、例えば制御装置30に設けた又は接続された図示しない入力スイッチ操作により、オペレータが選択できるようにしても良い。
なお、各ニューラルネットワークモデルへの分類は、形状情報によるディープラーニングではなく、その他の機械学習、例えばbag of words等のアルゴリズムによるケース分けでも良い。また、時系列のデータに基づいたモデル分類などでも良い。例えば、大腸200であれば、挿入部11は、S−top225の後に、S状結腸221及び下行結腸222を通過してSF227に到達するため、S−top225の後にいきなりSF227になることはない。よって、挿入量や時系列の順番などに沿って分類を行っても良い。このような構成とすることで、高精度にオペレータへ最適な操作支援を提供できる。
また、呈示する次操作情報又は代替操作情報については、大腸内視鏡10を操作するオペレータのレベルに応じて、呈示有無も含めて、異なるようにしても良い。オペレータのレベルは、例えば制御装置30に設けた又は接続された図示しない入力スイッチ操作により、切り替えられるようにしておくことが好ましい。
また、予測演算部31は、演算した次操作情報に応じて、正しく操作が行われたか否かを判定する操作妥当性検証部31VALを備えても良い。そして、操作妥当性検証部31VALは、この判定の結果が否定の場合、別のニューラルネットワークモデルに切り替えて次操作情報を演算させる帰還経路を有する。この帰還経路は、操作の停止指示、または、操作の速度低減指示を含むことができる。
例えば、予測演算部31は、入力された挿入部11の形状情報に基づいてニューラルネットワークモデルを選択し、その選択されたモデルにて次操作情報を演算して、出力回路32を介して表示装置40に、次に行うべき操作の指示を支援情報として呈示する。これに応じてオペレータが操作を行うこととなる。操作妥当性検証部31VALは、図8に示すように、このオペレータ操作によってなるであろう、次操作情報に対応する形状情報と、ファイバセンサ20が検知した大腸200内での挿入部11の実際の形状情報と、を比較検証する。両者が異なっていた場合、操作妥当性検証部31VALは、別のニューラルネットワークモデルを選択させる。また、例えば、癒着のあるときなどは、指示通りに操作しても、挿入部11が進まないなどの現象が発生する。操作妥当性検証部31VALは、形状情報から挿入部11が外部へ与える力量などを演算し、力量が大きすぎるなどのときは正しく操作が行われていないと判断し、そのケースに適した操作を指示するように、ニューラルネットワークモデルの選択が更新される。
このように、指示通りにオペレータが操作しない場合、あるいは、想定とは違った挿入状態となっても、いち早くフィードバックをかけることが可能となる。
また、予測演算部31は、大腸内視鏡10を操作するオペレータによる大腸内視鏡10の操作を分析する分析部31ANAを有しても良い。分析部31ANAは、被検体である大腸200の目的地点方向への挿入具合の良好性に基づいて、レベル付け、蓄積データ分類、などの解析を行う。ここで、挿入具合の良好性とは、スムーズであるか、速度が適切か、到達時間が適切か、見落としがないか、ループ形成がないか、ループ形成が小さいか、被検体への負荷が少ないか、画像判定による偶発症を発生していないか、画面先の進行阻害程度が小さいか、管腔を画像中心に捉えているか、大きな挿入部11動作をさせていないか、などを含む。このレベル付けにより、ある形状情報に対して複数の次操作情報が演算されるとき、レベルの高いオペレータ操作に対応する次操作情報を優先的に呈示することができる。あるいは、病院等の患者の挿入難度に応じたオペレータの最適配置や、良質な操作を抽出、共有することによる、患者負担や医療の質向上への貢献、などの活用が可能となる。
この分析部31ANAの結果に基づいて、登録部31REGは、蓄積データの増強を行うようにしても良い。これにより、次操作情報の呈示をあまり必要としない熟練のオペレータについては、次操作情報の演算機能を停止させ、蓄積データの増強の役割を担わせることで、システム全体の性能向上が図れる。
なお、バックアップ処理部31BUPは、ファイバセンサ20により検知された挿入部11の形状情報と学習させた教示データとの乖離が大きいとき、未学習のデータが入力されたとして代替操作情報の演算を行うものとしたが、次操作情報の時系列的な連続性が絶たれていることを確認したときに、代替情報を演算するようにしても良い。例えば、ループ形状の解除のための操作を行っている最中に、その解除とは異なる操作が次操作情報として得られた場合などである。
[第3実施形態]
本発明の第3実施形態について、図9乃至図12を参照して説明する。以下の説明では、第1実施形態と異なる部分を主に説明し、第1実施形態と同様の構成等は、第1実施形態と同様の参照符号を付してその説明を省略する。
第1実施形態では、予測演算部31は、ニューラルネットワークモデル31NNMなどの機械学習モデルを有していたが、本第3実施形態における予測演算部31は、図9に示すように、それに代えてシミュレーションモデル31SMを有する。この場合は、操作量Δを加えた時の外力情報及び形状情報がどのように変化するかをシミュレーションモデル31SMより明らかにし、最適な操作方法を操作支援情報として呈示しても良い。なお、操作量とは、挿入部11の挿入量や捩じり量等である。また、操作量は、挿入部11が硬度可変部を有する場合には、硬度情報を含むことができる。ここで、操作量として硬度情報を用いる理由は、この値が変更されると、シミュレーションモデル31SMの剛性値が変更され、形状変化等への影響が現れることによる。
予測演算部31は、例えば、挿入部11の現在の形状がループ形状やスタック形状などである際、挿入部11をその解除に望ましい形状とするために、どのような操作方法を行えば良いかをシミュレーションモデル31SMにより解析させる。望ましい形状とは、例えば、図10に示すように、N字形状になっている挿入部11を直線形状にする事などを指している。ループ形状の解除方法は、最適化演算(局所最適化手法、大域的最適化手法)により明らかにした操作方法である。
ここで、図12を参照して、本実施形態の内視鏡装置1における挿入支援制御動作を説明する。なお、ステップS31〜ステップS33は、第1実施形態におけるステップS11〜ステップS13と同様であるので、その説明は省略する。
予測演算部31においては、入力された挿入部11の形状情報をシミュレーションモデル31SMに入力する(ステップS34)。また、予測演算部31は、操作量情報をシミュレーションモデル31SMに入力する(ステップS35)。そして、シミュレーションモデル31SMにおいて、入力された形状情報と操作量情報とに基づく最適化演算を実行する(ステップS36。この最適化演算により目標形状つまり望ましい形状が得られなかった場合には(ステップS37のNO)、上記ステップS35に戻り、予測演算部31は、シミュレーションモデル31SMに別の操作量情報を入力する。
このようなステップS35〜ステップS37のルーチンを繰り返すことで、最適化演算により目標形状つまり望ましい形状が得られたならば(ステップS37のYES)、予測演算部31は、そのときの操作量情報を、演算結果である次操作情報として出力回路32に出力し、出力回路32は、それを表示装置40に表示させることで、オペレータに次にどのような操作を行うべきか示す操作支援情報を呈示する(ステップS38)。その後、上記ステップS31より繰り返す。
こうして上記ステップS31〜ステップS38のルーチンを実行中に、例えば制御装置30に設けた又は接続された図示しない入力スイッチ操作により、オペレータから終了指示が行われると、このルーチンを終了する。
シミュレーションモデル31SMは、リアルタイムに解析する必要があるため、入出力関係を近似式に変換した簡易なシミュレーションモデルとすることで、高速演算が可能である。
一方、詳細シミュレーションである有限要素法や機構解析はリアルタイムに演算することができない。そのため、シミュレーションモデル31SMは、図11に示すように、入力情報に形状情報と各操作量Δ(場合により硬度情報も)を入力値とし、操作量Δ入力後の形状や管腔の内壁に接触した際にかかる挿入部11の力量情報を出力値とした、ニューラルネットワークモデルを用いても良い。このニューラルネットワークモデルは、膨大なシミュレーションの入出力情報から、これらの関係をニューラルネットワークモデルとして作成したものである。
作成されたニューラルネットワークモデルは、高精度かつ高速演算可能なシミュレータとなるため、リアルタイムで収束演算ができ、オペレータへ挿入部11の接触箇所に働く力が小さくなる解除方法を提供することができる。
以上のように、第3実施形態に係る管状挿入装置としての内視鏡装置1によれば、予測演算部31は、シミュレーションモデル31SMにより次操作情報を演算し、それを操作支援情報として提示可能となる。
なお、本第3実施形態に係る管状挿入装置においても、第2実施形態と同様に、シミュレーションモデル31SMを被検体の各部に応じて細分化したりしても良い。
ここまで、大腸内視鏡10を備えた内視鏡装置1を挙げて本発明の各実施形態を説明してきたが、本発明の管状挿入装置は内視鏡装置に限定されるものではなく、可撓管部を有する管状装置であれば良い。例えば、被検体として大腸200以外の他の体腔を対象とした医療用内視鏡であっても良いし、配管などの管空やエンジンなどを対象とした工業用内視鏡であっても良い。
また、オペレータが可撓管部の挿入操作を行うものに限らず、可撓管部を自動で被検体に挿入するロボット技術などにも適用可能である。この場合、出力回路32は、表示装置40ではなく、またはそれに加えて、予測演算部31が演算した次に行うべき操作に関わる情報をロボット制御部に出力することで、当該情報に基づく自動操作が可能となる。このように、管状装置を取り扱う取扱者は人間に限らず、機械であっても良い。
なお、本願発明は、上記実施形態に限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で種々に変形することが可能である。また、各実施形態は可能な限り適宜組み合わせて実施しても良く、その場合組み合わせた効果が得られる。更に、上記実施形態には種々の段階の発明が含まれており、開示される複数の構成要件における適当な組み合わせにより種々の発明が抽出され得る。

Claims (22)

  1. 可撓管部を被検体に挿入する管状装置と、
    前記被検体内での前記可撓管部の配置状態を検知するセンサと、
    前記センサにより検知された前記配置状態と、前記可撓管部の各配置状態に応じた前記管状装置の操作に関わる蓄積データと、に基づいて、前記管状装置の次に行うべき操作に関わる情報である次操作情報を演算する予測演算部と、
    前記予測演算部が演算した前記次操作情報を出力する出力回路と、
    を具備する、管状挿入装置。
  2. 前記蓄積データは、前記可撓管部の前記被検体の内部及び外部の少なくとも一方での前記可撓管部の挿入状態に関わる情報である挿入状態情報に基づいて分析した結果である、請求項1に記載の管状挿入装置。
  3. 前記蓄積データは、前記被検体に関わる情報である被検体情報に基づいて分析した結果である、請求項1又は2に記載の管状挿入装置。
  4. 前記予測演算部は、前記蓄積データに基づく機械学習モデル及び/又はシミュレーションモデルを有する、請求項1乃至3の何れかに記載の管状挿入装置。
  5. 前記機械学習モデル及び/又は前記シミュレーションモデルは、前記管状装置の操作に関わる膨大な前記蓄積データから構築される、請求項4に記載の管状挿入装置。
  6. 前記予測演算部が演算する前記次操作情報は、前記可撓管部の捩じり方向の情報、前記可撓管部に設けられた能動湾曲部の湾曲方向の情報、前記可撓管部の前記被検体内への挿入量の情報、前記可撓管部が備える硬度可変部によって変更するべき前記可撓管部の硬さの情報、及び、前記被検体の体位変換の指示の情報、のうちの少なくとも一つを含む、請求項1乃至5の何れかに記載の管状挿入装置。
  7. 前記予測演算部は、前記可撓管部の配置状態により選択される複数の前記蓄積データを有し、前記次操作情報を演算するのに使用する前記蓄積データを、前記センサにより検知された前記被検体内での前記可撓管部の前記配置状態に応じて切り替える、請求項1乃至6の何れかに記載の管状挿入装置。
  8. 前記予測演算部は、演算した前記次操作情報に応じて、正しく操作が行われたか否かを判定する操作妥当性検証部を有する、請求項1に記載の管状挿入装置。
  9. 前記予測演算部は、前記蓄積データに基づく機械学習モデル及び/又はシミュレーションモデルを複数有し、
    前記操作妥当性検証部は、前記判定の結果が否定の場合、前記予測演算部に別のモデルに切り替えて前記次操作情報を演算させる帰還経路を有する、請求項8に記載の管状挿入装置。
  10. 前記操作妥当性検証部は、前記出力回路が出力した前記次操作情報に対応する前記可撓管部の配置状態と、前記センサが検知した前記被検体内での前記可撓管部の実際の配置状態とが異なることを比較検証する機能を有する、請求項8又は9に記載の管状挿入装置。
  11. 前記予測演算部は、前記センサにより検知された前記配置状態の、前記蓄積データとの照合度が低い場合には、前記出力回路へ演算不能の結果を出力し、
    前記出力回路は、前記予測演算部より前記演算不能の結果が入力されたとき、その演算不能の結果を出力しない、又は、前記予測演算部が演算した前記次操作情報を出力することができないことの出力を行う、請求項1乃至7の何れかに記載の管状挿入装置。
  12. 前記予測演算部は、前記センサにより検知された前記配置状態の、前記蓄積データとの照合度が低い場合には、前記次操作情報の演算手法とは異なる演算手法により、前記管状装置の次に行うべき操作に関わる代替情報を取得するバックアップ処理部を有する、請求項1乃至7の何れかに記載の管状挿入装置。
  13. 前記バックアップ処理部は、更に、前記次操作情報の時系列的な連続性が絶たれていることを確認したとき、前記代替情報を取得する、請求項12に記載の管状挿入装置。
  14. 前記予測演算部は、前記蓄積データに基づく機械学習モデルを用いて、前記次操作情報を演算し、
    前記バックアップ処理部は、シミュレーションモデルを用いて、前記被検体内に挿入されている前記可撓管部の前記被検体との接触箇所に働く力量を算出し、前記力量が小さくなる解除方法を、前記代替情報として演算する、請求項12に記載の管状挿入装置。
  15. 前記バックアップ処理部は、
    ネットワークを介して、前記シミュレーションモデルを用いて前記代替情報を演算するサーバ装置に、前記代替情報の演算を要求し、
    前記ネットワークを介して、前記サーバ装置から演算結果である前記代替情報を受信する、請求項14に記載の管状挿入装置。
  16. 前記バックアップ処理部は、
    ネットワークを介して、前記代替情報を入力するための入力装置に、前記代替情報の送信を要求し、
    前記ネットワークを介して、前記入力装置から送信されてきた前記代替情報を受信する、請求項12に記載の管状挿入装置。
  17. 前記予測演算部は、前記センサにより検知された前記配置状態と、前記バックアップ処理部が取得した前記代替情報とに基づいて、前記蓄積データの増強を行う登録部を更に有する、請求項14乃至16の何れかに記載の管状挿入装置。
  18. 前記予測演算部は、前記管状装置を操作するオペレータのレベルに応じて、前記次操作情報を切り替える、請求項1乃至3の何れかに記載の管状挿入装置。
  19. 前記シミュレーションモデルは、入出力関係から機械学習モデル又は近似式に変換されている、請求項4、14又は15に記載の管状挿入装置。
  20. 前記予測演算部は、前記管状装置を操作するオペレータによる前記管状装置の操作を分析する分析部を更に有する、請求項1乃至3の何れかに記載の管状挿入装置。
  21. 前記予測演算部は、前記分析部の結果に基づいて、前記蓄積データの増強を行う登録部を更に有する、請求項20に記載の管状挿入装置。
  22. 前記管状装置は、内視鏡である、請求項1乃至21の何れかに記載の管状挿入装置。
JP2019528285A 2017-07-06 2017-07-06 管状挿入装置及び、その管状挿入装置による操作支援方法 Active JP6949959B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/024833 WO2019008726A1 (ja) 2017-07-06 2017-07-06 管状挿入装置

Publications (2)

Publication Number Publication Date
JPWO2019008726A1 true JPWO2019008726A1 (ja) 2020-03-19
JP6949959B2 JP6949959B2 (ja) 2021-10-13

Family

ID=64949788

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019528285A Active JP6949959B2 (ja) 2017-07-06 2017-07-06 管状挿入装置及び、その管状挿入装置による操作支援方法

Country Status (4)

Country Link
US (1) US20200129043A1 (ja)
JP (1) JP6949959B2 (ja)
CN (1) CN110831476B (ja)
WO (1) WO2019008726A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7245360B2 (ja) * 2019-12-05 2023-03-23 Hoya株式会社 学習モデルの生成方法、プログラム、手技支援システム、情報処理装置、情報処理方法及び内視鏡用プロセッサ
JP2021141973A (ja) * 2020-03-10 2021-09-24 Hoya株式会社 内視鏡用プロセッサ、内視鏡、内視鏡システム、情報処理方法、プログラム及び学習モデルの生成方法
CN111588342A (zh) * 2020-06-03 2020-08-28 电子科技大学 一种纤支镜插管智能辅助系统
WO2022085104A1 (ja) * 2020-10-21 2022-04-28 日本電気株式会社 内視鏡操作支援装置、制御方法、コンピュータ可読媒体、及びプログラム
EP4233677A1 (en) * 2020-10-21 2023-08-30 NEC Corporation Endoscope operation assistance device, control method, computer-readable medium, and program
JP2022186039A (ja) * 2021-06-04 2022-12-15 株式会社東京精密 プローバ制御装置、プローバ制御方法、及びプローバ
WO2023037413A1 (ja) * 2021-09-07 2023-03-16 オリンパス株式会社 データ取得システムおよびデータ取得方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012115521A (ja) * 2010-12-01 2012-06-21 Olympus Medical Systems Corp 管状挿入システム
WO2014129436A1 (ja) * 2013-02-21 2014-08-28 オリンパス株式会社 被検体挿入システム
WO2016121106A1 (ja) * 2015-01-30 2016-08-04 オリンパス株式会社 未然形状推定装置、挿入/抜去作業システム、挿入/抜去作業支援システム、未然形状推定方法及び未然形状推定プログラム
WO2016207973A1 (ja) * 2015-06-23 2016-12-29 オリンパス株式会社 内視鏡システム、内視鏡情報処理装置および内視鏡情報処理方法
WO2017009905A1 (ja) * 2015-07-10 2017-01-19 オリンパス株式会社 可撓管挿入装置
WO2017068650A1 (ja) * 2015-10-20 2017-04-27 オリンパス株式会社 挿入体支援システム

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3012341B2 (ja) * 1990-12-25 2000-02-21 オリンパス光学工業株式会社 内視鏡装置
US6610007B2 (en) * 2000-04-03 2003-08-26 Neoguide Systems, Inc. Steerable segmented endoscope and method of insertion
JP3973504B2 (ja) * 2002-07-15 2007-09-12 株式会社日立製作所 牽引位置決め装置
EP1720450A4 (en) * 2004-03-04 2010-08-25 Agency Science Tech & Res DEVICE FOR MEDICAL AND / OR SIMULATION PROCEDURES
WO2010103866A1 (ja) * 2009-03-10 2010-09-16 オリンパスメディカルシステムズ株式会社 位置検出システムおよび位置検出方法
JP5851204B2 (ja) * 2011-10-31 2016-02-03 オリンパス株式会社 管状挿入装置
KR101997566B1 (ko) * 2012-08-07 2019-07-08 삼성전자주식회사 수술 로봇 시스템 및 그 제어방법
US20150351608A1 (en) * 2013-01-10 2015-12-10 Ohio University Method and device for evaluating a colonoscopy procedure
WO2014191871A1 (en) * 2013-05-31 2014-12-04 Koninklijke Philips N.V. Optical shape sensing device calibration, characterization and failure detection
JP6234332B2 (ja) * 2014-06-25 2017-11-22 オリンパス株式会社 内視鏡装置、作動方法、及び作動プログラム
US20170231699A1 (en) * 2014-09-08 2017-08-17 Koninklijke Philips N.V Detection of surface contact with optical shape sensing
US10376181B2 (en) * 2015-02-17 2019-08-13 Endochoice, Inc. System for detecting the location of an endoscopic device during a medical procedure
EP3294175A4 (en) * 2015-05-11 2019-01-02 VytronUS, Inc. System and methods for ablating tissue

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012115521A (ja) * 2010-12-01 2012-06-21 Olympus Medical Systems Corp 管状挿入システム
WO2014129436A1 (ja) * 2013-02-21 2014-08-28 オリンパス株式会社 被検体挿入システム
WO2016121106A1 (ja) * 2015-01-30 2016-08-04 オリンパス株式会社 未然形状推定装置、挿入/抜去作業システム、挿入/抜去作業支援システム、未然形状推定方法及び未然形状推定プログラム
WO2016207973A1 (ja) * 2015-06-23 2016-12-29 オリンパス株式会社 内視鏡システム、内視鏡情報処理装置および内視鏡情報処理方法
WO2017009905A1 (ja) * 2015-07-10 2017-01-19 オリンパス株式会社 可撓管挿入装置
WO2017068650A1 (ja) * 2015-10-20 2017-04-27 オリンパス株式会社 挿入体支援システム

Also Published As

Publication number Publication date
CN110831476B (zh) 2022-05-17
WO2019008726A1 (ja) 2019-01-10
JP6949959B2 (ja) 2021-10-13
US20200129043A1 (en) 2020-04-30
CN110831476A (zh) 2020-02-21

Similar Documents

Publication Publication Date Title
JPWO2019008726A1 (ja) 管状挿入装置
KR102612146B1 (ko) 카테터 제어와의 변형-기반 형상 감지의 조합
US20230157524A1 (en) Robotic systems and methods for navigation of luminal network that detect physiological noise
JP7371026B2 (ja) 管状網の経路ベースのナビゲーション
US20180279852A1 (en) Robotic systems for navigation of luminal networks that compensate for physiological noise
CA2958626C (en) Endoscope simulator
JP6132585B2 (ja) 被検体挿入システム
US10863884B2 (en) Flexible tube insertion apparatus comprising insertion section to be inserted into subject and method of operating thereof
JP7323647B2 (ja) 内視鏡検査支援装置、内視鏡検査支援装置の作動方法及びプログラム
WO2018235185A1 (ja) 挿入支援装置、挿入支援方法、及び挿入支援装置を含む内視鏡装置
WO2021111879A1 (ja) 学習モデルの生成方法、プログラム、手技支援システム、情報処理装置、情報処理方法及び内視鏡用プロセッサ
WO2018134898A1 (ja) 可撓性管状システム及び力覚情報算出方法
WO2022024559A1 (ja) 医療支援システム及び医療支援方法、並びにコンピュータプログラム
WO2019003272A1 (ja) 可撓管挿入装置、挿入制御装置及び挿入制御プログラム
CN115209783A (zh) 处理装置、内窥镜系统以及摄像图像的处理方法
JP7454112B2 (ja) 連続体ロボット装置、方法及び媒体
WO2022230160A1 (ja) 内視鏡システム、内腔構造算出システム及び内腔構造情報の作成方法
WO2018220797A1 (ja) 可撓管挿入支援装置と可撓管挿入装置
US20230355332A1 (en) Medical arm control system, medical arm device, medical arm control method, and program
US20240021103A1 (en) Endoscopic training system
WO2023218523A1 (ja) 第2の内視鏡システム、第1の内視鏡システム、および内視鏡検査方法
WO2022030142A1 (ja) 情報処理装置、プログラム、学習モデル及び学習モデルの生成方法
US20230172428A1 (en) Endoscope image processing device

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191108

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191108

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210305

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210406

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210604

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210824

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210922

R151 Written notification of patent or utility model registration

Ref document number: 6949959

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151