WO2021205818A1 - 内視鏡挿入支援装置、方法及びプログラムが格納された非一時的なコンピュータ可読媒体 - Google Patents

内視鏡挿入支援装置、方法及びプログラムが格納された非一時的なコンピュータ可読媒体 Download PDF

Info

Publication number
WO2021205818A1
WO2021205818A1 PCT/JP2021/010362 JP2021010362W WO2021205818A1 WO 2021205818 A1 WO2021205818 A1 WO 2021205818A1 JP 2021010362 W JP2021010362 W JP 2021010362W WO 2021205818 A1 WO2021205818 A1 WO 2021205818A1
Authority
WO
WIPO (PCT)
Prior art keywords
shape
endoscope
insertion support
endoscope insertion
support device
Prior art date
Application number
PCT/JP2021/010362
Other languages
English (en)
French (fr)
Inventor
上條 憲一
勇介 中尾
美枝子 真野
池田 裕一
藤田 浩正
Original Assignee
日本電気株式会社
オリンパス株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 日本電気株式会社, オリンパス株式会社 filed Critical 日本電気株式会社
Priority to EP21784240.0A priority Critical patent/EP4133988A4/en
Priority to US17/917,756 priority patent/US20230169669A1/en
Priority to CN202180037492.XA priority patent/CN115916023A/zh
Priority to JP2022514354A priority patent/JP7456663B2/ja
Publication of WO2021205818A1 publication Critical patent/WO2021205818A1/ja

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/005Flexible endoscopes
    • A61B1/009Flexible endoscopes with bending or curvature detection of the insertion part
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000096Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope using artificial intelligence
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00055Operational features of endoscopes provided with output arrangements for alerting the user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/0002Operational features of endoscopes provided with data storages
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2061Tracking techniques using shape-sensors, e.g. fiber shape sensors with Bragg gratings
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning

Abstract

本発明は、内視鏡の操作者に対して内視鏡の挿入状況を容易に把握させることにより、効果的な挿入支援を行うための内視鏡挿入支援装置、方法及びプログラムを提供することを目的とする。本発明にかかる内視鏡挿入支援装置(100)は、管腔内に挿入された内視鏡の挿入形状を特定するための形状データを取得する取得部(110)と、形状データから挿入形状における複数の形状カテゴリのいずれかを推定する推定部(120)と、推定された形状カテゴリにおける時系列に沿った表示情報を出力する出力部(130)と、を備える。

Description

内視鏡挿入支援装置、方法及びプログラムが格納された非一時的なコンピュータ可読媒体
 本発明は、内視鏡挿入支援装置、方法及びプログラムに関し、特に、内視鏡の挿入支援を行うための内視鏡挿入支援装置、方法及びプログラムに関する。
 大腸や小腸等の体内の検査をするために内視鏡による挿入観察が一般的となっている。その際、内視鏡の挿入部が体内でどのような形状になっているかを操作者(医師)が把握することが求められている。
 そこで、特許文献1には、内視鏡挿入形状を解析する解析装置に関する技術が開示されている。当該解析装置は、内視鏡挿入形状観測装置から挿入形状データを取得し、取得した挿入形状データから内視鏡の挿入部の形状を検出する。そして、当該解析装置は、検出した形状のうち、特定位置または特定部分を解析して求め、解析結果に基づき、内視鏡の挿入部の静的形状をパターン分類する。その後、当該解析装置は、分類したパターンを画面に表示する。
特開2007-054401号公報
 ここで、現状の内視鏡検査は、操作に熟練した医師が行う必要があり、内視鏡の操作の難易度が高いという課題がある。つまり、内視鏡の操作を行う操作者に対する挿入支援を行う仕組みが求められている。尚、上述した特許文献1にかかる技術には、挿入支援に改善の余地がある。
 本開示は、このような問題点を解決するためになされたものであり、内視鏡の操作者に対して内視鏡の挿入状況を容易に把握させることにより、効果的な挿入支援を行うための内視鏡挿入支援装置、方法及びプログラムを提供することを目的とする。
 本開示の第1の態様にかかる内視鏡挿入支援装置は、
 管腔内に挿入された内視鏡の挿入形状を特定するための形状データを取得する取得部と、
 前記形状データから前記挿入形状における複数の形状カテゴリのいずれかを推定する推定部と、
 前記推定された形状カテゴリにおける時系列に沿った表示情報を出力する出力部と、
 を備える。
 本開示の第2の態様にかかる内視鏡挿入支援方法は、
 コンピュータが、
 管腔内に挿入された内視鏡の挿入形状を特定するための形状データを取得し、
 前記形状データから前記挿入形状における複数の形状カテゴリのいずれかを推定し、
 前記推定された形状カテゴリにおける時系列に沿った表示情報を出力する。
 本開示の第3の態様にかかる内視鏡挿入支援プログラムは、
 管腔内に挿入された内視鏡の挿入形状を特定するための形状データを取得する取得処理と、
 前記形状データから前記挿入形状における複数の形状カテゴリのいずれかを推定する推定処理と、
 前記推定された形状カテゴリにおける時系列に沿った表示情報を出力する出力処理と、
 をコンピュータに実行させる。
 本開示により、内視鏡の操作者に対して内視鏡の挿入状況を容易に把握させることにより、効果的な挿入支援を行うための内視鏡挿入支援装置、方法及びプログラムを提供することができる。
本実施形態1にかかる内視鏡挿入支援装置の構成を示すブロック図である。 本実施形態1にかかる内視鏡挿入支援方法の流れを示すフローチャートである。 本実施形態2にかかる内視鏡挿入支援システムの全体構成を示すブロック図である。 本実施形態2にかかる内視鏡挿入支援装置の構成を示すブロック図である。 本実施形態2にかかる形状データの例を示す図である。 本実施形態2にかかる内視鏡画像の例を示す図である。 本実施形態2にかかる形状カテゴリの時系列遷移の表示情報の例を示す図である。 本実施形態2にかかる内視鏡挿入支援方法の流れを示すフローチャートである。 本実施形態3にかかる内視鏡挿入支援装置の構成を示すブロック図である。 本実施形態3にかかる比較処理の流れを示すフローチャートである。 本実施形態3にかかる形状カテゴリの時系列遷移の比較結果の例を示す図である。 本実施形態4にかかる内視鏡挿入支援装置の構成を示すブロック図である。 本実施形態4にかかる検索処理の流れを示すフローチャートである。
 以下では、本開示の実施形態について、図面を参照しながら詳細に説明する。各図面において、同一又は対応する要素には同一の符号が付されており、説明の明確化のため、必要に応じて重複説明は省略される。
<実施形態1>
 図1は、本実施形態1にかかる内視鏡挿入支援装置100の構成を示すブロック図である。内視鏡挿入支援装置100は、内視鏡を用いて被検者(被検体)における体内(被検体内)の検査を行う検査者(医師)に対して、内視鏡を挿入する操作を支援するための情報処理装置である。内視鏡挿入支援装置100は、取得部110と、推定部120と、出力部130とを備える。
 取得部110は、体腔(管腔)内に挿入された内視鏡の挿入形状を特定するための形状データを取得する。ここで、形状データとは、内視鏡が体腔内に挿入された際における内視鏡に含まれるファイバケーブルの形状を特定する情報であり、例えば、三次元の位置座標や形状を二次元で表現した画像データ等である。また、取得部110は、例えば、特許文献1に示すような内視鏡挿入形状観測装置の形状処理装置により生成された挿入形状データを形状データとして入力を受け付けてもよい。
 推定部120は、形状データから、挿入形状における複数の形状カテゴリのいずれかを推定する。ここで、形状カテゴリとは、挿入形状の特徴が類似する複数の形状をグループ化したパターンを定義したものである。形状カテゴリは少なくとも2以上定義され、推定部120は、取得部110により取得された形状データを複数の形状カテゴリのいずれかに分類することにより、推定を行う。尚、推定部120は、複数の形状データのそれぞれに対して形状カテゴリのラベルが付された学習用データにより学習された学習済みモデルを用いて、推定を行っても良い。
 出力部130は、推定された形状カテゴリにおける時系列に沿った表示情報を出力する。つまり、出力部130は、内視鏡の挿入状況に応じて順次、推定された複数の形状カテゴリについて、時系列に沿った形式で可視化した表示情報を生成し、出力する。
 図2は、本実施形態1にかかる内視鏡挿入支援方法の流れを示すフローチャートである。まず、取得部110は、体腔内に挿入された内視鏡の挿入形状を特定するための形状データを取得する(S11)。次に、推定部120は、形状データから、挿入形状における複数の形状カテゴリのいずれかを推定する(S12)。そして、出力部130は、推定された形状カテゴリにおける時系列に沿った表示情報を出力する(S13)。
 このように本実施形態では、取得した形状データを挿入形状の特徴を示す所定の形状カテゴリに分類(推定)し、順次、取得及び推定された形状カテゴリを時系列に沿った形式で示す表示情報として出力して、内視鏡の操作者に提示する。そのため、内視鏡の操作者は、内視鏡の挿入状況を容易に把握することができる。よって本実施形態により、内視鏡の効果的な挿入支援を行うことができる。
 尚、内視鏡挿入支援装置100は、図示しない構成としてプロセッサ、メモリ及び記憶装置を備えるものである。また、当該記憶装置には、本実施形態にかかる内視鏡挿入支援方法の処理が実装されたコンピュータプログラムが記憶されている。そして、当該プロセッサは、記憶装置からコンピュータプログラムを前記メモリへ読み込ませ、当該コンピュータプログラムを実行する。これにより、前記プロセッサは、取得部110、推定部120及び出力部130の機能を実現する。
 または、取得部110、推定部120及び出力部130は、それぞれが専用のハードウェアで実現されていてもよい。また、各装置の各構成要素の一部又は全部は、汎用または専用の回路(circuitry)、プロセッサ等やこれらの組合せによって実現されもよい。これらは、単一のチップによって構成されてもよいし、バスを介して接続される複数のチップによって構成されてもよい。各装置の各構成要素の一部又は全部は、上述した回路等とプログラムとの組合せによって実現されてもよい。また、プロセッサとして、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、FPGA(field-programmable gate array)等を用いることができる。
 また、内視鏡挿入支援装置100の各構成要素の一部又は全部が複数の情報処理装置や回路等により実現される場合には、複数の情報処理装置や回路等は、集中配置されてもよいし、分散配置されてもよい。例えば、情報処理装置や回路等は、クライアントサーバシステム、クラウドコンピューティングシステム等、各々が通信ネットワークを介して接続される形態として実現されてもよい。また、内視鏡挿入支援装置100の機能がSaaS(Software as a Service)形式で提供されてもよい。
<実施形態2>
 本実施形態2は、上述した実施形態1の具体的な実施例である。図3は、本実施形態2にかかる内視鏡挿入支援システム2000の全体構成を示すブロック図である。内視鏡挿入支援システム2000は、医師U1が被検者U2に対して電子内視鏡11を用いた検査を行う際に、医師U1による電子内視鏡11の挿入支援を行うシステムである。内視鏡挿入支援システム2000は、内視鏡装置10と、内視鏡挿入形状観測装置20と、内視鏡挿入支援装置30と、表示装置41と、スピーカ42と、入力装置43とを備える。
 内視鏡装置10は、本体とケーブルで接続された電子内視鏡11を備える。電子内視鏡11は、被検者U2の体腔内に挿入される部分である挿入部11aを含む。挿入部11aは、先端部及び先端部と接続されたファイバーケーブル及びライトガイドケーブルを備える。挿入部11aの末端は基端部や上記ケーブルを介して本体と接続されている。先端部は、電子撮像素子、観察光の照射部、湾曲部等を備える。電子撮像素子は、電子内視鏡11のカメラに相当し、例えばCCD(Charge Coupled Device)である。照射部は、ライトガイドケーブルからの観察光を照射する。湾曲部は、基端部の操作部からの制御信号に応じて先端部を湾曲させる。
 ファイバーケーブル及びライトガイドケーブルは、内視鏡装置10の本体とも接続される。ファイバーケーブルは、内視鏡装置10の本体との間で各種信号を送受信し、特に、電子撮像素子による撮影画像(内視鏡画像)を内視鏡装置10の本体へ伝送する。内視鏡装置10の本体は、内視鏡画像を内視鏡挿入支援装置30へ出力する。また、ライトガイドケーブルは、内視鏡装置10の光源からの光を照射部へ導く。
 ここで、挿入部11aには、複数の箇所にソースコイル(不図示)が設けられている。ソースコイルは例えば、所定間隔で配置されている。ソースコイルは内視鏡挿入形状観測装置20からの駆動信号により磁界を発生させる。そのため、電子内視鏡11は、挿入部11aの複数の個所に形状を特定するための磁気コイルが内蔵されたものであればよい。尚、内視鏡装置10及び電子内視鏡11のその他の構成は、公知のものを用いることができるため、他の構成の図示及び説明を省略する。または、磁気コイルとして(内視鏡に内蔵されたものではなく)コイルが内蔵された器具を内視鏡に挿入した状態で使用することもできる。
 内視鏡挿入形状観測装置20は、センスコイルユニット21と形状処理装置22とを少なくとも備える。センスコイルユニット21は、電子内視鏡11の挿入部11a内に設けられた複数のソースコイルから発生された磁界を検出するユニットである。
 形状処理装置22は、電子内視鏡11に対して駆動信号を出力する。また、被検者U2が磁気コイルを装着している場合、形状処理装置22は、当該磁気コイルに対しても駆動信号を出力するものとする。この場合、センスコイルユニット21は、被検者U2に装着された磁気コイルから発生された磁界をさらに検出する。
 形状処理装置22は、センスコイルユニット21により検出された磁界に基づいて、挿入部11aの三次元形状を求める。例えば、形状処理装置22は、検出された磁界に基づいて各ソースコイルの三次元座標を算出し、三次元座標の集合を形状データとする。または、形状処理装置22は、算出した三次元座標を二次元に投影した画像データを生成し、当該画像データを形状データとする。
 さらに、被検者U2が磁気コイルを装着している場合、形状処理装置22は、検出された磁界に基づいて、被検者U2の体位を求めてもよい。具体的には、形状処理装置22は、被検者U2に装着された磁気コイルについての上記ソースコイルとの相対的な位置を示す三次元座標を算出し、当該三次元座標を体位データとする。
 形状処理装置22は、形状データ及び体位データを内視鏡挿入支援装置30へ出力する。尚、内視鏡挿入形状観測装置20のその他の構成は、公知のものを用いることができるため、他の構成の図示及び説明を省略する。例えば、内視鏡装置10及び内視鏡挿入形状観測装置20は、上述した特許文献1に記載にものを用いても良い。
 内視鏡挿入支援装置30は、内視鏡装置10、内視鏡挿入形状観測装置20、表示装置41、スピーカ42及び入力装置43と接続される。内視鏡挿入支援装置30は、上述した内視鏡挿入支援装置100の一例である。内視鏡挿入支援装置30は、内視鏡装置10から内視鏡画像を取得し、内視鏡挿入形状観測装置20から形状データ及び体位データを取得する。
 内視鏡挿入支援装置30は、取得した形状データ、内視鏡画像及び体位データに基づいて電子内視鏡11の挿入部11aの挿入形状の形状カテゴリを推定し、推定された形状カテゴリを時刻情報と共に記録する。そして、内視鏡挿入支援装置30は、記録された形状カテゴリを時系列に沿った形式で表示するための表示情報を生成し、表示装置41へ出力する。また、内視鏡挿入支援装置30は、推定された形状カテゴリに対応する音声をスピーカ42へ出力する。
 表示装置41は、内視鏡挿入支援装置30から受け付けた表示情報を画面に表示する。スピーカ42は、内視鏡挿入支援装置30から受け付けた音声を出力する。入力装置43は、医師U1等の検査者(操作者)又は検査補助者からの入力操作を受け付け、入力操作に応じた制御信号を内視鏡挿入支援装置30へ出力する。入力装置43は、例えば、マウス、キーボード等である。尚、表示装置41がタッチパネルである場合、表示装置41と入力装置43とは一体となる。尚、表示装置41、スピーカ42及び入力装置43の一部又は全部は、内視鏡挿入支援装置30に内蔵されていてもよい。
 図4は、本実施形態2にかかる内視鏡挿入支援装置30の構成を示すブロック図である。内視鏡挿入支援装置30は、記憶装置31と、メモリ32と、IF(Interface)部33と、制御部34とを備える。記憶装置31は、ハードディスク、フラッシュメモリ等の記憶装置である。記憶装置31は、形状カテゴリ推定モデル311と、履歴情報312と、内視鏡挿入支援プログラム313とを記憶する。
 形状カテゴリ推定モデル311は、形状データ(又は形状データが正規化されたデータ)から形状カテゴリを推定するロジックが実装されたプログラムモジュール又はモデル式である。形状カテゴリ推定モデル311は、形状データである三次元座標の集合又は画像データを入力とし、当該形状データが示す挿入部11aの形状が該当する可能性の高い形状カテゴリを推定し、推定結果として形状カテゴリを出力するモデルである。尚、形状カテゴリ推定モデル311は、複数の形状データのそれぞれに対して、形状カテゴリのラベルが付された学習用データより予め学習された学習済みモデルといえる。
 ここで、形状カテゴリには、例えば、「直線」、「カーブ小」、「カーブ大」、「腹部張出」等が挙げられるが、これらに限定されない。また、形状カテゴリは、挿入部11aの形状のみを示すのではなく、体腔の状態(臓器の形状)を含めたものとする。例えば、挿入部11aの先端部の湾曲部が管腔のひだにひっかかった状態か、ひだにひっかけ損なった状態かで形状カテゴリを異なるものとしてもよい。つまり、形状カテゴリは、挿入部11aの形状を示すと共に、検査対象の臓器の形状を考慮して分類されたものであってもよい。その場合、形状カテゴリ推定モデル311は、入力として、後述する電子内視鏡11の動作内容をさらに受け付けるものとする。
 履歴情報312は、形状カテゴリ3121と、時刻情報3122と、付加情報3123とが対応付けられた情報である。尚、履歴情報312に付加情報3123は必須ではない。形状カテゴリ3121は、上述した各カテゴリを示す情報、例えば、識別情報や文字列等である。時刻情報3122は、形状データが取得された時刻や形状カテゴリが推定された時刻等である。付加情報3123は、推定された形状カテゴリについての付加情報である。付加情報3123は、例えば、体腔内の部位、医師U1が発した音声等である。履歴情報312により、後述する形状カテゴリ間の時系列に沿った遷移情報を効率的に生成できる。
 内視鏡挿入支援プログラム313は、本実施形態にかかる内視鏡挿入支援方法の処理が実装されたコンピュータプログラムである。
 メモリ32は、RAM(Random Access Memory)等の揮発性記憶装置であり、制御部34の動作時に一時的に情報を保持するための記憶領域である。IF部33は、内視鏡挿入支援装置30の外部との入出力を行うインタフェースである。例えば、IF部33は、入力装置43を介して、ユーザの操作を受け付け、受け付けた操作内容を制御部34へ出力する。また、IF部33は、内視鏡装置10から内視鏡画像等を受け付け、内視鏡挿入形状観測装置20から形状データ及び体位データを受け付け、受け付けた内視鏡画像等、形状データ及び体位データをメモリ32に格納し、制御部34へ通知する。また、IF部33は、制御部34からの指示に応じて、表示装置41又はスピーカ42へ出力を行う。
 制御部34は、内視鏡挿入支援装置30の各構成を制御するプロセッサつまり制御装置である。制御部34は、記憶装置31から内視鏡挿入支援プログラム313をメモリ32へ読み込ませ、内視鏡挿入支援プログラム313を実行する。これにより、制御部34は、取得部341、推定部342、記録部343、出力部344及び登録部345の機能を実現する。
 取得部341は、上述した取得部110の一例である。取得部341は、内視鏡装置10からIF部33を介して内視鏡画像を取得し、内視鏡挿入形状観測装置20からIF部33を介して形状データ及び体位データを取得する。図5は、本実施形態2にかかる形状データ314(画像データ)の例を示す図である。図6は、本実施形態2にかかる内視鏡画像315の例を示す図である。
 推定部342は、上述した推定部120の一例である。推定部342は、体内挿入検出部3421、動作推定部3422、正規化部3423及び形状カテゴリ推定部3424を含む。体内挿入検出部3421は、取得部341により取得された内視鏡画像を認識して、電子内視鏡11が被検者U2の体内(例えば、口、鼻又は肛門等)に挿入されたか否かを判定する。つまり、体内挿入検出部3421は、内視鏡画像を用いて、電子内視鏡11が体内に挿入されたことを検出する。ここで、体内挿入検出部3421は、内視鏡画像を画像認識することにより口、鼻又は肛門であるか否かを判定してもよい。そして、体内挿入検出部3421は、検出された旨を正規化部3423、形状カテゴリ推定部3424及び記録部343へ通知する。
 動作推定部3422は、内視鏡画像の変化と形状データとに基づき体腔内における電子内視鏡11の動作内容を推定し、推定した動作内容を形状カテゴリ推定部3424へ通知する。ここで、電子内視鏡11の動作内容とは、湾曲部が曲がって管腔のひだにひっかかった状態等を含む。例えば、通常、電子内視鏡11が体腔内を前後へ動けば、内視鏡画像も変化する。この場合、形状データは変化するが、形状カテゴリは変化しない場合がある。しかし、湾曲部が管腔のひだにひっかかった状態とひだにひっかけ損なった状態とでは形状データが近いが、体腔の状態(臓器の形状)としては大きく異なるといえる。そこで、この場合、形状カテゴリを分けるものとする。そして、湾曲部が管腔のひだにひっかかった場合、挿入部11aの先端部の位置は変化するが、先端部のカメラの周辺の様子は変化しない。つまり、内視鏡画像はあまり変化しないといえる。一方、湾曲部がひだにひっかけ損なった場合、先端部の位置が変化すると共に、カメラと膜との距離が離れるため、内視鏡画像も変化するといえる。そのため、動作推定部3422は、内視鏡画像の変化と形状データの変化の両方を加味して電子内視鏡11の動作内容や臓器の形状を推定することが望ましい。これにより、推定精度が向上し、挿入支援をより効果的に行うことができる。
 正規化部3423は、体内挿入検出部3421から検出された旨を受信することに応じて、取得部341により取得された現時点で最新の形状データが検査開始地点であることを特定する。具体的には、正規化部3423は、現時点で最新の形状データの三次元座標集合のうち先端部の三次元座標を検査開始地点(原点)として特定する。そして、正規化部3423は、取得部341により以後に取得された形状データの各三次元座標を、検査開始地点を原点とした座標系に変換して正規化を行う。そして、正規化部3423は、正規化後の形状データを形状カテゴリ推定部3424へ出力する。これにより、正規化の精度が向上する。
 また、正規化部3423は、取得部341により取得された体位データ(三次元座標)に基づき形状データを正規化し、正規化後の形状データを形状カテゴリ推定部3424へ出力してもよい。これにより、正規化の精度がさらに向上する。
 形状カテゴリ推定部3424は、体内挿入検出部3421から検出された旨を受信したことに応じて、形状カテゴリの推定処理を開始する。具体的には、形状カテゴリ推定部3424は、正規化部3423から受け付けた正規化後の形状データを、形状カテゴリ推定モデル311に入力し、推定結果である形状カテゴリを出力として取得する。つまり、形状カテゴリ推定部3424は、上述した学習済みモデルを用いて、取得部341により取得された形状データから複数の形状カテゴリのいずれかを推定する。これにより、蓄積された学習用データを用いて継続的に学習を続けることで推定の精度を向上させることができる。そして、形状カテゴリ推定部3424は、受け付けた形状カテゴリを記録部343へ出力する。さらに、形状カテゴリ推定部3424は、動作推定部3422から受け付けた動作内容を形状データと共に、形状カテゴリ推定モデル311に入力し、推定結果である形状カテゴリを出力として取得してもよい。これにより、入力データの種類が増加するため推定精度がさらに向上し得る。
 尚、推定部342は正規化部3423を有さなくても良い。その場合、形状カテゴリ推定部3424は、取得部341により取得された形状データをそのまま形状カテゴリ推定モデル311に入力する。
 記録部343は、内視鏡画像に基づき検査開始時点を特定し、検査開始時点に基づき、推定された形状カテゴリの時系列に沿った遷移情報を履歴情報312として記憶装置31に記録する。具体的には、記録部343は、体内挿入検出部3421から検出された旨を受信することに応じて、現時点を検査開始時点として特定する。そして、記録部343は、検査開始時点以降に形状カテゴリ3121を推定部342から受け付ける度に、現在時刻を時刻情報3122として対応付けて履歴情報312として記憶装置31に格納する。すなわち、記録部343は、体内挿入検出部3421から検出された旨を受信したことに応じて、形状カテゴリの記録処理を開始する。各形状カテゴリには時刻情報が対応付けられているため、履歴情報312は、形状カテゴリの時系列に沿った遷移情報ということができる。
 出力部344は、上述した出力部130の一例である。出力部344は、記憶装置31から履歴情報312を一レコードずつ読み出して、時系列に沿って複数の推定された形状カテゴリの間の遷移を示す表示情報を生成する。そして、出力部344は、生成した表示情報をIF部33を介して表示装置41へ出力する。ここで、表示情報は、例えば、二次元グラフで表現されたものとし、一方の軸を時間、他方の軸を形状カテゴリとしてもよい。つまり、出力部344は、読み出した形状カテゴリ3121及び対応付けられた時刻情報3122に対応するグラフ上の箇所にプロットする。そして、出力部344は、隣接する時刻情報におけるプロット同士を線でつなぐように描画する。これにより、時系列に沿った形状カテゴリの遷移が表現され、検査者等にとって容易に形状カテゴリの遷移を把握させることができる。尚、表示情報は二次元グラフに限定されず、三次元グラフ、その他、形状カテゴリの間の遷移が時系列に沿って開始かされた情報であればよい。
 さらに、形状カテゴリは多段階に細分化されていてもよい。例えば、特定の形状カテゴリには複数の形状サブカテゴリが属しているものとする。この場合、形状カテゴリ推定モデル311は、形状カテゴリに加えて、形状サブカテゴリまで推定するものとする。そして、記録部343は、履歴情報312に、同一の形状データに対して推定された形状カテゴリ3121と形状サブカテゴリとを対応付けて記憶装置31に格納する。その後、出力部344は、読み出した履歴情報312のレコードにおける形状サブカテゴリ及び対応付けられた時刻情報3122に対応するグラフ上の箇所にプロットする。そして、出力部344は、同一の形状カテゴリ内であっても異なる形状サブカテゴリ間の遷移を線でつなぐように描画する。これにより、さらに正確な遷移を容易に把握できる。
 図7は、本実施形態2にかかる形状カテゴリの時系列遷移の表示情報316の例を示す図である。ここでは、横軸を形状カテゴリ、縦軸を時間情報とした二次元グラフの例を示している。そして、形状カテゴリC1「直線」、形状カテゴリC2「カーブ小」、形状カテゴリC3「カーブ大」、形状カテゴリC4「腹部張出」を例示している。さらに、形状カテゴリC1内に3つの形状サブカテゴリC11からC13、形状カテゴリC2内に2つの形状サブカテゴリC21からC22、形状カテゴリC3内に3つの形状サブカテゴリC31からC33、形状カテゴリC4内に1つの形状サブカテゴリC41がさらに分類されていることを示す。また、図7では、形状カテゴリC1と形状カテゴリC2の間の遷移(形状カテゴリの変化)等を視認することができる。さらに、形状カテゴリC1内であっても、形状サブカテゴリC11とC12の間の遷移を視認できる。尚、横軸の数値は、形状サブカテゴリの番号としてもよい。
 図4に戻り説明を続ける。また、出力部344は、推定された形状カテゴリに対応する音声を出力してもよい。その場合、記憶装置31は、各形状カテゴリに対応する音声データを予め記憶しているものとする。そして、出力部344は、記憶装置31から履歴情報312を読み出す際に、併せて、形状カテゴリ3121に対応する音声データを読み出す。そして、出力部344は、読み出した音声データをIF部33を介してスピーカ42へ出力する。これにより、検査者は、表示装置41に視線を向けなくとも、現在の電子内視鏡11の形状カテゴリを把握できるため、より効果的に挿入支援を行うことができる。
 登録部345は、入力装置43及びIF部33を介して、推定された形状カテゴリについての付加情報の入力を受け付け、形状カテゴリ3121に付加情報3123をさらに対応付けて履歴情報312として記憶装置31に登録する。そのため、登録部345は、登録済みの履歴情報312を更新してもよい。これにより、出力部344が履歴情報312を読み出す際に、形状カテゴリ3121と併せて付加情報3123も読み出され、表示情報に含めて表示させることができる。
 尚、推定部342は、推定された形状カテゴリから体内の箇所を特定し、出力部344は、特定された箇所をさらに出力してもよい。例えば、検査対象が大腸の場合、体内の箇所としてS状結腸、下行結腸、横行結腸、上行結腸等がある。その場合、形状カテゴリの遷移の組合せに対して体内の箇所をラベル付けした学習用データを作成し、当該学習用データを用いて、体内箇所推定モデルを学習する。これにより、推定部342は、任意のタイミングで体内箇所推定モデルに履歴情報312の形状カテゴリの遷移の組合せを入力し、推定された体内の箇所を出力として得ることができる。そのため、検査後に、検査結果を検証する際に活用できる。または、推定部342は、検査中に都度、検査開始時点からの直前までの推定結果(形状カテゴリの遷移の組合せ)を体内箇所推定モデルに入力することで、体内箇所の推定値を得ることができる。よって、出力部344が推定された体内箇所を出力することで、リアルタイムに現在、電子内視鏡11の先端部が存在する体内の箇所を把握でき、より効果的に挿入支援を行うことができる。
 図8は、本実施形態2にかかる内視鏡挿入支援方法の流れを示すフローチャートである。まず、取得部341は、内視鏡挿入形状観測装置20から形状データを取得する(S201)。取得部341は、取得した形状データを正規化部3423及び動作推定部3422へ出力する。また、取得部341は、内視鏡装置10から内視鏡画像を取得する(S202)。取得部341は、取得した内視鏡画像を体内挿入検出部3421及び動作推定部3422へ出力する。また、取得部341は、内視鏡挿入形状観測装置20から体位データを取得する(S203)。取得部341は、取得した体位データを正規化部3423へ出力する。
 ステップS201及びS202の後、動作推定部3422は、取得部341から受け付けた形状データ及び内視鏡画像の変化に基づいて、電子内視鏡11の動作内容を推定する(S204)。そして、動作推定部3422は、推定した動作内容を形状カテゴリ推定部3424へ通知する。
 また、ステップS202の後、体内挿入検出部3421は、取得部341から受け付けた内視鏡画像に基づいて、電子内視鏡11が被検者U2の体内に挿入されたことを検出する(S205)。検出された場合、体内挿入検出部3421は、検出された旨を正規化部3423、形状カテゴリ推定部3424及び記録部343へ通知する。
 ステップS201、S203及びS205の後、正規化部3423は、体内挿入検出部3421からの体内挿入が検出された旨の通知に応じて、現時点で最新の形状データを検査開始地点として特定する。また、正規化部3423は、取得部341により取得された体位データと検査開始地点とに基づいて、以降、受け付けた形状データの正規化を行う(S206)。そして、正規化部3423は、正規化後の形状データを形状カテゴリ推定部3424へ出力する。
 ステップS204、S205及びS206の後、形状カテゴリ推定部3424は、体内挿入検出部3421からの体内挿入が検出された旨の通知に応じて、形式カテゴリの推定を開始する。具体的には、形状カテゴリ推定部3424は、形状カテゴリ推定部3424から受け付けた正規化後の形状データと、動作推定部3422から受け付けた電子内視鏡11の動作内容から、形式カテゴリを推定する(S207)。すなわち、形状カテゴリ推定部3424は、正規化後の形状データ及び動作内容を形状カテゴリ推定モデル311に入力し、推定結果として形状カテゴリを取得する。そして、形状カテゴリ推定部3424は、取得した形式カテゴリを記録部343へ出力する。
 ステップS205及びS207の後、記録部343は、体内挿入検出部3421からの体内挿入が検出された旨の通知に応じて、現時点を検査開始時点として特定し、形状カテゴリの履歴情報への記録を開始する。具体的には、記録部343は、形状カテゴリ推定部3424から受け付けた形状カテゴリ3121に、現在時刻を時刻情報3122として対応付けて履歴情報312として記憶装置31に記録(格納)する(S208)。
 ステップS208の後、出力部344は、記憶装置31から履歴情報312を一レコードずつ読み出して、時系列に沿って複数の推定された形状カテゴリの間の遷移を示す表示情報を生成する(S209)。そして、出力部344は、生成した表示情報を表示装置41の画面へ出力する(S210)。また、ステップS208の後、出力部344は、推定された形状カテゴリに対応する音声をスピーカ42へ出力する(S211)。
 ステップS210及びS211の後、ステップS201、S202及びS203へ戻り、以降を繰り返す。尚、当該内視鏡挿入支援方法は、所定のタイミングで終了できる。例えば、体内挿入検出部3421において電子内視鏡11が体内から抜き出されたことを検出した場合に、処理を終了してもよい。
 このように、本実施形態にかかる推定部342は、内視鏡画像をさらに用いて複数の形状カテゴリのいずれかを推定することにより、形状データのみで形状カテゴリを推定する場合と比べて、推定精度が向上する。また、電子内視鏡11の動作内容や被検者U2の体位データを用いて推定することで、推定精度をさらに向上できる。また、推定された形状カテゴリを履歴情報312として記録することで、検査中のみならず、検査後の分析等に有効活用できる。また、形式カテゴリの間の時系列遷移を画面に表示することで、検査中の電子内視鏡11の状態や体腔の状況を、医師等が容易に把握できる。そのため、内視鏡の挿入支援をより効果的に実現できる。
<実施形態3>
 本実施形態3は、上述した実施形態2の改良例である。本実施形態3にかかる内視鏡挿入支援システムは、上述した内視鏡挿入支援システム2000と比べて、内視鏡挿入支援装置30が内視鏡挿入支援装置30aに置き換わったものである。そのため、図示を省略し、以下では変更部分を中心に説明を行う。
 図9は、本実施形態3にかかる内視鏡挿入支援装置30aの構成を示すブロック図である。内視鏡挿入支援装置30aは、上述した内視鏡挿入支援装置30と比べて、内視鏡挿入支援プログラム313が内視鏡挿入支援プログラム313aに置き換わり、比較部346が追加されたものである。尚、内視鏡挿入支援装置30aは、制御部34のうち、少なくとも取得部341、形状カテゴリ推定部3424、記録部343、出力部344及び比較部346を含むものであればよく、他の構成は含まなくても良い。内視鏡挿入支援プログラム313aは、本実施形態にかかる内視鏡挿入支援方法における比較処理が実装されたコンピュータプログラムである。
 比較部346は、2以上の履歴情報312の比較結果を出力する。これにより、医師等が過去の内視鏡の挿入履歴を容易に比較でき、より効率的に分析を行うことができる。また、比較結果を視認することで内視鏡の挿入操作の技術を効率的に向上できる。尚、比較部346による出力は、出力部344を用いた出力であるものとする。つまり、比較部346は、2以上の履歴情報312の比較処理を行い、比較結果を出力部344へ出力し、出力部344は、表示装置41又はスピーカ42へ比較結果を出力することを示す。
 さらに、比較部346は、履歴情報312のうち比較元に対する比較先における評価を行い、当該評価の結果を比較結果として出力するとよい。例えば、比較元として熟練した医師による履歴情報を用い、比較先として比較的経験の浅い医師による履歴情報を用いることで、内視鏡の挿入操作の客観的な評価を得ることができる。これにより、医師等は自身の内視鏡の挿入操作の課題を客観的に把握でき、内視鏡の挿入操作の技術をより短期間で向上できる。
 また、比較部346は、比較結果が、特定の形状カテゴリにおける継続時間が所定時間以上である場合、警告として出力するとよい。これにより、医師等が比較先の内視鏡の挿入操作における課題となり得る箇所を容易に把握することができる。
 図10は、本実施形態3にかかる比較処理の流れを示すフローチャートである。まず、比較部346は、入力装置43及びIF部33を介して、比較元の形状カテゴリの遷移情報の指定を受け付ける(S31)。例えば、入力装置43は、医師等の操作に応じて、熟練した医師による過去の内視鏡検査に対応する日時(検査時間帯)の入力を受け付ける。そして、入力装置43は、受け付けた日時情報を内視鏡挿入支援装置30aへ送信する。内視鏡挿入支援装置30aの比較部346は、受信した日時情報が示す時間帯に含まれる時刻情報3122に対応付けられた形状カテゴリ3121の集合を記憶装置31から取得し、比較元としてメモリ32に保持する。
 次に、比較部346は、入力装置43及びIF部33を介して、比較先の形状カテゴリの遷移情報の指定を受け付ける(S32)。例えば、入力装置43は、医師等の操作に応じて、比較的経験の浅い医師による過去の内視鏡検査に対応する日時(検査時間帯)の入力を受け付ける。以降、ステップS31と同様に処理され、内視鏡挿入支援装置30aの比較部346は、記憶装置31から取得した履歴情報を、比較先としてメモリ32に保持する。
 続いて、比較部346は、比較元と比較先との比較結果を生成する(S33)。例えば、比較部346は、比較元と比較先との間で、検査開始時点からの相対的な経過時刻が対応する形状カテゴリ同士を比較し、差分の有無を時系列で算出する。または、比較部346は、比較元の遷移情報と比較先の遷移情報とを検査開始時点を揃えて、二次元グラフで描画するように比較結果を生成する。また、比較部346は、比較元に対する比較先における評価を行っても良い。例えば、比較部346は、比較元を基準として比較先の優劣を判定し、判定結果を評価結果としてもよい。例えば、比較部346は、比較元における特定の形式カテゴリの継続時間が所定時間より長い場合に、その時間帯について評価を低く判定してもよい。または、比較部346は、評価を行うか否かにかかわらず、比較元又は比較先において特定の形式カテゴリの継続時間が所定時間より長い場合に、その時間帯について警告出力をさせてもよい。
 その後、比較部346は、IF部33を介して、比較結果を表示装置41の画面に出力する(S34)。図11は、本実施形態3にかかる形状カテゴリの時系列遷移の比較結果316aの例を示す図である。ここでは、比較元の遷移情報と比較先の遷移情報とを検査開始時点を揃えて重ね合わせた例を示す。
 このように、本実施形態により、実施形態2において蓄積された履歴情報312を有効活用し、内視鏡の挿入技術の向上をより促進させることができる。
 尚、履歴情報312に医師IDが対応付けられている場合には、入力装置43は、医師IDを受け付け、比較部346は、医師IDにより履歴情報312を検索して、比較元及び比較先を取得してもよい。
<実施形態4>
 本実施形態4は、上述した実施形態2の改良例である。本実施形態4にかかる内視鏡挿入支援システムは、上述した内視鏡挿入支援システム2000と比べて、内視鏡挿入支援装置30が内視鏡挿入支援装置30bに置き換わったものである。そのため、図示を省略し、以下では変更部分を中心に説明を行う。
 図12は、本実施形態4にかかる内視鏡挿入支援装置30bの構成を示すブロック図である。内視鏡挿入支援装置30bは、上述した内視鏡挿入支援装置30aと比べて、履歴情報312が履歴情報312aに置き換わり、内視鏡挿入支援プログラム313aが内視鏡挿入支援プログラム313bに置き換わり、検索部347が追加されたものである。また、履歴情報312aには、医療情報3124が追加されている。尚、内視鏡挿入支援装置30bは、制御部34のうち、少なくとも取得部341、形状カテゴリ推定部3424、記録部343、出力部344及び検索部347を含むものであればよく、他の構成は含まなくても良い。内視鏡挿入支援プログラム313bは、本実施形態にかかる内視鏡挿入支援方法における検索処理が実装されたコンピュータプログラムである。
 検索部347は、推定された形状カテゴリの時系列に沿った遷移を示す遷移情報に基づき履歴情報312を検索し、検索結果を出力する。これにより、特定の遷移情報と同様の過去の履歴情報を閲覧することができる。よって、遷移情報以外に付加情報等の差異などを確認し、検討を促進できる。尚、検索部347による出力は、出力部344を用いた出力であるものとする。つまり、検索部347は、遷移情報を検索条件として履歴情報312の検索を行い、検索結果を出力部344へ出力し、出力部344は、表示装置41又はスピーカ42へ検索結果を出力することを示す。
 また、履歴情報312aは、形状カテゴリ3121、時刻情報3122及び付加情報3123にさらに医療情報3124が対応付けられている。ここで、医療情報3124は、被検者における身体情報、病歴、診察履歴等を示す情報である。そのため、検索部347は、医療情報3124に基づいて履歴情報312を検索し、検索結果を出力するとよい。これにより、検査を行う前に、今回の被検者の医療情報と近い被検者における過去の履歴情報を取得し、確認できる。そのため、身体情報や病歴が似た患者に対してより適切な操作による内視鏡の挿入を支援できる。
 図13は、本実施形態4にかかる検索処理の流れを示すフローチャートである。まず、検索部347は、遷移情報の検索条件を受け付ける(S41)。例えば、入力装置43は、医師等の操作に応じて、過去の内視鏡検査に対応する日時(検査時間帯)又は医療情報の入力を受け付ける。そして、入力装置43は、受け付けた日時情報又は医療情報を内視鏡挿入支援装置30bへ送信する。内視鏡挿入支援装置30bの検索部347は、受信した日時情報又は医療情報を検索条件としてメモリ32に保持する。
 次に、検索部347は、検索条件に基づき履歴情報312を検索する(S42)。例えば検索条件が日時情報の場合、検索部347は、日時情報が示す時間帯に含まれる時刻情報3122に対応付けられた形状カテゴリ3121の集合を記憶装置31から取得する。また、例えば検索条件が医療情報の場合、検索部347は、医療情報3124に対応付けられた形状カテゴリ3121の集合を記憶装置31から取得する。
 そして、検索部347は、検索結果に基づく表示情報を生成する(S43)。例えば、検索部347は、検索結果である遷移情報について、上述したステップS209と同様に、表示情報として生成する。
 その後、検索部347は、IF部33を介して、生成した表示情報を表示装置41の画面に出力する(S44)。
 このように、本実施形態によっても、実施形態2において蓄積された履歴情報312を有効活用し、内視鏡の挿入技術の向上をより促進させることができる。
<その他の実施形態>
 尚、上述した各実施形態は、大腸、小腸、胃又は気管支(肺)等における体腔に対する内視鏡による検査に適用できる。
 尚、上述の実施形態では、ハードウェアの構成として説明したが、これに限定されるものではない。本開示は、任意の処理を、CPUにコンピュータプログラムを実行させることにより実現することも可能である。
 上述の例において、プログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non-transitory computer readable medium)を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD-ROM(Read Only Memory)、CD-R、CD-R/W、DVD(Digital Versatile Disc)、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(Random Access Memory))を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
 なお、本開示は上記実施形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。また、本開示は、それぞれの実施形態を適宜組み合わせて実施されてもよい。
 上記の実施形態の一部又は全部は、以下の付記のようにも記載され得るが、以下には限られない。
 (付記A1)
 管腔内に挿入された内視鏡の挿入形状を特定するための形状データを取得する取得部と、
 前記形状データから前記挿入形状における複数の形状カテゴリのいずれかを推定する推定部と、
 前記推定された形状カテゴリにおける時系列に沿った表示情報を出力する出力部と、
 を備える内視鏡挿入支援装置。
 (付記A2)
 前記出力部は、前記時系列に沿って複数の前記推定された形状カテゴリの間の遷移を示す前記表示情報を出力する
 付記A1に記載の内視鏡挿入支援装置。
 (付記A3)
 前記出力部は、前記推定された形状カテゴリに対応する音声をさらに出力する
 付記A1又はA2に記載の内視鏡挿入支援装置。
 (付記A4)
 前記取得部は、前記内視鏡により撮影された内視鏡画像をさらに取得し、
 前記推定部は、前記内視鏡画像をさらに用いて前記複数の形状カテゴリのいずれかを推定する
 付記A1乃至A3のいずれか1項に記載の内視鏡挿入支援装置。
 (付記A5)
 前記推定部は、
 前記内視鏡画像の変化と前記形状データとに基づき管腔内における前記内視鏡の動作内容を推定し、
 前記内視鏡の動作内容をさらに加味して前記複数の形状カテゴリのいずれかを推定する
 付記A4に記載の内視鏡挿入支援装置。
 (付記A6)
 前記推定部は、
 前記内視鏡画像に基づき検査開始地点を特定し、
 前記検査開始地点に基づき前記形状データを正規化し、
 前記正規化後の形状データに対して前記複数の形状カテゴリのいずれかを推定する
 付記A4又はA5に記載の内視鏡挿入支援装置。
 (付記A7)
 前記内視鏡画像に基づき検査開始時点を特定し、前記検査開始時点に基づき、前記推定された形状カテゴリの時系列に沿った遷移情報を記録する記録部をさらに備える
 付記A4乃至A6のいずれか1項に記載の内視鏡挿入支援装置。
 (付記A8)
 前記推定部は、
 被検者から検出された体位に基づき前記形状データを正規化し、前記正規化後の形状データに対して前記複数の形状カテゴリのいずれかを推定する
 付記A1乃至A7のいずれか1項に記載の内視鏡挿入支援装置。
 (付記A9)
 前記推定された形状カテゴリについての付加情報の入力を受け付け、当該形状カテゴリと当該付加情報とを対応付けて登録する登録部をさらに備える
 付記A1乃至A8のいずれか1項に記載の内視鏡挿入支援装置。
 (付記A10)
 前記推定された形状カテゴリと時刻情報とを対応付けた履歴情報を記憶する記憶部をさらに備える
 付記A1乃至A9のいずれか1項に記載の内視鏡挿入支援装置。
 (付記A11)
 2以上の前記履歴情報の比較結果を出力する比較部をさらに備える
 付記A10に記載の内視鏡挿入支援装置。
 (付記A12)
 前記比較部は、
 前記履歴情報のうち比較元に対する比較先における評価を行い、
 当該評価の結果を前記比較結果として出力する
 付記A11に記載の内視鏡挿入支援装置。
 (付記A13)
 前記比較部は、
 前記比較結果が、特定の前記形状カテゴリにおける継続時間が所定時間以上である場合、警告として出力する
 付記A11又はA12に記載の内視鏡挿入支援装置。
 (付記A14)
 前記推定された形状カテゴリの時系列に沿った遷移を示す遷移情報に基づき前記履歴情報を検索し、検索結果を出力する検索部をさらに備える
 付記A10乃至A13のいずれか1項に記載の内視鏡挿入支援装置。
 (付記A15)
 前記履歴情報は、被検者の医療情報がさらに対応付けられており、
 前記検索部は、前記医療情報に基づいて前記履歴情報を検索し、前記検索結果を出力する
 付記A14に記載の内視鏡挿入支援装置。
 (付記A16)
 前記推定部は、前記推定された形状カテゴリから体内の箇所を特定し、
 前記出力部は、前記特定された箇所をさらに出力する
 付記A1乃至A15のいずれか1項に記載の内視鏡挿入支援装置。
 (付記A17)
 前記推定部は、
 複数の形状データのそれぞれに対して前記形状カテゴリのラベルが付された学習用データより学習された学習済みモデルを用いて、前記取得された形状データから前記複数の形状カテゴリのいずれかを推定する
 付記A1乃至A16のいずれか1項に記載の内視鏡挿入支援装置。
 (付記B1)
 コンピュータが、
 管腔内に挿入された内視鏡の挿入形状を特定するための形状データを取得し、
 前記形状データから前記挿入形状における複数の形状カテゴリのいずれかを推定し、
 前記推定された形状カテゴリにおける時系列に沿った表示情報を出力する、
 内視鏡挿入支援方法。
 (付記C1)
 管腔内に挿入された内視鏡の挿入形状を特定するための形状データを取得する取得処理と、
 前記形状データから前記挿入形状における複数の形状カテゴリのいずれかを推定する推定処理と、
 前記推定された形状カテゴリにおける時系列に沿った表示情報を出力する出力処理と、
 をコンピュータに実行させる内視鏡挿入支援プログラム。
 以上、実施形態(及び実施例)を参照して本願発明を説明したが、本願発明は上記実施形態(及び実施例)に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
 この出願は、2020年4月9日に出願された日本出願特願2020-070370を基礎とする優先権を主張し、その開示の全てをここに取り込む。
 100 内視鏡挿入支援装置
 110 取得部
 120 推定部
 130 出力部
 2000 内視鏡挿入支援システム
 10 内視鏡装置
 11 電子内視鏡
 11a 挿入部
 20 内視鏡挿入形状観測装置
 21 センスコイルユニット
 22 形状処理装置
 30 内視鏡挿入支援装置
 30a 内視鏡挿入支援装置
 30b 内視鏡挿入支援装置
 31 記憶装置
 311 形状カテゴリ推定モデル
 312 履歴情報
 312a 履歴情報
 3121 形状カテゴリ
 3122 時刻情報
 3123 付加情報
 3124 医療情報
 313 内視鏡挿入支援プログラム
 313a 内視鏡挿入支援プログラム
 313b 内視鏡挿入支援プログラム
 314 形状データ
 315 内視鏡画像
 316 表示情報
 316a 比較結果
 32 メモリ
 33 IF部
 34 制御部
 341 取得部
 342 推定部
 3421 体内挿入検出部
 3422 動作推定部
 3423 正規化部
 3424 形状カテゴリ推定部
 343 記録部
 344 出力部
 345 登録部
 346 比較部
 347 検索部
 41 表示装置
 42 スピーカ
 43 入力装置
 U1 医師
 U2 被検者
 C1 形状カテゴリ
 C11 形状サブカテゴリ
 C12 形状サブカテゴリ
 C13 形状サブカテゴリ
 C2 形状カテゴリ
 C21 形状サブカテゴリ
 C22 形状サブカテゴリ
 C3 形状カテゴリ
 C31 形状サブカテゴリ
 C32 形状サブカテゴリ
 C33 形状サブカテゴリ
 C4 形状カテゴリ
 C41 形状サブカテゴリ

Claims (19)

  1.  管腔内に挿入された内視鏡の挿入形状を特定するための形状データを取得する取得手段と、
     前記形状データから前記挿入形状における複数の形状カテゴリのいずれかを推定する推定手段と、
     前記推定された形状カテゴリにおける時系列に沿った表示情報を出力する出力手段と、
     を備える内視鏡挿入支援装置。
  2.  前記出力手段は、前記時系列に沿って複数の前記推定された形状カテゴリの間の遷移を示す前記表示情報を出力する
     請求項1に記載の内視鏡挿入支援装置。
  3.  前記出力手段は、前記推定された形状カテゴリに対応する音声をさらに出力する
     請求項1又は2に記載の内視鏡挿入支援装置。
  4.  前記取得手段は、前記内視鏡により撮影された内視鏡画像をさらに取得し、
     前記推定手段は、前記内視鏡画像をさらに用いて前記複数の形状カテゴリのいずれかを推定する
     請求項1乃至3のいずれか1項に記載の内視鏡挿入支援装置。
  5.  前記推定手段は、
     前記内視鏡画像の変化と前記形状データとに基づき前記管腔内における前記内視鏡の動作内容を推定し、
     前記内視鏡の動作内容をさらに加味して前記複数の形状カテゴリのいずれかを推定する
     請求項4に記載の内視鏡挿入支援装置。
  6.  前記推定手段は、
     前記内視鏡画像に基づき検査開始地点を特定し、
     前記検査開始地点に基づき前記形状データを正規化し、
     前記正規化後の形状データに対して前記複数の形状カテゴリのいずれかを推定する
     請求項4又は5に記載の内視鏡挿入支援装置。
  7.  前記内視鏡画像に基づき検査開始時点を特定し、前記検査開始時点に基づき、前記推定された形状カテゴリの時系列に沿った遷移情報を記録する記録手段をさらに備える
     請求項4乃至6のいずれか1項に記載の内視鏡挿入支援装置。
  8.  前記推定手段は、
     被検者から検出された体位に基づき前記形状データを正規化し、前記正規化後の形状データに対して前記複数の形状カテゴリのいずれかを推定する
     請求項1乃至7のいずれか1項に記載の内視鏡挿入支援装置。
  9.  前記推定された形状カテゴリについての付加情報の入力を受け付け、当該形状カテゴリと当該付加情報とを対応付けて登録する登録手段をさらに備える
     請求項1乃至8のいずれか1項に記載の内視鏡挿入支援装置。
  10.  前記推定された形状カテゴリと時刻情報とを対応付けた履歴情報を記憶する記憶手段をさらに備える
     請求項1乃至9のいずれか1項に記載の内視鏡挿入支援装置。
  11.  2以上の前記履歴情報の比較結果を出力する比較手段をさらに備える
     請求項10に記載の内視鏡挿入支援装置。
  12.  前記比較手段は、
     前記履歴情報のうち比較元に対する比較先における評価を行い、
     当該評価の結果を前記比較結果として出力する
     請求項11に記載の内視鏡挿入支援装置。
  13.  前記比較手段は、
     前記比較結果が、特定の前記形状カテゴリにおける継続時間が所定時間以上である場合、警告として出力する
     請求項11又は12に記載の内視鏡挿入支援装置。
  14.  前記推定された形状カテゴリの時系列に沿った遷移を示す遷移情報に基づき前記履歴情報を検索し、検索結果を出力する検索手段をさらに備える
     請求項10乃至13のいずれか1項に記載の内視鏡挿入支援装置。
  15.  前記履歴情報は、被検者の医療情報がさらに対応付けられており、
     前記検索手段は、前記医療情報に基づいて前記履歴情報を検索し、前記検索結果を出力する
     請求項14に記載の内視鏡挿入支援装置。
  16.  前記推定手段は、前記推定された形状カテゴリから体内の箇所を特定し、
     前記出力手段は、前記特定された箇所をさらに出力する
     請求項1乃至15のいずれか1項に記載の内視鏡挿入支援装置。
  17.  前記推定手段は、
     複数の形状データのそれぞれに対して前記形状カテゴリのラベルが付された学習用データより学習された学習済みモデルを用いて、前記取得された形状データから前記複数の形状カテゴリのいずれかを推定する
     請求項1乃至16のいずれか1項に記載の内視鏡挿入支援装置。
  18.  コンピュータが、
     管腔内に挿入された内視鏡の挿入形状を特定するための形状データを取得し、
     前記形状データから前記挿入形状における複数の形状カテゴリのいずれかを推定し、
     前記推定された形状カテゴリにおける時系列に沿った表示情報を出力する、
     内視鏡挿入支援方法。
  19.  管腔内に挿入された内視鏡の挿入形状を特定するための形状データを取得する取得処理と、
     前記形状データから前記挿入形状における複数の形状カテゴリのいずれかを推定する推定処理と、
     前記推定された形状カテゴリにおける時系列に沿った表示情報を出力する出力処理と、
     をコンピュータに実行させる内視鏡挿入支援プログラムが格納された非一時的なコンピュータ可読媒体。
PCT/JP2021/010362 2020-04-09 2021-03-15 内視鏡挿入支援装置、方法及びプログラムが格納された非一時的なコンピュータ可読媒体 WO2021205818A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
EP21784240.0A EP4133988A4 (en) 2020-04-09 2021-03-15 ENDOSCOPE INSERTION ASSISTANCE DEVICE, METHOD, AND NON-TEMPORARY COMPUTER-READABLE MEDIUM ON WHICH A PROGRAM IS STORED
US17/917,756 US20230169669A1 (en) 2020-04-09 2021-03-15 Endoscope insertion assistance apparatus, method and non-transitory computer-readable medium storing program thereof
CN202180037492.XA CN115916023A (zh) 2020-04-09 2021-03-15 内窥镜插入辅助装置、方法及存储有程序的非暂态计算机可读介质
JP2022514354A JP7456663B2 (ja) 2020-04-09 2021-03-15 情報処理装置、方法及びプログラム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020-070370 2020-04-09
JP2020070370 2020-04-09

Publications (1)

Publication Number Publication Date
WO2021205818A1 true WO2021205818A1 (ja) 2021-10-14

Family

ID=78022724

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/010362 WO2021205818A1 (ja) 2020-04-09 2021-03-15 内視鏡挿入支援装置、方法及びプログラムが格納された非一時的なコンピュータ可読媒体

Country Status (5)

Country Link
US (1) US20230169669A1 (ja)
EP (1) EP4133988A4 (ja)
JP (1) JP7456663B2 (ja)
CN (1) CN115916023A (ja)
WO (1) WO2021205818A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11797603B2 (en) * 2020-05-01 2023-10-24 Magic Leap, Inc. Image descriptor network with imposed hierarchical normalization

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004039249A1 (ja) * 2002-10-29 2004-05-13 Olympus Corporation 内視鏡情報の処理装置および処理方法
JP2006288752A (ja) * 2005-04-11 2006-10-26 Olympus Medical Systems Corp 内視鏡挿入形状解析装置および、内視鏡挿入形状解析方法
JP2008119260A (ja) * 2006-11-13 2008-05-29 Olympus Medical Systems Corp 生体観測システム
WO2018069992A1 (ja) * 2016-10-12 2018-04-19 オリンパス株式会社 挿入システム
WO2020039800A1 (ja) * 2018-08-24 2020-02-27 富士フイルム株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
JP2020070370A (ja) 2018-10-31 2020-05-07 日立化成株式会社 コーティング剤組成物、コーティング膜及び物品

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6626839B2 (ja) * 2014-12-19 2019-12-25 オリンパス株式会社 挿抜支援装置
JP6644530B2 (ja) * 2015-11-30 2020-02-12 オリンパス株式会社 内視鏡業務支援システム
JP6360644B1 (ja) * 2016-12-19 2018-07-18 オリンパス株式会社 内視鏡挿入形状観測装置
CN111465340B (zh) * 2017-12-25 2023-06-13 奥林巴斯株式会社 推荐操作呈现系统、推荐操作呈现控制装置以及推荐操作呈现控制方法
CN111937377B (zh) * 2018-04-09 2022-06-21 奥林巴斯株式会社 内窥镜业务辅助系统、内窥镜业务辅助方法和记录介质
CN114206191A (zh) 2019-08-30 2022-03-18 奥林巴斯株式会社 内窥镜控制装置、内窥镜插入形状分类装置、内窥镜控制装置的工作方法和程序

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004039249A1 (ja) * 2002-10-29 2004-05-13 Olympus Corporation 内視鏡情報の処理装置および処理方法
JP2006288752A (ja) * 2005-04-11 2006-10-26 Olympus Medical Systems Corp 内視鏡挿入形状解析装置および、内視鏡挿入形状解析方法
JP2008119260A (ja) * 2006-11-13 2008-05-29 Olympus Medical Systems Corp 生体観測システム
WO2018069992A1 (ja) * 2016-10-12 2018-04-19 オリンパス株式会社 挿入システム
WO2020039800A1 (ja) * 2018-08-24 2020-02-27 富士フイルム株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
JP2020070370A (ja) 2018-10-31 2020-05-07 日立化成株式会社 コーティング剤組成物、コーティング膜及び物品

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP4133988A4

Also Published As

Publication number Publication date
JP7456663B2 (ja) 2024-03-27
EP4133988A1 (en) 2023-02-15
CN115916023A (zh) 2023-04-04
US20230169669A1 (en) 2023-06-01
JPWO2021205818A1 (ja) 2021-10-14
EP4133988A4 (en) 2024-04-17

Similar Documents

Publication Publication Date Title
US10841514B2 (en) Endoscopy video feature enhancement platform
US10860930B2 (en) Learning method, image recognition device, and computer-readable storage medium
US20180263568A1 (en) Systems and Methods for Clinical Image Classification
WO2009110702A2 (ko) 바이오 마우스 및 바이오 키보드를 포함하는 원격 의료 진단 장치 및 이를 이용하는 방법
US20220254017A1 (en) Systems and methods for video-based positioning and navigation in gastroenterological procedures
US20210022586A1 (en) Endoscope observation assistance apparatus and endoscope observation assistance method
US20150002538A1 (en) Ultrasound image display method and apparatus
CN114332019B (zh) 内窥镜图像检测辅助系统、方法、介质和电子设备
US20200090548A1 (en) Image processing apparatus, image processing method, and computer-readable recording medium
WO2021176664A1 (ja) 検査支援システム、検査支援方法、及び、プログラム
CN110662476A (zh) 信息处理装置、控制方法和程序
WO2021205818A1 (ja) 内視鏡挿入支援装置、方法及びプログラムが格納された非一時的なコンピュータ可読媒体
JP2023509075A (ja) 医療支援操作方法、デバイス及びコンピュータプログラム製品
JP7189355B2 (ja) コンピュータプログラム、内視鏡用プロセッサ、及び情報処理方法
KR102453580B1 (ko) 내시경 검사 중 병변이 발견된 위치에서의 데이터 입력 방법 및 상기 데이터 입력 방법을 수행하는 컴퓨팅 장치
US20220361739A1 (en) Image processing apparatus, image processing method, and endoscope apparatus
JP2018047067A (ja) 画像処理プログラム、画像処理方法および画像処理装置
US20220277445A1 (en) Artificial intelligence-based gastroscopic image diagnosis assisting system and method
WO2023126999A1 (ja) 画像処理装置、画像処理方法、及び、記憶媒体
JP7448923B2 (ja) 情報処理装置、情報処理装置の作動方法、及びプログラム
WO2024095864A1 (ja) 処理装置、内視鏡装置、及び処理方法
EP4191527A1 (en) An endoscope image processing device
WO2024095674A1 (ja) 医療支援装置、内視鏡、医療支援方法、及びプログラム
WO2023100310A1 (ja) 内視鏡検査支援装置、内視鏡検査支援システム、内視鏡検査支援方法、および記録媒体
EP4091529A1 (en) Medical image processing system and method for operating the same

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21784240

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2022514354

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2021784240

Country of ref document: EP

Effective date: 20221109