JP7154274B2 - 内視鏡用プロセッサ、情報処理装置、内視鏡システム、プログラム及び情報処理方法 - Google Patents

内視鏡用プロセッサ、情報処理装置、内視鏡システム、プログラム及び情報処理方法 Download PDF

Info

Publication number
JP7154274B2
JP7154274B2 JP2020199711A JP2020199711A JP7154274B2 JP 7154274 B2 JP7154274 B2 JP 7154274B2 JP 2020199711 A JP2020199711 A JP 2020199711A JP 2020199711 A JP2020199711 A JP 2020199711A JP 7154274 B2 JP7154274 B2 JP 7154274B2
Authority
JP
Japan
Prior art keywords
unit
polyps
polyp
site
divided
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020199711A
Other languages
English (en)
Other versions
JP2021037356A (ja
Inventor
俊雄 橘
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hoya Corp
Original Assignee
Hoya Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hoya Corp filed Critical Hoya Corp
Priority to JP2020199711A priority Critical patent/JP7154274B2/ja
Publication of JP2021037356A publication Critical patent/JP2021037356A/ja
Application granted granted Critical
Publication of JP7154274B2 publication Critical patent/JP7154274B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Endoscopes (AREA)

Description

本発明は、内視鏡用プロセッサ、情報処理装置、内視鏡システム、プログラム及び情報処理方法に関する。
近年、内視鏡検査と同時にレポートを出力する技術がある。例えば、特許文献1には、各医療機器が有しているデータを共有化することによって、レポート作成に要していた時間を短縮化して作業の負担を軽減化する医療用画像記録装置が開示されている。
特開2004-350734号公報
しかしながら、特許文献1に係る発明は、検査部位のスケッチ図中の病変部と、病変部の内視鏡の観察画像とを自動的にリンクさせてレポートを作成するが、病変部(例えば、ポリープ等)の集計結果をレポートに含まない問題がある。
一つの側面では、検査部位ごとの病変部の集計結果を出力することが可能な内視鏡用プロセッサ等を提供することにある。
一つの側面に係る内視鏡用プロセッサは、大腸用内視鏡から撮影画像を取得する画像取得部と、前記画像取得部が取得した撮影画像に基づいて、大腸内の部位を識別する部位識別部と、前記撮影画像からポリープを抽出するポリープ抽出部と、前記ポリープが存在する部位を大腸用内視鏡が通過した所要時間と、前記ポリープが撮影された時刻とに基づいて、前記部位識別部が識別した大腸内の部位を複数の分割部位に分割する分割部と、前記分割部が分割した分割部位ごとに、前記ポリープ抽出部が抽出した前記ポリープの数を集計する第1集計部と、前記ポリープが切除されたか否かを記録する切除記録部と、前記分割部が分割した分割部位ごとに、前記切除記録部に記録された切除済ポリープと未切除ポリープとをそれぞれ集計する第2集計部と、前記分割部位と、前記分割部位ごとに前記第1集計部が集計したポリープの数と、前記分割部位ごとに前記第2集計部が集計した切除済ポリープの数と、前記分割部位に存在するポリープの累積数との関係を示すグラフを生成する生成部と、前記大腸用内視鏡の先端が大腸の奥から引き出される進行方向に沿って、前記撮影画像に基づく内視鏡画像と、前記生成部が生成したグラフ、及び前記先端が到達した大腸内の部位を示す現在地インジケータとを出力する出力部と、前記出力部が出力した内視鏡画像、グラフ及び現在地インジケータを表示装置に表示させる表示制御部とを備えることを特徴とする。
一つの側面では、検査部位ごとの病変部の集計結果を出力することが可能となる。
大腸内の部位ごとのポリープ数を集計する大腸用内視鏡システムの構成例を示す模式図である。 内視鏡の外観図である。 プロセッサの構成例を示すブロック図である。 患者DBのレコードレイアウトの一例を示す説明図である。 集計DBのレコードレイアウトの一例を示す説明図である。 ポリープDBのレコードレイアウトの一例を示す説明図である。 大腸内の部位を説明する説明図である。 大腸内のポリープを説明する説明図である。 ポリープの形態を示す模式図である。 部位識別モデルを説明する説明図である。 ポリープ抽出モデルを用いてポリープ抽出処理の概要を説明する説明図である。 大腸内の部位ごとのポリープ数を集計する際の全体の処理手順を示すフローチャートである。 部位ごとのポリープの数を集計する処理のサブルーチンの処理手順を示すフローチャートである。 部位ごとに集計されたポリープの数及び累積数を表示する模式図である。 各部位と各部位のポリープの数との関係を示すグラフである。 変形例1の集計DBのレコードレイアウトの一例を示す説明図である。 分割部位ごとのポリープの数を集計する処理のサブルーチンの処理手順を示すフローチャートである。 各分割部位と各分割部位のポリープの数との関係を示すグラフである。 実施形態2の集計DBのレコードレイアウトの一例を示す説明図である。 実施形態2のポリープDBのレコードレイアウトの一例を示す説明図である。 分割部位ごとのポリープの抽出数及び切除数を集計する処理のサブルーチンの処理手順を示すフローチャートである。 各部位と各部位のポリープの抽出数及び切除数との関係を示すグラフである。 実施形態3のポリープDBのレコードレイアウトの一例を示す説明図である。 ポリープに対する観察条件を表示する際の処理手順を示すフローチャートである。 内視鏡検査中に行われた操作情報をタブ形式で表示する模式図である。 部位ごとにポリープの抽出数と前回抽出数とを同時に表示するグラフである。 上述した形態のプロセッサの動作を示す機能ブロック図である。
以下、本発明をその実施形態を示す図面に基づいて詳述する。
(実施形態1)
実施形態1は、大腸用内視鏡により取得した撮影画像から、大腸内の部位ごとのポリープ数を集計し、集計した集計結果を出力する形態に関する。
図1は、大腸内の部位ごとのポリープ数を集計する大腸用内視鏡システムの構成例を示す模式図である。図1に示すシステムは、身体の下部消化管(大腸)に挿入されて撮影を行い、観察対象の電気信号を出力する大腸用内視鏡1、大腸用内視鏡1が出力した電気信号を映像信号に変換する内視鏡用プロセッサ2、及び観察対象の撮影画像等を表示する表示装置3を含む。各装置はコネクタを介して電気信号、映像信号等の送受信を行う。
大腸用内視鏡1は、先端に撮像素子がある挿入部を肛門から挿入し、直腸から結腸の末端にかけて、診断または治療を行う器具である。大腸用内視鏡1は、先端にある撮像素子を用いて捉えた観察対象の電気信号をプロセッサ2に転送する。以下では簡潔のため、大腸用内視鏡1を内視鏡1と読み替える。
内視鏡用プロセッサ2は、内視鏡1の先端にある撮像素子から取り込まれた撮像画像に対して画像処理を行い、内視鏡画像を生成して表示装置3に出力する情報処理装置である。また、以下では簡潔のため、内視鏡用プロセッサ2をプロセッサ2と読み替える。
表示装置3は、液晶ディスプレイ又は有機EL(electroluminescence)ディスプレイ等であり、プロセッサ2から出力された内視鏡画像等を表示する。
本実施形態では、プロセッサ2は、内視鏡1から取得した撮影画像から観察中の大腸内の部位を識別する。更に、プロセッサ2は、撮影画像からポリープを抽出する。そして、プロセッサ2は、識別した大腸内の部位ごとに抽出したポリープの数を集計し、内視鏡画像と、集計した集計結果とを表示装置3に出力する。
図2は、内視鏡1の外観図である。内視鏡1は、撮像素子11、処置具挿入チャンネル12、操作部13及びコネクタ14を含む。撮像素子11は、内視鏡1の先端部に設置され、CCD(Charge Coupled Device)イメージセンサ、CMD(Charge Modulation Device)イメージセンサまたはCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを備え、入射光を光電変換する。光電変換により生成された電気信号は、図示しない信号処理回路によりA/D変換、ノイズ除去などの信号処理が施され、プロセッサ2に出力される。
処置具挿入チャンネル12は、処置具を通すためのチャンネルである。処置具は、例えば把持具、生検針、鉗子、スネア、クランプ、ハサミ、メス、切開器具、内視鏡ステープラ、組織ループ、クリップアプライヤ、縫合糸送達器具、またはエネルギーによる組織凝固器具若しくは組織切断器具である。操作部13にはレリーズボタン、内視鏡の先端を曲げるためのアングルノブ等が設けられ、例えば送気、送水、送ガス等の周辺機器の操作指示信号の入力を受け付ける。コネクタ14は、プロセッサ2に接続される。
図3は、プロセッサ2の構成例を示すブロック図である。プロセッサ2は、制御部21、記憶部22、操作入力部23、出力部24、光源制御部25、時計部26、大容量記憶部27、光源28及び読取部29を含む。各構成はバスBで接続されている。
制御部21は、CPU(Central Processing Unit)、MPU(Micro-Processing Unit)、GPU(Graphics Processing Unit)等の演算処理装置を含み、記憶部22に記憶された制御プログラム2Pを読み出して実行することにより、プロセッサ2に係る種々の情報処理、制御処理等を行う。なお、図2では制御部21を単一のプロセッサであるものとして説明するが、マルチプロセッサであっても良い。
記憶部22は、RAM(Random Access Memory)、ROM(Read Only Memory)等のメモリ素子を含み、制御部21が処理を実行するために必要な制御プログラム2P又はデータ等を記憶している。また、記憶部22は、制御部21が演算処理を実行するために必要なデータ等を一時的に記憶する。操作入力部23は、例えばタッチパネル、各種スイッチ等の入力デバイスによって構成され、これらの入力デバイスに対する外部からの操作に応じて発生した入力信号を制御部21に入力する。出力部24は、制御部21の制御の下で、表示用の画像信号及び各種の情報を表示装置3に出力し、画像及び情報を表示させる。
光源制御部25は、LED等のオン/オフ、LED等の駆動電流及び駆動電圧の調整によって照明光の発光量を制御する。また、光源制御部25は、光学フィルタの変更等によって、照明光の波長帯域を制御する。光源制御部25は、各LEDの点灯や消灯、及び点灯時の発光量等を独立に制御することによって、照明光の発光タイミング、発光期間、光量、及び分光スペクトルの調節を行う。時計部26は、時刻又は経過時間等を計時しており、制御部21からの求めに応じて、計時結果を制御部21に与える回路である。
大容量記憶部27は、例えばHDD(Hard disk drive:ハードディスク)、SSD(Solid State Drive:ソリッドステートドライブ)等の記録媒体を備える。大容量記憶部27は、患者DB271、集計DB272、ポリープDB273、ポリープ抽出モデル274及び部位識別モデル275を含む。患者DB271は、患者に関する情報を記憶している。集計DB272は、撮影画像から抽出されたポリープに対する集計結果を記憶している。ポリープDB273は、抽出されたポリープに関する情報を記憶している。ポリープ抽出モデル274は、大腸内のポリープを抽出する抽出器であり、機械学習により生成された学習済みモデルである。部位識別モデル275は、大腸内の部位を識別する部位識別器であり、機械学習により生成された学習済みモデルである。
なお、本実施形態において記憶部22及び大容量記憶部27は一体の記憶装置として構成されていても良い。また、大容量記憶部27は複数の記憶装置により構成されていても良い。更にまた、大容量記憶部27はプロセッサ2に接続された外部記憶装置であっても良い。
光源28は、観察対象の照明に用いる照明光を発する光源を備える。光源は、例えば、波長域が異なる複数色のLED(Light Emitting Diode)等の半導体光源、レーザーダイオードと蛍光体の組み合わせ、又はキセノンランプ等である。光源28は、プロセッサ2の光源制御部25からの制御に従い明るさ等を調整する。なお、本実施形態では、プロセッサ2が光源一体型であるが、これに限るものではない。例えば、プロセッサ2は、光源装置と分離する光源分離型であっても良い。
読取部29は、CD(Compact Disc)-ROM又はDVD(Digital Versatile Disc)-ROMを含む可搬型記憶媒体2aを読み取る。制御部21が読取部29を介して、制御プログラム2Pを可搬型記憶媒体2aより読み取り、大容量記憶部27に記憶しても良い。また、ネットワークN等を介して他のコンピュータから制御部21が制御プログラム2Pをダウンロードし、大容量記憶部27に記憶しても良い。さらにまた、半導体メモリ2bから、制御部21が制御プログラム2Pを読み込んでも良い。
なお、本実施形態では、プロセッサ2は一台の情報処理装置であるものとして説明するが、複数台により分散して処理させても良く、または仮想マシンにより構成されていても良い。
図4は、患者DB271のレコードレイアウトの一例を示す説明図である。患者DB271は、患者ID列、性別列及び名前列を含む。患者ID列は、各患者を識別するために、一意に特定される患者のIDを記憶している。性別列は、患者の性別を記憶している。名前列は、患者の名前を記憶している。
図5は、集計DB272のレコードレイアウトの一例を示す説明図である。集計DB272は、集計ID列、患者ID列、集計日時列及び部位列を含む。集計ID列は、各集計データを識別するために、一意に特定される集計データのIDを記憶している。患者ID列は、患者を特定する患者IDを記憶している。集計日時列は、ポリープの数が集計された日時情報を記憶している。
部位列は、上行結腸列、横行結腸列、下行結腸列、S状結腸列及び直腸列を含む。上行結腸列は、上行結腸に存在するポリープの数を記憶している。横行結腸列は、横行結腸に存在するポリープの数を記憶している。下行結腸列は、下行結腸に存在するポリープの数を記憶している。S状結腸列は、S状結腸に存在するポリープの数を記憶している。直腸列は、直腸に存在するポリープの数を記憶している。
図6は、ポリープDB273のレコードレイアウトの一例を示す説明図である。ポリープDB273は、集計ID列、ポリープID列、部位列、形態列、腫瘍性列、良悪性列、サイズ列及び撮影時刻列を含む。集計ID列は、ポリープの数を集計した集計データのIDを記憶している。ポリープID列は、各抽出されたポリープを識別するために、一意に特定されるポリープのIDを記憶している。部位列は、抽出されたポリープが存在する大腸内の部位を記憶している。形態列は、ポリープの形態情報を記憶している。なお、ポリープの形態については後述する。
腫瘍性列は、ポリープに対する腫瘍性か非腫瘍性かの診断情報を記憶している。良悪性列は、ポリープが腫瘍性ポリープである場合、良性の腫瘍か悪性の腫瘍かの診断情報を記憶している。サイズ列は、ポリープの大きさを記憶している。撮影時刻列は、ポリープが撮影された日時情報を記憶している。
図7は、大腸内の部位を説明する説明図である。大腸は、小腸に続いて右下腹部から始まり、お腹の中をぐるりと大きく時計回りに回って肛門管10aに繋がる臓器であり、大腸は、盲腸10g、上行結腸10f、横行結腸10e、下行結腸10d、S状結腸10c及び直腸10bを含む。なお、上述した部位に限らず、例えば直腸が更に直腸S状部、上部直腸及び下部直腸に分けられても良い。
図8は、大腸内のポリープを説明する説明図である。図示のように、ポリープは大腸の粘膜の一部がイボ状に盛り上がり、大腸の空間部分に突出したものである。ポリープは、ポリープの形態、組織型またはサイズ等により分類することができる。例えば、ポリープの形態によって、ポリープが有茎性(Ip:pedunculated type)、亜有茎性(Isp:semipedunculated type)、広基性(Is:sessile type)等に分類される。ポリープは、組織型によって腫瘍性ポリープと非腫瘍性ポリープとに分類される。腫瘍性ポリープは、良性の腫瘍、悪性の腫瘍を含み、非腫瘍性ポリープは、過形成性ポリープ、炎症性ポリープを含む。ポリープはサイズによって、例えば「10mm未満」、「10~20mm」及び「20mm以上」に分類されても良い。
図9は、ポリープの形態を示す模式図である。有茎性は、大腸の粘膜面からキノコのように茎を持って発育している形態である。亜有茎性は、大腸の粘膜面からはっきりしない短茎を持って発育している形態である。広基性は、大腸の粘膜面から茎を持たず扁平に盛り上がる形態である。よって、ポリープの各形態の特徴に基づいて、内視鏡1により撮影した撮影画像からポリープを抽出することが可能となる。
続いて、大腸内の部位ごとのポリープ数を集計する処理を説明する。内視鏡1の先端が、肛門管10aに挿入され、直腸10bを通じて、S状結腸10cから下行結腸10d、横行結腸10e、上行結腸10fを経て盲腸10gに到達するまで挿入される。なお、上述した挿入経路に関しては、一般的な大腸内視鏡の挿入経路であり、医師の判断により盲腸まで入れない場合がある。プロセッサ2の制御部21は、内視鏡1の先端が盲腸10gに到達したか否かを判定する。なお、制御部21は、操作入力部23を介して、医師の判断による内視鏡の挿入完了の指示を受け付けた場合、内視鏡1の先端が到達したと判定しても良い。内視鏡1の先端が盲腸に到達した場合、内視鏡1の挿入が完了する。
図10は、部位識別モデル275を説明する説明図である。部位識別モデル275は、人工知能ソフトウェアの一部であるプログラムモジュールとして利用される。部位識別モデル275は、内視鏡1から取得した大腸内の撮影画像を入力とし、大腸内の部位を予測した結果を出力とするニューラルネットワークを構築(生成)済みの抽出器である。ニューラルネットワークは、例えばCNN(Convolutional Neural Network)であり、撮影画像の入力を受け付ける入力層と、大腸内の部位を予測した結果を出力する出力層と、バックプロパゲーションにより学習済の中間層とを有する。
入力層は、撮影画像に含まれる各画素の画素値の入力を受け付ける複数のニューロンを有し、入力された画素値を中間層に受け渡す。中間層は、撮影画像の画像特徴量を抽出する複数のニューロンを有し、抽出した画像特徴量を出力層に受け渡す。例えば部位識別モデル275がCNNである場合を例にして説明する。中間層は、入力層から入力された各画素の画素値を畳み込むコンボリューション層と、コンボリューション層で畳み込んだ画素値をマッピングするプーリング層とが交互に連結された構成により、撮影画像の画素情報を圧縮しながら最終的に画像の特徴量を抽出する。その後中間層は、バックプロパゲーションによりパラメータが学習された全結合層により、撮影画像が大腸内の各部位である確率を予測する。予測結果は、複数のニューロンを有する出力層に出力される。
なお、撮影画像は、交互に連結されたコンボリューション層とプーリング層とを通過して特徴量が抽出された後に、入力層に入力されても良い。
なお、上述した機械学習により部位を識別する処理に限るものではない。例えば、プロセッサ2の制御部21は、内視鏡1により撮影した撮影画像から、大腸内の色合いまたは襞の変化に基づき、A-KAZE(Accelerated KAZE)、SIFT(Scale Invariant Feature Transform)等の局所特徴量抽出方法を用いて部位を識別しても良い。または、プロセッサ2の制御部21は、医師が医学専門知識に基づいて大腸内の部位を識別した識別結果を操作入力部23により受け付けても良い。
制御部21は、内視鏡1の先端にある撮像素子11から取得した撮影画像に対して画像処理を行ない、医師による観察に適した内視鏡画像を生成する。生成された内視鏡画像は、リアルタイムで表示装置3に表示される。制御部21は、撮影画像からポリープを抽出する。以下では、ディープラーニングにより構築されたポリープ抽出モデル274を用いて、大腸内のポリープを抽出する処理を説明する。
図11は、ポリープ抽出モデル274を用いてポリープ抽出処理の概要を説明する説明図である。ポリープ抽出モデル274は、人工知能ソフトウェアの一部であるプログラムモジュールとして利用される。ポリープ抽出モデル274は、内視鏡1から取得した大腸内の撮影画像が入力された場合に、ポリープが写っていると推定する領域と、その領域にポリープが写っている確率とを示す情報を出力する学習モデルである。
本実施の形態のポリープ抽出モデル274は、RCNN(Regions with Convolutional Neural Network)を用いて推定を行う。ポリープ抽出モデル274は、領域候補抽出部74aと、分類部74bとを含む。分類部74bは、図示を省略するニューラルネットワークを含む。ニューラルネットワークは、コンボリューション層、プーリング層および全結合層を含む。
ポリープ抽出モデル274に、撮影画像が入力される。領域候補抽出部74aは、撮影画像から、様々なサイズの領域候補を抽出する。分類部74bは、抽出された領域候補の特徴量を算出し、算出した特徴量に基づいて領域候補に映っている被写体がポリープであるか否かを分類する。ポリープ抽出モデル274は、領域候補の抽出と分類とを繰り返す。
ポリープ抽出モデル274は、所定の閾値よりも高い確率でポリープが写っていると分類された領域候補について、領域の範囲、および、ポリープが写っている確率を出力する。図11に示す例では、80パーセントの確率でポリープが写っている領域と、90パーセントの確率でポリープが写っている領域とが検出されている。
ポリープ抽出モデル274は、悪性ポリープである確率、良性ポリープである確率、有茎性ポリープである確率、亜有茎性ポリープである確率、広基性ポリープである確率、10mm未満である確率、10~20mmである確率、または20mm以上である確率等のポリープの分類を出力しても良い。
なお、RCNNの代わりに、Fast RCNN、Faster RCNNまたはSSD(Single Shot Multibook Detector)、YOLO(You Only Look Once)等の、任意の物体検出アルゴリズムを使用しても良い。
なお、ポリープの抽出処理に関しては、上述したポリープの特徴をディープラーニング等で学習したモデルを用いた抽出処理の方式に限るものではない。例えば、プロセッサ2の制御部21は、医師が専門医学知識に基づいてポリープを判定した判定結果を操作入力部23により受け付けても良い。また、プロセッサ2の制御部21は、パターンマッチング等を利用し、内視鏡1から取得した撮影画像の認識を行い、撮影画像からポリープを認識して抽出しても良い。
プロセッサ2の制御部21は、識別した部位ごとに抽出したポリープの数を集計する。制御部21は、撮影画像に基づく内視鏡画像と、集計した集計結果とを表示装置3に出力する。集計結果は、ポリープID、部位ごとのポリープの数及びポリープの累積数を含む。
すなわち上述した処理については、プロセッサ2の制御部21は、内視鏡1により撮影した撮影画像から大腸内の部位を識別する。更に制御部21は、撮影画像からポリープを抽出する。制御部21は、識別した部位ごとに抽出したポリープの数を集計し、内視鏡1から取り込まれた撮影画像に基づく内視鏡画像、及び集計した部位ごとのポリープの数を表示装置3に出力する。この処理流れによって、内視鏡1の先端が盲腸から肛門までから引き出される過程で、制御部21は、内視鏡1の先端が通過した各部位のポリープの集計結果と、内視鏡画像とを同時に表示装置3に表示させる。
図12は、大腸内の部位ごとのポリープ数を集計する際の全体の処理手順を示すフローチャートである。プロセッサ2の制御部21は、内視鏡1から取り込まれた撮影画像に基づいて、盲腸に到達したか否かを判定する(ステップS201)。具体的には、制御部21は、学習済みの部位識別モデル275を用いて、撮影画像を部位識別モデル275に入力し、部位を識別する識別結果を出力する。制御部21は、部位識別モデル275の出力層から出力した識別結果(例えば、部位の確率値等)に基づき、部位を識別する。例えば、盲腸の確率値が所定閾値(例えば、0.85)以上である場合、制御部21は、内視鏡1の先端が盲腸に到達したと判定しても良い。
制御部21は、盲腸に到達していないと判定した場合(ステップS201でNO)、ステップS201に戻る。制御部21は、盲腸に到達したと判定した場合(ステップS201でYES)、内視鏡1の先端が進行方向と逆向きに沿って引き出される際に、制御部21は、部位ごとのポリープの数を集計する処理のサブルーチンを実行する(ステップS202)。なお、ポリープの数の集計処理のサブルーチンに関しては後述する。
制御部21は、学習済みの部位識別モデル275を用いて、撮影画像を部位識別モデル275に入力し、部位を識別する識別結果を出力する。制御部21は、部位識別モデル275の出力層から出力した識別結果に基づいて、肛門に到達したか否かを判定する(ステップS203)。制御部21は、肛門に到達していないと判定した場合(ステップS203でNO)、ステップS202に戻る。制御部21は、肛門に到達したと判定した場合(ステップS203でYES)、処理を終了する。
図13は、部位ごとのポリープの数を集計する処理のサブルーチンの処理手順を示すフローチャートである。プロセッサ2の制御部21は、内視鏡1から転送された撮影画像を取得する(ステップS211)。制御部21は、学習済みのポリープ抽出モデル274を用いて、撮影画像をポリープ抽出モデル274に入力し、ポリープの抽出結果を取得する(ステップS212)。なお、ポリープの抽出処理に関しては、例えば上述したポリープの特徴をディープラーニング等で学習済みのポリープ抽出モデル274を用いて抽出しても良く、またはパターンマッチング等により画像認識を行い、撮影画像からポリープを認識して抽出しても良い。
制御部21は、抽出したポリープに対し、一意に特定されるポリープIDを割り振る(ステップS213)。制御部21は、取得した撮影画像に基づいて、次の部位(例えば、横行結腸等)に到達したか否かを判定する(ステップS214)。制御部21は、次の部位に到達していないと判定した場合(ステップS214でNO)、ステップS211に戻る。制御部21は、次の部位に到達したと判定した場合(ステップS214でYES)、該部位ごとに抽出したポリープ数を集計する(ステップS215)。
制御部21は、ポリープの集計結果を大容量記憶部27の集計DB272及びポリープDB273に記憶する(ステップS216)。具体的には、今回の集計に対する集計IDが存在していない場合、制御部21は集計IDを割り振る。制御部21は、ポリープの集計結果に基づき、割り振った集計IDに対応付け、患者ID、集計日時及び各部位のポリープの数を一つのレコードとして集計DB272に記憶する。また、制御部21はポリープごとに、集計ID、ポリープID、部位、形態、腫瘍性(腫瘍・非腫瘍)、良悪性(良性・悪性)、サイズ及び撮影時刻を一つのレコードとしてポリープDB273に記憶する。なお、集計結果の記憶のタイミングに関しては、上述した各部位の集計処理の直後の時点に限らず、例えば、内視鏡1の先端が肛門管10aに到達し、内視鏡検査が終わる時点に記憶しても良い。
制御部21は、撮影画像に基づく内視鏡画像、及びポリープの集計結果を表示装置3に出力する(ステップS217)。表示装置3は、プロセッサ2から出力された内視鏡画像、及びポリープの集計結果を表示する(ステップS301)。制御部21は、ポリープの数の集計処理のサブルーチンを終了してリターンする。
図14Aは、部位ごとに集計されたポリープの数及び累積数を表示する模式図である。プロセッサ2の制御部21は、内視鏡1から取得した撮影画像から大腸内の部位を識別する。制御部21は、撮影画像からポリープを抽出し、抽出したポリープに対してポリープIDを割り振る。制御部21は、識別した部位ごとにポリープの数を集計し、撮影画像に基づく内視鏡画像及び集計結果を表示装置3に出力する。
図示のように、14a、14b及び14cが抽出されたポリープであり、それぞれのポリープの上方にポリープIDを示すタグが表示されている。なお、ポリープIDに関しては、各ポリープを容易に識別するために設けられ、内視鏡画像に表示されなくても良い。14dは、内視鏡1の先端が到達した大腸内の部位情報(位置情報)を示す現在地インジケータである。制御部21は、撮影画像からポリープが存在する部位を識別し、識別した部位に基づき、該部位と大腸の全部通過ルートとの距離関係を示す現在地情報を表示装置3に出力する。なお、上述した現在地インジケータの表示形式に限らず、例えば現在地を説明する文字の表示形式であっても良い。
14eは、各部位と各部位のポリープの数との関係を示すグラフである。図14Bは、各部位と各部位のポリープの数との関係を示すグラフである。図14Bは、14eの拡大図である。図示のように、上行結腸、横行結腸、下行結腸、S状結腸及び直腸ごとに集計されたポリープの数に基づき、縦棒グラフで各部位の集計結果が表示されている。集計結果は、部位ごとのポリープの数、ポリープの累積数及びポリープの総計数を含む。横軸は部位を示し、縦軸は各部位のポリープの数を示す。また、各部位のポリープの数、及びポリープの総計数がグラフの下方で表示される。14e_1は、大腸内の各部位と、各部位に存在するポリープの累積数との関係を示す折れ線である。なお、集計結果の表示形式に関しては、上述した縦棒グラフに限るものではない。例えば、集計結果を折れ線グラフまたは円グラフで表示しても良い。
<変形例1>
ポリープが存在する部位を更に細かく分割する分割部位ごとに、ポリープの数を集計する処理を説明する。プロセッサ2の制御部21は、ポリープが存在する部位を内視鏡1が通過した所要時間と、抽出したポリープが撮影された時刻とに基づいて、ポリープが存在する分割部位を判定し、判定した分割部位ごとに抽出したポリープの数を集計する。制御部21は、内視鏡画像及び集計した集計結果を表示装置3に出力する。
図15は、変形例1の集計DB272のレコードレイアウトの一例を示す説明図である。なお、図5と重複する内容については同一の符号を付して説明を省略する。図15では、部位が更に細かく分割される。例えば、上行結腸列は、分割された分割部位ごとのポリープの数を記憶している。ポリープが存在する上行結腸を内視鏡1が通過した所要時間と、該ポリープが撮影された時刻とに基づいて、内視鏡1を取り出す方向に沿って、例えば上行結腸が更に三部分に分割される。分割された分割部位ごとのポリープの数(例えば、「3,6,9」)が上行結腸列に記憶されても良い。なお、横行結腸、下行結腸、S状結腸及び直腸列は、上行結腸列に情報が記憶される方式に関しては、上行結腸列と同様であるため、説明を省略する。
以下では、上行結腸を分割部位に分割する例を説明するが、他の部位の分割処理は同様であるため、説明を省略する。プロセッサ2の制御部21は、時計部26を用いて、内視鏡1の先端が盲腸(開始部位)に挿入された時点から計時を開始して、横行結腸(次の部位)に到達した時間に計時を終了する。制御部21は、時計部26により計時した開始時刻及び終了時刻に基づき、内視鏡1の先端が通過した時間を取得する。取得された通過時間は、内視鏡1の先端が上行結腸を通過した所要時間である。制御部21は、上行結腸の通過時間に応じて、上行結腸に対する分割部位を割り当てる。例えば、内視鏡1が上行結腸を通過した所要時間が9秒である場合、プロセッサ2の制御部21は、通過時間によって「0~3秒」、「4~6秒」及び「7~9」秒を含む3段階に、上行結腸を更に細かく分割しても良い。そして、制御部21は、上行結腸から抽出したそれぞれのポリープの撮影時刻に基づき、それぞれのポリープが存在する位置(分割部位)を特定し、割り当てた分割部位ごとにポリープの数を集計する。
図16は、分割部位ごとのポリープの数を集計する処理のサブルーチンの処理手順を示すフローチャートである。なお、図13と重複する内容については同一の符号を付して説明を省略する。
プロセッサ2の制御部21は、時計部26を介して、計時を開始する(ステップS221)。そして、制御部21は、ステップS211~213を実行し、学習済みのポリープ抽出モデル274を用いて、撮影画像をポリープ抽出モデル274に入力し、ポリープを抽出する抽出結果を出力する。ポリープの抽出結果は、抽出したポリープの撮影時刻を含む。制御部21は、ステップS214で内視鏡1の先端が次の部位に到達したと判定した場合、計時を終了する(ステップS222)。
制御部21は、時計部26により計時した開始時刻及び終了時刻に基づき、内視鏡1の先端が該部位を通過した所要時間を取得する(ステップS223)。制御部21は、取得した部位を通過した所要時間に応じて、該部位に対する分割部位を割り当てる(ステップS224)。制御部21は、抽出したそれぞれのポリープの撮影時刻に基づき、それぞれのポリープが存在する位置(分割部位)を特定し(ステップS225)、割り当てた分割部位ごとにポリープの数を集計する(ステップS226)。
図17は、各分割部位と各分割部位のポリープの数との関係を示すグラフである。図17は、図14Bの代わりに、分割部位ごとのポリープの数を示す。なお、図14Bと重複する内容については説明を省略する。図示のように、上行結腸、横行結腸、下行結腸、S状結腸及び直腸それぞれの分割部位ごとに集計されたポリープの数に基づき、縦棒グラフで各分割部位の集計結果が表示されている。集計結果は、分割部位ごとのポリープの数、部位ごとのポリープの数、ポリープの累積数及びポリープの総計数を含む。横軸は部位を示し、縦軸は各部位に対する分割部位ごとのポリープの数を示す。なお、集計結果の表示形式に関しては、上述した縦棒グラフに限るものではない。例えば、集計結果を折れ線グラフまたは円グラフで表示しても良い。
本実施形態によると、大腸用内視鏡の撮影画像から抽出されたポリープを大腸内の部位ごとに自動的に集計するため、ポリープが存在する部位、及び各部位のポリープの数を視覚的に表示する。これにより、医師が患者の大腸内の状況をはっきり把握することが可能となる。
本実施形態によると、大腸内の各部位を更に細かく分割することにより、精度が高いポリープの位置情報を得ることが可能となる。
(実施形態2)
実施形態2は、ポリープが切除された場合、部位ごとに切除済ポリープの数と未切除ポリープの数とをそれぞれ集計する形態に関する。なお、実施形態1と重複する内容については説明を省略する。
大腸ポリープは大腸の粘膜上にイボ状の隆起ができる病気であり、大部分が良性の疾患で、今すぐ身体に害を及ぼすことがないが、徐々に大きくなれば出血等を起こす場合がある。大腸ポリープの一部は、良性の腺腫性ポリープを経て大腸癌になることが知られている。
ポリープの段階である場合、内視鏡1を用いて切除することが可能となる。例えば、ポリープの形態による分類されたポリープが有茎性であり、且つサイズが「20mm以上」である場合、該ポリープに対し、医師が内視鏡1の処置具挿入チャンネル12を通じてスネア等処置具を利用し、ポリープが切除しても良い。具体的には、医師は、処置具挿入チャンネル12からスネアを出し、操作部13により高周波電流を流しながらスネア(輪)を引き絞り、ポリープを完全に根元から切除する。
プロセッサ2の制御部21は、ポリープを切除した撮影画像から、切除されたポリープに関する切除情報を取得して記憶する。なお、切除情報の取得処理に関しては、上述した方式に限らず、例えば医師の手入力によりポリープの切除情報を取得しても良い。切除情報は、切除されたポリープID、切除時刻、切除前後の処置、切除回数等を含む。制御部21は、部位ごとに切除された切除済ポリープの数と未切除ポリープの数とをそれぞれ集計し、集計した集計結果を表示装置3に出力する。
図18は、実施形態2の集計DB272のレコードレイアウトの一例を示す説明図である。なお、図5と重複する内容については同一の符号を付して説明を省略する。上行結腸列は、抽出数列及び切除数列を含む。抽出数列は、上行結腸から抽出されたポリープの数を記憶している。なお、上行結腸が更に細かく分割部位に分割された場合、分割部位ごとのポリープの数が記憶されても良い。切除数列は、切除されたポリープの切除数を記憶している。なお、抽出数列と同様に、分割部位ごとのポリープの切除数が記憶されても良い。
横行結腸は、抽出数列及び切除数列を含む。下行結腸は、抽出数列及び切除数列を含む。S状結腸は、抽出数列及び切除数列を含む。直腸は、抽出数列及び切除数列を含む。なお、上述した各列の構成に関しては、上行結腸列と同様であるため、説明を省略する。
図19は、実施形態2のポリープDB273のレコードレイアウトの一例を示す説明図である。なお、図6と重複する内容については同一の符号を付して説明を省略する。ポリープDB273は、切除状況列、切除前処置列、切除後処置列、切除時刻列及び切除回数列を含む。切除状況列は、抽出されたポリープを切除したか否かの状況を記憶している。例えば、切除状況列に「切除済」、「未切除」等が記憶されても良い。
切除前処置列は、ポリープを切除する前の処置情報を記憶している。例えば、「生理食塩水注入」等が記憶されても良い。ポリープの形態による分類されたポリープが広基性である場合、大腸の粘膜面から茎を持たず扁平に盛り上がる形態であるため、スネアが掛かりにくく、該ポリープを切除することが困難である。この場合に、大腸の粘膜の下に、生理食塩水を注入することで該ポリープを持ち上げ、盛り上がった部分をスネアにより、電流を流して切除することができる。
切除後処置列は、ポリープを切除した後の処置情報を記憶している。例えば、「クリップまたは止血鉗子による止血」、「クリップによる孔の縫縮」等の処置情報が記憶されても良い。切除時刻列は、ポリープを切除した時刻を記憶している。切除回数列は、ポリープを切り取った回数を記憶している。例えば、サイズが大きなポリープに対し、内視鏡1が一回に完全に切り取れない場合、数回に分けてポリープを切り取っても良い。
図20は、分割部位ごとのポリープの抽出数及び切除数を集計する処理のサブルーチンの処理手順を示すフローチャートである。なお、図16と重複する内容については同一の符号を付して説明を省略する。
プロセッサ2の制御部21は、医師が内視鏡1を用いて切除したポリープに関する切除情報を取得する(ステップS231)。制御部21は、分割部位ごとにポリープの抽出数及び切除数を集計し(ステップS232)、集計した集計結果を大容量記憶部27の集計DB272及びポリープDB273に記憶する(ステップS233)。
具体的には、今回の集計に対する集計IDが存在していない場合、制御部21は集計IDを割り振る。制御部21は、ポリープの集計結果に基づき、割り振った集計IDに対応付け、患者ID、集計日時及び各部位のポリープの抽出数及び切除数を一つのレコードとして集計DB272に記憶する。また、制御部21はポリープごとに、集計ID、ポリープID、部位、形態、腫瘍性(腫瘍・非腫瘍)、良悪性(良性・悪性)、サイズ、撮影時刻、切除状況、切除前処置、切除後処置、切除時刻及び切除回数を一つのレコードとしてポリープDB273に記憶する。なお、集計結果の記憶のタイミングに関しては、上述した各部位の集計処理の直後の時点に限らず、例えば、内視鏡1の先端が肛門管10aに到達し、内視鏡検査が終わる時点に記憶しても良い。
図21は、各部位と各部位のポリープの抽出数及び切除数との関係を示すグラフである。図21は、図14Bの代わりに、部位ごとのポリープの抽出数及び切除数を示す。なお、図14Bと重複する内容については説明を省略する。図示のように、上行結腸、横行結腸、下行結腸、S状結腸及び直腸ごとに集計されたポリープの抽出数及び切除数に基づき、縦棒グラフで各部位の集計結果が表示されている。集計結果は、部位ごとのポリープの抽出数、切除数及びポリープの累積数を含む。横軸は部位を示し、黒縦軸は各部位に対する分割部位ごとのポリープの抽出数を示し、白縦軸は、各部位に対する分割部位ごとのポリープの切除数を示す。なお、集計結果の表示形式に関しては、上述した縦棒グラフに限るものではない。例えば、集計結果を折れ線グラフまたは円グラフで表示しても良い。
本実施形態によると、大腸用内視鏡の撮影画像から抽出されたポリープに対し、切除済ポリープの数と未切除ポリープの数とをそれぞれ集計することが可能となる。
(実施形態3)
実施形態3は、内視鏡検査中に行われた操作情報を出力する形態に関する。なお、実施形態1~2と重複する内容については説明を省略する。内視鏡検査中に行われた操作は、通常観察、拡大観察、光を用いる観察を含む。例えば、観察条件1は、拡大の有無を示し、観察条件2は、照明光の種類を示しても良い。
観察条件1の通常観察は、通常のズーム倍率による観察操作である。観察条件1の拡大観察は、ズーム倍率の拡大等の手段を利用する観察操作である。また、拡大観察は、例えば色素の散布と併用しても良い。具体的には、医師が内視鏡1の処置具挿入チャンネル12を通じて、ポリープの表面に0.2%程度の高濃度のインジゴカルミン等の色素を散布する。医師は、例えばズーム倍率を100倍に拡大して観察しても良い。
図22は、実施形態3のポリープDB273のレコードレイアウトの一例を示す説明図である。なお、図19と重複する内容については同一の符号を付して説明を省略する。ポリープDB273は、観察条件1列、観察条件2列、操作時刻列及び備考列を含む。観察条件1列は、通常観察または拡大観察等の観察条件を記憶している。観察条件2列は、光を用いる観察等の観察条件を記憶している。操作時刻列は、観察条件1または観察条件2いずれかに対応する最後の操作時刻を記憶している。備考列は、該ポリープに対する補充説明の内容を記憶している。
図23は、ポリープに対する観察条件を表示する際の処理手順を示すフローチャートである。プロセッサ2の制御部21は、内視鏡1から転送された撮影画像を取得する(ステップS241)。制御部21は、取得した撮影画像からポリープを抽出する(ステップS242)。なお、ポリープの抽出処理に関しては、実施形態1と同様であるため、説明を省略する。
制御部21は、内視鏡画像、ズーム倍率等を含む観察条件1、及び白色光観察か特殊光観察かを含む観察条件2を表示装置3に表示させる(ステップS243)。なお、観察条件1及び観察条件2が、別々に利用されても良く、または組み合わせて利用されても良い。制御部21は、観察条件1及び観察条件2をポリープIDに対応付け、大容量記憶部27のポリープDB273に記憶する(ステップS244)。具体的には、制御部21は、撮影画像中の最も大きいポリープIDに対応付け、観察条件1、観察条件2、操作時刻及び備考を一つのレコードとしてポリープDB273に記憶する。
また、内視鏡検査中に操作が行われたポリープに対応する観察条件を大容量記憶部27のポリープDB273に記憶することができる。具体的には、制御部21はポリープごとに、集計ID、ポリープID、部位、形態、腫瘍性(腫瘍・非腫瘍)、良悪性(良性・悪性)、サイズ、撮影時刻、切除状況、切除前処置、切除後処置、切除時刻、切除回数、観察条件1、観察条件2、操作時刻及び備考を一つのレコードとしてポリープDB273に記憶する。なお、観察条件の記憶処理のタイミングに関しては、実施形態1と同様に、大腸内の各部位の集計処理の直後に記憶しても良く、または内視鏡1の先端が肛門管10aに到達し、内視鏡検査が終わる時点に記憶しても良い。
図24は、内視鏡検査中に行われた操作情報をタブ形式で表示する模式図である。プロセッサ2の制御部21は、内視鏡1により撮影した撮影画像から三つのポリープを抽出した。制御部21は、抽出した各のポリープに対し、良悪性情報を取得する。なお、良悪性の判定処理に関しては、例えばポリープ抽出モデル274を用いて、良悪性の確率値を取得し、取得した確率値に応じて良悪性を判定しても良い。制御部21は、観察条件1及び観察条件2を取得し、取得した良悪性、観察条件1及び観察条件2を表示装置3に出力する。
図示のように、表示装置3は、プロセッサ2から出力された良悪性、観察条件1及び観察条件2を、ポリープの上方にタグ形式で表示している。ポリープに付くタグは、良悪性、観察条件1及び観察条件2を含む。例えば、良性がB(Benign)で示され、悪性がM(Malignant)で示され、未判定がU(Undefined)で示されている。通常観察がN(Normal)で示され、拡大観察がM(Magnified)で示されている。白色光観察がW(White)で示され、特殊光観察がS(Special)で示されている。
なお、観察条件に関しては、上述した観察条件に限るものではない。例えば、ポリープのタグは、点滅により良悪性の判定状態を表示しても良い。表示装置3は、判定済のポリープのタグに対して点滅なしでそのまま表示し、未判定のポリープのタグに対して点滅で表示する。また、良悪性の確率値に応じて、確実性は枠で表示しても良い。例えば、悪性の確実性が高いポリープのタグは、太枠で表示しても良い。悪性の確実性が低いポリープのタグは、細枠で表示しても良い。更にまた、例えば、良悪のポリープであるが、サイズが大きいため、切除を推奨する場合、表示装置3は速い点滅で表示しても良い。
本実施形態によると、撮影画像から抽出されたポリープに対する観察条件等を示すタグを表示することにより、医師の診断の補助となり、ポリープの見落とし、または切除漏れ等を防止することが可能となる。
(実施形態4)
実施形態4は、同じ患者に対する過去の集計結果と、今回の集計結果とを同時に出力する形態に関する。なお、実施形態1~3と重複する内容については説明を省略する。プロセッサ2の制御部21は、患者ID及び集計日時に基づいて大容量記憶部27の集計DB272から、過去の集計結果及び今回の集計結果を取得することができる。制御部21は、取得した過去の集計結果及び今回の集計結果を表示装置3に出力する。
図25は、部位ごとにポリープの抽出数と前回抽出数とを同時に表示するグラフである。プロセッサ2の制御部21は、部位ごとにポリープの数を集計した後に、患者ID及び集計日時に基づいて大容量記憶部27の集計DB272から、前回の集計結果を取得する。制御部21は、今回の集計結果、及び取得した前回の集計結果をグラフ形式で表示装置3に出力する。表示装置3は、プロセッサ2から出力された今回の集計結果及び前回の集計結果を表示する。
図示のように、今回に集計された部位ごとのポリープの数の分布は実線の折れ線で示し、前回に集計された部位ごとのポリープの数の分布は破線の折れ線で示す。今回に集計されたポリープの数と前回に集計されたポリープの数との差の分布は実点で示す。また、今回に集計された部位ごとのポリープの数、前回に集計された部位ごとのポリープの数、今回に集計されたポリープの総計数、及び今回に集計されたポリープの総計数と前回に集計されたポリープの総計数の差がグラフの下方に表示される。なお、上述した表示形式に限らず、例えば縦棒グラフで表示しても良い。
本実施形態によると、各患者に対する過去の集計結果と今回の集計結果を同時に出力することにより、今までのポリープの進行状況、及び今後のポリープの進行予測等の情報を提供することが可能となる。
(実施形態5)
図26は、上述した形態のプロセッサ2の動作を示す機能ブロック図である。制御部21が制御プログラム2Pを実行することにより、プロセッサ2は以下のように動作する。
画像取得部20aは、内視鏡1から撮影画像を取得する。ポリープ抽出部20bは、画像取得部20aが取得した撮影画像からポリープを抽出する。部位識別部20cは、ポリープ抽出部20bが抽出したポリープが存在する大腸内の部位を識別する。集計部20dは、部位識別部20cが識別した部位ごとに、ポリープ抽出部20bが抽出したポリープの数を集計する。出力部20eは、画像取得部20aが取得した撮影画像に基づく内視鏡画像と、集計部20dが集計した集計結果とを出力する。ポリープ分類部20fは、ポリープ抽出部20bが抽出したポリープを分類する。切除記録部20gは、ポリープが切除されたか否かを記録する。操作記録部20hは、内視鏡検査中に行なわれた操作と操作時刻とを関連づけて記録する。
本実施の形態5は以上の如きであり、その他は実施の形態1から4と同様であるので、対応する部分には同一の符号を付してその詳細な説明を省略する。
今回開示された実施形態はすべての点で例示であって、制限的なものではないと考えられるべきである。本発明の範囲は、上記した意味ではなく、請求の範囲によって示され、請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。
1 大腸用内視鏡(内視鏡)
11 撮像素子
12 処置具挿入チャンネル
13 操作部
14 コネクタ
2 内視鏡用プロセッサ(プロセッサ)
21 制御部
22 記憶部
23 操作入力部
24 出力部
25 光源制御部
26 時計部
27 大容量記憶部
271 患者DB
272 集計DB
273 ポリープDB
274 ポリープ抽出モデル
74a 領域候補抽出部
74b 分類部
275 部位識別モデル
28 光源
29 読取部
2a 可搬型記憶媒体
2b 半導体メモリ
2P 制御プログラム
3 表示装置
10a 肛門管
10b 直腸
10c 状結腸
10d 下行結腸
10e 横行結腸
10f 上行結腸
10g 盲腸
20a 画像取得部
20b ポリープ抽出部
20c 部位識別部
20d 集計部
20e 出力部
20f ポリープ分類部
20g 切除記録部
20h 操作記録部

Claims (12)

  1. 大腸用内視鏡から撮影画像を取得する画像取得部と、
    前記画像取得部が取得した撮影画像に基づいて、大腸内の部位を識別する部位識別部と、
    前記撮影画像からポリープを抽出するポリープ抽出部と、
    前記ポリープが存在する部位を大腸用内視鏡が通過した所要時間と、前記ポリープが撮影された時刻とに基づいて、前記部位識別部が識別した大腸内の部位を複数の分割部位に分割する分割部と、
    前記分割部が分割した分割部位ごとに、前記ポリープ抽出部が抽出した前記ポリープの数を集計する第1集計部と、
    前記ポリープが切除されたか否かを記録する切除記録部と、
    前記分割部が分割した分割部位ごとに、前記切除記録部に記録された切除済ポリープと未切除ポリープとをそれぞれ集計する第2集計部と、
    前記分割部位と、前記分割部位ごとに前記第1集計部が集計したポリープの数と、前記分割部位ごとに前記第2集計部が集計した切除済ポリープの数と、前記分割部位に存在するポリープの累積数との関係を示すグラフを生成する生成部と、
    前記大腸用内視鏡の先端が大腸の奥から引き出される進行方向に沿って、前記撮影画像に基づく内視鏡画像と、前記生成部が生成したグラフ、及び前記先端が到達した大腸内の部位を示す現在地インジケータとを出力する出力部と、
    前記出力部が出力した内視鏡画像、グラフ及び現在地インジケータを表示装置に表示させる表示制御部と
    を備える内視鏡用プロセッサ。
  2. 前記部位識別部は、盲腸、上行結腸、横行結腸、下行結腸、S字状結腸および直腸のいずれの部位であるかを識別する
    請求項1に記載の内視鏡用プロセッサ。
  3. 前記ポリープを分類するポリープ分類部を備え、
    前記第1集計部は、前記部位識別部が識別した部位ごとに前記ポリープの数を集計する
    請求項1または請求項2に記載の内視鏡用プロセッサ。
  4. 内視鏡検査中に行なわれた色素散布を含む操作と操作時刻とを関連付けて記録する操作記録部を備え、
    前記出力部は、前記第1集計部が集計した集計結果に関連付けて前記操作記録部に記録された操作を出力する
    請求項1から請求項3のいずれか一つに記載の内視鏡用プロセッサ。
  5. 前記出力部は、
    前記撮影画像に基づく内視鏡画像と、前記第1集計部が集計した大腸内の部位と前記ポリープの数との関係を示すグラフとを1つの画面にして出力する
    請求項1から請求項4のいずれか一つに記載の内視鏡用プロセッサ。
  6. 前記グラフは、大腸内の部位と、前記ポリープの数および前記ポリープの累積数との関係を示す
    請求項5に記載の内視鏡用プロセッサ。
  7. 前記出力部は、前記内視鏡画像に重畳して、前記ポリープを示すタグを表示する
    請求項1から請求項6のいずれか一つに記載の内視鏡用プロセッサ。
  8. 過去の大腸内視鏡検査において前記第1集計部が集計した過去集計結果を取得する過去取得部を備え、
    前記出力部は、前記内視鏡画像と、前記第1集計部が集計した集計結果と、前記過去取得部が取得した過去集計結果とを出力する
    請求項1から請求項7のいずれか一つに記載の内視鏡用プロセッサ。
  9. 大腸用内視鏡から撮影画像を取得する画像取得部と、
    前記画像取得部が取得した撮影画像に基づいて、大腸内の部位を識別する部位識別部と、
    前記撮影画像からポリープを抽出するポリープ抽出部と、
    前記ポリープが存在する部位を大腸用内視鏡が通過した所要時間と、前記ポリープが撮影された時刻とに基づいて、前記部位識別部が識別した大腸内の部位を複数の分割部位に分割する分割部と、
    前記分割部が分割した分割部位ごとに、前記ポリープ抽出部が抽出した前記ポリープの数を集計する第1集計部と、
    前記ポリープが切除されたか否かを記録する切除記録部と、
    前記分割部が分割した分割部位ごとに、前記切除記録部に記録された切除済ポリープと未切除ポリープとをそれぞれ集計する第2集計部と、
    前記分割部位と、前記分割部位ごとに前記第1集計部が集計したポリープの数と、前記分割部位ごとに前記第2集計部が集計した切除済ポリープの数と、前記分割部位に存在するポリープの累積数との関係を示すグラフを生成する生成部と、
    前記大腸用内視鏡の先端が大腸の奥から引き出される進行方向に沿って、前記撮影画像に基づく内視鏡画像と、前記生成部が生成したグラフ、及び前記先端が到達した大腸内の部位を示す現在地インジケータとを出力する出力部と、
    前記出力部が出力した内視鏡画像、グラフ及び現在地インジケータを表示装置に表示させる表示制御部と
    を備える情報処理装置。
  10. 内視鏡用プロセッサと、前記内視鏡用プロセッサに接続される大腸用内視鏡とを備える内視鏡システムにおいて、
    前記内視鏡用プロセッサは、
    大腸用内視鏡から撮影画像を取得する画像取得部と、
    前記画像取得部が取得した撮影画像に基づいて、大腸内の部位を識別する部位識別部と、
    前記撮影画像からポリープを抽出するポリープ抽出部と、
    前記ポリープが存在する部位を大腸用内視鏡が通過した所要時間と、前記ポリープが撮影された時刻とに基づいて、前記部位識別部が識別した大腸内の部位を複数の分割部位に分割する分割部と、
    前記分割部が分割した分割部位ごとに、前記ポリープ抽出部が抽出した前記ポリープの数を集計する第1集計部と、
    前記ポリープが切除されたか否かを記録する切除記録部と、
    前記分割部が分割した分割部位ごとに、前記切除記録部に記録された切除済ポリープと未切除ポリープとをそれぞれ集計する第2集計部と、
    前記分割部位と、前記分割部位ごとに前記第1集計部が集計したポリープの数と、前記分割部位ごとに前記第2集計部が集計した切除済ポリープの数と、前記分割部位に存在するポリープの累積数との関係を示すグラフを生成する生成部と、
    前記大腸用内視鏡の先端が大腸の奥から引き出される進行方向に沿って、前記撮影画像に基づく内視鏡画像と、前記生成部が生成したグラフ、及び前記先端が到達した大腸内の部位を示す現在地インジケータとを出力する出力部と、
    前記出力部が出力した内視鏡画像、グラフ及び現在地インジケータを表示装置に表示させる表示制御部と
    を有する内視鏡システム。
  11. 大腸用内視鏡から撮影画像を取得し、
    取得した撮影画像に基づいて、大腸内の部位を識別し、
    前記撮影画像からポリープを抽出し、
    前記ポリープが存在する部位を大腸用内視鏡が通過した所要時間と、前記ポリープが撮影された時刻とに基づいて、識別した大腸内の部位を複数の分割部位に分割し、
    分割した分割部位ごとに、抽出した前記ポリープの数を集計し、
    前記ポリープが切除されたか否かを記録し、
    前記分割部位ごとに、記録した切除済ポリープと未切除ポリープとをそれぞれ集計し、 前記分割部位と、前記分割部位ごとに集計したポリープの数と、前記分割部位ごとに集計した切除済ポリープの数と、前記分割部位に存在するポリープの累積数との関係を示すグラフを生成し、
    前記大腸用内視鏡の先端が大腸の奥から引き出される進行方向に沿って、前記撮影画像に基づく内視鏡画像と、生成したグラフ、及び前記先端が到達した大腸内の部位を示す現在地インジケータとを出力し、
    出力した内視鏡画像、グラフ及び現在地インジケータを表示装置に表示させる
    処理をコンピュータに実行させるプログラム。
  12. 大腸用内視鏡から撮影画像を取得し、
    取得した撮影画像に基づいて、大腸内の部位を識別し、
    前記撮影画像からポリープを抽出し、
    前記ポリープが存在する部位を大腸用内視鏡が通過した所要時間と、前記ポリープが撮影された時刻とに基づいて、識別した大腸内の部位を複数の分割部位に分割し、
    分割した分割部位ごとに、抽出した前記ポリープの数を集計し、
    前記ポリープが切除されたか否かを記録し、
    前記分割部位ごとに、記録した切除済ポリープと未切除ポリープとをそれぞれ集計し、
    前記分割部位と、前記分割部位ごとに集計したポリープの数と、前記分割部位ごとに集計した切除済ポリープの数と、前記分割部位に存在するポリープの累積数との関係を示すグラフを生成し、
    前記大腸用内視鏡の先端が大腸の奥から引き出される進行方向に沿って、前記撮影画像に基づく内視鏡画像と、生成したグラフ、及び前記先端が到達した大腸内の部位を示す現在地インジケータとを出力し、
    出力した内視鏡画像、グラフ及び現在地インジケータを表示装置に表示させる
    処理をコンピュータに実行させる情報処理方法。
JP2020199711A 2020-12-01 2020-12-01 内視鏡用プロセッサ、情報処理装置、内視鏡システム、プログラム及び情報処理方法 Active JP7154274B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020199711A JP7154274B2 (ja) 2020-12-01 2020-12-01 内視鏡用プロセッサ、情報処理装置、内視鏡システム、プログラム及び情報処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020199711A JP7154274B2 (ja) 2020-12-01 2020-12-01 内視鏡用プロセッサ、情報処理装置、内視鏡システム、プログラム及び情報処理方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2019545389A Division JP6883662B2 (ja) 2019-03-27 2019-03-27 内視鏡用プロセッサ、情報処理装置、内視鏡システム、プログラム及び情報処理方法

Publications (2)

Publication Number Publication Date
JP2021037356A JP2021037356A (ja) 2021-03-11
JP7154274B2 true JP7154274B2 (ja) 2022-10-17

Family

ID=74847815

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020199711A Active JP7154274B2 (ja) 2020-12-01 2020-12-01 内視鏡用プロセッサ、情報処理装置、内視鏡システム、プログラム及び情報処理方法

Country Status (1)

Country Link
JP (1) JP7154274B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114782388A (zh) * 2022-04-29 2022-07-22 小荷医疗器械(海南)有限公司 基于图像识别的内窥镜进退镜时间确定方法及装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011156203A (ja) 2010-02-02 2011-08-18 Olympus Corp 画像処理装置、内視鏡システム、プログラム及び画像処理方法
JP2014018333A (ja) 2012-07-17 2014-02-03 Hoya Corp 画像処理装置及び内視鏡装置
WO2018179991A1 (ja) 2017-03-30 2018-10-04 富士フイルム株式会社 内視鏡システム及びその作動方法
WO2019016912A1 (ja) 2017-07-20 2019-01-24 オリンパス株式会社 診断支援装置、診断支援方法及びプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011156203A (ja) 2010-02-02 2011-08-18 Olympus Corp 画像処理装置、内視鏡システム、プログラム及び画像処理方法
JP2014018333A (ja) 2012-07-17 2014-02-03 Hoya Corp 画像処理装置及び内視鏡装置
WO2018179991A1 (ja) 2017-03-30 2018-10-04 富士フイルム株式会社 内視鏡システム及びその作動方法
WO2019016912A1 (ja) 2017-07-20 2019-01-24 オリンパス株式会社 診断支援装置、診断支援方法及びプログラム

Also Published As

Publication number Publication date
JP2021037356A (ja) 2021-03-11

Similar Documents

Publication Publication Date Title
JP6883662B2 (ja) 内視鏡用プロセッサ、情報処理装置、内視鏡システム、プログラム及び情報処理方法
JP7335552B2 (ja) 画像診断支援装置、学習済みモデル、画像診断支援装置の作動方法および画像診断支援プログラム
JP7170032B2 (ja) 画像処理装置、内視鏡システム、及び画像処理方法
WO2020017212A1 (ja) 内視鏡システム
JP2019520916A (ja) 対象の消化管における粘膜疾患の評価及び監視のためのシステム及び方法
WO2018211674A1 (ja) 画像処理装置、画像処理方法およびプログラム
JP6952214B2 (ja) 内視鏡用プロセッサ、情報処理装置、内視鏡システム、プログラム及び情報処理方法
WO2021075418A1 (ja) 画像処理方法、教師データ生成方法、学習済みモデル生成方法、発病予測方法、画像処理装置、画像処理プログラム、およびそのプログラムを記録した記録媒体
WO2009009175A2 (en) Spectral imaging device for hirschsprung's disease
JPWO2020188682A1 (ja) 診断支援装置、診断支援方法及びプログラム
WO2021029292A1 (ja) 画像診断支援装置、内視鏡システム、画像診断支援方法、及び画像診断支援プログラム
JP7154274B2 (ja) 内視鏡用プロセッサ、情報処理装置、内視鏡システム、プログラム及び情報処理方法
JP2007307395A (ja) 画像表示装置、画像表示方法および画像表示プログラム
JP6824868B2 (ja) 画像解析装置及び画像解析方法
JPWO2020039931A1 (ja) 内視鏡システム及び医療画像処理システム
JP7162744B2 (ja) 内視鏡用プロセッサ、内視鏡システム、情報処理装置、プログラム及び情報処理方法
JP2007307396A (ja) 画像表示装置、画像表示方法および画像表示プログラム
JP7289241B2 (ja) ファイリング装置、ファイリング方法及びプログラム
Liedlgruber et al. A summary of research targeted at computer-aided decision support in endoscopy of the gastrointestinal tract
JP2013048646A (ja) 診断システム
JP2007307397A (ja) 画像表示装置、画像表示方法および画像表示プログラム
WO2023042273A1 (ja) 画像処理装置、画像処理方法及び記憶媒体
Li et al. Tumor CE image classification using SVM-based feature selection
JP7116849B2 (ja) 内視鏡用プロセッサ、内視鏡システム、情報処理装置、プログラム及び情報処理方法
JP7470776B2 (ja) 内視鏡システム、制御方法、及び制御プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201201

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210930

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211012

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220419

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220527

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220920

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221004

R150 Certificate of patent or registration of utility model

Ref document number: 7154274

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150