JP6425868B1 - 内視鏡画像観察支援システム、内視鏡画像観察支援装置、内視鏡画像観察支援方法 - Google Patents
内視鏡画像観察支援システム、内視鏡画像観察支援装置、内視鏡画像観察支援方法 Download PDFInfo
- Publication number
- JP6425868B1 JP6425868B1 JP2018549366A JP2018549366A JP6425868B1 JP 6425868 B1 JP6425868 B1 JP 6425868B1 JP 2018549366 A JP2018549366 A JP 2018549366A JP 2018549366 A JP2018549366 A JP 2018549366A JP 6425868 B1 JP6425868 B1 JP 6425868B1
- Authority
- JP
- Japan
- Prior art keywords
- image
- images
- endoscopic
- unit
- clusters
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 30
- 239000002775 capsule Substances 0.000 claims abstract description 30
- 210000000813 small intestine Anatomy 0.000 claims description 34
- 210000002784 stomach Anatomy 0.000 claims description 25
- 210000002429 large intestine Anatomy 0.000 claims description 23
- 239000013598 vector Substances 0.000 claims description 22
- 238000003384 imaging method Methods 0.000 claims description 21
- 230000001174 ascending effect Effects 0.000 claims description 2
- 238000007906 compression Methods 0.000 description 18
- 230000006835 compression Effects 0.000 description 17
- 230000004048 modification Effects 0.000 description 15
- 238000012986 modification Methods 0.000 description 15
- 230000002441 reversible effect Effects 0.000 description 14
- 238000004458 analytical method Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 10
- 210000001035 gastrointestinal tract Anatomy 0.000 description 8
- 238000001839 endoscopy Methods 0.000 description 7
- 238000003745 diagnosis Methods 0.000 description 5
- 238000010191 image analysis Methods 0.000 description 5
- 230000003902 lesion Effects 0.000 description 5
- 208000032843 Hemorrhage Diseases 0.000 description 4
- 238000004904 shortening Methods 0.000 description 4
- 230000002123 temporal effect Effects 0.000 description 4
- 230000000740 bleeding effect Effects 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 239000000470 constituent Substances 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000012706 support-vector machine Methods 0.000 description 2
- 210000001015 abdomen Anatomy 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000012447 hatching Effects 0.000 description 1
- 238000001727 in vivo Methods 0.000 description 1
- 230000002427 irreversible effect Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
Images
Landscapes
- Endoscopes (AREA)
Abstract
Description
図1は、第1の実施の形態にかかるカプセル内視鏡の画像観察支援システムの概要を説明するための図である。内視鏡画像観察支援システム1は、読影者によるカプセル内視鏡画像の観察を支援する。通常の内視鏡を使用した検査では、医師が患者体内に挿入した内視鏡により撮影される画像をディスプレイでリアルタイムに観察して診断を行うが、カプセル内視鏡検査は、読影者がカプセル内視鏡により過去に撮影された大量の画像をまとめて観察する点で、通常の内視鏡検査と異なる。
(第1再生モード)
第1再生モードは、端末装置20に接続されたユーザインタフェースの操作を利用した手動再生モードである。第1再生モードでは、ユーザがマウスのホイールを回転させることで、内視鏡画像を1枚ずつコマ送り表示させることができる。そのため第1再生モードは、病変を撮影した複数枚の画像のなかで最も鮮明に病変を撮影した画像を特定する際に利用される。ユーザがホイールを奥向きに回転させると、内視鏡画像は順方向(撮影時刻の古い画像から新しい画像に向かう方向)に連続再生表示され、ユーザがホイールを手前向きに回転させると、内視鏡画像は逆方向(撮影時刻の新しい画像から古い画像に向かう方向)に連続再生表示される。
第2再生モードは、設定された再生速度で内視鏡画像を順方向または逆方向に連続再生表示する自動再生モードである。第2再生モードは、通常の内視鏡画像観察に利用される。
第3再生モードは、画像要約処理により特定された基準画像を設定された再生速度で順方向または逆方向に連続再生表示しつつ、類似画像を、設定された再生速度よりも高速で順方向または逆方向に連続再生表示する自動再生モードである。第3再生モードは、基準画像に対して変化の小さい類似画像を高速再生することで、第2再生モードと比べて観察時間の短縮を実現する。
第4再生モードは、画像要約処理により特定された類似画像の表示を省略して、設定された再生速度で基準画像のみを順方向または逆方向に再生表示する自動再生モードである。第4再生モードは、類似画像の表示を省略することで、第3再生モードと比べて観察時間の短縮を実現する。なお第4再生モードに対して、裏モードである第4裏再生モードが設定されてよい。第4裏再生モードは、基準画像の表示を省略して、設定された再生速度で類似画像のみを順方向または逆方向に再生表示する自動再生モードである。第4裏再生モードは、第4再生モードでの観察後に、観察漏れのないことを確認するために利用される。
赤み判定部34は、赤みを帯びた内視鏡RAW画像を画像解析により探索し、赤みが所定の閾値より強い画像を特定する。赤み判定部34は、特定した赤み画像の画像IDを、圧縮処理部40に提供する。
画像要約処理部36は、全ての内視鏡画像を、基準画像と、基準画像に類似する類似画像とに分類する画像要約処理を実施する。まず画像要約処理部36は、最初に撮影された画像を基準画像として設定する。画像要約処理部36は、基準画像の次に撮影された判定対象画像が基準画像に類似しているか否かの類似判定を実施する。画像要約処理部36は、判定対象画像において、基準画像を変形した変形画像が含まれる被覆領域を求め、判定対象画像に占める被覆領域の割合を被覆率として算出する。
体内部位の境界の撮影位置をタイムバー上にランドマークとして設定することは、読影者が、部位毎の撮影画像の範囲を認識できるようになるため、特定の部位画像を診断する際に都合がよい。カプセル内視鏡3は、胃、小腸、大腸の各消化管内部を撮影するが、読影者が小腸の撮影画像のみを観察する場合、胃と小腸の境界の画像の撮影位置と、小腸と大腸の境界の画像の撮影位置とを画像診断の前にタイムバーにランドマークとして設定しておけば、小腸の撮影画像の範囲を容易に認識できるようになる。そこで候補画像特定部38は、読影者が体内部位の境界を容易に探し出すことが可能となるように、複数の内視鏡画像の中から、体内の部位の境界を撮影した可能性のある候補画像を特定する処理を、読影者による画像観察の前に実施する。
判別確度=(胃の内視鏡画像である確度,小腸の内視鏡画像である確度,大腸の内視鏡画像である確度)
赤み判定部34、画像要約処理部36および候補画像特定部38による画像解析処理は、圧縮処理部40による内視鏡RAW画像の圧縮処理の際に実施される。圧縮処理部40は、内視鏡RAW画像に非可逆の圧縮処理を施して、画像IDおよび撮影時刻情報を付加した画像ファイルを生成し、内視鏡画像記録部60に記録する。たとえば圧縮処理部40は、JPEGなどの画像フォーマットで内視鏡RAW画像を圧縮してよい。
ユーザである医師Bは、端末装置20にユーザIDおよびパスワードを入力してログインする。ユーザがログインすると、管理サーバ10が検査情報記録部62に記録された検査情報を端末装置20に提供し、表示装置22には、カプセル内視鏡検査の一覧が表示される。検査一覧画面には、患者ID、患者氏名、検査ID、検査日時などの検査情報が表示され、ユーザは、読影レポート作成の対象となる検査を選択する。検査一覧から患者IDが「1111」、患者氏名「A」、検査IDが「0001」の検査が選択されると、表示制御部42は、ユーザが内視鏡画像を読影するための読影画面を生成して、表示装置22に表示させる。
図10は、候補画像特定処理のフローチャートを示す。図10は、第1の実施の形態の図3に対応する。第1の実施の形態に係る内視鏡画像観察支援システム1との主な違いは、候補画像特定部38による処理である。以下、第1の実施の形態に係る内視鏡画像観察支援システム1との違いを中心に説明する。
図11は、第3の実施の形態に係る内視鏡画像観察支援システムの管理サーバ10および記録装置12の構成を示す。図11は、第1の実施の形態の図2に対応する。第1の実施の形態に係る内視鏡画像観察支援システム1との主な違いは、候補画像特定部38による処理である。以下、第1の実施の形態に係る内視鏡画像観察支援システム1との違いを中心に説明する。
図12は、変形例に係る内視鏡画像観察支援システムの概要を説明するための図である。図12は、第1の実施の形態の図1に対応する。本変形例では、内視鏡画像観察支援システム1は、クラウドサーバ14をさらに備える。クラウドサーバ14は、クラウドサービス事業者が提供するサーバである。
変形例1では、クラウドサーバ14が候補画像特定部38のすべての機能を有する場合について説明した。クラウドサーバ14は、候補画像特定部38の一部の機能だけを有してもよい。図14は、別の変形例に係る内視鏡画像観察支援システムの管理サーバ10、記録装置12およびクラウドサーバ14の構成を示す図である。管理サーバ10の画像処理部32の候補画像特定部38は、分類部52および特定部54を有する。クラウドサーバ14は判別部50を有する。すなわち、本変形例では、管理サーバ10の画像処理部32の候補画像特定部38が判別部50の機能を有しない代わりに、クラウドサーバ14が画像処理部32判別部50の機能を有する。判別部50は、記録装置12に一次記憶された内視鏡RAW画像に対して、判別確度を出力する処理を実施する。判別部50は、出力した判別確度を、管理サーバ10の候補画像特定部38に提供する。
Claims (15)
- カプセル内視鏡により撮影された複数の画像の観察を支援する観察支援システムであって、
前記複数の画像のそれぞれについて、判別対象の部位の画像である確度を示す判別確度を出力する判別部と、
前記判別確度に基づいて、前記複数の画像を複数のクラスタに分類する分類部と、
前記複数のクラスタの分類に基づいて、前記複数の画像の中から前記部位の境界の候補画像を特定する特定部と、
を備えることを特徴とする内視鏡画像観察支援システム。 - 前記分類部は、前記複数の画像を、第1クラスタと、前記第1クラスタとは異なる第2クラスタと、に分類し、
前記特定部は、前記第1クラスタを前記判別対象の部位の画像が分類されたクラスタであると特定した場合、前記第2クラスタに分類された画像を前記候補画像として特定する、
ことを特徴とする請求項1に記載の内視鏡画像観察支援システム。 - 前記判別対象の部位がL個(Lは1以上の整数)であるとき、
前記分類部は、前記複数の画像を(L+1)個以上のクラスタに分類する、
ことを特徴とする請求項1に記載の内視鏡画像観察支援システム。 - 前記判別対象の部位が複数個であるとき、
前記判別部は、前記複数の画像のそれぞれについて、前記複数の判別対象の部位のそれぞれの画像である確度を成分に含むベクトルを判別確度として出力し、
前記特定部は、
前記複数のクラスタのそれぞれについて、分類された1以上の画像の判別確度を代表する代表ベクトルを特定し、
前記複数のクラスタのうち、前記代表ベクトルと前記複数の判別対象の部位のうちの或る部位に対応する標準基底ベクトルとの内積が最大になるクラスタを、その部位の画像が分類されたクラスタとして特定する、
ことを特徴とする請求項1に記載の内視鏡画像観察支援システム。 - 前記判別対象の部位が複数個であるとき、
前記判別部は、前記複数の画像のそれぞれについて、前記複数の判別対象の部位のそれぞれの画像である確度を成分に含むベクトルを判別確度として出力し、
前記特定部は、
前記複数のクラスタのそれぞれについて、分類された1以上の画像の判別確度を代表する代表ベクトルを特定し、
前記複数のクラスタのうち、前記代表ベクトルと前記複数の判別対象の部位のそれぞれに対応する各標準基底ベクトルとの内積の合計が小さいものから順に所定数のクラスタを、前記候補画像が分類されたクラスタとして特定する、
ことを特徴とする請求項1に記載の内視鏡画像観察支援システム。 - 前記複数の画像のそれぞれの撮影開始時刻からの相対的な時間情報および判別確度に基づいて、前記複数の画像を前記複数のクラスタに分類することを特徴とする請求項1に記載の内視鏡画像観察支援システム。
- 前記判別部は、前記複数の画像のそれぞれについて、少なくとも胃、小腸、大腸のいずれかの画像である確度を示す判別確度を出力することを特徴とする請求項1に記載の内視鏡画像観察支援システム。
- 前記特定部により特定された前記候補画像に関する情報を表示部に表示させる表示制御部をさらに備えることを特徴とする請求項1に記載の内視鏡画像観察支援システム。
- 前記表示制御部は、前記特定部により特定された前記候補画像を表示部に一覧表示させることを特徴とする請求項8に記載の内視鏡画像観察支援システム。
- 前記表示制御部は、一端を撮影開始時刻、他端を撮影終了時刻とするタイムバーを表示するとともに、前記候補画像に対応する指標をタイムバーに対応付けて表示させることを特徴とする請求項8に記載の内視鏡画像観察支援システム。
- 前記表示制御部は、各撮影時刻における画像が、所定部位の画像または前記候補画像であることを表示するバーを、画像の撮影時刻に対応付けて表示させることを特徴とする請求項8に記載の内視鏡画像観察支援システム。
- カプセル内視鏡により撮影された複数の画像のそれぞれについて出力された判別対象の部位の前記画像である確度を示す判別確度に基づいて、前記複数の画像が複数のクラスタに分類され、前記複数のクラスタの分類に基づいて前記複数の画像の中から特定された部位の境界の候補画像に関する情報を、表示部に表示させる表示制御部を備えることを特徴とする内視鏡画像観察支援装置。
- カプセル内視鏡により撮影された複数の画像のそれぞれについて出力された判別対象の部位の画像である確度を示す判別確度に基づいて、前記複数の画像が複数のクラスタに分類され、表示部に表示させるために、前記複数のクラスタの分類に基づいて前記複数の画像の中から部位の境界の候補画像を特定する特定部を備えることを特徴とする内視鏡画像観察支援装置。
- カプセル内視鏡により撮影された複数の画像のそれぞれについて、判別対象の部位の画像である確度を示す判別確度を出力するステップと、
前記判別確度に基づいて、前記複数の画像を複数のクラスタに分類するステップと、
前記複数のクラスタの分類に基づいて、前記複数の画像の中から部位の境界の候補画像を特定するステップと、
を含むことを特徴とする内視鏡画像観察支援方法。 - カプセル内視鏡により撮影された複数の画像のそれぞれについて、判別対象の部位の画像である確度を示す判別確度を出力する機能と、
前記判別確度に基づいて、前記複数の画像を複数のクラスタに分類する機能と、
前記複数のクラスタの分類に基づいて、前記複数の画像の中から部位の境界の候補画像を特定する機能と、
をコンピュータに実行させることを特徴とする内視鏡画像観察支援プログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017191730 | 2017-09-29 | ||
JP2017191730 | 2017-09-29 | ||
PCT/JP2018/021598 WO2019064704A1 (ja) | 2017-09-29 | 2018-06-05 | 内視鏡画像観察支援システム、内視鏡画像観察支援装置、内視鏡画像観察支援方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6425868B1 true JP6425868B1 (ja) | 2018-11-21 |
JPWO2019064704A1 JPWO2019064704A1 (ja) | 2019-11-14 |
Family
ID=64379176
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018549366A Active JP6425868B1 (ja) | 2017-09-29 | 2018-06-05 | 内視鏡画像観察支援システム、内視鏡画像観察支援装置、内視鏡画像観察支援方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6425868B1 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113011418A (zh) * | 2021-02-09 | 2021-06-22 | 杭州海康慧影科技有限公司 | 确定图像中待处理区域的方法、装置、设备 |
WO2023135816A1 (ja) * | 2022-01-17 | 2023-07-20 | オリンパスメディカルシステムズ株式会社 | 医療支援システムおよび医療支援方法 |
US12059125B2 (en) | 2018-10-19 | 2024-08-13 | Given Imaging Ltd. | Systems and methods for generating and displaying a study of a stream of in-vivo images |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20040225223A1 (en) * | 2003-04-25 | 2004-11-11 | Olympus Corporation | Image display apparatus, image display method, and computer program |
US20110032259A1 (en) * | 2009-06-09 | 2011-02-10 | Intromedic Co., Ltd. | Method of displaying images obtained from an in-vivo imaging device and apparatus using same |
WO2012063623A1 (ja) * | 2010-11-08 | 2012-05-18 | オリンパスメディカルシステムズ株式会社 | 画像表示装置及びカプセル型内視鏡システム |
US20130152020A1 (en) * | 2011-03-30 | 2013-06-13 | Olympus Medical Systems Corp. | Image management apparatus, method, and computer-readable recording medium and capsule endoscope system |
JP2015112431A (ja) * | 2013-12-13 | 2015-06-22 | オリンパスメディカルシステムズ株式会社 | 画像表示装置、画像表示方法、及び画像表示プログラム |
WO2016110993A1 (ja) * | 2015-01-09 | 2016-07-14 | オリンパス株式会社 | 内視鏡システム、内視鏡装置及び内視鏡システムの制御方法 |
-
2018
- 2018-06-05 JP JP2018549366A patent/JP6425868B1/ja active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20040225223A1 (en) * | 2003-04-25 | 2004-11-11 | Olympus Corporation | Image display apparatus, image display method, and computer program |
US20110032259A1 (en) * | 2009-06-09 | 2011-02-10 | Intromedic Co., Ltd. | Method of displaying images obtained from an in-vivo imaging device and apparatus using same |
WO2012063623A1 (ja) * | 2010-11-08 | 2012-05-18 | オリンパスメディカルシステムズ株式会社 | 画像表示装置及びカプセル型内視鏡システム |
US20130152020A1 (en) * | 2011-03-30 | 2013-06-13 | Olympus Medical Systems Corp. | Image management apparatus, method, and computer-readable recording medium and capsule endoscope system |
JP2015112431A (ja) * | 2013-12-13 | 2015-06-22 | オリンパスメディカルシステムズ株式会社 | 画像表示装置、画像表示方法、及び画像表示プログラム |
WO2016110993A1 (ja) * | 2015-01-09 | 2016-07-14 | オリンパス株式会社 | 内視鏡システム、内視鏡装置及び内視鏡システムの制御方法 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US12059125B2 (en) | 2018-10-19 | 2024-08-13 | Given Imaging Ltd. | Systems and methods for generating and displaying a study of a stream of in-vivo images |
CN113011418A (zh) * | 2021-02-09 | 2021-06-22 | 杭州海康慧影科技有限公司 | 确定图像中待处理区域的方法、装置、设备 |
CN113011418B (zh) * | 2021-02-09 | 2024-02-23 | 杭州海康慧影科技有限公司 | 确定图像中待处理区域的方法、装置、设备 |
WO2023135816A1 (ja) * | 2022-01-17 | 2023-07-20 | オリンパスメディカルシステムズ株式会社 | 医療支援システムおよび医療支援方法 |
Also Published As
Publication number | Publication date |
---|---|
JPWO2019064704A1 (ja) | 2019-11-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2019064704A1 (ja) | 内視鏡画像観察支援システム、内視鏡画像観察支援装置、内視鏡画像観察支援方法 | |
US11574403B2 (en) | Systems and methods for processing real-time video from a medical image device and detecting objects in the video | |
US12059125B2 (en) | Systems and methods for generating and displaying a study of a stream of in-vivo images | |
US20200320336A1 (en) | Control method and recording medium | |
EP3582143A1 (en) | Systems and methods for training generative adversarial networks and use of trained generative adversarial networks | |
Riegler et al. | Eir—efficient computer aided diagnosis framework for gastrointestinal endoscopies | |
JP6425868B1 (ja) | 内視鏡画像観察支援システム、内視鏡画像観察支援装置、内視鏡画像観察支援方法 | |
EP3998579A1 (en) | Medical image processing method, apparatus and device, medium and endoscope | |
JP2019526304A (ja) | 胸部サーモグラフィ画像による悪性腫瘍性組織のホルモン受容体状態の分類 | |
US10918260B2 (en) | Endoscopic image observation support system | |
EP3005934A1 (en) | Medical device | |
US20200268237A1 (en) | Image observation support system, image observation support method and recording medium | |
WO2018230074A1 (ja) | 内視鏡画像観察支援システム | |
JP6335412B1 (ja) | 内視鏡画像観察支援システム | |
JP2019030502A (ja) | 内視鏡画像観察支援システム | |
JP2018142072A (ja) | 情報端末の制御方法及びプログラム | |
WO2018198525A1 (ja) | 内視鏡画像観察支援システム | |
Fisher et al. | Colour image analysis of wireless capsule endoscopy video: A review | |
WO2019116630A1 (ja) | 内視鏡画像観察支援システム | |
JP2019088553A (ja) | 内視鏡画像観察支援システム | |
Asskali | Polyp detection: effect of early and late feature fusion | |
JP2018183420A (ja) | 内視鏡画像観察支援システム | |
US20230084954A1 (en) | Learning device, operation method of learning device, and medical image processing terminal | |
US20220183616A1 (en) | Methods and systems for continuous measurement of anomalies for dysmorphology analysis | |
JP2019041880A (ja) | 内視鏡画像観察支援システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180919 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180919 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20180919 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20181011 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20181016 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20181023 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6425868 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |