JP6501800B2 - 信頼度マッチング付き生体内マルチカメラカプセルからの画像の再構築 - Google Patents
信頼度マッチング付き生体内マルチカメラカプセルからの画像の再構築 Download PDFInfo
- Publication number
- JP6501800B2 JP6501800B2 JP2016570804A JP2016570804A JP6501800B2 JP 6501800 B2 JP6501800 B2 JP 6501800B2 JP 2016570804 A JP2016570804 A JP 2016570804A JP 2016570804 A JP2016570804 A JP 2016570804A JP 6501800 B2 JP6501800 B2 JP 6501800B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- images
- matching
- displayed
- target image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 239000002775 capsule Substances 0.000 title claims description 25
- 238000001727 in vivo Methods 0.000 title description 4
- 239000002131 composite material Substances 0.000 claims description 23
- 238000000034 method Methods 0.000 claims description 21
- 210000001035 gastrointestinal tract Anatomy 0.000 claims description 12
- 150000001875 compounds Chemical class 0.000 claims 4
- 230000009466 transformation Effects 0.000 description 20
- 230000008569 process Effects 0.000 description 8
- 238000000844 transformation Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 4
- 238000005457 optimization Methods 0.000 description 3
- 238000012935 Averaging Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 230000033001 locomotion Effects 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000003657 Likelihood-ratio test Methods 0.000 description 1
- 230000005856 abnormality Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000007599 discharging Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000011503 in vivo imaging Methods 0.000 description 1
- 230000001939 inductive effect Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000012552 review Methods 0.000 description 1
- 238000011524 similarity measure Methods 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/041—Capsule endoscopes for imaging
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000095—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00043—Operational features of endoscopes provided with output arrangements
- A61B1/00045—Display arrangement
- A61B1/0005—Display arrangement combining images e.g. side-by-side, superimposed or tiled
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/60—Editing figures and text; Combining figures or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10068—Endoscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20076—Probabilistic image processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30092—Stomach; Gastric
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Physics & Mathematics (AREA)
- Surgery (AREA)
- Theoretical Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- General Physics & Mathematics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Biomedical Technology (AREA)
- Animal Behavior & Ethology (AREA)
- Molecular Biology (AREA)
- Heart & Thoracic Surgery (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Biophysics (AREA)
- Optics & Photonics (AREA)
- Pathology (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Signal Processing (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Multimedia (AREA)
- Databases & Information Systems (AREA)
- Computing Systems (AREA)
- Quality & Reliability (AREA)
- Endoscopes (AREA)
- Image Processing (AREA)
- Instruments For Viewing The Inside Of Hollow Bodies (AREA)
Description
特に、画像Aと画像Bの相互情報は以下のように定義し、2つ異なるモダリティからの画像をマッチングする。
210 表示エリア
220 表示エリア
Claims (8)
- カプセルカメラで撮像された複数の画像を受信するステップと、
前記複数の画像から選択された対象画像集合における対象画像毎に、
選択された対象画像に対応する第一の画像と、前記対象画像集合におけるもう一つの画像に対応する第二の画像とにより構成された各画像ペアと関連付けられた画像マッチングの品質を決定するステップと、
前記画像マッチングの品質の決定において、各画像ペアについて、インライア特徴の数をカウントする、または前記第一の画像と前記第二の画像の間の一つ又はそれ以上の重畳エリアについて距離自乗和(SSD)を決定するステップと、
前記インライア特徴の數が第一の閾値より大きいこと、または前記距離自乗和(SSD)が第二の閾値より小さいことに対応する前記画像マッチングの品質により、前記選択された対象画像と関連付けられた少なくとも一つの対応の画像ペアが高信頼度マッチングを有する場合、前記選択された対象画像をマッチング画像とするステップと、
前記選択された対象画像と関連付けられた全ての対応の画像ペアは前記第一の閾値より小さいまたは等しいインライア特徴の數、もしくは前記第二の閾値より大きいまたは等しい距離自乗和(SSD)有する場合、前記選択された対象画像をアンマッチング画像とするステップと、
を実行するステップと、
前記対象画像集合におけるマッチングした画像のみを1つまたはそれ以上の複合ピクチャにステッチするステップと、
前記1つまたはそれ以上の複合ピクチャを表示デバイスに表示するステップと、
を含む、人間の胃腸(GI)管を通って移動するカプセルカメラで撮像されたGI管の画像を表示する方法。 - 前記1つまたはそれ以上の複合ピクチャと前記対象画像集合におけるアンマッチング画像を前記表示デバイスに交互に表示し、前記1つまたはそれ以上の複合ピクチャを第一期間に表示し、前記アンマッチング画像を第二期間に表示し、前記第一期間と前記第二期間は重畳しない、
請求項1に記載の方法。 - 前記1つまたはそれ以上の複合ピクチャを前記表示デバイスの第一表示エリアに表示し、前記対象画像集合におけるアンマッチング画像を前記表示デバイスの第二表示エリアに表示する、
請求項1に記載の方法。 - 前記対象画像集合におけるマッチングした画像のみを1つまたはそれ以上の複合ピクチャにステッチするステップは、1つの複合ピクチャについて対応の画像ペアの数が閾値以上である場合のみに実行される、
請求項1に記載の方法。 - 表示デバイスと、前記表示デバイスに接続されたプロセッサと、を含む、人間の胃腸(GI)管を通って移動するカプセルカメラで撮像されたGI管の画像を表示するシステムであって、
前記プロセッサは、
前記カプセルカメラで撮像された複数の画像を受信し、
選択された対象画像に対応する第一の画像と、前記対象画像集合におけるもう一つの画像に対応する第二の画像とにより構成された各画像ペアと関連付けられた画像マッチングの品質を決定し、
前記画像マッチングの品質の決定において、各画像ペアについて、インライア特徴の数をカウントする、または前記第一の画像と前記第二の画像の間の一つ又はそれ以上の重畳エリアについて距離自乗和(SSD)を決定し、
前記インライア特徴の數が第一の閾値より大きいこと、または前記距離自乗和(SSD)が第二の閾値より小さいことに対応する前記画像マッチングの品質により、前記選択された対象画像と関連付けられた少なくとも一つの対応の画像ペアが高信頼度マッチングを有する場合、前記選択された対象画像をマッチング画像とし、
前記選択された対象画像と関連付けられた全ての対応の画像ペアは前記第一の閾値より小さいまたは等しいインライア特徴の數、もしくは前記第二の閾値より大きいまたは等しい距離自乗和(SSD)有する場合、前記選択された対象画像をアンマッチング画像とし、
前記対象画像集合におけるマッチングした画像のみを1つまたはそれ以上の複合ピクチャにステッチし、
前記1つまたはそれ以上の複合ピクチャを表示デバイスに表示するようにされている、
システム。 - 前記対象画像集合におけるアンマッチング画像がステッチせず、個別の画像として前記表示デバイスに表示される、
請求項5に記載のシステム。 - 前記1つまたはそれ以上の複合ピクチャと前記アンマッチング画像が前記表示デバイスに交互に表示され、前記1つまたはそれ以上の複合ピクチャが第一期間に表示され、前記アンマッチング画像が第二期間に表示され、前記第一期間と前記第二期間は重畳しない、
請求項6に記載のシステム。 - 前記1つまたはそれ以上の複合ピクチャが前記表示デバイスの第一表示エリアに表示され、前記アンマッチング画像が前記表示デバイスの第二表示エリアに表示される、
請求項6に記載のシステム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201462006257P | 2014-06-01 | 2014-06-01 | |
US62/006,257 | 2014-06-01 | ||
PCT/US2015/027813 WO2015187261A1 (en) | 2014-06-01 | 2015-04-27 | Reconstruction of images from an in vivo multi-camera capsule with confidence matching |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017522072A JP2017522072A (ja) | 2017-08-10 |
JP6501800B2 true JP6501800B2 (ja) | 2019-04-17 |
Family
ID=54767145
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016570804A Active JP6501800B2 (ja) | 2014-06-01 | 2015-04-27 | 信頼度マッチング付き生体内マルチカメラカプセルからの画像の再構築 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20170055814A1 (ja) |
EP (1) | EP3148399B1 (ja) |
JP (1) | JP6501800B2 (ja) |
CN (1) | CN106455956A (ja) |
WO (1) | WO2015187261A1 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018101936A1 (en) * | 2016-11-30 | 2018-06-07 | CapsoVision, Inc. | Method and apparatus for image stitching of images captured using a capsule camera |
WO2018194599A1 (en) * | 2017-04-19 | 2018-10-25 | CapsoVision, Inc. | Method of image processing and display for images captured by a capsule camera |
CN108022211A (zh) * | 2017-10-27 | 2018-05-11 | 平安科技(深圳)有限公司 | 电子装置、车祸现场全景图像展示方法和存储介质 |
CN108024061A (zh) * | 2017-12-08 | 2018-05-11 | 合肥工业大学 | 医用内窥镜人工智能系统的硬件架构及图像处理方法 |
US10510145B2 (en) * | 2017-12-27 | 2019-12-17 | Industrial Technology Research Institute | Medical image comparison method and system thereof |
CN108335319A (zh) * | 2018-02-06 | 2018-07-27 | 中南林业科技大学 | 一种基于自适应阈值及ransac的图像角点匹配方法 |
CN113409198B (zh) * | 2021-08-19 | 2021-11-05 | 北京欧应信息技术有限公司 | 用于图像拼接的方法、计算设备和存储介质 |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6075905A (en) * | 1996-07-17 | 2000-06-13 | Sarnoff Corporation | Method and apparatus for mosaic image construction |
US6044181A (en) * | 1997-08-01 | 2000-03-28 | Microsoft Corporation | Focal length estimation method and apparatus for construction of panoramic mosaic images |
JP4631057B2 (ja) * | 2004-02-18 | 2011-02-16 | 国立大学法人大阪大学 | 内視鏡システム |
CN1284505C (zh) * | 2004-02-28 | 2006-11-15 | 重庆金山科技(集团)有限公司 | 医用无线电胶囊式内窥系统 |
CN101065052B (zh) * | 2004-12-27 | 2010-12-22 | 奥林巴斯株式会社 | 医疗图像处理装置和医疗图像处理方法 |
JP2007236700A (ja) * | 2006-03-09 | 2007-09-20 | Fujifilm Corp | カプセル内視鏡システム |
US20100149183A1 (en) * | 2006-12-15 | 2010-06-17 | Loewke Kevin E | Image mosaicing systems and methods |
US7978932B2 (en) * | 2007-08-02 | 2011-07-12 | Mauna Kea Technologies | Robust mosaicing method, notably with correction of motion distortions and tissue deformations for in vivo fibered microscopy |
US20090074265A1 (en) * | 2007-09-17 | 2009-03-19 | Capsovision Inc. | Imaging review and navigation workstation system |
WO2011003168A1 (en) * | 2009-07-10 | 2011-01-13 | Isee3D Inc. | Method and apparatus for generating three dimensional image information using a single imaging path |
DE102009039251A1 (de) * | 2009-08-28 | 2011-03-17 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Verfahren und Vorrichtung zum Zusammenfügen von mehreren digitalen Einzelbildern zu einem Gesamtbild |
US8724868B2 (en) * | 2009-10-12 | 2014-05-13 | Capso Vision, Inc. | System and method for display of panoramic capsule images |
CN103347436B (zh) * | 2011-01-11 | 2016-06-22 | 爱德芳世株式会社 | 口腔内拍摄显示系统 |
US8712151B2 (en) * | 2011-02-14 | 2014-04-29 | Intuitive Surgical Operations, Inc. | Method and structure for image local contrast enhancement |
CN102436665A (zh) * | 2011-08-25 | 2012-05-02 | 清华大学 | 消化道图像二维平面表示方法 |
CN103190881A (zh) * | 2012-01-04 | 2013-07-10 | 清华大学 | 胶囊式内窥镜及其图像处理方法 |
-
2015
- 2015-04-27 US US15/306,475 patent/US20170055814A1/en not_active Abandoned
- 2015-04-27 CN CN201580024664.4A patent/CN106455956A/zh active Pending
- 2015-04-27 WO PCT/US2015/027813 patent/WO2015187261A1/en active Application Filing
- 2015-04-27 EP EP15803734.1A patent/EP3148399B1/en active Active
- 2015-04-27 JP JP2016570804A patent/JP6501800B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
EP3148399B1 (en) | 2021-09-22 |
EP3148399A1 (en) | 2017-04-05 |
US20170055814A1 (en) | 2017-03-02 |
CN106455956A (zh) | 2017-02-22 |
WO2015187261A1 (en) | 2015-12-10 |
EP3148399A4 (en) | 2018-01-17 |
JP2017522072A (ja) | 2017-08-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6501800B2 (ja) | 信頼度マッチング付き生体内マルチカメラカプセルからの画像の再構築 | |
CN107920722B (zh) | 针对自胶囊相机所撷取的图像通过对象检测进行重建 | |
Ozyoruk et al. | EndoSLAM dataset and an unsupervised monocular visual odometry and depth estimation approach for endoscopic videos | |
CN111557665B (zh) | 用于医学成像中的患者定位的根据相机数据的密集身体标记估计 | |
Bergen et al. | Stitching and surface reconstruction from endoscopic image sequences: a review of applications and methods | |
JP4631057B2 (ja) | 内視鏡システム | |
US10198872B2 (en) | 3D reconstruction and registration of endoscopic data | |
KR102237441B1 (ko) | 뉴럴 네트워크를 이용하여 캡슐 내시경 영상으로부터 병변 판독 방법 및 장치 | |
US20170084036A1 (en) | Registration of video camera with medical imaging | |
CN104000655B (zh) | 用于腹腔镜外科手术的组合的表面重构和配准 | |
CN111035351B (zh) | 用于胃肠道中的胶囊相机的行进距离测量的方法及装置 | |
CN102065744A (zh) | 图像处理装置、图像处理程序及图像处理方法 | |
US20160295126A1 (en) | Image Stitching with Local Deformation for in vivo Capsule Images | |
Seshamani et al. | Real-time endoscopic mosaicking | |
CN111127461B (zh) | 胸部图像处理方法、装置、存储介质及医疗设备 | |
JP6824078B2 (ja) | 内視鏡位置特定装置、方法およびプログラム | |
US11120547B2 (en) | Reconstruction of images from an in vivo multi-camera capsule with two-stage confidence matching | |
Ahmedt-Aristizabal et al. | Monitoring of pigmented skin lesions using 3D whole body imaging | |
Safavian et al. | Endoscopic measurement of the size of gastrointestinal polyps using an electromagnetic tracking system and computer vision-based algorithm | |
WO2016160862A1 (en) | Method of overlap-dependent image stitching for images captured using a capsule camera | |
Ozyoruk et al. | Quantitative evaluation of endoscopic slam methods: Endoslam dataset | |
Hu et al. | Homographic patch feature transform: a robustness registration for gastroscopic surgery | |
Hackner et al. | Deep-learning based reconstruction of the stomach from monoscopic video data | |
Hackner et al. | 3D Reconstruction of the Colon from Monocular Sequences Evaluation by 3D-printed Phantom Data | |
Hu et al. | Image Registration |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20171027 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20171113 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20171227 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180205 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180507 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20181029 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20181207 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20181217 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190225 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190319 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6501800 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |