CN112423645A - 内窥镜系统 - Google Patents

内窥镜系统 Download PDF

Info

Publication number
CN112423645A
CN112423645A CN201980046872.2A CN201980046872A CN112423645A CN 112423645 A CN112423645 A CN 112423645A CN 201980046872 A CN201980046872 A CN 201980046872A CN 112423645 A CN112423645 A CN 112423645A
Authority
CN
China
Prior art keywords
display
notification unit
unit
interest
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201980046872.2A
Other languages
English (en)
Other versions
CN112423645B (zh
Inventor
臼田稔宏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of CN112423645A publication Critical patent/CN112423645A/zh
Application granted granted Critical
Publication of CN112423645B publication Critical patent/CN112423645B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00055Operational features of endoscopes provided with output arrangements for alerting the user
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/063Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements for monochromatic or narrow-band illumination
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0653Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements with wavelength conversion
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0655Control therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B3/00Audible signalling systems; Audible personal calling systems
    • G08B3/10Audible signalling systems; Audible personal calling systems using electric transmission; using electromagnetic transmission
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B5/00Visible signalling systems, e.g. personal calling systems, remote indication of seats occupied
    • G08B5/22Visible signalling systems, e.g. personal calling systems, remote indication of seats occupied using electric transmission; using electromagnetic transmission
    • G08B5/36Visible signalling systems, e.g. personal calling systems, remote indication of seats occupied using electric transmission; using electromagnetic transmission using visible light sources
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B7/00Signalling systems according to more than one of groups G08B3/00 - G08B6/00; Personal calling systems according to more than one of groups G08B3/00 - G08B6/00
    • G08B7/06Signalling systems according to more than one of groups G08B3/00 - G08B6/00; Personal calling systems according to more than one of groups G08B3/00 - G08B6/00 using electric transmission, e.g. involving audible and visible signalling through the use of sound and light sources
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/41Medical

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Optics & Photonics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biophysics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • General Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Endoscopes (AREA)

Abstract

本发明提供一种适当地报知关注区域的检测结果的内窥镜系统。内窥镜系统用于对患者的管腔内进行检查,该内窥镜系统具备:插入部,其插入到管腔内;摄像装置,其对管腔内进行摄像而获取内窥镜图像;关注区域检测部,其从内窥镜图像中检测关注区域;检测结果报知部,其进行关注区域的检测结果的报知;插拔判别部,其判别检查的工序是插入工序和拔出工序中的哪一个工序;以及报知控制部,其根据插拔判别部判别的工序,使检测结果报知部进行报知,通过所述内窥镜系统来解决上述课题。

Description

内窥镜系统
技术领域
本发明涉及内窥镜系统,特别是涉及从内窥镜图像中检测关注区域并进行报知的技术。
背景技术
在内窥镜检查中,基本上是一边冲洗附着在脏器上的污垢一边将观测器插入到深处,然后一边观察脏器内部一边拔出。已知有一种像这样根据在插入时和拔出时医生的作业不同而在插入时和拔出时使动作不同的内窥镜装置。
例如,专利文献1中公开了一种在插入部的移动方向为插入方向的情况下,与为拔出方向的情况相比将提高摄像部的帧率的技术。根据该技术,即使在插入时由于插入部的顶端的摆动或移动而导致图像出现频繁变动,也能够将其作为平滑的动态图像显示于图像显示部,能够进行顺畅的插入作业。
以往技术文献
专利文献
专利文献1:国际公开第2017/006404号
发明内容
发明要解决的技术课题
作为辅助内窥镜检查中的医生的技术,已知有一种从内窥镜图像中检测病变等关注区域并进行报知的技术。但是,根据内窥镜检查中的时机,报知关注区域的检测结果可能会妨碍医生的操作。
例如,由于在拔出插入部时当然需要发现病变,因此基于检测结果的报知的辅助是有用的。另一方面,插入在技术上比较困难,要求注意力集中,因此插入时检测结果的报知有可能妨碍医生的操作。
本发明是鉴于上述情况而完成的,其目的在于提供一种适当地报知关注区域的检测结果的内窥镜系统。
用于解决技术课题的手段
为了实现上述目的,内窥镜系统的一个方面是对患者的管腔内进行检查的内窥镜系统,该内窥镜系统具备:插入部,其插入到管腔内;摄像装置,其拍摄管腔内而获取内窥镜图像;关注区域检测部,其从内窥镜图像中检测关注区域;检测结果报知部,其进行关注区域的检测结果的报知;插拔判别部,其判别检查的工序是将插入部插入到管腔内的折返地点的插入工序和将插入部从折返地点拔出的拔出工序中的哪一个工序;以及报知控制部,其根据插拔判别部判别的工序,使检测结果报知部进行报知。
根据本方面,由于判别检查的工序是插入工序和拔出工序中的哪一个工序,并根据判别的工序进行关注区域的检测结果的报知,所以能够适当地报知关注区域的检测结果。
优选的是,检测结果报知部具备显示报知部,该显示报知部通过显示器的显示来报知已检测到关注区域的意思,报知控制部在插入工序中使第一大小的文字显示,在拔出工序中使比第一大小大的第二大小的文字显示。由此,能够在拔出工序中以比插入工序相对高的报知力进行报知。
优选的是,检测结果报知部具备显示报知部,该显示报知部通过显示器的显示来报知已检测到关注区域的意思,报知控制部在插入工序中使第一大小的图标显示,在拔出工序中使比第一大小大的第二大小的图标显示。由此,能够在拔出工序中以比插入工序相对高的报知力进行报知。
优选的是,检测结果报知部具备显示报知部,该显示报知部通过显示器的显示来报知已检测到关注区域的意思,报知控制部在插入工序中使第一背景色的背景显示,在拔出工序中使明度比第一背景色高的第二背景色的背景显示。由此,能够在拔出工序中以比插入工序相对高的报知力进行报知。
优选的是,检测结果报知部具备显示报知部,该显示报知部通过显示器的显示来报知已检测到关注区域的意思,报知控制部在插入工序中使包含关注区域的第一大小的帧与内窥镜图像一起显示,在拔出工序中使包含关注区域的比第一大小大的第二大小的帧与内窥镜图像一起显示。由此,能够在拔出工序中以比插入工序相对高的报知力进行报知。
优选的是,检测结果报知部具备显示报知部,该显示报知部通过显示器的显示来报知已检测到关注区域的意思,报知控制部在插入工序中不显示或使图标显示,在拔出工序中使表示关注区域的范围的图形在关注区域的位置重叠显示于内窥镜图像。由此,能够在拔出工序中以比插入工序相对高的报知力进行报知。
优选的是,检测结果报知部具备显示报知部,该显示报知部通过显示器的显示来报知已检测到关注区域的意思,报知控制部在插入工序中仅在检测到关注区域时使表示关注区域的范围的图形在关注区域的位置重叠显示于内窥镜图像,在拔出工序中在检测到关注区域时及检测到关注区域后的固定时间中使表示关注区域的范围的图形在关注区域的位置重叠显示于内窥镜图像。由此,能够在拔出工序中以比插入工序相对高的报知力进行报知。
优选的是,检测结果报知部具备声音报知部,该声音报知部通过声音的输出来报知已检测到关注区域的意思,报知控制部在插入工序中以第一音量输出,在拔出工序中以比第一音量大的第二音量输出。由此,能够在拔出工序中以比插入工序相对高的报知力进行报知。
优选的是,检测结果报知部具备点亮报知部,该点亮报知部通过灯的点亮来报知已检测到关注区域的意思,报知控制部在插入工序中以第一光量点亮,在拔出工序中以比第一光量大的第二光量点亮。由此,能够在拔出工序中以比插入工序相对高的报知力进行报知。
优选的是,检测结果报知部具备:显示报知部,其通过显示器的显示进行报知;以及声音报知部,其通过声音的输出进行报知,报知控制部在插入工序中使显示报知部将表示关注区域的范围的图形在关注区域的位置重叠显示于内窥镜图像,在拔出工序中使显示报知部将表示关注区域的范围的图形在关注区域的位置重叠显示于内窥镜图像,并且使声音报知部输出声音。由此,能够在拔出工序中以比插入工序相对高的报知力进行报知。
优选的是,检测结果报知部具备:显示报知部,其通过显示器的显示进行报知;以及声音报知部,其通过声音的输出进行报知,报知控制部在插入工序中使声音报知部输出声音,在拔出工序中使声音报知部输出声音,并且使显示报知部显示图标。由此,能够在拔出工序中以比插入工序相对高的报知力进行报知。
优选的是,检测结果报知部具备:显示报知部,其通过显示器的显示进行报知;声音报知部,其通过声音的输出进行报知;以及点亮报知部,其通过灯的点亮进行报知,报知控制部在插入工序中使点亮报知部点亮灯,在拔出工序中使点亮报知部点亮灯,并且使显示报知部将表示关注区域的范围的图形在关注区域的位置重叠显示于内窥镜图像,并且使声音报知部输出声音。由此,能够在拔出工序中以比插入工序相对高的报知力进行报知。
优选的是,检测结果报知部具备:显示报知部,其通过显示器的显示进行报知;声音报知部,其通过声音的输出进行报知;以及点亮报知部,其通过灯的点亮进行报知,当设N为0~2中的任意一个整数时,报知控制部在插入工序中通过显示报知部、声音报知部以及点亮报知部中的任意N个进行报知,在拔出工序中通过显示报知部、声音报知部以及点亮报知部中的至少(N+1)个进行报知。由此,能够在拔出工序中以比插入工序相对高的报知力进行报知。
发明效果
根据本发明,能够适当地报知关注区域的检测结果。
附图说明
图1是表示内窥镜系统的外观图。
图2是表示内窥镜系统的内部结构的框图。
图3是表示光的强度分布的曲线图。
图4是表示图像识别部的结构的框图。
图5是表示图像识别部的结构的其他形态的框图。
图6是表示内窥镜系统进行的识别结果的报知方法的处理的流程图。
图7是表示第一实施方式所涉及的识别结果报知部的结构的框图。
图8是表示通过文字的显示来报知从图像中检测到病变的意思的例子的图。
图9是表示通过图标的显示来报知从图像中检测到病变的意思的例子的图。
图10是表示通过背景的显示来报知从图像中检测到病变的意思的例子的图。
图11是表示通过帧的显示来报知从图像中检测到病变的意思的例子的图。
图12是表示根据插拔判别部判别的工序以不同的显示来报知从图像中检测到病变的意思的例子的图。
图13是表示通过不同的显示时间报知从图像中检测到病变的意思的例子的图。
图14是表示第二实施方式所涉及的识别结果报知部的结构的框图。
图15是表示第三实施方式所涉及的识别结果报知部的结构的框图。
图16是表示第四和第五实施方式所涉及的识别结果报知部的结构的框图。
图17是表示第六实施方式所涉及的识别结果报知部的结构的框图。
具体实施方式
以下,根据附图详细说明本发明的优选实施方式。
在此,对将本发明应用于从受检者的肛门插入、用于检查(观察)直肠和大肠等的管腔内的下部内窥镜的情况进行说明。此外,也可以将本发明应用于从患者的口或鼻子插入、用于观察食管和胃等的管腔内的上部内窥镜。
<内窥镜系统的结构>
图1是表示内窥镜系统10的外观图。如图1所示,内窥镜系统10具备内窥镜12、光源装置14、处理器装置16、显示部18以及输入部20。
内窥镜12与光源装置14光学连接。另外,内窥镜12与处理器装置16电连接。
内窥镜12具有:插入到受检者的管腔内的插入部12A、设置在插入部12A的基端部分的操作部12B、设置在插入部12A的顶端侧的弯曲部12C以及顶端部12D。
在操作部12B设置有弯角钮12E和模式转换开关13。
通过操作弯角钮12E,弯曲部12C进行弯曲动作。通过该弯曲动作,顶端部12D朝向期望的方向。
模式切换开关13用于观察模式的切换操作。内窥镜系统10具有照射光的波长图案分别不同的多个观察模式。医生(施术者)通过操作模式切换开关13,能够设定为期望的观察模式。内窥镜系统10通过波长图案与图像处理的组合,生成与所设定的观察模式对应的图像并将其显示于显示部18。
另外,在操作部12B中,设有未图示的获取指示输入部。获取指示输入部是用于医生输入静止图像的获取指示的接口。获取指示输入部接受静止图像的获取指示。在获取指示输入部中接受的静止图像的获取指示被输入到处理器装置16。
处理器装置16与显示部18和输入部20电连接。显示部18是输出显示被观察区域的图像以及与被观察区域的图像相关的信息等的显示设备。输入部20作为接受内窥镜系统10的功能设定和各种指示等的输入操作的用户接口发挥功能。
内窥镜系统10中的检查的工序包括插入工序和拔出工序。插入工序是指将内窥镜12的插入部12A的顶端部12D从患者的管腔内的插入开始地点插入到折返地点的工序,拔出工序是指将顶端部12D从患者的管腔内的折返地点拔出到插入开始地点的工序。
此外,插入开始地点是指开始插入顶端部12D的管腔的端部。作为插入开始地点,例如若为下部内窥镜,则是指肛门,若为上部内窥镜,则是指口或鼻子。另外,折返地点是指顶端部12D到达的管腔内的最里侧的位置。在折返地点,插入部12A中插入到管腔内的部分最多。
图2是表示内窥镜系统10的内部结构的框图。如图2所示,光源装置14具备第一激光光源22A、第二激光光源22B以及光源控制部24。
第一激光光源22A是中心波长445nm的蓝色激光光源。第二激光光源22B是中心波长405nm的紫色激光光源。作为第一激光光源22A和第二激光光源22B,可使用激光二极管。第一激光光源22A和第二激光光源22B的发光由光源控制部24分别控制。第一激光光源22A和第二激光光源22B的发光强度比可自由变更。
另外,如图2所示,内窥镜12具备光纤28A、光纤28B、荧光体30、扩散部件32、摄像透镜34、摄像元件36以及模拟数字转换部38。
由第一激光光源22A、第二激光光源22B、光纤28A、光纤28B、荧光体30以及扩散部件32构成照射部。
从第一激光光源22A射出的激光光通过光纤28A照射到配置于内窥镜12的顶端部12D的荧光体30。荧光体30构成为包括吸收来自第一激光光源22A的蓝色激光光的一部分而激励发光为绿色~黄色的多种荧光体。由此,从荧光体30射出的光将以来自第一激光光源22A的蓝色激光光作为激励光的绿色~黄色的激励光L11和未被荧光体30吸收而透射的蓝色的激光光L12结合起来,成为白色(准白色)的光L1。
另外,在此所说的白色光并不限于严格地包含可见光的所有波长成分。例如,只要是R(Red)、G(Green)、B(Blue)等包含特定波段的光的光即可,广义上还包括包含从绿色到红色的波长成分的光、或者包含从蓝色到绿色的波长成分的光等。
另一方面,从第二激光光源22B射出的激光光通过光纤28B照射到配置于内窥镜12的顶端部12D的扩散部件32。扩散部件32可使用具有透光性的树脂材料等。从扩散部件32射出的光成为在照射区域内光量被均匀化的窄带波长的光L2。
图3是表示光L1和光L2的强度分布的曲线图。光源控制部24变更第一激光光源22A与第二激光光源22B的光量比。由此,光L1与光L2的光量比被变更,作为光L1与光L2的合成光的照射光L0的波长图案被变更。因此,能够根据观察模式照射不同波长图案的照射光L0。
回到图2的说明,由摄像透镜34、摄像元件36以及模拟数字转换部38构成摄影部(摄像装置)。摄影部配置在内窥镜12的顶端部12D。
摄像透镜34使入射的光在摄像元件36上成像。摄像元件36生成与所接受的光对应的模拟信号。作为摄像元件36,使用CCD(Charge Coupled Device)型图像传感器或CMOS(Complementary Metal Oxide Semiconductor)型图像传感器。从摄像元件36输出的模拟信号通过模拟数字转换部38转换为数字信号,并输入到处理器装置16。
另外,如图2所示,处理器装置16具备摄影控制部40、图像处理部42、图像获取部44、图像识别部46、报知控制部58、识别结果报知部60、插拔判别部68、显示控制部70、存储控制部72、以及存储部74。
摄影控制部40通过控制光源装置14的光源控制部24、内窥镜12的摄像元件36和模拟数字转换部38、处理器装置16的图像处理部42,统一控制内窥镜系统10进行的动态图像和静态图像的摄影。
图像处理部42对从内窥镜12的模拟数字转换部38输入的数字信号实施图像处理,生成表示内窥镜图像的图像数据(以下,记作图像)。图像处理部42实施与摄影时的照射光的波长图案对应的图像处理。
图像获取部44获取图像处理部42生成的图像。图像获取部44获取的图像可以是一张图像,也可以是多张图像。图像获取部44也可以将以一定的帧率按时间序列拍摄受检者的管腔内而得的动态图像作为连续的多个图像(静止图像)来处理。另外,图像获取部44也可以获取从输入部20输入的图像、或存储在存储部74中的图像。另外,也可以从与未图示的网络连接的服务器等外部装置获取图像。
图像识别部46识别图像获取部44获取的图像。图4是表示图像识别部46的结构的框图。如图4所示,图像识别部46具备部位识别部48、检测部50及鉴别部52。
部位识别部48根据图像获取部44获取的图像来识别内窥镜12的顶端部12D存在于管腔内的哪个部位(位置)。部位识别部48识别直肠、乙状结肠、降结肠、横结肠、升结肠、盲肠、回肠及空肠等作为管腔内的部位。
部位识别部48是通过使用卷积神经网络的深度学习而学习的已学习模型。部位识别部48例如通过学习各部位的粘膜的图像,可根据图像来识别部位。
另外,部位识别部48也可以使用利用了磁线圈等的未图示的内窥镜插入形状观测装置来获取内窥镜12的弯曲部12C的形状信息,并根据形状信息来推定顶端部12D的位置。另外,部位识别部48也可以从受检体外部照射X射线来获取内窥镜12的弯曲部12C的形状信息,并根据形状信息来推定顶端部12D的位置。
检测部50(关注区域检测部的一例)从所输入的图像中检测关注区域即病变,并识别病变在图像内的位置。在此的病变并不限定于由疾病引起的病变,还包括外观上与正常状态不同的状态的区域。作为病变,例如可列举息肉、癌、大肠憩室、炎症、EMR(EndoscopicMucosal Resection)瘢痕或ESD(Endoscopic Submucosal Dissection)瘢痕等的治疗疤痕、夹持部位、出血点、穿孔及血管异型性等。
检测部50具备分别与管腔内的各部位对应的第一检测部50A、第二检测部50B、第三检测部50C、第四检测部50D、第五检测部50E、第六检测部50F、第七检测部50G、以及第八检测部50H。在此,作为一例,第一检测部50A对应于直肠,第二检测部50B对应于乙状结肠,第三检测部50C对应于降结肠,第四检测部50D对应于横结肠,第五检测部50E对应于升结肠,第六检测部50F对应于盲肠,第七检测部50G对应于回肠,第八检测部50H对应于空肠。
第一检测部50A、第二检测部50B、第三检测部50C、第四检测部50D、第五检测部50E、第六检测部50F、第七检测部50G以及第八检测部50H分别是已学习模型。该多个已学习模型是分别使用不同的数据集学习的模型。详细地说,多个已学习模型是分别使用由拍摄了管腔内的不同部位的图像构成的数据集来学习的模型。
即,第一检测部50A是使用由直肠的图像构成的数据集学习的模型,第二检测部50B是使用由乙状结肠的图像构成的数据集学习的模型,第三检测部50C是使用由降结肠的图像构成的数据集学习的模型,第四检测部50D是使用由横结肠的图像构成的数据集学习的模型,第五检测部50E是使用由升结肠的图像构成的数据集学习的模型,第六检测部50F是使用由盲肠的图像构成的数据集学习的模型,第七检测部50G是使用由回肠的图像构成的数据集学习的模型,第八检测部50H是使用由空肠的图像构成的数据集学习的模型。
这些已学习模型优选通过使用卷积神经网络的深度学习来学习。另外,也可以使用支持向量机。
检测部50从第一检测部50A、第二检测部50B、第三检测部50C、第四检测部50D、第五检测部50E、第六检测部50F、第七检测部50G以及第八检测部50H中,使用与部位识别部48识别到的管腔内的部位对应的检测部,进行病变的检测。
即,若管腔内的部位为直肠,则通过第一检测部50A检测病变,若为乙状结肠,则通过第二检测部50B检测病变,若为降结肠,则通过第三检测部50C检测病变,若为横结肠,则通过第四检测部50D检测病变,若为升结肠,则通过第五检测部50E检测病变,若为盲肠,则通过第六检测部50F检测病变,若为回肠,则通过第七检测部50G检测病变,若为空肠,则通过第八检测部50H检测病变。
第一检测部50A~第八检测部50H分别根据管腔内的部位进行学习,因此能够进行与部位对应的适当的检测。
鉴别部52识别检测部50检测到的病变是良性还是恶性。鉴别部52是通过使用卷积神经网络的深层学习来学习的已学习模型。与检测部50同样,也可以将鉴别部52构成为每个部位的识别部。
图5是表示图像识别部46的结构的其他形态的框图。如图5所示,该形态的图像识别部46具备单一的检测部50和参数存储部54。另外,参数存储部54具备分别存储与管腔内的各部位的检测对应的参数的第一参数存储部54A、第二参数存储部54B、第三参数存储部54C、第四参数存储部54D、第五参数存储部54E、第六参数存储部54F、第七参数存储部54G、以及第八参数存储部54H。在此,作为一例,第一参数存储部54A存储与直肠的检测对应的参数,第二参数存储部54B存储与乙状结肠的检测对应的参数,第三参数存储部54C存储与降结肠的检测对应的参数,第四参数存储部54D存储与横结肠的检测对应的参数,第五参数存储部54E存储与升结肠的检测对应的参数,第六参数存储部54F存储与盲肠的检测对应的参数,第七参数存储部54G存储与回肠的检测对应的参数,第八参数存储部54H存储与空肠的检测对应的参数。
各参数是已学习模型的参数。该多个已学习模型是分别使用不同的数据集学习的模型。
检测部50从存储于第一参数存储部54A、第二参数存储部54B、第三参数存储部54C、第四参数存储部54D、第五参数存储部54E、第六参数存储部54F、第七参数存储部54G以及第八参数存储部54H的参数中,使用与部位识别部48识别到的管腔内的部位对应的参数,进行病变的检测。
即,若管腔内的部位为直肠,则使用存储于第一参数存储部54A的参数检测病变,若为乙状结肠,则使用存储于第二参数存储部54B的参数检测病变,若为降结肠,则使用存储于第三参数存储部54C的参数检测病变,若为横结肠,则使用存储于第四参数存储部54D的参数检测病变,若为升结肠,则使用存储于第五参数存储部54E的参数检测病变,若为盲肠,则使用存储于第六参数存储部54F的参数检测病变,若为回肠,则使用存储于第七参数存储部54G的参数检测病变,若为空肠,则使用存储于第八参数存储部54H的参数检测病变。
第一参数存储部54A~第八参数存储部54H分别存储有根据管腔内的部位学习的参数,因此能够进行与部位对应的适当的检测。
返回图2的说明,报知控制部58与识别结果报知部60连接。识别结果报知部60(检测结果报知部的一例)是进行图像识别部46的图像识别结果的报知的报知单元。报知控制部58控制识别结果报知部60,使其进行报知。
插拔判别部68判别检查的工序是插入工序和拔出工序中的哪一个工序。
插拔判别部68从由图像处理部42生成的多个图像中检测移动矢量,基于检测到的移动矢量判别插入部12A的移动方向,并根据移动方向判别检查的工序。移动矢量的检测可使用块匹配法等公知的方法。
此外,插拔判别部68也可以根据设置于插入部12A的未图示的传感器的信息来判别插入部12A的移动方向,并根据移动方向来判别检查的工序。另外,插拔判别部68也可以用使用了磁线圈等的未图示的内窥镜插入形状观测装置来判别插入部12A的移动方向,并根据移动方向来判别检查的工序。
而且,插拔判别部68也可以将从检查开始至到达折返地点为止判别为插入工序,将到达折返地点以后判别为拔出工序。插拔判别部68只要基于医生从输入部20进行的输入来判别插入部12A到达折返地点即可。
另外,插拔判别部68也可以自动地识别插入部12A到达折返地点。例如,插拔判别部68可以根据由图像处理部42生成的图像自动地识别,也可以通过未图示的内窥镜插入形状观测装置自动地识别。在自动识别的情况下,作为折返地点的例子,若为下部内窥镜则可设为回盲瓣(Bauhin valve),若为上部内窥镜则可设为十二指肠。
并且,插拔判别部68也可以根据医生对内窥镜12的操作来识别插入部12A到达折返地点。例如,若为上部内窥镜,则将反转操作判别为折返地点即可。在自动识别的情况下,也可以组合多个这些自动识别方法。
显示控制部70使显示部18显示由图像处理部42生成的图像。
存储控制部72使存储部74存储由图像处理部42生成的图像。例如,将按照静止图像的获取指示拍摄的图像以及拍摄图像时的照射光L0的波长图案的信息等存储在存储部74中。
存储部74例如是硬盘等存储装置。此外,存储部74不限于内置于处理器装置16中。例如,也可以是与处理器装置16连接的未图示的外部存储装置。外部存储装置也可以经由未图示的网络连接。
这样构成的内窥镜系统10拍摄动态图像或静态图像,并将拍摄到的图像显示于显示部18。另外,进行所拍摄的图像的图像识别,在识别结果报知部60中报知识别结果。
<识别结果的报知方法>
图6是表示内窥镜系统10进行的识别结果的报知方法的处理的流程图。识别结果的报知方法具有图像获取工序(步骤S1)、部位识别工序(步骤S2)、关注区域检测工序(步骤S3)、鉴别工序(步骤S4)、插拔判别工序(步骤S5)、识别结果报知工序(步骤S6)、以及结束判定工序(步骤S7)。
〔图像获取工序(步骤S1)〕
在步骤S1中,内窥镜系统10通过摄影控制部40的控制以一定的帧率进行动态图像摄影。
即,光源控制部24将第一激光光源22A的出射光和第二激光光源22B的出射光设定为与期望的观察模式对应的光量比。由此,对受检者的管腔内的被观察区域照射期望的波长图案的照射光L0。
另外,摄影控制部40控制摄像元件36、模拟数字转换部38以及图像处理部42,拍摄接受了来自被观察区域的反射光的被观察区域的图像。显示控制部70使显示部18显示所拍摄的图像。另外,图像获取部44获取拍摄到的图像。
〔部位识别工序(步骤S2)〕
接着,在步骤S2中,部位识别部48根据图像获取部44获取的图像来识别顶端部12D存在于管腔内的哪个部位。在此,识别为直肠、乙状结肠、降结肠、横结肠、升结肠、盲肠、回肠及空肠中的任一部位。
〔关注区域检测工序(步骤S3)〕
在步骤S3中,检测部50基于部位识别部48识别到的部位,从图像获取部44获取的图像中检测病变。
〔鉴别工序(步骤S4)〕
在步骤S4中,鉴别部52识别在步骤S3中检测到的病变是良性还是恶性。
〔插拔判别工序(步骤S5)〕
在步骤S5中,插拔判别部68从由图像处理部42生成的时间序列的多个图像中检测移动矢量,基于检测到的移动矢量,检测插入部12A的移动方向,并根据移动方向判别检查是插入工序和拔出工序中的哪一个工序。
〔识别结果报知工序(步骤S6)〕
在步骤S6中,报知控制部58使识别结果报知部60进行步骤S2、步骤S3以及步骤S4的识别结果的报知。报知控制部58在检查的工序是拔出工序的情况下,以与是插入工序的情况相比报知力相对变高的方式使识别结果报知部60进行报知。
即,在检查的工序是插入工序的情况下,认为是正在对管腔内进行清洗。因此,在是插入工序的情况下,为了不阻碍医生的操作,最好以相对较低的报知力进行报知。另一方面,在检查的工序是拔出工序的情况下,认为是正在对管腔内进行观察。因此,为了适当地进行诊断的支持,以相对较高的报知力进行报知。这样,在步骤S6中,可在拔出工序中进一步提醒医生注意。
〔结束判定工序(步骤S7)〕
在步骤S7中,判定内窥镜系统10进行的检查是否已经结束。在检查未结束的情况下,返回到步骤S1,重复同样的处理。在检查已经结束的情况下,结束本流程图的处理。
像这样,由于判别检查的工序是插入工序和拔出工序中的哪一个工序,并根据判别的工序使识别结果报知部60进行报知,所以能够适当地报知识别结果,且能够适当地报知关注区域即病变的检测结果。
<第一实施方式>
图7是表示第一实施方式所涉及的识别结果报知部60的结构的框图。在本实施方式中,识别结果报知部60具备显示报知部62。此外,显示报知部62具备显示器62A。显示器62A是输出显示图像等信息的显示设备。在检测到病变时,显示报知部62通过显示器62A的显示来报知已检测到病变的意思。在本实施方式中,显示器62A与显示部18相同。
在第一实施方式中,报知控制部58在检查的工序是拔出工序的情况下,使显示报知部62以与是插入工序的情况相比报知力相对变高的方式报知检测到病变的意思。
图8是表示通过文字的显示来报知从图像中检测到病变的意思的例子的图。在图8所示的例子中,在显示有图像处理部42生成的图像G的显示器62A中,报知控制部58控制显示报知部62,通过文字的显示来报知从图像G中检测到病变L的意思。图8所示的F81表示插入部12A的检查的工序是插入工序的情况。在F81的情况下,在显示器62A上显示第一大小的文字100A。另外,图8所示的F82表示插入部12A的移动的工序是拔出工序的情况。在F82的情况下,在显示器62A上显示比第一大小大的第二大小的文字100B。
像这样,在图8所示的例子中,通过使文字的大小不同,与插入工序的情况相比,相对地提高了拔出工序的情况下的报知力。另外,有所不同的是不限于文字的大小,也可以变更文字的颜色。在该情况下,与颜色的明度或彩度相对较低的文字相比,颜色的明度或彩度相对较高的文字的报知力相对较高。另外,与蓝色系的色相的文字相比,红色系的色相的文字的报知力相对较高。
此外,在通过显示器62A的显示来报知已检测到缺陷的意思时,为了根据检查的工序使报知力不同,不限于变更文字的大小或颜色的例子,可以为各种各样的形态。
图9是表示通过图标的显示来报知从图像中检测到病变的意思的例子的图。在图9所示的例子中,在显示有图像处理部42生成的图像G的显示器62A中,报知控制部58控制显示报知部62,通过图标的显示来报知从图像G中检测到病变L的意思。图9所示的F91表示检查的工序是插入工序的情况。在F91的情况下,在显示器62A上显示第一大小的图标102A。另外,图9所示的F92表示检查的工序是拔出工序的情况。在F92的情况下,在显示器62A上显示比第一大小大的第二大小的图标102B。
像这样,通过使图标的大小不同,与插入工序的情况相比,能够相对地提高拔出工序的情况下的报知力。
图10是表示通过背景的显示来报知从图像中检测到病变的意思的例子的图。在图10所示的例子中,在显示图像处理部42生成的图像G的显示器62A中,报知控制部58控制显示报知部62,通过背景的显示来报知从图像G中检测到病变L的意思。背景是指显示器62A的显示范围中图像G以外的区域。通常,显示黑色背景。
图10所示的F101表示检查的工序是插入工序的情况。在F101的情况下,在显示器62A上显示与黑色不同的第一背景色的背景104A。另外,图10所示的F102表示检查的工序是拔出工序的情况。在F102的情况下,在显示器62A上显示明度比第一背景色高的第二背景色的背景104B。
像这样,通过使背景色的明度不同,与插入工序的情况相比,能够相对地提高拔出工序的情况下的报知力。此外,有所不同的是不限于背景色的明度,也可以变更背景色的彩度或色相。在该情况下,彩度相对较高的背景色的报知力相对较高。另外,与蓝色系的色相的背景色相比,红色系的色相的背景色的报知力相对较高。
图11是表示通过帧的显示来报知从图像中检测到病变的意思的例子的图。在图11所示的例子中,在显示图像处理部42生成的图像G的显示器62A中,报知控制部58控制显示报知部62,通过包含病变L的帧的显示来报知从图像G中检测到病变L的意思。图11所示的F111表示检查的工序是插入工序的情况。在F111的情况下,第一大小的帧106A与图像G一起显示在显示器62A上。在帧106A中,显示在显示器62A上显示的图像G。报知控制部58也可以使检测到病变L的前一个图像显示于帧106A,而不使显示在显示器62A上的图像G显示。
另外,图11所示的F112表示检查的工序是拔出工序的情况。在F112的情况下,比第一大小大的第二大小的帧106B与图像G一起显示在显示器62A上。帧106B中所显示的图像只要是与F111同样的图像即可。
像这样,通过使显示包含病变L的图像G的帧的大小不同,与插入工序的情况相比,能够相对地提高拔出工序的情况下的报知力。
图12是表示以不同的显示方式报知从图像中检测到病变的意思的例子的图。在图12所示的例子中,在显示图像处理部42生成的图像G的显示器62A中,报知控制部58控制显示报知部62,根据插拔判别部68判别的工序,以不同的显示方式来报知从图像G中检测到病变L的意思。图12所示的F121表示检查的工序是插入工序的情况。在F121的情况下,在显示器62A上显示第一大小的图标102A。图标102A也可以不显示。另外,图12所示的F122表示检查的工序是拔出工序的情况。在F122的情况下,将表示病变L的范围的图形108在显示器62A的病变L的位置重叠显示在图像G上。
像这样,通过使检测到病变L的意思的显示方式根据插拔判别部68判别出的工序而不同,与插入工序的情况相比,能够相对地提高拔出工序的情况下的报知力。
图13是表示以不同的显示时间报知从图像中检测到病变的意思的例子的图。在图13所示的例子中,在显示图像处理部42生成的图像G的显示器62A中,报知控制部58控制显示报知部62,以不同的显示时间来报知从图像G中检测到病变L的意思。图13所示的F131和F132表示检查的工序是插入工序的情况。在F131的情况下,将表示病变L的范围的图形108在显示器62A的病变L的位置重叠显示在图像G上。F132表示从F131起经过固定时间,插入部12A进一步沿插入方向移动的情况。在F132中,未从图像G中检测到病变L,未显示图形108。即,报知控制部58在检查的工序是插入工序的情况下,仅在检测到病变L时,将表示病变的范围的图形108在病变的位置重叠显示在图像G上。
与此相对,图13所示的F133和F134表示检查的工序是拔出工序的情况。在F133的情况下,将表示病变L的范围的图形108在显示器62A的病变L的位置重叠显示在图像G上。F134表示从F133起经过固定时间,插入部12A进一步沿拔出方向移动的情况。在F134中,未从图像G中检测到病变L,但是在F133中显示的图形108继续显示在相同的位置。即,报知控制部58在检查的工序是拔出工序的情况下,在检测到病变L时及检测到病变L后的固定时间,将表示病变的范围的图形108在病变的位置重叠显示在图像G上。
像这样,通过使表示病变L的范围的图形的显示时间不同,与插入工序的情况相比,能够相对地提高拔出工序的情况下的报知力。
在本实施方式中,将显示部18和显示器62A设为共通,但也可以使显示部18显示图像G,使显示器62A显示缺陷检测结果的报知。
<第二实施方式>
图14是表示第二实施方式所涉及的识别结果报知部60的结构的框图。在本实施方式中,识别结果报知部60具备声音报知部64。而且,声音报知部64具备蜂鸣器64A。蜂鸣器64A是产生报知音的发声设备,例如可应用具有压电元件的压电蜂鸣器。在检测到病变时,声音报知部64通过蜂鸣器64A的报知音来报知已检测到病变。在本实施方式中,蜂鸣器64A设置在处理器装置16中。
在第二实施方式中,报知控制部58在检查的工序是拔出工序的情况下,使声音报知部64以与是插入工序的情况相比报知力相对变高的方式报知检测到病变的意思。即,报知控制部58在插入工序中使声音报知部64以第一音量(声音的大小)输出,在拔出工序中使声音报知部64以比第一音量大的第二音量输出。
像这样,在第二实施方式中,通过使音量不同,与插入工序的情况相比,相对地提高了拔出工序的情况下的报知力。此外,有所不同的是不限于音量,也可以变更声音的长度。在该情况下,与相对较短的声音相比,相对较长的声音的报知力相对较高。
<第三实施方式>
图15是表示第三实施方式所涉及的识别结果报知部60的结构的框图。在本实施方式中,识别结果报知部60具备点亮报知部66。而且,点亮报知部66具备灯66A。灯66A是产生报知光的光源,例如可应用发光二极管。在检测到病变时,点亮报知部66通过灯66A的点亮来报知已检测到病变。在本实施方式中,灯66A设置在处理器装置16中。
在第三实施方式中,报知控制部58在检查的工序是拔出工序的情况下,使点亮报知部66以与是插入工序的情况相比报知力相对变高的方式报知检测到病变的意思。即,报知控制部58在插入工序中使点亮报知部66以第一光量(光的强度)点亮,在拔出工序中使点亮报知部66以比第一光量大的第二光量输出。
像这样,在第三实施方式中,通过使光量不同,与插入工序的情况相比,相对地提高了拔出工序的情况下的报知力。另外,有所不同的是不限于光量,也可以变更光的颜色。例如,与蓝色系的色相下的点亮相比,红色系的色相下的点亮的报知力相对较高。另外,也可以使点亮时间不同。例如,与点亮时间相对较短的闪烁状态相比,点亮时间相对较长的连续点亮状态的报知力相对较高。
<第四实施方式>
图16是表示第四实施方式所涉及的识别结果报知部60的结构的框图。在本实施方式中,识别结果报知部60具备显示报知部62和声音报知部64。
在第四实施方式中,报知控制部58在检查的工序是拔出工序的情况下,使识别结果报知部60以与是插入工序的情况相比报知力相对变高的方式报知检测到病变的意思。即,在插入工序中,报知控制部58使显示报知部62与图12的F112同样地将表示病变L的范围的图形108在显示器62A的病变L的位置重叠显示在图像G上。另外,在拔出工序中,报知控制部58使显示报知部62与插入工序同样地将表示病变L的范围的图形108在显示器62A的病变L的位置重叠显示在图像G上,并且使声音报知部64输出声音。
像这样,在第四实施方式中,通过在显示器62A上进行同样的显示,并且使蜂鸣器64A的声音输出的有无不同,与插入工序的情况相比,相对地提高了拔出工序的情况下的报知力。
<第五实施方式>
第五实施方式所涉及的识别结果报知部60的结构与第四实施方式所涉及的识别结果报知部60的结构相同。
在第五实施方式中,报知控制部58在检查的工序是拔出工序的情况下,使识别结果报知部60以与是插入工序的情况相比报知力相对变高的方式报知检测到病变的意思。即,在插入工序中,报知控制部58使声音报知部64输出声音。另外,在拔出工序中,报知控制部58使声音报知部64输出声音,并且使显示报知部62与图9的F92同样地在显示器62A上显示图标102B。
像这样,在第五实施方式中,通过蜂鸣器64A进行同样的声音输出,并且使显示器62A的显示不同,与插入工序的情况相比,相对地提高了拔出工序的情况下的报知力。
<第六实施方式>
图17是表示第六实施方式所涉及的识别结果报知部60的结构的框图。在本实施方式中,识别结果报知部60具备显示报知部62、声音报知部64以及点亮报知部66。
在第六实施方式中,报知控制部58在检查的工序是拔出工序的情况下,使识别结果报知部60以与是插入工序的情况相比报知力相对变高的方式报知检测到病变的意思。即,在插入工序中,报知控制部58通过点亮报知部66使灯66A点亮。另外,在拔出工序中,报知控制部58通过点亮报知部66使灯66A点亮,并且通过显示报知部62将表示病变L的范围的图形108在显示器62A的病变L的位置重叠显示在图像G上,并且通过声音报知部64输出蜂鸣器64A的声音。
像这样,在第六实施方式中,通过灯66A进行同样的点亮,并且使显示器62A的显示及蜂鸣器64A的声音的输出不同,与插入工序的情况相比,相对地提高了拔出工序的情况下的报知力。
此外,当设N为0~2中的任意一个整数时,报知控制部58也可以在插入工序中通过显示报知部62、声音报知部64以及点亮报知部66中的任意N个进行报知,在拔出工序中通过显示报知部62、声音报知部64以及点亮报知部66中的至少(N+1)个进行报知。显示报知部62进行的报知使用通过文字的显示进行的报知、通过图标的显示进行的报知、通过背景色的变更进行的报知、通过帧的显示进行的报知、通过表示病变的范围的图形的显示进行的报知中的任一种即可。声音报知部64进行的报知是通过蜂鸣器64A的报知音进行的报知。另外,点亮报知部66进行的报知是通过灯66A的点亮进行的报知。
即使像这样进行报知,与插入工序的情况相比,也能够相对地提高拔出工序的情况下的报知力。报知的方法只要是与插入工序的情况相比可相对地提高拔出工序的情况下的报知力、且可期待进一步提醒医生注意的方法,则可以是任意的方法。
<附记>
除了上述方面和例子以外,以下记载的结构也包括在本发明的范围中。
(附记1)
一种医疗图像处理装置,其中,
医疗图像分析处理部基于医疗图像(内窥镜图像)的像素的特征量,检测应关注的区域即关注区域,
医疗图像分析结果获取部获取医疗图像分析处理部的分析结果。
(附记2)
一种医疗图像处理装置,其中,
医疗图像分析处理部基于医疗图像的像素的特征量,检测是否有应关注对象,
医疗图像分析结果获取部获取医疗图像分析处理部的分析结果。
(附记3)
一种医疗图像处理装置,其中,
医疗图像分析结果获取部从记录医疗图像的分析结果的记录装置中获取分析结果,
分析结果是包含在医疗图像中的应关注区域即关注区域、和是否有应关注对象中的任一方或双方。
(附记4)
一种医疗图像处理装置,其中,
医疗图像是通过照射白色波段的光、或作为白色波段的光的多个波段的光而得的普通光图像。
(附记5)
一种医疗图像处理装置,其中,
医疗图像是通过照射特定波段的光而得的图像,
特定波段是比白色波段窄的波段。
(附记6)
一种医疗图像处理装置,其中,
特定波段是可见范围的蓝色或绿色波段。
(附记7)
一种医疗图像处理装置,其中,
特定波段包括390nm以上450nm以下或530nm以上550nm以下的波段,并且,特定波段的光在390nm以上450nm以下或530nm以上550nm以下的波段内具有峰波长。
(附记8)
一种医疗图像处理装置,其中,
特定波段是可见范围的红色波段。
(附记9)
一种医疗图像处理装置,其中,
特定波段包括585nm以上615nm以下或610nm以上730nm以下的波段,并且,特定波段的光在585nm以上615nm以下或610nm以上730nm以下的波段内具有峰波长。
(附记10)
一种医疗图像处理装置,其中,
特定波段包括氧合血红蛋白与还原血红蛋白中的吸光系数不同的波段,并且,特定波段的光在氧合血红蛋白与还原血红蛋白中的吸光系数不同的波段具有峰波长。
(附记11)
一种医疗图像处理装置,其中,
特定波段包括400±10nm、440±10nm、470±10nm、或600nm以上750nm以下的波段,并且,特定波段的光在400±10nm、440±10nm、470±10nm、或600nm以上750nm以下的波段具有峰波长。
(附记12)
一种医疗图像处理装置,其中,
医疗图像是拍摄了生物体内的生物体内图像,
生物体内图像具有生物体内的荧光物质发出的荧光的信息。
(附记13)
一种医疗图像处理装置,其中,
荧光是通过向生物体内照射峰值为390nm以上470nm以下的激励光而得的。
(附记14)
一种医疗图像处理装置,其中,
医疗图像是拍摄了生物体内的生物体内图像,
特定波段是红外光的波段。
(附记15)
一种医疗图像处理装置,其中,
特定波段包括790nm以上820nm以下或905nm以上970nm以下的波段,并且,特定波段的光在790nm以上820nm以下或905nm以上970nm以下的波段具有峰波长。
(附记16)
一种医疗图像处理装置,其中,
医疗图像获取部具备特殊光图像获取部,该特殊光图像获取部基于通过照射白色波段的光、或作为白色波段的光的多个波段的光而得的普通光图像,获取具有特定波段的信息的特殊光图像,
医疗图像是特殊光图像。
(附记17)
一种医疗图像处理装置,其中,
特定波段的信号是通过基于包含在普通光图像中的RGB(Red Green Blue)或者CMY(Cyan,Magenta,Yellow)的颜色信息的运算而得的。
(附记18)
一种医疗图像处理装置,其中,
具备特征量图像生成部,其利用基于通过照射白色波段的光、或作为白色波段的光的多个波段的光而得的普通光图像、和通过照射特定波段的光而得的特殊光图像中的至少一方的运算,生成特征量图像,
医疗图像是特征量图像。
(附记19)
一种内窥镜装置,其中,具备:
附记1至18中任一项所述的医疗图像处理装置;以及
内窥镜,其通过照射白色波段的光、或特定波段的光中至少任一个获取图像。
(附记20)
一种诊断支援装置,其中,
具备附记1至18中任一项所述的医疗图像处理装置。
(附记21)
一种医疗业务支援装置,其中,
具备附记1至18中任一项所述的医疗图像处理装置。
在至此说明的实施方式中,执行例如图像识别部46、报知控制部58以及插拔判别部68的各种处理的处理部(processing unit)的硬件结构为如下所示的各种处理器(processor)。在各种处理器中,包括执行软件(程序)并作为各种处理部发挥功能的通用处理器即CPU(Central Processing Unit)、专门用于图像处理的处理器即GPU(GraphicsProcessing Unit)、制造FPGA(Field Programmable Gate Array)等后可改变电路结构的处理器即可编程逻辑器件(Programmable Logic Device:PLD)、以及具有为了执行ASIC(Application Specific Integrated Circuit)等特定处理而专门设计的电路结构的处理器即专用电路等。
一个处理部可以由这些各种处理器中的一个构成,也可以由同种或异种的两个以上的处理器(例如,多个FPGA、或CPU与FPGA的组合、或CPU与GPU的组合)构成。另外,还可以用一个处理器构成多个处理部。作为用一个处理器构成多个处理部的例子,首先,有诸如以服务器及客户端等计算机为代表,使用一个以上的CPU与软件的组合构成一个处理器、并将该处理器作为多个处理部发挥功能的形态。其次,有诸如以片上系统(System On Chip:SoC)等为代表,使用以一个IC(Integrated Circuit)芯片实现包括多个处理部的系统整体的功能的处理器的形态。像这样,使用一个以上的各种处理器作为硬件结构来构成各种处理部。
而且,更具体而言,这些各种处理器的硬件结构是组合了半导体元件等电路元件的电路(circuitry)。
本发明的技术范围不限于上述实施方式中所记载的范围。各实施方式中的结构等在不脱离本发明的主旨的范围内可以在各实施方式之间适当组合。
符号说明
10 内窥镜系统
12 内窥镜
12A 插入部
12B 操作部
12C 弯曲部
12D 顶端部
12E 弯角钮
13 模式切换开关
14 光源装置
16 处理器装置
18 显示部
20 输入部
22A 第一激光光源
22B 第二激光光源
24 光源控制部
28A 光纤
28B 光纤
30 荧光体
32 扩散部件
34 摄像透镜
36 摄像元件
38 模拟数字转换部
40 摄影控制部
42 图像处理部
44 图像获取部
46 图像识别部
48 部位识别部
50 检测部
50A 第一检测部
50B 第二检测部
50C 第三检测部
50D 第四检测部
50E 第五检测部
50F 第六检测部
50G 第七检测部
50H 第八检测部
52 鉴别部
54 参数存储部
54A 第一参数存储部
54B 第二参数存储部
54C 第三参数存储部
54D 第四参数存储部
54E 第五参数存储部
54F 第六参数存储部
54G 第七参数存储部
54H 第八参数存储部
58 报知控制部
60 识别结果报知部
62 显示报知部
62A 显示器
64 声音报知部
64A 蜂鸣器
66 点亮报知部
66A 灯
68 插拔判别部
70 显示控制部
72 存储控制部
74 存储部
100A 文字
100B 文字
102A 图标
102B 图标
106A 帧
106B 帧
108 图形
G 图像
L 病变
L1 光
L11 激励光
L12 激光光
L2 光
S1~S7 识别结果的报知方法的各处理

Claims (13)

1.一种用于对患者的管腔内进行检查的内窥镜系统,其中,具备:
插入部,其插入到所述管腔内;
摄像装置,其拍摄所述管腔内而获取内窥镜图像;
关注区域检测部,其从所述内窥镜图像中检测关注区域;
检测结果报知部,其进行所述关注区域的检测结果的报知;
插拔判别部,其判别所述检查的工序是将所述插入部插入到所述管腔内的折返地点的插入工序和将所述插入部从所述折返地点拔出的拔出工序中的哪一个工序;以及
报知控制部,根据所述插拔判别部判别的工序,使所述检测结果报知部进行报知。
2.根据权利要求1所述的内窥镜系统,其中,
所述检测结果报知部具备显示报知部,所述显示报知部通过显示器的显示来报知已检测到所述关注区域的意思,
所述报知控制部在所述插入工序中使第一大小的文字显示,在所述拔出工序中使比所述第一大小大的第二大小的文字显示。
3.根据权利要求1或2所述的内窥镜系统,其中,
所述检测结果报知部具备显示报知部,所述显示报知部通过显示器的显示来报知已检测到所述关注区域的意思,
所述报知控制部在所述插入工序中使第一大小的图标显示,在所述拔出工序中使比所述第一大小大的第二大小的图标显示。
4.根据权利要求1至3中任一项所述的内窥镜系统,其中,
所述检测结果报知部具备显示报知部,所述显示报知部通过显示器的显示来报知已检测到所述关注区域的意思,
所述报知控制部在所述插入工序中使第一背景色的背景显示,在所述拔出工序中使明度比所述第一背景色高的第二背景色的背景显示。
5.根据权利要求1至4中任一项所述的内窥镜系统,其中,
所述检测结果报知部具备显示报知部,所述显示报知部通过显示器的显示来报知已检测到所述关注区域的意思,
所述报知控制部在所述插入工序中使包含所述关注区域的第一大小的帧与所述内窥镜图像一起显示,在所述拔出工序中使包含所述关注区域的比所述第一大小大的第二大小的帧与所述内窥镜图像一起显示。
6.根据权利要求1所述的内窥镜系统,其中,
所述检测结果报知部具备显示报知部,所述显示报知部通过显示器的显示来报知已检测到所述关注区域的意思,
所述报知控制部在所述插入工序中不显示或使图标显示,在所述拔出工序中使表示所述关注区域的范围的图形在所述关注区域的位置重叠显示于所述内窥镜图像。
7.根据权利要求1所述的内窥镜系统,其中,
所述检测结果报知部具备显示报知部,所述显示报知部通过显示器的显示来报知已检测到所述关注区域的意思,
所述报知控制部在所述插入工序中仅在检测到所述关注区域时使表示所述关注区域的范围的图形在所述关注区域的位置重叠显示于所述内窥镜图像,在所述拔出工序中在检测到所述关注区域时及检测到所述关注区域后的固定时间中使表示所述关注区域的范围的图形在所述关注区域的位置重叠显示于所述内窥镜图像。
8.根据权利要求1至7中任一项所述的内窥镜系统,其中,
所述检测结果报知部具备声音报知部,所述声音报知部通过声音的输出来报知已检测到所述关注区域的意思,
所述报知控制部在所述插入工序中以第一音量输出,在所述拔出工序中以比所述第一音量大的第二音量输出。
9.根据权利要求1至8中任一项所述的内窥镜系统,其中,
所述检测结果报知部具备点亮报知部,所述点亮报知部通过灯的点亮来报知已检测到所述关注区域的意思,
所述报知控制部在所述插入工序中以第一光量点亮,在所述拔出工序中以比所述第一光量大的第二光量点亮。
10.根据权利要求1所述的内窥镜系统,其中,
所述检测结果报知部具备:
显示报知部,其通过显示器的显示进行报知;以及
声音报知部,其通过声音的输出进行报知,
所述报知控制部在所述插入工序中使所述显示报知部将表示所述关注区域的范围的图形在所述关注区域的位置重叠显示于所述内窥镜图像,在所述拔出工序中使所述显示报知部将表示所述关注区域的范围的图形在所述关注区域的位置重叠显示于所述内窥镜图像,并且使所述声音报知部输出声音。
11.根据权利要求1所述的内窥镜系统,其中,
所述检测结果报知部具备:
显示报知部,其通过显示器的显示进行报知;以及
声音报知部,其通过声音的输出进行报知,
所述报知控制部在所述插入工序中使所述声音报知部输出声音,在所述拔出工序中使所述声音报知部输出声音,并且使所述显示报知部显示图标。
12.根据权利要求1所述的内窥镜系统,其中,
所述检测结果报知部具备:
显示报知部,其通过显示器的显示进行报知;
声音报知部,其通过声音的输出进行报知;以及
点亮报知部,其通过灯的点亮进行报知,
所述报知控制部在所述插入工序中使所述点亮报知部点亮灯,在所述拔出工序中使所述点亮报知部点亮灯,并且使所述显示报知部将表示所述关注区域的范围的图形在所述关注区域的位置重叠显示于所述内窥镜图像,并且使所述声音报知部输出声音。
13.根据权利要求1所述的内窥镜系统,其中,
所述检测结果报知部具备:
显示报知部,其通过显示器的显示进行报知;
声音报知部,其通过声音的输出进行报知;以及
点亮报知部,其通过灯的点亮进行报知,
当设N为0~2中的任意一个整数时,所述报知控制部在所述插入工序中通过显示报知部、声音报知部以及点亮报知部中的任意N个进行报知,在所述拔出工序中通过显示报知部、声音报知部以及点亮报知部中的至少(N+1)个进行报知。
CN201980046872.2A 2018-07-20 2019-06-17 内窥镜系统 Active CN112423645B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018-136923 2018-07-20
JP2018136923 2018-07-20
PCT/JP2019/023883 WO2020017212A1 (ja) 2018-07-20 2019-06-17 内視鏡システム

Publications (2)

Publication Number Publication Date
CN112423645A true CN112423645A (zh) 2021-02-26
CN112423645B CN112423645B (zh) 2023-10-31

Family

ID=69165038

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201980046872.2A Active CN112423645B (zh) 2018-07-20 2019-06-17 内窥镜系统

Country Status (5)

Country Link
US (1) US20210106209A1 (zh)
EP (1) EP3824796B1 (zh)
JP (1) JP7125484B2 (zh)
CN (1) CN112423645B (zh)
WO (1) WO2020017212A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115778570A (zh) * 2023-02-09 2023-03-14 岱川医疗(深圳)有限责任公司 一种内窥镜检测方法、控制装置及检测系统

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220148182A1 (en) * 2019-03-12 2022-05-12 Nec Corporation Inspection device, inspection method and storage medium
WO2021201272A1 (ja) * 2020-04-03 2021-10-07 富士フイルム株式会社 医療画像処理装置、内視鏡システム及び医療画像処理装置の作動方法並びに医療画像処理装置用プログラム
WO2022014077A1 (ja) * 2020-07-15 2022-01-20 富士フイルム株式会社 内視鏡システム及びその作動方法
JPWO2022107492A1 (zh) * 2020-11-17 2022-05-27
EP4285810A4 (en) * 2021-01-27 2024-06-12 FUJIFILM Corporation DEVICE, METHOD AND PROGRAM FOR PROCESSING MEDICAL IMAGES
WO2022234743A1 (ja) * 2021-05-06 2022-11-10 富士フイルム株式会社 動画像処理装置、動画像処理方法及びプログラム、動画像表示システム
EP4442188A1 (en) * 2021-12-02 2024-10-09 NEC Corporation Endoscopic examination assistance device, endoscopic examination assistance system, endoscopic examination assistance method, and recording medium
WO2024104926A1 (en) * 2022-11-16 2024-05-23 Sony Group Corporation A medical control system, method and computer program

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101317749A (zh) * 2007-06-06 2008-12-10 奥林巴斯医疗株式会社 内窥镜图像处理装置
JP2010172673A (ja) * 2009-02-02 2010-08-12 Fujifilm Corp 内視鏡システム、内視鏡用プロセッサ装置、並びに内視鏡検査支援方法
JP2011200283A (ja) * 2010-03-24 2011-10-13 Olympus Corp 制御装置、内視鏡システム、プログラム及び制御方法
CN102469930A (zh) * 2009-11-06 2012-05-23 奥林巴斯医疗株式会社 内窥镜系统
CN106470590A (zh) * 2014-12-25 2017-03-01 奥林巴斯株式会社 插入装置
CN107708521A (zh) * 2015-06-29 2018-02-16 奥林巴斯株式会社 图像处理装置、内窥镜系统、图像处理方法以及图像处理程序

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8864652B2 (en) * 2008-06-27 2014-10-21 Intuitive Surgical Operations, Inc. Medical robotic system providing computer generated auxiliary views of a camera instrument for controlling the positioning and orienting of its tip
US10004387B2 (en) * 2009-03-26 2018-06-26 Intuitive Surgical Operations, Inc. Method and system for assisting an operator in endoscopic navigation
JP5220780B2 (ja) * 2010-02-05 2013-06-26 オリンパス株式会社 画像処理装置、内視鏡システム、プログラム及び画像処理装置の作動方法
JP5865606B2 (ja) * 2011-05-27 2016-02-17 オリンパス株式会社 内視鏡装置及び内視鏡装置の作動方法
US10499794B2 (en) * 2013-05-09 2019-12-10 Endochoice, Inc. Operational interface in a multi-viewing element endoscope
WO2017006404A1 (ja) 2015-07-03 2017-01-12 オリンパス株式会社 内視鏡システム
EP3366188A4 (en) * 2015-10-20 2019-11-13 Olympus Corporation INTRODUCTION BODY SUPPORT SYSTEM
JPWO2017073337A1 (ja) * 2015-10-27 2017-11-09 オリンパス株式会社 内視鏡装置及びビデオプロセッサ
JP6266179B2 (ja) * 2015-12-22 2018-01-24 オリンパス株式会社 内視鏡用画像処理装置及び内視鏡システム
US10292570B2 (en) * 2016-03-14 2019-05-21 Endochoice, Inc. System and method for guiding and tracking a region of interest using an endoscope
CN108024833B (zh) * 2016-06-30 2021-06-04 直观外科手术操作公司 用于在图像引导过程期间显示引导信息的图形用户界面
JP6710284B2 (ja) * 2016-10-12 2020-06-17 オリンパス株式会社 挿入システム
JP6833870B2 (ja) * 2016-12-07 2021-02-24 オリンパス株式会社 画像処理装置
CN112105286B (zh) * 2018-05-17 2024-09-10 富士胶片株式会社 内窥镜装置、内窥镜操作方法及计算机可读取记录介质

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101317749A (zh) * 2007-06-06 2008-12-10 奥林巴斯医疗株式会社 内窥镜图像处理装置
JP2010172673A (ja) * 2009-02-02 2010-08-12 Fujifilm Corp 内視鏡システム、内視鏡用プロセッサ装置、並びに内視鏡検査支援方法
CN102469930A (zh) * 2009-11-06 2012-05-23 奥林巴斯医疗株式会社 内窥镜系统
JP2011200283A (ja) * 2010-03-24 2011-10-13 Olympus Corp 制御装置、内視鏡システム、プログラム及び制御方法
CN106470590A (zh) * 2014-12-25 2017-03-01 奥林巴斯株式会社 插入装置
CN107708521A (zh) * 2015-06-29 2018-02-16 奥林巴斯株式会社 图像处理装置、内窥镜系统、图像处理方法以及图像处理程序

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115778570A (zh) * 2023-02-09 2023-03-14 岱川医疗(深圳)有限责任公司 一种内窥镜检测方法、控制装置及检测系统

Also Published As

Publication number Publication date
EP3824796A4 (en) 2021-09-15
JP7125484B2 (ja) 2022-08-24
JPWO2020017212A1 (ja) 2021-07-15
EP3824796A1 (en) 2021-05-26
WO2020017212A1 (ja) 2020-01-23
EP3824796B1 (en) 2024-05-15
CN112423645B (zh) 2023-10-31
US20210106209A1 (en) 2021-04-15

Similar Documents

Publication Publication Date Title
CN112423645A (zh) 内窥镜系统
US12114832B2 (en) Medical image processing device, endoscope system, medical image processing method, and program
JP7021183B2 (ja) 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
US12035879B2 (en) Medical image processing apparatus, endoscope system, and medical image processing method
JP7289296B2 (ja) 画像処理装置、内視鏡システム及び画像処理装置の作動方法
CN111526773B (zh) 内窥镜图像获取系统及方法
WO2019220848A1 (ja) 内視鏡装置、内視鏡操作方法、及びプログラム
JP7374280B2 (ja) 内視鏡装置、内視鏡プロセッサ、及び内視鏡装置の作動方法
JP7507797B2 (ja) 医用画像処理装置、内視鏡システム、医用画像処理装置の作動方法、プログラム、及び記録媒体
CN114945315A (zh) 医疗图像处理装置、医疗图像处理装置的动作方法、及内窥镜系统
CN117442144A (zh) 内窥镜系统及其成像方法
WO2022181748A1 (ja) 医療画像処理装置、内視鏡システム、医療画像処理方法、及び医療画像処理プログラム
US20220151461A1 (en) Medical image processing apparatus, endoscope system, and medical image processing method
KR20220164759A (ko) 이미지 프로세싱 시스템들 및 이의 사용 방법들
CN111989026A (zh) 内窥镜装置、内窥镜操作方法及程序

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant