CN112584745A - 内窥镜系统及医疗图像处理系统 - Google Patents

内窥镜系统及医疗图像处理系统 Download PDF

Info

Publication number
CN112584745A
CN112584745A CN201980054737.2A CN201980054737A CN112584745A CN 112584745 A CN112584745 A CN 112584745A CN 201980054737 A CN201980054737 A CN 201980054737A CN 112584745 A CN112584745 A CN 112584745A
Authority
CN
China
Prior art keywords
region
determination
interest
medical image
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201980054737.2A
Other languages
English (en)
Other versions
CN112584745B (zh
Inventor
臼田稔宏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of CN112584745A publication Critical patent/CN112584745A/zh
Application granted granted Critical
Publication of CN112584745B publication Critical patent/CN112584745B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2407Optical details
    • G02B23/2446Optical details of the image relay
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00055Operational features of endoscopes provided with output arrangements for alerting the user

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biomedical Technology (AREA)
  • Public Health (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Astronomy & Astrophysics (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Abstract

本发明提供一种可辅助用户以便能够返回到有用户漏看的关注区域的观察区域的内窥镜系统及医疗图像处理系统。从第一定时的医疗图像(50)中检测处于第一观察区域(OP1)的关注区域。在内窥镜的顶端部(40a)从第一观察区域(OP1)朝向第二观察区域(OP2)、并再次向第一观察区域(OP1)移动的情况下,重访判定部(47)进行根据在第二定时获取的医疗图像(52)判定顶端部(40a)是否已返回到第一观察区域(OP1)的第一判定处理。显示控制部(37)使用重访判定部(47)的判定结果进行监视器(37)的显示控制。

Description

内窥镜系统及医疗图像处理系统
技术领域
本发明涉及一种使用医疗图像的分析结果的内窥镜系统及医疗图像处理系统。
背景技术
在当前的医疗领域中,像具备光源装置、内窥镜及处理器装置的内窥镜系统等那样,使用医疗图像的医疗图像处理系统正在普及。另外,近年来,通过从医疗图像中提取存在病变部可能性的关注区域,并对提取的关注区域进行图像分析,来获取有关病况的诊断信息。
例如,在专利文献1中,预先保存从医疗图像中检测到的关注区域的图像,并在关注区域从医疗图像上消失的定时,在与显示医疗图像的观察区域不同的区域,显示预先保存的关注区域的图像。另外,在专利文献2中,通过预先保存检测到关注区域时的血管信息,即使是使关注区域从画面上消失的情况,也能够以预先保存的血管信息为线索再次返回到关注区域的位置。另外,在专利文献3中,当检测到关注区域时,在与显示用户用于观察的观察图像的区域不同的区域显示关注区域的静止图像。
以往技术文献
专利文献
专利文献1:国际公开第2017/216922号
专利文献2:日本特开2012-10733号公报
专利文献3:国际公开第2017/073337号
发明内容
发明要解决的技术课题
在使用内窥镜系统的内窥镜检查中,在以像筛查那样检测病变等关注区域为目的的情况下,将内窥镜的顶端部插入至最深位置后,慢慢移动顶端部将其拔出。在此,在拔出时,在瞬间通过有关注区域的观察区域的情况下,即使自动进行了关注区域的检测,用户也可能不会注意到关注区域。另外,假设即使用户注意到了关注区域,也有时由于关注区域周边的观察对象的形状变化等而难以返回到有关注区域的观察区域。因此,要求辅助用户以便能够返回到有用户漏看的关注区域的观察区域。此外,在专利文献2中,对于在通过了关注区域的情况下再次返回关注区域的位置虽有所记载,但如上所述,由于有时关注区域周边的观察对象的形状等发生变化,因此若没有直至返回关注区域的位置的辅助,则有时难以返回到关注区域的位置。
本发明的目的在于提供一种可辅助用户以便能够返回到有用户漏看的关注区域的观察区域的内窥镜系统及医疗图像处理系统。
用于解决技术课题的手段
本发明的内窥镜系统具备内窥镜、医疗图像获取部、关注区域检测部、第一判定部以及显示控制部。内窥镜在顶端部设有拍摄观察对象并输出医疗图像的摄像元件。医疗图像获取部获取医疗图像。关注区域检测部从在第一定时获取的医疗图像中检测观察对象中处于第一观察区域的关注区域。在顶端部离开第一观察区域并移动到朝向与第一观察区域不同的第二观察区域的方向之后,在顶端部离开第二观察区域并向朝向第一观察区域的方向移动的情况下,第一判定部进行根据在与第一定时不同的第二定时获取的医疗图像判定顶端部是否已返回到第一观察区域的第一判定处理。显示控制部使用第一判定部的判定结果进行显示部的显示控制。
优选的是,第一判定部使用第一定时的医疗图像与第二定时的医疗图像的相似度,进行第一判定处理。优选的是,在相似度为第一判定用相似度以上的情况下,第一判定部判定为顶端部位于第一观察区域。优选的是,在相似度为第一判定用相似度以上、且关注区域检测部检测到第一观察区域的关注区域的情况下,第一判定部判定为顶端部已返回到第一观察位置。
优选的是,具有第二判定部,该第二判定部进行判定是否漏看了第一观察区域的关注区域的第二判定处理,显示控制部使用第一判定部的判定结果及第二判定部的判定结果进行显示控制。优选的是,第二判定部使用表示从检测到第一观察区域的关注区域开始直到关注区域从显示部消失为止的时间的第一时间、或表示自关注区域从显示部消失起的时间的第二时间中的至少一方,进行第二判定处理。
优选的是,在第一时间比第二判定用第一时间短的情况下,第二判定部判定为漏看了第一观察区域的关注区域。优选的是,在第一时间比第二判定用第一时间短、且第二时间为第二判定用第二时间以上的情况下,第二判定部判定为漏看了第一观察区域的关注区域。优选的是,在通过医疗图像获取部获取的医疗图像与第一定时的医疗图像的相似度低于第二判定用相似度的情况下,第二判定部判定为漏看了第一观察区域的关注区域。优选的是,第二判定部使用表示从检测到第一观察区域的关注区域开始直到关注区域从显示部消失为止的时间的第一时间、或表示自关注区域从显示部消失起的时间的第二时间中的至少一方、和通过医疗图像获取部获取的医疗图像与第一定时的医疗图像的相似度,进行第二判定处理。
优选的是,在通过第二判定处理判定为漏看了第一观察区域的关注区域的漏看判定定时、和判定为顶端部已返回到第一观察区域的重访判定定时,显示控制部进行与显示了第一观察区域的关注区域的关注区域图像相关的显示控制。优选的是,显示控制部在漏看判定定时开始关注区域图像的显示,在从漏看判定定时到重访判定定时期间,维持关注区域图像的显示。优选的是,显示控制部在重访判定定时,不显示关注区域图像。优选的是,显示控制部在重访判定定时,显示对关注区域图像实施了强调处理的强调图像。
本发明的医疗图像处理系统具备医疗图像获取部、关注区域检测部、第一判定部以及显示控制部。医疗图像获取部获取拍摄观察对象而得到的医疗图像。关注区域检测部从在第一定时获取的所述医疗图像中检测观察对象中处于第一观察区域的关注区域。第一判定部进行判定在与第一定时不同的第二定时获取的医疗图像中是否包含第一观察区域的图像的至少一部分的第一判定处理。显示控制部使用第一判定部的判定结果进行显示部的显示控制。
发明效果
根据本发明,可辅助用户以便能够返回到有用户漏看的关注区域的观察区域。
附图说明
图1是表示图像处理系统和内窥镜系统等的框图。
图2是表示内窥镜系统的框图。
图3是表示内窥镜的概略图。
图4是表示医疗图像分析处理部的功能的框图。
图5是表示内窥镜的顶端部从第一观察区域向第二观察区域移动、并返回到第一观察区域的说明图。
图6是表示在漏看判定定时显示关注区域图像的说明图。
图7是表示在重访判定定时不显示关注区域图像的说明图。
图8是表示在重访判定定时显示强调图像的说明图。
图9是表示第一时间的说明图。
图10是表示第二时间的说明图。
图11是表示关注区域显示期间及关注区域非显示期间的相似度的说明图。
图12是表示使用相似度的重访判定处理的说明图。
图13是表示使用相似度及关注区域的检测结果的重访判定处理的说明图。
图14是表示漏看判定处理及重访判定处理的一系列流程的流程图。
图15是表示包括图像处理系统的诊断支援装置的概略图。
图16是表示包括图像处理系统的医疗业务支援装置的概略图。
具体实施方式
如图1所示,图像处理系统10具备医疗图像获取部11、医疗图像分析处理部12、显示部13、显示控制部15、输入接收部16、总括控制部17及保存部18。
医疗图像获取部11从作为医疗装置的内窥镜系统21等直接、或经由PACS(PictureArchiving and Communication System)22等管理系统或者其他信息系统,获取包含被摄体像的医疗图像。医疗图像是静止图像或动态图像(所谓的检查动态图像)。医疗图像为动态图像时,医疗图像获取部11可在检查后获取构成动态图像的帧图像作为静止图像。另外,医疗图像为动态图像时,在医疗图像的显示中,除了显示构成动态图像的一个代表帧的静止图像以外,还包括一次或多次回放动态图像。另外,在医疗图像获取部11获取的医疗图像中,除了医生使用内窥镜系统21等医疗装置拍摄的图像以外,还包括与医生的拍摄指示无关地由内窥镜系统21等医疗装置自动拍摄到的图像。此外,在本实施方式中,由于图像处理系统10及内窥镜系统21都使用医疗图像进行图像处理,故图像处理系统10及内窥镜系统21皆相当于医疗图像处理系统。作为医疗图像系统,此外还包括实时获取并显示图像的超声波诊断装置。
医疗图像获取部11在能够获取多个医疗图像的情况下,可选择性地获取这些医疗图像中的一个或多个医疗图像。另外,医疗图像获取部11可获取在多个互不相同的检查中获取的多个医疗图像。例如,可获取在过去进行的检查中获取的医疗图像和在最新的检查中获取的医疗图像中的一方或两方。即,医疗图像获取部11可任意获取医疗图像。
在本实施方式中,获得多个包含被摄体像的医疗图像。更具体而言,获取在一次特定的检查中拍摄到的医疗图像,并且,当存在多个在一次特定的检查中拍摄到的医疗图像时,获取一系列医疗图像中的多个医疗图像。另外,在本实施方式中,图像处理系统10与内窥镜系统21连接,从内窥镜系统21获取医疗图像。即,在本实施方式中,医疗图像是内窥镜图像。
显示部13是显示医疗图像获取部11获取的医疗图像、及医疗图像分析处理部12的分析结果的显示器。可共用图像处理系统10所连接的设备等包括的监视器或显示器,并作为图像处理系统10的显示部13来使用。显示控制部15控制显示部13中的医疗图像及分析结果的显示形态。
输入接收部16接受来自连接于图像处理系统10的鼠标、键盘、及其他操作设备的输入。图像处理系统10的各部的动作可使用这些操作设备进行控制。
总括控制部17总括控制图像处理系统10的各部的动作。在输入接收部16接收到使用了操作设备的操作输入的情况下,总括控制部17根据该操作输入控制图像处理系统10的各部。
保存部18将医疗图像的静止画面等保存在图像处理系统10包括的存储器等存储设备(未图示)、或内窥镜系统21等医疗装置或者PACS22包括的存储设备(未图示)中。
如图2所示,在本实施方式中,图像处理系统10所连接的内窥镜系统21具有通过照射白色的波长频带的光或特定波长频带的光中的至少任一种光拍摄被摄体来获取图像的内窥镜31、经由内窥镜31将照明光照射到被摄体内的光源装置32、处理器装置33、及显示使用内窥镜31拍摄到的内窥镜图像等医疗图像的监视器34。内窥镜31在照明光中使用的特定波长频带的光例如是比绿色波长频带短的波长频带的光、特别是可见范围的蓝色频带或紫色频带的光。
处理器装置33具备医疗图像获取部35、医疗图像分析处理部36及显示控制部37。医疗图像获取部35获取从内窥镜31输出的医疗图像。医疗图像分析处理部36对通过医疗图像获取部35获取的医疗图像进行分析处理。在医疗图像分析处理部36的处理内容与在图像处理系统10的医疗图像分析处理部12的处理内容同样。显示控制部37将在医疗图像分析处理部36获得的医疗图像显示于监视器34(显示部)。处理器装置33与图像处理系统10连接。此外,医疗图像获取部35与医疗图像获取部11同样,医疗图像分析处理部36与医疗图像分析处理部12同样,显示控制部37与显示控制部15同样。
如图3所示,内窥镜31具备插入受检体内的插入部40和设于插入部40的基端部分的操作部41。在插入部40的顶端部40a的内部,设有拍摄受检体内的观察对象的摄像元件42。由摄像元件42拍摄到的医疗图像被发送到处理器装置33。
医疗图像分析处理部36使用医疗图像获取部11获取的医疗图像进行分析处理。如图4所示,医疗图像分析处理部12包括关注区域检测部45、漏看判定部46(第二判定部)以及重访判定部47(第一判定部)。在关注区域检测部45中,进行从医疗图像中检测关注区域的关注区域检测处理。当检测到关注区域时,显示关注区域的关注区域图像被存储在处理器装置33内的图像存储部(未图示)中。作为关注区域检测处理,例如,可以使用NN(NeuralNetwork)、CNN(Convolutional Neural Network)、Adaboost、随机森林(random forest)等。另外,作为关注区域检测处理,也可以基于通过医疗图像的颜色信息、像素值的梯度等获得的特征量,进行关注区域的检测。此外,像素值的梯度等例如根据被摄体的形状(粘膜的整体起伏或局部凹陷或者凸起等)、颜色(炎症、出血、发红、或由于萎缩引起的白化等颜色)、组织的特征(血管的粗细、深度、密度或者它们的组合等)、或结构的特征(腺管开口形态(pit pattern)等)等表现出变化。
此外,通过关注区域检测部45检测的关注区域例如是包括以癌症为代表的病变部、良性肿瘤部、炎症部(除了所谓的炎症以外,还包括有出血或萎缩等变化的部分)、大肠憩室、治疗疤痕(EMR(Endoscopic mucosal resection)瘢痕、ESD(Endoscopic SubmucosalDissection)瘢痕、夹持部位)、出血点、穿孔、血管异型性、由于因加热而导致的烧伤疤或者通过着色剂、荧光药剂等的着色进行了标记的标记部、或实施了生物体检查(所谓的活检)的活检实施部的区域。即,包含病变的区域、可能发生病变的区域、进行了活检等某种处置的区域、夹具或钳子等处置器具、或暗部区域(由于是褶皱(皱纹)的背后、管腔里面而导致观察光难以到达的区域)等无论是否可能发生了病变都需要详细观察的区域等可成为关注区域。在内窥镜系统21中,关注区域检测部45检测包括病变部、良性肿瘤部、炎症部、大肠憩室、治疗疤痕、出血点、穿孔、血管异型性标记部或活检实施部中的至少任意一者的区域作为关注区域。
如图5所示,在第一定时获取的医疗图像50中,在利用关注区域检测部45检测到观察对象中的第一观察区域OP1的关注区域51的情况下,漏看判定部46进行用户是否漏看了关注区域的漏看判定处理(第二判定处理)。后面说明漏看判定处理的详情。另外,通过用户注意到关注区域漏看,并使内窥镜的顶端部40a移动,重访判定部47进行顶端部40a是否返回到原来的第一观察区域OP1的重访判定。
然后,在虽然利用关注区域检测部45检测到了关注区域51、但用户未注意到关注区域的存在的情况下,内窥镜的顶端部40a离开第一观察区域OP1,并向朝向与第一观察区域不同的第二观察区域OP2的方向移动。之后,在用户注意到关注区域漏看的情况下,顶端部40a通过用户的操作而离开第二观察区域OP2,并向朝向第一观察区域OP1的方向移动。然后,重访判定部47使用在顶端部40a向朝向第一观察区域OP1的方向移动的第二定时获取的医疗图像52,判定顶端部40a是否已返回到原来的第一观察区域OP1。即,重访判定部47进行判定在第二定时的医疗图像52中是否包含第一观察区域OP1的图像的至少一部分的重访判定处理(第一判定处理)。重访判定处理从漏看判定定时起以一定间隔持续进行。后面说明重访判定处理的详情。
如上所述,作为发生关注区域漏看的状况下,有一边使内窥镜的顶端部40a在受检体内移动一边进行的病变的筛查。在病变的筛查中,根据使内窥镜的顶端部40a移动的速度,用户有时未注意到关注区域而使其通过了关注区域的位置。在这种情况下,发生关注区域漏看。
另外,进行重访判定的原因是由于插入有内窥镜31的消化管的形状容易因供气等操作而发生变化,因此病变等关注区域有时会被这样的消化管的形状隐藏。因此,不是仅依赖于用户的目视,而是通过使用重访判定部47进行的自动判定,能够可靠地返回到原来的第一观察区域OP1。
当在漏看判定部46中进行了漏看判定处理时,显示控制部37使用漏看判定部46的判定结果,进行监视器34的显示控制。在利用漏看判定部46判定为有第一观察区域OP1的关注区域漏看的漏看判定定时,如图6所示,显示控制部47针对监视器34中与显示医疗图像的第一显示区域34a不同的第二显示区域34b,开始显示了第一观察区域的关注区域51的关注区域图像55的显示。由此,用户能够通过一边比较第一显示区域34a的医疗图像与第二显示区域34b的关注区域图像55,一边操作内窥镜31,来使内窥镜的顶端部40a返回到漏看了关注区域51的第一观察区域OP1。
此外,在利用漏看判定部46判定为没有第一观察区域OP1的关注区域漏看的情况下,在第二显示区域34b中不显示关注区域图像55。另外,优选至少在从漏看判定定时到后述的重访判定定时期间维持关注区域图像55在第二显示区域34b中的显示。
当在重访判定部47中进行了重访判定处理时,显示控制部37使用重访判定部47的判定结果,进行监视器34的显示控制。在利用重访判定部47判定为内窥镜的顶端部40a已返回到第一观察区域的重访判定定时,如图7所示,优选显示控制部37在漏看判定定时以后不再显示维持显示的关注区域图像55。由此,用户能够掌握已返回到原来的第一观察区域的情况,并且,在重新开始第一观察区域的关注区域的观察之后,通过将不需要的信息从监视器34上删除,从而不会使用户的观察意愿降低。此外,在重访判定定时,也可以如图8所示,显示控制部37将对关注区域图像55的外框等实施了强调处理的强调图像56显示于第二显示区域34b。
以下对漏看判定部46进行的漏看判定处理的详情进行说明。如图9所示,漏看判定部46使用表示从在第一定时检测到关注区域51开始直到关注区域51从监视器34的第一显示区域34a消失为止的时间的第一时间,进行漏看判定处理。在此,医疗图像58是在关注区域51从第一显示区域34a消失的关注区域消失定时得到的图像。在第一时间比第二判定用第一时间短的情况下,漏看判定部46判定为有关注区域51漏看。第一时间比第二判定用第一时间短的情况是指例如内窥镜的顶端部40a瞬间(例如3帧)通过第一观察区域的关注区域那样的情况。
另外,如图10所示,漏看判定部46除使用第一时间以外,还可以使用表示自关注区域51从第一显示区域34a消失起的时间的第二时间,进行漏看判定处理。在该情况下,在第一时间比第二判定用第一时间短、且第二时间为第二判定用第二时间以上的情况下,漏看判定部46判定为有关注区域51漏看。第二时间为第二判定用第二时间以上的情况是指例如虽然关注区域51已从第一显示区域34a消失,但也没有再次注意到关注区域51,即使经过了一定时间(例如10秒)也不会返回到第一观察区域OP1的关注区域那样的情况。此外,医疗图像60是在从关注区域消失定时起经过了第二时间的时点得到的图像。
此外,关于第一时间,除了计测时间本身的情况以外,还可以使用利用关注区域检测部45检测到关注区域51的帧数或时间来计测。另外,关于第二时间,除了计测时间本身的情况以外,还可以使用利用关注区域检测部45未计测到关注区域51的帧数或时间来计测。在此,在利用关注区域检测部45计测帧数或时间时,考虑到关注区域检测部45造成的误检测、检测失败,优选使用比最新一帧提前一定时间的帧的检测结果来计测。
另外,漏看判定部46也可以使用在第一定时之后获取的医疗图像与第一定时的医疗图像的图像相似度,进行漏看判定处理。如图11所示,在关注区域51显示于第一显示区域34a期间(关注区域显示期间),由于在第一定时以后的医疗图像中包含关注区域51,因此与第一定时的医疗图像的图像相似度为一定值以上。另一方面,在关注区域51从第一显示区域34a消失期间(关注区域非显示期间),由于在医疗图像中未包含关注区域51,因此与第一定时的医疗图像的图像相似度变得极低。而且,当图像相似度低于第二判定用相似度时,漏看判定部46判定为漏看了第一观察区域OP1的关注区域51。此外,图像相似度优选除了比较图像整体而得到的值以外,还设为比较从图像中提取的特征量而得到的值。此外,在漏看判定部46中,也可以组合第一时间或第二时间中的至少一方、和在第一定时之后获取的医疗图像与第一定时的医疗图像的图像相似度,进行漏看判定。
以下说明重访判定部47进行的重访判定处理的详情。在重访判定部47中,优选使用第二定时的医疗图像52与第一观察区域的图像的相似度,进行重访判定处理。图像相似度优选除了比较第二定时的医疗图像52与第一观察图像的图像的图像整体而得到的值以外,还设为比较从图像中提取的特征量而得到的值。如图12所示,在第二定时的医疗图像58中包含一定面积以上的第一观察区域OP1的图像那样的情况下,在第二定时的医疗图像52与第一观察区域的图像的相似度为第一判定用相似度以上时,重访判定部47判定为顶端部40a已返回到第一观察区域OP1。这样,通过使用图像相似度进行判定,即使未检测到关注区域51,也能够掌握关注区域51位于附近的情况。
另外,在重访判定部47中,优选除了第二定时的医疗图像52与第一观察区域的图像的相似度以外,还使用关注区域检测部45的检测结果,进行重访判定处理。如图13所示,在第二定时的医疗图像52与第一观察区域的图像的相似度为第一判定用相似度以上、且利用关注区域检测部45检测到了关注区域51的情况下,重访判定部47判定为顶端部40a已返回到第一观察区域OP1。在仅使用图像相似度的情况下,有可能将与第一观察区域OP1相似的观察区域误判定为第一观察区域。与此相对,除了图像相似度以外,还使用关注区域的检测结果,从而能够以更高的可靠度进行重访判定处理。
接下来,按照图14所示的流程图对漏看判定处理及重访判定处理的一系列流程进行说明。首先,利用关注区域检测部45从第一定时的医疗图像50中检测关注区域51。检测到的关注区域51的图像被作为关注区域图像存储于处理器装置33内的图像存储部(未图示)。而且,在用户未注意到关注区域51的检测的情况下,内窥镜的顶端部40a通过了有关注区域51的第一观察区域OP1。在像这样用户漏看了关注区域51的情况下,利用漏看判定部46进行漏看判定处理。
漏看判定部46使用从检测到关注区域51到关注区域51从监视器34的第一显示区域34a消失的第一时间、表示自关注区域51从第一显示区域34a消失起的时间的第二时间、或与第一定时的医疗图像50的相似度,进行漏看判定处理。漏看判定处理的结果是,在判定为漏看了关注区域51的情况下,将存储在图像存储部中的关注区域图像显示于监视器34的第二显示区域34b。另一方面,漏看判定处理的结果是,在判定为未漏看关注区域51的情况下,在监视器34的第二显示区域34b不显示关注区域图像55。
当用户注意到显示于第二显示区域34b的关注区域图像时,用户操作内窥镜31,进行使内窥镜的顶端部40a返回到第一观察区域OP1的操作。为了能够掌握顶端部40a是否已返回到第一观察区域OP1,利用重访判定部47进行重访判定处理。重访判定部47使用在与第一定时不同的第二定时得到的医疗图像52与第一定时的医疗图像50的相似度、或关注区域检测部45的检测结果,进行重访判定处理。重访判定处理的结果是,在判定为顶端部40a已返回到第一观察区域OP1的情况下,删除关注区域图像55在第二显示区域34b中的显示,或将强调图像显示于第二显示区域34b。重复进行重访判定处理直至判定为顶端部40a已返回到第一观察区域OP1。
此外,如图15所示,与内窥镜系统21及其他医疗设备(modality)、PACS22组合使用的诊断支援装置610可包括上述实施方式及其他变形例的图像处理系统10。另外,如图16所示,例如包括内窥镜系统21的、经由任意的网络626与第一检查装置621、第二检查装置622、…、第N检查装置633等各种检查装置连接的医疗业务支援装置630可包括上述实施方式及其他变形例的图像处理系统10。
此外,图像处理系统10、内窥镜系统21、及包括图像处理系统10的各种装置或系统还可进行以下的各种变更等来使用。
作为医疗图像,可使用照射白色频带的光、或作为白色频带的光的多个波长频带的光而得到的普通光图像。
作为医疗图像,在使用照射特定波长频带的光而得到的图像时,特定波长频带可使用比白色的波长频带窄的频带。
特定波长频带例如是可见范围的蓝色频带或绿色频带。
当特定波长频带是可见范围的蓝色频带或绿色频带时,优选特定波长频带包括390nm以上450nm以下或530nm以上550nm以下的波长频带,并且,特定波长频带的光在390nm以上450nm以下或530nm以上550nm以下的波长频带内具有峰波长。
特定波长频带例如是可见范围的红色频带。
当特定波长频带是可见范围的红色频带时,优选特定波长频带包括585nm以上615nm或610nm以上730nm以下的波长频带,并且,特定波长频带的光在585nm以上615nm以下或610nm以上730nm以下的波长频带内具有峰波长。
特定波长频带例如包括氧合血红蛋白与还原血红蛋白中的吸光系数不同的波长频带,并且,特定波长频带的光可在氧合血红蛋白与还原血红蛋白中的吸光系数不同的波长频带具有峰波长。
在特定波长频带包括氧合血红蛋白与还原血红蛋白中的吸光系数不同的波长频带且特定波长频带的光在氧合血红蛋白与还原血红蛋白中的吸光系数不同的波长频带具有峰波长的情况下,优选特定波长频带包括400±10nm、440±10nm、470±10nm、或600nm以上750nm以下的波长频带,并且,特定波长频带的光在400±10nm、440±10nm、470±10nm、或600nm以上750nm以下的波长频带具有峰波长。
在医疗图像是拍摄生物体内而得到的生物体内图像的情况下,该生物体内图像可具有生物体内的荧光物质发出的荧光的信息。
另外,荧光可利用向生物体内照射峰波长为390nm以上470nm以下的激励光而得到的荧光。
在医疗图像是拍摄生物体内而得到的生物体内图像的情况下,前述的特定波长频带可利用红外光的波长频带。
在医疗图像是拍摄生物体内而得到的生物体内图像、且作为前述的特定波长频带利用红外光的波长频带的情况下,优选特定波长频带包括790nm以上820nm或905nm以上970nm以下的波长频带,并且,特定波长频带的光在790nm以上820nm以下或905nm以上970nm以下的波长频带具有峰波长。
医疗图像获取部11可具有特殊光图像获取部,所述特殊光图像获取部基于照射白色频带的光、或作为白色频带的光的多个波长频带的光而得到的普通光图像,获取具有特定波长频带的信号的特殊光图像。在该情况下,作为医疗图像可利用特殊光图像。
特定波长频带的信号可通过基于包含在普通光图像中的RGB或CMY的颜色信息的运算来获得。
可具备特征量图像生成部,所述特征量图像生成部通过基于照射白色频带的光或作为白色频带的光的多个波长频带的光而得到的普通光图像、及照射特定波长频带的光而得到的特殊光图像中的至少一方的运算,生成特征量图像。在该情况下,作为医疗图像可利用特征量图像。
对于内窥镜系统21,可使用胶囊型内窥镜作为内窥镜31。在该情况下,可将光源装置32和处理器装置33的一部分搭载于胶囊型内窥镜。
在上述实施方式及变形例中,医疗图像获取部11、医疗图像分析处理部12及构成医疗图像分析处理部12的各部、显示控制部15、输入接收部16、总括控制部17、以及医疗图像获取部35、医疗图像分析处理部36、显示控制部37、关注区域检测部45、漏看判定部46、重访判定部47之类的执行各种处理的处理部(processing unit)的硬件结构是如下所示的各种处理器(processor)。在各种处理器中,包括执行软件(程序)并作为各种处理部发挥功能的通用处理器即CPU(Central Processing Unit)、制造FPGA(Field Programmable GateArray)等后可改变电路结构的处理器即可编程逻辑器件(Programmable Logic Device:PLD)、具有为了执行各种处理而专门设计的电路结构的处理器即专用电路、以及专门用于实时图像处理的运算装置或处理器即GPU(Graphical Processing Unit)等。
一个处理部可以由这些各种处理器中的一个构成,也可以由同种或异种的两个以上的处理器的组合(例如,多个FPGA、或CPU与FPGA的组合、CPU与GPU的组合)构成。另外,还可以用一个处理器构成多个处理部。作为用一个处理器构成多个处理部的例子,首先,有诸如以客户端或服务器等计算机为代表,使用一个以上的CPU与软件的组合构成一个处理器、并将该处理器作为多个处理部发挥功能的形态。其次,有诸如以片上系统(System OnChip:SoC)等为代表,使用以一个IC(Integrated Circuit)芯片实现包括多个处理部的系统整体的功能的处理器的形态。像这样,使用一个以上的上述各种处理器作为硬件结构来构成各种处理部。
而且,更具体而言,这些各种处理器的硬件结构是组合了半导体元件等电路元件的形态的电路(circuitry)。
作为本发明的另一方面,是一种医疗图像处理系统,其中,
具备处理器装置,
处理器装置利用医疗图像获取部获取拍摄观察对象而得到的医疗图像,
利用关注区域检测部,从在第一定时获取的所述医疗图像中检测所述观察对象中处于第一观察区域的关注区域,
在所述顶端部离开所述第一观察区域并移动到朝向与所述第一观察区域不同的第二观察区域的方向之后,在所述顶端部离开所述第二观察区域并向朝向所述第一观察区域的方向移动的情况下,第一判定部进行根据在与所述第一定时不同的第二定时获取的医疗图像判定所述顶端部是否已返回到所述第一观察区域的第一判定处理,
显示控制部使用所述第一判定部的判定结果进行显示部的显示控制。
符号说明
10 图像处理系统
11 医疗图像获取部
12 医疗图像分析处理部
13 显示部
15 显示控制部
16 输入接收部
17 总括控制部
18 保存部
21 内窥镜系统
22 PACS
31 内窥镜
32 光源装置
33 处理器装置
34 监视器
34a 第一显示区域
34b 第二显示区域
35 医疗图像获取部
36 医疗图像分析处理部
37 显示控制部
40 插入部
40a 顶端部
41 操作部
42 摄像元件
45 关注区域检测部
46 漏看判定部
47 重访判定部
47 显示控制部
50 医疗图像
51 关注区域
52 医疗图像
55 关注区域图像
56 强调图像
58 医疗图像
60 医疗图像
610 诊断支援装置
621 第一检查装置
622 第二检查装置
626 网络
630 医疗业务支援装置
633 检查装置
OP1 第一观察区域
OP2 第二观察区域

Claims (15)

1.一种内窥镜系统,其中,具备:
内窥镜,其在顶端部设有拍摄观察对象并输出医疗图像的摄像元件;
医疗图像获取部,其获取所述医疗图像;
关注区域检测部,其从在第一定时获取的所述医疗图像中检测所述观察对象中处于第一观察区域的关注区域;
第一判定部,在所述顶端部离开所述第一观察区域并移动到朝向与所述第一观察区域不同的第二观察区域的方向之后,在所述顶端部离开所述第二观察区域并向朝向所述第一观察区域的方向移动的情况下,所述第一判定部进行根据在与所述第一定时不同的第二定时获取的医疗图像判定所述顶端部是否已返回到所述第一观察区域的第一判定处理;以及
显示控制部,其使用所述第一判定部的判定结果进行显示部的显示控制。
2.根据权利要求1所述的内窥镜系统,其中,
所述第一判定部使用所述第一定时的医疗图像与所述第二定时的医疗图像的相似度,进行所述第一判定处理。
3.根据权利要求2所述的内窥镜系统,其中,
在所述相似度为第一判定用相似度以上的情况下,所述第一判定部判定为所述顶端部已返回到所述第一观察位置。
4.根据权利要求2所述的内窥镜系统,其中,
在所述相似度为第一判定用相似度以上、且所述关注区域检测部检测到所述第一观察区域的关注区域的情况下,所述第一判定部判定为所述顶端部已返回到所述第一观察位置。
5.根据权利要求1至4中任一项所述的内窥镜系统,其中,
具有第二判定部,所述第二判定部进行判定是否漏看了所述第一观察区域的关注区域的第二判定处理,
所述显示控制部使用所述第一判定部的判定结果及所述第二判定部的判定结果进行所述显示控制。
6.根据权利要求5所述的内窥镜系统,其中,
所述第二判定部使用表示从检测到所述第一观察区域的关注区域开始直到所述关注区域从所述显示部消失为止的时间的第一时间、或表示自所述关注区域从所述显示部消失起的时间的第二时间中的至少一方,进行所述第二判定处理。
7.根据权利要求6所述的内窥镜系统,其中,
在所述第一时间比第二判定用第一时间短的情况下,所述第二判定部判定为漏看了所述第一观察区域的关注区域。
8.根据权利要求6所述的内窥镜系统,其中,
在所述第一时间比第二判定用第一时间短、且所述第二时间为第二判定用第二时间以上的情况下,所述第二判定部判定为漏看了所述第一观察区域的关注区域。
9.根据权利要求5所述的内窥镜系统,其中,
在通过所述医疗图像获取部获取的医疗图像与所述第一定时的医疗图像的相似度低于第二判定用相似度的情况下,所述第二判定部判定为漏看了所述第一观察区域的关注区域。
10.根据权利要求5所述的内窥镜系统,其中,
所述第二判定部使用表示从检测到所述第一观察区域的关注区域开始直到所述关注区域从所述显示部消失为止的时间的第一时间、或表示自所述关注区域从所述显示部消失起的时间的第二时间中的至少一方、和通过所述医疗图像获取部获取的医疗图像与所述第一定时的医疗图像的相似度,进行所述第二判定处理。
11.根据权利要求5所述的内窥镜系统,其中,
在通过所述第二判定处理判定为漏看了所述第一观察区域的关注区域的漏看判定定时、和判定为所述顶端部已返回到所述第一观察区域的重访判定定时,所述显示控制部进行与显示了所述第一观察区域的关注区域的关注区域图像相关的显示控制。
12.根据权利要求11所述的内窥镜系统,其中,
所述显示控制部在所述漏看判定定时开始所述关注区域图像的显示,在从所述漏看判定定时到所述重访判定定时为止的期间,维持所述关注区域图像的显示。
13.根据权利要求12所述的内窥镜系统,其中,
所述显示控制部在所述重访判定定时,不显示所述关注区域图像。
14.根据权利要求12所述的内窥镜系统,其中,
所述显示控制部在所述重访判定定时,显示对所述关注区域图像实施了强调处理的强调图像。
15.一种医疗图像处理系统,其中,具备:
医疗图像获取部,其获取拍摄观察对象而得到的医疗图像;
关注区域检测部,其从在第一定时获取的所述医疗图像中检测所述观察对象中处于第一观察区域的关注区域;
第一判定部,其进行判定在与所述第一定时不同的第二定时获取的医疗图像中是否包含所述第一观察区域的图像的至少一部分的第一判定处理;以及
显示控制部,其使用所述第一判定部的判定结果进行显示部的显示控制。
CN201980054737.2A 2018-08-20 2019-08-07 内窥镜系统及医疗图像处理系统 Active CN112584745B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018-154055 2018-08-20
JP2018154055 2018-08-20
PCT/JP2019/031134 WO2020039931A1 (ja) 2018-08-20 2019-08-07 内視鏡システム及び医療画像処理システム

Publications (2)

Publication Number Publication Date
CN112584745A true CN112584745A (zh) 2021-03-30
CN112584745B CN112584745B (zh) 2024-03-22

Family

ID=69591977

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201980054737.2A Active CN112584745B (zh) 2018-08-20 2019-08-07 内窥镜系统及医疗图像处理系统

Country Status (5)

Country Link
US (1) US11867896B2 (zh)
EP (1) EP3841958B1 (zh)
JP (1) JP7280270B2 (zh)
CN (1) CN112584745B (zh)
WO (1) WO2020039931A1 (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220309678A1 (en) * 2019-06-18 2022-09-29 Surgvision Gmbh Luminescence imaging with refining loop based on combination of partial illuminations
WO2022014077A1 (ja) * 2020-07-15 2022-01-20 富士フイルム株式会社 内視鏡システム及びその作動方法
WO2023095208A1 (ja) * 2021-11-24 2023-06-01 オリンパス株式会社 内視鏡挿入ガイド装置、内視鏡挿入ガイド方法、内視鏡情報取得方法、ガイドサーバ装置、および画像推論モデル学習方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102247116A (zh) * 2010-04-15 2011-11-23 奥林巴斯株式会社 图像处理装置
US20110301443A1 (en) * 2010-06-08 2011-12-08 Hiroshi Yamaguchi Electronic endoscope system, processor for electronic endoscope, and target tracing method
JP2011255006A (ja) * 2010-06-09 2011-12-22 Olympus Corp 画像処理装置、内視鏡装置、プログラム及び画像処理方法
JP2012170641A (ja) * 2011-02-22 2012-09-10 Olympus Corp 蛍光観察装置
JP2012170774A (ja) * 2011-02-24 2012-09-10 Fujifilm Corp 内視鏡システム

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004358094A (ja) * 2003-06-06 2004-12-24 Olympus Corp カプセル内視鏡
JP2005304780A (ja) * 2004-04-21 2005-11-04 Olympus Corp 医療用ベッド
JP5460488B2 (ja) 2010-06-29 2014-04-02 富士フイルム株式会社 電子内視鏡システム、電子内視鏡用のプロセッサ装置、画像検索システム、及び電子内視鏡システムの作動方法
EP2904957A4 (en) * 2013-03-06 2016-08-24 Olympus Corp ENDOSCOPE SYSTEM
JP6492107B2 (ja) * 2014-12-12 2019-03-27 オリンパス株式会社 測定プローブおよび生体光学測定システム
WO2017073337A1 (ja) 2015-10-27 2017-05-04 オリンパス株式会社 内視鏡装置
WO2017122400A1 (ja) * 2016-01-15 2017-07-20 オリンパス株式会社 内視鏡画像観察支援システム
JPWO2017216922A1 (ja) * 2016-06-16 2019-04-11 オリンパス株式会社 画像処理装置及び画像処理方法
JPWO2018078724A1 (ja) * 2016-10-25 2019-09-05 オリンパス株式会社 内視鏡画像処理装置及び内視鏡画像処理方法
WO2018159363A1 (ja) * 2017-03-01 2018-09-07 富士フイルム株式会社 内視鏡システム及びその作動方法
WO2018198161A1 (ja) * 2017-04-24 2018-11-01 オリンパス株式会社 内視鏡画像処理装置及び内視鏡画像処理方法
WO2018203383A1 (ja) * 2017-05-02 2018-11-08 オリンパス株式会社 画像処理装置、及び、画像処理プログラム
JPWO2019078237A1 (ja) * 2017-10-18 2020-10-22 富士フイルム株式会社 医療画像処理装置、内視鏡システム、診断支援装置、並びに医療業務支援装置
WO2019106712A1 (ja) * 2017-11-28 2019-06-06 オリンパス株式会社 内視鏡画像処理装置及び内視鏡画像処理方法
JP7337073B2 (ja) * 2018-08-17 2023-09-01 富士フイルム株式会社 医用画像処理装置及び内視鏡システム並びに医用画像処理装置の作動方法
JP2022071617A (ja) * 2020-10-28 2022-05-16 富士フイルム株式会社 内視鏡システム及び内視鏡装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102247116A (zh) * 2010-04-15 2011-11-23 奥林巴斯株式会社 图像处理装置
US20110301443A1 (en) * 2010-06-08 2011-12-08 Hiroshi Yamaguchi Electronic endoscope system, processor for electronic endoscope, and target tracing method
JP2011255006A (ja) * 2010-06-09 2011-12-22 Olympus Corp 画像処理装置、内視鏡装置、プログラム及び画像処理方法
JP2012170641A (ja) * 2011-02-22 2012-09-10 Olympus Corp 蛍光観察装置
JP2012170774A (ja) * 2011-02-24 2012-09-10 Fujifilm Corp 内視鏡システム

Also Published As

Publication number Publication date
EP3841958A1 (en) 2021-06-30
WO2020039931A1 (ja) 2020-02-27
EP3841958A4 (en) 2021-10-13
CN112584745B (zh) 2024-03-22
JP7280270B2 (ja) 2023-05-23
US11867896B2 (en) 2024-01-09
EP3841958B1 (en) 2023-09-27
JPWO2020039931A1 (ja) 2021-09-09
US20210161366A1 (en) 2021-06-03

Similar Documents

Publication Publication Date Title
US11867896B2 (en) Endoscope system and medical image processing system
EP3841953B1 (en) Medical image processing system
US20210153722A1 (en) Medical image processing system
CN111050628B (zh) 医疗图像处理装置
US11862327B2 (en) Medical image processing system
WO2020090729A1 (ja) 医療画像処理装置、医療画像処理方法及びプログラム、診断支援装置
CN112512398B (zh) 医疗图像处理装置
CN112584740B (zh) 医疗图像处理装置
US11954897B2 (en) Medical image processing system, recognition processing processor device, and operation method of medical image processing system
US11830185B2 (en) Medical image processing system and learning method
JP7478245B2 (ja) 医療画像装置及びその作動方法
EP4302681A1 (en) Medical image processing device, medical image processing method, and program

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant