CN109410244A - 一种基于全局光流法的肺部肿瘤自动检测跟踪方法 - Google Patents

一种基于全局光流法的肺部肿瘤自动检测跟踪方法 Download PDF

Info

Publication number
CN109410244A
CN109410244A CN201810986014.3A CN201810986014A CN109410244A CN 109410244 A CN109410244 A CN 109410244A CN 201810986014 A CN201810986014 A CN 201810986014A CN 109410244 A CN109410244 A CN 109410244A
Authority
CN
China
Prior art keywords
optical flow
light stream
target
tracking
flow method
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810986014.3A
Other languages
English (en)
Other versions
CN109410244B (zh
Inventor
马鑫奇
黄强豪
何德峰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang University of Technology ZJUT
Original Assignee
Zhejiang University of Technology ZJUT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang University of Technology ZJUT filed Critical Zhejiang University of Technology ZJUT
Priority to CN201810986014.3A priority Critical patent/CN109410244B/zh
Publication of CN109410244A publication Critical patent/CN109410244A/zh
Application granted granted Critical
Publication of CN109410244B publication Critical patent/CN109410244B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration by the use of histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/269Analysis of motion using gradient-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10116X-ray image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20016Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion

Abstract

一种基于全局光流法的肺部肿瘤自动检测跟踪方法,包括以下步骤:1)对X光拍摄视频进行预处理,对图像进行包括增强等处理,提高肺部病理辨识度;2)设置一段“准备时间”,用于医生先行手动对准患者肺部,对准后开始全局光流法检测;3)光流法开始检测时,对X光摄像设备采集到的连续图像进行估计,并比较各移动物体的光流值大小;4)针对光流值最大的局部流场进行框选,以一个大小可变的不断逼近的多边形框将肿瘤框选出来,并作为整个运行过程的追踪目标;5)对所选取的目标,也就是肿瘤,通过光流估计进行跟踪;6)利用均值漂移作为目标运动的跟踪器,追踪目标区域的直方图分布。本发明鲁棒性强、误差低、灵敏度高。

Description

一种基于全局光流法的肺部肿瘤自动检测跟踪方法
技术领域
本发明涉及图像处理、医疗影像学领域。具体是指一种基于全局光流法的肺部肿瘤自动检测跟踪方法。
背景技术
数据显示,肺癌是目前全世界癌症死因的第一位,而随着医学技术的发展,具备创口小、疼痛轻、出血少等优点的肿瘤消融术已经成为根治肺部病症的重要途径之一,即使是在癌症中晚期,微创在姑息性手术中也是非常重要的。传统微创进针方法,需要通过ct三维建图,以肋骨、肋间隙、体表标志线等作为参照点,在影像学指导下进针。因为CT无法实时成图,参考点手动选择,所以存在无法实时监测肿瘤活动位置与肿瘤位置估计不准确的问题。
针对微创手术进针问题与肿瘤定位问题,采用X光设备进行患者肺部的实时拍摄,对每帧图像进行高频强调滤波,通过增强图像使得医生观察更清晰;在每张图像上设置全局均匀等间隔分布的监测点,通过光流法检测并自动选取视野内运动幅度最大或轮廓最大的目标区域,也就是肿瘤,再通过光流法进行肿瘤的追踪。其中区分运动程度大小的阈值可以自动根据不同实际情况自适应性的发生调整,但总是会被限制在一定范围内。
发明内容
本发明的目的是针对上述肺部肿瘤消融术或姑息性手术中微创进针时的肿瘤自动检测跟踪问题提供一种鲁棒性强、误差低、灵敏度高的肺部肿瘤自动检测跟踪方法。
为了解决上述技术问题,本发明的技术方案如下:
一种基于全局光流法的肺部肿瘤自动检测跟踪方法,包括以下步骤:
1)对X光拍摄视频进行预处理,对图像进行包括增强处理;
2)设置一段“准备时间”,用于医生先行手动对准患者肺部,对准后开始全局光流法检测;
3)光流法开始检测时,对X光摄像设备采集到的连续图像进行估计,并比较各移动物体的光流值大小;
4)针对光流值最大的局部流场进行框选,以一个大小可变的不断逼近的多边形框将肿瘤框选出来,并作为整个运行过程的追踪目标;
5)对所选取的目标,也就是肿瘤,通过光流估计进行跟踪;
6)利用均值漂移作为目标运动的跟踪器,追踪目标区域的直方图分布。
进一步,所述步骤1)中,对X光片进行预处理,所述预处理包括高频强调滤波,显示图像中的主边缘并保留低频分量;之后使用直方图均衡化,使病人骨骼结构更加清晰。
再进一步,所述步骤3)中,通过计算全局密集监测点的光流大小,根据阈值选取出光流值最大也就是移动最明显的目标,也就是肿瘤;其中阈值是动态可变的,依据不同图像中全局各点光流值大小的均值进行调整,比较保留光流值最大的局部区域。
所述步骤4)中,用费曼链码保存上一步中找出的局部区域,用矩形框对费曼链码的坐标进行不断的匹配,直到框选的矩形框面积最小为止,也就是矩形框位置最准确位置;此时,将矩形框内的物体作为整个过程的跟踪目标,也就是说之后只计算矩形框之内的光流值并进行跟踪。
所述步骤6)中,在目标区域的每组直方图数据中的密度分布中寻找局部极值;也就是对目标区域的直方图用均值漂移进行核卷积,再运用爬山算法,寻找局部极值的过程是一个不断迭代使得目标区域的图像重心与矩形框形心重合的过程。
本发明的有益效果表现在:鲁棒性强、误差低、灵敏度高。
具体实施方式
下面对本发明做进一步说明。
一种基于全局光流法的肺部肿瘤自动检测跟踪方法,包括以下步骤:
1)对X光拍摄视频进行预处理,对图像进行包括增强处理,提高肺部病理辨识度;
2)设置一段“准备时间”,用于医生先行手动对准患者肺部,对准后开始全局光流法检测;
3)光流法开始检测时,对X光摄像设备采集到的连续图像进行估计,并比较各移动物体的光流值大小;
4)针对光流值最大的局部流场进行框选,以一个大小可变的不断逼近的多边形框将肿瘤框选出来,并作为整个运行过程的追踪目标;
5)对所选取的目标,也就是肿瘤,通过光流估计进行跟踪;
6)利用均值漂移作为目标运动的跟踪器,追踪目标区域的直方图分布。
进一步,所述步骤1)中,为了下一步医生可以进行初步的较准确的目标大致范围选定,并且由于X射线不能使用光学镜头聚焦,导致所得到的图像都比较模糊,因此我们需要对X光片进行一系列的预处理,其中很重要的一步就是高频强调滤波,可以显示图像中的主边缘并保留低频分量。之后使用直方图均衡化,使病人骨骼结构更加清晰。
所述步骤2)中,因为人体生理结构复杂,得到的图像包含的信息过多,所以从简化与准确的角度上,让医生做一个预选取非常必要,当摄像仪器对准肺部,因呼吸造成的肿瘤或肺纹理移动,就会在全局光流值中处在最大值附近。便于肿瘤的检测与追踪。
所述步骤3)中,通过计算全局密集监测点的光流大小,根据阈值选取出光流值最大也就是移动最明显的目标,也就是肿瘤。其中阈值是动态可变的,依据不同图像中全局各点光流值大小的均值进行调整。比较保留光流值最大的局部区域。
所述步骤4)中,用费曼链码保存上一步中找出的局部区域,用矩形框对费曼链码的坐标进行不断的匹配,直到框选的矩形框面积最小为止,也就是矩形框位置最准确位置。此时,将矩形框内的物体作为整个过程的跟踪目标,也就是说之后只计算矩形框之内的光流值并进行跟踪。
所述步骤5中,在图像金字塔的最高层计算光流,用得到的运动估计结果作为下一层图像金字塔的起始点,重复迭代这个过程直到达到金字塔的最底层。从而实现实时性更好、更长的运动跟踪。
所述步骤6中,在目标区域的每组直方图数据中的密度分布中寻找局部极值。也就是对目标区域的直方图用均值漂移进行核卷积,再运用爬山算法。是一个不断迭代使得目标区域的图像重心与矩形框形心重合的过程。
本实施例的方案的具体实施过程为:首先对X光片进行一系列的预处理,其中较重要的就是高频强调滤波增强图像,接着结合直方图均衡化得到图片细节。由医生操作X光摄像仪器对准肿瘤大致区域,这个等待时间没有限制,可以以操作台任意按键触发光流法检测代码运行。按一定间隔在图像全局设置检测点,间隔步长可调。假设亮度恒定以及时间规律,计算检测点在相邻两帧图像之间的偏移,也就是光流值,由速度偏差表示。与能够自适应不同图像的、动态可变化的阈值进行比较。保留光流值足够大的检测点,这些点构成的局部区域就是肿瘤区域。找出区域边缘的坐标并存进费曼链码中,通过模板匹配,找出框选角度最佳的包围框,框内的区域就是肿瘤,也就是整个过程的追踪目标,将区域内的直方图作为追踪特征,基于均值漂移在每一帧中迭代寻找到目标。其中在图像金字塔的最高层计算光流,用得到的运动估计结果作为下一层图像金字塔的起始点,重复迭代这个过程直到达到金字塔的最底层。从而实现实时性更好、更长的运动跟踪。

Claims (5)

1.一种基于全局光流法的肺部肿瘤自动检测跟踪方法,其特征在于,所述肺部肿瘤检测跟踪方法包括以下步骤:
1)对X光拍摄视频进行预处理,对图像进行包括增强处理;
2)设置一段“准备时间”,用于医生先行手动对准患者肺部,对准后开始全局光流法检测;
3)光流法开始检测时,对X光摄像设备采集到的连续图像进行估计,并比较各移动物体的光流值大小;
4)针对光流值最大的局部流场进行框选,以一个大小可变的不断逼近的多边形框将肿瘤框选出来,并作为整个运行过程的追踪目标;
5)对所选取的目标,也就是肿瘤,通过光流估计进行跟踪;
6)利用均值漂移作为目标运动的跟踪器,追踪目标区域的直方图分布。
2.如权利要求1所述的一种基于全局光流法的肺部肿瘤自动检测跟踪方法,其特征在于,所述步骤1)中,对X光片进行预处理,所述预处理包括高频强调滤波,显示图像中的主边缘并保留低频分量;之后使用直方图均衡化,使病人骨骼结构更加清晰。
3.如权利要求1或2所述的一种基于全局光流法的肺部肿瘤自动检测跟踪方法,其特征在于,所述步骤3)中,通过计算全局密集监测点的光流大小,根据阈值选取出光流值最大也就是移动最明显的目标,也就是肿瘤;其中阈值是动态可变的,依据不同图像中全局各点光流值大小的均值进行调整,比较保留光流值最大的局部区域。
4.如权利要求1或2所述的一种基于全局光流法的肺部肿瘤自动检测跟踪方法,其特征在于,所述步骤4)中,用费曼链码保存上一步中找出的局部区域,用矩形框对费曼链码的坐标进行不断的匹配,直到框选的矩形框面积最小为止,也就是矩形框位置最准确位置;此时,将矩形框内的物体作为整个过程的跟踪目标,也就是说之后只计算矩形框之内的光流值并进行跟踪。
5.如权利要求1或2所述的一种基于全局光流法的肺部肿瘤自动检测跟踪方法,其特征在于,所述步骤6)中,在目标区域的每组直方图数据中的密度分布中寻找局部极值;也就是对目标区域的直方图用均值漂移进行核卷积,再运用爬山算法,寻找局部极值的过程是一个不断迭代使得目标区域的图像重心与矩形框形心重合的过程。
CN201810986014.3A 2018-08-28 2018-08-28 一种基于全局光流法的肺部肿瘤自动检测跟踪方法 Active CN109410244B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810986014.3A CN109410244B (zh) 2018-08-28 2018-08-28 一种基于全局光流法的肺部肿瘤自动检测跟踪方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810986014.3A CN109410244B (zh) 2018-08-28 2018-08-28 一种基于全局光流法的肺部肿瘤自动检测跟踪方法

Publications (2)

Publication Number Publication Date
CN109410244A true CN109410244A (zh) 2019-03-01
CN109410244B CN109410244B (zh) 2021-02-26

Family

ID=65464416

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810986014.3A Active CN109410244B (zh) 2018-08-28 2018-08-28 一种基于全局光流法的肺部肿瘤自动检测跟踪方法

Country Status (1)

Country Link
CN (1) CN109410244B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111724361A (zh) * 2020-06-12 2020-09-29 深圳技术大学 实时显示病灶的方法及装置、电子设备和存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101103377A (zh) * 2003-10-02 2008-01-09 美国西门子医疗解决公司 进行局部可变形运动分析的系统和方法
CN101133431A (zh) * 2005-02-03 2008-02-27 布拉科成像S.P.A.公司 能够减少物体运动造成的成像伪影的生物医学图像配准方法和计算机程序产品
US20130251197A1 (en) * 2012-03-21 2013-09-26 Nec (China) Co., Ltd. Method and a device for objects counting
CN104156975A (zh) * 2013-05-13 2014-11-19 株式会社东芝 医学图像分析装置和方法以及医学成像设备
CN104299209A (zh) * 2014-09-18 2015-01-21 南方医科大学 基于快速亚像素运动估计的肺4d-ct图像超分辨率重建方法
CN106815833A (zh) * 2016-12-23 2017-06-09 华中科技大学 一种适用于ic封装设备变形物体的匹配方法
CN108090954A (zh) * 2017-12-15 2018-05-29 南方医科大学南方医院 基于图像特征的腹腔环境地图重建与腹腔镜定位的方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101103377A (zh) * 2003-10-02 2008-01-09 美国西门子医疗解决公司 进行局部可变形运动分析的系统和方法
CN101133431A (zh) * 2005-02-03 2008-02-27 布拉科成像S.P.A.公司 能够减少物体运动造成的成像伪影的生物医学图像配准方法和计算机程序产品
US20130251197A1 (en) * 2012-03-21 2013-09-26 Nec (China) Co., Ltd. Method and a device for objects counting
CN104156975A (zh) * 2013-05-13 2014-11-19 株式会社东芝 医学图像分析装置和方法以及医学成像设备
CN104299209A (zh) * 2014-09-18 2015-01-21 南方医科大学 基于快速亚像素运动估计的肺4d-ct图像超分辨率重建方法
CN106815833A (zh) * 2016-12-23 2017-06-09 华中科技大学 一种适用于ic封装设备变形物体的匹配方法
CN108090954A (zh) * 2017-12-15 2018-05-29 南方医科大学南方医院 基于图像特征的腹腔环境地图重建与腹腔镜定位的方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111724361A (zh) * 2020-06-12 2020-09-29 深圳技术大学 实时显示病灶的方法及装置、电子设备和存储介质

Also Published As

Publication number Publication date
CN109410244B (zh) 2021-02-26

Similar Documents

Publication Publication Date Title
US20200046436A1 (en) Methods and systems for multi view pose estimation using digital computational tomography
CN110381841B (zh) 用于医疗成像的夹具及其使用方法
US9516993B2 (en) Endoscope system
US8811660B2 (en) Object-tracking systems and methods
US9164583B2 (en) Method and apparatus for gaze point mapping
CN107596578B (zh) 对准标记的识别和位置确定方法、成像设备及存储介质
CN104739510B (zh) 一种新的构建序列影像与呼吸信号对应关系的方法
Lin et al. Simultaneous tracking, 3D reconstruction and deforming point detection for stereoscope guided surgery
CN114022554B (zh) 一种基于yolo的按摩机器人穴位检测与定位方法
CN106236264A (zh) 基于光学跟踪和图像匹配的胃肠手术导航方法及系统
Sánchez et al. Towards a Videobronchoscopy Localization System from Airway Centre Tracking.
CN109410244A (zh) 一种基于全局光流法的肺部肿瘤自动检测跟踪方法
CN109730769B (zh) 一种基于机器视觉的皮肤肿瘤精准手术智能追踪方法及系统
Wang et al. Stereo video analysis for instrument tracking in image-guided surgery
JP4344825B2 (ja) 照射位置照合システム
CN114515395B (zh) 基于双目视觉的吞咽检测方法及装置、设备、存储介质
CN111714205A (zh) 使用深度学习在荧光镜检查视频中进行导管尖端检测
JP2008541859A (ja) 3d−2d姿勢推定に基づく案内方法及び生の気管支鏡検査への応用を有する3d−ctレジストレーション
Mu et al. Multiple fiducial identification using the hidden Markov model in image guided radiosurgery
Hashimoto et al. Multi-view Imaging System to Support Surgical Operations
CN107714175B (zh) 一种手术导航定位方法及装置
Jain et al. A novel strategy for automatic localization of cephalometric landmarks
US20230145801A1 (en) Systems and methods of visualizing a medical device relative to a target
CN106236263A (zh) 基于场景分解的胃肠手术导航方法及系统
US20230196595A1 (en) Methods and systems for registering preoperative image data to intraoperative image data of a scene, such as a surgical scene

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
EE01 Entry into force of recordation of patent licensing contract
EE01 Entry into force of recordation of patent licensing contract

Application publication date: 20190301

Assignee: Shandong precision product quality inspection Co.,Ltd.

Assignor: JIANG University OF TECHNOLOGY

Contract record no.: X2023980042381

Denomination of invention: A method for automatic detection and tracking of lung tumors based on global optical flow method

Granted publication date: 20210226

License type: Common License

Record date: 20230925