CN107240091B - 胶囊内窥镜图像预处理系统及方法 - Google Patents
胶囊内窥镜图像预处理系统及方法 Download PDFInfo
- Publication number
- CN107240091B CN107240091B CN201710267329.8A CN201710267329A CN107240091B CN 107240091 B CN107240091 B CN 107240091B CN 201710267329 A CN201710267329 A CN 201710267329A CN 107240091 B CN107240091 B CN 107240091B
- Authority
- CN
- China
- Prior art keywords
- image
- lesion
- capsule endoscope
- frame number
- color
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000094—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000096—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope using artificial intelligence
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/041—Capsule endoscopes for imaging
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/06—Devices, other than using radiation, for detecting or locating foreign bodies ; determining position of probes within or on the body of the patient
- A61B5/065—Determining position of the probe employing exclusively positioning means located on or in the probe, e.g. using position sensors arranged on the probe
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/07—Endoradiosondes
- A61B5/073—Intestinal transmitters
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
- G06T7/0014—Biomedical image inspection using an image reference approach
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/62—Analysis of geometric attributes of area, perimeter, diameter or volume
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/30—Noise filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
- G06V10/443—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
- G06V10/449—Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters
- G06V10/451—Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters with interaction between the filter responses, e.g. cortical complex cells
- G06V10/454—Integrating the filters into a hierarchical structure, e.g. convolutional neural networks [CNN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/50—Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
- G06V10/507—Summing image-intensity values; Histogram projection analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/56—Extraction of image or video features relating to colour
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/98—Detection or correction of errors, e.g. by rescanning the pattern or by human intervention; Evaluation of the quality of the acquired patterns
- G06V10/993—Evaluation of the quality of the acquired pattern
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10068—Endoscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20024—Filtering details
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20076—Probabilistic image processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30096—Tumor; Lesion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/03—Recognition of patterns in medical or anatomical images
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Medical Informatics (AREA)
- General Health & Medical Sciences (AREA)
- Surgery (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Evolutionary Computation (AREA)
- Pathology (AREA)
- Public Health (AREA)
- Biophysics (AREA)
- Veterinary Medicine (AREA)
- Animal Behavior & Ethology (AREA)
- Heart & Thoracic Surgery (AREA)
- Artificial Intelligence (AREA)
- Radiology & Medical Imaging (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Optics & Photonics (AREA)
- Quality & Reliability (AREA)
- Data Mining & Analysis (AREA)
- Signal Processing (AREA)
- Software Systems (AREA)
- Databases & Information Systems (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Geometry (AREA)
- Human Computer Interaction (AREA)
- Biodiversity & Conservation Biology (AREA)
- Endoscopes (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及胶囊内窥镜图像预处理系统,它包括体外图像去除模块、无效图像去除模块、消化道图像分类模块、病灶和解剖学结构识别模块、病灶和解剖学结构冗余图像去除模块,其中,所述体外图像去除模块的数据输出端连接无效图像去除模块的数据输入端,无效图像去除模块的数据输出端连接消化道图像分类模块的数据输入端,消化道图像分类模块的数据输出端连接病灶和解剖学结构识别模块的数据输入端,病灶和解剖学结构识别模块的数据输出端连接病灶和解剖学结构冗余图像去除模块的数据输入端。能减少医生查看体外图像、冗余图像以及无效图像的时间,提高工作效率。
Description
技术领域
本发明涉及计算机辅助检测技术领域,具体涉及一种胶囊内窥镜图像预处理系统及方法。
背景技术
现有无线胶囊内窥镜操作流程要求在体外对被检测者的相貌、简要信息(如姓名、性别、手机号等)、胶囊信息(序列号、电池电量等)进行拍摄,同时由于操作者对于仪器及胶囊内窥镜的熟练程度不同、被检测者对于胶囊的适应程度不同,会使得胶囊会拍摄大量在体外的图片。
这些图片可以防止检查数据与被检测者不匹配的问题,有利于数据的管理。但是这些体外图像数据对于查看图像的医生来说,是没有作用的。医生的主要目的是查看被检测者的消化道是否存在异常,大量的体外图像数据会影响医生查阅图像的效率。
对于病灶位置(如出血、息肉、溃疡、肿瘤等)、特定的解剖学结构(如贲门、幽门等),无线胶囊内窥镜在消化道内拍摄时,会连续拍摄多张图像,从而导致图像冗余,同样会影响医生查阅图像的效率。
拍摄过程中,胃部空腔及胃壁距离远近会导致拍摄得到的图像出现过亮或是过暗的问题,从而会得到较多无效图像,影响医生查阅图像效率。
发明内容
本发明的目的在于提供一种胶囊内窥镜图像预处理系统及方法,该系统和方法能减少医生查看体外图像、冗余图像以及无效图像的时间,提高工作效率。
为解决上述技术问题,本发明公开的一种胶囊内窥镜图像预处理系统,其特征在于:它包括体外图像去除模块、无效图像去除模块、消化道图像分类模块、病灶和解剖学结构识别模块、病灶和解剖学结构冗余图像去除模块,其中,所述体外图像去除模块的数据输出端连接无效图像去除模块的数据输入端,无效图像去除模块的数据输出端连接消化道图像分类模块的数据输入端,消化道图像分类模块的数据输出端连接病灶和解剖学结构识别模块的数据输入端,病灶和解剖学结构识别模块的数据输出端连接病灶和解剖学结构冗余图像去除模块的数据输入端;
所述体外图像去除模块用于利用胶囊内窥镜图像灰度均值、胶囊内窥镜图像出现最多颜色值及胶囊内窥镜图像出现最多颜色值面积比,从胶囊内窥镜图像数据中去除体外图像数据,并输出给无效图像去除模块;所述无效图像去除模块用于对去除了体外图像数据的图像进行进一步处理,去除预设亮度范围之外的无效图像,并输出给消化道图像分类模块;所述消化道图像分类模块用于对无效图像去除模块输出的图像数据按消化道不同部位进行分类,并输出给病灶和解剖学结构识别模块,病灶和解剖学结构识别模块用于对消化道图像分类模块输出的图像数据进行检测识别,识别出分类后消化道图像中的病灶图像(如出血、息肉、溃疡、肿瘤等)和解剖学结构图像信息(如贲门、幽门等),并将识别出的病灶图像信息和解剖学结构图像信息输出给病灶和解剖学结构冗余图像去除模块,所述病灶和解剖学结构冗余图像去除模块用于去除冗余的病灶图像和解剖学结构图像。
一种利用上述胶囊内窥镜图像预处理系统的胶囊内窥镜图像预处理方法,其特征在于,它包括如下步骤:
步骤1:所述体外图像去除模块利用胶囊内窥镜图像灰度均值、胶囊内窥镜图像出现最多颜色值及胶囊内窥镜图像出现最多颜色值面积比,从胶囊内窥镜图像数据中去除体外图像数据,并输出给无效图像去除模块;
所述体外图像去除模块利用胶囊内窥镜图像灰度均值、胶囊内窥镜图像颜色及胶囊内窥镜图像颜色面积比从胶囊内窥镜图像数据中去除体外图像数据,的具体方法为:
首先,体外图像去除模块对前N帧图像进行处理,得到RGB3个颜色通道的灰度均值序列MR(p1,p2,…,pi,…,pN)、MG(p1,p2,…,pi,…,pN)、MB(p1,p2,…,pi,…,pN)、出现最多颜色值序列C(p1,p2,…,pi,…,pN),出现最多颜色值面积比值系列S(p1,p2,…,pi,…,pN),pi为图像帧号;
利用胶囊内窥镜图像出现最多颜色值序列C(p1,p2,…,pi,…,pN)判断胶囊内窥镜是否进入体内,得到初步位置1,其判断方法为:判断图像帧号pc内的出现最多颜色值C(pc)(RGB转换到HSV后,H对应就是颜色,为一个值)是否小于设定阈值TC,当图像帧号pc内的出现最多颜色值C(pc)<TC时,统计图像帧号pc后图像内出现最多颜色值C(pc+j)连续小于TC的张数MC,当该张数MC大于设置阈值TM1时,胶囊已进入体内,记录此时图像帧号pc,作为初始位置1;pc+j为pc之后的图像,j的取值为[1,M],其中,M=阈值TM1,初始位置1为进入体内的第1张图像;
利用图像出现最多颜色值面积比S(p1,p2,…,pi,…,pN)判断胶囊内窥镜是否在体外,得到初步位置2,判断方法为:从第N张图像开始向前处理,判断图像帧号ps胶囊内窥镜图像出现最多颜色值面积比是否大于设定阈值TS,当胶囊内窥镜图像出现最多颜色值面积比S(ps)>设定阈值TS时,统计图像帧号ps前胶囊内窥镜图像出现最多颜色值面积比S(ps-q)连续大于设定阈值TS的张数MS,当该张数MS大于设置阈值TM2时,此时图像为体外图像,记录此时图像帧号ps,作为初始位置2;ps-q为ps之前的图像,s取值为[1,Ma],其中,Ma=TM2,初始位置2之前图像为体外图像;
在图像帧号ps和图像帧号pc之间,利用RGB各颜色通道灰度均值变化确定体外图像,其方法为:在图像帧号ps和图像帧号pc之间,计算RGB各颜色通道灰度均值变化,计算方式为:Do(pm)=Mo(pm)-Mo(pm+1),o为通道,通道o的取值分别为R通道、G通道和B通道,pm为ps和pc之间的图像帧号,m取值为[s,c-1],其中,s为Ps的帧号,c为Pc的帧号;判断RGB各颜色通道灰度均值变化DR(pm)、DG(pm)、DB(pm)是否满足设定阈值TD,当DR(pm)<TD,且DG(pm)<TD,且DB(pm)<TD时,此时距离图像帧号ps最近的图像帧号pm为体外体内图像分界位置,在图像帧号pm之前都为体外图像;
步骤2:无效图像去除模块(2)对去除了体外图像数据的图像进行按如下方法进行进一步处理,去除预设亮度范围之外的无效图像;
将去除体外图像数据后的胶囊内窥镜RGB图像转换为灰度图像gray;判断灰度图像gray的每个像素gray(x,y),当gray(x,y)>YH时,当前像素过亮;当gray(x,y)<YL时,当前像素过暗;YH、YL为人工设置的经验参数;统计过亮和过暗像素个数和SHL,SHL=sYL+sYH,其中,sYL为过暗像素个数,sYH为过亮像素个数,当SHL>ST时,当前灰度图像gray图像过亮或是过暗将其去除,当sYL>sYH时,图像过暗,反之,图像过亮,ST为人工设置的经验参数,ST与图像大小有关,ST=0.7*SI,SI为图像总的像素个数;
步骤3:消化道图像分类模块采用基于卷积神经网络CNN模型的深度学习方法对无效图像去除模块输出的图像数据按消化道不同部位进行分类;
步骤4:所述病灶和解剖学结构识别模块采用深度学习方法识别消化道图像中的病灶图像和解剖学结构图像信息。
步骤5:所述病灶和解剖学结构冗余图像去除模块对于每个识别出来的病灶和解剖学结构序列图像,利用病灶和解剖学结构的位置、大小、对比度特征来选择需要保留的图像,具体步骤如下:
计算序列中病灶和解剖学结构在每张图像中出现位置的得分RP,病灶和解剖学结构在每张图像中出现位置的得分RP表示序列中病灶和解剖学结构距离对应图像中心距离的远近,RP计算方式为:
其中W、H1分别为图像的宽度和高度,i为该病灶和解剖学结构图像序列中的序号,RPi为病灶和解剖学结构在i张图像中出现位置的得分,lxi、lyi为病灶和解剖学结构在第i张病灶和解剖学结构图像中位置的中心坐标;
统计序列中病灶和解剖学结构在每张病灶和解剖学结构图像中的大小得分RS,统计方式为:RSi=SWi×SHi,式中,RSi为统计序列中病灶和解剖学结构在第i张病灶和解剖学结构图像中的大小得分,SWi、SHi为病灶和解剖学结构图像序列中第i张图像病灶和解剖学结构的宽和高;
计算病灶和解剖学结构图像系列中病灶和解剖学结构在每张图像中所占区域的对比度得分RC,计算方式为:式中,RCi为病灶和解剖学结构图像系列中病灶和解剖学结构在i张图像中所占区域的对比度得分,δ(j,k)=|gray(j)-gray(k)|为相邻像素j、k的灰度差,Pδ(j,k)为灰度差δ(j,k)出现的概率;
统计每张图像的总得分RT,统计方式为:RTi=RPi×RSi×RCi,RTi表示第i张图像的总得分RT;
选取序列中RT值最大的图像为病灶和解剖学结构图像序列去除冗余后的保留图像,即对于每个病灶图像和解剖学结构仅保留一张最为显著图像。
与现有的技术相比,本发明具有以下有益效果:
1、本发明可以全自动地去除体外图像;
2、本发明可以去除过亮和过暗的无效图像;
3、本发明可以识别内窥镜图像中的病灶图像和解剖学结构;
4、本发明可以去除冗余的病灶和解剖学结构图像;
5、本发明采用方法简单快速,减少医生查阅图像数量,提高医生查阅图像效率。
附图说明
图1位本发明的系统的结构框图;
图2为本发明中体外图像判断流程;
图3为本发明中深度学习消化道图像分类模型;
图4为本发明中深度学习消化道图像目标识别模型;
图5为本发明中病灶和解剖学结构冗余图像去除流程。
其中,1—体外图像去除模块、2—无效图像去除模块、3—消化道图像分类模块、4—病灶和解剖学结构识别模块、5—病灶和解剖学结构冗余图像去除模块。
具体实施方式
以下结合附图和具体实施例对本发明作进一步的详细说明:
本发明设计胶囊内窥镜图像预处理系统,如图1所示,它包括体外图像去除模块1、无效图像去除模块2、消化道图像分类模块3、病灶和解剖学结构识别模块4、病灶和解剖学结构冗余图像去除模块5,其中,所述体外图像去除模块1的数据输出端连接无效图像去除模块2的数据输入端,无效图像去除模块2的数据输出端连接消化道图像分类模块3的数据输入端,消化道图像分类模块3的数据输出端连接病灶和解剖学结构识别模块4的数据输入端,病灶和解剖学结构识别模块4的数据输出端连接病灶和解剖学结构冗余图像去除模块5的数据输入端;
所述体外图像去除模块1用于利用胶囊内窥镜图像灰度均值、胶囊内窥镜图像出现最多颜色值及胶囊内窥镜图像出现最多颜色值面积比,从胶囊内窥镜图像数据中去除体外图像数据,并输出给无效图像去除模块2;所述无效图像去除模块2用于对去除了体外图像数据的图像进行进一步处理,去除预设亮度范围之外的无效图像,并输出给消化道图像分类模块3;所述消化道图像分类模块3用于对无效图像去除模块2输出的图像数据按消化道不同部位进行分类,并输出给病灶和解剖学结构识别模块4,病灶和解剖学结构识别模块4用于对消化道图像分类模块3输出的图像数据进行检测识别,识别出分类后消化道图像中的病灶图像和解剖学结构图像信息,并将识别出的病灶图像和解剖学结构图像信息输出给病灶和解剖学结构冗余图像去除模块5,所述病灶和解剖学结构冗余图像去除模块5用于去除冗余的病灶和解剖学结构图像。
上述胶囊内窥镜图像灰度均值的计算方式为:
其中,W、H1分别为胶囊内窥镜图像的宽度和高度,Io(x,y)为o通道在位置图像坐标x,y处的灰度值,o通道表示R、G和B3个通道,Mo为o通道的均值。
上述技术方案中,所述图像出现最多颜色值通过如下方式获得:
将胶囊内窥镜图像数据中的RGB颜色通道转换到HSV颜色通道,其转换公式为:
式中,max为R、G、B颜色通道中最大值,min为R、G、B颜色通道中最小值,计算HSV颜色通道中色调H的值;
统计HSV颜色通道中色调H的直方图,统计公式为:
histk(H(x,y))=histk-1(H(x,y))+1
其中,hist为图像直方图,H(x,y)为色调H在位置(x,y)处的值,k为迭代次数,i<NUM,NUM为图像像素个数;
对上述HSV颜色通道中色调H的直方图hist(H(x,y))进行中值滤波,去除干扰;
找到滤波后HSV颜色通道中色调H的直方图hist的最大值高斯系数对应的位置所对应的颜色为图像的出现最多颜色值C。
上述技术方案中,所述滤波后HSV颜色通道中色调H的直方图hist(H(x,y))的最大值高斯系数通过如下方法获得:用高斯模型对直方图hist(H(x,y))进行非线性最小二乘拟合,拟合公式为:
式中,ak为第k个高斯模型的系数,k为1~X,bk为第k个高斯模型的方差,ck为第k个高斯模型的均值,X为高斯模型个数,取ak,k为1~X中最大的系数ak对应的ck为图像出现最多颜色值C。
上述技术方案中,所述胶囊内窥镜图像出现最多颜色值面积比通过如下方式得到:对HSV颜色通道中色调H进行二值化,得到二值化后的图像HB,二值化阈值为TH(TH=20),超过二值化阈值TH置为1,为体外图像;反之置为0,为体内图像;则出现最多颜色值所占比值S为:
式中,W、H1分别为图像宽度、高度,x,y为像素坐标位置,HB表示二值化后的图像。
上述技术方案中,所述体外图像去除模块1利用胶囊内窥镜图像灰度均值、胶囊内窥镜图像颜色及胶囊内窥镜图像颜色面积比从胶囊内窥镜图像数据中去除体外图像数据,的具体方法为:
首先,体外图像去除模块对前N帧图像进行处理,得到RGB3个颜色通道的灰度均值序列MR(p1,p2,…,pi,…,pN)、MG(p1,p2,…,pi,…,pN)、MB(p1,p2,…,pi,…,pN)、出现最多颜色值序列C(p1,p2,…,pi,…,pN),出现最多颜色值面积比值系列S(p1,p2,…,pi,…,pN),pi为图像帧号;经过对临床病例数据的统计,N的取值不会超过1000,在本实施例中,N=500,胶囊刚进入体内拍摄到的图像整体偏红,红色图像的H值较小,因而可以设置阈值判断胶囊是否进入体内,从而确定体外图像,将其排除。
利用胶囊内窥镜图像出现最多颜色值序列C(p1,p2,…,pi,…,pN)判断胶囊内窥镜是否进入体内,得到初步位置1,其判断方法为:判断图像帧号pc内的出现最多颜色值C(pc)是否小于设定阈值TC(TC=15),当图像帧号pc内的出现最多颜色值C(pc)<TC时,统计图像帧号pc后图像内出现最多颜色值C(pc+j)连续小于TC的张数MC,当该张数MC大于设置阈值TM1(TM1=5)时(为去除光照不均匀造成影响,对图像出现最多颜色值连续判断是否满足设置阈值),胶囊已进入体内,记录此时图像帧号pc,作为初始位置1;pc+j为pc之后的图像,j的取值为[1,M],其中,M=阈值TM1,初始位置1为进入体内的第1张图像;
利用图像出现最多颜色值面积比S(p1,p2,…,pi,…,pN)判断胶囊内窥镜是否在体外,得到初步位置2,判断方法为:从第N张图像开始向前处理,判断图像帧号ps胶囊内窥镜图像出现最多颜色值面积比是否大于设定阈值TS(TS=0.5)(在体内,图像红色部分所占比例较大;反之在体外,图像红色部分所占比例较小),当胶囊内窥镜图像出现最多颜色值面积比S(ps)>设定阈值TS时,统计图像帧号ps前胶囊内窥镜图像出现最多颜色值面积比S(ps-q)连续大于设定阈值TS的张数MS,当该张数MS大于设置阈值TM2(TM2=5)时,此时图像为体外图像,记录此时图像帧号ps,作为初始位置2;ps-q为ps之前的图像,s取值为[1,Ma],其中,Ma=TM2,初始位置2之前图像为体外图像;
上述利用胶囊内窥镜图像出现最多颜色值颜色序列判断和利用图像出现最多颜色值面积比判断的方法可以并行处理,减少时间,提高效率,如图2所示。
在图像帧号ps和图像帧号pc之间,利用RGB各颜色通道灰度均值变化确定体外图像,其方法为:在图像帧号ps和图像帧号pc之间,计算RGB各颜色通道灰度均值变化,计算方式为:Do(pm)=Mo(pm)-Mo(pm+1),o为通道,通道o的取值分别为R通道、G通道和B通道,pm为ps和pc之间的图像帧号,m取值为[s,c-1],其中,s为Ps的帧号,c为Pc的帧号;判断RGB各颜色通道灰度均值变化DR(pm)、DG(pm)、DB(pm)是否满足设定阈值TD(15),当DR(pm)<TD,且DG(pm)<TD,且DB(pm)<TD时,此时距离图像帧号ps最近的图像帧号pm为体外体内图像分界位置,在图像帧号pm之前都为体外图像,都可以去除。
上述技术方案中,上述利用胶囊内窥镜图像颜色序列C(p1,p2,…,pi,…,pN)判断胶囊内窥镜是否进入体内和利用图像出现最多颜色值面积比S(p1,p2,…,pi,…,pN)判断胶囊内窥镜是否在体外为并行处理,减少时间,提高效率。
上述技术方案中,所述无效图像去除模块2对去除了体外图像数据的图像进行进一步处理,去除预设亮度范围之外的无效图像的具体方法为:
将去除体外图像数据后的胶囊内窥镜RGB图像转换为灰度图像gray;判断灰度图像gray的每个像素gray(x,y),当gray(x,y)>YH时,当前像素过亮;当gray(x,y)<YL时,当前像素过暗;YH、YL为人工设置的经验参数(YH=220,YL=50);统计过亮和过暗像素个数和SHL,SHL=sYL+sYH,其中,sYL为过暗像素个数,sYH为过亮像素个数,当SHL>ST时,当前灰度图像gray图像过亮或是过暗将其去除,当sYL>sYH时,图像过暗,反之,图像过亮,ST为人工设置的经验参数,ST与图像大小有关,ST=0.7*SI,SI为图像总的像素个数;
所述消化道图像分类模块3采用基于卷积神经网络CNN模型的深度学习方法(如goolenet等)对无效图像去除模块2输出的图像数据按消化道不同部位进行分类;深度学习采用卷积神经网络提取图像特征,如图3所示,在全连接层采用了SoftMax函数对提取到的消化道图像特征进行了分类,消化道分类结果为食道、胃部、小肠、大肠。
所述病灶和解剖学结构识别模块4采用深度学习方法识别消化道图像中的病灶图像和解剖学结构图像信息。如图4,通过卷积层计算得到特征图谱,然后再在特征图谱上挑选疑似的病灶图像和解剖学图像结构目标的位置,然后提取疑似目标特征,最后分类得到图像中目标及其分类。
上述技术方案中,对于某一病灶和解剖学结构,会连续拍摄多张图像,为减少医生查阅图像的数量,需去除冗余图像,保留病灶和解剖学结构更加明显、清晰的图像,所述病灶和解剖学结构冗余图像去除模块5对于每个识别出来的病灶和解剖学结构序列图像,利用病灶和解剖学结构的位置、大小、对比度特征来选择需要保留的图像,具体步骤如下,如图5所示:
计算序列中病灶和解剖学结构在每张图像中出现位置的得分RP,病灶和解剖学结构在每张图像中出现位置的得分RP表示序列中病灶和解剖学结构距离对应图像中心距离的远近,RP计算方式为:
其中W、H1分别为图像的宽度和高度,i为该病灶和解剖学结构图像序列中的序号,RPi为病灶和解剖学结构在i张图像中出现位置的得分,lxi、lyi为病灶和解剖学结构在第i张病灶和解剖学结构图像中位置的中心坐标,病灶和解剖学结构距离中心位置越近,得到RP越高;反之,病灶和解剖学结构距离图像中心的位置越远,得到RP越低,就不应该保留;
统计序列中病灶和解剖学结构在每张病灶和解剖学结构图像中的大小得分RS,统计方式为:RSi=SWi×SHi,式中,RSi为统计序列中病灶和解剖学结构在第i张病灶和解剖学结构图像中的大小得分,SWi、SHi为病灶和解剖学结构图像序列中第i张图像病灶和解剖学结构的宽和高,将RS归一化到[0,1];病灶和解剖学结构区域的大小越大,得到RS越高,就更应该保留;反之,病灶和解剖学结构区域的大小越小,得到RS越低,就不应该保留;
计算病灶和解剖学结构图像系列中病灶和解剖学结构在每张图像中所占区域的对比度得分RC,计算方式为:式中,RCi为病灶和解剖学结构图像系列中病灶和解剖学结构在i张图像中所占区域的对比度得分,δ(j,k)=|gray(j)-gray(k)|为相邻像素j、k的灰度差,Pδ(j,k)为灰度差δ(j,k)出现的概率进一步地,将RC归一化到[0,1];病灶和解剖学结构区域的对比度越高,得到RC越大,就更应该保留;反之,病灶和解剖学结构区域的对比度越低,得到RC越小,就不应该保留;
统计每张图像的总得分RT,统计方式为:RTi=RPi×RSi×RCi,RTi表示第i张图像的总得分RT;图像中的病灶和解剖学结构区域的大小越大、位置越靠近中心、对比度越高,RT就越大;
选取序列中RT值最大的图像为病灶和解剖学结构图像序列去除冗余后的保留图像,即对于每个病灶和解剖学结构仅保留一张最为显著图像,该方法可以保留位置靠近图像中心、面积大、对比度高的病灶和解剖学结构图像,有效地去除了冗余图像。
一种利用上述胶囊内窥镜图像预处理系统的胶囊内窥镜图像预处理方法,其特征在于,它包括如下步骤:
步骤1:所述体外图像去除模块1利用胶囊内窥镜图像灰度均值、胶囊内窥镜图像出现最多颜色值及胶囊内窥镜图像出现最多颜色值面积比,从胶囊内窥镜图像数据中去除体外图像数据,并输出给无效图像去除模块2;
所述体外图像去除模块1利用胶囊内窥镜图像灰度均值、胶囊内窥镜图像颜色及胶囊内窥镜图像颜色面积比从胶囊内窥镜图像数据中去除体外图像数据,的具体方法为:
首先,体外图像去除模块对前N帧图像进行处理,得到RGB3个颜色通道的灰度均值序列MR(p1,p2,…,pi,…,pN)、MG(p1,p2,…,pi,…,pN)、MB(p1,p2,…,pi,…,pN)、出现最多颜色值序列C(p1,p2,…,pi,…,pN),出现最多颜色值面积比值系列S(p1,p2,…,pi,…,pN),pi为图像帧号;
利用胶囊内窥镜图像出现最多颜色值序列C(p1,p2,…,pi,…,pN)判断胶囊内窥镜是否进入体内,得到初步位置1,其判断方法为:判断图像帧号pc内的出现最多颜色值C(pc)是否小于设定阈值TC(TC=15),当图像帧号pc内的出现最多颜色值C(pc)<TC时,统计图像帧号pc后图像内出现最多颜色值C(pc+j)连续小于TC的张数MC,当该张数MC大于设置阈值TM1(TM1=5)时,胶囊已进入体内,记录此时图像帧号pc,作为初始位置1;pc+j为pc之后的图像,j的取值为[1,M],其中,M=阈值TM1,初始位置1为进入体内的第1张图像;
利用图像出现最多颜色值面积比S(p1,p2,…,pi,…,pN)判断胶囊内窥镜是否在体外,得到初步位置2,判断方法为:从第N张图像开始向前处理,判断图像帧号ps胶囊内窥镜图像出现最多颜色值面积比是否大于设定阈值TS(TS=0.5),当胶囊内窥镜图像出现最多颜色值面积比S(ps)>设定阈值TS时,统计图像帧号ps前胶囊内窥镜图像出现最多颜色值面积比S(ps-q)连续大于设定阈值TS的张数MS,当该张数MS大于设置阈值TM2(TM2=5)时,此时图像为体外图像,记录此时图像帧号ps,作为初始位置2;ps-q为ps之前的图像,s取值为[1,Ma],其中,Ma=TM2,初始位置2之前图像为体外图像;
在图像帧号ps和图像帧号pc之间,利用RGB各颜色通道灰度均值变化确定体外图像,其方法为:在图像帧号ps和图像帧号pc之间,计算RGB各颜色通道灰度均值变化,计算方式为:Do(pm)=Mo(pm)-Mo(pm+1),o为通道,通道o的取值分别为R通道、G通道和B通道,pm为ps和pc之间的图像帧号,m取值为[s,c-1],其中,s为Ps的帧号,c为Pc的帧号;判断RGB各颜色通道灰度均值变化DR(pm)、DG(pm)、DB(pm)是否满足设定阈值TD(TD=15),当DR(pm)<TD,且DG(pm)<TD,且DB(pm)<TD时,此时距离图像帧号ps最近的图像帧号pm为体外体内图像分界位置,在图像帧号pm之前都为体外图像,都可以去除;
步骤2:无效图像去除模块2对去除了体外图像数据的图像进行按如下方法进行进一步处理,去除预设亮度范围之外的无效图像;
将去除体外图像数据后的胶囊内窥镜RGB图像转换为灰度图像gray;判断灰度图像gray的每个像素gray(x,y),当gray(x,y)>YH时,当前像素过亮;当gray(x,y)<YL时,当前像素过暗;YH、YL(YH=220,YL=50)为人工设置的经验参数;统计过亮和过暗像素个数合SHL,SHL=sYL+sYH,其中,sYL为过暗像素个数,sYH为过亮像素个数,当SHL>ST时,当前灰度图像gray图像过亮或是过暗将其去除,当sYL>sYH时,图像过暗,反之,图像过亮,ST为人工设置的经验参数,ST与图像大小有关,ST=0.7*SI,SI为图像总的像素个数;
步骤3:消化道图像分类模块3采用基于卷积神经网络CNN模型的深度学习方法(goolenet)对无效图像去除模块2输出的图像数据按消化道不同部位进行分类;
步骤4:所述病灶和解剖学结构识别模块4采用深度学习方法识别消化道图像中的病灶和解剖学结构信息。
步骤5:所述病灶和解剖学结构冗余图像去除模块5对于每个识别出来的病灶和解剖学结构序列图像,利用病灶和解剖学结构的位置、大小、对比度特征来选择需要保留的图像,具体步骤如下:
计算序列中病灶和解剖学结构在每张图像中出现位置的得分RP,病灶和解剖学结构在每张图像中出现位置的得分RP表示序列中病灶和解剖学结构距离对应图像中心距离的远近,RP计算方式为:
其中W、H1分别为图像的宽度和高度,i为该病灶和解剖学结构图像序列中的序号,RPi为病灶和解剖学结构在i张图像中出现位置的得分,lxi、lyi为病灶和解剖学结构在第i张病灶和解剖学结构图像中位置的中心坐标,病灶和解剖学结构距离中心位置越近,得到RP越高;反之越低;
统计序列中病灶和解剖学结构在每张病灶和解剖学结构图像中的大小得分RS,统计方式为:RSi=SWi×SHi,式中,RSi为统计序列中病灶和解剖学结构在第i张病灶和解剖学结构图像中的大小得分,SWi、SHi为病灶和解剖学结构图像序列中第i张图像病灶和解剖学结构的宽和高,将RS归一化到[0,1];
计算病灶和解剖学结构图像系列中病灶和解剖学结构在每张图像中所占区域的对比度得分RC,计算方式为:式中,RCi为病灶和解剖学结构图像系列中病灶和解剖学结构在i张图像中所占区域的对比度得分,δ(j,k)=|gray(j)-gray(k)|为相邻像素j、k的灰度差,Pδ(j,k)为灰度差δ(j,k)出现的概率,将RC归一化到[0,1];
统计每张图像的总得分RT,统计方式为:RTi=RPi×RSi×RCi,RTi表示第i张图像的总得分RT;
选取序列中RT值最大的图像为病灶和解剖学结构图像序列去除冗余后的保留图像,即对于每个病灶和解剖学结构仅保留一张最为显著图像,该方法可以保留位置靠近图像中心、面积大、对比度高的病灶和解剖学结构图像,有效地去除了冗余图像。
本说明书未作详细描述的内容属于本领域专业技术人员公知的现有技术。
Claims (10)
1.一种胶囊内窥镜图像预处理系统,其特征在于:它包括体外图像去除模块(1)、无效图像去除模块(2)、消化道图像分类模块(3)、病灶和解剖学结构识别模块(4)、病灶和解剖学结构冗余图像去除模块(5),其中,所述体外图像去除模块(1)的数据输出端连接无效图像去除模块(2)的数据输入端,无效图像去除模块(2)的数据输出端连接消化道图像分类模块(3)的数据输入端,消化道图像分类模块(3)的数据输出端连接病灶和解剖学结构识别模块(4)的数据输入端,病灶和解剖学结构识别模块(4)的数据输出端连接病灶和解剖学结构冗余图像去除模块(5)的数据输入端;
所述体外图像去除模块(1)用于利用胶囊内窥镜图像灰度均值、胶囊内窥镜图像出现最多颜色值及胶囊内窥镜图像出现最多颜色值面积比,从胶囊内窥镜图像数据中去除体外图像数据,并输出给无效图像去除模块(2);所述无效图像去除模块(2)用于对去除了体外图像数据的图像进行进一步处理,去除预设亮度范围之外的无效图像,并输出给消化道图像分类模块(3);所述消化道图像分类模块(3)用于对无效图像去除模块(2)输出的图像数据按消化道不同部位进行分类,并输出给病灶和解剖学结构识别模块(4),病灶和解剖学结构识别模块(4)用于对消化道图像分类模块(3)输出的图像数据进行检测识别,识别出分类后消化道图像中的病灶图像和解剖学结构图像信息,并将识别出的病灶图像和解剖学结构图像信息输出给病灶和解剖学结构冗余图像去除模块(5),所述病灶和解剖学结构冗余图像去除模块(5)用于去除冗余的病灶和解剖学结构图像。
2.根据权利要求1所述的胶囊内窥镜图像预处理系统,其特征在于:上述胶囊内窥镜图像灰度均值的计算方式为:
其中,W、H1分别为胶囊内窥镜图像的宽度和高度,Io(x,y)为o通道在位置图像坐标x,y处的灰度值,o通道表示R、G和B3个通道,Mo为o通道的均值。
3.根据权利要求1或2所述的胶囊内窥镜图像预处理系统,其特征在于:所述图像出现最多颜色值通过如下方式获得:
将胶囊内窥镜图像数据中的RGB颜色通道转换到HSV颜色通道,其转换公式为:
式中,max为R、G、B颜色通道中最大值,min为R、G、B颜色通道中最小值,计算HSV颜色通道中色调H的值;
统计HSV颜色通道中色调H的直方图,统计公式为:
histk(H(x,y))=histk-1(H(x,y))+1
其中,hist为图像直方图,H(x,y)为色调H在位置(x,y)处的值,k为迭代次数,k<NUM,NUM为图像像素个数;
对上述HSV颜色通道中色调H的直方图hist(H(x,y))进行中值滤波,去除干扰;
找到滤波后HSV颜色通道中色调H的直方图hist的最大值高斯系数对应的位置所对应的颜色为图像的出现最多颜色值C。
4.根据权利要求3所述的胶囊内窥镜图像预处理系统,其特征在于:所述滤波后HSV颜色通道中色调H的直方图hist(H(x,y))的最大值高斯系数通过如下方法获得:用高斯模型对直方图hist(H(x,y))进行非线性最小二乘拟合,拟合公式为:
式中,ak为第k个高斯模型的系数,k为1~X,bk为第k个高斯模型的方差,ck为第k个高斯模型的均值,X为高斯模型个数,取ak,k为1~X中最大的系数ak对应的ck为图像出现最多颜色值C。
5.根据权利要求4所述的胶囊内窥镜图像预处理系统,其特征在于:所述胶囊内窥镜图像出现最多颜色值面积比通过如下方式得到:对HSV颜色通道中色调H进行二值化,得到二值化后的图像HB,二值化阈值为TH,超过二值化阈值TH置为1,为体外图像;反之置为0,为体内图像;则出现最多颜色值所占比值S为:
式中,W、H1分别为图像宽度、高度,x,y为像素坐标位置,HB表示二值化后的图像。
6.根据权利要求5所述的胶囊内窥镜图像预处理系统,其特征在于:所述体外图像去除模块(1)利用胶囊内窥镜图像灰度均值、胶囊内窥镜图像颜色及胶囊内窥镜图像颜色面积比从胶囊内窥镜图像数据中去除体外图像数据,的具体方法为:
首先,体外图像去除模块对前N帧图像进行处理,得到RGB3个颜色通道的灰度均值序列MR(p1,p2,…,pi,…,pN)、MG(p1,p2,…,pi,…,pN)、MB(p1,p2,…,pi,…,pN)、出现最多颜色值序列C(p1,p2,…,pi,…,pN),出现最多颜色值面积比值系列S(p1,p2,…,pi,…,pN),pi为图像帧号;
利用胶囊内窥镜图像出现最多颜色值序列C(p1,p2,…,pi,…,pN)判断胶囊内窥镜是否进入体内,得到初步位置1,其判断方法为:判断图像帧号pc内的出现最多颜色值C(pc)是否小于设定阈值TC,当图像帧号pc内的出现最多颜色值C(pc)<TC时,统计图像帧号pc后图像内出现最多颜色值C(pc+j)连续小于TC的张数MC,当该张数MC大于设置阈值TM1时,胶囊已进入体内,记录此时图像帧号pc,作为初始位置1;pc+j为pc之后的图像,j的取值为[1,M],初始位置1为进入体内的第1张图像;
利用图像出现最多颜色值面积比S(p1,p2,…,pi,…,pN)判断胶囊内窥镜是否在体外,得到初步位置2,判断方法为:从第N张图像开始向前处理,判断图像帧号ps胶囊内窥镜图像出现最多颜色值面积比是否大于设定阈值TS,当胶囊内窥镜图像出现最多颜色值面积比S(ps)>设定阈值TS时,统计图像帧号ps前胶囊内窥镜图像出现最多颜色值面积比S(ps-q)连续大于设定阈值TS的张数MS,当该张数MS大于设置阈值TM2时,此时图像为体外图像,记录此时图像帧号ps,作为初始位置2;ps-q为ps之前的图像,s取值为[1,Ma],其中,Ma=TM2,初始位置2之前图像为体外图像;
在图像帧号ps和图像帧号pc之间,利用RGB各颜色通道灰度均值变化确定体外图像,其方法为:在图像帧号ps和图像帧号pc之间,计算RGB各颜色通道灰度均值变化,计算方式为:Do(pm)=Mo(pm)-Mo(pm+1),o为通道,通道o的取值分别为R通道、G通道和B通道,pm为ps和pc之间的图像帧号,m取值为[s,c-1],其中,s为Ps的帧号,c为Pc的帧号;判断RGB各颜色通道灰度均值变化DR(pm)、DG(pm)、DB(pm)是否满足设定阈值TD,当DR(pm)<TD,且DG(pm)<TD,且DB(pm)<TD时,此时距离图像帧号ps最近的图像帧号pm为体外体内图像分界位置,在图像帧号pm之前都为体外图像。
7.根据权利要求6所述的胶囊内窥镜图像预处理系统,其特征在于:上述利用胶囊内窥镜图像颜色序列C(p1,p2,…,pi,…,pN)判断胶囊内窥镜是否进入体内和利用图像出现最多颜色值面积比S(p1,p2,…,pi,…,pN)判断胶囊内窥镜是否在体外为并行处理。
8.根据权利要求6所述的胶囊内窥镜图像预处理系统,其特征在于:所述无效图像去除模块(2)对去除了体外图像数据的图像进行进一步处理,去除预设亮度范围之外的无效图像的具体方法为:
将去除体外图像数据后的胶囊内窥镜RGB图像转换为灰度图像gray;判断灰度图像gray的每个像素gray(x,y),当gray(x,y)>YH时,当前像素过亮;当gray(x,y)<YL时,当前像素过暗;YH、YL为人工设置的经验参数;统计过亮和过暗像素个数合SHL,SHL=sYL+sYH,其中,sYL为过暗像素个数,sYH为过亮像素个数,当SHL>ST时,当前灰度图像gray图像过亮或是过暗将其去除,当sYL>sYH时,图像过暗,反之,图像过亮,ST为人工设置的经验参数,ST与图像大小有关,ST=0.7*SI,SI为图像总的像素个数;
所述消化道图像分类模块(3)采用基于卷积神经网络CNN模型的深度学习方法对无效图像去除模块(2)输出的图像数据按消化道不同部位进行分类;
所述病灶和解剖学结构识别模块(4)采用深度学习方法识别消化道图像中的病灶和解剖学结构信息。
9.根据权利要求6所述的胶囊内窥镜图像预处理系统,其特征在于:所述病灶和解剖学结构冗余图像去除模块(5)对于每个识别出来的病灶和解剖学结构序列图像,利用病灶和解剖学结构的位置、大小、对比度特征来选择需要保留的图像,具体步骤如下:
计算序列中病灶和解剖学结构在每张图像中出现位置的得分RP,病灶和解剖学结构在每张图像中出现位置的得分RP表示序列中病灶和解剖学结构距离对应图像中心距离的远近,RP计算方式为:
其中W、H1分别为图像的宽度和高度,i为该病灶和解剖学结构图像序列中的序号,RPi为病灶和解剖学结构在i张图像中出现位置的得分,lxi、lyi为病灶和解剖学结构在第i张病灶和解剖学结构图像中位置的中心坐标;
统计序列中病灶和解剖学结构在每张病灶和解剖学结构图像中的大小得分RS,统计方式为:RSi=SWi×SHi,式中,RSi为统计序列中病灶和解剖学结构在第i张病灶和解剖学结构图像中的大小得分,SWi、SHi为病灶和解剖学结构图像序列中第i张图像病灶和解剖学结构的宽和高;
计算病灶和解剖学结构图像系列中病灶和解剖学结构在每张图像中所占区域的对比度得分RC,计算方式为:式中,RCi为病灶和解剖学结构图像系列中病灶和解剖学结构在i张图像中所占区域的对比度得分,δ(j,k)=|gray(j)-gray(k)|为相邻像素j、k的灰度差,Pδ(j,k)为灰度差δ(j,k)出现的概率;
统计每张图像的总得分RT,统计方式为:RTi=RPi×RSi×RCi,RTi表示第i张图像的总得分RT;
选取序列中RT值最大的图像为病灶和解剖学结构图像序列去除冗余后的保留图像,即对于每个病灶和解剖学结构仅保留一张最为显著图像。
10.一种利用权利要求1所述胶囊内窥镜图像预处理系统的胶囊内窥镜图像预处理方法,其特征在于,它包括如下步骤:
步骤1:所述体外图像去除模块(1)利用胶囊内窥镜图像灰度均值、胶囊内窥镜图像出现最多颜色值及胶囊内窥镜图像出现最多颜色值面积比,从胶囊内窥镜图像数据中去除体外图像数据,并输出给无效图像去除模块(2);
所述体外图像去除模块(1)利用胶囊内窥镜图像灰度均值、胶囊内窥镜图像颜色及胶囊内窥镜图像颜色面积比从胶囊内窥镜图像数据中去除体外图像数据,的具体方法为:
首先,体外图像去除模块对前N帧图像进行处理,得到RGB3个颜色通道的灰度均值序列MR(p1,p2,…,pi,…,pN)、MG(p1,p2,…,pi,…,pN)、MB(p1,p2,…,pi,…,pN)、出现最多颜色值序列C(p1,p2,…,pi,…,pN),出现最多颜色值面积比值系列S(p1,p2,…,pi,…,pN),pi为图像帧号;
利用胶囊内窥镜图像出现最多颜色值序列C(p1,p2,…,pi,…,pN)判断胶囊内窥镜是否进入体内,得到初步位置1,其判断方法为:判断图像帧号pc内的出现最多颜色值C(pc)是否小于设定阈值TC,当图像帧号pc内的出现最多颜色值C(pc)<TC时,统计图像帧号pc后图像内出现最多颜色值C(pc+j)连续小于TC的张数MC,当该张数MC大于设置阈值TM1时,胶囊已进入体内,记录此时图像帧号pc,作为初始位置1;pc+j为pc之后的图像,j的取值为[1,M],其中,M=阈值TM1,初始位置1为进入体内的第1张图像;
利用图像出现最多颜色值面积比S(p1,p2,…,pi,…,pN)判断胶囊内窥镜是否在体外,得到初步位置2,判断方法为:从第N张图像开始向前处理,判断图像帧号ps胶囊内窥镜图像出现最多颜色值面积比是否大于设定阈值TS,当胶囊内窥镜图像出现最多颜色值面积比S(ps)>设定阈值TS时,统计图像帧号ps前胶囊内窥镜图像出现最多颜色值面积比S(ps-q)连续大于设定阈值TS的张数MS,当该张数MS大于设置阈值TM2时,此时图像为体外图像,记录此时图像帧号ps,作为初始位置2;ps-q为ps之前的图像,s取值为[1,Ma],其中,Ma=TM2,初始位置2之前图像为体外图像;
在图像帧号ps和图像帧号pc之间,利用RGB各颜色通道灰度均值变化确定体外图像,其方法为:在图像帧号ps和图像帧号pc之间,计算RGB各颜色通道灰度均值变化,计算方式为:Do(pm)=Mo(pm)-Mo(pm+1),o为通道,通道o的取值分别为R通道、G通道和B通道,pm为ps和pc之间的图像帧号,m取值为[s,c-1],其中,s为Ps的帧号,c为Pc的帧号;判断RGB各颜色通道灰度均值变化DR(pm)、DG(pm)、DB(pm)是否满足设定阈值TD,当DR(pm)<TD,且DG(pm)<TD,且DB(pm)<TD时,此时距离图像帧号ps最近的图像帧号pm为体外体内图像分界位置,在图像帧号pm之前都为体外图像;
步骤2:无效图像去除模块(2)对去除了体外图像数据的图像进行按如下方法进行进一步处理,去除预设亮度范围之外的无效图像;
将去除体外图像数据后的胶囊内窥镜RGB图像转换为灰度图像gray;判断灰度图像gray的每个像素gray(x,y),当gray(x,y)>YH时,当前像素过亮;当gray(x,y)<YL时,当前像素过暗;YH、YL为人工设置的经验参数;统计过亮和过暗像素个数合SHL,SHL=sYL+sYH,其中,sYL为过暗像素个数,sYH为过亮像素个数,当SHL>ST时,当前灰度图像gray图像过亮或是过暗将其去除,当sYL>sYH时,图像过暗,当sYL<sYH时,图像过亮,ST为人工设置的经验参数,ST与图像大小有关,ST=0.7*SI,SI为图像总的像素个数;
步骤3:消化道图像分类模块(3)采用基于卷积神经网络CNN模型的深度学习方法对无效图像去除模块(2)输出的图像数据按消化道不同部位进行分类;
步骤4:所述病灶和解剖学结构识别模块(4)采用深度学习方法识别消化道图像中的病灶和解剖学结构信息;
步骤5:所述病灶和解剖学结构冗余图像去除模块(5)对于每个识别出来的病灶和解剖学结构序列图像,利用病灶和解剖学结构的位置、大小、对比度特征来选择需要保留的图像,具体步骤如下:
计算序列中病灶和解剖学结构在每张图像中出现位置的得分RP,病灶和解剖学结构在每张图像中出现位置的得分RP表示序列中病灶和解剖学结构距离对应图像中心距离的远近,RP计算方式为:
其中W、H1分别为图像的宽度和高度,i为该病灶和解剖学结构图像序列中的序号,RPi为病灶和解剖学结构在i张图像中出现位置的得分,lxi、lyi为病灶和解剖学结构在第i张病灶和解剖学结构图像中位置的中心坐标;
统计序列中病灶和解剖学结构在每张病灶和解剖学结构图像中的大小得分RS,统计方式为:RSi=SWi×SHi,式中,RSi为统计序列中病灶和解剖学结构在第i张病灶和解剖学结构图像中的大小得分,SWi、SHi为病灶和解剖学结构图像序列中第i张图像病灶和解剖学结构的宽和高;
计算病灶和解剖学结构图像系列中病灶和解剖学结构在每张图像中所占区域的对比度得分RC,计算方式为:式中,RCi为病灶和解剖学结构图像系列中病灶和解剖学结构在i张图像中所占区域的对比度得分,δ(j,k)=|gray(j)-gray(k)|为相邻像素j、k的灰度差,Pδ(j,k)为灰度差δ(j,k)出现的概率;
统计每张图像的总得分RT,统计方式为:RTi=RPi×RSi×RCi,RTi表示第i张图像的总得分RT;
选取序列中RT值最大的图像为病灶和解剖学结构图像序列去除冗余后的保留图像,即对于每个病灶和解剖学结构仅保留一张最为显著图像。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710267329.8A CN107240091B (zh) | 2017-04-21 | 2017-04-21 | 胶囊内窥镜图像预处理系统及方法 |
US15/959,058 US10733731B2 (en) | 2017-04-21 | 2018-04-20 | System and method for preprocessing capsule endoscopic image |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710267329.8A CN107240091B (zh) | 2017-04-21 | 2017-04-21 | 胶囊内窥镜图像预处理系统及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107240091A CN107240091A (zh) | 2017-10-10 |
CN107240091B true CN107240091B (zh) | 2019-09-03 |
Family
ID=59984103
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710267329.8A Active CN107240091B (zh) | 2017-04-21 | 2017-04-21 | 胶囊内窥镜图像预处理系统及方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US10733731B2 (zh) |
CN (1) | CN107240091B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11969145B2 (en) | 2019-05-06 | 2024-04-30 | Tencent Technology (Shenzhen) Company Limited | Medical endoscope image recognition method and system, and endoscopic imaging system |
Families Citing this family (35)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2554354B (en) | 2016-09-21 | 2021-06-02 | Vibrant Ltd | Systems for adaptive treatment of disorders in the gastrointestinal tract |
US10888277B1 (en) | 2017-01-30 | 2021-01-12 | Vibrant Ltd | Method for treating diarrhea and reducing Bristol stool scores using a vibrating ingestible capsule |
US10905378B1 (en) | 2017-01-30 | 2021-02-02 | Vibrant Ltd | Method for treating gastroparesis using a vibrating ingestible capsule |
US11055843B2 (en) * | 2017-06-14 | 2021-07-06 | Electronics And Telecommunications Research Institute | Capsule endoscope for determining lesion area and receiving device |
CN107886503A (zh) * | 2017-10-27 | 2018-04-06 | 重庆金山医疗器械有限公司 | 一种消化道解剖位置识别方法及装置 |
CN108055454B (zh) * | 2017-12-08 | 2020-07-28 | 合肥工业大学 | 医用内窥镜人工智能芯片的体系架构及图像处理方法 |
US11504024B2 (en) | 2018-03-30 | 2022-11-22 | Vibrant Ltd. | Gastrointestinal treatment system including a vibrating capsule, and method of use thereof |
US10537720B2 (en) | 2018-04-09 | 2020-01-21 | Vibrant Ltd. | Method of enhancing absorption of ingested medicaments for treatment of parkinsonism |
US11638678B1 (en) | 2018-04-09 | 2023-05-02 | Vibrant Ltd. | Vibrating capsule system and treatment method |
US11510590B1 (en) | 2018-05-07 | 2022-11-29 | Vibrant Ltd. | Methods and systems for treating gastrointestinal disorders |
CN109008909B (zh) * | 2018-07-13 | 2024-01-26 | 宜宾学院 | 一种低功耗胶囊内窥镜图像采集及三维重建系统 |
CN109272483B (zh) * | 2018-08-01 | 2021-03-30 | 安翰科技(武汉)股份有限公司 | 胶囊内镜阅片及质量控制的系统及控制方法 |
CN109447973B (zh) | 2018-10-31 | 2021-11-26 | 腾讯医疗健康(深圳)有限公司 | 一种结肠息肉图像的处理方法和装置及系统 |
CN109300134A (zh) * | 2018-11-30 | 2019-02-01 | 中国科学院电工研究所 | 一种胶囊内窥镜图像缩减控制系统 |
IL283822B1 (en) | 2019-01-03 | 2024-01-01 | Vibrant Ltd | A device for transporting an ingestible drug into the digestive tract of a user |
GB201900780D0 (en) | 2019-01-21 | 2019-03-06 | Vibrant Ltd | Device and method for delivering a flowable ingestible medicament into the gastrointestinal tract of a user |
GB201901470D0 (en) | 2019-02-04 | 2019-03-27 | Vibrant Ltd | Vibrating capsule for gastrointestinal treatment, and method of use thereof |
CN109934276B (zh) | 2019-03-05 | 2020-11-17 | 安翰科技(武汉)股份有限公司 | 基于迁移学习的胶囊内窥镜图像分类系统及方法 |
CN110084279A (zh) * | 2019-03-29 | 2019-08-02 | 广州思德医疗科技有限公司 | 一种确定分类标签的方法及装置 |
CN110110750B (zh) * | 2019-03-29 | 2021-03-05 | 广州思德医疗科技有限公司 | 一种原始图片的分类方法及装置 |
CN110084280B (zh) * | 2019-03-29 | 2021-08-31 | 广州思德医疗科技有限公司 | 一种确定分类标签的方法及装置 |
CN110490856B (zh) * | 2019-05-06 | 2021-01-15 | 腾讯医疗健康(深圳)有限公司 | 医疗内窥镜图像的处理方法、系统、机器设备和介质 |
CN110389127B (zh) * | 2019-07-03 | 2020-08-14 | 浙江大学 | 一种金属陶瓷零件识别及表面缺陷检测系统和方法 |
CN110367913B (zh) * | 2019-07-29 | 2021-09-28 | 杭州电子科技大学 | 无线胶囊内窥镜图像幽门和回盲瓣定位方法 |
CN111127395B (zh) * | 2019-11-19 | 2023-04-07 | 中国人民解放军陆军军医大学第一附属医院 | 一种基于swi图像和循环神经网络的血管识别方法 |
CN111462082A (zh) * | 2020-03-31 | 2020-07-28 | 重庆金山医疗技术研究院有限公司 | 一种病灶图片识别装置、方法、设备及可读存储介质 |
CN112274096B (zh) * | 2020-07-14 | 2021-05-18 | 青岛大学附属医院 | 信号反馈式器官底部辨识系统以及相应终端 |
CN111728613B (zh) * | 2020-08-18 | 2020-11-24 | 安翰科技(武汉)股份有限公司 | 电子设备及可读存储介质 |
CN112070124A (zh) * | 2020-08-18 | 2020-12-11 | 苏州慧维智能医疗科技有限公司 | 一种基于卷积神经网络的消化内镜视频场景分类方法 |
WO2022054049A1 (en) * | 2020-09-08 | 2022-03-17 | Given Imaging Ltd. | Systems and methods for polyp size estimation |
CN111932532B (zh) * | 2020-09-21 | 2021-01-08 | 安翰科技(武汉)股份有限公司 | 胶囊内窥镜无参考图像评价方法、电子设备及介质 |
US11625853B2 (en) * | 2021-04-12 | 2023-04-11 | Saudi Arabian Oil Company | Spot detection algorithm for external pipeline inspection applications |
CN113554628A (zh) * | 2021-07-27 | 2021-10-26 | 苏州微景医学科技有限公司 | 图像处理方法、装置及计算机可读存储介质 |
CN115564712B (zh) * | 2022-09-07 | 2023-07-18 | 长江大学 | 基于孪生网络的胶囊内窥镜视频图像冗余帧去除的方法 |
CN115251808B (zh) * | 2022-09-22 | 2022-12-16 | 深圳市资福医疗技术有限公司 | 基于场景指导的胶囊内窥镜控制方法、装置及存储介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103747270A (zh) * | 2013-12-19 | 2014-04-23 | 中山大学 | 一种胶囊内窥镜视频图像的去冗余方法及系统 |
WO2015049947A1 (ja) * | 2013-10-02 | 2015-04-09 | オリンパス株式会社 | データ受信装置、カプセル内視鏡システム、データ受信方法、及びプログラム |
CN106056588A (zh) * | 2016-05-25 | 2016-10-26 | 安翰光电技术(武汉)有限公司 | 胶囊内窥镜图像数据去冗余方法 |
CN106097335A (zh) * | 2016-06-08 | 2016-11-09 | 安翰光电技术(武汉)有限公司 | 消化道病灶图像识别系统及识别方法 |
CN106204599A (zh) * | 2016-07-14 | 2016-12-07 | 安翰光电技术(武汉)有限公司 | 用于消化道内图像的自动分段系统和方法 |
CN106373137A (zh) * | 2016-08-24 | 2017-02-01 | 安翰光电技术(武汉)有限公司 | 用于胶囊内窥镜的消化道出血图像检测方法 |
CN206026392U (zh) * | 2016-06-27 | 2017-03-22 | 深圳市新元素医疗技术开发有限公司 | 一种体外冲击波碎石控制装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050075537A1 (en) * | 2003-10-06 | 2005-04-07 | Eastman Kodak Company | Method and system for real-time automatic abnormality detection for in vivo images |
JP5117353B2 (ja) * | 2008-11-07 | 2013-01-16 | オリンパス株式会社 | 画像処理装置、画像処理プログラムおよび画像処理方法 |
WO2011005865A2 (en) * | 2009-07-07 | 2011-01-13 | The Johns Hopkins University | A system and method for automated disease assessment in capsule endoscopy |
US20110245611A1 (en) * | 2010-03-30 | 2011-10-06 | Chuen-Tai Yeh | Expandable capsule endoscope and expandable capsule endoscopy system |
US20140036054A1 (en) * | 2012-03-28 | 2014-02-06 | George Zouridakis | Methods and Software for Screening and Diagnosing Skin Lesions and Plant Diseases |
-
2017
- 2017-04-21 CN CN201710267329.8A patent/CN107240091B/zh active Active
-
2018
- 2018-04-20 US US15/959,058 patent/US10733731B2/en active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015049947A1 (ja) * | 2013-10-02 | 2015-04-09 | オリンパス株式会社 | データ受信装置、カプセル内視鏡システム、データ受信方法、及びプログラム |
CN103747270A (zh) * | 2013-12-19 | 2014-04-23 | 中山大学 | 一种胶囊内窥镜视频图像的去冗余方法及系统 |
CN106056588A (zh) * | 2016-05-25 | 2016-10-26 | 安翰光电技术(武汉)有限公司 | 胶囊内窥镜图像数据去冗余方法 |
CN106097335A (zh) * | 2016-06-08 | 2016-11-09 | 安翰光电技术(武汉)有限公司 | 消化道病灶图像识别系统及识别方法 |
CN206026392U (zh) * | 2016-06-27 | 2017-03-22 | 深圳市新元素医疗技术开发有限公司 | 一种体外冲击波碎石控制装置 |
CN106204599A (zh) * | 2016-07-14 | 2016-12-07 | 安翰光电技术(武汉)有限公司 | 用于消化道内图像的自动分段系统和方法 |
CN106373137A (zh) * | 2016-08-24 | 2017-02-01 | 安翰光电技术(武汉)有限公司 | 用于胶囊内窥镜的消化道出血图像检测方法 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11969145B2 (en) | 2019-05-06 | 2024-04-30 | Tencent Technology (Shenzhen) Company Limited | Medical endoscope image recognition method and system, and endoscopic imaging system |
Also Published As
Publication number | Publication date |
---|---|
CN107240091A (zh) | 2017-10-10 |
US10733731B2 (en) | 2020-08-04 |
US20180308235A1 (en) | 2018-10-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107240091B (zh) | 胶囊内窥镜图像预处理系统及方法 | |
CN110264424B (zh) | 一种基于生成对抗网络的模糊视网膜眼底图像增强方法 | |
CN106097335B (zh) | 消化道病灶图像识别系统及识别方法 | |
Ghosh et al. | CHOBS: Color histogram of block statistics for automatic bleeding detection in wireless capsule endoscopy video | |
CN108921825A (zh) | 基于深度学习的检测面部皮肤点状缺陷的方法及装置 | |
CN111899229A (zh) | 一种基于深度学习多模型融合技术的胃早癌辅助诊断方法 | |
CN111653365B (zh) | 一种鼻咽癌辅助诊断模型构建和辅助诊断方法及系统 | |
CN106204599B (zh) | 用于消化道内图像的自动分段系统和方法 | |
CN106530283A (zh) | 一种基于svm的医疗图像血管识别方法 | |
Pang et al. | Automatic segmentation of crop leaf spot disease images by integrating local threshold and seeded region growing | |
CN104537373B (zh) | 舌下络脉诊断用多光谱舌下图像特征提取方法 | |
CN107256552A (zh) | 息肉图像识别系统及方法 | |
CN105574514B (zh) | 温室生西红柿自动识别方法 | |
CN109934276A (zh) | 基于迁移学习的胶囊内窥镜图像分类系统及方法 | |
CN106845455A (zh) | 基于肤色检测的图像处理方法、系统及服务器 | |
CN101359365A (zh) | 一种基于最大类间方差和灰度信息的虹膜定位方法 | |
CN106096491B (zh) | 一种眼底彩色照相图像中微动脉瘤自动化识别方法 | |
CN107704886A (zh) | 一种基于深度卷积神经网络的医疗图像分级系统和方法 | |
CN104658014A (zh) | 一种检测活体内色度异常的方法 | |
CN110335241A (zh) | 肠镜检查后对肠道准备自动进行评分的方法 | |
CN109977865A (zh) | 一种基于人脸颜色空间和度量分析的欺诈检测方法 | |
CN110309329A (zh) | 内镜检查中智能化识别和记录消化道组织和异物的方法 | |
CN100563550C (zh) | 医用图像处理装置 | |
CN110827273A (zh) | 一种基于区域卷积神经网络的茶叶病害检测方法 | |
CN109241963B (zh) | 基于Adaboost机器学习的胶囊胃镜图像中出血点智能识别方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB02 | Change of applicant information | ||
CB02 | Change of applicant information |
Address after: 430075 666 new high tech Avenue, East Lake New Technology Development Zone, Wuhan, Hubei Applicant after: Anhan Science and Technology (Wuhan) Co., Ltd. Address before: 430075 666 new high tech Avenue, East Lake New Technology Development Zone, Wuhan, Hubei Applicant before: Ankon Photoelectric Technology (Wuhan) Co., Ltd. |
|
GR01 | Patent grant | ||
GR01 | Patent grant |