CN103300810A - 内窥镜系统及其处理器装置和用于显示内窥镜检查视频图像的方法 - Google Patents
内窥镜系统及其处理器装置和用于显示内窥镜检查视频图像的方法 Download PDFInfo
- Publication number
- CN103300810A CN103300810A CN2013100614653A CN201310061465A CN103300810A CN 103300810 A CN103300810 A CN 103300810A CN 2013100614653 A CN2013100614653 A CN 2013100614653A CN 201310061465 A CN201310061465 A CN 201310061465A CN 103300810 A CN103300810 A CN 103300810A
- Authority
- CN
- China
- Prior art keywords
- signal
- image
- light
- splanchnoscopy
- alarm
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000094—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/045—Control thereof
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0638—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0082—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes
- A61B5/0084—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes for introduction into the body, e.g. by catheters
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/145—Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue
- A61B5/1455—Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters
- A61B5/14551—Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters for measuring blood gases
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00043—Operational features of endoscopes provided with output arrangements
- A61B1/00045—Display arrangement
- A61B1/0005—Display arrangement combining images e.g. side-by-side, superimposed or tiled
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0653—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements with wavelength conversion
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Surgery (AREA)
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Veterinary Medicine (AREA)
- Public Health (AREA)
- Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Animal Behavior & Ethology (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Optics & Photonics (AREA)
- Radiology & Medical Imaging (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Signal Processing (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Endoscopes (AREA)
- Instruments For Viewing The Inside Of Hollow Bodies (AREA)
Abstract
在专用模式中,在第一帧周期中,捕获包括蓝光信号B1、绿光信号G1和红光信号R1的第一帧图像。在第二帧周期中,捕获包括蓝光信号B2、绿光信号G2和红光信号R2的第二帧图像。氧饱和度计算器基于信号比B1/G2和R2/G2计算每个像素的氧饱和度,并在监视器上顺序地输出所获得的专用图像。无论何时产生专用图像,都计算信号比R2/R1。当信号比R2/R1超过阈值时,显示警报符号“!!”。当信号比R2/R1大于预定范围S时,显示警报符号“HIGH StO2”。当信号比R2/R1小于范围S时,显示警报符号“LOW StO2”。
Description
技术领域
本发明涉及内窥镜系统、该内窥镜系统的处理器装置和用于显示内窥镜检查视频图像的方法。
背景技术
采用内窥镜系统的内窥镜检查法广泛地用在医疗领域中。内窥镜系统由电子内窥镜、光源装置、处理器装置、监视器等构成。近年来,存在已知的内窥镜系统,不仅设置有用于在具有宽波长带的白光下观察体腔的内部的整个图像的正常模式(正常光观察模式),而且设置有用于采用在具体窄波长带内的专用光从多个观察点进行观察的专用模式(专用光观察模式)。
在正常模式中,宽波长带中的诸如氙气光的正常光被施加至内体部,并且彩色图像传感器捕获从体部反射的光。由图像传感器获得的彩色视频图像显示在监视器上。在另一种技术中,如在日本专利特许公开No.08-068952中描述的那样,正常光被色分离成三种光色,并且内窥镜系统将这三种光色顺序地施加至内体部。单色图像传感器通过帧顺序方法捕获从内体部反射的光。由此获得的三色帧图像合并成彩色视频图像。
在专用模式中,已知一种血管图案获取技术,其中采用具有一波长的专用光增强具体深度处的血管,在该波长处具有高的光吸收系数。此外,已知一种氧饱和度获取技术。在该技术中,具有包括光吸收系数在该处在氧络血红蛋白和脱氧血红蛋白之间明显不同的波长的不同波长的多种类型的专用光被顺序地施加至内体部。通过顺序方法捕获从内体部反射的光以获得多帧图像。根据多帧图像计算氧饱和度。上述技术便于找出在正常光下难以发现的诸如癌症之类的器官损害。
在采用多种类型的专用光的照射下通过顺序方法获取多帧图像的方法中,以不同的定时时间捕获每个单独的帧图像。因此,如果在帧图像中出现由诸如电子内窥镜的前端组件的摇动和身体运动之类的多种运动引起的位移,则伪像出现在从帧图像产生的内窥镜检查图像中。作为避免伪像的措施,在日本专利特许公开No.08-068952的系统中,在运动小时,以彩色显示从通过帧顺序方法获得RGB三帧图像产生的单个内窥镜检查图像。如果运动大,则显示器切换成单色,从而在彩色显示器中引起色差。
在日本专利特许公开No.08-068952的系统中,通过键盘输入手动进行彩色显示器和单色显示器之间的切换。这种切换操作对操纵电子内窥镜的医生来说是一种负担。为了减少医生的负担,需要另一个人,例如,切换助手。
发明内容
本发明的目标是提供一种内窥镜系统、该内窥镜系统的处理器装置、以及一种方法,该方法用于在基于通过帧顺序方法获得的多帧图像显示内窥镜检查图像时,自动检查异常,如,内窥镜检查图像中出现伪像,并将检查结果显示在监视器上。
为了实现上述和其它目标,根据本发明的内窥镜系统包括照明装置、图像捕获装置、视频图像产生装置、监视器装置和报警装置。照明装置将具有不同的波长带的多种类型的照明光顺序地施加至内体部。图像捕获装置顺序地捕获来自所述内体部的反射光以获得与所述多种类型的照明光对应的多帧图像信号。视频图像产生装置基于所述多帧图像信号产生具有一个视频帧的内窥镜检查图像,并顺序地输出多个所产生的内窥镜检查图像以产生内窥镜检查视频图像。所述内窥镜检查视频图像被显示在监视器装置上。报警装置在所述图像信号中的至少两个之间的信号比在预定范围之外时发出警报。
所述照明装置优选地在第一帧周期中发射第一照明光并在第二帧周期中发射第二照明光。所述第一照明光和第二照明光优选地在具体波长范围内具有相同的光谱分布。采用包括具有用于通过所述具体波长范围中的光的滤色器的具体像素的彩色图像传感器,所述图像捕获装置在所述第一帧周期中获得第一图像信号并在所述第二帧周期中获得第二图像信号。当所述第一图像信号的第一信号分量和所述第二图像信号的第二信号分量之间的信号比在预定范围之外时,所述报警装置发出所述警报。所述第一信号分量涉及所述第一图像信号的从所述具体像素输出的分量。所述第二信号分量涉及所述第二图像信号从所述具体像素输出的分量。
所述第一照明光优选地包括窄波长带中的第一蓝光和宽波长带中的第一绿到红光。所述第一绿到红光是采用波长转换元件对所述第一蓝光进行波长转换获得的。所述第二照明光优选地包括窄波长带中的第二蓝光和宽波长带中的第二绿到红光。所述第二绿到红光是采用所述波长转换元件对所述第二蓝光进行波长转换获得的。所述第一蓝光的波长不同于所述第二蓝光的波长。所述第一和第二照明光优选地在红光波长范围中具有相同的光谱分布。
第一蓝光和第二蓝光优选地是从半导体光源发射的。
当所述信号比在第一数值域之外时,所述报警装置优选地发出关于所述内体部的体运动或图像传感器的摇动的第一警报。
所述内窥镜检查视频图像优选地为对血液的氧饱和度成像的氧饱和视频图像。当所述信号比在第二数值域之外时,所述报警装置优选地发出关于所述氧饱和度的第二警报。
所述报警装置可以通过改变如何在所述监视器装置上显示所述内窥镜检查视频图像而发出所述警报。所述报警装置通过在所述监视器装置上显示警报符号而发出所述警报。所述警报符号与所述内窥镜检查视频图像一起被显示在所述监视器装置上。
内窥镜系统还可以包括静止图像记录装置,该静止图像记录装置用于在所述信号比在所述预定范围之内时将所述内窥镜检查图像的一个或多个视频帧作为静止图像存储在静止图像存储装置中。
内窥镜系统的处理器装置包括视频图像产生装置和报警装置。视频图像产生装置基于所述多帧图像信号产生具有一个视频帧的内窥镜检查图像,并顺序地输出多个所产生的内窥镜检查图像至监视器装置以产生内窥镜检查视频图像。报警装置在所述图像信号中的至少两个之间的信号比在预定范围之外时发出警报。
一种用于显示内窥镜检查视频图像的方法,包括下述步骤:将具有不同的波长带的多种类型的照明光顺序地施加至内体部;顺序地捕获来自所述内体部的反射光以获得与所述多种类型的照明光对应的多帧图像信号;基于所述多帧图像信号产生具有一个视频帧的内窥镜检查图像;通过重复所述施加步骤、所述捕获步骤和所述产生步骤而在监视器装置上顺序地显示作为内窥镜检查视频图像的多个所述内窥镜检查图像;将所述图像信号中的至少两个的信号比与预定范围进行比较;以及在所述信号比在所述预定范围之外时发出警报。
根据本发明,图像信号之间的与内体部的体运动等存在相关性的信号比的使用允许自动检查异常,如,伪像的出现。而且,检查到的异常作为警报被显示在内窥镜检查视频图像中。
附图说明
为了更完整地理解本发明及其优点,现在参考后续结合附图进行的描述,在附图中:
图1为内窥镜系统的概观图;
图2为内窥镜系统的框图;
图3为示出第一和第二白光的发射光谱的曲线图;
图4A为示出彩色图像传感器中的B像素、G像素和R像素的布置的说明图;
图4B为示出B像素、G像素和R像素的光谱透射率的曲线图;
图5A为处于正常模式中的图像传感器的成像控制的说明图;
图5B为处于专用模式中的图像传感器的成像控制的说明图;
图6A为在其上显示关于伪像的警报的专用视频图像的说明图;
图6B为在其上显示关于氧饱和度的警报的专用视频图像的说明图;
图6C为在其上显示关于氧饱和度的另一种警报的专用视频图像的说明图;
图7为图像处理单元的框图;
图8为示出氧饱和度和信号比B1/G2和R2/G2之间的相关性的曲线图;
图9为示出氧络血红蛋白和脱氧血红蛋白的光吸收系数的曲线图;
图10为示出血量和信号比R2/G2之间的相关性的曲线图;
图11为用于根据图8中的信号比计算氧饱和度的方法的说明图;
图12为专用模式的流程图;以及
图13为用于说明根据运动M切换如何显示专用视频图像的说明图。
具体实施方式
如图1所示,内窥镜系统10由光源装置11、电子内窥镜12、处理器装置13、监视器14以及诸如键盘之类的输入装置15构成。光源装置11产生具体波长带中的多种类型的照明光。来自光源装置11的照明光施加到体腔的内部,电子内窥镜12对从体腔的内部反射的光进行成像。处理器装置13根据由电子内窥镜12获得的图像信号产生内窥镜检查图像。所获得的内窥镜检查图像显示在监视器14上。
电子内窥镜12设置有从控制把手单元16侧按顺序设置的柔性细长管17、操纵组件18和前端组件19。操纵组件18通过设置在控制把手单元16上的弯角钮16a的转动柔性地弯曲。通过沿任意方向和角度弯曲操纵组件18,前端组件19瞄准将被检查的目标内体部。柔性细长管17、操纵组件18和前端组件19被共同地称为插入部。
内窥镜系统10在正常模式和专用模式之间切换。在正常模式中,在从蓝光扩展到红光的可见区中产生正常视频图像。在专用模式中,产生表示血红蛋白的氧饱和度的专用视频图像。基于来自电子内窥镜12的模式开关21的或输入装置15的输入恰当地进行这种切换。
如图2所示,光源装置11包括两种类型的激光源LD1和LD2以及源控制器20。激光源LD1发射具有473nm的中心波长的第一激光束。第一激光束激发设置在前端组件19中的磷光体50,并产生第一白光(伪白光)。激光源LD2发射具有445nm的中心波长的第二激光束。第二激光束激发磷光体50,并产生第二白光(伪白光)。注意到,第一激光束优选在460nm~480nm的波长范围内,第二激光束优选在440nm~460nm的波长范围内。
从激光源LD1发射的第一激光束通过聚光透镜(未示出)入射在光纤24上。从激光源LD2发射的第二激光束通过聚光透镜(未示出)入射在光纤25上。作为激光源LD1和LD2,宽域型InGaN激光二极管、InGaNAs激光二极管、GaNAs激光二极管等是可用的。
源控制器20控制激光源LD1和LD2,并调整激光源LD1和LD2的发射定时。在该实施例中,在正常模式中,激光源LD2打开,激光源LD1关闭。在专用模式中,激光源LD1和LD2逐帧地交替打开和关闭。更具体地,当激光源LD1打开时,激光源LD2关闭。当激光源LD1关闭时,激光源LD2打开。
耦合器22将来自光纤24的第一激光束分成两束,并将所分成的两束分别输入光导28和29中。耦合器22还将来自光纤25的第二激光束分成两束,并将所分成的两束分别输入光导28和29中。每个光导28,29由其中捆绑大量光纤的光纤束制成。
电子内窥镜12设置有用于将通过光导28和29传递的两束激光施加到内体部的照明部33、以及用于对内体部进行成像的图像捕获部34。电子内窥镜12还设置有将电子内窥镜12可拆卸地连接至光源装置11和处理器装置13的连接器36。
照明部33包括设置在图像捕获部34的左右两侧上的两个照明窗43和44,以及分别设置在照明窗43和44的凹部中的光投射单元47和54。通过照明窗43和44,第一或第二白光施加至内体部。每个光投射单元47,54包含磷光体50和透镜51。图像捕获部34包括近似设置在前端组件19的中心处以接收从内体部反射的光的成像窗42和设置在成像窗42的凹部中的图像传感器60。
磷光体50由吸收来自激光源LD1的第一激光束或来自激光源LD2的第二激光束的一部分并发射绿到红色荧光的多种类型的荧光物质(例如,YAG基荧光物质或BAM(BaMgAl10O17)基荧光物质)制成。通过混合从磷光体50发射的绿到红色荧光和未被吸收的通过磷光体50的第一或第二激光束,第一或第二激光束到磷光体50中的输入产生伪白光。
磷光体50优选具有近似长方体形状。可以通过粘合剂将荧光物质压实成长方体形状来形成磷光体50。荧光物质和诸如无机玻璃之类的树脂的混合物可以形成长方体形状。在商标Micro White(MW)的名义下的磷光体50是已知的。
如图3所示,通过第一激光束的入射产生的第一白光具有为第一激光束的波长带的473nm的波长和为由第一激光束激发的荧光的波长带的在480nm和700nm之间的波长。通过第二激光束的入射产生的第二白光具有为第二激光束的波长带的445nm的波长和为由第二激光束激发的荧光的波长带的在460nm和700nm之间的波长。
注意到,白光没有必要包含可见光中的每一种和全部波长分量,只要它包含为原色的R(红)、G(绿)和B(蓝)的多个波长分量,如上述伪白光。在广义上,白光例如包括具有从绿光到红光的波长分量的光和具有从蓝光到绿光的波长分量的光等。
物镜58设置在成像窗42的凹部中以捕获内体部的图像光。在物镜58的凹部中,设置图像传感器60,如,CCD(电荷耦合器件)图像传感器或CMOS(互补金属氧化物半导体)图像传感器以对图像光进行光电转换。
图像传感器60在其光接收表面(成像表面)处接收来自物镜58的图像光,并对接收到的图像光进行光电转换以输出模拟图像信号。在该实施例中,彩色CCD用作图像传感器60。如图4A所示,图像传感器60具有沿其光接收表面中的水平和垂直方向二者布置的2×2像素布置图案。每个布置图案包括具有B(蓝)滤色器的一个B像素60b、具有G(绿)滤色器的两个G像素60g、和具有R(红)滤色器的一个R像素60r。B,G和R滤色器在蓝光波长范围、绿光波长范围和红光波长范围内分别具有高的光谱透射率,如由图4B的曲线63,64和65所表示的那样。
从图像传感器60输出的模拟图像信号通过电缆67输入至A/D转换器68。A/D转换器68根据图像信号的电压电平将图像信号转换成数字图像信号。转换后的图像信号通过连接器36输入至处理器装置13。
成像控制器70控制图像传感器60。如图5A所示,在正常模式中,由第二白光(445nm+荧光)产生的电荷积累并在一个帧周期内被读出。当内窥镜系统10保持在正常模式中时重复这种积累和读出。
在专用模式中,另一方面,如图5B所示,由第一白光(473nm+荧光)产生的电荷积累并在一个帧周期内被读出。在此之后,由第二白光产生的电荷积累并在第二帧周期内被读出。当内窥镜系统10保持在专用常模式中时交替地重复第一和第二帧周期。
在专用模式中,B1表示在第一帧周期中从图像传感器60的B像素输出的蓝光信号。G1表示在第一帧周期中从G像素输出的绿光信号,R1表示在第一帧周期中从R像素输出的红光信号。B2表示在第二帧周期中从B像素输出的蓝光信号。G2表示在第二帧周期中从G像素输出的绿光信号,R2表示在第二帧周期中从R像素输出的红光信号。
处理器装置13由主控制器71、运动计算单元72、图像处理单元73和存储装置74构成。主控制器71连接至监视器14和输入装置15。主控制器71基于来自电子内窥镜12的模式开关21和输入装置15的输入控制图像处理单元73、光源装置11的源控制器20、电子内窥镜12的成像控制器70、和监视器14的操作。
运动计算单元72计算在第一帧周期中获得的第一帧图像的红光信号R1和在第二帧周期中获得的第二帧图像的红光信号R2之间的信号比R2/R1。随后,运动计算单元72根据信号比R2/R1计算运动M,该运动M以数值形式表示包括前端组件19的摇动和内体部的身体运动的多种运动。运动M和信号比R2/R1之间的相关性存储在运动相关性存储器72a中。
当运动M为预定阈值或更大时,由于所述多种运动,伪像倾向于出现。因此,如图6A所示,报警单元72b在专用视频图像中插入警报符号“!!”,其指示“存在发生伪像的可能性”。由运动计算单元72计算的运动M发送至图像处理单元73。注意到,伪像可能不仅由运动而且由第一和第二白光之间的通过曝光控制引起的强度比变化而出现。为此原因,第一和第二白光之间的强度比优选地保持恒定。
为什么如上所述根据信号比R2/R1计算运动M的原因如下。在专用模式中,在第一帧周期中发射的第一白光和在第二帧周期中发射的第二白光在红光波长范围内具有近似相同的光谱分布(参见图3)。因此,如果没有运动发生,则红光信号R2和R1之间的信号比R2/R1保持为几乎恒定值C,其取决于第一和第二光谱之间的强度比。相反,如果发生任何运动,则信号比R2/R1根据运动的量而偏离恒定值C。为此原因,通过计算信号比R2/R1与恒定值C的偏差能够获得运动M。
当由运动计算单元72计算的信号比R2/R1超出预定范围S时,报警单元72b在专用视频图像中插入用于指示存在在氧饱和度的计算中出现误差的可能性的警报符号。例如,当信号比R2/R1大于预定范围S时,如图6B所示,警报符号“HIGH StO2”14b插入专用视频图像中以指示“计算出的氧饱和度可能高于实际值”。另一方面,当信号比R2/R1小于预定范围S时,如图6C所示,警报符号“LOW StO2”14c插入专用视频图像中以指示“计算出的氧饱和度可能低于实际值”。注意到,关于氧饱和度和伪像警报的符号可以同时显示在监视器14上。
氧饱和度的计算中的误差根据信号比R2/R1变化的原因如下。在专用模式中,当前端组件19靠近内体部时,由于物镜58的光学特性,物体的尺寸在第二帧图像中变为比第一帧图像中大。换句话说,前端组件19和物体之间的距离在第二帧图像中较短,因此第二帧图像中的曝光量大于第一帧图像中的曝光量。在该情况中,由于信号比R2/R1变为大于预定范围S,因此氧饱和度(与B1/G2相关)倾向于大于实际值。
相反,当前端组件19移动离开内体部时,前端组件19和物体之间的距离在第一帧图像中较短,因此第一帧图像中的曝光量大于第二帧图像中的曝光量。在该情况中,由于信号比R2/R1变为小于预定范围S,因此氧饱和度倾向于小于实际值。
如图7所示,图像处理单元73包括正常视频图像处理器80、专用视频图像处理器81和静止图像处理器82。图像处理单元73对来自电子内窥镜12的图像信号应用预定图像处理。正常视频图像处理器80对在正常模式中获得的图像信号应用预定图像处理以产生正常视频图像。
专用视频图像处理器81基于在专用模式中获得的图像信号计算血液中的氧饱和度,并产生其中正常视频图像被人为地变为彩色的专用视频图像(氧饱和视频图像)。专用视频图像处理器81包括信号比计算器84、相关性存储器85、氧饱和度计算器86和视频图像产生器88。
信号比计算器84计算第一帧图像的蓝光信号B1和第二帧图像的绿光信号G2之间的信号比B1/G2,第二帧图像的红光信号R2和第二帧图像的绿光信号G2之间的信号比R2/G2。信号比计算器84计算关于位于同一位置中的像素的信号比。可以关于每个和全部像素或仅在位于血管区域中的像素计算信号比。在该情况中,根据血管区域和其它区域之间的图像信号之间的差确定血管区域。
相关性存储器85存储信号比B1/G2和R2/G2与氧饱和度之间的相关性。如图8所示,这种相关性采取二维表的形式,其中在二维空间中限定表示氧饱和度的等高线。等高线的位置和形状是通过光散射的物理模拟获得的,并且可以根据血量变化。例如,血量的变化使等高线之间的距离加宽或变窄。注意到,以log比例绘制信号比B1/G2和R2/G2。
相关性与氧络血红蛋白和脱氧血红蛋白的光吸收特性和光散射特性密切相关,如图9所示。在图9中,线90表示氧络血红蛋白的光吸收系数,线91表示脱氧血红蛋白的光吸收系数。例如473nm的波长的使用允许获得氧饱和度,在473nm的波长处光吸收系数在氧络血红蛋白和脱氧血红蛋白之间明显不同。然而,对应于473nm的光的蓝光信号B1不仅高度依赖于氧饱和度而且高度依赖于血量。因此,信号比B1/G2和R2/G2的使用允许以高的精度获得氧饱和度,同时消除血量的影响,除了蓝光信号B1之外,信号比B1/G2和R2/G2是从主要依赖于血量的红光信号R2和为蓝光信号B1和红光信号R2的参考信号(标准化信号)的绿光信号G2获得的。
相关性存储器85还存储信号比R2/G2和血量之间的相关性,如图10所示。这种相关性采用一维表的形式,其中血量随着信号比R2/G2的增加而增加。信号比R2/G2和血量之间的相关性用在血量的计算中。
根据光吸收系数对波长的依赖性,下述三项是适用的:
(1)在470nm的波长附近(例如,具有470nm±10nm的中心波长的蓝光波长范围),光吸收系数在很大程度上根据氧饱和度的差异变化。
(2)在540nm和580nm之间的绿光波长范围内,光吸收系数的平均值不易受氧饱和度的影响。
(3)在590nm和700nm的红光波长范围内,光吸收系数看起来在很大程度上根据氧饱和度变化,但事实上,不易受氧饱和度的影响,因为光吸收系数的值非常小。
信号比B1/G2的信号值随着信号比R2/G2的增加而增加的原因,换句话说,表示0%的氧饱和度的等高线如图8所示倾斜地下降的原因如下。如上所述,由于信号比R2/G2和血量之间的相关性,血量随着信号比R2/G2的增加而增加。在信号B1,G2和R2之外,绿光信号G2的信号值在非常大的程度上随着血量的增加而减小,蓝光信号B1的信号值紧跟着极大地减小。这是因为光吸收系数在绿光信号G2中包括的540nm~580nm的波长范围处大于在蓝光信号B1中包括的470nm附近的波长范围处的光吸收系数(参见图9)。因此,关于信号比B1/G2,绿光信号G2的信号值比蓝光信号B1的信号值在更大程度上随着血量的增加而减小。换句话说,信号比B1/G2随着血量的增加而增加。
氧饱和度计算器86采用相关性存储器85中存储的相关性以及由信号比计算器84获得的信号比B1/G2和R2/G2计算每个像素的氧饱和度。如图11所示,与通过信号比计算器84获得的信号比B1*/G2*和R2*/G2*对应的点P在相关性存储器85中存储的相关性中被确定。当点P位于表示0%的氧饱和度的下限线93和表示100%的氧饱和度的上限线94之间时,点P指示氧饱和度的百分点。以图11为例,点P位于60%的等高线中,因为氧饱和度为60%。
另一方面,在该点位于下限线93和上限线94之间的范围之外的情况中,在该点位于下限线93之上时,确定氧饱和度为0%。当该点位于上限线94之下时,确定氧饱和度为100%。注意到,在该点位于下限线93和上限线94之间的范围之外的情况中,像素的氧饱和度被判断是不可靠的并且可以不被显示在监视器14上。
视频图像产生器88基于由氧饱和度计算器86获得的氧饱和度产生专用视频图像(氧饱和视频图像)。所产生的专用视频图像显示在监视器14上。在专用视频图像中,例如,可以根据氧饱和度的等级,用具体颜色人为地给整个正常视频图像着色。在另一种情况中,可以人为地着色仅具有低于预定值的氧饱和度的缺氧区域,而可以用正常颜色(正常视频图像中使用的颜色)显示其它区域。
静止图像处理器82执行照相处理(freeze processing),其中在按压设置在电子内窥镜12中的照相按钮16b时将视频帧作为静止图像存储在静止图像存储器74a中。在正常模式中,在正常视频图像之外,通过照相处理,将一个或多个视频帧作为正常静止图像存储在静止图像存储器74a中。
在专用模式中,另一方面,当运动判断单元82a判断运动M为阈值或更小时执行照相处理。在照相处理中,在构成专用视频图像的视频帧范围之外,将一个或多个视频帧作为专用静止图像存储在静止图像存储器74a中。仅存储在运动M等于或小于阈值时捕获的视频帧,如上所述,因此能够仅存储不具有或具有小的偏差的图像。注意到,在即使按压照相按钮16a的情况中,由于大的运动M,不执行照相处理,监视器14可以同样地显示。
接下来,将参照图12的流程图描述本发明的操作。当通过设置在电子内窥镜12中的模式开关21的操作将内窥镜系统10切换至专用模式时,第一白光施加至内体部。图像传感器60捕获反射的第一白光以获得第一帧周期的图像信号。因此,获得包括蓝光信号B1、绿光信号G1和红光信号R1的第一帧图像。
在此之后,第二白光施加至内体部。图像传感器60捕获反射的第二白光以获得第二帧周期的图像信号。因此,获得包括蓝光信号B2、绿光信号G2和红光信号R2的第二帧图像。
随后,信号比计算器84计算每个和全部像素的信号比B1/G2和R2/G2。氧饱和度计算器86基于相关性存储器85中存储的相关性以及信号比B1/G2和R2/G2计算每个像素的氧饱和度。基于计算出的氧饱和度产生专用图像。通过以顺序方式显示所产生的专用图像,在监视器14上显示专用视频图像。
无论何时产生专用图像的单个视频帧,都计算第一帧图像的红光信号R1和第二帧图像的红光信号R2之间的信号比R2/R1。当通过信号比R2/R1获得的运动M大于阈值时,指示“存在发生伪像的可能性”的警报符号“!!”插入专用视频图像。当信号比R2/R1大于预定范围S时,警报符号“HIGHStO2”插入专用视频图像以指示“计算出的氧饱和度可能高于实际值”。另一方面,当信号比R2/R1小于预定范围S时,警报符号“LOW StO2”插入专用视频图像中以指示“计算出的氧饱和度可能低于实际值”。只要内窥镜系统10保持在在专用模式中,就重复上述操作顺序。
在上述实施例中,当运动M大于阈值,发出指示“存在发生伪像的可能性”的警报符号。代替或除此之外,如图13所示,在运动M大于阈值或在预定范围之外时可以以单色显示专用视频图像,而在运动M为阈值或更小或在预定范围之内时以彩色显示专用视频图像。
在上述实施例中,磷光体50设置在前端组件19中,但可以设置在光源装置11中。在该情况中,磷光体50设置在激光源LD1(473nm)和光纤24之间以及激光源LD2(445nm)和光纤25之间。
在上述实施例中,氧饱和视频图像用作专用视频图像的示例。然而,本发明适用于由通过顺序方法,包括帧顺序方法和线顺序方法获得的多帧图像的任何图像(NBI图像等)。
在上述实施例中,警报符号插入专用视频图像中,但另一种类型的信息,如文本,可以用作警报信息。例如,文本“存在发生伪像的可能性”可以显示在视频图像中。为了给出警报,代替在视频图像中显示警报符号或文本,可以接通设置在监视器上的灯泡。
注意到,在该实施例中对氧饱和度进行成像。然而,代替或除了氧饱和度,可以对通过“血量(氧络血红蛋白和脱氧血红蛋白之和)×氧饱和度(%)”计算的氧络血红蛋白指数或通过“血量×(100-氧饱和度)(%)”计算的脱氧血红蛋白指数进行成像。
虽然已经通过本发明的优选实施例参照附图完整地描述了本发明,但多种变化和修改对本领域技术人员来说将是明显的。因此,除了这些变化和修改偏离本发明的范围,否则它们应当被解释为包括在其中。
Claims (13)
1.一种内窥镜系统,包括:
照明装置,用于将具有不同的波长带的多种类型的照明光顺序地施加至内体部;
图像捕获装置,用于顺序地捕获来自所述内体部的反射光以获得与所述多种类型的照明光对应的多帧图像信号;
视频图像产生装置,用于基于所述多帧图像信号产生具有一个视频帧的内窥镜检查图像,并顺序地输出多个所产生的内窥镜检查图像以产生内窥镜检查视频图像;
监视器装置,用于显示所述内窥镜检查视频图像;和
报警装置,用于在所述图像信号中的至少两个之间的信号比在预定范围之外时发出警报。
2.根据权利要求1所述的内窥镜系统,其中
所述照明装置在第一帧周期中发射第一照明光并在第二帧周期中发射第二照明光,并且所述第一照明光和第二照明光在具体波长范围内具有相同的光谱分布;
采用包括具有用于通过所述具体波长范围中的光的滤色器的具体像素的彩色图像传感器,所述图像捕获装置在所述第一帧周期中获得第一图像信号并在所述第二帧周期中获得第二图像信号;并且
当所述第一图像信号的第一信号分量和所述第二图像信号的第二信号分量之间的信号比在预定范围之外时,所述报警装置发出所述警报,
其中所述第一信号分量涉及所述第一图像信号的从所述具体像素输出的分量,并且所述第二信号分量涉及所述第二图像信号从所述具体像素输出的分量。
3.根据权利要求2所述的内窥镜系统,其中
所述第一照明光包括窄波长带中的第一蓝光和宽波长带中的第一绿到红光,并且所述第一绿到红光是采用波长转换元件对所述第一蓝光进行波长转换获得的;
所述第二照明光包括窄波长带中的第二蓝光和宽波长带中的第二绿到红光,并且所述第二绿到红光是采用所述波长转换元件对所述第二蓝光进行波长转换获得的,并且所述第一蓝光的波长不同于所述第二蓝光的波长;并且
所述第一和第二照明光在红光波长范围中具有所述相同的光谱分布。
4.根据权利要求3所述的内窥镜系统,其中所述第一和第二蓝光是从半导体光源发射的。
5.根据权利要求1-4中任一项所述的内窥镜系统,其中当所述信号比在第一数值域之外时,所述报警装置发出关于所述内体部的体运动或图像传感器的摇动的第一警报。
6.根据权利要求1-4中任一项所述的内窥镜系统,其中
所述内窥镜检查视频图像为对血液的氧饱和度成像的氧饱和视频图像;并且
当所述信号比在第二数值域之外时,所述报警装置发出关于所述氧饱和度的第二警报。
7.根据权利要求1-4中任一项所述的内窥镜系统,其中所述报警装置通过改变如何在所述监视器装置上显示所述内窥镜检查视频图像而发出所述警报。
8.根据权利要求1-4中任一项所述的内窥镜系统,其中所述报警装置通过在所述监视器装置上显示警报符号而发出所述警报。
9.根据权利要求8所述的内窥镜系统,其中所述警报符号与所述内窥镜检查视频图像一起被显示在所述监视器装置上。
10.根据权利要求1-4中任一项所述的内窥镜系统,还包括静止图像记录装置,该静止图像记录装置用于在所述信号比在所述预定范围之内时将所述内窥镜检查图像的一个或多个视频帧作为静止图像存储在静止图像存储装置中。
11.一种内窥镜系统的处理器装置,该内窥镜系统具有用于将具有不同的波长带的多种类型的照明光顺序地施加至内体部的照明装置、用于顺序地捕获来自所述内体部的反射光以获得与所述多种类型的照明光对应的多帧图像信号的图像捕获装置、和监视器装置,所述处理器装置包括:
视频图像产生装置,用于基于所述多帧图像信号产生具有一个视频帧的内窥镜检查图像,并顺序地输出多个所产生的内窥镜检查图像至所述监视器装置以产生内窥镜检查视频图像;和
报警装置,用于在所述图像信号中的至少两个之间的信号比在预定范围之外时发出警报。
12.一种用于显示内窥镜检查视频图像的方法,包括下述步骤:
将具有不同的波长带的多种类型的照明光顺序地施加至内体部;
顺序地捕获来自所述内体部的反射光以获得与所述多种类型的照明光对应的多帧图像信号;
基于所述多帧图像信号产生具有一个视频帧的内窥镜检查图像;
通过重复所述施加步骤、所述捕获步骤和所述产生步骤而在监视器装置上顺序地显示作为内窥镜检查视频图像的多个所述内窥镜检查图像;
将所述图像信号中的至少两个的信号比与预定范围进行比较;以及
在所述信号比在所述预定范围之外时发出警报。
13.根据权利要求12所述的方法,其中所述警报与所述内窥镜检查视频图像一起被显示在所述监视器装置上。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012054503A JP5568584B2 (ja) | 2012-03-12 | 2012-03-12 | 内視鏡システム、内視鏡システムのプロセッサ装置、及び内視鏡システムの作動方法 |
JP2012-054503 | 2012-03-12 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103300810A true CN103300810A (zh) | 2013-09-18 |
CN103300810B CN103300810B (zh) | 2016-05-04 |
Family
ID=47900510
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310061465.3A Active CN103300810B (zh) | 2012-03-12 | 2013-02-27 | 内窥镜系统及其处理器装置和用于显示内窥镜检查视频图像的方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US9084529B2 (zh) |
EP (1) | EP2638842B1 (zh) |
JP (1) | JP5568584B2 (zh) |
CN (1) | CN103300810B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107072488A (zh) * | 2015-09-24 | 2017-08-18 | Hoya株式会社 | 分析装置 |
Families Citing this family (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5977772B2 (ja) * | 2014-02-06 | 2016-08-24 | 富士フイルム株式会社 | 内視鏡システム、内視鏡システムのプロセッサ装置、内視鏡システムの作動方法、プロセッサ装置の作動方法 |
JP5992936B2 (ja) * | 2014-02-27 | 2016-09-14 | 富士フイルム株式会社 | 内視鏡システム、内視鏡システム用プロセッサ装置、内視鏡システムの作動方法、内視鏡システム用プロセッサ装置の作動方法 |
EP3110314B1 (en) * | 2014-02-27 | 2020-12-09 | Intuitive Surgical Operations, Inc. | System and method for specular reflection detection and reduction |
JP6010571B2 (ja) * | 2014-02-27 | 2016-10-19 | 富士フイルム株式会社 | 内視鏡システム、内視鏡システム用プロセッサ装置、内視鏡システムの作動方法、内視鏡システム用プロセッサ装置の作動方法 |
EP3123925A4 (en) * | 2014-03-28 | 2017-04-12 | FUJIFILM Corporation | Endoscope system, processor device of endoscope system, and method for operating endoscope system |
JP6150364B2 (ja) * | 2014-03-28 | 2017-06-21 | 富士フイルム株式会社 | 内視鏡システム、内視鏡システムのプロセッサ装置、及び内視鏡システムの作動方法 |
EP3127466B1 (en) * | 2014-03-31 | 2018-08-22 | Fujifilm Corporation | Endoscope system, processing device of endoscope system, and method for operating endoscope system |
JP6276149B2 (ja) * | 2014-09-12 | 2018-02-07 | 富士フイルム株式会社 | 内視鏡システム及びその作動方法 |
JP6243311B2 (ja) * | 2014-09-30 | 2017-12-06 | 富士フイルム株式会社 | 内視鏡用のプロセッサ装置、内視鏡用のプロセッサ装置の作動方法、内視鏡用の制御プログラム |
JP6448509B2 (ja) | 2015-10-30 | 2019-01-09 | 富士フイルム株式会社 | 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法 |
JP6272956B2 (ja) * | 2016-07-21 | 2018-01-31 | 富士フイルム株式会社 | 内視鏡システム、内視鏡システムのプロセッサ装置、内視鏡システムの作動方法、プロセッサ装置の作動方法 |
JP6570490B2 (ja) * | 2016-08-18 | 2019-09-04 | 富士フイルム株式会社 | 内視鏡システム及び内視鏡システムの作動方法 |
JP6654117B2 (ja) * | 2016-08-31 | 2020-02-26 | 富士フイルム株式会社 | 内視鏡システム及び内視鏡システムの作動方法 |
WO2018117468A1 (ko) * | 2016-12-20 | 2018-06-28 | 한국전기연구원 | 지능형 고해상도 내시경 영상을 획득하여 저장하는 영상 제공 방법 및 장치 |
US11039795B2 (en) | 2017-06-28 | 2021-06-22 | Welch Allyn, Inc. | Physiological monitoring and related methods |
WO2019155816A1 (ja) * | 2018-02-09 | 2019-08-15 | 富士フイルム株式会社 | 内視鏡システム |
RU194603U1 (ru) * | 2019-09-30 | 2019-12-17 | Общество с ограниченной ответственностью «Модуль» | Устройство управления видеоэндоскопом для осмотра фитингов контейнеров и фитинговых упоров железнодорожных платформ |
CN112231183B (zh) * | 2020-07-13 | 2022-09-30 | 国网宁夏电力有限公司电力科学研究院 | 通信设备告警预测方法和装置、电子设备和可读存储介质 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6171791A (ja) * | 1984-09-14 | 1986-04-12 | Olympus Optical Co Ltd | 内視鏡装置 |
JPH02224727A (ja) * | 1989-02-28 | 1990-09-06 | Olympus Optical Co Ltd | 内視鏡撮像装置 |
EP0682451A2 (en) * | 1994-05-13 | 1995-11-15 | Precision Optics Corporation | Viewing scope with image intensification |
JP2001037718A (ja) * | 1999-05-26 | 2001-02-13 | Olympus Optical Co Ltd | 画像診断装置及び内視鏡装置 |
US20110021873A1 (en) * | 2009-07-23 | 2011-01-27 | Olympus Corporation | Endoscope apparatus and measurement method |
CN102188226A (zh) * | 2010-03-19 | 2011-09-21 | 富士胶片株式会社 | 电子内窥镜系统、电子内窥镜处理器和获取血管信息的方法 |
JP2011234844A (ja) * | 2010-05-10 | 2011-11-24 | Olympus Corp | 制御装置、内視鏡装置及びプログラム |
US20110319711A1 (en) * | 2010-06-29 | 2011-12-29 | Fujifilm Corporation | Electronic endoscope system, processor for electronic endoscope, image search system, and image search method |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0868952A (ja) | 1994-08-31 | 1996-03-12 | Asahi Optical Co Ltd | 電子内視鏡装置 |
EP2581030B1 (en) * | 2011-04-11 | 2015-04-29 | Olympus Medical Systems Corp. | Endoscope apparatus |
JP2013099464A (ja) * | 2011-11-09 | 2013-05-23 | Fujifilm Corp | 内視鏡システム、内視鏡システムのプロセッサ装置、及び画像表示方法 |
-
2012
- 2012-03-12 JP JP2012054503A patent/JP5568584B2/ja active Active
-
2013
- 2013-02-08 US US13/762,429 patent/US9084529B2/en active Active
- 2013-02-14 EP EP20130155255 patent/EP2638842B1/en active Active
- 2013-02-27 CN CN201310061465.3A patent/CN103300810B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6171791A (ja) * | 1984-09-14 | 1986-04-12 | Olympus Optical Co Ltd | 内視鏡装置 |
JPH02224727A (ja) * | 1989-02-28 | 1990-09-06 | Olympus Optical Co Ltd | 内視鏡撮像装置 |
EP0682451A2 (en) * | 1994-05-13 | 1995-11-15 | Precision Optics Corporation | Viewing scope with image intensification |
JP2001037718A (ja) * | 1999-05-26 | 2001-02-13 | Olympus Optical Co Ltd | 画像診断装置及び内視鏡装置 |
US20110021873A1 (en) * | 2009-07-23 | 2011-01-27 | Olympus Corporation | Endoscope apparatus and measurement method |
CN102188226A (zh) * | 2010-03-19 | 2011-09-21 | 富士胶片株式会社 | 电子内窥镜系统、电子内窥镜处理器和获取血管信息的方法 |
JP2011234844A (ja) * | 2010-05-10 | 2011-11-24 | Olympus Corp | 制御装置、内視鏡装置及びプログラム |
US20110319711A1 (en) * | 2010-06-29 | 2011-12-29 | Fujifilm Corporation | Electronic endoscope system, processor for electronic endoscope, image search system, and image search method |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107072488A (zh) * | 2015-09-24 | 2017-08-18 | Hoya株式会社 | 分析装置 |
Also Published As
Publication number | Publication date |
---|---|
US20130235177A1 (en) | 2013-09-12 |
US9084529B2 (en) | 2015-07-21 |
CN103300810B (zh) | 2016-05-04 |
EP2638842B1 (en) | 2015-04-22 |
JP5568584B2 (ja) | 2014-08-06 |
JP2013188244A (ja) | 2013-09-26 |
EP2638842A1 (en) | 2013-09-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103300810B (zh) | 内窥镜系统及其处理器装置和用于显示内窥镜检查视频图像的方法 | |
CN102197985B (zh) | 电子内窥镜系统 | |
CN103732116B (zh) | 内窥镜系统、处理器设备和操作内窥镜系统的方法 | |
US20130245411A1 (en) | Endoscope system, processor device thereof, and exposure control method | |
EP2628437B1 (en) | Endoscope system, processor device thereof, and image producing method | |
US9345392B2 (en) | Endoscope system and method for imaging exposure control | |
US9918613B2 (en) | Endoscope system and operating method thereof | |
EP2468187B1 (en) | Endoscope system and processor apparatus thereof, and method for generating images | |
US10045719B2 (en) | Endoscope system, processor device thereof, and method for displaying oxygen saturation level | |
CN107113405B (zh) | 图像处理装置、图像处理装置的工作方法、记录介质和内窥镜装置 | |
US10863149B2 (en) | Image processing apparatus, image processing method, and computer readable recording medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |