CN117061841A - 一种双晶片内窥镜成像方法及成像装置 - Google Patents
一种双晶片内窥镜成像方法及成像装置 Download PDFInfo
- Publication number
- CN117061841A CN117061841A CN202310691538.0A CN202310691538A CN117061841A CN 117061841 A CN117061841 A CN 117061841A CN 202310691538 A CN202310691538 A CN 202310691538A CN 117061841 A CN117061841 A CN 117061841A
- Authority
- CN
- China
- Prior art keywords
- image
- exposure
- control module
- strategy
- color space
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 97
- 238000012545 processing Methods 0.000 claims abstract description 19
- 230000003287 optical effect Effects 0.000 claims abstract description 10
- 238000006243 chemical reaction Methods 0.000 claims description 12
- 230000009977 dual effect Effects 0.000 claims description 9
- 230000011218 segmentation Effects 0.000 claims description 4
- 238000005516 engineering process Methods 0.000 abstract description 3
- 238000005259 measurement Methods 0.000 description 8
- 238000000034 method Methods 0.000 description 8
- 238000005375 photometry Methods 0.000 description 7
- 230000004927 fusion Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 3
- 239000010409 thin film Substances 0.000 description 3
- 239000003086 colorant Substances 0.000 description 2
- 238000011217 control strategy Methods 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 239000010408 film Substances 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 238000007747 plating Methods 0.000 description 2
- 238000002834 transmittance Methods 0.000 description 2
- 241000023320 Luma <angiosperm> Species 0.000 description 1
- BQCADISMDOOEFD-UHFFFAOYSA-N Silver Chemical compound [Ag] BQCADISMDOOEFD-UHFFFAOYSA-N 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000019771 cognition Effects 0.000 description 1
- 235000019642 color hue Nutrition 0.000 description 1
- 230000000994 depressogenic effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 230000001902 propagating effect Effects 0.000 description 1
- 238000002310 reflectometry Methods 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 229910052709 silver Inorganic materials 0.000 description 1
- 239000004332 silver Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/555—Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00064—Constructional details of the endoscope body
- A61B1/00071—Insertion part of the endoscope body
- A61B1/0008—Insertion part of the endoscope body characterised by distal tip features
- A61B1/00096—Optical elements
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00163—Optical arrangements
- A61B1/00186—Optical arrangements with imaging filters
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/045—Control thereof
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B23/00—Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
- G02B23/24—Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
- G02B23/2407—Optical details
- G02B23/2423—Optical details of the distal end
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B23/00—Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
- G02B23/24—Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
- G02B23/2476—Non-optical details, e.g. housings, mountings, supports
- G02B23/2484—Arrangements in relation to a camera or imaging device
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/55—Optical parts specially adapted for electronic image sensors; Mounting thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/71—Circuitry for evaluating the brightness variation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/76—Circuitry for compensating brightness variation in the scene by influencing the image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/86—Camera processing pipelines; Components thereof for processing colour signals for controlling the colour saturation of colour signals, e.g. automatic chroma control circuits
Landscapes
- Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Surgery (AREA)
- Optics & Photonics (AREA)
- Heart & Thoracic Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Pathology (AREA)
- Radiology & Medical Imaging (AREA)
- Veterinary Medicine (AREA)
- Biomedical Technology (AREA)
- Public Health (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- General Health & Medical Sciences (AREA)
- Astronomy & Astrophysics (AREA)
- General Physics & Mathematics (AREA)
- Endoscopes (AREA)
Abstract
一种双晶片内窥镜成像方法及成像装置,所述装置包括光学镜头组件、分光组件、图像获取模块、控制模块以及处理模块,所述图像获取模块包括第一传感器和第二传感器,所述控制模块包括第一控制模块和第二控制模块。由于第一传感器和第二传感器能够获得不同的图像,第一控制模块和第二控制模块采用不同的曝光策略分别获得两个不同的曝光图像,再经过处理模块使两个不同的曝光图像融合,使得最终获得的图像整场亮度一致,不会出现由于图像过暗或过亮造成看不清楚的现象,使整个手术更加流畅,效率更高,保证了在不降低帧率、增加运动拖影的情况下的图像质量,突破了双曝光HDR技术在内窥镜中的应用。
Description
技术领域
本发明涉及内窥镜成像技术领域,具体涉及一种双晶片内窥镜成像方法及成像装置。
背景技术
硬管内窥镜摄像系统中的内窥镜摄像头,一般可采用单晶片(Bayer RGB格式),或是三晶片(R、G、B分别用3个独立的mono单色传感器采集)的设计结构。
单晶片方案结构简单,但是由于采用Bayer格式排列,单色通道的物理分辨率达不到全分辨率,RGB的全分辨率图像需要后期通过插值(demosaic)来实现。
三晶片解决方案结构复杂,需要通过三分光棱镜和滤光片来实现3个色彩通道的采集。由于安装时需要对齐三个传感器,工艺较为负责。优点在于,全分辨率的彩色图像可以直接获取,无需通过后期插值算法,分辨率会比单晶片的要优良。同时单色传感器可以达到更高的信噪比。
双曝光HDR是通过高低两次曝光后图像融合,从而保证视场内的画面亮度均匀;既没有under exposed区域,也没有over exposed区域。双曝光HDR的一个缺点在于,需要前后两帧图像(一帧短曝光,一帧长曝光),因此会造成实际帧率的下降,也容易产生运动模糊。
由于内窥镜为实时采集实时显示的设备,通过双曝光实现HDR一直在内窥镜中无法应用。但由于体内组织结构的复杂,尤其场景中包含远景和近景时,不可避免有一定的画面比例出现过曝现象。例如,需要观察的是远景,但是画面中无法避免出现近景,为了保证远景可以看到合适亮度的画面,就需要更长的曝光参数,但是更长的曝光参数会造成近景的过曝。由于无论是单晶片还是三晶片的解决方案,都只能定一个曝光参数,因此这种过曝现象无法解决。这也是临床中的一个经常被医生抱怨的点。另外一个例子,是当手术器械出现在画面中时,尤其是是白色或是银色的器械,如果不压低曝光时间,那么器械一定会过曝,但是如果降低了曝光时间,又会造成后面组织器官过暗看不清楚。
发明内容
本发明提供一种双晶片内窥镜成像方法及成像装置,不降低帧率的情况下确保整场图像明亮度一致,使得整个手术更加流畅,效率更高。
根据第一方面,本发明提供一种双晶片内窥镜成像装置,包括:
光学镜头组件,所述光学镜头组件用于接收来自待观察区域的成像光线;
分光组件,所述分光组件用于将所述成像光线一分为二,分别形成第一成像光线和第二成像光线;
图像获取模块,所述图像获取模块包括第一传感器和第二传感器,所述第一传感器用于对所述第一成像光线进行光电转换以获取第一图像,所述第二传感器用于对所述第二成像光线进行光电转换以获取第二图像;
控制模块,所述控制模块包括第一控制模块和第二控制模块,所述第一控制模块用于接收第一控制命令,并采用第一曝光策略对第一图像进行第一曝光,以得到第一曝光图像;所述第二控制模块用于接收第二控制命令,并采用第二曝光策略对第二图像进行第二曝光,以得到第二曝光图像;
以及处理模块,所述处理模块用于接收第三控制命令,并对第一曝光图像和第二曝光图像采用算法融合输出内窥镜图像;
其中,所述第一曝光策略和第二曝光策略根据第一图像和第二图像上的图像信息以及曝光目的确定。
一种实施例中,所述第一控制模块采用第一曝光策略对第一图像进行第一曝光,得到第一曝光图像包括:将第一图像划分为多个区域,对多个所述区域同时进行多次曝光使得第一图像多个所述区域的各个像素亮度处于全局最优亮度且无过曝的模式,以确定第一曝光时间,根据第一曝光时间对第一图像进行第一曝光得到第一曝光图像。
一种实施例中,所述第二控制模块采用第二曝光策略对第二图像进行第二曝光,得到第二曝光图像包括:将第二图像划分为中心区域和边缘区域,对所述中心区域进行多次曝光,使得第二图像中心区域的各个像素亮度处于最优亮度的模式,以确定第二曝光时间,根据第二曝光时间对第二图像进行第二曝光得到第二曝光图像,所述中心区域为所述第二图像中待仔细观察的区域。
一种实施例中,所述第二控制模块采用第二曝光策略对第二图像进行第二曝光,得到第二曝光图像包括:将第二图像划分为多个区域,对多个所述区域同时进行曝光,使得第二图像多个所述区域的各个像素亮度至少部分处于过曝模式,以确定第二曝光时间,根据第二曝光时间对第二图像进行第二曝光得到第二曝光图像。
一种实施例中,所述第二控制模块采用第二曝光策略对第二图像进行第二曝光,得到第二曝光图像包括:所述采用第二曝光策略对第二图像进行第二曝光,得到第二曝光图像包括:对第二图像中感兴趣的区域进行曝光,使得第二图像感兴趣的区域的各个像素的亮度处于最优亮度的模式,以确定第二曝光时间,根据第二曝光时间对第二图像进行第二曝光得到第二曝光图像。
一种实施例中,所述感兴趣的区域为使用图像识别和分割算法确定第二图像中的器械区域后,排除所述器械区域后剩余的图像区域。
一种实施例中,所述处理模块对第一曝光图像和第二曝光图像采用算法融合输出内窥镜图像包括:
将第一曝光图像经去马赛克处理后获得第一RGB图像;
将所述第一RGB图像转换为第一色彩空间,所述第一色彩空间包括第一通道图像、第二通道图像和第三通道图像;
将所述第二曝光图像与所述第一通道图像融合得到第四通道图像,所述第四通道图像与所述第二通道图像和第三通道图像组合形成第二色彩空间;
将所述第二色彩空间转换为第二RGB图像并输出为内窥镜图像。
一种实施例中,所述第一色彩空间为L*a*b色彩空间、HSV色彩空间或YUV色彩空间中的一种。
一种实施例中,还包括显示装置,所述显示装置与所述处理装置连接,用以显示所述内窥镜图像。
根据第二方面,本发明提供一种双晶片内窥镜成像方法,包括以下步骤:
待观察区域的成像光线通过分光元件一分为二,分别形成第一成像光线和第二成像光线,所述第一成像光线和第二成像光线分别通过第一传感器和第二传感器光电转换后形成第一图像和第二图像;
接收第一控制命令,采用第一曝光策略对第一图像进行第一曝光,得到第一曝光图像;
接收第二控制命令,采用第二曝光策略对第二图像进行第二曝光,得到第二曝光图像;
以及接收第三控制命令,对第一曝光图像和第二曝光图像采用算法融合输出内窥镜图像;
其中,所述第一曝光策略和第二曝光策略根据第一图像和第二图像上的图像信息以及曝光目的确定。
依据上述实施例中的内窥镜成像方法和装置,由于第一传感器和第二传感器能够获得不同的图像,第一控制模块和第二控制模块采用不同的曝光策略分别获得两个不同的曝光图像,再经过处理模块使两个不同的曝光图像融合,使得最终获得的图像整场亮度一致,不会出现由于图像过暗或过亮造成看不清楚的现象,使整个手术更加流畅,效率更高,保证了在不降低帧率、增加运动拖影的情况下的图像质量,突破了双曝光HDR技术在内窥镜中的应用。
附图说明
图1为成像装置示意图;
图2为分光元件的分光原理示意图;
图3为一种双晶片内窥镜成像方法的流程图;
图4为一种双晶片内窥镜成像方法中图像融合的流程图;
图5为实施例一中成像方法的流程图;
图6为全局观测模式的区域划分图;
图7为实施例二中成像方法的流程图;
图8为实施例三中成像方法的流程图;
其中:100、图像获取模块,101、第一传感器,102、第二传感器,200、控制模块,201、第一控制模块,202、第二控制模块,300、处理模块,400、显示模块,500、分光元件。
具体实施方式
下面通过具体实施方式结合附图对本发明作进一步详细说明。其中不同实施方式中类似元件采用了相关联的类似的元件标号。在以下的实施方式中,很多细节描述是为了使得本申请能被更好的理解。然而,本领域技术人员可以毫不费力的认识到,其中部分特征在不同情况下是可以省略的,或者可以由其他元件、材料、方法所替代。在某些情况下,本申请相关的一些操作并没有在说明书中显示或者描述,这是为了避免本申请的核心部分被过多的描述所淹没,而对于本领域技术人员而言,详细描述这些相关操作并不是必要的,他们根据说明书中的描述以及本领域的一般技术知识即可完整了解相关操作。
另外,说明书中所描述的特点、操作或者特征可以以任意适当的方式结合形成各种实施方式,各实施例所涉及的操作步骤也可以按照本领域技术人员所能显而易见的方式进行顺序调换或调整。因此,说明书和附图只是为了清楚描述某一个实施例,并不意味着是必须的组成和/或顺序。
本文中为部件所编序号本身,例如“第一”、“第二”等,仅用于区分所描述的对象,不具有任何顺序或技术含义。而本申请所说“连接”、“联接”,如无特别说明,均包括直接和间接连接(联接)。
以下,对本申请中的部分用语进行解释说明。需要说明的是,这些解释是为了便于本领域技术人员理解,并不是对本申请所要求的保护范围构成限定。
一、像素
像素可指构成图像传感器的成像区域的最小单元。
二、图像融合
图像融合是一种图像处理技术,是指将多源信道所采集到的关于同一目标的图像数据经过图像处理和特定算法的计算等,最大限度的提取各自信道中的有利信息,最终合成高质量(例如亮度、清晰度、色彩)的图像,融合后的图像相较于原始图像具有较高的分辨率。
三、色彩空间
色彩空间也称色彩模型(又称色彩空间或色彩系统)它的用途是在某些标准下用通常可接受的方式对彩色加以说明。本质上,色彩模型是坐标系统和子空间的阐述。位于系统的每种色彩都有单个点表示。采用的大多数色彩模型都是面向硬件或面向应用的。色彩空间从提出到现在已经有上百种,大部分只是局部的改变或专用于某一领域。色彩空间有许多种,常用有RGB,YUV,HSV,LAB等。
四、L*a*b色彩空间
L*a*b色彩空间是用L*、a*、b*三个互相垂直的坐标轴来表示一个色彩空间,L*轴表示明度,黑在底端,白在顶端,a*轴是红一绿色轴,+a*表示品红色,-a*表示绿色,b*轴是黄一蓝色轴,+b*表示黄色,-b*表示蓝色。任何颜色的色相和特征都可以用a*、b*数值来表示,用L*、a*、b*三个数值可以描述自然界中的任何色彩。L*a*b有三个通道,能够制作一个Lab模式的图像。
五、HSV色彩空间
HSV即色相(Hue)、饱和度(Saturation)、明度(Value),又称HSB(B即Brightness)。H色相是色彩的基本属性,就是平常说的颜色的名称,如红色、黄色等;S是指色彩的纯度,越高色彩越纯,低则逐渐变灰,取0-100%的数值;明度V,取0-max(计算机中HSV取值范围和存储的长度有关)。明度表示颜色明亮的程度,对于光源色,明度值与发光体的光亮度有关;对于物体色,此值和物体的透射比或反射比有关。
六、YUV色彩空间
YUV色彩空间中Y表示明亮度(Luminance或Luma),也就是灰阶值;U和V表示的则是色度(Chrominance或Chroma,作用是描述影像色彩及饱和度,用于指定像素的颜色。“亮度”是透过RGB输入信号来建立的,方法是将RGB信号的特定部分叠加到一起。“色度”则定义了颜色的两个方面-色调与饱和度,分别用Cr和Cb来表示。其中,Cr反映了RGB输入信号红色部分与RGB信号亮度值之间的差异。而Cb反映的是RGB输入信号蓝色部分与RGB信号亮度值之同的差异。
七、去马赛克
去马赛克(英语:demosaicing,也写作de-mosaicing、demosaicking或debayering)是一种数位影像处理算法,目的是从覆有滤色阵列(Color filter array,简称CFA)的感光元件所输出的不完全色彩取样中,重建出全彩影像。
八、测光法(测光模式)
测光模式,是指测试相机被摄物的反射率的方式。包括中央重点测光(重点测光)、全局测光(平均测光)和点测光。
中央重点测光(重点测光)方式是对画面的某一局部进行测光;全局测光是对整个取景区平均计算测光值;点测光是对取景范围中的1%-5%区域内测光。
本发明提供一种可以在不降低帧率、不增加运动拖影的情况下实现双曝光HDR图像融合的内窥镜成像装置和方法,能够确保整场图像明亮度一致,不会因图像过暗或者过亮造成看不清楚的现象,在临床上应用时使得手术更加流畅,效率更高。
参考图1-2,本发明提供一种双晶片内窥镜成像装置,光学镜头组件、分光组件500、图像获取模块100、控制模块200以及处理模块300。
具体的,所述图像获取模块100包括第一传感器101和第二传感器102,所述第一传感器101用于进行光电转换获取第一图像,所述第二传感器102用于进行光电转换获取第二图像;所述控制模块包括第一控制模块201和第二控制模块202,所述第一控制模块201用于以第一控制策略控制曝光所述第一图像,以得到第一曝光图像,所述第二控制模块202用于以第二控制策略控制曝光所述第二图像,以得到第二曝光图像;所述处理模块300用于将所述第一曝光图像和第二曝光图像融合输出为内窥镜图像。
参考图2,该成像装置还包括光学镜头组件(图中未示出)和分光组件500,所述光学镜头组件,用于接收来自待观察区域的成像光线。
在一种可能的实现方式中,所述分光组件500用于对经由所述光学镜头组件传播的成像光线进行分光(如可以一分为二),得到第一成像光线和第二成像光线,并向所述第一传感器101传播所述第一成像光线,向所述第二传感器102传播所述第二成像光线。
可以理解的是,所述第一成像光线和第二成像光线的携带的信息相同,第一成像光线和第二成像光线携带的信息均与光学镜头组件传播过来的成像光线携带的信息相同。其中,第一成像光线的强度与第二成像光线的强度的总和等于或近似等于光学镜头组件传播过来的成像光线的强度。
在一种可能的实现方式中,所述分光组件500可以为分光棱镜(beam splitter,BS)或分光平板。分光棱镜是通过在棱镜的表面镀制一层或多层薄膜(即分光膜)形成的,分光平板是通过在玻璃平板的一个表面镀制一层或多层薄膜(即分光膜)形成的。分光棱镜和分光平板均是利用薄膜对射入的光线的透射率和反射率不同,以实现对光学镜头组件传播过来的成像光线进行分光。
本实施例中,所述第一传感器101为拜耳(Bayer)格式彩色传感器,所述第二传感器102为单色传感器,两个所述传感器的像素大小(pixel size)一致,安装时要达到亚像素(sub-pixel)精度。
在一种可能的实现方式中,还包括显示模块400,所述显示模块400用于接收所述内窥镜图像并显示。
进一步的,所述显示模块400为显示屏,包括LED屏,所述LED屏可以为触摸屏,既可以显示内窥镜图像,还能够通过触摸操作人为下达控制命令。
当然,在其他实施方式中,也可以通过设置外接设备或者控制主机或者计算机操作界面的方式,以实现第一控制命令、第二控制命令以及第三控制命令的操作下达,该控制命令可以为手动下达,也可以为外接设备或者控制主机或者计算机操作界面内的处理器自动下达。
参考图3,为适应上述成像装置的成像方法的流程图,该方法包括以下步骤:
S101:待观察区域的成像光线通过分光元件500一分为二,分别形成第一成像光线和第二成像光线,所述第一成像光线和第二成像光线分别通过第一传感器101和第二传感器102光电转换后形成第一图像和第二图像;
S102:第一控制模块201接收第一控制命令,采用第一曝光策略对第一图像进行第一曝光,得到第一曝光图像;
S103:第二控制模块202接收第二控制命令,采用第二曝光策略对第二图像进行第二曝光,得到第二曝光图像;
S104:处理模块300接收第三控制命令,对第一曝光图像和第二曝光图像采用算法融合输出内窥镜图像。
具体的,参考图4,本实施例中,所述对第一曝光图像和第二曝光图像采用算法融合输出内窥镜图像包括:
将第一曝光图像经去马赛克处理后获得第一RGB图像;
将所述第一RGB图像转换为第一色彩空间,所述第一色彩空间包括第一通道图像、第二通道图像和第三通道图像;
将所述第二曝光图像与所述第一通道图像融合得到第四通道图像,所述第四通道图像与所述第二通道图像和第三通道图像组合形成第二色彩空间;
将所述第二色彩空间转换为第二RGB图像并输出为内窥镜图像。
在一种可能的实现方式中,所述第一色彩空间可以为L*a*b色彩空间,其中L为第一通道图像,代表亮度通道图像,a为第二通道图像,b为第三通道图像,将第二曝光图像和L通道的图像融合得到新的代表亮度通道的第四通道图像L’,之后再将其与a和b组合转化为第二RGB图像并输出。
在其他可能的实现方式中,所述第一色彩空间也可以为HSV色彩空间或YUV色彩空间中的一种,当为HSV色彩空间,将第二曝光图像与V通道图像融合,形成新的V’通道图像与原H通道图像、S通道图像组合并转化为第二色彩空间;当为YUV色彩空间时,将第二曝光图像与Y通道图像融合,形成新的Y’通道图像与原U通道图像、V通道图像组合并转化为第二色彩空间。
根据图像信息以及曝光目的的不同可以采取不同的策略进行曝光,以下将以具体实施例进行详细描述。
实施例一
参考图5,基于保证中心区域亮度的目的,本实施例提供一种双晶片内窥镜成像方法,包括以下步骤:
S201:待观察区域的成像光线通过分光元件500一分为二,分别形成第一成像光线和第二成像光线,所述第一成像光线和第二成像光线分别通过第一传感器101和第二传感器102光电转换后形成第一图像和第二图像;
S202:第一控制模块201接收第一控制命令,采用第一曝光策略对第一图像进行第一曝光,得到第一曝光图像,具体的在第一测光模式下对第一图像多次进行曝光确定第一曝光时间,使得第一图像各个像素的亮度处于全局最优亮度且无过曝的模式,根据该第一曝光时间对第一图像进行第一曝光得到第一曝光图像。
所述第一测光模式为全局测光模式,具体的是将所述第一图像划分割为多个区域,参考图6,划分为15个子区域,该全局测光模式为0-14子区域均参与测光,使得0-14子区域各个像素的亮度处于全局最优亮度且无过曝的模式,最终得到第一曝光图像。所述全局最优亮度模式为整个第一曝光图像的直方图分布均衡。直方图均衡化可以有效增强局部的对比度而不影响整体的对比度,有效地扩展常用的亮度来实现这种功能,符合人眼对图像的感官认知,有效提高用户体验。
S203:第二控制模块202接收第二控制命令,采用第二曝光策略对第二图像进行第二曝光,得到第二曝光图像,具体的在第二测光模式下对第二图像进行多次曝光,确定第二曝光时间,使得第二图像中心区域的各个像素亮度处于最优亮度的模式,根据第二曝光时间对第二图像进行第二曝光得到第二曝光图像,所述中心区域为待观察区域中待仔细观察的区域。
所述第二测光模式为中心测光模式(中央重点测光),以中心区域为想要观察的区域,在测光时保证该区域的图像亮度,将第二图像按照第一图像分割的方法分割为15个子区域,如图6所示,其0子区域为想要观察的区域,以保证0区域的亮度进行曝光得到第二曝光图像。
S204:处理模块300接收第三控制命令,对第一曝光图像和第二曝光图像采用算法融合输出内窥镜图像经显示模块400显示,参考图4,以第二曝光图像作为亮度通道图像,将第一曝光图像经去马赛克处理后得到第一RGB色彩空间图像,再转化为L*a*b色彩空间后,将L通道图像与该第二曝光图像进行融合得到新的亮度通道图像,将其与原第一曝光图像中的ab通道图像组合之后转化为第二RGB色彩空间图像输出为内窥镜图像。
实施例二
参考图7,基于保证图像整体亮度一致,没有暗区出现,本实施例提供一种双晶片内窥镜成像方法,包括以下步骤:
S301:待观察区域的成像光线通过分光元件500一分为二,分别形成第一成像光线和第二成像光线,所述第一成像光线和第二成像光线分别通过第一传感器101和第二传感器102光电转换后形成第一图像和第二图像;
S302:第一控制模块201接收第一控制命令,采用第一曝光策略对第一图像进行第一曝光,得到第一曝光图像,具体的在第一测光模式下对第一图像多次进行曝光确定第一曝光时间,使得第一图像各个像素的亮度处于全局最优亮度且无过曝的模式,根据该第一曝光时间对第一图像进行第一曝光得到第一曝光图像。
所述第一测光模式为全局测光模式,具体的是将所述第一图像划分割为多个区域,参考图6,划分为15个子区域,该全局测光模式为0-14子区域均参与测光,使得0-14子区域各个像素的亮度处于全局最优亮度且无过曝的模式,最终得到第一曝光图像。
S303:第二控制模块202接收第二控制命令,采用第二曝光策略对第二图像进行第二曝光,得到第二曝光图像,具体的在第三测光模式下对第二图像进行多次曝光,确定第二曝光时间,使得第二图像各个像素的亮度至少部分处于过曝模式,根据第二曝光时间对第二图像进行第二曝光得到第二曝光图像。
所述第三测光模式为全局测光模式,与第一曝光图像获取方法相同,将第二图像按照第一图像分割的方法分割为15个子区域,如图6所示,0-14子区域均参与测光,使得0-14共15个子区域各个像素的亮度均衡且最优,同时容许一定的图像比例出现过曝现象,比如(5-10%)的图像区域,从而保证图像没有暗区。
S304:处理模块300接收第三控制命令,对第一曝光图像和第二曝光图像采用算法融合输出内窥镜图像并经过显示模块400显示,以供操作者观看。
参考图4,以第二曝光图像作为亮度通道图像,将第一曝光图像经去马赛克处理后得到第一RGB色彩空间图像,再转化为L*a*b色彩空间后,将L通道图像与该第二曝光图像进行融合得到新的亮度通道图像,将其与原第一曝光图像中的ab通道图像组合之后转化为第二RGB色彩空间图像输出为内窥镜图像。
实施例三
参考图8,基于保证整体图像亮度不受器械影响,本实施例提供一种双晶片内窥镜成像方法,包括以下步骤:
S401:待观察区域的成像光线通过分光元件500一分为二,分别形成第一成像光线和第二成像光线,所述第一成像光线和第二成像光线分别通过第一传感器101和第二传感器102光电转换后形成第一图像和第二图像;
S402:接收第一控制命令,采用第一曝光策略对第一图像进行第一曝光,得到第一曝光图像,具体的在第一测光模式下对第一图像多次进行曝光确定第一曝光时间,使得第一图像各个像素的亮度处于全局最优亮度且无过曝的模式,根据该第一曝光时间对第一图像进行第一曝光得到第一曝光图像。
所述第一测光模式为全局测光模式,具体的是将所述第一图像划分割为多个区域,参考图6,划分为15个子区域,该全局测光模式为0-14子区域均参与测光,使得0-14子区域各个像素的亮度处于全局最优亮度且无过曝的模式,最终得到第一曝光图像。
S403:接收第二控制命令,采用第二曝光策略对第二图像进行第二曝光,得到第二曝光图像,具体的对第二图像对感兴趣的区域进行第二曝光,使得第二图像感兴趣的区域的各个像素的亮度处于最优亮度的模式,确定第二曝光时间,根据该曝光时间对第二图像进行第二曝光得到第二曝光图像。
该感兴趣的区域为使用图像识别和分割算法排除所述第二图像中器械区域后的区域,具体是确定第二图像中的器械区域,根据所述器械区域确定感兴趣的区域,所述感兴趣的区域为排除所述器械区域后的图像区域。
进一步的,上述使用图像识别和分割算法为本领域现有技术,在此不进行赘述。
S404:接收第三控制命令,对第一曝光图像和第二曝光图像采用算法融合输出内窥镜图像,参考图4,以第二曝光图像作为亮度通道图像,将第一曝光图像经去马赛克处理后得到第一RGB色彩空间图像,再转化为L*a*b色彩空间后,将L通道图像与该第二曝光图像进行融合得到新的亮度通道图像,将其与原第一曝光图像中的ab通道图像组合之后转化为第二RGB色彩空间图像输出为内窥镜图像。
以上应用了具体个例对本发明进行阐述,只是用于帮助理解本发明,并不用以限制本发明。对于本发明所属技术领域的技术人员,依据本发明的思想,还可以做出若干简单推演、变形或替换。
Claims (10)
1.一种双晶片内窥镜成像装置,其特征在于,包括:
光学镜头组件,所述光学镜头组件用于接收来自待观察区域的成像光线;
分光组件,所述分光组件用于将所述成像光线一分为二,分别形成第一成像光线和第二成像光线;
图像获取模块,所述图像获取模块包括第一传感器和第二传感器,所述第一传感器用于对所述第一成像光线进行光电转换以获取第一图像,所述第二传感器用于对所述第二成像光线进行光电转换以获取第二图像;
控制模块,所述控制模块包括第一控制模块和第二控制模块,所述第一控制模块用于接收第一控制命令,并采用第一曝光策略对第一图像进行第一曝光,以得到第一曝光图像;所述第二控制模块用于接收第二控制命令,并采用第二曝光策略对第二图像进行第二曝光,以得到第二曝光图像;
以及处理模块,所述处理模块用于接收第三控制命令,并对第一曝光图像和第二曝光图像采用算法融合输出内窥镜图像;
其中,所述第一曝光策略和第二曝光策略根据第一图像和第二图像上的图像信息以及曝光目的确定。
2.如权利要求1所述的一种双晶片内窥镜成像装置,其特征在于,所述第一控制模块采用第一曝光策略对第一图像进行第一曝光,得到第一曝光图像包括:将第一图像划分为多个区域,对多个所述区域同时进行多次曝光使得第一图像多个所述区域的各个像素亮度处于全局最优亮度且无过曝的模式,以确定第一曝光时间,根据第一曝光时间对第一图像进行第一曝光得到第一曝光图像。
3.如权利要求2所述的一种双晶片内窥镜成像装置,其特征在于,所述第二控制模块采用第二曝光策略对第二图像进行第二曝光,得到第二曝光图像包括:将第二图像划分为中心区域和边缘区域,对所述中心区域进行多次曝光,使得第二图像中心区域的各个像素亮度处于最优亮度的模式,以确定第二曝光时间,根据第二曝光时间对第二图像进行第二曝光得到第二曝光图像,所述中心区域为所述第二图像中待仔细观察的区域。
4.如权利要求2所述的一种双晶片内窥镜成像装置,其特征在于,所述第二控制模块采用第二曝光策略对第二图像进行第二曝光,得到第二曝光图像包括:将第二图像划分为多个区域,对多个所述区域同时进行曝光,使得第二图像多个所述区域的各个像素亮度至少部分处于过曝模式,以确定第二曝光时间,根据第二曝光时间对第二图像进行第二曝光得到第二曝光图像。
5.如权利要求2所述的一种双晶片内窥镜成像装置,其特征在于,所述第二控制模块采用第二曝光策略对第二图像进行第二曝光,得到第二曝光图像包括:所述采用第二曝光策略对第二图像进行第二曝光,得到第二曝光图像包括:对第二图像中感兴趣的区域进行曝光,使得第二图像感兴趣的区域的各个像素的亮度处于最优亮度的模式,以确定第二曝光时间,根据第二曝光时间对第二图像进行第二曝光得到第二曝光图像。
6.如权利要求5所述的一种双晶片内窥镜成像装置,其特征在于,所述感兴趣的区域为使用图像识别和分割算法确定第二图像中的器械区域后,排除所述器械区域后剩余的图像区域。
7.如权利要求1-6中任一项所述的一种双晶片内窥镜成像装置,其特征在于,所述处理模块对第一曝光图像和第二曝光图像采用算法融合输出内窥镜图像包括:
所述处理模块将第一曝光图像经去马赛克处理后获得第一RGB图像;
将所述第一RGB图像转换为第一色彩空间,所述第一色彩空间包括第一通道图像、第二通道图像和第三通道图像;
将所述第二曝光图像与所述第一通道图像融合得到第四通道图像,所述第四通道图像与所述第二通道图像和第三通道图像组合形成第二色彩空间;
将所述第二色彩空间转换为第二RGB图像并输出为内窥镜图像。
8.如权利要求7所述的一种双晶片内窥镜成像装置,其特征在于,所述第一色彩空间为L*a*b色彩空间、HSV色彩空间或YUV色彩空间中的一种。
9.如权利要求1所述的一种双晶片内窥镜成像装置,其特征在于,还包括显示装置,所述显示装置与所述处理装置连接,用以显示所述内窥镜图像。
10.一种利用如权利要求1-9中任一项所述的双晶片内窥镜成像装置的成像方法,其特征在于,包括以下步骤:
待观察区域的成像光线通过分光元件一分为二,分别形成第一成像光线和第二成像光线,所述第一成像光线和第二成像光线分别通过第一传感器和第二传感器光电转换后形成第一图像和第二图像;
接收第一控制命令,采用第一曝光策略对第一图像进行第一曝光,得到第一曝光图像;
接收第二控制命令,采用第二曝光策略对第二图像进行第二曝光,得到第二曝光图像;
以及接收第三控制命令,对第一曝光图像和第二曝光图像采用算法融合输出内窥镜图像;
其中,所述第一曝光策略和第二曝光策略根据第一图像和第二图像上的图像信息以及曝光目的确定。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310691538.0A CN117061841B (zh) | 2023-06-12 | 2023-06-12 | 一种双晶片内窥镜成像方法及成像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310691538.0A CN117061841B (zh) | 2023-06-12 | 2023-06-12 | 一种双晶片内窥镜成像方法及成像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117061841A true CN117061841A (zh) | 2023-11-14 |
CN117061841B CN117061841B (zh) | 2024-06-25 |
Family
ID=88663406
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310691538.0A Active CN117061841B (zh) | 2023-06-12 | 2023-06-12 | 一种双晶片内窥镜成像方法及成像装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117061841B (zh) |
Citations (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20140093079A (ko) * | 2013-01-17 | 2014-07-25 | 삼성테크윈 주식회사 | 영상 처리 장치 및 방법 |
CN104580923A (zh) * | 2014-12-30 | 2015-04-29 | 重庆金山科技(集团)有限公司 | 电子内窥镜曝光装置及曝光方法 |
CN104937921A (zh) * | 2013-12-06 | 2015-09-23 | 华为终端有限公司 | 一种终端及图像处理方法、图像采集方法 |
CN106303279A (zh) * | 2016-08-31 | 2017-01-04 | 北京数字精准医疗科技有限公司 | 多光谱内窥镜自动曝光成像方法 |
CN108234880A (zh) * | 2018-02-02 | 2018-06-29 | 成都西纬科技有限公司 | 一种图像增强方法和装置 |
CN109413335A (zh) * | 2017-08-16 | 2019-03-01 | 福州瑞芯微电子股份有限公司 | 一种双重曝光合成hdr图像的方法和装置 |
US20190082094A1 (en) * | 2016-04-21 | 2019-03-14 | Fujifilm Corporation | Endoscope system, processor device, and endoscope system operation method |
CN110087003A (zh) * | 2019-04-30 | 2019-08-02 | 深圳市华星光电技术有限公司 | 多曝光图像融合方法 |
KR102045538B1 (ko) * | 2018-05-31 | 2019-11-15 | 한양대학교 산학협력단 | 패치 기반 다중 노출 영상 융합 방법 및 장치 |
CN110751608A (zh) * | 2019-10-23 | 2020-02-04 | 北京迈格威科技有限公司 | 一种夜景高动态范围图像融合方法、装置和电子设备 |
WO2020093600A1 (zh) * | 2018-11-09 | 2020-05-14 | 深圳市华星光电技术有限公司 | 基于图像多重曝光融合的高动态显示方法 |
CN111225162A (zh) * | 2020-01-21 | 2020-06-02 | 厦门亿联网络技术股份有限公司 | 图像曝光的控制方法、系统、可读存储介质及摄像设备 |
CN113949802A (zh) * | 2020-07-15 | 2022-01-18 | 华为技术有限公司 | 一种图像处理方法及摄像机 |
CN114025082A (zh) * | 2021-10-20 | 2022-02-08 | 上海微创医疗机器人(集团)股份有限公司 | 图像曝光成像方法及成像装置和可读存储介质 |
US20220046161A1 (en) * | 2019-11-12 | 2022-02-10 | Tencent Technology (Shenzhen) Company Limited | Image acquisition method and apparatus, device, and storage medium |
CN115153397A (zh) * | 2022-06-16 | 2022-10-11 | 武汉迈瑞医疗技术研究院有限公司 | 用于内窥镜摄像系统的成像方法和内窥镜摄像系统 |
CN115998225A (zh) * | 2022-12-12 | 2023-04-25 | 珠海泰科医疗技术有限公司 | 一种内窥镜病灶区域曝光方法、内窥镜和存储介质 |
-
2023
- 2023-06-12 CN CN202310691538.0A patent/CN117061841B/zh active Active
Patent Citations (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20140093079A (ko) * | 2013-01-17 | 2014-07-25 | 삼성테크윈 주식회사 | 영상 처리 장치 및 방법 |
CN104937921A (zh) * | 2013-12-06 | 2015-09-23 | 华为终端有限公司 | 一种终端及图像处理方法、图像采集方法 |
CN104580923A (zh) * | 2014-12-30 | 2015-04-29 | 重庆金山科技(集团)有限公司 | 电子内窥镜曝光装置及曝光方法 |
US20190082094A1 (en) * | 2016-04-21 | 2019-03-14 | Fujifilm Corporation | Endoscope system, processor device, and endoscope system operation method |
CN106303279A (zh) * | 2016-08-31 | 2017-01-04 | 北京数字精准医疗科技有限公司 | 多光谱内窥镜自动曝光成像方法 |
CN109413335A (zh) * | 2017-08-16 | 2019-03-01 | 福州瑞芯微电子股份有限公司 | 一种双重曝光合成hdr图像的方法和装置 |
CN108234880A (zh) * | 2018-02-02 | 2018-06-29 | 成都西纬科技有限公司 | 一种图像增强方法和装置 |
KR102045538B1 (ko) * | 2018-05-31 | 2019-11-15 | 한양대학교 산학협력단 | 패치 기반 다중 노출 영상 융합 방법 및 장치 |
WO2020093600A1 (zh) * | 2018-11-09 | 2020-05-14 | 深圳市华星光电技术有限公司 | 基于图像多重曝光融合的高动态显示方法 |
CN110087003A (zh) * | 2019-04-30 | 2019-08-02 | 深圳市华星光电技术有限公司 | 多曝光图像融合方法 |
CN110751608A (zh) * | 2019-10-23 | 2020-02-04 | 北京迈格威科技有限公司 | 一种夜景高动态范围图像融合方法、装置和电子设备 |
US20220046161A1 (en) * | 2019-11-12 | 2022-02-10 | Tencent Technology (Shenzhen) Company Limited | Image acquisition method and apparatus, device, and storage medium |
CN111225162A (zh) * | 2020-01-21 | 2020-06-02 | 厦门亿联网络技术股份有限公司 | 图像曝光的控制方法、系统、可读存储介质及摄像设备 |
CN113949802A (zh) * | 2020-07-15 | 2022-01-18 | 华为技术有限公司 | 一种图像处理方法及摄像机 |
CN114025082A (zh) * | 2021-10-20 | 2022-02-08 | 上海微创医疗机器人(集团)股份有限公司 | 图像曝光成像方法及成像装置和可读存储介质 |
CN115153397A (zh) * | 2022-06-16 | 2022-10-11 | 武汉迈瑞医疗技术研究院有限公司 | 用于内窥镜摄像系统的成像方法和内窥镜摄像系统 |
CN115998225A (zh) * | 2022-12-12 | 2023-04-25 | 珠海泰科医疗技术有限公司 | 一种内窥镜病灶区域曝光方法、内窥镜和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN117061841B (zh) | 2024-06-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR100848763B1 (ko) | 멀티 스펙트럼 화상 촬영 장치 및 어댑터 렌즈 | |
CN102204258B (zh) | 图像输入装置 | |
CN108965654A (zh) | 基于单传感器的双光谱摄像机系统和图像处理方法 | |
CN106973240B (zh) | 实现高动态范围图像高清显示的数字照相机成像方法 | |
US8106978B2 (en) | Image capturing apparatus generating image data having increased color reproducibility | |
US20070183657A1 (en) | Color-image reproduction apparatus | |
US8531548B2 (en) | Image processing method, image processing program, image processing device and camera | |
KR20050088335A (ko) | 촬상 장치 및 방법 | |
KR20040091759A (ko) | 화상 처리 장치 및 방법, 및 화상 처리 장치의 제조 방법 | |
CN106101549A (zh) | 昼夜自动切换方法、装置及系统 | |
CN111131798B (zh) | 图像处理方法、图像处理装置以及摄像装置 | |
CN107431793A (zh) | 图像处理装置和图像处理方法以及程序 | |
WO2021184362A1 (zh) | 一种摄像装置 | |
JP2007006061A (ja) | カラーフィルター及びそれを有する撮像装置 | |
TW202205847A (zh) | 攝像元件及電子機器 | |
JP5108013B2 (ja) | カラー撮像素子及びこれを用いた撮像装置及びフィルタ | |
CN117061841B (zh) | 一种双晶片内窥镜成像方法及成像装置 | |
JP2002112276A (ja) | カラー固体撮像装置 | |
JP2004157059A (ja) | 撮像装置およびレンズ光学系 | |
CN116471466B (zh) | 一种双晶片内窥镜成像方法及成像装置 | |
CN118250542A (zh) | 三晶片内窥镜成像方法及成像装置 | |
US11284044B2 (en) | Image generation device and imaging device | |
JP2000171301A (ja) | 微分スペクトル画像処理装置 | |
JPH10153484A (ja) | 色測定装置 | |
JP2007194892A (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant |