CN116350177A - 基于光谱的医疗图像处理方法 - Google Patents
基于光谱的医疗图像处理方法 Download PDFInfo
- Publication number
- CN116350177A CN116350177A CN202111630517.5A CN202111630517A CN116350177A CN 116350177 A CN116350177 A CN 116350177A CN 202111630517 A CN202111630517 A CN 202111630517A CN 116350177 A CN116350177 A CN 116350177A
- Authority
- CN
- China
- Prior art keywords
- image
- spectral
- color
- spectrum
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001228 spectrum Methods 0.000 title claims abstract description 133
- 238000003672 processing method Methods 0.000 title claims abstract description 65
- 230000003595 spectral effect Effects 0.000 claims abstract description 138
- 238000012512 characterization method Methods 0.000 claims abstract description 34
- 238000012545 processing Methods 0.000 claims description 42
- 238000003384 imaging method Methods 0.000 claims description 37
- 230000003902 lesion Effects 0.000 claims description 26
- 238000000034 method Methods 0.000 claims description 25
- 238000001514 detection method Methods 0.000 claims description 24
- 230000000712 assembly Effects 0.000 claims description 17
- 238000000429 assembly Methods 0.000 claims description 17
- 239000003086 colorant Substances 0.000 claims description 14
- 238000000701 chemical imaging Methods 0.000 claims description 12
- 230000008569 process Effects 0.000 claims description 12
- 230000006835 compression Effects 0.000 claims description 11
- 238000007906 compression Methods 0.000 claims description 11
- 230000004044 response Effects 0.000 claims description 10
- 230000007170 pathology Effects 0.000 claims description 9
- 230000001575 pathological effect Effects 0.000 claims description 8
- 238000010606 normalization Methods 0.000 claims description 5
- 230000005540 biological transmission Effects 0.000 description 23
- 238000005516 engineering process Methods 0.000 description 17
- 238000010586 diagram Methods 0.000 description 12
- 230000003287 optical effect Effects 0.000 description 11
- 239000000523 sample Substances 0.000 description 11
- 238000003745 diagnosis Methods 0.000 description 9
- 230000008901 benefit Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 5
- 238000002059 diagnostic imaging Methods 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 230000009467 reduction Effects 0.000 description 4
- 238000011282 treatment Methods 0.000 description 4
- 238000011161 development Methods 0.000 description 3
- 238000001914 filtration Methods 0.000 description 3
- 238000012544 monitoring process Methods 0.000 description 3
- 238000011084 recovery Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 201000010099 disease Diseases 0.000 description 2
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000010827 pathological analysis Methods 0.000 description 2
- 230000005855 radiation Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 208000026062 Tissue disease Diseases 0.000 description 1
- 238000002835 absorbance Methods 0.000 description 1
- 238000007792 addition Methods 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- BJQHLKABXJIVAM-UHFFFAOYSA-N bis(2-ethylhexyl) phthalate Chemical compound CCCCC(CC)COC(=O)C1=CC=CC=C1C(=O)OCC(CC)CCCC BJQHLKABXJIVAM-UHFFFAOYSA-N 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000003759 clinical diagnosis Methods 0.000 description 1
- 238000004737 colorimetric analysis Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000004377 microelectronic Methods 0.000 description 1
- 239000002086 nanomaterial Substances 0.000 description 1
- 239000002061 nanopillar Substances 0.000 description 1
- 230000000149 penetrating effect Effects 0.000 description 1
- 239000004038 photonic crystal Substances 0.000 description 1
- 239000002096 quantum dot Substances 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 238000011946 reduction process Methods 0.000 description 1
- 238000002310 reflectometry Methods 0.000 description 1
- 238000004171 remote diagnosis Methods 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 238000001356 surgical procedure Methods 0.000 description 1
- 238000002560 therapeutic procedure Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0075—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by spectroscopy, i.e. measuring spectra, e.g. Raman spectroscopy, infrared absorption spectroscopy
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0033—Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
Abstract
本申请涉及一种基于光谱的医疗图像处理方法和装置。该基于光谱的医疗图像处理方法包括:获取病灶处的光谱图像;根据所述光谱图像还原得到每个像素点的颜色空间数值,以获得第一颜色图像;对所述第一颜色图像进行颜色特性化,将图像颜色转换到大色域范围内以获得第二颜色图像;以及,使用高保真显示器显示所述第二颜色图像。这样,可以向用户呈现高分辨率的光谱信息和颜色信息。
Description
技术领域
本申请涉及医疗成像和显示技术领域,更为具体地说,涉及一种基于光谱的医疗图像处理方法。
背景技术
随着社会信息化程度的不断提高,信息技术已经渗透进了社会生活的各个领域。远程医疗就是信息技术与传统医疗技术结合的产物,它为医疗事业带来了全新的变革。远程医疗利用数字化、计算机自动化、远距离网络通信和多媒体等信息技术使得足不出户的看病求医成为可能,同时也为家庭日常保健提供了更智能高效便捷的模式。目前的远程医疗技术涵盖了远程诊断,远程急救,远程咨询,远程监护等方面,正在不断地发展和逐步普及。
远程医疗的概念起源于上世纪60年代。美国Nebraska大学是最早应用远程医疗技术的地方,使用双向闭环微波电视进行了精神病学会诊。美国国家航空航天管理局在国家医药图书馆的指导下,也在60年代利用卫星通信支持了一个远程医疗项目,它在Appalacian Rocky Mountain和Alaska地区之间运行远程医疗服务。
近年来得益于微电子技术、网络通信技术、计算机技术的快速发展,远程医疗技术发展迅速,使人们可以通过现代通信网络实现个人与医疗机构之间医疗信息的远程传输和监测,实现了远程监护、医疗救护、家庭病床以及远程会诊等功能。
在生物医学应用领域,光谱成像仍然是一项比较新的技术,但它作为一种诊断和评估治疗的非侵入性方法有着广泛的潜在用途。在特定波长下,不同病理状态组织的化学组成和物理特征有着不同的反射率、吸收度以及电磁能量,表现为特征光谱峰存在差异,通过分析这些光谱信号可以实现对组织状态信息的定性或定量检测,并根据高光谱图像提供的空间分布信息,实现对组织不同病态的可视化呈现,从而实现对组织疾病状态的诊断。光谱成像技术的这种能力目前在医疗领域,越来越多地应用于疾病检测和手术指导。作为一种新型的、非接触式的光学诊断技术,光谱成像通过光谱图像信息为临床医学提供了一种有效的辅助诊断手段,具有巨大的发展潜力。
光谱成像技术是集探测器技术、精密光学机械、微弱信号检测、计算机技术、信息处理技术于一体的综合性技术,光谱图像内包含丰富的空间、辐射和光谱信息,如图1所示。这里,图1图示了光谱图像所包含的信息的示意图。
在医疗影像中,医生可以通过病灶的颜色对病人进行诊治,商业彩色相机目前主要使用红、绿、蓝(R、G、B)三基色传感器整列,在图像的采集和传输过程中会丢失大量的图像信息,最典型的为原始图像的颜色信息丢失,且现有的彩色相机多使用sRGB格式进行图像的传输和编码,由于sRGB的色域较小,色域被限制在一个较小的三角形内,超出该范围的颜色无法区分,造成颜色信息的大量丢失。
因此,在医疗领域,需要提供改进的基于光谱的医疗成像和显示方案。
发明内容
为了解决上述技术问题,提出了本申请。本申请的实施例提供了一种基于光谱的医疗图像处理方法和装置,其通过从光谱图像恢复颜色图像并使用高保真显示器进行显示,可以向用户呈现高分辨率的光谱信息和颜色信息。
根据本申请的一方面,提供了一种基于光谱的医疗图像处理方法,包括:获取病灶处的光谱图像;根据所述光谱图像还原得到每个像素点的颜色空间数值,以获得第一颜色图像;对所述第一颜色图像进行颜色特性化,将图像颜色转换到大色域范围内以获得第二颜色图像;以及,使用高保真显示器显示所述第二颜色图像。
在上述基于光谱的医疗图像处理方法中,获取病灶处的光谱图像包括:使用光谱相机对病灶处进行光谱成像;以及,根据所述光谱相机的图像传感器的原始信号还原每个像素的光谱曲线以获得光谱图像。
在上述基于光谱的医疗图像处理方法中,获取病灶处的光谱图像进一步包括:存储所述光谱图像并进行数据归档。
在上述基于光谱的医疗图像处理方法中,根据所述光谱图像还原得到每个像素点的颜色空间数值以获得第一颜色图像包括:根据所述光谱图像的每个像素的光谱曲线以及CIE的颜色标准,通过以下公式将获得XYZ颜色空间内的每个像素的颜色值:
在上述基于光谱的医疗图像处理方法中,所述第一颜色图像位于色域无关的颜色空间,且所述颜色特性化的过程中没有色域的压缩和损失。
在上述基于光谱的医疗图像处理方法中,所述第二颜色图像所在的颜色空间是大于sRGB的颜色空间。
在上述基于光谱的医疗图像处理方法中,使用高保真显示器显示所述第二颜色图像包括对所述高保真显示器,基于已进行颜色处理的图像数据进行屏幕特性化,且所述屏幕特性化包括:建立特性化样本,所述特性化样本按照亮度和色度均匀分布,覆盖各亮度层级上的各类颜色,且颜色按照色调和饱和度均匀分布;在显示屏幕上显示具有已知的RGB数值的所述特性化样本;通过屏幕测色仪测量所述显示屏幕的色度值;以及,建立所述已知的RGB数值与所测量的色度值之间的联系。
在上述基于光谱的医疗图像处理方法中,在使用高保真显示器显示所述第二颜色图像之前进一步包括:对所述第二颜色图像进行数字图像处理,且所述数字图像处理的过程中不压缩所述第二颜色图像的颜色数据且不改变所述第二颜色图像的颜色空间。
在上述基于光谱的医疗图像处理方法中,使用高保真显示器显示所述第二颜色图像之前进一步包括:对所述第二颜色图像进行编码压缩。
在上述基于光谱的医疗图像处理方法中,在对所述第二颜色图像进行编码压缩之后进一步包括:将所述编码压缩后的第二颜色图像传输到预定位置的高保真显示器。
在上述基于光谱的医疗图像处理方法中,在对所述第二颜色图像进行编码压缩之后进一步包括:在所述高保真显示器对所述第二颜色图像进行解码处理。
在上述基于光谱的医疗图像处理方法中,使用光谱相机对病人病灶处进行成像包括:使用包含光谱芯片模组、成像芯片模组和分光件的第一组图像检测芯片模组组件进行成像,其中,所述分光件位于光谱芯片和成像芯片的路径上,以使得第一部分光转折且第二部分光透过后分别由所述光谱芯片和所述成像芯片接收,从而获取光谱信息和图像信息。
在上述基于光谱的医疗图像处理方法中,所述光谱芯片组件包括设置于所述分光件和所述光谱芯片之间的匀光件,用于对光进行匀化后再由所述光谱芯片获得光谱信息。
在上述基于光谱的医疗图像处理方法中,使用光谱相机对病人病灶处进行成像进一步包括:使用至少包括成像芯片模组的第二组图像检测芯片模组组件对病灶体之外的健康组织进行成像。
在上述基于光谱的医疗图像处理方法中,进一步包括:将所述第一组图像检测芯片模组组件获得的第一光谱图像与预存的病理光谱图像进行比较;以及,响应于所述第一光谱图像与所述预存的病理光谱图像相同,保存并记录所述第一光谱图像。
在上述基于光谱的医疗图像处理方法中,进一步包括:比较所述第一组图像检测芯片模组组件获得的第一光谱图像与所述第二组图像检测芯片模组组件获得的第二光谱图像;响应于所述第一光谱图像不同于所述第二光谱图像,将所述第一光谱图像与预存的病理光谱图像进行比较;以及,响应于所述第一光谱图像与所述第二光谱图像相同,不将所述第一光谱图像与预存的病理光谱图像进行比较。
根据本申请的另一方面,提供了一种基于光谱的医疗图像处理装置,其使用如上所述的基于光谱的医疗图像处理方法。
本申请提供的基于光谱的医疗图像处理方法和装置可以通过从光谱图像恢复颜色图像并使用高保真显示器进行显示,从而向用户呈现高分辨率的光谱信息和颜色信息。
附图说明
通过阅读下文优选的具体实施方式中的详细描述,本申请各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。说明书附图仅用于示出优选实施方式的目的,而并不认为是对本申请的限制。显而易见地,下面描述的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。而且在整个附图中,用相同的附图标记表示相同的部件。
图1图示了光谱图像中包含的各种信息的示意图;
图2图示了现有的移动设备的成像过程的示意图;
图3图示了根据本申请实施例的光谱成像设备的示意图;
图4图示了根据本申请实施例的基于光谱的医疗图像处理方法的示意性流程图;
图5图示了根据本申请实施例的基于光谱的医疗图像处理方法中的屏幕特性化的示例的示意图;
图6图示了根据本申请实施例的基于光谱的医疗图像处理方法的应用示例的示意图。
具体实施方式
下面,将参考附图详细地描述根据本申请的示例实施例。显然,所描述的实施例仅仅是本申请的一部分实施例,而不是本申请的全部实施例,应理解,本申请不受这里描述的示例实施例的限制。
申请概述
以智能手机、平板电脑为代表的移动设备被广泛应用,一个典型的从相机成像到最后显示的过程如图2所示。这里,图2图示了现有的移动设备的成像过程的示意图。
如图2所示,图像传感器获取场景中的信息,通过Raw格式进行数据传输,Raw格式的图像一方面可以通过数字图像处理系统,再通过RAM处理之后进行显示,一方面可以直接进行存储,还可以经过应用层处理进行显示。
光谱成像以其特有的优势,在对目标的空间特征进行成像的同时,还可以获取每个像素单元的光谱信息,这样,通过后续的颜色还原和数字图像处理,就得到准确的图像颜色信息,实现颜色在不同数字媒体之间的准确传递,如在手机、平板电脑上从图像采集到显示,在遥感领域,从信息的采集到最终的显示等等。
具体地,根据本申请实施例的光谱成像设备可以具有如图3所示的配置。这里,图3图示了根据本申请实施例的光谱成像设备的示意图。如图3所示,在根据本申请实施例的光谱成像设备中,光学系统为可选的,其可能是透镜组件、匀光组件等光学系统。滤光结构为频域或者波长域上的宽带滤光结构。各处滤光结构不同波长的通光谱不完全相同。滤光结构可以是超表面、光子晶体、纳米柱、多层膜、染料、量子点、MEMS(微机电系统)、FP etalon(FP标准具)、cavity layer(谐振腔层)、waveguide layer(波导层)、衍射元件等具有滤光特性的结构或者材料。例如,在本申请实施例中,所述滤光结构可以是中国专利CN201921223201.2中的光调制层,图像传感器(即光探测器阵列)可以是CMOS图像传感器(CIS)、CCD、阵列光探测器等。另外,可选的数据处理单元可以是MCU、CPU、GPU、FPGA、NPU、ASIC等处理单元,其可以将图像传感器生成的数据导出到外部进行处理。
进一步地,在本申请实施例中,光谱图像由于记录了拍摄场景的原始信息,尽可能地减少了图像信息的丢失。因此,在进行颜色还原过程中,可实现高保真还原,但是由于现有的图像处理过程均有图像的压缩和图像颜色信息的压缩,导致信息丢失,且现有的显示器多为三基色显示,不具有处理光谱图像信息的能力。因此,针对上述光谱图像在传输过程中的颜色信息损失,及在显示过程中的显示器的数据处理问题,结合医疗成像的具体应用场景,本申请提出一种基于光谱的医疗成像和显示方案,其涉及光谱图像的采集,数据处理和传输,以及最终的光谱图像显示,可以实现全链路的高色域和高保真颜色传输,实现闭环的颜色管理。
这里,全链路指的是图像信息从采集、处理、传输、编码到最终的显示,一整条数据处理链路,高色域指的是数据传输过程中均使用大色域进行处理,色域的概念指的是数学空间能表示的颜色数量,高保真指的是最大程度的还原拍摄场景中的颜色,最大限度的降低颜色的损失。
示例性方法
图4图示了根据本申请实施例的基于光谱的医疗图像处理方法的示意性流程图。
如图4所示,根据本申请实施例的基于光谱的医疗图像处理方法包括如下步骤。
步骤S110,获取病灶处的光谱图像。在本申请实施例中,可以直接获取预先存储的病灶处的光谱图像,也可以使用光谱成像设备,比如光谱相机来获取光谱图像。
例如,在使用光谱相机对病人病灶处进行成像时,所述光谱相机至少包括图像传感器和光学系统。其中,图像传感器包括滤光片类型,微纳结构类型,液晶可协调类型等,旨在获取图像在可见光波段的信息,这里可见光波段指的是380nm-780nm波段范围的信息。并且,光谱相机的设备类型可以是固定式,例如将病人需要诊治的部位贴近成像设备,设备类型还可以是非固定式,例如使用探头装置深入病灶处,利用主动照明的方式对病人的组织进行成像。
并且,所述光学系统可以包括光源组件和接收器组件,其中光源组件用以发射光源,光源照射至人体病灶区域或者疑似病灶区域,再经由人体病灶或者疑似病灶区域反射后,被所述接收器组件接收。这样,后续的成像模组组件可以根据接收到的反射光,获取图像信息和光谱信息,再通过图像信息去比对病灶区域或疑似病灶区域等生理特征,用以判断待测病人的病理状况,而光谱信息则用来判断是哪种疾病和需要哪种手术治疗,以及用以判断待测病灶区域或疑似病灶区域/的位置和类型等。其中,首先需要判断光谱图像与预先存储的各种切割下来做过病理分析的病灶体的分析匹配程度,当与预存的基准病灶区域或疑似病灶区域光谱图像一致(其中至少包括空间信息、辐射信息、光谱信息、颜色信息中之一或者组合),才能进入数据库记录并发送给医生、专家作为诊断的依据。这里,成像模组组件将在下文中更详细地说明。
在使用光谱相机对病灶处进行光谱成像之后,需要根据所述光谱相机的图像传感器的原始信号还原每个像素的光谱曲线以获得光谱图像。这里,因为所述光谱相机的图像传感器成像后的信号多为DN值,需要对数据进行初步处理,例如归一化等操作,然后使用光谱恢复算法进行数据的光谱恢复,这里,光谱恢复方法包括多项式方法,深度学习方法等。
因此,在根据本申请实施例的基于光谱的医疗图像处理方法中,获取病灶处的光谱图像包括:使用光谱相机对病灶处进行光谱成像;以及,根据所述光谱相机的图像传感器的原始信号还原每个像素的光谱曲线以获得光谱图像。
另外,在本申请实施例中,考虑到医疗行业的特殊性在于需要对病人的数据进行归档,同时需要数据跟踪病人的病情变化,因此将所述光谱图像进行存储和归档,例如存储到预定数据库,以建立病人的病灶处的光谱信息数据库,从而方便专家进行会诊,也方便同类病人的光谱信息进行对比,进而寻求最优的诊治方案。
因此,在根据本申请实施例的基于光谱的医疗图像处理方法中,获取病灶处的光谱图像进一步包括:存储所述光谱图像并进行数据归档。
步骤S120,根据所述光谱图像还原得到每个像素点的颜色空间数值,以获得第一颜色图像。例如,如果是将光谱图像的光谱数据转换到XYZ颜色空间,则可以使用色度学的方法进行转换。具体地,根据获取的每个像素的光谱曲线以及CIE的颜色标准,可以将光谱数据转换到XYZ颜色空间,具体地通过如下公式实现:
因此,在根据本申请实施例的基于光谱的医疗图像处理方法中,根据所述光谱图像还原得到每个像素点的颜色空间数值以获得第一颜色图像包括:根据所述光谱图像的每个像素的光谱曲线以及CIE的颜色标准,通过以下公式将获得XYZ颜色空间内的每个像素的颜色值:
步骤S130,对所述第一颜色图像进行颜色特性化,将图像颜色转换到大色域范围内以获得第二颜色图像。例如,如上所述的第一颜色图像的XYZ数据相当于在XYZ颜色空间对图像的颜色信息进行存储,是设备无关空间,设备无关的颜色空间指的是不会因为设备的不同而发生改变的颜色空间。而要进行其它数字图像处理和显示,需要将图像的XYZ数据转换到其它颜色空间,例如RGB颜色空间,才可以进行其它数字图像处理操作并颜色。具体地,在本申请实施例中,将第一颜色图像的图像数据,例如XYZ数据转换到大色域的RGB空间中,例如,优选的可以选择BT.2020颜色空间。
因此,在根据本申请实施例的基于光谱的医疗图像处理方法中,所述第一颜色图像位于色域无关的颜色空间,且所述颜色特性化的过程中没有色域的压缩和损失。
并且,在根据本申请实施例的基于光谱的医疗图像处理方法中,所述第二颜色图像所在的颜色空间是大于sRGB的颜色空间。
例如,大于sRGB的颜色空间可以是上述BT.2020颜色空间,也可以是DCI-P3颜色空间,且本领域技术人员可以理解的是,其也包括将来可能出现的其它的更大的颜色空间。
步骤S140,使用高保真显示器显示所述第二颜色图像。这里,存在多个指标影响显示器的显示效果,其中比较重要的指标包括显示器的分辨率,发光方式,色域大小等。因为在本申请实施例中,需要完成光谱图像从采集、传输到最终显示端的全链路颜色高保真,因此使用高保真显示器。高保真显示器具体指的是使用高色域,高色准的显示器,即显示器所能显示的颜色要足够多,颜色的准确性要足够高。
另外,为了提高高保真显示器的显示效果,在本申请实施例中,优选地对显示器进行屏幕特性化。这里,屏幕特性化是为了通过色度测量仪器建立屏幕的驱动值与色度值之间的关系,例如,可以采用三维查找表的方式进行屏幕特性化处理。
图5图示了根据本申请实施例的基于光谱的医疗图像处理方法中的屏幕特性化的示例的示意图。
如图5所示,屏幕特性化主要包括:建立特性化样本,所述特性化样本按照亮度和色度均匀分布,覆盖各亮度层级上的各类颜色,且颜色按照色调和饱和度均匀分布;在显示屏幕上显示特性化样本,所述特性化样本的RGB数值是已知的;通过屏幕测色仪测量其色度值,并建立RGB信息与色度值之间的联系。这里,屏幕特性化可以由独立模块实现,即,通过屏幕的特性化,建立图像驱动值与最终显示的色度值之间的关系。也就是,通过屏幕特性化,可以将图像的高保真色度信息进行显示,例如可以选择色域BT.2020色域进行显示,并通过高色域的显示,将图像的颜色信息以无损的方式呈现给用户。
因此,在根据本申请实施例的基于光谱的医疗图像处理方法中,使用高保真显示器显示所述第二颜色图像包括对所述高保真显示器,基于已进行颜色处理的图像数据进行屏幕特性化,且所述屏幕特性化包括:建立特性化样本,所述特性化样本按照亮度和色度均匀分布,覆盖各亮度层级上的各类颜色,且颜色按照色调和饱和度均匀分布;在显示屏幕上显示具有已知的RGB数值的所述特性化样本;通过屏幕测色仪测量所述显示屏幕的色度值;以及,建立所述已知的RGB数值与所测量的色度值之间的联系。
这样,当通过屏幕显示图像数据时,就可以按照预定的大色域的颜色空间,例如BT.2020色域空间进行显示,同时显示的位深设置为高比特数,例如10比特,从而可以表现出颜色的层次过渡。
另外,在本申请实施例中,在使用高保真显示器显示所述第二颜色图像之前,还可以对所述第二颜色图像进行数字图像处理,所述数字图像处理包括图像的白平衡处理、曝光处理、噪声处理、解析力处理中的至少一个。并且,值得注意的是,在所述数字图像处理的过程中,不对图像的颜色数据进行压缩,不改变图像的颜色空间,以最大限度保留图像的颜色数据。
也就是,由于在数字图像处理过程中,不可避免的要将图像的RGB信息转换到其它颜色空间,例如YUV空间等,以方便进行图像处理。但是,在本申请实施例中,在图像转换过程中均不改变图像格式所能表示的颜色空间容积,也就是,YUV等颜色空间所能表示的色彩容积还应维持在BT.2020色域空间大小,不做色域的压缩和色域变换。
因此,在根据本申请实施例的基于光谱的医疗图像处理方法中,使用高保真显示器显示所述第二颜色图像之前进一步包括:对所述第二颜色图像进行数字图像处理,且所述数字图像处理的过程中不压缩所述第二颜色图像的颜色数据且不改变所述第二颜色图像的颜色空间。
另外,在本申请实施例中,在使用高保真显示器显示所述第二颜色图像之前,还可以对所述第二颜色图像进行编码压缩。也就是,当需要进行数据传输时,为了降低图像数据在传输过程中的数据量,需要根据使用需求,对图像进行存储编码。具体地,根据图像格式的要求,可以使用bmp,jpg(jpeg),TIFF等格式对数据进行编码。当使用场景需要为视频时,可以选用mp4,AVI,mkv,mov对视频进行存储编码。
因此,在根据本申请实施例的基于光谱的医疗图像处理方法中,使用高保真显示器显示所述第二颜色图像之前进一步包括:对所述第二颜色图像进行编码压缩。
在编码压缩之后,当需要进行数据传输时,可以使用无线或有线方式进行传输。例如,无线方式包括使用5G等蜂窝网络、局域网,蓝牙传输等,使用有线方式传输包括光缆等其它方式。通过数据传输,可以将数据传输到预定位置的显示器,例如主治医生所在区域的显示器,以方便医生根据图像数据进行诊治。
因此,在根据本申请实施例的基于光谱的医疗图像处理方法中,在对所述第二颜色图像进行编码压缩之后进一步包括:将所述编码压缩后的第二颜色图像传输到预定位置的高保真显示器。
并且,为了最大限度地减少图像中颜色信息的丢失,在本申请实施例中进行高比特数据传输,这里,在本领域内,通常不低于8比特的数据传输都可以被称为高比特数据传输。例如,具体地,高比特数据传输可以是10比特、12比特或者14比特的数据传输。
此外,在本申请实施例中,在对所述第二颜色图像进行编码压缩的情况下,为了在所述高保真显示器上显示所述第二颜色图像,还需要对所述第二颜色图像进行解码处理。
因此,在根据本申请实施例的基于光谱的医疗图像处理方法中,在对所述第二颜色图像进行编码压缩之后进一步包括:在所述高保真显示器对所述第二颜色图像进行解码处理。
应用示例
如上所述,根据本申请实施例的基于光谱的医疗图像处理方法可应用于医生根据图像数据进行诊断,图6图示了根据本申请实施例的基于光谱的医疗图像处理方法的应用示例的示意图。
如图6所示,在远程医疗等场景下,医生并未在病人身旁,所以医生可以根据显示的高保真的图像数据,结合自己的临床诊治经验,对病人的病灶和病情进行诊断,并给出相应的治疗方案。
针对该应用示例,可以采用至少两组图像检测芯片模组组件来获取具体的病灶区域或者疑似病灶区域的光谱图像。
其中,第一组图像检测芯片模组组件包括:光谱芯片模组、成像芯片模组和分光件,所述分光件位于光谱芯片和成像芯片的路径上,即入射光到达分光件之后,会使得第一部分光转折、第二部分光透过,再分别由光谱芯片和成像芯片接收,获取光谱信息(例如第一光谱图像)和图像信息。优选地,所述光谱芯片组件还包括匀光件,所述匀光件设置于所述分光件和所述光谱芯片之间,对光进行匀化,再由所述光谱芯片获得光谱信息,以用于进行病灶体判别。需要说明的是,由于待测表面往往是不平整的,例如病灶区域或疑似病灶区域有凹凸不平,当测试时对应的区域的变动会导致不同区域产生的光谱响应不同,使得病灶体判断难度增加,而使用匀光后,即使测试时区域有所变动,其整体的光谱信息是不变的。
另外,第二组图像检测芯片模组组件也至少包括成像芯片模组,其中成像芯片获取病灶体之外的健康组织的光谱图像,除了如上所述地,根据第一组图像检测芯片模组组件直接根据获取的所述第一光谱图像与预存的病理光谱图像进行对比之外,还可以由第二组图像检测模组组件获取第二光谱图像,所述第二光谱图像是对应于检测健康组织的光谱图像,进一步判别所述第一光谱图像与所述第二光谱图像是否具有差异性,若光谱图像判断为不同,则存在病变,进一步与预存病灶体的病理分析对应的光谱图像进行对比,当匹配一致时,保存记录,作为医生的诊断依据。如果确认第一光谱图像与第二光谱图像相同则不再进行比对,这样做可以进一步确认病灶体的情况,可以更加直观地确认是否已经发生病变,当然如果健康组织部分不能确认,或者大面积发生病变,则需要进一步地做多次测量和采集,甚至需要进一步的做介入式的病例分析。
因此,在根据本申请实施例的基于光谱的医疗图像处理方法中,使用光谱相机对病人病灶处进行成像包括:使用包含光谱芯片模组、成像芯片模组和分光件的第一组图像检测芯片模组组件进行成像,其中,所述分光件位于光谱芯片和成像芯片的路径上,以使得第一部分光转折且第二部分光透过后分别由所述光谱芯片和所述成像芯片接收,从而获取光谱信息和图像信息。
并且,在根据本申请实施例的基于光谱的医疗图像处理方法中,所述光谱芯片组件包括设置于所述分光件和所述光谱芯片之间的匀光件,用于对光进行匀化后再由所述光谱芯片获得光谱信息。
此外,在根据本申请实施例的基于光谱的医疗图像处理方法中,使用光谱相机对病人病灶处进行成像进一步包括:使用至少包括成像芯片模组的第二组图像检测芯片模组组件对病灶体之外的健康组织进行成像。
另外,在根据本申请实施例的基于光谱的医疗图像处理方法中,进一步包括:将所述第一组图像检测芯片模组组件获得的第一光谱图像与预存的病理光谱图像进行比较;响应于所述第一光谱图像与所述预存的病理光谱图像相同,保存并记录所述第一光谱图像。
此外,在根据本申请实施例的基于光谱的医疗图像处理方法中,进一步包括:比较所述第一组图像检测芯片模组组件获得的第一光谱图像与所述第二组图像检测芯片模组组件获得的第二光谱图像;响应于所述第一光谱图像不同于所述第二光谱图像,将所述第一光谱图像与预存的病理光谱图像进行比较;以及,响应于所述第一光谱图像与所述第二光谱图像相同,不将所述第一光谱图像与预存的病理光谱图像进行比较。
示例性装置
此外,本申请实施例进一步涉及一种基于光谱的医疗图像处理装置,其使用如上所述的基于光谱的医疗图像处理方法,以使得可以向用户呈现高分辨率的光谱信息和颜色信息。
例如,所述基于光谱的医疗图像处理装置可以包括图像采集单元和图像显示单元,所述图像采集单元可以是如上所述的光谱相机,其包含至少两组图像检测芯片模组组件,且所述图像显示单元可以是如上所述的高保真显示器。并且,所述图像采集单元和图像显示单元之间可以通过高比特数据传输来进行数据通信。
这里,本领域技术人员可以理解,上述基于光谱的医疗图像处理装置的各个单元和模块的具体功能和操作已经在上面参考图1到图6描述的基于光谱的医疗图像处理方法中详细介绍,并因此,将省略其重复描述。
如上所述,根据本申请实施例的基于光谱的医疗图像处理装置可以实现为包括图像采集单元和图像显示单元的各种终端设备中,例如包括显示器的光谱成像设备等。在一个示例中,根据本申请实施例的基于光谱的医疗图像处理装置可以作为硬件模块而集成到所述终端设备中。
替换地,在另一示例中,该基于光谱的医疗图像处理装置与该终端设备也可以是分立的设备,并且该基于光谱的医疗图像处理装置可以通过有线和/或无线网络连接到该终端设备,并且按照约定的数据格式来传输交互信息。
以上结合具体实施例描述了本申请的基本原理,但是,需要指出的是,在本申请中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本申请为必须采用上述具体的细节来实现。
本申请中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
还需要指出的是,在本申请的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此,本申请不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。
Claims (17)
1.一种基于光谱的医疗图像处理方法,其特征在于,包括:
获取病灶处的光谱图像;
根据所述光谱图像还原得到每个像素点的颜色空间数值,以获得第一颜色图像;
对所述第一颜色图像进行颜色特性化,将图像颜色转换到大色域范围内以获得第二颜色图像;以及
使用高保真显示器显示所述第二颜色图像。
2.如权利要求1所述的基于光谱的医疗图像处理方法,其中,获取病灶处的光谱图像包括:
使用光谱相机对病灶处进行光谱成像;以及
根据所述光谱相机的图像传感器的原始信号还原每个像素的光谱曲线以获得光谱图像。
3.如权利要求1所述的基于光谱的医疗图像处理方法,其中,获取病灶处的光谱图像进一步包括:
存储所述光谱图像并进行数据归档。
5.如权利要求1所述的基于光谱的医疗图像处理方法,其中,所述第一颜色图像位于色域无关的颜色空间,且所述颜色特性化的过程中没有色域的压缩和损失。
6.如权利要求5所述的基于光谱的医疗图像处理方法,其中,所述第二颜色图像所在的颜色空间是大于sRGB的颜色空间。
7.如权利要求1所述的基于光谱的医疗图像处理方法,其中,使用高保真显示器显示所述第二颜色图像包括对所述高保真显示器,基于已进行颜色处理的图像数据进行屏幕特性化,且所述屏幕特性化包括:
建立特性化样本,所述特性化样本按照亮度和色度均匀分布,覆盖各亮度层级上的各类颜色,且颜色按照色调和饱和度均匀分布;
在显示屏幕上显示具有已知的RGB数值的所述特性化样本;
通过屏幕测色仪测量所述显示屏幕的色度值;以及,
建立所述已知的RGB数值与所测量的色度值之间的联系。
8.如权利要求1所述的基于光谱的医疗图像处理方法,其中,在使用高保真显示器显示所述第二颜色图像之前进一步包括:
对所述第二颜色图像进行数字图像处理,且所述数字图像处理的过程中不压缩所述第二颜色图像的颜色数据且不改变所述第二颜色图像的颜色空间。
9.如权利要求1所述的基于光谱的医疗图像处理方法,其中,使用高保真显示器显示所述第二颜色图像之前进一步包括:
对所述第二颜色图像进行编码压缩。
10.如权利要求9所述的基于光谱的医疗图像处理方法,其中,在对所述第二颜色图像进行编码压缩之后进一步包括:
将所述编码压缩后的第二颜色图像传输到预定位置的高保真显示器。
11.如权利要求9所述的基于光谱的医疗图像处理方法,其中,在对所述第二颜色图像进行编码压缩之后进一步包括:在所述高保真显示器对所述第二颜色图像进行解码处理。
12.如权利要求1所述的基于光谱的医疗图像处理方法,其中,使用光谱相机对病人病灶处进行成像包括:
使用包含光谱芯片模组、成像芯片模组和分光件的第一组图像检测芯片模组组件进行成像,其中,所述分光件位于光谱芯片和成像芯片的路径上,以使得第一部分光转折且第二部分光透过后分别由所述光谱芯片和所述成像芯片接收,从而获取光谱信息和图像信息。
13.如权利要求12所述的基于光谱的医疗图像处理方法,其中,所述光谱芯片组件包括设置于所述分光件和所述光谱芯片之间的匀光件,用于对光进行匀化后再由所述光谱芯片获得光谱信息。
14.如权利要求12所述的基于光谱的医疗图像处理方法,其中,使用光谱相机对病人病灶处进行成像进一步包括:使用至少包括成像芯片模组的第二组图像检测芯片模组组件对病灶体之外的健康组织进行成像。
15.如权利要求14所述的基于光谱的医疗图像处理方法,其中,进一步包括:
将所述第一组图像检测芯片模组组件获得的第一光谱图像与预存的病理光谱图像进行比较;以及,
响应于所述第一光谱图像与所述预存的病理光谱图像相同,保存并记录所述第一光谱图像。
16.如权利要求15所述的基于光谱的医疗图像处理方法,其中,进一步包括:
比较所述第一组图像检测芯片模组组件获得的第一光谱图像与所述第二组图像检测芯片模组组件获得的第二光谱图像;
响应于所述第一光谱图像不同于所述第二光谱图像,将所述第一光谱图像与预存的病理光谱图像进行比较;以及,
响应于所述第一光谱图像与所述第二光谱图像相同,不将所述第一光谱图像与预存的病理光谱图像进行比较。
17.一种基于光谱的医疗图像处理装置,其特征在于,使用如权利要求1到16中任意一项所述的基于光谱的医疗图像处理方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111630517.5A CN116350177A (zh) | 2021-12-28 | 2021-12-28 | 基于光谱的医疗图像处理方法 |
PCT/CN2022/131422 WO2023088186A1 (zh) | 2021-11-18 | 2022-11-11 | 基于光谱成像的图像处理方法、装置和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111630517.5A CN116350177A (zh) | 2021-12-28 | 2021-12-28 | 基于光谱的医疗图像处理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116350177A true CN116350177A (zh) | 2023-06-30 |
Family
ID=86909593
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111630517.5A Pending CN116350177A (zh) | 2021-11-18 | 2021-12-28 | 基于光谱的医疗图像处理方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116350177A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116721175A (zh) * | 2023-08-09 | 2023-09-08 | 安翰科技(武汉)股份有限公司 | 一种图像显示方法、图像显示装置以及胶囊内窥镜系统 |
-
2021
- 2021-12-28 CN CN202111630517.5A patent/CN116350177A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116721175A (zh) * | 2023-08-09 | 2023-09-08 | 安翰科技(武汉)股份有限公司 | 一种图像显示方法、图像显示装置以及胶囊内窥镜系统 |
CN116721175B (zh) * | 2023-08-09 | 2023-10-10 | 安翰科技(武汉)股份有限公司 | 一种图像显示方法、图像显示装置以及胶囊内窥镜系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
He et al. | Hyperspectral imaging enabled by an unmodified smartphone for analyzing skin morphological features and monitoring hemodynamics | |
Tsouri et al. | On the benefits of alternative color spaces for noncontact heart rate measurements using standard red-green-blue cameras | |
US7613335B2 (en) | Methods and devices useful for analyzing color medical images | |
Xiao et al. | Improved method for skin reflectance reconstruction from camera images | |
US8467603B2 (en) | Method for enhancing in-vivo image contrast | |
JP4212165B2 (ja) | 色再現システム | |
US20210075978A1 (en) | Hybrid Visible and Near Infrared Imaging with an RGB Color Filter Array Sensor | |
Bedard et al. | Multimodal snapshot spectral imaging for oral cancer diagnostics: a pilot study | |
Eichenholz et al. | Real-time megapixel multispectral bioimaging | |
TW201143353A (en) | Resolution based formatting of compressed image data | |
WO2023005374A1 (zh) | 偏振光内窥镜装置及数据处理方法 | |
JP2001258044A (ja) | 医療用画像処理装置 | |
CN116350177A (zh) | 基于光谱的医疗图像处理方法 | |
Liu et al. | Bio-inspired multimodal 3D endoscope for image-guided and robotic surgery | |
CN102860821B (zh) | 虚拟视频成像的医用红外热像仪装置及其数据传输的方法 | |
Babu et al. | Novel chroma subsampling patterns for wireless capsule endoscopy compression | |
WO2023088186A1 (zh) | 基于光谱成像的图像处理方法、装置和电子设备 | |
US8866972B1 (en) | Method for transmitting spectrum information | |
Mostafa et al. | An improved YEF-DCT based compression algorithm for video capsule endoscopy | |
Yamaguchi | Medical application of a color reproduction system with a multispectral camera | |
WO2023207443A1 (zh) | 远程光谱成像系统及方法 | |
Yamaguchi et al. | Video-telemedicine with reliable color based on multispectral technology | |
Komiya et al. | Natural color reproduction system for telemedicine and its application to digital camera | |
Yamaguchi et al. | Color reproducibility of skin lesions in multispectral video: Experimental evaluation | |
CN117014586A (zh) | 远程光谱成像系统及方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |