CN103908225B - 眼科设备和对准方法 - Google Patents
眼科设备和对准方法 Download PDFInfo
- Publication number
- CN103908225B CN103908225B CN201310741604.7A CN201310741604A CN103908225B CN 103908225 B CN103908225 B CN 103908225B CN 201310741604 A CN201310741604 A CN 201310741604A CN 103908225 B CN103908225 B CN 103908225B
- Authority
- CN
- China
- Prior art keywords
- image
- multiplying power
- acquisition
- high magnification
- accessed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/0016—Operational features thereof
- A61B3/0025—Operational features thereof characterised by electronic signal processing, e.g. eye models
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/10—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
- A61B3/14—Arrangements specially adapted for eye photography
- A61B3/15—Arrangements specially adapted for eye photography with means for aligning, spacing or blocking spurious reflection ; with means for relaxing
- A61B3/152—Arrangements specially adapted for eye photography with means for aligning, spacing or blocking spurious reflection ; with means for relaxing for aligning
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/10—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
- A61B3/1025—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for confocal scanning
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Medical Informatics (AREA)
- Surgery (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Physics & Mathematics (AREA)
- Molecular Biology (AREA)
- Ophthalmology & Optometry (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Signal Processing (AREA)
- Eye Examination Apparatus (AREA)
Abstract
本发明涉及一种眼科设备和对准方法。所述眼科设备包括:图像获取单元,用于获取不同倍率的图像;确定单元,用于至少基于所获取到的图像或所获取到的图像的获取条件,来确定用于获取所获取到的图像的倍率之间的中间倍率的图像的方法;以及对准单元,用于使所获取到的图像对准。
Description
技术领域
本发明涉及一种眼科设备和对准方法。
背景技术
为了早期诊断与生活方式相关的疾病以及作为失明的诱因而排名高的疾病,广泛进行眼部检查。作为基于共焦激光扫描显微镜的原理的眼科设备的扫描激光检眼镜(SLO)是用于利用用作测量光的激光束对眼底进行光栅扫描、并且基于返回光的强度来高速拍摄高分辨率平面图像的设备。
以下将拍摄这种平面图像的设备称为SLO设备并且将该平面图像称为SLO图像。
近来,通过在SLO设备中增大测量光束的直径来获取横向分辨率提高的视网膜的SLO图像已经成为可能。然而,在获取视网膜的SLO图像的情况下,测量光束的直径的增大已经导致由于被检眼的像差所引起的SLO图像的信噪(S/N)比和分辨率下降的问题。
为了解决该问题,已研发了自适应光学SLO设备。自适应光学SLO设备包括自适应光学系统,其中该自适应光学系统被配置为利用波前传感器来实时地测量被检眼的像差,并且利用波前校正装置来校正由于被检眼所引起的测量光及其返回光的像差。这种自适应光学SLO设备可以以高横向分辨率获取SLO图像。
为了获取这种高横向分辨率的SLO图像作为运动图像并且非侵入性地观察血流,例如,从各帧提取视网膜血管并且测量血球在毛细血管等中移动的速度。此外,为了使用SLO图像来评价视觉功能与光感受细胞P的密度分布或阵列之间的关系,检测光感受细胞P并且测量光感受细胞P的密度分布或阵列。图6B示出高横向分辨率的SLO图像的示例。可观察到光感受细胞P、表示毛细血管的位置的低亮度区域Q、以及表示白血球的位置的高亮度区域W。
在SLO图像中观察光感受细胞P或测量光感受细胞P的分布的情况下,将聚焦位置设置到视网膜外层(图6A的B5)的附近。在这种状态下,获取到诸如图6B所示等的SLO图像。视网膜血管和从视网膜血管分支的毛细血管沿着视网膜内层(图6A的B2~B4)延伸。
作为应用于眼部的低倍率图像Dl和高倍率图像Dh的对准技术,日本特开2010-259543公开了用于将自适应光学SLO图像的获取位置显示在眼底的低倍率图像上的技术。
在将高横向分辨率图像(高倍率图像Dh)叠加在广角图像(低倍率图像Dl)上的情况下(参见图6C),由于这些图像因视角和像素大小极大不同而缺少共通的图像特征,因此有时无法精确地实现对准。
因此,期望如下技术,其中该技术使得能够通过获取包括与高倍率图像Dh共通的图像特征和与低倍率图像Dl共通的图像特征的中间倍率图像Dm、并且通过使用该中间倍率图像Dm进行对准,来使视角和像素大小极大不同的图像精确地对准。
此外,如图6D所示,有时将断层图像的获取位置或获取范围叠加在眼部的低倍率图像Dl上。由此得到的图像通常与断层图像(图6A)并排显示,并且用于在检查断层图像的获取位置的同时观察眼部的层形状。
在高倍率图像Dh精确地在低倍率图像Dl上对准的情况下,可以将断层图像的获取位置叠加在高倍率图像Dh上。如此使得可以观察并分析高倍率Dh中的光感受细胞P的分布(例如,缺陷光感受细胞的范围)和眼部的层形状(例如,视网膜外层的薄型化)之间的关系。
除了断层图像的获取位置以外,在眼部的低倍率图像D1上有时叠加i)层形状值的分布(图6E)、ii)视网膜感光度值的分布(图6F)、以及iii)利用治疗用激光束所照射的位置(图6G)。在高倍率图像Dh精确地在低倍率图像Dl上对准的情况下,可以观察并分析高倍率图像Dh中的图像特征和这些信息之间的关系。例如,在使用信息i)的情况下,可以观察并分析视网膜外层厚度的分布和光感受细胞的密度分布之间的关系。在使用信息ii)的情况下,可以观察并分析视觉功能测量值的分布和光感受细胞的密度分布之间的关系。在使用信息iii)的情况下,可以观察并分析治疗对象部位和毛细血管的分布或血流速度之间的关系。
日本特开2010-259543所公开的技术使用追踪技术以使低倍率图像Dl和高倍率图像Dh的相对位置彼此相关联。然而,日本特开2010-259543并没有公开如下技术,其中该技术是任意的还需应对被检者的固视不稳定的情况的基于图像处理的对准技术。
日本特开2009-276327公开了进行利用全场光学相干断层成像仪(OCT)所拍摄到的细胞图像和眼底的低倍率图像的对准和显示的技术。然而,日本特开2009-276327并没有公开如下技术,其中该技术是任意的还需应对像素大小极大不同的图像缺少共通的图像特征的情况和被检者的固视不稳定的情况的基于图像处理的对准技术。
日本特开2007-117714公开了用于将断层图像的获取位置显示在眼底的图像上的技术。然而,日本特开2007-117714没有公开任意的用于将断层图像的获取位置或视网膜感光度分布显示在细胞的高倍率图像Dh上的技术。
发明内容
本发明是考虑到上述缺陷而作出的,并且目的是使视角或像素大小极大不同的眼部的图像精确地对准。
为此,例如,根据本发明的一个方面的一种眼科设备,包括:图像获取单元,用于获取不同倍率的图像;确定单元,用于至少基于所获取到的图像或所获取到的图像的获取条件,来确定处于所获取到的图像的倍率之间的中间倍率的图像的获取方法;以及对准单元,用于使所获取到的图像对准。
此外,根据本发明的另一方面的一种对准方法,包括以下步骤:获取不同倍率的眼科图像;至少基于所获取到的眼科图像或所获取到的眼科图像的获取条件,来确定处于所获取到的眼科图像的倍率之间的中间倍率的眼科图像的获取方法;以及进行所获取到的眼科图像的对准。
通过以下参考附图对典型实施例的说明,本发明的其它特征将变得明显。
附图说明
图1是示出根据本发明的第一实施例的眼科设备的功能结构的示例的框图。
图2A~2C是示出包括该眼科设备的系统的结构的示例的框图。
图3是示出根据本发明的第一实施例的SLO图像摄像设备的结构的示例的图。
图4是示出计算机的硬件结构的示例的框图,其中该计算机包括与存储单元和图像处理单元相对应的硬件、并且存储并执行实现其它单元的软件。
图5是示出根据本发明的第一实施例的眼科设备所进行的处理的示例的流程图。
图6A~6H是示出本发明的实施例中的图像处理的示例的图。
图7是示出本发明的第一实施例的步骤S520中所进行的处理的详细内容的示例的流程图。
图8A~8H是示出本发明的第一实施例的步骤S520和S530中所进行的图像处理的示例的图。
图9是示出本发明的第一实施例的步骤S530中所进行的处理的详细内容的示例的流程图。
图10是示出本发明的第一实施例的步骤S540中所进行的处理的详细内容的示例的流程图。
图11是示出根据本发明的第二实施例的眼科设备的功能结构的示例的框图。
图12是示出根据本发明的第二实施例的眼科设备所进行的处理的示例的流程图。
图13是示出本发明的第二实施例的步骤S1230中所进行的处理的详细内容的示例的流程图。
图14是示出根据本发明的第三实施例的断层图像摄像设备的结构的示例的图。
图15是示出显示画面图像的示例的图。
图16是示出显示画面图像的示例的图。
图17是示出显示画面图像的示例的图。
具体实施方式
以下将参考附图来详细说明根据本发明的实施例的眼科设备和对准方法。注意,本发明不限于这些实施例。
第一实施例
根据第一实施例的眼科设备获取用作高倍率图像Dh的自适应光学SLO图像和用作低倍率图像Dl并且叠加有眼部断层图像的扫描位置的眼部的SLO图像。该眼科设备基于高倍率图像Dh和低倍率图像Dl之间的倍率差异以及高倍率图像Dh所使用的固视位置,来判断是否需要获取中间倍率图像Dm并且确定要获取中间倍率图像Dm的获取倍率和获取位置。该眼科设备在需要的情况下获取中间倍率图像Dm。然后,该眼科设备基于这些图像共通的图像特征来从倍率最低的图像起顺次对倍率接近的图像进行对准。这样,该眼科设备确定高倍率图像Dh在低倍率图像Dl上的相对位置。
通过该处理,可以使视角或像素大小极大不同的眼部的图像精确地对准。
在第一实施例中,将说明使显示在低倍率图像Dl上的眼部断层图像的扫描位置叠加在高倍率图像Dh上的情况,作为对视角和像素大小极大不同的眼部的对准图像进行显示的示例。
整体结构
图2A是示出包括根据第一实施例的眼科设备10的系统的结构的图。如图2A所示,眼科设备10经由使用光纤、通用串行总线(USB)或IEEE1394接口构成的局域网(LAN)30连接至SLO图像摄像设备20和数据服务器40。眼科设备10可以经由诸如因特网等的外部网络连接至这些设备,或者可以直接连接至SLO图像摄像设备20。
SLO图像摄像设备20是用于拍摄眼部的低倍率图像Dl、中间倍率图像Dm和高倍率图像Dh的设备。SLO图像摄像设备20拍摄低倍率图像Dl、中间倍率图像Dm和高倍率图像Dh。然后,SLO图像摄像设备20将如下信息发送至眼科设备10和数据服务器40:低倍率图像Dl;中间倍率图像Dm;高倍率图像Dh;以及低倍率图像Dl、中间倍率图像Dm和高倍率图像Dh获取期间分别使用的固视位置Fl、Fm和Fh的信息。
注意,“m”表示倍率编号并且满足“l<m<h”的关系。此外,在不同的位置处获取各倍率的图像的情况下,使用Dli、Dmj和Dhk来表示所拍摄图像。也就是说,“i”、“j”和“k”是表示获取位置编号的变量。如下定义变量i、j和k:i=1,2,···,imax;j=1,2,···,jmax;并且k=1,2,···,kmax。
数据服务器40内保持被检眼的低倍率图像Dl、中间倍率图像Dm和高倍率图像Dh、以及低倍率图像Dl、中间倍率图像Dm和高倍率图像Dh获取期间分别使用的固视位置Fl、Fm和Fh。数据服务器40内还保持以图像的各获取倍率所观察到的图像特征的列表和表示存在大的图像特征的概率的映射。数据服务器40内存储SLO图像拍摄设备20所输出的低倍率图像Dl、中间倍率图像Dm和高倍率图像Dh以及相应图像获取期间所使用的固视位置Fl、Fm和Fh。数据服务器40还响应于从眼科设备10接收到的请求来将以下内容发送至眼科设备10:低倍率图像Dl;中间倍率图像Dm;高倍率图像Dh;固视位置Fl、Fm和Fh;以图像的各倍率所观察到的图像特征的列表;以及图像特征存在概率映射。
接着,将参考图1来说明根据第一实施例的眼科设备10的功能结构。图1是示出眼科设备10的功能结构的框图。眼科设备10包括图像获取单元110、存储单元120、图像处理单元130和指示获取单元140。
此外,图像处理单元130包括确定单元131、对准单元132和显示单元133。确定单元131包括判断单元1311、倍率确定单元1312、位置确定单元1313和顺序确定单元1314。
将参考图3来说明包括自适应光学系统的SLO图像摄像设备20的结构。
SLO图像摄像设备20包括光源201。作为光源201,例如使用超发光二极管(SLD)光源。在第一实施例中,使用单个光源来进行摄像和波前测量;然而,可以使用单独光源并且随后可以组合从各光源发出的光。
从光源201照射的光经由单模光纤202传播,并且利用准直器203照射作为平行光线的测量光205。
所照射的测量光205穿过包括分束器的光分割器204,并且被引导至自适应光学系统。
自适应光学系统包括光分割器206、波前传感器215、波前校正装置208和用于引导光的反射镜207-1~207-4。注意,反射镜207-1~207-4被配置成至少眼部的瞳孔与波前传感器215或波前校正装置208光学共轭。此外,在第一实施例中,使用分束器作为光分割器206。在第一实施例中,使用利用液晶元件的空间相位调制器作为波前校正装置208。可选地,可以使用可变形镜作为波前校正装置208。
扫描光学系统209使用穿过自适应光学系统的光来进行一维或二维扫描。
在第一实施例中,使用两个检电扫描器作为主扫描用(与眼底水平的方向上)和副扫描用(与眼底垂直的方向上)的扫描光学系统209。可选地,对于扫描光学系统209的主扫描侧,可以使用共振扫描器,从而加速摄像。
扫描光学系统209在扫描中所使用的测量光205经由目镜透镜210-1和210-2照射至眼211。照射至眼211的测量光205被眼底反射或散射。通过调整目镜透镜210-1和210-2的位置,可以根据眼211的可视性来进行最佳照射。在该示例中,使用透镜作为目镜组件;然而,例如也可以使用球面镜。
眼211的视网膜反射或散射的光(返回光)在相反方向上穿过与入射路径相同的路径。返回光由光分割器206向着波前传感器215部分地反射并且用于测量光束的波前。
波前传感器215连接至自适应光学控制单元216,并且将所接收到的波前传输至自适应光学控制单元216。波前校正装置208也连接至自适应光学控制单元216,并且基于从自适应光学控制单元216接收到的指示来进行调制。自适应光学控制单元216基于根据波前传感器215获得的测量结果所获得的波前来计算将该波前校正为无像差波前所利用的调制量(校正量),并且指示波前校正装置208进行这种调制。注意,重复进行波前的测量和向着波前校正装置208的指示。这样,进行反馈控制从而获得最佳波前。
穿过光分割器206的光被光分割器204部分地反射以经由准直器212和光纤213引导至光强度传感器214。光强度传感器214将该光转换成电信号。该电信号由控制单元217构建成眼部图像,并且将由此得到的眼部图像显示在显示器218上。
通过在图3所示的结构中、增大扫描光学系统209的摆动角并且指示自适应光学控制单元216不进行像差校正,SLO图像摄像设备20可以作为普通的SLO设备进行工作并且拍摄广角SLO图像(低倍率图像Dl)。
接着,将参考图4来说明眼科设备10的硬件结构。参考图4,眼科设备10包括中央处理单元(CPU)301、随机存取存储器(RAM)302、只读存储器(ROM)303、外部存储装置304、显示器305、键盘306、鼠标307和接口308。外部存储装置304存储用于实现根据第一实施例的图像处理功能的控制程序和执行该控制程序期间所使用的数据。在CPU301的控制下,根据需要将这些控制程序和数据经由总线309载入RAM302。利用CPU301来执行所载入的程序从而实现以下所述的功能单元。
将与如图5的流程图所示的眼科设备10所执行的具体过程相关地说明眼科设备10中所包括的功能单元。
步骤S510
图像获取单元110请求SLO图像摄像设备20获取低倍率图像Dl、高倍率图像Dh以及固视位置Fl和Fh。在第一实施例中,在将固视位置Fl设置在黄斑区域的中央凹处的状态下获取低倍率图像Dl,并且在将固视位置Fh设置在副中央凹(parafovea)处的状态下获取高倍率图像Dh。也就是说,图像获取单元110与被配置为获取不同倍率的图像的图像获取单元的示例相对应。注意,图像获取位置设置方法不限于该方法,并且可以将图像获取位置设置为任何给定位置。
响应于该请求,SLO图像摄像设备20获取低倍率图像Dl和高倍率图像Dh并且发送低倍率图像Dl、高倍率图像Dh以及固视位置Fl和Fh。因此,图像获取单元110经由LAN30从SLO图像摄像设备20接收低倍率图像Dl、高倍率图像Dh以及固视位置Fl和Fh。图像获取单元110将所接收到的低倍率图像Dl、高倍率图像Dh以及固视位置Fl和Fh存储在存储单元120中。
步骤S520
确定单元131判断是否需要获取具有低倍率图像Dl的分辨率和高倍率图像Dh的分辨率之间的中间分辨率的中间倍率图像Dm。在确定单元131判断为需要获取中间倍率图像Dm的情况下,确定单元131确定要获取中间倍率图像Dm的获取倍率、获取位置和顺序。此外,确定单元131请求图像获取单元110获取中间倍率图像Dm。响应于该请求,图像获取单元110获取中间倍率图像Dm。这里,确定单元131与如下确定单元的示例相对应,其中该确定单元被配置为至少基于图像获取单元所获取到的图像或所获取到的图像的获取条件来确定用于获取图像获取单元所获取到的图像的倍率之间的中间倍率的图像的方法。
使用以下两个方法来获取中间倍率图像Dm:1)图像获取单元110请求SLO图像摄像设备20获取中间倍率图像Dm,并且SLO图像摄像设备20将所拍摄到的中间倍率图像Dm传送至存储单元120;以及2)图像获取单元110请求数据服务器40传送存储在数据服务器40内的中间倍率图像Dm,并且数据服务器40传送该中间倍率图像Dm。在第一实施例中,将说明使用方法1)的情况。
注意,本发明不限于使用方法1)的情况,并且可以使用方法2)来执行。
后面将参考图7所示的流程图来详细说明步骤S520中所进行的处理。
步骤S530
对准单元132进行低倍率图像Dl和高倍率图像Dh的对准。在获取到中间倍率图像Dm的情况下,在步骤S530中使用中间倍率图像Dm来确定高倍率图像Dh在低倍率图像Dl上的位置。这里,对准单元132与被配置为对所获取到的图像进行对准的对准单元的示例相对应。
后面将参考图9所示的流程图来详细说明步骤S530中所进行的处理。
步骤S540
与显示单元的示例相对应的显示单元133基于步骤S530中所获得的对准参数的值来将高倍率图像Dh叠加在低倍率图像Dl上。
在第一实施例中,将眼部断层图像的扫描位置的信息叠加在低倍率图像Dl上。因而,可以将眼部断层图像的扫描位置的信息叠加在高倍率图像Dh上。
后面将参考图10所示的流程图来详细说明步骤S540中所进行的处理。
显示单元133可以显示以下内容:通过使低倍率图像Dl、中间倍率图像Dm和高倍率图像Dh叠加所获得的图像;通过叠加所获得的图像的放大图像;以及通过将中间倍率图像Dm和高倍率图像Dh叠加所获得的图像。具体地,显示单元133可以显示诸如图15所示的图像等的图像。参考图15,可以将不同倍率的三个图像叠加在低倍率图像Dl上。在第一实施例中,所叠加的图像的数量不限于如图15所示的三个,并且可以是四个以上。
可选地,显示单元133可以显示以下内容:通过使低倍率图像Dl、中间倍率图像Dm和高倍率图像Dh叠加所获得的图像;通过将中间倍率图像Dm和高倍率图像Dh叠加所获得的图像;以及用户所指定的高倍率图像Dh。具体地,显示单元133可以显示诸如图16所示的图像等的图像。参考图16,可以将不同倍率的三个图像叠加在低倍率图像Dl上。
在这种情况下,高倍率图像Dh可以是通过叠加多个图像所获得的图像、或者可以是运动图像。多个图像可以以给定方式配置在显示单元133上。此外,可以以可切换的方式将高倍率图像Dh显示为运动图像或静止图像。
由于可以将高倍率图像Dh显示在可以显示断层图像的获取位置的低倍率图像Dl上,因此还可以将断层图像的获取位置显示在高倍率图像Dh上。例如,如图17所示,可以将断层图像的获取位置A显示在高倍率图像Dh上。
步骤S550
指示获取单元140从外部获取如下指示,其中该指示是关于是否将低倍率图像Dl、中间倍率图像Dm和高倍率图像Dh、固视位置Fl、Fm和Fh、以及步骤S530中所获得的对准参数的值存储在数据服务器40中的指示。该指示例如是由操作员经由键盘306或鼠标307所输入的。在输入了用以存储的指示的情况下,该处理进入步骤S560。否则,该处理进入步骤S570。
步骤S560
图像处理单元130将以下内容以彼此相关联的方式发送至数据服务器40:检查日期和时间;识别被检眼的信息;低倍率图像Dl、中间倍率图像Dm和高倍率图像Dh;眼部的特征;固视位置Fl、Fm和Fh;以及对准参数的值。
步骤S570
指示获取单元140从外部获取关于是否终止眼科设备10对低倍率图像Dl和高倍率图像Dh所进行的处理的指示。该指示例如是由操作员经由键盘306或鼠标307所输入的。在获取到用以终止该处理的指示的情况下,针对低倍率图像Dl和高倍率图像Dh的处理结束。在获取到用以继续该处理的指示的情况下,该处理返回至步骤S510并且对下一被检眼(或对同一被检眼再次)进行处理。
接着将参考图7所示的流程图来详细说明步骤S520中所进行的处理。
具有低倍率图像Dl的倍率和高倍率图像Dh的倍率之间的中间倍率的中间倍率图像Dm的获取条件包括如下条件:是否需要获取中间倍率图像Dm;获取倍率(视角和像素大小);获取位置;聚焦位置;以及获取顺序。注意,仅在获取到多个中间倍率图像Dm的情况下才确定获取顺序。
可以使用以下两个方法来设置这些获取条件的值,即:
a)使获取倍率固定或从选项中选择获取倍率、并且使获取位置可设置为给定位置;以及
b)使获取倍率可设置为给定值并且将获取位置设置为与高倍率图像Dh的获取位置相同。
方法a)在可以对所获取到的中间倍率图像Dm的各属性的可能值进行限制方面是有利的;然而,方法a)涉及如下情况:在中间倍率图像Dm的获取位置不同于其它倍率的图像的获取位置的情况下,重新进行像差校正。作为对比,由于获取位置是固定的,因而方法b)不涉及重新进行像差校正来获取中间倍率图像Dm;然而,由于所获取到的中间倍率图像Dm的属性值可能广泛地改变,因而方法b)涉及使用摄像设备控制软件或图像管理软件。
在第一实施例中,SLO摄像设备20实时地进行像差校正。因此,使用方法a)。在这种情况下,基于操作员所选择的高倍率图像Dh的获取倍率(视角和像素大小)、获取位置和聚焦位置的设置,来自动选择是否需要获取中间倍率图像Dm、以及该中间倍率图像Dm的获取位置和聚焦位置。
可以使用方法b)来确定用于获取中间倍率图像Dm的方法。在使用方法b)的情况下,基于操作员所选择的高倍率图像Dh的获取倍率(视角和像素大小)、获取位置和聚焦位置的设置,来自动选择是否需要获取中间倍率图像Dm、以及该中间倍率图像Dm的获取倍率(视角和像素大小)和聚焦位置。
在确定了用于获取中间倍率图像Dm的方法的情况下,可以使用诸如以下信息等的信息:i)针对各获取倍率(像素大小和视角)包含通常在眼部中频繁地观察到的图像特征的列表;ii)表示对准可使用的大图像特征的存在概率的映射;iii)通过从低倍率图像Dl和高倍率图像Dh中提取特征所获得的结果;以及iv)低倍率图像Dl和高倍率图像Dh的图像质量指标值(S/N比或者平均亮度)。
使用信息i)来判断是否需要获取中间倍率图像Dm并且设置获取倍率。
信息ii)是用于将从大多数健康被检者所获得的诸如视盘或血管弓(图6C中成U字型包围高倍率图像Dh的视网膜血管)等的存在于眼部中的标记的位置作为存在概率进行显示的映射。可以使用信息ii)来判断是否需要获取中间倍率图像Dm并且设置获取倍率和获取位置。图8E示出针对右眼的存在概率映射的示例,并且图8F示出针对左眼的存在概率映射的示例。
可以使用信息iii)来判断是否需要获取中间倍率图像Dm并且设置获取倍率和获取位置。
可以以辅助方式连同方法i)或ii)一起使用方法iv)。例如,在图像质量指标值小于阈值Tq的情况下,强制判断为需要获取中间倍率图像Dm,强制选择可选择的所有中间倍率,或者强制将获取位置之间的间隔设置得较小。在第一实施例中,在获取中间倍率图像Dm所使用的条件中,使用信息i)来确定是否需要获取中间倍率图像Dm以及获取倍率,并且使用信息ii)来确定获取位置。注意,在第二实施例和第三实施例中,将说明使用信息iii)的情况。
步骤S710
确定单元131从存储单元120获取低倍率图像Dl和高倍率图像Dh的属性信息。具体地,确定单元131获取诸如视角[μm]、像素大小[μm/像素]、固视位置、聚焦位置、帧频[帧/sec]、帧数[帧]、以及获取日期和时间等的信息。
在第一实施例中,低倍率图像D1具有诸如以下等的属性信息:视角为12800×6400[μm],像素大小为16.0×16.0[μm/像素],固视位置表示中央凹,聚焦位置表示视网膜外层,帧频为16[帧/sec],帧数表示16[帧],并且获取日期和时间表示2011年11月11日11:11:11。高倍率图像Dh具有诸如以下等的属性信息:视角为400×400[μm],像素大小为1.0×1.0[μm/像素],固视位置表示中央凹,聚焦位置表示视网膜外层,帧频为32[帧/sec],帧数表示32[帧],并且获取日期和时间表示2011年11月11日11:12:12。
步骤S720
判断单元1311判断是否需要获取中间倍率图像Dm。在第一实施例中,判断单元1311使用以下列表来进行该判断,其中该列表针对各获取倍率(具体为视角和像素大小)包括通常眼部中频繁地观察到的图像特征。
基于要获取的图像的倍率(视角和像素大小),可以选择四个组合。该列表示出在各倍率的图像中经常观察到的图像特征。特别地,对于倍率最高(倍率编号4)的图像,可观察到的图像特征根据聚焦位置而改变。因而,该列表示出将聚焦位置设置为视网膜内层的情况下所观察到的图像特征和将聚焦位置设置为视网膜外层的情况下所观察到的图像特征这两者。对于倍率编号为1、2和3的各图像,在将聚焦位置设置为内层的情况下和在将聚焦位置设置为外层的情况下,观察到共通的图像特征。
在第一实施例中,对于低倍率图像Dl和高倍率图像Dh这两者,将聚焦位置设置为视网膜外层。因而,使用在将聚焦位置设置为视网膜外层的情况下所观察到的图像特征。
注意,分别可以将视角和像素大小的单位基于扫描器的摆动角表示为[度]和[度/像素]、或者基于健康被检者的眼轴长度(24mm)表示为[μm]和[μm/像素]。
通常,对于健康被检者,光感受细胞的大小约为2~3[μm],毛细血管的大小约为8~10[μm],细的动脉或静脉的大小约为20~100[μm],并且血管弓的大小约为100-200[μm],并且视盘的大小约为1.5[mm]。
通过参考图像特征列表,在低倍率图像Dl和高倍率图像Dh不具有共通的图像特征的情况下,判断单元1311判断为需要获取中间倍率图像Dm。在存在共通的图像特征的情况下,判断单元1311判断为无需获取中间倍率图像Dm。在第一实施例中,不存在共通的图像特征,因而判断单元1311判断为需要获取中间倍率图像Dm。
步骤S730
在步骤S720中判断为需要获取中间倍率图像Dm的情况下,倍率确定单元1312确定要获取中间倍率图像Dm的获取倍率(视角和像素大小)。根据以下方针来设置中间倍率图像Dm的获取倍率。
i)将具有与低倍率图像Dl共通的图像特征的中间倍率图像Dm中的倍率最高的图像的倍率设置为第一中间倍率。将具有与高倍率图像Dh共通的图像特征的中间倍率图像Dm中的倍率最低的图像的倍率设置为第二中间倍率。在第一中间倍率和第二中间倍率相同的情况下,设置该中间倍率,然后步骤S730终止。
ii)在第一中间倍率和第二中间倍率不同的情况下,如果在图像特征列表内找到相应的中间倍率图像中共通地观察到的图像特征,则设置第一中间倍率和第二中间倍率,然后步骤S730终止。
iii)在ii)的处理期间在图像特征列表中没有找到共通的图像特征的情况下,低倍率图像Dl、高倍率图像Dh、第一中间倍率图像和第二中间倍率图像分别被第一中间倍率图像、第二中间倍率图像、第三中间倍率图像和第四中间倍率图像替换,然后再次进行i)和ii)的处理。
重复进行上述的中间倍率选择操作,直到判断为第n中间倍率图像和第(n+1)中间倍率图像包括共通的图像特征为止。在即使使用了可选择的所有中间倍率仍不满足终止条件的情况下,设置直到此时为止所获得的中间倍率,然后该步骤终止。也就是说,与确定单元111的示例相对应的确定单元131至少基于所获取到的图像或所获取到的图像的获取条件来确定是否需要获取中间倍率图像、该中间倍率图像的获取倍率、视角、像素大小、获取位置、聚焦位置和获取顺序至少之一。
在第一实施例中,作为具有与低倍率图像Dl(图像特征列表中的倍率编号1)共通的图像特征(血管弓)的第一中间倍率图像的视角和像素大小,分别选择与倍率编号2相关联的视角和像素大小。具体地,作为第一中间倍率图像的视角和像素大小,分别选择视角1600×1600[μm]和像素大小4.0×4.0[μm/像素]。此外,作为具有与高倍率图像Dh(倍率编号4)共通的图像特征(毛细血管)的第二中间倍率图像的视角和像素大小,分别选择与倍率编号3相关联的视角和像素大小。具体地,作为第二中间倍率图像的视角和像素大小,分别选择视角800×800[μm]和像素大小2.0×2.0[μm/像素]。对于倍率编号2和3存在共通的图像特征,因而将这些倍率设置为中间倍率。然后,该处理进入步骤S740。
步骤S740
位置确定单元1313设置具有步骤S730中所设置的倍率(视角和像素大小)的中间倍率图像Dmj的获取位置和聚焦位置。
在第一实施例中,使用高倍率图像Dh的固视位置、视角和像素大小的数据以及对准可使用的大图像特征的存在概率映射来确定中间倍率图像Dmj的获取位置。存在概率映射是如图8F所示(经由颜色浓度值)表示眼部中的诸如视盘和血管弓等的标记的如下存在概率的映射,其中该存在概括是通过从多个健康被检者获得这些标记的位置所确定的。
在与中间倍率图像Dmj的获取位置有关的设置中,首先将说明用于设置与倍率编号2相关联的中间倍率图像D2j的获取位置的方法。具体地,确定高倍率图像Dh的获取位置在存在概率映射中的值。在存在概率值小于特定值(无色)的情况下,通过在从高倍率图像Dh的获取位置到存在概率高(深色)的区域的范围内要获取的中间倍率图像D2j的数量最小的方向上顺次移动获取位置,来获取该中间倍率图像D2j。此时,使获取位置顺次移动了特定距离,由此相邻的中间倍率图像D2j彼此重叠了特定量。
在第一实施例中,由于在高倍率图像Dh的获取位置(副中央凹)处不存在血管弓,因此通过使固视位置在垂直方向上顺次移动来获取与倍率编号2相关联的中间倍率图像D2j,以使得该中间倍率图像D2j包括血管区域。此时,固视位置顺次移动了特定距离,以使得相邻的中间倍率图像D2j重叠了它们的宽度的1/4。在图8A的垂直方向上排列的多个虚线矩形区域表示中间倍率图像D2j的获取位置。
将与倍率编号3相对应的中间倍率图像D3的获取位置设置为与高倍率图像Dh的获取位置相同。这是因为,与倍率编号2相对应的中间倍率图像D2j的获取位置包括高倍率图像Dh的获取位置。
按以下方式设置聚焦位置。在低倍率图像Dl和高倍率图像Dh的聚焦位置相同的情况下,将中间倍率图像D2j的聚焦位置设置为与该聚焦位置相同。否则,使用表示中间倍率图像Dmj的倍率编号的“i”(在第一实施例中为2),按以下方式设置聚焦位置。
具体地,将与倍率编号2相关联的中间倍率图像D2的聚焦位置设置为从低倍率图像Dl的聚焦位置起向着高倍率图像Dh的聚焦位置分开了“(从低倍率图像Dl的聚焦位置到高倍率图像Dh的聚焦位置的距离)×1/(i+1)”的位置。将与倍率编号3相关联的中间倍率图像D3的聚焦位置设置为从低倍率图像Dl的聚焦位置起向着高倍率图像Dh的聚焦位置分开了“(从低倍率图像Dl的聚焦位置到高倍率图像Dh的聚焦位置的距离)×2/(i+1)”的位置。
注意,聚焦位置设置方法不限于该方法。例如,在低倍率图像Dl和高倍率图像Dh的聚焦位置不同的情况下,可以将与倍率编号2和3相关联的中间倍率图像的聚焦位置设置为位于低倍率图像Dl和高倍率图像Dh的聚焦位置之间的位置;或者设置为与低倍率图像Dl或高倍率图像Dh的聚焦位置相同。
步骤S750
顺序确定单元1314确定步骤S720~S740中所确定的中间倍率图像Dmj的获取顺序。
在第一实施例中,假定按倍率的升序获取中间倍率图像。在获取相同倍率的多个中间倍率图像的情况下,从包括映射上的存在概率高的区域的位置起开始获取,并且从最近的固视位置起顺次进行获取。中间倍率图像的获取顺序不限于该顺序,并且可以使用任何给定的设置方法来进行设置。
接着将参考图9所示的流程图来详细说明步骤S530中所进行的对准处理。注意,步骤S530中进行的处理的说明中所使用的术语“视角编号”具有与步骤S720中所述的倍率编号相同的含义。因此,在第一实施例中,Ainit=1并且Amax=4。
步骤S910
根据图像获取单元110所获取到的各运动图像(低倍率图像Dl、中间倍率图像Dm或高倍率图像Dh)来生成代表图像。具体地,不同倍率的图像中的至少一个是基于眼部的断层图像或眼部的运动图像所生成的图像。
在第一实施例中,将在运动图像的帧的对准期间所设置的基准图像设置为代表图像。可以使用任何给定可用的设置方法来设置基准帧。在第一实施例中,将第一帧设置为基准帧。代表图像生成方法不限于该方法,并且例如可以通过针对各运动图像进行叠加来生成图像并且可以将该图像设置为代表图像。
可以使用任何给定可用的方法来进行帧的对准。在第一实施例中,使用相关系数作为图像相似度评价函数并且使用仿射变换作为坐标转换方法来进行帧的对准。
步骤S920
初始化视角编号。初始值Ainit可以根据与对准的顺序有关的设置而改变。在第一实施例中,从低倍率图像Dl起,按倍率的升序顺次进行对准。也就是说,将分配至低倍率图像Dl的视角编号(1)代入初始值Ainit。然后,该处理进入步骤S930。
步骤S930
在存在具有重叠区域的同一倍率的多个图像的情况下(图8D所示的高倍率图像(实线矩形区域)),对准单元132计算重叠区域内的图像之间的相似度,并且使同一倍率的图像与获得最大相似度的位置对准。
在第一实施例中,在不同位置处获取与倍率编号2相关联的多个中间倍率图像D2j。因而,对与倍率编号2相关联的中间倍率图像D2j进行同一倍率的图像的对准。可以使用任何给定的可用方法来确定图像之间的相似度并且对坐标进行转换。在第一实施例中,使用相关系数作为图像相似度评价函数并且使用仿射变换作为坐标转换方法来进行同一视角的图像的对准。
步骤S940
对准单元132进行视角编号相邻的图像的对准。
具体地,对准单元132进行视角编号为A和A-1的图像的对准。注意,在视角编号是初始值Ainit的情况下,省略该步骤。
从倍率最低的图像起顺次进行对准。因此,从视角编号最小(倍率编号最小)的图像起顺次进行对准。
在存在步骤S930中对准后的同一倍率的多个图像的情况下,通过将同一倍率的多个图像视为一个图像来进行对准。
在存在彼此独立(获取位置分隔开并且不具有任何重叠区域)的同一倍率的多个图像的情况下(图8C所示的高倍率图像(实线矩形区域)),进行与独立图像的数量一样多次数的对准。注意,在针对多个倍率各自存在同一倍率的多个独立图像的情况下,先针对各相邻倍率对、然后针对各固视位置重复进行对准(优先倍率的情况)。可选地,可以先针对特定相邻倍率对、并且针对各固视位置、然后针对其它相邻倍率对来进行对准(优先固视位置的情况)。
注意,使用图像的固视位置作为对准参数的与平移(x和y)有关的初始值,这可能会减小对准参数的变化范围。
例如,在(诸如S/N比等的)图像质量显著低、因而即使对准参数改变时图像之间的相似度也不会超过阈值Tr的情况下,可以通过考虑不存在对准参数的正确解来使图像与固视位置对准。
步骤S950
视角编号增加1。然后,该处理进入步骤S960。
步骤S960
判断视角编号是否超过最大值Amax。在视角编号大于最大值Amax的情况下,该处理进入步骤S540。否则,该处理返回至步骤S930。
接着将参考图10所示的流程图来详细说明步骤S540中所进行的处理。
步骤S1010
显示单元133选择高倍率图像Dh的要显示帧。
在步骤S910中,已生成了适合对准的代表帧。在该代表帧与步骤S1010中所生成/选择的要显示的代表帧相同的情况下,可以省略该步骤的处理。
在步骤S1010中,选择包括观察对象或测量对象的细胞或病变的帧、或者无眨眼或无固视视差的帧。前者通过操作员经由指示获取单元140进行指定来设置。后者通过选择满足以下条件的帧中的开头帧来设置:帧整体的平均亮度高于或等于阈值T1的条件;以及帧之间的对准参数的变化小于阈值T2的条件。注意,用于判断眨眼和固视视差的方法不限于上述方法,并且可以使用任何可用的方法。
步骤S1020
在获取到多个高倍率图像Dhk的情况下,显示单元133校正高倍率图像Dhk之间的颜色浓度差。可以使用任何可用的亮度校正方法。在第一实施例中,通过针对高倍率图像Dhk生成直方图Hk、并且对高倍率图像Dhk的亮度值进行线性变换来校正颜色浓度差,以使得直方图Hk的平均值和方差在这些高倍率图像Dhk之间是共通的。
步骤S1030
在将高倍率图像Dh作为运动图像显示在低倍率图像Dl上的情况下,显示单元133设置高倍率图像Dh的重放速度。在图像显示区域内设置有重放速度调整跳动条或快进按钮。作为操作员经由指示获取单元140进行指定的结果来调整重放速度。
注意,在将多个高倍率图像Dhk显示在低倍率图像Dl上的情况下,在摄像时获取基于诸如脉冲波等的生物信号的周期数据。使用该周期数据来使高倍率图像Dhk的重放定时彼此同步。
步骤S1040
显示单元133进行各高倍率图像Dh的显示或非显示的设置以及各高倍率图像Dh的显示倍率的设置。
按以下方式进行图像的显示或非显示的设置。将所获取图像的列表显示在显示器305上,并且在列出的所获取图像的各名称附近配置用户界面(以下缩写为UI,在第一实施例中为复选框),从而使得操作员能够经由指示获取单元140利用UI(复选框)指定ON(打开)或OFF(关闭)。还配置有用于整体指定所有图像的UI(复选框)和用于整体指定各类型的图像的UI(复选框),从而使得更加容易在许多图像的显示和非显示之间进行切换。
除了图像的显示或非显示以外,在步骤S1040中,在高倍率图像Dhk由于它们的获取位置接近而具有重叠区域、或者针对同一固视位置拍摄多个图像的情况下,设置叠加顺序(显示层的顺序)。可以使用包括手动设置的任何给定设置来设置运动图像的叠加顺序。在第一实施例中,针对各图像来计算图像质量指标和固视视差量。使用图像质量指标和固视视差量的线性总和作为评价函数。设置评价值最高的图像并且将该图像显示为最前层。可以使用任何给定的可用指标作为图像质量指标。在第一实施例中,使用图像直方图的平均亮度。作为固视视差量,使用通过对所有帧中的相邻帧之间的平移距离的绝对值求和所获得的值。注意,可以使用许可固视视差的评价的任何给定指标。
作为操作员经由指示获取单元140指定倍率的结果,设置了显示倍率。
步骤S1050
显示单元133将与低倍率图像Dl相关联的眼部断层图像的扫描位置信息(扫描线或扫描范围)叠加在高倍率图像Dh上。在第一实施例中,如图6H所示,将通过进行十字型扫描所获得的B扫描图像的扫描位置和通过扫描矩形区域所获得的三维断层图像的扫描范围叠加在低倍率图像Dl上。因而,将B扫描图像的扫描位置叠加在高倍率图像Dh上。
例如,通过将眼部断层图像的扫描位置附近的高倍率图像Dh上的细胞分布与该扫描位置处所获得的断层图像一起显示,操作员可以比较并观察微观细胞分布和断层图像中所包括的宏观层形状之间的对应关系。
注意,显示单元133允许操作员经由指示获取单元140来调整高倍率图像Dh或低倍率图像Dl的透明度,从而使得更加容易观察扫描位置和高倍率图像Dh之间的对应关系。也就是说,指示获取单元140与如下控制单元的示例相对应,其中该控制单元被配置为在低倍率图像上所显示的图像之间存在重叠的情况下,对图像叠加的顺序、是否显示图像、以及图像透明度中的至少一个进行控制。
在第一实施例中,使用眼部断层图像的扫描位置作为叠加在高倍率图像Dh上的信息;然而,所叠加的信息不限于该信息。例如,如图6F所示,可以将视网膜感光度值的映射叠加在高倍率图像Dh上。可选地,如图6E所示,可以将眼底形状测量值的映射叠加在高倍率图像Dh上。可选地,如图6G所示,可以将利用治疗用激光束所照射的位置的映射叠加在高倍率图像Dh上。在这种情况下,可以将高倍率图像Dh显示为运动图像,从而使得能够观察利用激光束所照射的部位与血球的移动或血管形状变化之间的关系。此外,可以将上述各映射中的多个信息组合地叠加在高倍率图像Dh上。也就是说,在第一实施例中,将断层图像的扫描位置、利用激光束所照射的位置、眼底形状分布和视网膜感光度分布中的至少一个叠加在高倍率图像Dh上。
注意,在第一实施例中,使用单个广角SLO图像作为低倍率图像Dl;然而,本发明不限于该结构。例如,可以使用通过对不同位置处获取到的低倍率图像Dli进行对准所获得的合成图像作为低倍率图像Dl,然后使高倍率图像Dh与该低倍率图像Dl对准。在这种情况下,由于将眼部断层图像的扫描位置信息叠加在低倍率图像Dl上,因此可以将眼部断层图像的扫描位置信息叠加在高倍率图像Dh上。
利用上述结构,眼科设备10获取自适应光学SLO图像和叠加有眼部断层图像的扫描位置的眼部的SLO图像。眼科设备10基于高倍率图像Dh和低倍率图像Dl之间的获取倍率的差以及高倍率图像Dh的获取位置,来判断是否需要获取中间倍率图像Dm,并且判断要获取中间倍率图像Dm的获取倍率和获取位置。眼科设备10根据需要获取中间倍率图像Dm。然后,眼科设备10基于倍率接近的图像之间共通的图像特征来从倍率最低的图像起顺次对这些图像进行对准。这样,眼科设备10确定高倍率图像Dh在低倍率图像Dl上的相对位置。
通过该处理,可以使视角或像素大小极大不同的眼部的图像精确地对准。
第二实施例
在第二实施例中,将说明以下情况。获取自适应光学SLO图像作为高倍率图像Dh,并且获取广角断层图像作为低倍率图像Dl。基于通过从高倍率图像Dh和低倍率图像Dl提取特征所获得的结果,来判断是否需要获取中间倍率图像Dm以及要获取中间倍率图像Dm的获取倍率和获取位置。根据需要来获取中间倍率图像Dm。然后,基于倍率接近的图像之间共通的图像特征,从倍率最低的图像起顺次进行这些图像的对准。这样,确定了高倍率图像Dh在低倍率图像Dl上的相对位置。
通过该处理,可以使视角或像素大小极大不同的眼部的断层图像精确地对准。
在第二实施例中,将说明使广角断层图像的扫描位置叠加在高倍率图像Dh上、并且响应于操作员所进行的扫描位置的移动来改变广角断层图像的显示切片的情况,作为对视角和像素大小极大不同的眼部的对准图像进行显示的示例。
图2B示出与连接至根据第二实施例的眼科设备10的设备有关的结构。在第二实施例中,除了SLO图像摄像设备20和数据服务器40以外,眼科设备10也连接至断层图像摄像设备50,这不同于第一实施例。断层图像摄像设备50是用于拍摄眼部的断层图像的设备,并且例如是时域或傅立叶域的光学相干断层成像仪(OCT)。断层图像摄像设备50响应于操作员(未示出)所进行的操作来三维地拍摄被检眼(未示出)的断层图像。将所拍摄的断层图像发送至眼科设备10。
数据服务器40内保持以下内容:被检眼的低倍率图像Dl、中间倍率图像Dm和高倍率图像Dh;获取这些图像期间所使用的诸如固视位置Fl、Fm和Fh等的获取条件数据;眼部的图像特征;以及与眼部的图像特征的分布有关的正常值。在第二实施例中,将视盘、视网膜血管、光感受细胞P、毛细血管Q和血球W作为图像特征进行应对;然而,图像特征不限于这些,并且例如还可以应对与神经节细胞的轴突或筛状板孔有关的图像特征。将眼科设备10所输出的眼部的图像特征存储在数据服务器40中。此外,响应于从眼科设备10所接收到的请求,数据服务器40将眼部的图像特征和与图像特征的分布有关的正常值数据发送至眼科设备10。
图11示出根据第二实施例的眼科设备10的功能块。在图像处理单元130内包括图像特征获取单元134,这不同于第一实施例。
第二实施例中所进行的图像处理的流程如图12所示。除了步骤S1220、S1230、S1240和S1250以外,步骤与第一实施例的步骤相同。因此,在第二实施例中,将仅说明步骤S1220、S1230、S1240和S1250。
步骤S1220
图像特征获取单元134从低倍率图像D1检测视盘和血管弓,并且从高倍率图像Dh检测光感受细胞P和毛细血管。也就是说,图像特征获取单元134从不同倍率的图像获取图像特征。
首先,在以下过程中进行检测视盘的处理。
i)预先准备通过利用SLO设备获取健康被检者的视盘所获得的视盘模板图像。通过基于这些模板图像进行模板匹配来检测视盘的粗略位置。
ii)将可变形模型应用于步骤i)中所获得的位置。将变形完成的可变形模型的位置设置为视盘区域的边界。
注意,视盘检测处理中所使用的方法不限于上述方法,并且可以使用任何给定的可用方法。
接着,通过以下过程来进行检测血管弓的处理。视网膜血管具有线状构造。因而,使用增强线状构造的滤波器来提取视网膜血管。具体地,通过使用大小σ与血管弓的半径相等的高斯函数来对低倍率图像Dl进行平滑化。然后,向低倍率图像Dl应用基于海赛(Hessian)矩阵的线增强滤波器。然后,基于阈值Ta对低倍率图像Dl进行二值化。这样,提取出血管弓。注意,用于检测血管的方法不限于该方法,并且可以使用任何给定的可用方法。
通过包括1)高频噪声降低处理和2)图像二值化的过程来进行检测光感受细胞的处理。
在步骤1)中,例如,使用快速傅立叶变换(FFT)来对高倍率图像Dh进行频率转换。然后,向高倍率图像Dh应用低通滤波器从而减小高频成分信号值。然后,对由此得到的高倍率图像Dh进行逆傅立叶变换,从而使高倍率图像Dh的域恢复为空间域。这样,生成高频成分减少的高倍率图像Dh。
在步骤2)中,基于阈值Tb来对步骤1)中生成的噪声降低后的高倍率图像Dh进行二值化,从而检测光感受细胞P。
通过以下过程来从高倍率图像Dh中将毛细血管识别为血球成分移动的区域。
a)对帧已对准的高倍率图像Dh的邻接帧进行差分处理(生成差分运动图像)。
b)在步骤a)中所生成的差分运动图像的各x-y位置处计算帧之间的亮度统计值(方差)。
c)将差分运动图像的各x-y位置处的亮度方差大于或等于阈值Tv的区域识别为血球移动的区域、即毛细血管区域。
注意,毛细血管检测处理中所使用的方法不限于该方法,并且可以使用任何给定的可用方法。例如,可以向高倍率图像Dh的特定帧应用用于增强线状构造的滤波器,从而检测血管。
步骤S1230
确定单元131判断是否需要获取具有低倍率图像Dl的分辨率和高倍率图像Dh的分辨率之间的中间分辨率的中间倍率图像Dm。在确定单元131判断为需要获取中间倍率图像Dm的情况下,确定单元131确定要获取中间倍率图像Dm的获取倍率、获取位置和获取顺序。此外,确定单元131请求图像获取单元110获取中间倍率图像Dm。响应于该请求,图像获取单元110获取中间倍率图像Dm。
后面将参考图13所示的流程图来详细说明步骤S1230中所进行的处理。
步骤S1240
对准单元132进行低倍率图像Dl和高倍率图像Dh的对准。在步骤S1230中已获取到中间倍率图像Dm的情况下,使用中间倍率图像Dm来确定高倍率图像Dh在低倍率图像Dl上的位置。这里,与对准单元的示例相对应的对准单元132基于图像、图像的获取条件和图像的特征中的至少一个来确定对图像进行对准的顺序。
以与第一实施例相同的方式进行步骤S1240的处理。然而,在步骤S1220中已对低倍率图像Dl和高倍率图像Dh进行了特征提取、并且还对中间倍率图像Dm进行了特征提取的情况下,可以使用由此得到的特征值作为对准评价函数。基于特征的对准与基于像素值的对准相比可以实现更加快速的对准。
步骤S1250
如图6H所示,显示单元133基于步骤S1240中所获得的对准参数值来将高倍率图像Dh叠加在低倍率图像Dl上。在第二实施例中,低倍率图像Dl是三维断层图像。因而,沿着低倍率图像Dl的z轴方向生成投影图像(平均值投影图像),并且将高倍率图像Dh叠加在该投影图像上。在第二实施例中,将低倍率图像Dl上的特定扫描位置作为十字形箭头显示在投影图像上。使通过在各箭头的位置处切割所得到的断层图像与(高倍率图像Dh和投影图像的)叠加图像一起显示。
由于将眼部断层图像的扫描位置信息叠加在投影图像上,因此将眼部断层图像的扫描位置信息叠加在高倍率图像Dh上。此外,由于操作员能够经由指示获取单元140来(垂直地或水平地)移动表示所显示断层图像的位置的箭头,因此切割后(所显示)的断层图像响应于该操作而改变。
注意,用于生成投影图像的方法不限于平均值投影,并且可以使用任何给定的投影方法。例如,可以使用最大强度投影(MIP)。可选地,图像特征获取单元134可以获得层边界。可以通过在层之间的特定边界处限制地进行投影来生成特定组织或病变的投影图像。
此外,高倍率图像Dh不限于静止图像并且可以是运动图像。
此外,在第二实施例中,使用眼部断层图像的扫描位置作为叠加在高倍率图像Dh上的信息;然而,所叠加的信息不限于该信息。例如,如图6F所示,可以将视网膜感光度值的映射叠加在高倍率图像Dh上。可选地,如图6E所示,可以将眼底形状测量值的映射叠加在高倍率图像Dh上。可选地,如图6G所示,可以将利用治疗用激光束所照射的位置的映射叠加在高倍率图像Dh上。在这种情况下,可以将高倍率图像Dh显示为运动图像,从而使得能够观察利用激光束所照射的位置与血球的移动或血管形状变化之间的关系。此外,可以将上述映射中的多个信息组合地叠加在高倍率图像Dh上。
接着将参考图13所示的流程图来详细说明步骤S1230中所进行的处理。
步骤S1310
确定单元131从存储单元120获取图像特征获取单元134已获取到的眼部的图像特征和属性信息。
具体地,确定单元131获取视盘和血管弓区域作为低倍率图像Dl的图像特征,并且获取光感受细胞P和毛细血管区域作为高倍率图像Dh的图像特征。
确定单元131获取视角[μm]、像素大小[μm/像素]、固视位置、聚焦位置、帧频[帧/sec]、帧数[帧]、以及获取日期和时间,作为低倍率图像Dl和高倍率图像Dh的属性信息。注意,具体的属性信息与第一实施例相同,由此省略了针对属性信息的说明。
步骤S1320
判断单元1311判断是否需要获取中间倍率图像Dm。在第二实施例中,在不存在与步骤S1310中已获取到的低倍率图像Dl和高倍率图像Dh的图像特征共通的共通图像特征的情况下,判断单元1311判断为需要获取中间倍率图像Dm。在存在共通图像特征的情况下,判断单元1311判断为无需获取中间倍率图像Dm。
在第二实施例中,不存在共通图像特征,因而判断单元1311判断为需要获取中间倍率图像Dm。
为了加速步骤S1320的处理,与第一实施例相同,可以使用按所获取图像的各倍率频繁地观察到的图像特征的列表来判断是否需要获取中间倍率图像Dm。
步骤S1330
在步骤S1320中判断为需要获取中间倍率图像Dm的情况下,倍率确定单元1312设置中间倍率图像Dm的倍率(视角和像素大小)。
除了以下两点以外,可以以与第一实施例的步骤S730的方式相同的方式来基本设置中间倍率图像Dm的倍率。
在步骤S730的处理i)中,对包括图像特征列表内的与低倍率图像Dl共通的共通图像特征的中间倍率图像Dm中的倍率最高的图像进行特征提取。在提取该列表内所写入的图像特征的情况下,将最高倍率设置为第一中间倍率。在没有提取图像特征的情况下,选择倍率较低的中间倍率图像并且进行相同的判断处理(直到提取出图像特征为止)。这样,设置了第一中间倍率。在即使使用(包括列表内的与低倍率图像Dl共通的共通图像特征的)可选择的所有中间倍率图像Dm时也没有提取图像特征的情况下,将与低倍率图像Dl的倍率最接近的中间倍率图像Dm的倍率设置为第一中间倍率。
对包括与高倍率图像Dh共通的共通图像特征的中间倍率图像Dm中的倍率最低的图像同样地进行特征提取。在提取图像特征列表内所写入的图像特征的情况下,将最低倍率设置为第二中间倍率。在没有提取图像特征的情况下,选择倍率较高的中间倍率图像并且进行相同的判断处理(直到提取出图像特征为止)。这样,设置了第二中间倍率。在即使使用(包括图像特征列表内的与高倍率图像Dh共通的共通图像特征的)可选择的所有中间倍率图像Dm时也没有提取图像特征的情况下,将与高倍率图像Dh的倍率最接近的中间倍率图像Dm的倍率设置为第二中间倍率。
然后,在步骤S730的处理ii)中,代替检查这两个中间倍率图像共通的图像特征是否在图像特征列表上,而是对这两个中间倍率图像进行特征提取。在存在共通图像特征的情况下,将中间倍率图像的倍率设置为中间倍率。
在第二实施例中,分别选择与倍率编号2相关联的视角和像素大小作为包括与低倍率图像Dl(图像特征列表中的倍率编号1)共通的共通图像特征(血管弓)的第一中间倍率图像的视角和像素大小。具体地,作为第一中间倍率图像的视角和像素大小,分别选择视角1600×1600[μm]和像素大小4.0×4.0[μm/像素]。然后,与步骤S1220相同,使用线状构造增强滤波器来提取血管弓或细的动脉和静脉。此外,分别选择与倍率编号3相关联的视角和像素大小,作为包括与高倍率图像Dh(倍率编号4)共通的共通图像特征(毛细血管)的第二中间倍率图像的视角和像素大小。具体地,作为第二中间倍率图像的视角和像素大小,分别选择视角800×800[μm]和像素大小2.0×2.0[μm/像素]。然后,与步骤S1220相同,使用线状构造增强滤波器来提取毛细血管或细的动脉和静脉。对于倍率编号2和3存在共通的图像特征,由此将这些倍率设置为中间倍率。然后,该处理进入步骤S1340。
如上所述,与确定单元的示例相对应的确定单元131基于图像特征来确定用于获取中间倍率图像的方法。
注意,特征提取处理不是该步骤的必要条件,并且可以使用与第一实施例所使用的方法相同的方法来设置中间倍率图像Dm的倍率(视角和像素大小),从而以较高的速度进行步骤S1330的处理。
步骤S1340
位置确定单元1313设置具有步骤S1330中所设置的倍率(视角和像素大小)的中间倍率图像Dmj的获取位置和聚焦位置。
为了确定中间倍率图像Dmj的获取位置,在第二实施例中,使用步骤S1310中已获取到的高倍率图像Dh的固视位置、视角和像素大小的数据以及低倍率图像Dl的图像特征。
在与中间倍率图像Dmj的获取位置有关的设置中,将说明用于设置与倍率编号2相关联的中间倍率图像D2j的获取位置的方法。具体地,判断低倍率图像Dl是否包括高倍率图像Dh的获取位置处的图像特征。在不存在图像特征的情况下,通过在从高倍率图像Dh的获取位置到包括图像特征的区域的范围内要获取的中间倍率图像D2j的数量最小的方向上顺次移动获取位置,来获取中间倍率图像D2j。此时,使获取位置顺次移动了特定距离,由此相邻的中间倍率图像D2j彼此重叠了特定量。
在第二实施例中,由于在高倍率图像Dh的获取位置(副中央凹)处不存在血管弓,因此通过使固视位置在垂直方向上顺次移动来获取与倍率编号2相关联的中间倍率图像D2j,以使得该中间倍率图像D2j包括血管区域。此时,固视位置顺次移动了特定距离,以使得相邻的中间倍率图像D2j重叠了它们的宽度的1/4。图8A的垂直方向上排列的多个虚线矩形区域表示中间倍率图像D2j。
与第一实施例相同,将与倍率编号3相关联的中间倍率图像D3的获取位置设置为与高倍率图像Dh的获取位置相同。
此外,将聚焦位置设置为与高倍率图像Dh的聚焦位置相同。注意,用于设置聚焦位置的方法不限于该方法,并且可以使用任何给定的方法。
步骤S1350
顺序确定单元1314确定步骤S1320~S1340中所确定的中间倍率图像Dmj的获取顺序。
在第二实施例中,假定按倍率的升序来获取中间倍率图像。在获取同一倍率的多个中间倍率图像的情况下,从包括大图像特征的位置起开始获取并且从最近的固视位置起顺次进行获取。中间倍率图像的获取顺序不限于该获取顺序,并且可以使用任何给定的设置方法来设置该获取顺序。
在第二实施例中,与第一实施例相同,基于“a)使获取倍率固定或从选项中选择获取倍率、并且使获取位置可设置为给定位置”(图8A)的方针来确定中间倍率图像的获取方法;然而,确定时所使用的方针不限于该方针。例如,可以基于第一实施例所述的“b)使获取倍率可设置为给定值并且将该获取位置设置为与高倍率图像Dh的获取位置相同”的方针来进行确定。在使用方法b)的情况下,基于与操作员所选择的高倍率图像Dh的获取倍率(视角和像素大小)、获取位置和聚焦位置有关的设置,来自动选择是否需要获取中间倍率图像Dm以及中间倍率图像Dm的获取倍率和聚焦位置。
利用上述结构,眼科设备10获取自适应光学SLO图像和广角断层图像。眼科设备10基于通过从高倍率图像Dh和低倍率图像Dl提取特征所获得的结果,来判断是否需要获取中间倍率图像Dm、要获取中间倍率图像的获取倍率和获取位置。
通过该处理,可以使视角或像素大小极大不同的眼部的图像精确地对准。
第三实施例
在第三实施例中,将说明以下情况。获取自适应光学断层图像作为高倍率图像Dh,并且获取广角断层图像作为低倍率图像Dl。基于通过从高倍率图像Dh和低倍率图像Dl提取特征所获得的结果,来判断是否需要获取中间倍率图像Dm、以及要获取中间倍率图像Dm的获取倍率和获取位置。根据需要获取中间倍率图像Dm。然后,基于与倍率接近的图像共通的图像特征,从倍率最低的图像起顺次进行这些图像的对准。这样,确定了高倍率图像Dh在低倍率图像Dl上的相对位置。
通过该处理,可以使视角或像素大小极大不同的眼部的断层图像精确地对准。
在第三实施例中,将说明使广角断层图像的扫描位置叠加在高倍率图像Dh上的情况,作为对视角和像素大小极大不同的眼部的对准图像进行显示的示例。
图2C示出与连接至根据第三实施例的眼科设备10的设备有关的结构。在第三实施例中,眼科设备10连接至包括自适应光学系统的断层图像摄像设备50,这不同于第一实施例。根据第三实施例的眼科设备10的功能框图与第二实施例的功能框图相同,由此将省略针对该功能框图的说明。
与第二实施例相同,假定数据服务器40内保持眼部的图像特征和与眼部的图像特征的分布有关的的正常值数据。
接着参考图14,将说明包括自适应光学系统的断层图像摄像设备50的结构。参考图14,断层图像摄像设备50包括光源201。在第三实施例中,使用波长为840nm的SLD光源。光源201可以是低相干型,并且优选可以使用波长为30nm以上的SLD光源。可选地,可以使用诸如钛蓝宝石激光器等的超短脉冲激光器作为光源201。从光源201照射的光经由单模光纤202传播以引导至光纤耦合器520。光因光纤耦合器520而分支到测量光路521和参考光路522。使用分支比为10:90的光纤耦合器以使入射光的10%进入测量光路521。穿过测量光路521的光由准直器203照射作为平行光线的测量光205。准直器203下游的结构与第一实施例相同。具体地,使光经由自适应光学系统和扫描光学系统209照射至眼部211,并且眼部211所反射或散射的光再次穿过相同的路径,被光纤521引导,并且到达光纤耦合器520。另一方面,穿过参考光路522的参考光被准直器523发射,被光路长度改变单元524反射,并且返回至光纤耦合器520。到达光纤耦合器520的测量光和参考光相组合,并且该合成光经由光纤525引导至分光器526。基于分光器526进行分光所获得的相干光的信息,控制单元217构建眼部211的断层图像。控制单元217能够通过控制光路长度改变单元524来获取期望深度的图像。
通过在图14所示的结构中增大扫描光学系统209的摆动角并且指示自适应光学控制单元216不进行像差校正,断层图像摄像设备50可以作为普通的断层图像摄像设备进行工作并且拍摄广角断层图像(低倍率图像Dl)。
此外,在第三实施例中,包括自适应光学系统的断层图像摄像设备50被配置成谱域光学相干断层成像仪(SD-OCT);然而,断层图像摄像设备50不需要一定是SD-OCT,并且可以被配置为扫频源光学相干断层成像仪(SS-OCT)。在SS-OCT的情况下,使用不同时刻生成不同波长的光的光源,并且不再需要用于获得光谱信息的分光器526。此外,SS-OCT可以获取不仅包括视网膜而且还包括脉络膜的高渗透图像。
除了步骤S1220、S1230、S1240和S1250以外,根据第三实施例的眼科设备10所进行的图像处理的流程与第二实施例相同。因而,在第三实施例中,将仅说明步骤S1220、S1230、S1240和S1250的处理。
步骤S1220
图像特征获取单元134从存储在存储单元120内的低倍率图像D1(即,三维眼部断层图像)中,提取內界膜、视神经纤维层边界、神经节细胞层边界、内丛状层边界、外丛状层边界、光感受细胞内节-外节边界、视网膜色素上皮边界、视盘、中央凹和视网膜血管,作为图像特征。注意,将视网膜血管区域识别为投影在x-y平面上的区域。然后,如图6A所示,图像特征获取单元134从所提取的图像特征中获取內界膜B1、内从状层边界B4、光感受细胞内节-外节边界B5、视网膜色素上皮边界B6和中央凹F1。图像特征获取单元134还将所获取到的图像特征存储在存储单元120中。
现在将具体说明从低倍率图像Dl提取特征的过程。
首先,将说明提取层之间的边界的过程。注意,这里假定要处理的三维断层图像是二维断层图像(B扫描图像)的集合。对各二维断层图像进行以下处理。首先,对关注二维断层图像进行平滑化处理,从而减少噪声成分。然后,在二维断层图像中检测边缘成分。基于线段的连接性来提取出一些线段作为层边界候选。在所提取的候选中,提取最上面的线段作为內界膜B1,提取从最上面起的第二个线段作为视神经纤维层边界B2,并且提取从最上面起的第三个线段作为内从状层边界B4。此外,提取位于內界膜B1的外侧(图6A的z坐标较大的一侧)的对比度最高的线段作为光感受细胞内节-外节边界B5。此外,提取层边界候选中的最下层的线段作为视网膜色素上皮边界B6。可以通过使用这些线段作为初始值来应用诸如思内克斯(Snakes)或水平集(level-set)方法等的可变形模型,从而进行更加精确的提取。可选地,可以使用图形切割法来提取层边界。注意,可以对三维断层图像三维地进行基于可变形模型或基于图形切割的边界提取,或者对各二维断层图像二维地进行基于可变形模型或基于图形切割的边界提取。可选地,可以使用能够从眼部断层图像中提取层之间的边界的任何给定方法。
在从眼部断层图像提取层之间的边界之后,从所提取的內界膜B1的形状中进一步检测两个最深的凹陷部。这样,提取出视盘和中央凹。这里,提取出较浅的凹陷部作为中央凹,并且提取出较深的凹陷部作为视盘。
此外,向通过在深度方向(z轴方向)上投影低倍率图像D1(眼部断层图像)所获得的图像应用增强线状构造的滤波器,从而识别x-y平面上的血管区域。
然后,从高倍率图像Dh(即,三维自适应光学断层图像)中提取毛细血管和光感受细胞作为图像特征。
通过对与自适应光学断层图像的z轴方向有关的平均值投影图像应用增强线状构造的滤波器,来提取毛细血管区域。注意,在血管提取处理中可以使用任何给定的可用方法,例如,可以提取值小于阈值T3的区域。
以与第二实施例的步骤S1220的过程相同的过程,从通过沿着光感受细胞内节-外节边界(IS/OS)或位于光感受细胞内节-外节边界(IS/OS)的略外层侧(z轴的正方向)上的线来切割自适应光学断层图像所获得的弯曲断层图像中,提取光感受细胞。
步骤S1230
确定单元131判断是否需要获取具有低倍率图像D1的分辨率和高倍率图像Dh的分辨率之间的中间分辨率的中间倍率图像Dmj。在确定单元131判断为需要获取中间倍率图像Dmj的情况下,确定单元131确定要获取中间倍率图像Dmj的获取倍率、获取位置和获取顺序。此外,确定单元131请求图像获取单元110获取中间倍率图像Dm。响应于该请求,图像获取单元110获取中间倍率图像Dm。
作为用于获取中间倍率图像Dm的方法,可以存在以下两个方法:1)图像获取单元110请求断层图像摄像设备50获取中间倍率图像Dm,并且断层图像摄像设备50将所获取到的中间倍率图像Dm传送至存储单元120;以及2)图像获取单元110请求数据服务器40传送存储在数据服务器40中的中间倍率图像Dm,并且数据服务器40传送中间倍率图像Dm。在第三实施例中,将说明使用方法1)的情况。
注意,本发明不限于使用方法1)的情况,并且可以使用方法2)来执行。
后面将参考图13所示的流程图来详细说明步骤S1230中所进行的处理。
步骤S1240
对准单元132进行低倍率图像Dl和高倍率图像Dh的对准。在步骤S1230中获取到中间倍率图像Dmj的情况下,使用中间倍率图像Dmj来确定高倍率图像Dh在低倍率图像Dl上的位置。
除了以下不同之处以外,步骤S1240的处理与第二实施例的处理基本相同。低倍率图像Dl和高倍率图像Dh这两者都是三维图像,因而不需要代表图像生成步骤;并且使用三维相关系数作为相似度评价函数并且使用三维仿射变换作为坐标转换方法。注意,相似度评价函数和坐标转换方法不限于这些函数和方法,并且可以使用任何给定的可用方法。
此外,在步骤S1220中对低倍率图像Dl和高倍率图像Dh进行了特征提取并且还对中间倍率图像Dm进行了特征提取的情况下,可以使用由此得到的特征值作为对准评价函数。与基于像素值的对准相比,基于特征的对准可以实现更加快速的对准。
步骤S1250
显示单元133基于步骤S1240中所获得的对准参数值,如图6H所示将高倍率图像Dh叠加在低倍率图像Dl上。在第三实施例中,低倍率图像Dl和高倍率图像Dh这两者都是三维断层图像。因而,可以相对于z轴方向生成低倍率图像Dl和高倍率图像Dh的投影图像(平均值投影图像)。然后,将高倍率图像Dh的投影图像叠加在低倍率图像Dl的投影图像上。
在第三实施例中,将低倍率图像Dl上的特定扫描位置作为十字形箭头显示在其投影图像上。如图6H所示,使通过在该箭头所表示的位置处切割所得到的断层图像与叠加图像一起显示。图8H示出通过在水平(x轴)方向上的箭头所示的位置处进行切割所得到的广角断层图像的示例。参考图8H,不仅叠加低倍率图像Dl的断层图像,而且还叠加高倍率图像Dh和y轴方向上的扫描线的位置。注意,为了便于说明,图8H示出广角断层图像中所包括的中央凹附近的区域。
在第三实施例中,如图6H所示,将眼部断层图像的扫描位置信息叠加在高倍率图像Dh上。此外,由于允许操作员经由指示获取单元140(垂直地或水平地)移动表示图6H所示的断层图像的显示位置的箭头,因此低倍率图像Dl和高倍率图像Dh的切割(显示)切片响应于该操作而改变。
在如图8D所示、在不同的固视位置处获取多个高倍率图像Dh的情况下,使用与第一实施例所使用的方法相同的方法来进行调整,从而使高倍率图像Dhk具有相似的亮度特性。具体地,调整高倍率图像Dhk的亮度,以使得高倍率图像Dhk具有相似的亮度特性,并且将由此所得的高倍率图像Dhk显示在低倍率图像Dl上。此外,在高倍率图像Dhk是在接近位置处拍摄到的并由此具有重叠(包括拍摄位置相同的情况)的情况下,使用以下方法其中之一来显示这些重叠区域。具体地,计算各图像的图像质量指标并且显示评价值最高的图像。可选地,显示高倍率图像Dhk作为半透明图像并且混合其亮度。可以使用任何给定的可用图像质量指标值。在第三实施例中,使用图像直方图的平均亮度。
注意,用于生成投影图像的方法不限于平均值投影,并且可以使用任何给定的投影方法。例如,可以使用最大强度投影(MIP)。可选地,图像特征获取单元134可以获得层边界。可以通过在特定层边界处限制地进行投影来生成特定组织或病变的投影图像。
此外,高倍率图像Dh不限于静止图像并且可以是运动图像。
在第三实施例中,使用眼部断层图像的扫描位置作为高倍率图像Dh上所叠加的信息;然而,所叠加的信息不限于该信息。例如,如图6F所示,可以将视网膜感光度值的映射叠加在高倍率图像Dh上。可选地,如图6E所示,可以将眼底形状测量值的映射叠加在高倍率图像Dh上。可选地,如图6G所示,可以将利用治疗用激光束所照射的位置的映射叠加在高倍率图像Dh上。在这种情况下,可以整体观察到利用激光束所照射的位置和包括血管病变的血管的分布。此外,可以将上述映射中的多个信息组合地叠加在高倍率图像Dh上。
接着参考图13所示的流程图来说明步骤S1230中所进行的处理。注意,步骤S1350与第二实施例相同,因而将省略针对该步骤的说明。
步骤S1310
确定单元131从存储单元120获取步骤S1220中图像特征获取单元134已获取到的眼部的图像特征、以及属性信息。
具体地,确定单元131获取视盘和血管弓区域作为低倍率图像Dl的图像特征,并且获取光感受细胞P和毛细血管区域作为高倍率图像Dh的图像特征。
确定单元131获取视角[μm]、像素大小[μm/像素]、固视位置、相干门位置、帧频[帧/sec]、帧数[帧]、以及获取日期和时间作为低倍率图像Dl和高倍率图像Dh的属性信息。
在第三实施例中,低倍率图像Dl具有诸如以下等的属性信息:视角为12800×6400×1600[μm],像素大小为20.0×20.0×5.0[μm/像素],固视位置表示中央凹,相干门位置表示视网膜内层,并且获取日期和时间表示2011年11月11日11:11:11。高倍率图像Dh具有诸如以下等的属性信息:视角为400×400×400[μm],像素大小为1.0×1.0×1.0[μm/像素],固视位置表示副中央凹,相干门位置表示视网膜内层,并且获取日期和时间表示2011年11月11日11:12:12。
步骤S1320
判断单元1311判断是否需要获取中间倍率图像Dm。在第三实施例中,在不存在与步骤S1310中已获取到的低倍率图像Dl和高倍率图像Dh的图像特征共通的共通图像特征的情况下,判断单元1311判断为需要获取中间倍率图像Dm。在存在共通图像特征的情况下,判断单元1311判断为不需要获取中间倍率图像Dm。
在第三实施例中,不存在共通图像特征,因而判断单元1311判断为需要获取中间倍率图像Dm。
为了加速步骤S1320的处理,可以使用按照所获取图像的各倍率频繁地观察到的图像特征的(以下示出的)列表,来判断是否需要获取中间倍率图像Dm。
在使用SD-OCT作为断层图像摄像设备50的情况下使用以上列出的图像特征。在使用SS-OCT的情况下,不仅视网膜而且脉络膜也包括在获取范围内。因而,在设置了用于获取中间倍率图像Dm的条件的情况下,使用以下的图像特征列表。在以下的图像特征列表中,针对深度方向上的相应获取位置写入图像特征。在倍率编号1的情况下,获取范围包括视网膜和脉络膜这两者,因而图像特征是共通的。
步骤S1330
在步骤S1320中判断为需要获取中间倍率图像Dm的情况下,倍率确定单元1312设置中间倍率图像Dm的倍率(视角和像素大小)。
除了附加设置z轴方向上的视角和像素大小以外,以与第二实施例的步骤S1330相同的方式来基本设置中间倍率图像Dm的倍率。
在第三实施例中,分别选择与倍率编号2相关联的视角和像素大小,来作为包括与低倍率图像D1(图像特征列表中的倍率编号1)共通的共通图像特征(血管弓)的第一中间倍率图像的视角和像素大小。具体地,作为第一中间倍率图像的视角和像素大小,分别选择视角1600×1600×1600[μm]和像素大小4.0×4.0×4.0[μm/像素]。然后,与步骤S1220相同,向通过在z轴方向上投影所获得的图像应用线状构造增强滤波器,从而提取血管弓或细的动脉和静脉。此外,分别选择与倍率编号3相关联的视角和像素大小,来作为包括与高倍率图像Dh(倍率编号4)共通的共通图像特征(毛细血管)的第二中间倍率图像的视角和像素大小。具体地,作为第二中间倍率图像的视角和像素大小,分别选择视角800×800×800[μm]和像素大小2.0×2.0×2.0[μm/像素]。然后,与步骤S1220相同,向通过在z轴方向上投影所获得的图像应用线状构造增强滤波器,从而提取毛细血管或细的动脉和静脉。对于倍率编号2和3存在共通图像特征,因而将这些倍率设置为中间倍率。然后,该处理进入步骤S1340。
注意,特征提取处理不是该步骤的必要条件,并且(与第一实施例相同)可以使用步骤S1320中所述的图像特征列表来设置中间倍率图像Dm的倍率(视角和像素大小),从而以较高的速度进行步骤S1330的处理。
步骤S1340
位置确定单元1313设置具有步骤S1330中所设置的倍率(视角和像素大小)的中间倍率图像Dmj的获取位置和相干门位置。由于在第三实施例中断层图像摄像设备50被配置成SD-OCT,因此这两个中间倍率图像Dmj包括视网膜在z轴方向上的图像,并且将深度方向的获取位置设置为针对这两个倍率(视网膜整体)是相同的。
为了确定中间倍率图像Dmj的获取位置,在第三实施例中,使用步骤S1310中已获取到的高倍率图像Dh的固视位置、视角和像素大小的数据、以及低倍率图像Dl的图像特征。
在与中间倍率图像Dmj的获取位置有关的设置中,将说明用于设置与倍率编号2相关联的中间倍率图像D2j的获取位置的方法。具体地,判断低倍率图像Dl是否包括高倍率图像Dh的获取位置处的图像特征。在不存在图像特征的情况下,通过使获取位置在从高倍率图像Dh的获取位置到包括图像特征的区域的范围内要获取的中间倍率图像D2j的数量最小的方向上顺次移动,来获取中间倍率图像D2j。此时,使获取位置顺次移动了特定距离,以使得相邻的中间倍率图像D2j重叠了特定量。
在第三实施例中,由于在高倍率图像Dh的获取位置(副中央凹)处不存在血管弓,因此通过使固视位置在垂直方向上顺次移动来获取与倍率编号2相关联的中间倍率图像D2j,以使得中间倍率图像D2j包括血管区域。此时,固视位置顺次移动了特定距离,以使得相邻的中间倍率图像D2j重叠了它们的宽度的1/4。在图8A的垂直方向上排列的多个虚线矩形区域表示第三实施例中所拍摄到的中间倍率图像D2j。
与第一实施例相同,将与倍率编号3相关联的中间倍率图像D3的获取位置设置为与高倍率图像Dh的获取位置相同。
按以下方式来设置相干门位置。在低倍率图像Dl和高倍率图像Dh的相干门位置相同的情况下,设置该相干门位置。否则,将各中间倍率图像的相干门位置设置为低倍率图像Dl的相干门位置和高倍率图像Dh的相干门位置之间的中间位置。在第三实施例中,对于低倍率图像Dl和高倍率图像Dh这两者,将相干门设置为视网膜内层。因而,将各中间倍率图像的相干门设置为视网膜内层。注意,相干门设置方法不限于该方法。可以将相干门位置设置为与低倍率图像Dl或高倍率图像Dh的相干门位置相同。
在第三实施例中,已经在假定眼部断层图像是SD-OCT并且视网膜的厚度正常的情况下进行了说明。在SS-OCT的情况下,眼部断层图像为高渗透型,即,不仅视网膜包括在如图8G所示的图像中,而且位于较深位置处的脉络膜也包括在如图8G所示的图像中。对于这种高渗透型的图像,通过不仅在x-y平面上而且在z轴方向上改变获取位置来设置中间倍率图像的获取位置。参考图8G,由于将高倍率图像Dh的获取位置设置为脉络膜,因此通过参考图像特征列表来将中间倍率图像Dm的z轴方向获取位置设置为处于在脉络膜的附近。可选地,在由于诸如黄斑水肿等的疾病的影响而导致视网膜变厚的情况下,通过使中间倍率图像Dm的z轴方向获取位置相对于高倍率图像Dh的z轴方向获取位置向着高倍率图像Dh的获取位置顺次移动了特定距离,来获取中间倍率图像Dm。
在第三实施例中,与第一实施例相同,基于“a)使获取倍率固定或从选项中选择获取倍率、并且使获取位置可设置为给定位置”(图8A)的方针来确定中间倍率获取方法;然而,该确定中所使用的方针不限于该方针。例如。可以基于第一实施例所述的“b)使获取倍率可设置为给定值并且将获取位置设置为与高倍率图像Dm的获取位置相同”(图8B)的方针来进行该确定。在使用方法b)的情况下,基于操作员所选择的高倍率图像Dh的获取倍率(视角和像素大小)、获取位置和聚焦位置来自动选择是否需要获取中间倍率图像Dm、以及中间倍率图像Dm的获取倍率和聚焦位置。
利用上述结构,眼科设备10获取自适应光学断层图像和广角断层图像。眼科设备10基于通过从高倍率图像Dh和低倍率图像Dl提取特征所获得的结果,来判断是否需要获取中间倍率图像Dm、要获取中间倍率图像Dm的获取倍率和获取位置。眼科设备10根据需要获取中间倍率图像Dm。然后,基于共通图像特征,从倍率最低的图像起对倍率接近的图像顺次进行对准。这样,确定了高倍率图像Dh在低倍率图像Dl上的相对位置。
通过该处理,可以使视角或像素大小极大不同的眼部的图像精确地对准。
其它实施例
本发明的实施例还可以通过如下的方法来实现,即,通过网络或者各种存储介质将执行上述实施例的功能的软件(程序)提供给系统或装置,该系统或装置的计算机或是中央处理单元(CPU)、微处理单元(MPU)读出并执行程序的方法。
尽管已经参考实施例说明了本发明,但是应该理解,本发明不限于所公开的实施例。所附权利要求书的范围符合最宽的解释,以包含所有这类修改、等同结构和功能。
Claims (9)
1.一种眼科设备,包括:
图像获取单元,用于获取不同倍率的图像;
确定单元,用于至少基于所获取到的图像或所获取到的图像的获取条件,来确定处于所获取到的图像的倍率之间的中间倍率的图像的获取方法;以及
对准单元,用于通过使用根据所述确定单元所确定的获取方法所获取到的中间倍率的图像,使所述图像获取单元所获取到的不同倍率的图像对准。
2.根据权利要求1所述的眼科设备,其中,所述确定单元至少基于所获取到的图像或所获取到的图像的获取条件,来确定如下的内容至少之一:是否需要获取所述中间倍率的图像、所述中间倍率的图像的获取倍率、所述中间倍率的图像的视角、所述中间倍率的图像的像素大小、所述中间倍率的图像的获取位置、所述中间倍率的图像的聚焦位置、以及所述中间倍率的图像的获取顺序。
3.根据权利要求1或2所述的眼科设备,其中,还包括:
图像特征获取单元,用于从所获取到的不同倍率的图像中获取图像特征,
其中,所述确定单元基于所获取到的图像特征,来确定所述中间倍率的图像的获取方法。
4.根据权利要求1所述的眼科设备,其中,所述对准单元基于如下的内容至少之一来确定对所获取到的图像进行对准所采用的顺序:所获取到的图像、所获取到的图像的获取条件、以及所获取到的图像的图像特征。
5.根据权利要求1所述的眼科设备,其中,还包括:
显示单元,用于调整图像的亮度,以使得图像具有相似的亮度特性,并且将所获取到的不同倍率的图像中的较高倍率图像显示在较低倍率图像上。
6.根据权利要求5所述的眼科设备,其中,所述显示单元将断层图像的扫描位置、利用激光束所照射的位置、眼底形状分布、以及视网膜感光度分布至少之一叠加在所显示的较高倍率图像上。
7.根据权利要求1所述的眼科设备,其中,还包括:
控制单元,用于在图像中的较低倍率图像上要显示的图像存在重叠的情况下,对图像叠加的顺序、各图像的显示或非显示、以及图像的透明度至少之一进行控制。
8.根据权利要求1所述的眼科设备,其中,不同倍率的图像至少之一是基于眼部的断层图像或眼部的运动图像所生成的图像。
9.一种对准方法,包括以下步骤:
获取不同倍率的眼科图像;
至少基于所获取到的眼科图像或所获取到的眼科图像的获取条件,来确定处于所获取到的眼科图像的倍率之间的中间倍率的眼科图像的获取方法;以及
通过使用根据所确定的获取方法所获取到的中间倍率的眼科图像,进行所获取到的不同倍率的眼科图像的对准。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012287253A JP6108827B2 (ja) | 2012-12-28 | 2012-12-28 | 眼科装置および位置合わせ方法 |
JP2012-287253 | 2012-12-28 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103908225A CN103908225A (zh) | 2014-07-09 |
CN103908225B true CN103908225B (zh) | 2016-01-20 |
Family
ID=49918460
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310741604.7A Active CN103908225B (zh) | 2012-12-28 | 2013-12-27 | 眼科设备和对准方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US9456748B2 (zh) |
EP (1) | EP2749205B1 (zh) |
JP (1) | JP6108827B2 (zh) |
CN (1) | CN103908225B (zh) |
Families Citing this family (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9386920B2 (en) * | 2013-09-30 | 2016-07-12 | Nidek Co., Ltd. | Ophthalmologic image processing apparatus |
CN106415660A (zh) * | 2014-04-07 | 2017-02-15 | Mimo股份公司 | 用于分析表示生物组织的三维体积的图像数据的方法 |
JP6410498B2 (ja) * | 2014-07-08 | 2018-10-24 | キヤノン株式会社 | 眼科装置及びその制御方法 |
JP6506518B2 (ja) * | 2014-08-29 | 2019-04-24 | キヤノン株式会社 | 眼科装置及びその制御方法 |
JP6504903B2 (ja) * | 2015-04-30 | 2019-04-24 | キヤノン株式会社 | 眼科撮像装置、その作動方法、及びコンピュータプログラム |
JP6652284B2 (ja) * | 2015-07-08 | 2020-02-19 | キヤノン株式会社 | 画像生成装置および画像生成方法 |
JP6750842B2 (ja) * | 2015-09-15 | 2020-09-02 | キヤノン株式会社 | 画像生成装置、画像生成方法及びプログラム |
US10285581B2 (en) * | 2015-12-02 | 2019-05-14 | Nidek Co., Ltd. | Ophthalmologic information processing apparatus and ophthalmologic information processing method |
US9931033B2 (en) | 2015-12-28 | 2018-04-03 | Canon Kabushiki Kaisha | System and method for controlling a fundus imaging apparatus |
EP3213668B1 (en) * | 2016-03-03 | 2021-07-28 | Nidek Co., Ltd. | Ophthalmic image processing apparatus |
US9978140B2 (en) * | 2016-04-26 | 2018-05-22 | Optos Plc | Retinal image processing |
JP6833455B2 (ja) | 2016-10-31 | 2021-02-24 | キヤノン株式会社 | 眼科撮影装置及びその制御方法、眼科撮影システム、並びに、プログラム |
JP6898724B2 (ja) * | 2016-11-10 | 2021-07-07 | キヤノン株式会社 | 画像処理方法、画像処理装置およびプログラム |
US10789671B2 (en) * | 2016-12-28 | 2020-09-29 | Ricoh Company, Ltd. | Apparatus, system, and method of controlling display, and recording medium |
JP6907563B2 (ja) * | 2017-01-31 | 2021-07-21 | 株式会社ニデック | 画像処理装置、および画像処理プログラム |
US11357398B2 (en) | 2017-01-31 | 2022-06-14 | Nidek Co., Ltd. | Image processing device and non-transitory computer-readable recording medium |
JP6878923B2 (ja) * | 2017-01-31 | 2021-06-02 | 株式会社ニデック | 画像処理装置、画像処理システム、および画像処理プログラム |
US10750943B2 (en) * | 2017-06-09 | 2020-08-25 | Northwestern University | Imaging-guided creating and monitoring of retinal vascular occlusive disease |
JP2019025185A (ja) * | 2017-08-02 | 2019-02-21 | 株式会社トプコン | 眼科装置、及びデータ収集方法 |
CN110044292A (zh) * | 2018-01-16 | 2019-07-23 | 郑州宇通客车股份有限公司 | 一种基于线结构光的三维测量方法和系统 |
JP6594499B2 (ja) * | 2018-08-03 | 2019-10-23 | キヤノン株式会社 | 画像処理装置及び画像処理装置の作動方法 |
JP7202819B2 (ja) * | 2018-09-10 | 2023-01-12 | 株式会社トプコン | 眼科装置、及びその制御方法 |
JP2020110256A (ja) * | 2019-01-09 | 2020-07-27 | キヤノン株式会社 | 眼科撮影装置、その制御装置、制御方法、およびプログラム |
US20220172358A1 (en) * | 2019-04-25 | 2022-06-02 | Nikon Corporation | IMAGE PROCESSING APPARATUS, IMAGE PROCESSING METHOD, AND RECORDING MEDIUM (as amended) |
JP6780081B2 (ja) * | 2019-10-02 | 2020-11-04 | キヤノン株式会社 | 情報処理装置及び情報処理方法 |
US11419495B2 (en) * | 2019-10-30 | 2022-08-23 | Nikon Corporation | Image processing method, image processing device, and storage medium |
CN114748033B (zh) * | 2022-05-05 | 2023-09-19 | 中国科学院光电技术研究所 | 一种基于液晶相位调制器的超分辨共焦检眼镜 |
CN116548911B (zh) * | 2023-05-19 | 2023-12-08 | 北京至真互联网技术有限公司 | 一种基于oct技术的眼部血管成像方法及系统 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04141131A (ja) * | 1990-09-30 | 1992-05-14 | Topcon Corp | 眼屈折力測定装置 |
JPH08224213A (ja) * | 1995-02-22 | 1996-09-03 | Nikon Corp | 眼科装置 |
CN1579320A (zh) * | 2003-08-13 | 2005-02-16 | 佳能株式会社 | 眼科用摄影装置 |
CN1939208A (zh) * | 2005-09-29 | 2007-04-04 | 株式会社拓普康 | 眼底观察装置、眼底图像显示装置及存储眼底观察程序的存储媒体 |
CN101254090A (zh) * | 2007-02-26 | 2008-09-03 | 株式会社拓普康 | 眼底观察装置以及眼底图像处理装置 |
JP2009276327A (ja) * | 2008-05-19 | 2009-11-26 | Topcon Corp | 光画像計測装置 |
CN101986185A (zh) * | 2009-07-28 | 2011-03-16 | 佳能株式会社 | 光学断层成像装置 |
WO2012026597A1 (ja) * | 2010-08-27 | 2012-03-01 | ソニー株式会社 | 画像処理装置および方法 |
EP2497413A1 (en) * | 2011-03-10 | 2012-09-12 | Canon Kabushiki Kaisha | Photographing apparatus and photographing method |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5912720A (en) * | 1997-02-13 | 1999-06-15 | The Trustees Of The University Of Pennsylvania | Technique for creating an ophthalmic augmented reality environment |
JP3377446B2 (ja) * | 1998-07-13 | 2003-02-17 | 日本電信電話株式会社 | 眼底画像合成方法および眼底画像合成装置ならびに記録媒体 |
US20030157464A1 (en) * | 2002-02-20 | 2003-08-21 | Cesare Tanassi | Instrument for eye examination and method |
JP5259484B2 (ja) | 2009-04-30 | 2013-08-07 | 株式会社ニデック | 眼底撮影装置 |
JP5845608B2 (ja) * | 2011-03-31 | 2016-01-20 | 株式会社ニデック | 眼科撮影装置 |
CN102881000B (zh) * | 2012-09-07 | 2016-05-18 | 华为技术有限公司 | 一种视频图像的超分辨率方法、装置和设备 |
US10033945B2 (en) * | 2013-12-12 | 2018-07-24 | Flir Systems Ab | Orientation-adapted image remote inspection systems and methods |
-
2012
- 2012-12-28 JP JP2012287253A patent/JP6108827B2/ja not_active Expired - Fee Related
-
2013
- 2013-12-23 EP EP13199389.1A patent/EP2749205B1/en not_active Not-in-force
- 2013-12-26 US US14/140,674 patent/US9456748B2/en active Active
- 2013-12-27 CN CN201310741604.7A patent/CN103908225B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04141131A (ja) * | 1990-09-30 | 1992-05-14 | Topcon Corp | 眼屈折力測定装置 |
JPH08224213A (ja) * | 1995-02-22 | 1996-09-03 | Nikon Corp | 眼科装置 |
CN1579320A (zh) * | 2003-08-13 | 2005-02-16 | 佳能株式会社 | 眼科用摄影装置 |
CN1939208A (zh) * | 2005-09-29 | 2007-04-04 | 株式会社拓普康 | 眼底观察装置、眼底图像显示装置及存储眼底观察程序的存储媒体 |
CN101254090A (zh) * | 2007-02-26 | 2008-09-03 | 株式会社拓普康 | 眼底观察装置以及眼底图像处理装置 |
JP2009276327A (ja) * | 2008-05-19 | 2009-11-26 | Topcon Corp | 光画像計測装置 |
CN101986185A (zh) * | 2009-07-28 | 2011-03-16 | 佳能株式会社 | 光学断层成像装置 |
WO2012026597A1 (ja) * | 2010-08-27 | 2012-03-01 | ソニー株式会社 | 画像処理装置および方法 |
EP2497413A1 (en) * | 2011-03-10 | 2012-09-12 | Canon Kabushiki Kaisha | Photographing apparatus and photographing method |
Also Published As
Publication number | Publication date |
---|---|
JP6108827B2 (ja) | 2017-04-05 |
EP2749205B1 (en) | 2016-04-27 |
CN103908225A (zh) | 2014-07-09 |
US9456748B2 (en) | 2016-10-04 |
US20140185009A1 (en) | 2014-07-03 |
JP2014128366A (ja) | 2014-07-10 |
EP2749205A1 (en) | 2014-07-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103908225B (zh) | 眼科设备和对准方法 | |
KR101787973B1 (ko) | 화상처리장치 및 화상처리방법 | |
RU2595528C2 (ru) | Устройство обработки информации, способ обработки информации и машиночитаемый носитель информации | |
KR101894808B1 (ko) | 안과장치 및 안과장치의 제어 방법 | |
RU2637851C2 (ru) | Устройство обработки изображений и способ управления устройством обработки изображений | |
CN112638234A (zh) | 图像处理装置、图像处理方法和程序 | |
US20180000341A1 (en) | Tomographic imaging apparatus, tomographic imaging method, image processing apparatus, image processing method, and program | |
US20200375453A1 (en) | Tomographic image acquisition apparatus and tomographic image acquisition method | |
US20160157710A1 (en) | Image processing apparatus and image processing method | |
JP6882242B2 (ja) | 眼科装置およびその制御方法 | |
JP2020032072A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP7204345B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6437055B2 (ja) | 画像処理装置及び画像処理方法 | |
JP6419238B2 (ja) | 眼科装置および位置合わせ方法 | |
JP2020171664A (ja) | 画像解析方法及び画像解析装置 | |
JP2017144047A (ja) | 撮影装置及びその駆動方法、並びに、プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |