CN103460110B - 显微镜系统、服务器和程序 - Google Patents

显微镜系统、服务器和程序 Download PDF

Info

Publication number
CN103460110B
CN103460110B CN201280017713.8A CN201280017713A CN103460110B CN 103460110 B CN103460110 B CN 103460110B CN 201280017713 A CN201280017713 A CN 201280017713A CN 103460110 B CN103460110 B CN 103460110B
Authority
CN
China
Prior art keywords
detection object
feature amount
image
illumination light
image feature
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201280017713.8A
Other languages
English (en)
Other versions
CN103460110A (zh
Inventor
福武直树
中岛伸一
太平博久
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP2011087822A external-priority patent/JP5757458B2/ja
Application filed by Nikon Corp filed Critical Nikon Corp
Publication of CN103460110A publication Critical patent/CN103460110A/zh
Application granted granted Critical
Publication of CN103460110B publication Critical patent/CN103460110B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

一种显微镜系统(100),其包括用于观察检测对象的显微镜(30至80)和被连接到该显微镜的计算机(20)。显微镜(30至80)包括:照明光学系统(40),其在预定的照明条件下照明检测对象;成像光学系统(70),其形成检测对象的图像;以及图像传感器(80),其输出图像信号。该计算机(20)包括:图像分析单元(202),其基于由图像传感器检测的图像信号来获取检测对象的图像特征量;比较单元(205),其比较检测对象的图像特征量与多个样本检测对象的图像特征量,并且指定最接近检测对象的图像特征量的样本检测对象的图像特征量;以及设定单元(212),其基于适用于具有由比较单元指定的图像特征量的样本检测对象的观察的照明状态,来设定照明光学系统的照明条件。

Description

显微镜系统、服务器和程序
技术领域
本发明涉及可推导并且形成适于观察的照明光强度分布的显微镜系统、服务器和程序。
本发明要求2011年4月12日提交的日本专利申请No.2011-087822的优先权,其内容通过引用在此并入。
背景技术
在明视场(bright-field)显微镜中,通过改变圆形孔径来调节照明光强度分布。此外,存在其中通过观察者的判定来选择并且使用孔径形状的情况。在相位对比显微镜中,环形(圆形)孔径和相位环形成照明光强度分布。
因为照明光强度分布对检测对象的观察图像具有很大影响,所以除了圆形孔径、环形孔径、相位环等的改进外,已经进行对检测对象的观察图像的质量改进的研究。例如,日本待审专利申请公开No.2009-237109示出相位对比显微镜,在该显微镜中提供调制单元以便围绕其中以环形提供的相位环的环形区域,并且形成调制单元和调制单元的其它区域以便具有不同的透射轴,并且因而对比度连续可变。
发明内容
然而,在上述明视场显微镜或相位对比显微镜中,在某种程度上确定孔径的形状,并且照明光强度分布的调整受限于此。当选择孔径形状时,基于观察者的判定或经验作出选择。因此,不可以说孔径必须具有足以在最好状态的观察情况下观察对象图像的形状。另一方面,当允许任意选择孔径的形状时,对于观察者难以选择最适于检测对象的孔径形状。
本发明的多个方面提供可获取适于检测对象的照明光强度分布以便观察检测对象的显微镜系统、服务器和程序。
根据本发明的第一方面,提供了显微镜系统,该显微镜系统包括用于观察检测对象的光学显微镜和被连接到该显微镜的计算机。该显微镜包括:照明光学系统,其在预定的照明条件下采用来自光源的照明光照明检测对象;成像光学系统,其基于来自检测对象的光形成检测对象的图像;以及图像传感器,其检测由成像光学系统形成的检测对象的图像并且输出图像信号。该计算机包括:图像分析单元,其基于由图像传感器检测的图像信号来获取检测对象的图像特征量;比较单元,其比较检测对象的图像特征量与多个样本检测对象的图像特征量,并且指定最接近检测对象的图像特征量的样本检测对象的图像特征量;以及设定单元,其基于适用于具有由比较单元指定的图像特征量的样本检测对象的观察的照明状态,来设定照明光学系统的照明条件。
根据本发明的第二方面,提供了服务器,该服务器包括:第二接收器单元,其从根据第一方面的显微镜系统接收检测对象的图像特征量;第二比较单元,其比较由第二接收器单元接收的检测对象的图像特征量与多个样本检测对象的图像特征量,并且指定最接近检测对象的图像特征量的样本检测对象的图像特征量;第二设定单元,其基于适用于具有由第二比较单元指定的图像特征量的样本检测对象的观察的照明状态,来设定照明光学系统的照明条件;以及第二发送器单元,其将由第二设定单元设定的照明光学系统的照明条件发送到显微镜系统。
根据本发明的第三方面,提供了在显微镜系统中使用的程序,该显微镜系统包括显微镜以及被连接到该显微镜的计算机,该显微镜包括:照明光学系统,其在预定的照明条件下采用来自光源的照明光照明检测对象;成像光学系统,其基于来自检测对象的光形成检测对象的图像;以及图像传感器,其检测由成像光学系统形成的检测对象的图像并且输出图像信号。该程序使该计算机执行:图像分析,用于基于由图像传感器检测的图像信号来获取检测对象的图像特征量;比较,用于比较检测对象的图像特征量 与多个样本检测对象的图像特征量;指定,用于指定最接近检测对象的图像特征量的样本检测对象的图像特征量;以及设定,用于基于适用于具有由比较单元指定的图像特征量的样本检测对象的观察的照明状态,来设定照明光学系统的照明条件。
根据本发明的多个方面,可以提供可设定适合于在良好状态的观察情况下观察对象图像的照明条件的显微镜系统、服务器和程序。
附图说明
图1是示意性示出在第一实施例中的显微镜系统的配置的示图。
图2是示意性示出在第一实施例中的计算单元的配置的示图。
图3是示出在第一实施例中存储单元中存储的空间频率成分等的概念示图。
图4是示出在第一实施例中的显微镜系统的操作流程的流程图的示例。
图5A是示意性示出在第二实施例中的显微镜系统的配置的示图。
图5B是在第二实施例中的第一空间光调制装置的平面视图。
图5C是在第二实施例中的第二空间光调制装置的平面视图。
图6是示意性示出在第二实施例中的计算单元的配置的示图。
图7是示出在第二实施例中存储单元中存储的空间频率成分等的概念示图。
图8是示出在第二实施例中的显微镜系统的操作流程的流程图的示例。
图9是使用爬坡方法(hill-climbing)的流程图。
图10是使用基因算法的流程图。
图11是示意性示出使用服务器的空间频率成分的集中式管理的示图。
参考符号说明
20,25,120,125:计算单元
21:显示单元
30:照明光源
40:照明光学系统
41:第一聚光透镜
42:第二聚光透镜
44:波长滤波器
50:镜台
60:检测对象
70:成像光学系统
71:物镜
80:图像传感器
90,390:第一空间光调制装置
91:照明区域
92:挡光部分
100,300:显微镜系统
201:图像处理单元
202,402:傅立叶分析单元
204:判定单元
205,405:比较单元
206,406:存储单元
208:装置调制单元
209:滤波器驱动单元
222,422:发送器单元
224,424:接收器单元
396:第二空间光调制装置
397:相位调制区域
398:衍射光透射区域
400:服务器
具体实施方式
(第一实施例)
下面将描述作为本发明第一实施例的显微镜系统100,该显微镜系统100包括可自由改变孔径形状的明视场显微镜。在显微镜系统100中,推导并且自动调整适用于在良好状态的观察情况下观察对象图像的照明光强度分布。
<显微镜系统100>
图1是示意性示出显微镜系统100的配置的示图。显微镜系统100包括照明光源30、照明光学系统40、镜台50、成像光学系统70、图像传感器80以及计算单元20作为主要构成部分。在下面的说明中,从照明光源30发出的光束的中心轴被定义成平行于Z轴方向,而彼此垂直并且垂直于Z轴的方向被定义为X轴方向和Y轴方向。
例如照明光源30采用白色照明光来照明检测对象60。照明光学系统40包括第一聚光透镜41、波长滤波器44、第一空间光调制装置90以及第二聚光透镜42。成像光学系统70包括物镜71。在使具有诸如细胞组织的未知结构的检测对象60放置在其上的同时,镜台50可在X轴和Y轴方向上移动。成像光学系统70将来自检测对象60的透射光或反射光聚焦在图像传感器80上。
例如将照明光学系统40的第一空间光调制装置90布置在共轭于成像光学系统70的光瞳位置的位置处。具体而言,液晶面板或数字微镜装置可用作第一空间光调制装置90。第一空间光调制装置90包括在其中可自由改变形状和尺寸的照明区域91,并且可改变照明区域91的尺寸或形状以任意地改变照明光强度分布。也就是说,第一空间光调制装置90可在共轭于成像光学系统70的光瞳的位置处改变照明光强度分布。一般来说,当增加第一空间光调制装置90的透射区域91的直径时,透射光的孔径数量增加并且因此可提高其分辨率。波长滤波器44将待透射的光束的波长限制在特定的范围中。例如,将仅透射在指定范围中波长的光的带通滤波器用作 波长滤波器44。波长滤波器44可被附接和分开,并且可以通过制备透射多个不同波长的光束的带通滤波器并且切换带通滤波器来控制由波长滤波器44透射的光的波长。
计算单元20接收由图像传感器80检测的图像信号,处理图像信号,并且在诸如监视器的显示单元21上显示处理过的图像信号。计算单元20分析图像信号。参考图2将在后面描述由计算单元20实施的分析等。
图1中,通过虚线指示从照明光源30发出的光。通过第一聚光透镜41将从照明光源30发出的光LW11转换成平行光LW12。借由通过波长滤波器44将光LW12指定在波长范围中,并且然后入射在第一空间光调制装置90上。借由通过第二聚光透镜42将通过第一空间光调制装置90的照明区域91的光LW13转换成光LW14,并且然后引导到镜台50。借由通过成像光学系统70将通过镜台50的光LW15转换成光LW16,并且形成在图像传感器80上的检测对象60的图像。
<计算单元20的配置>
图2是示出计算单元20的配置的概念示图。计算单元20包括图像处理单元201、傅立叶分析(fourier analysis)单元202、比较单元205、存储单元206以及设定单元212。
图像处理单元201和傅立叶分析单元202具有来自图像传感器80的图像信号。图像处理单元201处理来自图像传感器80的图像信号以便在显示单元21上显示图像。将处理过的信号发送给显示单元21并且将检测对象的图像显示在显示单元21上。傅立叶分析单元202将来自图像传感器80的图像信号进行傅立叶变换(fourier-transform)并且计算空间频率成分。分析检测对象60的空间频率成分。将空间频率成分发送给比较单元205并且同样发送给存储单元206以存储空间频率成分。傅立叶分析单元202可将来自图像传感器80的检测对象60的整个图像信号进行傅立叶变换,或可将由观察者选择的检测对象60的部分区域的部分图像信号进行傅立叶变换。该部分区域可由观察者设定或可被自动设定。
比较单元205比较由傅立叶分析单元202分析的检测对象60的空间频 率成分与预先在存储单元206中存储的空间频率成分。存储单元206预先存储多个样本检测对象的空间频率成分。基于样本检测对象的图像信号,通过傅立叶变换可获得空间频率成分。存储单元206存储适用于各个样本检测对象的照明光强度分布或照明光的波长。制造显微镜系统的制造商可制备样本检测对象作为默认值。比较单元205基于比较单元205中的比较结果,从存储单元206中指定最接近的空间频率成分。比较单元205输出适用于具有最接近的空间频率成分的样本检测对象的照明光强度分布或照明光的波长。
将合适的照明光强度分布或合适的照明光波长的数据发送给设定照明光的照明条件的设定单元212。设定单元212包括装置调制单元208和滤波器驱动单元209。装置调制单元208基于合适的照明光强度分布来改变第一空间光调制装置90的照明区域91的尺寸或形状。滤波器驱动单元209基于合适的照明光波长的数据来改变由波长滤波器44透射的波长范围。
<在存储单元中存储的检测对象的空间频率成分>
图3是示出在存储单元206中存储的空间频率成分等的概念示图。图3(a)示出检测对象60的空间频率成分的示例。图3(b)示出样本检测对象SM01至SM10的空间频率成分的示例。
现在,通过图像传感器80采用预定的照明光强度分布来检测检测对象60。例如,预定的照明光强度分布是在其中第一空间光调制装置90的照明区域91完全打开的分布。第一空间光调制装置90的照明区域91同样与检测对象60的空间频率成分FC一起以与检测对象60相关联的方式被存储,如图3(a)中所示。虽然在附图中没有示出,但当首次检测检测对象60时,将透射全部可见光范围(400nm至800nm)的光的滤波器用作波长滤波器44。
采用相同的照明光强度分布来检测该检测对象60和下面要描述的样本检测对象。因此,当两者为相同的检测对象时,获取相同的空间频率成分。在第一实施例中,预定的照明光强度分布是在其中照明区域91完全打开的分布。预定的照明光强度分布并不限于本示例,而预定的强度分布数 量可以是两个或更多。
空间频率成分FC通过频率、强度(振幅)和相位的关系来表示。在图3(a)和3(b)中,示意性示出在一维方向中的频率和强度之间的关系。然而,因为由图像传感器80检测的图像是二维图像,所以该图像包括二维方向中的频率和强度。
样本检测对象SM(SM01至SM10)具有通过实验的使用等预先获取的空间频率成分FC(FC01至FC10)。在图3(b)中,存储样本检测对象SM01至SM10,这仅是示例。优选存储几百个样本检测对象。
将样本检测对象SM01至SM10连同利用在其中第一空间光调制装置90的照明区域91完全打开的强度分布所获取的空间频率成分FC01至FC10一起存储在存储单元206中。空间频率成分FC01至FC10可存储为数值表达式或可存储为用于每个频率的强度数据。虽然在附图中没有示出,但通过使用透射可见光线的滤波器来检测样本检测对象SM01至SM10的空间频率成分FC01至FC10。
将样本检测对象SM(SM01至SM10)连同适用于各个样本检测对象的照明光强度分布一起存储。同样存储最优波长滤波器。例如,示出在其中单一的透射区域91具有稍微更小半径R1的照明光强度分布适用于样本检测对象SM01。同样示出波长滤波器44A(例如400nm至800nm)适用于样本检测对象SM01。示出包括两个透射区域91的照明光强度分布适用于样本检测对象SM02。同样示出波长滤波器44B(例如400nm至600nm)适用于样本检测对象SM02。示出在其中单一的透射区域91具有较小半径R2的照明光强度分布和波长滤波器44A适用于样本检测对象SM03。
示出包括椭圆形透射区域91的照明光强度分布和波长滤波器44C(例如600nm至800nm)适用于样本检测对象SM08。示出包括完全打开的照明区域91的照明光强度分布和波长滤波器44A适用于样本检测对象SM09。示出包括新月形透射区域91的照明光强度分布和波长滤波器44A适用于样本检测对象SM10。
<显微镜系统100的操作>
图4是示出显微镜系统100的操作流程的流程图的示例。
在步骤S101中,首先将第一空间光调制装置90的照明区域91设定为预定的强度分布。如图3(a)中所示,例如预定的照明光强度分布具有最大半径的照明区域91。将透射全部可见光范围(400nm至800nm)的滤波器选为波长滤波器44。作为检测对象60的细胞等由图像传感器80来成像。
在步骤S103中,傅立叶分析单元202分析由图像传感器80检测的二维图像。检测到的二维图像由图像处理单元201处理并且然后显示在显示单元21上。观察者可从在显示单元21上显示的二维图像中选择检测对象60的部分区域。该部分区域可包括检测对象60中的一个区域或两个或更多区域。观察者可自动选择图像传感器80的中央区域作为该部分区域以便使检测对象60的所需区域移动到中央。当选择该部分区域时,傅立叶分析单元202可分析检测对象60的所选部分区域的图像信号。该部分区域可由观察者来设定或可以被自动设定。
在步骤105中,比较单元205比较图3(a)中所示的检测对象60的空间频率成分FC与图3(b)中所示的空间频率成分FC01至FC10。比较单元205通过诸如最小二乘法的曲线拟合方法的使用,指定最接近空间频率成分FC的空间频率成分FC01至FC10中的一个。在图3(b)中所示的示例中,检测对象60的空间频率成分FC最接近样本检测对象SM03的空间频率成分FC03。因此,比较单元205指定样本检测对象SM03的空间频率成分FC03。当检测对象60的空间频率成分FC最接近样本检测对象SM03的空间频率成分FC03并且检测对象60例如是细胞时,估计检测对象60的细胞结构类似于样本检测对象SM03的细胞结构。因此,可指定适用于预先在存储单元206中存储的样本检测对象SM03的观察的预定的照明光强度分布和波长滤波器。也就是说,估计在透射区域91中具有较小半径R2的照明光强度分布和波长滤波器44A适用于检测对象60。
在步骤S107中,比较单元205进一步读取适用于从存储单元206中指 定的样本检测对象SM03的观察的照明光强度分布和波长滤波器。
在步骤S109中,将合适的照明光强度分布和合适的波长滤波器发送给装置调制单元208和滤波器驱动单元209。将第一空间光调制装置90的照明区域91设定为合适的照明光强度分布。同样设定合适的波长滤波器44。检测对象60由图像传感器80来成像。将捕获到的二维图像显示在显示单元21上。当观察者拟观察检测对象60但不知道哪个照明光强度分布或哪个波长滤波器合适时,显微镜系统100可自动选择合适的照明光强度分布和合适的波长滤波器。显微镜系统100可在短时间内找出适用于检测对象60的照明光强度分布或波长滤波器。
在步骤S111中,观察者判定在显示单元21上显示的二维图像是否是满意的图像。虽然检测对象60的图像通过合适的照明光强度分布和合适的波长滤波器来捕获,但是观察者可能希望在更好的状态中观察检测对象60。此外,甚至当检测对象60的空间频率成分FC最接近样本检测对象SM的空间频率成分FC时,两者并不总是彼此相等并且因此该二维图像可能不是最合适的图像。当观察者判定在显示单元21上显示的二维图像是满意的图像时(是),结束检测对象60的观察。如由虚线所指示的,当采用预定的强度分布来成像检测对象60时的空间频率成分在步骤S117中被存储之后,可结束观察。当观察者希望观察更好的二维图像时(否),操作流程前往步骤S113。
在步骤S113中,通过使用如下的方法可最优地计算照明光强度分布或波长滤波器:模拟退火法、禁忌搜索法(Tabu search method)、爬坡法、基因算法等。可获取更好的照明光强度分布或更好的波长滤波器。
在步骤S115中,检测对象60由图像传感器80通过在步骤S113中获取的照明光强度分布或波长滤波器的使用来成像。
在步骤S117中,将获取的照明光强度分布或波长滤波器存储在存储单元206中,作为适用于通过使用显微镜系统100来成像检测对象60的照明光强度分布或波长滤波器。当采用预定的强度分布来成像检测对象60时的空间频率成分存储在存储单元206中。此结果作为当下次观察检测对象时 的样本检测对象。
如上所述,根据本实施例的显微镜系统100可在观察检测对象60时使用作为图像特征量的空间频率成分来轻易地找出合适的照明光强度分布或合适的波长滤波器。
图4中所示的流程图的过程可作为程序被存储在存储介质上。通过在计算机上安装存储在存储介质上的程序,可使计算机实施计算等。
(第二实施例)
虽然在第一实施例中已经描述了包括明视场显微镜的显微镜系统100,但在本发明的第二实施例中将描述包括相位对比显微镜的显微镜系统300。
<显微镜系统300>
图5A是示意性示出显微镜系统300的配置的示图。显微镜系统300是用于观察检测对象60的光学显微镜系统。显微镜系统300包括照明光源30、照明光学系统40、成像光学系统70、图像传感器80以及计算单元120作为主要元件。照明光学系统40包括第一聚光透镜41、第一空间光调制装置390以及第二聚光透镜42。成像光学系统70包括物镜71和第二空间光调制装置396。将镜台50布置在照明光学系统40和成像光学系统70之间,并且将检测对象60放置在镜台50上。
将第二空间光调制装置396放置在成像光学系统70的光瞳的位置处或其附近。将第一空间光调制装置390放置在共轭于成像光学系统70的光瞳的照明光学系统40中的位置处。第一空间光调制装置390是可任意改变通过该处的光强度分布的装置并且由液晶面板、DMD等构成。第二空间光调制装置396由可改变相位的液晶面板等构成。第二空间光调制装置396优选配置为与相位一起自由改变光强度分布。
在图5A中,通过虚线指示从照明光源30发出的光。通过第一聚光透镜41将从照明光源30发出的光LW31转换成光LW32。将光LW32入射在第一空间光调制装置390上。通过第一空间光调制装置390的光LW33借由通过第二聚光透镜42被转换成光LW34,并且被引导到检测对象60 中。通过检测对象60的光LW35借由通过物镜71被转换成光LW36,并且入射在第二空间光调制装置396上。光LW36借由通过第二空间光调制装置396被转换成光LW37并且被聚焦在图像传感器80上。将在图像传感器80上形成的图像的图像信号发送给计算单元120。计算单元120基于从图像传感器80获取的图像来分析检测对象60的空间频率成分。将适用于检测对象60的观察的照明形状发送到第一空间光调制装置390和第二空间光调制装置396。
图5B是第一空间光调制装置390的平面视图。将环状透射区域(照明区域)391形成在第一空间光调制装置390上并且透射区域391以外的区域用作挡光区域392。
图5C是第二空间光调制装置396的平面视图。将环状相位调制区域397形成在第二空间光调制装置396上并且将四分之一波长的相位添加到通过该相位调制区域397的光。通过衍射光透射区域398(其是相位调制区域397以外的区域)的光的相位不会改变。将相位调制区域397形成为共轭于第一空间光调制装置390的透射区域391。
显微镜系统300的零阶(zero-order)光(透射光)通过第一空间光调制装置390的透射区域391,通过第二空间光调制装置396的相位调制区域397,并且到达图像传感器80。从检测对象60中生成的衍射光通过第二空间光调制装置396的衍射光透射区域398并且到达图像传感器80。该零阶光和该衍射光在图像传感器80上形成图像。一般来说,因为零阶光具有比衍射光强度更强的强度,优选可以形成调整相位调制区域397的光强度的滤波器。
第一空间光调制装置390和第二空间光调制装置396可自由改变透射区域391和相位调制区域397的尺寸和形状。也就是说,可改变添加给透射光的相位的空间分布或透射率的空间分布。如在第一实施例中所述,通过读取在存储单元中存储的照明形状可优化第一空间光调制装置390的透射区域391的形状。将第二空间光调制装置396的环状区域397形成为总是共轭于第一空间光调制装置390的透射区域391。因此,对于透射区域 391和环状区域397,优选可以以彼此同步的方式来改变形状。
<计算单元120的配置>
图6是示出计算单元120的配置的概念示图。虽然该配置基本上与图3中所示的计算单元20的配置相同,但是计算单元120与计算单元20区别在于其额外包括判定单元204但不包括滤波器驱动单元209。同样,设定照明条件的设定单元212仅包括单一的装置调制单元208。此外,计算单元120与计算单元20区别在于单一的装置调制单元208被连接到第一空间光调制装置390和第二空间光调制装置396。下文中,将主要描述与计算单元20不同的配置。
判定单元204从图像传感器80中接收图像信号。判定单元204基于图像的对比度来判定检测对象60是相位对象和吸收对象中的哪一个。相位对象是透明并且没有颜色的对象,其不改变透射光的光强度而仅改变相位。吸收对象也称为光吸收对象或强度对象并且是有颜色的对象,其改变透射光的光强度。
判定单元204基于在下面两种条件下捕获的检测对象60的图像来判定检测对象是相位对象还是吸收对象。在第一条件下,在其中第一空间光调制装置390的透射区域391具有圆形形状并且不具有挡光区域392以及第二空间光调制装置396不具有相位调制区域397并且不在整个表面上提供任何相位差的状态中,图像传感器80检测检测对象60。在第二条件下,在其中第一空间光调制装置390的透射区域391具有环形形状并且第二空间光调制装置396的相位调制区域397具有环形形状并且提供四分之一波长的相位差的状态中,图像传感器80检测检测对象60。
判定单元204判定在第一条件下成像的检测对象60的图像对比度是否高于阈值并且在第二条件下成像的检测对象60的图像对比度是否高于阈值。例如,当检测对象60是相位对象时,在第一条件下成像的检测对象60的图像对比度低而在第二条件下成像的检测对象60的图像对比度高。相反地,当检测对象60是吸收对象时,在第一条件下成像的检测对象60的图像对比度高而在第二条件下成像的检测对象60的图像对比度低。以这 种方式,判定单元204判定检测对象60是相位对象还是吸收对象。将判定单元204中的判定结果发送给比较单元205。
比较单元205使用从判定单元204发送的结果以比较检测对象60的空间频率成分与预先在存储单元206中存储的空间频率成分。
装置调制单元208基于合适的照明光强度分布来改变第一空间光调制装置390的照明区域391的尺寸或形状。装置调制单元208基于合适的照明光强度分布来改变第二空间光调制装置396的相位调制区域397的尺寸或形状。
<在存储单元中存储的检测对象的空间频率成分>
图7是示出在存储单元206中存储的其它空间频率成分等的概念示图。图7(a)示出从照明光的环状强度分布中获得的检测对象60的空间频率成分的示例。图7(b)示出样本检测对象SM01至SM13的空间频率成分的示例。
在第二实施例中,检测对象60在两个预定条件下由图像传感器80检测。例如,在第一条件中,预定的照明光强度分布不在其中第一空间光调制装置390的照明区域391完全打开的分布中提供第二空间光调制装置396的相位差。在第二条件中,第一空间光调制装置390的照明区域391具有环形形状的强度分布,而第二空间光调制装置396的相位调制区域397具有环形形状的强度分布并且提供四分之一波长的相位差。
第二条件同样被存储为预定的光强度分布。如图7(a)中所示,预定的光强度分布与检测对象60的空间频率成分FC一起以与检测对象60相关联的方式存储。虽然在附图中没有示出,但是当首次检测检测对象60时,将透射全部可见范围(400nm至800nm)的光的滤波器用作波长滤波器44。
样本检测对象SM(SM01至SM13)具有通过实验的使用等预先获取的空间频率成分FC(FC01至FC13)。将相位对象或吸收对象存储为样本检测对象SM。相位对象是透明并且没有颜色的对象,其不改变透射光的光强度而仅改变相位。吸收对象也称为光吸收对象或强度对象并且是有 颜色的对象,其改变透射光的光强度。在图7(b)中,将样本检测对象SM01至SM03存储为吸收对象。将样本检测对象SM11至SM13存储为相位对象。这仅是示例,并且优选存储几百个样本检测对象作为相位对象。作为吸收对象的样本检测对象SM01至SM03与图3中所示的样本检测对象SM01至SM03相同。因此,下面将不重复它们的说明。
对于作为相位对象的样本检测对象SM11至SM13来说,用其中第一空间光调制装置390的照明区域391具有环形形状(圆形形状)的强度分布来获取的空间频率成分FC11至FC13被存储在存储单元206中。虽然在附图中没有示出,但使用透射可见光线的滤波器来检测样本检测对象SM11至SM13的空间频率成分FC11至FC13。
对于作为相位对象的样本检测对象SM(SM11至SM13)来说,额外存储适用于样本检测对象SM的照明光强度分布。同样存储最优的波长滤波器。例如,示出具有大环形宽度的透射区域391的照明光强度分布和波长滤波器44C(例如600nm至800nm)适用于样本检测对象SM11。示出具有其中环形被分成四个部分的透射区域391的照明光强度分布和波长滤波器44A适用于样本检测对象SM12。示出具有小环形宽度的透射区域391的照明光强度分布和波长滤波器44A适用于样本检测对象SM13。即使波长滤波器44的信息被存储在存储单元206中,显微镜系统300并不使用该波长滤波器44的信息。包括波长滤波器44的显微镜系统300可使用在存储单元206中存储的波长滤波器44的信息。
<显微镜系统300的操作>
图8是示出显微镜系统300的操作流程的流程图的示例。
在步骤S201中,将第一空间光调制装置390和第二空间光调制装置396调制成两个预定的强度分布(第一条件:圆形均匀照明,第二条件:环状照明(相位环))。检测对象60在相应的条件下由图像传感器80成像。
在步骤S203中,判定单元204基于检测对象60的图像对比度来判定检测对象60是吸收对象还是相位对象。例如,当检测对象60是相位对象 时,在第一条件下捕获的检测对象60的图像对比度低而在第二条件下捕获的检测对象60的图像对比度高。在这个流程图中,基于判定单元204判定检测对象60是相位对象的假设来作出解释。
在步骤S205中,傅立叶分析单元202分析由图像传感器80检测的相位对象的二维图像。捕获到的二维图像由图像处理单元201处理并且然后显示在显示单元21上。
在步骤S207中,比较单元205比较图7(a)中所示的检测对象60的空间频率成分FC与图7(b)中所示的空间频率成分FC11至FC13。因为检测对象60是相位对象的判定结果从判定单元204中接收,因此比较单元205缩窄比较目标到作为相位对象的样本检测对象SM11至SM13,并且比较检测对象60的空间频率成分FC与空间频率成分FC11至FC13。
比较单元205通过诸如最小二乘法的曲线拟合法的使用,指定最接近空间频率成分FC的空间频率成分FC11至FC13中的一个。在图7(b)中所示的示例中,检测对象60的空间频率成分FC最接近样本检测对象SM13的空间频率成分FC13。因此,比较单元205指定样本检测对象SM13的空间频率成分FC13。当检测对象60例如是细胞时,其会估计检测对象的细胞结构类似于样本检测对象SM13的细胞结构。因此,指定适用于样本检测对象SM13的观察的预定的照明光强度分布。
在步骤S209中,比较单元205读取适用于从存储单元206中指定的相位对象的指定样本检测对象SM13的观察的照明光强度分布。
在步骤S211中,将合适的照明光强度分布发送给装置调制单元208。将第一空间光调制装置390的照明区域391和第二空间光调制装置396的相位调制区域397设定为合适的照明光强度分布。检测对象60由图像传感器80来成像。将捕获的二维图像显示在显示单元21上。当观察者准备观察检测对象60但不知道哪个照明光强度分布合适时,显微镜系统300可自动选择合适的照明光强度分布。显微镜系统300可在短时间内找出适用于检测对象60的照明光强度分布。
在步骤S213中,观察者判定在显示单元21上显示的二维图像是否是 满意的图像。虽然检测对象60的图像通过合适的照明光强度分布来捕获,但是观察者可能希望在更好的状态中观察检测对象60。此外,甚至当检测对象60的空间频率成分FC最接近样本检测对象SM的空间频率成分FC时,两者并不总是彼此相等并且因此二维图像可能不是最合适的图像。当观察者判定在显示单元21上显示的二维图像是满意的图像时(是),结束检测对象60的观察。如由虚线所指示的,当用预定的强度分布来成像检测对象60时的空间频率成分在步骤S219中被存储之后,可结束观察。当观察者希望观察更好的二维图像时(否),操作流程前往步骤S215。
在步骤S215中,通过使用如下的方法最优地计算照明光强度分布或波长滤波器:模拟退火法、禁忌搜索法、爬坡法、基因算法等。可获取更好的照明光强度分布。
在步骤S217中,检测对象60由图像传感器80通过在步骤S215中获取的照明光强度分布的使用来成像。
在步骤S219中,将获取到的照明光强度分布或波长滤波器存储在存储单元206中,作为适用于通过显微镜系统300的使用来成像检测对象60的照明光强度分布。当用预定的强度分布来成像检测对象60时的空间频率成分被存储在存储单元206中。此结果用作当下次观察检测对象时的样本检测对象。
如上所述,根据本实施例的显微镜系统300可在观察检测对象60时使用包括空间频率成分的图像特征量来轻易地找出合适的照明光强度分布。
图4中所示的流程图的过程可作为程序被存储在存储介质中。通过在计算机中安装被存储在存储介质中的程序,可使计算机实施计算等。
<推导照明光强度分布的方法>
在图4的步骤S113或图8的步骤S215中,可获取适用于检测对象60的照明光强度分布。虽然存在各种推导方法,但是下面将描述爬坡法和使用基因算法的方法的两种方法。下面的流程图示出其中将爬坡法和使用基因算法的方法应用于根据第二实施例的计算机系统300的示例。虽然本文没有描述,但是该方法可应用于根据第一实施例的计算机系统100。
<爬坡法>
爬坡法是如下的方法:逐渐改变初始设定的照明形状;获取用于该初始设定照明形状的每个变化的图像的图像信号;以及找出在其中图像信号最接近由观察者设定的条件的条件。下面将参考图9来对此描述。
图9是示出在逐渐改变照明光强度分布的同时找出合适的强度分布的爬坡法的流程图。
在步骤S301中,首先将从存储单元206中读取的第一空间光调制装置390的照明区域391和第二空间光调制装置396的相位调制区域397设定为合适的照明光强度分布。在步骤S301中,可能挪用图8中所示的步骤S211的结果。
在步骤S303中,装置调制单元208略微改变第一空间光调制装置390的照明区域391和第二空间光调制装置396的相位调制区域397的形状。也就是说,在步骤S303中,略微改变照明光强度分布。
在步骤S305中,检测对象60的图像由图像传感器80检测。然后,将图像信号发送给计算单元120。
在步骤S307中,其基于发送给计算单元120的图像信号来判定图像是否比先前的图像更差。例如,将基于当前图像信号所计算的对比度与基于先前获取的图像信号所计算的对比度相比较。当当前对比度不比先前对比度更差时,在步骤S303中再次改变照明区域391和相位调制区域397的尺寸或形状并且检测其图像信号(步骤S305)。也就是说,因为当前图像信号的对比度更高,所以在步骤S303中再次改变照明区域391和相位调制区域397的尺寸或形状。另一方面,在当前对比度比先前对比度更差时,照明区域391和相位调制区域397的先前尺寸或形状最好。
在步骤S309中,选择适用于检测对象60的观察的照明形状。也就是说,在观察区域24的对比度变得更差之前所使用的照明区域391和相位调制区域397被设定为适用于检测对象60的观察的照明光强度分布,并且被用于检测对象60的观察。如在图8的步骤S219中所述,将获取到的照明区域391和相位调制区域397存储在存储单元206中。
<使用基因算法的方法>
下面将描述使用基因算法的方法。使用基因算法的方法是如下找出照明光强度分布的方法:获取用于多个准备好的照明光强度分布的图像信号,以及组合适用于在其间的检测对象60的观察的强度分布。
图10是使用基因算法的流程图。
首先,在步骤S401中,将从存储单元206中读取的第一空间光调制装置390的照明区域391和第二空间光调制装置396的相位调制区域397设定为合适的照明光强度分布。
在步骤S403中,由图像传感器80使用照明区域391和相位调制区域397的已读取强度分布以及其它多个强度分布来检测检测对象60的图像。图8的步骤S211的结果可挪用为照明区域391和相位调制区域397的已读取强度分布的图像。
在步骤S405中,通过基因算法的杂交(cross)或突变(mutation)技术的使用来形成多个下一代的照明光强度分布。
在步骤S407中,由图像传感器80使用多个下一代的照明光强度分布来检测检测对象60的图像。
在步骤S409中,比较在步骤S407中获取的检测对象60的图像的对比度等,并且从这些多个下一代的照明光强度分布之间选择第一照明光强度分布(其是最合适的照明光强度分布)和第二照明光强度分布(其是第二合适的照明光强度分布)。
在步骤S411中,判定杂交或突变是否已经进行到预定的世代,例如第1000代。当杂交等没有进行到预定的世代时,在步骤S405中再次进一步找出适用于检测对象的观察的照明光强度分布。当杂交等进行到预定的世代时,操作流程前往步骤S413。
在步骤S413中,从通过进行到预定世代(例如第1000代)的杂交等所获取的照明区域391中选择最接近观察者所需条件的世代的照明形状。具有该世代的第一空间光调制装置390的照明区域391和第二空间光调制装置396的相位调制区域397被用于检测对象60的观察。如在图8的步骤 S219中所述,将获取的照明区域391和相位调制区域397存储在存储单元206中。
<空间频率成分的集中式管理>
图11是示意性示出使用服务器400的空间频率成分的集中式管理的配置的示图。
显微镜系统100包括计算单元25。和计算单元20(图2)不同,计算单元25不包括比较单元205,并且不包括存储样本检测对象SM的空间频率成分的存储单元206。另一方面,计算单元25包括:缓冲器单元220,其暂时存储数据;发送器单元222,其向外部发送诸如空间频率成分FC的信息;以及接收器单元224,其从外部接收合适的照明光强度分布信息等,如与互联网的通信功能等。
显微镜系统300包括计算单元125。和计算单元120(图6)不同,计算单元125不包括比较单元205,并且不包括存储样本检测对象SM的空间频率成分的存储单元206。另一方面,计算单元125包括缓冲器单元220、发送器单元222以及接收器单元224。
服务器400包括:比较单元405,其比较检测对象60的空间频率成分FC与样本检测对象的空间频率成分;以及存储单元406,其存储样本检测对象SM的空间频率成分FC。服务器400包括:发送器单元422,其向外部发送合适的照明光强度分布信息等;以及接收器单元424,其从外部接收空间频率成分FC的信息等。
虽然单独绘出显微镜系统100和显微镜系统300,但是实际上可设置多个显微镜系统。另一方面,服务器400的数量是一个或多个。显微镜系统100和显微镜系统300采用预定的照明光强度分布来成像检测对象60。通过显微镜系统100和显微镜系统300中每一个的傅立叶分析单元202来分析检测对象60的图像信号。其发送器222向服务器400发送检测对象60的空间频率成分FC。然而,对于系统不必发送检测对象60的图像信号。服务器400的接收器单元424接收检测对象的空间频率成分FC。
服务器400的比较单元405比较检测对象60的发送的空间频率成分 FC与在存储单元406中存储的样本检测对象SM的空间频率成分FC。指定最接近的样本检测对象的空间频率成分。比较单元405指定适用于样本检测对象的观察的预定照明光强度分布或波长滤波器。比较单元405从存储单元406中读取适用于样本检测对象的观察的指定照明光强度分布或波长滤波器。将读取的照明光强度分布或波长滤波器经由发送器单元422传送给显微镜系统100和显微镜系统300。
显微镜系统100和显微镜系统300的接收器单元224接收适用于观察的照明光强度分布,并且设定单元212基于接收的结果设定照明条件。装置调制单元208调制第一空间光调制装置90和390到合适的照明光强度分布。滤波器驱动单元209改变波长滤波器44的透射波长。显微镜系统100和显微镜系统300可在观察检测对象60时通过使用包括空间频率成分的图像特征量来轻易选择合适的照明光强度分布。
观察者采用合适的照明光强度分布通过图像传感器80来检测检测对象60的二维图像,并且如果观察者满意该二维图像,则检测对象60的观察结束。当其打算观察更好的二维图像时,显微镜系统100和显微镜系统300通过爬坡法、基因算法等的使用来最优地计算照明光强度分布或波长滤波器。
将显微镜系统100和显微镜系统300的最优计算结果经由发送器单元222发送给服务器400,并且作为样本检测对象连同空间频率成分一起存储在服务器400的存储单元406中。因为服务器400的存储单元存储从多个显微镜系统100和显微镜系统300发送的照明光强度分布等,所以可存储非常大量的空间频率成分。因此,服务器400的比较单元405可指定最接近的空间频率成分。
虽然通过使用上述的方法,检测对象60的信息可被检测到并且计算单元20可自动设定适用于检测对象的观察的照明形状,但是对本实施例可做出各种修改。
例如,在显微镜系统100中,照明光源30发出白色照明光并且仅特定的光束的波长范围由波长滤波器44透射。若不使用波长滤波器44,可使 用包括发出不同光束(例如红色、绿色和蓝色)波长的多个LED的照明光源30。例如,当希望采用白色光来照射检测对象60时,将红色、绿色和蓝色LED同时开启。当希望采用红色光来照射检测对象60时,仅将红色LED开启。以这种方式,可选择照明光的波长。
例如,图5A中所示的显微镜系统300可进一步包括波长滤波器。在第一和第二实施例中,虽然空间频率成分已经被用作图像特征量,但是图像特征量不限于空间频率成分。例如,表示灰阶出现频率的柱状图(其中垂直轴表示出现频率,而水平轴表示灰阶值)同样可用作图像特征量。最大倾斜度可被用作图像特征量。最大倾斜度表示空间亮度轮廓曲线(其中水平轴表示例如X方向中的位置,而垂直轴表示亮度值)的最大亮度值变化。对比度也可用作图像特征量。

Claims (12)

1.一种显微镜系统,其包括:
光学显微镜,用于观察检测对象;以及
计算机,其连接到所述显微镜;
其中所述显微镜包括,
照明光学系统,其在预定的照明条件下采用来自光源的照明光照明所述检测对象,
成像光学系统,其基于来自所述检测对象的光形成所述检测对象的图像,以及
图像传感器,其检测由所述成像光学系统形成的所述检测对象的图像并且输出图像信号,以及
其中所述计算机包括,
图像分析单元,其基于由所述图像传感器检测的图像信号来获取所述检测对象的图像特征量,
存储单元,其使在与所述检测对象相同的所述预定的照明条件下对多个样本检测对象照射所述照明光获得的各样本检测对象对应的图像特征量与适用于所述各样本检测对象的观察的包含照明光的强度分布或照明光的波长的照明光的照明状态相关联并预先存储,
比较单元,其比较所述检测对象的图像特征量与所述多个样本检测对象的各样本检测对象对应的图像特征量,并且从所述多个样本检测对象中指定最接近所述检测对象的图像特征量的样本检测对象的图像特征量,以及
设定单元,其基于适用于具有由所述比较单元指定的所述图像特征量的所述样本检测对象的观察的所述照明光的照明状态,来自动设定所述照明光学系统的照明条件为适于所述检测对象的观察的照明条件。
2.根据权利要求1所述的显微镜系统,其中所述照明光学系统进一步包括第一空间光调制装置,该第一空间光调制装置在共轭于所述成像光学系统的光瞳的位置处改变所述照明光强度分布,以及
其中所述设定单元包括装置调制单元,其调制所述第一空间光调制装置。
3.根据权利要求1至2中的任何一项所述的显微镜系统,其中所述检测对象的所述图像特征量包括所述检测对象的所述图像的至少一部分的空间频率成分、柱状图、对比度或最大倾斜度。
4.根据权利要求2所述的显微镜系统,其进一步包括计算单元,所述计算单元:在由所述第一空间光调制装置形成的所述照明光强度分布下,使用由所述图像传感器检测的所述检测对象的图像信号作为初始数据,所述第一空间光调制装置由所述装置调制单元调制;以微小的量改变所述照明光强度分布,在每次所述照明光强度分布改变时,获取所述图像信号;以及相继计算所述照明光强度分布的合适大小。
5.根据权利要求4所述的显微镜系统,其中所述计算单元:从所述初始数据中改变所述照明光强度分布以形成第一和第二照明光强度分布;获取对应于所述第一和第二照明光强度分布的第一和第二图像信号;以及通过基因算法的使用来计算最优照明光强度分布。
6.根据权利要求2所述的显微镜系统,其进一步包括第二空间光调制装置,该第二空间光调制装置布置在共轭于所述成像光学系统的光瞳位置或所述光瞳的位置附近以及共轭于所述第一空间光调制装置的位置处,
其中所述第二空间光调制装置改变被添加到透射光的相位空间分布或透射率的空间分布。
7.根据权利要求1或2所述的显微镜系统,其进一步包括判定单元,该判定单元基于由所述图像传感器检测的所述图像信号来判定所述检测对象是吸收对象还是相位对象。
8.根据权利要求1或2所述的显微镜系统,其中所述显微镜进一步包括波长滤波器,该波长滤波器选择所述照明光的波长范围,以及
其中由所述图像传感器检测的所述图像信号通过所述波长滤波器的使用来检测。
9.根据权利要求1或2所述的显微镜系统,其中所述样本检测对象包括由所述显微镜系统先前观察的检测对象。
10.根据权利要求1所述的显微镜系统,其进一步包括:
发送器单元,其发送所述检测对象的所述图像特征量到服务器;以及
接收器单元,其接收由所述服务器设定的所述照明光学系统的照明条件,
其中所述服务器包括,
第二比较单元,其比较所述检测对象的所述图像特征量与多个样本检测对象的图像特征量,并且指定最接近所述检测对象的所述图像特征量的所述样本检测对象的图像特征量,以及
第二设定单元,其基于适用于具有由所述第二比较单元指定的所述图像特征量的样本检测对象的观察的照明状态,来设定所述照明光学系统的照明条件。
11.一种服务器,其包括:
第二接收器单元,其从根据权利要求1的所述显微镜系统中来接收所述检测对象的图像特征量;
第二比较单元,其比较由所述第二接收器单元接收的所述检测对象的所述图像特征量与多个样本检测对象的图像特征量,并且指定最接近所述检测对象的所述图像特征量的所述样本检测对象的图像特征量;
第二设定单元,其基于适用于具有由所述第二比较单元指定的所述图像特征量的所述样本检测对象的观察的照明状态,来设定所述照明光学系统的照明条件;以及
第二发送器单元,其发送由所述第二设定单元设定的所述照明光学系统的所述照明条件到所述显微镜系统。
12.一种用于使用显微镜系统来观察检测对象的方法,所述显微镜系统包括显微镜以及被连接到所述显微镜的计算机,所述显微镜包括:照明光学系统,其在预定的照明条件下采用来自光源的照明光照明所述检测对象;成像光学系统,其基于来自所述检测对象的光形成所述检测对象的图像;以及图像传感器,其检测由所述成像光学系统形成的所述检测对象的图像并且输出图像信号,所述方法包括如下步骤:
图像分析,用于基于由所述图像传感器检测的图像信号来获取所述检测对象的图像特征量;
存储,用于使在与所述检测对象相同的所述预定的照明条件下对多个样本检测对象照射所述照明光获得的各样本检测对象对应的图像特征量与适用于所述各样本检测对象的观察的照明光的照明状态相关联并预先存储,
比较,用于比较所述检测对象的图像特征量与所述多个样本检测对象的各样本检测对象对应的图像特征量;
指定,用于从所述多个样本检测对象中指定最接近所述检测对象的图像特征量的所述样本检测对象的图像特征量;以及
设定,用于基于适用于具有由所述比较指定的所述图像特征量的所述样本检测对象的观察的所述照明光的照明状态,来自动设定所述照明光学系统的照明条件为适于所述检测对象的观察的照明条件。
CN201280017713.8A 2011-04-12 2012-01-30 显微镜系统、服务器和程序 Expired - Fee Related CN103460110B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP087822/2011 2011-04-12
JP2011087822A JP5757458B2 (ja) 2011-04-12 2011-04-12 顕微鏡システム、サーバー及びプログラム
PCT/JP2012/052569 WO2012140940A1 (en) 2011-04-12 2012-01-30 Microscope system, server, and program

Publications (2)

Publication Number Publication Date
CN103460110A CN103460110A (zh) 2013-12-18
CN103460110B true CN103460110B (zh) 2016-11-30

Family

ID=

Similar Documents

Publication Publication Date Title
TWI551885B (zh) 顯微鏡系統、伺服器和程式
US10451860B2 (en) Microscope system
CN103492926A (zh) 成像设备和程序
EP3150692B1 (en) Cell evaluation device, method, and program
US9261690B2 (en) Microscope system
KR100924117B1 (ko) 렌즈 검사 장치
US20170322408A1 (en) Illumination setting method, light sheet microscope apparatus, and recording medium
JP2019100930A (ja) 検査システム及び検査方法
IL296784B1 (en) Imaging-assisted scanning spectroscopy for gem identification
CN115032196A (zh) 一种全划片高通量彩色病理成像分析仪器及方法
EP3511773B1 (en) Image inspection device and illumination device
AU2020325162B2 (en) Optical imaging performance test system and method
CN103460110B (zh) 显微镜系统、服务器和程序
US7589330B2 (en) Ultraviolet microscope apparatus
EP3282300B1 (en) Microscope
JP7251957B2 (ja) 拡大観察装置

Legal Events

Date Code Title Description
PB01 Publication
SE01 Entry into force of request for substantive examination
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20161130