CN104185806A - 图像处理设备,图像处理系统,图像处理方法和图像处理程序 - Google Patents
图像处理设备,图像处理系统,图像处理方法和图像处理程序 Download PDFInfo
- Publication number
- CN104185806A CN104185806A CN201280064884.6A CN201280064884A CN104185806A CN 104185806 A CN104185806 A CN 104185806A CN 201280064884 A CN201280064884 A CN 201280064884A CN 104185806 A CN104185806 A CN 104185806A
- Authority
- CN
- China
- Prior art keywords
- image data
- display image
- display
- data
- viewing area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 161
- 238000003672 processing method Methods 0.000 title claims description 28
- 238000000034 method Methods 0.000 claims abstract description 53
- 230000008569 process Effects 0.000 claims abstract description 40
- 230000000873 masking effect Effects 0.000 claims description 50
- 238000006243 chemical reaction Methods 0.000 claims description 13
- 238000006073 displacement reaction Methods 0.000 claims description 12
- 230000008859 change Effects 0.000 claims description 11
- 238000012546 transfer Methods 0.000 claims description 10
- 238000004088 simulation Methods 0.000 claims description 7
- 238000004040 coloring Methods 0.000 claims description 4
- 230000000007 visual effect Effects 0.000 description 46
- 238000010586 diagram Methods 0.000 description 22
- 230000006870 function Effects 0.000 description 19
- 230000003287 optical effect Effects 0.000 description 12
- 230000005055 memory storage Effects 0.000 description 9
- 239000002609 medium Substances 0.000 description 8
- 230000015572 biosynthetic process Effects 0.000 description 7
- 238000012937 correction Methods 0.000 description 6
- 238000012360 testing method Methods 0.000 description 6
- 239000012634 fragment Substances 0.000 description 5
- 230000006835 compression Effects 0.000 description 4
- 238000007906 compression Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000010827 pathological analysis Methods 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 230000004304 visual acuity Effects 0.000 description 3
- 241001269238 Data Species 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005401 electroluminescence Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 230000003321 amplification Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000006059 cover glass Substances 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 239000004615 ingredient Substances 0.000 description 1
- 230000013011 mating Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000000877 morphologic effect Effects 0.000 description 1
- 239000012120 mounting media Substances 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 238000000879 optical micrograph Methods 0.000 description 1
- 230000005693 optoelectronics Effects 0.000 description 1
- 230000007170 pathology Effects 0.000 description 1
- 238000004171 remote diagnosis Methods 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/14—Display of multiple viewports
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/20—Processor architectures; Processor configuration, e.g. pipelining
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/001—Texturing; Colouring; Generation of texture or colour
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Chemical & Material Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Analytical Chemistry (AREA)
- Optics & Photonics (AREA)
- Computer Hardware Design (AREA)
- Signal Processing (AREA)
- Microscoopes, Condenser (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
本发明的目的是减轻观察虚拟载玻片图像的观察者的负担。图像处理设备处理虚拟载玻片图像。图像处理设备包括显示图像数据生成单元,所述显示图像数据生成单元对观察区域显示图像数据和非观察区域显示图像数据中的至少一个进行图像处理,从而生成用于在显示设备上显示图像的显示图像数据,所述图像不同于当对整个图像数据进行一致的图像处理时获得的图像。
Description
技术领域
本发明涉及图像处理设备,图像处理方法,图像处理系统和程序。
背景技术
近年来,在病理学领域,作为充当病理诊断工具的光学显微镜的替代物,虚拟载玻片系统已引起关注。虚拟载玻片系统拾取并数字化准备好的载玻片上的测试样本(试样)的图像,从而使在显示器上的病理诊断成为可能。通过利用这样的虚拟载玻片系统数字化病理诊断图像,测试样本的常规光学显微镜图像可被处理成数字数据。这预计可提供诸如更快的远程诊断、利用数字图像向患者进行说明、罕见病例信息的共享、和更高效的教育和培训之类的优点。
对于实现与光学显微镜可比的操作的虚拟载玻片系统来说,必须数字化准备好的载玻片上的整个测试样本的图像。通过数字化整个测试样本的图像,可通过在个人计算机(PC)或工作站上运行的观察器软件,观察由虚拟载玻片系统生成的数字数据。一般,通过数字化整个测试样本的图像而获得的像素数为几亿到几十亿像素,这是非常大量的数据。尽管利用虚拟载玻片系统生成的数据的量很大,不过这允许通过观察器中的放大和缩小操作,观察从显微图像(详细的放大图像)到宏观图像(全体俯瞰图像)的图像,并提供各种便利性。通过预先获得所有的必需信息,能够以用户希望的分辨率或倍率,立即显示从低倍率图像到高倍率图像的各种图像。
迄今为止,提出了这样的显微镜,其中在通过显微镜同时观察样本图像和信息图像的情况下,能够通过控制用于显示信息图像的光量,以易于观察的方式呈现信息图像(专利文献(PTL)1)。
引文列表
专利文献
PTL1:日本专利公开No.8-122647
发明内容
通过对拾取观察对象的图像获得的图像数据进行图像处理而显示在显示器上的虚拟载玻片图像是不同于通过显微镜观察的图像观看的。当显示虚拟载玻片图像时,显示区域通常比通过显微镜观察的观察视野宽。于是,基于虚拟载玻片图像数据并显示在显示器上的显示图像(下面也称为“显示用图像”)包含大量的信息。结果,观察者必须注视较宽的区域,这对观察者来说是负担。
本发明的目的是提出一种生成减轻观察者的负担的虚拟载玻片图像的图像处理设备。
为了实现该目的,本发明的一个方面提供一种处理虚拟载玻片图像的图像处理设备,所述图像处理设备包括
图像数据获取单元,所述图像数据获取单元被配置成获取通过拾取成像目标的图像而得到的图像数据;和
显示图像数据生成单元,所述显示图像数据生成单元被配置成根据图像数据生成显示图像数据,所述显示图像数据包括观察区域显示图像数据和非观察区域显示图像数据,观察区域显示图像数据是用于在显示设备上显示根据预定技术确定的或者由用户指定的观察区域的数据,非观察区域显示图像数据是用于在显示设备上显示观察区域外的区域的数据。
显示图像数据生成单元对观察区域显示图像数据和非观察区域显示图像数据中的至少一个进行图像处理,以生成用于在显示设备上显示图像的显示图像数据,该图像不同于当对整个图像数据进行一致的图像处理时获得的图像。
本发明的另一方面提供一种处理虚拟载玻片图像的图像处理方法,所述图像处理方法包括
图像数据获取步骤,所述图像数据获取步骤获取通过拾取成像目标的图像而获取的图像数据;和
显示图像数据生成步骤,所述显示图像数据生成步骤根据在图像数据获取步骤中获取的图像数据生成显示图像数据,所述显示图像数据包括观察区域显示图像数据和非观察区域显示图像数据,观察区域显示图像数据是用于在显示设备上显示根据预定技术确定的或者由用户指定的观察区域的数据,非观察区域显示图像数据是用于在显示设备上显示观察区域外的区域的数据。
显示图像数据生成步骤是对观察区域显示图像数据和非观察区域显示图像数据中的至少一个进行图像处理,以生成用于在显示设备上显示图像的显示图像数据的步骤,该图像不同于当对整个图像数据进行一致的图像处理时获得的图像。
本发明的另一方面提供一种处理虚拟载玻片图像的图像处理方法,所述图像处理方法包括
图像数据获取步骤,所述图像数据获取步骤获取通过拾取成像目标的图像而获取的图像数据;和
显示图像数据生成步骤,所述显示图像数据生成步骤根据在图像数据获取步骤中获取的图像数据生成显示图像数据,所述显示图像数据包括观察区域显示图像数据和非观察区域显示图像数据,观察区域显示图像数据是用于在显示设备上显示根据预定技术确定的或者由用户指定的观察区域的数据,非观察区域显示图像数据是用于在显示设备上显示观察区域外的区域的数据。
显示图像数据生成步骤是对观察区域显示图像数据和非观察区域显示图像数据中的至少一个进行图像处理,以生成第一显示图像数据和第二显示图像数据的步骤,第一显示图像数据是用于在显示设备上显示与当对整个图像数据进行一致的图像处理时获得的图像不同的图像的数据,第二显示图像数据是当不对图像数据进行图像处理时或者当对整个图像数据进行一致的图像处理时获得的数据。
所述图像处理方法还包括显示图像数据传送步骤,所述显示图像数据传送步骤在待显示在显示设备上的图像的位置或显示倍率被改变时,把第一显示图像数据传送给显示设备,而在待显示在显示设备上的图像的位置或显示倍率不被改变时,把第二显示图像数据传送给显示设备。
本发明的另一方面提供一种图像处理系统,包括所述图像处理设备和显示设备。所述显示设备被配置成以具有再现显微镜视野的观察区域的模式,显示由图像处理设备处理的虚拟载玻片图像。
本发明的另一方面提供一种使计算机执行图像处理方法的各个步骤的程序。
参考附图,在实现本发明的实施例的说明中,本发明的其它方面将变得明显。
按照本发明的优选实施例,通过用不同的方式显示观察区和非观察区,能够减轻观察者的负担。
附图说明
图1是图解说明利用按照本发明的图像处理设备的图像处理系统的设备结构的总示意图。
图2是图解说明利用按照本发明的图像处理设备的图像处理系统中的图像拾取设备的功能结构的功能方框图。
图3是图解说明按照本发明的图像处理设备的功能结构的功能方框图。
图4是图解说明按照本发明的图像处理设备的硬件结构的方框图。
图5是说明显微镜视野显示(圆形显示)的概念的示意图。
图6是图解说明按照本发明的图像处理设备的显微镜视野显示处理的流程的流程图。
图7是图解说明按照本发明的图像处理设备中的显微镜视野(观察区)显示图像数据的生成的详细流程的流程图。
图8示意图解说明按照本发明的图像处理系统的显示屏幕的例子。
图9是图解说明利用按照第二实施例的图像处理设备的图像处理系统的设备结构的总示意图。
图10是图解说明按照第二实施例的图像处理设备中的显微镜视野显示图像数据的生成的详细流程的流程图。
具体实施方式
下面参考附图,说明本发明的实施例。
按照本发明的图像处理设备是处理虚拟载玻片图像的设备。图像处理设备包括图像数据获取单元和显示图像数据生成单元。
根据利用图像数据获取单元获取的图像数据,显示图像数据生成单元生成用于在显示设备上显示的显示图像数据,显示图像数据包括观察区域显示图像数据和非观察区域显示图像数据。观察区域是根据预定技术,例如,根据预先保存在图像处理设备或外部存储装置中的信息和/或根据用户的指令确定的。观察区域最好是显微镜视野(一般为圆形)的再现。待再现的显微镜视野的种类最好作为上述信息,被预先保存。预先保存的信息最好包括初始视野信息(它是当不存在用户的指令时,作为观察区域选择的信息,下面也称为“初始信息”)和/或多个具体的现有显微镜视野信息(即,多个用户可选择的显微镜视野信息)。初始视野信息可被保存,以便作为所述多个显微镜视野信息之一被选择。根据用户的指令确定的新的观察区域可被保存为附加的视野信息,以致可作为视野信息的选择项被选择。可为每个用户,管理根据用户的指令确定的新的观察区域。
显示图像数据生成单元对观察区域显示图像数据和非观察区域显示图像数据中的至少一个进行图像处理,从而生成用于在显示设备上显示图像的显示图像数据,所述图像不同于当对整个图像数据进行一致的图像处理时获得的图像。
显示图像数据生成单元最好生成用于显示再现显微镜视野的观察区域的显示图像数据。显示图像数据生成单元最好根据现有显微镜视野信息,生成显示图像数据。这种情况下,显示图像数据生成单元最好根据现有显微镜视野信息和待显示成图像的倍率信息,生成显示图像数据。显示图像数据生成单元最好通过利用多个现有显微镜视野信息中的一个预定信息作为初始信息,生成显示图像数据。显示图像数据生成单元最好通过根据用户的选择,利用多个现有显微镜视野信息之一,生成显示图像数据。显示图像数据生成单元最好使非观察区域的亮度低于观察区域的亮度地生成显示图像数据。
通过对每个像素把图像数据乘以多值掩蔽信息,可生成显示图像数据。通过根据指示两种处理形式的掩蔽信息,对图像数据进行计算,可生成显示图像数据。指示两种处理形式的掩蔽信息可表示将采用图像数据的位置,和图像数据将经历移位(bit shifting)的位置。这里,术语“位置”指的是显示在显示设备上的图像的显示位置。通过把坐标信息包含在掩蔽信息中,可表示所述位置。可用从外部输入的指令,改变移位的量。当具有RGB颜色信息的彩色图像数据被用作图像数据时,显示图像数据生成单元可把图像数据转换成亮度色差数据,然后对通过转换获得的亮度值进行计算。
当显示图像数据生成单元生成用于显示模拟显微镜视野的圆形观察区域的显示图像数据时,最好按照到圆形观察区域的中心的距离,改变移位的量。
在待显示在显示设备上的图像的位置或显示倍率被改变时,显示图像数据生成单元可生成不区分观察区域和非观察区域的显示图像数据。
非观察区域显示图像数据可包含关于成像目标的信息。
本发明的优选图像处理系统包括图像处理设备和图像显示设备。在下面的说明和附图中,“图像显示设备”可被称为“显示设备”。上面说明的图像处理设备可用作图像处理系统中的图像处理设备。本发明的图像处理系统可包括下面说明的图像拾取设备和/或图像服务器。
本发明的优选图像处理方法是处理虚拟载玻片图像的图像处理方法,至少包括图像数据获取步骤和显示图像数据生成步骤。本发明的图像处理方法还可包括在显示图像数据生成步骤之后的显示图像数据传送步骤。图像数据获取步骤获取通过拾取成像目标的图像而获得的图像数据。显示图像数据生成步骤生成包括观察区域显示图像数据和非观察区域显示图像数据的显示图像数据。显示图像数据是用于在显示设备上显示图像的数据。在本发明的图像处理方法中,可以反映图像处理设备的上述或下述实施例。
按照本发明的优选实施例的显示图像数据生成步骤生成包括观察区域显示图像数据和非观察区域显示图像数据的第一图像数据,和/或不区分观察区域显示图像数据和非观察区域显示图像数据的第二显示图像数据。当不对图像数据进行图像处理时,或者当对整个图像数据进行一致的图像处理时,获得第二显示图像数据。
按照本发明的优选实施例的显示图像数据传送步骤在待显示在显示设备上的图像的位置或显示倍率被改变时,把第一显示图像数据传送给显示设备。另外,按照本发明的优选实施例的显示图像数据传送步骤在待显示在显示设备上的图像的位置或显示倍率不被改变时,把第二显示图像数据传送给显示设备。
按照本发明的程序是使计算机执行上述图像处理方法的各个步骤的程序。
现在参考以下实施例,说明本发明。
[第一实施例]
按照本发明的图像处理设备可以用在包括图像拾取设备和显示设备的图像处理系统中。现在参考图1,说明图像处理系统。
(图像处理系统的设备结构)
图1是利用按照本发明的图像处理设备的图像处理系统的总示意图。图像处理系统包括图像拾取设备(例如,显微镜设备或虚拟载玻片扫描仪)101,图像处理设备102和图像显示设备103。图像处理系统是具有获得和显示试样(测试样本)的二维图像的功能的系统,试样是经历图像拾取的成像目标。在本实施例中,图像拾取设备101和图像处理设备102通过专用或通用I/F电缆104相互连接,图像处理设备102和图像显示设备103通过通用I/F电缆105相互连接。
虚拟载玻片设备可被适当地用作图像拾取设备101。虚拟载玻片设备具有拾取单个二维图像,或者在二维平面方向上位置不同的多个二维图像,并输出数字图像的功能。诸如电荷耦合器件(CCD)传感器或互补金属氧化物半导体(CMOS)之类的固态图像拾取器件适合用于获得二维图像。代替虚拟载玻片设备,数字显微镜设备可以用作图像拾取设备101。通过把数字照相机附加到典型的光学显微镜的目镜上,可获得数字显微镜设备。即使当利用数字照相机拾取图像时,作为结果的图像也可被分成观察区域和非观察区域,如果选择高倍率显示模式,或者如果通过组合通过改变图像拾取区域,多次拾取图像而获得的原始图像数据,形成显示图像数据的话。
具有按照用户的请求,根据从图像拾取设备101获得的一个或多个原始图像数据,生成用于在显示设备103上显示的数据的功能的设备可合适地用作图像处理设备102。例如,图像处理设备102可以是包括硬件资源,比如中央处理器(CPU),RAM,存储装置,和包括操作单元的各种I/F的通用计算机或工作站。诸如硬盘驱动器之类的大容量信息存储装置可合适地用作存储装置。存储装置最好保存用于实现(下面说明的)各个处理的程序和数据,以及操作系统(OS)。当CPU把必需的程序和数据从存储装置载入RAM中并执行所述程序时,实现上述各个功能。操作单元106例如包括键盘和鼠标。操作员利用操作单元106输入各种指令。操作单元106可以是图像处理设备102的组件。
本实施例的图像显示设备103是显示作为图像处理设备102中的计算的结果而获得的观察图像的显示器。显示设备103可包括CRT或液晶显示器。
在图1中例示的例子中,图像处理系统包括3个设备,图像拾取设备101,图像处理设备102和图像显示设备103。不过,本发明的结构并不局限于此。例如,可以使用与图像显示设备一体的图像处理设备,或者图像处理设备的功能可被并入图像拾取设备中。图像拾取设备,图像处理设备和图像显示设备的功能可用单个设备实现。相反,图像处理设备等的功能可被划分,并用多个不同的设备实现。
(图像拾取设备的功能结构)
图2是图解说明图像拾取设备101的功能结构的功能方框图。
本实施例的图像拾取设备101主要包括照明单元201,载物台202,载物台控制单元205,成像光学系统207,图像拾取单元210,显影单元219,初步测量单元220,主控制系统221和数据输出单元(I/F)222。
本实施例的照明单元201是均匀地照射载物台202上的准备好的载玻片206的装置。最好,照明单元201包括光源,照明光学系统和驱动光源的控制系统。本实施例的载物台202由载物台控制单元205驱动控制,可沿(XYZ)3个轴向移动。通过把组织的切片或涂抹细胞放置在载玻片上,并用封固剂把组织的切片或涂抹细胞固定在盖玻片之下,获得本实施例的准备好的载玻片206。
本实施例的载物台控制单元205包括驱动控制系统203和载物台驱动机构204。在本实施例中,驱动控制系统203响应来自主控制系统221的指令,驱动控制载物台202。在本实施例中,根据利用初步测量单元220测量的试样的位置信息和厚度信息(距离信息),和必要时输入的用户的指令,确定载物台202的移动方向和移动量。本实施例的载物台驱动机构204按照来自驱动控制系统203的指令,驱动载物台202。
本实施例的成像光学系统207是用于在图像拾取传感器208上形成准备好的载玻片206上的试样的光学图像的镜头组。
本实施例的图像拾取单元210包括图像拾取传感器208和模拟前端(AFE)209。本实施例的图像拾取传感器208是利用光电转换,把二维光学图像转换成电物理量的一维或二维图像传感器。例如,CCD传感器或CMOS器件被用作图像拾取传感器208。当使用一维传感器作为图像拾取传感器208时,通过沿着扫描方向,用一维传感器扫描,可获得二维图像。本实施例的图像拾取传感器208输出电压值对应于光的强度的电信号。当期望彩色图像作为拾取的图像时,附加有Bayer模式滤色片的单板图像传感器可用作图像拾取传感器。通过沿XY轴方向移动载物台202,本实施例的图像拾取单元210可通过图像拾取操作,拾取试样图像的图像片段(image segment)。
本实施例的AFE209是把从图像拾取传感器208输出的模拟信号转换成数字信号的电路。AFE209最好包括H/V驱动器,相关双采样(CDS)电路,放大器,AD转换器和定时信号发生器。本实施例的H/V驱动器把用于驱动图像拾取传感器208的垂直同步信号和水平同步信号转换成为驱动传感器必需的电位。本实施例的CDS电路是消除固定模式噪声的电路。本实施例的放大器是调整已利用CDS电路从中除去噪声的模拟信号的增益的模拟放大器。本实施例的AD转换器把模拟信号转换成数字信号。当图像拾取设备的末级输出为8比特时,AD转换器最好考虑到将在以后各级中进行的处理,把模拟信号转换成被量化成约10比特~16比特的数字数据,并输出该数字数据。通过转换而获得的传感器输出数据被称为RAW数据。在本实施例中,RAW数据由下一级中的显影单元219显影。本实施例的定时信号发生器生成用于调整图像拾取传感器208的定时和下一级中的显影单元219的定时的信号。
当CCD传感器被用作图像拾取传感器208时,一般使用上面说明的AFE209。当能够进行数字输出的CMOS图像传感器被用作图像拾取传感器208时,AFE209的功能一般包含在传感器中。尽管图中未示出,不过在本实施例中,存在控制图像拾取传感器208的图像拾取控制器。图像拾取控制器不仅控制图像拾取传感器208的操作,而且控制诸如快门速度和帧速率之类的操作定时,和关注区域(ROI)。
本实施例的显影单元219包括黑色校正单元211,白平衡调整单元212,去马赛克单元213,图像组合单元214,分辨率转换单元215,滤波器处理单元216,γ校正单元217和压缩单元218。本实施例的黑色校正单元211从RAW数据的各个像素中,减去在遮光状态下获得的黑色校正数据。本实施例的白平衡调整单元212通过按照来自照明单元201的光的色温,调整各个RGB颜色的增益,再现期望的白色。具体地,白平衡校正用数据被添加到黑色校正后的RAW数据中。在处理单色图像时,不需要白平衡调整。本实施例的显影单元219根据利用图像拾取单元210拾取的试样图像的图像片段数据,生成分层图像数据(下面说明)。
本实施例的去马赛克单元213从Bayer模式RAW数据,生成各个RGB颜色的图像数据。本实施例的去马赛克单元213通过把邻近像素(包括相同颜色的像素和其它颜色的像素)的值插入RAW数据中,计算目标像素的各个RGB颜色的值。本实施例的去马赛克单元213还进行缺陷像素的校正(插值)。当图像拾取传感器208没有滤色片,并获得单色图像时,不需要去马赛克。
本实施例的图像组合单元214把通过利用图像拾取传感器208,分割图像拾取区域而获得的图像数据接合在一起,从而生成期望的图像拾取区域的大容量图像数据。通常,试样存在于的区域大于利用现有图像传感器,在单次图像拾取操作中获得的图像拾取区域。于是,通过把多个图像片段数据接合在一起,生成单一的二维图像数据。例如,假定要以0.25μm的分辨率,拾取准备好的载玻片206上的10-mm正方区域的图像。在这种情况下,每边的像素数为10mm/0.25μm=40000,以致像素总数是该值的平方,即,16亿像素。为了利用具有10兆(10M)像素的图像拾取传感器208获得16亿像素的图像数据,必须把该区域分割成16亿/10兆=160片段,以进行图像拾取操作。例如,通过根据载物台202的定位信息进行定位,通过匹配多个图像片段的对应点或线条,或者根据图像片段数据的位置信息,多个图像数据被接合在一起。利用插值,比如零阶插值,线性插值或高阶插值,可以平滑地把多个图像数据接合在一起。尽管在本实施例中设想一个大容量图像的生成,不过,图像处理设备102可被配置成具有在显示图像数据的生成期间,把分别获得的图像片段接合在一起的功能。
为了快速显示利用图像组合单元214生成的大容量的二维图像,本实施例的分辨率转换单元215预先通过分辨率转换,按照显示倍率生成图像。分辨率转换单元215生成并组合从低倍率到高倍率的多个级别的图像数据,从而形成具有分层结构的图像数据。理想的是利用图像拾取设备101获取的图像数据是用于诊断用途的高分辨率图像拾取数据。不过,为了显示如上所述由数十亿像素构成的图像数据的缩小图像,如果按照各个显示请求进行分辨率转换,那么该处理会被延迟。于是,理想的是预先准备具有几种不同倍率的分层图像,按照来自显示方的请求,从准备的分层图像中选择倍率与显示倍率接近的图像数据,并把倍率调整到显示倍率。为了获得更好的图像质量,理想的是根据具有更高倍率的图像数据,生成显示图像数据。当高分辨率地拾取图像时,通过根据解像力最高的图像数据,用分辨率转换技术缩小图像,生成显示用分层图像数据。这里适用的分辨率转换技术是作为二维线性插值的双线性插值,或者利用三维插值公式的双三次插值。
本实施例的滤波器处理单元216是抑制包含在图像中的高频分量,除去噪声,和增强解像感的数字滤波器。本实施例的γ校正单元217按照一般的显示装置的灰度表现特性,进行向图像中增加逆特性的处理,或者通过高亮度部分的灰度压缩或暗色部分的处理,按照人类视觉特性,进行灰度变换。由于在本实施例中,获得用于形态观察的图像,因此对图像数据进行适合于后续阶段中的图像组合或显示处理的灰度变换。
本实施例的压缩单元218进行压缩编码,以便提高大容量二维图像数据的传输效率,和减小要保存的数据的容量。作为静止图像压缩的方法,这里可以使用标准化的编码方法,比如联合图像专家组(JPEG)方法,或者改良和进化版本的JPEG方法,比如JPEG2000或JPEG XR方法。
本实施例的初步测量单元220进行初步测量,以便计算准备好的载玻片206上的试样的位置信息,和到期望的焦点位置的距离有关的信息,和用于调整可归因于试样的厚度的光量的参数。初步测量单元220获得主测量(即,拾取的图像数据的获取)之前的信息,从而使得可以高效地进行图像拾取操作。可以使用解像力比图像拾取传感器208低的二维图像拾取传感器来获得二维平面的位置信息。初步测量单元220从获得的图像中识别试样在XY平面中的位置。可以利用激光位移计或基于Shack-Hartmann方式的仪器来获得距离信息和厚度信息。
本实施例的主控制系统221分别控制上面说明的各个单元。主控制系统221和显影单元219的操作可用具有CPU、ROM和RAM的控制电路实现。例如,程序和数据被预先保存在ROM中,CPU利用RAM作为工作存储器,执行所述程序。从而实现主控制系统221和显影单元219的功能。ROM是诸如EEPROM或闪存之类的器件。RAM可以是DRAM器件,比如DDR3。显影单元219的功能可用作为专用硬件装置形成的ASIC替换。
本实施例的数据输出单元222是用于把显影单元219生成的RGB颜色图像传送给图像处理设备102的接口。本实施例的图像拾取设备101和图像处理设备102由通信光缆相互连接。可用通用接口,比如USB或千兆比特以太网(注册商标)替换所述通信光缆。
(图像处理设备的功能结构)
图3是图解说明按照本发明的图像处理设备102的功能结构的功能方框图。
本实施例的图像处理设备102主要包括图像数据获取单元301,记忆保持单元(或存储器)302,用户输入信息获取单元303,显示设备信息获取单元304,显示数据生成控制器305,掩蔽信息306,显示图像数据获取单元307,显示图像数据生成单元308和显示数据输出单元309。在下面的说明和附图中,“显示用图像数据(或显示图像数据)”可被称为“显示数据”,“显示用图像”可被称为“显示图像”。
本实施例的图像数据获取单元301获得利用图像拾取设备101拾取的图像的图像数据。在本实施例中,术语“图像数据”指的是下述至少之一:通过片段地拾取试样的图像而获得的RGB颜色的多个图像片段数据,通过组合多个图像片段数据而获得的一个二维图像数据,和根据二维图像数据,对于各个显示倍率分层地组织的图像数据。注意,图像片段数据可以是单色图像数据。
本实施例的记忆保持单元302捕捉并保存通过图像数据获取单元301从外部设备获取的图像数据。记忆保持单元302最好不仅保持多个具体的现有显微镜视野信息,而且保持和最初要使用所述多个视野信息中的哪个视野信息有关的信息。
本实施例的用户输入信息获取单元303获取用户通过包括键盘和鼠标的操作单元输入的的信息(用户输入信息)。用户输入信息的例子包括更新显示图像数据的指令,比如改变显示位置的指令,或者显示放大或缩小的图像的指令;显示模式的选择;和观察区域的指定(例如,记忆保持单元保持的多个显微镜视野信息任意之一的选择)。在本实施例中,显示模式包括再现模拟显微镜观察视野的显示形态的模式,和不再现模拟显微镜观察视野的显示形态的模式。(上面说明的)移位的量也可由用户指定或改变。尽管在本实施例中,显微镜视野被假定为圆形,不过,形状并不局限于此。
本实施例的显示设备信息获取单元304不仅获得包含在显示设备103中的显示器的显示区域信息(屏幕分辨率),而且获得当前显示的图像的显示倍率信息。
本实施例的显示数据生成控制器305按照利用用户输入信息获取单元303获取的用户的指令,控制显示图像数据的生成。另外,本实施例的显示数据生成控制器生成并更新掩蔽信息(下面说明)。
本实施例的掩蔽信息306是用于生成为在显示屏幕上再现显微镜视野所需的显示图像数据的控制信息。本实施例的掩蔽信息306包含构成显示设备103的显示区域的显示像素的信息。这使得能够对于各个像素,判定是要不改变亮度值地显示对应的图像数据,还是要改变亮度值地显示对应的图像数据。在本实施例中,如果各个像素具有5比特值,并且掩蔽信息为0,那么图像数据的值被无改变地用作显示图像数据,而如果掩蔽信息是给定值,那么把亮度值向低位侧移位该值。例如,当各个像素具有8比特(256灰度)亮度数据时,如果掩蔽信息的值为1,那么通过把亮度数据向左移动1位,亮度数据的值被减半。如果亮度数据被移动8位,那么图像数据的值为0。8比特移位使图像数据的值为0。这意味显示像素被完全掩蔽(即,目标显示像素的亮度值为0)。在本实施例中,非观察区域的亮度值可被设定为0,或者比原始亮度值低的任何其它值,以降低亮度。在本实施例中,各个像素的亮度数据被假定为利用掩蔽信息的计算的目标。不过,如果假定RGB颜色图像数据为目标,那么RGB颜色图像数据可被变换为YUV或YCC的亮度/色差信号,以致通过变换获得的亮度信息可以作用计算的目标。替代地,可把移位分别应用于RGB颜色中的每种颜色。可对显示区域内的显示像素,自由设定移位。下面将在假定为了再现显微镜观察视野,圆形视野内的掩蔽值为0,而其它区域的掩蔽值为2的情况下进行说明。在掩蔽值被设定为2的显示区域中,获得的图像数据的亮度值被降低到1/4。通过利用其中向特定比特赋予含意的结构,可以增大亮度。
本实施例的掩蔽信息306反映上述初始视野信息,或者用户指定的观察区域信息。用户指定的观察区域信息的例子包括用户从多个现有显微镜视野信息中选择的信息,用户通过修改这样的现有显微镜视野信息而指定的信息,和用户独立于显微镜视野信息指定的观察区域信息。初始视野信息可被预先包含为掩蔽信息306的一部分,或者记忆保持单元302保持的初始视野信息可由显示数据生成控制器305从记忆保持单元302读取。通过用户输入信息获取单元303和显示数据生成控制器305,可在掩蔽信息中反映用户指定的观察区域信息。
按照显示数据生成控制器305的控制,本实施例的显示图像数据获取单元307从记忆保持单元302获取为显示所需的图像数据。
本实施例的显示图像数据生成单元308通过利用由显示图像数据获取单元307获得的图像数据,和掩蔽信息306,生成用于在显示设备103上显示的显示数据。下面利用图6和图7的流程图,详细说明显示数据的生成。
本实施例的显示数据输出单元309把显示图像数据生成单元308生成的显示数据,输出给作为外部设备的显示设备103。
(图像处理设备的硬件结构)
图4是图解说明按照本发明的图像处理设备的硬件结构的方框图。例如,诸如个人计算机(PC)之类的信息处理设备用作所述图像处理设备。
本实施例的PC包括中央处理器(CPU)401,随机存取存储器(RAM)102,存储装置403,数据输入-输出I/F405和使它们彼此相连的内部总线404。
当需要时,本实施例的CPU401访问ROM402,以便在进行各种计算的时候,进行PC的各个部件的总体控制。RAM402被用作CPU401的工作区。RAM402临时保存OS,执行中的各种程序,和待经历处理(比如作为本发明的特征的模拟显微镜观察视野的显示数据的生成)的各种数据(包括所述多个显微镜视野信息)。本实施例的存储装置403是用于记录和读取由CPU401执行的OS以及其中牢固地保存包括程序和各种参数的固件的信息的辅助存储装置。在本实施例中,诸如硬盘驱动器(HDD)之类的磁盘驱动器,或者利用闪存的半导体器件,比如固态盘(SSD)被用作存储装置403。本实施例的存储装置403保存一些或者全部的OS,执行中的各种程序,和待经历处理(比如作为本发明的特征的模拟显微镜观察视野的显示数据的生成)的各种数据(包括所述多个显微镜视野信息)。
本实施例的数据输入-输出I/F405经LAN I/F406,连接到图像服务器,经图形卡连接到显示设备103,经外部设备I/F连接到诸如虚拟载玻片设备或数字显微镜之类的图像拾取设备101,和经操作I/F409连接到键盘410和鼠标411。
本实施例的显示设备103是利用例如液晶,电致发光(EL)或阴极射线管(CRT)的显示装置。尽管这里假定使用作为外部设备连接的显示设备103,不过,可以使用与显示设备一体的PC,比如笔记本PC,作为显示设备103。
尽管诸如键盘410和鼠标411之类的指示装置被假定为连接到本实施例的操作I/F409的装置,不过,诸如触摸面板之类的显示设备103的屏幕可被配置成充当直接输入装置。这种情况下,触摸面板可以与显示设备103一体。
(显微镜视野显示(圆形显示)的概念)
图5是概念地解释显微镜视野和再现显微镜视野的显示形态的示意图。
图5(a)图解说明当用户通过显微镜看时,观察到的视野。显微镜视野由显微镜的物镜的倍率和视场数唯一地限定。具体地,显微镜的视野(F.O.V)被表示成F.O.V.=(目镜的视场数)/(物镜的倍率)。在光学显微镜的情况下,视野被表示成F.O.V.=(目镜的视场数)/((物镜的倍率)×(变焦因子))。当通过显微镜看时,用户能够在如图中例示的圆形区域内,观察试样(对象)的放大图像。在圆形观察区域之外的区域中,用户不能看到图像,因为光未到达该区域。在虚拟载玻片设备出现之前,病理学家(用户)惯于观察这样的观察图像,以进行诊断。借助置于光学显微镜的目镜的数字照相机,能够获得数字观察图像。在获得的图像数据中,在和图5(a)的情况一样的圆形观察区域外的区域中,信息丢失。
图5(b)图解说明其中利用虚拟载玻片设备获得的图像数据被呈现在显示设备103的显示屏幕上的例子。作为通过把与片段地拾取的试样的一部分的图像对应的多个图像数据接合在一起而获得的图像,准备利用虚拟载玻片设备获得的图像数据。从而,由于在显示设备103的整个屏幕内,能够呈现范围比显微镜视野更宽的信息,因此能够提供各种便利。例如,用户不必通过显微镜看,可以确保一定量的观看距离,并且能够一起呈现更多的图像数据和与试样相关的信息。
图5(c)图解说明其中利用虚拟载玻片设备获得的图像数据被显示在显示设备103上,以模拟显微镜视野的例子。尽管试样图像被显示在宽的显示区域中,不过,在要关注的显微镜观察视野之外的区域的亮度被降低。从而,不仅能够再现病理学家熟悉的显微镜的观察视野,而且能够在邻近的区域中呈现更多的图像信息,这是虚拟载玻片设备的一个优点。不仅可通过降低亮度,而且可通过减少颜色信息,以便单色地显示在显微镜观察视野之外的区域,来减少该区域中的信息量。
类似于图5(c),图5(d)图解说明其中呈现模拟显微镜观察视野的显示图像的例子。按照和图5(c)相同的方式,呈现待关注的显微镜观察视野中的图像。不过,在图5(d)中,按照到圆形区域的中心(即,到关注点)的距离,降低在显微镜观察视野之外的区域的亮度。在图5(c)中,在显微镜视野外的整个区域内,信息量是均匀地减少的。然而在图5(d)中,使信息量在待关注的区域及其附近更大。这增大了便利性,因为能够容易地找出关心的区域。
(显微镜视野显示处理)
现在参考图6的流程图,说明本发明的图像处理设备中的显微镜视野显示处理的流程。
在步骤S601,显示设备信息获取单元304从显示设备103,获得作为显示设备103的显示器的显示区域的大小信息(屏幕分辨率)。显示区域的大小信息用于确定待生成的显示数据的大小。
在步骤S602,显示设备信息获取单元304获得当前显示在显示设备103上的图像的显示倍率信息。在初始阶段,设定指定的倍率。显示倍率用于从分层图像中选择任意图像数据。
在步骤S603,根据在步骤S601获得的显示区域的大小信息,和在步骤S602获得的显示倍率信息,从记忆保持单元302获得用于在显示设备103上显示的图像数据。
在步骤S604,判定显示的图像是否要被多人共享。如果显示图像不被多人共享,换句话说,如果显示图像只被一个用户使用,那么处理进入步骤S605。如果显示图像将由多人共享,那么处理进入步骤S608。例如在病理学家和涉及的其他人,比如临床医生参加的医院内会议,为了教育学生和实习医生而呈现的情况下,这样的显示图像被多人共享。当这样的显示图像被多人共享时,取决于用户,呈现的显示图像中的关注区域可能不同。于是,最好选择正常视野观察模式,而不是会妨碍个人观察的显微镜观察视野模式。
在步骤S605,判定用户是否选择了显微镜观察视野模式。如果选择了显微镜观察视野模式,那么处理进入步骤S606。如果选择了正常视野观察模式,那么处理进入步骤S608。
在步骤S606,判定在步骤S601中获得的显示设备103的显示区域信息(屏幕分辨率)是否大于或等于预先设定的值。如果显示区域信息(屏幕分辨率)大于或等于设定值,那么处理进入步骤S607,如果小于设定值,那么处理进入步骤S608。如果显示设备103的屏幕分辨率(显示区域信息)较高,那么可以显示大量的信息。这意味用户必须关注较大的区域。为了减轻用户的负担,最好选择显微镜观察视野模式。相反,即使当在步骤S605中,判定用户选择了显微镜观察视野模式,如果显示设备103的屏幕分辨率较低,那么也最好选择允许无变化地呈现可显示信息的正常视野观察模式。充当判定的基准的设定值可由用户指定。步骤S605和步骤S606中的判定可被颠倒顺序。
在步骤S607,响应显微镜观察视野模式的选择,生成显微镜视野显示用图像数据。显微镜视野显示用图像数据由观察区域显示图像数据和非观察区域显示图像数据构成。当对它们中的至少一个进行图像处理时,显示设备显示与当对整个图像数据进行一致的图像处理时显示的图像不同的图像。这将在下面参考图7详细说明。
在步骤S608,响应正常观察模式的选择,生成正常观察用显示图像数据。在步骤S603中,从分层图像中获得的具有相似显示倍率的图像数据经历分辨率转换,从而实现期望的分辨率。当需要时,按照显示设备103的特性,进行校正。
在步骤S609,在步骤S607或步骤S608生成的显示数据被输出给显示设备103。
在步骤S610,显示设备103把输入的显示图像数据显示在屏幕上。
在步骤S611,判定图像显示操作是否已完成。如果用户选择另一个试样图像,或者关闭显示应用,那么处理终止。如果要继续显示屏幕的更新,那么处理返回步骤S602,重复随后的处理。
(显微镜视野显示图像数据的生成)
图7是图解说明在图6的步骤S607中描述的用于再现显微镜视野的显示图像数据的生成的详细流程的流程图。这里,术语“显微镜视野”指的是上面说明的观察区域。术语“非显微镜视野”指的是在观察区域之外的区域。
在步骤S701,获得掩蔽信息306。掩蔽信息306包含形成显示设备103的显示区域的显示像素的信息。这使得能够对于各个像素,判定是要不改变亮度值地,还是要改变亮度值地显示对应的图像数据。
在步骤S702,判定是否存在显示屏幕的任何变化。如果不存在显示屏幕的变化,并且当前显示的屏幕的状态将被维持,那么处理进入步骤S704。如果通过屏幕滚动或放大或缩小更新了显示屏幕,那么处理进入步骤S703。
在步骤S703,判定当前显示模式是高速显示模式,还是正常观察视野显示模式。高速显示模式是再现显微镜观察视野的模式。如果显示屏幕未被更新,并处于静止状态,那么以高速显示模式,再现圆形显微镜观察视野。如果通过屏幕滚动等更新显示屏幕,那么停止圆形显示,以便以高速显示模式进行高速处理。随后,利用矩形显示区域来分别呈现具有正常亮度的显示图像,以便密切关注,和具有较低亮度的显示图像,以便不妨碍所述密切关注。如果选择高速显示模式,那么处理进入步骤S707。如果要再现显微镜视野,那么处理进入步骤S704,而不管显示屏幕是否被更新。
在步骤S704,为了再现显微镜视野,对于各个对应的像素,参考在步骤S701中获取的掩蔽信息的值。随后,判定对于对应显示像素参考的掩蔽信息的值是否为0,换句话说,该像素是要以正常亮度呈现在关注区域中,还是以较低的亮度呈现在显微镜观察视野之外的区域中。如果掩蔽值为0,那么处理进入步骤S705。如果掩蔽值不为0,换句话说,如果要利用移位,降低像素的亮度值,那么处理进入步骤S706。
在步骤S705,由于掩蔽值为0,因此获得的图像数据的像素的亮度值被无改变地用作显示用像素值。如果按照显示设备103的特性进行校正,那么可改变亮度值。
在步骤S706,由于掩蔽值不为0,因此按照在步骤S701中获取的掩蔽信息的值,把获得的图像数据的像素的亮度值向低位侧移位。从而,可按照掩蔽值,降低亮度。
在步骤S707,由于选择了高速显示模式,因此判定高速显示用掩蔽(观察视野)是否形状为矩形,并且尺寸小于显示区域。如果将以小于屏幕的显示区域的尺寸显示矩形观察视野,那么处理进入步骤S708。如果将无改变地使用显示区域作为观察视野,那么处理进入步骤S608。这里不说明步骤S608中的正常观察用显示图像数据的生成,因为它和参考图6的流程图说明的相同。
在步骤S708,设定比显示区域的尺寸小的观察视野的尺寸。所述尺寸可由用户设定或者从预定值中选择。
在步骤S709,对于各个对应的像素,参考在步骤S701中获取的掩蔽信息的值。随后,判定对于对应的显示像素参考的掩蔽信息的值是否为0,换句话说,该像素是将以正常亮度呈现在关注区域中,还是将以较低的亮度呈现在显微镜观察视野外的区域中。不再详细说明步骤S709中的操作,因为它与步骤S704中的操作相同。
不再说明步骤S710和S711中的操作,因为它们分别与步骤S705和S706中的操作相同。唯一的差别是显微镜观察视野是圆形还是矩形。
(显示屏幕布局)
图8示意地图解说明显示利用本发明的图像处理设备102生成的显示数据的显示设备103的显示屏幕的例子。图8图解说明再现显微镜观察视野的显示模式和高速显示模式,以及当再现显微镜观察视野时,如何呈现信息。
图8(a)是图解说明显示设备103的屏幕布局的基本结构的示意图。在本实施例的显示屏幕中,整个窗口801包括指示显示和操作状态以及关于各个图像的信息的信息区802,待观察的试样缩略图图像803,指示缩略图图像中的详细观察区的详细显示区域804,详细观察用试样图像数据的显示区域805,和显示区域805的显示倍率806。这些区域和图像可被呈现在其中整个窗口801被分成不同的功能部分的单文档界面中,或者被呈现在其中把不同的区域组织成不同的窗口的多文档界面中。本实施例的试样缩略图图像803显示试样图像数据的显示区域805在试样的整个图像中的位置和大小。所述位置和大小可用详细显示区域804的框架表示。例如,可依据来自外部连接的输入装置(比如触摸面板或鼠标411)的用户指令,直接设定详细显示区域804。替代地,可通过移动显示的图像的显示区域,或者通过对显示的图像进行放大或缩小操作,设定或更新详细显示区域804。试样图像数据的显示区域805显示详细观察用试样图像数据。按照来自用户的操作指令,移动显示区域(即,从整个试样图像中选择并移动要观察的区域),或者显示通过改变显示倍率而放大或缩小的图像。
图8(b)图解说明其中再现显微镜视野,并且均匀地降低在显微镜视野外的区域的亮度的显示屏幕。附图标记806表示显示倍率。在这个例子中,显示倍率为40这样的高显示倍率。附图标记808表示再现显微镜视野的观察区域,并且在圆形视野内以正常亮度显示图像。附图标记807表示其中亮度被均匀降低的非显微镜视野区域(即,在显微镜视野之外的区域)。
图8(c)图解说明其中再现显微镜视野,并且按照到显微镜视野的中心的距离降低在显微镜视野外的区域的亮度的显示屏幕。附图标记809表示其中按照到再现显微镜视野的圆形区域的中心的距离,逐渐降低亮度的非显微镜视野区域(即,在显微镜视野外的区域)。这种显示图像的生成将在第二实施例中说明。
图8(d)图解说明当更新(或滚动)显示屏幕时更改的显微镜视野。在这个例子中,呈现尺寸和显微镜视野相同的矩形区域,作为观察视野,其它区域的亮度被降低。附图标记810表示静止状态的显微镜观察视野。附图标记811表示当屏幕被更新时变更的观察视野。在这个例子中,确定观察视野811的大小,以包括显微镜观察视野810。附图标记812表示其中亮度被均匀降低的非观察视野(即,在观察视野外的区域)。如参考图8(c)所述,可按照到显微镜观察视野的中心的距离,逐渐降低亮度。
图8(e)图解说明其中在显微镜视野外呈现各种信息的显示屏幕。由于关注区域是显微镜观察区域,因此在显微镜观察区域外的区域可提供亮度较低的观察图像,为诊断所需的试样信息,患者信息,和菜单屏幕。附图标记813表示呈现显示试样的整个图像的缩略图图像803的区域。附图标记814表示与信息区802对应的信息区。由于显示器的长宽比不是正方的,因此在圆形区域(显微镜视野)外,可以显示各种信息。从而,能够有效地呈现许多信息,从而实现用户友好性的改善。
(本实施例的效果)
通过在虚拟载玻片图像中设置观察区域,能够实现减轻观察者的负担的图像处理设备。尤其是在本实施例中,在需要高速显示的屏幕滚动期间,观察视野被变更成矩形,能够提高处理效率。此外,不同于显微镜,能够在待关注的观察视野区域(圆形区域)之外,呈现图像和各种信息。这使得更易于找出病变部位,和改善用户友好性。
[第二实施例]
现在参考附图,说明按照本发明的第二实施例的图像处理系统。
在第一实施例中,通过利用多值掩蔽信息的选择性处理,即,通过图像数据的采用和借助移位的亮度的降低,进行显微镜观察视野的再现。尽管在第二实施例中也利用多值掩蔽信息,不过通过把图像数据的亮度乘以掩蔽信息,而不是取决于区域进行不同的处理,实现同等的视野再现。在第一实施例中说明的结构可以用在第二实施例中,与第一实施例中的结构不同的一些结构除外。
(图像处理系统的设备结构)
图9是图解说明构成按照本发明的第二实施例的图像处理系统的设备的总示意图。
利用图9中图解所示的图像处理设备的图像处理系统包括图像服务器901,图像处理设备102和显示设备103。本实施例的图像处理设备102可从图像服务器901获取试样的拾取图像的图像数据,并生成用于在显示设备103上显示的图像数据。在本实施例中,图像服务器901和图像处理设备102借助通用I/F LAN电缆903,通过网络相互连接。本实施例的图像服务器901是具有大容量存储装置的计算机,所述大容量存储装置保存由作为虚拟载玻片设备的图像拾取设备101拾取的图像的图像数据。本实施例的图像服务器901可把不同显示倍率的分层图像数据作为组保存在与图像服务器901相连的本地存储器中,或者可把分层图像数据分割成片段,每个片段具有数据实体和链接信息,并把它们保存在位于网络上某处的服务器群(云服务器)中。分层图像数据本身甚至不必被保存在单个服务器中。注意,图像处理设备102和显示设备103与第一实施例的图像处理系统中的图像处理设备102和显示设备103相同。
在图9的例子中,图像处理系统由3个设备(图像服务器901,图像处理设备102和显示设备103)形成。不过,本发明并不局限于这种结构。例如,显示设备103可以是图像处理设备102的组成部分,或者图像处理设备102的一些功能可被并入图像服务器901中。相反,图像服务器901或图像处理设备102的功能可被划分,从而由多个设备实现。
(显微镜视野显示图像数据的生成)
上面参考图7,说明了按照第一实施例的显微镜视野显示图像数据的生成。图10是图解说明其中作为本实施例的特征,通过把图像数据的亮度乘以掩蔽信息(而不是取决于区域进行不同的处理),再现视野的处理的流程的流程图。除了基于掩蔽信息的显示图像数据的生成之外,图10中图解所示的处理和图7中图解所示的处理相同。从而,这里省略相同处理的说明。
步骤S701到S703中的掩蔽信息的获取和分枝操作与参考图7在第一实施例中说明的相同。
在步骤S1001,识别对应于图像数据的各个像素的掩蔽信息。例如,掩蔽信息是从0到255的8比特信息。
在步骤S1002,像素的亮度值被乘以对应掩蔽信息的值,从而获得新的亮度值。实际上,通过利用通过把乘法的结果除以255(它是掩蔽信息的最大值)而获得的值进行归一化,获得与进行除法之前的亮度值相同的亮度值,如果掩蔽信息是255的话。从而,通过对各个像素应用相同的处理,可和第一实施例中一样地再现显微镜视野。如上所述,在第一实施例中,通过移位降低亮度。不过,在第二实施例中,可通过与掩蔽信息相乘,获得亮度,以致设定亮度的自由度被增大。掩蔽信息可以是预先准备的指定值,或者可按照用户的指令被改变或重新设定。于是,模拟显微镜视野的圆形观察视野可被灵活地改变成其它形状。在第一实施例中,视野形状的这种灵活变化也是可能的。
不再说明从进行关于高速显示模式的矩形掩蔽显示的步骤S707到步骤S711的处理,因为与第一实施例中的对应处理相同。
(本实施例的效果)
通过在虚拟载玻片图像中设置观察区域,能够实现减轻观察者的负担的图像处理设备。特别地,通过在观察视野的内外利用相同的处理,能够消除对应的判定分枝,从而减轻软件处理的负担。由于在亮度的降低方面,实现平滑的灰度表现,因此能够进一步减轻用户的负担。
[其它实施例]
本发明的目的也可用以下方式实现。向系统或设备提供记录用于实现上述实施例的全部或一些功能的软件的程序代码的记录介质(或存储介质)。随后,系统或设备的计算机(或CPU或MPU)读取并执行保存在记录介质中的程序代码。在这种情况下,从记录介质读取的程序代码实现上述实施例的功能,记录所述程序代码的记录介质构成本发明。
当计算机执行读取的程序代码时,在计算机上运行的操作系统(OS)等根据程序代码中的指令进行部分或全部的实际处理。其中利用该处理,实现上述实施例的功能的结构也包含在本发明中。
假定从记录介质读取的程序代码被写入包含在插入计算机中的功能扩展卡,或者连接到计算机的功能扩展单元中的存储器中。随后,包含在功能扩展卡或功能扩展单元中的CPU等根据程序代码中的指令,进行部分或全部的实际处理。其中利用所述处理,实现上述实施例的功能的结构也包含在本发明中。
当把本发明应用于上述记录介质时,对应于上述流程图的程序代码被保存在记录介质中。
在第一和第二实施例中说明的结构可被组合在一起。例如,图像处理设备可连接到图像拾取设备和图像服务器,以致可从图像拾取设备或图像服务器获取要在处理中使用的图像。通过适当地组合上述实施例的各种技术而获得的结构也在本发明的范围内。本发明的技术范围由附加的权利要求限定,不应被解释成受上述实施例限制。
本申请要求2011年12月27日提交的日本专利申请No.2011-286784和2012年12月26日提交的日本专利申请2012-282783的优先权,这些申请在此整体引为参考。
附图标记列表
101:图像拾取设备
102:图像处理设备
103:显示设备
301:图像数据获取单元
302:记忆保持单元
303:用户输入信息获取单元
304:显示设备信息获取单元
305:显示数据生成控制器
306:掩蔽信息
307:显示图像数据获取单元
308:显示图像数据生成单元
309:显示数据输出单元
901:图像服务器
Claims (28)
1.一种处理虚拟载玻片图像的图像处理设备,所述图像处理设备包括:
图像数据获取单元,所述图像数据获取单元被配置成获取通过拾取成像目标的图像而得到的图像数据;和
显示图像数据生成单元,所述显示图像数据生成单元被配置成根据图像数据生成显示图像数据,所述显示图像数据包括观察区域显示图像数据和非观察区域显示图像数据,观察区域显示图像数据是用于在显示设备上显示根据预定技术确定的或者由用户指定的观察区域的数据,非观察区域显示图像数据是用于在显示设备上显示观察区域外的区域的数据,
其中显示图像数据生成单元对观察区域显示图像数据和非观察区域显示图像数据中的至少一个进行图像处理,以生成用于在显示设备上显示图像的显示图像数据,该图像不同于当对整个图像数据进行一致的图像处理时获得的图像。
2.按照权利要求1所述的图像处理设备,其中显示图像数据生成单元生成用于显示再现显微镜视野的观察区域的显示图像数据。
3.按照权利要求2所述的图像处理设备,其中显示图像数据生成单元根据现有显微镜视野信息,生成显示图像数据。
4.按照权利要求3所述的图像处理设备,其中显示图像数据生成单元根据现有显微镜视野信息和待显示成图像的倍率信息,生成显示图像数据。
5.按照权利要求3或4所述的图像处理设备,其中显示图像数据生成单元通过利用多个现有显微镜视野信息中的一个预定信息作为初始信息,生成显示图像数据。
6.按照权利要求3-5任意之一所述的图像处理设备,其中显示图像数据生成单元通过根据用户的选择,利用多个现有显微镜视野信息之一,生成显示图像数据。
7.按照权利要求1-6任意之一所述的图像处理设备,其中显示图像数据生成单元生成显示图像数据,从而非观察区域的亮度低于观察区域的亮度。
8.按照权利要求1-7任意之一所述的图像处理设备,其中显示图像数据生成单元通过对每个像素把图像数据乘以多值掩蔽信息,生成显示图像数据。
9.按照权利要求1-7任意之一所述的图像处理设备,其中显示图像数据生成单元通过根据指示两种处理形式的掩蔽信息对图像数据进行计算,生成显示图像数据。
10.按照权利要求9所述的图像处理设备,其中图像数据是具有RGB颜色信息的彩色图像数据;和
显示图像数据生成单元把图像数据转换成亮度色差数据,并对通过转换获得的亮度值进行计算。
11.按照权利要求9或10所述的图像处理设备,其中指示两种处理形式的掩蔽信息表示将采用图像数据的位置和图像数据将经历移位的位置。
12.按照权利要求11所述的图像处理设备,其中通过从外部输入的指令改变移位的量。
13.按照权利要求11所述的图像处理设备,其中显示图像数据生成单元生成用于显示模拟显微镜视野的圆形观察区域的显示图像数据;和
按照到圆形观察区域的中心的距离,改变移位的量。
14.按照权利要求1-13任意之一所述的图像处理设备,其中在待显示在显示设备上的图像的位置或显示倍率被改变时,显示图像数据生成单元生成不区分观察区域和非观察区域的显示图像数据。
15.按照权利要求1-14任意之一所述的图像处理设备,其中非观察区域显示图像数据包含关于成像目标的信息。
16.一种处理虚拟载玻片图像的图像处理方法,所述图像处理方法包括:
图像数据获取步骤,所述图像数据获取步骤获取通过拾取成像目标的图像而获得的图像数据;和
显示图像数据生成步骤,所述显示图像数据生成步骤根据在图像数据获取步骤中获取的图像数据生成显示图像数据,所述显示图像数据包括观察区域显示图像数据和非观察区域显示图像数据,观察区域显示图像数据是用于在显示设备上显示根据预定技术确定的或者由用户指定的观察区域的数据,非观察区域显示图像数据是用于在显示设备上显示观察区域外的区域的数据,
其中显示图像数据生成步骤是对观察区域显示图像数据和非观察区域显示图像数据中的至少一个进行图像处理,以生成用于在显示设备上显示图像的显示图像数据的步骤,该图像不同于当对整个图像数据进行一致的图像处理时获得的图像。
17.按照权利要求16所述的图像处理方法,还包括显示图像数据传送步骤,所述显示图像数据传送步骤把显示图像数据传送给显示设备。
18.按照权利要求16或17所述的图像处理方法,其中显示图像数据生成步骤是生成用于显示再现显微镜视野的观察区域的显示图像数据的步骤。
19.按照权利要求18所述的图像处理方法,其中显示图像数据生成步骤是根据现有显微镜视野信息生成显示图像数据的步骤。
20.按照权利要求19所述的图像处理方法,其中显示图像数据生成步骤是根据现有显微镜视野信息和待显示的倍率信息生成显示图像数据的步骤。
21.按照权利要求18或19所述的图像处理方法,其中显示图像数据生成步骤是通过利用多个现有显微镜视野信息中的一个预定信息作为初始信息生成显示图像数据的步骤。
22.按照权利要求19-21任意之一所述的图像处理方法,其中显示图像数据生成步骤是通过根据用户的选择,利用多个现有显微镜视野信息之一,生成显示图像数据的步骤。
23.按照权利要求16-22任意之一所述的图像处理方法,其中显示图像数据生成步骤是生成显示图像数据,从而非观察区域的亮度低于观察区域的亮度的步骤。
24.按照权利要求16-23任意之一所述的图像处理方法,其中显示图像数据生成步骤通过根据指示两种处理形式的掩蔽信息对图像数据进行计算,生成显示图像数据,所述掩蔽信息表示将采用图像数据的位置和图像数据将经历移位的位置。
25.按照权利要求16-24任意之一所述的图像处理方法,其中在图像数据获取步骤中获取的图像数据是具有RGB颜色信息的彩色图像数据;和
显示图像数据生成步骤把图像数据转换成亮度色差数据,并对通过转换获得的亮度值进行计算。
26.一种处理虚拟载玻片图像的图像处理方法,所述图像处理方法包括:
图像数据获取步骤,所述图像数据获取步骤获取通过拾取成像目标的图像而获得的图像数据;和
显示图像数据生成步骤,所述显示图像数据生成步骤根据在图像数据获取步骤中获取的图像数据生成显示图像数据,所述显示图像数据包括观察区域显示图像数据和非观察区域显示图像数据,观察区域显示图像数据是用于在显示设备上显示根据预定技术确定的或者由用户指定的观察区域的数据,非观察区域显示图像数据是用于在显示设备上显示观察区域外的区域的数据,
其中显示图像数据生成步骤是对观察区域显示图像数据和非观察区域显示图像数据中的至少一个进行图像处理,以生成第一显示图像数据和第二显示图像数据的步骤,第一显示图像数据是用于在显示设备上显示与当对整个图像数据进行一致的图像处理时获得的图像不同的图像的数据,第二显示图像数据是当不对图像数据进行图像处理时或者当对整个图像数据进行一致的图像处理时获得的数据,
所述图像处理方法还包括显示图像数据传送步骤,所述显示图像数据传送步骤在待显示在显示设备上的图像的位置或显示倍率被改变时,把第一显示图像数据传送给显示设备,而在待显示在显示设备上的图像的位置或显示倍率不被改变时,把第二显示图像数据传送给显示设备。
27.一种图像处理系统,包括:
按照权利要求1-15任意之一所述的图像处理设备;和
显示设备,所述显示设备被配置成以具有再现显微镜视野的观察区域的模式,显示由图像处理设备处理的虚拟载玻片图像。
28.一种程序,所述程序使计算机执行按照权利要求16-26任意之一所述的图像处理方法的各个步骤。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011286784 | 2011-12-27 | ||
JP2011-286784 | 2011-12-27 | ||
JP2012-282783 | 2012-12-26 | ||
JP2012282783A JP2013152453A (ja) | 2011-12-27 | 2012-12-26 | 画像処理装置、画像処理システム、画像処理方法および画像処理プログラム |
PCT/JP2012/083825 WO2013100026A1 (ja) | 2011-12-27 | 2012-12-27 | 画像処理装置、画像処理システム、画像処理方法および画像処理プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
CN104185806A true CN104185806A (zh) | 2014-12-03 |
Family
ID=48697505
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201280064884.6A Pending CN104185806A (zh) | 2011-12-27 | 2012-12-27 | 图像处理设备,图像处理系统,图像处理方法和图像处理程序 |
Country Status (6)
Country | Link |
---|---|
US (1) | US20130265322A1 (zh) |
JP (1) | JP2013152453A (zh) |
KR (1) | KR20140107469A (zh) |
CN (1) | CN104185806A (zh) |
DE (1) | DE112012005484T5 (zh) |
WO (1) | WO2013100026A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111111163A (zh) * | 2019-12-24 | 2020-05-08 | 腾讯科技(深圳)有限公司 | 管理计算资源的方法、设备和电子设备 |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8928613B2 (en) * | 2012-10-08 | 2015-01-06 | Chin Ten Chang | Touch control system for touch panel |
JP6455829B2 (ja) * | 2013-04-01 | 2019-01-23 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
US10178394B2 (en) * | 2016-06-10 | 2019-01-08 | Apple Inc. | Transcoding techniques for alternate displays |
EP3682629A4 (en) * | 2018-08-27 | 2020-07-29 | SZ DJI Technology Co., Ltd. | IMAGE PROCESSING AND PRESENTATION |
JP7063515B1 (ja) * | 2020-11-09 | 2022-05-09 | 有限会社ウィン | 人間工学的視野に基づく光学顕微鏡システム |
US20230186446A1 (en) * | 2021-12-15 | 2023-06-15 | 7 Sensing Software | Image processing methods and systems for low-light image enhancement using machine learning models |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102081495A (zh) * | 2009-11-30 | 2011-06-01 | 索尼公司 | 信息处理装置、信息处理方法以及计算机可读介质 |
US20110221881A1 (en) * | 2010-03-10 | 2011-09-15 | Olympus Corporation | Virtual-Slide Creating Device |
JP2011181015A (ja) * | 2010-03-03 | 2011-09-15 | Olympus Corp | 診断情報配信装置および病理診断システム |
CN102266218A (zh) * | 2010-06-04 | 2011-12-07 | 索尼公司 | 图像处理装置、图像处理方法、程序及电子装置 |
CN102279977A (zh) * | 2010-06-14 | 2011-12-14 | 索尼公司 | 信息处理设备、信息处理方法和程序 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3560663B2 (ja) * | 1994-12-07 | 2004-09-02 | オリンパス株式会社 | 走査型光学顕微鏡 |
US7738688B2 (en) * | 2000-05-03 | 2010-06-15 | Aperio Technologies, Inc. | System and method for viewing virtual slides |
JP2002196257A (ja) * | 2000-12-25 | 2002-07-12 | Nikon Corp | 画像処理装置、コンピュータ読取可能な記録媒体、及び顕微鏡システム。 |
US20030210262A1 (en) * | 2002-05-10 | 2003-11-13 | Tripath Imaging, Inc. | Video microscopy system and multi-view virtual slide viewer capable of simultaneously acquiring and displaying various digital views of an area of interest located on a microscopic slide |
US8754902B2 (en) * | 2011-06-03 | 2014-06-17 | Apple Inc. | Color-space selective darkness and lightness adjustment |
-
2012
- 2012-12-26 JP JP2012282783A patent/JP2013152453A/ja active Pending
- 2012-12-27 KR KR1020147019756A patent/KR20140107469A/ko not_active Application Discontinuation
- 2012-12-27 CN CN201280064884.6A patent/CN104185806A/zh active Pending
- 2012-12-27 WO PCT/JP2012/083825 patent/WO2013100026A1/ja active Application Filing
- 2012-12-27 DE DE112012005484.9T patent/DE112012005484T5/de not_active Withdrawn
-
2013
- 2013-06-04 US US13/909,918 patent/US20130265322A1/en not_active Abandoned
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102081495A (zh) * | 2009-11-30 | 2011-06-01 | 索尼公司 | 信息处理装置、信息处理方法以及计算机可读介质 |
JP2011181015A (ja) * | 2010-03-03 | 2011-09-15 | Olympus Corp | 診断情報配信装置および病理診断システム |
US20110221881A1 (en) * | 2010-03-10 | 2011-09-15 | Olympus Corporation | Virtual-Slide Creating Device |
CN102266218A (zh) * | 2010-06-04 | 2011-12-07 | 索尼公司 | 图像处理装置、图像处理方法、程序及电子装置 |
CN102279977A (zh) * | 2010-06-14 | 2011-12-14 | 索尼公司 | 信息处理设备、信息处理方法和程序 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111111163A (zh) * | 2019-12-24 | 2020-05-08 | 腾讯科技(深圳)有限公司 | 管理计算资源的方法、设备和电子设备 |
Also Published As
Publication number | Publication date |
---|---|
JP2013152453A (ja) | 2013-08-08 |
US20130265322A1 (en) | 2013-10-10 |
KR20140107469A (ko) | 2014-09-04 |
WO2013100026A9 (ja) | 2014-05-22 |
WO2013100026A1 (ja) | 2013-07-04 |
DE112012005484T5 (de) | 2014-09-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104185806A (zh) | 图像处理设备,图像处理系统,图像处理方法和图像处理程序 | |
US8947519B2 (en) | Image processing apparatus, image processing system, image processing method, and image processing program | |
US9710598B2 (en) | Information processor, image data optimization method and program | |
US20180246868A1 (en) | Image processing apparatus, control method image processing system, and program for display of annotations | |
WO2013099124A1 (en) | Image processing apparatus, image processing system, image processing method, and program | |
JP5350532B2 (ja) | 画像処理装置、画像表示システム、画像処理方法および画像処理プログラム | |
CN104662463A (zh) | 图像处理装置、成像系统和图像处理系统 | |
US20130250091A1 (en) | Image processing apparatus, image processing system, image processing method, and program | |
US20160042122A1 (en) | Image processing method and image processing apparatus | |
JP2014130221A (ja) | 画像処理装置、その制御方法、画像処理システム、及びプログラム | |
US20140306992A1 (en) | Image processing apparatus, image processing system and image processing method | |
CN104011531A (zh) | 图像处理装置、图像显示系统、图像处理方法以及图像处理程序 | |
CN104104861A (zh) | 图像处理装置和图像处理方法 | |
Parsa et al. | Current and future photography techniques in aesthetic surgery | |
CN108133501B (zh) | 显示病理图像的方法、图像处理装置和计算机存储介质 | |
US20130162805A1 (en) | Image processing apparatus, image processing system, image processing method, and program for processing a virtual slide image | |
KR102254755B1 (ko) | 딥러닝 기반의 병리 슬라이드 이미지 고해상도 변환 방법 및 이를 수행하는 컴퓨팅 시스템 | |
JP2018120227A (ja) | 表示方法、情報処理装置および記憶媒体 | |
CN104584019A (zh) | 信息处理装置、信息处理方法 | |
WO2013099125A1 (en) | Image processing apparatus, image processing system and image processing method | |
JP2013250400A (ja) | 画像処理装置、画像処理方法、および画像処理プログラム | |
JP2016038541A (ja) | 画像処理方法および画像処理装置 | |
JP2017033027A (ja) | 表示方法、情報処理装置および記憶媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C02 | Deemed withdrawal of patent application after publication (patent law 2001) | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20141203 |