CN110832842B - 成像装置和图像产生方法 - Google Patents

成像装置和图像产生方法 Download PDF

Info

Publication number
CN110832842B
CN110832842B CN201880044749.2A CN201880044749A CN110832842B CN 110832842 B CN110832842 B CN 110832842B CN 201880044749 A CN201880044749 A CN 201880044749A CN 110832842 B CN110832842 B CN 110832842B
Authority
CN
China
Prior art keywords
image
polarization
section
virtual
angle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201880044749.2A
Other languages
English (en)
Other versions
CN110832842A (zh
Inventor
三谷均
若园雅史
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of CN110832842A publication Critical patent/CN110832842A/zh
Application granted granted Critical
Publication of CN110832842B publication Critical patent/CN110832842B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/21Polarisation-affecting properties
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/28Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for polarising
    • G02B27/286Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for polarising for controlling or changing the state of polarisation, e.g. transforming one polarisation state into another
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/30Polarising elements
    • G02B5/3025Polarisers, i.e. arrangements capable of producing a definite output polarisation state from an unpolarised input state
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B11/00Filters or other obturators specially adapted for photographic purposes
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/02Bodies
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B5/00Adjustment of optical system relative to image or object surface other than for focusing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof

Abstract

本发明的目的在于抑制伴随着成像装置的方位的变化的偏振滤波效果的变化。根据本发明的成像装置具有:成像单元,包括能够接收具有第一偏振方向的光的第一像素和能够接收具有不同于第一偏振方向的第二偏振方向的光的第二像素;检测单元,检测成像单元的方位;和图像产生单元,基于第一和第二像素的信号产生与根据检测单元的检测结果的偏振方向对应的图像。因此,根据成像单元的方位的变化,能够产生与偏振方向对应的图像作为与特定偏振方向对应的图像,即作为具有应用于其的偏振滤波效果的对应图像。

Description

成像装置和图像产生方法
技术领域
本技术涉及一种成像设备和图像产生方法,并且具体地讲,涉及一种合适地应用于这样的情况的技术:信号处理被用于产生通过选择性地接收沿可选偏振方向的线偏振光而获得的偏振图像。
背景技术
例如,连接到成像设备的镜头的可旋转偏振滤波器能够被用于抑制水面或玻璃的表面反射,并且调整天空的蓝色。用户能够通过调整偏振滤波器的旋转角度来调整滤波效果的程度。
需要注意的是,在以下列出的PTL 1中描述相关技术的示例。
引用列表
专利文献
[PTL 1]
第WO2008/099589号PCT专利公开
发明内容
技术问题
在如上所述使用偏振滤波器执行成像并且例如成像设备从横向方位旋转到垂直方位的情况下,偏振滤波器与成像设备整体地旋转以改变在偏振图像上产生的偏振滤波效果。
在这种情况下,偏振滤波器的旋转角度需要被重新调整以便产生与在方位变化之前获得的偏振滤波效果类似的偏振滤波效果。
考虑到这些情况,本技术的目的在于防止由于成像设备的方位的变化而导致的偏振滤波效果的变化。
问题的解决方案
根据本技术的成像设备包括:成像部分,包括能够接收第一偏振方向的光的第一像素和能够接收不同于第一偏振方向的第二偏振方向的光的第二像素;检测部分,检测成像部分的方位;和图像产生部分,基于第一和第二像素的信号产生与和检测部分的检测结果对应的偏振方向对应的图像。
这能够产生与和成像部分的方位的变化对应的偏振方向对应的图像作为与特定偏振方向对应的图像(也就是说,与偏振滤波效果的应用对应的图像)。
在上述根据本技术的成像设备中,所述图像产生部分令人满意地在假设通过经可旋转偏振滤波器接收光来获得捕获图像的情况下设置与可旋转偏振滤波器的旋转角度对应的虚拟滤波器角度,并且基于根据检测部分的检测结果校正的虚拟滤波器角度产生图像。
因此,能够获得这样的图像:该图像基于虚拟滤波器角度,并且该图像被校正以消除成像部分的方位的变化。
在上述根据本技术的成像设备中,令人满意地,所述成像部分包括多个像素单元,所述多个像素单元被布置在成像部分中,并且每个像素单元包括多个像素和偏振部分,每个像素包括预定数量的光接收元件,偏振部分使各像素接收不同偏振方向的线偏振光,并且图像产生部分基于像素单元中所包括的所述多个像素的光接收信号以及表示虚拟滤波器角度和光接收信号值之间的关系的函数信息产生与和根据检测部分的检测结果校正的虚拟滤波器角度对应的偏振方向对应的图像。
因此,尽管成像部分的方位变化,偏振滤波效果仍保持不变。
在上述根据本技术的成像设备中,令人满意地,能够实现虚拟滤波器角度的操作输入。
因此,用户能够以可操作方式调整偏振滤波效果。
在上述根据本技术的成像设备中,令人满意地使用旋转操作器执行操作输入。
这使用户能够被提供与在可旋转偏振滤波器被以旋转方式操作的情况下获得的操作感觉类似的操作感觉。
在上述根据本技术的成像设备中,所述图像产生部分令人满意地能够基于像素单元中所包括的所述多个像素的光接收信号产生与使用虚拟滤波器角度作为可选角度获得的图像对应的虚拟偏振图像和作为消除了由偏振部分执行的偏振光的分离的图像的虚拟正常图像,并且根据操作分开地产生虚拟偏振图像和虚拟正常图像。
因此,用户能够以可操作方式指示偏振滤波效果的打开/关闭。
上述根据本技术的成像设备令人满意地包括:显示控制部分,使显示部分显示与通过将虚拟滤波器角度设置为可选角度而获得的图像对应的虚拟偏振图像。
因此,用户能够被提示检查偏振滤波效果。另外,在虚拟滤波器角度能够被以可操作方式指定的情况下,用户能够被提示检查响应于操作的偏振滤波效果的变化。
在上述根据本技术的成像设备中,令人满意地,所述成像部分包括多个像素单元,所述多个像素单元被布置在成像部分中,并且每个像素单元包括多个像素和偏振部分,每个像素包括预定数量的光接收元件,偏振部分使各像素接收不同偏振方向的线偏振光,图像产生部分能够基于像素单元中所包括的所述多个像素的光接收信号产生与通过将虚拟滤波器角度设置为可选角度而获得的图像对应的虚拟偏振图像和作为消除了由偏振部分执行的偏振光的分离的图像的虚拟正常图像,并且显示控制部分基于在虚拟偏振图像或虚拟正常图像中的任何一个被显示在显示部分上的同时执行的预定操作将显示部分的显示状态从显示虚拟偏振图像或虚拟正常图像中的任何一个的状态切换为显示虚拟偏振图像或虚拟正常图像中的另一个的状态。
这允许用户容易地识别是否存在偏振滤波效果。
在上述根据本技术的成像设备中,所述显示控制部分令人满意地在所述预定操作持续的同时保持显示虚拟偏振图像或虚拟正常图像中的另一个的显示状态,并且响应于所述预定操作的结束切换为显示虚拟偏振图像或虚拟正常图像中的任何一个的显示状态。
因此,为了在使虚拟偏振图像或虚拟正常图像中的另一个被显示之后恢复显示虚拟偏振图像或虚拟正常图像中的任何一个的显示状态,用户仅需要结束所述预定操作。
在上述根据本技术的成像设备中,令人满意地,能够实现虚拟滤波器角度的操作输入,图像产生部分产生增加角度图像或减小角度图像中的至少一个,增加角度图像是通过设置比由操作输入提供的角度大的虚拟滤波器角度而获得的虚拟偏振图像,减小角度图像是通过设置比由操作输入提供的角度小的虚拟滤波器角度而获得的虚拟偏振图像,并且显示控制部分使显示部分显示增加角度图像或减小角度图像中的至少一个。
因此,用户能够被提示检查偏振滤波效果如何在虚拟滤波器角度从当前指示的角度增加的情况和虚拟滤波器角度从当前指示的角度减小的情况中的每种情况下改变。
在上述根据本技术的成像设备中,令人满意地,使用旋转操作器执行虚拟滤波器角度的操作输入,并且显示控制部分在使增加角度图像被显示的情况下使与旋转操作器的旋转方向相关并且用于增加虚拟滤波器角度的信息被显示在与增加角度图像对应的显示位置,并且在使减小角度被显示的情况下使与旋转操作器的旋转方向相关并且用于减小虚拟滤波器角度的信息被显示在与减小角度图像对应的显示位置。
这允许用户直观地理解旋转操作器需要沿哪个方向旋转以产生预期偏振滤波效果。
令人满意地,上述根据本技术的成像设备包括:接受部分,接受对象的操作指定,图像产生部分能够基于像素单元中所包括的所述多个像素的光接收信号和函数信息产生与通过将虚拟滤波器角度设置为可选角度而获得的图像对应的虚拟偏振图像,并且图像产生部分获取基于接收来自指定的对象的光的像素位置的光接收信号值的函数信息,基于函数信息计算像素位置的光接收信号值满足预定条件的虚拟滤波器角度作为目标角度,根据检测部分的检测结果校正目标角度以获得校正的角度,并且产生具有设置为校正的角度的虚拟滤波器角度的虚拟偏振图像。
因此,通过执行指定对象的操作,用户能够获得虚拟偏振图像,该虚拟偏振图像被调整以使预期对象的光反射方面满足预定条件。
在上述根据本技术的成像设备中,所述图像产生部分令人满意地计算像素位置的光接收信号被近似地最小化的虚拟滤波器角度作为目标角度。
因此,通过执行指定对象的操作,用户能够获得虚拟偏振图像,该虚拟偏振图像被调整以去除预期对象的反射。
上述根据本技术的成像设备包括:显示控制部分,使显示部分显示由成像部分捕获的捕获图像,并且接受部分接受通过触摸显示部分的显示屏幕的触摸操作来执行的对象的指定。
因此,促进了指定对象的操作。
令人满意地,上述根据本技术的成像设备包括:显示控制部分,控制显示部分,图像产生部分基于函数信息针对成像部分中的每个预定像素位置计算表示响应于虚拟滤波器角度的变化的光接收信号值的变化的程度的值作为滤波效果预期值,并且显示控制部分使显示部分显示预期值图像,在预期值图像中,针对每个所述预定像素位置表示代表滤波效果预期值的大小的预期值信息。
因此,用户能够初步地识别预期在图像中的哪个位置产生高滤波效果。
在上述根据本技术的成像设备中,所述显示控制部分令人满意地显示叠加在来自成像部分的捕获图像上的预期值图像。
因此,用户能够基于与对象的位置关系明确地识别能够预期产生高滤波效果的位置。
在上述根据本技术的成像设备中,所述显示控制部分令人满意地显示单色图像作为捕获图像,并且显示特定颜色的图像而非单色图像作为预期值图像。
因此,捕获图像和预期值图像的叠加显示抑制图像的可见性的降低。
在上述根据本技术的成像设备中,所述图像产生部分令人满意地计算偏振度作为滤波效果预期值。
因此,预期值信息的可靠性能够提高。
在上述根据本技术的成像设备中,令人满意地,所述成像部分包括多个像素对,每个像素对包括偏振分光器、第一类型像素和第二类型像素,第一类型像素包括预定数量的光接收元件,每个光接收元件包括与从偏振分光器的分离面反射的反射光的光轴基本上正交的光接收面,该光接收面接收反射光,第二类型像素包括预定数量的光接收元件,每个光接收元件包括与透射通过分离面的透射光的光轴基本上正交的光接收面,该光接收面接收透射光,并且偏振分光器的分离面的偏振轴的面内角度在相邻关系的像素对之间变化。
在上述成像部分中,一个像素对(一个像素位置)能够选择性地接收具有正交关系的偏振方向的两种类型的线偏振光,并且相邻关系的两个像素对能够接收具有不同偏振方向的四种类型的线偏振光。
另外,根据本技术的图像产生方法包括成像部分,所述成像部分包括能够接收第一偏振方向的光的第一像素和能够接收不同于第一偏振方向的第二偏振方向的光的第二像素,并且所述图像产生方法包括:检测成像部分的方位的步骤;和基于第一和第二像素的信号产生与和检测步骤的检测结果对应的偏振方向对应的图像的步骤。
这种图像产生方法按照与根据上述本技术的成像设备类似的方式工作。
发明的有益效果
根据本技术,能够防止响应于成像设备的方位的变化的偏振滤波效果的变化。
需要注意的是,这里描述的效果不必受到限制,并且可产生在本公开中描述的任何效果。
附图说明
图1是表示作为实施例的成像设备和镜头设备的外观的示例的示图。
图2是表示作为实施例的成像设备的内部结构的方框图。
图3是在由普通成像设备经可旋转偏振滤波器执行成像的情况下产生的偏振滤波效果的描述性示图。
图4是在作为实施例的成像设备中提供的成像部分的结构的描述性示图。
图5是根据实施例的用于产生虚拟正常图像的方法的描述性示图。
图6是根据实施例的函数的拟合的描述性示图。
图7是根据实施例的函数的示例的描述性示图。
图8是实施例的旋转消除方法的描述性示图。
图9是表示用于实现作为实施例的旋转消除方法的处理过程的流程图。
图10是表示用于提示用户检查偏振滤波效果的处理的示例的流程图。
图11是表示指定角度图像、增加角度图像、减小角度图像和旋转方向信息的显示的示例的示图。
图12是表示用于实现指定角度图像、增加角度图像、减小角度图像和旋转方向信息的显示的处理的流程图。
图13是根据实施例的触摸模式的描述性示图。
图14是根据实施例的与接受部分对应的处理的流程图。
图15是根据实施例的与作为目标角度的虚拟滤波器角度的计算相关的处理的流程图。
图16是表示与基于目标角度的虚拟偏振图像的产生相关的处理的示例的流程图。
图17是表示显示部分中的预期值图像的显示的示例的示图。
图18是偏振度的描述性示图。
图19是表示将要由图像产生部分执行以显示预期值图像的处理的示例的流程图。
图20是表示能够基于相关技术配置的成像系统的概述的示图。
图21是表示作为修改示例的成像设备的内部结构的方框图。
图22是表示根据修改示例的用于产生虚拟偏振图像的处理的流程图。
图23是作为修改示例的成像部分的结构的描述性示图。
图24是表示用于在使用作为修改示例的成像部分的情况下产生第一至第四偏振图像和虚拟正常图像的方法的示例的示图。
图25是示意性地表示手术室系统的一般结构的示图。
图26是表示集中操作面板中的操作屏幕的显示的示例的示图。
图27是表示应用手术室系统的手术的方式的示例的示图。
图28是表示图27中示出的照相机头和CCU的功能结构的示例的方框图。
具体实施方式
参照附图,将在以下按照下面的次序描述根据本公开的实施例。
<1.实施例的成像设备>
[1-1.成像设备的结构的概述]
[1-2.偏振滤波效果]
[1-3.旋转消除方法]
[1-4.处理过程]
[1-5.偏振滤波效果的检查]
[1-6.监视器显示的改进]
[1-7.触摸模式]
[1-8.预期值显示模式]
<2.修改示例>
[2-1.第一修改示例]
[2-2.第二修改示例]
<3.应用示例>
<4.实施例的结论>
<5.其它修改示例>
<6.本技术>
<1.实施例的成像设备>
[1-1.成像设备的结构的概述]
图1表示作为根据本技术的实施例的成像设备1和镜头设备2的外观的示例。
本实施例的成像设备1是镜头可替换的成像设备。图1表示安装镜头设备2的成像设备1的外观的示例。图1A和图1B分别是如从前侧和右侧所观察的成像设备1的示意性外观示图。
这里,成像设备的向前、向后、向上、向下、向左和向右方向在以下被定义如下。
向前方向与成像设备的成像方向(朝着对象的方向)对准。向后方向与向前方向相反。
基于由成像设备获得的捕获图像中的垂直方向和水平方向(水平线方向)定义向上、向下、向左和向右方向。具体地讲,当成像设备被定位以使得捕获图像中的对象的顶底方向和水平方向与捕获图像的垂直方向和水平方向对准时,定义向上、向下、向左和向右方向。
在本示例中,基于用户的视点定义向左和向右方向。也就是说,向左和向右方向与如从后面所观察的成像设备的向左和向右方向对准。
在图1A中,相对于附图的纸张朝着阅读者的方向和远离阅读者的方向与成像设备1的向前和向后方向对准。附图的纸张的向上和向下方向与成像设备1的向上和向下方向对准。附图的纸张的向左和向右方向与成像设备1的向右和向左方向对准。
本示例中的成像设备1被配置为例如镜头可互换的无反光镜单镜头类型数字照相机设备,在内部包括成像元件12(图1中未示出),例如CCD(电荷耦合装置)传感器或CMOS(互补金属氧化物半导体)传感器。
成像设备1具有快门按钮1a、除快门按钮1a之外的按钮操作器1b等和用户用来提供各种输入的操作器。
在镜头设备2中,盖透镜2a被布置在镜头设备2的前端部分以经盖透镜2a将来自对象的光引导至成像设备1中的成像元件12的成像面。
另外,本示例中的镜头设备2具有旋转操作器2b,旋转操作器2b被以旋转方式操作并且用作例如操作环。在本示例中,旋转操作器2b具有与镜头设备2的透镜镜筒的外径近似相等的外径,并且位于镜头设备2的前端部分附近。
图2是表示成像设备1的内部结构的方框图,并且描述镜头设备2的内部结构以及成像设备1的内部结构。
首先,除了上述旋转操作器2b之外,镜头设备2还包括光学系统3、光学系统驱动部分4和旋转角度检测部分5。
光学系统3包括各种透镜(诸如,上述盖透镜2a、未示出的变焦透镜和聚焦透镜)和光阑机构。光学系统3将来自对象的光聚焦在成像元件12的成像面上。
光学系统驱动部分4基于成像设备1中的以下描述的控制部分30的控制驱动光学系统3中的聚焦透镜以执行聚焦操作。另外,光学系统驱动部分4基于控制部分30的控制驱动光学系统3中的光阑机构以执行曝光调整。另外,光学系统驱动部分4基于控制部分30的控制驱动光学系统3中的变焦透镜以执行变焦操作。
旋转角度检测部分5检测旋转操作器2b的旋转角度。旋转角度检测部分5被连接到成像设备1中的控制部分30,并且控制部分30能够获取与旋转操作器2b相关的旋转角度信息。
成像设备1包括成像部分11、存储部分14、通信部分15、显示部分16、角度检测部分17、操作部分18、数字信号处理部分20和控制部分30。
成像部分11包括成像元件12,对通过成像元件12中的光电转换而获得的电信号执行例如CDS(相关双采样)处理和AGC(自动增益控制)处理,并且进一步对电信号执行A/D(模/数)转换处理。成像部分11随后将成像信号作为数字数据输出给后面的数字信号处理部分20。
需要注意的是,将在以下描述本实施例中的成像部分11的结构。
这里,如这里所使用的“捕获图像”被认为广泛地表示基于成像获得的图像。也就是说,术语“捕获图像”被认为不仅包括由成像部分11获得的图像(各像素的一组光接收信号值),还包括经必要的信号处理从所述图像产生的图像(例如,以下描述的第一至第四偏振图像、虚拟偏振图像和虚拟正常图像)。
另外,如这里所使用的“成像”被认为表示在成像元件12中获得光接收信号之前执行的操作。
数字信号处理部分20被配置为使用例如DSP(数字信号处理器)的图像处理器。数字信号处理部分20对来自成像部分11的数字信号(捕获图像数据)执行各种类型的信号处理。
本实施例中的数字信号处理部分20至少包括偏振图像产生部分21、编码解码器部分22和显示数据产生部分23。
偏振图像产生部分21基于成像部分11的数字信号产生以下描述的虚拟正常图像和虚拟偏振图像。需要注意的是,将在以下进一步描述由偏振图像产生部分21执行的处理。
编码解码器部分22对由偏振图像产生部分21产生的图像数据执行例如用于记录和通信的编码处理。
在控制部分30的控制下,显示数据产生部分23产生将要被输出给显示部分16的显示数据,所述显示数据用作例如直通图像(through image)。用作直通图像的显示数据基本上是具有转换的图像的分辨率的与捕获图像数据对应的每个帧的数据。
另外,基于控制部分30的指令,显示数据产生部分23执行使显示部分16显示各种指南图像、字符图像、操作图像等的处理,以使得例如该图像被叠加在诸如直通图像的图像上。
需要注意的是,在图2中,显示数据产生部分23被示出为由数字信号处理部分20执行的功能结构,但这是说明性的,并且该处理可由控制部分30执行。
控制部分30包括微型计算机(算术处理设备),所述微型计算机包括CPU(中央处理单元)、ROM(只读存储器)、RAM(随机存取存储器)和闪存。
CPU执行存储在ROM、闪存等中的程序以整体地控制整个成像设备1。
RAM在CPU中的各种数据的处理期间被用作工作区域以暂时地存储数据、程序等。
ROM和闪存(非易失性存储器)被用于存储用于CPU控制每个部分的OS(操作系统)、内容文件(诸如,图像文件)、用于各种操作的应用程序、固件等。
如上所述的控制部分30控制必要的部分的操作,诸如用于数字信号处理部分20中的各种类型的信号处理的指令、与用户的操作对应的成像操作和记录操作、用于记录的图像文件的再现操作、照相机操作(诸如,变焦、聚焦和曝光调整)和用户界面操作。
另外,控制部分30用作显示控制部分31。显示控制部分31提供控制以使显示部分16显示各种图像,诸如由显示数据产生部分23产生的直通图像。
另外,控制部分30用作接受部分32。接受部分32接受由预定操作提供的对象的指定,诸如如下所述显示部分16中形成的触摸面板的操作。
需要注意的是,将在以下进一步描述显示控制部分31和接受部分32。
显示部分16向用户(拍摄者等)提供各种类型的显示,并且包括显示装置,例如形成在成像设备1的壳体上的LCD(液晶显示器)或有机EL(场致发光)显示器。需要注意的是,显示部分16可被形成为使用LCD、有机EL显示器等的所谓的取景器。
显示部分16包括上述显示装置和使显示装置提供显示的显示驱动器。显示驱动器基于控制部分30的指令使得在显示装置上提供各种类型的显示。例如,显示驱动器使捕获并且记录在记录介质中的静止图像或运动图像被再现和显示,并且使基于显示数据产生部分23的显示数据的直通图像被显示在显示装置的屏幕上。另外,显示部分16在屏幕上提供各种操作菜单的显示、图标、消息、引导显示等,也就是说,GUI(图形用户界面)的显示。另外,显示驱动器能够使必要的图像被叠加在直通图像上以用于显示。
角度检测部分17包括用于检测设备(也就是说,成像设备1)的方位的预定传感器,诸如陀螺仪传感器(角速度传感器)和加速度传感器。角度检测部分17至少检测基本上与成像方向正交的平面中的所述设备的旋转角度(以下,被称为“设备旋转角度”)。
在假设成像设备1直立的状态(也就是说,成像设备1的上下方向基本上与成像设备1的顶底方向对准的状态)对应于设备旋转角度=0度的情况下,本示例中的角度检测部分17执行检测。
与由角度检测部分17检测的设备旋转角度相关的信息被发送给控制部分30。控制部分30能够使用与设备旋转角度相关的信息执行各种类型的控制。特别地,在本示例中,与设备旋转角度相关的信息被数字信号处理部分20(偏振图像产生部分21)获取,并且用于作为以下描述的实施例的处理。
需要注意的是,例如,通过由数字信号处理部分20执行的图像处理能够检测设备旋转角度。通过例如从来自成像部分11的每个帧的捕获图像提取多个特征点并且检测特征点的旋转的信号处理,能够执行该检测。
另外,在本示例中,假设:成像部分11的方位与成像设备1的方位整体地改变,并且成像设备1的设备旋转角度被检测。然而,为了实现以下描述的旋转消除方法,下面的情况是足够的:作为旋转角度(基本上与成像方向正交的平面中的旋转角度),检测成像部分11(成像元件12)的旋转角度。
操作部分18包括用于输入用户的操作的输入功能,并且向控制部分30发送与输入操作对应的信号。
操作部分18被实现为例如布置在成像设备1的壳体上的各种操作器和形成在显示部分16上的触摸面板。除了上述快门按钮1a和按钮操作器1b之外,壳体上的操作器还包括诸如交叉键和滑动键的各种操作器。
存储部分14包括例如非易失性存储器,并且用作用于存储图像文件(内容文件)(诸如,静止图像数据和运动图像数据)、与图像文件相关的属性信息和缩略图图像的存储区域。
图像文件被按照例如JPEG(联合图像专家组)、TIFF(标记图像文件格式)和GIF(图形交换格式)的格式存储。
存储部分14的各种实际形式是可能的。例如,存储部分14可以是布置在成像设备1中的闪存,或者可具有包括下述装置的形式:存储卡(例如,便携式闪存),能够被安装在成像设备1中以及从成像设备1去除;和卡记录和再现部分,为了记录和再现而访问存储卡。替代地,布置在成像设备1中的存储部分14可被实现为HDD(硬盘驱动器)等。
通信部分15与外部装备执行数据通信或网络通信。
通信部分15与例如外部显示设备、记录设备或再现设备通信以向这种设备发送捕获图像数据(静止图像文件或运动图像文件)以及从这种设备接收捕获图像数据(静止图像文件或运动图像文件)。
替代地,通信部分15用作网络通信部分以经各种网络(例如,互联网、家庭网络和LAN(局域网))执行通信从而向网络上的服务器、终端等发送各种数据以及从网络上的服务器、终端等接收各种数据。
[1-2.偏振滤波效果]
图3是在由普通成像设备经可旋转偏振滤波器执行成像的情况下产生的偏振滤波效果的示图。
图3示意性地表示偏振滤波器的偏振轴P。另外,图3中的横向虚线示意性地表示水平线。
例如,偏振轴P和水平线之间的角度α等于图3A中示出的角度的状态被视为基准。在图3A中的状态下的偏振滤波器沿图3A中的箭头的方向旋转的情况下,偏振轴P也如图3B中所示旋转而改变角度a。在本示例中,当偏振轴P处于图3B中的角度a时,与图3A中的反射相比,捕获图像中的某些对象的反射减少。
在图3A和图3B中,成像设备处于横向方位。假设:图3B中的状态被改变为成像设备处于垂直方位的图3C中的状态。在发生这种方位的变化的情况下,偏振轴P和水平轴之间的角度a变化,并且因此,捕获图像中的偏振滤波效果变化。这里,示出这样的情况:图3C中的方位的变化使角度a类似于图3A中的角度a。图3C中的捕获图像基本上与图3A中的捕获图像匹配(偏振滤波效果基本上相等)。
假设用户需要在图3B中产生的偏振滤波效果,在用户将图3B中示出的方位改变为图3C中示出的方位的情况下,用户被迫再次使偏振滤波器旋转以使角度a等于图3B中的角度a(参见图3D)。也就是说,即使用户已调整偏振滤波器的旋转角度以产生用户需要的偏振滤波效果,用户也被迫再次执行调整操作。
不希望出现这种情况,因为不需要的操作负担被施加于用户。
因此,在本实施例中,防止由成像设备的旋转引起的偏振滤波效果的变化。
图4是在成像设备1中提供的成像部分11的结构的示图。图4A是示意性垂直剖视图,并且图4B是示意性正视图。
在成像部分11中,光学构件13被布置在成像元件12的成像面上。在成像元件12中,多个光接收元件12a被按照二维方式(沿垂直方向和横向方向)布置。在光学构件13中,偏振滤波器13a被形成在各光接收元件12a上,并且每个偏振滤波器13a位于对应光接收元件12a的光接收面。
在图4B中,各偏振滤波器13a的偏振轴的方向由双头箭头示意性地示出。如从双头箭头所见,使用了四种类型的偏振滤波器13a,所述四种类型的偏振滤波器13a具有有着45度的角度差的不同偏振轴。
以下,假设:附图的纸张的横向方向(也就是说,成像元件12的横向方向(水平线方向))与水平方向(水平线)对准。由横向双头箭头表示的偏振轴的角度被表示为“0度”。由垂直双头箭头表示的偏振轴的角度被表示为“90度”。由右上(左下)双头箭头表示的偏振轴的角度被表示为“45度”。由左上(右下)双头箭头表示的偏振轴的角度被表示为“135度”。
在成像元件12中,每个光接收元件12a(换句话说,在本示例中,每个像素)选择性地接收按照与布置在光接收面上的对应偏振滤波器13a的偏振轴的角度相等的角度的线偏振光。
在本示例中,2×2=4个光接收元件12a构成一个像素单元U,并且在像素单元U中,各光接收元件12a上的偏振滤波器13a具有有着45度的角度差的不同偏振轴。
在成像部分11中,多个这种像素单元U被沿垂直方向和横向方向布置。
通过如上所述使用能够选择性地接收具有不同偏振方向的线偏振光的成像部分11,能够获得与偏振相关的信息。
具体地讲,通过使用个体地接收的具有不同偏振方向的线偏振光的多个光接收信号值,能够确定表示偏振滤波器的偏振轴的角度和由光接收元件12a获得的光接收信号值(亮度值)之间的关系的函数。这意味着:在假设通过经可旋转偏振滤波器接收光来获得捕获图像的情况下,确定表示偏振滤波器的旋转角度和光接收信号值(亮度值)之间的关系的函数。
这里,在假设通过经可旋转偏振滤波器接收光来获得捕获图像的情况下获得的偏振滤波器的旋转角度在以下被称为“虚拟滤波器角度”。另外,上述函数在以下被称为“函数F”。
具体地讲,函数F是cos曲线。cos曲线的使用允许确定在虚拟滤波器角度被设置为可选值的情况下获得的光接收信号值。也就是说,能够获得具有应用于图像的可选偏振滤波效果的图像。
另外,在使用如上所述的成像部分11的情况下,通过将具有有着90度的角度差的不同偏振方向的两个类型的线偏振光的光接收信号值相加,能够获得由光学构件13执行的偏振光的分离被消除的捕获图像,也就是说,能够获得与具有零偏振滤波效果的正常捕获图像对应的图像。
与具有零偏振滤波效果的正常捕获图像对应的图像在以下被称为“虚拟正常图像”。
将参照图5至7描述由图2中示出的偏振图像产生部分21执行的虚拟正常图像的产生和函数F的拟合。
图5是用于产生虚拟正常图像的方法的描述性示图。
在图5A中,示意性地表示成像部分11中的像素阵列以及每个偏振滤波器13a的偏振轴的角度。
首先,如下所述,本示例中的cos曲线拟合基于这样的假设:针对各像素位置,获得0度、90度、45度和135度的四种类型的线偏振光的光接收信号值。
另一方面,在成像部分11中,被包括在偏振滤波器13a中并且具有0度、90度、45度和135度的偏振轴的像素被沿垂直和横向方向间歇地布置,如图5B中所示,并且除非采取任何行动,否则这妨碍针对像素位置获取四种类型的线偏振光的光接收信号值。
因此,针对0度、90度、45度和135度的线偏振光,使用接收对应线偏振光的像素的光接收信号值内插光接收信号值缺失的像素位置的光接收信号值,如图5C中所示。这导致产生与针对每个像素位置的0度的线偏振光的选择性接收对应的图像(以下,被称为“第一偏振图像”)、与针对每个像素位置的90度的线偏振光的选择性接收对应的图像(以下,被称为“第二偏振图像”)、与针对每个像素位置的45度的线偏振光的选择性接收对应的图像(以下,被称为“第三偏振图像”)和与针对每个像素位置的135度的线偏振光的选择性接收对应的图像(以下,被称为“第四偏振图像”)。
如上所述,通过将具有有着90度的角度差的不同偏振方向的两个类型的线偏振光的光接收信号值相加来获得虚拟正常图像。
具体地讲,通过将第二偏振图像中的每个像素位置的光接收信号值与第一偏振图像中的相同像素位置的光接收信号值相加或者将第四偏振图像中的每个像素位置的光接收信号值与第三偏振图像中的相同像素位置的光接收信号值相加来获得虚拟正常图像。
图5D示意性地表示如此从第一偏振图像和第二偏振图像或者第三偏振图像和第四偏振图像产生虚拟正常图像。
图6是函数F(cos曲线)的拟合的描述性示图。图6A表示针对成像部分11中的某些像素位置获得的四种类型的线偏振光的光接收信号值(亮度值)的示例。图6B表示四个光接收信号值(亮度值)和cos曲线之间的关系。
图6A和图6B指示:针对各像素位置获得四种类型的线偏振光的光接收信号值,能够实现cos曲线拟合。
作为函数F的cos曲线由[方程1]表示:
[数学表达式1]
Figure BDA0002354324120000181
其中“l”是光接收信号值,“lmax”和“lmin”是光接收信号值的最大值和最小值,“θpol”是虚拟滤波器角度,并且
Figure BDA0002354324120000184
是“θpol”的偏移。
[方程1]能够被转换成以下的[方程2]。
[数学表达式2]
Figure BDA0002354324120000182
在[方程2]中,“A”是振幅,
Figure BDA0002354324120000183
是相对于原点的相移,并且“c”是“y”的偏移。
基于以下的“方程3”通过最小二乘法使用通过接收0度、90度、45度和135度的线偏振光而获得的四个光接收信号值执行cos曲线拟合。也就是说,确定使“J”最小化的“y”。
[数学表达式3]
J=∑{(In-y)^2}...[方程3]
在[方程3]中,“ln”是测量值,也就是说,针对目标像素位置获得的0度、90度、45度和135度的线偏振光的每个光接收信号值。
通过使由上述“方程3”确定的使“J”最小化的“y”与测量值拟合来获得cos曲线。
一旦cos曲线被拟合,针对cos曲线代入可选虚拟滤波器角度的值导致针对目标像素位置的通过由光接收元件12a经在可选旋转角度的偏振滤波器接收光而获得的光接收信号值(该像素位置的亮度值)。需要注意的是,在[方程2]中,与“虚拟滤波器角度”对应的项是“(π/2)*n”。
通过针对每个像素位置执行如上所述的cos曲线拟合以及使用cos曲线和可选虚拟滤波器角度的亮度值的计算,能够获得与通过由成像元件12经在可选旋转角度的偏振滤波器执行成像而获得的图像对应的图像。
如上所述,基于如上所述拟合的cos曲线和可选虚拟滤波器角度产生的图像被称为“虚拟偏振图像”。
偏振图像产生部分21使用如上所述的方法基于每个光接收元件12a的光接收元件产生虚拟偏振图像和虚拟正常图像。
需要注意的是,在以上描述中,已举出产生第一偏振图像、第二偏振图像、第三偏振图像和第四偏振图像以防止虚拟偏振图像的分辨率的减小的示例,但在像素单元U被视为包括相同像素位置的情况下,能够针对每个像素单元U执行基于四种类型的光接收信号值的cos曲线拟合。
另外,对于cos曲线拟合,针对每个像素位置使用四种类型的线偏振光的光接收信号值不是必要的,并且能够使用至少三个类型的线偏振光的光接收信号值实现拟合。在本示例中,四种类型的线偏振光的光接收信号值被用于每个像素位置,并且使用如上所述的最小二乘法执行拟合。因此,在提高抗噪性的情况下实现准确的拟合。
在本实施例的成像设备1中,能够基于用户的操作切换偏振成像模式和正常成像模式。在偏振成像模式下,基于由成像部分11获得的信号产生虚拟偏振图像,并且在正常成像模式下,基于由成像部分11获得的信号产生虚拟正常图像。具体地讲,控制部分30基于预定操作(例如,图1中示出的按钮操作器1b的操作)在偏振成像模式和正常成像模式之间切换模式。
在偏振成像模式期间,控制部分30中的显示控制部分31控制显示数据产生部分23使显示部分16显示由偏振图像产生部分21产生的虚拟偏振图像作为直通图像。另外,在正常成像模式期间,控制部分30中的显示控制部分31控制显示数据产生部分23使显示部分16显示由偏振图像产生部分21产生的虚拟正常图像作为直通图像。
另外,在本实施例中,布置在镜头设备2上的旋转操作器2b用作用于产生虚拟偏振图像的虚拟滤波器角度的指示输入操作器。
具体地讲,在偏振成像模式期间,控制部分30顺序地获取由旋转角度检测部分5检测的与旋转操作器2b的旋转角度相关的信息,并且将获取的与旋转角度相关的信息存储在预定存储设备(诸如,RAM或存储部分14)中。
然后,在偏振成像模式期间,偏振图像产生部分21获取如上所述存储在所述预定存储装置中的与旋转操作器2b相关的旋转角度信息,并且使用获取的旋转角度信息产生虚拟偏振图像。
这里,由旋转角度检测部分5检测的旋转操作器2b的旋转角度在以下被称为“旋转角度α”。
[1-3.旋转消除方法]
图8是实施例的旋转消除方法的描述性示图。
图8A表示这样的状态:当成像设备1直立时,旋转操作器2b的操作指示“α”作为虚拟滤波器角度。这里,为了描述,旋转角度α是当成像设备1直立时设置的基于水平线(由附图中的虚线指示)的角度。
另外,在附图中,通过使用上述cos曲线的信号处理来实现的偏振滤波器的虚拟偏振轴被表示为虚拟偏振轴P’。
在图8A中的状态下,虚拟偏振轴P’和水平线之间的角度是“α”。然而,在如图8B中所示成像设备1倾斜β度的情况下,虚拟偏振轴P’和水平线之间的角度从“α”改变。(改变为“α-β”)。
为了在如图8B中所示成像设备1旋转β度的情况下仍然保持在图8A中的状态下的偏振滤波效果,虚拟偏振轴P’和水平线之间的角度仅需要被改变回至“α”。也就是说,作为成像设备1的旋转角度(基本上与设备的成像方向正交的平面中的旋转角度)的“β”仅需要被与由旋转操作器2b指示的旋转角度“α”相加以获得“α+β”作为用于基于cos曲线产生虚拟偏振图像的虚拟滤波器角度。
本实施例的偏振图像产生部分21获取由控制部分30从角度检测部分17获取的设备旋转角度作为上述“β”,并且在上述基于cos曲线的针对每个像素位置的亮度值的计算期间,通过将“β”和旋转角度α相加在一起而获得的“α+β”被用作将要针对cos曲线代入的虚拟滤波器角度的值。
因此,尽管成像设备1旋转,偏振滤波效果仍然保持不变,允许防止由成像设备1的旋转引起的偏振滤波效果的变化。
现在,能够如下描述作为上述实施例的旋转消除方法。也就是说,基于像素单元U中所包括的多个像素的光接收信号以及表示虚拟滤波器角度和光接收信号值之间的关系的函数信息产生与和基于角度检测部分17的检测结果校正的虚拟滤波器角度对应的偏振方向对应的图像。在这种情况下,“与虚拟滤波器角度对应的偏振方向”表示当可旋转偏振滤波器的旋转角度被设置为等于虚拟滤波器角度时接收的线偏振光的偏振方向。另外,“与偏振方向对应的图像”表示包括单个偏振方向的成分的偏振图像。换句话说,“与偏振方向对应的图像”表示通过选择性地接收具有单个偏振方向的线偏振光而获得的图像。需要注意的是,“通过选择性地接收具有单个偏振方向的线偏振光而获得的图像”包括通过处理由成像部分11获得的信号而产生的图像,诸如通过使用函数F的信号处理而产生的虚拟偏振图像。
[1-4.处理过程]
图9是表示用于实现作为上述实施例的旋转消除方法的处理过程的流程图。需要注意的是,在本示例中,针对每个帧执行图9中示出的处理。
首先,在步骤S101中,偏振图像产生部分21确定设备是否现在处于偏振成像模式。在设备处于偏振成像模式的情况下,偏振图像产生部分21前进至步骤S102并且获取旋转角度α和旋转角度β。也就是说,偏振图像产生部分21获取由控制部分30从旋转角度检测部分5获取的旋转操作器2a的旋转角度作为“α”,并且获取由控制部分30从角度检测部分17获取的设备旋转角度作为“β”。
另外,偏振图像产生部分21在步骤S103中计算“α+β”,并且在随后的步骤S104中,产生具有设置为“α+β”的虚拟滤波器角度的虚拟偏振图像。
具体地讲,在步骤S104中,偏振图像产生部分21执行附图中的步骤S201至S203中的处理。
首先,在步骤S201中,偏振图像产生部分21针对每个角度执行偏振图像产生处理。具体地讲,偏振图像产生处理包括产生图5C中描述的第一偏振图像、第二偏振图像、第三偏振图像和第四偏振图像。
在随后的步骤S202中,偏振图像产生部分21针对每个像素位置执行拟合cos曲线的处理。也就是说,偏振图像产生部分21使用通过产生第一偏振图像、第二偏振图像、第三偏振图像和第四偏振图像而获得的四个光接收信号值基于[方程3]针对每个像素位置执行cos曲线拟合。
然后,在步骤S203中,偏振图像产生部分21针对每个像素位置针对cos曲线代入“α+β”以计算亮度值。
因此,获得具有设置为“α+β”的虚拟滤波器角度的虚拟偏振图像。
另一方面,在偏振图像产生部分21确定设备不处于偏振成像模式的情况下,也就是说,在设备处于正常成像模式的情况下,偏振图像产生部分21在步骤S105中产生虚拟正常图像。
具体地讲,在步骤S105中,偏振图像产生部分21执行附图中的步骤S301和S302中的处理。也就是说,首先,在步骤S301中,像上述步骤S201中一样,偏振图像产生部分21针对每个角度执行偏振图像产生处理。然后,在随后的步骤S302中,偏振图像产生部分21针对每个像素位置将具有正交偏振方向的两个偏振图像的光接收信号值相加在一起。具体地讲,偏振图像产生部分21将第二偏振图像中的每个像素位置的光接收信号值与第一偏振图像中的相同像素位置的光接收信号值相加。替代地,偏振图像产生部分21将第四偏振图像中的每个像素位置的光接收信号值与第三偏振图像中的相同像素位置的光接收信号值相加。
因此,获得虚拟正常图像。
偏振图像产生部分21通过执行步骤S104或S105中的处理来结束图9中示出的处理。
在这种情况下,在本示例中的成像设备1中,响应于在偏振成像模式下的所述预定操作(诸如,快门按钮1a的操作)记录虚拟偏振图像,并且响应于在正常成像模式下的所述预定操作记录虚拟正常图像。
具体地讲,响应于在偏振成像模式期间的所述预定操作的检测,控制部分30使存储部分14存储基于由偏振图像产生部分21产生的虚拟偏振图像的静止图像数据或运动图像数据。另外,响应于在正常成像模式期间的所述预定操作的检测,控制部分30使存储部分14存储基于由偏振图像产生部分21产生的虚拟正常图像的静止图像数据或运动图像数据。
需要注意的是,在静止图像被记录为虚拟偏振图像的情况下,不需要对每个帧执行用于产生虚拟偏振图像的处理(诸如,cos曲线拟合),并且能够仅对在执行所述预定操作(诸如,快门按钮1a的操作)时获得的帧执行该处理。
另外,在以上描述中,为了描述,已示出这样的情况:本技术中的“像素”包括一个光接收元件12a。然而,成像设备1能够产生彩色图像作为由成像设备1捕获的捕获图像(虚拟偏振图像或虚拟正常图像)。在这种情况下,至少一个R(红色)光接收元件12a、一个G(绿色)光接收元件12a和一个B(蓝色)光接收元件12a被布置在“像素”中(例如,在RGGB类型中,布置四个光接收元件12a)。也就是说,偏振滤波器13a被布置在包括预定数量的光接收元件12a的每个“像素”中,以使各“像素”选择性地接收具有不同偏振方向的线偏振光。
对于彩色图像,R、G和B光接收元件存在于每个像素位置,并且因此,针对第一至第四偏振图像中的每个偏振图像产生R图像、G图像和B图像。针对R、G和B中的每一个执行针对第一至第四偏振图像中的每个像素位置的cos曲线拟合和基于cos曲线的虚拟偏振图像的产生。因此,能够获得这样的虚拟偏振图像:每个像素位置具有分别用于R、G和B图像的光接收信号值(亮度值)。另外,基于针对R、G和B中的每一个的第一至第四偏振图像针对R、G和B中的每一个产生虚拟正常图像。
在这种情况下,在以上描述中的示例中,虚拟滤波器角度被以可操作方式设置。然而,可在不依赖于该操作的情况下设置虚拟滤波器角度。也就是说,下面的情况是足够的:执行作为实施例的旋转消除处理以基于通过不限于该操作的某个方法设置的虚拟滤波器角度(虚拟滤波器角度被用作某个基准)和成像部分11的旋转角度(设备旋转角度)之差消除由成像部分11的旋转角度的变化引起的虚拟偏振图像的变化。换句话说,下面的情况是足够的:基于用作基准的虚拟滤波器角度和成像部分11的旋转角度之差产生图像。
另外,在以上描述中的示例中,为了旋转消除,基于函数F的虚拟偏振图像的产生是必要的。然而,用于旋转消除的基于函数F的虚拟偏振图像的产生不是必要的。
例如,在α+β等于0度、90度、45度和135度中的任何一个的情况下,能够获得通过直接使用成像部分11中的光接收元件12a中所包括的光接收元件12a的光接收信号并且选择性地接收等于α+β的角度的线偏振光而产生的消除了旋转的图像。
替代地,在α+β接近0度、90度、45度和135度中的任何一个(例如,该差值等于或小于预定值)的情况下,能够获得通过直接使用成像部分11中的光接收元件12a中所包括的光接收元件12a的光接收信号并且选择性地接收所述接近的角度的线偏振光而产生的消除了旋转的图像。
如上所述,为了能够实现旋转消除,仅需要产生与和成像部分11的方位的检测结果对应的偏振方向对应的图像。
需要注意的是,在α+β不等于或不接近0度、90度、45度和135度的情况下,仅需要通过产生基于函数F的虚拟偏振图像来获得消除了旋转的图像。具体地讲,基于函数F,产生具有虚拟滤波器角度=α+β的虚拟偏振图像。
[1-5.偏振滤波效果的检查]
当虚拟偏振图像在偏振成像模式期间正在显示部分16上被显示为直通图像时,本实施例的成像设备1用于响应于所述预定操作将显示图像从虚拟偏振图像切换为虚拟正常图像。也就是说,从虚拟偏振图像切换为虚拟正常图像允许用户容易地检查偏振滤波效果。
通过预定按钮操作器(例如,图1中示出的按钮操作器1b)的按压操作来执行在这种情况下的显示切换。具体地讲,响应于按压操作的开始,显示图像被从虚拟偏振图像切换为虚拟正常图像,并且在按压操作持续的同时,虚拟正常图像保持显示。然后,响应于按压操作的结束,显示图像被从虚拟正常图像切换为虚拟偏振图像。
基于控制部分30中的显示控制部分31的控制实现虚拟偏振图像/虚拟正常图像的这种切换。
将参照图10中的流程图描述特定处理。
图10A表示由控制部分30(显示控制部分31)执行的处理。图10B表示由偏振图像产生部分21执行的处理。需要注意的是,类似于图9中的处理,对每个帧执行图10B中的处理。
在这种情况下,在以下的描述中,与已经描述的部件类似的部件由相同的标号或步骤编号表示,并且所述部件的描述被省略。
在图10A中,控制部分30在步骤S401中检查用作显示切换操作的预定操作(在本示例中,所述预定按钮的按压操作),并且在显示切换操作被执行的情况下,在步骤S402中使虚拟正常图像的产生指示标记有效。产生指示标记是例如存储在存储部分14中的预定设备中并且能够由偏振图像产生部分21参照的标记。
在步骤S402之后的步骤S403中,控制部分30提供显示切换控制以将显示部分16上的显示图像从虚拟偏振图像切换为虚拟正常图像。如下所述,响应于以下描述的步骤S402中的产生指示标记的有效,偏振图像产生部分21产生虚拟正常图像。因此,控制部分30控制显示数据产生部分23和显示部分16使显示部分16显示如此产生的虚拟正常图像。
在步骤S403之后的步骤S404中,控制部分30等待上述步骤S401中确定的所述预定操作结束(在本示例中,等待所述预定按钮的按压操作结束),并且在所述预定操作结束的情况下,在步骤405中使产生指示标记无效,并且在步骤S406中执行显示切换控制。也就是说,响应于步骤S402中的产生指示标记的无效,偏振图像产生部分21产生虚拟偏振图像,并且因此,控制部分30控制显示数据产生部分23和显示部分16使显示部分16显示如此产生的虚拟偏振图像。
随后,在图10B中,根据在步骤S101中确定设备处于偏振成像模式,偏振图像产生部分21在步骤S501中确定产生指示标记是否有效。在产生指示标记有效的情况下,偏振图像产生部分21使处理前进至步骤S105。因此,产生虚拟正常图像。
另一方面,在产生指示标记不是有效的情况下,偏振图像产生部分21使处理前进至步骤S102。换句话说,在不执行显示切换操作的情况下,产生虚拟正常图像。
需要注意的是,响应于在正常成像模式下显示虚拟正常图像的同时执行的所述预定操作,显示图像能够被从虚拟正常图像切换为虚拟偏振图像。另外,也在这种情况下,在所述预定操作持续的同时,虚拟偏振图像能够保持显示。
如上所述,基于所述预定操作,显示部分16的显示状态被从显示虚拟偏振图像或虚拟正常图像中的任何一个的状态切换为显示虚拟偏振图像或虚拟正常图像中的另一个的状态。这允许用户容易地识别是否存在偏振滤波效果。
另外,在以上描述中,在所述预定操作持续的同时,保持显示虚拟偏振图像或虚拟正常图像中的另一个的显示状态,并且响应于所述预定操作的结束,显示状态被切换为显示虚拟偏振图像或虚拟正常图像中的任何一个的状态。
因此,为了在使虚拟偏振图像或虚拟正常图像中的另一个被显示之后恢复显示虚拟偏振图像或虚拟正常图像中的任何一个的显示状态,用户仅需要结束所述预定操作。
因此,与显示切换相关的操作负担能够减少。
[1-6.监视器显示的改进]
在显示部分16上监测显示虚拟偏振图像作为直通图像时,与基于虚拟滤波器角度(α)并且当前显示的虚拟偏振图像(以下,被称为“指定角度图像Gr”)一起,显示部分16能够显示具有大于当前指示的虚拟滤波器角度的虚拟滤波器角度的虚拟偏振图像(以下,被称为“增加角度图像Ga”)和具有小于当前指示的虚拟滤波器角度的虚拟滤波器角度的虚拟偏振图像(以下,被称为“增加角度图像Gd”),如图11中所示。
在本示例中,作为增加角度图像Ga,使用等于当前指示的虚拟滤波器角度加上45度的虚拟滤波器角度(α+45)显示虚拟偏振图像,并且作为减小角度图像Gd,使用等于当前指示的虚拟滤波器角度减去45度的虚拟滤波器角度(α-45)显示虚拟偏振图像。
另外,在本示例中,用于增加虚拟滤波器角度的旋转操作器2b的旋转方向信息(在附图中表示为“M1”)被显示在与增加角度图像Ga对应的显示位置,并且用于减小虚拟滤波器角度的旋转操作器2b的旋转方向信息(在附图中表示为“M2”)被显示在与减小角度图像Gd对应的显示位置。
将参照图12中的流程图描述由偏振图像产生部分21为了显示增加角度图像Ga、减小角度图像Gd和旋转方向信息而执行的处理。
与以上参照图9描述的处理的差别在于:执行步骤106中的处理,而非步骤S104中的处理。也就是说,该处理涉及分别产生具有设置为“α+β”、“α+β+45”和“α+β-45”的虚拟滤波器角度的虚拟偏振图像。
作为步骤S106中的处理,除了上述步骤S201至S203中的处理之外,还在步骤S204和S205中执行在针对每个像素位置针对cos曲线代入“α+β+45”和“α+β-45”的情况下计算亮度值的处理,如附图中所示。因此,偏振图像产生部分21产生虚拟偏振图像作为指定角度图像Gr、增加角度图像Ga和减小角度图像Gd。
虽然未示出,但显示控制部分31在这种情况下控制显示数据产生部分23和显示部分16显示如上所述产生的指定角度图像Gr、增加角度图像Ga和减小角度图像Gd以及分别与增加角度图像Ga和减小角度图像Gd对应的各条旋转方向信息。此时,显示控制部分31使显示数据产生部分23产生用于在与增加角度图像Ga对应的显示位置并且在与减小角度图像Gd对应的显示位置显示对应旋转方向信息的显示数据。
通过如上所述显示增加角度图像Ga和减小角度图像Gd以及指定角度图像Gr,用户能够被提示检查虚拟滤波器角度如何相对于当前指示的角度变化,并且能够因此被帮助容易地调整偏振滤波效果。
另外,由于在与增加角度图像Ga对应的显示位置并且在与减小角度图像Gd对应的显示位置显示对应旋转方向信息,所以能够使用户直观地理解旋转操作器2b需要沿哪个方向旋转以产生预期偏振滤波效果。
因此,用户能够被帮助更容易地调整偏振滤波效果。
需要注意的是,为了使用户理解旋转操作器2b需要沿哪个方向旋转以产生预期偏振滤波效果,例如,增加角度图像Ga和减小角度图像Gd能够在显示部分16中分别被显示在旋转操作器2b的角度增加旋转方向侧并且显示在角度减小旋转方向侧。
这使得不需要显示旋转方向信息,允许显示部分16中的显示空间被有效地使用。
另外,在以上描述中的示例中,增加角度图像Ga和减小角度图像Gd被同时显示。然而,能够显示增加角度图像Ga或减小角度图像Gd中的至少一个。在显示增加角度图像Ga或减小角度图像Gd中的任何一个的情况下,仅需要显示与增加角度图像Ga或减小角度图像Gd中的任何一个对应的信息作为旋转方向信息。
另外,可根据预定条件的满足开始增加角度图像Ga和减小角度图像Gd的显示。例如,设备可被配置为能够检测到用户触摸虚拟滤波器角度的指示操作器(诸如,旋转操作器2b),以使得响应于用户触摸指示操作器的检测而开始增加角度图像Ga和减小角度图像Gd的显示。
[1-7.触摸模式]
本实施例的成像设备1具有触摸模式,触摸模式能够产生虚拟偏振图像,该虚拟偏振图像被调整以使通过触摸操作来指定的对象的光反射方面满足预定条件。
具体地讲,本示例中的触摸模式能够产生虚拟偏振图像,该虚拟偏振图像被调整以去除通过触摸操作来指定的对象的反射(例如,透明材料(诸如,玻璃)的反射被去除)。
例如,假设:当如图13A中所示显示部分16显示虚拟偏振图像作为直通图像时,通过触摸面板操作来触摸需要的对象(附图中的“T”)。
在触摸模式期间,图2中示出的接受部分32接受基于触摸操作的对象的这种指定。然后,接受部分32获得与虚拟偏振图像中的指定的对象的坐标相关的坐标信息,并且向偏振图像产生部分21指示坐标信息。
根据指示的坐标信息,偏振图像产生部分21产生虚拟偏振图像,该虚拟偏振图像被调整以去除指定的对象的反射。
显示控制部分30提供控制以使显示部分16显示如此产生的虚拟偏振图像。
图13B表示指定的对象的反射已被去除的虚拟偏振图像(在示出的示例中,透明材料的反射已被去除的虚拟偏振图像)的显示状态。
这里,基于针对指定的对象被投影到的像素位置拟合的cos曲线能够确定为了去除指定的对象的反射而设置的虚拟滤波器角度。具体地讲,cos曲线中的光接收信号值被近似地最小化(参见图7中的“lmin”)的虚拟滤波器角度对应于为了去除指定的对象的反射而设置的虚拟滤波器角度(以下,被称为“虚拟滤波器角度α’”)。
因此,根据如上所述由接受部分32响应于触摸操作而指示的坐标信息,偏振图像产生部分21针对由坐标信息指示的像素位置执行cos曲线拟合,并且将拟合的曲线中的光接收信号值被近似地最小化的虚拟滤波器角度确定为虚拟滤波器角度α’。
虚拟滤波器角度α’被用作用于产生虚拟偏振图像的目标角度。
参照图14至16中的流程图,将描述用于实现在如上所述的触摸模式期间的操作的处理。
图14是与上述接受部分32对应的处理的流程图。
在图14中,控制部分30在步骤S601中确定设备是否处于触摸模式,并且控制部分30在设备不处于触摸模式的情况下结束附图中示出的处理,并且在设备处于触摸模式的情况下在步骤S602中等待触摸操作。
在执行了触摸操作的情况下,控制部分30在步骤S603中向偏振图像产生部分21指示触摸位置的坐标并且结束附图中示出的处理。
图15是与由偏振图像产生部分21执行的虚拟滤波器角度α’(目标角度)的计算相关的处理的流程图。
在图15中,偏振图像产生部分21在步骤S701中等待坐标的指示,并且在指示了坐标的情况下,在步骤S201中执行产生每个角度的偏振图像的处理,然后使处理前进至步骤S702。
在步骤S702中,偏振图像产生部分21获取在每个偏振图像(在步骤S201中产生的第一至第四偏振图像)中由所述指定坐标指示的像素位置的光接收信号值。
然后,在随后的步骤S703中,偏振图像产生部分21基于获取的光接收信号值执行cos曲线拟合。另外,在随后的步骤S704中,偏振图像产生部分21基于cos曲线确定光接收信号值被近似地最小化的虚拟滤波器角度(也就是说,虚拟滤波器角度α’)。
在步骤S705中,偏振图像产生部分21存储在步骤S704中确定的虚拟滤波器角度α’,并且结束附图中示出的处理。
图16是与使用虚拟滤波器角度α’的虚拟偏振图像的产生相关的处理的流程图。
图16中的处理与图9中的处理的不同之处在于:增加了步骤S801至S804。
根据在步骤S101中确定设备处于偏振成像模式,偏振图像产生部分21使处理前进至步骤S801以确定是否存储了虚拟滤波器角度α’。也就是说,偏振图像产生部分21确定是否已经确定通过触摸操作来指定的对象的反射被去除的虚拟滤波器角度。
在步骤S801中,在未存储虚拟滤波器角度α’的情况下,偏振图像产生部分21使处理前进至步骤S102。也就是说,在设备处于振成像模式并且未处于触摸模式或者设备处于触摸模式但未执行触摸操作的情况下,使用“α”和“β”(换句话说,根据旋转操作器2b的旋转角度α)产生虚拟偏振图像。
另一方面,在存储了虚拟滤波器角度α’的情况下,偏振图像产生部分21前进至步骤S802以获取虚拟滤波器角度α’和旋转角度β。在随后的步骤S803中,偏振图像产生部分21计算“α’+β”,也就是说,计算通过利用“β”校正“α’”而获得的校正的角度,并且前进至步骤S804。
在步骤S804中,偏振图像产生部分21产生具有设置为“α’+β”的虚拟滤波器角度的虚拟偏振图像,并且结束附图中示出的处理。步骤S804中的产生处理与步骤S104中的产生处理相同,不同之处在于:用于产生虚拟偏振图像(换句话说,针对cos曲线代入)的虚拟滤波器角度从“α+β”改变为“α’+β”,并且因此,避免该处理的重复描述。
需要注意的是,在以上描述中的示例中,cos曲线中的光接收信号值被近似地最小化的虚拟滤波器角度被确定为用于产生指定的对象的反射被去除的虚拟偏振图像的虚拟滤波器角度α’(目标角度),但例如通过将cos曲线中的光接收信号值被近似地最大化的虚拟滤波器角度确定为目标角度,能够产生指定的对象的反射被最大程度强调的虚拟偏振图像。替代地,目标角度能够被确定为cos曲线中的光接收信号值是最大值和最小值之间的中间值的虚拟滤波器角度。
如上所述,目标角度可被确定为针对与指定的对象对应的像素位置拟合的cos曲线中的光接收信号值满足所述预定条件的虚拟滤波器角度。
另外,在以上描述中的示例中,通过触摸操作来执行指定对象的操作。然而,指定对象的操作不限于触摸操作,并且例如,所述指定操作可使用显示在显示部分16上的光标。
如上所述,本示例中的偏振图像产生部分21获取基于接收来自指定的对象的光的像素位置的光接收信号值的cos曲线,并且基于cos曲线,计算像素位置的光接收信号值满足所述预定条件的虚拟滤波器角度作为目标角度(α’)。偏振图像产生部分21利用设备旋转角度(β)校正目标角度以获得校正的角度(α’+β),并且产生具有设置为与校正的角度相等的虚拟滤波器角度的虚拟偏振图像。
因此,通过执行指定对象的操作,用户能够获得虚拟偏振图像,该虚拟偏振图像被调整以使预期对象的光反射方面满足所述预定条件。
因此,在产生所述预定偏振滤波效果时,用户的操作负担减小。
另外,本示例中的偏振图像产生部分21计算像素位置的光接收信号值被近似地最小化的虚拟滤波器角度作为目标角度。
因此,通过执行指定对象的操作,用户能够获得虚拟偏振图像,该虚拟偏振图像被调整以去除预期对象的反射。
因此,在产生用于去除所述预定对象的反射的偏振滤波效果时,用户的操作负担减小。
[1-8.预期值显示模式]
成像设备1具有预期值显示模式,在预期值显示模式下,表示偏振滤波效果的预期值的预期值信息被显示在显示部分16上。
具体地讲,在预期值显示模式下,针对每个像素位置,表示通过虚拟滤波器角度的变化而导致的光接收信号值的变化的程度的值被确定为滤波效果预期值。显示部分16显示预期值图像,在预期值图像中,针对每个像素位置表示指示滤波效果预期值的大小的预期值信息。
在本示例中,预期值显示模式基于这样的假设:预期值显示模式能够在偏振成像模式期间变为有效。
图17表示显示部分16中的预期值图像的显示的示例。
在附图中,预期值图像中的预期值信息被示意性地打点。
在本示例中,预期值图像被叠加在虚拟正常图像上。具体地讲,在预期值显示模式下,单色图像(灰度图像)被显示为虚拟正常图像,并且与单色图像的颜色不同的特定颜色(例如,红色或蓝色)的图像被显示为预期值图像。在这个方面,预期值图像中的预期值信息被显示,以使得亮度值与滤波效果预期值一致地增加。也就是说,预期值图像被产生为这样的图像:在表现出更大的滤波效果预期值的像素位置具有更大的图像亮度值。
这种预期值图像的显示使用户能够初步地识别能够预期在图像中的哪个位置产生高滤波效果。
这里,在本示例中,基于针对将要显示预期值信息的每个像素位置拟合的cos曲线计算滤波效果预期值。具体地讲,由[方程4]表示的偏振度ρ被计算作为滤波效果预期值。
[数学表达式4]
Figure BDA0002354324120000341
如图18中所示,当在虚拟滤波器角度变化的情况下cos曲线的振幅不变时,也就是说,当在虚拟滤波器角度变化的情况下虚拟滤波效果未表现出变化时,偏振度ρ是“0”。偏振度ρ的值与cos曲线的振幅的最大值lmax和最小值lmin之差一致地增加,并且当最大值lmax和最小值lmin之差被最大化时,ρ=1。也就是说,偏振度ρ具有最大值“1”,并且偏振度ρ的值与相对于虚拟滤波器角度的变化的偏振滤波效果的变化的程度一致地增加。
需要注意的是,滤波效果预期值不限于偏振度ρ,并且可以是基于cos曲线计算并且表示通过虚拟滤波器角度的变化而导致的光接收信号值的变化的程度的任何值。
将参照图19中的流程图描述由偏振图像产生部分21为了显示如上所述的预期值图像而执行的处理。
在图19中,根据在步骤S101中确定设备处于偏振成像模式,偏振图像产生部分21在这种情况下在步骤S901中确定设备是否处于预期值显示模式。在设备不处于预期值图像显示模式的情况下,偏振图像产生部分21使处理前进至步骤S102。也就是说,在设备处于偏振成像模式并且未处于预期值图像显示模式的情况下,使用“α”和“β”产生虚拟偏振图像。基于显示控制部分31的控制,虚拟偏振图像被显示在显示部分16上作为直通图像。
另一方面,在设备处于预期值图像显示模式的情况下,偏振图像产生部分21在步骤S105中产生虚拟正常图像,并且在随后的步骤S202中,针对每个像素位置执行cos曲线拟合。需要注意的是,如上所述,在步骤S105中的产生处理中,产生每个角度的偏振图像(参见图9中的步骤S301),并且在步骤S202中,基于每个角度的偏振图像对每个像素位置执行cos曲线拟合。
在步骤S202之后的步骤S902中,偏振图像产生部分21基于cos曲线针对每个像素位置计算偏振度ρ。也就是说,基于在步骤S202中针对每个像素位置确定的cos曲线,根据上述[方程4]针对每个像素位置计算偏振度ρ。
虽然未示出,但显示控制部分31在这种情况下使显示数据产生部分23产生基于如上所述确定的每个像素位置的偏振度ρ的预期值图像。换句话说,产生具有与偏振度ρ的值一致地增加的特定颜色的亮度值的预期值图像。
显示控制部分31使显示数据产生部分23产生预期值图像和由偏振图像产生部分21在预期值图像显示模式期间产生的虚拟正常图像的叠加图像,并且控制显示数据产生部分23和显示部分16以使叠加图像被显示在显示部分16上。
需要注意的是,在由偏振图像产生部分21产生的虚拟正常图像是彩色图像的情况下,显示控制部分31使显示数据产生部分23将虚拟正常图像转换成单色图像,并且使显示数据产生部分23产生单色虚拟正常图像和预期值图像的叠加图像。
需要注意的是,在上述示例中,针对成像部分11中的所有像素位置产生预期值信息,但可仅针对一些预定位置产生预期值信息。
在这种情况下,可至少针对所述预定像素位置执行cos曲线拟合和滤波效果预期值的计算。
另外,在上述示例中,预期值图像被叠加在虚拟正常图像上。然而,预期值图像能够被叠加在虚拟偏振图像上以用于显示。换句话说,预期值图像的叠加图像可以是基于成像部分11的光接收信号产生的捕获图像。
如上所述,本示例中的偏振图像产生部分21基于cos曲线针对成像部分11中的每个所述预定像素位置计算滤波效果预期值,并且显示控制部分31使显示部分16显示预期值图像,预期值图像具有针对每个所述预定像素位置表示并且指示滤波效果预期值的大小的预期值信息。
因此,用户能够初步地识别能够预期在图像中的哪个位置产生高滤波效果。
因此,用户能够被帮助容易地产生预期偏振滤波效果。
另外,在本示例中,显示控制部分31使预期值图像叠加在来自成像部分11的捕获图像上。
因此,用户能够基于与对象的位置关系具体地识别能够预期产生高滤波效果的位置。
因此,用于允许容易地产生预期偏振滤波效果的帮助效果能够进一步提高。
另外,本示例中的显示控制部分31使用单色图像作为捕获图像,并且使与单色图像的颜色不同的特定颜色的图像被显示为预期值图像。
这抑制由于图像的叠加显示而导致的捕获图像和预期值图像的可见性的降低。
因此,能够使用户更容易地识别能够预期产生高滤波效果的位置。
<2.修改示例>
[2-1.第一修改示例]
现在,将描述实施例的修改示例。
在相关技术的领域(诸如,FA(工厂自动化))中,工件(对象)被使用成像设备成像以用于检查等的目的。在这个方面,在工件非常大并且无法被成像设备的视角覆盖的情况下,连接到机械臂的成像设备可被移动以扫描工件。
另外,在相关技术中,为了抑制来自工件的反射光,工件被利用照明光(包括线偏振光)照射并且使用成像设备成像,成像设备装备有偏振滤波器,偏振滤波器具有布置为与照明光正交的偏振轴。
图20表示能够基于如上所述的相关技术配置的成像系统100的概述。
如图中所示,成像系统100包括:成像设备101,经连接到镜头的偏振滤波器101a捕获图像;机械臂102,装备有成像设备101;以及发光单元103和偏振滤波器104,利用包括线偏振光的照明光照射工件W。
像示出的示例中一样,工件W相对较大,并且因此,机械臂102被用于移动成像设备101以对整个工件W进行成像。在这个方面,在机械臂102被用于移动成像设备101以扫描整个工件W的情况下,成像设备101的偏振滤波器101a旋转从而妨碍偏振滤波器的偏振轴保持与照明光的偏振方向正交。也就是说,无法获得反射光被抑制的捕获图像。因此,机械臂102可旋转地支撑成像设备101,并且以旋转方式驱动成像设备101以抵消由机械臂102的移动引起的角度的变化。
然而,成像设备101的旋转驱动需要提供旋转机构和驱动单元(诸如,电机),导致增加的数量的部件。另外,在成像设备101旋转的情况下,机械臂102的操作可能需要被限制以防止信号线缆的扭曲、破坏等。
因此,作为上述实施例的旋转消除方法被合适地应用于如上所述的成像系统100中的成像设备101。
图21是表示替代于成像设备101合适地使用的成像设备1A的内部结构的示例的方框图。
在图21中的示例中,成像设备1A包括光学系统2和光学驱动部分4。另外,在该示例中,控制部分30不包括显示控制部分31和接受部分32的功能。另外,成像设备1A不具有用于用户输入和指示虚拟滤波器角度的旋转操作器2b。
成像设备1A的数字信号处理部分20包括偏振图像产生部分21A,而非偏振图像产生部分21。
图22是表示由偏振图像产生部分21A为了产生虚拟偏振图像而执行的处理的流程图。
图22A表示与作为用于产生虚拟偏振图像的目标角度的虚拟滤波器角度的计算相关的处理。
这个示例基于这样的假设:执行作为目标角度的偏振滤波器角度的计算作为在工件W的成像开始之前的初始设置处理。需要注意的是,假设:在图22A中的处理开始之前,偏振照明(发光操作单元102)被打开。
首先,在步骤S1001中,偏振图像产生部分21A等待,直至例如用户执行预定操作作为初始设置指示。在给出初始设置指示的情况下,偏振图像产生部分21A在步骤S201中执行每个角度的偏振图像产生处理,并且在随后的步骤S1002中,获取每个偏振图像中的预定像素位置的光接收信号值。在这个方面,所述预定像素位置是单个预设像素位置,但可以是多个像素位置。
然后,偏振图像产生部分21A在随后的步骤S1003中基于获取的光接收信号值执行cos曲线的拟合,并且在步骤S104中基于cos曲线确定与偏振照明的偏振方向具有正交尼科尔关系(换句话说,与偏振照明的偏振方向正交)的虚拟滤波器角度α”。具体地讲,偏振图像产生部分21A确定cos曲线中的光接收信号值被最小化的虚拟滤波器角度作为虚拟滤波器角度α”。另外,在随后的步骤S1005中,偏振图像产生部分21A存储虚拟滤波器角度α”以结束图22A中的处理。
图22B是表示在工件W的成像期间相应地执行的处理的流程图。
在步骤S1101中,偏振图像产生部分21A执行获取α”和β的处理,也就是说,获取在步骤S1005中存储的虚拟滤波器角度α”和由角度检测部分17检测的旋转角度β的处理,并且在随后的步骤S1102中,计算“α”+β”。然后,在步骤S1103中,偏振图像产生部分21A产生虚拟滤波器角度是“α”+β”的情况的虚拟偏振图像以结束图22B中的处理。
步骤S1103中的产生处理与前面的步骤S104中的产生处理的不同之处仅在于用于产生虚拟偏振图像的虚拟滤波器角度从“α+β”改变为“α”+β”,并且因此,避免重复描述。
通过应用如上所述的成像设备1A作为已知成像设备101,当工件W被扫描以便成像时,成像设备1A不需要根据偏振照明的偏振方向旋转。这减少部件的数量和机械臂102的成本并且简化机械臂102的结构,允许提高可维护性。
[2-2.第二修改示例]
图23是作为修改示例的成像部分11A的结构的描述性示图。图23A是成像部分11A中所包括的像素对50的示意性垂直剖视图,并且图23B是成像部分11A中的像素对50的阵列的正视图。
作为修改示例的成像部分11A包括两种类型的像素对50(以下,被称为“像素对50-1”和“像素对50-2”)作为像素对50。像素对50-1包括偏振分光器51-1和像素52和像素53。像素对50-2包括偏振分光器51-2和像素52和像素53。
偏振分光器51-1和51-2中的每一个具有两个直角棱镜彼此层叠的类型,并且分离面51a被形成在直角棱镜彼此层叠的部分。在偏振分光器51-1和51-2中,作为入射光中所包括的线偏振光的一部分并且具有与分离面51a的偏振轴基本上对准的偏振方向的线偏振光透射通过分离面51a。作为入射光中所包括的线偏振光的一部分并且具有与分离面51a的偏振轴基本上正交的偏振方向的线偏振光被从分离面51a反射。
像素52和53中的每一个包括预定数量的光接收元件12a。这里,为了描述,像素52和53中的每一个被认为包括一个光接收元件12a。需要注意的是,在支持彩色图像的成像的情况下,像素52和53中的每一个包括与R、G和B对应的三个或更多个光接收元件12a。
像素对50-1中的像素52的光接收元件12a包括与来自偏振分光器51-1的分离面51a的反射光的光轴基本上正交的光接收面,反射光被该光接收元件12a接收。另外,像素对50-1中的像素53的光接收元件12a包括与来自偏振分光器51-1的分离面51a的透射光的光轴基本上正交的光接收面,透射光被该光接收元件12a接收。
像素对50-1中的像素52和53选择性地接收具有有着90度差的不同偏振方向的各类型的线偏振光。
另外,像素对50-2中的像素52的光接收元件12a包括与来自偏振分光器51-2的分离面51a的反射光的光轴基本上正交的光接收面,反射光被该光接收元件12a接收。另外,像素对50-2中的像素53的光接收元件12a包括与来自偏振分光器51-2的分离面51a的透射光的光轴基本上正交的光接收面,透射光被该光接收元件12a接收。
像素对50-2中的像素52和53也选择性地接收具有有着90度差的不同偏振方向的各类型的线偏振光。
成像部分11A包括以二维方式并且交替地布置的像素对50-1和像素对50-2。在相邻关系的像素对50-1和像素对50-2中,偏振分光器51-1中的分离面51a的偏振轴在面内角度方面不同于偏振分光器51-2中的分离面51a的偏振轴。具体地讲,在本示例中,偏振轴的面内角度相差45度。
因此,像素对50-1中的像素52和53以及像素对50-2中的像素52和53选择性地接收具有有着45度差的不同偏振方向的各类型的线偏振光。
如图23B中所示,在本示例中,相邻关系的像素对50-1和像素对50-2构成一个像素单元U’。在成像部分11A中,多个这种像素单元U被沿垂直方向和横向方向布置。
需要注意的是,图23B表示由每个像素对50选择性地接收的线偏振光的偏振方向,与上述图3B中示出为偏振滤波器13a的偏振轴的方向的双头箭头的情况一样。
图24表示使用成像部分11A获得的第一至第四偏振图像和用于产生虚拟正常图像的方法的描述性示图,与上述图5的情况一样。
在成像部分11A中,能够在每个像素对50(也就是说,在每个像素位置)接收具有正交偏振方向的两种类型的线偏振光。因此,与成像部分11(参见图5)相比,成像部分11A能够增加第一至第四偏振图像的分辨率(参见图5B和5C以及图24B和24C)。需要注意的是,在2×2=4个像素对50被视为一个像素位置并且产生第一至第四偏振图像而没有任何像素内插的情况下,分辨率能够增加。
另外,在本示例中,由于像素对50-1和像素对50-2被沿垂直方向和横向方向交替地布置,所以能够使分辨率在垂直方向和横向方向之间是相等的。另外,类似的方法能够被用于实现用于产生第一至第四偏振图像的内插处理。例如,在像素对50-1和像素对50-2被线顺序地布置的情况下,用于内插处理的方法在垂直方向和横向方向之间变化,并且在不执行内插的情况下,获得的图像的分辨率在垂直方向和横向方向之间变化。然而,在本示例中,解决了这种问题。
需要注意的是,在这种情况下,也通过针对每个像素位置将具有正交偏振方向(一组0度和90度或一组45度和135度)的两种类型的线偏振光的光接收信号值相加在一起来产生虚拟正常图像。
在这种情况下,在获得第一至第四偏振图像之后执行的cos曲线拟合和基于cos曲线的虚拟偏振图像产生处理类似于上述那些cos曲线拟合和虚拟偏振图像产生处理,并且因此,省略重复描述。
在作为上述修改示例的成像部分11A中,能够针对一个像素对50(一个像素位置)选择性地接收具有正交关系的偏振方向的两种类型的线偏振光,并且能够在相邻关系的两个像素对50选择性地接收具有不同偏振方向的四种类型的线偏振光。
因此,虚拟偏振图像的分辨率能够增加。另外,多个光接收元件12a接收一个像素对50上的入射光,并且因此,每个像素位置的光接收灵敏度能够提高。
<3.应用示例>
根据本公开的技术能够被应用于各种产品。例如,根据本公开的技术可被应用于手术室系统。
图25是示意性地表示可应用根据本公开的技术的手术室系统5100的一般结构的示图。如图25中所见,通过经AV控制器5107和手术室控制设备5109将安装在手术室中的一组设备以协作方式连接一起来配置手术室系统5100。
在手术室中,可安装各种设备。作为示例,图25表示用于内窥镜手术的各种设备组5101、被布置在手术室的天花板上并且对医师的手的附近进行成像的天花板照相机5187以及被布置在手术室的天花板上并且对整个手术室进行成像的手术室照相机5189、多个显示设备5103A至5103D、记录器5105、病床5183和照明5191。
在这个方面,在设备之中,设备组5101属于内窥镜手术系统5113,并且包括内窥镜和显示由内窥镜捕获的图像的显示设备。属于内窥镜手术系统5113的设备也被称为医疗装备。另一方面,显示设备5103A至5013D、记录器5105、病床5183和照明5191是与内窥镜手术系统5113分开地例如安装在手术室中的设备。不属于内窥镜手术系统5113的设备也被称为非医疗装备。AV控制器5107和/或手术室控制设备5109以协作方式控制医疗装备和非医疗装备的操作。
AV控制器5107整体地控制与医疗装备和非医疗装备中的图像显示相关的处理。具体地讲,在手术室系统5100中所包括的设备之中,设备组5101、天花板照相机5187和手术室照相机5189可以是用于产生将要在手术期间显示的信息(以下,也被称为显示信息)的设备(以下,也被称为源设备)。另外,显示设备5103A至5103D可以是输出显示信息的设备(以下也被称为目的地设备)。另外,记录器5105可以是与源设备和目的地设备对应的设备。AV控制器5107用于控制每个源设备和对应目的地设备的操作以从源设备获取显示信息,同时向目的地设备发送显示信息以使目的地设备显示或记录显示信息。需要注意的是,所述显示信息包括在手术期间捕获的各种图像和与手术相关的各种类型信息(例如,与病人相关的身体信息、过去的检查结果和与手术过程相关的信息)。
具体地讲,AV控制器5107可接收与由内窥镜捕获的病人的体腔中的患病区域的图像相关并且作为显示信息发送的信息。另外,天花板照相机5187可发送与由天花板照相机5187捕获的医师的手的附近的图像相关的信息作为显示信息。另外,手术室照相机5189可发送与由手术室照相机5189捕获并且描述整个手术室的图像相关的信息作为显示信息。需要注意的是,在手术室系统5100包括具有成像功能的另一设备的情况下,AV控制器5107可从所述另一设备获取与由该设备捕获的图像相关的信息作为显示信息。
替代地,例如,与过去捕获的图像相关的信息由AV控制器5107记录在记录器5105中。AV控制器5107能够从记录器5105获取与过去捕获的图像相关的信息。需要注意的是,与手术相关的各种类型的信息可被预先记录在记录器5105中。
AV控制器5107使至少作为目的地设备的显示设备5103A至5103D中的任何一个显示获取的显示信息(也就是说,在手术期间捕获的图像和与手术相关的各种类型的信息)。在示出的示例中,显示设备5103A是从手术室的天花板悬挂的显示设备,显示设备5103B是安装在手术室的墙壁面上的显示设备,显示设备5103C是安装在手术室中的桌子上的显示设备,并且显示设备5103D是具有显示功能的移动装备(例如,平板PC(个人计算机))。
另外,虽然在图25中未示出,但手术室系统5100可包括手术室外部的设备。手术室外部的设备可以是例如连接到在医院内部或外部构造的网络的服务器、由医务人员使用的PC或安装在医院中的会议室中的投影仪。在这种外部设备存在于医院外部的情况下,AV控制器5107能够为了远程医疗而使另一医院中的显示设备经远程会议系统等显示信息。
手术室控制设备5109整体地控制除与图像显示相关的处理之外的非医疗装备中的处理。例如,手术室控制设备5109控制病床5183、天花板照相机5187、手术室照相机5189和照明5191的驱动。
手术室系统5100具有集成操作面板5111,并且经集成操作面板5111,用户能够向AV控制器5107给出用于图像显示的指示并且向手术室控制设备5109给出用于非医疗装备的操作的指示。集成操作面板5111包括显示设备,该显示设备包括布置在显示面上的触摸面板。
图26是表示集成操作面板5111上的操作屏幕的显示的示例的示图。作为示例,图26表示与这样的情况对应的操作屏幕:手术室系统5100具有两个显示设备作为目的地设备。如图26中所见,操作屏幕5193具有源选择区域5195、预览区域5197和控制区域5201。
源选择区域5195显示安装在手术室系统5100中的源设备和表示在源设备中提供的显示信息的缩略图图像,源设备与缩略图图像关联。用户能够从显示在源选择区域5195中的任何源设备选择将要由显示设备显示的显示信息。
预览区域5197显示显示在作为目的地设备的两个显示设备(监视器1和监视器2)上的屏幕的预览。在示出的示例中,一个显示设备执行四个图像的PinP显示。所述四个图像对应于源自在源选择区域5195中选择的源设备的显示信息。所述四个图像之一被显示为相对较大的主要图像,并且其余三个图像被显示为相对较小的子图像。通过在显示所述四个图像的区域中执行合适的选择,用户能够将主要图像改变为任何子图像。另外,状态显示区域5199被布置在显示所述四个图像的区域下方,并且可合适地显示与手术相关的状态(例如,手术的过去的时间和与病人相关的身体信息)。
控制区域5201具有:源操作区域5203,显示用于操作源设备的GUI(图形用户界面)部件;和目的地操作区域5205,显示用于操作目的地设备的GUI部件。在示出的示例中,源操作区域5203具有用于对具有成像功能的源设备中的照相机执行各种操作(平移、倾斜和变焦)的GUI部件。通过合适地选择任何GUI部件,用户能够控制源设备中的照相机的操作。需要注意的是,虽然未示出,但在源选择区域5195中选择的源设备是记录器(也就是说,预览区域5197正在显示过去记录在记录器中的图像)的情况下,源操作区域5203具有用于执行诸如图像的重放、重放停止、后退和快进的操作的GUI部件。
另外,目的地操作区域5205具有用于对与目的地设备对应的显示设备中的显示执行各种操作(交换、翻转、颜色调整、对比度调整、2D显示和3D显示之间的切换)的GUI部件。通过合适地从GUI部件选择,用户能够操作显示设备中的显示。
需要注意的是,显示在集成操作面板5111上的操作屏幕不限于示出的示例,并且用户可以能够输入关于可由AV控制器5107和手术室控制设备5109控制的布置在手术室系统5100中的设备的操作。
图27是表示应用上述手术室系统的手术的方式的示例的示图。天花板照相机5187和手术室照相机5189被布置在手术室的天花板上,并且能够对处置病床5183上的病人5185的患病区域的医师(外科医生)5181的手的附近进行成像并且也对整个手术室进行成像。天花板照相机5187和手术室照相机5189可具有倍率调整功能、焦距调整功能、成像方向调整功能等。照明5191被布置在天花板上,并且利用光照射至少医师5181的手的附近。照明5191允许由照明5191照射的光的量、照射光的波长(颜色)、光的照射方向等的合适的调整。
如图25中所示,内窥镜手术系统5113、病床5183、天花板照相机5187、手术室照相机5189和照明5191经AV控制器5107和手术室控制设备5109(图27中未示出)被连接在一起以便协作。集成操作面板5111被布置在手术室中,并且如上所述,用户能够经集成操作面板5111合适地操作存在于手术室中的设备。
将在以下描述内窥镜手术系统5113的结构。如图中所示,内窥镜手术系统5113包括内窥镜5115、另一手术器械5131、支撑内窥镜5115的支撑臂设备5141和安装用于内窥镜手术的各种设备的推车5151。
在内窥镜手术中,替代于腹壁上的剖腹手术,执行这样的过程:腹壁被利用多个管状开孔器械(被称为套管针5139a至5139d)穿刺。通过套管针5139a至5139d,内窥镜5115的透镜镜筒5117和其它手术器械被插入到病人5185的体腔中。在示出的示例中,作为所述其它手术器械5131,气腹管5133、能量治疗器械5135和钳子5137被插入到病人5185的体腔中。另外,能量治疗器械5135是使用高频电流或超声振动的用于组织的切割和剥离、血管的封闭等的治疗器械。然而,示出的手术器械5131仅是说明性的,并且常用于内窥镜手术的各种手术器械(例如,镊子和牵引器)可被用作手术器械5131。
显示设备5155显示由内窥镜5115捕获的病人5185的体腔中的患病区域的图像。在实时地观察显示在显示设备5155上的患病区域的图像的同时,医师5181使用能量治疗器械5135和钳子5137执行处理(例如,患病区域的切除)。需要注意的是,虽然未示出,但气腹管5133、能量治疗器械5135和钳子5137在手术期间由医师5181、助手等支撑。
(支撑臂设备)
支撑臂设备5141包括从底座部分5143延伸的臂部分5145。在示出的示例中,臂部分5145包括关节部分5147a、5147b和5147c以及连杆5149a和5149b,并且通过臂控制设备5159的控制而被驱动。臂部分5145支撑内窥镜5115以控制内窥镜5115的位置和方位。因此,内窥镜5115的位置可被稳定地固定。
(内窥镜)
内窥镜5115包括插入到病人5185的体腔中的透镜镜筒5117,并且从透镜镜筒5117的远端跨越预定长度的透镜镜筒5117的区域被插入到病人5185的体腔中。内窥镜5115还包括连接到透镜镜筒5117的近端的照相机头。在示出的示例中,描述被配置为包括刚性透镜镜筒5117的所谓的刚性镜的内窥镜5115。然而,内窥镜5115可被配置为包括柔性透镜镜筒5117的所谓的柔性镜。
安装有物镜的开口被布置在透镜镜筒5117的远端。光源设备5157被连接到内窥镜5115。由光源设备5157产生的光由延伸到透镜镜筒5117中的光导引导至透镜镜筒的远端,并且经物镜被照射到病人5185的体腔中的观察目标。需要注意的是,内窥镜5115可以是前视内窥镜、前斜视内窥镜或侧视内窥镜。
光学系统和成像元件被布置在照相机头5119内部,并且来自观察目标的反射光(观察光)通过光学系统而被聚焦在成像元件上。成像元件以光电方式转换观察光以产生与观察光对应的电信号(也就是说,与观察图像对应的图像信号)。图像信号被发送给照相机控制单元(CCU)5153作为RAW数据。需要注意的是,照相机头5119装备有这样的功能:合适地驱动光学系统以调整倍率和焦距。
需要注意的是,例如,为了支持立体观察(3D显示),照相机头5119可具有多个成像元件。在这种情况下,多个中继光学系统被布置在透镜镜筒5117内部以将观察光引导至所述多个成像元件中的每个成像元件。
(安装在推车中的各种设备)
CCU 5153包括CPU(中央处理单元)和GPU(图形处理单元),并且整体地控制内窥镜5115和显示设备5155的操作。具体地讲,对于从照相机头5119接收的图像信号,CCU 5153执行各种类型的处理(例如,显影处理(去马赛克处理))以便显示基于图像信号的图像。CCU5153为显示设备5155提供经受了图像处理的图像信号。另外,图25中示出的AV控制器5107被连接到CCU 5153。CCU 5153也为AV控制器5107提供经受了图像处理的图像信号。另外,CCU5153向照相机头5119发送控制信号以控制照相机头5119的驱动。该控制信号可包括与成像条件相关的信息(诸如,倍率和焦距)。可经输入设备5161或上述集成操作面板5111输入所述与成像条件相关的信息。
在CCU 5153的控制下,显示设备5155显示基于经受了CCU5153的图像处理的图像信号的图像。在内窥镜5115支持高分辨率(例如,4K(3840水平像素×2160垂直像素)或8K(7680水平像素×4320垂直像素))的图像捕获和/或支持3D显示情况下,使用的显示设备5155可相应地能够提供高分辨率显示和/或3D显示。在内窥镜5115支持高分辨率(诸如,4K或8K)的图像捕获的情况下,在显示设备5155是55英寸或更大尺寸的情况下,使用的显示设备5155提供增强沉浸感。另外,可根据预期用途提供在分辨率和尺寸方面不同的多个显示设备5155。
光源设备5157包括光源(例如,LED(发光二极管)),并且为内窥镜5115提供用于捕获手术区域的图像的照射光。
臂控制设备5159包括处理器(例如,CPU),并且根据预定程序操作以根据预定控制方法控制支撑臂设备5141的臂部分5145的驱动。
输入设备5161是用于内窥镜手术系统5113的输入接口。用户能够向内窥镜手术系统5113输入各种类型的信息和指示。例如,用户经输入设备5161输入与手术相关的各种类型的信息,诸如与病人相关的身体信息和与手术过程相关的信息。另外,例如,用户经输入设备5161输入用于驱动臂部分5145的指示、用于改变内窥镜5115的成像条件(照射光的类型、倍率、焦距等)的指示、用于驱动能量治疗器械5135的指示等。
输入设备5161的类型不受限制,并且输入设备5161可以是各种公知输入设备中的任何输入设备。作为输入设备5161,例如,鼠标、键盘、触摸面板、开关、脚踏开关5171和/或操纵杆是适用的。在触摸面板被用作输入设备5161的情况下,触摸面板可被布置在显示设备5155的显示面上。
替代地,输入设备5161是由用户穿戴的装置,例如眼镜类型可穿戴装置或HMD(头戴式显示器)。根据由上述装置检测的用户的手势或用户的视线提供各种类型的输入。另外,输入设备5161包括能够检测用户的运动的照相机,并且根据在由照相机捕获的视频中检测的用户的手势或用户的视线提供各种类型的输入。另外,输入设备5161包括能够收集用户的语音的麦克风,并且经麦克风提供各种类型的声音输入。输入设备5161因此被配置为使各种类型的信息能够以非接触方式输入,并且因此,属于清洁区域的用户(例如,医师5181)能够以非接触方式操作属于不洁区域的装备。另外,用户能够在不放下握着的手术器械的情况下操作装备,因此提高用户的方便。
治疗器械控制设备5163控制用于组织的烧灼或切割或者血管的封闭的能量治疗器械5135的驱动。气腹设备5165经气腹管5133将气体提供到病人5185的体腔中以使体腔膨胀以便为内窥镜5115提供视场并且为医师提供工作空间。记录器5167是记录与手术相关的各种类型的信息的设备。打印机5169是能够打印各种形式(诸如,文本、图像或曲线图)的与手术相关的各种类型的信息的设备。
特别地,将在以下更详细地描述内窥镜手术系统5113的特征部件。
(支撑臂设备)
支撑臂设备5141包括:底座部分5143,底座部分5143是底座;和臂部分5145,从底座部分5143延伸。在示出的示例中,臂部分5145包括:多个关节部分5147a、5147b和5147c;以及多个连杆5149a和5149b,通过关节部分5147b而彼此耦合。然而,在图27中,为了简化,臂部分5145的结构为了说明而被简化。在现实中,关节部分5147a至5147c以及连杆5149a和5149b的形状、数量和布置、关节部分5147a至5147c的旋转轴的方向等可被合适地设置以允许臂部分5145具有预期自由度。例如,臂部分5145可合适地被配置为具有六个或更多个自由度。因此,内窥镜5115能够在臂部分5145的可移动范围内自由地移动,并且因此,内窥镜5115的透镜镜筒5117能够被从预期方向插入到病人5185的体腔中。
关节部分5147a至5147c具有各致动器,并且关节部分5147a至5147c中的每一个被配置为可基于对应致动器的驱动围绕预定旋转轴旋转。致动器的驱动由臂控制设备5159控制以控制关节部分5147a至5147c中的每个关节部分的旋转角度,因此控制臂部分5145的驱动。因此,内窥镜5115的位置和方位可被控制。在这个方面,臂控制设备5159能够根据各种公知控制方法(诸如,力控制或位置控制)控制臂部分5145的驱动。
例如,医师5181可经输入设备5161(包括脚踏开关5171)提供合适的操作输入以使臂控制设备5159根据操作输入合适地控制臂部分5145的驱动,因此控制内窥镜5115的位置和方位。这种控制允许在臂部分5145的远端的内窥镜5115从任何位置移动到任何不同位置,并且允许在通过该移动而获得的位置固定地支撑内窥镜5115。需要注意的是,臂部分5145可通过所谓的主从法而被操作。在这种情况下,臂部分5145可由用户经安装在远离手术室的地方的输入设备5161远程地操作。
另外,在应用力控制的情况下,臂控制设备5159可提供所谓的动力辅助控制以使用于关节部分5147a至5147c的致动器驱动臂部分5145,以使得臂部分5145从用户接收外力并且根据该外力平稳地移动。因此,当用户在直接触摸臂部分5145的同时移动臂部分5145时,用户能够通过相对较弱的力来移动臂部分5145。因此,内窥镜5115能够通过更容易的操作而被直观地移动,允许提高用户的方便。
在这个方面,在内窥镜手术中,内窥镜5115通常由外科医生(被称为内窥镜医生)支撑。相比之下,支撑臂设备5141的使用使内窥镜5115的位置能够被更可靠地固定,而不依赖于手动操作。因此,患病区域的图像能够被稳定地获得,使手术能够平稳地执行。
需要注意的是,臂控制设备5159不需要必然被布置在推车5151中。另外,臂控制设备5159不需要必然是单个设备。例如,可为支撑臂设备5141的臂部分5145的关节部分5147a至5147c中的每个关节部分提供臂控制设备5159,并且多个臂控制设备5159可在实现臂部分5145的驱动控制时彼此协作。
(光源设备)
光源设备5157为内窥镜5115提供用于捕获手术区域的图像的照射光。光源设备5157包括白色光源,该白色光源包括例如LED、激光光源或LED和激光光源的组合。在这个方面,在白色光源包括RGB激光光源的组合的情况下,每个颜色(每个波长)的输出强度和输出定时能够被准确地控制,允许光源设备5157调整捕获图像的白平衡。另外,在这种情况下,观察目标被按照时分方式利用来自每个RGB激光光源的激光照射,并且照相机头5119的成像元件的驱动被与照射定时同步地控制。然后,分别与R、G和B对应的图像能够被按照时分方式捕获。这种方法允许在未在成像元件中布置滤色器的情况下获得彩色图像。
另外,光源设备5157的驱动可被控制以按照预定时间间隔改变从光源设备5157输出的光的强度。通过与光强的变化的定时同步地控制照相机头5119的成像元件的驱动以按照时分方式获取图像并且合成获取的图像,能够产生没有所谓的遮挡阴影(blocked-upshadows)和突出显示(blown-out highlights)的高动态范围图像。
另外,光源设备5157可被配置为能够提供与特殊光成像对应的预定波长带的光。在特殊光成像中,例如,执行所谓的窄带成像,窄带成像例如使用进入身体组织中的光的吸收率对波长的依赖性,并且在窄带成像中,利用具有比在正常观察期间的照射光(也就是说,白光)窄的频带的光的照射被用于以高对比度捕获预定组织(诸如,粘膜表层中的血管)的图像。替代地,在特殊光成像中,可执行荧光成像,荧光成像包括使用通过利用激发光照射而产生的荧光获得图像。荧光成像可包括例如利用激发光照射身体组织并且观察来自身体组织的荧光(自身荧光成像),或者通过在局部将试剂(诸如,吲哚菁绿(ICG))注入到身体组织中并且同时利用与试剂的荧光波长对应的激发光照射身体组织来获得荧光图像。光源设备5157可被配置为能够提供与这种特殊光成像对应的窄带光和/或激发光。
(照相机头和CCU)
参照图28,将更详细地描述内窥镜5115的照相机头5119和CCU 5153的功能。图28是表示图27中示出的照相机头5119和CCU 5153的功能结构的示例的方框图。
如图28中所见,照相机头5119包括透镜单元5121、成像部分5123、驱动部分5125、通信部分5127和照相机头控制部分5129作为照相机头5119的功能。另外,CCU 5153包括通信部分5173、图像处理部分5175和控制部分5177作为CCU 5153的功能。照相机头5119和CCU5153通过传输线缆5179来以双向可通信方式彼此连接。
首先,将描述照相机头5119的功能结构。透镜单元5121是布置在照相机头5119和透镜镜筒5117之间的连接部分的光学系统。从透镜镜筒5117的远端捕获的观察光被引导至照相机头5119并且进入透镜单元5121。透镜单元5121包括多个透镜的组合,所述多个透镜的组合包括变焦透镜和聚焦透镜。透镜单元5121使光学特性被调整以将观察光聚焦在成像部分5123的成像元件的光接收面上。另外,变焦透镜和聚焦透镜被配置,以使得光轴上的透镜的位置能够被移动以调整捕获图像的倍率和焦点。
成像部分5123包括成像元件,并且被布置为跟在透镜单元5121后面。已穿过透镜单元5121的观察光被聚焦在成像元件的光接收面上,并且被以光电方式转换成与观察图像对应的图像信号。由成像部分5123产生的图像信号被提供给通信部分5127。
作为成像部分5123中所包括的成像元件12,例如,使用CMOS(互补金属氧化物半导体)类型图像传感器,所述CMOS类型图像传感器包括Bayer阵列并且能够捕获彩色图像。需要注意的是,使用的成像元件可以能够捕获具有高分辨率(例如,4K或更高分辨率)的图像。手术区域的高分辨率图像允许医师5181更详细地识别手术区域的状态,并且因此,平稳地执行手术。
另外,成像部分5123中所包括的成像元件包括一对成像元件,所述一对成像元件用于分别获取与3D显示对应的用于右眼和用于左眼的图像信号。3D显示允许医师5181更准确地识别患病区域中的生物组织的深度。需要注意的是,在成像部分5123包括多个成像元件的情况下,提供与各成像元件对应的多个透镜单元5121。
另外,成像部分5123不需要必然被布置在照相机头5119中。例如,成像部分5123可紧挨在物镜之后被布置在透镜镜筒5117内部。
驱动部分5125包括致动器,并且在照相机头控制部分5129的控制下沿着光轴将透镜单元5121的变焦透镜和聚焦透镜移动预定距离。因此,由成像部分5123捕获的图像的倍率和焦点可被合适地调整。
通信部分5127包括用于向CCU 5153发送各种类型的信息以及从CCU 5153接收各种类型的信息的通信设备。通信部分5127经传输线缆5179向CCU 5153发送从成像部分5123获得的图像信号作为RAW数据。在这个方面,为了以低延时显示手术区域的捕获图像,优选地通过光通信来发送图像信号。原因如下。在手术期间,医师5181在观察捕获图像中的患病区域的状态的同时执行手术,并且只要可能,更安全并且更可靠的手术就需要手术区域的运动图像的实时显示。在执行光通信的情况下,通信部分5127具有光电转换模块,该光电转换模块将电信号转换成光学信号。图像信号被光电转换模块转换成光学信号,光学信号经传输线缆5179被发送给CCU 5153。
另外,通信部分5127从CCU 5153接收用于控制照相机头5119的驱动的控制信号。控制信号包括与成像条件相关的信息,例如指示捕获图像的帧速的信息、指示在成像期间的曝光值的信息和/或指示捕获图像的倍率和焦点的信息。通信部分5127向照相机头控制部分5129提供接收的控制信号。需要注意的是,也可通过光通信来发送来自CCU 5153的控制信号。在这种情况下,通信部分5127具有光电转换模块,该光电转换模块将光学信号转换成电信号。控制信号被光电转换模块转换成电信号,电信号被发送给照相机头控制部分5129。
需要注意的是,成像条件(诸如,上述帧速、曝光值、倍率和焦点)由CCU 5153的控制部分5177基于获取的图像信号自动地设置。换句话说,所谓的AE(自动曝光)功能、AF(自动聚焦)功能和AWB(自动白平衡)功能被安装在内窥镜5115中。
照相机头控制部分5129基于经通信部分5127从CCU 5153接收的控制信号控制照相机头5119的驱动。例如,照相机头控制部分5129基于指定捕获图像的帧速的信息和/或指定在成像期间的曝光的信息控制成像部分5123的成像元件的驱动。另外,例如,照相机头控制部分5129基于指定捕获图像的倍率和焦点的信息经驱动部分5125合适地移动透镜单元5121的变焦透镜和聚焦透镜。照相机头控制部分5129可进一步用于存储用于识别透镜镜筒5117和照相机头5119的信息。
需要注意的是,通过将诸如透镜单元5121和成像部分5123的部件布置在气密并且防水的封闭结构中,能够使照相机头5119对高压灭菌处理具有抵抗能力。
现在,将描述CCU 5153的功能结构。通信部分5173包括用于向照相机头5119发送各种类型的信息以及从照相机头5119接收各种类型的信息的通信设备。通信部分5173接收经传输线缆5179从照相机头5119发送的图像信号。在这个方面,可如上所述通过光通信来合适地发送图像信号。在这种情况下,与光通信相关联地,通信部分5173具有光电转换模块,该光电转换模块将光学信号转换成电信号。通信部分5173为图像处理部分5175提供转换成电信号的图像信号。
另外,通信部分5173向照相机头5119发送用于控制照相机头5119的驱动的控制信号。可通过光通信来发送该控制信号。
图像处理部分5175对包括从照相机头5119发送的RAW数据的图像信号执行各种类型的图像处理。图像处理包括各种类型的公知处理,例如显影处理、图像质量提高处理(频带增强处理、超级分辨率处理、NR(噪声减小)处理和/或图像稳定处理)和/或放大处理(电子变焦处理)。另外,图像处理部分5175对图像信号执行检测处理以允许执行AE、AF和AWB。
图像处理部分5175包括处理器(诸如,CPU或GPU),并且处理器可根据预定程序操作以执行上述图像处理或检测处理。在图像处理部分5175包括多个GPU的情况下,图像处理部分5175合适地划分与图像信号相关的信息,并且所述多个GPU并行地执行图像处理。
控制部分5177提供与由内窥镜5115对手术区域的成像和捕获图像的显示相关的各种类型的控制。例如,控制部分5177产生用于控制照相机头5119的驱动的控制信号。在这个方面,在成像条件已被用户输入的情况下,控制部分5177基于用户的输入产生控制信号。替代地,在内窥镜5115装备有AE功能、AF功能和AWB功能的情况下,控制部分5177根据由图像处理部分5175执行的检测处理的结果合适地计算最佳曝光值、最佳焦距和最佳白平衡,以产生控制信号。
另外,控制部分5177使显示设备5155基于经受了由图像处理部分5175执行的图像处理的图像信号显示手术区域的图像。在这个方面,控制部分5177使用各种图像识别技术识别手术区域的图像中的各种物体。例如,通过检测手术区域的图像中所包含的物体的边缘的形状、颜色等,控制部分5177能够识别手术器械(诸如,钳子)、特定生物区域、流血、通过使用能量治疗器械5135而导致的雾等。当使显示设备5155显示手术区域的图像时,控制部分5177使用识别结果将各种类型的手术辅助信息叠加在手术区域的图像上以用于显示。叠加在图像上并且呈现给医师5181的手术辅助信息使手术能够被更安全地并且可靠地执行。
连接照相机头5119和CCU 5153的传输线缆5179是能够实现电信号的通信的电信号线缆、能够实现光通信的光纤或电信号线缆和光纤的复合线缆。
在这个方面,在示出的示例中,传输线缆5179被用于有线通信。然而,照相机头5119和CCU 5153之间的通信可以是无线的。在照相机头5119和CCU 5153之间的通信是无线通信的情况下,传输线缆5179不需要被铺设在手术室中,允许避免这样的情况:手术室中的医务人员的移动被传输线缆5179妨碍。
已描述应用根据本公开的技术的手术室系统5100的示例。需要注意的是,在描述的情况下,作为示例,应用手术室系统5100的医疗系统是内窥镜手术系统5113,但手术室系统5100的结构不限于这种示例。例如,替代于内窥镜手术系统5113,手术室系统5100可被应用于用于检查的柔性内窥镜系统或显微手术系统。
根据本公开的技术合适地适用于上述结构中所包括的用于产生手术区域的图像的结构。具体地讲,例如,实施例中的成像部分11或11A可被应用作为照相机头5119的成像部分5123,角度检测部分17可被布置在照相机头5119中,并且CCU 5153中的图像处理部分5175可执行在其它方面由实施例中的偏振图像产生部分21或21A执行的处理。需要注意的是,在这种情况下,图像处理部分5175能够被布置在照相机头5119中。另外,在图像处理部分5175执行在其它方面由偏振图像产生部分21A执行的处理的情况下,光源设备5157被配置为选择性地发射具有特定偏振方向的线偏振光。
通过如此将根据本公开的技术应用于手术区域的图像的产生,手术区域的图像的偏振滤波效果能够被防止由于成像部分的方位的变化而改变。另外,在光源设备5157被配置为提供偏振照明的情况下,照相机头5119不需要根据偏振照明的偏振方向旋转。这使得不需要限制臂部分5145的操作以便防止信号线缆的扭曲、破坏等。
<4.实施例的结论>
如上所述,实施例的成像设备(1或1A)包括:成像部分(11或11A),包括能够接收第一偏振方向的光的第一像素和能够接收不同于第一偏振方向的第二偏振方向的光的第二像素;检测部分(角度检测部分17),检测成像部分的方位;和图像产生部分(21或21A),基于第一和第二像素的信号产生与和检测部分的检测结果对应的偏振方向对应的图像。
这能够产生与和成像部分的方位的变化对应的偏振方向对应的图像作为与特定偏振方向对应的图像(也就是说,与偏振滤波效果的应用对应的图像)。
因此,偏振滤波效果能够被防止由于成像设备的方位的变化而改变。
另外,在上述实施例的成像设备中,所述图像产生部分在假设通过经可旋转偏振滤波器接收光来获得捕获图像的情况下设置与可旋转偏振滤波器的旋转角度对应的虚拟滤波器角度,并且基于根据检测部分的检测结果校正的虚拟滤波器角度产生图像。
因此,能够获得这样的图像:该图像基于虚拟滤波器角度,并且该图像被校正以消除成像部分的方位的变化。
因此,偏振滤波效果能够被防止由于成像设备的方位的变化而改变。
在上述实施例的成像设备中,所述成像部分包括多个像素单元(U,U’),所述多个像素单元(U,U’)被布置在成像部分中,并且每个像素单元包括多个像素和偏振部分(偏振滤波器13a或偏振分光器51-1和51-2),每个像素包括预定数量的光接收元件,偏振部分使各像素接收不同偏振方向的线偏振光,并且图像产生部分基于像素单元中所包括的所述多个像素的光接收信号以及表示虚拟滤波器角度和光接收信号值之间的关系的函数信息产生与和根据检测部分的检测结果校正的虚拟滤波器角度对应的偏振方向对应的图像。
因此,尽管成像部分的方位变化,偏振滤波效果仍保持不变。
也就是说,偏振滤波效果能够被防止由于成像设备的方位的变化而改变。
另外,在实施例的成像设备(1)中,能够实现虚拟滤波器角度的操作输入。
因此,用户能够以可操作方式调整偏振滤波效果,并且因此,成像的自由度提高。
另外,在实施例的成像设备中,使用旋转操作器执行操作输入。
这使用户能够被提供与在可旋转偏振滤波器被以旋转方式操作的情况下获得的操作感觉类似的操作感觉。
另外,在实施例的成像设备中,所述图像产生部分能够基于像素单元中所包括的所述多个像素的光接收信号产生与使用虚拟滤波器角度作为可选角度获得的图像对应的虚拟偏振图像和作为消除了由偏振部分执行的偏振光的分离的图像的虚拟正常图像,并且根据操作分开地产生虚拟偏振图像和虚拟正常图像。
因此,用户能够以可操作方式指示偏振滤波效果的打开/关闭。
也就是说,偏振滤波效果能够根据来自用户的请求而被打开/关闭。
另外,实施例的成像设备包括:显示控制部分(31),使显示部分显示与通过将虚拟滤波器角度设置为可选角度而获得的图像对应的虚拟偏振图像。
因此,用户能够被提示检查偏振滤波效果。另外,在虚拟滤波器角度能够被以可操作方式指定的情况下,用户能够被提示检查响应于操作的偏振滤波效果的变化。
另外,在实施例的成像设备中,所述成像部分包括多个像素单元,所述多个像素单元被布置在成像部分中,并且每个像素单元包括多个像素和偏振部分,每个像素包括预定数量的光接收元件,偏振部分使各像素接收不同偏振方向的线偏振光,图像产生部分能够基于像素单元中所包括的所述多个像素的光接收信号产生与通过将虚拟滤波器角度设置为可选角度而获得的图像对应的虚拟偏振图像和作为消除了由偏振部分执行的偏振光的分离的图像的虚拟正常图像,并且显示控制部分基于在虚拟偏振图像或虚拟正常图像中的任何一个被显示在显示部分上的同时执行的预定操作将显示部分的显示状态从显示虚拟偏振图像或虚拟正常图像中的任何一个的状态切换为显示虚拟偏振图像或虚拟正常图像中的另一个的状态。
这允许用户容易地识别是否存在偏振滤波效果,能够提高方便。
另外,在实施例的成像设备中,所述显示控制部分在所述预定操作持续的同时保持显示虚拟偏振图像或虚拟正常图像中的另一个的显示状态,并且响应于所述预定操作的结束切换为显示虚拟偏振图像或虚拟正常图像中的任何一个的显示状态。
因此,为了在使虚拟偏振图像或虚拟正常图像中的另一个被显示之后恢复显示虚拟偏振图像或虚拟正常图像中的任何一个的显示状态,用户仅需要结束所述预定操作。
因此,显示的切换所涉及的操作负担能够减少。
另外,在实施例的成像设备中,能够实现虚拟滤波器角度的操作输入,图像产生部分产生增加角度图像或减小角度图像中的至少一个,增加角度图像是通过设置比由操作输入提供的角度大的虚拟滤波器角度而获得的虚拟偏振图像,减小角度图像是通过设置比由操作输入提供的角度小的虚拟滤波器角度而获得的虚拟偏振图像,并且显示控制部分使显示部分显示增加角度图像或减小角度图像中的至少一个。
因此,用户能够被提示检查偏振滤波效果如何在虚拟滤波器角度从当前指示的角度增加的情况和虚拟滤波器角度从当前指示的角度减小的情况中的每种情况下改变。
因此,用户能够被帮助容易地调整偏振滤波效果。
另外,在实施例的成像设备中,使用旋转操作器执行虚拟滤波器角度的操作输入,并且显示控制部分在使增加角度图像被显示的情况下使与旋转操作器的旋转方向相关并且用于增加虚拟滤波器角度的信息被显示在与增加角度图像对应的显示位置,并且在使减小角度被显示的情况下使与旋转操作器的旋转方向相关并且用于减小虚拟滤波器角度的信息被显示在与减小角度图像对应的显示位置。
这允许用户直观地理解旋转操作器需要沿哪个方向旋转以产生预期偏振滤波效果。
因此,用户能够被帮助更容易地调整偏振滤波效果。
另外,实施例的成像设备包括:接受部分(32),接受对象的操作指定,图像产生部分能够基于像素单元中所包括的所述多个像素的光接收信号和函数信息产生与通过将虚拟滤波器角度设置为可选角度而获得的图像对应的虚拟偏振图像,并且图像产生部分获取基于接收来自指定的对象的光的像素位置的光接收信号值的函数信息,基于函数信息计算像素位置的光接收信号值满足预定条件的虚拟滤波器角度作为目标角度,根据检测部分的检测结果校正目标角度以获得校正的角度,并且产生具有设置为校正的角度的虚拟滤波器角度的虚拟偏振图像。
因此,通过执行指定对象的操作,用户能够获得虚拟偏振图像,该虚拟偏振图像被调整以使预期对象的光反射方面满足预定条件。
因此,该实施例在产生所述预定偏振滤波效果时减小用户的操作负担。
另外,在实施例的成像设备中,所述图像产生部分计算像素位置的光接收信号被近似地最小化的虚拟滤波器角度作为目标角度。
因此,通过执行指定对象的操作,用户能够获得虚拟偏振图像,该虚拟偏振图像被调整以去除预期对象的反射。
因此,该实施例在产生用于去除预定对象的反射的偏振滤波效果时减小用户的操作负担。
另外,实施例的成像设备包括:显示控制部分,使显示部分显示由成像部分捕获的捕获图像,并且接受部分接受通过触摸显示部分的显示屏幕的触摸操作来执行的对象的指定。
因此,方便了指定对象的操作,能够实现用户的操作负担的减小。
另外,实施例的成像设备包括:显示控制部分,控制显示部分,图像产生部分基于函数信息针对成像部分中的每个预定像素位置计算表示响应于虚拟滤波器角度的变化的光接收信号值的变化的程度的值作为滤波效果预期值,并且显示控制部分使显示部分显示预期值图像,在预期值图像中,针对每个所述预定像素位置表示代表滤波效果预期值的大小的预期值信息。
因此,用户能够预先识别预期在图像中的哪个位置产生高滤波效果。
因此,用户能够被帮助容易地产生偏振滤波效果。
另外,在实施例的成像设备中,所述显示控制部分显示叠加在来自成像部分的捕获图像上的预期值图像。
因此,用户能够基于与对象的位置关系明确地识别能够预期产生高滤波效果的位置。
因此,用于促进产生预期偏振滤波效果的帮助效果能够进一步提高。
另外,在实施例的成像设备中,所述显示控制部分显示单色图像作为捕获图像,并且显示特定颜色的图像而非单色图像作为预期值图像。
因此,捕获图像和预期值图像的叠加显示抑制彼此的图像的可见性的降低。
因此,能够使用户更容易地识别能够预期产生高滤波效果的位置。
另外,在实施例的成像设备中,所述图像产生部分计算偏振度作为滤波效果预期值。
因此,预期值信息的可靠性能够提高。
另外,在实施例的成像设备中,所述成像部分(11A)包括多个像素对(50-1或50-2),每个像素对包括偏振分光器(51-1或51-2)、第一类型像素(52)和第二类型像素(53),第一类型像素(52)包括预定数量的光接收元件,每个光接收元件包括与从偏振分光器的分离面反射的反射光的光轴基本上正交的光接收面,该光接收面接收反射光,第二类型像素(53)包括预定数量的光接收元件,每个光接收元件包括与透射通过分离面的透射光的光轴基本上正交的光接收面,该光接收面接收透射光,并且偏振分光器的分离面的偏振轴的面内角度在相邻关系的像素对之间变化。
在上述成像部分中,一个像素对(一个像素位置)能够选择性地接收具有正交关系的偏振方向的两种类型的线偏振光,并且相邻关系的两个像素对能够接收具有不同偏振方向的四种类型的线偏振光。
因此,虚拟偏振图像的分辨率能够增加。另外,一个像素对上的入射光被多个光接收元件接收,并且因此,每个像素位置的光接收灵敏度能够提高。
需要注意的是,这里描述的效果仅是说明性的并且不是限制性的,并且可产生任何其它效果。
<5.其它修改示例>
本技术不限于上述特定示例,并且各种修改示例是可能的。
例如,在上述示例中,镜头设备2包括旋转操作器2b,换句话说,成像设备的本体不具有旋转操作器。然而,旋转操作器可被以例如拨号操作器的形式布置在成像设备本体中。
另外,用于指示虚拟滤波器角度的操作器不限于旋转操作器,并且可以是具有任何其它形式的操作器,诸如滑动操作器或按钮操作器。
另外,根据本技术的成像设备能够是镜头集成型成像设备。
<6.本技术>
需要注意的是,本技术也能够被如下构造。
(1)一种成像设备,包括:
成像部分,包括能够接收第一偏振方向的光的第一像素和能够接收不同于第一偏振方向的第二偏振方向的光的第二像素;
检测部分,检测成像部分的方位;和
图像产生部分,基于第一和第二像素的信号产生与和检测部分的检测结果对应的偏振方向对应的图像。
(2)如上述(1)所述的成像设备,其中
所述图像产生部分在假设通过经可旋转偏振滤波器接收光来获得捕获图像的情况下设置与可旋转偏振滤波器的旋转角度对应的虚拟滤波器角度,并且基于根据检测部分的检测结果校正的虚拟滤波器角度产生图像。
(3)如上述(3)所述的成像设备,其中
所述成像部分包括多个像素单元,所述多个像素单元被布置在成像部分中,并且每个像素单元包括多个像素和偏振部分,每个像素包括预定数量的光接收元件,偏振部分使各像素接收不同偏振方向的线偏振光,并且
图像产生部分基于像素单元中所包括的所述多个像素的光接收信号以及表示虚拟滤波器角度和光接收信号值之间的关系的函数信息产生与和根据检测部分的检测结果校正的虚拟滤波器角度对应的偏振方向对应的图像。
(4)如上述(2)或(3)所述的成像设备,其中
能够实现虚拟滤波器角度的操作输入。
(5)如上述(4)所述的成像设备,其中
使用旋转操作器执行操作输入。
(6)如上述(3)至(5)中任何一项所述的成像设备,其中
所述图像产生部分能够基于像素单元中所包括的所述多个像素的光接收信号产生与使用虚拟滤波器角度作为可选角度获得的图像对应的虚拟偏振图像和作为消除了由偏振部分执行的偏振光的分离的图像的虚拟正常图像,并且根据操作分开地产生虚拟偏振图像和虚拟正常图像。
(7)如上述(2)至(6)中任何一项所述的成像设备,包括:显示控制部分,使显示部分显示与通过将虚拟滤波器角度设置为可选角度而获得的图像对应的虚拟偏振图像。
(8)如上述(7)所述的成像设备,其中
所述成像部分包括多个像素单元,所述多个像素单元被布置在成像部分中,并且每个像素单元包括多个像素和偏振部分,每个像素包括预定数量的光接收元件,偏振部分使各像素接收不同偏振方向的线偏振光,
图像产生部分能够基于像素单元中所包括的所述多个像素的光接收信号产生与通过将虚拟滤波器角度设置为可选角度而获得的图像对应的虚拟偏振图像和作为消除了由偏振部分执行的偏振光的分离的图像的虚拟正常图像,并且
显示控制部分基于在虚拟偏振图像或虚拟正常图像中的任何一个被显示在显示部分上的同时执行的预定操作将显示部分的显示状态从显示虚拟偏振图像或虚拟正常图像中的任何一个的状态切换为显示虚拟偏振图像或虚拟正常图像中的另一个的状态。
(9)如上述(8)所述的成像设备,其中
所述显示控制部分在所述预定操作持续的同时保持显示虚拟偏振图像或虚拟正常图像中的另一个的显示状态,并且响应于所述预定操作的结束切换为显示虚拟偏振图像或虚拟正常图像中的任何一个的显示状态。
(10)如上述(7)至(9)中任何一项所述的成像设备,其中
能够实现虚拟滤波器角度的操作输入,
图像产生部分产生增加角度图像或减小角度图像中的至少一个,增加角度图像是通过设置比由操作输入提供的角度大的虚拟滤波器角度而获得的虚拟偏振图像,减小角度图像是通过设置比由操作输入提供的角度小的虚拟滤波器角度而获得的虚拟偏振图像,并且
显示控制部分使显示部分显示增加角度图像或减小角度图像中的至少一个。
(11)如上述(10)所述的成像设备,其中
使用旋转操作器执行虚拟滤波器角度的操作输入,并且
显示控制部分在使增加角度图像被显示的情况下使与旋转操作器的旋转方向相关并且用于增加虚拟滤波器角度的信息被显示在与增加角度图像对应的显示位置,并且在使减小角度被显示的情况下使与旋转操作器的旋转方向相关并且用于减小虚拟滤波器角度的信息被显示在与减小角度图像对应的显示位置。
(12)如上述(3)至(11)中任何一项所述的成像设备,包括:
接受部分,接受对象的操作指定,其中
图像产生部分能够基于像素单元中所包括的所述多个像素的光接收信号和函数信息产生与通过将虚拟滤波器角度设置为可选角度而获得的图像对应的虚拟偏振图像,并且
图像产生部分获取基于接收来自指定的对象的光的像素位置的光接收信号值的函数信息,基于函数信息计算像素位置的光接收信号值满足预定条件的虚拟滤波器角度作为目标角度,根据检测部分的检测结果校正目标角度以获得校正的角度,并且产生具有设置为校正的角度的虚拟滤波器角度的虚拟偏振图像。
(13)如(12)所述的成像设备,其中
所述图像产生部分计算像素位置的光接收信号被近似地最小化的虚拟滤波器角度作为目标角度。
(14)如上述(12)或(13)所述的成像设备,包括:
显示控制部分,使显示部分显示由成像部分捕获的捕获图像,其中
接受部分接受通过触摸显示部分的显示屏幕的触摸操作来执行的对象的指定。
(15)如上述(3)至(14)中任何一项所述的成像设备,包括:
显示控制部分,控制显示部分,其中
图像产生部分基于函数信息针对成像部分中的每个预定像素位置计算表示响应于虚拟滤波器角度的变化的光接收信号值的变化的程度的值作为滤波效果预期值,并且
显示控制部分使显示部分显示预期值图像,在预期值图像中,针对每个所述预定像素位置表示代表滤波效果预期值的大小的预期值信息。
(16)如(15)所述的成像设备,其中
所述显示控制部分显示叠加在来自成像部分的捕获图像上的预期值图像。
(17)如上述(16)所述的成像设备,其中
所述显示控制部分显示单色图像作为捕获图像,并且显示特定颜色的图像而非单色图像作为预期值图像。
(18)如上述(15)至(17)中任何一项所述的成像设备,其中
所述图像产生部分计算偏振度作为滤波效果预期值。
(19)如(1)至(18)中任何一项所述的成像设备,其中
所述成像部分包括多个像素对,每个像素对包括偏振分光器、第一类型像素和第二类型像素,第一类型像素包括预定数量的光接收元件,每个光接收元件包括与从偏振分光器的分离面反射的反射光的光轴基本上正交的光接收面,该光接收面接收反射光,第二类型像素包括预定数量的光接收元件,每个光接收元件包括与透射通过分离面的透射光的光轴基本上正交的光接收面,该光接收面接收透射光,并且
偏振分光器的分离面的偏振轴的面内角度在相邻关系的像素对之间变化。
标号列表
1、1A 成像设备
2b 旋转操作器
11、11A 成像部分
12 成像元件
12a 光接收元件
13 光学构件
13a 偏振滤波器
16 显示部分
17 角度检测部分
18 操作部分
20 数字信号处理部分
21、21A 偏振图像产生部分
23 显示数据产生部分
30 控制部分
31 显示控制部分
32 接受部分
50-1、50-2 像素对
51-1、51-2 偏振分光器
51a 分离面
52、53 像素
U、U’ 像素单元
P 偏振轴
P’ 虚拟偏振轴
Gr 指示角度图像
Ga 增加角度图像
Gd 减小角度图像

Claims (20)

1.一种成像设备,包括:
成像部分,包括能够接收第一偏振方向的光的第一像素和能够接收不同于第一偏振方向的第二偏振方向的光的第二像素;
检测部分,检测成像部分的方位;和
图像产生部分,基于第一和第二像素的信号产生与和检测部分的检测结果对应的偏振方向对应的图像。
2.如权利要求1所述的成像设备,其中
所述图像产生部分在假设通过经可旋转偏振滤波器接收光来获得捕获图像的情况下设置与可旋转偏振滤波器的旋转角度对应的虚拟滤波器角度,并且基于根据检测部分的检测结果校正的虚拟滤波器角度产生图像。
3.如权利要求2所述的成像设备,其中
所述成像部分包括多个像素单元,所述多个像素单元被布置在成像部分中,并且每个像素单元包括多个像素和偏振部分,每个像素包括预定数量的光接收元件,偏振部分使各像素接收不同偏振方向的线偏振光,并且
图像产生部分基于像素单元中所包括的所述多个像素的光接收信号以及表示虚拟滤波器角度和光接收信号值之间的关系的函数信息产生与和根据检测部分的检测结果校正的虚拟滤波器角度对应的偏振方向对应的图像。
4.如权利要求2所述的成像设备,其中
能够实现虚拟滤波器角度的操作输入。
5.如权利要求4所述的成像设备,其中
使用旋转操作器执行操作输入。
6.如权利要求3所述的成像设备,其中
所述图像产生部分能够基于像素单元中所包括的所述多个像素的光接收信号产生与使用虚拟滤波器角度作为可选角度获得的图像对应的虚拟偏振图像和作为消除了由偏振部分执行的偏振光的分离的图像的虚拟正常图像,并且根据操作分开地产生虚拟偏振图像和虚拟正常图像。
7.如权利要求2所述的成像设备,包括:
显示控制部分,使显示部分显示与通过将虚拟滤波器角度设置为可选角度而获得的图像对应的虚拟偏振图像。
8.如权利要求7所述的成像设备,其中
所述成像部分包括多个像素单元,所述多个像素单元被布置在成像部分中,并且每个像素单元包括多个像素和偏振部分,每个像素包括预定数量的光接收元件,偏振部分使各像素接收不同偏振方向的线偏振光,
图像产生部分能够基于像素单元中所包括的所述多个像素的光接收信号产生与通过将虚拟滤波器角度设置为可选角度而获得的图像对应的虚拟偏振图像和作为消除了由偏振部分执行的偏振光的分离的图像的虚拟正常图像,并且
显示控制部分基于在虚拟偏振图像或虚拟正常图像中的任何一个被显示在显示部分上的同时执行的预定操作将显示部分的显示状态从显示虚拟偏振图像或虚拟正常图像中的任何一个的状态切换为显示虚拟偏振图像或虚拟正常图像中的另一个的状态。
9.如权利要求8所述的成像设备,其中
所述显示控制部分在所述预定操作持续的同时保持显示虚拟偏振图像或虚拟正常图像中的另一个的显示状态,并且响应于所述预定操作的结束切换为显示虚拟偏振图像和虚拟正常图像中的任何一个的显示状态。
10.如权利要求7所述的成像设备,其中
能够实现虚拟滤波器角度的操作输入,
图像产生部分产生增加角度图像或减小角度图像中的至少一个,增加角度图像是通过设置比由操作输入提供的角度大的虚拟滤波器角度而获得的虚拟偏振图像,减小角度图像是通过设置比由操作输入提供的角度小的虚拟滤波器角度而获得的虚拟偏振图像,并且
显示控制部分使显示部分显示增加角度图像或减小角度图像中的至少一个。
11.如权利要求10所述的成像设备,其中
使用旋转操作器执行虚拟滤波器角度的操作输入,并且
显示控制部分在使增加角度图像被显示的情况下使与旋转操作器的旋转方向相关并且用于增加虚拟滤波器角度的信息被显示在与增加角度图像对应的显示位置,并且在使减小角度被显示的情况下使与旋转操作器的旋转方向相关并且用于减小虚拟滤波器角度的信息被显示在与减小角度图像对应的显示位置。
12.如权利要求3所述的成像设备,包括:
接受部分,接受对象的操作指定,其中
图像产生部分能够基于像素单元中所包括的所述多个像素的光接收信号和函数信息产生与通过将虚拟滤波器角度设置为可选角度而获得的图像对应的虚拟偏振图像,并且
图像产生部分获取基于接收来自指定的对象的光的像素位置的光接收信号值的函数信息,基于函数信息计算像素位置的光接收信号值满足预定条件的虚拟滤波器角度作为目标角度,根据检测部分的检测结果校正目标角度以获得校正的角度,并且产生具有设置为校正的角度的虚拟滤波器角度的虚拟偏振图像。
13.如权利要求12所述的成像设备,其中
所述图像产生部分计算像素位置的光接收信号被近似地最小化的虚拟滤波器角度作为目标角度。
14.如权利要求12所述的成像设备,包括:
显示控制部分,使显示部分显示由成像部分捕获的捕获图像,其中
接受部分接受通过触摸显示部分的显示屏幕的触摸操作来执行的对象的指定。
15.如权利要求3所述的成像设备,包括:
显示控制部分,控制显示部分,其中
图像产生部分基于函数信息针对成像部分中的每个预定像素位置计算表示响应于虚拟滤波器角度的变化的光接收信号值的变化的程度的值作为滤波效果预期值,并且
显示控制部分使显示部分显示预期值图像,在预期值图像中,针对每个所述预定像素位置表示代表滤波效果预期值的大小的预期值信息。
16.如权利要求15所述的成像设备,其中
所述显示控制部分显示叠加在来自成像部分的捕获图像上的预期值图像。
17.如权利要求16所述的成像设备,其中
所述显示控制部分显示单色图像作为捕获图像,并且显示特定颜色的图像而非单色图像作为预期值图像。
18.如权利要求15所述的成像设备,其中
所述图像产生部分计算偏振度作为滤波效果预期值。
19.如权利要求1所述的成像设备,其中
所述成像部分包括多个像素对,每个像素对包括偏振分光器、第一类型像素和第二类型像素,第一类型像素包括预定数量的光接收元件,每个光接收元件包括与从偏振分光器的分离面反射的反射光的光轴基本上正交的光接收面,该光接收面接收反射光,第二类型像素包括预定数量的光接收元件,每个光接收元件包括与透射通过分离面的透射光的光轴基本上正交的光接收面,该光接收面接收透射光,并且
偏振分光器的分离面的偏振轴的面内角度在相邻关系的像素对之间变化。
20.一种由成像设备执行的图像产生方法,所述成像设备包括成像部分,所述成像部分包括能够接收第一偏振方向的光的第一像素和能够接收不同于第一偏振方向的第二偏振方向的光的第二像素,所述图像产生方法包括:
检测成像部分的方位的步骤;和
基于第一和第二像素的信号产生与和检测步骤的检测结果对应的偏振方向对应的图像的步骤。
CN201880044749.2A 2017-07-12 2018-06-04 成像装置和图像产生方法 Active CN110832842B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017136395 2017-07-12
JP2017-136395 2017-07-12
PCT/JP2018/021421 WO2019012857A1 (ja) 2017-07-12 2018-06-04 撮像装置、画像生成方法

Publications (2)

Publication Number Publication Date
CN110832842A CN110832842A (zh) 2020-02-21
CN110832842B true CN110832842B (zh) 2021-10-15

Family

ID=65001220

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201880044749.2A Active CN110832842B (zh) 2017-07-12 2018-06-04 成像装置和图像产生方法

Country Status (6)

Country Link
US (1) US11531151B2 (zh)
EP (1) EP3654633A4 (zh)
JP (1) JP7211364B2 (zh)
KR (1) KR20200024209A (zh)
CN (1) CN110832842B (zh)
WO (1) WO2019012857A1 (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7325949B2 (ja) * 2018-11-22 2023-08-15 ソニーセミコンダクタソリューションズ株式会社 撮像装置及び電子機器
CN110708453A (zh) * 2019-11-12 2020-01-17 Oppo广东移动通信有限公司 图像传感器、相机模组、终端和成像方法
JP7446805B2 (ja) 2019-12-18 2024-03-11 キヤノン株式会社 撮像装置、制御方法およびプログラム
JP7446804B2 (ja) 2019-12-18 2024-03-11 キヤノン株式会社 撮像装置およびその制御方法、プログラム
JP2021141446A (ja) * 2020-03-05 2021-09-16 キヤノン株式会社 撮像装置及びその制御方法
WO2021210300A1 (ja) * 2020-04-15 2021-10-21 ソニーグループ株式会社 情報処理装置と情報処理方法およびプログラム
CN112492199B (zh) * 2020-11-24 2023-04-14 维沃移动通信有限公司 拍照方法、装置及电子设备
CN115358937B (zh) * 2022-07-18 2023-06-20 荣耀终端有限公司 图像去反光方法、介质及电子设备

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4921918B2 (ja) 2006-10-18 2012-04-25 インパック株式会社 花卉陳列棚
CN101558282B (zh) 2007-02-13 2011-12-14 松下电器产业株式会社 图像处理系统、方法、装置、以及图像格式
JP5391914B2 (ja) * 2009-08-06 2014-01-15 ソニー株式会社 撮像装置および映像記録再生システム
CN102116939B (zh) * 2009-12-31 2013-05-08 Tcl集团股份有限公司 一种三维显示方法、led显示装置及三维显示系统
JP2011237646A (ja) * 2010-05-11 2011-11-24 Panasonic Corp 3次元撮像装置
CN102081339B (zh) * 2010-11-22 2013-05-08 中山大学 基于一阶谱分时复用技术的全息三维图像显示方法与系统
JP2012203274A (ja) * 2011-03-28 2012-10-22 Sony Corp 撮像装置および電子機器
JP2013172292A (ja) * 2012-02-21 2013-09-02 Sony Corp 撮像装置及び撮像素子アレイ
JP5970289B2 (ja) 2012-08-10 2016-08-17 Hoya株式会社 撮影装置及び回転光学要素の回転駆動制御方法
JP2015026937A (ja) * 2013-07-25 2015-02-05 ソニー株式会社 撮像装置および撮像方法、並びにプログラム
JP2015052635A (ja) * 2013-09-05 2015-03-19 ソニー株式会社 光学ユニット、撮像装置
DE102014115310A1 (de) * 2014-10-21 2016-04-21 Infineon Technologies Ag Bilderzeugungsvorrichtungen und ein Laufzeit-Bilderzeugungsverfahren
CN104777624B (zh) * 2015-03-25 2017-07-04 清华大学深圳研究生院 一种偏振成像设备及方法
JP2017063247A (ja) 2015-09-24 2017-03-30 キヤノン株式会社 撮像装置およびフィルタの制御方法
CN108845384B (zh) * 2016-08-29 2021-01-22 苏州大学 全介质像素式全斯托克斯成像偏振器件的制备方法
RU2657377C2 (ru) * 2016-11-11 2018-06-13 Самсунг Электроникс Ко., Лтд. Интеллектуальная насадка на смартфон для определения чистоты, влажности и фотовозраста кожи
US10812735B2 (en) * 2016-11-15 2020-10-20 Sony Corporation Image processing device and image processing method
CN107835355A (zh) * 2017-12-18 2018-03-23 上海青橙实业有限公司 移动终端及其摄像模组

Also Published As

Publication number Publication date
WO2019012857A1 (ja) 2019-01-17
KR20200024209A (ko) 2020-03-06
CN110832842A (zh) 2020-02-21
US20200183066A1 (en) 2020-06-11
JP7211364B2 (ja) 2023-01-24
EP3654633A1 (en) 2020-05-20
JPWO2019012857A1 (ja) 2020-05-07
EP3654633A4 (en) 2020-05-27
US11531151B2 (en) 2022-12-20

Similar Documents

Publication Publication Date Title
CN110832842B (zh) 成像装置和图像产生方法
JP6950707B2 (ja) 情報処理装置および方法、並びにプログラム
US11653824B2 (en) Medical observation system and medical observation device
JP7363767B2 (ja) 画像処理装置と画像処理方法およびプログラム
US11503980B2 (en) Surgical system and surgical imaging device
JP7188083B2 (ja) 情報処理装置、情報処理方法および情報処理プログラム
WO2019031000A1 (ja) 信号処理装置、撮像装置、信号処理方法及びプログラム
WO2018088237A1 (ja) 画像処理装置および設定方法、並びにプログラム
US20220148128A1 (en) Image processing apparatus, image processing method, and program
JP7092111B2 (ja) 撮像装置、映像信号処理装置および映像信号処理方法
WO2020203265A1 (ja) 映像信号処理装置、映像信号処理方法および撮像装置
JP7160042B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
WO2018179875A1 (ja) 撮像装置とフォーカス制御方法およびフォーカス判定方法
WO2018088238A1 (ja) 画像処理装置および制御方法、並びにプログラム
WO2018088236A1 (ja) 画像処理装置および方法、並びにプログラム
JP7230923B2 (ja) 情報処理装置、情報処理方法及びプログラム
US20220256096A1 (en) Image processing device, image processing method, and program
WO2021230001A1 (ja) 情報処理装置及び情報処理方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant