CN110598685A - 分辨前景的成像装置 - Google Patents

分辨前景的成像装置 Download PDF

Info

Publication number
CN110598685A
CN110598685A CN201910706667.6A CN201910706667A CN110598685A CN 110598685 A CN110598685 A CN 110598685A CN 201910706667 A CN201910706667 A CN 201910706667A CN 110598685 A CN110598685 A CN 110598685A
Authority
CN
China
Prior art keywords
pixels
pixel
region
infrared
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910706667.6A
Other languages
English (en)
Other versions
CN110598685B (zh
Inventor
林荣泰
许恩峯
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Pixart Imaging Inc
Original Assignee
Pixart Imaging Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Pixart Imaging Inc filed Critical Pixart Imaging Inc
Priority to CN201910706667.6A priority Critical patent/CN110598685B/zh
Publication of CN110598685A publication Critical patent/CN110598685A/zh
Application granted granted Critical
Publication of CN110598685B publication Critical patent/CN110598685B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

本发明提供一种分辨前景的成像装置,该成像装置包括:聚光透镜;图像传感器,用以感测穿透聚光透镜的光线,图像传感器包含:像素矩阵,包含沿第一方向及第二方向排列的多个红外线像素、多个第一像素及多个第二像素;遮光层,遮蔽在多个第一像素的第一区域上方及多个第二像素的第二区域上方,其中,第一区域与所述第二区域分别为第一像素及第二像素的一部分并沿第一方向形成镜像对称,被遮光层遮蔽第一区域上方的第一像素与被遮光层遮蔽第二区域上方的第二像素是在所述第一方向的两相邻像素,且第一像素的未遮蔽区与第二像素的未遮蔽区在第一方向相邻;多个微透镜,设置在像素矩阵上方;及红外光滤光层,覆盖在多个红外线像素上方。

Description

分辨前景的成像装置
本申请是申请号为201510581322.4、申请日为2015年09月14日、名称为“分辨前景的成像装置及其运作方法、以及图像传感器”的中国发明专利申请的分案申请。
技术领域
本发明有关一种光学传感器,更特别有关一种可分辨前景与背景的成像装置及其运作方法。
背景技术
通过分辨手势以启动系统的默认应用程序已广泛应用于各式电子装置,例如可携式电子装置或穿戴式电子装置。一种已知分辨前景与背景的方式为使用系统光源照明操作范围内的对象。当所述系统光源打光时,图像传感器获取一张亮图像;而当所述系统光源不打光时,所述图像传感器获取一张暗图像。通过计算所述亮图像与所述暗图像的差分图像则可消除背景的干扰。
然而,可携式电子装置或穿戴式电子装置时常被操作于强光之下,例如太阳光下。由于系统光源的亮度与太阳光相较显得非常微弱,因此通过已知计算亮暗图像的差分图像的方式并无法有效消除背景干扰。
有鉴于此,一种不受限于环境光强弱的成像装置是当前业界所急需的。
发明内容
本发明提出一种可分辨前景的成像装置及其运作方法,其搭配相位检测以克服强环境光所造成的限制。
本发明提出一种可在不同环境光下使用不同运作模式的可分辨前景的成像装置及其运作方法。
本发明提供一种成像装置,其包含聚光透镜以及图像传感器。所述图像传感器用以感测穿透所述聚光透镜的光线并包含像素矩阵、遮光层、多个微透镜及红外光滤光层。所述像素矩阵包含沿第一方向及第二方向排列的多个红外线像素、多个第一像素及多个第二像素。所述遮光层遮蔽在所述多个第一像素的第一区域上方及所述多个第二像素的第二区域上方,其中,所述第一区域与所述第二区域分别为所述第一像素及所述第二像素的一部分并沿所述第一方向形成镜像对称,被所述遮光层遮蔽所述第一区域上方的第一像素与被所述遮光层遮蔽所述第二区域上方的第二像素是在所述第一方向的两相邻像素,且所述第一像素的未遮蔽区与所述第二像素的未遮蔽区在所述第一方向相邻。所述多个微透镜设置在所述像素矩阵上方。所述红外光滤光层覆盖在所述多个红外线像素上方。
本发明还提供一种成像装置,其包含聚光透镜以及图像传感器。所述图像传感器用以感测穿透所述聚光透镜的光线并包含像素矩阵、遮光层、多个微透镜及红外光滤光层。所述像素矩阵包含多个红外线像素、多个第一像素及多个第二像素。所述遮光层遮蔽在所述多个第一像素的第一区域上方及所述多个第二像素的第二区域上方,其中,所述第一区域与所述第二区域分别为所述第一像素及所述第二像素的一部分并沿第一方向形成镜像对称,且所述第一像素与所述第二像素在像素边缘的未遮蔽区大于像素中心的未遮蔽区。所述多个微透镜设置在所述像素矩阵上方。所述红外光滤光层覆盖在所述多个红外线像素上方。
为了让本发明的上述和其他目的、特征和优点能更明显,下文将配合所附图示,详细说明如下。此外,在本发明的说明中,相同的构件以相同的符号表示,在此先述明。
附图说明
图1为本发明说明一实施例的成像装置的方块示意图;
图2A-2B为本发明说明某些实施例的成像装置的图像传感器的剖视图;
图3A-3D为本发明说明某些实施例的遮光层的配置的示意图;
图4为本发明说明一实施例的成像装置的运作方法的示意图;
图5为本发明说明一实施例的成像装置的第一模式的运作方法的示意图;
图6为本发明说明一实施例的成像装置的运作方法的流程图。
附图标记说明
1 成像装置
10 聚光透镜
11 图像传感器
13 处理器
130 储存单元
131 光源控制模块
133 选择模块
135 差分模块
137 偏移计算模块
139 应用模块
15 红外光源
9 物体
P1-P4、Pinf 像素
F 图像帧
Ls 红外光
Lrs 反射光线
La 环境光
具体实施方式
请参照图1及2A-2B所示,图1为本发明说明一实施例的成像装置的方块示意图,图2A-2B为本发明说明某些实施例的成像装置的图像传感器的剖视图。成像装置1包含聚光透镜10、图像传感器11、处理器13以及红外光源15。某些实施例中,所述处理器13例如可与所述图像传感器11及所述红外光源15设置在同一芯片内。某些实施例中,所述处理器13可为所述图像传感器11外部的处理单元,用以接收并处理所述图像传感器11所获取的图像帧F,以选择利用第一模式(例如普通模式)或第二模式(例如强光模式)从背景图像分离出至少一前景图像(foreground image);例如,当所述成像装置1应用于手势识别时,所述至少一个前景图像可为用户的手或用户握持的对象。所述处理器13例如可为微控制器(MCU)、中央处理器(CPU)、数字信号处理器(DSP)等用以处理所述图像传感器11所输出的图像帧F者。
所述红外光源15例如可为发光二极管或雷射二极管,用以发出红外光Ls照明所述成像装置1的可操作范围;其中,所述可操作范围例如由组件参数所决定。当对象9进入所述可操作范围内时,则朝向所述图像传感器11反射所述红外光Ls以形成反射光线Lrs。某些实施例中,所述成像装置1可包含至少一个光学组件(未绘示)以均匀化所述红外光源15所发出的光。
所述聚光透镜10例如可位于取像装置(例如照相机)的镜头内,其可为单一透镜或沿光轴(optical axis)排列的透镜组,并无特定限制,而为了简化图式此处仅显示单一透镜。所述聚光透镜10用作为镜头窗(lens window),用以获取来自所述对象9的反射光线Lrs或环境光La,并引导所述反射光线Lrs及环境光La至所述图像传感器11。所述聚光透镜10与所述图像传感器11的距离较佳等于所述聚光透镜10的第一焦距(例如靠近所述图像传感器11侧的焦距)。可以了解的是,当存在环境光La时,所述反射光线Lrs也会包含部分环境光的反射光。
所述图像传感器11(此处例如以像素阵列表示)基于预设焦距感测穿透所述聚光透镜10的光线(例如反射光线Lrs及环境光La)并输出图像帧F;例如,所述图像传感器11在所述红外光源15点亮时输出亮图像帧并在所述红外光源15熄灭时输出暗图像帧。所述图像传感器11包含像素矩阵111(例如以9×9像素矩阵为例说明)、遮光层113、多个微透镜115以及红外光滤光层117(参照图2A及2B);其中,所述遮光层113经图案化后用以遮蔽所述像素矩阵111所包含的多个像素的至少一部分,以使所述多个像素的未遮蔽区通过所述多个微透镜115的不同部分接收不同相位的入射光。所述预设焦距指所述聚光透镜10与所述多个微透镜115所共同形成位于所述聚光透镜10的入光侧的第二焦距,本发明中有时简称为所述聚光透镜10或所述图像传感器11的默认焦距。
申请人发现,当对象9位于所述聚光透镜10的所述第二焦距(例如远离所述图像传感器11侧的焦距,即所述预设焦距)处反射红外光Ls或环境光La至所述成像装置1时,所述图像传感器11所输出的图像帧F中的对象图像在相对不同遮蔽型态的像素的子帧中的位置不会产生偏移,而当所述对象9不位于所述聚光透镜10的所述第二焦距时,所述图像传感器11所输出的图像帧F中的对象图像在相对不同遮蔽型态的像素的子帧中的位置会朝向不同方向偏移(shift),举例详述于后。因此,所述成像装置1可判断所述位置偏移量是否位于预设范围内,以判断所述对象9是否为位于可操作范围内的前景图像。换句话说,本发明说明的成像装置1具有可操作范围,位于所述可操作范围内的对象在所述图像帧F上的成像则定义为前景图像。
一实施例中,所述像素矩阵111包含多个红外线像素Pinf、多个第一像素P1及多个第二像素P2沿第一方向(例如X方向)及第二方向(例如Y方向)排列。必须说明的是,本发明说明中,所述多个第一像素P1及所述多个第二像素P2指被所述遮光层113遮蔽的区域不同。例如,在单色图像传感器中,所述多个第一像素P1及所述多个第二像素P2的像素本身相同,而在其上的遮光层113的遮蔽型态(cover pattern)不同(如图1所示)。例如,在彩色图像传感器中,所述多个第一像素P1及所述多个第二像素P2均可分别包含红色像素(例如像素上形成红色滤光层)、绿色像素(例如像素上形成绿色滤光层)、蓝色像素(例如像素上形成蓝色滤光层)或其他颜色像素,而所述多个第一像素P1及所述多个第二像素P2上的遮光层113的遮蔽型态不同。所述多个红外线像素Pinf上方覆盖有红外光滤光层117但不被所述遮光层113遮蔽。
所述遮光层113例如可利用作为电性通路的金属层所形成(例如CMOS制程中的M1-M10其中至少一层),也可为金属层以外另外形成的黑色阻光层,或者为两者的组合,并无特定限制,只要能够阻挡入射光即可。本实施例中,所述遮光层113遮蔽在所述多个第一像素P1的第一区域(斜线区域)上方及所述多个第二像素P2的第二区域(斜线区域)上方。图1中,所述第一区域位于沿着所述第一方向(例如X方向)的一侧,而所述第二区域位于沿着所述第一方向的反方向侧,且所述多个第一像素P1的所述第一区域与所述多个第二像素P2的所述第二区域沿所述第一方向形成镜像对称。此外,所述多个第一像素P1具有所述第一区域以外的未遮蔽区(空白区域)而所述多个第二像素P2具有所述第二区域以外的未遮蔽区(空白区域);其中,所述多个第一像素P1的未遮蔽区及所述多个第二像素P2的未遮蔽区分别通过所述多个微透镜115的不同部分接收不同相位的入射光(如图2A所示)。
例如图1中,所述多个第一像素P1的第一区域为所述多个第一像素P1的上侧而所述多个第二像素P2的第二区域为所述多个第二像素P2的下侧。必须说明的是,虽然图1显示所述第一区域及所述第二区域均大致为单一像素面积的50%,但其仅用以说明而并非用以限定本发明说明。其他实施例中,所述第一区域及所述第二区域可为单一像素面积的5%-95%,并无特定限制。
所述多个微透镜115设置在所述像素矩阵111上方,并分别对位于一个像素。所述遮光层113及所述红外光滤光层117则介于所述像素矩阵111与所述多个微透镜115间;其中,所述遮光层113及所述红外光滤光层117与所述像素矩阵111的垂直距离可相等或不等,并无特定限制。藉此,所述多个第一像素P1及所述多个第二像素P2分别通过所述多个微透镜115的第一部分(相对图1例如为微透镜115的下半部分,相对图2A例如为微透镜115的右半部分)及第二部分(相对图1例如为微透镜115的上半部分,相对图2A例如为微透镜115的左半部分)接收不同相位的入射光。必须说明的是,虽然图2A显示所述多个第一像素P1及所述多个第二像素P2的未遮蔽区大致相对于所述多个微透镜115的一半,但其仅用以说明而并非用以限定本发明说明。可以了解的是,光线穿透所述多个微透镜115而能够到达未遮蔽区的部分根据所述遮光层113的遮蔽部分而决定。本发明说明中,所述多个微透镜115的第一部分及第二部分可配置为所述多个微透镜115的5%-95%,并无特定限制。
图1中,所述像素矩阵111还包含沿所述第二方向(例如Y方向)排列的多个第三像素P3及多个第四像素P4。所述遮光层113还遮蔽在所述多个第三像素P3的第三区域(斜线区域)上方及所述多个第四像素P4的第四区域(斜线区域)上方;其中,所述第三区域位于沿着所述第二方向(例如Y方向)的一侧,而所述第四区域位于沿着所述第二方向的反方向侧。例如图1中,所述第三区域位于所述多个第三像素P3的左侧,而所述第四区域位于所述多个第四像素P4的右侧,且所述第三区域与所述第四区域沿所述第二方向形成镜像对称。
更详言之,所述遮光层113遮蔽在所述像素矩阵111的上方,并包含第一遮蔽型态遮蔽在所述多个第一像素P1的第一区域上方;第二遮蔽型态遮蔽在所述多个第二像素P2的第二区域上方;第三遮蔽型态遮蔽在所述多个第三像素P3的第三区域上方;第四遮蔽型态遮蔽在所述多个第四像素P4的第四区域上方;其中,所述第一区域与所述第二区域沿第一方向形成镜像对称;所述第三区域与所述第四区域沿第二方向形成镜像对称。一实施例中,所述第一方向垂直于所述第二方向。必须说明的是,所述多个第一像素P1至所述多个第四像素P4的配置并不限于图1所示,较佳能够均匀分布于所述像素阵列111的各处。此外,某些实施例中,所述像素矩阵111仅包含所述多个第一像素P1及所述多个第二像素P2或仅包含所述多个第三像素P3及所述多个第四像素P4,端视不同应用而定。
一实施例中,所述像素矩阵111的所有所述第一区域、所述第二区域、所述第三区域及所述第四区域均具有相同面积(如图1所示),例如为单一像素面积的5%-95%。
必须说明的是,虽然图1中显示所述第一区域与所述第二区域沿第一方向形成镜像对称的矩形,且所述第三区域与所述第四区域沿第二方向形成镜像对称的矩形,但其仅用以说明而并非用以限定本发明说明。其他实施例中,所述第一区域至所述第四区域可并非为矩形。例如参照图3A-3D所示,所述第一区域至所述第四区域的未遮蔽区(空白区域)例如配置为沿默认方向(图中显示为两像素相邻接的方向)增加或单调增加,且其形状在所述预设方向成镜像对称。由于在所述多个第一像素P1(或所述多个第三像素P3)及所述多个第二像素P2(或所述多个第四像素P4)接收入射光束时,靠近所述多个第一像素P1(或所述多个第三像素P3)及所述多个第二像素P2(或所述多个第四像素P4)的中心所分别接收的入射光之间的相位差并不明显,而靠近所述多个第一像素P1(或所述多个第三像素P3)及所述多个第二像素P2(或所述多个第四像素P4)的边缘所分别接收的入射光之间的相位差则较大,因此,将相对像素边缘的未遮蔽区配置为大于相对像素中心的未遮蔽区,可提升相位检测的精确度。必须说明的是,图3A-3D仅用以说明,并非用以限定本发明说明。
所述处理器13用以将亮图像帧及暗图像帧中,对应所述多个红外线像素Pinf的红外线图像区域Iinf形成红外线子帧Finf,对应所述多个第一像素P1的第一图像区域IP1形成第一子帧FP1,对应所述多个第二像素P2的第二图像区域IP2形成第二子帧FP2,如图4所示。所述处理器13并于第一模式计算亮图像帧的红外线子帧Finf_B与暗图像帧的红外线子帧Finf_D的差分图像以分离出至少一个前景图像,或于第二模式根据所述第一子帧FP1及所述第二子帧FP2分离出至少一个前景图像;其中,所述第一模式例如为普通模式,所述第二模式例如为强光模式。详而言之,所述第一子帧FP1由所述多个第一像素P1输出的灰阶数据而形成,所述第二子帧FP2由所述多个第二像素P2输出的灰阶数据而形成,所述红外线子帧Finf由所述多个红外线像素Pinf输出的灰阶数据而形成。
当所述像素矩阵111包含四种像素配置时,所述处理器13还用以将亮图像帧及暗图像帧中,对应所述多个第三像素P3的第三图像区域IP3形成第三子帧FP3,对应所述多个第四像素P3的第四图像区域IP4形成第四子帧IP4,如图4所示。详而言之,所述第三子帧FP3由所述多个第三像素P3输出的灰阶数据而形成,所述第四子帧FP4由所述多个第四像素P4输出的灰阶数据而形成。
请再参照图1,所述处理器13包含光源控制模块131、选择模块133、差分模块135、偏移计算模块137及应用模块139;其中,所述光源控制模块131、选择模块133、差分模块135、偏移计算模块137及应用模块139例如可以软件及/或硬件的方式实现,并无特定限制。为方便说明,所述光源控制模块131、选择模块133、差分模块135、偏移计算模块137及应用模块139显示为彼此分离,而实际上其运作均由所述处理器13所完成。所述处理器13较佳还包含储存单元130用以事先储存运作时所需的参数,例如相对可操作范围的预设偏移量范围。
所述光源控制模块131用以控制所述红外光源15相对所述图像传感器11的图像获取点亮及熄灭,以使得所述图像传感器11相对所述红外光源15点亮时获取并输出亮图像帧并相对所述红外光源15熄灭时获取并输出暗图像帧。
所述处理器13的选择模块133用以根据所述图像传感器11所输出的图像帧F选择操作模式。一实施例中,所述处理器13的选择模块133用以根据暗图像帧的平均亮度选择所述第一模式或所述第二模式。例如,所述处理器13的选择模块133仅计算所述暗图像帧的红外光图像区域Iinf的平均亮度或计算所述暗图像帧的整体平均亮度,并比较所述平均亮度与亮度阈值(其例如储存在所述储存单元130中)。当所述平均亮度小于所述亮度阈值,表示环境光La不是很强,则进入所述第一模式,因此所述第一模式可称为普通模式或弱光模式;当所述平均亮度大于所述亮度阈值,表示环境光La很强,则进入所述第二模式,因此所述第二模式可称为强光模式。
如前所述,当环境光La太强时,亮图像帧与暗图像帧的亮度差并不明显。因此,另一实施例中,所述处理器13的选择模块133用以根据亮图像帧与暗图像帧的平均亮度差选择所述第一模式或所述第二模式。当所述平均亮度差大于亮度差阈值(其例如储存在所述储存单元130中),表示环境光La不是很强,因此进入所述第一模式;当所述平均亮度差小于所述亮度差阈值,表示环境光La很强,因此进入所述第二模式。
请参照图5,其为本发明说明的第一模式的运作方法。第一模式中,所述处理器13的差分模块135将所述图像传感器11输出的亮图像帧的红外线子帧Finf_B及暗图像帧的红外线子帧Finf_D进行差分运算。例如,假设所述红外线子帧Finf_B包含对象图像I9及背景图像Ia,而所述红外线子帧Finf_D仅包含背景图像Ia。当所述红外线子帧Finf_B减去所述红外线子帧Finf_D后,差分图像(Finf_B-Finf_D)仅剩下所述对象图像I9,藉以消除背景图像的干扰。
请参照图1及图4,接着说明第二模式的运作方式。本实施例中,例如以点对象9位于所述聚光透镜10的入光侧为例进行说明。所述图像传感器11基于预设焦距获取并输出图像帧F(其可为亮图像帧或暗图像帧)至所述处理器13。假设所述选择模块133选择进入所述第二模式,所述处理器13的偏移计算模块137将所述图像帧F分割为第一子帧FP1及第二子帧FP2;其中,所述第一子帧FP1相关于所述多个第一像素P1而所述第二子帧FP2相关于所述多个第二像素P2。如前所述,当所述物体9位于所述聚光透镜10的第二焦距(即所述预焦距)时,相关所述对象9的图像区域在所述第一子帧FP1及所述第二子帧FP2中大致位于相对应位置而不会发生偏移。当所述对象9不位于所述聚光透镜10的第二焦距时,相关所述对象9的图像区域在所述第一子帧FP1及所述第二子帧FP2中会发生偏移而不位于相对应位置。所述处理器13的偏移计算模块137则用以根据亮图像帧或暗图像帧的所述第一子帧FP1及所述第二子帧FP2分离出至少一个前景图像。如前所述,当环境光La够强时,亮图像帧或暗图像帧的亮度差异不明显,因此均可用以分离前景图像。
例如,图4显示所述第一子帧FP1中第一图像区域I91从中线(例如虚线)的向上偏移量为S1,而所述第二子帧FP2中第二图像区域I92从中线(例如虚线)的向下偏移量为S2。所述处理器13的偏移计算模块137则用以计算S1及S2两者间的第一偏移量,例如(S1-S2)。必须说明的是,偏移量的计算并不限定为以中线为基线,此处仅为了方便说明而以中线为例,偏移量的计算还可根据例如区块比对(block matching)或动作检测(motion detection)来实现,并无特定限制,只要能够计算出所述第一子帧FP1与所述第二子帧FP2中相对应图像区域(例如I91、I92)间的所述第一偏移量即可;其中,两图像区域是否相对应例如可以所述两图像区域的亮度或形状来判定。所述处理器13的偏移计算模块137将介于预设范围内的所述第一偏移量对应的至少一个图像区域识别为至少一个前景图像,而将所述默认范围外的图像区域识别为背景图像。
当所述像素矩阵111包含四种像素配置时,所述处理器13的偏移计算模块137还将所述图像帧F分割为第三子帧FP3及第四子帧FP4;其中,所述第三子帧FP3相关于所述多个第三像素P3,而所述第四子帧FP4相关于所述多个第四像素P4。所述第二模式下,所述处理器13的偏移计算模块137则用以根据亮图像帧或暗图像帧的所述第三子帧FP3及所述第四子帧FP4分离出至少一个前景图像。
例如,图4显示所述第三子帧FP3中第三图像区域I93从中线(例如虚线)的向右偏移量为S3,而所述第四子帧FP4中第四图像区域I94从中线(例如虚线)的向左偏移量为S4。所述处理器13的偏移计算模块137则用以计算S3及S4两者间的第二偏移量,例如(S3-S4),如前所述,偏移量的计算方式并不限于减法运算。所述处理器13的偏移计算模块137将介于预设范围内的所述第二偏移量对应的至少一个图像区域识别为至少一个前景图像,而将所述默认范围外的图像区域识别为背景图像。
如前所述,所述预设范围预存在所述储存单元130,其为相对于可操作范围的偏移量。换句话说,当所述第一偏移量及/或所述第二偏移量超出所述预设范围,则表示所述图像区域属于背景图像。
必须说明的是,虽然图4显示所述第一图像区域I91向上偏移S1,所述二图像区域I92向下偏移S2,所述第三图像区域I93向右偏移S3,所述四图像区域I94向左偏移S4,其仅用以说明而非用以限定本发明。相对所述对象9的图像区域的偏移方向根据所述对象9从所述第二焦距远离或靠近所述聚光透镜10以及所述多个第一像素P1至所述多个第四像素P4的遮光层113的遮蔽区域而定,并不限定于图4所显示者。
所述应用模块139则根据被识别出的至少一个前景物体输出控制信号Sc,例如根据所述至少一个前景物体的位移方向、速度及数量的变化输出所述控制信号Sc以控制应用程序的运作。
必须说明的是,本实施例中图像区域以圆形(相对点对象9)为例进行说明,但本发明并不以此为限,图像区域例如可为所述图像帧F中的边缘(edge)等能够清楚表现出偏移量者即可,并无特定限制。
此外,为增加判断精确度,所述处理器13还利用阴影法(shading)校正所述第一子帧FP1及所述第二子帧FP2的亮度为一致,如此,能够正确判断所述第一子帧FP1及所述第二子帧FP2中相对应的图像区域(例如亮度相同的图像区域),例如I91、I92。当所述像素矩阵111包含四种像素配置时,所述处理器13还利用阴影法校正所述第三子帧FP3及所述第四子帧FP4的亮度为一致,如此,能够正确判断所述第三子帧FP3及所述第四子帧FP4中相对应的图像区域(例如亮度相同的图像区域),例如I93、I94
请同时参照图1、2A-2B及4-6所示,图6为本发明说明实施例的成像装置的运作方法,其例如适用于图1的成像装置1。如前所述,成像装置1包含红外光源15、多个红外线像素Pinf、多个第一像素P1、多个第二像素P2及多个微透镜115。所述多个第一像素P1及所述多个第二像素P2分别通过所述多个微透镜115的第一部分及第二部分接收不同相位的入射光,例如图1显示所述第一部分位于像素的下侧而所述第二部分位于像素的上侧,但其位置及与像素的比例并不限于图1所示。
本实施例的运作方法包含下列步骤:以成像装置在红外光源点亮时输出亮图像帧并在所述红外光源熄灭时输出暗图像帧(步骤S61);将对应所述多个红外线像素的红外线图像区域、对应所述多个第一像素的第一图像区域及对应所述多个第二像素的第二图像区域分别形成红外线子帧、第一子帧及第二子帧(步骤S62);选择第一模式或第二模式(步骤S63);在所述第一模式中,计算所述亮图像帧的所述红外线子帧与所述暗图像帧的所述红外线子帧的差分图像以分离出至少一个前景图像(步骤S64);以及在所述第二模式中,根据所述第一子帧及所述第二分离出至少一个前景图像(步骤S65)。
步骤S61:所述处理器13的光源控制模块131控制所述红外光源15相对所述图像传感器11的图像获取而点亮及熄灭,以在所述红外光源15点亮时输出亮图像帧并在所述红外光源15熄灭时输出暗图像帧。更详言之,所述图像传感器11的帧率(frame rate)至少为所述红外光源15的点亮频率的两倍,例如两倍、四倍…。
步骤S62:所述图像传感器11将所获取的每张图像帧F(例如亮图像帧及暗图像帧)输出至所述处理器11进行后处理。例如,所述处理器11将每张图像帧F中,对应所述多个红外线像素Pinf的红外线图像区域Iinf形成红外线子帧Finf,将对应所述多个第一像素P1的第一图像区域IP1形成第一子帧FP1并将对应所述多个第二像素P2的第二图像区域IP2形成第二子帧FP2,如图4所示。形成子帧的方式例如按照原本位于所述图像帧F的位置关系重新组成所述红外线子帧Finf、所述第一子帧FP1及所述第二子帧FP2
某些实施例中,所述成像装置1还包含多个第三像素P3及多个第四像素P4,所述多个第三像素P3及所述多个第四像素P4分别通过所述多个微透镜115的第三部分及第四部分接收不同相位的入射光,例如图1显示所述第三部分位于像素的右侧而所述第四部分位于像素的左侧,但其位置及与像素的比例并不限于图1所示。图1所示的实施例中,所述第一部分及所述第二部分为所述多个微透镜115沿第一轴向(例如X轴)的两相对侧而所述第三部分及所述第四部分为所述多个微透镜115沿第二轴向(例如Y轴)的两相对侧。
当所述像素矩阵111包含四种像素配置时,步骤S62中,所述处理器11将每张图像帧F中,对应所述多个第三像素P3的第三图像区域IP3形成第三子帧FP3,将对应所述多个第四像素P4的第四图像区域IP4形成第四子帧FP4。某些实施例中,第一模式时,所述处理器13差分模块135仅产生红外线子帧Finf而不产生第一子帧FP1至第四子帧FP4;第二模式时,所述处理器13偏移计算模块137仅产生第一子帧FP1至第二子帧FP4而不产生红外线子帧Finf
步骤S63:所述处理器13的选择模块133根据所述图像帧F的平均亮度判断环境光是否太强。一实施例中,所述处理器13的选择模块133根据暗图像帧的平均亮度选择第一模式或第二模式。另一实施例中,所述处理器13的选择模块133根据亮图像帧与暗图像帧的平均亮度差选择第一模式或第二模式。本发明说明中,所述第一模式例如为普通模式或弱光模式,所述第二模式例如为强光模式。藉此,所述处理器13可根据环境光的强弱选择适合的算法来分离出至少一前景图像。
步骤S64:当环境光不是很强时,则进入第一模式。此时,所述处理器13的差分模块135可直接计算亮图像帧的红外线子帧Finf_B与暗图像帧的红外线子帧Finf_D的差分图像以分离出至少一个前景物体图像I9,如图5所示。更详言之,红外线像素Pinf输出的灰阶值在普通模式中被用来计算而不在强光模式中被计算。
步骤S65:当环境光很强时,则进入第二模式。此时,所述处理器13的偏移量计算模块137根据所述第一子帧FP1及所述第二子帧FP2计算至少一个第一偏移量(例如图4所示S1与S2偏移量),并将介于预设范围内的所述第一偏移量所对应的至少一图像区域识别为至少一个前景图像。如前所述,所述预设范围为对应可操作范围的预设偏移量范围。
当所述像素矩阵111包含四种像素配置时,步骤S65中,所述处理器13的偏移量计算模块137另根据所述第三子帧FP3及所述第四子帧FP4计算至少第二偏移量(例如第4所示S3与S4偏移量),并将介于预设范围内的所述第二偏移量所对应的至少一个图像区域识别为至少一个前景图像。必须说明的是,根据所述第一偏移量与所述第二偏移量所识别出的前景图像并不一定完全相同,可能仅部分相同或完全不同,端视所述图像帧F中的图像特征而定。
最后,所述处理器13的应用模块139可根据所识别出的前景图像输出控制信号Sc以进行不同应用,例如进行手势识别等。
此外,为了增加识别精确度,所述处理器13可利用阴影法校正所述第一子帧FP1及所述第二子帧FP2的亮度为一致并校正所述第三子帧FP3及所述第四子帧FP4的亮度为一致,以在计算偏移量时,在所述第一子帧FP1与所述第二子帧FP2中较容易找到相对应的图像区域,并所述在第三子帧FP3与所述第四子帧FP4中较容易找到相对应的图像区域。
综上所述,已知手势识别系统在环境光较强时,会出现无法正确运作的情形。因此,本发明说明提出一种成像装置(图1)及其运作方法(图6),其利用不同环境光强度下使用不同算法来分离出前景图像,以克服已知手势识别系统的问题。
虽然本发明已通过前述实例披露,但其并非用以限定本发明,任何本发明所属技术领域中具有通常知识的技术人员,在不脱离本发明的精神和范围内,当可作各种的更动与修改。因此本发明的保护范围当视后附的权利要求所界定的范围为准。

Claims (10)

1.一种成像装置,该成像装置包含:
聚光透镜;
图像传感器,用以感测穿透所述聚光透镜的光线,所述图像传感器包含:
像素矩阵,包含沿第一方向及第二方向排列的多个红外线像素、多个第一像素及多个第二像素;
遮光层,遮蔽在所述多个第一像素的第一区域上方及所述多个第二像素的第二区域上方,其中,所述第一区域与所述第二区域分别为所述第一像素及所述第二像素的一部分并沿所述第一方向形成镜像对称,被所述遮光层遮蔽所述第一区域上方的第一像素与被所述遮光层遮蔽所述第二区域上方的第二像素是在所述第一方向的两相邻像素,且所述第一像素的未遮蔽区与所述第二像素的未遮蔽区在所述第一方向相邻;
多个微透镜,设置在所述像素矩阵上方;及
红外光滤光层,覆盖在所述多个红外线像素上方。
2.根据权利要求1所述的成像装置,其中
所述像素矩阵还包含多个第三像素及多个第四像素,
所述遮光层还遮蔽在所述多个第三像素的第三区域上方及所述多个第四像素的第四区域上方,且
所述第三区域与所述第四区域分别为所述第三像素及所述第四像素的一部分并沿所述第二方向形成镜像对称。
3.根据权利要求2所述的成像装置,其中所述第一区域、所述第二区域、所述第三区域及所述第四区域为单一像素面积的5%-95%。
4.根据权利要求1所述的成像装置,其中所述第一像素或所述第二像素的所述未遮蔽区沿所述第一方向增加。
5.根据权利要求1所述的成像装置,其中所述第一像素及所述第二像素的所述未遮蔽区在像素边缘大于像素中心。
6.根据权利要求1所述的成像装置,其中所述红外光滤光层上方未覆盖所述遮光层。
7.根据权利要求1所述的成像装置,其中所述遮光层及所述红外光滤光层介于所述像素矩阵与所述多个微透镜之间。
8.一种成像装置,该成像装置包含:
聚光透镜;
图像传感器,用以感测穿透所述聚光透镜的光线,所述图像传感器包含:
像素矩阵,包含多个红外线像素、多个第一像素及多个第二像素;
遮光层,遮蔽在所述多个第一像素的第一区域上方及所述多个第二像素的第二区域上方,其中,所述第一区域与所述第二区域分别为所述第一像素及所述第二像素的一部分并沿第一方向形成镜像对称,且所述第一像素及所述第二像素在像素边缘的未遮蔽区大于像素中心的未遮蔽区;
多个微透镜,设置在所述像素矩阵上方;及
红外光滤光层,覆盖在所述多个红外线像素上方。
9.根据权利要求8所述的成像装置,其中
所述像素矩阵还包含多个第三像素及多个第四像素,
所述遮光层还遮蔽在所述多个第三像素的第三区域上方及所述多个第四像素的第四区域上方,且
所述第三区域与所述第四区域分别为所述第三像素及所述第四像素的一部分并沿第二方向形成镜像对称。
10.根据权利要求9所述的成像装置,其中所述第一像素、所述第二像素、所述第三像素及所述第四像素仅配置于所述像素矩阵的一部分。
CN201910706667.6A 2015-09-14 2015-09-14 分辨前景的成像装置 Active CN110598685B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910706667.6A CN110598685B (zh) 2015-09-14 2015-09-14 分辨前景的成像装置

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201510581322.4A CN106534721B (zh) 2015-09-14 2015-09-14 分辨前景的成像装置及其运作方法
CN201910706667.6A CN110598685B (zh) 2015-09-14 2015-09-14 分辨前景的成像装置

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
CN201510581322.4A Division CN106534721B (zh) 2015-09-14 2015-09-14 分辨前景的成像装置及其运作方法

Publications (2)

Publication Number Publication Date
CN110598685A true CN110598685A (zh) 2019-12-20
CN110598685B CN110598685B (zh) 2023-06-30

Family

ID=58348992

Family Applications (2)

Application Number Title Priority Date Filing Date
CN201510581322.4A Active CN106534721B (zh) 2015-09-14 2015-09-14 分辨前景的成像装置及其运作方法
CN201910706667.6A Active CN110598685B (zh) 2015-09-14 2015-09-14 分辨前景的成像装置

Family Applications Before (1)

Application Number Title Priority Date Filing Date
CN201510581322.4A Active CN106534721B (zh) 2015-09-14 2015-09-14 分辨前景的成像装置及其运作方法

Country Status (1)

Country Link
CN (2) CN106534721B (zh)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010068508A (ja) * 2008-08-12 2010-03-25 Canon Inc 画像処理装置、撮像装置、画像処理方法、画像処理プログラム
CN101779154A (zh) * 2007-08-13 2010-07-14 松下电器产业株式会社 摄像装置和照相机
US20110116078A1 (en) * 2009-11-16 2011-05-19 Samsung Electronics Co., Ltd. Infrared image sensor
CN102254922A (zh) * 2010-05-20 2011-11-23 索尼公司 固体摄像装置和电子设备
CN102289131A (zh) * 2010-06-17 2011-12-21 奥林巴斯株式会社 摄像装置
CN102447826A (zh) * 2010-10-12 2012-05-09 全视科技有限公司 可见及红外双重模式成像系统
CN103453881A (zh) * 2012-02-24 2013-12-18 株式会社理光 距离测量装置和距离测量方法
CN104272175A (zh) * 2012-05-08 2015-01-07 索尼公司 红外线转换装置、成像设备和成像方法
CN104662589A (zh) * 2012-08-21 2015-05-27 派力肯影像公司 用于使用阵列照相机捕捉的图像中的视差检测和校正的系统和方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4550096B2 (ja) * 2007-09-10 2010-09-22 株式会社半導体エネルギー研究所 半導体装置
JP5793688B2 (ja) * 2008-07-11 2015-10-14 パナソニックIpマネジメント株式会社 固体撮像装置
WO2013145821A1 (ja) * 2012-03-28 2013-10-03 富士フイルム株式会社 撮像素子及び撮像装置
CN104318199B (zh) * 2014-06-23 2020-03-24 上海箩箕技术有限公司 复合式光学传感器及其制作方法和使用方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101779154A (zh) * 2007-08-13 2010-07-14 松下电器产业株式会社 摄像装置和照相机
JP2010068508A (ja) * 2008-08-12 2010-03-25 Canon Inc 画像処理装置、撮像装置、画像処理方法、画像処理プログラム
US20110116078A1 (en) * 2009-11-16 2011-05-19 Samsung Electronics Co., Ltd. Infrared image sensor
CN102254922A (zh) * 2010-05-20 2011-11-23 索尼公司 固体摄像装置和电子设备
CN102289131A (zh) * 2010-06-17 2011-12-21 奥林巴斯株式会社 摄像装置
CN102447826A (zh) * 2010-10-12 2012-05-09 全视科技有限公司 可见及红外双重模式成像系统
CN103453881A (zh) * 2012-02-24 2013-12-18 株式会社理光 距离测量装置和距离测量方法
CN104272175A (zh) * 2012-05-08 2015-01-07 索尼公司 红外线转换装置、成像设备和成像方法
CN104662589A (zh) * 2012-08-21 2015-05-27 派力肯影像公司 用于使用阵列照相机捕捉的图像中的视差检测和校正的系统和方法

Also Published As

Publication number Publication date
CN106534721B (zh) 2019-08-27
CN106534721A (zh) 2017-03-22
CN110598685B (zh) 2023-06-30

Similar Documents

Publication Publication Date Title
TWI565323B (zh) 分辨前景的成像裝置及其運作方法、以及影像感測器
US11818462B2 (en) Phase detection autofocus sensor apparatus and method for depth sensing
TWI801637B (zh) 用於相機之紅外光預閃光
TWI731206B (zh) 用於暈影之補償之系統及方法
KR102622489B1 (ko) 촬상 장치, 촬상 방법, 및 프로그램
KR102258568B1 (ko) 비네팅에 대한 보상
US9906705B2 (en) Image pickup apparatus
CN110598685B (zh) 分辨前景的成像装置
JP2014035294A (ja) 情報取得装置および物体検出装置
JP5924577B2 (ja) 位置検出装置
JP6386837B2 (ja) 画像処理プログラム、情報処理システム、情報処理装置、画像処理方法
JP7080724B2 (ja) 配光制御装置、投光システム及び配光制御方法
US11758248B2 (en) Information acquisition method and information acquisition device
JP6512806B2 (ja) 撮像装置
JP2014163830A (ja) 情報取得装置および物体検出装置
WO2015178079A1 (ja) 撮像装置、撮像装置の制御方法、および、撮像装置の制御プログラム
JP2015045771A (ja) デジタルカメラ
JP2011109237A (ja) 情報処理装置、情報処理方法、及び電子機器

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant