CN112788320A - 图像传感器、图像采集装置、电子设备及其控制方法与可读存储介质 - Google Patents

图像传感器、图像采集装置、电子设备及其控制方法与可读存储介质 Download PDF

Info

Publication number
CN112788320A
CN112788320A CN202011563398.1A CN202011563398A CN112788320A CN 112788320 A CN112788320 A CN 112788320A CN 202011563398 A CN202011563398 A CN 202011563398A CN 112788320 A CN112788320 A CN 112788320A
Authority
CN
China
Prior art keywords
pixels
image data
region
color
panchromatic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011563398.1A
Other languages
English (en)
Other versions
CN112788320B (zh
Inventor
杨鑫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Oppo Mobile Telecommunications Corp Ltd
Original Assignee
Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Oppo Mobile Telecommunications Corp Ltd filed Critical Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority to CN202011563398.1A priority Critical patent/CN112788320B/zh
Publication of CN112788320A publication Critical patent/CN112788320A/zh
Application granted granted Critical
Publication of CN112788320B publication Critical patent/CN112788320B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)

Abstract

本申请提供一种图像传感器、图像采集装置、电子设备、电子设备的控制方法、及计算机存储介质。图像传感器包括像素阵列。像素阵列包括第一区及环绕第一区的第二区,第一区中包含多个全色像素和多个彩色像素,第二区中的像素均为全色像素,彩色像素具有比全色像素更窄的光谱响应。其中,在第一工作模式时,第一区中的像素与第二区中的像素均曝光以获取全色图像数据;在第二工作模式时,第一区中的像素曝光以获取彩色图像数据。本申请的图像传感器在第一工作模式时图像传感器的像素阵列中第一区及第二区的像素均曝光成像,以具有较大的图像采集视场,便于检测到动作或人形;在第二工作模式时仅第一区中的像素曝光成像,以减少成像图像的边缘畸变。

Description

图像传感器、图像采集装置、电子设备及其控制方法与可读存 储介质
技术领域
本申请涉及电子技术领域,更具体而言,涉及一种图像传感器、图像采集装置、电子设备、电子设备的控制方法、及非易失性计算机可读存储介质。
背景技术
诸如手机、平板电脑等电子设备往往设有用于拍照的摄像头。目前,一些电子设备在待机时摄像头也能正常工作,例如能够进行拍摄图像、进行手势识别等。然而,这类在待机时摄像头也能正常工作的电子设备所拍摄到的图像容易在边缘处出现严重的畸变。
发明内容
本申请实施方式提供一种图像传感器、图像采集装置、电子设备、电子设备的控制方法、及非易失性计算机可读存储介质。
本申请实施方式的图像传感器包括像素阵列。所述像素阵列包括第一区及环绕所述第一区的第二区。所述第一区中包含多个全色像素和多个彩色像素。所述第二区中的像素均为全色像素。所述彩色像素具有比所述全色像素更窄的光谱响应。其中,在第一工作模式时,所述第一区中的像素与所述第二区中的像素均曝光以获取全色图像数据;在第二工作模式时,所述第一区中的像素曝光以获取彩色图像数据。
本申请实施方式的图像采集装置包括镜头及图像传感器。所述镜头用于将光线导向所述图像传感器以采集图像。所述像素阵列包括第一区及环绕所述第一区的第二区。所述第一区中包含多个全色像素和多个彩色像素。所述第二区中的像素均为全色像素。所述彩色像素具有比所述全色像素更窄的光谱响应。其中,在第一工作模式时,所述第一区中的像素与所述第二区中的像素均曝光以获取全色图像数据;在第二工作模式时,所述第一区中的像素曝光以获取彩色图像数据。
本申请实施方式的电子设备包括壳体及与壳体结合的图像采集装置。所述图像采集装置包括镜头及图像传感器。所述镜头用于将光线导向所述图像传感器以采集图像。所述像素阵列包括第一区及环绕所述第一区的第二区。所述第一区中包含多个全色像素和多个彩色像素。所述第二区中的像素均为全色像素。所述彩色像素具有比所述全色像素更窄的光谱响应。其中,在第一工作模式时,所述第一区中的像素与所述第二区中的像素均曝光以获取全色图像数据;在第二工作模式时,所述第一区中的像素曝光以获取彩色图像数据。
本申请实施方式还提供一种电子设备的控制方法,所述电子设备包括壳体及与壳体结合的图像采集装置。所述图像采集装置包括镜头及图像传感器。所述镜头用于将光线导向所述图像传感器以采集图像。所述像素阵列包括第一区及环绕所述第一区的第二区。所述第一区中包含多个全色像素和多个彩色像素。所述第二区中的像素均为全色像素。所述彩色像素具有比所述全色像素更窄的光谱响应。其中,在第一工作模式时,所述第一区中的像素与所述第二区中的像素均曝光以获取全色图像数据;在第二工作模式时,所述第一区中的像素曝光以获取彩色图像数据。
本申请实施方式的非易失性计算机可读存储介质包含计算机程序。所述计算机程序被一个或多个处理器执行时,使得所述处理器执行电子设备的控制方法。所述电子设备的控制方法包括:在第一工作模式时,控制所述第一区中的像素与所述第二区中的像素均曝光以获取全色图像数据、及在第二工作模式时,控制所述第二区中的像素曝光以获取彩色图像数据。
本申请实施方式的图像传感器、图像采集装置、电子设备、电子设备的控制方法、及非易失性计算机可读存储介质中,图像传感器既能够适用于第一工作模式,又能够适用于第二工作模式。在第一工作模式时,图像传感器的像素阵列中第一区及第二区的像素均曝光成像,能够具有较大的图像采集视场,便于检测到动作或者人形;在第二工作模式时仅第一区中的像素曝光成像,能够减少成像图像的边缘畸变。
本申请的实施方式的附加方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本申请的实施方式的实践了解到。
附图说明
本申请的上述和/或附加的方面和优点从结合下面附图对实施方式的描述中将变得明显和容易理解,其中:
图1是本申请某些实施方式的图像传感器的像素阵列的示意图;
图2是本申请某些实施方式的图像采集装置的结构示意图;
图3是本申请某些实施方式的电子设备的结构示意图;
图4是本申请某些实施方式的控制方法的流程示意图;
图5是本申请某些实施方式的最小重复单元的示意图;
图6是本申请某些实施方式的最小重复单元的示意图;
图7是本申请某些实施方式的最小重复单元的示意图;
图8是本申请某些实施方式的控制方法的流程示意图;
图9是本申请某些实施方式的图像传感器的结构示意图;
图10是本申请某些实施方式的控制方法的流程示意图;
图11是本申请某些实施方式的控制方法的流程示意图;
图12是本申请某些实施方式的获得全色图像数据的流程示意图;
图13是本申请某些实施方式的控制方法的流程示意图;
图14是本申请某些实施方式的控制方法的流程示意图;
图15是本申请某些实施方式的获得全色图像数据的流程示意图;
图16是本申请某些实施方式的获得全色图像数据的流程示意图;
图17是本申请某些实施方式的控制方法的流程示意图;
图18是本申请某些实施方式的获得全色图像数据的流程示意图;
图19是本申请某些实施方式的获得全色图像数据的流程示意图;
图20是本申请某些实施方式的控制方法的流程示意图;
图21是本申请某些实施方式的获得全色图像数据的流程示意图;
图22是本申请某些实施方式的获得全色图像数据的流程示意图;
图23是本申请某些实施方式的控制方法的流程示意图;
图24是本申请某些实施方式的获得全色图像数据的流程示意图;
图25是本申请某些实施方式的控制方法的流程示意图;
图26是本申请某些实施方式的获得彩色图像数据的流程示意图;
图27是本申请某些实施方式的控制方法的流程示意图;
图28是本申请某些实施方式的获得彩色图像数据的流程示意图;
图29是本申请某些实施方式的非易失性计算机可读存储介质与处理器的交互示意图。
具体实施方式
下面详细描述本申请的实施方式,所述实施方式的示例在附图中示出,其中,相同或类似的标号自始至终表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施方式是示例性的,仅用于解释本申请的实施方式,而不能理解为对本申请的实施方式的限制。
请参阅图1,本申请提供一种图像传感器10。图像传感器10包括像素阵列11。像素阵列11包括第一区111及环绕第一区111的第二区112,第一区111中包含多个全色像素(W)和多个彩色像素(A、B、C),第二区112中的像素均为全色像素(W),彩色像素具有比全色像素更窄的光谱响应。其中,在第一工作模式时,第一区111中的像素与第二区112中的像素均曝光以获取全色图像数据;在第二工作模式时,第一区111中的像素曝光以获取彩色图像数据。
请结合图2,本申请提供一种图像采集装置100,图像采集装置100包括镜头20及上述图像传感器10。镜头20用于将光线导向图像传感器10以采集图像。
请结合图3,本申请提供一种电子设备1000,电子设备1000包括壳体200及上述图像采集装置100。图像采集装置100与壳体200结合。
电子设备1000可以是手机、平板电脑、笔记本电脑、智能电视、智能手表、智能穿戴设备、音乐播放器、媒体播放器、游戏机、导航设备等具有拍摄功能的设备,在此不一一列举。电子设备1000能够通过图像采集装置100采集图像,采集的图像既可以拍摄彩色照片,还可以采集用于动作检测、人形检测等功能的图像信息。
电子设备1000包括第一工作模式及第二工作模式。其中,第一工作模式为低功耗识别模式,可以在第一工作模式下采集图像以用作动作检测、人形检测等识别检测,当在第一工作模式下识别到预设的特征信息时,例如识别到人脸,或识别到特定的手势动作时,电子设备1000能够根据识别到的特征信息执行对应的功能,例如根据识别到的人脸信息点亮屏幕、根据识别到的手势动作打开APP(应用程序)等,在此不一一列举。第二工作模式为正常拍照模式,可以在第二工作模式下拍摄彩色图像。
请参阅图4,并结合图1及图3,本申请还提供一种电子设备1000的控制方法,用于控制上述电子设备1000。控制方法包括:
01:在第一工作模式时,控制第一区111中的像素与第二区112中的像素均曝光以获取全色图像数据;及
02:在第二工作模式时,控制第二区112中的像素曝光以获取彩色图像数据。
其中,图像传感器10用于执行01及02中的方法。即,图像传感器10用于在第一工作模式时,控制第一区111中的像素与第二区112中的像素均曝光以获取全色图像数据、及在第二工作模式时,控制第二区112中的像素曝光以获取彩色图像数据。
具体地,在某些实施方式中,开机后的电子设备1000将持续保持工作在第一工作模式,即图像传感器10将持续控制第一区111中的像素与第二区112中的像素均曝光以获取全色图像数据,第一工作模式可为摄像头常开(Always ON,AON)模式,对应地,图像采集装置100将持续采集图像,以根据所采集的图像对应的全色图像数据持续识别预设的特征信息。当电子设备1000进入第二工作模式时,退出第一工作模式。第二工作模式可为图像采集装置100进行正常拍摄彩色图像的模式,需要用户操作拍照相关的应用才能进入第二工作模式。在第二工作模式时,图像传感器10将控制第二区112中的像素曝光以获取彩色图像数据,对应地,图像采集装置100采集彩色图像数据,以根据彩色图像数据获取彩色图像。在退出第二工作模式后电子设备1000将自动重新进入第一工作模式。
例如,手机在熄屏状态下保持工作在第一工作模式,若图像采集装置100从采集到的图像中识别到人脸,且人脸信息符合机主的人脸信息,则无需触碰手机,手机也能够对应地从熄屏的待机状态变为屏幕点亮的使用状态。
手机在屏幕点亮的使用状态仍继续保持工作在第一工作模式。当用户通过拍照相关的应用进入图像采集装置100的正常拍摄模式时,例如在微信APP中点击“拍摄”键,手机将退出第一工作模式,进入第二工作模式,以拍摄照片。在完成拍摄退出拍照相关的应用后,手机重新进入第一工作模式。
在手机亮屏或熄屏状态且在第一工作模式时,若图像采集装置100从采集到的图像中识别到特定手势,则无需触碰手机,手机也能够对应地根据识别到的手势动作打开APP,例如图像采集装置100识别到五指向中间抓取的手势动作,则无论手机是否处于解锁状态,手机均能够自动打开截屏APP截取手机屏幕当前显示的页面。
请参阅图2,对于图像采集装置100,在第一工作模式时镜头20的视场需要涵盖图像传感器10中较大范围的像素,以具有较大的图像采集视场,便于在较大的范围检测到人形或动作。然而,若在第二工作模式时镜头20的视场涵盖的像素范围大于或等于在第一工作模式时镜头20视场涵盖的像素范围,则在第二工作模式拍摄的图像的边缘会出现比较严重的畸变。也即是说,若在第二工作模式时图像传感器10中曝光的像素所在的区域与在第一工作模式时图像传感器10中曝光的像素所在的区域为相同区域时(即在第二工作模式时采集到图像的分辨率等于在第一工作模式时采集到图像的分辨率),或在第二工作模式时图像传感器10中曝光的像素所在的区域范围大于在第一工作模式时图像传感器10中曝光的像素所在的区域时(即在第二工作模式时采集到图像的分辨率大于在第一工作模式时采集到图像的分辨率),在第二工作模式拍摄的图像的边缘会出现比较严重的畸变。
本申请的图像传感器10、图像采集装置100、电子设备1000、及电子设备1000的控制方法中,图像传感器10的像素阵列11包括第一区111及环绕第一区111的第二区112。第一区111中包含多个全色像素和多个彩色像素,第二区112中的像素均为全色像素。在第一工作模式时,图像传感器10的像素阵列11中,第一区111中的像素与第二区112中的像素均曝光以获取全色图像数据。在第二工作模式时,第一区111中的像素曝光以获取彩色图像数据。如此,图像传感器10既能够适用于第一工作模式,又能够适用于第二工作模式,在电子设备1000的壳体200上仅需开设一个开孔使图像传感器10感光即可。而且,在第一工作模式时图像传感器10的像素阵列11中第一区111及第二区112的像素均曝光成像,能够具有较大的图像采集视场,便于检测到动作或者人形;在第二工作模式时仅第一区111中的像素曝光成像,能够减少成像图像的边缘畸变。
下面结合附图对本申请作进一步地说明。
请参阅图1及图5,在某些实施方式中,第一区111中的像素包括最小重复单元S,每个最小重复单元包含多个子单元Si(i=1,2,……,n),每个子单元包括多个单颜色像素及多个全色像素;在最小重复单元中,全色像素设置在第一对角线方向,彩色像素设置在第二对角线方向,第一对角线方向与第二对角线方向不同。
第二区112中像素的尺寸与第一区111中像素的尺寸相同。第二区112中的像素均为全色像素。
具体地,在第一区111中包括由多个彩色像素(例如多个第一颜色像素A、多个第二颜色像素B和多个第三颜色像素C)和多个全色像素W组成的二维像素阵列。二维像素阵列的第一区111包括最小重复单元,二维像素阵列的第一区111由多个最小重复单元组成,最小重复单元在行和列上复制并排列。在最小重复单元中,全色像素W设置在第一对角线方向D1,彩色像素设置在第二对角线方向D2,第一对角线方向D1与第二对角线方向D2不同。
在某些实施方式中,最小重复单元行和列的像素数量相等。例如最小重复单元包括但不限于,4行4列、6行6列、8行8列、10行10列的最小重复单元。
在某些实施方式中,最小重复单元中的子单元行和列的像素数量相等。例如,子单元包括但不限于,2行2列、3行3列、4行4列、5行5列的子单元。这种设置有助于均衡行和列方向图像的分辨率和均衡色彩表现,提高显示效果。
例如,图5是本申请实施方式中一种最小重复单元S的像素排布的示意图;最小重复单元S为4行4列16个像素,子单元为2行2列4个像素,排布方式为:
Figure BDA0002860996850000061
其中,W表示全色像素;A表示多个彩色像素中的第一颜色像素;B表示多个彩色像素中的第二颜色像素;C表示多个彩色像素中的第三颜色像素。
例如,如图5所示,全色像素W设置在第一对角线方向D1(即图5中左上角和右下角连接的方向),彩色像素设置在第二对角线方向D2(例如图5中左下角和右上角连接的方向),第一对角线方向D1与第二对角线方向D2不同。例如,第一对角线和第二对角线垂直。
需要说明的是,第一对角线方向D1和第二对角线方向D2并不局限于对角线,还包括平行于对角线的方向,例如图5中,全色像素W设置在第一对角线方向D1、平行于方向D1的方向D3、及平行于方向D1的方向D5;第二颜色像素B设置在第二对角线方向D2;第一颜色像素A设置在平行于方向D2的方向D4,第三颜色像素C设置在平行于方向D2的方向D6。这里的“方向”并非单一指向,可以理解为指示排布的“直线”的概念,可以有直线两端的双向指向。
例如,图6是本申请实施方式中又一种最小重复单元S的像素排布的示意图。最小重复单元为4行4列16个像素,子单元为2行2列4个像素,排布方式为:
Figure BDA0002860996850000071
W表示全色像素;A表示多个彩色像素中的第一颜色像素;B表示多个彩色像素中的第二颜色像素;C表示多个彩色像素中的第三颜色像素。
例如,如图6所示,全色像素W设置在第二对角线方向D1(即图6中右上角和左下角连接的方向),彩色像素设置在第一对角线方向D1(例如图6中左上角和右下角连接的方向)。例如,第一对角线和第二对角线垂直。第二对角线方向D2上相邻的两个全色像素W(例如,从左上方起第二行第一列和第一行第二列的两个全色像素)的第一曝光时间由第一曝光信号控制,第一对角线方向D1上相邻的至少两个彩色像素(例如,从左上方起第一行第一列和第二行第二列的两个彩色像素A)的第二曝光时间由第二曝光信号控制。
在某些实施方式中,全色像素W的响应波段为可见光波段(例如,400nm-760nm)。例如,全色像素W具有红外滤光片,以实现红外光的滤除。在一些实施例中,全色像素W的响应波段为可见光波段和近红外波段(例如,400nm-1000nm),与图像传感器10中的光电转换元件(例如光电二极管PD)响应波段相匹配。例如,全色像素W可以不具有滤光片,全色像素W的响应波段由光电二极管的响应波段确定,即两者相匹配。本申请的实施例包括但不局限于上述波段范围。在一些实施方式中,第一颜色像素A为红色像素R;第二颜色像素B为绿色像素G;第三颜色像素C为蓝色像素Bu。在另一个些实施方式中,第一颜色像素A为红色像素R;第二颜色像素B为黄色像素Y;第三颜色像素C为蓝色像素Bu。在再一些实施方式中,第一颜色像素A为品红色像素M;第二颜色像素B为青色像素Cy;第三颜色像素C为黄色像素Y。
再例如,请参阅图7。图7是本申请实施方式中又一种最小重复单元S的像素排布的示意图。最小重复单元为6行6列36个像素,子单元为3行3列9个像素,排布方式为:
Figure BDA0002860996850000081
W表示全色像素;A表示多个彩色像素中的第一颜色像素;B表示多个彩色像素中的第二颜色像素;C表示多个彩色像素中的第三颜色像素。
请参阅图2,图像采集装置100中,镜头20的最大视场涵盖第一区111与第二区112。在第一工作模式时第一区111与第二区112的像素均曝光。在第二工作模式时,即使镜头20的最大视场涵盖第一区111与第二区112,也仅由第一区111的像素曝光,第二区112的像素不曝光,即在第二工作模式时实际输出的图像对应的镜头20的视场仅涵盖第一区111,从而能够避免第二工作模式下输出的图像边缘出现畸变。
在第一工作模式时,图像采集装置100的第一功耗小于第二工作模式时图像采集装置100的第二功耗。具体地,在第一工作模式时,像素曝光获取到的是全色图像数据,即仅包含图像的亮度信息,不包含图像的色彩信息的数据,而在第二工作模式时像素曝光获取到的是彩色图像数据,且在第二工作模式时需要根据彩色图像数据获取彩色图像,故在相同时间内图像采集装置100维持第二工作模式的功耗远大于维持第一工作模式的功耗。由于第二区112的像素数量不能远多于第一区111的像素数量,进一步地,第二区112的像素数量小于或等于第一区111的像素数量,因此即便第一工作模式曝光的像素数量多于第二工作模式曝光的像素数量,也难以弥补图像采集装置100曝光获取全色图像数据与曝光获取彩色图像数据之间功耗的差距。
请参阅图1至图3,本申请实施方式的图像传感器10、图像采集装置100、及电子设备1000还适用于在第三工作模式工作。第三工作模式为在进入拍照获取彩色图像的情况下,仍保持低功耗识别(AON)的基础。此时,可以通过识别预设特征信息对拍照进行控制。
请结合图8,在某些实施方式中,电子设备1000的控制方法还包括:
03:在第三工作模式时,控制第一区111中的像素与第二区112中的像素均曝光以获取全色图像数据及彩色图像数据。
图像传感器10还用于执行03中的方法。即,图像传感器10还用于在第三工作模式时,控制第一区111中的像素与第二区112中的像素均曝光以获取全色图像数据及彩色图像数据。
在第三工作模式时,即在拍照时,即图像传感器10将持续控制第一区111中的像素与第二区112中的像素均曝光以获取全色图像数据及彩色图像数据,图像采集装置100将持续采集图像,根据所采集的图像对应的全色图像数据持续识别预设的特征信息。
当用户需要拍照时,在一个实施例中,用户可以通过拍照相关的应用进入图像采集装置100的正常拍摄模式,手机可进入第三工作模式,此时,例如若图像采集装置100识别到五指向中间抓取的手势动作,则无论手机是否处于解锁状态,手机均能够执行拍摄彩色图像的动作。在整个第三工作模式的过程中,图像传感器10持续控制第一区111中的像素与第二区112中的像素均曝光以获取全色图像数据和彩色图像数据。图像采集装置100根据所采集的图像对应的全色图像数据持续识别预设的特征信息,当特征信息包含拍摄的指令时,可以处理彩色图像数据以输出彩色图像。在另一个应用场景中,若在第三工作模式下,在拍照的过程中图像采集装置100仍然在持续采集图像并识别预设的特征信息,例如在拍照的过程中图像采集装置100识别到五指张开平移的手势动作,则切换当前的拍摄模式,如将普通拍摄模式切换为美颜拍摄模式等。
请参阅图9,图像传感器10还可包括垂直驱动单元12、列处理单元13、水平驱动单元14、及控制单元15。垂直驱动单元12用于对像素阵列11中的像素逐行读出扫描和复位扫描。列处理单元13用于对像素阵列11中的像素执行相关双采样处理。水平驱动单元14用于对像素阵列11中的像素逐列扫描,并顺序输出扫描结果。控制单元15用于根据操作模式配置时序信号,及利用多种时序信号来控制垂直驱动单元12、列处理单元13、及水平驱动单元14协同工作以使图像传感器10选择性地处于第一工作模式、第二工作模式、或第三工作模式。
在某些实施方式中,图像传感器10可以采用互补金属氧化物半导体(CMOS,Complementary Metal Oxide Semiconductor)感光元件或者电荷耦合元件(CCD,Charge-coupled Device)感光元件。
在某些实施方式中,像素阵列11包括以阵列形式二维排列的多个像素,每个像素包括光电转换元件。每个像素根据入射在其上的光的强度将光转换为电荷。另外,本文中所指的每个像素至少包括光电转换元件及位于光电转换元件上方的滤光单元,下文中的像素的颜色实质与位于对应的光电转换元件上方的滤光单元能够通过光线的颜色一致,例如滤光单元中的红色滤光部通过红光,则对应像素称为红色像素;绿色滤光部通过绿光,则对应像素称为绿色像素;蓝色滤光部通过蓝光,则对应像素称为蓝色像素;白色滤光部通过白光,则对应像素称为全色像素,其他颜色像素依次类推,在此不一一列举。当然,每个像素可包括光电转换元件及位于光电转换元件上方的滤光单元的同时,还可包括用于汇聚光线至滤光片上的微透镜。
在某些实施方式中,垂直驱动单元12包括移位寄存器和地址译码器。垂直驱动单元12包括读出扫描和复位扫描功能。读出扫描是指顺序地逐行扫描单位像素,从这些单位像素逐行地读取信号。例如,被选择并被扫描的像素行中的每一像素输出的信号被传输到列处理单元13。复位扫描用于复位电荷,光电转换元件的光电荷被丢弃,从而可以开始新的光电荷的积累。
在某些实施方式中,由列处理单元13执行的信号处理的是相关双采样(CDS)处理。在CDS处理中,取出从所选像素行中的每一像素输出的复位电平和信号电平,并且计算电平差。因而,获得了一行中的像素的信号。列处理单元13可以具有用于将模拟像素信号转换为数字格式的模数(A/D)转换功能。
在某些实施方式中,水平驱动单元14包括移位寄存器和地址译码器。水平驱动单元14顺序逐列扫描像素阵列11。通过水平驱动单元14执行的选择扫描操作,每一像素列被列处理单元13顺序地处理,并且被顺序输出。
请参阅图10,在某些实施方式中,电子设备1000的控制方法还包括:
04:在第一工作模式或第三工作模式时,接收全色图像数据并根据全色图像数据识别图像采集装置100采集的图像是否包含预设特征信息并输出识别结果;及
05:根据识别结果控制电子设备1000执行对应的操作。
请结合图3,电子设备1000还包括第一处理器300及第二处理器400,第一处理器300用于执行04中的方法,第二处理器400用于执行05中的方法。即,在第一工作模式或第三工作模式时,第一处理器300用于接收全色图像数据并根据全色图像数据识别采集的图像是否包含预设特征信息并输出识别结果、第二处理器400用于根据识别结果控制电子设备1000执行对应的操作。
其中,第二处理器400可以是应用处理器(Application processor,AP),应用处理器是电子设备1000的主要处理器,可以用于控制电子设备1000的屏幕的显示、音视频的播放、各类应用程序、语音通话、及数据传输等。当电子设备1000开机后,第二处理器400自动启动运行,以使电子设备1000能够被正常使用。
第一处理器300可以是图像处理器(Image processor,IP),图像处理器能够接收图像采集装置100获取的全色图像数据并对全色图像数据做处理,例如进行AE(autoexposure自动曝光)和gamma(gamma correction伽马校正)等图像后处理,和深度学习模型推理运算,以识别采集的图像是否包含预设特征信息。若第一处理器300识别到预设特征信息,则第一处理器300向第二处理器400输出识别结果,使第二处理器400根据识别结果控制电子设备1000执行对应的操作,例如控制电子设备1000的屏幕的显示、音视频的播放、各类应用程序、语音通话、及数据传输等。若第一处理器300没有识别到预设特征信息,则第一处理器300不向第二处理器400输出数据,如此能够减轻第二处理器400的负担,减少第二处理器400控制电子设备1000时出现的卡顿。
预设特征信息可以是人脸信息、手势信息等,例如预设的面部图像、虹膜、手部动作、手势等预设特征信息。第一处理器300根据每种不同的预设特征信息对应输出不同的识别结果至第二处理器400,每种识别结果可对应有控制指令,第二处理器400能够根据识别结果对应的控制指令控制电子设备1000执行对应的操作。
例如,当特征信息的识别结果为机主的虹膜时,对应有预定时间内保持屏幕常亮的控制指令。第一处理器300将此识别结果输出至第二处理器400,第二处理器400根据此识别结果对应的控制指令控制电子设备1000在预定时间内保持屏幕常亮。即,若当前的电子设备1000处于熄屏待机状态,则唤醒电子设备1000并使电子设备1000的屏幕切换至亮屏状态;若当前的电子设备1000处于亮屏状态,则在预定时间内阻止电子设备1000的屏幕熄屏。
再例如,当特征信息的识别结果为拍照手势时,对应有使用系统自带的相机APP拍照的控制指令。若电子设备1000当前处于第一工作模式,则第二处理器400控制电子设备1000退出第一工作模式,进入第二工作模式,并启动系统自带的相机APP拍照。若电子设备1000当前处于第三工作模式,则在一个实施例中,第二处理器400控制电子设备1000退出第三工作模式,进入第二工作模式,并启动系统自带的相机APP拍照;在另一个实施例中,第二处理器400控制电子设备1000在第三工作模式时,电子设备1000执行拍照的同时,第一处理器300能够根据全色图像数据识别用户切换的拍照手势以输出识别结果至第二处理器400,第二处理器400能够根据识别结果控制相机拍照,例如将普通拍照模式切换为美颜拍照模式,使用户无需触碰电子设备1000也能够控制相机APP。
请参阅图11及图12,在某些实施方式中,01:控制第一区111中的像素与第二区112中的像素均曝光以获取全色图像数据,包括:
011:控制第一区111中的像素与第二区112中的像素均曝光而获得第一原始图像数据,第一原始图像数据中包括全色像素值及彩色像素值;及
012:处理第一原始图像数据以输出全色图像数据,全色图像数据中仅包括全色像素值。
请结合图2,图像采集装置100还包括第一处理单元30。图像传感器10还用于执行011中的方法。第一处理单元30用于执行012中的方法。即,图像传感器10的第一区111中的像素与第二区112中的像素均曝光而获得第一原始图像数据。第一处理单元30用于处理第一原始图像数据以输出全色图像数据。其中,第一原始图像数据中包括全色像素值及彩色像素值,全色图像数据中仅包括全色像素值。需要说明是的是图12中仅示出了部分全色图像数据。
在第一工作模式或第三工作模式下,第一处理器300只需接收全色图像数据即可根据全色图像数据识别采集的图像是否包含预设特征信息并输出识别结果。故图像采集装置100只需将全色图像数据输出至第一处理器300即可。由于图像采集装置100输出全色图像数据所的功耗远小于输出彩色图像数据(第二工作模式获取的)的功耗,因此能够使第一工作模式相较于第二工作模式时的电子设备1000保持低功耗运行。
请参阅图12及图13,在某些实施方式中,01:控制第一区111中的像素与第二区112中的像素均曝光以获取全色图像数据,包括:
013:控制第一区111中的像素与第二区112中的像素均曝光而获得第一原始图像数据;
014:根据第一原始图像数据执行动作检测;
015:在动作检测结果表明采集的图像中存在动作时,根据第一原始图像数据执行人形检测;及
016:在人形检测结果表明采集的图像中存在人形时,处理第一原始图像数据以输出全色图像数据,全色图像数据中仅包括全色像素值。
请结合图2,图像传感器10还用于执行013中的方法。第一处理单元30用于执行014、015、及016中的方法。即,图像传感器10还用于控制第一区111中的像素与第二区112中的像素均曝光而获得第一原始图像数据。第一处理单元30用于根据第一原始图像数据执行动作检测、在动作检测结果表明采集的图像中存在动作时,根据第一原始图像数据执行人形检测、及在人形检测结果表明采集的图像中存在人形时,处理第一原始图像数据以输出全色图像数据。其中,全色图像数据中仅包括全色像素值。
在某些实施方式中,第一处理单元30包括动作检测单元(Motion detection,MD)及人形检测单元(Human detection,HD)。动作检测单元用于检测第一原始图像以识别动作。人形检测单元用于检测第一原始图像以识别人形。
在某些实施方式中,图像采集装置100通过移动产业处理器接口(MobileIndustryProcessor Interface,MIPI)或I3C的接口(Improved Inter IntegratedCircuit,I3C)接入第一处理器300,以将全色图像数据输出至第一处理器300。
由于预设特征信息包括动作和/或人形,因此,在图像采集装置100将全色图像数据输出至第一处理器300前,图像采集装置100能够检测图像传感器10获取到的第一原始图像中是否存在动作和人形,从而确保输出至第一处理器300的全色图像数据包含有可能是预设特征信息的动作和/或人形,避免第一处理器300处理不可能含有预设特征信息的全色图像数据,从而减少第一处理器300的无效检测,以节省功耗。
具体地,图像传感器10控制第一区111中的像素与第二区112中的像素均曝光而获得第一原始图像数据。在获得第一原始图像数据后,先由动作检测单元根据第一原始图像数据执行动作检测。在动作检测结果表明采集的图像中不存在动作时,返回执行第一区111中的像素与第二区112中的像素均曝光,以重新采集新的图像。在动作检测结果表明采集的图像中存在动作时,再由人形检测单元根据第一原始图像数据执行人形检测。在人形检测结果表明采集的图像中不存在人形时,可以返回执行第一区111中的像素与第二区112中的像素均曝光,以重新采集新的图像;或返回执行根据第一原始图像数据执行人形检测,以再次尝试在本次采集的图像中检测人形,直到同一张图像中检测人形的次数达到预定次数时返回执行第一区111中的像素与第二区112中的像素均曝光,以重新采集新的图像。在人形检测结果表明采集的图像中存在人形时,第一处理单元30处理第一原始图像数据以输出全色图像数据,以进入后续预设特征信息的识别及控制。
通常,当用户需要控制电子设备1000时,往往会做出相应的控制动作,因此图像采集装置100先执行动作检测,当检测到动作后再执行人形检测,以确认检测到的动作为人类做出的动作,避免检测到移动的动物或物体时仍然输出全色图像数据而导致第一处理器300处理不可能含有预设特征信息的全色图像数据。
若先执行人形检测,当检测到人形后再执行动作检测,则可能导致进行多次无效检测,浪费功耗。例如用户使用电子设备1000观看视频,若先执行人形检测,当检测到人形后再执行动作检测,则图像采集装置100始终能够检测到人形,即触发动作检测的几率非常高。若用户几乎不做出动作,则动作检测几乎为无效检测,导致浪费功耗。本申请的实施方式中,图像采集装置100先执行动作检测,当检测到动作后再执行人形检测,以减少第一处理器300的无效检测。
例如,在第一模式时或第三模式下执行AON时,图像采集装置100采集图像,并以5fps的帧率检测动作。若没有检测到动作,则重新采集图像并继续检测动作。若检测到动作,则以5fps的帧率检测人形。若没有检测到人形,则重新采集新的图像并继续检测动作,或重新检测预定次数的人形。若检测到人形,则图像采集装置100对采集到的图像做处理,以输出全色图像数据至第一处理器300,再继续采集新的图像并继续检测动作。第一处理器300以30fps的帧率识别全色图像数据中的特征信息,如识别人脸、虹膜、手势等。若第一处理器300识别到特征信息,则将识别结果输出至第二处理器400,以使第二处理器400根据识别结果对应的控制指令控制电子设备1000。若第一处理器300没有识别到预设特征信息,则第一处理器300继续识别下一全色图像数据中的预设特征信息。
下面介绍获取全色图像数据的获取方法。
请参阅图14至图16,在某些实施方式中,012及016中,控制第一区111中的像素与第二区112中的像素均曝光以获取全色图像数据,包括:
0121:对第一原始图像数据中的全色像素值执行间隔采样后合并成数据阵列,以输出全色图像数据。
请结合图2,第一处理单元30还用于执行0121中的方法。即,第一处理单元30还用于对第一原始图像数据中的全色像素值执行间隔采样后合并成数据阵列,以输出全色图像数据。
请结合图15,在一个实施例中,将第一原始图像数据中的像素分为多个区域,例如每个区域中像素的行数及列数可以相同形成矩阵阵列,例如可以为1行1列的矩阵阵列、2行2列的矩阵阵列、3行3列的矩阵阵列、或4行4列的矩阵阵列等,在此不一一列举。每个区域中像素的行数可以多于列数,也可以小于列数,例如可以为2行3列的阵列、3行2列阵列等。另外,第一原始数据中的多个区域之间可以相同,也可以部分相同,部分不同。第一原始数据中的区域可以规则划分,也可以不规则划分,例如,图15所示的第一原始图像数据中的区域是规则划分的,共有4个区域S1~S4,每个区域中像素的行数及列数为5行5列,即,图15所示的区域为5行5列的矩阵阵列。第一处理单元30从每个区域中提取一个全色像素值以获取多个全色像素值,再将多个全色像素值合并成数据阵列,以输出全色图像数据,全色图像数据的分辨率小于第一原始图像数据的分辨率。
请结合图16,在另一个实施例中,将第一原始图像数据中第二区112的像素分为多个区域,图16所示的第一原始图像数据中的区域是不规则划分的。即,图16所示的第一原始图像数据划分了9个区域,分别为S1~S9。第一处理单元30从每个区域中提取一个全色像素值,并从第一区111的每个最小重复单元中提取一个全色像素值,以获取多个全色像素值,再将多个全色像素值合并成数据阵列,以输出全色图像数据,全色图像数据的分辨率小于第一原始图像数据的分辨率。
请参阅图17至图19,在某些实施方式中,012及016中,控制第一区111中的像素与第二区112中的像素均曝光以获取全色图像数据,包括:
0122:对第一原始图像数据中每个区域内的至少部分全色像素值执行求和或求平均计算,并将计算后的像素值合并成数据阵列,以输出全色图像数据。
请结合图2,第一处理单元30还用于执行0122中的方法。即,第一处理单元30还用于对第一原始图像数据中每个区域内的至少部分全色像素值执行求和或求平均计算,并将计算后的像素值合并成数据阵列,以输出全色图像数据。
请结合图18,在一个实施例中,将第一原始图像数据中的像素分为多个区域,区域的划分可同前述中的任意一种划分方式,在此不做赘述,本实施方式中,第一原始图像数据中的像素分为4个区域,每个区域中像素的行数及列数均为5行5列。第一处理单元30在每个区域中获取至少部分全色像素值执行求和或求平均计算以获取多个计算后的全色像素值,再将多个计算后的全色像素值合并成数据阵列,以输出全色图像数据,全色图像数据的分辨率小于第一原始图像数据的分辨率。
例如,第一处理单元30在每个区域中获取2个全色像素值,并对同一区域的2个全色像素值执行求和计算以获取计算后的全色像素值,再将多个计算后的全色像素值合并成数据阵列,以输出全色图像数据。设图18所示的一个区域S1中,获取到全色像素值W1及W2,则这个区域计算后的全色像素值W=W1+W2。
请结合图19,在另一个实施例中,将第一原始图像数据中第二区112的像素分为多个9个区域,划分方式如图16所示。第一区111中每个最小重复单元为1个区域。第一处理单元30在每个区域中获取至少部分全色像素值执行求和或求平均计算以获取多个计算后的全色像素值,再将多个计算后的全色像素值合并成数据阵列,以输出全色图像数据,全色图像数据的分辨率小于第一原始图像数据的分辨率。
例如,设图19所示的第二区112的一个区域S1中,获取到全色像素值W1、W2、W3及W4,则区域S1计算后的全色像素值WS1=W1+W2+W3+W4。设图19所示的第一区111的一个最小重复单元S2中,获取到全色像素值W5、W6、W7、W8、W9、W10、W11及W12,则最小重复单元S2计算后的全色像素值WS2=W5+W6+W7+W8+W9+W10+W11+W12。
请参阅图20至图22,在某些实施方式中,012及016中,控制第一区111中的像素与第二区112中的像素均曝光以获取全色图像数据,包括:
0123:对第一原始图像数据中每个区域内的至少部分全色像素值和彩色像素值执行求和或求平均计算,并根据色彩转换函数将计算后的像素值转换成亮度像素值,及合并亮度像素值成数据阵列,以输出全色图像数据。
请结合图2,第一处理单元30还用于执行0123中的方法。即,第一处理单元30还用于对第一原始图像数据中每个区域内的至少部分全色像素值和彩色像素值执行求和或求平均计算,并根据色彩转换函数将计算后的像素值转换成亮度像素值,及合并亮度像素值成数据阵列,以输出全色图像数据。
请结合图21,在一个实施例中,将第一原始图像数据中的像素分为多个区域,第一处理单元30在每个区域中获取至少部分全色像素值和彩色像素值执行求和或求平均计算以获取多个计算后的像素值,再根据色彩转换函数将多个计算后的像素值转换成亮度像素值,并合并亮度像素值成数据阵列,以输出全色图像数据,全色图像数据的分辨率小于第一原始图像数据的分辨率。
例如,一个区域中像素的行数及列数均为4行4列,第一处理单元30在该区域中获取3个全色像素值(W)及3个彩色像素值(A、B、C),并对同一区域的3个全色像素值及3个彩色像素值执行求和计算以获取计算后的像素值,再根据色彩转换函数将多个计算后的像素值转换成亮度像素值Y,并合并亮度像素值成数据阵列,以输出全色图像数据。其中,若一个区域中彩色像素值不足3个,则获取这个区域中所有的彩色像素值。亮度像素值Y=a*W+b*A+c*B+d*C,a、b、c、d为预设的参数系数。设图21所示的一个区域S1中,获取到全色像素值W1、W2及W3、获取到彩色像素值A1、A2、及B1,则区域S1计算后的全色像素值W=W1+W2+W3、彩色像素值A=A1+A2、彩色像素值B=B1,区域S1的亮度像素值Y=a*W+b*A+c*B。
请结合图22,在另一个实施例中,将第一原始图像数据中第二区112的像素分为多个区域,例如每个区域中像素的行数及列数为1行1列、2行2列、2行3列、3行2列、3行3列、4行4列等,在此不一一列举。第一区111中每个最小重复单元为1个区域。第一处理单元30在第二区112的每个区域中获取至少部分全色像素值执行求和或求平均计算以获取多个计算后的像素值、在第一区111的每个最小重复单元中获取至少部分全色像素值和彩色像素值执行求和或求平均计算以获取多个计算后的像素值,再根据色彩转换函数将多个计算后的像素值转换成亮度像素值,并合并亮度像素值成数据阵列,以输出全色图像数据,全色图像数据的分辨率小于第一原始图像数据的分辨率。
例如,设图21所示第二区112的一个区域S1中获取到全色像素值W1、W2、W3、及W4,第一区111的一个最小重复单元S2中获取到全色像素值W5、W6、W7、W8、W9、W10和彩色像素值A1、A2、B1、B2、C1、C2,则区域S1计算后的全色像素值WS1=W1+W2+W3+W4,区域S1的亮度像素值YS1=a*WS1;区域S2计算后的全色像素值WS2=W5+W6+W7+W8+W9+W10、彩色像素值AS2=A1+A2、彩色像素值BS2=B1+B2、彩色像素值CS2=C1+C2,这个区域的亮度像素值YS2=a*WS2+b*AS2+c*BS2+d*CS2
请参阅图23及图24,在某些实施方式中,012及016中,控制第一区111中的像素与第二区112中的像素均曝光以获取全色图像数据,包括:
0124:对第一原始图像数据中所有彩色像素的彩色像素值执行插值处理得到该彩色像素对应的全色像素值后合并成数据阵列,以输出全色图像数据。
请结合图2,第一处理单元30还用于执行0124中的方法。即,第一处理单元30还用于对第一原始图像数据中所有彩色像素的彩色像素值执行插值处理得到该彩色像素对应的全色像素值后合并成数据阵列,以输出全色图像数据。其中,全色图像数据的分辨率等于彩色图像数据的分辨率。
第一原始图像数据中仅第一区111包含彩色像素(A、B、C)。因此只需对第一区111的彩色像素执行插值处理,对第二区112的像素不作处理。
例如,第一区111的像素阵列11中,每个最小重复单元包括多个子单元,每个子单元包括2个彩色像素和2个全色像素W。第一处理单元30需要将每个子单元中的每个彩色像素均替换为全色像素W,并计算出替换后位于原彩色像素所在位置的每个全色像素W的像素值。
对于每一个彩色像素,第一处理单元30将该彩色像素替换为全色像素W,并根据与替换后的全色像素W相邻的其余全色像素W的像素值来确定该替换后的全色像素W的像素值。
设图24所示的一个子单元S1中包括像素值为W1的全色像素P1、像素值为A2的彩色像素P2、像素值为A3的彩色像素P3、及像素值为W4的全色像素P4。则插值处理后,像素值为A2的彩色像素P2替换为全色像素P2,且全色像素P2的像素值W2=(W1+W4)/2;像素值为A3的彩色像素P3替换为全色像素P3,且全色像素P3的像素值W3=(W1+W4)/2。
请参阅图25及图26,并结合图2,在第二工作模式时,需要获取彩色图像,图像传感器10中仅第一区111中的像素曝光,以使图像采集装置100获取彩色图像数据。而像传感器的像素阵列11的第二区112中只有全色像素,没有彩色像素,即使第二区112中的像素曝光获取到的颜色信息也不准确,因此在第二工作模式时第二区112中的像素不曝光,以节省功耗。
不仅如此,在第一工作模式或第三工作模式时,为了检测动作和人形需要较大的视场采集图像。因此,可以理解为通过图像传感器10的像素阵列11的第一区111中的像素曝光能够获取到边缘不出现畸变的彩色图像,在此基础上,环绕第一区111设置第二区112,且第二区112中的像素均为全色像素,以在第一工作模式或第三工作模式时扩大视场(第一区111和第二区112的像素均曝光)采集图像用作检测;在第二工作模式时仅第一区111像素曝光获取彩色图像以避免彩色图像的边缘出现畸变。
请参阅图25及图26,在某些实施方式中,02:控制第二区112中的像素曝光以获取彩色图像数据,包括:
021:控制第一区111中的像素曝光而获得第二原始图像数据,第二原始图像数据中包括全色像素值及彩色像素值;及
022:将第二原始图像数据转换为拜耳阵列以获取彩色图像数据。
请结合图2,图像采集装置100还包括第二处理单元40。图像传感器10还用于执行021中的方法。第二处理单元40用于执行022中的方法。即,图像传感器10还用于控制第一区111中的像素曝光而获得第二原始图像数据。第二处理单元40用于将第二原始图像数据转换为拜耳阵列以获取彩色图像数据。其中,第二原始图像数据中包括全色像素值及彩色像素值。
在某些实施方式中,第二处理单元40可以对第一区111的像素执行插值处理以将第二原始图像数据转换为拜耳阵列。例如,第一区111的像素阵列11中,每个最小重复单元包括多个子单元,每个子单元包括4个像素。第二处理单元40需要将每个子单元中的像素替换为按拜耳阵列排布的彩色像素,并计算出替换后位于原像素所在位置的每个彩色像素的像素值。其中,按拜耳阵列排布的彩色像素如图24所示,在一个子单元S1中,第1行第1列为红色像素R、第1行第2列及第2行第1列为绿色像素G、第2行第2列为蓝色像素Bu。
对于每一个原像素,第二处理单元40将该原像素替换为按拜耳阵列排布的彩色像素,并根据与替换前的原像素相邻的彩色像素(R、G、Bu)的像素值来确定该替换后的彩色像素的像素值。
设图26所示的一个最小重复单元S中,其中一子单元S1中包括像素值为W1的全色像素P1、像素值为A2的红色像素P2、像素值为A4的红色像素P3、及像素值为W4的全色像素P4。则插值处理后,像素值为W1的全色像素P1替换为红色像素P1,红色像素P1的像素值取邻近的红色像素P2及红色像素P3的像素值的平均值,即红色像素P1的像素值A1=(A2+A3)/2;像素值为A2的红色像素P2替换为绿色像素P2,绿色像素P2的像素值取邻近的绿色像素P5的像素值B5及绿色像素P6的像素值B6的平均值,即绿色像素P2的像素值B2=(B5+B6)/2;像素值为A3的红色像素P3替换为绿色像素P3,且绿色像素P3的像素值取邻近的绿色像素P7像素值B7及绿色像素P8的像素值B8的平均值,即绿色像素P3的像素值B3=(B7+B8)/2;像素值为A4的全色像素P4替换为蓝色像素P4,且蓝色像素P4的像素值取邻近的蓝色像素P9像素值C9及蓝色像素P10的像素值C10的平均值,即蓝色像素P4的像素值C4=(C9+C10)/2。
请参阅图2,在某些实施方式中,电子设备1000还包括第三处理器500,第三处理器500用于处理彩色图像数据以得到YUV图像数据。第三处理器500可以是图像信号处理器(Image signal processor,ISP)。第三处理器500能够对彩色图像数据做处理,例如去除坏点、去除噪声、锐化、缩放、颜色增强、调整白平衡等处理,以输出处理后的YUV图像数据。
在第二工作模式下,由第一区111中的像素曝光获取彩色图像数据。第三处理器500处理彩色图像数据以得到YUV图像数据。
在第三工作模式下,为实现拍照的同时还能够使用低功耗识别模式的功能,在拍照时由第一区111及第二区112中的像素均曝光获取全色图像数据及彩色图像数据。第一处理器300处理全色图像数据以识别预设特征信息并输出识别结果,第二处理器400根据识别结果控制电子设备1000执行对应的操作,以实现低功耗识别模式的功能。第三处理器500处理彩色图像数据以得到YUV图像数据,以实现拍照的功能。
请参阅图27,在某些实施方式中,03:控制第一区111中的像素与第二区112中的像素均曝光以获取彩色图像数据,包括:
031:控制第一区111中的像素与第二区112中的像素均曝光而获得第一原始图像数据,第一原始图像数据中包括全色像素值及彩色像素值;
033:截取第一原始图像数据中与第一区111中像素对应的部分数据;及
035:将部分数据转换为拜耳阵列以获取彩色图像数据。
请结合图2及图28,图像传感器10还用于执行031中的方法。第二处理单元40用于执行033及035中的方法。即,图像传感器10还用于控制第一区111中的像素与第二区112中的像素均曝光而获得第一原始图像数据。第二处理单元40用于截取第一原始图像数据中与第一区111中像素对应的部分数据、及将部分数据转换为拜耳阵列以获取彩色图像数据。其中,第一原始图像数据中包括全色像素值及彩色像素值。当然,可以先将第一原始图像转换为拜耳阵列,再从中截取与第一区111对应的部分数据以作为彩色图像数据。
在第三工作模式下图像传感器10输出的第一原始图像数据既可以输出全色图像数据,以用于识别检测,又可以输出彩色图像数据,以用于拍照。当需要输出全色图像数据时,第一处理单元30能够处理第一原始图像数据获取全色图像数据,具体的处理方法可以为前文所述的任意一种处理第一原始图像数据以输出全色图像数据的方法,在此不再赘述。当需要输出彩色图像数据时,第二处理单元40能够处理第一原始图像数据获取彩色图像数据。具体地,第二处理单元40能够截取第一原始图像数据中与第一区111中像素对应的部分数据。请结合图28,截取的部分数据与第二原始图像数据相同,因此可以用类似的方法将部分数据转换为拜耳阵列以获取彩色图像数据,在此不赘述。
请参阅图2,在某些实施方式中,第二处理单元40可包括存储器41。第二处理单元40先将第一原始图像数据转换为拜耳阵列以获取彩色图像数据,并将彩色图像数据存储在存储器41中,再截取存储器41中彩色图像数据中与第一区111中像素对应的部分数据作为最终的彩色图像数据输出。
请参阅图29,本申请实施方式还提供一种包含计算机程序701的非易失性计算机可读存储介质700。当计算机程序701被一个或多个处理器70执行时,使得处理器70执行上述任一实施方式的控制方法。
例如,当计算机程序701被处理器70执行时,使得处理器30执行01、02、03、04、05、011、012、013、014、015、016、0121、0122、0123、0124、021、022、031、033、及035中的方法。例如执行以下控制方法:
01:在第一工作模式时,控制第一区111中的像素与第二区112中的像素均曝光以获取全色图像数据;及02:在第二工作模式时,控制第二区112中的像素曝光以获取彩色图像数据。
又例如,当计算机程序701被处理器70执行时,使得处理器70执行以下控制方法:
01:在第一工作模式时,控制第一区111中的像素与第二区112中的像素均曝光以获取全色图像数据;02:在第二工作模式时,控制第二区112中的像素曝光以获取彩色图像数据。03:在第三工作模式时,控制第一区111中的像素与第二区112中的像素均曝光以获取全色图像数据及彩色图像数据。04:在第一工作模式或第三工作模式时,接收全色图像数据并根据全色图像数据识别图像采集装置100采集的图像是否包含预设特征信息并输出识别结果;及05:根据识别结果控制电子设备1000执行对应的操作。
在本说明书的描述中,参考术语“某些实施方式”、“一个例子中”、“示例地”等的描述意指结合所述实施方式或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施方式或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施方式或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施方式或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本申请的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本申请的实施例所属技术领域的技术人员所理解。
尽管上面已经示出和描述了本申请的实施方式,可以理解的是,上述实施方式是示例性的,不能理解为对本申请的限制,本领域的普通技术人员在本申请的范围内可以对上述实施方式进行变化、修改、替换和变型。

Claims (25)

1.一种图像传感器,其特征在于,包括像素阵列,所述像素阵列包括第一区及环绕所述第一区的第二区,所述第一区中包含多个全色像素和多个彩色像素,所述第二区中的像素均为全色像素,所述彩色像素具有比所述全色像素更窄的光谱响应;其中:
在第一工作模式时,所述第一区中的像素与所述第二区中的像素均曝光以获取全色图像数据;在第二工作模式时,所述第一区中的像素曝光以获取彩色图像数据。
2.根据权利要求1所述的图像传感器,其特征在于,所述第一区中的像素包括最小重复单元,每个所述最小重复单元包含多个子单元,每个所述子单元包括多个单颜色像素及多个全色像素;在所述最小重复单元中,所述全色像素设置在第一对角线方向,所述彩色像素设置在第二对角线方向,所述第一对角线方向与所述第二对角线方向不同。
3.一种图像采集装置,其特征在于,包括:
镜头;及
权利要求1或2所述的图像传感器,所述镜头用于将光线导向所述图像传感器以采集图像。
4.根据权利要求3所述的图像传感器,其特征在于,所述第一工作模式时所述图像采集装置的第一功耗小于所述第二工作模式时所述图像采集装置的第二功耗。
5.根据权利要求3所述的图像采集装置,其特征在于,所述镜头的最大视场涵盖所述第一区与所述第二区。
6.根据权利要求3所述的图像采集装置,其特征在于,在第三工作模式时,所述第一区中的像素与所述第二区中的像素均曝光以获取所述全色图像数据及所述彩色图像数据。
7.根据权利要求3所述的图像采集装置,其特征在于,所述图像传感器还包括:
垂直驱动单元,用于对所述像素阵列中的像素逐行读出扫描和复位扫描;
列处理单元,用于对所述像素阵列中的像素执行相关双采样处理;
水平驱动单元,用于对所述像素阵列中的像素逐列扫描,并顺序输出扫描结果;及
控制单元,用于根据操作模式配置时序信号,及利用多种时序信号来控制所述垂直驱动单元、所述列处理单元、及所述水平驱动单元协同工作以使所述图像传感器选择性地处于所述第一工作模式或所述第二工作模式。
8.一种电子设备,其特征在于,包括:
壳体;及
权利要求3-7任意一项所述的图像采集装置;所述图像采集装置与所述壳体结合。
9.根据权利要求8所述的电子设备,其特征在于,所述电子设备还包括:
第一处理器,在所述第一工作模式时,所述第一处理器用于接收所述全色图像数据并根据所述全色图像数据识别采集的图像是否包含预设特征信息并输出识别结果;及
第二处理器,在所述第一工作模式时,所述第二处理器根据所述识别结果控制所述电子设备执行对应的操作。
10.根据权利要求9所述的电子设备,其特征在于,在所述第一工作模式或第三模式时,所述第一区中的像素与所述第二区中的像素均曝光而获得第一原始图像数据,所述第一原始图像数据中包括全色像素值及彩色像素值;所述图像采集装置还包括第一处理单元,所述处理单元用于处理所述第一原始图像数据以输出所述全色图像数据,所述全色图像数据中仅包括全色像素值。
11.根据权利要求9所述的电子设备,其特征在于,在所述第一工作模式或第三模式时,所述第一区中的像素与所述第二区中的像素均曝光而获得第一原始图像数据,所述第一原始图像数据中包括全色像素值及彩色像素值;所述图像采集装置还包括第一处理单元,所述第一处理单元用于:
根据所述第一原始图像数据执行动作检测;
在所述动作检测结果表明采集的图像中存在动作时,根据所述第一原始图像数据执行人形检测;及
在所述人形检测结果表明采集的图像中存在人形时,处理所述第一原始图像数据以输出全色图像数据,所述全色图像数据中仅包括全色像素值。
12.根据权利要求11所述的电子设备,其特征在于,所述第一处理单元还用于:
在所述动作检测结果表明采集的图像中不存在动作时,返回执行所述第一区中的像素与所述第二区中的像素均曝光;及
在所述人形检测结果表明采集的图像中不存在人形时,返回执行所述第一区中的像素与所述第二区中的像素均曝光或返回执行根据所述第一原始图像数据执行人形检测。
13.根据权利要求10至12任意一项所述的电子设备,其特征在于,所述第一处理单元还用于:
对所述第一原始图像数据中的所述全色像素值执行间隔采样后合并成数据阵列,以输出所述全色图像数据;或
对所述第一原始图像数据中每个区域内的至少部分全色像素值执行求和或求平均计算,并将计算后的像素值合并成数据阵列,以输出所述全色图像数据;或
对所述第一原始图像数据中每个区域内的至少部分全色像素值和彩色像素值执行求和或求平均计算,并根据色彩转换函数将计算后的像素值转换成亮度像素值,及合并所述亮度像素值成数据阵列,以输出所述全色图像数据;或
对所述第一原始图像数据中所有彩色像素的彩色像素值执行插值处理得到该彩色像素对应的全色像素值后合并成数据阵列,以输出所述全色图像数据。
14.根据权利要求9所述的电子设备,其特征在于,在所述第二工作模式时,所述第一区中的像素曝光以获得第二原始图像数据,所述第二原始图像数据中包括全色像素值及彩色像素值;所述图像采集装置还包括第二处理单元,所述处理单元用于将所述第二原始图像数据转换为拜耳阵列以获取所述彩色图像数据。
15.根据权利要求9所述的电子设备,其特征在于,在所述第三工作模式时,所述第一区中的像素与所述第二区中的像素均曝光而获得第一原始图像数据,所述第一原始图像数据中包括全色像素值及彩色像素值;所述图像采集装置还包括第二处理单元,所述第二处理单元用于截取所述第一原始图像数据中与所述第一区中像素对应的部分数据,并将所述部分数据转换为拜耳阵列以获取所述彩色图像数据。
16.根据权利要求14或15所述的电子设备,其特征在于,所述电子设备还包括:
第三处理器,所述第三处理器用于处理所述彩色图像数据以得到YUV图像数据。
17.一种电子设备的控制方法,其特征在于,所述电子设备包括用图像采集装置,所述图像传感器包括像素阵列,所述像素阵列包括第一区及环绕所述第一区的第二区,所述第一区中包含多个全色像素和多个彩色像素,所述第二区中的像素均为全色像素,所述彩色像素具有比所述全色像素更窄的光谱响应;所述控制方法包括:
在第一工作模式时,控制所述第一区中的像素与所述第二区中的像素均曝光以获取全色图像数据;及
在第二工作模式时,控制所述第二区中的像素曝光以获取彩色图像数据。
18.根据权利要求17所述的控制方法,其特征在于,还包括:
在第三工作模式时,控制所述第一区中的像素与所述第二区中的像素均曝光以获取所述全色图像数据及所述彩色图像数据。
19.根据权利要求18所述的控制方法,其特征在于,还包括:
在所述第一工作模式或所述第三工作模式时,接收所述全色图像数据并根据所述全色图像数据识别所述图像采集装置采集的图像是否包含预设特征信息并输出识别结果;及
根据所述识别结果控制所述电子设备执行对应的操作。
20.根据权利要求18所述的控制方法,其特征在于,所述控制所述第一区中的像素与所述第二区中的像素均曝光以获取全色图像数据,包括:
控制所述第一区中的像素与所述第二区中的像素均曝光而获得第一原始图像数据,所述第一原始图像数据中包括全色像素值及彩色像素值;及
处理所述第一原始图像数据以输出所述全色图像数据,所述全色图像数据中仅包括全色像素值。
21.根据权利要求18所述的控制方法,其特征在于,所述控制所述第一区中的像素与所述第二区中的像素均曝光以获取全色图像数据,包括:
控制所述第一区中的像素与所述第二区中的像素均曝光而获得第一原始图像数据;
根据所述第一原始图像数据执行动作检测;
在所述动作检测结果表明采集的图像中存在动作时,根据所述第一原始图像数据执行人形检测;及
在所述人形检测结果表明采集的图像中存在人形时,处理所述第一原始图像数据以输出全色图像数据,所述全色图像数据中仅包括全色像素值。
22.根据权利要求20或21所述的控制方法,其特征在于,所述处理所述第一原始图像数据以输出所述全色图像数据,包括:
对所述第一原始图像数据中的所述全色像素值执行间隔采样后合并成数据阵列,以输出所述全色图像数据;或
对所述第一原始图像数据中每个区域内的至少部分全色像素值执行求和或求平均计算,并将计算后的像素值合并成数据阵列,以输出所述全色图像数据;或
对所述第一原始图像数据中每个区域内的至少部分全色像素值和彩色像素值执行求和或求平均计算,并根据色彩转换函数将计算后的像素值转换成亮度像素值,及合并所述亮度像素值成数据阵列,以输出所述全色图像数据;或
对所述第一原始图像数据中所有彩色像素的彩色像素值执行插值处理得到该彩色像素对应的全色像素值后合并成数据阵列,以输出所述全色图像数据。
23.根据权利要求17所述的控制方法,其特征在于,所述控制所述第二区中的像素曝光以获取彩色图像数据,包括:
控制所述第一区中的像素曝光而获得第二原始图像数据,所述第二原始图像数据中包括全色像素值及彩色像素值;及
将所述第二原始图像数据转换为拜耳阵列以获取所述彩色图像数据。
24.根据权利要求18所述的控制方法,其特征在于,控制所述第一区中的像素与所述第二区中的像素均曝光以获取所述彩色图像数据,包括:
控制所述第一区中的像素与所述第二区中的像素均曝光而获得第一原始图像数据,所述第一原始图像数据中包括全色像素值及彩色像素值;
截取所述第一原始图像数据中与所述第一区中像素对应的部分数据;及
将所述部分数据转换为拜耳阵列以获取所述彩色图像数据。
25.一个或多个存储有计算机程序的非易失性计算机可读存储介质,当所述计算机程序被一个或多个处理器执行时,实现权利要求17至24任意一项所述的控制方法。
CN202011563398.1A 2020-12-25 2020-12-25 图像传感器、图像采集装置、电子设备及其控制方法 Active CN112788320B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011563398.1A CN112788320B (zh) 2020-12-25 2020-12-25 图像传感器、图像采集装置、电子设备及其控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011563398.1A CN112788320B (zh) 2020-12-25 2020-12-25 图像传感器、图像采集装置、电子设备及其控制方法

Publications (2)

Publication Number Publication Date
CN112788320A true CN112788320A (zh) 2021-05-11
CN112788320B CN112788320B (zh) 2022-12-02

Family

ID=75752508

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011563398.1A Active CN112788320B (zh) 2020-12-25 2020-12-25 图像传感器、图像采集装置、电子设备及其控制方法

Country Status (1)

Country Link
CN (1) CN112788320B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114125240A (zh) * 2021-11-30 2022-03-01 维沃移动通信有限公司 图像传感器、摄像模组、电子设备及拍摄方法
CN114466170A (zh) * 2021-08-27 2022-05-10 锐芯微电子股份有限公司 图像处理方法及系统
WO2022134744A1 (zh) * 2020-12-25 2022-06-30 Oppo广东移动通信有限公司 电子设备的控制方法、电子设备及计算机可读存储介质
WO2022268132A1 (zh) * 2021-06-24 2022-12-29 维沃移动通信(杭州)有限公司 图像处理方法、装置及电子设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101069190A (zh) * 2005-03-11 2007-11-07 手持产品公司 具有混合型单色和彩色图像传感器阵列的数字图像获取光学阅读器
US20170272708A1 (en) * 2016-03-16 2017-09-21 Omnivision Technologies, Inc. Image Sensor With Peripheral 3A-Control Sensors And Associated Imaging System
KR20180037557A (ko) * 2016-10-04 2018-04-12 삼성전기주식회사 홍채인식 겸용 카메라 모듈 및 이를 포함하는 휴대용 전자기기
CN110620861A (zh) * 2019-09-24 2019-12-27 Oppo广东移动通信有限公司 图像传感器、相机模组和终端

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101069190A (zh) * 2005-03-11 2007-11-07 手持产品公司 具有混合型单色和彩色图像传感器阵列的数字图像获取光学阅读器
US20170272708A1 (en) * 2016-03-16 2017-09-21 Omnivision Technologies, Inc. Image Sensor With Peripheral 3A-Control Sensors And Associated Imaging System
KR20180037557A (ko) * 2016-10-04 2018-04-12 삼성전기주식회사 홍채인식 겸용 카메라 모듈 및 이를 포함하는 휴대용 전자기기
CN110620861A (zh) * 2019-09-24 2019-12-27 Oppo广东移动通信有限公司 图像传感器、相机模组和终端

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022134744A1 (zh) * 2020-12-25 2022-06-30 Oppo广东移动通信有限公司 电子设备的控制方法、电子设备及计算机可读存储介质
WO2022268132A1 (zh) * 2021-06-24 2022-12-29 维沃移动通信(杭州)有限公司 图像处理方法、装置及电子设备
CN114466170A (zh) * 2021-08-27 2022-05-10 锐芯微电子股份有限公司 图像处理方法及系统
CN114466170B (zh) * 2021-08-27 2023-10-31 锐芯微电子股份有限公司 图像处理方法及系统
CN114125240A (zh) * 2021-11-30 2022-03-01 维沃移动通信有限公司 图像传感器、摄像模组、电子设备及拍摄方法

Also Published As

Publication number Publication date
CN112788320B (zh) 2022-12-02

Similar Documents

Publication Publication Date Title
CN112788320B (zh) 图像传感器、图像采集装置、电子设备及其控制方法
US10095941B2 (en) Vision recognition apparatus and method
EP2533520B1 (en) Image sensor having HDR capture capability
US8416303B2 (en) Imaging apparatus and imaging method
US20050128509A1 (en) Image creating method and imaging device
US8031243B2 (en) Apparatus, method, and medium for generating image
JP2005006066A (ja) 固体撮像素子用カラーフィルタおよびこれを用いたカラー撮像装置
EP2193656A1 (en) Multi-exposure pattern for enhancing dynamic range of images
WO2017104411A1 (ja) 撮像素子、画像処理装置および方法、並びにプログラム
JP2009284309A (ja) 撮像装置、表示制御プログラム及び表示制御方法
KR20100133806A (ko) 이미지 디스플레이 방법 및 장치
EP2685725B1 (en) Imaging device and imaging program
CN112702490A (zh) 电子设备的控制方法、电子设备及存储介质
US8937680B2 (en) Image pickup unit and image processing unit for image blur correction
US20070070254A1 (en) Video standard determination
JP2021177646A (ja) 撮像素子、撮像装置、画像データ処理方法、及びプログラム
US20230247308A1 (en) Image processing method, camera assembly and mobile terminal
JP2016192707A (ja) 撮像素子、撮像方法、並びにプログラム
CN112640430B (zh) 成像元件、摄像装置、图像数据处理方法及存储介质
CN114697474B (zh) 电子设备的控制方法、电子设备及计算机可读存储介质
US7782381B2 (en) Generating an instant review image using fractional readouts
JP2007189639A (ja) デジタルカメラ
CN115118856B (zh) 图像传感器、图像处理方法、摄像头模组及电子设备
KR101398469B1 (ko) 디지털 영상 처리 장치
JP7476361B2 (ja) 情報処理装置、撮像装置、情報処理方法、及びプログラム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant