CN109547671A - 图像传感器、相机模块以及成像设备 - Google Patents

图像传感器、相机模块以及成像设备 Download PDF

Info

Publication number
CN109547671A
CN109547671A CN201710868501.5A CN201710868501A CN109547671A CN 109547671 A CN109547671 A CN 109547671A CN 201710868501 A CN201710868501 A CN 201710868501A CN 109547671 A CN109547671 A CN 109547671A
Authority
CN
China
Prior art keywords
information
time
motion information
image
motion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201710868501.5A
Other languages
English (en)
Other versions
CN109547671B (zh
Inventor
曹英美
金会元
金采盛
许在成
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Priority to CN201710868501.5A priority Critical patent/CN109547671B/zh
Publication of CN109547671A publication Critical patent/CN109547671A/zh
Application granted granted Critical
Publication of CN109547671B publication Critical patent/CN109547671B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/57Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

提供一种图像传感器、相机模块以及成像设备。所述图像传感器包括:图像获取器,被配置为通过将接收的光转换成电信号来生成图像信息;第一检测器,被配置为检测关于图像获取器获取图像信息的第一时间的第一时间信息;第二检测器,被配置为接收指示图像获取器的运动的多条运动信息,并且检测关于所述多条运动信息中的至少一条运动信息被接收的第二时间的第二时间信息。单个端口,被配置为输出图像信息、第一时间信息,从所述多条运动信息中选择的输出运动信息以及关于输出运动信息的第二时间信息。

Description

图像传感器、相机模块以及成像设备
技术领域
与示例实施例一致的方法和设备涉及一种图像传感器、相机模块以及成像设备。
背景技术
包括图像传感器的相机模块通常安装在诸如移动装置、无人机、数码相机、可穿戴装置和汽车的一系列领域内使用的设备中。当使用图像传感器获得图像时,如果包括图像传感器的相机模块或者包括相机模块的设备移动,则由此获得的图像的质量可能降低。具体地,安装在频繁移动的设备中的相机模块可由于设备的运动而生成具有增加的劣化的图像。因此,需要对由图像传感器获得的图像执行校正的处理,以对相机模块或设备的移动进行补偿。
发明内容
一个或多个示例实施例提供图像传感器、相机模块以及能够更精确地补偿运动的设备。
根据示例实施例的一方面,提供一种图像传感器,包括:图像获取器,被配置为通过将接收的光转换成电信号来生成图像信息;第一检测器,被配置为检测关于图像获取器获取图像信息的第一时间的第一时间信息;第二检测器,被配置为接收指示图像获取器的运动的多条运动信息,并且检测关于所述多条运动信息中的至少一条运动信息被接收的第二时间的第二时间信息;单个端口,被配置为输出图像信息、第一时间信息,从所述多条运动信息中选择的输出运动信息,以及关于输出运动信息的第二时间信息。
根据另一个示例实施例的一方面,提供一种图像传感器,包括:图像获取器,被配置为基于多个控制信号通过将接收的光转换成电信号来生成图像信息;第一检测器,被配置为输出所述多个控制信号,并使用所述多个控制信号中的至少一个控制信号检测关于图像获取器获取图像信息的第一时间的第一时间信息;第二检测器,被配置为接收指示图像获取器的运动的多条运动信息,并检测关于所述多条运动信息中的至少一条运动信息被接收的第二时间的第二时间信息;输出接口,被配置为输出图像信息、第一时间信息、所述至少一条运动信息和第二时间信息。
根据另一个示例实施例的一方面,提供一种相机模块,包括:光学单元,包括多个透镜;运动传感器,被配置为检测运动并且基于检测的运动生成多条运动信息;图像传感器,被配置通过将通过光学单元接收的光转换成电信号来生成图像信息,接收所述多条运动信息;并且通过单个端口输出图像信息、关于获得图像信息的第一时间的第一时间信息,所述多条运动信息中的至少一条运动信息,以及关于所述至少一条运动信息被接收的第二时间的第二时间信息。
根据另一个示例实施例,提供一种相机模块,包括:光学单元,包括多个透镜;运动传感器,被配置为检测运动并基于检测的运动输出多条运动信息;图像传感器,被配置基于多个控制信号通过将通过光学单元接收的光转换成电信号来生成图像信息,接收所述多条运动信息,检测关于获得图像信息的第一时间的第一时间信息;并且输出图像信息、第一时间信息、至少一条运动信息以及关于所述至少一条运动信息被接收的第二时间的第二时间信息。
根据另一个示例实施例,提供一种设备,包括:相机模块,包括:光学单元,包括多个透镜;运动传感器,被配置为基于检测的运动输出多条运动信息;图像传感器,被配置为通过将通过光学单元接收的光转换成电信号来生成图像信息,接收所述多条运动信息;并且通过单个端口输出图像信息、关于获取图像信息的第一时间的第一时间信息、所述多条运动信息中的至少一条运动信息以及关于所述至少一条运动信息被接收的第二时间的第二时间信息;处理器,被配置为接收图像信息、第一时间信息、所述至少一条运动信息和第二时间信息,并且使用第一时间信息、所述至少一条运动信息和第二时间信息来修改图像信息。
根据另一个示例实施例,提供一种成像装置的图像补偿方法,所述图像补偿方法包括:基于接收的光生成图像信息;检测关于图像信息被生成的第一时间的第一时间信息;感测成像装置的运动;检测关于所述运动被感测的第二时间的第二时间信息;基于生成的图像信息、第一时间信息、所述运动和第二时间信息,生成补偿的图像数据。
根据另一个示例实施例,提供一种包含有程序的非暂时性计算机可读记录介质,当所述程序由处理器执行时使得处理器执行图像补偿方法,所述图像补偿方法包括:基于接收的光生成图像信息;检测关于图像信息被生成的第一时间的第一时间信息;感测成像装置的运动;检测关于所述运动被感测的第二时间的第二时间信息;基于生成的图像信息、第一时间信息、所述运动和第二时间信息生成补偿的图像数据。
附图说明
从下面结合附图的详细描述,本公开的以上和其他方面、特征和优点将变得更容易理解,其中:
图1是示出根据示例实施例的设备的配置的框图;
图2是示出根据示例实施例的图像传感器的配置的框图;
图3是示出根据示例实施例的图像传感器的配置的框图;
图4A、图4B和图4C是示出根据示例实施例的图像传感器的操作的示图;
图5A、图5B和图5C是示出根据示例实施例的图像传感器的操作的示图;
图6是示出根据示例实施例的由图像传感器输出的数据的配置的示图;
图7是示出根据示例实施例的设备的处理器的配置的框图;
图8A、图8B和图8C是示出根据示例实施例的设备的处理器的操作的示图;
图9是示出根据示例实施例的相机模块的配置的示图;
图10是示出根据示例实施例的设备的配置的框图。
具体实施方式
图1是示出根据示例实施例的设备的配置的框图。根据示例实施例的设备可包括相机模块100和处理器200。图1的相机模块100可包括运动传感器110和图像传感器120。
运动传感器110可连续输出多条运动信息mov。多条运动信息可指示相机模块100的运动。可通过串行外围接口(SPI)、内部集成电路(I2C)接口或内部集成电路(I3C)接口输出多条运动信息。运动传感器110还可周期性地输出多条运动信息mov。可选地,运动传感器110可周期性地检测运动以生成多条运动信息,然后,运动传感器110可同时将生成的多条运动信息(mov)输出到图像传感器120。运动传感器110可响应于从图像传感器120输出的命令或请求而输出多条运动信息(mov)。运动传感器110还可包括陀螺仪传感器或加速度传感器。陀螺仪传感器或加速度传感器可以是用于光学图像稳定(OIS)的高级传感器,还可以是为成像校准的专用传感器。运动传感器110可被设置为与相机模块100的图像传感器120相邻,这可以允许图像传感器120适当地反映相机模块100的运动。
图像传感器120可通过将接收的光转换为电信号来获得图像信息,可从运动传感器110接收多条运动信息,并且可输出包括获得的图像信息和接收的多条运动信息的数据。图像传感器120可具有输出数据的单个端口。与图像信息一起输出的运动信息还可以是基于用于图像获取的像素的曝光时间,从由图像传感器120接收的多条运动信息选择的运动信息。数据还可另外包括关于图像传感器120获得图像信息的时间的第一时间信息,以及关于接收到运动信息的时间的第二时间信息。可使用相同的时间信息(例如,相同的时钟信号或由单个计数器输出的信号)来检测第一时间信息和第二时间信息。
可通过移动工业处理器接口(MIPI)输出数据。在这种情况下,可以MIPI的嵌入式数据格式或者通用数据格式与图像信息一起输出运动信息、第一时间信息或第二时间信息。
当图像传感器120选择并输出多条运动信息时,第二时间信息可包括分别输入多条运动信息的时间。可在关于输入多条运动信息时的时间的信息被添加到多条运动信息中的每条运动信息时,将关于输入多条运动信息时的时间的信息从图像传感器120发送到处理器200。
图像传感器120可直接使用控制像素的操作的控制信号来获得第一时间信息。控制信号可包括控制像素的曝光的快门控制信号和读取关于由像素获得的图像的信息的读取信号中的至少一个。
处理器200可从相机模块100接收数据,并且可使用选择的多条运动信息来校正图像。
例如,可通过单个端口输出图像信息和多条运动信息。在这种情况下,单个端口可以是MIPI端口。因此,可简化设备的硬件配置,此外,图像传感器120可将最精确的运动信息输出到处理器200。
根据示例实施例,图像传感器120还可从运动传感器110接收运动信息,可将接收的运动信息与图像传感器120中的像素的曝光时间进行同步,并且可将运动信息提供到外部源。如上所述,运动传感器110可周期性地输出运动信息。例如,由运动传感器110输出多条运动信息的时间间隔可以是恒定的。然而,图像传感器120的像素的曝光时间可根据环境而变化。因此,可能很难从图像传感器120的外部识别图像传感器120的像素的精确曝光时间,例如,曝光开始时间和曝光结束时间。
结果,根据示例实施例,作为主要组件的图像传感器120可存储由运动传感器110(诸如,陀螺仪传感器或加速度传感器)输出的运动信息连同时间戳,并且可以以帧为单位在识别的精确的曝光时间将存储的运动信息提供到外部处理器(例如,处理器200)。运动传感器110和图像传感器120可通过SPI、I2C接口或者I3C接口彼此连接,图像传感器和外部处理器可通过MIPI彼此连接。在这种情况下,运动信息可以以MIPI的嵌入式数据格式或者通用数据格式与图像数据一起输出。例如,可经由单个端口输出图像数据和运动信息。
这可以允许与图像传感器120的曝光时间进行了最精确地同步的运动信息被发送到外部源,并且可在不改变芯片接口或模块连接器的情况下实现诸如OIS功能的运动补偿功能。换句话说,可防止在使用检测运动信息的单独的芯片时可能发生的芯片间时序失配,并且可在不改变模块连接器或芯片焊盘的情况下,将关于在图像传感器120的像素的精确曝光时间时的相机模块100的运动的信息发送到外部处理器。
图2是示出根据示例实施例的图像传感器的配置的框图。根据示例实施例的图像传感器121可包括图像获取器1211、曝光时间检测器1221、缓冲器1231和数据发送器1241。
图像获取器1211可输出图像信号。图像获取器1211可包括包含多个像素的像素阵列。从图像获取器1211输出的图像信号img可包括多个图像帧。
曝光时间检测器1221可检测像素的曝光时间。曝光时间检测器1221还可将检测的曝光时间提供到数据发送器1241。曝光时间可包括完成像素的曝光的时间。曝光时间检测器1221可直接使用控制像素的控制信号来检测曝光时间。例如,控制信号可控制像素阵列的单列中包括的像素的曝光,并且根据控制信号的状态,像素可保持在快门关闭或快门打开状态。因此,曝光时间检测器1221可通过检测控制信号的状态改变的时间来检测快门关闭或快门打开时间。
缓冲器1231可将多条运动信息中的每条运动信息与时间戳一起存储。时间戳可以是关于多条运动信息mov中的每条运动信息被接收的时间的信息。时间戳还可被添加到多条运动信息mov中的全部运动信息或一部分运动信息。
数据发送器1241可输出包括图像信号img和与曝光时间对应的运动信息mov的数据。例如,数据发送器1241可使用从曝光时间检测器1221接收的曝光时间(例如,快门关闭或者快门打开时间)、运动信息mov的时间戳以及存储在缓冲器1231中的多条运动信息mov选择指示图像传感器121的运动的至少一条运动信息mov,并且可将选择的至少一条运动信息与图像信号一起输出。选择的至少一条运动信息可包括在最接近快门关闭时间的时间接收的运动信息。
此外,为了获得与运动信息一起存储的曝光时间和时间戳,图像传感器121还可包括用作全局时钟的计数器。
还可以由软件来实现曝光时间检测器1221和数据发送器1241。例如,图像传感器121可包括使用软件的用作曝光时间检测器1221和数据发送器1241的处理器。
图3是示出根据示例实施例的图像传感器的配置的框图。图像传感器122可包括图像获取器1212、第一检测器1222、第二检测器1232、输出接口1242和时钟生成器1252。输出接口1242可包括第一存储器1242-1和第二存储器1242-2。
图像获取器1212可通过将接收的光转换成电信号来生成图像信息img。图像获取器1212可响应于从第一检测器1222接收到控制信号con,生成图像信息img。更详细地,图像获取器1212可包括像素阵列,其中,像素阵列包括以矩阵形式布置的被配置为根据接收的光的量输出电压的多个像素。在这种情况下,控制信号con可包括用于像素阵列的各个行的快门控制信号或读取信号。例如,基于对应的快门控制信号的状态,像素阵列的各个行中包括的像素可接收光。例如,基于快门控制信号的状态,像素可保持在快门打开或快门关闭状态。在像素阵列的各个行中包括的像素还可根据基于对应的读取信号的状态而接收的光的量来输出电压。
第一检测器1222可将控制信号con输出到图像获取器1212,可接收关于当前时间的信息,并且可检测关于图像获取器1212使用接收的控制信号con和关于当前时间的信息生成图像信息img的时间的信息。例如,第一检测器1222可检测当控制信号con的状态改变时输入的关于当前时间的信息作为关于图像获取器1212生成图像信息img的时间的信息。关于图像获取器1212生成图像信息img的时间的信息可包括像素阵列的第一行的快门打开时间、快门关闭时间和读取结束时间与像素阵列的最后一行的快门打开时间、快门关闭时间和读取结束时间中的至少一个。
第二检测器1232可接收多条运动信息mov和关于当前时间的信息,并且可检测在接收多条运动信息mov时输入的关于当前时间的信息,作为与多条运动信息mov相关的时间信息。
例如,第二检测器1232可针对所有的接收的多条运动信息mov输出运动信息mov_t,其中,多条运动信息mov中的每条运动信息被接收时输入的关于当前时间的信息作为时间戳被添加到所述运动信息mov_t。可选地,第二检测器1232可针对接收的多条运动信息mov中的仅一部分运动信息输出运动信息mov_t,其中,多条运动信息mov中的每条运动信息被接收时输入的关于当前时间的信息作为时间戳被添加到所述运动信息mov_t。
多条运动信息mov中的每条运动信息可周期性地被输入,或者多条运动信息mov可以以多个组被输入。例如,响应于由图像传感器输出的信号,运动传感器可将多条运动信息同时输出到图像传感器。当多条运动信息mov被同时输入到图像传感器时,可使用关于当前时间的信息生成多条运动信息mov中的最新的运动信息mov的时间戳,并且可使用最新的运动信息mov的时间戳和运动传感器的运动检测周期生成多条运动信息中的剩余的运动信息的时间戳。
输出接口1242可接收并存储从图像获取器1212接收的图像信息img,可接收并存储从第一检测器1222接收的与图像信息img相关的时间信息t_img,可从第二检测器1232接收并存储添加了时间戳的多条运动信息mov_t,并且可输出从图像获取器1212接收的图像信息img、从第一检测器1222接收的时间信息t_img以及从第二检测器1232接收的添加了时间戳的多条运动信息mov_t。此外,输出接口1242可使用时间信息t_img来选择从第二检测器1232接收的添加了时间戳的多条运动信息mov_t中的部分运动信息,并且可输出多条运动信息mov_t中的选择的部分运动信息。
第二存储器1242-2可存储添加了时间戳的多条运动信息mov_t。作为先进先出(FIFO)存储器的第二存储器1242-2可以是静态随机存取存储器(SRAM)。
第一存储器1242-1可接收并存储从图像获取器1212接收的图像信息img,可接收并存储从第一检测器1222接收的与图像信息img相关的时间信息t_img。第一存储器1242-1还可存储基于与图像信息img相关的时间信息t_img从添加了时间戳的多条运动信息mov_t选择的多条运动信息mov_t,并且可输出存储的选择的多条运动信息mov_t。例如,当处理器读取存储在第一存储器1241-1中的信息时,存储的信息可作为数据被输出。第一存储器1241-1可以是SRAM。
时钟生成器1252可将关于当前时间的信息输出到第一检测器1222和第二检测器1232。时钟生成器1252可被实现为振荡器或者计数器。
图4A、图4B和图4C是示出根据示例实施例的图像传感器的操作的示图。
如图1中所示,相机模块100可具有一起嵌入在相机模块100中的运动传感器110和图像传感器120。运动传感器110可以是陀螺仪传感器,并且在这种情况下,陀螺仪传感器的双向(输出)端口可连接到图像传感器120。
如上所述,图像传感器120可具有用作全局时钟的设置在图像传感器120中的另外的计数器。
作为时间戳,在图像传感器120的像素开始曝光时的时间t11、t21和t31以及在像素的曝光完成时的时间t12、t22和t32的全局时钟可被存储在由图像传感器120获得的图像帧(例如,第一图像帧至第三图像帧)中。
图像传感器120可将多条运动信息存储在存储器(例如,缓冲器1231)中,并且可存储在多条运动信息中的每条运动信息被接收的时间的全局时钟作为时间戳。在示例中,多条运动信息中的每条运动信息被接收的时间可以是指示每条运动信息是关于在任意时间点的相机模块100的运动的信息的值。例如,运动信息mov_t12的时间戳可以是t12,运动信息mov_t22的时间戳可以是t22,运动信息mov_t32的时间戳可以是t32。
在单个图像帧被捕获然后关于单个图像帧的图像数据被输出到外部源之后,图像传感器120的数据发送器1241可将时间戳与捕获的单个帧一起输出。例如,当数据发送器1241输出关于第一帧的图像数据时,数据发送器1241可将时间戳t11和t12与图像数据一起输出。可使用MIPI的嵌入式数据格式将时间戳输出为页脚。
随后,数据发送器1241可在输出关于下一帧的图像数据之前的空闲时间,将与当前帧对应的运动信息与运动信息的时间戳一起输出。可使用时间戳来选择与当前帧对应的运动信息。例如,当当前帧为第一帧时,具有时间戳t12的运动信息mov_t12可被选择并输出。可选地,当当前帧为第一帧时,具有大于或等于时间戳t12并小于时间戳t21的时间戳的多条运动信息可被选择并输出。在每种情况下,数据发送器1241可在输出关于第一帧的图像数据和关于第二帧的图像数据之前输出至少一条运动信息。可使用MIPI的嵌入式数据格式将选择的至少一条运动信息输出为页脚。除了选择的至少一条运动信息之外,第一帧的时间戳t11和t12以及选择的至少一条运动信息的时间戳可被发送。
图5A、图5B和图5C是示出根据示例实施例的图像传感器的操作的示图。
如上所述,图2的图像传感器121的图像获取器1211和图3的图像传感器122的图像获取器1212可包括以矩阵形式布置的多个像素。
图5A是示出像素的操作的示图。
首先,获得图像信息的第一帧的处理如下所述。
在时间t11,多个像素中的第一行的像素可开始曝光。例如,第一行的像素可保持在快门打开状态。在时间t12,多个像素中的第一行的像素可被完全曝光。例如,第一行的像素可保持在快门关闭状态。在时间t13,可完成对多个像素的第一行的像素的读取操作。在时间t14,多个像素的最后一行的像素可开始曝光。例如,最后一行的像素可保持在快门打开状态。在时间t15,多个像素的最后一行的像素可被完全曝光。例如,最后一行的像素可保持在快门关闭状态。在时间t16,可完成对所述像素的最后一行的像素的读取操作。可由应用于图2所示的图像获取器1211或者图3所示的图像获取器1212的控制信号(快门控制信号或者读取信号)来控制像素的操作。
获得图像信息的第二帧的处理可以与获得第一帧的处理相似。
在这种情况下,上述时间t11至t16可被检测,作为与获得图像信息相关的时间信息。
图5B示出由图像传感器检测的多条运动信息,图5C示出添加了时间戳t的多条运动信息。图5C示出添加了时间戳t的所有的多条运动信息,但是时间戳t还可仅被添加到多条运动信息mov中的一部分运动信息。
图像传感器可使用与获得图像信息相关的时间信息,选择并输出添加了时间戳t的多条运动信息或者多条运动信息中的一部分运动信息。例如,当图像传感器输出图像信息的第一帧时,图像传感器可输出具有大于或等于时间戳t11并小于时间戳t21的时间戳的多条运动信息,或者添加了时间戳t的多条运动信息。
图6是示出根据示例实施例的由图像传感器输出的数据的配置的示图。
由根据示例实施例的图像传感器输出的数据可包括:图像信息img、与获得图像信息img相关的时间信息t_img以及基于时间信息t_img选择的并且具有添加到其上的时间戳的运动信息mov_t。
可使用控制图像传感器的像素的控制信号直接检测与获得图像信息img相关的时间信息t_img,并且,如上所述,所述时间信息t_img可包括多个像素的第一行的像素的快门打开时间、快门关闭时间和读取结束时间以及多个像素的最后一行的像素的快门打开时间、快门关闭时间和读取结束时间。
选择的运动信息mov_t可以是在关于当前帧的第一行的像素的快门打开时间与关于当前帧之后的一帧的第一行的像素的快门打开时间之间,由图像传感器接收的多条运动信息mov_t的全部或部分运动信息。
如上所述,时间戳可仅被添加到在数据中包括的多条运动信息mov_t中的一部分运动信息,并且时间戳还可被添加到在数据中包括的多条运动信息mov_t中的所有运动信息。
此外,所述数据还可包括头部,其中,头部包括图像信息img、与获得图像信息img相关的时间信息t_img以及关于时间信息t_img是否位于所述数据的任意部分的信息。
图7是示出根据示例实施例的设备的处理器的配置的框图。处理器200可包括比较器201、运动向量提取器202、校正器203和接收器204。
图8A、图8B和图8C是示出根据示例实施例的设备的处理器的操作的示图。图8A示出由处理器200接收的数据。图8B示出由接收器204输出的接收的图像信息img_r。图8C示出由接收器204输出的接收的运动信息mov_r。
参照图7和图8,下面将描述根据示例实施例的设备的处理器的操作。
接收器204可接收数据,可将数据的图像信息输出为接收的图像信息img_r,并且可将数据的运动信息输出为接收的运动信息mov_r。接收器204可使用数据的头部的细节从数据提取图像信息和运动信息。
比较器201可将接收的运动信息mov_r的时间戳与接收的图像信息img_r的时间戳进行比较,并且可选择并输出在运动向量提取器202提取运动向量mov_v时将要使用的运动信息。
随后,运动向量提取器202可使用选择的运动信息来提取运动向量mov_v。
接下来,校正器203可使用提取的运动向量mov_v来校正第一帧的图像数据。
可对第二帧和第三帧继续执行这样的操作。
还可以通过软件来实现比较器201、运动向量提取器202、校正器203和接收器204。例如,处理器200可被实现为单个应用处理器(AP),单个AP可使用软件来用作比较器201、运动向量提取器202、校正器203和接收器204。
接收的运动信息mov_r还可仅包括由图像传感器接收的多条运动信息中的一部分运动信息。
多条接收的运动信息mov_r中的每条接收的运动信息或者多条接收的运动信息mov_r中的一部分接收的运动信息可具有添加到其中的时间戳。
图9是示出根据示例实施例的相机模块的配置的示图。相机模块101可包括光学单元140和图像传感器131。
光学单元140可包括壳141和多个透镜142-1和142-2。透镜142-1和透镜142-2可在壳141内移动。壳141和图像传感器131还可以以各种方式彼此联接。
图像传感器131根据经由光学单元140接收的光的量输出图像信息。图像传感器131可包括电路和堆叠在印刷电路板(PCB)上的像素阵列。
此外,运动传感器可被附到相机模块101的一部分。例如,运动传感器可被附到图像传感器131,并且还可被附到壳141。
图10是示出根据示例实施例的设备的配置的框图。根据示例实施例的设备1000可包括相机模块102和处理器202。
相机模块102可包括运动传感器和图像传感器。在相机模块102中包括的图像传感器的配置和操作可与图2、图3、图4A、图4B、图4C、图5A、图5B、图5C和图6中示出的图像传感器的配置和操作相同。
处理器202的配置和操作可与图7、图8A、图8B和图8C中示出的处理器的配置和操作相同。
图10示出移动装置作为根据示例实施例的设备,但是根据示例实施例的设备可被设置为可附相机模块的各种类型的装置,诸如,无人机、数码相机、可穿戴相机或者汽车。
根据示例实施例,图像传感器可直接接收运动信息,并且可缓冲并输出接收的运动信息。例如图像传感器可基于图像传感器的像素的曝光时间对运动信息进行分组。图像传感器还可使用图像传感器的MIPI而不是用于发送运动信息的单独的接口,将运动信息发送到处理器。此外,图像传感器可包括用作全局时钟的计数器,并且可使用全局时钟通过将时间戳添加到图像信息和运动信息而将图像信息与移动信息进行同步。处理器可通过考虑曝光时间使用以帧为单位打包的运动信息以校正对应的帧的图像信息来提供更高质量的图像。
如上所述,根据示例实施例,图像传感器、相机模块和设备可提供更高质量的图像。
如本公开的领域中传统的,根据功能块、单元和/或模块,描述并在附图中示出了示例实施例。本领域技术人员将理解,通过电子(或光学)电路(诸如,逻辑电路、分立组件、微处理器、硬连接电路、存储器元件、布线连接等)来物理地实现这些块、单元和/或模块,其中,可使用基于半导体的制造技术或者其他制造技术来形成所述电子(或光学)电路。在由微处理器或类似物实现块、单元和/或模块的情况下,可使用软件(例如,微代码)来对块、单元和/或模块进行编程,以执行在此讨论的各种功能并且可选地由固件或软件进行驱动。可选择地,可通过专用硬件来实现每个块、单元和/或模块,或者每个块、单元和/或模块可被实现为执行一些功能的专用硬件和执行其他功能的处理器(例如,一个或多个编程的微处理器和相关联的电路)的组合。此外,在不脱离本发明构思的范围的情况下,实施例的每个块、单元和/或模块可被物理地分离成两个或者更多个交互并分立的块、单元和/或模块。此外,在不脱离本发明构思的范围的情况下,可将实施例的块、单元和/或模块物理地组合成多个复杂的块、单元和/或模块。
虽然上面已经示出并描述了示例性实施例,但是对于本领域技术人员将清楚的是,在不脱离本公开的范围的情况下,可进行修改和变化。

Claims (25)

1.一种图像传感器,包括:
图像获取器,被配置为通过将接收的光转换成电信号来生成图像信息;
第一检测器,被配置为检测关于图像获取器获取图像信息的第一时间的第一时间信息;
第二检测器,被配置为接收指示图像获取器的运动的多条运动信息,并且检测关于所述多条运动信息中的至少一条运动信息被接收的第二时间的第二时间信息;
单个端口,被配置为输出图像信息、第一时间信息、从所述多条运动信息中选择的输出运动信息以及关于输出运动信息的第二时间信息。
2.根据权利要求1所述的图像传感器,还包括:时钟生成器,被配置为将关于当前时间的信息输出到第一检测器和第二检测器,
其中,第一检测器还被配置为使用关于当前时间的信息来检测第一时间信息,
第二检测器还被配置为使用关于当前时间的信息来检测第二时间信息。
3.根据权利要求2所述的图像传感器,其中,第一检测器还被配置为:输出控制图像获取器的操作的控制信号,并且基于控制信号的状态改变时输入的关于当前时间的信息来确定第一时间信息。
4.根据权利要求3所述的图像传感器,其中,图像获取器包括具有以矩阵形式布置的多个像素的像素阵列,多个控制信号包括用于像素阵列的各个行的快门控制信号和读取信号中的至少一个。
5.根据权利要求4所述的图像传感器,其中,第一时间信息包括像素阵列的第一行的快门打开时间、快门关闭时间和读取结束时间中的至少一个,以及像素阵列的最后一行的快门打开时间、快门关闭时间和读取结束时间中的至少一个。
6.根据权利要求2所述的图像传感器,其中,第二检测器还被配置为:基于在所述至少一条运动信息被接收时输入的关于当前时间的信息来确定第二时间信息,分别将确定的相应的第二时间信息添加到所述至少一条运动信息中的每条运动信息,并且输出添加了第二时间信息的所述至少一条运动信息。
7.根据权利要求1所述的图像传感器,还包括:输出接口,被配置为存储图像信息、第一时间信息、所述多条运动信息和第二时间信息;基于第一时间信息选择输出运动信息;输出图像信息、第一时间信息、选择的输出运动信息和关于选择的输出运动信息的第二时间信息。
8.根据权利要求7所述的图像传感器,其中,输出接口包括:
第一存储器,被配置为存储多条运动信息和与多条运动信息中的每条运动信息对应的第二时间信息,基于第一时间信息选择输出运动信息;
第二存储器,被配置为从图像获取器接收并存储图像信息,从第一检测器接收并存储第一时间信息,从第一存储器接收并存储选择的输出运动信息和选择的输出运动信息的第二时间信息,并且输出图像信息、第一时间信息、选择的输出运动信息以及关于选择的输出运动信息的第二时间信息。
9.根据权利要求1所述的图像传感器,其中,图像传感器被配置为:通过串行外围接口、内部集成电路I2C接口和内部集成电路I3C接口中的一个接收所述多条运动信息,
单个端口为移动工业处理器接口MIPI。
10.根据权利要求9所述的图像传感器,其中,图像传感器被配置为:以嵌入式数据格式和通用数据格式中的一个数据格式,输出第一时间信息、所述至少一条运动信息和第二时间信息。
11.一种图像传感器,包括:
图像获取器,被配置为基于多个控制信号通过将接收的光转换成电信号来生成图像信息;
第一检测器,被配置为输出所述多个控制信号,并使用所述多个控制信号中的至少一个控制信号检测关于图像获取器获取图像信息的第一时间的第一时间信息;
第二检测器,被配置为接收指示图像获取器的运动的多条运动信息,并检测关于所述多条运动信息中的至少一条运动信息被接收的第二时间的第二时间信息;
输出接口,被配置为输出图像信息、第一时间信息、所述至少一条运动信息和第二时间信息。
12.一种相机模块,包括:
光学单元,包括多个透镜;
运动传感器,被配置为检测运动并且基于检测的运动生成多条运动信息;
图像传感器,被配置通过将通过光学单元接收的光转换成电信号来生成图像信息,接收所述多条运动信息;并且通过单个端口输出图像信息、关于获取图像信息的第一时间的第一时间信息,所述多条运动信息中的至少一条运动信息,以及关于所述至少一条运动信息被接收的第二时间的第二时间信息。
13.根据权利要求12所述的相机模块,其中,图像传感器包括:
时钟生成器,被配置为输出关于当前时间的信息;
图像获取器,被配置为基于所述多个控制信号获取图像信息;
第一检测器,被配置为输出所述多个控制信号,并且检测多个控制信号的状态改变时输入的关于当前时间的信息,作为第一时间信息;
第二检测器,被配置为接收所述多条运动信息和关于当前时间的信息,检测所述至少一条运动信息被接收时输入的关于当前时间的信息作为第二时间信息,将第二时间信息添加到所述至少一条运动信息,并且输出添加了第二时间信息的所述至少一条运动信息。
14.根据权利要求13所述的相机模块,其中,图像获取器包括具有以矩阵形式布置的多个像素的像素阵列,所述多个控制信号包括像素阵列的各个行的快门控制信号和读取信号中的至少一个。
15.根据权利要求13所述的相机模块,其中,图像传感器包括:输出接口,被配置为存储图像信息、第一时间信息、所述多条运动信息以及第二时间信息;基于第一时间信息从所述多条运动信息中选择输出运动信息;并且输出图像信息、第一时间信息、选择的输出运动信息以及关于选择的输出运动信息的第二时间信息。
16.根据权利要求15所述的相机模块,其中,输出接口包括:
第一存储器,被配置为存储所述多条运动信息和所述多条运动信息中的每条运动信息的第二时间信息,基于第一时间信息从所述多条运动信息中选择输出运动信息;
第二存储器,被配置为从图像获取器接收并存储图像信息,从第一检测器接收并存储第一时间信息,从第一存储器接收并存储选择的输出运动信息和选择的输出运动信息的第二时间信息;并且输出图像信息、第一时间信息、选择的输出运动信息以及选择的输出运动信息的第二时间信息。
17.根据权利要求12所述的相机模块,其中,图像传感器还被配置为:通过串行外围接口SPI、内部集成电路I2C接口和内部集成电路I3C接口中的一个从运动传感器接收所述多条运动信息;并且通过移动工业处理器接口MIPI输出图像信息、第一时间信息、所述多条运动信息中的至少一条运动信息以及第二时间信息。
18.根据权利要求17所述的相机模块,其中,图像传感器还被配置为:以嵌入式数据格式和通用数据格式中的一个数据格式,输出第一时间信息、所述至少一条运动信息以及第二时间信息。
19.一种成像设备,包括:
相机模块,包括:
光学单元,包括多个透镜;
运动传感器,被配置为基于检测的运动输出多条运动信息;
图像传感器,被配置为通过将通过光学单元接收的光转换成电信号来生成图像信息,接收多条运动信息,并且通过单个端口输出图像信息、关于获取图像信息的第一时间的第一时间信息、所述多条运动信息中的至少一条运动信息以及关于所述至少一条运动信息被接收的第二时间的第二时间信息;
处理器,被配置为接收图像信息、第一时间信息、所述至少一条运动信息和第二时间信息,并且使用第一时间信息、所述至少一条运动信息和第二时间信息来修改图像信息。
20.根据权利要求19所述设备,其中,图像传感器包括:
时钟生成器,被配置为输出关于当前时间的信息;
像素阵列,具有以矩阵形式布置的多个像素;
第一检测器,被配置为输出包括像素阵列的各个行的快门控制信号和读取信号中的至少一个的多个控制信号,并且检测所述多个控制信号的状态改变时输入的关于当前时间的信息,作为第一时间信息;
第二检测器,被配置为接收所述多条运动信息和关于当前时间的信息,检测所述至少一条运动信息被接收时输入的关于当前时间的信息作为第二时间信息,将第二时间信息添加到所述至少一条运动信息,并且输出添加了第二时间信息的所述至少一条运动信息。
21.根据权利要求19所述设备,其中,图像传感器还被配置为通过串行外围接口SPI、内部集成电路I2C接口和内部集成电路I3C接口中的一个从运动传感器接收所述多条运动信息,
单个端口为移动工业处理器接口MIPI。
22.一种成像装置的图像补偿方法,所述图像补偿方法包括:
基于接收的光生成图像信息;
检测关于图像信息被生成的第一时间的第一时间信息;
感测成像装置的运动;
检测关于所述运动被感测的第二时间的第二时间信息;
基于生成的图像信息、第一时间信息、所述运动和第二时间信息,生成补偿的图像数据。
23.根据权利要求22所述的图像补偿方法,其中,第一时间信息指示快门打开时间,
第二时间信息指示快门关闭时间。
24.根据权利要求22所述的图像补偿方法,其中,感测所述运动持续一段时间,
生成的补偿的图像数据基于与第二时间信息对应的运动。
25.一种包含有程序的非暂时性计算机可读记录介质,当所述程序由处理器执行时使得处理器执行图像补偿方法,所述图像补偿方法包括:
基于接收的光生成图像信息;
检测关于图像信息被生成的第一时间的第一时间信息;
感测成像装置的运动;
检测关于所述运动被感测的第二时间的第二时间信息;
基于生成的图像信息、第一时间信息、所述运动和第二时间信息生成补偿的图像数据。
CN201710868501.5A 2017-09-22 2017-09-22 图像传感器、相机模块以及成像设备 Active CN109547671B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710868501.5A CN109547671B (zh) 2017-09-22 2017-09-22 图像传感器、相机模块以及成像设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710868501.5A CN109547671B (zh) 2017-09-22 2017-09-22 图像传感器、相机模块以及成像设备

Publications (2)

Publication Number Publication Date
CN109547671A true CN109547671A (zh) 2019-03-29
CN109547671B CN109547671B (zh) 2022-05-27

Family

ID=65830735

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710868501.5A Active CN109547671B (zh) 2017-09-22 2017-09-22 图像传感器、相机模块以及成像设备

Country Status (1)

Country Link
CN (1) CN109547671B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111800572A (zh) * 2019-04-08 2020-10-20 雪力光纤有限公司 用于处理数据流的装置和方法
CN111835945A (zh) * 2019-04-19 2020-10-27 三星电机株式会社 相机设备及其通信方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010102094A (ja) * 2008-10-23 2010-05-06 Nikon Corp カメラ
CN105407271A (zh) * 2014-09-09 2016-03-16 佳能株式会社 图像处理设备和方法、摄像设备以及图像生成设备
CN106233710A (zh) * 2014-03-19 2016-12-14 索尼公司 控制针对像素复用摄像头的抖动模糊和运动模糊
WO2017078810A1 (en) * 2015-11-06 2017-05-11 Intel Corporation Synchronization image data captured from a camera array with non-image data
CN106817534A (zh) * 2015-11-27 2017-06-09 三星电子株式会社 控制陀螺仪传感器的图像传感器及包括其的移动装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010102094A (ja) * 2008-10-23 2010-05-06 Nikon Corp カメラ
CN106233710A (zh) * 2014-03-19 2016-12-14 索尼公司 控制针对像素复用摄像头的抖动模糊和运动模糊
CN105407271A (zh) * 2014-09-09 2016-03-16 佳能株式会社 图像处理设备和方法、摄像设备以及图像生成设备
WO2017078810A1 (en) * 2015-11-06 2017-05-11 Intel Corporation Synchronization image data captured from a camera array with non-image data
CN106817534A (zh) * 2015-11-27 2017-06-09 三星电子株式会社 控制陀螺仪传感器的图像传感器及包括其的移动装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111800572A (zh) * 2019-04-08 2020-10-20 雪力光纤有限公司 用于处理数据流的装置和方法
CN111835945A (zh) * 2019-04-19 2020-10-27 三星电机株式会社 相机设备及其通信方法
CN111835945B (zh) * 2019-04-19 2023-04-18 三星电机株式会社 相机设备及其通信方法

Also Published As

Publication number Publication date
CN109547671B (zh) 2022-05-27

Similar Documents

Publication Publication Date Title
CN101312501B (zh) 摄像装置和显示方法
US11032477B2 (en) Motion stabilized image sensor, camera module and apparatus comprising same
CN110012224A (zh) 摄像头防抖系统、方法、电子设备和计算机可读存储介质
US20120268621A1 (en) Imaging apparatus, azimuth recording method, and program
CN101909152B (zh) 摄像装置
US20100091135A1 (en) Image capturing apparatus, method of determining presence or absence of image area, and recording medium
JP4732303B2 (ja) 撮像装置
CN103402056B (zh) 应用于图像捕获设备的补偿处理方法和系统
JP2013214952A (ja) 撮像装置
JPH02142281A (ja) プルーフイング特徴を備えた電子カメラ
US7701621B2 (en) Image correction system and correcting method
CN109598764A (zh) 摄像头标定方法和装置、电子设备、计算机可读存储介质
CN102572235A (zh) 成像装置、图像处理方法和计算机程序
CN104243863A (zh) 拍摄装置、拍摄方法
CN103988123A (zh) 摄像设备及其控制方法和程序
CN109547671A (zh) 图像传感器、相机模块以及成像设备
US9661225B2 (en) Image capturing apparatus and method thereof
CN106254771B (zh) 拍摄防抖方法、装置和移动终端
JP4953770B2 (ja) 撮像装置
CN110088677A (zh) 摄像设备及其控制方法和程序
KR20170034299A (ko) 자세 추정 장치, 자세 추정 방법 및 기록 매체에 저장된 컴퓨터 프로그램
US20030058351A1 (en) Image sensing apparatus and method
KR102530761B1 (ko) 이미지 센서, 카메라 모듈 및 이를 포함하는 기기
US20230046465A1 (en) Holistic camera calibration system from sparse optical flow
CN105100593B (zh) 摄像装置及其控制方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant