CN112153306B - 图像采集系统、方法、装置、电子设备及可穿戴设备 - Google Patents

图像采集系统、方法、装置、电子设备及可穿戴设备 Download PDF

Info

Publication number
CN112153306B
CN112153306B CN202011062858.2A CN202011062858A CN112153306B CN 112153306 B CN112153306 B CN 112153306B CN 202011062858 A CN202011062858 A CN 202011062858A CN 112153306 B CN112153306 B CN 112153306B
Authority
CN
China
Prior art keywords
camera
image acquisition
image frame
acquisition system
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011062858.2A
Other languages
English (en)
Other versions
CN112153306A (zh
Inventor
曹莉
向许波
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Sensetime Technology Co Ltd
Original Assignee
Shenzhen Sensetime Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Sensetime Technology Co Ltd filed Critical Shenzhen Sensetime Technology Co Ltd
Priority to CN202011062858.2A priority Critical patent/CN112153306B/zh
Publication of CN112153306A publication Critical patent/CN112153306A/zh
Application granted granted Critical
Publication of CN112153306B publication Critical patent/CN112153306B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/04Synchronising
    • H04N5/06Generation of synchronising signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

本申请提供了一种图像采集系统、方法、装置、电子设备及可穿戴设备,其中,该图像采集系统包括:主摄像头、至少一个辅摄像头、和分频电路。主摄像头用于根据第一同步信号进行曝光控制;分频电路用于获取第一同步信号,对第一同步信号进行分频处理,并向辅摄像头传输分频处理得到的第二同步信号;辅摄像头用于接收所述第二同步信号,以及按照第二同步信号进行曝光控制。本申请利用分频电路对主摄像头用于曝光控制的第一同步信号进行分频处理,得到频率较低的分频信号,即上述第二同步信号,利用第二同步信号来控制辅摄像头的曝光频率,实现了主摄像头和辅摄像头在不同帧率下曝光的同步性,节约了数据带宽,减轻处理器的压力,并且能够降低功耗。

Description

图像采集系统、方法、装置、电子设备及可穿戴设备
技术领域
本申请涉及图像处理术领域,具体而言,涉及一种图像采集系统、方法、装置、电子设备及可穿戴设备。
背景技术
随着图像处理技术的发展,基于图像处理的目标检测、测距以及视觉定位等发展的非常迅速。为了提高检测的精度,多摄像头组合越来越广泛地被应用在各种场景中。
在多个摄像头组合使用的时候,为了提高检测精度和减少计算量,需要多个摄像头同步曝光。通常在多摄像头同步曝光控制中,多个摄像头是基于相同的同步信号进行曝光。这种情况下多个摄像头的帧率相同,但是由于不同的摄像头拍摄的图像作用不同,并不需要所有的摄像头都以较高的帧率采集图像,这不仅徒增数据传输量和需要处理的数据量,增加处理器的压力,并且还增加了不必要的功耗。
发明内容
本申请实施例至少提供一种图像采集系统、方法,以实现不同帧率的摄像头同时曝光。
第一方面,本申请的实施例提供了一种图像采集系统,包括:主摄像头、至少一个辅摄像头、和分频电路;
所述主摄像头用于根据第一同步信号进行曝光控制;
所述分频电路用于获取第一同步信号,对所述第一同步信号进行分频处理,并向所述辅摄像头传输分频处理得到的第二同步信号;
所述辅摄像头用于接收所述第二同步信号,以及按照所述第二同步信号进行曝光控制。
该方面,利用分频电路对主摄像头的用于曝光控制的第一同步信号进行分频处理,得到频率较低的分频信号,即上述第二同步信号,之后利用第二同步信号来控制辅摄像头的曝光频率,能够降低辅摄像头的曝光频率,实现了主摄像头和辅摄像头在不同帧率下曝光的同步性,节约了数据带宽,减轻处理器的压力,并且降低了功耗。
在一种可能的实施方式中,所述主摄像头包括同步信号输出端,所述分频电路包括输入端;
所述主摄像头通过所述同步信号输出端向所述分频电路的输入端传输所述第一同步信号。
该实施方式,主摄像头利用第一同步信号进行曝光控制,并由主摄像头将第一同步信号发送给分频电路,有利于实现主摄像头和辅摄像头在不同帧率下曝光的同步性,并且能够减少计算资源的消耗。
在一种可能的实施方式中,上述图像采集系统还包括处理芯片;所述处理芯片与所述主摄像头和所述辅摄像头连接;
所述主摄像头还用于将拍摄的所述第一图像帧传输至所述处理芯片;
所述辅摄像头还用于将拍摄的所述第二图像帧传输至所述处理芯片;
所述处理芯片用于基于所述第一图像帧和所述第二图像帧进行目标检测。
该实施方式,结合具有较高帧率的第一图像帧和具有较低帧率的第二图像帧来进行目标检测,能够在保证目标检测精度的前提下,减少需要处理的图像数量,从而能够提高检测效率,降低图像处理的压力,节省功耗和能源。
在一种可能的实施方式中,所述处理芯片还用于向所述主摄像头传输所述第一同步信号;和/或
所述处理芯片还用于向所述分频电路传输所述第一同步信号。
该实施方式,由处理芯片向主摄像头和/或分频电路发送第一同步信号,有利于实现主摄像头和辅摄像头在不同帧率下曝光的同步性。
在一种可能的实施方式中,所述主摄像头包括可见光摄像头或红外摄像头,所述至少一个辅摄像头包括以下至少之一:深度摄像头、可见光摄像头、红外摄像头。
在一种可能的实施方式中,所述处理芯片用于按照如下方式进行目标检测:
在所述辅摄像头为可见光摄像头或红外摄像头的情况下,基于目标对象在所述第一图像帧中的位置,确定所述目标对象相对于所述图像采集系统的方位信息;和/或
将所述第一图像帧中的像素点分别与所述第二图像帧中的像素点进行匹配,得到像素点对;
基于与所述像素点对对应的视差信息、所述主摄像头与所述辅摄像头的中心距以及所主摄像头的焦距,确定所述目标对象与所述图像采集系统的距离信息。
该实施方式,在确定上述方位信息时,需要用的图像帧的帧率较高,因此,这里使用主摄像头拍摄的第一图像帧来确定方位信息。在确定距离信息时,第二图像帧的帧率不要求那么高,这里利用分频得到的第二同步信号能够降低辅摄像头的曝光频率,得到帧率较小的第二图像帧,再结合部分的第一图像帧来确定上述距离信息,不仅能够减少对检测的方位信息和距离信息的准确度的影响,还可以减少需要处理的图像数量,提高检测效率,降低图像处理的压力,节省功耗和能源。
在一种可能的实施方式中,所述处理芯片用于按照如下方式进行目标检测:
在所述辅摄像头为深度摄像头的情况下,基于目标对象在所述第一图像帧中的位置,确定所述目标对象相对于所述图像采集系统的方位信息;和/或
根据所述目标对象在所述第二图像帧中的目标像素点的深度信息确定所述目标对象与所述图像采集系统的距离信息。
该实施方式,在确定上述方位信息时,需要用的图像帧的帧率较高,因此,这里使用主摄像头拍摄的第一图像帧来确定方位信息。之后结合使用较低帧率的深度图像,即上述第二图像帧来确定距离信息,在不影响检测的方位信息和距离信息的准确度的情况下,可以减少需要处理的图像数量,提高检测效率,降低图像处理的压力,节省功耗。
在一种可能的实施方式中,所述分频电路为基于D触发器的二分频电路,所述D触发器的时钟信号端与所述主摄像头的同步信号输出端或所述处理芯片的同步信号输出端连接,所述D触发器的第一输出端连接到所述D触发器的D端;所述D触发器的第二输出端与所述辅摄像头的同步信号输入端连接;其中,所述第一输出端输出的信号与所述第二输出端输出的信号相位相反。
该实施方式,利用基于D触发器的二分频电路能够简单、快捷地实现对第一同步信号进行分频处理,适用于分离式的图像采集端。
第二方面,本申请的实施例还提供了一种可穿戴设备,包括上述任一实施方式所述的图像采集系统。
在一种可能的实施方式中,所述主摄像头包括可见光摄像头或红外摄像头,所述至少一个辅摄像头包括可见光摄像头或红外摄像头;或者
所述主摄像头包括可见光摄像头或红外摄像头,所述至少一个辅摄像头包括深度摄像头。
在一种可能的实施方式中,上述可穿戴设备还包括与所述图像采集系统分离设置的主机,所述处理芯片设置于所述主机内;
所述图像采集系统通过信号传输线缆与所述主机连接,和/或
所述主机设有与所述处理芯片连接的以下至少一项:定位模组、网络模组、用于检测工作状态和/或充电管理的微控单元、音频模组。
第三方面,本申请的实施例还提供了一种图像采集方法,用于上述任一实施方式的图像采集系统,包括:
向所述主摄像头发送所述第一同步信号,并获取所述主摄像头基于所述第一同步信号进行曝光控制而采集到的第一图像帧;
向所述分频电路发送所述第一同步信号,以使所述分频电路对接收的所述第一同步信号进行分频处理和向所述辅摄像头传输分频处理得到的第二同步信号;
获取所述辅摄像头基于所述第二同步信号进行曝光控制而采集到的第二图像帧。
在一种可能的实施方式中,上述图像采集方法还包括:基于所述第一图像帧和所述第二图像帧进行目标检测。
在一种可能的实施方式中,所述基于所述第一图像帧和所述第二图像帧进行目标检测,包括:
在所述辅摄像头为可见光摄像头或红外摄像头的情况下,基于目标对象在所述第一图像帧中的位置,确定所述目标对象相对于所述图像采集系统的方位信息;
将所述第一图像帧中的像素点分别与所述第二图像帧中的像素点进行匹配,得到像素点对;
基于所述像素点对中两个像素点之间的视差信息、所述主摄像头与所述辅摄像头的中心距以及所主摄像头的焦距,确定所述目标对象上各个点与所述图像采集系统的距离信息;
将所述方位信息和所述距离信息作为所述目标对象的检测结果信息。
在一种可能的实施方式中,所述基于所述第一图像帧和所述第二图像帧进行目标检测,包括:
在所述辅摄像头为深度摄像头的情况下,基于目标对象在所述第一图像帧中的位置,确定所述目标对象相对于所述图像采集系统的方位信息;
根据所述目标对象在所述第二图像帧中的目标像素点的深度信息确定所述目标对象与所述图像采集系统的距离信息息;
将所述方位信息和所述距离信息作为所述目标对象的检测结果信息。
第四方面,本申请的实施例还提供了一种图像采集装置,包括:
第一图像获取模块,用于向所述主摄像头发送所述第一同步信号,并获取所述主摄像头基于所述第一同步信号进行曝光控制而采集到的第一图像帧;
信号发送模块,用于向所述分频电路发送所述第一同步信号,以使所述分频电路对接收的所述第一同步信号进行分频处理和向所述辅摄像头传输分频处理得到的第二同步信号;
第二图像获取模块,获取所述辅摄像头基于所述第二同步信号进行曝光控制而采集到的第二图像帧。
第五方面,本申请的实施例还提供了一种电子设备,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述处理器与所述存储器之间通过总线通信,所述机器可读指令被所述处理器执行时执行上述任一项所述的图像采集方法的步骤。
第六方面,本申请的实施例还提供了一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述任一项所述的图像采集方法的步骤。
为使本申请的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,此处的附图被并入说明书中并构成本说明书中的一部分,这些附图示出了符合本申请的实施例,并与说明书一起用于说明本申请的技术方案。应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1示出了本申请实施例所提供的图像采集系统的示意图;
图2示出了本申请实施例所提供的D触发器的连接示意图;
图3示出了D触发器的输入输出波形图;
图4示出了本申请实施例所提供的可穿戴设备的示意图;
图5示出了本申请实施例所提供的图像采集方法的流程图;
图6示出了本申请实施例所提供的电子设备的示意图;
图7示出了本申请实施例所提供的图像采集装置的示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请的选定实施例。基于本申请的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
本文中术语“和/或”,仅仅是描述一种关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中术语“至少一种”表示多种中的任意一种或多种中的至少两种的任意组合,例如,包括A、B、C中的至少一种,可以表示包括从A、B和C构成的集合中选择的任意一个或多个元素。
在多摄像头协同工作的时候,为了提高检测精度,需要多个摄像头同步曝光。在多摄像头同步曝光时,多个摄像头是基于相同的同步信号进行曝光的,这种情况下多个摄像头的帧率相同,但是由于不同的摄像头拍摄的图像作用不同,并不需要所有的摄像头都具有一个较高的帧率,这不仅徒增数据传输量和需要处理的数据量,增加处理器的压力,并且还增加了不必要的功耗。为了解决该问题,本申请提供了一种图像采集系统、方法、可穿戴设备,本申请利用分频电路对主摄像头用于曝光控制的第一同步信号进行分频处理,得到频率较低的分频信号,利用该频率较低的分频信号来控制辅摄像头的曝光频率,能够降低辅摄像头的曝光频率,实现了主摄像头和辅摄像头在不同帧率下曝光的同步性,节约了数据带宽,减轻了处理器的压力,并且降低了功耗。
下面对本申请的图像采集系统、方法进行说明。
如图1所示,本申请实施例提供的一种图像采集系统包括:主摄像头101、至少一个辅摄像头102、和分频电路103。所述分频电路103的输出端与所述辅摄像头102的同步信号输入端连接。
主摄像头101根据第一同步信号进行曝光,采集图像帧。第一同步信号可以是由处理芯片生成,并发送给主摄像头101的。主摄像头可以通过其同步信号输入端口将第一同步信号传给分频电路103。第一同步信号也可以由处理芯片生成并直接传输至分频电路103。
主摄像头利用第一同步信号进行曝光控制,并由主摄像头将第一同步信号发送给分频电路,有利于实现主摄像头和辅摄像头在不同帧率下曝光的同步性,并且能够减少计算资源的消耗。
主摄像头101的帧率较高,其采集的图像可以用在需要高帧率采集图像的场景中,例如,用在对拍摄物体进行实例分割的场景中。上述主摄像头101可以是可见光摄像头,例如RGB摄像头,也可以是红外摄像头。
所述分频电路103用于获取第一同步信号,对接收的所述第一同步信号进行分频处理,并将分频处理得到的第二同步信号传输至所述辅摄像头102。其中,所述第一同步信号对应于所述主摄像头101进行图像采集的第一帧率,为所述第二同步信号对应的辅摄像头102进行图像采集的第二帧率的N倍;N为大于1的正整数。这里,分频电路103具体是对第一同步信号进行N分频处理,得到的第二同步信号的频率是第一同信号的N分之一。
上述N设置为正整数,是为了主摄像头101和辅摄像头102之间的时序对齐,即为了实现主摄像头101和辅摄像头102的同步曝光,这样在后续的图像处理时,不仅能够减少数据处理量,还能够提高图像处理的精度。N可以设置为2、3、4、5等正整数,具体根据实际应用场景的需求设定。在N设置为2时,主摄像头101的曝光频率是辅摄像头102的曝光频率的2倍,主摄像头101的帧率是辅摄像头102的2倍,如果,主摄像头101的帧率是30帧,那么辅摄像头102的帧率即是15帧。主摄像头101每采集两帧图像,辅摄像头102采集一帧图像,并且主摄像头101每两帧图像中的一帧图像的曝光时间与辅摄像头102的每帧图像的曝光时间同步,这样便于后端片上系统SOC进行图像算法的处理和计算。
在具体应用中,如果上述N=2,所述分频电路103可以是基于D触发器的二分频电路。
这里利用基于D触发器的二分频电路能够简单、快捷地实现同步信号的二分频处理,适用于分离式的图像采集端。
在具体实施时,如图2所示,所述D触发器的时钟信号CLK端为所述二分频电路的输入端,可以用于输入第一同步信号,与所述主摄像头101的同步信号输出端或所述处理芯片的同步信号输出端连接。所述D触发器的第一输出端连接到所述D触发器的D端;所述D触发器的第二输出端与所述辅摄像头的同步信号输入端连接;其中,所述第一输出端输出的信号与所述第二输出端输出的信号相位相反。具体地,D触发器的第一输出端为图2所示Q端,第二输出端为图2所示Q~端。通过如图2所示的电路实现了对输入端输入的第一同步信号进行分频处理,简单、方便。
如图3所示,D触发器的时钟信号端输入的第一同步信号的频率,是D触发器的第一输出端和第二输出端输出的信号的频率的2倍。利用D触发器能够实现对第一同步信号的2分频处理,控制辅摄像头102的帧率是主摄像头101的帧率的二分之一,同时实现主摄像头101与辅摄像头102同时曝光。
所述辅摄像头102用于接分频电路输出的第二同步信号,并按照所述第二同步信号进行曝光控制,采集第二图像帧。具体地,辅摄像头102在接收到第二同步信号的同时进行曝光,采集图像。
上述辅摄像头102的帧率相对于主摄像头101的帧率较低,其采集的图像可以用在对图像帧率需求比较低的场景中,例如,用在获取物体的深度图像的场景中,或者用在进行活体检测的场景中,此时辅摄像头102不需要保持与主摄像头101相同的帧率。上述辅摄像头102可以是可见光摄像头,例如RGB摄像头,也可以是红外摄像头或深度摄像头,深度摄像头一般为主动发光器件,功耗较大,降低其曝光频率或帧率能够有利于降低功耗,节省能源。
上述实施例以主摄像头101的帧率为基准,利用分频电路对主摄像头用于曝光控制的第一同步信号进行分频处理,得到频率较低的分频信号,即上述第二同步信号,将第二同步信号提供给辅摄像头102作为同步信号输入,利用第二同步信号来控制辅摄像头的曝光频率,实现了不同帧率的摄像头曝光的同步性,不仅能够方便后续片上系统SOC和图像处理器(Internet Service Provider,ISP)对不同摄像头采集的图像进行时序同步处理,还能够降低辅摄像头的曝光频率,节约数据带宽,减轻处理器的压力,减少计算资源消耗,提高图像处理速度,降低功耗,节省能源,适用于对功耗和散热要求较高的场景,例如适用于可穿戴设备。
在一些实施例中,上述图像采集系统还可以包括处理芯片104。所述处理芯片104与所述主摄像头101和所述辅摄像头102连接,还可以与所属分频电路103连接。在具体实施时,处理芯片104可以包括图像处理器ISP和片上系统(System on Chip,SOC)。主摄像头101和所述辅摄像头102均可以通过相机串行接口(CMOS Serial Interface,CSI)与处理芯片104连接。
所述主摄像头101还用于将拍摄的所述第一图像帧传输至所述处理芯片104,所述辅摄像头102还用于将其拍摄的所述第二图像帧传输至所述处理芯片104。所述处理芯片104接收所述第一图像帧和所述第二图像帧,并基于所述第一图像帧和所述第二图像帧进行目标检测。
这里,目标检测的场景例如可以是利用摄像头拍摄的图像进行导航定位的场景、车辆自动驾驶中检测行人和车辆位置的场景等。
结合具有较高帧率的第一图像帧和具有较低帧率的第二图像帧来进行目标检测,能够在不影响目标检测精度的前提下,减少辅摄像头的功耗,从而降低整个图像采集系统的功耗。此外,可以减少需要处理的图像数量,从而能够提高检测效率,降低图像处理的压力,节省功耗和能源。
在具体实施时,处理芯片104可以具体利用如下步骤实现基于所述第一图像帧和所述第二图像帧进行目标检测:
在所述辅摄像头为可见光摄像头或红外摄像头的情况下,基于目标对象在所述第一图像帧中的位置,确定所述目标对象相对于所述图像采集系统的方位信息;和/或
将所述第一图像帧中的像素点分别与所述第二图像帧中的像素点进行匹配,得到像素点对;基于与所述像素点对对应的视差信息、所述主摄像头与所述辅摄像头的中心距以及所主摄像头的焦距,确定所述目标对象与所述图像采集系统的距离信息。
在确定上述方位信息时,需要用的图像帧的帧率较高,因此,这里使用主摄像头拍摄的第一图像帧来确定方位信息。在确定距离信息时,利用低帧率的额图像即可达到较高的深度信息检测精度。这里利用分频得到的第二同步信号能够降低辅摄像头的曝光频率,得到帧率较小的第二图像帧,再结合第一图像帧来确定上述距离信息,不仅能够降低对检测的方位信息和距离信息的准确度的影响,还可以减少需要处理的图像数量,提高检测效率,降低图像处理的压力,节省功耗和能源。
另外,图像处理设备104还可以具体利用如下步骤进一步实现基于所述第一图像帧和所述第二图像帧进行目标检测:
在所述辅摄像头为深度摄像头的情况下,基于目标对象在所述第一图像帧中的位置,确定所述目标对象相对于所述图像采集系统的方位信息;和/或
根据所述目标对象在所述第二图像帧中的目标像素点的深度信息确定所述目标对象与所述图像采集系统的距离信息。
在确定上述方位信息时,需要用的图像帧的帧率较高,因此,这里使用主摄像头拍摄的第一图像帧来确定方位信息。之后结合使用较低帧率的深度图像,即上述第二图像帧来确定距离信息,在不影响检测的方位信息和距离信息的准确度的情况下,可以减少需要处理的图像数量,提高检测效率,降低图像处理的压力,节省功耗。
上述,在基于目标对象在所述第一图像帧中的位置,确定所述目标对象相对于所述图像采集系统的方位信息时,可以确定目标对象归属的预设方位区域,其中,预设方位区域是预先对场景空间按照方位划分得到的,例如左前方、右前方、正前方。具体可以是:若对象A位于第一场景图像中的左侧,则确定对象相对于可穿戴设备的方位信息为左前方,若对象A位于第一场景图像中的右侧,则确定对象相对于可穿戴设备的方位信息为右前方,若对象A位于第一场景图像中的中部,则确定对象相对于可穿戴设备的方位信息为正前方。
总之,在进行目标检测时,用于确定检测目标的方位信息的第一图像帧的帧率要求较高,而用于确定检测目标的距离信息的第二图像帧的帧率要求较低,这里利用具有较高帧率的第一图像帧和具有较低帧率的第二图像帧来进行目标检测,能够在降低对目标检测精度的影响的前提下,减少需要处理的图像数量,从而能够提高检测效率,降低图像处理的压力,节省功耗。
在确定了上述检测目标相对所述图像采集系统的位置信息之后,基于确定的位置信息和预制地图等,能够生成导航路径,基于导航路径能够控制自动驾驶车辆的行驶。当然,基于上述位置信息还能实现其他的功能,例如能够为存在视力障碍的人进行导盲操作。本申请对位置信息的用途或者对具体目标检测的场景并不进行限定。
本申请还提供了一种可穿戴设备,如图4所示,可穿戴设备400包括上述任一实施例所述的图像采集系统401。
所述主摄像头包括可见光摄像头或红外摄像头,所述至少一个辅摄像头包括可见光摄像头或红外摄像头;或者所述主摄像头包括可见光摄像头或红外摄像头,所述至少一个辅摄像头包括深度摄像头。
在一些实施例中,上述可穿戴设备400还包括与所述图像采集系统分离设置的主机401,所述处理芯片设置于所述主机内;所述图像采集系统401通过信号传输线缆与所述主机402连接,和/或所述主机402设有与所述处理芯片连接的以下至少一项:定位模组、网络模组、用于检测工作状态和/或充电管理的微控单元、音频模组。
所述定位模组用于实现对可穿戴设备的定位,并将获取的可穿戴设备得位置信息传输给处理芯片。
所述网络模组用于将可穿戴设备的处理芯片连接到数据网络上,例如处理芯片利用网络模组将其得到的图像等信息传输给远端服务器。
所述微控单元用于检测可穿戴设备的工作状态、检测可穿戴设备的电量、控制可穿戴设备充电的通断等,并将其获取的工作状态信息,电量信息等传输给处理芯片。
所述音频模组用于向用户播放语音,例如,音频模组将处理芯片得到的对目标进行检测得到的检测结果等信息以语音的形式播放给用户。
对应于上述图像采集系统,本申请还公开了一种图像采集方法,用于上述任一实施例的图像采集系统。该方法中的步骤均能够被上述图像采集系统中的处理芯片完成,并且能够取得相同的有益效果,因此,对于重复的部分,这里不再赘述。
具体地,如图5所示,本申请实施例提供的图像采集方法可以包括如下步骤:
S510、向所述主摄像头发送所述第一同步信号,并获取所述主摄像头基于所述第一同步信号进行曝光控制而采集到的第一图像帧。
S520、向所述分频电路发送所述第一同步信号,以使所述分频电路对接收的所述第一同步信号进行分频处理和向所述辅摄像头传输分频处理得到的第二同步信号。
S530、获取所述辅摄像头基于所述第二同步信号进行曝光控制而采集到的第二图像帧。
在一些实施例中,上述图像采集方法还包括:基于所述第一图像帧和所述第二图像帧进行目标检测。
在一些实施例中,所述基于所述第一图像帧和所述第二图像帧进行目标检测,包括:
在所述辅摄像头为可见光摄像头或红外摄像头的情况下,基于目标对象在所述第一图像帧中的位置,确定所述目标对象相对于所述图像采集系统的方位信息;
将所述第一图像帧中的像素点分别与所述第二图像帧中的像素点进行匹配,得到像素点对;
基于所述像素点对中两个像素点之间的视差信息、所述主摄像头与所述辅摄像头的中心距以及所主摄像头的焦距,确定所述目标对象上各个点与所述图像采集系统的距离信息;
将所述方位信息和所述距离信息作为所述目标对象的检测结果信息。
在一些实施例中,所述基于所述第一图像帧和所述第二图像帧进行目标检测,包括:
在所述辅摄像头为深度摄像头的情况下,基于目标对象在所述第一图像帧中的位置,确定所述目标对象相对于所述图像采集系统的方位信息;
根据所述目标对象在所述第二图像帧中的目标像素点的深度信息确定所述目标对象与所述图像采集系统的距离信息息;
将所述方位信息和所述距离信息作为所述目标对象的检测结果信息。
上述实施例的图像采集系统或方法,利用分频电路,例如D触发器芯片即可完成不同帧率的同步曝光,更节省功耗,节省数据带宽,减轻处理器的压力,提高图像处理速度;同时系统复杂度低,开发周期短,分频电路简单、可靠,灵活,成本低。
可穿戴分离式的端设备,要求设备轻便,发热少,实时性强。一般辅摄像头,例如深度摄像头,结构光摄像头或TOF摄像头,其原理均是主动发光模式,在一定的距离要求下,功耗比较大,因此对于降低帧率非常必要,有利于降低系统热设计的处理难度,较少发热量,提高处理速度,和实时性。本申请公开的图像采集系统中,实现了主摄像头和辅摄像头按照不同帧率下曝光的同步性,降低了辅摄像头的功耗,减少辅摄像头的发热量,同时减少了图像处理的图像数量,提高了处理速度,增强实时性,能够较好的适用于上述可穿戴分离式的端设备。本申请实施例的系统简单、可靠、适用于分离式的多摄像头视频采集端设备,可穿戴式的多摄像头视频采集端设备等。
对应于上述图像采集方法,本申请还提供了一种图像采集装置,该装置包括的各个部件能够实现上述图像采集方法中的各个步骤,并能取得相同的有意效果,对于重复的内容这里不再赘述。该装置应用于上述实施例中的处理芯片,具体地,如图7所示,图像采集装置700可以包括:
第一图像获取模块710,用于向所述主摄像头发送所述第一同步信号,并获取所述主摄像头基于所述第一同步信号进行曝光控制而采集到的第一图像帧。
信号发送模块720,用于向所述分频电路发送所述第一同步信号,以使所述分频电路对接收的所述第一同步信号进行分频处理和向所述辅摄像头传输分频处理得到的第二同步信号。
第二图像获取模块730,获取所述辅摄像头基于所述第二同步信号进行曝光控制而采集到的第二图像帧。
在一些实施例中,上述图像采集装置还包括检测模块740,用于:
基于所述第一图像帧和所述第二图像帧进行目标检测。
在一些实施例中,所述检测模块740在基于所述第一图像帧和所述第二图像帧进行目标检测时,用于:
在所述辅摄像头为可见光摄像头或红外摄像头的情况下,基于目标对象在所述第一图像帧中的位置,确定所述目标对象相对于所述图像采集系统的方位信息;
将所述第一图像帧中的像素点分别与所述第二图像帧中的像素点进行匹配,得到像素点对;
基于所述像素点对中两个像素点之间的视差信息、所述主摄像头与所述辅摄像头的中心距以及所主摄像头的焦距,确定所述目标对象上各个点与所述图像采集系统的距离信息;
将所述方位信息和所述距离信息作为所述目标对象的检测结果信息。
在一些实施例中,所述检测模块740在基于所述第一图像帧和所述第二图像帧进行目标检测时,用于:
在所述辅摄像头为深度摄像头的情况下,基于目标对象在所述第一图像帧中的位置,确定所述目标对象相对于所述图像采集系统的方位信息;
根据所述目标对象在所述第二图像帧中的目标像素点的深度信息确定所述目标对象与所述图像采集系统的距离信息息;
将所述方位信息和所述距离信息作为所述目标对象的检测结果信息。
对应于图5中的图像采集方法,本申请实施例还提供了一种电子设备600,如图6所示,为本申请实施例提供的电子设备600结构示意图,包括:
处理器61、存储器62、和总线63;存储器62用于存储执行指令,包括内存621和外部存储器622;这里的内存621也称内存储器,用于暂时存放处理器61中的运算数据,以及与硬盘等外部存储器622交换的数据,处理器61通过内存621与外部存储器622进行数据交换,当电子设备600运行时,处理器61与存储器62之间通过总线63通信,使得处理器61执行以下指令:所述主摄像头用于根据第一同步信号进行曝光控制;所述分频电路用于获取第一同步信号,对所述第一同步信号进行分频处理,并向所述辅摄像头传输分频处理得到的第二同步信号;所述辅摄像头用于接收所述第二同步信号,以及按照所述第二同步信号进行曝光控制。
本申请实施例还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述方法实施例中所述的图像采集方法的步骤。其中,该存储介质可以是易失性或非易失的计算机可读取存储介质。
本申请实施例所提供的图像采集方法的计算机程序产品,包括存储了程序代码的计算机可读存储介质,所述程序代码包括的指令可用于执行上述方法实施例中所述的图像采集方法的步骤,具体可参见上述方法实施例,在此不再赘述。
本申请实施例还提供一种计算机程序,该计算机程序被处理器执行时实现前述实施例的任意一种方法。该计算机程序产品可以具体通过硬件、软件或其结合的方式实现。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统和装置的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的,可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元或部件可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
最后应说明的是:以上所述实施例,仅为本申请的具体实施方式,用以说明本申请的技术方案,而非对其限制,本申请的保护范围并不局限于此,尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本申请实施例技术方案的精神和范围,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应所述以权利要求的保护范围为准。

Claims (18)

1.一种图像采集系统,其特征在于,包括:主摄像头、至少一个辅摄像头、和分频电路;
所述主摄像头用于根据第一同步信号进行曝光控制;
所述分频电路用于获取第一同步信号,对所述第一同步信号进行分频处理,并向所述辅摄像头传输分频处理得到的第二同步信号;
所述辅摄像头用于接收所述第二同步信号,以及按照所述第二同步信号进行曝光控制。
2.根据权利要求1所述的图像采集系统,其特征在于,所述主摄像头包括同步信号输出端,所述分频电路包括输入端;
所述主摄像头通过所述同步信号输出端向所述分频电路的输入端传输所述第一同步信号。
3.根据权利要求1所述的图像采集系统,其特征在于,还包括处理芯片;所述处理芯片与所述主摄像头和所述辅摄像头连接;
所述主摄像头还用于将拍摄的第一图像帧传输至所述处理芯片;
所述辅摄像头还用于将拍摄的第二图像帧传输至所述处理芯片;
所述处理芯片用于基于所述第一图像帧和所述第二图像帧进行目标检测。
4.根据权利要求3所述的图像采集系统,其特征在于,所述处理芯片还用于向所述主摄像头传输所述第一同步信号;和/或
所述处理芯片还用于向所述分频电路传输所述第一同步信号。
5.根据权利要求1-4任一项所述的图像采集系统,其特征在于,所述主摄像头包括可见光摄像头或红外摄像头,所述至少一个辅摄像头包括以下至少之一:深度摄像头、可见光摄像头、红外摄像头。
6.根据权利要求3所述的图像采集系统,其特征在于,所述处理芯片用于按照如下方式进行目标检测:
在所述辅摄像头为可见光摄像头或红外摄像头的情况下,基于目标对象在所述第一图像帧中的位置,确定所述目标对象相对于所述图像采集系统的方位信息;和/或
将所述第一图像帧中的像素点分别与所述第二图像帧中的像素点进行匹配,得到像素点对;
基于与所述像素点对对应的视差信息、所述主摄像头与所述辅摄像头的中心距以及所主摄像头的焦距,确定所述目标对象与所述图像采集系统的距离信息。
7.根据权利要求3所述的图像采集系统,其特征在于,所述处理芯片用于按照如下方式进行目标检测:
在所述辅摄像头为深度摄像头的情况下,基于目标对象在所述第一图像帧中的位置,确定所述目标对象相对于所述图像采集系统的方位信息;和/或
根据所述目标对象在所述第二图像帧中的目标像素点的深度信息确定所述目标对象与所述图像采集系统的距离信息。
8.根据权利要求2~7任一所述的图像采集系统,其特征在于,所述分频电路为基于D触发器的二分频电路,所述D触发器的时钟信号端与所述主摄像头的同步信号输出端或所述处理芯片的同步信号输出端连接,所述D触发器的第一输出端连接到所述D触发器的D端;所述D触发器的第二输出端与所述辅摄像头的同步信号输入端连接;其中,所述第一输出端输出的信号与所述第二输出端输出的信号相位相反。
9.一种可穿戴设备,其特征在于,包括如权利要求1-8任一项所述的图像采集系统。
10.根据权利要求9所述的可穿戴设备,其特征在于,所述主摄像头包括可见光摄像头或红外摄像头,所述至少一个辅摄像头包括可见光摄像头或红外摄像头;或者
所述主摄像头包括可见光摄像头或红外摄像头,所述至少一个辅摄像头包括深度摄像头。
11.根据权利要求9或10所述的可穿戴设备,其特征在于,还包括与所述图像采集系统分离设置的主机,所述处理芯片设置于所述主机内;
所述图像采集系统通过信号传输线缆与所述主机连接,和/或
所述主机设有与所述处理芯片连接的以下至少一项:定位模组、网络模组、用于检测工作状态和/或充电管理的微控单元、音频模组。
12.一种图像采集方法,用于如权利要求1至8任一项所述的图像采集系统,其特征在于,包括:
向所述主摄像头发送所述第一同步信号,并获取所述主摄像头基于所述第一同步信号进行曝光控制而采集到的第一图像帧;
向所述分频电路发送所述第一同步信号,以使所述分频电路对接收的所述第一同步信号进行分频处理和向所述辅摄像头传输分频处理得到的第二同步信号;
获取所述辅摄像头基于所述第二同步信号进行曝光控制而采集到的第二图像帧。
13.根据权利要求12所述的图像采集方法,其特征在于,还包括:基于所述第一图像帧和所述第二图像帧进行目标检测。
14.根据权利要求13所述的图像采集方法,其特征在于,所述基于所述第一图像帧和所述第二图像帧进行目标检测,包括:
在所述辅摄像头为可见光摄像头或红外摄像头的情况下,基于目标对象在所述第一图像帧中的位置,确定所述目标对象相对于所述图像采集系统的方位信息;
将所述第一图像帧中的像素点分别与所述第二图像帧中的像素点进行匹配,得到像素点对;
基于所述像素点对中两个像素点之间的视差信息、所述主摄像头与所述辅摄像头的中心距以及所主摄像头的焦距,确定所述目标对象上各个点与所述图像采集系统的距离信息;
将所述方位信息和所述距离信息作为所述目标对象的检测结果信息。
15.根据权利要求13所述的图像采集方法,其特征在于,所述基于所述第一图像帧和所述第二图像帧进行目标检测,包括:
在所述辅摄像头为深度摄像头的情况下,基于目标对象在所述第一图像帧中的位置,确定所述目标对象相对于所述图像采集系统的方位信息;
根据所述目标对象在所述第二图像帧中的目标像素点的深度信息确定所述目标对象与所述图像采集系统的距离信息息;
将所述方位信息和所述距离信息作为所述目标对象的检测结果信息。
16.一种图像采集装置,其特征在于,包括:
第一图像获取模块,用于向主摄像头发送第一同步信号,并获取所述主摄像头基于所述第一同步信号进行曝光控制而采集到的第一图像帧;
信号发送模块,用于向分频电路发送所述第一同步信号,以使所述分频电路对接收的所述第一同步信号进行分频处理和向辅摄像头传输分频处理得到的第二同步信号;
第二图像获取模块,获取所述辅摄像头基于所述第二同步信号进行曝光控制而采集到的第二图像帧。
17.一种电子设备,其特征在于,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述处理器与所述存储器之间通过总线通信,所述机器可读指令被所述处理器执行时执行如权利要求12至15任一项所述的图像采集方法的步骤。
18.一种计算机可读存储介质,其特征在于,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行如权利要求12至15任一项所述的图像采集方法的步骤。
CN202011062858.2A 2020-09-30 2020-09-30 图像采集系统、方法、装置、电子设备及可穿戴设备 Active CN112153306B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011062858.2A CN112153306B (zh) 2020-09-30 2020-09-30 图像采集系统、方法、装置、电子设备及可穿戴设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011062858.2A CN112153306B (zh) 2020-09-30 2020-09-30 图像采集系统、方法、装置、电子设备及可穿戴设备

Publications (2)

Publication Number Publication Date
CN112153306A CN112153306A (zh) 2020-12-29
CN112153306B true CN112153306B (zh) 2022-02-25

Family

ID=73951648

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011062858.2A Active CN112153306B (zh) 2020-09-30 2020-09-30 图像采集系统、方法、装置、电子设备及可穿戴设备

Country Status (1)

Country Link
CN (1) CN112153306B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112954272B (zh) * 2021-01-29 2023-10-24 上海商汤临港智能科技有限公司 相机模组、数据传输方法及装置、存储介质和车辆
CN112954231A (zh) * 2021-03-26 2021-06-11 上海商汤临港智能科技有限公司 视频采集设备、车辆、车舱检测及同步曝光方法
CN115623312A (zh) * 2021-06-28 2023-01-17 华为技术有限公司 拍摄方法、装置、设备及存储介质
CN114785940B (zh) * 2022-03-29 2024-04-05 海信视像科技股份有限公司 图像采集设备及同步采集控制方法
CN115242978B (zh) * 2022-07-21 2023-05-26 杭州萤石软件有限公司 图像采集设备及方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104270567A (zh) * 2014-09-11 2015-01-07 深圳市南航电子工业有限公司 高精度同步的多路图像采集系统及其时间同步方法
CN108876835A (zh) * 2018-03-28 2018-11-23 北京旷视科技有限公司 深度信息检测方法、装置和系统及存储介质
CN110121031A (zh) * 2019-06-11 2019-08-13 Oppo广东移动通信有限公司 图像采集方法和装置、电子设备、计算机可读存储介质
CN110611765A (zh) * 2019-08-01 2019-12-24 深圳市道通智能航空技术有限公司 一种相机成像方法、相机系统及无人机
CN111556226A (zh) * 2020-07-13 2020-08-18 深圳市智绘科技有限公司 一种相机系统

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4724478B2 (ja) * 2005-06-21 2011-07-13 株式会社リコー 撮像装置、撮像制御方法およびコンピュータ読取り可能の記録媒体
CN104902167A (zh) * 2015-03-10 2015-09-09 华中科技大学 一种高速图像采集处理系统
JP2016197795A (ja) * 2015-04-03 2016-11-24 日立オートモティブシステムズ株式会社 撮像装置
US9779777B2 (en) * 2015-12-16 2017-10-03 Gopro, Inc. Synchronization of frame rate to a detected cadence in a time lapse image sequence using sampling
US20190320102A1 (en) * 2018-04-13 2019-10-17 Qualcomm Incorporated Power reduction for dual camera synchronization
EP3914997A4 (en) * 2019-01-25 2022-10-12 Magic Leap, Inc. OCULOMETRY USING IMAGES WITH DIFFERENT EXPOSURE TIMES

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104270567A (zh) * 2014-09-11 2015-01-07 深圳市南航电子工业有限公司 高精度同步的多路图像采集系统及其时间同步方法
CN108876835A (zh) * 2018-03-28 2018-11-23 北京旷视科技有限公司 深度信息检测方法、装置和系统及存储介质
CN110121031A (zh) * 2019-06-11 2019-08-13 Oppo广东移动通信有限公司 图像采集方法和装置、电子设备、计算机可读存储介质
CN110611765A (zh) * 2019-08-01 2019-12-24 深圳市道通智能航空技术有限公司 一种相机成像方法、相机系统及无人机
CN111556226A (zh) * 2020-07-13 2020-08-18 深圳市智绘科技有限公司 一种相机系统

Also Published As

Publication number Publication date
CN112153306A (zh) 2020-12-29

Similar Documents

Publication Publication Date Title
CN112153306B (zh) 图像采集系统、方法、装置、电子设备及可穿戴设备
US12002239B2 (en) Data processing method and device used in virtual scenario
CN105339841B (zh) 双镜头设备的拍照方法及双镜头设备
US10740431B2 (en) Apparatus and method of five dimensional (5D) video stabilization with camera and gyroscope fusion
CN110310326B (zh) 一种视觉定位数据处理方法、装置、终端及计算机可读存储介质
CN110866977B (zh) 增强现实处理方法及装置、系统、存储介质和电子设备
CN110674918B (zh) 信息处理方法、设备、系统及存储介质
US11423510B2 (en) System and method for providing dolly zoom view synthesis
TWI668670B (zh) 深度圖產生裝置
CN114627249B (zh) 三维扫描系统及三维扫描方法
CN112994980B (zh) 时延测试方法、装置、电子设备和存储介质
CN116468917A (zh) 图像处理方法、电子设备及存储介质
CN110192391B (zh) 一种处理的方法及设备
CN113793420B (zh) 深度信息处理方法、装置、电子设备及存储介质
CN109121194B (zh) 用于电子设备的状态转换的方法和装置
CN113411499B (zh) 一种图像融合方法、装置、存储介质及电子装置
CN113362243B (zh) 模型训练方法、图像处理方法及装置、介质和电子设备
US10832425B2 (en) Image registration method and apparatus for terminal, and terminal
CN112750157B (zh) 一种深度图像生成方法及装置
CN103791832A (zh) 双目立体视觉多线程跟踪定位方法
CN110599602B (zh) 一种ar模型的训练方法、装置、电子设备及存储介质
CN114119696A (zh) 深度图像的获取方法及装置、系统、计算机可读存储介质
CN106408506A (zh) 一种图像采集平台、fmc子卡及图像处理系统
CN112446846A (zh) 融合帧获得方法、装置、slam系统以及存储介质
CN111757005A (zh) 拍摄控制方法及装置、计算机可读介质和电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant