CN115442408B - 图像数据的传输处理方法、装置、介质以及电子设备 - Google Patents
图像数据的传输处理方法、装置、介质以及电子设备 Download PDFInfo
- Publication number
- CN115442408B CN115442408B CN202211111124.8A CN202211111124A CN115442408B CN 115442408 B CN115442408 B CN 115442408B CN 202211111124 A CN202211111124 A CN 202211111124A CN 115442408 B CN115442408 B CN 115442408B
- Authority
- CN
- China
- Prior art keywords
- cameras
- transmission
- image data
- time
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000005540 biological transmission Effects 0.000 title claims abstract description 599
- 238000003672 processing method Methods 0.000 title claims abstract description 26
- 238000000034 method Methods 0.000 claims abstract description 84
- 230000003139 buffering effect Effects 0.000 claims description 57
- 238000001208 nuclear magnetic resonance pulse sequence Methods 0.000 claims description 34
- 238000012545 processing Methods 0.000 claims description 22
- 230000008859 change Effects 0.000 claims description 16
- 238000004891 communication Methods 0.000 claims description 12
- 230000008569 process Effects 0.000 claims description 12
- 230000007613 environmental effect Effects 0.000 claims description 10
- 238000004590 computer program Methods 0.000 claims description 8
- 238000012544 monitoring process Methods 0.000 claims description 6
- 230000001960 triggered effect Effects 0.000 claims description 5
- 230000004927 fusion Effects 0.000 claims description 4
- 230000004044 response Effects 0.000 claims description 4
- 230000001131 transforming effect Effects 0.000 claims description 4
- 230000009466 transformation Effects 0.000 claims description 3
- 230000000875 corresponding effect Effects 0.000 description 21
- 238000010586 diagram Methods 0.000 description 9
- 238000001514 detection method Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 230000008901 benefit Effects 0.000 description 5
- 230000001186 cumulative effect Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000008447 perception Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 238000007792 addition Methods 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000003796 beauty Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 238000003759 clinical diagnosis Methods 0.000 description 1
- 239000003245 coal Substances 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 230000025518 detection of mechanical stimulus involved in sensory perception of wind Effects 0.000 description 1
- 238000002059 diagnostic imaging Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000010248 power generation Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000011897 real-time detection Methods 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 230000011664 signaling Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000016776 visual perception Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/12—Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/104—Peer-to-peer [P2P] networks
- H04L67/1074—Peer-to-peer [P2P] networks for supporting data block transmission mechanisms
- H04L67/1078—Resource delivery mechanisms
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Studio Devices (AREA)
Abstract
公开了一种图像数据的传输处理方法、装置、介质以及电子设备,方法包括:从n个相机中确定出m个相机组,确定m个相机组的第一传输时间,每个相机组包括n‑1个相机,第一传输时间为相机组中的n‑1个相机的图像传输时间之和;将各第一传输时间中的最大值确定为最大传输时间,将各图像缓存时间中的最小值确定为最小缓存时间;基于最大传输时间和最小缓存时间,确定传输带宽是否满足n个相机的图像数据传输需求;当传输带宽不满足图像数据传输需求时,生成图像传输策略,图像传输策略包括以下至少一项:参数调整策略、n个相机分时传输图像数据时的传输次序;发送图像传输策略,以便n个相机基于图像传输策略传输图像数据。
Description
技术领域
本公开涉及数据处理技术,尤其是涉及一种图像数据的传输处理方法、装置、介质以及电子设备。
背景技术
在自动驾驶领域中,作为识别周边环境的“感官”角色,视觉感知是整个自动驾驶系统中的重要环节。为了更全面地感知车辆的外部环境,需要多个相机对多个角度进行协调拍摄,然后将拍摄得到的图像传输至车辆的自动驾驶域控制器(Automated-drivingControl Unit,ACU)。在这个过程中,多台相机协调拍摄时产生的图像数据对传输带宽是一个巨大考验,当传输带宽不能满足图像数据的传输需求时,可能会导致数据堵塞,进而导致图像数据的传输具有较大的延时,从而无法实现对多个相机的图像数据的实时传输。
发明内容
为了解决上述技术问题,提出了本公开。本公开的实施例提供了一种图像数据的传输处理方法、装置、介质以及电子设备。
根据本公开实施例的一个方面,提供一种图像数据的传输处理方法,包括:从需要协同拍摄的n个相机中确定出m个相机组,并确定m个相机组的第一传输时间,每个相机组包括n-1个相机,其中,n、m均为大于1的正整数,第一传输时间为相机组中包括的n-1个相机的图像传输时间之和,图像传输时间表征相机传输片内存储的全部图像数据所需的时间;将m个第一传输时间中的最大值确定为最大传输时间,将n个相机中的各相机的图像缓存时间中的最小值确定为最小缓存时间,图像缓存时间表征相机存满片内存储所需的时间;基于最大传输时间和最小缓存时间,确定传输带宽是否满足n个相机的图像数据传输需求;当传输带宽不满足图像数据传输需求时,生成图像传输策略,图像传输策略用于使传输带宽满足图像数据传输需求;其中,图像传输策略包括以下至少一项:参数调整策略、n个相机分时传输图像数据时的传输次序;向n个相机发送图像传输策略,以便n个相机基于图像传输策略传输图像数据。
在一些实施例中,当传输带宽不满足图像数据传输需求时,生成图像传输策略,包括:当传输带宽不满足图像数据传输需求时,确定n个相机中的一个或多个相机的参数调整方式,得到参数调整策略;确定n个相机分时传输图像数据时的传输次序;基于参数调整策略和n个相机分时传输图像数据时的传输次序,生成图像传输策略;在向n个相机发送图像传输策略之前,该方法还包括:向n个相机发送时间同步指令,以指示n个相机执行时间同步操作。
在一些实施例中,当传输带宽不满足图像数据传输需求时,生成图像传输策略,包括:当传输带宽不满足图像数据传输需求时,从第一相机集合中确定出一个待调整相机,第一相机集合中的相机为n个相机中未确定参数调整方式的相机;基于待调整相机的图像分辨率和/或帧率,确定待调整相机的参数调整方式,并将待调整相机从第一相机集合添加至第二相机集合,待调整相机的参数调整方式包括以下至少一项:图像分辨率的调整方式、帧率的调整方式;第二相机集合中的相机为n个相机中已确定参数调整方式的相机;基于待调整相机的参数调整方式,更新图像数据传输需求;迭代执行确定待调整相机的操作、确定待调整相机的参数调整方式的操作、更新图像数据传输需求的操作,直至传输带宽满足更新后的图像数据传输需求或第一相机集合为空;基于第二相机集合中的各个相机的参数调整方式,确定参数调整策略;当传输带宽满足更新后的图像数据传输需求时,基于参数调整策略,生成图像传输策略。
在一些实施例中,当传输带宽不满足图像数据传输需求时,生成图像传输策略,还包括:当传输带宽不满足更新后的图像数据传输需求时,确定n个相机分时传输图像数据时的传输次序;基于参数调整策略和n个相机分时传输图像数据时的传输次序,生成图像传输策略;在向n个相机发送图像传输策略之前,该方法还包括:向n个相机发送时间同步指令,以指示n个相机执行时间同步操作。
在一些实施例中,确定m个相机组的第一传输时间之前,该方法还包括:获取所述n个相机中的各相机的片内存储容量、图像分辨率和帧率;基于n个相机中的各相机的片内存储容量、图像分辨率和帧率,确定n个相机中的各相机的图像缓存时间;基于n个相机中的各相机的片内存储容量和传输带宽,确定n个相机中的各相机的图像传输时间;基于最大传输时间和最小缓存时间,确定传输带宽是否满足n个相机的图像数据传输需求,包括:若最小缓存时间小于最大传输时间,确定传输带宽不满足图像数据传输需求;若最小缓存时间不小于最大传输时间,确定传输带宽满足图像数据传输需求。
在一些实施例中,获取n个相机中的各相机的片内存储容量、图像分辨率和帧率,包括:响应于预设条件被触发,获取n个相机中的各相机的片内存储容量、图像分辨率和帧率,预设条件至少包括以下之一:检测到n个相机中的一个或多个相机的标识信息变化、n个相机中的一个或多个相机的位置信息发生变化、n个相机的相机数量发生变化。
在一些实施例中,当传输带宽不满足图像数据传输需求时,生成图像传输策略,还包括:当传输带宽不满足图像数据传输需求时,确定n个相机中的一个或多个相机的参数调整方式,以使最小缓存时间不小于最大传输时间,得到参数调整策略;基于参数调整策略和n个相机分时传输图像数据时的传输次序,生成图像传输策略;在向n个相机发送图像传输策略之前,该方法还包括:向n个相机发送时间同步指令,以指示n个相机执行时间同步操作。
在一些实施例中,当传输带宽不满足图像数据传输需求时,确定n个相机中的一个或多个相机的参数调整方式,以使最小缓存时间不小于最大传输时间,得到参数调整策略,包括:基于预设的n个相机的第一优先级,将第一优先级最低的一个或多个相机的图像分辨率和/或帧率降低,得到第一优先级最低的一个或多个相机的参数调整方式,并将该一个或多个相机的第一优先级调整至最高;基于第一优先级最低的一个或多个相机的降低后的图像分辨率和/或帧率,更新最小缓存时间和最大传输时间;迭代执行降低第一优先级最低的相机的图像分辨率和/或帧率的操作、调整第一优先级的操作、更新最小缓存时间和最大传输时间的操作,直至最小缓存时间不小于最大传输时间;基于n个相机中的一个或多个相机的参数调整方式,确定参数调整策略。
在一些实施例中,该方法还包括:当最小缓存时间不小于最大传输时间时,确定n个相机分时传输图像数据时的传输次序;基于n个相机分时传输图像数据时的传输次序,生成图像传输策略。
在一些实施例中,参数调整策略包括:按照预设方式,从每N帧图像中抽取预设数量帧图像的方式降低相机的帧率,其中,N的取值为大于0的整数,且N的取值基于n个相机的第二优先级确定。
在一些实施例中,确定n个相机分时传输图像时的传输次序,包括:获取n个相机当前的存储空间余量;基于n个相机当前的存储空间余量,确定n个相机的第三优先级;基于第三优先级,确定n个相机的传输次序。
在一些实施例中,图像数据为脉冲序列信号,该方法还包括获取脉冲序列信息的步骤:采集监测区域中各局部空间位置的时空信号,并对局部空间位置的时空信号按照时间进行累积,得到信号累积强度值;对信号累积强度值进行变换,在变换结果超过特定阈值时输出脉冲信号;将局部空间位置对应的脉冲信号按照时间先后排列成序列,得到表达局部空间位置信号及其变化过程的脉冲序列;将所有局部空间位置的脉冲序列或所有局部空间位置的脉冲序列组成的阵列确定为脉冲序列信号。
根据本公开实施例的又一个方面,提供一种用于自动驾驶的方法,其中,包括:利用上述任一实施例中的方法,获取车辆上协同拍摄的n个相机采集的图像数据;将n个相机采集的图像数据融合,得到融合后的图像数据;基于融合后的图像数据,确定车辆所处的环境信息和位姿信息;基于车辆所处的环境信息和位姿信息,确定自动驾驶策略。
根据本公开实施例的又一个方面,提供一种图像数据的传输处理装置,包括:传输时间单元,被配置成从需要协同拍摄的n个相机中确定出m个相机组,并确定m个相机组的第一传输时间,每个相机组包括n-1个相机,其中,n、m均为大于1的正整数,第一传输时间为相机组中包括的n-1个相机的图像传输时间之和,图像传输时间表征相机传输片内存储的全部图像数据所需的时间;极值确定单元,被配置成将m个第一传输时间中的最大值确定为最大传输时间,将n个相机中的各相机的图像缓存时间中的最小值确定为最小缓存时间,图像缓存时间表征相机存满片内存储所需的时间;需求确定单元,被配置成基于最大传输时间和最小缓存时间,确定传输带宽是否满足n个相机的图像数据传输需求;策略生成单元,被配置成当传输带宽不满足图像数据传输需求时,生成图像传输策略,图像传输策略用于使传输带宽满足图像数据传输需求;其中,图像传输策略包括以下至少一项:参数调整策略,n个相机分时传输图像数据时的传输次序;策略发送单元,被配置成向n个相机发送图像传输策略,以便n个相机基于图像传输策略传输图像数据。
根据本公开实施例的又一个方面,提供一种用于自动驾驶的装置,其中,包括:获取单元,被配置成利用上述任一实施例中的方法,获取车辆上预设的n个相机采集的图像数据;融合单元,被配置成将n个相机采集的图像数据融合,得到融合后的图像数据;感知单元,被配置成基于融合后的图像数据,确定车辆所处的环境信息和位姿信息;决策单元,被配置成基于车辆所处的环境信息和位姿信息,确定自动驾驶策略。
根据本公开实施例的再一方面,提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序用于实现上述方法。
根据本公开实施例的又一方面,提供了一种电子设备,该电子设备包括:处理器;用于存储所述处理器可执行指令的存储器;所述处理器,用于从所述存储器中读取所述可执行指令,并执行所述指令以实现上述方法。
基于本公开上述实施例提供的一种图像数据的传输处理方法、装置、介质以及电子设备,可以基于n个相机对应的最大传输时间和最小缓存时间,准确地判断传输带宽是否满足图像传输需求;当传输带宽不满足图像数据传输需求时,生成图像传输策略,以使传输带宽满足图像数据传输需求;然后,将图像传输策略发送至n个相机,以便n个相机按照图像传输策略传输图像数据。基于n个相机对应的最大传输时间和最小缓存时间判断传输带宽是否满足图像传输需求,可以更准确地判断传输带宽与图像传输需求之间的匹配关系;当传输带宽不满足图像传输需求时,通过图像传输策略可以对图像数据传输需求进行自适应调整,可以利用有限的传输带宽实现多个相机的图像数据的实时传输,以此避免数据堵塞,有助于提高协同拍摄时传输带宽的利用率和图像数据的时效性。
下面通过附图和实施例,对本公开的技术方案做进一步的详细描述。
附图说明
通过结合附图对本公开实施例进行更详细的描述,本公开的上述以及其他目的、特征以及优势将变得更加明显。附图用来提供对本公开实施例的进一步的理解,并且构成说明书的一部分,与本公开实施例一起用于解释本公开,并不构成对本公开的限制。在附图中,相同的参考标号通常代表相同部件或步骤:
图1是本公开的图像数据的传输处理方法的一个场景示意图;
图2为本公开的图像数据的传输处理方法的一个实施例的流程示意图;
图3为本公开的图像数据的传输处理方法的又一个实施例的流程示意图;
图4为本公开的图像数据的传输处理方法的一个实施例中生成图像传输策略的流程示意图;
图5为本公开的图像数据的传输处理方法的一个实施例中确定传输带宽是否满足图像数据传输需求的流程示意图;
图6为本公开的图像数据的传输处理方法的一个实施例中生成参数调整策略的流程示意图;
图7为本公开的图像数据的传输处理方法的一个实施例中获取图像数据的流程示意图;
图8为本公开的一种用于自动驾驶的方法所适用的一个系统架构的示意图;
图9为本公开的一种用于自动驾驶的方法的一个实施例的流程图;
图10为本公开的图像数据的传输处理装置的一个实施例的结构示意图;
图11为本公开的一种用于自动驾驶的装置的一个实施例的结构示意图;
图12为本公开一示例性实施例提供的电子设备的结构图;
图13为本公开一实施例提供的一种脉冲相机的结构示意图。
具体实施方式
下面将参考附图详细地描述根据本公开的示例实施例。显然,所描述的实施例仅仅是本公开的一部分实施例,而不是本公开的全部实施例,应理解,本公开不受这里描述的示例实施例的限制。
应注意到:除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。
本领域技术人员可以理解,本公开实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等,既不代表任何特定技术含义,也不表示它们之间的必然逻辑顺序。
还应理解,在本公开实施例中,“多个”可以指两个或两个以上,“至少一个”可以指一个、两个或两个以上。
还应理解,对于本公开实施例中提及的任一部件、数据或结构,在没有明确限定或者在前后文给出相反启示的情况下,一般可以理解为一个或多个。
另外,本公开中术语“和/或”,仅是一种描述关联对象的关联关系,表示可以存在三种关系,如A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本公开中字符“/”,一般表示前后关联对象是一种“或”的关系。
还应理解,本公开对各个实施例的描述着重强调各个实施例之间的不同之处,其相同或相似之处可以相互参考,为了简洁,不再一一赘述。
同时,应当明白,为了便于描述,附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本公开及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为说明书的一部分。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。
本公开的实施例可以应用于终端设备、计算机系统、服务器等电子设备,其可与众多其它通用或者专用计算系统环境或配置一起操作。适于与终端设备、计算机系统或者服务器等电子设备一起使用的众所周知的终端设备、计算系统、环境和/或配置的例子包括但不限于:个人计算机系统、服务器计算机系统、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的系统、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机系统、大型计算机系统和包括上述任何系统的分布式云计算技术环境等等。
终端设备、计算机系统、服务器等电子设备可以在由计算机系统执行的计算机系统可执行指令(诸如程序模块)的一般语境下描述。通常,程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等,它们执行特定的任务或者实现特定的抽象数据类型。计算机系统/服务器可以在分布式云计算环境中实施。在分布式云计算环境中,任务可以是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中,程序模块可以位于包括存储设备的本地或远程计算系统存储介质上。
下面结合图1对本公开的图像数据的传输处理方法进行示例性说明。图1为本公开的图像数据的传输处理方法的一个场景示意图,在图1所示的自动驾驶场景中,车辆内置有自动驾驶域控制器100(ACU-Automated-driving Control Unit,ACU),车身上分布设置有协同拍摄的相机110、相机120、相机130。三个相机可以分别采集不同区域的图像数据,并将采集到的图像数据传输到自动驾驶域控制器100,以便自动驾驶域控制器100根据协同拍摄得到的图像数据感知车辆所处的环境信息和位置信息,进而根据感知结果确定自动驾驶策略或辅助驾驶策略。
本公开的图像数据的传输处理方法运行于自动驾驶域控制器100上。当车辆启动时,自动驾驶域控制器100可以指示各个相机将中的各相机的片内存储容量、图像分辨率和帧率上传至自动驾驶域控制器100,以便自动驾驶域控制器100确定各个相机的图像传输时间和图像缓存时间,并采用排列组合的方式确定出3个第一传输时间,进而确定出最大传输时间和最小缓存时间,并根据最大传输时间和最小缓存时间判断传输带宽是否满足图像数据传输需求。当传输带宽不满足图像数据传输需求时,自动驾驶域控制器100可以生成图像传输策略,例如可以包括参数调整策略和/或各个相机分时传输图像数据时的传输次序,以降低各个相机的图像数据传输需求,使得传输带宽满足降低后的图像数据传输需求。之后,自动驾驶域控制器100将图像传输策略下发至各个相机,以便各个相机按照图像传输策略向自动驾驶域控制器100上传采集的图像数据。再之后,自动驾驶域控制器100可以对各个相机上传的图像数据进行识别或感知处理,以生成自动驾驶策略。
图2为本公开的图像数据的传输处理方法一个实施例的流程图。如图2所示,该流程包括以下步骤。
步骤210、从需要协同拍摄的n个相机中确定出m个相机组,并确定m个相机组的第一传输时间。
其中,每个相机组包括n-1个相机,n、m均为大于1的正整数,第一传输时间为相机组中包括的n-1个相机的图像传输时间之和,图像传输时间表征相机传输片内存储的全部图像数据所需的时间。
实践中,多个相机的协同拍摄可以应用在各个场景,例如分布于大型场景中的多个监控摄像头,每个摄像头用于采集局部区域的图像数据;再例如,车辆的360°全景摄像系统,可以通过多个车载摄像头采集不同方位的图像。
在本实施例中,需要协同拍摄的n个相机可以为同一种类型的相机,也可以包括多种类型的相机,例如红外相机、高清摄像头、高速相机等,可以根据实际应用场景选择匹配的相机。
以自动驾驶场景为例,可以采用多个脉冲相机作为上述n个相机进行协同拍摄。通常,脉冲相机可以包括:前端传感器和FPGA/ASIC电路。前端传感器通过将光强转换为脉冲数据,FPGA/ASIC电路包括脉冲接收模块、图像重构模块、图像缓存模块、时间同步模块、图像通信模块。模组接收模块用于采集前端传感器输出的脉冲数据,图像重构模块用于将脉冲数据重构成图像数据,图像缓存模块用于缓存重构的图像数据,时间同步模块用于脉冲相机之间时间同步以及外部图像处理单元时间同步,图像通信模块用于脉冲相机与外部图像处理单元图像传输工作。通过脉冲相机的超高速连续成像,可以通过协同拍摄获取高速运动物体的图像数据,有助于提高自动驾驶的安全性。
在本实施例中,协同拍摄的n个相机传输图像数据时,部分(例如可以是1个)相机处于图像缓存阶段,其余相机(例如可以是n-1个)则依次传输图像数据。当1个相机传输完成后,该相机进入图像缓存阶段,其余相机则继续依次传输图像数据。因而,可通过对比图像传输时间与图像缓存时间确定传输带宽是否满足图像数据传输需求。m的取值可以根据相机数量n以及实际需求、经验数据或实验数据进行设定,优选的,m的取值可以等于n。
在本实施例的一个可选的实施方式中,可以采用排列组合的方式从n个相机中确定出m个相机组。作为示例,用于协同拍摄的相机包括相机0、相机1和相机2,其图像传输时间分别为1ms、2ms和3ms,即n=3。假设m=n,执行主体可以确定出3个相机组,分别为:相机0和相机1;相机1和相机2;相机0和相机2,其第一传输时间分别为3ms,5ms和4ms。
步骤220、将m个第一传输时间中的最大值确定为最大传输时间,将n个相机中的各相机的图像缓存时间中的最小值确定为最小缓存时间。
其中,图像缓存时间表征相机存满片内存储所需的时间。
继续结合步骤210中的示例进行说明,最大传输时间为第一传输时间中的最大值4ms。假设相机0、相机1和相机2的图像缓存时间依次为1.5ms、2ms和4ms,则最小缓存时间为1.5ms。
步骤230、基于最大传输时间和最小缓存时间,确定传输带宽是否满足n个相机的图像数据传输需求。
在本实施例中,图像数据传输需求可以表示在n个相机在一个数据传输周期内传输图像数据所需要满足的条件。
最大传输时间表示一个数据传输周期内任意n-1个相机传输图像所需的最大时间,最小缓存时间表示n个相机中的各个相机存满片内存储存满所需时间的最小值。作为示例,当最大传输时间与最小缓存时间的比值不小于预设比例阈值时,确定传输带宽满足传输需求,当最大传输时间与最小缓存时间的比值小于预设比例阈值时,确定传输带宽不满足传输需求。比例阈值可以根据实际需求或经验设定为大于或等于1的任意数值。优选的,可以将比例阈值设置为大于1的数值,使得传输带宽相对于图像传输需求保持一定的余量,避免因意外情况导致的数据突增,有助于提高传输图像数据的可靠性。
再例如,当最大传输时间与最小缓存时间的差值不小于预设的差值阈值时,确定传输带宽满足图像传输需求;当最大传输时间与最小缓存时间的差值小于预设的差值阈值时,确定传输带宽不满足图像传输需求。差值阈值可以根据实际需求或经验设定为任意大于或等于0的数值。
步骤240、当传输带宽不满足图像数据传输需求时,生成图像传输策略。
其中,图像传输策略用于使传输带宽满足n个相机的图像数据传输需求,图像传输策略包括以下至少一项:参数调整策略、n个相机分时传输图像数据时的传输次序。
在本实施例中,图像传输策略用于自适应调节n个相机的图像数据传输需求,以使传输带宽满足图像数据传输需求。其中,参数调整策略用于指示相机调整自身的图像参数,例如图像分辨率、帧率。分时传输图像数据则用于指示n个相机串行传输图像数据,与并行传输图像数据相比,分时传输图像数据对于传输带宽的需求更低,因而可以降低图像数据传输需求。
在本实施例中,图像传输策略可以通过以下三种方式对图像数据传输需求进行自适应调节:通过参数调整策略指示相机调整自身的图像参数,例如可以降低图像分辨率和/或降低帧率,以降低图像数据量的获取速度,进而降低图像数据的传输需求;采用n个相机分时传输图像数据的方式,降低图像数据传输需求;通过参数调整策略指示相机调整自身的图像参数,并采用分时传输的方式。
在本实施例的一些可选的实施方式中,不同的相机可以采用不同的参数调整方式,例如n个相机中的部分相机可以对图像分辨率进行调整,另外部分相机可以对帧率进行调整,还有部分相机可以同时对图像分辨率和帧率进行调整。
进一步的,采用同一种参数调整方式的多个相机可以采用不同的调整幅度,例如相机a和相机b均是对帧率进行调整,其中相机a可以将帧率降低10%,相机b可以将帧率降低20%。再例如,相机a和相机b均是对帧率进行调整,相机a可以采用均匀抽取图像帧的方式降低帧率,相机b可以采用随机抽取图像帧的方式降低帧率。
步骤250、向n个相机发送图像传输策略,以便n个相机基于图像传输策略传输图像数据。
本实施例提供的图像数据的传输处理方法,基于n个相机对应的最大传输时间和最小缓存时间,可以准确地判断传输带宽是否满足图像传输需求;当传输带宽不满足图像传输需求时;当传输带宽不满足图像数据传输需求时,生成图像传输策略,以使传输带宽满足图像数据传输需求;然后,将图像传输策略发送至n个相机,以便n个相机按照图像传输策略传输图像数据。通过图像传输策略可以对图像数据传输需求进行自适应调整,可以利用有限的传输带宽实现多个相机的图像数据传输,以此避免数据堵塞,有助于提高协同拍摄时传输带宽的利用率和图像数据的时效性。
接着参考图3,图3示出了本公开的图像数据的传输处理方法的又一个实施例的流程图,如图3所示,上述步骤240可以进一步包括以下步骤。
步骤310、当传输带宽不满足图像数据传输需求时,确定n个相机中的一个或多个相机的参数调整方式,得到参数调整策略。
在本实施例中,参数调整方式表示单个相机调整自身图像参数的方式,例如可以包括图像分辨率和/或帧率的调整方式。
步骤320、确定n个相机分时传输图像数据时的传输次序。
作为示例,执行主体可以根据预设的优先级确定n个相机的传输次序,优先级越高,传输次序越靠前。
再例如,执行主体还可以根据相机片内存储的存储状态确定传输次序,片内存储的剩余空间越小,传输次序越靠前。
步骤330、基于参数调整策略和n个相机分时传输图像数据时的传输次序,生成图像传输策略。
作为示例,执行主体可以根据片内存储容量和传输带宽,确定各相机所需的传输时间,再结合传输次序确定各个相机传输图像数据的起始时刻和终止时刻。然后执行主体可以建立相机标识与起始时刻、终止时刻、参数调整方式的对应关系,作为图像传输策略。例如,n的取值为3,相机标识可以是相机的编号:001、002和003,则图像传输策略可以包括以下内容:相机001的参数调整方式为将图像分辨率调整至400×800,起始时刻为0ms,终止时刻为0.4ms;相机002的参数调整方式为将图像分辨率调整至400×600、将帧率调整至10帧/秒,起始时刻为0.4ms,终止时刻为0.7ms;相机003的参数调方式略每隔5帧抽取1帧存入片内存储,起始时刻为0.7ms,终止时刻为1.0ms。如此一来,3个相机接收到图像传输策略之后,可以根据对应的参数调整策略调整对应的参数,并且,在[0,0.4)的时间区间内由相机001传输图像数据,在[0.4,0.7)的时间区间内由相机002传输图像数据,在[0.7,1.0]的时间区间内由相机003传输图像数据。
在另一个示例中,执行主体可以根据传输次序确定每个相机对应的下一个传输图像数据的相机,由此得到的图像传输策略可以包括相机标识与参数调整方式、下一个相机的相机标识的对应关系。每个相机传输图像数据完成时,可以向下一个相机发送传输指令,以便下一个相机开启图像数据传输,从而实现n个相机的分时传输。继续结合上述示例中的相机001、002、003进行说明,图像传输方式可以包括以下内容:相机001的参数调整方式为将图像分辨率调整至400×800,其对应的下一个相机未相机002;相机002的参数调整方式为将图像分辨率调整至400×600、将帧率调整至10帧/秒,其对应的下一个相机为相机003;相机003的参数调整策略每隔5帧抽取1帧存入片内存储,其对应的下一个相机为相机001。
步骤340、向n个相机发送时间同步指令,以指示n个相机执行时间同步操作。
在本实施例中,n个相机执行时间同步之后,再结合传输次序,可以实现n个相机的分时传输。
在一个具体的示例中,执行主体为图1所示的自动驾驶域控制器100,其中预设有时间同步模块,n个相机均为脉冲相机。执行主体向n个相机发送时间同步指令之后,n个相机中的时间同步模块分别与执行主体中的时间同步模块通信,以此实现n个相机的时间同步。
步骤350、向n个相机发送图像传输策略,以便n个相机基于图像传输策略传输图像数据。
在本实施例中,n个相机接收到图像传输策略之后,其中的一个或多个相机可以根据对应的参数调整方式对自身的图像参数进行调整,并按照传输次序进行分时传输,可以从图像参数和传输方式两个维度对图像数据传输需求进行自适应调节,可以进一步缓解传输带宽对图像数据传输的限制。
接着参考图4,图4示出了本公开的图像数据的传输处理方法的一个实施例中生成图像传输策略的流程图,如图4所示,上述步骤240可以进一步包括以下步骤。
步骤410、当传输带宽不满足图像数据传输需求时,从第一相机集合中确定出一个待调整相机。
其中,第一相机集合中的相机为n个相机中未确定参数调整方式的相机。
在本实施例中,执行主体可以根据是否确定参数调整方式,将n个相机分为第一相机集合和第二相机集合,每个集合中存储有对应相机的相机标识(例如可以是相机编号),之后可以根据后续步骤对两个集合中的相机进行动态调整。待调整相机表示当前需要确定参数调整方式的相机。
作为示例,执行主体确定传输带宽不满足图像数据传输需求时,可以从第一相机集合中随机选取一个相机作为待调整相机,也可以根据第一相机集合中各个相机的优先级,选取优先级最高或最低的相机作为待调整相机。
步骤420、基于待调整相机的图像分辨率和/或帧率,确定待调整相机的参数调整方式,并将待调整相机从第一相机集合添加至第二相机集合。
其中,待调整相机的参数调整方式包括以下至少一项:图像分辨率的调整方式、帧率的调整方式,第二相机集合中的相机为n个相机中已确定参数调整方式的相机。
作为示例,图像分辨率的调整方式可以是目标图像分辨率,以此指示相机将图像分辨率调整至目标分辨率;还可以图像分辨率的调整幅度,以此指示相机根据图像分辨率和调整幅度,对图像分辨率进行调整。帧率的调整方式可以是目标帧率,以此指示相机将帧率调整至目标帧率;还可以是帧率的调整幅度。
执行主体确定待调整相机的参数调整方式后,可以将待调整相机的相机标识从第一相机集合转移至第二相机集合,以此实现对第一相机集合和第二相机集合的动态更新。
步骤430、基于待调整相机的参数调整方式,更新图像数据传输需求。
在本实施例中,可以根据待调整相机的参数调整方式,确定待调整相机的调整后的图像参数,然后根据待调整相机的调整后的图像参数,重新计算n个相机的图像数据传输需求。
步骤440、迭代执行确定待调整相机的操作、确定待调整相机的参数调整方式的操作、更新图像数据传输需求的操作,直至传输带宽满足更新后的图像数据传输需求或第一相机集合为空。
在本实施例中,为了在满足图像数据传输需求的前提下,充分利用传输带宽,可以采用迭代执行步骤410至步骤430的方式,每确定一个相机的参数调整方式,就对图像数据传输需求进行一次更新和判断的操作。当传输带宽满足更新后的图像数据传输需求时,无需再对第一相机集合中的相机的图像参数进行调整,既可以保证传输带宽满足图像数据传输需求,又可以充分利用传输带宽。当第一相机集合为空时,表示n个相机均已确定参数调整方式。
步骤450、基于第二相机集合中的各个相机的参数调整方式,确定参数调整策略。
在本实施例中,执行主体可以确定相机与其参数调整方式的对应关系,从而得到参数调整策略。
步骤460、当传输带宽满足更新后的图像数据传输需求时,基于参数调整策略,生成图像传输策略。
作为示例,n的取值为5,经步骤410至步骤450之后,传输带宽满足更新后的图像数据传输需求,此时第二相机集合中包括相机a和相机b,则执行主体可以根据相机a和相机b的参数调整方式,生成图像传输策略。例如可以包括:相机a的参数调整方式是降低图像分辨率,相机b的参数调整方式是降低帧率。
在本实施例中,图像传输策略可以包括第二相机集合中的各个相机分别对应的参数调整方式,以便对应的相机可以根据其参数调整方式调整自身的图像参数。
图4所示的实施例体现了通过迭代方式逐个确定相机的参数调整方式,进而生成图像传输策略的步骤,一方面可以确保传输带宽满足图像数据传输需求,另一方面可以充分利用传输带宽,获取质量更高、数量更多的图像数据。
在本实施例的一些可选的实现方式中,当传输带宽不满足更新后的图像数据传输需求时,确定n个相机分时传输图像数据时的传输次序;基于参数调整策略和n个相机分时传输图像数据时的传输次序,生成图像传输策略;以及,在向n个相机发送图像传输策略之前,方法还包括:向n个相机发送时间同步指令,以指示n个相机执行时间同步操作。
在本实施方式中,当调整相机的图像参数不能使得传输带宽满足图像数据传输需求时,可以结合分时传输的方式,基于参数调整策略和传输次序生成图像传输策略,可以进一步缓解传输带宽对图像数据传输的限制。
在实施本公开的过程中,发明人还发现,相关技术中对于图像数据传输需求的计算方式不够准确,尤其是分时传输图像数据时,往往会造成传输带宽过剩,导致传输带宽的利用率较低。
为了解决上述问题,本公开的图像数据的传输处理方法的一个实施例可以采用图5所示的流程确定传输带宽是否满足图像数据传输需求,如图5所示,该流程包括以下步骤。
步骤510、获取n个相机中的各相机的片内存储容量、图像分辨率和帧率。
在本实施例中,片内存储容量表示相机本地存储空间的大小,通常用于缓存采集到的图像数据。图像分辨率表示相机采集和存储的图像的分辨率。帧率则表示相机单位时间内采集并存入片内存储空间的图像的帧数。
作为示例,执行主体首次获取需要协同拍摄的n个相机的参数时,可以向n个相机发送参数上传指令,以指示n个相机将中的各相机的片内存储容量、图像分辨率和帧率上传至执行主体。之后,执行主体可以将n个相机将各自的片内存储容量、图像分辨率和帧率存储在本地存储空间,后续应用时,只需从本地存储空间中调取数据即可。在本实施例的一些可选的实施方式中,步骤510可以进一步包括:响应于预设条件被触发,获取n个相机中的各相机的片内存储容量、图像分辨率和帧率,预设条件至少包括以下之一:检测到n个相机中的一个或多个相机的标识信息变化、n个相机中的一个或多个相机的位置信息发生变化、n个相机的相机数量发生变化。
在本实施方式中,预设条件被触发表示协同拍摄的多个相机发生变动,执行主体可以获取变动后的各个相机的参数,以通过后续步骤重新确定传输带宽是否满足图像数据传输需求,可以避免相机变动可能导致的图像数据无法正常传输,有助于提高协同拍摄的图像数据传输的可靠性。
步骤520、基于n个相机中的各相机的片内存储容量、图像分辨率和帧率,确定n个相机中的各相机的图像缓存时间。
其中,图像缓存时间表征相机存满片内存储所需的时间。
在本实施例中,执行主体可以首先基于图像分辨率和图像的色彩度确定单帧图像的数据量,然后基于单张图像的数据量与帧率,确定相机在单位时间内需要缓存的图像数据量,再根据片内存储容量与相机在单位时间内需要缓存的图像数据量,确定相机的图像缓存时间。
上述计算过程可以通过如下公式(1)、(2)实现:
Dp=Fps*PIC (1)
Ti=Gi/Dp (2)
其中,PIC为相机i采集的单帧图像的数据量,Fps为相机i的帧率,Dp为相机i在单位时间内需要缓存的数据量,Ti表示相机i的缓存时间,Gi表示相机i的片内存储容量。
步骤530、基于n个相机中的各相机的片内存储容量和传输带宽,确定n个相机中的各相机的图像传输时间。
图像传输时间表征相机传输片内存储的全部图像数据所需的时间。
在本实施例中,可以通过如下公式(3)确定相机的图像传输时间。
ti=Gi/B (3)
其中,ti表示相机i的图像传输时间,B表示传输带宽。
步骤540、从n个相机中确定出m个相机组,并确定m个相机组的第一传输时间。
其中,每个相机组包括n-1个相机,第一传输时间为相机组中包括的n-1个相机的图像传输时间之和。
步骤550、将m个第一传输时间中的最大值确定为最大传输时间,将n个相机中的各相机的图像缓存时间中的最小值确定为最小缓存时间。
需要说明的是,步骤540、步骤550与前述步骤210、步骤220相对应,此处不再赘述。
步骤560、若最小缓存时间小于最大传输时间,确定传输带宽不满足图像数据传输需求。
在本实施例中,若最小缓存时间小于最大传输时间,则最小缓存时间对应的相机将片内存储存满时,其余相机尚未完成图像传输,最小缓存时间对应的相机的片内存储的数据会溢出,此时可以确定传输带宽不满足图像传输需求,以免数据溢出导致的数据丢失。
步骤570、若最小缓存时间不小于最大传输时间,确定传输带宽满足图像数据传输需求。
图5所示的实施例体现了通过对比缓存时间与传输时间确定传输带宽是否满足图像数据传输需求的步骤,以此,可以更准确地判断传输带宽与图像数据传输需求之间的匹配关系,尤其适用于分时传输,有助于提高协同拍摄时图像数据传输的可靠性,并提高传输带宽的利用率。
在图5所示的实施例的基础上,还可以采用如下方式生成图像传输策略:当传输带宽不满足图像数据传输需求时,确定n个相机中的一个或多个相机的参数调整方式,以使最小缓存时间不小于最大传输时间,得到参数调整策略;基于参数调整策略和n个相机分时传输图像数据时的传输次序,生成图像传输策略。在向n个相机发送图像传输策略之前,方法还包括:向n个相机发送时间同步指令,以指示n个相机执行时间同步操作。
在本实施方式中,在对比缓存时间与传输时间确定传输带宽是否满足图像数据传输需求的基础上,将最小缓存时间和最大传输时间之间的关系作为约束,确定参数调整策略,进而结合传输次序确定图像传输策略,以便各个相机再调整自身的图像参数之后,按照传输次序进行图像数据的传输。通过分时传输可以在确保图像数据传输可行的前提下,获取低延时的图像数据。
在本实施例的一些可选的实现方式中,图5所示的实施例还可以进一步包括以下步骤:当最小缓存时间不小于最大传输时间时,确定n个相机分时传输图像数据时的传输次序;基于n个相机分时传输图像数据时的传输次序,生成图像传输策略。
如此一来,可以结合参数调整策略和传输次序,确定分时传输的图像传输策略,通过复用传输带宽,可以进一步提高传输带宽的利用率。
在图5的基础上进一步参考图6,图6示出了本公开的图像数据的传输处理方法的一个实施例中生成参数调整策略的流程图,如图6所示,该流程包括以下步骤。
步骤610、基于预设的n个相机的第一优先级,将第一优先级最低的一个或多个相机的图像分辨率和/或帧率降低,得到第一优先级最低的一个或多个相机的参数调整方式,并将该一个或多个相机的第一优先级调整至最高。
在本实施例中,第一优先级可以表示相机的重要程度,第一优先级越高,表示相机越重要,则优先确保该相机的图像数据的完整性。作为示例,第一优先级可以根据相机的位置或性能设定。
在一个具体的示例中,第一优先级由高到低的顺序为相机A、相机B、相机C,则执行主体首选确定相机C的参数调整方式,例如可以包括降低图像分辨率或降低帧率或同时降低帧率和图像分辨。然后将相机C的第一优先级调整至最高,更新后的第一优先级由高到低依次为相机C、相机A和相机B。
步骤620、基于第一优先级最低的一个或多个相机的降低后的图像分辨率和/或帧率,更新最小缓存时间和最大传输时间。
步骤630、迭代执行降低第一优先级最低的相机的图像分辨率和/或帧率的操作、调整第一优先级的操作、更新最小缓存时间和最大传输时间的操作,直至最小缓存时间不小于最大传输时间。
在本实施例中,可以通过迭代执行步骤610至步骤620,对图像数据传输需求进行自适应调整,直至最小缓存时间不小于最大传输时间,表示传输带宽满足自适应调整后的图像数据传输需求。
步骤640、基于n个相机中的一个或多个相机的参数调整方式,确定参数调整策略。
图6所示的实施例,体现了根据相机的优先级确定相机的参数调整方式,进而通过迭代的方式确定参数调整策略的步骤,可以保证优先级高的相机的图像数据的完整性,有助于提高协同拍摄获取的图像数据的整体质量。
在上述多个实施例的一些可选的实施方式中,参数调整策略可以包括:按照预设方式,从每N帧图像中抽取预设数量帧图像的方式降低相机的帧率,其中,N的取值为大于0的整数,且N的取值基于n个相机的第二优先级确定。
例如,可以从每N帧图像中随机抽取预设数量帧图像,预设数量可以是大于0且小于N的任意正整数。再例如,还可以从每N帧图像中抽取固定位置的图像帧,具体的,可以从每N帧图像中固定抽取第M(M的取值为1至N-1中的任意一个)帧图像,即均匀抽帧。其中,抽取出的图像帧可以存入相机的片内存储,也可以丢弃,并将剩余的图像帧存入片内存储。
在本实施方式中,第二优先级可以表示相机的重要程度。当抽取出的图像帧存入相机的片内存储时,优先级越高的相机,N的取值越接近0;当抽取出的图像帧被丢弃时,优先级越高的相机,N的取值越大。以此可以优先保证重要相机的图像数据的完整程度,并且可以确保图像数据的连续性。
在上述多个实施例的一些可选的实施方式中,还可以采用如下方式确定n个相机分时传输图像时的传输次序:获取n个相机当前的存储空间余量;基于n个相机当前的存储空间余量,确定n个相机的第三优先级;基于第三优先级,确定n个相机的传输次序。
在本实施方式中,可以根据相机当前的存储状态确定第三优先级,存储空间余量越小,第三优先级越高,相应地,传输次序越靠前。可以根据相机的存储状态,对各个相机进行动态排序,从而避免图像数据溢出导致的数据丢失,有助于提高协同拍摄的可靠性。
在上述多个实施例的一些可选地实现方式中,图像数据为脉冲序列信号,还可以采用图7所示的流程获取图像数据,如图7所示,该流程包括以下步骤。
步骤710、采集监测区域中各局部空间位置的时空信号,并对局部空间位置的时空信号按照时间进行累积,得到信号累积强度值。
在本实施例中,图像数据为脉冲序列信号,通过图像重构处理,可以基于脉冲序列信号生成图像。
作为示例,可以通过相机中的信号采集器从指定的局部空间位置采集时空信号,生成脉冲序列,完成时域采样;多个信号采集器排列成阵列,互相配合覆盖整个监测区域,可以完成对监测区域的空域采样。其中,时空信号可以时光信号。信号采集器可以是光敏器件,用于实现光电转换,其输出端的电信号强度与采集的光强正相关;每个光敏器件负责一个小正方形局部区域,所有器件可以按照行列排列成整齐的方阵。每个信号采集器本身就标识了所输出的光信号的局部空间位置。将信号采集器与信号累加器链接,可以将信号采集器采集的时空信号累积,得到信号累积强度值。
步骤720、对信号累积强度值进行变换,在变换结果超过特定阈值时输出脉冲信号。
作为示例,可以利用滤波器对信号累积强度值进行变换,滤波器可以按照预先设定的滤波函数对输入的累计强度值进行变换,并在变换结果超过特定阈值时输出脉冲信号,如此,可以实现对可以得到各个局部空间位置对应的累积信号强度值的时域特性的编码。不同的局部空间位置对应的滤波器的输出可以是不同步的。
实践中,利用滤波器对信号累积强度值进行变换得到的脉冲信号可以只携带一个比特的信息,即0(无脉冲输出)或1(有脉冲输出)。
步骤730、将局部空间位置对应的脉冲信号按照时间先后排列成序列,得到表达局部空间位置信号及其变化过程的脉冲序列。
步骤740、将所有局部空间位置的脉冲序列或所有局部空间位置的脉冲序列组成的阵列确定为脉冲序列信号。
作为示例,可以按照空间位置关系,将各个局部空间位置的脉冲序列形成阵列,并将该阵列作为脉冲序列信号。
再例如,由于步骤710中采集的时空信号中已经标识了局部空间位置,因而可以直接将各个局部空间位置对应的脉冲序列确定为脉冲序列信号。
在图7所示的实施例中,可以基于采集的时空信号生成脉冲序列信号,由此得到的脉冲序列信号可以充分保留时域和空域信息,不仅可以充够任意时刻的静态图像,而且保留了高速运动场景的精细运动过程。对于一些不需要重构图像的应用场景,例如自动驾驶场景,可以将脉冲序列信号作为图像数据并进行图像数据的传输或分析处理,有助于拓展本公开的图像数据的传输处理方法的应用范围。
接着参考图8,图8示出了对本公开的图像数据的传输处理方法所适用的一个系统架构图,如图8所示,设置于车辆上的n个脉冲相机(图中仅示例性地示出了脉冲相机810和脉冲相机830)用于协同拍摄,下面以脉冲相机810为例进行说明。脉冲相机810可以通过图像通信模块811与自动驾驶域控制器820中内置的图像通信模块821进行数据交互,以接收自动驾驶域控制器820下发的指令(例如参数上传指令、图像传输策略),并将片内存储的图像数据传输至自动驾驶域控制器820。具体的,当车辆启动后,脉冲相机810可以通过前端传感器813将捕捉到的光信号转化为脉冲数据,通过脉冲接收模块812接收前端传感器813输出的脉冲数据,由图像重构模块814将脉冲数据重构为图像数据,由图像缓存模块815将图像数据缓存入片内存储。
当脉冲相机810通过图像通信模块811接收到自动驾驶域控制器820下发的参数上传指令时,可以通过图像通信模块811将自身的片内存储容量、图像分辨率和帧率上传至自动驾驶域控制器820,以便自动驾驶域控制器820确定传输带宽是否满足图像数据传输需求。当传输带宽不满足图像数据传输需求时,自动驾驶域控制器820可以生成图像传输策略,并通过自动驾驶域控制器820中内置的图像通信模块821将图像传输策略发送至各个脉冲相机。当图像传输策略中包括传输次序时,自动驾驶域控制器820可以在下发图像传输策略之前,先通过内置的时间同步模块822向脉冲相机810发送时间同步指令,以便脉冲相机810可以通过时间同步模块816与其他脉冲相机的时间同步模块进行交互,以实现各个脉冲相机的时间同步,此外,脉冲相机810可以通过时间同步模块816与自动驾驶域控制器820中内置的时间同步模块822进行交互,以实现脉冲相机810与自动驾驶域控制器820之间的时间同步。之后,脉冲相机810可以按照图像传输策略,通过图像通信模块811将片内存储的图像数据传输至自动驾驶域控制器820。自动驾驶域控制器820接收到n个脉冲相机传输的图像数据后,可以对图像数据进行融合、感知等处理,进而根据感知结果生成自动驾驶策略。
下面参考图9,图9示出了本公开的一种用于自动驾驶的方法的一个实施例的流程图,如图9所示,该流程包括以下步骤。
步骤910、获取车辆上协同拍摄的n个相机采集的图像数据。
在本实施例中,车辆中内置的自动驾驶域控制器可以采用上述任一实施例中的图像数据的传输处理方法获取n个相机采集的图像数据。
可选的,本实施例中的图像数据可以是脉冲序列信号。
步骤920、将n个相机采集的图像数据融合,得到融合后的图像数据。
步骤930、基于融合后的图像数据,确定车辆所处的环境信息和位姿信息。
在本实施例中,自动驾驶域控制器可以对融合后的图像数据进行识别,以预测车辆的环境信息和位姿信息,环境信息例如可以包括道路流量、车辆与其他车辆的相对位置等等。
步骤940、基于车辆所处的环境信息和位姿信息,确定自动驾驶策略。
本实施例提供用于自动驾驶的方法,可以在有限的传输带宽下高效、可靠地获取协同拍摄的多个相机的图像数据,图像数据可以是获取的脉冲序列信号,可以将脉冲序列信号作为图像数据进行图像数据的传输或分析处理,可以为自动驾驶策略提高质量更高、更可靠的数据支持,有助于提高自动驾驶的可靠性和安全性。
图10为本公开的图像数据的传输处理装置的一个实施例的结构示意图,图10所示,该装置包括:传输时间单元1010,被配置成被配置成从需要协同拍摄的n个相机中确定出m个相机组,并确定m个相机组的第一传输时间,每个相机组包括n-1个相机,其中,n、m均为大于1的正整数,第一传输时间为相机组中包括的n-1个相机的图像传输时间之和,图像传输时间表征相机传输片内存储的全部图像数据所需的时间;极值确定单元1020,被配置成将m个第一传输时间中的最大值确定为最大传输时间,将n个相机中的各相机的图像缓存时间中的最小值确定为最小缓存时间,图像缓存时间表征相机存满片内存储所需的时间;需求确定单元1030,被配置成基于最大传输时间和最小缓存时间,确定传输带宽是否满足n个相机的图像数据传输需求;策略生成单元1040,被配置成当传输带宽不满足图像数据传输需求时,生成图像传输策略,图像传输策略用于使传输带宽满足图像数据传输需求;其中,图像传输策略包括以下至少一项:参数调整策略,n个相机分时传输图像数据时的传输次序;策略发送单元1050,被配置成向n个相机发送图像传输策略,以便n个相机基于图像传输策略传输图像数据。
在其中一个实施方式中,策略生成单元1040被进一步配置成:当传输带宽不满足图像数据传输需求时,确定n个相机中的一个或多个相机的参数调整方式,得到参数调整策略;确定n个相机分时传输图像数据时的传输次序;基于参数调整策略和n个相机分时传输图像数据时的传输次序,生成图像传输策略;在向n个相机发送图像传输策略之前,向n个相机发送时间同步指令,以指示n个相机执行时间同步操作。
在其中一个实施方式中,策略生成单元1040被进一步配置成:当传输带宽不满足图像数据传输需求时,从第一相机集合中确定出一个待调整相机,第一相机集合中的相机为n个相机中未确定参数调整方式的相机;基于待调整相机的图像分辨率和/或帧率,确定待调整相机的参数调整方式,并将待调整相机从第一相机集合添加至第二相机集合,待调整相机的参数调整方式包括以下至少一项:图像分辨率的调整方式、帧率的调整方式;第二相机集合中的相机为n个相机中已确定参数调整方式的相机;基于待调整相机的参数调整方式,更新图像数据传输需求;迭代执行确定待调整相机的操作、确定待调整相机的参数调整方式的操作、更新图像数据传输需求的操作,直至传输带宽满足更新后的图像数据传输需求或第一相机集合为空;基于第二相机集合中的各个相机的参数调整方式,确定参数调整策略;当传输带宽满足更新后的图像数据传输需求时,基于参数调整策略,生成图像传输策略。
在其中一个实施方式中,策略生成单元1040还被配置成:当传输带宽不满足更新后的图像数据传输需求时,确定n个相机分时传输图像数据时的传输次序;基于参数调整策略和n个相机分时传输图像数据时的传输次序,生成图像传输策略;在向n个相机发送图像传输策略之前,向n个相机发送时间同步指令,以指示n个相机执行时间同步操作。
在其中一个实施方式中,策略生成单元1040进一步包括:参数获取模块,被配置成获取所述n个相机中各相机的片内存储容量、图像分辨率和帧率;第一计算模块,被配置成基于n个相机中的各相机的片内存储容量、图像分辨率和帧率,确定n个相机中的各相机的图像缓存时间;第二计算模块,被配置成基于n个相机中的各相机的片内存储容量和传输带宽,确定n个相机中的各相机的图像传输时间;需求确定单元1030进一步包括:第一判断模块,被配置成若最小缓存时间小于最大传输时间,确定传输带宽不满足图像数据传输需求;第二判断模块,被配置成若最小缓存时间不小于最大传输时间,确定传输带宽满足图像数据传输需求。
在其中一个实施方式中,参数获取模块被进一步配置成:响应于预设条件被触发,获取n个相机中的各相机的片内存储容量、图像分辨率和帧率,预设条件至少包括以下之一:检测到n个相机中的一个或多个相机的标识信息变化、n个相机中的一个或多个相机的位置信息发生变化、n个相机的相机数量发生变化。
在其中一个实施方式中,策略生成单元1040还包括:参数调整模块,被配置成当传输带宽不满足图像数据传输需求时,确定n个相机中的一个或多个相机的参数调整方式,以使最小缓存时间不小于最大传输时间,得到参数调整策略;次序确定模块,被配置成基于参数调整策略和n个相机分时传输图像数据时的传输次序,生成图像传输策略;时间同步模块,被配置成向n个相机发送时间同步指令,以指示n个相机执行时间同步操作。
在其中一个实施方式中,参数调整模块被进一步配置成:基于预设的n个相机的第一优先级,将第一优先级最低的一个或多个相机的图像分辨率和/或帧率降低,得到第一优先级最低的一个或多个相机的参数调整方式,并将该一个或多个相机的第一优先级调整至最高;基于第一优先级最低的一个或多个相机的降低后的图像分辨率和/或帧率,更新最小缓存时间和最大传输时间;迭代执行降低第一优先级最低的相机的图像分辨率和/或帧率的操作、调整第一优先级的操作、更新最小缓存时间和最大传输时间的操作,直至最小缓存时间不小于最大传输时间;基于n个相机中的一个或多个相机的参数调整方式,确定参数调整策略。
在其中一个实施方式中,策略生成单元1040还被配置成:当最小缓存时间不小于最大传输时间时,确定n个相机分时传输图像数据时的传输次序;基于n个相机分时传输图像数据时的传输次序,生成图像传输策略。
在其中一个实施方式中,参数调整策略包括:采用每隔N帧抽取一帧图像的均匀抽帧方式降低相机的帧率,其中,N的取值为大于0的整数,且N的取值基于n个相机的第二优先级确定。
在其中一个实施方式中,策略生成单元1040还被配置成通过如下方式确定n个相机分时传输图像时的传输次序:获取n个相机当前的存储空间余量;基于n个相机当前的存储空间余量,确定n个相机的第三优先级;基于第三优先级,确定n个相机的传输次序。
在其中一个实施方式中,图像数据为脉冲序列信号,该装置还包括信号获取单元,被配置成:采集监测区域中各局部空间位置的时空信号,并对局部空间位置的时空信号按照时间进行累积,得到信号累积强度值;对信号累积强度值进行变换,在变换结果超过特定阈值时输出脉冲信号;将局部空间位置对应的脉冲信号按照时间先后排列成序列,得到表达局部空间位置信号及其变化过程的脉冲序列;将所有局部空间位置的脉冲序列或所有局部空间位置的脉冲序列组成的阵列确定为脉冲序列信号。
图11为本公开的一种用于自动驾驶的装置的一个实施例的结构示意图,如图11所示,该装置包括:获取单元1110,被配置成利用上述任一实施例中的方法,获取车辆上预设的n个相机采集的图像数据;融合单元1120,被配置成将n个相机采集的图像数据融合,得到融合后的图像数据;感知单元1130,被配置成基于融合后的图像数据,确定车辆所处的环境信息和位姿信息;决策单元1140,被配置成基于车辆所处的环境信息和位姿信息,确定自动驾驶策略。
下面参考图12来描述根据本公开实施例的电子设备。图12示出了根据本公开实施例的电子设备的框图。如图12所示,电子设备1200包括一个或多个处理器1210和存储器1220。
处理器1210可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元,并且可以控制电子设备1200中的其他组件以执行期望的功能。
存储器1220可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器,例如,可以包括:随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器,例如,可以包括:只读存储器(ROM)、硬盘以及闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器可以运行所述程序指令,以实现上文所述的本公开的各个实施例的图像数据的传输处理方法以及/或者用于自动驾驶的方法以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如输入信号、信号分量、噪声分量等各种内容。
在一个示例中,电子设备1200还可以包括:输入装置1230以及输出装置1240等,这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。此外,该输入设备1230还可以包括例如键盘、鼠标等等。该输出装置1240可以向外部输出各种信息。该输出设备1240可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
当然,为了简化,图12中仅示出了该电子设备1200中与本公开有关的组件中的一些,省略了诸如总线、输入/输出接口等等的组件。除此之外,根据具体应用情况,电子设备1200还可以包括任何其他适当的组件。
在本申请的另一个实施例中,电子设备1200可以包括的脉冲信号读出电路,和/或包括像素单元阵列电路,和/或具有上述的像素单元阵列电路的芯片。
具体地说,所述设备至少包括如下之一者:相机、摄像头、音/视频播放器、导航设备、固定位置终端、娱乐设备、智能手机、通信设备、移动设备、交通工具或设施、工业设备、医疗设备、安防设备、飞行设备、家电设备。
在本申请实施例中,相机包括但不限于脉冲相机、高速相机、工业检测相机等。摄像头包括但不限于:车载摄像头、手机摄像头、交通摄像头、安装在可飞行物体上的摄像头、医疗摄像头、安防摄像头或家电摄像头。
以脉冲相机为例,对本申请实施例提供的设备进行详细说明。图13为本申请实施例提供的一种脉冲相机的结构示意图。如图13所示,该脉冲相机包括:透镜1301、脉冲信号电路1302、数据处理电路1303、非易失性存储器1304、电源电路1305、易失性存储器1306、控制电路1307和I/O接口1308。
其中,透镜1301,用于接收来自被摄物体的入射光,即光信号。
脉冲信号电路1302,用于将通过透镜1301接收的光信号转换为电信号,根据电信号生成脉冲信号。该脉冲信号电路1302例如包括上述的脉冲信号读出电路,和/或上述的像素单元阵列电路,和/或具有上述的像素单元阵列电路的芯片。
数据处理电路1303,用于对脉冲信号读出过程进行控制,数据处理电路1303例如包括:运算处理单元(例如,CPU)和/或图像处理单元(GPU),例如,对脉冲信号读出电路的脉冲信号读出过程进行控制,控制其中的读出行选择器发送行读出信号,复位行选择器发送列复位信号等。
1306为易失性存储器,例如随机存取存储器(RAM),1304为非易失性存储器件,例如固态硬盘(Solid State Disk,SSD)、混合硬盘(Hybrid Hard Disk,HHD)、安全数码(Secure Digital,SD)卡、mini SD卡等。
在本发明一实施例中,该脉冲相机还进一步包括:显示单元,用于对脉冲信号/图像信息进行实时/回放显示。本发明实施例所述的脉冲相机还可以进一步包括至少如下之一者:有线/无线传输接口,例如WiFi接口、蓝牙接口、usb接口、RJ45接口,移动产业处理器接口(MIPI)接口,低电压差分信号(LVDS)接口及其他具有有线或无线传输功能的接口。
本发明实施例提供的脉冲相机能够用于对可见光、红外光、紫外光、X射线等进行检测,并可应用于各种场景,常用的场景包括但不限于:
可用作车载摄像头安装在各类交通工具或设施中,例如用于车路协同、智慧交通、自动驾驶的信息获取及控制。举例而言,安装在高铁等轨道交通工具中或轨道交通线上,作为高铁行车记录仪;还可以安装在自动驾驶车辆或安装有高级驾驶辅助系统(ADAS)的车辆中,例如进行车辆、行人、车道、驾驶员等信息的检测和报警。
可用作交通摄像头安装在交通信号杆上,进行城市道路、高速公路上车辆和行人的拍摄、预警、及协同控制等。
可用作工业检测相机,例如安装在高铁轨道交通线上用于高铁巡线,以及用于高铁安全的检测;还可以用于煤矿输送带断裂检测、变电站电弧检测、风力发电叶片的实时检测、高速轮机不停机检测等特定工业场景的检测、预警等。
安装在可飞行物体上,例如,安装在飞机、卫星等物体上,用作物体在高速飞行、甚至高速旋转场景下的高清晰成像。
工业(智能制造中的机器视觉等)、民用(司法取证、体育判罚等)和消费电子(相机、影视媒体等)。
可用作医疗摄像头,在医疗、美容、保健等临床诊疗中进行高清晰的医疗成像。
可用作运动相机或可穿戴式相机,例如,头戴式相机或嵌入在腕表中的相机,可进行各类体育竞技赛场、日常休闲运动等场景的拍摄。
还可用作安防摄像头、手机摄像头或家电摄像头等。
除了上述方法和设备以外,本公开的实施例还可以是计算机程序产品,其包括计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的图像数据的传输处理方法或用于自动驾驶的方法中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外,本公开的实施例还可以是计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的图像数据的传输处理方法或用于自动驾驶的方法中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列举)可以包括:具有一个或者多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本公开的基本原理,但是,需要指出的是,在本公开中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势以及效果等是本公开的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本公开为必须采用上述具体的细节来实现。
本说明书中各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其它实施例的不同之处,各个实施例之间相同或相似的部分相互参见即可。对于系统实施例而言,由于其与方法实施例基本对应,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本公开中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备以及系统。诸如“包括”、“包含、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
可能以许多方式来实现本公开的方法和装置。例如,可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明,本公开的方法的步骤不限于以上具体描述的顺序,除非以其它方式特别说明。此外,在其中一个实施方式中,还可将本公开实施为记录在记录介质中的程序,这些程序包括用于实现根据本公开的方法的机器可读指令。因而,本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。
还需要指出的是,在本公开的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。
提供所公开的方面的以上描述,以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改等对于本领域技术人员而言,是非常显而易见的,并且在此定义的一般原理可以应用于其他方面,而不脱离本公开的范围。因此,本公开不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本公开的实施例限制到在此公开的形式中。尽管以上已经讨论了多个示例方面以及实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。
Claims (19)
1.一种图像数据的传输处理方法,其特征在于,包括:
从需要协同拍摄的n个相机中确定出m个相机组,并确定所述m个相机组的第一传输时间,每个所述相机组包括n-1个相机,其中,n、m均为大于1的正整数,所述第一传输时间为所述相机组中包括的n-1个相机的图像传输时间之和,所述图像传输时间表征相机传输片内存储的全部图像数据所需的时间;
将m个所述第一传输时间中的最大值确定为最大传输时间,将所述n个相机中的各相机的图像缓存时间中的最小值确定为最小缓存时间,所述图像缓存时间表征相机存满片内存储所需的时间;
基于所述最大传输时间和所述最小缓存时间,确定传输带宽是否满足所述n个相机的图像数据传输需求;
当所述传输带宽不满足所述n个相机的图像数据传输需求时,生成图像传输策略,所述图像传输策略用于自适应调节所述n个相机的图像数据传输需求以使所述传输带宽满足所述n个相机的图像数据传输需求;其中,所述图像传输策略包括以下至少一项:参数调整策略、所述n个相机分时传输图像数据时的传输次序;
向所述n个相机发送所述图像传输策略,以便所述n个相机基于所述图像传输策略传输图像数据。
2.根据权利要求1所述的方法,其特征在于,所述当所述传输带宽不满足所述n个相机的图像数据传输需求时,生成图像传输策略,包括:
当所述传输带宽不满足所述n个相机的图像数据传输需求时,确定所述n个相机中的一个或多个相机的参数调整方式,得到所述参数调整策略;
确定所述n个相机分时传输图像数据时的传输次序;
基于所述参数调整策略和所述n个相机分时传输图像数据时的传输次序,生成所述图像传输策略;
在所述向所述n个相机发送所述图像传输策略之前,所述方法还包括:
向所述n个相机发送时间同步指令,以指示所述n个相机执行时间同步操作。
3.根据权利要求1所述的方法,其特征在于,所述当所述传输带宽不满足所述n个相机的图像数据传输需求时,生成图像传输策略,包括:
当所述传输带宽不满足所述n个相机的图像数据传输需求时,从第一相机集合中确定出一个待调整相机,所述第一相机集合中的相机为所述n个相机中未确定参数调整方式的相机;
基于所述待调整相机的图像分辨率和/或帧率,确定所述待调整相机的参数调整方式,并将所述待调整相机从所述第一相机集合添加至第二相机集合,所述待调整相机的参数调整方式包括以下至少一项:图像分辨率的调整方式、帧率的调整方式;所述第二相机集合中的相机为所述n个相机中已确定参数调整方式的相机;
基于所述待调整相机的参数调整方式,更新所述n个相机的图像数据传输需求;
迭代执行所述确定出一个待调整相机的操作、所述确定待调整相机的参数调整方式的操作、所述更新图像数据传输需求的操作,直至所述传输带宽满足更新后的所述n个相机的图像数据传输需求或所述第一相机集合为空;
基于所述第二相机集合中的各个相机的参数调整方式,确定所述参数调整策略;
当所述传输带宽满足更新后的所述n个相机的图像数据传输需求时,基于所述参数调整策略,生成所述图像传输策略。
4.根据权利要求3所述的方法,其特征在于,所述当所述传输带宽不满足所述n个相机的图像数据传输需求时,生成图像传输策略,还包括:
当所述传输带宽不满足更新后的所述n个相机的图像数据传输需求时,确定所述n个相机分时传输图像数据时的传输次序;
基于所述参数调整策略和所述n个相机分时传输图像数据时的传输次序,生成所述图像传输策略;
在所述向所述n个相机发送所述图像传输策略之前,所述方法还包括:
向所述n个相机发送时间同步指令,以指示所述n个相机执行时间同步操作。
5.根据权利要求1所述的方法,其特征在于,确定所述m个相机组的第一传输时间之前,所述方法还包括:
获取所述n个相机中的各相机的片内存储容量、图像分辨率和帧率;
基于所述n个相机中的各相机的片内存储容量、图像分辨率和帧率,确定所述n个相机中的各相机的图像缓存时间;
基于所述n个相机中的各相机的片内存储容量和所述传输带宽,确定所述n个相机中的各相机的图像传输时间;
所述基于所述最大传输时间和所述最小缓存时间,确定所述传输带宽是否满足所述n个相机的图像数据传输需求,包括:
若所述最小缓存时间小于所述最大传输时间,确定所述传输带宽不满足所述n个相机的图像数据传输需求;
若所述最小缓存时间不小于所述最大传输时间,确定所述传输带宽满足所述n个相机的图像数据传输需求。
6.根据权利要求5所述的方法,其特征在于,所述获取所述n个相机中的各相机的片内存储容量、图像分辨率和帧率,包括:
响应于预设条件被触发,获取所述n个相机中的各相机的片内存储容量、图像分辨率和帧率,所述预设条件至少包括以下之一:检测到所述n个相机中的一个或多个相机的标识信息变化、所述n个相机中的一个或多个相机的位置信息发生变化、所述n个相机的相机数量发生变化。
7.根据权利要求5所述的方法,其特征在于,所述当所述传输带宽不满足所述n个相机的图像数据传输需求时,生成图像传输策略,还包括:
当所述传输带宽不满足所述n个相机的图像数据传输需求时,确定所述n个相机中的一个或多个相机的参数调整方式,以使所述最小缓存时间不小于所述最大传输时间,得到所述参数调整策略;
基于所述参数调整策略和所述n个相机分时传输图像数据时的传输次序,生成所述图像传输策略;
在所述向所述n个相机发送所述图像传输策略之前,所述方法还包括:
向所述n个相机发送时间同步指令,以指示所述n个相机执行时间同步操作。
8.根据权利要求7所述的方法,其特征在于,所述当所述传输带宽不满足所述n个相机的图像数据传输需求时,确定所述n个相机中的一个或多个相机的参数调整方式,以使所述最小缓存时间不小于所述最大传输时间,得到所述参数调整策略,包括:
基于预设的所述n个相机的第一优先级,将第一优先级最低的一个或多个相机的图像分辨率和/或帧率降低,得到所述第一优先级最低的一个或多个相机的参数调整方式,并将该一个或多个相机的第一优先级调整至最高;
基于所述第一优先级最低的一个或多个相机的降低后的图像分辨率和/或帧率,更新所述最小缓存时间和所述最大传输时间;
迭代执行所述降低第一优先级最低的相机的图像分辨率和/或帧率的操作、所述调整第一优先级的操作、所述更新所述最小缓存时间和所述最大传输时间的操作,直至所述最小缓存时间不小于所述最大传输时间;
基于所述n个相机中的一个或多个相机的参数调整方式,确定所述参数调整策略。
9.根据权利要求7所述的方法,其特征在于,所述方法还包括:
当所述最小缓存时间不小于所述最大传输时间时,确定所述n个相机分时传输图像数据时的传输次序;
基于所述n个相机分时传输图像数据时的传输次序,生成所述图像传输策略。
10.根据权利要求1所述的方法,其特征在于,所述参数调整策略包括:按照预设方式,从每N帧图像中抽取预设数量帧图像的方式降低相机的帧率,其中,N的取值为大于0的整数,且N的取值基于所述n个相机的第二优先级确定。
11.根据权利要求1所述的方法,其特征在于,所述方法还包括确定所述n个相机分时传输图像时的传输次序的步骤:
获取所述n个相机当前的存储空间余量;
基于所述n个相机当前的存储空间余量,确定所述n个相机的第三优先级;
基于所述第三优先级,确定所述n个相机的传输次序。
12.根据权利要求1至11之一所述的方法,其特征在于,所述图像数据为脉冲序列信号,所述方法还包括获取所述脉冲序列信号的步骤:
采集监测区域中各局部空间位置的时空信号,并对所述局部空间位置的时空信号按照时间进行累积,得到信号累积强度值;
对所述信号累积强度值进行变换,在变换结果超过特定阈值时输出脉冲信号;
将所述局部空间位置对应的脉冲信号按照时间先后排列成序列,得到表达所述局部空间位置信号及其变化过程的脉冲序列;
将所有局部空间位置的脉冲序列或所有局部空间位置的脉冲序列组成的阵列确定为所述脉冲序列信号。
13.一种用于自动驾驶的方法,其特征在于,包括:
获取车辆上协同拍摄的n个相机基于权利要求1至12之一所述的方法传输的图像数据;
将所述n个相机采集的图像数据融合,得到融合后的图像数据;
基于所述融合后的图像数据,确定所述车辆所处的环境信息和位姿信息;
基于所述车辆所处的环境信息和位姿信息,确定自动驾驶策略。
14.一种图像数据的传输处理装置,其特征在于,包括:
传输时间单元,被配置成从需要协同拍摄的n个相机中确定出m个相机组,并确定所述m个相机组的第一传输时间,每个所述相机组包括n-1个相机,其中,n、m均为大于1的正整数,所述第一传输时间为所述相机组中包括的n-1个相机的图像传输时间之和,所述图像传输时间表征相机传输片内存储的全部图像数据所需的时间;
极值确定单元,被配置成将m个所述第一传输时间中的最大值确定为最大传输时间,将所述n个相机中的各相机的图像缓存时间中的最小值确定为最小缓存时间,所述图像缓存时间表征相机存满片内存储所需的时间;
需求确定单元,被配置成基于所述最大传输时间和所述最小缓存时间,确定传输带宽是否满足所述n个相机的图像数据传输需求;
策略生成单元,被配置成当所述传输带宽不满足所述n个相机的图像数据传输需求时,生成图像传输策略,所述图像传输策略用于自适应调节所述n个相机的图像数据传输需求以使所述传输带宽满足所述n个相机的图像数据传输需求;其中,所述图像传输策略包括以下至少一项:参数调整策略,所述n个相机分时传输图像数据时的传输次序;
策略发送单元,被配置成向所述n个相机发送所述图像传输策略,以便所述n个相机基于所述图像传输策略传输图像数据。
15.一种用于自动驾驶的装置,其特征在于,包括:
获取单元,被配置成获取车辆上协同拍摄的n个相机基于权利要求1至12之一所述的方法传输的图像数据;
融合单元,被配置成将所述n个相机采集的图像数据融合,得到融合后的图像数据;
感知单元,被配置成基于所述融合后的图像数据,确定所述车辆所处的环境信息和位姿信息;
决策单元,被配置成基于所述车辆所处的环境信息和位姿信息,确定自动驾驶策略。
16.一种计算机可读存储介质,其特征在于,所述存储介质存储有计算机程序,所述计算机程序用于执行上述权利要求1-13中任一项所述的方法。
17.一种电子设备,其特征在于,所述电子设备包括:
处理器;
用于存储所述处理器可执行指令的存储器;
所述处理器,用于从所述存储器中读取所述可执行指令,并执行所述指令以实现上述权利要求1-13中任一项所述的方法。
18.根据权利要求17所述的电子设备,其特征在于,所述电子设备至少包括:通信设备。
19.根据权利要求17所述的电子设备,其特征在于,所述电子设备至少包括:安防设备。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211111124.8A CN115442408B (zh) | 2022-09-13 | 2022-09-13 | 图像数据的传输处理方法、装置、介质以及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211111124.8A CN115442408B (zh) | 2022-09-13 | 2022-09-13 | 图像数据的传输处理方法、装置、介质以及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115442408A CN115442408A (zh) | 2022-12-06 |
CN115442408B true CN115442408B (zh) | 2023-06-02 |
Family
ID=84247699
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211111124.8A Active CN115442408B (zh) | 2022-09-13 | 2022-09-13 | 图像数据的传输处理方法、装置、介质以及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115442408B (zh) |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113259597A (zh) * | 2021-07-16 | 2021-08-13 | 上海豪承信息技术有限公司 | 图像处理方法、装置、设备、介质及程序产品 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102008023851A1 (de) * | 2008-05-16 | 2009-12-03 | Continental Automotive Gmbh | Bilderfassungsvorrichtung und Fahrerassistenzsystem |
CN110291774B (zh) * | 2018-03-16 | 2021-05-14 | 深圳市大疆创新科技有限公司 | 一种图像处理方法、设备、系统及存储介质 |
US11148676B2 (en) * | 2019-03-29 | 2021-10-19 | Intel Corporation | Detection of an anomalous image associated with image data from one or more cameras of a computer-aided or autonomous driving vehicle |
CN110912922B (zh) * | 2019-12-03 | 2022-09-16 | 锐捷网络股份有限公司 | 一种图像传输方法、装置、电子设备及存储介质 |
CN114257820A (zh) * | 2020-09-25 | 2022-03-29 | 华为技术有限公司 | 数据传输方法及相关装置 |
CN112312229A (zh) * | 2020-10-27 | 2021-02-02 | 唐桥科技(杭州)有限公司 | 一种视频传输方法、装置、电子设备及存储介质 |
CN113612969A (zh) * | 2021-07-29 | 2021-11-05 | 北京三快在线科技有限公司 | 用于无人驾驶设备远程遥控的视频数据传输的方法及装置 |
-
2022
- 2022-09-13 CN CN202211111124.8A patent/CN115442408B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113259597A (zh) * | 2021-07-16 | 2021-08-13 | 上海豪承信息技术有限公司 | 图像处理方法、装置、设备、介质及程序产品 |
Also Published As
Publication number | Publication date |
---|---|
CN115442408A (zh) | 2022-12-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107079135B (zh) | 视频数据传输方法、系统、设备和拍摄装置 | |
CN113515536B (zh) | 地图的更新方法、装置、设备、服务器以及存储介质 | |
CN113890977A (zh) | 机载视频处理装置及具有其的无人机 | |
CN115442408B (zh) | 图像数据的传输处理方法、装置、介质以及电子设备 | |
US11338808B2 (en) | Autonomous driving method and apparatus | |
CN220156599U (zh) | 脉冲序列式图像传感器的像素电路、图像传感器和设备 | |
CN115908618B (zh) | 基于脉冲数据的重构图像生成方法、装置、设备及介质 | |
CN108965873A (zh) | 一种脉冲阵列编码的自适应划分方法 | |
US20130278770A1 (en) | Total bus surveillance system | |
CN105551109A (zh) | 基于语音识别的行车记录仪 | |
CN105430297A (zh) | 多视频格式向iidc协议视频格式转换的自动控制系统 | |
EP4068238A1 (en) | Image capturing method and apparatus, electronic photography device, and computer-readable storage medium | |
CN117793543A (zh) | 时空信号的编码方法、装置和设备 | |
CN113111215A (zh) | 一种用户行为分析方法、装置、电子设备和存储介质 | |
KR102429484B1 (ko) | 차량 영상 데이터 정보의 용량 저감 장치, 그를 포함한 시스템, 그 용량 저감 및 복구 방법 | |
CN111966070A (zh) | 一种驾驶员行为数据采集处理系统 | |
CN110661785A (zh) | 视频处理方法、装置、系统、电子设备及可读存储介质 | |
CN221302520U (zh) | 探测器的像素电路、探测器和设备 | |
CN117835081A (zh) | 脉冲序列式图像传感器的像素电路、图像传感器和设备 | |
CN117156300B (zh) | 基于图像传感器的视频流合成方法和装置、设备、介质 | |
JP7231092B2 (ja) | イベント記録システム | |
KR102492679B1 (ko) | 객체 분석에 기반한 자동 감시 영상 생성 방법 및 그 장치 및 방법 | |
CN115187459A (zh) | 图像处理方法、特征提取方法、视频处理方法及装置 | |
US20240127395A1 (en) | Resolution converter, resolution conversion method, and resolution conversion computer program | |
CN117367579A (zh) | 探测器的像素电路、探测器和设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
PE01 | Entry into force of the registration of the contract for pledge of patent right | ||
PE01 | Entry into force of the registration of the contract for pledge of patent right |
Denomination of invention: Methods, devices, media, and electronic devices for transmitting and processing image data Granted publication date: 20230602 Pledgee: Haidian Beijing science and technology enterprise financing Company limited by guarantee Pledgor: Pulse vision (Beijing) Technology Co.,Ltd. Registration number: Y2024110000272 |