CN108040508B - 双节点合成图像系统架构 - Google Patents

双节点合成图像系统架构 Download PDF

Info

Publication number
CN108040508B
CN108040508B CN201680034752.7A CN201680034752A CN108040508B CN 108040508 B CN108040508 B CN 108040508B CN 201680034752 A CN201680034752 A CN 201680034752A CN 108040508 B CN108040508 B CN 108040508B
Authority
CN
China
Prior art keywords
processing node
cameras
surround view
articulated vehicle
view image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201680034752.7A
Other languages
English (en)
Other versions
CN108040508A (zh
Inventor
安德里亚斯·U·屈恩勒
马顿·久里
汉斯·M·莫林
卡尔·H·琼斯
特拉维斯·G·拉姆勒
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Bendix Commercial Vehicle Systems LLC
Original Assignee
Bendix Commercial Vehicle Systems LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Bendix Commercial Vehicle Systems LLC filed Critical Bendix Commercial Vehicle Systems LLC
Publication of CN108040508A publication Critical patent/CN108040508A/zh
Application granted granted Critical
Publication of CN108040508B publication Critical patent/CN108040508B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/002Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles specially adapted for covering the peripheral part of the vehicle, e.g. for viewing tyres, bumpers or the like
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

为采样商用铰接车辆的多节点计算机架构以采用多节点计算架构为商用铰接车辆产生车辆的合成环绕视图时,每个处理节点均与车辆节段相关联。每个节点均具有各自的处理器、存储器和传感器。在这种架构中存在主从关系。节段处理器对其本地信息进行采集、格式化、管理和封装。由主节点控制节点之间的通信,主节点可以限制、调整、二次取样以及更改信息和来自从节点的信息流。使用预先建立好的通信标准或在组合时达成的格式,可以自由地重组从节点。

Description

双节点合成图像系统架构
技术领域
本申请得到了在环绕视图车辆成像系统中的应用。然而,将理解的是,所描述的技术也可以得到在其他车辆监控系统、其他成像系统或其他车辆安全系统中的应用。
背景技术
传统用于货车的监控系统不设置摄像机和校准的数量可变的、用于在可互换的车辆部件之间进行图像处理的系统架构。在摄像机及其校准的数量未知、没有足够的电子控制单元(ECU)容量以处理输入的摄像机图像的情况下,不能产生整个车辆的环绕图像。
本发明提供了便于为带有可交换车辆节段的铰接商用车辆产生环绕视图图像的新的改进的系统和方法,并解决了上述的及其他的问题。
发明内容
根据一个方面,使用铰接商用车辆的多节点计算机架构来便于产生合成环绕视图图像的系统,包括:拍摄铰接车辆的第一部分的周围区域的图像的第一组一个或多个摄像机,以及接收来自第一组一个或多个摄像机的所拍摄的图像数据的第一处理节点。该系统还包括拍摄铰接车辆的第二部分的周围区域的图像的第二组一个或多个摄像机,以及接收来自第二组一个或多个摄像机的所拍摄的图像数据,并将所拍摄的图像数据转发至第一处理节点的第二处理节点。第一处理节点被配置为根据从第一组一个或多个摄像机和第二组一个或多个摄像机接收的所拍摄的图像数据来产生铰接车辆的合成环绕视图图像。
根据另一个方面,使用铰接商用车辆的多节点计算机架构来便于产生合成环绕视图图像的电子控制单元(ECU)包括处理器,其被配置为:接收来自第一组一个或多个摄像机的所拍摄的铰接车辆的第一部分的周围区域的视频数据,从第二电子控制单元接收由第二组一个或多个摄像机拍摄的铰接车辆的第二部分的周围区域的视频数据,并且确定铰接车辆的第一部分和第二部分之间的铰接角。处理器还被配置为:对于每一视频帧,将从第一组一个或多个摄像机和第二组一个或多个摄像机接收到的所拍摄的图像数据合成为铰接车辆的合成环绕视图图像的同时,补偿所确定的铰接角。
根据另一个方面,使用铰接商用车辆的多节点计算机架构来产生合成环绕视图图像的方法包括:在第一处理节点接收来自第一组一个或多个摄像机的所拍摄的铰接车辆的第一部分的周围区域的图像数据,在第二处理节点接收来自第二组一个或多个摄像机的所拍摄的铰接车辆的第二部分的周围区域的图像数据,以及在第一处理节点接收所拍摄的铰接车辆的第二部分的周围区域的图像数据。该方法还包括,根据从第一组一个或多个摄像机和第二组一个或多个摄像机接收的所拍摄的图像数据来产生铰接车辆的环绕视图图像。
根据另一个方面,使用铰接商用车辆的多节点计算机架构来便于产生合成环绕视图图像的设备包括:第一接收装置,其用于在第一处理节点接收来自第一组一个或多个摄像机的所拍摄的铰接车辆的第一部分的周围区域的图像数据;第二接收装置,其用于在第二处理节点接收来自第二组一个或多个摄像机的所拍摄的铰接车辆的第二部分的周围区域的图像数据。第一接收装置还被配置为从第二处理节点接收所拍摄的铰接车辆的第二部分的周围区域的图像数据。该设备还包括处理装置,其用于确定铰接车辆的第一部分和第二部分之间的铰接角,并在根据从第一组一个或多个摄像机和第二组一个或多个摄像机接收到的所拍摄的图像数据来产生铰接车辆的环绕视图图像时,补偿所确定的铰接角。
一个优势在于,保留了牵引车和拖车的柔性连接,同时也能够产生环绕视图。
另外一个优势在于,减少了因使用不同拖车或多个拖车而对ECU重新校准或重新校正的需要。
本领域的普通技术人员通过阅读和理解下面的详细描述,将了解到本发明进一步的优势。
附图说明
本发明可以采用多种部件和部件的布置,以及多种步骤和步骤的安排。附图仅用于图示说明各个方面的目的,而不应将其解释为对本发明的限制。
图1示出了根据本文描述的各种特征的便于产生车辆的可缩放环绕视图图像的系统。
图2示出了包括牵引车部分和拖车部分的车辆,每部分具有其对应的ECU。
图3示出了便于根据在此公开的一个或多个特征、使用拖车控制应用程序(“app”)来产生铰接车辆的合成环绕视图的系统。
图4是根据本文阐述的多种特征的主ECU的图示。
图5示出了根据本文描述的多种特征、使用铰接商用车辆的多节点计算机架构来产生合成环绕视图图像的方法。
具体实施方式
通过本文描述的系统和方法可解决上述问题,这些系统和方法便于提供多个电子控制单元(ECU),其中一个在多节段车辆的牵引车上,另一个在多节段车辆的(每个)拖车部分上,并且将与各ECU相关联的摄像机所产生的各个视图合成到一起而产生环绕视图。“环绕视图”是指车辆周围的全部或部分视图(例如,在45度视角和360度视角之间等等)。每个ECU都已知与之相关联的各摄像机的数量和校准。在ECU之间的数据链路使用例如压缩数据格式,能够为驾驶员产生环绕视图。可以为其图像需处理的若干个摄像机来分配每个ECU的容量。
货车通常具有可拆分、可重组的多个节段,有牵引车和拖车,或甚至多个拖车。用于这样的可拆分节段的车辆(各节段都可以具有各自的传感器组及功能)的信息处理系统常常需要特殊的计算机架构。即,每个车辆节段通常都具有各自的传感器组,为了适当、安全、高效的货车操作,需要来自这些传感器组的信息。这样的传感器可以包括摄像机、速度捕捉装置、胎压计及气流计等。因为各传感器可能具有各自的特征(例如,摄像机的视野和安装参数),且因为各传感器的数量和种类可能不同,所以本文描述的系统和方法在各个车辆节段中设置了ECU,以整合这些信号。每一个节段的ECU接收、格式化、管理并封装本地信息和信息流,所述信息包括任何与其节段相关的参数。节段ECU可以将其信息传送至主ECU,例如,主ECU在车辆的牵引段、首段、前段或主段上。在一个实施例中,在各节段中的备用电池便于每一个节段独立运行,而没有诸如在货运站停车时的外部电源。这造就了可拆分、可重组的商用车用计算机架构。在另一种实施例中,货运站可以在没有牵引车的情况下使用节段传感器,例如通过摄像机来监控装载和卸载。适当配备的外部移动计算装置(诸如智能手机)可以与车辆节段进行通信并控制车辆节段,例如确定该节段的胎压。
图1示出了根据本文描述的多种特征的便于产生可缩放的车辆环绕视图图像的系统10。该系统包括:在多段铰接车辆的牵引车或主要节段12上的与显示器16及多个摄像机18、20连接(例如,无线连接或有线连接)的第一ECU 14,其中显示器16上显示车辆的环绕视图图像。虽然在图1中示出了两个摄像机,应当理解,可以采用任意数量的摄像机以辅助产生车辆的360°视图。每一个摄像机拍摄车辆周边的部分的图像(例如,视频帧),且第一ECU将各图像帧合成到一起而产生用于输出到显示器16的牵引车环绕视图图像。
类似地,车辆的拖车或第二部分22包括与多个摄像机26、28、30、32耦接(例如,无线连接或有线连接)并且接收由多个摄像机拍摄的图像帧的第二ECU 24。第二ECU包括天线或收发器34,第二ECU通过此天线或收发器34与连接到第一ECU 14的天线或收发器36进行通信。在一个实施例中,第二ECU 24将来自其多个摄像机的图像合成为车辆拖车部分的部分环绕视图,并将拖车图像数据传送到第一ECU,然后第一ECU将合成的拖车图像数据与之前合成的牵引车图像数据合成,以产生完整的环绕视图图像。由于合成减少了像素总量(因为合成舍弃了在环绕视图中没有用到的像素),因此减小了数据传输的带宽。
每个ECU(例如,牵引车ECU、拖车ECU)均已知摄像机的数量以及与其相关联的各摄像机的校准(例如,光轴位置、焦距等)。在牵引车ECU与拖车ECU之间的数据链路使得可以为驾驶员和/或其他观看者产生完整的车辆环绕视图。如果拖车ECU出现故障,来自连接到牵引车控制器的摄像机的信息仍然能提供拖车侧面的视图。另外,在增加新的拖车时,牵引车(第一)ECU 14不需要重新校准,因为每一个拖车部分都具有各自的ECU和与之关联的参数存储。因此,各ECU可被看作已知其周围的其他处理节点(ECU)的独立节点。无论摄像机的数量多少或是在各节段上是否缺少摄像机,环绕视图系统可与能够连接或断开连接的牵引车和拖车进行链接。无论哪个牵引车连接到了哪个拖车,均可将连续的车辆环绕视图提供给驾驶员。通过在牵引车ECU和拖车ECU之间提供所有摄像机的信息,可以实现牵引车ECU和拖车ECU之一或两者均能得到的组合车辆的完整环绕视图。此外,因为可以在没有对应的牵引车摄像机系统的情况下维护拖车摄像机系统,所以此系统更容易维护(moreserviceable)。
各ECU分别包括用于执行计算机可执行指令的相应的处理器38a、38b(统称为处理器38),以及存储计算机可执行指令的存储器40a、40b(统称为存储器40),计算机可执行指令(例如模块、例行程序、程序、应用程序等)用于执行本文描述的多种方法和技术协议等。存储器40可以包括易失性存储器、非易失性存储器、固态存储器、快闪存储器、随机存取存储器(RAM)、只读存储器(ROM)、可编程式只读存储器(PROM)、可擦除可编程式只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)及上述各种存储器的变型、组合和/或其他种类的适合提供上述功能且/或适合存储计算机可执行指令以便处理器38执行的存储器。另外,在此“模块”代表计算机可执行指令集(例如,例行程序、子例行程序、程序、应用程序等等),并且此指令集持久地存储在计算机可读媒介或存储器中,以由存储器执行。
图2示出了包括牵引车部分12和拖车部分22的车辆100,每部分具有相应的ECU14、24。第一(牵引车)ECU 14与安装在牵引车上的乘客侧牵引车摄像机(C1)18和驾驶员侧牵引车摄像机(C2)20中的每个相耦接(例如,通过有线连接或无线连接),虽然将理解本文公开的系统和方法不限定于只有两个牵引车摄像机。各摄像机18、20在牵引车12的相应的一侧拍摄视频图像数据,并将所拍摄的数据传送到牵引车ECU 14,牵引车ECU 14将摄像机图像数据合成到一起,形成合成牵引车环绕视图图像。类似地,第二(拖车)ECU 14与多个摄像机相耦接(例如,通过有线连接或无线连接),这些摄像机包括前乘客侧拖车摄像机(C3)26和前驾驶员侧拖车摄像机(C4)28,以及后乘客侧拖车摄像机(C5)30和后驾驶员侧拖车摄像机(C6)32,所有摄像机均安装在拖车上。将理解,本文描述的系统和方法不限定于只有四个拖车摄像机或限定于总计有六个摄像机,相反,任意数量的摄像机均可以耦接到相应的ECU上,且任意数量的拖车均可耦接到车辆上。
拖车摄像机26、28、30、32具有重叠的视野,拍摄拖车22周围相应视图的视频图像数据,并将所拍摄的数据传送到拖车ECU 24,拖车ECU 24将所拍摄的数据合成到一起,形成合成拖车环绕视图图像。在一个实施例中,对于每一帧图像,拖车ECU 24提供已合成的拖车环绕视图图像,该图像包括来自各个拖车摄像机的合成的图像数据。在另一个实施例中,拖车ECU 24直接将来自各个拖车摄像机的已拍摄的图像数据提供给牵引车ECU 14,以与牵引车摄像机的图像帧相合成。
在又一个实施例中,为拖车摄像机独立供电(例如,通过导线或电池)并将图像帧数据直接传送到牵引车ECU以进行合成。此外或替换地,拖车摄像机可以配置为:当传输图像数据到拖车ECU时,周期性地从拖车ECU接收确认消息,并当缺失一个或多个确认消息时,拖车摄像机可以转换为直接将所拍摄的图像数据直接传送到牵引车ECU 14。
通过由牵引车ECU和/或拖车ECU(例如,通过由转向节主销处的机械式传感器分析已拍摄的牵引车后部图像数据相对拖车前部的图像数据的关系)来确定牵引车12和拖车22的铰接角α,并且ECU 14和ECU 24在将车辆的合成环绕视图图像合成在一起时考虑到所述铰接角,从而为驾驶员提供无缝式鸟瞰视图并使图像更加美观。
图3示出了根据本文公开的一个或多个特征的系统150,该系统使用拖车控制应用程序(“app”)便于产生铰接车辆的合成环绕视图。在一个示例中,拖车控制应用程序是诸如由克诺尔(Knorr Bremse)开发的应用程序。克诺尔集团的
Figure BDA0001507591080000071
拖车远程控制使用便携式计算装置152(诸如智能手机或平板电脑的应用程序)来控制各种各样的拖车功能,并且清晰地显示信息。应用程序通过WLAN或类似方式与拖车上的iTAP模块154进行通信,该iTAP模块154通过控制器局域网(CAN)总线将控制命令传送到车辆上的刹车控制器和底盘控制器。
在图3的示例中,该系统150包括在多节段的铰接车辆的牵引车或主部分12上的第一ECU 14,所述第一ECU 14与显示器16和多个摄像机18、20相耦接(例如,通过无线连接或有线连接),在显示器16上显示了车辆的环绕视图图像。虽然在图3中只示出了两个摄像机,但将理解的是,可以采用任意数量的摄像机,以辅助产生车辆的360°视图。各个摄像机拍摄车辆周围的一部分的图像(例如,视频帧),并且第一ECU将图像帧合成在一起以产生用以输出到显示器16牵引车环绕视图图像。
类似地,车辆的拖车或第二部分22包括第二ECU 24,所述第二ECU 24耦接(例如,通过无线连接或有线连接)至多个摄像机26、28、30、32并且接收由多个拖车摄像机拍摄的图像帧。第二ECU包括天线或收发器34,第二ECU通过所述天线或收发器34与连接到第一ECU14的天线或接收器36进行通信。此外,如同关于图1所述,ECU 14、24分别包括相应的处理器38a、38b和存储器40a、40b。
在一个实施例中,第二ECU 24将来自其多个摄像机的图像合成为车辆拖车部分的部分环绕视图,并将合成拖车图像数据传送到iTAP模块154,然后iTAP模块154将已合成的图像数据转发到便携式计算装置152(例如,智能手机或平板电脑等),从而向驾驶员显示。在另一个实施例中,牵引车(第一)ECU也将合成的牵引车环绕视图图像传送到便携式计算装置152,便携式计算装置152进而将拖车和牵引车环绕视图合成到一起,成为车辆的合成环绕视图。在此示例中,便携式计算装置作为主节点,而不是第一ECU(如图1的示例的情况)。
iTAP模块从多个车载系统和/或设备采集信息。例如,iTAP模块接收与例如胎压监测传感器、车载摄像机、负荷等级信息和电动气动的空气悬挂信息、拖车倾斜度、侧倾稳定性、拖车重量信息、压路机制动(finisher brake)状态信息、压力供应信息、以及任何其他合适的辅助系统信息相关的数据,并提供给便携式计算装置152。另外,iTAP模块154被配置为确定拖车相对于牵引车的铰接角,且在合成图像数据以形成车辆的合成环绕视图图像时,铰接角信息用于调整合成图像。对铰接车辆的合成考虑到了车辆节段之间的转动。发送到牵引车ECU 14的拖车的部分合成后的摄像机视图经过旋转,然后与牵引车的部分合成后的视图相结合。另外,可以调整接合线的位置,以允许节段间角度的变化。给定节段的ECU可以将采集到的数据和铰接角信息与每个合成节段图像帧一起来持续地传输,或者按预定间隔来传输。
为了将给定拖车上的iTAP模块154耦接至牵引车ECU 14和/或便携式计算装置152,在拖车附接到牵引车上时,可使用握手协议。例如,驾驶员在其手机上打开iTAP应用程序,并且驾驶员被提示以通过车辆提供信号以指示手机和/或牵引车ECU应当与iTAP模块配对。在一个示例中,提示驾驶员向拖车刹车施加预定量的力。iTAP模块检测施加的制动力,且将便携式计算装置上的指示检测到的制动力等级的图形提供给驾驶员。一旦驾驶员施加了预定的制动力,iTAP模块就与便携式计算装置和/或牵引车ECU配对,从而系统准备就绪。
继续参照图1至图3,本文描述的系统可以看作用于商用车辆的多节点计算机架构,其中各个车辆节段具有其专用的ECU和存储器,且各ECU被配置为接收、格式化、管理和封装节段信息以便其节段对这些信息的进一步使用,这些信息包括图像数据、传感器信息、控制信号。在车辆内的多个节点之间可以采用主从关系(例如,其中牵引车ECU对于拖车ECU是主设备,其中便携式计算装置对于拖车ECU和/或牵引车ECU是主设备,等等)。主ECU处理器可以与驾驶员接口设备和/或乘客接口设备(诸如显示器、键盘等)相关联。另外,主节点可以被配置为控制来自和去往从节点的信息流,从而对从信息进行调整、限制、修整或二次取样。在一个实施例中,传感器信息可以由除了安装传感器的节段以外的节段上的ECU处理。另外,在多个节点之间提供有通信链路,并且可以采用共同格式,此格式可以是预先建立的,也可以是在节段组合时建立的。通信网结构可以为以下之一:星状、中继、或其他的通信几何结构。
根据另一个实施例示例,牵引车ECU、拖车ECU和iTAP模块中的一个或多个可以确定在主节点与一个或多个从节点之间的数据链路的拥塞。在这种情况下,可以指示从节点的ECU来对其传输的数据(例如,图像数据、传感器数据等)进行二次取样或额外压缩,从而数据链路能够处理传输。在WiFi数据链路具有有限带宽的情况下,可以修整图像数据以去除在视频帧进行时不随时间变化的像素。在另一个实施例中,当WiFi数据链路超负荷时,压缩视频数据来进行传输。是否压缩数据以及数据压缩的程度也可以由从ECU在本地决定。
图4是根据本文描述的多种特征的主ECU 14(诸如上述牵引车ECU或便携式计算装置)的图示。ECU包括执行计算机可执行指令的处理器38a以及存储计算机可执行指令的存储器40a,计算机可执行指令便于执行本文描述的多种动作、功能等。当在主ECU的预定范围内检测到拖车ECU或iTAP模块时,处理器执行握手模块200,从而与拖车(第二)ECU配对以通信。一旦配对,主ECU就接收来自安装在牵引车上的多个摄像机的牵引车图像数据202,以及来自安装在与牵引车连接的拖车上的多个摄像机的拖车图像数据204。处理器执行铰接角补偿模块206,从而确定牵引车和拖车之间的铰接角,并且在执行图像处理模块208时补偿铰接角,以由牵引车图像数据和拖车图像数据来产生车辆的合成图像。处理器还执行合成模块210,该合成模块210将来自牵引车和拖车的图像数据合成到一起形成图像帧,并去除冗余的像素,诸如因为多个摄像机视野的重叠而产生的冗余像素。以这种方式,处理器对于由多个摄像机拍摄的每个视频帧产生了牵引车和拖车的无缝合成环绕视图图像。
在另一实施方式中,ECU 14、24两者之一或两者都识别有故障的或者饱和的摄像机,并停止从识别到的摄像机接收到的图像数据的传送或使用,以降低带宽消耗。例如,如果摄像机在由于光而变盲(饱和)或因故障拍摄不到物体时,对应的ECU可以发送故障指示,并且停止传送由故障摄像机拍摄的数据。
另外,ECU 14从位于牵引车和/或拖车的一个或多个传感器接收传感器数据212。传感器数据可以包括而不限于胎压数据、拖车倾斜角、车辆重量、载荷平衡信息等等,并可以与合成环绕视图图像一同显示给驾驶员。处理器还执行数据链路监控模块214,此数据链路监控模块214监控在主(牵引车)ECU 14和拖车ECU之间的数据链路上的通信负载。当确定数据链路过载时,处理器执行数据节流模块216,该数据节流模块216指示拖车ECU对正通过数据链路传送到主ECU的图像数据和传感器数据中的一个或多个进行二次取样或额外压缩。
将理解的是,本文描述的第二(拖车)处理节点或ECU可以包括与主ECU 14相似或相同的模块、软件、指令等等,以执行本文描述的多种功能(例如,图像帧的合成、数据的二次抽样等)。
图5示出了根据本文描述的多种特征的,使用铰接商用车辆的多节点计算机架构来产生合成环绕视图图像的方法。在将牵引车和拖车连接到一起,并且通过握手协议对其处理节点进行配对之后,在250处,在第一处理节点(例如,牵引车ECU)接收从第一组多个摄像机处拍摄的铰接车辆第一部分周围区域的图像数据。在252处,在第二处理节点接收从第二组多个摄像机处拍摄的铰接车辆第二部分周围区域的图像数据。在254处,在第一处理节点接收经由第二处理节点的或直接从第二组多个摄像机拍摄的铰接车辆第二部分周围区域的图像数据。在经由第二处理节点接收来自第二组多个摄像机的已拍摄的图像数据的情况下,第二处理节点首先将图像数据合成在一起以产生车辆拖车部分的环绕视图。
在256处,由从第一组和第二组多个摄像机接收到的拍摄的图像数据来产生铰接车辆的合成环绕视图图像。在产生环绕视图图像时,第一处理节点可以将在第一组和第二组多个摄像机中各独立的摄像机所拍摄的数据合成在一起,或者可以将来自第一组多个摄像机(安装在牵引车上)的所拍摄的数据合成形成为第一环绕视图图像,并将第一环绕视图图像与从第二处理节点接收到的拖车的第二环绕视图图像合成到一起。
根据另一实施例,第三处理节点(例如,智能手机、平板电脑等等)从第一处理节点接收第一环绕视图图像,并从第二处理节点接收第二环绕视图图像,并对第一环绕视图图像和第二环绕视图图像执行合成协议,从而产生铰接车辆的合成环绕视图图像来在智能手机或平板电脑上显示给观看者。第三处理节点可以被配置为经由与车辆拖车部分相关联的iTAP模块来接收第一环绕视图图像和第二环绕视图图像,其中iTAP模块起到在第三处理节点和第一处理节点之间的网关设备的作用。
在另一实施例中,第一处理节点确定车辆的牵引车部分和拖车部分之间的铰接角,并在产生合成环绕视图图像时考虑所确定的铰接角(例如,通过调整像素数据以使图像平滑)。另外,第一处理节点和第二处理节点中的每个节点都可以接收来自与其相应车辆部分相关联的一个或多个传感器(例如,胎压监控传感器、加速度计等)的传感器数据。可以将传感器数据与合成环绕视图图像一同显示给观看者(例如,驾驶员)。此外,第一处理节点可以监控在第一处理节点和第二处理节点之间的数据链路,并且能够在需要时指示第二处理节点对传感器数据和图像数据之一或两者进行二次抽样,以减少数据链路上的通信量。
已经参照若干实施方式描述了本发明。他人通过阅读和理解前面的详细描述可以想到修改和变化。本发明意在被理解为包含在所附的权利要求及等价的范围内的所有这样的修改和变化。

Claims (23)

1.一种使用铰接车辆的多节点计算机架构而便于产生合成图像的系统,包括:
第一组一个或多个摄像机,其拍摄所述铰接车辆的第一部分的周围区域的图像;
第一处理节点,其接收来自所述第一组一个或多个摄像机的拍摄的图像数据;
第二组一个或多个摄像机,其拍摄所述铰接车辆的第二部分的周围区域的图像;
第二处理节点,其接收来自所述第二组一个或多个摄像机的拍摄的图像数据,并将已拍摄的图像数据传送至所述第一处理节点;
其中,所述第一处理节点被配置为:由从所述第一组一个或多个摄像机和所述第二组一个或多个摄像机接收到的已拍摄的图像数据来产生所述铰接车辆的合成环绕视图图像,
其中,所述第一处理节点识别在所述第一组一个或多个摄像机和所述第二组一个或多个摄像机中的一组或多组中的一个或多个摄像机未正常运行,并在产生所述合成环绕视图图像时忽略与识别出的一个或多个摄像机相关的图像数据。
2.根据权利要求1所述的系统,其中,所述第一处理节点被配置为通过将来自所述第一组一个或多个摄像机的图像数据合成到一起而产生第一环绕视图图像,并且所述第二处理节点被配置为通过将来自所述第二组一个或多个摄像机的图像数据合成到一起而产生第二环绕视图图像。
3.根据权利要求2所述的系统,进一步包括第三处理节点,所述第三处理节点为便携式计算装置,所述第三处理节点被配置为:从所述第一处理节点接收所述第一环绕视图图像,并从所述第二处理节点接收所述第二环绕视图图像,并将所述第一环绕视图图像和所述第二环绕视图图像合成到一起形成所述铰接车辆的合成环绕视图图像,并显示所述合成环绕视图图像。
4.根据权利要求3所述的系统,其中,所述第二处理节点被配置为接收所述第二环绕视图图像,并且所述第二处理节点用作所述第一处理节点和所述第三处理节点之间的网关设备。
5.根据权利要求2所述的系统,其中,所述第一处理节点被配置为:从所述第二处理节点接收所述第二环绕视图图像,并将所述第一环绕视图图像和所述第二环绕视图图像合成到一起,形成所述铰接车辆的合成环绕视图图像。
6.根据权利要求1所述的系统,其中,所述第一处理节点是在所述铰接车辆的牵引车部分中的电子控制单元,并且其中,所述第二处理节点是在所述铰接车辆的拖车部分中的电子控制单元。
7.根据权利要求6所述的系统,其中,所述第一处理节点确定所述牵引车 部分和所述拖车部分之间的铰接角,并在产生所述合成环绕视图图像时考虑所确定的铰接角。
8.根据权利要求1所述的系统,其中,所述第二处理节点被进一步配置为:接收所述铰接车辆的第二部分的一个或多个监控参数的传感器信息并将该传感器信息转发至所述第一处理节点。
9.根据权利要求8所述的系统,其中,所述第一处理节点被进一步配置为:检测所述第一处理节点和所述第二处理节点之间的数据链路的过载,并指示所述第二处理节点以减少在所述数据链路上传送的所述图像数据和所述传感器信息中的至少一种的数据流量。
10.一种电子控制单元,其利用铰接车辆的多节点计算机架构来便于产生合成图像,所述电子控制单元包括:
处理器,其被配置为:
接收来自第一组一个或多个摄像机的拍摄的所述铰接车辆的第一部分的周围区域的视频数据;
从第二电子控制单元接收由第二组一个或多个摄像机拍摄的所述铰接车辆的第二部分的周围区域的视频数据;
确定所述铰接车辆的所述第一部分和所述第二部分之间的铰接角;以及
对于每一视频帧,在补偿所确定的铰接角的同时,将由所述第一组一个或多个摄像机和第二组一个或多个摄像机接收到的已拍摄的图像数据合成到一起,以形成所述铰接车辆的合成环绕视图图像,
其中,所述处理器还被配置为确定在所述第一组一个或多个摄像机和所述第二组一个或多个摄像机中的一组或多组中的一个或多个摄像机未正常运行,并在产生所述合成环绕视图图像时忽略与识别出的一个或多个摄像机相关的图像数据。
11.根据权利要求10所述的电子控制单元,其中,在接收所述第二组一个或多个摄像机所拍摄的视频数据的每一帧之前,由所述处理器将所述第二组一个或多个摄像机所拍摄的视频数据的每一帧合成为所述铰接车辆的第二部分的环绕视图。
12.根据权利要求11所述的电子控制单元,其中,对于每一视频帧,所述处理器被进一步配置为:合成所述铰接车辆的第一部分的环绕视图图像,然后将所述铰接车辆的第一部分和第二部分的环绕视图图像合成到一起,以形成所述铰接车辆的合成环绕视图图像。
13.根据权利要求10所述的电子控制单元,其中,所述处理器被进一步配置为:从所述第二电子控制单元接收所述铰接车辆的第二部分的一个或多个监控参数的当前传感器信息,并将接收到的传感器信息与合成环绕视图图像显示给驾驶员。
14.根据权利要求10所述的电子控制单元,其中,所述处理器被进一步配置为:检测所述电子控制单元和所述第二电子控制单元之间的数据链路的过载,并指示所述第二电子控制单元来减少在所述数据链路上传送的所述视频数据和传感器信息中的至少一种的数据流量。
15.一种使用铰接车辆的多节点计算机架构来产生合成环绕视图图像的方法,包括:
在第一处理节点接收来自第一组一个或多个摄像机的所述铰接车辆的第一部分的周围区域的拍摄的图像数据;
在第二处理节点接收来自第二组一个或多个摄像机的所述铰接车辆的第二部分的周围区域的拍摄的图像数据;
在所述第一处理节点接收所述铰接车辆的第二部分的周围区域的已拍摄的图像数据;
由从所述第一组一个或多个摄像机和所述第二组一个或多个摄像机接收到的已拍摄的图像数据来产生所述铰接车辆的合成图像;
确定在所述第一组一个或多个摄像机和所述第二组一个或多个摄像机中的一组或多组中的一个或多个摄像机未正常运行;以及
在产生所述合成环绕视图图像时忽略与识别出的一个或多个摄像机相关的图像数据。
16.根据权利要求15所述的方法,进一步包括:通过将来自所述第一组一个或多个摄像机的图像数据合成到一起而产生第一环绕视图图像,并且通过将来自所述第二组一个或多个摄像机的图像数据合成到一起而产生第二环绕视图图像。
17.根据权利要求16所述的方法,进一步包括:在第三处理节点接收来自所述第一处理节点的所述第一环绕视图图像以及来自所述第二处理节点的所述第二环绕视图图像,将所述第一环绕视图图像和所述第二环绕视图图像合成到一起形成所述铰接车辆的合成环绕视图图像,并将所述合成环绕视图图像显示在显示器上。
18.根据权利要求17所述的方法,其中,所述第二处理节点是网关设备并且被配置为接收所述第一环绕视图图像和所述第二环绕视图图像,并且所述第二处理节点用作所述第三处理节点与所述第一处理节点之间的网关设备。
19.根据权利要求16所述的方法,其中,所述第一处理节点被配置为:从所述第二处理节点接收所述第二环绕视图图像,并将所述第一环绕视图图像和所述第二环绕视图图像合成在一起形成所述铰接车辆的合成环绕视图图像。
20.根据权利要求15所述的方法,其中,所述第一处理节点是在所述铰接车辆的牵引车部分中的电子控制单元,并且其中,所述第二处理节点是在所述铰接车辆的拖车部分中的电子控制单元。
21.根据权利要求15所述的方法,其中,所述第一处理节点确定所述第一部分和所述第二部分之间的铰接角,并在产生所述合成环绕视图图像时考虑所确定的铰接角。
22.根据权利要求15所述的方法,其中,所述第二处理节点被进一步配置为接收所述第二部分的一个或多个监控参数的传感器信息并将该传感器信息转发给所述第一处理节点,并且其中,所述第一处理节点被进一步配置为检测所述第一处理节点和所述第二处理节点之间的数据链路的过载,并指示所述第二处理节点将在所述数据链路上传送的所述图像数据和所述传感器信息中的至少一种进行二次取样。
23.一种使用铰接车辆的多节点计算机架构来便于产生合成图像的设备,包括:
第一接收装置,其用于在第一处理节点接收来自第一组一个或多个摄像机的所述铰接车辆的第一部分的周围区域的拍摄的图像数据;
第二接收装置,其用于在第二处理节点接收来自第二组一个或多个摄像机的所述铰接车辆的第二部分的周围区域的拍摄的图像数据;
其中,所述第一接收装置被进一步配置为从所述第二处理节点接收所述铰接车辆的第二部分的周围区域的已拍摄的图像数据;以及
处理装置,其用于确定所述铰接车辆的第一部分和第二部分之间的铰接角,并在根据从所述第一组一个或多个摄像机和所述第二组一个或多个摄像机接收到的已拍摄的图像数据来产生所述铰接车辆的合成图像时,补偿所述铰接角;
其中所述处理装置还被配置为确定在所述第一组一个或多个摄像机和所述第二组一个或多个摄像机中的一组或多组中的一个或多个摄像机未正常运行,并在产生所述合成图像时忽略与识别出的一个或多个摄像机相关的图像数据。
CN201680034752.7A 2015-06-15 2016-06-10 双节点合成图像系统架构 Active CN108040508B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US14/739,302 US9860445B2 (en) 2015-06-15 2015-06-15 Dual node composite image system architecture
US14/739,302 2015-06-15
PCT/US2016/036794 WO2016205080A1 (en) 2015-06-15 2016-06-10 Dual node composite image system architecture

Publications (2)

Publication Number Publication Date
CN108040508A CN108040508A (zh) 2018-05-15
CN108040508B true CN108040508B (zh) 2021-01-22

Family

ID=56292900

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201680034752.7A Active CN108040508B (zh) 2015-06-15 2016-06-10 双节点合成图像系统架构

Country Status (5)

Country Link
US (2) US9860445B2 (zh)
EP (1) EP3539284B1 (zh)
CN (1) CN108040508B (zh)
PL (1) PL3539284T3 (zh)
WO (1) WO2016205080A1 (zh)

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9902217B2 (en) * 2015-07-28 2018-02-27 Ford Global Technologies, Llc System and method for managing tire pressure for a trailer
DE102015214611A1 (de) * 2015-07-31 2017-02-02 Conti Temic Microelectronic Gmbh Verfahren und Vorrichtung zum Anzeigen einer Umgebungsszene eines Fahrzeuggespanns
US9796228B2 (en) * 2015-12-17 2017-10-24 Ford Global Technologies, Llc Hitch angle detection for trailer backup assist system
JP6737288B2 (ja) * 2016-01-13 2020-08-05 株式会社ソシオネクスト 周囲監視装置、画像処理方法、及び画像処理プログラム
US20170217372A1 (en) * 2016-02-02 2017-08-03 Magna Electronics Inc. Wireless camera system for vehicle and trailer
US10073451B2 (en) * 2016-08-02 2018-09-11 Denso International America, Inc. Safety verifying system and method for verifying tractor-trailer combination
US10721397B2 (en) * 2016-09-01 2020-07-21 Caterpillar Inc. Image processing system using predefined stitching configurations
US10518702B2 (en) * 2017-01-13 2019-12-31 Denso International America, Inc. System and method for image adjustment and stitching for tractor-trailer panoramic displays
EP3349086A1 (en) * 2017-01-17 2018-07-18 Thomson Licensing Method and device for determining a trajectory within a 3d scene for a camera
US11238281B1 (en) * 2017-02-27 2022-02-01 Amazon Technologies, Inc. Light source detection in field of view
CN107087107B (zh) * 2017-05-05 2019-11-29 中国科学院计算技术研究所 基于双摄像头的图像处理装置及方法
US11361640B2 (en) 2017-06-30 2022-06-14 Johnson Controls Tyco IP Holdings LLP Security camera system with multi-directional mount and method of operation
US11288937B2 (en) 2017-06-30 2022-03-29 Johnson Controls Tyco IP Holdings LLP Security camera system with multi-directional mount and method of operation
GB2565846B (en) * 2017-08-25 2022-02-09 Haldex Brake Prod Ab Braking system
US10713811B2 (en) 2017-09-29 2020-07-14 Sensormatic Electronics, LLC Security camera system with multi-directional mount and method of operation
GB201718176D0 (en) * 2017-11-02 2017-12-20 Jaguar Land Rover Ltd Display method and apparatus
JP6725482B2 (ja) * 2017-12-05 2020-07-22 矢崎総業株式会社 演算装置
DE102018201027B4 (de) * 2018-01-23 2021-09-30 Continental Automotive Gmbh Kamera-Monitor-System sowie Verfahren und Vorrichtung zum Betreiben eines Kamera-Monitor-Systems für ein Kraftfahrzeug
EP3627183B1 (en) * 2018-09-18 2022-05-11 KNORR-BREMSE Systeme für Nutzfahrzeuge GmbH Control system for autonomous driving of a vehicle
KR102491386B1 (ko) 2018-12-27 2023-01-26 삼성전자주식회사 전자 장치 및 그 제어 방법
GB2582323B (en) 2019-03-19 2022-02-09 Jaguar Land Rover Ltd Image processing system and method
US11699312B2 (en) 2019-05-03 2023-07-11 Stoneridge Electronics, AB Vehicle recording system utilizing event detection
PL3758301T3 (pl) * 2019-06-25 2022-08-01 Knorr-Bremse Systeme für Nutzfahrzeuge GmbH Urządzenie i sposób do zapewniania nadmiarowej komunikacji w obrębie architektury pojazdu i odpowiednia architektura sterowania
CN112184545A (zh) * 2019-07-05 2021-01-05 杭州海康威视数字技术股份有限公司 车载环视图生成方法、装置及系统
CN110430360A (zh) * 2019-08-01 2019-11-08 珠海格力电器股份有限公司 一种全景图像拍摄方法及装置、存储介质
DE102019122086A1 (de) 2019-08-16 2021-02-18 Connaught Electronics Ltd. Fahrerassistenz für eine Kombination
DE102021207558A1 (de) 2021-07-15 2023-01-19 Continental Autonomous Mobility Germany GmbH Kamerasystem sowie Verfahren zum Erzeugen einer Ansicht mit einem Kamerasystem
DE102021130882A1 (de) * 2021-11-25 2023-05-25 Zf Cv Systems Global Gmbh Fahrerassistenzsystem für ein Nutzfahrzeug mit einem Anhänger und Verfahren zur Steuerung eines solchen Systems
WO2024031333A1 (en) * 2022-08-09 2024-02-15 Apollo Intelligent Driving Technology (Beijing) Co., Ltd. Scalable video compression accelerator for autonomous driving
WO2024076616A1 (en) * 2022-10-06 2024-04-11 Stoneridge Electronics Ab Camera monitoring system including trailer monitoring video compression

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003235036A (ja) * 2002-02-07 2003-08-22 Nissan Motor Co Ltd 車両用画像表示装置
CN101340566A (zh) * 2007-07-02 2009-01-07 日产自动车株式会社 图像处理系统和方法
CN102821267A (zh) * 2011-06-08 2012-12-12 富士通天株式会社 图像生成装置以及图像生成方法
WO2014073756A1 (en) * 2012-11-12 2014-05-15 Lg Electronics Inc. Array camera, mobile terminal, and methods for operating the same

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6690413B1 (en) * 1999-04-21 2004-02-10 Michael S. Moore Tractor-trailer viewing system
JP2008077628A (ja) 2006-08-21 2008-04-03 Sanyo Electric Co Ltd 画像処理装置並びに車両周辺視界支援装置及び方法
GB2447672B (en) * 2007-03-21 2011-12-14 Ford Global Tech Llc Vehicle manoeuvring aids
JP2009060499A (ja) 2007-09-03 2009-03-19 Sanyo Electric Co Ltd 運転支援システム及び連結車両
CA2689743C (en) * 2008-11-26 2015-07-28 Transoft Solutions, Inc. Method and apparatus for displaying a representation of a traffic intersection
US20130156113A1 (en) * 2010-08-17 2013-06-20 Streamworks International, S.A. Video signal processing
US9296422B2 (en) * 2011-04-19 2016-03-29 Ford Global Technologies, Llc Trailer angle detection target plausibility
US9854209B2 (en) * 2011-04-19 2017-12-26 Ford Global Technologies, Llc Display system utilizing vehicle and trailer dynamics
DE112012002885B4 (de) 2011-07-08 2022-01-27 Bendix Commercial Vehicle Systems Llc Verfahren und Vorrichtung zur bildbasierten Fahrzeugerfassung und Entfernungsmessung
US8902313B2 (en) 2011-11-02 2014-12-02 Robert Bosch Gmbh Automatic image equalization for surround-view video camera systems
GB2509066A (en) 2012-12-19 2014-06-25 Haldex Brake Products Ltd A control system for a trailer
US9129528B2 (en) * 2013-02-04 2015-09-08 Ford Global Technologies Trailer active back-up assist with lane width HMI
US9457970B1 (en) * 2015-03-30 2016-10-04 Google Inc. Modular cross-docking system

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003235036A (ja) * 2002-02-07 2003-08-22 Nissan Motor Co Ltd 車両用画像表示装置
CN101340566A (zh) * 2007-07-02 2009-01-07 日产自动车株式会社 图像处理系统和方法
CN102821267A (zh) * 2011-06-08 2012-12-12 富士通天株式会社 图像生成装置以及图像生成方法
WO2014073756A1 (en) * 2012-11-12 2014-05-15 Lg Electronics Inc. Array camera, mobile terminal, and methods for operating the same

Also Published As

Publication number Publication date
PL3539284T3 (pl) 2022-04-25
CN108040508A (zh) 2018-05-15
WO2016205080A1 (en) 2016-12-22
EP3539284B1 (en) 2021-12-15
US9860445B2 (en) 2018-01-02
EP3539284A1 (en) 2019-09-18
US20180097996A1 (en) 2018-04-05
US20160366336A1 (en) 2016-12-15

Similar Documents

Publication Publication Date Title
CN108040508B (zh) 双节点合成图像系统架构
US11634073B2 (en) Multi-camera vehicular vision system
US11054821B2 (en) Remote-operation apparatus and remote-operation method
US11180083B2 (en) Vehicular multi-camera vision system that utilizes trailer camera
US11318884B2 (en) Video monitoring system for a motor vehicle
CN110278418B (zh) 视频数据的处理系统、方法和车辆
US11833979B2 (en) Multi-camera vehicle vision system with data synchronization
US20100039494A1 (en) Vehicle-mounted video communication system and vehicle-mounted image pickup system
JP4643860B2 (ja) 車両用視覚支援装置及び支援方法
US20170158133A1 (en) Vehicle vision system with compressed video transfer via dsrc link
EP3345387B1 (en) Vehicle imaging system and method
US20190230323A1 (en) Vehicle vision system with wireless camera pairing
KR101795180B1 (ko) 페일 세이프 기능을 갖는 차량 측후방 모니터링 장치 및 방법
WO2014103272A1 (ja) カメラシステム、カメラモジュールおよびカメラ制御方法
US10764084B2 (en) Integrated electronic control unit
US20190007597A1 (en) Vehicle system for communication with trailer sensor
US20200413000A1 (en) Automobile camera comprising raw image signal interface
JP5195776B2 (ja) 車両周辺監視装置
CN112839214A (zh) 一种基于无人机与地面小车多视野的巡检系统
KR101124317B1 (ko) 후방카메라를 이용한 자동차 통신시스템
US20220159425A1 (en) Methods and apparatuses for determining and receiving v2x messages
US11175412B2 (en) Vehicle-to-X communication system
JP2004320642A (ja) 動体通知方法、動体検出方法、撮像装置及び動体検出システム
US20230110938A1 (en) Vehicular vision system with remote display feature
CN112550277B (zh) 车辆和自动泊车系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant