CN110116676B - 车辆-拖车后视视觉系统和方法 - Google Patents

车辆-拖车后视视觉系统和方法 Download PDF

Info

Publication number
CN110116676B
CN110116676B CN201910089448.8A CN201910089448A CN110116676B CN 110116676 B CN110116676 B CN 110116676B CN 201910089448 A CN201910089448 A CN 201910089448A CN 110116676 B CN110116676 B CN 110116676B
Authority
CN
China
Prior art keywords
image
vehicle
trailer
area
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910089448.8A
Other languages
English (en)
Other versions
CN110116676A (zh
Inventor
M·穆拉德
F·W·亨特齐克
C·钟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
GM Global Technology Operations LLC
Original Assignee
GM Global Technology Operations LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by GM Global Technology Operations LLC filed Critical GM Global Technology Operations LLC
Publication of CN110116676A publication Critical patent/CN110116676A/zh
Application granted granted Critical
Publication of CN110116676B publication Critical patent/CN110116676B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/002Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles specially adapted for covering the peripheral part of the vehicle, e.g. for viewing tyres, bumpers or the like
    • B60R1/003Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles specially adapted for covering the peripheral part of the vehicle, e.g. for viewing tyres, bumpers or the like for viewing trailer hitches
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/02Rear-view mirror arrangements
    • B60R1/04Rear-view mirror arrangements mounted inside vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/12Mirror assemblies combined with other articles, e.g. clocks
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/31Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles providing stereoscopic vision
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/12Mirror assemblies combined with other articles, e.g. clocks
    • B60R2001/1253Mirror assemblies combined with other articles, e.g. clocks with cameras, video cameras or video screens
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8046Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for replacing a rear-view mirror system
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8066Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring rearward traffic

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)

Abstract

一种用于产生牵引拖车的车辆后方区域的组合后视图像的方法和系统,所述方法包括:从装设在车辆上的车辆摄像头捕获第一图像,第一图像由车辆后方区域组成;从装设在拖车上的拖车摄像头捕获第二图像,第二图像由拖车后方区域组成;确定第一图像内的被遮查看区,被遮查看区是第一图像的拖车所驻留的区;将第二图像叠加在第一图像上并且至少部分地在被遮查看区内;在第一图像中、第二图像中和/或在被遮查看区内以及第二图像和第一图像之间的补丁区中插入图形。

Description

车辆-拖车后视视觉系统和方法
技术领域
本发明一般性地涉及通过使用装设在车辆和拖车上的摄像头来产生和显示车辆和拖车后方区域。
背景技术
许多车辆可以配备某些类型的牵引组件,其通常包括拖车挂钩和拖车连接器。拖车连接器提供从车辆到拖车的电力并为拖车上的电气部件供电,例如尾灯和/或电动制动设备。现在,一些拖车包括位于拖车后端并面向拖车后方区域的摄像头。由拖车摄像头捕获的视频馈送可以被传送到牵引车辆(即牵引拖车的车辆)并且被显示以供车辆操作者或乘客查看。另外,许多车辆包括面向车辆后方区域的后向摄像头。然而,车辆的后向摄像头的视场经常被拖车遮挡。
发明内容
根据一个实施例,提供了一种产生牵引拖车的车辆后方区域的组合后视图像的方法,所述方法包括:从装设在车辆上的车辆摄像头捕获第一图像,第一图像由车辆后方区域组成;从装设在拖车上的拖车摄像头捕获第二图像,第二图像由拖车后方区域组成;确定第一图像内的被遮查看区,被遮查看区是第一图像中拖车所在的区;将第二图像叠加在第一图像上并且至少部分地在被遮查看区内;在第一图像中、第二图像中和/或在被遮查看区内以及第二图像和第一图像之间的补丁区中插入图形。
根据各种实施例,所述方法还可包括以下特征中的任何一个或这些特征的任何技术上可行的组合:
·确定第一图像内和/或至少部分地与被遮查看区重叠的图像叠加区域的步骤,其中第二图像叠加在图像叠加区域内;
·确定拖车铰接角度的步骤,其中至少部分地基于拖车铰接角度确定图像叠加区域;
·处理第二图像的步骤,使得处理后的第二图像从具有与车辆摄像头的视角相同的视角的视点描绘拖车后方区域;
·处理步骤至少部分基于拖车摄像头视角和车辆摄像头视角;
·至少一些图形没有描绘或试图描绘车辆后方区域或拖车后方区域,并且其中至少一些图形突出显示一个或多个道路特征;
·至少部分图形描绘或试图描绘车辆后方区域和/或拖车后方区域;
·使用场景记忆技术获得至少一些图形,其中场景记忆技术包括以下步骤:保留第一图像的至少一部分,并且随后,调用第一图像的一部分,并使用第一图像的被调用部分填充在被遮查看区内的补丁区的至少一部分;以及/或
·在包括在车辆中的电子显示镜上显示组合后视图像的步骤,其中电子显示镜是后视镜,其使得车辆操作者或车辆乘客能够查看车辆后方区域,并且其中显示组合后视图像使车辆操作者或车辆乘客能够在不被拖车遮挡的情况下查看车辆后方区域和拖车后方区域。
根据另一实施例,提供了一种产生牵引拖车的车辆后方区域的组合后视图像的方法,所述方法包括:从装设在车辆上的车辆摄像头捕获第一图像,第一图像由车辆后方区域组成;从装设在拖车上的拖车摄像头捕获第二图像,第二图像由拖车后方区域组成;在第一图像内定义被遮查看区,被遮查看区是第一图像内包括拖车的区;确定被遮查看区内的图像叠加区域;根据图像叠加区域将第二图像插入第一图像;在被遮查看区内和图像叠加区域外的补丁区中渲染图形,其中图形包括描绘或试图描绘被遮查看区内和第二图像外的区域的自然场景图形;在装设在车辆中的电子显示器上显示组合图像,其中组合图像包括第一图像的至少一部分、第二图像的至少一部分和渲染图形。
根据各种实施例,所述方法还可包括以下特征中的任何一个或这些特征的任何技术上可行的组合:
·所述方法至少部分地由装设在车辆中的车载计算机执行,其中车载计算机执行定义步骤、确定步骤、插入步骤和渲染步骤;
·在车载计算机上接收第一图像和第二图像的步骤,其中通过车辆-拖车接口接收第二图像;
·执行所述方法的多次迭代,包括第一次迭代和第二次迭代,其中第一次迭代的一个或多个步骤在第二次迭代的一个或多个步骤之后执行,其中第一次迭代在第二次迭代之前完成;
·执行所述方法的多次迭代,包括第一次迭代和第二次迭代,其中第一次迭代包括在第一次迭代期间将第一图像的至少一部分保留在车载计算机的存储器中,并且其中第二次迭代的渲染步骤包括使用第一图像的保留部分来渲染第二次迭代的图形;
·第二次迭代还包括获得车辆速度的步骤,并且其中第二次迭代的渲染步骤至少部分地基于所获得的车辆速度;以及/或
·在组合图像上叠加图形的步骤,该图像指示或试图引导车辆操作者或车辆乘客注意道路特征。
根据又一实施例,提供了一种用于车辆的车辆后视视觉系统,包括:装设在车辆上的车辆摄像头,其中车辆摄像头被配置为捕获车辆后方区域;装设在车辆上的电子显示器;装设在车辆上的车载计算机,其中车载计算机包括处理器和非暂时性计算机可读存储器,其中存储器包括计算机程序产品,当由处理器执行时,使得车辆执行组合图像产生过程,组合图像产生过程包括:从车辆摄像头获取第一图像,第一图像由车辆后方区域组成;从装设在由车辆牵引的拖车上的拖车摄像头获得第二图像,第二图像由拖车后方区域组成;确定第一图像内的被遮查看区,被遮查看区是第一图像中拖车所驻留的区;将第二图像叠加在第一图像上并且至少部分地在被遮查看区内;将图形插入被遮查看区内以及第二图像和第一图像之间的补丁区;在电子显示器上显示组合图像,其中组合图像包括第一图像的至少一部分、第二图像的至少一部分和插入的图形。
根据各种实施例,所述系统还可包括以下特征中的任何一个或这些特征的任何技术上可行的组合:
·车轮速度传感器,并且其中一些图形是基于从车轮速度传感器读取的车轮速度产生的;
·存储器,包括图像识别软件,其使得车载计算机能够识别道路特征,并且其中图像识别软件与计算机程序产品结合使用以渲染图形,用于在组合图像的与识别的道路特征相对应的区中显示;和/或
·计算机程序产品,当由处理器执行时,还使得车辆在组合图像产生过程的第一次迭代期间将第一图像的至少一部分保留在车载计算机的存储器中,并且其中组合图像产生过程的第二次迭代的渲染步骤包括使用第一图像的被保留部分来渲染第二次迭代的图形。
附图说明
在下文中将结合附图描述优选的示例性实施例,其中相同的标号表示相同的元件,并且其中:
图1是描绘可以与车辆和拖车一起使用的系统的示例的框图;
图2是车辆和拖车的俯视图,其中拖车的铰接角度为零;
图3是车辆和拖车的俯视图,其中拖车的铰接角度不为零;
图4是电子显示镜上的显示器的示意图,示出了当拖车铰接角度为零时车辆摄像头的透视图;
图5是电子显示镜上的显示器的示意图,示出了当拖车铰接角度不为零时车辆摄像头的透视图;
图6是示出产生牵引拖车的车辆后方区域的组合后视图像的方法的实施例的流程图;
图7是电子显示镜的视图,示出了车辆摄像头面向牵引拖车的车辆后方区域的透视图;
图8是电子显示镜的视图,示出了车辆摄像头面向牵引拖车的车辆后方区域并且由来自拖车摄像头的图像或视频补充的透视图;
图9是电子显示镜的视图,示出了车辆摄像头面向牵引拖车的车辆后方区域的透视图,其由来自拖车摄像头的图像或视频补充,并且包括车道标记图形;以及
图10是组合图像的实施例,其包括电子显示镜的视图,其示出了车辆摄像头面向牵引拖车的车辆后方区域的透视图,其由来自拖车摄像头的图像或视频补充,并且包括车道标记图形以及背景图形。
具体实施方式
本文描述的系统和方法通常被设计成产生牵引拖车的车辆后方区域的组合后视图像。组合后视图像是包括由车辆摄像头捕获的第一图像的至少一部分、由拖车摄像头捕获的第二图像的至少一部分以及一个或多个图形的图像。应当理解,虽然组合后视图像的某些区域或区仍然可能被一个或多个物体遮挡,但是本文描述的组合后视图像基本上减轻或减少了由车辆牵引的拖车引起的遮挡量。在一个实施例中,一种方法可用于从车辆摄像头捕获第一图像并从拖车摄像头捕获第二图像。此后,所述方法可以确定第一图像内正被拖车遮挡的被遮查看区,然后,可以将第二图像插入到被遮查看区区域内的适当区域中。此后,可以通过使用场景记忆技术来填充被遮查看区未被第二图像覆盖的部分,这将在下面更详细地描述。另外,可以在图像上产生和显示图形,以便增强图像。这些图形可以突出显示道路特征,例如车道标记、路缘和道路边缘。
在一些实施例中,所述方法可以考虑拖车的铰接角度非零使得拖车和车辆的纵向轴线彼此不对齐的情况。例如,所述方法可以包括使用来自各种车辆传感器的读数以及对从车辆摄像头接收的图像执行的图像处理技术来确定拖车相对于车辆的铰接角度。一旦确定了铰接角度,车辆可以确定将由拖车摄像头捕获的图像放置在由车辆捕获的第一图像内的何处。
此外,在一些实施例中,可以在组合图像(即,包括来自车辆摄像头的第一图像与叠置在第一图像上的来自拖车摄像头的第二图像的最终图像)上产生和显示图形以显示道路特征,包括路缘、车道标记和道路边缘。这些图形可以用于补充组合图像,并且可以在本文提供的方法的各种实施例期间产生。
参考图1,示出了用于车辆和拖车的车辆后视视觉系统10的可能实施例。车辆后视视觉系统10包括车辆12、拖车14和一个或多个车辆-拖车接口(或连接器)60、62。车辆和拖车通过车辆-拖车接口(或连接器)60、62彼此电耦合,并且通过拖车挂钩在结构上或机械上耦合到另一个。车辆包括车辆硬件20,并且拖车包括拖车硬件70。
车辆12被描绘为乘用车,但是应当理解,本方法和系统可以与其他车辆一起实施,包括摩托车、卡车(包括半卡车)、运动型多功能车(SUV)、休闲车(RV)、船舶、飞机、火车等。图1中示出了与本系统和方法更相关的车辆硬件20的一些部件,但是技术人员将理解,在大多数现代车辆中存在更广泛的车辆硬件集合。车辆硬件20可包括车辆摄像头22、车载计算机30、车身控制模块(BCM)40、电子显示镜50和第一车辆-拖车接口连接器60。还应当理解,图1中所示的车辆硬件20仅用于说明的目的,因为部件、设备、模块和/或系统的实际布置或配置可能与此处显示的有很大不同,并且不限于任何特定实施例。
车辆摄像头22可用于捕获与光有关的照片、视频和/或其他信息。摄像头22可以是通过使用车辆电池供电的电子数码摄像头。摄像头22可以包括存储器设备和处理设备,以存储和/或处理它捕获或以其他方式获得的数据。由摄像头22获得的数据可以被发送到另一车辆系统模块(VSM),例如车辆的车载计算机30。摄像头22可以是任何合适的摄像头类型(例如,电荷耦合器件(CCD)、互补金属氧化物半导体(CMOS)等)并且可以具有任何合适的镜头,使得它不限于任何特定类型、品牌或型号。根据一种可能性,摄像头22提供视频数据,其中图像被水平翻转(即,它们是由摄像头最初捕获的视频的镜像)。水平翻转的视频数据考虑了摄像头22和驾驶员面向相反方向的事实,从而允许以与传统后视镜一致的取向在电子显示镜50上呈现视频数据。可以与摄像头22一起使用的可能实施例或特征的一些非限制性示例包括:用于夜视的红外LED;广角或鱼眼镜头;表面贴装,嵌入式安装,许可证安装或侧装摄像头;多摄像头的立体布置;集成到尾灯、刹车灯或车辆后端的其他部件中的摄像头;以及有线或无线摄像头,举几个可能性。
摄像头22可以装设和/或安装在车辆12上,并且可以配置成面向相对于车辆的向后方向,使得摄像头可以捕获位于车辆后方的区域,即,摄像头的视野可以包括车辆后方区域,并且在许多实施例中,正由车辆12牵引的拖车可以占据摄像头的视场的至少一部分。根据特定实施例,摄像头22可以安装在车辆12的后部外部部分上,并且在一些实施例中,摄像头22可以是已被包括为许多消费者车辆(包括汽车和卡车)的一部分,或一个或多个法律或法规(包括美国国家公路交通安全管理局(NHTSA)要求某些车辆包括备用摄像头的规定)可能要求的备用摄像头(或倒车摄像头)。在一个实施例中,摄像头22可以安装在或嵌入车辆12的后保险杠,车辆12的行李箱或其他后门,车辆12的后挡板(包括被包括在皮卡车中的挡板),车辆12的扰流板,和/或车辆12上适于安装或嵌入摄像头22的任何其他位置,使得视场包括车辆12后方区域。
在一些实施例中,可以使用多个摄像头22,每个摄像头可以装设和/或安装在车辆12上。在一个特定实施例中,多个摄像头可以定位在车辆的外部并且面向车辆的后方。可以以立体取向配置两个或更多个摄像头,使得从区域的多个视点提供视频数据,并且当根据三维渲染算法组合和处理时,可以渲染该区域的三维重建(例如,拖车后方区域)。然后,该渲染可以显示在视觉显示器上,例如视觉显示器58或电子显示镜50。立体取向是指多个摄像头的取向,使得它们的视场重叠,从而允许它们各自视场重叠的区域的多个视点。
机载计算机30是车辆系统模块,其包括处理器34和存储器36,并且在一些实施例中,还可以包括无线芯片组或电路32,其使得能够利用例如蜂窝载波系统或另一本地无线设备来执行无线通信。另外,至少在一些实施例中,车载计算机30可以是信息娱乐单元(例如,信息娱乐头单元、车载娱乐(ICE)单元、车载信息娱乐系统(IVI)),车辆头部单元,中央堆叠模块(CSM),或车辆导航模块。在一些实施例中,车载计算机30可包括一个或多个车辆-用户界面,包括按钮52和/或麦克风56,如下面更详细讨论的。
处理器34可以是能够处理电子指令的任何类型的设备,包括微处理器、微控制器、主处理器、控制器、车辆通信处理器和专用集成电路(ASIC)。它可以是仅用于车载计算机30的专用处理器,或者可以与其他车辆系统共享。处理器34执行各种类型的数字存储指令,例如存储在存储器36中的软件或固件程序,这使得计算机30能够提供各种各样的服务。例如,处理器34可以执行程序或处理数据以执行本文所讨论的方法的至少一部分。存储器36可以包括RAM、其他临时供电的存储器、任何非暂时性计算机可读介质(例如,EEPROM)、或存储执行本文所讨论的各种外部设备功能所需的一些或全部软件的任何其他电子计算机介质。
如上所述,车载计算机30可以包括可以用于使用天线38执行无线通信的无线芯片组或电路32。在一个实施例中,无线芯片组32是被配置为使用蜂窝载波系统(例如可以实现GSM/GPRS技术、CDMA或CDMA2000技术、LTE技术等的蜂窝载波系统)执行蜂窝通信的蜂窝芯片组。另外或替代地,车载计算机30可以包括使得能够使用短程无线通信(SRWC)技术(包括Wi-FiTM、WiMAXTM、ZigBeeTM、Wi-Fi directTM、其他IEEE 802.11协议、BluetoothTM、BluetoothTM低功耗(BLE)或近场通信(NFC))执行SRWC的SRWC电路。在其他实施例中,无线通信可以在连接到总线44的另一车辆系统模块(VSM)处执行。
在图1的示例性实施例中,主体控制模块(BCM)40被示为电耦合到通信总线44。在一些实施例中,BCM 40可以与中心堆栈模块(CSM)集成或者是其一部分和/或与车载计算机30集成。或者,BCM可以是通过总线44彼此连接的单独设备。BCM 40可以包括处理器和/或存储器,其可以类似于处理器34和车载计算机30的存储器36,如上所述。BCM 40可以与车载计算机30和/或一个或多个车辆系统模块(例如音频系统54或其他VSM 42)通信。BCM 40可以包括处理器和存储器,使得BCM可以指导一个或多个车辆操作,包括,例如,控制中央锁定、空调、动力镜、控制车辆主动机(例如,发动机、主推进系统)、和/或控制各种其他车辆模块。BCM 40可以从车载计算机30接收数据,并且随后将数据发送到一个或多个车辆模块。
另外,BCM 40可以提供与车辆状态或某些车辆部件或系统相对应的信息。例如,BCM可以向车载计算机30提供指示车辆点火是否开启、车辆当前所处的挡位(即挡位状态)的信息,和/或关于车辆的其他信息。在一个实施例中,方法200(图6)可以在一个或多个车辆状态下启动,例如车辆点火开启状态(即,点火开启的车辆状态)。并且,在一些实施例中,所述方法可以使用车辆状态信息来执行一个或多个步骤。在这样的实施例中,BCM 40可以获得并向车载计算机30发送信息,包括车辆速度、拖车铰接角度、方向盘角度以及可以从装设在车辆上的其他VSM或传感器获得的各种其他信息。在一些实施例中,可以使用各种车辆传感器确定或测量拖车铰接角度,并且至少在一个实施例中,车辆可以包括特别适于或配置成测量拖车铰接角度的传感器。
电子显示镜50包括集成在后视镜单元或壳体中的视频显示器,使得显示器实时向驾驶员显示从车辆摄像头22和/或拖车摄像头72输出的视频。根据图1的示例性实施例,电子显示镜50通信地耦合到车载计算机30并从车载计算机30接收图像和/或视频。在一个实施例中,电子显示镜50可以直接连线到车载计算机30或者可以是通过总线44连接到车载计算机30。电子显示镜可以使用任何数量的不同显示技术,例如液晶显示器(LCD)或发光二极管(LED)显示器。应当理解,本文描述的系统和方法可以使用任何合适类型的电子显示镜50,并且不限于任何特定的一种。例如,电子显示镜50可以是全显示镜(FDM),其中设备的整个可视表面示出来自摄像头22和/或摄像头72的视频;它可以是电子显示镜的类型,其中只有显示表面的一部分示出来自摄像头22和/或摄像头72的视频,而显示表面的其他部分示出其他信息(例如,转弯或其他导航指令、指南针或航向信息、主车辆性能数据等);它可以有相应地调节亮度的日间和夜间模式;或者它可以有触摸屏,使得用户可以进行选择或以其他方式输入数据,举几个可能性。代替电子显示镜50定位在后视镜的传统位置(即,安装在前挡风玻璃的上部中心位置),它可以是车载计算机30、其他中控台信息娱乐系统或其他VSM的一部分。
车辆硬件20还包括多个车辆用户界面,其为车辆乘客提供用于提供和/或接收信息的装置,包括按钮52、音频系统54、麦克风56和视觉显示器58。如在本文中所使用的,术语“车辆-用户界面”广泛地包括任何合适形式的电子设备,包括硬件和软件部件,其位于车辆上并且使车辆用户能够与车辆的部件通信或通过车辆的部件进行通信。按钮52允许手动用户输入到车载计算机30以提供其他数据、响应或控制输入。音频系统54向车辆乘客提供音频输出,并且可以是专用的独立系统或主要车辆音频系统的一部分。根据这里所示的特定实施例,音频系统54可操作地耦合到车辆总线44和娱乐总线(未示出)两者,并且可以提供AM、FM和卫星无线电、CD、DVD和其他多媒体功能。该功能可以与信息娱乐模块和/或车载计算机30结合或独立提供。麦克风56向车载计算机30提供音频输入,以使驾驶员或其他乘客能够提供语音命令和/或通过无线运营商系统执行免提呼叫。为此,它可以利用人机界面(HMI)技术连接到机载自动语音处理单元。视觉显示器或触摸屏58优选地是图形显示器,例如仪表板上的触摸屏或从挡风玻璃反射的抬头显示器,并且可用于提供多种输入和输出功能。还可以利用各种其他车辆用户界面,因为图1的界面仅是一个特定实施方式的示例。
设备22-62中的任何设备可以是独立的,如图1所示,或者它们可以合并或包括在某些其他设备、单元或模块中。此外,设备22-62中的任何设备可以是专用的,或者它们可以是车辆中的其他系统或子系统的一部分或由其共享。例如,来自车载计算机30的增强视频输出可以直接或间接地提供给电子显示镜34。因此,设备22-62不限于图1中的示意图或上面的示例性描述,也不限制于任何特定实施例或布置,只要它们可以与本文描述的方法一起使用即可。
拖车14被描绘为存储拖车,但是应当理解,本系统和方法可以与其他拖车一起实施,包括船拖车、牲畜拖车、半拖车、摩托车拖车、弹出式露营拖车、推车拖车、旅行拖车,第五轮等。在图1中示出了与本系统和方法更相关的拖车硬件70的一些部件,但是技术人员将理解现代拖车中存在更广泛的拖车硬件集合。拖车14可包括提供结构支撑的框架80,以及车辆12可用于确定拖车铰接角度的某些拖车框架部件82、84,如下面更详细地讨论的。拖车14还可以包括一个或多个摄像头72和车辆-拖车接口62。还应当理解,图1中所示的拖车硬件70仅用于说明的目的,因为部件、设备、模块和/或系统的实际布置或配置可以与这里所示的基本不同,并且不限于任何特定实施例。在另一个实施例中,第二拖车可以通过类似于车辆-拖车接口的接口附接到拖车14,使得车辆可以通过拖车-拖车接口(在结构上可以与车辆-拖车接口类似或相同)与第二拖车通信。附加的拖车可以通过车辆或类似布置的其他拖车附接和通信。
拖车摄像头72可用于捕获与光有关的照片、视频和/或其他信息。摄像头72可以是通过使用车辆电池供电的电子数码摄像头。摄像头72可以包括存储器设备和处理设备,以存储和/或处理它捕获或以其他方式获得的数据。由摄像头72获得的数据可以被发送到位于车辆12上的模块,例如车载计算机30。摄像头72可以是任何合适的摄像头类型(例如,电荷耦合器件(CCD)、互补金属氧化物半导体(CMOS)等)并且可以具有任何合适的镜头,使其不限于任何特定类型、品牌或型号。根据一种可能性,摄像头72提供视频数据,其中图像被水平翻转(即,它们是最初由摄像头捕获的视频的镜像)。可以与摄像头72一起使用的可能实施例或特征的一些非限制性示例包括:用于夜视的红外LED;广角或鱼眼镜头;表面贴装,嵌入式安装,许可证安装或侧装摄像头;多摄像头的立体布置;集成在拖车后端的尾灯、刹车灯或其他部件的摄像头;以及有线或无线摄像头,举几个可能性。
摄像头72可以装设和/或安装在拖车14上,并且可以配置成面向相对于拖车的向后方向,使得拖车摄像头可以捕获位于拖车后方区域,即,拖车摄像头的视场可以包括拖车后方区域,并且在许多实施例中,由拖车摄像头72捕获的图像或视频可以用于补充由车辆摄像头22捕获的图像或视频。在一个实施例中,由拖车摄像头72捕获的图像或视频可以被合并到由车辆摄像头22在被遮查看区中捕获的图像或视频中。例如,拖车14可能遮挡由车辆摄像头22捕获的图像的区(即,被遮查看区),因此,可以通过将来自拖车摄像头72的图像或视频组合到包含在来自车辆摄像头22的那些图像或视频内的被遮查看区中来补充该被遮挡区。用这种方式,来自车辆摄像头22和拖车摄像头72的图像或视频可以一起使用并且彼此集成,以便提供可以在电子显示镜50上显示的无遮挡的后视图,以供车辆操作者或乘客查看。
根据特定实施例,拖车摄像头72可以安装在拖车14的后部外部部分上,并且在一些实施例中,拖车摄像头72可以是备用摄像头(或倒车摄像头),已经被包括在一些消费者拖车中。在一个实施例中,摄像头72可以安装在或嵌入拖车14的后保险杠、拖车14的行李箱或其他后门和/或拖车14上适于安装或嵌入摄像头72的任何其他位置,使得视场包括拖车14后方区域。在其他实施例中,摄像头72可以装设或安装在拖车14的一侧并面向不能被车辆操作者容易查看的盲点区域,或者可以装设或安装在拖车14的位置上,使得摄像头72的视场捕获构成被遮查看区的至少一部分的区域的图像或视频,如上所述。在一些实施例中,可以使用多个摄像头72,每个摄像头可以装设和/或安装在拖车14上。在一个特定实施例中,多个摄像头可以各自定位在拖车外部的相对侧上,以便面向一个或更多盲点区域(即,车辆操作者无法容易查看的区域)。在其他实施例中,多个摄像头可以装设和/或安装在拖车14上,使得摄像头面向拖车的向后方向。两个或更多个摄像头可以以立体取向配置,使得如上面关于车辆摄像头22所讨论的那样。
车辆-拖车接口连接器60(车辆侧)和62(拖车侧)可用于将拖车硬件70连接到由车辆提供的电力和/或提供拖车硬件70和车辆硬件20之间的通信。在一个实施例中,标准的7针SAE J560兼容接口可用于将拖车硬件70连接到来自车辆电池的电力。在许多实施例中,车辆-拖车接口可以包括用于通信的专用线路,并且在其他实施例中,拖车硬件70可以包括可以用于通过使用无线芯片组32与车载计算机30执行无线通信的无线电路。无论是有线还是无线实施例,车辆和拖车都可以以双向方式通信。这种无线通信可以包括上面讨论的那些SRWC技术中的任何一种,例如任何IEEE 802.11协议或任何蓝牙TM协议。在其他实施例中,电力线通信技术可用于在连接车辆12和拖车14的一条或多条电力线上调制数据。本领域技术人员将理解可以集成到车辆硬件20/或拖车硬件70中的其他可能的车辆-拖车通信装置。
车辆-拖车接口可包括两个连接器、车辆侧连接器60和拖车侧连接器62,它们以互补的方式配合在一起。在一个实施例中,包括在车辆硬件20中的车辆侧接口连接器60包括一个或多个母销和/或公销。因此,包括在拖车硬件70中的拖车侧接口连接器62包括互补的公销和/或母销,使得它们与车辆侧接口连接器60的销互补。
参考图2和图3,提供了车辆和拖车的俯视图,其中拖车的铰接角度为零(图2)和非零(图3)。图2和图3可用作参考以补充方法200(图6)的讨论,其在下面讨论。如图2和3所示,参考线A示出了车辆12的纵向中心轴线,参考线B示出了拖车14的纵向中心轴线,并且参考线C示出了拖车14的框架部件82、84的轴线。如下面更详细讨论的,可以使用这些参考点计算某些角度以提供可以在方法200(图6)的各种实施例中使用的拖车铰接角度。
如图2所示,示出了车辆12和拖车14彼此对齐使得拖车相对于车辆的当前铰接角度φ为零的情形。铰接角度可以通过参考线A和参考线B测量,使得铰接角度表示车辆12的中心纵向轴线与拖车14的中心纵向轴线之间的角度。在一些实施例中,其他参考线或轴线可以用于计算铰接角度φ。例如,车辆可以使用后向车辆摄像头22来基于摄像头22的视场内的一个或多个物体确定铰接角度φ,包括拖车框架部件82或84。如图2所示,参考线C对应于拖车框架部件82的轴线,并且参考线A用于计算第一参考角度α1,该第一参考角度α1可以与预定或预定义的参考角度α0一起使用以确定铰接角度φ。例如,车辆摄像头22可用于捕获拖车框架部件82的图像,此后,可使用图像处理技术来确定第一参考角度α1。然后可以将该角度与预定或预定义的参考角度α0进行比较,该参考角度α0可以是当纵向车辆轴线(由参考线A表示)和纵向拖车轴线(由参考线B表示)对齐时参考线C和参考线A之间的角度,如图2所示。在一些实施例中,可以从预定参考角α0中减去第一参考角度α1,以获得铰接角度φ。铰接角度φ可以用在方法200的各个步骤中,这将在下面讨论。
参考图4和5,示出了分别在图2和图3中呈现的场景期间从车辆摄像头22获取的视图的示例。这些视图示出了第一图像102、第二图像104、被遮查看区110和图像叠加区域120。图4示出了在拖车铰接角度φ为0°(图2)的情况下如由车辆摄像头22将捕获的直的拖车14,并且图5示出了在拖车铰接角度φ非零(图3)的情况下如由车辆摄像头22将捕获的处于一角度的拖车14。当描述下面的方法200(图6)时,出于说明的目的参考图2-5。
参考图6,提供了一种产生牵引拖车的车辆后方区域的组合后视图像的方法200。方法200通常包括以下步骤:从车辆摄像头22和拖车摄像头72捕获图像(或视频),利用来自车辆摄像头22的图像(或视频)确定被遮查看区,在至少部分被遮查看区上叠置来自拖车摄像头72的图像(或视频),并应用场景记忆技术来填充被遮查看区未被来自拖车摄像头72的图像(或视频)补充的区域。其他实施例包括用图形增强完成的或组合后视图像(或视频),例如,可以突出显示道路特征。
在许多实施例中,方法200可以在计算机可读介质中体现的计算机程序产品(或“应用程序”)中实现,并且包括可由一个或多个系统的一个或多个计算机的一个或多个处理器使用的指令。所述计算机程序产品可以包括一个或多个软件程序,该软件程序包括源代码、目标代码、可执行代码或其他格式的程序指令;一个或多个固件程序;或硬件描述语言(HDL)文件;以及任何程序相关的数据。数据可以包括数据结构、查找表或任何其他合适格式的数据。程序指令可以包括程序模块、例程、程序、对象、部件和/或类似物。计算机程序可以在一台计算机上或在彼此通信的多台计算机上执行。
程序可以体现在计算机可读介质上,例如存储器36,其可以是非暂时性的并且可以包括一个或多个存储设备、制品等。示例性计算机可读介质包括计算机系统存储器,例如RAM(随机存取存储器)、ROM(只读存储器);半导体存储器,例如EPROM(可擦除、可编程ROM)、EEPROM(电可擦除、可编程ROM)、闪存;磁盘或光盘或磁带;和/或类似物。计算机可读介质还可以包括计算机到计算机的连接,例如,当通过网络或另一通信连接(有线、无线或其组合)传输或提供数据时。上述示例的任何组合也包括在计算机可读介质的范围内。因此,应该理解,所述方法可以至少部分地由能够执行与所公开方法的一个或多个步骤相对应的指令的任何电子物品和/或设备执行,包括作为车辆硬件20和/或拖车硬件70的一部分的电子设备。
方法200开始于步骤210,其中捕获来自装设在车辆上的车辆摄像头的第一图像。在许多实施例中,第一图像可以包括车辆后方区域。并且,在其他实施例中,可以使用多个车辆摄像头,例如面向左盲点的摄像头和面向右盲点的另一个摄像头。然后,摄像头22捕获的图像或视频可以通过通信总线44发送到车载计算机30。车载计算机30获得该图像/视频输入,然后可以例如存储、缓冲、处理和/或传递视频到电子显示镜50,如下所述。方法200继续到步骤220。
在步骤220中,捕获来自装设在拖车上的拖车摄像头的第二图像。在一些实施例中,第二图像可以包括拖车后方区域,例如第一图像的被遮查看区内的区域。第二图像可以由拖车摄像头72捕获,然后传送到车辆12的车载计算机30。图像可以通过经由车辆-拖车接口连接器60、62从拖车延伸到车辆的有线连接发送到车载计算机。在其他实施例中,来自拖车摄像头72的图像或视频可以使用拖车和车辆处的SRWC芯片组或电路无线地发送。车载计算机30获得第二图像输入,然后可以例如存储、缓冲、处理和/或传递视频到电子显示镜50,如下所述。方法200继续到步骤230。
在步骤230中,处理和/或操纵第二图像,使得第二图像反映对应于第一图像的视角。例如,在一些实施例中,车辆摄像头22和拖车摄像头72可以相对于车辆或拖车后方区域以不同的角度取向,并且因此,在将第二图像合并到第一图像的区之前,至少在一些实施例中,可以证明有利于确定对应于第一图像的视角,使得可以以某种方式处理和/或操纵第二图像,以便根据确定的视角描绘拖车后方区域。可以使用各种方法来确定视角,包括使用与车辆摄像头22和拖车摄像头72相关联的预定或预定义视角值。在其他实施例中,可以处理和/或操纵第一图像,使得第一图像反映与第二图像对应的视角。此外,在至少一个实施例中,可以处理和/或操纵第一图像和第二图像两者,使得所得图像从感兴趣的角度的视点反映查看图像。
例如,可以向车辆提供或编程有关于车辆摄像头22的视角的信息。另外,车辆可以通过例如从拖车信息数据库检索关于拖车14的型号的拖车信息来获得拖车摄像头72的视角。拖车信息数据库可以存储在远程位置,例如可通过因特网访问的远程服务器。在这种情况下,车辆12可以检索拖车信息(其包括与拖车摄像头视角有关的信息),然后可以将该信息存储在诸如存储器34的存储器中。在其他实施例中,对拖车14可以已知某些拖车信息并将其发送到车辆12的车载计算机30。或者,在其他实施例中,车辆12可包括拖车信息数据库,例如在存储器36中。确定或获得拖车摄像头角度的其他示例可以是通过驾驶员将该信息输入系统,或者系统基于指示驾驶员短时间驾驶同时摄像头学习其位置的算法来自动学习摄像头的角度。并且,在另一个实施例中,系统可以通过提示操作者将某些预定义形状放置在摄像头的视场(FOV)中的某些位置,然后提示摄像头学习其位置和基于预定义形状的位置查看角度来确定该角度。一旦获得拖车摄像头视角,车辆也可以获得车辆摄像头视角。该角度可以从存储与车辆有关的信息的车辆信息数据库获得。车载计算机30可以从远程服务器、从存储器36和/或从车辆12的另一个VSM获得该信息。
一旦在车载计算机30处获得拖车摄像头视角和车辆摄像头视角,就可以相应地处理或操纵第二图像(来自拖车摄像头72)。例如,第二图像的某些区域可能需要变形,以便反映对应于车辆摄像头22的视角的图像。可以使用各种技术来变形或变换第二图像。并且,在一些实施例中,也可以根据视角处理第一图像。如上所述,可以使用对应于其他视角的图像,并且在这样的实施例中,可以相应地执行所述方法,如本领域技术人员将理解的。一旦根据拖车摄像头视角和/或车辆摄像头视角处理第二图像,则方法200前进到步骤240。
在步骤240中,确定第一图像内的被遮查看区。在许多实施例中,被遮查看区是第一图像中拖车所驻留或占据的区。例如,在图4中,拖车14遮挡区110的至少一部分,并且在图5中,以角度φ铰接的拖车14遮挡第一图像102的左侧的大部分。因此,可以基于各种因素动态地确定被遮查看区,所述各种因素包括拖车14的铰接角度、车辆12的方向盘角度、使用图像处理技术在第一图像内识别拖车14、以及各种其他信息。此外,被遮查看区可以包括第一图像的未被遮挡的和/或围绕第一图像中拖车所驻留的区的其他区域。以这种方式,可以移除第一图像内的拖车14周围的这些区域,以允许在第一图像插入第一和第二图像之间的更平滑或更自然的过渡,如下所述(步骤250)。
可以通过对应于第一图像内的位置的两个或更多个坐标来定义被遮查看区。坐标系可以基于第一图像的分辨率,并且可以使用与第一图像内的像素对应的索引(坐标对)来定义。在一个实施例中,被遮查看区可以由表示四边形(例如,矩形)的顶点的四个坐标来定义。在其他实施例中,可以使用其他过程来定义第一图像内的被遮查看区。
可以静态地定义或动态地定义被遮查看区。在一个实施例中,计算机30的存储器36可存储对应于当铰接角度φ为0°(零度)并且车辆和拖车在水平表面上时被拖车遮挡的区域的预定义的被遮查看区定义(例如,定义被遮查看区的四个坐标)。然后可以根据拖车的当前铰接角度φ、在第一图像和/或第二图像上执行的图像处理技术、拖车与车辆之间的距离、方向盘角度、由车辆硬件20或拖车硬件70确定的一个或多个其他车辆或拖车状态、和/或各种其他信息(例如,拖车宽度和高度)来修改预定义的被遮查看区定义。车辆可以通过从远程设施下载该内容或者通过预先配置或编程信息(该信息可以存储在存储器36中)来获得该信息,例如拖车和车辆之间的距离。或者,车辆可以使用备用传感器以获得拖车和车辆之间的距离。
铰接角度可用于调节被遮查看区定义,因为根据铰接角度φ,拖车可能遮挡第一图像的不同区。并且,在许多实施例中,拖车的长度可以用于调节被遮查看区定义,因为这可以在确定被遮查看区的边界中起重要作用。例如,如果拖车向右铰接(参考角度α1小于预定参考角度α0),则来自车辆摄像头22的第一图像的左侧可能比第一图像的右侧更多地被遮挡,如图5所示。因此,通过获得铰接角度φ,车载计算机可以知道第一图像的某些部分是否以及在何种程度上正被拖车遮挡,从而为车载计算机提供信息以便定义适合被遮查看区。铰接角度φ可以使用各种方法获得,例如在第一图像上使用图像处理技术以确定对应于拖车框架部件82、84的参考线C和/或使用来自BCM 40的信息,包括方向盘角度。
另外,当定义被遮查看区时,可以通过在第一图像和/或第二图像上使用图像处理技术来导出关于要被切除的被遮挡的区域和/或其他区域的信息。例如,可以通过使用物体识别或模式识别技术处理第一图像来识别拖车,其中一些技术可以包括使用与拖车14相关联的预定义或预定数据。可以使用这些图像识别技术代替铰接角度,或者可以用于在定义被遮查看区时相互证实。附加地或替代地,车辆可以使用车辆后部的已经存在的接近传感器(即,备用传感器),其可以使用雷达(或其他技术)来定位拖车的边界。
此外,第一图像和第二图像可以包括表示拖车后方的相同区域的区。例如,车辆摄像头22和拖车摄像头72都可以捕获位于拖车左后方的物体。因此,在至少一些实施例中,可能不希望将第二图像放置在第一图像内(步骤250),其中两个图像描绘相同的物体,因为这可能使车辆12的操作者或乘客感到困惑。因此,图像处理技术(包括物体识别技术)可以用于识别车辆摄像头22和拖车摄像头72的视场内的某些物体。然后可以在第一图像内识别这些复制区,然后可以将其包括在被遮查看区定义中,这将导致这些区在被显示以供车辆操作者或乘客查看之前从第一图像中移除。一旦确定了被遮查看区定义并将其存储在存储器36中,方法200就前进到步骤250。
在步骤250中,将第二图像叠加在第一图像上并且在被遮查看区内。该步骤可以包括确定与第二图像将在第一图像上叠加的区域对应的图像叠加区域。可以使用与定义被遮查看区的方式类似的多个坐标来定义图像叠加区域。并且,在一些实施例中,图像叠加区域可以与被遮查看区相同-即,图像叠加区域定义可以与被遮查看区定义相同。并且,在其他实施例中,图像叠加区域可以基于被遮查看区定义,或者被遮查看区可以基于图像叠加区域。并且,在许多实施例中,被遮查看区可以包括图像叠加区域的一部分和不在图像叠加区域内的其他部分。在图像叠加区域外部的被遮查看区的这些部分可以被称为补丁区并且可能被填充,如下所述。
可以使用各种技术来确定图像叠加区域,其中一些技术可以基于拖车的铰接角度φ、拖车信息(例如,拖车尺寸,例如拖车长度)和其他信息。物体识别或模式识别技术可用于在第一图像内对齐第二图像,以便不在最终的组合后视图像内产生物体的变形或不准确的外观。一旦确定了图像叠加区域,该区域的定义可以存储在存储器(例如存储器36)中,并且可以与其他信息一起存储,例如铰接角度φ,以便当在铰接角度φ相同的情况下稍后出现步骤250(作为方法200的未来迭代)时,可以从存储器36中调用图像叠加区域定义而不是重新计算。此后,可以将第二图像数据(例如,表示像素的字节)转置到第一图像数据中,从而获得在图像叠加区域内包含第一图像和第二图像的图像。然后可以将该图像(即,“聚合图像”)存储在存储器36中。一旦第二图像被重叠或插入图像叠加位置,就可以证明将第二图像移动和/或调整其大小以使其以更逼真的方式填充空白空间并更好地将图像集成在一起可能是有用的。通过改进该集成过程,可能需要填充较少的补丁区区域。并且,在该集成过程期间,可以使用其他图像处理技术来调节、缩放、变换和/或处理第二图像,以便将第二图像集成到聚合图像中,从而形成更逼真的图像。方法200继续到步骤260。
在步骤260中,可以添加图形以便增强要向车辆操作者或乘客显示的图像。这些图形可突出显示或引导用户注意图像内的某些物体或区域,从而使车辆操作者或乘客更多地了解其周围环境。图形可以对应于图像中的某些物体,其可以通过使用某些图像处理技术(物体识别或模式识别技术)来识别。替代地或附加地,图形可以基于在车辆上的一个或多个车辆传感器处接收的其他信息,诸如通过激光雷达或雷达获得的信息,或者通过与远程服务器的连接从无线通信设备获得的信息。例如,图形可以是车道变换警告,其警告车辆操作者诸如另一车辆的物体处于与车辆相邻的车道中。可以根据要应用图形的相应物体来调节图形大小和/或变换图形。在一些实施例中,可以在图像上产生并显示突出显示道路标记、路缘和/或道路边缘的图形(步骤280)。
另外,车载计算机可以获得和/或产生拖车车轮的图形(即,虚拟拖车车轮图形),其可以用于通知车辆操作者或乘客拖车车轮相对于道路的位置。方法200继续到步骤270。
在步骤270中,可以开发或获得图形以用于填充聚合图像的补丁区。可以使用各种技术来填充这些补丁区,包括场景记忆技术和/或图像拼接技术。在一些实施例中,缝合技术可用于改善整体图像,尤其是在包括在图像叠加区域和/或被遮查看区中或周围的区中。这些技术可以包括调节图像属性(例如,亮度、照明度、对比度、颜色曲线)以及选择改变各个像素值。
还可以通过使用场景记忆技术来填充补丁区。场景记忆是指保留某些图像以供稍后在包括由保留图像表示的区域的至少一部分的其他图像中使用。例如,车辆摄像头22可以具有到拖车72侧面的区域的无遮挡视图。然后,当车辆向前移动时,这些区域可能随后被拖车14遮挡。但是,此时,车辆可以使用保留图像以填充被拖车遮挡或者在被遮查看区内的补丁区-应当理解,被遮查看区可以包括第一图像的未被拖车遮挡而被包括的区域,使得它们将被移除然后修补或缝合,从而在第一和第二图像之间提供更好的过渡。
场景记忆技术可以由车载计算机30的处理器34执行。车载计算机30可以使用来自车辆上包括的一个或多个车辆系统模块或传感器(例如BCM40和/或车轮速度传感器)的各种信息。在一些实施例中,车辆速度可以由车载计算机30从BCM 40获得,或者从装设在车辆12上的一个或多个车轮速度传感器获得。车辆速度可以用于确定第一和第二图像的像素正在移动的速率,因此,确定在被遮查看区的何处插入保留图像。方法200继续到步骤280。
在步骤280中,在包括在车辆中的电子显示镜上显示组合图像。在其他实施例中,组合图像可以显示在车辆的另一显示器上,例如信息娱乐单元显示器或多媒体显示器。组合图像包括由车辆摄像头22捕获的第一图像的至少一部分、由拖车摄像头72捕获的第二图像的至少一部分、以及一个或多个图形。可以产生一个或多个图形以突出显示道路特征或者以其他方式将车辆操作者或乘客的注意力引导到包含在组合图像内的物体或其他信息。或者,一个或多个图形可以是试图重建车辆和拖车周围区域的部分的图形,以便模仿车辆后方未被拖车遮挡的视图。
在许多实施例中,组合图像可以显示在电子显示镜50上。组合图像可以通过通信总线44发送到电子显示镜50。在其他实施例中,无遮挡的最终图像可以被发送到车辆内的一个或多个其他显示器,包括显示器58。组合图像或其至少一部分可以保存到非暂时性计算机可读存储器(或甚至是随机存取存储器(RAM))中,使得这些图像可以稍后被调用用于执行方法200的未来迭代。例如,在方法200的下一次迭代时,第一图像的不在被遮查看区内的某些部分可以从存储器中调用,然后在下一次迭代中使用以填充被遮查看区的一部分。
另外,应当理解,尽管参考创建单个图像讨论了方法200,但是方法200可以用于创建一系列图像,这些图像可以用于创建要在电子显示镜上显示的视频。并且,至少在一些实施例中,方法200的迭代可以以串行或并行方式执行-即,方法200可以在开始方法200的下一次迭代之前完全执行(串行)或方法200(或者其中的某些步骤)可以以并行方式执行,使得方法200的第一次迭代的某些步骤与方法200的第二次迭代的某些步骤同时执行。然后方法200结束。
参考图7-10,示出了使用车辆摄像头和拖车摄像头获得的视频和/或图像数据的进展,并且视频和/或图像数据与各种图形组合以获得描绘车辆后方区域同时减轻拖车造成的干扰的组合图像。在许多实施例中,上述方法200(图6)可用于产生组合图像(图10),然后将组合图像呈现在显示器上,例如电子显示镜50。
图7描绘了由示出拖车14的后向车辆摄像头22获得的第一图像102。如图所示,由车辆12牵引的拖车14遮挡拖车后方的一部分区域。如方法200(图6)的步骤210中所述,可以通过使用车辆摄像头22捕获该第一图像102。图8描绘了第一图像102,以及由拖车摄像头72捕获的第二图像104,第二图像104在图像叠加区域120处叠加在第一图像102上。图8包括补丁部分130,补丁部分130包括拖车14的没有被来自拖车摄像头72的第二图像104补充的区域。可以通过使用拖车摄像头72捕获第二图像104,如方法200的步骤220中所述。此外,可以使用各种不同的技术(例如以上在方法200的步骤250中描述的那些技术)在图像叠加位置120处在第一图像102上对第二图像104进行叠加、重新定位和/或调节大小。
图9描绘了来自图8的聚合图像,但还包括突出显示一个或多个道路特征的各种图形,例如车道标记图形140和道路边缘图形150。这些图形可以根据以上在方法200(图6)的步骤260中讨论的任何实施例产生和/或渲染。图10描绘了准备好在车辆的显示器(例如电子显示镜50)上呈现的组合图像。图10描绘了产生的图形以便填充补丁区130,并且如图所示,这些图形可以产生为使得它们匹配车辆12和拖车14后方的背景场景。例如上面在步骤270中讨论的那些场景记忆技术可以用于填充补丁区130。另外,可以添加其他图形,例如描绘拖车车轮所在的区的拖车轮胎图形160。
本领域技术人员将理解,本文讨论的系统和/或方法也可以应用于其他场景。在其他实施例中,第一摄像头可以包括在主车辆(例如,车辆12)上并且由主车辆(例如,车辆12)使用,并且第二摄像头可以包括在另一个主体上,例如拖车上的另一个被牵引的物品(例如,另一车辆、船)。或者,在其他实施例中,位于主车辆前部并且面向主车辆前方区域的第一摄像头可以与位于主车辆前方的另一车辆的前部的第二摄像头一起使用。以使得主车辆能够获得车辆前方区域的组合图像,并且不会(或更少)被主车辆前方的车辆遮挡。
应理解,前面的描述不是本发明的定义,而是对本发明的一个或多个优选示例性实施例的描述。本发明不限于本文公开的特定实施例,而是仅由下面的权利要求限定。此外,前面描述中包含的陈述涉及特定实施例,并且不应被解释为对本发明范围的限制或权利要求中使用的术语的定义,除非以上明确定义了术语或短语。对于本领域技术人员来说,各种其他实施例以及对所公开的实施例的各种改变和修改将是显而易见的。例如,步骤的特定组合和顺序仅是一种可能性,因为本方法可以包括步骤的组合,其具有比这里示出的步骤更少、更多或不同的步骤。所有这些其他实施例、改变和修改旨在落入所附权利要求的范围内。
如在本说明书和权利要求书中所使用的,术语“例如”、“例”、“比如”、“诸如”和“如”,以及动词“包含”、“具有”、“包括”和其他动词形式,当与一个或多个部件或其他项目的列表一起使用时,每个都被解释为开放式的,这意味着该列表不应被视为排除其他附加部件或物品。其他术语应使用其最广泛的合理含义来解释,除非它们用于需要不同解释的上下文中。此外,术语“和/或”应被解释为包含性的或。作为示例,短语“A、B和/或C”包括:“A”;“B”;“C”;“A和B”;“A和C”;“B和C”;和“A,B和C”。

Claims (13)

1.一种产生牵引拖车的车辆后方区域的组合后视图像的方法,所述方法包括:
从装设在所述车辆上的车辆摄像头捕获第一图像,所述第一图像由所述车辆后方区域组成;
从装设在所述拖车上的拖车摄像头捕获第二图像,所述第二图像由所述拖车后方区域组成;
确定所述第一图像内的被遮查看区,所述被遮查看区是所述第一图像的所述拖车所驻留的区;
在所述被遮查看区内确定图像叠加区域;
确定拖车铰接角度,其中至少部分地基于所述拖车铰接角度确定所述图像叠加区域,
所述第二图像叠加在所述图像叠加区域内;
在所述第一图像、所述第二图像以及在所述被遮查看区内所述图像叠加区域外的补丁区中当中插入图形,其中,补丁区包括未被遮部分,使得至少一些图形被插入未被遮部分,以便在第一图像和第二图像之间提供更平滑的过渡;
在所述车辆中的电子显示镜上显示组合后视图像,其中所述电子显示镜是使车辆操作者或车辆乘客能够查看所述车辆后方区域的后视镜,并且其中所述组合后视图像的所述显示使得所述车辆操作者或所述车辆乘客能够在不被所述拖车遮挡的情况下查看所述车辆后方区域和所述拖车后方区域。
2.根据权利要求1所述的方法,还包括处理所述第二图像的步骤,使得处理后的所述第二图像从具有与所述车辆摄像头的视角相同的视角的视点描绘所述拖车后方区域。
3.根据权利要求2所述的方法,其中所述处理步骤至少部分地基于拖车摄像头视角和车辆摄像头视角。
4.根 据权利要求1所述的方法,其中所述图形中的至少一些不描绘或试图描绘所述车辆后方区域或所述拖车后方区域,并且其中所述图形中的至少一些突出显示一个或多个道路特征。
5.根据权利要求1所述的方法,其中所述图形中的至少一些描绘或试图描绘所述车辆后方区域和/或所述拖车后方区域。
6.根据权利要求5所述的方法,其中使用场景记忆技术获得所述图形中的至少一些,其中所述场景记忆技术包括以下步骤:保留所述第一图像的至少一部分,并且随后,调用所述第一图像的所述部分,并使用所述第一图像的被调用部分来填充所述被遮查看区内的所述补丁区的至少一部分。
7.一种产生牵引拖车的车辆后方区域的组合后视图像的方法,所述方法包括:
从装设在所述车辆上的车辆摄像头捕获第一图像,所述第一图像由所述车辆后方区域组成;
从装设在所述拖车上的拖车摄像头捕获第二图像,所述第二图像由所述拖车后方区域组成;
在所述第一图像内定义被遮查看区,所述被遮查看区是所述第一图像内包括所述拖车的区;
在所述被遮查看区内确定图像叠加区域;
根据所述图像叠加区域将所述第二图像插入所述第一图像;
识别第一图像的部分,该部分对应于位于被遮查看区内和图像叠加区外的补丁区,其中补丁区的至少一部分包括没有被拖车遮挡的未被遮部分;
在所述被遮查看区内和所述图像叠加区域外的补丁区中渲染图形,其中所述图形包括描绘或试图描绘所述被遮查看区内和所述第二图像外的区域的自然场景图形,并且其中至少一些图形被插入未被遮部分,以便在第一图像和第二图像之间提供更平滑的过渡;以及
在装设在所述车辆中的电子显示器上显示组合图像,其中所述组合图像包括所述第一图像的至少一部分、所述第二图像的至少一部分和所述渲染的图形。
8.根据权利要求7所述的方法,其中所述方法至少部分地由装设在所述车辆中的车载计算机执行,其中所述车载计算机执行所述定义步骤、所述确定步骤、所述插入步骤和所述渲染步骤。
9.根据权利要求8所述的方法,还包括在所述车载计算机处接收所述第一图像和所述第二图像的步骤,其中通过车辆-拖车接口接收所述第二图像。
10.根据权利要求8所述的方法,其中执行所述方法的多次迭代,包括第一次迭代和第二次迭代,其中所述第一次迭代的一个或多个步骤在所述第二次迭代的一个或多个步骤之后执行,其中所述第一次迭代在所述第二次迭代之前完成。
11.根据权利要求8所述的方法,其中执行所述方法的多次迭代,包括第一次迭代和第二次迭代,其中所述第一次迭代包括在所述第一次迭代期间将所述第一图像的至少一部分保留在所述车载计算机的存储器中,并且其中所述第二次迭代的所述渲染步骤包括使用所述第一图像的所述保留部分来渲染所述第二次迭代的所述图形。
12.根据权利要求11所述的方法,其中所述第二次迭代还包括获得所述车辆的速度的步骤,并且其中所述第二次迭代的所述渲染步骤至少部分地基于所获得的所述车辆的速度。
13.根据权利要求7所述的方法,其中还包括在所述组合图像上叠加图形的步骤,所述图形指示或试图将车辆操作者或车辆乘客的注意力引导至道路特征。
CN201910089448.8A 2018-02-06 2019-01-30 车辆-拖车后视视觉系统和方法 Active CN110116676B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US15/889,470 US10549694B2 (en) 2018-02-06 2018-02-06 Vehicle-trailer rearview vision system and method
US15/889470 2018-02-06

Publications (2)

Publication Number Publication Date
CN110116676A CN110116676A (zh) 2019-08-13
CN110116676B true CN110116676B (zh) 2022-11-22

Family

ID=67308857

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910089448.8A Active CN110116676B (zh) 2018-02-06 2019-01-30 车辆-拖车后视视觉系统和方法

Country Status (3)

Country Link
US (2) US10549694B2 (zh)
CN (1) CN110116676B (zh)
DE (1) DE102019102716A1 (zh)

Families Citing this family (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10556545B2 (en) * 2015-06-29 2020-02-11 Royal Truck & Equipment, Inc. Over-cab rack for traffic delineators
US11008717B2 (en) * 2015-06-29 2021-05-18 Royal Truck & Equipment, Inc. Safety truck attachments, and methods of safety truck use
US10801169B2 (en) 2015-06-29 2020-10-13 Royal Truck & Equipment, Inc Truck safety modules for assisting workpersons to place and retrieve traffic delineators
US10369924B2 (en) * 2016-06-07 2019-08-06 Travis Peacock Vehicle warning light system
US10768633B2 (en) * 2018-07-16 2020-09-08 Ford Global Technologies, Llc Hitch assist system
EP3627183B1 (en) * 2018-09-18 2022-05-11 KNORR-BREMSE Systeme für Nutzfahrzeuge GmbH Control system for autonomous driving of a vehicle
KR20200042549A (ko) * 2018-10-15 2020-04-24 현대자동차주식회사 차량 및 그 제어방법
US20200238912A1 (en) * 2019-01-30 2020-07-30 AISIN Technical Center of America, Inc. Backup camera system for a vehicle having a trailer hitch
GB2582541B (en) * 2019-03-12 2022-03-09 Jaguar Land Rover Ltd Driver assistance method and apparatus
GB2582323B (en) * 2019-03-19 2022-02-09 Jaguar Land Rover Ltd Image processing system and method
US11417116B2 (en) 2019-04-19 2022-08-16 Magna Electronics Inc. Vehicular trailer angle detection system
US11662196B2 (en) 2019-05-08 2023-05-30 Magna Electronics Inc. Trailer angle detection system using rear camera of vehicle
US11613210B2 (en) 2019-07-22 2023-03-28 Magna Electronics Inc. Trailering assist system with hitch ball position detection
US11613208B2 (en) 2019-07-30 2023-03-28 Magna Electronics Inc. Trailer hitching assist system with trailer coupler detection
US11787339B2 (en) 2019-07-30 2023-10-17 Magna Electronics Inc. Trailer hitching assist system with trailer coupler detection
DE102019122086A1 (de) * 2019-08-16 2021-02-18 Connaught Electronics Ltd. Fahrerassistenz für eine Kombination
GB2586803B (en) * 2019-09-03 2022-02-16 Jaguar Land Rover Ltd Control system and method
DE102019123740B4 (de) 2019-09-04 2023-01-26 Motherson Innovations Company Limited Verfahren zum Bereitstellen einer Rück- und/oder Seitenansicht eines Fahrzeugs, virtuelleSpiegelvorrichtung und Fahrzeug
CN110705445A (zh) * 2019-09-27 2020-01-17 长城汽车股份有限公司 拖车及盲区目标检测方法和装置
US11661006B2 (en) * 2019-09-27 2023-05-30 Magna Electronics Inc. Vehicular trailering assist system
US10981507B1 (en) 2019-11-07 2021-04-20 Focused Technology Solutions, Inc. Interactive safety system for vehicles
US11679635B2 (en) 2019-12-09 2023-06-20 Magna Electronics Inc. Vehicular trailer hitching assist system with coupler height and location estimation
US11176827B2 (en) * 2020-01-24 2021-11-16 Ford Global Technologies, Llc Extendable blind spot sensors and methods of use
DE102020107789A1 (de) * 2020-03-20 2021-09-23 Mekra Lang Gmbh & Co. Kg Sichtsystem für ein Fahrzeug und Verfahren zum Umschalten zwischen von dem Sichtsystem dargestellten Bildbereichen
DE102020108817A1 (de) * 2020-03-31 2021-09-30 Connaught Electronics Ltd. Verfahren und System zum Führen eines Fahrzeugs
US11964659B2 (en) 2020-06-03 2024-04-23 GM Global Technology Operations LLC System and method for determining a hitch angle for controlling a vehicle with active rear steering
CN111703371B (zh) * 2020-06-16 2023-04-07 阿波罗智联(北京)科技有限公司 交通信息的显示方法、装置、电子设备和存储介质
CN113954750B (zh) * 2020-07-20 2023-12-29 深圳市麦道微电子技术有限公司 商用车电子外视镜系统与成像方法
US11794540B2 (en) 2020-10-27 2023-10-24 Clarion Corporation of America Technologies for a harness connector with integrated wireless transceiver
DE102021212088B4 (de) 2020-11-06 2022-12-15 Robert Bosch Gesellschaft mit beschränkter Haftung Rückfahrkamerasystem für ein anhängerkupplungssystem und verfahren zum erzeugen einer darstellung in heckrichtung eines fahrzeuges
WO2022261671A1 (en) * 2021-06-10 2022-12-15 Continental Autonomous Mobility US, LLC System and method for providing an image depicting a transparent rear vehicle portion
EP4140814A1 (en) 2021-08-24 2023-03-01 Connaught Electronics Ltd. Method for harmonizing images acquired from non overlapping camera views
US20230061195A1 (en) * 2021-08-27 2023-03-02 Continental Automotive Systems, Inc. Enhanced transparent trailer
DE102021127820B4 (de) 2021-10-26 2024-02-01 Dr. Ing. H.C. F. Porsche Aktiengesellschaft System und Verfahren zur Verbesserung der rückwärtigen und bodennahen Sicht bei einem Fahrzeug in einem Anhängerbetriebsmodus
US20230211732A1 (en) * 2021-12-30 2023-07-06 Gentex Corporation Rearview assembly
US20230274554A1 (en) * 2022-02-28 2023-08-31 Continental Autonomous Mobility US, LLC System and method for vehicle image correction
US20240233215A9 (en) * 2022-10-24 2024-07-11 Stoneridge Electronics Ab Camera monitor system with angled awareness lines
DE102023106124A1 (de) 2023-03-13 2024-09-19 Zf Cv Systems Global Gmbh Verfahren zum Überwachen eines rückwärtigen Raumes und/oder eines seitwärtigen Raumes für eine mehrgliedrige Fahrzeugkombination, insbesondere Nutzfahrzeugkombination, Computerprogramm und/oder computerlesbares Medium, Steuergerät, Anhänger, Zugfahrzeug und mehrgliedrige Fahrzeugkombination, insbesondere Nutzfahrzeugkombinationn

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6690413B1 (en) * 1999-04-21 2004-02-10 Michael S. Moore Tractor-trailer viewing system
US7904222B2 (en) * 2007-06-27 2011-03-08 GM Global Technology Operations LLC Trailer articulation angle estimation
KR101565006B1 (ko) * 2014-05-30 2015-11-13 엘지전자 주식회사 차량용 어라운드뷰 제공 장치 및 이를 구비한 차량
AU2015306153B2 (en) * 2014-08-18 2018-11-08 Jaguar Land Rover Limited Display system and method
US10373378B2 (en) * 2015-06-26 2019-08-06 Paccar Inc Augmented reality system for vehicle blind spot prevention
US10259390B2 (en) * 2016-05-27 2019-04-16 GM Global Technology Operations LLC Systems and methods for towing vehicle and trailer with surround view imaging devices
US10082869B2 (en) * 2017-02-03 2018-09-25 Qualcomm Incorporated Maintaining occupant awareness in vehicles

Also Published As

Publication number Publication date
DE102019102716A1 (de) 2019-08-08
US10549694B2 (en) 2020-02-04
US20200108775A1 (en) 2020-04-09
US11220216B2 (en) 2022-01-11
CN110116676A (zh) 2019-08-13
US20190241126A1 (en) 2019-08-08

Similar Documents

Publication Publication Date Title
CN110116676B (zh) 车辆-拖车后视视觉系统和方法
US11661006B2 (en) Vehicular trailering assist system
US10434945B2 (en) Method and device for displaying an image of the surroundings of a vehicle combination
US10259390B2 (en) Systems and methods for towing vehicle and trailer with surround view imaging devices
CN106573577B (zh) 显示系统和方法
US10909750B2 (en) Periphery monitoring device
US9987983B2 (en) Parking assist system for a vehicle and method of using the same
JP2018531530A6 (ja) 車両・被牽引車両コンビの周辺シーンを表示するための方法、並びに、装置
JP2018531530A5 (zh)
US11318884B2 (en) Video monitoring system for a motor vehicle
WO2017037266A1 (en) Display system and method
JP7523196B2 (ja) 周辺画像表示装置
JP2003319383A (ja) 車載画像処理装置
CN113002531B (zh) 车辆全景环视方法、系统、设备和计算机可读存储介质
US20190100141A1 (en) Ascertainment of Vehicle Environment Data
US11377027B2 (en) Image processing apparatus, imaging apparatus, driving assistance apparatus, mobile body, and image processing method
US11030468B2 (en) Image processing apparatus
US11938863B2 (en) Peripheral image generation device and display control method
CN115936982A (zh) 用于协调从非重叠相机视图获取的图像的方法
CN215883473U (zh) 一种270度环视的拖挂车安全影像装置
US20240131991A1 (en) Methods and systems for augmented trailer view for vehicles
US20220144187A1 (en) Camera system for a trailer hitch system
JP2022052416A (ja) 画像処理装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant