CN112805207B - 用于自动车辆倒车的用户可调轨迹 - Google Patents
用于自动车辆倒车的用户可调轨迹 Download PDFInfo
- Publication number
- CN112805207B CN112805207B CN201980046005.9A CN201980046005A CN112805207B CN 112805207 B CN112805207 B CN 112805207B CN 201980046005 A CN201980046005 A CN 201980046005A CN 112805207 B CN112805207 B CN 112805207B
- Authority
- CN
- China
- Prior art keywords
- path
- vehicle
- data processing
- processing hardware
- adjust
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 claims abstract description 33
- 238000012545 processing Methods 0.000 claims description 44
- 238000004891 communication Methods 0.000 claims description 15
- 230000009471 action Effects 0.000 claims description 10
- 238000013459 approach Methods 0.000 claims description 10
- 230000006399 behavior Effects 0.000 description 12
- 238000010586 diagram Methods 0.000 description 7
- 238000004590 computer program Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 230000033001 locomotion Effects 0.000 description 4
- 239000000725 suspension Substances 0.000 description 4
- 230000001133 acceleration Effects 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000000644 propagated effect Effects 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 244000261422 Lysimachia clethroides Species 0.000 description 1
- 239000006096 absorbing agent Substances 0.000 description 1
- 230000000881 depressing effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 244000144972 livestock Species 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000035939 shock Effects 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60D—VEHICLE CONNECTIONS
- B60D1/00—Traction couplings; Hitches; Draw-gear; Towing devices
- B60D1/24—Traction couplings; Hitches; Draw-gear; Towing devices characterised by arrangements for particular functions
- B60D1/36—Traction couplings; Hitches; Draw-gear; Towing devices characterised by arrangements for particular functions for facilitating connection, e.g. hitch catchers, visual guide means, signalling aids
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
- G05D1/0253—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means extracting relative motion information from a plurality of images taken successively, e.g. visual odometry, optical flow
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60D—VEHICLE CONNECTIONS
- B60D1/00—Traction couplings; Hitches; Draw-gear; Towing devices
- B60D1/58—Auxiliary devices
- B60D1/62—Auxiliary devices involving supply lines, electric circuits, or the like
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
- B60W30/18—Propelling the vehicle
- B60W30/18009—Propelling the vehicle related to particular drive situations
- B60W30/18036—Reversing
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B62—LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
- B62D—MOTOR VEHICLES; TRAILERS
- B62D15/00—Steering not otherwise provided for
- B62D15/02—Steering position indicators ; Steering position determination; Steering aids
- B62D15/027—Parking aids, e.g. instruction means
- B62D15/0275—Parking aids, e.g. instruction means by overlaying a vehicle path based on present steering angle over an image without processing that image
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B62—LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
- B62D—MOTOR VEHICLES; TRAILERS
- B62D15/00—Steering not otherwise provided for
- B62D15/02—Steering position indicators ; Steering position determination; Steering aids
- B62D15/027—Parking aids, e.g. instruction means
- B62D15/0285—Parking performed automatically
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0212—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
- G05D1/0225—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory involving docking at a fixed facility, e.g. base station or loading bay
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
- B60R2300/101—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using cameras with adjustable capturing direction
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
- B60R2300/302—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with GPS information or vehicle data, e.g. vehicle speed, gyro, steering angle data
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/60—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
- B60R2300/602—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint
- B60R2300/605—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint the adjustment being automatic
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/80—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
- B60R2300/802—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views
- B60R2300/8026—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views in addition to a rear-view mirror system
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W2050/0001—Details of the control system
- B60W2050/0002—Automatic control, details of type of controller or control system architecture
- B60W2050/0004—In digital systems, e.g. discrete-time systems involving sampling
- B60W2050/0005—Processor details or data handling, e.g. memory registers or chip architecture
Landscapes
- Engineering & Computer Science (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Physics & Mathematics (AREA)
- Automation & Control Theory (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Aviation & Aerospace Engineering (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Combustion & Propulsion (AREA)
- Chemical & Material Sciences (AREA)
- Multimedia (AREA)
- Electromagnetism (AREA)
- Theoretical Computer Science (AREA)
- Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
- Steering Control In Accordance With Driving Conditions (AREA)
Abstract
提供了一种用于在向后方向上朝向兴趣点自主地操纵车辆的方法。方法包括从位于车辆后部的摄像机接收一个或多个图像。方法包括在一个或多个图像上叠加路径。另外,方法包括通过用户界面的方式接收命令。该命令包括调整路径的指令。方法包括基于所接收的命令来调整路径。方法还包括将驾驶命令发送到由车辆支持的驾驶系统。驾驶命令使车辆沿经调整的路径在向后方向上自主地操纵。
Description
技术领域
本公开涉及用于自动车辆倒车的用户可调轨迹的方法和设备。
背景技术
拖车通常是由动力牵引车牵引的无动力车辆。除其它外,拖车还可以是多用途拖车、折叠式拖车(popup camper)、旅行拖车、牲畜拖车、平板拖车、封闭式调度车和船拖车。牵引车可以是汽车、跨界车、卡车、货车、运动型多用途车(SUV)、休闲车(RV)或被配置成附接到拖车并牵引拖车的任何其它车辆。拖车可以使用拖车挂钩附接到动力车辆。接收者挂钩安装在牵引车上并且连接到拖车挂钩以形成连接。拖车挂钩可以是球窝、备用轮和鹅颈管、或拖车千斤顶。也可以使用其它附接机构。
计算和传感器技术的最新进展已经得到改进的车辆自主驾驶。因此,希望提供一种自动车辆倒车系统,其能够规划从牵引车到拖车的路径,从而允许车辆自主地操纵朝向拖车。
发明内容
本公开的一个方面提供了一种用于在向后方向上朝向兴趣点自主地操纵车辆的方法。方法包括在数据处理硬件处从位于车辆的后部上并且与数据处理硬件通信的摄像机接收一个或多个图像。方法还包括在数据处理硬件处将一个路径叠加在一个或多个图像上。该方法还包括在数据处理硬件处通过与数据处理硬件通信的用户界面的方式接收命令。该命令包括调整该路径的指令。方法还包括在数据处理硬件处基于所接收的命令来调整该路径。方法还包括将驾驶命令从数据处理硬件发送到与数据处理硬件通信的驾驶系统,该驾驶命令使车辆沿着调整的路径自主地操纵。
本公开的实施方案可以包括以下可选特征中的一个或多个。在一些实施方案中,命令包括用以调整所述路径的距离的指令、用以调整所述路径的角度的指令及/或用以调整所述路径的末端部分的角度的指令。在一些示例中,兴趣点是拖车。调整路径的末端部分的角度使得车辆的前后轴线与拖车的前后轴线对准。
在一些实施方案中,在发送驾驶命令之前,方法包括从驾驶员接收使得数据处理硬件发送驾驶命令的动作。方法还可以包括指示用户界面在车辆沿向后方向的自主操纵期间显示车辆相对于路径的位置。
本公开的另一方面提供了一种用于在向后方向上朝向兴趣点自主地操纵车辆的系统。系统包括:数据处理硬件;以及与数据处理硬件通信的存储器硬件。存储器硬件存储指令,当在数据处理硬件上执行时,所述指令使数据处理硬件施行包括上述方法的操作。
在附图和以下描述中阐述了本公开的一个或多个实施方案的细节。从说明书和附图以及从权利要求书中,其它方面、特征和优点将是显而易见的。
附图说明
图1是与拖车相距一定距离的示例性牵引车的示意性俯视图。
图2是具有挂钩辅助系统的示例性牵引车的示意图。
图3A和3B是系统的示例性状态图的示意图。
图4A和4B是示例性角度模式的示意图。
图5A和5B是示例性距离模式的示意图。
图6A和6B是示例性双弧模式的示意图。
图7是示例性轨迹规划系统的示意图。
图8是用于确定从拖车到驾驶员指定位置的路径的示例性方法的示意图。
在各个附图中相同的附图标记表示相同的元素。
具体实施方案
牵引车(诸如但不限于汽车、跨界车、卡车、货车、运动型多用途车(SUV)和休闲车(RV))可以被配置成牵引拖车。牵引车通过拖车挂钩的方式连接到拖车上。希望具有一种能够自主地朝向驾驶员指定位置(例如拖车)倒车的牵引车,所述驾驶员指定位置是从车辆的向后环境的图像中识别的并显示在用户界面(诸如用户显示器)上。
参照图1-7,在一些实施方案中,牵引车100的驾驶员想要指定牵引车100后方的位置或拖车200,使得牵引车100能够自主地朝向该位置或拖车200操纵。当牵引车100和拖车200对准时,牵引车100可以(例如,通过驾驶员的方式或自主地)与拖车200联结。在一些示例中,牵引车100包括具有牵引球122的牵引挂钩120。拖车200包括拖车挂钩210,其包括拖车联接器212和牵引杆214。因此,牵引球122与拖车联接器212联接。
牵引车100可以包括驾驶系统110,其基于例如具有x、y和z分量的驾驶命令来操纵牵引车100越过道路表面。如图所示,驾驶系统110包括右前轮112、112a、左前轮112、112b、右后轮112、112c和左后轮112、112d。驾驶系统110也可以包括其它车轮配置。驾驶系统110还可以包括制动系统114,其包括与每个车轮112、112a-d相关联的制动器,以及加速系统116,其被配置为调整牵引车100的速度和方向。此外,驾驶系统110可以包括悬挂系统118,该悬挂系统包括与每个车轮112、112a-d相关联的轮胎、轮胎空气、弹簧、减震器以及将牵引车100连接到其车轮112、112a-d并且允许牵引车100与车轮112、112a-d之间的相对运动的连杆。悬挂系统132可以被配置成调整牵引车100的高度,从而允许牵引车挂钩120(例如,牵引车挂钩球122)与拖车挂钩210(例如,拖车挂钩联接器212)对准,这允许牵引车100可与拖车200之间自主连接。
牵引车100可以通过相对于由牵引车100限定的三个相互垂直的轴线的移动的各种组合而跨道路表面移动,所述轴线为:横向轴线X、前后轴线Y和中心竖直轴线Z。横向轴线X在牵引车100的右侧和左侧之间延伸。沿前后轴线Y的向前驾驶方向被表示为F,也称为向前运动。此外,沿前后方向Y的后向或向后驾驶方向被指定为R,也称为向后运动。当悬挂系统118调整牵引车100的悬挂时,牵引车100可围绕X轴和或Y轴倾斜,或沿中心竖直轴线Z移动。
牵引车100可以包括用户界面130。用户界面130可以包括显示器132、旋钮134和按钮136,它们被用作输入机构。在一些示例中,显示器132可以示出旋钮134和按钮136。而在其它示例中,旋钮134和按钮136是旋钮按钮的组合。在一些示例中,用户界面130经由一个或多个输入机构或触摸屏显示器132从驾驶员接收一个或多个驾驶员命令和/或向驾驶员显示一个或多个通知。用户界面130与车辆控制器150通信,该车辆控制器继而与传感器系统140通信。在一些示例中,显示器132显示牵引车100的环境的图像,导致由用户界面130(从驾驶员)接收发起一个或多个行为的执行的一个或多个命令。在一些示例中,用户显示器132显示车辆100的向后环境的图像。在这种情况下,驾驶员可以选择图像内驾驶员希望车辆自主地朝向操纵的位置。在一些示例中,用户显示器132显示位于车辆100后面的拖车200的一个或多个表示。在这种情况下,驾驶员选择拖车200的一个表示以用于车辆100自主地朝向其操纵。
显示器132显示叠加在车辆100的向后环境的摄像机图像143上的车辆100的规划路径182。驾驶员可以使用用户界面130改变规划路径182。例如,驾驶员可以转动模拟虚拟方向盘的旋钮134。当驾驶员转动旋钮134时,显示器132上示出的规划路径182被更新。驾驶员调整显示的路径182,直到显示在显示器132上的更新的规划路径182与拖车表示138或驾驶员希望车辆100朝向其行驶的其他物体相交。一旦驾驶员对所显示的规划路径182满意,则驾驶员执行指示最终确定路径182的动作,该动作使车辆100自主地遵循规划路径182。
牵引车100可以包括传感器系统140以提供可靠且稳健的驾驶。传感器系统140可以包括不同类型的传感器,其可以单独地或彼此一起使用以产生对牵引车100的环境的感知,该感知用于牵引车100驾驶和帮助驾驶员基于由传感器系统140检测到的物体和障碍物做出智能决策。传感器系统140可以包括一个或多个摄像机142。在一些实施方案中,牵引车100包括后摄像机142,其被安装为提供牵引车100的后驾驶路径的视图。后摄像机142可以包括鱼眼镜头,该鱼眼镜头包括超广角镜头,该超广角镜头产生旨在创建宽全景或半球图像的强视觉失真。鱼眼摄像机高清捕获具有极宽视角的图像。此外,由鱼眼摄像机捕获的图像具有特征性的凸起的非直线外观。其它类型的摄像机也可用于捕获车辆100后部的图像。
传感器系统140可以包括其他传感器,诸如但不限于惯性测量单元(IMU)雷达、声纳、LIDAR(光检测和测距,其可以需要测量散射光的属性以找到远距离目标的距离和/或其他信息的光学遥感)、LADAR(激光检测和测距)、超声传感器等。
车辆控制器150包括与非暂时性存储器154(例如,硬盘、闪速存储器、随机存取存储器、存储器硬件)通信的计算设备(或处理器)152 (例如,具有一个或多个计算处理器的中央处理单元),其能够存储在(一个或多个)计算处理器152上可执行的指令。
车辆控制器150执行挂钩辅助系统160,其从摄像机142接收图像143并且将车辆路径182叠加在所接收的图像143上。在一些实施方案中,驾驶员可以基于一个或多个路径模式170来调整路径182的选择。在一些示例中,路径模式170包括具有角度子模式174和距离子模式176的弧形模式172。在一些示例中,路径模式170可以包括双弧模式178。因此,驾驶员可以在角度子模式174、距离子模式和/或双弧模式178之间选择,以确定和调整到拖车200或物体的路径182。
在一些示例中,角度子模式174和距离子模式176是弧形模式172(图3A)的一部分,因此,驾驶员首先选择模式172、178,然后在所选择的模式172、178内选择子模式。这样,例如,显示器132可以显示驾驶员可以从中选择的弧形模式按钮136和双弧模式按钮136。图3B示出了一个示例,其中每个子模式/模式174、176、178是独立的。因此,按钮136的按压或推动将在三个模式174、176、178之间轮转。
角度子模式174被配置成调整路径182的曲率角度,如图4A和4B所示。因此,驾驶员可以向右转动旋钮134,使得显示的路径182具有向右的曲率,如图4A所示。此外,驾驶员可以向左转动旋钮134,使得显示的路径182具有向左的曲率,如图4B所示。距离子模式176被配置成调整预期路径182的长度,如图5A和5B所示。例如,参考图5A,驾驶员可以旋转旋钮134以在图像143中将路径182的目的地定位在拖车表示138附近。参考图5B,图像143示出了具有比图5A中所示的路径更短的长度的路径182。因此,在这种情况下,驾驶员可能希望牵引车100在向后方向R上自主地移动几米。双弧模式178被配置成调整接近角,该接近角指示车辆100将如何在路径182的末端处相对于拖车200(或其他物体)定向,如图6A和6B所示。例如,双弧模式178帮助驾驶员将牵引车100与拖车200对准,使得车辆100的前后轴线Y与拖车200的前后轴线Y对准,这在牵引车100与拖车200之间的挂接过程期间对驾驶员有帮助。
在其中双弧模式178是可选的一些实施方案中,如果驾驶员基于弧形模式172选择而对路径182满意,则驾驶员可以通过按压按钮136来最终确定路径182。否则,驾驶员第三次调整旋钮134以改变双弧或其它合适路径182的形状。这允许调整对拖车200或其它物体的最终接近角。一旦驾驶员对接近角的选择满意,他/她就按压按钮136以最终确定路径选择。
在一些实施方案中,驾驶员将牵引车100停在拖车200或其他对象或兴趣点在车辆100的后方摄像机142的视野内的位置。牵引车100的发动机可以是空转的,并且变速器处于驻车位置。驾驶员可以通过按压按钮136和/或在显示器132上做出选择来启动挂钩辅助系统160。在一些示例中,显示器132示出了允许驾驶员启动弧形模式172的可选选项或按钮136。挂钩辅助系统160通过执行弧形模式172的角度子模式174开始,如图3A和3B所示。驾驶员切换到距离子模式176,以通过例如按压按钮136来调整路径182的距离。在一些示例中,驾驶员可以通过在角度子模式174和距离子模式176之间切换并且调整路径182直到期望的路径182被示出在显示器上来调整路径182。驾驶员调整路径182,使得路径182的外边界184关注拖车200(即,图像143内的拖车表示138)或其他兴趣点。
在一些实施方案中,到拖车200或兴趣点的最终接近角是重要的,例如,对于将车辆前后轴线Y与拖车前后轴线Y对准,驾驶员可以选择或按压“弧形/双弧模式”按钮136(显示在显示器132上)并切换到双弧模式178。在双弧模式178中,路径182的先前设定的端点保持恒定,并且驾驶员用旋钮134调整最终接近角。当驾驶员对最终接近角和完整轨迹或路径182满意时,驾驶员可以通过执行动作确认所选择的路径182。在一些示例中,驾驶员将变速器切换到倒车,这表明驾驶员对显示的路径182满意。在一些示例中,驾驶员在制动器打开的情况下将变速器切换到倒车,然后释放制动器,并且车辆100跟随所选择的路径182。在一些示例中,当车辆沿路径182在向后方向R上自主操纵时,驾驶员可通过例如踩下制动器来停止牵引车100。这使得控制器150退出挂钩辅助系统160。
在一些实施方案中,挂钩辅助系统160将路径距离设定为默认,这允许驾驶员仅调整转向角直到其与拖车200或其它兴趣点相交。
在一些实施方案中,最终接近角不被调整。相反,最终接近角总是与初始车辆离去角相同。因此,最终车辆前后轴线Y平行于初始车辆前后轴线Y。在这种情况下,驾驶员调整路径182的最终位置以对拖车感兴趣。
在一些示例中,当牵引车100在沿着路径182在向后方向R上操纵时,显示器132可以示出车辆100沿着路径182的前进。例如,显示器132可以示出投影在地面上的原始轨迹,但是其通过车辆的改变位置来更新。显示器132还可以示出车辆如何良好地跟随该轨迹的指示。
参考图7,在一些示例中,轨迹规划系统180从其他车辆系统接收数据以生成路径182。在一些示例中,轨迹规划系统180接收由(x,y,θ)限定的车辆姿态数据162,其中x是在X-Y平面中沿着横向轴线X的牵引车100的中心的位置,y是在X-Y平面中沿着前后轴线Y的车辆的中心的位置,并且θ是牵引车100的航向。另外,轨迹规划系统180可以从旋钮134接收旋钮134的位置135,例如旋钮角度。轨迹规划系统180还可以接收模式按钮状态137a(即,弧形模式172或双弧模式178)和子模式按钮状态137b(即,角度子模式174或距离子模式176)。基于所接收的数据,轨迹规划系统180调整路径182,并指示显示器132显示路径182。在一些示例中,路径182包括外边界184和作为牵引球122的估计路径的牵引球路径186。轨迹规划系统180还可以指示显示器132示出当前模式或子模式状态133,其指示驾驶已经选择调整路径182的模式/子模式。
一旦轨迹规划系统180确定规划路径182,车辆控制器150就执行驾驶辅助系统190,其继而包括路径跟随行为192。路径跟随行为192接收规划路径182且执行将命令191发送到驾驶系统110的一个或多个行为192a-b,从而致使车辆100在向后方向R上沿着规划路径182自主地行驶。
路径跟随行为192a-b可以包括一个或多个行为,例如但不限于制动行为192a、速度行为192b和转向行为192c。每个行为192a-b使得车辆100采取动作,除其它外诸如向后行驶、以特定角度转弯、制动、加速、减速。车辆控制器150可以通过控制驾驶系统110,更具体地通过向驾驶系统110发出命令191,跨道路表面沿任何方向操纵车辆100。
制动行为192a可以被执行以基于规划路径使车辆100停止或使车辆100减慢。制动行为192a发送信号或命令191到驾驶系统110,例如制动系统(未示出),以使车辆100停止或降低车辆100的速度。
可以执行速度行为192b以基于规划路径182通过加速或减速来改变车辆100的速度。速度行为192b向制动系统114发送信号或命令191以便减速或向加速系统116发送信号或命令以便加速。
可以执行转向行为192c以基于规划路径182改变车辆100的方向。这样,转向行为192c向加速系统130发送指示使驾驶系统110改变方向的转向角度的信号或命令191。
图8提供了用于使用图1-7中描述的系统在向后方向R上朝向诸如拖车200的兴趣点自主操纵车辆100(例如,牵引车)的方法800的操作的示例性布置。在框802处,方法800包括在数据处理硬件152处从定位在车辆100的后部上并且与数据处理硬件152通信的摄像机142接收一个或多个图像143。在框804处,方法800包括在数据处理硬件152处将路径182叠加在一个或多个图像143上。在框806处,方法800还包括在数据处理硬件152处通过与数据处理硬件152通信的用户界面130的方式接收命令,该命令包括调整路径182的指令。在框808处,方法800包括在数据处理硬件152处基于所接收的命令来调整路径182。在一些示例中,方法800包括将驾驶命令191从数据处理硬件152发送到与数据处理硬件152通信的驾驶系统110,所述驾驶命令使得车辆100沿着经调整的路径182自主地操纵。
在一些示例中,命令包括调整路径的距离的指令、调整路径的角度的指令和调整路径的端部的角度的指令中的至少一个。在一些示例中,在兴趣点是拖车200的情况下,调整路径的端部的角度使得车辆100的前后轴线Y与拖车200的前后轴线Y对准。
在一些示例中,在发送驾驶命令之前,方法800包括从驾驶员接收使得数据处理硬件152发送驾驶命令的动作191。方法800还可以包括,在车辆100沿向后方向R的自主操纵期间,指示用户界面130显示车辆相对于路径182的位置。
这里描述的系统和技术的各种实施方案可以以数字电子电路、集成电路、专门设计的ASIC(专用集成电路)、计算机硬件、固件、软件和/或其组合来实现。这些各种实施方案可以以包括在可编程系统上可执行和/或可解释的一个或多个计算机程序的实施方案,所述可编程系统包括至少一个可编程处理器、至少一个输入设备和至少一个输出设备,所述可编程处理器可以是专用或通用的,被耦合以从存储系统接收数据和指令以及向存储系统发送数据和指令。
这些计算机程序(也称为程序、软件、软件应用或代码)包括用于可编程处理器的机器指令,并且可以以高级面向过程和/或面向对象的编程语言和/或汇编/机器语言来实现。如本文所使用的,术语“机器可读介质”和“计算机可读介质”是指用于向可编程处理器提供机器指令和/或数据的任何计算机程序产品、装置和/或设备(例如,磁盘、光盘、存储器、可编程逻辑器件(PLD)),包括接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”是指用于向可编程处理器提供机器指令和/或数据的任何信号。
本说明书中描述的主题和功能操作的实施方案可以以数字电子电路来实现,或者以计算机软件、固件或硬件来实现,包括本说明书中公开的结构及其结构等效物,或者以它们中的一个或多个的组合来实现。此外,本说明书中描述的主题可以被实现为一个或多个计算机程序产品,即,在计算机可读介质上编码的计算机程序指令的一个或多个模块,用于由数据处理装置执行或控制数据处理装置的操作。计算机可读介质可以是机器可读存储设备、机器可读存储基板、存储器设备、实现机器可读传播信号的物质的组合、或者它们中的一个或多个的组合。术语“数据处理装置”、“计算设备”和“计算处理器”涵盖用于处理数据的所有装置、设备和机器,作为示例包括可编程处理器、计算机、或多个处理器或计算机。除了硬件之外,装置可以包括为所讨论的计算机程序创建执行环境的代码,例如,构成处理器固件、协议栈、数据库管理系统、操作系统或它们中的一个或多个的组合的代码。传播信号是人工生成的信号,例如,机器生成的电、光或电磁信号,其被生成以编码信息以便发送到合适的接收器装置。
类似地,虽然在附图中以特定顺序描绘了操作,但是这不应当被理解为要求以所示的特定顺序或以连续顺序执行这样的操作,或者要求执行所有示出的操作以实现期望的结果。在某些情况下,多任务和并行处理可能是有利的。此外,上述实施例中的各种系统组件的分离不应被理解为在所有实施例中都需要这种分离,并且应当理解,所描述的程序组件和系统通常可以一起集成在单个软件产品中或封装到多个软件产品中。
已经描述了许多实施方案。然而,应当理解,在不脱离本公开的精神和范围的情况下,可以进行各种修改。因此,其它实施方案也在所附权利要求的范围内。
Claims (8)
1.一种用于在向后方向上朝向兴趣点自主地操纵车辆的方法,所述方法包括:
在数据处理硬件处从位于所述车辆的后部上并且与所述数据处理硬件通信的摄像机接收一个或多个图像;
在所述数据处理硬件处将路径叠加在所述一个或多个图像上;
在所述数据处理硬件处通过与所述数据处理硬件通信的用户界面的方式接收命令,所述命令包括调整所述路径的指令;
在所述数据处理硬件处基于所接收的命令来调整所述路径;以及
将使所述车辆沿着经调整的路径自主地操纵的驾驶命令从所述数据处理硬件发送到与所述数据处理硬件通信的驾驶系统,其特征在于,
所述命令包括由驾驶员通过所述用户界面选择三个独立路径模式中的一个或多个,其中所述路径模式包括角度子模式、距离子模式和双弧模式,所述角度子模式被配置成调整所述路径的曲率角度,所述距离子模式被配置成调整所述路径的长度,所述双弧模式被配置成调整接近角,该接近角指示车辆将如何在所述路径的末端处相对于所述兴趣点定向,并且其中基于所选择的路径模式,所述命令包括调整所述路径的角度的指令、调整所述路径的距离的指令和/或调整所述路径的末端部分的角度的指令。
2.根据权利要求1所述的方法,其中,所述兴趣点是拖车,并且其中,调整所述路径的末端部分的角度致使所述车辆的前后轴线与所述拖车的前后轴线对准。
3.根据权利要求1所述的方法,其中,在发送驾驶命令之前,所述方法包括从驾驶员接收使所述数据处理硬件发送驾驶命令的动作。
4.根据权利要求1所述的方法,还包括:
在所述车辆在所述向后方向上的自主操纵期间,指示所述用户界面显示所述车辆相对于所述路径的位置。
5.一种用于在向后方向上朝向兴趣点自主地操纵车辆的系统,所述系统包括:
数据处理硬件;以及
与所述数据处理硬件通信的存储器硬件,所述存储器硬件存储指令,所述指令当在所述数据处理硬件上执行时使所述数据处理硬件执行包括以下各项的操作:
从位于所述车辆的后部上并且与所述数据处理硬件通信的摄像机接收一个或多个图像;
在所述一个或多个图像上叠加路径;
通过与所述数据处理硬件通信的用户界面的方式接收命令,所述命令包括调整所述路径的指令;
基于所接收的命令来调整所述路径;以及
将驾驶命令发送到与所述数据处理硬件通信的驾驶系统,所述驾驶命令使所述车辆沿着经调整的路径自主地操纵,其特征在于,
所述命令包括由驾驶员通过所述用户界面选择三个独立路径模式中的一个或多个,其中所述路径模式包括角度子模式、距离子模式和双弧模式,所述角度子模式被配置成调整所述路径的曲率角度,所述距离子模式被配置成调整所述路径的长度,所述双弧模式被配置成调整接近角,该接近角指示车辆将如何在所述路径的末端处相对于所述兴趣点定向,并且其中基于所选择的路径模式,所述命令包括调整所述路径的角度的指令、调整所述路径的距离的指令和/或调整所述路径的末端部分的角度的指令。
6.根据权利要求5所述的系统,其中,所述兴趣点是拖车,并且其中,调整所述路径的末端部分的角度致使所述车辆的前后轴线与所述拖车的前后轴线对准。
7.根据权利要求5所述的系统,其中,在发送驾驶命令之前,所述操作还包括从驾驶员接收使所述数据处理硬件发送所述驾驶命令的动作。
8.根据权利要求5所述的系统,其中,所述操作还包括:
在所述车辆在所述向后方向上的自主操纵期间,指示所述用户界面显示所述车辆相对于所述路径的位置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201862668629P | 2018-05-08 | 2018-05-08 | |
US62/668629 | 2018-05-08 | ||
PCT/US2019/031380 WO2019217588A1 (en) | 2018-05-08 | 2019-05-08 | User-adjustable trajectories for automated vehicle reversing |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112805207A CN112805207A (zh) | 2021-05-14 |
CN112805207B true CN112805207B (zh) | 2023-03-21 |
Family
ID=66676902
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201980046005.9A Active CN112805207B (zh) | 2018-05-08 | 2019-05-08 | 用于自动车辆倒车的用户可调轨迹 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11669104B2 (zh) |
EP (1) | EP3790782B1 (zh) |
JP (1) | JP7184925B2 (zh) |
CN (1) | CN112805207B (zh) |
WO (1) | WO2019217588A1 (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11518204B2 (en) * | 2018-05-01 | 2022-12-06 | Continental Autonomous Mobility US, LLC | Trailer detection and autonomous hitching |
US10870323B2 (en) * | 2018-07-18 | 2020-12-22 | Ford Global Technologies, Llc | Compensation for trailer coupler geometry in automatic hitch operation |
US10913494B2 (en) * | 2018-08-01 | 2021-02-09 | Ford Global Technologies, Llc | System and method for trailer height adjustment |
US11603100B2 (en) * | 2018-08-03 | 2023-03-14 | Continental Autonomous Mobility US, LLC | Automated reversing by following user-selected trajectories and estimating vehicle motion |
CN109376734B (zh) * | 2018-08-13 | 2020-07-31 | 东南大学 | 一种基于车牌角点特征的道路救援装备正方位拖牵诱导方法 |
US11390294B2 (en) * | 2019-09-25 | 2022-07-19 | Ford Global Technologies, Llc | Differentiating between near trailer and connected trailer |
CN111007856B (zh) * | 2019-12-20 | 2023-04-07 | 上海振华重工(集团)股份有限公司 | 一种自动运输车的对接方法及系统 |
CN114670922B (zh) * | 2022-04-07 | 2024-07-09 | 合众新能源汽车股份有限公司 | 车辆转向控制方法及控制系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101270983A (zh) * | 2007-03-21 | 2008-09-24 | 福特环球技术公司 | 车辆操纵辅助装置 |
DE102012001380A1 (de) * | 2012-01-24 | 2012-08-02 | Daimler Ag | Assistenzverfahren und Fahrerassistenzsystem für ein Ankuppelmanöver eines Kraftfahrzeugs |
DE102012005707A1 (de) * | 2012-03-20 | 2012-10-18 | Daimler Ag | Anhängerankuppelverfahren eines Kraftfahrzeugs unter automatischem Querführen des Kraftfahrzeugs |
Family Cites Families (47)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4058369B2 (ja) | 2003-03-27 | 2008-03-05 | トヨタ自動車株式会社 | 駐車支援装置 |
JP3911492B2 (ja) | 2003-06-26 | 2007-05-09 | トヨタ自動車株式会社 | 車両用走行支援装置 |
JP3945467B2 (ja) | 2003-10-02 | 2007-07-18 | 日産自動車株式会社 | 車両後退支援装置および方法 |
JP2005313710A (ja) | 2004-04-27 | 2005-11-10 | Toyota Motor Corp | 駐車支援装置 |
US8560234B2 (en) | 2008-05-13 | 2013-10-15 | The United States Of America, As Represented By The Secretary Of The Navy | System and method of navigation based on state estimation using a stepped filter |
US8191915B2 (en) * | 2008-10-17 | 2012-06-05 | GM Global Technology Operations LLC | Vehicle docking assistance system |
US9506774B2 (en) | 2011-04-19 | 2016-11-29 | Ford Global Technologies, Llc | Method of inputting a path for a vehicle and trailer |
US9102271B2 (en) | 2011-04-19 | 2015-08-11 | Ford Global Technologies, Llc | Trailer monitoring system and method |
US9290202B2 (en) | 2011-04-19 | 2016-03-22 | Ford Global Technologies, Llc | System and method of calibrating a trailer backup assist system |
US9500497B2 (en) | 2011-04-19 | 2016-11-22 | Ford Global Technologies, Llc | System and method of inputting an intended backing path |
US8909426B2 (en) | 2011-04-19 | 2014-12-09 | Ford Global Technologies | Trailer path curvature control for trailer backup assist |
US9248858B2 (en) | 2011-04-19 | 2016-02-02 | Ford Global Technologies | Trailer backup assist system |
US9854209B2 (en) | 2011-04-19 | 2017-12-26 | Ford Global Technologies, Llc | Display system utilizing vehicle and trailer dynamics |
US20130006472A1 (en) | 2011-06-30 | 2013-01-03 | Continental Automotive System, Inc. | Electronic path entering for autonomous or semi-autonomous trailer backing |
US9914333B2 (en) | 2012-07-05 | 2018-03-13 | Uusi, Llc | Vehicle trailer connect system |
US9129528B2 (en) | 2013-02-04 | 2015-09-08 | Ford Global Technologies | Trailer active back-up assist with lane width HMI |
GB2513393B (en) * | 2013-04-26 | 2016-02-03 | Jaguar Land Rover Ltd | Vehicle hitch assistance system |
GB2515800B (en) | 2013-07-04 | 2017-06-07 | Jaguar Land Rover Ltd | Vehicle control system |
EP2913216B1 (en) | 2013-09-27 | 2022-01-19 | Transoft Solutions, Inc. | Method and apparatus for generating a vehicle path |
DE102014222032B4 (de) | 2013-10-31 | 2021-07-22 | Ford Global Technologies, Llc | Anhängerüberwachungssystem und -Vefahren |
US10160382B2 (en) | 2014-02-04 | 2018-12-25 | Magna Electronics Inc. | Trailer backup assist system |
US9834140B2 (en) * | 2014-07-22 | 2017-12-05 | Fca Us Llc | Trailer hitch guidance method |
US9483059B2 (en) | 2014-11-26 | 2016-11-01 | Toyota Motor Engineering & Manufacturing North America, Inc. | Method to gain driver's attention for autonomous vehicle |
US9533683B2 (en) | 2014-12-05 | 2017-01-03 | Ford Global Technologies, Llc | Sensor failure mitigation system and mode management |
US10423164B2 (en) | 2015-04-10 | 2019-09-24 | Robert Bosch Gmbh | Object position measurement with automotive camera using vehicle motion data |
US10150505B2 (en) | 2015-04-14 | 2018-12-11 | Continental Automotive Systems, Inc. | Automated hitching assist system |
US9696723B2 (en) * | 2015-06-23 | 2017-07-04 | GM Global Technology Operations LLC | Smart trailer hitch control using HMI assisted visual servoing |
US10086870B2 (en) | 2015-08-18 | 2018-10-02 | Magna Electronics Inc. | Trailer parking assist system for vehicle |
DE102015014799A1 (de) | 2015-11-13 | 2017-05-18 | Mekra Lang Gmbh & Co. Kg | System und Verfahren zur Erfassung eines Heckbereiches eines Fahrzeugs |
US9731568B2 (en) | 2015-12-01 | 2017-08-15 | GM Global Technology Operations LLC | Guided tow hitch control system and method |
CN108886378B (zh) | 2016-03-31 | 2020-10-09 | 株式会社村田制作所 | 前置电路和高频模块 |
US20180194344A1 (en) | 2016-07-29 | 2018-07-12 | Faraday&Future Inc. | System and method for autonomous vehicle navigation |
DE102016214597B4 (de) * | 2016-08-05 | 2023-10-05 | Volkswagen Aktiengesellschaft | Verfahren zur Unterstützung eines Ankuppelvorgangs eines Fahrzeugs sowie Unterstützungssystem |
AU2017326531A1 (en) | 2016-09-16 | 2019-05-02 | Horizon Global Americas Inc. | Trailer brake control unit controls and communications |
US10191493B2 (en) | 2016-09-27 | 2019-01-29 | Baidu Usa Llc | Vehicle position point forwarding method for autonomous vehicles |
US10353393B2 (en) | 2016-12-29 | 2019-07-16 | Baidu Usa Llc | Method and system for improving stability of autonomous driving vehicles |
US9969386B1 (en) | 2017-01-10 | 2018-05-15 | Mitsubishi Electric Research Laboratories, Inc. | Vehicle automated parking system and method |
US11014561B2 (en) * | 2017-02-01 | 2021-05-25 | Magna Electronics Inc. | Vehicle trailer hitch assist system |
US10906583B2 (en) | 2017-03-03 | 2021-02-02 | Continental Automotive Systems, Inc. | Autonomous trailer hitching using neural network |
US10266023B2 (en) | 2017-05-01 | 2019-04-23 | Ford Global Technologies, Llc | System to automate hitching a trailer |
US20180350108A1 (en) | 2017-05-30 | 2018-12-06 | Denso International America, Inc. | Smart Hitch Assistant System |
US11904938B2 (en) | 2018-04-16 | 2024-02-20 | Ohio University | Obstacle avoidance guidance for ground vehicles |
US11726208B2 (en) | 2018-06-15 | 2023-08-15 | Uatc, Llc | Autonomous vehicle localization using a Lidar intensity map |
US10632919B2 (en) | 2018-06-27 | 2020-04-28 | Ford Global Technologies, Llc | Vehicle hitch assist system |
US10768633B2 (en) | 2018-07-16 | 2020-09-08 | Ford Global Technologies, Llc | Hitch assist system |
US20200097021A1 (en) | 2018-09-19 | 2020-03-26 | Continental Automotive Systems, Inc. | Autonomous Farm Equipment Hitching To A Tractor |
US11142188B2 (en) | 2019-12-31 | 2021-10-12 | Zoox, Inc. | Action-based reference systems for vehicle control |
-
2019
- 2019-05-08 US US16/407,081 patent/US11669104B2/en active Active
- 2019-05-08 CN CN201980046005.9A patent/CN112805207B/zh active Active
- 2019-05-08 WO PCT/US2019/031380 patent/WO2019217588A1/en unknown
- 2019-05-08 JP JP2020563459A patent/JP7184925B2/ja active Active
- 2019-05-08 EP EP19727556.3A patent/EP3790782B1/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101270983A (zh) * | 2007-03-21 | 2008-09-24 | 福特环球技术公司 | 车辆操纵辅助装置 |
DE102012001380A1 (de) * | 2012-01-24 | 2012-08-02 | Daimler Ag | Assistenzverfahren und Fahrerassistenzsystem für ein Ankuppelmanöver eines Kraftfahrzeugs |
DE102012005707A1 (de) * | 2012-03-20 | 2012-10-18 | Daimler Ag | Anhängerankuppelverfahren eines Kraftfahrzeugs unter automatischem Querführen des Kraftfahrzeugs |
Also Published As
Publication number | Publication date |
---|---|
WO2019217588A1 (en) | 2019-11-14 |
JP2021523052A (ja) | 2021-09-02 |
CN112805207A (zh) | 2021-05-14 |
EP3790782A1 (en) | 2021-03-17 |
US20190346858A1 (en) | 2019-11-14 |
US11669104B2 (en) | 2023-06-06 |
EP3790782B1 (en) | 2023-09-20 |
JP7184925B2 (ja) | 2022-12-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112805207B (zh) | 用于自动车辆倒车的用户可调轨迹 | |
CN112752700B (zh) | 通过目标位置的选择进行自动倒车 | |
JP7124116B2 (ja) | トレーラの検出および自律的なヒッチング | |
JP7009655B2 (ja) | リアルタイムでのトレーラカプラの位置特定および追跡 | |
CN111372795B (zh) | 使用图像坐标的自动化拖车挂接 | |
EP3790745B1 (en) | Visual object tracker | |
US11603100B2 (en) | Automated reversing by following user-selected trajectories and estimating vehicle motion | |
EP3787912B1 (en) | Tow vehicle and trailer alignment | |
US11987287B2 (en) | Autonomous truck-trailer maneuvering and parking | |
JP7416918B2 (ja) | トレーラ連結透視図 | |
WO2019005976A1 (en) | AUTONOMOUS MOORING OF A VEHICLE TO A LOADING DOCK | |
JP2023536469A (ja) | 射影幾何学による車両トレーラ角度推定 | |
WO2022087561A1 (en) | Trained trailer parking system and method | |
WO2022246477A1 (en) | A trailer hitch assist system and method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |