CN113165483A - 基于感觉输入调整反应式系统的方法和设备以及并有所述方法和设备的车辆 - Google Patents
基于感觉输入调整反应式系统的方法和设备以及并有所述方法和设备的车辆 Download PDFInfo
- Publication number
- CN113165483A CN113165483A CN201980081562.4A CN201980081562A CN113165483A CN 113165483 A CN113165483 A CN 113165483A CN 201980081562 A CN201980081562 A CN 201980081562A CN 113165483 A CN113165483 A CN 113165483A
- Authority
- CN
- China
- Prior art keywords
- vehicle
- operator
- video image
- camera
- processor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 48
- 230000001953 sensory effect Effects 0.000 title description 2
- 230000033001 locomotion Effects 0.000 claims abstract description 67
- 230000000007 visual effect Effects 0.000 claims description 55
- 230000009466 transformation Effects 0.000 claims description 26
- 230000004044 response Effects 0.000 claims description 23
- 230000008859 change Effects 0.000 claims description 16
- 230000004313 glare Effects 0.000 claims description 9
- 230000007704 transition Effects 0.000 claims description 8
- 230000001131 transforming effect Effects 0.000 claims description 6
- 239000013598 vector Substances 0.000 claims description 6
- 238000006073 displacement reaction Methods 0.000 claims description 5
- 238000001914 filtration Methods 0.000 claims description 4
- 238000004091 panning Methods 0.000 claims description 4
- 239000002775 capsule Substances 0.000 claims 1
- 230000000873 masking effect Effects 0.000 claims 1
- 230000007613 environmental effect Effects 0.000 abstract description 8
- 238000013461 design Methods 0.000 abstract description 7
- 210000003128 head Anatomy 0.000 description 35
- 230000006399 behavior Effects 0.000 description 33
- 230000007246 mechanism Effects 0.000 description 21
- 230000006870 function Effects 0.000 description 12
- 238000001514 detection method Methods 0.000 description 10
- 238000012545 processing Methods 0.000 description 7
- 239000000725 suspension Substances 0.000 description 7
- 239000000463 material Substances 0.000 description 6
- 238000000844 transformation Methods 0.000 description 6
- 230000009471 action Effects 0.000 description 5
- 230000033228 biological regulation Effects 0.000 description 5
- 238000005259 measurement Methods 0.000 description 5
- 238000012544 monitoring process Methods 0.000 description 5
- 230000001815 facial effect Effects 0.000 description 4
- 229920000049 Carbon (fiber) Polymers 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 3
- 239000004917 carbon fiber Substances 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000005484 gravity Effects 0.000 description 3
- 230000001976 improved effect Effects 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- VNWKTOKETHGBQD-UHFFFAOYSA-N methane Chemical compound C VNWKTOKETHGBQD-UHFFFAOYSA-N 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000001556 precipitation Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000000087 stabilizing effect Effects 0.000 description 3
- 229910052782 aluminium Inorganic materials 0.000 description 2
- XAGFODPZIPBFFR-UHFFFAOYSA-N aluminium Chemical compound [Al] XAGFODPZIPBFFR-UHFFFAOYSA-N 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 2
- 239000011248 coating agent Substances 0.000 description 2
- 238000000576 coating method Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000013213 extrapolation Methods 0.000 description 2
- 230000004438 eyesight Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000003278 mimic effect Effects 0.000 description 2
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 1
- OKTJSMMVPCPJKN-UHFFFAOYSA-N Carbon Chemical compound [C] OKTJSMMVPCPJKN-UHFFFAOYSA-N 0.000 description 1
- 229910000760 Hardened steel Inorganic materials 0.000 description 1
- 241000282412 Homo Species 0.000 description 1
- 241001465754 Metazoa Species 0.000 description 1
- 241000699670 Mus sp. Species 0.000 description 1
- 241000282376 Panthera tigris Species 0.000 description 1
- 239000004809 Teflon Substances 0.000 description 1
- 229920006362 Teflon® Polymers 0.000 description 1
- NRTOMJZYCJJWKI-UHFFFAOYSA-N Titanium nitride Chemical compound [Ti]#N NRTOMJZYCJJWKI-UHFFFAOYSA-N 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 230000003466 anti-cipated effect Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000000712 assembly Effects 0.000 description 1
- 238000000429 assembly Methods 0.000 description 1
- 230000003542 behavioural effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000005266 casting Methods 0.000 description 1
- 238000006757 chemical reactions by type Methods 0.000 description 1
- 235000009508 confectionery Nutrition 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 239000011152 fibreglass Substances 0.000 description 1
- 230000005021 gait Effects 0.000 description 1
- 229910002804 graphite Inorganic materials 0.000 description 1
- 239000010439 graphite Substances 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000007654 immersion Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000003331 infrared imaging Methods 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 239000000314 lubricant Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 229910052751 metal Inorganic materials 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 230000000116 mitigating effect Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 201000003152 motion sickness Diseases 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 230000003647 oxidation Effects 0.000 description 1
- 238000007254 oxidation reaction Methods 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000005043 peripheral vision Effects 0.000 description 1
- 239000004033 plastic Substances 0.000 description 1
- 238000011045 prefiltration Methods 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 239000011435 rock Substances 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/147—Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60J—WINDOWS, WINDSCREENS, NON-FIXED ROOFS, DOORS, OR SIMILAR DEVICES FOR VEHICLES; REMOVABLE EXTERNAL PROTECTIVE COVERINGS SPECIALLY ADAPTED FOR VEHICLES
- B60J3/00—Antiglare equipment associated with windows or windscreens; Sun visors for vehicles
- B60J3/04—Antiglare equipment associated with windows or windscreens; Sun visors for vehicles adjustable in transparency
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/04—Changes in size, position or resolution of an image
- G09G2340/0464—Positioning
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2354/00—Aspects of interface with display user
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2380/00—Specific applications
- G09G2380/10—Automotive applications
Abstract
一种常规车辆通常表现为类似于具有在所述车辆的设计阶段期间限定的固定特性的单个刚性车身。所述常规车辆的刚性性质限制了其调整不同操作条件的能力,因此限制了可用性和性能。为了克服这些限制,可以使用包含传感器和反应式系统的反应式车辆。所述传感器可以监测操作者的位置和/或定向、所述车辆的操作条件和/或所述车辆周围的环境条件。所述反应式系统可以基于由所述传感器获取的数据调整所述车辆的某一方面。例如,所述反应式系统可以包含基于视频的后视镜,所述基于视频的后视镜具有基于所述操作者的移动而改变的视场。在另一实例中,所述反应式系统可以包含铰接接头,所述铰接接头基于所述操作者的移动改变所述车辆的物理配置。
Description
相关专利申请的交叉引用
本申请是2019年4月30日提交的标题为“具有有效载荷定位系统的铰接式车辆(ARTICULATED VEHICLES WITH PAYLOAD-POSITIONING SYSTEMS)”的第PCT/US2019/029793号国际申请的部分继续申请(CIP),所述部分继续申请继而主张2018年4月30日提交的标题为“铰接式车辆(ARTICULATED VEHICLE)”的第62/664,656号美国申请的优先权。本申请还主张2018年10月12日申请的并且标题为“反应摄像头监测系统的设备及其方法”的第62/745,038号美国申请案的优先权。这些申请中的每一个以全文引用的方式并入本文中。
背景技术
人工操作的车辆(例如,汽车)通常由位于车辆的座舱中的驾驶员控制。为了安全地操作车辆,驾驶员应优选地知道车辆附近的物体(例如,人员、道路障碍、另一车辆)。然而,驾驶员周围环境的视场(FOV)主要限于驾驶员眼睛前方的区域,部分是由于人眼的有限外围视力。因此,驾驶员应移动其眼睛和/或头部以使其FOV偏离,以便检查车辆的周围环境(例如,在改变车道时检查盲点),通常是以使驾驶员的FOV偏离车辆行进方向为代价。驾驶员的FOV还可能受车厢内的障碍物限制,所述障碍物例如车厢的结构(例如,门板、窗户的大小、A、B或C柱)或车厢中的物体(例如,另一乘客、大型货物)。
常规车辆通常包含用于扩展驾驶员的FOV的后视镜。然而,驾驶员的FOV的增加是有限的。例如,传统的汽车后视镜通常提供中等的FOV,以减少距离畸变并且使驾驶员的注意力集中在车辆周围的某些区域。在正常可视距离下,对于驾驶员侧后视镜、中心(内部)后视镜和乘客侧后视镜,汽车中使用的后视镜的水平FOV通常分别在10-15°、23-28°、20-25°的范围内。此外,常规车辆在操作期间主要是单个刚性车身。因此,座舱的FOV主要在车辆的设计阶段期间确定,并且因此在生产之后不进行昂贵和/或耗时的修改就不能容易地重新配置。
发明内容
本文所述的实施例涉及一种包含反应式系统的车辆,所述反应式系统部分地响应于操作者(也称为“驾驶员”)的位置和/或定向的改变。(具有反应式系统的车辆可被称为反应式车辆。)例如,在操作者移动其头部时,反应式系统可以调整操作者的FOV。这可以通过几种方式实现,例如通过物理地致动车辆的铰接接头以便改变操作者相对于环境的位置,或通过调整向操作者显示的车辆外部的区域的视频图像。以此方式,反应式系统可以扩展操作者的FOV,从而向操作者提供对车辆周围环境的更大的情境感知,同时使操作者能够维持沿着车辆行进方向的感知。反应式系统还可以通过调整车辆上的摄像头或车辆本身的位置,使操作者能够看到物体周围和/或物体上方,这对于常规车辆来说是不可能的。
在一方面,驾驶员的位置和/或定向可以由联接到车辆的一个或多个传感器测量。传感器可以被配置成捕获与操作者相关联的各种类型的数据。例如,传感器可以包含用于获取操作者的红、绿、蓝(RGB)图像的摄像头和用于获取操作者的深度图的深度图传感器。RGB图像和深度图可用于确定与操作者相关联的各种面部特征和/或姿势特征的坐标,例如驾驶员头部的视觉参考点。操作者的各种特征的坐标可以作为时间的函数进行测量,并且可以用作致动反应式系统的输入。
使用各种数据类型来确定操作者的特征可以减少误报(即,检测虚假特征)的发生,并且能够在各种照明条件下进行特征检测。这些特征的检测可以使用例如卷积神经网络之类的几种方法来实现。运动滤波系统(例如,卡尔曼(Kalman)滤波器)还可以用于通过减少例如操作者的RGB图像中不需要的抖动来确保操作者的测量特征作为时间的函数而平稳地改变。深度图还可以几种方式与RGB图像一起使用。例如,深度可以遮蔽RGB图像,使得RGB图像的较小部分用于特征检测,从而降低计算成本。
一个或多个传感器还可以测量各种环境条件,例如道路表面的类型、车辆速度和加速度、车辆附近的障碍物和/或降水的存在。测量的环境条件还可以用作反应式系统的输入。例如,环境条件可以基于车辆的速度(例如,高速公路驾驶相比于城市驾驶)修改反应式系统的响应的量值(例如,对行驶高度的调整)。在一些情况下,环境条件还可以用作闸控(gate),其中,如果满足某些条件(例如,车辆速度、转向率、车轮牵引力),则可以阻止反应式系统的启动,以便维持操作者和车辆的安全。
反应式系统可以包含使用摄像头和显示器组装的基于视频的后视镜。摄像头可以联接到车辆并且被定向以获取车辆外部的区域(例如,车辆的后部)的视频图像。显示器可以用于向操作者显示所述区域的视频图像。当驾驶员移动时,可以变换显示器上示出的视频图像,以便调整摄像头捕获的区域的FOV。例如,操作者可以转动他们的头部并且视频图像相对应地偏离(例如,通过摇摄摄像头或使显示器上显示的视频图像的一部分偏离)以模仿与常规后视镜类似的响应。反应式系统可以包含多个摄像头,使得摄像头的聚合FOV基本上覆盖车辆周围环境,因此在操作车辆时减少或在一些情况下消除操作者的盲点。由多个摄像头获取的视频图像可以显示在一个或多个显示器上。
反应式系统可以包含用于物理地改变车辆配置的铰接接头。铰接接头可以包含一个或多个机构,例如用于调整车辆的倾斜/行驶高度的车辆的主动悬架和/或使车辆车身改变形状(例如,相对于车辆的尾部区段转动车辆的前部区段)的铰链。在一个实例中,铰接接头可以包含:引导结构,其限定其中车辆的第一部分可沿着路径相对于第二部分移动的路径;驱动致动器,其沿着路径移动车辆的第一部分;以及制动器,其使车辆的第一部分沿着路径保持在特定位置。
铰接接头可以用于修改操作者相对于环境的位置。例如,当操作者倾斜其头部以查看物体(例如,另一车辆)周围时,反应式系统可以使用铰接接头来倾斜车辆。在另一实例中,当操作者向上倾斜其头部以便观察物体(例如,障碍)时,反应式系统可以增加车辆的行驶高度。在这种情况下,反应式系统可以被配置成以不损害车辆稳定性的方式致动铰接接头。例如,当车辆以较高速度行进时,反应式系统可以减小致动的量值,或在一些情况下,阻止铰接接头致动。反应式系统还可以结合显式操作者命令(例如,从例如方向盘、加速器、制动器等输入装置接收的命令)致动铰接接头。
操作(反应)车辆的另一种方法包含使用第一传感器从车辆的操作者接收第一输入,以及使用第二传感器从车辆外部的环境接收第二输入。处理器标识第一输入与第二输入之间的相关性,并且基于所述相关性生成基于行为的命令。当将此基于行为的命令应用于车辆的致动器时,使得车辆以预定义行为移动。处理器基于所述基于行为的命令、经由可操作地联接到所述处理器的输入装置来自操作者的显式命令以及第二输入生成组合命令。所述处理器调整和/或过滤组合命令以维持车辆的稳定性,然后使用被调整和/或被过滤的组合命令致动车辆的致动器。
尽管在修改操作者和/或摄像头的FOV的上下文中描述了反应式系统的上述实例,但反应式系统及其中的各种部件也可以用于其它应用。例如,反应式系统可以用作车辆的安全系统。反应式系统可以识别并且允许经过批准的个人进入车辆,同时阻止其它个人进入(例如,通过致动车辆以防止进入)。在另一实例中,反应式系统可以使车辆经由铰接接头发出声音(例如,鸣喇叭),和/或打开/闪烁其前照灯,使得操作者能够(例如,在容纳多个车辆的停车场中)容易地定位车辆。在另一实例中,车辆可以具有自主操作模式,其中反应式系统被配置成命令车辆跟随位于车辆外部的操作者。例如,当操作者在环境中移动时,这可以用于记录操作者的视频图像。在另一实例中,反应式系统可以(例如,经由铰接接头)调整操作者的位置,以便减少操作者的视觉区域上的眩光。
前述概念和下文更详细论述的附加概念的所有组合(前提是这些概念不相互矛盾)被设想为是本文公开的发明主题的一部分。特别地,出现在本公开的结尾处的要求保护的主题的所有组合被认为是本文所公开的发明主题的一部分。还应了解,本文中明确使用的还可能出现在以引用的方式并入的任何公开内容中的术语应被赋予最符合本文公开的特定概念的含义。
附图说明
所属领域的技术人员将理解,附图主要是用于说明性目的且并非意图对本文所述的发明性主题的范围进行限制。附图未必按比例绘制;在一些情况下,本文公开的发明主题的各个方面可在附图中夸大或放大地示出以助于理解不同特征。在附图中,类似的参考标号通常指类似的特征(例如,功能上类似和/或结构上类似的元件)。
图1示出铰接式车辆,其响应于来自迎面车辆的前照灯光束而铰接以偏离驾驶员的视场。
图2示出驾驶员头部为中心原点的坐标系。
图3示出具有用于反应式车辆系统的校准特征的座椅。
图4示出车辆中的示例性反应式后视镜。
图5A示出安置在常规车辆中和常规车辆上的图4的反应式后视镜的各种部件和每个摄像头的视场(FOV)。
图5B示出安置在铰接式车辆中和铰接式车辆上的图4的反应式后视镜的各种部件和每个摄像头的FOV。
图6示出用于基于操作者的位置和/或定向获取和变换由图4的反应式后视镜的摄像头获取的视频图像的方法。
图7A示出具有铰接接头的示例性车辆的侧面横截面视图。
图7B示出图7A的车辆的侧视图。
图7C示出图7B的车辆的俯视图。
图7D示出图7B中呈低轮廓配置的车辆的侧视图,其中尾部区段的外壳被移除。
图7E示出图7B中呈高轮廓配置的车辆的侧视图,其中尾部区段的外壳被移除。
图8A示出车辆中的示例性铰接接头的透视图。
图8B示出图8A的铰接接头的侧视图。
图8C示出图8A的铰接接头的俯视侧透视图。
图8D示出图8A的铰接接头的底部侧透视图。
图8E示出图8A的引导结构中的车架和履带系统的俯视侧透视图。
图8F示出图8E的履带系统的俯视侧透视图。
图8G示出图8F的履带系统中的轨道中的轴承的横截面视图。
图9示出用于操作车辆的反应式系统的方法的流程图。
图10A示出当车辆转向时与控制车辆的操作者相关联的各种输入参数和输入参数的示例性范围。
图10B示出与车辆周围环境相关联的各种输入参数和当车辆转向时输入参数的示例性范围。
图11A示出作为驾驶员位置的函数的铰接式车辆沿着铰接轴线的移位,其中调整对所述移位的限制以维持稳定性。
图11B示出作为驾驶员位置的函数的铰接式车辆沿着铰接轴线的移位,其中调整移位的改变速率以维持稳定性。
图12A示出配备有传感器的铰接式车辆,所述传感器使用视频图像和由传感器获取的深度图来监测第二车辆的位置。
图12B示出图12A的铰接式车辆倾斜,这改变了相对于铰接式车辆上的传感器测量的第二车辆的位置。
图13示出铰接式车辆,所述铰接式车辆的行驶高度被调整以增加操作者和/或传感器的FOV。
图14A示出由于存在第二车辆而具有有限FOV的铰接式车辆。
图14B示出图14A中的铰接式车辆倾斜以看到第二车辆周围。
图15A示出铰接式车辆的俯视图和铰接式车辆的FOV。
图15B示出铰接式车辆的正视图和图15A的铰接式车辆的FOV。
图15C示出图15A的铰接式车辆横越一连串台阶的侧视图。
图16示出铰接式车辆,所述铰接式车辆标识接近车辆的人员,并且在适当情况下,作出反应以防止所述人员进入铰接式车辆。
图17示出获取位于铰接式车辆外部的操作者的视频图像的铰接式车辆。
具体实施方式
下面是对与反应式车辆系统、反应式后视镜系统、铰接式车辆以及使用前述铰接式车辆的方法相关的各种概念的更详细描述和实施方案。上文引入并在下文更详细地论述的概念可以多种方式实施。特定实施方案和应用的实例主要出于说明性目的而提供,以便使本领域技术人员能够实践对本领域技术人员显而易见的实施方案和替代方式。
以下描述的附图和示例实施方案并不旨在将本发明的实施方案的范围限制为单个实施例。通过互换所描述或所示元件的一些或全部,其它实施方案也是可能的。此外,在可以使用已知部件部分或完全实现所公开示例实施方案的某些元件的情况下,在一些情况下,仅描述了此类已知部件的对于理解本实施方案所必需的那些部分,并且省略了对此类已知部件的其它部分的详细描述,以免混淆本实施方案。
以下论述描述了车辆、反应式系统、反应式后视镜以及铰接机构的各种实例。结合给定实例论述的一个或多个特征可以在根据本公开的其它实例中采用,使得本文所公开的各种特征可以在根据本公开的给定系统中容易地组合(但前提是相应特征不相互矛盾)。
具有传感器和反应式系统的车辆
图1示出具有车身4100的(铰接)车辆4000。包含外部摄像头4202和内部摄像头4204的一个或多个传感器可以安装到车身4100,以测量与车辆4000相关联的各种输入,所述输入包含但不限于操作者(例如,驾驶员4010)的姿势和/或定向、车辆4000的操作参数(例如,速度、加速度、车轮牵引力)以及环境条件(例如,环境照明)。反应式系统(在图1中示出为铰接接头4300)可以联接到车辆4000以部分地基于由传感器4202和4204测量的输入修改车辆4000的一些方面(例如,改变操作者4010的FOV、横越可变地形等)。例如,在图1中,反应式系统4300使车辆铰接以将用户的头部移出由外部摄像头4204检测到的迎面车辆的前照灯光束的路径。车辆4000还可以包含处理器(图中未示),以管理传感器4202和4204和反应式系统4300,以及车辆4000中的各种部件与其相应的子系统之间的数据和/或命令的传输。
反应式系统4300可以包含或联接到一个或多个传感器,以获取与车辆4000相关联的各种类型的数据。例如,内部摄像头4204可以获取车辆4000和/或操作者4010的座舱的深度数据和红-绿-蓝(RGB)数据。深度帧的每个像素可以表示对着像素的对象与深度图传感器的het捕获源之间的距离。可以使用结构化红外(IR)投影和两个呈立体配置(或类似的深度捕获)的摄像头来获取深度帧。深度帧用于生成操作者4010和车厢的深度图表示。可以使用标准可见光摄像头获取RGB帧。由传感器4200获取的其它类型的数据可以包含但不限于操作者4010的心率、步态和面部识别。
包含惯性测量单元或陀螺仪的外部摄像头4202和/或其它传感器,可以被配置成获取各种车辆参数和/或环境条件,其包含但不限于车辆4000的定向、车辆4000的速度、悬架行程、加速度速率、道路表面的拓扑、降水、日/夜感测、道路表面类型(例如,铺面顺滑、铺面粗糙、碎石、泥土)、车辆4000附近的其它物体/障碍物(例如,另一汽车、人员、障碍)。这些传感器的工作频率可以是至少60Hz,并且优选地是120Hz。
与每个传感器相关联的各种操作参数可以存储包含但不限于与传感器有关的内部参数(例如,分辨率、尺寸)和外部参数(例如,内部摄像头4204在车辆4000的坐标空间内的位置和/或定向)。每个传感器的操作参数可以用于在与所述传感器相关联的局部坐标系与车辆坐标系之间转换。为了便于参考,本文使用的坐标系可以是基于国际标准化组织(ISO)16505-2015的右旋坐标系。在此坐标系中,正x轴沿着与车辆4000的向前移动方向相反的方向指向,z轴正交于地面平面且向上指向,并且在查看向前移动方向时y轴指向右侧。
处理器(在本文中也称为“微控制器”)可以用于执行各种功能,所述功能包含但不限于处理由传感器获取的输入数据(例如,过滤出噪声、组合来自各种传感器的数据),计算变换和/或生成命令以修改反应式系统4300,以及以通信方式耦合到车辆4000的各种子系统(例如,将外部摄像头4204联接到反应式系统4300)。例如,处理器可以用来确定操作者4010的位置和/或定向,并且生成应用于视频图像的图像变换。处理器可以大体上构成以通信方式耦合在一起的一个或多个处理器。在一些情况下,处理器可以是现场可编程门阵列(FPGA)。
如上文所描述,内部摄像头4202可以在车辆坐标空间中检测操作者4010(例如,操作者的头部或身体)的位置和/或定向。在以下实例中,内部摄像头4202获取操作者4010的深度数据和RGB数据两者。在特征检测之前,处理器可以首先将RGB图像与由内部摄像头4202获取的深度帧对齐,使得可以使用RGB数据和深度数据中的任一帧的像素坐标存取对应的颜色数据或深度数据。与RGB帧的处理进行比较,深度图的处理通常使用更少的计算资源。在一些情况下,深度图可以用于限制和/或遮蔽RGB帧中要进行处理的区域。例如,深度图可以用于提取RGB帧中与约0.1m至约1.5m的深度范围相对应的一部分以进行特征检测。以此方式减少RGB帧可以显著减小用于处理RGB帧的计算能力以及减少误报的发生。
特征检测可以通过几种方式实现。例如,预训练机器学习模型(例如,卷积神经网络)可以使用深度数据、RGB数据和/或组合(RGBD)数据来检测操作者4010的特征。所述模型的输出可以包含与车身、头部和/或面部特征相对应的像素区。所述模型还可以提供对操作者姿势的估计。在一些情况下,一旦处理器4400标识操作者的头部,处理器4400就可以接着估计操作者4010的视觉参考点(例如,图2所示的操作者眼睛之间的中点)。然后,可以取消投影视觉参考点,并且将其转换为车辆参考系内的坐标。如所描述,特征检测可以是软件构造,因此可以在制造时间之后更新用于特征检测的模型,以结合计算机视觉的进步和/或改进性能。
传感器(例如,内部摄像头4202)和反应式系统4300还可以对操作者4010进行校准。通常,操作者在车辆4000的座舱内的高度和位置(例如,不同的驾驶位置)可能随时间变化。如果车辆4000没有专门对操作者4010进行校准,则操作者的位置和定向的变化可能会阻止反应式系统4300能够正确地调整车辆4000以辅助操作者4010。操作者4010可以使用车辆4000中的各种输入启动校准模式,所述输入包含但不限于按下物理按钮、在车辆4000的控制台(例如,信息娱乐系统)上选择校准选项和/或使用语音命令。
通常,校准可以分为与(1)操作者的物理位置和移动以及(2)操作者的个人偏好有关的组别。与操作者的物理位置和移动有关的校准可以包含在车辆4000内的车辆坐标和操作者的运动范围内操作车辆4000时,确定操作者的默认坐姿和操作者的正常视觉点,这继而影响反应式系统4300对操作者头部位置的改变的响应范围。传感器4200可以用于获取操作者的物理位置和移动,并且可以存储所得的视觉参考点以供稍后在致动反应式系统4300时使用。
在校准期间,可以指示操作者4010以特定方式移动其身体。例如,来自车辆的扬声器和显示器的音频或视觉提示可以提示操作者4010正常坐下、向右移动或向左移动。处理器在每个位置处记录视觉参考点以确定默认位置和运动范围。提示可以多种方式传递给操作者4010,所述方式包含但不限于在车辆的信息娱乐系统上示出的视觉提示和/或指令以及通过车辆扬声器的音频指令。处理器可以根据车辆4000的坐标系记录视觉参考点,使得视觉参考点可以用作反应式系统4300中的各种部件的输入。
内部摄像头4202还可以对车辆4000中的座椅进行校准,这样可以提供更标准化的参考以定位车辆4000内的内部摄像头4202(和驾驶员4010)。图3示出包含待由传感器4200检测的校准图案4120的座椅4110。校准图案4120的形状和设计可以是事先已知的。所述校准图案可以用可见墨水或不可见墨水(例如,仅在近红外波长下可见的墨水)打印。替代地或另外,座椅4110可以具有可以用作校准的基准标记的独特形状或特征(例如,不对称特征)。通过对校准图案4120(和座椅4110)进行成像,可以找到传感器4200相对于座椅的相对距离和/或定向。在一些情况下,校准图案4120可以在可见波长(例如,人眼可直接观察)或红外波长(例如,人眼不可见且仅使用红外成像传感器可检测)处形成。
与操作者的个人偏好有关的校准可以基于正在使用的反应式系统4300的类型而变化。例如,反应式系统4300可以使用基于视频的后视镜,这允许操作者4010以与调整先前侧视镜类似的方式手动地调整所示出的视频图像。在另一实例中,反应式系统4300可以包含铰接接头。操作者4010能够定制铰接接头的致动的量值和/或速率(例如,更温和的致动可以提供更大的舒适度,更快速、更具攻击性的致动可以提供更大的性能)。
具有基于视频的后视镜的反应式系统
图4示出包含基于视频的后视镜4320的示例性反应式系统4300。如图所示,后视镜4320可以包含联接到处理器4400(也称为微控制器单元(MCU)4400)的摄像头4330,以获取车辆4000外部的环境4500的区域的源视频图像4332(也称为“源视频流”)。后视镜4320还可以包含联接到MCU 4400的显示器4340,以向操作者4010示出已变换视频图像4342(例如,源视频图像4332的一部分)。处理器4400可以将变换应用于源视频图像4332以响应于传感器4200检测操作者4010的移动而调整向操作者4010示出的已变换视频图像4342(例如,FOV和/或视角)。以此方式,基于视频的后视镜4320可以补充或替代车辆4000中的常规后视镜(例如,侧视镜、后视镜)。例如,基于视频的后视镜4320可以用于减少在使用常规后视镜时通常遇到的空气动力阻力。在一些情况下,后视镜4320可以被分类为由ISO 16505-2015定义的摄像头监测系统(CMS)。
后视镜4320可以获取覆盖车辆周围环境的足够部分的源视频图像4332,以使得车辆4000能够安全操作。另外,后视镜4320可以减少或减轻显示器4340上示出的已变换视频图像4342的比例和/或几何畸变。后视镜4320还可以被配置成符合当地规定。常规的驾驶员侧后视镜和中心后视镜通常无法展现这些期望的特性。例如,在美国,侧视镜和中心后视镜应提供单位放大倍率,这意味着所显示物体的角高度和宽度应与在相同距离直接观察的同一物体的角高度和宽度相匹配(联邦机动车辆安全标准第111号)。
摄像头4330可以单独使用或作为摄像头4330阵列的一部分使用,每个摄像头覆盖车辆4000外部的环境4500的相应区域。摄像头4330可以包含镜头(图中未示)和传感器(图中未示)以获取源视频图像4332,所述镜头和传感器组合起来限定摄像头4330的FOV 4334。
图5A和5B示出铰接式车辆4000和常规车辆4002,其各自包含分别覆盖车辆4000外部的左侧区域、右侧区域和后部区域的摄像头4330a、4330b和4330c(统称为摄像头4330)。每个车辆4000、4002还包含对应显示器4340a和4340b,其示出由摄像头4330a、4330b和4330c获取的已变换视频图像4342。(常规车辆还可以包含代替后视镜的额外显示器4340c。)如图所示,摄像头4330可以被定向为具有部分重叠的FOV 4334,使得不同的摄像头4330之间不形成盲点。
摄像头4330在车辆4000上的放置可取决于几个因素。例如,摄像头4330可以放置在车身4100上以捕获环境4500的期望FOV 4334(如图5A和5B所示)。摄像头4330还可以被定位成减少车辆4000上的空气动力阻力。例如,每个摄像头4330可以安装在车门和/或车身4100的侧板上或车辆4000行李箱的后向部分上的凹陷开口内。摄像头4330的放置还可以部分地取决于基于正在使用的车辆4000所处位置的当地规定和/或指南(例如,ISO 16505)。
摄像头4330的FOV 4334可以足够大以支持由处理器4400施加到源视频图像4332的一个或多个期望图像变换。例如,显示器4340上示出的已变换视频图像4342可以与由摄像头4330获取的源视频图像4332的一部分相对应,并且因此可以具有小于FOV 4334的FOV4344。摄像头4330的传感器可以足够高的分辨率获取源视频图像4332,使得已变换视频图像4342在支持的图像变换范围内至少满足显示器4340的最低分辨率。
FOV 4334的大小可以部分地基于摄像头4330中使用的光学器件。例如,摄像头4330可以使用广角镜头以便增加FOV 4334,因此覆盖环境4500的较大区域。摄像头4330的FOV 4334还可以经由将摄像头4330联接到车辆4000的车身4100的电动安装件进行调整。电动安装件可以转动和/或摇摄摄像头4330,因此偏离摄像头4330的FOV 4334。例如,这可以在摄像头4330包含焦距较长的镜头时使用。电动安装件可以被配置成以能够对示出给操作者4010的视频图像4342的期望响应的频率致动摄像头4330。例如,电动安装件可以在约60Hz下致动摄像头4330。在电动安装件以较低频率(例如,15Hz)致动摄像头4330的情况下,处理器4400可以(例如,经由插值法)生成额外帧以便对显示器4340上示出的视频图像4342进行上采样。
取决于照明条件和期望的曝光设置,每个摄像头4330可以可变帧速率获取源视频图像4332。例如,摄像头4330可以标称地以至少约30帧/秒(FPS)且优选地60FPS的帧速率获取源视频图像4332。然而,在低光情况下,摄像头4330可以至少约15FPS的较低帧速率获取源视频图像4332。
每个摄像头4330还可以被配置成在各种波长范围下获取源视频图像4332,所述波长范围包含但不限于可见的近红外(NIR)、中红外(MIR)和远红外(FIR)范围。在一些应用中,安置在车辆4000上的摄像头4330阵列可以用于覆盖一个或多个波长范围(例如,一个摄像头4330获取可见视频图像,并且另一个摄像头4330获取NIR视频图像),以便在操作后视镜4320时启用多个模式。例如,当传感器4200检测到车辆4000在低可见度条件(例如,夜间驾驶、雾)下操作时,处理器4400可以在显示器4340上仅示出IR视频图像。
反应式系统4300可以存储与每个摄像头4330相关联的各种操作参数,其包含但不限于与光学器件和/或传感器的特性有关的内部参数(例如,焦距、长宽比、传感器大小)、外部参数(例如,摄像头4330在车辆4000的坐标空间内的位置和/或定向)和畸变系数(例如,径向镜头畸变、切向镜头畸变)。摄像头4330的操作参数可以用于修改应用到源视频图像4332的变换。
显示器4340可以是被配置成示出与FOV 4344相对应的已变换视频图像4342的装置。如图5A和5B所示,车辆4000可以包含一个或多个显示器4340。显示器4340可以大体上示出由一个或多个摄像头4330获取的视频图像4332。例如,显示器4340可以被配置成以分屏布置示出多个摄像头4330的已变换视频图像4342(例如,并排显示的两个已变换视频图像4342)。在另一实例中,处理器4400可以变换由多个摄像头4330获取的源视频图像4332,使得显示器4340上示出的已变换视频图像4342从一个摄像头4330无缝地转换到另一摄像头4330(例如,源视频图像4332无缝地拼接在一起)。车辆还可以多个显示器4340,每个显示器与车辆4000上的摄像头4330相对应。
显示器4340的放置可以取决于几个因素。例如,显示器4340的位置和/或定向可以部分地基于操作者4010或车辆4000的车辆的驾驶员座椅的标称位置。例如,一个显示器4340可以定位在方向盘的左侧,并且另一个显示器4340定位在方向盘的右侧。一对显示器4340可以用于示出来自位于车辆4000的左侧和右侧上的相应摄像头4330的已变换视频图像4342。可以允许操作者4010看到已变换视频图像4342而不必沿着行进方向忽视车辆的周围环境的方式放置显示器4340。另外,与摄像头4330类似的,显示器4340的位置还可以取决于基于正在使用的车辆4000所处位置的当地规定和/或指南。
在一些情况下,显示器4340还可以是触敏式的,以便向操作者4010提供输入显式命令以控制基于视频的后视镜4320的能力。例如,操作者4010可以用他们的手触摸显示器4340并且应用刷(swiping)运动,以便摇摄和/或缩放显示器4340上示出的已变换视频图像4342的部分。当对基于视频的后视镜4320进行校准时,可以经由触摸界面调整显示器4340的偏移,这将在下文更详细地论述。另外,操作者4010可以使用触摸界面来调整显示器4340的各种设置,其包含但不限于亮度和对比度。
反应式系统4300可以存储与每个显示器4340相关联的各种操作参数,其包含但不限于显示器4340的内部特性(例如,显示器的分辨率、刷新速率、触摸敏感度、显示器尺寸)、外部特性(例如,显示器4340在车辆4000的坐标空间内的位置和/或定向)和畸变系数(例如,显示器4340的曲率)。处理器4400可以使用显示器4340的操作参数来执行对视频图像4332的变换。
如上文所描述,处理器4400可以用于控制反应式系统4300。在基于视频的后视镜4320的情况下,处理器4400可以使用高速通信总线部分地基于所使用的特定类型的摄像头4330和/或显示器4340(例如,摄像头4330的位速率、显示器4340的分辨率和/或刷新速率)与显示器4340和摄像头4330进行通信。在一些情况下,通信总线还可以部分地基于所使用的处理器4400的类型(例如,中央处理单元和/或图形处理单元的时钟速度)。处理器4400还可以使用共同通信总线,例如控制器局域网(CAN)总线,与基于视频的后视镜4320的各个部件和/或车辆4000的其它子系统进行通信。
反应式系统4300中的基于视频的后视镜4320可以获取源视频图像4332,所述源视频图像基于操作者4010的移动进行修改,并且在显示器4340上示出为已变换视频图像4342。这些修改可以包含将变换应用于源视频图像4332,所述变换提取源视频图像4332的适当部分,并且准备视频图像4332的所述部分以显示给操作者4010。在另一实例中,变换可以用于修改已变换视频图像4342的FOV 4344,使得后视镜4320以与常规后视镜类似的方式做出响应。例如,FOV 4344可以随着操作者4010移动靠近显示器4340而变宽。另外,已变换视频图像4342的FOV 4344可以随着操作者4010左右偏离而摇摄。
图6示出部分地基于操作者4010的头部的位置和/或定向的改变而变换由摄像头4330获取的源视频图像4332的方法600。方法600可以从使用传感器4200感测操作者的头部的位置和/或定向开始(步骤602)。如上文所描述,传感器4200可以获取操作者的头部的数据(例如,RGB图像和/或深度图)。然后,处理器4400可以基于由传感器4200获取的数据确定操作者4010的视觉参考点(步骤604)。如果处理器4400能够确定视觉参考点(步骤606),则计算变换并且应用所述变换以修改源视频图像4332(步骤610)。
可以使用基于视频的后视镜4320和车辆4000中的传感器4200的模型来计算变换。模型可以接收各种输入,包含但不限于视觉参考点、摄像头4330的操作参数(例如,内部和外部参数、畸变系数)、显示器4340的操作参数(例如,内部和外部参数、畸变系数),以及制造商和用户的校准参数。各种类型的变换可以应用于源视频图像4332,所述变换包含但不限于摇摄、转动和缩放。变换可以包含将一系列矩阵变换和信号处理操作应用于源视频图像4332。
在一个实例中,应用于源视频图像4332的变换可以仅基于视觉参考点和用户校准参数。具体地,可以使用视觉参考点与操作者4010的默认坐姿(如校准的)之间的距离来使用简单仿射变换来摇摄和/或放大源视频图像4332的一部分。例如,变换的量值可以缩放到操作者4010的已校准运动范围。另外,摇摄和/或缩放速率可以是恒定的,使得已变换视频图像4342均匀地响应操作者的头部的移动。在一些情况下,后视镜4320的均匀响应可以不取决于显示器4340与操作者4010的视觉参考点之间的距离。
在显示器4340位于操作者4010的前面和/或当后视镜4320被配置成仅响应于操作者的头部的位置的改变(并且不响应于其它参数的改变,例如操作者4010的视角或显示器4340与操作者4010之间的距离)时,这种变换在车辆4000中可能是优选的。以此方式,在为车辆4000中的各种摄像头4330和显示器4340放置提供更标准化的响应的同时,这种变换可以更容易实施并且计算成本更低(且因此执行速度更快)。另外,这种变换可以基于操作者的头部的移动而应用于源视频图像4332。
在另一实例中,应用于源视频图像4332的变换可以部分地基于操作者4010相对于显示器4340的视角以及操作者4010的视觉参考点与显示器4340之间的距离。包含基于操作者4010相对于显示器4340的位置、视角和距离的调整的变换可以更好地模拟传统后视镜的行为,并且继而可能使操作者4010感觉更自然。处理器4400可以确定从操作者4010的视觉参考点到显示器4340的中心的矢量。然后,矢量可以用来确定已变换视频图像4342的目标FOV和摇摄位置。例如,光线投射方法可以用于限定FOV,其中将光线从操作者4010的视觉参考点投射到显示器4340的相应角落。
下一步是提取源视频图像4332中与目标FOV相对应的一部分。这可能涉及确定用于已变换视频图像4342的源视频图像4332的部分的位置和大小。源视频图像4332的部分的大小可以部分地取决于摄像头4330的角分辨率(例如,每像素的度),这是摄像头4330的内部参数中的一个。摄像头4330的角分辨率可以用于确定待提取的视频图像4332的部分的尺寸。例如,目标FOV的水平轴线可以覆盖45度的角范围。如果摄像头4330的角分辨率是每像素0.1度,则视频图像4332的部分应具有沿着水平轴线的450个像素以便满足目标FOV。
从由摄像头4330捕获的源视频图像4332提取的已变换视频图像4342的位置可以取决于操作者4010相对于显示器4340的视角。视角可以限定为矢量与矢量之间的角,所述角相交并且正交于显示器4340的中心。因此,和的共线性将与操作者4010的视觉参考点与显示器4340的中心对齐相对应。当操作者的头部移动时,所得视角可以使已变换视频图像4342的位置在源视频图像4332内偏离到适当位置。可以通过将视角的相应分量(即,水平视角和竖直视角)乘以摄像头4330的角分辨率来确定位置的偏离。以此方式,可以相对于源视频图像4332找到裁剪部分的中心点(例如,X和Y像素位置)。
如果处理器4400无法确定操作者4010的视觉参考点,则可以将默认变换或先前变换应用于源视频图像4332(图6中的步骤608)。例如,可以维持与视觉参考点的先前测量相对应的先前变换,使得如果没有检测到视觉参考点,则不改变已变换视频图像4342。在另一实例中,可以基于对操作者移动的预测来计算变换。如果作为时间的函数来测量视觉参考点,则可以外推先前的测量以预测操作者4010的视觉参考点的位置。先前测量的外推可以通过一种或多种方式完成,所述方式包含但不限于线性外推(例如,操作者的移动近似为线性,其中时间增量足够小)和当执行特定动作时操作者行为的建模(例如,当改变车道时,操作者的头部以基本上可重复的方式朝向显示器4340移动)。以此方式,对视觉参考点的检测的突然中断不会使得已变换视频图像4342跳转和/或出现起伏。
一旦确定变换(例如,新的计算出的变换、默认/先前的变换),则将变换应用于源视频图像4332以生成已变换视频图像4342,然后将其示出在显示器4340上(图6中的步骤612)。变换源视频图像4332的此方法600可以在至少约60Hz的操作频率下执行。另外,摄像头4330和/或显示器4340的畸变系数可以用于对源视频图像4332的径向畸变和/或切向畸变进行校准。可以使用各种技术来校准畸变,例如基于先前校准计算已校正的像素位置,然后将源视频图像4332(即,源视频流)的像素位置重新映射到已变换视频图像4342(即,已变换视频流)中的已校正像素位置。
如上文所描述,传感器4200和/或反应式系统4300可以对操作者4010进行校准。对于基于视频的后视镜4320,校准可以包含调整显示器4340上示出的已变换视频图像4342以与操作者的头部对气,这可以基于操作者的头部与显示器4340之间的高度和/或距离而变化。另外,如先前所描述,操作者的运动范围和/或默认位置(例如,操作者在车辆4000中的驾驶位置)可以用于调整应用于源视频图像4332的变换。例如,操作者的运动范围可以用于缩放变换,使得已变换视频图像4342能够摇摄跨越较大的源视频图像4332(例如,已变换视频图像4342的FOV 4344可以覆盖源视频图像4332的FOV 4344)。
在另一实例中,操作者的默认位置可以用作“基线”位置。基线位置可以与具有每个显示器4340(即,在具有多于一个显示器4340的车辆4000中)的优选的FOV的操作者4010相对应。例如,每个显示器4340上示出的已变换视频图像4342可以相对于由每个对应摄像头4330获取的源视频图像4332基本居中。在另一实例中,优选的FOV可以取决于车辆4000的当地规定或制造商规范。在一些情况下,可以使用动态校准方法确定操作者4010的默认位置,其中当操作者4010使用车辆4000时,后视镜4320基于操作者4010的平均位置(例如,当操作者4010坐着时的平均位置)和/或运动范围适应不同的操作者4010。
后视镜4320的校准可以半自动方式执行,其中指示操作者4010执行某些动作(例如,移动他们的四肢),以便测量运动范围和默认位置。如前所述,操作者4010可以使用例如车辆4000的信息娱乐系统或车辆的扬声器之类的各种系统来接收进行校准的指令。对于基于视频的后视镜4320,显示器4340还可以用于向操作者4010提供视觉指令和/或提示。指令和/或提示可以包含车辆4000、道路和/或向操作者4010提供尺度和方向感的另一参考物体的一个或多个重叠图形。一旦执行这些测量,处理器4400就可以试图调整在每个显示器4340上示出的已变换视频图像4342,以便提供车辆周围环境的合适FOV。
还可以向操作者4010提供用于直接调整后视镜4320的控制件。以此方式,操作者4010可以根据他们的个人偏好校准后视镜4320,这与驾驶员能够调整车辆的侧视镜或后视镜的方式类似。可以向操作者4010提供各种控制输入,包含但不限于触摸控制件(例如,信息娱乐系统、显示器4340)、物理按钮和操纵杆。控制输入可以允许操作者4010手动地向上、向下、向左和向右摇摄已变换视频图像4342和/或调整放大因数偏移以增大/减小已变换视频图像4342的放大倍率。
这些调整可以通过修改应用于源视频图像4332的变换(例如,调整从源视频图像4332提取的已变换视频图像4342的大小和位置)和/或通过物理转动和/或摇摄摄像头4330来执行。另外,已变换视频图像4342可以由操作者4010摇摄和/或缩放的程度可以部分地由源FOV 4334和源视频图像4332的分辨率限制。在一些情况下,当地规定还可能对应用于已变换视频图像4342的摇摄和/或缩放调整施加限制。此外,可以在不以特定方式定位操作者4010的情况下进行这些手动调整(例如,操作者4010不需要处于默认位置)。
在对后视镜4320进行校准之后,可以存储车辆4000中针对每个后视镜4320的操作者的默认位置、运动范围和个别偏移。总的来说,这些参数可以限定每个显示器4340的“中心点”,其表示当控制车辆4000时在默认位置向操作者4010示出的环境的FOV。中心点可以仅使用默认坐姿和每个显示器4340的偏移来确定。在一些情况下,当没有检测到操作者4010的视觉参考点时,中心点可以与已变换视频图像4342的默认FOV 4344相对应。
操作者4010的运动范围可以用于缩放已变换视频图像4342被摇摄和/或缩放的速率。另外,运动范围可能受到车辆4000的座舱的限制和/或以其它方式被遮盖。因此,调整已变换视频图像4342的放大比例因数可以部分地取决于操作者4010在车辆4000的座舱中的可检测运动范围。如果操作者4010不能以足够的确定性并且在预定义时间段内进行定位,则后视镜4320可以默认为示出与每个显示器4340的校准中心点相对应的已变换视频图像4342。
一种具有铰接接头的反应式系统
反应式系统4300还可以包含铰接接头,所述铰接接头部分地基于操作者4010的行为改变车辆4000的物理配置。例如,铰接接头可以是车辆4000上的主动悬架系统的一部分,所述主动悬架系统调整车轮与车辆4000的底盘之间的距离。车辆4000可以包含用于每个车轮的多个独立控制的铰接接头,以改变行驶高度和/或使车辆4000倾斜。在另一实例中,铰接接头可以改变车身4100的形式和/或形状。这可能包含致动卡车平板的铰接接头。
另外,铰接接头可以弯曲和/或以其它方式扭曲车身4100的各个区段(参见图7A-7E中的车辆4000)。例如,一个或多个铰接接头和/或其它致动器可以致动有效载荷支撑机构而不是车辆本身。例如,这些致动器可以调整座椅的位置和后倾角,以最大限度地提高舒适度和/或可见度,特别是对于单个操作者而言,而无需铰接车辆。座椅调整可以操作者进入车辆后不久或预期进入车辆时进行。随着操作者逐渐适应,车辆移动时可以对座椅部分和后倾角进行后续调整。在这种情况下,铰接车辆可能是低效的或不安全的。
车辆车身4100的铰接及其悬架的致动可以实现多种配置,每种配置都为车辆4000的性能和/或操作提供某些期望特性。车辆4000可以被配置成基于如由传感器4200测量的操作者4010的位置和/或定向的改变在这些配置之间主动地转换。在一些情况下,操作者4010的显式输入(例如,启动车道改变信号,降低车窗)和操作者行为的组合可以控制车辆4000中的铰接接头的响应。
例如,车辆4000可以支持低轮廓配置,其中车辆4000的高度降低到更靠近道路(参见图7D)。低配置可以通过减小阻力系数和/或减小车辆4000的前部面积来提供改进的空气动力学性能。低轮廓配置还可以增加轴距和/或降低车辆4000的重心,这通过提供更大的稳定性和拐弯速率来提高驾驶性能。当处理器4400确定操作者4010专注于驾驶车辆4000(例如,视觉参考点指示操作者4010专注于车辆4000正前方的周围环境)和/或高速驾驶(例如,在高速公路上)时,处理器4400可以在低轮廓配置下转换和/或维持车辆4000。
在另一实例中,车辆4000可以支持高轮廓配置,其中车辆4000的高度升高到道路上方(参见图7E)。高轮廓配置可以用于辅助车辆4000的进入和/或离开。如果与铰接式座椅机构组合,则座椅(或更一般地说,载货平台)可以呈现在适合操作者4010(例如,工人、机器人自动机)接近存储在车辆4000中的有效载荷的高度。升高位置还可以增加操作者4010和/或安置在车辆4000上的任何传感器的FOV,以监测周围环境,从而增加情境感知。当操作者4010的FOV被环境中的障碍物(例如,另一车辆、障碍、人员)阻挡和/或处理器4400确定操作者4010正积极地尝试查看障碍物周围(例如,视觉参考点指示操作者的头部向上定向以查看障碍物),处理器4400可以在高轮廓配置下转换和/或维持车辆4000。
车辆4000还可以支持中等轮廓配置,所述中等轮廓配置可以被定义为先前描述的低轮廓配置与高轮廓配置之间的中间状态。因此,中等轮廓配置可以提供低轮廓和高轮廓特性的混合。例如,中等轮廓配置可以为操作者4010提供更好的可见度,同时维持低重心以提高动态性能。此配置可以用于适应在城市环境中操作车辆4000和/或与其它车辆或装置交互时遇到的许多情境。
中等轮廓配置的各种用例包含但不限于调整行驶高度以促进与信箱、自动柜员机(ATM)、免下车窗口和道路一侧的另一个人(例如,邻居或骑自行车的人)的交互。如果车辆4000用于运输货物(也许是自主的),则中间状态允许交货和/或装货码头、机器人和人类进行更好的人机工程学和机械交互。这些用例可能涉及操作者4010(或货物)的可预测移动。例如,操作者4010可以降低车窗并伸出手来与环境中的物体或人员交互。如果传感器4200检测到车窗降低,并且处理器4400确定操作者4010正在伸出他们的手,则处理器4400可以调整车辆4000的高度以匹配在驾驶员侧车窗附近检测到的物体的高度。
图7A-7E示出车辆4000,所述车辆并入有铰接接头106(也称为铰接机构)、变形区段123和有效载荷定位接头2100(也称为有效载荷定位机构)以支撑有效载荷2000(例如,驾驶员、乘客、货物)。在此实例中,车辆4000是具有后轮转向的三轮电动车辆。铰接接头106使车辆4000能够沿着车辆4000的长度围绕中间位置铰接或弯曲,从而重新配置车辆4000。
车辆4000的铰接范围可以由两个特性配置限定:(1)低轮廓配置,如图7A、7B、7D所示,其中轴距延长并且驾驶员接近地面以及(2)高轮廓配置,如图7E所示,其中驾驶员置于地面上方的升高位置。车辆4000可以铰接到低轮廓配置与高轮廓配置之间的任何配置。在一些情况下,铰接接头106可以将车辆4000限制为离散数量的配置。这在优选铰接接头106的更简单和/或低功率设计的情况下可能是合乎需要的。
车辆4000可以细分为前部车辆区段102和尾部区段104,其通过铰接接头106联接在一起。前部区段102可以包含车身108,其可以是各种类型的车辆支撑结构,包含但不限于一体式车身、单体式框架/外壳、空间框架和车身加框架构造(例如,车身安装在底盘上)。在图7A-7E中,车身108示出为单体式框架。车身108可以包含可拆卸侧板(或车轮整流罩)116、固定侧车窗125、联接到车辆4000的透明顶篷110,以及以平行配置布置并且安装在下面的车身108上的两个前车轮112。尾部区段104可以包含后外壳121、后挡风玻璃124和可转向车轮126。变形区段123可以联接在前部区段102与尾部区段104之间,以在各种配置下维持车辆4000下方的平滑、连续的外表面。在图7D和7E中,移除了后外壳121和后挡风玻璃124,使得可以看到至少与铰接接头106相关的下面的部件。
顶篷110可以经由铰链布置联接到车身108,以允许打开和关闭顶篷110。在有效载荷2000是驾驶员的情况下,当呈图7E的高轮廓配置时,顶篷110可以朝向车辆4000的顶部进行铰链连接,使得驾驶员可以通过在两个前车轮112之间走进/走出车辆4000而进入/离开车辆4000。
前车轮112可以由电动轮毂电机供电。后车轮126也可以由电轮毂电机供电。一些示例性电动机可以在2014年6月14日发布的且标题为“具有两个运动角度的旋转驱动(Rotary Drive with Two Degrees of Movement)”的美国8,742,633和标题为“导向多连杆机构电驱动系统(Guided Multi-Bar Linkage Electric Drive System)”美国专利出版物2018/0072125中找到,两者的全部内容通过引用并入本文。
前部车辆区段102的后部表面可以嵌套在后外壳121内并且成形为使得当尾部区段104经由铰接接头106相对于前部区段102移动时,尾部区段104的后外壳121与前部车辆区段102的后部表面之间的间隙保持较小。如图所示,铰接接头106可以通过使尾部区段104相对于前部区段102围绕旋转轴线111转动来重新配置车辆4000。在图7B、7C和7E,旋转轴线111垂直于将车辆4000二分的平面。平面可以限定为容纳(1)车辆4000的纵向轴线(例如,与车身108的最前部分和后外壳121的最后部分的轴线相交的轴线)和(2)垂直于车辆4000搁置在其上的水平表面的竖直轴线。
铰接接头106可以包含确定铰接接头106的铰接运动轮廓的引导结构107(也称为引导机构)。在图7A-7E中示出示例性车辆4000中,引导结构107可以包含联接到前部区段102的履带系统和联接到尾部区段104的车架538。替代地,履带系统536可以联接到尾部区段104,并且车架538联接到前部区段102。车架538可以沿着由履带系统536限定的路径移动,从而使车辆4000改变配置。铰接接头106还可以包含驱动致动器540(也称为驱动机构),其使车架538沿着履带系统536移动到期望配置。驱动致动器540可以是可电控的。铰接接头106还可以包含制动器1168以使车架538保持在沿着履带系统536的特定位置处,从而允许车辆4000维持期望配置。
车身108还可以在其中容纳有效载荷定位接头2100。有效载荷定位接头2100可以作为车辆4000配置的函数将有效载荷2000定向到优选定向。当铰接接头106改变车辆4000的配置时,有效载荷定位接头2100可以同时相对于车辆4000(特别是前部区段102)重新配置有效载荷2000的定向。例如,有效载荷定位接头2100可以用于维持相对于地面的优选驾驶员定向,使得驾驶员不必在车辆4000从低轮廓配置转换到高轮廓配置时重新定位其头部。在另一实例中,有效载荷定位接头2100可以用于维持包裹的优选定向,以降低当车辆4000铰接时对容纳在包裹内的物体损坏的可能性。
图7A-7E中示出的车辆4000是铰接接头106、变形区段123和有效载荷定位接头2100的一个示例性实施方案。分别参考车辆4000论述铰接接头106、变形区段123和有效载荷定位接头2100的各种设计。然而,铰接接头106、变形区段123和有效载荷定位接头2100可以在其它车辆架构中单独地或组合地实施。
7A-7E中的铰接式车辆4000示出为具有单个铰接DOF(即,旋转轴线111),其中尾部区段104相对于前部区段102转动以改变车辆4000的配置。这种拓扑对于在城市环境和高速公路中行进的单个通勤者或乘客来说可能是优选的,特别是在考虑与周围环境的中间和端点(例如,紧凑/嵌套式停车场、小空间可操纵性、低速可见度、高速空气动力学形式)交互时。为所述拓扑和用例提供支持的各种机构可以更一般地应用于更广泛的车辆范围、车队配置和/或其它拓扑。
例如,车辆4000可以支持一个或多个DOF,所述一个或多个DOF可以各自铰接。铰接可以围绕轴线发生,从而产生旋转运动,因此提供旋转DOF,例如图7A-7E中的旋转轴线111。铰接也可以沿着轴线发生,产生平移运动,并且因此产生平移DOF。本文所描述的各种机构(例如,铰接接头106、有效载荷定位接头2100)还可以用于限制沿着一个或多个DOF的运动。例如,铰接接头106可以限定路径,车辆4000的部件沿着所述路径移动(例如,车架538被限制成沿着由履带系统536限定的路径移动)。铰接接头106还可以限定沿着路径的运动范围。这可以部分地实现,通过铰接接头106提供由沿着期望DOF的低力输入引起的平滑运动,同时使用高强度和高硬度部件的组合沿着其它DOF提供机械约束,所述高强度和高刚度部件使用严格公差组装和/或通过外力压入接触。
此处描述的机构可以限定相对于轴线或点(例如,远程运动中心)的运动,所述轴线或点可以物理地位于或不位于铰接接头106上。例如,7A-7E中示出的铰接接头106引起围绕旋转轴线111的旋转运动,所述旋转轴与车身108的内部隔室相交,所述车身与托架538和履带系统536分开。在另一实例中,有效载荷定位接头2100可以具有限定平台(例如,驾驶员的座椅)的平移运动的一个或多个轨道2112。
另外,沿着每个DOF的运动也可以独立地可控。例如,车辆4000中的每个期望DOF可以具有单独的对应铰接接头106。每个铰接接头106的驱动系统可以独立于其它DOF而引起沿着每个DOF的运动。参考图7A-7E,引起围绕旋转轴线111旋转的铰接接头106可以不取决于车辆4000中支持的其它DOF。
然而,在一些情况下,沿着车辆4000的一个DOF的铰接可以取决于车辆4000的另一DOF。例如,车辆4000的一个或多个部件可以响应于正铰接的另一部件而相对于另一部件移动。此相关性可以通过将几个DOF机械地联接在一起来实现(例如,一个铰接接头106机械地连接到另一个铰接接头106,使得单个驱动致动器540可以依序或同时致动两个铰接接头106)。另一种方法是通过将单独的驱动致动器540连接在一起,以电子方式耦合单独的DOF。例如,有效载荷定位接头2100可以响应于铰接接头106重新配置车辆4000而使用车载电动机致动驾驶员座椅,使得驾驶员在车辆4000重新配置时维持优选定向。
铰接接头106可以大体上包含引导结构107,所述引导结构限定运动轮廓,且因此限定铰接接头106的铰接DOF。引导结构107可以包含相对于彼此移动的两个参考点。第一参考点可以联接到车辆4000的一个部件,而第二参考点可以联接到车辆4000的另一部件。例如,前部区段102可以联接到引导结构107的第一参考点,并且尾部区段104可以联接到引导结构107的第二参考点,使得前部区段102相对于尾部区段104铰接。
在一个方面,引导结构107可以提供围绕轴线和/或点的铰接,所述轴线和/或点在物理上不与铰接接头106本身共同定位。例如,铰接接头106可以是远程运动中心(RCM)机构。RCM机构定义为在与移动的机构相同的位置中不具有物理转动接头。例如,可以使用此类RCM机构来提供位于车辆4000的其它不方便部分的转动接头,所述不方便部分例如有效载荷2000所在的车身108的内部座舱或车辆子系统,例如转向组件、电池组或电子设备所在的位置。
下文描述铰接接头106作为RCM机构的几个实例。然而,铰接接头106可能不是RCM机构,其中沿着限定DOF所围绕的轴线或点的位置可能与铰接接头106的部件一起物理地定位。
在一个实例中,引导结构107可以是车架-履带机构。图7A-7E中示出的铰接接头106是此类机构的一个实例。引导结构107可以包含车架和履带系统536,其在图8A-8G中更详细地示出。如图8A所示,履带系统536可以附接到前部区段102。车架538可以是尾部区段104的一部分。如图8E-8F所示,车架538可以沿着由履带系统536限定的竖直定向的弯曲路径行进。驱动致动器540可以安装在车架538上以在电控制下沿着履带系统536机械地移动车架538。
履带系统536可以包含两个弯曲轨道642,其彼此平行地延伸并且都联接到前部车辆区段102的后表面。弯曲轨道642在设计上可以类似。车身108可以由模制的刚性碳纤维壳制成,所述碳纤维壳具有形成轨道642附接在其上的后表面的凸面弯曲的后部表面(即,相对于从后面查看前部车辆区段102呈凸面)。轨道642附接到其上并且与之贴合的后表面的区域表示圆柱表面的一部分,所述一部分的轴线与旋转轴线111相对应。换句话说,轨道642可以具有穿过车架538在其上移动的区域的恒定曲率半径。轨道642在其上延伸的弧可以在约90°到约120°之间。
每个轨道642还可以包含跨越轨道642的长度的一部分的凹陷区域643。凹陷区域643可以包含一个或多个孔Z,螺栓(图中未示)可以通过所述孔将轨道642附接到碳纤维壳108。每个轨道642可以具有大体上成形为等腰梯形的横截面,其中梯形的窄侧在接近其附接到的前部车身壳108的轨道642的底侧上,并且梯形的较宽侧在轨道642的顶侧上。轨道642可以由任何适当材料制成,包含但不限于铝、以减少氧化的硬涂层铝(例如,具有氮化钛)、碳纤维、玻璃纤维、硬塑料和硬化钢。
8A和8E中示出的车驾538支撑车辆4000的尾部区段104。尾部区段104还可以包含后部壳121、转向机构200和车轮组件201。可以使用一个或多个轴承将车架538联接到履带系统536。如图8G所示,两个轴承644用于每个轨道642。每个轴承644可以包含三个部分的组件:上部板645和紧固到上部板645的两个锥形侧壁646。组装的轴承644可以限定具有基本上与轨道642的横截面(例如,等腰梯形)类似的开口,所述开口的尺寸可以比轨道642略大以促进在使用期间的运动。如图所示,轴承644因此可以联接到轨道642以形成“弯曲的燕尾形”布置,其中轴承644的内侧壁可以接触轨道642的锥形外侧壁。轴承644可以不沿着除了通过围绕旋转轴线111的旋转运动限定的期望DOF之外的任何其它DOF与轨道642分离。出于说明的目的,图8G示出轴承644与轨道642之间的公差的放大表示。实际上,公差可能基本上小于所示的公差。板645和侧壁646可以是弯曲的以与弯曲轨道642贴合。
在一个实例中,轴承644可以是滑动轴承,其中轴承644的内顶面和侧表面在安装时分别抵靠着轨道642的顶面和侧壁表面滑动。轴承644还可以包含顶板中的螺钉孔以将车架538的其余部分(例如,经由螺栓)联接到履带系统536。
轴承644的长度(例如,沿着平行于轨道642的方向限定的长度)可以大于轴承644的宽度。长度与宽度的比率可以被调谐以调整负载在轴承表面上的分布,并且减少轴承644与轨道642之间的结合的可能性。例如,比率可以在约3至约1的范围内。轴承644还可以具有低摩擦力、高力、低磨损的工作表面(例如,尤其是接触轨道642的表面)。例如,轴承644的工作表面可以包含但不限于铁氟龙涂层、石墨涂层、润滑剂和抛光轴承644和/或轨道642。另外,多个轴承644可以被布置成具有在约1至约1.6之间的范围的长度与宽度比率的占地面积(footprint),以便减少结合、增加硬度和增大运动范围。通常,具有较长基部的轴承644可以具有减小的运动范围,而具有较窄基部的轴承644可以具有较低硬度;因此,可以选择轴承644的长度以平衡运动范围和硬度,这还可以取决于施加于轴承644的其它约束,例如大小和/或在车辆4000中的放置。
车架538还可以包含两个框架构件539,其中每个框架构件539与对应的轨道642对齐。在车架538的接近轨道642的一侧上,可以使用两个横杆854和856将两个框架构件539刚性地连接在一起。轴承644可以在四个附接点848a-d处附接到框架构件539。在车架538的距轨道642最远的一侧,两个支撑杆851可以用于支撑车轮组件201和转向机构200。两个支撑杆851可以通过另一横杆850连接在一起。
上文所描述的车架538和履带系统536仅仅是履带型铰接接头106的一个实例。其它示例性铰接接头106可以包含单个轨道或多于两个轨道。如上文所示,RCM可以位于车辆4000的座舱中,其中有效载荷2000位于所述座舱中,而不具有进入所述空间的任何部件和/或结构。然而,在其它示例性铰接接头106中,RCM可以相对于车辆4000位于其它地方,包含但不限于在铰接接头106上、车辆子系统中(例如,在前部区段102中、在尾部区段104中)和车辆4000外部。
如上文所描述,反应式系统4300中的铰接接头可以改变车辆4000的物理配置,以便修改车辆4000的一些方面和/或特性,例如操作者的FOV。然而,在一些情况下,铰接接头可能够将车辆4000的物理配置修改到使车辆4000变得机械不稳定的程度,这可能使得车辆4000部分或完全失去控制。为了在操作车辆4000时防止这种稳定性损失,反应式系统4300可以包含对铰接接头施加约束(例如,限制致动范围,限制致动速率)的稳定性控制单元。
例如,当改变车道时,操作者4010可以倾斜到车辆4000的一侧,以便调整其后视显示器的视角,从而使得操作者4010能够检查是否有任何车辆正从后方接近。响应于操作者的移动,车辆4000的铰接接头可以主动地使车辆4000侧倾(roll),以便增加操作者4010可用的FOV。然而,由处理器4400命令的用于增强FOV的侧倾量可能受到稳定性控制单元的限制或在一些情况下被稳定性控制单元取代,以便防止车辆稳定性损失和/或车辆4000侧翻。
由稳定性控制单元施加于铰接接头上的约束可以基于车辆4000的操作条件而变化。例如,与高速度(例如,旋转车轮的陀螺仪稳定效应提供更大的车辆稳定性)进行比较,当车辆4000以低速度(例如,改变交通车道)行进时,稳定性控制单元可以对允许侧倾量施加更多限制。以此方式,稳定性控制单元可以针对铰接接头预先过滤致动器命令,意图在车辆稳定性受到影响时提高操作者的舒适度。
图9描绘管理反应式系统4300中的铰接接头的操作的示例性控制系统5000。如图所示,控制系统5000包含行为控制子系统5200,所述行为控制子系统部分地基于操作者的动作生成基于行为的命令。控制系统5000还可以包含车辆控制子系统5100,所述车辆控制子系统从操作者4010、环境4500和行为控制子系统5200接收输入,并且基于输入生成命令,所述输入接着用于致动车辆4000中的包含铰接接头的各种致动器。
车辆控制子系统5100可以与先前的车辆控制系统类似地操作。例如,子系统5100接收操作者4010(例如,转向输入、加速器输入、制动器输入)和环境4500(例如,降水、温度)的命令,并且在执行之前评估车辆稳定性和/或修改命令。因此,车辆控制子系统5100可以被看作是由行为控制子系统5200增强的,所述行为控制子系统基于操作者的行为提供例如车辆4000的铰接之类的额外功能。
控制系统5000可以接收操作者生成的输入5010和环境生成的输入5020。操作者生成的输入5010可以包含显式命令,即源自操作者4010的命令,所述命令与车辆4000中的例如方向盘、加速器踏板、制动器踏板和/或转向信号旋钮之类的输入装置物理地介接。操作者生成的输入5010还可以包含隐式命令,例如基于操作者4010的移动生成的命令,所述移动例如操作者4010倾斜其头部以检查后视显示器和/或操作者4010由于眩光而对眯起他们的眼睛。环境生成的输入5020可以包含影响车辆4000的操作的各种环境条件,例如道路干扰(例如,坑洞、道路表面的类型)、天气相关的影响(例如,雨、雪、雾)、道路障碍物(例如,其它车辆、行人)和/或操作者4010不在车辆4000内部时。
如图9所示,操作者生成的输入5010和环境生成的输入5020可以各自用作车辆控制子系统5100和行为控制子系统5200两者的输入。行为控制子系统5200可以包含操作监测系统5210和外部监测系统5220,所述外部监测系统包含各种传感器、人机接口装置和摄像头阵列,以测量操作者生成的输入5010(显式命令和隐式命令)和环境生成的输入5020。行为控制子系统5200还可以包含情境感知引擎5230,所述情境感知引擎处理并且合并操作者生成的输入5010和环境生成的输入5020。情境感知引擎5230还可以过滤输入5010和5020,以减少车辆4000的不需要的铰接的可能性(例如,当操作者在收听音乐时观察乘客或移动其头部时,不应启动铰接接头)。
情境感知引擎5230可以将组合输入传输到行为引擎5240,所述行为引擎试图标识组合输入与和特定车辆行为相关联的校准输入之间的预定义相关性。例如,各种输入(例如,方向盘角、操作者头部的倾斜、操作者4010的凝视方向和/或转向信号的存在)可以在车辆4000转动时展现特性值。
图10A和10B分别示出各种示例性操作者生成的输入5010和环境生成的输入5020的相应表格,将各种输入的标称范围和与车辆4000相关联的输入值进行比较,从而进行左转。如果行为引擎5240确定组合输入具有与左转车辆4000相关联的特性输入值基本上类似的值,则行为引擎可以得出车辆4000左转并且生成适当的基于行为的命令的结论。否则,行为引擎5240可能不产生基于行为的命令。
行为引擎5240可以在组合输入和与特定车辆行为相关联的校准输入之间以几种方式执行此比较。例如,组合输入可以表示为二维矩阵,在二维矩阵中每个条目与参数值相对应。行为引擎5240可以执行组合输入与先前校准的输入集之间的互相关性。如果所得的互相关性展现足够数量的峰(指示组合输入中的一个或多个的峰与校准输入的值匹配),则行为引擎5240可以得出车辆4000展现与校准输入相关联的特定行为的结论。
如果行为引擎5240生成基于行为的命令,则将命令发送到车辆控制子系统5100中的车辆控制单元5110。车辆控制单元5110可以将基于行为的命令与例如操作者4010的显式命令和环境生成的输入5020之类的其它输入组合以生成组合的命令集。车辆控制单元5110还可以包含先前描述的稳定性控制单元。因此,车辆控制单元5110可以评估是否可以在没有车辆稳定性损失的情况下执行组合的命令集。
如果车辆控制单元5110确定组合的命令集将使车辆4000变得不稳定,则车辆控制单元5110可以调整和/或过滤命令以确保车辆稳定性得到维持。这可以包含(例如,通过应用权重因数)相对于其它输入减小基于行为的命令的量值。另外,可以基于预定义的规则集将优先顺序赋予某些输入。例如,当操作者4010向制动器踏板施加压力时,车辆控制单元5110可以忽略基于行为的命令,以确保车辆4000能够适当地制动。更一般地,由操作者4010提供的显式命令可以优先于基于行为的命令,以确保车辆4000和操作者4010的安全。一旦车辆控制单元5110验证组合的命令集,则命令接着被应用于车辆的适当致动器5120以执行期望行为。
图11A和11B示出作为操作者4010相对于车辆参考系的倾斜角的函数的命令车辆侧倾角相对于惯性参考系(例如,由重力矢量所设定的)的示例性校准图。如图11A所示,可以在较小的值下保持较小,以确保车辆4000不会响应于操作者4010的倾斜角的微小改变而明显侧倾,从而防止车辆4000的意外致动。随着的增加,在饱和之前迅速增加。饱和点可以表示车辆控制单元5110施加的确保维持稳定性的限制。
由车辆控制单元5110施加的限制可以基于车辆4000的操作条件而变化。例如,图11A示出可以增大或减小的上限。对上限的改变可以部分地基于车辆4000的速度和/或其它稳定效应(例如,旋转车轮的陀螺仪稳定效应)的存在。图11B示出还可以调整速率改变以维持稳定性。作为的函数的速率改变可以基于车辆4000的行驶高度。如果车辆4000呈低轮廓配置,则车辆4000可以具有更小的惯性力矩,并且因此能够在未失去稳定性的情况下以更快的速率侧倾。
如图所示,当操作者4010倾斜其头部时,车辆4000可以继续侧倾到饱和限制。另外,如果操作者4010返回到其在车辆4000内的初始位置,则车辆4000可以停止对操作者4010做出响应。传感器4200可以连续地对操作者在车辆4000中的默认位置进行校准,以便提供初始位置的连续更新。在一些情况下,可以使用具有长时间常数的低通滤波来确定被视为操作者4010的初始位置的参考位置。
在一个示例性用例中,操作者4010可以倾斜其头部以查看位于车辆4000附近的障碍物周围。此处,操作者生成的输入5010可以包含操作者头部的倾斜角(相对于车辆参考系获得的),并且环境生成的输入5020可以是障碍物的检测。例如,如图12A和12B所示,环境生成的输入5020可以是通过将1D或2D范围数据(例如,激光、超声波、雷达数据)与前向RGB摄像头组合来构造的可视图。如果范围数据指示障碍物与车辆4000之间的距离低于预定义阈值(参见图12A和12B的障碍物遮蔽中的黑色方框),可视图可以指示障碍物(例如,另一车辆)的存在。例如,如果障碍物离车辆4000有10米远,则操作者4010不太可能倾斜以查看障碍物周围。然而,如果障碍物离车辆4000不到2米远,则操作者4010可以被视为倾斜以查看障碍物周围。
反应式系统的应用
如上文所描述,传感器4200和反应式系统4300可以使得额外车辆形式能够提高车辆4000的性能和/或可用性。例如,基于视频的后视镜4320和铰接接头的上述实例主要涉及修改操作者4010的FOV。作为示例性用案,图13示出被停放在车辆4000附近的车辆遮盖的人行道。如果车辆4000包含铰接接头,则可以增加车辆4000的行驶高度,以使车辆4000上的操作者4010和/或传感器能够检测并且检测到躺式自行车上的骑车人和人行道中的迷你腊肠犬。
在另一实例中,车辆4000可以具有长行程悬架元件,以允许车辆4000响应于操作者4010倾斜而倾斜(例如,+/-45度),以便修改车辆几何特性并且提高车辆动态性能。例如,较窄的车辆在减少空气动力阻力和降低城市占地面积/增加的可操纵性方面是优选的。然而,较窄的车辆可能会受到较差的动态稳定性的影响,尤其是在拐弯时,由于轮距较窄。当操作者4010以高速率拐弯时,车辆4000像摩托车一样倾斜到转弯处可能是有益的。
图14A和14B示出车辆4000位于另一车辆后方的另一示例性用例。操作者4010可以倾斜其头部(或身体)以看到另一车辆周围,从而增加其FOV和其情境感知。车辆4000可以检测到操作者4010在座舱内倾斜以便查看另一车辆周围,并且可以通过使车辆4000倾斜以进一步增加操作者4010的FOV而做出响应。在一些情况下,车辆4000还可以增加行驶高度以随着车辆4000倾斜而进一步增加FOV。
图15A-15C示出车辆4000被用作自动安全无人机的情况。在这种情况下,反应式系统4300可以完全根据环境生成的输入做出响应。车辆4000可以包含具有周围环境的360度FOV的摄像头。反应式系统4300可以被配置成以与14A和14B中的示例性车辆4000基本上类似的方式做出响应,除了在这种情况下,反应式系统4300响应于由环境的摄像头获取的视频图像而非响应于操作者4010的移动。例如,车辆4000可以被配置成检测环境中的障碍物,并且作为响应,反应式系统4300可以致动铰接接头以使摄像头能够看到障碍物周围和/或避免与障碍物碰撞。
摄像头还可以被配置成检测不均匀表面。为了横越这些表面,车辆4000可以被配置成使用步行运动。在一些情况下,车辆4000可以包含每个车轮的额外独立致动以延伸车辆4000的静态行驶高度。通过组合来自铰接DOF和/或长行程悬架DOF的运动,此步行运动还可以用于使车辆4000能够横越一组楼梯(参见图15C)。这种能力可以使自主车辆能够在不受控制的环境中进行安全操作。在车辆4000具有操作者4010的座舱的情况下,在车辆4000沿着不均匀表面行进时,可以使座舱维持在期望定向(例如,基本上水平)上以减少对操作者4010的不适感。
铰接接头还可以为车辆4000的操作提供几个动态益处。例如,可以通过使用铰接接头使车辆4000倾斜到转弯处来提高车辆稳定性,这以增加稳定性容限、维持牵引力以及避免或在一些情况下消除侧翻的方式使质量中心偏离。铰接接头还可以通过铰接接头的动态几何优化来实现对车辆4000侧倾的主动控制,从而实现更大的牵引力。车辆4000的拐弯性能还可以通过使车辆4000倾斜来改进。另外,通过将车辆4000铰接成高轮廓配置并且增加质量中心(COM)的高度,可以使用倒立摆原理,尤其是在密集城市环境中的较低车辆速度下。车辆4000还可以通过预测和/或减轻通常在操作者4010中引起此类不适感的动态运动来防止运动病。
反应式系统4300还可以为操作者4010提供使其车辆4000个性化的能力。例如,车辆4000可以被配置成通过致动铰接接头来问候操作者4010和/或确认其存在,使得车辆4000以指示车辆4000知道操作者的存在的方式摆动和/或开始移动。这可以用于问候车辆4000的车主和/或客户(在打车或共享应用的情况下)。
在另一实例中,车辆4000还可以被配置成具有个性。例如,车辆4000可以被配置成对环境4500作出反应,并且提供平台以将各种目标和/或意图传达到道路上的其它个人或车辆。例如,车辆4000可以铰接到高轮廓配置并且倾斜到一侧,以指示车辆4000正在向另一车辆让行(例如,在具有四向停车标志的交叉口处)。在另一实例中,车辆4000可以沿着高速公路行进。车辆4000可以被配置成轻轻地左右摆动,以向其它车辆指示车辆4000正准备让它们合并到高速公路上。在另一实例中,车辆4000可以被配置成表现得像动物(例如,像狗、像老虎)。在一些情况下,由车辆4000执行的移动类型可以是可重新配置的。例如,可以下载、定制、交易、演化、适应和/或以其它方式修改车辆4000的个性以适应操作者的偏好。
在另一实例中,车辆4000的铰接接头还可以用于在例如停车场中使操作者4010知道车辆4000。人们常常忘记他们将车辆停放在拥挤的停车场中的位置。在大量运动型多用途车辆(SUV)和卡车中,可能很难找到非常小巧轻便的移动平台。车辆4000的铰接和长行程自由度(DOF)可以通过使车辆4000铰接以调整车辆4000的高度和/或引起摇动/旋转运动而使得车辆4000变得相当明显。在一些情况下,车辆4000还可以发出声音(例如,鸣喇叭、经由铰接接头发出声音)和/或闪烁车辆4000的灯。
车辆4000还可以提供除了运输之外的可以充分利用反应式系统4300的其它功能,包含但不限于虚拟现实、增强现实、游戏、电影、音乐、遍及各种地点的游览、睡眠/健康监测、冥想和锻炼。随着车辆变得更加自主,操作者4010可以在车辆4000中从一个地方到另一个地方行进时自由地使用这些服务中的一些。通常,反应式系统4300可以使车辆4000改变形状以更好地适应由车辆4000提供的额外服务中的一个。例如,车辆4000可以被配置成在跨越桥梁行进时调整其高度,以向操作者4010提供合意的风景视图以供拍照(例如,对于照片墙(Instagram)影响者)。
还可以铰接车辆4000以减少眩光。例如,传感器4200可以基于由传感器4200获取的RGB图像检测操作者的视觉区域上的眩光(例如,来自太阳或迎面车辆的前照灯)。作为响应,车辆4000可以调整其行驶高度和/或倾斜角以改变操作者的视觉区域的位置,以便减少眩光。
图16示出包含铰接接头的另一示例性车辆4000,所述铰接接头部分地用作安全系统。通常,车辆4000可以被配置成当有人试图盗窃车辆4000时引起注意。例如,车辆4000可以发出声音、闪烁其灯或进行铰接。如果试图盗窃车辆4000,车辆4000还可以使用铰接接头通过防止进入车辆4000和/或用车辆4000的车身撞击窃贼(例如,用反冲运动来旋转车辆4000)来阻碍潜在窃贼。
车辆4000还可以包含面向外部的摄像头,以增强情境感知,以便预先避开潜在窃贼。摄像头可以用于对(例如,从车辆4000后方)接近车辆4000的个人执行面部识别。对个人的特征脸计算可以与经过批准的运营商的数据库进行相互对照。如果没有找到匹配项,则可以将所述个人与执法数据库进行相互对照,以确定所述个人是否为犯罪分子。
图17示出其中车辆4000用作工具的另一示例性应用。车辆4000可以具有相对紧凑的占地面积、铰接范围和空间感知,使其成为用于运输之外任务的有前景的工具。例如,如图17所示,车辆4000可以包含机载或安装的摄像头,以在一位置上同时进行拍摄、照亮并且平稳地跟随新闻主播。主动悬架可以用于维持拍摄稳定,而铰接可以使摄像头维持在优选高度。在另一应用中,车辆4000可以用于使用机载摄像头远程监测和/或检查现场(例如,用于空间测绘),从而提供其周围环境的360°视图。
由传感器4200测量的操作者4010的位置和/或定向以及摄像头数据还可以在车辆4000的其它子系统中使用。例如,取决于扬声器间距、频率响应和其它空间特性,典型的多扬声器配置的期望收听位置(“最佳听音位置(sweet spot)”)是小的、固定的区域。立体声沉浸感在期望收听位置的区域内最强,并且随着收听者离开并远离此区域而迅速减弱。车辆4000可以包含使用操作者4010的位置数据和车辆4000的座舱的声学模型以将期望收听位置映射到操作者的头部上的音频子系统。当操作者4010在座舱内偏离时,可以独立地控制每个扬声器的信号的时延、相位和幅度以偏离期望收听位置,以便将期望收听位置维持操作者的头部上。
在另一实例中,由传感器4200获取的深度图和RGB摄像头数据可以用于标识操作者4010。例如,车辆4000可以包含标识子系统,所述标识子系统能够基于一组预训练的脸(或身体)标识操作者4010。例如,当最初对标识子系统进行校准时,车辆4000可以获取操作者4010的图像。标识子系统可以用于根据用户配置文件调整各种车辆设置,包含但不限于座椅设置、音乐和目的地。标识子系统还可以用于通过防止未经授权的人员能够访问和/或操作车辆4000来防止盗窃。
在另一实例中,由传感器4200获取的深度图和RGB摄像头数据可以用于监测操作者4010的注意力。例如,可以基于操作者的眼睛和/或头部的移动和/或位置来监测操作者4010的疲劳。如果确定操作者4010疲劳,则车辆4000可以向操作者4010提供要求其靠边停车并休息的消息。
结论
本文中所描述的所有参数、尺寸、材料和配置意图为示例性的,且实际参数、尺寸、材料和/或配置将取决于本发明教示所用于的一个或多个特定应用。应理解,前述实施例仅借助于示例呈现,并且在所附权利要求书和其等效物的范围内,可以用与具体描述和要求的不同的方式实践发明性实施例。本公开的发明性实施例针对本文所述的每个单独的特征、系统、物品、材料、套件和/或方法。
此外,如果此类特征、系统、物品、材料、套件和/或方法并非互不一致,则两个或更多个此类特征、系统、物品、材料、套件和/或方法的任何组合包含在本公开的发明性范围内。在不脱离本公开的范围的情况下,可以在示例性实施方案的相应元件的设计、操作条件和布置中做出其它替换、修改、改变和省略。使用数值范围并不能排除以相同方式实现相同功能以产生相同结果的范围之外的等效值。
上述实施例可以以多种方式实现。例如,实施例可以使用硬件、软件或其组合实施。当以软件实施时,可以在合适的处理器或处理器集合(无论是在单台计算机中设置还是分布在多台计算机中)上执行软件代码。
此外,计算机可以多种形式中的任一种来体现,例如机架式计算机、台式计算机、膝上型计算机或平板计算机。另外,计算机可以被嵌入通常不被认为是计算机但具有合适的处理能力的装置中,包含个人数字助理(PDA)、智能电话或任何其它合适的便携式或固定电子装置。
而且,计算机可以具有一个或多个输入和输出装置。这些装置尤其可以用于呈现用户接口。可以用于提供用户接口的输出装置的实例包含用于视觉呈现输出的打印机或显示屏、以及用于听觉呈现输出的扬声器或其它声音生成装置。可以用于用户接口的输入装置的实例包含键盘和指向装置,例如鼠标、触摸板以及数字化平板电脑。作为另一个实例,计算机可以通过语音识别或其它可听格式接收输入信息。
此类计算机可以通过适当形式的一个或多个网络互连,包含局域网或例如企业网络的广域网、智能网络(IN)或因特网。此类网络可以基于适当的技术,可以根据适当的协议运行,并且可以包含无线网络、有线网络或光纤网络。
本文概述的各种方法或过程可以被编码为软件,所述软件可在采用多种操作系统或平台中的任何一种的一个或多个处理器上执行。另外,此类软件可以使用多种合适的编程语言和/或编程或脚本工具中的任何一种来编写,并且还可以被编译为可执行的机器语言代码或在框架或虚拟机上执行的中间代码。一些实施方案可以具体地采用特定操作系统或平台以及特定编程语言和/或脚本工具中的一个或多个来促进执行。
另外,各种发明概念可体现为一种或多种方法,已提供其至少一个示例。作为方法的一部分执行的动作可在一些情况下以不同方式排序。相应地,在一些发明性实施方案中,可以不同于具体说明的次序的次序执行给定方法的相应动作,其可包含同时执行一些动作(即使此类动作在说明性实施例中展示为循序动作)。
本文提及的所有公开案、专利申请案、专利和其它参考文献都以全文引用的方式并入。
应理解,如本文中定义和使用的所有定义都优先于字典定义、以引用的方式并入的文档中的定义和/或定义的术语的普通含义。
如本文在说明书和权利要求中所使用的不定冠词“一”除非明确相反指示,否则应理解为意味着“至少一个”。
如本文在说明书和权利要求书中所用,短语“和/或”应理解为意指如此结合的要素中的“任一个或两个”,即,要素在一些情况下结合存在并且在其它情况下分开存在。用“和/或”列出的多个要素应以相同方式解释,即,要素中的“一个或多个”如此结合。除了由“和/或”子句具体指出的元件之外,还可以任选地存在其它元件,无论与具体指出的那些元件相关还是无关。因此,作为非限制性实例,当结合开放式语言(例如“包括”)使用时,提及“A和/或B”在一个实施例中可以仅指A(任选地包含除B之外的元素);在另一个实施例中仅指B(任选地包含除A之外的元素);在又一个实施例中,兼指A和B(任选地包含其它元素);等等。
如本文在本说明书和权利要求书中所用,“或”应理解为具有与如上所定义的“和/或”相同的含义。举例来说,当在列表中分隔多个项目时,“或”或“和/或”将解释为包含性的,即,包含至少一个,但也包含数个要素或要素列表中的一个以上要素和任选地额外未列出的项目。只有明确相反指示的术语,如“仅仅……中的一个”或“恰好……中的一个”或当在权利要求书中使用时“由……组成”将指的是包括多个元件或元件列表中的恰好一个元件。一般地,本文所使用的术语“或”仅应解释为在排他性术语例如“任一个”、“一个”、“仅一个”或“恰好一个”之前指示排他的替代方式(即“一者或另一者,但并非两者”)。“基本上由……组成”当在权利要求书中使用时,应具有如其在专利法领域中所用的普通含义。
如本文在说明书和权利要求书中所使用的,在提及一个或多个元件的列表时,短语“至少一个”应理解为指选自所述元件列表中的任何一个或多个元件的至少一个元件,但不一定包含元件列表中具体列出的每个元件中的至少一个,并且不排除元件列表中的元件的任何组合。此定义还允许除了元素列表内具体识别的短语“至少一个”所指的元素之外的元素可任选地存在,无论其是否与具体识别的那些元素相关。因此,作为非限制性实例,在一个实施例中,“A和B中的至少一个”(或,等同地,“A或B中的至少一个”,或等同地,“A和/或B中的至少一个”)可以指代至少一个,任选地包含多于一个A,而不存在B(并且任选地包含除了B之外的元件);在另一实施例中,可以指代至少一个,任选地包含多于一个B,而不存在A(并且任选地包含除了A之外的元件);在又一实施例中,可以指代至少一个,任选地包含多于一个A,和至少一个、任选地包含多于一个B(并且任选地包含其它元件);等。
在权利要求书中以及在上述说明书中,例如“包括”、“包含”、“带有”、“具有”、“含有”、“涉及”、“容纳”、“由……组成”等所有连接词应理解为是开放的,即,意指包含但不限于。如美国专利局专利审查程序手册第2111.03节所述,只有过渡短语“由……组成”和“基本上由……组成”才应分别是封闭的或半封闭的过渡短语。
Claims (49)
1.一种车辆,其包括:
车身;
传感器,其联接到所述车身,以捕获容纳操作者的头部的环境的红、绿、蓝(RGB)图像和深度图;
反应式系统,其联接到所述车身以在致动时调整所述操作者的视场(FOV);以及
处理器,其可操作地联接到所述传感器和所述反应式系统,以基于所述RGB图像和深度帧确定所述操作者的视觉参考点,并且致动所述反应式系统以便基于所述视觉参考点改变所述操作者的所述FOV。
2.根据权利要求1所述的车辆,其中所述深度图用于遮蔽所述RGB图像,从而减小所述RGB图像中要进行处理的区域。
3.根据权利要求1所述的车辆,其中所述深度图与所述RGB图像对齐,使得所述环境的深度与在所述RGB图像中捕获的所述环境的位置相对应。
4.根据权利要求1所述的车辆,其中:
所述反应式系统包括:
底盘连接部件;
铰接接头,其可操作地联接到所述处理器,所述铰接接头具有联接到所述车身的第一端和联接到所述底盘连接部件的第二端,
致动器,其联接到所述铰接接头以使所述第二端相对于所述第一端移动;以及
所述处理器被配置成启动所述致动器,以便基于用户的所述视觉参考点使所述第二端相对于所述第一端移动,从而改变所述用户的所述FOV。
5.根据权利要求4所述的车辆,其中响应于所述视觉参考点沿着基本上平行于所述车辆的第一轴线的第二轴线移动,所述铰接接头沿着所述第一轴线使所述第二端相对于所述第一端移动。
6.根据权利要求1所述的车辆,其中:
所述车身限定座舱;
所述环境是所述座舱;
所述反应式系统包括:
摄像头,其安装在所述车身上以捕获所述车辆外部的区域的视频图像;
显示器,其安置在所述座舱中并且可操作地联接到所述处理器和所述摄像头;
所述处理器被配置成基于所述操作者的所述视觉参考点修改所述视频图像,以便改变所述操作者的所述FOV;以及
所述显示器被配置成示出所述处理器修改后的所述视频图像。
7.根据权利要求6所述的车辆,其中所述处理器被配置成通过以下操作修改所述视频图像:
计算所述视觉参考点与所述显示器的中心点之间的距离;
基于所述操作者的所述头部的运动范围缩放变换的量值;以及
基于所述距离和所述变换的所述量值调整所述视频图像。
8.根据权利要求6所述的车辆,其中:
所述摄像头是第一摄像头,
第一视频图像覆盖第一FOV,
所述车辆外部的所述区域是所述车辆外部的第一区域,
所述反应式系统还包括安装在所述车身上的第二摄像头,所述第二摄像头用于捕获所述车辆外部的第二区域的具有第二FOV的第二视频图像,以及
所述处理器被配置成组合所述第一视频图像和所述第二视频图像,使得所述显示器在所述第一视频图像与所述第二视频图像之间无缝地转换。
9.一种反应式后视镜系统,其包括:
内部位置传感器,其安置在所述车辆的座舱中,以感测所述车辆的驾驶员的头部的位置和/或定向;
摄像头,其安装在所述车辆上或所述车辆中,以捕获所述车辆后方的区域的视频图像;
处理器,其可操作地联接到所述内部位置传感器和所述摄像头,以基于所述驾驶员的所述头部的所述位置和/或定向确定所述驾驶员的视觉参考点,并且基于所述视觉参考点修改所述视频图像的视场(FOV)或视角中的至少一个;以及
显示器,其在所述车辆的所述座舱中并且可操作地联接到所述摄像头和处理器,以向所述驾驶员显示所述处理器修改后的所述视频图像的至少一部分。
10.根据权利要求9所述的反应式后视镜系统,其中所述内部位置传感器包括用于产生至少表示所述驾驶员的所述头部的深度图的呈立体配置的一对红外(IR)摄像头,或者用于至少捕获所述驾驶员的所述头部的红、绿、蓝(RGB)图像的可见光摄像头中的至少一个。
11.根据权利要求9所述的反应式后视镜系统,其中所述内部位置传感器被配置成在至少约60Hz的频率下感测所述驾驶员的所述头部的所述位置和/或定向。
12.根据权利要求9所述的反应式后视镜系统,其中所述摄像头具有在约10度与约175度之间的范围内的视场(FOV)。
13.根据权利要求9所述的反应式后视镜系统,其中所述摄像头被配置成以每秒至少约15帧的帧速率捕获所述视频图像。
14.根据权利要求9所述的反应式后视镜系统,其还包括:
控制接口,其在所述车辆中并且可操作地联接到所述摄像头、所述显示器和所述处理器,以调整所述视频图像的所述部分的亮度、所述视频图像的所述部分的对比度、所述视频图像的所述部分的摇摄位置或所述摄像头的FOV中的至少一个。
15.一种变换显示给车辆驾驶员的视频图像的方法,其包括:
测量所述车辆的座舱的表示,所述表示包括深度图或红、绿、蓝(RGB)图像中的至少一个,所述表示示出操作所述车辆的所述驾驶员的头部;
基于所述表示确定所述驾驶员的视觉参考点;
使用安装在所述车辆上或所述车辆中的摄像头获取所述车辆外部的区域的所述视频图像;
基于所述视觉参考点将变换应用于所述视频图像;以及
在所述车辆的所述座舱内的显示器上向所述驾驶员显示所述视频图像。
16.根据权利要求15所述的方法,其中所述表示包括所述深度图和所述RGB图像,并且确定所述视觉参考点包括:
使用所述深度图遮蔽所述RGB图像以减少所述RGB图像中要进行处理的区域。
17.根据权利要求15所述的方法,其还包括:
校准所述驾驶员的默认坐姿。
18.根据权利要求17所述的方法,其还包括:
校准所述驾驶员的运动范围。
19.根据权利要求18所述的方法,其还包括:
校准所述显示器的位置偏移。
20.根据权利要求19所述的方法,其还包括:
计算所述显示器的中心点。
21.根据权利要求20所述的方法,所述变换包括:
计算所述视觉参考点与所述显示器的所述中心点之间的距离;
基于所述驾驶员的所述运动范围缩放所述变换的量值;以及
基于所述距离和所述变换的所述量值调整所述摄像头的视场或所述摄像头的摇摄位置中的至少一个。
22.根据权利要求20所述的方法,所述变换包括:
基于从所述视觉参考点到所述显示器的所述中心点的矢量计算目标视场和目标摇摄位置;
基于摄像头焦距、摄像头长宽比或摄像头传感器大小中的至少一个计算平移或缩放因数中的至少一个;以及
基于所述平移或所述缩放因数中的所述至少一个调整所述视频图像的视场或摇摄位置中的至少一个,以模拟所述目标视场和所述目标摇摄位置。
23.根据权利要求15所述的方法,在应用所述变换之前,所述方法还包括:
对所述视频图像应用校准以减少所述视频图像的径向畸变或切向畸变中的至少一个。
24.一种调整安装在车辆上或车辆中的至少一个摄像头的方法,其包括:
测量所述车辆的座舱的表示,所述表示包括深度图或红、绿、蓝(RGB)图像中的至少一个,所述表示示出操作所述车辆的驾驶员的头部;
基于所述表示确定所述驾驶员的视觉参考点;
基于所述视觉参考点调整所述至少一个摄像头的视场(FOV)或摇摄位置中的至少一个;以及
在至少一个显示器上显示由所述至少一个摄像头获取的所述车辆外部的区域的视频图像。
25.根据权利要求24所述的方法,其中所述至少一个摄像头包含用于获取第一视频图像的第一摄像头和用于获取第二视频图像的第二摄像头。
26.根据权利要求25所述的方法,其还包括:
将所述第一视频图像和所述第二视频图像拼接,以便在所述第一摄像头与所述第二摄像头之间提供无缝FOV。
27.根据权利要求24所述的方法,其还包括:
校准所述驾驶员的默认坐姿;
校准显示在所述至少一个显示器上的所述视频图像的位置偏移;以及
使用所述默认坐姿和所述位置偏移计算显示在所述至少一个显示器上的所述视频图像的中心点。
28.根据权利要求24所述的方法,其还包括:
校准所述驾驶员相对于所述默认坐姿的运动范围;以及
基于所述驾驶员的所述运动范围缩放所述至少一个摄像头的摇摄速率。
29.根据权利要求24所述的方法,在显示所述视频图像之前,所述方法还包括:
使用一个或多个畸变系数对所述视频图像应用校准以减少径向畸变或切向畸变中的至少一个。
30.一种车辆,其包括:
车身;
底盘连接部件;
铰接接头,其具有联接到所述车身的第一端和联接到所述底盘连接部件的第二端,所述铰接接头包括:
引导结构,其联接到所述第一端和所述第二端,所述引导结构限定路径,所述第二端能沿着所述路径相对于所述第一端移动;
驱动致动器,其联接到所述引导结构以沿着所述路径移动所述第二端;
制动器,其联接到所述引导结构,以响应于被启动而沿着所述路径将所述第二端保持到固定位置;
一个或多个传感器,其联接到所述车身,以感测操作者和所述车辆周围的环境中的至少一个;以及
处理器,其可操作地联接到所述一个或多个传感器和所述铰接接头,以基于所述操作者或所述车辆周围的所述环境中的所述至少一个致动所述铰接接头。
31.根据权利要求30所述的车辆,其中所述底盘连接部件是后部车身。
32.根据权利要求30所述的车辆,其中所述底盘连接部件是车轮。
33.根据权利要求30所述的车辆,其中:
所述车身限定容纳所述操作者的座舱;并且
所述一个或多个传感器被配置成生成所述座舱的表示,所述表示示出所述操作者的头部。
34.根据权利要求33所述的车辆,其中:
所述处理器被配置成基于所述座舱的所述表示标识所述操作者的视觉参考点的移动;并且
响应于所述处理器标识所述操作者的所述视觉参考点沿着所述车辆的第一轴线的移动,所述铰接接头被配置成使所述车身沿着基本上平行于所述第一轴线的第二轴线移动,以便增加所述操作者的所述视觉参考点相对于所述环境的移位。
35.根据权利要求34所述的车辆,其中所述车身沿着所述轴线的移动修改所述操作者的视场(FOV)。
36.根据权利要求33所述的车辆,其中所述处理器被配置成基于所述表示检测所述操作者感知到的眩光,并且致动所述铰接接头,以便减少所述操作者感知到的所述眩光。
37.根据权利要求33所述的车辆,其中所述表示包括深度图或红、绿、蓝(RGB)图像中的至少一个。
38.根据权利要求30所述的车辆,其中所述一个或多个传感器包括捕获所述环境的区域的视频图像的摄像头,所述视频图像示出操作者的头部。
39.根据权利要求38所述的车辆,其中:
所述处理器被配置成确定所述操作者的所述头部在所述视频图像中的相对位置;并且
响应于检测到所述操作者的所述头部相对于所述一个或多个传感器移动,所述处理器被配置成致动所述铰接接头以使所述车身移动,使得所述操作者的所述头部返回到所述视频图像内的所述位置。
40.根据权利要求30所述的车辆,其中所述车身限定座舱,其还包括:
摄像头,其安装在所述车辆上或所述车辆中并且可操作地联接到所述处理器以捕获所述车辆外部的区域的视频图像;以及
显示器,其安置在所述座舱中并且可操作地联接到所述摄像头和所述处理器,以向所述操作者显示所述视频图像。
41.根据权利要求40所述的车辆,其中:
所述处理器被配置成基于所述视频图像确定所述操作者的视觉参考点,并且基于所述操作者的所述视觉参考点修改所述视频图像的第一视场(FOV)或视角中的至少一个,并且
所述显示器被配置成示出所述处理器修改后的所述视频图像的至少一部分。
42.根据权利要求41所述的车辆,其中:
响应于所述操作者的所述视觉参考点沿着所述车辆的第一轴线移动,所述处理器被配置成致动所述铰接接头以使所述车身沿着基本上平行于所述第一轴线的第二轴线移动,从而修改所述操作者的FOV。
43.一种操作车辆的方法,其包括:
使用第一传感器从所述车辆的操作者接收第一输入;
使用第二传感器从所述车辆外部的环境接收第二输入;
使用处理器标识所述第一输入与第二输入之间的相关性;
使用所述处理器基于所述相关性生成基于行为的命令,当所述基于行为的命令应用于所述车辆的致动器时使得所述车辆以预定义行为移动;
基于所述基于行为的命令、经由可操作地联接到所述处理器的输入装置来自所述操作者的显式命令以及所述第二输入生成组合命令;
调整和/或过滤所述组合命令以便维持所述车辆的稳定性;以及
使用被调整和/或被过滤的组合命令致动所述车辆的所述致动器。
44.根据权利要求43所述的方法,其中所述第一输入包括所述车辆的座舱的表示,所述表示示出所述操作者的头部。
45.根据权利要求44所述的方法,其中所述预定义行为包括响应于所述处理器基于所述表示标识所述操作者的所述头部沿着基本上平行于第一轴线的第二轴线移动的移动,使所述车辆沿着所述第一轴线移动。
46.根据权利要求44所述的方法,其中所述处理器被配置成基于所述表示检测所述操作者感知到的眩光,并且所述预定义行为包括使所述车辆移动以便减少所述操作者感知到的所述眩光。
47.根据权利要求43所述的方法,其中所述第二输入包括所述车辆中的车轮牵引力、所述环境的温度或示出另一车辆或人员中的至少一个的所述环境的图像中的至少一个。
48.根据权利要求43所述的方法,其中所述输入装置是方向盘、加速器或制动器中的至少一个。
49.根据权利要求43所述的方法,其中所述显式命令优先于所述基于行为的命令。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201862745038P | 2018-10-12 | 2018-10-12 | |
US62/745,038 | 2018-10-12 | ||
PCT/US2019/029793 WO2019213015A1 (en) | 2018-04-30 | 2019-04-30 | Articulated vehicles with payload-positioning systems |
USPCT/US2019/029793 | 2019-04-30 | ||
PCT/US2019/055814 WO2020077194A1 (en) | 2018-10-12 | 2019-10-11 | Methods and apparatus to adjust a reactive system based on a sensory input and vehicles incorporating same |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113165483A true CN113165483A (zh) | 2021-07-23 |
Family
ID=70164793
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201980081562.4A Pending CN113165483A (zh) | 2018-10-12 | 2019-10-11 | 基于感觉输入调整反应式系统的方法和设备以及并有所述方法和设备的车辆 |
Country Status (6)
Country | Link |
---|---|
EP (1) | EP3863873A4 (zh) |
JP (1) | JP2022520685A (zh) |
KR (1) | KR20210088581A (zh) |
CN (1) | CN113165483A (zh) |
CA (1) | CA3115786A1 (zh) |
WO (1) | WO2020077194A1 (zh) |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020005777A1 (en) * | 2000-05-13 | 2002-01-17 | Andreas Rodewald | Display arrangement in a vehicle |
US20060017807A1 (en) * | 2004-07-26 | 2006-01-26 | Silicon Optix, Inc. | Panoramic vision system and method |
US20100253594A1 (en) * | 2009-04-02 | 2010-10-07 | Gm Global Technology Operations, Inc. | Peripheral salient feature enhancement on full-windshield head-up display |
CN101876752A (zh) * | 2009-04-02 | 2010-11-03 | 通用汽车环球科技运作公司 | 矢量投射显示的畸变和透视校正 |
US20120062743A1 (en) * | 2009-02-27 | 2012-03-15 | Magna Electronics Inc. | Alert system for vehicle |
CN103359118A (zh) * | 2012-03-30 | 2013-10-23 | 大星电机工业株式会社 | 车辆瞥视光设备和用于控制该车辆瞥视光设备的方法 |
WO2014035008A1 (ko) * | 2012-08-30 | 2014-03-06 | 한국과학기술원 | 접이식 차량 및 그 제어 방법 |
CN107380164A (zh) * | 2016-07-07 | 2017-11-24 | 小蚁科技(香港)有限公司 | 基于计算机视觉的驾驶员辅助系统和支持系统 |
CN107848465A (zh) * | 2015-05-06 | 2018-03-27 | 麦格纳镜片美国有限公司 | 具有盲区显示和警示系统的车辆视觉系统 |
CN107878199A (zh) * | 2016-09-30 | 2018-04-06 | 福特全球技术公司 | 基于环境光的车辆显示器的色调调整 |
WO2018092989A1 (ko) * | 2016-11-21 | 2018-05-24 | 엘지전자 주식회사 | 디스플레이 장치 및 그의 동작 방법 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7526103B2 (en) * | 2004-04-15 | 2009-04-28 | Donnelly Corporation | Imaging system for vehicle |
WO2008119187A1 (en) * | 2007-04-02 | 2008-10-09 | Esight Corp. | An apparatus and method for augmenting sight |
US8482486B2 (en) * | 2009-04-02 | 2013-07-09 | GM Global Technology Operations LLC | Rear view mirror on full-windshield head-up display |
US8212874B2 (en) * | 2009-10-23 | 2012-07-03 | GM Global Technology Operations LLC | Automatic camera calibration using GPS and solar tracking |
US9298985B2 (en) * | 2011-05-16 | 2016-03-29 | Wesley W. O. Krueger | Physiological biosensor system and method for controlling a vehicle or powered equipment |
US9102269B2 (en) * | 2011-08-09 | 2015-08-11 | Continental Automotive Systems, Inc. | Field of view matching video display system |
CN110217332B (zh) * | 2013-03-15 | 2022-02-01 | D·凯利 | 三轮车辆 |
US10946798B2 (en) * | 2013-06-21 | 2021-03-16 | Magna Electronics Inc. | Vehicle vision system |
US10017114B2 (en) * | 2014-02-19 | 2018-07-10 | Magna Electronics Inc. | Vehicle vision system with display |
US9626766B2 (en) * | 2014-02-28 | 2017-04-18 | Microsoft Technology Licensing, Llc | Depth sensing using an RGB camera |
US9744907B2 (en) * | 2014-12-29 | 2017-08-29 | Gentex Corporation | Vehicle vision system having adjustable displayed field of view |
-
2019
- 2019-10-11 KR KR1020217014171A patent/KR20210088581A/ko unknown
- 2019-10-11 WO PCT/US2019/055814 patent/WO2020077194A1/en unknown
- 2019-10-11 CN CN201980081562.4A patent/CN113165483A/zh active Pending
- 2019-10-11 CA CA3115786A patent/CA3115786A1/en active Pending
- 2019-10-11 EP EP19870588.1A patent/EP3863873A4/en not_active Withdrawn
- 2019-10-11 JP JP2021519709A patent/JP2022520685A/ja active Pending
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020005777A1 (en) * | 2000-05-13 | 2002-01-17 | Andreas Rodewald | Display arrangement in a vehicle |
US20060017807A1 (en) * | 2004-07-26 | 2006-01-26 | Silicon Optix, Inc. | Panoramic vision system and method |
US20120062743A1 (en) * | 2009-02-27 | 2012-03-15 | Magna Electronics Inc. | Alert system for vehicle |
US20100253594A1 (en) * | 2009-04-02 | 2010-10-07 | Gm Global Technology Operations, Inc. | Peripheral salient feature enhancement on full-windshield head-up display |
CN101876752A (zh) * | 2009-04-02 | 2010-11-03 | 通用汽车环球科技运作公司 | 矢量投射显示的畸变和透视校正 |
CN103359118A (zh) * | 2012-03-30 | 2013-10-23 | 大星电机工业株式会社 | 车辆瞥视光设备和用于控制该车辆瞥视光设备的方法 |
WO2014035008A1 (ko) * | 2012-08-30 | 2014-03-06 | 한국과학기술원 | 접이식 차량 및 그 제어 방법 |
CN107848465A (zh) * | 2015-05-06 | 2018-03-27 | 麦格纳镜片美国有限公司 | 具有盲区显示和警示系统的车辆视觉系统 |
CN107380164A (zh) * | 2016-07-07 | 2017-11-24 | 小蚁科技(香港)有限公司 | 基于计算机视觉的驾驶员辅助系统和支持系统 |
CN107878199A (zh) * | 2016-09-30 | 2018-04-06 | 福特全球技术公司 | 基于环境光的车辆显示器的色调调整 |
WO2018092989A1 (ko) * | 2016-11-21 | 2018-05-24 | 엘지전자 주식회사 | 디스플레이 장치 및 그의 동작 방법 |
Also Published As
Publication number | Publication date |
---|---|
EP3863873A1 (en) | 2021-08-18 |
EP3863873A4 (en) | 2022-06-29 |
JP2022520685A (ja) | 2022-04-01 |
WO2020077194A1 (en) | 2020-04-16 |
CA3115786A1 (en) | 2020-04-16 |
KR20210088581A (ko) | 2021-07-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20210387573A1 (en) | Methods and apparatus to adjust a reactive system based on a sensory input and vehicles incorporating same | |
CN108692699B (zh) | 用于防撞辅助的车辆和方法 | |
US10649461B2 (en) | Around view monitoring apparatus for vehicle, driving control apparatus, and vehicle | |
JP7150274B2 (ja) | 改善された視覚的検出能力を備えた自律走行車 | |
KR101622622B1 (ko) | 차량 하부 이미지 제공 장치 및 이를 구비한 차량 | |
KR101579100B1 (ko) | 차량용 어라운드뷰 제공 장치 및 이를 구비한 차량 | |
NL2016753B1 (en) | Platooning method for application in heavy trucks | |
KR101565006B1 (ko) | 차량용 어라운드뷰 제공 장치 및 이를 구비한 차량 | |
EP3401163A1 (en) | Lamp for vehicle | |
US10366512B2 (en) | Around view provision apparatus and vehicle including the same | |
KR101587147B1 (ko) | 차량용 어라운드뷰 제공 장치 및 이를 구비한 차량 | |
US20190315275A1 (en) | Display device and operating method thereof | |
KR101698783B1 (ko) | 스테레오 카메라 및 이를 구비한 차량 | |
KR101631439B1 (ko) | 카메라, 및 이를 구비한 차량 | |
US11334754B2 (en) | Apparatus and method for monitoring object in vehicle | |
RU2678531C2 (ru) | Система замещения зеркал для транспортного средства | |
US20180134285A1 (en) | Autonomous driving apparatus and vehicle including the same | |
US8537221B2 (en) | Lane change control system | |
JP2004354236A (ja) | ステレオカメラ支持装置およびステレオカメラ支持方法ならびにステレオカメラシステム | |
JP5045172B2 (ja) | 車両用運転支援装置 | |
CN114556253A (zh) | 自驾驶车辆中的传感器视场 | |
US20220242449A1 (en) | Vehicle Control System | |
CN113165483A (zh) | 基于感觉输入调整反应式系统的方法和设备以及并有所述方法和设备的车辆 | |
KR101980547B1 (ko) | 차량 운전 보조 장치 및 차량 | |
US20090027179A1 (en) | Auxiliary Device for Handling a Vehicle |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |