CN116359943A - 使用无源图像传感器和现有光源的飞行时间相机 - Google Patents
使用无源图像传感器和现有光源的飞行时间相机 Download PDFInfo
- Publication number
- CN116359943A CN116359943A CN202211628005.XA CN202211628005A CN116359943A CN 116359943 A CN116359943 A CN 116359943A CN 202211628005 A CN202211628005 A CN 202211628005A CN 116359943 A CN116359943 A CN 116359943A
- Authority
- CN
- China
- Prior art keywords
- vehicle
- light source
- camera
- sensor
- light
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/483—Details of pulse systems
- G01S7/484—Transmitters
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
- G01S17/894—3D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/86—Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/93—Lidar systems specially adapted for specific applications for anti-collision purposes
- G01S17/931—Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/4802—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/4804—Auxiliary means for detecting or identifying lidar signals or the like, e.g. laser illuminators
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/483—Details of pulse systems
- G01S7/486—Receivers
- G01S7/4861—Circuits for detection, sampling, integration or read-out
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/483—Details of pulse systems
- G01S7/486—Receivers
- G01S7/4865—Time delay measurement, e.g. time-of-flight measurement, time of arrival measurement or determining the exact position of a peak
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
- B60R2300/301—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with other obstacle sensor information, e.g. using RADAR/LIDAR/SONAR sensors for estimating risk of collision
Abstract
车辆可以使用无源传感器(例如,无源图像传感器)与现有的车载光源来执行飞行时间(ToF)计算或确定,以生成车辆周围的场景的深度数据和深度图像。例如,车辆可以使用汽车相机(例如,不发光的无源传感器)并且可以将该相机与车辆上的一个或多个光源配对,以构造一个ToF相机。为了实现使用现有汽车相机和现有光源进行ToF相机的这种构造,车辆的控制器将无源汽车相机与车载光源同步。在一些示例中,车辆可以通过改变从光源发射的光的属性来实现ToF相机的高动态范围(HDR)。
Description
技术领域
本披露内容总体上涉及车辆系统、具体地涉及车辆系统中的飞行时间(ToF)确定。
背景技术
近年来,运输方法显著地变化。这种变化部分是由于考虑到自然资源的有限可用性、个人技术激增、以及对采用更环保的运输解决方案的社会转变。这些考虑鼓励了许多新型灵活燃料车辆、混合动力电动车辆和电动车辆的发展。
虽然这些车辆看起来是新的,但它们通常是作为一些仅仅与替代动力源相连的传统子系统来实现的。实际上,车辆的设计和构造受限于标准车架大小、形状、材料和运输概念。除其他之外,由于这些限制,新技术、动力源和支撑架构的优势无法被利用。具体地,这些车辆可能无法利用或无法使用不同的技术、传感器以及装备执行飞行时间(ToF)确定或计算从而实现不同的目的(例如,用于协助自动驾驶操作,确定车辆内的乘客等)。
附图说明
图1示出了根据本披露内容的实施例的车辆;
图2示出了根据本披露内容的至少一些实施例的车辆的平面图;
图3A是根据本披露内容的实施例的车辆的通信环境的实施例的框图;
图3B是根据本披露内容的实施例的车辆内的内部传感器的实施例的框图;
图3C是根据本披露内容的实施例的车辆的导航系统的实施例的框图;
图4示出了根据本披露内容的一个实施例的车辆的仪表板的实施例;
图5是车辆的通信子系统的实施例的框图;
图6是与本文提出的实施方案相关的计算环境的框图;
图7是与本文描述的一个或多个组件相关的计算设备的框图;
图8是示出了根据本披露内容的多个方面的使用无源图像传感器和现有光源进行飞行时间(ToF)确定的示例框图;
图9是根据本披露内容的方面的用于执行ToF确定的示例光源操作;
图10是根据本披露内容的方面的用于执行ToF确定的示例传感器操作;以及
图11至图12是示出了本披露内容的方面的流程图。
具体实施方式
飞行时间(ToF)传感器已经被开发使用在以确定从相机(例如,或类似的传感器或装备)到物体的范围。例如,ToF相机是既能够发射光、又能接收光的有源传感器。ToF相机发出具有已知特性(例如,脉冲信号、脉冲频率、光谱构成、强度等)的光脉冲,并且测量从光发射到传感器接收回来反射光之间经过的时间。基于从发出光脉冲到接收反射的光脉冲之间经过的时间,可以基于光速来计算ToF相机与反射目标(即,在ToF相机附近的任何物体)之间的距离。
在典型的实施方式中,传感器系统包括输出选定的波长或波长范围内的光的光源。传感器系统可以还包括光学带通滤波器或光学长通滤波器。光从光源输出、从ToF相机的视场内的物体(例如,反射目标)反射并返回到传感器所需的时间可以用于计算从ToF相机至物体的范围或距离。在一些实施方式中,如本文所述,车辆可以使用ToF传感器和相机(例如,光成像、检测和测距(激光雷达)传感器、或其他测距和成像系统)检测车辆外部或内部的物体,以实现不同的目的(例如,用于协助自动驾驶操作、确定车辆内的乘客等)。然而,ToF传感器和相机的操作是相对功率密集型的,并且用途有限(即,深度检测)。
一些车辆包括多个相机和传感器以实现不同的预期目的。例如,车辆可以包括相机和传感器,以实现车辆的自动操作(例如,自动驾驶)、协助车辆的驾驶员或操作者(例如,用于倒车和停车、导航等的相机)、或执行车辆的附加操作。与ToF相机不同,这些相机和传感器(例如,传统的汽车相机)是无源传感器。即,这些无源相机和传感器不主动向外发射光,也不需要利用发光工作。无论如何,这些传感器是无源的,因此在没有对场景进行资源密集型计算机视觉后处理的情况下这些传感器不具有确定与目标的距离的能力。
除了车辆上的多个相机和传感器之外,车辆也可以包括旨在服务于附加目的或协助相机和传感器操作的一个或多个光源。例如,车辆可以包括不同的车载光源,诸如但不限于,头灯、尾灯、转向灯、附加闪光信号灯、倒车灯、车舱内灯、地面照明等。然而,与现有的指定用于深度或距离检测的相对功率密集型相机类似,车辆上的这些光源也可以是无源的,因为这些光源能够发射光、但不能够感测光或基于感测到的光生成信息,并且因此不能够确定与目标的距离(例如,执行ToF确定)。
如本文所述,车辆可以使用无源传感器(例如,无源图像传感器)与现有的车载光源(例如,无源光源)来执行ToF计算或确定。例如,车辆可以使用传统的汽车相机(该传统的汽车相机是不发光的无源传感器),并且可以将该相机与车辆上的各种光源配对,以构造一个能够提供深度信息的ToF相机。为了实现使用汽车相机和光源进行ToF相机的这种构造,车辆(例如,或车辆中的控制器)将无源汽车相机与车载光源同步。
作为示例,车辆可以使用倒车相机和尾灯来形成或构造ToF相机。在这个示例中,在从尾灯发射的每个光脉冲开始时,电子信号从尾灯(例如,通过物理电缆)被发送至倒车相机(例如,发光二极管(LED)尾灯在操作时被施加脉冲,并且卤素尾灯可以被制成施加脉冲)。倒车相机接收该电子信号并启动内部定时器。当倒车相机接收到从尾灯发射的、现在已经从车辆后面的周围环境中反射的光脉冲时,内部定时器停止。对ToF相机(例如,在这个示例中与尾灯联接的倒车相机)与任何反射物体之间的距离的计算由以下等式1和等式2给出。等式2可以被视为是等式1的通用表示,其中,d表示“距离”,t表示“内部定时器读数”,并且c表示光速。
距离=内部定时器读数*光速*0.5 (1)
虽然以倒车相机和尾灯作为示例进行了讨论,但这种计算和确定与物体距离的相同概念可以应用于汽车相机与车辆周围的车载光源的其他组合。例如,车辆可以使用挡泥板上的转向灯与侧视镜上的相机的组合、头灯与前部停车相机的组合、头灯与一个或多个前部高级驾驶辅助系统(ADAS)相机的组合、或车辆的附加合适的光源和合适的传感器来形成ToF相机。
另外,车辆可以使用汽车相机和各种光源来实现ToF相机的高动态范围(HDR)。在一些示例中,一个或多个光源包括大尺寸的光源(例如,大尺寸的头灯),光源内具有离散化部件(例如,在光源内有源元件与无源传感器分离),或以上两者都存在。基于光源的这些特性,本文所述系统的动态范围可以得到改善。例如,由光源发射的脉冲的强度和/或频率可以根据传感器输出中生成的“噪声”水平来增大或减小。这种对脉冲强度和/或频率的调整可以用于在同一场景中存在反射率不同的多个物体的情形。即,光源可以以不同的强度和/或频率被施加脉冲,从而使得相机能够从低反射率物体和高反射率物体两者捕获图像。低反射率图像和高反射率图像可以根据合适的HDR技术进行叠加,以形成HDR ToF图像(例如,具有明亮区域和黑暗区域两者的场景的深度图像)。
在一些示例中,车辆可以改变作为本文所述的ToF相机的一部分的光源的被施加脉冲的LED数量。例如,车辆可以以对ToF相机的一小串LED施加脉冲来启动,并且可以添加更多的LED,直到满足执行ToF计算的范围。在一些示例中,车辆可以使用旨在实现HDR但具有不同脉冲光的同一相机。另外,光源可以被制成相互独立地操作,并且因此可以用于独立对车辆周围的不同区域进行照明,以用于放置在车辆周围的不同位置上的多个无源传感器。
在一些示例中,车辆可以使用多个汽车相机或传感器和多个光源来构造车辆周围的多个ToF相机。例如,车辆可以使用放置在车辆四周的、与不同光源同步的无源传感器(例如,相机)来支撑多个ToF相机。在一些示例中,多个相机(例如,无源传感器)可以与同一光源同步,以扩大系统的有效视场。即,车辆可以使多个相机从一个光源进行感测,从而扩大可以从单个光源捕获的视场。
另外,当操作和构造ToF相机时,车辆可以为ToF相机采用可变的相机视场。例如,根据车辆的速度,车辆(例如,或车辆内的控制器)可以致动光源(例如,头灯),使得从光源发射的光束的锥形角度在更低速度下变宽,而在更高速度下变窄。在一些示例中,车辆可以通过使用内置在光源的外壳中(例如,或内置在光源的独立灯中)的小型电动马达来调整从光源发射的光束的锥形角度,这些电动马达对由车辆上或车辆中的传感器提供的信息做出反应,以确定车辆行进得有多快、驾驶员转动车辆方向盘的程度、车辆是在上坡还是下坡等,从而相应地调整光源。另外或可替代地,如果一个光源包括多个独立灯(例如,一个头灯可以包括多个LED),则车辆可以选择性地打开或熄灭独立灯的子集,以调整从光源发射的光束的锥形角度或附加特性。这种对光源的致动或调整可以使得系统(例如,操作所构造的ToF相机的车辆/控制器)能够基于车辆的行驶速度以更高的分辨率收集深度信息和角位置信息。另外或可替代地,车辆可以使用小视场相机和大视场相机来检测车辆周围的周围环境的场景的不同部分。
在一些示例中,车辆可以采用一个或多个附加特征,以增强由车辆上的现有相机和传感器与车辆使用的光源组合而构造的ToF传感器系统的操作。例如,车辆(例如,经由控制器)可以扩大光源(例如,头灯)的波长,以使得相机/传感器能够更好地识别从光源发射、从周围区域反射回相机/传感器的光。另外或可替代地,车辆可以使用相机/传感器的完全替换,其中,相机/传感器被完全修改以监测反射的来自光源的光(例如,相机/传感器的所有像素被控制以监测反射光),或者车辆可以使部分修改的相机/传感器监测反射光(例如,相机/传感器的像素的子集被控制以监测反射光)。在一些示例中,本文所述的系统和ToF相机可以用于直接ToF计算和/或间接ToF计算两者,其中,直接ToF计算使用上述等式1和等式2,而间接ToF计算涉及使用从光源发射的光的不同相位来计算与附近物体的距离。
本披露内容可以提供用于ToF计算的相机、系统或设备,这些相机、系统或设备能够改善功耗、数据传输和数据处理的效率。例如,代替使用专门用于ToF确定的相对功率密集型传感器(例如,激光雷达传感器或其他测距和成像系统),本披露内容可以利用现有传感器(例如,相机)和车辆上的光源来执行ToF计算。将结合车辆并且在一些实施例中结合电动车辆、可再充电电动车辆和/或混合动力电动车辆以及相关联的系统来描述本披露内容的实施例。在下文中,将基于附图对本披露内容的实施方式进行详细描述。进一步地,在下面的实施例中,相同的附图标记将被赋予相同或等同的部分或元素,并且将省略其冗余描述。
图1示出了根据本披露内容的实施例的车辆100的透视图。车辆100包括车辆前部110、车辆后部或尾部、车顶130、至少一个车辆侧面160、车辆底盘140以及车辆内部150(例如,内部空间)。在任何情况下,车辆100可以包括车架104以及安装或附连至其的一个或多个车身面板108。车辆100可以包括一个或多个内部部件(例如,车辆100的车辆内部150或用户空间内部的部件等)、外部部件(例如,车辆100的车辆内部150或用户空间外部的部件等)、驱动系统、控制系统、结构部件等。
尽管以轿车的形式示出,但是应当理解,本文描述的车辆100可以包括任何运输工具或任何型号的运输工具,其中运输工具被设计用于移动一个或多个有形物体,诸如人、动物、货物等。术语“车辆”不要求运输工具移动或能够移动。典型的车辆可以包括但不限于轿车、卡车、摩托车、公共汽车、汽车、火车、铁路运输工具、船只、船舶、海上运输工具、海底运输工具、飞机、航天飞机、飞行器、人力运输工具等。
在一些实施例中,车辆100可以包括能够对驾驶操作、例如自动控制或半自动控制加以辅助的多个传感器、设备和/或系统。各种传感器和系统的示例可以包括但不限于以下一个或多个:相机(例如,独立图像、立体图像、组合图像等)、红外(IR)传感器、射频(RF)传感器、超声传感器(例如,换能器、收发器等)、雷达传感器(例如,物体检测传感器和/或系统)、激光雷达系统、测距传感器和/或设备(例如,编码器等)、取向传感器(例如,加速度计、陀螺仪、磁力计等)、导航传感器和系统(例如,全球定位系统(GPS)等)、以及其他测距、成像和/或物体检测传感器。传感器可以设置在车辆100的车辆内部150中和/或在车辆100的外部上。在一些实施例中,传感器和系统可以设置在车辆100的一个或多个部分中(例如,车架104、车身面板、隔室等)。
可以选择和/或配置车辆传感器和系统以适应与车辆100相关联的操作级别。除其他之外,可以改变系统中使用的传感器的数量以增加或减少可用于车辆控制系统的信息(例如,影响车辆100的控制能力)。另外或可替代地,传感器和系统可以是与车辆100相关联的一个或多个ADAS的一部分。在任何情况下,传感器和系统可以用于在任何操作级别(例如,从完全手动操作到完全自动操作等)提供驾驶辅助,如本文所描述。
可以将车辆的各种控制和/或操作级别描述为对应于与车辆100相关联的实现车辆驾驶操作的自主性级别。例如,在级别0或完全手动驾驶操作下,驾驶员(例如,人类驾驶员)可以负责与车辆相关联的所有驾驶控制操作(例如,转向、加速、制动等)。级别0可以被称为“无自动化”级别。在级别1下,车辆可以负责与车辆相关联的有限数量的驾驶操作,而驾驶员仍然负责大多数驾驶控制操作。级别1车辆的示例可以包括可以由车辆控制油门控制和/或制动操作(例如,巡航控制操作等)的车辆。级别1可以被称为“驾驶员辅助”级别。在级别2下,车辆可以收集(例如,经由一个或多个驾驶辅助系统、传感器等)关于车辆的环境(例如,周围区域、道路、交通、环境条件等)的信息、并且使用所收集的信息来控制与车辆相关的驾驶操作(例如,转向、加速、制动等)。在级别2自动车辆中,可以要求驾驶员执行不受车辆控制的其他方面的驾驶操作。级别2可以被称为“部分自动化”级别。应当理解,级别0至2全部都涉及驾驶员监控车辆的驾驶操作。
在级别3下,除了当车辆请求操作者作用或干预控制一个或多个驾驶操作时,驾驶员可以脱离对车辆的所有驾驶操作的控制。换言之,除非要求驾驶员接管车辆,否则驾驶员可以脱离对车辆的控制。级别3可以被称为“条件自动化”级别。在级别4下,驾驶员可以脱离对车辆的所有驾驶操作的控制,并且即使当用户未能响应干预请求时,车辆也可以控制驾驶操作。级别4可以被称为“高自动化”级别。在级别5下,车辆可以在所有驾驶模式下控制与车辆相关联的所有驾驶操作。级别5的车辆可以在驾驶车辆时连续监测交通、车辆、道路和/或环境条件。在级别5下,在任何驾驶模式中都不需要人类驾驶员交互。相应地,级别5可以被称为“完全自动化”级别。应当理解,在级别3至5下,车辆和/或与车辆相关联的一个或多个自动化驾驶系统监控车辆的驾驶操作和驾驶环境。这里,应当理解的是,示例实施例可以与本文未具体标识的其他自动化级别一起使用。
如图1所示,车辆100可以例如包括以下至少一个:测距和成像系统112(例如,激光雷达等)、成像传感器116A、116F(例如,用于彩色图像发生器的相机、IR传感器等)、无线电物体检测和测距系统传感器116B(例如,雷达、RF等)、超声传感器116C和/或其他物体检测传感器116D、116E。在一些实施例中,激光雷达系统112和/或传感器可以安装在车辆100的车顶130上。在一个实施例中,雷达传感器116B可以至少设置在车辆100的前部110、尾部120或侧面160处。除其他之外,雷达传感器可以用于监控和/或检测在车辆100附近或接近车辆的其他车辆、行人和/或其他物体的位置。虽然被示为与车辆100的一个或多个区域相关联,但应当理解,图1和图2中示出的任何传感器和系统116A至116K、112可以在车辆100的任何位置、区域和/或区中设置在车辆100中、上和/或周围。
如参考图8至图12更详细描述的,图1和图2中示出的一个或多个传感器和系统116A至116K、112可以包括无源相机,这些无源相机可以与车辆100上的至少一个光源118同步,以临时形成ToF传感器系统。例如,车辆100可以通过光源118(例如,头灯、尾灯、转向灯等)和无源图像传感器116(例如,相机,诸如侧视镜上的相机、前部停车相机、ADAS相机等)形成ToF相机。在这种情况下,光源118和传感器116由车辆100(例如,经由车辆100中的控制器)同步和控制,以执行ToF确定和计算。即,车辆100可以控制光源118发射具有某些特性的光,使得传感器116能够感测从车辆周围的周围区域中的任何附近物体反射的光,以执行用于确定从车辆100到这些附近物体的距离的ToF计算。在一些示例中,这些ToF计算然后被用于支撑自动驾驶操作、半自动驾驶操作、手动驾驶操作、或其组合。
车辆100可以在使用如本文所述的无源部件(例如,已经被同步以形成ToF系统的无源相机和无源光源)的ToF系统与专门用于执行距离测量的ToF系统(例如,激光雷达传感器或其他测距和成像系统)之间切换或转换。例如,车辆100可以基于车辆100是否在低功率模式下操作(例如,低功率模式对应于使用利用无源部件的ToF系统,这些无源部件消耗比功率密集型激光雷达系统更少的功率)、来自车辆100的驾驶员的输入(例如,切换任意一个ToF系统)、来自传感器和系统116A至116K、112的信息(例如,对应的ToF系统可以基于针对车辆100的不同外部条件(诸如是否正在下雨、是夜晚还是白天等)进行切换)、或基于本文未明确指示的不同触发,在使用无源部件的ToF系统与旨在用于进行距离测量的ToF系统之间切换。在一些示例中,低功率模式可以由车辆100的驾驶员选择或输入,或者可以由车辆100的传感器或控制器激活(例如,如果车辆100的电池功率下降到阈值以下的话)。
现在参考图2,将描述根据本披露内容的实施例的车辆100的平面图。特别地,图2示出了至少部分地由设置在车辆100中、上和/或周围的传感器和系统116A至116K、112限定的车辆感测环境200。每个传感器116A至116K可以包括操作检测范围R和操作检测角度。操作检测范围R可以限定传感器116A至116K的有效检测极限或距离。在一些情况下,这个有效检测极限可以被限定为从传感器116A至116K的一部分(例如,透镜、感测表面等)到空间中偏离传感器116A至116K的点的距离。有效检测极限可以限定某一距离,超过该距离,传感器116A至116K的感测能力就会劣化,未能工作或不可靠。在一些实施例中,有效检测极限可以限定某一距离,在该距离内,传感器116A至116K的感测能力能够提供准确和/或可靠的检测信息。操作检测角度可以限定传感器116A至116K的跨度的至少一个角度、或在水平极限和/或垂直极限之间的至少一个角度。如可以理解的是,传感器116A至116K的操作检测极限和操作检测角度一起可以限定传感器116A至116K的有效检测区216A至216D(例如,有效检测区域和/或体积等)。
在一些实施例中,车辆100可以包括测距和成像系统112,诸如激光雷达等。测距和成像系统112可以配置为检测车辆100周围的环境中的视觉信息。可以处理在测距和成像系统112周围的环境中检测到的视觉信息(例如,经由一个或多个传感器和/或系统处理器等),以生成车辆周围的环境200的完整360度视图。测距和成像系统112可以配置为例如在车辆100驾驶时实时地生成环境200的变化360度视图。在一些情况下,测距和成像系统112可以具有有效检测极限204,该有效检测极限是从车辆100的中心向外在360度上的某一距离。测距和成像系统112的有效检测极限204限定车辆100周围的观察区208(例如,区域和/或体积等)。落在观察区208之外的任何物体处于未检测到的区212中并且将不会被车辆100的测距和成像系统112检测到。
传感器数据和信息可以由监控车辆感测环境200的车辆100的一个或多个传感器或系统116A至116K、112收集。可以处理这个信息(例如,经由处理器、计算机视觉系统等)以确定与车辆感测环境200相关联的一个或多个检测区208、216A至216D内的目标(例如,物体、标志、人、标记、道路、路况等)。在一些情况下,可以处理来自多个传感器116A至116K的信息以形成复合传感器检测信息。例如,瞄准车辆100的向前行进方向的第一相机116A和第二相机116F可作为第一传感器116A和第二传感器116F。在这个示例中,可以组合由相机116A、116F收集的图像以形成立体图像信息。这个复合信息可以通过例如增加确定与一个或多个检测区208、216A至216D中的目标相关联的深度的能力来提高一个或多个传感器116A至116K中的单个传感器的能力。相同或类似的图像数据可以由瞄准向后行进方向车辆100的后视相机(例如,传感器116G、116H)收集。
在一些实施例中,可以有效地接合多个传感器116A至116K以增大感测区并提供增大的感测覆盖范围。例如,可以接合设置在车辆的前部110上的多个雷达传感器116B,以提供跨越车辆的整个前部110的覆盖区216B。在一些情况下,多个雷达传感器116B可以覆盖包括一个或多个其他传感器检测区216A的检测区216B。这些重叠的检测区可以提供冗余感测、增强感测,和/或提供在较大区(例如,区216B)的特定部分(例如,区216A)内的更多感测细节。另外或可替代地,车辆100的传感器116A至116K可以布置为经由车辆100周围的一个或多个感测区208、216A至216D而产生完全覆盖。在一些区域中,两个或更多个传感器116D、116E的感测区216C可以在重叠区220处相交。在一些区域中,(例如,两个或更多个传感器116E、116J、116K的)两个或更多个感测区216C、216D的角度和/或检测极限可以在虚拟交叉点224处会合。
车辆100可以包括设置在车辆100的后部120附近的多个传感器116E、116G、116H、116J、116K。这些传感器可以包括但不限于,成像传感器、相机、IR、无线电物体检测和测距传感器、雷达、RF、超声传感器和/或其他物体检测传感器。除其他之外,这些传感器116E、116G、116H、116J、116K可以检测靠近或接近车辆100的后部的目标。例如,可以由测距和成像系统(例如,激光雷达)112、后视相机116G、116H和/或面向后部的雷达传感器116J、116K中的一个或多个检测接近车辆100的后部120的另一车辆。如上所述,可以处理来自后视相机116G、116H的图像以生成对两个相机116G、116H可见的目标的立体视图(例如,提供与物体或环境相关联的深度等)。作为另一示例,车辆100可能正在行驶,并且测距和成像系统112、面向前部的相机116A、116F、面向前部的雷达传感器116B和/或超声传感器116C中的一个或多个可以检测车辆100前方的目标。这种方法可以在上述自动驾驶级别中的至少一个自动驾驶级别中向车辆控制系统提供关键传感器信息。例如,当车辆100自动地驾驶(例如,级别3、级别4或级别5)并且检测到在行进路径中停止的其他车辆时,可以将传感器检测信息发送到车辆100的车辆控制系统以控制与车辆100相关联的驾驶操作(例如,制动、减速等)(在这个示例中,使车辆100减慢以避免与停止的其他车辆碰撞)。作为又一示例,车辆100可以操作,并且测距和成像系统112和/或面向侧面的传感器116D、116E(例如,雷达、超声、相机、其组合和/或其他类型的传感器)中的一个或多个可以检测位于车辆100的侧面的目标。应当理解,传感器116A至116K可以检测既在车辆100的侧面160又在前部110处的目标(例如,与从车辆100的前部110行进到车辆的后部120的车辆100的中心线成对角角度设置)。另外或可替代地,传感器116A至116K可以检测既在车辆100的侧面160又在后部120处或同时在这两个位置处的目标(例如,与车辆100的中心线成对角角度设置)。
图3A至图3C是根据本披露内容的实施例的车辆100的通信环境300的实施例的框图。通信系统300可以包括一个或多个车辆驾驶车辆传感器与系统304、传感器处理器340、传感器数据存储器344、车辆控制系统348、通信子系统350、控制数据364、计算设备368、显示设备372、以及可以与车辆100相关联的其他部件374。这些相关联的部件可以经由至少一个总线360彼此电耦合和/或通信耦合。在一些实施例中,一个或多个相关联的部件可以通过通信网络352向导航源356A、控制源356B或某个其他实体356N中的至少一个发送和/或接收信号。
根据本披露内容的至少一些实施例,通信网络352可以包括任何类型的已知通信介质或通信介质集合,并且可以使用任何类型的协议,诸如SIP、TCP/IP、SNA、IPX、AppleTalk等,以在端点之间传输消息。通信网络352可以包括有线和/或无线通信技术。互联网是通信网络352的示例,该通信网络构成了互联网协议(IP)网络,该互联网协议网络包括位于世界各地的许多计算机、计算网络和其他通信设备,它们通过许多电话系统和其他方式连接。通信网络352的其他示例包括但不限于标准的普通老式电话系统(POTS)、综合业务数字网(ISDN)、公共交换电话网(PSTN)、诸如以太网、令牌环网络和/或类似等局域网(LAN)、广域网(WAN)、包括但不限于虚拟专用网络(“VPN”)的虚拟网络;互联网、内联网、外联网、蜂窝网络、红外网络;无线网络(例如,在IEEE 802.9协议集、本领域已知的协议和/或任何其他无线协议中的任何一种下操作的网络),以及本领域已知的任何其他类型的分组交换或电路交换网络和/或这些和/或其他网络的任意组合。另外,可以理解,通信网络352不必限于任何一种网络类型,而是可以包括许多不同的网络和/或网络类型。通信网络352可以包括多个不同的通信介质,诸如同轴电缆、铜电缆/电线、光纤电缆、用于发射/接收无线消息的天线、及其组合。
驾驶车辆传感器和系统304可以包括(一个或多个)导航传感器308(例如,GPS等)、(一个或多个)取向传感器312、(一个或多个)测距传感器316、(一个或多个)激光雷达传感器320、(一个或多个)雷达传感器324、(一个或多个)超声传感器328、(一个或多个)相机332(例如,用于彩色图像生成)、(一个或多个)IR传感器336和/或其他传感器或系统338。这些驾驶车辆传感器和系统304可以与结合图1和图2描述的传感器和系统116A至116K、112类似(如果不相同的话)。
导航传感器308可以包括具有接收器和天线的一个或多个传感器,所述传感器配置为利用基于卫星的导航系统,所述导航系统包括能够向车辆100的至少一个部件提供地理定位和时间信息的导航卫星网络。本文描述的导航传感器308的示例可以包括但不限于以下至少一个: GLOTM系列GPS与GLONASS组合传感器、/> GPS 15xTM系列传感器、/> GPS 16xTM系列的具有高灵敏度接收器和天线的传感器、/> GPS18x OEM系列高灵敏度GPS传感器、Dewetron DEWE-VGPS系列GPS传感器、GlobalSat 1-Hz系列GPS传感器、其他工业等效导航传感器和/或系统,并且可以使用任何已知或未来开发的标准和/或架构来执行导航和/或地理定位功能。
取向传感器312可以包括配置为确定车辆100相对于至少一个参考点的取向的一个或多个传感器。在一些实施例中,取向传感器312可以包括至少一个压力换能器、应力/应变仪、加速度计、陀螺仪和/或地磁传感器。本文描述的导航传感器308的示例可以包括但不限于以下至少一个:Bosch Sensortec BMX 160系列低功率绝对定向传感器、BoschSensortec BMX055 9轴传感器、Bosch Sensortec BMI055 6轴惯性传感器、BoschSensortec BMI160 6轴惯性传感器、具有集成Cortex M0+微控制器的Bosch SensortecBMF055 9轴惯性传感器(加速度计、陀螺仪和磁力计)、Bosch Sensortec BMP280绝对气压传感器、Infineon TLV493D-A1B6 3D磁传感器、Infineon TLI493D-W1B6 3D磁传感器、Infineon TL系列3D磁传感器、Murata Electronics SCC2000系列组合式陀螺仪传感器与加速度计、Murata Electronics SCC1300系列组合式陀螺仪传感器与加速度计、其他工业等效取向传感器和/或系统,这些传感器和/或系统可以使用任何已知或未来开发的标准和/或架构来执行取向检测和/或确定功能。
测距传感器和/或系统316可以包括配置为确定车辆100的位置随时间的变化的一个或多个部件。在一些实施例中,测距系统316可以利用来自一个或多个其他传感器和/或系统304的数据来确定车辆100相对于车辆100的先前测得位置的位置(例如,距离、定位等)。另外或可替代地,测距传感器316可以包括一个或多个编码器、霍尔速度传感器、和/或配置为随时间测量车轮速度、旋转和/或转数的其他测量传感器/设备。如本文所描述的测距传感器/系统316的示例可以包括但不限于以下至少一个:Infineon TLE4924/26/27/28C高性能速度传感器、Infineon TL4941plusC(B)单芯片差动霍尔轮速传感器、InfineonTL5041plusC巨磁电阻(GMR)效应传感器、Infineon TL系列磁传感器、EPC 25SP型Accu-CoderProTM增量式轴编码器、采用先进的磁感测和信号处理技术的EPC 30M紧凑型增量式编码器、EPC 925型绝对轴编码器、EPC型958绝对轴编码器、EPC型MA36S/MA63S/SA36S绝对轴编码器、DynaparTMF18换向光学编码器、DynaparTMHS35R系列相控阵列编码器传感器、其他工业等效测距传感器和/或系统,并且可以使用任何已知的或未来开发的标准和/或架构来执行位置变化检测和/或确定功能的改变。
激光雷达传感器/系统320可以包括配置为使用激光照射来测量与目标的距离的一个或多个部件。在一些实施例中,激光雷达传感器/系统320可以提供车辆100周围的环境的3D成像数据。可以处理所述成像数据以生成车辆100周围的环境的完全360度视图。激光雷达传感器/系统320可以包括配置为生成多个目标照射激光束(例如,激光通道)的激光发生器。在一些实施例中,该多个激光束可以瞄准或指向旋转反射表面(例如,反射镜)并且从激光雷达传感器/系统320向外引导至测量环境中。旋转反射表面可以配置为围绕轴线连续旋转360度,使得多个激光束被引导到车辆100周围的完全360度范围内。激光雷达传感器/系统320的光电二极管接收器可以检测来自多个激光束的发射到测量环境中的光何时返回(例如,反射回波)到激光雷达传感器/系统320。激光雷达传感器/系统320可以基于与光发射到所检测到的光返回相关联的时间来计算从车辆100到被照射目标的距离。在一些实施例中,激光雷达传感器/系统320可以每秒生成超过200万个点并且具有至少100米的有效操作范围。本文描述的激光雷达传感器/系统320的示例可以包括但不限于以下至少一个: LiDARTMHDL-64E 64通道激光雷达传感器、/> LiDARTMHDL-32E 32通道激光雷达传感器、/> LiDARTMPUCKTMVLP-16 16通道激光雷达传感器、LeicaGeosystems Pegasus:Two移动传感器平台、/> LIDAR-Lite v3测量传感器、Quanergy M8激光雷达传感器、Quanergy S3固态激光雷达传感器、/>LeddarVU紧凑型固态固定波束激光雷达传感器、其他工业等效的激光雷达传感器和/或系统,并且可以使用任何已知的或未来开发的标准和/或架构来执行在车辆100周围的环境中的被照射目标和/或障碍物检测。
雷达传感器324可以包括配置为检测车辆100的环境中的物体/目标的一个或多个无线电部件。在一些实施例中,雷达传感器324可以随时间确定与目标相关联的距离、位置和/或运动向量(例如,角度、速度等)。雷达传感器324可以包括配置为生成和发射电磁波(例如,无线电、微波等)的发射器、以及配置为检测返回的电磁波的接收器。在一些实施例中,雷达传感器324可以包括配置为解释返回的电磁波并确定目标的位置特性的至少一个处理器。如本文所述的雷达传感器324的示例可以包括但不限于以下至少一个:InfineonRASICTMRTN7735PL发射器与RRN7745PL/46PL接收器传感器、Autoliv ASP车辆雷达传感器、Delphi L2C0051TR 77GHz ESR电子扫描雷达传感器、Fujitsu Ten Ltd.公司汽车紧凑型77GHz 3D电子扫描毫米波雷达传感器、其他工业等效雷达传感器和/或系统,并且可以使用任何已知或未来开发的标准和/或架构在车辆100周围的环境中执行无线电目标/或障碍物检测。
超声传感器328可以包括配置为检测车辆100的环境中的物体/目标的一个或多个部件。在一些实施例中,超声传感器328可以随时间确定与目标相关联的距离、位置和/或运动向量(例如,角度、速度等)。超声传感器328可以包括配置为生成和发射超声波并解释那些波的返回回波的超声发射器与接收器、或收发器。在一些实施例中,超声传感器328可以包括配置为解释返回的超声波并确定目标的位置特性的至少一个处理器。本文描述的超声传感器328的示例可以包括但不限于以下至少一个:Texas Instruments TIDA-00151汽车超声传感器接口IC传感器、MB8450超声波接近度传感器、/>ParkSonarTM-EZ超声波接近度传感器、Murata Electronics MA40H1S-R开放式结构超声传感器、Murata Electronics MA40S4R/S开放式结构超声传感器、Murata ElectronicsMA58MF14-7N防水超声传感器、其他工业等效的超声传感器和/或系统,并且可以使用任何已知的或未来开发的标准和/或架构来在车辆100周围的环境中执行目标物和/或障碍物超声波检测。
相机传感器332可以包括配置为检测与车辆100的环境相关联的图像信息的一个或多个部件。在一些实施例中,相机传感器332可以包括透镜、滤波器、图像传感器和/或数字图像处理器。本披露内容的一方面在于,可以一起使用多个相机传感器332来生成立体图像,从而提供深度测量。如本文所述的相机传感器332的示例可以包括但不限于以下至少一个:ONMT9V024全局快门VGAGS CMOS图像传感器、Teledyne DALSAFalcon2相机传感器、CMOSIS CMV50000高速CMOS图像传感器、其他工业等效相机传感器和/或系统,其中,相机传感器332可以使用任何已知或未来开发的标准和/或架构在车辆100周围的环境中执行视觉目标和/或障碍物检测。在至少一个示例实施例中,相机传感器332可以与一个或多个现有光源(例如,头灯)同步,以形成ToF传感器系统。
IR传感器336可以包括配置为检测与车辆100的环境相关联的图像信息的一个或多个部件。IR传感器336可以配置为在少光、黑暗或不良光照环境中检测目标。IR传感器336可以包括IR发光元件(例如,IR发光二极管(LED)等)和IR光电二极管。在一些实施例中,IR光电二极管可以配置为检测与IR发光元件发射的波长相同或大约相同波长的返回IR光。在一些实施例中,IR传感器336可以包括配置为解释返回的IR光并确定目标的位置特性的至少一个处理器。IR传感器336可以配置为检测和/或测量与目标(例如,物体、行人、其他车辆等)相关联的温度。如本文所述的IR传感器336的示例可以包括但不限于以下至少一个:光电二极管铅盐IR阵列传感器、光电二极管OD-850近红外LED传感器、光电二极管SA/SHA727稳态IR发射器与IR检测器、LS微测辐射热计传感器、/> TacFLIR 380-HDInSb MWIR FPA与HD MWIR热传感器、/>VOx 640x 480像素检测器传感器、Delphi IR传感器、其他工业等效IR传感器和/或系统,并且使用任何已知或未来开发的标准和/或架构在车辆100周围的环境中执行IR视觉目标和/或障碍物检测。
车辆100还可以包括一个或多个内部传感器337。内部传感器337可以测量车辆100的内部环境的特性。这些内部传感器337可以是如结合图3B描述的。
导航系统302可以包括用于手动或自动地导航车辆的任何硬件和/或软件。导航系统302可以是如结合图3C描述的。
在一些实施例中,驾驶车辆传感器和系统304可以包括其他传感器338和/或上述传感器306至337的组合。另外或可替代地,上述传感器306至337中的一个或多个传感器可以包括配置为处理和/或解释由一个或多个传感器306至337检测到的信号的一个或多个处理器。在一些实施例中,由车辆传感器和系统304提供的至少一些传感器信息的处理可以由至少一个传感器处理器340来处理。原始的和/或经处理的传感器数据可以存储在传感器数据存储器344存储介质中。在一些实施例中,传感器数据存储器344可以存储由传感器处理器340用来处理由传感器和系统304提供的传感器信息的指令。在任何情况下,传感器数据存储器344可以是磁盘驱动器、光学存储设备、诸如随机存取存储器(“RAM”)和/或只读存储器(“ROM”)等固态存储设备,它们可以是可编程的、可闪存更新的等。
车辆控制系统348可以从传感器处理器340接收经处理的传感器信息,并且确定要控制车辆100的某个方面。控制车辆100的某个方面可以包括经由与车辆相关联的一个或多个显示设备372来呈现信息、向与车辆相关联的一个或多个计算设备368发送命令、和/或控制车辆的驾驶操作。在一些实施例中,车辆控制系统348可以对应于根据上述驾驶自主性级别来控制车辆100的驾驶操作的一个或多个计算系统。在一个实施例中,车辆控制系统348可以通过控制给车辆的加速度计和/或制动系统的输出信号来操作车辆100的速度。在这个示例中,车辆控制系统348可以接收描述车辆100周围的环境的传感器数据,并且基于所接收的传感器数据来确定要调整车辆100的加速度、动力输出和/或制动。车辆控制系统348可以另外控制车辆100的转向和/或其他驾驶功能。
车辆控制系统348可以与驾驶传感器和系统304实时地通信,从而形成反馈环路。特别地,在接收到描述车辆100周围环境中的目标状况的传感器信息时,车辆控制系统348可以自动地改变车辆100的驾驶操作。然后,车辆控制系统348可以接收描述由于改变了驾驶操作而对在环境中检测到的目标状况的任何改变的后续传感器信息。这种观察(例如,经由传感器等)和动作(例如,车辆操作的所选控制或非控制等)的连续循环允许车辆100在环境中自动地操作。
在一些实施例中,车辆100的一个或多个部件(例如,驾驶车辆传感器304、车辆控制系统348、显示设备372等)可以经由车辆100的通信子系统350通过通信网络352与一个或多个实体356A至356N通信。结合图5更详细地描述通信子系统350的实施例。例如,导航传感器308可以接收来自导航源356A的全球定位、位置和/或导航信息。在一些实施例中,仅举几个示例,导航源356A可以是与NAVSTAR GPS、GLONASS、EU Galileo和/或北斗导航卫星系统(BDS)类似(如果不相同的话)的全球导航卫星系统(GNSS)。
在一些实施例中,车辆控制系统348可以接收来自一个或多个控制源356B的控制信息。控制源356可以提供车辆控制信息,包括自动驾驶控制命令、车辆操作超驰控制命令等。控制源356可以对应于自动车辆控制系统、交通控制系统、行政控制实体、和/或一些其他控制服务器。本披露内容的一方面在于,车辆控制系统348和/或车辆100的其他部件可以通过通信网络352并且经由通信子系统350与控制源356交换讯息。
与控制车辆100的驾驶操作相关联的信息可以存储在控制数据存储器364存储介质中。控制数据存储器364可以存储由车辆控制系统348用来控制车辆100的驾驶操作的指令、历史控制信息、自动驾驶控制规则等。在一些实施例中,控制数据存储器364可以是磁盘驱动器、光学存储设备、诸如随机存取存储器(“RAM”)和/或只读存储器(“ROM”)等固态存储设备,它们可以是可编程的、可闪存更新的等。
除了本文描述的机械部件之外,车辆100还可以包括多个用户界面设备。用户界面设备接收人为输入并将其转换为机械运动或电信号或刺激。人为输入可以是以下一个或多个:运动(例如,在二维或三维空间中的身体运动、身体部位运动等)、语音、触摸、和/或与车辆100的部件的物理交互。在一些实施例中,人为输入可以配置为控制本文描述的车辆100和/或车辆100的系统的一个或多个功能。用户界面可以包括但不限于以下各项的至少一个图形用户界面:显示设备、方向盘或转向机构、变速杆或按钮(例如,包括停车位置、空挡位置、倒车位置和/或驱动位置等)、油门控制踏板或机构、制动器控制踏板或机构、动力控制切换、通信设备等。
图3B示出了车辆100的内部传感器337的实施例的框图。这些内部传感器337可以至少部分地基于内部传感器337的功能被布置成一个或多个组。例如,车辆100的内部空间可以包括环境传感器、(一个或多个)用户界面传感器、和/或安全传感器。另外或可替代地,可以存在与车辆内的不同设备(例如,智能电话、平板计算机、笔记本计算机、可穿戴设备等)相关联的传感器。
环境传感器可以包括配置为收集与车辆100的内部环境有关的数据的传感器。环境传感器的示例可以包括但不限于以下一个或多个:氧气/空气传感器301、温度传感器303、湿度传感器305、光/光电传感器307以及更多。氧气/空气传感器301可以配置为检测车辆100的内部空间108中的空气的品质或特性(例如,包括车辆100内的空气的气体的比率和/或类型,危险气体水平、安全气体水平等)。温度传感器303可以配置为检测车辆100的一个或多个物体、用户216、和/或区域的温度读数。湿度传感器305可以检测车辆100内的空气中存在的水蒸气的量。光/光电传感器307可以检测车辆100中存在的光的量。此外,光/光电传感器307可以配置为检测与车辆100内的光相关联的不同水平的光强度。
用户界面传感器可以包括配置为收集与车辆100中的一个或多个用户(例如,驾驶员和/或(一个或多个)乘客)有关的数据的传感器。如可以理解,用户界面传感器可以包括配置为收集来自车辆100的一个或多个区域中的用户216的数据的传感器。用户界面传感器的示例可以包括但不限于以下一个或多个:IR传感器309、运动传感器311、重量传感器313、无线网络传感器315、生物特征传感器317、相机(或图像)传感器319、音频传感器321以及更多。
IR传感器309可以用于测量从车辆100中的至少一个表面、用户或其他物体辐射的IR光。除其他之外,IR传感器309可以用于测量温度、形成图像(尤其是在低光条件下)、识别用户216、并且甚至检测车辆100中的运动。
运动传感器311可以检测车辆100内的物体的运动和/或移动。可选地,运动传感器311可以单独或组合地使用以检测移动。例如,当车辆100后部的乘客解开安全带并开始在车辆10上四处移动时,用户可能在操作车辆100(例如,在驾驶时等)。在这个示例中,可以通过运动传感器311检测乘客的移动。响应于检测到该移动和/或与该移动相关联的方向,可以防止乘客碰触和/或触及至少一些车辆控制特征。如可以理解,可以向用户警示这种移动/运动,使得用户可以采取行动以防止乘客干扰车辆控制。可选地,可以增加车辆中的运动传感器的数量以提高与在车辆100中检测到的运动相关联的准确度。
重量传感器313可以用于收集与车辆100的不同区域中的物体和/或用户有关的数据。在一些情况下,重量传感器313可以被包括在车辆100的座椅和/或底板中。可选地,车辆100可以包括无线网络传感器315。该传感器315可以配置为检测车辆100内的(一个或多个)无线网络。无线网络的示例可以包括但不限于利用Wi-FiTM、ZigBee、IEEE802.11、以及其他无线技术标准的无线通信。例如,可以经由无线网络传感器315在车辆100内检测移动热点。在这种情况下,车辆100可以确定来利用和/或/经由与车辆100相关联的一个或多个其他设备来共享检测到的移动热点。
生物特征传感器317可以用于识别和/或记录与用户相关联的特性。据预期生物特征传感器317可以包括以下至少一个:图像传感器、IR传感器、指纹读取器、重量传感器、测压元件、力换能器、心率监测器、血压监测器、以及本文提供的类似物。
相机传感器319可以记录静止图像、视频和/或其组合。相机传感器319可以单独或组合地使用以识别车辆100内的物体、用户、和/或其他特征。除其他之外,可以将两个或更多个相机传感器319组合使用以形成立体和/或三维(3D)图像。可以记录和/或使用立体图像来确定与车辆100中的物体和/或用户相关联的深度。此外,组合使用的相机传感器319可以确定与识别用户的特征相关联的复杂几何形状。例如,相机传感器319可以用于确定用户脸部的各个特征之间的尺寸(例如,从用户的鼻子到用户的脸颊的深度/距离,用户眼睛的中心之间的线性距离、以及更多)。这些尺寸可以用于验证、记录、并且甚至修改用于识别用户的特性。相机传感器319还可以用于确定与车辆100内的物体和/或用户相关联的移动。应当理解,可以增加在车辆100中使用的图像传感器的数量,以提供在车辆100中检测到的图像的更大的尺寸准确度和/或视图。在至少一个示例实施例中,相机传感器319可以与一个或多个现有光源(例如,内部灯)同步,以形成ToF传感器系统。
音频传感器321可以配置为接收来自车辆100的用户的音频输入。来自用户的音频输入可以对应于语音命令、在车辆100中检测到的对话、在车辆100中进行的电话呼叫、和/或在车辆100中进行的其他声音表达。音频传感器321可以包括但不限于:麦克风和其他类型的声-电换能器或传感器。可选地,内部音频传感器321可以配置为接收声波并将其转换为等效的模拟或数字信号。内部音频传感器321可以用于确定与车辆100中的各种声音相关联的一个或多个位置。可以基于由两个或更多个内部音频传感器321检测到的声音之间对音量水平、强度等的比较来确定声音的位置。例如,第一音频传感器321可以位于车辆100的第一区域中,并且第二音频传感器321可以位于车辆100的第二区域中。如果第一音频传感器321A检测到第一音量水平的声音,并且第二音频传感器321在车辆100的第二区域中检测到第二更高音量水平的声音,则可以确定该声音更靠近车辆100的第二区域。如可以理解,可以增加车辆100中使用的声音接收器的数量(例如,多于两个等),以增大围绕声音检测和声音的位置或来源的测量准确度(例如,经由三角测量等)。
安全传感器可以包括配置为收集与车辆100的用户和/或一个或多个部件的安全性有关的数据的传感器。安全传感器的示例可以包括但不限于以下一个或多个:力传感器325、机械运动传感器327、取向传感器329、约束传感器331以及更多。
力传感器325可以包括在车辆100内的配置为检测在车辆100中观察到的力的一个或多个传感器。力传感器325的一个示例可以包括将测得的力(例如,力、重量、压力等)转换成输出信号的力换能器。机械运动传感器327可以对应于编码器、加速度计、阻尼质量以及类似物。可选地,机械运动传感器327可以适于测量在车辆100内观察到的重力(即,G力)。测量在车辆100内观察到的G力可以提供与车辆100中的一个或多个用户可能已经遭受的车辆的加速度、减速度、碰撞和/或力有关的有价值信息。取向传感器329可以包括配置为检测与车辆100相关联的取向的加速度计、陀螺仪、磁传感器等。
约束传感器331可以对应于与车辆100中的一个或多个约束设备和/或系统相关联的传感器。安全带和安全气囊是约束设备和/或系统的示例。如可以理解,约束设备和/或系统可以与配置为检测该设备/系统的状态的一个或多个传感器相关联。该状态可以包括与设备/系统相关联的伸出、接合、缩回、脱离接合、展开、和/或其他电气或机械状况。
相关联的设备的传感器323可以包括与车辆100中的设备相关联的任何传感器。如前所述,典型的设备可以包括智能电话、平板计算机、笔记本计算机等。预期车辆控制系统348可以采用与这些设备相关联的各个传感器。例如,典型的智能手机可以包括图像传感器、IR传感器、音频传感器、陀螺仪、加速度计、无线网络传感器、指纹读取器以及更多。本披露内容的一方面在于,这些相关联的设备的传感器323中的一个或多个可以被车辆100的一个或多个子系统使用。
图3C示出了(一个或多个)GPS/导航子系统302。(一个或多个)导航子系统302可以是任何现有的或未来构建的导航系统,该系统可以使用例如来自全球定位系统(GPS)的位置数据来提供导航信息或控制车辆100。(一个或多个)导航子系统302可以包括若干部件,诸如但不限于以下一个或多个:GPS天线/接收器331、位置模块333、地图数据库335等。通常,若干部件或模块331至335可以是硬件、软件、固件、计算机可读介质、或其组合。
GPS天线/接收器331可以是能够从GPS卫星或其他导航系统接收信号的任何天线、GPS圆盘、和/或接收器。这些信号可以被GPS天线/接收器331解调、转换、解释等、并被提供给位置模块333。因此,GPS天线/接收器331可以将来自GPS系统的时间信号转换并将位置(例如,地图上的坐标)提供给位置模块333。可替代地,位置模块333可以将时间信号解释为坐标或其他位置信息。
位置模块333可以是被设计用于车辆100中的卫星导航系统的控制器。位置模块333可以从GPS天线/接收器331获取方位数据,以在单元的地图数据库335中定位道路上的用户或车辆100。位置模块333可以使用道路数据库335对沿着也在数据库335中的道路上的其他位置给出方向。当GPS信号不可用时,位置模块333可以应用航位推算法(deadreckoning)来估计与传感器304的距离数据,这些传感器包括但不限于以下中的一项或多项:附接至车辆100的传动系的速度传感器、陀螺仪、加速度计等。另外或可替代地,位置模块333可以使用Wi-Fi热点的已知位置、蜂窝塔数据等诸如通过使用到达时间差(TDOA)和/或到达频率差(FDOA)技术来确定车辆100的位置。
地图数据库335可以包括用于存储关于地图的信息、地理信息系统(GIS)信息、位置信息等的任何硬件和/或软件。地图数据库335可以包括用于存储该信息的任何数据定义或其他结构。通常,地图数据库335可以包括道路数据库,该道路数据库可以包括感兴趣区域的一个或多个矢量地图。可以将街道名称、街道号码、门牌号码和其他信息编码为地理坐标,使得用户可以通过街道地址找到某个期望的目的地。兴趣点(航路点)也可以与其地理坐标一起存储。例如,兴趣点可以包括高速相机、加油站、公共停车场和“曾在此停车”(或“你曾在此停车”)的信息。地图数据库335还可以包括道路或街道特性,例如,速度限制、停车灯/停车标志的位置、车道划分线、学校位置等。地图数据库的内容可以由通过与互联网通信的无线系统所连接的服务器产生或更新,即使在车辆100沿着现有街道行驶时也是如此,从而产生最新地图。
当以L4或L5操作并且基于来自外部和内部车辆传感器的传感器信息时,车辆控制系统348可以响应于当前车辆位置、感测到的物体信息、感测到的车辆乘员信息、车辆相关信息、外部环境信息以及来自地图数据库335的导航信息,来控制车辆的驾驶行为。
感测到的物体信息是指感测到的关于车辆外部的物体的信息。示例包括:有生命物体,诸如动物及其属性(例如,动物类型、当前空间位置、当前活动等)和行人及其属性(例如,身份、年龄、性别、当前空间位置、当前活动等)等;以及无生命物体及其属性,诸如其他车辆(例如,当前车辆状态或活动(停车或运动中或当前采用的自动化级别)、乘员或操作者身份、车辆类型(卡车、轿车等)、车辆空间位置等),路缘(地形和空间位置),坑洼(大小和空间位置),车道划分标记(类型或颜色和空间位置),标牌(类型或颜色和空间位置,诸如限速标志、让行标志、停车标志以及其他限制性或警告标志),交通信号灯(例如,红色、黄色、蓝色、绿色等),建筑物(空间位置),墙壁(高度和空间位置),路障(高度和空间位置)等。
感测到的乘员信息是指感测到的关于车辆内部的乘员的信息。示例包括乘员的数量和身份及其属性(例如,就座位置、年龄、性别、注视方向、生物信息、认证信息、偏好、历史行为模式(诸如当前或历史用户驾驶行为、历史用户路线、目的地和路径点偏好)、国籍、民族和种族、语言偏好(例如,西班牙语、英语、中文等)、当前乘员角色(例如,操作者或乘客)、乘员优先级排序(例如,车主比儿童乘员的排序更高)、电子日历信息(例如,OutlookTM)、以及医疗信息和历史等。
车辆相关信息是指感测到的关于所选车辆的信息。示例包括车辆制造商、类型、型号、制造年份、当前地理位置、当前车辆状态或活动(停车或运动中或当前采用的自动化级别)、车辆规格与能力、当前感测到的车辆操作参数、以及其他信息。
外部环境信息是指感测到的关于所选车辆的外部环境的信息。示例包括道路类型(铺面、砾石、砖块等)、道路状况(例如,潮湿、干燥、结冰、有雪等)、天气条件(例如,室外温度、压力、湿度、风速和风向等)、环境光条件(例如,一天中的时刻)、车辆周围环境的发展程度(例如,城市或乡村)等。
在典型的实施方式中,自动车辆控制系统348基于来自某些传感器的反馈、特别是围绕车辆外周定位的激光雷达和雷达传感器,来构建车辆附近的空间的三维地图,使得自动车辆控制系统348能够识别有生命和无生命物体并对其进行空间定位。其他传感器、诸如用于关于在附近移动的外部物体进行测距计算的惯性测量单元、陀螺仪、车轮编码器、声纳传感器、运动传感器;以及朝外的相机(例如,用于执行计算机视觉处理)可以提供进一步的情景信息以生成更准确的三维地图。导航信息与三维地图组合而提供短程、中程和长程路线跟踪和路线选择。车辆控制系统348处理真实世界信息、以及GPS数据和行驶速度,以准确地确定每个车辆的精确位置(低至几厘米),同时针对附近的有生命和无生命物体进行校正。
车辆控制系统348可以基本上实时处理当前车辆的乘员和附近其他有生命或无生命物体的集合映射信息并对其行为建模(或预测)、并且基于集合映射信息和所建模的行为来发出适当的关于车辆操作的命令。在一些命令(诸如在红灯和停车标志处停车)被硬编码到车辆中的同时,基于先前驾驶经验通过配置文件更新来学习和记录其他响应。所学行为的示例包括:右车道中的缓慢移动或停止的车辆或紧急车辆表明跟随它的汽车将试图越过它的概率更高,道路中的坑洞、岩石或其他异物等同于驾驶员转向避开它的概率更高,并且一条车道上的交通拥堵意味着在同一方向上移动的其他驾驶员在相邻车道中越过或在路肩上行驶的概率更高。
图4示出了车辆100的仪表板400的一个实施例。车辆100的仪表板400包括:方向盘410、车辆操作显示器420(例如,配置为呈现和/或显示驾驶数据,诸如速度、测量到的空气阻力、车辆信息、娱乐信息等)、一个或多个辅助显示器424(例如,配置为呈现和/或显示从操作显示器420、娱乐应用、电影、音乐等分离的信息)、抬头显示器434(例如,配置为显示先前描述的任何信息,包括但不限于,诸如到目的地的路线的引导信息、或用于警告潜在碰撞的障碍物警告信息、或者诸如速度、阻力等一些或全部主要车辆操作数据)、电力管理显示器428(例如,配置为显示与车辆100的电力水平、备用电力、充电状态等相对应的数据)、以及输入设备432(例如,控制器、触摸屏或配置为与仪表板或车辆100的部件中的一个或多个显示器对接的其他接口设备。输入设备432可以配置为操纵杆、鼠标、触摸板、平板电脑、3D手势捕获设备等)。在一些实施例中,输入设备432可以用于手动操纵车辆100的一部分进入充电位置(例如,将充电板移动到期望的分隔距离等)。
虽然仪表板400的一个或多个显示器可以是触摸屏显示器,但是应当理解,车辆操作显示器可以是不能接收触摸输入的显示器。例如,横跨内部空间中心线404并跨越第一区408A和第二区408B的操作显示器420可以与接收来自触摸的输入、尤其是接收来自乘客的输入隔离。在一些情况下,提供车辆操作或关键系统信息和界面的显示器可以被约束而无法接收触摸输入和/或配置为非触摸显示器。这种类型的配置可以防止在提供触摸输入时的危险错误,其中这种输入可能导致事故或不想要的控制。
在一些实施例中,仪表板400的一个或多个显示器可以是移动设备和/或驻留在诸如智能电话等移动设备上的应用。另外或可替代地,本文描述的任何信息可以呈现给操作显示器420的一个或多个部分420A至420N或其他显示器424、428、434。在一个实施例中,仪表板400的一个或多个显示器可以与仪表板400物理地分离或从其拆卸。在一些情况下,可拆卸的显示器可以保持栓系到仪表板。
操作显示器420的部分420A至420N可以动态地重新配置和/或调整大小以适应所描述的任何信息显示。另外或可替代地,用于经由操作显示器420可视地呈现信息的部分420A至420N的数量可以根据需要动态地增加或减少,并且不限于所示的配置。
图5示出了根据本披露内容的实施例的可以可选地与车辆100相关联的通信部件的硬件图。
通信部件可以包括一个或多个有线或无线设备,诸如(一个或多个)收发器和/或调制解调器,该调制解调器不仅允许本文披露的各种系统之间的通信而且还允许与诸如网络上的设备和/或诸如互联网等分布式网络上和/或云中的设备等其他设备和/或与(一个或多个)其他车辆通信。
通信子系统350还可以包括车辆间和车辆内通信能力,诸如用于车辆乘员和/或车辆到车辆通信中的任何一个或多个的热点和/或接入点连接。
另外,虽然未具体示出,但通信子系统350可以包括一个或多个通信链路(可以是有线或无线)和/或通信总线(由总线管理器574管理),包括以下一个或多个:CAN bus、OBD-II、ARCINC 429、Byteflight、CAN(控制器局域网)、D2B(国内数字总线)、FlexRay、DC-BUS、IDB-1394、IEBus、I2C、ISO 9141-1/-2、J1708、J1587、J1850、J1939、ISO 11783、关键词协议2000、LIN(本地互联网络)、MOST(媒体导向系统传输)、多功能车辆总线、SMARTwireX、SPI、VAN(车辆局域网)等、或者总体上是任何通信协议和/或标准(一个或多个)。
各种协议和通信可以无线地和/或通过传输介质中的一个或多个进行通信,这些传输介质诸如单线、双绞线、光纤、IEEE 1394、MIL-STD-1553、MIL-STD-1773、电力线通信等。(所有上述标准和协议均通过援引以其全文并入本文)。
如所讨论的,通信子系统350使得在任何车辆间系统和子系统之间实现通信并且实现与非并置资源(诸如通过互联网等网络可到达的那些资源)通信。
除了众所周知的部件(为清楚起见而省略)之外,通信子系统350还包括互连元件,包括以下一个或多个:一个或多个天线504、交织器/解交织器508、模拟前端(AFE)512、存储器/存储装置/高速缓存516、控制器/微处理器520、MAC电路系统522、调制器/解调器524、编码器/解码器528、多个连接性管理器534、558、562、566、GPU 540、加速度计544、复用器/解复用器552、发射器570、接收器572、以及附加无线电部件(诸如Wi-Fi PHY/模块580、Wi-Fi/BT MAC模块584、(一个或多个)附加发射器588和(一个或多个)附加接收器592)。设备350中的各种元件通过一个或多个链路/总线5(同样为了清楚起见而未示出)进行连接。
设备350可以具有一个或多个天线504,以用于无线通信,诸如多输入多输出(MIMO)通信、多用户多输入多输出(MU-MIMO)通信LTE、4G、5G、近场通信(NFC)等,并且通常用于任何类型的无线通信。(一个或多个)天线504可以包括但不限于以下一个或多个:定向天线、全向天线、单极天线、贴片天线、环形天线、微带天线、偶极天线、以及适用于通信发射/接收的任何其他天线(一个或多个)。在示例性实施例中,使用MIMO的发射/接收可能需要特定的天线间隔。在另一示例性实施例中,MIMO发射/接收可以实现空间分集,从而允许每个天线处的不同信道特性。在又一实施例中,MIMO发射/接收可以用于将资源分配给例如在车辆100内和/或另一车辆中的多个用户。
(一个或多个)天线504通常与模拟前端(AFE)512交互,这对于实现正确处理接收到的调制信号并对发射的信号进行信号调节来说是必需的。AFE 512可以在功能上位于天线与数字基带系统之间,以便将模拟信号转换为数字信号以进行处理,反之亦然。
子系统350还可以包括控制器/微处理器520和存储器/存储装置/高速缓存516。子系统350可以与存储器/存储装置/高速缓存516交互,该存储器/存储装置/高速缓存可以存储对于配置和发射或接收本文描述的信息来说必要的信息和操作。存储器/存储装置/高速缓存516还可以与控制器/微处理器520执行应用编程或指令结合使用,并且用于程序指令和/或数据的临时或长期存储。作为示例,存储器/存储装置/高速缓存520可以包括计算机可读设备、RAM、ROM、DRAM、SDRAM和/或其他存储设备(一个或多个)和介质。
控制器/微处理器520可以包括通用可编程处理器或控制器,以用于执行与子系统350相关的应用编程或指令。此外,控制器/微处理器520可以执行用于配置和发射/接收信息的操作,如本文所述。控制器/微处理器520可以包括多个处理器核和/或实施多个虚拟处理器。可选地,控制器/微处理器520可以包括多个物理处理器。作为示例,控制器/微处理器520可以包括专门配置的专用集成电路(ASIC)或其他集成电路、数字信号处理器(一个或多个)、控制器、硬连线电子或逻辑电路、可编程逻辑设备或门阵列、专用计算机等。
子系统350可以进一步包括(一个或多个)发射器570、588和(一个或多个)接收器572、592,它们可以使用该一个或多个天线504和/或链路/总线分别向其他设备、子系统和/或其他目的地发射信号和从其接收信号。子系统350电路系统中包括介质访问控制或MAC电路系统522。MAC电路系统522提供用于控制对无线介质的访问。在示例性实施例中,MAC电路系统522可以布置为争夺无线介质并且对通过有线/无线介质传送的帧或分组进行配置。
子系统350还可以可选地包含安全模块(未示出)。此安全模块可以包含关于但不限于将设备连接到一个或多个其他设备或其他可用网络(一个或多个)所需的安全参数的信息,并且可以包括WEP或WPA/WPA-2(可选地+AES和/或TKIP)安全访问密钥、网络密钥等。WEP安全访问密钥是由Wi-Fi网络使用的安全密码。知道这个码可以使得无线设备能够与接入点和/或另一设备交换信息。信息交换可以通过编码消息进行,其中WEP访问码通常由网络管理员选择。WPA是也与网络连接结合使用的附加安全标准,其中加密比WEP更强。
在一些实施例中,通信子系统350还包括GPU 540、加速度计544、Wi-Fi/BT/BLE(低功耗)PHY模块580和Wi-Fi/BT/BLE MAC模块584、以及可选的无线发射器588和可选的无线接收器592。在一些实施例中,GPU 540可以是包括至少一个电路和/或芯片的图形处理单元或视觉处理单元,其操纵和改变存储器以加速帧缓冲器中的图像的创建以便输出到至少一个显示设备。GPU 540可以包括以下一个或多个:显示设备连接端口、印刷电路板(PCB)、GPU芯片、金属氧化物半导体场效应管(MOSFET)、存储器(例如,单倍数据速率随机存取存储器(SDRAM)、双倍数据速率随机存取存储器(DDR)RAM等、和/或其组合)、辅助处理芯片(例如,处理视频输出能力、处理和/或除GPU芯片之外的其他功能等)、电容器、散热器、温度控制或冷却风扇、母板连接、屏蔽等。
各种连接性管理器534、558、562、566管理和/或协调子系统350与本文披露的一个或多个系统以及一个或多个其他设备/系统之间的通信。连接性管理器534、558、562、566包括充电连接性管理器534、车辆数据库连接性管理器558、远程操作系统连接性管理器562、以及传感器连接性管理器566。
充电连接性管理器534不仅可以协调车辆100与充电设备/车辆之间的物理连接性,而且还可以与电力管理控制器、一个或多个第三方以及可选地计费系统(一个或多个)中的一者或多者通信。作为示例,车辆100可以与充电设备/车辆建立通信以进行以下一者或多者:协调两者间的互连性(例如,通过将车辆上的充电插座与充电车辆上的充电器空间对准),以及可选地共享导航信息。一旦完成充电,就可以跟踪所提供的充电量并且可选地将其转发给例如第三方以进行计费。除了能够管理用于交换电力的连接性之外,充电连接性管理器534还可以将诸如计费信息等信息传送给充电车辆和/或第三方。此计费信息可以是例如车辆的所有者、车辆的驾驶员/乘员(一个或多个)、公司信息、或者通常可用于针对所接收的电力向适当的实体收费的任何信息。
车辆数据库连接性管理器558允许子系统接收和/或共享存储在车辆数据库中的信息。此信息可以与其他车辆部件/子系统和/或诸如第三方和/或充电系统等其他实体共享。该信息还可以与一个或多个车辆乘员设备共享,诸如驾驶员用于跟踪关于车辆100和/或经销商或服务/维护提供商的信息的移动设备上的app(应用)。通常,存储在车辆数据库中的任何信息可以可选地与可选地受到任何隐私或机密约束的任何一个或多个其他设备共享。
远程操作系统连接性管理器562促进车辆100与任何一个或多个自动车辆系统之间的通信。这些通信可以包括以下一个或多个:导航信息、车辆信息、其他车辆信息、天气信息、乘员信息、或者通常与车辆100的远程操作有关的任何信息。
传感器连接性管理器566促进任何一个或多个车辆传感器(例如,驾驶车辆传感器和系统304等)与任何一个或多个其他车辆系统之间的通信。传感器连接性管理器566还可以促进任何一个或多个传感器和/或车辆系统与任何其他目的地(诸如服务公司、应用程序、或者通常地需要传感器数据的任何目的地)之间的通信。
根据一个示例性实施例,可以经由用于充电的导体(一个或多个)来传送本文讨论的任何通信。可用于这些通信的一个示例性协议是电力线通信(PLC)。PLC是使用电线同时携载数据以及交流电(AC)电力传输或电力分配的通信协议。它也被称为电力线载波、电力线数字订户线(PDSL)、电源通信、电力线通信、或电力线联网(PLN)。对于车辆中的DC环境,PLC可以与CAN总线、电力线上的LIN总线(DC-LIN)和DC-BUS结合使用。
通信子系统还可以可选地管理一个或多个标识符,诸如与车辆、以及其中的一个或其他系统或子系统或部件和/或设备相关联的IP(互联网协议)地址(一个或多个)。这些标识符可以与本文讨论的任何一个或多个连接性管理器结合使用。
图6示出了可以用作本文提供和描述的服务器、用户计算机或其他系统的计算环境600的框图。计算环境600包括一个或多个用户计算机或计算设备,诸如车辆计算设备604、通信设备608和/或更多设备612。这些计算设备604、608、612可以包括通用个人计算机(仅作为示例,包括运行各种版本的Microsoft Corp.'s 和/或Apple Corp.'s操作系统的个人计算机和/或膝上型计算机);和/或运行各种各样商用或类似UNIX的操作系统中的任一种操作系统的工作站计算机。这些计算设备604、608、612还可以具有各种应用中的任一种,包括例如数据库客户端和/或服务器应用以及网络浏览器应用。可替代地,这些计算设备604、608、612可以是能够经由网络352进行通信和/或显示和导航网页或其他类型的电子文档或信息的任何其他电子设备,诸如瘦客户端计算机、支持互联网的移动电话和/或个人数字助理。尽管示出了具有两个计算设备的示例性计算环境600,但可以支持任何数量的用户计算机或计算设备。
计算环境600还可以包括一个或多个服务器614、616。在这个示例中,服务器614被示为网络服务器,并且服务器616被示为应用服务器。网络服务器614可以用于处理来自计算设备604、608、612的针对网页或其他电子文档的请求。网络服务器614可以运行操作系统,包括上面讨论的那些中的任一操作系统以及任何可商购的服务器操作系统。网络服务器614还可以运行各种各样的服务器应用,包括SIP(会话发起协议)服务器、HTTP(s)服务器、FTP服务器、CGI服务器、数据库服务器、服务器等。在一些情况下,网络服务器614可以将操作可用操作发布为一个或多个网络服务。
计算环境600还可以包括一个或多个文件和/或应用服务器616,所述服务器除了操作系统之外还可以包括可由在计算设备604、608、612中的一个或多个计算设备上运行的客户端访问的一个或多个应用。(一个或多个)服务器616和/或614可以是能够响应于计算设备604、608、612而执行程序或脚本的一个或多个通用计算机。作为一个示例,服务器616、614可以执行一个或多个网络应用。网络应用可以实施为用任何编程语言编写的一个或多个脚本或程序,诸如C、/>或C++、和/或任何脚本语言,诸如Perl、Python或TCL、以及任何编程/脚本语言的组合。(一个或多个)应用服务器616还可以包括数据库服务器,包括但不限于可从/> 等商购的那些数据库服务器,这些数据块服务器可以处理来自在计算设备604、608、612上运行的数据库客户端的请求。
由服务器614和/或616创建的网页可以经由网络(文件)服务器614、616转发到计算设备604、608、612。类似地,网络服务器614可以能够从计算设备604、608、612(例如,用户计算机等)接收网页请求、网络服务调用和/或输入数据,并且可以将网页请求和/或输入数据转发到网络(应用)服务器616。在另外的实施例中,服务器616可以用作文件服务器。尽管为了便于描述,图6示出了单独的网络服务器614和文件/应用服务器616,但是本领域技术人员将认识到,关于服务器614、616描述的功能可以由单个服务器和/或多个专用服务器执行,具体取决于特定于实施方式的需求和参数。计算机系统604、608、612、网络(文件)服务器614和/或网络(应用)服务器616可以用作图1至图6中描述的系统、设备或部件。
计算环境600还可以包括数据库618。数据库618可以驻留在各种位置。作为示例,数据库618可以驻留在一个或多个计算机604、608、612、614、616的本地(和/或驻留在其中)的存储介质上。可替代地,该数据库可以远离任何或所有计算机604、608、612、614、616,并且与这些计算机中的一个或多个计算机通信(例如,经由网络352)。数据库618可以驻留在本领域技术人员熟悉的存储区域网络(“SAN”)中。类似地,用于执行归属于计算机604、608、612、614、616的功能的任何必要文件可以视情况而本地存储在相应计算机上和/或远程地存储。数据库618可以是适于响应于SQL格式的命令而存储、更新和取得数据的关系数据库,诸如Oracle
图7示出了计算机系统700的一个实施例,其上可以部署或执行上述服务器、用户计算机、计算设备或者其他系统或部件。计算机系统700被示出为包括可以经由总线704电耦合的硬件元件。硬件元件可以包括一个或多个中央处理单元(CPU)708;一个或多个输入设备712(例如,鼠标、键盘等);以及一个或多个输出设备716(例如,显示设备、打印机等)。计算机系统700还可以包括一个或多个存储设备720。作为示例,(一个或多个)存储设备720可以是磁盘驱动器、光学存储设备、诸如随机存取存储器(“RAM”)和/或只读存储器(“ROM”)的固态存储设备,它们可以是可编程的、可闪存更新的和/或类似的。
计算机系统700可以另外地包括计算机可读存储介质读取器724;通信系统728(例如,调制解调器、网卡(无线或有线)、红外通信设备等);以及工作存储器736,其可以包括如上所述的RAM和ROM设备。计算机系统700还可以包括处理加速单元732,其可以包括DSP、专用处理器和/或类似物。
计算机可读存储介质读取器724还可以连接到计算机可读存储介质,它们一起(并且可选地,结合(一个或多个)存储设备720)全面地表示远程、本地、固定和/或可移动存储设备加上用于临时和/或更永久地包含计算机可读信息的存储介质。通信系统728可以允许与上文关于本文描述的计算机环境描述的网络和/或任何其他计算机交换数据。而且,如本文所披露,术语“存储介质”可以表示用于存储数据的一个或多个设备,包括只读存储器(ROM)、随机存取存储器(RAM)、磁RAM、磁心存储器、磁盘存储介质、光学存储介质、闪速存储器设备和/或用于存储信息的其他机器可读介质。
计算机系统700还可以包括被示出为当前位于工作存储器736内的软件元件,包括操作系统740和/或其他代码744。应当理解,计算机系统700的替代实施例可以具有与上述不同的许多变型。例如,也可以使用定制硬件和/或可以在硬件、软件(包括便携式软件,诸如小应用程序)或两者中实施的特定元件。此外,可以采用到诸如网络输入/输出设备等其他计算设备的连接。
本文描述的处理器340、708的示例可以包括但不限于以下至少一个:800和801、具有4G LTE集成和64位运算的/> 620和615、具有64位架构的/>A7处理器、/>M7运动协处理器、系列、/> CoreTM系列处理器、/>系列处理器、/>AtomTM系列处理器、Intel />系列处理器、/>i5-4670K和i7-4770K22nm Haswell、/>i5-3570K 22nm Ivy Bridge、/> FXTM系列处理器、FX-4300、FX-6300和FX-8350 32nm Vishera、/> Kaveri处理器、Texas Jacinto C6000TM汽车信息娱乐处理器、Texas/> OMAPTM汽车级移动处理器、/> CortexTM-M处理器、/> Cortex-A和ARM926EJ-STM处理器、其他工业等效处理器;并且可以使用任何已知的或未来开发的标准、指令集、库、和/或架构来执行计算功能。
图8示出了根据本披露内容的方面的用于使用无源传感器和车辆100上的现有光源来执行ToF确定的框图800的一个实施例。框图800可以实施如参考图1至图7描述的车辆100的方面,或者可以由如参考图1至图7描述的车辆的方面实施。例如,框图800可以包括控制器804(例如,参考图3A和图3C描述的车辆控制系统348)、一个或多个光源808、以及一个或多个相机812(例如,参考图1和图2描述的传感器116和参考图3B描述的各种传感器,诸如光/光电传感器307、IR传感器309、相机传感器319等)。如所示的,一个或多个光源808包括第一光源808A、第二光源808B等,直至第N光源808N;并且一个或多个相机812包括第一相机812A、第二相机812B等,直至第N相机812N。
如本文所述,控制器804可以控制一个或多个光源808发射具有已知特性的输出光816,并且可以控制一个或多个相机812监测和接收与输出光816相对应的、已经从车辆100周围的周围环境中的物体820反射的任何反射光824。通过如本文所述的那样控制一个或多个光源808和一个或多个相机812,控制器804可以使用从一个或多个光源808发射的并从车辆100周围的场景反射回一个或多个相机812的光(例如,输出光816)来生成所述场景的深度数据。深度数据可以对应于相机812的一个或多个像素的深度值,其中,这些深度值基于发射的光从物体反射回相机812的像素所花费的时间而被指派给每个像素。然后,深度值可以用于生成场景的深度图像,例如,通过为每个深度值指派灰度值并生成具有所指派的灰度值的图像。
在操作中,控制器804可以控制一个或多个相机812启动定时器,或者可以响应于一个或多个光源808发射输出光816而启动控制器804本身的内部定时器。该定时器/内部定时器在一个或多个相机812检测到反射光824时停止。然后,从一个或多个光源808发射的输出光816、经由反射光824在一个或多个相机812处被接收所花费的时间量可以用于ToF计算(例如,使用如前所述的等式1和等式2)以确定物体820相对于车辆100的位置。基于确定物体820的位置,车辆可以增强自动驾驶操作(例如,以避免与物体820碰撞)和/或半自动驾驶操作或手动驾驶操作(例如,通过向车辆100的驾驶员或操作者提醒物体820与车辆100的接近度)。另外或可替代地,控制器804可以以相同或类似的方式控制车辆100内的一个或多个内部相机和一个或多个内部传感器,以执行ToF确定,用于识别车辆100内的物体。
在一些示例中,控制器804可以配置为在两种模式下操作,即,第一模式(例如,用于一个或多个光源808和一个或多个相机812的正常或制造商预期的操作)和第二模式(例如,用于使用一个或多个光源808和一个或多个相机812执行ToF确定)。例如,第一模式包括一个或多个光源808为车辆100提供第一功能以及一个或多个相机812为车辆100提供第二功能。第一功能可以包括控制器804控制一个或多个光源808使用从一个或多个光源808发射的可见波长的光对车辆100周围的场景进行照明,并且第二功能可以包括控制器804控制一个或多个相机812捕获用于场景的图像数据,其中,该图像数据用于生成场景的图像(例如,彩色图像、黑白图像等)。第一功能和第二功能可以彼此独立地进行,因为控制器804不使一个或多个光源808与一个或多个相机812同步便可提供ToF功能。以这种方式,控制器804对光源808和相机812的操作在第一模式下彼此独立地进行。
另外或可替代地,控制器804可以控制一个或多个光源808和一个或多个相机812在第二模式下一起操作以提供第三功能。第三功能可以包括基于如本文所述的ToF计算和确定来生成深度数据。在一些示例中,控制器804可以同时在第一模式和第二模式两者下操作。例如,控制器804可以在第一模式下连续操作以控制一个或多个光源808和一个或多个相机812分别提供第一功能和第二功能。相应地,控制器804也可以在第二模式下连续操作以控制一个或多个光源808和一个或多个相机812提供第三功能,或者可以在第二模式下根据期望或需要操作(例如,第二模式和第三功能响应于诸如以下各项等触发而被激活:对车辆界面的人为输入、检测到某些环境光条件、检测到某些车辆周围环境(例如,检测到高交通量区域或低交通量区域)等)。
在一些示例中,控制器804可以在针对一个或多个光源808和一个或多个相机812的第一模式和第二模式之间切换或转换,以提供相应的第一功能和第二功能或者提供第三功能。例如,车辆100可以基于触发(诸如车辆100是否在用于收集深度数据的低功率模式下操作、来自车辆100的驾驶员的指示一个或多个光源808和(一个或多个)相机812收集深度数据的输入、来自车辆100的传感器和系统的信息)在第一模式与第二模式之间切换,或基于本文未明确指示的不同触发在第一模式与第二模式之间切换。在一些示例中,低功率模式可以由车辆100的驾驶员选择或输入,或者可以由车辆100的传感器或控制器激活(例如,如果车辆100的电池功率下降到阈值以下的话)。另外或可替代地,控制器804可以基于车辆100周围环境的不同因素(例如,是否正在下雨、是白天还是夜晚、车辆100周围的交通量等)来根据第二模式进行激活或操作。控制器804也可以基于对车辆100执行的不同操作(例如,如果车辆100正在倒车,则可以引导汽车尾部的光源808和相机812执行第三功能,如果车辆100的自动驾驶被启用或正在使用,则可以引导附加光源808和相机812执行第三功能等)、针对不同光源808和相机812根据第二模式进行激活或操作。
在一些示例中,一个或多个光源808中的每个光源可以包括多个光源(例如,单个光源808内的多个LED),其中,车辆100可以改变光源808的被施加脉冲的LED数量。例如,车辆100可以以对一个或多个光源808内的一小串LED施加脉冲来启动,并且可以添加更多的LED,直到满足执行ToF计算的一个或多个条件。这种执行ToF计算的条件可以包括满足物体检测的范围、检测到物体的类型、检测到物体的反射率等。另外或可替代地,控制器804和车辆100调整被施加脉冲的LED数量的条件可以包括经由车辆100的附加传感器接收的关于车辆100周围环境的信息。例如,被施加脉冲的LED数量可以由控制器804和车辆100根据某些天气状况(例如,在诸如雨、雾、雪等恶劣天气时,可以对更多数量的LED施加脉冲)、环境照明量(例如,在环境照明量较小时,可以对更多数量的LED施加脉冲)、或其他因素进行调整。在一些示例中,控制器804可以控制光源808发射具有不同属性的光(例如,通过控制光源808内的多个光源,发射具有不同光强度的光),以基于具有不同属性的反射光824来生成深度数据。
由光源808发射的脉冲的强度可以根据传感器输出中生成的“噪声”水平来增大或减小。这种对脉冲强度和/或频率的调整可以用于在同一场景中存在反射率不同的多个物体的情形。即,光源808可以以不同的强度(例如,更强/更弱的光)和/或频率被施加脉冲,从而使得相机812能够从低反射率物体和高反射率物体两者捕获图像。低反射率图像和高反射率图像可以根据合适的图像处理技术进行叠加,以形成HDR深度图像(例如,场景的高动态范围深度图像)。在一些示例中,车辆100可以使用单个相机812来生成HDR图像,同时使用不同的光源808来提供以不同方式施加了脉冲的光以生成深度数据。
另外,控制器804可以通过将单个光源808与多个相机812相关联来构造用于生成深度数据的ToF传感器系统。例如,控制器804可以控制单个光源808和多个相机812扩大按照深度数据捕获的图像(例如,车辆100周围的场景的深度图像)的视场。相应地,多个相机812(例如,无源传感器)可以与同一光源808同步,以扩大系统的有效视场,以便车辆100可以使多个相机812感测反射的源自一个光源808的光,从而扩大可以从单个光源808捕获的视场。
在一些示例中,车辆100可以为一个或多个相机812采用可变的相机视场。即,车辆100的控制器804可以控制一个或多个光源808的辐射模式基于车辆的速度进行变化。例如,根据车辆100的速度,控制器804可以致动一个或多个光源808(例如,头灯),使得从一个或多个光源808发射的输出光816的锥形角度在更低速度下或随车辆100速度的减小而变宽,而在更高速度下或随车辆100速度的增大而变窄。这种对一个或多个光源808的致动或调整可以使得控制器804能够基于车辆100的行驶速度以更高的分辨率或更低的分辨率收集深度信息和角位置信息。另外或可替代地,车辆100可以使用小视场相机和大视场相机来检测车辆100周围的周围环境的场景的不同部分。
另外,本文所述的由控制器804、一个或多个光源808、以及一个或多个相机812执行的过程可以用于根据等式1和等式2的直接ToF计算和/或间接ToF计算(这些间接ToF计算涉及使用从一个或多个光源808发射的光的不同相位来计算与附近物体的距离)两者。在一些示例中,控制器804可以配置为执行直接ToF计算或间接ToF计算。另外或可替代地,控制器804可以基于车辆100和/或车辆100周围的场景的不同特性来在直接ToF计算与间接ToF计算之间转换。为了实现间接ToF计算,控制器804可以控制一个或多个光源808针对不同脉冲发射不同相位的输出光816。
图9示出了根据本披露内容的方面的用于执行ToF确定的光源操作900的一个实施例。光源操作900可以实施如参考图1至图8描述的车辆100的方面,或者可以由如参考图1至图8描述的车辆的方面实施。例如,光源操作900可以包括如参考图8描述的光源808。在一些示例中,光源808包括多个独立灯904,这些灯协同工作以提供从光源808发射的光。作为示例,多个独立灯904可以是LED。另外或可替代地,多个独立灯904可以是卤素灯。在这两个示例中,独立光源808可以包括多个光源(例如,具有多个独立灯904)。
在一些示例中,车辆100的控制器(例如,参考图8描述的控制器804)可以独立控制光源808的每个独立灯904。如参考图8所述,控制器可以控制光源808根据第一模式和/或第二模式来操作。如上提到的,第一模式可以被称为正常操作模式,在该模式下,光源808提供第一功能,诸如(例如,使用从光源808发射的可见光或可见波长的光)为车辆100周围的场景提供照明。相应地,控制器可以控制每个独立灯904提供该第一功能(例如,场景的照明),作为第一模式的一部分。
另外或可替代地,车辆的控制器可以控制光源808根据第二模式操作。如前所述,第二模式可以包括控制器控制光源808发射可以用于执行ToF确定和收集车辆100周围的场景的深度数据(例如,以确定从车辆100到任何附近物体的距离)的光。在一些示例中,控制器可以同时根据第一模式和第二模式操作。作为第二模式的一部分,控制器可以控制独立灯904的子集908执行第三功能,以发射具有某些特性的光(例如,与作为第一模式的一部分发射的光相比类型不同的光,诸如IR光或其他类型的非可见光),使分开的相机或传感器能够监测并接收从子集908发射的光以生成车辆100周围的场景的深度图像。参考图10更详细地描述了由相机或传感器执行以监测和接收从子集908发射的光的技术。
在一些示例中,控制器可以改变光源808的子集908中被施加脉冲的独立灯904的数量,作为本文所述的ToF确定和深度数据生成的一部分。例如,车辆100可以以对子集908内的一小串独立灯904施加脉冲来启动,并且可以添加更多的独立灯908,直到满足执行ToF确定的范围。另外或可替代地,控制器804可以控制光源808的所有独立灯904发射光以用于第二模式,其中,光源808在每种操作模式之间交替进行。在一些示例中,可以使每个光源808(例如,以及不同的光源808)中的独立灯904彼此独立地操作,并且因此可以用于独立对车辆100周围的不同区域进行照明,以用于放置在车辆100周围的不同位置上的多个无源传感器(例如,相机)。
图10示出了根据本披露内容的方面的用于执行ToF确定的传感器操作1000的一个实施例。传感器操作1000可以实施如参考图1至图9描述的车辆100的方面,或者可以由如参考图1至图9描述的车辆的方面实施。例如,传感器操作1000可以包括如参考图8描述的相机812。虽然作为相机进行讨论,但相机812通常可以被称为传感器,如参考图1至图3C所描述的。
在一些示例中,相机812包括多个单元方格1004,在本文中也被称为像素1004,其排列在相机812的像素阵列中。稍后将描述单位像素1004的细节。例如,每个单位像素1004都包括诸如光电二极管等光电转换元件、以及生成与光电转换元件中生成的电荷量相对应的电压值的像素信号的电路,在下文中被称为像素电路。而且,像素电路可以包括成像信号生成电路。每个光电转换元件可以与相应的像素电路相关联,或者多个光电转换元件可以与公共的像素电路相关联。
在这个示例中,多个单位像素1004在像素阵列中以二维晶格形状排列。多个单位像素1004可以分组为多个像素块或像素组,每个像素块或像素组包括预定数量的单位像素。在下文中,在水平方向上排列的单位像素的集合被称为“行”,而在与该行正交的方向上排列的单位像素的集合被称为“列”。
每个单位像素1004生成的电荷与在相应光电转换元件处接收的光的量相对应。相机812的像素阵列单元内的单位像素1004可以设置在一个或多个像素组1008中。例如,在图10所示的配置中,相机812的像素阵列单元由像素组1008构成,该像素组包括接收从场景重构颜色信息所需的波长分量的单位像素1004的集合。例如,在基于红、绿、蓝(RGB)三原色重构颜色的情况下,在相机812的像素阵列单元中,光学彩色滤光片材料可以根据预定的彩色滤光片阵列被沉积到像素上,以控制期望波长的光到达像素表面。特别地,接收红(R)色光的单位像素1004、接收绿(G)色光的单位像素1004、以及接收蓝(B)色光的单位像素1004根据预定的彩色滤光片阵列排列在像素组1008中。
彩色滤光片阵列配置的示例包括各种阵列或像素组,诸如2×2像素的拜耳阵列、在X-Trans(注册商标)CMOS传感器中采用的3×3像素的彩色滤光片阵列(在下文中,也被称为“X-Trans(注册商标)型阵列”)、4×4像素的四拜耳阵列(也被称为“Quadra阵列”)、以及4×4像素的彩色滤光片,其中白色RGB彩色滤光片与拜耳阵列组合(在下文中,也被称为“白色RGB阵列”)。其他可能的2×2彩色滤波片阵列配置包括:红、清、清、蓝(RCCB);红、清、清、清(RCCC);红、黄、黄、青(RYYCy);以及红、绿、蓝、IR(RGBIR)。
如所示的,在采用具有在彩色滤波片阵列中排列的单位像素1004和相关联彩色滤波片的像素组1008的情况下,单位像素1004可以配置为形成多个拜耳阵列。在采用拜耳阵列作为彩色滤波片阵列配置的情况下,在相机812的像素阵列中,包括总共四个2×2像素的单位像素1004的像素组1008的基本模式在列方向和行方向上重复排列。例如,像素组1008的基本模式由包括颜色为红色(R)的彩色滤光片的单位像素1012R、包括颜色为绿色(Gr)的彩色滤光片的单位像素1012Gr、包括颜色为绿色(Gb)的彩色滤光片的单位像素1012Gb、以及包括颜色为蓝色(B)的彩色滤光片的单位像素1012B构成。
在一些示例中,飞行时间(ToF)像素1016可以穿插或包括在相机812的像素阵列内。ToF像素1016可以作为用于检测深度的专用像素而提供。ToF像素1016可以包括用于使由光源808发射的波长的光通过以检测与物体的距离的滤光片。例如,如果一个或多个光源808能够发射红外光或近红外光,则ToF像素1016可以包括使红外光或近红外光通过而阻挡其他波长的光的滤光片。然而,示例实施例并不限于此,并且根据为确定与物体的距离而检测到的光的波长,可以使用其他滤光片(例如,白滤光片)。如可以理解的,包括ToF像素1016的像素阵列对于同时在第一模式和第二模式下操作光源808和相机812是有用的。
作为如参考图8描述的第二模式和第三功能的一部分,车辆100的控制器804可以控制相机812(例如,传感器)的像素1004中的至少一些像素进行操作,以获得关于接收到由光源(例如,如参考图8至图9描述的光源808)生成的并从车辆100周围的场景内的物体或表面反射的光的定时信息。
另外或可替代地,控制器可以控制相机812的像素1004根据如参考图8描述的第一模式和第二功能进行操作,其中,像素1004正常操作并捕获从场景中重构颜色信息所需的波长分量。相应地,控制器也可以控制相机812的一个或多个像素1004在第二模式和第三功能被实施或激活时用作ToF像素,并且ToF像素1016然后将监测并接收从光源(例如,如参考图9描述的从光源的独立灯904的子集908)发射的光,以协助ToF确定,用于收集车辆100周围的场景的深度数据。
如上所述,ToF像素1016可以感测与如参考图8描述的作为第一模式的一部分从光源发射的光(例如,可见波长的光)相比类型不同的光,诸如IR光或其他类型的非可见光。随后,控制器和/或ToF像素1016可以获得关于接收到由光源生成的并从车辆100周围的场景内的物体或表面反射的光的定时信息,其中,该定时信息用于进行ToF确定和深度数据生成(例如,ToF深度图像)。即,相机812的像素阵列内的像素1004接收从物体反射的光(例如,如参考图8描述的反射光824)。随后,控制器804根据发射光与接收光之间经过的时间来计算每个ToF像素1016的距离信息,生成其中与物体的距离由每个像素的深度值表示的深度图像并输出该深度图像。
图11是示出了根据本披露内容的实施例的车辆100的操作的方面的流程图1100。例如,车辆100的控制器(例如,如参考图8描述的控制器804)可以执行如流程图1100中所示的操作,以协助使用无源传感器(例如,汽车相机)和车辆100上的现有光源来执行ToF确定。
在操作1105中,控制器可以在第一模式下操作。在一些示例中,第一模式包括控制器控制车辆100的至少一个光源提供第一功能,并控制车辆100的至少一个相机(例如,无源传感器)提供第二功能。由至少一个光源执行的第一功能可以包括该至少一个光源使用从该光源发射的可见波长的光对车辆100周围的场景进行照明。另外,由至少一个相机执行的第二功能可以包括该至少一个相机捕获场景的图像数据,其中,该图像数据用于生成场景的彩色图像。
在一些实施例中,在操作1110中,控制器可以确定在第二模式下操作。例如,控制器可以基于车辆100在特定的车辆控制和/或操作模式下(例如,参考图1描述的不同自主性级别)被操作、车辆100执行特定的任务(例如,停车、倒车、转弯等)、或车辆100将受益于执行ToF计算和收集车辆100周围的场景的深度数据的另一触发事件,来确定在第二模式下操作。
在操作1115中,控制器可以在第二模式下操作。在一些示例中,控制器基于在操作1110中的确定开始在第二模式下操作。另外或可替代地,控制器可以连续地在第一模式和第二模式下操作。在任一情况下,控制器都能够同时在第一模式和第二模式下操作。作为第二模式的一部分,控制器可以控制至少一个光源和至少一个相机提供第三功能,其中,第一功能、第二功能和第三功能彼此不同。例如,第三功能可以包括控制器控制至少一个光源和至少一个相机使用从至少一个光源发射的并从车辆100周围的场景(例如,来自场景的物体)反射回至少一个相机的光来生成该场景的深度数据,如参考图8至图10描述的那样,其中,深度数据用于生成场景的深度图像(例如,ToF深度图像)。相应地,控制器可以向至少一个光源和至少一个相机传输信令以执行作为第二模式的一部分的第三功能。
在操作1120中,控制器可以基于在第二模式下进行操作和由至少一个光源和至少一个相机执行的第三功能来生成深度数据。例如,深度数据是基于控制器和/或相机对光从至少一个光源被发射、从场景中被反射并在至少一个相机处被接收所花费的时间进行定时来生成的。然后,该定时可以作为本文描述的ToF计算的一部分(例如,先前提供的等式1和等式2)用于生成场景的深度数据和深度图像。在一些示例中,至少一个光源包括多个光源(例如,多个LED或如参考图9描述的独立灯),控制器控制该多个光源发射具有不同属性的光,其中,深度数据包括基于反射的具有不同属性的光而生成的数据,使得深度图像可以被生成为HDR深度图像。例如,不同的属性可以对应于不同的光强度、不同的频率、不同的波长等。另外,至少一个相机可以包括多个相机,并且控制器可以控制至少一个光源和多个相机扩大深度图像的视场。
图12是示出了根据本披露内容的实施例的车辆100的操作的方面的流程图1200。例如,车辆100的控制器(例如,如参考图8描述的控制器804)可以执行如流程图1200中所示的操作,以协助使用无源传感器(例如,汽车相机)和车辆100上的现有光源来执行ToF确定。另外,流程图1200中所示的一些操作与如参考图11描述的操作相同或相似。例如,流程图1200的操作1205、1210、1215和1225可以分别对应于如参考图11描述的流程图1100的操作1105、1110、1115和1120。
在一些示例中,在操作1220处,除了参考流程图1100描述的操作之外,车辆100的控制器可以控制至少一个光源的辐射模式基于车辆的速度进行变化。例如,控制器可以控制至少一个光源的辐射模式随车辆100速度的增大(例如,或在车辆100的更高速度下)而变窄,并随车辆100速度的减小(例如,或在车辆100的更低速度下)而变宽。这种对至少一个光源的致动或调整可以使得控制器和/或至少一个相机能够基于车辆100的行驶速度以更高的分辨率收集深度信息和角位置信息(例如,作为在操作1225中生成场景的深度数据的一部分)。另外或可替代地,车辆100可以使用小视场相机和大视场相机来检测车辆100周围的场景的不同部分。
可以连续且自动地执行本文讨论的任何步骤、功能和操作。
本披露内容的示例性系统和方法已经在车辆系统和电动汽车方面进行了描述。。然而,为了避免不必要地模糊本披露内容,前面的描述省略了许多已知的结构和设备。这种省略不应被解释为对要求保护的披露内容的范围的限制。阐述了许多具体细节以提供对本披露内容的理解。然而,应当理解,本披露内容可以以超出本文阐述的具体细节的各种方式来实践。
此外,虽然本文所示的示例性实施例示出了系统的相搭配的各种部件,但是系统的某些部件可以远程地定位、定位在诸如LAN和/或互联网的分布式网络的远距离部分处、或者定位在专用系统内。因此,应当理解,该系统的部件可以组合成一个或多个设备,诸如服务器、通信设备,或并置在分布式网络的特定节点上,诸如模拟和/或数字电信网络、分组交换网络或电路交换网络。从前面的描述中将理解,并且出于计算效率的原因,系统的部件可以布置在分布式部件网络内的任何位置,而不影响系统的操作。
此外,应当理解,连接元件的各种链路可以是有线或无线链路或其任何组合、或能够将数据提供/和传送到经连接的元件并从经连接的元件提供和/或传送数据的任何其他已知或后续发展的(一个或多个)元件。这些有线或无线链路也可以是安全链路,并且可以能够传送加密信息。例如,用作链路的传输介质可以是用于电信号的任何合适的载体,包括同轴电缆、铜线和光纤,并且可以采用声波或光波的形式,诸如在无线电波和红外线数据通信期间生成的那些。
尽管已经关于特定的事件序列讨论和说明了流程图,但是应当理解,在不实质上影响所披露的实施例、配置和方面的操作的情况下,可以发生对这个序列的改变、添加和省略。
可以使用本披露内容的许多变化和修改。可以提供本披露内容的一些特征而不提供其他特征。
在又一实施例中,可以结合专用计算机、经编程的微处理器或微控制器和(一个或多个)外围集成电路元件、ASIC或其他集成电路、数字信号处理器、硬连线的电子器件或逻辑电路(诸如离散元件电路)、可编程逻辑设备或门阵列(诸如PLD、PLA、FPGA、PAL)、专用计算机、任何相当的装置等来实施本披露内容的系统和方法。通常,可以使用能够实施本文所示方法的任何(一个或多个)设备或装置来实施本披露内容的各个方面。可以用于本披露内容的示例性硬件包括计算机、手持式设备、电话(例如,蜂窝、互联网、数字、模拟、混合等),以及本领域中已知的其他硬件。这些设备中的一些设备包括处理器(例如,单个或多个微处理器)、存储器、非易失性存储装置、输入设备和输出设备。此外,还可以构造替代性软件实施方式,包括但不限于,分布式处理或部件/对象分布式处理、并行处理或虚拟机处理,以实施本文描述的方法。
在又一实施例中,所披露的方法可以容易地结合使用对象或面向对象的软件开发环境的软件来实施,该软件开发环境提供可以在各种计算机或工作站平台上使用的便携式源代码。可替代地,可以使用标准逻辑电路或VLSI设计部分地或完全地以硬件实施所披露的系统。使用软件还是硬件来实施根据本披露内容的系统取决于对系统的速度和/或效率要求、特定功能以及所使用的特定软件或硬件系统或微处理器或微计算机系统。
在又一实施例中,所披露的方法可以部分地以软件来实施,该软件可以存储在存储介质上,在与控制器和存储器合作的经编程通用计算机、专用计算机、微处理器等上执行。在这些情况下,本披露内容的系统和方法可以实施为嵌入在个人计算机上的程序(诸如小应用程序、或CGI脚本)、驻留在服务器或计算机工作站上的资源、嵌入专用测量系统、系统部件等的例程。该系统还可以通过将系统和/或方法物理地结合到软件和/或硬件系统中来实施。
尽管本披露内容参考特定标准和协议描述了在实施例中实施的部件和功能,但是本披露内容不限于这类标准和协议。本文未提及的其他类似标准和协议是存在的并且被认为包括在本披露内容中。而且,本文提及的标准和协议以及本文未提及的其他类似标准和协议定期地被具有基本相同功能的更快或更有效的等效物所取代。具有相同功能的这类替代标准和协议被认为是包括在本披露内容中的等效物。
本披露内容在各种实施例、配置和方面包括基本上如本文所描绘和描述的部件、方法、过程、系统和/或装置,包括其各种实施例、子组合以及子集。本领域技术人员在理解本披露内容之后将明白如何制造和使用本文披露的系统和方法。本披露内容在多个不同实施例、配置和方面包括在不存在本文未描绘和/或描述的事项的情况下,或在其多个不同的实施例、配置或方面包括在不存在在之前的设备或过程中可能已经使用的此类事项的情况下,提供设备和过程,例如,用于改善性能、实现方便和/或降低实施成本。
已经出于说明和描述的目的呈现了本披露内容的前述讨论。前述内容并不旨在将本披露内容限制于本文披露的一种或多种形式。在例如上述具体实施方式中,出于精简本披露内容的目的,将本披露内容的各种特征在一个或多个实施例、配置或方面中组合在一起。本披露内容的实施例、配置或方面的特征可以在除了以上讨论的那些之外的替代性实施例、配置或方面中进行组合。本披露内容的这种方法不应被解释为反映以下意图:所要求保护的本披露内容需要比在各权利要求中明确叙述的更多的特征。而是,如所附权利要求所反映的,创造性方面仰赖于少于单个前述所披露实施例、配置或方面的所有特征。因此,所附权利要求特此结合在本具体实施方式中,其中每条权利要求依赖其自身作为本披露内容的独立的优选实施例。
而且,虽然本披露内容的描述已经包括了对一个或多个实施例、配置或方面以及某些变化和修改的描述,但其他的变更、组合、以及修改也在本披露内容的范围之内,例如,正如可能在本领域的技术人员理解了本披露内容之后的技能和知识范围之内。旨在获得在允许的范围内包括替代性实施例、配置或方面的权利,包括对所要求保护的那些的替代性的、可互换的和/或等效的结构、功能、范围或步骤,而无论此类替代性的、可互换的和/或等效的结构、功能、范围或步骤是否在本文中披露,并且并非旨在公开地献出任何可获专利的主题。
实施例包括一种系统,该系统包括为车辆提供第一功能的至少一个光源、为车辆提供第二功能的至少一个相机、以及配置为在第一模式和第二模式下操作的控制器。第一模式是控制器配置为控制至少一个光源提供第一功能并控制至少一个相机提供第二功能的模式。另外或可替代地,第二模式是控制器配置为控制至少一个光源和至少一个相机为车辆提供第三功能的模式。第一功能、第二功能和第三功能彼此不同。
在上述系统的方面中,第三功能包括控制器控制至少一个光源和至少一个相机使用从至少一个光源发射的并从车辆周围的场景反射回至少一个相机的光来生成场景的深度数据,其中,该深度数据用于生成场景的深度图像。
在上述系统的方面中,第一功能包括控制器控制至少一个光源使用从光源发射的可见波长的光对场景进行照明。
在上述系统的方面中,第二功能包括控制器控制至少一个相机捕获场景的图像数据,该图像数据用于生成场景的彩色图像。
上述系统的方面包括控制器同时在第一模式和第二模式下操作。
在上述系统的方面中,至少一个光源包括多个光源,控制器控制该多个光源发射具有不同属性的光,其中,深度数据包括基于反射的具有不同属性的光而生成的数据,使得深度图像是HDR深度图像。例如,不同属性对应于不同的光强度。
在上述系统的方面中,至少一个相机包括多个相机,并且控制器控制至少一个光源和多个相机扩大深度图像的视场。
上述系统的方面包括控制器控制至少一个光源的辐射模式基于车辆的速度进行变化。例如,控制器控制至少一个光源的辐射模式随车辆速度的增大而变窄,并随车辆速度的减小而变宽。
实施例进一步包括一种设备,该设备包括配置为在第一模式和第二模式下操作的控制器。第一模式是控制器配置为控制车辆的至少一个光源为车辆提供第一功能并控制至少一个相机为车辆提供第二功能的模式。另外或可替代地,第二模式是控制器配置为控制至少一个光源和至少一个相机为车辆提供第三功能的模式。第一功能、第二功能和第三功能彼此不同。
在上述设备的方面中,第三功能包括控制器控制至少一个光源和至少一个相机使用从至少一个光源发射的并从车辆周围的场景反射回至少一个相机的光来生成场景的深度数据,其中,该深度数据用于生成场景的深度图像。
在上述设备的方面中,第一功能包括控制器控制至少一个光源使用从光源发射的可见波长的光对场景进行照明。
在上述设备的方面中,第二功能包括控制器控制至少一个相机捕获场景的图像数据,该图像数据用于生成场景的彩色图像。
上述设备的方面包括控制器同时在第一模式和第二模式下操作。
在上述设备的方面中,至少一个光源包括多个光源,控制器控制该多个光源发射具有不同属性的光,其中,深度数据包括基于反射的具有不同属性的光而生成的数据,使得深度图像是HDR深度图像。例如,不同属性对应于不同的光强度。
在上述设备的方面中,至少一个相机包括多个相机,并且控制器控制至少一个光源和多个相机扩大深度图像的视场。
上述设备的方面包括控制器控制至少一个光源的辐射模式基于车辆的速度进行变化。例如,控制器控制至少一个光源的辐射模式随车辆速度的增大而变窄,并随车辆速度的减小而变宽。
实施例包括一种车辆,该车辆包括为车辆提供第一功能的至少一个光源、为车辆提供第二功能的至少一个相机、以及配置为在第一模式和第二模式下操作的控制器。第一模式是控制器配置为控制至少一个光源提供第一功能并控制至少一个相机提供第二功能的模式。另外或可替代地,第二模式是控制器配置为控制至少一个光源和至少一个相机为车辆提供第三功能的模式。第一功能、第二功能和第三功能彼此不同。
在上述车辆的方面中,第三功能包括控制器控制至少一个光源和至少一个相机使用从至少一个光源发射的并从车辆周围的场景反射回至少一个相机的光来生成场景的深度数据,其中,该深度数据用于生成场景的深度图像。
在上述车辆的方面中,第一功能包括控制器控制至少一个光源使用从光源发射的可见波长的光对场景进行照明。
在上述车辆的方面中,第二功能包括控制器控制至少一个相机捕获场景的图像数据,该图像数据用于生成场景的彩色图像。
上述车辆的方面包括控制器同时在第一模式和第二模式下操作。
在上述车辆的方面中,至少一个光源包括多个光源,控制器控制该多个光源发射具有不同属性的光,其中,深度数据包括基于反射的具有不同属性的光而生成的数据,使得深度图像是HDR深度图像。例如,不同属性对应于不同的光强度。
在上述车辆的方面中,至少一个相机包括多个相机,并且控制器控制至少一个光源和多个相机扩大深度图像的视场。
上述车辆的方面包括控制器控制至少一个光源的辐射模式基于车辆的速度进行变化。例如,控制器控制至少一个光源的辐射模式随车辆速度的增大而变窄,并随车辆速度的减小而变宽。
如本文基本上披露的所述方面/实施例中的任一个或多个方面/实施例。
如本文基本上披露的任何一个或多个方面/实施例可选地与如本文基本上披露的任何一个或多个其他方面/实施例相组合。
如本文基本上披露的被适配为执行上述方面/实施例中的任何一个或多个方面/实施例的一种或多种装置。
短语“至少一个”、“一个或多个”、“或”和“和/或”是开放式表达,这些短语在操作中既是合取性又是析取性的。例如,表达“A、B和C中的至少一个”、“A、B或C中的至少一个”、“A、B和C中的一个或多个”、“A、B或C中的一个或多个”、“A、B和/或C”、“A、B或C”中的每个表达意指单独的A、单独的B、单独的C、A和B在一起、A和C在一起、B和C在一起、或A、B和C在一起。
术语“一”或“一个”实体指的是一个或多个该实体。这样,术语“一”(或“一个”),“一个或多个”和“至少一个”在本文中可互换使用。还应注意,术语“包括”、“包含”和“具有”可互换使用。
如本文所使用的,术语“自动”及其变型指的是在执行过程或操作时,在没有重要的人为输入的情况下完成的任何过程或操作,该过程或操作通常是连续的或半连续的。然而,如果在执行过程或操作之前接收到输入,即使过程或操作的执行使用了重要的或不重要的人为输入,过程或操作也可以是自动的。如果人为输入影响过程或操作的执行方式,则认为此类输入是重要的。不认为同意执行过程或操作的人为输入是“重要的”。
本披露内容的各方面可以采取完全是硬件的实施例、完全是软件的实施例(包括固件、常驻软件、微代码等)、或者组合了软件和硬件方面的实施例的形式,这些通常都可以在本文被称为“电路”、“模块”或“系统”。可以使用一个或多个计算机可读介质(一个或多个)的任何组合。计算机可读介质可以是计算机可读信号介质或计算机可读存储介质。
计算机可读存储介质可以是例如但不限于电子、磁、光、电磁、IR或半导体系统、装置或设备、或前述的任何合适的组合。计算机可读存储介质的更具体示例(非详尽列表)将包括以下:具有一根或多根电线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或闪存存储器)、光纤、便携式光盘只读存储器(CD-ROM)、光学存储设备、磁性存储设备或前述的任何合适组合。在本文件的上下文中,计算机可读存储介质可以是任何有形介质,其可以包含或存储程序以用于由指令执行系统、装置或设备使用或与其结合使用。
计算机可读信号介质可以包括传播的数据信号,其中计算机可读程序代码嵌入在该数据信号中,例如,在基带中或作为载波的一部分。这种传播的信号可以采用各种形式中的任何一种,包括但不限于电磁、光学或其任何合适的组合。计算机可读信号介质可以是任何计算机可读介质,其并非计算机可读存储介质并且可以传送、传播或传输程序,以用于由指令执行系统、装置或设备使用或与其结合使用。计算机可读介质上嵌入的程序代码可以使用任何适当的媒介来传输,包括但不限于无线、有线、光纤电缆、RF等、或者前述的任何合适的组合。
如本文所使用的,术语“确定”、“计算”、“推断”及其变型可互换使用,并且包括任何类型的方法、过程、数学运算或技术。
术语“电动车辆”(EV)在本文中也称为电驱动车辆,可以使用一个或多个电动马达或牵引马达来推进。电动车辆可以用来自车外来源的电力通过收集器系统被供电、或者可以自含有电池或发电机以将燃料转换成电力。电动车辆总体上包括可再充电的电力储存系统(RESS)(也称为全电动车辆(FEV))。电力储存方法可以包括:储存在车辆的车载电池(例如,电池电动车辆或BEV)中的化学能、车载动能储存装置(例如,惯性轮)、和/或静态能量(例如,通过车载双层电容器)。可再充电的车载电储存装置的形式可以有电池、双电层电容器和惯性轮能量储存装置。
术语“混合动力电动车辆”是指可以将常规(通常是化石燃料供能的)动力系与某种形式的电动推进相结合的车辆。大多数混合动力电动车辆将常规内燃机(ICE)推进系统与电动推进系统(混合动力车辆传动系)相结合。在并联式混合动力车中,ICE和电动马达都连接至机械传动装置、并且通常可以通过常规传动装置同时传递动力以驱动车轮。在串联式混合动力车中,仅电动马达驱动动力系,并且较小的ICE用作发电机以对电动马达供电或对电池再充电。动力分配式混合动力车具有串联和并联特性。完全混合动力车、有时也称为强混合动力车,是可以仅以发动机、仅以电池或以两者的组合运行的车辆。中型混合动力车是不能单独以其电动马达驱动的车辆,因为电动马达没有足够的动力来自行推进车辆。
术语“可再充电电动车辆”或“REV”是指具有车载可再充电能量储存装置的车辆,包括电动车辆和混合动力电动车辆。
Claims (15)
1.一种系统,包括:
至少一个光源,所述至少一个光源为车辆提供第一功能;
至少一个相机,所述至少一个相机为所述车辆提供第二功能;以及
控制器,所述控制器配置为在第一模式和第二模式下操作,所述第一模式是所述控制器配置为控制所述至少一个光源提供所述第一功能并控制所述至少一个相机提供所述第二功能的模式,所述第二模式是所述控制器配置为控制所述至少一个光源和所述至少一个相机为所述车辆提供第三功能的模式,其中,所述第一功能、所述第二功能和所述第三功能彼此不同。
2.如权利要求1所述的系统,其中,所述第三功能包括所述控制器控制所述至少一个光源和所述至少一个相机使用从所述至少一个光源发射的并从所述车辆周围的场景反射回所述至少一个相机的光来生成所述场景的深度数据,所述深度数据用于生成所述场景的深度图像。
3.如权利要求2所述的系统,其中,所述第一功能包括所述控制器控制所述至少一个光源使用从所述光源发射的可见波长的光对所述场景进行照明。
4.如权利要求3所述的系统,其中,所述第二功能包括所述控制器控制所述至少一个相机捕获所述场景的图像数据,所述图像数据用于生成所述场景的彩色图像。
5.如权利要求1所述的系统,其中,所述控制器同时在所述第一模式和所述第二模式下操作。
6.如权利要求2所述的系统,其中,所述至少一个光源包括多个光源,所述控制器控制所述多个光源发射具有不同的光强度的光。
7.如权利要求2所述的系统,其中,所述控制器控制所述至少一个光源的辐射模式基于所述车辆的速度进行变化。
8.如权利要求7所述的系统,其中,所述控制器控制所述至少一个光源的所述辐射模式随所述车辆速度的增大而变窄,并随所述车辆速度的减小而变宽。
9.一种设备,包括:
控制器,所述控制器配置为在第一模式和第二模式下操作,所述第一模式是所述控制器配置为执行如下操作的模式:
控制车辆的至少一个光源为所述车辆提供第一功能;以及
控制至少一个相机为所述车辆提供第二功能,
所述第二模式是所述控制器配置为执行如下操作的模式:
控制所述至少一个光源和所述至少一个相机为所述车辆提供第三功能,其中,所述第一功能、所述第二功能和所述第三功能彼此不同。
10.如权利要求9所述的设备,其中,所述第三功能包括所述控制器控制所述至少一个光源和所述至少一个相机使用从所述至少一个光源发射的并从所述车辆周围的场景反射回所述至少一个相机的光来生成所述场景的深度数据,所述深度数据用于生成所述场景的深度图像。
11.如权利要求10所述的设备,其中,所述第一功能包括所述控制器控制所述至少一个光源使用从所述光源发射的可见波长的光对所述场景进行照明。
12.如权利要求11所述的设备,其中,所述第二功能包括所述控制器控制所述至少一个相机捕获所述场景的图像数据,所述图像数据用于生成所述场景的彩色图像。
13.如权利要求11所述的设备,其中,所述控制器同时在所述第一模式和所述第二模式下操作。
14.如权利要求12所述的设备,其中,所述至少一个光源包括多个光源,所述控制器控制所述多个光源发射具有不同的光强度的光。
15.如权利要求12所述的设备,其中,所述控制器控制所述至少一个光源的辐射模式随所述车辆速度的增大而变窄,并随所述车辆速度的减小而变宽。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US17/563,810 US20230204781A1 (en) | 2021-12-28 | 2021-12-28 | Time of flight cameras using passive image sensors and existing light sources |
US17/563,810 | 2021-12-28 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116359943A true CN116359943A (zh) | 2023-06-30 |
Family
ID=84887190
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211628005.XA Pending CN116359943A (zh) | 2021-12-28 | 2022-12-16 | 使用无源图像传感器和现有光源的飞行时间相机 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20230204781A1 (zh) |
EP (1) | EP4206737A1 (zh) |
CN (1) | CN116359943A (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20230230387A1 (en) * | 2022-01-19 | 2023-07-20 | Ford Global Technologies, Llc | Assisted vehicle operation with improved object detection |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10338225B2 (en) * | 2015-12-15 | 2019-07-02 | Uber Technologies, Inc. | Dynamic LIDAR sensor controller |
US20200096639A1 (en) * | 2018-09-24 | 2020-03-26 | Lawrence Livermore National Security, Llc | System and method for adaptable lidar imaging |
CN114942454A (zh) * | 2019-03-08 | 2022-08-26 | 欧司朗股份有限公司 | 用于lidar传感器系统的光学封装以及lidar传感器系统 |
-
2021
- 2021-12-28 US US17/563,810 patent/US20230204781A1/en active Pending
-
2022
- 2022-12-16 CN CN202211628005.XA patent/CN116359943A/zh active Pending
- 2022-12-22 EP EP22215731.5A patent/EP4206737A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
EP4206737A1 (en) | 2023-07-05 |
US20230204781A1 (en) | 2023-06-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10992860B2 (en) | Dynamic seam adjustment of image overlap zones from multi-camera source images | |
US11815623B2 (en) | Single frame 4D detection using deep fusion of camera image, imaging RADAR and LiDAR point cloud | |
US10870368B2 (en) | Systems and methods of battery thermal management | |
US10031523B2 (en) | Method and system for behavioral sharing in autonomous vehicles | |
US10286915B2 (en) | Machine learning for personalized driving | |
US10845803B2 (en) | Method and apparatus for simultaneous processing and logging of automotive vision system with controls and fault monitoring | |
US9984572B1 (en) | Method and system for sharing parking space availability among autonomous vehicles | |
US10551207B2 (en) | Autonomous vehicle sensor data and map integration | |
US11668798B2 (en) | Real-time ground surface segmentation algorithm for sparse point clouds | |
US11821990B2 (en) | Scene perception using coherent doppler LiDAR | |
US10982968B2 (en) | Sensor fusion methods for augmented reality navigation | |
US10946868B2 (en) | Methods and devices for autonomous vehicle operation | |
CN110254392B (zh) | 使用灵活认证装置和方法来提供并控制访问车辆的方法 | |
US11892560B2 (en) | High precision multi-sensor extrinsic calibration via production line and mobile station | |
US11820255B2 (en) | Predictive regenerative braking | |
US11647164B2 (en) | Methods and systems for camera sharing between autonomous driving and in-vehicle infotainment electronic control units | |
US20200094687A1 (en) | Supplemental battery system | |
US11560131B2 (en) | Lane prediction and smoothing for extended motion planning horizon | |
EP4206737A1 (en) | Time of flight cameras using passive image sensors and existing light sources | |
US11571987B2 (en) | Optimization of battery pack size using swapping | |
US11257230B2 (en) | Adaptive feature map anchor pruning |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |