CN117218193A - 真实物体的虚实贴合方法、智能座舱、介质及智能汽车 - Google Patents
真实物体的虚实贴合方法、智能座舱、介质及智能汽车 Download PDFInfo
- Publication number
- CN117218193A CN117218193A CN202311142242.XA CN202311142242A CN117218193A CN 117218193 A CN117218193 A CN 117218193A CN 202311142242 A CN202311142242 A CN 202311142242A CN 117218193 A CN117218193 A CN 117218193A
- Authority
- CN
- China
- Prior art keywords
- image plane
- real
- projection
- real object
- human eye
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 46
- 230000009466 transformation Effects 0.000 claims description 25
- 238000004590 computer program Methods 0.000 claims description 8
- 238000010276 construction Methods 0.000 claims description 4
- 238000010030 laminating Methods 0.000 abstract 1
- 238000005516 engineering process Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000002372 labelling Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 239000002775 capsule Substances 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 238000003475 lamination Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 239000011435 rock Substances 0.000 description 1
- 239000004575 stone Substances 0.000 description 1
Landscapes
- Traffic Control Systems (AREA)
Abstract
本说明书公开了一种真实物体的虚实贴合方法、智能座舱、介质及智能汽车,所述方法包括:采集本车前方的真实物体,并确定所述真实物体相对于人眼坐标系呈现的真实坐标位置;基于所述真实坐标位置,确定所述真实物体在投影显示器HUD的投影像面中的像素坐标位置;其中,所述投影像面是HUD的输出图像投影到前挡风玻璃中形成的像面;所述投影像面穿过所述前挡风玻璃后形成对应的虚拟像面;基于所述真实物体的像素坐标位置构建用于辅助标示所述真实物体的辅助标示对象;输出所述辅助标示对象,以使所述辅助标示对象在所述虚拟像面中贴合所述真实物体。
Description
技术领域
本说明书涉及智能座舱技术领域,尤其涉及一种真实物体的虚实贴合方法、智能座舱、介质及智能汽车。
背景技术
在汽车行业常见的几种HUD(Head-up Display,抬头显示系统)技术中,AR(Augmented Reality,指增强现实技术)-HUD因其将虚拟现实与实际驾驶体验相结合,为驾驶员提供了更加直观、准确、多样化的驾驶信息,已经成为未来汽车行业HUD的发展方向。
在AR-HUD技术中,3D物体虚实贴合算法是其中最关键的技术之一。现有3D物体虚实贴合算法,将计算机图形学和计算机视觉技术引入了虚实配准过程,通过分析摄像图像中的已知模板和自然序列进行虚拟物体与实际物体的配准。但这种配准方式需要采用模板并依赖于人工定标,性能不够稳定。
截止目前,虚拟物体与实际物体的配准精度仍有待提高。
发明内容
本说明书提供了一种真实物体的虚实贴合方法、智能座舱、介质及智能汽车,解决或者部分解决现有3D物体虚实贴合算法的配准精度不够的技术问题。
为解决上述技术问题,本说明书的第一方面,提供了一种真实物体的虚实贴合方法,所述方法包括:
采集本车前方的真实物体,并确定所述真实物体相对于人眼坐标系呈现的真实坐标位置;
基于所述真实坐标位置,确定所述真实物体在投影显示器HUD的投影像面中的像素坐标位置;其中,所述投影像面是HUD的输出图像投影到前挡风玻璃中形成的像面;所述投影像面穿过所述前挡风玻璃后形成对应的虚拟像面;
基于所述真实物体的像素坐标位置构建用于辅助标示所述真实物体的辅助标示对象;
输出所述辅助标示对象,以使所述辅助标示对象在所述虚拟像面中贴合所述真实物体。
优选的,所述人眼坐标系以主驾驶位的人眼地面投影点为坐标原点,所述人眼坐标系的X轴方向由所述主驾驶位指向副驾驶位,所述人眼坐标系的Y轴由所述主驾驶位指向本车前方,所述人眼坐标系的Z轴为垂直向上方向;
所述确定所述真实物体相对于人眼坐标系呈现的真实坐标位置,具体包括:
根据所述真实物体的形状尺寸,确定用于表征所述真实物体的特征点集;
确定所述特征点集相对于所述人眼坐标系呈现的真实坐标位置;
其中,所述特征点集中包含一个或者多个特征点,各特征点具有对应的真实坐标位置。
优选的,所述基于所述真实坐标位置,确定所述真实物体在投影显示器HUD的投影像面中的像素坐标位置,具体包括:
针对所述特征点集中的单个特征点,得到所述单个特征点的真实坐标位置和HUD相关参数;所述HUD相关参数包括:下视角、所述虚拟像面的视场角高度、所述虚拟像面的视场角宽度、所述虚拟像面相对于人眼的距离VID、所述投影像面的像面高度、所述投影像面的像面宽度;
将所述单个特征点的真实坐标位置和HUD相关参数输入坐标变换公式中,得到所述单个特征点在所述投影像面中的像素坐标位置。
优选的,所述坐标变换公式如下:
其中,s横表示所述单个特征点在所述投影像面中的横坐标位置,s纵表示所述单个特征点在所述投影像面中的纵坐标位置,pixw表示所述投影像面的像面宽度,pixh表示所述投影像面的像面高度,x表示单个特征点的横坐标,y表示单个特征点的纵坐标,z表示所述单个特征点相对于地面的高度,h表示人眼相对于地面的高度,α表示下视角,degw表示所述虚拟像面的视场角宽度,degh表示所述虚拟像面的视场角高度。
优选的,所述基于所述真实物体的像素坐标位置构建用于辅助标示所述真实物体的辅助标示对象,具体包括:
选择性的参考所述各特征点的像素坐标位置,在HUD的输出图像中构建所述辅助标示对象。
本说明书的第二方面,提供了一种智能座舱,包括:
采集模块,用于采集本车前方的真实物体,并确定所述真实物体相对于人眼坐标系呈现的真实坐标位置;
确定模块,用于基于所述真实坐标位置,确定所述真实物体在投影显示器HUD的投影像面中的像素坐标位置;其中,所述投影像面是HUD的输出图像投影到前挡风玻璃中形成的像面;所述投影像面穿过所述前挡风玻璃后形成对应的虚拟像面;
构建模块,用于基于所述真实物体的像素坐标位置构建用于辅助标示所述真实物体的辅助标示对象;
输出模块,用于输出所述辅助标示对象,以使所述辅助标示对象在所述虚拟像面中贴合所述真实物体。
优选的,所述人眼坐标系以主驾驶位的人眼地面投影点为坐标原点,所述人眼坐标系的X轴方向由所述主驾驶位指向副驾驶位,所述人眼坐标系的Y轴由所述主驾驶位指向本车前方,所述人眼坐标系的Z轴为垂直向上方向;
所述采集模块,具体用于:
根据所述真实物体的形状尺寸,确定用于表征所述真实物体的特征点集;
确定所述特征点集相对于所述人眼坐标系呈现的真实坐标位置;
其中,所述特征点集中包含一个或者多个特征点,各特征点具有对应的真实坐标位置。
优选的,所述确定模块,具体用于:
针对所述特征点集中的单个特征点,得到所述单个特征点的真实坐标位置和HUD相关参数;所述HUD相关参数包括:下视角、所述虚拟像面的视场角高度、所述虚拟像面的视场角宽度、所述虚拟像面相对于人眼的距离VID、所述投影像面的像面高度、所述投影像面的像面宽度;
将所述单个特征点的真实坐标位置和HUD相关参数输入坐标变换公式中,得到所述单个特征点在所述投影像面中的像素坐标位置。
优选的,所述坐标变换公式如下:
其中,s横表示所述单个特征点在所述投影像面中的横坐标位置,s纵表示所述单个特征点在所述投影像面中的纵坐标位置,pixw表示所述投影像面的像面宽度,pixh表示所述投影像面的像面高度,x表示单个特征点的横坐标,y表示单个特征点的纵坐标,z表示所述单个特征点相对于地面的高度,h表示人眼相对于地面的高度,α表示下视角,degw表示所述虚拟像面的视场角宽度,degh表示所述虚拟像面的视场角高度。
优选的,所述输出模块,具体用于:选择性的参考所述各特征点的像素坐标位置,在HUD的输出图像中构建所述辅助标示对象。
本说明书的第三方面,提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述方法的步骤。
本说明书的第四方面,提供了一种智能汽车,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述方法的步骤。
通过本说明书的一个或者多个实施例,本说明书具有以下有益效果或者优点:
本说明书中的方案,利用真实物体在人眼坐标系统中的真实坐标位置,反向计算出其在HUD的投影像面中的像素坐标位置,并据此构建出用于辅助标示所述真实物体的辅助标示对象,使得构建的辅助标示对象和真实物体的像素坐标位置一致。因此,在输出辅助标示对象后,能够精准贴合真实物体。
上述说明仅是本说明书技术方案的概述,为了能够更清楚了解本说明书的技术手段,而可依照说明书的内容予以实施,并且为了让本说明书的上述和其它目的、特征和优点能够更明显易懂,以下特举本说明书的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本说明书的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1示出了根据本说明书实施例的真实物体的虚实贴合方法的流程示意图;
图2示出了根据本说明书实施例的HUD的成像示意图;
图3示出了根据本说明书实施例的虚拟像面的示意图;
图4-图5示出了根据本说明书实施例的单个特征点在虚拟像面中的映射关系图;
图6示出了根据本说明书实施例的智能座舱示意图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
图1示出了本说明书实施例提供的真实物体的虚实贴合方法的流程示意图。参看图1,本说明书实施例提供的真实物体的虚实贴合方法包括下述步骤S101~S104:
S101,采集本车前方的真实物体,并确定真实物体相对于人眼坐标系呈现的真实坐标位置。
其中,本车前方的真实物体对本车行驶具有积极作用或消极作用的相关物体。例如对本车行驶具有积极指示作用的车道划线、行车指示牌;本车行驶时遭遇极端天气产生的具有阻碍作用的塌方、落石;对本车行驶具有限制作用的前方行驶车辆;均为现实世界中的真实物体。
在人眼坐标系中,以主驾驶位的人眼地面投影点为坐标原点,人眼坐标系的X轴方向由主驾驶位指向副驾驶位,人眼坐标系的Y轴由主驾驶位指向本车前方,人眼坐标系的Z轴为垂直向上方向。人眼坐标系和摄像坐标系三轴方向相同,因车载摄像头和驾驶员人眼位置区别导致原点位置不同,故两个坐标系可通过坐标平移进行换算。
本车利用车载摄像头采集前方的真实物体。众所周知,车载摄像头以本车的摄像坐标系为参考,而真实物体以世界坐标系为参考。因此,将真实物体从世界坐标系中进行坐标系转换、坐标平移的相关操作,得到真实物体相对于人眼坐标系的真实坐标位置。
在一种可选的实施方式中,考虑到不同真实物体的形状尺寸偏差,真实物体具有对应的特征点集,特征点集中包含一个或者多个特征点,特征点个数取决于真实物体的形状尺寸,各特征点具有对应的真实坐标位置。举例来说,前方行驶车辆的后引擎盖具有四个特征点,分散在后引擎盖的四个角落;车道划线具有两个特征点,位于划线两端;若真实物体为道路中央的小块落石,仅有一个特征点。在确定真实物体相对于人眼坐标系呈现的真实坐标位置的过程中,根据真实物体的形状尺寸,确定用于表征真实物体的特征点集;确定特征点集相对于人眼坐标系呈现的真实坐标位置。
S102,基于真实坐标位置,确定真实物体在投影显示器HUD的投影像面中的像素坐标位置。
参看图2,是HUD的成像示意图。HUD的输出图像投射到本车的前挡风玻璃上形成投影像面,投影像面具有宽度pixw、高度pixh。前挡风玻璃可以是楔形玻璃,具有一定曲率、厚度。投影像面穿过前挡风玻璃后,在较远处形成对应的虚拟像面。参看图2-图3,是虚拟像面的示意图。虚拟像面具有宽度、高度、视场角范围、下视角(图2中示出)、虚拟像面相对于人眼的距离VID(图2中示出)。视场角范围包含水平视场角H-FOV、垂直视场角V-FOV。水平视场角H-FOV和虚拟像面的视场角宽度degw对应,垂直视场角V-FOV和虚拟像面的视场角高度degh对应。下视角也称俯视角,是虚拟像面中的水平视场角H-FOV与水平方向的夹角,也可以看做是人眼看向虚拟像面水平视场角H-FOV时和水平方向形成的夹角。
因特征点集中包含一个或者多个特征点,故针对特征点集中的单个特征点,得到所述单个特征点的真实坐标位置和HUD相关参数。
HUD相关参数包括:下视角α、虚拟像面的视场角高度degh、虚拟像面的视场角宽度degw、虚拟像面相对于人眼的距离VID、投影像面的像面高度pixh、投影像面的像面宽度pixw。
将所述单个特征点的真实坐标位置和HUD相关参数输入坐标变换公式中,得到所述单个特征点在所述投影像面中的像素坐标位置。
进一步的,坐标变换公式如下:
其中,s横表示单个特征点在投影像面中的横坐标位置,s纵表示单个特征点在投影像面中的纵坐标位置,pixw表示投影像面的像面宽度,pixh表示投影像面的像面高度,x表示单个特征点的横坐标,y表示单个特征点的纵坐标,z表示单个特征点相对于地面的高度,h表示人眼相对于地面的高度,α表示下视角,degw表示虚拟像面的视场角宽度,degh表示虚拟像面的视场角高度。
将本车前方任意真实物体的真实坐标位置、HUD的相关参数输入到本说明书提供的坐标变换公式,即可得到真实物体在投影像面中的像素坐标位置,方便快捷。
为了便于理解,下面的示例利用单个特征点介绍坐标变换公式的变换原理。值得注意的是,本示例的单个特征点等同于单个特征点。
参看图4-图5,是单个特征点在虚拟像面中的映射关系图。
其中,在用户的相关参数中:E代表人眼,G代表人眼地面投影点,h代表人眼相对于地面的高度,EG=h。
HUD相关参数包括:下视角α、虚拟像面的视场角高度degh、虚拟像面的视场角宽度degw、虚拟像面相对于人眼的距离VID、投影像面的像面高度pixh、投影像面的像面宽度pixw。
在虚拟像面中,R、T分别代表虚拟像面的左边缘和右边缘,RT形成虚拟像面的水平轴线(图5示意出了水平轴线RT,其和虚拟像面的水平中轴线等长),Q、P分别代表虚拟像面的上边缘和下边缘,PQ形成虚拟像面的垂直中轴线,O代表虚拟像面的像素中心点,RT、PQ相交于O。由于测量条件限制,确定像素中心点O在地面投影点与人眼地面投影点G的距离d0,用以代表人眼E相对于虚拟像面的距离。值得注意的是,人眼E看向虚拟像面的像素中心点O的视线EO垂直于虚拟像面,并和水平线M构成下视角α。
单个特征点的相关参数有:A代表单个特征点,其真实坐标位置为(x,y,z),均为已知量。其中,x代表其与参考平面10的距离为x,y代表其与人眼地面投影点G的距离,z代表其相对于地面的高度,其和人眼E在虚拟像面中的视线交点为S。为了简化示意图4,图4中的A相对于地面的高度为z=0。
参看图4,坐标变换公式的处理逻辑如下:
步骤41,构建参考平面10。其中,参考平面10由人眼E、人眼地面投影点G和地面参考交点B三者形成,地面参考交点B由视线EO延长至地面后形成。
步骤42,确定单个特征点A在参考平面10中的投影点A',并确定投影点A'和人眼地面投影点G之间的距离。
其中,单个特征点A、人眼E和人眼地面投影点G形成真实平面11,在真实平面11中,EG⊥GA。因本车行驶过程中遇到的单个特征点A是随机的,其位置不一定相交在虚拟像面的垂直中轴线或水平中轴线上,故需要确定单个特征点A所在的真实平面11在参考平面10中投影形成的投影平面12,以便于求出单个特征点A在投影像面中的纵坐标位置。
投影平面12和参考平面10为同一平面,投影平面12属于参考平面10的一部分。在投影平面12中,具有单个特征点A的投影点A',视线交点S的视线交点投影点S',视线交点投影点S'同时也是投影点A'与人眼E在虚拟像面中的视线交点。视线交点投影点S'位于虚拟像面的垂直中轴线上,P、O、S'、Q位于一条直线上,在投影平面12中,EG⊥GA'。真实平面11和投影平面12的投影角度为β,可测量得到。
具体的,根据单个特征点A的真实坐标位置确定投影点A'的投影坐标位置。具体为:(0,y,z),投影点A'和人眼地面投影点G之间的距离实际也是投影点A'的纵坐标y。
值得注意的是,若单个特征点A和人眼E在虚拟像面中的视线交点处于垂直中轴线上,则单个特征点A和其投影点A'实际为同一点,无需确定投影面。
步骤43,利用投影点A'和人眼地面投影点G之间的距离y、人眼高度h、人眼E相对于虚拟像面的距离d0,结合投影点A'在投影平面12内和下视角α的角度变换关系,确定出视线交点投影点S'和成像中心点O之间的第一距离OS'。
其中,利用人眼E相对于虚拟像面的距离d0计算虚像距离
投影点A'在投影平面12内和下视角的角度变换关系有:
∠GA'E=∠MEA',
∠OES'=∠MEA'-α,
两合并后得到:∠OES'=∠GA'E-α;
而利用距离y和人眼高度h得到:则进一步可得:
△OES'中的三角函数关系有:变换后可得:
步骤44,确定成像中心点O和下边缘P的第二距离OP。
具体的,利用△OEP中的三角函数关系变换可得:
步骤45,基于第一距离OS'和第二距离OP,结合虚拟像面和投影像面的比例关系:OP/OS'=op/os1',拟合出单个特征点A在投影像面中的纵坐标。
具体的,o代表投影像面的像面中心点,p代表投影像面的下边缘,op代表影像面的像面中心点o和其下边缘p的距离。为便于区分,单个特征点A的视线交点投影点S'转换在投影像面后形成点s1',os1'代表单个特征点A的视线交点投影点S'转换在投影像面后形成的点s1'与像面中心点o的距离。
由于投影像面是以左上角为坐标原点,故单个特征点A在投影像面中的纵坐标为:
在实际应用中,将单个特征点A相对于地面的高度z考虑其中,则:
值得注意的是,若单个特征点A和人眼E在虚拟像面中的视线交点处于垂直中轴线上,则单个特征点A和其投影点A'实际为同一点,无需确定投影面也可求出单个特征点A在投影像面中的纵坐标。
参看图5,在图4的基础上示意出了和视线交点投影点S'的等高的水平轴线RT。
步骤51,构建参考平面10。其中,参考平面10由人眼E、人眼地面投影点G和地面参考交点B三者形成,地面参考交点B由视线EO延长至地面后形成。
步骤52,确定单个特征点A在参考平面10中的投影点A',确定出投影点A'和人眼地面投影点G之间的距离,单个特征点A和投影点A'的距离,以及人眼E和视线交点投影点S'的距离ES'。
其中,单个特征点A、人眼E和人眼地面投影点G形成真实平面11,在真实平面11中,EG⊥GA。因本车行驶过程中遇到的单个特征点A是随机的,其位置不一定相交在虚拟像面的垂直中轴线或水平中轴线上,故需要确定单个特征点A所在的真实平面11在参考平面10中投影形成的投影平面12,以便于求出单个特征点A在投影像面中的横坐标位置。
投影平面12和参考平面10为同一平面,投影平面12属于参考平面10的一部分。在投影平面12中,具有单个特征点A的投影点A',视线交点S的视线交点投影点S',AA'⊥EA',因此SS'⊥ES'。视线交点投影点S'同时也是投影点A'与人眼E在虚拟像面中的视线交点。人眼E和视线交点投影点S'的距离ES'可测量得到。视线交点投影点S'位于虚拟像面的垂直中轴线上,P、O、S'、Q位于一条直线上,EG⊥GA'。图4示意出了和视线交点投影点S'的等高的水平轴线RT,R、S、S'、T位于一条直线上。
根据单个特征点A的真实坐标位置确定投影点A'的投影坐标位置。具体为:(0,y,z),投影点A'和人眼地面投影点G之间的距离实际也是投影点A'的纵坐标y。单个特征点A和投影点A'的距离实际也是单个特征点A的横坐标,为x。
人眼E和视线交点投影点S'的距离ES'可测量得到。
值得注意的是,若单个特征点A和人眼E在虚拟像面中的视线交点处于垂直中轴线上,则单个特征点A和其投影点A'实际为同一点,单个特征点A的横坐标为视场角宽度中心,参考结合虚拟像面和投影像面的比例关系即可确定出单个特征点A在投影像面中的横坐标。
步骤53,利用投影点A'和人眼地面投影点G之间的距离y、单个特征点A与投影点A'的距离x、人眼高度h、人眼E和视线交点投影点S'的距离ES',结合单个特征点A和投影平面12的角度变换关系,确定出视线交点S和视线交点投影点S'之间的第三距离SS'。
需要说明的是,由于投影点A'是单个特征点A投射在参考平面10中的点,因此计算出人眼E和投影点A'的距离结合单个特征点A与投影点A'的距离x,即可得到由于/>两者合并即可得到:/>
步骤54,确定视线交点投影点S'和左边缘R点的第四距离S'R。
具体的,利用△RES'中的三角函数关系变换可得:
步骤55,结合虚拟像面和投影像面的比例关系:SS'/S'R=s1's1/s1'r,拟合出单个特征点A在投影像面中的横坐标。
其中,r表示投影像面的左边缘,s1'r表示投影像面的一半宽度,单个特征点A的视线交点S转换在投影像面后形成点s1,s1's1代表视线交点S与视线交点投影点S'转换在投影像面后形成的距离。
由于投影像面是以左上角为坐标原点,故单个特征点A在投影像面中的横坐标为:
在实际应用中,需将单个特征点A相对于地面的高度z考虑其中,则:
以上是坐标变换公式处理单个特征点的变换原理。
在实际应用中,可利用一参考物体和虚拟像面的真实位置关系,以及投影像面和虚拟像面的实际比例关系为基础,事先构建能够表征参考物体和投影像面的坐标位置关系的坐标变换公式,再利用该公式对真实物体的各特征点进行坐标转换。
本说明书的方案不用依赖模板,也无需对自然序列进行人工定标,操作简单方便。在实际使用时,只需测量出真实物体的真实坐标位置,结合已知的HUD相关参数,即可准确定位出其对应的辅助标示对象的位置。
S103,基于真实物体的像素坐标位置构建用于辅助标示真实物体的辅助标示对象。
其中,辅助标示对象在HUD中构建。辅助标示对象用于辅助表示真实物体,其性状、尺寸和真实物体适应。例如,若真实物体为车道线,辅助标示对象为车道线对应的线段。若真实物体为前方行驶车辆的后引擎盖,则辅助标示对象为不规则的四边形,四个顶点分别位于后引擎盖的四个角落。
由于真实物体对应一个或者多个特征点,故在本实施例中,选择性的参考各特征点的像素坐标位置,在HUD的输出图像中构建辅助标示对象。具体的,选择全部特征点或部分特征点构建辅助标示对象。以车道线为例,可选择车道线两端的特征点,构建用于表征车道线的标示对象,从而加强车道线的视觉效果。
S104,输出辅助标示对象,以使辅助标示对象在虚拟像面中贴合真实物体。
HUD在构建辅助标示对象后,可结合HUD输出图像中包含的其他待显示对象,例如时间、当前车速、天气、仪表盘数据等等一并输出并显示在虚拟像面中。
需要说明的是,依据本说明书实施例提供的应用于AR-HUD技术中的真实物体的虚实贴合方法,真实物体与虚拟物体的配准过程会与现有的3D物体虚实贴合算法的配准过程存在差异。
其中,传统的3D物体虚实贴合算法的配准过程是:将计算机图形学和计算机视觉技术引入了虚实配准过程,通过分析摄像图像中的已知模板和自然序列进行虚拟物体与实际物体的配准。需要用到模板以及需要对自然序列进行人工定标。
本说明书实施例提供的真实物体的虚实贴合方法,利用真实物体在人眼坐标系统中的真实坐标位置,反向计算出其在HUD的投影像面中的像素坐标位置,并据此构建出用于辅助标示真实物体的辅助标示对象,使得构建的辅助标示对象和真实物体的像素坐标位置一致。因此,在输出辅助标示对象后,能够精准贴合真实物体。本方案无需再用到模板以及无需对自然序列进行人工定标即可使辅助标示对象准确贴合真实物体。
基于相同的发明构思,下面的实施例介绍了一种智能座舱,参看图6,包括:
采集模块601,用于采集本车前方的真实物体,并确定所述真实物体相对于人眼坐标系呈现的真实坐标位置;
确定模块602,用于基于所述真实坐标位置,确定所述真实物体在投影显示器HUD的投影像面中的像素坐标位置;其中,所述投影像面是HUD的输出图像投影到前挡风玻璃中形成的像面;所述投影像面穿过所述前挡风玻璃后形成对应的虚拟像面;
构建模块603,用于基于所述真实物体的像素坐标位置构建用于辅助标示所述真实物体的辅助标示对象;
输出模块604,用于输出所述辅助标示对象,以使所述辅助标示对象在所述虚拟像面中贴合所述真实物体。
在一种可选的实施方式中,所述人眼坐标系以主驾驶位的人眼地面投影点为坐标原点,所述人眼坐标系的X轴方向由所述主驾驶位指向副驾驶位,所述人眼坐标系的Y轴由所述主驾驶位指向本车前方,所述人眼坐标系的Z轴为垂直向上方向;
所述采集模块601,具体用于:
根据所述真实物体的形状尺寸,确定用于表征所述真实物体的特征点集;
确定所述特征点集相对于所述人眼坐标系呈现的真实坐标位置;
其中,所述特征点集中包含一个或者多个特征点,各特征点具有对应的真实坐标位置。
在一种可选的实施方式中,所述确定模块602,具体用于:
针对所述特征点集中的单个特征点,得到所述单个特征点的真实坐标位置和HUD相关参数;所述HUD相关参数包括:下视角、所述虚拟像面的视场角高度、所述虚拟像面的视场角宽度、所述虚拟像面相对于人眼的距离VID、所述投影像面的像面高度、所述投影像面的像面宽度;
将所述单个特征点的真实坐标位置和HUD相关参数输入坐标变换公式中,得到所述单个特征点在所述投影像面中的像素坐标位置。
在一种可选的实施方式中,所述坐标变换公式如下:
其中,s横表示所述单个特征点在所述投影像面中的横坐标位置,s纵表示所述单个特征点在所述投影像面中的纵坐标位置,pixw表示所述投影像面的像面宽度,pixh表示所述投影像面的像面高度,x表示单个特征点的横坐标,y表示单个特征点的纵坐标,z表示所述单个特征点相对于地面的高度,h表示人眼相对于地面的高度,α表示下视角,degw表示所述虚拟像面的视场角宽度,degh表示所述虚拟像面的视场角高度。
在一种可选的实施方式中,所述输出模块输出模块,具体用于:选择性的参考所述各特征点的像素坐标位置,在HUD的输出图像中构建所述辅助标示对象。
基于与前述实施例中同样的发明构思,本说明书实施例还提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现前文任一所述方法的步骤。
基于与前述实施例中同样的发明构思,本说明书的实施例还提供一种智能汽车,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现前文任一所述方法的步骤。
在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述,构造这类系统所要求的结构是显而易见的。此外,本说明书也不针对任何特定编程语言。应当明白,可以利用各种编程语言实现在此描述的本说明书的内容,并且上面对特定语言所做的描述是为了披露本说明书的较佳实施方式。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本说明书的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本公开并帮助理解各个发明方面中的一个或多个,在上面对本说明书的示例性实施例的描述中,本说明书的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释成反映如下意图:即所要求保护的本说明书要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如下面的权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本说明书的单独实施例。
本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本说明书的范围之内并且形成不同的实施例。例如,在下面的权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本说明书的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本说明书实施例的网关、代理服务器、系统中的一些或者全部部件的一些或者全部功能。本说明书还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如,计算机程序和计算机程序产品)。这样的实现本说明书的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本说明书进行说明而不是对本说明书进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本说明书可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
Claims (8)
1.一种真实物体的虚实贴合方法,所述方法包括:
采集本车前方的真实物体,并确定所述真实物体相对于人眼坐标系呈现的真实坐标位置;
基于所述真实坐标位置,确定所述真实物体在投影显示器HUD的投影像面中的像素坐标位置;其中,所述投影像面是HUD的输出图像投影到前挡风玻璃中形成的像面;所述投影像面穿过所述前挡风玻璃后形成对应的虚拟像面;
基于所述真实物体的像素坐标位置构建用于辅助标示所述真实物体的辅助标示对象;
输出所述辅助标示对象,以使所述辅助标示对象在所述虚拟像面中贴合所述真实物体。
2.如权利要求1所述的方法,所述人眼坐标系以主驾驶位的人眼地面投影点为坐标原点,所述人眼坐标系的X轴方向由所述主驾驶位指向副驾驶位,所述人眼坐标系的Y轴由所述主驾驶位指向本车前方,所述人眼坐标系的Z轴为垂直向上方向;
所述确定所述真实物体相对于人眼坐标系呈现的真实坐标位置,具体包括:
根据所述真实物体的形状尺寸,确定用于表征所述真实物体的特征点集;
确定所述特征点集相对于所述人眼坐标系呈现的真实坐标位置;
其中,所述特征点集中包含一个或者多个特征点,各特征点具有对应的真实坐标位置。
3.如权利要求2所述的方法,所述基于所述真实坐标位置,确定所述真实物体在投影显示器HUD的投影像面中的像素坐标位置,具体包括:
针对所述特征点集中的单个特征点,得到所述单个特征点的真实坐标位置和HUD相关参数;所述HUD相关参数包括:下视角、所述虚拟像面的视场角高度、所述虚拟像面的视场角宽度、所述虚拟像面相对于人眼的距离VID、所述投影像面的像面高度、所述投影像面的像面宽度;
将所述单个特征点的真实坐标位置和HUD相关参数输入坐标变换公式中,得到所述单个特征点在所述投影像面中的像素坐标位置。
4.如权利要求3所述的方法,所述坐标变换公式如下:
其中,s横表示所述单个特征点在所述投影像面中的横坐标位置,s纵表示所述单个特征点在所述投影像面中的纵坐标位置,pixw表示所述投影像面的像面宽度,pixh表示所述投影像面的像面高度,x表示单个特征点的横坐标,y表示单个特征点的纵坐标,z表示所述单个特征点相对于地面的高度,h表示人眼相对于地面的高度,α表示下视角,degw表示所述虚拟像面的视场角宽度,degh表示所述虚拟像面的视场角高度。
5.如权利要求2-4任一权项所述的方法,所述基于所述真实物体的像素坐标位置构建用于辅助标示所述真实物体的辅助标示对象,具体包括:
选择性的参考所述各特征点的像素坐标位置,在HUD的输出图像中构建所述辅助标示对象。
6.一种智能座舱,包括:
采集模块,用于采集本车前方的真实物体,并确定所述真实物体相对于人眼坐标系呈现的真实坐标位置;
确定模块,用于基于所述真实坐标位置,确定所述真实物体在投影显示器HUD的投影像面中的像素坐标位置;其中,所述投影像面是HUD的输出图像投影到前挡风玻璃中形成的像面;所述投影像面穿过所述前挡风玻璃后形成对应的虚拟像面;
构建模块,用于基于所述真实物体的像素坐标位置构建用于辅助标示所述真实物体的辅助标示对象;
输出模块,用于输出所述辅助标示对象,以使所述辅助标示对象在所述虚拟像面中贴合所述真实物体。
7.一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现权利要求1-5中任一项所述方法的步骤。
8.一种智能汽车,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现权利要求1-5任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311142242.XA CN117218193A (zh) | 2023-09-05 | 2023-09-05 | 真实物体的虚实贴合方法、智能座舱、介质及智能汽车 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311142242.XA CN117218193A (zh) | 2023-09-05 | 2023-09-05 | 真实物体的虚实贴合方法、智能座舱、介质及智能汽车 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117218193A true CN117218193A (zh) | 2023-12-12 |
Family
ID=89041781
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311142242.XA Pending CN117218193A (zh) | 2023-09-05 | 2023-09-05 | 真实物体的虚实贴合方法、智能座舱、介质及智能汽车 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117218193A (zh) |
-
2023
- 2023-09-05 CN CN202311142242.XA patent/CN117218193A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109961522B (zh) | 图像投射方法、装置、设备和存储介质 | |
US6956503B2 (en) | Image display apparatus, image display method, measurement apparatus, measurement method, information processing method, information processing apparatus, and identification method | |
CN111024099B (zh) | 用于导航的移动装置、非暂时性机器可读介质和设备 | |
RU2677999C1 (ru) | Устройство отображения транспортного средства | |
US20120224060A1 (en) | Reducing Driver Distraction Using a Heads-Up Display | |
CN109461211A (zh) | 基于视觉点云的语义矢量地图构建方法、装置和电子设备 | |
EP4213068A1 (en) | Target detection method and apparatus based on monocular image | |
RU2677122C1 (ru) | Устройство отображения транспортного средства | |
CN110119698A (zh) | 用于确定对象状态的方法、装置、设备和存储介质 | |
EP3811326B1 (en) | Heads up display (hud) content control system and methodologies | |
CN110779541B (zh) | 一种转向箭头的显示方法及系统 | |
CN111753605A (zh) | 车道线定位方法、装置、电子设备及可读介质 | |
US20220326028A1 (en) | Method and system of vehicle driving assistance | |
US8344911B1 (en) | System, module, and method for generating non-linearly spaced graduations for a symbolic linear scale | |
CN112819711A (zh) | 一种基于单目视觉的利用道路车道线的车辆反向定位方法 | |
CN111145260B (zh) | 一种基于车载的双目标定方法 | |
CN111145262B (zh) | 一种基于车载的单目标定方法 | |
US9846819B2 (en) | Map image display device, navigation device, and map image display method | |
JP3005682B1 (ja) | 滑走路画像を用いた位置・姿勢の割出し方法およびその装置 | |
CN117218193A (zh) | 真实物体的虚实贴合方法、智能座舱、介质及智能汽车 | |
CN111457936A (zh) | 辅助驾驶方法、辅助驾驶系统、计算设备及存储介质 | |
CN114266876A (zh) | 定位方法、视觉地图的生成方法及其装置 | |
CN114901506A (zh) | 用于通过抬头显示器显示系统来显示对象的方法以及抬头显示器显示系统 | |
CN115097632B (zh) | 一种ar-hud转向辅助显示方法及系统 | |
CN117162777B (zh) | 内容呈现方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |