CN112738487B - 图像投射方法、装置、设备及存储介质 - Google Patents

图像投射方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN112738487B
CN112738487B CN202011554180.XA CN202011554180A CN112738487B CN 112738487 B CN112738487 B CN 112738487B CN 202011554180 A CN202011554180 A CN 202011554180A CN 112738487 B CN112738487 B CN 112738487B
Authority
CN
China
Prior art keywords
image
camera
coordinate
acquiring
relative transformation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011554180.XA
Other languages
English (en)
Other versions
CN112738487A (zh
Inventor
邓苏南
李映辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Apollo Zhilian Beijing Technology Co Ltd
Original Assignee
Apollo Zhilian Beijing Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Apollo Zhilian Beijing Technology Co Ltd filed Critical Apollo Zhilian Beijing Technology Co Ltd
Priority to CN202011554180.XA priority Critical patent/CN112738487B/zh
Publication of CN112738487A publication Critical patent/CN112738487A/zh
Priority to KR1020210078922A priority patent/KR102555820B1/ko
Priority to EP21180273.1A priority patent/EP3889908A3/en
Priority to US17/352,858 priority patent/US11715238B2/en
Priority to JP2021106266A priority patent/JP7222031B2/ja
Application granted granted Critical
Publication of CN112738487B publication Critical patent/CN112738487B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/12—Picture reproducers
    • H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3141—Constructional details thereof
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • G06T7/85—Stereo camera calibration
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00—Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/02—Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof
    • B60R11/0229—Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof for displays, e.g. cathodic tubes
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601—Interfaces specially adapted for storage systems
    • G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/0671—In-line storage system
    • G06F3/0673—Single storage device
    • G06F3/0674—Disk device
    • G06F3/0677—Optical disk device, e.g. CD-ROM, DVD
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30—Image reproducers
    • H04N13/332—Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30—Image reproducers
    • H04N13/363—Image reproducers using image projection screens
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30—Image reproducers
    • H04N13/366—Image reproducers using viewer tracking
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/12—Picture reproducers
    • H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179—Video signal processing therefor
    • H04N9/3185—Geometric adjustment, e.g. keystone or convergence
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/12—Picture reproducers
    • H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191—Testing thereof
    • H04N9/3194—Testing thereof including sensor feedback
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00—Arrangements for holding or mounting articles, not otherwise provided for
    • B60R2011/0001—Arrangements for holding or mounting articles, not otherwise provided for characterised by position
    • B60R2011/0003—Arrangements for holding or mounting articles, not otherwise provided for characterised by position inside the vehicle
    • B60R2011/0026—Windows, e.g. windscreen
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B2027/0192—Supplementary details
    • G02B2027/0196—Supplementary details having transparent supporting structure for display mounting, e.g. to a window or a windshield

Abstract

本申请公开了一种图像投射方法、装置、设备及存储介质，涉及智能交通领域。具体实现方案为：获取待标定区域在车辆上的AR摄像头的相机坐标系下的第一相机坐标，待标定区域位于AR摄像头的拍摄范围内；获取AR摄像头的第一外参矩阵和车辆上的抬头显示器的第二外参矩阵之间的相对变换关系；根据第一相机坐标和相对变换关系，确定待标定区域对应的投射符号在抬头显示器的坐标系下的第二相机坐标；根据第二相机坐标，控制抬头显示器投射图像，图像中包括投射符号。无需人工手动调整参数并多次尝试就能够实现图像投射后投射符号和待标定区域的实景叠加，操作简便，效率较高。

Description

图像投射方法、装置、设备及存储介质
技术领域
本申请涉及数据处理中的智能交通领域，尤其涉及一种图像投射方法、装置、设备及存储介质。
背景技术
抬头显示器(Head Up Display，简称HUD)是一种将车辆的关键信息投射到车辆的挡风玻璃上，使得驾驶员无需低头就能获知这些关键信息的一种技术，而增强现实(Augmented Reality，简称AR)HUD则是在投射的基础上，需要将投射的内容与实景进行叠加的一种实现方式。
在进行ARHUD投射时，由于要实现投射的内容与实景进行叠加，因此图像需要在投射到挡风玻璃的对应位置。目前的ARHUD的实现方案是，人坐在驾驶位上，通过AR图像投射，然后根据投射的图像的位置调整相关的参数，手工不断尝试和调整，实现投射的图像与实景的叠加。
上述方案通过人工不断调整和尝试，操作复杂，效率较低。
发明内容
本申请提供了一种图像投射方法、装置、设备及存储介质。
根据本申请的第一方面，提供了一种图像投射方法，包括：
获取待标定区域在车辆上的AR摄像头的相机坐标系下的第一相机坐标，所述待标定区域位于所述AR摄像头的拍摄范围内；
获取所述AR摄像头的第一外参矩阵和所述车辆上的抬头显示器的第二外参矩阵之间的相对变换关系；
根据所述第一相机坐标和所述相对变换关系，确定所述待标定区域对应的投射符号在所述抬头显示器的坐标系下的第二相机坐标；
根据所述第二相机坐标，控制所述抬头显示器投射图像，所述图像中包括所述投射符号。
根据本申请的第二方面，提供了一种图像投射装置，包括：
第一获取模块，用于获取待标定区域在车辆上的AR摄像头的相机坐标系下的第一相机坐标，所述待标定区域位于所述AR摄像头的拍摄范围内；
第二获取模块，用于获取所述AR摄像头的第一外参矩阵和所述车辆上的抬头显示器的第二外参矩阵之间的相对变换关系；
确定模块，用于根据所述第一相机坐标和所述相对变换关系，确定所述待标定区域对应的投射符号在所述抬头显示器的坐标系下的第二相机坐标；
处理模块，用于根据所述第二相机坐标，控制所述抬头显示器投射图像，所述图像中包括所述投射符号。
根据本申请的第三方面，提供了一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行第一方面中任一项所述的方法。
根据本申请的第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行第一方面中任一项所述的方法。
根据本申请的第五方面，提供了一种计算机程序产品，所述程序产品包括：计算机程序，所述计算机程序存储在可读存储介质中，电子设备的至少一个处理器可以从所述可读存储介质读取所述计算机程序，所述至少一个处理器执行所述计算机程序使得电子设备执行第一方面所述的方法。
本申请实施例提供的图像投射方法、装置、设备及存储介质，首先获取待标定区域在车辆上的AR摄像头的相机坐标系下的第一相机坐标，然后获取AR摄像头的第一外参矩阵和车辆上的抬头显示器的第二外参矩阵之间的相对变换关系，并根据第一相机坐标和相对变换关系，确定待标定区域对应的投射符号在抬头显示器的坐标系下的第二相机坐标，从而根据第二相机坐标，控制抬头显示器投射图像，图像中包括投射符号。本申请实施例的方案，通过第一外参矩阵和第二外参矩阵之间的相对变换关系，将AR摄像头识别到的待标定区域的第一相机坐标转换到抬头显示器的坐标系下，从而得到投射符号在抬头显示器下的第二相机坐标，并根据第二相机坐标进行图像的投射，从而实现图像投射后投射符号和待标定区域的实景叠加。无需人工手动调整参数并多次尝试，操作简便，效率较高。
应当理解，本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征，也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本申请的限定。其中：
图1为本申请实施例提供的一种应用场景示意图；
图2为本申请实施例提供的一种图像投射方法的流程示意图；
图3为本申请实施例提供的获取相对变换关系的流程示意图；
图4为本申请实施例提供的第一相对变换关系获取示意图；
图5为本申请实施例提供的第二相对变换关系获取示意图；
图6为本申请实施例提供的图像投射的系统框图；
图7为本申请实施例提供的图像投射装置的结构示意图；
图8为本申请实施例提供的示例电子设备的示意性框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
HUD：Head Up Display，抬头显示，平视显示，又称抬头(平视)显示器，抬头(平视)显示系统，能够以驾驶员为中心，将时速、导航等重要的行车信息，投影到驾驶员前面的挡风玻璃上，让驾驶员尽量做到不低头、不转头就能够看到重要的驾驶信息的一种技术。
AR：Augmented Reality，增强现实。本申请中，ARHUD，是在HUD的基础上，通过内部特殊设计的光学系统将图像信息精确地结合于实际交通路况中，例如将胎压、速度、转速或导航等信息投射到前挡风玻璃上，无需低头或转头就能够让驾驶员看到重要的驾驶信息，且投射的信息能够与车辆前方的实景进行融合。
内参矩阵：是相机的一个参数，内参矩阵是将3D相机坐标变换到2D齐次图像坐标的矩阵，能够实现相机坐标系与像素坐标系之间的坐标变换。
外参矩阵：是相机的一个参数，外参矩阵包括旋转矩阵和平移向量，旋转矩阵和平移向量共同描述了如何把点从世界坐标系转换到相机坐标系下，其中，旋转矩阵描述了世界坐标系的坐标轴相对于相机坐标系的坐标轴的方向，平移向量描述了在相机坐标系下空间原点的位置。外参矩阵能够实现世界坐标系和相机坐标系之间的坐标变换。
图1为本申请实施例提供的一种应用场景示意图，如图1所示，在车辆上包括AR摄像头11和抬头显示器12，AR摄像头11的拍摄范围如图1中对应的虚线示意。在车辆前方有路段13，AR摄像头11能够拍摄车辆前方的画面，其中路段13就位于AR摄像头11的拍摄范围内。
抬头显示器12用于投射画面到挡风玻璃14上，驾驶员可以在开车时查看前方时就观察到挡风玻璃14上的投射画面。其中，需要实现驾驶位上的驾驶员观察前方时，投射的画面与车辆前方的实景融合。
例如当车辆前方的实景以路段13为例，如图1中下方示例，其中路段13是一个分叉口，包括一个右转路口和一个执行路口。此时，AR摄像头可以拍摄车辆前方的画面识别到该分叉口。抬头显示器12需要投射的画面中包括一个右转箭头，则希望驾驶员观察到的右转箭头刚好对应在右转路口上。图1下方的画面即为驾驶员观察到的右转箭头与右转路口叠加的画面。
在进行图像投射时，由于要实现投射的图像内容与实景的叠加，因此投射的图像需要位于挡风玻璃的对应位置。目前实现图像投射的方案是，由一个人坐在驾驶位上，通过AR摄像头拍摄画面识别画面中的待标定区域，然后由抬头显示器投射图像，人观察投射的图像与实景叠加的效果，然后手工调整参数，多次尝试，直至实现投射的图像与实景的叠加。这种方式操作复杂，效率较低。
基于该问题，本申请实施例提供一种图像投射方案，无需人工的多次调整和尝试，能够提高图像投射的效率，操作简便。下面将结合附图对本申请的方案进行介绍。
图2为本申请实施例提供的一种图像投射方法的流程示意图，如图2所示，该方法可以包括：
S21，获取待标定区域在车辆上的AR摄像头的相机坐标系下的第一相机坐标，所述待标定区域位于所述AR摄像头的拍摄范围内。
AR摄像头为车辆上的一个车载摄像头，可以用于拍摄车辆前方的图像，并从图像中识别待标定区域。待标定区域为需要进行图像投射进行标定的区域，待标定区域位于AR摄像头的拍摄范围内。例如常见的待标定区域可以为左转路口、右转路口、直行路口、掉头区域等等。
可以预先设定哪些区域为待标定区域，然后获取AR摄像头的拍摄画面。当AR摄像头的拍摄画面中出现待标定区域时，就可以进行识别，得到待标定区域在AR摄像头的相机坐标系下的第一相机坐标。
S22，获取所述AR摄像头的第一外参矩阵和所述车辆上的抬头显示器的第二外参矩阵之间的相对变换关系。
抬头显示器为车辆上的一个装置，用于进行图像的投射，投射到车辆的挡风玻璃上。外参矩阵能够实现世界坐标系和相机坐标系下的坐标转换。例如，根据AR摄像头的第一外参矩阵，能够将待标定区域的第一相机坐标，转换成对应的世界坐标系下的坐标。本申请实施例中，需要获取AR摄像头的第一外参矩阵和抬头显示器的第二外参矩阵之间的相对变换关系，这是由于，最后是由抬头显示器投射图像，投射的图像需要和实景进行融合，待标定区域就是一个实景。
S23，根据所述第一相机坐标和所述相对变换关系，确定所述待标定区域对应的投射符号在所述抬头显示器的坐标系下的第二相机坐标。
在得到第一外参矩阵和第二外参矩阵之间的相对变换关系之后，就可以根据第一外参矩阵将第一相机坐标转换成待标定区域在世界坐标系下的坐标，然后根据相对变换关系和第一外参矩阵，得到第二外参矩阵，并根据第二外参矩阵得到待标定区域在抬头显示器的坐标系下的相机坐标。
投射符号需要最终投射到挡风玻璃上，且需要与实景融合。以待标定区域为右转路口为例，投射符号为右转箭头，则需要实现的效果是，在驾驶位看过去，右转箭头的位置正好在右转路口上，从而实现实景融合。因此，确定了待标定区域在抬头显示器的坐标系下的相机坐标后，就能够相应的确定投射符号在抬头显示器的坐标系下的第二相机坐标。
S24，根据所述第二相机坐标，控制所述抬头显示器投射图像，所述图像中包括所述投射符号。
在确定了投射符号的第二相机坐标后，就可以控制抬头显示器投射图像，图像中包括该投射符号，且根据投射符号的第二相机坐标，能够确定投射符号在图像中的位置，进行图像的投射。
本申请实施例提供的图像投射方法，首先获取待标定区域在车辆上的AR摄像头的相机坐标系下的第一相机坐标，然后获取AR摄像头的第一外参矩阵和车辆上的抬头显示器的第二外参矩阵之间的相对变换关系，并根据第一相机坐标和相对变换关系，确定待标定区域对应的投射符号在抬头显示器的坐标系下的第二相机坐标，从而根据第二相机坐标，控制抬头显示器投射图像，图像中包括投射符号。本申请实施例的方案，通过第一外参矩阵和第二外参矩阵之间的相对变换关系，将AR摄像头识别到的待标定区域的第一相机坐标转换到抬头显示器的坐标系下，从而得到投射符号在抬头显示器下的第二相机坐标，并根据第二相机坐标进行图像的投射，从而实现图像投射后投射符号和待标定区域的实景叠加。无需人工手动调整参数并多次尝试，操作简便，效率较高。
下面结合附图对本申请的方案进行详细介绍。
图3为本申请实施例提供的获取相对变换关系的流程示意图，如图3所示，包括：
S31，获取所述第一外参矩阵和第一摄像头的第三外参矩阵之间的第一相对变换关系，所述第一摄像头设置于所述车辆的驾驶位上的预设位置。
第一摄像头为车辆上的驾驶位上的预设位置的摄像头，第一摄像头的拍摄范围与坐在驾驶位上的驾驶员的观测范围接近，可以根据通常驾驶员的眼睛的大致方位确定第一摄像头在驾驶位上的预设位置。
图4为本申请实施例提供的第一相对变换关系获取示意图，如图4所示，包括第一摄像头41、AR摄像头42和挡风玻璃43，第一摄像头41所在的预设位置与驾驶员的眼睛所在的位置临近。图4中的虚线分别是第一摄像头41和AR摄像头42的拍摄范围。
要获取AR摄像头的第一外参矩阵和第一摄像头的第三外参矩阵之间的第一相对变换关系，就需要设置一个参照物，AR摄像头和第一摄像头需要拍摄这个参照物，然后根据坐标变换来得到第一相对变换关系。
具体的，可以在车辆前方设置一个预设图案，AR摄像头拍摄该预设图案，得到第一图像，第一摄像头拍摄该预设图案，得到第二图像。然后，获取AR摄像头的第一内参矩阵和第一摄像头的第二内参矩阵。其中，摄像头的内参矩阵是摄像头的固定参数，能够直接获得。内参矩阵能够实现相机坐标系和像素坐标系下的坐标转换。
在得到第一内参矩阵和第二内参矩阵后，就可以根据第一图像、第二图像、第一内参矩阵和第二内参矩阵，获取第一相对变换关系。
具体的，针对预设图案上的任意第一预设点，可以获取第一预设点在世界坐标系下的第一世界坐标，以及第一预设点在第一图像上对应的第一图像坐标和在第二图像上对应的第二图像坐标，其中，第一图像坐标为第一预设点在AR摄像头的像素坐标系下的坐标，第二图像坐标为第一预设点在第一摄像头的像素坐标系下的坐标。
在获取第一世界坐标、第一图像坐标和第二图像坐标后，就可以根据第一世界坐标、第一图像坐标和第一内参矩阵，获取AR摄像头的第一姿态，并根据第一世界坐标、第二图像坐标和第二内参矩阵，获取第一摄像头的第二姿态。
在得到第一姿态和第二姿态后，就可以根据第一姿态和第二姿态，获取第一相对变换关系。下面将结合图4对该过程进行说明。
如图4中所示，以预设图案为一个棋盘格44为例，AR摄像头42和第一摄像头41分别拍摄车辆前方的棋盘格44，分别得到第一图像和第二图像。
将棋盘格44的角点作为第一预设点，第一预设点在世界坐标系下的第一世界坐标为(xi,yi)，然后根据第一图像得到第一预设点在AR摄像头42的像素坐标系下的第一图像坐标(u2i,v2i)，根据第二图像得到第一预设点在第一摄像头41的像素坐标系下的第二图像坐标(u1i,v1i)。
设AR摄像头42的第一内参矩阵为Ia，第一姿态为[Ra|ta]，第一摄像头41的第二内参矩阵为Ie，第二姿态为[Re|te]。
则可以得到如下等式：
Figure BDA0002858094050000081
Figure BDA0002858094050000082
其中，s1i为第一摄像头的尺度因子，s2i为AR摄像头的尺度因子，I为单位矩阵。等式(1)表示的是第一预设点在AR摄像头的像素坐标系和世界坐标系下的坐标转换的等式，等式(2)表示的是第一预设点在第一摄像头的像素坐标系和世界坐标系下的坐标转换的等式。
根据等式(1)可以得到第一姿态[Ra|ta]，根据等式(2)可以得到第二姿态[Re|te]。其中，Ra为AR摄像头的旋转矩阵，ta为对应的平移向量。Re为第一摄像头的旋转矩阵，te为对应的平移向量。
得到第一姿态和第二姿态后，可以得到第一相对变换关系：
Figure BDA0002858094050000083
其中，
Figure BDA0002858094050000084
为第三外参矩阵，
Figure BDA0002858094050000085
为第一外参矩阵。
S32，获取所述第二外参矩阵和所述第三外参矩阵之间的第二相对变换关系。
在获取了第一相对变换关系后，还需要获取第二外参矩阵和第三外参矩阵之间的第二相对变换关系，才能最终获得第一外参矩阵和第二外参矩阵之间的相对变换关系，其中，第二相对变换关系的获取与第一相对变换关系的获取方法类似，下面将进行详细说明。
首先，需要获取抬头显示器投射的第三图像，和第一摄像头拍摄第三图像得到的第四图像，第三图像与第四图像的分辨率相同。
然后，获取第一摄像头的第二内参矩阵和抬头显示器的第三内参矩阵，并根据第三图像、第四图像、第二内参矩阵和第三内参矩阵，获取第二相对变换关系。
具体的，针对第三图像上的任意第二预设点，可以获取第二预设点在世界坐标系下的第二世界坐标，以及第二预设点在第三图像上对应的第三图像坐标和在第四图像上对应的第四图像坐标，其中，第三图像坐标为第二预设点在抬头显示器的像素坐标系下的坐标，第四图像坐标为第二预设点在第一摄像头的像素坐标系下的坐标。
在获取第二世界坐标、第三图像坐标和第四图像坐标后，就可以根据第二世界坐标、第三图像坐标和第三内参矩阵，获取抬头显示器的第三姿态，并根据第二世界坐标、第四图像坐标和第二内参矩阵，获取第一摄像头的第二姿态。
在得到第三姿态和第二姿态后，就可以根据第三姿态和第二姿态，获取第二相对变换关系。下面将结合图5对该过程进行说明。
图5为本申请实施例提供的第二相对变换关系获取示意图，如图5所示，包括第一摄像头41、抬头显示器51和挡风玻璃43，第一摄像头41所在的预设位置与驾驶员的眼睛所在的位置临近。
生成一张棋盘格图片52，将棋盘格图片52的角点作为第二预设点，第二预设点在世界坐标系下的第二世界坐标为(xj,yj)，然后通过抬头显示器51投射该棋盘格图片52得到第三图像，第一摄像头41拍摄抬头显示器51投射的棋盘格图片52得到第四图像。
然后根据第三图像得到第二预设点在抬头显示器51的像素坐标系下的第三图像坐标(u1j,v1j)，根据第四图像得到第二预设点在第一摄像头41的像素坐标系下的第四图像坐标(u2j,v2j)。
设抬头显示器51的第三内参矩阵为Ia，第三姿态为[Rh|th]，第一摄像头41的第二内参矩阵为Ie，第二姿态为[Re|te]。
则可以得到如下等式：
Figure BDA0002858094050000091
Figure BDA0002858094050000101
其中，s1j为抬头显示器的尺度因子，s2j为第一摄像头的尺度因子，I为单位矩阵。等式(4)表示的是第二预设点在抬头显示器的像素坐标系和世界坐标系下的坐标转换的等式，等式(5)表示的是第二预设点在第一摄像头的像素坐标系和世界坐标系下的坐标转换的等式。
根据等式(4)可以得到第三姿态[Rh|th]，根据等式(5)可以得到第二姿态[Re|te]。其中，Rh为抬头显示器的旋转矩阵，th为对应的平移向量。Re为第一摄像头的旋转矩阵，te为对应的平移向量。
得到第三姿态和第二姿态后，可以得到第二相对变换关系：
Figure BDA0002858094050000102
其中，
Figure BDA0002858094050000103
为第三外参矩阵，
Figure BDA0002858094050000104
为第二外参矩阵。
S33，根据所述第一相对变换关系和所述第二相对变换关系，获取所述相对变换关系。
根据等式(3)和等式(6)可得：
Figure BDA0002858094050000105
即相对变换关系Tah为：
Figure BDA0002858094050000106
将等式(8)的标定结果存储到配置文件或者数据库中，就可以用于后续的图像投射。
具体的，可以根据第一相机坐标和相对变换关系，确定待标定区域在抬头显示器的坐标系下的第三相机坐标，然后根据待标定区域和投射符号之间的实景叠加关系，以及第三相机坐标，确定第二相机坐标。最后根据第二相机坐标，控制抬头显示器投射图像，图像中包括投射符号。
图6为本申请实施例提供的图像投射的系统框图，如图6所示，包括中控车机、AR摄像头、第一摄像头、棋盘格显示屏和抬头显示器。
其中，AR摄像头和第一摄像头分别对棋盘格进行拍摄，分别得到第一棋盘格图像(即上述实施例中的第一图像)和第二棋盘格图像(即上述实施例中的第二图像)，然后AR摄像头向中控车机发送第一棋盘格图像，第一摄像头向中控车机发送第二棋盘格图像。然后，抬头显示器投射第三棋盘格图像(即上述实施例中的第三图像)，第一摄像头拍摄第三棋盘格图像得到第四棋盘格图像(即上述实施例中的第四图像)，抬头显示器向中控车机发送第三棋盘格图像，第一摄像头向中控车机发送第四棋盘格图像。
然后，中控车机根据上述棋盘格图像中的坐标变化关系，得到AR摄像头的第一外参矩阵和抬头显示器的第二外参矩阵之间的相对变换关系，并根据该相对变化关系控制抬头显示器投射图像至棋盘格显示屏上，该棋盘格显示屏例如可以为车辆的挡风玻璃等。
本申请实施例提供的图像投射方法，首先获取待标定区域在车辆上的AR摄像头的相机坐标系下的第一相机坐标，然后获取AR摄像头的第一外参矩阵和车辆上的抬头显示器的第二外参矩阵之间的相对变换关系，并根据第一相机坐标和相对变换关系，确定待标定区域对应的投射符号在抬头显示器的坐标系下的第二相机坐标，从而根据第二相机坐标，控制抬头显示器投射图像，图像中包括投射符号。本申请实施例的方案，通过第一外参矩阵和第二外参矩阵之间的相对变换关系，将AR摄像头识别到的待标定区域的第一相机坐标转换到抬头显示器的坐标系下，从而得到投射符号在抬头显示器下的第二相机坐标，并根据第二相机坐标进行图像的投射，从而实现图像投射后投射符号和待标定区域的实景叠加。无需人工手动调整参数并多次尝试，操作简便，效率较高。
图7为本申请实施例提供的图像投射装置的结构示意图，如图7所示，该装置70包括：
第一获取模块71，用于获取待标定区域在车辆上的AR摄像头的相机坐标系下的第一相机坐标，所述待标定区域位于所述AR摄像头的拍摄范围内；
第二获取模块72，用于获取所述AR摄像头的第一外参矩阵和所述车辆上的抬头显示器的第二外参矩阵之间的相对变换关系；
确定模块73，用于根据所述第一相机坐标和所述相对变换关系，确定所述待标定区域对应的投射符号在所述抬头显示器的坐标系下的第二相机坐标；
处理模块74，用于根据所述第二相机坐标，控制所述抬头显示器投射图像，所述图像中包括所述投射符号。
在一种可能的实施方式中，所述第二获取模块72包括：
第一获取单元，用于获取所述第一外参矩阵和第一摄像头的第三外参矩阵之间的第一相对变换关系，所述第一摄像头设置于所述车辆的驾驶位上的预设位置；
第二获取单元，用于获取所述第二外参矩阵和所述第三外参矩阵之间的第二相对变换关系；
第三获取单元，用于根据所述第一相对变换关系和所述第二相对变换关系，获取所述相对变换关系。
在一种可能的实施方式中，所述第一获取单元包括：
第一获取子单元，用于获取所述AR摄像头拍摄预设图案的第一图像和所述第一摄像头拍摄所述预设图案的第二图像，所述预设图案设置于所述车辆前方；
第二获取子单元，用于获取所述AR摄像头的第一内参矩阵和所述第一摄像头的第二内参矩阵；
第三获取子单元，用于根据所述第一图像、所述第二图像、所述第一内参矩阵和所述第二内参矩阵，获取所述第一相对变换关系。
在一种可能的实施方式中，所述第三获取子单元具体用于：
针对所述预设图案上的任意第一预设点，获取所述第一预设点在世界坐标系下的第一世界坐标、所述第一预设点在所述第一图像上对应的第一图像坐标和在所述第二图像上对应的第二图像坐标；
根据所述第一世界坐标、所述第一图像坐标和所述第一内参矩阵，获取所述AR摄像头的第一姿态；
根据所述第一世界坐标、所述第二图像坐标和所述第二内参矩阵，获取所述第一摄像头的第二姿态；
根据所述第一姿态和所述第二姿态，获取所述第一相对变换关系。
在一种可能的实施方式中，所述第二获取单元包括：
第四获取子单元，用于获取所述抬头显示器投射的第三图像，和所述第一摄像头拍摄所述第三图像得到的第四图像，所述第三图像与所述第四图像的分辨率相同；
第五获取子单元，用于获取所述第一摄像头的第二内参矩阵和所述抬头显示器的第三内参矩阵；
第六获取子单元，用于根据所述第三图像、所述第四图像、所述第二内参矩阵和所述第三内参矩阵，获取所述第二相对变换关系。
在一种可能的实施方式中，所述第六获取子单元具体用于：
针对所述第三图像上的任意第二预设点，获取所述第二预设点在世界坐标系下的第二世界坐标、所述第二预设点在所述第三图像上对应的第三图像坐标和在所述第四图像上对应的第四图像坐标；
根据所述第二世界坐标、所述第三图像坐标和所述第三内参矩阵，获取所述抬头显示器的第三姿态；
根据所述第二世界坐标、所述第四图像坐标和所述第二内参矩阵，获取所述第一摄像头的第二姿态；
根据所述第三姿态和所述第二姿态，获取所述第二相对变换关系。
在一种可能的实施方式中，所述确定模块73包括：
确定单元，用于根据所述第一相机坐标和所述相对变换关系，确定所述待标定区域在所述抬头显示器的坐标系下的第三相机坐标；
处理单元，用于根据所述待标定区域和所述投射符号之间的实景叠加关系，以及所述第三相机坐标，确定所述第二相机坐标。
本申请实施例提供的图像投射装置，用于执行上述方法实施例，其实现原理和技术效果类似，本实施例此处不再赘述。
根据本申请的实施例，本申请还提供了一种电子设备和一种可读存储介质。
根据本申请的实施例，本申请还提供了一种计算机程序产品，程序产品包括：计算机程序，计算机程序存储在可读存储介质中，电子设备的至少一个处理器可以从可读存储介质读取计算机程序，至少一个处理器执行计算机程序使得电子设备执行上述任一实施例提供的方案。
图8示出了可以用来实施本申请的实施例的示例电子设备800的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图8所示，电子设备800包括计算单元801，其可以根据存储在只读存储器(ROM)802中的计算机程序或者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序，来执行各种适当的动作和处理。在RAM 803中，还可存储设备800操作所需的各种程序和数据。计算单元801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
设备800中的多个部件连接至I/O接口805，包括：输入单元806，例如键盘、鼠标等；输出单元807，例如各种类型的显示器、扬声器等；存储单元808，例如磁盘、光盘等；以及通信单元809，例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理，例如图像投射方法。例如，在一些实施例中，图像投射方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元808。在一些实施例中，计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到RAM 803并由计算单元801执行时，可以执行上文描述的图像投射方法的一个或多个步骤。备选地，在其他实施例中，计算单元801可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行图像投射方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务("Virtual Private Server"，或简称"VPS")中，存在的管理难度大，业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器，或者是结合了区块链的服务器。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。

Claims (14)

1.一种图像投射方法，包括：
获取待标定区域在车辆上的AR摄像头的相机坐标系下的第一相机坐标，所述待标定区域位于所述AR摄像头的拍摄范围内；
获取所述AR摄像头的第一外参矩阵和所述车辆上的抬头显示器的第二外参矩阵之间的相对变换关系；
根据所述第一相机坐标和所述相对变换关系，确定所述待标定区域对应的投射符号在所述抬头显示器的坐标系下的第二相机坐标；
根据所述第二相机坐标，控制所述抬头显示器投射图像，所述图像中包括所述投射符号；
所述获取所述AR摄像头的第一外参矩阵和所述车辆上的抬头显示器的第二外参矩阵之间的相对变换关系，包括：
获取所述第一外参矩阵和第一摄像头的第三外参矩阵之间的第一相对变换关系，所述第一摄像头设置于所述车辆的驾驶位上的预设位置；
获取所述第二外参矩阵和所述第三外参矩阵之间的第二相对变换关系；
根据所述第一相对变换关系和所述第二相对变换关系，获取所述相对变换关系。
2.根据权利要求1所述的方法，其中，获取所述第一外参矩阵和第一摄像头的第三外参矩阵之间的第一相对变换关系，包括：
获取所述AR摄像头拍摄预设图案的第一图像和所述第一摄像头拍摄所述预设图案的第二图像，所述预设图案设置于所述车辆前方；
获取所述AR摄像头的第一内参矩阵和所述第一摄像头的第二内参矩阵；
根据所述第一图像、所述第二图像、所述第一内参矩阵和所述第二内参矩阵，获取所述第一相对变换关系。
3.根据权利要求2所述的方法，其中，根据所述第一图像、所述第二图像、所述第一内参矩阵和所述第二内参矩阵，获取所述第一相对变换关系，包括：
针对所述预设图案上的任意第一预设点，获取所述第一预设点在世界坐标系下的第一世界坐标、所述第一预设点在所述第一图像上对应的第一图像坐标和在所述第二图像上对应的第二图像坐标；
根据所述第一世界坐标、所述第一图像坐标和所述第一内参矩阵，获取所述AR摄像头的第一姿态；
根据所述第一世界坐标、所述第二图像坐标和所述第二内参矩阵，获取所述第一摄像头的第二姿态；
根据所述第一姿态和所述第二姿态，获取所述第一相对变换关系。
4.根据权利要求2或3所述的方法，其中，获取所述第二外参矩阵和所述第三外参矩阵之间的第二相对变换关系，包括：
获取所述抬头显示器投射的第三图像，和所述第一摄像头拍摄所述第三图像得到的第四图像，所述第三图像与所述第四图像的分辨率相同；
获取所述第一摄像头的第二内参矩阵和所述抬头显示器的第三内参矩阵；
根据所述第三图像、所述第四图像、所述第二内参矩阵和所述第三内参矩阵，获取所述第二相对变换关系。
5.根据权利要求4所述的方法，其中，根据所述第三图像、所述第四图像、所述第二内参矩阵和所述第三内参矩阵，获取所述第二相对变换关系，包括：
针对所述第三图像上的任意第二预设点，获取所述第二预设点在世界坐标系下的第二世界坐标、所述第二预设点在所述第三图像上对应的第三图像坐标和在所述第四图像上对应的第四图像坐标；
根据所述第二世界坐标、所述第三图像坐标和所述第三内参矩阵，获取所述抬头显示器的第三姿态；
根据所述第二世界坐标、所述第四图像坐标和所述第二内参矩阵，获取所述第一摄像头的第二姿态；
根据所述第三姿态和所述第二姿态，获取所述第二相对变换关系。
6.根据权利要求1-3、5任一项所述的方法，其中，根据所述第一相机坐标和所述相对变换关系，确定所述待标定区域对应的投射符号在所述抬头显示器的坐标系下的第二相机坐标，包括：
根据所述第一相机坐标和所述相对变换关系，确定所述待标定区域在所述抬头显示器的坐标系下的第三相机坐标；
根据所述待标定区域和所述投射符号之间的实景叠加关系，以及所述第三相机坐标，确定所述第二相机坐标。
7.一种图像投射装置，包括：
第一获取模块，用于获取待标定区域在车辆上的AR摄像头的相机坐标系下的第一相机坐标，所述待标定区域位于所述AR摄像头的拍摄范围内；
第二获取模块，用于获取所述AR摄像头的第一外参矩阵和所述车辆上的抬头显示器的第二外参矩阵之间的相对变换关系；
确定模块，用于根据所述第一相机坐标和所述相对变换关系，确定所述待标定区域对应的投射符号在所述抬头显示器的坐标系下的第二相机坐标；
处理模块，用于根据所述第二相机坐标，控制所述抬头显示器投射图像，所述图像中包括所述投射符号；
所述第二获取模块包括：
第一获取单元，用于获取所述第一外参矩阵和第一摄像头的第三外参矩阵之间的第一相对变换关系，所述第一摄像头设置于所述车辆的驾驶位上的预设位置；
第二获取单元，用于获取所述第二外参矩阵和所述第三外参矩阵之间的第二相对变换关系；
第三获取单元，用于根据所述第一相对变换关系和所述第二相对变换关系，获取所述相对变换关系。
8.根据权利要求7所述的装置，其中，所述第一获取单元包括：
第一获取子单元，用于获取所述AR摄像头拍摄预设图案的第一图像和所述第一摄像头拍摄所述预设图案的第二图像，所述预设图案设置于所述车辆前方；
第二获取子单元，用于获取所述AR摄像头的第一内参矩阵和所述第一摄像头的第二内参矩阵；
第三获取子单元，用于根据所述第一图像、所述第二图像、所述第一内参矩阵和所述第二内参矩阵，获取所述第一相对变换关系。
9.根据权利要求8所述的装置，其中，所述第三获取子单元具体用于：
针对所述预设图案上的任意第一预设点，获取所述第一预设点在世界坐标系下的第一世界坐标、所述第一预设点在所述第一图像上对应的第一图像坐标和在所述第二图像上对应的第二图像坐标；
根据所述第一世界坐标、所述第一图像坐标和所述第一内参矩阵，获取所述AR摄像头的第一姿态；
根据所述第一世界坐标、所述第二图像坐标和所述第二内参矩阵，获取所述第一摄像头的第二姿态；
根据所述第一姿态和所述第二姿态，获取所述第一相对变换关系。
10.根据权利要求7-9任一项所述的装置，其中，所述第二获取单元包括：
第四获取子单元，用于获取所述抬头显示器投射的第三图像，和所述第一摄像头拍摄所述第三图像得到的第四图像，所述第三图像与所述第四图像的分辨率相同；
第五获取子单元，用于获取所述第一摄像头的第二内参矩阵和所述抬头显示器的第三内参矩阵；
第六获取子单元，用于根据所述第三图像、所述第四图像、所述第二内参矩阵和所述第三内参矩阵，获取所述第二相对变换关系。
11.根据权利要求10所述的装置，其中，所述第六获取子单元具体用于：
针对所述第三图像上的任意第二预设点，获取所述第二预设点在世界坐标系下的第二世界坐标、所述第二预设点在所述第三图像上对应的第三图像坐标和在所述第四图像上对应的第四图像坐标；
根据所述第二世界坐标、所述第三图像坐标和所述第三内参矩阵，获取所述抬头显示器的第三姿态；
根据所述第二世界坐标、所述第四图像坐标和所述第二内参矩阵，获取所述第一摄像头的第二姿态；
根据所述第三姿态和所述第二姿态，获取所述第二相对变换关系。
12.根据权利要求7-9、11任一项所述的装置，其中，所述确定模块包括：
确定单元，用于根据所述第一相机坐标和所述相对变换关系，确定所述待标定区域在所述抬头显示器的坐标系下的第三相机坐标；
处理单元，用于根据所述待标定区域和所述投射符号之间的实景叠加关系，以及所述第三相机坐标，确定所述第二相机坐标。
13.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行权利要求1-6中任一项所述的方法。
CN202011554180.XA 2020-12-24 2020-12-24 图像投射方法、装置、设备及存储介质 Active CN112738487B (zh)

Priority Applications (5)

Application Number Priority Date Filing Date Title
CN202011554180.XA CN112738487B (zh) 2020-12-24 2020-12-24 图像投射方法、装置、设备及存储介质
KR1020210078922A KR102555820B1 (ko) 2020-12-24 2021-06-17 이미지 프로젝션 방법, 장치, 기기 및 저장 매체
EP21180273.1A EP3889908A3 (en) 2020-12-24 2021-06-18 Image projection method, apparatus, device and storage medium
US17/352,858 US11715238B2 (en) 2020-12-24 2021-06-21 Image projection method, apparatus, device and storage medium
JP2021106266A JP7222031B2 (ja) 2020-12-24 2021-06-28 画像の投影方法、装置、デバイス及び記憶媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011554180.XA CN112738487B (zh) 2020-12-24 2020-12-24 图像投射方法、装置、设备及存储介质

Publications (2)

Publication Number Publication Date
CN112738487A CN112738487A (zh) 2021-04-30
CN112738487B true CN112738487B (zh) 2022-10-11

Family

ID=75615463

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011554180.XA Active CN112738487B (zh) 2020-12-24 2020-12-24 图像投射方法、装置、设备及存储介质

Country Status (5)

Country Link
US (1) US11715238B2 (zh)
EP (1) EP3889908A3 (zh)
JP (1) JP7222031B2 (zh)
KR (1) KR102555820B1 (zh)
CN (1) CN112738487B (zh)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102543899B1 (ko) * 2020-08-27 2023-06-20 네이버랩스 주식회사 헤드업 디스플레이 및 그 제어방법
CN113592951A (zh) * 2021-07-14 2021-11-02 阿波罗智联(北京)科技有限公司 车路协同中路侧相机外参标定的方法、装置、电子设备
CN113409405A (zh) * 2021-07-19 2021-09-17 北京百度网讯科技有限公司 评估相机标定位置的方法、装置、设备和存储介质
CN113781575B (zh) * 2021-08-09 2024-01-12 上海奥视达智能科技有限公司 一种相机参数的标定方法、装置、终端和存储介质
CN114100160A (zh) * 2021-09-30 2022-03-01 成都博物馆 皮影戏增强展示方法、系统和可读储存介质
CN114332213B (zh) * 2022-03-17 2022-06-17 中国汽车技术研究中心有限公司 车辆视觉传感器仿真图像投射位姿确定方法和系统
CN116823590A (zh) * 2022-03-18 2023-09-29 中科寒武纪科技股份有限公司 数据获取方法、装置、设备及系统
CN114820807B (zh) * 2022-03-24 2023-01-31 合肥的卢深视科技有限公司 屏幕-相机的标定方法、系统、标定设备和存储介质
CN115164823B (zh) * 2022-05-16 2024-04-02 上海芯翌智能科技有限公司 一种摄像机陀螺仪信息的获取方法及设备
CN114897996A (zh) * 2022-05-31 2022-08-12 上海商汤临港智能科技有限公司 一种车载相机的标定方法及装置、计算机设备、存储介质
CN115393497A (zh) * 2022-07-29 2022-11-25 中国第一汽车股份有限公司 虚拟成像方法、装置、非易失性存储介质和计算机设备

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108195387A (zh) * 2017-12-22 2018-06-22 联创汽车电子有限公司 Ar-hud导航系统及其gps数据校验修正方法
CN109688392A (zh) * 2018-12-26 2019-04-26 联创汽车电子有限公司 Ar-hud光学投影系统及映射关系标定方法和畸变矫正方法
US10282915B1 (en) * 2017-12-27 2019-05-07 Industrial Technology Research Institute Superimposition device of virtual guiding indication and reality image and the superimposition method thereof
CN109883439A (zh) * 2019-03-22 2019-06-14 百度在线网络技术（北京）有限公司 一种车辆导航方法、装置、电子设备及存储介质
CN110136519A (zh) * 2019-04-17 2019-08-16 百度在线网络技术（北京）有限公司 基于arhud导航的模拟系统和方法
CN111086453A (zh) * 2019-12-30 2020-05-01 深圳疆程技术有限公司 一种基于摄像头的hud增强现实显示方法、装置及汽车
CN111121815A (zh) * 2019-12-27 2020-05-08 重庆利龙科技产业(集团)有限公司 一种基于ar-hud导航的路径显示方法、系统及计算机存储介质
CN111147834A (zh) * 2019-12-31 2020-05-12 深圳疆程技术有限公司 一种基于增强现实抬头显示的虚拟图像标定方法
CN111405263A (zh) * 2019-12-26 2020-07-10 的卢技术有限公司 一种双摄像头结合共用于增强抬头显示的方法及系统
CN111433067A (zh) * 2017-11-14 2020-07-17 麦克赛尔株式会社 平视显示装置及其显示控制方法
CN111612852A (zh) * 2020-05-20 2020-09-01 北京百度网讯科技有限公司 用于验证相机参数的方法和装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101763640B (zh) * 2009-12-31 2011-10-19 无锡易斯科电子技术有限公司 车载多目摄像机环视系统的在线标定处理方法
CN102861611B (zh) * 2011-07-08 2014-11-19 中国石油天然气股份有限公司 一种有机骨架多孔固体酸的应用
CN104915327B (zh) * 2014-03-14 2019-01-29 腾讯科技（深圳）有限公司 一种文本信息的处理方法及装置
CN107228681A (zh) 2017-06-26 2017-10-03 上海驾馥电子科技有限公司 一种通过摄像头加强导航功能的导航系统
KR102436730B1 (ko) 2017-12-06 2022-08-26 삼성전자주식회사 가상 스크린의 파라미터 추정 방법 및 장치
CN110322513B (zh) * 2018-03-30 2022-03-04 杭州海康威视数字技术股份有限公司 一种相机外参标定方法、装置及电子设备
KR20200057414A (ko) * 2018-11-16 2020-05-26 삼성전자주식회사 주행 가이드 정보를 제공하는 전자 장치 및 그 방법
CN109649275B (zh) 2018-11-29 2020-03-20 福瑞泰克智能系统有限公司 一种基于增强现实的驾驶辅助系统及方法
KR20200067641A (ko) * 2018-12-04 2020-06-12 삼성전자주식회사 3차원 증강 현실을 위한 캘리브레이션 방법 및 그 장치
US20220073280A1 (en) * 2018-12-31 2022-03-10 Datalogic Usa Inc. Smart warehouse, conveyor, and pallet management system

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111433067A (zh) * 2017-11-14 2020-07-17 麦克赛尔株式会社 平视显示装置及其显示控制方法
CN108195387A (zh) * 2017-12-22 2018-06-22 联创汽车电子有限公司 Ar-hud导航系统及其gps数据校验修正方法
US10282915B1 (en) * 2017-12-27 2019-05-07 Industrial Technology Research Institute Superimposition device of virtual guiding indication and reality image and the superimposition method thereof
CN109982006A (zh) * 2017-12-27 2019-07-05 财团法人工业技术研究院 虚拟导引图示与真实图像的迭合装置及其相关迭合方法
CN109688392A (zh) * 2018-12-26 2019-04-26 联创汽车电子有限公司 Ar-hud光学投影系统及映射关系标定方法和畸变矫正方法
CN109883439A (zh) * 2019-03-22 2019-06-14 百度在线网络技术（北京）有限公司 一种车辆导航方法、装置、电子设备及存储介质
CN110136519A (zh) * 2019-04-17 2019-08-16 百度在线网络技术（北京）有限公司 基于arhud导航的模拟系统和方法
CN111405263A (zh) * 2019-12-26 2020-07-10 的卢技术有限公司 一种双摄像头结合共用于增强抬头显示的方法及系统
CN111121815A (zh) * 2019-12-27 2020-05-08 重庆利龙科技产业(集团)有限公司 一种基于ar-hud导航的路径显示方法、系统及计算机存储介质
CN111086453A (zh) * 2019-12-30 2020-05-01 深圳疆程技术有限公司 一种基于摄像头的hud增强现实显示方法、装置及汽车
CN111147834A (zh) * 2019-12-31 2020-05-12 深圳疆程技术有限公司 一种基于增强现实抬头显示的虚拟图像标定方法
CN111612852A (zh) * 2020-05-20 2020-09-01 北京百度网讯科技有限公司 用于验证相机参数的方法和装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
A calibration method for automotive augmented reality head-up displays using a chessboard and warping maps;Xiang Gao等;《Proceedings Volume 11433, Twelfth International Conference on Machine Vision (ICMV 2019)》;20200131;第1-6节 *
A camera-based calibration for automotive augmented reality head-up-displays;Folker Wientapper等;《2013 IEEE International Symposium on Mixed and Augmented Reality (ISMAR)》;20131004;第189-197页 *

Also Published As

Publication number Publication date
KR102555820B1 (ko) 2023-07-14
EP3889908A3 (en) 2022-01-19
KR20210091070A (ko) 2021-07-21
JP2021166075A (ja) 2021-10-14
US20210312665A1 (en) 2021-10-07
CN112738487A (zh) 2021-04-30
US11715238B2 (en) 2023-08-01
JP7222031B2 (ja) 2023-02-14
EP3889908A2 (en) 2021-10-06

Similar Documents

Publication Publication Date Title
CN112738487B (zh) 图像投射方法、装置、设备及存储介质
CN107223269B (zh) 三维场景定位方法和装置
CN112132829A (zh) 车辆信息的检测方法、装置、电子设备和存储介质
WO2018188479A1 (zh) 基于增强现实的导航方法及装置
US11004255B2 (en) Efficient rendering of high-density meshes
CN112967344B (zh) 相机外参标定的方法、设备、存储介质及程序产品
CN107862733B (zh) 基于视线更新算法的大规模场景实时三维重建方法和系统
CN110203140A (zh) 汽车增强现实显示方法、电子设备、系统及汽车
US10453173B2 (en) Panel transform
CN112738389A (zh) 用于提供滑动变焦视图合成的系统和方法
CN110631603B (zh) 车辆导航方法和装置
CN113483774A (zh) 导航方法、装置、电子设备及可读存储介质
JP6521352B2 (ja) 情報提示システム及び端末
EP3326146A1 (en) Rear cross traffic - quick looks
CN111369632A (zh) 相机标定中内参获取的方法及装置
JP2022014921A (ja) 路側カメラの外部パラメータに基づく三次元感知情報取得方法及び路側機器
CN113903210A (zh) 虚拟现实模拟驾驶方法、装置、设备和存储介质
CN210139817U (zh) 汽车增强现实显示系统及汽车
CN115988322A (zh) 生成全景图像的方法、装置、电子设备和存储介质
CN114266876A (zh) 定位方法、视觉地图的生成方法及其装置
CN112530173A (zh) 路侧感知方法、装置、电子设备、存储介质及路侧设备
CN115431764B (zh) 一种ar标尺展示方法、装置、电子设备及存储介质
JP7390436B2 (ja) ナビゲーション方法、装置、電子機器、コンピュータ読取可能な記憶媒体及びコンピュータプログラム
CN117255257A (zh) 一种弱光环境下的车载广角视觉增强方法及系统
CN117036444A (zh) 三维模型输出方法、装置、设备及计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20211021

Address after: 100176 101, floor 1, building 1, yard 7, Ruihe West 2nd Road, Beijing Economic and Technological Development Zone, Daxing District, Beijing

Applicant after: Apollo Zhilian (Beijing) Technology Co.,Ltd.

Address before: 2 / F, baidu building, 10 Shangdi 10th Street, Haidian District, Beijing 100085

Applicant before: BEIJING BAIDU NETCOM SCIENCE AND TECHNOLOGY Co.,Ltd.

GR01 Patent grant
GR01 Patent grant