CN114125415A - 通过增强现实呈现车辆异常部件的系统、方法和存储介质 - Google Patents

通过增强现实呈现车辆异常部件的系统、方法和存储介质 Download PDF

Info

Publication number
CN114125415A
CN114125415A CN202010885153.4A CN202010885153A CN114125415A CN 114125415 A CN114125415 A CN 114125415A CN 202010885153 A CN202010885153 A CN 202010885153A CN 114125415 A CN114125415 A CN 114125415A
Authority
CN
China
Prior art keywords
vehicle
augmented reality
coordinate system
abnormal
virtual
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010885153.4A
Other languages
English (en)
Inventor
唐帅
曲彤
孙铎
N·马蒙恩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Audi AG
Original Assignee
Audi AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Audi AG filed Critical Audi AG
Priority to CN202010885153.4A priority Critical patent/CN114125415A/zh
Publication of CN114125415A publication Critical patent/CN114125415A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C5/00Registering or indicating the working of vehicles
    • G07C5/08Registering or indicating performance data other than driving, working, idle, or waiting time, with or without registering driving, working, idle or waiting time
    • G07C5/0808Diagnosing performance data
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C5/00Registering or indicating the working of vehicles
    • G07C5/08Registering or indicating performance data other than driving, working, idle, or waiting time, with or without registering driving, working, idle or waiting time
    • G07C5/0841Registering performance data

Abstract

提供一种通过增强现实来呈现车辆异常部件的系统、方法、设备和存储介质。系统包括:异常状况信息存储单元,用于存储车辆部件的异常状况信息;检测单元,用于检测车辆的异常状况,以在检测到车辆出现异常时,确定异常部件的名称以及异常类型;处理单元,用于基于确定异常部件的名称以及异常类型,检索存储的异常状况信息,以获取异常部件的标识和在车辆坐标系中的位置信息;增强现实成像单元,用于基于所获取的异常部件在车辆坐标系中的位置信息,对车辆坐标系与用于增强现实成像的虚拟坐标系进行匹配以确定在虚拟坐标系中进行增强现实成像的虚拟位置,并且在该虚拟位置生成增强现实图像。本发明能够帮助车辆用户快速准确地识别异常部件及其位置。

Description

通过增强现实呈现车辆异常部件的系统、方法和存储介质
技术领域
本发明涉及增强现实成像领域,更具体而言,涉及一种通过增强现实呈现车辆异常部件的系统、包括其的车辆及相应的方法、增强现实成像设备和计算机可读存储介质。
背景技术
目前,多数车辆用户通常很少查看车辆的仪表盘上的故障标识所表示的含义。因此,即使仪表盘上的标识亮起,车辆用户仍然不能准确判断出车辆的哪个部件出现了异常,从而给车辆的行驶安全带来隐患。
因此,如何帮助用户准确、高效判断出车辆的异常部件成为亟需解决的问题。
发明内容
为解决上述技术问题,本发明提出了一种通过增强现实来呈现车辆异常部件的方案,旨在帮助驾驶员直观、准确地判断出车辆的异常部件,提高行驶安全性。
根据本发明的一个方面,提供一种用于通过增强现实来呈现车辆异常部件的系统,其中,所述系统包括:
异常状况信息存储单元,被配置用于存储车辆的一个或多个部件的异常状况信息,其中,所述异常状况信息至少包括车辆的所述一个或多个部件的标识、名称、异常类型以及所述一个或多个部件在车辆坐标系中的位置信息;
检测单元,被配置用于检测车辆的异常状况,以在检测到车辆出现异常时,确定异常部件的名称以及异常类型;
处理单元,被配置用于基于所述检测单元确定的异常部件的名称以及异常类型,检索所述异常状况信息存储单元中存储的异常状况信息,以获取所述异常部件的标识和所述异常部件在车辆坐标系中的位置信息;
增强现实成像单元,被配置用于基于所获取的所述异常部件在车辆坐标系中的位置信息,对所述车辆坐标系与用于增强现实成像的虚拟坐标系进行匹配以确定在所述虚拟坐标系中进行增强现实成像的虚拟位置,并且在该虚拟位置基于所述异常部件的标识生成关于所述异常部件的增强现实图像。
在一个实施方案中,所述增强现实成像单元被进一步配置为:
当检测到车辆用户位于车辆内部时,在用户的视野内基于用户的视角选定所述虚拟坐标系的虚拟坐标原点,根据所述虚拟坐标原点在所述车辆坐标系中的对应的位置确定所述车辆坐标系与所述虚拟坐标系的转换关系,基于所述转换关系和所述异常部件在车辆坐标系中的位置信息确定在所述虚拟坐标系中进行增强现实成像的虚拟位置。
在一个实施方案中,所述系统包括车辆用户的移动终端设备的显示单元,所述显示单元用于显示车辆的图像,
所述增强现实成像单元被进一步配置为:
从车辆的图像中选定所述虚拟坐标系的虚拟坐标原点,根据所述虚拟坐标原点在所述车辆坐标系中的对应位置确定所述车辆坐标系与所述虚拟坐标系的转换关系,基于所述转换关系和所述异常部件在车辆坐标系中的位置信息确定在所述虚拟坐标系中进行增强现实成像的虚拟位置。
在一个实施方案中,所述增强现实成像单元被进一步配置为:在基于所述异常部件的标识生成关于所述异常部件的增强现实图像时,提供附加提醒信息,所述附加提醒信息包括听觉提醒信息和/或视觉提醒信息。
在一个实施方案中,所述增强现实成像单元被进一步配置为:在所述虚拟位置生成增强现实图像之后,在满足以下条件至少之一时取消显示所述增强现实图像:
确定所述增强现实图像的显示时长大于预设时间阈值;
根据检测到的用户视角判断用户已经观察到所述增强现实图像;
检测到用户的手势为取消所述增强现实图像的手势;和/或
检测到用户的语音为取消所述增强现实图像的语音。
根据本发明的另一方面,提供一种车辆,其中,所述车辆包括根据本发明所述的用于通过增强现实来呈现车辆异常部件的系统。
根据本发明的又一方面,提供一种用于通过增强现实来呈现车辆异常部件的方法,其中,所述方法包括:
检测车辆的异常状况,以在检测到车辆出现异常时,确定异常部件的名称以及异常类型;
基于所确定的异常部件的名称以及异常类型,检索所存储的异常状况信息,以获取所述异常部件的标识和所述异常部件在车辆坐标系中的位置信息,其中所述异常状况信息至少包括车辆的一个或多个部件的标识、名称、异常类型以及所述一个或多个部件在车辆坐标系中的位置信息;
基于所获取的所述异常部件在车辆坐标系中的位置信息,对所述车辆坐标系与用于增强现实成像的虚拟坐标系进行匹配以确定在所述虚拟坐标系中进行增强现实成像的虚拟位置,并且在该虚拟位置基于所述异常部件的标识生成关于所述异常部件的增强现实图像。
在一个实施方案中,所述基于所获取的所述异常部件在车辆坐标系中的位置信息,对所述车辆坐标系与用于增强现实成像的虚拟坐标系进行匹配以确定在所述虚拟坐标系中进行增强现实成像的虚拟位置包括:
当检测到车辆用户位于车辆内部时,在用户的视野内基于用户的视角选定所述虚拟坐标系的虚拟坐标原点,根据所述虚拟坐标原点在所述车辆坐标系中的对应的位置确定所述车辆坐标系与所述虚拟坐标系的转换关系,基于所述转换关系和所述异常部件在车辆坐标系中的位置信息确定在所述虚拟坐标系中进行增强现实成像的虚拟位置。
在一个实施方案中,所述基于所获取的所述异常部件在车辆坐标系中的位置信息,对所述车辆坐标系与用于增强现实成像的虚拟坐标系进行匹配以确定在所述虚拟坐标系中进行增强现实成像的虚拟位置包括:
从车辆用户的移动终端设备的显示单元中显示的车辆的图像中选定所述虚拟坐标系的虚拟坐标原点,根据所述虚拟坐标原点在所述车辆坐标系中的对应位置确定所述车辆坐标系与所述虚拟坐标系的转换关系,基于所述转换关系和所述异常部件在车辆坐标系中的位置信息确定在所述虚拟坐标系中进行增强现实成像的虚拟位置。
在一个实施方案中,所述方法进一步包括:在基于所述异常部件的标识生成关于所述异常部件的增强现实图像时,提供附加提醒信息,所述附加提醒信息包括听觉提醒信息和/或视觉提醒信息。
在一个实施方案中,所述方法进一步包括,在所述虚拟位置生成增强现实图像之后,在满足以下条件至少之一时取消显示所述增强现实图像:
确定所述增强现实图像的显示时长大于预设时间阈值;
根据检测到的用户视角判断用户已经观察到所述增强现实图像;
检测到用户的手势为取消所述增强现实图像的手势;和/或
检测到用户的语音为取消所述增强现实图像的语音。
根据本发明的再一方面,提供一种增强现实成像设备,包括存储器和处理器,所述存储器存储有计算机程序,其中,所述处理器执行所述计算机程序时实现上述任一项所述的方法。
根据本发明的又一方面,提供一种计算机可读存储介质,其上存储有计算机程序,其中,所述计算机程序在被处理器执行时实现上述任一项所述的方法。
通过使用本发明所提供的系统或方法,能够在检测到车辆出现异常时,及时确定异常部件的名称以及异常类型,然后通过检索所存储的异常状况信息,以获取所述异常部件的标识和所述异常部件在车辆坐标系中的位置信息,进而通过增强现实成像的方式在车辆用户的视野内生成一个虚拟图像,用以提示车辆用户出现异常的部件的相关信息。通过本发明能够更为直观地向车辆用户提供异常部件的虚拟显示图像,有助于用户及时准确的判断出车辆出现异常的具体部件以及该异常部件的位置和异常类型,方便用户快速采用应对措施,降低车辆安全隐患。
附图说明
以示例的方式参考以下附图描述本发明的非限制性且非穷举性实施方案,其中:
图1示出根据本发明一实施方案的通过增强现实来呈现车辆异常部件的系统的示意图;
图2示出根据本发明一实施方案的通过增强现实来呈现车辆异常部件的方法的流程图;
图3示出根据本发明一实施方案的通过增强现实来呈现车辆异常部件的方法的应用示意图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施方案对本申请进行进一步详细说明。应当理解,此处描述的具体实施方案仅仅用以解释本申请,并不用于限定本申请。
图1示出了根据本发明一实施方案的用于通过增强现实来呈现车辆异常部件的系统100。具体地,所述系统100包括异常状况信息存储单元110、检测单元120、处理单元130和增强现实成像单元140。
异常状况信息存储单元110被配置用于存储车辆的一个或多个部件的异常状况信息,其中,所述异常状况信息至少包括车辆的所述一个或多个部件的标识、名称、异常类型以及所述一个或多个部件在车辆坐标系中的位置信息。所述标识可以包括车辆部件的代表性图案(其可以是单个图像或视频)。所述异常类型可以包括部件异常的种类以及等级信息,例如,在确定异常的种类属于车身损坏时,异常的等级信息可分为划痕、掉漆、变形等情况;或者,在确定异常的种类属于挡风玻璃清洗液存量不足时,异常的等级信息可分为剩余30%、剩余10%、剩余0%等不同情况。
作为一种示例,异常状况信息存储单元110可以实现为例如数据库,在数据库中可以存储有车辆的上述异常状况信息,在需要数据时直接查询数据库以获取相关信息。所述异常状况信息存储单元可以设置在车辆上,也可以设置于远程服务器中,并且可通过有线或无线方式(Wi-Fi、近场通信、蓝牙、移动通信网络例如4G或者5G)与系统中其他单元进行通信。
此外,数据库中还可存储有车辆一个或多个部件的正常状况信息,例如,部件正常运行状态时的参数、图像、视频等信息,这些正常状况信息可用于比对参照,以便于确定部件是否存在异常以及异常类型。
检测单元120被配置用于检测车辆的异常状况,以在检测到车辆出现异常时,确定异常部件的名称以及异常类型。例如,检测单元120可以包括安装在车辆上的摄像头、超声波传感器、激光传感器和/或车辆上安装的能够与车载电脑通信的异常状况检测单元。
在一个实施方式中,检测单元120可以获取车辆的异常状况,然后根据获取的异常状况确定异常部件的名称以及异常类型,或者将检测的异常状况与数据库中存储的正常状况信息和/或异常状况信息进行对照,从而判断车辆的哪个部件出现异常,并进而判断异常部件的异常类型。
例如,作为一种可选的实施方案,当车辆在行驶过程中出现剐蹭时,所述系统100可以自动启用或者通过驾驶员手动启用,然后控制安装于后视镜位置的摄像头拍摄车身侧面的图像,将所拍摄的图像与数据库中预存的车身侧面完好的图像进行比对,以确定车身侧面是否受损。当确定车身侧面确实受损时,可以进一步与异常状况信息存储单元110中存储的异常状况信息比对,确定出车身受损的位置以及受损程度。
或者,作为另一种可选的实施方案,所述系统100可以通过定时监测(轮询)的方式自动激活检测单元120进行检测。例如,车辆可每隔一段时间通过检测单元120对测量到的对应每个轮胎的多组监测数据进行处理,若发现其中某一轮胎的胎压数据明显小于正常胎压,则说明该轮胎的胎压不足,需要补充胎压。
处理单元130被配置用于基于检测单元120确定的异常部件的名称以及异常类型,检索所述异常状况信息存储单元110中存储的异常状况信息,以获取所述异常部件的标识和所述异常部件在车辆坐标系中的位置信息。举例而言,处理单元130可以为车辆的中控系统的处理器,也可以为适配于所述系统100的独立处理器。
作为一种可选的实施方案,检测单元120在确定异常部件的名称以及异常类型后,将该异常部件的名称以及异常类型发送给处理单元130,处理单元130可以在异常状况信息存储单元110中检索对应的所述异常部件的标识和所述异常部件在车辆坐标系中的位置信息。
增强现实成像单元140被配置用于基于所获取的所述异常部件在车辆坐标系中的位置信息,对所述车辆坐标系与用于增强现实成像的虚拟坐标系进行匹配以确定在所述虚拟坐标系中进行增强现实成像的虚拟位置,并且在该虚拟位置基于所述异常部件的标识生成关于所述异常部件的增强现实图像。
在本文中,所述异常部件在车辆坐标系中的位置信息应广义地理解为表示该异常部件或对该异常部件进行操作的按钮在车辆中的实际物理位置或者在车辆的图像中的实际物理位置。所述虚拟坐标系是指通过增强现实技术将关于所述异常部件的增强现实图像在其中进行虚拟投射成像的虚拟坐标系。增强现实成像单元140将车辆坐标系与虚拟坐标系匹配以确定在所述虚拟坐标系中进行增强现实成像的虚拟位置,可以保证在该虚拟位置的投射成像与车辆或车辆的图像中所述异常部件的实际物理位置一致或相对应,从而使得通过该增强现实图像便于驾驶员快速确定异常部件的位置或者对于该异常部件进行操作的按钮的位置。
优选地,所述车辆坐标系和所述虚拟坐标系可以为二维坐标系或三维坐标系。
如上所述,利用本发明所提供的技术方案,当车辆出现部件异常时,可通过增强现实图像的形式提示用户(驾驶员)车辆出现部件异常。所述增强现实图像中可以包括出现异常的部件的标识(例如相关部件的图像和/或视频)、异常类型、部件名称等信息,有助于用户更加直观且准确及时地判断出车辆的异常部件,进而采取相应的措施,降低行车的安全隐患。
在一个实施方案中,增强现实成像单元140被进一步配置为:当检测到车辆用户位于车辆内部时,在用户的视野内基于用户的视角选定所述虚拟坐标系的虚拟坐标原点,根据所述虚拟坐标原点在所述车辆坐标系中的对应位置确定所述车辆坐标系与所述虚拟坐标系的转换关系,基于所述转换关系和所述异常部件在车辆坐标系中的位置信息确定在所述虚拟坐标系中进行增强现实成像的虚拟位置。在该实施方案中,例如,增强现实成像单元140可以为智能眼镜或者包括在所述智能眼镜中的增强现实成像设备。假设,车辆用户佩戴智能眼镜坐在车辆驾驶员位置,通过检测佩戴智能眼镜的车辆用户的视角(例如,正前方视角)可以选定虚拟坐标系的虚拟坐标原点,例如在车辆后轴的中心位置或车辆仪表盘的中心位置。在该实施方案中,用户可以在位于车辆内时通过智能眼镜查看车辆是否出现部件异常。
在一个实施方案中,所述系统包括车辆用户的移动终端设备的显示单元,所述显示单元用于显示车辆的图像,车辆的图像可以包括车辆异常部件和/或车辆的仪表盘。所述增强现实成像单元140被进一步配置为:从车辆的图像中选定所述虚拟坐标系的虚拟坐标原点,根据所述虚拟坐标原点在所述车辆坐标系中的对应位置确定所述车辆坐标系与所述虚拟坐标系的转换关系,基于所述转换关系和所述异常部件在车辆坐标系中的位置信息确定在所述虚拟坐标系中进行增强现实成像的虚拟位置。在该实施方案中,用户可以在位于车辆内或者在离开车辆的情况下,通过移动终端设备查看车辆是否出现部件异常。
例如,作为一种具体的应用场景,用户可以远程开启所述通过增强现实来呈现车辆异常部件的系统100,通过安装于车辆内部的摄像头获取车辆的仪表盘310的监控视频,并通过用户的移动终端设备(例如,智能手机或智能眼镜)的屏幕进行显示。然后,所述系统100通过监控视频中的仪表盘310为投射背景,确定虚拟坐标系与车辆坐标系的转换关系,从而确定出在所述虚拟坐标系中对所述异常部件进行增强现实成像的虚拟位置,基于所述虚拟位置实现增强现实成像(例如,如图3所示,当挡风玻璃清洗液不足时,增强现实图像包括添加挡风玻璃清洗液的部件的图像320)。这样用户就可以在出门前(开车前),预先判断出异常状况,若车辆出现部件异常,可及时解决,提升用户体验,保证行车安全。
作为一种可选的实施方案,也可选择存储于用户移动终端中车辆的图像来实现上述过程。
在一个实施方案中,增强现实成像单元140被进一步配置为:在基于所述异常部件的标识生成关于所述异常部件的增强现实图像时,提供附加提醒信息,所述附加提醒信息包括听觉提醒信息和/或视觉提醒信息。例如,所述听觉提醒信息可以包括各种用于进行语音提示的音频信息,以提示用户注意所述异常部件的增强现实图像;所述视觉提醒信息可以包括视频、图像、图标和/或提醒文字信息,这些视觉提醒信息可以单独呈现在增强现实图像附近或者一起呈现在增强现实图像中。
例如,所述提醒文字信息可以为“轮胎异常”;或者,如图3所示,所述提醒文字信息可以为“添加挡风玻璃清洗液”。
在一个实施方案中,例如,在车辆被驾驶员驾驶期间,所述虚拟位置可以位于驾驶员视野内并且位于车辆前挡风玻璃和侧窗玻璃以外的区域内,以保证生成的增强现实图像不遮挡用户观察路况的视线,从而保证行车安全。但是,所述虚拟位置也可以不受上述的限制。根据应用场景的需要,所述虚拟位置可以位于车辆用户期望看到虚拟增强现实图像的任意位置,比如驾驶员在车门位置通过增强现实图像观察车门里面的故障零件、低头在车辆底盘位置通过增强现实图像观察底盘的故障零件、回头在车辆后挡风玻璃或者车辆其他后部位置处通过增强现实图像观察后备箱的故障零件等。
在一个实施方案中,增强现实成像单元140被进一步配置为:在所述虚拟位置生成增强现实图像之后,在满足以下条件至少之一时取消显示所述增强现实图像:确定所述增强现实图像的显示时长大于预设时间阈值;根据检测到的用户视角判断用户已经观察到所述增强现实图像;检测到用户的手势为取消所述增强现实图像的手势;和/或检测到用户的语音为取消所述增强现实图像的语音。
例如,所述系统100可以包括计时单元,其用于对所述增强现实图像的显示时间进行计时,当判断所述增强现实图像的显示时间大于预设时间阈值时,则取消显示所述增强现实图像。所述预设时间阈值可以根据用户的习惯或要求设定,例如,预设时间阈值可以设定为5s-10s。
另外,例如,所述增强现实成像单元140可以包括(例如,智能眼镜或智能手机等智能终端设备)前置摄像头和后置摄像头,所述“前”指的是朝向用户面部的方向,所述“后”指的是远离用户面部的方向。在一个实施方案中,可通过所述前置摄像头拍摄人眼瞳孔,用以检测车辆用户的视角。当检测到用户视角已经观察到所述增强现实图像时,取消显示所述增强现实图像。或者,也可通过所述后置摄像头拍摄用户的手,用以检测用户的手势。当检测到的手势为取消所述增强现实图像的手势时,则取消显示所述增强现实图像。其中,所述“取消所述增强现实图像的手势”可以包括但不限于:点击、滑动等手势。另外,也可通过检测用户的语音指令来取消显示所述增强现实图像。例如,在检测到包含类似于“取消显示”或“停止显示”的语音指令时,取消显示所述增强现实图像。
另外,在一个实施方案中,所述增强现实成像单元被进一步配置用于:在生成所述增强现实图像之后,获取关于生成的所述增强现实图像的一个或多个图像,并将其发送至所述异常状况信息存储单元和/或用户的移动终端设备。
根据本发明的另一个方面,还提供一种包括所述用于通过增强现实来呈现车辆异常部件的系统的车辆,所述车辆可以是任意类型的车辆,包括人工驾驶车辆和自动驾驶车辆。
图2示出了根据本发明一实施方案的用于通过增强现实来呈现车辆异常部件的方法200。
如图2所示,该通过增强现实来呈现车辆异常部件的方法200包括:
S210:检测车辆的异常状况,以在检测到车辆出现异常时,确定异常部件的名称以及异常类型;
S220:基于所确定的异常部件的名称以及异常类型,检索所存储的异常状况信息,以获取所述异常部件的标识和所述异常部件在车辆坐标系中的位置信息,其中所述异常状况信息至少包括车辆的一个或多个部件的标识、名称、异常类型以及所述一个或多个部件在车辆坐标系中的位置信息;
S230:基于所获取的所述异常部件在车辆坐标系中的位置信息,对所述车辆坐标系与用于增强现实成像的虚拟坐标系进行匹配以确定在所述虚拟坐标系中进行增强现实成像的虚拟位置,并且在该虚拟位置基于所述异常部件的标识生成关于所述异常部件的增强现实图像。
在一个实施方案中,所述基于所获取的所述异常部件在车辆坐标系中的位置信息,对所述车辆坐标系与用于增强现实成像的虚拟坐标系进行匹配以确定在所述虚拟坐标系中进行增强现实成像的虚拟位置包括:
当检测到车辆用户位于车辆内部时,在用户的视野内基于用户的视角选定所述虚拟坐标系的虚拟坐标原点,根据所述虚拟坐标原点在所述车辆坐标系中的对应的位置确定所述车辆坐标系与所述虚拟坐标系的转换关系,基于所述转换关系和所述异常部件在车辆坐标系中的位置信息确定在所述虚拟坐标系中进行增强现实成像的虚拟位置。
在一个实施方案中,所述基于所获取的所述异常部件在车辆坐标系中的位置信息,对所述车辆坐标系与用于增强现实成像的虚拟坐标系进行匹配以确定在所述虚拟坐标系中进行增强现实成像的虚拟位置包括:
从车辆用户的移动终端设备的显示单元中显示的车辆的图像中选定所述虚拟坐标系的虚拟坐标原点,根据所述虚拟坐标原点在所述车辆坐标系中的位置确定所述车辆坐标系与所述虚拟坐标系的转换关系,基于所述转换关系和所述异常部件在车辆坐标系中的位置信息确定在所述虚拟坐标系中进行增强现实成像的虚拟位置。
在一个实施方案中,所述方法进一步包括:在基于所述异常部件的标识生成关于所述异常部件的增强现实图像时,提供附加提醒信息,所述附加提醒信息包括听觉提醒信息和/或视觉提醒信息。
在一个实施方案中,所述方法进一步包括:在所述虚拟位置生成增强现实图像之后,在满足以下条件至少之一时取消显示所述增强现实图像:
确定所述增强现实图像的显示时长大于预设时间阈值;
根据检测到的用户视角判断用户已经观察到所述增强现实图像;
检测到用户的手势为取消所述增强现实图像的手势;和/或
检测到用户的语音为取消所述增强现实图像的语音。
应理解,本文中前述关于通过增强现实来呈现车辆异常部件的系统所描述的具体特征也可类似地应用于通过增强现实来呈现车辆异常部件的方法中,进行类似扩展。为简化起见,未对其进行详细描述。
本发明的另一方面还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序在被处理器执行时实现上述任一项所述的方法。
另外,应理解上述通过增强现实来呈现车辆异常部件的系统100中的各个单元可全部或部分通过软件、硬件及其组合来实现。上述各单元可以硬件形式内嵌于或独立于增强现实成像设备中的处理器中,也可以以软件形式存储于增强现实成像设备中的存储器中,以便于处理器调用执行以上各个单元对应的操作。
在一个实施方案中,提供了一种增强现实成像设备,包括存储器及处理器,所述存储器上存储有可在处理器上运行的计算机程序,处理器执行计算机程序时实现上述任意一个实施方案中的方法的步骤。所述增强现实成像设备可以包括能够支持增强现实技术的智能眼镜、移动终端设备等。该增强现实成像设备包括通过系统总线连接的处理器、存储器、网络接口和数据库。该增强现实成像设备的处理器用于提供计算和控制能力。该增强现实成像设备的存储器包括非易失性存储介质和内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该增强现实成像设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现本发明的通过增强现实来呈现车辆异常部件的方法。
本领域技术人员可以理解,图1中示出的通过增强现实来呈现车辆异常部件的系统100的示意图仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的增强现实成像设备的限定,具体的增强现实成像设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
本领域普通技术人员可以理解实现根据本发明的上述实施方案的方法中的全部或部分步骤,可以通过计算机程序来指示相关的硬件完成,所述的计算机程序可存储于非易失性的计算机可读存储介质中,该计算机程序在执行时,可实施如上述各方法的实施方案的步骤。其中,本申请所提供的各实施方案中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。
以上实施方案的各个技术特征可以进行任意的组合,为使描述简洁,未对上述实施方案中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
尽管结合实施方案对本发明进行了描述,但本领域技术人员应理解,上文的描述和附图仅是示例性而非限制性的,本发明不限于所公开的实施方案。在不偏离本发明的精神的情况下,各种改型和变体是可能的。

Claims (13)

1.一种用于通过增强现实来呈现车辆异常部件的系统,其特征在于,所述系统包括:
异常状况信息存储单元,被配置用于存储车辆的一个或多个部件的异常状况信息,其中,所述异常状况信息至少包括车辆的所述一个或多个部件的标识、名称、异常类型以及所述一个或多个部件在车辆坐标系中的位置信息;
检测单元,被配置用于检测车辆的异常状况,以在检测到车辆出现异常时,确定异常部件的名称以及异常类型;
处理单元,被配置用于基于所述检测单元确定的异常部件的名称以及异常类型,检索所述异常状况信息存储单元中存储的异常状况信息,以获取所述异常部件的标识和所述异常部件在车辆坐标系中的位置信息;
增强现实成像单元,被配置用于基于所获取的所述异常部件在车辆坐标系中的位置信息,对所述车辆坐标系与用于增强现实成像的虚拟坐标系进行匹配以确定在所述虚拟坐标系中进行增强现实成像的虚拟位置,并且在该虚拟位置基于所述异常部件的标识生成关于所述异常部件的增强现实图像。
2.根据权利要求1所述的系统,其中,所述增强现实成像单元被进一步配置为:
当检测到车辆用户位于车辆内部时,在用户的视野内基于用户的视角选定所述虚拟坐标系的虚拟坐标原点,根据所述虚拟坐标原点在所述车辆坐标系中的对应的位置确定所述车辆坐标系与所述虚拟坐标系的转换关系,基于所述转换关系和所述异常部件在车辆坐标系中的位置信息确定在所述虚拟坐标系中进行增强现实成像的虚拟位置。
3.根据权利要求1所述的系统,其中,所述系统包括车辆用户的移动终端设备的显示单元,所述显示单元用于显示车辆的图像,
所述增强现实成像单元被进一步配置为:
从车辆的图像中选定所述虚拟坐标系的虚拟坐标原点,根据所述虚拟坐标原点在所述车辆坐标系中的对应位置确定所述车辆坐标系与所述虚拟坐标系的转换关系,基于所述转换关系和所述异常部件在车辆坐标系中的位置信息确定在所述虚拟坐标系中进行增强现实成像的虚拟位置。
4.根据权利要求1-3中任一项所述的系统,其中,所述增强现实成像单元被进一步配置为:在基于所述异常部件的标识生成关于所述异常部件的增强现实图像时,提供附加提醒信息,所述附加提醒信息包括听觉提醒信息和/或视觉提醒信息。
5.根据权利要求1-3中任一项所述的系统,其中,所述增强现实成像单元被进一步配置为:在所述虚拟位置生成增强现实图像之后,在满足以下条件至少之一时取消显示所述增强现实图像:
确定所述增强现实图像的显示时长大于预设时间阈值;
根据检测到的用户视角判断用户已经观察到所述增强现实图像;
检测到用户的手势为取消所述增强现实图像的手势;和/或
检测到用户的语音为取消所述增强现实图像的语音。
6.一种车辆,其特征在于,包括根据权利要求1-5中任一项所述的用于通过增强现实来呈现车辆异常部件的系统。
7.一种用于通过增强现实来呈现车辆异常部件的方法,其特征在于,所述方法包括:
检测车辆的异常状况,以在检测到车辆出现异常时,确定异常部件的名称以及异常类型;
基于所确定的异常部件的名称以及异常类型,检索所存储的异常状况信息,以获取所述异常部件的标识和所述异常部件在车辆坐标系中的位置信息,其中所述异常状况信息至少包括车辆的一个或多个部件的标识、名称、异常类型以及所述一个或多个部件在车辆坐标系中的位置信息;
基于所获取的所述异常部件在车辆坐标系中的位置信息,对所述车辆坐标系与用于增强现实成像的虚拟坐标系进行匹配以确定在所述虚拟坐标系中进行增强现实成像的虚拟位置,并且在该虚拟位置基于所述异常部件的标识生成关于所述异常部件的增强现实图像。
8.根据权利要求7所述的方法,其中,所述基于所获取的所述异常部件在车辆坐标系中的位置信息,对所述车辆坐标系与用于增强现实成像的虚拟坐标系进行匹配以确定在所述虚拟坐标系中进行增强现实成像的虚拟位置包括:
当检测到车辆用户位于车辆内部时,在用户的视野内基于用户的视角选定所述虚拟坐标系的虚拟坐标原点,根据所述虚拟坐标原点在所述车辆坐标系中的对应的位置确定所述车辆坐标系与所述虚拟坐标系的转换关系,基于所述转换关系和所述异常部件在车辆坐标系中的位置信息确定在所述虚拟坐标系中进行增强现实成像的虚拟位置。
9.根据权利要求7所述的方法,其中,所述基于所获取的所述异常部件在车辆坐标系中的位置信息,对所述车辆坐标系与用于增强现实成像的虚拟坐标系进行匹配以确定在所述虚拟坐标系中进行增强现实成像的虚拟位置包括:
从车辆用户的移动终端设备的显示单元中显示的车辆的图像中选定所述虚拟坐标系的虚拟坐标原点,根据所述虚拟坐标原点在所述车辆坐标系中的对应位置确定所述车辆坐标系与所述虚拟坐标系的转换关系,基于所述转换关系和所述异常部件在车辆坐标系中的位置信息确定在所述虚拟坐标系中进行增强现实成像的虚拟位置。
10.根据权利要求7-9中任一项所述的方法,进一步包括:
在基于所述异常部件的标识生成关于所述异常部件的增强现实图像时,提供附加提醒信息,所述附加提醒信息包括听觉提醒信息和/或视觉提醒信息。
11.根据权利要求7-9中任一项所述的方法,进一步包括,在所述虚拟位置生成增强现实图像之后,在满足以下条件至少之一时取消显示所述增强现实图像:
确定所述增强现实图像的显示时长大于预设时间阈值;
根据检测到的用户视角判断用户已经观察到所述增强现实图像;
检测到用户的手势为取消所述增强现实图像的手势;和/或
检测到用户的语音为取消所述增强现实图像的语音。
12.一种增强现实成像设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求7-11中任一项所述的方法。
13.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序在被处理器执行时实现权利要求7-11中任一项所述的方法。
CN202010885153.4A 2020-08-28 2020-08-28 通过增强现实呈现车辆异常部件的系统、方法和存储介质 Pending CN114125415A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010885153.4A CN114125415A (zh) 2020-08-28 2020-08-28 通过增强现实呈现车辆异常部件的系统、方法和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010885153.4A CN114125415A (zh) 2020-08-28 2020-08-28 通过增强现实呈现车辆异常部件的系统、方法和存储介质

Publications (1)

Publication Number Publication Date
CN114125415A true CN114125415A (zh) 2022-03-01

Family

ID=80374964

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010885153.4A Pending CN114125415A (zh) 2020-08-28 2020-08-28 通过增强现实呈现车辆异常部件的系统、方法和存储介质

Country Status (1)

Country Link
CN (1) CN114125415A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114815779A (zh) * 2022-04-25 2022-07-29 深圳市希车智能科技有限公司 基于ar与vr的汽车远程交互诊断方法、系统及其存储介质
CN115359586A (zh) * 2022-09-01 2022-11-18 陕西省君凯电子科技有限公司 一种行车记录管理方法和系统

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104176008A (zh) * 2014-08-25 2014-12-03 重庆守护神电子科技有限公司 汽车报警方法及装置及系统
CN107729372A (zh) * 2017-09-12 2018-02-23 维沃移动通信有限公司 一种异常指示方法及移动终端
CN108437896A (zh) * 2018-02-08 2018-08-24 深圳市赛格导航科技股份有限公司 车辆驾驶辅助方法、装置、设备及存储介质
CN108519817A (zh) * 2018-03-26 2018-09-11 广东欧珀移动通信有限公司 基于增强现实的交互方法、装置、存储介质及电子设备
CN108621986A (zh) * 2018-03-29 2018-10-09 惠州市德赛西威汽车电子股份有限公司 一种数字仪表报警处理方法
CN208239883U (zh) * 2018-04-27 2018-12-14 重庆车云金服科技股份有限公司 汽车故障智能检测系统
CN109213885A (zh) * 2017-06-29 2019-01-15 深圳市掌网科技股份有限公司 基于增强现实的汽车展示方法及系统
CN109961522A (zh) * 2019-04-02 2019-07-02 百度国际科技(深圳)有限公司 图像投射方法、装置、设备和存储介质
US20190279438A1 (en) * 2018-03-09 2019-09-12 Progress Rail Locomotive Inc. Systems and methods for servicing a vehicle
CN110321005A (zh) * 2019-06-14 2019-10-11 深圳传音控股股份有限公司 一种提高ar设备虚拟物件显示效果的方法、装置、ar设备和存储介质
CN110490339A (zh) * 2019-08-23 2019-11-22 北京枭龙科技有限公司 一种基于增强现实的汽车维修辅助系统及方法
CN110914873A (zh) * 2019-10-17 2020-03-24 深圳盈天下视觉科技有限公司 增强现实方法、装置、混合现实眼镜及存储介质
CN111399478A (zh) * 2020-03-23 2020-07-10 上海工程技术大学 一种基于vr的轨道车辆电气智能维修支持系统和方法

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104176008A (zh) * 2014-08-25 2014-12-03 重庆守护神电子科技有限公司 汽车报警方法及装置及系统
CN109213885A (zh) * 2017-06-29 2019-01-15 深圳市掌网科技股份有限公司 基于增强现实的汽车展示方法及系统
CN107729372A (zh) * 2017-09-12 2018-02-23 维沃移动通信有限公司 一种异常指示方法及移动终端
CN108437896A (zh) * 2018-02-08 2018-08-24 深圳市赛格导航科技股份有限公司 车辆驾驶辅助方法、装置、设备及存储介质
US20190279438A1 (en) * 2018-03-09 2019-09-12 Progress Rail Locomotive Inc. Systems and methods for servicing a vehicle
CN108519817A (zh) * 2018-03-26 2018-09-11 广东欧珀移动通信有限公司 基于增强现实的交互方法、装置、存储介质及电子设备
CN108621986A (zh) * 2018-03-29 2018-10-09 惠州市德赛西威汽车电子股份有限公司 一种数字仪表报警处理方法
CN208239883U (zh) * 2018-04-27 2018-12-14 重庆车云金服科技股份有限公司 汽车故障智能检测系统
CN109961522A (zh) * 2019-04-02 2019-07-02 百度国际科技(深圳)有限公司 图像投射方法、装置、设备和存储介质
CN110321005A (zh) * 2019-06-14 2019-10-11 深圳传音控股股份有限公司 一种提高ar设备虚拟物件显示效果的方法、装置、ar设备和存储介质
CN110490339A (zh) * 2019-08-23 2019-11-22 北京枭龙科技有限公司 一种基于增强现实的汽车维修辅助系统及方法
CN110914873A (zh) * 2019-10-17 2020-03-24 深圳盈天下视觉科技有限公司 增强现实方法、装置、混合现实眼镜及存储介质
CN111399478A (zh) * 2020-03-23 2020-07-10 上海工程技术大学 一种基于vr的轨道车辆电气智能维修支持系统和方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114815779A (zh) * 2022-04-25 2022-07-29 深圳市希车智能科技有限公司 基于ar与vr的汽车远程交互诊断方法、系统及其存储介质
CN114815779B (zh) * 2022-04-25 2023-01-10 深圳市希车智能科技有限公司 基于ar与vr的汽车远程交互诊断方法、系统及其存储介质
CN115359586A (zh) * 2022-09-01 2022-11-18 陕西省君凯电子科技有限公司 一种行车记录管理方法和系统

Similar Documents

Publication Publication Date Title
US11756133B2 (en) Systems and methods for assessing risk based on driver gesture behaviors
US20170057413A1 (en) Vehicle blind spot system operation with trailer tow
US9043042B2 (en) Method to map gaze position to information display in vehicle
US10181196B2 (en) Trailer tracking apparatus and method
US11511759B2 (en) Information processing system, information processing device, information processing method, and non-transitory computer readable storage medium storing program
US9823735B2 (en) Method for selecting an information source from a plurality of information sources for display on a display of smart glasses
CN114125415A (zh) 通过增强现实呈现车辆异常部件的系统、方法和存储介质
US20210358283A1 (en) Monitoring apparatus, vehicle, monitoring method and information processing apparatus
WO2019033469A1 (zh) 基于透明显示器的增强现实显示方法和装置
US20200348799A1 (en) Implementation method and apparatus of system user interface
US10248132B2 (en) Method and apparatus for visualization of an environment of a motor vehicle
CN106295553B (zh) 基于图像识别的交互式泊车方法、系统及车辆
CN114347950A (zh) 车辆异常处理方法、车载设备及电子设备
JP2007172378A (ja) 注視対象物体特定装置
CN113778294A (zh) 用于avp的交互界面的处理方法、装置、设备与介质
CN110188645B (zh) 用于车载场景的人脸检测方法、装置、车辆及存储介质
CN107850989A (zh) 用于在车辆中呈现信息的方法、装置和系统
WO2018187967A1 (en) Apparatus, server and method for vehicle sharing
JP2019109689A (ja) 視線検出装置
JP2018148530A (ja) 車両用表示制御装置、車両用表示システム、車両用表示制御方法およびプログラム
JP2010030361A (ja) 運転状態監視装置
CN112172670B (zh) 基于图像识别的后视图像显示方法及装置
CN113436464A (zh) 车辆危险预警方法、装置、设备及存储介质
JP6136891B2 (ja) 視線検出装置、および視線検出方法
CN112488096A (zh) 行车过程中文本信息的获取方法及装置、计算机设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination