CN114815779A - 基于ar与vr的汽车远程交互诊断方法、系统及其存储介质 - Google Patents

Abstract

本发明公开了一种基于AR与VR的汽车远程交互诊断方法、系统及其存储介质，该方法包括：获取汽车诊断信息、汽车以及汽车现场操作过程的音频信息，以及利用全景摄像头采集汽车以及现场操作过程的视频图像信息，加载到VR应用软件生成前端VR呈现程序上报远程服务器；利用AR设备呈现汽车以及现场操作过程的立体情景，并根据汽车诊断信息和前端VR呈现程序判断汽车故障类型并根据汽车故障类型匹配故障排除方案，下发故障排除方案以及对应的方案VR呈现程序，引导对汽车进行诊断以及故障排除。本申请准确、高效、便捷地实现汽车远程交互式诊断，提升用户远程维修诊断的体验。

Description

基于AR与VR的汽车远程交互诊断方法、系统及其存储介质

技术领域

本申请涉及汽车远程诊断技术领域，特别是一种基于AR与VR的汽车远程交互诊断方法、系统及其存储介质。

背景技术

汽车远程诊断技术是汽车诊断技术未来的发展方向。汽车远程诊断系统是汽车诊断技术结合互联网，实现远程汽车故障诊断和修复，减少汽车的维修成本的系统。现有汽车诊断系统称为“车载自动诊断系统”，简称OBD，是英文On-Board Diagnostics的缩写。它是在汽车运行过程中不断监测汽车电子器件工作情况，当发现异常的时候，根据特定的算法判断出具体的故障，并以代码的方式存储下来，同时启动对应的故障运行模块功能，并且通过故障灯提醒驾驶员，请驾驶员将汽车驾驶到修理厂进行维修，维修人员可以利用汽车故障自诊断功能调出故障码，快速对故障进行定位和修复。具体的，现代汽车电子控制单元(ECU)都具有故障自诊断的功能，在汽车运行中能够对各个传感器，执行器和连接线路进行不断的监测。它们共用汽车电子控制系统的信号输入电路。汽车运行时，电子控制系统输入和输出信号的电压或者电流值都有一定的变化范围，当某一个信号超出了预设的范围值，并且这一现象在一定的时间内不会消失，故障自诊断系统便判断为这一个信号对应的电路或者元器件出现故障，并将这一故障以代码的形式存入内部存储器，同时点亮仪表盘上的故障指示灯。

VR技术、AR技术正逐步向工业制造领域渗透和应用，为工业领域的研发、生成、管理、服务、销售和售后市场等各环节带来了深刻变革，将对智能制造产生不可估量的影响。VR/AR技术在汽车后市场维保方向的应用趋势将是：结合5G+云平台技术，将车企的主机厂、配件供应商、工厂4S店、品牌维修中心及汽修连锁店等各个B端的用户，甚至也包含维修技师和购车用户这样的C端用户，进行一个汽车后市场数字化维修资源的整合，可以根据不同终端用户的使用需求，设置不同的权限，在终端用户需要的时候，就可以方便快捷地去获取和利用这些VR/AR资源，并且支持多样化的移动终端，包括：VR/AR终端、PC端、网页端、手机移动端等等。基于AR技术和VR技术发展，人们开发了用于辅助汽车远程诊断的系统，如北美宝马公司宣布推出的用于宝马中心、4S店和车间等场景的全套AR解决方案，包括技术信息系统TIS 2.0、技术支持与科研辅助线上平台TSARA以及TSARAVision智能眼镜(硬件采用RealWear HMT-1，并搭载Ubimax FrontlineVR软件)。用于帮助技术人员快速获得信息和实时的远程支持，远程专家以AR形式将技术指示和示意图投射在现场技术人员的显示屏中，也可以通过智能眼镜看到现场情况，并截屏和放大查看以做出判断。同时现场人员可通过语音控制调阅文档，不需要双手点击操作，从而节省时间，提高工作效率，这种信息交流方式比发送电子表格和照片或通过电话解释复杂的技术问题更高效。

然而，现有汽车远程诊断系统往往是将现场汽车诊断信息和现场音频/视频信息上传到服务器端，在服务器端通过AR技术或者VR技术呈现汽车检测情况，以便于后端技术人员能够远程地进行汽车检测、诊断以及维修，然后通过音频、视频等方式实时指导现场人员对汽车进行故障检测、诊断以及维修。由于AR、VR进行数据交互较为复杂，不可避免地存在数据偏差，从而使得远程辅助工作无法顺利进行，影响了用户体验。

发明内容

本发明的主要目的在于提出一种基于AR与VR的汽车远程交互诊断方法、系统及其存储介质，旨在解决现有的汽车远程诊断系统运行存在数据偏差而影响工作效率的技术问题。

为了解决上述技术问题，本发明提供了一种基于AR与VR的汽车远程交互诊断方法，所述方法包括：

获取汽车诊断信息、汽车以及汽车现场操作过程的音频信息，以及利用全景摄像头采集汽车以及现场操作过程的视频图像信息；

将所述汽车诊断信息、所述音频信息、所述视频图像信息加载到VR应用软件生成前端VR呈现程序，并将所述汽车诊断信息、所述音频信息、所述视频图像信息以及所述前端VR呈现程序上报远程服务器；

在所述远程服务器根据所述视频图形信息、所述音频信息利用AR设备呈现汽车以及现场操作过程的立体情景，并根据所述汽车诊断信息和所述前端VR呈现程序判断汽车故障类型并根据所述汽车故障类型匹配故障排除方案，下发所述故障排除方案以及对应的方案VR呈现程序；

接收到所述故障排除方案和所述方案VR呈现程序，根据所述故障排除方案提供的信息和所述方案VR呈现程序的引导对汽车进行诊断以及故障排除。

进一步的，所述将所述汽车诊断信息、所述音频信息、所述视频图像信息加载到VR应用软件生成前端VR呈现程序，并将所述汽车诊断信息、所述音频信息、所述视频图像信息以及所述前端VR呈现程序上报远程服务器的步骤之前，所述方法还包括：

在现场使用的移动终端和所述远程服务器上安装所述VR应用软件。

进一步的，根据所述汽车诊断信息和所述前端VR呈现程序判断汽车故障类型并根据所述汽车故障类型匹配故障排除方案包括：

根据所述汽车诊断信息、所述音频信息、所述视频图像信息判断所述前端VR呈现程序是否匹配，若是不匹配，下发重新采集所述汽车诊断信息、所述音频信息、所述视频图像信息的提示。

进一步的，根据所述汽车诊断信息和所述前端VR呈现程序判断汽车故障类型并根据所述汽车故障类型匹配故障排除方案包括：

根据所述汽车诊断信息、所述音频信息、所述视频图像信息判断所述前端VR呈现程序是否匹配，若匹配，根据所述汽车诊断信息结合故障诊断码确定所述汽车故障类型，并根据所述汽车故障类型在故障解决数据库中匹配对应的故障排除方案。

进一步的，所述下发所述故障排除方案以及对应的方案VR呈现程序包括：

下发所述故障排除方案，包括用于消除汽车故障的数据、算法、操作指令或者进一步进行汽车诊断的算法、操作指令；

根据所述音频信息、所述视频图像信息或者所述前端VR呈现程序将所述故障排除方案生成所述方案VR呈现程序，所述方案VR呈现程序包括故障排除指导程序、再诊断操作指定程序。

进一步的，根据所述汽车诊断信息和所述前端VR呈现程序判断汽车故障类型并根据所述汽车故障类型匹配故障排除方案包括：

根据所述汽车诊断信息和所述音频信息、所述视频图像信息判断所述前端VR呈现程序是否匹配，若匹配，在所述远程服务器和所述移动终端同时记录对应的汽车信息，当移动终端所采集的所述汽车诊断信息于所述汽车信息匹配时，所述远程服务器和所述移动终端调取对应的记录信息。

进一步的，根据所述汽车诊断信息和所述前端VR呈现程序判断汽车故障类型并根据所述汽车故障类型匹配故障排除方案，下发所述故障排除方案以及对应的方案VR呈现程序的步骤之后，所述方法还包括：

接收到所述故障排除方案和所述方案VR呈现程序，通过语音、视频或图像识别方式提供所述故障排除方案和所述方案VR呈现程序，引导对汽车进行诊断以及故障排除。

进一步的，根据所述汽车诊断信息和所述前端VR呈现程序判断汽车故障类型并根据所述汽车故障类型匹配故障排除方案，下发所述故障排除方案以及对应的方案VR呈现程序的步骤之后，所述方法还包括：

接收到所述故障排除方案和所述方案VR呈现程序，与所述远程服务器实时通信，引导用户根据所述故障排除方案和所述方案VR呈现程序引导对汽车进行诊断以及故障排除，并监控操作错误情况。

基于同一发明构思，本发明的另一方面，提供了一种基于AR与VR的交互式汽车远程诊断系统，所述系统至少包括移动终端、远程服务器、AR设备，所述移动终端和所述远程服务器内集成设置有VR应用软件；

所述移动终端，用于与汽车系统进行交互，获取汽车诊断信息、汽车以及汽车现场操作过程的音频信息，以及利用全景摄像头采集汽车以及现场操作过程的视频图像信息；将所述汽车诊断信息和所述音频信息、所述视频图像信息加载到VR应用软件生成前端VR呈现程序，并将所述汽车诊断信息、所述音频信息、所述视频图像信息以及所述前端VR呈现程序上报远程服务器；接收到故障排除方案和方案VR呈现程序，根据故障排除方案提供的信息和方案VR呈现程序的引导对汽车进行诊断以及故障排除。

所述远程服务器，用于与所述移动终端进行交互，根据所述汽车诊断信息和所述前端VR呈现程序判断汽车故障类型并根据所述汽车故障类型匹配故障排除方案，下发所述故障排除方案以及对应的方案VR呈现程序。

所述AR设备，用于与所述远程服务器进行交互，根据所述视频图形信息、所述音频信息利用AR设备呈现汽车以及现场操作过程的立体情景。

基于同一发明构思，本发明的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质上存储有基于AR与VR的交互式汽车远程诊断程序，所述基于AR与VR的交互式汽车远程诊断程序被处理器执行时实现上述的基于AR与VR的汽车远程交互诊断方法的步骤。

本发明技术方案的有益效果：

本申请的基于AR与VR的汽车远程交互诊断方法、系统及其存储介质，通过在远程服务器、现场移动终端(如故障诊断设备、智能手机、VR眼镜等)同时安装VR应用软件，从而远程技术人员可以通过远程服务器获取汽车以及现场操作过程数据，并通过AR设备呈现汽车以及现场操作过程的立体情景，为现场人员快速地提供故障排除方案，该故障排除方案同样可以通过现场的VR应用软件进行直观地呈现，从而准确、高效、便捷地实现汽车远程交互式诊断，提升用户远程维修诊断的体验。

附图说明

图1是实现本发明各个实施例的一种移动终端的硬件结构示意图；

图2是本发明实施例提供的一种通信网络系统架构图；

图3是本发明实施例提供的一种基于AR与VR的汽车远程交互诊断方法流程图；

图4是本发明实施例提供的一种基于AR与VR的交互式汽车远程诊断系统硬件结构框图；

本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。

具体实施方式

应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

在后续的描述中，使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明，其本身没有特定的意义。因此，“模块”、“部件”或“单元”可以混合地使用。

移动终端可以以各种形式来实施，只要能够满足汽车维修保养功能应用软件以及虚拟现实仿真平台软件的基本运行环境要求即可。例如，本发明中描述的终端可以包括诸如汽车故障诊断仪、VR眼镜、手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(Personal Digital Assistant，PDA)、便捷式媒体播放器(Portable Media Player，PMP)、导航装置、可穿戴设备、智能手环、计步器等移动终端，以及诸如数字TV、台式计算机等固定终端。

后续描述中将以移动终端为例进行说明，本领域技术人员将理解的是，除了特别用于移动目的的元件之外，根据本发明的实施方式的构造也能够应用于固定类型的终端。

请参阅图1，其为实现本发明各个实施例的一种移动终端的硬件结构示意图，该移动终端100可以包括：RF(Radio Frequency，射频)单元101、WiFi模块102、音频输出单元103、A/V(音频/视频)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解，图1中示出的移动终端结构并不构成对移动终端的限定，移动终端可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。

下面结合图1对移动终端的各个部件进行具体的介绍：

射频单元101可用于收发信息或通话过程中，信号的接收和发送，具体的，将基站的下行信息接收后，给处理器110处理；另外，将上行的信息发送给基站。通常，射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外，射频单元101还可以通过公共交通费用快捷支付与网络和其他设备通信。上述公共交通费用快捷支付可以使用任一通信标准或协议，包括但不限于GSM(Global System of Mobilecommunication，全球移动通讯系统)、GPRS(General Packet Radio Service，通用分组无线服务)、CDMA2000(Code Division Multiple Access 2000，码分多址2000)、WCDMA(Wideband Code Division Multiple Access,宽带码分多址)、TD-SCDMA(Time Division-Synchronous Code Division Multiple Access，时分同步码分多址)、FDD-LTE(FrequencyDivision Duplexing-Long Term Evolution，频分双工长期演进)和TDD-LTE(TimeDivision Duplexing-Long Term Evolution，分时双工长期演进)等。

WiFi属于短距离无线传输技术，移动终端通过WiFi模块102可以帮助用户收发电子邮件、浏览页面和访问流式媒体等，它为用户提供了无线的宽带互联网访问。虽然图1示出了WiFi模块102，但是可以理解的是，其并不属于移动终端的必须构成，完全可以根据需要在不改变发明的本质的范围内而省略。

音频输出单元103可以在移动终端100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时，将射频单元101或WiFi模块102接收的或者在存储器109中存储的音频信息转换成音频信号并且输出为声音。而且，音频输出单元103还可以提供与移动终端100执行的特定功能相关的音频输出(例如，呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。

A/V输入单元104用于接收音频或视频信号。A/V输入单元104可以包括图形处理器(Graphics Processing Unit，GPU)1041和麦克风1042，图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像信息进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或WiFi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频信息)，并且能够将这样的声音处理为音频信息。处理后的音频(语音)信息可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。

移动终端100还包括至少一种传感器105，比如光传感器、运动传感器以及其他传感器。具体地，光传感器包括环境光传感器及接近传感器，其中，环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度，接近传感器可在移动终端100移动到耳边时，关闭显示面板1061和/或背光。作为运动传感器的一种，加速计传感器可检测各个方向上(一般为三轴)加速度的大小，静止时可检测出重力的大小及方向，可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等；至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器，在此不再赘述。

显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061，可以采用液晶显示器(Liquid Crystal Display，LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板1061。

用户输入单元107可用于接收输入的数字或字符信息，以及产生与移动终端的用户设置以及功能控制有关的键信号输入。具体地，用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071，也称为触摸屏，可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作)，并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成触点坐标，再送给处理器110，并能接收处理器110发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071，用户输入单元107还可以包括其他输入设备1072。具体地，其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种，具体此处不做限定。

进一步的，触控面板1071可覆盖显示面板1061，当触控面板1071检测到在其上或附近的触摸操作后，传送给处理器110以确定触摸事件的类型，随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中，触控面板1071与显示面板1061是作为两个独立的部件来实现移动终端的输入和输出功能，但是在某些实施例中，可以将触控面板1071与显示面板1061集成而实现移动终端的输入和输出功能，具体此处不做限定。

接口单元108用作至少一个外部装置与移动终端100连接可以通过的接口。例如，外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线信息端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如，数据、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端100和外部装置之间传输信息。

存储器109可用于存储软件程序以及各种信息。存储器109可主要包括存储程序区和存储信息区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储信息区可存储根据手机的使用所创建的信息(比如音频信息、电话本等)等。此外，存储器109可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。

处理器110是移动终端的控制中心，利用各种接口和线路连接整个移动终端的各个部分，通过运行或执行存储在存储器109内的软件程序和/或模块，以及调用存储在存储器109内的信息，执行移动终端的各种功能和处理信息，从而对移动终端进行整体监控。处理器110可包括一个或多个处理单元；优选的，处理器110可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理公共交通费用快捷支付。可以理解的是，上述调制解调处理器也可以不集成到处理器110中。

移动终端100还可以包括给各个部件供电的电源111(比如电池)，优选的，电源111可以通过电源管理系统与处理器110逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。

尽管图1未示出，移动终端100还可以包括蓝牙模块等，在此不再赘述。

为了便于理解本发明实施例，下面对本发明的移动终端所基于的通信网络系统进行描述。

请参阅图2，图2为本发明实施例提供的一种通信网络系统架构图，该通信网络系统为通用移动通信技术的LTE系统，该LTE系统包括依次通讯连接的UE(User Equipment，用户设备)201，E-UTRAN(Evolved UMTS Terrestrial Radio Access Network，演进式UMTS陆地无线接入网)202，EPC(Evolved Packet Core，演进式分组核心网)203和运营商的IP业务204。

具体地，UE201可以是上述终端100，此处不再赘述。

E-UTRAN202包括eNodeB2021和其它eNodeB2022等。其中，eNodeB2021可以通过回程(backhaul)(例如X2接口)与其它eNodeB2022连接，eNodeB2021连接到EPC203，eNodeB2021可以提供UE201到EPC203的接入。

EPC203可以包括MME(Mobility Management Entity，移动性管理实体)2031，HSS(Home Subscriber Server，归属用户服务器)2032，其它MME2033，SGW(Serving Gate Way，服务网关)2034，PGW(PDN Gate Way，分组信息网络网关)2035和PCRF(Policy andCharging Rules Function，政策和资费功能实体)2036等。其中，MME2031是处理UE201和EPC203之间信令的控制节点，提供承载和连接管理。HSS2032用于提供一些寄存器来管理诸如归属位置寄存器(图中未示)之类的功能，并且保存有一些有关服务特征、信息速率等用户专用的信息。所有用户信息都可以通过SGW2034进行发送，PGW2035可以提供UE 201的IP地址分配以及其它功能，PCRF2036是业务信息包和IP承载资源的策略与计费控制策略决策点，它为策略与计费执行功能单元(图中未示)选择及提供可用的策略和计费控制决策。

IP业务204可以包括因特网、内联网、IMS(IP Multimedia Subsystem，IP多媒体子系统)或其它IP业务等。

虽然上述以LTE系统为例进行了介绍，但本领域技术人员应当知晓，本发明不仅仅适用于LTE系统，也可以适用于其他公共交通费用快捷支付系统，例如GSM、CDMA2000、WCDMA、TD-SCDMA以及未来新的网络系统等，此处不做限定。

基于上述移动终端100硬件结构、通信网络系统提出本发明方法各个实施例。

实施例1

如图3所示，本发明实施例提供了一种基于AR与VR的汽车远程交互诊断方法，所述方法包括：

S101、获取汽车诊断信息、汽车以及汽车现场操作过程的音频信息，以及利用全景摄像头采集汽车以及现场操作过程的视频图像信息；

可选的，将所述汽车诊断信息、所述音频信息、所述视频图像信息加载到VR应用软件生成前端VR呈现程序，并将所述汽车诊断信息、所述音频信息、所述视频图像信息以及所述前端VR呈现程序上报远程服务器的步骤之前，所述方法还包括：在现场使用的移动终端和所述远程服务器上安装所述VR应用软件。例如，MakeReal3D“工业产品全生命周期虚拟现实仿真平台”，集成了虚拟现实仿真技术在产品设计、制造、营销、使用、维护等生命周期各环节的应用与开发，从而帮助工业客户提高工作效率及产品体验。

S102、将所述汽车诊断信息、所述音频信息、所述视频图像信息加载到VR应用软件生成前端VR呈现程序，并将所述汽车诊断信息、所述音频信息、所述视频图像信息以及所述前端VR呈现程序上报远程服务器；

S103、在所述远程服务器根据所述视频图形信息、所述音频信息利用AR设备呈现汽车以及现场操作过程的立体情景，并根据所述汽车诊断信息和所述前端VR呈现程序判断汽车故障类型并根据所述汽车故障类型匹配故障排除方案，下发所述故障排除方案以及对应的方案VR呈现程序；

具体的，根据所述汽车诊断信息和所述音频信息、所述视频图像信息判断所述前端VR呈现程序是否匹配，若是不匹配，下发重新采集所述汽车诊断信息和所述音频信息、所述视频图像信息的提示。

根据所述汽车诊断信息和所述音频信息、所述视频图像信息判断所述前端VR呈现程序是否匹配，若匹配，根据所述汽车诊断信息结合故障诊断码确定所述汽车故障类型，并根据所述汽车故障类型在故障解决数据库中匹配对应的故障排除方案。

可选的，当无法确定汽车故障类型时，远程技术人员在远程服务器结合所述汽车诊断信息和所述音频信息、所述视频图像信息进行人工操作判断，且当故障解决数据库中无法对该汽车故障类型提供匹配的故障排除方案时，远程技术人员可以自定义该汽车故障类型并保存，同时将对应的故障排除方案增加到故障解决数据库中。

具体的，所述下发所述故障排除方案以及对应的方案VR呈现程序包括：下发所述故障排除方案，包括用于消除汽车故障的数据、算法、操作指令，或者进一步进行汽车诊断的算法、操作指令；

根据所述音频信息、所述视频图像信息或者所述前端VR呈现程序将所述故障排除方案生成所述方案VR呈现程序，所述方案VR呈现程序包括故障排除指导程序、再诊断操作指定程序。

具体的，基于VR应用软件获取前端VR呈现程序，通过汽车诊断信息匹配对应汽车信息后，调取VR应用软件内集成的汽车VR模型，在汽车VR模型界面通过标记、提示说明等多种方式将第二信息包中的音频、视频、图像、现场人员的判断说明等信息进行记录并生成对应的故障情况说明程序。

同理，基于同一VR应用软件获取方案VR呈现程序，包括故障排除指导程序和诊断引导程序。故障排除指导程序包含基于故障排除方案，为了排除汽车故障状态，基于该汽车的VR模型，用户应执行的每一步骤，同时展示在同一个场景中；并按照组件不同，各步骤显示在对应的组件处，以直接指导用户操作。诊断引导程序：包括显示待诊断的错误信息、标记问题错误点、标记即将进行的故障清除码等。

优选的，根据所述汽车诊断信息和所述音频信息、所述视频图像信息判断所述前端VR呈现程序是否匹配，若匹配，在所述远程服务器和所述移动终端同时记录对应的汽车信息，当移动终端所采集的所述汽车诊断信息于所述汽车信息匹配时，所述远程服务器和所述移动终端调取对应的记录信息。远程服务器、移动终端对汽车信息进行标记，在下次汽车诊断时，对当前诊断的汽车信息进行比对，比对成功后，从服务器提取解决方案，节约诊断时间。

可选的，在所述远程服务器根据所述汽车诊断信息和所述前端VR呈现程序判断汽车故障类型并根据所述汽车故障类型匹配故障排除方案，下发所述故障排除方案以及对应的方案VR呈现程序的步骤之后，所述方法还包括：接收到所述故障排除方案和所述方案VR呈现程序，通过语音、视频或图像识别方式提供所述故障排除方案和所述方案VR呈现程序，引导对汽车进行诊断以及故障排除。现场人员(用户)通过使用AR眼镜，摆脱手持设备的限制,专心于维修过程；现场人员(用户)可通过声音或手势，操控诊断设备。

可选的，在所述远程服务器根据所述汽车诊断信息和所述前端VR呈现程序判断汽车故障类型并根据所述汽车故障类型匹配故障排除方案，下发所述故障排除方案以及对应的方案VR呈现程序的步骤之后，所述方法还包括：

接收到所述故障排除方案和所述方案VR呈现程序，与所述远程服务器实时通信，引导用户根据所述故障排除方案和所述方案VR呈现程序引导对汽车进行诊断以及故障排除，并监控操作错误情况。当现场人员无法根据故障排除方案进行操作时，远程技术人员可利用网络等,通过AR获取维修现场的实时画面，指导现场人员进行维修；引导按照步骤完成诊断，并实时监控错误问题等，进一步的，远程端可以实时看到用户操作的步骤。在授权后，远程技术人员可远程操控现场移动终端。

S104、接收到所述故障排除方案和所述方案VR呈现程序，根据所述故障排除方案提供的信息和所述方案VR呈现程序的引导对汽车进行诊断以及故障排除。

实施例2

如图4所示，本发明实施例还提供了一种基于AR与VR的交互式汽车远程诊断系统，所述系统至少包括移动终端100、远程服务器200、AR设备300，所述移动终端100和所述远程服务器200内集成设置有VR应用软件；

所述移动终端100，用于与汽车系统400进行交互，获取汽车诊断信息、汽车以及汽车现场操作过程的音频信息，以及利用全景摄像头采集汽车以及现场操作过程的视频图像信息；将所述汽车诊断信息和所述音频信息、所述视频图像信息加载到VR应用软件生成前端VR呈现程序，并将所述汽车诊断信息、所述音频信息、所述视频图像信息以及所述前端VR呈现程序上报远程服务器；接收到故障排除方案和方案VR呈现程序，根据故障排除方案提供的信息和方案VR呈现程序的引导对汽车进行诊断以及故障排除。具体的，汽车诊断信息包括算法ID、算法运行参数与汽车品牌信息、车型信息、VIN、ECU零件号、ECU固件/软件版本的其中一种或者多种。

所述远程服务器200，用于与所述移动终端100进行交互，根据所述汽车诊断信息和所述前端VR呈现程序判断汽车故障类型并根据所述汽车故障类型匹配故障排除方案，下发所述故障排除方案以及对应的方案VR呈现程序。

所述AR设备300，用于与所述远程服务器200进行交互，根据所述视频图形信息、所述音频信息利用AR设备呈现汽车以及现场操作过程的立体情景。

具体的，当通过AR设备呈现的VR图像难以判断汽车以及现场操作过程图像时，若是现场人员具有全景摄像头，全景摄像头可以采用Insta360或Gopro全景摄像头，通过连接到type-C接口或Mini-usb或苹果lightning接口连接到移动终端上；可以通过全景摄像头采集的汽车以及现场操作过程图像信息时，采用实时或者远程技术人员选择方式，采用VR眼镜等呈现汽车以及现场操作过程的立体情景，在VR眼镜中进行全景播放，远程技术人员带上VR眼镜后，仿佛置身于汽车维修现场，通过观察汽车实时信息，结合现场画面，便可对汽车状况进行准确分析。

具体的，移动终端100可以多种形态，如VR眼镜、汽车故障诊断仪与OBD连接器结合等，操作时，现场人员(用户)可通过AR设备，对拍摄到的物件进行识别，与汽车维修资料进行结合，标出名称、电路走向、拆解等VR诊断画面中的操作步骤流程等。AR与移动终端的记忆模块可以记录配对信息，首次配对后，可默认自动连接。例如，基于AR智能眼镜，现场人员解放了双手的同时以第一视角与远程技术人员实时沟通；基于富媒体技术(文字、图片、文档、白板等功能)实现远程指导和交互，保证后天技术人员指导的可视化和准确性；实时AR辅助指导，远程技术人员通过AR实时标记、圈点、手绘等AR工具，将指导信息叠加于前端所见内容之上，现场操作人员可实时查看AR叠加内容，并实时追踪；基于远程服务器的管理平台，管理人员不但可以查看历史信息，结合大信息平台分析处理实现态势感知，以及促进维修工作流程的优化改进，实现智能化管理。

移动终端100可以包括汽车故障诊断仪、OBD连接器、AR部件/VR部件等所有硬件功能模块以及软件功能模块，也可以是汽车故障诊断仪、OBD连接器、AR部件/VR部件融合为一体机，移动终端100与汽车系统300可以通过OBD接头建立连接，也可以采用VCI设备，VCI设备集成有蓝牙通讯模组，可以实现移动终端100与汽车系统300的无线通讯功能。

实施例3

本发明实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质上存储有基于AR与VR的交互式汽车远程诊断程序，所述基于AR与VR的交互式汽车远程诊断程序被处理器执行时实现实施例1的基于AR与VR的汽车远程交互诊断方法的步骤。

本发明实施例的基于AR与VR的汽车远程交互诊断方法、系统及其存储介质，通过在远程服务器、现场移动终端(如故障诊断设备、智能手机、VR眼镜等)同时安装VR应用软件，从而远程技术人员可以通过远程服务器获取汽车以及现场操作过程数据，并通过AR设备呈现汽车以及现场操作过程的立体情景，为现场人员快速地提供故障排除方案，该故障排除方案同样可以通过现场的VR应用软件进行直观地呈现，从而准确、高效、便捷地实现汽车远程交互式诊断，提升用户远程维修诊断的体验。

需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。

上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台移动终端(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。

以上仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (10)

1.一种基于AR与VR的汽车远程交互诊断方法，其特征在于，所述方法包括：

获取汽车诊断信息、汽车以及汽车现场操作过程的音频信息，以及利用全景摄像头采集汽车以及现场操作过程的视频图像信息；

将所述汽车诊断信息、所述音频信息、所述视频图像信息加载到VR应用软件生成前端VR呈现程序，并将所述汽车诊断信息、所述音频信息、所述视频图像信息以及所述前端VR呈现程序上报远程服务器；

在所述远程服务器根据所述视频图形信息、所述音频信息利用AR设备呈现汽车以及现场操作过程的立体情景，并根据所述汽车诊断信息和所述前端VR呈现程序判断汽车故障类型并根据所述汽车故障类型匹配故障排除方案，下发所述故障排除方案以及对应的方案VR呈现程序；

接收到所述故障排除方案和所述方案VR呈现程序，根据所述故障排除方案提供的信息和所述方案VR呈现程序的引导对汽车进行诊断以及故障排除。

2.根据权利要求1所述的基于AR与VR的汽车远程交互诊断方法，其特征在于，将所述汽车诊断信息、所述音频信息、所述视频图像信息加载到VR应用软件生成前端VR呈现程序，并将所述汽车诊断信息、所述音频信息、所述视频图像信息以及所述前端VR呈现程序上报远程服务器的步骤之前，所述方法还包括：

在现场使用的移动终端和所述远程服务器上安装所述VR应用软件。

3.根据权利要求1所述的基于AR与VR的汽车远程交互诊断方法，其特征在于，根据所述汽车诊断信息和所述前端VR呈现程序判断汽车故障类型并根据所述汽车故障类型匹配故障排除方案包括：

根据所述汽车诊断信息、所述音频信息、所述视频图像信息判断所述前端VR呈现程序是否匹配，若是不匹配，下发重新采集所述汽车诊断信息、所述音频信息、所述视频图像信息的提示。

4.根据权利要求1所述的基于AR与VR的汽车远程交互诊断方法，其特征在于，根据所述汽车诊断信息和所述前端VR呈现程序判断汽车故障类型并根据所述汽车故障类型匹配故障排除方案包括：

根据所述汽车诊断信息、所述音频信息、所述视频图像信息判断所述前端VR呈现程序是否匹配，若匹配，根据所述汽车诊断信息结合故障诊断码确定所述汽车故障类型，并根据所述汽车故障类型在故障解决数据库中匹配对应的故障排除方案。

5.根据权利要求1所述的基于AR与VR的汽车远程交互诊断方法，其特征在于，所述下发所述故障排除方案以及对应的方案VR呈现程序包括：

下发所述故障排除方案，包括用于消除汽车故障的数据、算法、操作指令或者进一步进行汽车诊断的算法、操作指令；

根据所述音频信息、所述视频图像信息或者所述前端VR呈现程序将所述故障排除方案生成所述方案VR呈现程序，所述方案VR呈现程序包括故障排除指导程序、再诊断操作指定程序。

6.根据权利要求1所述的基于AR与VR的汽车远程交互诊断方法，其特征在于，根据所述汽车诊断信息和所述前端VR呈现程序判断汽车故障类型并根据所述汽车故障类型匹配故障排除方案包括：

根据所述汽车诊断信息和所述音频信息、所述视频图像信息判断所述前端VR呈现程序是否匹配，若匹配，在所述远程服务器和所述移动终端同时记录对应的汽车信息，当移动终端所采集的所述汽车诊断信息于所述汽车信息匹配时，所述远程服务器和所述移动终端调取对应的记录信息。

7.根据权利要求1所述的基于AR与VR的汽车远程交互诊断方法，其特征在于，根据所述汽车诊断信息和所述前端VR呈现程序判断汽车故障类型并根据所述汽车故障类型匹配故障排除方案，下发所述故障排除方案以及对应的方案VR呈现程序的步骤之后，所述方法还包括：

接收到所述故障排除方案和所述方案VR呈现程序，通过语音、视频或图像识别方式提供所述故障排除方案和所述方案VR呈现程序，引导对汽车进行诊断以及故障排除。

8.根据权利要求1所述的基于AR与VR的汽车远程交互诊断方法，其特征在于，根据所述汽车诊断信息和所述前端VR呈现程序判断汽车故障类型并根据所述汽车故障类型匹配故障排除方案，下发所述故障排除方案以及对应的方案VR呈现程序的步骤之后，所述方法还包括：

接收到所述故障排除方案和所述方案VR呈现程序，与所述远程服务器实时通信，引导用户根据所述故障排除方案和所述方案VR呈现程序引导对汽车进行诊断以及故障排除，并监控操作错误情况。

9.一种基于AR与VR的交互式汽车远程诊断系统，其特征在于，所述系统至少包括移动终端、远程服务器、AR设备，所述移动终端和所述远程服务器内集成设置有VR应用软件；

所述移动终端，用于与汽车系统进行交互，获取汽车诊断信息、汽车以及汽车现场操作过程的音频信息，以及利用全景摄像头采集汽车以及现场操作过程的视频图像信息；将所述汽车诊断信息和所述音频信息、所述视频图像信息加载到VR应用软件生成前端VR呈现程序，并将所述汽车诊断信息、所述音频信息、所述视频图像信息以及所述前端VR呈现程序上报远程服务器；接收到故障排除方案和方案VR呈现程序，根据故障排除方案提供的信息和方案VR呈现程序的引导对汽车进行诊断以及故障排除；

所述远程服务器，用于与所述移动终端进行交互，根据所述汽车诊断信息和所述前端VR呈现程序判断汽车故障类型并根据所述汽车故障类型匹配故障排除方案，下发所述故障排除方案以及对应的方案VR呈现程序；

所述AR设备，用于与所述远程服务器进行交互，根据所述视频图形信息、所述音频信息利用AR设备呈现汽车以及现场操作过程的立体情景。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有基于AR与VR的交互式汽车远程诊断程序，所述基于AR与VR的交互式汽车远程诊断程序被处理器执行时实现如权利要求1-8任意一项所述的基于AR与VR的汽车远程交互诊断方法的步骤。

Images