CN114286006A - 一种基于增强现实的设备控制方法、终端及存储介质 - Google Patents

Abstract

本发明公开了一种基于增强现实的设备控制方法、终端及存储介质，该方过终端与受控设备建立通信连接。终端的摄像头拍摄到受控设备时，在终端的显示屏上显示第一图像及预设的增强现实AR控制菜单。第一图像包括:根据摄像头拍摄的受控设备的画面所生成的图像。接收用户对AR控制菜单的控制指令，并根据控制指令发送控制信息至受控设备，本发明还公开了一种终端及存储介质，通过实施上述方案，解决了缺少对于人机交互过程的控制界面显示，很多用户不会设置或自定义显示效果，实现了人机交互过程的控制界面的呈现，提升了AR技术结合终端的人机交互体验。

Description

一种基于增强现实的设备控制方法、终端及存储介质

技术领域

本发明涉及增强现实AR技术领域，更具体地说，涉及一种基于增强现实的设备控制方法、终端及存储介质。

背景技术

AR(Augmented Reality，增强现实)技术是一种将真实世界信息和虚拟世界信息“无缝”集成的新技术，其可将原本在现实世界的一定时间空间范围内很难体验到的实体信息(如视觉信息、声音、味道和触觉等)通过计算机技术等模拟仿真后再进行叠加，以将虚拟的信息应用到真实世界，被人类感官所感知，从而达到超越现实的感官体验。

现有的AR交互技术中，通常是用户直接可获取到将虚拟对象与真实环境融为一体的图像，但却缺少对于人机交互过程的显示控制界面，很多用户都不会设置或自定义显示效果，用户体验较低。

发明内容

本发明要解决的技术问题在于用户直接可获取到将虚拟对象与真实环境融为一体的图像，但却缺少对于人机交互过程的显示控制界面，很多用户都不会设置或自定义显示效果，用户体验较低，针对该技术问题，提供一种基于增强现实的设备控制方法、终端及存储介质。

为解决上述技术问题，本发明提供一种基于增强现实的设备控制，所述方法包括：

终端与受控设备建立通信连接；

所述终端的摄像头拍摄到所述受控设备时，在所述终端的显示屏上显示第一图像及预设的增强现实AR控制菜单；所述第一图像包括:根据所述摄像头拍摄的所述受控设备的画面所生成的图像；

接收用户对所述AR控制菜单的控制指令，并根据所述控制指令发送控制信息至所述受控设备。

可选的，所述根据所述摄像头拍摄的所述受控设备的画面所生成的图像包括：

根据所述受控设备的画面，使用3D建模技术构建所述受控设备的3D图像。

可选的，所述在所述终端的显示屏上显示第一图像及预设的增强现实AR控制菜单包括：在所述终端的显示屏上显示所述第一图像，并在所述第一图像上叠加所述AR控制菜单。

可选的，所述在第一图像上叠加所述AR控制菜单包括：在所述第一图像上透明层叠所述AR控制菜单。

可选的，所述在所述终端的显示屏上显示第一图像及预设的增强现实AR控制菜单包括：在所述终端的显示屏上第一区域显示所述第一图像，所述终端的显示屏上第二区域显示所述AR控制菜单。

可选的，所述在所述终端的显示屏上显示第一图像及预设的增强现实AR控制菜单之后还包括：当所述摄像头相对于所述受控设备发生位移变化时，根据所述位移变化所述3D图像改变方位。

可选的，所述在所述终端的显示屏上显示第一图像及预设的增强现实AR控制菜单之后还包括：

当满足预设条件时，在所述终端的显示屏上显示所述AR控制菜单；所述预设条件包括：预设时间内所述摄像头持续未拍摄到所述受控设备。

可选的，所述在所述终端的显示屏上显示所述AR控制菜单包括：在所述终端的显示屏上显示所述AR控制菜单，并向用户发送文字和/语音提示信息。

进一步地，本发明还提供了一种终端，所述终端包括处理器、存储器及通信总线；

所述通信总线用于实现处理器和存储器之间的连接通信；

所述处理器用于执行存储器中存储的一个或者多个程序，以实现上述的基于增强现实的设备控制方法的步骤。

进一步地，本发明还提供了一种存储介质，所述存储介质存储有一个或者多个程序，所述一个或者多个程序可被一个或者多个处理器执行，以实现上述的基于增强现实的设备控制方法的步骤。

有益效果

本发明提供一种基于增强现实的设备控制方法、终端及存储介质，针对现有用户直接可获取到将虚拟对象与真实环境融为一体的图像，但却缺少对于人机交互过程的控制界面，很多用户不会设置或自定义显示。本发明通过终端与受控设备建立通信连接。终端的摄像头拍摄到受控设备时，在终端的显示屏上显示第一图像及预设的增强现实AR控制菜单。第一图像包括:根据摄像头拍摄的受控设备的画面所生成的图像。接收用户对AR控制菜单的控制指令，并根据控制指令发送控制信息至受控设备。解决了缺少对于人机交互过程的显示控制界面，很多用户不会设置或自定义显示效果，实现了人机交互过程的控制界面的呈现，提升了AR技术结合终端的人机交互体验。

附图说明

下面将结合附图及实施例对本发明作进一步说明，附图中：

图1为实现本发明各个实施例一个可选的移动终端的硬件结构示意图。

图2为如图1所示的移动终端的无线通信系统示意图；

图3为本发明第一实施例提供的基于增强现实的设备控制方法的基本流程图；

图4为本发明第二实施例提供的基于增强现实的设备控制方法的细化流程图；

图5为本发明第二实施例提供的终端显示屏的显示界面示意图；

图6为本发明第三实施例提供的基于增强现实的设备控制方法的细化流程图；

图7为本发明第三实施例提供的终端显示屏的显示界面示意图；

图8为本发明第四实施例提供的基于增强现实的设备控制方法的细化流程图；

图9为本发明第五实施例提供的终端的结构示意图。

具体实施方式

应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

在后续的描述中，使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明，其本身没有特定的意义。因此，“模块”、“部件”或“单元”可以混合地使用。

终端可以以各种形式来实施。例如，本发明中描述的终端可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(Personal Digital Assistant，PDA)、便捷式媒体播放器(Portable Media Player，PMP)、导航装置、可穿戴设备、智能手环、计步器等移动终端，以及诸如数字TV、台式计算机等固定终端。

后续描述中将以移动终端为例进行说明，本领域技术人员将理解的是，除了特别用于移动目的的元件之外，根据本发明的实施方式的构造也能够应用于固定类型的终端。

请参阅图1，其为实现本发明各个实施例的一种移动终端的硬件结构示意图，该移动终端100可以包括：RF(Radio Frequency，射频)单元101、WiFi模块102、音频输出单元103、A/V(音频/视频)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解，图1中示出的移动终端结构并不构成对移动终端的限定，移动终端可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。

下面结合图1对移动终端的各个部件进行具体的介绍：

射频单元101可用于收发信息或通话过程中，信号的接收和发送，具体的，将基站的下行信息接收后，给处理器110处理；另外，将上行的数据发送给基站。通常，射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外，射频单元101还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议，包括但不限于GSM(Global System of Mobile communication，全球移动通讯系统)、GPRS(General Packet Radio Service，通用分组无线服务)、CDMA2000(CodeDivision Multiple Access 2000，码分多址2000)、WCDMA(Wideband Code DivisionMultiple Access,宽带码分多址)、TD-SCDMA(Time Division-Synchronous CodeDivision Multiple Access，时分同步码分多址)、FDD-LTE(Frequency DivisionDuplexing-Long Term Evolution，频分双工长期演进)和TDD-LTE(Time DivisionDuplexing-Long Term Evolution，分时双工长期演进)等。

WiFi属于短距离无线传输技术，移动终端通过WiFi模块102可以帮助用户收发电子邮件、浏览网页和访问流式媒体等，它为用户提供了无线的宽带互联网访问。虽然图1示出了WiFi模块102，但是可以理解的是，其并不属于移动终端的必须构成，完全可以根据需要在不改变发明的本质的范围内而省略。

音频输出单元103可以在移动终端100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时，将射频单元101或WiFi模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且，音频输出单元103还可以提供与移动终端100执行的特定功能相关的音频输出(例如，呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。

A/V输入单元104用于接收音频或视频信号。A/V输入单元104可以包括图形处理器(Graphics Processing Unit，GPU)1041和麦克风1042，图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或WiFi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频数据)，并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。

移动终端100还包括至少一种传感器105，比如光传感器、运动传感器以及其他传感器。具体地，光传感器包括环境光传感器及接近传感器，其中，环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度，接近传感器可在移动终端100移动到耳边时，关闭显示面板1061和/或背光。作为运动传感器的一种，加速计传感器可检测各个方向上(一般为三轴)加速度的大小，静止时可检测出重力的大小及方向，可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等；至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器，在此不再赘述。

显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061，可以采用液晶显示器(Liquid Crystal Display，LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板1061。

用户输入单元107可用于接收输入的数字或字符信息，以及产生与移动终端的用户设置以及功能控制有关的键信号输入。具体地，用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071，也称为触摸屏，可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作)，并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成触点坐标，再送给处理器110，并能接收处理器110发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071，用户输入单元107还可以包括其他输入设备1072。具体地，其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种，具体此处不做限定。

进一步的，触控面板1071可覆盖显示面板1061，当触控面板1071检测到在其上或附近的触摸操作后，传送给处理器110以确定触摸事件的类型，随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中，触控面板1071与显示面板1061是作为两个独立的部件来实现移动终端的输入和输出功能，但是在某些实施例中，可以将触控面板1071与显示面板1061集成而实现移动终端的输入和输出功能，具体此处不做限定。

接口单元108用作至少一个外部装置与移动终端100连接可以通过的接口。例如，外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如，数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端100和外部装置之间传输数据。

存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外，存储器109可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。

处理器110是移动终端的控制中心，利用各种接口和线路连接整个移动终端的各个部分，通过运行或执行存储在存储器109内的软件程序和/或模块，以及调用存储在存储器109内的数据，执行移动终端的各种功能和处理数据，从而对移动终端进行整体监控。处理器110可包括一个或多个处理单元；优选的，处理器110可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器110中。

移动终端100还可以包括给各个部件供电的电源111(比如电池)，优选的，电源111可以通过电源管理系统与处理器110逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。

尽管图1未示出，移动终端100还可以包括蓝牙模块等，在此不再赘述。

为了便于理解本发明实施例，下面对本发明的移动终端所基于的通信网络系统进行描述。

请参阅图2，图2为本发明实施例提供的一种通信网络系统架构图，该通信网络系统为通用移动通信技术的LTE系统，该LTE系统包括依次通讯连接的UE(User Equipment，用户设备)201，E-UTRAN(Evolved UMTS Terrestrial Radio Access Network，演进式UMTS陆地无线接入网)202，EPC(Evolved Packet Core，演进式分组核心网)203和运营商的IP业务204。

具体地，UE201可以是上述终端100，此处不再赘述。

E-UTRAN202包括eNodeB2021和其它eNodeB2022等。其中，eNodeB2021可以通过回程(backhaul)(例如X2接口)与其它eNodeB2022连接，eNodeB2021连接到EPC203，eNodeB2021可以提供UE201到EPC203的接入。

EPC203可以包括MME(Mobility Management Entity，移动性管理实体)2031，HSS(Home Subscriber Server，归属用户服务器)2032，其它MME2033，SGW(Serving Gate Way，服务网关)2034，PGW(PDN Gate Way，分组数据网络网关)2035和PCRF(Policy andCharging Rules Function，政策和资费功能实体)2036等。其中，MME2031是处理UE201和EPC203之间信令的控制节点，提供承载和连接管理。HSS2032用于提供一些寄存器来管理诸如归属位置寄存器(图中未示)之类的功能，并且保存有一些有关服务特征、数据速率等用户专用的信息。所有用户数据都可以通过SGW2034进行发送，PGW2035可以提供UE 201的IP地址分配以及其它功能，PCRF2036是业务数据流和IP承载资源的策略与计费控制策略决策点，它为策略与计费执行功能单元(图中未示)选择及提供可用的策略和计费控制决策。

IP业务204可以包括因特网、内联网、IMS(IP Multimedia Subsystem，IP多媒体子系统)或其它IP业务等。

虽然上述以LTE系统为例进行了介绍，但本领域技术人员应当知晓，本发明不仅仅适用于LTE系统，也可以适用于其他无线通信系统，例如GSM、CDMA2000、WCDMA、TD-SCDMA以及未来新的网络系统等，此处不做限定。

基于上述移动终端硬件结构以及通信网络系统，提出本发明方法各个实施例。

第一实施例

为了解决现有技术缺少对于人机交互过程的控制界面，很多用户不会设置或自定义显示的缺陷，本发明提供一种基于增强现实的设备控制方法，下面结合实施例对本发明提供的基于增强现实的设备控制方法进行说明。

图3为本实施例提供的基于增强现实的设备控制方法基本流程图，该方法包括：

S301、终端与受控设备建立通信连接。

其中，终端与受控设备建立通信连接的连接方式不限于以下至少一种方式：蓝牙、NFC、WiFi、红外等。

S302、终端的摄像头拍摄到受控设备时，在终端的显示屏上显示第一图像及预设的增强现实AR控制菜单。

第一图像包括:根据摄像头拍摄的受控设备的画面所生成的图像。而根据摄像头拍摄的受控设备的画面所生成的图像可以包括：根据拍摄的受控设备的画面，使用3D建模技术构建的受控设备的3D图像。在一些示例中，在终端的显示屏上显示第一图像及预设的增强现实AR控制菜单之后还可以包括：当摄像头相对于受控设备发生位移变化时，根据发生的位移变化3D图像可以改变方位。

在一些示例中，终端的摄像头拍摄到受控设备，可通过超宽带无线通信UWB定位技术识别用户从不同角度、方向拍摄受控设备，作出相应的定位信息进行反馈提示。其中预设的AR控制菜单可为本地预设的，也可以为终端中云端下载的AR控制菜单。通过智能终端摄像头，识别出受控设备，从云端下载AR控制菜单，叠加在受控设备表面上。

该AR控制菜单与终端摄像头拍摄的受控设备存在映射关系，当终端识别到受控设备时，终端可以根据识别到的受控设备的信息获取到预设的AR控制菜单。

在一些示例中，在终端的显示屏上显示第一图像及预设的增强现实AR控制菜单可以包括：在终端的显示屏上显示第一图像，并在第一图像上叠加AR控制菜单。其中在第一图像上叠加AR控制菜单可包括：将AR控制菜单直接叠加在第一图像之上，在一些示例中，在第一图像上叠加AR控制菜单还可以为在第一图像上透明层叠AR控制菜单。

在一些示例中，在终端的显示屏上显示第一图像及预设的增强现实AR控制菜单也可以包括：在终端的显示屏上第一区域显示第一图像，终端的显示屏上第二区域显示AR控制菜单。

在一些示例中，在终端的显示屏上显示第一图像及预设的增强现实AR控制菜单之后还可以包括：当满足预设条件时，在终端的显示屏上显示AR控制菜单。其中预设条件可以包括：预设时间内摄像头持续未拍摄到受控设备。其中，可以在终端的摄像头未拍摄到受控设备时，就在终端的显示屏上显示AR控制菜单。即不显示受控设备的3D图像，显示AR控制菜单。当预设时间内摄像头持续未拍摄到受控设备，则终端的显示屏上在该时间段仅显示AR控制菜单。其中在一些示例中，也可以在终端仅显示AR控制菜单时，终端就向用户发送文字和/或语音提示信息，提示用户是否还要继续控制受控终端。

S303、接收用户对AR控制菜单的控制指令，并根据控制指令发送控制信息至受控设备。

其中用户对AR控制菜单的控制指令可为触控、语音、摄像头捕获用户的手势。通过摄像头/麦克风识别用户的操作(手势、语言)，可以控制悬浮在受控设备上的控制菜单，从而形成一个增强现实虚拟的交互体验。

本实施例通过终端与受控设备建立通信连接。终端的摄像头拍摄到受控设备时，在终端的显示屏上显示第一图像及预设的增强现实AR控制菜单。第一图像包括:根据摄像头拍摄的受控设备的画面所生成的图像。接收用户对AR控制菜单的控制指令，并根据控制指令发送控制信息至受控设备。基于AR技术将一个虚拟的控制面板悬浮在受控设备上，通过控制悬浮在显示器的控制面板，给用户提供一个增强现实场景的交互体验。解决了缺少对于人机交互过程的呈现及控制界面，很多用户不会设置或自定义显示效果，实现了人机交互过程的控制界面的呈现，提升了AR技术结合终端的人机交互体验。

第二实施例

本发明的基于增强现实的设备控制方法，实现了人机交互过程的控制界面的呈现，提升了AR技术结合终端的人机交互体验。为了便于理解，下面结合一种应用场景对本发明的基于增强现实的设备控制方法进行说明，其具体的应用场景为受控终端为显示设备，其中显示设备可以为电视。

图4为本发明第二实施例提供的基于增强现实的设备控制方法细化流程图，该方法包括：

S401、终端与显示设备通过蓝牙建立通信连接。

S402、终端的摄像头拍摄到显示设备时，在终端的显示屏上显示第一图像及预设的增强现实AR控制菜单。

其中第一图像为根据摄像头拍摄的受控设备的画面，使用3D建模技术构建的受控设备的3D图像。

其中预设的增强现实AR控制菜单包括：在终端应用程序app的取景界面上的显示设备，左边框悬浮一个3D的亮度控制条或块状，上下滑动左边框的控制条或控制块可以调节亮度；右边框悬浮一个3D的音量控制条或块状，上下滑动右边框的控制条或控制块可以调节音量。预设的AR控制菜单还可以包括：该显示设备的菜单列表。菜单列表是透明，没有背景图片的，每个菜单的选项都是透明化的一个立体的按钮，悬浮在显示设备上方的。当终端的显示屏上显示第一图像及预设的AR控制菜单的示意图可参见图5所示。其中在终端的显示屏上显示第一图像及亮度控制条、音量控制条、显示设备的菜单列表的条件可以为终端的摄像头拍摄到显示设备时；还可以为终端的后置摄像头拍摄到显示设备，且接收到用户的控制指令，比如单击终端取景界面上的显示设备。其中用户的控制指令不仅为触控指令还可以为语音或前置摄像头拍摄的手势指令。

S403、接收用户对AR控制菜单的控制指令，并根据控制指令发送控制信息至显示设备。

其中接收的用户的控制指令可以为以下任一项：上下滑动左边框的控制条或控制块可以调节亮度；上下滑动右边框的控制条或控制块可以调节音量；单击取景界面上的显示设备，则在取景界面的显示设备图像上方显示显示设备的菜单列表；双击某个选项则进入下一级目录的菜单列表或是“确认”；双指捏合向右滑动则切换到下一个同级目录菜单列表(如果没有同级菜单则返回上一级目录)；双指捏合向左滑动则切换到上一个同级目录菜单列表(如果没有同级菜单则返回上一级目录)；多指滑动，则是返回到上级目录菜单列表；在双击取经界面的显示设备双击则是关闭或开启。

其中菜单列表是透明，没有背景图片的，每个菜单的选项都是透明化的一个立体的按钮，悬浮在取景界面的显示设备上方的。其中在条件亮度时在显示设备的图像上方可以浮现一个百分比数字。在调节音量时在显示设备的图像上方浮现一个百分比数字。

本实施例通过终端与显示设备蓝牙连接，终端的摄像头拍摄到显示设备时，在终端的显示屏上显示第一图像及预设的增强现实AR控制菜单，接收用户对AR控制菜单的控制指令，并根据控制指令发送控制信息至显示设备。通过终端的相机，在屏幕上可以看到叠加在显示设备上的控制菜单，用户可以用手势、语音交互发出指令，终端捕捉到用户操作(手势、语言)，做出实时响应，从而控制显示设备。根据对应菜单设置，在智能终端屏幕上呈现出3D增强现实影像，将虚拟的信息应用到真实世界，被用户感官所感知，从而达到超越现实的感官体验，在真实的环境/物体中将虚拟的信息实时的叠加到同一个空间或画面同时存在。解决了缺少对于人机交互过程的呈现及控制界面，很多用户不会设置或自定义显示效果，实现了人机交互过程的控制界面的呈现，提升了AR技术结合终端的人机交互体验。

第三实施例

本发明的基于增强现实的设备控制方法，实现了人机交互过程的控制界面的呈现，提升了AR技术结合终端的人机交互体验。为了便于理解，下面结合一种应用场景对本发明的基于增强现实的设备控制方法进行说明，其具体的应用场景为受控终端为智慧锁。

图6为本发明第三实施例提供的基于增强现实的设备控制方法细化流程图，该方法包括：

S601、在智慧锁上预设开锁密码。

其中开锁密码可以为以下至少之一：指纹、面部、数字、图案。上述开锁密码仅为该示例的举例说明，并不限于上述开锁密码。

S602、终端与智慧锁通过WIFI连接。

S603、终端的摄像头拍摄到智慧锁时，在终端的显示屏上显示3D智慧锁及AR控制菜单。

其中AR控制菜单可以包括：四个解锁方式(指纹、面部、数字、图案)的按钮及“设置”按钮，其解锁方式的按钮的呈现形状可以为通过文字呈现。其中当以文字作为按钮的显示时，该终端的显示屏的显示界面可参见图7所示。当然解锁方式的按钮及“设置”按钮也可以为不同数字或图案形状代表。比如圆形代表指纹，椭圆代表面部，方形代表数字，心形代表图案等。上述对不同图案形状代表各解锁方式的按钮仅为该示例的举例说明，并不限于上述图案形状，也可以用户根据自己喜好自定义。其中指纹解锁方式的也可以不以按钮形式呈现，可通过用户的在预设位置进行单指长按进入指纹解锁界面。比如在智慧锁的3D影像，非三个按钮区域，单指长按，则自动进行指纹解锁匹配。

其中设置的解锁方式按钮用户可以修改，也可以添加开锁密码。其中终端可以预设有和智慧锁相同的开锁密码。其智慧锁的开锁密码可以通过与终端进行连接后发送至终端以供终端验证。

S604、接收用户对AR控制菜单的控制指令，并根据控制指令发送控制信息至智慧锁。

当用户的控制指令为指纹解锁，则终端直接进入一个3D拇指旋转按钮(拇指则由指纹线条画出)，3D扫描识别影像。终端将指纹数据发送到智慧锁，智慧锁对指纹数据进行匹配。匹配成功时，智慧锁解锁，终端则提示“解锁成功”；如果匹配失败，在终端发出提示音，并且3D的拇指变成红色(颜色跟着报警音变化)，提示“指纹识别错误，请重试”。

当用户的控制指令为按动面部解锁按钮时，则终端显示界面显示面部解锁界面。当前界面显示一个3D的网格的头型，并且在旋转，当在匹配面部数据时，则将前摄像头获取面部的图像数据在3D的网格的头型逐渐显示出来。终端将面部图像发送至智慧锁，当智慧锁匹配预设的面部图像匹配成功后，智慧锁解锁，终端app在接收到智慧锁解锁成功后，则在显示界面提示“匹配成功”，并且返回主页。如果智慧锁匹配失败，则终端发出提示音，3D的网格的头型变成红色(颜色跟着报警音变化)，提示“面部匹配失败，请重试”。

当用户的控制指令为按动图案按钮时，则终端进入图案解锁画出图案跟app端的图案匹配成功，则终端将开锁指令发送至智慧锁，智慧锁根据开锁指令进行开锁。其中发送的开锁指令可以为将终端存储的与智慧锁相同指纹数据发送到智慧锁，以供智慧锁验证后开锁。其中发送的开锁指令还可以为终端直接发送开锁控制指令，智慧锁直接开锁。当智慧锁开锁成功后，终端app则提示“解锁成功”，并且返回主页。如果智慧锁开锁失败，则是终端发出提示音，提示“图案错误，请重试”。对于数字解锁。当用户的控制指令为按动数字按钮时，3D影像的数字键盘，输入数字，app端将数字的指令发送给智慧锁，智慧锁接收，匹配成功解锁，匹配失败示“数字密码错误，请重试”。

本实施例通过终端与智慧锁WiFi连接。终端的摄像头拍摄到智慧锁时，在终端的显示屏上显示3D智慧锁及AR控制菜单。当接收用户对AR控制菜单的控制指令，并根据控制指令发送控制信息至受控设备。解决了缺少对于人机交互过程的呈现及控制界面，很多用户不会设置或自定义显示效果，实现了人机交互过程的控制界面的呈现，提升了AR技术结合终端的人机交互体验。

第四实施例

本发明的基于增强现实的设备控制方法，实现了人机交互过程的控制界面的呈现，提升了AR技术结合终端的人机交互体验。为了便于理解，下面结合一种应用场景对本发明的基于增强现实的设备控制方法进行说明，其具体的应用场景为受控终端为空调。

图8为本发明第三实施例提供的基于增强现实的设备控制方法细化流程图，该方法包括：

S801、终端与空调蓝牙连接。

S802、终端基于摄像头进行图像识别，识别成功后，使用3D建模的技术将其构建出一个基于增强现实的3D空调图像呈现在终端显示界面。

其中摄像头识别的为空调。其中3D增强现实的空调影像，在出风口会有出风的动画，制冷时是白色的气体，制暖时则显示橘黄色的气体。

S803、接收用户的控制指令，并根据控制指令发送控制信息至空调。

具体地，在3D影像的空调单指滑动则是调整温度、双指滑动则是调整风速；用户单击则是开关空调，双击时切换模式；长按3D的空调影像的出风口的扇叶并上下滑动时，可以调整空调的出风口的扇叶上下的角度。在出风口的扇叶右滑则是左右扫风，下滑则是上下扫风。

S804、当终端摄像头相对于空调发生位移变化时，根据发生的位移变化3D图像改变方位。

举例说明：终端显示界面的3D的空调影像，是在当前摄像范围内的某个坐标轴，建立的一个3D影像。当检测到坐标发生变化则重新依据坐标值画出3D的空调影像。例如：“向左转动手机时3D控制列表不会跟随屏幕转动，但可以3D的空调影像右侧慢慢被拉远。当转动90°时，可以看到显示器3D的空调影像左侧的边框。如果直接放在桌上则不显示显示器3D的空调影像。

本实施例通过终端与空调蓝牙连接，终端的摄像头拍摄到空调时，在终端的显示屏上显示3D空调图像，接收用户对3D空调图像的控制指令，并根据控制指令发送控制信息至空调。用户可以用手势、语音交互发出指令，终端捕捉到用户操作(手势、语言)，做出实时响应，从而控制空调。根据对应菜单设置，在智能终端屏幕上呈现出3D增强现实影像，将虚拟的信息应用到真实世界，被用户感官所感知，从而达到超越现实的感官体验，在真实的环境/物体中将虚拟的信息实时的叠加到同一个空间或画面同时存在。解决了缺少对于人机交互过程的呈现及控制界面，很多用户不会设置或自定义显示效果，实现了人机交互过程的控制界面的呈现，提升了AR技术结合终端的人机交互体验。

第五实施例

本实施例还提供了一种终端，参见图9所示，其包括处理器901、存储器902及通信总线903，其中：

通信总线903用于实现处理器901和存储器902之间的连接通信；

处理器901用于执行存储器902中存储的一个或多个程序，以实现上述实第一实施例至第四实施例中的任一种基于增强现实的设备控制方法的各步骤。

本实施例还提供了一种计算机存储介质，计算机可读存储介质存储有一个或者多个程序，一个或者多个程序可被一个或者多个处理器执行，以实现上述第一实施例至第四实施例中的任一种基于增强现实的设备控制方法的各步骤。

需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。

上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。

上面结合附图对本发明的实施例进行了描述，但是本发明并不局限于上述的具体实施方式，上述的具体实施方式仅仅是示意性的，而不是限制性的，本领域的普通技术人员在本发明的启示下，在不脱离本发明宗旨和权利要求所保护的范围情况下，还可做出很多形式，这些均属于本发明的保护之内。

Claims (10)

1.一种基于增强现实的设备控制方法，其特征在于，所述方法包括：

终端与受控设备建立通信连接；

所述终端的摄像头拍摄到所述受控设备时，在所述终端的显示屏上显示第一图像及预设的增强现实AR控制菜单；所述第一图像包括:根据所述摄像头拍摄的所述受控设备的画面所生成的图像；

接收用户对所述AR控制菜单的控制指令，并根据所述控制指令发送控制信息至所述受控设备。

2.如权利要求1所述的基于增强现实的设备控制方法，其特征在于，所述根据所述摄像头拍摄的所述受控设备的画面所生成的图像包括：

根据所述受控设备的画面，使用3D建模技术构建所述受控设备的3D图像。

3.如权利要求1所述的基于增强现实的设备控制方法，其特征在于，所述在所述终端的显示屏上显示第一图像及预设的增强现实AR控制菜单包括：在所述终端的显示屏上显示所述第一图像，并在所述第一图像上叠加所述AR控制菜单。

4.如权利要求3所述的基于增强现实的设备控制方法，其特征在于，所述在所述第一图像上叠加所述AR控制菜单包括：在所述第一图像上透明层叠所述AR控制菜单。

5.如权利要求1所述的基于增强现实的设备控制方法，其特征在于，所述在所述终端的显示屏上显示第一图像及预设的增强现实AR控制菜单包括：在所述终端的显示屏上第一区域显示所述第一图像，所述终端的显示屏上第二区域显示所述AR控制菜单。

6.如权利要求2所述的基于增强现实的设备控制方法，其特征在于，所述在所述终端的显示屏上显示第一图像及预设的增强现实AR控制菜单之后还包括：当所述摄像头相对于所述受控设备发生位移变化时，根据所述位移变化所述3D图像改变方位。

7.如权利要求1-6任一项所述的基于增强现实的设备控制方法，其特征在于，所述在所述终端的显示屏上显示第一图像及预设的增强现实AR控制菜单之后还包括：

当满足预设条件时，在所述终端的显示屏上显示所述AR控制菜单；所述预设条件包括：预设时间内所述摄像头持续未拍摄到所述受控设备。

8.如权利要求7所述的基于增强现实的设备控制方法，其特征在于，所述在所述终端的显示屏上显示所述AR控制菜单包括：在所述终端的显示屏上显示所述AR控制菜单，并向用户发送文字和/或语音提示信息。

9.一种终端，其特征在于，所述终端包括处理器、存储器及通信总线；

所述通信总线用于实现处理器和存储器之间的连接通信；

所述处理器用于执行存储器中存储的一个或者多个程序，以实现如权利要求1至8中任一项所述的基于增强现实的设备控制方法的步骤。

10.一种存储介质，其特征在于，所述存储介质存储有一个或者多个程序，所述一个或者多个程序可被一个或者多个处理器执行，以实现如权利要求1至8中任一项所述的基于增强现实的设备控制方法的步骤。

Images