CN112099681B - 基于三维场景应用的交互方法、装置和计算机设备 - Google Patents

基于三维场景应用的交互方法、装置和计算机设备 Download PDF

Info

Publication number
CN112099681B
CN112099681B CN202010907893.3A CN202010907893A CN112099681B CN 112099681 B CN112099681 B CN 112099681B CN 202010907893 A CN202010907893 A CN 202010907893A CN 112099681 B CN112099681 B CN 112099681B
Authority
CN
China
Prior art keywords
view
remote control
dimensional scene
native function
scene
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010907893.3A
Other languages
English (en)
Other versions
CN112099681A (zh
Inventor
郭恺懿
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN202010907893.3A priority Critical patent/CN112099681B/zh
Publication of CN112099681A publication Critical patent/CN112099681A/zh
Application granted granted Critical
Publication of CN112099681B publication Critical patent/CN112099681B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/40Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment
    • A63F13/42Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/55Controlling game characters or game objects based on the game progress
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • Architecture (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本申请涉及一种基于三维场景应用的交互方法、装置、计算机设备和存储介质,包括:在终端的显示界面中展示三维场景应用的三维场景视图;接收终端的原生功能遥控设备针对三维场景视图触发的操作指令;原生功能遥控设备,是用于操控终端的原生功能的设备;基于原生功能遥控设备和三维场景应用之间的操控协议,根据原生功能遥控设备的设备类型对应的遥控模式、以及三维场景视图的当前场景状态,解析操作指令,得到操作意图;在显示界面上,展示根据操作意图对三维场景视图进行更新后的场景视图。采用本方法能够有效地实现通过原生功能遥控设备与终端的三维场景应用进行交互,提高了交互便利性的同时,有效降低了交互的使用成本。

Description

基于三维场景应用的交互方法、装置和计算机设备
技术领域
本申请涉及计算机技术领域,特别是涉及一种基于三维场景应用的交互方法、装置和计算机设备。
背景技术
随着计算机技术的迅速发展,虚拟现实(Virtual Reality,VR)技术备受欢迎。虚拟现实技术是一种可以创建和体验虚拟世界的计算机仿真系统,利用计算机生成一种模拟环境,是一种多源信息融合的、交互式的三维动态视景和实体行为的系统仿真使用户沉浸到该环境中。例如在全景模式下的场景视图通常具有多个视角,在不同的视角可以观看到不同的内容。在3D应用仿真环境(如3D实景地图、游戏等)中进行交互时,通常是通过外部连接的手柄、鼠标以及键盘等控制设备,对计算机设备界面中展示的场景的视图进行控制。
然而目前的方式,对于使用如电视或盒子等通用视听终端设备的用户而言,通常需要通过额外接入特定的硬件控制设备,额外接入特定的控制器的成本较高。
发明内容
基于此,有必要针对上述技术问题,提供一种能够有效实现通过原生功能遥控设备与终端的三维场景应用进行交互,降低交互的使用成本的交互方法、装置、计算机设备和存储介质。
一种基于三维场景应用的交互方法,所述方法包括:
在终端的显示界面中,展示三维场景应用的三维场景视图;
接收所述终端的原生功能遥控设备针对所述三维场景视图触发的操作指令;所述原生功能遥控设备,是用于操控所述终端的原生功能的设备;
基于所述原生功能遥控设备和所述三维场景应用之间的操控协议,根据所述原生功能遥控设备的设备类型对应的遥控模式、以及所述三维场景视图的当前场景状态,解析所述操作指令,得到操作意图;
在所述显示界面上,展示根据所述操作意图对所述三维场景视图进行更新后的场景视图。
一种基于三维场景应用的交互装置,所述装置包括:
显示模块,用于在终端的显示界面中,展示三维场景应用的三维场景视图;
指令接收模块,用于接收所述终端的原生功能遥控设备针对所述三维场景视图触发的操作指令;所述原生功能遥控设备,是用于操控所述终端的原生功能的设备;
指令解析模块,用于基于所述原生功能遥控设备和所述三维场景应用之间的操控协议,根据所述原生功能遥控设备的设备类型对应的遥控模式、以及所述三维场景视图的当前场景状态,解析所述操作指令,得到操作意图;
场景更新模块,用于在所述显示界面上,展示根据所述操作意图对所述三维场景视图进行更新后的场景视图。
在其中一个实施例中,所述指令解析模块还用于检测所述原生功能遥控设备的设备类型;当所述设备类型为字符遥控设备类型时,基于所述操控协议,将所述三维场景应用的遥控模式配置为第一遥控模式;当所述设备类型为方向遥控设备类型时,基于所述操控协议,将所述三维场景应用的遥控模式配置为第二遥控模式。
在其中一个实施例中,所述字符遥控设备类型对应的原生功能遥控设备包括字符标识键和方向标识键;所述指令解析模块还用于当所述设备类型为字符遥控设备类型时,若所述操作指令为响应于对所述原生功能遥控设备的字符标识键的触发操作生成的指令,则基于所述操控协议、所述第一遥控模式以及所述三维场景视图的当前场景状态,将所述操作指令对应的操作类型解析为水平移动操作;若所述操作指令为响应于对所述原生功能遥控设备的方向标识键的触发操作生成的指令,则基于所述操控协议、所述第一遥控模式以及所述三维场景视图的当前场景状态,将所述操作指令对应的操作类型解析为视角移动操作。
在其中一个实施例中,所述场景更新模块还用于在所述三维场景视图中显示与所述字符标识键对应的字符方位标识;当根据所述水平移动操作对应的操作意图对所述三维场景视图进行更新后,根据更新后的场景视图中可水平移动的方位更新显示所述字符方位标识。
在其中一个实施例中,所述场景更新模块还用于根据所述更新后的场景视图中可水平移动的方位,显示所述可水平移动的方向对应的字符方位标识,并隐藏不可水平移动的方向对应的字符方位标识。
在其中一个实施例中,所述方向遥控设备类型对应的原生功能遥控设备包括方向标识键;所述指令解析模块还用于当所述设备类型为方向遥控设备类型时,在所述显示界面展示视图控制模式选项,并根据响应于对所述原生功能遥控设备的方向标识键的选择操作,确定所述第二遥控模式中的视图控制模式;当所选择的视图控制模式为水平移动模式时,基于所述操控协议、所述水平移动模式以及所述三维场景视图的当前场景状态,将所述操作指令的操作类型解析为水平移动操作;当所选择的视图控制模式为视角移动模式时,基于所述操控协议、所述视角移动模式以及所述三维场景视图的当前场景状态,将所述操作指令的操作类型解析为视角移动操作。
在其中一个实施例中,所述显示模块还用于在所述三维场景视图中显示与所述第二遥控模式相应的方向示意标识;所述场景更新模块还用于当根据所述水平移动操作或所述视角移动操作对应的操作意图对所述三维场景视图进行更新后,根据更新后的场景视图中可移动的方向更新显示相应的方向示意标识。
在其中一个实施例中,所述三维场景视图包括内容视图;所述内容视图为基于所述三维场景应用中虚拟对象的视角所观察的画面内容;所述场景更新模块还用于当所述操作意图的操作类型为针对所述内容视图的水平移动操作时,按照所述操作意图中的水平移动方向对所述画面内容进行水平移动变换,得到更新后的场景视图,并在所述显示界面上进行显示;当所述操作意图的操作类型为针对所述内容视图的视角移动操作时,按照所述操作意图中的视角移动方向对所述画面内容进行视角移动变换,得到更新后的场景视图,并在所述显示界面上进行显示。
在其中一个实施例中,所述三维场景视图还包括控制视图;所述场景更新模块还用于响应于通过所述原生功能遥控设备针对所述控制视图中的事件提示图标或工具展示图标的事件触发操作,根据所述事件触发操作对应的场景事件信息和所述当前场景状态,确定所述事件触发操作对应的操作意图;根据所述操作意图对所述三维场景视图进行更新,并获得交互结果信息;在所述显示界面上,展示更新后的场景视图和所述交互结果信息。
在其中一个实施例中,所述场景更新模块还用于响应于通过所述原生功能遥控设备针对功能选项的触发操作,展示所述功能选项中的事件选项,并锁定针对所述三维场景视图的视图移动操作;响应于通过所述原生功能遥控设备针对所述事件选项的事件触发操作,根据所述事件触发操作对应的操作意图对所述三维场景视图进行对应的事件处理,获得事件处理结果;当所述事件触发操作的处理任务结束后,在所述显示界面隐藏所述功能选项,并对所述三维场景视图的视图移动操作进行解锁。
在其中一个实施例中,所述指令接收模块还用于获取移动终端与所述三维场景应用的连接请求,根据所述连接请求将所述移动终端的虚拟遥控设备与所述三维场景应用进行连接绑定;接收通过所述移动终端的虚拟遥控设备针对所述三维场景应用触发的操作指令。
在其中一个实施例中,所述指令接收模块还用于接收通过所述原生功能遥控设备针对所述三维场景应用发送的语音指令;对所述语音指令进行解析,得到针对所述三维场景应用的操作指令。
一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:
在终端的显示界面中,展示三维场景应用的三维场景视图;
接收所述终端的原生功能遥控设备针对所述三维场景视图触发的操作指令;所述原生功能遥控设备,是用于操控所述终端的原生功能的设备;
基于所述原生功能遥控设备和所述三维场景应用之间的操控协议,根据所述原生功能遥控设备的设备类型对应的遥控模式、以及所述三维场景视图的当前场景状态,解析所述操作指令,得到操作意图;
在所述显示界面上,展示根据所述操作意图对所述三维场景视图进行更新后的场景视图。
一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:
在终端的显示界面中,展示三维场景应用的三维场景视图;
接收所述终端的原生功能遥控设备针对所述三维场景视图触发的操作指令;所述原生功能遥控设备,是用于操控所述终端的原生功能的设备;
基于所述原生功能遥控设备和所述三维场景应用之间的操控协议,根据所述原生功能遥控设备的设备类型对应的遥控模式、以及所述三维场景视图的当前场景状态,解析所述操作指令,得到操作意图;
在所述显示界面上,展示根据所述操作意图对所述三维场景视图进行更新后的场景视图。
上述基于三维场景应用的交互方法、装置、计算机设备和存储介质,终端中安装的三维场景应用被启动后,在终端的显示界面中,展示三维场景应用的三维场景视图。当终端接收到用于操控终端的原生功能的原生功能遥控设备,针对三维场景视图触发的操作指令后,基于原生功能遥控设备和三维场景应用之间的操控协议,根据原生功能遥控设备的设备类型对应的遥控模式、以及三维场景视图的当前场景状态,解析操作指令,得到操作意图。由于三维场景应用中预配置了原生功能遥控设备和三维场景应用之间的操控协议,由此能够有效地对原生功能遥控设备发送的操作指令进行识别并解析,从而得到针对该三维场景应用的操作意图。终端进而根据操作意图对三维场景视图进行更新,并在显示界面上展示更新后的场景视图。由此有效地实现了通过终端的原生功能遥控设备,就能够与终端的三维场景应用进行交互,在提高了三维场景应用的交互便利性的同时,还降低了用户进行三维场景应用交互的使用成本。
附图说明
图1为一个实施例中基于三维场景应用的交互方法的应用环境图;
图2为一个实施例中基于三维场景应用的交互方法的流程示意图;
图3为一个实施例中字符遥控设备类型的原生功能遥控设备的示意图;
图4为一个实施例中方向遥控设备类型的原生功能遥控设备的示意图;
图5为一个实施例中在三维场景视图中显示与数字键对应的数字方位标识的界面示意图;
图6为一个实施例中对三维场景视图进行水平移动操作后的界面示意图;
图7为一个实施例中在三维场景视图中显示与方向键对应的方向示意方位标识的界面示意图;
图8为一个实施例中对三维场景视图进行向上视角移动操作后显示边界提示信息的界面示意图;
图9为一个实施例中在三维场景视图中对字符方位标识进行隐藏的示意图;
图10为一个实施例中对原生功能遥控设备中的数字键进行操控的示意图;
图11为一个实施例中进行视角边界提示信息的示意图;
图12为一个实施例中在水平移动模式下通过原生功能遥控设备中的方向键进行操控的示意图;
图13为一个实施例中在视角移动模式下显示视角边界提示的示意图;
图14为一个实施例中对内容视图进行水平移动变换的示意图;
图15为一个实施例中对内容视图进行视角移动变换的示意图;
图16为一个实施例中对虚拟对象的视角进行视角移动变换的示意图;
图17为一个实施例中触发事件提示图标的示意图;
图18为一个实施例中进行视角移动变换触发事件提示图标的示意图;
图19为一个实施例中展示事件提示图标的示意图;
图20为一个实施例中具有数字符号标识的事件提示图标的示意图;
图21为一个实施例中通过终端与后台服务器进行交互的流程示意图;
图22为一个实施例中基于三维场景应用的交互装置的结构框图;
图23为一个实施例中计算机设备的内部结构图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
本申请实施例提供的方案涉及计算机视觉(ComputerVision,CV)和图像处理等技术。计算机视觉是一门研究如何使机器“看”的科学,更进一步的说,就是指用摄影机和电脑代替人眼对目标进行识别、跟踪和测量等机器视觉,并进一步做图形处理,使电脑处理成为更适合人眼观察或传送给仪器检测的图像。作为一个科学学科,计算机视觉研究相关的理论和技术,试图建立能够从图像或者多维数据中获取信息的人工智能系统。计算机视觉技术通常包括图像处理、图像识别、图像语义理解、图像检索、OCR、视频处理、视频语义理解、视频内容/行为识别、三维物体重建、3D技术、虚拟现实、增强现实、同步定位与地图构建等技术。通过对采用计算机视觉和图像处理等技术应用于三维场景应用,由此能够有效地构建基于虚拟现实的场景视图,从而能够有效实现了用户与终端中三维场景应用的交互体验。
可以理解的是,本申请提供的基于三维场景应用的交互方法可以应用于终端,也可以应用于包括终端和服务器的系统,并通过终端和服务器的交互实现。
本申请提供的基于三维场景应用的交互方法,可以应用于如图1所示的应用环境中,该应用环境包括终端和服务器的系统,并通过终端和服务器的交互实现。其中,原生功能遥控设备102与终端104进行通信,终端104通过网络与服务器104进行通信。终端104中运行有3D应用软件(即三维场景应用),终端104启动3D应用软件后,在终端104的显示界面中,展示3D应用软件的三维场景视图。用户可以操作原生功能遥控设备102,以对终端104中的三维场景应用进行操控。终端104接收原生功能遥控设备102针对三维场景视图触发的操作指令后,基于原生功能遥控设备102和三维场景应用之间的操控协议,根据原生功能遥控设备102的设备类型对应的遥控模式、以及三维场景视图的当前场景状态,解析操作指令,得到操作意图。终端104进而将操作意图发送至该3D应用软件对应的服务器106,服务器106根据操作意图对三维场景视图进行更新,并将更新后的场景视图以及交互结果返回给终端104。终端104则在显示界面上展示更新后的场景视图。
其中,原生功能遥控设备102可以是各种与终端配套的用于操控终端的原生功能的遥控设备。终端104可以是智能电视、智能投影仪、多媒体显示设备、会议平板、平板电脑、笔记本电脑、台式计算机等,但并不局限于此。终端104上可以设有客户端,如视频客户端、游戏客户端、地图应用客户端或其他场景下的功能性客户端等。服务器106可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN、以及大数据和人工智能平台等基础云计算服务的云服务器。终端104以及服务器106可以通过有线或无线通信方式进行直接或间接地连接,本申请在此不做限制。
在一个实施例中,如图2所示,提供了一种基于三维场景应用的交互方法,以该方法应用于图1中的终端为例进行说明,包括以下步骤:
S202,在终端的显示界面中,展示三维场景应用的三维场景视图。
其中,三维(3D,3-Dimensional)是指在平面二维系中又加入了一个方向向量构成的空间系,三维通常表示坐标轴的三个轴,即x轴、y轴、z轴,其中x表示左右空间,y表示前后空间,z表示上下空间。在实际应用方面,一般把用x轴形容左右运动,而z轴用来形容上下运动,y轴用来形容前后运动,这样就形成了人的视觉立体感。三维具有立体性,前后、左右、上下等方向都只是相对于观察的视点而言,没有绝对的前后、左右、上下等方向。
可以理解,三维场景应用,也即3D应用软件,是一种基于三维场景画面的应用软件。三维场景应用中包括可视化的三维场景视图,可以展示各种场景下的三维虚拟环境。三维虚拟环境可以是对真实世界的仿真环境,也可以是半仿真半虚构的环境,还可以是纯虚构的环境。
其中,三维场景视图包括三维场景应用中采用虚拟对象的视角所观察的画面内容。虚拟对象可以是在三维场景应用的虚拟环境中的可活动对象。例如虚拟对象可以是虚拟人物、虚拟动物、虚拟动画人物、虚拟摄像机等。
终端的显示界面可以是用于显示三维场景视图的界面。终端中安装和运行有支持三维虚拟环境的三维场景应用,三维场景应用可以用于向用户展示三维场景视图。例如,三维场景应用可以但不限于是各种三维实景地图软件、三维建模软件、三维影视软件、三维游戏软件等。
用户可以在终端上访问三维场景应用,启动终端中的三维场景应用后,终端则在显示界面中显示该三维场景应用的三维场景视图。
S204,接收终端的原生功能遥控设备针对三维场景视图触发的操作指令;原生功能遥控设备,是用于操控终端的原生功能的设备。
可以理解,终端的原生功能遥控设备,是指与终端的原生功能相适配的遥控设备,用于操控终端的原生功能。例如当终端为智能电视时,对应的原生功能遥控设备则为智能电视所配备的电视遥控器,也就是智能电视配套的电视遥控器。再如当终端为多媒体显示设备,如会议平板时,对应的原生功能遥控设备则为多媒体显示设备所配备的多媒体遥控器。
用户通过终端访问三维场景应用的过程中,可以通过操控终端的原生功能遥控设备,实现对终端中的三维场景应用进行操控。
具体地,用户通过对原生功能遥控设备进行触发操作后,终端可以响应于原生功能遥控设备传输的控制信号,进而接收终端的原生功能遥控设备针对三维场景视图触发的操作指令。
例如,当检测到用户按压在原生功能遥控设备上布置的按键的交互,或触摸在原生功能遥控设备的触摸面板上布置的按键的交互时,原生功能遥控设备可控制产生与所操作的按键对应的控制信号,并将该控制信号发送到终端。
S206,基于原生功能遥控设备和三维场景应用之间的操控协议,根据原生功能遥控设备的设备类型对应的遥控模式、以及三维场景视图的当前场景状态,解析操作指令,得到操作意图。
其中,操控协议是指计算机设备之间的连接交互需要统一的标准,用于控制计算机设备中各种程序的一系列协议。可以理解,三维场景应用中预配置了原生功能遥控设备和三维场景应用之间的操控协议。操控协议中配置了原生功能遥控设备中各个控制键或控制按钮对应于三维场景应用的操作指令所实现的功能,即定义了原生功能遥控设备对该三维场景应用的操作策略和操作规则。
可以理解,原生功能遥控设备和三维场景应用之间的操控协议,是指原生功能遥控设备对应于终端中的三维场景应用之间的设备控制协议,操控协议中定义了原生功能遥控设备的各个控制键或控制按钮对应的键值编码,以及分别对应的指令功能。例如操控协议可以是一种定长型的控制类协议,如μBus控制类协议,这种协议主要规定了网络层及应用层,而数据链路层、物理层未做限制,用户可根据实际应用采用串口、485、CAN\以太网等。并且用户可根据需要定义原生功能遥控设备功能,并配置相应的指令集,以实现对三维场景应用的控制需。进一步还可以在指令集中添加密钥协商、密钥同步指令,采用预设加密算法对控制区及参数区进行加密,实现保密通信。
可以理解,遥控模式,是指原生功能遥控设备所具有的遥控模式,表示通过操控原生功能遥控设备时改变其对应终端的内在状态的操作方式。例如原生功能遥控设备的遥控模式包括的功能键以及各功能键分别对应的作用。其中,操作意图,表示通过操作原生功能遥控设备使得终端执行与其相应的功能,即用户想要执行的功能。操作意图还可以包括操作类型和具体的指令内容。
其中,原生功能遥控设备可以包括多种设备类型,例如常见的原生功能遥控设备的设备类型包括数字键类型和方向键类型等。不同设备类型的原生功能遥控设备分别具有对应的遥控模式。
可以理解,三维场景应用在运行的过程中,还包括三维场景应用中当前的场景状态。场景状态是指三维场景应用被运行时的状态信息,例如包括场景画面信息、事件操作信息、交互信息等。
用户启动终端中的三维场景应用后,三维场景应用可以查询终端所支持的遥控设备类型。终端接收到原生功能遥控设备针对三维场景视图触发的操作指令后,则检测该原生功能遥控设备所属的设备类型,并根据设备类型确定对应的遥控模式。终端进而基于原生功能遥控设备和三维场景应用之间的操控协议,根据原生功能遥控设备的设备类型对应的遥控模式、以及三维场景视图的当前场景状态,解析操作指令,得到操作意图。例如操作意图包括向右水平移动、向上视角移动、触发XX事件等操作。
具体地,终端根据操控协议和遥控模式解析操作指令的过程中,还可以根据遥控模式确定操作指令对应的操作类型,进而基于操控协议,并根据三维场景视图的当前场景状态和操作类型解析出操作指令具体的指令内容,从而根据操作类型和指令内容得到操作意图。
S208,在显示界面上,展示根据操作意图对三维场景视图进行更新后的场景视图。
可以理解,通过终端的原生功能遥控设备对三维场景应用进行操控后,能够实现对三维场景应用的三维场景视图进行相应的操控事件处理,从而对三维场景视图进行更新展示,进而实现通过原生功能遥控设备与终端中运行的三维场景应用的进行交互。
终端对接收的操作指令进行解析,得到对应的操作意图后,则根据操作意图对三维场景应用中当前的三维场景视图进行更新,以获得更新后的场景视图,并在终端的显示界面上进行展示。
在其中一个实施例中,终端可以直接根据操作意图,在本地对三维场景应用中当前的三维场景视图进行更新,并获取更新后的场景视图,并在显示界面上进行展示。与三维场景应用进行交互所需的数据,可以预先存储在了本地终端中,因此,也可以直接通过终端对三维场景应用交互所需的数据进行处理。
在另一个实施例中,终端还可以与三维场景应用对应的服务器进行数据交互处理。具体地,终端解析出操作指令对应的操作意图后,将操作指令和操作意图发送至该三维场景应用对应的服务器,服务器获取操作指令和操作意图后,根据操作意图对三维场景应用进行相应的事件处理,并对三维场景视图进行更新,得到更新后的场景视图。服务器进而将更新后的场景视图返回至终端。终端接收服务器传输的更新后的场景视图后,则在显示界面上进行展示。
传统的方式中,对传统的显示终端中的三维场景应用进行操控时,通常需要接入额外的硬件设备,例如手柄、鼠标和键盘等。如果采用额外接入控制设备,这无疑增加了用户在已有终端上与3D应用软件进行交互的使用门槛,以及额外的设备成本等。
本申请方案中,由于原生功能遥控设备是已有终端所配备的原生功能遥控设备,通过预配置的原生功能遥控设备和三维场景应用之间的操控协议,以对原生功能遥控设备针对三维场景视图触发的操作指令进行解析,从而能够有效实现通过原生功能遥控设备对终端中运行的三维场景应用进行操控,实现了通过终端的原生功能遥控设备就能够有效地对与终端的三维场景应用进行交互,在提高了基于三维场景应用的交互效率的同时,还降低了用户进行三维场景应用交互的使用成本。
例如,以终端为传统电视或智能电视为例,电视遥控器是与传统电视或智能电视配套的原生功能遥控设备,且易于获得。通过采用上述基于三维场景应用的交互方法,能够实现通过与传统电视或智能电视原生配套的电视遥控器,对传统电视或智能电视备中的3D应用软件进行交互,仅通过定义原生功能遥控设备与3D应用软件的操控协议,扩展了传统电视遥控器在TV(Television,电视机)上的使用场景。由此不仅提高了用户进行3D应用软件交互的交互体验,提高了基于三维场景应用的交互效率,还降低了在常见的电视机设备上进行3D交互体验的使用门槛以及使用成本。
上述基于三维场景应用的交互方法中,终端中安装的三维场景应用被启动后,在终端的显示界面中,展示三维场景应用的三维场景视图。当终端接收到用于操控终端的原生功能的原生功能遥控设备,针对三维场景视图触发的操作指令后,基于原生功能遥控设备和三维场景应用之间的操控协议,根据原生功能遥控设备的设备类型对应的遥控模式、以及三维场景视图的当前场景状态,解析操作指令,得到操作意图。由于三维场景应用中预配置了原生功能遥控设备和三维场景应用之间的操控协议,由此能够有效地对原生功能遥控设备发送的操作指令进行识别并解析,从而得到针对该三维场景应用的操作意图。终端进而根据操作意图对三维场景视图进行更新,并在显示界面上展示更新后的场景视图。由此有效地实现了通过终端的原生功能遥控设备,就能够有效地与终端的三维场景应用进行交互,在提高了三维场景应用的交互便利性的同时,还降低了用户进行三维场景应用交互的使用成本。
在一个实施例中,上述方法还包括:检测原生功能遥控设备的设备类型;当设备类型为字符遥控设备类型时,基于操控协议,将三维场景应用的遥控模式配置为第一遥控模式;当设备类型为方向遥控设备类型时,基于操控协议,将三维场景应用的遥控模式配置为第二遥控模式。
可以理解,原生功能遥控设备的设备类型可以包括多种。其中多种是指至少两种以上。本实施例中,原生功能遥控设备的设备类型可以包括字符遥控设备类型和方向遥控设备类型。
三维场景应用的遥控模式也可以包括多种,且三维场景应用的遥控模式与原生功能遥控设备的设备类型相对应。即字符遥控设备类型对应第一遥控模式;方向遥控设备类型对应第二遥控模式。
字符遥控设备类型表示具有字符标识的控制键或控制按钮对应的原生功能遥控设备。方向遥控设备类型表示具有方向标识的控制键或控制按钮对应的原生功能遥控设备。可以理解的是,字符遥控设备类型的原生功能遥控设备不仅可以包括字符标识的控制键或控制按钮,还可以包括方向标识的控制键或控制按钮。
例如,以终端为常见的智能电视为例,对应的原生功能遥控设备为智能电视配套的电视遥控器,电视遥控器通常包括带数字键类型和不带数字键类型的电视遥控器,而两者都带有方向键。其中,带数字键类型的电视遥控器,可以为具有字符标识的控制键或控制按钮对应的原生功能遥控设备,即设备类型为字符遥控设备类型。如图3所示,为一个实施例中字符遥控设备类型的原生功能遥控设备的示意图。而不带数字键类型的电视遥控器则可以为具有方向标识的控制键或控制按钮对应的原生功能遥控设备,即设备类型为方向遥控设备类型。如图4所示,为一个实施例中方向遥控设备类型的原生功能遥控设备的示意图。
终端中预配置了该终端设备所支持的遥控设备的设备类型。其中,还包括终端的设备信息,例如设备名称、设备型号、配置信息等设备信息;以及包括所支持的原生功能遥控设备的设备信息。
终端启动三维场景应用后,还检测原生功能遥控设备的设备类型。具体地,终端接收到原生功能遥控设备触发的操作指令后,基于操作指令,可以获得原生功能遥控设备相关设备信息,如原生功能遥控设备的型号信息。终端进而可以根据预配置的所支持的遥控设备的设备类型,确定当前的原生功能遥控设备的设备类型。
具体地,当设备类型为字符遥控设备类型时,基于预配置的操控协议,将三维场景应用的遥控模式配置为第一遥控模式;当设备类型为方向遥控设备类型时,基于预配置的操控协议,将三维场景应用的遥控模式配置为第二遥控模式。
在其中一个实施例中,终端启动三维场景应用,在显示界面展示三维场景应用的三维场景视图之前,可以预先与原生功能遥控设备进行配备,并检测原生遥控设备的设备类型,并存储对应的遥控设备信息。当终端接收到原生功能遥控设备针对三维场景视图触发的操作指令,则可以根据终端中预配置的遥控设备信息,直接确定原生功能遥控设备的设备类型。
在另一个实施例中,终端启动三维场景应用时,还可以通过原生功能遥控设备触发针对三维场景应用的启动指令,终端则基于启动指令检测该原生功能遥控设备的设备类型。终端也可以在接收到原生功能遥控设备针对三维场景视图触发的操作指令后,检测原生功能遥控设备的设备类型。具体对原生功能遥控设备的设备类型的检测时机,在此不做限定。
例如,字符遥控设备类型的原生功能遥控设备中包括字符标识的控制键或控制按钮,还可以包括方向标识的控制键或控制按钮。可以理解的是还可以包括电源、音量等功能控制键或功能控制按钮。对于字符遥控设备类型的原生功能遥控设备,字符标识的控制键或控制按钮用于分别控制各个字符标识对应的水平移动操作。方向标识的控制键或控制按钮用于分别控制各个方向标识对应的视角移动操作。例如字符标识可以为数字;方向标识可以为上、下、左、右方向的标识。
方向遥控设备类型的原生功能遥控设备中包括方向标识的控制键或控制按钮,可以理解的是方向遥控设备类型的原生功能遥控设备,同样还可以包括电源、音量等功能控制键或功能控制按钮。对于方向遥控设备类型的原生功能遥控设备,方向标识的控制键或控制按钮用于在不同的试图控制模式下,分别控制各个方向标识对应的水平移动操作或者视角移动操作。
例如,当字符遥控设备类型的原生功能遥控设备为带数字键的遥控设备时,原生功能遥控设备的按键可以包括0-9数字键、上/下/左/右方向键、确认键、返回键,另外还可以包电源、音量等按键等。
在三维场景应用中,字符遥控设备类型的原生功能遥控设备中数字键对应的操作类型,可以为针对三维场景视图的水平移动操作,数字键对应的移动规则可以为:1键-左前方、2键-正前方、3键-右前方、4键-左侧、5键-保持原地、6键-右侧、7键-左后方、8键-正后方、9键-右后方。例如,当用户点击原生功能遥控设备中相应的数字按键,可使得终端中3D应用软件的3D场景视图进行水平方位上的移动。
字符遥控设备类型的原生功能遥控设备中方向键对应的操作类型,可以为针对三维场景视图的视角移动操作。方向键包括上键、左键、右键以及下键,方向键对应的移动规则可以为:上键-向上、左键-向左、右键-向右、下键-向下。例如,当用户点击原生功能遥控设备中相应的方向键,可使得终端中3D应用软件的3D场景视图进行视角方位上的移动。
例如当用户操控原生功能遥控设备中的方向键上键,终端中3D应用软件的3D场景视图对应的视角会向上移动,移动后场景视图画面会进行相应的更新,并在显示界面展示更新后的场景视图。
本实施例中,通过检测原生功能遥控设备的设备类型,由此可以根据预配置的原生功能遥控设备和三维场景应用之间的操控协议,确定当前对三维场景应用进行操控的原生功能遥控设备的设备类型,从而确定对应的遥控模式对三维场景应用进行操控,由此能够有效地根据相应的遥控模式与三维场景应用进行交互,有效提高了通过原生功能遥控设备与终端的三维场景应用的交互便利性。
在一个实施例中,字符遥控设备类型对应的原生功能遥控设备包括字符标识键和方向标识键;基于原生功能遥控设备和三维场景应用之间的操控协议,根据原生功能遥控设备的设备类型对应的遥控模式、以及三维场景视图的当前场景状态,解析操作指令的步骤还包括:当设备类型为字符遥控设备类型时,若操作指令为响应于对原生功能遥控设备的字符标识键的触发操作生成的指令,则基于操控协议、第一遥控模式以及三维场景视图的当前场景状态,将操作指令对应的操作类型解析为水平移动操作;若操作指令为响应于对原生功能遥控设备的方向标识键的触发操作生成的指令,则基于操控协议、第一遥控模式以及三维场景视图的当前场景状态,将操作指令对应的操作类型解析为视角移动操作。
其中,字符遥控设备类型对应的原生功能遥控设备包括字符标识键和方向标识键。字符标识可以包括但不限于数字、字母、文字以及其他字符。方向标识键可以包括用于示意方向的标识;也可以不含示意方向的标识,通过方向标识键在原生功能遥控设备所处的位置标识各个方向。
可以理解,操作指令对应的操作意图可以包括操作指令对应的操作类型以及具体的指令内容。操作类型可以包括水平移动操作和视角移动操作。其中,水平移动操作是指使三维场景应用中的虚拟对象在虚拟环境中进行水平移动的操作。视角移动操作是指使三维场景应用中以虚拟对象的第一人称视角或第三人称视角在虚拟环境中进行视角移动的操作。
当识别出原生功能遥控设备的设备类型为字符遥控设备类型时,则确定该三维场景应用当前的遥控模式为第一遥控模式。
当终端接收到原生功能遥控设备针对三维场景应用的三维场景视图触发的操作指令,若操作指令为响应于对原生功能遥控设备的字符标识键的触发操作生成的指令时,首先对操作指令对应的操作类型进行解析。由于根据字符遥控设备类型确定了当前的遥控模式为第一遥控模式,进而可以基于预配置的操控协议,根据第一遥控模式以及三维场景视图的当前场景状态,将操作指令对应的操作类型解析为水平移动操作。终端进而对三维场景视图进行水平移动操作,并对三维场景视图进行更新。
例如,当用户点击原生功能遥控设备的字符标识键时,使得终端对三维场景视图进行相应方位的水平移动变换,包括左前方、正前方、右前方、左侧、保持原地右侧、左后方、正后方、右后方等水平方位的变换。
进一步的,若操作指令为响应于对原生功能遥控设备的方向标识键的触发操作生成的指令时,首先对操作指令对应的操作类型进行解析。进而可以基于预配置的操控协议,根据第一遥控模式以及三维场景视图的当前场景状态,从而可以将操作指令对应的操作类型解析为视角移动操作。终端进而对三维场景视图进行视角移动操作,并对三维场景视图进行更新。
例如,当用户点击原生功能遥控设备的方向标识键时,使得终端对三维场景视图进行相应方向的视角移动变换,包括向上、向左、向右、向下等视角方向的变换。
本实施例中,通过根据原生功能遥控设备的设备类型确定相应的遥控模式,进而能够针对不同的遥控设备的设备类型对操作指令的操作类型进行解析,由此能够精准地识别并解析不同类型的遥控设备的操作指令,能够有效地根据相应的遥控模式和操作意图进行三维场景应用的交互。
在一个实施例中,上述方法还包括:在三维场景视图中显示与字符标识键对应的字符方位标识;当根据水平移动操作对应的操作意图对三维场景视图进行更新后,根据更新后的场景视图中可水平移动的方位更新显示字符方位标识。
可以理解,对于三维场景视图中的画面内容而言,画面内容可以随着水平移动操作而进行相应的视角移动变换,以及随着视角移动操作进行相应的视角移动变换。其中,三维场景视图中预配置了可以进行水平移动操作的边界和视角移动操作的边界。可水平移动的方位,表示三维场景视图中可以进行水平移动操作的方位。
其中,字符遥控设备类型的原生功能遥控设备中包括字符标识键。字符标识键主要用于控制三维场景视图中与字符标识相应的水平移动操作,字符标识则用于示意与各字符标识相应的方位。
终端接收原生功能遥控设备针对三维场景应用的三维场景视图触发的操作指令,当操作指令为响应于对原生功能遥控设备的字符标识键的触发操作生成的指令时,还在三维场景视图中标定与字符标识键对应的字符方位标识,并在三维场景视图中显示字符方位标识。
可以理解,当原生功能遥控设备的设备类型为字符遥控设备类型时,原生功能遥控设备不仅包括字符标识,还包括方向标识键。终端还可以在三维场景视图中显示与方向键对应的方向示意标识。例如,方向示意标识可以为“上、下、左、右”标识,也可以为“东、南、西、北”标识。
其中,终端可以在对三维场景视图进行水平移动操作时,显示字符标识键对应的字符方位标识;在对三维场景视图进行视角移动操作时,显示方向标识键对应的方向示意标识。
进一步的,终端还可以在对三维场景视图进行水平移动操作时,显示字符标识键对应的字符方位标识的同时,显示方向标识键对应的方向示意标识。
例如,以字符标识为数字为例,若字符遥控设备类型的原生功能遥控设备中包括0-9的数字键。终端则可以在三维场景视图中显示与数字键对应的数字方位标识。如图5所示,为一个实施例中在三维场景视图中显示与数字键对应的数字方位标识的界面示意图,具体可以为三维道路街景视图。
此时,当用户点击原生功能遥控设备中的“4”键,原生功能遥控设备响应用户对“4”键的触发操作后,向终端发送“4”键对应的操作指令。终端则根据当前的遥控模式,基于操控协议,可以解析出该操作指令对应的操作意图为“向左侧水平移动”。终端则根据该操作意图更新三维场景应用中的三维场景视图,获得对三维场景视图进行水平移动操作之后的画面内容。如图6所示,为一个实施例中对三维场景视图进行水平移动操作后的界面示意图。终端进而在显示界面上展示更新后的场景视图,同时还在根据更新后的场景视图中可水平移动的方位,更新显示对应的字符方位标识。
如图7所示,为一个实施例中在三维场景视图中显示与方向键对应的方向示意方位标识的界面示意图。例如,其中上键-向上、左键-向左、右键-向右、下键-向下。
在其中一个实施例中,在第一遥控模式下,操作指令对应的操作类型为视角移动操作时,根据对应的操作意图对三维场景视图进行视角移动操作,以对三维场景视图进行更新。当更新后的三维场景视图中存在不可视角移动的方向时,表示已经达到三维场景视图的边界。即当视角不能移动时,显示相应的文案或符号信息进行提示。此时终端可以生成并显示该不可移动的方向对应的边界提示信息。例如可以显示“视角已到上边界”的边界提示信息。如图8所示,为一个实施例中对三维场景视图进行向上视角移动操作后显示边界提示信息的界面示意图。
本实施例中,通过在三维场景视图中标定与原生功能遥控设备的字符标识键对应的字符方位标识,能够有效展示对三维场景视图进行操控的方位示意信息,从而在用户与终端进行三维场景应用的交互过程中,能够有效地向用户展示相应的提示信息,有效提高了用户的交互体验以及交互便利性。
在一个实施例中,根据更新后的场景视图中可水平移动的方位更新显示字符方位标识的步骤,还包括:根据更新后的场景视图中可水平移动的方位,显示可水平移动的方向对应的字符方位标识,并隐藏不可水平移动的方向对应的字符方位标识。
终端在根据水平移动操作对应的操作意图对三维场景视图进行更新时,还据更新后的场景视图中可水平移动的方位更新显示字符方位标识。具体地,终端还识别三维场景视图中可水平移动的方位,以及不可水平移动的方位。终端进而在更新后的场景视图中显示可水平移动的方向对应的字符方位标识,并隐藏不可水平移动的方向对应的字符方位标识。
三维场景视图的画面内容会随着移动而改变,同时用于标定可水平移动方位的数字也会根据场景进行相应变化。例如移动后的画面不支持向右移动,则数字6消失,不在三维场景视图的画面中显示,即在显示界面上隐藏数字6对应的字符方位标识。如图9所示,为一个实施例中在三维场景视图中对字符方位标识进行隐藏的示意图。
例如,如图10所示,为一个实施例中对原生功能遥控设备中的数字键进行操控的示意图。用户通过点击原生功能遥控设备中的数字按键1、2、6,可分别控制三维场景视图进行水平方向上的左前方、正前方、右侧移动。当按下未显示的数字按键时,如数字3、4按键等则不作移动响应。具体移动的距离可以根据场景预先进行设定。当用户点击方向键时,三维场景视图中虚拟对象的视角会根据上/下/左/右按键分别进行上/下/左/右的视角移动切换。当视角不能移动时,出现相应的文案或符号进行提示,例如显示“视角已到上边界”的视角边界提示信息。如图11所示,为一个实施例中进行视角边界提示信息的示意图。
本实施例中,通过在三维场景视图中显示可水平移动的方向对应的字符方位标识,并隐藏不可水平移动的方向对应的字符方位标识,能够对三维场景视图中可操控的方位进行可视化的提示,从而在用户与终端进行三维场景应用的交互过程中,能够有效地向用户展示相应的提示信息,有效提高了用户的交互体验以及交互便利性。
在一个实施例中,方向遥控设备类型对应的原生功能遥控设备包括方向标识键;基于原生功能遥控设备和三维场景应用之间的操控协议,根据原生功能遥控设备的设备类型对应的遥控模式、以及三维场景视图的当前场景状态,解析操作指令的步骤,还包括:当设备类型为方向遥控设备类型时,在显示界面展示视图控制模式选项,并根据响应于对原生功能遥控设备的方向标识键的选择操作,确定第二遥控模式中的视图控制模式;当所选择的视图控制模式为水平移动模式时,基于操控协议、水平移动模式以及三维场景视图的当前场景状态,将操作指令的操作类型解析为水平移动操作;当所选择的视图控制模式为视角移动模式时,基于操控协议、视角移动模式以及三维场景视图的当前场景状态,将操作指令的操作类型解析为视角移动操作。
可以理解,第二遥控模式中还包括视图控制模式,视图控制模式表示对三维场景视图进行操控的模式。其中,视图控制模式还包括水平移动模式和视角移动模式。视图控制模式可以根据用户通过原生功能遥控设备触发的选择操作来确定。
当原生功能遥控设备的设备类型为方向遥控设备类型时,终端启动三维场景应用,并接收原生功能遥控设备针对三维场景视图触发的操作指令后,可以确定该三维场景应用当前的遥控模式为第二遥控模式。
终端进而在显示界面上展示视图控制模式选项,其中,视图控制模式选项中可以包括水平移动模式和视角移动模式分别对应的选项信息,以指示用户通过原生功能遥控设备选择当前的视图控制模式。用户进而通过点击原生功能遥控设备选择当前的视图控制模式,终端则根据响应于对原生功能遥控设备的方向标识键的选择操作,确定第二遥控模式中的视图控制模式。
具体地,当用户选择水平移动模式的视图控制模式后,进一步通过原生遥控设备对三维场景应用触发相应的操作指令。终端接收通过原生遥控设备触发的操作指令后,则基于操控协议和所选择的水平移动模式,以及三维场景视图的当前场景状态,将操作指令的操作类型解析为水平移动操作,并解析操作指令对应的指令内容,从而根据操作类型和指令内容得到操作意图,由此可以得到操作类型为水平移动操作的操作意图。终端进而根据操作意图对三维场景视图进行水平移动操作,以对三维场景视图进行更新,并在显示界面上展示更新后的场景视图。
当用户选择视角移动模式的视图控制模式后,进一步通过原生遥控设备对三维场景应用触发相应的操作指令。终端接收通过原生遥控设备触发的操作指令后,则基于操控协议和所选择的视角移动模式,以及三维场景视图的当前场景状态,将操作指令的操作类型解析为水平移动操作,并解析操作指令对应的指令内容,从而根据操作类型和指令内容得到操作意图,由此可以得到操作类型为视角移动操作的操作意图。终端进而根据操作意图对三维场景视图进行视角移动操作,以对三维场景视图进行更新,并在显示界面上展示更新后的场景视图。
例如,由于方向遥控设备类型的原生功能遥控设备中包括方向标识键,而不包括字符标识键。因此方向标识键既可以用于控制水平移动操作,也可以用于控制视角移动操作。通过原生功能遥控设备对三维场景视图进行操控前,还可以通过原生功能遥控设备中的预设功能键,如菜单键,进行视图控制模式的选择和切换。
可以理解,在视角移动模式中,原生功能遥控设备的上/下/左/右方向对应的方向标识键可以分别用于控制三维场景视图的上/下/左/右方向的视角移动操作。在水平移动模式中,原生功能遥控设备的上/下/左/右方向对应的方向标识键可以分别用于控制三维场景视图的前/后/左/右方向的水平移动操作。
本实施例中,当原生功能遥控设备的设备类型为方向遥控设备类型时,仅通过操作方向标识键,就能够实现对三维场景视图的水平移动操作以及视角移动操作,从而能够有效地对与终端的三维场景应用进行交互,还降低了用户进行三维场景应用交互的使用成本。
在一个实施例中,上述方法还包括:在三维场景视图中显示与第二遥控模式相应的方向示意标识;当根据水平移动操作或视角移动操作对应的操作意图对三维场景视图进行更新后,根据更新后的场景视图中可移动的方向更新显示相应的方向示意标识。
其中,可移动的方向,包括三维场景视图中可以进行水平移动操作的方向,以及可以进行视角移动操作的方向。
终端接收原生功能遥控设备针对三维场景视图触发的操作指令,当操作指令为响应于对原生功能遥控设备的方向标识键的触发操作生成的指令时,若当前的视图控制模式为水平移动模式,则在三维场景视图中显示与方向标识键对应的方向示意标识,并根据水平移动操作对应的操作意图对三维场景视图的画面内容进行水平移动,以对三维场景视图进行更新。终端进而根据更新后的场景视图中可移动的方向,更新显示相应的方向示意标识。
当操作指令为响应于对原生功能遥控设备的方向标识键的触发操作生成的指令时,若当前的视图控制模式为视角移动模式,则在三维场景视图中显示与方向标识键对应的方向示意标识,并根据视角移动操作对应的操作意图对三维场景视图的画面内容进行视角移动,以对三维场景视图进行更新。终端进而根据更新后的场景视图中可移动的方向,更新显示相应的方向示意标识。
进一步地,当更新后的三维场景视图中存在不可移动的方向时,表示已经达到三维场景视图的边界。即当水平方位或视角不能移动时,显示相应的文案或符号信息进行提示。此时终端可以生成并显示该不可移动的方向对应的边界提示信息,例如“不可向右移动”、“视角已到上边界”等边界提示信息。
例如,在第二遥控模式下,用户可以通过原生功能遥控设备的菜单键进行视图控制模式的切换操作,终端可以在三维场景视图中会显示当前的视图控制模式。三维场景视图中还可以显示当前移动模式,若当前的视图控制模式为水平移动模式,则在三维场景视图中显示表示可水平移动的方向箭头。如图12所示,为一个实施例中在水平移动模式下通过原生功能遥控设备中的方向键进行操控的示意图。若当前的视图控制模式为视角移动模式,当三维场景视图中虚拟对象的视角已经到达边界,终端则在三维场景视图中显示视角边界提示。如图13所示,为一个实施例中在视角移动模式下显示视角边界提示的示意图。
本实施例中,通过在三维场景视图中显示与原生功能遥控设备的方向标识键以及视图控制模式对应的方向示意标识,能够有效展示对三维场景视图进行操控的方向示意信息,从而在用户与终端进行三维场景应用的交互过程中,能够有效地向用户展示相应的提示信息,有效提高了用户的交互体验。
在一个实施例中,三维场景视图包括内容视图;内容视图为基于三维场景应用中虚拟对象的视角所观察的画面内容;在显示界面上,展示根据操作意图对三维场景视图进行更新后的场景视图的步骤,还包括:当操作意图的操作类型为针对内容视图的水平移动操作时,按照操作意图中的水平移动方向对画面内容进行水平移动变换,得到更新后的场景视图,并在显示界面上进行显示;当操作意图的操作类型为针对内容视图的视角移动操作时,按照操作意图中的视角移动方向对画面内容进行视角移动变换,得到更新后的场景视图,并在显示界面上进行显示。
可以理解,三维场景视图包括内容视图。其中,内容视图为基于三维场景应用中虚拟对象的视角所观察的画面内容,即三维场景应用所呈现的画面内容信息,如3D街区画面、3D房子画面。
终端接收到用户原生功能遥控设备针对三维场景视图触发的操作指令后,基于操控协议,根据当前的遥控模式、以及三维场景视图的当前场景状态,解析操作指令,得到操作意图。
当操作意图的操作类型为针对内容视图的水平移动操作时,根据操作意图对三维场景视图进行更新。具体地,按照操作意图的视角移动方向,以及三维场景视图的当前场景状态信息计算需要进行水平移动的范围需要呈现的画面内容,进而对画面内容进行视角移动变换。从而得到更新后的场景视图,并在显示界面上进行显示。
例如,如图14所示,为一个实施例中对内容视图进行水平移动变换的示意图。图14中展示的是俯视示意图,以三维场景应用中采用虚拟人物对象的视角所观察的画面内容为例。其中,图中圆圈表示虚拟人物对象的头部,三角形包围的区域表示虚拟人物对象的视角所观察到的水平视野。当操作意图是水平向右移动2次时,触发向右水平移动两个单位,虚拟人物对象的视角所观察到的视野也会随之变化,即内容视图向左水平移动两个单位(即图中两格)。向其他方向的水平移动同理,在此不再赘述。
当操作意图的操作类型为针对内容视图的视角移动操作时,根据操作意图对三维场景视图进行更新。具体地,按照操作意图的视角移动方向,以及三维场景视图的当前场景状态信息计算需要进行视角移动的范围需要呈现的画面内容,进而对画面内容进行视角移动变换。从而得到更新后的场景视图,并在显示界面上进行显示。
例如,如图15所示,为一个实施例中对内容视图进行视角移动变换的示意图。图15中展示的是俯视示意图,以三维场景应用中采用虚拟人物对象的视角所观察的画面内容为例。其中,图中圆圈表示虚拟人物对象的头部,三角形包围的区域表示虚拟人物对象的视角所观察到的水平视野。当操作意图是视角向右移动1次时,触发虚拟人物对象的视角顺时针转动1个单位的角度,虚拟人物对象的视角所观察到的视野也会随之变化,即内容视图向逆时针移动1个单位的角度。向其他方向的视角移动同理,在此不再赘述。
例如,如图16所示,为一个实施例中对虚拟对象的视角进行视角移动变换的示意图。图16中展示了从侧面观察当视角(三角形与矩形相交的切面部分)向上移动时,可以看到对应的视角画面作了相应的变化,即画面内容中露出了更多上方的视野。
本实施例中,通过预配置的原生功能遥控设备和三维场景应用之间的操控协议,能够有效对原生功能遥控设备针对三维场景视图触发的操作指令进行解析,从而能够有效地根据相应的操作意图对三维场景视图中的内容视图进行变换,有效实现了通过原生功能遥控设备对终端中运行的三维场景应用进行操控,提高了用户与终端的三维场景应用进行交互的便利性,同时降低了与三维场景应用交互的使用成本。
在一个实施例中,三维场景视图还包括控制视图;上述方法还包括:响应于通过原生功能遥控设备针对控制视图中的事件提示图标或工具展示图标的事件触发操作,根据事件触发操作对应的场景事件信息和当前场景状态,确定事件触发操作对应的操作意图;根据操作意图对三维场景视图进行更新,并获得交互结果信息;在显示界面上,展示更新后的场景视图和交互结果信息。
可以理解,三维场景视图包括控制视图。其中,控制视图为用于辅助用户通过遥控设备而在画面内容上显示的操控提示信息,如字符方向标识、方向示意标识、事件提示图标、工具展示图标、提示信息等。
其中,事件提示图标可以表示事件对象对应的标识,如可以代表各种事件功能的文件、程序或命令等。工具展示图标可以表示工具对象对应的标识,如可以代表各种工具功能的文件、程序或命令等。事件提示图标和工具展示图标的形式不仅限于是图形格式,也可以是特殊字符、文本形式、按钮、控制条等。事件提示图标用于在三维场景视图中展示相应的事件提示信息,以提示用户可进行相应的事件操作。工具展示图标用于在三维场景视图中展示相应的工具提示信息,以提示用户可进行相应的功能操作。
可以理解,交互结果信息是指获得按键事件以后结合当前场景计算出来的结果。如对于“点击确认键-拾取武器”这个场景,用户点击原生功能遥控设备的确认键后,终端通过结合三维场景应用的当前场景状态,可以计算得到“用户拾取了xxx(武器名)武器”的交互结果信息。
用户通过原生功能遥控设备对终端中的三维场景应用触发操作指令,对是三维场景视图进行操作,并对三维场景视图进行更新。其中,对三维场景视图的更新包括对内容视图和/或控制视图进行更新。
三维场景应用还可以在三维场景视图的控制视图中展示事件提示图标或工具展示图标。用户则可以通过原生功能遥控设备中相应的按键,以对事件提示图标或工具展示图标触发相应的操作。
终端则响应于通过原生功能遥控设备针对控制视图中的事件提示图标或工具展示图标的事件触发操作,进而根据事件触发操作对应的场景事件信息和当前场景状态,解析事件触发操作对应的操作意图。终端则进一步根据操作意图对三维场景视图进行更新,获得交互结果信息。并在显示界面上,展示更新后的场景视图和交互结果信息。例如,交互结果信息可以为针对事件提示图标或工具展示图标的事件触发操作,进行相应的事件处理后生成的反馈信息,如更新后的事件提示图标、信息提示框等。
例如,用户与三维场景应用进行交互的过程中,当用户点击原生功能遥控设备的确认键时,根据三维场景应用的当前场景状态,展示相应的工具栏或触发相应的事件图标,同时可以隐藏界面中的字符方位标识或方向示意标识。如图17所示,为一个实施例中触发事件提示图标的示意图。画面显示了可选择的工具或可触发的事件图标,例如“事件1”、“事件2”,以及“工具1”、“工具2”。通过方向键可进行焦点的切换,用户再次点击确认键则可触发工具或事件对应的操作。
终端根据原生功能遥控设备针对三维场景视图触发的操作指令,通过结合当前三维场景应用中虚拟对象所处的水平位置坐标以及视角方向,计算出当前的画面内容,再根据内容的属性(如可触发事件内容)展示相应的事件提示图标。图18所示,为一个实施例中进行视角移动变换触发事件提示图标的示意图。参照图18,在左侧初始位置,虚拟对象的视角(圆圈)所观察到的视野(三角形包围区域)中未出现可触发事件内容(圆角矩形)。当视角向右(顺时针)移动时,可触发事件内容(圆角矩形)进入虚拟对象的视野,这时在显示界面中展示相应的事件提示图标。例如,如图19所示,为一个实施例中展示事件提示图标的示意图,在显示界面中展示事件提示图标时,还可以展示相应的操控提示信息““确认键”可触发XXX事件”。
再如,当三维场景视图中出现提示按下确认键、返回键、或者方向键可以触发相应的场景事件时,用户按下对应的按键后,终端相应原生功能遥控设备相应的操作指令后,解析为该提示相应的操作意图。例如:当三维场景视图中显示了“武器”的事件提示图标以及“点击确认键-拾取武器”操控提示信息时,此时用户可以通过点击原生功能遥控设备的确认键,以触发拾取武器的操作,并在控制视图中显示“用户拾取了XXX武器”的交互结果信息。
本实施例中,通过操控原生功能遥控设备,基于预配置的操控协议,就能够有效地根据相应的操作意图对三维场景应用进行操控,以实现用户与终端中的三维场景应用的交互处理,提高了用户与终端的三维场景应用进行交互的便利性。
在一个实施例中,上述方法还包括:响应于通过原生功能遥控设备针对功能选项的触发操作,展示功能选项中的事件选项,并锁定针对三维场景视图的视图移动操作;响应于通过原生功能遥控设备针对事件选项的事件触发操作,根据事件触发操作对应的操作意图对三维场景视图进行对应的事件处理,获得事件处理结果;当事件触发操作的处理任务结束后,在显示界面隐藏功能选项,并对三维场景视图的视图移动操作进行解锁。
其中,功能选项可以为三维场景应用的系统工具栏,即菜单选项。功能选项也可以为三维场景应用中针对各场景的事件选项。功能选项还可以通过工具展示图标进行显示。功能选项中还可以包括相应的字符标识,如数字符号,以便于通过原生功能遥控设备的数字键触发相应的选择操作。例如,如图20所示,为一个实施例中具有数字符号标识的事件提示图标的示意图。
用户通过原生功能遥控设备操控三维场景应用的过程中,还可以通过原生功能遥控设备针对功能选项触发相应的操作。具体地,终端响应通过原生功能遥控设备针对功能选项的触发操作后,在显示界面展示功能选项中的事件选项,此时,终端锁定针对三维场景视图的视图移动操作。用户进而可以继续对功能选项中的事件选项进行操控。终端响应通过原生功能遥控设备针对事件选项的事件触发操作后,进而根据事件触发操作对应的操作意图对三维场景视图进行对应的事件处理,并获得事件处理结果。
可以理解,事件任务被处理完成或者用户点击原生功能遥控设备的返回键,均可表示事件触发操作的处理任务结束。进一步地,当事件触发操作的处理任务结束后,终端则在显示界面隐藏功能选项,并对三维场景视图的视图移动操作进行解锁。
例如,点击确认键可以呼出工具栏,当呼出了功能选项时,方向标识键或字符标识键的操作类型,由控制水平移动操作或者视角移动操作变为对功能选项的切换选择操作。这时水平方向和视角移动会被锁定,禁止移动,通过方向标识键或字符标识键可以移动工具栏中各工具展示图标对应的焦点。当确认键被按下后,终端可以选中对应的工具展示图标,并触发工具展示图标的相应功能。当对应的工具被使用结束或者用户点击返回键时,工具栏会被隐藏,水平移动操作和视角移动操作则被解锁,允许继续移动。
本实施例中,通过操控原生功能遥控设备,就能够有效地根据相应的操作意图对三维场景应用的画面内容以及功能选项进行操控,从而能够高效实现用户与终端中的三维场景应用的交互。
在一个实施例中,上述方法还包括:获取移动终端与三维场景应用的连接请求,根据连接请求将移动终端的虚拟遥控设备与三维场景应用进行连接绑定;
接收通过移动终端的虚拟遥控设备针对三维场景应用触发的操作指令。
其中,虚拟,是指通过运用计算机技术等特定技术把一个物理实体变为若干逻辑上的对应物,以实现模仿实物功能等。可以理解,移动终端的虚拟遥控设备,可以是运用计算机技术形成的独立于现实世界、实现模仿实物原生功能遥控设备的应用程序。
用户的移动终端中还可以安装虚拟遥控设备的应用程序,虚拟遥控设备可以是与终端原生功能遥控设备功能一致的模拟仿真设备。用户可以通过操作移动终端的虚拟遥控设备,实现对终端中运行的三维场景应用进行交互操控。
终端启动三维场景应用后,首先将移动终端的虚拟遥控设备与三维场景应用进行配对绑定。具体地,用户可以通过对应的移动终端,基于移动终端中安装的虚拟遥控设备向终端的三维场景应用发起连接请求。
例如,移动终端可以为用户的手机。终端的三维场景应用中还可以展示该3D应用软件的对应的标识码,如二维码。用于标识包括终端设备信息和3D应用软件信息对应的唯一标识信息。用户还可以用手机扫描3D应用软件呈现的二维码与3D应用软件通过网络进行连接绑定,手机终端的显示界面上可展示完整的虚拟遥控设备的面板界面。虚拟遥控设备也可以包括含字符标识键的设备类型和仅含方向标识键的设备类型。由此可以采用与实体原生功能遥控设备一样的操作和实现一致的功能。
终端获取移动终端与三维场景应用的连接请求后,根据连接请求将移动终端的虚拟遥控设备与三维场景应用进行连接绑定。绑定后用户则可以通过移动终端的虚拟遥控设备对三维场景应用进行操控。
终端进而接收通过移动终端的虚拟遥控设备针对三维场景应用触发的操作指令,同样基于原生功能遥控设备和三维场景应用之间的操控协议,根据原生功能遥控设备的设备类型对应的遥控模式、以及三维场景视图的当前场景状态,对操作指令进行解析,以得到对应的操作意图。终端进而根据操作意图对三维场景视图进行更新,并在显示界面上展示更新后的场景视图。
其中,用户通过移动终端的虚拟遥控设备与三维场景应用进行交互的过程中,移动终端还可以获取终端中3D应用软件的当前场景状态,根据当前场景状态显示当前虚拟遥控设备可操作的按键图标。移动终端还可以根据当前场景状态识别三维场景视图的画面内容中不可移动的方向,将相应方向的标识键图标的显示状态进行处理,将对应的标识键图标标识为不可操作状态。并在移动终端的显示界面可操作的按键图标和不可操作的按键图标。例如,三维场景视图的当前场景状态中包括不可进行视角向上移动的操作,则将移动终端的虚拟遥控设备的向上标识键图标识成禁止状态。
本实施例中,通过在用户的移动终端设备上安装虚拟遥控设备,可以实现与实体原生功能遥控设备一致的功能,从而实现对终端的三维场景应用进行操控和交互。由此也无需额外获取针对三维场景应用的遥控设备,就能够高效地与终端的三维场景应用进行交互,有效提高了与三维场景应用进行交互的便利性,能够有效提高用户交互体验。
在一个实施例中,上述方法还包括:接收通过原生功能遥控设备针对三维场景应用发送的语音指令;对语音指令进行解析,得到针对三维场景应用的操作指令。
其中,原生功能遥控设备还可以具备语音输入和传输的功能。操控协议中还可以包括语音操控协议,语音操作协议中预配置了指令集,例如指令集的指令列表可以包括:向前/后/左/右移动X个单位、向上移动、打开XX工具等等。
用户可以通过向原生功能遥控设备输入语音指令,以对终端中的三维场景应用进行操控。原生功能遥控设备接收到用户输入的语音指令后,将语音指令发送至终端。终端获取语音信息后,首先对接收到的语音指令进行语音识别,如可采用云语音识别(AutomaticSpeech Recognition,ASR),以将接收的语音信息转化为文本信息。
在另一种实施方式中,原生功能遥控设备接收到用户输入的语音指令后,原生功能遥控设备还可以直接对语音指令进行语音识别,将接收的语音信息转化为文本信息。然后再将转换后的文本信息发送至终端。
终端获取语音信息对应的文本信息后,然后与预设的指令集进行匹配,识别出该语音指令对应操作指令,进而基于操作协议以及三维场景视图的当前场景状态,对操作指令进行解析,以得到对应的操作意图。终端进而根据操作意图对三维场景视图进行更新,并在显示界面上展示更新后的场景视图。
在另一个实施例中,用户还可以将对应的移动终端与三维场景应用进行绑定,例如可通过移动终端中安装的与三维场景应用对应的控制程序,进行语音操控。用户进而可以通过向移动终端输入语音指令。移动终端接收语音信息后,对语音指令进行语音识别,将接收的语音信息转化为文本信息,然后将转换后的文本信息发送至终端,以使得终端对该语音指令对应的文本进行解析,得到对应的操作意图,进而对三维场景应用进行操控。
本实施例中,通过支持语音控制的原生功能遥控设备,对三维场景应用进行语音操控,从而实现高效地对终端中三维场景应用进行语音操控和交互。有效提高了基于三维场景应用的交互便利性,能够有效提高用户交互体验。
在其中一个实施例中,三维场景应用的硬件环境可以包括:原生功能遥控设备、终端以及与三维场景应用对应的服务器。软件环境包括:安装在终端中的3D应用软件(即三维场景应用)以及与后台服务器的接口和配置服务,3D应用软件中配置了原生功能遥控设备与三维场景应用之间的操控协议。如图21所示,为一个实施例中通过终端与后台服务器进行交互的流程示意图。
具体地,用户首先启动终端中的3D应用软件,3D应用软件会自动检查设备相应信息,如设备名称、型号、配置等信息。终端进而向3D应用软件对应的后台服务器发送设备信息,并查询该终端设备所支持的原生功能遥控设备的设备类型。终端可以根据设备类型默认设置的对应的遥控模式,如支持数字键盘或不支持数字键盘模式。终端进一步检测用户按键输入,接收用户通过原生功能遥控设备针对三维场景视图触发的操作指令。终端进而根据操控协议、遥控模式以及当前的画面信息(即当前场景状态)解析操作指令对应的操作意图,进而根据解析后的操作指令和操作意图与3D应用软件进行交互。并根据交互结果显示下一画面或动作,或将相应的按键事件或交互结果传输到后台服务器,以从后台服务器获取新的三维场景视图,并更新场景视图以及场景状态信息。
本实施例中,通过原生功能遥控设备对终端中运行的3D应用软件进行操控,实现了通过终端的原生功能遥控设备就能够有效地对与终端的3D应用软件进行交互,在提高了基于3D应用软件的交互便利性的同时,还降低了用户进行三维场景应用交互的使用成本。
本申请还提供一种具体的应用场景。具体地,终端可以为智能电视,智能电视中安装有三维场景应用,即3D应用软件,例如3D实景地图应用、3D游戏应用等。智能电视还配备有与智能电视配套的,用于操控智能电视的原生功能的电视遥控器,智能电视中还配置了3D应用软件对应的应用服务器接口信息和配置服务信息,3D应用软件中预配置了电视遥控器与3D应用软件之间的操控协议。其中,电视遥控器的遥控器类型可以包括带有数字键类型和不带数字键类型等。
用户启动智能电视中的3D应用软件后,智能电视中的3D应用软件会自动检查设备相应信息。智能电视进而向后台服务器发送设备信息,并查询该终端设备所支持的遥控器类型。智能电视可以根据电视遥控器的遥控器类型,确定默认设置的遥控模式,如支持数字键盘模式对应的遥控模式,或不支持数字键盘模式对应的遥控模式。
智能电视进一步接收用户通过电视遥控器针对三维场景视图触发的操作指令。智能电视进而基于预配置的电视遥控器与3D应用软件之间的操控协议,根据电视遥控器对应的遥控模式以及3D应用软件中的当前场景状态(即画面信息)解析操作指令对应的操作意图,进而根据解析得到的操作意图与3D应用软件进行交互。并根据交互结果显示下一画面或动作,或将相应的按键事件或交互结果传输到后台服务器,以从后台服务器获取3D应用软件中更新的三维场景视图,智能电视进而更新场景视图以及场景状态信息,并在显示界面展示更新后的三维场景视图。
本实施例中,对于智能电视而言,电视遥控器是与智能电视配套的原生功能遥控设备,且易于获得。通过采用上述基于三维场景应用的交互方法,通过定义一套电视遥控器与3D应用软件的操控协议,仅通过电视遥控器就能够有效实现对智能电视中的3D应用软件进行交互,由此不仅提高了用户进行3D应用软件的交互便利性,还降低了在常见的智能电视上进行3D交互体验的使用门槛以及使用成本。
应该理解的是,虽然2的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图2中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
在一个实施例中,如图22所示,提供了一种基于三维场景应用的交互装置2200,该装置可以采用软件模块或硬件模块,或者是二者的结合成为计算机设备的一部分,该装置具体包括:显示模块2202、指令接收模块2204、指令解析模块2206和场景更新模块2208,其中:
显示模块2202,用于在终端的显示界面中,展示三维场景应用的三维场景视图;
指令接收模块2204,用于接收终端的原生功能遥控设备针对三维场景视图触发的操作指令;原生功能遥控设备,是用于操控终端的原生功能的设备;
指令解析模块2206,用于基于原生功能遥控设备和三维场景应用之间的操控协议,根据原生功能遥控设备的设备类型对应的遥控模式、以及三维场景视图的当前场景状态,解析操作指令,得到操作意图;
场景更新模块2208,用于在显示界面上,展示根据操作意图对三维场景视图进行更新后的场景视图。
在一个实施例中,指令解析模块2206还用于检测原生功能遥控设备的设备类型;当设备类型为字符遥控设备类型时,基于操控协议,将三维场景应用的遥控模式配置为第一遥控模式;当设备类型为方向遥控设备类型时,基于操控协议,将三维场景应用的遥控模式配置为第二遥控模式。
在一个实施例中,字符遥控设备类型对应的原生功能遥控设备包括字符标识键和方向标识键;指令解析模块2206还用于当设备类型为字符遥控设备类型时,若操作指令为响应于对原生功能遥控设备的字符标识键的触发操作生成的指令,则基于操控协议、第一遥控模式、以及三维场景视图的当前场景状态,将操作指令对应的操作类型解析为水平移动操作;若操作指令为响应于对原生功能遥控设备的方向标识键的触发操作生成的指令,则基于操控协议、第一遥控模式、以及三维场景视图的当前场景状态,将操作指令对应的操作类型解析为视角移动操作。
在一个实施例中,场景更新模块2208还用于在三维场景视图中显示与字符标识键对应的字符方位标识;当根据水平移动操作对应的操作意图对三维场景视图进行更新后,根据更新后的场景视图中可水平移动的方位更新显示字符方位标识。
在一个实施例中,场景更新模块2208还用于根据更新后的场景视图中可水平移动的方位,显示可水平移动的方向对应的字符方位标识,并隐藏不可水平移动的方向对应的字符方位标识。
在一个实施例中,方向遥控设备类型对应的原生功能遥控设备包括方向标识键;指令解析模块2206还用于当设备类型为方向遥控设备类型时,在显示界面展示视图控制模式选项,并根据响应于对原生功能遥控设备的方向标识键的选择操作,确定第二遥控模式中的视图控制模式;当所选择的视图控制模式为水平移动模式时,基于操控协议、水平移动模式、以及三维场景视图的当前场景状态,将操作指令的操作类型解析为水平移动操作;当所选择的视图控制模式为视角移动模式时,基于操控协议、视角移动模式、以及三维场景视图的当前场景状态,将操作指令的操作类型解析为视角移动操作。
在一个实施例中,显示模块2202还用于在三维场景视图中显示与第二遥控模式相应的方向示意标识;场景更新模块2208还用于当根据水平移动操作或视角移动操作对应的操作意图对三维场景视图进行更新后,根据更新后的场景视图中可移动的方向更新显示相应的方向示意标识。
在一个实施例中,三维场景视图包括内容视图;内容视图为基于三维场景应用中虚拟对象的视角所观察的画面内容;场景更新模块2208还用于当操作意图的操作类型为针对内容视图的水平移动操作时,按照操作意图中的水平移动方向对画面内容进行水平移动变换,得到更新后的场景视图,并在显示界面上进行显示;当操作意图的操作类型为针对内容视图的视角移动操作时,按照操作意图中的视角移动方向对画面内容进行视角移动变换,得到更新后的场景视图,并在显示界面上进行显示。
在一个实施例中,三维场景视图还包括控制视图;场景更新模块2208还用于响应于通过原生功能遥控设备针对控制视图中的事件提示图标或工具展示图标的事件触发操作,根据事件触发操作对应的场景事件信息和当前场景状态,确定事件触发操作对应的操作意图;根据操作意图对三维场景视图进行更新,并获得交互结果信息;在显示界面上,展示更新后的场景视图和交互结果信息。
在一个实施例中,场景更新模块2208还用于响应于通过原生功能遥控设备针对功能选项的触发操作,展示功能选项中的事件选项,并锁定针对三维场景视图的视图移动操作;响应于通过原生功能遥控设备针对事件选项的事件触发操作,根据事件触发操作对应的操作意图对三维场景视图进行对应的事件处理,获得事件处理结果;当事件触发操作的处理任务结束后,在显示界面隐藏功能选项,并对三维场景视图的视图移动操作进行解锁。
在一个实施例中,指令接收模块2204还用于获取移动终端与三维场景应用的连接请求,根据连接请求将移动终端的虚拟遥控设备与三维场景应用进行连接绑定;接收通过移动终端的虚拟遥控设备针对三维场景应用触发的操作指令。
在一个实施例中,指令接收模块2204还用于接收通过原生功能遥控设备针对三维场景应用发送的语音指令;对语音指令进行解析,得到针对三维场景应用的操作指令。
上述基于三维场景应用的交互装置中,终端中安装的三维场景应用被启动后,在显示界面中,展示三维场景应用的三维场景视图。终端接收到用于操控终端的原生功能的原生功能遥控设备,针对三维场景视图触发的操作指令后,由于三维场景应用中预配置了原生功能遥控设备和三维场景应用之间的操控协议,由此能够有效地对原生功能遥控设备发送的操作指令进行识别并解析,从而得到针对该三维场景应用的操作意图。终端进而根据操作意图对三维场景视图进行更新,并在显示界面上展示更新后的场景视图。由此有效地实现了通过终端的原生功能遥控设备,就能够有效地与终端的三维场景应用进行交互,在提高了三维场景应用的交互便利性的同时,还降低了用户进行三维场景应用交互的使用成本。
关于基于三维场景应用的交互装置的具体限定可以参见上文中对于基于三维场景应用的交互方法的限定,在此不再赘述。上述基于三维场景应用的交互装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中,提供了一种计算机设备,该计算机设备可以是终端,其内部结构图可以如图23所示。该计算机设备包括通过系统总线连接的处理器、存储器、通信接口、显示屏和输入装置。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的通信接口用于与外部的终端进行有线或无线方式的通信,无线方式可通过WIFI、运营商网络、NFC(近场通信)或其他技术实现。该计算机程序被处理器执行时以实现一种基于三维场景应用的交互方法。该计算机设备的显示屏可以是液晶显示屏或者电子墨水显示屏,该计算机设备的输入装置可以是显示屏上覆盖的触摸层,也可以是计算机设备外壳上设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或鼠标等。
本领域技术人员可以理解,图23中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个实施例中,还提供了一种计算机设备,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现上述各方法实施例中的步骤。
在一个实施例中,提供了一种计算机可读存储介质,存储有计算机程序,该计算机程序被处理器执行时实现上述各方法实施例中的步骤。
在一个实施例中,提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述各方法实施例中的步骤。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read-Only Memory,ROM)、磁带、软盘、闪存或光存储器等。易失性存储器可包括随机存取存储器(Random Access Memory,RAM)或外部高速缓冲存储器。作为说明而非局限,RAM可以是多种形式,比如静态随机存取存储器(Static Random Access Memory,SRAM)或动态随机存取存储器(Dynamic RandomAccess Memory,DRAM)等。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。

Claims (24)

1.一种基于三维场景应用的交互方法,其特征在于,所述方法包括:
在终端的显示界面中,展示三维场景应用的三维场景视图;
接收所述终端的原生功能遥控设备针对所述三维场景视图触发的操作指令;所述原生功能遥控设备,是用于操控所述终端的原生功能的设备;
检测所述原生功能遥控设备的设备类型;
当所述设备类型为字符遥控设备类型时,基于操控协议,将所述三维场景应用的遥控模式配置为第一遥控模式;若所述操作指令为响应于对所述原生功能遥控设备的字符标识键的触发操作生成的指令,则基于所述操控协议、所述第一遥控模式以及所述三维场景视图的当前场景状态,将所述操作指令对应的操作类型解析为水平移动操作;
若所述操作指令为响应于对所述原生功能遥控设备的方向标识键的触发操作生成的指令,则基于所述操控协议、所述第一遥控模式以及所述三维场景视图的当前场景状态,将所述操作指令对应的操作类型解析为视角移动操作,得到操作意图;
在所述显示界面上,展示根据所述操作意图对所述三维场景视图进行更新后的场景视图。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
当所述设备类型为方向遥控设备类型时,基于所述操控协议,将所述三维场景应用的遥控模式配置为第二遥控模式。
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
在所述三维场景视图中显示与所述字符标识键对应的字符方位标识;
当根据所述水平移动操作对应的操作意图对所述三维场景视图进行更新后,根据更新后的场景视图中可水平移动的方位更新显示所述字符方位标识。
4.根据权利要求3所述的方法,其特征在于,所述根据更新后的场景视图中可水平移动的方位更新显示所述字符方位标识,包括:
根据所述更新后的场景视图中可水平移动的方位,显示所述可水平移动的方向对应的字符方位标识,并隐藏不可水平移动的方向对应的字符方位标识。
5.根据权利要求2所述的方法,其特征在于,所述方向遥控设备类型对应的原生功能遥控设备包括方向标识键;所述方法还包括:
当所述设备类型为方向遥控设备类型时,在所述显示界面展示视图控制模式选项,并根据响应于对所述原生功能遥控设备的方向标识键的选择操作,确定所述第二遥控模式中的视图控制模式;
当所选择的视图控制模式为水平移动模式时,基于所述操控协议、所述水平移动模式以及所述三维场景视图的当前场景状态,将所述操作指令的操作类型解析为水平移动操作;
当所选择的视图控制模式为视角移动模式时,基于所述操控协议、所述视角移动模式以及所述三维场景视图的当前场景状态,将所述操作指令的操作类型解析为视角移动操作。
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
在所述三维场景视图中显示与所述第二遥控模式相应的方向示意标识;
当根据所述水平移动操作或所述视角移动操作对应的操作意图对所述三维场景视图进行更新后,根据更新后的场景视图中可移动的方向更新显示相应的方向示意标识。
7.根据权利要求1所述的方法,其特征在于,所述三维场景视图包括内容视图;所述内容视图为基于所述三维场景应用中虚拟对象的视角所观察的画面内容;所述在所述显示界面上,展示根据所述操作意图对所述三维场景视图进行更新后的场景视图,包括:
当所述操作意图的操作类型为针对所述内容视图的水平移动操作时,按照所述操作意图中的水平移动方向对所述画面内容进行水平移动变换,得到更新后的场景视图,并在所述显示界面上进行显示;
当所述操作意图的操作类型为针对所述内容视图的视角移动操作时,按照所述操作意图中的视角移动方向对所述画面内容进行视角移动变换,得到更新后的场景视图,并在所述显示界面上进行显示。
8.根据权利要求1所述的方法,其特征在于,所述三维场景视图还包括控制视图;所述方法还包括:
响应于通过所述原生功能遥控设备针对所述控制视图中的事件提示图标或工具展示图标的事件触发操作,根据所述事件触发操作对应的场景事件信息和所述当前场景状态,确定所述事件触发操作对应的操作意图;
根据所述操作意图对所述三维场景视图进行更新,并获得交互结果信息;
在所述显示界面上,展示更新后的场景视图和所述交互结果信息。
9.根据权利要求1所述的方法,其特征在于,所述方法还包括:
响应于通过所述原生功能遥控设备针对功能选项的触发操作,展示所述功能选项中的事件选项,并锁定针对所述三维场景视图的视图移动操作;
响应于通过所述原生功能遥控设备针对所述事件选项的事件触发操作,根据所述事件触发操作对应的操作意图对所述三维场景视图进行对应的事件处理,获得事件处理结果;
当所述事件触发操作的处理任务结束后,在所述显示界面隐藏所述功能选项,并对所述三维场景视图的视图移动操作进行解锁。
10.根据权利要求1至9任意一项所述的方法,其特征在于,所述方法还包括:
获取移动终端与所述三维场景应用的连接请求,根据所述连接请求将所述移动终端的虚拟遥控设备与所述三维场景应用进行连接绑定;
接收通过所述移动终端的虚拟遥控设备针对所述三维场景应用触发的操作指令。
11.根据权利要求1至9任意一项所述的方法,其特征在于,所述方法还包括:
接收通过所述原生功能遥控设备针对所述三维场景应用发送的语音指令;
对所述语音指令进行解析,得到针对所述三维场景应用的操作指令。
12.一种基于三维场景应用的交互装置,其特征在于,所述装置包括:
显示模块,用于在终端的显示界面中,展示三维场景应用的三维场景视图;
指令接收模块,用于接收所述终端的原生功能遥控设备针对所述三维场景视图触发的操作指令;所述原生功能遥控设备,是用于操控所述终端的原生功能的设备;
指令解析模块,用于检测所述原生功能遥控设备的设备类型;当所述设备类型为字符遥控设备类型时,基于操控协议,将所述三维场景应用的遥控模式配置为第一遥控模式;若所述操作指令为响应于对所述原生功能遥控设备的字符标识键的触发操作生成的指令,则基于所述操控协议、所述第一遥控模式以及所述三维场景视图的当前场景状态,将所述操作指令对应的操作类型解析为水平移动操作;若所述操作指令为响应于对所述原生功能遥控设备的方向标识键的触发操作生成的指令,则基于所述操控协议、所述第一遥控模式以及所述三维场景视图的当前场景状态,将所述操作指令对应的操作类型解析为视角移动操作,得到操作意图;
场景更新模块,用于在所述显示界面上,展示根据所述操作意图对所述三维场景视图进行更新后的场景视图。
13.根据权利要求12所述的装置,其特征在于,所述指令解析模块还用于当所述设备类型为方向遥控设备类型时,基于所述操控协议,将所述三维场景应用的遥控模式配置为第二遥控模式。
14.根据权利要求12所述的装置,其特征在于,所述场景更新模块还用于在所述三维场景视图中显示与所述字符标识键对应的字符方位标识;当根据所述水平移动操作对应的操作意图对所述三维场景视图进行更新后,根据更新后的场景视图中可水平移动的方位更新显示所述字符方位标识。
15.根据权利要求14所述的装置,其特征在于,所述场景更新模块还用于根据所述更新后的场景视图中可水平移动的方位,显示所述可水平移动的方向对应的字符方位标识,并隐藏不可水平移动的方向对应的字符方位标识。
16.根据权利要求13所述的装置,其特征在于,所述方向遥控设备类型对应的原生功能遥控设备包括方向标识键;所述指令解析模块还用于当所述设备类型为方向遥控设备类型时,在所述显示界面展示视图控制模式选项,并根据响应于对所述原生功能遥控设备的方向标识键的选择操作,确定所述第二遥控模式中的视图控制模式;当所选择的视图控制模式为水平移动模式时,基于所述操控协议、所述水平移动模式以及所述三维场景视图的当前场景状态,将所述操作指令的操作类型解析为水平移动操作;当所选择的视图控制模式为视角移动模式时,基于所述操控协议、所述视角移动模式以及所述三维场景视图的当前场景状态,将所述操作指令的操作类型解析为视角移动操作。
17.根据权利要求16所述的装置,其特征在于,所述显示模块还用于在所述三维场景视图中显示与所述第二遥控模式相应的方向示意标识;所述场景更新模块还用于当根据所述水平移动操作或所述视角移动操作对应的操作意图对所述三维场景视图进行更新后,根据更新后的场景视图中可移动的方向更新显示相应的方向示意标识。
18.根据权利要求12所述的装置,其特征在于,所述三维场景视图包括内容视图;所述内容视图为基于所述三维场景应用中虚拟对象的视角所观察的画面内容;所述场景更新模块还用于当所述操作意图的操作类型为针对所述内容视图的水平移动操作时,按照所述操作意图中的水平移动方向对所述画面内容进行水平移动变换,得到更新后的场景视图,并在所述显示界面上进行显示;当所述操作意图的操作类型为针对所述内容视图的视角移动操作时,按照所述操作意图中的视角移动方向对所述画面内容进行视角移动变换,得到更新后的场景视图,并在所述显示界面上进行显示。
19.根据权利要求12所述的装置,其特征在于,所述三维场景视图还包括控制视图;所述场景更新模块还用于响应于通过所述原生功能遥控设备针对所述控制视图中的事件提示图标或工具展示图标的事件触发操作,根据所述事件触发操作对应的场景事件信息和所述当前场景状态,确定所述事件触发操作对应的操作意图;根据所述操作意图对所述三维场景视图进行更新,并获得交互结果信息;在所述显示界面上,展示更新后的场景视图和所述交互结果信息。
20.根据权利要求12所述的装置,其特征在于,所述场景更新模块还用于响应于通过所述原生功能遥控设备针对功能选项的触发操作,展示所述功能选项中的事件选项,并锁定针对所述三维场景视图的视图移动操作;响应于通过所述原生功能遥控设备针对所述事件选项的事件触发操作,根据所述事件触发操作对应的操作意图对所述三维场景视图进行对应的事件处理,获得事件处理结果;当所述事件触发操作的处理任务结束后,在所述显示界面隐藏所述功能选项,并对所述三维场景视图的视图移动操作进行解锁。
21.根据权利要求12至20任意一项所述的装置,其特征在于,所述指令接收模块还用于获取移动终端与所述三维场景应用的连接请求,根据所述连接请求将所述移动终端的虚拟遥控设备与所述三维场景应用进行连接绑定;接收通过所述移动终端的虚拟遥控设备针对所述三维场景应用触发的操作指令。
22.根据权利要求12至20任意一项所述的装置,其特征在于,所述指令接收模块还用于接收通过所述原生功能遥控设备针对所述三维场景应用发送的语音指令;对所述语音指令进行解析,得到针对所述三维场景应用的操作指令。
23.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至11中任一项所述的方法的步骤。
24.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至11中任一项所述的方法的步骤。
CN202010907893.3A 2020-09-02 2020-09-02 基于三维场景应用的交互方法、装置和计算机设备 Active CN112099681B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010907893.3A CN112099681B (zh) 2020-09-02 2020-09-02 基于三维场景应用的交互方法、装置和计算机设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010907893.3A CN112099681B (zh) 2020-09-02 2020-09-02 基于三维场景应用的交互方法、装置和计算机设备

Publications (2)

Publication Number Publication Date
CN112099681A CN112099681A (zh) 2020-12-18
CN112099681B true CN112099681B (zh) 2021-12-14

Family

ID=73757170

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010907893.3A Active CN112099681B (zh) 2020-09-02 2020-09-02 基于三维场景应用的交互方法、装置和计算机设备

Country Status (1)

Country Link
CN (1) CN112099681B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113111277A (zh) * 2021-04-01 2021-07-13 苏州美房云客软件科技股份有限公司 一种移动端操控虚幻引擎pc大屏的方法
CN115442644A (zh) * 2021-10-29 2022-12-06 佛山欧神诺云商科技有限公司 一种全景图像的展示角度操控方法、设备、介质及产品

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110711388A (zh) * 2019-11-08 2020-01-21 腾讯科技(深圳)有限公司 虚拟对象控制方法、装置及存储介质
CN110764497A (zh) * 2019-09-09 2020-02-07 深圳市无限动力发展有限公司 移动机器人遥控方法、装置、存储介质及遥控终端

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7581182B1 (en) * 2003-07-18 2009-08-25 Nvidia Corporation Apparatus, method, and 3D graphical user interface for media centers
CN102595224B (zh) * 2011-11-01 2015-09-30 华为技术有限公司 一种遥控方法、遥控器、遥控响应方法以及机顶盒
CN105336001B (zh) * 2014-05-28 2019-02-05 深圳超多维科技有限公司 三维地图场景的漫游方法及装置
CN106792246B (zh) * 2016-12-09 2021-03-09 福建星网视易信息系统有限公司 一种融合式虚拟场景互动的方法及系统
CN107635146A (zh) * 2017-09-06 2018-01-26 晶晨半导体(上海)股份有限公司 一种遥控系统
CN110557666B (zh) * 2019-07-23 2022-01-11 广州视源电子科技股份有限公司 遥控交互方法、装置和电子设备

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110764497A (zh) * 2019-09-09 2020-02-07 深圳市无限动力发展有限公司 移动机器人遥控方法、装置、存储介质及遥控终端
CN110711388A (zh) * 2019-11-08 2020-01-21 腾讯科技(深圳)有限公司 虚拟对象控制方法、装置及存储介质

Also Published As

Publication number Publication date
CN112099681A (zh) 2020-12-18

Similar Documents

Publication Publication Date Title
US20190129607A1 (en) Method and device for performing remote control
CN109557998B (zh) 信息交互方法、装置、存储介质和电子装置
US9268410B2 (en) Image processing device, image processing method, and program
US20130257858A1 (en) Remote control apparatus and method using virtual reality and augmented reality
US11880999B2 (en) Personalized scene image processing method, apparatus and storage medium
WO2005119591A1 (ja) 表示制御方法および装置、プログラム、並びに携帯機器
WO2015102866A1 (en) Physical object discovery
CN112099681B (zh) 基于三维场景应用的交互方法、装置和计算机设备
CN111566596A (zh) 用于虚拟现实显示器的真实世界门户
KR101286866B1 (ko) Ar 태그 정보를 생성하는 사용자 단말기 및 그 방법, 그리고, 시스템
CN111159449A (zh) 一种图像显示方法及电子设备
KR20120010041A (ko) 이동 단말 환경에서 증강 현실 콘텐츠를 저작하는 방법 및 시스템
CN108038916A (zh) 一种增强现实的显示方法
US11030359B2 (en) Method and system for providing mixed reality service
US20190114823A1 (en) Image generating apparatus, image generating method, and program
CN111459432B (zh) 虚拟内容的显示方法、装置、电子设备及存储介质
KR102188363B1 (ko) 네트워크에서의 모바일 디바이스 활성화 방법, 및 관련된 디스플레이 디바이스 및 시스템
CN116244024A (zh) 交互控制方法、装置、头戴显示设备及介质
CN115624740A (zh) 一种虚拟现实设备及其控制方法、装置、系统及互动系统
WO2021121061A1 (zh) 用于设置虚拟对象的空间位置的方法和电子设备
CN106055108B (zh) 一种虚拟触摸屏的操控方法和系统
CN114100121A (zh) 操作控制方法、装置、设备、存储介质及计算机程序产品
CN112328155A (zh) 输入设备的控制方法、装置和电子设备
CN106933455B (zh) 应用图标的处理方法和处理装置
CN111973984A (zh) 虚拟场景的坐标控制方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40035306

Country of ref document: HK

GR01 Patent grant
GR01 Patent grant