CN115328423A - 显示方法、装置、系统、存储介质及电子设备 - Google Patents
显示方法、装置、系统、存储介质及电子设备 Download PDFInfo
- Publication number
- CN115328423A CN115328423A CN202210981284.1A CN202210981284A CN115328423A CN 115328423 A CN115328423 A CN 115328423A CN 202210981284 A CN202210981284 A CN 202210981284A CN 115328423 A CN115328423 A CN 115328423A
- Authority
- CN
- China
- Prior art keywords
- image
- electronic device
- virtual object
- electronic equipment
- pose
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/1454—Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/07—Target detection
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Processing Or Creating Images (AREA)
Abstract
本申请实施例公开了一种显示方法、装置、系统、存储介质及电子设备,其中,本申请实施例响应于第二电子设备获取的第一图像,确定所述第一图像的目标检测结果;当所述目标检测结果指示所述第一图像中有第一电子设备时,在所述第一电子设备上显示第一虚拟对象的第一部分影像,并控制所述第二电子设备对所述第一虚拟对象的第二部分影像进行显示。通过本申请的方案,将第一电子设备用于增强现实场景中虚拟对象的显示,提高了增强现实场景下第一电子设备的利用率。
Description
技术领域
本申请涉及增强现实技术领域,具体涉及一种显示方法、装置、系统、存储介质及电子设备。
背景技术
增强现实(Augmented Reality,AR)技术是一种能够实现虚拟世界和现实世界的融合的技术,该技术利用计算机设备生成虚拟对象,并将虚拟对象结合现实场景进行显示。随着第一电子设备处理能力的提升,增强显示技术可以被被广泛应用于游戏、教育、交通、信息跟踪等各个领域。
但是,相关技术中将如手机等电子设备应用增强现实场景时,一般只将第一电子设备作为增强现实设备的控制端,导致第一电子设备的利用率较低。
发明内容
本申请实施例提供一种显示方法、装置、系统、存储介质及电子设备,能够利用第一电子设备进行虚拟对象的显示,提高了增强现实场景下第一电子设备的利用率。
第一方面,本申请实施例提供一种显示方法,应用于第一电子设备,所述方法包括:
响应于第二电子设备获取的第一图像,确定所述第一图像的目标检测结果;
当所述目标检测结果指示所述第一图像中有第一电子设备时,在所述第一电子设备上显示第一虚拟对象的第一部分影像,并控制所述第二电子设备对所述第一虚拟对象的第二部分影像进行显示。
第二方面,本申请实施例还提供一种显示装置,应用于第一电子设备,所述装置包括:
获取模块,用于响应于第二电子设备获取的第一图像,确定所述第一图像的目标检测结果;
控制模块,用于当所述目标检测结果指示所述第一图像中有第一电子设备时,在所述第一电子设备上显示第一虚拟对象的第一部分影像,并控制所述第二电子设备对所述第一虚拟对象的第二部分影像进行显示。
第三方面,本申请实施例提供一种显示方法,应用于第二电子设备,所述方法包括:
获取当前场景的第一图像;
将所述第一图像发送至第一电子设备,所述第一图像用于使得所述第二电子设备确定所述第一图像的目标检测结果,并且在所述目标检测结果指示所述第一图像中有第一电子设备时,在所述第一电子设备上显示第一虚拟对象的第一部分影像;
响应于所述第一电子设备的控制指令,对所述第一虚拟对象的第二部分影像进行显示。
第四方面,本申请实施例还提供一种显示装置,应用于第二电子设备,所述装置包括:
第二获取模块,用于获取当前场景的第一图像;
发送模块,用于将所述第一图像发送至第一电子设备,所述第一图像用于使得所述第二电子设备确定所述第一图像的目标检测结果,并且在所述目标检测结果指示所述第一图像中有第一电子设备时,在所述第一电子设备上显示第一虚拟对象的第一部分影像;
显示模块,用于响应于所述第一电子设备的控制指令,对所述第一虚拟对象的第二部分影像进行显示。
第五方面,本申请实施例还提供一种计算机可读存储介质,其上存储有计算机程序,当所述计算机程序在计算机上运行时,使得所述计算机执行如本申请任一实施例提供的显示方法。
第六方面,本申请实施例还提供一种电子设备,包括处理器和存储器,所述存储器有计算机程序,所述处理器通过调用所述计算机程序,用于执行如本申请任一实施例提供的显示方法。
第七方面,本申请实施例还提供一种显示系统,所述所述显示系统包括第一电子设备和第二电子设备;
所述第二电子设备获取当前场景的第一图像,并将所述第一图像发送至所述第一电子设备;
所述第一电子设备响应于第二电子设备获取的第一图像,确定所述第一图像的目标检测结果;
当所述目标检测结果指示所述第一图像中有第一电子设备时,在所述第一电子设备上显示第一虚拟对象的第一部分影像,并控制所述第二电子设备对所述第一虚拟对象的第二部分影像进行显示。
本申请实施例提供的技术方案,第一电子设备响应于第二电子设备获取的第一图像,确定第一图像的目标检测结果,当该目标检测结果指示第一图像中有第一电子设备时,在第一电子设备上显示第一虚拟对象的第一部分影像,并控制第二电子设备对第一虚拟对象的第二部分影像进行显示,实现了将电子设备用于增强现实场景中虚拟对象的显示,提高了增强现实场景下电子设备的利用率。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的显示方法的第一种流程示意图。
图2为通过第一电子设备的显示屏显示第一虚拟对象的第一部分影像的一种示意图。
图3为通过增强现实设备显示第一虚拟对象的第二部分影像的第一种示意图。
图4为第二虚拟对象与第一虚拟对象发生碰撞事件的一种示意图。
图5为本申请实施例提供的显示装置的结构示意图。
图6为本申请实施例提供的电子设备的第一种结构示意图。
图7为本申请实施例提供的电子设备的第二种结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述。显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域技术人员在没有付出创造性劳动前提下所获得的所有其他实施例,都属于本申请的保护范围。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
本申请实施例提供一种显示方法,该显示方法的执行主体可以是本申请实施例提供的显示装置,或者集成了该显示装置的第一电子设备,其中该显示装置可以采用硬件或者软件的方式实现。其中,第一电子设备可以是智能手机、平板电脑、掌上电脑等设备。
请参阅图1,图1为本申请实施例提供的显示方法的第一种流程示意图。本申请实施例提供的显示方法的具体流程可以如下:
101、响应于第二电子设备获取的第一图像,确定第一图像的目标检测结果。
本申请实施例中的第二电子设备可以是诸如AR眼镜、AR头盔等头戴式显示设备。第一电子设备可以作为增强现实设备的控制端,对增强现实设备的显示和交互等进行控制。
接下来,以第一电子设备为手机、第二电子设备为AR眼镜为例对本申请实施例提出的显示方法进行说明。本申请实施例的增强现实眼镜在使用时,建立增强现实眼镜与第一电子设备之间的通讯连接,无需其他的如手柄或者遥控等外接设备,第一电子设备除了作为增强现实眼镜的处理器之外,还可以作为AR交互场景下的道具使用,例如作为游戏手柄、游戏道具等。增强现实眼镜作为显示设备,用于呈现出第一电子设备配置的虚拟画面,用户佩戴增强现实眼镜时,可以看到真实世界的画面,也可以看到配置在显示环境下的虚拟对象。
增强现实眼镜上设置有摄像头,可以通过摄像头采集现实场景的图像,采集到的图像与用户通过增强现实眼镜看到的画面匹配。第一电子设备包括显示屏。将第一电子设备作为AR交互场景下的道具使用时,可以借助于显示屏进行道具的显示,当用户通过增强现实眼镜看向第一电子设备时,增强虚拟物体在显示场景中的真实感。
用户佩戴增强现实眼镜,增强现实眼镜通过摄像头拍摄用户前方的现实场景的图像,并将拍摄得到的连续多帧图像发送给第一电子设备。对于增强现实眼镜来说,在AR交互场景中会按照一定的帧率对当前的现实场景进行拍摄,例如,将拍摄得到的连续多帧第一图像发送给第一电子设备。
对于第一电子设备来说,第一电子设备接收增强现实设备的摄像头拍摄现实场景得到的第一图像,对于接收到的每一帧第一图像进行检测并进行后续处理,以保证增强现实交互场景的虚拟对象显示的流畅度。对于接收到的每一帧第一图像,第一电子设备确定第一图像的目标检测结果。例如,在一实施例中,第一电子设备响应于第二电子设备获取的第一图像,对第一图像进行目标检测处理,得到第一图像的目标检测结果,其中,检测的目标是第一电子设备,即检测该第一图像中是否包含有该第一电子设备。第一图像反映的是用户眼睛可见的画面,因此,若检测到第一图像中有第一电子设备,则说明用户眼前看到的现实场景中看到该第一电子设备,若检测到第一图像中没有该第一电子设备,则认为用户看到的显示场景中没有该第一电子设备。或者,在另一实施例中,第一电子设备响应于第二电子设备获取的第一图像,从第一图像携带的信息中获取目标检测结果。该实施例中,可以由第二电子设备在拍摄得到第一图像后,对第一图像中是否包含有第一电子设备进行检测,并将目标检测结果携带在第一图像中发送给第一电子设备,第一电子设备在接收到第一图像后,可以直接获取到的目标检测结果,不必再进行目标检测。
其中,第一电子设备可以采用目标识别算法,例如预先训练卷积神经网络得到目标检测模型,将该目标检测模型部署在第一电子设备中。第一电子设备在获取到图像后,通过该目标检测模型对图像进行识别。或者,第一电子设备使用语义分割算法等对图像进行处理,进而检测该图像中是否包含有该第一电子设备。需要说明的时,即使检测到图像中只包含有第一电子设备的局部区域,也可以判定检测到图像中包含有第一电子设备。
102、当目标检测结果指示第一图像中有第一电子设备时,在第一电子设备上显示第一虚拟对象的第一部分影像,并控制第二电子设备对第一虚拟对象的第二部分影像进行显示。
当检测出到该图像中有第一电子设备时,第一电子设备可以接下来对当前的交互场景中的虚拟对象进行显示处理。以交互场景为打网球场景为例,用户通过佩戴AR眼镜进行网球运动,其中,第一电子设备利用计算机计算在真实的现实环境下配置虚拟对象,虚拟对象包括网球拍和网球,为了便于区分,将网球拍记为第一虚拟对象,将网球记为第二虚拟对象。网球拍和网球并未真实存在于现实世界,只有当用户佩戴增强现实眼镜时,才能够通过增强现实眼镜看到网球拍和网球。
其中,为了增强交互的真实感,本申请实施例中将第一电子设备作为网球拍的手柄,用户握持第一电子设备进行挥拍动作,这样会更加有真实感。
第一电子设备在检测到第一图像中有第一电子设备时,在第一电子设备上显示第一虚拟对象的第一部分影像,同时,通过增强现实眼镜对第一虚拟对象的第二部分影像进行显示。
在以上述网球运动的场景中,第一部分影像为网球拍的手柄部分,第二部分影像为网球拍的除手柄部分之外的其他部分。其中,第一电子设备在自身的显示屏上显示网球拍的手柄部分,在现实环境下看向第一电子设备的显示屏时,可以看到该第一电子设备的显示屏上显示有网球拍的手柄部分;通过增强现实眼镜看向第一电子设备的显示屏时,也可以看到该第一电子设备的显示屏上显示有网球拍的手柄部分。也就是说,网球拍的手柄部分是通过第一电子设备的显示屏真实的显示在真实世界的,而不是通过增强现实眼镜虚拟显示屏显示的虚拟对象。如图2所示,图2为通过第一电子设备的显示屏显示第一虚拟对象的第一部分影像的一种示意图。
并且,第一电子设备还控制增强现实眼镜对第二部分影像进行显示,如图3所示,图3为通过增强现实设备显示第一虚拟对象的第二部分影像的第一种示意图。第一部分影像和第二部分影像在第一电子设备的显示屏的边缘处相接,构成第一虚拟对象的完整影像。图3所示的是通过AR眼镜看到的第一虚拟对象的效果。
通过这种方式,将第一电子设备作为网球游戏的物理手柄的同时,还可以借助第一电子设备的显示功能,在第一电子设备的显示屏上辅助显示手柄的图像,使得用户通过增强现实眼镜看向第一电子设备时,具有更强的真实感。
其中,在一实施例中,控制第二电子设备对第一虚拟对象的第二部分影像进行显示,包括:确定第一电子设备在世界坐标系下的第一位姿;控制第二电子设备根据第一位姿对第一虚拟对象的第二部分影像进行显示。
在用户挥动网球拍时,用户握持网球的姿势会发生变化,而当用户握持网球拍的姿势不同时,从用户的角度看向虚拟的网球拍时,所看到的网球拍姿态也是不同的。第一电子设备在检测到第一图像中有第一电子设备时,确定第一电子设备在世界坐标系下的第一位姿,再根据该第一位姿控制第二电子设备根据第一位姿对第一虚拟对象的第二部分影像进行显示,使得显示出的第一虚拟对象符合第一电子设备在世界坐标系下的位姿,其中,第一电子设备在世界坐标系下的位姿体现出用户握持第一电子设备的姿势,即用户握持虚拟网球拍的手柄的姿势。显示出的第一虚拟对象的形态符合用户握持第一电子设备的姿势,从而增强用户握持虚拟网球拍的真实感。可以理解的是,用户佩戴着增强现实设备,因此用户与增强现实设备之间的相对位置关系是保持不变的,而第一电子设备相对于增强现实设备的位姿与第一电子设备相当于用户的位姿是一致的。
在一实施例中,确定第一电子设备在世界坐标系下的第一位姿,包括:获取第二电子设备在世界坐标系下的第二位姿;获取第一电子设备的惯性传感器采集的第一惯性数据;根据第一惯性数据和第一图像确定第一电子设备相对于第二电子设备的第三位姿;根据第二位姿和第三位姿,确定第一电子设备在世界坐标系下的第一位姿。
该实施例中,第一电子设备还包括运动传感器组件。运动传感器可以是惯性传感器,又称为惯性测量元件(Inertial Measurement Unit,IMU),也可以是陀螺仪等能够检测第一电子设备自身的第一惯性数据,惯性数据包括平移量和旋转量。例如,惯性传感器可以包含三个加速度计和三个陀螺,三个加速度计用于检测增强现实设备在三维坐标系的每个坐标轴上的加速度信号,进而可以计算出平移量;而三个陀螺,可以检测增强现实设备在三维坐标系的旋转量,旋转量也可以表示为旋转矩阵。
对于增强现实设备来说,增强现实设备设置有摄像头和惯性传感器,其中,摄像头可以拍摄真实世界的图像,惯性传感器可以检测设备自身的惯性数据,增强现实设备利用摄像头拍摄的图像和惯性传感器检测到的第二惯性数据,增强现实设备将这些数据发送给第一电子设备,第一电子设备根据这些信息可以确定增强现实设备在现实环境坐标系下的第二位姿,第一电子设备根据图像中第一电子设备自身的深度信息以及第一电子设备的惯性数据可以得到第一电子设备相对于增强现实设备的第三位姿,结合第一位姿和第二位姿可以得到第一电子设备在现实环境坐标系下的第一位姿。
其中,在一实施例中,根据第一惯性数据和第一图像确定第一电子设备相对于第二电子设备的第三位姿,包括:识别第一电子设备在第一图像中的深度信息;根据深度信息获取第一电子设备相对于第二电子设备的位置;根据第一惯性数据确定第一电子设备的姿态,位置和姿态构成第一电子设备相对于第二电子设备的第三位姿
该实施例中,位姿包括位置和姿态。其中,图像对应的深度图中包含了该图像中的每一像素点对应的物体到摄像头之间的垂直距离,由于前文中已经识别出了第一图像中包含有第一电子设备,还可以进一步对第一电子设备在第一图像中的位置进行检测,以确定出第一电子设备在第一图像中对应的目标区域。例如,上文中的目标检测模型在训练时除了具有类别标签以外,还具有位置标签,训练得到的目标检测模型除了可以检测第一图像中是否有第一电子设备之外,还可以标识出第一电子设备在第一图像中的位置,例如,通过标注框的形式标注出第一电子设备在第一图像中的位置。根据该位置信息可以确定出第一电子设备在第一图像中对应的目标区域。确定出第一电子设备在第一图像中对应的目标区域之后,在一实施例中,可以将该目标区域的中心点确定为第一电子设备在第一图像上的位置,然后从深度图中确定该中心点对应的深度信息,根据该深度信息可以得到第一电子设备相对于第一电子设备的位置。
惯性数据包括平移量和旋转量。获取第一电子设备的惯性传感器采集的第一惯性数据;根据第一惯性数据可以确定第一电子设备的第一姿态,结合第一位置和第一姿态来表征第一电子设备在世界坐标系下的第一位姿。
用户在基于增强现实场景进行网球运动时,会挥动虚拟网球拍,即会挥动第一电子设备,也就是说,第一电子设备在真实世界中的位姿会发生变化。增强现实设备的摄像头会持续地拍摄现实场景的第一图像,并发送连续的图像帧给第一电子设备。因此,第一电子设备可以持续地对第一电子设备的位姿变化进行检测,进而控制增强现实设备对应的改变第一虚拟对象的第二部分影像显示位置,使得第二部分影像的位姿始终能够随着第一电子设备的位姿而改变,使得通过增强现实设备显示的第一虚拟对象的第二部分影像与第一电子设备的显示屏上的第一部分影像始终能够构成为第一虚拟对象的完全影像。
在另一实施例中,除了检测第一图像中是否有第一电子设备之外,还可以进一步检测用户手部对第一电子设备的握持状态,例如,确定第一电子设备在世界坐标系下的第一位姿之前,该方法还包括:当检测到第一图像中有第一电子设备时,检测用户手部是否握持第一电子设备;当检测到用户手部握持第一电子设备时,执行在第一电子设备上显示第一虚拟对象的第一部分影像,并控制第二电子设备对第一虚拟对象的第二部分影像进行显示。
该实施例中,可以采用与第一电子设备的识别类似的方式识别出图像中是否有用户手部,在识别到用户手部和第一电子设备之后,对用户手部和第一电子设备的相对位置进行检测,以判断用户手部是否握持第一电子设备,当检测到用户手部握持着第一电子设备时,再对第一虚拟对象进行显示,反之,当用户手部并没有握持第一电子设备时,可以不显示第一虚拟对象。
在一些实施例中,控制第二电子设备根据第一位姿对第一虚拟对象的第二部分影像进行显示之后,该方法还包括:确定第二虚拟对象在世界坐标系下的第四位姿;根据第一位姿和第四位姿检测第二虚拟对象与第一虚拟对象是否发生碰撞事件;当检测到第二虚拟对象与第一虚拟对象发生碰撞事件时,控制第二虚拟对象相对于第一虚拟对象进行交互。
其中,第二虚拟对象为第一电子设备配置在真实世界中的虚拟对象,例如,可以为网球。在第一虚拟对象与第二虚拟对象发生交互之前,第二虚拟对象在现实环境坐标系下的位置可以由第一电子设备根据当前的场景进行进行配置。当虚拟的网球被投掷过来后,用户可以挥动虚拟的球拍去接球。对于第一电子设备来说,第二虚拟对象在世界坐标系下的第四位姿是由第一电子设备配置的,第一电子设备可以直接获取到第二虚拟对象在世界坐标系下的第四位姿,而根据前文,第一电子设备还可以实时地计算得到第一电子设备自身的第一位姿。再加上第一虚拟对象分为两部分显示,第一部分影像显示在第一电子设备的显示屏上,第二部分影像与第一部分影像相接显示。因此,第一电子设备的第一位姿与第一虚拟对象的位姿是匹配的,根据第一位姿和第二虚拟对象在世界坐标系下的第四位姿确定第一虚拟对象和第二虚拟对象之间的相对位姿关系。
例如,当第一位姿和第四位姿符合预设条件时,可以判定用户挥动虚拟的网球拍去拍击虚拟网球,即检测到第二虚拟对象与第一虚拟对象是否发生碰撞事件,此时可以控制虚拟网球,即第二虚拟对象朝向原运动方向相反的方向运动。
在一些实施例中,根据第一位姿和第四位姿检测第二虚拟对象与第一虚拟对象是否发生碰撞事件之后,方法还包括:当检测到第二虚拟对象与第一虚拟对象发生碰撞事件时,控制第一电子设备输出震动提示。如图4所示,图4为第二虚拟对象与第一虚拟对象发生碰撞事件的一种示意图。
该实施例中,在检测到用户挥动虚拟的网球拍去拍击虚拟网球时,还可以进一步控制第一电子设备输出震动提示,以模拟真实的网球拍接球震动,增强互动的真实性,扩大手机作为增强现实眼镜控制器的作用。
在另一些实施例中,当检测到第二虚拟对象与第一虚拟对象发生碰撞事件时,还可以控制增强现实设备输出声音提示信号,以模拟真实的网球拍接球声音,进一步提高互动的真实性。
此外,需要说明的是,上述应用场景中以的第一虚拟对象是网球拍,第二虚拟对象是网球为例对本申请实施例的方案进行说明,在其他实施例中,第一虚拟对象和第二虚拟对象也可以是其他的虚拟道具,例如游戏手柄等。其中,将第一虚拟对象中的手持部分的影像作为第一部分影像,将其他部分的影像作为第二部分影像。
具体实施时,本申请不受所描述的各个步骤的执行顺序的限制,在不产生冲突的情况下,某些步骤还可以采用其它顺序进行或者同时进行。
由上可知,本申请实施例提供的显示方法,第一电子设备响应于第二电子设备获取的第一图像,确定第一图像的目标检测结果,当该目标检测结果指示第一图像中有第一电子设备时,在第一电子设备上显示第一虚拟对象的第一部分影像,并控制第二电子设备对第一虚拟对象的第二部分影像进行显示,实现了将电子设备用于增强现实场景中虚拟对象的显示,提高了增强现实场景下电子设备的利用率。
本申请实施例还提供一种显示方法,该显示方法应用于第二电子设备,所述方法包括:
获取当前场景的第一图像;
将所述第一图像发送至第一电子设备,所述第一图像用于使得所述第二电子设备确定所述第一图像的目标检测结果,并且在所述目标检测结果指示所述第一图像中有第一电子设备时,在所述第一电子设备上显示第一虚拟对象的第一部分影像;
响应于所述第一电子设备的控制指令,对所述第一虚拟对象的第二部分影像进行显示。
在一实施例中,所述将所述第一图像发送至第一电子设备之前,所述方法还包括:
对所述第一图像进行目标检测处理,得到目标检测结果;
所述将所述第一图像发送至第一电子设备,包括:
将携带有所述目标检测结果的第一图像发送至第一电子设备。
其中,上述实施例的各步骤的具体实现方式请参照上文实施例,在此不再赘述。
在一实施例中还提供一种显示装置。请参阅图5,图5为本申请实施例提供的显示装置300的结构示意图。其中该显示装置300应用于电子设备,该显示装置300包括:
获取模块301,用于响应于第二电子设备获取的第一图像,确定所述第一图像的目标检测结果;
控制模块302,用于当所述目标检测结果指示所述第一图像中有第一电子设备时,在所述第一电子设备上显示第一虚拟对象的第一部分影像,并控制所述第二电子设备对所述第一虚拟对象的第二部分影像进行显示。
在一些实施例中,获取模块301还用于:响应于第二电子设备获取的第一图像,对所述第一图像进行目标检测处理,得到所述第一图像的目标检测结果;
或者,响应于第二电子设备获取的第一图像,从所述第一图像携带的信息中获取目标检测结果。
在一些实施例中,控制模块302还用于:确定所述第一电子设备在世界坐标系下的第一位姿;控制所述第二电子设备根据所述第一位姿对所述第一虚拟对象的第二部分影像进行显示。
在一些实施例中,控制模块302还用于:获取所述第二电子设备在所述世界坐标系下的第二位姿;获取所述第一电子设备的惯性传感器采集的第一惯性数据;根据所述第一惯性数据和所述第一图像确定所述第一电子设备相对于所述第二电子设备的第三位姿;根据所述第二位姿和所述第三位姿,确定所述第一电子设备在所述世界坐标系下的第一位姿。
在一些实施例中,所述位姿包括位置和姿态;控制模块302还用于:识别所述第一电子设备在所述第一图像中的深度信息;根据所述深度信息获取所述第一电子设备相对于所述第二电子设备的位置;根据所述第一惯性数据确定所述第一电子设备的姿态,所述位置和所述姿态构成所述第一电子设备相对于所述第二电子设备的第三位姿。
在一些实施例中,控制模块302还用于:确定第二虚拟对象在所述世界坐标系下的第四位姿;根据所述第一位姿和所述第四位姿检测所述第二虚拟对象与所述第一虚拟对象是否发生碰撞事件;当检测到所述第二虚拟对象与所述第一虚拟对象发生碰撞事件时,控制所述第二虚拟对象相对于所述第一虚拟对象进行交互。
在一些实施例中,控制模块302还用于:当检测到所述第二虚拟对象与所述第一虚拟对象发生碰撞事件时,控制所述第一电子设备输出震动提示。
在一些实施例中,控制模块302还用于:当检测到所述第二虚拟对象与所述第一虚拟对象发生碰撞事件时,控制所述第二电子设备输出声音提示信号。
应当说明的是,本申请实施例提供的显示装置与上文实施例中的显示方法属于同一构思,通过该显示装置可以实现显示方法实施例中提供的任一方法,其具体实现过程详见显示方法实施例,此处不再赘述。
由上可知,本申请实施例提出的显示装置,第一电子设备响应于第二电子设备获取的第一图像,确定第一图像的目标检测结果,当该目标检测结果指示第一图像中有第一电子设备时,在第一电子设备上显示第一虚拟对象的第一部分影像,并控制第二电子设备对第一虚拟对象的第二部分影像进行显示,实现了将电子设备用于增强现实场景中虚拟对象的显示,提高了增强现实场景下电子设备的利用率。
本申请实施例还提供一种显示装置,用于第二电子设备,该装置包括:
发送模块,用于将所述第一图像发送至第一电子设备,所述第一图像用于使得所述第二电子设备确定所述第一图像的目标检测结果,并且在所述目标检测结果指示所述第一图像中有第一电子设备时,在所述第一电子设备上显示第一虚拟对象的第一部分影像;
显示模块,用于响应于所述第一电子设备的控制指令,对所述第一虚拟对象的第二部分影像进行显示。
本申请实施例还提供一种电子设备。所述电子设备可以是智能手机、平板电脑等设备。请参阅图6,图6为本申请实施例提供的电子设备的第一种结构示意图。电子设备400包括处理器401和存储器402。其中,处理器401与存储器402电性连接。
处理器401是电子设备400的控制中心,利用各种接口和线路连接整个电子设备的各个部分,通过运行或调用存储在存储器402内的计算机程序,以及调用存储在存储器402内的数据,执行电子设备的各种功能和处理数据,从而对电子设备进行整体监控。
存储器402可用于存储计算机程序和数据。存储器402存储的计算机程序中包含有可在处理器中执行的指令。计算机程序可以组成各种功能模块。处理器401通过调用存储在存储器402的计算机程序,从而执行各种功能应用以及数据处理。
在本实施例中,电子设备400中的处理器401会按照如下的步骤,将一个或一个以上的计算机程序的进程对应的指令加载到存储器402中,并由处理器401来运行存储在存储器402中的计算机程序,从而实现各种功能:
响应于第二电子设备获取的第一图像,确定所述第一图像的目标检测结果;
当所述目标检测结果指示所述第一图像中有电子设备时,在所述电子设备上显示第一虚拟对象的第一部分影像,并控制所述第二电子设备对所述第一虚拟对象的第二部分影像进行显示。
在一些实施例中,请参阅图7,图7为本申请实施例提供的电子设备的第二种结构示意图。电子设备400还包括:射频电路403、显示屏404、控制电路405、输入单元406、音频电路407、传感器408以及电源409。其中,处理器401分别与射频电路403、显示屏404、控制电路405、输入单元406、音频电路407、传感器408以及电源409电性连接。
射频电路403用于收发射频信号,以通过无线通信与网络设备或其他电子设备进行通信。
显示屏404可用于显示由用户输入的信息或提供给用户的信息以及电子设备的各种图形用户接口,这些图形用户接口可以由图像、文本、图标、视频和其任意组合来构成。
控制电路405与显示屏404电性连接,用于控制显示屏404显示信息。
输入单元406可用于接收输入的数字、字符信息或用户特征信息(例如指纹),以及产生与用户设置以及功能控制有关的键盘、鼠标、操作杆、光学或者轨迹球信号输入。其中,输入单元406可以包括指纹识别模组。
音频电路407可通过扬声器、传声器提供用户与电子设备之间的音频接口。其中,音频电路407包括麦克风。所述麦克风与所述处理器401电性连接。所述麦克风用于接收用户输入的语音信息。
传感器408用于采集外部环境信息。传感器408可以包括环境亮度传感器、加速度传感器、陀螺仪等传感器中的一种或多种。
电源409用于给电子设备400的各个部件供电。在一些实施例中,电源409可以通过电源管理系统与处理器401逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
虽然图中未示出,电子设备400还可以包括摄像头、蓝牙模块等,在此不再赘述。
在本实施例中,电子设备400中的处理器401会按照如下的步骤,将一个或一个以上的计算机程序的进程对应的指令加载到存储器402中,并由处理器401来运行存储在存储器402中的计算机程序,从而实现各种功能:
响应于第二电子设备获取的第一图像,确定所述第一图像的目标检测结果;
当所述目标检测结果指示所述第一图像中有电子设备时,在所述电子设备上显示第一虚拟对象的第一部分影像,并控制所述第二电子设备对所述第一虚拟对象的第二部分影像进行显示。
由上可知,本申请实施例提供了一种电子设备,所述电子设备获取增强现实设备的摄像头拍摄现实场景得到的图像,并对该图像进行目标检测,当检测到该图像中包含有第一电子设备时,可以在第一电子设备上显示第一虚拟对象的第一部分影像,并通过增强现实设备显示第一虚拟对象的第二部分影像,实现了将第一电子设备用于增强现实场景中虚拟对象的显示,提高了增强现实场景下第一电子设备的利用率。
或者,在另一实施例中,本申请还提供一种电子设备,例如该电子设备可以是增强现实设备,如增强现实眼镜等。该电子设备包括处理器和存储器,所述存储器存储有计算机程序,其特征在于,所述处理器通过调用所述计算机程序,用于执行如下步骤:
获取当前场景的第一图像;
将所述第一图像发送至第一电子设备,所述第一图像用于使得所述第二电子设备确定所述第一图像的目标检测结果,并且在所述目标检测结果指示所述第一图像中有第一电子设备时,在所述第一电子设备上显示第一虚拟对象的第一部分影像;
响应于所述第一电子设备的控制指令,对所述第一虚拟对象的第二部分影像进行显示。
本申请实施例还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机程序,当所述计算机程序在计算机上运行时,所述计算机执行上述任一实施例所述的显示方法。
本申请实施例还提供一种显示系统,所述显示系统包括第一电子设备和第二电子设备;
所述第二电子设备获取当前场景的第一图像,并将所述第一图像发送至所述第一电子设备;
所述第一电子设备响应于第二电子设备获取的第一图像,确定所述第一图像的目标检测结果;
当所述目标检测结果指示所述第一图像中有第一电子设备时,在所述第一电子设备上显示第一虚拟对象的第一部分影像,并控制所述第二电子设备对所述第一虚拟对象的第二部分影像进行显示。
需要说明的是,本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过计算机程序来指令相关的硬件来完成,所述计算机程序可以存储于计算机可读存储介质中,所述计算机可读存储介质可以包括但不限于:只读存储器(ROM,ReadOnly Memory)、随机存取存储器(RAM,Random Access Memory)、磁盘或光盘等。
此外,本申请中的术语“第一”、“第二”和“第三”等是用于区别不同对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或模块的过程、方法、系统、产品或设备没有限定于已列出的步骤或模块,而是某些实施例还包括没有列出的步骤或模块,或某些实施例还包括对于这些过程、方法、产品或设备固有的其它步骤或模块。
以上对本申请实施例所提供的显示方法、装置、系统、存储介质及电子设备进行了详细介绍。本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本申请的限制。
Claims (15)
1.一种显示方法,其特征在于,应用于第一电子设备,所述方法包括:
响应于第二电子设备获取的第一图像,确定所述第一图像的目标检测结果;
当所述目标检测结果指示所述第一图像中有第一电子设备时,在所述第一电子设备上显示第一虚拟对象的第一部分影像,并控制所述第二电子设备对所述第一虚拟对象的第二部分影像进行显示。
2.如权利要求1所述的方法,其特征在于,所述响应于第二电子设备获取的第一图像,确定所述第一图像的目标检测结果,包括:
响应于第二电子设备获取的第一图像,对所述第一图像进行目标检测处理,得到所述第一图像的目标检测结果;
或者,响应于第二电子设备获取的第一图像,从所述第一图像携带的信息中获取目标检测结果。
3.如权利要求1所述的方法,其特征在于,所述控制所述第二电子设备对所述第一虚拟对象的第二部分影像进行显示,包括:
确定所述第一电子设备在世界坐标系下的第一位姿;
控制所述第二电子设备根据所述第一位姿对所述第一虚拟对象的第二部分影像进行显示。
4.如权利要求3所述的方法,其特征在于,所述确定所述第一电子设备在世界坐标系下的第一位姿,包括:
获取所述第二电子设备在所述世界坐标系下的第二位姿;
获取所述第一电子设备的惯性传感器采集的第一惯性数据;
根据所述第一惯性数据和所述第一图像确定所述第一电子设备相对于所述第二电子设备的第三位姿;
根据所述第二位姿和所述第三位姿,确定所述第一电子设备在所述世界坐标系下的第一位姿。
5.如权利要求4所述的方法,其特征在于,所述位姿包括位置和姿态;所述根据所述第一惯性数据和所述第一图像确定所述第一电子设备相对于所述第二电子设备的第三位姿,包括:
识别所述第一电子设备在所述第一图像中的深度信息;
根据所述深度信息获取所述第一电子设备相对于所述第二电子设备的位置;
根据所述第一惯性数据确定所述第一电子设备的姿态,所述位置和所述姿态构成所述第一电子设备相对于所述第二电子设备的第三位姿。
6.如权利要求1至5任一项所述的方法,其特征在于,所述控制所述第二电子设备根据所述第一位姿对所述第一虚拟对象的第二部分影像进行显示之后,还包括:
确定第二虚拟对象在所述世界坐标系下的第四位姿;
根据所述第一位姿和所述第四位姿检测所述第二虚拟对象与所述第一虚拟对象是否发生碰撞事件;
当检测到所述第二虚拟对象与所述第一虚拟对象发生碰撞事件时,控制所述第二虚拟对象相对于所述第一虚拟对象进行交互。
7.如权利要求6所述的方法,其特征在于,所述根据所述第一位姿和所述第四位姿检测所述第二虚拟对象与所述第一虚拟对象是否发生碰撞事件之后,所述方法还包括:
当检测到所述第二虚拟对象与所述第一虚拟对象发生碰撞事件时,控制所述第一电子设备输出震动提示。
8.如权利要求7所述的方法,其特征在于,所述根据所述第一位姿和所述第四位姿检测所述第二虚拟对象与所述第一虚拟对象是否发生碰撞事件之后,所述方法还包括:
当检测到所述第二虚拟对象与所述第一虚拟对象发生碰撞事件时,控制所述第二电子设备输出声音提示信号。
9.一种显示装置,其特征在于,应用于第一电子设备,所述装置包括:
获取模块,用于响应于第二电子设备获取的第一图像,确定所述第一图像的目标检测结果;
控制模块,用于当所述目标检测结果指示所述第一图像中有第一电子设备时,在所述第一电子设备上显示第一虚拟对象的第一部分影像,并控制所述第二电子设备对所述第一虚拟对象的第二部分影像进行显示。
10.一种显示方法,其特征在于,应用于第二电子设备,所述方法包括:
获取当前场景的第一图像;
将所述第一图像发送至第一电子设备,所述第一图像用于使得所述第二电子设备确定所述第一图像的目标检测结果,并且在所述目标检测结果指示所述第一图像中有第一电子设备时,在所述第一电子设备上显示第一虚拟对象的第一部分影像;
响应于所述第一电子设备的控制指令,对所述第一虚拟对象的第二部分影像进行显示。
11.如权利要求10所述的方法,其特征在于,所述将所述第一图像发送至第一电子设备之前,所述方法还包括:
对所述第一图像进行目标检测处理,得到目标检测结果;
所述将所述第一图像发送至第一电子设备,包括:
将携带有所述目标检测结果的第一图像发送至第一电子设备。
12.一种显示装置,其特征在于,应用于第二电子设备,所述装置包括:
第二获取模块,用于获取当前场景的第一图像;
发送模块,用于将所述第一图像发送至第一电子设备,所述第一图像用于使得所述第二电子设备确定所述第一图像的目标检测结果,并且在所述目标检测结果指示所述第一图像中有第一电子设备时,在所述第一电子设备上显示第一虚拟对象的第一部分影像;
显示模块,用于响应于所述第一电子设备的控制指令,对所述第一虚拟对象的第二部分影像进行显示。
13.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,当所述计算机程序在计算机上运行时,使得所述计算机执行如权利要求1至8任一项所述的显示方法,或者,执行权利要求10或11所述的显示方法。
14.一种电子设备,包括处理器和存储器,所述存储器存储有计算机程序,其特征在于,所述处理器通过调用所述计算机程序,用于执行如权利要求1至8任一项所述的显示方法,或者,执行权利要求10或11所述的显示方法。
15.一种显示系统,其特征在于,所述显示系统包括第一电子设备和第二电子设备;
所述第二电子设备获取当前场景的第一图像,并将所述第一图像发送至所述第一电子设备;
所述第一电子设备响应于第二电子设备获取的第一图像,确定所述第一图像的目标检测结果;
当所述目标检测结果指示所述第一图像中有第一电子设备时,在所述第一电子设备上显示第一虚拟对象的第一部分影像,并控制所述第二电子设备对所述第一虚拟对象的第二部分影像进行显示。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210981284.1A CN115328423A (zh) | 2022-08-16 | 2022-08-16 | 显示方法、装置、系统、存储介质及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210981284.1A CN115328423A (zh) | 2022-08-16 | 2022-08-16 | 显示方法、装置、系统、存储介质及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115328423A true CN115328423A (zh) | 2022-11-11 |
Family
ID=83924175
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210981284.1A Pending CN115328423A (zh) | 2022-08-16 | 2022-08-16 | 显示方法、装置、系统、存储介质及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115328423A (zh) |
-
2022
- 2022-08-16 CN CN202210981284.1A patent/CN115328423A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112911182B (zh) | 游戏互动方法、装置、终端及存储介质 | |
US9983687B1 (en) | Gesture-controlled augmented reality experience using a mobile communications device | |
CN107707817B (zh) | 一种视频拍摄方法及移动终端 | |
CN108885533A (zh) | 组合虚拟现实和增强现实 | |
US10607403B2 (en) | Shadows for inserted content | |
CN107786827B (zh) | 视频拍摄方法、视频播放方法、装置及移动终端 | |
CN108694073B (zh) | 虚拟场景的控制方法、装置、设备及存储介质 | |
CN108989678B (zh) | 一种图像处理方法、移动终端 | |
CN113365085B (zh) | 一种直播视频生成方法及装置 | |
CN112044065B (zh) | 虚拟资源的显示方法、装置、设备及存储介质 | |
CN113613028B (zh) | 直播数据处理方法、装置、终端、服务器及存储介质 | |
CN108462826A (zh) | 一种辅助拍照的方法及移动终端 | |
WO2014111947A1 (en) | Gesture control in augmented reality | |
CN108537149B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN113289336A (zh) | 在虚拟环境中标记物品的方法、装置、设备及介质 | |
CN108551562A (zh) | 一种视频通信的方法及移动终端 | |
CN109547696B (zh) | 一种拍摄方法及终端设备 | |
CN115328423A (zh) | 显示方法、装置、系统、存储介质及电子设备 | |
US20230256297A1 (en) | Virtual evaluation tools for augmented reality exercise experiences | |
WO2021136265A1 (zh) | 解锁方法及电子设备 | |
CN111258423B (zh) | 组件显示方法、装置、存储介质及增强现实显示设备 | |
CN111208903B (zh) | 信息传输方法、穿戴式设备及介质 | |
CN111104656A (zh) | 解锁方法及电子设备 | |
CN109788124A (zh) | 一种功能栏的启动位置确定方法及装置、移动终端 | |
KR102520841B1 (ko) | 당구 시뮬레이션 장치 및 그 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication |