CN113452896A - 一种图像显示方法和电子设备 - Google Patents

一种图像显示方法和电子设备 Download PDF

Info

Publication number
CN113452896A
CN113452896A CN202010225460.XA CN202010225460A CN113452896A CN 113452896 A CN113452896 A CN 113452896A CN 202010225460 A CN202010225460 A CN 202010225460A CN 113452896 A CN113452896 A CN 113452896A
Authority
CN
China
Prior art keywords
data
image
electronic device
experience
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010225460.XA
Other languages
English (en)
Other versions
CN113452896B (zh
Inventor
胡志坤
何峰
刘祥根
秦春林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huawei Technologies Co Ltd
Original Assignee
Huawei Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huawei Technologies Co Ltd filed Critical Huawei Technologies Co Ltd
Priority to CN202010225460.XA priority Critical patent/CN113452896B/zh
Priority to PCT/CN2021/080998 priority patent/WO2021190350A1/zh
Priority to EP21776003.2A priority patent/EP4109880A4/en
Priority to US17/914,260 priority patent/US20230114178A1/en
Publication of CN113452896A publication Critical patent/CN113452896A/zh
Application granted granted Critical
Publication of CN113452896B publication Critical patent/CN113452896B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681—Motion detection
    • H04N23/6812—Motion detection based on additional sensors, e.g. acceleration sensors
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/63—Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/10—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration
    • G01C21/12—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning
    • G01C21/16—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation
    • G01C21/165—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation combined with non-inertial navigation instruments
    • G01C21/1656—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation combined with non-inertial navigation instruments with passive imaging devices, e.g. cameras
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S19/00—Satellite radio beacon positioning systems; Determining position, velocity or attitude using signals transmitted by such systems
    • G01S19/01—Satellite radio beacon positioning systems transmitting time-stamped messages, e.g. GPS [Global Positioning System], GLONASS [Global Orbiting Navigation Satellite System] or GALILEO
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Automation & Control Theory (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

本申请提供了一种图像显示方法和电子设备，该方法应用于具有摄像头和显示屏的电子设备中，电子设备中保存体验数据，体验数据包括视频数据，视频数据包括多帧图像，该方法包括：电子设备检测到用户打开该体验数据的操作；响应于该操作，电子设备通过显示屏显示第一界面，第一界面包括第一图像；在预设时长内，电子设备确定位姿变化信息，位姿变化信息包括该电子设备的位置移动信息和该摄像头的位姿变化信息；电子设备根据采集该第一图像时的位姿数据和该位姿变化信息，通过该显示屏显示包含数字标牌或者3D虚拟物体的第二图像，该多帧图像包括该第二图像。本申请实施例可以使用户在观看体验数据时有身临其境般的感受，提升了用户的沉浸式体验。

Description

一种图像显示方法和电子设备
技术领域
本申请涉及终端领域，并且更具体地，涉及一种图像显示方法和电子设备。
背景技术
目前的增强现实(augmented reality，AR)或者虚拟现实(virtual reality，VR)给用户提供了一种全新的数字世界体验，但目前对于体验过程中的数据没有相应的存储格式，导致用户在存储或分享的时候，只能通过录屏然后保存成视频格式，从而记录相应的场景，但这种场景通过视频存储或分享后，用户本人再次播放或被分享的接收方都无法进行一种沉浸式体验，只是相当于视频观看，用户的沉浸式体验感不强。
发明内容
本申请提供一种图像显示方法和电子设备，有助于提升用户的沉浸式体验。
第一方面，提供了一种图像显示方法，该方法应用于具有摄像头和显示屏的电子设备中，该电子设备中保存体验数据，该体验数据包括视频数据、位姿数据和数字资源，该视频数据包括多帧图像，该位姿数据包括采集该多帧图像中的每一帧图像时位置信息和摄像头的朝向，该数字资源包括该多帧图像中每一帧图像中物体的数字标牌或者3D模型，该方法包括：该电子设备检测到用户打开该体验数据的操作；响应于该操作，该电子设备通过该显示屏显示第一界面，该第一界面包括第一图像，该多帧图像包括该第一图像；在预设时长内，该电子设备确定位姿变化信息，该位姿变化信息包括该电子设备的位置移动信息和该摄像头的位姿变化信息；该电子设备根据采集该第一图像时的位姿数据和该位姿变化信息，通过该显示屏显示包含数字标牌或者3D虚拟物体的第二图像，该多帧图像包括该第二图像。
本申请实施例中，电子设备可以保存体验数据，当用户使用电子设备再一次打开体验数据时，电子设备可以根据当前位置及摄像头姿态的变化，再一次进行数据体验时，体验数据不会只能当视频观看，而是可以按照当时录制该体验数据时场景进行体验，用户会有身临其境的感觉，有助于提升用户的沉浸式体验。
一个实施例中，电子设备保存的体验数据可以是电子设备之前录制并保存在电子设备本地的，或者也可以是另一个电子设备发给该电子设备的。
结合第一方面，在第一方面的某些实现方式中，该第一界面像上包括提示信息，该提示信息用于提示用户按照预设路径进行体验，该预设路线为采集该体验数据时的移动路径。
本申请实施例中，第一界面上可以包括预设路径的信息，预设路径为用户现场录制体验数据时行走的路线，那么用户再一次体验时或者发送给其他用户体验时，可以按照预设路径进行体验，这样可以保证用户快速体验完体验数据。
结合第一方面，在第一方面的某些实现方式中，该采集该第一图像时的位姿数据由云端服务器确定。
本申请实施例中，电子设备中保存的体验数据中包括由云端服务器确定的位姿数据，这样在显示第二图像时，可以直接根据云端服务器确定的位姿数据加上电子设备现场的位姿变化，来确定新的位姿数据，从而进行图像渲染。这样提升了图像渲染的效率，避免了用户在一次向云端服务器请求位姿数据。
结合第一方面，在第一方面的某些实现方式中，该在预设时长内，该电子设备确定位姿变化信息，包括：该电子设备根据在该预设时长的起始时刻和结束时刻检测到的全球卫星定位系统GPS、基于位置的服务LBS和惯性测量单元IMU数据的变化，确定该位姿变化信息。
本申请实施例中，电子设备可以将采集第一图像时的GPS、LBS和IMU数据作为基准值，将电子设备GPS、LBS和IMU数据的变化作为相对移动数据，从而在基准值上加上相对移动数据得到新的位姿数据，保证用户身临其境般感受录制体验数据的现场，提升了用户的沉浸式体验。
结合第一方面，在第一方面的某些实现方式中，该位姿数据和该数字资源通过序列化数据保存。
本申请实施例中，位姿数据和数字资源可以通过序列化数据保存，这样可以减少电子设备存储位姿数据和数字资源时所需的存储空间，提升了数据存储的效率。
第二方面，提供了一种图像显示方法，该方法应用于具有摄像头和显示屏的电子设备中，该电子设备中保存体验数据，该体验数据包括视频数据、位置信息、传感器数据和数字资源，该视频数据包括多帧图像，该位置信息包括采集该多帧图像中的每一帧图像时所述电子设备确定的位置信息，所述传感器数据包括采集该多帧图像中的每一帧图像时传感器采集的数据，，该数字资源包括该多帧图像中每一帧图像中物体的数字标牌或者3D模型，该方法包括：该电子设备检测到用户打开该体验数据的操作；响应于该操作，该电子设备通过该显示屏显示第一界面，该第一界面包括第一图像，该多帧图像包括该第一图像；该电子设备向云端服务器发送该第一图像、采集该第一图像时该电子设备确定的位置信息和电子设备确定的传感器数据，该电子设备接收该云端服务器发送的由云端服务器确定的采集该第一图像时的位置信息和摄像头的朝向信息；在预设时长内，该电子设备确定位姿变化信息，该位姿变化信息包括该电子设备的位置移动信息和该摄像头的位姿变化信息；该电子设备根据由云端服务器确定的采集该第一图像时的位置信息、摄像头的朝向信息以及该位姿变化信息，通过该显示屏显示包含数字标牌或者3D虚拟物体的第二图像，该多帧图像包括该第二图像。
本申请实施例中，电子设备可以保存由电子设备自己确定的位置信息以及传感器数据，当电子设备再一次打开体验数据时，在显示第一图像的同时可以将采集第一图像时电子设备确定的位置信息和传感器数据上传给云端服务器，由云端服务器计算得到电子设备准确的位置信息以及采集第一图像时摄像头的朝向，从而使得电子设备根据云端服务器确定的位置信息、摄像头的朝向以及电子设备现场的位姿变化，确定出新的位姿数据，从而进行图像渲染，保证了用户身临其境般感受录制时的场景，提升了用户的沉浸式体验。
第三方面，本技术方案提供了一种图像显示的装置，该装置包含在电子设备中，该装置具有实现上述第一方面至第二方面及其可能实现方式中电子设备行为的功能。功能可以通过硬件实现，也可以通过硬件执行相应的软件实现。硬件或软件包括一个或多个与上述功能相对应的模块或单元。
第四方面，提供了一种电子设备，包括一个或多个处理器和一个或多个存储器。该一个或多个存储器与一个或多个处理器耦合，一个或多个存储器用于存储计算机程序代码，计算机程序代码包括计算机指令，当一个或多个处理器执行计算机指令时，使得电子设备执行上述第一方面至第二方面及其任一项可能的实现中的图像显示方法。
第五方面，提供了一种电子设备，包括一个或多个处理器和一个或多个存储器。该一个或多个存储器与一个或多个处理器耦合，一个或多个存储器用于存储计算机程序代码，计算机程序代码包括计算机指令，当一个或多个处理器执行计算机指令时，使得电子设备执行上述第一方面至第二方面及其任一项可能的实现中的图像显示方法。
第六方面，本技术方案提供了一种计算机存储介质，包括计算机指令，当计算机指令在电子设备上运行时，使得电子设备执行上述第一方面、第二方面及其任一项可能的实现中的图像显示方法。
第七方面，本技术方案提供了一种计算机程序产品，当计算机程序产品在电子设备上运行时，使得电子设备执行上述第一方面、第二方面及其任一项可能的实现中的图像显示方法。
附图说明
图1是本申请实施例提供的电子设备的结构示意图。
图2是本申请实施例提供的电子设备的软件结构框图。
图3是本申请实施例提供的一组GUI。
图4是本申请实施例提供的另一组GUI。
图5是本申请实施例提供的另一组GUI。
图6是本申请实施例提供的另一组GUI。
图7是本申请实施例提供的另一组GUI。
图8是本申请实施例提供的另一组GUI。
图9是本申请实施例提供的另一组GUI。
图10是本申请实施例提供的另一组GUI。
图11是本申请实施例提供的电子设备和云端服务器交互的示意性流程图。
图12是本申请实施例提供的体验数据存储的结构示意图。
图13是本申请实施例提供的用户在进行沉浸式体验时电子设备内部的算法流程。
具体实施方式
下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行描述。其中，在本申请实施例的描述中，除非另有说明，“/”表示或的意思，例如，A/B可以表示A或B；本文中的“和/或”仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，在本申请实施例的描述中，“多个”是指两个或多于两个。
以下，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本实施例的描述中，除非另有说明，“多个”的含义是两个或两个以上。
本申请实施例提供的方法可以应用于手机、平板电脑、可穿戴设备、车载设备、增强现实(augmented reality，AR)/虚拟现实(virtual reality，VR)设备、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer，UMPC)、上网本、个人数字助理(personal digital assistant，PDA)等电子设备上，本申请实施例对电子设备的具体类型不作任何限制。
示例性的，图1示出了电子设备100的结构示意图。电子设备100可以包括处理器110，外部存储器接口120，内部存储器121，通用串行总线(universal serial bus，USB)接口130，充电管理模块140，电源管理模块141，电池142，天线1，天线2，移动通信模块150，无线通信模块160，音频模块170，扬声器170A，受话器170B，麦克风170C，耳机接口170D，传感器模块180，按键190，马达191，指示器192，摄像头193，显示屏194，以及用户标识模块(subscriber identification module，SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A，陀螺仪传感器180B，气压传感器180C，磁传感器180D，加速度传感器180E，距离传感器180F，接近光传感器180G，指纹传感器180H，温度传感器180J，触摸传感器180K，环境光传感器180L，骨传导传感器180M等。
可以理解的是，本申请实施例示意的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中，电子设备100可以包括比图示更多或更少的部件，或者组合某些部件，或者拆分某些部件，或者不同的部件布置。图示的部件可以以硬件，软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元，例如：处理器110可以包括应用处理器(application processor，AP)，调制解调处理器，图形处理器(graphics processingunit，GPU)，图像信号处理器(image signal processor，ISP)，控制器，存储器，视频编解码器，数字信号处理器(digital signal processor，DSP)，基带处理器，和/或神经网络处理器(neural-network processing unit，NPU)等。其中，不同的处理单元可以是独立的器件，也可以集成在一个或多个处理器中。
其中，控制器可以是电子设备100的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号，产生操作控制信号，完成取指令和执行指令的控制。
处理器110中还可以设置存储器，用于存储指令和数据。在一些实施例中，处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据，可从所述存储器中直接调用。避免了重复存取，减少了处理器110的等待时间，因而提高了系统的效率。
在一些实施例中，处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit，I2C)接口，集成电路内置音频(inter-integrated circuitsound，I2S)接口，脉冲编码调制(pulse code modulation，PCM)接口，通用异步收发传输器(universal asynchronous receiver/transmitter，UART)接口，移动产业处理器接口(mobile industry processor interface，MIPI)，通用输入输出(general-purposeinput/output，GPIO)接口，用户标识模块(subscriber identity module，SIM)接口，和/或通用串行总线(universal serial bus，USB)接口等。
I2C接口是一种双向同步串行总线，包括一根串行数据线(serial data line，SDA)和一根串行时钟线(derail clock line，SCL)。在一些实施例中，处理器110可以包含多组I2C总线。处理器110可以通过不同的I2C总线接口分别耦合触摸传感器180K，充电器，闪光灯，摄像头193等。例如：处理器110可以通过I2C接口耦合触摸传感器180K，使处理器110与触摸传感器180K通过I2C总线接口通信，实现电子设备100的触摸功能。
I2S接口可以用于音频通信。
PCM接口也可以用于音频通信，将模拟信号抽样，量化和编码。在一些实施例中，音频模块170与无线通信模块160可以通过PCM总线接口耦合。在一些实施例中，音频模块170也可以通过PCM接口向无线通信模块160传递音频信号，实现通过蓝牙耳机接听电话的功能。所述I2S接口和所述PCM接口都可以用于音频通信。
UART接口是一种通用串行数据总线，用于异步通信。
MIPI接口可以被用于连接处理器110与显示屏194，摄像头193等外围器件。
GPIO接口可以通过软件配置。GPIO接口可以被配置为控制信号，也可被配置为数据信号。
USB接口130是符合USB标准规范的接口，具体可以是Mini USB接口，Micro USB接口，USB Type C接口等。USB接口130可以用于连接充电器为电子设备100充电，也可以用于电子设备100与外围设备之间传输数据。也可以用于连接耳机，通过耳机播放音频。该接口还可以用于连接其他电子设备，例如AR设备等。
可以理解的是，本申请实施例示意的各模块间的接口连接关系，只是示意性说明，并不构成对电子设备100的结构限定。在本申请另一些实施例中，电子设备100也可以采用上述实施例中不同的接口连接方式，或多种接口连接方式的组合。
充电管理模块140用于从充电器接收充电输入。
电源管理模块141用于连接电池142，充电管理模块140与处理器110。
电子设备100的无线通信功能可以通过天线1，天线2，移动通信模块150，无线通信模块160，调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用，以提高天线的利用率。例如：可以将天线1复用为无线局域网的分集天线。在另外一些实施例中，天线可以和调谐开关结合使用。
移动通信模块150可以提供应用在电子设备100上的包括2G/3G/4G/5G等无线通信的解决方案。
调制解调处理器可以包括调制器和解调器。其中，调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。
无线通信模块160可以提供应用在电子设备100上的包括无线局域网(wirelesslocal area networks，WLAN)(如无线保真(wireless fidelity，Wi-Fi)网络)，蓝牙(bluetooth，BT)，全球导航卫星系统(global navigation satellite system，GNSS)，调频(frequency modulation，FM)，近距离无线通信技术(near field communication，NFC)，红外技术(infrared，IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波，将电磁波信号调频以及滤波处理，将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号，对其进行调频，放大，经天线2转为电磁波辐射出去。
在一些实施例中，电子设备100的天线1和移动通信模块150耦合，天线2和无线通信模块160耦合，使得电子设备100可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(global system for mobile communications，GSM)，通用分组无线服务(general packet radio service，GPRS)，码分多址接入(codedivision multiple access，CDMA)，宽带码分多址(wideband code division multipleaccess，WCDMA)，时分码分多址(time-division code division multiple access，TD-SCDMA)，长期演进(long term evolution，LTE)，BT，GNSS，WLAN，NFC，FM，和/或IR技术等。所述GNSS可以包括全球卫星定位系统(global positioning system，GPS)，全球导航卫星系统(global navigation satellite system，GLONASS)，北斗卫星导航系统(beidounavigation satellite system，BDS)，准天顶卫星系统(quasi-zenith satellitesystem，QZSS)和/或星基增强系统(satellite based augmentation systems，SBAS)。
电子设备100通过GPU，显示屏194，以及应用处理器等实现显示功能。GPU为图像处理的微处理器，连接显示屏194和应用处理器。GPU用于执行数学和几何计算，用于图形渲染。处理器110可包括一个或多个GPU，其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像，视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display，LCD)，有机发光二极管(organic light-emittingdiode，OLED)，有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode的，AMOLED)，柔性发光二极管(flex light-emittingdiode，FLED)，Miniled，MicroLed，Micro-oLed，量子点发光二极管(quantum dot lightemitting diodes，QLED)等。在一些实施例中，电子设备100可以包括1个或N个显示屏194，N为大于1的正整数。
电子设备100可以通过ISP，摄像头193，视频编解码器，GPU，显示屏194以及应用处理器等实现拍摄功能。
ISP用于处理摄像头193反馈的数据。例如，拍照时，打开快门，光线通过镜头被传递到摄像头感光元件上，光信号转换为电信号，摄像头感光元件将所述电信号传递给ISP处理，转化为肉眼可见的图像。ISP还可以对图像的噪点，亮度，肤色进行算法优化。ISP还可以对拍摄场景的曝光，色温等参数优化。在一些实施例中，ISP可以设置在摄像头193中。
摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。
数字信号处理器用于处理数字信号，除了可以处理数字图像信号，还可以处理其他数字信号。例如，当电子设备100在频点选择时，数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。
NPU为神经网络(neural-network，NN)计算处理器，通过借鉴生物神经网络结构，例如借鉴人脑神经元之间传递模式，对输入信息快速处理，还可以不断的自学习。通过NPU可以实现电子设备100的智能认知等应用，例如：图像识别，人脸识别，语音识别，文本理解等。
外部存储器接口120可以用于连接外部存储卡，例如Micro SD卡，实现扩展电子设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信，实现数据存储功能。例如将音乐，视频等文件保存在外部存储卡中。
内部存储器121可以用于存储计算机可执行程序代码，所述可执行程序代码包括指令。处理器110通过运行存储在内部存储器121的指令，从而执行电子设备100的各种功能应用以及数据处理。内部存储器121可以包括存储程序区和存储数据区。其中，存储程序区可存储操作系统，至少一个功能所需的应用程序(比如声音播放功能，图像播放功能等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如音频数据，电话本等)等。此外，内部存储器121可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件，闪存器件，通用闪存存储器(universal flash storage，UFS)等。
压力传感器180A用于感受压力信号，可以将压力信号转换成电信号。
陀螺仪传感器180B可以用于确定电子设备100的运动姿态。在一些实施例中，可以通过陀螺仪传感器180B确定电子设备100围绕三个轴(即，x，y和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。示例性的，当按下快门，陀螺仪传感器180B检测电子设备100抖动的角度，根据角度计算出镜头模组需要补偿的距离，让镜头通过反向运动抵消电子设备100的抖动，实现防抖。陀螺仪传感器180B还可以用于导航，体感游戏场景。
气压传感器180C用于测量气压。
磁传感器180D包括霍尔传感器。电子设备100可以利用磁传感器180D检测翻盖皮套的开合。在一些实施例中，当电子设备100是翻盖机时，电子设备100可以根据磁传感器180D检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态，设置翻盖自动解锁等特性。
加速度传感器180E可检测电子设备100在各个方向上(一般为三轴)加速度的大小。当电子设备100静止时可检测出重力的大小及方向。还可以用于识别电子设备姿态，应用于横竖屏切换，计步器等应用。
距离传感器180F，用于测量距离。
接近光传感器180G可以包括例如发光二极管(LED)和光检测器，环境光传感器180L用于感知环境光亮度。
指纹传感器180H用于采集指纹。
温度传感器180J用于检测温度。
触摸传感器180K，也称“触控面板”。触摸传感器180K可以设置于显示屏194，由触摸传感器180K与显示屏194组成触摸屏，也称“触控屏”。
骨传导传感器180M可以获取振动信号。在一些实施例中，骨传导传感器180M可以获取人体声部振动骨块的振动信号。
按键190包括开机键，音量键等。
电子设备100的软件系统可以采用分层架构，事件驱动架构，微核架构，微服务架构，或云架构。本申请实施例以分层架构的Android系统为例，示例性说明电子设备100的软件结构。
图2是本申请实施例的电子设备100的软件结构框图。分层架构将软件分成若干个层，每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中，将Android系统分为四层，从上至下分别为应用程序层，应用程序框架层，安卓运行时(Android runtime)和系统库，以及内核层。应用程序层可以包括一系列应用程序包。
如图2所示，应用程序包可以包括相机，图库，日历，通话，地图，导航，WLAN，蓝牙，音乐，视频，短信息等应用程序。
应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface，API)和编程框架。应用程序框架层包括一些预先定义的函数。
如图2所示，应用程序框架层可以包括窗口管理器，内容提供器，视图系统，电话管理器，资源管理器，通知管理器等。
窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小，判断是否有状态栏，锁定屏幕，截取屏幕等。
内容提供器用来存放和获取数据，并使这些数据可以被应用程序访问。所述数据可以包括视频，图像，音频，拨打和接听的电话，浏览历史和书签，电话簿等。
视图系统包括可视控件，例如显示文字的控件，显示图片的控件等。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如，包括短信通知图标的显示界面，可以包括显示文字的视图以及显示图片的视图。
电话管理器用于提供电子设备100的通信功能。例如通话状态的管理(包括接通，挂断等)。
资源管理器为应用程序提供各种资源，比如本地化字符串，图标，图片，布局文件，视频文件等等。
通知管理器使应用程序可以在状态栏中显示通知信息，可以用于传达告知类型的消息，可以短暂停留后自动消失，无需用户交互。比如通知管理器被用于告知下载完成，消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在系统顶部状态栏的通知，例如后台运行的应用程序的通知，还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息，发出提示音，电子设备振动，指示灯闪烁等。
Android Runtime包括核心库和虚拟机。Android runtime负责安卓系统的调度和管理。
核心库包含两部分：一部分是java语言需要调用的功能函数，另一部分是安卓的核心库。
应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理，堆栈管理，线程管理，安全和异常的管理，以及垃圾回收等功能。
系统库可以包括多个功能模块。例如：表面管理器(surface manager)，媒体库(media libraries)，三维图形处理库(例如：OpenGL ES)，2D图形引擎(例如：SGL)等。
表面管理器用于对显示子系统进行管理，并且为多个应用程序提供了2D和3D图层的融合。
媒体库支持多种常用的音频，视频格式回放和录制，以及静态图像文件等。媒体库可以支持多种音视频编码格式，例如:MPEG4，H.264，MP3，AAC，AMR，JPG，PNG等。
三维图形处理库用于实现三维图形绘图，图像渲染，合成，和图层处理等。
2D图形引擎是2D绘图的绘图引擎。
内核层是硬件和软件之间的层。内核层至少包含显示驱动，摄像头驱动，音频驱动，传感器驱动。
图3是本申请实施例提供的一组用户图形界面(graphical user interface，GUI)。
如图3中的(a)所示的GUI，该GUI为手机的桌面。其中，手机的桌面301可以包括多个应用程序(application，App)。该多个应用程序中可以包括Cyberverse应用。当手机检测到用户点击Cyberverse应用的图标302的操作后，可以显示如图3中的(b)所示的GUI。
参见图3中的(b)所示的GUI，该GUI为Cyberverse应用的显示界面。该显示界面上包括开始录制和分享体验两个功能。当手机检测到用户点击开始录制功能对应的控件303的操作后，手机可以显示如图3中的(c)所示的GUI。
参见图3中的(c)所示的GUI，该GUI为Cyberverse应用下的用户体验界面。该用户体验界面上可以包括提示信息以及手机的摄像头采集的图像信息。该提示信息用于提示用户“已经扫描完当前场景，请开始享受这段旅程！”。该图像信息可以包括用户Lee使用手机在华为松山湖研究所拍摄的图像。
本申请实施例中，手机扫描当前场景可以指手机向云端服务器发送当前手机的位置信息、手机传感器获取的数据以及手机摄像头的取景图片等等。云端服务器在接收到手机发送的信息后，就可以根据手机发送的信息确定手机当前的位姿数据(包括位置信息以及摄像头姿态)。云端服务器中可以保存有一个数字世界，该数据世界可以和现实世界为1：1的关系。当云端服务器确定手机的位置后，就可以向手机发送其当前位置下周围的物体的信息。例如，云端服务器可以向手机发送手机当前拍摄位置下建筑物的数字标牌(例如，咖啡厅，超市等等)以及对这些数字标牌的详细信息。
本申请实施例中，云端服务器保存的数字世界可以包括3D地图，3D地图中一些物体的数字标牌(例如，建筑物的数字标牌)以及白模数据。手机可以在启动录制时，向云端服务器上传自己的位置信息(例如，GPS信息)。由于手机上传的位置信息误差较大，云端服务器可以通过手机上传的位置信息确定当前手机位于松山湖。那么云端服务服务器可以先向手机下发一些关于松山湖的建筑物的白模数据、数字标牌、3D物体模型(例如，卡通人物)的信息。
参见图3中的(d)所示的GUI，该GUI为用户体验的显示界面。手机在获取到云端服务器发送的数字标牌信息后，可以在显示界面上实时显示该数字标牌的信息。如图3中的(d)，当前摄像头采集的图像中包括2个建筑物，其中的一个建筑物中有“咖啡厅”以及“J10入口”，另一个建筑物中有“超市”。此时如果用户想查看“咖啡厅”的详细信息，那么可以点击对应的数字标牌。当手机检测到用户点击“咖啡厅”的操作后，可以显示如图3中的(e)所示的GUI。
本申请实施例中，当用户开始进行体验时，手机可以向云端服务器上传摄像头采集的图像以及自己的位置信息，云端服务器在接收到手机上传的图像和位置信息后，可以根据保存的数字世界进行比对，确定手机当前的准确位置(误差在厘米级)；并且，手机还可以向云端服务器上传摄像头采集的图片以及传感器采集的数据，云端服务器可以通过计算确定手机摄像头当前的朝向。云端服务器会向手机发送当前摄像头采集的图像中物体的数字标牌、白模数据等等，从而使得手机可以通过显示屏向用户显示摄像头采集的图像中物体的信息，例如图3中(d)所示的“咖啡厅”、“J10入口”以及“超市”。
参见图3中的(e)所示的GUI，该GUI为用户体验的另一显示界面。该显示界面上包含了“咖啡厅“的详细信息。”咖啡厅“位于建筑物弗里堡十号(J10)西餐厅。J10的区域管家为李明，J10前台电话为0769-23327986。
以上结合图3所示的一组GUI，介绍了用户使用Cyberverse应用进行体验时的过程。Cyberverse应用可以实现全场景空间计算，使得手机可以计算出自己的厘米级定位，实现真实世界与物理世界的无缝融合。它还具备强环境理解功能，可极大提升手机准确识别物理环境与物体的能力；其高效率、高精度的构建能力，可以自动化提取周围环境特征信息，使得手机能准确获取周围世界的3D信息。此外，其还具备超逼真的虚实融合渲染能力，使得绘制效果更加逼真。
下面结合图4中的另一组GUI介绍Cyberverse应用下另一种用户体验过程。
参见图4中的(a)所示的GUI，该GUI为用户体验的另一显示界面。该显示界面上包括一幢建筑物且该建筑物的数字标牌为J2。当手机检测到用户点击数据标牌“J2”的操作后，手机可以显示如图4中的(b)所示的GUI。
参见图4中的(b)所示的GUI，该GUI为用户体验的另一显示界面。该显示界面上可以包括建筑物J2的详细描述。该详细描述包括J2为部门A。可以步行导航的目的地包括会议室1和会议室2。J2的区域管家为张辉，J2前台的电话为0769-23327998。如果此时用户希望导航前往会议室1，那么可以点击会议室1。当手机检测到用户点击会议室1的操作后，可以显示如图4中的(c)所示的GUI。
参见图4中的(c)所示的GUI，该GUI为用户体验的另一显示界面。该显示界面上可以包括对会议室1的具体介绍。会议室1位于J2-1-1B1，且会议室1为高密会议室，最多可以容纳50人。当手机检测到用户点击即刻导航前往的控件的操作后，手机可以显示如图4中的(d)所示的GUI。
参见图4中的(d)所示的GUI，该GUI为导航前往会议室1的显示界面。该显示界面上可以包括导航前往会议室1的导航箭头指示。用户可以参照该导航箭头指示前往会议室1。
参见图4中的(e)所示的GUI，该GUI为导航前往会议室1的另一显示界面。当用户走到J2的门口时，手机上除了显示J2入口的提示信息以及会议室1的导航箭头指示以外，手机还可以从云端服务器获取到建筑物J2内的详细信息。例如，当前J2的湿度为43％，温度为25℃以及当前J2内人数为243人。
参见图4中的(f)所示的GUI，该GUI为当行前往会议1的另一显示界面。图4中的(d)和(e)为室外的导航界面，Cyberverse应用中还提供了室内导航界面。如图4中的(f)，当用户进入建筑物J2后，可以继续显示导航箭头指示，从而可以帮助用户准确找到会议室1位于J2中的哪一个房间。
以上结合图3和图4中的GUI，介绍了用户Lee在松山湖研究所的体验过程。当用户Lee结束体验时，手机可以保存用户Lee在松山湖体验的过程。下面结合图5介绍用户体验分享的过程。
如图5中的(a)所示的GUI，该GUI为Cyberverse应用的显示界面。该显示界面上包括分享体验的控件501。当手机检测到用户点击控件501的操作后，可以显示如图5中的(b)所示的GUI。
如图5中的(b)所示的GUI，该GUI为手机保存的体验数据。其中，包括2020年2月27日摄于松山湖的体验数据502以及2020年2月21日摄于坂田的体验数据。当手机检测到用户长按体验数据502的操作后，可以显示如图5中的(c)所示的GUI。
参见图5中的(c)所示的GUI，该GUI为用户体验的操作界面。该操作界面上可以包括分享，删除等功能。当手机检测到用户点击分享控件503的操作后，可以显示如图5中的(d)所示的GUI。
参见图5中的(d)所示的GUI，该GUI为用户体验的分享界面。该分享界面上包括发送给朋友，蓝牙以及WLAN直连等功能。当手机检测到用户点击控件504的操作后，可以显示如图5中的(e)所示的GUI。
参见图5中的(e)所示的GUI，该GUI为用户Lee的好友列表显示界面。其中用户Lee的好友列表中包括好友Amy，James，Laura以及Lucy。当手机检测到用户点击好友Laura的操作后，可以显示如图5中的(f)所示的GUI。
参见图5中的(f)所示，该GUI为用户体验的分享界面。该分享界面包括提醒框505，提醒框505可以想用户提示用户体验的发送对象为Laura，发送的体验数据为用户Lee在松山湖研究所的体验数据。当手机检测到用户点击控件506的操作后，手机可以将该用户体验发送给Laura。
应理解，以上仅仅是通过社交软件的方式将用户体验发送给其他用户。用户Lee还可以通过邮件，短消息，蓝牙，WLAN直连等方式将用户体验发送给好友。
下面结合图6至图10介绍用户Laura接收到用户Lee发送的用户体验后，使用自己的手机进行沉浸式体验的过程。
参见图6中的(a)所示的GUI，该GUI为用户Laura和用户Lee的聊天界面。用户Laura通过社交App接收到用户Lee发送的用户体验。当手机检测到用户Laura长按用户体验数据601的操作后，可以显示如图6中的(b)所示的GUI。
参见图6中的(b)所示的GUI，手机而可以提示用户该用户体验的打开方式包括使用Cyberverse播放器打开或者通过其他播放器打开。当手机检测到用户点击使用Cyberverse播放器打开的控件602的操作后，可以显示如图6中的(c)所示的GUI。
参见图6中的(c)所示的GUI，该GUI为用户Laura进行沉浸式体验过程的显示界面。图6中(c)所示的界面为用户Laura在当前的显示界面上可以看到用户Lee在松山湖研究所拍摄的第一帧图像以及该图像上建筑物的数字标牌信息。当手机检测到用户Laura点击数字标牌“超市”的操作后，手机可以显示“超市”的详细信息。超市位于弗里堡九号(J9)餐厅。J9的区域管家为李飞且J9的前台电话为0769-23327921。
图7示出了本申请实施例提供的另一组GUI。
参见图7中的(a)所示的GUI，当手机检测到用户点击使用Cyberverse播放器打开的操作后，可以显示如图7中的(b)所示的GUI。
参见图7中的(b)所示的GUI，该GUI为用户Laura进行沉浸式体验过程的显示界面。与图6中的(c)相比，用户Laura开始进行沉浸式体验时的第一帧图像可以为用户Lee进行沉浸式体验时的第一帧图像。图7中的(b)中，用户Laura开始进行沉浸式体验时的第一帧图像也可以是用户Lee进行沉浸式体验的过程中的某一帧图像。
本申请实施例中，手机可以从该用户体验的第一帧图像开始进行显示，也可以从该用户体验过程中的某一帧图像开始进行显示。
一个实施例中，手机也可以提示用户Laura选择该用户体验过程中的某一帧图像开始进行体验。
图8示出了本申请实施例提供的另一组GUI。
参见图8中的(a)所示的GUI，该GUI为用户Lee在松山湖研究所进行沉浸式体验的过程。其中用户Lee在松山研究所拍摄时从当前位置向东北方向行走了10米后，手机的显示界面上出现了“祈祷室”和“咖啡厅”的数字标牌。
参见图8中的(b)所示的GUI，该GUI为用户Laura在家中进行沉浸式体验的过程。其中，用户Laura在家中也沿着当前位置向东北方向行走了10米后，手机的显示界面上出现了“祈祷室”和“咖啡厅”的数字标牌。
本申请实施例中，通过Cyberverse播放器可以回放Cyberverse体验后所保存的文件，结合用户在现有设备上的操作，用户不仅可以看到文件中的视频信息，还可在播放器中进行交互式沉浸式的体验。
图9示出了本申请实施例提供的另一组GUI。
如图9中的(a)所示的GUI，相比于图6中的(a)和(b)以及图7中的(a)，在该用户体验数据901上还可以包括用户Lee在体验过程中的路径信息。当手机检测到用户点击使用Cyberverse播放器打开的控件的操作后，可以显示如图9中的(b)所示的GUI。
参见图9中的(b)所示的GUI，相比于图7中的(b)所示的GUI，该GUI上还包括了提示信息“请按照目标线路进行体验！”以及目标线路。该目标线路为用户Lee在松山湖研究所进行体验时的行走路径。用户Laura在看到该目标线路后可以在家中按照该目标线路进行体验。由于用户Laura可以看到显示界面上的目标线路的信息，那么用户Laura可以按照该目标线路进行体验。
图10示出了本申请实施例提供的另一组GUI。
参见图10中的(a)所示的GUI，手机检测到用户Laura点击建筑物的数字标牌“J2”的操作后，可以显示如图10中的(b)所示的GUI。
参见图10中的(b)所示的GUI，该GUI为用户体验的另一显示界面。该显示界面上可以包括建筑物J2的详细描述。该详细描述包括J2为部门A。可以步行导航的目的地包括会议室1和会议室2。J2的区域管家为张辉，J2前台的电话为0769-23327998。如果此时用户Laura希望导航前往会议室2，那么可以点击会议室2。当手机检测到用户点击会议室2的操作后，可以显示如图10中的(c)所示的GUI。
参见图10中的(c)所示的GUI，该GUI为用户体验的另一显示界面。该显示界面上可以包括对会议室2的具体介绍。会议室2位于J2-1-1B2，且会议室2为高密会议室，最多可以容纳30人。当手机检测到用户点击即刻导航前往的控件的操作后，手机可以显示如图10中的(d)所示的GUI。
参见图10中的(d)所示的GUI，该GUI为导航前往会议室2的显示界面。该显示界面上可以包括导航前往会议室2的导航箭头指示。用户Laura可以参照该导航箭头指示前往会议室2。
参见图10中的(e)所示的GUI，该GUI为当前往会议2的另一显示界面。当用户Laura按照用户Lee的行走路径进入建筑物J2后，可以继续显示导航箭头指示，从而可以帮助用户准确找到会议室2位于J2中的哪一个房间。
应理解，用户Lee在松山湖研究所录制用户体验的过程中导航前往的是会议室1，且会议室1和会议室2都出现在了用户Lee录制体验的过程中。那么用户Laura在进行体验时不仅可以体验前往会议室1的体验过程，也可以体验前往会议室2的体验过程。
用户Lee在录制体验时可以保存录制过程中每个建筑物或者建筑物内各个房间的信息，这样被分享的用户就可以体验每个建筑物或者每个建筑物内各个房间的导航过程。例如图4所示的GUI中虽然用户Lee没有体验导航前往会议室2的体验过程，但是由于录制过程中也保存了会议室2的信息。那么在用户Laura进行沉浸式体验时就可以进行导航至会议室2的体验。
本申请实施例中，由于会议室1和会议室2都出现在了用户Lee录制体验的过程中，那么云端服务器可以在用户Lee达到会议室1的门口时，基于手机上传的图片(图片中包含会议室1和会议室2)和位置信息向手机发送会议室1和会议室2的位置信息，从而手机可以将会议室1和会议室2的位置信息都存储在体验数据中。当用户Laura得到体验数据时，也可以根据保存的会议室2的位置信息进行前往会议室1的导航体验。
图11示出了本申请实施例提供的电子设备和云端服务器交互的示意性流程图。如图11所示，该方法包括：
S1101，电子设备获取当前的位置信息、传感器检测到的数据以及图像信息。
一个实施例中，该位置信息包括电子设备的全球定位系统(global positioningsystem，GPS)信息。电子设备可以向云端服务器发送电子设备的摄像头采集的图像信息及相应图像采集时的位置信息等相关信息。
传感器检测到的数据包括磁力计传感器检测到的数据、加速度传感器检测到的数据以及陀螺仪传感器检测到的数据。其中，该磁力计传感器检测到的数据、加速度传感器检测到的数据和陀螺仪传感器检测到的数据用于确定电子设备摄像头的朝向。
S1102，电子设备向云端服务器发送该体验数据中的图像信息、该图像信息采集时的位置信息和电子设备相关传感器的数据。
示例性的，电子设备可以按照一定的周期向云端服务器发送体验数据中的图像信息及该图像采集时的位置信息和电子设备相关传感器的数据。
例如，电子设备可以每隔15s向云端服务器发送体验数据中的图像信息及该图像采集时的位置信息和电子设备相关传感器的数据。
或者，电子设备也可以在从当前位置移动了预设距离后，向云端服务器再一次发送自己更新后的体验数据中的图像信息、该图像采集时的位置信息和当前电子设备相关传感器的数据。
或者，电子设备也可以在通过AI引擎确定了摄像头采集的图像中的物体发生了更新时，可以再一次向云端服务器发送更新后的图像信息、采集该图像时的位置信息和电子设备相关传感器的数据。
S1103，云端服务器根据该次上传的图像信息、位置信息及传感器数据，进行空间计算，确定电子设备的位姿数据，该位姿数据包括电子设备的位置信息以及摄像头的朝向。
本申请实施例中，电子设备自己获取的位置信息(例如，GPS信息)误差较大，误差可能在十米至四十米之间；而云端服务器可以结合电子设备上传的位置信息以及图像信息再次确定电子设备的位置信息，由云端服务器确定的位置信息误差是厘米级的。
云端服务器可以根据电子设备上传的传感器数据以及图像信息确定电子设备摄像头的朝向。
一个实施例中，电子设备也可以根据采集到的传感器数据确定摄像头的朝向，并将电子设备确定的摄像头的朝向发送给云端服务器，云端服务器在计算出电子设备的摄像头朝向后，可以依据电子设备确定的摄像头朝向对云端服务器确定的摄像头朝向进行校正。
S1104，云端服务器根据该位姿数据以及云端服务器中保存的数字世界，通过数字世界中保存的3D地图、物体的数字标牌和白模数据，可以确定出当前电子设备的摄像头采集的图像中每个物体对应的数字标牌和白模数据，从而向电子设备发送图像信息中的数据标牌及白模数据等。
本申请实施例中，云端服务器可以包括两个服务：
(1)空间计算
云端服务器可以依据电子设备发送的图像信息和位置信息进行空间计算得到更加精确的位置信息；云端服务器可以依据电子设备发送的图像信息以及传感器数据进行空间计算从而获得电子设备摄像头的朝向。
(2)数字标牌和白模数据的下发
云端服务器在确定电子设备位姿数据后，可以通过云端服务器中保存的数字世界的信息和该位姿信息，确定摄像头中采集的图像中物体的数据(例如，建筑物的数字标牌和白模数据)，从而将这些数据发送给电子设备。
本申请实施例中，白模数据可以指物体的三维结构。三维结构中可以包括物体的长、宽和高。云端服务器在云端保存的数字世界中每个物体都具有自己的三维结构，云端服务器可以将物体对应的三维结构发送给电子设备，由电子设备保存。例如，如果物体为建筑物，那么该建筑物的白模数据可以包括该建筑物的长、宽和高，该建筑物内各个房间的信息。云端服务器还可以进一步将该建筑物旁边的物体的白模数据和数字标牌信息也下发给电子设备。应理解，物体的三维结构是用于电子设备确定采集到的二维图像中各个物体的三维结构，这些白模数据并不会呈现在电子设备的显示界面上。
S1105，电子设备进行图像渲染，实时显示并存储当前界面上拍摄物体的数字标牌信息。
示例性的，如图3中的(d)所示的“咖啡厅”“J10入口”“超市”。
本申请实施例中，电子设备获取到数字标牌，白模数据后，需要将这些数据和摄像头采集的图像中物体进行匹配，电子设备会从云端服务器得到物体与数字标牌，白模数据的对应关系，从而使得电子设备实时显示对应物体的数字标牌的信息。电子设备可以向云端服务器上传摄像头采集的图片、传感器采集的数据以及位置信息，云端服务器也可以根据这些信息确定当前电子设备准确的位置信息以及摄像头的朝向信息。
如图3中的(d)中左边建筑物与数字标牌“咖啡厅”“J10入口”相对应，右边建筑物与“超市”相对应。
当用户Lee使用Cyberverse在松山湖研究所进行体验时，体验过程中的数据包括：视频数据，加速度传感器数据，陀螺仪数据，磁力计数据，空间计算获得的位姿数据，AR引擎获取的位姿数据，GPS和基于位置的服务(location based services，LBS)数据，地图及白模数据等，按自定义的文件格式进行存储。
示例性的，表1示出了一种数据存储的方式。
表1
Figure BDA0002427487090000151
表1所示的各项数据中，视频数据、加速度传感器数据、陀螺仪数据、磁力计数据、GPS和LBS数据可以是电子设备采集并发送给云端服务器的；云端服务器在接收到这些数据后，可以计算出位姿数据、数字资源、3D模型数据等并发送给电子设备，由电子设备保存在本地。其中，数字资源中包括数字标牌和白模数据。3D模型数据可以指一些卡通人物、虚拟3D物体，主要是为了增强用户的沉浸式体验。
示例性的，如图3中的(c)所示，当手机检测到用户开启Cyberverse时，可以先上传GPS信息给云端服务器，云端服务器在获取到手机的位置信息后可以先通过GPS信息确定手机当前位于松山湖。那么云端服务器可以先向手机发送一些关于松山湖的数字资源，例如，松山湖中多个建筑物的数字标牌和白模数据。
示例性的，如图3中的(d)所示，当用户开始进行体验时，手机可以向云端服务器发送摄像头采集的图片以及GPS信息，那么云端服务器就可以根据自己保存的数字世界和手机上传的信息确定出当前手机的位姿数据(包括准确的位置信息以及摄像头的朝向信息)；并且云端服务器还可以基于手机摄像头采集的图像以及GPS信息，确定该图像中各个二维物体对应的白模数据(或者，三维结构)，以及各个二维物体对应的数据标牌。云端服务器可以将确定的手机的位姿数据以及数字资源的信息发送给手机，由手机保存在本地。
一个实施例中，电子设备具体对表1中数据进行存储可以如图12所示。图12示出了用户体验过程中的数据保存的格式。其中，每一个时间戳对应一个视频段和数据段，其中视频段中包括视频数据，数字标牌，白模数据以及时间戳的信息，数据段包括加速度传感器数据，陀螺仪数据，磁力计数据，位姿数据，GPS，LBS数据以及时间戳的信息。
文件按自定义的文件格式存储后，用户可以通过各种链接方式分享此文件，文件的体验通过Cyberverse播放器来实现。该播放器可以从文件中把相应的数据解析出来，然后和Cyberverse本地采集的数据进行替换，使应用层用的数据是来自于体验数据，而本地数据用来计算相对位置的移动，从而增强体用户验感。
图13示出了用户Laura在进行沉浸式体验时电子设备内部的算法流程。如图13所示，该方法包括：
S1301，电子设备检测到用户启动Cyberverse播放器。
示例性的，如图6中的(b)所示，用户Laura选择使用Cyberverse播放器观看Lee在松山湖研究所的体验数据。
S1302，电子设备获取当前的位姿数据作为基准值。
示例性的，用户Laura当前正在家中的客厅使用电子设备，那么电子设备可以将自己当前的位置信息作为相对移动数据的基准值。
一个实施例中，该位姿数据包括GPS数据，LBS数据以及惯性测量单元(inertialmeasurement unit，IMU)数据。
本申请实施例中，LBS数据可以提供室内定位。示例性的，如图4中的(e)至(f)所示，LBS数据为电子设备在J2室内的定位信息。
IMU数据是加速度传感器和陀螺仪传感器的组合单元，从器件角度说，加速度传感器和陀螺仪传感器可能在一个芯片中，那么这个芯片就叫做IMU。
S1303，电子设备提取文件中的视频数据作为预览流。
示例性的，电子设备可以提取图12所示的体验数据中视频段1中的视频数据作为预览流；或者，电子设备也可以提取图12所示的体验数据中的视频段2中的视频数据作为预览流。
示例性的，如图6中的(c)所示，电子设备可以使用体验数据中视频段1中的视频数据作为预览流。
S1304，获取电子设备实时的位姿数据，并根据实时的位姿数据减去基准值，得到相对移动位姿数据。
应理解，S1303和S1304之间并没有实际的先后顺序。
示例性的，电子设备可以实时获取自己的GPS，LBS和IMU数据，并减去在S1302中的基准值，得到相对移动位姿数据，相对移动位姿数据包括电子设备位置的移动信息，以及摄像头姿态的变动。
示例性的，如图8中的(b)所示，电子设备可以根据实时获取的数据减去基准值，确定电子设备向东北方向移动了10米。或没有发生明显的移动，但手机的朝向发生改变。
S1305，电子设备提取体验数据中的存储的经空间计算后得到位姿数据(位置及姿态数据)作为起始值。
示例性的，若S1303中电子设备提取视频段1中的视频数据作为预览流，那么可以在S1305中提取视频段1对应的数据段1作为位姿数据的起始值。
若S1303中电子设备提取视频段2中的视频数据作为预览流，那么可以在S1305中提取视频段1对应的数据段2作为位姿数据的起始值。
S1306，电子设备根据文件中获取的起始值加上相对移动数据，确定实时渲染的新位姿数据。
本申请实施例中的位姿数据指示电子设备的位置和姿态，电子设备每次在渲染时电子设备需要知道摄像头的位置和姿态，才能确定显示哪些信息在显示屏上。
S1307，电子设备根据新的位姿数据进行数据渲染，渲染出包含有数字标牌或者3D虚拟物体的图像。
电子设备基于正常的Cyberverse应用程序的启动，获取手机当前的GPS/LBS/IMU等数据，作为后续相对移动的基准数，后续手机移动时获取实时的GPS/LBS/IMU减去这个基准数据来获取相对移动数据。然后读取文件解析的数据，其中预览界面的数据采用文件中的视频数据，原数据采集流程中的GPS/LBS/IMU的数据也采用文件中保存的相应起始值，后续电子设备移动时，基于这个起始值加上实时的相对移动数据，作为体验时的新值体现在体验过程中。
一个实施例中，电子设备还可以通过获取体验数据中的图像数据及该图像数据相应的位置信息等其他信息上传到云端服务器，通过云端服务器实时空间计算来获取新的位姿数据作为现场的起始值。
电子设备可以保存图12所示的数据结构，其中图12中所示的数据结构中的数据段可以包括云端服务器计算得到的数据，如经云端服务器空间计算后得到位姿数据(位置及姿态数据)；也可以不保存云端服务器计算后得到的位姿数据，而是保存电子设备采集对应的图像信息时的位置信息以及传感器采集到的数据。当被分享的用户打开体验数据时，电子设备可以向远端服务器再一次上传电子设备采集的某一帧的图像数据、采集该帧图像数据对应的位置信息以及采集该帧图像时的传感器数据，由云端服务器经过空间计算得到电子设备的位姿数据。云端服务器可以根据该位姿数据确定图像中物体的信息，并将物体的信息发送给电子设备。之后电子设备移动的过程中，电子设备可以基于起始值以及相对移动位姿数据进行渲染。
本申请实施例中还提供了一种电子设备，包括处理器(如图1中的处理器110)和一个或多个存储器(如图1中的内部存储器121)。该一个或多个存储器与处理器耦合，一个或多个存储器用于存储计算机程序代码，计算机程序代码包括计算机指令，当一个或多个处理器执行计算机指令时，使得电子设备执行上述方法1300中的方法。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统、装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在本申请所提供的几个实施例中，应该理解到，所揭露的系统、装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述，仅为本申请的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应以所述权利要求的保护范围为准。

Claims (10)

1.一种图像显示方法，其特征在于，所述方法应用于具有摄像头和显示屏的电子设备中，所述电子设备中保存体验数据，所述体验数据包括视频数据、位姿数据和数字资源，所述视频数据包括多帧图像，所述位姿数据包括采集所述多帧图像中的每一帧图像时位置信息和摄像头的朝向，所述数字资源包括所述多帧图像中每一帧图像中物体的数字标牌或者3D模型，所述方法包括：
所述电子设备检测到用户打开所述体验数据的操作；
响应于所述操作，所述电子设备通过所述显示屏显示第一界面，所述第一界面包括第一图像，所述多帧图像包括所述第一图像；
在预设时长内，所述电子设备确定位姿变化信息，所述位姿变化信息包括所述电子设备的位置移动信息和所述摄像头的位姿变化信息；
所述电子设备根据采集所述第一图像时的位姿数据和所述位姿变化信息，通过所述显示屏显示包含数字标牌或者3D虚拟物体的第二图像，所述多帧图像包括所述第二图像。
2.根据权利要求1所述的方法，其特征在于，所述第一界面上还包括提示信息，所述提示信息用于提示用户按照预设路径进行体验，所述预设路线为采集所述体验数据时的移动路径。
3.根据权利要求1或2所述的方法，其特征在于，所述采集所述第一图像时的位姿数据由云端服务器确定。
4.根据权利要求1至3中任一项所述的方法，其特征在于，所述在预设时长内，所述电子设备确定位姿变化信息，包括：
所述电子设备根据在所述预设时长的起始时刻和结束时刻检测到的全球卫星定位系统GPS、基于位置的服务LBS和惯性测量单元IMU数据的变化，确定所述位姿变化信息。
5.根据权利要求1至4中任一项所述的方法，其特征在于，所述位姿数据和所述数字资源通过序列化数据保存。
6.一种电子设备，其特征在于，所述电子设备中保存体验数据，所述体验数据包括视频数据、位姿数据和数字资源，所述视频数据包括多帧图像，所述位姿数据包括采集所述多帧图像中的每一帧图像时位置信息和摄像头的朝向，所述数字资源包括所述多帧图像中每一帧图像中物体的数字标牌或者3D模型，所述电子设备包括：
显示屏；
摄像头；
一个或多个处理器；
一个或多个存储器；
所述一个或多个存储器存储有一个或多个计算机程序，所述一个或多个计算机程序包括指令，当所述指令被所述一个或多个处理器执行时，使得所述电子设备执行以下步骤：
检测到用户打开所述体验数据的操作；
响应于所述操作，通过所述显示屏显示第一图像，所述多帧图像包括所述第一图像；
在预设时长内，确定位姿变化信息，所述位姿变化信息包括所述电子设备的位置移动信息和所述摄像头的位姿变化信息；
根据采集所述第一图像时的位姿数据和所述位姿变化信息，通过所述显示屏显示包含数字标牌或者3D虚拟物体的第二图像，所述多帧图像包括所述第二图像。
7.根据权利要求6所述的电子设备，其特征在于，所述第一图像上包括提示信息，所述提示信息用于提示用户按照预设路径进行体验，所述预设路线为采集所述体验数据时的移动路径。
8.根据权利要求6或7所述的电子设备，其特征在于，所述采集所述第一图像时的位姿数据由云端服务器确定。
9.根据权利要求6至8中任一项所述的电子设备，其特征在于，当所述指令被所述一个或多个处理器执行时，使得所述电子设备执行以下步骤：
根据在所述预设时长的起始时刻和结束时刻检测到的全球卫星定位系统GPS、基于位置的服务LBS和惯性测量单元IMU数据的变化，确定所述位姿变化信息。
10.根据权利要求6至9中任一项所述的电子设备，其特征在于，所述位姿数据和所述数字资源通过序列化数据保存。
CN202010225460.XA 2020-03-26 2020-03-26 一种图像显示方法和电子设备 Active CN113452896B (zh)

Priority Applications (4)

Application Number Priority Date Filing Date Title
CN202010225460.XA CN113452896B (zh) 2020-03-26 2020-03-26 一种图像显示方法和电子设备
PCT/CN2021/080998 WO2021190350A1 (zh) 2020-03-26 2021-03-16 一种图像显示方法和电子设备
EP21776003.2A EP4109880A4 (en) 2020-03-26 2021-03-16 PICTURE DISPLAY METHOD AND ELECTRONIC DEVICE
US17/914,260 US20230114178A1 (en) 2020-03-26 2021-03-16 Image display method and electronic device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010225460.XA CN113452896B (zh) 2020-03-26 2020-03-26 一种图像显示方法和电子设备

Publications (2)

Publication Number Publication Date
CN113452896A true CN113452896A (zh) 2021-09-28
CN113452896B CN113452896B (zh) 2022-07-22

Family

ID=77807335

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010225460.XA Active CN113452896B (zh) 2020-03-26 2020-03-26 一种图像显示方法和电子设备

Country Status (4)

Country Link
US (1) US20230114178A1 (zh)
EP (1) EP4109880A4 (zh)
CN (1) CN113452896B (zh)
WO (1) WO2021190350A1 (zh)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110279697A1 (en) * 2010-05-12 2011-11-17 Fuji Xerox Co., Ltd. Ar navigation for repeat photography and difference extraction
US20120306850A1 (en) * 2011-06-02 2012-12-06 Microsoft Corporation Distributed asynchronous localization and mapping for augmented reality
CN103959220A (zh) * 2012-11-14 2014-07-30 华为技术有限公司 一种实现增强现实的方法及用户设备
CN107590754A (zh) * 2017-11-01 2018-01-16 首都师范大学 一种基于增强现实技术提升国家公园旅游体验的系统及方法
WO2018121383A1 (zh) * 2016-12-26 2018-07-05 华为技术有限公司 虚拟现实vr视频播放的设备和播放vr视频的方法
WO2018120657A1 (zh) * 2016-12-27 2018-07-05 华为技术有限公司 一种共享虚拟现实数据的方法和设备

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130278631A1 (en) * 2010-02-28 2013-10-24 Osterhout Group, Inc. 3d positioning of augmented reality information
KR102021050B1 (ko) * 2012-06-06 2019-09-11 삼성전자주식회사 내비게이션 정보를 제공하는 방법, 기계로 읽을 수 있는 저장 매체, 이동 단말 및 서버
KR102257621B1 (ko) * 2014-05-19 2021-05-28 엘지전자 주식회사 썸네일 이미지를 디스플레이 하는 헤드 마운티드 디스플레이 디바이스 및 그 제어 방법
US9904500B2 (en) * 2014-06-18 2018-02-27 David Milton Durlach Choreography of kinetic artwork via video
WO2017116952A1 (en) * 2015-12-29 2017-07-06 Dolby Laboratories Licensing Corporation Viewport independent image coding and rendering
JP6709633B2 (ja) * 2016-02-17 2020-06-17 株式会社バンダイナムコエンターテインメント シミュレーションシステム及びゲームシステム
US10725729B2 (en) * 2017-02-28 2020-07-28 Magic Leap, Inc. Virtual and real object recording in mixed reality device
US10685489B2 (en) * 2017-03-02 2020-06-16 Daqri, Llc System and method for authoring and sharing content in augmented reality
WO2019079790A1 (en) * 2017-10-21 2019-04-25 Eyecam, Inc ADAPTIVE GRAPHIC USER INTERFACE SYSTEM
US10712819B2 (en) * 2018-10-30 2020-07-14 Dish Network L.L.C. System and methods for recreational sport heads-up display control
CN110286773B (zh) * 2019-07-01 2023-09-19 腾讯科技（深圳）有限公司 基于增强现实的信息提供方法、装置、设备及存储介质
US11521359B2 (en) * 2020-04-17 2022-12-06 Apple Inc. Extended reality recorder

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110279697A1 (en) * 2010-05-12 2011-11-17 Fuji Xerox Co., Ltd. Ar navigation for repeat photography and difference extraction
US20120306850A1 (en) * 2011-06-02 2012-12-06 Microsoft Corporation Distributed asynchronous localization and mapping for augmented reality
CN103959220A (zh) * 2012-11-14 2014-07-30 华为技术有限公司 一种实现增强现实的方法及用户设备
WO2018121383A1 (zh) * 2016-12-26 2018-07-05 华为技术有限公司 虚拟现实vr视频播放的设备和播放vr视频的方法
WO2018120657A1 (zh) * 2016-12-27 2018-07-05 华为技术有限公司 一种共享虚拟现实数据的方法和设备
CN107590754A (zh) * 2017-11-01 2018-01-16 首都师范大学 一种基于增强现实技术提升国家公园旅游体验的系统及方法

Also Published As

Publication number Publication date
US20230114178A1 (en) 2023-04-13
EP4109880A4 (en) 2023-08-09
CN113452896B (zh) 2022-07-22
WO2021190350A1 (zh) 2021-09-30
EP4109880A1 (en) 2022-12-28

Similar Documents

Publication Publication Date Title
US11892299B2 (en) Information prompt method and electronic device
CN112130742B (zh) 一种移动终端的全屏显示方法及设备
CN115866122A (zh) 应用界面交互方法、电子设备和计算机可读存储介质
CN112383664B (zh) 一种设备控制方法、第一终端设备、第二终端设备及计算机可读存储介质
CN115439606A (zh) 三维重建方法、图形界面、系统及相关装置
WO2022073417A1 (zh) 融合场景感知机器翻译方法、存储介质及电子设备
WO2022156473A1 (zh) 一种播放视频的方法及电子设备
WO2022037479A1 (zh) 一种拍摄方法和拍摄系统
WO2022022335A1 (zh) 天气信息的展示方法、装置和电子设备
CN112637477A (zh) 一种图像处理方法及电子设备
CN113554932B (zh) 轨迹回放方法及装置
CN111249728B (zh) 一种图像处理方法、装置及存储介质
CN114842069A (zh) 一种位姿确定方法以及相关设备
CN114444000A (zh) 页面布局文件的生成方法、装置、电子设备以及可读存储介质
CN113723397A (zh) 一种截屏方法及电子设备
CN113452896B (zh) 一种图像显示方法和电子设备
CN114363460B (zh) 运动轨迹的显示方法、电子设备及可读存储介质
CN116797767A (zh) 增强现实场景分享的方法和电子设备
CN113542575A (zh) 设备位姿调整方法和图像拍摄方法及电子设备
CN114812381A (zh) 电子设备的定位方法及电子设备
CN114911400A (zh) 分享图片的方法和电子设备
CN112783993B (zh) 基于数字地图的多个授权空间的内容同步方法
US20220264176A1 (en) Digital space management method, apparatus, and device
CN117671203A (zh) 一种虚拟数字内容显示系统、方法与电子设备
CN115145647A (zh) 应用程序的组件加载方法及相关装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant