WO2018214778A1 - 一种虚拟对象的展示方法及装置 - Google Patents

一种虚拟对象的展示方法及装置 Download PDF

Info

Publication number
WO2018214778A1
WO2018214778A1 PCT/CN2018/086783 CN2018086783W WO2018214778A1 WO 2018214778 A1 WO2018214778 A1 WO 2018214778A1 CN 2018086783 W CN2018086783 W CN 2018086783W WO 2018214778 A1 WO2018214778 A1 WO 2018214778A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
target object
current image
information
terminal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/CN2018/086783
Other languages
English (en)
French (fr)
Inventor
沈慧
陈永健
姜飞俊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alibaba Group Holding Ltd
Original Assignee
Alibaba Group Holding Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alibaba Group Holding Ltd filed Critical Alibaba Group Holding Ltd
Publication of WO2018214778A1 publication Critical patent/WO2018214778A1/zh
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/757—Matching configurations of points or features

Definitions

  • a theoretical schematic diagram of a virtual object is displayed in a current image collected by the terminal, and the target object is included in the current image (solid line representation), and the virtual object (dotted line representation) is superimposed and displayed on the target object.
  • the prior art is generally based on an LBS (Location Based Service) and an IMU (Inertial Measurement Unit, an inertial measurement unit, which is a device for measuring an object's triaxial attitude angle (or angular rate) and acceleration). Effect.
  • the theoretical position of the target object projected in the current image may be determined according to the position information of the terminal, the posture information, and the position information of the target object when the current image is acquired, and then the virtual object is superimposed and displayed on the theoretical position.
  • the embodiment of the present application provides a virtual object display device for reducing a position error when a virtual object is superimposed and displayed on a target object position of a current image.
  • the virtual object corresponding to the target object is displayed in the current image according to the position information of the terminal when the current image is acquired, the position information of the target object, and the corrected posture information.
  • the theoretical position is determined according to position information of the terminal and pre-correction posture information when acquiring the current image, and position information of the at least one target object.
  • the image that includes the candidate target object is obtained according to the location information of the terminal when the current image is collected, and specifically includes:
  • the image including the candidate target object is acquired according to the position information of the terminal and the pre-correction posture information when the current image is acquired.
  • determining an actual location of the at least one target object in the current image includes:
  • the corrected posture information is determined according to a theoretical position and an actual position of the at least two target objects projected in the current image.
  • the method is applied to a terminal equipped with an image capturing device, and the method specifically includes:
  • the virtual object corresponding to the target object is displayed in the real-time image according to the position information when the terminal collects the real-time image, the position information of the target object, and the corrected posture information.
  • the virtual object corresponding to the target object is displayed in the real-time image according to the changed posture information, the position information when the real-time image is acquired, and the pre-correction posture information and the position information of the target object.
  • a display device for a virtual object comprising: an obtaining unit, a matching unit, a determining unit, and a display unit, wherein
  • the acquiring unit is configured to acquire an image including a candidate target object according to location information of the terminal when the current image is collected;
  • the matching unit is configured to perform image matching between the current image and the image including the candidate target object, and determine an actual position of the at least one target object projected in the current image;
  • the determining unit is configured to determine the corrected posture information according to the theoretical position and the actual position of the at least one target object projected in the current image;
  • the display unit is configured to display the virtual object corresponding to the target object in the current image according to the location information of the terminal, the location information of the target object, and the corrected posture information when the current image is collected.
  • the determining unit is further configured to:
  • the theoretical position is determined according to position information of the terminal and pre-correction posture information when acquiring the current image, and position information of the at least one target object.
  • the obtaining unit is specifically configured to:
  • the image including the candidate target object is acquired according to the position information of the terminal and the pre-correction posture information when the current image is acquired.
  • the matching unit is specifically configured to:
  • the corrected posture information is determined according to a theoretical position and an actual position of the at least two target objects projected in the current image.
  • the device is applied to a terminal equipped with an image acquisition device,
  • the acquiring unit is specifically configured to acquire an image including a candidate target object according to location information when the terminal collects a real-time image;
  • the matching unit is specifically configured to perform image matching between the real-time image and the image including the candidate target object, and determine an actual position of the at least one target object projected in the real-time image;
  • the determining unit is specifically configured to determine the corrected posture information according to the theoretical position and the actual position of the at least one target object projected in the real-time image;
  • the display unit is specifically configured to display the virtual object corresponding to the target object in the real-time image according to the location information when the terminal collects the real-time image, the location information of the target object, and the corrected posture information.
  • the display unit is further configured to: according to the changed posture information, the position information when the real-time image is acquired, the pre-correction posture information, and the position information of the target object in a preset time period, the virtual object corresponding to the target object Displayed in the live image.
  • a method for displaying a virtual object comprising:
  • the virtual object corresponding to the target object is displayed in the current image according to the position information of the terminal when the current image is acquired, the position information of the target object, and the corrected posture information.
  • the scheme adds attitude correction information based on LBS and IMU, and corrects the errors of LBS and IMU as much as possible, which solves the problem to some extent.
  • attitude correction information based on LBS and IMU
  • FIG. 1 is a schematic diagram showing a theoretical representation of a virtual object in a current image acquired by a terminal
  • FIG. 2 is a schematic diagram of an error occurring in displaying a virtual object in a current image collected by a terminal in the prior art
  • FIG. 3 is a schematic flowchart of a method for displaying a virtual object according to Embodiment 1 of the present application;
  • Embodiment 4 is a schematic diagram of image matching provided by Embodiment 1 of the present application.
  • FIG. 5 is a schematic flowchart diagram of a method for displaying a virtual object according to Embodiment 2 of the present application.
  • FIG. 6 is a schematic diagram of a method for displaying a virtual object according to Embodiment 2 of the present application.
  • the LBS can be used to determine the location information, that is, the geographical location information of the terminal, and the outdoor can be separately or mixedly positioned by a GPS (Global Positioning System), Wi-Fi (Wireless-Fidelity), and a base station. It can be positioned by Bluetooth or Wi-Fi. In practical applications, when the terminal collects images, there may be a large position error, such as 0.5 meters or more.
  • the position of the target object in the current image captured by the terminal can be accurately determined according to the position information of the terminal, the posture information, and the position information of the target object, for example, as shown in FIG. 1 .
  • the target object is a real image of "XX University" and "XX Stadium".
  • the location information may include latitude and longitude and altitude; when the terminal collects an image, according to the location information of the terminal including latitude and longitude, altitude, and posture information, In the image acquired by the terminal, the theoretical position of the target object projection is determined, so that the virtual object overlay preset for the target object is displayed at the theoretical position.
  • the embodiment of the present application provides a method for displaying a virtual object, which is used to reduce a position error when a virtual object is superimposed and displayed on a target object position of a current image.
  • the flow of the method is shown in Figure 3 and includes the following steps:
  • the currently popular POI point of interest
  • the POI includes information of various physical objects such as schools, hospitals, and sports ( For example, including latitude and longitude, position information of altitude, multiple images, etc., the image containing the POI can be backed up for display in the map or in the AR. Since there are too many target objects and the number of images containing the target object is huge, it can be acquired according to the position information of the terminal when the current image is acquired, for example, according to a predetermined range (for example, the position information of the terminal when collecting the current image is centered, the radius is 5000. In the acquisition, etc., because the acquired image containing the target object, not all of the target objects appear in the current image, so it can be called an image containing the candidate target object.
  • the selection of candidate target objects may include more than the determined number of possible target objects.
  • Step 12 Perform image matching on the current image with the image containing the candidate target object, and determine the actual position of the at least one target object projected in the current image.
  • this step can perform image matching on the current image and the image containing the candidate target object.
  • image matching can be performed by the following examples:
  • the image template is characterized, for example, can be characterized by an ORB (ORiented Brief), and after the image template is characterized, a plurality of feature positions and feature vectors of the feature positions can be determined;
  • the current image is characterized, and a random sampling consistency algorithm can be used for matching, and a matching with a matching degree higher than a preset threshold is used as a candidate matching result;
  • Filtering is performed based on the angle and feature position data, scaling, etc., and the matching result is finally determined, that is, whether it exists, and if present, the position in the current image is determined.
  • the actual position of the at least one target object projected in the current image may be defined as the first position, that is, the step may include: The current image is image-matched with the image containing the candidate target object, and the first position of the at least one target object is determined to be projected in the current image.
  • Step 13 Determine the corrected posture information according to the theoretical position and the actual position of the at least one target object projected in the current image.
  • the step may determine the corrected posture information according to the theoretical position of the at least one target object projected in the current image, that is, according to the theory and Actually, determine how to correct the pose.
  • the theoretical position of the at least one target object projected in the current image may be determined according to the position information of the terminal and the pre-correction posture information and the position information of the at least one target object when the current image is acquired. Specifically, it can be determined according to a projection matrix equation, which is as follows:
  • Y is the position of the target object
  • X poi is the position information of the target object
  • X p is the position information when the current image is acquired
  • T is the rotation matrix
  • ⁇ is pitch
  • T is pitch
  • ⁇ t is the corrected attitude information.
  • P is a projection matrix, which can be obtained by calibration of an image acquisition device, and is a basic parameter of the image acquisition device. The details can be as follows:
  • X poi , X p and P are known.
  • ⁇ t is ⁇ imu
  • ⁇ imu is the pre-correction posture information of the terminal when acquiring the current image
  • Y is the target object projection at the current time.
  • ⁇ imu the initial value of ⁇ imu , the partial derivative is used to solve the Jacobian matrix, and further iterative solution can solve ⁇ t .
  • the determined ⁇ t is the corrected attitude information.
  • the modified attitude information is not limited to the above one method, for example, an improved equation according to the above equation:
  • ⁇ may be a correction coefficient determined for different terminals during repeated testing.
  • the amount of error of the position and posture can be summarized only by the corrected posture information, as described in this step. It is also possible to separately determine the error amount of the position and the posture, that is, the corrected position information and the corrected posture information.
  • At least two corrected posture information may be determined according to at least two target objects, and then the two corrected posture information may be averaged, or (depending on the position in the image and the center of the image respectively) The weighted average value, etc., determines the final corrected pose information.
  • Step 14 Display the virtual object corresponding to the target object in the current image according to the position information of the terminal, the position information of the target object, and the corrected posture information when the current image is acquired.
  • the corrected posture information is determined, that is, when the current image is acquired, the correct posture information determined by the IMU may be based on the position information of the terminal, the position information of the target object, and the correction according to the current image.
  • the post posture information determines the position of the target object in the acquired current image, and displays the virtual object corresponding to the target object in the current image.
  • the corrected posture is determined by at least one target object or at least two target objects, and the target object in this step may be the same as the target object in the first two steps, but more cases are more than the first two.
  • the number of target objects in the step, the role of the target object in the above two steps is only used to determine the corrected posture, and the target object in this step is used to implement the AR effect.
  • the actual position of the "XX University” is determined
  • the corrected posture information is determined according to the theoretical position of the "XX University”
  • the step can be based on the corrected posture information, the terminal position information
  • the location information of the target object determines that the current image includes target objects such as "XX University”, "XX Hospital", and "XX Building”, and the corresponding virtual objects are displayed in the current image, and the purpose can be as shown in the figure.
  • the effect of 1 is that the position of the virtual object can be superimposed and displayed on the corresponding target object.
  • steps 13 and 14 take into account the continuous acquisition in the process of acquiring images in real time, but actually consider that in the real-time acquisition process, there may be a slight change in the position information and posture information of the terminal. Therefore, in an embodiment, after the step 12, the embodiment may further include: displaying, according to the actual location, the virtual object corresponding to the at least one target object in the current image, that is, when at least one is determined. After the target object is projected at the actual position in the current image, the virtual object can be displayed directly based on the actual position.
  • the image including the candidate target object is acquired according to the position information of the terminal when the current image is acquired, and the current image is matched with the image containing the candidate target object to determine that at least one target object is projected on the current image.
  • the actual position in the middle, and according to the theoretical position of the at least one target object projected in the current image, the corrected posture information is determined, and finally the virtual object corresponding to the target object in the current image is displayed according to the corrected posture information.
  • the scheme adds attitude correction information based on LBS and IMU, and corrects the errors of LBS and IMU as much as possible, which solves the problem to some extent. There is a problem that when the virtual object is superimposed and displayed on the target object position of the current image, a large position error is likely to occur, and the effect of reducing the position error is achieved.
  • the embodiment of the present application provides a method for displaying a virtual object, so as to reduce the virtual when the virtual object is superimposed and displayed on the real-time image.
  • the position error of the object and the target object can be applied to a terminal equipped with an image acquisition device, and the process is as shown in FIG. 5, and includes the following steps:
  • Step 21 Acquire an image including the candidate target object according to the location information when the terminal collects the real-time image.
  • the terminal may be a smart phone equipped with an image capturing device
  • the image capturing device may be a camera mounted on the back of the smart phone
  • the front side is equipped with a display screen.
  • the position information at the time of the real-time image acquires an image containing the candidate target object.
  • the location information includes latitude and longitude N, E and altitude H.
  • the candidate target object within a radius of 1000 m can be searched with N and E as the center, and the candidate target object "1", the candidate target object "2", the candidate target object "n” can be obtained. "etc., and get an image containing these candidate target objects.
  • the photographing may also be performed. Therefore, the step may include: acquiring an image including the candidate target object according to the position information of the terminal when the photographed image is taken.
  • Step 22 Matching the real-time image with the image containing the candidate target object, and determining the actual position of the at least one target object projected in the real-time image.
  • the real-time image can be image-matched with each image containing the candidate target object, and at least one of the matching results is determined, such as the actual position of the target object "1" projected in the real-time image.
  • the actual position of the target object “1” projected in the real-time image may be a coordinate, such as (100, 500).
  • the acquiring the real-time image may be a photographing, and the step may include: matching the photographed image with the image including the candidate target object, and determining an actual position of the at least one target object projected in the photographed image.
  • Step 23 Determine the corrected posture information according to the theoretical position and the actual position of the at least one target object projected in the real-time image.
  • the theoretical position of the at least one target object projected in the real-time image may be determined by the position information of the terminal and the pre-correction posture information and the position information of the at least one target object when the real-time image is acquired.
  • the position information when collecting the real-time image includes the latitude and longitude N, E and the altitude H
  • the posture information is a real-time function T ( ⁇ imu ) of pitch, yaw and roll
  • the position information of the target object "1" includes the latitude and longitude N1, E1 and At altitude H1
  • the corrected attitude information can be determined according to the following projection matrix equation:
  • Y is (100,500)
  • P is the projection matrix parameter of the camera.
  • the latitude and longitude N, E and altitude H can represent X p
  • the latitude and longitude N1, E1 and the altitude H1 can represent X poi
  • ⁇ imu can be used as the initial value.
  • the partial derivative solves the Jacobian matrix and further iteratively solves, and ⁇ t can be solved.
  • Step 24 Display the virtual object corresponding to the target object in the real-time image according to the location information when the terminal collects the real-time image, the location information of the target object, and the corrected posture information.
  • the position of the target object projected in the real-time image with all the virtual objects is determined, and the virtual object corresponding to the target object can be displayed in the real-time image.
  • the possible latitude in the real-time image may be determined according to the latitude and longitude N, E and the altitude H of the mobile phone, the latitude and longitude N1, E1 of the target object "1", and the altitude H1... the latitude and longitude Nn, En and the altitude Hn of the target object "n”
  • the virtual objects corresponding to the target objects are AR displayed according to the position of the target object.
  • the POI content may include location information and an image of the target object
  • the mobile phone may first determine location information when the real-time image is collected according to the LBS, and obtain the content from the POI content according to the location information.
  • the attitude information determines a theoretical position of the at least one POI projection in the real-time image, and determines the corrected posture information according to the theoretical position and the actual position; and according to the corrected posture information, the position information when the real-time image is acquired, determining that the final After projecting the target object in the real-time image (ie, the virtual object corresponding to the POI that needs to be displayed in the real-time image) and the position of the projection, the virtual object corresponding to the POI is displayed in the real-time image to complete the AR display.
  • real-time image acquisition is usually continuous. For example, a real-time image is acquired once in 1 second, or once in 2 seconds. If a real-time image is acquired once, a corrected posture information is determined, and the computing resource consumption is compared. Large, so in an embodiment, the following steps may also be included:
  • Step 25 Determine the changed posture information according to the corrected posture information and the pre-correction posture information when the terminal collects the real-time image.
  • the ⁇ t determined in the foregoing can understand the correct attitude information that should be determined by the IMU, that is, the attitude formed by the combination of the three rotation angles, so it can be determined according to the original posture information ⁇ imu when the mobile phone collects the real-time image before the correction.
  • Step 26 Display the virtual object corresponding to the target object in the real-time image according to the changed posture information, the position information when the real-time image is acquired, and the position information of the target object and the position information of the target object in the preset time period.
  • the preset time period may be a time period during which the mobile phone continuously collects the real-time image. For example, it may be assumed that the user usually performs the AR display operation in approximately one gesture for 3 seconds, then within 3 seconds. After ⁇ is determined at the first acquisition, all the acquired real-time images are AR displayed with the corrected attitude information as ⁇ + ⁇ imu , which saves computing resources.
  • an image including a candidate target object is acquired according to position information of the terminal when the real-time image is acquired, and the real-time image is matched with the image containing the candidate target object to determine that at least one target object is projected in the real-time image.
  • the actual position in the middle, and according to the theoretical position of the at least one target object projected in the real-time image, the corrected posture information is determined, and finally the virtual object corresponding to the target object in the real-time image is displayed according to the corrected posture information.
  • the scheme adds attitude correction information based on LBS and IMU, and corrects the errors of LBS and IMU as much as possible, which solves the problem to some extent.
  • Embodiment 3 provides a display device for a virtual object for reducing a position error when superimposing a virtual object on a target object position of a current image.
  • FIG. 7 it is a structural diagram of the device, including: an obtaining unit 31, a matching unit 32, a determining unit 33, and a display unit 34, wherein
  • the obtaining unit 31 may be configured to acquire an image including the candidate target object according to location information of the terminal when the current image is collected;
  • the matching unit 32 may be configured to perform image matching between the current image and the image including the candidate target object, and determine an actual position of the at least one target object projected in the current image;
  • the determining unit 33 is configured to determine the corrected posture information according to the theoretical position and the actual position of the at least one target object projected in the current image, where the theoretical position is the position information of the terminal and the pre-corrected posture information when the current image is acquired. Determining location information of at least one target object;
  • the display unit 34 is configured to display the virtual object corresponding to the target object in the current image according to the location information of the terminal when acquiring the current image, the location information of the target object, and the corrected posture information.
  • the image including the candidate target object is acquired according to the position information of the terminal and the pre-correction posture information when the current image is acquired.
  • the matching unit 32 is specifically configured to:
  • determining unit 33 specifically for:
  • the corrected posture information is determined based on the theoretical position and the actual position of the at least two target objects projected in the current image.
  • the device is applied to a terminal equipped with an image capture device, then
  • the acquiring unit 31 is configured to acquire an image including the candidate target object according to the location information when the terminal collects the real-time image.
  • the determining unit 33 is configured to determine the corrected posture information according to the theoretical position and the actual position of the at least one target object projected in the real-time image;
  • the display unit 34 is specifically configured to display the virtual object corresponding to the target object in the real-time image according to the location information when the terminal collects the real-time image, the location information of the target object, and the corrected posture information.
  • the determining unit 33 is further configured to determine the changed posture information according to the corrected posture information and the pre-correction posture information when the terminal collects the real-time image;
  • the display unit 34 can also be configured to display the virtual object corresponding to the target object according to the changed posture information, the position information when the real-time image is acquired, the pre-correction posture information, and the position information of the target object in a preset time period. In real time images.
  • the system, device, module or unit illustrated in the above embodiments may be implemented by a computer chip or an entity, or by a product having a certain function.
  • a typical implementation device is a computer.
  • the computer can be, for example, a personal computer, a laptop computer, a cellular phone, a camera phone, a smart phone, a personal digital assistant, a media player, a navigation device, an email device, a game console, a tablet computer, a wearable device, or A combination of any of these devices.
  • embodiments of the present invention can be provided as a method, system, or computer program product. Accordingly, the present invention may take the form of an entirely hardware embodiment, an entirely software embodiment, or a combination of software and hardware. Moreover, the invention can take the form of a computer program product embodied on one or more computer-usable storage media (including but not limited to disk storage, CD-ROM, optical storage, etc.) including computer usable program code.
  • computer-usable storage media including but not limited to disk storage, CD-ROM, optical storage, etc.
  • the computer program instructions can also be stored in a computer readable memory that can direct a computer or other programmable data processing device to operate in a particular manner, such that the instructions stored in the computer readable memory produce an article of manufacture comprising the instruction device.
  • the apparatus implements the functions specified in one or more blocks of a flow or a flow and/or block diagram of the flowchart.
  • These computer program instructions can also be loaded onto a computer or other programmable data processing device such that a series of operational steps are performed on a computer or other programmable device to produce computer-implemented processing for execution on a computer or other programmable device.
  • the instructions provide steps for implementing the functions specified in one or more of the flow or in a block or blocks of a flow diagram.
  • a computing device includes one or more processors (CPUs), input/output interfaces, network interfaces, and memory.
  • processors CPUs
  • input/output interfaces network interfaces
  • memory volatile and non-volatile memory
  • the memory may include non-persistent memory, random access memory (RAM), and/or non-volatile memory in a computer readable medium, such as read only memory (ROM) or flash memory.
  • RAM random access memory
  • ROM read only memory
  • Memory is an example of a computer readable medium.
  • Computer readable media includes both permanent and non-persistent, removable and non-removable media.
  • Information storage can be implemented by any method or technology.
  • the information can be computer readable instructions, data structures, modules of programs, or other data.
  • Examples of computer storage media include, but are not limited to, phase change memory (PRAM), static random access memory (SRAM), dynamic random access memory (DRAM), other types of random access memory (RAM), read only memory. (ROM), electrically erasable programmable read only memory (EEPROM), flash memory or other memory technology, compact disk read only memory (CD-ROM), digital versatile disk (DVD) or other optical storage, Magnetic tape cartridges, magnetic tape storage or other magnetic storage devices or any other non-transportable media can be used to store information that can be accessed by a computing device.
  • computer readable media does not include temporary storage of computer readable media, such as modulated data signals and carrier waves.
  • embodiments of the present application can be provided as a method, system, or computer program product.
  • the present application can take the form of an entirely hardware embodiment, an entirely software embodiment or an embodiment in combination of software and hardware.
  • the application can take the form of a computer program product embodied on one or more computer-usable storage media (including but not limited to disk storage, CD-ROM, optical storage, etc.) including computer usable program code.
  • the application can be described in the general context of computer-executable instructions executed by a computer, such as a program module.
  • program modules include routines, programs, objects, components, data structures, and the like that perform particular tasks or implement particular abstract data types.
  • the present application can also be practiced in distributed computing environments where tasks are performed by remote processing devices that are connected through a communication network.
  • program modules can be located in both local and remote computer storage media including storage devices.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Processing Or Creating Images (AREA)
  • Navigation (AREA)

Abstract

本申请公开一种虚拟对象的展示方法及装置，用于在将虚拟对象叠加展示在当前图像的目标对象位置上时，减小位置误差。所述方法包括：根据采集当前图像时终端的位置信息，获取包含候选目标对象的图像；将所述当前图像与所述包含候选目标对象的图像进行图像匹配，确定至少一个目标对象投影在所述当前图像中的实际位置；根据所述至少一个目标对象投影在所述当前图像中的理论位置和实际位置，确定修正后姿态信息；根据采集当前图像时终端的位置信息、目标对象的位置信息、以及所述修正姿态信息，将目标对象对应的虚拟对象展示在所述当前图像中。

Description

一种虚拟对象的展示方法及装置
本申请要求2017年05月25日递交的申请号为201710377499.1、发明名称为“一种虚拟对象的展示方法及装置”的中国专利申请的优先权，其全部内容通过引用结合在本申请中。
技术领域
本申请涉及计算机技术领域，尤其涉及一种虚拟对象的展示方法及装置。
背景技术
增强现实技术(Augmented Reality Technique，简称AR)，是借助计算机(终端)增加用户对现实世界感知的技术，可以将现实世界和虚拟世界“无缝”集成，将终端生成的虚拟物体或关于真实物体的虚拟信息等虚拟对象在终端(通过图像采集设备)采集的图像中的目标对象上进行展示，使现实和虚拟世界相互补充、叠加，实现对真实场景的增强。
如图1所示，为在终端采集的当前图像中展示虚拟对象的理论示意图，在当前图像(实线表示)中包含目标对象，并将虚拟对象(虚线表示)叠加展示在目标对象的位置上。现有技术，通常基于LBS(Location Based Service，基于位置服务)和IMU(Inertial measurement unit，惯性测量单元，是测量物体三轴姿态角(或角速率)以及加速度的装置)的展示方法实现图1的效果。具体地，可以根据采集当前图像时终端的位置信息、姿态信息以及目标对象的位置信息，确定出目标对象投影在当前图像中的理论位置，再将虚拟对象叠加展示在该理论位置上。
然而，现有技术仅基于LBS和IMU对虚拟对象进行展示时，由于终端的位置信息、姿态信息等均会出现误差，从而导致如图2所示的结果，即虚拟对象在当前图像中展示的位置与目标对象的实际位置出现偏离，从而影响虚拟对象的展示效果，所以现有技术在将虚拟对象叠加展示在当前图像的目标对象位置上时，容易出现较大的位置误差。
发明内容
本申请实施例提供一种虚拟对象的展示方法，用于在将虚拟对象叠加展示在当前图像的目标对象位置上时，减小位置误差。
本申请实施例提供一种虚拟对象的展示装置，用于在将虚拟对象叠加展示在当前图 像的目标对象位置上时，减小位置误差。
为解决上述技术问题，本申请实施例是这样实现的：
本申请实施例采用下述技术方案：
一种虚拟对象的展示方法，包括：
根据采集当前图像时终端的位置信息，获取包含候选目标对象的图像；
将所述当前图像与所述包含候选目标对象的图像进行图像匹配，确定至少一个目标对象投影在所述当前图像中的实际位置；
根据所述至少一个目标对象投影在所述当前图像中的理论位置和实际位置，确定修正后姿态信息；
根据采集当前图像时终端的位置信息、目标对象的位置信息、以及所述修正后姿态信息，将目标对象对应的虚拟对象展示在所述当前图像中。
优选地，根据采集当前图像时终端的位置信息和修正前姿态信息、以及所述至少一个目标对象的位置信息确定所述理论位置。
优选地，根据采集当前图像时终端的位置信息，获取包含候选目标对象的图像，具体包括：
根据采集当前图像时终端的位置信息和修正前姿态信息，获取包含候选目标对象的图像。
优选地，确定至少一个目标对象在所述当前图像中的实际位置，具体包括：
确定至少两个目标对象分别投影在所述当前图像中的实际位置；
则根据所述至少一个目标对象投影在所述当前图像中的理论位置和实际位置，确定修正后姿态信息，具体包括：
根据所述至少两个目标对象投影在所述当前图像中的理论位置和实际位置，确定修正后姿态信息。
优选地，所述方法应用于装配有图像采集设备的终端，则所述方法具体包括：
根据终端采集实时图像时的位置信息，获取包含候选目标对象的图像；
将所述实时图像与所述包含候选目标对象的图像进行图像匹配，确定至少一个目标对象投影在所述实时图像中的实际位置；
根据所述至少一个目标对象投影在所述实时图像中的理论位置和实际位置，确定修正后姿态信息；
根据终端采集实时图像时的位置信息、目标对象的位置信息、以及所述修正后姿态 信息，将目标对象对应的虚拟对象展示在所述实时图像中。
优选地，所述方法还包括：
根据所述修正后姿态信息以及终端采集实时图像时的修正前姿态信息，确定出变化的姿态信息；
在预设时间周期内，根据所述变化的姿态信息，以及采集实时图像时的位置信息和修正前姿态信息、目标对象的位置信息，将目标对象对应的虚拟对象展示在所述实时图像中。
一种虚拟对象的展示装置，包括：获取单元、匹配单元、确定单元以及展示单元，其中，
所述获取单元，用于根据采集当前图像时终端的位置信息，获取包含候选目标对象的图像；
所述匹配单元，用于将所述当前图像与所述包含候选目标对象的图像进行图像匹配，确定至少一个目标对象投影在所述当前图像中的实际位置；
所述确定单元，用于根据所述至少一个目标对象投影在所述当前图像中的理论位置和实际位置，确定修正后姿态信息；
所述展示单元，用于根据采集当前图像时终端的位置信息、目标对象的位置信息、以及所述修正后姿态信息，将目标对象对应的虚拟对象展示在所述当前图像中。
优选地，所述确定单元，还用于：
根据采集当前图像时终端的位置信息和修正前姿态信息、以及所述至少一个目标对象的位置信息确定所述理论位置。
优选地，所述获取单元，具体用于：
根据采集当前图像时终端的位置信息和修正前姿态信息，获取包含候选目标对象的图像。
优选地，所述匹配单元，具体用于：
确定至少两个目标对象分别投影在所述当前图像中的实际位置；
则所述确定单元，具体用于：
根据所述至少两个目标对象投影在所述当前图像中的理论位置和实际位置，确定修正后姿态信息。
优选地，所述装置应用于装配有图像采集设备的终端，则
所述获取单元，具体用于根据终端采集实时图像时的位置信息，获取包含候选目标 对象的图像；
所述匹配单元，具体用于将所述实时图像与所述包含候选目标对象的图像进行图像匹配，确定至少一个目标对象投影在所述实时图像中的实际位置；
所述确定单元，具体用于根据所述至少一个目标对象投影在所述实时图像中的理论位置和实际位置，确定修正后姿态信息；
所述展示单元，具体用于根据终端采集实时图像时的位置信息、目标对象的位置信息、以及所述修正后姿态信息，将目标对象对应的虚拟对象展示在所述实时图像中。
优选地，
所述确定单元，还用于根据所述修正后姿态信息以及终端采集实时图像时的修正前姿态信息，确定出变化的姿态信息；
所述展示单元，还用于在预设时间周期内，根据所述变化的姿态信息，以及采集实时图像时的位置信息和修正前姿态信息、目标对象的位置信息，将目标对象对应的虚拟对象展示在所述实时图像中。
一种虚拟对象的展示方法，包括：
根据采集当前图像时终端的位置信息，获取包含候选目标对象的图像；
将所述当前图像与所述包含候选目标对象的图像进行图像匹配，确定至少一个目标对象投影在所述当前图像中的实际位置；
根据所述实际位置，将所述至少一个目标对象对应的虚拟对象展示在所述当前图像中
一种虚拟对象的展示方法，包括：
根据拍照图像时终端的位置信息，获取包含候选目标对象的图像；
将所述拍照的图像与所述包含候选目标对象的图像进行图像匹配，确定至少一个目标对象投影在所述拍照的图像中的实际位置；
根据所述实际位置，将所述至少一个目标对象对应的虚拟对象展示在所述拍照的图像中。
一种虚拟对象的展示方法，包括：
根据采集当前图像时终端的位置信息，获取包含候选目标对象的图像；
将所述当前图像与所述包含候选目标对象的图像进行图像匹配，确定至少一个目标对象投影在所述当前图像中的第一位置；
根据所述至少一个目标对象投影在所述当前图像中的第一位置和第二位置，确定修 正后姿态信息；
根据采集当前图像时终端的位置信息、目标对象的位置信息、以及所述修正后姿态信息，将目标对象对应的虚拟对象展示在所述当前图像中。
由以上本申请实施例提供的技术方案可见，本申请实施例根据采集当前图像时终端的位置信息，获取包含候选目标对象的图像，将当前图像与包含候选目标对象的图像进行图像匹配，确定出至少一个目标对象投影在当前图像中的实际位置，并根据该至少一个目标对象投影在当前图像中的理论位置，确定出修正后姿态信息，最终根据修正后姿态信息将当前图像中的目标对象对应的虚拟对象进行展示。相比于现有技术仅根据LBS和IMU进行展示而言，本方案在LBS和IMU的基础上，加入了姿态修正信息，对LBS和IMU的误差尽可能进行修正，在一定程度上解决了现有技术在将虚拟对象叠加展示在当前图像的目标对象位置上时，容易出现较大的位置误差的问题，达到减小位置误差的效果。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为在终端采集的当前图像中展示虚拟对象的理论示意图；
图2为现有技术在终端采集的当前图像中展示虚拟对象时出现误差的示意图；
图3为本申请实施例1提供的一种虚拟对象的展示方法的流程示意图；
图4为本申请实施例1提供的图像匹配的示意图；
图5为本申请实施例2提供的一种虚拟对象的展示方法的流程示意图；
图6为本申请实施例2提供的一种虚拟对象的展示方法的示意图；
图7为本申请实施例3提供的虚拟对象的展示装置的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚，下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在 没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
以下结合附图，详细说明本申请各实施例提供的技术方案。
实施例1
如前所述，现有技术如图2所示，在基于LBS和IMU对虚拟对象(图中的注释)进行展示时，终端的位置信息、姿态信息等均会出现误差。
LBS可以用于确定位置信息，即终端的地理位置信息，室外可以由GPS(Global Positioning System，全球定位系统)、Wi-Fi(Wireless-Fidelity，无线保真)、基站进行单独或混合定位，室内可以由蓝牙或者Wi-Fi进行定位，在实际应用中，终端在采集图像时，有可能出现较大的位置误差，如0.5米甚至更多。
IMU可以用于通过在三维空间中相对于各轴的偏角，确定终端的姿态信息，比如pitch可以是围绕X轴旋转，也叫做俯仰角；yaw可以是围绕Y轴旋转，也叫偏航角；roll可以是围绕Z轴旋转，也叫翻滚角。陀螺仪及加速度计是IMU的主要元件，其精度直接影响到惯性系统的精度。在实际工作中，由于不可避免的各种干扰因素，而导致陀螺仪及加速度计产生误差。
理论上，如果LBS和IMU均无误差，那么就可以根据终端的位置信息、姿态信息以及目标对象的位置信息，准确地确定出目标对象投影在终端采集的当前图像中的位置，比如如图1所示，目标对象为“XX大学”和“XX体育场”的真实图像，位置信息可以包括经纬度、海拔；在终端采集图像时，根据终端的包含经纬度、海拔的位置信息以及姿态信息，就可以在终端采集的图像中，确定出目标对象投影的理论位置，从而将为该目标对象预先设置的虚拟对象叠加展示在该理论位置上。但正是由于LBS和IMU一定会出现误差，并且有时还会由于地理位置上的信号遮挡、磁场影响等出现较大误差，所以就会导致图2所示的结果。所以现有技术在将虚拟对象叠加展示在当前图像的目标对象位置上时，容易出现较大的位置误差。基于上述缺陷，本申请实施例提供了一种虚拟对象的展示方法，用于在将虚拟对象叠加展示在当前图像的目标对象位置上时，减小位置误差。该方法的流程如图3所示，包括下述步骤：
步骤11：根据采集当前图像时终端的位置信息，获取包含候选目标对象的图像。
通过前文的分析可知，之所以在进行AR展示时，会出现虚拟对象的展示位置与投影在图像中的目标对象的展示位置相差较远的问题，主要是由于误差所致，所以本方法的核心首先就是要确定出误差的量，从而对AR展示进行修正。本步骤中，可以先根据采集当前图像时终端的位置信息，获取包含候选目标对象的图像。需要说明的是，这里 提到的投影，可以是指采集图像过程中的操作，该操作可以包括拍照和未拍照，未拍照即在开启图像采集设备时，实时采集的图像，拍照即将实时采集的图像保存在终端存储器中。
每个虚拟对象可以是根据每个目标对象预先生成的，例如图1或图2中的“XX大学”和“XX体育场”的注释。该注释就可以是为实体“XX大学”和“XX体育场”预先生成的虚拟对象，目标对象可以分布在不同的地理位置，比如“XX大学”、“XX医院”、“XX建筑”等，为了确定出目标对象在当前图像中的实际位置，可以先确定出当前图像中有没有目标对象，具体地，可以获取包含目标对象的图像，从而进行图像匹配。
在实际应用中，可以预存大量的包含各种目标对象的图像，如目前流行的POI(兴趣点)即为一种目标对象，POI包括了如学校、医院、体育等各种实体对象的信息(如包含经纬度、海拔的位置信息、多张图像等)，可以将包含POI的图像进行备份，用于在地图中或AR中进行展示。由于目标对象过多，包含目标对象的图像也数量巨大，所以就可以根据采集当前图像时终端的位置信息进行获取，比如按照预定范围(如以采集当前图像时终端的位置信息为中心，半径5000米内)获取等，由于获取到的包含目标对象的图像，不一定所有的目标对象均出现在采集当前图像中，所以可以称为包含候选目标对象的图像。
由于包含候选目标对象的图像中，不一定所有的候选目标对象均出现在采集当前图像中，所以减少获取包含候选目标对象的图像的数量，可以减少计算资源的浪费。在一种实施方式中，为了减少计算资源的浪费，本步骤可以包括：根据采集当前图像时终端的位置信息和修正前姿态信息，获取包含候选目标对象的图像。具体地，由于在终端采集当前图像时，可以根据终端的位置信息和修正前的姿态信息，确定出可能投影在当前图像的目标对象，所以也就可以根据可能投影在当前图像中的目标对象，获取包含(在当前图像中可能出现的)候选目标对象的图像。比如，根据采集当前图像时终端的位置信息和修正前的姿态信息，确定出3个可能投影在当前图像中的目标对象即候选目标图像，此时就可以获取包含这3个候选目标对象的图像。类似地，为了降低遗漏目标对象的概率，候选目标对象的选择可以包含且多于确定出的可能的目标对象数量。
步骤12：将该当前图像与包含候选目标对象的图像进行图像匹配，确定至少一个目标对象投影在当前图像中的实际位置。
前文已经介绍，需要获取包含候选目标对象的图像，从而进行图像匹配，则本步骤 可以将该当前图像与包含候选目标对象的图像进行图像匹配。
具体地，可以通过下述举例进行图像匹配：
首先，存在n个图像模板，该图像模板即为获取的包含候选目标对象的图像，一个输入图片，该输入图片即为当前图像，将当前图像中的区域与图像模板中的区域的匹配过程为：
将图像模板特征化，比如可以通过ORB(ORiented Brief)进行特征化，对图像模板特征化后，可以确定出若干个特征位置以及特征位置的特征向量；
将当前图像特征化，可以使用随机采样一致性算法进行匹配，将匹配度高于预设阈值的匹配作为候选匹配结果；
根据角度以及特征位置数据、缩放比例等，进行过滤并最终确定匹配结果，即是否存在，若存在则确定出在当前图像中的位置。
如图4所示，为进行图像匹配的示意图，左图可以是当前图像，右图可以是预存的包含候选目标对象(“XX大学”)的图像，根据图像匹配结果，可以确定出目标对象投影在当前图像中的实际位置。
在实际应用中，根据当前图像的位置信息获取包含候选目标对象的图像时，可能获取到包含多个候选目标对象的图像。比如，当前图像可以是图1或图2的图像，根据采集图1或图2时的位置信息就有可能获取到预存的、单独包含“XX大学”的图像以及单独包含“XX体育场”的图像，并作为图像模板，此后，分别与每个图像模板进行匹配后，就可以确定出“XX大学”和“XX体育场”在当前图像中的实际位置。所以，在一种实施方式中，本步骤可以包括：确定至少两个目标对象分别投影在当前图像中的实际位置。
由于在应用程序的机器语言中，并无理论实际之别，所以在实际应用中，也可以将该至少一个目标对象投影在当前图像中的实际位置定义为第一位置，即本步骤可以包括：将当前图像与包含候选目标对象的图像进行图像匹配，确定至少一个目标对象投影在该当前图像中的第一位置。
步骤13：根据该至少一个目标对象投影在当前图像中的理论位置和实际位置，确定修正后姿态信息。
在步骤12中确定出至少一个目标对象投影在当前图像中的实际位置后，本步骤就可以根据该至少一个目标对象投影在当前图像中的理论位置，确定出修正后姿态信息，即根据理论和实际，确定如何对姿势进行修正。其中，该至少一个目标对象投影在当前图 像中的理论位置就可以根据采集当前图像时终端的位置信息和修正前姿态信息、该至少一个目标对象的位置信息进行确定。具体地，可以根据投影矩阵方程进行确定，该方程如下：
Y＝P×T(θ t)×(X poi-X p)
其中，Y为目标对象的位置，X poi为目标对象的位置信息，X p为采集当前图像时的位置信息，T为旋转矩阵，θ为姿态信息中的pitch、yaw和roll，T为pitch、yaw和roll的函数，记为T(θ)，θ t为修正后姿态信息。P为投影矩阵，可以通过图像采集设备的标定获得，为图像采集设备的基本参数。具体可以如下：
Figure PCTCN2018086783-appb-000001
上述投影矩阵方程中，X poi、X p和P均为已知，当θ t为θ imu时，θ imu为采集当前图像时终端的修正前姿态信息，此时Y即为目标对象投影在当前图像中的理论位置。在步骤12进行图像匹配确定出目标对象投影在所述当前图像中的实际位置时，实际位置即为Y，此时就可以确定出修正后姿态信息θ t。
方程中除了θ t以外，均为已知值，可以描述为θ t＝f(Y)，也就是θ t是Y的函数；这里由于f(Y)为非线性方程，无法直接求解，因此使用θ imu作为初值，使用偏导数求解雅克比(Jacobian)矩阵，进一步迭代求解，可以解得θ t。
确定出的θ t即为修正后姿态信息，在实际应用中，不限于上述一种方式确定修正姿态信息，比如可以根据上述方程的改进方程：
Y＝P×T(θ t)×(X poi-X p)×α
其中，α可以是在反复测试过程中确定出的针对不同终端的修正系数。
此外，可以仅由修正后姿态信息概括位置和姿态的误差量，如本步骤所述。也可以分别单独确定位置和姿态的误差量，即修正后位置信息以及修正后姿态信息。
在前一步骤中已经介绍，在实际应用中，可以确定出至少两个目标对象分别投影在当前图像中的实际位置，所以本步骤可以包括：根据至少两个目标对象投影在当前图像中的理论位置和实际位置，确定修正后姿态信息。
具体地，可以先分别根据至少两个目标对象，确定出至少两个修正后姿态信息，再可以对两个修正后姿态信息取平均值，或(根据在图像中的位置分别与图像中心的距离) 加权平均值等，确定出最终的修正后姿态信息。
在实际的应用程序中，也可以将该至少一个目标对象投影在当前图像中的理论位置定义为第二位置，而在前文中已经介绍，可以将该至少一个目标对象投影在当前图像中的实际位置定义为第一位置，所以，本步骤还可以包括：根据至少一个目标对象投影在当前图像中的第一位置和第二位置，确定修正后姿态信息。
步骤14：根据采集当前图像时终端的位置信息、目标对象的位置信息、以及修正姿态信息，将目标对象对应的虚拟对象展示在当前图像中。
在上一步骤中确定出修正后姿态信息，即采集当前图像时，由IMU应该确定出的正确的姿态信息后，就可以根据采集当前图像时终端的位置信息、目标对象的位置信息、以及修正后姿态信息，确定出目标对象在采集的当前图像中的位置，并将目标对象对应的虚拟对象展示在当前图像中。在前文介绍了通过至少一个目标对象或至少两个目标对象，确定修正后姿态，而本步骤中的目标对象，可以与前两步骤中的目标对象相同，但更多的情况是多于前两步骤中的目标对象的个数，前述两步骤中的目标对象的作用仅用于确定修正后姿势，而本步骤中的目标对象用于实现AR效果。比如，步骤12中确定出“XX大学”的实际位置，并且在步骤13中根据“XX大学”的理论位置确定修正后姿态信息，而本步骤就可以根据该修正后姿态信息、终端位置信息、目标对象的位置信息，确定出当前图像中包含“XX大学”、“XX医院”和“XX建筑”等目标对象，并将分别对应的虚拟对象在当前图像中进行展示，目的的可以达到如图1的效果，即虚拟对象的位置可以叠加展示在对应的目标对象上。
实际上，步骤13和步骤14是考虑到在实时采集图像的过程中会连续不断的采集，而实际上考虑到在实时采集过程中，有可能出现终端的位置信息和姿态信息仅仅细微变化的情况，所以，在一种实施方式中，在步骤12之后，本实施例还可以包括：根据该实际位置，将该至少一个目标对象对应的虚拟对象展示在当前图像中，即当确定出了至少一个目标对象投影在当前图像中的实际位置后，就可以直接以该实际位置为依据，展示虚拟对象。
采用实施例1提供的方法，根据采集当前图像时终端的位置信息，获取包含候选目标对象的图像，将当前图像与包含候选目标对象的图像进行图像匹配，确定出至少一个目标对象投影在当前图像中的实际位置，并根据该至少一个目标对象投影在当前图像中的理论位置，确定出修正后姿态信息，最终根据修正后姿态信息将当前图像中的目标对象对应的虚拟对象进行展示。相比于现有技术仅根据LBS和IMU进行展示而言，本方 案在LBS和IMU的基础上，加入了姿态修正信息，对LBS和IMU的误差尽可能进行修正，在一定程度上解决了现有技术在将虚拟对象叠加展示在当前图像的目标对象位置上时，容易出现较大的位置误差的问题，达到减小位置误差的效果。
实施例2
AR具有三个特点：现实世界和虚拟世界集成；实时交互性；在三维空间中增添虚拟对象。而在实际应用中，实时交互性是AR非常重要的特点，随着终端的发展，很容易地将处理功能、图像采集功能集与一身，比如智能手机、平板电脑、数码相机等装配有图像采集设备的终端，即AR较为普遍地应用在上述终端中，在实时获取的当前图像中实现增强现实效果。但是现有技术仅基于LBS和IMU进行展示，如前述的方式，容易出现较大的位置误差。所以，基于与实施例1相同的发明思路，作为实施例1的延伸，本申请实施例提供了一种虚拟对象的展示方法，以实现在将虚拟对象叠加展示在实时图像上时，减小虚拟对象与目标对象的位置误差。该方法可以应用于装配有图像采集设备的终端，流程如图5所示，包括下述步骤：
步骤21：根据终端采集实时图像时的位置信息，获取包含候选目标对象的图像。
比如终端可以是装配有图像采集设备的智能手机，图像采集设备就可以是装配在智能手机背面的摄像头，而正面装配显示屏幕，当开启摄像头时，就可以采集实时图像，此时就可以根据采集实时图像时的位置信息，获取包含候选目标对象的图像。比如位置信息包含经纬度N、E以及海拔H，可以以N、E为圆心，搜索半径1000m内的候选目标对象，得到候选目标对象“1”、候选目标对象“2”……候选目标对象“n”等，并获取包含这些候选目标对象的图像。在实际应用中，采集实时图像时也可以进行拍照，所以本步骤可以包括：根据拍照图像时终端的位置信息，获取包含候选目标对象的图像。
步骤22：将实时图像与包含候选目标对象的图像进行图像匹配，确定至少一个目标对象投影在实时图像中的实际位置。
本步骤中，就可以将实时图像与每个包含上述候选目标对象的图像进行图像匹配，从匹配结果中，确定至少一个，比如目标对象“1”投影在实时图像中的实际位置。比如，手机屏幕的分辨率为1920×1080，那么目标对象“1”投影在实时图像中的实际位置就可以是一个坐标，比如(100，500)。
在实际应用中，也可以确定多个目标对象(如目标对象“1”、目标对象“2”、目标对象“3”)分别投影在实时图像中的实际位置。
上一步骤中提到，采集实时图像可以是拍照，那么本步骤可以包括：将拍照的图像与包含候选目标对象的图像进行图像匹配，确定至少一个目标对象投影在拍照的图像中的实际位置。
步骤23：根据该至少一个目标对象投影在实时图像中的理论位置和实际位置，确定修正后姿态信息。
与实施例1类似地，该至少一个目标对象投影在实时图像中的理论位置，可以由采集实时图像时终端的位置信息和修正前姿态信息、该至少一个目标对象的位置信息确定。比如，采集实时图像时的位置信息包含经纬度N、E以及海拔H，姿态信息为实时的pitch、yaw和roll的函数T(θ imu)，目标对象“1”的位置信息包含经纬度N1、E1以及海拔H1，可以根据下述投影矩阵方程确定修正姿态信息：
Y＝P×T(θ t)×(X poi-X p)
Y即为(100，500)，P为摄像头的投影矩阵参数，经纬度N、E以及海拔H可以表示X p，经纬度N1、E1以及海拔H1可以表示X poi，可以使用θ imu作为初值，使用偏导数求解雅克比(Jacobian)矩阵，进一步迭代求解，可以解得θ t。
如果在步骤22中确定出多个目标对象分别投影在实时图像中的实际位置，本步骤就可以分别根据多个目标对象确定出多个修正姿态信息，再根据平均值或加权平均值，确定最终的修正姿态信息θ t。
步骤24：根据终端采集实时图像时的位置信息、目标对象的位置信息、以及修正后姿态信息，将目标对象对应的虚拟对象展示在实时图像中。
确定出修正姿态信息θ t后，就可以根据投影矩阵方程：
Y＝P×T(θ t)×(X poi-X p)
确定出所有具有虚拟对象的、投影在实时图像中的目标对象，在实时图像中的位置，也就可以将目标对象对应的虚拟对象展示在实时图像中。具体地，可以根据手机的经纬度N、E以及海拔H、目标对象“1”的经纬度N1、E1以及海拔H1……目标对象“n”的经纬度Nn、En以及海拔Hn确定出可能投影在实时图像中的具有虚拟对象的候选目标对象，然后分别确定出每个候选目标对象投影在手机屏幕中的位置，过滤掉超出手机屏幕显示范围的候选目标对象，确定出最终可以投影在实时图像中的目标对象以及投影的位置后，将这些目标对象对应的虚拟对象，根据目标对象的位置进行AR展示。
如图6所示，为虚拟对象的展示方法的示意图，POI内容可以包含目标对象的位置 信息和图像，手机可以先根据LBS确定采集实时图像时的位置信息，根据位置信息从POI内容中获取包含候选POI的图像；将手机采集的实时图像与包含候选POI的图像进行图像匹配，得到匹配结果，即至少一个POI投影在实时图像中的实际位置；根据手机采集实时图像时的位置信息和修正前姿态信息确定出该至少一个POI投影在实时图像中的理论位置，并根据理论位置和实际位置，确定出修正后姿态信息；根据修正后姿态信息，采集实时图像时的位置信息，确定出最终可以投影在实时图像中的目标对象(即需要在实时图像中展示的POI对应的虚拟对象)以及投影的位置后，将POI对应的虚拟对象展示在实时图像中，完成AR展示。
在实际应用中，实时获取图像通常是持续不断的，比如，1秒钟获取一次实时图像，或2秒钟获取一次，如果每获取一次实时图像均进行一次修正姿态信息确定，则计算资源消耗较大，所以在一种实施方式中，还可以包括后续步骤：
步骤25：根据修正后姿态信息以及终端采集实时图像时的修正前姿态信息，确定出变化的姿态信息。
前文确定出的θ t可以理解由IMU应该确定出的正确的姿态信息，即由三种旋转角度组合成的姿态，所以可以根据修正前，手机采集实时图像时原始的姿态信息θ imu，确定出变化的姿态信息：
Δθ＝θ t-θ imu
步骤26：在预设时间周期内，根据变化的姿态信息，以及采集实时图像时的位置信息和修正前姿态信息、目标对象的位置信息，将目标对象对应的虚拟对象展示在实时图像中。
本步骤中，预设时间周期内，就可以是手机持续采集实时图像的时间段，比如，可以假设用户通常以近似一个姿态进行AR展示操作的时间为3秒钟，那么在这3秒钟内，在第一次采集时确定出Δθ后，此后所有采集的实时图像，均以Δθ+θ imu作为修正后的姿态信息进行AR展示，节省了计算资源。
而在实际应用中，可以根据拍照后的图像，在其中展示虚拟对象。且在步骤22中已经介绍，可以确定至少一个目标对象投影在拍照的图像中的实际位置，如果没有必要考虑持续采集的情况，则可以直接将该至少一个目标对象对应的虚拟对象叠加在该拍照图像中，也就省去了确定修正后姿态信息，以及后续步骤。
采用实施例2提供的方法，根据采集实时图像时终端的位置信息，获取包含候选目 标对象的图像，将实时图像与包含候选目标对象的图像进行图像匹配，确定出至少一个目标对象投影在实时图像中的实际位置，并根据该至少一个目标对象投影在实时图像中的理论位置，确定出修正后姿态信息，最终根据修正后姿态信息将实时图像中的目标对象对应的虚拟对象进行展示。相比于现有技术仅根据LBS和IMU进行展示而言，本方案在LBS和IMU的基础上，加入了姿态修正信息，对LBS和IMU的误差尽可能进行修正，在一定程度上解决了现有技术在将虚拟对象叠加展示在实时图像的目标对象位置上时，容易出现较大的位置误差的问题，达到减小位置误差的效果。
实施例3
基于相同的发明构思，实施例3提供了一种虚拟对象的展示装置，用于在将虚拟对象叠加展示在当前图像的目标对象位置上时，减小位置误差。如图7所示，为该装置的结构图，包括：获取单元31、匹配单元32、确定单元33以及展示单元34，其中，
获取单元31，可以用于根据采集当前图像时终端的位置信息，获取包含候选目标对象的图像；
匹配单元32，可以用于将当前图像与包含候选目标对象的图像进行图像匹配，确定至少一个目标对象投影在当前图像中的实际位置；
确定单元33，可以用于根据至少一个目标对象投影在当前图像中的理论位置和实际位置，确定修正后姿态信息，所述理论位置由采集当前图像时终端的位置信息和修正前姿态信息、所述至少一个目标对象的位置信息确定；
展示单元34，可以用于根据采集当前图像时终端的位置信息、目标对象的位置信息、以及所述修正后姿态信息，将目标对象对应的虚拟对象展示在所述当前图像中。
在一种实施方式中，获取单元31，具体用于：
根据采集当前图像时终端的位置信息和修正前姿态信息，获取包含候选目标对象的图像。
在一种实施方式中，匹配单元32，具体用于：
确定至少两个目标对象分别投影在当前图像中的实际位置；
则确定单元33，具体用于：
根据至少两个目标对象投影在当前图像中的理论位置和实际位置，确定修正后姿态信息。
在一种实施方式中，装置应用于装配有图像采集设备的终端，则
获取单元31，具体用于根据终端采集实时图像时的位置信息，获取包含候选目标对象的图像；
匹配单元32，具体用于将实时图像与包含候选目标对象的图像进行图像匹配，确定至少一个目标对象投影在实时图像中的实际位置；
确定单元33，具体用于根据至少一个目标对象投影在实时图像中的理论位置和实际位置，确定修正后姿态信息；
展示单元34，具体用于根据终端采集实时图像时的位置信息、目标对象的位置信息、以及修正后姿态信息，将目标对象对应的虚拟对象展示在实时图像中。
在一种实施方式中，
确定单元33，还可以用于根据修正后姿态信息以及终端采集实时图像时的修正前姿态信息，确定出变化的姿态信息；
展示单元34，还可以用于在预设时间周期内，根据变化的姿态信息，以及采集实时图像时的位置信息和修正前姿态信息、目标对象的位置信息，将目标对象对应的虚拟对象展示在实时图像中。
采用实施例3提供的装置，根据采集当前图像时终端的位置信息，获取包含候选目标对象的图像，将当前图像与包含候选目标对象的图像进行图像匹配，确定出至少一个目标对象投影在当前图像中的实际位置，并根据该至少一个目标对象投影在当前图像中的理论位置，确定出修正后姿态信息，最终根据修正后姿态信息将当前图像中的目标对象对应的虚拟对象进行展示。相比于现有技术仅根据LBS和IMU进行展示而言，本方案在LBS和IMU的基础上，加入了姿态修正信息，对LBS和IMU的误差尽可能进行修正，在一定程度上解决了现有技术在将虚拟对象叠加展示在当前图像的目标对象位置上时，容易出现较大的位置误差的问题，达到减小位置误差的效果。
上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读 光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白，本申请的实施例可提供为方法、系统或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上所述仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。

Claims (15)

  1. 一种虚拟对象的展示方法，其特征在于，包括：
    根据采集当前图像时终端的位置信息，获取包含候选目标对象的图像；
    将所述当前图像与所述包含候选目标对象的图像进行图像匹配，确定至少一个目标对象投影在所述当前图像中的实际位置；
    根据所述至少一个目标对象投影在所述当前图像中的理论位置和实际位置，确定修正后姿态信息；
    根据采集当前图像时终端的位置信息、目标对象的位置信息、以及所述修正后姿态信息，将目标对象对应的虚拟对象展示在所述当前图像中。
  2. 如权利要求1所述的方法，其特征在于，根据采集当前图像时终端的位置信息和修正前姿态信息、以及所述至少一个目标对象的位置信息确定所述理论位置。
  3. 如权利要求1所述的方法，其特征在于，根据采集当前图像时终端的位置信息，获取包含候选目标对象的图像，具体包括：
    根据采集当前图像时终端的位置信息和修正前姿态信息，获取包含候选目标对象的图像。
  4. 如权利要求1所述的方法，其特征在于，确定至少一个目标对象在所述当前图像中的实际位置，具体包括：
    确定至少两个目标对象分别投影在所述当前图像中的实际位置；
    则根据所述至少一个目标对象投影在所述当前图像中的理论位置和实际位置，确定修正后姿态信息，具体包括：
    根据所述至少两个目标对象投影在所述当前图像中的理论位置和实际位置，确定修正后姿态信息。
  5. 如权利要求1所述的方法，其特征在于，所述方法应用于装配有图像采集设备的终端，则所述方法具体包括：
    根据终端采集实时图像时的位置信息，获取包含候选目标对象的图像；
    将所述实时图像与所述包含候选目标对象的图像进行图像匹配，确定至少一个目标对象投影在所述实时图像中的实际位置；
    根据所述至少一个目标对象投影在所述实时图像中的理论位置和实际位置，确定修正后姿态信息；
    根据终端采集实时图像时的位置信息、目标对象的位置信息、以及所述修正后姿态 信息，将目标对象对应的虚拟对象展示在所述实时图像中。
  6. 如权利要求5所述的方法，其特征在于，所述方法还包括：
    根据所述修正后姿态信息以及终端采集实时图像时的修正前姿态信息，确定出变化的姿态信息；
    在预设时间周期内，根据所述变化的姿态信息，以及采集实时图像时的位置信息和修正前姿态信息、目标对象的位置信息，将目标对象对应的虚拟对象展示在所述实时图像中。
  7. 一种虚拟对象的展示装置，其特征在于，包括：获取单元、匹配单元、确定单元以及展示单元，其中，
    所述获取单元，用于根据采集当前图像时终端的位置信息，获取包含候选目标对象的图像；
    所述匹配单元，用于将所述当前图像与所述包含候选目标对象的图像进行图像匹配，确定至少一个目标对象投影在所述当前图像中的实际位置；
    所述确定单元，用于根据所述至少一个目标对象投影在所述当前图像中的理论位置和实际位置，确定修正后姿态信息；
    所述展示单元，用于根据采集当前图像时终端的位置信息、目标对象的位置信息、以及所述修正后姿态信息，将目标对象对应的虚拟对象展示在所述当前图像中。
  8. 如权利要求7所述的装置，其特征在于，所述确定单元，还用于：
    根据采集当前图像时终端的位置信息和修正前姿态信息、以及所述至少一个目标对象的位置信息确定所述理论位置。
  9. 如权利要求7所述的装置，其特征在于，所述获取单元，具体用于：
    根据采集当前图像时终端的位置信息和修正前姿态信息，获取包含候选目标对象的图像。
  10. 如权利要求7所述的装置，其特征在于，所述匹配单元，具体用于：
    确定至少两个目标对象分别投影在所述当前图像中的实际位置；
    则所述确定单元，具体用于：
    根据所述至少两个目标对象投影在所述当前图像中的理论位置和实际位置，确定修正后姿态信息。
  11. 如权利要求7所述的装置，其特征在于，所述装置应用于装配有图像采集设备的终端，则
    所述获取单元，具体用于根据终端采集实时图像时的位置信息，获取包含候选目标对象的图像；
    所述匹配单元，具体用于将所述实时图像与所述包含候选目标对象的图像进行图像匹配，确定至少一个目标对象投影在所述实时图像中的实际位置；
    所述确定单元，具体用于根据所述至少一个目标对象投影在所述实时图像中的理论位置和实际位置，确定修正后姿态信息；
    所述展示单元，具体用于根据终端采集实时图像时的位置信息、目标对象的位置信息、以及所述修正后姿态信息，将目标对象对应的虚拟对象展示在所述实时图像中。
  12. 如权利要求11所述的装置，其特征在于，
    所述确定单元，还用于根据所述修正后姿态信息以及终端采集实时图像时的修正前姿态信息，确定出变化的姿态信息；
    所述展示单元，还用于在预设时间周期内，根据所述变化的姿态信息，以及采集实时图像时的位置信息和修正前姿态信息、目标对象的位置信息，将目标对象对应的虚拟对象展示在所述实时图像中。
  13. 一种虚拟对象的展示方法，其特征在于，包括：
    根据采集当前图像时终端的位置信息，获取包含候选目标对象的图像；
    将所述当前图像与所述包含候选目标对象的图像进行图像匹配，确定至少一个目标对象投影在所述当前图像中的实际位置；
    根据所述实际位置，将所述至少一个目标对象对应的虚拟对象展示在所述当前图像中。
  14. 一种虚拟对象的展示方法，其特征在于，包括：
    根据拍照图像时终端的位置信息，获取包含候选目标对象的图像；
    将所述拍照的图像与所述包含候选目标对象的图像进行图像匹配，确定至少一个目标对象投影在所述拍照的图像中的实际位置；
    根据所述实际位置，将所述至少一个目标对象对应的虚拟对象展示在所述拍照的图像中。
  15. 一种虚拟对象的展示方法，其特征在于，包括：
    根据采集当前图像时终端的位置信息，获取包含候选目标对象的图像；
    将所述当前图像与所述包含候选目标对象的图像进行图像匹配，确定至少一个目标对象投影在所述当前图像中的第一位置；
    根据所述至少一个目标对象投影在所述当前图像中的第一位置和第二位置，确定修正后姿态信息；
    根据采集当前图像时终端的位置信息、目标对象的位置信息、以及所述修正后姿态信息，将目标对象对应的虚拟对象展示在所述当前图像中。
PCT/CN2018/086783 2017-05-25 2018-05-15 一种虚拟对象的展示方法及装置 Ceased WO2018214778A1 (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201710377499.1 2017-05-25
CN201710377499.1A CN108958462A (zh) 2017-05-25 2017-05-25 一种虚拟对象的展示方法及装置

Publications (1)

Publication Number Publication Date
WO2018214778A1 true WO2018214778A1 (zh) 2018-11-29

Family

ID=64396203

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/CN2018/086783 Ceased WO2018214778A1 (zh) 2017-05-25 2018-05-15 一种虚拟对象的展示方法及装置

Country Status (2)

Country Link
CN (1) CN108958462A (zh)
WO (1) WO2018214778A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113900516A (zh) * 2021-09-27 2022-01-07 阿里巴巴达摩院(杭州)科技有限公司 数据处理方法、装置、电子设备和存储介质

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109801341B (zh) * 2019-01-30 2020-11-03 北京经纬恒润科技有限公司 一种标定靶的位置校验方法及装置
CN110688002B (zh) * 2019-09-06 2023-12-19 广东虚拟现实科技有限公司 虚拟内容的调整方法、装置、终端设备及存储介质
WO2021072702A1 (zh) * 2019-10-17 2021-04-22 深圳盈天下视觉科技有限公司 增强现实方法、装置、混合现实眼镜及存储介质
CN111323007B (zh) * 2020-02-12 2022-04-15 北京市商汤科技开发有限公司 定位方法及装置、电子设备和存储介质
CN111311758A (zh) * 2020-02-24 2020-06-19 Oppo广东移动通信有限公司 增强现实处理方法及装置、存储介质和电子设备
CN111651051B (zh) * 2020-06-10 2023-08-22 浙江商汤科技开发有限公司 一种虚拟沙盘展示方法及装置

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104376118A (zh) * 2014-12-03 2015-02-25 北京理工大学 基于全景图的精确标注兴趣点的户外移动增强现实方法
CN105103089A (zh) * 2013-06-28 2015-11-25 谷歌公司 用于基于视频输入生成准确传感器校正的系统和方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105103089A (zh) * 2013-06-28 2015-11-25 谷歌公司 用于基于视频输入生成准确传感器校正的系统和方法
CN104376118A (zh) * 2014-12-03 2015-02-25 北京理工大学 基于全景图的精确标注兴趣点的户外移动增强现实方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113900516A (zh) * 2021-09-27 2022-01-07 阿里巴巴达摩院(杭州)科技有限公司 数据处理方法、装置、电子设备和存储介质

Also Published As

Publication number Publication date
CN108958462A (zh) 2018-12-07

Similar Documents

Publication Publication Date Title
WO2018214778A1 (zh) 一种虚拟对象的展示方法及装置
US11557083B2 (en) Photography-based 3D modeling system and method, and automatic 3D modeling apparatus and method
US8933986B2 (en) North centered orientation tracking in uninformed environments
US20200314340A1 (en) Anti-shake method and apparatus for panoramic video, and portable terminal
US20180286098A1 (en) Annotation Transfer for Panoramic Image
CN110660098B (zh) 基于单目视觉的定位方法和装置
CN112288853A (zh) 三维重建方法、三维重建装置、存储介质
WO2014011346A1 (en) Sensor-aided wide-area localization on mobile devices
CN108933902B (zh) 全景图像采集装置、建图方法及移动机器人
CN115439528B (zh) 一种获取目标对象的图像位置信息的方法与设备
CN105791663B (zh) 距离估算系统及距离估算方法
US11847750B2 (en) Smooth object correction for augmented reality devices
WO2019062694A1 (zh) 可视化对象的生成方法、装置和设备
US8509522B2 (en) Camera translation using rotation from device
WO2022193493A1 (zh) 基于终端姿态的图片显示及获取方法及装置、存储介质、终端
CN109040525A (zh) 图像处理方法、装置、计算机可读介质及电子设备
CN116170689B (zh) 视频生成方法、装置、计算机设备和存储介质
CN111784622B (zh) 一种基于无人机单目倾斜的图像拼接方法及相关装置
Bakuła et al. Capabilities of a smartphone for georeferenced 3dmodel creation: An evaluation
JP6928217B1 (ja) 測定処理装置、方法及びプログラム
CA3102860C (en) Photography-based 3d modeling system and method, and automatic 3d modeling apparatus and method
CN114066975B (zh) 摄像区域的校验方法和装置、电子设备
WO2020199198A1 (zh) 图像采集控制方法，图像采集控制设备和可移动平台
US10326933B2 (en) Pose estimation of 360-degree photos using annotations
CN112887793A (zh) 视频处理方法、显示设备和存储介质

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18805267

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18805267

Country of ref document: EP

Kind code of ref document: A1