WO2014040281A1 - 移动终端的增强现实处理方法及装置 - Google Patents

移动终端的增强现实处理方法及装置 Download PDF

Info

Publication number
WO2014040281A1
WO2014040281A1 PCT/CN2012/081430 CN2012081430W WO2014040281A1 WO 2014040281 A1 WO2014040281 A1 WO 2014040281A1 CN 2012081430 W CN2012081430 W CN 2012081430W WO 2014040281 A1 WO2014040281 A1 WO 2014040281A1
Authority
WO
WIPO (PCT)
Prior art keywords
target
image
real
freeze
information
Prior art date
Application number
PCT/CN2012/081430
Other languages
English (en)
French (fr)
Inventor
许国军
李艳丽
刘峥
Original Assignee
华为技术有限公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 华为技术有限公司 filed Critical 华为技术有限公司
Priority to CN201280001436.1A priority Critical patent/CN103814382B/zh
Priority to PCT/CN2012/081430 priority patent/WO2014040281A1/zh
Publication of WO2014040281A1 publication Critical patent/WO2014040281A1/zh

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/84Generation or processing of descriptive data, e.g. content descriptors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/8126Monomedia components thereof involving additional data, e.g. news, sports, stocks, weather forecasts
    • H04N21/8133Monomedia components thereof involving additional data, e.g. news, sports, stocks, weather forecasts specifically related to the content, e.g. biography of the actors in a movie, detailed information about an article seen in a video program
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/8166Monomedia components thereof involving executable data, e.g. software

Definitions

  • the present invention relates to the field of communications technologies, and in particular, to an augmented reality processing method and apparatus for a mobile terminal. Background technique
  • Augmented Reality which simulates physical information, such as visual information, sound, taste, or touch, that is difficult to experience in a certain time and space of the real world, and then superimposed into the real world through scientific and technological simulations. It is perceived by human senses to achieve a sensory experience that transcends reality.
  • This technology is called augmented reality technology, referred to as AR technology.
  • Three-dimensional registration through computer graphics analysis, to obtain the three-dimensional space coordinates of a specific object in three-dimensional space, and then splicing the virtual object generated by the computer into the real three-dimensional space according to the acquired three-dimensional space coordinates, to achieve the real environment and virtual Accurate and seamless integration of objects.
  • the AR application based on the mobile terminal acquires the real information of the real world through the camera of the mobile terminal, identifies the AR target of the real world, and superimposes some virtual information on the real AR target, and the virtual information may also be referred to as AR content, and the help
  • the user displays the AR content associated with the AR target in addition to the real AR target.
  • the accuracy of spatial tracking and registration between the AR content and the AR target is particularly emphasized, that is, when the user observes the AR target using the camera, the user can experience the rotation of the lens or the movement of the AR target.
  • AR content such as the virtual 3D object and AR target integration of the follow-up effect.
  • interactions can be made between the user and the AR content, such as clicking, zooming in, zooming out, rotating, and so on.
  • Embodiments of the present invention provide an augmented reality processing method and apparatus for a mobile terminal, so as to implement freeze processing on an image, reduce constraints on user behavior, and improve an AR processing effect.
  • an embodiment of the present invention provides a method for processing an augmented reality of a mobile terminal, including: acquiring a real-time image collected from a camera, and buffering the real-time image;
  • Determining whether to perform the freeze processing if yes, determining a real-time image of one frame buffer from the real-time image within the first preset time range of the current time as the freeze frame image, performing AR processing on the freeze frame image to generate an AR freeze frame image and display.
  • the determining whether to perform the freeze processing is specifically: detecting whether the mobile terminal remains in a static state within a second preset time range, and if yes, performing freeze processing.
  • the detecting, by the mobile terminal, whether the mobile terminal remains in a static state within a second preset time range, and if yes, performing freeze processing Specifically:
  • the real-time image of the at least one frame buffer is determined from the real-time image in the first preset time range of the current time as a freeze frame image, specifically: buffered for each frame a real-time image, generating a position weight according to a position of the first AR target in the cached real-time image, and determining a real-time image with the largest position weight as the freeze frame image.
  • the real-time image of the at least one frame buffer is determined as a freeze frame image from the real-time image in the first preset time range of the current time from the cache, specifically: buffered for each frame a real-time image, generating a location weight according to a location of the first AR target in the cached real-time image, and generating an area weight according to an area ratio of the first AR target in the cached real-time image, according to the cache real-time
  • the clarity of the first AR target in the image The resolution weight is generated, and the freeze frame image is determined according to the position weight, the area weight, and the definition weight of the cached real-time image of each frame.
  • the performing the AR processing on the real-time image to generate the first AR image, and displaying the first AR image includes:
  • Obtaining the cached first AR target reference location information tracking the real-time image according to the cached first AR target reference location information, according to the tracked first AR target and the first AR target standard size information a three-dimensional registration calculation, generating a first rotation parameter and a first translation parameter, and buffering the first rotation parameter and the first translation parameter;
  • the method before the obtaining the cached first AR target reference location information, the method further includes:
  • Target Detection Performing feature detection and description on the real-time image, generating first feature detection description data, and transmitting the first feature detection description data to the AR server, so that the AR server performs AR according to the first feature detection description data.
  • the first detection result includes: a first AR target reference position information of a position of the first AR target in the real-time image and first AR target standard size information indicating a size of the first AR target in the standard image, An AR target information cache;
  • the performing the AR image processing by the AR image to generate an AR freeze image and displaying the content is:
  • the first AR content is subjected to a virtual real fusion rendering process to generate the AR freeze frame Image and display.
  • the determining whether to perform the freeze processing is specifically:
  • the first AR target information further includes: a first AR target type used to indicate a type of the first AR target Information
  • the determining whether to perform the freeze processing is specifically:
  • the freeze processing is performed.
  • the method further includes:
  • the AR server And receiving, by the AR server, a second detection result that is sent when the second AR target is detected, where the second detection result carries the second AR target information, where the second AR target information includes: a second AR target reference position information of a position of the second AR target in the real-time image and second AR target standard size information indicating a size of the second AR target in the standard image, Decoding a second AR target information cache;
  • the received freeze frame command is received, according to the cached second AR target reference position letter Tracking the second AR target in the real-time image, performing a three-dimensional registration calculation according to the tracked second AR target and the second AR target standard size information, and generating a second rotation parameter and a second translation parameter, The second rotation parameter and the second translation parameter cache;
  • an embodiment of the present invention provides an augmented reality processing device for a mobile terminal, including: an image acquiring unit, configured to acquire a collected real-time image from a camera, and cache the real-time image;
  • a first augmented reality processing unit coupled to the image obtaining unit, configured to perform the augmented reality AR processing on the real-time image to generate a first AR image, and display the first AR image; and a freeze processing unit for determining Whether to perform the freeze processing, if yes, determine a real-time image of one frame buffer from the real-time image in the first preset time range of the current time as the freeze frame image, perform AR processing on the freeze frame image to generate an AR freeze frame image and display .
  • the freeze processing unit is specifically configured to detect whether the mobile terminal remains in a static state within a second preset time range, and if so, perform freeze processing.
  • the freeze processing unit is specifically configured to be collected by a gravitational accelerometer according to the second preset time range.
  • the gravity acceleration information and the orientation information collected by the digital compass determine whether the mobile terminal remains stationary during the second preset time range, and if so, performs freeze processing.
  • the freeze processing unit is specifically configured to generate a position weight according to a position of the first AR target in the cached real-time image, and the location is The real-time image with the largest weight is determined as the freeze frame image.
  • the freeze processing unit is configured to generate, according to the location of the first AR target in the cached real-time image, a location weight according to the real-time image buffered for each frame, according to the cache.
  • a ratio of the area occupied by the first AR target in the real-time image generates an area weight, and generates a sharpness weight according to the sharpness of the first AR target in the cached real-time image, according to the cached real-time image of each frame
  • the position weight, the area weight, and the definition weight determine the freeze frame image.
  • the first augmented reality processing unit includes: a first tracking registration subunit, connected to the image obtaining unit, for acquiring the first cache
  • the AR target reference position information is tracked according to the cached first AR target reference position information, and the three-dimensional registration calculation is performed according to the tracked first AR target and the first AR target standard size information, and generated.
  • a first rotation parameter and a first translation parameter buffering the first rotation parameter and the first translation parameter;
  • a first rendering subunit connected to the first tracking registration subunit, configured to acquire the cached first AR content, according to the first rotation parameter and the first translation parameter, the real-time image and the The first AR content performs a virtual and real fusion rendering process, and the first AR image is generated and displayed.
  • the first augmented reality processing unit further includes:
  • a first detecting subunit connected to the image obtaining unit, configured to perform feature detection and description on the real-time image, generate first feature detection description data, and send the first feature detection description data to an AR server, to And causing the AR server to perform AR target detection according to the first feature detection description data;
  • a first receiving subunit configured to receive a first detection result that is sent by the AR server when the first AR target is detected, where the first detection result carries first AR target information, the first AR
  • the target information includes: first AR target reference position information indicating a position of the first AR target in the real-time image; and a first AR target to indicate a size of the first AR target in a standard image Standard size information, the first AR target information is cached;
  • the first control subunit is respectively connected to the first detecting subunit and the first receiving subunit, and is configured to stop according to the first detection result Sending, by the AR server, the first feature detection description data;
  • a first acquiring sub-unit configured to acquire the first AR content of the first AR target from the AR server, and cache the first AR content.
  • the freeze processing unit is configured to obtain a first rotation parameter, a first translation parameter, and The first AR content, according to the first rotation parameter and the first translation parameter corresponding to the freeze image, performing a virtual and real fusion rendering process on the freeze frame image and the first AR content, generating the AR freeze frame image and displaying .
  • the freeze processing unit is configured to determine, according to the first rotation parameter and the first translation parameter that are generated in the second preset time range, whether the mobile terminal remains in the second preset time range. At rest, if it is, then freeze processing is performed.
  • the first AR target information further includes: a first AR target type used to indicate a type of the first AR target Information
  • the freeze processing unit is specifically configured to perform freeze processing if the first AR target type information is a browsing type.
  • the augmented reality processing device of the mobile terminal further includes a second augmented reality processing unit, where the second augmented reality processing unit is Includes:
  • a second detection subunit connected to the image acquisition unit, performing feature detection and description on the real-time image, generating second feature detection description data, and transmitting the second feature detection description data to the AR server, to And causing the AR server to perform AR target detection according to the second feature detection description data;
  • a second receiving subunit configured to receive a second detection result that is sent by the AR server when the second AR target is detected, where the second detection result carries the second AR target information, where the second AR is
  • the target information includes: second AR target reference position information indicating a position of the second AR target in the real-time image and a second to indicate a size of the second AR target in the standard image AR target standard size information;
  • the second control subunit is connected to the second detection subunit and the second receiving subunit, respectively, and stops sending the second feature detection description data to the AR server according to the second detection result;
  • a cache processing sub-unit which is respectively connected to the image obtaining unit and the second receiving sub-unit, and configured to buffer the second AR target information according to the second AR target reference position information in the real-time image. Tracking the second AR target, if the second AR target is tracked in the third preset time range, acquiring the second AR content of the second AR target from the AR server, the second The AR content cache generates a release freeze indication information and displays it;
  • a second tracking and registering subunit connected to the image acquiring unit, configured to: if the received freeze frame command is received, the second AR target reference position information is cached in the real-time image
  • the second AR target performs tracking, performs three-dimensional registration calculation according to the tracked second AR target and the second AR target standard size information, generates a second rotation parameter and a second translation parameter, and the second rotation parameter and The second translation parameter cache;
  • a second rendering subunit connected to the second tracking registration subunit, configured to perform real and real fusion rendering of the real-time image and the second AR content according to the second rotation parameter and the second translation parameter Processing, generating the second AR image and displaying.
  • the augmented reality processing device acquires the collected real-time image from the camera, caches the real-time image, and performs real-time image processing on the augmented reality AR to generate the first AR image, and The first AR image is displayed to determine whether the freeze processing is performed. If yes, the real-time image of the frame buffer is determined as a freeze image from the real-time image in the first preset time range of the cached current time, and the freeze image is generated by AR processing. AR freezes the image and displays it.
  • FIG. 1 is a flow chart of a method for processing an augmented reality of a first mobile terminal according to an embodiment of the present invention
  • FIG. 2 is a flow chart of a method for processing an augmented reality of a second mobile terminal according to an embodiment of the present invention
  • FIG. 3 is a flow chart of a third method for augmented reality processing of a mobile terminal according to an embodiment of the present invention.
  • FIG. 4 is a schematic flowchart of a freeze determination process according to an embodiment of the present invention.
  • FIG. 5 is a schematic flowchart of another freeze determination process according to an embodiment of the present invention.
  • FIG. 6 is a schematic flowchart of a process of augmented reality after freeze frame according to an embodiment of the present invention
  • FIG. FIG. 7 is a schematic diagram of another process of augmented reality processing after a freeze frame according to an embodiment of the present invention
  • FIG. 8 is a schematic structural diagram of an augmented reality processing device of a first mobile terminal according to an embodiment of the present invention
  • FIG. 9 is a schematic structural diagram of an augmented reality processing apparatus of another mobile terminal according to an embodiment of the present disclosure.
  • FIG. 10 is a schematic structural diagram of an augmented reality processing apparatus of a third mobile terminal according to an embodiment of the present disclosure.
  • FIG. 11 is a schematic structural diagram of an augmented reality processing apparatus of a fourth mobile terminal according to an embodiment of the present invention.
  • the technical solutions in the embodiments of the present invention are clearly and completely described in the following with reference to the accompanying drawings in the embodiments of the present invention.
  • the embodiments are a part of the embodiments of the invention, and not all of the embodiments. All other embodiments obtained by those skilled in the art based on the embodiments of the present invention without creative efforts are within the scope of the present invention.
  • FIG. 1 is a flow chart of a method for processing an augmented reality of a first mobile terminal according to an embodiment of the present invention.
  • the augmented reality processing method of the mobile terminal provided in this embodiment may be specifically applied to the AR processing procedure of the mobile terminal integrated with the augmented reality AR application.
  • the mobile terminal may specifically be a terminal device such as a mobile phone, a digital camera, a notebook computer, and a tablet computer.
  • the augmented reality processing method of the mobile terminal provided by this embodiment may be performed by an augmented reality processing device.
  • the augmented reality processing device can be integrated in the mobile terminal.
  • Step 101 Acquire a real-time image collected from a camera, and cache the real-time image.
  • Step 102 Perform real-time image processing on the real-time image to generate a first AR image, and display the first AR image.
  • Step 103 Determine whether the freeze processing is performed. If yes, determine a real-time image of a frame buffer from the real-time image in the first preset time range of the current time as a freeze frame image, and perform AR processing on the freeze image to generate an AR. Freeze the image and display it.
  • the camera of the mobile terminal can collect real-time images
  • the augmented reality processing device can The real-time image acquired from the camera is displayed on the display screen of the mobile terminal, and the user can view the real-time image through the display screen.
  • a real-time image buffer area may be set in a storage unit of the mobile terminal, and a current real-time image is buffered in the real-time image buffer area, and subsequent processing of the real-time image may be performed from the real-time image buffer area.
  • Obtain the live image For example, obtaining a live image from the live image buffer is displayed through the display.
  • the augmented reality processing device When the AR application is started, the augmented reality processing device performs AR processing on the real-time image collected by the camera, and also obtains a real-time image from the real-time image buffer, and performs AR processing on the acquired real-time image.
  • the process of the AR process may be: first identifying a first AR target in the real-time image, performing tracking registration on the first AR target, and then fusing the first AR content with the first AR target to generate a first AR image, and The first AR image is displayed to the user through the display screen.
  • the AR target is specifically an object that needs to be processed by the AR, and the AR content is virtual information, such as a virtual 3D object.
  • the person in the real-time image is the AR target
  • the virtual clothes are the AR content
  • the generated AR image is the image of the person trying on the virtual clothes, and the user sees through the display screen.
  • the effect of the person trying on the clothes when the person moves in front of the camera, because it is the processing of the real-time image, the AR image is processed to the user in real time, and the clothes in the AR image are also moving.
  • the AR content can be stored in the storage unit of the mobile terminal, or can be stored on the AR server. When the AR content is stored on the AR server, the mobile terminal can obtain the AR content from the AR server.
  • image information may be generated, the image information including information generated in the process of performing AR processing on the real-time image, such as position information of the AR target in the real-time image, definition of the real-time image, The three-dimensional registration information and time information of the AR target in the real-time image.
  • Each frame of real-time image has corresponding image information.
  • the image information may be cached, and the real-time image and the image information may be buffered into the image queue buffer area of the storage unit, where the image queue buffer area may be buffered within a first preset time range from the current time,
  • the image information generated by the AR processing of the real-time image that is, the image queue buffer may buffer a plurality of image information.
  • the implementation process of buffering image information into the image queue buffer area may specifically be:
  • the first preset time range T1 can be dynamically adjusted according to the size of the single-frame real-time image collected by the camera and the capacity of the storage unit of the user mobile terminal.
  • the size of the single frame image collected by the camera can be determined according to the real-time image buffered in the real-time image buffer area, assuming that the size of the single-frame image of the camera is q, the number of frames processed by the AR application per second is r, and the memory of the mobile terminal is a.
  • the storage space of the image queue buffer occupying the storage unit does not exceed the storage.
  • the storage space occupied by the cache does not exceed 5% of the total storage capacity.
  • the fixed AR image can be displayed to the user through the display screen.
  • freeze processing There are several ways to trigger the freeze processing:
  • the user can manually trigger the freeze processing process.
  • the grid enable button can be preset on the AR application interface, and the user can trigger the freeze processing process by controlling the freeze enable button.
  • the display screen is a touch screen
  • the user can directly touch the freeze enable button, that is, manually trigger the freeze processing
  • the AR application obtains the freeze indication information input by the user, and sets the freeze function signal flag. To start, perform freeze processing.
  • the augmented reality processing device can also automatically determine whether the freeze frame processing needs to be performed. For example, when the mobile terminal is in a static state within a certain time range, it can be determined that the user wants to view the fixed AR image, and then the freeze function signal flag is set to start. Perform freeze processing.
  • the augmented reality processing device may further perform freeze processing according to type information of the AR object, such as the type information of the AR object is a browsing type, for example, the AR object is a still life, such as a book or he is used for displaying Static items, etc., indicate that the user wants to see a static AR image effect, and then performs the freeze processing.
  • the processor learns that the AR object is an interactive object according to the type information of the AR object, and the user needs to know more AR content by touching or clicking the interaction information, and when the number of the interaction information reaches a certain threshold, determining that the user wants Learn more about the AR Content, then the freeze processing is performed.
  • a real-time image with a good frame effect is determined from the image queue buffer area as a freeze frame image.
  • a multi-frame real-time image may also be determined from the image queue buffer as a freeze frame image, and the determined multi-frame freeze image is displayed to the user through the display screen, and the user selects one of the frame freeze images, and then The selected freeze image is subjected to AR processing to generate an AR freeze image and displayed through the display screen.
  • the determined multi-frame freeze frame image may perform AR processing on the determined multi-frame freeze frame image to generate a multi-frame AR freeze frame image, and display the image to the user through a split screen form, and the multi-frame AR freeze frame image may represent the AR process from multiple angles. effect.
  • a real-time image with the best effect of one frame may be determined from the image queue buffer as a freeze frame image, and AR processing is performed on the freeze frame image. If it is determined that the freeze processing is not required, step 101 is continued to perform AR processing on the real-time image, and the generated first AR image is displayed to the user through the display screen.
  • the enhanced reality processing device is also assigned other threads to continue performing the acquisition of the live image and the real-time image tracking process.
  • the freeze can be released, and the release freeze can be implemented in various ways.
  • the function button for releasing the freeze can be displayed to the user, and the user manually controls to release the freeze function, or in the AR target. After the drop, when a new AR target is detected, the user is automatically prompted to perform the freeze operation.
  • the freeze function signal flag is set to be non-starting, and the flow of the real-time image tracking process running in the background is continued, and the tracked AR target is subjected to three-dimensional registration calculation, and the virtual and real fusion rendering process is performed according to the AR content. Generate an AR image and display it.
  • the augmented reality processing device acquires the collected real-time image from the camera, caches the real-time image, performs real-time image processing on the augmented reality AR to generate the first AR image, and generates the first image.
  • the AR image display determines whether the freeze processing is performed. If yes, the real-time image of one frame buffer is determined as a freeze image from the real-time image within the first preset time range of the cached current time, and the freeze image is subjected to AR processing to generate an AR freeze frame. Image and display.
  • FIG. 2 is a flowchart of a method for processing augmented reality of a second mobile terminal according to an embodiment of the present invention. As shown in FIG.
  • step 102 the real-time image is subjected to AR processing to generate a first AR image, and the first AR image is displayed, which may specifically include the following steps: Step 205: Obtaining the cached first AR target reference location information, tracking the real-time image according to the cached first AR target reference location information, according to the tracked first AR target and the first AR target standard size information a three-dimensional registration calculation, generating a first rotation parameter and a first translation parameter, and buffering the first rotation parameter and the first translation parameter;
  • Step 206 Acquire a cached first AR content, and perform real-time image fusion processing on the real-time image and the first AR content according to the first rotation parameter and the first translation parameter to generate the first AR.
  • Image and display
  • the AR server may be configured to provide an AR application service for the mobile terminal.
  • the augmented reality processing device can use the real-time image as a test image, perform feature detection and description on the test image, generate first feature detection description data, and send the first feature detection description data to the AR server, where the AR server database is stored.
  • the feature detection data of the standard image the AR server matches the received first feature detection description data with the feature detection data of the standard image in the database, and if the matching is successful, the first AR target is detected in the test image, and generated The first detection result is used to indicate that the first AR target is detected.
  • the augmented reality processing device can also directly send the real-time image as a test image to the AR server, and the AR server performs feature detection and description on the test image to generate first feature detection description data, and describes the first feature detection.
  • the data is matched to the feature detection data of the standard image in the database.
  • the matching process between the test image and the standard image can also be implemented by other image matching methods, and is not limited to the manner in which the feature is used to detect the data.
  • the augmented reality processing device receives the first detection result that is sent by the AR server when the first AR target is detected, where the first detection result carries the first AR target information, where the first AR target information includes: The first AR target reference position information of the position of the target in the real-time image and the first AR target standard size information indicating the size of the first AR target in the standard image are used to buffer the first AR target information.
  • the first AR target information may further include type information of the first AR target, feature information of the first AR, and the like.
  • the AR target buffer may be set in the storage unit to cache the first AR target information.
  • the augmented reality processing device may stop sending the real-time image to the AR server. To avoid repeated detection of the AR server.
  • the augmented reality processing device downloads the first AR content corresponding to the first AR target from the AR server, and the AR server may also carry the first AR content in the first detection result and send the content to the mobile terminal.
  • the AR content buffer may be set in the storage unit to cache the first AR content.
  • the augmented reality processing device may obtain the cached first AR target reference position information from the AR target buffer area of the storage unit, and the real-time image in the real-time image according to the first AR target reference position information.
  • the first AR target is tracked, and a real-time image for performing target tracking can be used as the tracking image.
  • the first tracking information may be generated, where the first tracking information specifically includes information such as position information of the first AR target in the tracking image and the sharpness of the tracking image.
  • the AR target location buffer may also be set in the storage unit, and the first tracking information generated during the tracking process, and the AR target such as the first rotation parameter and the first translation parameter generated in the three-dimensional registration calculation process are in the real-time image.
  • the three-dimensional registration information is cached to the AR target location buffer. If the first AR target is not tracked in the tracking image during the tracking process of the first AR target, that is, the first target AR is lost, or the first target AR leaves the camera range, the AR target is cached.
  • the zone and AR target location buffers are cleared.
  • the real-time image is sent to the AR server to enable the AR server to perform AR target detection on the real-time image. For the subsequent processing, refer to the above description, and details are not described here.
  • the first AR content corresponding to the first AR target may be downloaded, and the first AR content may be obtained directly from the AR content cache. If the re-detected AR target is not the first AR target, the AR content cache is cleared, and the AR content corresponding to the new AR target is downloaded from the AR server.
  • the augmented reality processing device performs a virtual and real fusion rendering process on the real-time image and the first AR content according to the first rotation parameter and the first translation parameter, and generates a first AR image and displays it through a display screen.
  • the method may further include:
  • Step 201 Perform feature detection and description on the real-time image, generate first feature detection description data, and send the first feature detection description data to an AR server, so that the AR server detects the description according to the first feature.
  • Step 202 Receive a first detection result that is sent by the AR server when detecting the first AR target, where the first detection result carries first AR target information, where the first AR
  • the target information includes: first AR target reference position information indicating a position of the first AR target in the real-time image; and a first AR target to indicate a size of the first AR target in a standard image Standard size information, buffering the first AR target information;
  • Step 203 Stop sending the first feature detection description data to the AR server according to the first detection result.
  • Step 204 Acquire the first AR content of the first AR target from the AR server, and cache the first AR content.
  • FIG. 3 is a flowchart of a third method for augmented reality processing of a mobile terminal according to an embodiment of the present invention. As shown in FIG. 3, the implementation process of the augmented reality processing method of the mobile terminal provided by the embodiment of the present invention is as follows:
  • Step 31 Obtain a real-time image of the camera set, and cache the real-time image to the real-time image buffer area;
  • Step 32 Determine whether the AR target location buffer is buffered with the AR target reference location information. If the AR target location location information is not cached in the AR target location buffer, the AR application is just started, the AR target location buffer is empty, or is in the AR. During the target tracking process, the AR target is not tracked, the AR target location buffer is cleared, and step 33 is performed; if the AR target location location information is cached in the AR target location buffer, step 39 is performed;
  • Step 33 When the AR application is just started or the AR target is lost, the real-time image is used as a test image, and the test image is detected and described, and feature detection and description are performed to generate feature detection description data, and the feature detection description data is generated. Sent to the ARI server;
  • Step 34 The AR server matches the feature detection description data with the feature detection description data of the standard image in the database. If the matching is successful, the AR target is detected in the test image, and the detection result of the detected AR target is generated and sent. To the mobile terminal, if the matching is unsuccessful, the AR server generates a detection result indicating that the AR target is not detected, and sends the result to the mobile terminal;
  • Step 35 The mobile terminal learns that the AR target is detected according to the detection result, and then stops sending the test image to the AR server, and performs step 36; if it is known that the AR target is not detected according to the detection result, step 31 is performed;
  • Step 36 The mobile terminal downloads AR target information from the ARI server, where the AR target information includes AR target reference position information indicating a position of the AR target in the test image, to indicate that the AR target is in the standard image. Size AR target standard size information, AR target type information, and AR The feature information of the target, etc., and the AR target information is cached in the AR target location buffer; Step 37: determining whether the AR content corresponding to the AR target is stored in the AR content buffer, if yes, executing step 310; , step 38 is performed;
  • Step 38 The mobile terminal downloads the AR content corresponding to the AR target from the AR server, and caches the AR content into the AR content cache area.
  • the AR target location buffer is empty.
  • the AR target tracking processing is not performed on the real-time image.
  • Step 310 The real-time image is used as a tracking image, and the AR target in the tracking image is tracked according to the AR target reference position information;
  • Step 311 If the AR target is tracked in the tracking image, step 312 is performed.
  • tracking information may be generated, where the tracking information may specifically include location information of the AR target in the tracking image, and tracking image. Sharpness and time information, etc.; if the AR target is not tracked in the tracking image, step 31 is performed;
  • Step 312 Calculate, according to the tracking information, the AR target reference position information in the AR target location buffer area, the AR target standard size information, and the camera parameters such as the focal length and the optical center of the camera, three-dimensional registration information such as a rotation parameter and a translation parameter generated by the AR target,
  • the information generated in step 311 and step 312 is buffered as image information into the image queue buffer;
  • the focal length and optical center parameters of the camera may be calculated according to the AR target reference position information and the AR target standard size information in the AR target location buffer area, and then the AR target reference position information and the AR target standard size in the AR target location buffer area may be used according to the AR target location buffer area.
  • Information such as the focal length and optical center of the camera are calculated to obtain three-dimensional registration information such as rotation parameters and translation parameters of the AR target.
  • Step 313 Perform real-time fusion and fusion of the first AR content in the AR content buffer with the first AR target in the current tracking image according to the three-dimensional registration information to generate an AR image, and display the AR image through the display screen to the user;
  • Step 314 determining whether to perform the freeze processing, if yes, executing step 315; if not, executing step 31;
  • Step 315 Set the freeze function signal flag to start, and determine a frame from the image queue buffer area. The best-performing real-time image as a freeze frame image;
  • Step 316 Acquire, according to the image information of the freeze frame image, the three-dimensional registration information of the freeze frame image from the AR target location buffer area, and obtain the AR content from the AR content buffer area;
  • Step 317 Perform virtual and real fusion rendering processing on the frozen image according to the three-dimensional registration information and the AR content, generate an AR freeze image and display it;
  • Step 318 it is determined whether to release the freeze, if yes, step 319 is performed, and then step 31 is performed; if not, step 317 is performed;
  • Step 319 Set the freeze function signal flag to be non-starting, and clear the image queue buffer.
  • the framed image is subjected to AR processing to generate an AR freeze frame image, and the display may be:
  • the first AR content is subjected to a virtual and real fusion rendering process, and the AR freeze frame image is generated and displayed.
  • the determining whether to perform the freeze processing may be: detecting whether the mobile terminal remains in a static state within a second preset time range, and if so, performing freeze processing.
  • the detecting whether the mobile terminal remains in a static state within a second preset time range, and if yes, performing a freeze processing specifically:
  • a gravity accelerometer and a digital compass may be disposed in the mobile terminal, and the gravity acceleration set may collect the gravity acceleration information, and the digital compass may collect the orientation information, and then the movement may be determined according to the gravity acceleration information and the orientation information. Whether the terminal is at a standstill.
  • a hardware parameter queue buffer may be set in the storage unit, and the gravity accelerometer may be The gravitational acceleration information collected by the ⁇ and the position information collected by the digital compass and the time information of the cache are buffered as an element to the end of the hardware parameter queue buffer.
  • the time information of the first element stored in the hardware parameter queue buffer is tl, and the current time is t.
  • FIG. 4 is a schematic flowchart of a freeze determination process according to an embodiment of the present invention. As shown in Figure 4, the process steps of the freeze processing judgment are as follows:
  • Step 41 Determine whether the time difference between the current time t and the time information 11 of the first element stored in the hardware parameter queue buffer exceeds the second preset time range Ts. If the second preset time range Ts is exceeded, step 42 is performed. If the second preset time range Ts is not exceeded, step 46 is performed;
  • Step 42 Calculate a change of the gravitational accelerometer and the digital compass in the second preset time range Ts according to the gravity acceleration information and the azimuth information in each element, and the specific calculation process is:
  • the number of elements cached in the storage area is the i-th gravity accelerometer parameter cached in the hardware parameter buffer area, and is the time information of the i-th cache gravity acceleration buffered in the hardware parameter buffer area;
  • the digital compass is in (t- Tl)
  • the change in seconds is tw-t', where n is the number of elements cached in the hardware parameter buffer, Ci is the i-th digital compass parameter cached in the hardware parameter buffer, and t is the cache in the hardware parameter buffer
  • Step 43 removing the first i elements in the hardware parameter queue buffer that satisfy (t - ti > T) from the hardware parameter queue buffer, and set tl to new Time information of the first element in the cached hardware parameter queue buffer;
  • Step 44 if the change of the gravitational accelerometer in the second preset time range Ts calculated in step 42 is g dlff ⁇ 0.5 m / sec square, step 45 is performed, otherwise, step 46 is performed;
  • Step 45 if the change of the digital compass in the second preset time range Ts calculated in step 2 is c dlff ⁇ 5 degrees, step 47 is performed, otherwise, step 46 is performed;
  • Step 46 setting the freeze function signal flag to be non-starting
  • Step 47 Set the freeze function signal flag to start.
  • the determining whether to perform the freeze processing may be: according to the first rotation parameter and the first translation parameter generated in the second preset time range. And determining whether the mobile terminal remains in a static state within the second preset time range, and if so, performing freeze processing.
  • whether the mobile terminal is in a stationary state may be determined according to the first rotation parameter and the first translation parameter generated in the three-dimensional registration calculation process in step 205.
  • the first rotation parameters rx, ry, and rz calculated by the three-dimensional registration and the first translation parameters tx, ty, and tz, wherein rx, ry, and rz respectively represent the mobile terminal in the x direction, the y direction, and the z direction
  • the angle of rotation, tx, ty, and tz, respectively, represents the unit of translation of the mobile terminal in the X, y, and z directions.
  • a three-dimensional registration parameter queue buffer may be set in the storage unit, and the first rotation parameter, the first translation parameter, and the time information of the cache are cached as an element to the end of the three-dimensional registration parameter queue buffer.
  • the three-dimensional registration parameter queue buffer buffers the three-dimensional registration parameter information when the AR target is continuously tracked in the second preset time range. If the AR target is not tracked, the contents of the 3D registration parameter queue buffer need to be cleared.
  • the time information of the first element stored in the three-dimensional registration parameter queue buffer is tl, and the current time is t.
  • FIG. 5 is a schematic flowchart of another freeze determination process according to an embodiment of the present invention. As shown in Figure 5, the process steps of the freeze processing judgment are as follows:
  • Step 51 Determine whether the time difference between the current time t and the time information 11 of the first element stored in the three-dimensional registration parameter queue buffer area exceeds the second preset time range Ts, and if the second preset time range exceeds Ts, execute Step 52, if the second preset time range Ts is not exceeded, step 56 is performed; Step 52, calculating, according to the first rotation parameter and the first translation parameter in each element, the first AR target in the second preset time range Ts
  • the rotation change and the translation change within the specific calculation process are as follows:
  • r dlff represents the sum of the angular differences of the rotation changes of the first AR target in the adjacent two frames of tracking images, where n is a three-dimensional registration The number of elements cached in the parameter buffer, 13 ⁇ 4, ! ⁇ , and the first rotation parameter in the i-th element cached in the three-dimensional registration parameter buffer respectively;
  • the translational change of the first AR target in the second preset time range Ts is:
  • t dlff ⁇ " t x l+ r t x) + ⁇ ⁇ + ⁇ - ⁇ ) + ⁇ ⁇ ⁇ + ⁇ ⁇ ) .
  • t dlff represents the sum of the translational shifts in the tracking images of the adjacent two frames of the first AR target, where n is the number of elements buffered in the three-dimensional registration parameter buffer, and t Xl , 1 and 1 are three-dimensional registration parameter buffers.
  • Step 53 The first i elements satisfying (t ⁇ ti > T) in the three-dimensional registration parameter queue buffer are removed from the three-dimensional registration parameter queue buffer, and the t1 is set in the newly cached three-dimensional registration parameter queue buffer. Time information of the first element;
  • Step 54 if the change of the first AR target rotation in the second preset time range Ts calculated in step 52 is ⁇ 5 degrees, step 55 is performed, otherwise, step 56 is performed;
  • Step 55 the change of the first AR target translation in the second preset time range Ts calculated in step 52 is t dlff ⁇ 5 degrees, step 57 is performed, otherwise, step 56 is performed;
  • Step 56 setting the freeze function signal flag to be non-starting
  • Step 57 Set the freeze function signal flag to start.
  • the first AR target information further includes: first AR target type information used to indicate a type of the first AR target;
  • step 103 the determining whether to perform the freeze processing is specifically:
  • the freeze processing is performed.
  • the real-time image of the frame buffer is determined from the real-time image in the first preset time range of the current time as the freeze frame image, which may be: a real-time image, generating a position weight according to a position of the first AR target in the cached real-time image, and determining a real-time image with the largest position weight as the freeze frame image.
  • the distance between the position of the first AR target and the center of the screen is obtained.
  • the position of the first AR target at the position of the cached image closest to the center of the image is the largest, and the position of the cached image farthest from the center of the image is the smallest.
  • the cached image with the largest position weight is determined as a freeze image.
  • the position of the first AR target is closer to the center of the screen according to the position weight determined by the position weight, so as to obtain a better display effect, which makes the user more comfortable and convenient to watch.
  • the real-time image of the frame buffer is determined from the real-time image in the first preset time range of the current time as the freeze frame image, which may be: a real-time image, generating a location weight according to a location of the first AR target in the cached real-time image, and generating an area weight according to an area ratio of the first AR target in the cached real-time image, according to the cache real-time
  • the sharpness of the first AR target in the image generates a sharpness weight
  • the freeze frame image is determined according to the position weight, the area weight, and the sharpness weight of the cached real-time image for each frame.
  • parameters such as the area and sharpness of the real-time image can also be considered in the process of determining the freeze frame image.
  • the cached image information in the image queue buffer can be calculated by a spatial domain parameter equation, an entropy, and a frequency domain modulation transfer function MTF to obtain the clarity of the cached real-time image.
  • the resolution of the real-time images cached in the image queue buffer is arranged from small to large.
  • the sorting number can be used as the sharpness weight of the cached real-time image, that is, the clearer the cached real-time image, the clarity of the cached real-time image. The greater the weight.
  • the area of the first AR target appearing in the cached real-time image and the area of the first AR target as a whole are calculated by the coordinate information of the first AR target.
  • the first AR target does not exceed the coordinate range of the cached real-time image, then the first AR target appears in the cache image as a whole, and the area specific gravity is 1; if the coordinate information of the AR target exceeds the coordinate range of the tracking image Then, the AR target does not completely appear in the tracking image, and the ratio of the area of the first AR target appearing in the cache image to the actual area of the first AR target can be calculated.
  • the cached real-time image in which the sum of the position weight of the cache image, the area weight, and the weight of the sharpness weight is maximized may be determined as a freeze frame image.
  • the freeze frame determined according to the position weight, the area weight and the sharpness weight enables the user to see a large and clear stop image in the center of the first AR target, which makes the user more comfortable to watch and Convenient and improved the freeze effect.
  • FIG. 6 is a schematic flowchart of a process of augmented reality after freeze frame according to an embodiment of the present invention.
  • the determining whether to perform the freeze processing if yes, determining a real-time image of the frame buffer from the real-time image in the first preset time range of the cached current time as the freeze frame.
  • the method may further include:
  • Step 601 Perform feature detection and description on the real-time image obtained in the real-time, generate second feature detection description data, and send the second feature detection description data to the AR server, so that the AR server is configured according to the The second feature detection description data is used for the AR target detection.
  • Step 602 Receive a second detection result that is sent by the AR server when the second AR target is detected, where the second detection result carries the second AR target.
  • Information, the second AR target information includes: second AR target reference location information used to indicate a location of the second AR target in the real-time image and to indicate that the second AR target is in the standard a second AR target standard size information of a size in the image, the second AR target information being cached;
  • Step 603 Stop sending the second feature detection description data to the AR server according to the second detection result.
  • Step 604 The second AR target information is buffered, and the second AR target in the real-time image is tracked according to the second AR target reference position information, and if the second AR target is tracked in the third preset time range
  • the second AR target acquires the second AR content of the second AR target from the AR server, caches the second AR content, generates the release freeze indication information, and displays it;
  • Step 605 if the received release freeze Directing, according to the cached second AR target reference position information, tracking the second AR target in the real-time image, and performing three-dimensional registration according to the tracked second AR target and the second AR target standard size information. Calculating, generating a second rotation parameter and a second translation parameter, buffering the second rotation parameter and the second translation parameter;
  • Step 606 Perform real-time image fusion processing on the real-time image and the second AR content according to the second rotation parameter and the second translation parameter, and generate the second AR image and display the second AR image.
  • the augmented reality processing device is further allocated with other threads to continue to acquire the real-time image and process the real-time image accordingly.
  • the augmented reality processing device can acquire the real-time image of the camera set at a preset time interval, use the real-time image as a test image, perform feature detection and description on the test image, generate feature detection description data, and test the feature detection description data together with the test.
  • the images are sent to the AR server together.
  • the AR server compares the feature detection description data with the feature detection description number of the standard image in the database. According to the match. If the second AR target is detected in the test image, a second detection result indicating that the second AR target is detected is generated and transmitted to the mobile terminal.
  • the second detection result carries the second AR target information.
  • the mobile terminal After receiving the second detection result, the mobile terminal determines whether the second AR target information is the same as the first AR target information in the AR target buffer, and if not, stops sending the test image to the AR server to avoid the repetition of the AR server. Detection.
  • the mobile terminal caches the second AR target information in the preloaded AR target buffer area of the storage unit, and the mobile terminal tracks the real-time image as the tracking image according to the second AR target reference position information in the second AR target information, if The second AR target is continuously tracked in the third preset time range, and the second AR content corresponding to the second AR target is downloaded from the AR server, and the second AR content is cached to the preloaded AR content buffer of the storage unit, and
  • the generation release freeze indication information is displayed to the user to prompt the user to release the freeze.
  • the release freeze indication information implementation form may be a pop-up dialog box to prompt the user to select whether to view the new target, or to highlight the manual solution freeze button, indicating that the new AR target has been found and the corresponding second AR content is downloaded.
  • step 601 and step 602 are repeatedly performed until a new AR target different from the first AR target is detected.
  • the user can select to continue to freeze or release the freeze according to the release freeze indication information. If the user chooses to release the freeze, the user stops the freeze instruction, and the augmented reality processing device continues to track the second AR target, the three-dimensional registration calculation, and the virtual reality. Render fusion processing.
  • the specific implementation process reference may be made to the description of the foregoing embodiments, and details are not described herein again.
  • the input freeze command is input, and the augmented reality processing device performs steps 601 and 602, if the detected AR target is still the second AR target, and continues to track the second AR within the preset time range.
  • the target displays the release freeze indication information to the user again. If the detected AR target is different from the second AR target, the pre-loaded AR target buffer and the preloaded AR content buffer are cleared, and the new AR target information is cached to the preloaded AR target buffer.
  • the mobile terminal tracks the real-time image as the tracking image according to the new AR target reference position information in the new AR target information. If the new AR target is continuously tracked within the preset time range, the mobile terminal downloads from the AR server. The AR content corresponding to the new AR target is cached in the AR content buffer area, and the release freeze indication information is displayed and displayed to the user.
  • the AR target information in the preload target buffer is cleared every time the freeze function is started. If the AR target is not found after the freeze, or the newly acquired AR target information is the same as the AR target information of the AR target buffer, The target information in the load target buffer area is always empty; the other is that the target information in the preload target buffer area is not empty, but the newly acquired AR target information is different from the AR target information in the preload target buffer area, that is, It is not the continuous discovery of the AR target.
  • FIG. 7 is a schematic diagram of another processing process of augmented reality after freeze frame according to an embodiment of the present invention. As shown in Figure 7, the process steps of augmented reality processing after freeze frame are as follows:
  • Step 71 The freeze function is activated, and the AR freeze image is displayed for the user;
  • Step 72 Determine whether it waits for T2 seconds, if yes, execute step 73, if no, continue to wait;
  • Step 73 Obtain a real-time image from the camera
  • Step 74 Perform real-time image detection and description on the image as a test image, generate feature detection description data, and send the feature detection description data to the AR server;
  • Step 75 The AR server matches the feature detection description data with the feature detection description data of the standard image in the database. If the matching is successful, the AR target is detected in the test image, and the detection result of the detected AR target is generated and sent. To the mobile terminal, if the matching is unsuccessful, the AR server generates a detection result indicating that the AR target is not detected, and sends the result to the mobile terminal.
  • Step 76 The mobile terminal learns that the AR target is detected according to the detection result, and stops the sending to the AR server. Sending a test image, and performing step 77; if it is known from the detection result that no AR target is detected, step 72 is performed;
  • Step 77 The detected AR target is the AR target a, and the AR target information of the AR target a is downloaded.
  • Step 78 Determine whether the AR target information of the AR target a is the same as the AR target information in the AR target buffer area, if yes, go to Step 72; if not, go to Step 79;
  • Step 79 Determine whether the AR target information of the AR target a is the same as the AR target information in the pre-loaded AR target buffer area, if yes, go to step 711; if not, go to step 710;
  • Step 710 Cache the AR target information of the AR target a to the pre-loaded AR target buffer area.
  • Step 711 Determine whether the AR target a is continuously tracked in T3 seconds, and if yes, execute the step. Step 712; otherwise if step 72 is performed;
  • Step 712 it is determined whether the AR content of the AR target a has been downloaded, and if yes, step 714 is performed; if not, step 713 is performed;
  • Step 713 Download the AR content of the AR target a from the AR server, and cache the AR content to the pre-loaded AR content cache area.
  • Step 714 Determine whether the time for downloading the AR content exceeds T4 seconds, and if yes, execute step 715; if otherwise, continue to wait;
  • Step 715 prompting the user to discover a new AR target
  • Step 716 the user chooses to display the new AR target, step 717; the user chooses not to display the new AR target, step 718;
  • Step 717 setting the freeze function signal flag to be non-starting
  • Step 718 Clear the preloaded AR target buffer area and the preloaded AR content buffer area, and go to step 72.
  • the related information of the newly detected AR target and the AR content may be cached during the freeze process, when the user releases the freeze frame. It can immediately perform subsequent processing according to the data of the AR target location buffer area and the preloaded AR content buffer area, thereby avoiding the processing waiting time and achieving seamless switching.
  • the real-time image buffer area, the image queue buffer area, the preloaded AR target location buffer area, the preloaded AR content buffer area AR target buffer area, the AR content buffer area, The AR target location buffer area, the hardware parameter queue buffer area, and the three-dimensional registration parameter queue buffer area are used to distinguish different information of the cache.
  • each of the foregoing buffer areas may be only a logical buffer area, or may not be cached.
  • the zone is implemented by a unified cache area.
  • FIG. 8 is a schematic structural diagram of an augmented reality processing apparatus of a first mobile terminal according to an embodiment of the present invention.
  • the augmented reality processing device 81 of the mobile terminal provided in this embodiment may implement various steps of the augmented reality processing method of the mobile terminal provided by any embodiment of the present invention, and the specific implementation process thereof is not described herein.
  • the augmented reality processing device 81 of the mobile terminal provided by this embodiment includes an image obtaining unit 801, a first augmented reality processing unit 802, and a freeze processing unit 803.
  • the image obtaining unit 801 is configured to acquire the collected real-time image from the camera, and cache the real-time image.
  • the first augmented reality processing unit 802 is connected to the image acquisition unit 801 for The real-time image performs augmented reality AR processing to generate a first AR image and displays the first AR image.
  • the freeze processing unit 803 is configured to determine whether to perform the freeze processing, and if yes, determine a real-time image of the frame buffer from the real-time image in the first preset time range of the current time as the freeze frame image, and perform the AR image on the freeze frame image. The process generates an AR freeze image and displays it.
  • the image obtaining unit 801 acquires the collected real-time image from the camera, and caches the real-time image.
  • the first augmented reality processing unit 802 performs the augmented reality AR processing on the real-time image to generate a first AR image, and displays the first AR image.
  • the freeze processing unit 803 determines whether the freeze processing is performed. If yes, the real-time image of the one frame buffer is determined as a freeze image from the real-time image within the first preset time range of the cached current time, and the freeze image is AR processed. AR freezes the image and displays it.
  • a real-time image of one frame is determined from the cached real-time image for AR processing to generate an AR freeze image and displayed, so that the user can conveniently view the AR image after the freeze, which reduces the pair.
  • the constraints of the user's behavior greatly improve the effect of AR processing.
  • FIG. 9 is a schematic structural diagram of an augmented reality processing apparatus of another mobile terminal according to an embodiment of the present invention.
  • the first augmented reality processing unit 802 includes a first tracking registration subunit 905 and a first rendering subunit 906.
  • the first tracking registration sub-unit 905 is connected to the image obtaining unit 801, configured to acquire the cached first AR target reference position information, and track the real-time image according to the cached first AR target reference position information, according to And tracking the first AR target and the first AR target standard size information to perform a three-dimensional registration calculation, generating a first rotation parameter and a first translation parameter, and buffering the first rotation parameter and the first translation parameter.
  • the first rendering sub-unit 906 is connected to the first tracking registration sub-unit 905, configured to acquire the cached first AR content, and according to the first rotation parameter and the first translation parameter, the real-time image and the The first AR content is subjected to a virtual and real fusion rendering process, and the first AR image is generated and displayed.
  • the first augmented reality processing unit 802 further includes a first detecting subunit 901, a first receiving subunit 902, a first control subunit 903, and a first obtaining subunit 904.
  • the first detection sub-unit 901 is connected to the image acquisition unit 801, and configured to perform feature detection and description on the real-time image, generate first feature detection description data, and send the first feature detection description data to the AR server. So that the AR server detects the description data according to the first feature. Perform AR target detection.
  • the first receiving sub-unit 902 is configured to receive a first detection result that is sent by the AR server when the first AR target is detected, where the first detection result carries the first AR target information, the first AR
  • the target information includes: first AR target reference position information indicating a position of the first AR target in the real-time image; and a first AR target to indicate a size of the first AR target in a standard image Standard size information, the first AR target information is cached.
  • the first control sub-unit 903 is connected to the first detection sub-unit 901 and the first receiving sub-unit 902, respectively, and is configured to stop sending the first feature detection description to the AR server according to the first detection result. data.
  • the first obtaining sub-unit 904 is configured to acquire the first AR content of the first AR target from the AR server, and cache the first AR content.
  • the freeze processing unit 803 is specifically configured to acquire a first rotation parameter, a first translation parameter, and the first AR content corresponding to the buffered image, according to the first image of the freeze image. a rotation parameter and a first translation parameter, performing the virtual solid fusion rendering process on the freeze frame image and the first AR content, generating the AR freeze frame image and displaying the image.
  • the freeze processing unit 803 is specifically configured to detect whether the mobile terminal remains in a static state within a second preset time range, and if so, perform freeze processing.
  • the freeze processing unit 803 is specifically configured to determine, according to the gravity acceleration information collected by the gravity accelerometer in the second preset time range and the orientation information collected by the digital compass. Whether the mobile terminal remains in a stationary state within the second preset time range, and if so, performs freeze processing.
  • the freeze processing unit 803 is specifically configured to determine, according to the first rotation parameter and the first translation parameter that are generated in the second preset time range, that the mobile terminal is in the second Whether to remain static within the preset time range, and if so, perform freeze processing.
  • the first AR target information further includes: first AR target type information used to indicate a type of the first AR target.
  • the freeze processing unit 803 is specifically configured to perform freeze processing if the first AR target type information is a browsing type.
  • the fixed AR image can be displayed to the user through the display screen.
  • the freeze processing unit 803 may be specifically configured to generate a position weight according to a position of the first AR target in the cached real-time image, for a real-time image buffered for each frame.
  • a real-time image in which the position weight is the largest is determined as the freeze frame image.
  • the distance between the position of the first AR target and the center of the screen is obtained.
  • the first AR target has the largest position weight of the cache image closest to the image center at the position of the cache image, and the position weight of the cache image farthest from the center of the image is the smallest.
  • the cached image with the largest position weight is determined as a freeze image.
  • the freeze processing unit 803 is specifically configured to generate a position weight according to a position of the first AR target in the cached real-time image for a real-time image buffered for each frame, according to the cached real-time image. Generating an area weight according to an area ratio of the first AR target, generating a sharpness weight according to the sharpness of the first AR target in the cached real-time image, according to the position of the cached real-time image according to each frame The weight, the area weight, and the sharpness weight determine the freeze frame image.
  • the cached image information in the image queue buffer may be calculated by using a spatial domain parameter equation, an entropy, and a frequency domain modulation transfer function MTF to obtain a clearness of the cached real-time image.
  • the resolution of the real-time images cached in the image queue buffer is arranged from small to large.
  • the sorting number can be used as the sharpness weight of the cached real-time image, that is, the clearer the cached real-time image, the clarity of the cached real-time image. The greater the weight.
  • the area of the first AR target appearing in the cached real-time image and the area of the first AR target as a whole are calculated by the coordinate information of the first AR target.
  • the first AR target does not exceed the coordinate range of the cached real-time image, then the first AR target appears in the cache image as a whole, and the area specific gravity is 1; if the coordinate information of the AR target exceeds the coordinate range of the tracking image Then, the AR target does not completely appear in the tracking image, and the ratio of the area of the first AR target appearing in the cache image to the actual area of the first AR target can be calculated.
  • the cached real-time image in which the sum of the position weight of the cache image, the area weight, and the weight of the sharpness weight is maximized may be determined as a freeze frame image.
  • the freeze frame determined according to the position weight, the area weight and the sharpness weight enables the user to see a large and clear stop image in the center of the first AR target, which makes the user more comfortable to watch and Convenient and improved the freeze effect.
  • FIG. 10 is a schematic structural diagram of an augmented reality processing apparatus of a third mobile terminal according to an embodiment of the present invention.
  • the augmented reality processing device 81 of the mobile terminal may further include a second augmented reality processing unit 106, where the second augmented reality processing unit 106 includes a second detector.
  • the second detection sub-unit 1001 is connected to the image acquisition unit 801, performs feature detection and description on the real-time image, generates second feature detection description data, and sends the second feature detection description data to the AR server.
  • the second receiving sub-unit 1002 is configured to receive a second detection result that is sent by the AR server when the second AR target is detected, where the second detection result carries the second AR target information, where the second AR is
  • the target information includes: second AR target reference position information indicating a position of the second AR target in the real-time image and a second to indicate a size of the second AR target in the standard image AR target standard size information.
  • the second control sub-unit 1003 is connected to the second detection sub-unit 1001 and the second receiving sub-unit 1002, respectively, and is configured to stop sending the second feature detection description to the AR server according to the second detection result. data.
  • the cache processing sub-unit 1004 is connected to the image obtaining unit 801 and the second receiving sub-unit 1002, respectively, for buffering the second AR target information, and the real-time according to the second AR target reference position information. Tracking, by the second AR target in the image, if the second AR target is tracked in the third preset time range, acquiring the second AR content of the second AR target from the AR server, The second AR content cache generates a release freeze indication information and displays it.
  • the second tracking registration sub-unit 1005 is connected to the image obtaining unit 801, and configured to: if the received freeze frame command is received, the second AR target in the real-time image according to the cached second AR target reference position information Performing a tracking, performing a three-dimensional registration calculation according to the tracked second AR target and the second AR target standard size information, generating a second rotation parameter and a second translation parameter, and the second rotation parameter and the second translation Parameter cache.
  • the second rendering sub-unit 1006 is connected to the second tracking registration sub-unit 1005, configured to: the real-time image and the first according to the second rotation parameter and the second translation parameter
  • the two AR content performs a virtual and real fusion rendering process, and the second AR image is generated and displayed.
  • the related information of the newly detected AR target and the AR content may be cached during the freeze process, when the user releases the freeze frame. It can immediately perform subsequent processing according to the data of the AR target location buffer area and the preloaded AR content buffer area, thereby avoiding the processing waiting time and achieving seamless switching.
  • FIG. 11 is a schematic structural diagram of an augmented reality processing apparatus of a fourth mobile terminal according to an embodiment of the present invention.
  • the augmented reality processing device of the mobile terminal provided by this embodiment includes at least one processor 1101 (for example, a CPU), a memory 1102, a camera 1103, a display screen 1104, and at least one communication bus U05 for implementing these devices. Communication between the connections.
  • the processor 1101 is configured to execute an executable module, such as a computer program, stored in the memory 1102.
  • the memory 1102 may include a high speed random access memory (RAM: Random Access Memory), and may also include a non-volatile memory such as at least one disk memory.
  • the camera 1103 is used to collect real-time images
  • the display screen 1104 is used to display real-time images or real-time processed AR images or AR freeze frames.
  • the memory 1102 stores program instructions, which can be executed by the processor 1101, wherein the program instructions include an image acquisition unit 801, a first augmented reality processing unit 802, and a freeze processing unit 803, wherein each unit
  • the program instructions include an image acquisition unit 801, a first augmented reality processing unit 802, and a freeze processing unit 803, wherein each unit
  • Computer readable media includes both computer storage media and communication media including any medium that facilitates transfer of a computer program from one location to another.
  • a storage medium may be any available media that can be accessed by a computer.
  • computer readable media may comprise RAM, ROM, EEPROM, CD-ROM or other optical disk storage, disk storage media or other magnetic storage device, or can be used for carrying or storing in the form of an instruction or data structure.
  • the desired program code and any other medium that can be accessed by the computer may suitably be a computer readable medium.
  • the software is transmitted from a website, server, or other remote source using coaxial cable, fiber optic cable, twisted pair, digital subscriber line (DSL), or wireless technologies such as infrared, radio, and microwave, then Coaxial cables, fiber optic cables, twisted pair, DSL, or wireless technologies such as infrared, wireless, and microwaves are included in the fixing of the associated media.
  • coaxial cables, fiber optic cables, twisted pair, DSL, or wireless technologies such as infrared, wireless, and microwaves are included in the fixing of the associated media.
  • a disk and a disc include a compact disc (CD), a laser disc, a compact disc, a digital versatile disc (DVD), a floppy disc, and a Blu-ray disc, wherein the disc is usually magnetically copied, and the disc is The laser is used to optically replicate the data. Combinations of the above should also be included within the protection hierarchy of computer readable media.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本发明实施例提供一种移动终端的增强现实处理方法及装置,该方法包括:从摄像头获取釆集到的实时图像,将实时图像緩存;将实时图像进行增强现实AR处理生成第一AR图像,并将第一AR图像显示;判断是否进行定格处理,若是,则从緩存的距离当前时刻第一预设时间范围内的实时图像中确定一帧緩存的实时图像作为定格图像,将定格图像进行AR处理生成AR定格图像并显示。本发明实施例提供的移动终端的增强现实处理方法及装置,实现了对图像进行定格处理,降低了对用户的行为的约束,提高了AR处理的效果。

Description

移动终端的增强现实处理方法及装置
技术领域 本发明实施例涉及通信技术领域, 尤其涉及一种移动终端的增强现实处 理方法及装置。 背景技术
增强现实 (Augmented Reality, AR), 把原本在现实世界的一定时间空间 范围内 艮难体验到的实体信息例如, 视觉信息、 声音、 味道或触觉等, 通过 科学技术模拟仿真后再叠加到现实世界被人类感官所感知, 从而达到超越现 实的感官体验, 这种技术叫做增强现实技术, 简称 AR技术。
三维注册, 通过计算机图形学分析, 获取三维空间中具体物体的三维空 间坐标, 然后根据获取的三维空间坐标将由计算机生成的虚拟物体绑定拼接 到真实的三维空间中去, 以达到真实环境和虚拟物体的准确无缝融合。
基于移动终端的 AR应用, 是通过移动终端的摄像头获取现实世界的真 实信息, 识别真实世界的 AR目标, 在真实的 AR目标上叠加一些虚拟信息, 该虚拟信息也可以称为是 AR内容, 帮助用户看到真实的 AR 目标之外, 显 示与该 AR目标相关联的 AR内容。
在这种 AR应用模式中,特别强调了 AR内容和 AR目标之间空间跟踪与 注册的准确性, 即当用户使用摄像头观察 AR 目标时, 随着镜头的转动或者 AR目标的移动, 用户可以体验到 AR内容, 如虚拟 3D对象和 AR目标一体 化的随动效果。 同时, 用户和 AR 内容之间可以进行交互, 如点击、 放大、 缩小、 旋转等。
在对现有技术进行研究后, 发明人发现, 现有技术中, 用户通过移动终 端使用 AR应用程序时, 必须对准 AR目标, 否则叠加的 AR内容就会随着视 野中的目标物移动而不断变换位置。 但是当用户查看 AR内容时, 通常情况 下并不想让 AR 内容随着移动, 此时让用户稳定的对准目标物, 就限制了用 户行为, 增加了用户的负担。 但是如果移开了终端, 则根据现有处理流程, 那么叠加的 AR内容就会消失, 导致用户的体验变差。 发明内容 本发明实施例提供一种移动终端的增强现实处理方法及装置, 以实现对 图像进行定格处理, 降低对用户的行为的约束, 提高 AR处理的效果。
第一方面, 本发明实施例提供一种移动终端的增强现实处理方法, 包括: 从摄像头获取釆集到的实时图像, 将所述实时图像緩存;
将所述实时图像进行增强现实 AR处理生成第一 AR图像, 并将所述第 一 AR图像显示;
判断是否进行定格处理, 若是, 则从緩存的距离当前时刻第一预设时间 范围内的实时图像中确定一帧緩存的实时图像作为定格图像, 将所述定格图 像进行 AR处理生成 AR定格图像并显示。
在第一种可能的实现方式中, 所述判断是否进行定格处理, 具体为: 检测所述移动终端在第二预设时间范围内是否保持静止状态, 若是, 则 进行定格处理。
结合第一方面的第一种可能的实现方式, 在第二种可能的实现方式中, 所述检测所述移动终端在第二预设时间范围内是否保持静止状态, 若是, 则 进行定格处理, 具体为:
根据在所述第二预设时间范围内通过重力加速度计釆集到的重力加速度 信息和通过数字罗盘釆集到的方位信息, 判断所述移动终端在所述第二预设 时间范围内是否保持静止状态, 若是, 则进行定格处理。
在第三种可能的实现方式中, 所述从緩存的距离当前时刻第一预设时间 范围内的实时图像中确定至少一帧緩存的实时图像作为定格图像, 具体为: 对于每一帧緩存的实时图像, 根据所述緩存的实时图像中的第一 AR目 标的位置生成位置权重, 将所述位置权重最大的实时图像确定为所述定格图 像。
在第四种可能的实现方式中, 所述从緩存的距离当前时刻第一预设时间 范围内的实时图像中确定至少一帧緩存的实时图像作为定格图像, 具体为: 对于每一帧緩存的实时图像, 根据所述緩存的实时图像中的第一 AR目 标的位置生成位置权重, 根据所述緩存的实时图像中的第一 AR目标所占的 面积比例生成面积权重, 根据所述緩存的实时图像中的第一 AR目标的清晰 度生成清晰度权重, 根据每一帧所述緩存的实时图像的所述位置权重、 所述 面积权重和所述清晰度权重确定所述定格图像。
在第五种可能的实现方式中, 所述将所述实时图像进行 AR处理生第一 AR图像, 并将所述第一 AR图像显示, 包括:
获取緩存的第一 AR目标基准位置信息, 根据所述緩存的第一 AR目标 基准位置信息对所述实时图像进行跟踪, 根据跟踪到的第一 AR目标和所述 第一 AR目标标准尺寸信息进行三维注册计算, 生成第一旋转参数和第一平 移参数, 将所述第一旋转参数和所述第一平移参数緩存;
获取緩存的第一 AR内容,根据所述第一旋转参数和所述第一平移参数, 将所述实时图像和所述第一 AR内容进行虚实融合渲染处理, 生成所述第一 AR图像并显示。
结合第一方面的第五种可能的实现方式, 在第六种可能的实现方式中, 所述获取緩存的第一 AR目标基准位置信息之前, 所述方法还包括:
对所述实时图像进行特征检测和描述, 生成第一特征检测描述数据, 将 所述第一特征检测描述数据发送给 AR服务器, 以使所述 AR服务器根据所 述第一特征检测描述数据进行 AR目标检测;
接收所述 AR服务器在检测到第一 AR目标时发送的第一检测结果, 其 中, 所述第一检测结果中携带有第一 AR目标信息, 所述第一 AR目标信息 包括: 用以指示所述第一 AR目标在所述实时图像中的位置的第一 AR目标 基准位置信息和用以指示所述第一 AR目标在标准图像中的大小的第一 AR 目标标准尺寸信息, 将所述第一 AR目标信息緩存;
根据所述第一检测结果停止向所述 AR服务器发送所述第一特征检测描 述数据;
从所述 AR服务器获取所述第一 AR目标的第一 AR内容, 将所述第一 AR内容緩存。
结合第一方面的第六种可能的实现方式, 在第七种可能的实现方式中, 所述将所述定格图像进行 AR处理生成 AR定格图像并显示, 具体为:
获取緩存的所述定格图像对应的第一旋转参数、 第一平移参数和所述第 一 AR内容, 根据所述定格图像对应的第一旋转参数和第一平移参数, 将所 述定格图像和所述第一 AR内容进行虚实融合渲染处理, 生成所述 AR定格 图像并显示。
结合第一方面的第六种可能的实现方式, 在第八种可能的实现方式中, 所述判断是否进行定格处理, 具体为:
根据在第二预设时间范围内生成的所述第一旋转参数和所述第一平移参 数, 判断所述移动终端在所述第二预设时间范围内是否保持静止状态, 若是, 则进行定格处理。
结合第一方面的第五种可能的实现方式, 在第九种可能的实现方式中, 所述第一 AR目标信息还包括: 用以指示所述第一 AR目标的类型的第一 AR 目标类型信息;
所述判断是否进行定格处理, 具体为:
若所述第一 AR目标类型信息为浏览类型, 则进行定格处理。
结合第一方面的第五种可能的实现方式, 在第十种可能的实现方式中, 所述判断是否进行定格处理, 若是, 则从緩存的距离当前时刻第一预设时间 范围内的实时图像中确定至少一帧緩存的实时图像作为定格图像之后, 还包 括:
对所述实时获取到的实时图像进行特征检测和描述, 生成第二特征检测 描述数据, 将所述第二特征检测描述数据发送给所述 AR服务器, 以使所述 AR服务器根据所述第二特征检测描述数据进行 AR目标检测;
接收所述 AR服务器在检测到第二 AR目标时发送的第二检测结果, 其 中, 所述第二检测结果中携带有第二 AR目标信息, 所述第二 AR目标信息 包括: 用以指示所述第二 AR目标在所述实时图像中的位置的第二 AR目标 基准位置信息和用以指示所述第二 AR目标在所述标准图像中的大小的第二 AR目标标准尺寸信息, 将所述第二 AR目标信息緩存;
根据所述第二检测结果停止向所述 AR服务器发送所述第二特征检测描 述数据;
将所述第二 AR目标信息緩存, 根据所述第二 AR目标基准位置信息对 所述实时图像中的第二 AR目标进行跟踪, 若在第三预设时间范围内跟踪到 所述第二 AR目标,则从所述 AR服务器获取所述第二 AR目标的第二 AR内 容, 将所述第二 AR内容緩存, 生成解除定格指示信息并显示;
若接收到的解除定格指令, 则根据緩存的所述第二 AR目标基准位置信 息对所述实时图像中的第二 AR目标进行跟踪, 根据跟踪到的第二 AR目标 和所述第二 AR目标标准尺寸信息进行三维注册计算, 生成第二旋转参数和 第二平移参数 , 将所述第二旋转参数和所述第二平移参数緩存;
根据所述第二旋转参数和所述第二平移参数, 将所述实时图像和所述第 二 AR内容进行虚实融合渲染处理, 生成所述第二 AR图像并显示。
第二方面, 本发明实施例提供一种移动终端的增强现实处理装置, 包括: 图像获取单元, 用于从摄像头获取釆集到的实时图像, 将所述实时图像 緩存;
第一增强现实处理单元, 与所述图像获取单元相连, 用于将所述实时图 像进行增强现实 AR处理生成第一 AR图像, 并将所述第一 AR图像显示; 定格处理单元, 用于判断是否进行定格处理, 若是, 则从緩存的距离当 前时刻第一预设时间范围内的实时图像中确定一帧緩存的实时图像作为定格 图像, 将所述定格图像进行 AR处理生成 AR定格图像并显示。
在第一种可能的实现方式中, 所述定格处理单元具体用于检测所述移动 终端在第二预设时间范围内是否保持静止状态, 若是, 则进行定格处理。
结合第二方面的第一种可能的实现方式, 在第二种可能的实现方式中, 所述定格处理单元具体用于根据在所述第二预设时间范围内通过重力加速度 计釆集到的重力加速度信息和通过数字罗盘釆集到的方位信息, 判断所述移 动终端在所述第二预设时间范围内是否保持静止状态, 若是, 则进行定格处 理。
在第三种可能的实现方式中, 所述定格处理单元具体用于对于每一帧緩 存的实时图像, 根据所述緩存的实时图像中的第一 AR目标的位置生成位置 权重, 将所述位置权重最大的实时图像确定为所述定格图像。
在第四种可能的实现方式中, 所述定格处理单元具体用于对于每一帧緩 存的实时图像, 根据所述緩存的实时图像中的第一 AR目标的位置生成位置 权重, 根据所述緩存的实时图像中的第一 AR目标所占的面积比例生成面积 权重,根据所述緩存的实时图像中的第一 AR目标的清晰度生成清晰度权重, 根据每一帧所述緩存的实时图像的所述位置权重、 所述面积权重和所述清晰 度权重确定所述定格图像。
在第五种可能的实现方式中, 所述第一增强现实处理单元, 包括: 第一跟踪注册子单元, 与所述图像获取单元相连, 用于获取緩存的第一
AR目标基准位置信息,根据所述緩存的第一 AR目标基准位置信息对所述实 时图像进行跟踪, 根据跟踪到的第一 AR目标和所述第一 AR目标标准尺寸 信息进行三维注册计算, 生成第一旋转参数和第一平移参数, 将所述第一旋 转参数和所述第一平移参数緩存;
第一渲染子单元, 与所述第一跟踪注册子单元相连, 用于获取緩存的第 一 AR内容, 根据所述第一旋转参数和所述第一平移参数, 将所述实时图像 和所述第一 AR内容进行虚实融合渲染处理, 生成所述第一 AR图像并显示。
结合第二方面的第五种可能的实现方式, 在第六种可能的实现方式中, 所述第一增强现实处理单元还包括:
第一检测子单元, 与所述图像获取单元相连, 用于对所述实时图像进行 特征检测和描述, 生成第一特征检测描述数据, 将所述第一特征检测描述数 据发送给 AR服务器, 以使所述 AR服务器根据所述第一特征检测描述数据 进行 AR目标检测;
第一接收子单元, 用于接收所述 AR服务器在检测到第一 AR目标时发 送的第一检测结果, 其中, 所述第一检测结果中携带有第一 AR目标信息, 所述第一 AR目标信息包括: 用以指示所述第一 AR目标在所述实时图像中 的位置的第一 AR目标基准位置信息和用以指示所述第一 AR目标在标准图 像中的大小的第一 AR目标标准尺寸信息, 将所述第一 AR目标信息緩存; 第一控制子单元, 分别与所述第一检测子单元和所述第一接收子单元相 连, 用于根据所述第一检测结果停止向所述 AR服务器发送所述第一特征检 测描述数据;
第一获取子单元, 用于从所述 AR服务器获取所述第一 AR目标的第一 AR内容, 将所述第一 AR内容緩存。
结合第二方面的第六种可能的实现方式, 在第七种可能的实现方式中, 所述定格处理单元具体用于获取緩存的所述定格图像对应的第一旋转参数、 第一平移参数和所述第一 AR内容, 根据所述定格图像对应的第一旋转参数 和第一平移参数, 将所述定格图像和所述第一 AR内容进行虚实融合渲染处 理, 生成所述 AR定格图像并显示。
结合第二方面的第六种可能的实现方式, 在第八种可能的实现方式中, 所述定格处理单元具体用于根据在第二预设时间范围内生成的所述第一旋转 参数和所述第一平移参数, 判断所述移动终端在所述第二预设时间范围内是 否保持静止状态, 若是, 则进行定格处理。
结合第二方面的第五种可能的实现方式, 在第九种可能的实现方式中, 所述第一 AR目标信息还包括: 用以指示所述第一 AR目标的类型的第一 AR 目标类型信息;
所述定格处理单元具体用于若所述第一 AR目标类型信息为浏览类型 , 则进行定格处理。
结合第二方面的第五种可能的实现方式, 在第十种可能的实现方式中, 所述移动终端的增强现实处理装置, 还包括第二增强现实处理单元, 所述第 二增强现实处理单元包括:
第二检测子单元, 与所述图像获取单元相连, 对所述实时图像进行特征 检测和描述, 生成第二特征检测描述数据, 将所述第二特征检测描述数据发 送给所述 AR服务器, 以使所述 AR服务器根据所述第二特征检测描述数据 进行 AR目标检测;
第二接收子单元, 用于接收所述 AR服务器在检测到第二 AR目标时发 送的第二检测结果, 其中, 所述第二检测结果中携带有第二 AR目标信息, 所述第二 AR目标信息包括: 用以指示所述第二 AR目标在所述实时图像中 的位置的第二 AR目标基准位置信息和用以指示所述第二 AR目标在所述标 准图像中的大小的第二 AR目标标准尺寸信息;
第二控制子单元, 分别与所述第二检测子单元和所述第二接收子单元相 连, 根据所述第二检测结果停止向所述 AR服务器发送所述第二特征检测描 述数据;
緩存处理子单元,分别与所述图像获取单元和所述第二接收子单元相连, 用于将所述第二 AR目标信息緩存, 根据所述第二 AR目标基准位置信息对 所述实时图像中的第二 AR目标进行跟踪, 若在第三预设时间范围内跟踪到 所述第二 AR目标,则从所述 AR服务器获取所述第二 AR目标的第二 AR内 容, 将所述第二 AR内容緩存, 生成解除定格指示信息并显示;
第二跟踪注册子单元, 与所述图像获取单元相连, 用于若接收到的解除 定格指令, 则根据緩存的所述第二 AR目标基准位置信息对所述实时图像中 的第二 AR目标进行跟踪,根据跟踪到的第二 AR目标和所述第二 AR目标标 准尺寸信息进行三维注册计算, 生成第二旋转参数和第二平移参数, 将所述 第二旋转参数和所述第二平移参数緩存;
第二渲染子单元, 与所述第二跟踪注册子单元相连, 用于根据所述第二 旋转参数和所述第二平移参数, 将所述实时图像和所述第二 AR内容进行虚 实融合渲染处理, 生成所述第二 AR图像并显示。
本实施例提供的移动终端的增强现实处理方法及装置, 增强现实处理装 置从摄像头获取釆集到的实时图像, 将实时图像緩存, 将实时图像进行增强 现实 AR处理生成第一 AR图像,并将第一 AR图像显示,判断是否进行定格 处理, 若是, 则从緩存的距离当前时刻第一预设时间范围内的实时图像中确 定一帧緩存的实时图像作为定格图像, 将定格图像进行 AR处理生成 AR定 格图像并显示。 通过对定格处理的判断, 当需要进行定格处理时, 从緩存的 实时图像中确定一帧实时图像进行 AR处理生成 AR定格图像并显示, 使得 用户可以方便地观看定格后的 AR图像, 降低了对用户的行为的约束, 大大 提高了 AR处理的效果。 附图说明 为了更清楚地说明本发明实施例或现有技术中的技术方案, 下面将对实 施例或现有技术描述中所需要使用的附图作简单地介绍, 显而易见地, 下面 描述中的附图仅仅是本发明的一些实施例, 对于本领域普通技术人员来讲, 在不付出创造性劳动的前提下, 还可以根据这些附图获得其他的附图。
图 1 为本发明实施例提供的第一种移动终端的增强现实处理方法流程 图;
图 2 为本发明实施例提供的第二种移动终端的增强现实处理方法流程 图;
图 3 为本发明实施例提供的第三种移动终端的增强现实处理方法流程 图;
图 4为本发明实施例提供的一种定格判断处理流程示意图;
图 5为本发明实施例提供的另一种定格判断处理流程示意图;
图 6为本发明实施例提供的一种定格后增强现实处理流程示意图; 图 7为本发明实施例提供的另一种定格后增强现实处理流程示意图; 图 8为本发明实施例提供的第一种移动终端的增强现实处理装置结构示 意图;
图 9为本发明实施例提供的另一种移动终端的增强现实处理装置结构示 意图;
图 10 为本发明实施例提供的第三种移动终端的增强现实处理装置结构 示意图;
图 11 为本发明实施例提供的第四种移动终端的增强现实处理装置结构 示意图。 具体实施方式 为使本发明实施例的目的、 技术方案和优点更加清楚, 下面将结合本发 明实施例中的附图, 对本发明实施例中的技术方案进行清楚、 完整地描述, 显然, 所描述的实施例是本发明一部分实施例, 而不是全部的实施例。 基于 本发明中的实施例, 本领域普通技术人员在没有作出创造性劳动前提下所获 得的所有其他实施例, 都属于本发明保护的范围。
图 1 为本发明实施例提供的第一种移动终端的增强现实处理方法流程 图。 如图 1所示, 本实施例提供的移动终端的增强现实处理方法具体可以应 用于集成有增强现实 AR应用的移动终端的 AR处理过程。 该移动终端具体 可以为手机、 数码相机、 笔记本电脑和平板电脑等终端设备。 本实施例提供 的移动终端的增强现实处理方法可以通过增强现实处理装置来执行。 该增强 现实处理装置可以集成在移动终端中。
本实施例提供的移动终端的增强现实处理方法具体包括:
步骤 101、 从摄像头获取釆集到的实时图像, 将所述实时图像緩存; 步骤 102、将所述实时图像进行增强现实 AR处理生成第一 AR图像, 并 将所述第一 AR图像显示;
步骤 103、 判断是否进行定格处理, 若是, 则从緩存的距离当前时刻第 一预设时间范围内的实时图像中确定一帧緩存的实时图像作为定格图像, 将 所述定格图像进行 AR处理生成 AR定格图像并显示。
具体地, 移动终端的摄像头可以釆集实时图像, 增强现实处理装置可以 将从摄像头获取到的实时图像显示在移动终端的显示屏上, 用户可以通过显 示屏观看该实时图像。 在实际应用过程中, 可以在移动终端的存储单元中设 置实时图像緩存区, 该实时图像緩存区中緩存有一帧当前的实时图像, 则后 续对实时图像的处理均可以从该实时图像緩存区中获得该实时图像。 例如, 从该实时图像緩存区中获取实时图像通过显示屏显示。
当用户启动了 AR应用时, 增强现实处理装置对摄像头釆集到的实时图 像进行 AR处理, 也可以从实时图像緩存区中获取实时图像, 并对该获取到 的实时图像进行 AR处理。 AR处理的过程具体可以为首先识别实时图像中的 第一 AR目标, 对第一 AR目标进行跟踪注册, 再将第一 AR内容与第一 AR 目标进行融合渲染, 生成第一 AR图像, 并将该第一 AR图像通过显示屏显 示给用户。 其中, AR目标具体为需要进行 AR处理的对象, AR内容为虚拟 信息, 如虚拟 3D对象。 例如, 在试衣的 AR应用中, 实时图像中的人即为 AR目标, 虚拟的衣服即为 AR内容, 生成的 AR图像即为人试穿虚拟衣服的 图像, 则用户通过显示屏看到的是人试穿衣服的效果, 当人在摄像头前动作 时, 由于是对实时图像的处理, 则显示给用户的为实时处理的 AR图像, 该 AR图像中的衣服也在动作。 AR内容可以存储在移动终端本地的存储单元中 , 也可以存储在 AR服务器端, 当 AR内容存储在 AR服务器端时,移动终端可 以从 AR服务器端获取 AR内容。
在对实时图像的 AR处理过程中, 可以生成图像信息, 该图像信息包括在 对该实时图像进行 AR处理的过程中生成的信息, 例如 AR目标在实时图像中 位置信息、 实时图像的清晰度、 AR目标在实时图像中的三维注册信息和时间 信息等。 每帧实时图像都有对应的图像信息。
具体地, 也可以将该图像信息进行緩存, 可以将实时图像和图像信息均 緩存入存储单元的图像队列緩存区中, 该图像队列緩存区可以緩存距离当前 时刻第一预设时间范围内, 对实时图像的 AR处理过程生成的图像信息, 即图 像队列緩存区中可以緩存多个图像信息。 将图像信息緩存至图像队列緩存区 的实现过程具体可以为:
记录当前时间 t,根据当前时间 t与图像队列緩存区的首个图像信息的緩存 时间 tl之间的差是否超过第一预设时间范围 T1来判断是否更新图像队列緩存 区, 即是否移除图像队列緩存区的一些图像信息; 将图像队列緩存区中满足 (t - ti > T1)的前 i个图像信息从图像队列緩存区 中移除, 将 11设为更新后的图像队列緩存区中的第一个图像信息的緩存时间; 其中,第一预设时间范围 T1可以根据摄像头釆集到的单帧实时图像的大 小及用户移动终端的存储单元的容量情况来动态调整。 例如, 设第一预设时 间范围 T1 的初始值可以设为 5s, 摄像头釆集到的单帧图像的大小可以根据 实时图像緩存区中緩存的实时图像来确定, 假设摄像头单帧图像的大小为 q, AR应用每秒处理的帧数为 r, 移动终端的内存为 a, 为了避免图像队列緩存 区占用过多的存储单元的存储空间, 设置图像队列緩存区占用存储单元的存 储空间不超过存储空间容量的 5%在实际处理过程中, q和 r的大小可能实时 变化, 则可以实时或以预设时间间隔对图像队列緩存区所占用的存储空间进 行判断, 若 qxrx21> 5%xa , 则说明图像队列緩存区所占的存储空间超过储空 间容量的 5%, 则可以令^ ! = (5%xa)/ (qxi , 以通过调整该第一预设时间范围 T1使得图像队列緩存区所占用的存储空间不超过存储空间总容量的 5%。
当用户需要对显示器显示的图像进行定格处理时, 可以将定格后的 AR 图像通过显示屏显示给用户。 触发定格处理的方式可以有多种:
在一种实现方式中, 用户可以手动触发该定格处理流程。 可以在 AR应 用界面上预设定格使能按钮, 用户可以通过控制该定格使能按钮触发定格处 理流程。 当显示屏为触摸屏时, 当用户希望使用定格功能查看 AR图像时, 可以直接点触该定格使能按钮, 即手动触发定格处理, AR应用获取该用户输 入的定格指示信息, 设置定格功能信号标志为启动, 执行定格处理。
在另一种实现方式中, 增强现实处理装置还可以自动判断是否需要执行 定格处理。 例如, 当移动终端在一定时间范围内处于静止状态, 则可以判断 用户希望查看定格的 AR图像, 则设置定格功能信号标志为启动。 执行定格 处理。
在又一种实现方式中, 增强现实处理装置还可以根据 AR对象的类型信 息来执行定格处理, 如 AR对象的类型信息为浏览类型, 例如 AR对象为一 静物,如书本或者且他用于展示静态物品等, 则说明用户希望看到静态的 AR 图像效果, 则执行该定格处理。 或者处理器根据 AR对象的类型信息获知该 AR对象为交互性的对象, 用户需要通过触摸或点击交互信息了解更多的 AR 内容, 当这种交互信息的数量达到一定阈值时,判断用户想要详细了解该 AR 内容, 则执行该定格处理。
若判断需要进行定格处理, 则从图像队列緩存区中确定一帧效果好的实 时图像作为定格图像。 在实际应用过程中, 也可以从图像队列緩存区中确定 多帧实时图像作为定格图像, 并将确定的多帧定格图像通过显示屏显示给用 户, 由用户选择其中一帧定格图像, 再将该选择的定格图像进行 AR处理生 成 AR定格图像并通过显示屏显示。 或者, 确定的多帧定格图像可以将确定 的多帧定格图像都进行 AR处理生成多帧 AR定格图像, 并通过分屏形式显 示给用户, 多帧 AR定格图像可以从多个角度体现 AR处理的效果。 或者, 可以从图像队列緩存区中确定一帧效果最好的实时图像作为定格图像, 并对 该定格图像进行 AR处理。若判断不需要进行定格处理,则继续执行步骤 101, 对实时图像进行 AR处理, 并将生成的第一 AR图像通过显示屏显示给用户。
在定格处理过程中, 虽然显示给用户的是 AR定格图像, 但是, 增强现 实处理装置还分配有其他线程继续执行获取实时图像并对实时图像跟踪处 理。
当用户不需要查看 AR定格图像时, 可以解除定格, 解除定格的实现方 式也可以有多种, 可以向用户显示用于解除定格的功能按钮, 用户手动控制 以实现解除定格功能, 或者在 AR 目标跟丟后, 检测到新的 AR 目标时, 自 动提示用户进行解除定格的操作。 当用户解除定格时, 则设置定格功能信号 标志为非启动, 继续后台运行的对实时图像跟踪处理的流程, 再对跟踪到的 AR 目标进行三维注册计算, 并根据 AR 内容进行虚实融合渲染处理, 生成 AR图像并显示。
本实施例提供的移动终端的增强现实处理方法, 增强现实处理装置从摄 像头获取釆集到的实时图像,将实时图像緩存,将实时图像进行增强现实 AR 处理生成第一 AR图像, 并将第一 AR图像显示, 判断是否进行定格处理, 若是, 则从緩存的距离当前时刻第一预设时间范围内的实时图像中确定一帧 緩存的实时图像作为定格图像, 将定格图像进行 AR处理生成 AR定格图像 并显示。 通过对定格处理的判断, 当需要进行定格处理时, 从緩存的实时图 像中确定一帧实时图像进行 AR处理生成 AR定格图像并显示, 使得用户可 以方便地观看定格后的 AR图像, 降低了对用户的行为的约束, 大大提高了 AR处理的效果。 图 2为本发明实施例提供的第二种移动终端的增强现实处理方法流程 图。 如图 2所示, 在本实施例中, 步骤 102, 所述将所述实时图像进行 AR处 理生第一 AR图像, 并将所述第一 AR图像显示, 具体可以包括如下步骤: 步骤 205、获取緩存的第一 AR目标基准位置信息,根据所述緩存的第一 AR目标基准位置信息对所述实时图像进行跟踪,根据跟踪到的第一 AR目标 和所述第一 AR目标标准尺寸信息进行三维注册计算, 生成第一旋转参数和 第一平移参数, 将所述第一旋转参数和所述第一平移参数緩存;
步骤 206、获取緩存的第一 AR内容,根据所述第一旋转参数和所述第一 平移参数, 将所述实时图像和所述第一 AR内容进行虚实融合渲染处理, 生 成所述第一 AR图像并显示。
具体地, 可以设置 AR服务器为移动终端提供 AR应用服务。 增强现实 处理装置可以将实时图像作为测试图像, 对测试图像进行特征检测和描述, 生成第一特征检测描述数据, 并将该第一特征检测描述数据发送给 AR服务 器, AR服务器的数据库中存储有标准图像的特征检测数据, AR服务器将接 收到的第一特征检测描述数据与数据库中的标准图像的特征检测数据进行匹 配, 若匹配成功, 则在测试图像中检测到第一 AR 目标, 并生成用以指示检 测到该第一 AR 目标的第一检测结果。 在实际应用过程中, 增强现实处理装 置也可以将实时图像作为测试图像直接发送给 AR服务器, 由 AR服务器对 测试图像进行特征检测和描述, 生成第一特征检测描述数据, 将第一特征检 测描述数据与数据库中的标准图像的特征检测数据进行匹配。 测试图像与标 准图像的匹配过程还可以釆用其他图像匹配的方式实现, 并不限于利用特征 检测数据的方式。
增强现实处理装置接收 AR服务器在检测到第一 AR 目标时发送的第一 检测结果, 其中, 第一检测结果中携带有第一 AR 目标信息, 第一 AR 目标 信息包括: 用以指示第一 AR 目标在实时图像中的位置的第一 AR 目标基准 位置信息和用以指示第一 AR 目标在标准图像中的大小的第一 AR 目标标准 尺寸信息, 将第一 AR 目标信息进行緩存。 第一 AR 目标信息还可以包括第 一 AR目标的类型信息和第一 AR的特征信息等。可以在存储单元中设置 AR 目标緩存区, 以对该第一 AR 目标信息进行緩存。 增强现实处理装置接收到 AR服务器发送的该第一检测结果后, 可以停止向 AR服务器发送实时图像, 以避免 AR服务器的重复检测。
增强现实处理装置从 AR服务器中下载该第一 AR目标对应的第一 AR内 容, AR服务器也可以将该第一 AR内容携带在第一检测结果中发送给移动终 端。 可以在存储单元中设置 AR内容緩存区, 以对该第一 AR内容进行緩存。
对于之后釆集到的实时图像的处理, 增强现实处理装置可以从存储单元 的 AR目标緩存区中获取緩存的第一 AR目标基准位置信息,根据该第一 AR 目标基准位置信息对实时图像中的第一 AR 目标进行跟踪, 可以将用于进行 目标跟踪的实时图像作为跟踪图像。 在对第一 AR 目标的跟踪过程中, 可以 生成第一跟踪信息, 第一跟踪信息具体包括第一 AR 目标在跟踪图像中的位 置信息和跟踪图像的清晰度等信息。 还可以在存储单元中设置 AR 目标位置 緩存区, 将跟踪过程中生成的第一跟踪信息, 以及在三维注册计算过程中生 成的第一旋转参数和第一平移参数等 AR 目标在实时图像中的三维注册信息 緩存至该 AR 目标位置緩存区。 若在对第一 AR 目标的跟踪过程中, 在跟踪 图像中未跟踪到该第一 AR目标, 即第一目标 AR跟丟,或者第一目标 AR离 开摄像头的釆集范围, 则将 AR 目标緩存区和 AR 目标位置緩存区清空。 重 新向 AR服务器发送实时图像,以使 AR服务器对实时图像进行 AR目标检测, 后续处理流程可以参照上述描述, 在此不再赘述。 若重新检测到的 AR 目标 仍为第一 AR目标, 则可以不用重新下载第一 AR目标对应的第一 AR内容, 直接从 AR内容緩存区内获取第一 AR内容即可。若重新检测到的 AR目标不 是该第一 AR目标, 则将 AR内容緩存区清空, 并从 AR服务器下载新的 AR 目标对应的 AR内容。
增强现实处理装置根据第一旋转参数和第一平移参数, 将实时图像和第 一 AR内容进行虚实融合渲染处理, 生成第一 AR图像并通过显示屏显示。
在本实施例中, 步骤 205, 所述获取緩存的第一 AR目标基准位置信息之 前, 所述方法进一步还可以包括:
步骤 201、 对所述实时图像进行特征检测和描述, 生成第一特征检测描 述数据, 将所述第一特征检测描述数据发送给 AR服务器, 以使所述 AR服 务器根据所述第一特征检测描述数据进行 AR目标检测;
步骤 202、接收所述 AR服务器在检测到第一 AR目标时发送的第一检测 结果, 其中, 所述第一检测结果中携带有第一 AR目标信息, 所述第一 AR 目标信息包括: 用以指示所述第一 AR目标在所述实时图像中的位置的第一 AR目标基准位置信息和用以指示所述第一 AR目标在标准图像中的大小的第 一 AR目标标准尺寸信息, 将所述第一 AR目标信息緩存;
步骤 203、根据所述第一检测结果停止向所述 AR服务器发送所述第一特 征检测描述数据;
步骤 204、 从所述 AR服务器获取所述第一 AR目标的第一 AR内容, 将 所述第一 AR内容緩存。
图 3为本发明实施例提供的第三种移动终端的增强现实处理方法流程图。 如图 3所示,本发明实施例提供的移动终端的增强现实处理方法的实现过程具 体如下:
步骤 31、 获取摄像头釆集的实时图像, 将实时图像緩存至实时图像緩存 区;
步骤 32、 判断 AR目标位置緩存区是否緩存有 AR目标基准位置信息, 若 AR目标位置緩存区中没有緩存 AR目标基准位置信息, 说明 AR应用刚启动, AR目标位置緩存区为空, 或者在 AR目标跟踪过程中没有跟踪到 AR目标, 将 AR目标位置緩存区清空, 执行步骤 33; 若 AR目标位置緩存区中緩存有 AR目 标基准位置信息, 则执行步骤 39;
步骤 33、 在 AR应用刚启动或者 AR目标跟丟的情况下, 将实时图像作为 测试图像, 对测试图像进行检测和描述, 进行特征检测和描述, 生成特征检 测描述数据, 将该特征检测描述数据发送给 ARI良务器;
步骤 34、 AR服务器将该特征检测描述数据与数据库中的标准图像的特征 检测描述数据进行匹配, 若匹配成功, 则在测试图像中检测到 AR目标, 生成 检测到 AR目标的检测结果, 并发送给移动终端, 若匹配不成功, AR服务器 会生成用以指示没有检测到 AR目标的检测结果, 并发送给移动终端;
步骤 35、 移动终端根据检测结果获知检测到 AR目标, 则停止向 AR服务 器发送测试图像, 并执行步骤 36; 若根据检测结果获知没有检测到 AR目标, 则执行步骤 31 ;
步骤 36、移动终端从 ARI良务器下载 AR目标信息,该 AR目标信息包括用以 指示该 AR目标在测试图像中的位置的 AR目标基准位置信息、 用以指示该 AR 目标在标准图像中的大小的 AR目标标准尺寸信息、 AR目标的类型信息和 AR 目标的特征信息等, 并将 AR目标信息緩存至 AR目标位置緩存区; 步骤 37、 判断 AR内容緩存区中是否存储有该 AR目标对应的 AR内容, 若 存在, 则执行步骤 310; 若不存在, 则执行步骤 38;
步骤 38、移动终端从 AR服务器下载该 AR目标对应的 AR内容, 将 AR内容 緩存至 AR内容緩存区内;
对于 AR应用刚启动或者在 AR目标跟踪过程中没有跟踪到 AR目标时, AR 目标位置緩存区为空, 对于 AR服务器第一次跟踪到 AR目标的实时图像, 不 对实时图像进行 AR目标跟踪处理, 直接根据 AR服务器发送的 AR目标信息中 的 AR目标基准位置信息对该实时图像进行三维注册计算, 即执行步骤 312; 步骤 39、 从 AR目标位置緩存区获取 AR目标基准位置信息;
步骤 310、 将实时图像作为跟踪图像, 根据该 AR目标基准位置信息对跟 踪图像中的 AR目标进行跟踪;
步骤 311、 若在跟踪图像中跟踪到 AR目标, 则执行步骤 312, 在对跟踪图 像的跟踪过程中, 可以生成跟踪信息, 该跟踪信息具体可以包括 AR目标在跟 踪图像中位置信息、 跟踪图像的清晰度和时间信息等; 若在跟踪图像中没有 跟踪到 AR目标, 则执行步骤 31;
步骤 312、 根据跟踪信息、 AR目标位置緩存区中 AR目标基准位置信息及 AR目标标准尺寸信息和摄像头的焦距和光心等摄像机参数计算得到 AR目标 发生的旋转参数、 平移参数等三维注册信息, 将步骤 311和步骤 312中产生的 信息作为图像信息緩存至图像队列緩存区中;
具体的, 可以根据 AR目标位置緩存区中 AR目标基准位置信息及 AR目标 标准尺寸信息计算出摄像头的焦距和光心等参数,再根据 AR目标位置緩存区 中 AR目标基准位置信息、 AR目标标准尺寸信息、 摄像头的焦距和光心等参 数计算得到 AR目标发生的旋转参数、 平移参数等三维注册信息。
步骤 313、 根据三维注册信息将 AR内容緩存区中的第一 AR内容与当前跟 踪图像中的第一 AR目标进行虚实融合渲染生成 AR图像, 并通过显示屏显示 给用户;
步骤 314、 判断是否进行定格处理, 若是, 则执行步骤 315; 若否, 则执 行步骤 31 ;
步骤 315、设置定格功能信号标志为启动, 从图像队列緩存区中确定一帧 效果最好的实时图像作为定格图像;
步骤 316、 根据该定格图像的图像信息, 从 AR目标位置緩存区中获取该 定格图像的三维注册信息, 从 AR内容緩存区中获取 AR内容;
步骤 317、 根据三维注册信息、 AR内容对该定格图像进行虚实融合渲染 处理, 生成 AR定格图像并显示;
步骤 318、 判断是否解除定格, 若是, 则执行步骤 319, 后执行步骤 31 ; 若否, 则执行步骤 317;
步骤 319、 设置定格功能信号标志为非启动, 将图像队列緩存区清空。 在本实施例中, 步骤 103中, 所述将所述定格图像进行 AR处理生成 AR 定格图像并显示, 具体可以为:
获取緩存的所述定格图像对应的第一旋转参数、 第一平移参数和所述第 一 AR内容, 根据所述定格图像对应的第一旋转参数和第一平移参数, 将所 述定格图像和所述第一 AR内容进行虚实融合渲染处理, 生成所述 AR定格 图像并显示。
对定格图像的 AR处理过程具体可以参照对实时图像的 AR处理过程的 详细描述, 在此不再赘述„
在本实施例中, 步骤 103中, 所述判断是否进行定格处理, 具体可以为: 检测所述移动终端在第二预设时间范围内是否保持静止状态, 若是, 则 进行定格处理。
检测移动终端在第二预设时间范围内是否保持静止状态的方式可以有多 种, 可以通过硬件检测也可以通过软件计算。
在本实施例中, 所述检测所述移动终端在第二预设时间范围内是否保持 静止状态, 若是, 则进行定格处理, 具体可以为:
根据在所述第二预设时间范围内通过重力加速度计釆集到的重力加速度 信息和通过数字罗盘釆集到的方位信息, 判断所述移动终端在所述第二预设 时间范围内是否保持静止状态, 若是, 则进行定格处理。
在一种实现方式中, 移动终端中可以设置有重力加速度计和数字罗盘, 重力加速度集可以釆集重力加速度信息, 数字罗盘可以釆集方位信息, 则根 据重力加速度信息和方位信息即可判断移动终端是否处于静止状态。
具体地, 可以在存储单元中设置硬件参数队列緩存区, 将重力加速度计 釆集到的重力加速度信息和数字罗盘釆集到的方位信息及该次緩存的时间信 息作为一个元素緩存到硬件参数队列緩存区尾部。 硬件参数队列緩存区存储 的第一个元素的时间信息为 tl , 当前时间为 t。
图 4为本发明实施例提供的一种定格判断处理流程示意图。 如图 4所示, 定格处理判断的流程步骤具体如下:
步骤 41、 判断当前时间 t与硬件参数队列緩存区中存储的第一个元素的时 间信息 11的时间差是否超过第二预设时间范围 Ts , 若超过第二预设时间范围 Ts, 则执行步骤 42 , 若没超过第二预设时间范围 Ts , 则执行步骤 46;
步骤 42、 根据每个元素中的重力加速度信息和方位信息计算第二预设时 间范围 Ts内的重力加速度计和数字罗盘的变化, 具体计算过程为:
Figure imgf000019_0001
存区中緩存的元素个数, 为硬件参数緩存区中緩存的第 i个重力加速度计 参数, 为硬件参数緩存区中緩存的第 i个緩存重力加速度计时的时间信息; 数字罗盘在 (t-tl)秒内的变化为 tw-t', 其中 n为硬件参数緩存区 中緩存的元素个数, Ci为硬件参数緩存区中緩存的第 i个数字罗盘参数, t为 硬件参数緩存区中緩存的第 i个緩存数字罗盘时的时间信息; 步骤 43、 将硬件参数队列緩存区中满足 (t - ti > T)的前 i个元素从硬件参数 队列緩存区中移除, 将 tl设为新緩存的硬件参数队列緩存区中的第一个元素 的时间信息;
步骤 44、 若步骤 42中计算得到的第二预设时间范围 Ts内重力加速度计的 变化 gdlff<0.5米 /秒平方, 执行步骤 45 , 否则, 执行步骤 46;
步骤 45、 若步骤 2中计算得到的第二预设时间范围 Ts内数字罗盘的变化 cdlff<5度, 执行步骤 47 , 否则, 执行步骤 46;
步骤 46、 设置定格功能信号标志为非启动;
步骤 47、 设置定格功能信号标志为启动。
在本实施例中, 步骤 103中, 所述判断是否进行定格处理, 具体可以为: 根据在第二预设时间范围内生成的所述第一旋转参数和所述第一平移参 数, 判断所述移动终端在所述第二预设时间范围内是否保持静止状态, 若是, 则进行定格处理。
在另一种实现方式中,可以根据步骤 205中三维注册计算过程中生成的第 一旋转参数和第一平移参数来判断移动终端是否处于静止状态。
具体地, 三维注册计算得到的第一旋转参数 rx、 ry和 rz, 以及第一平移参 数 tx、 ty和 tz, 其中, rx, ry和 rz分别表示移动终端在 x方向、 y方向和 z方向的 旋转的角度, tx、 ty和 tz分别表示移动终端在 X方向、 y方向和 z方向平移的单 位。 可以在存储单元中设置三维注册参数队列緩存区, 将第一旋转参数、 第 一平移参数及该次緩存的时间信息作为一个元素緩存到三维注册参数队列緩 存区尾部。
三维注册参数队列緩存区緩存的是第二预设时间范围内连续跟踪 AR 目 标时的三维注册参数信息。 若没有跟踪到 AR 目标, 则需要将三维注册参数 队列緩存区中的内容清空。
设该三维注册参数队列緩存区存储的第一个元素的时间信息为 tl , 当前 时间为 t。
图 5为本发明实施例提供的另一种定格判断处理流程示意图。如图 5所示, 定格处理判断的流程步骤具体如下:
步骤 51、 判断当前时间 t与三维注册参数队列緩存区中存储的第一个元素 的时间信息 11的时间差是否超过第二预设时间范围 Ts , 若超过第二预设时间 范围过 Ts, 则执行步骤 52, 没超过第二预设时间范围 Ts, 则执行步骤 56; 步骤 52、根据每个元素中第一旋转参数和所述第一平移参数计算第一 AR 目标在第二预设时间范围 Ts 内的旋转变化和平移变化, 具体计算过程为: 第一 AR目标在第二预设时间范围 Ts内的平移变化为: rdlff =∑" (rxl+l - rx)+ ( ryl+l - ry) + (rzl+l - rz)) . rdlff表示第一 AR目标在相邻两帧跟踪图像中发生旋转变化的角度差之和, 其中, n为三维注册参数緩存区中緩存的元素个数, 1¾、 !^和 分别为分别三 维注册参数緩存区中緩存的第 i个元素中的第一旋转参数;
第一 AR目标在第二预设时间范围 Ts内的平移变化为:
tdlff =∑" txl+rtx)+ι+ι-^)+ ϋζί+ {ζ) . tdlff表示第一 AR目标相邻两帧跟踪图像中发生平移变化的平移量之和,其 中, n为三维注册参数緩存区中緩存的元素个数, tXl、 1 和1 为三维注册参数 緩存区中緩存的第 i个元素中的第一平移参数;
步骤 53、 将三维注册参数队列緩存区中满足 (t - ti > T)的前 i个元素从三维 注册参数队列緩存区中移除, 将 tl设为新緩存的三维注册参数队列緩存区中 的第一个元素的时间信息;
步骤 54、若步骤 52中计算得到的约第二预设时间范围 Ts内第一 AR目标旋 转的变化 <5度, 执行步骤 55, 否则, 执行步骤 56;
步骤 55、 步骤 52中计算得到的第二预设时间范围 Ts内第一 AR目标平移的 变化 tdlff<5度, 执行步骤 57, 否则, 执行步骤 56;
步骤 56、 设置定格功能信号标志为非启动;
步骤 57、 设置定格功能信号标志为启动。
在本实施例中, 所述第一 AR目标信息还包括: 用以指示所述第一 AR 目标的类型的第一 AR目标类型信息;
步骤 103中, 所述判断是否进行定格处理, 具体为:
若所述第一 AR目标类型信息为浏览类型, 则进行定格处理。
在本实施例中, 步骤 103中, 所述从緩存的距离当前时刻第一预设时间 范围内的实时图像中确定一帧緩存的实时图像作为定格图像, 具体可以为: 对于每一帧緩存的实时图像, 根据所述緩存的实时图像中的第一 AR目 标的位置生成位置权重, 将所述位置权重最大的实时图像确定为所述定格图 像。
具体地, 通过计算第一 AR 目标整体出现的位置的中心坐标与该緩存的 实时图像中心的坐标之间的像素距离, 即获取第一 AR 目标的位置与屏幕中 心的距离。 根据第一 AR 目标的位置与屏幕中心的距离, 设置第一 AR 目标 在緩存图像的位置最靠近图像中心的緩存图像的位置权重最大, 距图像中心 最远的緩存图像的位置权重最小。 将位置权重最大的緩存图像确定为定格图 像。
本实施例中, 根据位置权重确定的定格图像, 第一 AR 目标的位置与屏 幕中心的距离较近, 以获得较好的显示效果, 这使得用户观看时更加舒适和 方便。 在本实施例中, 步骤 103中, 所述从緩存的距离当前时刻第一预设时间 范围内的实时图像中确定一帧緩存的实时图像作为定格图像, 具体可以为: 对于每一帧緩存的实时图像, 根据所述緩存的实时图像中的第一 AR目 标的位置生成位置权重, 根据所述緩存的实时图像中的第一 AR目标所占的 面积比例生成面积权重, 根据所述緩存的实时图像中的第一 AR目标的清晰 度生成清晰度权重, 根据每一帧所述緩存的实时图像的所述位置权重、 所述 面积权重和所述清晰度权重确定所述定格图像。
具体地, 在确定定格图像的过程中还可以考虑实时图像的面积和清晰度 等参数。
可以将图像队列緩存区中的緩存图像信息通过空域参数方程、 熵以及频 域调制传递函数 MTF等方法计算, 获取緩存的实时图像的清晰度。
将图像队列緩存区中緩存的实时图像的清晰度大小按从小到大排列, 可 以将排序编号作为緩存的实时图像的清晰度权重,即緩存的实时图像越清晰, 则緩存的实时图像的清晰度权重越大。
通过第一 AR 目标的坐标信息计算得到第一 AR 目标在緩存的实时图像 中出现的面积与第一 AR 目标整体的面积。 第一 AR 目标在緩存的实时图像 中出现的面积与第一 AR 目标整体的面积的比值作为面积比。 将面积比由大 到小排序, 设置每帧緩存的实时图像的面积比权重。 即若 AR 目标整体出现 在緩存图片中, 则面积比重最大。
若第一 AR 目标的坐标信息没有超出緩存的实时图像的坐标范围, 则为 第一 AR目标整体都出现在緩存图像中, 则面积比重为 1 ; 若 AR目标的坐标 信息超出跟踪图像的坐标范围, 则 AR 目标没有完全出现在跟踪图像, 可计 算出现在緩存图像内的第一 AR 目标的面积与第一 AR 目标的实际面积的比 值。
可以将緩存图像的位置权重、 面积权重和清晰度权重的权重之和最大的 緩存的实时图像确定为定格图像。
本实施例中, 根据位置权重、 面积权重和清晰度权重确定的定格图像, 使用户可以看到一个大而清晰, 且处于中心第一 AR 目标的定格图像, 这得 使用户观看时更加舒适和方便, 提高了定格效果。
图 6为本发明实施例提供的一种定格后增强现实处理流程示意图。 如图 6所示, 在本实施例中, 步骤 103 , 所述判断是否进行定格处理, 若是, 则从 緩存的距离当前时刻第一预设时间范围内的实时图像中确定一帧緩存的实时 图像作为定格图像之后, 所述方法还可以包括:
步骤 601、 对所述实时获取到的实时图像进行特征检测和描述, 生成第 二特征检测描述数据,将所述第二特征检测描述数据发送给所述 AR服务器, 以使所述 AR服务器根据所述第二特征检测描述数据进行 AR目标检测; 步骤 602、接收所述 AR服务器在检测到第二 AR目标时发送的第二检测 结果, 其中, 所述第二检测结果中携带有第二 AR 目标信息, 所述第二 AR 目标信息包括: 用以指示所述第二 AR 目标在所述实时图像中的位置的第二 AR目标基准位置信息和用以指示所述第二 AR目标在所述标准图像中的大小 的第二 AR目标标准尺寸信息, 将所述第二 AR目标信息緩存;
步骤 603、根据所述第二检测结果停止向所述 AR服务器发送所述第二特 征检测描述数据;
步骤 604、将所述第二 AR目标信息緩存, 根据所述第二 AR目标基准位 置信息对所述实时图像中的第二 AR 目标进行跟踪, 若在第三预设时间范围 内跟踪到所述第二 AR目标,则从所述 AR服务器获取所述第二 AR目标的第 二 AR内容, 将所述第二 AR内容緩存, 生成解除定格指示信息并显示; 步骤 605、若接收到的解除定格指令, 则根据緩存的所述第二 AR目标基 准位置信息对所述实时图像中的第二 AR 目标进行跟踪, 根据跟踪到的第二 AR目标和所述第二 AR目标标准尺寸信息进行三维注册计算,生成第二旋转 参数和第二平移参数, 将所述第二旋转参数和所述第二平移参数緩存;
步骤 606、 根据所述第二旋转参数和所述第二平移参数, 将所述实时图 像和所述第二 AR内容进行虚实融合渲染处理, 生成所述第二 AR图像并显 示。
具体地, 定格后, 虽然显示给用户的是 AR定格图像, 但是, 增强现实 处理装置还分配有其他线程继续执行获取实时图像并对实时图像进行相应地 处理。 增强现实处理装置可以以一个预设时间间隔获取摄像头釆集的实时图 像, 将该实时图像作为测试图像, 对测试图像进行特征检测、 描述, 生成特 征检测描述数据, 将该特征检测描述数据连同测试图像一起发送给 AR服务 器。 AR服务器将特征检测描述数据与数据库中的标准图像的特征检测描述数 据进行匹配。 若在测试图像中检测到第二 AR 目标, 生成用以指示检测到该 第二 AR 目标的第二检测结果, 并发送给移动终端。 该第二检测结果中携带 有第二 AR 目标信息。 移动终端接收到该第二检测结果后, 判断第二 AR 目 标信息与 AR 目标緩存区中的第一 AR 目标信息是否相同, 若不同, 则停止 向 AR服务器发送测试图像, 以避免 AR服务器的重复检测。 移动终端将该 第二 AR 目标信息緩存到存储单元的预加载 AR 目标緩存区中, 移动终端根 据第二 AR 目标信息中第二 AR 目标基准位置信息对作为跟踪图像的实时图 像进行跟踪, 若在第三预设时间范围内持续跟踪到第二 AR 目标, 则从 AR 服务器下载该第二 AR目标对应的第二 AR内容,将第二 AR内容緩存至存储 单元的预加载 AR内容緩存区, 并生成解除定格指示信息显示给用户, 以提 示用户解除定格。 该解除定格指示信息实现形式可以为弹出对话框, 以提示 用户选择是否查看新目标, 或者将手动解定格按钮高亮显示, 表示已经发现 新的 AR目标及下载了相对应的第二 AR内容。
若第二 AR目标信息与 AR目标緩存区中的第一 AR目标信息相同, 则重复 执行步骤 601和步骤 602, 直到检测到不同于第一 AR目标的新的 AR目标为止。
用户可以根据该解除定格指示信息选择继续保持定格或解除定格, 若用 户选择解除定格, 则输入解除定格指令, 增强现实处理装置则持续对跟踪图 像进行第二 AR目标的跟踪、 三维注册计算以及虚实渲染融合处理。 其具体实 现过程可以参照上述实施例的描述, 在此不再赘述。
若用户选择保持定格, 则输入保持定格指令, 增强现实处理装置执行步 骤 601和步骤 602, 若检测到的 AR目标仍为第二 AR目标, 且在预设时间范围 内持续跟踪到该第二 AR目标, 则再次向用户显示解除定格指示信息。 若检测 到的 AR目标与第二 AR目标不同,则将预加载 AR目标緩存区和预加载 AR内容 緩存区清空, 并将该新的 AR目标信息緩存至该预加载 AR目标緩存区。 移动 终端根据新的 AR目标信息中新的 AR目标基准位置信息对作为跟踪图像的实 时图像进行跟踪, 若在预设时间范围内持续跟踪到该新的 AR目标, 则从 AR 月良务器下载该新的 AR目标对应的 AR内容, 将该 AR内容緩存至 AR内容緩存 区, 并生成解除定格指示信息显示给用户。
在实际应用中, 新获取的 AR目标信息与预加载 AR目标緩存区的 AR目标 信息不同有两种情况: 一种为预加载目标緩存区中的 AR目标信息为空:
在每次启动定格功能时将预加载目标緩存区中的 AR 目标信息清空, 若 定格后一直没有发现 AR目标,或者新获取的 AR目标信息与 AR目标緩存区 緩存的 AR目标信息相同, 则预加载目标緩存区中的目标信息一直为空; 另一种为预加载目标緩存区中的目标信息不为空,但是新获取的 AR目标 信息与预加载目标緩存区中的 AR目标信息不同, 即不是连续发现 AR目标。
图 7为本发明实施例提供的另一种定格后增强现实处理流程示意图。 如 图 7所示, 定格后增强现实处理的流程步骤具体如下:
步骤 71、 定格功能启动, 为用户显示 AR定格图像;
步骤 72、 判断是否等待了 T2秒, 若是, 则执行步骤 73 , 若否, 则继续 等待;
步骤 73、 从摄像头获取实时图像;
步骤 74、 将实时图像作为测试图像进行图像特征检测和描述, 生成特征 检测描述数据, 将该特征检测描述数据发送给 AR服务器;
步骤 75、 AR服务器将该特征检测描述数据与数据库中的标准图像的特 征检测描述数据进行匹配, 若匹配成功, 则在测试图像中检测到 AR 目标, 生成检测到 AR目标的检测结果, 并发送给移动终端, 若匹配不成功, AR服 务器会生成用以指示没有检测到 AR目标的检测结果, 并发送给移动终端; 步骤 76、 移动终端根据检测结果获知检测到 AR目标, 则停止向 AR服 务器发送测试图像, 并执行步骤 77; 若根据检测结果获知没有检测到 AR目 标, 则执行步骤 72;
步骤 77、检测出的 AR目标为 AR目标 a, 下载 AR目标 a的 AR目标信 息;
步骤 78、 判断 AR目标 a的 AR目标信息与 AR目标緩存区中的 AR目 标信息是否相同, 若相同, 则执行步骤 72; 若不同, 则执行步骤 79;
步骤 79、 判断 AR目标 a的 AR目标信息与预加载的 AR目标緩存区中 的 AR 目标信息是否相同, 若相同, 则执行步骤 711 ; 若不同, 则执行步骤 710;
步骤 710、将 AR目标 a的 AR目标信息緩存至预加载的 AR目标緩存区; 步骤 711、 判断在 T3秒内是否持续跟踪到该 AR目标 a, 若是则执行步 骤 712; 若否则执行步骤 72;
步骤 712、 判断是否已经下载 AR目标 a的 AR内容, 若是, 则执行步骤 714; 若否, 则执行步骤 713;
步骤 713、 从 AR服务器下载 AR目标 a的 AR内容, 并将 AR内容緩存 至预加载的 AR内容緩存区;
步骤 714、 判断距离 AR内容下载的时间是否超过 T4秒, 若是, 则执行 步骤 715; 若否则继续等待;
步骤 715、 提示用户发现新的 AR目标;
步骤 716、 用户选择显示新的 AR目标, 执行步骤 717; 用户选择不显示 新的 AR目标, 执行步骤 718;
步骤 717、 设置定格功能信号标志为非启动;
步骤 718、 清空预加载的 AR目标緩存区和预加载的 AR内容緩存区, 执 行步骤 72。
在本实施例中, 通过预加载的 AR 目标位置緩存区和预加载的 AR内容 緩存区的设置,可以在定格过程中緩存新检测到的 AR目标的相关信息及 AR 内容, 当用户解除定格时, 可以立刻根据 AR目标位置緩存区和预加载的 AR 内容緩存区的数据进行后续处理, 避免了处理等待时间, 实现了无缝切换。
值得注意的是, 为了描述清楚, 上述实施例中通过实时图像緩存区、 图 像队列緩存区、 预加载的 AR目标位置緩存区、 预加载的 AR内容緩存区 AR 目标緩存区、 AR内容緩存区、 AR目标位置緩存区、 硬件参数队列緩存区和 三维注册参数队列緩存区以区分緩存的不同的信息, 但在实际实现过程中, 上述各緩存区可以仅为逻辑上的緩存区, 或不区分緩存区即通过统一緩存区 域来实现。
图 8为本发明实施例提供的第一种移动终端的增强现实处理装置结构示 意图。 如图 8所示, 本实施例提供的移动终端的增强现实处理装置 81具体可 以实现本发明任意实施例提供的移动终端的增强现实处理方法的各个步骤, 其具体实现过程, 在此不再赘述。 本实施例提供的移动终端的增强现实处理 装置 81包括图像获取单元 801、 第一增强现实处理单元 802和定格处理单元 803。 图像获取单元 801用于从摄像头获取釆集到的实时图像, 将所述实时图 像緩存。 第一增强现实处理单元 802与所述图像获取单元 801相连, 用于将 所述实时图像进行增强现实 AR处理生成第一 AR图像,并将所述第一 AR图 像显示。 定格处理单元 803用于判断是否进行定格处理, 若是, 则从緩存的 距离当前时刻第一预设时间范围内的实时图像中确定一帧緩存的实时图像作 为定格图像, 将所述定格图像进行 AR处理生成 AR定格图像并显示。
本实施例提供的移动终端的增强现实处理装置 81 , 图像获取单元 801从 摄像头获取釆集到的实时图像, 将所述实时图像緩存。 第一增强现实处理单 元 802将所述实时图像进行增强现实 AR处理生成第一 AR图像, 并将所述 第一 AR图像显示。 定格处理单元 803判断是否进行定格处理, 若是, 则从 緩存的距离当前时刻第一预设时间范围内的实时图像中确定一帧緩存的实时 图像作为定格图像, 将所述定格图像进行 AR处理生成 AR定格图像并显示。 通过对定格处理的判断, 当需要进行定格处理时, 从緩存的实时图像中确定 一帧实时图像进行 AR处理生成 AR定格图像并显示, 使得用户可以方便地 观看定格后的 AR图像, 降低了对用户的行为的约束, 大大提高了 AR处理 的效果。
图 9为本发明实施例提供的另一种移动终端的增强现实处理装置结构示 意图。 如图 9所示, 在本实施例中, 所述第一增强现实处理单元 802包括第 一跟踪注册子单元 905和第一渲染子单元 906。 第一跟踪注册子单元 905与 所述图像获取单元 801相连, 用于获取緩存的第一 AR目标基准位置信息, 根据所述緩存的第一 AR目标基准位置信息对所述实时图像进行跟踪, 根据 跟踪到的第一 AR目标和所述第一 AR目标标准尺寸信息进行三维注册计算, 生成第一旋转参数和第一平移参数, 将所述第一旋转参数和所述第一平移参 数緩存。 第一渲染子单元 906与所述第一跟踪注册子单元 905相连, 用于获 取緩存的第一 AR内容, 根据所述第一旋转参数和所述第一平移参数, 将所 述实时图像和所述第一 AR内容进行虚实融合渲染处理, 生成所述第一 AR 图像并显示。
在本实施例中, 所述第一增强现实处理单元 802还包括第一检测子单元 901、 第一接收子单元 902、 第一控制子单元 903和第一获取子单元 904。 第 一检测子单元 901与所述图像获取单元 801相连, 用于对所述实时图像进行 特征检测和描述, 生成第一特征检测描述数据, 将所述第一特征检测描述数 据发送给 AR服务器, 以使所述 AR服务器根据所述第一特征检测描述数据 进行 AR目标检测。 第一接收子单元 902用于接收所述 AR服务器在检测到 第一 AR目标时发送的第一检测结果, 其中, 所述第一检测结果中携带有第 一 AR目标信息,所述第一 AR目标信息包括: 用以指示所述第一 AR目标在 所述实时图像中的位置的第一 AR目标基准位置信息和用以指示所述第一 AR 目标在标准图像中的大小的第一 AR目标标准尺寸信息, 将所述第一 AR目 标信息緩存。 第一控制子单元 903分别与所述第一检测子单元 901和所述第 一接收子单元 902相连, 用于根据所述第一检测结果停止向所述 AR服务器 发送所述第一特征检测描述数据。 第一获取子单元 904用于从所述 AR服务 器获取所述第一 AR目标的第一 AR内容, 将所述第一 AR内容緩存。
在本实施例中, 所述定格处理单元 803具体可以用于获取緩存的所述定 格图像对应的第一旋转参数、 第一平移参数和所述第一 AR内容, 根据所述 定格图像对应的第一旋转参数和第一平移参数, 将所述定格图像和所述第 ― AR内容进行虚实融合渲染处理, 生成所述 AR定格图像并显示。
在本实施例中, 所述定格处理单元 803具体可以用于检测所述移动终端 在第二预设时间范围内是否保持静止状态, 若是, 则进行定格处理。
在本实施例中, 所述定格处理单元 803具体可以用于根据在所述第二预 设时间范围内通过重力加速度计釆集到的重力加速度信息和通过数字罗盘釆 集到的方位信息, 判断所述移动终端在所述第二预设时间范围内是否保持静 止状态, 若是, 则进行定格处理。
在本实施例中, 所述定格处理单元 803具体用于根据在第二预设时间范 围内生成的所述第一旋转参数和所述第一平移参数, 判断所述移动终端在所 述第二预设时间范围内是否保持静止状态, 若是, 则进行定格处理。
在本实施例中, 所述第一 AR目标信息还包括: 用以指示所述第一 AR 目标的类型的第一 AR目标类型信息。 所述定格处理单元 803具体用于若所 述第一 AR目标类型信息为浏览类型, 则进行定格处理。
当用户需要对显示器显示的图像进行定格处理时, 可以将定格后的 AR 图像通过显示屏显示给用户。 触发定格处理的方式可以有多种, 不以本实施 例为限。
在本实施例中, 所述定格处理单元 803具体可以用于对于每一帧緩存的 实时图像,根据所述緩存的实时图像中的第一 AR目标的位置生成位置权重, 将所述位置权重最大的实时图像确定为所述定格图像。
具体地, 通过计算第一 AR目标整体出现的位置的中心坐标与该緩存的 实时图像中心的坐标之间的像素距离, 即获取第一 AR目标的位置与屏幕中 心的距离。 根据第一 AR目标的位置与屏幕中心的距离, 设置第一 AR目标 在緩存图像的位置最靠近图像中心的緩存图像的位置权重最大, 距图像中心 最远的緩存图像的位置权重最小。 将位置权重最大的緩存图像确定为定格图 像。
在本实施例中, 所述定格处理单元 803具体用于对于每一帧緩存的实时 图像, 根据所述緩存的实时图像中的第一 AR目标的位置生成位置权重, 根 据所述緩存的实时图像中的第一 AR目标所占的面积比例生成面积权重, 根 据所述緩存的实时图像中的第一 AR目标的清晰度生成清晰度权重, 根据每 一帧所述緩存的实时图像的所述位置权重、 所述面积权重和所述清晰度权重 确定所述定格图像。
具体地, 可以将图像队列緩存区中的緩存图像信息通过空域参数方程、 熵以及频域调制传递函数 MTF等方法计算, 获取緩存的实时图像的清晰度。
将图像队列緩存区中緩存的实时图像的清晰度大小按从小到大排列, 可 以将排序编号作为緩存的实时图像的清晰度权重,即緩存的实时图像越清晰, 则緩存的实时图像的清晰度权重越大。
通过第一 AR 目标的坐标信息计算得到第一 AR 目标在緩存的实时图像 中出现的面积与第一 AR 目标整体的面积。 第一 AR 目标在緩存的实时图像 中出现的面积与第一 AR 目标整体的面积的比值作为面积比。 将面积比由大 到小排序, 设置每帧緩存的实时图像的面积比权重。 即若 AR 目标整体出现 在緩存图片中, 则面积比重最大。
若第一 AR 目标的坐标信息没有超出緩存的实时图像的坐标范围, 则为 第一 AR目标整体都出现在緩存图像中, 则面积比重为 1 ; 若 AR目标的坐标 信息超出跟踪图像的坐标范围, 则 AR 目标没有完全出现在跟踪图像, 可计 算出现在緩存图像内的第一 AR 目标的面积与第一 AR 目标的实际面积的比 值。
可以将緩存图像的位置权重、 面积权重和清晰度权重的权重之和最大的 緩存的实时图像确定为定格图像。 本实施例中, 根据位置权重、 面积权重和清晰度权重确定的定格图像, 使用户可以看到一个大而清晰, 且处于中心第一 AR 目标的定格图像, 这得 使用户观看时更加舒适和方便, 提高了定格效果。
图 10为本发明实施例提供的第三种移动终端的增强现实处理装置结构 示意图。 如图 10所示, 进一步地, 在本实施例中, 所述移动终端的增强现实 处理装置 81还可以包括第二增强现实处理单元 106, 所述第二增强现实处理 单元 106包括第二检测子单元 1001、 第二接收子单元 1002、 第二控制子单元 1003、 緩存处理子单元 1004、 解除定格判断子单元 1005、 第二跟踪注册子单 元 1006和第二渲染子单元 1007。 第二检测子单元 1001与所述图像获取单元 801相连, 对所述实时图像进行特征检测和描述, 生成第二特征检测描述数 据, 将所述第二特征检测描述数据发送给所述 AR服务器, 以使所述 AR服 务器根据所述第二特征检测描述数据进行 AR目标检测。 第二接收子单元 1002用于接收所述 AR服务器在检测到第二 AR目标时发送的第二检测结果, 其中, 所述第二检测结果中携带有第二 AR目标信息, 所述第二 AR目标信 息包括: 用以指示所述第二 AR目标在所述实时图像中的位置的第二 AR目 标基准位置信息和用以指示所述第二 AR目标在所述标准图像中的大小的第 二 AR目标标准尺寸信息。 第二控制子单元 1003分别与所述第二检测子单元 1001和所述第二接收子单元 1002相连, 用于根据所述第二检测结果停止向 所述 AR服务器发送所述第二特征检测描述数据。緩存处理子单元 1004分别 与所述图像获取单元 801和所述第二接收子单元 1002相连,用于将所述第二 AR目标信息緩存,根据所述第二 AR目标基准位置信息对所述实时图像中的 第二 AR目标进行跟踪, 若在第三预设时间范围内跟踪到所述第二 AR目标, 则从所述 AR服务器获取所述第二 AR目标的第二 AR内容, 将所述第二 AR 内容緩存, 生成解除定格指示信息并显示。 第二跟踪注册子单元 1005与所述 图像获取单元 801相连, 用于若接收到的解除定格指令, 则根据緩存的所述 第二 AR目标基准位置信息对所述实时图像中的第二 AR目标进行跟踪, 根 据跟踪到的第二 AR目标和所述第二 AR目标标准尺寸信息进行三维注册计 算, 生成第二旋转参数和第二平移参数, 将所述第二旋转参数和所述第二平 移参数緩存。 第二渲染子单元 1006与所述第二跟踪注册子单元 1005相连, 用于根据所述第二旋转参数和所述第二平移参数, 将所述实时图像和所述第 二 AR内容进行虚实融合渲染处理, 生成所述第二 AR图像并显示。
在本实施例中, 通过预加载的 AR 目标位置緩存区和预加载的 AR内容 緩存区的设置,可以在定格过程中緩存新检测到的 AR目标的相关信息及 AR 内容, 当用户解除定格时, 可以立刻根据 AR目标位置緩存区和预加载的 AR 内容緩存区的数据进行后续处理, 避免了处理等待时间, 实现了无缝切换。
图 11 为本发明实施例提供的第四种移动终端的增强现实处理装置结构 示意图。 如图 11所示, 本实施例提供的移动终端的增强现实处理装置包括至 少一个处理器 1101 (例如 CPU ) 、 存储器 1102、 摄像头 1103、 显示屏 1104 和至少一个通信总线 U05 , 用于实现这些装置之间的连接通信。 处理器 1101 用于执行存储器 1102 中存储的可执行模块, 例如计算机程序。 存储器 1102 可能包含高速随机存取存储器(RAM: Random Access Memory ) , 也可能还 包括非不稳定的存储器( non- volatile memory ) , 例如至少一个磁盘存储器。 摄像头 1103用于釆集实时图像, 显示屏 1104用于显示实时图像或实时处理 得到的 AR图像或 AR定格图像。
在一些实施方式中, 存储器 1102存储了程序指令, 程序指令可以被处理 器 1101执行, 其中, 程序指令包括图像获取单元 801、 第一增强现实处理单 元 802和定格处理单元 803 , 其中, 各单元的具体实现参见图 8所揭示的相 应单元, 其具体实现过程和产生的技术效果, 在此不再累述。
通过以上的实施方式的描述, 所属领域的技术人员可以清楚地了解到本 发明可以用硬件实现, 或固件实现, 或它们的组合方式来实现。 当使用软件 实现时, 可以将上述功能存储在计算机可读介质中或作为计算机可读介质上 的一个或多个指令或代码进行传输。 计算机可读介质包括计算机存储介质和 通信介质, 其中通信介质包括便于从一个地方向另一个地方传送计算机程序 的任何介质。 存储介质可以是计算机能够存取的任何可用介质。 以此为例但 不限于: 计算机可读介质可以包括 RAM、 ROM, EEPROM、 CD-ROM或其 他光盘存储、 磁盘存储介质或者其他磁存储设备、 或者能够用于携带或存储 具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他 介质。 此外。 任何连接可以适当的成为计算机可读介质。 例如, 如果软件是 使用同轴电缆、 光纤光缆、 双绞线、 数字用户线(DSL )或者诸如红外线、 无线电和微波之类的无线技术从网站、 服务器或者其他远程源传输的, 那么 同轴电缆、 光纤光缆、 双绞线、 DSL或者诸如红外线、 无线和微波之类的无 线技术包括在所属介质的定影中。 如本发明所使用的, 盘( Disk )和碟( disc ) 包括压缩光碟(CD ) 、 激光碟、 光碟、 数字通用光碟(DVD ) 、 软盘和蓝光 光碟, 其中盘通常磁性的复制数据, 而碟则用激光来光学的复制数据。 上面 的组合也应当包括在计算机可读介质的保护层级之内。
总之, 以上所述仅为本发明技术方案的较佳实施例而已, 并非用于限定 本发明的保护层级。 凡在本发明的精神和原则之内, 所作的任何修改、 等同 替换、 改进等, 均应包含在本发明的保护层级之内。

Claims

权 利 要求 书
1、 一种移动终端的增强现实处理方法, 其特征在于, 包括:
从摄像头获取釆集到的实时图像, 将所述实时图像緩存;
将所述实时图像进行增强现实 AR处理生成第一 AR图像, 并将所述第 一 AR图像显示;
判断是否进行定格处理, 若是, 则从緩存的距离当前时刻第一预设时间 范围内的实时图像中确定一帧緩存的实时图像作为定格图像, 将所述定格图 像进行 AR处理生成 AR定格图像并显示。
2、 根据权利要求 1所述移动终端的增强现实处理方法, 其特征在于, 所 述判断是否进行定格处理, 具体为:
检测所述移动终端在第二预设时间范围内是否保持静止状态, 若是, 则 进行定格处理。
3、 根据权利要求 2所述移动终端的增强现实处理方法, 其特征在于, 所 述检测所述移动终端在第二预设时间范围内是否保持静止状态, 若是, 则进 行定格处理, 具体为:
根据在所述第二预设时间范围内通过重力加速度计釆集到的重力加速度 信息和通过数字罗盘釆集到的方位信息, 判断所述移动终端在所述第二预设 时间范围内是否保持静止状态, 若是, 则进行定格处理。
4、 根据权利要求 1所述移动终端的增强现实处理方法, 其特征在于, 所 述从緩存的距离当前时刻第一预设时间范围内的实时图像中确定一帧緩存的 实时图像作为定格图像, 具体为:
对于每一帧緩存的实时图像, 根据所述緩存的实时图像中的第一 AR目 标的位置生成位置权重, 将所述位置权重最大的实时图像确定为所述定格图 像。
5、 根据权利要求 1所述移动终端的增强现实处理方法, 其特征在于, 所 述从緩存的距离当前时刻第一预设时间范围内的实时图像中确定一帧緩存的 实时图像作为定格图像, 具体为:
对于每一帧緩存的实时图像, 根据所述緩存的实时图像中的第一 AR目 标的位置生成位置权重, 根据所述緩存的实时图像中的第一 AR目标所占的 面积比例生成面积权重, 根据所述緩存的实时图像中的第一 AR目标的清晰 度生成清晰度权重, 根据每一帧所述緩存的实时图像的所述位置权重、 所述 面积权重和所述清晰度权重确定所述定格图像。
6、 根据权利要求 1所述移动终端的增强现实处理方法, 其特征在于, 所 述将所述实时图像进行 AR处理生第一 AR图像,并将所述第一 AR图像显示, 包括:
获取緩存的第一 AR目标基准位置信息, 根据所述緩存的第一 AR目标 基准位置信息对所述实时图像进行跟踪, 根据跟踪到的第一 AR目标和所述 第一 AR目标标准尺寸信息进行三维注册计算, 生成第一旋转参数和第一平 移参数, 将所述第一旋转参数和所述第一平移参数緩存;
获取緩存的第一 AR内容,根据所述第一旋转参数和所述第一平移参数, 将所述实时图像和所述第一 AR内容进行虚实融合渲染处理, 生成所述第一 AR图像并显示。
7、 根据权利要求 6所述移动终端的增强现实处理方法, 其特征在于, 所 述获取緩存的第一 AR目标基准位置信息之前, 所述方法还包括:
对所述实时图像进行特征检测和描述, 生成第一特征检测描述数据, 将 所述第一特征检测描述数据发送给 AR服务器, 以使所述 AR服务器根据所 述第一特征检测描述数据进行 AR目标检测;
接收所述 AR服务器在检测到第一 AR目标时发送的第一检测结果, 其 中, 所述第一检测结果中携带有第一 AR目标信息, 所述第一 AR目标信息 包括: 用以指示所述第一 AR目标在所述实时图像中的位置的第一 AR目标 基准位置信息和用以指示所述第一 AR目标在标准图像中的大小的第一 AR 目标标准尺寸信息, 将所述第一 AR目标信息緩存;
根据所述第一检测结果停止向所述 AR服务器发送所述第一特征检测描 述数据;
从所述 AR服务器获取所述第一 AR目标的第一 AR内容, 将所述第一
AR内容緩存。
8、 根据权利要求 7所述移动终端的增强现实处理方法, 其特征在于, 所 述将所述定格图像进行 AR处理生成 AR定格图像并显示, 具体为:
获取緩存的所述定格图像对应的第一旋转参数、 第一平移参数和所述第 一 AR内容, 根据所述定格图像对应的第一旋转参数和第一平移参数, 将所 述定格图像和所述第一 AR内容进行虚实融合渲染处理, 生成所述 AR定格 图像并显示。
9、 根据权利要求 7所述移动终端的增强现实处理方法, 其特征在于, 所 述判断是否进行定格处理, 具体为:
根据在第二预设时间范围内生成的所述第一旋转参数和所述第一平移参 数, 判断所述移动终端在所述第二预设时间范围内是否保持静止状态, 若是, 则进行定格处理。
10、 根据权利要求 7所述移动终端的增强现实处理方法, 其特征在于, 所述第一 AR目标信息还包括: 用以指示所述第一 AR目标的类型的第一 AR 目标类型信息;
所述判断是否进行定格处理, 具体为:
若所述第一 AR目标类型信息为浏览类型, 则进行定格处理。
11、 根据权利要求 6所述移动终端的增强现实处理方法, 其特征在于, 所述判断是否进行定格处理, 若是, 则从緩存的距离当前时刻第一预设时间 范围内的实时图像中确定一帧緩存的实时图像作为定格图像之后, 还包括: 对所述实时获取到的实时图像进行特征检测和描述, 生成第二特征检测 描述数据, 将所述第二特征检测描述数据发送给所述 AR服务器, 以使所述 AR服务器根据所述第二特征检测描述数据进行 AR目标检测;
接收所述 AR服务器在检测到第二 AR目标时发送的第二检测结果, 其 中, 所述第二检测结果中携带有第二 AR目标信息, 所述第二 AR目标信息 包括: 用以指示所述第二 AR目标在所述实时图像中的位置的第二 AR目标 基准位置信息和用以指示所述第二 AR目标在所述标准图像中的大小的第二 AR目标标准尺寸信息, 将所述第二 AR目标信息緩存;
根据所述第二检测结果停止向所述 AR服务器发送所述第二特征检测描 述数据;
将所述第二 AR目标信息緩存, 根据所述第二 AR目标基准位置信息对 所述实时图像中的第二 AR目标进行跟踪, 若在第三预设时间范围内跟踪到 所述第二 AR目标,则从所述 AR服务器获取所述第二 AR目标的第二 AR内 容, 将所述第二 AR内容緩存, 生成解除定格指示信息并显示;
若接收到的解除定格指令, 则根据緩存的所述第二 AR目标基准位置信 息对所述实时图像中的第二 AR目标进行跟踪, 根据跟踪到的第二 AR目标 和所述第二 AR目标标准尺寸信息进行三维注册计算, 生成第二旋转参数和 第二平移参数 , 将所述第二旋转参数和所述第二平移参数緩存;
根据所述第二旋转参数和所述第二平移参数, 将所述实时图像和所述第 二 AR内容进行虚实融合渲染处理, 生成所述第二 AR图像并显示。
12、 一种移动终端的增强现实处理装置, 其特征在于, 包括:
图像获取单元, 用于从摄像头获取釆集到的实时图像, 将所述实时图像 緩存;
第一增强现实处理单元, 与所述图像获取单元相连, 用于将所述实时图 像进行增强现实 AR处理生成第一 AR图像, 并将所述第一 AR图像显示; 定格处理单元, 用于判断是否进行定格处理, 若是, 则从緩存的距离当 前时刻第一预设时间范围内的实时图像中确定一帧緩存的实时图像作为定格 图像, 将所述定格图像进行 AR处理生成 AR定格图像并显示。
13、根据权利要求 12所述的移动终端的增强现实处理装置,其特征在于: 所述定格处理单元具体用于检测所述移动终端在第二预设时间范围内是否保 持静止状态, 若是, 则进行定格处理。
14、根据权利要求 13所述的移动终端的增强现实处理装置,其特征在于: 所述定格处理单元具体用于根据在所述第二预设时间范围内通过重力加速度 计釆集到的重力加速度信息和通过数字罗盘釆集到的方位信息, 判断所述移 动终端在所述第二预设时间范围内是否保持静止状态, 若是, 则进行定格处 理。
15、根据权利要求 12所述的移动终端的增强现实处理装置,其特征在于, 所述定格处理单元具体用于对于每一帧緩存的实时图像, 根据所述緩存的实 时图像中的第一 AR目标的位置生成位置权重, 将所述位置权重最大的实时 图像确定为所述定格图像。
16、根据权利要求 12所述的移动终端的增强现实处理装置,其特征在于: 所述定格处理单元具体用于对于每一帧緩存的实时图像, 根据所述緩存的实 时图像中的第一 AR目标的位置生成位置权重, 根据所述緩存的实时图像中 的第一 AR目标所占的面积比例生成面积权重, 根据所述緩存的实时图像中 的第一 AR目标的清晰度生成清晰度权重, 根据每一帧所述緩存的实时图像 的所述位置权重、 所述面积权重和所述清晰度权重确定所述定格图像。
17、根据权利要求 12所述的移动终端的增强现实处理装置,其特征在于, 所述第一增强现实处理单元, 包括:
第一跟踪注册子单元, 与所述图像获取单元相连, 用于获取緩存的第一 AR目标基准位置信息,根据所述緩存的第一 AR目标基准位置信息对所述实 时图像进行跟踪, 根据跟踪到的第一 AR目标和所述第一 AR目标标准尺寸 信息进行三维注册计算, 生成第一旋转参数和第一平移参数, 将所述第一旋 转参数和所述第一平移参数緩存;
第一渲染子单元, 与所述第一跟踪注册子单元相连, 用于获取緩存的第 一 AR内容, 根据所述第一旋转参数和所述第一平移参数, 将所述实时图像 和所述第一 AR内容进行虚实融合渲染处理, 生成所述第一 AR图像并显示。
18、根据权利要求 17所述的移动终端的增强现实处理装置,其特征在于, 所述第一增强现实处理单元还包括:
第一检测子单元, 与所述图像获取单元相连, 用于对所述实时图像进行 特征检测和描述, 生成第一特征检测描述数据, 将所述第一特征检测描述数 据发送给 AR服务器, 以使所述 AR服务器根据所述第一特征检测描述数据 进行 AR目标检测;
第一接收子单元, 用于接收所述 AR服务器在检测到第一 AR目标时发 送的第一检测结果, 其中, 所述第一检测结果中携带有第一 AR目标信息, 所述第一 AR目标信息包括: 用以指示所述第一 AR目标在所述实时图像中 的位置的第一 AR目标基准位置信息和用以指示所述第一 AR目标在标准图 像中的大小的第一 AR目标标准尺寸信息, 将所述第一 AR目标信息緩存; 第一控制子单元, 分别与所述第一检测子单元和所述第一接收子单元相 连, 用于根据所述第一检测结果停止向所述 AR服务器发送所述第一特征检 测描述数据;
第一获取子单元, 用于从所述 AR服务器获取所述第一 AR目标的第一 AR内容, 将所述第一 AR内容緩存。
19、根据权利要求 18所述的移动终端的增强现实处理装置,其特征在于: 所述定格处理单元具体用于获取緩存的所述定格图像对应的第一旋转参数、 第一平移参数和所述第一 AR内容, 根据所述定格图像对应的第一旋转参数 和第一平移参数, 将所述定格图像和所述第一 AR内容进行虚实融合渲染处 理, 生成所述 AR定格图像并显示。
20、根据权利要求 18所述的移动终端的增强现实处理装置,其特征在于: 所述定格处理单元具体用于根据在第二预设时间范围内生成的所述第一旋转 参数和所述第一平移参数, 判断所述移动终端在所述第二预设时间范围内是 否保持静止状态, 若是, 则进行定格处理。
21、根据权利要求 17所述的移动终端的增强现实处理装置,其特征在于, 所述第一 AR目标信息还包括: 用以指示所述第一 AR目标的类型的第一 AR 目标类型信息;
所述定格处理单元具体用于若所述第一 AR目标类型信息为浏览类型, 则进行定格处理。
22、根据权利要求 17所述的移动终端的增强现实处理装置,其特征在于, 还包括第二增强现实处理单元, 所述第二增强现实处理单元包括:
第二检测子单元, 与所述图像获取单元相连, 对所述实时图像进行特征 检测和描述, 生成第二特征检测描述数据, 将所述第二特征检测描述数据发 送给所述 AR服务器, 以使所述 AR服务器根据所述第二特征检测描述数据 进行 AR目标检测;
第二接收子单元, 用于接收所述 AR服务器在检测到第二 AR目标时发 送的第二检测结果, 其中, 所述第二检测结果中携带有第二 AR目标信息, 所述第二 AR目标信息包括: 用以指示所述第二 AR目标在所述实时图像中 的位置的第二 AR目标基准位置信息和用以指示所述第二 AR目标在所述标 准图像中的大小的第二 AR目标标准尺寸信息;
第二控制子单元, 分别与所述第二检测子单元和所述第二接收子单元相 连, 用于根据所述第二检测结果停止向所述 AR服务器发送所述第二特征检 测描述数据;
緩存处理子单元,分别与所述图像获取单元和所述第二接收子单元相连, 用于将所述第二 AR目标信息緩存, 根据所述第二 AR目标基准位置信息对 所述实时图像中的第二 AR目标进行跟踪, 若在第三预设时间范围内跟踪到 所述第二 AR目标,则从所述 AR服务器获取所述第二 AR目标的第二 AR内 容, 将所述第二 AR内容緩存, 生成解除定格指示信息并显示; 第二跟踪注册子单元, 与所述图像获取单元相连, 用于若接收到的解除 定格指令, 则根据緩存的所述第二 AR目标基准位置信息对所述实时图像中 的第二 AR目标进行跟踪,根据跟踪到的第二 AR目标和所述第二 AR目标标 准尺寸信息进行三维注册计算, 生成第二旋转参数和第二平移参数, 将所述 第二旋转参数和所述第二平移参数緩存;
第二渲染子单元, 与所述第二跟踪注册子单元相连, 用于根据所述第二 旋转参数和所述第二平移参数, 将所述实时图像和所述第二 AR内容进行虚 实融合渲染处理, 生成所述第二 AR图像并显示。
PCT/CN2012/081430 2012-09-14 2012-09-14 移动终端的增强现实处理方法及装置 WO2014040281A1 (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201280001436.1A CN103814382B (zh) 2012-09-14 2012-09-14 移动终端的增强现实处理方法及装置
PCT/CN2012/081430 WO2014040281A1 (zh) 2012-09-14 2012-09-14 移动终端的增强现实处理方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2012/081430 WO2014040281A1 (zh) 2012-09-14 2012-09-14 移动终端的增强现实处理方法及装置

Publications (1)

Publication Number Publication Date
WO2014040281A1 true WO2014040281A1 (zh) 2014-03-20

Family

ID=50277517

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/CN2012/081430 WO2014040281A1 (zh) 2012-09-14 2012-09-14 移动终端的增强现实处理方法及装置

Country Status (2)

Country Link
CN (1) CN103814382B (zh)
WO (1) WO2014040281A1 (zh)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104156082A (zh) * 2014-08-06 2014-11-19 北京行云时空科技有限公司 面向时空场景的用户界面及应用的控制系统及智能终端
CN105184825A (zh) * 2015-10-29 2015-12-23 丽水学院 一种面向室内场景的移动增强现实方法
CN106843493B (zh) * 2017-02-10 2019-11-12 成都弥知科技有限公司 一种图像追踪方法及应用该方法的扩增实境实现方法
CN106875431B (zh) * 2017-02-10 2020-03-17 成都弥知科技有限公司 具有移动预测的图像追踪方法及扩增实境实现方法
CN107168619B (zh) * 2017-03-29 2023-09-19 腾讯科技(深圳)有限公司 用户生成内容处理方法和装置
CN109215132A (zh) * 2017-06-30 2019-01-15 华为技术有限公司 一种增强现实业务的实现方法及设备
CN109842790B (zh) 2017-11-29 2021-02-26 财团法人工业技术研究院 影像信息显示方法与显示器
CN108804330A (zh) * 2018-06-12 2018-11-13 Oppo(重庆)智能科技有限公司 测试方法、装置、存储介质及电子设备
CN108958929B (zh) * 2018-06-15 2021-02-02 Oppo(重庆)智能科技有限公司 应用算法库的方法、装置、存储介质及电子设备
CN109300184A (zh) * 2018-09-29 2019-02-01 五八有限公司 Ar动态展示方法、装置、计算机设备及可读存储介质
CN109741289B (zh) * 2019-01-25 2021-12-21 京东方科技集团股份有限公司 一种图像融合方法和vr设备
CN111429335B (zh) * 2020-06-12 2020-09-08 恒信东方文化股份有限公司 一种虚拟穿衣系统中图片缓存方法及系统
CN113115110B (zh) * 2021-05-20 2022-04-08 广州博冠信息科技有限公司 视频合成方法、装置、存储介质与电子设备
CN113660528B (zh) * 2021-05-24 2023-08-25 杭州群核信息技术有限公司 一种视频合成方法、装置、电子设备和存储介质
CN113269832B (zh) * 2021-05-31 2022-03-29 长春工程学院 面向极端天气环境的电力作业增强现实导航系统和方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1692631A (zh) * 2002-12-06 2005-11-02 卡西欧计算机株式会社 图像拾取设备和图像拾取方法
CN101246600A (zh) * 2008-03-03 2008-08-20 北京航空航天大学 用球面全景摄像机实时生成增强现实环境光照模型的方法
CN101877063A (zh) * 2009-11-25 2010-11-03 中国科学院自动化研究所 一种基于亚像素级特征点检测的图像匹配方法
WO2011152902A1 (en) * 2010-03-08 2011-12-08 Empire Technology Development Llc Broadband passive tracking for augmented reality

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1692631A (zh) * 2002-12-06 2005-11-02 卡西欧计算机株式会社 图像拾取设备和图像拾取方法
CN101246600A (zh) * 2008-03-03 2008-08-20 北京航空航天大学 用球面全景摄像机实时生成增强现实环境光照模型的方法
CN101877063A (zh) * 2009-11-25 2010-11-03 中国科学院自动化研究所 一种基于亚像素级特征点检测的图像匹配方法
WO2011152902A1 (en) * 2010-03-08 2011-12-08 Empire Technology Development Llc Broadband passive tracking for augmented reality

Also Published As

Publication number Publication date
CN103814382B (zh) 2016-10-05
CN103814382A (zh) 2014-05-21

Similar Documents

Publication Publication Date Title
WO2014040281A1 (zh) 移动终端的增强现实处理方法及装置
KR102000536B1 (ko) 합성 이미지를 촬영하는 촬영 장치 및 그 방법
US9742995B2 (en) Receiver-controlled panoramic view video share
WO2017209978A1 (en) Shared experience with contextual augmentation
JP2022537614A (ja) マルチ仮想キャラクターの制御方法、装置、およびコンピュータプログラム
JP6877149B2 (ja) 撮影位置推薦方法、コンピュータプログラムおよび撮影位置推薦システム
KR20210111833A (ko) 타겟의 위치들을 취득하기 위한 방법 및 장치와, 컴퓨터 디바이스 및 저장 매체
WO2017209979A1 (en) Video pinning
JP2013162487A (ja) 画像表示装置及び撮像装置
WO2014151031A2 (en) Visual gestures
CN111833461B (zh) 一种图像特效的实现方法、装置、电子设备及存储介质
KR102170896B1 (ko) 영상 표시 방법 및 전자 장치
CN108777765B (zh) 获取全清晰图像的方法、装置及电子设备
EP3062506B1 (en) Image switching method and apparatus
KR102213090B1 (ko) 객체의 특정 위치가 디바이스에 제공되게 하는 방법
CN115379105B (zh) 视频拍摄方法、装置、电子设备和存储介质
CN107065164B (zh) 图像展示方法及装置
CN112004134B (zh) 多媒体数据的展示方法、装置、设备及存储介质
CN117319790A (zh) 基于虚拟现实空间的拍摄方法、装置、设备及介质
CN111710046A (zh) 交互方法、装置和电子设备
CN111833459B (zh) 一种图像处理方法、装置、电子设备及存储介质
CN117193525A (zh) 三维空间的投掷交互方法、头戴式显示设备和可读介质
KR102314782B1 (ko) 3차원 증강현실 표시 방법
JP2016195323A (ja) 情報処理装置、情報処理方法、プログラム
JP6535191B2 (ja) 遠隔作業支援システム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 12884541

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 12884541

Country of ref document: EP

Kind code of ref document: A1