WO2019103285A1 - 전자 장치 및 전자 장치의 증강 현실 서비스 제공 방법 - Google Patents

전자 장치 및 전자 장치의 증강 현실 서비스 제공 방법 Download PDF

Info

Publication number
WO2019103285A1
WO2019103285A1 PCT/KR2018/009936 KR2018009936W WO2019103285A1 WO 2019103285 A1 WO2019103285 A1 WO 2019103285A1 KR 2018009936 W KR2018009936 W KR 2018009936W WO 2019103285 A1 WO2019103285 A1 WO 2019103285A1
Authority
WO
WIPO (PCT)
Prior art keywords
information
image
category
images
processor
Prior art date
Application number
PCT/KR2018/009936
Other languages
English (en)
French (fr)
Inventor
윤여준
곽지연
이래경
모은주
이재익
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Priority to US16/761,988 priority Critical patent/US11308653B2/en
Publication of WO2019103285A1 publication Critical patent/WO2019103285A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—2D [Two Dimensional] image generation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/243—Classification techniques relating to the number of classes
    • G06F18/2431—Multiple classes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/006—Mixed reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/10—Image acquisition
    • G06V10/17—Image acquisition using hand-held instruments
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/35—Categorising the entire scene, e.g. birthday party or wedding scene
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/70—Labelling scene content, e.g. deriving syntactic or semantic representations
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/725—Cordless telephones
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00—Indexing scheme for image data processing or generation, in general
    • G06T2200/24—Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2201/00—Electronic components, circuits, software, systems or apparatus used in telephone systems
    • H04M2201/34—Microprocessors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2201/00—Electronic components, circuits, software, systems or apparatus used in telephone systems
    • H04M2201/38—Displays
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2250/00—Details of telephonic subscriber devices
    • H04M2250/52—Details of telephonic subscriber devices including functional features of a camera

Definitions

  • the embodiments disclosed herein relate to the art of augmented reality services.
  • Augmented reality is a technology that superimposes virtual objects on the real world that the user sees and is called mixed reality.
  • the augmented reality technology can enhance the reality of the virtual object (or additional information) by showing a mixture of the real environment and the virtual object.
  • the electronic device can superimpose additional information on a live view image (real world) obtained using a camera and display it on the display. For example, the electronic device can identify the current location information of the electronic device and obtain the current location information as additional information, and display the additional information and the live view image on the display.
  • the additional information may be provided from, for example, a service providing server, and the service providing server provides the same additional information to the electronic device in the same position, so that the electronic device in the same position can receive the same additional information . Further, since the place visited by the user is limited, the additional information provided by the electronic device may be limited. Therefore, the user may lose interest as the AR service is repeatedly used.
  • Various embodiments disclosed in this document provide an electronic device capable of providing an augmented reality service according to a user's taste and a method of providing an augmented reality service of an electronic device.
  • An electronic device includes a camera; display; A memory for storing a plurality of captured images and preference information for each shot image; And a processor operatively coupled to the camera, the display and the memory, wherein the processor obtains a live view image using the camera, and wherein the preference information or an object contained in the live view image Determining at least one image having a relatively high preference among the plurality of shot images as additional information of the augmented reality service based on at least one of the plurality of shot images and displaying the additional information and the live view image on the display have.
  • the method for providing an augmented reality service by an electronic device includes: acquiring a live view image using a camera; Determining at least one image having a relatively high preference among the plurality of shot images based on at least one of the preference information about the plurality of shot images stored in the memory or the objects included in the live view image; And displaying the at least one image and the live view image on a display.
  • FIG. 1 shows a configuration diagram of an electronic device according to an embodiment.
  • Figure 2 shows a category scheme according to one embodiment.
  • 3A shows an UI screen of an object recognition process according to an exemplary embodiment.
  • FIG. 3B is a diagram for explaining a method of determining additional information of an AR service corresponding to a recognized object according to an embodiment.
  • 3C shows a UI screen displaying additional information of the AR service determined from the shot image according to an embodiment.
  • FIG. 3D shows a UI screen of a process of manually determining additional information of an AR service according to an embodiment.
  • FIG. 4 is a diagram for explaining a method of determining a preference using a photographed image according to an embodiment.
  • FIG. 5 shows a UI screen for providing additional information of an AR service corresponding to a place category according to an embodiment.
  • 6A to 6C show a UI screen for providing supplementary information of an AR service with promotion information corresponding to a user preference according to an embodiment.
  • FIG. 7 shows a UI screen for providing additional information of an AR service according to a user's taste according to an embodiment.
  • FIG. 8 is a flowchart illustrating a method for providing an augmented reality service according to an embodiment.
  • FIG. 9 is a flowchart illustrating a method of determining additional information of an AR service according to an exemplary embodiment of the present invention.
  • FIG. 10 shows a block diagram of an electronic device providing augmented reality services in a network environment in accordance with various embodiments.
  • the expressions "have,” “may,” “include,” or “include” may be used to denote the presence of a feature (eg, a numerical value, a function, Quot ;, and does not exclude the presence of additional features.
  • the expressions "A or B,” “at least one of A and / or B,” or “one or more of A and / or B,” etc. may include all possible combinations of the listed items .
  • “A or B,” “at least one of A and B,” or “at least one of A or B” includes (1) at least one A, (2) Or (3) at least one A and at least one B all together.
  • first, second, “ first, “ or “ second,” as used in various embodiments, Not limited.
  • first user equipment and the second user equipment may represent different user equipment, regardless of order or importance.
  • first component may be referred to as a second component, and similarly, the second component may also be named as the first component.
  • any such element may be directly connected to the other element or may be connected through another element (e.g., a third element).
  • a component e.g., a first component
  • another component e.g., a second component
  • there is no other component e.g., a third component
  • a processor configured (or configured) to perform the phrases " A, B, and C " may be a processor dedicated to performing the operation (e.g., an embedded processor), or one or more software programs To a generic-purpose processor (e.g., a CPU or an application processor) that can perform the corresponding operations.
  • the term user may refer to a person using an electronic device or a device using an electronic device (e.g., an artificial intelligence electronic device).
  • the electronic device can be various types of devices.
  • the electronic device can include, for example, at least one of a portable communication device (e.g., a smart phone), a computer device, a portable multimedia device, a portable medical device, a camera, a wearable device, or a home appliance.
  • a portable communication device e.g., a smart phone
  • a computer device e.g., a laptop, a desktop, a smart phone
  • portable multimedia device e.g., a portable multimedia device
  • portable medical device e.g., a portable medical device
  • camera e.g., a camera
  • a wearable device e.g., a portable medical device
  • FIG. 1 shows a configuration diagram of an electronic device according to an embodiment.
  • an electronic device 10 includes a camera 110, a communication module 120, an input module 130, a display 140, a memory 150, and a processor 160 .
  • some components may be omitted, or may further include additional components.
  • some of the components are combined to form a single entity, but the functions of the corresponding components prior to the combination can be performed in the same manner.
  • the electronic device 10 may be comprised of a plurality of devices.
  • the electronic device 10 may include a portable terminal and a server.
  • the input / output relationship shown in Fig. 1 is merely an example for convenience of explanation, and may not be limited thereto.
  • the camera 110 may generate a live view image or a captured image.
  • the photographed image may include at least one of, for example, a moving image or a still image.
  • the camera 110 may include at least one of one or more lenses, an image sensor, an image signal processor, or a flash.
  • the communication module 120 may form a communication channel for communication of at least one communication method.
  • the communication module 120 may comprise a communication circuit for at least one of, for example, 3G (CDMA, GSM) communication, long term evolution (LTE) communication or WiFi.
  • the communication module 120 may include communication circuitry for another example, GPS reception.
  • the communication module 120 may convert a signal of a designated communication scheme received via a designated communication channel into a form that can be interpreted by the processor 160.
  • the communication module 120 may convert a signal received from the processor 160 into a signal of a designated communication method and transmit the signal through a designated communication channel.
  • input module 130 may sense or receive user input.
  • the input module 130 may be a touch sensor provided on a touch screen (e.g., the display 140).
  • Display 140 may include, for example, a liquid crystal display (LCD), a light emitting diode (LED) display, an organic light emitting diode (OLED) display, or an electronic paper display.
  • Display 140 may display various content (e.g., text, images, video, icons, and / or symbols, etc.) to a user, for example.
  • the display 140 may output (or display) at least one of a live view image, a shot image, or side information of an AR service in accordance with an instruction of the processor 160.
  • the memory 150 may be a volatile memory (e.g., RAM, etc.), a non-volatile memory (e.g., ROM, flash memory, etc.), or a combination thereof.
  • the memory 150 may store instructions or data related to at least one other component of the electronic device 10, for example.
  • the memory 150 may store at least one of a plurality of shot images, shot image information, category scheme information, or preference information.
  • the plurality of captured images may include at least one of a photo image generated using the camera 110, an image shared through an application (hereinafter referred to as a 'shared image'), or a screen image obtained using a screen capture function One can be included.
  • the shared image may include, for example, at least one of an image with shared history or a downloaded image among the captured images.
  • the screen capture function may include, for example, a screen shot function.
  • the captured image information may include at least one of category information of the captured image, history information of the captured image, or environment information of the captured image.
  • the captured image information may be, for example, metadata information of the captured image.
  • the category information of the shot image may include, for example, information about a category (e.g., an upper category name, a lower category name, etc.) to which at least one object included in the shot image belongs.
  • a category e.g., an upper category name, a lower category name, etc.
  • the history information of the photographed image may include at least one of, for example, search history information on the photographed image, shared history information of the photographed image, tag information tagged in the photographed image, or app information corresponding to the photographed image.
  • the search history information may include at least one of, for example, text search history information or a voice search (e.g., bixby vision search function) history information.
  • the shared history information may include, for example, upload history information or download history information of a shot image through an application (e.g., a text message application, a social network application, a chat application, or the like) that can share each shot image.
  • the tag information may include, for example, at least one of voice information or text information tagged in each shot image.
  • the environment information of the photographed image may include at least one of, for example, generation date information of the photographed image, generation time information, generation position information, or weather information at the generation time.
  • the category scheme information may include, for example, information for determining a category to which the recognized object belongs among a plurality of categories.
  • the category system information information on a plurality of upper categories corresponding to the type (or type) of an object recognized among a plurality of categories and a system of a plurality of lower (or detailed) categories included in each upper category .
  • the preference information may be information representing at least one of a user's preference score or preference rank for a plurality of categories.
  • the preference information may include a user's preference rank for at least one of an ancestor category or a subcategory corresponding to a plurality of shot images.
  • Processor 160 may be implemented as, for example, a central processing unit (CPU), a graphics processing unit (GPU), a microprocessor, an application processor, an application specific integrated circuit (ASIC) )), And may have a plurality of cores.
  • the processor 160 may perform computations or data processing related to control and / or communication of at least one other component of the electronic device 10.
  • the processor 160 acquires a live view image using the camera 110 when the augmented reality service (hereinafter, referred to as 'AR service') is requested, Determines at least one image having relatively high preference among the plurality of shot images as additional information of the AR service based on at least one of the objects included in the view image, and displays the additional information and the live view image on the display 140 Can be displayed.
  • 'AR service' augmented reality service
  • the processor 160 obtains each shot image stored in the memory 150, determines a category corresponding to the object included in each shot image, The category information corresponding to the photographed image can be associated and stored. For example, when the application for the AR service is installed, the processor 160 recognizes an object included in each of the plurality of shot images stored in the memory 150 before providing the AR service using the application, Categories can be determined. As another example, the processor 160 may recognize an object contained in a new shot image, determine a category to which the recognized object belongs, associate and store the determined shot image with the determined shot information have.
  • the processor 160 may determine the preference information for each category using the category information of each shot image. For example, the processor 160 may use the category information of each shot image to identify at least one category (one or more categories) corresponding to the objects included in each shot image. Processor 160 may determine the frequency of occurrence of at least one category and determine preference information (or preference priority) for each category based on the appearance frequency of at least one category.
  • the processor 160 may apply at least one weight to the category based on the shot image information to determine the priority of each category. For example, the processor 160 may extract, from the captured image information, an appearance frequency of an image having a search history, an image having a share history, an image obtained with a screen capture function, or an image having a tag information among a plurality of shot images (or, Ratio), a preference for a category corresponding to a plurality of photographed images can be determined by applying a relatively high weight to the other images and using the appearance frequency to which the weight is applied. For example, the processor 160 analyzes the pattern of the environmental information corresponding to the time when the captured image belonging to the category is generated from the captured image information, and applies a relatively high weight to the category in which the pattern of the environmental information is extracted .
  • the processor 160 acquires a live view image using the camera 100, and recognizes an object included in the live view image have. For example, the processor 160 extracts the feature information of the live view image, compares the feature information of the live view image with the feature information of the category-specific object stored in the memory 150, Based on the feature information of the category-specific object matched with the information, the object included in the live view image and the category to which the object belongs can be determined. The processor 160 may determine, as an object included in the view image, an object corresponding to feature information matching feature information of the view-view image among the feature information of the category-specific object, for example.
  • the processor 160 may determine, for example, the category to which the determined object belongs, as the category to which the object included in the rayview view image belongs.
  • the processor 160 may send a live view image to a designated server (e.g., a big data server) and the designated server may compare the feature information of the live view image with the feature information of the object stored in the database of the specified server And can recognize the first category to which the object and the object included in the determined live view image belong.
  • a designated server e.g., a big data server
  • the processor 160 may be configured to store a plurality of captured images, for example, stored in a photo album folder stored in the memory 150 based on category information, corresponding to a first category to which an object included in the live view image belongs Acquire at least one shot image, and determine the at least one image belonging to the category having a relatively high preference among the at least one shot images acquired based on the preference information as additional information of the AR service.
  • the processor 160 can check the category information of at least one shot images stored in the photo album folder and identify at least one second category from the categories corresponding to the at least one shot images except for the first category.
  • the processor 160 may determine at least one image belonging to a category having relatively high preference among the at least one second category as additional information of the AR service based on the preference information.
  • the processor 160 may use the captured image information or pixel values of a plurality of images if the at least one captured image belonging to the first category includes a plurality of images and the preferences of the plurality of images are the same The additional information of the AR service can be determined.
  • the processor 160 confirms the environmental information of the shooting time at which each of the plurality of images was generated and the environmental information at the current time of acquiring the live view image, At least one of the plurality of images can be determined based on the information and the environmental information of the current point of view and the degree of similarity.
  • the processor 160 checks the current date information and the generation time information of the plurality of images, respectively, It is possible to determine the image as additional information of the AR service.
  • the current date information can be ascertained, for example, from information (e.g., standard time information) received via the communication module 120 or date information calculated by the processor 160.
  • the generation time information of each image can be confirmed from the metadata of each image, for example.
  • the similar date may be a date for a specified period (e.g., one week) before or after the current date.
  • the processor 160 respectively confirms the current position information of the electronic device 10 and the photographing position information of the plurality of images, 10
  • the image can be determined as the additional information of the AR service if there is an image photographed at a position close to a predetermined distance (for example, 100 m) from the current position.
  • the current location information of the electronic device 10 may be verified using information (e.g., GPS information) received via the communication module 120, for example.
  • the photographing position information of each image can be confirmed from the metadata of each image, for example.
  • the specified distance may be, for example, a distance less than the distance (or depth) between the recognized object and the electronic device 10. [ The specified distance may be experimentally determined as another available distance, for example, within 20 minutes on foot.
  • the processor 160 checks the current date and time information and the shooting date and time information of the plurality of images, respectively, One image can be determined as additional information of the AR service.
  • the current date and time information may be identified, for example, from information (e.g., standard time information) received via the communication module 120 or date and time information calculated by the processor 160.
  • the storage date and time information of each image can be confirmed from the metadata of each image, for example.
  • the processor 160 may determine whether there is a shared history, a search history, or a tagging history among the plurality of images, or the at least one image generated by the screen capture function, Can be determined as additional information.
  • the processor 160 may determine the additional information of the AR service based on the tone similarity between the live view image and each image. For example, the processor 160 may check the average of the pixel values of the live view image and the average of the pixel values of each image, and determine at least one of the plurality of images, The image can be determined as additional information of the AR service.
  • the processor 160 may determine the additional information of the AR service among the plurality of images according to the user input. For example, when the designated function (e.g., manual filtering function) is selected through the input module 130, the processor 160 determines whether or not an upper And displays a list of sub-categories of the selected category when at least one category of the parent category list is selected through the input module 130. [ When one of the displayed sub-category lists is selected through the input module 130, the processor 160 may determine at least one image belonging to the selected sub-category among the plurality of images as additional information of the AR service.
  • the designated function e.g., manual filtering function
  • the processor 160 confirms the object information corresponding to the recognized object based on the user's taste (e.g., personal information), determines the confirmed object information as the additional information of the AR service,
  • the additional information of the service can be displayed on the display 140 together with the live view image.
  • the processor 160 may verify the user's taste using, for example, at least one of preference information for the category or personal information.
  • the processor 160 transmits a live view image and user taste information to a designated server (e.g., a shopping mall server), and determines that the designated server corresponds to the object included in the live view image based on the user taste information.
  • Object information can be received from the designated server.
  • the processor 160 may determine the object information according to the user's taste from among the object information corresponding to the object included in the live image from the memory 150.
  • the processor 160 determines object information according to a user's taste by using object information stored in the memory 150 will be described as an example.
  • the processor 160 displays the object information corresponding to the default taste among the object information corresponding to the recognized object together with the price information of the object together with the live view image .
  • the processor 160 when the processor 160 confirms the taste of the user who is interested in the food (or cooking), the processor 160 extracts object information corresponding to the cooking from the object information corresponding to the recognized object, Recipe related information can be displayed together with the live view image.
  • the processor 160 when the processor 160 identifies a user's taste that is of interest to the health or diet, the processor 160 extracts object information corresponding to health or diet from the object information corresponding to the recognized object, The component information can be displayed together with the live view image.
  • the processor 160 acquires the promotion information according to the preference corresponding to the user taste or category, and displays the obtained promotion information (additional information of the AR service) and the live view image on the display 140 .
  • the processor 160 can check the current location information of the electronic device 10 and determine the promotion information less than the specified distance from the current location information as additional information of the AR service.
  • the processor 160 may transmit user preference information or preference information to a server (e.g., an advertisement service server) designated via the communication module 120, receive promotion information corresponding to user preference or preference information, The received promotion information can be displayed together with the live view image.
  • a server e.g., an advertisement service server
  • an electronic device e.g., electronic device 10 of FIG. 1
  • a camera e.g., camera 110 of FIG. 1
  • Display e.g., display 140 of Figure 1
  • a memory e.g., memory 150 of FIG. 1 that stores a plurality of captured images and preference information for each shot image
  • a processor e.g., 160 of FIG. 1 functionally coupled to the camera, the display, and the memory.
  • the processor is configured to acquire a live view image using the camera and to acquire a live view image having a relatively high preference among the plurality of captured images based on at least one of the objects included in the preference information or the live view image Determining at least one image as additional information of the augmented reality service, and displaying the additional information and the live view image on the display.
  • the memory may store the respective shot images and category information corresponding to the objects included in the shot images in association with each other, and the preference information may be preference information on the category information.
  • the processor obtains at least one shot image corresponding to a category to which an object included in the live view image belongs among the plurality of shot images based on the category information, And to determine the at least one image belonging to the category having the relatively high preference among one shot image.
  • the electronic device may further comprise a communication module () configured to communicate with the server ().
  • the processor may be configured to transmit the live view image to the server via the communication module and to receive, from the server, category information to which the object included in the live view image belongs.
  • the category information may be determined by the server by comparing an object included in the live view image and an object stored in the database of the server, and based on the comparison result.
  • the processor may be configured to identify category information to which an object included in the plurality of shot images belongs and determine preference information on the category information using the appearance frequency of the category information.
  • the processor applies the weight to the frequency of occurrence of at least one category based on at least one of history information on creation, sharing, or editing of each shot image, or environment information corresponding to a generation time of each shot image , And may be configured to determine preference information on the category information.
  • the history information may include at least one of search history information of each of the photographed images, sharing history information of the photographed images, tag information of the photographed images, or app information generating the photographed images.
  • the environmental information may include at least one of time information, date information, current position information, and weather information.
  • the processor may be configured to classify, based on the category information of the at least one shot image, at least one of the categories included in the at least one shot image, And determining the at least one image having the relatively high preference among the at least one second category as the additional information based on the preference information.
  • the processor is configured to acquire the environment information of the shooting time point and the live view image that respectively generate the plurality of images if the at least one shot image includes a plurality of images and the preferences of the plurality of images are identical And determine the at least one image based on the environmental information of the shooting time point and the environmental information of the current time point based on the degree of similarity among the plurality of images.
  • the processor is configured to determine at least one image to be the supplementary information at a position close to the specified distance less than the specified distance if there is an image photographed at a position closer than a specified distance from the current position of the electronic device among the plurality of images .
  • the processor may be configured to determine, as the additional information, at least one image generated by the screen capture function or a shared history, a search history, or a tagging history among the plurality of images.
  • the processor is configured to determine whether the at least one shot image includes a plurality of images, and if the preferences of the plurality of images are identical, the shooting date of the plurality of images, shooting time information, And to determine at least one image that is relatively recently photographed among the plurality of images as the additional information.
  • the processor is further configured to identify the live view image and the tones of the plurality of images if the at least one shot image includes a plurality of images and the preferences of the plurality of images are identical, The at least one image being relatively similar in tone to the live view image.
  • the memory further stores a plurality of pieces of promotion information
  • the processor confirms the association between the environmental information of the plurality of shot images and the category information of the plurality of shot images, and, based on the determined association, Determining a user taste corresponding to the category information, determining promotion information corresponding to the user taste from among the plurality of promotion information based on environmental information of the current time point obtained the live view image, And to display the promotion information on the display.
  • Figure 2 shows a category scheme according to one embodiment.
  • the plurality of categories includes a plurality of upper categories, and each upper category may be a form including a plurality of lower categories.
  • the plurality of superior categories may include, for example, an object category, a human category, a food category, a mood category, a place category, and other categories.
  • Each category may be for classifying objects.
  • the object category may include a category for classifying object objects, for example, subcategories such as clothes, wine, tea, and flowers.
  • the human category may include a category for classifying human objects, for example, a subcategory such as a wife, son, friend, mother, and the like.
  • the food category may be a category for classifying food objects, for example, a sub category of cake, noddle, seafood, coffee, and the like.
  • the mood category may include categories for classifying effects applied to the shot image, for example, dark, sunny, vivid, sunset, and the like .
  • the place category is a category for classifying a place object, and may include a theme park, a mall, a street, a landmark, a building, and the like.
  • the other category is a category encompassing a subcategory not included in another higher category, and may include anniversaries, documents, buildings, dates, and the like.
  • the plurality of categories may be registered or updated through a process such as an input module (e.g., 130 in FIG. 1) or a big data collection. For example, when a captured image and a category name of a specific person (e.g., wife, son, friend, mother, etc.) are registered in the person category through the input module 130, For a category, a specific person category can be registered as a sub-category.
  • processor 160 may identify a new object that is unrecognizable from feature information stored in memory (e.g., 150 of FIG. 1) . When the category for the new object is newly defined through the input module 130, the processor 160 associates and stores the feature information of the new object with the newly defined category information, and if the new object is recognized, Categories can be categorized.
  • 3A to 3C are UI screens of a process of providing an AR service by the electronic device according to one embodiment.
  • 3A shows an UI screen of an object recognition process according to an exemplary embodiment.
  • a processor e.g., 160 of FIG. 1 displays a live view image 311 acquired using a camera (e.g., 110 in FIG. 1) (E.g., 140 in FIG. 1).
  • the processor 160 extracts the feature information of the live view image 311, compares the extracted feature information with the feature information of the category-specific object stored in the memory 150 (e.g., 150 in FIG. 1)
  • the first category 313 to which the object 312 included in the view image 311 belongs can be determined. It can be confirmed that the object 312 included in the live view image 311 is wine belonging to the wine category 313 among the subcategories of the object category (upper category).
  • FIG. 3B is a diagram for explaining a method of determining additional information of an AR service corresponding to a recognized object according to an embodiment.
  • a processor searches and acquires all images belonging to a wine category from a plurality of shot images stored in memory (e.g., 150 of FIG. 1) .
  • the processor 160 identifies category information 320 of a plurality of photographed images and generates first to sixth images 321, 322, 323, 324, and 326 belonging to the wine category based on the category information 320, 325, 326).
  • the processor 160 identifies the user's preference information for at least one second category to which the first through sixth images 321, 322, 323, 324, 325, and 326 belong, , It is possible to determine at least one image belonging to a category having relatively high preference among at least one second category as additional information of the AR service.
  • the at least one second category is a category other than the wine category to which the recognized object belongs.
  • the at least one second category may be a category including the first to sixth images 321, 322, 323, 324, 325 and 326, (seafood), noddle, vivid, Suwon, dark, Gangnam, street, building, cake, anniversary, A boyfriend, a girlfriend, a food, and a flower category.
  • the processor 160 may determine that the first through sixth images 321, 322, 323, 324, 325 , And 326, based on at least one of environment information and history information of the AR service. For example, the processor 160 may compare the environmental information of the current time acquired with the live view image and the environment information of the first to sixth images 321, 322, 323, 324, 325, The fourth image 324 shared through the social network can be determined as additional information of the AR service. Additionally or alternatively, the processor 160 may generate a fourth image (e. G., A second image) 322, 323, 324, 325, 324 and the sixth image 326 generated by the screen capture function as additional information of the AR service. In the following document, the case where the processor 160 determines the fourth image 324 and the sixth image 326 as the additional information of the AR service based on the environment information and the history information will be described as an example.
  • a fourth image e. G., A second image
  • 3C shows a UI screen displaying additional information of the AR service determined from the shot image according to an embodiment.
  • the processor 160 e.g., 160 of FIG. 1
  • the processor 160 It is possible to relatively display the fourth image 324 and the sixth image 326 on the live view image 311 as additional information of the AR service on the display (e.g., 140 in FIG. 1).
  • FIG. 3D shows a UI screen of a process of manually determining additional information of an AR service according to an embodiment.
  • a processor determines a first category (wine category) to which an object belongs from a live view image 311, In the situation where images are acquired, the icon 341 assigned to the manual filtering function can be displayed.
  • the processor 160 may display a list of the top categories of at least one second category corresponding to the plurality of images to provide a manual filtering function, when the icon 341 is selected.
  • the processor 160 may retrieve a list of sub-categories of the selected plurality of categories in the image ⁇ 355>, if a plurality of superior categories are selected in the upper category list through an input module (e.g., 130 in FIG. 1) Can be displayed. For example, when the selection icon (select) is touched after the first upper category 343 and the second upper category 344 are touched, the processor 160 selects the first and second upper A list of subcategories of the category (343, 344) can be displayed.
  • an input module e.g. 130 in FIG. 1
  • the processor 160 determines at least one image belonging to the selected sub-category among the plurality of images as additional information of the AR service . For example, when the first subcategory 345 and the second subcategory 346 are touched and then the completion icon (Done) is touched in the subcategory list, at least one image belonging to the subcategory selected from the plurality of images As additional information of the AR service.
  • the upper category to which the first to sixth images 321, 322, 323, 324, 325, and 326 belong belongs to a category (e.g., wine, building, flower), a person category (e.g., boyfriend, girlfriend ), Food categories (eg seafood, noddle, cake), mood categories (eg vivid, dark), place categories (Suwon, Gang-nam, street) and other categories (eg anniversary).
  • the processor 160 may generate a list of categories corresponding to the first through sixth images 321, 322, 323, 324, 325, 326, such as a category of objects, a category of people, a category of food, a category of moods, Categories can be displayed.
  • the processor 160 selects a second category list (e.g., a flower category) other than the wine category to which the recognized object belongs among subcategories belonging to the object category and other categories , Building, anniversary).
  • the processor 160 may determine the fourth image 324 and the sixth image 326 as additional information of the AR service when the anniversary category is selected through the input module 130.
  • FIG. 4 is a diagram for explaining a method of determining a preference using a photographed image according to an embodiment.
  • each of a plurality of captured images stored in a memory may be stored in association with category information corresponding to each shot image have.
  • the processor e.g., 160 in FIG. 1 identifies the category (subcategory) corresponding to each of the plurality of shot images based on the category information, confirms each occurrence frequency of the identified subcategories, You can see the percentage of occurrence frequencies of subcategories.
  • the processor 160 analyzes the subcategories to which the plurality of shot images belong, and as a result, the A category, (Hereinafter, referred to as "first ratio") is 0.3: 0.2: 0.2: 0.15: 0.15, respectively.
  • the processor 160 may apply a weight to images obtained from a plurality of shot images, such as history information (e.g., search history, shared history), images with tag information, or images obtained with a screen capture function.
  • history information e.g., search history, shared history
  • images with tag information e.g., images with tag information
  • images obtained with a screen capture function e.g., images with tag information, or images obtained with a screen capture function.
  • category information of an image having a shared history and images having a shared history among a plurality of shot images is checked, and a ratio of images having a common history in all of the plurality of shot images (hereinafter, Quot; ratio ") can be identified by category.
  • Quot ratio of images having a common history in all of the plurality of shot images
  • the processor 160 determines that the ratio of the image corresponding to the doll category is 0.05, if there is a share history in all of the plurality of shot images,
  • the second ratio can be determined by multiplying by a weight (e.g., 10).
  • the image generated by the screen capture function and the category information of the corresponding image among the plurality of shot images can be checked, and the ratio of the images obtained by the screen capture function can be checked for each category .
  • processor 160 generates a screen capture function for all of the plurality of shot images and confirms that the ratio of images corresponding to the doll category is 0.01, Can be multiplied by a specified weight to determine a third ratio.
  • the processor 160 determines a preference for each category by using a first ratio determined based on the analysis result of the photo album folder, a second ratio determined based on the history information, and a third ratio determined based on the app information . For example, if the first rate for the doll category is 0.2, the second rate is 0.5, and the third rate is 0.2, the preference for the doll category can be determined to be 0.9.
  • the preference of the person A category is 0.3, the preference of the person B category is 0.2 Lt; / RTI >
  • the preference for the doll category is highest, the preference for the person A category is the second highest, and the preference for the person B is the third highest.
  • FIG. 5 shows a UI screen for providing additional information of an AR service corresponding to a place category according to an embodiment.
  • a processor may determine whether a first category to which the recognized object from the live view image 510 belongs is a location A A A plurality of images belonging to the A category can be obtained.
  • the plurality of images may belong to a category other than the place A category so that the processor 160 can determine the additional information of the AR service having a relatively high preference information in a plurality of images based on the preference information in other categories.
  • a place B category (e.g., a specific store category) having a purchase history (personal information) of a specified number of times or more may be included.
  • the processor 160 may increase the preference determined based on the shot image based on the purchase history of the place B category, so that the preference of the place B category among other categories may be relatively high.
  • the processor 160 can determine the captured image 520 generated in the place B category having the highest preference information among the categories other than the place A as additional information of the AR service.
  • the processor 160 determines the distance between location A and location B, and stores the captured image generated at location B only when the distance between location A and location B is less than a specified distance (e.g., 100 meters) It can be determined as additional information.
  • map information 530 including a current location and a specific location can be displayed.
  • the processor 160 may display the current location and the specific location and the displayed map information 530.
  • 6A to 6C show a UI screen for providing supplementary information of an AR service with promotion information corresponding to a user preference according to an embodiment.
  • a processor may verify the association between environmental information of a plurality of shot images and category information of a plurality of shot images, The user can confirm the environment information and the user taste corresponding to the category.
  • the processor 160 determines the promotion information corresponding to the user's taste among the plurality of promotion information provided by the server based on the environmental information of the current time obtained the live view image and transmits the live view image and the promotion information Additional information) can be displayed on the display (e.g., 140 in FIG. 1).
  • the processor 160 analyzes the association between environmental information and category information of a plurality of photographed images. As a result, the brighter photographed image is generated , And can identify the taste of the user who likes to eat brunch on the weekend late in the morning. In this case, when the AR service is executed in the late morning of the weekend, the processor 160 determines whether the current state of the electronic device (e.g., 10 in Fig. 1) stored in the memory (e.g., The promotional information corresponding to the location can be confirmed and the promotion information of the restaurant providing the brunch menu among the promotion information can be determined as the additional information of the AR service.
  • the promotion information corresponding to the current location may include, for example, promotion information for a location that is less than a specified distance from the current location.
  • the processor (e.g., 160 in FIG. 1) analyzes the association between environmental information and category information for a plurality of shot images, and as a result, You can see that many are created, and you can see the taste of the user who likes to have coffee on a rainy Monday morning.
  • the processor 160 identifies the promotional information corresponding to the current location of the electronic device (e.g., 10 in FIG. 1), and retrieves the memory (e.g., 150 in FIG. 1) (Or the database of the designated server), the promotional information of the coffee shop can be determined as the additional information of the AR service.
  • the processor e.g., 160 in FIG. 1
  • the processor does not confirm the user's taste or the manual filtering function of the promotion information according to the user's taste is not set
  • the processor 160 confirms the user's taste, and when the manual filtering function of the promotion information according to the user's taste is set, the user 160 selects, from among the proximity promotion information less than the distance specified in the current position of the electronic device 10, It is possible to select the promotion information according to the taste and output the selected promotion information as additional information of the AR service.
  • the processor 160 may use the promotion information stored in the memory 150 to correspond to environmental information of at least one of the current location of the electronic device 10, the current weather, Can be obtained. Additionally or alternatively, the processor 160 may communicate with the promotional server via a communication module (e.g., 120 in FIG. 1) to receive promotional information corresponding to environmental information, and may further associate the received promotional information with additional information .
  • a communication module e.g., 120 in FIG. 1
  • FIG. 7 shows a UI screen for providing additional information of an AR service according to a user's taste according to an embodiment.
  • a processor may determine object information according to a user's taste for an object recognized from a live view image as additional information of a symptom reality service.
  • the processor 160 can recognize an apple (object) from a live view image. For example, the processor 160 analyzes the feature information of the live view image, compares the feature information of the live view image with the feature information stored in the memory 150 (e.g., 150 in FIG. 1) Based on the category to which the feature information stored in the memory 150 matching the information belongs, it can be confirmed that the object included in the live view image is an apple included in the apple category.
  • the processor 160 analyzes the feature information of the live view image, compares the feature information of the live view image with the feature information stored in the memory 150 (e.g., 150 in FIG. 1) Based on the category to which the feature information stored in the memory 150 matching the information belongs, it can be confirmed that the object included in the live view image is an apple included in the apple category.
  • the processor 160 determines the price information of the apple as additional information of the AR service, Display price information (for example, overlay).
  • the processor 160 determines the recipe related information using the apples as additional information of the AR service, Recipe related information using an apple can be displayed on the image.
  • the processor 160 determines the calorie or ingredient information of the apples as supplementary information of the AR service when confirming the taste of the user who is interested in health or diet, Component information can be displayed.
  • the processor 160 transmits, for example, user taste information to a designated server (e.g., a shopping mall server), receives object information corresponding to a user's taste from a specified server, It can be displayed on live view image.
  • a designated server e.g., a shopping mall server
  • FIG. 8 is a flowchart illustrating a method for providing an augmented reality service according to an embodiment.
  • a processor e.g., 160 of FIG. 1 may obtain a live view image using camera 110.
  • the processor 160 determines whether there is a preference among the plurality of shot images based on at least one of the preference information for the plurality of shot images stored in the memory (e.g., 150 of FIG. 1) It is possible to determine at least one image (additional information of the AR service) that is relatively high.
  • the processor 160 may display at least one image and a live view image (e.g., 140 in FIG. 1).
  • a method of providing an augmented reality service by an electronic device includes: acquiring a live view image using a camera; Determining at least one image having a relatively high preference among the plurality of shot images based on at least one of the preference information about the plurality of shot images stored in the memory or the objects included in the live view image; And displaying the at least one image and the live view image on a display.
  • Each of the photographed images may be stored in association with category information corresponding to an object included in each of the photographed images, and the preference information may be preference information on the category information.
  • the determining operation comprises: obtaining at least one shot image corresponding to a category to which an object included in the live view image belongs among the plurality of shot images based on the category information; And determining the at least one image belonging to the category having the relatively high preference among the acquired at least one shot images based on the preference information.
  • the method for providing an augmented reality service includes: checking category information corresponding to an object included in the plurality of shot images; And determining the preference information for the category information using the appearance frequency of the category information.
  • the operation of determining as the additional information is performed based on the category information of the at least one shot image, the first category in which the object included in the live view image belongs to the category included in the at least one shot image, Identifying at least one second category that is excluded; And determining the at least one image having the relatively high preference among the at least one second category as the additional information based on the preference information.
  • the method for providing the augmented reality service comprises the steps of: checking environment information at a time when the at least one captured image includes a plurality of images, and the plurality of images have the same preference; And determining, as the additional information, at least one image having a degree of similarity relatively to environment information at the time of acquiring the live view image from among the plurality of images.
  • FIG. 9 is a flowchart illustrating a method of determining additional information of an AR service according to an exemplary embodiment of the present invention.
  • a processor e.g., 160 of FIG. 1 may determine at operation 920, if the AR view function is enabled, the first category to which the object contained in the live view image belongs.
  • the processor 160 may obtain at least one captured image corresponding to (or associated with) the first category from a plurality of captured images stored in memory (e.g., 150 of FIG. 1). For example, the processor 160 can identify the category information of the plurality of shot images and obtain at least one shot image corresponding to the first category from the category information.
  • the processor 160 may determine whether a user input for category selection is received or detected via an input module (e.g., 130 in FIG. 1). For example, when the manual filtering function is selected through the input module 130, the processor 160 may select a user interface (UI) for at least one of an upper category or sub-category except for the first category corresponding to the at least one captured image Can be provided.
  • UI user interface
  • the processor 160 determines at operation 940 that if the manual filtering function is selected, at operation 950, the user input for the user interface for manual filtering is confirmed and the at least one image corresponding to the category selected as the user input It can be determined as additional information.
  • the processor 160 determines at operation 960 whether the AR is based on the preference information for at least one second category, except for the first category, Additional information of the service can be determined. For example, the processor 160 may check the preference information for at least one second category, and may determine the additional information of the AR service on at least one image belonging to a category having relatively high preference based on the preference information .
  • the processor 160 may perform at least one of operations 920 through 970 until the AR view function is terminated.
  • 10 is a block diagram of an electronic device 1001 providing augmented reality services in a network environment 1000, in accordance with various embodiments.
  • electronic device 1001 e.g., 10 of FIG. 1 in network environment 1000 may communicate with electronic device 1002 via a first network 1098 (e.g., near field wireless communication) Or communicate with the electronic device 1004 or the server 1008 via a second network 1099 (e.g., a remote wireless communication).
  • the electronic device 1001 may communicate with the electronic device 1004 via the server 1008.
  • electronic device 1001 includes a processor 1020 (e.g., 160 of FIG. 1), a memory 1030 (e.g., 150 of FIG.
  • an input device 1050 An audio output device 1055, a display device 1060 (e.g., 140 in Figure 1), an audio module 1070, a sensor module 1076, an interface 1077, a haptic module 1079, a camera module 1080 (E.g., 110 in FIG. 1), a power management module 1088, a battery 1089, a communication module 1090 (e.g., 120 in FIG. 1), a subscriber identity module 1096, and an antenna module 1097 .
  • at least one (e.g., display device 1060 or camera module 1080) of these components may be omitted from the electronic device 1001 or other components may be added.
  • some components such as, for example, a sensor module 1076 (e.g., a fingerprint sensor, an iris sensor, or an ambient light sensor) embedded in a display device 1060 Can be integrated.
  • Processor 1020 may be configured to operate by, for example, running software (e.g., program 1040) to provide at least one other component (e.g., hardware or software component) of electronic device 1001 coupled to processor 1020 And can perform various data processing and arithmetic operations.
  • running software e.g., program 1040
  • component e.g., hardware or software component
  • Processor 1020 loads and processes commands or data received from other components (e.g., sensor module 1076 or communication module 1090) into volatile memory 1032 and processes the resulting data into nonvolatile memory 1034, Lt; / RTI >
  • the processor 1020 may operate on a main processor 1021 (e.g., a central processing unit or an application processor) and, independently, or additionally or alternatively, use a lower power than the main processor 1021, Or a secondary processor 1023 (e.g., a graphics processing unit, an image signal processor, a sensor hub processor, or a communications processor) that is specialized for the specified function.
  • the auxiliary processor 1023 may be operated separately from or embedded in the main processor 1021.
  • the coprocessor 1023 may be configured to operate on behalf of the main processor 1021, for example, while the main processor 1021 is in an inactive (e.g., sleep) At least one component (e.g., display 1060, sensor module 1076, or communication module 1010) of the electronic device 1001, along with the main processor 1021, 1090) associated with the at least some of the functions or states.
  • the secondary processor 1023 e.g., an image signal processor or communications processor
  • the secondary processor 1023 is implemented as a component of some other functionally related component (e.g., camera module 1080 or communication module 1090) .
  • the memory 1030 may store various data used by at least one component (e.g., processor 1020 or sensor module 1076) of the electronic device 1001, e.g., software (e.g., program 1040) ), And input data or output data for the associated command.
  • the memory 1030 may include a volatile memory 1032 or a non-volatile memory 1034.
  • the program 1040 is software stored in the memory 1030 and may include, for example, an operating system 1042, a middleware 1044, or an application 1046.
  • the input device 1050 is an apparatus for receiving commands or data to be used in a component (e.g., processor 1020) of the electronic device 1001 from the outside (e.g., a user) of the electronic device 1001,
  • a component e.g., processor 1020
  • a microphone e.g., a mouse, or a keyboard may be included.
  • the sound output apparatus 1055 is an apparatus for outputting a sound signal to the outside of the electronic apparatus 1001.
  • a speaker used for general purposes such as multimedia reproduction or recording reproduction
  • a receiver used for telephone reception only a speaker used for telephone reception only .
  • the receiver may be formed integrally or separately with the speaker.
  • Display device 1060 may be an apparatus for visually providing information to a user of electronic device 1001 and may include, for example, a display, a hologram device, or a projector and control circuitry for controlling the projector. According to one embodiment, the display device 1060 may include a touch sensor or a pressure sensor capable of measuring the intensity of pressure on the touch.
  • the audio module 1070 can bidirectionally convert sound and electrical signals. According to one embodiment, the audio module 1070 may acquire sound through an input device 1050, or may be connected to an audio output device 1055, or to an external electronic device (e.g., Electronic device 1002 (e.g., a speaker or headphone)).
  • an external electronic device e.g., Electronic device 1002 (e.g., a speaker or headphone)
  • the sensor module 1076 may generate an electrical signal or data value corresponding to an internal operating state (e.g., power or temperature) of the electronic device 1001, or an external environmental condition.
  • the sensor module 1076 may be a gesture sensor, a gyro sensor, a barometric sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an infrared sensor, Or an illuminance sensor.
  • Interface 1077 may support a designated protocol that may be wired or wirelessly connected to an external electronic device (e.g., electronic device 1002).
  • the interface 1077 may include a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • HDMI high definition multimedia interface
  • USB universal serial bus
  • SD card interface Secure Digital interface
  • audio interface an audio interface
  • connection terminal 1078 may be a connector that can physically connect the electronic device 1001 and an external electronic device (E.g., a headphone connector).
  • an external electronic device E.g., a headphone connector
  • the haptic module 1079 can convert an electrical signal into a mechanical stimulus (e.g., vibration or motion) or an electrical stimulus that the user can perceive through a tactile or kinesthetic sense.
  • the haptic module 1079 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
  • the camera module 1080 can capture a still image and a moving image.
  • the camera module 1080 may include one or more lenses, an image sensor, an image signal processor, or a flash.
  • the power management module 1088 is a module for managing the power supplied to the electronic device 1001, and may be configured as at least a part of, for example, a power management integrated circuit (PMIC).
  • PMIC power management integrated circuit
  • Battery 1089 is an apparatus for supplying power to at least one component of electronic device 1001 and may include, for example, a non-rechargeable primary battery, a rechargeable secondary battery, or a fuel cell.
  • the communication module 1090 is responsible for establishing a wired or wireless communication channel between the electronic device 1001 and an external electronic device (e.g., electronic device 1002, electronic device 1004, or server 1008) Lt; / RTI > Communication module 1090 may include one or more communication processors supporting wired communication or wireless communication, which operate independently from processor 1020 (e.g., an application processor).
  • processor 1020 e.g., an application processor
  • communication module 1090 includes a wireless communication module 1092 (e.g., a cellular communication module, a short range wireless communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 1094 Such as Bluetooth, WiFi direct, or IrDA (infrared data association), using a corresponding communication module, such as a local area network (LAN) communication module or a power line communication module) Communication network) or a second network 1099 (e.g., a telecommunications network such as a cellular network, the Internet, or a computer network (e.g., a LAN or WAN)).
  • a wireless communication module 1092 e.g., a cellular communication module, a short range wireless communication module, or a global navigation satellite system (GNSS) communication module
  • GNSS global navigation satellite system
  • wired communication module 1094 such as Bluetooth, WiFi direct, or IrDA (infrared data association
  • a corresponding communication module such as a local area network (LAN) communication
  • the wireless communication module 1092 may use the user information stored in the subscriber identification module 1096 to identify and authenticate the electronic device 1001 within the communication network.
  • the antenna module 1097 may include one or more antennas for externally transmitting or receiving signals or power.
  • the communication module 1090 e.g., the wireless communication module 1092
  • Some of the components are connected to each other via a communication method (e.g., bus, general purpose input / output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI) (Such as commands or data) can be exchanged between each other.
  • a communication method e.g., bus, general purpose input / output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI) (Such as commands or data) can be exchanged between each other.
  • the command or data may be transmitted or received between the electronic device 1001 and the external electronic device 1004 via the server 1008 connected to the second network 1099.
  • Each of the electronic devices 1002 and 1004 may be the same or a different kind of device as the electronic device 1001.
  • all or a portion of the operations performed on the electronic device 1001 may be performed on another or a plurality of external electronic devices.
  • the electronic device 1001 in the event that the electronic device 1001 has to perform certain functions or services automatically or upon request, the electronic device 1001 may, instead of or in addition to executing the function or service itself, And may request the external electronic device to perform at least some functions associated therewith.
  • the external electronic device receiving the request may execute the requested function or additional function and transmit the result to the electronic device 1001.
  • the electronic device 1001 can directly or additionally process the received result to provide the requested function or service.
  • cloud computing, distributed computing, or client-server computing technology may be used.
  • module includes units comprised of hardware, software, or firmware and may be used interchangeably with terms such as, for example, logic, logic blocks, components, or circuits.
  • a module may be an integrally constructed component or a minimum unit or part thereof that performs one or more functions.
  • the module may be configured as an application-specific integrated circuit (ASIC).
  • ASIC application-specific integrated circuit
  • Various embodiments of the present document may include instructions stored on a machine-readable storage medium (e.g., internal memory 1036 or external memory 1038) readable by a machine (e.g., a computer) Software (e. G., Program 1040).
  • the device may include an electronic device (e.g., electronic device 1001) in accordance with the disclosed embodiments as an apparatus that is operable to call stored instructions from the storage medium and act upon the called instructions.
  • a processor e.g., processor 1020
  • the processor may perform the function corresponding to the instruction, either directly, or using other components under the control of the processor.
  • the instructions may include code generated or executed by the compiler or interpreter.
  • a device-readable storage medium may be provided in the form of a non-transitory storage medium.
  • 'non-temporary' means that the storage medium does not include a signal and is tangible, but does not distinguish whether data is stored semi-permanently or temporarily on the storage medium.
  • the method according to various embodiments disclosed herein may be provided in a computer program product.
  • a computer program product can be traded between a seller and a buyer as a product.
  • a computer program product may be distributed in the form of a machine readable storage medium (eg, compact disc read only memory (CD-ROM)) or distributed online through an application store (eg PlayStore TM ).
  • an application store eg PlayStore TM
  • at least a portion of the computer program product may be temporarily stored, or temporarily created, on a storage medium such as a manufacturer's server, a server of an application store, or a memory of a relay server.
  • Each of the components may be comprised of a single entity or a plurality of entities, and some of the subcomponents described above may be omitted, or other subcomponents May be further included in various embodiments.
  • some components e.g., modules or programs

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Hardware Design (AREA)
  • Computer Graphics (AREA)
  • Software Systems (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computational Linguistics (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Human Computer Interaction (AREA)
  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

전자 장치가 개시된다. 본 문서에 개시되는 일 실시 예에 따른 전자 장치는, 카메라; 디스플레이; 복수의 촬영 이미지(captured image)들 및 각 촬영 이미지에 대한 선호도 정보를 저장하는 메모리; 및 상기 카메라, 상기 디스플레이 및 상기 메모리와 기능적으로 연결된 프로세서를 포함하고, 상기 프로세서는, 상기 카메라를 이용하여 라이브 뷰(live view) 이미지를 획득하고, 상기 선호도 정보 또는 상기 라이브 뷰 이미지에 포함된 객체 중 적어도 하나를 기반으로 상기 복수의 촬영 이미지들 중에서 선호도가 상대적으로 높은 적어도 하나의 이미지를 증강 현실 서비스의 부가 정보로 결정하고, 상기 부가 정보와 상기 라이브 뷰 이미지를 상기 디스플레이에 표시하도록 설정될 수 있다. 이 외에도 명세서를 통해 파악되는 다양한 실시 예가 가능하다.

Description

전자 장치 및 전자 장치의 증강 현실 서비스 제공 방법
본 문서에서 개시되는 실시 예들은, 증강 현실 서비스의 기술과 관련된다.
증강 현실(AR; augmented reality)이란 사용자가 눈으로 보는 현실 세계에 가상 객체를 겹쳐 보여주는 기술로서, 혼합 현실(mixed reality)라고도 불린다. 증강 현실 기술은 실제 환경과 가상 객체를 혼합하여 보여줌에 따라 보다 가상 객체(또는, 부가 정보)에 대한 현실감을 높일 수 있다.
전자 장치는 카메라를 이용하여 획득된 라이브 뷰(live view) 이미지(현실 세계) 상에 부가 정보를 겹쳐서 디스플레이에 표시할 수 있다. 예를 들어, 전자 장치는 전자 장치의 현 위치 정보를 확인하고 현 위치 정보를 부가 정보로 획득하여, 부가 정보와 라이브 뷰 이미지(live view image)를 디스플레이에 표시할 수 있다.
상기 부가 정보는 예를 들어, 서비스 제공 서버로부터 제공될 수 있는데, 서비스 제공 서버는 동일한 위치에 있는 전자 장치로 동일한 부가 정보를 제공하므로, 동일 위치에 있는 전자 장치는 동일한 부가 정보를 수신할 수 있다. 또한, 사용자가 방문하는 장소는 한정적이므로, 전자 장치가 제공하는 부가 정보는 한정적일 수 있다. 따라서, 사용자는 증강 현실 서비스를 반복 이용할수록 흥미를 잃을 수 있다.
본 문서에 개시되는 다양한 실시 예들은 사용자 취향에 따른 증강 현실 서비스를 제공할 수 있는 전자 장치 및 전자 장치의 증강 현실 서비스 제공 방법을 제공한다.
본 문서에 개시되는 일 실시 예에 따른 전자 장치는, 카메라; 디스플레이; 복수의 촬영 이미지(captured image)들 및 각 촬영 이미지에 대한 선호도 정보를 저장하는 메모리; 및 상기 카메라, 상기 디스플레이 및 상기 메모리와 기능적으로 연결된 프로세서를 포함하고, 상기 프로세서는, 상기 카메라를 이용하여 라이브 뷰(live view) 이미지를 획득하고, 상기 선호도 정보 또는 상기 라이브 뷰 이미지에 포함된 객체 중 적어도 하나를 기반으로 상기 복수의 촬영 이미지들 중에서 선호도가 상대적으로 높은 적어도 하나의 이미지를 증강 현실 서비스의 부가 정보로 결정하고, 상기 부가 정보와 상기 라이브 뷰 이미지를 상기 디스플레이에 표시하도록 설정될 수 있다.
또한, 본 문서에 개시되는 일 실시 예에 따른 전자 장치에 의한 증강 현실 서비스 제공 방법은, 카메라를 이용하여 라이브 뷰(live view) 이미지를 획득하는 동작; 메모리에 저장된 복수의 촬영 이미지에 대한 선호도 정보 또는 라이브 뷰 이미지에 포함된 객체 중 적어도 하나를 기반으로 상기 복수의 촬영 이미지들 중에서 선호도가 상대적으로 높은 적어도 하나의 이미지를 결정하는 동작; 및 상기 적어도 하나의 이미지와 상기 라이브 뷰 이미지를 디스플레이에 표시하는 동작을 포함할 수 있다.
본 문서에 개시되는 실시 예들에 따르면, 사용자 취향에 따른 증강 현실 서비스를 제공할 수 있다. 이 외에, 본 문서를 통해 직접적 또는 간접적으로 파악되는 다양한 효과들이 제공될 수 있다.
도 1은 일 실시 예에 따른 전자 장치의 구성도를 나타낸다.
도 2는 일 실시 예에 따른 카테고리 체계를 나타낸다.
도 3a는 일 실시 예에 따른 객체 인식 과정의 UI 화면을 나타낸다.
도 3b는 일 실시 예에 따른 인식된 객체에 대응하는 AR 서비스의 부가 정보 결정 방법을 설명하기 위한 도면이다.
도 3c는 일 실시 예에 따른 촬영 이미지로부터 결정된 AR 서비스의 부가 정보를 표시하는 UI 화면을 나타낸다.
도 3d는 일 실시 예에 따른 AR 서비스의 부가 정보를 수동 결정하는 과정의 UI 화면을 나타낸다.
도 4는 일 실시 예에 따른 촬영 이미지를 이용한 선호도 결정 방법을 설명하기 위한 도면이다.
도 5는 일 실시 예에 따른 장소 카테고리에 대응하는 AR 서비스의 부가 정보를 제공하는 UI 화면을 나타낸다.
도 6a 내지 도 6c는 일 실시 예에 따른 사용자 취향에 대응하는 프로모션 정보를 AR 서비스의 부가 정보를 제공하는 UI 화면을 나타낸다.
도 7은 일 실시 예에 따른 사용자 취향에 따른 AR 서비스의 부가 정보를 제공하는 UI 화면을 나타낸다.
도 8은 일 실시 예에 따른 증강 현실 서비스 제공 방법을 도시한 흐름도이다.
도 9는 일 실시 예에 따른 AR 서비스의 부가 정보 결정 방법을 나타낸 흐름도이다.
도 10은 다양한 실시 예에 따른 네트워크 환경 내의 증강 현실 서비스를 제공하는 전자 장치의 블록도를 나타낸다.
도면의 설명과 관련하여, 동일 또는 유사한 구성요소에 대해서는 동일 또는 유사한 참조 부호가 사용될 수 있다.
이하, 본 발명의 다양한 실시 예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 실시 예의 다양한 변경(modification), 균등물(equivalent), 및/또는 대체물(alternative)을 포함하는 것으로 이해되어야 한다.
본 문서에서, "가진다", "가질 수 있다", "포함한다", 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
본 문서에서, "A 또는 B", "A 또는/및 B 중 적어도 하나", 또는 "A 또는/및 B 중 하나 또는 그 이상" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B", "A 및 B 중 적어도 하나", 또는 "A 또는 B 중 적어도 하나"는, (1) 적어도 하나의 A를 포함, (2) 적어도 하나의 B를 포함, 또는 (3) 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.
다양한 실시 예에서 사용된 "제1", "제2", "첫째", 또는 "둘째" 등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 해당 구성요소들을 한정하지 않는다. 예를 들면, 제1 사용자 기기와 제2 사용자 기기는, 순서 또는 중요도와 무관하게, 서로 다른 사용자 기기를 나타낼 수 있다. 예를 들면, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 바꾸어 명명될 수 있다.
어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 다른 구성요소(예: 제3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
본 문서에서 사용된 표현 "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, "~에 적합한(suitable for)", "~하는 능력을 가지는(having the capacity to)", "~하도록 설계된(designed to)", "~하도록 변경된(adapted to)", "~하도록 만들어진(made to)", 또는 "~를 할 수 있는(capable of)"과 바꾸어 사용될 수 있다. 용어 "~하도록 구성(또는 설정)된"은 하드웨어적으로 "특별히 설계된(specifically designed to)"것만을 반드시 의미하지 않을 수 있다. 대신, 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성(또는 설정)된 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(generic-purpose processor)(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서에서 사용된 용어들은 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 다른 실시 예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명의 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 일반적으로 사용되는 사전에 정의된 용어들은 관련 기술의 문맥 상 가지는 의미와 동일 또는 유사한 의미를 가지는 것으로 해석될 수 있으며, 본 문서에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 문서에서 정의된 용어일지라도 본 발명의 실시 예들을 배제하도록 해석될 수 없다.
이하, 첨부 도면을 참조하여, 다양한 실시 예에 따른 전자 장치가 설명된다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치 (예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치 중 적어도 하나를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
도 1은 일 실시 예에 따른 전자 장치의 구성도를 나타낸다.
도 1을 참조하면, 일 실시 예에 따르면, 전자 장치(10)는 카메라(110), 통신 모듈(120), 입력 모듈(130), 디스플레이(140), 메모리(150) 및 프로세서(160)를 포함할 수 있다. 일 실시 예에서, 일부 구성요소가 생략되거나, 추가적인 구성요소를 더 포함할 수 있다. 일 실시 예에서, 구성요소들 중 일부가 결합되어 하나의 개체로 구성되되, 결합 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다. 일 실시 예에서, 전자 장치(10)는 복수의 장치로 구성될 수 있다. 예를 들어, 전자 장치(10)는 휴대 단말과 서버를 포함할 수 있다. 도 1에 도시된 입출력 관계는 설명의 편의성을 위한 예시에 불과하며, 이에 한정되지 않을 수 있다.
일 실시 예에 따르면, 카메라(110)는 라이브 뷰 이미지(live view image) 또는 촬영 이미지(captured image)를 생성할 수 있다. 상기 촬영 이미지는 예를 들면, 동영상 또는 정지 영상 중 적어도 하나를 포함할 수 있다. 카메라(110)는 하나 이상의 렌즈, 이미지 센서, 이미지 시그널 프로세서 또는 플래시 중 적어도 하나를 포함할 수 있다.
일 실시 예에 따르면, 통신 모듈(120)은 적어도 하나의 통신 방식의 통신을 위한 통신 채널을 형성할 수 있다. 상기 통신 모듈(120)은 예를 들면, 3G(CDMA, GSM) 통신, LTE(long term evolution) 통신 또는 WiFi 중 적어도 하나의 통신을 위한 통신 회로를 포함할 수 있다. 상기 통신 모듈(120)은 다른 예를 들어, GPS 수신을 위한 통신 회로를 포함할 수 있다. 예를 들어, 통신 모듈(120)은 지정된 통신 채널을 통해 수신된 지정된 통신 방식의 신호를 프로세서(160)에 의해 해석 가능한 형식으로 변환할 수 있다. 통신 모듈(120)은 프로세서(160)로부터 수신된 신호를 지정된 통신 방식의 신호로 변환하여 지정된 통신 채널로 송신할 수 있다.
일 실시 예에 따르면, 입력 모듈(130)은 사용자 입력을 감지 또는 수신할 수 있다. 예를 들어, 입력 모듈(130)은 터치 스크린(예: 디스플레이(140)) 상에 구비된 터치 센서일 수 있다.
디스플레이(140)는, 예를 들면, 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이, 유기 발광 다이오드(OLED) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(140)는, 예를 들면, 사용자에게 각종 컨텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 및/또는 심볼 등)를 표시할 수 있다. 일 실시 예에 따르면, 디스플레이(140)는 프로세서(160)의 지시에 따라 라이브 뷰 이미지, 촬영 이미지 또는 AR 서비스의 부가 정보 중 적어도 하나를 출력(또는, 표시)할 수 있다.
메모리(150)는 휘발성 메모리(예를 들어, RAM 등), 비휘발성 메모리(예를 들어, ROM, 플래시 메모리 등) 또는 이들의 조합일 수 있다. 메모리(150)는, 예를 들면, 전자 장치(10)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 일 실시 예에 따르면, 메모리(150)는 복수의 촬영 이미지들, 촬영 이미지 정보, 카테고리 체계 정보 또는 선호도 정보 중 적어도 하나를 저장할 수 있다.
한 실시 예에 따르면, 복수의 촬영 이미지는 카메라(110)를 이용하여 생성된 사진 이미지, 앱을 통하여 공유된 이미지(이하, '공유 이미지'라 함) 또는 화면 캡처 기능으로 획득된 화면 이미지 중 적어도 하나를 포함할 수 있다. 상기 공유 이미지는 예를 들면, 촬영된 이미지 중에서 공유 이력이 있는 이미지 또는 다운로드 된 이미지 중 적어도 하나를 포함할 수 있다. 상기 화면 캡처 기능은 예를 들면, 스크린 샷(screenshot) 기능을 포함할 수 있다. 본 문서에서는 메모리(150)가 복수의 촬영 이미지를 저장하는 경우의 예를 설명한다.
한 실시 예에 따르면, 촬영 이미지 정보는 촬영 이미지의 카테고리 정보, 촬영 이미지의 이력 정보 또는 촬영 이미지의 환경 정보 중 적어도 하나를 포함할 수 있다. 상기 촬영 이미지 정보는 예를 들면, 촬영 이미지의 메타 데이터 정보일 수 있다.
상기 촬영 이미지의 카테고리 정보는 예를 들면, 촬영 이미지에 포함된 적어도 하나의 객체가 속하는 카테고리(예: 상위 카테고리 명칭, 하위 카테고리 명칭 등)에 대한 정보를 포함할 수 있다.
상기 촬영 이미지의 이력 정보는 예를 들면, 촬영 이미지에 대한 검색 이력 정보, 촬영 이미지의 공유 이력 정보, 촬영 이미지에 태깅된 태그 정보 또는 촬영 이미지에 대응하는 앱 정보 중 적어도 하나를 포함할 수 있다. 상기 검색 이력 정보는 예를 들면, 텍스트 검색 이력 정보 또는 보이스 검색(예: bixby vision search function) 이력 정보 중 적어도 하나를 포함할 수 있다. 상기 공유 이력 정보는 예를 들면, 각 촬영 이미지를 공유 가능한 앱(예: 문자 메시지 앱, 소셜 네트워크 앱, 채팅 앱 등)을 통한 촬영 이미지의 업로드 이력 정보 또는 다운로드 이력 정보를 포함할 수 있다. 상기 태그 정보는 예를 들면, 각 촬영 이미지에 태깅된 보이스 정보 또는 텍스트 정보 중 적어도 하나를 포함할 수 있다.
상기 촬영 이미지의 환경 정보는 예를 들면, 촬영 이미지의 생성 날짜 정보, 생성 시간 정보, 생성 위치 정보 또는 생성 시점의 기상 정보 중 적어도 하나를 포함할 수 있다.
한 실시 예에 따르면, 카테고리 체계 정보는 예를 들면, 복수의 카테고리들 중에서 인식된 객체가 속하는 카테고리를 결정하기 위한 정보를 포함할 수 있다. 카테고리 체계 정보에 따르면, 복수의 카테고리들 중에서 인식된 객체의 종류(또는, 유형)에 대응하는 복수의 상위 카테고리와 각 상위 카테고리에 포함된 복수의 하위(또는, 세부) 카테고리의 체계에 관한 정보를 포함할 수 있다.
한 실시 예에 따르면, 선호도 정보는 복수의 카테고리들에 대한 사용자의 선호도 점수 또는 선호 순위 중 적어도 하나를 나타내는 정보일 수 있다. 예를 들면, 선호도 정보는 복수의 촬영 이미지에 대응하는 상위 카테고리 또는 하위 카테고리 중 적어도 하나에 대한 사용자의 선호 순위를 포함할 수 있다.
프로세서(160)는 예를 들어, 중앙처리장치(CPU), 그래픽처리장치(GPU), 마이크로프로세서, 애플리케이션 프로세서(application processor), 주문형 반도체(ASIC(application specific integrated circuit), FPGA(field programmable gate arrays)) 중 적어도 하나를 포함할 수 있으며, 복수의 코어를 가질 수 있다. 프로세서(160)는 전자 장치(10)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
일 실시 예에 따르면, 프로세서(160)는 증강 현실 서비스(이하, 'AR 서비스'라 함)가 요청되면, 카메라(110)를 이용하여 라이브 뷰(live view) 이미지를 획득하고, 선호도 정보 또는 라이브 뷰 이미지에 포함된 객체 중 적어도 하나를 기반으로 복수의 촬영 이미지들 중에서 상대적으로 선호도가 높은 적어도 하나의 이미지를 AR 서비스의 부가 정보로 결정하고, 부가 정보와 상기 라이브 뷰 이미지를 디스플레이(140)에 표시할 수 있다.
일 실시 예에 따르면, 프로세서(160)는 AR 서비스 제공을 위하여, 메모리(150)에 저장된 각 촬영 이미지를 획득하고, 각 촬영 이미지에 포함된 객체에 대응하는 카테고리를 결정하고, 각 촬영 이미지와 각 촬영 이미지에 대응하는 카테고리 정보를 연관하여 저장할 수 있다. 예를 들면, 프로세서(160)는 AR 서비스를 위한 앱이 설치되면, 앱을 이용하여 AR 서비스 제공 전에 메모리(150)에 저장된 복수의 촬영 이미지 각각에 포함된 객체를 인식하고, 인식된 객체가 속하는 카테고리를 결정할 수 있다. 다른 예를 들면, 프로세서(160)는 새로운 촬영 이미지가 확인되면, 새로운 촬영 이미지에 포함된 객체를 인식하고, 인식된 객체가 속하는 카테고리를 결정하고, 새로운 촬영 이미지와 결정된 카테고리 정보를 연관하여 저장할 수 있다.
프로세서(160)는 각 촬영 이미지의 카테고리 정보를 이용하여 각 카테고리에 대한 선호도 정보를 결정할 수 있다. 예를 들어, 프로세서(160)는 각 촬영 이미지의 카테고리 정보를 이용하여 각 촬영 이미지에 포함된 객체에 대응하는 적어도 하나의 카테고리(하나 또는 그 이상의 카테고리)를 확인할 수 있다. 프로세서(160)는 적어도 하나의 카테고리의 출현 빈도를 확인하고, 적어도 하나의 카테고리의 출현 빈도를 기반으로 각 카테고리에 대한 선호도 정보(또는, 선호 우선 순위)를 결정할 수 있다.
프로세서(160)는 촬영 이미지 정보를 기반으로 카테고리에 대해 적어도 하나의 가중치를 적용하여 각 카테고리의 우선 순위를 결정할 수 있다. 예를 들어, 프로세서(160)는 촬영 이미지 정보로부터 복수의 촬영 이미지들 중에서 검색 이력이 있는 이미지, 공유 이력이 있는 이미지, 화면 캡처 기능으로 획득된 이미지 또는 태크 정보가 있는 이미지의 출현 빈도(또는, 비율)에 대해서는 다른 이미지에 비해서 상대적으로 높은 가중치를 적용하고, 가중치가 적용된 출현 빈도를 이용하여 복수의 촬영 이미지에 대응하는 카테고리에 대한 선호도를 결정할 수 있다. 다른 예를 들어, 프로세서(160)는 촬영 이미지 정보로부터 카테고리에 속하는 촬영 이미지를 생성한 시점에 대응하는 환경 정보의 패턴을 분석하고, 환경 정보의 패턴을 추출한 카테고리에 대해서는 상대적으로 높은 가중치를 적용할 수 있다.
일 실시 예에 따르면, 프로세서(160)는 AR 서비스를 위한 AR 뷰(VIEW) 기능이 요청되면, 카메라(100)를 이용하여 라이브 뷰 이미지를 획득하고, 라이브 뷰 이미지에 포함된 객체를 인식할 수 있다. 예를 들면, 프로세서(160)는 라이브 뷰 이미지의 특징 정보를 추출하고, 라이브 뷰 이미지의 특징 정보와 메모리(150)에 저장된 카테고리별 객체의 특징 정보를 비교하고, 비교 결과 라이뷰 뷰 이미지의 특징 정보와 매칭되는 카테고리별 객체의 특징 정보를 기반으로 라이브 뷰 이미지에 포함된 객체 및 객체가 속하는 카테고리를 결정할 수 있다. 프로세서(160)는 예를 들어, 카테고리별 객체의 특징 정보 중 라이뷰 뷰 이미지의 특징 정보와 매칭되는 특징 정보에 대응하는 객체를 라이뷰 뷰 이미지에 포함된 객체로 결정할 수 있다. 프로세서(160)는 예를 들어, 결정된 객체가 속하는 카테고리를 라이뷰 뷰 이미지에 포함된 객체가 속하는 카테고리로 결정할 수 있다. 다른 예를 들면, 프로세서(160)는 라이브 뷰 이미지를 지정된 서버(예: 빅 데이터 서버)로 송신하고 지정된 서버가 라이브 뷰 이미지의 특징 정보와 지정된 서버의 데이터베이스에 저장된 객체의 특징 정보를 비교함에 따라 결정한, 라이브 뷰 이미지에 포함된 객체 및 객체가 속하는 제 1 카테고리를 인식할 수 있다. 이하의 문서에서는 전자와 같이, 프로세서(160)가 라이브 뷰 이미지의 특징 정보를 기반으로 제 1 카테고리를 결정하는 경우를 예로 설명한다.
일 실시 예에 따르면, 프로세서(160)는 카테고리 정보를 기반으로 메모리(150)에 저장된 예컨대, 사진첩 폴더에 저장된, 복수의 촬영 이미지들 중에서 라이브 뷰 이미지에 포함된 객체가 속하는 제 1 카테고리에 대응하는 적어도 하나의 촬영 이미지를 획득하고, 선호도 정보를 기반으로 획득된 적어도 하나의 촬영 이미지 중에서 상대적으로 선호도가 높은 카테고리에 속하는 상기 적어도 하나의 이미지를 AR 서비스의 부가 정보로 결정할 수 있다.
프로세서(160)는 사진첩 폴더에 저장된 적어도 하나의 촬영 이미지들의 카테고리 정보를 확인하고, 적어도 하나의 촬영 이미지들에 대응하는 카테고리 중에서 제 1 카테고리를 제외한 적어도 하나의 제 2 카테고리를 확인할 수 있다. 프로세서(160)는 선호도 정보를 기반으로 적어도 하나의 제 2 카테고리 중에서 선호도가 상대적으로 높은 카테고리에 속하는 적어도 하나의 이미지를 AR 서비스의 부가 정보로 결정할 수 있다.
일 실시 예에 따르면, 프로세서(160)는 제 1 카테고리에 속하는 적어도 하나의 촬영 이미지가 복수의 이미지들을 포함하고, 복수의 이미지들의 선호도가 동일한 경우, 복수의 이미지들의 촬영 이미지 정보 또는 픽셀 값을 이용하여 AR 서비스의 부가 정보를 결정할 수 있다.
한 실시 예에 따르면, 프로세서(160)는 복수의 이미지들 각각을 생성한 촬영 시점의 환경 정보와 상기 라이브 뷰 이미지를 획득한 현재 시점의 환경 정보를 각기 확인하고, 복수의 이미지들의 촬영 시점의 환경 정보와 현재 시점의 환경 정보와 상대적으로 유사도를 기반으로 복수의 이미지들 중 적어도 하나의 이미지를 결정할 수 있다.
예를 들면, 복수의 이미지들의 선호도 정보가 동일한 경우, 프로세서(160)는 현재 날짜 정보와 복수의 이미지들의 생성 시간 정보를 각기 확인하고, 복수의 이미지들 중에서 현재 날짜와 동일한 날짜 또는 유사한 날짜에 촬영된 이미지가 있으면, 해당 이미지를 AR 서비스의 부가 정보로 결정할 수 있다. 상기 현재 날짜 정보는 예를 들면, 통신 모듈(120)을 통해 수신된 정보(예: 표준 시각 정보) 또는, 프로세서(160)에 의해 산출된 날짜 정보로부터 확인될 수 있다. 상기 각 이미지의 생성 시간 정보는 예를 들면, 각 이미지의 메타 데이터로부터 확인될 수 있다. 상기 유사한 날짜는 현재 날짜의 전 또는 후의 지정된 기간(예: 1주일) 동안의 날짜일 수 있다.
다른 예를 들면, 복수의 이미지들의 선호도 정보가 동일한 경우, 프로세서(160)는 전자 장치(10)의 현 위치 정보 및 복수의 이미지들의 촬영 위치 정보를 각기 확인하고, 복수의 이미지들 중에서 전자 장치(10)의 현 위치로부터 지정된 거리(예: 100m) 미만 근접한 위치에서 촬영된 이미지가 있으면, 해당 이미지를 AR 서비스의 부가 정보로 결정할 수 있다. 상기 전자 장치(10)의 현 위치 정보는 예를 들면, 통신 모듈(120)을 통해 수신된 정보(예: GPS 정보)를 이용하여 확인될 수 있다. 상기 각 이미지의 촬영 위치 정보는 예를 들면, 각 이미지의 메타 데이터로부터 확인될 수 있다. 상기 지정된 거리는 예를 들면, 인식된 객체와 전자 장치(10) 간의 거리(또는, 깊이) 미만의 거리일 수 있다. 상기 지정된 거리는 다른 예를 들면, 도보로 20분 이내에 이용 가능한 거리로서 실험적으로 결정될 수 있다.
또 다른 예로, 복수의 이미지들의 선호도 정보가 동일한 경우, 프로세서(160)는 현재 날짜 및 시간 정보와 복수의 이미지들의 촬영 날짜 및 시간 정보를 각기 확인하고, 복수의 이미지들 중에서 상대적으로 최근 촬영된 적어도 하나의 이미지를 AR 서비스의 부가 정보로 결정할 수 있다. 상기 현재 날짜 및 시간 정보는 예를 들면, 통신 모듈(120)을 통해 수신된 정보(예: 표준 시각 정보) 또는, 프로세서(160)에 의해 산출된 날짜와 시간 정보로부터 확인될 수 있다. 상기 각 이미지의 저장 날짜 및 시간 정보는 예를 들면, 각 이미지의 메타 데이터로부터 확인될 수 있다.
한 실시 예에 따르면, 복수의 이미지들의 선호도 정보가 동일한 경우, 프로세서(160)는 복수의 이미지들 중에서 공유 이력, 검색 이력 또는 태깅 이력이 있거나, 화면 캡처 기능으로 생성된 적어도 하나의 이미지를 AR 서비스의 부가 정보로 결정할 수 있다.
한 실시 예에 따르면, 복수의 이미지들의 선호도 정보가 동일한 경우, 프로세서(160)는 라이브 뷰 이미지와 각 이미지 간의 톤(tone) 유사도를 기반으로 AR 서비스의 부가 정보를 결정할 수 있다. 예를 들어, 프로세서(160)는 라이브 뷰 이미지의 픽셀 값의 평균과 각 이미지의 픽셀 값의 평균을 각기 확인하고, 복수의 이미지들 중에서 라이브 뷰 이미지의 픽셀 값의 평균과 유사도가 큰 적어도 하나의 이미지를 AR 서비스의 부가 정보로 결정할 수 있다.
한 실시 예에 따르면, 복수의 이미지들의 선호도 정보가 동일한 경우, 프로세서(160)는 사용자 입력에 따라 복수의 이미지들 중에서 AR 서비스의 부가 정보를 결정할 수 있다. 예를 들어, 프로세서(160)는 입력 모듈(130)을 통하여 지정된 기능(예: 수동 필터링 기능)이 선택되면, 카테고리 체계 정보 및 복수의 이미지들의 카테고리 정보를 기반으로 복수의 이미지들에 대응하는 상위 카테고리 목록을 표시하고, 입력 모듈(130)을 통하여 상위 카테고리 목록의 적어도 하나의 카테고리가 선택되면, 선택된 카테고리의 하위 카테고리 목록을 표시할 수 있다. 입력 모듈(130)을 통해 표시된 하위 카테고리 목록 중 하나가 선택되면, 프로세서(160)는 복수의 이미지들 중에서 선택된 하위 카테고리에 속하는 적어도 하나의 이미지를 AR 서비스의 부가 정보로 결정할 수 있다.
일 실시 예에 따르면, 프로세서(160)는 사용자 취향(예: 개인 정보)을 기반으로 인식된 객체에 대응하는 객체 정보를 확인하고, 확인된 객체 정보를 AR 서비스의 부가 정보로 결정하고, 결정된 AR 서비스의 부가 정보를 라이브 뷰 이미지와 함께 디스플레이(140)에 표시할 수 있다. 프로세서(160)는 예를 들어, 카테고리에 대한 선호도 정보 또는 개인 정보 중 적어도 하나를 이용하여 사용자 취향을 확인할 수 있다. 예를 들어, 프로세서(160)는 라이브 뷰 이미지 및 사용자 취향 정보를 지정된 서버(예: 쇼핑몰 서버)로 송신하고, 지정된 서버가 사용자 취향 정보를 기반으로 라이브 뷰 이미지에 포함된 객체에 대응하도록 결정한, 객체 정보를 지정된 서버로부터 수신할 수 있다. 다른 예를 들어, 프로세서(160)는 메모리(150)로부터 라이브 이미지에 포함된 객체에 대응하는 객체 정보들 중에서 사용자 취향에 따른 객체 정보를 결정할 수 있다. 본 문서에서는 프로세서(160)가 메모리(150)에 저장된 객체 정보들을 이용하여 사용자 취향에 따른 객체 정보를 결정하는 경우를 예로 들어 설명한다.
한 실시 예에 따르면, 프로세서(160)는 사용자 취향을 확인하지 못한 경우, 인식된 객체에 대응하는 객체 정보들 중에서 디폴트 취향에 대응하는 객체 정보 예컨대, 객체의 가격 정보를 라이브 뷰 이미지와 함께 표시할 수 있다.
한 실시 예에 따르면, 프로세서(160)는 음식(또는, 요리)에 관심이 많은 사용자 취향을 확인한 경우, 인식된 객체에 대응하는 객체 정보들 중에서 요리에 대응하는 객체 정보 예컨대, 인식된 객체를 이용한 레시피 관련 정보를 라이브 뷰 이미지와 함께 표시할 수 있다.
한 실시 예에 따르면, 프로세서(160)는 건강 또는 다이어트에 관심이 많은 사용자 취향을 확인한 경우, 인식된 객체에 대응하는 객체 정보들 중에서 건강 또는 다이어트에 대응하는 객체 정보 예컨대, 인식된 객체의 칼로리 또는 성분 정보를 라이브 뷰 이미지와 함께 표시할 수 있다.
일 실시 예에 따르면, 프로세서(160)는 사용자 취향 또는 카테고리에 대응한 선호도에 따른 프로모션 정보를 획득하고, 획득된 프로모션 정보(AR 서비스의 부가 정보)와 라이브 뷰 이미지를 디스플레이(140)에 표시할 수 있다. 예를 들어, 프로세서(160)는 전자 장치(10)의 현 위치 정보를 확인하고, 현 위치 정보로부터 지정된 거리 미만의 프로모션 정보를 AR 서비스의 부가 정보로 결정할 수 있다. 다른 예를 들어, 프로세서(160)는 통신 모듈(120)을 통해 지정된 서버(예: 광고 서비스 서버)에 사용자 취향 또는 선호도 정보를 송신하고, 사용자 취향 또는 선호도 정보에 대응하는 프로모션 정보를 수신하고, 수신된 프로모션 정보를 라이브 뷰 이미지와 함께 표시할 수 있다.
일 실시 예에 따르면, 전자 장치(예: 도 1의 전자 장치(10))는, 카메라(예: 도 1의 카메라(110)); 디스플레이(예: 도 1의 디스플레이(140)); 복수의 촬영 이미지(captured image)들 및 각 촬영 이미지에 대한 선호도 정보를 저장하는 메모리(예: 도 1의 메모리(150)); 및 상기 카메라, 상기 디스플레이 및 상기 메모리와 기능적으로 연결된 프로세서(예: 도 1의 160)를 포함할 수 있다. 상기 프로세서는, 상기 카메라를 이용하여 라이브 뷰(live view) 이미지를 획득하고, 상기 선호도 정보 또는 상기 라이브 뷰 이미지에 포함된 객체 중 적어도 하나를 기반으로 상기 복수의 촬영 이미지들 중에서 선호도가 상대적으로 높은 적어도 하나의 이미지를 증강 현실 서비스의 부가 정보로 결정하고, 상기 부가 정보와 상기 라이브 뷰 이미지를 상기 디스플레이에 표시하도록 설정될 수 있다.
일 실시 예에 따르면, 상기 메모리는, 상기 각 촬영 이미지와 상기 각 촬영 이미지에 포함된 객체에 대응하는 카테고리 정보를 연관하여 저장하고, 상기 선호도 정보는, 상기 카테고리 정보에 대한 선호도 정보일 수 있다. 상기 프로세서는, 상기 카테고리 정보를 기반으로 상기 복수의 촬영 이미지들 중에서 상기 라이브 뷰 이미지에 포함된 객체가 속하는 카테고리에 대응하는 적어도 하나의 촬영 이미지를 획득하고, 상기 선호도 정보를 기반으로 상기 획득된 적어도 하나의 촬영 이미지 중에서 상기 선호도가 상대적으로 높은 카테고리에 속하는 상기 적어도 하나의 이미지를 결정하도록 설정도리 수 있다.
일 실시 예에 따르면, 전자 장치는, 서버()와 통신하도록 설정된 통신 모듈()을 더 포함할 수 있다. 상기 프로세서는, 상기 통신 모듈을 통해 상기 라이브 뷰 이미지를 상기 서버로 송신하고, 상기 서버로부터, 상기 라이브 뷰 이미지에 포함된 객체가 속하는 카테고리 정보를 수신하도록 설정될 수 있다.
상기 카테고리 정보는, 상기 서버에 의해 상기 라이브 뷰 이미지에 포함된 객체와 상기 서버의 데이터베이스에 저장된 객체를 비교하고, 비교 결과에 기반하여 결정될 수 있다.
상기 프로세서는, 상기 복수의 촬영 이미지에 포함된 객체가 속하는 카테고리 정보를 확인하고, 상기 카테고리 정보의 출연 빈도를 이용하여 상기 카테고리 정보에 대한 선호도 정보를 결정하도록 설정될 수 있다.
상기 프로세서는, 상기 각 촬영 이미지의 생성, 공유 또는 편집에 대한 이력 정보 또는 상기 각 촬영 이미지의 생성 시점에 대응하는 환경 정보 중 적어도 하나를 기반으로 적어도 하나의 카테고리의 출연 빈도에 상기 가중치를 적용하여, 상기 카테고리 정보에 대한 선호도 정보를 결정하도록 설정될 수 있다.
상기 이력 정보는, 상기 각 촬영 이미지의 검색 이력 정보, 상기 각 촬영 이미지의 공유 이력 정보, 상기 각 촬영 이미지의 태그 정보 또는 상기 각 촬영 이미지를 생성한 앱 정보 중 적어도 하나를 포함할 수 있다.
상기 환경 정보는, 시간 정보, 날짜 정보, 현 위치 정보 또는 기상 정보 중 적어도 하나를 포함할 수 있다.
일 실시 예에 따르면, 상기 프로세서는, 상기 적어도 하나의 촬영 이미지의 카테고리 정보를 기반으로, 상기 적어도 하나의 촬영 이미지에 포함된 객체가 속하는 카테고리 중에서 상기 라이브 뷰 이미지에 포함된 객체가 속하는 제 1 카테고리를 제외한 적어도 하나의 제 2 카테고리를 확인하고, 상기 선호도 정보를 기반으로 상기 적어도 하나의 제 2 카테고리 중에서 상기 선호도가 상대적으로 큰 상기 상기 적어도 하나의 이미지를 부가 정보로 결정하도록 설정될 수 있다.
상기 프로세서는, 상기 적어도 하나의 촬영 이미지가 복수의 이미지들을 포함하고, 상기 복수의 이미지들의 선호도가 동일한 경우, 상기 복수의 이미지들 각각을 생성한 촬영 시점의 환경 정보와 상기 라이브 뷰 이미지를 획득한 현재 시점의 환경 정보를 각기 확인하고, 상기 복수의 이미지들 중에서 상기 촬영 시점의 환경 정보와 상기 현재 시점의 환경 정보와 상대적으로 유사도를 기반으로 상기 적어도 하나의 이미지를 결정하도록 설정될 수 있다.
상기 프로세서는, 상기 복수의 이미지들 중에서 상기 전자 장치의 현 위치로부터 지정된 거리 미만으로 근접한 위치에서 촬영된 이미지가 있으면, 상기 지정된 거리 미만으로 근접한 위치에서 적어도 하나의 이미지를 상기 부가 정보로 결정하도록 설정될 수 있다.
상기 프로세서는, 상기 복수의 이미지들 중에서 공유 이력, 검색 이력 또는 태깅 이력이 있거나, 화면 캡처 기능으로 생성된 적어도 하나의 이미지를 상기 부가 정보로 결정하도록 설정될 수 있다.
상기 프로세서는, 상기 적어도 하나의 촬영 이미지가 복수의 이미지들을 포함하고, 상기 복수의 이미지들의 선호도가 동일한 경우, 상기 복수의 이미지들의 촬영 날짜와 촬영 시간 정보와 상기 환경 정보 중에서 현재 시간 정보와 현재 날짜 정보를 확인하고, 상기 복수의 이미지들 중에서 상대적으로 최근 촬영된 적어도 하나의 이미지를 상기 부가 정보로 결정하도록 설정될 수 있다.
상기 프로세서는, 상기 적어도 하나의 촬영 이미지가 복수의 이미지들을 포함하고, 상기 복수의 이미지들의 선호도가 동일한 경우, 상기 라이브 뷰 이미지와 상기 복수의 이미지들의 톤(tone)을 확인하고, 상기 복수의 이미지들 중에서 상기 라이브 뷰 이미지와 톤이 상대적으로 유사한 상기 적어도 하나의 이미지를 결정하도록 설정될 수 있다.
상기 메모리는, 복수의 프로모션 정보를 더 저장하고, 상기 프로세서는, 상기 복수의 촬영 이미지들의 환경 정보와 상기 복수의 촬영 이미지의 카테고리 정보 간의 연관성을 확인하고, 상기 확인된 연관성을 기반으로 상기 환경 정보와 상기 카테고리 정보에 대응하는 사용자 취향을 확인하고, 상기 라이브 뷰 이미지를 획득한 현재 시점의 환경 정보를 기반으로 상기 복수의 프로모션 정보 중에서 상기 사용자 취향에 대응하는 프로모션 정보를 결정하고, 상기 라이브 뷰 이미지와 상기 프로모션 정보를 상기 디스플레이에 표시하도록 설정될 수 있다.
도 2는 일 실시 예에 따른 카테고리 체계를 나타낸다.
도 2를 참조하면, 일 실시 예에 따르면, 복수의 카테고리들은 복수의 상위 카테고리를 포함하고, 각 상위 카테고리는 복수의 하위 카테고리를 포함하는 형태일 수 있다. 상기 복수의 상위 카테고리는 예를 들면, 사물 카테고리, 사람 카테고리, 음식 카테고리, 무드 카테고리, 장소 카테고리 및 기타 카테고리를 포함할 수 있다. 각 카테고리는 객체를 분류하기 위한 것일 수 있다.
한 실시 예에 따르면, 사물 카테고리는 사물 객체를 분류하기 위한 카테고리로서, 예를 들면, 옷, 와인, 차 및 꽃 등의 하위 카테고리를 포함할 수 있다.
한 실시 예에 따르면, 사람 카테고리는 사람 객체를 분류하기 위한 카테고리로서, 예를 들면, 아내, 아들, 친구, 엄마 등의 하위 카테고리를 포함할 수 있다.
한 실시 예에 따르면, 음식 카테고리는 음식 객체를 분류하기 위한 카테고리로서, 예를 들면, 케이크(cake), 면(noddle), 해산물(seafood), 커피 등의 하위 카테고리를 포함할 수 있다.
한 실시 예에 따르면, 무드 카테고리는 촬영 이미지에 적용된 효과를 분류하기 위한 카테고리로서, 예를 들면, 다크(dark), 써니(sunny), 비비드(vivid), 썬셋(sunset) 등을 포함할 수 있다.
한 실시 예에 따르면, 장소 카테고리는 장소 객체를 분류하기 위한 카테고리로서, 테마파크(Theme park), 몰(mall), 거리(street), 랜드마크(landmark), 빌딩 등을 포함할 수 있다.
한 실시 예에 따르면, 기타 카테고리는 다른 상위 카테고리에 포함되지 않는 하위 카테고리를 포괄하는 카테고리로서, 기념일, 문서, 빌딩 및 날짜 등을 포함할 수 있다.
복수의 카테고리들은 입력 모듈(예: 도 1의 130) 또는 빅 데이터 수집 등의 과정을 통하여 등록 또는 갱신될 수 있다. 예를 들어, 프로세서(예: 도 1의 160)는 입력 모듈(130)을 통해 사람 카테고리 중에서 특정 사람(예: 아내, 아들, 친구, 엄마 등)에 대한 촬영 이미지와 카테고리 명칭이 등록되면, 사람 카테고리에 대하여 특정 사람 카테고리를 하위 카테고리로 등록할 수 있다. 다른 예를 들어, 프로세서(160)는 메모리(예: 도 1의 150)에 저장된 특징 정보로부터 인식 불가한 새로운 객체가 인식되면, 디스플레이(예: 도 1의 140)를 통해 새로운 객체에 대한 카테고리 정의를 요청할 수 있다. 프로세서(160)는 입력 모듈(130)을 통해 새로운 객체에 대한 카테고리가 새롭게 정의되면, 새로운 객체의 특징 정보와 새롭게 정의된 카테고리 정보를 연관하여 저장하고, 이후 새로운 객체를 인식하면, 새로운 객체를 새로운 카테고리를 이용하여 분류할 수 있다.
도 3a 내지 도 3c는 일 실시 예에 따른 전자 장치가 AR 서비스를 제공하는 과정의 UI 화면이다.
도 3a는 일 실시 예에 따른 객체 인식 과정의 UI 화면을 나타낸다.
도 3a를 참조하면, 일 실시 예에 따르면, 프로세서(예: 도 1의 160)는 AR 서비스가 요청되면, 카메라(예: 도 1의 110)를 이용하여 획득한 라이브 뷰 이미지(311)를 디스플레이(예: 도 1의 140)에 표시할 수 있다. 프로세서(160)는 라이브 뷰 이미지(311)의 특징 정보를 추출하고, 추출된 특징 정보와 메모리(예: 도 1의 150)에 저장된 카테고리별 객체의 특징 정보를 비교하고, 비교 결과를 기반으로 라이브 뷰 이미지(311)에 포함된 객체(312)가 속한 제 1 카테고리(313)를 결정할 수 있다. 라이브 뷰 이미지(311)에 포함된 객체(312)가 사물 카테고리(상위 카테고리)의 하위 카테고리 중에서 와인 카테고리(313)에 속하는 와인임을 확인할 수 있다.
도 3b는 일 실시 예에 따른 인식된 객체에 대응하는 AR 서비스의 부가 정보 결정 방법을 설명하기 위한 도면이다.
도 3b를 참조하면, 일 실시 예에 따르면, 프로세서(예: 도 1의 160)는 메모리(예: 도 1의 150)에 저장된 복수의 촬영 이미지들 중에서 와인 카테고리에 속하는 모든 이미지를 검색 및 획득할 수 있다. 예를 들어, 프로세서(160)는 복수의 촬영 이미지들의 카테고리 정보(320)를 확인하고, 카테고리 정보(320)를 기반으로 와인 카테고리에 속하는 제 1 내지 제 6 이미지(321, 322, 323, 324, 325, 326)를 획득할 수 있다.
일 실시 예에 따르면, 프로세서(160)는 제 1 내지 제 6 이미지(321, 322, 323, 324, 325, 326)가 속하는 적어도 하나의 제 2 카테고리에 대한 사용자의 선호도 정보를 확인하고, 선호도 정보를 기반으로 적어도 하나의 제 2 카테고리 중에서 선호도가 상대적으로 높은 카테고리에 속하는 적어도 하나의 이미지를 AR 서비스의 부가 정보로 결정할 수 있다. 상기 적어도 하나의 제 2 카테고리는 인식된 객체가 속하는 와인 카테고리를 제외한 카테고리로서, 제 1 내지 제 6 이미지(321, 322, 323, 324, 325, 326)의 촬영 이미지 정보와 같이, 예로 들면, 해산물(seafood), 면(noddle), 선명함(vivid), 수원(Suwon), 어두움(dark), 강남(Gangnam), 거리(street), 빌딩(building), 케이크(cake), 기념일(anniversary), 남자 친구(boyfriend), 여자 친구(girlfriend), 음식(food), 꽃(flower) 카테고리를 포함할 수 있다.
일 실시 예에 따르면, 프로세서(160)는 카테고리 정보를 기반으로 확인된 제 1 이미지 내지 제 6 이미지(326)의 선호도가 동일한 경우, 제 1 내지 제 6 이미지(321, 322, 323, 324, 325, 326)의 환경 정보 또는 이력 정보 중 적어도 하나를 기반으로 AR 서비스의 부가 정보를 결정할 수 있다. 예를 들어, 프로세서(160)는 라이브 뷰 이미지를 획득한 현재 시점의 환경 정보와 제 1 내지 제 6 이미지(321, 322, 323, 324, 325, 326)의 환경 정보를 기반으로 작년의 동일 날짜에 소셜 네트워크를 통하여 공유된 제 4 이미지(324)를 AR 서비스의 부가 정보로 결정할 수 있다. 부가적으로 또는 대체적으로, 프로세서(160)는 제 1 내지 제 6 이미지(321, 322, 323, 324, 325, 326)의 이력 정보를 기반으로 소셜 네트워크를 통해 공유된 이력이 있는 제 4 이미지(324)와 화면 캡처 기능으로 생성된 제 6 이미지(326)를 AR 서비스의 부가 정보로 결정할 수 있다. 이하의 문서에서는 프로세서(160)가 환경 정보 및 이력 정보를 기반으로 제 4 이미지(324)와 제 6 이미지(326)를 AR 서비스의 부가 정보로 결정하는 경우를 예로 설명한다.
도 3c는 일 실시 예에 따른 촬영 이미지로부터 결정된 AR 서비스의 부가 정보를 표시하는 UI 화면을 나타낸다.
도 3a 내지 도 3c를 참조하면, 일 실시 예에 따르면, 프로세서(예: 도 1의 160)는 인식된 객체가 속하는 제 1 카테고리가 와인 카테고리이면, 프로세서(160)는 와인 카테고리에 속하면서 선호도 정보가 상대적으로 제 4 이미지(324)와 제 6 이미지(326)를 AR 서비스의 부가 정보로서 라이브 뷰 이미지(311)에 겹쳐서 디스플레이(예: 도 1의 140)에 표시할 수 있다.
도 3d는 일 실시 예에 따른 AR 서비스의 부가 정보를 수동 결정하는 과정의 UI 화면을 나타낸다.
도 3d를 참조하면, 이미지 <351>에서, 프로세서(예: 도 1의 160)는 라이브 뷰 이미지(311)로부터 객체가 속하는 제 1 카테고리(와인 카테고리)가 결정되고, 제 1 카테고리에 속하는 복수의 이미지들이 획득된 상황에서, 수동 필터링 기능에 할당된 아이콘(341)을 표시할 수 있다.
이미지 <353>에서, 프로세서(160)는 아이콘(341)이 선택되면, 수동 필터링 기능을 제공하기 위하여 복수의 이미지들에 대응하는 적어도 하나의 제 2 카테고리의 상위 카테고리 목록을 표시할 수 있다.
프로세서(160)는 이미지 <353>에서, 입력 모듈(예: 도 1의 130)을 통하여 상위 카테고리 목록에서 복수의 상위 카테고리가 선택되면, 이미지 <355>에서, 선택된 복수의 카테고리의 하위 카테고리 목록을 표시할 수 있다. 예를 들어, 프로세서(160)는 제 1 상위 카테고리(343)와 제 2 상위 카테고리(344)가 터치된 후 선택 아이콘(select)이 터치되면, 이미지 <355>와 같이 선택된 제 1 및 제 2 상위 카테고리(343, 344)의 하위 카테고리 목록을 표시할 수 있다.
이미지 <353>에서, 표시된 하위 카테고리 목록 중 하나가 입력 모듈(130)을 통해 선택되면, 프로세서(160)는 복수의 이미지들 중에서 선택된 하위 카테고리에 속하는 적어도 하나의 이미지를 AR 서비스의 부가 정보로 결정할 수 있다. 예를 들어, 하위 카테고리 목록 중에서 제 1 하위 카테고리(345) 및 제 2 하위 카테고리(346)가 터치된 후 완료 아이콘(Done)이 터치되면, 복수의 이미지들 중에서 선택된 하위 카테고리에 속하는 적어도 하나의 이미지를 AR 서비스의 부가 정보로 결정할 수 있다.
도 3b를 참조하면, 제 1 내지 제 6 이미지(321, 322, 323, 324, 325, 326)가 속하는 상위 카테고리는 사물 카테고리(예: wine, building, flower), 사람 카테고리(예: boyfriend, girlfriend), 음식 카테고리(예: seafood, noddle, cake), 무드 카테고리(예: vivid, dark), 장소 카테고리(Suwon, Gang-nam, street) 및 기타 카테고리(예: anniversary)일 수 있다. 이 경우, 프로세서(160)는 제 1 내지 제 6 이미지(321, 322, 323, 324, 325, 326)에 대응하는 카테고리 목록 예컨대, 사물 카테고리, 사람 카테고리, 음식 카테고리, 무드 카테고리, 장소 카테고리 및 기타 카테고리를 표시할 수 있다. 입력 모듈(130)을 통해 사물 카테고리와 기타 카테고리가 선택되는 경우, 프로세서(160)는 사물 카테고리 및 기타 카테고리에 속하는 하위 카테고리들 중에서 인식된 객체가 속하는 와인 카테고리를 제외한 제 2 카테고리 목록(예: 꽃, 빌딩, 기념일)를 표시할 수 있다. 프로세서(160)는 입력 모듈(130)을 통해 기념일 카테고리가 선택되면, 제 4 이미지(324)와 제 6 이미지(326)를 AR 서비스의 부가 정보로 결정할 수 있다.
도 4는 일 실시 예에 따른 촬영 이미지를 이용한 선호도 결정 방법을 설명하기 위한 도면이다.
도 4를 참조하면, 일 실시 예에 따르면, 메모리(예: 도 1의 150)에 저장된 예컨대, 사진첩 폴더에 저장된 복수의 촬영 이미지들 각각은 각 촬영 이미지에 대응하는 카테고리 정보와 연관하여 저장될 수 있다. 이 경우, 프로세서(예: 도 1의 160)는 카테고리 정보를 기반으로 복수의 촬영 이미지 각각에 대응하는 카테고리(하위 카테고리)를 확인하고, 확인된 하위 카테고리들의 출현 빈도를 각기 확인하고, 확인된 전체 하위 카테고리들의 출현 빈도의 비율을 확인할 수 있다. 예를 들어, 이미지 <410>에서, 프로세서(160)는 복수의 촬영 이미지가 속하는 하위 카테고리를 분석한 결과, 사람 A 카테고리(A user), 사람 B 카테고리(B user), 인형 카테고리와 기타 카테고리 간의 비율(이하, '제 1 비율'이라 함)이 각기 0.3: 0.2: 0.2: 0.15: 0.15임을 결정할 수 있다.
프로세서(160)는 복수의 촬영 이미지들 중에서 이력 정보(예: 검색 이력, 공유 이력)이나 태그 정보이 있는 이미지 또는 화면 캡처 기능으로 획득된 이미지에 대해서는 가중치를 적용할 수 있다.
한 실시 예에 따르면, 복수의 촬영 이미지들 중에서 공유 이력이 있는 이미지 및 공유 이력이 있는 이미지들의 카테고리 정보를 확인하고, 복수의 촬영 이미지들 전체에서 공유 이력이 있는 이미지들의 비율(이하, '제 2 비율'이라 함)을 카테고리별로 확인할 수 있다. 예를 들어, 이미지 <420>에서, 프로세서(160)는 복수의 촬영 이미지들 전체에서 공유 이력이 있고 인형 카테고리에 대응하는 이미지의 비율이 0.05임을 확인하면, 인형 카테고리의 비율(0.05)에 대하여 지정된 가중치(예: 10)을 곱하여 제 2 비율을 결정할 수 있다.
한 실시 예에 따르면, 복수의 촬영 이미지들 중에서 화면 캡처 기능으로 생성된 이미지 및 해당 이미지의 카테고리 정보를 확인하고, 복수의 촬영 이미지 전체에서 화면 캡처 기능으로 획득된 이미지들의 비율을 카테고리별로 확인할 수 있다. 예를 들어, 이미지 <430>에서, 프로세서(160)는 복수의 촬영 이미지들 전체에서 화면 캡처 기능으로 생성되고 인형 카테고리에 대응하는 이미지의 비율이 0.01임을 확인하면, 인형 카테고리의 비율(0.01)에 대하여 지정된 가중치를 곱하여 제 3 비율을 결정할 수 있다.
한 실시 예에 따르면, 프로세서(160)는 사진첩 폴더의 분석 결과를 기반으로 결정된 제 1 비율, 이력 정보를 기반으로 결정된 제 2 비율 및 앱 정보 기반으로 결정된 제 3 비율을 이용하여 카테고리별 선호도를 결정할 수 있다. 예를 들면, 인형 카테고리에 대한 제 1 비율이 0.2, 제 2 비율이 0.5이고, 제 3 비율이 0.2이면, 인형 카테고리에 대한 선호도를 0.9로 결정할 수 있다.
일 실시 예에 따르면, 사람 A 카테고리와 사람 B 카테고리에 대응하는 이미지 중에는 이력 정보가 있는 이미지와 화면 캡처 기능으로 생성된 이미지가 없는 경우, 사람 A 카테고리의 선호도는 0.3, 사람 B 카테고리의 선호도는 0.2일 수 있다. 이 경우, 인형 카테고리에 대한 선호도가 가장 높고, 사람 A 카테고리에 대한 선호도가 두 번째로 높고, 사람 B에 대한 선호도가 세 번째로 높을 수 있다.
도 5는 일 실시 예에 따른 장소 카테고리에 대응하는 AR 서비스의 부가 정보를 제공하는 UI 화면을 나타낸다.
도 5를 참조하면, 일 실시 예에 따르면, 프로세서(예: 도 1의 160)는 라이브 뷰 이미지(510)로부터 인식된 객체가 속하는 제 1 카테고리가 장소 A(예: 특정 거리) 카테고리이면, 장소 A 카테고리에 속하는 복수의 이미지들을 획득할 수 있다. 복수의 이미지들은 장소 A 카테고리 이외의 다른 카테고리에 속할 수 있으므로, 프로세서(160)는 다른 카테고리 중에서 선호도 정보를 기반으로 복수의 이미지들에서 선호도 정보가 상대적으로 높은 AR 서비스의 부가 정보를 결정할 수 있다.
한 실시 예에 따르면, 다른 카테고리 중에는 지정된 횟수 이상의 구매 이력(개인 정보)이 있는 장소 B 카테고리(예: 특정 상점 카테고리)가 포함될 수 있다. 이 경우, 프로세서(160)는 장소 B 카테고리는 구매 이력을 기반으로 촬영 이미지를 기반으로 결정된 선호도를 증가할 수 있고, 그 결과 다른 카테고리 중에서 장소 B 카테고리의 선호도는 상대적으로 높을 수 있다. 프로세서(160)는 장소 A 이외의 다른 카테고리 중에서 선호도 정보가 가장 높은 장소 B 카테고리에서 생성된 촬영 이미지(520)를 AR 서비스의 부가 정보로 결정할 수 있다. 한 실시 예에서, 프로세서(160)는 장소 A와 장소 B 간의 거리를 확인하고, 장소 A와 장소 B 간의 거리가 지정된 거리(예: 100m) 미만일 경우에만 장소 B에서 생성된 촬영 이미지를 AR 서비스의 부가 정보로 결정할 수 있다.
일 실시 예에 따르면, 프로세서(160)는 전자 장치(예: 도 1의 10)의 현 위치에 근접한 특정 장소에 대응하는 AR 서비스의 부가 정보를 표시하는 경우에, 라이브 뷰 이미지(510)와 AR 서비스의 부가 정보(520) 이외에, 현 위치와 특정 장소를 포함하는 지도 정보(530)를 표시할 수 있다. 예를 들어, 프로세서(160)는 현 위치와 특정 장소와 표시한 지도 정보(530)를 표시할 수 있다.
도 6a 내지 도 6c는 일 실시 예에 따른 사용자 취향에 대응하는 프로모션 정보를 AR 서비스의 부가 정보를 제공하는 UI 화면을 나타낸다.
도 6a 내지 6c을 참조하면, 일 실시 예에 따르면, 프로세서(예: 도 1의 160)는 복수의 촬영 이미지들의 환경 정보와 복수의 촬영 이미지의 카테고리 정보 간의 연관성을 확인하고, 확인된 연관성을 기반으로 환경 정보와 카테고리에 대응하는 사용자 취향을 확인할 수 있다. 프로세서(160)는 라이브 뷰 이미지를 획득한 현재 시점의 환경 정보를 기반으로 서버에서 제공하는 복수의 프로모션 정보 중에서 상기 사용자 취향에 대응하는 프로모션 정보를 결정하고, 라이브 뷰 이미지와 프로모션 정보(AR 서비스의 부가 정보)를 디스플레이(예: 도 1의 140)에 표시할 수 있다.
도 6a를 참조하면, 한 실시 예에 따르면, 프로세서(160)는 복수의 촬영 이미지에 대한 환경 정보와 카테고리 정보 간의 연관성을 분석한 결과, 주말 늦은 아침에 브런치(brunch)에 대한 촬영 이미지가 많이 생성된 것을 확인하고, 주말 늦은 아침에 브런치를 먹는 것을 좋아하는 사용자 취향을 확인할 수 있다. 이 경우, 프로세서(160)는 AR 서비스가 주말 늦은 아침 시간에 실행되면, 메모리(예: 도 1의 150)(또는, 지정된 서버의 데이터베이스)에 저장된 전자 장치(예: 도 1의 10)의 현 위치에 대응하는 프로모션 정보들을 확인하고, 프로모션 정보들 중에서 브런치 메뉴를 제공하는 식당의 프로모션 정보를 AR 서비스의 부가 정보로 결정할 수 있다. 상기 현 위치에 대응하는 프로모션 정보는 예를 들면, 현 위치로부터 지정된 거리 미만으로 근접한 장소에 대한 프로모션 정보를 포함할 수 있다.
도 6b를 참조하면, 한 실시 예에 따르면, 프로세서(예: 도 1의 160)는 복수의 촬영 이미지에 대한 환경 정보와 카테고리 정보 간의 연관성을 분석한 결과, 비 오는 월요일 아침 커피에 대한 촬영 이미지가 많이 생성된 것을 확인하고, 비 오는 월요일 아침에 커피를 먹는 것을 좋아하는 사용자 취향을 확인할 수 있다. 이 경우, 프로세서(160)는 AR 서비스가 비 오는 월요일 아침에 실행되면, 전자 장치(예: 도 1의 10)의 현 위치에 대응하는 프로모션 정보들을 확인하고, 메모리(예: 도 1의 150)(또는, 지정된 서버의 데이터베이스)에 저장된 프로모션 정보들 중에서 커피숍의 프로모션 정보를 AR 서비스의 부가 정보로 결정할 수 있다.
도 6c를 참조하면, 이미지 <610>과 같이, 프로세서(예: 도 1의 160)는 사용자 취향을 확인하지 못했거나, 사용자 취향에 따른 프로모션 정보의 수동 필터링 기능이 설정되지 않은 경우, 전자 장치(예: 도 1의 10)의 현 위치에 지정된 거리 미만으로 근접한 프로모션 정보를 모두 라이브 뷰 이미지에 겹쳐서 표시할 수 있다.
이미지 <620>같이, 프로세서(160)는 사용자 취향을 확인하였고, 사용자 취향에 따른 프로모션 정보의 수동 필터링 기능이 설정된 경우, 전자 장치(10)의 현 위치에 지정된 거리 미만으로 근접한 프로모션 정보들 중에서 사용자 취향에 따른 프로모션 정보를 선택하고, 선택된 프로모션 정보를 AR 서비스의 부가 정보로 출력할 수 있다.
도 6a 내지 6c에서, 일 실시 예에 따르면, 프로세서(160)는 메모리(150)에 저장된 프로모션 정보들을 이용하여 전자 장치(10)의 현 위치, 현재 날씨 또는 현재 시간 중 적어도 하나의 환경 정보에 대응하는 프로모션 정보를 획득할 수 있다. 부가적으로 또는 대체적으로, 프로세서(160)는 통신 모듈(예: 도 1의 120)을 통하여 프로모션 서버와 통신하여 환경 정보에 대응하는 프로모션 정보를 수신하고, 수신된 프로모션 정보를 AR 서비스의 부가 정보로 출력할 수 있다.
도 7은 일 실시 예에 따른 사용자 취향에 따른 AR 서비스의 부가 정보를 제공하는 UI 화면을 나타낸다.
도 7을 참조하면, 일 실시 예에 따르면, 프로세서(예: 도 1의 160)는 라이브 뷰 이미지로부터 인식된 객체에 대한 사용자 취향에 따른 객체 정보를 증상 현실 서비스의 부가 정보로 결정할 수 있다.
이미지 <710>에서, 프로세서(160)는 라이브 뷰 이미지로부터 사과(객체)를 인식할 수 있다. 예를 들어, 프로세서(160)는 라이브 뷰 이미지의 특징 정보를 분석하고, 라이브 뷰 이미지의 특징 정보와 메모리(예: 도 1의 150)에 저장된 특징 정보를 비교하고, 비교 결과 라이브 뷰 이미지의 특징 정보와 매칭되는 메모리(150)에 저장된 특징 정보가 속하는 카테고리를 기반으로 라이브 뷰 이미지에 포함된 객체가 사과 카테고리에 포함된 사과임을 확인할 수 있다.
이미지 <720>에서, 프로세서(160)는 메모리(150)로부터 사용자 취향에 대응하는 사용자 취향 정보가 확인되지 않으면, 사과의 가격 정보를 AR 서비스의 부가 정보로 결정하고, 라이브 뷰 이미지 상에 사과의 가격 정보를 표시(예: overlay)할 수 있다.
이미지 <730>에서, 프로세서(160)는 메모리(150)로부터 음식(또는, 요리)에 관심이 많은 사용자 취향을 확인한 경우, 사과를 이용한 레시피 관련 정보를 AR 서비스의 부가 정보로 결정하고, 라이브 뷰 이미지 상에 사과를 이용한 레시피 관련 정보를 표시할 수 있다.
이미지 <740>에서, 프로세서(160)는 건강 또는 다이어트에 관심이 많은 사용자 취향을 확인한 경우, 사과의 칼로리 또는 성분 정보를 AR 서비스의 부가 정보로 결정하고, 라이브 뷰 이미지 상에 사과의 칼로리 정보 또는 성분 정보를 표시할 수 있다.
전술한 실시 예에서, 프로세서(160)는 예를 들어, 사용자 취향 정보를 지정된 서버(예: 쇼핑몰 서버)로 송신하고, 지정된 서버로부터 사용자 취향에 대응하는 객체 정보를 수신하고, 수신된 객체 정보를 라이브 뷰 이미지 상에 표시할 수 있다.
도 8은 일 실시 예에 따른 증강 현실 서비스 제공 방법을 도시한 흐름도이다.
도 8을 참조하면, 동작 810에서, 프로세서(예: 도 1의 160)는 카메라(110)를 이용하여 라이브 뷰(live view) 이미지를 획득할 수 있다.
동작 820에서, 프로세서(160)는 메모리(예: 도 1의 150)에 저장된 복수의 촬영 이미지에 대한 선호도 정보 또는 라이브 뷰 이미지에 포함된 객체 중 적어도 하나를 기반으로 복수의 촬영 이미지들 중에서 선호도가 상대적으로 높은 적어도 하나의 이미지(AR 서비스의 부가 정보)를 결정할 수 있다.
동작 830에서, 프로세서(160)는 적어도 하나의 이미지와 라이브 뷰 이미지를 디스플레이(예: 도 1의 140)에 표시할 수 있다.
일 실시 예에 따르면, 전자 장치에 의한 증강 현실 서비스 제공 방법은, 카메라를 이용하여 라이브 뷰(live view) 이미지를 획득하는 동작; 메모리에 저장된 복수의 촬영 이미지에 대한 선호도 정보 또는 라이브 뷰 이미지에 포함된 객체 중 적어도 하나를 기반으로 상기 복수의 촬영 이미지들 중에서 선호도가 상대적으로 높은 적어도 하나의 이미지를 결정하는 동작; 및 상기 적어도 하나의 이미지와 상기 라이브 뷰 이미지를 디스플레이에 표시하는 동작을 포함할 수 있다.
상기 각 촬영 이미지는, 상기 각 촬영 이미지에 포함된 객체에 대응하는 카테고리 정보와 연관하여 저장되고, 상기 선호도 정보는, 상기 카테고리 정보에 대한 선호도 정보일 수 있다. 상기 결정하는 동작은, 상기 카테고리 정보를 기반으로 상기 복수의 촬영 이미지들 중에서 상기 라이브 뷰 이미지에 포함된 객체가 속하는 카테고리에 대응하는 적어도 하나의 촬영 이미지를 획득하는 동작; 및 상기 선호도 정보를 기반으로 상기 획득된 적어도 하나의 촬영 이미지 중에서 상기 선호도가 상대적으로 높은 카테고리에 속하는 상기 적어도 하나의 이미지를 결정하는 동작을 포함할 수 있다.
상기 증강 현실 서비스 제공 방법은, 상기 복수의 촬영 이미지에 포함된 객체에 대응하는 카테고리 정보를 확인하는 동작; 및 상기 카테고리 정보의 출연 빈도를 이용하여 상기 카테고리 정보에 대한 선호도 정보를 결정하는 동작을 더 포함할 수 있다.
상기 부가 정보로 결정하는 동작은, 상기 적어도 하나의 촬영 이미지의 카테고리 정보를 기반으로, 상기 적어도 하나의 촬영 이미지에 포함된 객체가 속하는 카테고리 중에서 상기 라이브 뷰 이미지에 포함된 객체가 속하는 제 1 카테고리를 제외한 적어도 하나의 제 2 카테고리를 확인하는 동작; 및 상기 선호도 정보를 기반으로 상기 적어도 하나의 제 2 카테고리 중에서 상기 선호도가 상대적으로 큰 상기 상기 적어도 하나의 이미지를 상기 부가 정보로 결정하는 동작을 포함할 수 있다.
상기 증강 현실 서비스 제공 방법은, 상기 적어도 하나의 촬영 이미지가 복수의 이미지들을 포함하고, 상기 복수의 이미지들의 선호도가 동일한 경우, 상기 복수의 이미지들 각각을 생성한 시점의 환경 정보를 확인하는 동작; 및 상기 복수의 이미지들 중에서 상기 라이브 뷰 이미지를 획득한 시점의 환경 정보와 상대적으로 유사도가 높은 적어도 하나의 이미지를 상기 부가 정보로 결정하는 동작을 더 포함할 수 있다.
도 9는 일 실시 예에 따른 AR 서비스의 부가 정보 결정 방법을 나타낸 흐름도이다.
도 9를 참조하면, 동작 910에서, 프로세서(예: 도 1의 160)는 AR 뷰 기능이 실행되면, 동작 920에서, 라이브 뷰 이미지에 포함된 객체가 속하는 제 1 카테고리를 확인할 수 있다.
동작 930에서, 프로세서(160)는 메모리(예: 도 1의 150)에 저장된 복수의 촬영 이미지들 중에서 제 1 카테고리에 대응하는(또는, 연관되는) 적어도 하나의 촬영 이미지를 획득할 수 있다. 예를 들어, 프로세서(160)는 복수의 촬영 이미지들의 카테고리 정보를 확인하고, 카테고리 정보로부터 제 1 카테고리에 대응되는 적어도 하나의 촬영 이미지를 획득할 수 있다.
동작 940에서, 프로세서(160)는 입력 모듈(예: 도 1의 130)을 통하여 카테고리 선택에 대한 사용자 입력이 수신 또는 감지되는지를 확인할 수 있다. 예를 들어, 프로세서(160)는 입력 모듈(130)을 통하여 수동 필터링 기능이 선택되면, 적어도 하나의 촬영 이미지에 대응하는 제 1 카테고리를 제외한 상위 카테고리 또는 하위 카테고리 중 적어도 하나에 대하여 선택 가능한 사용자 인터페이스를 제공할 수 있다.
프로세서(160)는 동작 940에서, 수동 필터링 기능이 선택되면, 동작 950에서, 수동 필터링을 위한 사용자 인터페이스에 대한 사용자 입력을 확인하고, 사용자 입력으로 선택된 카테고리에 대응하는 적어도 하나의 이미지를 AR 서비스의 부가 정보로 결정할 수 있다.
프로세서(160)는 동작 940에서, 수동 필터링 기능이 선택되지 않으면, 동작 960에서, 적어도 하나의 촬영 이미지에 대응하는 카테고리 중에서 제 1 카테고리를 제외한 적어도 하나의 제 2 카테고리에 대한 선호도 정보를 기반으로 AR 서비스의 부가 정보를 결정할 수 있다. 예를 들어, 프로세서(160)는 적어도 하나의 제 2 카테고리에 대한 선호도 정보를 확인하고, 선호도 정보를 기반으로 상대적으로 선호도가 높은 카테고리에 속하는 적어도 하나의 이미지를 AR 서비스의 부가 정보를 결정할 수 있다.
도 9에서, 일 실시 예에 따르면, 프로세서(160)는 AR 뷰 기능이 종료될 때까지 동작 920 내지 970 중 적어도 하나를 수행할 수 있다.
도 10은, 다양한 실시예들에 따른, 네트워크 환경(1000) 내의 증강 현실 서비스를 제공하는 전자 장치(1001)의 블럭도이다. 도 10을 참조하면, 네트워크 환경(1000)에서 전자 장치(1001)(예: 도 1의 10)는 제 1 네트워크(1098)(예: 근거리 무선 통신)를 통하여 전자 장치(1002)와 통신하거나, 또는 제 2 네트워크(1099)(예: 원거리 무선 통신)를 통하여 전자 장치(1004) 또는 서버(1008)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(1001)는 서버(1008)를 통하여 전자 장치(1004)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(1001)는 프로세서(1020)(예: 도 1의 160), 메모리(1030)(예: 도 1의 150), 입력 장치(1050)(예: 도 1의 130), 음향 출력 장치(1055), 표시 장치(1060)(예: 도 1의 140), 오디오 모듈(1070), 센서 모듈(1076), 인터페이스(1077), 햅틱 모듈(1079), 카메라 모듈(1080)(예: 도 1의 110), 전력 관리 모듈(1088), 배터리(1089), 통신 모듈(1090)(예: 도 1의 120), 가입자 식별 모듈(1096), 및 안테나 모듈(1097)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(1001)에는, 이 구성요소들 중 적어도 하나(예: 표시 장치(1060) 또는 카메라 모듈(1080))가 생략되거나 다른 구성 요소가 추가될 수 있다. 어떤 실시예에서는, 예를 들면, 표시 장치(1060)(예: 디스플레이)에 임베디드된 센서 모듈(1076)(예: 지문 센서, 홍채 센서, 또는 조도 센서)의 경우와 같이, 일부의 구성요소들이 통합되어 구현될 수 있다.
프로세서(1020)는, 예를 들면, 소프트웨어(예: 프로그램(1040))를 구동하여 프로세서(1020)에 연결된 전자 장치(1001)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)을 제어할 수 있고, 다양한 데이터 처리 및 연산을 수행할 수 있다. 프로세서(1020)는 다른 구성요소(예: 센서 모듈(1076) 또는 통신 모듈(1090))로부터 수신된 명령 또는 데이터를 휘발성 메모리(1032)에 로드하여 처리하고, 결과 데이터를 비휘발성 메모리(1034)에 저장할 수 있다. 일실시예에 따르면, 프로세서(1020)는 메인 프로세서(1021)(예: 중앙 처리 장치 또는 어플리케이션 프로세서), 및 이와는 독립적으로 운영되고, 추가적으로 또는 대체적으로, 메인 프로세서(1021)보다 저전력을 사용하거나, 또는 지정된 기능에 특화된 보조 프로세서(1023)(예: 그래픽 처리 장치, 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 여기서, 보조 프로세서(1023)는 메인 프로세서(1021)와 별개로 또는 임베디드되어 운영될 수 있다.
이런 경우, 보조 프로세서(1023)는, 예를 들면, 메인 프로세서(1021)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(1021)를 대신하여, 또는 메인 프로세서(1021)가 액티브(예: 어플리케이션 수행) 상태에 있는 동안 메인 프로세서(1021)와 함께, 전자 장치(1001)의 구성요소들 중 적어도 하나의 구성요소(예: 표시 장치(1060), 센서 모듈(1076), 또는 통신 모듈(1090))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일실시예에 따르면, 보조 프로세서(1023)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성 요소(예: 카메라 모듈(1080) 또는 통신 모듈(1090))의 일부 구성 요소로서 구현될 수 있다. 메모리(1030)는, 전자 장치(1001)의 적어도 하나의 구성요소(예: 프로세서(1020) 또는 센서모듈(1076))에 의해 사용되는 다양한 데이터, 예를 들어, 소프트웨어(예: 프로그램(1040)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 저장할 수 있다. 메모리(1030)는, 휘발성 메모리(1032) 또는 비휘발성 메모리(1034)를 포함할 수 있다.
프로그램(1040)은 메모리(1030)에 저장되는 소프트웨어로서, 예를 들면, 운영 체제(1042), 미들 웨어(1044) 또는 어플리케이션(1046)을 포함할 수 있다.
입력 장치(1050)는, 전자 장치(1001)의 구성요소(예: 프로세서(1020))에 사용될 명령 또는 데이터를 전자 장치(1001)의 외부(예: 사용자)로부터 수신하기 위한 장치로서, 예를 들면, 마이크, 마우스, 또는 키보드를 포함할 수 있다.
음향 출력 장치(1055)는 음향 신호를 전자 장치(1001)의 외부로 출력하기 위한 장치로서, 예를 들면, 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용되는 스피커와 전화 수신 전용으로 사용되는 리시버를 포함할 수 있다. 일실시예에 따르면, 리시버는 스피커와 일체 또는 별도로 형성될 수 있다.
표시 장치(1060)는 전자 장치(1001)의 사용자에게 정보를 시각적으로 제공하기 위한 장치로서, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일실시예에 따르면, 표시 장치(1060)는 터치 회로(touch circuitry) 또는 터치에 대한 압력의 세기를 측정할 수 있는 압력 센서를 포함할 수 있다.
오디오 모듈(1070)은 소리와 전기 신호를 쌍방향으로 변환시킬 수 있다. 일실시예에 따르면, 오디오 모듈(1070)은, 입력 장치(1050) 를 통해 소리를 획득하거나, 음향 출력 장치(1055), 또는 전자 장치(1001)와 유선 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(1002)(예: 스피커 또는 헤드폰))를 통해 소리를 출력할 수 있다.
센서 모듈(1076)은 전자 장치(1001)의 내부의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 센서 모듈(1076)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(1077)는 외부 전자 장치(예: 전자 장치(1002))와 유선 또는 무선으로 연결할 수 있는 지정된 프로토콜을 지원할 수 있다. 일실시예에 따르면, 인터페이스(1077)는 HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(1078)는 전자 장치(1001)와 외부 전자 장치(예: 전자 장치(1002))를 물리적으로 연결시킬 수 있는 커넥터, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(1079)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 햅틱 모듈(1079)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(1080)은 정지 영상 및 동영상을 촬영할 수 있다. 일실시예에 따르면, 카메라 모듈(1080)은 하나 이상의 렌즈, 이미지 센서, 이미지 시그널 프로세서, 또는 플래시를 포함할 수 있다.
전력 관리 모듈(1088)은 전자 장치(1001)에 공급되는 전력을 관리하기 위한 모듈로서, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구성될 수 있다.
배터리(1089)는 전자 장치(1001)의 적어도 하나의 구성 요소에 전력을 공급하기 위한 장치로서, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(1090)은 전자 장치(1001)와 외부 전자 장치(예: 전자 장치(1002), 전자 장치(1004), 또는 서버(1008))간의 유선 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(1090)은 프로세서(1020)(예: 어플리케이션 프로세서)와 독립적으로 운영되는, 유선 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(1090)은 무선 통신 모듈(1092)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(1094)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함하고, 그 중 해당하는 통신 모듈을 이용하여 제 1 네트워크(1098)(예: 블루투스, WiFi direct 또는 IrDA(infrared data association) 같은 근거리 통신 네트워크) 또는 제 2 네트워크(1099)(예: 셀룰러 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부 전자 장치와 통신할 수 있다. 상술한 여러 종류의 통신 모듈(1090)은 하나의 칩으로 구현되거나 또는 각각 별도의 칩으로 구현될 수 있다.
일실시예에 따르면, 무선 통신 모듈(1092)은 가입자 식별 모듈(1096)에 저장된 사용자 정보를 이용하여 통신 네트워크 내에서 전자 장치(1001)를 구별 및 인증할 수 있다.
안테나 모듈(1097)은 신호 또는 전력을 외부로 송신하거나 외부로부터 수신하기 위한 하나 이상의 안테나들을 포함할 수 있다. 일시예에 따르면, 통신 모듈(1090)(예: 무선 통신 모듈(1092))은 통신 방식에 적합한 안테나를 통하여 신호를 외부 전자 장치로 송신하거나, 외부 전자 장치로부터 수신할 수 있다.
상기 구성요소들 중 일부 구성요소들은 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input/output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))를 통해 서로 연결되어 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일 실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(1099)에 연결된 서버(1008)를 통해서 전자 장치(1001)와 외부의 전자 장치(1004)간에 송신 또는 수신될 수 있다. 전자 장치(1002, 1004) 각각은 전자 장치(1001)와 동일한 또는 다른 종류의 장치일 수 있다. 일실시예에 따르면, 전자 장치(1001)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 외부 전자 장치에서 실행될 수 있다. 일실시예에 따르면, 전자 장치(1001)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(1001)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 외부 전자 장치에게 요청할 수 있다. 상기 요청을 수신한 외부 전자 장치는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(1001)로 전달할 수 있다. 전자 장치(1001)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 모듈은 ASIC(application-specific integrated circuit)으로 구성될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 컴퓨터)로 읽을 수 있는 저장 매체(machine-readable storage media)(예: 내장 메모리(1036) 또는 외장 메모리(1038))에 저장된 명령어를 포함하는 소프트웨어(예: 프로그램(1040))로 구현될 수 있다. 기기는, 저장 매체로부터 저장된 명령어를 호출하고, 호출된 명령어에 따라 동작이 가능한 장치로서, 개시된 실시예들에 따른 전자 장치(예: 전자 장치(1001))를 포함할 수 있다. 상기 명령이 프로세서(예: 프로세서(1020))에 의해 실행될 경우, 프로세서가 직접, 또는 상기 프로세서의 제어하에 다른 구성요소들을 이용하여 상기 명령에 해당하는 기능을 수행할 수 있다. 명령은 컴파일러 또는 인터프리터에 의해 생성 또는 실행되는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장매체는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 저장매체가 신호(signal)를 포함하지 않으며 실재(tangible)한다는 것을 의미할 뿐 데이터가 저장매체에 반영구적 또는 임시적으로 저장됨을 구분하지 않는다.
일시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 온라인으로 배포될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따른 구성 요소(예: 모듈 또는 프로그램) 각각은 단수 또는 복수의 개체로 구성될 수 있으며, 전술한 해당 서브 구성 요소들 중 일부 서브 구성 요소가 생략되거나, 또는 다른 서브 구성 요소가 다양한 실시예에 더 포함될 수 있다. 대체적으로 또는 추가적으로, 일부 구성 요소들(예: 모듈 또는 프로그램)은 하나의 개체로 통합되어, 통합되기 이전의 각각의 해당 구성 요소에 의해 수행되는 기능을 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따른, 모듈, 프로그램 또는 다른 구성 요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다. 따라서, 본 문서의 범위는, 본 문서의 기술적 사상에 근거한 모든 변경 또는 다양한 다른 실시예를 포함하는 것으로 해석되어야 한다.

Claims (15)

  1. 전자 장치에 있어서,
    카메라;
    디스플레이;
    복수의 촬영 이미지(captured image)들 및 각 촬영 이미지에 대한 선호도 정보를 저장하는 메모리; 및
    상기 카메라, 상기 디스플레이 및 상기 메모리와 기능적으로 연결된 프로세서를 포함하고, 상기 프로세서는,
    상기 카메라를 이용하여 라이브 뷰(live view) 이미지를 획득하고,
    상기 선호도 정보 또는 상기 라이브 뷰 이미지에 포함된 객체 중 적어도 하나를 기반으로 상기 복수의 촬영 이미지들 중에서 선호도가 상대적으로 높은 적어도 하나의 이미지를 증강 현실 서비스의 부가 정보로 결정하고,
    상기 부가 정보와 상기 라이브 뷰 이미지를 상기 디스플레이에 표시하도록 설정된 전자 장치.
  2. 제 1 항에 있어서,
    상기 메모리는,
    상기 각 촬영 이미지와 상기 각 촬영 이미지에 포함된 객체에 대응하는 카테고리 정보를 연관하여 저장하고,
    상기 선호도 정보는, 상기 카테고리 정보에 대한 선호도 정보이고,
    상기 프로세서는,
    상기 카테고리 정보를 기반으로 상기 복수의 촬영 이미지들 중에서 상기 라이브 뷰 이미지에 포함된 객체가 속하는 카테고리에 대응하는 적어도 하나의 촬영 이미지를 획득하고,
    상기 선호도 정보를 기반으로 상기 획득된 적어도 하나의 촬영 이미지 중에서 상기 선호도가 상대적으로 높은 카테고리에 속하는 상기 적어도 하나의 이미지를 결정하도록 전자 장치.
  3. 제 2 항에 있어서,
    서버와 통신하도록 설정된 통신 모듈을 더 포함하고,
    상기 프로세서는,
    상기 통신 모듈을 통해 상기 라이브 뷰 이미지를 상기 서버로 송신하고,
    상기 서버로부터, 상기 라이브 뷰 이미지에 포함된 객체가 속하는 카테고리 정보를 수신하도록 설정된 전자 장치.
  4. 제 3 항에 있어서, 상기 카테고리 정보는,
    상기 서버에 의해 상기 라이브 뷰 이미지에 포함된 객체와 상기 서버의 데이터베이스에 저장된 객체를 비교하고, 비교 결과에 기반하여 결정되는 전자 장치.
  5. 제 2 항에 있어서, 상기 프로세서는,
    상기 복수의 촬영 이미지에 포함된 객체가 속하는 카테고리 정보를 확인하고,
    상기 카테고리 정보의 출연 빈도를 이용하여 상기 카테고리 정보에 대한 선호도 정보를 결정하도록 설정된 전자 장치.
  6. 제 5 항에 있어서, 상기 프로세서는,
    상기 각 촬영 이미지의 생성, 공유 또는 편집에 대한 이력 정보 또는 상기 각 촬영 이미지의 생성 시점에 대응하는 환경 정보 중 적어도 하나를 기반으로 적어도 하나의 카테고리의 출연 빈도에 상기 가중치를 적용하여, 상기 카테고리 정보에 대한 선호도 정보를 결정하도록 설정된 전자 장치.
  7. 제 6 항에 있어서, 상기 이력 정보는,
    상기 각 촬영 이미지의 검색 이력 정보, 상기 각 촬영 이미지의 공유 이력 정보, 상기 각 촬영 이미지의 태그 정보 또는 상기 각 촬영 이미지를 생성한 앱 정보 중 적어도 하나를 포함하는 전자 장치.
  8. 제 6 항에 있어서, 상기 환경 정보는,
    시간 정보, 날짜 정보, 현 위치 정보 또는 기상 정보 중 적어도 하나를 포함하는 전자 장치.
  9. 제 2 항에 있어서, 상기 프로세서는,
    상기 적어도 하나의 촬영 이미지의 카테고리 정보를 기반으로, 상기 적어도 하나의 촬영 이미지에 포함된 객체가 속하는 카테고리 중에서 상기 라이브 뷰 이미지에 포함된 객체가 속하는 제 1 카테고리를 제외한 적어도 하나의 제 2 카테고리를 확인하고,
    상기 선호도 정보를 기반으로 상기 적어도 하나의 제 2 카테고리 중에서 상기 선호도가 상대적으로 큰 상기 상기 적어도 하나의 이미지를 부가 정보로 결정하도록 설정된 전자 장치.
  10. 제 2 항에 있어서, 상기 프로세서는,
    상기 적어도 하나의 촬영 이미지가 복수의 이미지들을 포함하고, 상기 복수의 이미지들의 선호도가 동일한 경우,
    상기 복수의 이미지들 각각을 생성한 촬영 시점의 환경 정보와 상기 라이브 뷰 이미지를 획득한 현재 시점의 환경 정보를 각기 확인하고,
    상기 복수의 이미지들 중에서 상기 촬영 시점의 환경 정보와 상기 현재 시점의 환경 정보와 상대적으로 유사도를 기반으로 상기 적어도 하나의 이미지를 결정하도록 설정된 전자 장치.
  11. 제 10 항에 있어서, 상기 프로세서는,
    상기 복수의 이미지들 중에서 상기 전자 장치의 현 위치로부터 지정된 거리 미만으로 근접한 위치에서 촬영된 이미지가 있으면, 상기 지정된 거리 미만으로 근접한 위치에서 적어도 하나의 이미지를 상기 부가 정보로 결정하도록 설정된 전자 장치.
  12. 제 9 항에 있어서, 상기 프로세서는,
    상기 복수의 이미지들 중에서 공유 이력, 검색 이력 또는 태깅 이력이 있거나, 화면 캡처 기능으로 생성된 적어도 하나의 이미지를 상기 부가 정보로 결정하도록 설정된 전자 장치.
  13. 제 2 항에 있어서, 상기 프로세서는,
    상기 적어도 하나의 촬영 이미지가 복수의 이미지들을 포함하고, 상기 복수의 이미지들의 선호도가 동일한 경우,
    상기 복수의 이미지들의 촬영 날짜와 촬영 시간 정보와 상기 환경 정보 중에서 현재 시간 정보와 현재 날짜 정보를 확인하고,
    상기 복수의 이미지들 중에서 상대적으로 최근 촬영된 적어도 하나의 이미지를 상기 부가 정보로 결정하도록 설정된 전자 장치.
  14. 제 2 항에 있어서, 상기 프로세서는,
    상기 적어도 하나의 촬영 이미지가 복수의 이미지들을 포함하고, 상기 복수의 이미지들의 선호도가 동일한 경우,
    상기 라이브 뷰 이미지와 상기 복수의 이미지들의 톤(tone)을 확인하고,
    상기 복수의 이미지들 중에서 상기 라이브 뷰 이미지와 톤이 상대적으로 유사한 상기 적어도 하나의 이미지를 결정하도록 설정된 전자 장치.
  15. 제 2 항에 있어서,
    상기 메모리는,
    복수의 프로모션 정보를 더 저장하고,
    상기 프로세서는,
    상기 복수의 촬영 이미지들의 환경 정보와 상기 복수의 촬영 이미지의 카테고리 정보 간의 연관성을 확인하고,
    상기 확인된 연관성을 기반으로 상기 환경 정보와 상기 카테고리 정보에 대응하는 사용자 취향을 확인하고,
    상기 라이브 뷰 이미지를 획득한 현재 시점의 환경 정보를 기반으로 상기 복수의 프로모션 정보 중에서 상기 사용자 취향에 대응하는 프로모션 정보를 결정하고,
    상기 라이브 뷰 이미지와 상기 프로모션 정보를 상기 디스플레이에 표시하도록 설정된 전자 장치.
PCT/KR2018/009936 2017-11-23 2018-08-29 전자 장치 및 전자 장치의 증강 현실 서비스 제공 방법 WO2019103285A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US16/761,988 US11308653B2 (en) 2017-11-23 2018-08-29 Electronic device and method for providing augmented reality service based on a user of electronic device

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020170157425A KR102418992B1 (ko) 2017-11-23 2017-11-23 전자 장치 및 전자 장치의 증강 현실 서비스 제공 방법
KR10-2017-0157425 2017-11-23

Publications (1)

Publication Number Publication Date
WO2019103285A1 true WO2019103285A1 (ko) 2019-05-31

Family

ID=66630614

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2018/009936 WO2019103285A1 (ko) 2017-11-23 2018-08-29 전자 장치 및 전자 장치의 증강 현실 서비스 제공 방법

Country Status (3)

Country Link
US (1) US11308653B2 (ko)
KR (1) KR102418992B1 (ko)
WO (1) WO2019103285A1 (ko)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11175516B1 (en) * 2018-02-27 2021-11-16 Snap Inc. Object recognition for improving interfaces on an eyewear device and other wearable and mobile devices
KR20210114287A (ko) * 2020-03-10 2021-09-23 삼성전자주식회사 증강 현실 모드를 제공하는 전자 장치 및 그의 동작 방법
US11776253B2 (en) * 2020-03-27 2023-10-03 Snap Inc. Displaying object names in association with augmented reality content
US20240054156A1 (en) * 2020-10-28 2024-02-15 Meta Platforms, Inc. Personalized Labeling for User Memory Exploration for Assistant Systems

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140094629A (ko) * 2010-11-24 2014-07-30 엘지전자 주식회사 부가 서비스 수신 방법 및 그를 이용한 영상 표시 장치
KR20160082168A (ko) * 2014-12-31 2016-07-08 한국전자통신연구원 감성 기반 콘텐츠 추천 장치 및 방법
WO2017106529A1 (en) * 2015-12-18 2017-06-22 Snapchat, Inc. Generating context relevant media augmentation
KR20170090392A (ko) * 2017-07-26 2017-08-07 삼성전자주식회사 디바이스간 동기화된 인터랙션을 제공하는 콘텐츠 동기화 장치 및 방법
KR20170122092A (ko) * 2016-04-26 2017-11-03 바이두 유에스에이 엘엘씨 자율 주행 차량 내에서 미디어 콘텐츠를 표시하기 위한 시스템 및 방법

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9329052B2 (en) 2007-08-07 2016-05-03 Qualcomm Incorporated Displaying image data and geographic element data
US8769396B2 (en) * 2009-06-05 2014-07-01 Microsoft Corporation Calibration and annotation of video content
KR101636723B1 (ko) * 2010-06-28 2016-07-06 엘지전자 주식회사 휴대 단말기 및 그 동작 방법
KR101295544B1 (ko) * 2011-01-25 2013-08-16 주식회사 팬택 증강 현실 통합정보 제공 장치와 그 방법 및, 이를 포함하는 시스템
KR101292083B1 (ko) 2011-03-29 2013-08-01 주식회사 소프트맥스 증강 현실 환경에서의 위치기반 광고방법 및 그 장치
KR20130000160A (ko) * 2011-06-22 2013-01-02 광주과학기술원 사용자 적응형 증강현실 이동통신 장치와 서버 및 그 방법
JP5891843B2 (ja) * 2012-02-24 2016-03-23 ソニー株式会社 クライアント端末、サーバ、およびプログラム
JP2013183433A (ja) * 2012-03-05 2013-09-12 Sony Corp クライアント端末、サーバ、およびプログラム
CN102769775A (zh) * 2012-06-12 2012-11-07 严幸华 覆盖图像提供系统、服务器和方法
US20140058825A1 (en) * 2012-08-24 2014-02-27 Verizon Patent And Licensing Inc. Augmented-reality-based offer management system
KR102098058B1 (ko) * 2013-06-07 2020-04-07 삼성전자 주식회사 뷰 모드에서 정보 제공 방법 및 장치
US20150262428A1 (en) * 2014-03-17 2015-09-17 Qualcomm Incorporated Hierarchical clustering for view management augmented reality
US20160330522A1 (en) * 2015-05-06 2016-11-10 Echostar Technologies L.L.C. Apparatus, systems and methods for a content commentary community
US9706112B2 (en) * 2015-09-02 2017-07-11 Mediatek Inc. Image tuning in photographic system
US9876951B2 (en) * 2015-09-25 2018-01-23 International Business Machines Corporation Image subject and composition demand
US20190156410A1 (en) * 2017-11-17 2019-05-23 Ebay Inc. Systems and methods for translating user signals into a virtual environment having a visually perceptible competitive landscape
KR102627612B1 (ko) * 2019-02-19 2024-01-22 삼성전자주식회사 증강현실을 이용한 주변 정보 표시 방법 및 그 전자 장치

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140094629A (ko) * 2010-11-24 2014-07-30 엘지전자 주식회사 부가 서비스 수신 방법 및 그를 이용한 영상 표시 장치
KR20160082168A (ko) * 2014-12-31 2016-07-08 한국전자통신연구원 감성 기반 콘텐츠 추천 장치 및 방법
WO2017106529A1 (en) * 2015-12-18 2017-06-22 Snapchat, Inc. Generating context relevant media augmentation
KR20170122092A (ko) * 2016-04-26 2017-11-03 바이두 유에스에이 엘엘씨 자율 주행 차량 내에서 미디어 콘텐츠를 표시하기 위한 시스템 및 방법
KR20170090392A (ko) * 2017-07-26 2017-08-07 삼성전자주식회사 디바이스간 동기화된 인터랙션을 제공하는 콘텐츠 동기화 장치 및 방법

Also Published As

Publication number Publication date
KR20190059629A (ko) 2019-05-31
KR102418992B1 (ko) 2022-07-11
US11308653B2 (en) 2022-04-19
US20200265613A1 (en) 2020-08-20

Similar Documents

Publication Publication Date Title
WO2020171582A1 (en) Method for determining watch face image and electronic device therefor
WO2020171513A1 (en) Method and apparatus for displaying surrounding information using augmented reality
WO2019103285A1 (ko) 전자 장치 및 전자 장치의 증강 현실 서비스 제공 방법
WO2020050506A1 (ko) 증강 현실 영상에 부가 객체를 표시하는 전자 장치 및 상기 전자 장치의 구동 방법
WO2015167160A1 (en) Command displaying method and command displaying device
WO2020171385A1 (en) Electronic device supporting avatar recommendation and download
WO2016036143A1 (ko) 전자 장치의 멀티미디어 데이터 처리 방법 및 그 전자 장치
WO2020162709A1 (en) Electronic device for providing graphic data based on voice and operating method thereof
WO2018147658A1 (en) Method for providing activity information of other related to activity pattern of user and electronic device thereof
WO2019125029A1 (ko) 증강 현실을 위한 객체를 표시하기 위한 전자 장치 및 그의 동작 방법
WO2021045552A1 (en) Electronic device for image synthesis and operating method thereof
WO2018135750A1 (ko) 전자 장치 및 전자 장치 제어 방법
WO2020032384A1 (ko) 이미지에 포함된 상품 정보와 관련된 키워드를 제공하기 위한 전자 장치
WO2019245198A1 (ko) 전자 장치 및 그 결제 정보 출력 방법
WO2019125060A1 (ko) 전화번호 연관 정보를 제공하기 위한 전자 장치 및 그의 동작 방법
WO2017171231A1 (en) Method for synthesizing image and an electronic device using the same
WO2018199432A1 (ko) 객체에 대응하는 콘텐트를 출력하기 위한 방법 및 그 전자 장치
WO2017069422A1 (en) User terminal device and method for providing web service thereof
WO2020171579A1 (en) Electronic device and method providing content associated with image to application
WO2018021806A1 (en) Method of detecting similar applications and electronic device adapted to the same
WO2015147599A1 (en) Data sharing method and electronic device thereof
WO2020171567A1 (en) Method for recognizing object and electronic device supporting the same
WO2020116960A1 (en) Electronic device for generating video comprising character and method thereof
WO2020138957A1 (en) Method for dynamically recommending catalog and electronic device thereof
WO2021162323A1 (ko) 전자 장치 및 상기 전자 장치를 이용한 콘텐츠 운용 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18881241

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18881241

Country of ref document: EP

Kind code of ref document: A1