WO2018135750A1 - 전자 장치 및 전자 장치 제어 방법 - Google Patents

전자 장치 및 전자 장치 제어 방법 Download PDF

Info

Publication number
WO2018135750A1
WO2018135750A1 PCT/KR2017/014270 KR2017014270W WO2018135750A1 WO 2018135750 A1 WO2018135750 A1 WO 2018135750A1 KR 2017014270 W KR2017014270 W KR 2017014270W WO 2018135750 A1 WO2018135750 A1 WO 2018135750A1
Authority
WO
WIPO (PCT)
Prior art keywords
display
image
electronic device
component
displayed
Prior art date
Application number
PCT/KR2017/014270
Other languages
English (en)
French (fr)
Inventor
이보람
이정근
홍예슬
이지은
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to US16/479,993 priority Critical patent/US11462010B2/en
Publication of WO2018135750A1 publication Critical patent/WO2018135750A1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/53—Querying
    • G06F16/532—Query formulation, e.g. graphical querying
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002—Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • G06F3/005—Input arrangements through a video camera
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04845—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/02—Constructional features of telephone sets
    • H04M1/0202—Portable telephone sets, e.g. cordless phones, mobile phones or bar type handsets
    • H04M1/026—Details of the structure or mounting of specific components
    • H04M1/0264—Details of the structure or mounting of specific components for a camera module assembly
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00—Indexing scheme relating to image or video recognition or understanding
    • G06V2201/10—Recognition assisted with metadata
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/02—Constructional features of telephone sets
    • H04M1/0202—Portable telephone sets, e.g. cordless phones, mobile phones or bar type handsets
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2201/00—Electronic components, circuits, software, systems or apparatus used in telephone systems
    • H04M2201/34—Microprocessors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2201/00—Electronic components, circuits, software, systems or apparatus used in telephone systems
    • H04M2201/38—Displays
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2250/00—Details of telephonic subscriber devices
    • H04M2250/06—Details of telephonic subscriber devices including a wireless LAN interface

Definitions

  • Various embodiments of the present disclosure are a method of searching for an image using an image, and more particularly, to an electronic device and a method of controlling the same, after searching the image and searching for an image similar to the modified image.
  • a user may perform various functions such as playing a video file, playing a picture or a video game using the electronic device.
  • a user may be provided with a search service by accessing a web server using an electronic device. For example, when a user inputs a search word and a search condition, the web server may provide a search result corresponding to the search word and the search condition to the user by using a search engine.
  • the search engine may include, for example, a word search engine, a topic search engine, a meta search engine, and the like. Search results may be provided in text or images.
  • a user When a user uses a search service, the user may not be able to remember a search term for finding a search result. In particular, when searching for an image as a search result, a user may have difficulty finding a search term related to the image.
  • various embodiments of the present disclosure may provide a method for a user to easily and quickly find a desired image by modifying a part of an image or setting a search condition for a plurality of images when searching for an image.
  • An electronic device includes a display, a communication module, and a processor electrically connected to the display and the communication module, wherein the processor recognizes an object detected in an image displayed on the display and includes the object in the object. Classify at least one component, change an attribute of the component based on a user input, transmit an image of which the attribute is changed to another electronic device using the communication module, and change an object whose attribute is changed The searched image may be controlled to be displayed on the display.
  • An electronic device control method including a display and a communication module may include displaying an image on the display, recognizing an object detected in the image, and classifying at least one component included in the object. Performing an operation, changing an attribute of the component based on a user input, and transmitting an image of which the attribute is changed to another electronic device using the communication module, and is similar to an image including an object whose attribute is changed. And receiving the retrieved image and displaying it on the display.
  • the user may quickly search for a desired image by modifying an image displayed on the electronic device.
  • a user may select some components from a plurality of images and select a search condition to search for a desired image.
  • 1A to 1C are diagrams for describing a situation in which an electronic device classifies and recognizes an object included in an image for each component, and searches for an image similar to the object.
  • FIG. 2 is a schematic block diagram of an electronic device according to an embodiment.
  • FIG. 3 is a diagram for describing a situation of searching for a similar image by changing a shape of an object in an electronic device according to an exemplary embodiment.
  • FIG. 4 is a diagram for describing a situation of searching for a similar image by changing a pattern of an object in an electronic device according to an embodiment.
  • 5A and 5B are diagrams for describing a situation of setting a search condition in an electronic device according to an embodiment.
  • FIG. 6 is a diagram for describing another situation of setting a search condition in an electronic device, according to an exemplary embodiment.
  • FIG. 7 is a diagram for describing a situation of changing a search condition in an electronic device, according to an exemplary embodiment.
  • FIG. 8A illustrates a situation in which an electronic device recognizes an object from an image displayed on a display, classifies and displays components, and detects an image similar to the changed image based on a user signal input for changing an attribute of the object. It is a flowchart for explanation.
  • 8B is a flowchart illustrating an example in which an electronic device changes a component of an object included in a displayed image based on an input signal of a user.
  • FIG. 9 is a diagram illustrating an electronic device in a network environment according to various embodiments of the present disclosure.
  • FIG. 10 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • FIG. 11 is a block diagram of a program module according to various embodiments of the present disclosure.
  • the expression “device configured to” may mean that the device “can” together with other devices or components.
  • processor configured (or configured to) perform A, B, and C may be implemented by executing a dedicated processor (eg, an embedded processor) to perform its operation, or one or more software programs stored in a memory device. It may mean a general purpose processor (eg, a CPU or an application processor) capable of performing the corresponding operations.
  • An electronic device may be, for example, a smartphone, a tablet PC, a mobile phone, a video phone, an e-book reader, a desktop PC, a laptop PC, a netbook computer, a workstation, a server, a PDA, a PMP. It may include at least one of a portable multimedia player, an MP3 player, a medical device, a camera, or a wearable device. Wearable devices may be accessory (e.g. watches, rings, bracelets, anklets, necklaces, eyeglasses, contact lenses, or head-mounted-devices (HMDs), textiles or clothing integrated (e.g.
  • HMDs head-mounted-devices
  • an electronic device may comprise, for example, a television, a digital video disk (DVD) player, Audio, home automation control panel, security control panel, media box (e.g. Samsung HomeSync TM , Apple TV TM , or Google TV TM ), game console (e.g. Xbox TM , PlayStation TM ), electronic dictionary, electronic key, It may include at least one of a camcorder or an electronic picture frame.
  • DVD digital video disk
  • Audio Audio
  • home automation control panel e.g. Samsung HomeSync TM , Apple TV TM , or Google TV TM
  • game console e.g. Xbox TM , PlayStation TM
  • electronic dictionary e.g., electronic key, It may include at least one of a camcorder or an electronic picture frame.
  • 1A to 1C are diagrams for describing a situation in which an electronic device classifies and recognizes an object included in an image for each component, and searches for an image similar to the object.
  • the electronic device 100 may include, for example, at least one of the electronic device 100 including a display, such as a smartphone, a tablet PC, a desktop PC, a camera, or a wearable device. It may include.
  • a display such as a smartphone, a tablet PC, a desktop PC, a camera, or a wearable device. It may include.
  • the electronic device 100 may execute a search application using an image based on a user input and display the first user interface 10 on the display 50.
  • the first user interface 10 may include, for example, an image to be searched, a searched image, and icons for searching.
  • the search application using the image may be, for example, a search application for finding a product to purchase in an online shopping mall.
  • the display 50 may include a touch screen, the display 50 may receive a touch, gesture, proximity, or hovering input using an electronic pen, a part of a user's body.
  • the electronic device 100 may activate a camera function when executing a search application using an image.
  • the electronic device 100 may display the image 110 generated based on an image input through a camera module (not shown) on the display 50.
  • the electronic device 100 may activate a gallery application when executing a search application using an image.
  • the electronic device 100 may display the image 110 selected in the gallery application on the display 50.
  • the electronic device 100 may recognize an object in the image 110 displayed on the display 50.
  • the electronic device 100 may recognize the bag 112 included in the image 110.
  • the electronic device 100 may detect the shape of the bag 112 included in the image 110 by transforming the displayed image 110 into an image that emphasizes an edge component.
  • the electronic device 100 may compare the shape of the detected object with a plurality of images stored in a database. For example, the electronic device 100 may compare the shapes of the detected objects with a plurality of images stored in a database stored in a memory (not shown) provided in the electronic device 100. Also, the electronic device 100 transmits an image displayed to an external electronic device by using a communication module (not shown), and is included in a plurality of images and images stored in a database of another electronic device from another electronic device. The result of comparing the shape of the object can be received.
  • the electronic device 100 may display an image having a shape and color similar to the detected object on the display 50.
  • the electronic device 100 may display bag images 120 having a shape and color similar to those of the bag 112 detected in the image 110 on the display 50.
  • the electronic device 100 may display the bag images 120 searched on the bottom of the display 50.
  • the position at which the found bag images 120 are displayed is not limited thereto.
  • the electronic device 100 displays only some bag images, and the remaining bag images are, for example, in response to a user's touch and drag input. Can be displayed on the display 50 sequentially.
  • the electronic device 100 may set a search category based on the recognized result. For example, when the electronic device 100 recognizes the bag 112 in the image 110, the electronic device 100 may set “bag” as a search category. Subsequently, in the repeated search, the electronic device 100 may search and display only the image related to the "bag.”
  • the user may directly set a search category of the electronic device 100.
  • a user may input a search category after executing a search application using an image.
  • a user may set the search category to a product, electronics, fashion style, or the like.
  • the electronic device 100 may improve the search speed and improve the accuracy of the search.
  • the electronic device 100 may differently set a method of searching for a similar image according to a search category.
  • the electronic device 100 may differently set a method of searching for a similar image according to a category generated by the electronic device 100 using a result detected from an image or a category input by a user.
  • the electronic device 100 may search for a similar image using an Oriented Fast and Rotated BRIEF (ORB) algorithm for image matching with respect to a general product.
  • the electronic device 100 may search for similar images using electronic convolutional neural network (CNN), which is one of deep-learning methods, for electronics and fashion products.
  • CNN electronic convolutional neural network
  • the electronic device 100 detects an object from an image displayed on the display 50, searches for and displays an image including an object similar to the detected object.
  • At least one or more components included in the detected object may be distinguished simultaneously or sequentially.
  • the component may be, for example, each part constituting an object.
  • the component may include a first component and a second component.
  • the first component may correspond to the body 112b of the bag and the second component may correspond to the handle 112a of the bag.
  • the electronic device 100 may classify components included in the detected object by using a method similar to a method of searching for an image similar to the image displayed on the display 50. For example, the electronic device 100 converts an image displayed on the display 50 into an image highlighting an edge, and uses a database stored in a memory (not shown) provided therein or a database of another external electronic device. The components included in the detected object can be distinguished.
  • the user may directly input components included in the object displayed on the display 50.
  • the electronic device 100 includes a display supporting a touch
  • the user may touch a component of an object displayed on the display 50 or use a touch and drag method to distinguish the component of the object. You can select components by forming closed curves.
  • the electronic device 100 may display the divided components on the display 50. Referring to FIG. 1A (b), the electronic device 100 may display a separator 130 (eg, a dotted box) that separates the handle 112a and the body 112b with respect to the detected bag 112. Can be.
  • a separator 130 eg, a dotted box
  • the user may search for a similar image after changing the shape, color, size, pattern, etc. of the elements included in the object.
  • the electronic device 100 displays the first item 150 for changing properties such as shape, color, pattern, and size, based on a user input of selecting the “setting” 140 icon (or menu). Can be displayed.
  • the user may select an attribute to be changed from among attributes included in the first item 150 displayed on the display 50.
  • the user may select a component that the user wants to change from among the components included in the object displayed on the display 50.
  • the user may change the size by selecting the “size” attribute and selecting the body 112b among the components of the bag 112. For example, the user may increase the length of the body 112b in the vertical direction by touching the top and the bottom of the body 112b and dragging them in opposite directions.
  • the electronic device 100 may display a portion of the changed property on the display 50 using Augmented Reality (AR) technology.
  • AR Augmented Reality
  • the augmented reality may be, for example, a technique of displaying a 3D virtual image on an image or a background of the reality as a single image.
  • the electronic device 100 uses a global positioning system (GPS) device that transmits and receives geography and location information, and a gravity sensor that detects tilt, posture, and direction of the electronic device 100 to use augmented reality.
  • GPS global positioning system
  • the information about the position and the attitude of the electronic device 100 may be obtained using a gyro sensor or an acceleration sensor.
  • the electronic device 100 sets up a network and an information system stored in detail about a building or a product according to a geography or a location, receives detailed information on an input image, and uses an augmented reality application.
  • the currently input image and detailed information may be displayed together on the display 50.
  • the electronic device 100 may display the bag 112 ′ whose size of the body 112b is changed on the display 50. According to an embodiment of the present disclosure, the electronic device 100 may display the information on the changed property by overlapping the bag 112 ′ whose size of the body 112b is changed by using the augmented reality technology described above.
  • the electronic device 100 may search for images 120 ′ similar to the bag 112 ′ with an enlarged body and display the same on the display 50.
  • the electronic device 100 may search for an image similar to the image displayed on the display 50 using internal and external databases to display similar images 120 ′ at the bottom of the display 50. have.
  • the electronic device 100 Since the electronic device 100 according to an embodiment has set the search category "bag” as described above with reference to FIG. 1A (a), the search for the bag 112 ′ in which the body 112b is extended is performed as described above. You can only search for the "Bag" category. For this reason, if one of the components of the bag 112 included in the image 110 is changed and searched, the intention of the user is reflected, and the electronic device 100 may be more accurate than a result of initially searching for a bag-like image. Is high, and a similarity search can be performed.
  • 1C is a diagram for describing another embodiment of searching for a similar image by changing an size of an object in an electronic device, according to an exemplary embodiment.
  • the electronic device 100 may execute a search application using an image based on a user's input and display the first user interface 10 on the display 50.
  • the search application using the image may be, for example, a search application for finding a product to purchase in an online shopping mall.
  • the electronic device 100 may activate a camera function when executing a search application using an image, and display an image 180 generated based on an input image on the display 50.
  • the electronic device 100 may recognize an object in the image 180 displayed on the display 50.
  • the electronic device 100 may recognize the TV 182 included in the image 180.
  • the electronic device 100 may detect the shape of the TV 182 included in the image 180 by transforming the displayed image 180 into an image that emphasizes an edge component.
  • the electronic device 100 may compare the shapes of the detected objects with a plurality of images stored in a database stored in a memory (not shown) provided in the electronic device 100. Also, the electronic device 100 may compare a plurality of images stored in a database of an external electronic device with a shape of a detected object using a communication module (not shown).
  • the electronic device 100 may display TV images 160 having a shape and color similar to those of the TV 182 detected in the image 180 on the display 50. Referring to FIG. 1C (a), the electronic device 100 may display the retrieved TV images 160 at the bottom of the display 50.
  • the electronic device 100 may display information related to the detected TV 182 on the display 50 using Augmented Reality (AR) technology.
  • AR Augmented Reality
  • the electronic device 100 may superimpose and display information such as the size and resolution of the TV on the TV 182.
  • the electronic device 100 detects an object in the image 180 displayed on the display 50 and displays an image including the detected object and the similar object.
  • the components included in the detected object may be distinguished simultaneously with search and display.
  • the electronic device 100 may display the divided components on the display 50. Referring to (b) of FIG. 1C, the electronic device 100 may display a separator 170 for distinguishing the detected TV 182 from the surroundings.
  • the user may search for a similar image after changing the shape, color, size, etc. of the elements of the object.
  • the electronic device 100 may display the first item 150 displaying properties that can be changed in shape, color, pattern, size, etc. based on a user input of selecting the “setting” 140 icon. have.
  • the user may select an attribute to change from among the attributes included in the displayed first item 150.
  • the user may select a component that the user wants to change from among the components included in the object displayed on the display 50.
  • a user may select a “size” attribute and change the size of the TV 182 included in the image 180.
  • the user may change the size of the TV 182 by touching one side and the other side of the TV 182 displayed on the display 50 and dragging them in opposite directions.
  • the electronic device 100 may display a portion of the changed property on the display 50 using Augmented Reality (AR) technology. For example, referring to FIG. 1C (d), the electronic device 100 may display the TV 182 ′ whose size is changed on the display 50. According to an embodiment of the present disclosure, the electronic device 100 may display the TV 182 ′ changed in size using the augmented reality technology on the display 50.
  • AR Augmented Reality
  • the electronic device 100 may search for information on the TV 182 ′ whose size is changed based on a ratio of the size change. For example, the electronic device 100 may display the size of the TV 182 included in the image 180 displayed on the display 50 in FIG. 1C and the display 50 in FIG. 1D. The size difference of the TV 182 ′ whose size included in the image is changed may be checked.
  • the electronic device 100 may determine that the display size of the TV 182 included in the image 180 displayed on the display 50 in FIG. 1C is 138 cm. Using this, the electronic device 100 derives (or infers or anticipates) that the TV 182 ′ whose size is included in the image displayed on the display 50 in FIG. 1D (d) is 163 cm. Similar TVs may be searched for and displayed on display 50. For example, the electronic device 100 may use the ratio of the diagonal lengths of the TV 182 included in the image 180 and the resized TV 182 ′ to adjust the size of the TV 182 ′. It can be derived that the display of is 163cm.
  • the electronic device 100 searches for images (160 ') that are similar to the TV 182' having been resized (eg, TV images having similar sizes) and displays them on the display 50. I can display it. As described above, the electronic device 100 may search for an image similar to the image displayed on the display 50 by using internal and external databases.
  • the electronic device 100 may search for an image similar to an object included in an input image by using a search application using the image.
  • the electronic device 100 may provide a user interface that distinguishes components included in an object included in an input image and may change each component, so that a user may easily change the image and search for a desired image. .
  • a search application using an image is a search application for finding a product to purchase in an online shopping mall
  • the user may select at least one of attributes such as shape, size, color, and pattern of the photographed image or the image currently input through the camera module. You can easily search for the product you want to search while modifying.
  • the electronic device 100 may perform additional search in a hierarchical manner only to the set category, and as the user repeats the above search, the probability that the user searches for a desired product may be increased.
  • FIG. 2 is a schematic block diagram of an electronic device according to an embodiment.
  • an electronic device 200 (eg, the electronic device 100) may include a display 210 (eg, the display 50 of FIG. 1), a processor 220, and a communication module. 230 may be included.
  • the electronic device 200 may be implemented to have more or less configurations than those shown in FIG. 2.
  • the electronic device 200 may be configured to include an input module (eg, a physical key, a proximity sensor, a biometric sensor, etc.) or a power supply unit.
  • Display 210 may be, for example, a liquid crystal display (LCD), a light emitting diode (LED) display, an organic light emitting diode (OLED) display, or a microelectromechanical system (MEMS) display, or an electronic paper display. It may include.
  • Display 210 may include display 50 of FIG. 1A.
  • the display 210 may include a touch screen, and may receive, for example, a touch, gesture, proximity, or hovering input using an electronic pen or a part of a user's body.
  • the processor 220 may control, for example, a plurality of hardware or software components connected to the processor 220 by running an operating system or an application program, and may perform various data processing and operations.
  • the processor 220 may control the display 210 to display a first user interface previously stored in a memory (not shown). However, it is not limited thereto.
  • the processor 220 may receive a user interface in another external electronic device or a server through the communication module 230 to control the processor 220 to be displayed on the display 210.
  • the communication module 230 may include, for example, a cellular module, a wifi module, a Bluetooth module, an RF module, and the like.
  • the communication module 230 may form a network with another external electronic device based on the control of the processor 220.
  • the processor 220 may control an image to be displayed on the display 210 by including an image in the first user interface.
  • the processor 220 may display an image using an image input through a camera module (not shown) or control the image stored in a memory (not shown) to be displayed on the display 210.
  • the processor 220 may detect an object included in the image, and classify components included in the object.
  • the processor 220 may retrieve an image similar to the detected object.
  • the processor 220 may use the communication module 230 to search for an image similar to the detected object among the images stored in the external electronic device to be displayed on the display 210.
  • the processor 220 may classify components of the object and control the display to be displayed on the display 210.
  • the processor 220 controls the display 210 to display a superimposed property on an image based on a signal input of changing a property (eg, shape, size, color, pattern, etc.) of at least one of the components. can do.
  • the processor 220 may control the display 210 to display the changed property superimposed on the image by using augmented reality technology.
  • the processor 220 may control to display an image similar to an object whose property is changed and displayed on the display 210.
  • the processor 220 may use the communication module 230 to search for an image similar to an object whose property is changed from among images stored in the external electronic device and display the same on the display 210.
  • FIG. 3 is a diagram for describing a situation of searching for a similar image by changing a shape of an object in an electronic device according to an exemplary embodiment.
  • the electronic device 100 may execute a search application using an image based on a user's input and display the first user interface 10 on the display 50.
  • the search application using the image may be, for example, a search application for finding a product to purchase in an online shopping mall.
  • the electronic device 100 may activate a camera function when a search application using an image is executed and display an image 310 generated based on an input image on the display 50.
  • the electronic device 100 may recognize an object in the image 310 displayed on the display 50.
  • the electronic device 100 may recognize the watch 312 included in the image 310.
  • the electronic device 100 may detect the shape of the field of view 312 included in the image 310 by transforming the displayed image 310 into an image that emphasizes an edge component.
  • the electronic device 100 may compare the shapes of the detected objects with a plurality of images stored in a database stored in a memory (not shown) provided in the electronic device 100. Also, the electronic device 100 may compare a plurality of images stored in a database of an external electronic device with a shape of a detected object using a communication module (not shown).
  • the electronic device 100 may display watch images having a shape and color similar to those of the watch 312 detected in the image 310 on the display 50. Referring to FIG. 3A, the electronic device 100 may display searched watch images 320 on the bottom of the display 50.
  • the electronic device 100 detects an object from the input image 310 and searches for and displays an image including the detected object and the similar object. At the same time or sequentially, the components included in the detected object can be distinguished.
  • the electronic device 100 may display the divided components on the display. Referring to FIG. 3A, the electronic device 100 may display a separator 330 that separates the strap 312a and the body 312b with respect to the detected watch 312.
  • the user may search for a similar image after changing the shape, pattern, color, size, etc. of the elements of the object.
  • the electronic device 100 may display a first item 350 that displays properties that can be changed in form, color, pattern, size, etc. based on a user input of selecting the “setting” icon 340. have.
  • the user may select an attribute to be changed from among the attributes included in the displayed first item 350.
  • the user may select a component that the user wants to change from among the components included in the object displayed on the display.
  • the user may change a shape by selecting a “shape” attribute and selecting a body 312b among the components of the watch 312. For example, when the user selects the "shape” attribute and selects the body 312b of the watch 312, the electronic device 100 displays the second item 360 including the deformable form type. ) Can be displayed.
  • the user may select one of various types of types displayed in the second item 360.
  • the electronic device 100 may change the body 312b based on the type of the shape selected by the user and display it on the display 50.
  • the user can directly change the shape of the watch body 312b.
  • the electronic device 100 may change the shape of the body 312b and display it on the display 50 based on a user input of touching and dragging the external shape of the body 312b.
  • the electronic device 100 may display a portion of the changed property on the display 50 using Augmented Reality (AR) technology.
  • AR Augmented Reality
  • the electronic device 100 may generate a rectangular watch body 312b 'using augmented reality technology and display the rectangular watch body 312b' on the body 312b of the watch 312.
  • the electronic device 100 may search for images 320 ′ similar to the clock 312 ′ in which the body is changed to a rectangle, and display the same on the display 50. As described above, the electronic device 100 may search for an image similar to the image displayed on the display 50 by using internal and external databases.
  • FIG. 4 is a diagram for describing a situation of searching for a similar image by changing a pattern of an object in an electronic device according to an embodiment.
  • the electronic device 100 may execute a search application using an image based on a user's input and display the first user interface 10 on the display 50.
  • the search application using the image may be, for example, a search application for finding a product to purchase in an online shopping mall.
  • the electronic device 100 may activate a camera function when executing a search application using an image, and display an image 410 generated based on an input image on the display 50.
  • the electronic device 100 may recognize an object in the image 410 displayed on the display 50.
  • the electronic device 100 may recognize the dress 412 included in the image 410.
  • the electronic device 100 may detect the shape of the dress 412 included in the image 410 by transforming the image 410 displayed on the display 50 into an image emphasizing an edge component. .
  • the electronic device 100 may compare the shapes of the detected objects with a plurality of images stored in a database stored in a memory (not shown) provided in the electronic device 100. Also, the electronic device 100 may compare a plurality of images stored in a database of an external electronic device with a shape of a detected object using a communication module (not shown).
  • the electronic device 100 may display, on the display 50, dress images 420 having a shape and color similar to those of the dress 412 detected in the image 410. Referring to FIG. 4A, the electronic device 100 may display the found dress images 420 on the bottom of the display 50.
  • the electronic device 100 detects the dress 412 from the input image 410, searches for and displays an image including the detected dress 412 and the similar dress. Components included in the dress 412 detected simultaneously or sequentially may be distinguished.
  • the electronic device 100 may display the divided components on the display 50. Referring to FIG. 4A, the electronic device 100 may display a separator 430 that distinguishes the detected dress 412 from the surroundings.
  • the user may search for a similar image after changing the shape, pattern, color, size, etc. of the elements of the object.
  • the electronic device 100 may display a first item 450 displaying properties that can be changed in shape, color, pattern, size, etc. based on a user input of selecting the “setting” icon 440. have.
  • the user may select an attribute to be changed among attributes included in the displayed first item 450.
  • the user may select a component that the user wants to change from among the components included in the object displayed on the display 50.
  • the user may select a “pattern” attribute and change a pattern of the dress 412.
  • the electronic device 100 may display the third item 460 including the deformable pattern type on the display 50. have.
  • the user may select one of various types of patterns displayed in the third item 460.
  • the electronic device 100 may change the pattern of the dress 412 based on the type of the pattern selected by the user and display the pattern on the display 50.
  • the electronic device 100 may display a portion of the changed property on the display 50 using Augmented Reality (AR) technology.
  • AR Augmented Reality
  • the electronic device 100 may overlay the pattern on the dress 412 by using augmented reality technology or display the dress 412 'on which the pattern is overlapped.
  • the electronic device 100 may search for and display images 420 'similar to the dress 412' having a predetermined pattern on the display 50.
  • FIG. As described above, the electronic device 100 may search for an image similar to the image displayed on the display 50 by using internal and external databases.
  • FIG. 5 is a diagram for describing a situation of setting a search condition in an electronic device according to an embodiment.
  • the electronic device 100 may execute a search application using an image based on a user input and display the second user interface 20 on the display.
  • the second user interface 20 can be, for example, another embodiment of the first user interface 10.
  • the electronic device 100 may activate a camera function when executing a search application using an image, and display an image 510 generated based on an input image on the display 50.
  • the electronic device 100 may recognize an object in the image 510 displayed on the display 50.
  • the electronic device 100 may recognize the clock 512 included in the image 510.
  • the electronic device 100 may detect the shape of the field of view 512 included in the image 510 by transforming the displayed image 510 into an image that emphasizes an edge component.
  • the electronic device 100 may compare the shapes of the detected objects with a plurality of images stored in a database stored in a memory (not shown) provided in the electronic device 100. Also, the electronic device 100 may compare a plurality of images stored in a database of an external electronic device with a shape of a detected object using a communication module (not shown).
  • the electronic device 100 may set a search category based on the recognized result. For example, when the electronic device 100 recognizes the clock 512 in the image 510, the electronic device 100 may set “watch” as a search category. Subsequently, in the repeated search, the electronic device 100 may search and display only an image related to "clock".
  • the electronic device 100 may display, on the display 50, clock images 520 having a shape and color similar to those of the clock 512 detected in the image 510. Referring to FIG. 5A (a), the electronic device 100 may display searched watch images 520 on the bottom of the display 50.
  • the electronic device 100 detects a clock 512 in an input image 510 and includes a clock similar to the detected clock 512.
  • the components included in the watch 512 detected at the same time or sequentially detected by searching for and displaying an image may be distinguished.
  • the electronic device 100 may display the divided components on the display 50. Referring to FIG. 5B, the electronic device 100 may display a separator 530 that separates the detected watch 512 and the body 512a and the strap 512b from the surroundings.
  • the user may search for a similar image by combining shapes, colors, and sizes of the elements of the object.
  • the electronic device 100 may display “AND, OR, NOT”, etc., which may combine attributes such as shape, color, pattern, and size, based on a user input of selecting the “condition” 540 icon.
  • the fourth item 550 may be displayed.
  • AND condition may mean, for example, searching for an image that includes all of the selected attributes.
  • OR condition may mean, for example, searching for an image including at least one of the selected attributes.
  • NOT condition may mean, for example, to retrieve an image without a selected attribute.
  • the user may select one of the conditions included in the displayed fourth item 550.
  • the user may select a component to be searched among the components included in the object displayed on the display.
  • the user selects the body 512a among the components of the clock 512, and selects the “AND condition” among the conditions displayed in the fourth item 550.
  • the electronic device 100 may determine the watch detected in FIG. 5A as a search category, and display a watch image 561 on the top of the display 50.
  • the electronic device 100 may display an image 563 corresponding to the body 512a of the watch 512 selected by the user on the top of the display 50.
  • the electronic device 100 arranges an image (or a character 562) representing a “AND condition” selected by the user between the clock image 561 and the image 563 corresponding to the body 512a to display a currently set condition. can do.
  • the electronic device 100 may again search for the same or similar images as the body of the watch 512 among the search results of FIG. 5A (a) and display them on the display 50. In this case, the electronic device 100 may not display images having a strap similar to the strap 512b of the watch 512.
  • the electronic device 100 may perform a search by combining a plurality of conditions.
  • the electronic device 100 may display a new image on the display 50.
  • the electronic device 100 may display an image input through a camera module (not shown) based on a user selecting an icon of a “condition” 540. Based on the image 510 may be displayed. However, it is not limited thereto. For example, the electronic device 100 may display the gallery application based on selecting the “condition” 540 icon, and display the image selected by the user on the display 50.
  • the electronic device 100 displays “AND, OR, NOT”, etc., which may combine attributes such as shape, color, pattern, and size, based on a user input of selecting the “condition” 540 icon.
  • the fourth item 550 may be displayed again.
  • the user may select one of the conditions included in the displayed fourth item 550.
  • the user may select a component to be searched among the components included in the object displayed on the display.
  • the user selects an “AND condition” among the conditions displayed in the fourth item 550, and is included in the image 590 displayed on the display 50.
  • the strap 592a may be selected among the components of the watch 592.
  • the electronic device 100 may display an image 565 corresponding to the selected strap 592a on the top of the display 50.
  • the electronic device 100 may display an image (or text) 564 indicating a “AND condition” selected by the user, an image 563 corresponding to the body 512a of the watch 512, and an image corresponding to the strap 592a. 565), the currently set condition can be displayed.
  • the electronic device 100 may determine the shape and color of the watch 512 body 512a selected in FIG. 5A (b) and the shape, color and shape of the strap 592a selected in FIG. 5B based on the user's selection.
  • the same or similar watch images 570 may be retrieved and displayed on the display 50.
  • the user may easily search for a desired image by selecting properties of each object included in the plurality of images and selecting a desired search condition.
  • the user may search by combining a shape, color, etc. selected from an object whose shape, color, size, etc. are changed, and an object of another image.
  • FIG. 6 is a diagram for describing another situation of setting a search condition in an electronic device, according to an exemplary embodiment.
  • the electronic device 100 may execute a search application using an image based on a user input, and display the second user interface 20 on the display.
  • the electronic device 100 may activate a camera function when executing a search application using an image, and display an image 610 generated based on an input image on the display 50.
  • the electronic device 100 may recognize an object in the image 610 displayed on the display 50.
  • the electronic device 100 may recognize clothes (for example, jacket 612) included in the image 610.
  • the electronic device 100 may compare the shapes of the detected objects with a plurality of images stored in a database stored in a memory (not shown) provided in the electronic device 100. Also, the electronic device 100 may compare a plurality of images stored in a database of an external electronic device with a shape of a detected object using a communication module (not shown).
  • the electronic device 100 may set a search category based on the recognized result. For example, when the electronic device 100 recognizes the clothes 612 in the image 610, the electronic device 100 may set “clothes” as a search category. Subsequently, the electronic device 100 may search and display only an image related to "clothing" in a repeated search.
  • the electronic device 100 may display clothes images 620 found on the bottom of the display 50.
  • the electronic device 100 detects the clothes 612 from the input image 610, searches for and displays an image including clothes similar to the detected clothes 612. Components included in the clothes 612 detected simultaneously or sequentially may be distinguished.
  • the electronic device 100 may display the divided components on the display 50. Referring to FIG. 6A, the electronic device 100 may display a separator 630 that distinguishes the detected clothes 612 from the background.
  • the user may directly input components included in the object displayed on the display 50.
  • a user touches a component of an object displayed on the display or forms a closed curve to distinguish the component of the object by using a touch and drag method.
  • a component For example, the user may select the zipper 613 inside the clothes 612 using a touch and drag method.
  • a user may search for a similar image by combining shapes, patterns, colors, sizes, and the like of the elements of the object.
  • the electronic device 100 may display “AND, OR, NOT”, etc., which may combine attributes such as shape, color, pattern, and size, based on a user input of selecting the “condition” 640 icon.
  • the fourth item 650 may be displayed.
  • the user may select one of the conditions included in the displayed fourth item 650.
  • the user selects the zipper 613 among the components of the clothes 612, and selects the “NOT condition” among the conditions displayed in the fourth item 650.
  • the electronic device 100 may determine the clothes detected in FIG. 6A as a search category, and display an image 661 corresponding to the clothes 612 on the top of the display 50.
  • the electronic device 100 may display an image 663 corresponding to the zipper 613 of the clothes 612 selected by the user on the top of the display 50.
  • the electronic device 100 arranges an image (or text) 662 representing a "NOT condition" selected by the user between the image 661 corresponding to the clothes and the image 663 corresponding to the zipper 613 and is currently set.
  • the condition can be displayed.
  • the electronic device 100 may again search for clothes images without the zipper 613 among the search results in FIG. 6A and display them on the display 50.
  • the user may rotate the image displayed on the display 50 to display the opposite side on the display 50.
  • the user may display a new image on the display 50 using a camera module (not shown).
  • the electronic device 100 displays “AND, OR, NOT”, etc., which may combine attributes such as shape, color, pattern, and size, based on a user input of selecting the “condition” icon 640.
  • a fourth item 650 may be displayed.
  • the user may select one of the conditions included in the displayed fourth item 650.
  • the user may select a component to be searched among the components included in the object displayed on the display.
  • the user may select “AND condition” among the conditions displayed in the fourth item 650, and select the back trim 614 among the components of the clothes 612.
  • the electronic device 100 may display an image 665 corresponding to the selected slit 614 on the display 50.
  • the electronic device 100 may display an image (or text) 664 representing a “AND condition” selected by the user, an image 663 corresponding to the zipper 613 of the clothes 612, and an image corresponding to the back slit 614. Disposed between 665 to display a currently set condition.
  • the electronic device 100 does not have a zipper 613 selected in FIG. 6B based on a user's selection, and clothes images identical or similar to those of the shape of the opening 614 selected in FIG. 6C. 620 ′ may be searched for and displayed on the display 50.
  • FIG. 7 is a diagram for describing a situation of changing a search condition in an electronic device, according to an exemplary embodiment.
  • FIG. 7A may be in a situation similar to that of FIG. 5B.
  • the electronic device 100 may display preset search conditions and search properties on the display 50.
  • the electronic device 100 may display the images 720 searched based on the preset search conditions and the search attributes on the bottom of the display 50.
  • the electronic device 100 may display on the display 50 an image currently being input through a camera module (not shown) or an image selected by a gallery application.
  • the electronic device 100 changes the search property and the search condition based on a signal for selecting the search property and the search condition displayed on the display 50, and performs a search to display the searched result. Can be marked on.
  • the electronic device 100 sequentially searches for a search condition based on a signal input of touching an “AND condition” 730 displayed on the display 50. OR condition ",” NOT condition “and the like can be displayed.
  • the electronic device 100 may display a search result on the bottom of the display 50 based on the changed search condition.
  • the electronic device 100 sequentially searches for the search attribute based on a signal input of touching the “shape” 740 displayed on the display 50. "," Pattern “,” size “and the like can be displayed by changing.
  • the electronic device 100 may display a search result on the bottom of the display 50 based on the changed search property.
  • FIG. 8A illustrates a situation in which an electronic device recognizes an object from an image displayed on a display, classifies and displays components, and detects an image similar to the changed image based on a user signal input for changing an attribute of the object. It is a flowchart for explanation.
  • the electronic device 100 may display an image.
  • the electronic device 100 may display an image generated based on an image input through a camera module on a display.
  • the electronic device 100 may display an image selected by the gallery application on a display.
  • the electronic device 100 may classify and display components included in an object included in the displayed image. For example, the electronic device 100 converts the displayed image into an edge-emphasizing image, and distinguishes and displays the components by comparing them with a plurality of images stored in an internal memory or a database of another external electronic device. can do.
  • the electronic device 100 may change a property of a component displayed on a display based on a user input signal.
  • the electronic device 100 may display the modified component on the display.
  • the electronic device 100 may change an object based on a signal for changing a property (eg, shape, color, size, pattern, etc.) of a component.
  • the electronic device 100 may display the changed object on the display using, for example, augmented reality technology.
  • the electronic device 100 transmits an image in which an object property (for example, at least one property of a component included in an object) is changed to another electronic device, and is similar to an object included in the image in which the property is changed.
  • the image retrieved by the image can be received and displayed.
  • the electronic device 100 may set a search category based on the search result in operation 820. For this reason, when searching for an image similar to an image in which the property of an object is changed, the electronic device 100 may search based on the set search category. As a result, the electronic device 100 may improve the search speed or the accuracy of the search.
  • 8B is a flowchart illustrating an example in which an electronic device changes a component of an object included in a displayed image based on an input signal of a user.
  • 8B may correspond to an embodiment of operation 830 of FIG. 8A.
  • the electronic device 100 may display a plurality of attributes that can be changed based on a user input. For example, the electronic device 100 may display a list of attributes that can be changed in form, color, size, pattern, etc. in a popup window.
  • the electronic device 100 may receive a signal input of a user who selects at least one or more of the displayed plurality of attributes.
  • the electronic device 100 may select a component to be changed from among the components, and receive a signal input of a user for changing a property of the selected component.
  • the user may select a size among shapes, colors, sizes, and patterns, select components to be changed, and change sizes. For example, the user may touch one side and the other side of the component and move in the opposite direction to enlarge the size of the component.
  • the electronic device 100 may display various shapes that can be changed in a popup window.
  • the electronic device 100 may change the shape of the selected component into a form selected by the user based on a user input signal for selecting one of various forms displayed on the popup window.
  • the electronic device 100 may display a component whose property is changed.
  • the electronic device 100 may display an image whose property is changed by overlapping the image displayed on the display.
  • the image whose attribute is changed may be displayed, for example, in a translucent form. Therefore, the user can simultaneously view an image of which the attribute is not changed and an image of which the attribute is changed.
  • the method of displaying the image whose attribute is changed by the electronic device 100 is not limited thereto.
  • the electronic device 901 may include the electronic device 100 of FIG. 1 or the electronic device 200 of FIG. 2.
  • the electronic device 901 may include a bus 910, a processor 920, a memory 930, an input / output interface 950, a display 960, and a communication interface 970.
  • the electronic device 901 may omit at least one of the components or additionally include other components.
  • the bus 910 may include circuitry that connects the components 910-970 to each other and transfers communication (eg, control messages or data) between the components.
  • the processor 920 may include one or more of a central processing unit, an application processor, or a communication processor (CP).
  • the processor 920 (eg, the processor 220 of FIG. 2) may execute, for example, an operation or data processing related to control and / or communication of at least one other component of the electronic device 901.
  • the memory 930 may include volatile and / or nonvolatile memory.
  • the memory 930 may store, for example, commands or data related to at least one other element of the electronic device 901.
  • the memory 930 may store software and / or a program 940.
  • the program 940 may include, for example, a kernel 941, middleware 943, an application programming interface (API) 945, an application program (or “application”) 947, or the like.
  • API application programming interface
  • At least a portion of kernel 941, middleware 943, or API 945 may be referred to as an operating system.
  • the kernel 941 is, for example, system resources (e.g., used to execute an action or function implemented in other programs, such as middleware 943, API 945, or application program 947).
  • the bus 910, the processor 920, or the memory 930 may be controlled or managed.
  • the kernel 941 may provide an interface for controlling or managing system resources by accessing individual components of the electronic device 901 from the middleware 943, the API 945, or the application program 947. Can be.
  • the middleware 943 may serve as an intermediary for allowing the API 945 or the application program 947 to communicate with the kernel 941 to exchange data. Also, the middleware 943 may process one or more work requests received from the application program 947 according to priority. For example, the middleware 943 may use system resources (eg, the bus 910, the processor 920, or the memory 930, etc.) of the electronic device 901 for at least one of the application programs 947. Prioritize and process the one or more work requests.
  • the API 945 is an interface for the application 947 to control functions provided by the kernel 941 or the middleware 943, for example, at least for file control, window control, image processing, or character control. It can contain one interface or function (eg command).
  • the input / output interface 950 may transmit, for example, a command or data input from a user or another external device to other component (s) of the electronic device 901, or another component (s) of the electronic device 901. Commands or data received from the device) can be output to the user or other external device.
  • Display 960 may be, for example, a liquid crystal display (LCD), a light emitting diode (LED) display, an organic light emitting diode (OLED) display, Or micro electromechanical system (MEMS) displays, or electronic paper displays.
  • the display 960 may display various contents (eg, text, images, videos, icons, and / or symbols, etc.) to the user, for example.
  • the display 960 may include a touch screen, and may receive, for example, a touch, gesture, proximity, or hovering input using an electronic pen or a part of a user's body.
  • the communication interface 970 may include, for example, the electronic device 901 and an external device (eg, the first external electronic device 902 and the second external electronic device 904). ), Or communication between servers 906.
  • the communication interface 970 may be connected to the network 962 through wireless or wired communication to communicate with an external device (eg, the second external electronic device 904 or the server 906).
  • the wireless communication may be, for example, LTE, LTE Advance (LTE-A), code division multiple access (CDMA), wideband CDMA (WCDMA), universal mobile telecommunications system (UMTS), wireless broadband (WiBro), or global network (GSM).
  • LTE Long Term Evolution
  • LTE-A LTE Advance
  • CDMA code division multiple access
  • WCDMA wideband CDMA
  • UMTS universal mobile telecommunications system
  • WiBro wireless broadband
  • GSM global network
  • the wireless communication may include, for example, wireless fidelity (WiFi), Bluetooth, Bluetooth low power (BLE), Zigbee, near field communication (NFC), magnetic secure transmission, and radio. It may include at least one of a frequency (RF) or a body area network (BAN).
  • GNSS GNSS.
  • the GNSS may be, for example, a Global Positioning System (GPS), a Global Navigation Satellite System (Glonass), a Beidou Navigation Satellite System (hereinafter referred to as "Beidou”), or a Galileo, the European global satellite-based navigation system.
  • GPS Global Positioning System
  • Glonass Global Navigation Satellite System
  • Beidou Beidou Navigation Satellite System
  • Galileo the European global satellite-based navigation system.
  • Wired communication may include, for example, at least one of a universal serial bus (USB), a high definition multimedia interface (HDMI), a standard standard232 (RS-232), a power line communication, a plain old telephone service (POTS), and the like.
  • the network 962 may include at least one of a telecommunications network, for example, a computer network (eg, LAN or WAN), the Internet, or a telephone network.
  • Each of the first and second external electronic devices 902 and 904 may be the same or different type of device as the electronic device 901. According to various embodiments of the present disclosure, all or some of the operations performed by the electronic device 901 may be executed by another or a plurality of electronic devices (for example, the electronic devices 902 and 904 or the server 906.) According to this, when the electronic device 901 needs to perform a function or service automatically or by request, the electronic device 901 may replace or additionally execute the function or service by itself or at least some function associated therewith. May be requested from another device (eg, the electronic device 902, 904, or the server 906).
  • the other electronic device may request the requested function or The additional function may be executed and the result may be transmitted to the electronic device 901.
  • the electronic device 901 may provide the requested function or service by processing the received result as it is or additionally.
  • Cloud computing distributed computing, or client-server computing techniques can be used.
  • the electronic device 1001 may, for example, replace all or part of the electronic device 100 shown in FIG. 1, the electronic device 200 shown in FIG. 2, and / or the electronic device 901 shown in FIG. 9. It may include.
  • the electronic device 1001 may include one or more processors (eg, an AP) 1010, a communication module 1020, a subscriber identification module 1024, a memory 1030, a sensor module 1040, an input device 1050, and a display. 1060, an interface 1070, an audio module 1080, a camera module 1091, a power management module 1095, a battery 1096, an indicator 1097, and a motor 1098.
  • processors eg, an AP
  • 1010 e.g, a communication module 1020, a subscriber identification module 1024, a memory 1030, a sensor module 1040, an input device 1050, and a display.
  • 1060 an interface 1070, an audio module 1080, a camera module 1091, a power management module 1095,
  • the processor 1010 may drive a plurality of hardware or software components connected to the processor 1010 by operating an operating system or an application program.
  • the processor 1010 may be implemented by, for example, a system on chip (SoC), according to an embodiment of the present disclosure. may further include a graphic processing unit and / or an image signal processor, the processor 1010 having the configuration shown in FIG. May include at least some of the elements, such as the cellular module 1021.
  • the processor 1010 may load instructions or data received from at least one of the other components, such as nonvolatile memory, into volatile memory. ) And store the result data in non-volatile memory.
  • the communication module 1020 may include, for example, a cellular module 1021, a WiFi module 1023, a Bluetooth module 1025, a GNSS module 1027, an NFC module 1028, and an RF module 1029. have.
  • the cellular module 1021 may provide, for example, a voice call, a video call, a text service, an internet service, or the like through a communication network.
  • the cellular module 1021 may perform identification and authentication of the electronic device 1001 in a communication network using a subscriber identification module (eg, a SIM card) 1024.
  • a subscriber identification module eg, a SIM card
  • the cellular module 1021 may perform at least some of the functions that the processor 1010 may provide.
  • the cellular module 1021 may include a communication processor (CP).
  • CP communication processor
  • at least some (eg, two or more) of the cellular module 1021, the WiFi module 1023, the Bluetooth module 1025, the GNSS module 1027, or the NFC module 1028 may be one integrated chip. (IC) or in an IC package.
  • the RF module 1029 may transmit / receive, for example, a communication signal (eg, an RF signal).
  • the RF module 1029 may include, for example, a transceiver, a power amp module (PAM), a frequency filter, a low noise amplifier (LNA), an antenna, or the like.
  • PAM power amp module
  • LNA low noise amplifier
  • At least one of the cellular module 1021, the WiFi module 1023, the Bluetooth module 1025, the GNSS module 1027, or the NFC module 1028 may transmit and receive an RF signal through a separate RF module.
  • Subscriber identification module 1024 may include, for example, a card or embedded SIM that includes a subscriber identification module, and may include unique identification information (such as an integrated circuit card identifier (ICCID)) or subscriber information (such as IMSI). (international mobile subscriber identity)).
  • ICCID integrated circuit card identifier
  • IMSI international mobile subscriber identity
  • the memory 1030 may include, for example, an internal memory 1032 or an external memory 1034.
  • the internal memory 1032 may be, for example, volatile memory (for example, DRAM, SRAM, or SDRAM), nonvolatile memory (for example, one time programmable ROM (OTPROM), PROM, EPROM, EEPROM, mask ROM, flash ROM). It may include at least one of a flash memory, a hard drive, or a solid state drive (SSD)
  • the external memory 1034 may be a flash drive, for example, a compact flash (CF), a secure digital (SD). ), Micro-SD, Mini-SD, extreme digital (xD), multi-media card (MMC) or memory stick, etc.
  • the external memory 1034 may be functionally connected to the electronic device 1001 through various interfaces. Or physically connected.
  • the sensor module 1040 may measure a physical quantity or detect an operation state of the electronic device 1001, and may convert the measured or detected information into an electrical signal.
  • the sensor module 1040 includes, for example, a gesture sensor 1040A, a gyro sensor 1040B, an air pressure sensor 1040C, a magnetic sensor 1040D, an acceleration sensor 1040E, a grip sensor 1040F, and a proximity sensor 1040G), color sensor 1040H (e.g., red (green, blue) sensor), biometric sensor 1040I, temperature / humidity sensor 1040J, light sensor (1040K), or UV (ultra violet) ) May include at least one of the sensors 1040M.
  • a gesture sensor 1040A e.g., a gyro sensor 1040B, an air pressure sensor 1040C, a magnetic sensor 1040D, an acceleration sensor 1040E, a grip sensor 1040F, and a proximity sensor 1040G
  • color sensor 1040H e.g., red (green, blue)
  • the sensor module 1040 may include, for example, an e-nose sensor, an electromyography (EMG) sensor, an electrocardiogram (EEG) sensor, an electrocardiogram (ECG) sensor, Infrared (IR) sensors, iris sensors and / or fingerprint sensors.
  • the sensor module 1040 may further include a control circuit for controlling at least one or more sensors belonging therein.
  • the electronic device 1001 further includes a processor configured to control the sensor module 1040 as part of or separately from the processor 1010, while the processor 1010 is in a sleep state, The sensor module 1040 may be controlled.
  • the input device 1050 may include, for example, a touch panel 1052, a (digital) pen sensor 1054, a key 1056, or an ultrasonic input device 1058.
  • the touch panel 1052 may use, for example, at least one of capacitive, resistive, infrared, or ultrasonic methods.
  • the touch panel 1052 may further include a control circuit.
  • the touch panel 1052 may further include a tactile layer to provide a tactile response to the user.
  • the (digital) pen sensor 1054 may be, for example, part of a touch panel or may include a separate recognition sheet.
  • the key 1056 may include, for example, a physical button, an optical key, or a keypad.
  • the ultrasonic input device 1058 may detect ultrasonic waves generated by an input tool through a microphone (for example, the microphone 1088) and check data corresponding to the detected ultrasonic waves.
  • Display 1060 (e.g., display 50 of FIG. 1, display 210 of FIG. 2, display 960 of FIG. 9) includes panel 1062, hologram device 1064, projector 1066, and / Or a control circuit for controlling them.
  • the panel 1062 may be implemented to be, for example, flexible, transparent, or wearable.
  • the panel 1062 may be configured with the touch panel 1052 and one or more modules.
  • panel 1062 may include a pressure sensor (or force sensor) capable of measuring the strength of the pressure on the user's touch.
  • the pressure sensor may be integrated with the touch panel 1052 or may be implemented with one or more sensors separate from the touch panel 1052.
  • the hologram device 1064 may show a stereoscopic image in the air by using interference of light.
  • the projector 1066 may display an image by projecting light onto a screen.
  • the screen may be located inside or outside the electronic device 1001.
  • the interface 1070 may include, for example, an HDMI 1072, a USB 1074, an optical interface 1076, or a D-subminiature 1078.
  • the interface 1070 may be included in, for example, the communication interface 970 shown in FIG. 9. Additionally or alternatively, the interface 1070 may include, for example, a mobile high-definition link (MHL) interface, an SD card / multi-media card (MMC) interface, or an infrared data association (IrDA) compliant interface. have.
  • MHL mobile high-definition link
  • MMC Secure Digital Card
  • IrDA infrared data association
  • the audio module 1080 may bidirectionally convert, for example, a sound and an electrical signal. At least some components of the audio module 1080 may be included in, for example, the input / output interface 945 illustrated in FIG. 9.
  • the audio module 1080 may process sound information input or output through, for example, a speaker 1082, a receiver 1084, an earphone 1086, a microphone 1088, or the like.
  • the camera module 1091 may be, for example, a device capable of capturing still images and moving images. According to an embodiment, the camera module 1091 may include one or more image sensors (eg, a front sensor or a rear sensor), a lens, and an image signal processor (ISP). Or flash (eg, LED or xenon lamp, etc.).
  • ISP image signal processor
  • the power management module 1095 may manage power of the electronic device 1001, for example.
  • the power management module 1095 may include a power management integrated circuit (PMIC), a charger IC, or a battery or fuel gauge.
  • the PMIC may have a wired and / or wireless charging scheme.
  • the wireless charging method may include, for example, a magnetic resonance method, a magnetic induction method, an electromagnetic wave method, or the like, and may further include additional circuits for wireless charging, such as a coil loop, a resonance circuit, a rectifier, and the like. have.
  • the battery gauge may measure, for example, the remaining amount of the battery 1096, the voltage, the current, or the temperature during charging.
  • the battery 1096 may include, for example, a rechargeable cell and / or a solar cell.
  • the indicator 1097 may display a specific state of the electronic device 1001 or a portion thereof (for example, the processor 1010), for example, a booting state, a message state, or a charging state.
  • the motor 1098 may convert electrical signals into mechanical vibrations, and may generate vibrations or haptic effects.
  • the electronic device 1001 may be, for example, a mobile TV supporting device capable of processing media data according to a standard such as digital multimedia broadcasting (DMB), digital video broadcasting (DVB), or mediaFlo TM . : GPU).
  • DMB digital multimedia broadcasting
  • DVD digital video broadcasting
  • mediaFlo TM . : GPU mediaFlo TM .
  • Each of the components described in this document may be composed of one or more components, and the names of the corresponding components may vary depending on the type of electronic device.
  • the electronic device eg, the electronic device 1001 may include some components, omit additional components, or combine some of the components to form a single object. It is possible to perform the same function of the previous corresponding
  • the program module 1110 (eg, the program 940) is an operating system and / or operating system that controls resources related to the electronic device (eg, the electronic device 901, the electronic device 100). It may include various applications (eg, an application program 947) running on the screen.
  • the operating system may include, for example, Android TM , iOS TM , Windows TM , Symbian TM , Tizen TM , or Bada TM .
  • the program module 1110 may include a kernel 1120 (eg, kernel 941), middleware 1130 (eg, middleware 943), and API 1160 (eg, API 945).
  • an application 1170 eg, an application program 947.
  • At least a portion of the program module 1110 may be preloaded on an electronic device or an external electronic device (eg, an electronic device (eg, 902, 904, server 906, etc.).
  • the kernel 1120 may include, for example, a system resource manager 1121 and / or a device driver 1123.
  • the system resource manager 1121 may perform control, allocation, or retrieval of system resources.
  • the system resource manager 1121 may include a process manager, a memory manager, or a file system manager.
  • the device driver 1123 may include, for example, a display driver, a camera driver, a Bluetooth driver, a shared memory driver, a USB driver, a keypad driver, a WiFi driver, an audio driver, or an inter-process communication (IPC) driver.
  • the middleware 1130 may provide various functions through the API 1160, for example, to provide functions commonly required by the application 1170, or to allow the application 1170 to use limited system resources inside the electronic device.
  • the middleware 1130 may include a runtime library 1135, an application manager 1141, a window manager 1142, a multimedia manager 1143, a resource manager 1144, a power manager 1145, and a database manager ( 1146, a package manager 1147, a connectivity manager 1148, a notification manager 1149, a location manager 1150, a graphic manager 1151, or a security manager 1152.
  • the runtime library 1135 may include, for example, a library module that the compiler uses to add new functionality through the programming language while the application 1170 is running.
  • the runtime library 1135 may perform input / output management, memory management, or arithmetic function processing.
  • the application manager 1141 may manage, for example, the life cycle of the application 1170.
  • the window manager 1142 may manage GUI resources used on the screen.
  • the multimedia manager 1143 may identify a format required for playing the media files and may encode or decode the media file using a codec suitable for the format.
  • the resource manager 1144 may manage space of source code or memory of the application 1170.
  • the power manager 1145 may manage, for example, the capacity or power of the battery and provide power information necessary for the operation of the electronic device.
  • the power manager 1145 may interwork with a basic input / output system (BIOS).
  • the database manager 1146 may create, retrieve, or change a database to be used, for example, by the application 1170.
  • the package manager 1147 may manage installation or update of an application distributed in the form of a package file.
  • the connectivity manager 1148 may manage, for example, a wireless connection.
  • the notification manager 1149 may provide the user with events such as, for example, an arrival message, an appointment, a proximity notification, and the like.
  • the location manager 1150 may manage location information of the electronic device, for example.
  • the graphic manager 1151 may manage, for example, graphic effects to be provided to the user or a user interface related thereto.
  • the security manager 1152 may provide system security or user authentication, for example.
  • the middleware 1130 may include a telephony manager for managing a voice or video call function of the electronic device or a middleware module capable of forming a combination of functions of the above-described components. .
  • the middleware 1130 may provide a module specialized for each type of operating system.
  • the middleware 1130 may dynamically delete some of the existing components or add new components.
  • the API 1160 is a set of API programming functions, for example, and may be provided in different configurations depending on the operating system. For example, in the case of Android or iOS, one API set may be provided for each platform, and in Tizen, two or more API sets may be provided for each platform.
  • the application 1170 is, for example, a home 1171, a dialer 1172, an SMS / MMS 1173, an instant message (IM) 1174, a browser 1175, a camera 1176, and an alarm 1177. , Contact 1178, voice dial 179, email 1180, calendar 1181, media player 1182, album 1183, watch 1184, health care (e.g., to measure exercise or blood sugar, etc.) Or an application for providing environmental information (eg, barometric pressure, humidity, or temperature information).
  • the application 1170 may include an information exchange application capable of supporting information exchange between the electronic device and the external electronic device.
  • the information exchange application may include, for example, a notification relay application for delivering specific information to the external electronic device, or a device management application for managing the external electronic device.
  • the notification delivery application may deliver notification information generated by another application of the electronic device to the external electronic device, or receive notification information from the external electronic device and provide the notification information to the user.
  • the device management application may be, for example, the ability of an external electronic device to communicate with the electronic device (e.g. turn-on / turn-off of the external electronic device itself (or some component) or the brightness (or resolution) of the display). Control), or install, delete, or update an application running on the external electronic device.
  • the application 1170 may include an application (eg, a health care application of a mobile medical device) designated according to an attribute of the external electronic device.
  • the application 1170 may include an application received from an external electronic device.
  • At least a portion of the program module 1110 may be software, firmware, hardware (eg, the processor 1010 of FIG. 10, the processor 920 of FIG. 9, the processor 220 of FIG. 2), or a combination of at least two or more thereof. It may be implemented (eg, executed) and may include modules, programs, routines, instruction sets, or processes to perform one or more functions.
  • module includes a unit composed of hardware, software, or firmware, and may be used interchangeably with terms such as logic, logic blocks, components, or circuits.
  • the module may be an integrally formed part or a minimum unit or part of performing one or more functions.
  • Modules may be implemented mechanically or electronically, for example, application-specific integrated circuit (ASIC) chips, field-programmable gate arrays (FPGAs), or known or future developments that perform certain operations. It can include a programmable logic device.
  • ASIC application-specific integrated circuit
  • FPGAs field-programmable gate arrays
  • At least a portion of an apparatus (eg, modules or functions thereof) or method (eg, operations) according to various embodiments may be stored in a computer-readable storage medium (eg, memory 930) in the form of a program module.
  • Computer-readable recording media include hard disks, floppy disks, magnetic media (e.g. magnetic tape), optical recording media (e.g. CD-ROM, DVD, magnetic-optical media (e.g. floppy disks), internal memory, etc.
  • Instructions may include code generated by a compiler or code executable by an interpreter Modules or program modules according to various embodiments may include at least one or more of the above-described components.
  • operations performed by a module, a program module, or another component may be executed sequentially, in parallel, repeatedly, or heuristically, or at least, or may include other components. Some operations may be executed in a different order, omitted, or other operations may be added.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Physics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

본 개시의 다양한 실시예들은 전자 장치 및 그 제어 방법에 관한 것이다. 본 개시의 실시예에 따른 전자 장치는 디스플레이, 통신 모듈 및 상기 디스플레이 및 상기 통신 모듈과 전기적으로 연결된 프로세서를 포함하고, 상기 프로세서는, 상기 디스플레이에 표시된 이미지에서 검출한 객체를 인식하여 상기 객체에 포함 되어 있는 적어도 하나의 구성 요소를 구분하여 상기 디스플레이에 표시되도록 제어하고, 상기 통신 모듈을 이용하여 상기 검출된 객체와 유사한 이미지를 검색하여 상기 디스플레이에 표시되도록 제어할 수 있다.

Description

전자 장치 및 전자 장치 제어 방법
본 개시의 다양한 실시예들은 이미지를 이용하여 이미지를 검색하는 방법으로서, 특히 이미지를 변형한 후 변형된 이미지와 유사한 이미지를 검색하는 전자 장치 및 그 제어 방법에 관한 것이다.
스마트 폰과 같은 전자 장치에서 제공할 수 있는 기능이 점차 다양해 지면서 사용자는 전자 장치를 이용하여 동영상 파일 재생, 사진이나 동영상의 촬영 게임 등과 같은 다양한 기능을 수행할 수 있다. 또한, 사용자는 전자 장치를 이용하여 웹 서버에 접속함으로써 검색 서비스를 제공받을 수 있다. 예를 들어, 사용자가 검색어와 검색 조건을 입력하면 웹 서버는 검색 엔진을 이용하여 검색어와 검색 조건에 맞는 검색 결과를 사용자에게 제공할 수 있다.
검색 엔진은, 예를 들면, 단어 별 검색 엔진, 주제 별 검색 엔진, 메타 검색 엔진 등을 포함할 수 있다. 검색 결과는 텍스트 또는 이미지로 제공될 수 있다.
사용자가 검색 서비스를 이용할 때, 사용자는 검색 결과를 찾기 위한 검색어가 잘 생각나지 않을 수 있다. 특히 검색 결과로서 이미지를 찾는 경우, 사용자는 이미지와 관련된 검색어를 찾는 것에 어려움을 느낄 수 있다.
특히나, 온라인 쇼핑몰에서 원하는 물건을 찾을 때 동일한 이미지라도 부분적으로 다른 요소를 가질 수 있어 사용자는 이미지로 검색하는 것에도 어려움을 느낄 수 있다.
따라서 본 개시의 다양한 실시예들은 이미지 검색 시 사용자가 이미지의 일 부분을 변형하거나, 복수의 이미지에 대하여 검색 조건을 설정하여 사용자가 쉽고 빠르게 원하는 이미지를 찾는 방법을 제공할 수 있다.
일 실시예에 따른 전자 장치는, 디스플레이, 통신 모듈, 및 상기 디스플레이 및 상기 통신 모듈과 전기적으로 연결된 프로세서를 포함하고, 상기 프로세서는, 상기 디스플레이에 표시된 이미지에서 검출한 객체를 인식하여 상기 객체에 포함 되어 있는 적어도 하나의 구성 요소를 구분하고, 사용자 입력에 기반하여 상기 구성 요소의 속성을 변경하고, 상기 통신 모듈을 이용하여 상기 속성이 변경된 이미지를 타 전자 장치로 전송하고, 상기 속성이 변경된 객체를 포함하는 이미지와 유사한 이미지로 검색된 이미지를 수신하여 상기 디스플레이에 표시되도록 제어할 수 있다.
일 실시예에 따른 디스플레이, 및 통신 모듈을 포함하는 전자 장치 제어 방법은, 상기 디스플레이에 이미지를 표시하는 동작, 상기 이미지에서 검출한 객체를 인식하여 상기 객체에 포함되어 있는 적어도 하나의 구성 요소를 구분하는 동작, 사용자 입력에 기반하여 상기 구성 요소의 속성을 변경하는 동작, 및 상기 통신 모듈을 이용하여 상기 속성이 변경된 이미지를 타 전자 장치로 전송하고, 상기 속성이 변경된 객체를 포함하는 이미지와 유사한 이미지로 검색된 이미지를 수신하여 상기 디스플레이에 표시하는 동작을 포함할 수 있다.
상술한 바와 같이, 본 개시의 다양한 실시예에 따라 사용자는 전자 장치에 표시된 이미지를 변형하여 원하는 이미지를 빠르게 검색할 수 있다.
또한 사용자는 복수의 이미지에서 일부 구성 요소를 선택하고 검색 조건을 선택하여 원하는 이미지를 검색할 수 있다.
그 외에 본 개시의 일 실시예로 인해 얻을 수 있거나 예측되는 효과에 대하여는 본 개시의 실시예에 대한 상세한 설명에서 직접적 또는 간접적으로 개시하도록 한다. 다시 말해, 본 개시의 일 실시예에 따라 예측되는 다양한 효과에 대해서는 후술될 상세한 설명 내에서 개시될 것이다.
도 1a 내지 도 1c는 일 실시예에 따른 전자 장치가 이미지에 포함된 객체를 구성 요소 별로 구분하여 인지하고, 객체와 유사한 이미지를 검색하는 상황을 설명하기 위한 도면들이다.
도 2는 일 실시예에 따른 전자 장치의 개략적인 블록도 이다.
도 3은 일 실시예에 따른 전자 장치에서 객체의 형태를 변경하여 유사한 이미지를 검색하는 상황을 설명하기 위한 도면들이다.
도 4는 일 실시예에 따른 전자 장치에서 객체의 패턴을 변경하여 유사한 이미지를 검색하는 상황을 설명하기 위한 도면들이다.
도 5a 및 도 5b는 일 실시예에 따른 전자 장치에서 검색 조건을 설정하는 상황을 설명하기 위한 도면들이다.
도 6는 일 실시예에 따른 전자 장치에서 검색 조건을 설정하는 다른 상황을 설명하기 위한 도면들이다.
도 7은 일 실시예에 따른 전자 장치에서 검색 조건을 변경하는 상황을 설명하기 위한 도면들이다.
도 8a는 일 실시예에 따른 전자 장치가 디스플레이에 표시된 이미지에서 객체를 인지하여 구성 요소를 구분하여 표시하고, 객체의 속성을 변경하는 사용자 신호 입력에 기반하여 변경된 이미지와 유사한 이미지를 검출하는 상황을 설명하기 위한 흐름도이다.
도 8b는 일 실시예에 따른 전자 장치가 사용자의 입력 신호에 기반하여 표시된 이미지에 포함된 객체의 구성 요소를 변경하는 상황을 설명하기 위한 흐름도이다.
도 9는 다양한 실시예에서의 네트워크 환경 내의 전자 장치를 설명하는 도면이다.
도 10은 다양한 실시예에 따른 전자 장치의 블록도 이다.
도 11은 다양한 실시예에 따른 프로그램 모듈의 블록도이다.
이하, 본 문서의 다양한 실시예들이 첨부된 도면을 참조하여 기재된다. 실시예 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 본 문서에서, "A 또는 B" 또는 "A 및/또는 B 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제 1," "제 2," "첫째," 또는 "둘째,"등의 표현들은 해당 구성요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다.
본 문서에서, "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, 하드웨어적 또는 소프트웨어적으로 "~에 적합한," "~하는 능력을 가지는," "~하도록 변경된," "~하도록 만들어진," "~를 할 수 있는," 또는 "~하도록 설계된"과 상호 호환적으로(interchangeably) 사용될 수 있다. 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서의 다양한 실시예들에 따른 전자 장치는, 예를 들면, 스마트폰, 태블릿 PC, 이동 전화기, 영상 전화기, 전자책 리더기, 데스크탑 PC, 랩탑 PC, 넷북 컴퓨터, 워크스테이션, 서버, PDA, PMP(portable multimedia player), MP3 플레이어, 의료기기, 카메라, 또는 웨어러블 장치 중 적어도 하나를 포함할 수 있다. 웨어러블 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD)), 직물 또는 의류 일체형(예: 전자 의복), 신체 부착형(예: 스킨 패드 또는 문신), 또는 생체 이식형 회로 중 적어도 하나를 포함할 수 있다. 어떤 실시예들에서, 전자 장치는, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 홈 오토매이션 컨트롤 패널, 보안 컨트롤 패널, 미디어 박스(예: 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(예: XboxTM, PlayStationTM), 전자 사전, 전자 키, 캠코더, 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
도 1a 내지 1c는 일 실시예에 따른 전자 장치가 이미지에 포함된 객체를 구성 요소 별로 구분하여 인지하고, 객체와 유사한 이미지를 검색하는 상황을 설명하기 위한 도면들이다.
도 1a를 참조하면, 전자 장치(100)는, 예를 들면, 상술한 바와 같이, 스마트폰, 태블릿 PC, 데스크탑 PC, 카메라, 또는 웨어러블 장치와 같이 디스플레이를 포함하는 전자 장치(100) 중 적어도 하나를 포함할 수 있다.
도 1a의 (a)를 참조하면, 전자 장치(100)는 사용자의 입력에 기반하여 이미지를 이용한 검색 어플리케이션을 실행하고, 제 1 사용자 인터페이스(10)를 디스플레이(50)에 표시할 수 있다. 제 1 사용자 인터페이스(10)는, 예를 들면, 검색하고자 하는 이미지, 검색된 이미지, 및 검색을 위한 아이콘들을 포함할 수 있다. 이미지를 이용한 검색 어플리케이션은, 예를 들면, 온라인 쇼핑몰에서 구매할 상품을 찾기 위한 검색 어플리케이션일 수 있다. 디스플레이(50)는 터치 스크린을 포함할 수 있으면, 전자 펜, 사용자의 신체의 일부를 이용한 터치, 제스처, 근접, 또는 호버링 입력을 수신할 수 있다.
전자 장치(100)는, 예를 들면, 이미지를 이용한 검색 어플리케이션 실행 시 카메라 기능을 활성화 시킬 수 있다. 전자 장치(100)는 카메라 모듈(미도시)를 통해 입력되는 영상에 기반하여 생성된 이미지(110)를 디스플레이(50)에 표시할 수 있다.
다양한 실시예에 따르면, 전자 장치(100)는 이미지를 이용한 검색 어플리케이션 실행 시 갤러리 어플리케이션을 활성화 시킬 수 있다. 전자 장치(100)는 갤러리 어플리케이션에서 선택된 이미지(110)를 디스플레이(50)에 표시할 수 있다.
일 실시예에 따른 전자 장치(100)는 상기 디스플레이(50)에 표시된 이미지(110)에서 객체를 인식할 수 있다. 예를 들어, 전자 장치(100)는 이미지(110)에 포함된 가방(112)을 인식할 수 있다. 전자 장치(100)는, 예를 들면, 표시되는 이미지(110)를 에지 성분을 강조하는 이미지로 변형하여 이미지(110)에 포함된 가방(112)의 형상을 검출할 수 있다.
전자 장치(100)는 검출된 객체의 형상을 데이터 베이스에 저장된 다수의 이미지들과 비교할 수 있다. 전자 장치(100)는, 예를 들면, 전자 장치(100)의 내부에 마련된 메모리(미도시)에 저장된 데이터 베이스에 저장 된 다수의 이미지들과 검출한 객체의 형상을 비교할 수 있다. 또한 전자 장치(100)는 통신 모듈(미도시)을 이용하여 외부의 타 전자 장치로 표시된 이미지를 전송하고, 타 전자 장치로부터 타 전자 장치의 데이터 베이스에 저장 된 다수의 이미지들과 이미지에 포함된 객체의 형상을 비교한 결과를 수신할 수 있다.
전자 장치(100)는 검출된 객체와 유사한 형상과 색상을 가지는 이미지를 디스플레이(50)에 표시할 수 있다. 예를 들어, 전자 장치(100)는 이미지(110)에서 검출된 가방(112)과 유사한 형상과 색상을 가진 가방 이미지들(120)을 디스플레이(50)에 표시할 수 있다. 도 1a의 (a)를 참조하면, 전자 장치(100)는 디스플레이(50)의 하단에 검색된 가방 이미지들(120)을 표시할 수 있으나, 검색된 가방 이미지들(120)이 표시되는 위치는 이에 한정되지는 않는다.
일 실시예에 따른, 전자 장치(100)는 검색된 가방 이미지들(120)이 기 설정된 개수 이상인 경우, 일부 가방 이미지들만을 표시하고, 나머지 가방 이미지들은, 예를 들면, 사용자의 터치 앤 드래그 입력에 기반하여 순차적으로 디스플레이(50)에 표시할 수 있다.
일 실시예에 따르면, 전자 장치(100)는 인식한 결과에 기반하여 검색 카테고리를 설정할 수 있다. 예를 들어, 전자 장치(100)가 이미지(110)에서 가방(112)을 인식하면, 전자 장치(100)는 "가방"을 검색 카테고리로 정할 수 있다. 추후, 전자 장치(100)는 반복 되는 검색에 있어서, "가방"과 관련 있는 이미지만을 검색하고 표시할 수 있다.
다양한 실시예에 따르면, 사용자는 전자 장치(100)의 검색 카테고리를 직접 설정할 수 있다. 예를 들어, 사용자는 이미지를 이용한 검색 어플리케이션을 실행한 후 검색 카테고리를 입력할 수 있다. 예를 들어, 사용자는 일반 제품(product), 가전 제품(electronics), 패션 제품(style) 등으로 검색 카테고리를 설정할 수 있다. 사용자가 검색 카테고리를 설정한 경우, 전자 장치(100)는 검색 속도를 향상시킬 수 있고, 검색의 정확도를 향상시킬 수 있다.
일 실시예에 따르면, 전자 장치(100)는 검색 카테고리에 따라 유사한 이미지를 검색하는 방법을 상이하게 설정할 수 있다. 예를 들어, 전자 장치(100)는 전자 장치(100)가 이미지에서 검출한 결과를 이용하여 생성한 카테고리 또는 사용자가 입력한 카테고리에 따라 유사한 이미지를 검색하는 방법을 상이하게 설정할 수 있다.
예를 들어, 전자 장치(100)는 일반 제품(product)에 대하여는 이미지 매칭을 위한 ORB(Oriented FAST and Rotated BRIEF)알고리즘을 사용하여 유사한 이미지를 검색할 수 있다. 또한, 전자 장치(100)는 가전 제품(electronics)과 패션 제품(style)에 대하여는 딥러닝(Deep-learning) 방식의 하나인 CNN(Convolutional Neural Network) 방식을 이용하여 유사한 이미지를 검색할 수 있다.
도 1a의 (a) 및 도 1a의 (b)를 참조하면, 전자 장치(100)는 디스플레이(50)에 표시된 이미지에서 객체를 검출하고, 검출된 객체와 유사한 객체를 포함하는 이미지를 검색하여 표시하는 것과 동시에 또는 순차적으로 검출된 객체에 포함된 적어도 하나 이상의 구성 요소를 구분 할 수 있다. 구성 요소는, 예를 들면, 객체를 구성하고 있는 각각의 부분일 수 있다. 구성 요소는 제 1 구성 요소, 제 2 구성 요소를 포함할 수 있다. 예를 들어, 객체가 가방인 경우, 제 1 구성 요소는 가방의 몸체(112b), 제 2 구성 요소는 가방의 손잡이(112a)에 대응할 수 있다. 그러나 이에 한정되지는 않는다.
전자 장치(100)는 디스플레이(50)에 표시된 이미지와 유사한 이미지를 검색하는 방법과 유사한 방법을 이용하여 검출한 객체에 포함된 구성요소들을 구분할 수 있다. 예를 들어, 전자 장치(100)는 디스플레이(50)에 표시된 이미지를 에지를 강조하는 이미지로 변환하고, 내부에 마련된 메모리(미도시)에 저장된 데이터 베이스 또는 외부의 타 전자 장치의 데이터 베이스를 이용하여 검출한 객체에 포함된 구성 요소들을 구분할 수 있다.
다양한 실시예에 따르면, 사용자는 디스플레이(50)에 표시된 객체에 포함된 구성 요소들을 직접 입력할 수 있다. 예를 들어, 전자 장치(100)가 터치를 지원하는 디스플레이를 포함하는 경우, 사용자는 디스플레이(50)에 표시된 객체의 구성 요소를 터치하거나, 터치 앤 드래그 방식을 이용하여 객체의 구성 요소가 구분되도록 폐곡선을 형성하여 구성 요소를 선택할 수 있다.
전자 장치(100)는 구분된 구성 요소를 디스플레이(50)에 표시할 수 있다. 도 1a의 (b)를 참조하면, 전자 장치(100)는 검출된 가방(112)에 대하여 손잡이(112a)와 몸체(112b)를 구분하는 구분자(130)(예: 점선 박스) 등을 표시할 수 있다.
도 1a의 (b) 내지 도 1a의 (c)를 참조하면, 사용자는 객체에 포함된 구성 요소들의 형태, 색상, 크기, 패턴 등을 변경한 후 유사한 이미지를 검색할 수 있다. 예를 들어, 전자 장치(100)는 "설정"(140) 아이콘(또는 메뉴)을 선택하는 사용자 입력에 기반하여 형태, 색상, 패턴, 크기 등 변경이 가능한 속성들을 표시하는 제 1 항목(150)을 표시할 수 있다.
사용자는 디스플레이(50)에 표시된 제 1 항목(150)에 포함된 속성 중에서 변경하기를 원하는 속성을 선택할 수 있다. 또한 사용자는 디스플레이(50)에 표시된 객체에 포함된 구성 요소들 중에서 변경하기를 원하는 구성 요소를 선택할 수 있다.
도 1b의 (a)를 참조하면, 사용자는 "크기" 속성을 선택하고, 가방(112)의 구성 요소 중 몸체(112b)를 선택하여 크기를 변경할 수 있다. 예를 들어, 사용자는 몸체(112b)의 상단과 하단을 각각 터치하여 서로 반대 방향으로 드래그하여 몸체(112b)의 상하 방향 길이를 늘릴 수 있다.
일 실시예에 따르면, 전자 장치(100)는 증강 현실(Augmented Reality, AR) 기술을 이용하여 변경된 속성에 대한 부분을 디스플레이(50)에 표시할 수 있다. 증강 현실은, 예를 들면, 현실의 이미지나 배경에 3차원 가상 이미지를 겹쳐서 하나의 영상으로 보여주는 기술일 수 있다.
일 실시예에 따른 전자 장치(100)는 증강 현실 기능을 이용하기 위해서 지리, 위치 정보를 송수신 하는 GPS(Global Positioning System) 장치 및 전자 장치(100)의 기울기, 자세, 방향 등을 감지하는 중력 센서, 자이로 센서, 또는 가속도 센서를 이용하여 전자 장치(100)의 위치 및 자세에 대한 정보를 획득할 수 있다.
또한, 전자 장치(100)는 지리, 또는 위치에 따른 건물에 대한 정보, 또는 제품에 대하여 상세히 저장된 정보 시스템과 네트워크를 설정하여, 입력되는 이미지에 대한 상세 정보를 수신하고, 증강 현실 어플리케이션을 이용하여 현재 입력되고 있는 이미지와 상세 정보를 디스플레이(50)에 함께 표시할 수 있다.
도 1b의 (b)를 참조하면, 전자 장치(100)는 몸체(112b)의 크기가 변경된 가방(112')을 디스플레이(50)에 표시할 수 있다. 어떤 실시예에 따르면, 전자 장치(100)는 상술한 증강 현실 기술을 이용하여 변경된 속성에 대한 정보를 몸체(112b)의 크기가 변경된 가방(112')에 중첩하여 표시할 수 있다.
도 1b의 (b)를 참조하면, 전자 장치(100)는 몸체가 늘어난 가방(112')과 유사한 이미지들(120')을 검색하여 디스플레이(50)에 표시할 수 있다. 예를 들어, 전자 장치(100)는 내부 및 외부의 데이터 베이스를 이용하여 디스플레이(50)에 표시된 이미지와 유사한 이미지를 검색하여 유사한 이미지들(120')를 디스플레이(50)의 하단에 표시할 수 있다.
일 실시예에 따른 전자 장치(100)는 도 1a의 (a)에서 상술한 바와 같이 "가방"이라는 검색 카테고리를 설정 하였으므로, 몸체(112b)가 늘어난 가방(112')에 대한 검색은 상술한 "가방" 카테고리에 한정하여 검색을 할 수 있다. 이로 인해, 이미지(110)에 포함된 가방(112)의 구성 요소 중 하나를 변경하여 검색하면, 사용자의 의도가 반영되어, 전자 장치(100)는 최초에 가방과 유사한 이미지를 검색한 결과보다 정확도가 높고, 유사도가 높은 검색을 수행할 수 있다.
도 1c는 일 실시예에 따른 전자 장치에서 객체의 크기를 변경하여 유사한 이미지를 검색하는 다른 실시예를 설명하기 위한 도면들이다.
도 1c의 (a)를 참조하면, 전자 장치(100)는 사용자의 입력에 기반하여 이미지를 이용한 검색 어플리케이션을 실행하고, 제 1 사용자 인터페이스(10)를 디스플레이(50)에 표시할 수 있다. 이미지를 이용한 검색 어플리케이션은, 예를 들면, 온라인 쇼핑몰에서 구매할 상품을 찾기 위한 검색 어플리케이션일 수 있다.
일 실시예에 따른 전자 장치(100)는 이미지를 이용한 검색 어플리케이션 실행 시 카메라 기능을 활성화 시키고, 입력되는 영상에 기반하여 생성된 이미지(180)를 디스플레이(50)에 표시할 수 있다.
일 실시예에 따른 전자 장치(100)는 상기 디스플레이(50)에 표시된 이미지(180)에서 객체를 인식할 수 있다. 예를 들어, 전자 장치(100)는 이미지(180)에 포함된 TV(182)를 인식할 수 있다. 전자 장치(100)는, 예를 들면, 표시되는 이미지(180)를 에지 성분을 강조하는 이미지로 변형하여 이미지(180)에 포함된 TV(182)의 형상을 검출할 수 있다.
전자 장치(100)는, 예를 들면, 전자 장치(100)의 내부에 마련된 메모리(미도시)에 저장된 데이터 베이스에 저장 된 다수의 이미지들과 검출한 객체의 형상을 비교할 수 있다. 또한 전자 장치(100)는 통신 모듈(미도시)을 이용하여 외부의 타 전자 장치의 데이터 베이스에 저장 된 다수의 이미지들과 검출한 객체의 형상을 비교할 수 있다.
일 실시예에 따른 전자 장치(100)는 이미지(180)에서 검출된 TV(182)와 유사한 형상과 색상을 가진 TV 이미지들(160)을 디스플레이(50)에 표시할 수 있다. 도 1c의 (a)를 참조하면, 전자 장치(100)는 디스플레이(50)의 하단에 검색된 TV 이미지들(160)을 표시할 수 있다.
일 실시예에 따르면, 전자 장치(100)는 증강 현실(Augmented Reality, AR) 기술을 이용하여 상기 검출된 TV(182)와 관련된 정보를 디스플레이(50)에 표시할 수 있다. 예를 들면, 전자 장치(100)는 TV의 크기, 해상도 등의 정보를 TV(182) 위에 중첩하여 표시할 수 있다.
도 1c의 (a) 및 도 1c의 (b)를 참조하면, 전자 장치(100)는 디스플레이(50)에 표시된 이미지(180)에서 객체를 검출하고, 검출된 객체와 유시한 객체를 포함하는 이미지를 검색하여 표시하는 것과 동시에 또는 순차적으로 검출된 객체에 포함된 구성 요소들을 구분 할 수 있다.
전자 장치(100)는 구분된 구성 요소를 디스플레이(50)에 표시할 수 있다. 도 1c의 (b)를 참조하면, 전자 장치(100)는 검출된 TV(182)를 주변과 구분하는 구분자(170)를 표시할 수 있다.
도 1c의 (a) 내지 도 1c의 (b)를 참조하면, 사용자는 객체의 구성 요소들의 형태, 색상, 크기 등을 변경한 후 유사한 이미지를 검색할 수 있다. 예를 들어, 전자 장치(100)는 "설정"(140) 아이콘을 선택하는 사용자 입력에 기반하여 형태, 색상, 패턴, 크기 등 변경이 가능한 속성들을 표시하는 제 1 항목(150)을 표시할 수 있다.
사용자는 표시된 제 1 항목(150)에 포함된 속성 중에서 변경하기를 원하는 속성을 선택할 수 있다. 또한 사용자는 디스플레이(50)에 표시된 객체에 포함된 구성 요소들 중에서 변경하기를 원하는 구성 요소를 선택할 수 있다.
도 1c의 (b) 및 도 1c의 (c)를 참조하면, 사용자는 "크기" 속성을 선택하고, 이미지(180)에 포함된 TV(182)의 크기를 변경할 수 있다. 예를 들어, 사용자는 디스플레이(50)에 표시된 TV(182)의 일측과 타측을 터치 하고 서로 반대 방향으로 드래그하여 TV(182)의 크기를 변경할 수 있다.
일 실시예에 따르면, 전자 장치(100)는 증강 현실(Augmented Reality, AR) 기술을 이용하여 변경된 속성에 대한 부분을 디스플레이(50)에 표시할 수 있다. 예를 들어, 도 1c의 (d)를 참조하면, 전자 장치(100)는 크기가 변경된 TV(182')를 디스플레이(50)에 표시할 수 있다. 어떤 실시예에 따르면, 전자 장치(100)는 증강 현실 기술을 이용하여 크기가 변경된 TV(182')를 디스플레이(50)에 표시할 수 있다.
일 실시예에 따르면, 전자 장치(100)는 크기가 변경되는 비율에 기반하여 크기가 변경된 TV(182')의 정보를 검색할 수 있다. 예를 들어, 전자 장치(100)는 도 1c의 (a)에서 디스플레이(50)에 표시된 이미지(180)에 포함된 TV(182)의 크기와 도 1c의 (d)에서 디스플레이(50)에 표시된 이미지에 포함된 크기가 변경 된 TV(182')의 크기 차이를 확인할 수 있다.
예를 들어, 전자 장치(100)는 도 1c의 (a)에서 디스플레이(50)에 표시된 이미지(180)에 포함된 TV(182)의 디스플레이 크기가 138cm 라는 것을 확인할 수 있다. 이를 이용하여, 전자 장치(100)는 도 1c의 (d)에서 디스플레이(50)에 표시된 이미지에 포함된 크기가 변경 된 TV(182')는 디스플레이가 163cm라는 것을 도출(또는 유추, 예상)하고 이와 유사한 TV를 검색하여 디스플레이(50)에 표시할 수 있다. 예를 들어, 전자 장치(100)는 이미지(180)에 포함된 TV(182) 및 상기 크기가 변경 된 TV(182')의 대각선 길이들의 비를 이용하여 상기 크기가 변경 된 TV(182')의 디스플레이가 163cm라는 것을 도출할 수 있다.
도 1c의 (d)를 참조하면, 전자 장치(100)는 크기가 변경된 TV(182')와 유사한 이미지(예: 유사한 크기를 가지는 TV 이미지)들(160')을 검색하여 디스플레이(50)에 표시할 수 있다. 상술한 바와 같이, 전자 장치(100)는 내부 및 외부의 데이터 베이스를 이용하여 디스플레이(50)에 표시된 이미지와 유사한 이미지를 검색할 수 있다.
이와 같이, 전자 장치(100)는 이미지를 이용한 검색 어플리케이션을 이용하여 입력되는 이미지에 포함된 객체와 유사한 이미지를 검색할 수 있다. 또한 전자 장치(100)는 입력되는 이미지에 포함된 객체에 포함된 구성 요소들을 구분하고 각각의 구성 요소들을 변경할 수 있는 사용자 인터페이스를 제공하여 사용자는 용이하게 이미지를 변경하여 원하는 이미지를 검색할 수 있다.
특히나, 이미지를 이용한 검색 어플리케이션이 온라인 쇼핑몰에서 구매할 상품을 찾기 위한 검색 어플리케이션인 경우, 사용자는 촬영된 이미지 또는 현재 카메라 모듈을 통해 입력되는 이미지의 형태, 크기, 색상, 패턴 등의 속성 중 적어도 하나를 변형하면서 검색하고자 하는 제품을 용이하게 검색할 수 있다.
또한, 전자 장치(100)는 설정한 카테고리에 한정하여 계층적으로 추가 검색을 수행할 수 있어, 사용자가 상기와 같은 검색을 반복할수록 사용자가 원하는 제품을 검색할 확률은 높아질 수 있다.
도 2는 일 실시예에 따른 전자 장치의 개략적인 블록도 이다.
도 2를 참조하면, 일 실시예에 따른 전자 장치(200)(예: 전자 장치(100))는 디스플레이(210)(예: 도 1의 디스플레이(50)), 프로세서(220), 및 통신 모듈(230)을 포함할 수 있다. 그러나 전자 장치(200)는 도 2에 도시된 구성들 보다 많은 구성들을 가지거나, 또는 그 보다 적은 구성을 가지는 것으로 구현될 수 있다. 예를 들어, 전자 장치(200)는 입력 모듈(예: 물리 키, 근접 센서, 생체 센서 등) 또는 전원 공급부 등의 구성을 포함하여 구성될 수 있다.
디스플레이(210)는, 예를 들면, 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이, 유기 발광 다이오드(OLED) 디스플레이, 또는 마이크로 전자기계 시스템 (MEMS) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(210)는 도 1a의 디스플레이(50)를 포함할 수 있다. 디스플레이(210)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스쳐, 근접, 또는 호버링 입력을 수신할 수 있다.
프로세서(220)는 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 프로세서(220)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다.
일 실시예에 따른 프로세서(220)는 메모리(미도시)에 기 저장되어 있는 제 1 사용자 인터페이스를 디스플레이(210)에 표시되도록 제어할 수 있다. 그러나 이에 한정되지는 않는다. 예를 들어, 프로세서(220)는 통신 모듈(230)을 통해 외부의 타 전자 장치 또는 서버에 있는 사용자 인터페이스를 수신하여 디스플레이(210)에 표시되도록 제어할 수 있다.
통신 모듈(230)은, 예를 들면, 셀룰러 모듈, wifi 모듈, 블루투스 모듈, RF 모듈 등을 포함할 수 있다. 통신 모듈(230)은 프로세서(220)의 제어에 기반하여 외부의 타 전자 장치와 네트워크를 형성할 수 있다.
일 실시예에 따르면, 프로세서(220)는 제 1 사용자 인터페이스에 이미지를 포함하여 디스플레이(210)에 표시되도록 제어할 수 있다. 프로세서(220)는 카메라 모듈(미도시)을 통해 입력되는 영상을 이용하여 이미지를 표시하거나 또는 메모리(미도시)에 저장된 이미지를 디스플레이(210)에 표시되도록 제어할 수 있다.
프로세서(220)는 이미지에 포함된 객체를 검출하고, 객체에 포함된 구성 요소들을 구분할 수 있다. 프로세서(220)는 검출된 객체와 유사한 이미지를 검색할 수 있다. 프로세서(220)는, 예를 들면, 통신 모듈(230)을 이용하여 외부의 타 전자 장치에 저장된 이미지들 중에서 검출된 객체와 유사한 이미지를 검색하여 디스플레이(210)에 표시되도록 제어할 수 있다.
또한 프로세서(220)는 객체의 구성 요소들을 구분하여 디스플레이(210)에 표시되도록 제어할 수 있다. 프로세서는(220)는 구성 요소들 중 적어도 하나의 속성(예: 형태, 크기, 색상, 패턴 등)을 변경하는 신호 입력에 기반하여,이미지에 변경된 속성이 중첩되어 표시되도록 디스플레이(210)를 제어할 수 있다. 예를 들어, 프로세서(220)는 증강 현실 기술을 이용하여 변경된 속성이 이미지에 중첩되어 표시되도록 디스플레이(210)를 제어할 수 있다.
일 실시예에 따르면, 프로세서(220)는 속성이 변경된 객체와 유사한 이미지를 검색하여 디스플레이(210)에 표시되도록 제어할 수 있다. 프로세서(220)는, 예를 들면, 통신 모듈(230)을 이용하여 외부의 타 전자 장치에 저장된 이미지들 중에서 속성이 변경된 객체와 유사한 이미지를 검색하여 디스플레이(210)에 표시되도록 제어할 수 있다.
이하에서는, 설명의 편의를 위하여, 전자 장치(100)를 예로 하여 본 개시의 다양한 실시예들에 대해 설명하기로 한다. 하지만, 아래의 다양한 실시예들은 도 2의 전자 장치(200)에도 동일하게 적용될 수 있다.
도 3은 일 실시예에 따른 전자 장치에서 객체의 형태를 변경하여 유사한 이미지를 검색하는 상황을 설명하기 위한 도면들이다.
도 3의 (a)를 참조하면, 전자 장치(100)는 사용자의 입력에 기반하여 이미지를 이용한 검색 어플리케이션을 실행하고, 제 1 사용자 인터페이스(10)를 디스플레이(50)에 표시할 수 있다. 이미지를 이용한 검색 어플리케이션은, 예를 들면, 온라인 쇼핑몰에서 구매할 상품을 찾기 위한 검색 어플리케이션일 수 있다.
일 실시예에 따른 전자 장치(100)는 이미지를 이용한 검색 어플리케이션 실행 시 카메라 기능을 활성화 시키고, 입력되는 영상에 기반하여 생성된 이미지(310)를 디스플레이(50)에 표시할 수 있다.
일 실시예에 따른 전자 장치(100)는 상기 디스플레이(50)에 표시된 이미지(310)에서 객체를 인식할 수 있다. 예를 들어, 전자 장치(100)는 이미지(310)에 포함된 시계(312)를 인식할 수 있다. 전자 장치(100)는, 예를 들면, 표시되는 이미지(310)를 에지 성분을 강조하는 이미지로 변형하여 이미지(310)에 포함된 시계(312)의 형상을 검출할 수 있다.
전자 장치(100)는, 예를 들면, 전자 장치(100)의 내부에 마련된 메모리(미도시)에 저장된 데이터 베이스에 저장 된 다수의 이미지들과 검출한 객체의 형상을 비교할 수 있다. 또한 전자 장치(100)는 통신 모듈(미도시)을 이용하여 외부의 타 전자 장치의 데이터 베이스에 저장 된 다수의 이미지들과 검출한 객체의 형상을 비교할 수 있다.
일 실시예에 따른 전자 장치(100)는 이미지(310)에서 검출된 시계(312)와 유사한 형상과 색상을 가진 시계 이미지들을 디스플레이(50)에 표시할 수 있다. 도 3의 (a)를 참조하면, 전자 장치(100)는 디스플레이(50)의 하단에 검색된 시계 이미지들(320)을 표시할 수 있다.
도 3의 (a) 및 도 3의 (b)를 참조하면, 전자 장치(100)는 입력된 이미지(310)에서 객체를 검출하고, 검출된 객체와 유시한 객체를 포함하는 이미지를 검색하여 표시하는 것과 동시에 또는 순차적으로 검출된 객체에 포함된 구성 요소들을 구분 할 수 있다.
전자 장치(100)는 구분된 구성 요소를 디스플레이에 표시할 수 있다. 도 3의 (a)를 참조하면, 전자 장치(100)는 검출된 시계(312)에 대하여 스트랩(312a)과 몸체(312b)를 구분하는 구분자(330)등을 표시할 수 있다.
도 3의 (a) 내지 도 3의 (b)를 참조하면, 사용자는 객체의 구성 요소들의 형태, 패턴, 색상, 크기 등을 변경한 후 유사한 이미지를 검색할 수 있다. 예를 들어, 전자 장치(100)는 "설정"(340) 아이콘을 선택하는 사용자 입력에 기반하여 형태, 색상, 패턴, 크기 등 변경이 가능한 속성들을 표시하는 제 1 항목(350)을 표시할 수 있다.
사용자는 표시된 제 1 항목(350)에 포함된 속성 중에서 변경하기를 원하는 속성을 선택할 수 있다. 또한 사용자는 디스플레이에 표시된 객체에 포함된 구성 요소들 중에서 변경하기를 원하는 구성 요소를 선택할 수 있다.
도 3의 (b) 및 도 3의 (c)를 참조하면, 사용자는 "형태" 속성을 선택하고, 시계(312)의 구성 요소 중 몸체(312b)를 선택하여 형태를 변경할 수 있다. 예를 들어, 사용자가 "형태" 속성을 선택하고, 시계(312)의 몸체(312b)를 선택하면, 전자 장치(100)는 변형 가능한 형태 종류를 포함하는 제 2 항목(360)을 디스플레이(50)에 표시할 수 있다.
사용자는 제 2 항목(360)에 표시된 다양한 형태의 종류 중 하나를 선택할 수 있다. 전자 장치(100)는 사용자가 선택한 형태의 종류에 기반하여 몸체(312b)를 변경하여 디스플레이(50)에 표시할 수 있다.
다른 실시예에 따르면, 사용자는 직접 시계 몸체(312b)의 형태를 변경할 수 있다. 예를 들어, 전자 장치(100)는 몸체(312b)의 외형을 터치하고 드래그 하는 사용자 입력에 기반하여 몸체(312b)의 형상을 변경하여 디스플레이(50)에 표시할 수 있다.
일 실시예에 따르면, 전자 장치(100)는 증강 현실(Augmented Reality, AR) 기술을 이용하여 변경된 속성에 대한 부분을 디스플레이(50)에 표시할 수 있다. 예를 들어, 전자 장치(100)는 증강 현실 기술을 이용하여 사각형의 시계 몸체(312b')를 생성하고, 시계(312)의 몸체(312b)위에 중첩하여 표시할 수 있다.
도 3의 (d)를 참조하면, 전자 장치(100)는 몸체가 사각형으로 변경된 시계(312')와 유사한 이미지들(320')을 검색하여 디스플레이(50)에 표시할 수 있다. 상술한 바와 같이, 전자 장치(100)는 내부 및 외부의 데이터 베이스를 이용하여 디스플레이(50)에 표시된 이미지와 유사한 이미지를 검색할 수 있다.
도 4는 일 실시예에 따른 전자 장치에서 객체의 패턴을 변경하여 유사한 이미지를 검색하는 상황을 설명하기 위한 도면들이다.
도 4의 (a)를 참조하면, 전자 장치(100)는 사용자의 입력에 기반하여 이미지를 이용한 검색 어플리케이션을 실행하고, 제 1 사용자 인터페이스(10)를 디스플레이(50)에 표시할 수 있다. 이미지를 이용한 검색 어플리케이션은, 예를 들면, 온라인 쇼핑몰에서 구매할 상품을 찾기 위한 검색 어플리케이션일 수 있다.
일 실시예에 따른 전자 장치(100)는 이미지를 이용한 검색 어플리케이션 실행 시 카메라 기능을 활성화 시키고, 입력되는 영상에 기반하여 생성된 이미지(410)를 디스플레이(50)에 표시할 수 있다.
일 실시예에 따른 전자 장치(100)는 상기 디스플레이(50)에 표시된 이미지(410)에서 객체를 인식할 수 있다. 예를 들어, 전자 장치(100)는 이미지(410)에 포함된 드레스(412)를 인식할 수 있다. 전자 장치(100)는, 예를 들면, 디스플레이(50)에 표시되는 이미지(410)를 에지 성분을 강조하는 이미지로 변형하여 이미지(410)에 포함된 드레스(412)의 형상을 검출할 수 있다.
전자 장치(100)는, 예를 들면, 전자 장치(100)의 내부에 마련된 메모리(미도시)에 저장된 데이터 베이스에 저장 된 다수의 이미지들과 검출한 객체의 형상을 비교할 수 있다. 또한 전자 장치(100)는 통신 모듈(미도시)을 이용하여 외부의 타 전자 장치의 데이터 베이스에 저장 된 다수의 이미지들과 검출한 객체의 형상을 비교할 수 있다.
일 실시예에 따른 전자 장치(100)는 이미지(410)에서 검출된 드레스(412)와 유사한 형상과 색상을 가진 드레스 이미지들(420)을 디스플레이(50)에 표시할 수 있다. 도 4의 (a)를 참조하면, 전자 장치(100)는 디스플레이(50)의 하단에 검색된 드레스 이미지들(420)을 표시할 수 있다.
도 4의 (a)를 참조하면, 전자 장치(100)는 입력된 이미지(410)에서 드레스(412)를 검출하고, 검출된 드레스(412)와 유시한 드레스를 포함하는 이미지를 검색하여 표시하는 것과 동시에 또는 순차적으로 검출된 드레스(412)에 포함된 구성 요소들을 구분 할 수 있다.
전자 장치(100)는 구분된 구성 요소를 디스플레이(50)에 표시할 수 있다. 도 4의 (a)를 참조하면, 전자 장치(100)는 검출된 드레스(412)를 주변과 구분하는 구분자(430)등을 표시할 수 있다.
도 4의 (a) 내지 도 4의 (b)를 참조하면, 사용자는 객체의 구성 요소들의 형태, 패턴, 색상, 크기 등을 변경한 후 유사한 이미지를 검색할 수 있다. 예를 들어, 전자 장치(100)는 "설정"(440) 아이콘을 선택하는 사용자 입력에 기반하여 형태, 색상, 패턴, 크기 등 변경이 가능한 속성들을 표시하는 제 1 항목(450)을 표시할 수 있다.
사용자는 표시된 제 1 항목(450)에 포함된 속성 중에서 변경하기를 원하는 속성을 선택할 수 있다. 또한 사용자는 디스플레이(50)에 표시된 객체에 포함된 구성 요소들 중에서 변경하기를 원하는 구성 요소를 선택할 수 있다.
도 4의 (b) 및 도 4의 (c)를 참조하면, 사용자는 "패턴" 속성을 선택하고, 드레스(412)의 패턴을 변경할 수 있다. 예를 들어, 사용자가 "패턴" 속성을 선택하고, 드레스(412)를 선택하면, 전자 장치(100)는 변형 가능한 패턴 종류를 포함하는 제 3 항목(460)을 디스플레이(50)에 표시할 수 있다.
사용자는 제 3 항목(460)에 표시된 다양한 패턴의 종류 중 하나를 선택할 수 있다. 전자 장치(100)는 사용자가 선택한 패턴의 종류에 기반하여 드레스(412)의 패턴을 변경하여 디스플레이(50)에 표시할 수 있다.
일 실시예에 따르면, 전자 장치(100)는 증강 현실(Augmented Reality, AR) 기술을 이용하여 변경된 속성에 대한 부분을 디스플레이(50)에 표시할 수 있다. 예를 들어, 전자 장치(100)는 증강 현실 기술을 이용하여 드레스(412) 위에 패턴을 중첩하여 표시하거나, 패턴이 그려진 드레스(412')를 중첩하여 표시할 수 있다.
도 4의 (d)를 참조하면, 전자 장치(100)는 일정한 패턴이 그려진 드레스(412')와 유사한 이미지들(420')을 검색하여 디스플레이(50)에 표시할 수 있다. 상술한 바와 같이, 전자 장치(100)는 내부 및 외부의 데이터 베이스를 이용하여 디스플레이(50)에 표시된 이미지와 유사한 이미지를 검색할 수 있다.
도 5는 일 실시예에 따른 전자 장치에서 검색 조건을 설정하는 상황을 설명하기 위한 도면들이다.
도 5a의 (a)를 참조하면, 전자 장치(100)는 사용자의 입력에 기반하여 이미지를 이용한 검색 어플리케이션을 실행하고, 제 2 사용자 인터페이스(20)를 디스플레이에 표시할 수 있다. 제 2 사용자 인터페이스(20)는, 예를 들면, 제 1 사용자 인터페이스(10)의 다른 실시예일 수 있다.
일 실시예에 따른 전자 장치(100)는 이미지를 이용한 검색 어플리케이션 실행 시 카메라 기능을 활성화 시키고, 입력되는 영상에 기반하여 생성된 이미지(510)를 디스플레이(50)에 표시할 수 있다.
일 실시예에 따른 전자 장치(100)는 상기 디스플레이(50)에 표시된 이미지(510)에서 객체를 인식할 수 있다. 예를 들어, 전자 장치(100)는 이미지(510)에 포함된 시계(512)를 인식할 수 있다. 전자 장치(100)는, 예를 들면, 표시되는 이미지(510)를 에지 성분을 강조하는 이미지로 변형하여 이미지(510)에 포함된 시계(512)의 형상을 검출할 수 있다.
전자 장치(100)는, 예를 들면, 전자 장치(100)의 내부에 마련된 메모리(미도시)에 저장된 데이터 베이스에 저장 된 다수의 이미지들과 검출한 객체의 형상을 비교할 수 있다. 또한 전자 장치(100)는 통신 모듈(미도시)을 이용하여 외부의 타 전자 장치의 데이터 베이스에 저장 된 다수의 이미지들과 검출한 객체의 형상을 비교할 수 있다.
일 실시예에 따르면, 전자 장치(100)는 인식한 결과에 기반하여 검색 카테고리를 설정할 수 있다. 예를 들어, 전자 장치(100)가 이미지(510)에서 시계(512)를 인식하면, 전자 장치(100)는 "시계"를 검색 카테고리로 정할 수 있다. 추후, 전자 장치(100)는 반복 되는 검색에 있어서, "시계"과 관련 있는 이미지만을 검색하고 표시할 수 있다.
일 실시예에 따른 전자 장치(100)는 이미지(510)에서 검출된 시계(512)와 유사한 형상과 색상을 가진 시계 이미지들(520)을 디스플레이(50)에 표시할 수 있다. 도 5a의 (a)를 참조하면, 전자 장치(100)는 디스플레이(50)의 하단에 검색된 시계 이미지들(520)을 표시할 수 있다.
도 5a의 (a) 및 도 5a의 (b)를 참조하면, 전자 장치(100)는 입력된 이미지(510)에서 시계(512)를 검출하고, 검출된 시계(512)와 유사한 시계를 포함하는 이미지를 검색하여 표시하는 것과 동시에 또는 순차적으로 검출된 시계(512)에 포함된 구성 요소들을 구분 할 수 있다.
전자 장치(100)는 구분된 구성 요소를 디스플레이(50)에 표시할 수 있다. 도 5의 (b)를 참조하면, 전자 장치(100)는 검출된 시계(512)외 몸체(512a)와 스트랩(512b)을 주변과 구분하는 구분자(530)등을 표시할 수 있다.
도 5a의 (a) 내지 도 5a의 (b)를 참조하면, 사용자는 객체의 구성 요소들의 형태, 색상, 크기 등을 조합하여 유사한 이미지를 검색할 수 있다. 예를 들어, 전자 장치(100)는 "조건"(540) 아이콘을 선택하는 사용자 입력에 기반하여 형태, 색상, 패턴, 크기 등 속성을 조합할 수 있는 "AND, OR, NOT" 등을 표시하는 제 4 항목(550)을 표시할 수 있다.
"AND 조건"은, 예를 들면, 선택된 속성들 모두를 포함하는 이미지를 검색하는 것을 의미할 수 있다. "OR 조건"은, 예를 들면, 선택된 속성 들 중 적어도 하나를 포함하는 이미지를 검색하는 것을 의미할 수 있다. "NOT"조건은, 예를 들면, 선택된 속성이 없는 이미지를 검색하는 것을 의미할 수 있다.
사용자는 표시된 제 4 항목(550)에 포함된 조건 중에서 하나의 조건을 선택할 수 있다. 또한 사용자는 디스플레이에 표시된 객체에 포함된 구성 요소들 중에서 검색하기를 원하는 구성 요소를 선택할 수 있다.
도 5a의 (b) 및 도 5a의 (c)를 참조하면, 사용자는 시계(512)의 구성 요소 중 몸체(512a)를 선택하고, 제 4 항목(550)에 표시된 조건 중 "AND 조건"을 선택할 수 있다. 이에 대응하여 전자 장치(100)는 도 5의 (a)에서 검출한 시계를 검색 카테고리로 결정하고, 시계 이미지(561)를 디스플레이(50)의 상단에 표시할 수 있다. 그리고 전자 장치(100)는 사용자가 선택한 시계(512)의 몸체(512a)에 대응하는 이미지(563)를 디스플레이(50)의 상단에 표시할 수 있다. 전자 장치(100)는 사용자가 선택한 "AND 조건"을 나타내는 이미지(또는 문자(562))를 시계 이미지(561)와 몸체(512a)에 대응하는 이미지(563) 사이에 배치하여 현재 설정된 조건을 표시할 수 있다.
이에 따라, 전자 장치(100)는 도 5a의 (a)에서 검색한 결과 중에서 시계(512)의 몸체와 동일 또는 유사한 이미지들을 다시 검색하여 디스플레이(50)에 표시할 수 있다. 이 경우, 전자 장치(100)는 시계(512)의 스트랩(512b)와 유사한 스트랩을 가진 이미지들은 표시하지 않을 수 있다.
일 실시예에 따르면, 전자 장치(100)는 복수의 조건을 조합하여 검색을 진행할 수 있다. 복수의 조건을 조합하기 위해, 예를 들면, 전자 장치(100)는 새로운 이미지를 디스플레이(50)에 표시할 수 있다.
도 5a의 (c) 및 도 5b의 (a)를 참조하면, 전자 장치(100)는 사용자가 "조건"(540) 아이콘을 선택하는 것에 기반하여 카메라 모듈(미도시)을 통해 입력되는 영상에 기반하여 이미지(510)를 표시할 수 있다. 그러나 이에 한정되지는 않는다. 예를 들어, 전자 장치(100)는 "조건"(540) 아이콘을 선택하는 것에 기반하여 갤러리 어플리케이션을 표시하고, 사용자가 선택한 이미지를 디스플레이(50)에 표시할 수 있다.
일 실시예에 따른 전자 장치(100)는 "조건"(540) 아이콘을 선택하는 사용자 입력에 기반하여 형태, 색상, 패턴, 크기 등 속성을 조합할 수 있는 "AND, OR, NOT" 등을 표시하는 제 4 항목(550)을 다시 표시할 수 있다.
사용자는 표시된 제 4 항목(550)에 포함된 조건 중에서 하나의 조건을 선택할 수 있다. 또한 사용자는 디스플레이에 표시된 객체에 포함된 구성 요소들 중에서 검색하기를 원하는 구성 요소를 선택할 수 있다.
도 5b의 (a) 및 도 5b의 (b)를 참조하면, 사용자는 제 4 항목(550)에 표시된 조건 중 "AND 조건"을 선택하고, 디스플레이(50)에 표시된 이미지(590)에 포함된 시계(592)의 구성 요소 중 스트랩(592a)를 선택할 수 있다. 전자 장치(100)는 선택된 스트랩(592a)에 대응하는 이미지(565)를 디스플레이(50) 상단에 표시할 수 있다. 전자 장치(100)는 사용자가 선택한 "AND 조건"을 나타내는 이미지(또는 문자)(564)를 시계(512)의 몸체(512a)에 대응하는 이미지(563)와 스트랩(592a)에 대응하는 이미지(565) 사이에 배치하여 현재 설정된 조건을 표시할 수 있다.
전자 장치(100)는 사용자의 선택에 기반하여 도 5a의 (b)에서 선택한 시계(512) 몸체(512a)의 형태, 색상과 도 5b의 (b)에서 선택한 스트랩(592a)의 형태, 색상과 동일하거나 유사한 시계 이미지들(570)을 검색하여 디스플레이(50)에 표시할 수 있다.
이와 같이, 본 개시의 일 실시예에 따르면, 사용자는 복수의 이미지에 포함된 각각의 객체의 속성들을 선택하고 원하는 검색 조건을 선택하여 용이하게 원하는 이미지를 검색할 수 있다.
또한, 도시되지는 않았지만, 사용자는 형태, 색상, 크기 등이 변경된 객체와 다른 이미지의 객체에서 선택된 형태, 색상 등을 조합하여 검색할 수도 있다.
도 6은 일 실시예에 따른 전자 장치에서 검색 조건을 설정하는 다른 상황을 설명하기 위한 도면들이다.
도 6의 (a)를 참조하면, 전자 장치(100)는 사용자의 입력에 기반하여 이미지를 이용한 검색 어플리케이션을 실행하고, 제 2 사용자 인터페이스(20)를 디스플레이에 표시할 수 있다.
일 실시예에 따른 전자 장치(100)는 이미지를 이용한 검색 어플리케이션 실행 시 카메라 기능을 활성화 시키고, 입력되는 영상에 기반하여 생성된 이미지(610)를 디스플레이(50)에 표시할 수 있다.
일 실시예에 따른 전자 장치(100)는 상기 디스플레이(50)에 표시된 이미지(610)에서 객체를 인식할 수 있다. 예를 들어, 전자 장치(100)는 이미지(610)에 포함된 옷(예: 자켓 상의(612)을 인식할 수 있다.
전자 장치(100)는, 예를 들면, 전자 장치(100)의 내부에 마련된 메모리(미도시)에 저장된 데이터 베이스에 저장 된 다수의 이미지들과 검출한 객체의 형상을 비교할 수 있다. 또한 전자 장치(100)는 통신 모듈(미도시)을 이용하여 외부의 타 전자 장치의 데이터 베이스에 저장 된 다수의 이미지들과 검출한 객체의 형상을 비교할 수 있다.
일 실시예에 따르면, 전자 장치(100)는 인식한 결과에 기반하여 검색 카테고리를 설정할 수 있다. 예를 들어, 전자 장치(100)가 이미지(610)에서 옷(612)을 인식하면, 전자 장치(100)는 "옷"을 검색 카테고리로 정할 수 있다. 추후, 전자 장치(100)는 반복 되는 검색에 있어서, "옷"과 관련 있는 이미지만을 검색하고 표시할 수 있다.
도 6의 (a)를 참조하면, 전자 장치(100)는 디스플레이(50)의 하단에 검색된 옷 이미지들(620)을 표시할 수 있다.
도 6의 (a)를 참조하면, 전자 장치(100)는 입력된 이미지(610)에서 옷(612)를 검출하고, 검출된 옷(612)과 유사한 옷을 포함하는 이미지를 검색하여 표시하는 것과 동시에 또는 순차적으로 검출된 옷(612)에 포함된 구성 요소들을 구분 할 수 있다.
전자 장치(100)는 구분된 구성 요소를 디스플레이(50)에 표시할 수 있다. 도 6의 (a)를 참조하면, 전자 장치(100)는 검출된 옷(612)을 배경과 구분하는 구분자(630)등을 표시할 수 있다.
다양한 실시예에 따르면, 사용자는 디스플레이(50)에 표시된 객체에 포함된 구성 요소들을 직접 입력할 수 있다. 예를 들어, 전자 장치(100)가 터치를 지원하는 디스플레이를 포함하는 경우, 사용자는 디스플레이에 표시된 객체의 구성 요소를 터치하거나, 터치 앤 드래그 방식을 이용하여 객체의 구성 요소가 구분되도록 폐곡선을 형성하여 구성 요소를 선택할 수 있다. 예를 들어, 사용자는 터치 앤 드래그 방식을 이용하여 옷(612)의 내부에 있는 지퍼(613)를 선택할 수 있다.
도 6의 (a) 내지 도 6의 (b)를 참조하면, 사용자는 객체의 구성 요소들의 형태, 패턴, 색상, 크기 등을 조합하여 유사한 이미지를 검색할 수 있다. 예를 들어, 전자 장치(100)는 "조건"(640) 아이콘을 선택하는 사용자 입력에 기반하여 형태, 색상, 패턴, 크기 등 속성을 조합할 수 있는 "AND, OR, NOT" 등을 표시하는 제 4 항목(650)을 표시할 수 있다.
사용자는 표시된 제 4 항목(650)에 포함된 조건 중에서 하나의 조건을 선택할 수 있다.
도 6의 (b) 및 도 6의 (c)를 참조하면, 사용자는 옷(612)의 구성 요소 중 지퍼(613)를 선택하고, 제 4 항목(650)에 표시된 조건 중 "NOT 조건"을 선택할 수 있다. 이에 대응하여 전자 장치(100)는 도 6의 (a)에서 검출한 옷을 검색 카테고리로 결정하고, 옷(612)에 대응하는 이미지(661)를 디스플레이(50)의 상단에 표시할 수 있다. 그리고 전자 장치(100)는 사용자가 선택한 옷(612)의 지퍼(613)에 대응하는 이미지(663)를 디스플레이(50)의 상단에 표시할 수 있다. 전자 장치(100)는 사용자가 선택한 "NOT 조건"을 나타내는 이미지(또는 문자)(662)를 옷에 대응하는 이미지(661)와 지퍼(613)에 대응하는 이미지(663) 사이에 배치하여 현재 설정된 조건을 표시할 수 있다.
이에 따라, 전자 장치(100)는 도 6의 (a)에서 검색한 결과 중에서 지퍼(613)가 없는 옷 이미지들을 다시 검색하여 디스플레이(50)에 표시할 수 있다.
도 6의 (c)를 참조하면, 사용자는 디스플레이(50)에 표시된 이미지를 회전 시켜 반대 되는 면을 디스플레이(50)에 표시할 수 있다. 다른 실시예에 따르면, 사용자는 카메라 모듈(미도시)을 이용하여 새로운 이미지를 디스플레이(50)에 표시할 수도 있다.
일 실시예에 따른 전자 장치(100)는 "조건"(640) 아이콘을 선택하는 사용자 입력에 기반하여 형태, 색상, 패턴, 크기 등 속성을 조합할 수 있는 "AND, OR, NOT" 등을 표시하는 제 4 항목(650)을 표시할 수 있다.
사용자는 표시된 제 4 항목(650)에 포함된 조건 중에서 하나의 조건을 선택할 수 있다. 또한 사용자는 디스플레이에 표시된 객체에 포함된 구성 요소들 중에서 검색하기를 원하는 구성 요소를 선택할 수 있다.
도 6의 (c)를 참조하면, 사용자는 제 4 항목(650)에 표시된 조건 중 "AND 조건"을 선택하고, 옷(612)의 구성 요소 중 뒤 트임(614)을 선택할 수 있다. 전자 장치(100)는 선택된 뒤 트임(614)에 대응하는 이미지(665)를 디스플레이(50) 상단에 표시할 수 있다. 전자 장치(100)는 사용자가 선택한 "AND 조건"을 나타내는 이미지(또는 문자)(664)를 옷(612)의 지퍼(613)에 대응하는 이미지(663)와 뒤 트임(614)에 대응하는 이미지(665) 사이에 배치하여 현재 설정된 조건을 표시할 수 있다.
전자 장치(100)는 사용자의 선택에 기반하여 도 6의 (b)에서 선택한 지퍼(613)는 없고, 도 6의 (c)에서 선택한 뒤 트임(614)의 형태와 동일하거나 유사한 옷 이미지들(620')을 검색하여 디스플레이(50)에 표시할 수 있다.
도 7은 일 실시예에 따른 전자 장치에서 검색 조건을 변경하는 상황을 설명하기 위한 도면들이다.
도 7의 (a)는 도 5b의 (b)와 유사한 상황일 수 있다. 전자 장치(100)는 기 설정된 검색 조건들과 검색 속성들을 디스플레이(50) 상단에 표시할 수 있다. 또한 전자 장치(100)는 기 설정된 검색 조건들과 검색 속성들에 기반하여 검색한 이미지들(720)을 디스플레이(50) 하단에 표시할 수 있다. 전자 장치(100)는 현재 카메라 모듈(미도시)을 통해 입력되고 있는 이미지 또는 갤러리 어플리케이션에서 선택된 이미지를 디스플레이(50)에 표시할 수 있다.
일 실시예에 따르면, 전자 장치(100)는 디스플레이(50)에 표시된 검색 속성과 검색 조건을 선택하는 신호에 기반하여 검색 속성과 검색 조건을 변경하고, 검색을 진행하여 검색된 결과를 디스플레이(50)에 표시할 수 있다.
도 7의 (a) 및 도 7의 (b)를 참조하면, 전자 장치(100)는 디스플레이(50)에 표시된 "AND 조건"(730)을 터치하는 신호 입력에 기반하여 검색 조건을 순차적으로 "OR 조건", "NOT 조건" 등으로 변경하여 표시할 수 있다. 전자 장치(100)는 변경되는 검색 조건에 기반하여 디스플레이(50) 하단에 검색 결과를 표시할 수 있다.
도 7의 (c) 및 도 7의 (d)를 참조하면, 전자 장치(100)는 디스플레이(50)에 표시된 "형태"(740)를 터치하는 신호 입력에 기반하여 검색 속성을 순차적으로 "색상", "패턴", "크기" 등으로 변경하여 표시할 수 있다. 전자 장치(100)는 변경되는 검색 속성에 기반하여 디스플레이(50) 하단에 검색 결과를 표시할 수 있다.
도 8a는 일 실시예에 따른 전자 장치가 디스플레이에 표시된 이미지에서 객체를 인지하여 구성 요소를 구분하여 표시하고, 객체의 속성을 변경하는 사용자 신호 입력에 기반하여 변경된 이미지와 유사한 이미지를 검출하는 상황을 설명하기 위한 흐름도이다.
동작 810을 참조하면, 전자 장치(100)는 이미지를 표시할 수 있다. 예를 들어, 전자 장치(100)는 카메라 모듈을 통해 입력되는 영상에 기반하여 생성한 이미지를 디스플레이에 표시할 수 있다. 또한 전자 장치(100)는 갤러리 어플리케이션에서 선택된 이미지를 디스플레이에 표시할 수 있다.
동자 820을 참조하면, 전자 장치(100)는 표시된 이미지에 포함된 객체에 포함된 구성 요소들을 구분하여 표시할 수 있다. 예를 들어, 전자 장치(100)는 표시된 이미지를 에지를 강조하는 이미지로 변환하고, 내부에 마련된 메모리 또는 외부의 타 전자 장치의 데이터 베이스에 저장된 다수의 이미지들과 비교하여 구성 요소들을 구분하고 표시할 수 있다.
동작 830을 참조하면, 전자 장치(100)는 사용자 입력 신호에 기반하여 디스플레이에 표시된 구성 요소의 속성을 변경할 수 있다. 일 실시예에 따르면, 전자 장치(100)는 수정된 구성 요소를 디스플레이에 표시할 수 있다. 예를 들면, 전자 장치(100)는 구성 요소의 속성(예: 형태, 색상, 크기, 패턴 등)을 변경하는 신호에 기반하여 객체를 변경할 수 있다. 또한, 전자 장치(100)는, 예를 들면, 증강 현실 기술 등을 이용하여 변경된 객체를 디스플레이에 표시할 수 있다.
동작 840을 참조하면, 전자 장치(100)는 객체 속성(예: 객체에 포함된 구성 요소 중 적어도 하나의 속성)이 변경된 이미지를 타 전자 장치로 전송하고, 속성이 변경된 이미지에 포함된 객체와 유사한 이미지로 검색된 이미지를 수신하여 표시할 수 있다. 일 실시예에 따르면, 전자 장치(100)는 동작 820에서 검색된 결과에 기반하여 검색 카테고리를 설정할 수 있다. 이로 인해, 전자 장치(100)는 객체의 속성이 변경된 이미지와 유사한 이미지를 검색하는 경우 설정된 검색 카테고리에 기반하여 검색할 수 있다. 이로 인해, 전자 장치(100)는 검색 속도 또는 검색의 정확도를 향상 시킬 수 있다.
도 8b는 일 실시예에 따른 전자 장치가 사용자의 입력 신호에 기반하여 표시된 이미지에 포함된 객체의 구성 요소를 변경하는 상황을 설명하기 위한 흐름도이다.
도 8b는 도 8a의 동작 830의 일 실시예에 해당할 수 있다.
동작 850을 참조하면, 전자 장치(100)는 사용자의 입력에 기반하여 변경할 수 있는 복수 개의 속성을 표시할 수 있다. 예를 들어, 전자 장치(100)는 형태, 색상, 크기, 패턴 등 변경할 수 있는 속성 리스트를 팝업창으로 표시할 수 있다.
동작 860을 참조하면, 전자 장치(100)는 표시된 복수 개의 속성 중 적어도 하나 이상을 선택하는 사용자의 신호 입력을 수신할 수 있다.
동작 870을 참조하면, 전자 장치(100)는 구성 요소 중 변경하려는 구성 요소를 선택하고, 선택 된 구성 요소의 속성을 변경하는 사용자의 신호 입력을 수신할 수 있다. 일 실시예에 따르면, 사용자는 형태, 색상, 크기, 패턴 중 크기를 선택하고, 변경하려는 구성 요소를 선택하고 크기를 변경할 수 있다. 예를 들어, 사용자는 구성 요소의 일측과 타측을 각각 터치한 후 반대 방향으로 이동하여 구성 요소의 크기를 확대할 수 있다.
다른 실시예에 따르면, 사용자가 형태, 색상, 크기, 패턴 중 형태를 선택하면, 전자 장치(100)는 변경할 수 있는 다양한 형태를 팝업창으로 표시할 수 있다. 팝업창에 표시된 다양한 형태 중 하나를 선택하는 사용자 입력 신호에 기반하여 전자 장치(100)는 선택된 구성 요소의 형태를 사용자가 선택한 형태로 변경할 수 있다.
동작 880을 참조하면, 전자 장치(100)는 속성이 변경된 구성 요소를 표시할 수 있다. 예를 들어, 전자 장치(100)는 디스플레이에 표시된 이미지에 중첩하여 속성이 변경된 이미지를 표시할 수 있다. 이 때, 속성이 변경된 이미지는, 예를 들면, 반투명 형태로 표시될 수 있다. 따라서, 사용자는 속성이 변경되지 않은 이미지와 속성이 변경 된 이미지를 동시에 볼 수 있다. 그러나 전자 장치(100)가 속성이 변경된 이미지를 표시하는 방법은 이에 한정되지 않는다.
도 9를 참조하여, 다양한 실시예에서의, 네트워크 환경(900) 내의 전자 장치(901)가 기재된다. 전자 장치(900)는 도 1의 전자 장치(100) 또는 도 2의 전자 장치(200)를 포함할 수 있다. 전자 장치(901)는 버스(910), 프로세서(920), 메모리(930), 입출력 인터페이스(950), 디스플레이(960), 및 통신 인터페이스(970)를 포함할 수 있다. 어떤 실시예에서는, 전자 장치(901)는, 구성요소들 중 적어도 하나를 생략하거나 다른 구성요소를 추가적으로 구비할 수 있다. 버스(910)는 구성요소들(910-970)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 또는 데이터)을 전달하는 회로를 포함할 수 있다. 프로세서(920)는, 중앙처리장치, 어플리케이션 프로세서, 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(920)(예: 도 2의 프로세서(220))는, 예를 들면, 전자 장치(901)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
메모리(930)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리(930)는, 예를 들면, 전자 장치(901)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시예에 따르면, 메모리(930)는 소프트웨어 및/또는 프로그램(940)을 저장할 수 있다. 프로그램(940)은, 예를 들면, 커널(941), 미들웨어(943), 어플리케이션 프로그래밍 인터페이스(API)(945), 및/또는 어플리케이션 프로그램(또는 "어플리케이션")(947) 등을 포함할 수 있다. 커널(941), 미들웨어(943), 또는 API(945)의 적어도 일부는, 운영 시스템으로 지칭될 수 있다. 커널(941)은, 예를 들면, 다른 프로그램들(예: 미들웨어(943), API(945), 또는 어플리케이션 프로그램(947))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(910), 프로세서(920), 또는 메모리(930) 등)을 제어 또는 관리할 수 있다. 또한, 커널(941)은 미들웨어(943), API(945), 또는 어플리케이션 프로그램(947)에서 전자 장치(901)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어(943)는, 예를 들면, API(945) 또는 어플리케이션 프로그램(947)이 커널(941)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다. 또한, 미들웨어(943)는 어플리케이션 프로그램(947)으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들면, 미들웨어(943)는 어플리케이션 프로그램(947) 중 적어도 하나에 전자 장치(901)의 시스템 리소스(예: 버스(910), 프로세서(920), 또는 메모리(930) 등)를 사용할 수 있는 우선 순위를 부여하고, 상기 하나 이상의 작업 요청들을 처리할 수 있다. API(945)는 어플리케이션(947)이 커널(941) 또는 미들웨어(943)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다. 입출력 인터페이스(950)는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치(901)의 다른 구성요소(들)에 전달하거나, 또는 전자 장치(901)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.
디스플레이(960)(예: 도 1의 디스플레이(50), 도 2의 디스플레이(210))는, 예를 들면, 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이, 유기 발광 다이오드(OLED) 디스플레이, 또는 마이크로 전자기계 시스템 (MEMS) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(960)는, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 및/또는 심볼 등)을 표시할 수 있다. 디스플레이(960)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스쳐, 근접, 또는 호버링 입력을 수신할 수 있다.
통신 인터페이스(970)(예: 도 2의 통신 모듈(230))는, 예를 들면, 전자 장치(901)와 외부 장치(예: 제 1 외부 전자 장치(902), 제 2 외부 전자 장치(904), 또는 서버(906)) 간의 통신을 설정할 수 있다. 예를 들면, 통신 인터페이스(970)는 무선 통신 또는 유선 통신을 통해서 네트워크(962)에 연결되어 외부 장치(예: 제 2 외부 전자 장치(904) 또는 서버(906))와 통신할 수 있다.
무선 통신은, 예를 들면, LTE, LTE-A(LTE Advance), CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunications system), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications) 등 중 적어도 하나를 사용하는 셀룰러 통신을 포함할 수 있다. 한 실시예에 따르면, 무선 통신은, 예를 들면, WiFi(wireless fidelity), 블루투스, 블루투스 저전력(BLE), 지그비(Zigbee), NFC(near field communication), 자력 시큐어 트랜스미션(Magnetic Secure Transmission), 라디오 프리퀀시(RF), 또는 보디 에어리어 네트워크(BAN) 중 적어도 하나를 포함할 수 있다. 일 실시예에 따르면, 무선 통신은 GNSS를 포함할 수 있다. GNSS는, 예를 들면, GPS(Global Positioning System), Glonass(Global Navigation Satellite System), Beidou Navigation Satellite System(이하 "Beidou") 또는 Galileo, the European global satellite-based navigation system일 수 있다. 이하, 본 문서에서는, "GPS"는 "GNSS"와 상호 호환적으로 사용될 수 있다. 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard232), 전력선 통신, 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 네트워크(962)는 텔레커뮤니케이션 네트워크, 예를 들면, 컴퓨터 네트워크(예: LAN 또는 WAN), 인터넷, 또는 텔레폰 네트워크 중 적어도 하나를 포함할 수 있다.
제 1 및 제 2 외부 전자 장치(902, 904) 각각은 전자 장치(901)와 동일한 또는 다른 종류의 장치일 수 있다. 다양한 실시예에 따르면, 전자 장치(901)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 전자 장치(902,904), 또는 서버(906)에서 실행될 수 있다. 한 실시예에 따르면, 전자 장치(901)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(901)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 장치(예: 전자 장치(902, 904), 또는 서버(906))에게 요청할 수 있다. 다른 전자 장치(예: 전자 장치(902, 904), 또는 서버(906))는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(901)로 전달할 수 있다. 전자 장치(901)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 10은 다양한 실시예에 따른 전자 장치(1001)의 블록도이다. 전자 장치(1001)는, 예를 들면, 도 1에 도시된 전자 장치(100), 도 2에 도시된 전자 장치(200) 및/또는 도 9에 도시된 전자 장치(901)의 전체 또는 일부를 포함할 수 있다. 전자 장치(1001)는 하나 이상의 프로세서(예: AP)(1010), 통신 모듈(1020), (가입자 식별 모듈(1024), 메모리(1030), 센서 모듈(1040), 입력 장치(1050), 디스플레이(1060), 인터페이스(1070), 오디오 모듈(1080), 카메라 모듈(1091), 전력 관리 모듈(1095), 배터리(1096), 인디케이터(1097), 및 모터(1098)를 포함할 수 있다. 프로세서(1010)(예: 도 2의 프로세서(220), 도 9의 프로세서(920))는, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 프로세서(1010)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서(1010)는, 예를 들면, SoC(system on chip) 로 구현될 수 있다. 한 실시예에 따르면, 프로세서(1010)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서를 더 포함할 수 있다. 프로세서(1010)는 도 2에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(1021))를 포함할 수도 있다. 프로세서(1010) 는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드)하여 처리하고, 결과 데이터를 비휘발성 메모리에 저장할 수 있다.
통신 모듈(1020)(예: 도 2의 통신 모듈(230), 도 9의 통신 인터페이스(970))와 동일 또는 유사한 구성을 가질 수 있다. 통신 모듈(1020)은, 예를 들면, 셀룰러 모듈(1021), WiFi 모듈(1023), 블루투스 모듈(1025), GNSS 모듈(1027), NFC 모듈(1028) 및 RF 모듈(1029)를 포함할 수 있다. 셀룰러 모듈(1021)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(1021)은 가입자 식별 모듈(예: SIM 카드)(1024)을 이용하여 통신 네트워크 내에서 전자 장치(1001)의 구별 및 인증을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(1021)은 프로세서(1010)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(1021)은 커뮤니케이션 프로세서(CP)를 포함할 수 있다. 어떤 실시예에 따르면, 셀룰러 모듈(1021), WiFi 모듈(1023), 블루투스 모듈(1025), GNSS 모듈(1027) 또는 NFC 모듈(1028) 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다. RF 모듈(1029)은, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. RF 모듈(1029)은, 예를 들면, 트랜시버, PAM(power amp module), 주파수 필터, LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시예에 따르면, 셀룰러 모듈(1021), WiFi 모듈(1023), 블루투스 모듈(1025), GNSS 모듈(1027) 또는 NFC 모듈(1028) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다. 가입자 식별 모듈(1024)은, 예를 들면, 가입자 식별 모듈을 포함하는 카드 또는 임베디드 SIM을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예: IMSI(international mobile subscriber identity))를 포함할 수 있다.
메모리(1030)(예: 메모리(930))는, 예를 들면, 내장 메모리(1032) 또는 외장 메모리(1034)를 포함할 수 있다. 내장 메모리(1032)는, 예를 들면, 휘발성 메모리(예: DRAM, SRAM, 또는 SDRAM 등), 비휘발성 메모리(예: OTPROM(one time programmable ROM), PROM, EPROM, EEPROM, mask ROM, flash ROM, 플래시 메모리, 하드 드라이브, 또는 솔리드 스테이트 드라이브 (SSD) 중 적어도 하나를 포함할 수 있다. 외장 메모리(1034)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD, Mini-SD, xD(extreme digital), MMC(multi-media card) 또는 메모리 스틱 등을 포함할 수 있다. 외장 메모리(1034)는 다양한 인터페이스를 통하여 전자 장치(1001)와 기능적으로 또는 물리적으로 연결될 수 있다.
센서 모듈(1040)은, 예를 들면, 물리량을 계측하거나 전자 장치(1001)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈(1040)은, 예를 들면, 제스처 센서(1040A), 자이로 센서(1040B), 기압 센서(1040C), 마그네틱 센서(1040D), 가속도 센서(1040E), 그립 센서(1040F), 근접 센서(1040G), 컬러(color) 센서(1040H)(예: RGB(red, green, blue) 센서), 생체 센서(1040I), 온/습도 센서(1040J), 조도 센서(1040K), 또는 UV(ultra violet) 센서(1040M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로, 센서 모듈(1040)은, 예를 들면, 후각(e-nose) 센서, 일렉트로마이오그라피(EMG) 센서, 일렉트로엔씨팔로그램(EEG) 센서, 일렉트로카디오그램(ECG) 센서, IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 센서 모듈(1040)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시예에서는, 전자 장치(1001)는 프로세서(1010)의 일부로서 또는 별도로, 센서 모듈(1040)을 제어하도록 구성된 프로세서를 더 포함하여, 프로세서(1010)가 슬립(sleep) 상태에 있는 동안, 센서 모듈(1040)을 제어할 수 있다.
입력 장치(1050)는, 예를 들면, 터치 패널(1052), (디지털) 펜 센서(1054), 키(1056), 또는 초음파 입력 장치(1058)를 포함할 수 있다. 터치 패널(1052)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(1052)은 제어 회로를 더 포함할 수도 있다. 터치 패널(1052)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다. (디지털) 펜 센서(1054)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트를 포함할 수 있다. 키(1056)는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 초음파 입력 장치(1058)는 마이크(예: 마이크(1088))를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다.
디스플레이(1060)(예: 도 1의 디스플레이(50), 도 2의 디스플레이(210), 도 9의 디스플레이(960))는 패널(1062), 홀로그램 장치(1064), 프로젝터(1066), 및/또는 이들을 제어하기 위한 제어 회로를 포함할 수 있다. 패널(1062)은, 예를 들면, 유연하게, 투명하게, 또는 착용할 수 있게 구현될 수 있다. 패널(1062)은 터치 패널(1052)과 하나 이상의 모듈로 구성될 수 있다. 한 실시예에 따르면, 패널(1062)은 사용자의 터치에 대한 압력의 세기를 측정할 수 있는 압력 센서(또는 포스 센서)를 포함할 수 있다. 상기 압력 센서는 터치 패널(1052)과 일체형으로 구현되거나, 또는 터치 패널(1052)과는 별도의 하나 이상의 센서로 구현될 수 있다. 홀로그램 장치(1064)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터(1066)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 전자 장치(1001)의 내부 또는 외부에 위치할 수 있다. 인터페이스(1070)는, 예를 들면, HDMI(1072), USB(1074), 광 인터페이스(optical interface)(1076), 또는 D-sub(D-subminiature)(1078)를 포함할 수 있다. 인터페이스(1070)는, 예를 들면, 도 9에 도시된 통신 인터페이스(970)에 포함될 수 있다. 추가적으로 또는 대체적으로, 인터페이스(1070)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
오디오 모듈(1080)은, 예를 들면, 소리와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈(1080)의 적어도 일부 구성요소는, 예를 들면, 도 9 에 도시된 입출력 인터페이스(945)에 포함될 수 있다. 오디오 모듈(1080)은, 예를 들면, 스피커(1082), 리시버(1084), 이어폰(1086), 또는 마이크(1088) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다. 카메라 모듈(1091)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, 이미지 시그널 프로세서(ISP), 또는 플래시(예: LED 또는 xenon lamp 등)를 포함할 수 있다. 전력 관리 모듈(1095)은, 예를 들면, 전자 장치(1001)의 전력을 관리할 수 있다. 한 실시예에 따르면, 전력 관리 모듈(1095)은 PMIC(power management integrated circuit), 충전 IC, 또는 배터리 또는 연료 게이지를 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리(1096)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리(1096)는, 예를 들면, 충전식 전지 및/또는 태양 전지를 포함할 수 있다.
인디케이터(1097)는 전자 장치(1001) 또는 그 일부(예: 프로세서(1010))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 모터(1098)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동, 또는 햅틱 효과 등을 발생시킬 수 있다. 전자 장치(1001)는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어플로(mediaFloTM) 등의 규격에 따른 미디어 데이터를 처리할 수 있는 모바일 TV 지원 장치(예: GPU)를 포함할 수 있다. 본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시예에서, 전자 장치(예: 전자 장치(1001))는 일부 구성요소가 생략되거나, 추가적인 구성요소를 더 포함하거나, 또는, 구성요소들 중 일부가 결합되어 하나의 개체로 구성되되, 결합 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다.
도 11은 다양한 실시예에 따른 프로그램 모듈의 블록도이다. 한 실시예에 따르면, 프로그램 모듈(1110)(예: 프로그램(940))은 전자 장치(예: 전자 장치(901), 전자 장치(100))에 관련된 자원을 제어하는 운영 체제 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램(947))을 포함할 수 있다. 운영 체제는, 예를 들면, AndroidTM, iOSTM, WindowsTM, SymbianTM, TizenTM, 또는 BadaTM를 포함할 수 있다. 도 11을 참조하면, 프로그램 모듈(1110)은 커널(1120)(예: 커널(941)), 미들웨어(1130)(예: 미들웨어(943)), (API(1160)(예: API(945)), 및/또는 어플리케이션(1170)(예: 어플리케이션 프로그램(947))을 포함할 수 있다. 프로그램 모듈(1110)의 적어도 일부는 전자 장치 상에 프리로드 되거나, 외부 전자 장치(예: 전자 장치(902, 904), 서버(906) 등)로부터 다운로드 가능하다.
커널(1120)은, 예를 들면, 시스템 리소스 매니저(1121) 및/또는 디바이스 드라이버(1123)를 포함할 수 있다. 시스템 리소스 매니저(1121)는 시스템 리소스의 제어, 할당, 또는 회수를 수행할 수 있다. 한 실시예에 따르면, 시스템 리소스 매니저(1121)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부를 포함할 수 있다. 디바이스 드라이버(1123)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WiFi 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다. 미들웨어(1130)는, 예를 들면, 어플리케이션(1170)이 공통적으로 필요로 하는 기능을 제공하거나, 어플리케이션(1170)이 전자 장치 내부의 제한된 시스템 자원을 사용할 수 있도록 API(1160)를 통해 다양한 기능들을 어플리케이션(1170)으로 제공할 수 있다. 한 실시예에 따르면, 미들웨어(1130) 는 런타임 라이브러리(1135), 어플리케이션 매니저(1141), 윈도우 매니저(1142), 멀티미디어 매니저(1143), 리소스 매니저(1144), 파워 매니저(1145), 데이터베이스 매니저(1146), 패키지 매니저(1147), 커넥티비티 매니저(1148), 노티피케이션 매니저(1149), 로케이션 매니저(1150), 그래픽 매니저(1151), 또는 시큐리티 매니저(1152) 중 적어도 하나를 포함할 수 있다.
런타임 라이브러리(1135)는, 예를 들면, 어플리케이션(1170)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리(1135)는 입출력 관리, 메모리 관리, 또는 산술 함수 처리를 수행할 수 있다. 어플리케이션 매니저(1141)는, 예를 들면, 어플리케이션(1170)의 생명 주기를 관리할 수 있다. 윈도우 매니저(1142)는 화면에서 사용되는 GUI 자원을 관리할 수 있다. 멀티미디어 매니저(1143)는 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱을 이용하여 미디어 파일의 인코딩 또는 디코딩을 수행할 수 있다. 리소스 매니저(1144)는 어플리케이션(1170)의 소스 코드 또는 메모리의 공간을 관리할 수 있다. 파워 매니저(1145)는, 예를 들면, 배터리의 용량 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보를 제공할 수 있다. 한 실시예에 따르면, 파워 매니저(1145)는 바이오스(BIOS: basic input/output system)와 연동할 수 있다. 데이터베이스 매니저(1146)는, 예를 들면, 어플리케이션(1170)에서 사용될 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(1147)는 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 갱신을 관리할 수 있다.
커넥티비티 매니저(1148)는, 예를 들면, 무선 연결을 관리할 수 있다. 노티피케이션 매니저(1149)는, 예를 들면, 도착 메시지, 약속, 근접성 알림 등의 이벤트를 사용자에게 제공할 수 있다. 로케이션 매니저(1150)는, 예를 들면, 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저(1151)는, 예를 들면, 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 보안 매니저(1152)는, 예를 들면, 시스템 보안 또는 사용자 인증을 제공할 수 있다. 한 실시예에 따르면, 미들웨어(1130)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화(telephony) 매니저 또는 전술된 구성요소들의 기능들의 조합을 형성할 수 있는 하는 미들웨어 모듈을 포함할 수 있다. 한 실시예에 따르면, 미들웨어(1130)는 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 미들웨어(1130)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다. API(1160)는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.
어플리케이션(1170)은, 예를 들면, 홈(1171), 다이얼러(1172), SMS/MMS(1173), IM(instant message)(1174), 브라우저(1175), 카메라(1176), 알람(1177), 컨택트(1178), 음성 다이얼(1179), 이메일(1180), 달력(1181), 미디어 플레이어(1182), 앨범(1183), 와치(1184), 헬스 케어(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보(예: 기압, 습도, 또는 온도 정보) 제공 어플리케이션을 포함할 수 있다. 한 실시예에 따르면, 어플리케이션(1170)은 전자 장치와 외부 전자 장치 사이의 정보 교환을 지원할 수 있는 정보 교환 어플리케이션을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치에 특정 정보를 전달하기 위한 노티피케이션 릴레이 어플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리 어플리케이션을 포함할 수 있다. 예를 들면, 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션에서 발생된 알림 정보를 외부 전자 장치로 전달하거나, 또는 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다. 장치 관리 어플리케이션은, 예를 들면, 전자 장치와 통신하는 외부 전자 장치의 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는, 해상도) 조절), 또는 외부 전자 장치에서 동작하는 어플리케이션을 설치, 삭제, 또는 갱신할 수 있다. 한 실시예에 따르면, 어플리케이션(1170)은 외부 전자 장치의 속성에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션)을 포함할 수 있다. 한 실시예에 따르면, 어플리케이션(1170)은 외부 전자 장치로부터 수신된 어플리케이션을 포함할 수 있다. 프로그램 모듈(1110)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어(예: 도 10의 프로세서(1010), 도 9의 프로세서(920), 도 2의 프로세서(220)), 또는 이들 중 적어도 둘 이상의 조합으로 구현(예: 실행)될 수 있으며, 하나 이상의 기능을 수행하기 위한 모듈, 프로그램, 루틴, 명령어 세트 또는 프로세스를 포함할 수 있다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. "모듈"은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있으며, 예를 들면, 어떤 동작들을 수행하는, 알려졌거나 앞으로 개발될, ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays), 또는 프로그램 가능 논리 장치를 포함할 수 있다. 다양한 실시예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는 프로그램 모듈의 형태로 컴퓨터로 판독 가능한 저장 매체(예: 메모리(930))에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 도 10의 프로세서(1010), 도 9의 프로세서(920), 도 2의 프로세서(220))에 의해 실행될 경우, 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(예: 자기테이프), 광기록 매체(예: CD-ROM, DVD, 자기-광 매체 (예: 플롭티컬 디스크), 내장 메모리 등을 포함할 수 있다. 명령어는 컴파일러에 의해 만들어지는 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 다양한 실시예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 다른 구성요소를 더 포함할 수 있다. 다양한 실시예에 따른, 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.

Claims (15)

  1. 전자 장치에 있어서,
    디스플레이;
    통신 모듈; 및
    상기 디스플레이 및 상기 통신 모듈과 전기적으로 연결된 프로세서; 를 포함하고,
    상기 프로세서는,
    상기 디스플레이에 표시된 이미지에서 검출한 객체를 인식하여 상기 객체에 포함되어 있는 적어도 하나의 구성 요소를 구분하고, 사용자 입력에 기반하여 상기 구성 요소의 속성을 변경하고, 상기 통신 모듈을 이용하여 상기 속성이 변경된 이미지를 타 전자 장치로 전송하고, 상기 속성이 변경된 객체를 포함하는 이미지와 유사한 이미지로 검색된 이미지를 수신하여 상기 디스플레이에 표시되도록 제어하는 전자 장치.
  2. 제1항에 있어서,
    상기 전자 장치는 카메라 모듈을 더 포함하고,
    상기 프로세서는,
    상기 카메라 모듈을 통해 입력되는 영상에 기반하여 상기 이미지를 생성하고 상기 디스플레이에 표시되도록 제어하는 전자 장치.
  3. 제1항에 있어서,
    상기 속성은 상기 구성 요소의 형태, 색상, 패턴, 및 크기 중 적어도 하나를 포함하는 전자 장치.
  4. 제1항에 있어서,
    상기 프로세서는,
    상기 객체에 포함되어 있는 구성 요소들 중 상기 속성이 변경 된 구성 요소가 상기 이미지에 중첩하여 표시되도록 제어하는 전자 장치.
  5. 제1항에 있어서,
    상기 속성에 대응하는 아이콘이 상기 디스플레이에 표시되는 경우,
    상기 프로세서는,
    상기 아이콘을 선택하는 사용자 입력에 기반하여 상기 속성에 대응하는 아이콘을 변경하여 상기 디스플레이에 표시되도록 제어하고, 상기 타 전자 장치로부터 상기 변경된 속성에 기반하여 검색된 이미지를 수신하여 상기 디스플레이에 표시되도록 제어하는 전자 장치.
  6. 제1항에 있어서,
    상기 적어도 하나의 구성 요소는 제 1 구성 요소와 제 2 구성 요소를 포함하고,
    상기 프로세서는,
    사용자 입력에 기반하여 상기 제 1 구성 요소와 상기 제 2 구성 요소를 검색하기 위한 검색 조건을 상기 타 전자 장치로 전송하고, 상기 타 전자 장치로부터 상기 검색 조건에 따라 상기 검출된 객체와 유사한 이미지로 검색된 이미지를 수신하여 상기 디스플레이에 표시되도록 제어하는 전자 장치.
  7. 제6항에 있어서,
    상기 검색 조건은,
    상기 제 1 구성 요소와 상기 제 2 구성 요소 중 적어도 하나를 포함하는 이미지를 검색하는 조건, 및 상기 제 1 구성 요소와 상기 제 2 구성 요소 중 적어도 하나는 제외되는 이미지를 검색하는 조건을 포함하는 전자 장치.
  8. 제6항에 있어서,
    상기 검색 조건에 대응하는 아이콘이 상기 디스플레이에 표시되는 경우,
    상기 프로세서는,
    상기 아이콘을 선택하는 사용자 입력에 기반하여 상기 검색 조건에 대응하는 아이콘을 변경하여 상기 디스플레이에 표시되도록 제어하고, 상기 타 전자 장치로부터 상기 변경된 검색 조건에 기반하여 검색된 이미지를 수신하여 상기 디스플레이에 표시되도록 제어하는 전자 장치.
  9. 디스플레이, 및 통신 모듈을 포함하는 전자 장치 제어 방법에 있어서,
    디스플레이에 이미지를 표시하는 동작;
    상기 이미지에서 검출한 객체를 인식하여 상기 객체에 포함되어 있는 적어도 하나의 구성 요소를 구분하는 동작;
    사용자 입력에 기반하여 상기 구성 요소의 속성을 변경하는 동작; 및
    상기 통신 모듈을 이용하여 상기 속성이 변경된 이미지를 타 전자 장치로 전송하고, 상기 속성이 변경된 객체를 포함하는 이미지와 유사한 이미지로 검색된 이미지를 수신하여 상기 디스플레이에 표시하는 동작; 을 포함하는 제어 방법.
  10. 제9항에 있어서,
    상기 전자 장치는 카메라 모듈을 더 포함하고,
    상기 제어 방법은,
    상기 카메라 모듈을 통해 입력되는 영상에 기반하여 상기 이미지를 생성하고 상기 디스플레이에 표시하는 동작; 을 포함하는 제어 방법.
  11. 제9항에 있어서,
    상기 제어 방법은,
    상기 객체에 포함되어 있는 상기 구성 요소들 중 상기 속성이 변경된 구성 요소를 상기 이미지에 중첩하여 표시하는 동작; 을 포함하는 제어 방법.
  12. 제9항에 있어서,
    상기 속성에 대응하는 아이콘이 상기 디스플레이에 표시되는 경우,
    상기 제어 방법은,
    상기 아이콘을 선택하는 사용자 입력에 기반하여 상기 속성에 대응하는 아이콘을 변경하여 상기 디스플레이에 표시하고, 상기 타 전자 장치로부터 상기 변경된 속성에 기반하여 검색된 이미지를 수신하여 상기 디스플레이에 표시하는 동작; 을 포함하는 제어 방법.
  13. 제9항에 있어서,
    상기 적어도 하나의 구성 요소는 제 1 구성 요소와 제 2 구성 요소를 포함하고,
    상기 제어 방법은,
    사용자 입력에 기반하여 상기 제 1 구성 요소와 상기 제 2 구성 요소를 검색하기 위한 검색 조건을 상기 타 전자 장치로 전송하고, 상기 타 전자 장치로부터 상기 검색 조건에 따라 상기 검출된 객체와 유사한 이미지를 검색된 이미지를 수신하여 상기 디스플레이에 표시하는 동작; 을 포함하는 제어 방법.
  14. 제13항에 있어서,
    상기 검색 조건은,
    상기 제 1 구성 요소와 상기 제 2 구성 요소를 모두 포함하는 이미지를 검색하는 조건, 상기 제 1 구성 요소와 상기 제 2 구성 요소 중 적어도 하나를 포함하는 이미지를 검색하는 조건, 및 상기 제 1 구성 요소와 상기 제 2 구성 요소 중 하나는 제외되는 이미지를 검색하는 조건을 포함하는 제어 방법.
  15. 제13항에 있어서,
    상기 검색 조건에 대응하는 아이콘이 상기 디스플레이에 표시되는 경우,
    상기 아이콘을 선택하는 사용자 입력에 기반하여 상기 검색 조건에 대응하는 아이콘을 변경하여 상기 디스플레이에 표시하고, 상기 타 전자 장치로부터 상기 변경된 검색 조건에 기반하여 검색된 이미지를 수신하여 상기 디스플레이에 표시하는 동작; 을 포함하는 제어 방법.
PCT/KR2017/014270 2017-01-23 2017-12-07 전자 장치 및 전자 장치 제어 방법 WO2018135750A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US16/479,993 US11462010B2 (en) 2017-01-23 2017-12-07 Electronic apparatus, and method for controlling same

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020170010304A KR102652362B1 (ko) 2017-01-23 2017-01-23 전자 장치 및 전자 장치 제어 방법
KR10-2017-0010304 2017-01-23

Publications (1)

Publication Number Publication Date
WO2018135750A1 true WO2018135750A1 (ko) 2018-07-26

Family

ID=62908661

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2017/014270 WO2018135750A1 (ko) 2017-01-23 2017-12-07 전자 장치 및 전자 장치 제어 방법

Country Status (3)

Country Link
US (1) US11462010B2 (ko)
KR (1) KR102652362B1 (ko)
WO (1) WO2018135750A1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11403292B2 (en) 2019-10-18 2022-08-02 Fujifilm Business Innovation Corp. Query modification assistance system, search system, and computer readable medium
US11455332B2 (en) 2019-10-18 2022-09-27 Fujifilm Business Innovation Corp. Query change system, search system, and computer readable medium

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11163819B2 (en) * 2017-10-23 2021-11-02 Adobe Inc. Image search and retrieval using object attributes
US20200081912A1 (en) * 2018-04-17 2020-03-12 YesPlz, Inc. Identifying physical objects using visual search query
US11727675B2 (en) * 2019-09-09 2023-08-15 Apple Inc. Object detection with instance detection and general scene understanding
WO2023191121A1 (ko) * 2022-03-29 2023-10-05 엘지전자 주식회사 디스플레이 장치

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060004728A1 (en) * 2004-07-02 2006-01-05 Canon Kabushiki Kaisha Method, apparatus, and program for retrieving data
KR20120108496A (ko) * 2011-03-24 2012-10-05 에스케이플래닛 주식회사 이미지 인식을 이용한 제품 정보 비교 서비스 제공 시스템, 이를 위한 장치, 이를 위한 단말 및 이를 위한 방법
KR20130116148A (ko) * 2012-04-13 2013-10-23 엘지전자 주식회사 이미지 검색 방법 및 이를 위한 디지털 디바이스
KR20160013496A (ko) * 2014-07-26 2016-02-04 주식회사 왁스앤컴퍼니 이미지 검색을 기반으로 사용자가 원하는 패션 아이템에 관한 정보를 제공하는 시스템
KR20160086090A (ko) * 2015-01-09 2016-07-19 삼성전자주식회사 이미지를 디스플레이하는 사용자 단말기 및 이의 이미지 디스플레이 방법

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060122915A1 (en) * 2004-11-30 2006-06-08 Allen Anita L Customizable home improvement and redecoration pictorial display assistant
US9411830B2 (en) 2011-11-24 2016-08-09 Microsoft Technology Licensing, Llc Interactive multi-modal image search
US20130275411A1 (en) 2012-04-13 2013-10-17 Lg Electronics Inc. Image search method and digital device for the same
EP2973040A1 (en) * 2013-03-15 2016-01-20 NIKE Innovate C.V. Product presentation assisted by visual search
KR102155133B1 (ko) * 2013-07-12 2020-09-11 삼성전자주식회사 이미지 표시 방법 및 장치
US9311340B2 (en) * 2014-04-15 2016-04-12 International Business Machines Corporation Multiple partial-image compositional searching
US9734634B1 (en) * 2014-09-26 2017-08-15 A9.Com, Inc. Augmented reality product preview

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060004728A1 (en) * 2004-07-02 2006-01-05 Canon Kabushiki Kaisha Method, apparatus, and program for retrieving data
KR20120108496A (ko) * 2011-03-24 2012-10-05 에스케이플래닛 주식회사 이미지 인식을 이용한 제품 정보 비교 서비스 제공 시스템, 이를 위한 장치, 이를 위한 단말 및 이를 위한 방법
KR20130116148A (ko) * 2012-04-13 2013-10-23 엘지전자 주식회사 이미지 검색 방법 및 이를 위한 디지털 디바이스
KR20160013496A (ko) * 2014-07-26 2016-02-04 주식회사 왁스앤컴퍼니 이미지 검색을 기반으로 사용자가 원하는 패션 아이템에 관한 정보를 제공하는 시스템
KR20160086090A (ko) * 2015-01-09 2016-07-19 삼성전자주식회사 이미지를 디스플레이하는 사용자 단말기 및 이의 이미지 디스플레이 방법

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11403292B2 (en) 2019-10-18 2022-08-02 Fujifilm Business Innovation Corp. Query modification assistance system, search system, and computer readable medium
US11455332B2 (en) 2019-10-18 2022-09-27 Fujifilm Business Innovation Corp. Query change system, search system, and computer readable medium

Also Published As

Publication number Publication date
US11462010B2 (en) 2022-10-04
KR102652362B1 (ko) 2024-03-29
US20190370547A1 (en) 2019-12-05
KR20180086639A (ko) 2018-08-01

Similar Documents

Publication Publication Date Title
AU2015350680B2 (en) Power control method and apparatus for reducing power consumption
WO2018034555A1 (ko) 디스플레이를 제어하는 전자 장치 및 방법
WO2018135750A1 (ko) 전자 장치 및 전자 장치 제어 방법
WO2016137187A1 (en) Apparatus and method for providing screen mirroring service
WO2016175452A1 (en) Fingerprint information processing method and electronic device supporting the same
WO2016006851A1 (en) Electronic device, method of providing interface of the same, and accessory for the same
WO2019039871A1 (en) ELECTRONIC DEVICE AND METHOD FOR OPERATING APPLICATIONS
WO2017014489A1 (en) Operating method for contents searching function and electronic device supporting the same
WO2017142256A1 (en) Electronic device for authenticating based on biometric data and operating method thereof
WO2017014587A1 (en) Electronic device and method for managing object in folder on electronic device
WO2017209530A1 (en) Method of switching application and electronic device therefor
WO2016175602A1 (en) Electronic device for providing short-cut user interface and method therefor
WO2018155928A1 (ko) 복수의 생체 센서를 이용하여 인증을 수행하기 위한 전자 장치 및 그의 동작 방법
WO2017018722A1 (en) Screen operating method and electronic device supporting the same
WO2017131401A1 (ko) 전자 장치 및 전자 장치의 사용자 인터페이스 제어 방법
WO2018128509A1 (en) Electronic device and method for sensing fingerprints
WO2018106019A1 (ko) 콘텐츠 출력 방법 및 이를 지원하는 전자 장치
WO2015178661A1 (en) Method and apparatus for processing input using display
WO2018199432A1 (ko) 객체에 대응하는 콘텐트를 출력하기 위한 방법 및 그 전자 장치
WO2018048130A1 (ko) 컨텐츠 재생 방법 및 이를 지원하는 전자 장치
WO2017052216A1 (en) Method for providing events corresponding to touch attributes and electronic device thereof
WO2018135903A1 (en) Electronic device and method for displaying screen by the same
WO2018026164A1 (en) Method of processing touch events and electronic device adapted thereto
WO2017023040A1 (en) Screen controlling method and electronic device for supporting the same
WO2018048217A1 (en) Electronic apparatus and operating method thereof

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17892715

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 17892715

Country of ref document: EP

Kind code of ref document: A1