WO2021125795A1 - 태그를 제공하는 방법 및 이를 지원하는 전자 장치 - Google Patents

태그를 제공하는 방법 및 이를 지원하는 전자 장치 Download PDF

Info

Publication number
WO2021125795A1
WO2021125795A1 PCT/KR2020/018461 KR2020018461W WO2021125795A1 WO 2021125795 A1 WO2021125795 A1 WO 2021125795A1 KR 2020018461 W KR2020018461 W KR 2020018461W WO 2021125795 A1 WO2021125795 A1 WO 2021125795A1
Authority
WO
WIPO (PCT)
Prior art keywords
tag
processor
display
electronic device
recognition operation
Prior art date
Application number
PCT/KR2020/018461
Other languages
English (en)
French (fr)
Inventor
고재호
박다은
전지원
김희운
박현미
박혜원
서흥교
이형도
오영학
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Priority to EP20902051.0A priority Critical patent/EP4060521A4/en
Priority to US17/842,038 priority patent/US12008221B2/en
Publication of WO2021125795A1 publication Critical patent/WO2021125795A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/35—Categorising the entire scene, e.g. birthday party or wedding scene
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/38—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/5866—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using information manually generated, e.g. tags, keywords, comments, manually generated location and time information
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/901—Indexing; Data structures therefor; Storage structures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/907—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482—Interaction with lists of selectable items, e.g. menus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/10—Office automation; Time management
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/01—Social networking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/70—Labelling scene content, e.g. deriving syntactic or semantic representations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10—Character recognition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10—Character recognition
    • G06V30/18—Extraction of features or characteristics of the image

Definitions

  • Various embodiments of the present invention relate to a method of providing a tag and an electronic device supporting the same.
  • the electronic device may classify content using a tag (eg, a hashtag) and search for the content. For example, after acquiring an image using a camera, the electronic device may store the acquired image in association with a tag related to the acquired image. When an input for searching for a specific tag is received from a user, the electronic device may search for an image stored in association with a specific tag among a plurality of images stored in the electronic device, and may provide the searched image to the user.
  • a tag eg, a hashtag
  • tags have provided a tag providing (or recommendation) function. For example, when receiving an input for capturing a screen displayed on the electronic device from a user, the electronic device acquires (or generates) a tag related to the captured screen by recognizing (or analyzing) the captured screen. and the acquired tag can be provided along with the captured screen.
  • the electronic device provides the user with only a tag obtained through a recognition operation performed by the electronic device with respect to a screen displayed on the electronic device. Accordingly, since the electronic device provides a tag acquired based on limited information, it is necessary to provide a tag acquired based on more diverse information to the user.
  • Various embodiments of the present disclosure provide a method for providing various tags by performing a recognition operation on a screen displayed on an electronic device through an electronic device and an external electronic device (eg, a server) connected to the electronic device to provide various tags. And it relates to an electronic device including for supporting the same.
  • an external electronic device eg, a server
  • An electronic device includes a display, a processor operatively connected to the display, and a memory operatively connected to the processor, wherein the memory, when executed, causes the processor to Obtaining one or more first tags related to the screen by receiving a first user input while displaying a screen through a display, and performing an operation related to a recognition operation for the screen based on the first user input, displaying a first user interface including the one or more first tags through the display, and while displaying the first user interface, based on a second user input, based on a second user input, at least one of the one or more first tags store instructions for selecting a first tag, acquiring at least one second tag related to the at least one first tag, and displaying a second user interface including the at least one second tag through the display have.
  • An electronic device includes a display, a processor operatively connected to the display, and a memory operatively connected to the processor, wherein the memory, when executed, causes the processor to By receiving a user input while displaying a screen through the display and performing a first recognition operation on the screen based on the user input, at least one first tag related to the screen is obtained, and through the display A first user interface including the at least one first tag is displayed, and while the first user interface is displayed, on the screen performed by an external electronic device connected to the electronic device and continuous to the first recognition operation. At least one second tag may be acquired through a second recognition operation, and instructions for displaying a second user interface including the acquired at least one second tag may be stored through the display.
  • a method for providing a tag in an electronic device receiving a first user input while displaying a screen through the display of the electronic device, based on the first user input to obtain one or more first tags related to the screen by performing an operation related to the recognition operation for the screen; displaying a first user interface including the one or more first tags through the display; while displaying the first user interface, selecting at least one first tag among the one or more first tags based on a second user input; at least one second associated with the at least one first tag. It may include an operation of acquiring a tag, and an operation of displaying a second user interface including the at least one second tag through the display.
  • a method for providing a tag and an electronic device for supporting the same perform a recognition operation on a screen displayed on the electronic device through the electronic device and an external electronic device (eg, a server) connected to the electronic device By doing so, various tags can be provided.
  • an external electronic device eg, a server
  • FIG. 1 is a block diagram of an electronic device in a network environment, according to various embodiments of the present disclosure
  • FIG. 2 is a flowchart illustrating a method of providing a tag in an electronic device, according to various embodiments of the present disclosure
  • FIG. 3 is a flowchart illustrating a method of storing an acquired tag according to various embodiments of the present disclosure
  • FIG. 4 is a flowchart illustrating a method of providing a tag-related function in an electronic device, according to various embodiments of the present disclosure.
  • FIG. 5 is a flowchart illustrating a method of providing a tag in an electronic device, according to various embodiments of the present disclosure
  • FIG. 6 is an exemplary diagram for explaining a method of providing a tag related to text, according to various embodiments.
  • FIG. 7 is an exemplary diagram for explaining a method of providing a tag related to an image, according to various embodiments of the present disclosure.
  • 8A to 8C are exemplary diagrams for explaining a method of providing a tag in an electronic device, according to various embodiments.
  • 9A and 9B are exemplary diagrams for explaining a method of providing a tag-related function in an electronic device, according to various embodiments.
  • 10A and 10B are exemplary diagrams for explaining a method of providing a tag-related function in an electronic device, according to various embodiments.
  • FIG. 11 is an exemplary diagram for explaining a method of providing a tag by a user inputting text, according to various embodiments of the present disclosure
  • FIG. 12 is an exemplary diagram for explaining a method of storing a tag according to various embodiments of the present disclosure.
  • FIG. 13 is an exemplary diagram for explaining a method of displaying a stored tag according to various embodiments of the present disclosure.
  • FIG. 1 is a block diagram of an electronic device 101 in a network environment 100 according to various embodiments of the present disclosure.
  • an electronic device 101 communicates with an electronic device 102 through a first network 198 (eg, a short-range wireless communication network) or a second network 199 . It may communicate with the electronic device 104 or the server 108 through (eg, a long-distance wireless communication network). According to an embodiment, the electronic device 101 may communicate with the electronic device 104 through the server 108 .
  • a first network 198 eg, a short-range wireless communication network
  • a second network 199 e.g., a second network 199 . It may communicate with the electronic device 104 or the server 108 through (eg, a long-distance wireless communication network). According to an embodiment, the electronic device 101 may communicate with the electronic device 104 through the server 108 .
  • the electronic device 101 includes a processor 120 , a memory 130 , an input device 150 , a sound output device 155 , a display device 160 , an audio module 170 , and a sensor module ( 176 , interface 177 , haptic module 179 , camera module 180 , power management module 188 , battery 189 , communication module 190 , subscriber identification module 196 , or antenna module 197 . ) may be included. In some embodiments, at least one of these components (eg, the display device 160 or the camera module 180 ) may be omitted or one or more other components may be added to the electronic device 101 . In some embodiments, some of these components may be implemented as one integrated circuit. For example, the sensor module 176 (eg, a fingerprint sensor, an iris sensor, or an illuminance sensor) may be implemented while being embedded in the display device 160 (eg, a display).
  • the sensor module 176 eg, a fingerprint sensor, an iris sensor, or an illuminance sensor
  • the processor 120 for example, executes software (eg, a program 140) to execute at least one other component (eg, a hardware or software component) of the electronic device 101 connected to the processor 120 . It can control and perform various data processing or operations. According to one embodiment, as at least part of data processing or operation, the processor 120 converts commands or data received from other components (eg, the sensor module 176 or the communication module 190 ) to the volatile memory 132 . may be loaded into the volatile memory 132 , process commands or data stored in the volatile memory 132 , and store the resulting data in the nonvolatile memory 134 .
  • software eg, a program 140
  • the processor 120 converts commands or data received from other components (eg, the sensor module 176 or the communication module 190 ) to the volatile memory 132 .
  • the volatile memory 132 may be loaded into the volatile memory 132 , process commands or data stored in the volatile memory 132 , and store the resulting data in the nonvolatile memory 134 .
  • the processor 120 includes a main processor 121 (eg, a central processing unit or an application processor), and a secondary processor 123 (eg, a graphic processing unit, an image signal processor) that can be operated independently or together with the main processor 121 , a sensor hub processor, or a communication processor). Additionally or alternatively, the auxiliary processor 123 may be configured to use less power than the main processor 121 or to be specialized for a designated function. The auxiliary processor 123 may be implemented separately from or as a part of the main processor 121 .
  • a main processor 121 eg, a central processing unit or an application processor
  • a secondary processor 123 eg, a graphic processing unit, an image signal processor
  • the auxiliary processor 123 may be configured to use less power than the main processor 121 or to be specialized for a designated function.
  • the auxiliary processor 123 may be implemented separately from or as a part of the main processor 121 .
  • the auxiliary processor 123 may be, for example, on behalf of the main processor 121 while the main processor 121 is in an inactive (eg, sleep) state, or when the main processor 121 is active (eg, executing an application). ), together with the main processor 121, at least one of the components of the electronic device 101 (eg, the display device 160, the sensor module 176, or the communication module 190) It is possible to control at least some of the related functions or states.
  • the coprocessor 123 eg, an image signal processor or a communication processor
  • may be implemented as part of another functionally related component eg, the camera module 180 or the communication module 190. have.
  • the memory 130 may store various data used by at least one component (eg, the processor 120 or the sensor module 176 ) of the electronic device 101 .
  • the data may include, for example, input data or output data for software (eg, the program 140 ) and instructions related thereto.
  • the memory 130 may include a volatile memory 132 or a non-volatile memory 134 .
  • the program 140 may be stored as software in the memory 130 , and may include, for example, an operating system 142 , middleware 144 , or an application 146 .
  • the input device 150 may receive a command or data to be used by a component (eg, the processor 120 ) of the electronic device 101 from the outside (eg, a user) of the electronic device 101 .
  • the input device 150 may include, for example, a microphone, a mouse, a keyboard, or a digital pen (eg, a stylus pen).
  • the sound output device 155 may output a sound signal to the outside of the electronic device 101 .
  • the sound output device 155 may include, for example, a speaker or a receiver.
  • the speaker can be used for general purposes such as multimedia playback or recording playback, and the receiver can be used to receive incoming calls. According to one embodiment, the receiver may be implemented separately from or as part of the speaker.
  • the display device 160 may visually provide information to the outside (eg, a user) of the electronic device 101 .
  • the display device 160 may include, for example, a display, a hologram device, or a projector and a control circuit for controlling the corresponding device.
  • the display device 160 may include a touch circuitry configured to sense a touch or a sensor circuit (eg, a pressure sensor) configured to measure the intensity of a force generated by the touch. have.
  • the audio module 170 may convert a sound into an electric signal or, conversely, convert an electric signal into a sound. According to an embodiment, the audio module 170 acquires a sound through the input device 150 , or an external electronic device (eg, a sound output device 155 ) connected directly or wirelessly with the electronic device 101 . The sound may be output through the electronic device 102 (eg, a speaker or a headphone).
  • an external electronic device eg, a sound output device 155
  • the sound may be output through the electronic device 102 (eg, a speaker or a headphone).
  • the sensor module 176 detects an operating state (eg, power or temperature) of the electronic device 101 or an external environmental state (eg, user state), and generates an electrical signal or data value corresponding to the sensed state. can do.
  • the sensor module 176 may include, for example, a gesture sensor, a gyro sensor, a barometric sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR (infrared) sensor, a biometric sensor, It may include a temperature sensor, a humidity sensor, or an illuminance sensor.
  • the interface 177 may support one or more designated protocols that may be used for the electronic device 101 to directly or wirelessly connect with an external electronic device (eg, the electronic device 102 ).
  • the interface 177 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • HDMI high definition multimedia interface
  • USB universal serial bus
  • SD card interface Secure Digital Card
  • the connection terminal 178 may include a connector through which the electronic device 101 can be physically connected to an external electronic device (eg, the electronic device 102 ).
  • the connection terminal 178 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).
  • the haptic module 179 may convert an electrical signal into a mechanical stimulus (eg, vibration or movement) or an electrical stimulus that the user can perceive through tactile or kinesthetic sense.
  • the haptic module 179 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
  • the camera module 180 may capture still images and moving images. According to an embodiment, the camera module 180 may include one or more lenses, image sensors, image signal processors, or flashes.
  • the power management module 188 may manage power supplied to the electronic device 101 .
  • the power management module 388 may be implemented as, for example, at least a part of a power management integrated circuit (PMIC).
  • PMIC power management integrated circuit
  • the battery 189 may supply power to at least one component of the electronic device 101 .
  • the battery 189 may include, for example, a non-rechargeable primary cell, a rechargeable secondary cell, or a fuel cell.
  • the communication module 190 is a direct (eg, wired) communication channel or a wireless communication channel between the electronic device 101 and an external electronic device (eg, the electronic device 102, the electronic device 104, or the server 108). It can support establishment and communication through the established communication channel.
  • the communication module 190 may include one or more communication processors that operate independently of the processor 120 (eg, an application processor) and support direct (eg, wired) communication or wireless communication.
  • the communication module 190 is a wireless communication module 192 (eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 194 (eg, : It may include a local area network (LAN) communication module, or a power line communication module).
  • a wireless communication module 192 eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module
  • GNSS global navigation satellite system
  • wired communication module 194 eg, : It may include a local area network (LAN) communication module, or a power line communication module.
  • a corresponding communication module is a first network 198 (eg, a short-range communication network such as Bluetooth, WiFi direct, or IrDA (infrared data association)) or a second network 199 (eg, a cellular network, the Internet, or It may communicate with an external electronic device via a computer network (eg, a telecommunication network such as a LAN or WAN).
  • a computer network eg, a telecommunication network such as a LAN or WAN.
  • These various types of communication modules may be integrated into one component (eg, a single chip) or may be implemented as a plurality of components (eg, multiple chips) separate from each other.
  • the wireless communication module 192 uses the subscriber information (eg, International Mobile Subscriber Identifier (IMSI)) stored in the subscriber identification module 196 within a communication network such as the first network 198 or the second network 199 .
  • the electronic device 101 may be identified and authenticated.
  • the antenna module 197 may transmit or receive a signal or power to the outside (eg, an external electronic device).
  • the antenna module may include one antenna including a conductor formed on a substrate (eg, a PCB) or a radiator formed of a conductive pattern.
  • the antenna module 197 may include a plurality of antennas. In this case, at least one antenna suitable for a communication method used in a communication network such as the first network 198 or the second network 199 is connected from the plurality of antennas by, for example, the communication module 190 . can be selected. A signal or power may be transmitted or received between the communication module 190 and an external electronic device through the selected at least one antenna.
  • other components eg, RFIC
  • other than the radiator may be additionally formed as a part of the antenna module 197 .
  • peripheral devices eg, a bus, general purpose input and output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI)
  • GPIO general purpose input and output
  • SPI serial peripheral interface
  • MIPI mobile industry processor interface
  • the command or data may be transmitted or received between the electronic device 101 and the external electronic device 104 through the server 108 connected to the second network 199 .
  • Each of the electronic devices 102 and 104 may be the same or a different type of the electronic device 101 .
  • all or part of the operations performed by the electronic device 101 may be executed by one or more of the external electronic devices 102 , 104 , or 108 .
  • the electronic device 101 may perform the function or service itself instead of executing the function or service itself.
  • one or more external electronic devices may be requested to perform at least a part of the function or the service.
  • the one or more external electronic devices that have received the request may execute at least a part of the requested function or service, or an additional function or service related to the request, and transmit a result of the execution to the electronic device 101 .
  • the electronic device 101 may process the result as it is or additionally and provide it as at least a part of a response to the request.
  • cloud computing distributed computing, or client-server computing technology This can be used.
  • the electronic device may have various types of devices.
  • the electronic device may include, for example, a portable communication device (eg, a smart phone), a computer device, a portable multimedia device, a portable medical device, a camera, a wearable device, or a home appliance device.
  • a portable communication device eg, a smart phone
  • a computer device e.g., a smart phone
  • a portable multimedia device e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a wearable device e.g., a smart bracelet
  • a home appliance device e.g., a home appliance
  • first”, “second”, or “first” or “second” may simply be used to distinguish the component from other components in question, and may refer to components in other aspects (e.g., importance or order) is not limited. It is said that one (eg, first) component is “coupled” or “connected” to another (eg, second) component, with or without the terms “functionally” or “communicatively”. When referenced, it means that one component can be connected to the other component directly (eg by wire), wirelessly, or through a third component.
  • module may include a unit implemented in hardware, software, or firmware, and may be used interchangeably with terms such as, for example, logic, logic block, component, or circuit.
  • a module may be an integrally formed part or a minimum unit or a part of the part that performs one or more functions.
  • the module may be implemented in the form of an application-specific integrated circuit (ASIC).
  • ASIC application-specific integrated circuit
  • Various embodiments of the present document include one or more instructions stored in a storage medium (eg, internal memory 136 or external memory 138) readable by a machine (eg, electronic device 101).
  • a machine eg, electronic device 101
  • the processor eg, the processor 120
  • the device eg, the electronic device 101
  • the one or more instructions may include code generated by a compiler or code executable by an interpreter.
  • the device-readable storage medium may be provided in the form of a non-transitory storage medium.
  • 'non-transitory' only means that the storage medium is a tangible device and does not contain a signal (eg, electromagnetic wave), and this term is used in cases where data is semi-permanently stored in the storage medium and It does not distinguish between temporary storage cases.
  • a signal eg, electromagnetic wave
  • the method according to various embodiments disclosed in this document may be provided as included in a computer program product.
  • Computer program products may be traded between sellers and buyers as commodities.
  • the computer program product is distributed in the form of a machine-readable storage medium (eg compact disc read only memory (CD-ROM)), or through an application store (eg Play Store TM ) or on two user devices ( It can be distributed (eg downloaded or uploaded) directly, online between smartphones (eg: smartphones).
  • a part of the computer program product may be temporarily stored or temporarily generated in a machine-readable storage medium such as a memory of a server of a manufacturer, a server of an application store, or a relay server.
  • each component eg, a module or a program of the above-described components may include a singular or a plurality of entities.
  • one or more components or operations among the above-described corresponding components may be omitted, or one or more other components or operations may be added.
  • a plurality of components eg, a module or a program
  • the integrated component may perform one or more functions of each component of the plurality of components identically or similarly to those performed by the corresponding component among the plurality of components prior to the integration. .
  • operations performed by a module, program, or other component are executed sequentially, in parallel, repeatedly, or heuristically, or one or more of the operations are executed in a different order, or omitted. or one or more other operations may be added.
  • the electronic device 101 includes a display (eg, a display device 160 ), a processor 120 operatively connected to the display, and operatively with the processor 120 .
  • a connected memory 130 wherein, when executed, the processor 120 receives a first user input while displaying a screen through the display, and based on the first user input to obtain one or more first tags related to the screen by performing an operation related to the recognition operation for the screen, display a first user interface including the one or more first tags through the display, and While displaying the first user interface, select at least one first tag among the one or more first tags based on a second user input, and obtain at least one second tag associated with the at least one first tag and instructions for displaying a second user interface including the at least one second tag through the display.
  • the electronic device 101 includes a display, a processor 120 operatively connected to the display, and a memory 130 operatively connected to the processor 120, When the memory 130 is executed, the processor 120 receives a user input while displaying a screen through the display, and performs a first recognition operation on the screen based on the user input, acquiring at least one first tag associated with the screen, displaying a first user interface including the at least one first tag through the display, and displaying the first user interface, the first recognition Through a second recognition operation for the screen performed by an external electronic device (eg, the server 108) connected to the electronic device 101 in succession to the operation, at least one second tag is acquired, and the display is displayed. Through this, instructions for displaying a second user interface including the obtained at least one second tag may be stored.
  • an external electronic device eg, the server 108
  • the recognition operation for the screen includes a plurality of recognition operations including a first recognition operation and a second recognition operation successively performed to the recognition operation, and the first recognition operation is performed by the electronic device ( 101 ), and the second recognition operation may be performed by an external electronic device (eg, the server 108 ) connected to the electronic device 101 .
  • the instructions include, by the processor 120 , acquiring at least one 1-1 tag through the first recognition operation, and at least one second tag 1-2 through the second recognition operation obtain, through the display, display the first user interface including the obtained at least one 1-1 tag, and through the display, display the second recognition while displaying the first user interface
  • the first user interface including the at least one 1-2 tag acquired by performing an operation and the 1-1 tag may be displayed.
  • the instructions include, by the processor 120 , acquiring at least one 1-1 tag through the first recognition operation, and performing the acquired at least one 1-1 tag through the display displaying the first user interface including a tag, and storing the at least one 1-1 tag in the memory 130 in response to a user input received while the second recognition operation is performed, and the at least one After storing one 1-1 tag, at least one 1-2 tag is acquired by completing the second recognition operation, and the acquired at least one 1-2 tag is used as the at least one first tag It can be stored in the memory 130 together with the -1 tag.
  • the instructions are performed by the processor 120 through the electronic device 101 or an external electronic device (eg, the server 108) connected to the electronic device 101,
  • the at least one second tag related to the first tag may be acquired.
  • the instructions include, by the processor 120 , identifying content stored in association with the at least one first tag in the memory 130 , information related to the content, or information related to the content stored in association with the content. At least one of the at least one tag may be acquired as the at least one second tag.
  • the instructions include the at least one first tag and the at least one first tag to the electronic device 101 that provides the web service subscribed to by the processor 120 using the user account of the electronic device 101 .
  • the content stored in association may be checked, and at least one of information related to the content and at least one tag stored in association with the content may be acquired as the at least one second tag.
  • the instructions may cause the processor 120 to display the second user interface including the one or more first tags and the second tag through the display.
  • the instructions indicate that the processor 120 identifies a function related to at least one of the one or more first tags or the second tag, and displays the identified function through the display.
  • the first user interface or the second user interface including an object may be displayed.
  • the electronic device 101 includes a display, a processor 120 operatively connected to the display, and a memory 130 operatively connected to the processor 120, When the memory 130 is executed, the processor 120 receives a user input while displaying a screen through the display, and performs a first recognition operation on the screen based on the user input, acquiring at least one first tag associated with the screen, displaying a first user interface including the at least one first tag through the display, and displaying the first user interface, the first recognition Through a second recognition operation for the screen performed by an external electronic device (eg, the server 108) connected to the electronic device 101 in succession to the operation, at least one second tag is acquired, and the display is displayed. Through this, instructions for displaying a second user interface including the obtained at least one second tag may be stored.
  • an external electronic device eg, the server 108
  • the instructions allow the processor 120 to identify a function related to at least one of the at least one first tag or the at least one second tag, and display the identified function through the display.
  • the first user interface or the second user interface including the indicated object may be displayed.
  • the instructions may cause the processor 120 to store the at least one first tag in the memory 130 in response to a user input received while the second recognition operation is being performed, and After storing the at least one first tag, the at least one second tag is obtained by completing the second recognition operation, and the obtained at least one second tag is combined with the at least one first tag. It may be stored in the memory 130 .
  • FIG. 2 is a flowchart 200 for explaining a method of providing a tag in the electronic device 101 according to various embodiments of the present disclosure.
  • the processor 120 may receive a first user input while displaying a screen through a display (eg, the display device 160 ).
  • the processor 120 may receive a first user input for recognizing a currently displayed screen (or for acquiring a tag by recognizing a currently displayed screen) through the display.
  • the processor 120 is, based on the first user input, an image (eg, a capture screen, a screenshot (eg, a capture screen) for a screen currently displayed through the display (hereinafter referred to as a 'first screen').
  • an image eg, a capture screen, a screenshot (eg, a capture screen) for a screen currently displayed through the display (hereinafter referred to as a 'first screen').
  • a first user input for recognizing an image hereinafter, referred to as a 'first image'
  • the processor 120 may receive one first user input (eg, a user input received once) in order to acquire the first image and perform recognition of the first image. For example, while the first screen is displayed, the processor 120 acquires the first image and performs an operation for recognizing the first image (or an operation for acquiring a tag) successively to the operation of acquiring the first image ) may receive one first user input for performing
  • the processor 120 may receive a first user input for recognizing the first screen without acquiring the first image (eg, without generating a capture screen for the first screen). .
  • the processor 120 may generate source data (eg, without capturing the web page) (eg, without generating a capture screen for the web page).
  • a first user input for recognizing at least one of text or an image included in a web page (or for acquiring a tag by recognizing at least one of text or an image) may be received from a source code (code).
  • the present invention is not limited thereto.
  • the processor 120 may perform one page (eg, a part of one page displayed through the display and the display).
  • a first user input for recognizing the remaining portion of one page that is not displayed may be received.
  • the processor 120 may acquire one or more first tags by performing an operation related to a screen recognition operation based on a first user input.
  • the processor 120 may perform at least a partial operation of the recognition operation for the screen as an operation related to the recognition operation for the screen (eg, the first screen).
  • a plurality of recognition operations may be sequentially (or stepwise) performed through at least one of the electronic device 101 or the external electronic device (eg, the server 108) in order to recognize the screen.
  • each of the plurality of recognition operations may be a recognition operation capable of acquiring a tag whenever each of the plurality of recognition operations is performed.
  • the plurality of recognition operations are consecutive to a recognition operation for acquiring a tag (eg, a keyword) from the text and an operation for acquiring a tag from the text when a screen displayed through the display includes text. , it may include a recognition operation of acquiring a new tag by searching for information related to the acquired tag.
  • each of the plurality of recognition operations for recognizing a screen may include at least one operation.
  • one recognition operation is an operation of generating a first image (eg, a capture screen) from the first screen when the first screen includes text, and the first using an optical character reader (OCR) program. It may include an operation of extracting at least one text from the image, and an operation of determining a tag (eg, a keyword) based on the extracted at least one text.
  • OCR optical character reader
  • a tag obtained through a plurality of recognition operations for recognizing a screen will be referred to as a 'first tag'.
  • a recognition operation performed first is referred to as a 'first recognition operation'
  • a tag obtained through the first recognition operation (or as a result of the first recognition operation) is referred to as a 'first-1-1 operation. It will be referred to as 'tag'.
  • a recognition operation continuously performed to the first recognition operation is referred to as a 'second recognition operation'
  • a tag obtained through the second recognition operation (or as a result of the first recognition operation) is referred to as a 'second recognition operation' will be referred to as '.
  • the plurality of recognition operations for recognizing the screen are not limited to the first recognition operation and the second recognition operation, and one or more recognition operations continuously performed after the first recognition operation and the second recognition operation (eg, the second recognition operation) 3 recognition operation) may be further included.
  • the operation for recognizing the screen is exemplified as including a plurality of recognition operations, but is not limited thereto.
  • an operation for recognizing a screen may include only one recognition operation (eg, a first recognition operation).
  • the first recognition operation may include at least one recognition operation performed by the electronic device 101 .
  • the electronic device 101 when the electronic device 101 includes a configuration (eg, a neural processing unit (NPU)) capable of performing an artificial intelligence function, the artificial intelligence function is performed. It may include at least one recognition operation performed through a possible configuration.
  • the first recognition operation may be performed using a configuration (eg, an OCR program, an image recognition program) included in the electronic device 101 and capable of recognizing a screen in addition to a configuration capable of performing an artificial intelligence function. It may include at least one recognition operation performed.
  • the first recognition operation may include at least one recognition operation performed through a configuration capable of performing an artificial intelligence function and a configuration capable of performing a screen recognition operation included in the electronic device 101 . may include
  • the second recognition operation may include at least one recognition operation performed by an external electronic device (eg, the server 108 ) connected to the electronic device 101 .
  • the first recognition operation is a recognition operation performed using the NPU included in the electronic device 101
  • the second recognition operation continuously performed to the first recognition operation may perform an artificial intelligence function. It may be at least one recognition operation performed through an external electronic device (eg, the server 108) including the configuration.
  • both the first recognition operation and the second recognition operation may be performed by the electronic device 101 or an external electronic device (eg, the server 108 ).
  • the second recognition operation may include a detailed recognition operation of the first recognition operation.
  • the first recognition operation is an operation for recognizing the type of object (eg, a person) included in the image
  • the second recognition operation is an operation for recognizing the type of object (eg, a person) included in the image.
  • the recognition operation may be an operation of recognizing a specific target (eg, a user) corresponding to an object included in an image.
  • the first recognition operation is an operation of acquiring a tag having a higher term (or higher concept)
  • the second recognition operation is a lower term (or lower term) belonging to a higher term of the tag obtained through the first recognition operation.
  • concept may include an operation of acquiring a tag having a
  • the first recognition operation is an operation of acquiring a tag (eg, mobile phone) having a higher term of the image
  • the second recognition operation may be an operation of acquiring a tag (eg, a mobile phone name) having a lower term belonging to a higher term of the tag.
  • the first recognition operation may include an operation of recognizing a name (eg, a web application) of an application related to a screen.
  • the first recognition operation may include an operation of recognizing a website address when a screen of a website is displayed through a display.
  • the first recognition operation may include an operation of recognizing the name of the content (eg, the title of the content) included in the screen displayed through the display.
  • the first recognition operation may include an operation of recognizing the type of the screen. In an embodiment, the first recognition operation may include an operation of recognizing the home screen as a currently displayed screen when the home screen is displayed through the display.
  • the first recognition operation may include an operation for acquiring a tag based on a user's input log (log) related to the tag with respect to the electronic device 101 .
  • the first recognition operation may include an operation of acquiring, as a tag, a search word recently input by the user to the electronic device 101 (eg, within one week from the current time as a specified period).
  • the first recognition operation may include an operation of acquiring, as a tag, a search word input by the user a specified number of times (eg, 3 or more) to the electronic device 101 within a specified period.
  • the present invention is not limited thereto.
  • information on the user's input log (log) related to the tag is transmitted to the electronic device 101 by using the user's account of the electronic device 101 to the external electronic device related to the electronic device 101 (eg: When stored in the server 108), an operation for acquiring a tag based on a user's input log (log) related to the tag with respect to the electronic device 101 is performed through an external electronic device (eg, the server 108).
  • an external electronic device eg, the server 108
  • the processor 120 may perform a partial operation of recognizing a screen.
  • the processor 120 when the recognition operation for the screen includes the first recognition operation and the second recognition operation, the processor 120 performs a partial operation of the first recognition operation on the screen, a partial operation of the second recognition operation, Alternatively, a partial operation of the first recognition operation and a partial operation of the second recognition operation may be performed.
  • the processor 120 performs some operations among the operations included in the first recognition operation, and the remaining partial operations included in the first recognition operation are performed by the external electronic device. (eg, the server 108) may transmit information (or results) of some operations performed by the processor 120 to an external electronic device (eg, the server 108) through the communication module 190 have.
  • the processor 120 may receive information on the results of the remaining partial operations included in the first recognition operation performed by the external electronic device (eg, the server 108 ) through the communication module 190 . As another example, when the recognition operation for the screen includes only the first recognition operation, the processor 120 may perform some operations of the first recognition operation for the screen.
  • the processor 120 may acquire one or more first tags by performing an operation related to a screen recognition operation. For example, the processor 120 may acquire one or more first tags as a result of the recognition operation for the screen.
  • the processor 120 may continuously (or sequentially) continuously (or sequentially) perform one or more first first recognition operations as each of the plurality of recognition operations is completed.
  • Tags can be obtained.
  • the processor 120 acquires the 1-1 tag as the first recognition operation is completed, and as the second recognition operation successively performed in the first recognition operation is completed, the first recognition operation is completed. -2 tags can be obtained.
  • the processor 120 may acquire one or more tags based on the properties of the screen. For example, when the screen includes a screen related to the contact application, the processor 120 may select a keyword related to the contact (eg, a nickname of a user registered in the contact list, a term indicating the position of the user registered in the contact information). It can be obtained as the above tags. For another example, when the screen includes a screen related to a map application, the processor 120 obtains keywords related to a geographic location included in the map (eg, a location of a restaurant related to the geographic location) as one or more tags. can do. However, the method of acquiring one or more tags based on the properties of the screen is not limited to the above-described example.
  • the processor 120 may display a first user interface including one or more first tags through the display.
  • the processor 120 successively (or sequentially) acquires one or more first tags as the recognition operation for the screen includes a plurality of recognition operations and the performance of each of the plurality of recognition operations is completed.
  • the first user interface including the acquired first tag may be displayed through the display whenever the first tag is acquired.
  • the processor 120 may acquire the 1-1 tag as a result of the first recognition operation and display the first user interface including the acquired 1-1 tag through the display.
  • the processor 120 acquires the 1-2 tag as a result of the second recognition operation while displaying the first user interface including the 1-1 tag, the 1-1 tag and the 1-2 tag
  • a first user interface including a may be displayed through the display.
  • the processor 120 may change the 1-1 tag to the 1-2 th tag.
  • the processor 120 acquires the 1-1 tag by performing a first recognition operation on the image, and after performing a second recognition operation on the image, The 1-1 tag may be changed to the 1-2 tag.
  • the screen includes an image (eg, a quick response (QR) code image) including a specific pattern (or configured with a specific pattern) on the screen
  • the object eg, QR code
  • the processor 120 may acquire information (eg, information acquired by analyzing a QR code) indicated by the specific pattern as the 1-2 tag by analyzing the specific pattern included in the image.
  • the processor 120 may remove (or make it disappear) the 1-1 tag included in the first user interface and display the 1-2 tag. For example, the processor 120 may replace the 1-1 tag and display the 1-2 th tag at the position of the first user interface where the 1-1 tag was displayed through the display.
  • the processor 120 may include one or more first tags ( Example: A first user interface including a first tag including a 1-1 tag and a 1-2 tag) may be displayed through the display.
  • the processor 120 may display objects representing one or more first tags through the display.
  • the processor 120 may display one or more first tags in the form of an object (eg, an icon) through the display.
  • each of the objects representing the one or more first tags may include an indicator indicating whether it has been selected by the user.
  • the processor 120 is configured to, when obtaining one or more first tags (eg, immediately after obtaining the one or more first tags), the one or more first tags are not selected by the user.
  • An object including an indicator indicating may be displayed through the display.
  • the processor 120 selects at least one of the one or more first tags included in the first user interface based on the second user input while displaying the first user interface.
  • the processor 120 may receive a second user input for selecting at least one of one or more first tags included in the first user interface.
  • the processor 120 may receive a second user input for selecting at least one object from among one or more objects each representing one or more first tags included in the first user interface.
  • the processor 120 may display the selected at least one first tag through the display so that the at least one first tag selected by the second user input is distinguished from other first tags that are not selected. have.
  • the processor 120 may be configured to display, through the display, an indicator included in the at least one object indicating the selected at least one first tag and indicating whether an indicator indicating whether it has been selected by the user, is selected by the user. You can display (or change) the form of
  • the processor 120 may change at least one of a color, a brightness, or a saturation of an area of at least one object representing the selected at least one first tag.
  • the method of displaying the at least one first tag selected by the user is not limited to the above-described example.
  • the processor 120 performs the screen recognition operation including a plurality of recognition operations before completing all of the plurality of recognition operations (eg, when some of the plurality of recognition operations are completed). , based on the second user input, at least one first tag among one or more first tags acquired through at least one recognition operation completed among a plurality of recognition operations may be selected. For example, after acquiring the 1-1 tag through the first recognition operation, the processor 120 performs a second recognition operation continuous to the first recognition operation, based on the second user input, You can select 1-1 tags. After acquiring the 1-2 tags through the second recognition operation, the processor 120 may additionally select the 1-2 tags based on the second user input.
  • the processor 120 is configured to select one of the one or more first tags based on the second user input. At least one first tag may be selected.
  • the processor 120 may acquire at least one second tag related to the at least one first tag.
  • the processor 120 may acquire at least one second tag related to the at least one first tag in response to the selection of the at least one first tag.
  • the processor 120 in response to the selection of the at least one first tag, is configured to, via the electronic device 101 or an external electronic device (eg, the server 108 ), add the at least one first tag to the at least one first tag.
  • At least one second tag may be acquired by searching for information on the
  • the processor 120 may additionally perform an operation of searching for information on the at least one first tag by using a web application in response to the selection of the at least one first tag.
  • the processor 120 may acquire at least one second tag based on the searched information on the at least one first tag.
  • the processor 120 retrieves stored (or tagged) content (eg, an image) associated with the at least one first tag in the memory 130 . You can check (or search).
  • the processor 120 may acquire, as the at least one second tag, another tag stored in association with the content stored in association with the at least one first tag in the memory 130 .
  • information related to (eg, an image) stored (or tagged) in association with at least one first tag in the memory 130 eg, a name of the content
  • the processor 120 in response to the selection of the at least one first tag, performs a web service (eg, social network (SNS)) subscribed (or registered) by the user of the electronic device 101 using an account. service)), it is possible to check (or search for) content (eg, a post) stored (or tagged) in association with at least one first tag in an external electronic device (eg, the server 108 ).
  • the processor 120 is configured to obtain, as the at least one second tag, another tag stored in association with content stored in association with at least one first tag in the external electronic device (eg, the server 108).
  • the processor 120 is configured to provide information related to content stored in association with at least one first tag in an external electronic device (eg, the server 108) (eg, a name of the content, a user who posted the content). may be obtained as at least one second tag.
  • an external electronic device eg, the server 108
  • the processor 120 may provide information related to content stored in association with at least one first tag in an external electronic device (eg, the server 108) (eg, a name of the content, a user who posted the content). may be obtained as at least one second tag.
  • the processor 120 in response to the selection of the at least one first tag, performs at least one second associated with the at least one first tag based on information acquired through a screen recognition operation. You can get tags. For example, the processor 120, along with the 1-1 tag included in the first user interface through the first recognition operation for the screen, is not included in the first user interface (eg, not recommended to the user). ) at least one 1-3 th tag related to the 1-1 th tag may be acquired (or searched for). When the 1-1 tag is selected by the second user input, the processor 120 may acquire the at least one 1-3 tag as the at least one second tag.
  • the method by which the processor 120 acquires the at least one second tag related to the at least one first tag is not limited to the above-described example.
  • the processor 120 while displaying the first user interface, selects at least one first tag from among one or more first tags included in the first user interface based on the second user input. , at least one second tag related to the at least one first tag selected based on the third user input may be acquired. For example, the processor 120 may select at least one first tag based on a second user input, and then select a function corresponding to a function of obtaining at least one second tag related to the selected at least one first tag ( Alternatively, an operation of acquiring at least one second tag related to the selected at least one first tag may be performed based on a third user input for selecting the mapped object.
  • the processor 120 may display a second user interface including at least one second tag through the display. For example, if the at least one second tag is obtained while the first user interface including the at least one first tag is displayed, the processor 120 may additionally add the at least one second tag to the first user interface. A (or newly) included second user interface (eg, a second user interface including at least one first tag and at least one second tag) may be displayed through the display.
  • a second user interface including at least one first tag and at least one second tag may be displayed through the display.
  • the processor 120 may store the acquired at least one first tag and at least one second tag in the memory 130 .
  • FIG. 3 is a flowchart 300 for explaining a method of storing an acquired tag, according to various embodiments.
  • the processor 120 may receive a first user input while displaying a screen through a display (eg, the display device 160 ).
  • the processor 120 may acquire one or more first tags by performing an operation related to a screen recognition operation based on a first user input.
  • the processor 120 may display a first user interface including one or more first tags through the display.
  • the processor 120 selects at least one of the one or more first tags included in the first user interface based on the second user input while displaying the first user interface.
  • the processor 120 may acquire at least one second tag related to the at least one first tag.
  • the processor 120 may display a second user interface including at least one second tag through the display.
  • the processor 120 may store a tag selected from among one or more first tags and at least one second tag displayed through the display in the memory 130 .
  • the processor 120 stores a tag selected by a user from among one or more objects representing one or more first tags and at least one object representing at least one second tag displayed through the display into the memory 130 .
  • a tag selected by a user from among one or more objects representing one or more first tags and at least one object representing at least one second tag displayed through the display into the memory 130 .
  • the processor 120 may maintain the selection of the at least one first tag or deselect the at least one first tag by receiving a user input for the at least one first tag.
  • the processor 120 may select a first tag that is not selected in operation 307 from among one or more first tags based on a user input.
  • the processor 120 may select one or more second tags based on a user input from among the one or more second tags acquired in operation 311 .
  • the processor 120 may store, based on a user input, the memory 130 for at least one tag whose selection is maintained, a tag selected from one or more first tags, and one or more second tags selected from among the at least one second tag.
  • the processor 120 is configured to associate (or associate a tag selected from among one or more first tags and at least one second tag with a first image (eg, a capture image for a screen currently displayed through the display). , or by mapping) may be stored in the memory 130 .
  • a first image eg, a capture image for a screen currently displayed through the display.
  • the processor 120 receives a user input for storing the selected tag in a state in which a partial recognition operation of a recognition operation for the screen or a partial operation of an operation of obtaining at least one second tag is not completed.
  • the tag obtained through the completed partial recognition operation or the partial operation and selected by the user input may be stored in the memory 130 .
  • the processor 120 may perform a first recognition operation on the screen and display the 1-1 tag acquired through the first recognition operation through the display.
  • the processor 120 receives a user input for selecting and storing the 1-1 tag while performing a second recognition operation subsequent to the first recognition operation (eg, before acquiring the 1-2 tag)
  • the second recognition operation may be stopped, and the 1-1 tag may be stored in the memory 130 .
  • the processor 120 receives a user input for storing the selected tag in a state in which a partial recognition operation of a recognition operation for the screen or a partial operation of an operation of obtaining at least one second tag is not completed.
  • a partial recognition operation or partial operation that has not been completed may be continuously performed, and a tag acquired through the continuously performed and completed partial recognition operation or partial operation may be stored in the memory 130 together with the selected tag.
  • the processor 120 may store the selected tag in the memory 130 when receiving a user input for storing the selected tag in a state where the second recognition operation continuous to the first recognition operation for the screen is not completed. , and the incomplete second recognition operation may be continuously performed.
  • the processor 120 may store the acquired 1-2 tags together with the selected tag pre-stored in the memory 130 . have.
  • FIG. 4 is a flowchart 400 for explaining a method of providing a tag-related function in the electronic device 101 according to various embodiments of the present disclosure.
  • the processor 120 may receive a first user input while displaying a screen through a display (eg, the display device 160 ).
  • the processor 120 may acquire one or more first tags by performing an operation related to a screen recognition operation based on a first user input.
  • the processor 120 may display a first user interface including one or more first tags through the display.
  • the processor 120 selects at least one of the one or more first tags included in the first user interface based on the second user input while displaying the first user interface.
  • the processor 120 may acquire at least one second tag related to the at least one first tag.
  • the processor 120 may display a second user interface including at least one second tag through the display.
  • the processor 120 may identify a function related to at least one of one or more first tags or at least one second tag.
  • the processor 120 may identify a function of an application related to at least one of one or more first tags or at least one second tag. For example, when at least one of the one or more first tags or the at least one second tag includes a specific person name, the processor 120 may configure the function of the contact application as a function of the application related to the specific person name. can be checked For another example, when at least one of the one or more first tags or the at least one second tag includes a specific geographic location name, the processor 120 may configure the map application as a function of the application related to the specific geographic location. function can be checked.
  • the processor 120 may determine a place to sell a product as a function of an application related to the product. You can check the function of the navigation application set as the destination.
  • the processor 120 may check the function of the application to store the selected tag in association with at least one of one or more first tags or at least one second tag. For example, when at least one of the one or more first tags and the at least one second tag is selected by the user, the processor 120 corresponds to the selected at least one of the user account of the electronic device 101 of the SNS application. You can check the function to save it.
  • the function of the application related to at least one of the one or more first tags or the at least one second tag is not limited to the above-described examples.
  • the processor 120 may identify a function related to the selected tag from at least one of one or more first tags or at least one second tag. For example, the processor 120 may display, via the display, the one or more first tags or the at least one second tag while displaying a second user interface including the one or more first tags and the at least one second tag. When a user input for selecting at least one of the selected functions is received, a function related to the selected at least one may be checked.
  • the processor 120 may display a third user interface including an object related to a function identified through the display.
  • the processor 120 is configured to: a first including an object representing the identified function (or an object to which the identified function is mapped), together with at least one of one or more first tags or at least one second tag.
  • the user interface can be displayed.
  • the processor 120 may display a third user interface additionally including an object indicating a function confirmed in the first interface or the second interface through the display.
  • the processor 120 may display a third user interface in which the object representing the checked function is included in the object included in the first interface or the second interface and representing the tag related to the checked function, through the display. can be displayed
  • the processor 120 may execute the identified function.
  • 5 is a flowchart 500 for explaining a method of providing a tag in the electronic device 101 according to various embodiments of the present disclosure.
  • the processor 120 may receive a user input while displaying a screen through a display (eg, the display device 160 ).
  • the processor 120 may receive a user input for recognizing the currently displayed screen (or for acquiring a tag by recognizing the currently displayed screen) through the display.
  • the processor 120 acquires (or generates) an image (or first image) for the currently displayed screen (or first screen) through the display based on the user input, and then displays the image on the acquired screen.
  • a user input for recognizing an image for the currently displayed screen (or first screen) A user input for recognizing an image for the currently displayed screen (or first screen) through the display based on the user input, and then displays the image on the acquired screen.
  • the processor 120 may receive one user input (eg, a user input received once) in order to acquire the first image and perform recognition of the first image. For example, while the first screen is displayed, the processor 120 acquires the first image and performs an operation for recognizing the first image (or an operation for acquiring a tag) successively to the operation of acquiring the first image ) can receive one user input to start.
  • one user input eg, a user input received once
  • the processor 120 acquires the first image and performs an operation for recognizing the first image (or an operation for acquiring a tag) successively to the operation of acquiring the first image
  • the processor 120 may receive a user input for recognizing the first screen without acquiring the first image (eg, without generating a capture screen for the first screen). For example, when a web page is displayed through the display, the processor 120 may generate source data (eg, without capturing the web page) (eg, without generating a capture screen for the web page). : A user input for recognizing at least one of text or an image included in a web page (or for acquiring a tag by recognizing at least one of text or an image) may be received from a source code (code).
  • code code
  • the present invention is not limited thereto.
  • the processor 120 may perform one page (eg, a part of one page displayed through the display and the display).
  • a user input for recognizing the remaining part of one page that is not displayed) may be received.
  • the processor 120 may acquire at least one 1-1 tag related to the screen by performing a first recognition operation on the screen based on the user input.
  • the processor 120 may perform a first recognition operation on the screen in response to receiving the user input.
  • the first recognition operation may include at least one recognition operation performed by the electronic device 101 .
  • the electronic device 101 when the electronic device 101 includes a configuration (eg, a neural processing unit (NPU)) capable of performing an artificial intelligence function, the artificial intelligence function is performed. It may include at least one recognition operation performed through a possible configuration.
  • the first recognition operation may be performed using a configuration (eg, an OCR program, an image recognition program) included in the electronic device 101 and capable of recognizing a screen in addition to a configuration capable of performing an artificial intelligence function. It may include at least one recognition operation performed.
  • the first recognition operation may include at least one recognition operation performed through a configuration capable of performing an artificial intelligence function and a configuration capable of performing a screen recognition operation included in the electronic device 101 . may include
  • the second recognition operation may include at least one recognition operation performed by an external electronic device (eg, the server 108 ) connected to the electronic device 101 .
  • the first recognition operation is a recognition operation performed using the NPU included in the electronic device 101
  • the second recognition operation continuously performed to the first recognition operation may perform an artificial intelligence function. It may be at least one recognition operation performed through an external electronic device (eg, the server 108) including the configuration.
  • the second recognition operation may include a detailed recognition operation of the first recognition operation.
  • the first recognition operation is an operation for recognizing the type of object (eg, a person) included in the image
  • the second recognition operation is an operation for recognizing the type of object (eg, a person) included in the image.
  • the recognition operation may be an operation of recognizing a specific target (eg, a user) corresponding to an object included in an image.
  • the first recognition operation is an operation of acquiring a tag having a higher term (or higher concept)
  • the second recognition operation is a lower term (or lower term) belonging to a higher term of the tag obtained through the first recognition operation.
  • concept may include an operation of acquiring a tag having a
  • the first recognition operation may include an operation of recognizing a name (eg, a web application) of an application related to a screen.
  • the first recognition operation may include an operation of recognizing a website address when a screen of a website is displayed through a display.
  • the first recognition operation may include an operation of recognizing the name of the content (eg, the title of the content) included in the screen displayed through the display.
  • the first recognition operation may include an operation for acquiring a tag based on a user's input log (log) related to the tag with respect to the electronic device 101 .
  • the first recognition operation may include an operation of acquiring, as a tag, a search word recently input by the user to the electronic device 101 (eg, within one week from the current time as a specified period).
  • the first recognition operation may include an operation of acquiring, as a tag, a search word input by the user a specified number of times (eg, 3 or more) to the electronic device 101 within a specified period.
  • the present invention is not limited thereto.
  • information on the user's input log (log) related to the tag is transmitted to the electronic device 101 by using the user's account of the electronic device 101 to the external electronic device related to the electronic device 101 (eg: When stored in the server 108), an operation for acquiring a tag based on a user's input log (log) related to the tag with respect to the electronic device 101 is performed through an external electronic device (eg, the server 108).
  • an external electronic device eg, the server 108
  • the processor 120 may acquire at least one 1-1 tag by performing a first recognition operation on the screen.
  • the processor 120 may display a 1-1 user interface including at least one 1-1 tag through the display.
  • the processor 120 may continuously (or sequentially) continuously (or sequentially) perform at least one recognition operation as the 1-1 recognition operation for the screen includes a plurality of recognition operations and each of the plurality of recognition operations is completed
  • the 1-1 user interface including the acquired 1-1 tag may be displayed through the display whenever the 1-1 tag is acquired.
  • the processor 120 obtains the 1-1-1th tag as a result of the 1-1-th recognition operation included in the first recognition operation, and is configured to obtain the first 1-1-1 tag including the obtained 1-1-1 tag.
  • -1-1 The user interface can be displayed through the display.
  • the processor 120 is configured to, while displaying the 1-1-1 user interface including the 1-1-1 tag, as a result of the 1-2-th recognition operation successive to the 1-1-th recognition operation, When the -2 tag is acquired, a 1-1-2 user interface including the 1-1-1 tag and the 1-1-2 tag may be displayed through the display.
  • the processor 120 when the first recognition operation for the screen includes a plurality of recognition operations, the processor 120 is configured to perform at least one first recognition operation acquired through the plurality of recognition operations after all of the plurality of recognition operations are completed.
  • the 1-1 user interface including the -1 tag may be displayed through the display.
  • the processor 120 may display objects indicating at least one 1-1 tag through the display.
  • the processor 120 may display the at least one 1-1 tag in the form of an object (eg, an icon) through the display.
  • each of the objects representing the at least one 1-1 tag may include an indicator indicating whether the object has been selected by the user.
  • the processor 120 when the at least one 1-1 tag is acquired (eg, immediately after acquiring the at least one 1-1 tag), the processor 120 is configured to: 1 An object including an indicator indicating that the tag is not selected by the user may be displayed through the display.
  • the processor 120 continues to the first recognition operation while displaying the first user interface through the display and displays the screen performed by the external electronic device (eg, the server 108). At least one 1-2 tag may be acquired through the second recognition operation.
  • the processor 120 transmits information necessary for the external electronic device (eg, the server 108 ) to perform the second recognition operation through the communication module 190 . It can be transmitted to an external electronic device (eg, the server 108). For example, the processor 120 transmits information on at least one 1-1 tag acquired as a result of performing the first recognition operation to an external electronic device (eg, the server 108) through the communication module 190 . can be sent to For another example, the processor 120 transmits information about the screen (eg, a screen captured image, a source code for the screen) to an external electronic device (eg, the server 108 ) through the communication module 190 . )) can be transmitted.
  • the processor 120 transmits information about the screen (eg, a screen captured image, a source code for the screen) to an external electronic device (eg, the server 108 ) through the communication module 190 . )) can be transmitted.
  • the external electronic device eg, the server 108
  • the processor 120 may receive the 1-2 tags generated through the second recognition operation from the external electronic device (eg, the server 108 ) through the communication module 190 . .
  • the processor 120 when the second recognition operation for the screen includes a plurality of recognition operations, the processor 120 performs each of the plurality of recognition operations performed by the external electronic device (eg, the server 108 ). As this is completed, at least one 1-2 tags that are continuously (or sequentially) generated may be received from an external electronic device (eg, the server 108 ) through the communication module 190 .
  • the processor 120 when the second recognition operation for the screen includes a plurality of recognition operations, the processor 120 performs all of the plurality of recognition operations performed in the external electronic device (eg, the server 108 ). Upon completion of this, the at least one 1-2 tag generated may be received from an external electronic device (eg, the server 108) through the communication module 190 .
  • the processor 120 may display the 1-2 first user interface including the acquired at least one 1-2 tag through the display.
  • the processor 120 may be configured to continuously (or sequentially) generate at least one second product that is continuously (or sequentially) generated as each of a plurality of recognition operations performed by the external electronic device (eg, the server 108) is completed.
  • the 1-2 tag is received from an external electronic device (eg, the server 108) through the communication module, the first 1- containing the acquired 1-2 tag every time the 1-2 tag is acquired through the display. 2
  • the user interface can be displayed.
  • the processor 120 may obtain the 1-2-1 th tag as a result of the 2-1 th recognition operation included in the second recognition operation, and obtain the first tag including the obtained 1-2-1 th tag.
  • the user interface can be displayed through the display.
  • the processor 120 is configured to, while displaying the 1-2-1 user interface including the 1-2-1 tag, perform the 1-2-th recognition operation as a result of the 2-2th recognition operation that is continuous to the 2-1-th recognition operation
  • the 1-2-2 th user interface including the 1-2-1 th tag and the 1-2-2 th tag may be displayed through the display.
  • the processor 120 may change the 1-1 tag to the 1-2 th tag.
  • the processor 120 acquires the 1-1 tag by performing a first recognition operation on the image, and after performing a second recognition operation on the image, The 1-1 tag may be changed to the 1-2 tag.
  • the screen includes an image (eg, a quick response (QR) code image) including a specific pattern (or configured with a specific pattern) on the screen
  • the object eg, QR code
  • the processor 120 may acquire information (eg, information acquired by analyzing a QR code) indicated by the specific pattern as the 1-2 tag by analyzing the specific pattern included in the image.
  • the processor 120 may remove (or make it disappear) the 1-1 tag included in the first user interface and display the 1-2 tag. For example, the processor 120 may replace the 1-1 tag and display the 1-2 th tag at the position of the first user interface where the 1-1 tag was displayed through the display.
  • the processor 120 when the second recognition operation for the screen includes a plurality of recognition operations, the processor 120 is configured to perform at least one first recognition operation acquired through the plurality of recognition operations after all of the plurality of recognition operations are completed.
  • the 1-2 user interface including the -2 tag may be displayed through the display.
  • the processor 120 may display objects indicating at least one 1-2 tag through the display.
  • the processor 120 may display at least one 1-2 tag in the form of an object (eg, an icon) through the display.
  • each of the objects representing the at least one 1-2 tag may include an indicator indicating whether the object has been selected by the user.
  • the processor 120 when the at least one 1-2 tag is acquired (eg, immediately after acquiring the at least one 1-2 tag), the processor 120 is configured to: 2 An object including an indicator indicating that the tag is not selected by the user may be displayed through the display.
  • the processor 120 may display, through the display, a 1-2 th user interface including at least one 1-1 tag and at least one 1-2 tag.
  • FIG. 5 shows that at least one second tag is obtained by selecting the at least one first tag described through operations 209 to 211 of FIG. 2 and includes at least one second tag
  • An operation of displaying the second user interface may further include an operation that is at least partially identical to or similar to the operation of displaying the second user interface.
  • the processor 120 may store the acquired at least one first tag and at least one second tag.
  • FIG. 5 confirms a function related to at least one of the one or more first tags or the at least one second tag described through operations 413 and 415 of FIG. 4 , and includes the checked function and
  • the operation of displaying the third user interface including the related object may further include an operation that is at least partially identical to or similar to that of the operation.
  • FIG. 6 is an exemplary diagram 600 for explaining a method of providing a tag related to text according to various embodiments.
  • the processor 120 uses a keyword such as 'ACoffee' as the 1-1 tag. can be obtained
  • the processor 120 may provide information on a company name of 'ACoffee' such as 'A' and a branch of 'ACoffee' such as 'A star point' (eg, 'ACoffee' closest to the current location of the electronic device 101 ). information on the point of ) can be obtained as the 1-2 tag.
  • the processor 120 may obtain, as a second tag, information on the history of company A such as 'A_history' and contact information of a branch of 'ACoffee' such as 'A Seongsujeom_phone number'.
  • the processor 120 checks a location recommendation function (eg, a function of a map application) as a function related to at least one of the 1-1 tag, the 1-2 tag, and the second tag, and maps the function to the location recommendation function. object can be displayed through the display.
  • a location recommendation function eg, a function of a map application
  • the processor 120 when the screen includes text 2 such as 'B company is working through its "C process" to figure out what to do about deepfakers', the processor 120 provides a keyword such as 'Bcompany'. It can be obtained as a 1-1 tag.
  • the processor 120 may obtain the name of the representative of Company B such as 'D' and the name of the organization that is article related to the representative of Company B such as 'E' as the 1-2 tags.
  • the processor 120 may obtain, as a second tag, a tag related to a famous remark of the representative of company B, such as 'word D', and a tag related to the property of the representative of company B, such as 'property D'.
  • the processor 120 may include 'maxim' indicating that the text 3 is a proverb. It is possible to obtain a keyword such as 1-1 as the 1-1 tag.
  • the processor 120 may acquire the name of the person related to the text 3, such as 'TSEliot', as the 1-2 tag.
  • the processor 120 may acquire, as a second tag, 'TSEliot_Life', a life of a person related to the text 3, and a work of a person related to the text 3, such as 'Thewasteland'.
  • the processor 120 selects keywords such as 'Galaxy S10' and 'Night mode'. It can be obtained as the 1-1 tag.
  • the processor 120 may acquire, as a second tag, 'Night Mode_Setting Method' related to a guide for functions of 'Galaxy S10 Note' and 'Night Mode' as a product related to the Galaxy S10.
  • the processor 120 may check the night mode function as a function related to at least one of the 1-1 tag and the second tag, and display an object capable of directly executing the night mode function through the display.
  • FIG. 7 is an exemplary diagram 700 for explaining a method of providing a tag related to an image according to various embodiments of the present disclosure.
  • the processor 120 determines that the object included in the scene corresponds to a person, and the gender and person of the person. By recognizing the operation of , 'Singing_Man' can be obtained as the 1-1 tag.
  • the processor 120 may obtain 'F' indicating the name of a movie actor and 'I' indicating a work related to a scene as the 1-2 tags.
  • the processor 120 may obtain, as the second tag, 'H' indicating the title of a movie in which the actor F recently appeared and 'I' indicating the name of the music album of the actor F.
  • the processor 120 as a function related to at least one of the 1-1 tag, the 1-2 tag, and the second tag, confirms a function for reserving a movie starring the movie actor F, and performs the checked function Executable objects can be displayed through the display.
  • the processor 120 when the screen includes an image 2 representing the user's smiling mother, the processor 120, the object included in the image 2 corresponds to a person, and by recognizing the person's gender and the person's expression, 'SmileWoman' may be acquired as the 1-1 tag.
  • the processor 120 may obtain 'MyMom' indicating the relationship between the user of the electronic device 101 and the recognized person as the 1-2 tag.
  • the processor 120 may acquire 'mother contact' as the second tag as information related to 'MyMom'.
  • the processor 120 checks the mother contact shortcut function as a function related to at least one of the 1-1 tag, the 1-2 tag, and the second tag, and displays an object capable of executing the checked function through the display. can be displayed
  • the processor 120 may obtain 'landscape' as the 1-1 tag by recognizing that image 3 represents the scenery.
  • the processor 120 acquires 'Sunset' as a detailed landscape (eg, sunset) represented by image 3 and 'EungBongSan' as a first-two tag as a geographic name (eg, Eungbongsan) corresponding to an object included in image 3 can do.
  • the processor 120 may obtain 'EungBongSan_night view' and 'EungBongSan_parking lot' as the second tag as information related to 'EungBongSan'.
  • the processor 120 checks a location recommendation function (eg, a map application, a navigation application function) as a function related to at least one of the 1-1 tag, the 1-2 tag, and the second tag, and performs the checked function.
  • a location recommendation function eg, a map application, a navigation application function
  • Executable objects can be displayed through the display.
  • the processor 120 may acquire 'food' as the 1-1 tag by recognizing that image 4 corresponds to food.
  • the processor 120 may obtain 'Gambas', 'GambasAlAjillo', and 'SpanishGarlicShrimp' as the first and second tags as the type (or menu) of the shrimp food.
  • the processor 120 may acquire 'restaurant J' and 'restaurant K' as the second tag as information on a place where shrimp food is provided.
  • the processor 120 checks the function of recommending a restaurant as a function related to at least one of the 1-1 tag, the 1-2 tag, and the second tag, and displays an object capable of executing the checked function through the display. can be displayed
  • the processor 120 may acquire 'night' as the 1-1 tag by recognizing that the image 5 is photographed at night.
  • the processor 120 may obtain 'L' indicating a place related to the night view as the second tag.
  • the processor 120 may check a night mode function as a function related to at least one of the 1-1 tag and the second tag, and display an object capable of executing the checked function through the display.
  • the processor 120 may acquire '2020JazzFestival' as the 1-1 tag by recognizing the representative text of the performance poster.
  • the processor 120 may acquire 'May25th' and 'OlympicPark' as the 1-2 tags by recognizing the detailed text of the performance poster.
  • the processor 120 may acquire 'M_Festival' as information related to another performance and OlympicPark_location' as information on a geographic location where the performance is performed as the second tag.
  • the processor 120 checks, as a function related to at least one of the 1-1 tag, the 1-2 tag, and the second tag, a function for storing a schedule related to a performance and a function for reserving a ticket for a performance, , Objects that can execute the checked function can be displayed through the display.
  • the processor 120 uses 'QR' and 'QR_code' indicating that the object represented by the image 7 corresponds to the QR code as the 1-1 tag. can be obtained
  • the processor 120 may acquire 'article', 'internet', and 'payment' as the 1-2 tags according to information obtained by analyzing the QR code.
  • the processor 120 may acquire 'QR_code_scan method' and 'QR_code_type' as the second tag as information related to the QR code.
  • the processor 120 checks an Internet function and a payment function as a function related to at least one of the 1-1 tag, the 1-2 tag, and the second tag, and displays an object capable of executing the checked function through the display. can be displayed
  • 8A to 8C are exemplary diagrams for explaining a method of providing a tag in the electronic device 101, according to various embodiments of the present disclosure.
  • the processor 120 displays a screen 810 including text and images (eg, the display device 160). can be displayed through
  • the screen 810 may be a screen displayed by executing a web application.
  • a screen to be captured or a screen to be recognized (or a screen capable of acquiring a tag) is not limited to an execution screen of a web application such as the screen 910 .
  • the screen to be captured or the screen to be recognized may include all screens that can be displayed through a display such as a home screen or a lock screen.
  • the screen 810 is exemplified as including both text and an image, a screen to be captured or a screen to be recognized may include only text or a screen including only an image.
  • the processor 120 may receive a user input for acquiring (or generating) an image (eg, a captured image) of the screen 810 .
  • the processor 120 displays a screen 820 including an interface 821 including objects representing a plurality of functions for performing a function related to the screen. can be displayed through For example, the processor 120, as shown in the figure 802, along with the reduced image 822-1 of the screen 810, the object 822-2 representing the scroll capture function, the captured An object 822-3 representing a function of editing an image, an object 822 representing a function of performing a screen recognition function, and an object 822-4 representing a function of sharing a captured image with other users
  • the included interface 821 may be displayed through the display.
  • the processor 120 may first recognize the screen 810 in response to receiving a user input for selecting an object 822 representing a function of performing a recognition function on the screen 810 . action can be performed.
  • the processor 120 as shown in the figure 803, a screen 830 including a first interface 831 including the first-to-first tags obtained through the first recognition operation can be displayed through the display.
  • the processor 120 acquires 1-1 tags by recognizing text included in the screen 810 , and objects 832-1 to 832-6 representing the acquired 1-1 tags.
  • the objects 832-1 to 832-6 representing the 1-1 tags may include '+' as an indicator indicating that the 1-1 tags are not selected by the user.
  • the 1-1 interface may include an object 833 for generating a tag by receiving text from a user.
  • the processor 120 is related to a second recognition operation (eg, a recognition operation performed by an external electronic device (eg, the server 108 )) successive to the first recognition operation for the screen 810 . action can be performed.
  • the processor 120 may acquire at least one 1-2 tags by performing an operation related to the second recognition operation. For example, the processor 120 may recognize that the image included in the screens 810 , 820 , and 830 is 'Deoksugung' as an object (eg, a palace).
  • the processor 120 may display a screen including the second user interface including the obtained at least one 1-1 tag through the display.
  • the processor 120 includes a 1-2 first user interface 841 that includes an object 832-7 representing at least one 1-2 tag.
  • screen 840 may be displayed through the display.
  • the processor 120 may receive a user input for selecting at least one tag among tags included in the 1-2 user interface while displaying the 1-2 user interface. For example, the processor 120 may receive a user input for selecting an object 832 - 7 representing a tag among tags included in the 1-2 user interface. In an embodiment, when receiving a user input for selecting at least one tag from among the tags included in the 1-2 first user interface, the processor 120 selects an object representing the selected tag to represent other unselected tags. The indicator of the object indicating the selected tag may be changed to be distinguished from the objects. For example, as shown in the figure 805, when the object 832-7 is selected, the processor 120 changes the indicator of the object 832-7 from '+' to '#' ( 850) may be displayed through the display.
  • the processor 120 may acquire a second tag related to the at least one selected tag. For example, as shown in FIG. 806 , the processor 120 may acquire 'Deoksugung_Doldam-gil' associated with 'Deoksugung' as the selected tag as the second tag.
  • the processor 120 may display the screen 860 including the second user interface 861 including the object 832 - 7 representing the second tag through the display.
  • the processor 120 acquires the second tag through a user interface (eg, the 1-1 user interface, the 1-2 user interface).
  • An object for performing (or starting) an action to be performed may be further displayed.
  • the processor 120 may perform an operation of acquiring the second tag in response to a user input for an object for performing an operation of acquiring the second tag.
  • the present invention is not limited thereto, and the processor 120 receives a user input for selecting at least one tag from among the tags included in the first user interface without displaying an object for performing the operation of obtaining the second tag.
  • an operation of acquiring a second tag related to the at least one selected tag may be performed.
  • the processor 120 may check a function related to at least one tag among tags acquired through recognition of the screen 810 .
  • the processor 120 may display a user interface including an object representing the confirmed function through the display. For example, as shown in figure 807 , the processor 120 may configure an object 873 for executing a night mode function associated with the tag 'night mode' and a map application (or navigation system) associated with the tag 'Deoksugung'.
  • the screen 870 including the second user interface 871 including the object 875 for executing the application) may be displayed through the display.
  • an image eg, a capture image
  • the processor 120 may perform a recognition operation for a screen displayed through the display without generating an image for the screen.
  • the processor 120 may acquire a tag by generating an image for the screen 810 and then performing a recognition operation on the generated image, but is not limited thereto.
  • the processor 120 may perform a recognition operation on the screen 810 without generating an image of the screen 810 with respect to the screen 810 .
  • 9A and 9B are exemplary diagrams for explaining a method of providing a tag-related function in the electronic device 101, according to various embodiments of the present disclosure.
  • the processor 120 is displayed on a poster including a walking person 951 and a QR code 953 .
  • a screen 910 including a 1-1 user interface 911 including objects 912-1 to 912-6 representing tags acquired through a first recognition operation is displayed (eg, : Can be displayed through the display device 160).
  • the objects 912-1, 912-2, 912-3, 912-5, and 912-6 have an indicator (eg, '#') indicating that they are selected by the user. and an indicator (eg, '+') indicating that the object 912 - 4 is not selected by the user.
  • the 1-1 user interface 911 may further include an object 913 for receiving text input from a user and generating a tag.
  • the processor 120 may display an object representing a function related to a tag acquired through the first recognition operation through the display in various ways.
  • the processor 120 may determine that the QR code 953 includes a pattern of a specific uniform resource locator (URL) by analyzing (or recognizing) the QR code 953 from the image. The processor 120 may confirm that execution of the function of the web application is necessary to access a specific URL. The processor 120 may check the function of the web application as a function related to the tag 'qr_code' of the QR code 953 .
  • URL uniform resource locator
  • the processor 120 transmits an object 924 indicating a function related to the identified tag (or a tag of the object 923 ), such as the screen 920 of the drawing 902 , to the 1-2 user.
  • the object 923 may be displayed in an area different from the displayed area through the display in the form of an image icon.
  • the processor 120 first displays an object 933 representing a function related to an identified tag (or a tag of an object 932 representing a tag), such as a screen 930 of the drawing 903 . -2 It may be displayed through a display in the form of an image icon together with a tag within the object 932 included in the user interface 931 .
  • the processor 120 in response to receiving an input for the object 933 from the user, a function corresponding to the object 933 (eg, a function of a web application, a QR code ( 953) by accessing a specific URL) to display information).
  • the processor 120 such as the screen 940 of the drawing 904, the object 942 representing the function related to the identified tag (or the tag of the object 912-3), the first- 2 In the user interface 941 , the object 912 - 3 may be displayed in an area different from the displayed area through the display in the form of a text icon.
  • 10A and 10B are exemplary diagrams for explaining a method of providing a tag-related function in the electronic device 101, according to various embodiments of the present disclosure.
  • the processor 120 as shown in the figure 1001, a QR code 1061, food menus ordered by the user, and food menus ordered by the user
  • the screen 1010 may be displayed through a display (eg, the display device 160 ).
  • the objects 1012-1, 1012-2, 1012-5, 1012-6 include an indicator (eg, '#') indicating that they are selected by the user, and the object
  • the fields 1012 - 3 and 1012 - 4 may include an indicator (eg, '+') indicating that they are not selected by the user.
  • the 1-1 user interface 1011 may further include an object 1013 for receiving text input from a user and generating a tag.
  • the processor 120 may display an object representing a function related to a tag acquired through the first recognition operation through the display in various ways.
  • the processor 120 by analyzing (or recognizing) the QR code 1061 from the image, the QR code 1061 information about the payment of the cost 1063 for the food menus ordered by the user. You can check that it is included.
  • the processor 120 may confirm that execution of the function of the payment application is necessary to pay for the food menus ordered by the user.
  • the processor 120 may check the function of the payment application as a function related to the tag 'qr_code' of the QR code 1061 .
  • the processor 120 transmits an object 1023 indicating a function related to an identified tag (or a tag of the object 1022 ), such as the screen 1020 of the drawing 1002 , to the 1-2 user.
  • the object 1023 may be displayed in an area different from the displayed area through the display in the form of an image icon.
  • the processor 120 displays an object 1033 indicating a function related to an identified tag (or a tag of the object 1032), such as the screen 1030 of the drawing 1003, through the display;
  • the object 1032 may be displayed by changing (eg, changing at least one of the color, brightness, or saturation of the object 1032 ).
  • the processor 120 may change the 1-1 tag to the 1-2 th tag. For example, if the screen 1010 of the drawing 1001 and the screen 1040 of the drawing 1004 are compared, the processor 120 sets the object 1012-2 representing the tag 'qr_code' to the tag '70,000 won. It can be changed to an object 1043 representing '.
  • the processor 120 by analyzing a specific pattern of the QR code 1061 included in the image, may check the cost (eg, 70,000 won) of the food menus ordered by the user as information indicated by the specific pattern.
  • the processor 120 may acquire the checked cost as a tag, and change the tag 'qr_code' acquired through the first recognition operation to the tag '70,000 won' acquired through the second recognition operation.
  • the processor 120 includes tags selected by the user (eg, objects 1012-1, 1022, 1012-5, 1012- 6) can display the first 1-2 user interface 1051 including an object 1053 for storing the tags indicated by) corresponding to the account of the user of the electronic device 101 of the SNS application through the display. have.
  • FIG. 11 is an exemplary diagram for explaining a method of providing a tag by a user inputting text, according to various embodiments of the present disclosure
  • the processor 120 includes an object (eg, object 1111 ) that allows a tag to be generated by a user input (or manually) together with at least one tag.
  • a user interface may be displayed through the display.
  • the processor 120 displays an object enabling the tag to be generated by the user's input together with the at least one tag, the drawing 1101
  • the keyboard 1112 may be displayed through a display (eg, the display device 160 ) together with an object that allows a tag to be generated by a user's input.
  • the processor 120 when a user input for inputting text is received through the keyboard 1112 , the processor 120 displays the inputted text through the object 1111 as shown in the screen 1120 of the drawing 1102 . can do. In an embodiment, when one or more characters are input by the user, the processor 120 may display the text provided by the automatic completion function for the characters input in the object 1111 through the object 1113 . In an embodiment, when receiving an input for the object 1114 from the user after text is input, the processor 120 may acquire the input text as a tag and display the acquired tag through a display .
  • FIG. 12 is an exemplary diagram for explaining a method of storing a tag according to various embodiments of the present disclosure.
  • the processor 120 acquires one or more tags and then displays a user interface 1211 including the acquired one or more tags through a display (eg, the display device 160 ). can be displayed
  • the processor 120 may receive a user input for selecting at least one tag among one or more tags included in the user interface 1211 .
  • the processor 120 may include objects 1213 , 1214 , and 1215 representing tags among objects representing one or more tags included in the user interface 1211 . This may indicate that it is selected by the user.
  • the processor 120 may store the selected tag in the memory 130 .
  • drawing 1202 may represent screen 1220 showing detailed information about an image captured and then stored for the screen.
  • the processor 120 may store the selected tags (eg, tags 1223 , 1224 , 1225 ) in the memory 130 in association with the captured image of the screen. have.
  • the processor 120 stores the selected tag in the memory 130 when receiving a user input for storing the selected tag in a state where the second recognition operation continuous to the first recognition operation for the screen is not completed. ), and the incomplete second recognition operation may be continuously performed.
  • the processor 120 may store the additionally acquired tag together with the selected tag pre-stored in the memory 130 .
  • the processor 120 when storing the tags 1223, 1224, 1225, by continuously performing the incomplete second recognition operation is additionally (or newly) acquired, along with the tags 1223 , 1224 , and 1225 previously stored in the memory 130 , at least one additionally acquired tag 1226 , 1227 may be further stored in the memory 130 . have.
  • FIG. 13 is an exemplary diagram 1301 and 1302 for explaining a method of displaying a stored tag according to various embodiments of the present disclosure.
  • the processor 120 displays a screen 1310 including a list of the stored tags (eg, the display device 160 ). can be displayed through
  • the processor 120 may display a screen 1310 including a list of stored tags through a display in response to executing an application (eg, Tags application) for managing stored tags. .
  • an application eg, Tags application
  • the processor 120 may display the stored tags through a gallery application that manages images. For example, as shown in the screen 1320 of the drawing 1302 , the processor 120 displays content stored in relation to the gallery application through the area 1321 when the gallery application is executed, and the area Through 1323, tags stored in association with content stored in association with the gallery application may be displayed.
  • a method of displaying a screen including a list of stored tags is not limited to the above-described examples.
  • a method for providing a tag in an electronic device 101 includes receiving a first user input while displaying a screen through the display of the electronic device 101 ; Acquiring one or more first tags related to the screen by performing an operation related to a recognition operation for the screen based on a first user input, a first user including the one or more first tags through the display displaying an interface, while displaying the first user interface, selecting at least one first tag from among the one or more first tags based on a second user input; The method may include obtaining a related at least one second tag, and displaying a second user interface including the at least one second tag through the display.
  • the recognition operation for the screen includes a plurality of recognition operations including a first recognition operation and a second recognition operation successively performed to the recognition operation, and the first recognition operation is performed by the electronic device ( 101 ), and the second recognition operation may be performed by an external electronic device (eg, the server 108 ) connected to the electronic device 101 .
  • the obtaining of the one or more first tags includes obtaining at least one first-to-one tag through the first recognition operation and at least one first tag through the second recognition operation - acquiring a tag -2, wherein the displaying of the first user interface includes displaying the first user interface including the acquired at least one 1-1 tag through the display and the at least one first 1-2 tag obtained by performing the second recognition operation while displaying the first user interface through the display, and the first user including the 1-1 tag It may include an operation of displaying an interface.
  • the method includes storing at least one tag among the one or more first tags, obtaining the one or more first tags, displaying the first user interface, and the at least one
  • the operation of storing the tag of may include: acquiring at least one 1-1 tag through the first recognition operation; and the first including the acquired at least one 1-1 tag through the display. displaying a user interface; storing the at least one 1-1 tag in the memory 130 in response to a user input received while the second recognition operation is performed; After storing the first tag, acquiring at least one 1-2 tag by completing the second recognition operation, and converting the acquired at least one 1-2 tag into the at least one 1-1 tag It may include an operation of storing in the memory 130 together with
  • the acquiring of the at least one second tag includes the electronic device 101 or an external electronic device connected to the electronic device 101 (eg, the server 108 ). and acquiring the at least one second tag related to the first tag of .
  • the obtaining of the at least one second tag includes identifying content stored in association with the at least one first tag in the memory 130 of the electronic device 101 , and the content and obtaining, as the at least one second tag, at least one of information related to and at least one tag stored in association with the content.
  • the acquiring of the at least one second tag may include providing the at least one first tag to the electronic device 101 that provides a web service subscribed to using an account of a user of the electronic device 101 .
  • the method may include checking content stored in association with a tag, and acquiring at least one of information related to the content or at least one tag stored in association with the content as the at least one second tag.
  • the first user interface including an operation of identifying a function related to at least one of the one or more first tags or the second tag, and an object representing the identified function through the display
  • the method may further include displaying the second user interface.
  • the structure of the data used in the above-described embodiment of the present invention may be recorded in a computer-readable recording medium through various means.
  • the computer-readable recording medium includes a storage medium such as a magnetic storage medium (eg, a ROM, a floppy disk, a hard disk, etc.) and an optically readable medium (eg, a CD-ROM, a DVD, etc.).

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Library & Information Science (AREA)
  • Business, Economics & Management (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Human Resources & Organizations (AREA)
  • Strategic Management (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Economics (AREA)
  • General Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Tourism & Hospitality (AREA)
  • Software Systems (AREA)
  • Computational Linguistics (AREA)
  • Quality & Reliability (AREA)
  • Operations Research (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Primary Health Care (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

본 발명의 다양한 실시예들에 따른 전자 장치는, 디스플레이, 상기 디스플레이와 작동적으로 연결되는 프로세서, 및 상기 프로세서와 작동적으로 연결된 메모리를 포함하고, 상기 메모리는, 실행 시, 상기 프로세서가, 상기 디스플레이를 통하여 화면을 표시하는 동안 제 1 사용자 입력을 수신하고, 상기 제 1 사용자 입력에 기반하여 상기 화면에 대한 인식 동작과 관련된 동작을 수행함으로써, 상기 화면과 관련된 하나 이상의 제 1 태그들을 획득하고, 상기 디스플레이를 통하여 상기 하나 이상의 제 1 태그들을 포함하는 제 1 사용자 인터페이스를 표시하고, 상기 제 1 사용자 인터페이스를 표시하는 동안, 제 2 사용자 입력에 기반하여 상기 하나 이상의 제 1 태그들 중 적어도 하나의 제 1 태그를 선택하고, 상기 적어도 하나의 제 1 태그와 관련된 적어도 하나의 제 2 태그를 획득하고, 상기 디스플레이를 통하여 상기 적어도 하나의 제 2 태그를 포함하는 제 2 사용자 인터페이스 표시하도록 하는 인스트럭션들을 저장할 수 있다.

Description

태그를 제공하는 방법 및 이를 지원하는 전자 장치
본 발명의 다양한 실시예들은, 태그를 제공하는 방법 및 이를 지원하는 전자 장치에 관한 것이다.
전자 장치는 태그(예: 해시태그(hashtag))를 이용하여 콘텐트를 분류하고 콘텐트를 검색할 수 있다. 예를 들어, 전자 장치는, 카메라를 이용하여 이미지를 획득한 후, 획득한 이미지와 획득한 이미지와 관련된 태그를 연관하여 저장할 수 있다. 전자 장치는, 사용자로부터 특정 태그를 검색하기 위한 입력이 수신되면, 전자 장치에 저장된 복수의 이미지들 중 특정 태그와 연관되어 저장된 이미지를 검색하고, 검색된 이미지를 사용자에게 제공할 수 있다.
최근, 전자 장치는 태그 제공(또는 추천) 기능을 제공하고 있다. 예를 들어, 전자 장치는, 사용자로부터 전자 장치에 표시된 화면을 캡처(capture)하기 위한 입력을 수신한 경우, 캡처된 화면을 인식(또는 분석)함으로써 캡처된 화면과 관련된 태그를 획득(또는 생성)하고, 캡처된 화면과 함께 획득한 태그를 제공할 수 있다.
전자 장치는, 전자 장치에 표시된 화면에 대하여 전자 장치에서 수행되는 인식 동작을 통하여 획득한 태그만을 사용자에게 제공하다. 이에 따라, 전자 장치는 제한된 정보에 기반하여 획득한 태그를 제공하고 있어, 보다 다양한 정보에 기반하여 획득한 태그를 사용자에게 제공할 필요가 있다.
본 발명의 다양한 실시예들은, 전자 장치 및 전자 장치와 연결된 외부 전자 장치(예: 서버)를 통하여 전자 장치에 표시된 화면에 대한 인식 동작을 수행함으로써 다양한 태그를 제공할 수 있는, 태그를 제공하는 방법 및 이를 지원하기 위한 포함하는 전자 장치에 관한 것이다.
본 발명이 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 발명의 다양한 실시예들에 따른 전자 장치는, 디스플레이, 상기 디스플레이와 작동적으로 연결되는 프로세서, 및 상기 프로세서와 작동적으로 연결된 메모리를 포함하고, 상기 메모리는, 실행 시, 상기 프로세서가, 상기 디스플레이를 통하여 화면을 표시하는 동안 제 1 사용자 입력을 수신하고, 상기 제 1 사용자 입력에 기반하여 상기 화면에 대한 인식 동작과 관련된 동작을 수행함으로써, 상기 화면과 관련된 하나 이상의 제 1 태그들을 획득하고, 상기 디스플레이를 통하여 상기 하나 이상의 제 1 태그들을 포함하는 제 1 사용자 인터페이스를 표시하고, 상기 제 1 사용자 인터페이스를 표시하는 동안, 제 2 사용자 입력에 기반하여 상기 하나 이상의 제 1 태그들 중 적어도 하나의 제 1 태그를 선택하고, 상기 적어도 하나의 제 1 태그와 관련된 적어도 하나의 제 2 태그를 획득하고, 상기 디스플레이를 통하여 상기 적어도 하나의 제 2 태그를 포함하는 제 2 사용자 인터페이스 표시하도록 하는 인스트럭션들을 저장할 수 있다.
본 발명의 다양한 실시예들에 따른 전자 장치는, 디스플레이, 상기 디스플레이와 작동적으로 연결되는 프로세서, 및 상기 프로세서와 작동적으로 연결된 메모리를 포함하고, 상기 메모리는, 실행 시, 상기 프로세서가, 상기 디스플레이를 통하여 화면을 표시하는 동안 사용자 입력을 수신하고, 상기 사용자 입력에 기반하여 상기 화면에 대한 제 1 인식 동작을 수행함으로써, 상기 화면과 관련된 적어도 하나의 제 1 태그를 획득하고, 상기 디스플레이를 통하여 상기 적어도 하나의 제 1 태그를 포함하는 제 1 사용자 인터페이스를 표시하고, 상기 제 1 사용자 인터페이스를 표시하는 동안, 상기 제 1 인식 동작에 연속하고 상기 전자 장치와 연결된 외부 전자 장치에서 수행된 상기 화면에 대한 제 2 인식 동작을 통하여, 적어도 하나의 제 2 태그를 획득하고, 상기 디스플레이를 통하여, 상기 획득한 적어도 하나의 제 2 태그를 포함하는 제 2 사용자 인터페이스를 표시하도록 하는 인스트럭션들을 저장할 수 있다.
본 발명의 다양한 실시예들에 따른, 전자 장치에서 태그를 제공하기 위한 방법은, 상기 전자 장치의 상기 디스플레이를 통하여 화면을 표시하는 동안 제 1 사용자 입력을 수신하는 동작, 상기 제 1 사용자 입력에 기반하여 상기 화면에 대한 인식 동작과 관련된 동작을 수행함으로써, 상기 화면과 관련된 하나 이상의 제 1 태그들을 획득하는 동작, 상기 디스플레이를 통하여 상기 하나 이상의 제 1 태그들을 포함하는 제 1 사용자 인터페이스를 표시하는 동작, 상기 제 1 사용자 인터페이스를 표시하는 동안, 제 2 사용자 입력에 기반하여 상기 하나 이상의 제 1 태그들 중 적어도 하나의 제 1 태그를 선택하는 동작, 상기 적어도 하나의 제 1 태그와 관련된 적어도 하나의 제 2 태그를 획득하는 동작, 및 상기 디스플레이를 통하여 상기 적어도 하나의 제 2 태그를 포함하는 제 2 사용자 인터페이스 표시하는 동작을 포함할 수 있다.
본 발명의 다양한 실시예에 따른 태그를 제공하는 방법 및 이를 지원하기 위한 전자 장치는, 전자 장치 및 전자 장치와 연결된 외부 전자 장치(예: 서버)를 통하여 전자 장치에 표시된 화면에 대한 인식 동작을 수행함으로써 다양한 태그를 제공할 수 있다.
도 1은, 다양한 실시예에 따른, 네트워크 환경 내의 전자 장치의 블럭도이다.
도 2는, 다양한 실시예들에 따른, 전자 장치에서 태그를 제공하는 방법을 설명하기 위한 흐름도이다.
도 3은, 다양한 실시예들에 따른, 획득한 태그를 저장하는 방법을 설명하기 위한 흐름도이다.
도 4는, 다양한 실시예들에 따른, 전자 장치에서 태그와 관련된 기능을 제공하는 방법을 설명하기 위한 흐름도이다.
도 5는, 다양한 실시예들에 따른, 전자 장치에서 태그를 제공하는 방법을 설명하기 위한 흐름도이다.
도 6은, 다양한 실시예들에 따른, 텍스트와 관련된 태그를 제공하는 방법을 설명하기 위한 예시도이다.
도 7은, 다양한 실시예들에 따른, 이미지와 관련된 태그를 제공하는 방법을 설명하기 위한 예시도이다.
도 8a 내지 도 8c는, 다양한 실시예들에 따른, 전자 장치에서 태그를 제공하는 방법을 설명하기 위한 예시도이다.
도 9a 및 도 9b는, 다양한 실시예들에 따른, 전자 장치에서 태그와 관련된 기능을 제공하는 방법을 설명하기 위한 예시도이다.
도 10a 및 도 10b는, 다양한 실시예들에 따른, 전자 장치에서 태그와 관련된 기능을 제공하는 방법을 설명하기 위한 예시도이다.
도 11은, 다양한 실시예들에 따른, 사용자가 텍스트를 입력함으로써 태그를 제공하는 방법을 설명하기 위한 예시도이다.
도 12는, 다양한 실시예들에 따른, 태그를 저장하는 방법을 설명하기 위한 예시도이다.
도 13은, 다양한 실시예들에 따른, 저장된 태그를 표시하는 방법을 설명하기 위한 예시도이다.
도 1은, 다양한 실시예에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블럭도이다.
도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제 1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제 2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108)와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 장치(150), 음향 출력 장치(155), 표시 장치(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 표시 장치(160) 또는 카메라 모듈(180))가 생략되거나, 하나 이상의 다른 구성 요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들은 하나의 통합된 회로로 구현될 수 있다. 예를 들면, 센서 모듈(176)(예: 지문 센서, 홍채 센서, 또는 조도 센서)은 표시 장치(160)(예: 디스플레이)에 임베디드된 채 구현될 수 있다
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)을 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 로드하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일 실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서), 및 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 추가적으로 또는 대체적으로, 보조 프로세서(123)은 메인 프로세서(121)보다 저전력을 사용하거나, 또는 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 표시 장치(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일 실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성 요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 장치(150)는, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 장치(150)는, 예를 들면, 마이크, 마우스, 키보드, 또는 디지털 펜(예:스타일러스 펜)을 포함할 수 있다.
음향 출력 장치(155)는 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 장치(155)는, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있고, 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일 실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
표시 장치(160)는 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 표시 장치(160)는, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일 실시예에 따르면, 표시 장치(160)는 터치를 감지하도록 설정된 터치 회로(touch circuitry), 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 센서 회로(예: 압력 센서)를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일 실시예에 따르면, 오디오 모듈(170)은, 입력 장치(150)를 통해 소리를 획득하거나, 음향 출력 장치(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102)) (예: 스피커 또는 헤드폰))를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일 실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일 실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일 실시예에 따르면, 연결 단자(178)은, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일 실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일 실시예에 따르면, 전력 관리 모듈(388)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성 요소에 전력을 공급할 수 있다. 일 실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108))간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일 실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(198)(예: 블루투스, WiFi direct 또는 IrDA(infrared data association) 같은 근거리 통신 네트워크) 또는 제 2 네트워크(199)(예: 셀룰러 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부 전자 장치와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성 요소(예: 단일 칩)으로 통합되거나, 또는 서로 별도의 복수의 구성 요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 및 인증할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일 실시예에 따르면, 안테나 모듈은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 하나의 안테나를 포함할 수 있다. 일 실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들을 포함할 수 있다. 이런 경우, 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC)이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))를 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일 실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일 실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부 전자 장치들(102, 104, or 108) 중 하나 이상의 외부 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다.. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치 (예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나","A 또는 B 중 적어도 하나,""A, B 또는 C," "A, B 및 C 중 적어도 하나,"및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일 실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장매체 는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 저장매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일 실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두개의 사용자 장치들(예: 스마트폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.
본 발명의 다양한 실시예들에 따른 전자 장치(101)는, 디스플레이(예: 표시 장치(160)), 상기 디스플레이와 작동적으로 연결되는 프로세서(120), 및 상기 프로세서(120)와 작동적으로 연결된 메모리(130)를 포함하고, 상기 메모리(130)는, 실행 시, 상기 프로세서(120)가, 상기 디스플레이를 통하여 화면을 표시하는 동안 제 1 사용자 입력을 수신하고, 상기 제 1 사용자 입력에 기반하여 상기 화면에 대한 인식 동작과 관련된 동작을 수행함으로써, 상기 화면과 관련된 하나 이상의 제 1 태그들을 획득하고, 상기 디스플레이를 통하여 상기 하나 이상의 제 1 태그들을 포함하는 제 1 사용자 인터페이스를 표시하고, 상기 제 1 사용자 인터페이스를 표시하는 동안, 제 2 사용자 입력에 기반하여 상기 하나 이상의 제 1 태그들 중 적어도 하나의 제 1 태그를 선택하고, 상기 적어도 하나의 제 1 태그와 관련된 적어도 하나의 제 2 태그를 획득하고, 상기 디스플레이를 통하여 상기 적어도 하나의 제 2 태그를 포함하는 제 2 사용자 인터페이스 표시하도록 하는 인스트럭션들을 저장할 수 있다.
본 발명의 다양한 실시예들에 따른 전자 장치(101)는, 디스플레이, 상기 디스플레이와 작동적으로 연결되는 프로세서(120), 및 상기 프로세서(120)와 작동적으로 연결된 메모리(130)를 포함하고, 상기 메모리(130)는, 실행 시, 상기 프로세서(120)가, 상기 디스플레이를 통하여 화면을 표시하는 동안 사용자 입력을 수신하고, 상기 사용자 입력에 기반하여 상기 화면에 대한 제 1 인식 동작을 수행함으로써, 상기 화면과 관련된 적어도 하나의 제 1 태그를 획득하고, 상기 디스플레이를 통하여 상기 적어도 하나의 제 1 태그를 포함하는 제 1 사용자 인터페이스를 표시하고, 상기 제 1 사용자 인터페이스를 표시하는 동안, 상기 제 1 인식 동작에 연속하고 상기 전자 장치(101)와 연결된 외부 전자 장치(예: 서버(108))에서 수행된 상기 화면에 대한 제 2 인식 동작을 통하여, 적어도 하나의 제 2 태그를 획득하고, 상기 디스플레이를 통하여, 상기 획득한 적어도 하나의 제 2 태그를 포함하는 제 2 사용자 인터페이스를 표시하도록 하는 인스트럭션들을 저장할 수 있다.
다양한 실시예에서, 상기 화면에 대한 인식 동작은 제 1 인식 동작 및 상기 인식 동작에 연속적으로 수행되는 제 2 인식 동작을 포함하는 복수의 인식 동작들을 포함하고, 상기 제 1 인식 동작은 상기 전자 장치(101)에서 수행되고, 상기 제 2 인식 동작은 상기 전자 장치(101)와 연결된 외부 전자 장치(예: 서버(108))에서 수행될 수 있다.
다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(120)가, 상기 제 1 인식 동작을 통하여 적어도 하나의 제 1-1 태그를 획득하고, 상기 제 2 인식 동작을 통하여 적어도 하나의 제 1-2 태그를 획득하고, 상기 디스플레이를 통하여, 상기 획득된 적어도 하나의 제 1-1 태그를 포함하는 상기 제 1 사용자 인터페이스를 표시하고, 상기 디스플레이를 통하여, 상기 제 1 사용자 인터페이스를 표시하는 동안 상기 제 2 인식 동작을 수행함으로써 획득한 상기 적어도 하나의 제 1-2 태그와, 상기 제 1-1 태그를 포함하는 상기 제 1 사용자 인터페이스를 표시할 수 있다.
다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(120)가, 상기 제 1 인식 동작을 통하여 적어도 하나의 제 1-1 태그를 획득하고, 상기 디스플레이를 통하여, 상기 획득된 적어도 하나의 제 1-1 태그를 포함하는 상기 제 1 사용자 인터페이스를 표시하고, 상기 제 2 인식 동작이 수행되는 동안 수신된 사용자 입력에 응답하여 상기 적어도 하나의 제 1-1 태그를 상기 메모리(130)에 저장하고, 상기 적어도 하나의 제 1-1 태그를 저장한 후, 상기 제 2 인식 동작이 완료됨으로써 적어도 하나의 제 1-2 태그를 획득하고, 상기 획득된 적어도 하나의 제 1-2 태그를 상기 적어도 하나의 제 1-1 태그와 함께 상기 메모리(130)에 저장하도록 할 수 있다.
다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(120)가, 상기 전자 장치(101) 또는 상기 전자 장치(101)와 연결된 외부 전자 장치(예: 서버(108))를 통하여, 상기 적어도 하나의 제 1 태그와 관련된 상기 적어도 하나의 제 2 태그를 획득하도록 할 수 있다.
다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(120)가, 상기 메모리(130)에 상기 적어도 하나의 제 1 태그와 연관되어 저장된 콘텐트를 확인하고, 상기 콘텐트와 관련된 정보 또는 상기 콘텐트와 연관되어 저장된 적어도 하나의 태그 중 적어도 하나를 상기 적어도 하나의 제 2 태그로서 획득하도록 할 수 있다.
다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(120)가, 상기 전자 장치(101)의 사용자의 계정을 이용하여 가입한 웹 서비스를 제공하는 전자 장치(101)에 상기 적어도 하나의 제 1 태그와 연관되어 저장된 콘텐트를 확인하고, 상기 콘텐트와 관련된 정보 또는 상기 콘텐트와 연관되어 저장된 적어도 하나의 태그 중 적어도 하나를 상기 적어도 하나의 제 2 태그로서 획득하도록 할 수 있다.
다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(120)가, 상기 디스플레이를 통하여, 상기 하나 이상의 제 1 태그들 및 상기 제 2 태그를 포함하는 상기 제 2 사용자 인터페이스를 표시하도록 할 수 있다.
다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(120)가, 상기 하나 이상의 제 1 태그들 또는 상기 제 2 태그 중 적어도 하나의 태그와 관련된 기능을 확인하고, 상기 디스플레이를 통하여 상기 확인된 기능을 나타내는 오브젝트를 포함하는 상기 제 1 사용자 인터페이스 또는 상기 제 2 사용자 인터페이스를 표시하도록 할 수 있다.
본 발명의 다양한 실시예들에 따른 전자 장치(101)는, 디스플레이, 상기 디스플레이와 작동적으로 연결되는 프로세서(120), 및 상기 프로세서(120)와 작동적으로 연결된 메모리(130)를 포함하고, 상기 메모리(130)는, 실행 시, 상기 프로세서(120)가, 상기 디스플레이를 통하여 화면을 표시하는 동안 사용자 입력을 수신하고, 상기 사용자 입력에 기반하여 상기 화면에 대한 제 1 인식 동작을 수행함으로써, 상기 화면과 관련된 적어도 하나의 제 1 태그를 획득하고, 상기 디스플레이를 통하여 상기 적어도 하나의 제 1 태그를 포함하는 제 1 사용자 인터페이스를 표시하고, 상기 제 1 사용자 인터페이스를 표시하는 동안, 상기 제 1 인식 동작에 연속하고 상기 전자 장치(101)와 연결된 외부 전자 장치(예: 서버(108))에서 수행된 상기 화면에 대한 제 2 인식 동작을 통하여, 적어도 하나의 제 2 태그를 획득하고, 상기 디스플레이를 통하여, 상기 획득한 적어도 하나의 제 2 태그를 포함하는 제 2 사용자 인터페이스를 표시하도록 하는 인스트럭션들을 저장할 수 있다.
다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(120)가, 상기 적어도 하나의 제 1 태그 또는 상기 적어도 하나의 제 2 태그 중 적어도 하나와 관련된 기능을 확인하고, 상기 디스플레이를 통하여 상기 확인된 기능을 나타내는 오브젝트를 포함하는 상기 제 1 사용자 인터페이스 또는 상기 제 2 사용자 인터페이스를 표시하도록 할 수 있다.
다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(120)가, 상기 제 2 인식 동작이 수행되는 동안 수신된 사용자 입력에 응답하여 상기 적어도 하나의 제 1 태그를 상기 메모리(130)에 저장하고, 상기 적어도 하나의 제 1 태그를 저장한 후, 상기 제 2 인식 동작이 완료됨으로써 상기 적어도 하나의 제 2 태그를 획득하고, 상기 획득된 적어도 하나의 제 2 태그를 상기 적어도 하나의 제 1 태그와 함께 상기 메모리(130)에 저장하도록 할 수 있다.
도 2는, 다양한 실시예들에 따른, 전자 장치(101)에서 태그를 제공하는 방법을 설명하기 위한 흐름도(200)이다.
도 2를 참조하면, 동작 201에서, 일 실시예에서, 프로세서(120)는 디스플레이(예: 표시 장치(160))를 통하여 화면을 표시하는 동안 제 1 사용자 입력을 수신할 수 있다.
일 실시예에서, 프로세서(120)는, 디스플레이를 통하여 현재 표시된 화면을 인식하기 위한(또는 현재 표시된 화면을 인식함으로써 태그를 획득하기 위한) 제 1 사용자 입력을 수신할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 사용자 입력에 기반하여 디스플레이를 통하여 현재 표시된 화면(이하, '제 1 화면'으로 지칭하기로 함)에 대한 이미지(예: 캡처 화면, 스크린샷(screenshot))를 획득(또는 생성)한 후, 획득한 화면에 대한 이미지(이하, '제 1 이미지'로 지칭하기로 함)를 인식하기 위한 제 1 사용자 입력을 수신할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 이미지를 획득하고 제 1 이미지에 대한 인식을 수행하기 위하여, 하나의 제 1 사용자 입력(예: 한 번 수신되는 사용자 입력)을 수신할 수 있다. 예를 들어, 프로세서(120)는, 제 1 화면을 표시하는 동안, 제 1 이미지를 획득하고 제 1 이미지를 획득하는 동작에 연속적으로 제 1 이미지를 인식하기 위한 동작(또는 태그를 획득하기 위한 동작)을 수행하기 위한 하나의 제 1 사용자 입력을 수신할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 이미지를 획득함 없이(예: 제 1 화면에 대한 캡처 화면을 생성함 없이), 제 1 화면을 인식하기 위한 제 1 사용자 입력을 수신할 수 있다. 예를 들어, 디스플레이를 통하여 웹 페이지가 표시되는 경우, 프로세서(120)는, 웹 페이지를 캡처함 없이(예: 웹 페이지에 대한 캡처 화면을 생성함 없이), 웹 페이지를 구성하는 소스 데이터(예: 소스 코드(code))로부터 웹 페이지에 포함된 텍스트 또는 이미지 중 적어도 하나를 인식하기 위한(또는 텍스트 또는 이미지 중 적어도 하나를 인식함으로써 태그를 획득하기 위한) 제 1 사용자 입력을 수신할 수 있다.
일 실시예에서, 전술한 실시예들에서는, 디스플레이를 통하여 현재 표시된 화면을 인식하기 위한 제 1 사용자 입력을 수신하는 것으로 예시하고 있지만, 이에 제한되지 않는다. 예를 들어, 디스플레이를 통하여 표시되는 화면이, 하나의 페이지(예: 웹 페이지)의 일부인 경우, 프로세서(120)는, 하나의 페이지(예: 디스플레이를 통하여 표시된 하나의 페이지의 일부 및 디스플레이를 통하여 표시되지 않은 하나의 페이지의 나머지 부분)을 인식하기 위한 제 1 사용자 입력을 수신할 수 있다.
동작 203에서, 일 실시예에서, 프로세서(120)는, 제 1 사용자 입력에 기반하여 화면에 대한 인식 동작과 관련된 동작을 수행함으로써, 하나 이상의 제 1 태그들을 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 화면(예: 제 1 화면)에 대한 인식 동작과 관련된 동작으로서, 화면에 대한 인식 동작의 적어도 일부 동작을 수행할 수 있다.
일 실시예에서, 화면을 인식하기 위하여 복수의 인식 동작들이 전자 장치(101) 또는 외부 전자 장치(예: 서버(108)) 중 적어도 하나를 통하여 연속적으로(또는 단계적으로) 수행될 수 있다. 일 실시예에서, 복수의 인식 동작들 각각은, 복수의 인식 동작들 각각의 수행 시 마다 태그 획득이 가능한 인식 동작일 수 있다. 예를 들어, 복수의 인식 동작들은, 디스플레이를 통하여 표시되는 화면이 텍스트를 포함하는 경우, 텍스트로부터 태그(예: 키워드(keyword))를 획득하는 인식 동작과, 텍스트로부터 태그를 획득하는 동작에 연속적으로, 획득한 태그와 관련된 정보를 검색함으로써 새로운 태그를 획득하는 인식 동작을 포함할 수 있다.
일 실시예에서, 화면을 인식하기 위한 복수의 인식 동작들 각각은 적어도 하나의 동작을 포함할 수 있다. 예를 들어, 하나의 인식 동작은, 제 1 화면이 텍스트를 포함하는 경우, 제 1 화면으로부터 제 1 이미지(예: 캡처 화면)를 생성하는 동작, OCR(optical character reader) 프로그램을 이용하여 제 1 이미지로부터 적어도 하나의 텍스트를 추출하는 동작, 및 추출된 적어도 하나의 텍스트에 기반하여 태그(예: 키워드)를 결정하는 동작하는 동작을 포함할 수 있다.
이하에서, 화면을 인식하기 위한 복수의 인식 동작들을 통하여 획득한 태그를 '제 1 태그'로 지칭하기로 한다. 또한, 복수의 인식 동작들 중에서, 가장 먼저 수행되는 인식 동작을 '제 1 인식 동작'으로 지칭하고 제 1 인식 동작을 통하여(또는 제 1 인식 동작의 결과로서) 획득한 태그를 '제 1-1 태그'로 지칭하기로 한다. 또한, 제 1 인식 동작에 연속적으로 수행되는 인식 동작을 '제 2 인식 동작'으로 지칭하고, 제 2 인식 동작을 통하여(또는 제 1 인식 동작의 결과로서) 획득한 태그를 '제 1-2 태그'로 지칭하기로 한다. 다만, 화면을 인식하기 위한 복수의 인식 동작들은, 제 1 인식 동작 및 제 2 인식 동작에 제한되지 않으며, 제 1 인식 동작 및 제 2 인식 동작 후, 연속적으로 수행되는 하나 이상의 인식 동작(예: 제 3 인식 동작)을 더 포함할 수 있다.
일 실시예에서, 전술한 예시에서, 화면을 인식하기 위한 동작이 복수의 인식 동작들을 포함하는 것으로 예시하고 있지만, 이에 제한되지 않는다. 예를 들어, 화면을 인식하기 위한 동작은 하나의 인식 동작(예: 제 1 인식 동작)만을 포함할 수도 있다.
일 실시예에서, 제 1 인식 동작은 전자 장치(101)에서 수행되는 적어도 하나의 인식 동작을 포함할 수 있다. 예를 들어, 제 1 인식 동작은, 전자 장치(101)가 인공지능(artificial intelligence) 기능을 수행할 수 있는 구성(예: NPU(neural processing unit))을 포함하는 경우, 인공지능 기능을 수행할 수 있는 구성을 통하여 수행되는 적어도 하나의 인식 동작을 포함할 수 있다. 다른 예를 들어, 제 1 인식 동작은, 인공지능 기능을 수행할 수 있는 구성 외에, 전자 장치(101)에 포함되고 화면을 인식할 수 있는 구성(예: OCR 프로그램, 이미지 인식 프로그램)을 이용하여 수행되는 적어도 하나의 인식 동작을 포함할 수 있다. 또 다른 예를 들어, 제 1 인식 동작은, 전자 장치(101)에 포함된, 인공지능 기능을 수행할 수 있는 구성 및 화면 인식 동작을 수행할 수 있는 구성을 통하여 수행되는 적어도 하나의 인식 동작을 포함할 수 있다.
일 실시예에서, 제 2 인식 동작은 전자 장치(101)와 연결된 외부 전자 장치(예: 서버(108))에서 수행되는 적어도 하나의 인식 동작을 포함할 수 있다. 예를 들어, 제 1 인식 동작이 전자 장치(101)에 포함된 NPU를 이용하여 수행되는 인식 동작인 경우, 제 1 인식 동작에 연속적으로 수행되는 제 2 인식 동작은 인공지능 기능을 수행할 수 있는 구성을 포함하는 외부 전자 장치(예: 서버(108))를 통하여 수행되는 적어도 하나의 인식 동작일 수 있다.
다만, 이에 제한되지 않는다. 예를 들어, 제 1 인식 동작 및 제 2 인식 동작 모두가 전자 장치(101)에서 수행되거나, 외부 전자 장치(예: 서버(108))에서 수행될 수도 있다.
일 실시예에서, 제 2 인식 동작은, 제 1 인식 동작의 세부적인 인식 동작을 포함할 수 있다. 예를 들어, 화면에 이미지가 포함된 경우(예: 화면에 사용자에 대한 이미지가 포함된 경우), 제 1 인식 동작은 이미지에 포함된 객체의 종류(예: 사람)를 인식하는 동작이고, 제 2 인식 동작은 이미지에 포함된 객체에 대응하는 특정 대상(예: 사용자)을 인식하는 동작일 수 있다.
일 실시예에서, 제 1 인식 동작은 상위 용어(또는 상위 개념)를 가지는 태그를 획득하는 동작이고, 제 2 인식 동작은 제 1 인식 동작을 통하여 획득한 태그의 상위 용어에 속하는 하위 용어(또는 하위 개념)을 가지는 태그를 획득하는 동작을 포함할 수 있다. 예를 들어, 화면에 이미지가 포함된 경우(예: 화면에 특정 휴대폰에 대한 이미지가 포함된 경우), 제 1 인식 동작은 이미지의 상위 용어를 가지는 태그(예: 휴대폰)를 획득하는 동작이고, 제 2 인식 동작은 태그의 상위 용어에 속하는 하위 용어를 가지는 태그(예: 휴대폰의 명칭) 획득하는 동작일 수 있다.
일 실시예에서, 제 1 인식 동작은 화면과 관련된 어플리케이션의 명칭(예: 웹 어플리케이션)을 인식하는 동작을 포함할 수 있다. 일 실시예에서, 제 1 인식 동작은, 디스플레이를 통하여 웹 사이트의 화면이 표시되는 경우, 웹 사이트 주소를 인식하는 동작을 포함할 수 있다. 일 실시예에서, 제 1 인식 동작은, 디스플레이를 통하여 표시되는 화면에 포함된 콘텐트의 명칭(예: 콘텐트의 제목)을 인식하는 동작을 포함할 수 있다.
일 실시예에서, 제 1 인식 동작은 화면의 종류를 인식하는 동작을 포함할 수 있다. 일 실시예에서, 제 1 인식 동작은, 디스플레이를 통하여 홈 화면이 표시되는 경우, 홈 화면을 현재 표시 중인 화면으로 인식하는 동작을 포함할 수 있다.
일 실시예에서, 제 1 인식 동작은, 전자 장치(101)에 대하여 태그와 관련된 사용자의 입력 이력(log)에 기반하여, 태그를 획득하기 위한 동작을 포함할 수 있다. 예를 들어, 제 1 인식 동작은, 사용자가 전자 장치(101)로 최근(예: 지정된 기간으로서 현재 시간으로부터 1 주일 이내)에 입력한 검색어를 태그로서 획득하는 동작을 포함할 수 있다. 다른 예를 들어, 제 1 인식 동작은, 사용자가 지정된 기간 내에 전자 장치(101)로 지정된 횟수 이상(예: 3회 이상) 입력한 검색어를 태그로서 획득하는 동작을 포함할 수 있다. 다만, 이에 제한되지 않는다. 예를 들어, 전자 장치(101)에 대하여 태그와 관련된 사용자의 입력 이력(log)에 대한 정보가 전자 장치(101)의 사용자의 계정을 이용하여 전자 장치(101)와 관련된 외부 전자 장치(예: 서버(108))에 저장된 경우, 전자 장치(101)에 대하여 태그와 관련된 사용자의 입력 이력(log)에 기반하여 태그를 획득하기 위한 동작은 외부 전자 장치(예: 서버(108))를 통하여 수행될 수 있다.
일 실시예에서, 프로세서(120)는, 화면에 대한 인식 동작의 일부 동작을 수행할 수 있다. 일 실시예에서, 프로세서(120)는, 화면에 대한 인식 동작이 제 1 인식 동작 및 제 2 인식 동작을 포함하는 경우, 화면에 대한 제 1 인식 동작의 일부 동작, 제 2 인식 동작의 일부 동작, 또는 제 1 인식 동작의 일부 동작 및 제 2 인식 동작의 일부 동작을 수행할 수 있다. 예를 들어, 화면에 대한 제 1 인식 동작에 대하여, 프로세서(120)는, 제 1 인식 동작에 포함된 동작들 중 일부 동작을 수행하고, 제 1 인식 동작에 포함된 나머지 일부 동작이 외부 전자 장치(예: 서버(108))에서 수행되도록, 프로세서(120)가 수행한 일부 동작에 대한 정보(또는 결과)를 통신 모듈(190)을 통하여 외부 전자 장치(예: 서버(108))로 전송할 수 있다. 프로세서(120)는, 외부 전자 장치(예: 서버(108))에서 수행된 제 1 인식 동작에 포함된 나머지 일부 동작의 결과에 대한 정보를 통신 모듈(190)을 통하여 수신할 수 있다. 다른 예를 들어, 프로세서(120)는, 화면에 대한 인식 동작이 제 1 인식 동작만을 포함하는 경우, 화면에 대한 제 1 인식 동작의 일부 동작을 수행할 수 있다.
일 실시예에서, 프로세서(120)는, 화면에 대한 인식 동작과 관련된 동작을 수행함으로써, 하나 이상의 제 1 태그들을 획득할 수 있다. 예를 들어, 프로세서(120)는, 화면에 대한 인식 동작의 결과로서, 하나 이상의 제 1 태그들을 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 화면에 대한 인식 동작이 복수의 인식 동작들을 포함하는 경우, 복수의 인식 동작들 각각의 수행이 완료됨에 따라, 연속적으로(또는 순차적으로) 하나 이상의 제 1 태그들을 획득할 수 있다. 예를 들어, 프로세서(120)는, 제 1 인식 동작의 수행이 완료됨에 따라 제 1-1 태그를 획득하고, 제 1 인식 동작에 연속적으로 수행된 제 2 인식 동작의 수행이 완료됨에 따라 제 1-2 태그를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 화면의 속성에 기반하여, 하나 이상의 태그들을 획득할 수 있다. 예를 들어, 프로세서(120)는, 화면이 연락처 어플리케이션과 관련된 화면을 포함하는 경우, 연락처와 관련된 키워드(예: 연락처에 등록된 사용자의 별명, 연락처에 등록된 사용자의 직위를 나타내는 용어)를 하나 이상의 태그들로서 획득할 수 있다. 다른 예를 들어, 프로세서(120)는, 화면이 맵 어플리케이션과 관련된 화면을 포함하는 경우, 맵에 포함된 지리적 위치와 관련된 키워드들(예: 지리적 위치와 관련된 맛집의 위치)을 하나 이상의 태그들로서 획득할 수 있다. 다만, 화면의 속성에 기반하여 하나 이상의 태그들을 획득하는 방법은 전술한 예시에 제한되지 않는다.
동작 205에서, 일 실시예에서, 프로세서(120)는, 디스플레이를 통하여, 하나 이상의 제 1 태그들을 포함하는 제 1 사용자 인터페이스를 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 화면에 대한 인식 동작이 복수의 인식 동작들을 포함하고 복수의 인식 동작들 각각의 수행이 완료됨에 따라 연속적으로(또는 순차적으로) 하나 이상의 제 1 태그들을 획득하는 경우, 디스플레이를 통하여, 제 1 태그 획득 시 마다 획득된 제 1 태그를 포함하는 제 1 사용자 인터페이스를 표시할 수 있다. 예를 들어, 프로세서(120)는, 제 1 인식 동작의 결과로서 제 1-1 태그를 획득하고 획득된 제 1-1 태그를 포함하는 제 1 사용자 인터페이스를 디스플레이를 통하여 표시할 수 있다. 프로세서(120)는, 제 1-1 태그를 포함하는 제 1 사용자 인터페이스를 표시하는 동안 제 2 인식 동작의 결과로서 제 1-2 태그를 획득한 경우, 제 1-1 태그 및 제 1-2 태그를 포함하는 제 1 사용자 인터페이스를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1-1 태그를 제 1-2 태그로 변경할 수 있다. 일 실시예에서, 프로세서(120)는, 화면이 이미지를 포함하는 경우, 이미지에 대한 제 1 인식 동작을 수행함으로써 제 1-1 태그를 획득하고, 이미지에 대한 제 2 인식 동작을 수행한 후, 제 1-1 태그를 제 1-2 태그로 변경할 수 있다. 예를 들어, 프로세서(120)는, 화면이 특정 패턴을 포함하는(또는 특정 패턴으로 구성된) 이미지(예: QR(quick response) 코드 이미지)를 포함하는 경우, 이미지가 나타내는 대상(예: QR 코드)을 제 1-1 태그로서 획득할 수 있다. 프로세서(120)는, 이미지에 포함된 특정 패턴을 분석함으로써 특정 패턴이 나타내는 정보(예: QR 코드를 분석함으로써 획득한 정보)를 제 1-2 태그로서 획득할 수 있다. 프로세서(120)는, 제 1 사용자 인터페이스에 포함된 제 1-1 태그를 제거하고(또는 사라지게 하고), 제 1-2 태그를 표시할 수 있다. 예를 들어, 프로세서(120)는, 디스플레이를 통하여, 제 1-1 태그가 표시되었던 제 1 사용자 인터페이스의 위치에, 제 1-1 태그를 대체하여 제 1-2 태그를 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 화면에 대한 인식 동작이 복수의 인식 동작들을 포함하는 경우, 복수의 인식 동작들이 모두 완료된 후, 복수의 인식 동작을 통하여 획득한 하나 이상의 제 1 태그들(예: 제 1-1 태그 및 제 1-2 태그를 포함하는 제 1 태그)을 포함하는 제 1 사용자 인터페이스를 디스플레이를 통하여 표시할 수도 있다.
일 실시예에서, 프로세서(120)는, 디스플레이를 통하여, 하나 이상의 제 1 태그들을 나타내는 오브젝트들을 표시할 수 있다. 예를 들어, 프로세서(120)는, 디스플레이를 통하여, 하나 이상의 제 1 태그들을 오브젝트(예: 아이콘) 형태로 표시할 수 있다.
일 실시예에서, 하나 이상의 제 1 태그들을 나타내는 오브젝트들 각각은 사용자에 의해 선택되었는지를 지시하는 인디케이터(indicator)를 포함할 수 있다. 일 실시예에서, 프로세서(120)는, 하나 이상의 제 1 태그들을 획득한 경우(예: 하나 이상의 제 1 태그들을 획득한 직후(immediately after)), 하나 이상의 제 1 태그들이 사용자에 의해 선택되지 않음을 나타내는 인디케이터를 포함하는 오브젝트를 디스플레이를 통하여 표시할 수 있다.
동작 207에서, 일 실시예에서, 프로세서(120)는, 제 1 사용자 인터페이스를 표시하는 동안, 제 2 사용자 입력에 기반하여, 제 1 사용자 인터페이스에 포함된 하나 이상의 제 1 태그들 중 적어도 하나를 선택할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 사용자 인터페이스에 포함된 하나 이상의 제 1 태그들 중 적어도 하나를 선택하는 제 2 사용자 입력을 수신할 수 있다. 예를 들어, 프로세서(120)는, 제 1 사용자 인터페이스에 포함된 하나 이상의 제 1 태그들을 각각 나타내는 하나 이상의 오브젝트들 중 적어도 하나의 오브젝트를 선택하는 제 2 사용자 입력을 수신할 수 있다.
일 실시예에서, 프로세서(120)는, 제 2 사용자 입력에 의해 선택된 적어도 하나의 제 1 태그가 선택되지 않은 다른 제 1 태그와 구별되도록, 디스플레이를 통하여 선택된 적어도 하나의 제 1 태그를 표시할 수 있다. 예를 들어, 프로세서(120)는, 선택된 적어도 하나의 제 1 태그를 나타내는 적어도 하나의 오브젝트에 포함되고 사용자에 의해 선택되었는지 여부를 나타내는 인디케이터가, 사용자에 의해 선택됨을 나타내도록, 디스플레이를 통하여, 인디케이터의 형태를 표시(또는 변경)할 수 있다. 다른 예를 들어, 프로세서(120)는, 선택된 적어도 하나의 제 1 태그를 나타내는 적어도 하나의 오브젝트의 영역의 색상, 명도, 또는 채도 중 적어도 하나를 변경할 수 있다. 다만, 사용자에 의해 선택된 적어도 하나의 제 1 태그를 표시하는 방법은 전술한 예시에 제한되지 않는다.
일 실시예에서, 프로세서(120)는, 화면에 대한 인식 동작이 복수의 인식 동작들을 포함하고 복수의 인식 동작들 모두를 완료하기 전(예: 복수의 인식 동작들 중 일부 동작을 완료한 경우), 제 2 사용자 입력에 기반하여, 복수의 인식 동작들 중 완료된 적어도 하나의 인식 동작들을 통하여 획득한 하나 이상의 제 1 태그들 중 적어도 하나의 제 1 태그를 선택할 수 있다. 예를 들어, 프로세서(120)는, 제 1 인식 동작을 통하여 제 1-1 태그를 획득한 후 제 1 인식 동작에 연속하는 제 2 인식 동작을 수행하는 동안, 제 2 사용자 입력에 기반하여, 제 1-1 태그를 선택할 수 있다. 프로세서(120)는, 제 2 인식 동작을 통하여 제 1-2 태그를 획득한 후, 제 2 사용자 입력에 기반하여 제 1-2 태그를 추가적으로 선택할 수 있다.
일 실시예에서, 프로세서(120)는, 화면에 대한 인식 동작이 복수의 인식 동작들을 포함하고 복수의 인식 동작들 모두를 완료한 후, 제 2 사용자 입력에 기반하여, 하나 이상의 제 1 태그들 중 적어도 하나의 제 1 태그를 선택할 수 있다.
동작 209에서, 일 실시예에서, 프로세서(120)는, 적어도 하나의 제 1 태그와 관련된 적어도 하나의 제 2 태그를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 적어도 하나의 제 1 태그가 선택된 것에 응답하여, 적어도 하나의 제 1 태그와 관련된 적어도 하나의 제 2 태그를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 적어도 하나의 제 1 태그가 선택된 것에 응답하여, 전자 장치(101) 또는 외부 전자 장치(예: 서버(108))를 통하여, 적어도 하나의 제 1 태그에 대한 정보를 검색함으로써, 적어도 하나의 제 2 태그를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 적어도 하나의 제 1 태그가 선택된 것에 응답하여 웹 어플리케이션을 이용하여, 적어도 하나의 제 1 태그에 대한 정보를 검색하는 동작을 추가적으로 수행할 수 있다. 프로세서(120)는, 검색된 적어도 하나의 제 1 태그에 대한 정보에 기반하여, 적어도 하나의 제 2 태그를 획득할 수 있다.
일 실시예에서, 프로세서(120)는 적어도 하나의 제 1 태그가 선택된 것에 응답하여, 메모리(130) 내에서 적어도 하나의 제 1 태그와 연관되어 저장된(또는 태그된) 콘텐트(예: 이미지)를 확인(또는 검색)할 수 있다. 일 실시예에서, 프로세서(120)는, 메모리(130) 내에서 적어도 하나의 제 1 태그와 연관되어 저장된 콘텐트와 연관되어 저장된 다른 태그를 적어도 하나의 제 2 태그로서 획득할 수 있다. 일 실시예에서, 메모리(130) 내에서 적어도 하나의 제 1 태그와 연관되어 저장된(또는 태그된) 콘텐트(예: 이미지)와 관련된 정보(예: 콘텐트의 명칭)를 적어도 하나의 제 2 태그로서 획득할 수 있다.
일 실시예에서, 프로세서(120)는 적어도 하나의 제 1 태그가 선택된 것에 응답하여, 전자 장치(101)의 사용자가 계정을 이용하여 가입한(또는 등록된) 웹 서비스(예: SNS(social network service))를 제공하는 외부 전자 장치(예: 서버(108))에 적어도 하나의 제 1 태그와 연관되어 저장된(또는 태그된) 콘텐트(예: 게시글)를 확인(또는 검색)할 수 있다. 일 실시예에서, 프로세서(120)는, 외부 전자 장치(예: 서버(108))에서 적어도 하나의 제 1 태그와 연관되어 저장된 콘텐트와 연관되어 저장된 다른 태그를 적어도 하나의 제 2 태그로서 획득할 수 있다. 일 실시예에서, 프로세서(120)는, 외부 전자 장치(예: 서버(108))에서 적어도 하나의 제 1 태그와 연관되어 저장된 콘텐트와 관련된 정보(예: 콘텐트의 명칭, 콘텐트를 게시한 사용자)를 적어도 하나의 제 2 태그로서 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 적어도 하나의 제 1 태그가 선택된 것에 응답하여, 화면에 대한 인식 동작을 통하여 획득한 정보에 기반하여, 적어도 하나의 제 1 태그와 관련된 적어도 하나의 제 2 태그를 획득할 수 있다. 예를 들어, 프로세서(120)는, 화면에 대한 제 1 인식 동작을 통하여 제 1 사용자 인터페이스에 포함된 제 1-1 태그와 함께, 제 1 사용자 인터페이스에 포함되지 않은(예: 사용자에게 추천되지 않은) 제 1-1 태그와 관련된 적어도 하나의 제 1-3 태그를 획득(또는 검색)할 수 있다. 프로세서(120)는, 제 1-1 태그가 제 2 사용자 입력에 의해 선택되는 경우, 적어도 하나의 제 1-3 태그를 적어도 하나의 제 2 태그로서 획득할 수 있다.
다만, 프로세서(120)가 적어도 하나의 제 1 태그와 관련된 적어도 하나의 제 2 태그를 획득하는 방법은 전술한 예시에 제한되지 않는다.
일 실시예에서, 프로세서(120)는, 제 1 사용자 인터페이스를 표시하는 동안, 제 2 사용자 입력에 기반하여 제 1 사용자 인터페이스에 포함된 하나 이상의 제 1 태그들 중 적어도 하나의 제 1 태그를 선택한 후, 제 3 사용자 입력에 기반하여 선택된 적어도 하나의 제 1 태그와 관련된 적어도 하나의 제 2 태그를 획득할 수 있다. 예를 들어, 프로세서(120)는, 제 2 사용자 입력에 기반하여 적어도 하나의 제 1 태그를 선택한 후, 선택된 적어도 하나의 제 1 태그와 관련된 적어도 하나의 제 2 태그를 획득하는 기능에 대응하는(또는 매핑된) 오브젝트를 선택하는 제 3 사용자 입력에 기반하여, 선택된 적어도 하나의 제 1 태그와 관련된 적어도 하나의 제 2 태그를 획득하는 동작을 수행할 수 있다.
동작 211에서, 일 실시예에서, 프로세서(120)는, 디스플레이를 통하여, 적어도 하나의 제 2 태그를 포함하는 제 2 사용자 인터페이스를 표시할 수 있다. 예를 들어, 프로세서(120)는, 적어도 하나의 제 1 태그를 포함하는 제 1 사용자 인터페이스를 표시하는 동안 적어도 하나의 제 2 태그가 획득되면, 제 1 사용자 인터페이스에 적어도 하나의 제 2 태그가 추가적으로(또는 새롭게) 포함된 제 2 사용자 인터페이스(예: 적어도 하나의 제 1 태그 및 적어도 하나의 제 2 태그를 포함하는 제 2 사용자 인터페이스)를 디스플레이를 통하여 표시할 수 있다.
도 2에 도시하지는 않았지만, 일 실시예에서, 프로세서(120)는, 획득한 적어도 하나의 제 1 태그 및 적어도 하나의 제 2 태그를 메모리(130)에 저장할 수 있다.
도 3은, 다양한 실시예들에 따른, 획득한 태그를 저장하는 방법을 설명하기 위한 흐름도(300)이다.
도 3을 참조하면, 동작 301에서, 일 실시예에서, 프로세서(120)는 디스플레이(예: 표시 장치(160))를 통하여 화면을 표시하는 동안 제 1 사용자 입력을 수신할 수 있다.
동작 303에서, 일 실시예에서, 프로세서(120)는, 제 1 사용자 입력에 기반하여 화면에 대한 인식 동작과 관련된 동작을 수행함으로써, 하나 이상의 제 1 태그들을 획득할 수 있다.
동작 305에서, 일 실시예에서, 프로세서(120)는, 디스플레이를 통하여, 하나 이상의 제 1 태그들을 포함하는 제 1 사용자 인터페이스를 표시할 수 있다.
동작 307에서, 일 실시예에서, 프로세서(120)는, 제 1 사용자 인터페이스를 표시하는 동안, 제 2 사용자 입력에 기반하여, 제 1 사용자 인터페이스에 포함된 하나 이상의 제 1 태그들 중 적어도 하나를 선택할 수 있다.
동작 309에서, 일 실시예에서, 프로세서(120)는, 적어도 하나의 제 1 태그와 관련된 적어도 하나의 제 2 태그를 획득할 수 있다.
동작 311에서, 일 실시예에서, 프로세서(120)는, 디스플레이를 통하여, 적어도 하나의 제 2 태그를 포함하는 제 2 사용자 인터페이스를 표시할 수 있다.
도 3의 동작 301 내지 동작 311의 실시예들은, 도 2의 동작 201 내지 동작 211의 실시예들과 적어도 일부가 동일 또는 유사하므로 상세한 설명은 생략하기로 한다.
동작 313에서, 일 실시예에서, 프로세서(120)는, 디스플레이를 통하여 표시된 하나 이상의 제 1 태그들 및 적어도 하나의 제 2 태그 중에서, 선택된 태그를 메모리(130)에 저장할 수 있다.
일 실시예에서, 프로세서(120)는, 디스플레이를 통하여 표시된 하나 이상의 제 1 태그들을 나타내는 하나 이상의 오브젝트들 및 적어도 하나의 제 2 태그를 나타내는 적어도 하나의 오브젝트 중에서, 사용자에 의해 선택된 태그를 메모리(130)에 저장할 수 있다. 예를 들어, 디스플레이를 통하여 표시된 하나 이상의 제 1 태그들 중 적어도 하나의 제 1 태그는 동작 307을 통하여 사용자에 의해 선택된 상태에 있을 수 있다. 프로세서(120)는, 적어도 하나의 제 1 태그에 대하여 선택을 유지하거나, 적어도 하나의 제 1 태그에 대한 사용자 입력을 수신함으로써 적어도 하나의 제 1 태그에 대한 선택을 해제할 수 있다. 프로세서(120)는, 사용자 입력에 기반하여 하나 이상의 제 1 태그들 중에서 동작 307을 통하여 선택되지 않은 제 1 태그를 선택할 수 있다. 프로세서(120)는, 동작 311을 통하여 획득한 적어도 하나의 제 2 태그 중 사용자 입력에 기반하여 하나 이상의 제 2 태그들을 선택할 수 있다. 프로세서(120)는, 선택이 유지된 적어도 하나의 태그, 하나 이상의 제 1 태그들 중에서 선택된 태그, 및 적어도 하나의 제 2 태그 중 선택된 하나 이상의 제 2 태그들을, 사용자 입력에 기반하여, 메모리(130)에 저장할 수 있다.
일 실시예에서, 프로세서(120)는, 하나 이상의 제 1 태그들 및 적어도 하나의 제 2 태그 중에서 선택된 태그를 제 1 이미지(예: 디스플레이를 통하여 현재 표시된 화면에 대한 캡처 이미지)와 함께(또는 연관하여, 또는 매핑하여) 메모리(130)에 저장할 수 있다.
일 실시예에서, 프로세서(120)는, 화면에 대한 인식 동작의 일부 인식 동작 또는 적어도 하나의 제 2 태그를 획득하는 동작의 일부 동작이 완료되지 않은 상태에서, 선택된 태그를 저장하는 사용자 입력을 수신한 경우, 완료된 일부 인식 동작 또는 일부 동작을 통하여 획득되고 사용자 입력에 의해 선택된 태그를 메모리(130)에 저장할 수 있다. 예를 들어, 프로세서(120)는, 화면에 대한 제 1 인식 동작을 수행하고 제 1 인식 동작을 통하여 획득한 제 1-1 태그를 디스플레이를 통하여 표시할 수 있다. 프로세서(120)는, 제 1 인식 동작에 연속하는 제 2 인식 동작을 수행하는 동안(예: 제 1-2 태그를 획득하기 전) 제 1-1 태그를 선택하고 저장하는 사용자 입력을 수신한 경우, 제 2 인식 동작을 중지하고, 제 1-1 태그를 메모리(130)에 저장할 수 있다.
일 실시예에서, 프로세서(120)는, 화면에 대한 인식 동작의 일부 인식 동작 또는 적어도 하나의 제 2 태그를 획득하는 동작의 일부 동작이 완료되지 않은 상태에서, 선택된 태그를 저장하는 사용자 입력을 수신한 경우, 완료되지 않은 일부 인식 동작 또는 일부 동작을 계속적으로 수행하고, 선택된 태그와 함께, 계속적으로 수행되어 완료한 일부 인식 동작 또는 일부 동작을 통하여 획득한 태그를 메모리(130)에 저장할 수 있다. 예를 들어, 프로세서(120)는, 화면에 대한 제 1 인식 동작에 연속하는 제 2 인식 동작이 완료되지 않은 상태에서, 선택된 태그를 저장하는 사용자 입력을 수신한 경우, 선택된 태그를 메모리(130)에 저장하고, 완료되지 않은 제 2 인식 동작을 계속적으로 수행할 수 있다. 프로세서(120)는, 완료되지 않은 제 2 인식 동작을 계속적으로 수행함으로써 제 1-2 태그를 획득한 경우, 메모리(130)에 기저장된 선택된 태그와 함께, 획득한 제 1-2 태그를 저장할 수 있다.
도 4는, 다양한 실시예들에 따른, 전자 장치(101)에서 태그와 관련된 기능을 제공하는 방법을 설명하기 위한 흐름도(400)이다.
도 4를 참조하면, 동작 401에서, 일 실시예에서, 프로세서(120)는 디스플레이(예: 표시 장치(160))를 통하여 화면을 표시하는 동안 제 1 사용자 입력을 수신할 수 있다.
동작 403에서, 일 실시예에서, 프로세서(120)는, 제 1 사용자 입력에 기반하여 화면에 대한 인식 동작과 관련된 동작을 수행함으로써, 하나 이상의 제 1 태그들을 획득할 수 있다.
동작 405에서, 일 실시예에서, 프로세서(120)는, 디스플레이를 통하여, 하나 이상의 제 1 태그들을 포함하는 제 1 사용자 인터페이스를 표시할 수 있다.
동작 407에서, 일 실시예에서, 프로세서(120)는, 제 1 사용자 인터페이스를 표시하는 동안, 제 2 사용자 입력에 기반하여, 제 1 사용자 인터페이스에 포함된 하나 이상의 제 1 태그들 중 적어도 하나를 선택할 수 있다.
동작 409에서, 일 실시예에서, 프로세서(120)는, 적어도 하나의 제 1 태그와 관련된 적어도 하나의 제 2 태그를 획득할 수 있다.
동작 411에서, 일 실시예에서, 프로세서(120)는, 디스플레이를 통하여, 적어도 하나의 제 2 태그를 포함하는 제 2 사용자 인터페이스를 표시할 수 있다.
도 4의 동작 401 내지 동작 411의 실시예들은, 도 2의 동작 201 내지 동작 211의 실시예들과 적어도 일부가 동일 또는 유사하므로 상세한 설명은 생략하기로 한다.
동작 413에서, 일 실시예에서, 프로세서(120)는, 하나 이상의 제 1 태그들 또는 적어도 하나의 제 2 태그 중 적어도 하나와 관련된 기능을 확인할 수 있다.
일 실시예에서, 프로세서(120)는, 하나 이상의 제 1 태그들 또는 적어도 하나의 제 2 태그 중 적어도 하나와 관련된 어플리케이션의 기능을 확인할 수 있다. 예를 들어, 프로세서(120)는, 하나 이상의 제 1 태그들 또는 적어도 하나의 제 2 태그 중 적어도 하나가, 특정 사람 이름을 포함하는 경우, 특정 사람 이름과 관련된 어플리케이션의 기능으로서 연락처 어플리케이션의 기능을 확인할 수 있다. 다른 예를 들어, 프로세서(120)는, 하나 이상의 제 1 태그들 또는 적어도 하나의 제 2 태그 중 적어도 하나가, 특정 지리적 위치 명칭을 포함하는 경우, 특정 지리적 위치와 관련된 어플리케이션의 기능으로서 맵 어플리케이션의 기능을 확인할 수 있다. 또 다른 예를 들어, 프로세서(120)는, 하나 이상의 제 1 태그들 또는 적어도 하나의 제 2 태그 중 적어도 하나가, 상품 명칭을 포함하는 경우, 상품과 관련된 어플리케이션의 기능으로서 상품을 판매하는 장소가 목적지로 설정된 내비게이션(navigation) 어플리케이션의 기능을 확인할 수 있다.
일 실시예에서, 프로세서(120)는, 하나 이상의 제 1 태그들 또는 적어도 하나의 제 2 태그 중 적어도 하나 중 선택된 태그를 연관하여 저장하도록 할 수 있는 어플리케이션의 기능을 확인할 수 있다. 예를 들어, 프로세서(120)는, 하나 이상의 제 1 태그들 또는 적어도 하나의 제 2 태그 중 적어도 하나가 사용자에 의해 선택된 경우, 선택된 적어도 하나를 SNS 어플리케이션의 전자 장치(101)의 사용자 계정에 대응하여 저장하도록 하는 기능을 확인할 수 있다.
다만, 하나 이상의 제 1 태그들 또는 적어도 하나의 제 2 태그 중 적어도 하나와 관련된 어플리케이션의 기능은 전술한 예시들에 제한되지 않는다.
일 실시예에서, 프로세서(120)는, 하나 이상의 제 1 태그들 또는 적어도 하나의 제 2 태그 중 적어도 하나에서, 선택된 태그와 관련된 기능을 확인할 수 있다. 예를 들어, 프로세서(120)는, 디스플레이를 통하여 하나 이상의 제 1 태그들 및 적어도 하나의 제 2 태그를 포함하는 제 2 사용자 인터페이스를 표시하는 동안 하나 이상의 제 1 태그들 또는 적어도 하나의 제 2 태그 중 적어도 하나를 선택하는 사용자 입력이 수신된 경우, 선택된 적어도 하나와 관련된 기능을 확인할 수 있다.
동작 415에서, 일 실시예에서, 프로세서(120)는, 디스플레이를 통하여 확인된 기능과 관련된 오브젝트를 포함하는 제 3 사용자 인터페이스를 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 하나 이상의 제 1 태그들 또는 적어도 하나의 제 2 태그 중 적어도 하나와 함께, 확인된 기능을 나타내는 오브젝트(또는 확인된 기능이 매핑된 오브젝트)를 포함하는 제 3 사용자 인터페이스를 표시할 수 있다. 예를 들어, 프로세서(120)는, 제 1 인터페이스 또는 제 2 인터페이스에 확인된 기능을 나타내는 오브젝트가 추가적으로 포함된 제 3 사용자 인터페이스를 디스플레이를 통하여 표시할 수 있다. 다른 예를 들어, 프로세서(120)는, 제 1 인터페이스 또는 제 2 인터페이스에 포함되고 확인된 기능과 관련된 태그를 나타내는 오브젝트 내에, 확인된 기능을 나타내는 오브젝트가 포함되는, 제 3 사용자 인터페이스를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 도 4에 도시하지는 않았지만, 확인된 기능을 나타내는 오브젝트에 대한 사용자 입력이 입력된 경우, 프로세서(120)는, 확인된 기능을 실행할 수 있다.
도 5는, 다양한 실시예들에 따른 전자 장치(101)에서 태그를 제공하는 방법을 설명하기 위한 흐름도(500)이다.
도 5를 참조하면, 동작 501에서, 일 실시예에서, 프로세서(120)는 디스플레이(예: 표시 장치(160))를 통하여 화면을 표시하는 동안 사용자 입력을 수신할 수 있다.
일 실시예에서, 프로세서(120)는, 디스플레이를 통하여 현재 표시된 화면을 인식하기 위한(또는 현재 표시된 화면을 인식함으로써 태그를 획득하기 위한) 사용자 입력을 수신할 수 있다.
일 실시예에서, 프로세서(120)는, 사용자 입력에 기반하여 디스플레이를 통하여 현재 표시된 화면(또는 제 1 화면)에 대한 이미지(또는 제 1 이미지)를 획득(또는 생성)한 후, 획득한 화면에 대한 이미지를 인식하기 위한 사용자 입력을 수신할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 이미지를 획득하고 제 1 이미지에 대한 인식을 수행하기 위하여, 하나의 사용자 입력(예: 한 번 수신되는 사용자 입력)을 수신할 수 있다. 예를 들어, 프로세서(120)는, 제 1 화면을 표시하는 동안, 제 1 이미지를 획득하고 제 1 이미지를 획득하는 동작에 연속적으로 제 1 이미지를 인식하기 위한 동작(또는 태그를 획득하기 위한 동작)을 시작하기 위한 하나의 사용자 입력을 수신할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 이미지를 획득함 없이(예: 제 1 화면에 대한 캡처 화면을 생성함 없이), 제 1 화면을 인식하기 위한 사용자 입력을 수신할 수 있다. 예를 들어, 디스플레이를 통하여 웹 페이지가 표시되는 경우, 프로세서(120)는, 웹 페이지를 캡처함 없이(예: 웹 페이지에 대한 캡처 화면을 생성함 없이), 웹 페이지를 구성하는 소스 데이터(예: 소스 코드(code))로부터 웹 페이지에 포함된 텍스트 또는 이미지 중 적어도 하나를 인식하기 위한(또는 텍스트 또는 이미지 중 적어도 하나를 인식함으로써 태그를 획득하기 위한) 사용자 입력을 수신할 수 있다.
일 실시예에서, 전술한 실시예들에서는, 디스플레이를 통하여 현재 표시된 화면을 인식하기 위한 사용자 입력을 수신하는 것으로 예시하고 있지만, 이에 제한되지 않는다. 예를 들어, 디스플레이를 통하여 표시되는 화면이, 하나의 페이지(예: 웹 페이지)의 일부인 경우, 프로세서(120)는, 하나의 페이지(예: 디스플레이를 통하여 표시된 하나의 페이지의 일부 및 디스플레이를 통하여 표시되지 않은 하나의 페이지의 나머지 부분)을 인식하기 위한 사용자 입력을 수신할 수 있다.
동작 503에서, 일 실시예에서, 프로세서(120)는, 사용자 입력에 기반하여 화면에 대한 제 1 인식 동작을 수행함으로써 화면과 관련된 적어도 하나의 제 1-1 태그를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 사용자 입력을 수신한 것에 응답하여, 화면에 대한 제 1 인식 동작을 수행할 수 있다.
일 실시예에서, 제 1 인식 동작은 전자 장치(101)에서 수행되는 적어도 하나의 인식 동작을 포함할 수 있다. 예를 들어, 제 1 인식 동작은, 전자 장치(101)가 인공지능(artificial intelligence) 기능을 수행할 수 있는 구성(예: NPU(neural processing unit))을 포함하는 경우, 인공지능 기능을 수행할 수 있는 구성을 통하여 수행되는 적어도 하나의 인식 동작을 포함할 수 있다. 다른 예를 들어, 제 1 인식 동작은, 인공지능 기능을 수행할 수 있는 구성 외에, 전자 장치(101)에 포함되고 화면을 인식할 수 있는 구성(예: OCR 프로그램, 이미지 인식 프로그램)을 이용하여 수행되는 적어도 하나의 인식 동작을 포함할 수 있다. 또 다른 예를 들어, 제 1 인식 동작은, 전자 장치(101)에 포함된, 인공지능 기능을 수행할 수 있는 구성 및 화면 인식 동작을 수행할 수 있는 구성을 통하여 수행되는 적어도 하나의 인식 동작을 포함할 수 있다.
일 실시예에서, 제 2 인식 동작은 전자 장치(101)와 연결된 외부 전자 장치(예: 서버(108))에서 수행되는 적어도 하나의 인식 동작을 포함할 수 있다. 예를 들어, 제 1 인식 동작이 전자 장치(101)에 포함된 NPU를 이용하여 수행되는 인식 동작인 경우, 제 1 인식 동작에 연속적으로 수행되는 제 2 인식 동작은 인공지능 기능을 수행할 수 있는 구성을 포함하는 외부 전자 장치(예: 서버(108))를 통하여 수행되는 적어도 하나의 인식 동작일 수 있다.
일 실시예에서, 제 2 인식 동작은, 제 1 인식 동작의 세부적인 인식 동작을 포함할 수 있다. 예를 들어, 화면에 이미지가 포함된 경우(예: 화면에 사용자에 대한 이미지가 포함된 경우), 제 1 인식 동작은 이미지에 포함된 객체의 종류(예: 사람)를 인식하는 동작이고, 제 2 인식 동작은 이미지에 포함된 객체에 대응하는 특정 대상(예: 사용자)을 인식하는 동작일 수 있다.
일 실시예에서, 제 1 인식 동작은 상위 용어(또는 상위 개념)를 가지는 태그를 획득하는 동작이고, 제 2 인식 동작은 제 1 인식 동작을 통하여 획득한 태그의 상위 용어에 속하는 하위 용어(또는 하위 개념)을 가지는 태그를 획득하는 동작을 포함할 수 있다.
일 실시예에서, 제 1 인식 동작은 화면과 관련된 어플리케이션의 명칭(예: 웹 어플리케이션)을 인식하는 동작을 포함할 수 있다. 일 실시예에서, 제 1 인식 동작은, 디스플레이를 통하여 웹 사이트의 화면이 표시되는 경우, 웹 사이트 주소를 인식하는 동작을 포함할 수 있다. 일 실시예에서, 제 1 인식 동작은, 디스플레이를 통하여 표시되는 화면엔 포함된 콘텐트의 명칭(예: 콘텐트의 제목)을 인식하는 동작을 포함할 수 있다.
일 실시예에서, 제 1 인식 동작은, 전자 장치(101)에 대하여 태그와 관련된 사용자의 입력 이력(log)에 기반하여, 태그를 획득하기 위한 동작을 포함할 수 있다. 예를 들어, 제 1 인식 동작은, 사용자가 전자 장치(101)로 최근(예: 지정된 기간으로서 현재 시간으로부터 1 주일 이내)에 입력한 검색어를 태그로서 획득하는 동작을 포함할 수 있다. 다른 예를 들어, 제 1 인식 동작은, 사용자가 지정된 기간 내에 전자 장치(101)로 지정된 횟수 이상(예: 3회 이상) 입력한 검색어를 태그로서 획득하는 동작을 포함할 수 있다. 다만, 이에 제한되지 않는다. 예를 들어, 전자 장치(101)에 대하여 태그와 관련된 사용자의 입력 이력(log)에 대한 정보가 전자 장치(101)의 사용자의 계정을 이용하여 전자 장치(101)와 관련된 외부 전자 장치(예: 서버(108))에 저장된 경우, 전자 장치(101)에 대하여 태그와 관련된 사용자의 입력 이력(log)에 기반하여 태그를 획득하기 위한 동작은 외부 전자 장치(예: 서버(108))를 통하여 수행될 수 있다.
일 실시예에서, 프로세서(120)는, 화면에 대한 제 1 인식 동작을 수행함으로써 적어도 하나의 1-1 태그를 획득할 수 있다.
동작 505에서, 일 실시예에서, 프로세서(120)는, 디스플레이를 통하여, 적어도 하나의 제 1-1 태그를 포함하는 제 1-1 사용자 인터페이스를 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 화면에 대한 제 1-1 인식 동작이 복수의 인식 동작들을 포함하고 복수의 인식 동작들 각각의 수행이 완료됨에 따라 연속적으로(또는 순차적으로) 적어도 하나의 제 1-1 태그를 획득하는 경우, 디스플레이를 통하여, 제 1-1 태그 획득 시 마다 획득된 제 1-1 태그를 포함하는 제 1-1 사용자 인터페이스를 표시할 수 있다. 예를 들어, 프로세서(120)는, 제 1 인식 동작에 포함된 제 1-1 인식 동작의 결과로서 제 1-1-1 태그를 획득하고 획득된 제 1-1-1 태그를 포함하는 제 1-1-1 사용자 인터페이스를 디스플레이를 통하여 표시할 수 있다. 프로세서(120)는, 제 1-1-1 태그를 포함하는 제 1-1-1 사용자 인터페이스를 표시하는 동안 제 1-1 인식 동작에 연속하는 제 1-2 인식 동작의 결과로서 제 1-1-2 태그를 획득한 경우, 제 1-1-1 태그 및 제 1-1-2 태그를 포함하는 제 1-1-2 사용자 인터페이스를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 화면에 대한 제 1 인식 동작이 복수의 인식 동작들을 포함하는 경우, 복수의 인식 동작들이 모두 완료된 후, 복수의 인식 동작을 통하여 획득한 적어도 하나의 제 1-1 태그를 포함하는 제 1-1 사용자 인터페이스를 디스플레이를 통하여 표시할 수도 있다.
일 실시예에서, 프로세서(120)는, 디스플레이를 통하여, 적어도 하나의 제 1-1 태그를 나타내는 오브젝트들을 표시할 수 있다. 예를 들어, 프로세서(120)는, 디스플레이를 통하여, 적어도 하나의 제 1-1 태그를 오브젝트(예: 아이콘) 형태로 표시할 수 있다.
일 실시예에서, 적어도 하나의 제 1-1 태그를 나타내는 오브젝트 각각은 사용자에 의해 선택되었는지를 지시하는 인디케이터(indicator)를 포함할 수 있다. 일 실시예에서, 프로세서(120)는, 적어도 하나의 제 1-1 태그를 획득한 경우(예: 적어도 하나의 제 1-1 태그를 획득한 직후(immediately after)), 적어도 하나의 제 1-1 태그가 사용자에 의해 선택되지 않음을 나타내는 인디케이터를 포함하는 오브젝트를 디스플레이를 통하여 표시할 수 있다.
동작 507에서, 일 실시예에서, 프로세서(120)는, 디스플레이를 통하여 제 1 사용자 인터페이스를 표시하는 동안, 제 1 인식 동작에 연속하고 외부 전자 장치(예: 서버(108))에서 수행된 화면에 대한 제 2 인식 동작을 통하여, 적어도 하나의 제 1-2 태그를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 인식 동작을 수행한 후, 외부 전자 장치(예: 서버(108))가 제 2 인식 동작을 수행하기 위하여 필요한 정보를 통신 모듈(190)을 통하여 외부 전자 장치(예: 서버(108))로 전송할 수 있다. 예를 들어, 프로세서(120)는, 제 1 인식 동작의 수행 결과로서 획득한 적어도 하나의 제 1-1 태그에 대한 정보를 통신 모듈(190)을 통하여 외부 전자 장치(예: 서버(108))로 전송할 수 있다. 다른 예를 들어, 프로세서(120)는, 화면에 대한 정보(예: 화면을 캡처한 이미지, 화면에 대한 소스 코드)에 대한 정보를 통신 모듈(190)을 통하여 외부 전자 장치(예: 서버(108))로 전송할 수 있다.
일 실시예에서, 도 5에 도시하지는 않았지만, 외부 전자 장치(예: 서버(108))는, 전자 장치(101)로부터 수신된 제 2 인식 동작을 수행하기 위하여 필요한 정보에 기반하여 제 2 인식 동작을 수행할 수 있다.
일 실시예에서, 프로세서(120)는, 외부 전자 장치(예: 서버(108))로부터, 통신 모듈(190)을 통하여, 제 2 인식 동작을 통하여 생성된 제 1-2 태그를 수신할 수 있다.
일 실시예에서, 프로세서(120)는, 화면에 대한 제 2 인식 동작이 복수의 인식 동작들을 포함하는 경우, 외부 전자 장치(예: 서버(108))에서 수행된 복수의 인식 동작들 각각의 수행이 완료됨에 따라 연속적으로(또는 순차적으로) 생성되는 적어도 하나의 제 1-2 태그를 통신 모듈(190)을 통하여 외부 전자 장치(예: 서버(108))로부터 수신할 수 있다.
일 실시예에서, 프로세서(120)는, 화면에 대한 제 2 인식 동작이 복수의 인식 동작들을 포함하는 경우, 외부 전자 장치(예: 서버(108))에서 수행된 복수의 인식 동작들 모두의 수행이 완료됨에 따라 생성되는 적어도 하나의 제 1-2 태그를 통신 모듈(190)을 통하여 외부 전자 장치(예: 서버(108))로부터 수신할 수도 있다.
동작 509에서, 일 실시예에서, 프로세서(120)는, 디스플레이를 통하여, 획득한 적어도 하나의 제 1-2 태그를 포함하는 제 1-2 사용자 인터페이스를 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 외부 전자 장치(예: 서버(108))에서 수행된 복수의 인식 동작들 각각의 수행이 완료됨에 따라 연속적으로(또는 순차적으로) 생성되는 적어도 하나의 제 1-2 태그를 통신 모듈을 통하여 외부 전자 장치(예: 서버(108))로부터 수신하는 경우, 디스플레이를 통하여, 제 1-2 태그 획득 시 마다 획득된 제 1-2 태그를 포함하는 제 1-2 사용자 인터페이스를 표시할 수 있다. 예를 들어, 프로세서(120)는, 제 2 인식 동작에 포함된 제 2-1 인식 동작의 결과로서 제 1-2-1 태그를 획득하고 획득된 제 1-2-1 태그를 포함하는 제 1-2-1 사용자 인터페이스를 디스플레이를 통하여 표시할 수 있다. 프로세서(120)는, 제 1-2-1 태그를 포함하는 제 1-2-1 사용자 인터페이스를 표시하는 동안 제 2-1 인식 동작에 연속하는 제 2-2 인식 동작의 결과로서 제 1-2-2 태그를 획득한 경우, 제 1-2-1 태그 및 제 1-2-2 태그를 포함하는 제 1-2-2 사용자 인터페이스를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1-1 태그를 제 1-2 태그로 변경할 수 있다. 일 실시예에서, 프로세서(120)는, 화면이 이미지를 포함하는 경우, 이미지에 대한 제 1 인식 동작을 수행함으로써 제 1-1 태그를 획득하고, 이미지에 대한 제 2 인식 동작을 수행한 후, 제 1-1 태그를 제 1-2 태그로 변경할 수 있다. 예를 들어, 프로세서(120)는, 화면이 특정 패턴을 포함하는(또는 특정 패턴으로 구성된) 이미지(예: QR(quick response) 코드 이미지)를 포함하는 경우, 이미지가 나타내는 대상(예: QR 코드)을 제 1-1 태그로서 획득할 수 있다. 프로세서(120)는, 이미지에 포함된 특정 패턴을 분석함으로써 특정 패턴이 나타내는 정보(예: QR 코드를 분석함으로써 획득한 정보)를 제 1-2 태그로서 획득할 수 있다. 프로세서(120)는, 제 1 사용자 인터페이스에 포함된 제 1-1 태그를 제거하고(또는 사라지게 하고), 제 1-2 태그를 표시할 수 있다. 예를 들어, 프로세서(120)는, 디스플레이를 통하여, 제 1-1 태그가 표시되었던 제 1 사용자 인터페이스의 위치에, 제 1-1 태그를 대체하여 제 1-2 태그를 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 화면에 대한 제 2 인식 동작이 복수의 인식 동작들을 포함하는 경우, 복수의 인식 동작들이 모두 완료된 후, 복수의 인식 동작을 통하여 획득한 적어도 하나의 제 1-2 태그를 포함하는 제 1-2 사용자 인터페이스를 디스플레이를 통하여 표시할 수도 있다.
일 실시예에서, 프로세서(120)는, 디스플레이를 통하여, 적어도 하나의 제 1-2 태그를 나타내는 오브젝트들을 표시할 수 있다. 예를 들어, 프로세서(120)는, 디스플레이를 통하여, 적어도 하나의 제 1-2 태그를 오브젝트(예: 아이콘) 형태로 표시할 수 있다.
일 실시예에서, 적어도 하나의 제 1-2 태그를 나타내는 오브젝트 각각은 사용자에 의해 선택되었는지를 지시하는 인디케이터(indicator)를 포함할 수 있다. 일 실시예에서, 프로세서(120)는, 적어도 하나의 제 1-2 태그를 획득한 경우(예: 적어도 하나의 제 1-2 태그를 획득한 직후(immediately after)), 적어도 하나의 제 1-2 태그가 사용자에 의해 선택되지 않음을 나타내는 인디케이터를 포함하는 오브젝트를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 디스플레이를 통하여, 적어도 하나의 제 1-1 태그 및 적어도 하나의 제 1-2 태그를 포함하는 제 1-2 사용자 인터페이스를 표시할 수 있다.
도 5에 도시하지는 않았지만, 도 5는, 도 2의 동작 209 내지 동작 211를 통하여 설명한, 적어도 하나의 제 1 태그를 선택함으로써 적어도 하나의 제 2 태그를 획득하고 적어도 하나의 제 2 태그를 포함하는 제 2 사용자 인터페이스를 표시하는 동작과 적어도 일부가 동일 또는 유사한 동작을 더 포함할 수 있다.
도 5에 도시하지는 않았지만, 일 실시예에서, 프로세서(120)는, 획득한 적어도 하나의 제 1 태그 및 적어도 하나의 제 2 태그를 저장할 수 있다.
도 5에 도시하지는 않았지만, 도 5는, 도 4의 동작 413 및 동작 415를 통하여 설명한, 하나 이상의 제 1 태그들 또는 적어도 하나의 제 2 태그 중 적어도 하나와 관련된 기능을 확인하고, 확인된 기능과 관련된 오브젝트를 포함하는 제 3 사용자 인터페이스를 표시하는 동작과 적어도 일부가 동일 또는 유사한 동작을 더 포함할 수 있다.
도 6은, 다양한 실시예들에 따른 텍스트와 관련된 태그를 제공하는 방법을 설명하기 위한 예시도(600)이다.
도 6을 참조하면, 일 실시예에서, 화면에 'A coffee adds its fourth local cafe'와 같은 텍스트 1이 포함된 경우, 프로세서(120)는, 'ACoffee'와 같은 키워드를 제 1-1 태그로서 획득할 수 있다. 프로세서(120)는, 'A'와 같은 'ACoffee'의 회사 명칭 및 'A성수점'과 같은 'ACoffee'의 지점에 대한 정보(예: 전자 장치(101)의 현재 위치로부터 가장 가까운'ACoffee'의 지점에 대한 정보)를 제 1-2 태그로서 획득할 수 있다. 프로세서(120)는, 'A_역사'와 같은 A 회사의 역사에 대한 정보 및 'A성수점_전화번호'와 같은 'ACoffee'의 지점의 연락처 정보를 제 2 태그로서 획득할 수 있다. 프로세서(120)는, 제 1-1 태그, 제 1-2 태그, 또는 제 2 태그 중 적어도 하나와 관련된 기능으로서, 위치 추천 기능(예: 맵 어플리케이션의 기능)을 확인하고, 위치 추천 기능에 매핑된 오브젝트를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 화면에 'B company is working through its "C process" to figure out what to do about deepfakers'와 같은 텍스트 2가 포함된 경우, 프로세서(120)는, 'Bcompany'와 같은 키워드를 제 1-1 태그로서 획득할 수 있다. 프로세서(120)는, 'D'와 같은 B 회사의 대표자 이름 및 'E '와 같은 B 회사의 대표자와 관련되어 기사화된 기관의 명칭을 제 1-2 태그로서 획득할 수 있다. 프로세서(120)는, 'D명언'와 같은 B 회사 대표자의 유명한 발언과 관련된 태그 및 'D재산'과 같은 B 회사 대표자의 재산과 관련된 태그를 제 2 태그로서 획득할 수 있다.
일 실시예에서, 화면에 'Only those woh will risk going too far can possibly find out how far one can go'와 같은 텍스트 3이 포함된 경우, 프로세서(120)는, 텍스트 3이 명언임을 나타내는 'maxim'과 같은 키워드를 제 1-1 태그로서 획득할 수 있다. 프로세서(120)는, 'TSEliot'와 같은 텍스트 3과 관련된 인물의 이름 제 1-2 태그로서 획득할 수 있다. 프로세서(120)는, ' TSEliot_생애'와 텍스트 3과 관련된 인물의 생애 및 'Thewasteland'와 같은 텍스트 3과 관련된 인물의 작품을 제 2 태그로서 획득할 수 있다.
일 실시예에서, 화면에 '야경 촬영에 최적화된 갤럭시 S10 시리즈의 '야간 모드'' 와 같은 텍스트 4가 포함된 경우, 프로세서(120)는, '갤럭시S10' 및 '야간모드'와 같은 키워드를 제 1-1 태그로서 획득할 수 있다. 프로세서(120)는, 갤럭시S10과 관련된 제품으로서 '갤럭시S10노트' 및 '야간모드'의 기능에 대한 가이드와 관련된 '야간모드_설정방법'을 제 2 태그로서 획득할 수 있다. 프로세서(120)는, 제 1-1 태그 또는 제 2 태그 중 적어도 하나와 관련된 기능으로서, 야간 모드 기능을 확인하고, 야간 모드 기능을 바로 실행할 수 있는 오브젝트를 디스플레이를 통하여 표시할 수 있다.
도 7은, 다양한 실시예들에 따른 이미지와 관련된 태그를 제공하는 방법을 설명하기 위한 예시도(700)이다.
도 7을 참조하면, 일 실시예에서, 화면이 영화 배우 F가 노래하는 장면을 나타내는 이미지 1을 포함하는 경우, 프로세서(120)는, 장면에 포함된 오브젝트가 사람에 해당하고 사람의 성별 및 사람의 동작을 인식함으로써, 'Singing_Man'을 제 1-1 태그로서 획득할 수 있다. 프로세서(120)는, 영화 배우의 이름을 나타내는 'F' 및 장면과 관련된 작품을 나타내는 'I'를 제 1-2 태그로서 획득할 수 있다. 프로세서(120)는, 영화 배우 F가 최근 출연한 영화 제목을 나타내는 'H' 및 영화 배우 F의 음악 앨범 이름을 나타내는 'I'를 제 2 태그로서 획득할 수 있다. 프로세서(120)는, 제 1-1 태그, 제 1-2 태그, 또는 제 2 태그 중 적어도 하나와 관련된 기능으로서, 영화 배우 F가 출연한 영화를 예약할 수 있는 기능을 확인하고, 확인한 기능을 실행할 수 있는 오브젝트를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 화면이 사용자의 미소 짓는 어머니를 나타내는 이미지 2을 포함하는 경우, 프로세서(120)는, 이미지 2에 포함된 오브젝트가 사람에 해당하고, 사람의 성별 및 사람의 표정을 인식함으로써, 'SmileWoman'을 제 1-1 태그로서 획득할 수 있다. 프로세서(120)는, 전자 장치(101)의 사용자와 인식된 사람 간 관계를 나타내는 'MyMom'을 제 1-2 태그로서 획득할 수 있다. 프로세서(120)는, 'MyMom'과 관련된 정보로서 '어머니연락처'를 제 2 태그로서 획득할 수 있다. 프로세서(120)는, 제 1-1 태그, 제 1-2 태그, 또는 제 2 태그 중 적어도 하나와 관련된 기능으로서, 어머니 연락처 바로 가기 기능을 확인하고, 확인한 기능을 실행할 수 있는 오브젝트를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 화면이 응봉산 일몰 풍경을 나타내는 이미지 3을 포함하는 경우, 프로세서(120)는, 이미지 3이 풍경을 나타냄을 인식함으로써, 'landscape'을 제 1-1 태그로서 획득할 수 있다. 프로세서(120)는, 이미지 3이 나타내는 상세한 풍경(예: 일몰)으로서 'Sunset' 및 이미지 3에 포함된 오브젝트에 해당하는 지리적 명칭(예: 응봉산)으로서 'EungBongSan'을 제 1-2 태그로서 획득할 수 있다. 프로세서(120)는, 'EungBongSan'와 관련된 정보로서 'EungBongSan_야경' 및 'EungBongSan_주차장'을 제 2 태그로서 획득할 수 있다. 프로세서(120)는, 제 1-1 태그, 제 1-2 태그, 또는 제 2 태그 중 적어도 하나와 관련된 기능으로서, 위치 추천 기능(예: 맵 어플리케이션, 내비게이션 어플리케이션 기능)을 확인하고, 확인한 기능을 실행할 수 있는 오브젝트를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 화면이 새우 음식을 나타내는 이미지 4를 포함하는 경우, 프로세서(120)는, 이미지 4가 음식에 해당함을 인식함으로써, 'food'를 제 1-1 태그로서 획득할 수 있다. 프로세서(120)는, 새우 음식의 종류(또는 메뉴)로서, 'Gambas', ' GambasAlAjillo', 및 'SpanishGarlicShrimp'를 제 1-2 태그로서 획득할 수 있다. 프로세서(120)는, 새우 음식을 제공하는 장소에 대한 정보로서 'J음식점' 및 'K음식점'을 제 2 태그로서 획득할 수 있다. 프로세서(120)는, 제 1-1 태그, 제 1-2 태그, 또는 제 2 태그 중 적어도 하나와 관련된 기능으로서, 맛집을 추천하는 기능을 확인하고, 확인한 기능을 실행할 수 있는 오브젝트를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 화면이 야간에 촬영된 이미지 5를 포함하는 경우, 프로세서(120)는, 이미지 5가 야간에 촬영됨을 인식함으로써, 'night'를 제 1-1 태그로서 획득할 수 있다. 프로세서(120)는, 야경과 관련된 장소를 나타내는 'L'을 제 2 태그로서 획득할 수 있다. 프로세서(120)는, 제 1-1 태그 또는 제 2 태그 중 적어도 하나와 관련된 기능으로서, 야간 모드 기능을 확인하고, 확인한 기능을 실행할 수 있는 오브젝트를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 화면이 공연 포스터를 나타내는 이미지 6을 포함하는 경우, 프로세서(120)는, 공연 포스터의 대표 텍스트를 인식함으로써, '2020JazzFestival'을 제 1-1 태그로서 획득할 수 있다. 프로세서(120)는, 공연 포스터의 세부 텍스트를 인식함으로써 'May25th' 및 'OlympicPark'를 제 1-2 태그로서 획득할 수 있다. 프로세서(120)는, 다른 공연과 관련된 정보로서 'M_Festival' 및 공연이 진행되는 지리적 위치에 대한 정보로서 OlympicPark_위치'를 제 2 태그로서 획득할 수 있다. 프로세서(120)는, 제 1-1 태그, 제 1-2 태그, 또는 제 2 태그 중 적어도 하나와 관련된 기능으로서, 공연과 관련된 일정을 저장하는 기능 및 공연의 티켓을 예매하기 위한 기능을 확인하고, 확인한 기능을 실행할 수 있는 오브젝트를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 화면이 QR 코드를 나타내는 이미지 7을 포함하는 경우, 프로세서(120)는, 이미지 7이 나타내는 오브젝트가 QR 코드에 해당함으로 나타내는 'QR' 및 'QR_code'를 제 1-1 태그로서 획득할 수 있다. 프로세서(120)는, QR 코드를 분석함으로써 획득하는 정보에 따라 'article', 'internet', 및 'payment'을 제 1-2 태그로서 획득할 수 있다. 프로세서(120)는, QR 코드와 관련된 정보로서 'QR_code_스캔방법' 및 'QR_code_종류'를 제 2 태그로서 획득할 수 있다. 프로세서(120)는, 제 1-1 태그, 제 1-2 태그, 또는 제 2 태그 중 적어도 하나와 관련된 기능으로서, 인터넷 기능 및 결제 기능을 확인하고, 확인한 기능을 실행할 수 있는 오브젝트를 디스플레이를 통하여 표시할 수 있다.
도 8a 내지 도 8c는, 다양한 실시예들에 따른, 전자 장치(101)에서 태그를 제공하는 방법을 설명하기 위한 예시도이다.
도 8a 내지 도 8c를 참조하면, 일 실시예에서, 도면(801)에 도시된 바와 같이, 프로세서(120)는 텍스트 및 이미지를 포함하는 화면(810)을 디스플레이(예: 표시 장치(160))를 통하여 표시할 수 있다. 일 실시예에서, 화면(810)은 웹 어플리케이션을 실행함으로써 표시되는 화면일 수 있다. 다만, 캡처의 대상이 되는 화면 또는 화면 인식의 대상이 되는 화면(또는 태그 획득이 가능한 화면)은 화면(910)과 같은 웹 어플리케이션의 실행 화면에 제한되지 않는다. 예를 들어, 캡처의 대상이 되는 화면 또는 화면 인식의 대상이 되는 화면은, 홈 화면 또는 잠금 화면과 같은 디스플레이를 통하여 표시될 수 있는 화면을 모두 포함할 수 있다. 화면(810)은 텍스트 및 이미지를 모두 포함하는 것으로 예시하고 있지만, 캡처의 대상이 되는 화면 또는 화면 인식의 대상이 되는 화면은, 텍스트만을 포함하거나, 이미지만을 포함하는 화면을 포함할 수 있다.
일 실시예에서, 프로세서(120)는, 화면(810)에 대한 이미지(예: 캡처 이미지)를 획득(또는 생성)하기 위한 사용자 입력을 수신할 수 있다. 일 실시예에서, 프로세서(120)는, 사용자 입력을 수신한 것에 응답하여, 화면과 관련된 기능을 수행하기 위한 복수의 기능들을 나타내는 오브젝트들을 포함하는 인터페이스(821)을 포함하는 화면(820)을 디스플레이를 통하여 표시할 수 있다. 예를 들어, 프로세서(120)는, 도면(802)에 도시된 바와 같이, 화면(810)을 축소한 이미지(822-1)와 함께, 스크롤 캡처 기능을 나타내는 오브젝트(822-2), 캡처된 이미지를 편집하는 기능을 나타내는 오브젝트(822-3), 화면에 대한 인식 기능을 수행하는 기능을 나타내는 오브젝트(822), 및 캡처된 이미지를 다른 사용자와 공유하는 기능을 나타내는 오브젝트(822-4)를 포함하는 인터페이스(821)를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 화면(810)에 대한 인식 기능을 수행하는 기능을 나타내는 오브젝트(822)를 선택하는 사용자 입력을 수신한 것에 응답하여, 화면(810)에 대한 제 1 인식 동작을 수행할 수 있다. 일 실시예에서, 프로세서(120)는, 도면(803)에 도시된 바와 같이, 제 1 인식 동작을 통하여 획득한 제 1-1 태그들을 포함하는 제 1 인터페이스(831)를 포함하는 화면(830)을 디스플레이를 통하여 표시할 수 있다. 예를 들어, 프로세서(120)는, 화면(810)에 포함된 텍스트를 인식함으로써 제 1-1 태그들을 획득하고, 획득된 제 1-1 태그들을 나타내는 오브젝트들(832-1 내지 832-6)을 포함하는 제 1-1 인터페이스(831)을 포함하는 화면(830)을 디스플레이를 통하여 표시할 수 있다. 일 실시예에서, 제 1-1 태그들을 나타내는 오브젝트들(832-1 내지 832-6)은, 제 1-1 태그들이 사용자에 의해 선택되지 않은 상태임을 나타내는 인디케이터로서 '+'를 포함할 수 있다. 일 실시예에서, 제 1-1 인터페이스는, 사용자로부터 텍스트를 입력 받아, 태그를 생성하기 위한 오브젝트(833)을 포함할 수 있다.
일 실시예에서, 프로세서(120)는, 화면(810)에 대한 제 1 인식 동작에 연속하는 제 2 인식 동작(예: 외부 전자 장치(예: 서버(108))에서 수행되는 인식 동작)과 관련된 동작을 수행할 수 있다. 일 실시예에서, 프로세서(120)는, 제 2 인식 동작과 관련된 동작을 수행함으로써, 적어도 하나의 제 1-2 태그를 획득할 수 있다. 예를 들어, 프로세서(120)는 화면(810, 820, 830)에 포함된 이미지가 사물(예: 궁궐)로서 '덕수궁'임을 인식할 수 있다.
일 실시예에서, 프로세서(120)는, 획득된 적어도 하나의 제 1-1 태그를 포함하는 제 2 사용자 인터페이스를 포함하는 화면을 디스플레이를 통하여 표시할 수 있다. 예를 들어, 도면(804)에 도시된 바와 같이, 프로세서(120)는, 적어도 하나의 제 1-2 태그를 나타내는 오브젝트(832-7)가 포함된 제 1-2 사용자 인터페이스(841)을 포함하는 화면(840)을 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1-2 사용자 인터페이스를 표시하는 동안, 제 1-2 사용자 인터페이스에 포함된 태그들 중 적어도 하나의 태그를 선택하는 사용자 입력을 수신할 수 있다. 예를 들어, 프로세서(120)는, 제 1-2 사용자 인터페이스에 포함된 태그들 중 태그를 나타내는 오브젝트(832-7)을 선택하는 사용자 입력을 수신할 수 있다. 일 실시예에서, 프로세서(120)는, 제 1-2 사용자 인터페이스에 포함된 태그들 중 적어도 하나의 태그를 선택하는 사용자 입력을 수신한 경우, 선택된 태그를 나타내는 오브젝트를 선택되지 않은 다른 태그들을 나타내는 오브젝트들과 구분되도록, 선택된 태그를 나타내는 오브젝트의 인디케이터를 변경할 수 있다. 예를 들어, 도면(805)에 도시된 바와 같이, 프로세서(120)는, 오브젝트(832-7)이 선택된 경우, 오브젝트(832-7)의 인디케이터가 '+'로부터 '#'으로 변경된 화면(850)을 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1-2 사용자 인터페이스에 포함된 태그들 중 적어도 하나의 태그가 선택되는 경우, 선택된 적어도 하나의 태그와 관련된 제 2 태그를 획득할 수 있다. 예를 들어, 도면(806)에 도시된 바와 같이, 프로세서(120)는, 선택된 태그로서 '덕수궁'과 관련된 '덕수궁_돌담길'을 제 2 태그로서 획득할 수 있다. 프로세서(120)는, 제 2 태그를 나타내는 오브젝트(832-7)을 포함하는 제 2 사용자 인터페이스(861)을 포함하는 화면(860)을 디스플레이를 통하여 표시할 수 있다. 일 실시예에서, 도면(803, 804, 805)에 도시하지는 않았지만, 프로세서(120)는, 사용자 인터페이스(예: 제 1-1 사용자 인터페이스, 제 1-2 사용자 인터페이스)를 통하여 제 2 태그를 획득하는 동작을 수행(또는 시작)하기 위한 오브젝트를 더 표시할 수 있다. 프로세서(120)는, 제 2 태그를 획득하는 동작을 수행하기 위한 오브젝트에 대한 사용자 입력에 응답하여 제 2 태그를 획득하는 동작을 수행할 수 있다. 다만, 이에 제한되지 않으며, 프로세서(120)는, 제 2 태그를 획득하는 동작을 수행하기 위한 오브젝트를 표시함 없이, 제 1 사용자 인터페이스에 포함된 태그들 중 적어도 하나의 태그를 선택하는 사용자 입력을 수신한 것에 응답하여(또는 수신한 직후), 선택된 적어도 하나의 태그와 관련된 제 2 태그를 획득하는 동작을 수행할 수 있다.
일 실시예에서, 프로세서(120)는, 화면(810) 인식을 통하여 획득한 태그들 중에서 적어도 하나의 태그와 관련된 기능을 확인할 수 있다. 프로세서(120)는, 확인된 기능을 나타내는 오브젝트를 포함하는 사용자 인터페이스를 디스플레이를 통하여 표시할 수 있다. 예를 들어, 도면(807)에 도시된 바와 같이, 프로세서(120)는, 태그 '야간 모드'와 관련된 야간 모드 기능을 실행하기 위한 오브젝트(873) 및 태그 '덕수궁'과 관련된 맵 어플리케이션(또는 네비게이션 어플리케이션)을 실행하기 위한 오브젝트(875)가 포함된 제 2 사용자 인터페이스(871)를 포함하는 화면(870)을 디스플레이를 통하여 표시할 수 있다.
도 8a 내지 도 8c에서는, 화면(810)에 대한 이미지(예: 캡처 이미지)를 생성한 것을 전제로 예시들을 설명하였지만, 이에 제한되지 않는다. 예를 들어, 프로세서(120)는, 화면에 대한 이미지를 생성함 없이, 디스플레이를 통하여 표시된 화면에 대한 인식 동작을 수행할 수 있다. 또한, 프로세서(120)는, 화면(810)에 대한 이미지를 생성 후, 생성된 이미지에 대한 인식 동작을 수행함으로써 태그를 획득할 수 있지만, 이에 제한되지 않는다. 예를 들어, 프로세서(120)는, 화면(810)에 대하여, 화면(810)에 대한 이미지를 생성함 없이, 화면(810)에 대한 인식 동작을 수행할 수 있다.
도 9a 및 도 9b는, 다양한 실시예들에 따른, 전자 장치(101)에서 태그와 관련된 기능을 제공하는 방법을 설명하기 위한 예시도이다.
도 9a 및 도 9b를 참조하면, 일 실시예에서, 프로세서(120)는, 도면(901)에 도시된 바와 같이, 걷는 중인 사람(951)과 QR 코드(953)가 포함된 포스터(poster)에 대한 이미지와 함께, 제 1 인식 동작을 통하여 획득한 태그들을 나타내는 오브젝트들(912-1 내지 912-6)이 포함된 제 1-1 사용자 인터페이스(911)를 포함하는 화면(910)을 디스플레이(예: 표시 장치(160))를 통하여 표시할 수 있다. 일 실시예에서, 도면(901)에서, 오브젝트들(912-1, 912-2, 912-3, 912-5, 912-6)은 사용자에 의해 선택됨을 나타내는 인디케이터(예: '#')을 포함하고, 오브젝트(912-4)는 사용자에 의해 선택되지 않음을 나타내는 인디케이터(예: '+')을 포함할 수 있다. 일 실시예에서, 제 1-1 사용자 인터페이스(911)는, 사용자로부터 텍스트를 입력 받아, 태그를 생성하기 위한 오브젝트(913)을 더 포함할 수 있다.
일 실시예에서, 프로세서(120)는, 화면에 대한 제 2 인식 동작을 수행함으로써, 제 1 인식 동작을 통하여 획득한 태그와 관련된 기능을 나타내는 오브젝트를 다양한 방식으로 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 이미지로부터 QR 코드(953)를 분석(또는 인식)함으로써, QR 코드(953)가 특정 URL(uniform resource locator)의 패턴을 포함함을 확인할 수 있다. 프로세서(120)는, 특정 URL에 접속하기 위하여 웹 어플리케이션의 기능의 실행이 필요함을 확인할 수 있다. 프로세서(120)는, QR 코드(953)의 태그 'qr_code'와 관련된 기능으로서 웹 어플리케이션의 기능을 확인할 수 있다.
일 실시예에서, 프로세서(120)는, 도면(902)의 화면(920)과 같이, 확인된 태그(또는 오브젝트(923)의 태그)와 관련된 기능을 나타내는 오브젝트(924)를 제 1-2 사용자 인터페이스(921) 내에서 오브젝트(923)가 표시된 영역과 다른 영역에 이미지 아이콘 형태로 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 도면(903)의 화면(930)과 같이, 확인된 태그(또는 태그를 나타내는 오브젝트(932)의 태그)와 관련된 기능을 나타내는 오브젝트(933)를 제 1-2 사용자 인터페이스(931)에 포함된 오브젝트(932) 내에서 태그와 함께 이미지 아이콘 형태로 디스플레이를 통하여 표시할 수 있다. 일 실시예에서, 프로세서(120)는, 사용자로부터 오브젝트(933)에 대한 입력을 수신한 것에 응답하여, 오브젝트(933)에 대응하는 기능(예: 웹 어플리케이션의 기능, 웹 어플리케이션을 통하여 QR 코드(953)의 특정 URL에 접속함으로써 정보를 표시하는 기능)을 실행할 수 있다.
일 실시예에서, 프로세서(120)는, 도면(904)의 화면(940)과 같이, 확인된 태그(또는 오브젝트(912-3)의 태그)와 관련된 기능을 나타내는 오브젝트(942)를 제 1-2 사용자 인터페이스(941) 내에서 오브젝트(912-3)가 표시된 영역과 다른 영역에 텍스트 아이콘 형태로 디스플레이를 통하여 표시할 수 있다.
도 10a 및 도 10b는, 다양한 실시예들에 따른, 전자 장치(101)에서 태그와 관련된 기능을 제공하는 방법을 설명하기 위한 예시도이다.
도 10a 및 도 10b를 참조하면, 일 실시예에서, 프로세서(120)는, 도면(1001)에 도시된 바와 같이, QR 코드(1061), 사용자가 주문한 음식 메뉴들, 및 사용자가 주문한 음식 메뉴들에 대한 비용(1063)을 포함하는 이미지와 함께, 제 1 인식 동작을 통하여 획득한 태그들을 나타내는 오브젝트들(1012-1 내지 1012-6)이 포함된 제 1-1 사용자 인터페이스(1011)를 포함하는 화면(1010)을 디스플레이(예: 표시 장치(160))를 통하여 표시할 수 있다. 일 실시예에서, 도면(1001)에서, 오브젝트들(1012-1, 1012-2, 1012-5, 1012-6)은 사용자에 의해 선택됨을 나타내는 인디케이터(예: '#')을 포함하고, 오브젝트들(1012-3, 1012-4)는 사용자에 의해 선택되지 않음을 나타내는 인디케이터(예: '+')을 포함할 수 있다. 일 실시예에서, 제 1-1 사용자 인터페이스(1011)는, 사용자로부터 텍스트를 입력 받아, 태그를 생성하기 위한 오브젝트(1013)을 더 포함할 수 있다.
일 실시예에서, 프로세서(120)는, 화면에 대한 제 2 인식 동작을 수행함으로써, 제 1 인식 동작을 통하여 획득한 태그와 관련된 기능을 나타내는 오브젝트를 다양한 방식으로 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 이미지로부터 QR 코드(1061)를 분석(또는 인식)함으로써, QR 코드(1061)가 사용자가 주문한 음식 메뉴들에 대한 비용(1063)의 결제에 대한 정보를 포함함을 확인할 수 있다. 프로세서(120)는, 사용자가 주문한 음식 메뉴들에 대한 비용의 결제를 위하여 결제 어플리케이션의 기능의 실행이 필요함을 확인할 수 있다. 프로세서(120)는, QR 코드(1061)의 태그 'qr_code'와 관련된 기능으로서 결제 어플리케이션의 기능을 확인할 수 있다.
일 실시예에서, 프로세서(120)는, 도면(1002)의 화면(1020)과 같이, 확인된 태그(또는 오브젝트(1022)의 태그)와 관련된 기능을 나타내는 오브젝트(1023)를 제 1-2 사용자 인터페이스(1021) 내에서 오브젝트(1023)가 표시된 영역과 다른 영역에 이미지 아이콘 형태로 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 도면(1003)의 화면(1030)과 같이, 확인된 태그(또는 오브젝트(1032)의 태그)와 관련된 기능을 나타내는 오브젝트(1033)를, 디스플레이를 통하여, 제 1-2 사용자 인터페이스(1031) 내에서 오브젝트(1032)가 표시된 영역과 다른 영역에 이미지 아이콘 형태로 표시하고, 오브젝트(1032)의 태그가 오브젝트(1033)의 기능과 관련됨을 나타내도록, 오브젝트(1032)의 형태를 변경(예: 오브젝트(1032)의 색상, 명도, 또는 채도 중 적어도 하나를 변경)하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1-1 태그를 제 1-2 태그로 변경할 수 있다. 예를 들어, 도면(1001)의 화면(1010) 및 도면(1004)의 화면(1040)을 비교하면, 프로세서(120)는, 태그 'qr_code'를 나타내는 오브젝트(1012-2)를 태그 '7만원'를 나타내는 오브젝트(1043) 로 변경할 수 있다. 프로세서(120)는, 이미지에 포함된 QR 코드(1061)의 특정 패턴을 분석함으로써, 특정 패턴이 나타내는 정보로서 사용자가 주문한 음식 메뉴들의 비용(예: 7만원)을 확인할 수 있다. 프로세서(120)는, 확인한 비용을 태그로서 획득하고, 제 1 인식 동작을 통하여 획득한 태그 'qr_code'를 제 2 인식 동작을 통하여 획득한 태그 '7만원'으로 변경할 수 있다.
일 실시예에서, 프로세서(120)는, 도면(1005)의 화면(1050)에 도시된 바와 같이, 사용자에 의해 선택된 태그들(예: 오브젝트들(1012-1, 1022, 1012-5, 1012-6)이 나타내는 태그들)을 SNS 어플리케이션의 전자 장치(101)의 사용자의 계정에 대응하여 저장하도록 하기 위한 오브젝트(1053)을 포함하는 제 1-2 사용자 인터페이스(1051)를 디스플레이를 통하여 표시할 수 있다.
도 11은, 다양한 실시예들에 따른, 사용자가 텍스트를 입력함으로써 태그를 제공하는 방법을 설명하기 위한 예시도이다.
도 11을 참조하면, 일 실시예에서, 프로세서(120)는, 적어도 하나의 태그와 함께 사용자의 입력에 의해(또는 manually) 태그를 생성할 수 있도록 하는 오브젝트(예: 오브젝트(1111))를 포함하는 사용자 인터페이스를 디스플레이를 통하여 표시할 수 있다. 일 실시예에서, 프로세서(120)는, 적어도 하나의 태그와 함께 사용자의 입력에 의해 태그를 생성할 수 있도록 하는 오브젝트를 표시하는 동안, 표시된 오브젝트에 대한 사용자 입력이 수신되는 경우, 도면(1101)의 화면(1110)과 같이, 사용자의 입력에 의해 태그를 생성할 수 있도록 하는 오브젝트와 함께 키보드(1112)를 디스플레이(예: 표시 장치(160))를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 키보드(1112)를 통하여 텍스트를 입력하는 사용자 입력이 수신되면, 도면(1102)의 화면(1120)과 같이, 입력된 텍스트를 오브젝트(1111)을 통하여 표시할 수 있다. 일 실시예에서, 프로세서(120)는, 사용자로부터 하나 이상의 문자가 입력되면, 오브젝트(1111)에서 입력된 문자에 대한 자동 완성 기능에 의해 제공되는 텍스트를 오브젝트(1113)을 통하여 표시할 수 있다. 일 실시예에서, 프로세서(120)는, 텍스트가 입력된 후, 사용자로부터 오브젝트(1114)에 대한 입력을 수신한 경우, 입력된 텍스트를 태그로서 획득하고 획득한 태그를 디스플레이를 통하여 표시할 수 있다.
도 12는, 다양한 실시예들에 따른, 태그를 저장하는 방법을 설명하기 위한 예시도이다.
도 12를 참조하면, 일 실시예에서, 프로세서(120)는, 하나 이상의 태그들을 획득한 후 획득된 하나 이상의 태그들을 포함하는 사용자 인터페이스(1211)를 디스플레이(예: 표시 장치(160))를 통하여 표시할 수 있다. 프로세서(120)는, 사용자 인터페이스(1211)에 포함된 하나 이상의 태그들 중 적어도 하나의 태그들을 선택하는 사용자 입력을 수신할 수 있다. 일 실시예에서, 도면(1201)의 화면(1210)과 같이, 프로세서(120)는, 사용자 인터페이스(1211)에 포함된 하나 이상의 태그들을 나타내는 오브젝트들 중 태그들을 나타내는 오브젝트(1213, 1214, 1215)이 사용자에 의해 선택됨을 나타낼 수 있다.
일 실시예에서, 프로세서(120)는, 선택된 태그를 저장하기 위한 오브젝트(1216)에 대한 사용자 입력이 수신되는 경우, 선택된 태그를 메모리(130)에 저장할 수 있다.
일 실시예에서, 도면(1202)은, 화면에 대하여 캡처된 후 저장된 이미지에 대한 상세 정보를 나타내는 화면(1220)을 나타낼 수 있다. 일 실시예에서, 화면(1220)에 도시된 바와 같이, 프로세서(120)는 화면을 캡처한 이미지와 연관하여 선택된 태그(예: 태그들(1223, 1224, 1225)를 메모리(130)에 저장할 수 있다.
일 실시예에서, 프로세서(120)는, 화면에 대한 제 1 인식 동작에 연속하는 제 2 인식 동작이 완료되지 않은 상태에서, 선택된 태그를 저장하는 사용자 입력을 수신한 경우, 선택된 태그를 메모리(130)에 저장하고, 완료되지 않은 제 2 인식 동작을 계속적으로 수행할 수 있다. 프로세서(120)는, 완료되지 않은 제 2 인식 동작을 계속적으로 수행함으로써 태그를 추가적으로(또는 새롭게) 획득한 경우, 메모리(130)에 기저장된 선택된 태그와 함께, 추가적으로 획득한 태그를 저장할 수 있다. 예를 들어, 도면(1202)의 화면(1230)에 도시된 바와 같이, 프로세서(120)는, 태그들(1223, 1224, 1225) 저장 시, 완료되지 않은 제 2 인식 동작을 계속적으로 수행함으로써 태그를 추가적으로(또는 새롭게) 획득한 경우, 메모리(130)에 기저장된 태그들(1223, 1224, 1225)과 함께, 추가적으로 획득한 적어도 하나의 태그(1226, 1227)를 메모리(130)에 더 저장할 수 있다.
도 13은, 다양한 실시예들에 따른, 저장된 태그를 표시하는 방법을 설명하기 위한 예시도(1301, 1302)이다.
도 13을 참조하면, 일 실시예에서, 프로세서(120)는, 획득된 적어도 하나의 태그들을 저장한 경우, 저장된 태그들의 리스트를 포함하는 화면(1310)을 디스플레이(예: 표시 장치(160))를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 저장된 태그들을 관리하기 위한 어플리케이션(예: Tags 어플리케이션)을 실행한 것에 응답하여, 저장된 태그들의 리스트를 포함하는 화면(1310)을 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 이미지를 관리하는 갤러리(gallery) 어플리케이션을 통하여 저장된 태그들을 표시할 수 있다. 예를 들어, 프로세서(120)는, 도면(1302)의 화면(1320)에 도시된 바와 같이, 갤러리 어플리케이션이 실행된 경우, 영역(1321)을 통하여 갤러리 어플리케이션과 관련되어 저장된 콘텐트를 표시하고, 영역(1323)을 통하여 갤러리 어플리케이션과 관련되어 저장된 콘텐트와 연관되어 저장된 태그들을 표시할 수 있다.
다만, 저장된 태그들의 리스트를 포함하는 화면을 표시하는 방법은 전술한 예시들에 제한되지 않는다.
본 발명의 다양한 실시예들에 따른, 전자 장치(101)에서 태그를 제공하기 위한 방법은, 상기 전자 장치(101)의 상기 디스플레이를 통하여 화면을 표시하는 동안 제 1 사용자 입력을 수신하는 동작, 상기 제 1 사용자 입력에 기반하여 상기 화면에 대한 인식 동작과 관련된 동작을 수행함으로써, 상기 화면과 관련된 하나 이상의 제 1 태그들을 획득하는 동작, 상기 디스플레이를 통하여 상기 하나 이상의 제 1 태그들을 포함하는 제 1 사용자 인터페이스를 표시하는 동작, 상기 제 1 사용자 인터페이스를 표시하는 동안, 제 2 사용자 입력에 기반하여 상기 하나 이상의 제 1 태그들 중 적어도 하나의 제 1 태그를 선택하는 동작, 상기 적어도 하나의 제 1 태그와 관련된 적어도 하나의 제 2 태그를 획득하는 동작, 및 상기 디스플레이를 통하여 상기 적어도 하나의 제 2 태그를 포함하는 제 2 사용자 인터페이스 표시하는 동작을 포함할 수 있다.
다양한 실시예에서, 상기 화면에 대한 인식 동작은 제 1 인식 동작 및 상기 인식 동작에 연속적으로 수행되는 제 2 인식 동작을 포함하는 복수의 인식 동작들을 포함하고, 상기 제 1 인식 동작은 상기 전자 장치(101)에서 수행되고, 상기 제 2 인식 동작은 상기 전자 장치(101)와 연결된 외부 전자 장치(예: 서버(108))에서 수행될 수 있다.
다양한 실시예에서, 상기 하나 이상의 제 1 태그들을 획득하는 동작은, 상기 제 1 인식 동작을 통하여 적어도 하나의 제 1-1 태그를 획득하는 동작, 및 상기 제 2 인식 동작을 통하여 적어도 하나의 제 1-2 태그를 획득하는 동작을 포함하고, 상기 제 1 사용자 인터페이스를 표시하는 동작은, 상기 디스플레이를 통하여, 상기 획득된 적어도 하나의 제 1-1 태그를 포함하는 상기 제 1 사용자 인터페이스를 표시하는 동작, 및 상기 디스플레이를 통하여, 상기 제 1 사용자 인터페이스를 표시하는 동안 상기 제 2 인식 동작을 수행함으로써 획득한 상기 적어도 하나의 제 1-2 태그와, 상기 제 1-1 태그를 포함하는 상기 제 1 사용자 인터페이스를 표시하는 동작을 포함할 수 있다.
다양한 실시예에서, 상기 하나 이상의 제 1 태그들 중 적어도 하나의 태그를 저장하는 동작을 포함하고, 상기 하나 이상의 제 1 태그들을 획득하는 동작, 상기 제 1 사용자 인터페이스를 표시하는 동작, 및 상기 적어도 하나의 태그를 저장하는 동작은, 상기 제 1 인식 동작을 통하여 적어도 하나의 제 1-1 태그를 획득하는 동작, 상기 디스플레이를 통하여, 상기 획득된 적어도 하나의 제 1-1 태그를 포함하는 상기 제 1 사용자 인터페이스를 표시하는 동작, 상기 제 2 인식 동작이 수행되는 동안 수신된 사용자 입력에 응답하여 상기 적어도 하나의 제 1-1 태그를 상기 메모리(130)에 저장하는 동작, 상기 적어도 하나의 제 1-1 태그를 저장한 후, 상기 제 2 인식 동작이 완료됨으로써 적어도 하나의 제 1-2 태그를 획득하는 동작, 및 상기 획득된 적어도 하나의 제 1-2 태그를 상기 적어도 하나의 제 1-1 태그와 함께 상기 메모리(130)에 저장하는 동작을 포함할 수 있다.
다양한 실시예에서, 상기 적어도 하나의 제 2 태그를 획득하는 동작은, 상기 전자 장치(101) 또는 상기 전자 장치(101)와 연결된 외부 전자 장치(예: 서버(108))를 통하여, 상기 적어도 하나의 제 1 태그와 관련된 상기 적어도 하나의 제 2 태그를 획득하는 동작을 포함할 수 있다.
다양한 실시예에서, 상기 적어도 하나의 제 2 태그를 획득하는 동작은, 상기 전자 장치(101)의 메모리(130)에 상기 적어도 하나의 제 1 태그와 연관되어 저장된 콘텐트를 확인하는 동작, 및 상기 콘텐트와 관련된 정보 또는 상기 콘텐트와 연관되어 저장된 적어도 하나의 태그 중 적어도 하나를 상기 적어도 하나의 제 2 태그로서 획득하도록 하는 동작을 포함할 수 있다.
다양한 실시예에서, 상기 적어도 하나의 제 2 태그를 획득하는 동작은, 상기 전자 장치(101)의 사용자의 계정을 이용하여 가입한 웹 서비스를 제공하는 전자 장치(101)에 상기 적어도 하나의 제 1 태그와 연관되어 저장된 콘텐트를 확인하는 동작, 및 상기 콘텐트와 관련된 정보 또는 상기 콘텐트와 연관되어 저장된 적어도 하나의 태그 중 적어도 하나를 상기 적어도 하나의 제 2 태그로서 획득하는 동작을 포함할 수 있다.
다양한 실시예에서, 상기 하나 이상의 제 1 태그들 또는 상기 제 2 태그 중 적어도 하나의 태그와 관련된 기능을 확인하는 동작, 및 상기 디스플레이를 통하여 상기 확인된 기능을 나타내는 오브젝트를 포함하는 상기 제 1 사용자 인터페이스 또는 상기 제 2 사용자 인터페이스를 표시하는 동작을 더 포함할 수 있다.
또한, 상술한 본 발명의 실시예에서 사용된 데이터의 구조는 컴퓨터로 읽을 수 있는 기록매체에 여러 수단을 통하여 기록될 수 있다. 상기 컴퓨터로 읽을 수 있는 기록매체는 마그네틱 저장매체(예를 들면, 롬, 플로피 디스크, 하드 디스크 등), 광학적 판독 매체(예를 들면, CD-ROM, DVD 등)와 같은 저장매체를 포함한다.
이제까지 본 발명에 대하여 그 바람직한 실시예들을 중심으로 살펴보았다. 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 본 발명이 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 실시예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 할 것이다.

Claims (15)

  1. 전자 장치에 있어서,
    디스플레이;
    상기 디스플레이와 작동적으로 연결되는 프로세서; 및
    상기 프로세서와 작동적으로 연결된 메모리를 포함하고,
    상기 메모리는, 실행 시, 상기 프로세서가,
    상기 디스플레이를 통하여 화면을 표시하는 동안 제 1 사용자 입력을 수신하고,
    상기 제 1 사용자 입력에 기반하여 상기 화면에 대한 인식 동작과 관련된 동작을 수행함으로써, 상기 화면과 관련된 하나 이상의 제 1 태그들을 획득하고,
    상기 디스플레이를 통하여 상기 하나 이상의 제 1 태그들을 포함하는 제 1 사용자 인터페이스를 표시하고,
    상기 제 1 사용자 인터페이스를 표시하는 동안, 제 2 사용자 입력에 기반하여 상기 하나 이상의 제 1 태그들 중 적어도 하나의 제 1 태그를 선택하고,
    상기 적어도 하나의 제 1 태그와 관련된 적어도 하나의 제 2 태그를 획득하고,
    상기 디스플레이를 통하여 상기 적어도 하나의 제 2 태그를 포함하는 제 2 사용자 인터페이스 표시하도록 하는 인스트럭션들을 저장하는 전자 장치.
  2. 제 1 항에 있어서,
    상기 화면에 대한 인식 동작은 제 1 인식 동작 및 상기 인식 동작에 연속적으로 수행되는 제 2 인식 동작을 포함하는 복수의 인식 동작들을 포함하고,
    상기 제 1 인식 동작은 상기 전자 장치에서 수행되고, 상기 제 2 인식 동작은 상기 전자 장치와 연결된 외부 전자 장치에서 수행되는 전자 장치.
  3. 제 2 항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 제 1 인식 동작을 통하여 적어도 하나의 제 1-1 태그를 획득하고,
    상기 제 2 인식 동작을 통하여 적어도 하나의 제 1-2 태그를 획득하고,
    상기 디스플레이를 통하여, 상기 획득된 적어도 하나의 제 1-1 태그를 포함하는 상기 제 1 사용자 인터페이스를 표시하고,
    상기 디스플레이를 통하여, 상기 제 1 사용자 인터페이스를 표시하는 동안 상기 제 2 인식 동작을 수행함으로써 획득한 상기 적어도 하나의 제 1-2 태그와, 상기 제 1-1 태그를 포함하는 상기 제 1 사용자 인터페이스를 표시하도록 하는 전자 장치.
  4. 제 2 항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 제 1 인식 동작을 통하여 적어도 하나의 제 1-1 태그를 획득하고,
    상기 디스플레이를 통하여, 상기 획득된 적어도 하나의 제 1-1 태그를 포함하는 상기 제 1 사용자 인터페이스를 표시하고,
    상기 제 2 인식 동작이 수행되는 동안 수신된 사용자 입력에 응답하여 상기 적어도 하나의 제 1-1 태그를 상기 메모리에 저장하고,
    상기 적어도 하나의 제 1-1 태그를 저장한 후, 상기 제 2 인식 동작이 완료됨으로써 적어도 하나의 제 1-2 태그를 획득하고,
    상기 획득된 적어도 하나의 제 1-2 태그를 상기 적어도 하나의 제 1-1 태그와 함께 상기 메모리에 저장하도록 하는 전자 장치.
  5. 제 1 항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 전자 장치 또는 상기 전자 장치와 연결된 외부 전자 장치를 통하여, 상기 적어도 하나의 제 1 태그와 관련된 상기 적어도 하나의 제 2 태그를 획득하도록 하는 전자 장치.
  6. 제 5 항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 메모리에 상기 적어도 하나의 제 1 태그와 연관되어 저장된 콘텐트를 확인하고,
    상기 콘텐트와 관련된 정보 또는 상기 콘텐트와 연관되어 저장된 적어도 하나의 태그 중 적어도 하나를 상기 적어도 하나의 제 2 태그로서 획득하도록 하는 전자 장치.
  7. 제 1 항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 디스플레이를 통하여, 상기 하나 이상의 제 1 태그들 및 상기 제 2 태그를 포함하는 상기 제 2 사용자 인터페이스를 표시하도록 하는 전자 장치.
  8. 제 1 항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 하나 이상의 제 1 태그들 또는 상기 제 2 태그 중 적어도 하나의 태그와 관련된 기능을 확인하고,
    상기 디스플레이를 통하여 상기 확인된 기능을 나타내는 오브젝트를 포함하는 상기 제 1 사용자 인터페이스 또는 상기 제 2 사용자 인터페이스를 표시하도록 하는 전자 장치.
  9. 전자 장치에서 태그를 제공하기 위한 방법에 있어서,
    상기 전자 장치의 상기 디스플레이를 통하여 화면을 표시하는 동안 제 1 사용자 입력을 수신하는 동작;
    상기 제 1 사용자 입력에 기반하여 상기 화면에 대한 인식 동작과 관련된 동작을 수행함으로써, 상기 화면과 관련된 하나 이상의 제 1 태그들을 획득하는 동작;
    상기 디스플레이를 통하여 상기 하나 이상의 제 1 태그들을 포함하는 제 1 사용자 인터페이스를 표시하는 동작;
    상기 제 1 사용자 인터페이스를 표시하는 동안, 제 2 사용자 입력에 기반하여 상기 하나 이상의 제 1 태그들 중 적어도 하나의 제 1 태그를 선택하는 동작;
    상기 적어도 하나의 제 1 태그와 관련된 적어도 하나의 제 2 태그를 획득하는 동작; 및
    상기 디스플레이를 통하여 상기 적어도 하나의 제 2 태그를 포함하는 제 2 사용자 인터페이스 표시하는 동작을 포함하는 방법.
  10. 제 9 항에 있어서,
    상기 화면에 대한 인식 동작은 제 1 인식 동작 및 상기 인식 동작에 연속적으로 수행되는 제 2 인식 동작을 포함하는 복수의 인식 동작들을 포함하고,
    상기 제 1 인식 동작은 상기 전자 장치에서 수행되고, 상기 제 2 인식 동작은 상기 전자 장치와 연결된 외부 전자 장치에서 수행되는 방법.
  11. 제 10 항에 있어서,
    상기 하나 이상의 제 1 태그들을 획득하는 동작은,
    상기 제 1 인식 동작을 통하여 적어도 하나의 제 1-1 태그를 획득하는 동작; 및
    상기 제 2 인식 동작을 통하여 적어도 하나의 제 1-2 태그를 획득하는 동작을 포함하고,
    상기 제 1 사용자 인터페이스를 표시하는 동작은,
    상기 디스플레이를 통하여, 상기 획득된 적어도 하나의 제 1-1 태그를 포함하는 상기 제 1 사용자 인터페이스를 표시하는 동작; 및
    상기 디스플레이를 통하여, 상기 제 1 사용자 인터페이스를 표시하는 동안 상기 제 2 인식 동작을 수행함으로써 획득한 상기 적어도 하나의 제 1-2 태그와, 상기 제 1-1 태그를 포함하는 상기 제 1 사용자 인터페이스를 표시하는 동작을 포함하는 방법.
  12. 제 10 항에 있어서,
    상기 하나 이상의 제 1 태그들 중 적어도 하나의 태그를 저장하는 동작을 포함하고,
    상기 하나 이상의 제 1 태그들을 획득하는 동작, 상기 제 1 사용자 인터페이스를 표시하는 동작, 및 상기 적어도 하나의 태그를 저장하는 동작은,
    상기 제 1 인식 동작을 통하여 적어도 하나의 제 1-1 태그를 획득하는 동작;
    상기 디스플레이를 통하여, 상기 획득된 적어도 하나의 제 1-1 태그를 포함하는 상기 제 1 사용자 인터페이스를 표시하는 동작;
    상기 제 2 인식 동작이 수행되는 동안 수신된 사용자 입력에 응답하여 상기 적어도 하나의 제 1-1 태그를 상기 메모리에 저장하는 동작;
    상기 적어도 하나의 제 1-1 태그를 저장한 후, 상기 제 2 인식 동작이 완료됨으로써 적어도 하나의 제 1-2 태그를 획득하는 동작; 및
    상기 획득된 적어도 하나의 제 1-2 태그를 상기 적어도 하나의 제 1-1 태그와 함께 상기 메모리에 저장하는 동작을 포함하는 방법.
  13. 제 9 항에 있어서,
    상기 적어도 하나의 제 2 태그를 획득하는 동작은,
    상기 전자 장치 또는 상기 전자 장치와 연결된 외부 전자 장치를 통하여, 상기 적어도 하나의 제 1 태그와 관련된 상기 적어도 하나의 제 2 태그를 획득하는 동작을 포함하는 방법.
  14. 제 13 항에 있어서,
    상기 적어도 하나의 제 2 태그를 획득하는 동작은,
    상기 전자 장치의 메모리에 상기 적어도 하나의 제 1 태그와 연관되어 저장된 콘텐트를 확인하는 동작; 및
    상기 콘텐트와 관련된 정보 또는 상기 콘텐트와 연관되어 저장된 적어도 하나의 태그 중 적어도 하나를 상기 적어도 하나의 제 2 태그로서 획득하도록 하는 동작을 포함하는 방법.
  15. 제 9 항에 있어서,
    상기 하나 이상의 제 1 태그들 또는 상기 제 2 태그 중 적어도 하나의 태그와 관련된 기능을 확인하는 동작; 및
    상기 디스플레이를 통하여 상기 확인된 기능을 나타내는 오브젝트를 포함하는 상기 제 1 사용자 인터페이스 또는 상기 제 2 사용자 인터페이스를 표시하는 동작을 더 포함하는 방법.
PCT/KR2020/018461 2019-12-16 2020-12-16 태그를 제공하는 방법 및 이를 지원하는 전자 장치 WO2021125795A1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
EP20902051.0A EP4060521A4 (en) 2019-12-16 2020-12-16 METHOD FOR PROVIDING A LABEL AND ELECTRONIC DEVICE TO SUPPORT THEREOF
US17/842,038 US12008221B2 (en) 2019-12-16 2020-12-16 Method for providing tag, and electronic device for supporting same

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2019-0167929 2019-12-16
KR1020190167929A KR20210076573A (ko) 2019-12-16 2019-12-16 태그를 제공하는 방법 및 이를 지원하는 전자 장치

Publications (1)

Publication Number Publication Date
WO2021125795A1 true WO2021125795A1 (ko) 2021-06-24

Family

ID=76477845

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2020/018461 WO2021125795A1 (ko) 2019-12-16 2020-12-16 태그를 제공하는 방법 및 이를 지원하는 전자 장치

Country Status (3)

Country Link
EP (1) EP4060521A4 (ko)
KR (1) KR20210076573A (ko)
WO (1) WO2021125795A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150019493A (ko) * 2013-08-14 2015-02-25 엘지전자 주식회사 이동단말기 및 그 제어방법
KR20160027848A (ko) * 2014-09-02 2016-03-10 삼성전자주식회사 콘텐츠 검색 방법 및 이를 구현하는 전자 장치
KR101659611B1 (ko) * 2015-09-10 2016-09-23 네이버 주식회사 자료 제공 장치, 방법, 및 컴퓨터 프로그램
KR20170073589A (ko) * 2014-08-15 2017-06-28 시드니 니콜 엡스타인 현재의 관심에 대해 사용자에게 시각적으로 안내하는 시스템 및 컴퓨터 방법
KR20180060546A (ko) * 2016-11-29 2018-06-07 삼성전자주식회사 전자 장치의 태그 입력 장치 및 그 제어 방법

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9218364B1 (en) * 2011-01-28 2015-12-22 Yahoo! Inc. Monitoring an any-image labeling engine
US20130129142A1 (en) * 2011-11-17 2013-05-23 Microsoft Corporation Automatic tag generation based on image content
US9811536B2 (en) * 2016-01-27 2017-11-07 Dell Products L.P. Categorizing captured images for subsequent search

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150019493A (ko) * 2013-08-14 2015-02-25 엘지전자 주식회사 이동단말기 및 그 제어방법
KR20170073589A (ko) * 2014-08-15 2017-06-28 시드니 니콜 엡스타인 현재의 관심에 대해 사용자에게 시각적으로 안내하는 시스템 및 컴퓨터 방법
KR20160027848A (ko) * 2014-09-02 2016-03-10 삼성전자주식회사 콘텐츠 검색 방법 및 이를 구현하는 전자 장치
KR101659611B1 (ko) * 2015-09-10 2016-09-23 네이버 주식회사 자료 제공 장치, 방법, 및 컴퓨터 프로그램
KR20180060546A (ko) * 2016-11-29 2018-06-07 삼성전자주식회사 전자 장치의 태그 입력 장치 및 그 제어 방법

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP4060521A4 *

Also Published As

Publication number Publication date
US20230185434A1 (en) 2023-06-15
EP4060521A4 (en) 2023-01-18
KR20210076573A (ko) 2021-06-24
EP4060521A1 (en) 2022-09-21

Similar Documents

Publication Publication Date Title
WO2020045927A1 (en) Electronic device and method for generating short cut of quick command
WO2021025350A1 (en) Electronic device managing plurality of intelligent agents and operation method thereof
WO2018182197A1 (en) Device for providing information related to object in image
WO2011025234A2 (en) Method for transmitting image and image pickup apparatus applying the same
WO2014157886A1 (en) Method and device for executing application
WO2014092451A1 (en) Information search method and device and computer readable recording medium thereof
WO2020159147A1 (ko) 전자 장치 및 전자 장치의 그래픽 객체 제어 방법
WO2019151804A1 (ko) 추천 어플리케이션을 실행하기 위한 전자 장치 및 그의 동작 방법
WO2017039341A1 (en) Display apparatus and control method thereof
WO2020162709A1 (en) Electronic device for providing graphic data based on voice and operating method thereof
WO2019235793A1 (en) Electronic device and method for providing information related to image to application through input unit
WO2020149689A1 (ko) 영상 처리 방법 및 이를 지원하는 전자 장치
WO2014035199A1 (en) User interface apparatus in a user terminal and method for supporting the same
WO2020180034A1 (ko) 사용자 선택 기반의 정보를 제공하는 방법 및 장치
WO2020167006A1 (en) Method of providing speech recognition service and electronic device for same
WO2019074257A1 (ko) 사용자 발화를 처리하는 전자 장치 및 서버
WO2020171333A1 (ko) 이미지 내의 오브젝트 선택에 대응하는 서비스를 제공하기 위한 전자 장치 및 방법
WO2019103285A1 (ko) 전자 장치 및 전자 장치의 증강 현실 서비스 제공 방법
WO2020050475A1 (ko) 전자 장치 및 단축 명령어에 대응하는 태스크 수행 방법
WO2020171567A1 (en) Method for recognizing object and electronic device supporting the same
WO2020138957A1 (en) Method for dynamically recommending catalog and electronic device thereof
WO2019103420A1 (en) Electronic device and method for sharing image with external device using image link information
WO2021071285A1 (en) Electronic device, method and non-transitory storage medium for optical character recognition
WO2020076086A1 (en) System for processing user utterance and operating method thereof
WO2019240434A1 (en) Electronic device and method of controlling thereof

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20902051

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2020902051

Country of ref document: EP

Effective date: 20220616

NENP Non-entry into the national phase

Ref country code: DE