WO2021172791A1 - 전자 장치 및 이를 이용한 시각적 효과 제공 방법 - Google Patents

전자 장치 및 이를 이용한 시각적 효과 제공 방법 Download PDF

Info

Publication number
WO2021172791A1
WO2021172791A1 PCT/KR2021/001665 KR2021001665W WO2021172791A1 WO 2021172791 A1 WO2021172791 A1 WO 2021172791A1 KR 2021001665 W KR2021001665 W KR 2021001665W WO 2021172791 A1 WO2021172791 A1 WO 2021172791A1
Authority
WO
WIPO (PCT)
Prior art keywords
visual effect
electronic device
area
region
response
Prior art date
Application number
PCT/KR2021/001665
Other languages
English (en)
French (fr)
Inventor
안수정
강지영
노연희
이진아
최윤정
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Publication of WO2021172791A1 publication Critical patent/WO2021172791A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03545—Pens or stylus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482—Interaction with lists of selectable items, e.g. menus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04845—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/06—Buying, selling or leasing transactions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/06—Buying, selling or leasing transactions
    • G06Q30/0601—Electronic shopping [e-shopping]
    • G06Q30/0631—Item recommendations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—2D [Two Dimensional] image generation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—2D [Two Dimensional] image generation
    • G06T11/001—Texturing; Colouring; Generation of texture or colour
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions

Definitions

  • Various embodiments of the present invention relate to an electronic device and a method for providing a visual effect using the same.
  • the electronic device may apply a visual effect to the face in the image displayed on the display.
  • the electronic device may virtually apply and display effects as if actual products such as cosmetics were used by using the user's image displayed on the display. Even when the user has not purchased the actual product, the results of using the actual product can be checked in advance.
  • a visual effect When a visual effect is to be applied to a face in an image displayed on the display, an item related to the visual effect may be selected, and a visual effect corresponding to the selected item may be applied to the face and displayed.
  • the visual effect since the visual effect may be applied only to a region within the face corresponding to the selected item related to the visual effect, the applicable region may be limited.
  • the electronic device determines an area in which the object is located and applies a visual effect to the determined area based on the movement of the object. can be displayed.
  • An electronic device includes a camera, a touch screen, and a processor operatively connected to the camera and the touch screen, wherein the processor includes a face recognized from a preview image obtained from the camera. determining a plurality of regions, in response to detecting the object in the recognized face, identifying a first region in which the object is located, among the plurality of regions, and in response to detecting the movement of the object, the The touch screen may be controlled to apply and display a first visual effect corresponding to the movement information of the object to the first area according to the movement trajectory of the object.
  • a method of providing a visual effect of an electronic device includes an operation of determining a plurality of regions within a recognized face in a preview image obtained from a camera, and responding to detection of an object within the recognized face. , checking a first region in which the object is located among the plurality of regions, and in response to detecting the motion of the object, a first visual effect corresponding to the motion information of the object according to the motion trajectory of the object may include an operation of applying to the first area to display.
  • the electronic device may apply a visual effect to a region within the face where the object is located based on the movement of the object. Accordingly, the user may feel the same as putting on real makeup using virtual cosmetics.
  • the electronic device may apply various visual effects to the corresponding region based on motion information of the object detected in the region within the face where the object is located. Accordingly, the user can easily check various visual effects with only a gesture.
  • FIG. 1 is a block diagram of an electronic device in a network environment, according to various embodiments.
  • FIG. 2 is a block diagram illustrating an electronic device according to various embodiments of the present disclosure
  • FIG. 3 is a flowchart illustrating a method of providing a visual effect to a region within a face based on a movement of an object, according to various embodiments of the present disclosure
  • 4A and 4B are diagrams for explaining a method of providing a visual effect to a region within a face based on a movement of an object, according to various embodiments of the present disclosure
  • FIG. 5 is a diagram for describing a method of providing a visual effect to a region within a face based on a movement of an object, according to various embodiments of the present disclosure
  • FIG. 6 illustrates a method of differently displaying indicators indicating items related to visual effects to be applied to a specific area based on a degree of close contact between a specific area and an object among a plurality of areas in the face, according to various embodiments of the present disclosure
  • FIG. 7 is a diagram for describing a method of providing different visual effects to a specific region within a face based on motion information of an object, according to various embodiments of the present disclosure
  • FIG. 8 is a diagram for describing a method of providing a visual effect to a region within a face based on a movement of an object, according to various embodiments of the present disclosure
  • FIG. 9 is a flowchart illustrating a method of providing a visual effect based on a change in a specific region within a face, according to various embodiments of the present disclosure.
  • FIG. 10 is a diagram for describing a method of providing a visual effect based on a change in a specific region within a face, according to various embodiments of the present disclosure
  • FIG. 11 is a flowchart illustrating a method of providing different visual effects to a specific region within a face in response to detection of a designated gesture of an object, according to various embodiments of the present disclosure
  • FIG. 12 is a diagram for describing a method of providing different visual effects to a specific region within a face in response to detection of a designated gesture of an object, according to various embodiments of the present disclosure
  • FIG. 13 is a flowchart illustrating a method of providing different visual effects to a specific region within a face based on a type of an object, according to various embodiments of the present disclosure
  • FIG. 14 is a diagram for describing a method of providing different visual effects to a specific region within a face based on a type of an object, according to various embodiments of the present disclosure
  • 15 is a flowchart illustrating a method of displaying at least one recommendation item according to movement of an object, according to various embodiments of the present disclosure.
  • 16 is a diagram for describing a method of displaying at least one recommendation item according to movement of an object, according to various embodiments of the present disclosure.
  • 17 is a flowchart illustrating a method of providing a visual effect when an object overlaps at least a partial region of a recognized face, according to various embodiments of the present disclosure
  • 18A and 18B are diagrams for explaining a method of providing a visual effect when an object overlaps at least a partial region of a recognized face, according to various embodiments of the present disclosure
  • FIG. 1 is a block diagram of an electronic device 101 in a network environment 100 according to various embodiments.
  • the electronic device 101 communicates with the electronic device 102 through a first network 198 (eg, a short-range wireless communication network) or a second network 199 . It may communicate with the electronic device 104 or the server 108 through (eg, a long-distance wireless communication network). According to an embodiment, the electronic device 101 may communicate with the electronic device 104 through the server 108 .
  • a first network 198 eg, a short-range wireless communication network
  • a second network 199 e.g., a second network 199 . It may communicate with the electronic device 104 or the server 108 through (eg, a long-distance wireless communication network). According to an embodiment, the electronic device 101 may communicate with the electronic device 104 through the server 108 .
  • the electronic device 101 includes a processor 120 , a memory 130 , an input device 150 , a sound output device 155 , a display device 160 , an audio module 170 , and a sensor module ( 176 , interface 177 , haptic module 179 , camera module 180 , power management module 188 , battery 189 , communication module 190 , subscriber identification module 196 , or antenna module 197 . ) may be included. In some embodiments, at least one of these components (eg, the display device 160 or the camera module 180 ) may be omitted or one or more other components may be added to the electronic device 101 . In some embodiments, some of these components may be implemented as one integrated circuit. For example, the sensor module 176 (eg, a fingerprint sensor, an iris sensor, or an illuminance sensor) may be implemented while being embedded in the display device 160 (eg, a display).
  • the sensor module 176 eg, a fingerprint sensor, an iris sensor, or an illuminance sensor
  • the processor 120 executes software (eg, the program 140) to execute at least one other component (eg, a hardware or software component) of the electronic device 101 connected to the processor 120 . It can control and perform various data processing or operations. According to one embodiment, as at least part of data processing or operation, the processor 120 converts commands or data received from other components (eg, the sensor module 176 or the communication module 190 ) to the volatile memory 132 . may be loaded into the volatile memory 132 , process commands or data stored in the volatile memory 132 , and store the resulting data in the non-volatile memory 134 .
  • software eg, the program 140
  • the processor 120 converts commands or data received from other components (eg, the sensor module 176 or the communication module 190 ) to the volatile memory 132 .
  • the volatile memory 132 may be loaded into the volatile memory 132 , process commands or data stored in the volatile memory 132 , and store the resulting data in the non-volatile memory 134 .
  • the processor 120 includes a main processor 121 (eg, a central processing unit or an application processor), and a secondary processor 123 (eg, a graphic processing unit, an image signal processor) that can operate independently or together with the main processor 121 . , a sensor hub processor, or a communication processor). Additionally or alternatively, the auxiliary processor 123 may be configured to use less power than the main processor 121 or to be specialized for a designated function. The auxiliary processor 123 may be implemented separately from or as a part of the main processor 121 .
  • a main processor 121 eg, a central processing unit or an application processor
  • a secondary processor 123 eg, a graphic processing unit, an image signal processor
  • the auxiliary processor 123 may be configured to use less power than the main processor 121 or to be specialized for a designated function.
  • the auxiliary processor 123 may be implemented separately from or as a part of the main processor 121 .
  • the auxiliary processor 123 may be, for example, on behalf of the main processor 121 while the main processor 121 is in an inactive (eg, sleep) state, or the main processor 121 is active (eg, executing an application). ), together with the main processor 121, at least one of the components of the electronic device 101 (eg, the display device 160, the sensor module 176, or the communication module 190) It is possible to control at least some of the related functions or states.
  • the coprocessor 123 eg, an image signal processor or a communication processor
  • may be implemented as part of another functionally related component eg, the camera module 180 or the communication module 190. have.
  • the memory 130 may store various data used by at least one component (eg, the processor 120 or the sensor module 176 ) of the electronic device 101 .
  • the data may include, for example, input data or output data for software (eg, the program 140 ) and instructions related thereto.
  • the memory 130 may include a volatile memory 132 or a non-volatile memory 134 .
  • the program 140 may be stored as software in the memory 130 , and may include, for example, an operating system 142 , middleware 144 , or an application 146 .
  • the input device 150 may receive a command or data to be used in a component (eg, the processor 120 ) of the electronic device 101 from the outside (eg, a user) of the electronic device 101 .
  • the input device 150 may include, for example, a microphone, a mouse, a keyboard, or a digital pen (eg, a stylus pen).
  • the sound output device 155 may output a sound signal to the outside of the electronic device 101 .
  • the sound output device 155 may include, for example, a speaker or a receiver.
  • the speaker can be used for general purposes, such as multimedia playback or recording playback, and the receiver can be used to receive incoming calls. According to one embodiment, the receiver may be implemented separately from or as part of the speaker.
  • the display device 160 may visually provide information to the outside (eg, a user) of the electronic device 101 .
  • the display device 160 may include, for example, a display, a hologram device, or a projector and a control circuit for controlling the corresponding device.
  • the display device 160 may include a touch circuitry configured to sense a touch or a sensor circuit (eg, a pressure sensor) configured to measure the intensity of a force generated by the touch. have.
  • the audio module 170 may convert a sound into an electric signal or, conversely, convert an electric signal into a sound. According to an embodiment, the audio module 170 acquires a sound through the input device 150 , or an external electronic device (eg, a sound output device 155 ) connected directly or wirelessly with the electronic device 101 .
  • the electronic device 102) eg, a speaker or headphones
  • the electronic device 102 may output a sound.
  • the sensor module 176 detects an operating state (eg, power or temperature) of the electronic device 101 or an external environmental state (eg, user state), and generates an electrical signal or data value corresponding to the sensed state. can do.
  • the sensor module 176 may include, for example, a gesture sensor, a gyro sensor, a barometric sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR (infrared) sensor, a biometric sensor, It may include a temperature sensor, a humidity sensor, or an illuminance sensor.
  • the interface 177 may support one or more specified protocols that may be used by the electronic device 101 to directly or wirelessly connect with an external electronic device (eg, the electronic device 102 ).
  • the interface 177 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • the connection terminal 178 may include a connector through which the electronic device 101 can be physically connected to an external electronic device (eg, the electronic device 102 ).
  • the connection terminal 178 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).
  • the haptic module 179 may convert an electrical signal into a mechanical stimulus (eg, vibration or movement) or an electrical stimulus that the user can perceive through tactile or kinesthetic sense.
  • the haptic module 179 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
  • the camera module 180 may capture still images and moving images. According to an embodiment, the camera module 180 may include one or more lenses, image sensors, image signal processors, or flashes.
  • the power management module 188 may manage power supplied to the electronic device 101 .
  • the power management module 188 may be implemented as, for example, at least a part of a power management integrated circuit (PMIC).
  • PMIC power management integrated circuit
  • the battery 189 may supply power to at least one component of the electronic device 101 .
  • the battery 189 may include, for example, a non-rechargeable primary cell, a rechargeable secondary cell, or a fuel cell.
  • the communication module 190 is a direct (eg, wired) communication channel or a wireless communication channel between the electronic device 101 and an external electronic device (eg, the electronic device 102, the electronic device 104, or the server 108). It can support establishment and communication through the established communication channel.
  • the communication module 190 operates independently of the processor 120 (eg, an application processor) and may include one or more communication processors supporting direct (eg, wired) communication or wireless communication.
  • the communication module 190 is a wireless communication module 192 (eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 194 (eg, : It may include a local area network (LAN) communication module, or a power line communication module).
  • a wireless communication module 192 eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module
  • GNSS global navigation satellite system
  • wired communication module 194 eg, : It may include a local area network (LAN) communication module, or a power line communication module.
  • the corresponding communication module is a first network 198 (eg, a short-range communication network such as Bluetooth, WiFi direct, or IrDA (infrared data association)) or a second network 199 (eg, a cellular network, the Internet, Alternatively, it may communicate with the external electronic device through a computer network (eg, a telecommunication network such as a LAN or WAN).
  • a computer network eg, a telecommunication network such as a LAN or WAN.
  • These various types of communication modules may be integrated into one component (eg, a single chip) or may be implemented as a plurality of components (eg, multiple chips) separate from each other.
  • the wireless communication module 192 uses subscriber information (eg, International Mobile Subscriber Identifier (IMSI)) stored in the subscriber identification module 196 within a communication network such as the first network 198 or the second network 199 .
  • subscriber information eg, International Mobile Subscriber Identifier (IMSI)
  • IMSI International Mobile Subscriber Identifier
  • the antenna module 197 may transmit or receive a signal or power to the outside (eg, an external electronic device).
  • the antenna module 197 may include one antenna including a conductor formed on a substrate (eg, a PCB) or a radiator formed of a conductive pattern.
  • the antenna module 197 may include a plurality of antennas. In this case, at least one antenna suitable for a communication method used in a communication network such as the first network 198 or the second network 199 is connected from the plurality of antennas by, for example, the communication module 190 . can be selected. A signal or power may be transmitted or received between the communication module 190 and an external electronic device through the selected at least one antenna.
  • other components eg, RFIC
  • other than the radiator may be additionally formed as a part of the antenna module 197 .
  • peripheral devices eg, a bus, general purpose input and output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI)
  • GPIO general purpose input and output
  • SPI serial peripheral interface
  • MIPI mobile industry processor interface
  • the command or data may be transmitted or received between the electronic device 101 and the external electronic device 104 through the server 108 connected to the second network 199 .
  • Each of the electronic devices 102 and 104 may be the same or a different type of device as the electronic device 101 .
  • all or a part of operations executed in the electronic device 101 may be executed in one or more of the external electronic devices 102 , 104 , or 108 .
  • the electronic device 101 may perform the function or service by itself instead of executing the function or service itself.
  • one or more external electronic devices may be requested to perform at least a part of the function or the service.
  • the one or more external electronic devices that have received the request may execute at least a part of the requested function or service, or an additional function or service related to the request, and transmit a result of the execution to the electronic device 101 .
  • the electronic device 101 may process the result as it is or additionally and provide it as at least a part of a response to the request.
  • cloud computing, distributed computing, or client-server computing technology may be used.
  • FIG. 2 is a block diagram 200 illustrating an electronic device 201 according to various embodiments of the present disclosure.
  • an electronic device 201 (eg, the electronic device 101 of FIG. 1 ) includes a communication circuit 210 (eg, the communication module 190 of FIG. 1 ), a memory 220 (eg, FIG. 1 ). 1 ), a touch screen display 230 (eg, the display device 160 of FIG. 1 ), a camera 240 (eg, the camera module 180 of FIG. 1 ), and a processor 250 (eg, the processor 250 ).
  • the processor 120 of FIG. 1) may be included, and at least some of the illustrated components may be omitted or substituted.
  • the communication circuit 210 (eg, the communication module 190 of FIG. 1 ) establishes a communication channel with an external device (eg, the electronic device 102 of FIG. 1 ), and establishes a communication channel with the external device and various data It can support sending and receiving.
  • an external device eg, the electronic device 102 of FIG. 1
  • various data It can support sending and receiving.
  • the memory 220 may include a movement trajectory in a region in which an object is detected among a plurality of regions within a face recognized in a preview image obtained from the camera 240 . Accordingly, a program for applying a visual effect corresponding to the motion information of the object to the corresponding area may be stored.
  • the touch screen display 230 (eg, the display device 160 of FIG. 1 ) may be integrally configured including the display 231 and the touch panel 233 .
  • the touch screen display 230 displays an image under the control of the processor 250, a liquid crystal display (LCD), a light-emitting diode (LED) display, an organic light emitting diode ( It may be implemented as any one of an organic light-emitting diode (OLED) display, a micro electro mechanical systems (MEMS) display, or an electronic paper display.
  • LCD liquid crystal display
  • LED light-emitting diode
  • MEMS micro electro mechanical systems
  • the touch screen display 230 may display a plurality of image data for a subject obtained from the camera 240 as a preview image.
  • the touch screen display 230 may display a face image including a region to which a visual effect is applied under the control of the processor 250 .
  • the camera 240 (eg, the camera module 180 of FIG. 1 ) transmits the collected image to the display 231 as a preview image, so that the user can view the image acquired through the camera 240 . you can make sure
  • the processor 250 controls the overall operation of the electronic device 201 and a signal flow between internal components of the electronic device 201 , and performs data processing. can be done
  • the processor 250 may recognize a face in a preview image obtained from the camera 240 .
  • the processor 250 may determine a plurality of regions within the recognized face.
  • the plurality of regions may include an eyebrow region, an eye region, a cheek region, and a lip region.
  • the processor 250 may identify a first area in which the object is located among the plurality of areas.
  • the object may include a body part (eg, a finger) of the user of the electronic device 201 or an electronic pen.
  • the processor 250 may determine a region in which the object is located among the plurality of regions based on the recognized position information on the plurality of regions in the face and the position information of the object.
  • the processor 250 may overlay and display an indicator indicating an item related to a visual effect to be applied to the first area where the object is located on the object.
  • the processor 250 may apply and display the first visual effect corresponding to the movement information of the object to the first area according to the movement trajectory of the object.
  • the motion information of the object may include a patting motion, a smudge motion, a motion direction, motion distance information, and/or a motion count.
  • the processor 250 may determine that the application of the first visual effect is complete.
  • the processor 250 may apply the first visual effect to another part of the first area and display it.
  • the processor 250 may switch and display a second visual effect different from the first visual effect in the first area.
  • the designated gesture may include a swipe gesture.
  • the present invention is not limited thereto.
  • the processor 250 may display the first visual effect and It can be displayed by switching to a different second visual effect.
  • the processor 250 is configured to perform an operation before the first visual effect is applied based on the detected overlap of the object. At least one of the first image and the second image to which the first visual effect is applied may be displayed.
  • the electronic device 201 includes a camera 240, a touch screen, and a processor 250 operatively connected to the camera 240 and the touch screen, wherein the processor 250 includes: A plurality of regions within a recognized face are determined from a preview image obtained from the camera 240 , and in response to detecting an object in the recognized face, a first region in which the object is located among the plurality of regions is determined. Check and set to control the touch screen to display a first visual effect corresponding to the motion information of the object to the first area according to the motion trajectory of the object in response to detecting the motion of the object can be
  • the motion information of the object may include at least one of a tapping motion, a smudge motion, a motion direction, motion distance information, and a number of motions.
  • the object includes a finger or an electronic pen
  • the processor 250 applies the first visual effect corresponding to the type of the object and the motion information of the object to the first area. and may be set to control the touch screen to display.
  • the processor 250 in response to detecting the movement of the object, responds to detecting a change in the first area when the first visual effect is applied to a part of the first area
  • it may be set to control the touch screen to display the first visual effect by applying the first visual effect to another part of the first area.
  • the processor 250 after applying the first visual effect to the first area, is configured to apply the first visual effect and It may be set to display by switching to a different second visual effect.
  • the processor 250 is configured to apply and display the first visual effect to the first area, and then detect whether the object is overlapped with at least a partial area of the face, and the object It may be set to display at least one of a first image before the first visual effect is applied or a second image to which the first visual effect is applied, based on whether .
  • the processor 250 may be configured to display at least one recommendation item corresponding to the first area in which the object is located.
  • the processor 250 may be configured to differently display indicators indicating a selected item among the one or more recommended items based on the degree of adhesion between the first area and the object.
  • the processor 250 may be configured to check user information of the electronic device 201 and display the at least one recommended item based on the user information.
  • the processor 250 in response to detecting movement of the object from the first area to the second area, the processor 250 may be configured to: at least one recommended item related to the first area and the second area It may be set to display at least one recommendation item related to .
  • the processor 250 controls the touch screen to display a plurality of recommended items, and in response to a user input for selecting one of the plurality of recommended items, the selected item and and may be configured to provide the related first visual effect.
  • FIG. 3 is a flowchart 300 for explaining a method of providing a visual effect to a region within a face based on a movement of an object, according to various embodiments of the present disclosure.
  • the electronic device may recognize a face from a preview image obtained from a camera (eg, the camera 240 of FIG. 2 ).
  • the electronic device 201 may drive the camera 240 in response to the execution of the application.
  • the application may include an application related to a visual effect, for example, an application related to makeup.
  • the electronic device 201 may acquire a plurality of images of a subject in real time through the driven camera 240 , and display a preview image based thereon on a display (eg, the display 231 of FIG. 2 ).
  • the electronic device 201 may recognize a face in the preview image.
  • the electronic device 201 may determine a plurality of regions within the recognized face.
  • the plurality of regions may include an eyebrow region, an eye region, a cheek region, and/or a lip region.
  • the present invention is not limited thereto.
  • the electronic device 201 may determine an intra-face eye region, a lip region, a cheek region, and/or an eyebrow region, as well as a neck region and/or a shoulder region. have.
  • the electronic device 201 may obtain relative position information for a plurality of regions within a recognized face.
  • the electronic device 201 may identify a first area in which the object is located among a plurality of areas.
  • the object may include a body part (eg, a finger) of the user of the electronic device 201 or an electronic pen.
  • the electronic device 201 may obtain location information of an object detected within the recognized face, for example, location information of the tip of a finger or location information of the tip of an electronic pen.
  • the electronic device 201 may determine an area in which the object is located among the plurality of areas based on the recognized location information on the plurality of areas in the face and the location information of the object.
  • the electronic device 201 identifies a first area in which an object is located among a plurality of areas, and then at least one recommendation item and at least one recommendation item corresponding to the checked first area At least one attribute related to may be displayed.
  • the at least one recommendation item may include an item related to a visual effect.
  • the item related to the visual effect is the item related to makeup, and may include, for example, an item expressing color such as blusher, lipstick, eyebrow, eye shadow, eyeliner, and/or mascara.
  • the attribute related to the recommended item may include a color.
  • the electronic device 201 may display at least one recommended item corresponding to the lip region, for example, an item related to lipstick.
  • the electronic device 201 selects at least one recommended item corresponding to the eye region, for example, an item related to blush, eye shadow, eyeliner, and/or mascara.
  • the electronic device 201 may display at least one recommended item corresponding to the cheek area, for example, an item related to a blusher.
  • the electronic device 201 may display at least one recommended item corresponding to the eyebrow area, for example, an item related to an eyebrow.
  • the electronic device 201 may display at least one recommended item based on user information.
  • user information may include skin information of the user, items previously selected by the user (eg, cosmetics), purchase history of items (eg, cosmetics), and/or brand information preferred by the user (eg, brand information related to items). may include.
  • the electronic device 201 in response to detecting the movement of the object, applies and displays the first visual effect corresponding to the movement information of the object to the first area according to the movement trajectory of the object.
  • the motion information of the object may include a patting motion, a smudge motion, a motion direction, motion distance information, and/or a motion count.
  • the electronic device 201 may receive RGB values for a plurality of regions in the recognized face, and apply RGB values for a color (eg, attribute of an item) specified to the received RGB value.
  • RGB values for a color eg, attribute of an item
  • the electronic device 201 receives the RGB value of the lip region, and sets the RGB value for the color specified in the received RGB value of the lip region according to the movement trajectory of the object. can be applied.
  • an item eg, lipstick
  • an attribute eg, color
  • applied to the first region may be set as a default based on user information or may be set as selected by a user.
  • FIGS. 4A and 4B are diagrams 400 for explaining a method of providing a visual effect to an intra-face region based on a movement of an object, according to various embodiments of the present disclosure.
  • an electronic device drives a camera (eg, the camera 240 of FIG. 2 ) in response to execution of an application (eg, a makeup application) can do it
  • the electronic device 201 may display a preview image of a subject acquired through the driven camera 240 on a display (eg, the display 231 of FIG. 2 ) as shown in reference numeral ⁇ 410>.
  • the electronic device 201 recognizes the face 411 in the preview image, and includes a plurality of regions within the recognized face 411 , for example, an eyebrow region 412 , an eye region 413 , a cheek region 414 , and/or Alternatively, the lip region 415 may be determined.
  • the electronic device 201 may detect an object, for example, a finger 416 that is a part of the user's body in the preview image.
  • the electronic device 201 may detect the position information of the tip of the finger 416 , and based on the detected position information of the tip of the finger 416 , the plurality of regions 412 , 413 , and 414 . , 415), a region where the tip of the finger 416 is located can be identified.
  • the region where the tip of the finger 416 is positioned is assumed to be the lip region 415 as shown in reference numeral 420 . If the region where the tip of the finger 416 is located is determined as the lip region 415 among the plurality of regions 412 , 413 , 414 , and 415 based on the detected tip position information of the finger 416 , the electronic device Reference numeral 201 denotes an indicator (eg, a lipstick icon) 421 indicating an item related to a visual effect to be applied to the lip region 415 . The indicator 421 may be displayed overlaid on the tip of the finger 416 detected in the lip region 415 .
  • an indicator eg, a lipstick icon
  • the electronic device 201 provides an indicator indicating an item related to a visual effect, for example, a pencil, an eyebrow brush, an eye shadow brush, an eyeliner brush, a powder brush, and/or an indicator based on a region in which the object is detected. Puffs can be displayed. In an embodiment, the electronic device 201 may differently display indicators indicating items related to visual effects based on the type of object, for example, the number of fingers and/or movement information.
  • the electronic device 201 may display the number of detected fingers 416 and/or motion information (eg, stroke, patting, and rubbing). smudging), a lipstick bullet, a lipbrush, and/or a small flat line brush may be displayed.
  • motion information eg, stroke, patting, and rubbing.
  • the electronic device 201 may display the number of detected fingers 416 and/or motion information (eg, a stroke and a tapping). , based on smudging, shadow brush, shader brush, concealer brush, short rounded brush, angled blending brush, A small smudge brush, and/or a small rounded brush may be displayed.
  • motion information eg, a stroke and a tapping.
  • the electronic device 201 may use an eyebrow brush based on the number and/or motion information of the detected fingers 416 . , a small liner brush, or a spoolie brush.
  • the electronic device 201 may use a shading brush (shading brush) based on the number and/or motion information of the detected fingers 416 . brush), an angled blush brush, a cushion, or a makeup sponge.
  • shading brush shading brush
  • the electronic device 201 when an object is detected in a region other than the above-mentioned region, the electronic device 201 performs a powder brush (You can display powder brush, fluff brush, wedge sponge, cushion, makeup sponge, blending brush, or fan brush.
  • the electronic device 201 may apply a visual effect to a specific region (eg, the eyebrow region 412 , the eye region 413 , the cheek region 414 , or the lip region 415 ) together with the preview image.
  • At least one recommendation item 423 related to , and at least one attribute 422 of the at least one recommendation item 423 may be displayed.
  • the at least one recommended item 423 related to a visual effect is an item (eg, cosmetics) related to a visual effect to be applied to a specific area, for example, blusher, lipstick, eyebrow, eye shadow, eyeliner, and/or May contain mascara items.
  • At least one attribute 422 of the at least one recommendation item 423 may include a color.
  • the electronic device 201 in response to detecting an object, for example, a finger 416 , in the lip region 415 , displays at least one recommended item 423 corresponding to the lip region 415 and at least one Although it has been described that at least one attribute 422 of the recommended item 423 is displayed, the present invention is not limited thereto.
  • the electronic device 201 displays at least one recommended item 423 (eg, cosmetics) related to visual effects applicable to a plurality of areas together with a preview image obtained from the camera 240 in response to the execution of the application. can do.
  • the electronic device 201 may display at least one attribute (eg, color) 422 of the selected item.
  • the electronic device 201 determines the attribute of the selected item as a visual effect to be applied to the lip region 415 , and an object detected in the lip region 415 , for example, A visual effect determined according to the movement trajectory of the finger 416 may be applied to the lip region 415 and displayed.
  • the electronic device 201 displays an indicator (eg, a lipstick icon) indicating an item related to a visual effect to be applied to the lip region 415 based on the degree of contact between the lip region 415 and the tip of the finger 416 .
  • an indicator eg, a lipstick icon
  • the electronic device 201 indicates an item related to a visual effect to be applied to the lip region 415 .
  • An indicator eg, a lipstick icon
  • the electronic device ( 201) is changed to an indicator 421 in which a part of the lipstick icon is displayed in bold 431 to indicate that the tip of the finger 416 is more closely attached to the lip region 415 as shown in reference number ⁇ 430>. can be displayed
  • the electronic device 201 moves in specific directions 441 and 451 while the tip of the finger 416 is in close contact with the lip region 415 . It is possible to detect the movement of the tip of the finger 416 of In response to the movement of the tip of the finger 416 in the specific directions 441 and 451 , the indicator 421 also maintains a state overlaid on the tip of the finger 416 and may be moved in the specific directions 441 and 451 . . In response to detecting the motion of the tip of the finger 416 in the specific directions 441 and 451 , the electronic device 201 corresponds to motion information of the tip of the finger 416 according to the motion trajectory of the tip of the finger 416 .
  • a visual effect to be displayed may be applied to the lip region 415 .
  • the electronic device 201 may display a set item, for example, a property of the lipstick 425 , for example, a color 426 by applying it to a part of the lip region 415 according to the movement trajectory of the tip of the finger 416 . .
  • a state that the tip of the finger 416 is separated from the lip region 415 is detected as shown by reference numeral ⁇ 460> (eg, location information of the lip region 415 and the position information of the finger 416 ) Based on the location information, if the finger 416 is not detected in the lip region 415), the electronic device 201 determines that the operation of applying the visual effect is completed, and moves the tip of the finger 416 to the movement trajectory. A lip region 415 to which the corresponding visual effect is applied may be displayed.
  • the electronic device 201 may provide the user with an effect similar to actual makeup using virtual cosmetics.
  • the user may check the makeup result in advance through the applied visual effect by performing a gesture similar to that of actual makeup in an area to which the visual effect is to be applied using virtual cosmetics.
  • FIG. 5 is a diagram 500 for explaining a method of providing a visual effect to a region within a face based on a movement of an object, according to various embodiments of the present disclosure.
  • the electronic device eg, the electronic device 201 of FIG. 2
  • a plurality of regions within the face eg, the eyebrow region 412 , the eye region 413 , the cheek region 414 , and/or the lip region 415 of FIGS. 4A and 4B ) may be determined.
  • the electronic device 201 provides an object, for example, in the lip region 513 (eg, the lip region 415 in FIGS. 4A and 4B ) among the plurality of regions, as shown by reference number ⁇ 510>.
  • a hand 511 that is a part of the user's body may be detected.
  • the electronic device 201 may apply and display a visual effect to the lip region 513 based on the movement of the hand 511 .
  • the electronic device 201 provides a cheek area 525 (eg, an eyebrow region, an eye region, a cheek region, or a lip region) among a plurality of regions, as shown by reference numeral 520 .
  • a cheek area 525 eg, an eyebrow region, an eye region, a cheek region, or a lip region
  • a hand 511 that is a part of the user's body may be detected.
  • the electronic device 201 may apply and display a visual effect to the cheek area 525 based on the movement of the hand 511 .
  • the movement of the hand 511 may include a tapping motion (eg, a patting motion).
  • the electronic device 201 applies a visual effect, eg, a color (eg, a color selected by the user or a color set as a default), to the lip region 513 or the cheek region 525 to display it.
  • a visual effect eg, a color (eg, a color selected by the user or a color set as a default)
  • the electronic device 201 may detect the number of tapping motions, and may display a different visual effect based on the number of tapping motions. For example, as the number of tapping motions increases, the electronic device 201 may display by applying a visual effect or a blending visual effect such that the color set in the lip region 513 or cheek region 525 gradually becomes darker. .
  • FIG. 6 illustrates a method of differently displaying indicators indicating items related to visual effects to be applied to a specific area based on a degree of close contact between a specific area and an object among a plurality of areas in the face, according to various embodiments of the present disclosure
  • the electronic device eg, the electronic device 201 of FIG. 2
  • Indicators can be displayed differently.
  • the electronic device 201 may determine the adhesion degree based on depth information between the electronic device 201 and a specific region in which an object is detected among a plurality of regions and depth information between the electronic device 201 and the object.
  • the electronic device 201 may include a sensor module (eg, the sensor module 176 of FIG. 1 ), for example, a depth sensor (not shown).
  • the electronic device 201 may obtain depth information on the subject by using the depth sensor.
  • a method of acquiring depth information using a depth sensor may include a time of flight (ToF) method and a structured light (SL) method.
  • the electronic device 201 may measure distance information between the electronic device 201 and a specific region or object within the face by using the depth sensor.
  • the electronic device 201 determines the degree of close contact between the specific region and the object based on the distance between the electronic device 201 and the recognized specific region in the face and the distance between the electronic device 201 and the object detected in the specific region. can
  • the electronic device 201 may determine the degree of adhesion based on the size of the overlapping area of the object in the specific area where the object is detected. For example, as the object is detected in the specific area, the electronic device 201 may overlap a part of the specific area, and determine that the smaller the size of the overlapping area, the greater the adhesion degree. For example, the electronic device 201 may detect a change in an overlapping area based on a plurality of images of a subject obtained in real time from the camera 240 . The electronic device 201 may determine the degree of adhesion based on a change in the overlapping area.
  • the degree of adhesion may include a first degree of adhesion, a second degree of adhesion, and a third degree of adhesion. It is assumed that the object is more closely adhered to the specific area in the order of the first adhesion degree, the second adhesion degree, and the third adhesion degree.
  • the above-described first adhesion degree to third adhesion degree are for facilitating explanation, and are not limited to the above-described adhesion degree.
  • the electronic device 201 displays the first indicator, for example. , a lipstick icon 615 may be displayed.
  • the electronic device 201 may recognize that the tip of the finger 613 is at least a certain distance away from the lip region 611 .
  • the electronic device 201 may recognize that the visual effect cannot be applied to the lip region 611 , and accordingly, the finger 613 .
  • a visual effect may not be applied to the lip region 611 even when the movement of .
  • the electronic device 201 displays the first indicator, for example, A second indicator different from the lipstick icon 615 , for example, at least a part of the lipstick icon may be displayed in bold 621 .
  • the electronic device 201 displays the area of the lipstick icon. may be displayed as a third indicator by displaying 631 in bold.
  • the electronic device 201 may recognize a state in which a visual effect can be applied to the lip area 611 .
  • the electronic device 201 sends the lip region 611 to the lip region 611 .
  • a visual effect according to the trajectory of the finger 613 may be applied to .
  • the electronic device 201 may apply different visual effects to the lip region 611 according to the second adhesion degree and the third adhesion information. For example, since the third degree of close contact with the lip area 611 is greater than that of the second degree of adhesion of the tip of the finger 613 to the lip area 611 , a visual effect according to the movement trajectory of the finger 613 is applied to the lip area 611 . It can be displayed more boldly.
  • the user can visually enter the area You can intuitively check whether an effect can be applied or not, and the strength (eg, darkness) of the visual effect to be applied to the area.
  • the degree of adhesion eg, the first degree of adhesion, the second degree of adhesion, or the third degree of adhesion
  • FIG. 7 is a diagram 700 for explaining a method of providing different visual effects to a specific region within a face based on motion information of an object, according to various embodiments of the present disclosure.
  • an electronic device indicates an object (eg, a user's body part)
  • an object eg, a user's body part
  • a visual effect corresponding to motion information of an object may be applied to a specific area and displayed.
  • the motion information of the object may include a patting motion, a smudge motion, a motion direction, motion distance information, and/or the number of motions.
  • the electronic device 201 may apply and display different visual effects to a corresponding area based on the motion information of the object. For example, as shown in reference numeral ⁇ 710>, when a motion of tapping a specific area in the face using an object is detected once, the electronic device 201 applies the first visual effect 711 to the specific area. can be applied and displayed. As another example, if a motion of tapping a specific region in the face using an object is detected twice, the electronic device 201 may apply and display the second visual effect 713 to the specific region. As another example, if a motion of tapping a specific region in the face using an object is detected three times, the electronic device 201 may apply and display the third visual effect 715 to the specific region. . For example, as the number of tapping motions increases, the electronic device 201 may apply and display a darker visual effect to a specific area.
  • the electronic device 201 performs different color layering (eg, first color layering) according to the number of repetitions of a motion (patting motion) of tapping a specific area in the face using an object as shown by reference number ⁇ 720>. 721 , the second color layering 723 , and the third color layering 725 ) may be applied to a specific region and displayed.
  • different color layering eg, first color layering
  • the electronic device 201 may apply and display the first blending visual effect 737 to a specific region.
  • the electronic device 201 applies the second blending visual effect 741 to the specific area. can be displayed. As the number of times that a smudge motion is detected by the electronic device 201 increases, a darker blending visual effect or a visual effect in which a color is thinly spread in the corresponding region may be applied to a specific region and displayed.
  • FIG. 8 is a diagram 800 for explaining a method of providing a visual effect to a region within a face based on a movement of an object, according to various embodiments of the present disclosure.
  • the object is moved by the user's finger (eg, finger 416 in FIGS. 4A and 4B , finger 613 in FIG. 6 ) or hand (eg, hand 511 in FIG. 5 ).
  • the present invention is not limited thereto.
  • the object may include the electronic pen 820 .
  • the electronic device (eg, the electronic device 201 of FIG. 2 ) includes a plurality of areas (eg, the electronic device 201 of FIG. 2 ) in a preview image of a subject acquired through a camera (eg, the camera 240 of FIG. 2 ). : the eyebrow area, the eye area, the cheek area, and the lip area).
  • the electronic device 201 may detect location information of the tip of the object, for example, the electronic pen 820 .
  • the electronic device 201 may identify a region in which the electronic pen 820 is located among a plurality of regions based on the detected position information of the tip of the electronic pen 820 . In FIG.
  • a region where the tip of the electronic pen 820 is positioned is assumed to be the lip region 810 .
  • the area where the tip of the electronic pen 820 is located among the plurality of areas in the face is the lip area 820 .
  • the electronic device 201 may display an indicator (eg, a lipstick icon) 830 indicating an item related to a visual effect to be applied to the lip region 820 .
  • the indicator 830 may be displayed overlaid on the tip of the electronic pen 820 detected in the lip region 820 .
  • the electronic device 201 in response to the movement of the electronic pen 820 , applies a first visual effect corresponding to the movement information of the electronic pen 820 according to the movement trajectory of the electronic pen 820 to the lip region. It can be displayed by applying to (820).
  • the electronic pen 820 may include a button (not shown) disposed on at least a partial area of the pen housing (not shown).
  • the electronic device 201 may receive an input from a button (not shown) provided in the electronic pen from the electronic pen 820 . Based on the received input from the button (not shown), the electronic device 201 applies a second visual effect different from the first visual effect when no input from the button (not shown) is received to the lip region 820 . can be applied and displayed.
  • the second visual effect may include an attribute, eg, a visual effect having a darker color than the first visual effect.
  • FIG. 9 is a flowchart 900 for explaining a method of providing a visual effect based on a change in a specific area within a face, according to various embodiments.
  • operations 910 to 930 of FIG. 9 are the same as operations 310 to 330 of FIG. 3 described above, a detailed description thereof may be replaced with a description related to FIG. 3 .
  • the electronic device may recognize a face from a preview image obtained from a camera (eg, the camera 240 of FIG. 2 ) in operation 910 .
  • a plurality of regions within the recognized face may be determined.
  • the plurality of regions may include an eye region, a lip region, a cheek region, and/or an eyebrow region.
  • the electronic device 201 in response to detecting an object (eg, a part of a user's body or an electronic pen) within the recognized face, the electronic device 201 may identify a first area in which the object is located among the plurality of areas.
  • the electronic device 201 in response to detecting the motion of the object, applies a first visual effect corresponding to the motion information of the object to a part of the first area according to the motion trajectory of the object. can be displayed
  • the electronic device 201 may apply and display the first visual effect to another part of the first area in response to detection of a change in the first area.
  • the electronic device 201 may detect a change (eg, eye movement, mouth movement) in at least one area in the recognized face based on the plurality of images of the subject obtained from the camera 240 . have.
  • the first region is a lip region
  • a state in which the first visual effect is applied to the lower lip region based on a motion of an object detected in the lower lip region among the lip regions will be described.
  • the electronic device 201 responds to another portion of the lip region, for example, , may be displayed by applying the first visual effect to the upper lip region.
  • the first area is an eye area
  • a state in which the first visual effect is applied to a part of the eye area based on the motion of an object detected in the eye area will be described.
  • the electronic device 201 may apply and display the first visual effect to another part of the eye region.
  • FIG. 10 is a diagram 1000 for explaining a method of providing a visual effect based on a change in a specific region within a face, according to various embodiments of the present disclosure.
  • the electronic device eg, the electronic device 201 of FIG. 2
  • the electronic device 201 of FIG. 2 may apply and display a visual effect corresponding to the hand motion information to the lower lip region 1011b as shown by reference number ⁇ 1010>. have.
  • the electronic device 201 performs a change 1021 of the lip region 1011, for example, an upper lip region 1011a constituting the lip region 1011 in a state in which the mouth is closed (eg, reference number ⁇ 1010>). It is possible to detect a change in a state in which the lower lip region 1011b and the lower lip region 1011b face each other (eg, reference number ⁇ 1020>), and a change to a state in which the mouth is closed again (eg, reference number ⁇ 1030>). In response to detecting the change 1021 of the lip region 1011, the electronic device 201 moves the lower lip region 1011a to another region of the lip region 1011, for example, as shown by reference numeral 1030. The same visual effect as that of the lip region 1011b may be applied and displayed.
  • a change 1021 of the lip region 1011 for example, an upper lip region 1011a constituting the lip region 1011 in a state in which the mouth is closed (eg, reference number ⁇ 1010>). It is possible
  • the electronic device 201 when a change in the lip region 1011 is repeatedly detected, the electronic device 201 adjusts the intensity (eg, darkening) of the visual effect to the lip region 1011 and applies the adjusted intensity of the visual effect to the lip region 1011 . can be displayed.
  • the present invention is not limited thereto, and when a change in the area 1011 is repeatedly detected, the electronic device 201 applies a thinner and more uniform color to the lip area 1011 and displays a visual effect as if it spreads over the entire lip area 1011 . can do.
  • FIG. 11 is a flowchart 1100 for explaining a method of providing different visual effects to a specific region within a face in response to detection of a designated gesture of an object, according to various embodiments of the present disclosure.
  • operations 1110 to 1140 of FIG. 11 are the same as operations 310 to 340 of FIG. 3 described above, a detailed description thereof may be replaced with a description related to FIG. 3 .
  • the electronic device may recognize a face from a preview image obtained from a camera (eg, the camera 240 of FIG. 2 ) in operation 1110 ,
  • a plurality of regions within the recognized face may be determined.
  • the plurality of regions may include an eyebrow region, an eye region, a cheek region, and/or a lip region.
  • the electronic device 201 responds to detection of an object (eg, a part of a user's body or an electronic pen) within the recognized face, a first area in which the object is located among the plurality of areas. can confirm.
  • the electronic device 201 may apply and display the first visual effect corresponding to the movement information of the object to the first area according to the movement trajectory of the object.
  • the electronic device 201 may display a second visual effect different from the first visual effect on the first area in response to detection of the specified gesture of the object.
  • the designated gesture of the object may include a swipe gesture.
  • the present invention is not limited thereto.
  • the electronic device 201 performs a designated gesture of an object through a sensor unit (eg, the sensor module 176 of FIG. 1 ) (eg, a depth sensor, an image sensor, a proximity sensor, an illuminance sensor, or an IR sensor). For example, a swipe gesture may be detected.
  • a sensor unit eg, the sensor module 176 of FIG. 1
  • the electronic device 201 may detect a hand gesture (eg, a hand shape, a hand movement, and a hand movement direction) through the sensor unit.
  • the electronic device 201 may perform a function mapped to the detected hand gesture, for example, a function of changing a visual effect applied to the first area.
  • FIG. 12 is a diagram 1200 for explaining a method of providing different visual effects to a specific region within a face in response to detection of a designated gesture of an object, according to various embodiments of the present disclosure.
  • an electronic device eg, the electronic device 201 of FIG. 2
  • the first visual effect corresponding to the motion information of the object may be applied to the lip region and displayed 1211.
  • the first visual effect may include the first color 1213 of the lipstick 1212 .
  • the electronic device 201 may determine that the application of the visual effect to the lip region is completed. After the state that the object has moved away from the lip region is detected, the electronic device 201 may use a camera (eg, the camera 240 of FIG. 2 ) (or a sensor unit (eg, the sensor module 176 of FIG. 1 )). It can be determined whether a specified gesture of the object is detected. The operation of determining whether a designated gesture of the object is detected may be an operation for applying another visual effect to the lip region. For example, the designated gesture may include swipe gestures 1215 and 1223 from the first direction to the second direction.
  • the electronic device 201 responds to detection of a designated gesture, eg, a swipe gesture 1215, of an object, eg, a hand 1214, as shown by reference numeral ⁇ 1220>, in response to a first visual effect (eg, a second visual effect different from the first color 1213 of the lipstick 1212) may be applied to the lip region and displayed 1221 .
  • a first visual effect For example, a second visual effect different from the first color 1213 of the lipstick 1212
  • the second visual effect may include the second color 1222 of the lipstick 1212 .
  • the electronic device 201 when the swipe gesture 1223 of the hand 1214 is detected while the lip region 1221 to which the second visual effect (eg, the second color 1222 of the lipstick 1212) is applied is displayed,
  • the electronic device 201 has a first visual effect (eg, a first color 1213 of the lipstick 1212 ) and a second visual effect (eg, a second of the lipstick 1212 ), as shown by reference numeral 1230 .
  • a third visual effect different from the color 1222) may be applied to the lip region and displayed 1231 .
  • the third visual effect may include a third color 1232 of the lipstick 1212 .
  • FIG. 12 it has been described that different visual effects 1211 , 1221 , and 1231 are applied to the lip region through designated swipe gestures 1215 and 1223 of an object, for example, a hand 1214 , but limited thereto. it is not doing
  • the object is an electronic pen (eg, the electronic pen 820 of FIG. 8 )
  • the electronic device 201 receives different visual effects (eg, first visual effects according to reference numbers ⁇ 1210>, ⁇ 1220>, and ⁇ 1230>
  • the second visual effect and the third visual effect may be controlled to be applied to the lip region.
  • different visual effects are displayed in a specific region based on a specified gesture of the object, for example, a specified gesture of the hand 1214 or an input from a button provided in the electronic pen 820 , thereby providing different visual effects in a specific region. Effects can be applied easily and quickly.
  • FIG. 13 is a flowchart 1300 for explaining a method of providing different visual effects to a specific region within a face based on a type of an object, according to various embodiments of the present disclosure.
  • operations 1310 to 1330 of FIG. 13 are the same as operations 310 to 330 of FIG. 3 described above, a detailed description thereof may be replaced with the description related to FIG. 3 .
  • the electronic device may recognize a face in a preview image obtained from a camera (eg, the camera 240 of FIG. 2 ) in operation 1310 .
  • a plurality of regions within the recognized face may be determined.
  • the plurality of regions may include an eye region, a lip region, a cheek region, and/or an eyebrow region.
  • the electronic device 201 responds to detection of an object (eg, a part of the user's body (eg, a hand) or an electronic pen) within the recognized face, a first region in which the object is located among the plurality of regions. can confirm.
  • an object eg, a part of the user's body (eg, a hand) or an electronic pen
  • the electronic device 201 may identify the type of object in operation 1340 .
  • the type of the object may include fingers such as thumb, index finger, middle finger, ring finger, small finger, or the number of fingers.
  • the type of the object may include a state of whether an input is sensed from a button provided in the electronic pen.
  • the electronic device 201 applies and displays a first visual effect corresponding to the type and motion information of the object to the first area according to the motion trajectory of the object in response to detecting the motion of the object in operation 1350 . can do.
  • the electronic device 201 may detect that the type of the object is changed in operation 1360 .
  • the electronic device 201 may determine that the type of the object is changed.
  • the first object type is determined according to the movement trajectory of the electronic pen.
  • the electronic device 201 may determine that the type of the object has changed.
  • the electronic device 201 displays a different first visual effect on the first area based on the changed object type and motion information according to the movement trajectory of the object. It can be displayed by switching to the second visual effect.
  • FIG. 14 is a diagram 1400 for explaining a method of providing different visual effects to a specific region within a face based on a type of an object, according to various embodiments of the present disclosure.
  • the electronic device may identify the type of object detected in the lip area 1413 .
  • the type of the object in FIG. 14 is the index finger 1411 .
  • the electronic device 201 responds to detecting the movement 1417 of the index finger 1411 in the lower lip region of the lip region 1413 as shown by reference numeral 1410, and the index finger 1411 and the index finger A first visual effect corresponding to the movement 1417 in the first direction 1411 may be applied to the lower lip region of the lip region 1413 and displayed.
  • the electronic device 201 may detect that the type of the object is changed. For example, it is assumed that the type of the object is changed from the index finger 1411 to the ring finger 1421 .
  • the electronic device 201 responds to detecting the movement 1423 of the ring finger 1421 in the lower lip area of the lip area 1413 as shown by reference numeral 1420, and the ring finger 1421 and the ring finger
  • a second visual effect corresponding to the movement 1423 in the second direction 1421 different from the movement 1417 in the first direction may be applied to the lower lip area of the lip area 1413 and displayed.
  • the second visual effect corresponding to the movement 1423 in the second direction may include a visual effect that deletes the first visual effect applied by the movement 1417 in the first direction of the index finger 1411 . have.
  • the present invention is not limited thereto.
  • the object is an electronic pen (eg, the electronic pen 820 of FIG. 8 )
  • the electronic device 201 may apply the first visual effect to the lip region 1413 .
  • the electronic device 201 displays the second position in the lip region 1413 . Visual effects can be applied.
  • 15 is a flowchart 1500 for explaining a method of displaying at least one recommendation item according to movement of an object, according to various embodiments of the present disclosure.
  • operations 1510 to 1540 of FIG. 15 are the same as operations 310 to 340 of FIG. 3 described above, a detailed description thereof may be replaced with the description related to FIG. 3 .
  • the electronic device may recognize a face from a preview image obtained from a camera (eg, the camera 240 of FIG. 2 ) in operation 1510 .
  • a plurality of regions within the recognized face may be determined.
  • the plurality of regions may include an eye region, a lip region, a cheek region, and/or an eyebrow region.
  • the electronic device 201 responds to detecting an object (eg, a part of a user's body or an electronic pen) within the recognized face, a first area in which the object is located among the plurality of areas. can confirm.
  • the electronic device 201 may apply and display the first visual effect corresponding to the movement information of the object to the first area according to the movement trajectory of the object.
  • the electronic device 201 responds to detecting movement of an object from the first area to the second area, in response to detecting at least one recommended item corresponding to the first area and at least one recommended item corresponding to the second area. At least one recommendation item may be displayed.
  • FIG. 16 is a diagram 1600 for explaining a method of displaying at least one recommendation item according to movement of an object, according to various embodiments of the present disclosure.
  • the electronic device detects an object, for example, a finger 1613 in the lip region 1611, the lip region.
  • An indicator eg, a lipstick icon
  • an item related to a visual effect to be applied to the 1611 may be displayed by overlaying the tip of the detected finger 1613 .
  • the electronic device 201 may display at least one recommendation item 1616 related to the lip region 1611 .
  • the electronic device 201 moves to the cheek area 1621 .
  • An indicator eg, a brush icon
  • the electronic device 201 displays at least one recommended item 1616 associated with the lip region 1611 and the cheek region 1621 . At least one recommendation item 1621 related to may be displayed.
  • the electronic device 201 in response to detecting the movement of the finger 1613, displays a visual effect corresponding to the movement information of the finger 1613 on the viewing area 1621. It can be displayed by applying (1631).
  • the electronic device 201 may recommend an appropriate item according to the movement of the object in the face without a separate input. Accordingly, the user can easily check the visual effect through a gesture in the moved area using the recommended item as well as the recommended item applicable to the moved area.
  • 17 is a flowchart 1700 for explaining a method of providing a visual effect when an object overlaps at least a partial region of a recognized face, according to various embodiments of the present disclosure.
  • operations 1710 to 1740 of FIG. 17 are the same as operations 310 to 340 of FIG. 3 described above, a detailed description thereof may be replaced with a description related to FIG. 3 .
  • the electronic device may recognize a face from a preview image obtained from a camera (eg, the camera 240 of FIG. 2 ) in operation 1710 .
  • a plurality of regions within the recognized face may be determined.
  • the plurality of regions may include an eye region, a lip region, a cheek region, and/or an eyebrow region.
  • the electronic device 201 detects an object (eg, a part of a user's body (eg, a hand) or an electronic pen) within the recognized face, and the electronic device 201 selects the object from among the plurality of regions.
  • the located first area may be identified.
  • the electronic device 201 in response to detecting the movement of the object, the electronic device 201 may apply and display the first visual effect corresponding to the movement information of the object to the first area according to the movement trajectory of the object.
  • the electronic device 201 detects that the object overlaps at least a partial region of the recognized face.
  • the electronic device 201 may display at least one of a first image before the first visual effect is applied or a second image to which the first visual effect is applied, based on the overlap of the detected objects. For example, if the electronic device 201 detects that the overlapping of the object is released after the state in which at least a partial region of the face overlaps the object is maintained for a specified time, the first image or the second image before the first visual effect is applied. 1 At least one of the second images to which the visual effect is applied may be displayed.
  • 18A and 18B are diagrams 1800 for explaining a method of providing a visual effect when an object overlaps at least a partial region of a recognized face, according to various embodiments of the present disclosure.
  • the electronic device eg, the electronic device 201 of FIG. 2
  • the electronic device 201 of FIG. 2 has at least one region within a face as shown by reference numerals ⁇ 1810> and ⁇ 1840> according to the above-described embodiments.
  • a visual effect may be applied and displayed to at least one area based on the motion of the object detected in the .
  • the electronic device 201 may detect that an object, for example, a hand 1821, is overlapped on at least a partial region of the recognized face. For example, as shown by reference number ⁇ 1820>, the hand 1821 is superimposed on an area exceeding the specified size of the face through a plurality of images acquired in real time through a camera (eg, the camera 240 of FIG. 2 ). Alternatively, it may be detected that the hand 1821 overlaps in a region smaller than a specified size of the face as shown by reference number 1850 .
  • a camera eg, the camera 240 of FIG. 2
  • the hand 1821 overlaps at least a partial area of the recognized face, for example, the hand 1821 overlaps with an area exceeding a specified size of the face. have.
  • the electronic device 201 is displayed as shown by reference numeral 1830.
  • the hand 1821 overlaps with at least a partial area of the recognized face, for example, overlaps with an area less than or equal to a specified size of the face.
  • the electronic device 201 displays the hand A partial region of the face with the overlapping 1821 to display an image before the visual effect is applied, and other partial regions of the face where the hand 1821 may not be overlapped with the visual effect may be controlled to be displayed. .
  • the image and the visual effect before the visual effect is applied through a gesture that covers the area overlapping the face by the object, for example, the hand 1821, for example, half or all of the face area.
  • the applied image can be displayed.
  • a method of providing a visual effect of an electronic device 201 includes an operation of determining a plurality of regions within a face recognized in a preview image obtained from a camera 240, and an object within the recognized face. In response to the detection, checking a first region in which the object is located among the plurality of regions, and in response to detecting the movement of the object, corresponding to the motion information of the object according to the motion trajectory of the object and displaying a first visual effect by applying the first visual effect to the first area.
  • the motion information of the object may include at least one of a tapping motion, a smudge motion, a motion direction, motion distance information, and a number of motions.
  • the object includes a finger or an electronic pen
  • the displaying of the first visual effect by applying the first visual effect to the first area may include the type of the object and the motion information of the object. and displaying a first visual effect by applying the first visual effect to the first area.
  • the operation of applying and displaying the first visual effect to the first area may include applying the first visual effect to a part of the first area in response to detecting the movement of the object.
  • the first region may further include an operation of switching to and displaying a second visual effect different from the first visual effect.
  • the method of providing a visual effect of the electronic device 201 after displaying the first visual effect by applying the first visual effect to the first region, whether the object is overlapped with at least a partial region of the face and displaying at least one of a first image before the first visual effect is applied or a second image to which the first visual effect is applied, based on whether the object overlaps. .
  • the method of providing a visual effect of the electronic device 201 may further include displaying at least one recommendation item corresponding to the first area in which the object is located.
  • the displaying of the at least one recommendation item may include checking user information of the electronic device and displaying the at least one recommendation item based on the user information.
  • the method of providing a visual effect of the electronic device 201 in response to detecting movement of the object from the first area to the second area, at least one information related to the first area
  • the method may further include displaying a recommendation item and at least one recommendation item related to the second area.
  • the electronic device may have various types of devices.
  • the electronic device may include, for example, a portable communication device (eg, a smart phone), a computer device, a portable multimedia device, a portable medical device, a camera, a wearable device, or a home appliance device.
  • a portable communication device eg, a smart phone
  • a computer device e.g., a smart phone
  • a portable multimedia device e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a wearable device e.g., a smart bracelet
  • a home appliance device e.g., a home appliance
  • a or B “at least one of A and B”, “at least one of A or B”, “A, B, or C”, “at least one of A, B, and C”, and
  • Each of the phrases such as “at least one of A, B, or C” may include any one of the items listed together in the corresponding one of the phrases, or all possible combinations thereof.
  • Terms such as “first”, “second”, or “first” or “second” may simply be used to distinguish the component from other components in question, and may refer to components in other aspects (e.g., importance or order) is not limited.
  • one (eg first) component is “coupled” or “connected” to another (eg, second) component with or without the terms “functionally” or “communicatively”
  • one component can be connected to the other component directly (eg by wire), wirelessly, or through a third component.
  • module may include a unit implemented in hardware, software, or firmware, and may be used interchangeably with terms such as, for example, logic, logic block, component, or circuit.
  • a module may be an integrally formed component or a minimum unit or a part of the component that performs one or more functions.
  • the module may be implemented in the form of an application-specific integrated circuit (ASIC).
  • ASIC application-specific integrated circuit
  • Various embodiments of the present document include one or more instructions stored in a storage medium (eg, internal memory 136 or external memory 138) readable by a machine (eg, electronic device 101).
  • a machine eg, electronic device 101
  • the processor eg, the processor 120
  • the device eg, the electronic device 101
  • the one or more instructions may include code generated by a compiler or code executable by an interpreter.
  • the device-readable storage medium may be provided in the form of a non-transitory storage medium.
  • 'non-transitory' only means that the storage medium is a tangible device and does not contain a signal (eg, electromagnetic wave), and this term refers to the case where data is semi-permanently stored in the storage medium and It does not distinguish between temporary storage cases.
  • a signal eg, electromagnetic wave
  • the method according to various embodiments disclosed in this document may be provided as included in a computer program product.
  • Computer program products may be traded between sellers and buyers as commodities.
  • the computer program product is distributed in the form of a machine-readable storage medium (eg compact disc read only memory (CD-ROM)), or via an application store (eg Play Store TM ) or on two user devices ( It can be distributed (eg downloaded or uploaded) directly or online between smartphones (eg: smartphones).
  • a part of the computer program product may be temporarily stored or temporarily generated in a machine-readable storage medium such as a memory of a server of a manufacturer, a server of an application store, or a relay server.
  • each component eg, a module or a program of the above-described components may include a singular or a plurality of entities.
  • one or more components or operations among the above-described corresponding components may be omitted, or one or more other components or operations may be added.
  • a plurality of components eg, a module or a program
  • the integrated component may perform one or more functions of each component of the plurality of components identically or similarly to those performed by the corresponding component among the plurality of components prior to the integration. .
  • operations performed by a module, program, or other component are executed sequentially, in parallel, repeatedly, or heuristically, or one or more of the operations are executed in a different order, or omitted. or one or more other operations may be added.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Business, Economics & Management (AREA)
  • Finance (AREA)
  • Accounting & Taxation (AREA)
  • Marketing (AREA)
  • Development Economics (AREA)
  • Economics (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

본 발명의 다양한 실시예들에 따르면, 전자 장치는, 카메라, 터치스크린, 및 상기 카메라 및 상기 터치스크린과 작동적으로 연결된 프로세서를 포함하며, 상기 프로세서는, 상기 카메라로부터 획득되는 프리뷰 이미지에서 인식된 얼굴 내 복수의 영역들을 결정하고, 상기 인식된 얼굴 내에서 오브젝트가 검출됨에 응답하여, 상기 복수의 영역들 중 상기 오브젝트가 위치하는 제1 영역을 확인하고, 및 상기 오브젝트의 움직임이 검출됨에 응답하여, 상기 오브젝트의 움직임 궤적에 따라 상기 오브젝트의 움직임 정보에 대응하는 제1 시각적 효과를 상기 제1 영역에 적용하여 표시하도록 상기 터치스크린을 제어하도록 설정될 수 있다. 본 발명에 개시된 다양한 실시예들 이외의 다른 다양한 실시예가 가능하다.

Description

전자 장치 및 이를 이용한 시각적 효과 제공 방법
본 발명의 다양한 실시예는 전자 장치 및 이를 이용한 시각적 효과를 제공하는 방법에 관한 것이다.
전자 장치는 디스플레이에 표시된 이미지 내 얼굴에 시각적 효과를 적용할 수 있다. 예컨대, 전자 장치는 디스플레이에 표시된 사용자의 이미지를 이용하여 화장품과 같은 실제 제품이 사용된 것과 같은 효과들을 가상으로 적용하여 표시할 수 있다. 사용자가 실제 제품을 구매하지 않은 상태에서도 실제 제품의 사용에 따른 결과를 미리 확인할 수 있다.
디스플레이 상에 표시된 이미지 내 얼굴에 시각적 효과를 적용하고자 하는 경우, 시각적 효과와 관련된 아이템을 선택할 수 있으며, 선택된 아이템에 대응하는 시각적 효과를 얼굴에 적용하여 표시할 수 있다. 하지만, 시각적 효과와 관련된 선택된 아이템에 대응하는 얼굴 내 영역에만 시각적 효과를 적용할 수 있어, 적용될 수 있는 영역에 있어서 제한적일 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치는, 카메라로부터 획득되는 프리뷰 이미지에서 인식된 얼굴 내 오브젝트가 검출되면, 오브젝트가 위치하는 영역을 결정하고, 오브젝트의 움직임에 기반하여 결정된 영역에 시각적 효과를 적용하여 표시할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치는, 카메라, 터치스크린, 및 상기 카메라 및 상기 터치스크린과 작동적으로 연결된 프로세서를 포함하며, 상기 프로세서는, 상기 카메라로부터 획득되는 프리뷰 이미지에서 인식된 얼굴 내 복수의 영역들을 결정하고, 상기 인식된 얼굴 내에서 오브젝트가 검출됨에 응답하여, 상기 복수의 영역들 중 상기 오브젝트가 위치하는 제1 영역을 확인하고, 및 상기 오브젝트의 움직임이 검출됨에 응답하여, 상기 오브젝트의 움직임 궤적에 따라 상기 오브젝트의 움직임 정보에 대응하는 제1 시각적 효과를 상기 제1 영역에 적용하여 표시하도록 상기 터치스크린을 제어하도록 설정될 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치의 시각적 효과를 제공하는 방법은, 카메라로부터 획득되는 프리뷰 이미지에서 인식된 얼굴 내 복수의 영역들을 결정하는 동작, 상기 인식된 얼굴 내에서 오브젝트가 검출됨에 응답하여, 상기 복수의 영역들 중 상기 오브젝트가 위치하는 제1 영역을 확인하는 동작, 및 상기 오브젝트의 움직임이 검출됨에 응답하여, 상기 오브젝트의 움직임 궤적에 따라 상기 오브젝트의 움직임 정보에 대응하는 제1 시각적 효과를 상기 제1 영역에 적용하여 표시하는 동작을 포함할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치는, 오브젝트의 움직임에 기반하여 오브젝트가 위치하는 얼굴 내 영역에 시각적 효과를 적용할 수 있다. 이에 따라, 사용자는 가상의 화장품을 이용하여 실제 화장하는 것과 같은 느낌을 느낄 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치는, 오브젝트가 위치하는 얼굴 내 영역에서 검출되는 오브젝트의 움직임 정보에 기반하여 다양한 시각적 효과를 해당 영역에 적용할 수 있다. 이에 따라, 사용자는 제스처만으로 다양한 시각적 효과를 용이하게 확인할 수 있다.
도 1은, 다양한 실시예들에 따른, 네트워크 환경 내의 전자 장치의 블록도이다.
도 2는, 다양한 실시예들에 따른, 전자 장치를 나타내는 블록도이다.
도 3은, 다양한 실시예들에 따른, 오브젝트의 움직임에 기반하여 얼굴 내 영역에 시각적 효과를 제공하는 방법을 설명하기 위한 흐름도이다.
도 4a 및 도 4b는, 다양한 실시예들에 따른, 오브젝트의 움직임에 기반하여 얼굴 내 영역에 시각적 효과를 제공하는 방법을 설명하기 위한 도면이다.
도 5는, 다양한 실시예들에 따른, 오브젝트의 움직임에 기반하여 얼굴 내 영역에 시각적 효과를 제공하는 방법을 설명하기 위한 도면이다.
도 6은, 다양한 실시예들에 따른, 얼굴 내 복수의 영역들 중 특정 영역과 오브젝트 간의 밀착 정도에 기반하여 특정 영역에 적용할 시각적 효과와 관련된 아이템을 나타내는 인디케이터를 상이하게 표시하는 방법을 설명하기 위한 도면이다.
도 7은, 다양한 실시예들에 따른, 오브젝트의 움직임 정보에 기반하여 얼굴 내 특정 영역에 상이한 시각적 효과를 제공하는 방법을 설명하기 위한 도면이다.
도 8은, 다양한 실시예들에 따른, 오브젝트의 움직임에 기반하여 얼굴 내 영역에 시각적 효과를 제공하는 방법을 설명하기 위한 도면이다.
도 9는, 다양한 실시예들에 따른, 얼굴 내 특정 영역의 변화에 기반하여 시각적 효과를 제공하는 방법을 설명하기 위한 흐름도이다.
도 10은, 다양한 실시예들에 따른, 얼굴 내 특정 영역의 변화에 기반하여 시각적 효과를 제공하는 방법을 설명하기 위한 도면이다.
도 11은, 다양한 실시예들에 따른, 오브젝트의 지정된 제스처가 검출됨에 응답하여 얼굴 내 특정 영역에 상이한 시각적 효과를 제공하는 방법을 설명하기 위한 흐름도이다.
도 12는, 다양한 실시예들에 따른, 오브젝트의 지정된 제스처가 검출됨에 응답하여 얼굴 내 특정 영역에 상이한 시각적 효과를 제공하는 방법을 설명하기 위한 도면이다.
도 13은, 다양한 실시예들에 따른, 오브젝트의 타입에 기반하여 얼굴 내 특정 영역에 상이한 시각적 효과를 제공하는 방법을 설명하기 위한 흐름도이다.
도 14는, 다양한 실시예들에 따른, 오브젝트의 타입에 기반하여 얼굴 내 특정 영역에 상이한 시각적 효과를 제공하는 방법을 설명하기 위한 도면이다.
도 15는, 다양한 실시예들에 따른, 오브젝트의 이동에 따라 적어도 하나의 추천 아이템을 표시하는 방법을 설명하기 위한 흐름도이다.
도 16은, 다양한 실시예들에 따른, 오브젝트의 이동에 따라 적어도 하나의 추천 아이템을 표시하는 방법을 설명하기 위한 도면이다.
도 17은, 다양한 실시예들에 따른, 인식된 얼굴의 적어도 일부 영역에 오브젝트가 중첩되는 경우, 시각적 효과를 제공하는 방법을 설명하기 위한 흐름도이다.
도 18a 및 도 18b는, 다양한 실시예들에 따른, 인식된 얼굴의 적어도 일부 영역에 오브젝트가 중첩되는 경우, 시각적 효과를 제공하는 방법을 설명하기 위한 도면이다.
도 1은, 다양한 실시예들에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블록도이다.
도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108)와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 장치(150), 음향 출력 장치(155), 표시 장치(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 표시 장치(160) 또는 카메라 모듈(180))가 생략되거나, 하나 이상의 다른 구성 요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들은 하나의 통합된 회로로 구현될 수 있다. 예를 들면, 센서 모듈(176)(예: 지문 센서, 홍채 센서, 또는 조도 센서)은 표시 장치(160)(예: 디스플레이)에 임베디드된 채 구현될 수 있다.
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 로드하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일 실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서), 및 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 추가적으로 또는 대체적으로, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 또는 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 표시 장치(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일 실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성 요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서 모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)), 및 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144), 또는 어플리케이션(146)을 포함할 수 있다.
입력 장치(150)는, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 장치(150)는, 예를 들면, 마이크, 마우스, 키보드, 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 장치(155)는 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 장치(155)는, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있고, 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일 실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
표시 장치(160)는 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 표시 장치(160)는, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일 실시예에 따르면, 표시 장치(160)는 터치를 감지하도록 설정된 터치 회로(touch circuitry), 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 센서 회로(예: 압력 센서)를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일 실시예에 따르면, 오디오 모듈(170)은, 입력 장치(150)를 통해 소리를 획득하거나, 음향 출력 장치(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일 실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일 실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일 실시예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일 실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일 실시예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성 요소에 전력을 공급할 수 있다. 일 실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일 실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제1 네트워크(198)(예: 블루투스, WiFi direct, 또는 IrDA(infrared data association) 같은 근거리 통신 네트워크) 또는 제2 네트워크(199)(예: 셀룰러 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부 전자 장치와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성 요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성 요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제1 네트워크(198) 또는 제2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 및 인증할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일 실시예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 하나의 안테나를 포함할 수 있다. 일 실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들을 포함할 수 있다. 이런 경우, 제1 네트워크(198) 또는 제2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC)이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일 실시예에 따르면, 명령 또는 데이터는 제2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104) 간에 송신 또는 수신될 수 있다. 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일 실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는, 다양한 실시예들에 따른, 전자 장치(201)를 나타내는 블록도(200)이다.
도 2를 참조하면, 전자 장치(201)(예: 도 1의 전자 장치(101))는 통신 회로(210)(예: 도 1의 통신 모듈(190)), 메모리(220)(예: 도 1의 메모리(130)), 터치스크린 디스플레이(230)(예: 도 1의 표시 장치(160)), 카메라(240(예: 도 1의 카메라 모듈(180)), 및 프로세서(250)(예: 도 1의 프로세서(120))를 포함할 수 있으며, 도시된 구성 중 적어도 일부가 생략 또는 치환될 수 있다.
일 실시예에 따르면, 통신 회로(210)(예: 도 1의 통신 모듈(190))는 외부 장치(예: 도 1의 전자 장치(102))와 통신 채널을 설립하고, 외부 장치와 다양한 데이터를 송수신하도록 지원할 수 있다.
일 실시예에 따르면, 메모리(220)(예: 도 1의 메모리(130))는 카메라(240)로부터 획득되는 프리뷰 이미지에서 인식된 얼굴 내 복수의 영역들 중 오브젝트가 검출된 영역에서의 움직임 궤적에 따라 오브젝트의 움직임 정보에 대응하는 시각적 효과를 해당 영역에 적용하기 위한 프로그램을 저장할 수 있다.
일 실시예에 따르면, 터치스크린 디스플레이(230)(예: 도 1의 표시 장치(160))는 디스플레이(231) 및 터치패널(233)을 포함하는 일체형으로 구성될 수 있다.
일 실시예에서, 터치스크린 디스플레이(230)는 프로세서(250)의 제어 하에 영상을 표시하며, 액정 디스플레이(liquid crystal display, LCD), 발광 다이오드(light-emitting diode, LED) 디스플레이, 유기 발광 다이오드(organic light-emitting diode, OLED) 디스플레이, 또는 마이크로 전자 기계 시스템(micro electro mechanical systems, MEMS) 디스플레이, 또는 전자 종이(electronic paper) 디스플레이 중 어느 하나로 구현될 수 있다. 하지만 이에 한정하는 것은 아니다.
일 실시예에서, 터치스크린 디스플레이(230)는 카메라(240)로부터 획득되는 피사체에 대한 복수의 이미지 데이터를 프리뷰 이미지로서 표시할 수 있다. 터치스크린 디스플레이(230)는 프로세서(250)의 제어 하에 시각적 효과가 적용된 영역을 포함하는 얼굴 이미지를 표시할 수 있다.
일 실시예에 따르면, 카메라(240)(예: 도 1의 카메라 모듈(180))는 수집된 영상을 프리뷰 이미지로 디스플레이(231)에 전달하여, 사용자가 카메라(240)를 통해 획득한 영상을 확인하도록 할 수 있다.
일 실시예에 따르면, 프로세서(250)(예: 도 1의 프로세서(120))는 전자 장치(201)의 전반적인 동작 및 전자 장치(201)의 내부 구성들 간의 신호 흐름을 제어하고, 데이터 처리를 수행할 수 있다.
일 실시예에서, 프로세서(250)는 카메라(240)로부터 획득되는 프리뷰 이미지에서 얼굴을 인식할 수 있다. 프로세서(250)는 인식된 얼굴 내 복수의 영역들을 결정할 수 있다. 예컨대, 복수의 영역들은 눈썹 영역, 눈 영역, 볼 영역, 및 입술 영역을 포함할 수 있다. 프로세서(250)는 인식된 얼굴 내에서 오브젝트가 검출됨에 응답하여, 복수의 영역들 중 오브젝트가 위치하는 제1 영역을 확인할 수 있다. 예컨대, 오브젝트는 전자 장치(201)의 사용자의 신체 일부(예: 손가락) 또는 전자 펜(electronic pen)을 포함할 수 있다. 프로세서(250)는 인식된 얼굴 내 복수의 영역들에 대한 위치 정보와 오브젝트의 위치 정보에 기반하여, 복수의 영역들 중 오브젝트가 위치하는 영역을 결정할 수 있다. 일 실시예에서, 프로세서(250)는 오브젝트가 위치하는 제1 영역에 적용할 시각적 효과와 관련된 아이템을 나타내는 인디케이터를 오브젝트에 오버레이 하여 표시할 수 있다.
일 실시예에서, 프로세서(250)는 오브젝트의 움직임이 검출됨에 응답하여, 오브젝트의 움직임 궤적에 따라 오브젝트의 움직임 정보에 대응하는 제1 시각적 효과를 제1 영역에 적용하여 표시할 수 있다. 오브젝트의 움직임 정보는 두드리는 모션(patting motion), 문지르는 모션(smudge motion), 움직임 방향, 움직임 거리 정보, 및/또는 움직임 횟수를 포함할 수 있다.
일 실시예에서, 프로세서(250)는 제1 시각적 효과를 적용한 후, 오브젝트가 검출된 제1 영역으로부터 떨어짐이 검출되면, 제1 시각적 효과 적용이 완료된 것으로 결정할 수 있다.
일 실시예에서, 제1 시각적 효과가 적용된 후, 제1 영역의 변화가 검출되면, 프로세서(250)는 제1 시각적 효과를 제1 영역의 다른 일부에 적용하여 표시할 수 있다.
일 실시예에서, 제1 시각적 효과가 적용된 후, 오브젝트의 지정된 제스처가 검출되면, 프로세서(250)는 제1 영역에 제1 시각적 효과와 상이한 제2 시각적 효과로 전환하여 표시할 수 있다. 예컨대, 지정된 제스처는 스와이프 제스처를 포함할 수 있다. 하지만 이에 한정하는 것은 아니다.
일 실시예에서, 제1 시각적 효과가 적용된 후, 오브젝트의 타입이 변경되면, 프로세서(250)는 오브젝트의 움직임 궤적에 따라 변경된 오브젝트의 타입 및 움직임 정보에 기반하여 제1 영역에 제1 시각적 효과와 상이한 제2 시각적 효과로 전환하여 표시할 수 있다.
일 실시예에서, 제1 시각적 효과가 적용된 후, 인식된 얼굴의 적어도 일부 영역에 오브젝트가 중첩됨이 검출되면, 프로세서(250)는 검출된 오브젝트의 중첩에 기반하여 제1 시각적 효과가 적용되기 전의 제1 이미지 또는 제1 시각적 효과가 적용된 제2 이미지 중 적어도 하나를 표시할 수 있다. 다양한 실시예들에 따른 전자 장치(201)는 카메라(240), 터치스크린, 및 상기 카메라(240) 및 상기 터치스크린과 작동적으로 연결된 프로세서(250)를 포함하며, 상기 프로세서(250)는, 상기 카메라(240)로부터 획득되는 프리뷰 이미지에서 인식된 얼굴 내 복수의 영역들을 결정하고, 상기 인식된 얼굴 내에서 오브젝트가 검출됨에 응답하여, 상기 복수의 영역들 중 상기 오브젝트가 위치하는 제1 영역을 확인하고, 및 상기 오브젝트의 움직임이 검출됨에 응답하여, 상기 오브젝트의 움직임 궤적에 따라 상기 오브젝트의 움직임 정보에 대응하는 제1 시각적 효과를 상기 제1 영역에 적용하여 표시하도록 상기 터치스크린을 제어하도록 설정될 수 있다.
다양한 실시예들에 따르면, 상기 오브젝트의 움직임 정보는, 두드리는 모션(patting motion), 문지르는 모션(smudge motion), 움직임 방향, 움직임 거리 정보, 또는 움직임 횟수 중 적어도 하나를 포함할 수 있다.
다양한 실시예들에 따르면, 상기 오브젝트는 손가락 또는 전자 펜을 포함하며, 상기 프로세서(250)는, 상기 오브젝트의 타입 및 상기 오브젝트의 움직임 정보에 대응하는 상기 제1 시각적 효과를 상기 제1 영역에 적용하여 표시하도록 상기 터치스크린을 제어하도록 설정될 수 있다.
다양한 실시예들에 따르면, 상기 프로세서(250)는, 상기 오브젝트의 움직임이 검출됨에 응답하여, 상기 제1 시각적 효과가 상기 제1 영역의 일부에 적용된 경우, 상기 제1 영역의 변화가 검출됨에 응답하여, 상기 제1 시각적 효과를 상기 제1 영역의 다른 일부에 적용하여 표시하도록 상기 터치스크린을 제어하도록 설정될 수 있다.
다양한 실시예들에 따르면, 상기 프로세서(250)는, 상기 제1 영역에 상기 제1 시각적 효과를 적용한 후, 상기 오브젝트의 지정된 제스처가 검출됨에 응답하여, 상기 제1 영역에 상기 제1 시각적 효과와 상이한 제2 시각적 효과로 전환하여 표시하도록 설정될 수 있다.
다양한 실시예들에 따르면, 상기 프로세서(250)는, 상기 제1 시각적 효과를 상기 제1 영역에 적용하여 표시한 후, 상기 얼굴의 적어도 일부 영역에 상기 오브젝트의 중첩 여부를 검출하고, 및 상기 오브젝트의 중첩 여부에 기반하여 상기 제1 시각적 효과가 적용되기 전의 제1 이미지 또는 상기 제1 시각적 효과가 적용된 제2 이미지 중 적어도 하나를 표시하도록 설정될 수 있다.
다양한 실시예들에 따르면, 상기 프로세서(250)는, 상기 오브젝트가 위치하는 상기 제1 영역에 대응하는 적어도 하나의 추천 아이템을 표시하도록 설정될 수 있다.
다양한 실시예들에 따르면, 상기 프로세서(250)는, 상기 제1 영역과 상기 오브젝트 간 밀착 정도에 기반하여 상기 적어도 하나의 추천 아이템 중 선택된 아이템을 나타내는 인디케이터를 상이하게 표시하도록 설정될 수 있다.
다양한 실시예들에 따르면, 상기 프로세서(250)는, 상기 전자 장치(201)의 사용자 정보를 확인하고, 상기 사용자 정보에 기반하여 상기 적어도 하나의 추천 아이템을 표시하도록 설정될 수 있다.
다양한 실시예들에 따르면, 상기 프로세서(250)는, 상기 오브젝트가 상기 제1 영역에서 제2 영역으로의 이동이 검출됨에 응답하여, 상기 제1 영역과 관련된 적어도 하나의 추천 아이템 및 상기 제2 영역과 관련된 적어도 하나의 추천 아이템을 표시하도록 설정될 수 있다.
다양한 실시예들에 따르면, 상기 프로세서(250)는, 복수의 추천 아이템들을 표시하도록 상기 터치스크린을 제어하고, 및 상기 복수의 추천 아이템들 중 하나를 선택하는 사용자 입력에 응답하여, 상기 선택된 아이템과 관련된 상기 제1 시각적 효과를 제공하도록 설정될 수 있다.
도 3은, 다양한 실시예들에 따른, 오브젝트의 움직임에 기반하여 얼굴 내 영역에 시각적 효과를 제공하는 방법을 설명하기 위한 흐름도(300)이다.
도 3을 참조하면, 전자 장치(예: 도 2의 전자 장치(201))는 310동작에서, 카메라(예: 도 2의 카메라(240))로부터 획득되는 프리뷰 이미지에서 얼굴을 인식할 수 있다. 예컨대, 전자 장치(201)는 어플리케이션 실행에 응답하여, 카메라(240)를 구동할 수 있다. 어플리케이션은 시각적 효과와 관련된 어플리케이션 예컨대, 화장과 관련된 어플리케이션을 포함할 수 있다. 전자 장치(201)는 구동된 카메라(240)를 통해 실시간으로 피사체에 대한 복수의 이미지들을 획득하고, 이에 기반한 프리뷰 이미지를 디스플레이(예: 도 2의 디스플레이(231))에 표시할 수 있다. 전자 장치(201)는 프리뷰 이미지에서 얼굴을 인식할 수 있다.
일 실시예에서, 전자 장치(201)는 320동작에서, 인식된 얼굴 내 복수의 영역들을 결정할 수 있다. 예컨대, 복수의 영역들은 눈썹 영역, 눈 영역, 볼 영역, 및/또는 입술 영역을 포함할 수 있다. 하지만 이에 한정하는 것은 아니다. 예컨대, 프리뷰 이미지에서 얼굴뿐만 아니라 피사체의 상체가 인식되는 경우, 전자 장치(201)는 얼굴 내 눈 영역, 입술 영역, 볼 영역, 및/또는 눈썹 영역뿐만 아니라 목 영역 및/또는 어깨 영역을 결정할 수 있다.
일 실시예에서, 전자 장치(201)는 인식된 얼굴 내 복수의 영역들에 대한 상대적인 위치 정보를 획득할 수 있다.
일 실시예에서, 전자 장치(201)는 330동작에서, 인식된 얼굴 내에서 오브젝트가 검출됨에 응답하여, 복수의 영역들 중 오브젝트가 위치하는 제1 영역을 확인할 수 있다. 일 실시예에 따른 오브젝트는 전자 장치(201)의 사용자의 신체 일부(예: 손가락) 또는 전자 펜(electronic pen)을 포함할 수 있다.
일 실시예에서, 전자 장치(201)는 인식된 얼굴 내에서 검출되는 오브젝트의 위치 정보 예컨대, 손가락의 끝의 위치 정보 또는 전자 펜의 끝의 위치 정보를 획득할 수 있다. 전자 장치(201)는 인식된 얼굴 내 복수의 영역들에 대한 위치 정보와 오브젝트의 위치 정보에 기반하여, 복수의 영역들 중 오브젝트가 위치하는 영역을 결정할 수 있다.
일 실시예에서, 미도시 되었으나, 전자 장치(201)는 복수의 영역들 중 오브젝트가 위치하는 제1 영역을 확인한 후, 확인된 제1 영역에 대응하는 적어도 하나의 추천 아이템 및 적어도 하나의 추천 아이템과 관련된 적어도 하나의 속성을 표시할 수 있다. 적어도 하나의 추천 아이템은 시각적 효과와 관련된 아이템을 포함할 수 있다. 예컨대, 시각적 효과와 관련된 아이템은 화장과 관련된 아이템으로, 예컨대, 블러셔, 립스틱, 아이브로우, 아이섀도, 아이라이너, 및/또는 마스카라와 같이 색상을 표현하는 아이템을 포함할 수 있다. 추천 아이템과 관련된 속성은 색상을 포함할 수 있다.
예컨대, 복수의 영역들 중 오브젝트가 위치하는 영역이 입술 영역인 경우, 전자 장치(201)는 입술 영역에 대응하는 적어도 하나의 추천 아이템 예컨대, 립스틱과 관련된 아이템을 표시할 수 있다. 복수의 영역들 중 오브젝트가 위치하는 영역이 눈 영역인 경우, 전자 장치(201)는 눈 영역에 대응하는 적어도 하나의 추천 아이템 예컨대, 블러셔, 아이섀도, 아이라이너, 및/또는 마스카라와 관련된 아이템을 표시할 수 있다. 복수의 영역들 중 오브젝트가 위치하는 영역이 볼 영역인 경우, 전자 장치(201)는 볼 영역에 대응하는 적어도 하나의 추천 아이템 예컨대, 블러셔와 관련된 아이템을 표시할 수 있다. 복수의 영역들 중 오브젝트가 위치하는 영역이 눈썹 영역인 경우, 전자 장치(201)는 눈썹 영역에 대응하는 적어도 하나의 추천 아이템 예컨대, 아이브로우와 관련된 아이템을 표시할 수 있다.
다른 실시예에서, 미도시 되었으나, 전자 장치(201)는 사용자 정보에 기반하여 적어도 하나의 추천 아이템을 표시할 수 있다. 예컨대, 사용자 정보는 사용자의 피부 정보, 사용자에 의해 이전에 선택된 아이템(예: 화장품), 아이템(예: 화장품) 구매 이력, 및/또는 사용자가 선호하는 브랜드 정보(예: 아이템과 관련된 브랜드 정보)를 포함할 수 있다.
일 실시예에서, 전자 장치(201)는 340동작에서, 오브젝트의 움직임이 검출됨에 응답하여, 오브젝트의 움직임 궤적에 따라 오브젝트의 움직임 정보에 대응하는 제1 시각적 효과를 제1 영역에 적용하여 표시할 수 있다. 오브젝트의 움직임 정보는, 두드리는 모션(patting motion), 문지르는 모션(smudge motion), 움직임 방향, 움직임 거리 정보, 및/또는 움직임 횟수를 포함할 수 있다.
일 실시예에서, 전자 장치(201)는 인식된 얼굴 내 복수의 영역들에 대한 RGB값을 수신할 수 있으며, 수신된 RGB 값에 지정된 색상(예: 아이템의 속성)에 대한 RGB 값을 적용할 수 있다. 예컨대, 제1 영역을 입술 영역으로 가정하여 설명하면, 전자 장치(201)는 입술 영역의 RGB 값을 수신하고, 오브젝트의 움직임 궤적에 따라 수신된 입술 영역의 RGB 값에 지정된 색상에 대한 RGB 값을 적용할 수 있다.
일 실시예에서, 제1 영역에 적용되는 아이템(예: 립스틱) 및 속성(예: 색상)은 사용자 정보에 기반하여 디폴트로 설정되거나, 또는 사용자에 의해 선택됨에 따라 설정될 수 있다.
도 4a 및 도 4b는, 다양한 실시예들에 따른, 오브젝트의 움직임에 기반하여 얼굴 내 영역에 시각적 효과를 제공하는 방법을 설명하기 위한 도면(400)이다.
도 4a 및 도 4b를 참조하면, 전자 장치(예: 도 2의 전자 장치(201))는 어플리케이션(예: 화장 어플리케이션) 실행에 응답하여, 카메라(예: 도 2의 카메라(240))를 구동시킬 수 있다. 전자 장치(201)는 참조번호 <410>에 도시된 바와 같이 구동된 카메라(240)를 통해 획득되는 피사체에 대한 프리뷰 이미지를 디스플레이(예: 도 2의 디스플레이(231))에 표시할 수 있다. 전자 장치(201)는 프리뷰 이미지에서 얼굴(411)을 인식하고, 인식된 얼굴(411) 내 복수의 영역들 예컨대, 눈썹 영역(412), 눈 영역(413), 볼 영역(414), 및/또는 입술 영역(415)을 결정할 수 있다.
일 실시예에서, 전자 장치(201)는 프리뷰 이미지에서 오브젝트 예컨대, 사용자의 신체 일부인 손가락(416)을 검출할 수 있다.
일 실시예에서, 전자 장치(201)는 손가락(416)의 끝의 위치 정보를 검출할 수 있으며, 검출된 손가락(416)의 끝의 위치 정보에 기반하여 복수의 영역들(412, 413, 414, 415) 중 손가락(416)의 끝이 위치하는 영역을 확인할 수 있다.
일 실시예에 따른 도 4a 및 도 4b에서 손가락(416)의 끝이 위치하는 영역은 참조번호 <420>에 도시된 바와 같이 입술 영역(415)으로 가정하여 설명하도록 한다. 검출된 손가락(416)의 끝의 위치 정보에 기반하여 손가락(416)의 끝이 위치하는 영역이 복수의 영역들(412, 413, 414, 415) 중 입술 영역(415)으로 결정되면, 전자 장치(201)는 입술 영역(415)에 적용할 시각적 효과와 관련된 아이템을 나타내는 인디케이터(예: 립스틱 아이콘)(421)를 표시할 수 있다. 인디케이터(421)는 입술 영역(415)에서 검출된 손가락(416)의 끝에 오버레이되어 표시될 수 있다.
일 실시예에서, 전자 장치(201)는 오브젝트가 검출되는 영역에 기반하여, 시각적 효과와 관련된 아이템을 나타내는 인디케이터 예컨대, 펜슬, 눈썹용 브러쉬, 아이섀도 브러쉬, 아이라이너 브러쉬, 파우더 브러쉬, 및/또는 퍼프를 표시할 수 있다. 일 실시예에서, 전자 장치(201)는 오브젝트의 타입 예컨대, 손가락의 개수 및/또는 움직임 정보에 기반하여, 시각적 효과와 관련된 아이템을 나타내는 인디케이터를 상이하게 표시할 수 있다.
예컨대, 오브젝트가 검출되는 영역이 입술 영역(415)인 경우, 전자 장치(201)는 검출되는 손가락(416)의 개수 및/또는 움직임 정보(예: 스트로크(stroke), 두드림(patting), 문지름(smudging))에 기반하여, 립스틱 불렛(lipstick bullet), 립브러쉬(lipbrush), 및/또는 스몰 플랫 라인 브러쉬(small flat line brush)를 표시할 수 있다.
다른 예를 들어, 오브젝트가 검출되는 영역이 눈 영역(413)인 경우, 전자 장치(201)는 검출되는 손가락(416)의 개수 및/또는 움직임 정보(예: 스트로크(stroke), 두드림(patting), 문지름(smudging))에 기반하여, 섀도 브러쉬(shadow brush), 셰이더 브러쉬(shader brush), 컨실러 브러쉬(concealer brush), 숏 라운드 브러쉬(short rounded brush), 앵글드 블렌딩 브러쉬(angled blending brush), 스몰 스머지 브러쉬(small smudge brush), 및/또는 스몰 라운드 브러쉬(small rounded brush)를 표시할 수 있다.
또 다른 예를 들어, 오브젝트가 검출되는 영역이 눈썹 영역(412)인 경우, 전자 장치(201)는 검출되는 손가락(416)의 개수 및/또는 움직임 정보에 기반하여, 아이브로우 브러쉬(eyebrow brush), 스몰 라이너 브러쉬(small liner brush), 또는 스풀리 브러쉬(spoolie brush)를 표시할 수 있다.
또 다른 예를 들어, 오브젝트가 검출되는 영역이 코, 뺨, 뼈, 또는 턱선인 경우, 전자 장치(201)는 검출되는 손가락(416)의 개수 및/또는 움직임 정보에 기반하여, 셰이딩 브러쉬(shading brush), 앵글 블러쉬 브러쉬(angled blush brush), 쿠션(cushion), 또는 메이크업 스폰지(makeup sponge)를 표시할 수 있다.
또 다른 예를 들어, 전술한 영역 이외의 영역에서 오브젝트가 검출되면, 전자 장치(201)는 전자 장치(201)는 검출되는 손가락(416)의 개수 및/또는 움직임 정보에 기반하여, 파우더 브러쉬(powder brush), 플러프 브러쉬(fluff brush) 웨지 스폰지(wedge sponge), 쿠션(cushion), 메이크업 스폰지(makeup sponge), 블랜딩 브러쉬(blending brush), 또는 팬 브러쉬(fan brush)를 표시할 수 있다.
일 실시예에서, 전자 장치(201)는 프리뷰 이미지와 함께 특정 영역(예: 눈썹 영역(412), 눈 영역(413), 볼 영역(414), 또는 입술 영역(415))에 적용할 시각적 효과와 관련된 적어도 하나의 추천 아이템(423) 및 적어도 하나의 추천 아이템(423)의 적어도 하나의 속성(422)을 표시할 수 있다. 예컨대, 시각적 효과와 관련된 적어도 하나의 추천 아이템(423)은 특정 영역에 적용할 시각적 효과와 관련된 아이템(예: 화장품)으로, 예컨대, 블러셔, 립스틱, 아이브로우, 아이섀도, 아이라이너, 및/또는 마스카라 아이템을 포함할 수 있다. 적어도 하나의 추천 아이템(423)의 적어도 하나의 속성(422)은 색상을 포함할 수 있다.
일 실시예에서, 입술 영역(415)에서 오브젝트 예컨대, 손가락(416)이 검출됨에 응답하여, 전자 장치(201)는 입술 영역(415)에 대응하는 적어도 하나의 추천 아이템(423) 및 적어도 하나의 추천 아이템(423)의 적어도 하나의 속성(422)을 표시하는 것으로 설명하였으나, 이에 한정하는 것은 아니다. 예컨대, 전자 장치(201)는 어플리케이션 실행에 응답하여 카메라(240)로부터 획득되는 프리뷰 이미지와 함께 복수의 영역들에 적용 가능한 시각적 효과와 관련된 적어도 하나의 추천 아이템(423)(예: 화장품)을 표시할 수 있다. 표시된 적어도 하나의 추천 아이템(423) 중 하나가 선택되면, 전자 장치(201)는 선택된 아이템의 적어도 하나의 속성(예: 색상)(422)을 표시할 수 있다. 적어도 하나의 속성 중 하나를 선택하는 입력이 검출되면, 전자 장치(201)는 선택된 아이템의 속성을 입술 영역(415)에 적용할 시각적 효과로서 결정하고, 입술 영역(415)에서 검출되는 오브젝트 예컨대, 손가락(416)의 움직임 궤적에 따라 결정된 시각적 효과를 입술 영역(415)에 적용하여 표시할 수 있다.
일 실시예에서, 전자 장치(201)는 입술 영역(415)과 손가락(416)의 끝의 밀착 정도에 기반하여 입술 영역(415)에 적용할 시각적 효과와 관련된 아이템을 나타내는 인디케이터(예: 립스틱 아이콘)(421)를 상이하게 표시할 수 있다. 예컨대, 참조번호 <420>에 도시된 바와 같이 손가락(416)의 끝이 입술 영역(415)에 위치하는 경우, 전자 장치(201)는 입술 영역(415)에 적용할 시각적 효과와 관련된 아이템을 나타내는 인디케이터(예: 립스틱 아이콘)(421)를 표시할 수 있다. 다른 예를 들어, 입술 영역(415)과 손가락(416)의 끝의 밀착 정도가 참조번호 <420>에서의 입술 영역(415)과 손가락(416)의 끝의 밀착 정도보다 큰 경우, 전자 장치(201)는 참조번호 <430>에 도시된 바와 같이 입술 영역(415)에 손가락(416)의 끝이 더 밀착되었음을 나타내기 위해 립스틱 아이콘의 일부가 진하게 표시(431)된 인디케이터(421)로 변경하여 표시할 수 있다.
전술한 입술 영역(415)과 손가락(416)의 끝의 밀착 정도에 기반하여 인디케이터(421)를 상이하게 표시하는 구성에 대해, 후술하는 도 6에서 다양한 실시예들이 설명될 것이다.
일 실시예에서, 참조번호 <440> 및 <450>에 도시된 바와 같이 전자 장치(201)는 입술 영역(415)에 손가락(416)의 끝이 밀착된 상태에서 특정 방향(441, 451)으로의 손가락(416)의 끝의 움직임을 검출할 수 있다. 특정 방향(441, 451)으로의 손가락(416)의 끝의 움직임에 대응하여 인디케이터(421) 또한 손가락(416)의 끝에 오버레이된 상태를 유지하며, 특정 방향(441, 451)으로 이동될 수 있다. 특정 방향(441, 451)으로 손가락(416)의 끝의 움직임이 검출됨에 응답하여, 전자 장치(201)는 손가락(416)의 끝의 움직임 궤적에 따라 손가락(416)의 끝의 움직임 정보에 대응하는 시각적 효과를 입술 영역(415)에 적용하여 표시할 수 있다. 예컨대, 전자 장치(201)는 설정된 아이템 예컨대, 립스틱(425)의 속성 예컨대, 색상(426)을 손가락(416)의 끝의 움직임 궤적에 따라 입술 영역(415)의 일부에 적용하여 표시할 수 있다.
일 실시예에서, 참조번호 <460>에 도시된 바와 같이 입술 영역(415)으로부터 손가락(416)의 끝이 떨어진 상태가 검출되면(예: 입술 영역(415)의 위치 정보와 손가락(416)의 위치 정보에 기반하여, 입술 영역(415)에서 손가락(416)이 검출되지 않으면), 전자 장치(201)는 시각적 효과를 적용하는 동작이 완료된 것으로 결정하고, 손가락(416)의 끝의 움직임 궤적에 따른 시각적 효과가 적용된 입술 영역(415)을 표시할 수 있다.
다양한 실시예들에 따른 전자 장치(201)는, 가상의 화장품을 이용하여 실제 화장하는 것과 같은 효과를 사용자에게 제공할 수 있다. 사용자는 가상의 화장품을 이용하여 시각적 효과를 적용하고자 하는 영역에서 실제 화장을 할 때와 유사한 제스처를 수행함으로써 적용되는 시각적 효과를 통해 화장 결과를 미리 확인할 수 있다.
도 5는, 다양한 실시예들에 따른, 오브젝트의 움직임에 기반하여 얼굴 내 영역에 시각적 효과를 제공하는 방법을 설명하기 위한 도면(500)이다.
도 5를 참조하면, 전자 장치(예: 도 2의 전자 장치(201))는 카메라(예: 도 2의 카메라(240))를 통해 획득되는 피사체에 대한 프리뷰 이미지에서 얼굴을 인식하고, 인식된 얼굴 내 복수의 영역들(예: 도 4a 및 도 4b의 눈썹 영역(412), 눈 영역(413), 볼 영역(414), 및/또는 입술 영역(415))을 결정할 수 있다.
일 실시예에서, 전자 장치(201)는 참조번호 <510>에 도시된 바와 같이 복수의 영역들 중 입술 영역(513)(예: 도 4a 및 도 4b의 입술 영역(415))에서 오브젝트 예컨대, 사용자의 신체 일부인 손(511)을 검출할 수 있다. 손(511)의 움직임이 검출되면, 전자 장치(201)는 손(511)의 움직임에 기반하여 입술 영역(513)에 시각적 효과를 적용하여 표시할 수 있다.
다른 실시예에서, 전자 장치(201)는 참조번호 <520>에 도시된 바와 같이 복수의 영역들(예: 눈썹 영역, 눈 영역, 볼 영역, 또는 입술 영역) 중 볼 영역(525)(예: 도 4a 및 도 4b의 볼 영역(414))에서 사용자의 신체 일부인 손(511)을 검출할 수 있다. 손(511)의 움직임이 검출되면, 전자 장치(201)는 손(511)의 움직임에 기반하여 볼 영역(525)에 시각적 효과를 적용하여 표시할 수 있다.
참조번호 <510> 및 <520>에 따른 실시예에서, 손(511)의 움직임은 두드리는 모션(예: patting motion)을 포함할 수 있다. 두드리는 모션이 검출됨에 응답하여, 전자 장치(201)는 입술 영역(513) 또는 볼 영역(525)에 시각적 효과 예컨대, 색상(예: 사용자에 의해 선택된 색상 또는 디폴트로 설정된 색상)을 적용하여 표시할 수 있다. 일 실시예에서, 전자 장치(201)는 두드리는 모션의 횟수를 검출할 수 있으며, 두드리는 모션의 횟수에 기반하여 시각적 효과를 상이하게 적용하여 표시할 수 있다. 예컨대, 전자 장치(201)는 두드리는 모션의 횟수에 증가할수록 입술 영역(513) 또는 볼 영역(525)에 설정된 색상이 점점 진해지는 듯한 시각적 효과 또는 블랜딩(blending) 시각적 효과를 적용하여 표시할 수 있다.
도 6은, 다양한 실시예들에 따른, 얼굴 내 복수의 영역들 중 특정 영역과 오브젝트 간의 밀착 정도에 기반하여 특정 영역에 적용할 시각적 효과와 관련된 아이템을 나타내는 인디케이터를 상이하게 표시하는 방법을 설명하기 위한 도면(600)이다.
도 6을 참조하면, 전자 장치(예: 도 2의 전자 장치(201))는 얼굴 내 복수의 영역들 중 특정 영역과 오브젝트 간의 밀착 정도에 기반하여 특정 영역에 적용할 시각적 효과와 관련된 아이템을 나타내는 인디케이터를 상이하게 표시할 수 있다.
일 실시예에서, 전자 장치(201)는 복수의 영역들 중 오브젝트가 검출된 특정 영역과 전자 장치(201) 간 뎁스 정보 및 전자 장치(201)와 오브젝트 간 뎁스 정보에 기반하여 밀착 정도를 결정할 수 있다. 예컨대, 전자 장치(201)는 센서 모듈(예: 도 1의 센서 모듈(176)) 예컨대, 뎁스 센서(미도시)를 포함할 수 있다. 전자 장치(201)는 뎁스 센서를 이용하여 피사체에 대한 깊이 정보를 획득할 수 있다. 예컨대, 뎁스 센서를 이용하여 깊이 정보를 획득하는 방법으로 ToF(time of flight) 방식 및 구조광 방식(structured light, SL)을 포함할 수 있다. 전자 장치(201)는 뎁스 센서를 이용하여 전자 장치(201)와 얼굴 내 특정 영역 또는 오브젝트 간 거리 정보를 측정할 수 있다. 예컨대, 전자 장치(201)는 전자 장치(201)와 인식된 얼굴 내 특정 영역과의 거리와 전자 장치(201)와 특정 영역에서 검출되는 오브젝트 간 거리에 기반하여 특정 영역과 오브젝트의 밀착 정도를 결정할 수 있다.
이에 한정하는 것은 아니며, 전자 장치(201)는 오브젝트가 검출된 특정 영역에서 오브젝트가 중첩된 영역의 크기에 기반하여 밀착 정도를 결정할 수 있다. 예컨대, 전자 장치(201)는 특정 영역에서 오브젝트가 검출됨에 따라 특정 영역의 일부에 오브젝트가 중첩될 수 있으며, 중첩되는 영역의 크기가 작을수록 밀착 정도가 큰 상태로 결정할 수 있다. 예컨대, 전자 장치(201)는 카메라(240)로부터 실시간으로 획득되는 피사체에 대한 복수의 이미지들에 기반하여 중첩되는 영역의 변화를 검출할 수 있다. 전자 장치(201)는 중첩되는 영역의 변화에 기반하여 밀착 정도를 결정할 수 있다.
일 실시예에 따라 밀착 정도는 제1 밀착 정도, 제2 밀착 정도, 및 제3 밀착 정도를 포함할 수 있다. 제1 밀착 정도, 제2 밀착 정도, 제3 밀착 정도 순서로 특정 영역에 오브젝트가 더 밀착하는 것으로 가정하여 설명한다. 전술한 제1 밀착 정도 내지 제3 밀착 정도는 설명을 용이하게 하기 위한 것으로, 전술한 밀착 정도에 한정하는 것은 아니다.
예컨대, 참조번호 <610>에 도시된 바와 같이 얼굴 내 입술 영역(611)에서 검출되는 오브젝트 예컨대, 손가락(613) 끝의 밀착 정도가 제1 밀착 정도이면, 전자 장치(201)는 제1 인디케이터 예컨대, 립스틱 아이콘(615)을 표시할 수 있다. 전자 장치(201)는 손가락(613) 끝의 밀착 정도가 제1 밀착 정도로 결정되면, 입술 영역(611)으로부터 손가락(613) 끝이 적어도 일정 거리 떨어진 상태로 인식할 수 있다. 입술 영역(611)으로부터 손가락(613) 끝이 적어도 일정 거리 떨어짐에 따라, 전자 장치(201)는 입술 영역(611)에 시각적 효과를 적용하지 못하는 상태로 인식할 수 있으며, 이에 따라 손가락(613)의 움직임이 검출되어도 입술 영역(611)에 시각적 효과를 적용하지 않을 수 있다.
다른 예를 들어, 참조번호 <620>에 도시된 바와 같이 입술 영역(611)에 오브젝트 예컨대, 손가락(613) 끝의 밀착 정도가 제2밀착 정도이면, 전자 장치(201)는 제1 인디케이터 예컨대, 립스틱 아이콘(615)과 상이한 제2 인디케이터 예컨대, 립스틱 아이콘의 적어도 일부를 진하게 표시(621)할 수 있다.
또 다른 예를 들어, 참조번호 <630>에 도시된 바와 같이 입술 영역(611)에 오브젝트 예컨대, 손가락(613) 끝의 밀착 정도가 제3 밀착 정도이면, 전자 장치(201)는 립스틱 아이콘의 영역을 진하게 표시(631)하여 제3 인디케이터로서 표시할 수 있다.
일 실시예에 따른 밀착 정도가 제2 밀착 정도 또는 제3 밀착 정도로 결정되면, 전자 장치(201)는 입술 영역(611)에 시각적 효과를 적용할 수 있는 상태로 인식할 수 있다. 입술 영역(611)에서의 손가락(613) 끝의 밀착 정도가 제2 밀착 정도 또는 제3 밀착 정도로 결정된 상태에서 손가락(613)의 움직임이 검출되는 경우, 전자 장치(201)는 입술 영역(611)에 손가락(613)의 궤적에 따른 시각적 효과를 적용할 수 있다.
일 실시예에서, 전자 장치(201)는 제2 밀착 정도 및 제3 밀착 정보에 따라 입술 영역(611)에 상이한 시각적 효과를 적용할 수 있다. 예컨대 입술 영역(611)에 손가락(613)의 끝의 밀착 정도가 제2 밀착 정도인 경우보다 제3 밀착 정도가 크므로, 입술 영역(611)에 손가락(613)의 움직임 궤적에 따른 시각적 효과를 더 진하게 표시할 수 있다.
도 6의 실시예에 따른 밀착 정도(예: 제1 밀착 정도, 제2 밀착 정도, 또는 제3 밀착 정도)에 기반하여 상이한 인디케이터(615, 621, 631)를 제공함으로써, 사용자는 해당 영역에 시각적 효과를 적용할 수 있는 상태인지 여부, 해당 영역에 적용될 시각적 효과의 강도(예: 진한 정도)를 직관적으로 확인할 수 있다.
도 7은, 다양한 실시예들에 따른, 오브젝트의 움직임 정보에 기반하여 얼굴 내 특정 영역에 상이한 시각적 효과를 제공하는 방법을 설명하기 위한 도면(700)이다.
도 7을 참조하면, 전자 장치(예: 도 2의 전자 장치(201))는 도 4b의 참조번호 <460> 및 도 5에서 살펴본 바와 같이 특정 영역에서 검출되는 오브젝트(예: 사용자의 신체 일부(예: 손가락 또는 손) 또는 전자 펜)의 움직임에 응답하여, 오브젝트의 움직임 정보에 대응하는 시각적 효과를 특정 영역에 적용하여 표시할 수 있다. 예컨대, 오브젝트의 움직임 정보는 두드리는 모션(patting motion), 문지르는 모션(smudge motion), 움직임 방향, 움직임 거리 정보, 및/또는 움직임 횟수를 포함할 수 있다.
일 실시예에서, 전자 장치(201)는 오브젝트의 움직임 정보에 기반하여 상이한 시각적 효과를 해당 영역에 적용하여 표시할 수 있다. 예컨대, 참조번호 <710>에 도시된 바와 같이 오브젝트를 이용하여 얼굴 내 특정 영역을 두드리는 모션(patting motion)이 1회 검출되면, 전자 장치(201)는 제1 시각적 효과(711)를 특정 영역에 적용하여 표시할 수 있다. 다른 예를 들어, 오브젝트를 이용하여 얼굴 내 특정 영역을 두드리는 모션(patting motion)이 2회 검출되면, 전자 장치(201)는 제2 시각적 효과(713)를 특정 영역에 적용하여 표시할 수 있다. 또 다른 예를 들어, 오브젝트를 이용하여 얼굴 내 특정 영역을 두드리는 모션(patting motion)이 3회 검출되면, 전자 장치(201)는 제3 시각적 효과(715)를 특정 영역에 적용하여 표시할 수 있다. 예컨대, 전자 장치(201)는 두드리는 모션(patting motion)의 횟수가 증가할수록 더 진한 시각적 효과를 특정 영역에 적용하여 표시할 수 있다.
다른 실시예에서, 전자 장치(201)는 참조번호 <720>에 도시된 바와 오브젝트를 이용하여 얼굴 내 특정 영역을 두드리는 모션(patting motion)의 반복 횟수에 따라 상이한 칼라 레이어링(예: 제1 칼라 레이어링(721), 제2 칼라 레이어링(723), 제3 칼라 레이어링(725))을 특정 영역에 적용하여 표시할 수 있다.
또 다른 실시예에서, 참조번호 <730>에 도시된 바와 같이 특정 영역에 예컨대, 제3 칼라 레이어링(725)이 적용된 상태에서, 오브젝트 예컨대, 손가락(733)의 움직임 예컨대, 문지르는 모션(smudge motion)(735)이 검출되면, 전자 장치(201)는 제1 블랜딩 시각적 효과(737)를 특정 영역에 적용하여 표시할 수 있다. 다른 예를 들어, 특정 영역에서 손가락(733)의 움직임 예컨대, 문지르는 모션(smudge motion)(739)이 반복 횟수 검출되면, 전자 장치(201)는 제2 블랜딩 시각적 효과(741)를 특정 영역에 적용하여 표시할 수 있다. 전자 장치(201) 문지르는 모션(smudge motion)이 검출되는 횟수가 증가할수록 더 진한 블랜딩 시각적 효과 또는 해당 영역에서 색상이 얇게 번지는 듯한 시각적 효과를 특정 영역에 적용하여 표시할 수 있다.
도 8은, 다양한 실시예들에 따른, 오브젝트의 움직임에 기반하여 얼굴 내 영역에 시각적 효과를 제공하는 방법을 설명하기 위한 도면(800)이다.
전술한 도 4a 내지 도 6에서, 오브젝트를 사용자의 손가락(예: 도 4a 및 도 4b의 손가락(416), 도 6의 손가락(613)) 또는 손(예: 도 5의 손(511))으로 설명하였지만, 이에 한정하는 것은 아니다. 예컨대, 오브젝트는 전자 펜(820)을 포함할 수 있다.
도 8을 참조하면, 전자 장치(예: 도 2의 전자 장치(201))는 카메라(예: 도 2의 카메라(240))를 통해 획득되는 피사체에 대한 프리뷰 이미지 내에서 복수의 영역들(예: 눈썹 영역, 눈 영역, 볼 영역, 및 입술 영역)을 결정할 수 있다. 전자 장치(201)는 오브젝트 예컨대, 전자 펜(820)의 끝의 위치 정보를 검출할 수 있다. 전자 장치(201)는 검출된 전자 펜(820)의 끝의 위치 정보에 기반하여, 복수의 영역들 중 전자 펜(820)이 위치하는 영역을 확인할 수 있다. 일 실시예에 따른 도 8에서 전자 펜(820)의 끝이 위치하는 영역은 입술 영역(810)으로 가정하여 설명하도록 한다. 복수의 영역들 각각의 위치 정보 및 검출된 전자 펜(820)의 끝의 위치 정보에 기반하여, 얼굴 내 복수의 영역들 중 전자 펜(820)의 끝이 위치하는 영역이 입술 영역(820)으로 결정되면, 전자 장치(201)는 입술 영역(820)에 적용할 시각적 효과와 관련된 아이템을 나타내는 인디케이터(예: 립스틱 아이콘)(830)를 표시할 수 있다. 인디케이터(830)는 입술 영역(820)에서 검출된 전자 펜(820)의 끝에 오버레이되어 표시될 수 있다.
일 실시예에서, 전자 펜(820)의 움직임에 응답하여, 전자 장치(201)는 전자 펜(820)의 움직임 궤적에 따라 전자 펜(820)의 움직임 정보에 대응하는 제1 시각적 효과를 입술 영역(820)에 적용하여 표시할 수 있다.
일 실시예에서, 전자 펜(820)은 펜 하우징(미도시)의 적어도 일부 영역에 배치되는 버튼(미도시)을 포함할 수 있다. 전자 장치(201)는 전자 펜(820)으로부터 전자 펜에 구비된 버튼(미도시)에서의 입력을 수신할 수 있다. 전자 장치(201)는 수신된 버튼(미도시)에서의 입력에 기반하여 버튼(미도시)에서의 입력이 수신되지 않았을 경우의 제1 시각적 효과와 상이한 제2 시각적 효과를 입술 영역(820)에 적용하여 표시할 수 있다. 예컨대, 제2 시각적 효과는 제1 시각적 효과보다 속성 예컨대, 색상이 더 진한 시각적 효과를 포함할 수 있다.
도 9는, 다양한 실시예들에 따른, 얼굴 내 특정 영역의 변화에 기반하여 시각적 효과를 제공하는 방법을 설명하기 위한 흐름도(900)이다.
일 실시예에 따른, 도 9의 910동작 내지 930동작은 전술한 도 3의 310동작 내지 330동작과 동일하므로, 그에 대한 상세한 설명은 도 3과 관련된 설명으로 대신할 수 있다.
도 9를 참조하면, 전자 장치(예: 도 2의 전자 장치(201))는 910동작에서, 카메라(예: 도 2의 카메라(240))로부터 획득되는 프리뷰 이미지에서 얼굴을 인식할 수 있으며, 920동작에서, 인식된 얼굴 내 복수의 영역들을 결정할 수 있다. 예컨대, 복수의 영역들은 눈 영역, 입술 영역, 볼 영역, 및/또는 눈썹 영역을 포함할 수 있다. 전자 장치(201)는 930동작에서, 인식된 얼굴 내에서 오브젝트(예: 사용자의 신체 일부 또는 전자 펜)가 검출됨에 응답하여, 복수의 영역들 중 오브젝트가 위치하는 제1 영역을 확인할 수 있다.
일 실시예에서, 전자 장치(201)는 940동작에서, 오브젝트의 움직임이 검출됨에 응답하여, 오브젝트의 움직임 궤적에 따라 오브젝트의 움직임 정보에 대응하는 제1 시각적 효과를 제1 영역의 일부에 적용하여 표시할 수 있다. 전자 장치(201)는 950동작에서, 제1 영역의 변화가 검출됨에 응답하여 제1 시각적 효과를 제1 영역의 다른 일부에 적용하여 표시할 수 있다. 예컨대, 전자 장치(201)는 카메라(240)로부터 획득되는 피사체에 대한 복수의 이미지들에 기반하여, 인식된 얼굴 내 적어도 하나의 영역에서의 변화(예: 눈 움직임, 입 움직임)를 검출할 수 있다.
일 실시예에 따라, 제1 영역을 입술 영역으로 가정하고, 입술 영역 중 아랫 입술 영역에서 검출되는 오브젝트의 움직임에 기반하여 아랫 입술 영역에 제1 시각적 효과를 적용한 상태로 가정하여 설명하도록 한다. 입술 영역의 변화 예컨대, 입을 다문 상태에서 윗 입술 영역과 아랫 입술 영역이 마주한 상태로 변화되고, 다시 입을 다문 상태로의 변화가 검출되면, 이에 응답하여 전자 장치(201)는 입술 영역의 다른 일부 예컨대, 윗 입술 영역에 제1 시각적 효과를 적용하여 표시할 수 있다.
전술한 입술 영역의 변화에 기반하여, 시각적 효과를 적용하여 표시하는 실시예와 관련하여, 후술하는 도 10에서 상세히 설명될 것이다.
다른 예를 들어, 제1 영역을 눈 영역으로 가정하고, 눈 영역에서 검출되는 오브젝트의 움직임에 기반하여 눈 영역의 일부에 제1 시각적 효과를 적용한 상태로 가정하여 설명하도록 한다. 전자 장치(201)는 제1 영역의 변화 예컨대, 눈을 깜빡이는 변화가 검출되면, 눈 영역의 다른 일부에 제1 시각적 효과를 적용하여 표시할 수 있다.
도 10은, 다양한 실시예들에 따른, 얼굴 내 특정 영역의 변화에 기반하여 시각적 효과를 제공하는 방법을 설명하기 위한 도면(1000)이다.
도 10을 참조하면, 입술 영역(1011)을 구성하는 윗 입술 영역(1011a) 및 아랫 입술 영역(1011b) 중 일부 영역 예컨대, 아랫 입술 영역(1011b)에서 검출되는 오브젝트 예컨대, 손의 움직임이 검출됨에 응답하여, 전자 장치(예: 도 2의 전자 장치(201))는 참조번호 <1010>에 도시된 바와 같이 손의 움직임 정보에 대응하는 시각적 효과를 아랫 입술 영역(1011b)에 적용하여 표시할 수 있다.
일 실시예에서, 전자 장치(201)는 입술 영역(1011)의 변화(1021) 예컨대, 입을 다문 상태(예: 참조번호 <1010>)에서 입술 영역(1011)을 구성하는 윗 입술 영역(1011a)과 아랫 입술 영역(1011b)이 마주한 상태(예: 참조번호 <1020>)로 변화되고, 다시 입을 다문 상태(예: 참조번호 <1030>)로의 변화를 검출할 수 있다. 입술 영역(1011)의 변화(1021)가 검출됨에 응답하여, 전자 장치(201)는 참조번호 <1030>에 도시된 바와 같이 입술 영역(1011)의 다른 영역 예컨대, 윗 입술 영역(1011a)에 아랫 입술 영역(1011b)과 동일한 시각적 효과를 적용하여 표시할 수 있다.
일 실시예에서, 입술 영역(1011)의 변화가 반복 검출되면, 전자 장치(201)는 입술 영역(1011)에 시각적 효과의 강도(예: 진하게)를 조절하고, 조절된 시각적 효과의 강도를 적용하여 표시할 수 있다. 이에 한정하는 것은 아니며, 영역(1011)의 변화가 반복 검출되면, 전자 장치(201)는 입술 영역(1011)에 색상을 더 얇고 일정하게 입술 영역(1011) 전체에 퍼지는 듯한 시각적 효과를 적용하여 표시할 수 있다.
도 11은, 다양한 실시예들에 따른, 오브젝트의 지정된 제스처가 검출됨에 응답하여 얼굴 내 특정 영역에 상이한 시각적 효과를 제공하는 방법을 설명하기 위한 흐름도(1100)이다.
일 실시예에 따른, 도 11의 1110동작 내지 1140동작은 전술한 도 3의 310동작 내지 340동작과 동일하므로, 그에 대한 상세한 설명은 도 3과 관련된 설명으로 대신할 수 있다.
도 11을 참조하면, 전자 장치(예: 도 2의 전자 장치(201))는 1110동작에서, 카메라(예: 도 2의 카메라(240))로부터 획득되는 프리뷰 이미지에서 얼굴을 인식할 수 있으며, 1120동작에서, 인식된 얼굴 내 복수의 영역들을 결정할 수 있다. 예컨대, 복수의 영역들은 눈썹 영역, 눈 영역, 볼 영역, 및/또는 입술 영역을 포함할 수 있다.
일 실시예에서, 전자 장치(201)는 1130동작에서, 인식된 얼굴 내에서 오브젝트(예: 사용자의 신체 일부 또는 전자 펜)가 검출됨에 응답하여, 복수의 영역들 중 오브젝트가 위치하는 제1 영역을 확인할 수 있다. 전자 장치(201)는 1140동작에서, 오브젝트의 움직임이 검출됨에 응답하여, 오브젝트의 움직임 궤적에 따라 오브젝트의 움직임 정보에 대응하는 제1 시각적 효과를 제1 영역에 적용하여 표시할 수 있다.
일 실시예에서, 전자 장치(201)는 1150동작에서, 오브젝트의 지정된 제스처가 검출됨에 응답하여 제1 영역에 제1 시각적 효과와 상이한 제2 시각적 효과로 전환하여 표시할 수 있다. 오브젝트의 지정된 제스처는 스와이프 제스처를 포함할 수 있다. 하지만 이에 한정하는 것은 아니다.
일 실시예에서, 전자 장치(201)는 센서부(예: 도 1의 센서 모듈(176))(예: 뎁스 센서, 이미지 센서, 근접 센서, 조도 센서, 또는 IR 센서)를 통해 오브젝트의 지정된 제스처 예컨대, 스와이프 제스처를 검출할 수 있다. 예컨대, 오브젝트를 손으로 가정하면, 전자 장치(201)는 센서부를 통해 손의 제스처(예: 손 모양, 손의 움직임, 손의 움직임 방향)를 검출할 수 있다. 전자 장치(201)는 검출된 손의 제스처에 매핑된 기능 예컨대, 제1 영역에 적용된 시각적 효과가 변경되는 기능을 수행할 수 있다.
도 12는, 다양한 실시예들에 따른, 오브젝트의 지정된 제스처가 검출됨에 응답하여 얼굴 내 특정 영역에 상이한 시각적 효과를 제공하는 방법을 설명하기 위한 도면(1200)이다.
도 12를 참조하면, 도 4b의 참조번호 <460> 및 도 5에서 살펴본 바와 같이 특정 영역에서 검출되는 오브젝트의 움직임에 응답하여, 전자 장치(예: 도 2의 전자 장치(201))는 참조번호 <1210>에 도시된 바와 같이 오브젝트의 움직임 정보에 대응하는 제1 시각적 효과를 입술 영역에 적용하여 표시(1211)할 수 있다. 예컨대, 제1 시각적 효과는 립스틱(1212)의 제1 색상(1213)을 포함할 수 있다.
일 실시예에서, 입술 영역으로부터 오브젝트(1213)가 떨어진 상태가 검출되면, 전자 장치(201)는 입술 영역에 시각적 효과 적용이 완료된 것으로 결정할 수 있다. 입술 영역으로부터 오브젝트가 떨어진 상태가 검출된 후, 전자 장치(201)는 카메라(예: 도 2의 카메라(240))(또는, 센서부(예: 도 1의 센서 모듈(176)))를 통해 오브젝트의 지정된 제스처를 검출되는지 여부를 결정할 수 있다. 오브젝트의 지정된 제스처가 검출되는지 여부를 결정하는 동작은, 입술 영역에 다른 시각적 효과를 적용하기 위한 동작일 수 있다. 예컨대, 지정된 제스처는 제1 방향에서 제2 방향으로의 스와이프 제스처(1215, 1223)를 포함할 수 있다.
일 실시예에서, 전자 장치(201)는 참조번호 <1220>에 도시된 바와 같이 오브젝트 예컨대, 손(1214)의 지정된 제스처 예컨대, 스와이프 제스처(1215)가 검출됨에 응답하여, 제1 시각적 효과(예: 립스틱(1212)의 제1 색상(1213))와 상이한 제2 시각적 효과를 입술 영역에 적용하여 표시(1221)할 수 있다. 예컨대, 제2 시각적 효과는 립스틱(1212)의 제2 색상(1222)을 포함할 수 있다.
일 실시예에서, 제2 시각적 효과(예: 립스틱(1212)의 제2 색상(1222))가 적용된 입술 영역(1221)이 표시된 상태에서 손(1214)의 스와이프 제스처(1223)가 검출되면, 전자 장치(201)는 참조번호 <1230>에 도시된 바와 같이 제1 시각적 효과(예: 립스틱(1212)의 제1 색상(1213)) 및 제2 시각적 효과(예: 립스틱(1212)의 제2 색상(1222))와 상이한 제3 시각적 효과를 입술 영역에 적용하여 표시(1231)할 수 있다. 예컨대, 제3 시각적 효과는 립스틱(1212)의 제3 색상(1232)을 포함할 수 있다.
일 실시예에 따른 도 12에서 오브젝트 예컨대, 손(1214)의 지정된 스와이프 제스처(1215, 1223)를 통해 입술 영역에 상이한 시각적 효과(1211, 1221, 1231)가 적용되도록 하는 것으로 설명하였지만, 이에 한정하는 것은 아니다. 예컨대, 미도시 되었으나, 오브젝트가 전자 펜(예: 도 8의 전자 펜(820))인 경우, 전자 펜(820)에 구비된 버튼(미도시)에서의 입력이 전자 펜(820)으로부터 수신되면, 전자 장치(201)는 수신되는 젠자 펜(820)의 버튼에서의 입력 횟수에 기반하여 상이한 시각적 효과(예: 참조번호 <1210>, <1220>, 및 <1230>에 따른 제1 시각적 효과, 제2 시각적 효과, 및 제3 시각적 효과)가 입술 영역에 적용되도록 제어할 수 있다.
다양한 실시예들에 따라 오브젝트의 지정된 제스처 예컨대, 손(1214)의 지정된 제스처 또는 전자 펜(820)에 구비된 버튼에서의 입력에 기반하여 상이한 시각적 효과를 특정 영역을 표시함으로써, 특정 영역에 상이한 시각적 효과를 용이하고 빠르게 적용할 수 있다.
도 13은, 다양한 실시예들에 따른, 오브젝트의 타입에 기반하여 얼굴 내 특정 영역에 상이한 시각적 효과를 제공하는 방법을 설명하기 위한 흐름도(1300)이다.
일 실시예에 따른, 도 13의 1310동작 내지 1330동작은 전술한 도 3의 310동작 내지 330동작과 동일하므로, 그에 대한 상세한 설명은 도 3과 관련된 설명으로 대신할 수 있다.
도 13을 참조하면, 전자 장치(예: 도 2의 전자 장치(201))는 1310동작에서, 카메라(예: 도 2의 카메라(240))로부터 획득되는 프리뷰 이미지에서 얼굴을 인식할 수 있으며, 1320동작에서, 인식된 얼굴 내 복수의 영역들을 결정할 수 있다. 예컨대, 복수의 영역들은 눈 영역, 입술 영역, 볼 영역, 및/또는 눈썹 영역을 포함할 수 있다. 전자 장치(201)는 1330동작에서, 인식된 얼굴 내에서 오브젝트(예: 사용자의 신체 일부(예: 손) 또는 전자 펜)가 검출됨에 응답하여, 복수의 영역들 중 오브젝트가 위치하는 제1 영역을 확인할 수 있다.
일 실시예에서, 전자 장치(201)는 1340동작에서, 오브젝트의 타입을 확인할 수 있다. 예컨대, 오브젝트가 손인 경우, 오브젝트의 타입은 손가락 예컨대, 엄지, 검지, 중지, 약지, 소지, 또는 손가락 개수를 포함할 수 있다. 다른 예를 들어, 오브젝트가 전자 펜인 경우, 오브젝트의 타입은 전자 펜에 구비된 버튼에서 입력이 감지되는지 여부에 대한 상태를 포함할 수 있다.
일 실시예에서, 전자 장치(201)는 1350동작에서, 오브젝트의 움직임이 검출됨에 응답하여 오브젝트의 움직임 궤적에 따라 오브젝트의 타입 및 움직임 정보에 대응하는 제1 시각적 효과를 제1 영역에 적용하여 표시할 수 있다.
일 실시예에서, 전자 장치(201)는 1360동작에서, 오브젝트의 타입이 변경됨을 검출할 수 있다.
예컨대, 1340동작 및 1350동작에서, 오브젝트의 타입이 검지 손가락으로 결정된 상태에서 검지 손가락의 움직임 궤적에 따라 제1 영역에 제1 시각적 효과가 적용된 후, 1360동작에서, 제1 영역에서 검출되는 오브젝트의 타입이 검지, 중지, 약지, 또는 소지로 변경되는 경우, 전자 장치(201)는 오브젝트의 타입이 변경된 것으로 결정할 수 있다.
또 다른 예를 들어, 1340동작 및 1350동작에서 오브젝트의 타입이 전자 펜의 버튼에서 입력이 수신되지 않은 상태(또는 버튼에서 입력이 수신된 상태)로 결정된 상태에서 전자 펜의 움직임 궤적에 따라 제1 영역에 제1 시각적 효과가 적용된 후, 1360동작에서 전자 펜의 버튼에서 입력이 수신되는 경우(또는 버튼에서 입력이 수신되지 않은 경우), 전자 장치(201)는 오브젝트의 타입이 변경된 것으로 결정할 수 있다
일 실시예에서, 오브젝트의 타입이 변경됨이 검출되면, 전자 장치(201)는 1370동작에서, 오브젝트의 움직임 궤적에 따라 변경된 오브젝트의 타입 및 움직임 정보에 기반하여 제1 영역에 제1 시각적 효과와 상이한 제2 시각적 효과로 전환하여 표시할 수 있다.
도 14는, 다양한 실시예들에 따른, 오브젝트의 타입에 기반하여 얼굴 내 특정 영역에 상이한 시각적 효과를 제공하는 방법을 설명하기 위한 도면(1400)이다.
도 14를 참조하면, 전자 장치(예: 도 2의 전자 장치(201))는 입술 영역(1413)에서 검출되는 오브젝트의 타입을 확인할 수 있다. 예컨대, 일 실시예에 따른 도 14에서 오브젝트의 타입은 검지 손가락(1411)으로 가정하여 설명한다. 전자 장치(201)는 참조번호 <1410>에 도시된 바와 같이 입술 영역(1413)의 아랫 입술 영역에서 검지 손가락(1411)의 움직임(1417)이 검출됨에 응답하여, 검지 손가락(1411) 및 검지 손가락(1411)이 제1 방향으로의 움직임(1417)에 대응하는 제1 시각적 효과를 입술 영역(1413)의 아랫 입술 영역에 적용하여 표시할 수 있다.
일 실시예에서, 전자 장치(201)는 오브젝트의 타입이 변경됨을 검출할 수 있다. 예컨대, 오브젝트의 타입이 검지 손가락(1411)에서 약지 손가락(1421)으로 변경된 것으로 가정하여 설명한다. 전자 장치(201)는 참조번호 <1420>에 도시된 바와 같이 입술 영역(1413)의 아랫 입술 영역에서 약지 손가락(1421)의 움직임(1423)이 검출됨에 응답하여, 약지 손가락(1421) 및 약지 손가락(1421)이 제1 방향의 움직임(1417)과 상이한 제2 방향으로의 움직임(1423)에 대응하는 제2 시각적 효과를 입술 영역(1413)의 아랫 입술 영역에 적용하여 표시할 수 있다. 예컨대, 제2 방향으로의 움직임(1423)에 대응하는 제2 시각적 효과는 검지 손가락(1411)의 제1 방향으로의 움직임(1417)에 의해 적용된 제1 시각적 효과를 삭제하는 시각적 효과를 포함할 수 있다.
일 실시예에 따른 도 14에서 손가락의 타입에 기반하여 입술 영역(1413)에 상이한 시각적 효과가 적용되도록 하는 것으로 설명하였지만, 이에 한정하는 것은 아니다. 예컨대, 미도시 되었으나, 오브젝트가 전자 펜(예: 도 8의 전자 펜(820))인 경우, 전자 펜(820)에 구비된 버튼에서의 입력이 수신된 상태에서 제1 방향으로의 움직임(1417)이 검출되면, 전자 장치(201)는 입술 영역(1413)에 제1 시각적 효과를 적용할 수 있다. 다른 예를 들어, 전자 펜(820)에 구비된 버튼에서의 입력이 수신되지 않은 상태에서 제2 방향으로의 움직임(1423)이 검출되면, 전자 장치(201)는 입술 영역(1413)에 제2 시각적 효과를 적용할 수 있다.
도 15는, 다양한 실시예들에 따른, 오브젝트의 이동에 따라 적어도 하나의 추천 아이템을 표시하는 방법을 설명하기 위한 흐름도(1500)이다.
일 실시예에 따른, 도 15의 1510동작 내지 1540동작은 전술한 도 3의 310동작 내지 340동작과 동일하므로, 그에 대한 상세한 설명은 도 3과 관련된 설명으로 대신할 수 있다.
도 15를 참조하면, 전자 장치(예: 도 2의 전자 장치(201))는 1510동작에서, 카메라(예: 도 2의 카메라(240))로부터 획득되는 프리뷰 이미지에서 얼굴을 인식할 수 있으며, 1520동작에서, 인식된 얼굴 내 복수의 영역들을 결정할 수 있다. 예컨대, 복수의 영역들은 눈 영역, 입술 영역, 볼 영역, 및/또는 눈썹 영역을 포함할 수 있다.
일 실시예에서, 전자 장치(201)는 1530동작에서, 인식된 얼굴 내에서 오브젝트(예: 사용자의 신체 일부 또는 전자 펜)가 검출됨에 응답하여, 복수의 영역들 중 오브젝트가 위치하는 제1 영역을 확인할 수 있다. 전자 장치(201)는 1540동작에서, 오브젝트의 움직임이 검출됨에 응답하여, 오브젝트의 움직임 궤적에 따라 오브젝트의 움직임 정보에 대응하는 제1 시각적 효과를 제1 영역에 적용하여 표시할 수 있다.
일 실시예에서, 전자 장치(201)는 1550동작에서, 오브젝트가 제1 영역에서 제2 영역으로의 이동이 검출됨에 응답하여 제1 영역에 대응하는 적어도 하나의 추천 아이템 및 제2 영역에 대응하는 적어도 하나의 추천 아이템을 표시할 수 있다.
도 16은, 다양한 실시예들에 따른, 오브젝트의 이동에 따라 적어도 하나의 추천 아이템을 표시하는 방법을 설명하기 위한 도면(1600)이다.
도 16을 참조하면, 참조번호 <1610>에 도시된 바와 같이 전자 장치(예: 도 2의 전자 장치(201))는 오브젝트 예컨대, 손가락(1613)이 입술 영역(1611)에서 검출되면, 입술 영역(1611)에 적용할 시각적 효과와 관련된 아이템을 나타내는 인디케이터(예: 립스틱 아이콘)(1615)를 검출된 손가락(1613)의 끝에 오버레이 하여 표시할 수 있다. 전자 장치(201)는 손가락(1613)이 입술 영역(1611)에서 검출되면, 입술 영역(1611)과 관련된 적어도 하나의 추천 아이템(1616)을 표시할 수 있다.
일 실시예에서, 참조번호 <1620>에 도시된 바와 같이 손가락(1613)이 입술 영역(1611)에서 볼 영역(1621)으로의 이동이 검출되면, 전자 장치(201)는 볼 영역(1621)에 적용할 시각적 효과와 관련된 아이템을 나타내는 인디케이터(예: 브러쉬 아이콘)(1623)로 변경하여 표시할 수 있다. 손가락(1613)이 입술 영역(1611)에서 볼 영역(1621)으로의 이동에 응답하여, 전자 장치(201)는 입술 영역(1611)과 관련된 적어도 하나의 추천 아이템(1616) 및 볼 영역(1621)과 관련된 적어도 하나의 추천 아이템(1621)을 표시할 수 있다.
일 실시예에서, <1630>에 도시된 바와 같이 전자 장치(201)는 손가락(1613)의 움직임이 검출됨에 응답하여, 손가락(1613)의 움직임 정보에 대응하는 시각적 효과를 볼 영역(1621)에 적용(1631)하여 표시할 수 있다.
다양한 실시예들에 따른 전자 장치(201)는 별도의 입력 없이도 얼굴 내에서 오브젝트의 이동에 따라 적절한 아이템을 추천해줄 수 있다. 이에 따라, 사용자는 이동된 영역에 적용 가능한 추천 아이템뿐만 아니라 추천 아이템을 이용하여 이동된 영역에서의 제스처를 통해 시각적 효과를 용이하게 확인할 수 있다.
도 17은, 다양한 실시예들에 따른, 인식된 얼굴의 적어도 일부 영역에 오브젝트가 중첩되는 경우, 시각적 효과를 제공하는 방법을 설명하기 위한 흐름도(1700)이다.
일 실시예에 따른, 도 17의 1710동작 내지 1740동작은 전술한 도 3의 310동작 내지 340동작과 동일하므로, 그에 대한 상세한 설명은 도 3과 관련된 설명으로 대신할 수 있다.
도 17을 참조하면, 전자 장치(예: 도 2의 전자 장치(201))는 1710동작에서, 카메라(예: 도 2의 카메라(240))로부터 획득되는 프리뷰 이미지에서 얼굴을 인식할 수 있으며, 1720동작에서, 인식된 얼굴 내 복수의 영역들을 결정할 수 있다. 예컨대, 복수의 영역들은 눈 영역, 입술 영역, 볼 영역, 및/또는 눈썹 영역을 포함할 수 있다.
일 실시예에서, 전자 장치(201)는 1730동작에서, 인식된 얼굴 내에서 오브젝트(예: 사용자의 신체 일부(예: 손) 또는 전자 펜)가 검출됨에 응답하여, 복수의 영역들 중 오브젝트가 위치하는 제1 영역을 확인할 수 있다. 전자 장치(201)는 1740동작에서, 오브젝트의 움직임이 검출됨에 응답하여, 오브젝트의 움직임 궤적에 따라 오브젝트의 움직임 정보에 대응하는 제1 시각적 효과를 제1 영역에 적용하여 표시할 수 있다.
일 실시예에서, 전자 장치(201)는 1750동작에서, 인식된 얼굴의 적어도 일부 영역에 오브젝트가 중첩됨을 검출할 수 있다. 전자 장치(201)는 1760동작에서, 검출된 오브젝트의 중첩에 기반하여 제1 시각적 효과가 적용되기 전의 제1 이미지 또는 제1 시각적 효과가 적용된 제2 이미지 중 적어도 하나를 표시할 수 있다. 예컨대, 전자 장치(201)는 오브젝트가 얼굴의 적어도 일부 영역이 중첩되는 상태가 지정된 시간 동안 유지된 후, 오브젝트의 중첩이 해제됨이 검출되면, 제1 시각적 효과가 적용되기 전의 제1 이미지 또는 제1 시각적 효과가 적용된 제2 이미지 중 적어도 하나를 표시할 수 있다.
도 18a 및 도 18b는, 다양한 실시예들에 따른, 인식된 얼굴의 적어도 일부 영역에 오브젝트가 중첩되는 경우, 시각적 효과를 제공하는 방법을 설명하기 위한 도면(1800)이다.
도 18a 및 도 18b를 참조하면, 전자 장치(예: 도 2의 전자 장치(201))는 전술한 실시예들에 따라 참조번호 <1810> 및 <1840>에 도시된 바와 같이 얼굴 내 적어도 하나 영역에서 검출되는 오브젝트의 움직임에 기반하여 적어도 하나의 영역에 시각적 효과를 적용하여 표시할 수 있다.
일 실시예에서, 전자 장치(201)는 인식된 얼굴의 적어도 일부 영역에 오브젝트 예컨대, 손(1821)이 중첩됨을 검출할 수 있다. 예컨대, 참조번호 <1820>에 도시된 바와 같이 카메라(예: 도 2의 카메라(240))를 통해 실시간으로 획득되는 복수의 이미지들을 통해 얼굴의 지정된 크기를 초과하는 영역에 손(1821)이 중첩되거나, 또는 참조번호 <1850>에 도시된 바와 같이 얼굴의 지정된 크기 이하의 영역에 손(1821)이 중첩됨을 검출할 수 있다.
일 실시예에서, 참조번호 <1820>에 도시된 바와 같이 인식된 얼굴의 적어도 일부 영역에 손(1821)이 중첩 예컨대, 얼굴의 지정된 크기를 초과하는 영역에 손(1821)이 중첩됨을 검출할 수 있다. 오브젝트(1821)가 얼굴의 지정된 크기를 초과하는 영역에 중첩되는 상태가 지정된 시간 동안 유지된 후, 중첩 상태가 해제됨이 검출되면, 전자 장치(201)는 참조번호 <1830>에 도시된 바와 같이 얼굴의 적어도 하나의 영역에 시각적 효과가 적용되기 전의 이미지 예컨대, 프리뷰 이미지를 표시할 수 있다.
다른 실시예에서, 참조번호 <1850>에 도시된 바와 같이 인식된 얼굴의 적어도 일부 영역에 중첩 예컨대, 손(1821)이 얼굴의 지정된 크기 이하의 영역과 중첩됨을 검출할 수 있다. 오브젝트(1821)가 얼굴의 지정된 크기 이하의 영역과 중첩되는 상태가 지정된 시간 동안 유지된 후, 중첩 상태가 해제됨이 검출되면, 전자 장치(201)는 참조번호 <1860>에 도시된 바와 같이 손(1821)이 중첩된 얼굴의 일부 영역은 시각적 효과가 적용되기 전 이미지가 표시되도록 제어하고, 손(1821)이 중첩되지 않은 얼굴의 다른 일부 영역은 시각적 효과가 적용된 이미지가 표시되도록 제어할 수 있다.
다양한 실시예들에 따른 전자 장치(201)는 오브젝트 예컨대, 손(1821)에 의한 얼굴과 중첩되는 영역 예컨대, 얼굴 영역의 반 또는 전체를 가리는 제스처를 통해 시각적 효과가 적용되기 전의 이미지와 시각적 효과가 적용된 이미지를 표시할 수 있다. 시각적 효과가 적용되기 전의 이미지 및/또는 시각적 효과가 적용된 이미지를 표시함에 따라, 사용자는 시각적 효과가 적용되기 전/후의 얼굴을 용이하게 비교할 수 있다.
다양한 실시예들에 따른 전자 장치(201)의 시각적 효과를 제공하는 방법은, 카메라(240)로부터 획득되는 프리뷰 이미지에서 인식된 얼굴 내 복수의 영역들을 결정하는 동작, 상기 인식된 얼굴 내에서 오브젝트가 검출됨에 응답하여, 상기 복수의 영역들 중 상기 오브젝트가 위치하는 제1 영역을 확인하는 동작, 및 상기 오브젝트의 움직임이 검출됨에 응답하여, 상기 오브젝트의 움직임 궤적에 따라 상기 오브젝트의 움직임 정보에 대응하는 제1 시각적 효과를 상기 제1 영역에 적용하여 표시하는 동작을 포함할 수 있다.
다양한 실시예들에 따르면, 상기 오브젝트의 움직임 정보는, 두드리는 모션(patting motion), 문지르는 모션(smudge motion), 움직임 방향, 움직임 거리 정보, 또는 움직임 횟수 중 적어도 하나를 포함할 수 있다.
다양한 실시예들에 따르면, 상기 오브젝트는 손가락 또는 전자 펜을 포함하며, 상기 제1 시각적 효과를 상기 제1 영역에 적용하여 표시하는 동작은, 상기 오브젝트의 타입 및 상기 오브젝트의 움직임 정보에 대응하는 상기 제1 시각적 효과를 상기 제1 영역에 적용하여 표시하는 동작을 포함할 수 있다.
다양한 실시예들에 따르면, 상기 제1 시각적 효과를 상기 제1 영역에 적용하여 표시하는 동작은, 상기 오브젝트의 움직임이 검출됨에 응답하여, 상기 제1 시각적 효과가 상기 제1 영역의 일부에 적용하는 동작을 포함하며, 전자 장치(201)의 시각적 효과를 제공하는 방법은, 상기 제1 시각적 효과가 상기 제1 영역의 일부에 적용된 후, 상기 제1 영역의 변화가 검출됨에 응답하여, 상기 제1 시각적 효과를 상기 제1 영역의 다른 일부에 적용하여 표시하는 동작을 더 포함할 수 있다.
다양한 실시예들에 따르면, 전자 장치(201)의 시각적 효과를 제공하는 방법은, 상기 제1 영역에 상기 제1 시각적 효과를 적용한 후, 상기 오브젝트의 지정된 제스처가 검출됨에 응답하여, 상기 제1 영역에 상기 제1 시각적 효과와 상이한 제2 시각적 효과로 전환하여 표시하는 동작을 더 포함할 수 있다.
다양한 실시예들에 따르면, 전자 장치(201)의 시각적 효과를 제공하는 방법은, 상기 제1 시각적 효과를 상기 제1 영역에 적용하여 표시한 후, 상기 얼굴의 적어도 일부 영역에 상기 오브젝트의 중첩 여부를 검출하는 동작, 및 상기 오브젝트의 중첩 여부에 기반하여 상기 제1 시각적 효과가 적용되기 전의 제1 이미지 또는 상기 제1 시각적 효과가 적용된 제2 이미지 중 적어도 하나를 표시하는 동작을 더 포함할 수 있다.
다양한 실시예들에 따르면, 전자 장치(201)의 시각적 효과를 제공하는 방법은, 상기 오브젝트가 위치하는 상기 제1 영역에 대응하는 적어도 하나의 추천 아이템을 표시하는 동작을 더 포함할 수 있다.
다양한 실시예들에 따르면, 상기 적어도 하나의 추천 아이템을 표시하는 동작은, 상기 전자 장치의 사용자 정보를 확인하는 동작, 및 상기 사용자 정보에 기반하여 상기 적어도 하나의 추천 아이템을 표시하는 동작을 포함할 수 있다.
다양한 실시예들에 따르면, 전자 장치(201)의 시각적 효과를 제공하는 방법은, 상기 오브젝트가 상기 제1 영역에서 제2 영역으로의 이동이 검출됨에 응답하여, 상기 제1 영역과 관련된 적어도 하나의 추천 아이템 및 상기 제2 영역과 관련된 적어도 하나의 추천 아이템을 표시하는 동작을 더 포함할 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트 폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", “A 또는 B 중 적어도 하나”, "A, B, 또는 C", "A, B, 및 C 중 적어도 하나”, 및 “A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, “기능적으로” 또는 “통신적으로”라는 용어와 함께 또는 이런 용어 없이, “커플드” 또는 “커넥티드”라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일 실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일 실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.

Claims (15)

  1. 전자 장치에 있어서,
    카메라;
    터치스크린; 및
    상기 카메라 및 상기 터치스크린과 작동적으로 연결된 프로세서를 포함하며,
    상기 프로세서는,
    상기 카메라로부터 획득되는 프리뷰 이미지에서 인식된 얼굴 내 복수의 영역들을 결정하고,
    상기 인식된 얼굴 내에서 오브젝트가 검출됨에 응답하여, 상기 복수의 영역들 중 상기 오브젝트가 위치하는 제1 영역을 확인하고, 및
    상기 오브젝트의 움직임이 검출됨에 응답하여, 상기 오브젝트의 움직임 궤적에 따라 상기 오브젝트의 움직임 정보에 대응하는 제1 시각적 효과를 상기 제1 영역에 적용하여 표시하도록 상기 터치스크린을 제어하도록 설정된 전자 장치.
  2. 제 1 항에 있어서,
    상기 오브젝트의 움직임 정보는, 두드리는 모션(patting motion), 문지르는 모션(smudge motion), 움직임 방향, 움직임 거리 정보, 또는 움직임 횟수 중 적어도 하나를 포함하는 전자 장치.
  3. 제 1 항에 있어서,
    상기 오브젝트는 손가락 또는 전자 펜을 포함하며,
    상기 프로세서는,
    상기 오브젝트의 타입 및 상기 오브젝트의 움직임 정보에 대응하는 상기 제1 시각적 효과를 상기 제1 영역에 적용하여 표시하도록 상기 터치스크린을 제어하도록 설정된 전자 장치.
  4. 제 1 항에 있어서,
    상기 프로세서는,
    상기 오브젝트의 움직임이 검출됨에 응답하여, 상기 제1 시각적 효과가 상기 제1 영역의 일부에 적용된 경우, 상기 제1 영역의 변화가 검출됨에 응답하여, 상기 제1 시각적 효과를 상기 제1 영역의 다른 일부에 적용하여 표시하도록 상기 터치스크린을 제어하도록 설정된 전자 장치.
  5. 제 1 항에 있어서,
    상기 프로세서는,
    상기 제1 영역에 상기 제1 시각적 효과를 적용한 후, 상기 오브젝트의 지정된 제스처가 검출됨에 응답하여, 상기 제1 영역에 상기 제1 시각적 효과와 상이한 제2 시각적 효과로 전환하여 표시하도록 설정된 전자 장치.
  6. 제 1 항에 있어서,
    상기 프로세서는,
    상기 제1 시각적 효과를 상기 제1 영역에 적용하여 표시한 후, 상기 얼굴의 적어도 일부 영역에 상기 오브젝트의 중첩 여부를 검출하고, 및
    상기 오브젝트의 중첩 여부에 기반하여 상기 제1 시각적 효과가 적용되기 전의 제1 이미지 또는 상기 제1 시각적 효과가 적용된 제2 이미지 중 적어도 하나를 표시하도록 설정된 전자 장치.
  7. 제 1 항에 있어서,
    상기 프로세서는,
    상기 오브젝트가 위치하는 상기 제1 영역에 대응하는 적어도 하나의 추천 아이템을 표시하도록 설정된 전자 장치.
  8. 제 7 항에 있어서,
    상기 프로세서는,
    상기 제1 영역과 상기 오브젝트 간 밀착 정도에 기반하여 상기 적어도 하나의 추천 아이템 중 선택된 아이템을 나타내는 인디케이터를 상이하게 표시하거나, 또는
    상기 전자 장치의 사용자 정보를 확인하고, 상기 사용자 정보에 기반하여 상기 적어도 하나의 추천 아이템을 표시하도록 설정된 전자 장치.
  9. 제 1 항에 있어서,
    상기 프로세서는,
    상기 오브젝트가 상기 제1 영역에서 제2 영역으로의 이동이 검출됨에 응답하여, 상기 제1 영역과 관련된 적어도 하나의 추천 아이템 및 상기 제2 영역과 관련된 적어도 하나의 추천 아이템을 표시하도록 설정된 전자 장치.
  10. 제 1 항에 있어서,
    상기 프로세서는,
    복수의 추천 아이템들을 표시하도록 상기 터치스크린을 제어하고, 및
    상기 복수의 추천 아이템들 중 하나를 선택하는 사용자 입력에 응답하여, 상기 선택된 아이템과 관련된 상기 제1 시각적 효과를 제공하도록 설정된 전자 장치.
  11. 전자 장치의 시각적 효과를 제공하는 방법에 있어서,
    카메라로부터 획득되는 프리뷰 이미지에서 인식된 얼굴 내 복수의 영역들을 결정하는 동작;
    상기 인식된 얼굴 내에서 오브젝트가 검출됨에 응답하여, 상기 복수의 영역들 중 상기 오브젝트가 위치하는 제1 영역을 확인하는 동작; 및
    상기 오브젝트의 움직임이 검출됨에 응답하여, 상기 오브젝트의 움직임 궤적에 따라 상기 오브젝트의 움직임 정보에 대응하는 제1 시각적 효과를 상기 제1 영역에 적용하여 표시하는 동작을 포함하는 방법.
  12. 제 11 항에 있어서,
    상기 오브젝트는 손가락 또는 전자 펜을 포함하며,
    상기 제1 시각적 효과를 상기 제1 영역에 적용하여 표시하는 동작은,
    상기 오브젝트의 타입 및 상기 오브젝트의 움직임 정보에 대응하는 상기 제1 시각적 효과를 상기 제1 영역에 적용하여 표시하는 동작을 포함하는 방법.
  13. 제 11 항에 있어서,
    상기 제1 시각적 효과를 상기 제1 영역에 적용하여 표시하는 동작은,
    상기 오브젝트의 움직임이 검출됨에 응답하여, 상기 제1 시각적 효과가 상기 제1 영역의 일부에 적용하는 동작을 포함하며,
    상기 제1 시각적 효과가 상기 제1 영역의 일부에 적용된 후, 상기 제1 영역의 변화가 검출됨에 응답하여, 상기 제1 시각적 효과를 상기 제1 영역의 다른 일부에 적용하여 표시하는 동작을 더 포함하는 방법.
  14. 제 11 항에 있어서,
    상기 제1 영역에 상기 제1 시각적 효과를 적용한 후, 상기 오브젝트의 지정된 제스처가 검출됨에 응답하여, 상기 제1 영역에 상기 제1 시각적 효과와 상이한 제2 시각적 효과로 전환하여 표시하는 동작을 더 포함하는 방법.
  15. 제 11 항에 있어서,
    상기 오브젝트가 위치하는 상기 제1 영역에 대응하는 적어도 하나의 추천 아이템을 표시하는 동작; 및
    상기 오브젝트가 상기 제1 영역에서 제2 영역으로의 이동이 검출됨에 응답하여, 상기 제1 영역과 관련된 적어도 하나의 추천 아이템 및 상기 제2 영역과 관련된 적어도 하나의 추천 아이템을 표시하는 동작을 더 포함하는 방법.
PCT/KR2021/001665 2020-02-25 2021-02-08 전자 장치 및 이를 이용한 시각적 효과 제공 방법 WO2021172791A1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2020-0022854 2020-02-25
KR1020200022854A KR20210108080A (ko) 2020-02-25 2020-02-25 전자 장치 및 이를 이용한 시각적 효과 제공 방법

Publications (1)

Publication Number Publication Date
WO2021172791A1 true WO2021172791A1 (ko) 2021-09-02

Family

ID=77490283

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2021/001665 WO2021172791A1 (ko) 2020-02-25 2021-02-08 전자 장치 및 이를 이용한 시각적 효과 제공 방법

Country Status (2)

Country Link
KR (1) KR20210108080A (ko)
WO (1) WO2021172791A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11442549B1 (en) * 2019-02-07 2022-09-13 Apple Inc. Placement of 3D effects based on 2D paintings

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013101633A (ja) * 2006-01-17 2013-05-23 Shiseido Co Ltd メイクアップシミュレーションシステム
KR20160142742A (ko) * 2015-06-03 2016-12-13 삼성전자주식회사 메이크업 거울을 제공하는 디바이스 및 방법
KR101719927B1 (ko) * 2015-12-17 2017-03-27 순천향대학교 산학협력단 립 모션을 이용한 실시간 메이크업 미러 시뮬레이션 장치
KR20170090057A (ko) * 2016-01-28 2017-08-07 라경진 화장품 테스트 시스템 및 방법
KR101979355B1 (ko) * 2018-11-20 2019-05-15 주식회사 카티스 뷰티 큐레이션을 위한 큐레이터 미러 및 그의 제어방법

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013101633A (ja) * 2006-01-17 2013-05-23 Shiseido Co Ltd メイクアップシミュレーションシステム
KR20160142742A (ko) * 2015-06-03 2016-12-13 삼성전자주식회사 메이크업 거울을 제공하는 디바이스 및 방법
KR101719927B1 (ko) * 2015-12-17 2017-03-27 순천향대학교 산학협력단 립 모션을 이용한 실시간 메이크업 미러 시뮬레이션 장치
KR20170090057A (ko) * 2016-01-28 2017-08-07 라경진 화장품 테스트 시스템 및 방법
KR101979355B1 (ko) * 2018-11-20 2019-05-15 주식회사 카티스 뷰티 큐레이션을 위한 큐레이터 미러 및 그의 제어방법

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11442549B1 (en) * 2019-02-07 2022-09-13 Apple Inc. Placement of 3D effects based on 2D paintings

Also Published As

Publication number Publication date
KR20210108080A (ko) 2021-09-02

Similar Documents

Publication Publication Date Title
WO2020171582A1 (en) Method for determining watch face image and electronic device therefor
WO2020045947A1 (en) Electronic device to control screen property based on distance between pen input device and electronic device and method of controlling same
WO2019209041A1 (ko) 플렉서블 디스플레이 및 이를 구비하는 전자 장치
WO2020226294A1 (en) Foldable device and method for controlling image capturing by using plurality of cameras
WO2020159147A1 (ko) 전자 장치 및 전자 장치의 그래픽 객체 제어 방법
WO2019103396A1 (en) Method for configuring input interface and electronic device using same
WO2018208093A1 (ko) 햅틱 피드백을 제공하는 방법 및 이를 수행하는 전자 장치
WO2020171563A1 (en) Electronic device and method for controlling operation of display in same
WO2020159308A1 (en) Electronic device and method for mapping function to button input
WO2020045862A1 (ko) 가상 현실에서 정보를 제공하는 전자 장치 및 방법
WO2019160347A1 (ko) 터치 입력 처리 방법 및 이를 지원하는 전자 장치
WO2021025509A1 (en) Apparatus and method for displaying graphic elements according to object
WO2020256325A1 (en) Electronic device and method for providing function by using corneal image in electronic device
WO2022131549A1 (ko) 전자 장치 및 전자 장치의 동작 방법
WO2020091538A1 (ko) 저전력 상태에서 디스플레이를 통해 화면을 표시하기 위한 전자 장치 및 그의 동작 방법
WO2019199086A1 (ko) 전자 장치 및 전자 장치의 제어 방법
WO2021172791A1 (ko) 전자 장치 및 이를 이용한 시각적 효과 제공 방법
WO2020076055A1 (en) Electronic device including pen input device and method of operating the same
WO2022059968A1 (ko) 증강 현실 콘텐츠를 제공하는 전자 장치 및 그의 동작 방법
WO2021230568A1 (ko) 증강 현실 서비스를 제공하기 위한 전자 장치 및 그의 동작 방법
WO2021177622A1 (ko) 가상 이미지를 제공하는 웨어러블 전자 장치
WO2020013542A1 (ko) 전자 장치 및 전자 장치의 기능 수행 방법
WO2020171601A1 (ko) 디스플레이 내에 배치된 센서에 인접한 픽셀들을 제어하기 위한 전자 장치, 방법, 및 컴퓨터 판독가능 매체
WO2020022829A1 (ko) 사용자 입력을 지원하는 전자 장치 및 전자 장치의 제어 방법
WO2020171510A1 (ko) 터치 회로를 포함하는 전자 장치, 및 그 동작 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21761348

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21761348

Country of ref document: EP

Kind code of ref document: A1