WO2021157900A1 - 필터를 제공하는 방법 및 이를 지원하는 전자 장치 - Google Patents

필터를 제공하는 방법 및 이를 지원하는 전자 장치 Download PDF

Info

Publication number
WO2021157900A1
WO2021157900A1 PCT/KR2021/000627 KR2021000627W WO2021157900A1 WO 2021157900 A1 WO2021157900 A1 WO 2021157900A1 KR 2021000627 W KR2021000627 W KR 2021000627W WO 2021157900 A1 WO2021157900 A1 WO 2021157900A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
input image
processor
data
reference image
Prior art date
Application number
PCT/KR2021/000627
Other languages
English (en)
French (fr)
Inventor
정문환
사아-가리가앨버트
반디니알레산드로
김성원
안희범
라레슈앙투안
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Publication of WO2021157900A1 publication Critical patent/WO2021157900A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/20—Image enhancement or restoration using local operators
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/40—Image enhancement or restoration using histogram techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/90—Dynamic range modification of images or parts thereof
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20024—Filtering details
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20212—Image combination
    • G06T2207/20221—Image fusion; Image merging

Definitions

  • Various embodiments of the present invention relate to a method of providing a filter and an electronic device supporting the same.
  • An electronic device such as a smart phone provides a function for editing an image.
  • an electronic device allows a user to edit an image acquired through a camera or an image stored in a memory using an image editing program.
  • an electronic device provides a filter function for changing an image property with respect to an image (eg, an original image). For example, while displaying the image, the electronic device may display images (eg, thumbnail images) indicating a plurality of filters corresponding to each of a plurality of attributes of the image. When one image is selected by the user from among the images representing the plurality of filters, the electronic device may provide an image in which a tone of an image corresponding to the filter represented by the selected image is reflected.
  • images eg, thumbnail images
  • the electronic device provides only a filter (or filter function) created by a manufacturer (or developer) of a camera application or an image application (eg, a gallery application). Accordingly, the number of filters (eg, types of filters) that the electronic device can provide to the user may be limited.
  • Various embodiments of the present disclosure relate to a method of providing a filter capable of providing a filter capable of reflecting a tone of an image having an atmosphere desired by a user with respect to an image, and an electronic device for supporting the same.
  • An electronic device includes a display, a processor operatively connected to the display, and a memory operatively connected to the processor, wherein the memory, when executed, includes a first input ( input) obtain an image, obtain a reference image, check whether a value indicating a distribution of data of the reference image is within a specified range, and a value indicating the distribution is within the specified range If it is confirmed that, using a first transfer module based on a first method, based on the first input image and the reference image, the second input image having a tone corresponding to a tone of the reference image is used.
  • Acquire 2 input images and when it is determined that the value representing the distribution is not within the specified range, using a second transform module based on a second method different from the first method, the first input image and Based on the reference image, instructions for obtaining a third input image having a tone corresponding to the tone of the reference image may be stored.
  • a method of providing a filter in an electronic device includes determining whether the operation of acquiring a first input image, the operation of acquiring a reference image, and a value indicating distribution of data of the reference image are within a specified range When it is confirmed that the value representing the distribution is within the specified range, based on the first input image and the reference image, using a first transformation module based on a first method, the reference obtaining a second input image having a tone corresponding to the tone of the image, and a second transformation based on a second method different from the first method when it is determined that the value representing the distribution is not within the specified range and using a module to obtain a third input image having a tone corresponding to the tone of the reference image based on the first input image and the reference image.
  • a method for providing a filter according to various embodiments of the present disclosure and an electronic device for supporting the same may provide a filter capable of reflecting a tone of an image having an atmosphere desired by a user with respect to the image.
  • FIG. 1 is a block diagram of an electronic device in a network environment, according to various embodiments of the present disclosure
  • FIG. 2 is an overall flowchart illustrating a method of providing a filter in an electronic device, according to various embodiments of the present disclosure.
  • FIG. 3 is an exemplary diagram for explaining a method for acquiring a reference image within a selected image, according to various embodiments of the present disclosure
  • FIG. 4 is an exemplary diagram for explaining a method of obtaining a reference image using a plurality of images, according to various embodiments of the present disclosure.
  • FIG. 5 is a flowchart illustrating a method of acquiring a second input image using a first transformation module based on a first method, according to various embodiments of the present disclosure
  • FIG. 6 is a flowchart illustrating a method of acquiring a third input image using a first transformation module based on a second method, according to various embodiments of the present disclosure
  • FIG. 7 is an exemplary diagram for explaining a method of generating a rotation matrix and performing projection, according to various embodiments of the present disclosure.
  • FIG. 8 is a flowchart illustrating a method of reflecting a tone of a reference image with respect to objects included in an input image using segmentation, according to various embodiments of the present disclosure.
  • FIG. 9 is an exemplary diagram for describing a segmentation operation according to various embodiments.
  • FIG. 10 is a flowchart illustrating a method of reflecting a tone of a reference image with respect to objects included in an input image using segmentation, according to various embodiments of the present disclosure.
  • FIG. 11 is an exemplary diagram for describing a segmentation operation according to various embodiments.
  • 12A and 12B are exemplary diagrams for explaining a method of providing a filter using a camera application, according to various embodiments.
  • FIGS. 13A and 13B are exemplary diagrams for explaining a method of providing a filter using an image application, according to various embodiments.
  • FIG. 1 is a block diagram of an electronic device 101 in a network environment 100 according to various embodiments of the present disclosure.
  • an electronic device 101 communicates with an electronic device 102 through a first network 198 (eg, a short-range wireless communication network) or a second network 199 . It may communicate with the electronic device 104 or the server 108 through (eg, a long-distance wireless communication network). According to an embodiment, the electronic device 101 may communicate with the electronic device 104 through the server 108 .
  • a first network 198 eg, a short-range wireless communication network
  • a second network 199 e.g., a second network 199 . It may communicate with the electronic device 104 or the server 108 through (eg, a long-distance wireless communication network). According to an embodiment, the electronic device 101 may communicate with the electronic device 104 through the server 108 .
  • the electronic device 101 includes a processor 120 , a memory 130 , an input device 150 , a sound output device 155 , a display device 160 , an audio module 170 , and a sensor module ( 176 , interface 177 , haptic module 179 , camera module 180 , power management module 188 , battery 189 , communication module 190 , subscriber identification module 196 , or antenna module 197 . ) may be included. In some embodiments, at least one of these components (eg, the display device 160 or the camera module 180 ) may be omitted or one or more other components may be added to the electronic device 101 . In some embodiments, some of these components may be implemented as one integrated circuit. For example, the sensor module 176 (eg, a fingerprint sensor, an iris sensor, or an illuminance sensor) may be implemented while being embedded in the display device 160 (eg, a display).
  • the sensor module 176 eg, a fingerprint sensor, an iris sensor, or an illuminance sensor
  • the processor 120 for example, executes software (eg, a program 140) to execute at least one other component (eg, a hardware or software component) of the electronic device 101 connected to the processor 120 . It can control and perform various data processing or operations. According to one embodiment, as at least part of data processing or operation, the processor 120 converts commands or data received from other components (eg, the sensor module 176 or the communication module 190 ) to the volatile memory 132 . may be loaded into the volatile memory 132 , process commands or data stored in the volatile memory 132 , and store the resulting data in the non-volatile memory 134 .
  • software eg, a program 140
  • the processor 120 converts commands or data received from other components (eg, the sensor module 176 or the communication module 190 ) to the volatile memory 132 .
  • the volatile memory 132 may be loaded into the volatile memory 132 , process commands or data stored in the volatile memory 132 , and store the resulting data in the non-volatile memory 134 .
  • the processor 120 includes a main processor 121 (eg, a central processing unit or an application processor 120 ), and a secondary processor 123 (eg, a graphics processing unit) that can operate independently or in conjunction with it. image signal processor, sensor hub processor, or communication processor). Additionally or alternatively, the auxiliary processor 123 may be configured to use less power than the main processor 121 or to be specialized for a designated function. The auxiliary processor 123 may be implemented separately from or as a part of the main processor 121 .
  • a main processor 121 eg, a central processing unit or an application processor 120
  • a secondary processor 123 eg, a graphics processing unit
  • the auxiliary processor 123 may be configured to use less power than the main processor 121 or to be specialized for a designated function.
  • the auxiliary processor 123 may be implemented separately from or as a part of the main processor 121 .
  • the auxiliary processor 123 may be, for example, on behalf of the main processor 121 while the main processor 121 is in an inactive (eg, sleep) state, or when the main processor 121 is active (eg, executing an application). ), together with the main processor 121, at least one of the components of the electronic device 101 (eg, the display device 160, the sensor module 176, or the communication module 190) It is possible to control at least some of the related functions or states.
  • the coprocessor 123 eg, an image signal processor or a communication processor
  • may be implemented as part of another functionally related component eg, the camera module 180 or the communication module 190 ). there is.
  • the memory 130 may store various data used by at least one component (eg, the processor 120 or the sensor module 176 ) of the electronic device 101 .
  • the data may include, for example, input data or output data for software (eg, the program 140 ) and instructions related thereto.
  • the memory 130 may include a volatile memory 132 or a non-volatile memory 134 .
  • the program 140 may be stored as software in the memory 130 , and may include, for example, an operating system 142 , middleware 144 , or an application 146 .
  • the input device 150 may receive a command or data to be used by a component (eg, the processor 120 ) of the electronic device 101 from the outside (eg, a user) of the electronic device 101 .
  • the input device 150 may include, for example, a microphone, a mouse, a keyboard, or a digital pen (eg, a stylus pen).
  • the sound output device 155 may output a sound signal to the outside of the electronic device 101 .
  • the sound output device 155 may include, for example, a speaker or a receiver.
  • the speaker can be used for general purposes such as multimedia playback or recording playback, and the receiver can be used to receive incoming calls. According to one embodiment, the receiver may be implemented separately from or as part of the speaker.
  • the display device 160 may visually provide information to the outside (eg, a user) of the electronic device 101 .
  • the display device 160 may include, for example, a display, a hologram device, or a projector and a control circuit for controlling the corresponding device.
  • the display device 160 may include a touch circuitry configured to sense a touch or a sensor circuit (eg, a pressure sensor) configured to measure the intensity of a force generated by the touch. there is.
  • the audio module 170 may convert a sound into an electric signal or, conversely, convert an electric signal into a sound. According to an embodiment, the audio module 170 acquires a sound through the input device 150 , or an external electronic device (eg, a sound output device 155 ) connected directly or wirelessly with the electronic device 101 . The sound may be output through the electronic device 102 (eg, a speaker or a headphone).
  • an external electronic device eg, a sound output device 155
  • the sound may be output through the electronic device 102 (eg, a speaker or a headphone).
  • the sensor module 176 detects an operating state (eg, power or temperature) of the electronic device 101 or an external environmental state (eg, user state), and generates an electrical signal or data value corresponding to the sensed state. can do.
  • the sensor module 176 may include, for example, a gesture sensor, a gyro sensor, a barometric sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR (infrared) sensor, a biometric sensor, It may include a temperature sensor, a humidity sensor, or an illuminance sensor.
  • the interface 177 may support one or more specified protocols that may be used by the electronic device 101 to directly or wirelessly connect with an external electronic device (eg, the electronic device 102 ).
  • the interface 177 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • the connection terminal 178 may include a connector through which the electronic device 101 can be physically connected to an external electronic device (eg, the electronic device 102 ).
  • the connection terminal 178 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).
  • the haptic module 179 may convert an electrical signal into a mechanical stimulus (eg, vibration or movement) or an electrical stimulus that the user can perceive through tactile or kinesthetic sense.
  • the haptic module 179 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
  • the camera module 180 may capture still images and moving images. According to an embodiment, the camera module 180 may include one or more lenses, image sensors, image signal processors, or flashes.
  • the power management module 188 may manage power supplied to the electronic device 101 .
  • the power management module 388 may be implemented as, for example, at least a part of a power management integrated circuit (PMIC).
  • PMIC power management integrated circuit
  • the battery 189 may supply power to at least one component of the electronic device 101 .
  • the battery 189 may include, for example, a non-rechargeable primary cell, a rechargeable secondary cell, or a fuel cell.
  • the communication module 190 is a direct (eg, wired) communication channel or a wireless communication channel between the electronic device 101 and an external electronic device (eg, the electronic device 102, the electronic device 104, or the server 108). It can support establishment and communication through the established communication channel.
  • the communication module 190 may include one or more communication processors that operate independently of the processor 120 (eg, an application processor) and support direct (eg, wired) communication or wireless communication.
  • the communication module 190 is a wireless communication module 192 (eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 194 (eg, : It may include a local area network (LAN) communication module, or a power line communication module).
  • a wireless communication module 192 eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module
  • GNSS global navigation satellite system
  • wired communication module 194 eg, : It may include a local area network (LAN) communication module, or a power line communication module.
  • a corresponding communication module is a first network 198 (eg, a short-range communication network such as Bluetooth, WiFi direct, or IrDA (infrared data association)) or a second network 199 (eg, a cellular network, the Internet, or It may communicate with an external electronic device via a computer network (eg, a telecommunication network such as a LAN or WAN).
  • a computer network eg, a telecommunication network such as a LAN or WAN.
  • These various types of communication modules may be integrated into one component (eg, a single chip) or may be implemented as a plurality of components (eg, multiple chips) separate from each other.
  • the wireless communication module 192 uses the subscriber information (eg, International Mobile Subscriber Identifier (IMSI)) stored in the subscriber identification module 196 within a communication network such as the first network 198 or the second network 199 .
  • the electronic device 101 may be identified and authenticated.
  • the antenna module 197 may transmit or receive a signal or power to the outside (eg, an external electronic device).
  • the antenna module may include one antenna including a conductor formed on a substrate (eg, a PCB) or a radiator formed of a conductive pattern.
  • the antenna module 197 may include a plurality of antennas. In this case, at least one antenna suitable for a communication method used in a communication network such as the first network 198 or the second network 199 is connected from the plurality of antennas by, for example, the communication module 190 . can be selected. A signal or power may be transmitted or received between the communication module 190 and an external electronic device through the selected at least one antenna.
  • other components eg, RFIC
  • other than the radiator may be additionally formed as a part of the antenna module 197 .
  • peripheral devices eg, a bus, general purpose input and output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI)
  • GPIO general purpose input and output
  • SPI serial peripheral interface
  • MIPI mobile industry processor interface
  • the command or data may be transmitted or received between the electronic device 101 and the external electronic device 104 through the server 108 connected to the second network 199 .
  • Each of the electronic devices 102 and 104 may be the same or a different type of the electronic device 101 .
  • all or part of the operations performed by the electronic device 101 may be executed by one or more of the external electronic devices 102 , 104 , or 108 .
  • the electronic device 101 may perform the function or service itself instead of executing the function or service itself.
  • one or more external electronic devices may be requested to perform at least a part of the function or the service.
  • the one or more external electronic devices that have received the request may execute at least a part of the requested function or service, or an additional function or service related to the request, and transmit a result of the execution to the electronic device 101 .
  • the electronic device 101 may process the result as it is or additionally and provide it as at least a part of a response to the request.
  • cloud computing, distributed computing, or client-server computing technology may be used.
  • the electronic device may have various types of devices.
  • the electronic device may include, for example, a portable communication device (eg, a smart phone), a computer device, a portable multimedia device, a portable medical device, a camera, a wearable device, or a home appliance device.
  • a portable communication device eg, a smart phone
  • a computer device e.g., a smart phone
  • a portable multimedia device e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a wearable device e.g., a smart bracelet
  • a home appliance device e.g., a home appliance
  • first”, “second”, or “first” or “second” may simply be used to distinguish the component from other components in question, and may refer to components in other aspects (e.g., importance or order) is not limited. It is said that one (eg, first) component is “coupled” or “connected” to another (eg, second) component, with or without the terms “functionally” or “communicatively”. When referenced, it means that one component can be connected to the other component directly (eg by wire), wirelessly, or through a third component.
  • module may include a unit implemented in hardware, software, or firmware, and may be used interchangeably with terms such as, for example, logic, logic block, component, or circuit.
  • a module may be an integrally formed part or a minimum unit or a part of the part that performs one or more functions.
  • the module may be implemented in the form of an application-specific integrated circuit (ASIC).
  • ASIC application-specific integrated circuit
  • Various embodiments of the present document include one or more instructions stored in a storage medium (eg, internal memory 136 or external memory 138) readable by a machine (eg, electronic device 101).
  • a machine eg, electronic device 101
  • the processor eg, the processor 120
  • the device eg, the electronic device 101
  • the one or more instructions may include code generated by a compiler or code executable by an interpreter.
  • the device-readable storage medium may be provided in the form of a non-transitory storage medium.
  • 'non-transitory' only means that the storage medium is a tangible device and does not contain a signal (eg, electromagnetic wave), and this term is used in cases where data is semi-permanently stored in the storage medium and It does not distinguish between temporary storage cases.
  • a signal eg, electromagnetic wave
  • the method according to various embodiments disclosed in this document may be provided as included in a computer program product.
  • Computer program products may be traded between sellers and buyers as commodities.
  • the computer program product is distributed in the form of a machine-readable storage medium (eg compact disc read only memory (CD-ROM)), or via an application store (eg Play Store TM ) or on two user devices ( It can be distributed (eg downloaded or uploaded) directly, online between smartphones (eg: smartphones).
  • a part of the computer program product may be temporarily stored or temporarily created in a machine-readable storage medium such as a memory of a server of a manufacturer, a server of an application store, or a relay server.
  • each component eg, a module or a program of the above-described components may include a singular or a plurality of entities.
  • one or more components or operations among the above-described corresponding components may be omitted, or one or more other components or operations may be added.
  • a plurality of components eg, a module or a program
  • the integrated component may perform one or more functions of each component of the plurality of components identically or similarly to those performed by the corresponding component among the plurality of components prior to the integration. .
  • operations performed by a module, program, or other component are executed sequentially, in parallel, repeatedly, or heuristically, or one or more of the operations are executed in a different order, or omitted. or one or more other operations may be added.
  • the electronic device 101 includes a display (eg, a display device 160 ), a processor 120 functionally (or operatively) connected to the display, and the processor 120 . ) and a memory 130 operatively (or operatively) coupled to, wherein the memory 130, when executed, causes the processor 120 to obtain a first input image, and a reference ( a reference) image is acquired, and it is checked whether a value indicating a distribution of the data of the reference image is within a specified range, and when it is confirmed that the value indicating the distribution is within the specified range, in the first method obtaining a second input image having a tone corresponding to a tone of the reference image based on the first input image and the reference image by using a first transformation module based on is not within the specified range, using a second conversion module based on a second method different from the first method, based on the first input image and the reference image, the tone of the reference image Instructions for obtaining a third input image having a corresponding tone
  • the first input image may include an image acquired through a camera (eg, the camera module 180 ) of the electronic device 101 or an image stored in an image application.
  • the instructions may cause the processor 120 to determine whether at least one of a standard deviation of data of the reference image or an entropy value of a histogram is less than or equal to a specified value. .
  • the instructions include, when the processor 120 determines that the value representing the distribution is within the specified range, a first average value of the data of the first input image and the data of the reference image
  • the second input image may be obtained by obtaining a second average value of , and adding the difference between the second average value and the first average value to the data of the first input image.
  • the instructions may cause the processor 120 to further perform an operation of matching the contrast of the second input image and the contrast of the reference image.
  • the instructions include the first input image having a first resolution and a second resolution when the processor 120 determines that the value representing the distribution is not within the specified range.
  • down-sampling the reference image having A third input image having a tone corresponding to the tone of the second reference image is obtained by performing iterative distribution transfer on the second reference image a specified number of times, the second input image and the second input image 3 by performing regression based on the input image to obtain a fourth input image having the first resolution, and by blending the fourth input image and the first input image, the first 3 It is possible to acquire an input image.
  • the instructions cause the processor 120 to select pixel values in the first input image having the first resolution, and randomly select pixel values in the reference image having the second resolution. you can choose to
  • the instructions include, by the processor 120 , acquiring information on the one or more objects by recognizing one or more objects included in the first input image, and information on the one or more objects blending the fourth input image and the first input image by applying different blending values to regions corresponding to the one or more objects in the fourth input image, and The image and the first input image may be blended to obtain the third input image.
  • the instructions determine the number of times the processor 120 recognizes one or more objects in the first input image and the reference image, and performs the iterative distribution transformation according to the one or more objects. You can specify it differently.
  • the instructions cause the processor 120 to display the second input image or the third input image, the reference image, and an object representing the filter through the display after the filter is generated. can make it
  • FIG. 2 is an overall flowchart 200 for explaining a method of providing a filter in an electronic device according to various embodiments of the present disclosure.
  • the processor 120 may acquire a first input image.
  • the 'first input image' may refer to an image to which a filter is applied. Also, the 'first input image' may refer to an image to which a tone of a reference image is to be reflected.
  • a 'reference image' may refer to an image that is required (or used) to generate a filter and provides information about a tone to be reflected in the first input image.
  • 'tone of an image' may refer to at least one of color (color or hue), brightness, or saturation (saturation or chroma) of an image.
  • color color or hue
  • saturation saturation or chroma
  • the 'tone of the image' refers to the color, brightness, saturation, contrast, sharpness (or sharpness), shadow, image complexity, or color temperature (or white balance).
  • the 'tone of the image' may be referred to as an attribute or property of an image or a style of the image. Also, the 'tone of the image' may be referred to as a visual effect of the image.
  • the processor 120 includes:
  • the first input image may be acquired by using the camera application.
  • the processor 120 uses a preview (or live view) image input in real time through the camera as the first input image. can be obtained
  • the processor 120 may acquire the first input image by using an image application (eg, a gallery application). For example, the processor 120 may display a plurality of images through the display by executing an image application. The processor 120 may obtain, as a first input image, an image selected based on a user input from among a plurality of images.
  • an image application eg, a gallery application.
  • the processor 120 may obtain, as a first input image, an image selected based on a user input from among a plurality of images.
  • the method of obtaining the first input image is not limited to the above-described examples.
  • the processor 120 may acquire the captured screen as a first input image based on an input from the user for capturing a screen displayed (eg, currently being displayed) through the display.
  • the processor 120 may include an image (eg, an image acquired from a web page or an SNS server) acquired from the outside (eg, an external server) using a web application or a social networking service (SNS) application. may be acquired as the first input image).
  • an image eg, an image acquired from a web page or an SNS server
  • SNS social networking service
  • the processor 120 may acquire a moving image or a still image as the first input image. For example, when the video includes a plurality of frames, the processor 120 may obtain each of the plurality of frames as a first input image.
  • the processor 120 may display the acquired first input image through a display (eg, the display device 160 ).
  • the processor 120 may acquire a reference image.
  • the processor 120 may acquire a reference image based on a user input for generating the filter.
  • the processor 120 may display one or more images through the display. For example, the processor 120 may display an object for generating a filter through the display while displaying the first input image through the display.
  • the processor 120 is stored in the memory 130 (eg, a gallery application) based on a user input for an object (eg, an icon, an item of a menu) for generating a filter.
  • One or more images may be displayed through the display.
  • the processor 120 may obtain an image selected by a user input from among one or more displayed images as a reference image.
  • the method of acquiring the reference image is not limited to the above-described examples.
  • the processor 120 may acquire an image obtained (eg, downloaded) through a web application or an SNS application as a reference image.
  • the reference image may be a moving image or a still image.
  • the processor 120 may obtain at least one frame selected by the user from among the plurality of frames as a reference image.
  • the processor 120 may acquire a partial region of an image selected from one or more images (one or more images stored in the memory 130 (eg, a gallery application)) as a reference image.
  • a method of acquiring a partial region of an image selected from among one or more images (hereinafter, referred to as a 'selected image') as a reference image will be described in detail with reference to FIG. 3 .
  • FIG. 3 is an exemplary diagram 300 for explaining a method for acquiring a reference image within a selected image, according to various embodiments.
  • the selected image when the selected image includes a blank space or a blank including text in addition to the image part, only the image part from the selected image may be acquired as a reference image. there is.
  • the processor 120 is configured to use a corner detection algorithm or an edge detection algorithm when the selected image includes a blank space or a blank space including text in addition to the image portion. (or automatically without user input), an image portion (eg, a corner, edge, or outline of an image portion).
  • the processor 120 may acquire the detected image portion as a reference image.
  • the selected image 310 may include a white space (or a white space containing text) 312 along with the image portion 311 .
  • the processor 120 detects the corners of the selected image 310 represented by dots 313 (where the dots 313 may not be displayed through the display) using a corner detection algorithm. can do.
  • the processor 120 may acquire the image portion 311 excluding the blank 312 in the selected image 310 based on the detected corners.
  • the processor 120 may crop the image portion 311 in the selected image 310 and obtain the cropped image portion 311 as a reference image.
  • the processor 120 may acquire a designated area in the selected image based on a user input as a reference image. For example, the processor 120 may display an object (eg, a rectangular object) for designating an area based on a user input in the selected image through the display. The processor 120 may adjust at least one of a position and a size of the object based on a user input to the object. After at least one of the position or size of the object is adjusted, the processor 120 may acquire an area included by the object in the selected image (eg, an area within a rectangle when the object has a rectangular shape). The processor 120 may crop the obtained area in the selected image, and obtain the cropped area as a reference image.
  • an object eg, a rectangular object
  • the processor 120 may crop the obtained area in the selected image, and obtain the cropped area as a reference image.
  • the processor 120 may obtain a partial region in the selected image as a reference image by using segmentation (eg, object recognition). For example, in Figure 3, the processor 120, within the selected image 320, a plurality of objects (eg, cattle 321, grass field 322, sea 323, sky 324), and regions (eg, regions in which each of the plurality of objects are displayed) corresponding to each of the ships 325 ) may be recognized. The processor 120 may display different colors of the regions corresponding to each of the plurality of objects through the display so that the regions corresponding to each of the plurality of objects in the selected images 320 are distinguished from each other. The processor 120 may obtain, as a reference image, at least one area (eg, an area corresponding to the sea 323 ) selected by a user input from among areas corresponding to each of the plurality of objects.
  • segmentation eg, object recognition
  • the processor 120 may acquire a reference image by recognizing an object included in an area designated by the user within the selected image. For example, the processor 120 may designate a partial region of the image selected by a user input (eg, a user input for drawing a closed curve). The processor 120 may recognize an object included in a specified partial area, and obtain an area corresponding to the recognized object (eg, an area in which the recognized object is displayed) as a reference image.
  • a user input eg, a user input for drawing a closed curve.
  • the processor 120 may recognize an object included in a specified partial area, and obtain an area corresponding to the recognized object (eg, an area in which the recognized object is displayed) as a reference image.
  • the processor 120 may acquire one reference image using a plurality of images.
  • a method of obtaining one reference image using a plurality of images according to an exemplary embodiment will be described in detail with reference to FIG. 4 .
  • FIG. 4 is an exemplary diagram 400 for explaining a method of acquiring a reference image using a plurality of images, according to various embodiments.
  • the processor 120 may select a plurality of images.
  • the processor 120 may display a plurality of images stored in the memory 130 (eg, a gallery application) through the display.
  • the processor 120 may select a plurality of images from among the plurality of images based on a user input.
  • the first image 411 and the second image 413 may represent a plurality of images selected based on a user input from among the plurality of images.
  • the processor 120 may obtain a reference image by combining a plurality of images selected based on a user input from among a plurality of images (hereinafter referred to as a 'selected plurality of images').
  • the processor 120 may acquire the reference image by resizing and merging the selected plurality of images. For example, as shown in FIG. 4 , the processor 120 reduces the image 411 and the image 413, respectively, and the image 411 and the image 413 are each reduced images. can be merged The processor 120 may obtain the image 421 in which the reduced images are merged as a reference image.
  • the processor 120 may acquire a reference image by sampling (eg, random sampling) a plurality of selected images.
  • the processor 120 may obtain a reference image by sampling a plurality of selected images using an algorithm represented by Equation 1 as follows.
  • Equation 1 may represent a pixel value constituting a reference image by using random sampling. also, , , and , respectively, from among the selected n images, the (i, j) pixel value of the first image (where (i, j) refers to i row j column), the (i, j) pixel value of the second image , and (i, j) pixel values of the nth image.
  • random() may mean a random function.
  • rand( ) may represent a randomly selected value among pixel values at each (i, j) position of the first image to the nth image. In this case, when the sizes of the reference images are different, an operation of making the sizes of the reference images the same may be performed in advance.
  • the processor 120 may obtain a reference image in which a plurality of selected images are superposedly combined by using random sampling (eg, by repeatedly performing the algorithm represented by Equation 1). there is. For example, the processor 120 performs random sampling on the image 411 and the image 413 , so that the image 411 and the image 413 are superimposedly combined, as shown in FIG. 4 .
  • An image 431 may be acquired as a reference image.
  • the processor 120 performs, as at least part of a preprocessing operation, a first format (eg, one of a plurality of images stored in the memory 130 ) : bitmap format), the image of the first format may be converted into an image of the second format (eg, mat(matrix) format).
  • the processor 120 may acquire the image of the second format as the first input image.
  • the processor 120 may convert the image of the first format into an image of the second format.
  • the processor 120 may acquire an image of the second format as a reference image.
  • the processor 120 may cause the first input image and the reference image to have the same format (eg, mat format). In an embodiment, the processor 120 may perform a pre-processing operation so that the first input image and the reference image have the second format, thereby shortening the time for processing the first input image and the reference image and reducing the amount of computation. .
  • the processor 120 may determine whether a value indicating a distribution of data of the reference image is within a specified range.
  • the processor 120 may determine whether a value indicating a distribution of data of the reference image is within a specified range, based on the standard deviation of the Cr channel data and the Cb channel data of the reference image. .
  • the processor 120 may convert the data of the reference image into yCrCb data.
  • the processor 120 may convert the data format of the reference image to the yCrCb format.
  • the processor 120 is configured to, based on the yCrCb data of the reference image, data of the Cr channel (eg, values of the Cr channel) and data of the Cb channel (eg, values of the Cb channel) in the yCrCb data of the reference image. ) can be checked for each.
  • the processor 120 may obtain (or calculate) a standard deviation (or variance) of each of the data of the Cr channel and the data of the Cb channel as a value indicating the distribution of each of the data of the Cr channel and the data of the Cb channel.
  • the processor 120 determines that, when the standard deviation of the data of the Cr channel obtained is equal to or less than a specified value and the standard deviation of the data of the obtained Cb channel is equal to or less than the specified value, the value indicating the distribution of the data of the reference image is within the specified range.
  • the processor 120 determines that a value indicating the distribution of data of the reference image is It can be confirmed that it is not within the specified range.
  • the processor 120 determines whether a value representing the distribution of data of the reference image is within a specified range, based on entropy values of a histogram of Cr channel data and Cb channel data of the reference image. can check whether
  • the processor 120 may convert the data of the reference image into yCrCb data.
  • the processor 120 is configured to, based on the yCrCb data of the reference image, data of the Cr channel (eg, values of the Cr channel) and data of the Cb channel (eg, values of the Cb channel) in the yCrCb data of the reference image. ) can be checked for each.
  • the processor 120 uses the following [Equation 2] to obtain the entropy values of the histograms of the data of the Cr channel and the data of the Cb channel as values representing the respective distributions of the data of the Cr channel and the data of the Cb channel. It can be obtained (or calculated).
  • H may represent an entropy value of each histogram of data of the Cr channel and data of the Cb channel.
  • i may represent data of a Cr channel and data of a Cb channel, respectively, and p(i) may represent a probability (or a relative frequency).
  • the processor 120 is configured to: When the entropy value of the histogram of the acquired Cr channel data is less than or equal to a specified value and the entropy value of the histogram of the acquired Cb channel data is less than or equal to the specified value, the distribution of the data of the reference image It can be confirmed that the value representing is within the specified range. When the entropy value of the histogram of the acquired data of the Cr channel is greater than a specified value and/or when the entropy value of the histogram of the acquired data of the Cb channel is greater than the specified value, the processor 120 determines the distribution of the data of the reference image. It can be confirmed that the value representing (distribution) is not within the specified range.
  • the processor 120 uses both the standard deviation of each of the Cr channel data and the Cb channel data and the entropy value of the histogram as a value indicating the distribution of data of the reference image, and the distribution of the data of the reference image It can be checked whether the value representing is within the specified range. For example, when the standard deviation of the Cr channel data and the Cb channel data of the reference image is 4 or less and the entropy value of the histogram is 2 or less, the processor 120 determines that a value representing the distribution of data of the reference image is within a specified range. can be confirmed as
  • the processor 120 may determine whether a value indicating a distribution of data of the reference image is within a specified range, based on the standard deviation of the hue channel data of the reference image.
  • the processor 120 may convert the data of the reference image into HSV (hue, saturation, value) data.
  • HSV hue, saturation, value
  • the processor 120 may convert the data format of the reference image to the HSV format.
  • the processor 120 may check data of a hue channel (eg, values of a hue channel) from the HSV data of the reference image, based on the HSV data of the reference image. The processor 120 may obtain (or calculate) a standard deviation of the data of the hue channel as a value representing the distribution of data of the hue channel.
  • the processor 120 may determine that a value indicating a distribution of data of the reference image is within a specified range.
  • the processor 120 may determine that a value indicating a distribution of data of the reference image is not within a specified range.
  • the processor 120 may determine whether a value indicating a distribution of data of the reference image is within a specified range, based on an entropy value of a histogram of data of the hue channel of the reference image. In an embodiment, the processor 120 may obtain (or calculate) the entropy value of the histogram of the data of the hue channel as a value representing the distribution of the data of the hue channel, using the above-mentioned [Equation 2]. there is. When the entropy value of the histogram of the acquired hue channel data is less than or equal to a specified value, the processor 120 may determine that a value indicating the distribution of data of the reference image is within a specified range. When the entropy value of the histogram of the hue channel data is greater than the specified value, the processor 120 may determine that the value indicating the distribution of the data of the reference image is not within the specified range.
  • the processor 120 uses both the standard deviation of the hue data and the entropy value of the histogram as a value indicating the distribution of data of the reference image, and a range in which a value indicating the distribution of data of the reference image is specified. You can check whether it is inside or not.
  • the processor 120 is configured to calculate the standard deviation of each of the Cr channel data and the Cb channel data, and the entropy value of the histogram of each of the Cr channel data and the Cb channel data, as described above as values representing the distribution of data of the reference image.
  • the standard deviation of the hue data, or the entropy value of the histogram of the standard deviation of the hue data can be used to determine whether a value representing the distribution of data in the reference image is within a specified range.
  • the processor 120 is a value indicating the distribution of data of the reference image, and when the standard deviation of each of the Cr channel data and the Cb channel data is less than or equal to a specified value, and the standard deviation of the hue data is less than or equal to a specified value, the reference It can be confirmed that the value representing the distribution of data in the image is within the specified range.
  • the processor 120 as a value indicating the distribution of data of the reference image, when the standard deviation of each of the Cr channel data and the Cb channel data is greater than a specified value and/or the standard deviation of the hue data is designated If it is larger than the value, it can be confirmed that the value indicating the distribution of data of the reference image is not within the specified range.
  • the format of the data of the reference image is converted to the yCrCb format and/or the HSV format, and based on the reference image having the converted yCrCb format and/or the HSV format, the distribution of the data of the reference image is determined. Examples of checking whether the indicated value is within the specified range have been exemplified, but the present invention is not limited thereto, and the processor 120 converts the format of the data of the reference image to a format different from the yCrCb format and/or the HSV format, and the conversion Based on the reference image having a different format, it may be checked whether a value indicating a data distribution of the reference image is within a specified range.
  • the reference image when a value indicating a data distribution of the reference image is within a specified range, the reference image may be a monotone image. For example, if a value representing the distribution of data in the reference image is within a specified range, the reference image is a single color (eg, a white color, a red color, or a blue color). ) may be an image with In an embodiment, when a value indicating a data distribution of the reference image is not within a specified range, the reference image may be a color image. For example, when a value indicating a data distribution of the reference image is not within a specified range, the reference image may be an image having a complex color.
  • the processor 120 a first transfer module based on a first method (hereinafter referred to as a 'first method') (hereinafter referred to as a 'first conversion module') ), a second input image (hereinafter, referred to as a 'second input image') having a tone corresponding to the tone of the reference image may be obtained based on the first input image and the reference image.
  • a first method hereinafter referred to as a 'first method'
  • a 'first conversion module' hereinafter referred to as a 'first conversion module'
  • the processor 120 may be configured to convert the first input image and the reference image to the first input image and the reference image using the first conversion module based on the first method. Based on this, a second input image having a tone corresponding to the tone of the reference image may be obtained.
  • a method in which the processor 120 obtains a second input image based on a first input image and a reference image by using a first conversion module based on the first method according to an embodiment will be described in detail with reference to FIG. 5 . let it do
  • the processor 120 is configured to perform a second transformation module (hereinafter, referred to as a 'second transformation module') based on a second method different from the first method (hereinafter referred to as a 'second method'). ), a third input image (hereinafter, referred to as a 'third input image') having a tone corresponding to the tone of the reference image may be obtained based on the first input image and the reference image. For example, when it is determined that the value representing the distribution of data of the reference image is not within the specified range, the processor 120 may be configured to use a second transformation module based on the second method to obtain the first input image and the reference image. Based on , a third input image having a tone corresponding to the tone of the reference image may be obtained from the first input image.
  • a second transformation module hereinafter, referred to as a 'second transformation module'
  • FIGS. 6 to 11 For a method in which the processor 120 obtains a third input image based on a first input image and a reference image by using a second transform module based on the second method according to an embodiment, refer to FIGS. 6 to 11 . to be described later in detail.
  • the 'filter' includes a program (or module, or device) capable of performing an operation of determining whether a value indicating a distribution of data of the reference image in operation 205 is within a specified range, and in operation 207 .
  • a program (or module, or apparatus) capable of reflecting a tone of a reference image (eg, an image selected by a user) to a first input image using at least one of the first transformation module or the second transformation module of operation 209 ) can be referred to.
  • the processor 120 determines whether the reference image and a value indicating a distribution of data of the reference image are within a specified range.
  • the program may be generated based on at least one of a program capable of performing an operation of determining whether the first conversion module or the second conversion module.
  • the processor 120 may temporarily store the generated filter in the memory 130 .
  • the processor 120 may store the temporarily stored filter in the memory 130, for example, semi-permanently, based on a user input for storing the temporarily stored filter. For example, after the filter is created and temporarily stored, the processor 120 may display an object representing the filter through the display. The processor may store the filter and the object representing the filter in the memory 130 based on a user input for storing the filter while displaying the object representing the filter.
  • the 'filter' uses the tone of the reference image not only for the first input image but also for the image acquired after the filter is created (eg, the image acquired using the camera after the filter is created) to generate a filter.
  • the tone of the reference image used may be reflected.
  • the processor 120 uses transform modules based on different methods (eg, the first method and the second method) according to whether a value representing the distribution of data of the reference image is within a specified range.
  • the electronic device may perform a small amount of calculation, and resource consumption of the electronic device may be reduced.
  • the processor 120 may display the object of the second input image or the third input image, the reference image, and the generated filter through the display.
  • the processor 120 when the processor 120 generates a filter and obtains the second input image by using the filter, the second input image, the reference image, and the object representing the generated filter may be displayed through the display. there is.
  • the processor 120 when the processor 120 generates a filter and obtains a third input image using the filter, the processor 120 may display the third input image, the reference image, and an object representing the generated filter through the display.
  • the processor 120 is configured to display and store a second input image or a third input image, the second input image in a second format (eg, mat(matrix) format) as at least part of a pre-processing operation.
  • the third input image may be converted into a second input image or a third input image in a first format (eg, a bitmap format) as at least part of a post-processing operation.
  • the processor 120 stores the filter in the memory 130 based on the user input while displaying the object representing the second input image or the third input image, the reference image, and the filter through the display. can be saved For example, when the processor 120 receives a user input to store the filter in the memory 130 while displaying the second input image or the third input image, the reference image, and the object representing the filter through the display , a filter (or an object representing the filter) may be stored in the memory 130 .
  • FIG. 5 is a flowchart 500 for explaining a method of obtaining a second input image using a first transformation module based on a first method according to various embodiments of the present disclosure.
  • the embodiments of FIG. 5 may be embodiments of operation 207 of FIG. 2 .
  • the processor 120 may obtain (or calculate) a first average value of data of a first input image and a second average value of reference image data.
  • the processor 120 converts the data of the first input image and the data of the reference image to yCrCb can be converted to data.
  • the processor 120 may obtain, as a first average value, an average value of Cr channel data and an average value of Cb channel data of yCrCb data of the first input image.
  • the processor 120 may obtain, as a second average value, an average value of Cr channel data and an average value of Cb channel data of yCrCb data of the reference image.
  • the processor 120 may acquire a second input image (eg, data of the second input image) having an average value equal to the second average value.
  • the processor 120 may acquire the second input image by using [Equation 3] and [Equation 4] below.
  • Cr I and Cb I may represent Cr channel data and Cb channel data of the first input image, respectively.
  • Mcr R and Mcb R may represent an average value of Cr channel data and an average value of Cb channel data of data of the reference image, respectively.
  • Mcr I and Mcb I may represent an average value of Cr channel data and an average value of Cb channel data of the data of the first input image, respectively.
  • Cr' and Cb' may represent Cr channel data and Cb channel data of the second input image, respectively.
  • the processor 120 calculates a difference (eg, Mcr R - Mcr I ) between average values of the Cr channel of the reference image and the first input image, and stores the data in the Cr channel of the first input image. By summing the differences (eg, Mcr R - Mcr I ), data of the Cr channel of the second input image may be obtained. In an embodiment, the processor 120 calculates a difference (eg, Mcb R - Mcb I ) between average values of the Cb channel of the reference image and the first input image, and stores the data in the Cb channel of the first input image. By summing the differences (eg, Mcb R - Mcb I ), data of the Cb channel of the second input image may be obtained.
  • a difference eg, Mcr R - Mcr I
  • the processor 120 may obtain second input data including data of a Cr channel and data of a Cb channel of a second input image obtained using [Equation 3] and [Equation 4].
  • the y-channel data of the first input data may be the same as the y-channel data of the second input data.
  • the processor 120 may have the Cr' and Cb' as the data of the Cr channel and the data of the Cb channel, respectively, the data of the Cr channel and the data of the Cb channel, and the data of the first input data as the y-channel data.
  • a second input image having the same data as the y-channel data (eg, without an operation on the y-channel data) may be acquired.
  • the first method obtains a first average value of the data of the first input image and a second average value of the reference image data, for example, [Equation 3] and [Equation 4] It may be a method of acquiring the second input image using
  • the first method may include obtaining a difference between average values of data of the input image and the reference image data, and based on the difference between the average values of the data of the reference image and the data of the input image, the input image data (eg, [Equation 3] and [Equation] 4] may be a method of acquiring image data).
  • the first method may be a method of performing the embodiments of operations 501 and 503 (or operations 501 to 505).
  • the first method may be a method of performing the embodiments of operation 207 of FIG. 2 .
  • the first conversion module based on the first method may be a module capable of performing the first method.
  • the first transformation module may use the first method to reflect the tone of the reference image with respect to the first input image, thereby obtaining the second input image.
  • the first transform module may be referred to as a first tone transform module.
  • the processor 120 may match the contrast of the second input image and the contrast of the reference image. For example, the processor 120 may obtain (or calculate) a cumulative histogram of y-channel data of yCrCb data of a reference image. The processor 120 may convert the y-channel data of the second input image to have the same cumulative histogram as the cumulative histogram for the y-channel data of the yCrCb data of the obtained reference image.
  • the processor 120 performs operations 501 and 503 with the y-channel data of the second input image converted to have the same cumulative histogram as the cumulative histogram for the y-channel data of the yCrCb data of the reference image.
  • the operation of matching the contrast of the second input image and the contrast of the reference image in operation 505 may be omitted.
  • the first method is performed through operations 501 to 505
  • the first input image and the format of the reference image is not limited to the yCrCb format.
  • the processor 120 may acquire the second input image by using the first conversion module based on the first method based on HSV data of the first input image and the reference image.
  • FIG. 6 is a flowchart 600 for explaining a method of obtaining a third input image by using a first transformation module based on a second method, according to various embodiments of the present disclosure.
  • the embodiments of FIG. 6 may be embodiments of operation 209 of FIG. 2 .
  • the processor 120 obtains the 1-2 input image by down sampling (also referred to as 'resampling') the 1-1 input image. can do.
  • the 1-1 input image may refer to the same image as the first input image of FIGS. 2 and 5 .
  • the 1-1 input image may be an image having a first resolution.
  • the 1-1 input image may be RGB data.
  • the present invention is not limited thereto, and the 1-1 input image may be data in a format different from the RGB format.
  • the processor 120 may obtain the 1-2 first input image having a second resolution lower than the first resolution by down-sampling the 1-1 input image having the first resolution. For example, the processor 120 downsamples a 1-1 input image having a resolution of 1024*1024 (eg, a 1-1 input image having 1024 horizontal pixels and 1024 vertical pixels) by down-sampling, 36*36 A 1-2 first input image having a resolution (eg, a 1-2 input image having 36 horizontal pixels and 36 vertical pixels) may be acquired.
  • a 1-1 input image having a resolution of 1024*1024 eg, a 1-1 input image having 1024 horizontal pixels and 1024 vertical pixels
  • 36*36 A 1-2 first input image having a resolution (eg, a 1-2 input image having 36 horizontal pixels and 36 vertical pixels) may be acquired.
  • the processor 120 randomly down-samples the 1-1 input image having the first resolution (hereinafter, referred to as 'random down sampling'), thereby lowering the first resolution.
  • a 1-2 first input image having a second resolution may be acquired.
  • the processor 120 uniformly downsamples the 1-1 input image having the first resolution (hereinafter, referred to as 'uniform downsampling'), thereby performing the first
  • the first and second input images having a second resolution lower than the resolution may be acquired.
  • the processor 120 equalizes the number of data corresponding to the second resolution within the data of the 1-1 input image having the first resolution (eg, pixel values of the 1-1 input image). can be selected (or extracted).
  • the processor 120 may be configured to obtain 1-2 input image data having a resolution of 36*36 from data of a 1-1 input image having a resolution of 1024*1024.
  • the average or representative value of pixel values for each block (or area) having a size of about 28 ( ⁇ 1024/36)*28 ( ⁇ 1024/36) for pixel values (e.g., the first data of each block) value) can be obtained (or calculated).
  • the processor 120 may acquire the first and second input data composed of average values or representative values of the obtained pixel values and having a resolution of 36*36.
  • the amount of calculation performed by the electronic device may be reduced and processing speed may be improved.
  • the processor 120 may acquire the 1-2 th reference image by down-sampling the 1-1 th reference image.
  • the 1-1 reference image may refer to the same image as the reference image of FIGS. 2 and 5 .
  • the 1-1 reference image may be an image having a third resolution.
  • the third resolution of the 1-1 reference image may be different from the first resolution of the 1-1 input image.
  • the third resolution of the 1-1 reference image may be the same as the first resolution of the 1-1 input image.
  • the 1-1 reference image may be RGB data.
  • the present invention is not limited thereto, and the 1-1 reference image may be data in a format different from the RGB format.
  • the processor 120 may acquire the 1-2 reference image having a second resolution lower than the third resolution by down-sampling the 1-1 reference image having the third resolution.
  • the second resolution of the 1-2 reference image may be the same as the second resolution of the 1-2 input image.
  • the present invention is not limited thereto, and the second resolution of the 1-2 reference image may be different from the second resolution of the 1-2 input image.
  • the processor 120 may obtain a 1-2 reference image having a second resolution lower than the third resolution by randomly down-sampling a 1-1 reference image having a third resolution. .
  • the processor 120 may equally down-sample the 1-1 reference image having the third resolution to obtain the 1-2 first input image having a second resolution lower than the first resolution. .
  • the processor 120 down-samples the 1-1 input image having a first resolution (eg 1024*1024), whereby a second resolution (eg 36*36) which is significantly lower than the first resolution. Acquire the first 1-2 input image with ), and then performing the following embodiments of operations 605 to 609, it is possible to shorten the time for processing the image and reduce the amount of association for processing the image.
  • a first resolution eg 1024*1024
  • a second resolution eg 36*36
  • the processor 120 performs iterative distribution transfer on the 1-2 input image and the 1-2 reference image a specified number of times by performing iterative distribution transfer on the 1-3 th input image. can be obtained.
  • the processor 120 generates and projects a rotation matrix as part of an operation of repeatedly performing distribution transformation a specified number of times on the 1-2 input image and the 1-2 reference image. (projection) (also referred to as 'projection') may be performed.
  • projection also referred to as 'projection'
  • FIG. 7 a method of generating a rotation matrix and performing projection according to an embodiment will be described with reference to FIG. 7 .
  • FIG. 7 is an exemplary diagram for explaining a method of generating a rotation matrix and performing projection, according to various embodiments of the present disclosure.
  • the processor 120 may generate a rotation matrix.
  • the processor 120 is configured to rotate a probability density function (hereinafter, referred to as 'pdf') of the 1-2 input image and a pdf of the 1-2 reference image by the same angle. You can create matrices.
  • each of the plurality of rotation matrices may be a matrix for rotating pdfs of the 1-2 first input image and the 1-2 reference image at a randomly selected angle.
  • the processor 120 may generate a specified number of a plurality of rotation matrices.
  • the number of the plurality of rotation matrices is three, and the plurality of rotation matrices include a first rotation matrix, a second rotation matrix, and a third rotation matrix.
  • the processor 120 multiplies (eg, performs a multiplication operation) a first rotation matrix by each of the pdf of the first 1-2 input image and the pdf of the first 1-2 reference image, whereby the rotated first -2 It is possible to obtain the pdf of the input image and the pdf of the rotated 1-2 reference image.
  • the processor 120 may project the pdf of the rotated 1-2 input image and the pdf of the rotated 1-2 reference image. For example, the processor 120 accumulates each of the pdf of the two-dimensional rotated 1-2 input image and the pdf of the two-dimensional rotated 1-2 reference image with respect to a designated axis. By summing with , it can be converted into 1-dimension data.
  • diagram 710 of FIG. 7 shows a pdf 731 of a first 1-2 input image rotated by a rotation matrix having a rotation angle of 0 degrees, and a pdf 731 of a first 1-2 input image rotated by 0 degrees.
  • a graph 734 of one-dimensional pdf data obtained by projecting the pdf on a designated axis may be shown.
  • the first portion 732 of the pdf of the first 1-2 input image 731 has a higher probability value (or histogram value) having a pixel value corresponding to a higher brightness than the second portion 733 .
  • one-dimensional pdf data may be obtained by cumulatively summing the pdfs of the two-dimensional first and second input images with respect to a designated axis.
  • the figure 710 exemplifies the case of projecting the pdf of the rotated 1-2 input image obtained by multiplying the pdf of the 1-2 input image with a rotation matrix having a rotation angle of 0 degrees
  • the processor ( 120) may project the pdf of the rotated 1-2 reference image obtained by multiplying the pdf of the 1-2 reference image with a rotation matrix having a rotation angle of 0 degrees.
  • diagram 720 of FIG. 7 shows a pdf 731 of a first 1-2 input image rotated by a rotation matrix having a rotation angle of 45 degrees, and a pdf 731 of a first 1-2 input image rotated by 45 degrees.
  • a graph 735 of one-dimensional data obtained by projecting the pdf on a designated axis may be shown.
  • the first portion 732 of the pdf of the first 1-2 input image 731 has a greater probability value (or histogram) having a pixel value corresponding to a higher brightness than the second portion 733 .
  • one-dimensional pdf data may be acquired by cumulatively summing the pdfs of the two-dimensional first and second input images with respect to a designated axis.
  • the diagram 720 exemplifies the case of projecting the pdf of the rotated 1-2 input image obtained by multiplying the pdf of the 1-2 input image with a rotation matrix having a rotation angle of 45 degrees
  • the processor 120 may project the pdf of the rotated 1-2 reference image, obtained by multiplying the pdf of the 1-2 reference image with a rotation matrix having a rotation angle of 45 degrees.
  • FIG. 7 illustrates a case where there are two rotation matrices, but is not limited thereto.
  • the number of generated rotation matrices may be specified by a designer or a user.
  • the processor 120 performs a first transformation through rotation and projection using a first rotation matrix, respectively, on the pdf of the first 1-2 input image and the pdf of the 1-2 reference image.
  • a second transformation through rotation and projection may be performed using the second rotation matrix
  • a third transformation may be performed through rotation and projection using the first rotation matrix.
  • the first to third transforms may refer to matrices (eg, radon transform) obtained by multiplying a rotation matrix and a matrix for projection.
  • the processor 120 is configured to convert a conversion result of the pdf of the first 1-2 input image and a conversion result of the pdf of the 1-2 reference image to be most similar among the first to third conversions. can be selected.
  • the processor 120 may use a mean square error algorithm between the one-dimensional pdf data in which the pdf of the first and second input images are converted and the first and second reference images among the first to third transformations. Transformation can be selected so that the error between the pdf converted one-dimensional pdf data is the smallest.
  • the processor 120 is configured to, when one transformation (hereinafter, referred to as a 'selected transformation') is selected from among the first transformations to the third transformations, the pdf of the 1-2th input image and the 1-2th transformation
  • One-dimensional pdf data of the first 1-2 input image, in which the pdf of the reference image is converted by the selected transformation may be matched (or mapped) with the one-dimensional pdf data of the 1-2 reference image.
  • the processor 120 may designate (or set) the one-dimensional pdf data of the 1-2 reference image transformed by the selected transformation as the one-dimensional pdf data of the 1-2 input image.
  • the processor 120 is configured to: 1D pdf data of the 1-2 input image matched with 1D pdf data of the 1-2 reference image (eg, 1D pdf data of the 1-2 reference image) ), by performing an inverse transform of the selected transform, the 1-2-1th input image may be obtained.
  • the processor 120 may repeatedly perform operations similar to the operations for acquiring the 1-2-1th input image described above for a specified number of times. For example, after acquiring the 1-2-1 th input image, the processor 120 may regenerate rotation matrices with a rotation angle selected at random and a specified number. The processor 120 may perform transformations using the generated rotation matrices based on the pdf of the 1-2-1 th input image and the pdf of the 1-2 th reference image, and select one transformation from among the transformations. there is. The processor 120 matches the one-dimensional pdf data of the 1-2-1 input image, transformed by the selected transformation, with the one-dimensional pdf data of the 1-2 reference image, and performs an inverse transformation of the selected transformation, A 1-2-2 th input image may be acquired.
  • the processor 120 may acquire the 1-3 th input image by repeatedly performing operations similar to the above-described operations for acquiring the 1-2-1 th input image for a specified number of times. .
  • the iterative distribution transformation operation is performed using a probability density function (pdf) corresponding to an image (eg, image data)
  • the present invention is not limited thereto.
  • the processor 120 may perform an iterative distribution transformation operation using a histogram corresponding to an image (eg, image data).
  • the more the number of times of repeatedly performing operations similar to the operations for acquiring the 1-2-1 first input image described above the more accurately the input image capable of reflecting the tone of the reference image may be acquired. there is.
  • the number of times of repeatedly performing operations similar to those for obtaining the 1-2-1th input image described above increases, the amount of computation of the electronic device may increase.
  • an input image capable of more accurately reflecting the tone of the reference image may be acquired, but the amount of computation of the electronic device may be increased.
  • At least one of the number of repeatedly performing operations similar to the operations for obtaining the 1-2-1th input image or the number of generated plurality of rotation matrices may be specified by a designer or a user. there is.
  • the processor 120 performs a regression ('upsampling), based on the 1-2 th input image and the 1-3 th input image. Also referred to as ), the 1-4th input image may be obtained.
  • the processor 120 may obtain the 1-4 th input image by performing linear regression based on the 1-2 th input image and the 1-3 th input image. .
  • the processor 120 may obtain (or estimate) a correlation (eg, a correlation coefficient) between the 1-2 th input image and the 1-3 th input image by using linear regression.
  • a correlation eg, a correlation coefficient
  • the processor 120 may obtain the 1-4th input image from the 1-1th input image by using the obtained correlation.
  • the processor 120 may obtain the 1-4th input image from the 1-1th input image using Equation 5 below.
  • y may represent the 1-4th input image as a dependent variable.
  • X may represent a 1-1 input image as an independent variable.
  • ⁇ may be a coefficient indicating a correlation between the 1-2 th input image and the 1-3 th input image. ⁇ may represent an error.
  • the processor 120 performs linear regression on the basis of the 1-2 input image and the 1-3 input image having the second resolution, whereby the first resolution of the 1-1 input image is performed. It is possible to obtain the 1-4th input image having the same resolution as .
  • the processor 120 may obtain a correlation between a 1-2 th input image having a resolution of 36*36 and a 1-3 th input image having a resolution of 36*36.
  • the processor 120 may obtain a 1-4th input image having a resolution of 1024*1024 from a 1-1 input image having a resolution of 1024*1024 by using the obtained correlation.
  • the processor 120 may perform an operation of acquiring a 1-4 th input image from a 1-1 input image using the obtained correlation in parallel through a graphic processor unit (GPU).
  • the processor 120 performs an operation of obtaining the 1-4th input image from the 1-1th input image using the obtained correlation in parallel through the GPU, thereby improving the processing speed. and can secure real-time performance.
  • the processor 120 may acquire 1-4 th input images using bilateral guided upsampling.
  • the processor 120 may obtain a third input image by blending the 1-1th input image and the 1-4th input image.
  • the processor 120 may obtain the third input image by performing alpha blending by overlapping the 1-1th input image and the 1-4th input image at a 1:1 ratio. .
  • the processor 120 is configured to blend a first input image (eg, a 1-1 input image) and a result image (eg, a 1-4 th input image) to obtain the first image as the original image.
  • a first input image eg, a 1-1 input image
  • a result image eg, a 1-4 th input image
  • An image capable of reflecting the tone of the reference image eg, the 1-1 reference image
  • the second method may be a method performed through the above-described embodiments of operations 601 to 609 (or the embodiments of operation 209 of FIG. 2 ).
  • the second conversion module based on the second method may be a module capable of performing the second method.
  • the second transformation module may use the second method to reflect the tone of the reference image with respect to the first input image, thereby obtaining the third input image.
  • the second transform module may be referred to as a second tone transform module.
  • FIG. 8 is a flowchart 800 for explaining a method of reflecting a tone of a reference image with respect to objects included in an input image using segmentation, according to various embodiments of the present disclosure.
  • FIG. 9 is an exemplary diagram 900 for explaining a segmentation operation according to various embodiments.
  • the embodiments of FIGS. 8 and 9 may be embodiments of operation 209 of FIG. 2 .
  • the processor 120 acquires information on one or more objects by recognizing one or more objects included in the 1-1 input image.
  • the 1-1th input image may refer to the same image as the first input image of FIG. 2 .
  • the processor 120 recognizes one or more objects in the 1-1 input image by performing segmentation, and obtains one or more layers respectively corresponding to the recognized one or more objects. (or create)
  • image 910 may include a human object 911 , a building object 912 , a sky object 913 , and a nature object 914 .
  • the processor 120 may recognize objects included in the image 910 by performing segmentation, and obtain layers for each of the recognized objects. For example, in FIG. 9 , the processor 120 performs segmentation, such that a person object 911, a building object 912, a sky object 913, and a nature object 914 included in the image 910 are A layer 920 for a human object 911, a layer 930 for a building object 912, a layer 940 for a sky object 913, and a layer 940 for a nature object 914 ( 950) can be obtained.
  • each of the layers 920 to 950 includes a data value of a region representing an object (eg, '1' as a bit value) and a data value of a region not representing objects (eg, as a bit value). It may be composed of data including '0').
  • each of the layers 920 to 950 may be configured with data including probability values of being recognized as an object with respect to the layer region. For example, in FIG. 9 , regions 921 , 932 , 943 , and 954 of layers 920 to 950 may represent data values of a region representing an object or probability values of a region representing the object.
  • the processor 120 may obtain information on one or more objects of the 1-1th input image recognized by performing segmentation. For example, the processor 120 may obtain information on one or more layers of one or more objects of the 1-1 input image. For another example, the processor 120, in the 1-1 input image, for each of the one or more recognized objects (eg, by mapping to each of the recognized one objects), a corresponding (or corresponding) ) may obtain information on coordinates of a region including the object (or in which the object is recognized).
  • the processor 120 may acquire the 1-2 th input image by down-sampling the 1-1 th input image.
  • the processor 120 may acquire the 1-2 th reference image by down-sampling the 1-1 th reference image.
  • the processor 120 may acquire the 1-3 th input image by performing iterative distribution transformation on the 1-2 th input image and the 1-2 th reference image a specified number of times. .
  • the processor 120 may obtain the 1-4 th input image by performing regression based on the 1-2 th input image and the 1-3 th input image.
  • the processor 120 is configured to obtain a third input image by blending the 1-1 th input image and the 1-4 th input image based on the information about the one or more objects.
  • the processor 120 may perform a third input by blending a 1-1 input image and a 1-4 input image based on the information on one or more objects obtained through the embodiments of operation 801 . image can be obtained.
  • the processor 120 may obtain a third input image by applying a different intensity (or degree) to each one or more objects, based on information about the one or more objects.
  • a different intensity or degree
  • the processor 120 blends the 1-1 th input image and the 1-4 th input image, based on the information on the one or more objects, the one or more objects of the 1-4 th input image are
  • a third input image may be obtained by applying a different intensity (or blending value) (eg, an alpha value of alpha blending) to at least some of the included regions.
  • the processor 120 may acquire the third input image by applying a specified intensity to one or more objects based on a category of an object included in the input image. For example, when the input image includes a human object, the processor 120 may apply an alpha value smaller than an alpha value applied to a background of the input image to an area including the human object.
  • the processor 120 may obtain a third input image by applying a specified intensity to one or more objects based on an area of an object (or a region including the object) included in the input image. can For example, when the ratio of the area of the object to the total area of the input image is equal to or greater than a specified ratio, the processor 120 applies a higher intensity to the area including the object than other areas of the input image, thereby performing the third An input image can be obtained.
  • the processor 120 may acquire the third input image by applying an intensity to one or more objects based on the user input. For example, the processor 120 may set (or adjust) the intensity of a region including the selected object based on the user input with respect to an object selected based on the user input in the input image.
  • the processor 120 minimizes (or removes) halo artifacts that may occur when different intensities are applied to one or more objects based on information on the one or more objects.
  • various operations may be performed. For example, when blending the 1-1 input image and the 1-4 th input image in order to minimize halo artifacts, the processor 120 determines that a difference between intensities applied to one or more objects is less than or equal to a specified difference. It is possible to set the intensities applied to one or more objects so that .
  • the processor 120 may remove halo artifacts using a specific filter (eg, an edge preserving filter) as part of a post processing operation.
  • a specific filter eg, an edge preserving filter
  • FIG. 10 is a flowchart 1000 for explaining a method of reflecting a tone of a reference image with respect to objects included in an input image using segmentation, according to various embodiments of the present disclosure.
  • 11 is an exemplary diagram 1100 for explaining a segmentation operation according to various embodiments of the present disclosure.
  • the embodiments of FIGS. 10 and 11 may be embodiments of operation 209 of FIG. 2 .
  • the processor 120 is configured to obtain one or more 1-1 layers for each of one or more objects included in a 1-1 input image.
  • the 1-1th input image may refer to the same image as the first input image of FIG. 2 .
  • the processor 120 recognizes one or more objects in the 1-1 input image by performing segmentation, and obtains one or more 1-1 layers respectively corresponding to the recognized one or more objects. (or create)
  • the processor 120 recognizes one or more objects in the 1-1 input image by performing segmentation, and obtains one or more 1-1 layers respectively corresponding to the recognized one or more objects.
  • Embodiments of the operation are at least partially the same as those of the operation of obtaining information on one or more objects by recognizing one or more objects included in the 1-1 input image of operation 801 of FIG. 8 . Since they are similar, detailed descriptions will be omitted.
  • the processor 120 may obtain one or more 2-1 th layers for each of one or more objects included in the reference image.
  • the processor 120 recognizes one or more objects in the reference image image by performing segmentation, and obtains (or generates one or more 2-1 layers respectively corresponding to the recognized one or more objects). )can do.
  • the number of the one or more 1-1 layers obtained through the embodiments of operation 1001 may be different from or the same as the number of the one or more 2-1 layers obtained through the embodiments of operation 1003 .
  • the processor 120 may map one or more 1-1 th layers and one or more 2-1 th layers.
  • the processor 120 may map one or more 1-1 layers and one or more 2-1 layers to be mapped between layers of the same object. For example, the processor 120 may configure a layer for a human object (eg, when an object is recognized as a human) among one or more 1-1 layers, and a layer for a human object among one or more 2-1 layers. A layer may be mapped, and a layer for a sea object (eg, when an object is recognized as a sea) among one or more 1-1 layers and a layer for a sea object among one or more 2-1 layers may be mapped. there is.
  • a human object eg, when an object is recognized as a human
  • a layer for a human object among one or more 2-1 layers mapped.
  • an image 1110 may represent a 1-1 input image
  • an image 1130 may represent a reference image
  • image 1120 and image 1140 correspond to image 1110 and image 1130 , respectively, and include one or more 1-1 layers and one or more 2-1 th layers. These may be images for describing mapping between layers.
  • the processor 120 may map a layer for the human object 1121 among one or more 1-1 layers and a layer for the human object 1141 among one or more 2-1 layers.
  • the processor 120 may map a layer for the sky object 1122 among one or more 1-1 layers and a layer for the sky object 1142 among one or more 2-1 layers.
  • the processor 120 may map a layer for the sea object 1123 among one or more 1-1 layers and a layer for the sea object 1143 among one or more 2-1 layers.
  • the processor 120 is configured to include, when a first object among the one or more objects in the reference image does not correspond to one or more objects in the 1-1 input image, including a correspondence relationship between the objects, and Using the mapping table stored in 130 , the first object may be designated as the same object as the second object, which is different from the first object among one or more objects in the reference image.
  • the processor 120 uses a mapping table when there is no tree object corresponding to the tree object 1144 in the image 1140 among the objects 1121 to 1123 in the image 1120 . Accordingly, the tree object 1144 may be designated as the same object as the human object 1141 among the objects 1141 to 1143 in the image 1140 .
  • the processor 120 sets the layer for the first object and the layer for the second object as one It can be combined into layers.
  • the processor 120 when the third object among the one or more objects in the 1-1 input image does not correspond to the one or more objects in the reference image, the processor 120 is configured to use the mapping table to configure the third object may be designated as the same object as the fourth object that is different from the third object among one or more objects in the 1-1 input image.
  • the processor 120 is configured to, when designating a third object as the same object as the fourth object among one or more objects in the 1-1 input image, the layer for the third object and the layer for the fourth object Layers can be combined into one layer.
  • the processor 120 down-samples the one or more 1-1 layers and the one or more 2-1 layers by down-sampling the one or more first 1-2 layers and the one or more second-order layers. 2 layers can be obtained.
  • the processor 120 is configured to down-sample one or more 1-1 layers having a first resolution (eg, 1024*1024), respectively, to a second resolution (36*36) lower than the first resolution. ) may be obtained as one or more first 1-2 layers.
  • the processor 120 is configured to, by randomly down-sampling one or more of the first 1-1 layers having the first resolution, respectively, the one or more first 1-2 layers having a second resolution lower than the first resolution. can be obtained
  • the processor 120 is configured to: a region including an object (eg, a region in which the bit value of data of the layer is '1' or By randomly selecting data of the number of pixels corresponding to the second resolution in an area in which the probability value of being recognized as an object is greater than or equal to a specified probability value (eg, data of an area including an object), one or more items having a second resolution Each of the first and second layers may be obtained.
  • a region including an object eg, a region in which the bit value of data of the layer is '1' or By randomly selecting data of the number of pixels corresponding to the second resolution in an area in which the probability value of being recognized as an object is greater than or equal to a specified probability value (eg, data of an area including an object)
  • a specified probability value eg, data of an area including an object
  • the processor 120 is configured to down-sample one or more 2-1 layers having a third resolution, respectively, by down-sampling the one or more second layers having a second resolution (36*36) lower than the third resolution. -2 layers can be obtained.
  • the processor 120 may perform random downsampling of the one or more 2-1 layers having a third resolution, respectively, to generate one or more 2-2 layers having a second resolution lower than the third resolution.
  • the processor 120 randomly generates data of the number of pixels corresponding to the second resolution in the area including the object among the entire area of each of the one or more 2-1 layers having the third resolution. By selecting, each of the one or more second-second layers having the second resolution may be obtained.
  • the processor 120 performs down-sampling based on the category of the object, whereby one or more first 1-2 layers and one or more second layers including a plurality of mapped layer pairs having different resolutions are performed.
  • -2 layers can be obtained.
  • the processor 120 may determine that a first layer of one or more 1-1 layers and a second layer of one or more 2-1 layers are mapped, and the first layer and the second layer are human objects.
  • the third layer and the fourth layer having the second resolution may be obtained through down-sampling.
  • the processor 120 is configured such that a fifth layer of one or more 1-1 layers and a sixth layer of one or more 2-1 layers are mapped, and the fifth layer and the sixth layer are layers for a sea object. In this case, the seventh layer and the eighth layer having a fourth resolution greater than the second resolution may be obtained through downsampling.
  • the processor 120 performs downsampling based on an area of a region including an object in a reference image or a ratio of a region including an object to an area of a reference image, thereby performing down-sampling of a plurality of One or more first 1-2 layers and one or more 2-2 layers including mapped layer pairs may be obtained.
  • the processor 120 is configured such that a first layer of one or more 1-1 layers and a second layer of one or more 2-1 layers are mapped, and the first layer and the second layer are first
  • a third having a fifth resolution smaller than the second resolution through downsampling A layer and a fourth layer may be obtained.
  • the processor 120 obtains one or more 1-3 th layers by performing iterative distribution transformation on one or more 1 - 2 layers and one or more 2 - 2 layers. can do.
  • the processor 120 may perform iterative distribution transformation between mapped layers among one or more first 1-2 layers and one or more second-2 layers. For example, the processor 120 performs iterative distribution transformation on a first layer of one or more first 1-2 layers and a second layer mapped to a first layer of one or more second-2 layers. can do. For another example, the processor 120 performs iterative distribution transformation on a third layer of one or more of the first 1-2 layers and a fourth layer mapped with a third layer of the one or more second-2 layers. can be done
  • the processor 120 is at least partially identical to or similar to the examples of performing iterative distribution transformation on the 1-2 th input image and the 1-2 th reference image described in operation 605 of FIG. 6 . , it is possible to perform iterative distribution transformation between mapped layers. In an embodiment, the processor 120 may obtain one or more 1-3 th layers by performing iterative distribution transformation between mapped layers.
  • the processor 120 may iteratively perform distribution transformation with respect to the plurality of mapped layer pairs a different number of times according to objects included in each of the plurality of mapped layer pairs.
  • the processor 120 may be configured with a first layer of one or more first and second layers.
  • iterative distribution transformation may be performed on the first layer and the second layer a first number of times.
  • the processor 120 is configured with a third layer of the one or more first and second layers.
  • iterative distribution transformation is performed a second number of times more than the first number of times with respect to the third layer and the fourth layer. can be done
  • the processor 120 may generate, for the plurality of mapped layer pairs, a different number of a plurality of rotation matrices according to objects associated with each of the plurality of mapped layer pairs.
  • the processor 120 may be configured with a first layer of one or more first and second layers.
  • the second layer mapped to the first layer among the one or more 2-2 layers is the layers for the first object, in order to transform the first layer and the second layer (eg, radon transform), the first number of A plurality of rotation matrices may be generated.
  • the processor 120 is configured with a third layer of the one or more first and second layers.
  • the processor 120 is configured to, when a different number of a plurality of rotation matrices are generated for the objects, to obtain one or more first 1-3 layers based on the generated different number of the plurality of rotation matrices.
  • the processor 120 performs iterative distribution transformation for the plurality of mapped layer pairs a different number of times according to objects associated with each of the plurality of mapped layer pairs, and each iterative distribution transformation It is possible to generate a plurality of rotation matrices of different numbers while performing .
  • the processor 120 determines, for a pair of mapped layers associated with a specified object, at least one of a number of times to perform an iterative distribution transformation or a number of a plurality of rotation matrices to generate, the mapped layer associated with another object. It can be set differently from layer pairs. For example, the processor 120 sets at least one of the number of times of performing the iterative distribution transformation or the number of generated rotation matrices on the pair of mapped layers related to the human object to another object (eg, the sea object). ) can be set differently from the associated mapped layer pair.
  • the processor 120 calculates, based on the category of the object, at least one of the number of times of performing the iterative distribution transformation or the number of generated rotation matrices on the mapped layer pair with another object. It can be set differently from a pair of related mapped layers. For example, the processor 120 selects at least one of the number of times of performing the iterative distribution transformation or the number of generated rotation matrices on the pair of mapped layers related to the sky object, the mapped layer related to the human object. It can be set differently from the pairs.
  • the processor 120 is configured to perform the iterative distribution transformation on the basis of the area of the area including the object in the reference image or the ratio of the area including the object to the area of the reference image, or the number of times to generate the iterative distribution transformation.
  • At least one of the number of rotation matrices of For example, when a ratio of an area of a region including the first object in the reference image to an area of the reference image is equal to or less than a specified ratio, the processor 120 repeats the pair of layers associated with the first object and mapped
  • the number of times to perform distribution transformation and/or the number of a plurality of rotation matrices to generate depends on the number of times to perform an iterative distribution transformation on a pair of layers associated with and mapped to another object and/or to the number of rotation matrices to generate. It can be set smaller than
  • the processor 120 may set at least one of the number of times of performing iterative distribution transformation on the mapped layer pair or the number of generated rotation matrices, based on a user input.
  • the processor 120 obtains a 1-4 th layer (or image) by combining one or more 1-3 th layers, and by combining one or more 1-3 th layers, Layers 1-5 may be obtained.
  • the processor 120 may obtain the 1-4 th layers by summing pixel values corresponding to the same pixel position in one or more 1-3 th layers for each pixel position (eg, one or more 1-4 th layers). The sum of the pixel values at the (1, 1) position of each of the 1-3 layers is the pixel value at the (1, 1) pixel position of the 1-4th layer).
  • the processor 120 may obtain the 1st-5th layer by summing pixel values corresponding to the same pixel position in the one or more 1st-2nd layers down-sampled by the one or more 1st-1st layers.
  • the processor 120 performs the 1-4 th layers and 1-5 th layers. By performing regression based on the layer, the 1-2 th input image may be obtained.
  • layers 1-4 and 1-5 of operation 1013 Examples of the operation of obtaining the 1-2th input image by performing regression based on the layer include regression based on the 1-2th input image and the 1-3th input image in operation 607 of FIG. 6 . Since at least some of the embodiments for the operation of acquiring the 1-4th input image by performing ? are the same or similar, a detailed description thereof will be omitted.
  • the processor 120 may obtain a third input image by blending the 1-1 input image and the 1-2 input image.
  • the processor 120 is configured to apply a specified intensity to one or more objects based on a category of an object included in the 1-2 first input image (or the 1-1 input image), thereby performing the third An input image can be obtained. For example, when a human object is included in the first and second input images, the processor 120 may apply an alpha value smaller than an alpha value applied to the background (or background object) of the input image to the region including the human object. can be applied.
  • the processor 120 applies a specified intensity to one or more objects based on an area of an object (or a region including the object) included in the 1-2 input image, thereby performing the third input image can be obtained. For example, when the ratio of the area of the first object to the entire area of the first and second input images is equal to or greater than a specified ratio, the processor 120 may be configured to change the first and second input images with respect to the area including the first object. By applying a higher intensity than other regions, a third input image may be obtained.
  • the processor 120 is configured to, based on a difference between the histograms of an object commonly included in the 1-1 input image and the 1-1 reference image, the 1-1 input image and the 1-1 th reference image. It is possible to set the application intensity for an object commonly included in the reference image. For example, with respect to the first object commonly included in the 1-1 input image and the 1-1 reference image, the processor 120 may determine a region including the first object in the 1-1 input image. When the difference between the histogram and the histogram of the region including the first object in the 1-1 reference image is equal to or greater than the specified difference, the 1-1 input image and the 1-2 input image are blended.
  • the application intensity for the region including the first object in the .NET may be set to be low (eg, a low alpha value may be applied to the region including the first object).
  • the processor 120 may prevent the tone of the 1-1 input image from being abruptly changed to the tone of the third input image.
  • the processor 120 may acquire the third input image by applying an intensity to one or more objects based on the user input. For example, the processor 120 may set (or adjust) the intensity of a region including the selected object with respect to an object selected based on the user input in the first input image based on the user input.
  • the processor 120 may perform various operations to minimize (or remove) halo artifacts that may be generated by performing segmentation. For example, when the processor 120 blends the 1-1 input image and the 1-2 input image in order to minimize halo artifacts, a difference between intensities applied to one or more objects is less than or equal to a specified difference It is possible to set the intensities applied to one or more objects so that . As another example, the processor 120 may remove halo artifacts using a specific filter (eg, an edge preserving filter) as part of a post processing operation.
  • a specific filter eg, an edge preserving filter
  • 12A and 12B are exemplary diagrams for explaining a method of providing a filter using a camera application, according to various embodiments.
  • a drawing 1201 may represent a screen including a first image 1210 and images corresponding to pre-stored filters.
  • the processor 120 may display the first image 1210 as a preview image input in real time through a camera application through a display (eg, the display device 160 ). In an embodiment, the processor 120 may receive a user input for displaying a filter for reflecting a specified tone of the image in the first image 1210 .
  • the processor 120 as shown in the figure 1201, a first image 1210, an object 1211 for capturing (or photographing) an image corresponding to the first image 1210 , an object 1213 for displaying at least one first filter (eg, at least one filter generated by a manufacturer (or developer) of a camera application, received from an external device, or created using a specified program) , an object 1214 for displaying at least one second filter that has been created and stored by the user of the electronic device 101 and an object for newly generating a filter, and an image representing at least one first filter (eg: The image 1215-2 and the image 1215-3) may be displayed through the display.
  • a first filter eg, at least one filter generated by a manufacturer (or developer) of a camera application, received from an external device, or created using a specified program
  • an object 1214 for displaying at least one second filter that has been created and stored by the user of the electronic device 101 and an object for newly generating a filter
  • an image representing at least one first filter e
  • the processor 120 is configured to reduce (eg, displayed in thumbnail form) an image to which a tone of an image corresponding to each of at least one first filter is applied to the first image 1210 (eg, displayed in thumbnail form). :
  • the image 1215-2 and the image 1215-3) can be displayed through the display.
  • the processor 120 includes text (eg, "warm” and "calm") representing the tone of the image applied to the images 1215-2 and 1215-3, respectively.
  • An image 1215 - 2 and an image 1215 - 3 may be displayed through the display.
  • the processor 120 may display, through the display, the first image 1215 - 1 in which the tone of the image is not applied to the first image 1210 .
  • the processor 120 includes text (eg, "original") indicating that the first image 1210 is a reduced image 1215 - 1 to which the tone of the image is not applied. To do this, the reduced image 1215 - 1 of the first image 1210 may be displayed through the display.
  • the drawing 1203 may represent a screen including a first image 1220 , images corresponding to pre-stored filters, and an object 1221-1 for creating a new filter.
  • the drawing 1203 may represent a screen displayed through the display when a user input (eg, a touch input) for the object 1214 is received in the drawing 1201 .
  • the processor 120 as shown in the drawing 1203, a first image 1220, an image representing at least one second filter that has been generated and stored by the user of the electronic device 101 (eg, images 1221-3 and images 1221-4), an object 1221-1 for creating a new filter, and an image 1221-2 of which the first image is reduced through the display.
  • a first image 1220 an image representing at least one second filter that has been generated and stored by the user of the electronic device 101 (eg, images 1221-3 and images 1221-4), an object 1221-1 for creating a new filter, and an image 1221-2 of which the first image is reduced through the display.
  • the processor 120 may display an image representing the at least one second filter through the display in a reduced form to which the tone of the reference image is applied when the at least one second filter is generated.
  • the processor 120 includes names representing images 1221-3 and 1221-4, respectively (eg, "Filter1" and “Filter2"). The image 1221-3 and the image 1221-4 may be displayed through the display.
  • the processor 120 includes text (eg, "original") indicating that the first image 1220 is a reduced image 1221 - 2 to which the tone of the image is not applied. To do this, the reduced image 1221-1 of the first image 1220 may be displayed through the display.
  • the drawing 1205 may represent a screen including one or more second images 1230 stored in a gallery application. According to an embodiment, the drawing 1205 may represent a screen displayed through a display when a user input (eg, a touch input) for the object 1221-1 is received in the drawing 1203 .
  • a user input eg, a touch input
  • the processor 120 may display the one or more second images 1230 stored in the gallery application in a reduced form (eg, a thumbnail form) through the display.
  • the processor 120 may display one or more second images 1230 stored in the gallery application through the display based on a user input for the object 1221-1 for generating a filter. .
  • the drawing 1207 may represent a screen displayed when the image 1231 is selected from among one or more second images 1230 .
  • the processor 120 may select the image 1231 as a reference image based on a user input (eg, a touch input for the image 1231 ) among one or more second images 1230 . .
  • the processor 120 may determine whether a value indicating a data distribution of the image 1231 as a reference image is within a specified range.
  • the processor 120 determines that a value representing the distribution of data of the image 1231 (eg, at least one of a standard deviation or an entropy value of a histogram) is within a specified range, based on the first method
  • a second input image may be acquired based on the input image (eg, the first image 1210 or the first image 1220 ) and the image 1231 using the first transformation module.
  • the processor 120 determines that the value representing the distribution of data of the image 1231 is within a specified range (eg, when the image 1231 is identified as a monotone image)
  • the data of the input image A first average value and a second average value of the data of the image 1231 may be obtained.
  • the processor 120 may acquire a second input image (eg, data of the second input image) having the same average value as the second average value.
  • the processor 120 may match the contrast of the second input image and the contrast of the image 1231 as the reference image.
  • the processor 120 uses a second transformation module based on the second method to generate an input image (eg: A third input image may be acquired based on the first image 1210 or the first image 1220) and the image 1231 .
  • the processor 120 determines that the value representing the distribution of data of the image 1231 is within a specified range (eg, when the image 1231 is identified as a color image)
  • the input image data and the reference A down-sampling operation may be performed on the image 1231 as an image.
  • the processor repeats distribution transformation of the down-sampled input image data (eg, the 1-2 input image of FIG.
  • an input image (eg, the 1-3 input images of FIG. 6 ) may be acquired.
  • the processor 120 performs regression on the down-sampled input image input image (eg, the 1-2 th input image of FIG. 6 ) and the input image (eg, the 1-3 th input image of FIG. 6 ).
  • a result input image (eg, input images 1-4 of FIG. 6 ) may be acquired.
  • the processor may obtain a third input image by blending the input image (eg, first image 1210 or first image 1220) and the resulting input image (eg, 1-4 input images of FIG. 6 ). can
  • the processor acquires information about one or more objects by recognizing one or more objects included in an input image (eg, the first image 1210 or the first image 1220) through segmentation. can do.
  • the processor may perform a downsampling operation, iterative distribution transformation for a specified number of times, and regression.
  • the processor is configured to, based on information about one or more objects included in the input image (eg, the first image 1210 or the first image 1220), at least one object (eg, one or more A blending operation capable of applying a specified intensity to at least one object selected by the user among the objects) may be performed.
  • the processor 120 recognizes one or more objects included in an input image (eg, the first image 1210 or the first image 1220) through segmentation, and as shown in FIG. As described through the embodiments, at least one of the number of times of performing the iterative distribution transformation or the number of the plurality of rotation matrices may be differently set according to one or more objects.
  • the processor may acquire the third input image by using a second transformation module in which at least one of the number of times of performing the iterative distribution transformation or the number of the plurality of rotation matrices is set differently.
  • the processor 120 by using the generated filter, the first image 1240 (eg, the second input image) in which the tone of the selected image 1231 is reflected. or the third input image) may be displayed through the display.
  • the first image 1240 eg, the second input image
  • the tone of the selected image 1231 is reflected. or the third input image
  • the processor 120 may display the selected image 1231 (eg, a reference image) together with the first image 1240 through the display.
  • the processor 120 may display the image 1231 together with the first image 1240 through the display in the form of being overlaid on the first image 1240 .
  • the processor 120 may display text (eg, “filter 7”) 1241 indicating the name of the newly created filter in the first image 1240 through the display.
  • text eg, “filter 7”
  • the processor 120 is configured to delete the object 1243 for storing the generated filter in the memory 130 and the generated filter (eg, a filter temporarily stored in the memory 130 after creation).
  • the object 1245 may be displayed through the display.
  • the drawing 1209 may represent a screen displayed through a display after the generated filter is stored. According to an embodiment, the drawing 1209 may indicate a screen displayed through the display when a user input (eg, a touch input) for the object 1243 is received in the drawing 1207 .
  • a user input eg, a touch input
  • the processor 120 may display the first image 1250 in which the tone of the image 1231 is reflected and the image 1251 indicating the generated filter using the generated filter through the display.
  • the processor 120 provides a first image 1250 in which the tone of the image 1231 is reflected using the generated filter, and at least one pre-stored second filter (eg, the user of the electronic device 101 ).
  • An image eg, images 1221 - 5 and 1221 - 6 ) representing the at least one second filter that has been generated by the second filter and an image 1251 representing the generated filter may be displayed through the display.
  • the processor 120 is configured to adjust the application degree (or intensity) of the tone of the image applied by a filter (eg, a generated filter or a filter selected from among pre-stored filters) for the image 1250 .
  • the interface 1253 may be further displayed through a display.
  • the processor 120 is configured to use a filter generated on the first image 1250 being displayed through the display according to the position of the object 1253 - 1 included in the interface 1253 to the tone of the image applied. degree can be adjusted. For example, the processor 120, based on a user input for the object 1253-1, generates the generated object 1253-1 on the bar of the interface 1253 on the leftmost position.
  • An image to which the tone of the image is not applied by the filter (eg, the image 1210 or the input image) may be displayed through the display.
  • the processor 120 based on the user input for the object 1253-1, when the object 1253-1 is located on the rightmost side on the bar of the interface 1253, the image is generated by the filter
  • An image (eg, the image 1250) to which the tone of is fully applied may be displayed through the display.
  • FIGS. 13A and 13B are exemplary diagrams for explaining a method of providing a filter using an image application, according to various embodiments.
  • the drawing 1301 shows a first image 1310 as an input image, an object 1311 for generating a filter, and pre-stored filters (eg, at least one A screen including images (eg, an image 1312-2, an image 1312-3, and an image 1312-4) corresponding to the first filter and the at least one second filter may be displayed.
  • pre-stored filters eg, at least one A screen including images (eg, an image 1312-2, an image 1312-3, and an image 1312-4) corresponding to the first filter and the at least one second filter may be displayed.
  • the processor 120 may display the first image 1310 selected by the user through a display (eg, the display device 160 ). In one embodiment, the processor 120 is configured to, based on an input for editing the selected first image 1310 (eg, an input for using a filter for the selected first image 1310 ), the drawing 1301 . A screen as shown in may be displayed through the display.
  • the processor 120 as shown in the figure 1301, a first image 1310, images representing a plurality of pre-stored filters (eg, image 1312-2), image 1312 -3), an image 1312-4), and an object 1311 for generating a filter may be displayed through the display.
  • images representing a plurality of pre-stored filters eg, image 1312-2
  • image 1312 -3 images representing a plurality of pre-stored filters
  • image 1312-4 an image 1312-4
  • an object 1311 for generating a filter may be displayed through the display.
  • the processor 120 is configured to reduce (eg, displayed in thumbnail form) images to which tones corresponding to each of the plurality of filters are applied with respect to the first image 1310 (eg, an image ( 1312-2), the image 1312-3, and the image 1312-4) may be displayed through the display.
  • the processor 120 although not shown, includes text (eg, "auto An image 1312-2, an image 1312-3, and an image 1312-4 including ", "warm", and “calm" may be displayed through the display.
  • the processor 120 may display an image 1312-1 in which the first image 1310 is reduced to which the tone of the image is not applied to the first image through the display.
  • the processor 120 includes text (eg, "original") indicating that the first image 1310 is reduced to the image 1315 - 1 to which the tone of the image is not applied. To do this, the reduced image 1312-1 of the first image 1310 may be displayed through the display. In one embodiment, the processor 120 further displays an interface 1313 through the display for adjusting the degree (or intensity) of the tone of the image applied by a filter selected from among a plurality of filters with respect to the image 1310 . can do. In one embodiment, processor 120 configures interface 1313 to indicate that if no filter is selected, interface 1313 cannot receive user input (eg, interface 1313 is disabled). It can be displayed through the display.
  • text eg, "original”
  • the processor 120 further displays an interface 1313 through the display for adjusting the degree (or intensity) of the tone of the image applied by a filter selected from among a plurality of filters with respect to the image 1310 . can do.
  • processor 120 configures interface 1313 to indicate that if no filter is selected, interface 1313
  • the processor 120 may display the interface 1313 in a first color (eg, black) when a filter is not selected, and when a filter is selected, the interface 1313 may receive a user input
  • the display may be controlled to display the interface 1313 in a second color (eg, yellow color) to indicate .
  • the drawing 1303 may represent a screen including one or more second images 1320 . According to an embodiment, the drawing 1303 may represent a screen displayed through the display when a user input (eg, a touch input) for the object 1311 is received in the drawing 1301 .
  • a user input eg, a touch input
  • the processor 120 may display the one or more second images 1320 stored in the memory 130 (eg, a gallery application) in a reduced form (eg, in the form of a thumbnail) through the display. .
  • the processor 120 may display, based on a user input to the object 1311 for creating a filter, one or more second images 1320 associated with the image application and stored in the memory 130 . can be displayed through
  • the drawing 1305 may represent a screen displayed when the image 1321 is selected from one or more second images 1320 .
  • the processor 120 may select the image 1321 as a reference image based on a user input (eg, a touch input for the image 1321 ) among one or more second images 1320 . .
  • the processor 120 may check whether a value indicating a distribution of data of the image 1321 as a reference image is within a specified range.
  • the processor 120 uses the first transformation module based on the first method to obtain an input image (eg, the first Based on the first image 1310 and the image 1321 , a second input image may be acquired.
  • the processor 120 uses a second transformation module based on the second method to generate an input image (eg: Based on the first image 1310 and the image 1321 , a third input image may be acquired.
  • the processor may acquire information about one or more objects by recognizing one or more objects included in an input image (eg, the first image 1310) through segmentation.
  • the processor may perform a downsampling operation, iterative distribution transformation for a specified number of times, and regression.
  • the processor performs a blending operation capable of applying a specified intensity to at least one of the one or more objects based on information on one or more objects included in the input image (eg, the first image 1310). can be done
  • the processor 120 recognizes one or more objects included in an input image (eg, the first image 1310) through segmentation, and as described with reference to the embodiments of FIG. 10 , , at least one of the number of times of performing the iterative distribution transformation or the number of the plurality of rotation matrices may be set differently according to one or more objects.
  • the processor may acquire the third input image by using a second transformation module in which at least one of the number of times of performing the iterative distribution transformation or the number of the plurality of rotation matrices is set differently.
  • the processor 120 using the generated filter, the first image 1330 (eg, the second input image) to which the tone of the selected image 1321 is reflected. or the third input image) may be displayed through the display.
  • the first image 1330 eg, the second input image
  • the tone of the selected image 1321 may be displayed through the display.
  • the processor 120 may display the selected image 1321 together with the first image 1330 through the display.
  • the processor 120 displays the image 1321 as a reference image in an area independent from the area of the first image 1330 together with the first image 1330 in which the tone of the selected image 1321 is reflected. can be displayed through
  • the processor 120 may display text (eg, “filter 1”) 1325 indicating the name of the newly created filter in the first image 1330 through the display.
  • text eg, “filter 1”
  • the processor 120 deletes the object 1331-3 for storing the generated filter in the memory 130 and the generated filter (eg, a filter temporarily stored in the memory 130 after creation).
  • An object 1331-1 to perform may be displayed through the display.
  • the drawing 1307 may represent a screen displayed through a display after the generated filter is stored. According to an embodiment, the drawing 1307 may indicate a screen displayed through a display when a user input (eg, a touch input) for the object 1331-3 is received in the drawing 1305 .
  • a user input eg, a touch input
  • the processor 120 may display the first image 1340 to which the tone of the image 1321 is applied and the image 1341 indicating the generated filter using the generated filter through the display.
  • the processor 120 may include a first image 1340 in which the tone of the image 1321 is reflected using the generated filter, an image 1312-1 in which the first image 1310 is reduced, and a plurality of pre-stored images. Filters (eg, the image 1312-2 and the image 1312-3) and the image 1341 representing the generated filter may be displayed through the display.
  • processor 120 may receive user input (or interface 1313 ) for adjusting the degree (or intensity) of a tone of an image applied by a filter generated for image 1340 (or activated), the interface 1313 may be displayed through the display.
  • the processor 120 is configured to use a filter generated on the first image 1340 being displayed through the display according to the position of the object 1313 - 1 included in the interface 1313 to apply the tone of the image. degree can be adjusted.
  • a method of providing a filter in an electronic device includes determining whether the operation of acquiring a first input image, the operation of acquiring a reference image, and a value indicating distribution of data of the reference image are within a specified range
  • the first conversion module based on the first method is configured to perform the operation of checking whether the reference image is obtaining a second input image having a tone corresponding to the tone, and when it is confirmed that the value representing the distribution is not within the specified range, a second transformation module based on a second method different from the first method using, based on the first input image and the reference image, obtaining a third input image having a tone corresponding to the tone of the reference image.
  • the first input image may include an image acquired through a camera of the electronic device or an image stored in an image application.
  • the operation of determining whether the value indicating the distribution of data of the reference image is within a specified range includes determining whether at least one of the standard deviation of the data of the reference image or the entropy value of the histogram is less than or equal to a specified value It may include an action to confirm.
  • the acquiring of the second input image includes a first average value of the data of the first input image and the data of the reference image when it is confirmed that the value representing the distribution is within the specified range. obtaining a second average value of , and obtaining the second input image by adding a difference between the second average value and the first average value to data of the first input image. .
  • the acquiring of the second input image may further include matching a contrast of the second input image and a contrast of the reference image.
  • the obtaining of the third input image includes the first input image having a first resolution and the first input image having a second resolution when it is determined that the value representing the distribution is not within the specified range.
  • down-sampling a reference image obtaining a second input image and a second reference image having the first resolution and a third resolution lower than the second resolution, the second input image and the second reference image obtaining a third input image having a tone corresponding to the tone of the second reference image by performing iterative distribution transformation for a specified number of times, and performing regression based on the second input image and the third input image by performing the method, obtaining a fourth input image having the first resolution, and obtaining the third input image by blending the fourth input image and the first input image.
  • the down-sampling includes selecting pixel values in the first input image having the first resolution and randomly selecting pixel values in the reference image having the second resolution. may include.
  • the method further comprises acquiring information about the one or more objects by recognizing one or more objects included in the first input image, wherein the acquiring the third input image includes: By applying different blending values to regions corresponding to the one or more objects in the fourth input image based on the information on the one or more objects, the fourth input image and the first input image It may include an operation of blending, and an operation of obtaining the third input image in which the fourth input image and the first input image are blended.
  • the method further comprises recognizing one or more objects in the first input image and the reference image, and the number of times of performing the iterative distribution transformation may be differently specified according to the one or more objects.
  • the method may further include displaying the second input image or the third input image, the reference image, and an object representing the filter through the display after the filter is generated. there is.
  • the structure of the data used in the above-described embodiment of the present invention may be recorded in a computer-readable recording medium through various means.
  • the computer-readable recording medium includes a storage medium such as a magnetic storage medium (eg, a ROM, a floppy disk, a hard disk, etc.) and an optically readable medium (eg, a CD-ROM, a DVD, etc.).

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

본 발명의 다양한 실시예들에 따른 전자 장치는, 디스플레이, 상기 디스플레이와 기능적으로 연결된 프로세서, 및 상기 프로세서와 기능적으로 연결된 메모리를 포함하고, 상기 메모리는, 실행 시, 상기 프로세서가, 제 1 입력(input) 이미지를 획득하고, 기준(reference) 이미지를 획득하고, 상기 기준 이미지의 데이터의 분포(distribution)를 나타내는 값이 지정된 범위 내에 있는지 여부를 확인하고, 상기 분포를 나타내는 값이 상기 지정된 범위 내에 있는 것으로 확인된 경우, 제 1 방법에 기반한 제 1 변환 모듈(transfer module)을 이용하여, 상기 제 1 입력 이미지 및 기준 이미지에 기반하여, 상기 기준 이미지의 톤(tone)에 대응하는 톤을 가지는 제 2 입력 이미지를 획득하고, 및 상기 분포를 나타내는 값이 상기 지정된 범위 내에 있지 않은 것으로 확인된 경우, 상기 제 1 방법과 다른 제 2 방법에 기반한 제 2 변환 모듈을 이용하여, 상기 제 1 입력 이미지 및 상기 기준 이미지에 기반하여, 상기 기준 이미지의 톤에 대응하는 톤을 가지는 제 3 입력 이미지를 획득하도록 하는 인스트럭션들(instructions)을 저장할 수 있다.

Description

필터를 제공하는 방법 및 이를 지원하는 전자 장치
본 발명의 다양한 실시예들은, 필터를 제공하는 방법 및 이를 지원하는 전자 장치에 관한 것이다.
스마트 폰(smart phone)과 같은 전자 장치는 이미지를 편집하는 기능을 제공하고 있다. 예를 들어, 전자 장치는 이미지 편집 프로그램을 이용하여 카메라를 통하여 획득한 이미지 또는 메모리에 저장된 이미지를 사용자가 편집할 수 있도록 하고 있다.
최근, 전자 장치는 이미지(예: 원본 이미지)에 대하여 이미지의 속성을 변경할 수 있는 필터(filter) 기능을 제공하고 있다. 예를 들어, 전자 장치는, 이미지를 표시하는 동안, 이미지의 복수의 속성들 각각에 대응하는 복수의 필터들을 나타내는 이미지들(예: 섬네일(thumbnail) 이미지들)을 표시할 수 있다. 전자 장치는, 복수의 필터들을 나타내는 이미지들 중에서, 사용자에 의해 하나의 이미지가 선택되는 경우, 선택된 이미지가 나타내는 필터에 대응하는 이미지의 톤(tone)이 반영된 이미지를 제공할 수 있다.
전자 장치는 카메라 어플리케이션 또는 이미지 어플리케이션(예: 갤러리(gallery) 어플리케이션)의 제조자(또는 개발자)에 의해 생성된 필터(또는 필터 기능)만을 제공하고 있다. 이에 따라, 전자 장치가 사용자에게 제공할 수 있는 필터(예: 필터의 종류)는 제한적일 수 있다.
본 발명의 다양한 실시예들은, 이미지에 대하여 사용자가 원하는 분위기를 가진 이미지의 톤을 반영할 수 있는 필터를 제공할 수 있는, 필터를 제공하는 방법 및 이를 지원하기 위한 전자 장치에 관한 것이다.
본 발명이 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 발명의 다양한 실시예들에 따른 전자 장치는, 디스플레이, 상기 디스플레이와 기능적으로 연결된 프로세서, 및 상기 프로세서와 기능적으로 연결된 메모리를 포함하고, 상기 메모리는, 실행 시, 상기 프로세서가, 제 1 입력(input) 이미지를 획득하고, 기준(reference) 이미지를 획득하고, 상기 기준 이미지의 데이터의 분포(distribution)를 나타내는 값이 지정된 범위 내에 있는지 여부를 확인하고, 상기 분포를 나타내는 값이 상기 지정된 범위 내에 있는 것으로 확인된 경우, 제 1 방법에 기반한 제 1 변환 모듈(transfer module)을 이용하여, 상기 제 1 입력 이미지 및 상기 기준 이미지에 기반하여, 상기 기준 이미지의 톤(tone)에 대응하는 톤을 가지는 제 2 입력 이미지를 획득하고, 및 상기 분포를 나타내는 값이 상기 지정된 범위 내에 있지 않은 것으로 확인된 경우, 상기 제 1 방법과 다른 제 2 방법에 기반한 제 2 변환 모듈을 이용하여, 상기 제 1 입력 이미지 및 상기 기준 이미지에 기반하여, 상기 기준 이미지의 톤에 대응하는 톤을 가지는 제 3 입력 이미지를 획득하도록 하는 인스트럭션들(instructions)을 저장할 수 있다.
본 발명의 다양한 실시예들에 따른 전자 장치에서 필터를 제공하는 방법은, 제 1 입력 이미지를 획득하는 동작, 기준 이미지를 획득하는 동작, 상기 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는지 여부를 확인하는 동작, 상기 분포를 나타내는 값이 상기 지정된 범위 내에 있는 것으로 확인된 경우, 제 1 방법에 기반한 제 1 변환 모듈을 이용하여, 상기 제 1 입력 이미지 및 상기 기준 이미지에 기반하여, 상기 기준 이미지의 톤에 대응하는 톤을 가지는 제 2 입력 이미지를 획득하는 동작, 및 상기 분포를 나타내는 값이 상기 지정된 범위 내에 있지 않은 것으로 확인된 경우, 상기 제 1 방법과 다른 제 2 방법에 기반한 제 2 변환 모듈을 이용하여, 상기 제 1 입력 이미지 및 상기 기준 이미지에 기반하여, 상기 기준 이미지의 톤에 대응하는 톤을 가지는 제 3 입력 이미지를 획득하는 동작을 포함할 수 있다.
본 발명의 다양한 실시예에 따른 필터를 제공하는 방법 및 이를 지원하기 위한 전자 장치는, 이미지에 대하여 사용자가 원하는 분위기를 가진 이미지의 톤을 반영할 수 있는 필터를 제공할 수 있다.
도 1은, 다양한 실시예에 따른, 네트워크 환경 내의 전자 장치의 블럭도이다.
도 2는, 다양한 실시예들에 따른, 전자 장치에서 필터를 제공하는 방법을 설명하기 위한 전체적인 흐름도이다.
도 3은, 다양한 실시예들에 따른, 선택된 이미지 내에서 기준 이미지를 획득하기 위한 방법을 설명하기 위한 예시도이다.
도 4는, 다양한 실시예들에 따른, 복수의 이미지들을 이용하여 기준 이미지를 획득하는 방법을 설명하기 위한 예시도이다.
도 5는, 다양한 실시예들에 따른, 제 1 방법에 기반하는 제 1 변환 모듈을 이용하여 제 2 입력 이미지를 획득하는 방법을 설명하기 위한 흐름도이다.
도 6은, 다양한 실시예들에 따른, 제 2 방법에 기반하는 제 1 변환 모듈을 이용하여 제 3 입력 이미지를 획득하는 방법을 설명하기 위한 흐름도이다.
도 7은, 다양한 실시예들에 따른, 회전 매트릭스를 생성하고 프로젝션을 수행하는 방법을 설명하기 위한 예시도이다.
도 8은, 다양한 실시예들에 따른, 세그멘테이션을 이용하여, 입력 이미지에 포함된 객체들에 대하여 기준 이미지의 톤을 반영하는 방법을 설명하기 위한 흐름도이다.
도 9는, 다양한 실시예들에 따른, 세그멘테이션 동작을 설명하기 위한 예시도이다.
도 10은, 다양한 실시예들에 따른, 세그멘테이션을 이용하여, 입력 이미지에 포함된 객체들에 대하여 기준 이미지의 톤을 반영하는 방법을 설명하기 위한 흐름도이다.
도 11은, 다양한 실시예들에 따른, 세그멘테이션 동작을 설명하기 위한 예시도이다.
도 12a 및 도 12b는, 다양한 실시예들에 따른, 카메라 어플리케이션을 이용하여 필터를 제공하는 방법을 설명하기 위한 예시도이다.
도 13a 및 도 13b는, 다양한 실시예들에 따른, 이미지 어플리케이션을 이용하여 필터를 제공하는 방법을 설명하기 위한 예시도이다.
도 1은, 다양한 실시예에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블럭도이다.
도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제 1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제 2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108)와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 장치(150), 음향 출력 장치(155), 표시 장치(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 표시 장치(160) 또는 카메라 모듈(180))가 생략되거나, 하나 이상의 다른 구성 요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들은 하나의 통합된 회로로 구현될 수 있다. 예를 들면, 센서 모듈(176)(예: 지문 센서, 홍채 센서, 또는 조도 센서)은 표시 장치(160)(예: 디스플레이)에 임베디드된 채 구현될 수 있다
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)을 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 로드하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일 실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서(120)), 및 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 추가적으로 또는 대체적으로, 보조 프로세서(123)은 메인 프로세서(121)보다 저전력을 사용하거나, 또는 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 표시 장치(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일 실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성 요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 장치(150)는, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 장치(150)은, 예를 들면, 마이크, 마우스, 키보드, 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 장치(155)는 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 장치(155)는, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있고, 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일 실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
표시 장치(160)는 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 표시 장치(160)는, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일 실시예에 따르면, 표시 장치(160)는 터치를 감지하도록 설정된 터치 회로(touch circuitry), 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 센서 회로(예: 압력 센서)를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일 실시예에 따르면, 오디오 모듈(170)은, 입력 장치(150)를 통해 소리를 획득하거나, 음향 출력 장치(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102)) (예: 스피커 또는 헤드폰))를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일 실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일 실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일 실시예에 따르면, 연결 단자(178)은, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일 실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일 실시예에 따르면, 전력 관리 모듈(388)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성 요소에 전력을 공급할 수 있다. 일 실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108))간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일 실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(198)(예: 블루투스, WiFi direct 또는 IrDA(infrared data association) 같은 근거리 통신 네트워크) 또는 제 2 네트워크(199)(예: 셀룰러 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부 전자 장치와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성 요소(예: 단일 칩)으로 통합되거나, 또는 서로 별도의 복수의 구성 요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 및 인증할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일 실시예에 따르면, 안테나 모듈은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 하나의 안테나를 포함할 수 있다. 일 실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들을 포함할 수 있다. 이런 경우, 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC)이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))를 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일 실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일 실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부 전자 장치들(102, 104, or 108) 중 하나 이상의 외부 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치 (예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나","A 또는 B 중 적어도 하나,""A, B 또는 C," "A, B 및 C 중 적어도 하나,"및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일 실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장매체 는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 저장매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일 실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두개의 사용자 장치들(예: 스마트폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.
본 발명의 다양한 실시예들에 따른 전자 장치(101)는, 디스플레이(예: 표시 장치(160)), 상기 디스플레이와 기능적으로(또는, 작동적으로) 연결된 프로세서(120), 및 상기 프로세서(120)와 기능적으로(또는, 작동적으로) 연결된 메모리(130)를 포함하고, 상기 메모리(130)는, 실행 시, 상기 프로세서(120)가, 제 1 입력(input) 이미지를 획득하고, 기준(reference) 이미지를 획득하고, 상기 기준 이미지의 데이터의 분포(distribution)를 나타내는 값이 지정된 범위 내에 있는지 여부를 확인하고, 상기 분포를 나타내는 값이 상기 지정된 범위 내에 있는 것으로 확인된 경우, 제 1 방법에 기반한 제 1 변환 모듈을 이용하여, 상기 제 1 입력 이미지 및 상기 기준 이미지에 기반하여, 상기 기준 이미지의 톤(tone)에 대응하는 톤을 가지는 제 2 입력 이미지를 획득하고, 및 상기 분포를 나타내는 값이 상기 지정된 범위 내에 있지 않은 것으로 확인된 경우, 상기 제 1 방법과 다른 제 2 방법에 기반한 제 2 변환 모듈을 이용하여, 상기 제 1 입력 이미지 및 상기 기준 이미지에 기반하여, 상기 기준 이미지의 톤에 대응하는 톤을 가지는 제 3 입력 이미지를 획득하도록 하는 인스트럭션들(instructions)을 저장할 수 있다.
다양한 실시예에서, 상기 제 1 입력 이미지는, 상기 전자 장치(101)의 카메라(예: 카메라 모듈(180))를 통하여 획득되는 이미지 또는 이미지 어플리케이션에 저장된 이미지를 포함할 수 있다.
다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(120)가, 상기 기준 이미지의 데이터의 표준 편차 또는 히스토그램(histogram)의 엔트로피(entropy) 값 중 적어도 하나가 지정된 값 이하인지 여부를 확인하도록 할 수 있다.
다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(120)가, 상기 분포를 나타내는 값이 상기 지정된 범위 내에 있는 것으로 확인된 경우, 상기 제 1 입력 이미지의 데이터의 제 1 평균 값 및 상기 기준 이미지의 데이터의 제 2 평균 값을 획득하고, 및 상기 제 2 평균 값 및 상기 제 1 평균 값 간 차이를 상기 제 1 입력 이미지의 데이터에 합산함으로써, 상기 제 2 입력 이미지를 획득하도록 할 수 있다.
다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(120)가, 상기 제 2 입력 이미지의 콘트라스트(contrast) 및 상기 기준 이미지의 콘트라스트를 매칭(matching)하는 동작을 더 수행하도록 할 수 있다.
다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(120)가, 상기 분포를 나타내는 값이 상기 지정된 범위 내에 있지 않은 것으로 확인된 경우, 제 1 해상도(resolution)를 가지는 상기 제 1 입력 이미지 및 제 2 해상도를 가지는 상기 기준 이미지를 다운 샘플링(down sampling)하고, 상기 제 1 해상도 및 상기 제 2 해상도 보다 낮은 제 3 해상도를 가지는 제 2 입력 이미지 및 제 2 기준 이미지를 획득하고, 상기 제 2 입력 이미지 및 상기 제 2 기준 이미지에 대하여 지정된 횟수 만큼 반복 분포 변환(iterative distribution transfer)을 수행함으로써, 상기 제 2 기준 이미지의 톤에 대응하는 톤을 가지는 제 3 입력 이미지를 획득하고, 상기 제 2 입력 이미지 및 상기 제 3 입력 이미지에 기반하여 리그레션(regression)을 수행함으로써, 상기 제 1 해상도를 가지는 제 4 입력 이미지를 획득하고, 및 상기 제 4 입력 이미지 및 상기 제 1 입력 이미지를 블렌딩(blending)함으로써, 상기 제 3 입력 이미지를 획득하도록 할 수 있다.
다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(120)가, 상기 제 1 해상도를 가지는 상기 제 1 입력 이미지 내에서 픽셀 값들을 선택하고, 상기 제 2 해상도를 가지는 상기 기준 이미지 내에서 랜덤하게 픽셀 값들을 선택하도록 할 수 있다.
다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(120)가, 상기 제 1 입력 이미지에 포함된 하나 이상의 객체들을 인식함으로써 상기 하나 이상의 객체들에 대한 정보를 획득하고, 상기 하나 이상의 객체들에 대한 정보에 기반하여, 상기 제 4 입력 이미지 내에서 상기 하나 이상의 객체들에 대응하는 영역들에 대하여 다른 블렌딩 값을 적용함으로써, 상기 제 4 입력 이미지 및 상기 제 1 입력 이미지를 블렌딩하고, 및 상기 제 4 입력 이미지 및 상기 제 1 입력 이미지가 블렌딩된 상기 제 3 입력 이미지를 획득하도록 할 수 있다.
다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(120)가, 상기 제 1 입력 이미지 및 상기 기준 이미지 내의 하나 이상의 객체들을 인식하고, 및 상기 하나 이상의 객체들에 따라 상기 반복 분포 변환을 수행하는 횟수를 다르게 지정하도록 할 수 있다.
다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(120)가, 상기 필터가 생성된 후 상기 제 2 입력 이미지 또는 상기 제 3 입력 이미지, 상기 기준 이미지, 및 상기 필터를 나타내는 오브젝트를 상기 디스플레이를 통하여 표시하도록 할 수 있다.
도 2는, 다양한 실시예들에 따른, 전자 장치에서 필터를 제공하는 방법을 설명하기 위한 전체적인 흐름도(200)이다.
도 2를 참조하면, 동작 201에서, 일 실시예에서, 프로세서(120)는, 제 1 입력(input) 이미지를 획득할 수 있다.
이하에서, '제 1 입력 이미지'는, 필터(filter)의 적용 대상이 되는 이미지를 지칭할 수 있다. 또한, '제 1 입력 이미지'는, 기준(reference) 이미지의 톤(tone)이 반영될 대상이 되는 이미지를 지칭할 수 있다.
이하에서, '기준 이미지'는, 필터를 생성하기 위하여 필요하고(또는 이용되고) 제 1 입력 이미지에 반영될 톤에 대한 정보를 제공하는 이미지를 지칭할 수 있다.
이하에서, '이미지의 톤'은, 이미지의 색상(color 또는 hue), 밝기(brightness), 또는 채도(saturation 또는 chroma) 중 적어도 하나를 지칭할 수 있다. 다만, 이에 제한되지 않으며, '이미지의 톤'은, 이미지의 색상, 밝기, 채도, 콘트라스트(contrast), 선명도(또는 선예도)(sharpness), shadow, 이미지 복잡도(image complexity), 또는 색 온도(또는 white balance) 중 적어도 하나를 지칭할 수 있다.
또한, '이미지의 톤'은, 이미지의 속성(attribute 또는 property) 또는 이미지의 스타일(style)로 지칭될 수 있다. 또한, '이미지의 톤'은, 이미지의 시각적 효과(visual effect)로 지칭될 수 있다.
일 실시예에서, 프로세서(120)는. 카메라 어플리케이션을 이용하여, 제 1 입력 이미지를 획득할 수 있다. 예를 들어, 프로세서(120)는, 사용자로부터 카메라 어플리케이션을 실행하는 입력을 수신한 경우, 카메라를 통하여 실시간으로 입력되는 프리뷰(preview)(또는 라이브 뷰(live view)) 이미지를 제 1 입력 이미지로서 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 이미지 어플리케이션(예: 갤러리(gallery)) 어플리케이션)을 이용하여, 제 1 입력 이미지를 획득할 수 있다. 예를 들어, 프로세서(120)는, 이미지 어플리케이션을 실행함으로써 복수의 이미지들을 디스플레이를 통하여 표시할 수 있다. 프로세서(120)는, 복수의 이미지들 중에서 사용자 입력에 기반하여 선택된 이미지를 제 1 입력 이미지로서 획득할 수 있다.
다만, 제 1 입력 이미지를 획득하는 방법은 전술한 예시들에 제한되지 않는다. 예를 들어, 프로세서(120)는, 사용자로부터 디스플레이를 통하여 표시되는(예: 현재 표시 중인) 화면을 캡처(capture)하기 위한 입력에 기반하여, 캡처된 화면을 제 1 입력 이미지로서 획득할 수 있다. 다른 예를 들어, 프로세서(120)는, 웹(web) 어플리케이션 또는 SNS(social networking service) 어플리케이션을 이용하여 외부(예: 외부 서버)로부터 획득한 이미지(예: 웹 페이지로부터 획득한 이미지 또는 SNS 서버에 등록(또는 게시)된 이미지)를 제 1 입력 이미지로서 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 동영상(moving image) 또는 정지 이미지(still image)를 제 1 입력 이미지로서 획득할 수 있다. 예를 들어, 프로세서(120)는, 동영상이 복수의 프레임들(frames)을 포함하는 경우, 복수의 프레임들 각각을 제 1 입력 이미지로서 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 입력 이미지를 획득한 경우, 획득된 제 1 입력 이미지를 디스플레이(예: 표시 장치(160))를 통하여 표시할 수 있다.
동작 203에서, 일 실시예에서, 프로세서(120)는, 기준 이미지를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 필터를 생성하기 위한 사용자 입력에 기반하여, 기준 이미지를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 입력 이미지를 디스플레이를 통하여 표시하는 동안 필터를 생성하기 위한 사용자 입력을 수신한 경우, 하나 이상의 이미지들을 디스플레이를 통하여 표시할 수 있다. 예를 들어, 프로세서(120)는, 제 1 입력 이미지를 디스플레이를 통하여 표시하는 동안 필터를 생성하기 위한 오브젝트(object)를 디스플레이를 통하여 표시할 수 있다. 프로세서(120)는, 필터를 생성하기 위한 오브젝트(예: 아이콘(icon), 메뉴(menu)의 아이템(item))에 대한 사용자 입력에 기반하여, 메모리(130)(예: 갤러리 어플리케이션)에 저장된 하나 이상의 이미지들을 디스플레이를 통하여 표시할 수 있다. 일 실시예에서, 프로세서(120)는, 표시된 하나 이상의 이미지들 중에서, 사용자 입력에 의해 선택된 이미지를 기준 이미지로서 획득할 수 있다. 다만, 기준 이미지를 획득하는 방법은 전술한 예시들에 제한되지 않는다. 예를 들어, 프로세서(120)는, 웹 어플리케이션 또는 SNS 어플리케이션을 통하여 획득된(예: 다운로드된(downloaded)) 이미지를 기준 이미지로서 획득할 수 있다.
일 실시예에서, 기준 이미지는 동영상 또는 정지 이미지일 수 있다. 예를 들어, 프로세서(120)는, 동영상이 복수의 프레임들을 포함하는 경우, 복수의 프레임들 중에서 사용자에 의해 선택된 적어도 하나의 프레임을 기준 이미지로서 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 하나 이상의 이미지들(메모리(130)(예: 갤러리 어플리케이션)에 저장된 하나 이상의 이미지들) 중에서 선택된 이미지의 일부 영역을 기준 이미지로서 획득할 수 있다. 하나 이상의 이미지들 중에서 선택된 이미지(이하, '선택된 이미지'로 지칭함)의 일부 영역을 기준 이미지로서 획득하는 방법에 대하여 이하 도 3을 참조하여 상세히 설명하도록 한다.
도 3은, 다양한 실시예들에 따른, 선택된 이미지 내에서 기준 이미지를 획득하기 위한 방법을 설명하기 위한 예시도(300)이다.
도 3을 참조하면, 일 실시예에서, 프로세서(120)는, 선택된 이미지가 이미지 부분 외에 여백 또는 텍스트(text)를 포함하는 여백을 포함하는 경우, 선택된 이미지에서 이미지 부분만을 기준 이미지로서 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 선택된 이미지가 이미지 부분 외에 여백 또는 텍스트(text)를 포함하는 여백을 포함하는 경우, 코너 검출 알고리즘(corner detection algorithm) 또는 에지(edge) 검출 알고리즘을 이용하여(또는 사용자 입력 없이 자동적으로), 이미지 부분(예: 이미지 부분의 코너, 에지, 또는 윤곽)을 검출할 수 있다. 프로세서(120)는, 검출된 이미지 부분을 기준 이미지로서 획득할 수 있다. 예를 들어, 도 3에서, 선택된 이미지(310)는, 이미지 부분(311)과 함께, 여백(또는 텍스트를 포함하는 여백)(312)를 포함할 수 있다. 프로세서(120)는, 코너 검출 알고리즘을 이용하여, 도트들(dots)(313)(여기서, 도트들(313)은 디스플레이를 통하여 표시되지 않을 수 있음)이 나타내는 선택된 이미지(310)의 코너들을 검출할 수 있다. 프로세서(120)는, 검출된 코너들에 기반하여, 선택된 이미지(310) 내에서 여백(312)을 제외한 이미지 부분(311)을 획득할 수 있다. 프로세서(120)는, 선택된 이미지(310) 내에서 이미지 부분(311)을 크랍(crop)하고, 크랍된 이미지 부분(311)을 기준 이미지로서 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 선택된 이미지 내에서 사용자 입력에 기반하여 지정된 영역을 기준 이미지로서 획득할 수 있다. 예를 들어, 프로세서(120)는, 선택된 이미지 내에, 사용자 입력에 기반하여 영역을 지정할 수 있는 오브젝트(예: 사각형 형태의 오브젝트)를 디스플레이를 통하여 표시할 수 있다. 프로세서(120)는, 상기 오브젝트에 대한 사용자 입력에 기반하여 상기 오브젝트의 위치 또는 크기 중 적어도 하나를 조정할 수 있다. 프로세서(120)는, 상기 오브젝트의 위치 또는 크기 중 적어도 하나가 조정된 후, 선택된 이미지 내에서 오브젝트에 의해 포함되는 영역(예: 오브젝트가 사각형 형태인 경우, 사각형 내의 영역)을 획득할 수 있다. 프로세서(120)는, 선택된 이미지 내에서 상기 획득된 영역을 크랍하고, 크랍된 영역을 기준 이미지로서 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 세그멘테이션(segmentation)(예: 객체 인식)을 이용하여, 선택된 이미지 내에서 일부 영역을 기준 이미지로서 획득할 수 있다. 예를 들어, 도 3에서, 프로세서(120)는, 선택된 이미지(320) 내에서, 복수의 객체들(예: 소(321), 풀 밭(322), 바다(323), 하늘(324), 및 배(325)) 각각에 대응하는 영역들(예: 복수의 객체들 각각이 표시되는 영역들)을 인식할 수 있다. 프로세서(120)는, 선택된 이미지들(320) 내에서 복수의 객체들 각각에 대응하는 영역들이 서로 구별되도록, 디스플레이를 통하여 복수의 객체들 각각에 대응하는 영역들의 색상을 다르게 표시할 수 있다. 프로세서(120)는, 복수의 객체들 각각에 대응하는 영역들 중 사용자에 입력에 의해 선택된 적어도 하나의 영역(예: 바다(323)에 대응하는 영역)을 기준 이미지로서 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 선택된 이미지 내에서 사용자에 의해 지정된 영역에 포함된 객체를 인식함으로써, 기준 이미지를 획득할 수 있다. 예를 들어, 프로세서(120)는, 사용자 입력(예: 폐곡선을 그리는(drawing) 사용자 입력)에 의해 선택된 이미지의 일부 영역을 지정할 수 있다. 프로세서(120)는, 지정된 일부 영역 내에 포함된 객체를 인식하고, 인식된 객체에 대응하는 영역(예: 인식된 객체가 표시되는 영역)을 기준 이미지로서 획득할 수 있다.
도 2로 리턴(return)하면, 일 실시예에서, 프로세서(120)는, 복수의 이미지들을 이용하여 하나의 기준 이미지를 획득할 수 있다. 이하, 도 4를 참조하여, 일 실시예에 따른 복수의 이미지들을 이용하여 하나의 기준 이미지를 획득하는 방법을 상세히 설명하도록 한다.
도 4는, 다양한 실시예들에 따른, 복수의 이미지들을 이용하여 기준 이미지를 획득하는 방법을 설명하기 위한 예시도(400)이다.
도 4를 참조하면, 일 실시예에서, 프로세서(120)는 복수의 이미지들을 선택할 수 있다. 예를 들어, 프로세서(120)는, 메모리(130)(예: 갤러리 어플리케이션)에 저장된 복수의 이미지들을 디스플레이를 통하여 표시할 수 있다. 프로세서(120)는, 복수의 이미지들 중에서 사용자 입력에 기반하여 복수의 이미지들을 선택할 수 있다. 일 실시예에서, 도 4에서, 제 1 이미지(411) 및 제 2 이미지(413)는, 복수의 이미지들 중에서 사용자 입력에 기반하여 선택된 복수의 이미지들을 나타낼 수 있다.
일 실시예에서, 프로세서(120)는, 복수의 이미지들 중에서 사용자 입력에 기반하여 선택된 복수의 이미지들(이하, '선택된 복수의 이미지들'로 지칭함)을 결합(combining)함으로써 기준 이미지를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 선택된 복수의 이미지들을 리사이징(resizing) 및 병합(merging)함으로써, 기준 이미지를 획득할 수 있다. 예를 들어, 도 4에 도시된 바와 같이, 프로세서(120)는, 이미지(411) 및 이미지(413)을 각각 축소(reduce)시키고, 이미지(411) 및 이미지(413) 각각이 축소된 이미지들을 병합할 수 있다. 프로세서(120)는, 상기 축소된 이미지들이 병합된 이미지(421)를 기준 이미지로서 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 선택된 복수의 이미지들을 샘플링(sampling)(예: 랜덤(random) 샘플링)함으로써, 기준 이미지를 획득할 수 있다. 예를 들어, 프로세서(120)는, 아래와 같은, [수학식 1]이 나타내는 알고리즘을 이용하여, 선택된 복수의 이미지들을 샘플링함으로써, 기준 이미지를 획득할 수 있다.
[수학식 1]
Figure PCTKR2021000627-appb-I000001
[수학식 1]에서,
Figure PCTKR2021000627-appb-I000002
는 랜덤 샘플링을 이용하여 기준 이미지를 구성할 픽셀 값을 나타낼 수 있다. 또한,
Figure PCTKR2021000627-appb-I000003
,
Figure PCTKR2021000627-appb-I000004
, 및
Figure PCTKR2021000627-appb-I000005
는, 각각, 선택된 n개의 이미지들 중에서, 제 1 이미지의 (i, j) 픽셀 값(여기서, (i, j)는 i 행 j 열을 지칭함), 제 2 이미지의 (i, j) 픽셀 값, 및 제 n 이미지의 (i, j) 픽셀 값을 나타낼 수 있다. 또한, random()는 랜덤 함수를 의미할 수 있다. 또한, rand(
Figure PCTKR2021000627-appb-I000006
)는, 제 1 이미지 내지 제 n 이미지의 각 (i, j) 위치의 픽셀 값 중 랜덤하게(randomly) 선택된 값을 나타낼 수 있다. 이때, 기준 이미지들의 크기가 다를 경우, 기준 이미지들의 크기를 동일하게 하는 동작이 선행되어 수행될 수 있다.
일 실시예에서, 프로세서(120)는, 랜덤 샘플링을 이용하여(예: [수학식 1]이 나타내는 알고리즘을 반복적으로 수행함으로써), 선택된 복수의 이미지들이 중첩적으로 결합된 기준 이미지를 획득할 수 있다. 예를 들어, 프로세서(120)는, 이미지(411) 및 이미지(413)에 대하여 랜덤 샘플링을 수행함으로써, 도 4에 도시된 바와 같이, 이미지(411) 및 이미지(413)가 중첩적으로 결합된 이미지(431)를 기준 이미지로서 획득할 수 있다.
도 2로 리턴하면, 일 실시예에서, 동작 201 및 동작 203에서, 프로세서(120)는, 전처리(preprocessing) 동작의 적어도 일부로서, 메모리(130)에 저장된 복수의 이미지들 중에서 제 1 포맷(예: bitmap 포맷)의 이미지가 선택된 경우, 제 1 포맷의 이미지를 제 2 포맷(예: mat(matrix) 포맷)의 이미지로 변환할 수 있다. 프로세서(120)는, 제 2 포맷의 이미지를 제 1 입력 이미지로서 획득할 수 있다. 일 실시예에서, 프로세서(120)는, 메모리(130)에 저장된 복수의 이미지들 중에서 제 1 포맷의 이미지가 선택된 경우, 제 1 포맷의 이미지를 제 2 포맷의 이미지로 변환할 수 있다. 프로세서(120)는, 제 2 포맷의 이미지를 기준 이미지로서 획득할 수 있다. 일 실시예에서, 프로세서(120)는, 제 1 입력 이미지 및 기준 이미지가, 동일한 포맷(예: mat 포맷)을 가지도록 할 수 있다. 일 실시예에서, 프로세서(120)가 제 1 입력 이미지 및 기준 이미지가 제 2 포맷을 가지도록 전처리 동작을 수행함으로써, 제 1 입력 이미지 및 기준 이미지를 처리하는 시간을 단축시키고 연산량을 감소시킬 수 있다.
동작 205에서, 일 실시예에서, 프로세서(120)는, 기준 이미지의 데이터의 분포(distribution)를 나타내는 값이 지정된 범위 내에 있는지 여부를 확인할 수 있다.
일 실시예에서, 프로세서(120)는, 기준 이미지의 Cr 채널 데이터 및 Cb 채널 데이터의 표준 편차에 기반하여, 기준 이미지의 데이터의 분포(distribution)를 나타내는 값이 지정된 범위 내에 있는지 여부를 확인할 수 있다.
일 실시예에서, 프로세서(120)는, 기준 이미지의 데이터가 RGB 데이터인 경우, 기준 이미지의 데이터를 yCrCb 데이터로 변환할 수 있다. 예를 들어, 프로세서(120)는, 기준 이미지의 포맷이 RGB 포맷인 경우, 기준 이미지의 데이터 포맷을 yCrCb 포맷으로 변환할 수 있다. 일 실시예에서, 프로세서(120)는, 기준 이미지의 yCrCb 데이터에 기반하여, 기준 이미지의 yCrCb 데이터에서 Cr 채널의 데이터(예: Cr 채널의 값들) 및 Cb 채널의 데이터(예: Cb 채널의 값들)를 각각 확인할 수 있다. 프로세서(120)는, Cr 채널의 데이터 및 Cb 채널의 데이터 각각의 분포를 나타내는 값으로서, Cr 채널의 데이터 및 Cb 채널의 데이터 각각의 표준편차(또는 분산)를 획득(또는 산출)할 수 있다. 프로세서(120)는, 획득된 Cr 채널의 데이터의 표준 편차가 지정된 값 이하이고 획득된 Cb 채널의 데이터의 표준 편차가 지정된 값 이하인 경우, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는 것으로 확인할 수 있다. 프로세서(120)는, 획득된 Cr 채널의 데이터의 표준 편차가 지정된 값 보다 큰 경우 및/또는 획득된 Cb 채널의 데이터의 표준 편차가 지정된 값 보다 큰 경우, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있지 않은 것으로 확인할 수 있다.
일 실시예에서, 프로세서(120)는, 기준 이미지의 Cr 채널 데이터 및 Cb 채널 데이터의 히스토그램(histogram)의 엔트로피(entropy) 값에 기반하여, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는지 여부를 확인할 수 있다.
일 실시예에서, 프로세서(120)는, 기준 이미지의 데이터가 RGB(red, green, blue) 데이터인 경우, 기준 이미지의 데이터를 yCrCb 데이터로 변환할 수 있다. 일 실시예에서, 프로세서(120)는, 기준 이미지의 yCrCb 데이터에 기반하여, 기준 이미지의 yCrCb 데이터에서 Cr 채널의 데이터(예: Cr 채널의 값들) 및 Cb 채널의 데이터(예: Cb 채널의 값들)를 각각 확인할 수 있다. 프로세서(120)는, 아래의 [수학식 2]를 이용하여, Cr 채널의 데이터 및 Cb 채널의 데이터 각각의 분포를 나타내는 값으로서, Cr 채널의 데이터 및 Cb 채널의 데이터 각각의 히스토그램의 엔트로피 값을 획득(또는 산출)할 수 있다.
[수학식 2]
Figure PCTKR2021000627-appb-I000007
[수학식 2]에서, H는, Cr 채널의 데이터 및 Cb 채널의 데이터 각각의 히스토그램의 엔트로피 값을 나타낼 수 있다. i는 Cr 채널의 데이터 및 Cb 채널의 데이터 각각을 나타내고, p(i)는 확률(또는 상대 빈도)를 나타낼 수 있다.
일 실시예에서, 프로세서(120)는, 획득된 Cr 채널의 데이터의 히스토그램의 엔트로피 값이 지정된 값 이하이고 획득된 Cb 채널의 데이터의 히스토그램의 엔트로피 값이 지정된 값 이하인 경우, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는 것으로 확인할 수 있다. 프로세서(120)는, 획득된 Cr 채널의 데이터의 히스토그램의 엔트로피 값이 지정된 값 보다 큰 경우 및/또는 획득된 Cb 채널의 데이터의 히스토그램의 엔트로피 값이 지정된 값 보다 큰 경우, 기준 이미지의 데이터의 분포(distribution)를 나타내는 값이 지정된 범위 내에 있지 않은 것으로 확인할 수 있다.
일 실시예에서, 프로세서(120)는, 기준 이미지의 데이터의 분포를 나타내는 값으로서 전술한 Cr 채널 데이터 및 Cb 채널 데이터 각각의 표준 편차 및 히스토그램의 엔트로피 값을 모두 이용하여, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는지 여부를 확인할 수 있다. 예를 들어, 프로세서(120)는, 기준 이미지의 Cr 채널 데이터 및 Cb 채널 데이터의 표준 편차가 4 이하이고 히스토그램의 엔트로피 값이 2 이하인 경우, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는 것으로 확인할 수 있다.
일 실시예에서, 프로세서(120)는, 기준 이미지의 hue 채널 데이터의 표준 편차에 기반하여, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는지 여부를 확인할 수 있다.
일 실시예에서, 프로세서(120)는, 기준 이미지의 데이터가 RGB 데이터인 경우, 기준 이미지의 데이터를 HSV(hue, saturation, value) 데이터로 변환할 수 있다. 예를 들어, 프로세서(120)는, 기준 이미지의 포맷이 RGB 포맷인 경우, 기준 이미지의 데이터 포맷을 HSV 포맷으로 변환할 수 있다. 일 실시예에서, 프로세서(120)는, 기준 이미지의 HSV 데이터에 기반하여, 기준 이미지의 HSV 데이터에서 hue 채널의 데이터(예: hue 채널의 값들)를 확인할 수 있다. 프로세서(120)는, hue 채널의 데이터의 분포를 나타내는 값으로서, hue 채널의 데이터의 표준편차를 획득(또는 산출)할 수 있다. 프로세서(120)는, 획득된 hue 채널의 데이터의 표준편차가 지정된 값 이하인 경우, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는 것으로 확인할 수 있다. 프로세서(120)는, 획득된 hue 채널의 데이터의 표준편차가 지정된 값 보다 큰 경우, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있지 않은 것으로 확인할 수 있다.
일 실시예에서, 프로세서(120)는, 기준 이미지의 hue 채널의 데이터의 히스토그램의 엔트로피 값에 기반하여, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는지 여부를 확인할 수 있다. 일 실시예에서, 프로세서(120)는, 전술한 [수학식 2]를 이용하여, hue 채널의 데이터의 분포를 나타내는 값으로서, hue 채널의 데이터의 히스토그램의 엔트로피 값을 획득(또는 산출)할 수 있다. 프로세서(120)는, 획득된 hue 채널의 데이터의 히스토그램의 엔트로피 값이 지정된 값 이하인 경우, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는 것으로 확인할 수 있다. 프로세서(120)는, hue 채널의 데이터의 히스토그램의 엔트로피 값이 지정된 값 보다 큰 경우, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있지 않은 것으로 확인할 수 있다.
일 실시예에서, 프로세서(120)는, 기준 이미지의 데이터의 분포를 나타내는 값으로서 전술한 hue 데이터의 표준 편차 및 히스토그램의 엔트로피 값을 모두 이용하여, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는지 여부를 확인할 수 있다.
일 실시예에서, 프로세서(120)는, 기준 이미지의 데이터의 분포를 나타내는 값으로서 전술한, Cr 채널 데이터 및 Cb 채널 데이터 각각의 표준 편차, Cr 채널 데이터 및 Cb 채널 데이터 각각의 히스토그램의 엔트로피 값과, hue 데이터의 표준 편차, 또는 hue 데이터의 표준 편차의 히스토그램의 엔트로피 값 중 하나 이상을 이용하여 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는지 여부를 확인할 수 있다. 예를 들어, 프로세서(120)는, 기준 이미지의 데이터의 분포를 나타내는 값으로서, Cr 채널 데이터 및 Cb 채널 데이터 각각의 표준 편차가 지정된 값 이하이고, hue 데이터의 표준 편차가 지정된 값 이하인 경우, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는 것으로 확인할 수 있다. 다른 예를 들어, 프로세서(120)는, 기준 이미지의 데이터의 분포를 나타내는 값으로서, Cr 채널 데이터 및 Cb 채널 데이터 각각의 표준 편차가 지정된 값 보다 큰 경우 및/또는, hue 데이터의 표준 편차가 지정된 값 보다 큰 경우, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있지 않은 것으로 확인할 수 있다.
일 실시예에서, 동작 205에서 기준 이미지의 데이터의 포맷을 yCrCb 포맷 및/또는 HSV 포맷으로 변환하고, 변환된 yCrCb 포맷 및/또는 HSV 포맷을 가지는 기준 이미지에 기반하여, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는지 여부를 확인하는 실시예들을 예시하였지만, 이에 제한되지 않으며, 프로세서(120)는, 기준 이미지의 데이터의 포맷을 yCrCb 포맷 및/또는 HSV 포맷과 다른 포맷으로 변환하고, 변환된 다른 포맷을 가지는 기준 이미지에 기반하여, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는지 여부를 확인할 수도 있다.
일 실시예에서, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는 경우 기준 이미지가 모노톤(monotone) 이미지인 경우일 수 있다. 예를 들어, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는 경우 기준 이미지가 단일 색상(예: 화이트(white) 계열의 색상, 레드(red) 계열의 색상, 블루(blue) 계열의 색상)을 가지는 이미지인 경우일 수 있다. 일 실시예에서, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있지 않은 경우 기준 이미지가 color 이미지인 경우일 수 있다. 예를 들어, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있지 않은 경우 기준 이미지가 복합 색상을 가지는 이미지인 경우일 수 있다.
동작 207에서, 일 실시예에서, 프로세서(120)는, 제 1 방법(이하, ' 제 1 방법'으로 지칭함)에 기반한 제 1 변환 모듈(transfer module)(이하, '제 1 변환 모듈'로 지칭함)을 이용하여, 제 1 입력 이미지 및 기준 이미지에 기반하여, 기준 이미지의 톤에 대응하는 톤을 가지는 제 2 입력 이미지(이하, '제 2 입력 이미지'로 지칭함)를 획득할 수 있다. 예를 들어, 프로세서(120)는, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는 것으로 확인된 경우, 제 1 방법에 기반한 제 1 변환 모듈을 이용하여, 제 1 입력 이미지 및 기준 이미지에 기반하여, 기준 이미지의 톤에 대응하는 톤을 가지는 제 2 입력 이미지를 획득할 수 있다.
일 실시예에 따른 프로세서(120)가 제 1 방법에 기반한 제 1 변환 모듈을 이용하여, 제 1 입력 이미지 및 기준 이미지에 기반하여 제 2 입력 이미지를 획득하는 방법에 대하여 도 5를 참조하여 상세히 후술하도록 한다.
동작 209에서, 일 실시예에서, 프로세서(120)는, 제 1 방법과 다른 제 2 방법(이하, '제 2 방법'으로 지칭함)에 기반한 제 2 변환 모듈(이하, '제 2 변환 모듈'로 지칭함)을 이용하여, 제 1 입력 이미지 및 기준 이미지에 기반하여, 기준 이미지의 톤에 대응하는 톤을 가지는 제 3 입력 이미지(이하, ' 제 3 입력 이미지'로 지칭함)를 획득할 수 있다. 예를 들어, 프로세서(120)는, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있지 않은 것으로 확인된 경우, 제 2 방법에 기반한 제 2 변환 모듈을 이용하여, 제 1 입력 이미지 및 기준 이미지에 기반하여, 제 1 입력 이미지를 기준 이미지의 톤에 대응하는 톤을 가지는 제 3 입력 이미지를 획득할 수 있다.
일 실시예에 따른 프로세서(120)가 제 2 방법에 기반한 제 2 변환 모듈을 이용하여, 제 1 입력 이미지 및 기준 이미지에 기반하여 제 3 입력 이미지를 획득하는 방법에 대하여 도 6 내지 도 11을 참조하여 상세히 후술하도록 한다.
일 실시예에서, '필터'는, 동작 205의 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는지 여부를 확인하는 동작을 수행할 수 있는 프로그램(또는 모듈, 또는 장치) 및, 동작 207의 제 1 변환 모듈 또는 동작 209의 제 2 변환 모듈 중 적어도 하나를 이용하여, 기준 이미지(예: 사용자에 의해 선택된 이미지)의 톤을 제 1 입력 이미지에 반영할 수 있는, 프로그램(또는 모듈, 또는 장치)를 지칭할 수 있다.
일 실시예에서, 프로세서(120)는, 기준 이미지를 획득한 것에 응답하여(예: 동작 203에서 기준 이미지를 획득한 후), 기준 이미지, 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는지 여부를 확인하는 동작을 수행할 수 있는 프로그램, 및 제 1 변환 모듈 또는 제 2 변환 모듈 중 적어도 하나에 기반하여, 생성될 수 있다.
일 실시예에서, 프로세서(120)는, 필터가 생성된 경우, 생성된 필터를 메모리(130)에 임시적으로(temporarily) 저장할 수 있다. 일 실시예에서, 프로세서(120)는, 임시 저장된 필터를 저장하기 위한 사용자 입력에 기반하여, 메모리(130)에 임시 저장된 필터를, 예를 들어, 반영구적으로 저장할 수 있다. 예를 들어, 프로세서(120)는, 필터가 생성되고 임시적으로 저장된 후, 필터를 나타내는 오브젝트를 디스플레이를 통하여 표시할 수 있다. 프로세서는, 필터를 나타내는 오브젝트를 표시하는 동안, 필터를 저장하기 위한 사용자 입력에 기반하여, 필터 및 필터를 나타내는 오브젝트를 메모리(130)에 저장할 수 있다.
일 실시예에서, '필터'는, 기준 이미지의 톤을 제 1 입력 이미지뿐만 아니라, 필터 생성 후 획득한 이미지(예: 필터 생성 후 카메라를 이용하여 획득한 이미지)에 대하여, 필터를 생성하기 위하여 이용되었던 기준 이미지의 톤을 반영할 수 있다.
일 실시예에서, 프로세서(120)가 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위에 있는지 여부에 따라 다른 방법들(예: 제 1 방법 및 제 2 방법)에 기반하는 변환 모듈들을 이용하여 이미지에 대하여 기준 이미지의 톤을 반영함으로써, 전자 장치가 적은 양의 연산을 수행할 수 있으며, 전자 장치의 리소스(resource) 소모를 감소시킬 수 있다.
도 2에 도시하지는 않았지만, 일 실시예에서, 프로세서(120)는, 제 2 입력 이미지 또는 제 3 입력 이미지, 기준 이미지, 및 생성된 필터를 오브젝트를 디스플레이를 통하여 표시할 수 있다.
예를 들어, 프로세서(120)는, 필터를 생성하고 필터를 이용하여 제 2 입력 이미지를 획득한 경우, 디스플레이를 통하여, 제 2 입력 이미지, 기준 이미지, 및 생성된 필터를 나타내는 오브젝트를 표시할 수 있다.
다른 예를 들어, 프로세서(120)는, 필터를 생성하고 필터를 이용하여 제 3 입력 이미지를 획득한 경우, 디스플레이를 통하여, 제 3 입력 이미지, 기준 이미지, 및 생성된 필터를 나타내는 오브젝트를 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 제 2 입력 이미지 또는 제 3 입력 이미지를 표시 및 저장하기 위하여, 전처리 동작의 적어도 일부로서 제 2 포맷(예: mat(matrix) 포맷)의 제 2 입력 이미지 또는 제 3 입력 이미지를, 후처리 동작의 적어도 일부로서 제 1 포맷(예: bitmap 포맷)의 제 2 입력 이미지 또는 제 3 입력 이미지로 변환할 수 있다.
일 실시예에서, 프로세서(120)는, 제 2 입력 이미지 또는 제 3 입력 이미지, 기준 이미지, 및 필터를 나타내는 오브젝트를 디스플레이를 통하여 표시하는 동안, 사용자 입력에 기반하여, 필터를 메모리(130)에 저장할 수 있다. 예를 들어, 프로세서(120)는, 제 2 입력 이미지 또는 제 3 입력 이미지, 기준 이미지, 필터를 나타내는 오브젝트를 디스플레이를 통하여 표시하는 동안, 필터를 메모리(130)에 저장하기 사용자 입력을 수신한 경우, 필터(또는 필터를 나타내는 오브젝트)를 메모리(130)에 저장할 수 있다.
도 5는, 다양한 실시예들에 따른, 제 1 방법에 기반한 제 1 변환 모듈을 이용하여 제 2 입력 이미지를 획득하는 방법을 설명하기 위한 흐름도(500)이다.
일 실시예에서, 도 5의 실시예들은, 도 2의 동작 207에 대한 실시예들일 수 있다.
도 5를 참조하면, 동작 501에서, 일 실시예에서, 프로세서(120)는, 제 1 입력 이미지의 데이터의 제 1 평균 값 및 기준 이미지 데이터의 제 2 평균 값을 획득(또는 산출)할 수 있다. 예를 들어, 프로세서(120)는, 도 2의 동작 205의 실시예들을 통하여 제 1 입력 이미지의 데이터 및 기준 이미지의 데이터가 RGB 데이터인 경우, 제 1 입력 이미지의 데이터 및 기준 이미지의 데이터를 yCrCb 데이터로 변환할 수 있다. 프로세서(120)는, 제 1 입력 이미지의 yCrCb 데이터의 Cr 채널 데이터의 평균 값 및 Cb 채널 데이터의 평균 값을 제 1 평균 값으로서 획득할 수 있다. 프로세서(120)는, 기준 이미지의 yCrCb 데이터의 Cr 채널 데이터의 평균 값 및 Cb 채널 데이터의 평균 값을 제 2 평균 값으로서 획득할 수 있다.
동작 503에서, 일 실시예에서, 프로세서(120)는, 제 2 평균 값과 동일한 평균 값을 가지는 제 2 입력 이미지(예: 제 2 입력 이미지의 데이터)를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 아래의 [수학식 3] 및 [수학식 4]를 이용하여, 제 2 입력 이미지를 획득할 수 있다.
[수학식 3]
Cr' = CrI + (McrR - McrI)
[수학식 4]
Cb' = CbI + (McbR - McbI)
[수학식 3] 및 [수학식 4]에서, CrI 및 CbI 는, 각각, 제 1 입력 이미지의 Cr 채널 데이터 및 Cb 채널 데이터를 나타낼 수 있다. McrR 및 McbR는, 각각, 기준 이미지의 데이터의 Cr 채널 데이터의 평균 값 및 Cb 채널 데이터의 평균 값을 나타낼 수 있다. McrI 및 McbI는, 각각, 제 1 입력 이미지의 데이터의 Cr 채널 데이터의 평균 값 및 Cb 채널 데이터의 평균 값을 나타낼 수 있다. Cr' 및 Cb'는, 각각, 제 2 입력 이미지의 Cr 채널 데이터 및 Cb 채널 데이터를 나타낼 수 있다.
일 실시예에서, 프로세서(120)는, 기준 이미지 및 제 1 입력 이미지의 Cr 채널의 평균 값들 간 차이(예: McrR - McrI)를 산출하고, 제 1 입력 이미지의 Cr 채널의 데이터에 상기 차이(예: McrR - McrI)를 합산함으로써, 제 2 입력 이미지의 Cr 채널의 데이터를 획득할 수 있다. 일 실시예에서, 프로세서(120)는, 기준 이미지 및 제 1 입력 이미지의 Cb 채널의 평균 값들 간 차이(예: McbR - McbI)를 산출하고, 제 1 입력 이미지의 Cb 채널의 데이터에 상기 차이(예: McbR - McbI)를 합산함으로써, 제 2 입력 이미지의 Cb 채널의 데이터를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, [수학식 3] 및 [수학식 4]를 이용하여 획득한 제 2 입력 이미지의 Cr 채널의 데이터 및 Cb 채널 데이터를 포함하는 제 2 입력 데이터를 획득할 수 있다. 일 실시예에서, 제 1 입력 데이터의 y 채널 데이터는 제 2 입력 데이터의 y채널의 데이터와 동일할 수 있다. 예를 들어, 프로세서(120)는, Cr 채널의 데이터 및 Cb 채널의 데이터로서 상기 Cr' 및 상기 Cb'를 각각 Cr 채널의 데이터 및 Cb 채널의 데이터를 가지고, y 채널 데이터로서 제 1 입력 데이터의 y 채널 데이터와 동일한 데이터를 가지는(예: y 채널 데이터에 대한 연산 없이) 제 2 입력 이미지를 획득할 수 있다.
일 실시예에서, 제 1 방법은, 제 1 입력 이미지의 데이터의 제 1 평균 값 및 기준 이미지 데이터의 제 2 평균 값을 획득하고, 예를 들어, [수학식 3] 및 [수학식 4]를 이용하여 제 2 입력 이미지를 획득하는 방법일 수 있다. 예를 들어, 제 1 방법은, 입력 이미지의 데이터 및 기준 이미지 데이터의 평균 값들 간 차이를 획득하고, 기준 이미지의 데이터 및 입력 이미지의 데이터의 평균 값들 간 차이에 기반하여, 입력 이미지 데이터(예: 제 1 입력 이미지의 데이터 또는 필터 생성 후 획득되는 이미지의 데이터)에 대한 결과 이미지 데이터(예: 제 2 입력 이미지의 데이터 또는 필터 생성 후 획득되는 이미지의 데이터에 대하여 [수학식 3] 및 [수학식 4]를 이용하여 획득되는 이미지의 데이터)를 획득하는 방법일 수 있다. 일 실시예에서, 제 1 방법은, 동작 501 및 503(또는 동작 501 내지 동작 505)의 실시예들을 수행하는 방법일 수 있다. 일 실시예에서, 제 1 방법은, 도 2의 동작 207의 실시예들을 수행하는 방법일 수 있다.
일 실시예에서, 제 1 방법에 기반한 제 1 변환 모듈은, 제 1 방법을 수행할 수 있는 모듈일 수 있다. 일 실시예에서, 제 1 변환 모듈은 제 1 방법을 이용하여 제 1 입력 이미지에 대하여 기준 이미지의 톤을 반영함으로써, 제 2 입력 이미지를 획득하도록 할 수 있다. 일 실시예에서, 제 1 변환 모듈은 제 1 톤 변환 모듈로 지칭될 수도 있다.
동작 505에서, 일 실시예에서, 프로세서(120)는, 제 2 입력 이미지의 콘트라스트 및 기준 이미지의 콘트라스트를 매칭(matching)할 수 있다. 예를 들어, 프로세서(120)는, 기준 이미지의 yCrCb 데이터의 y 채널 데이터에 대한 누적 히스토그램(cumulative histogram)를 획득(또는 산출)할 수 있다. 프로세서(120)는, 획득한 기준 이미지의 yCrCb 데이터의 y 채널 데이터에 대한 누적 히스토그램과 동일한 누적 히스토그램을 가지도록 제 2 입력 이미지의 y 채널 데이터를 변환할 수 있다.
일 실시예에서, 프로세서(120)는, 기준 이미지의 yCrCb 데이터의 y 채널 데이터에 대한 누적 히스토그램과 동일한 누적 히스토그램을 가지도록 변환된 제 2 입력 이미지의 y 채널 데이터를 가지고, 동작 501 및 동작 503을 통하여 획득한 제 2 입력 이미지의 Cr 채널 데이터(예: Cr') 및 Cb 채널 데이터(예: Cb')를 가지는 입력 이미지를 획득할 수 있다.
일 실시예에서, 동작 505의 제 2 입력 이미지의 콘트라스트 및 기준 이미지의 콘트라스트를 매칭하는 동작은 생략될 수도 있다. 일 실시예에서, 동작 501 및 동작 503의 동작들과, 동작 505의 제 2 입력 이미지의 콘트라스트 및 기준 이미지의 콘트라스트를 매칭하는 동작이 수행되는 경우, 제 1 방법은 동작 501 내지 동작 505를 통하여 수행되는 방법을 지칭할 수 있다. 또한, 도 2에서 동작 501 및 503이 수행된 후 획득되는 이미지를 제 2 입력 이미지로 지칭하였지만, 동작 501 내지 동작 505이 수행된 후 획득되는 이미지를 제 2 입력 이미지로 지칭할 수 있다.
일 실시예에서, 도 5에서 제 1 입력 이미지 및 기준 이미지의 yCrCb 데이터에 기반하여, 제 1 방법에 기반한 제 1 변환 모듈을 이용하여 제 2 입력 이미지를 획득하는 것으로 예시하고 있지만, 제 1 입력 이미지 및 기준 이미지의 포맷은 yCrCb 포맷에 제한되지 않는다. 예를 들어, 프로세서(120)는, 제 1 입력 이미지 및 기준 이미지의 HSV 데이터에 기반하여, 제 1 방법에 기반한 제 1 변환 모듈을 이용하여, 제 2 입력 이미지를 획득할 수 있다.
도 6은, 다양한 실시예들에 따른, 제 2 방법에 기반하는 제 1 변환 모듈을 이용하여 제 3 입력 이미지를 획득하는 방법을 설명하기 위한 흐름도(600)이다.
일 실시예에서, 도 6의 실시예들은, 도 2의 동작 209에 대한 실시예들일 수 있다.
동작 601에서, 일 실시예에서, 프로세서(120)는, 제 1-1 입력 이미지를 다운 샘플링(down sampling)('리샘플링(resampling)'으로도 지칭됨)함으로써, 제 1-2 입력 이미지를 획득할 수 있다.
일 실시예에서, 제 1-1 입력 이미지는 도 2 및 도 5의 제 1 입력 이미지와 동일한 이미지를 지칭할 수 있다. 일 실시예에서, 제 1-1 입력 이미지는, 제 1 해상도(resolution)를 가지는 이미지일 수 있다. 일 실시예에서, 제 1-1 입력 이미지는 RGB 데이터일 수 있다. 다만, 이에 제한되지 않으며, 제 1-1 입력 이미지는 RGB 포맷과 다른 포맷의 데이터일 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 해상도를 가지는 제 1-1 입력 이미지를 다운 샘플링함으로써, 제 1 해상도 보다 낮은 제 2 해상도를 가지는 제 1-2 입력 이미지를 획득할 수 있다. 예를 들어, 프로세서(120)는, 1024*1024 해상도를 가지는 제 1-1 입력 이미지(예: 가로 픽셀 수가 1024개이고 세로 픽셀 수가 1024개인 제 1-1 입력 이미지)를 다운 샘플링함으로써, 36*36 해상도를 가지는 제 1-2 입력 이미지(예: 가로 픽셀 수가 36이고 세로 픽셀 수가 36개인 제 1-2 입력 이미지)를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 해상도를 가지는 제 1-1 입력 이미지를 랜덤하게 다운 샘플링(이하, '랜덤다운 샘플링(random down sampling)'으로 지칭함)함으로써, 제 1 해상도 보다 낮은 제 2 해상도를 가지는 제 1-2 입력 이미지를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 해상도를 가지는 제 1-1 입력 이미지의 데이터(예: 제 1-1 입력 이미지의 픽셀 값들) 내에서 제 2 해상도에 대응하는 개수의 데이터를 랜덤하게 선택(또는 추출)할 수 있다. 예를 들어, 프로세서(120)는, 1024*1024 해상도를 가지는 제 1-1 입력 이미지의 픽셀 값들(예: 1,048,576(=1024*1024)개의 픽셀 값들) 중에서, 36*36 해상도에 대응하는 개수의 픽셀 값들(예: 1296(=36*36)개의 픽셀 값들)을 랜덤한 방식으로 선택할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 해상도를 가지는 제 1-1 입력 이미지를 균등하게(uniformly) 다운 샘플링(이하, '균등 다운 샘플링(uniform down sampling)'으로 지칭함)함으로써, 제 1 해상도 보다 낮은 제 2 해상도를 가지는 제 1-2 입력 이미지를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 해상도를 가지는 제 1-1 입력 이미지의 데이터(예: 제 1-1 입력 이미지의 픽셀 값들) 내에서 제 2 해상도에 대응하는 개수의 데이터를 균등하게 선택(또는 추출)할 수 있다. 예를 들어, 프로세서(120)는, 1024*1024 해상도를 가지는 제 1-1 입력 이미지의 데이터로부터 36*36 해상도를 가지는 제 1-2 입력 이미지 데이터를 획득하기 위하여, 제 1-2 입력 이미지의 픽셀 값들에 대하여 약 28(≒1024/36)*28(≒1024/36)의 크기를 가지는 블록(block)(또는 영역) 마다 픽셀 값들의 평균 값 또는 대표 값(예: 각 블록의 첫 번째 데이터 값)을 획득(또는 산출)할 수 있다. 프로세서(120)는, 상기 획득된 픽셀 값들의 평균 값들 또는 대표 값들로 구성되고 36*36 해상도를 가지는 제 1-2 입력 데이터를 획득할 수 있다.
일 실시예에서, 제 1-1 입력 이미지를 랜덤 다운 샘플링하는 경우, 균등 다운 샘플링하는 경우에 비하여, 전자 장치가 수행하는 연산의 양을 감소시킬 수 있으며, 처리 속도를 향상시킬 수 있다.
동작 603에서, 일 실시예에서, 프로세서(120)는, 제 1-1 기준 이미지를 다운 샘플링함으로써, 제 1-2 기준 이미지를 획득할 수 있다.
일 실시예에서, 제 1-1 기준 이미지는 도 2 및 도 5의 기준 이미지와 동일한 이미지를 지칭할 수 있다. 일 실시예에서, 제 1-1 기준 이미지는, 제 3 해상도를 가지는 이미지일 수 있다. 예를 들어, 제 1-1 기준 이미지의 제 3 해상도는 제 1-1 입력 이미지의 제 1 해상도와 다를 수 있다. 다른 예에서, 제 1-1 기준 이미지의 제 3 해상도는 제 1-1 입력 이미지의 제 1 해상도와 동일할 수도 있다.
일 실시예에서, 제 1-1 기준 이미지는 RGB 데이터일 수 있다. 다만, 이에 제한되지 않으며, 제 1-1 기준 이미지는 RGB 포맷과 다른 포맷의 데이터일 수도 있다.
일 실시예에서, 프로세서(120)는, 제 3 해상도를 가지는 제 1-1 기준 이미지를 다운 샘플링함으로써, 제 3 해상도 보다 낮은 제 2 해상도를 가지는 제 1-2 기준 이미지를 획득할 수 있다. 일 실시예에서, 제 1-2 기준 이미지의 제 2 해상도는 제 1-2 입력 이미지의 제 2 해상도와 동일할 수 있다. 다만, 이에 제한되지 않으며, 제 1-2 기준 이미지의 제 2 해상도는 제 1-2 입력 이미지의 제 2 해상도와 다를 수도 있다.
일 실시예에서, 프로세서(120)는, 제 3 해상도를 가지는 제 1-1 기준 이미지를 랜덤하게 다운 샘플링함으로써, 제 3 해상도 보다 낮은 제 2 해상도를 가지는 제 1-2 기준 이미지를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 제 3 해상도를 가지는 제 1-1 기준 이미지를 균등하게 다운 샘플링함으로써, 제 1 해상도 보다 낮은 제 2 해상도를 가지는 제 1-2 입력 이미지를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 해상도(예: 1024*1024)를 가지는 제 1-1 입력 이미지를 다운 샘플링함으로써 제 1 해상도에 비하여 상당히 낮은 제 2 해상도(예: 36*36)를 가지는 제 1-2 입력 이미지를 획득하고, 제 3 해상도(예: 512*512)를 가지는 제 1-1 기준 이미지를 다운 샘플링함으로써 제 3 해상도에 비하여 상당히 낮은 제 2 해상도(예: 36*36)를 가지는 제 1-2 기준 이미지를 획득한 후, 이하의 동작 605 내지 609의 실시예들을 수행함으로써, 이미지를 처리하기 위한 시간을 단축시키고, 이미지를 처리하기 위한 연상량을 감소시킬 수 있다.
동작 605에서, 일 실시예에서, 프로세서(120)는, 제 1-2 입력 이미지 및 제 1-2 기준 이미지에 대하여 지정된 횟수 만큼 반복 분포 변환(iterative distribution transfer)을 수행함으로써 제 1-3 입력 이미지를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1-2 입력 이미지 및 제 1-2 기준 이미지에 대하여 지정된 횟수 만큼 반복 분포 변환을 수행하는 동작의 일부로서, 회전 매트릭스(rotation matrix)를 생성하고 프로젝션(projection)(또는 '투영'으로 지칭됨)을 수행할 수 있다. 이하, 도 7을 참조하여 일 실시예에 따른 회전 매트릭스를 생성하고 프로젝션을 수행하는 방법을 설명하도록 한다.
도 7은, 다양한 실시예들에 따른, 회전 매트릭스를 생성하고 프로젝션을 수행하는 방법을 설명하기 위한 예시도이다.
도 7을 참조하면, 일 실시예에서, 프로세서(120)는, 회전 매트릭스를 생성할 수 있다. 예를 들어, 프로세서(120)는, 제 1-2 입력 이미지의 확률 밀도 함수(probability density function, 이하'pdf'로 지칭함) 및 제 1-2 기준 이미지의 pdf를 동일한 각도로 회전시키는 복수의 회전 매트릭스들을 생성할 수 있다. 일 실시예에서, 복수의 회전 매트릭스들 각각은, 제 1-2 입력 이미지 및 제 1-2 기준 이미지의 pdf를, 랜덤하게 선택되는 각도로 회전시키기 위한 매트릭스일 수 있다. 일 실시예에서, 프로세서(120)는, 지정된 개수의 복수의 회전 매트릭스들을 생성할 수 있다. 이하, 설명의 편의를 위하여 복수의 회전 매트릭스들의 개수가 3개이고, 복수의 회전 매트릭스들이 제 1 회전 매트릭스, 제 2 회전 매트릭스, 및 제 3 회전 매트릭스를 포함하는 것으로 가정하여 설명하도록 한다.
일 실시예에서, 프로세서(120)는, 제 1-2 입력 이미지의 pdf 및 제 1-2 기준 이미지의 pdf 각각과 제 1 회전 매트릭스를 곱함(예: 곱셈 연산을 수행함)으로써, 회전된 제 1-2 입력 이미지의 pdf 및 회전된 제 1-2 기준 이미지의 pdf를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 회전된 제 1-2 입력 이미지의 pdf 및 회전된 제 1-2 기준 이미지의 pdf를 프로젝션할 수 있다. 예를 들어, 프로세서(120)는, 2차원(2-dimension)의 회전된 제 1-2 입력 이미지의 pdf 및 2차원의 회전된 제 1-2 기준 이미지의 pdf 각각을 지정된 축에 대하여 누적적으로 합산함으로써, 1차원(1-dimension)의 데이터로 변환할 수 있다.
일 실시예에서, 도 7의 도면(710)은, 0도의 회전 각도를 가지는 회전 매트릭스에 의해 회전된 제 1-2 입력 이미지의 pdf (731)와, 0도로 회전된 제 1-2 입력 이미지의 pdf를 지정된 축에 대하여 프로젝션함으로써 획득되는 1차원의 pdf 데이터의 그래프(734)를 나타낼 수 있다. 일 실시예에서, 제 1-2 입력 이미지(731)의 pdf의 제 1 부분(732)은 제 2 부분(733)에 비하여 높은 밝기에 해당하는 픽셀 값을 가지는 확률 값(또는 히스토그램 값)이 큰 부분일 수 있다. 일 실시예에서, 그래프(734)와 같이, 2차원의 제 1-2 입력 이미지의 pdf를 지정된 축에 대하여 누적적으로 합산함으로써 1차원의 pdf 데이터를 획득할 수 있다. 도면(710)이 제 1-2 입력 이미지의 pdf를 0도의 회전 각도를 가지는 회전 매트릭스와 곱함으로써 획득된, 회전된 제 1-2 입력 이미지의 pdf를 프로젝션하는 경우를 예시를 하고 있지만, 프로세서(120)는, 제 1-2 기준 이미지의 pdf를 0도의 회전 각도를 가지는 회전 매트릭스와 곱함으로써 획득된, 회전된 제 1-2 기준 이미지의 pdf를 프로젝션할 수 있다.
일 실시예에서, 도 7의 도면(720)은, 45도의 회전 각도를 가지는 회전 매트릭스에 의해 회전된 제 1-2 입력 이미지의 pdf(731)와, 45도로 회전된 제 1-2 입력 이미지의 pdf를 지정된 축에 대하여 프로젝션함으로써 획득되는 1차원 데이터의 그래프(735)를 나타낼 수 있다. 일 실시예에서, 제 1-2 입력 이미지(731)의 pdf의 제 1 부분(732)은 제 2 부분(733)에 비하여 높은 밝기에 해당하는 픽셀 값을 가지는 확률 값(또는 히스토그램)이 큰 부분일 수 있다. 일 실시예에서, 그래프(735)와 같이, 2차원의 제 1-2 입력 이미지의 pdf를 지정된 축에 대하여 누적적으로 합산함으로써 1차원pdf 데이터를 획득할 수 있다. 도면(720)이 제 1-2 입력 이미지)의 pdf를 45도의 회전 각도를 가지는 회전 매트릭스와 곱함으로써 획득된, 회전된 제 1-2 입력 이미지의 pdf를 프로젝션하는 경우를 예시를 하고 있지만, 프로세서(120)는, 제 1-2 기준 이미지의 pdf를 45도의 회전 각도를 가지는 회전 매트릭스와 곱함으로써 획득된, 회전된 제 1-2 기준 이미지의 pdf를 프로젝션할 수 있다.
도 7은, 회전 매트릭스들이 2개인 경우를 예시하고 있지만, 이에 제한되지 않는다. 예를 들어, 생성되는 회전 매트릭스들의 개수는 설계자 또는 사용자에 의해 지정될 수 있다.
일 실시예에서, 프로세서(120)는, 제 1-2 입력 이미지의 pdf 및 제 1-2 기준 이미지의 pdf에 대하여, 각각, 제 1 회전 매트릭스를 이용하여 회전 및 프로젝션을 통한 제 1 변환을 수행하고, 제 2 회전 매트릭스를 이용하여 회전 및 프로젝션을 통한 제 2 변환을 수행하고, 제 1 회전 매트릭스를 이용하여 회전 및 프로젝션을 통한 제 3 변환을 수행할 수 있다. 제 1 변환 내지 제 3 변환은, 회전 매트릭스 및 프로젝션을 위한 매트릭스를 곱한 매트릭스들(예: radon transform)을 지칭할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 변환 내지 제 3 변환 중에서, 제 1-2 입력 이미지의 pdf의 변환 결과와 제 1-2 기준 이미지의 pdf의 변환 결과가 가장 유사하도록 하는, 변환을 선택할 수 있다. 예를 들어, 프로세서(120)는, mean square error 알고리즘을 이용하여, 제 1 변환 내지 제 3 변환 중에서, 제 1-2 입력 이미지의 pdf가 변환된 1차원 pdf 데이터와 제 1-2 기준 이미지의 pdf가 변환된 1차원 pdf 데이터 간 오차가 가장 작도록 하는, 변환을 선택할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 변환 내지 제 3 변환 중에서, 하나의 변환(이하, '선택된 변환'으로 지칭함)이 선택된 경우, 제 1-2 입력 이미지의 pdf 및 제 1-2 기준 이미지의 pdf가 선택된 변환에 의해 변환된, 제 1-2 입력 이미지의 1차원 pdf 데이터를 제 1-2 기준 이미지의 1차원 pdf 데이터와 매칭(또는 매핑(mapping))할 수 있다. 예를 들어, 프로세서(120)는, 선택된 변환에 의해 변환된 제 1-2 기준 이미지의 1차원 pdf 데이터를 제 1-2 입력 이미지의 1차원 pdf 데이터로 지정(또는 설정)할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1-2 기준 이미지의 1차원 pdf 데이터와 매칭된 제 1-2 입력 이미지의 1차원 pdf 데이터(예: 제 1-2 기준 이미지의 1차원 pdf 데이터)에 대하여, 선택된 변환의 역변환을 수행함으로써, 제 1-2-1 입력 이미지를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 전술한 제 1-2-1 입력 이미지를 획득하기 위한 동작들과 유사한 동작들을 지정된 횟수 만큼 반복적으로 수행할 수 있다. 예를 들어, 프로세서(120)는, 제 1-2-1 입력 이미지를 획득한 후, 회전 각도가 랜덤하게 선택되고 지정된 개수를 가지며 회전 매트릭스들을 다시 생성할 수 있다. 프로세서(120)는, 제 1-2-1 입력 이미지의 pdf 및 제 1-2 기준 이미지의 pdf에 기반하여, 생성된 회전 매트릭스들을 이용하여 변환들을 수행하고, 변환들 중에서 하나의 변환을 선택할 수 있다. 프로세서(120)는, 선택된 변환에 의해 변환된, 제 1-2-1 입력 이미지의 1차원 pdf 데이터를 제 1-2 기준 이미지의 1차원 pdf 데이터와 매칭하고, 선택된 변환의 역변환을 수행함으로써, 제 1-2-2 입력 이미지를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 전술한 제 1-2-1 입력 이미지를 획득하기 위한 동작들과 유사한 동작들을 지정된 횟수 만큼 반복적으로 수행함으로써, 제 1-3 입력 이미지를 획득할 수 있다.
전술한 예시들에, 이미지(예: 이미지 데이터)에 대응하는 확률 밀도 함수(pdf)를 이용하여 반복 분포 변환 동작을 수행하는 것으로 예시하고 있지만, 이에 제한되지 않는다. 예를 들어, 프로세서(120)는 이미지(예: 이미지 데이터)에 대응하는 히스토그램을 이용하여 반복 분포 변환 동작을 수행할 수 있다.
일 실시예에서, 전술한 제 1-2-1 입력 이미지를 획득하기 위한 동작들과 유사한 동작들을 반복적으로 수행하는 횟수가 많을 수록 기준 이미지의 톤을 보다 정확하게 반영할 수 있는 입력 이미지를 획득할 수 있다. 하지만, 전술한 제 1-2-1 입력 이미지를 획득하기 위한 동작들과 유사한 동작들을 반복적으로 수행하는 횟수가 많을 수록 전자 장치의 연산량을 증가될 수 있다.
일 실시예에서, 생성되는 복수의 회전 매트릭스들의 개수가 많을 수록, 기준 이미지의 톤을 보다 정확하게 반영할 수 있는 입력 이미지를 획득할 수 있으나, 전자 장치의 연산량을 증가될 수 있다.
일 실시예에서, 제 1-2-1 입력 이미지를 획득하기 위한 동작들과 유사한 동작들을 반복적으로 수행하는 횟수 또는 생성되는 복수의 회전 매트릭스들의 개수 중 적어도 하나는, 설계자 또는 사용자에 의해 지정될 수 있다.
도 6으로 리턴하면, 동작 607에서, 일 실시예에서, 프로세서(120)는, 제 1-2 입력 이미지 및 제 1-3 입력 이미지에 기반하여, 리그레션(regression)('업 샘플링(upsampling)으로도 지칭됨)을 수행함으로써, 제 1-4 입력 이미지를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1-2 입력 이미지 및 제 1-3 입력 이미지에 기반하여, 선형 리그레션(linear regression)을 수행함으로써, 제 1-4 입력 이미지를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 선형 리그레션을 이용하여, 제 1-2 입력 이미지 및 제 1-3 입력 이미지 간 상관 관계(예: 상관 계수)를 획득(또는 추정)할 수 있다.
일 실시예에서, 프로세서(120)는, 획득된 상관 관계를 이용하여, 제 1-1 입력 이미지로부터 제 1-4 입력 이미지를 획득할 수 있다. 예를 들어, 프로세서(120)는, 아래의 [수학식 5]를 이용하여 제 1-1 입력 이미지로부터 제 1-4 입력 이미지를 획득할 수 있다.
[수학식 5]
y = Xβ + ε
[수학식 5]에서, y는 종속 변수로서 제 1-4 입력 이미지를 나타낼 수 있다. X는 독립 변수로서 제 1-1 입력 이미지를 나타낼 수 있다. β는 제 1-2 입력 이미지 및 제 1-3 입력 이미지 간 상관 관계를 나타내는 계수일 수 있다. ε는 오차를 나타낼 수 있다.
일 실시예에서, 프로세서(120)는, 제 2 해상도를 가지는 제 1-2 입력 이미지 및 제 1-3 입력 이미지에 기반하여, 선형 리그레션을 수행함으로써, 제 1-1 입력 이미지의 제 1 해상도와 동일한 해상도를 가지는 제 1-4 입력 이미지를 획득할 수 있다. 예를 들어, 프로세서(120)는, 36*36 해상도를 가지는 제 1-2 입력 이미지 및 36*36 해상도를 가지는 제 1-3 입력 이미지 간 상관 관계를 획득할 수 있다. 프로세서(120)는, 획득된 상관 관계를 이용하여, 1024*1024 해상도를 가지는 제 1-1 입력 이미지로부터 1024*1024 해상도를 가지는 제 1-4 입력 이미지를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 획득된 상관 관계를 이용하여 제 1-1 입력 이미지로부터 제 1-4 입력 이미지를 획득하는 동작을, GPU(graphic processor unit)을 통하여 병렬적으로 수행할 수 있다. 일 실시예에서, 프로세서(120)는, 획득된 상관 관계를 이용하여 제 1-1 입력 이미지로부터 제 1-4 입력 이미지를 획득하는 동작을, GPU을 통하여 병렬적으로 수행함으로써, 처리 속도를 향상시킬 수 있으며 실시간성을 확보할 수 있다.
동작 607에서 제 1-4 입력 이미지를 획득하기 위하여 선형 리그레션을 예시하고 있지만, 이에 제한되지 않는다. 예를 들어, 프로세서(120)는, bilateral guided upsampling을 이용하여, 제 1-4 입력 이미지를 획득할 수 있다.
동작 609에서, 일 실시예에서, 프로세서(120)는, 제 1-1 입력 이미지 및 제 1-4 입력 이미지를 블렌딩(blending)함으로써, 제 3 입력 이미지를 획득할 수 있다. 예를 들어, 프로세서(120)는, 제 1-1 입력 이미지 및 제 1-4 입력 이미지를 1:1 비율로 중첩시키는 알파 블렌딩(alpha blending)을 수행함으로써, 제 3 입력 이미지를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 입력 이미지(예: 제 1-1 입력 이미지) 및 결과 이미지(예: 제 1-4 입력 이미지)를 블렌딩(blending)함으로써, 원본 이미지로서 제 1 입력 이미지의 디테일(detail)을 반영하면서, 기준 이미지(예: 제 1-1 기준 이미지)의 톤을 반영할 수 있는, 이미지를 획득할 수 있다.
일 실시예에서, 제 2 방법은, 전술한 동작 601 내지 동작 609의 실시예들(또는 도 2의 동작 209의 실시예들)을 통하여 수행되는 방법일 수 있다. 일 실시예에서, 제 2 방법에 기반한 제 2 변환 모듈은, 제 2 방법을 수행할 수 있는 모듈일 수 있다. 일 실시예에서, 제 2 변환 모듈은 제 2 방법을 이용하여 제 1 입력 이미지에 대하여 기준 이미지의 톤을 반영함으로써, 제 3 입력 이미지를 획득하도록 할 수 있다. 일 실시예에서, 제 2 변환 모듈은 제 2 톤 변환 모듈로 지칭될 수도 있다.
도 8은, 다양한 실시예들에 따른, 세그멘테이션(segmentation)을 이용하여, 입력 이미지에 포함된 객체들에 대하여 기준 이미지의 톤을 반영하는 방법을 설명하기 위한 흐름도(800)이다.
도 9는, 다양한 실시예들에 따른, 세그멘테이션 동작을 설명하기 위한 예시도(900)이다.
일 실시예에서, 도 8 및 도 9의 실시예들은, 도 2의 동작 209에 대한 실시예들일 수 있다.
도 8 및 도 9를 참조하면, 동작 801에서, 일 실시예에서, 프로세서(120)는, 제 1-1 입력 이미지에 포함된 하나 이상의 객체들을 인식함으로써, 하나 이상의 객체들에 대한 정보를 획득할 수 있다.
일 실시예에서, 제 1-1 입력 이미지는, 도 2의 제 1 입력 이미지와 동일한 이미지를 지칭할 수 있다.
일 실시예에서, 프로세서(120)는, 세그멘테이션을 수행함으로써, 제 1-1 입력 이미지 내에서 하나 이상의 객체들을 인식하고, 인식된 하나 이상의 객체들에 각각 대응하는 하나 이상의 레이어들(layers)를 획득(또는 생성)할 수 있다.
일 실시예에서, 도 9에서, 이미지(910)는 사람 객체(911), 건축물 객체(912), 하늘 객체(913), 및 자연 객체(914)를 포함할 수 있다.
일 실시예에서, 프로세서(120)는, 세그멘테이션을 수행함으로써, 이미지(910)에 포함된 객체들을 인식하고, 인식된 객체들 각각에 대한 레이어들을 획득할 수 있다. 예를 들어, 도 9에서, 프로세서(120)는, 세그멘테이션을 수행함으로써, 이미지(910)에 포함된 사람 객체(911), 건축물 객체(912), 하늘 객체(913), 및 자연 객체(914)를 인식하고, 사람 객체(911)에 대한 레이어(920), 건축물 객체(912)에 대한 레이어(930), 하늘 객체(913)에 대한 레이어(940), 및 자연 객체(914)에 대한 레이어(950)를 획득할 수 있다.
일 실시예에서, 레이어들(920 내지 950) 각각은, 객체를 나타내는 영역의 데이터 값(예: 비트(bit) 값으로서 '1') 및 객체들을 나타내지 않는 영역의 데이터 값(예: 비트 값으로서 '0')을 포함하는 데이터로 구성될 수 있다. 일 실시예에서, 레이어들(920 내지 950) 각각은, 레이어 영역에 대하여 객체로 인식될 확률 값들을 포함하는 데이터로 구성될 수 있다. 예를 들어, 도 9에서, 레이어들(920 내지 950)의 영역들(921, 932, 943, 954)은, 객체를 나타내는 영역의 데이터 값들 또는 객체를 나타내는 영역의 확률 값들을 나타낼 수 있다.
일 실시예에서, 프로세서(120)는, 세그멘테이션을 수행함으로써 인식된, 제 1-1 입력 이미지의 하나 이상의 객체들에 대한 정보를 획득할 수 있다. 예를 들어, 프로세서(120)는, 제 1-1 입력 이미지의 하나 이상의 객체들에 대한 하나 이상의 레이어들에 대한 정보를 획득할 수 있다. 다른 예를 들어, 프로세서(120)는, 제 1-1 입력 이미지 내에서, 인식된 하나 이상의 객체들 각각에 대하여(예: 인식된 하나의 객체들 각각에 매핑하여), 대응하는(또는 해당하는) 객체를 포함하는(또는 객체가 인식된) 영역의 좌표들에 대한 정보를 획득할 수 있다.
동작 803에서, 일 실시예에서, 프로세서(120)는, 제 1-1 입력 이미지를 다운 샘플링함으로써, 제 1-2 입력 이미지를 획득할 수 있다.
동작 805에서, 일 실시예에서, 프로세서(120)는, 제 1-1 기준 이미지를 다운 샘플링함으로써, 제 1-2 기준 이미지를 획득할 수 있다.
동작 807에서, 일 실시예에서, 프로세서(120)는, 제 1-2 입력 이미지 및 제 1-2 기준 이미지에 대하여 지정된 횟수 만큼 반복 분포 변환을 수행함으로써 제 1-3 입력 이미지를 획득할 수 있다.
동작 809에서, 일 실시예에서, 프로세서(120)는, 제 1-2 입력 이미지 및 제 1-3 입력 이미지에 기반하여, 리그레션을 수행함으로써, 제 1-4 입력 이미지를 획득할 수 있다.
동작 803 내지 동작 809의 실시예들은, 도 6의 동작 601 내지 동작 607의 실시예들과 적어도 일부가 동일 또는 유사하므로 상세한 설명은 생략하도록 한다.
동작 811에서, 일 실시예에서, 프로세서(120)는, 하나 이상의 객체들에 대한 정보에 기반하여, 제 1-1 입력 이미지 및 제 1-4 입력 이미지를 블렌딩함으로써, 제 3 입력 이미지를 획득할 수 있다. 예를 들어, 프로세서(120)는, 동작 801의 실시예들을 통하여 획득한 하나 이상의 객체들에 대한 정보에 기반하여, 제 1-1 입력 이미지 및 제 1-4 입력 이미지를 블렌딩함으로써, 제 3 입력 이미지를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 하나 이상의 객체들에 대한 정보에 기반하여, 하나 이상의 객체들 마다 다른 강도(intensity)(또는 정도(degree))를 적용함으로써, 제 3 입력 이미지를 획득할 수 있다. 예를 들어, 프로세서(120)는, 제 1-1 입력 이미지 및 제 1-4 입력 이미지를 블렌딩하는 경우, 하나 이상의 객체들에 대한 정보에 기반하여, 제 1-4 입력 이미지의 하나 이상의 객체들이 포함된 영역들 중 적어도 일부에 대하여 다른 강도(또는 블렌딩 값)(예: 알파 블렌딩의 알파(alpha) 값)를 적용함으로써, 제 3 입력 이미지를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 입력 이미지에 포함된 객체의 카테고리(category)에 기반하여, 하나 이상의 객체들에 대하여 지정된 강도를 적용함으로써, 제 3 입력 이미지를 획득할 수 있다. 예를 들어, 프로세서(120)는, 입력 이미지에 사람 객체가 포함된 경우, 입력 이미지의 배경(background)에 적용하는 알파 값 보다 작은 알파 값을 사람 객체를 포함하는 영역에 적용할 수 있다.
일 실시예에서, 프로세서(120)는, 입력 이미지에 포함된 객체(또는 객체를 포함하는 영역)의 면적에 기반하여, 하나 이상의 객체들에 대하여 지정된 강도를 적용함으로써, 제 3 입력 이미지를 획득할 수 있다. 예를 들어, 프로세서(120)는, 입력 이미지 전체의 면적에 대한 객체의 면적의 비율이 지정된 비율 이상인 경우, 객체를 포함하는 영역에 대하여 입력 이미지의 다른 영역에 비하여 높은 강도를 적용함으로써, 제 3 입력 이미지를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 사용자 입력에 기반하여, 하나 이상의 객체들에 대한 강도를 적용함으로써, 제 3 입력 이미지를 획득할 수 있다. 예를 들어, 프로세서(120)는, 입력 이미지 내에서 사용자 입력에 기반하여 선택된 객체에 대하여, 선택된 객체를 포함하는 영역에 대한 강도를 사용자 입력에 기반하여 설정(또는 조정)할 수 있다.
도 8에 도시하지는 않았지만, 일 실시예에서, 프로세서(120)는, 하나 이상의 객체들에 대한 정보에 기반하여, 하나 이상의 객체들에 대하여 다른 강도를 적용한 경우 발생 가능한 halo artifact를 최소화(또는 제거)하기 위하여, 다양한 동작들을 수행할 수 있다. 예를 들어, 프로세서(120)는, halo artifact를 최소화하기 위하여, 제 1-1 입력 이미지 및 제 1-4 입력 이미지를 블렌딩하는 경우, 하나 이상의 객체들에 적용되는 강도들 간 차이가 지정된 차이 이하가 되도록, 하나 이상의 객체들에 적용되는 강도들을 설정할 수 있다. 다른 예를 들어, 프로세서(120)는, 후처리(post processing) 동작의 일부로서, 특정 필터(예: edge preserving filter)를 이용하여 halo artifact를 제거할 수 있다.
도 10은, 다양한 실시예들에 따른, 세그멘테이션을 이용하여, 입력 이미지에 포함된 객체들에 대하여 기준 이미지의 톤을 반영하는 방법을 설명하기 위한 흐름도(1000)이다.
도 11은, 다양한 실시예들에 따른, 세그멘테이션 동작을 설명하기 위한 예시도(1100)이다.
일 실시예에서, 도 10 및 도 11의 실시예들은, 도 2의 동작 209에 대한 실시예들일 수 있다.
도 10 및 도 11을 참조하면, 동작 1001에서, 일 실시예에서, 프로세서(120)는, 제 1-1 입력 이미지에 포함된 하나 이상의 객체들 각각에 대한 하나 이상의 제 1-1 레이어들을 획득할 수 있다.
일 실시예에서, 제 1-1 입력 이미지는, 도 2의 제 1 입력 이미지와 동일한 이미지를 지칭할 수 있다.
일 실시예에서, 프로세서(120)는, 세그멘테이션을 수행함으로써, 제 1-1 입력 이미지 내에서 하나 이상의 객체들을 인식하고, 인식된 하나 이상의 객체들에 각각 대응하는 하나 이상의 제 1-1 레이어들을 획득(또는 생성)할 수 있다.
일 실시예에서, 프로세서(120)가, 세그멘테이션을 수행함으로써, 제 1-1 입력 이미지 내에서 하나 이상의 객체들을 인식하고, 인식된 하나 이상의 객체들에 각각 대응하는 하나 이상의 제 1-1 레이어들을 획득하는 동작의 실시예들은, 도 8의 동작 801의 제 1-1 입력 이미지에 포함된 하나 이상의 객체들을 인식함으로써, 하나 이상의 객체들에 대한 정보를 획득하는 동작의 실시예들과 적어도 일부가 동일 또는 유사하므로 상세한 설명은 생략하도록 한다.
동작 1003에서, 일 실시예에서, 프로세서(120)는, 기준 이미지에 포함된 하나 이상의 객체들 각각에 대한 하나 이상의 제 2-1 레이어들을 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 세그멘테이션을 수행함으로써, 기준 이미지 이미지 내에서 하나 이상의 객체들을 인식하고, 인식된 하나 이상의 객체들에 각각 대응하는 하나 이상의 제 2-1 레이어들을 획득(또는 생성)할 수 있다.
일 실시예에서, 동작 1001의 실시예들을 통하여 획득된 하나 이상의 제 1-1 레이어들의 개수는 동작 1003의 실시예들을 통하여 획득된 하나 이상의 제 2-1 레이어들의 개수와 다르거나 동일할 수 있다.
동작 1005에서, 일 실시예에서, 프로세서(120)는, 하나 이상의 제 1-1 레이어들 및 하나 이상의 제 2-1 레이어들을 매핑시킬 수 있다.
일 실시예에서, 프로세서(120)는, 동일한 객체에 대한 레이어들 간 매핑되도록, 하나 이상의 제 1-1 레이어들 및 하나 이상의 제 2-1 레이어들을 매핑시킬 수 있다. 예를 들어, 프로세서(120)는, 하나 이상의 제 1-1 레이어들 중 사람 객체(예: 객체가 사람으로 인식된 경우)에 대한 레이어와, 하나 이상의 제 2-1 레이어들 중 사람 객체에 대한 레이어를 매핑시키고, 하나 이상의 제 1-1 레이어들 중 바다 객체(예: 객체가 바다로 인식된 경우)에 대한 레이어와, 하나 이상의 제 2-1 레이어들 중 바다 객체에 대한 레이어를 매핑시킬 수 있다.
도 11에서, 일 실시예에서, 이미지(1110)는 제 1-1 입력 이미지를 나타내고, 이미지(1130)는 기준 이미지를 나타낼 수 있다. 도 11에서, 일 실시예에서, 이미지(1120) 및 이미지(1140)는, 각각, 이미지(1110) 및 이미지(1130)에 대응하고, 하나 이상의 제 1-1 레이어들 및 하나 이상의 제 2-1 레이어들 간 매핑을 설명하기 위한 이미지들일 수 있다. 예를 들어, 프로세서(120)는, 하나 이상의 제 1-1 레이어들 중에서 사람 객체(1121)에 대한 레이어와 하나 이상의 제 2-1 레이어들 중에서 사람 객체(1141)에 대한 레이어를 매핑시킬 수 있다. 프로세서(120)는, 하나 이상의 제 1-1 레이어들 중에서 하늘 객체(1122)에 대한 레이어와 하나 이상의 제 2-1 레이어들 중에서 하늘 객체(1142)에 대한 레이어를 매핑시킬 수 있다. 프로세서(120)는, 하나 이상의 제 1-1 레이어들 중에서 바다 객체(1123)에 대한 레이어와 하나 이상의 제 2-1 레이어들 중에서 바다 객체(1143)에 대한 레이어를 매핑시킬 수 있다.
일 실시예에서, 프로세서(120)는, 기준 이미지 내의 하나 이상의 객체들 중에서 제 1 객체가, 제 1-1 입력 이미지 내의 하나 이상의 객체들과 대응하지 않는 경우, 객체들 간 대응 관계를 포함하고 메모리(130)에 저장된 매핑 테이블(mapping table)을 이용하여, 제 1 객체를 기준 이미지 내의 하나 이상의 객체들 중에서 제 1 객체와 다른, 제 2 객체와 동일한 객체로 지정할 수 있다. 예를 들어, 도 11에서, 프로세서(120)는, 이미지(1120) 내의 객체들(1121 내지 1123) 중에서 이미지(1140) 내의 나무 객체(1144)와 대응하는 나무 객체가 없는 경우, 매핑 테이블을 이용하여, 나무 객체(1144)를 이미지(1140) 내의 객체들(1141 내지 1143) 중 사람 객체(1141)과 동일한 객체로 지정할 수 있다.
일 실시예에서, 프로세서(120)는, 기준 이미지 내의 하나 이상의 객체들 중에서 제 1 객체를 제 2 객체와 동일한 객체로 지정하는 경우, 제 1 객체에 대한 레이어 및 제 2 객체에 대한 레이어를 하나의 레이어로 결합시킬 수 있다.
일 실시예에서, 프로세서(120)는, 제 1-1 입력 이미지 내의 하나 이상의 객체들 중에서 제 3 객체가, 기준 이미지 내의 하나 이상의 객체들과 대응하지 않는 경우, 매핑 테이블을 이용하여, 제 3 객체를 제 1-1 입력 이미지 내의 하나 이상의 객체들 중에서 제 3 객체와 다른, 제 4 객체와 동일한 객체로 지정할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1-1 입력 이미지 내의 하나 이상의 객체들 중에서 제 3 객체를 제 4 객체와 동일한 객체로 지정하는 경우, 제 3 객체에 대한 레이어 및 제 4 객체에 대한 레이어를 하나의 레이어로 결합시킬 수 있다.
동작 1007에서, 일 실시에에서, 프로세서(120)는, 하나 이상의 제 1-1 레이어들 및 하나 이상의 제 2-1 레이어들을 다운 샘플링함으로써, 하나 이상의 제 1-2 레이어들 및 하나 이상의 제 2-2 레이어들을 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 해상도(예: 1024*1024)를 가지는 하나 이상의 제 1-1 레이어들을, 각각, 다운 샘플링함으로써, 제 1 해상도 보다 낮은 제 2 해상도(36*36)를 가지는 하나 이상의 제 1-2 레이어들을 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 해상도를 가지는 하나 이상의 제 1-1 레이어들을, 각각, 랜덤 다운 샘플링함으로써, 제 1 해상도 보다 낮은 제 2 해상도를 가지는 하나 이상의 제 1-2 레이어들을 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 제 3 해상도를 가지는 하나 이상의 제 2-1 레이어들 각각의 전체 영역 중 객체를 포함하는 영역(예: 레이어의 데이터의 비트 값이 '1'인 영역 또는 객체로 인식될 확률 값이 지정된 확률 값 이상인 영역)(예: 객체를 포함하는 영역의 데이터)에서, 제 2 해상도에 대응하는 픽셀들 개수의 데이터를 랜덤하게 선택함으로써, 제 2 해상도를 가지는 하나 이상의 제 1-2 레이어들 각각을 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 제 3 해상도를 가지는 하나 이상의 제 2-1 레이어들을, 각각, 다운 샘플링함으로써, 제 3 해상도 보다 낮은 제 2 해상도(36*36)를 가지는 하나 이상의 제 2-2 레이어들을 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 제 3 해상도를 가지는 하나 이상의 제 2-1 레이어들을, 각각, 랜덤 다운 샘플링함으로써, 제 3 해상도 보다 낮은 제 2 해상도를 가지는 하나 이상의 제 2-2 레이어들을 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 제 3 해상도를 가지는 하나 이상의 제 2-1 레이어들 각각의 전체 영역 중 객체를 포함하는 영역에서, 제 2 해상도에 대응하는 픽셀들 개수의 데이터를 랜덤하게 선택함으로써, 제 2 해상도를 가지는 하나 이상의 제 2-2 레이어들 각각을 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 객체의 카테고리에 기반하여 다운 샘플링을 수행함으로써, 다른 해상도를 가진 복수의 매핑된 레이어들 쌍들을 포함하는 하나 이상의 제 1-2 레이어들 및 하나 이상의 제 2-2 레이어들을 획득할 수 있다. 예를 들어, 프로세서(120)는, 하나 이상의 제 1-1 레이어들 중 제 1 레이어와, 하나 이상의 제 2-1 레이어들 중 제 2 레이어가 매핑되고, 제 1 레이어 및 제 2 레이어가 사람 객체에 대한 레이어들인 경우, 다운 샘플링을 통하여, 제 2 해상도를 가진 제 3 레이어 및 제 4 레이어를 획득할 수 있다. 프로세서(120)는, 하나 이상의 제 1-1 레이어들 중 제 5 레이어와, 하나 이상의 제 2-1 레이어들 중 제 6 레이어가 매핑되고, 제 5 레이어 및 제 6 레이어가 바다 객체에 대한 레이어들인 경우, 다운 샘플링을 통하여, 제 2 해상도 보다 큰 제 4 해상도를 가진 제 7 레이어 및 제 8 레이어를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 기준 이미지 내의 객체를 포함하는 영역의 면적 또는 기준 이미지의 면적에 대한 객체를 포함하는 영역의 비율에 기반하여 다운 샘플링을 수행함으로써, 다른 해상도를 가진 복수의 매핑된 레이어들 쌍들을 포함하는 하나 이상의 제 1-2 레이어들 및 하나 이상의 제 2-2 레이어들을 획득할 수 있다. 예를 들어, 프로세서(120)는, 하나 이상의 제 1-1 레이어들 중 제 1 레이어와, 하나 이상의 제 2-1 레이어들 중 제 2 레이어가 매핑되고, 제 1 레이어 및 제 2 레이어가 제 1 객체에 대한 레이어들인 경우, 기준 이미지의 면적에 대한 기준 이미지에서 제 1 객체를 포함하는 영역의 면적의 비율이 지정된 비율 이하인 경우, 다운 샘플링을 통하여, 제 2 해상도 보다 작은 제 5 해상도를 가진 제 3 레이어 및 제 4 레이어를 획득할 수 있다.
동작 1009에서, 일 실시예에서, 프로세서(120)는, 하나 이상의 제 1-2 레이어들 및 하나 이상의 제 2-2 레이어들에 대하여 반복 분포 변환을 수행함으로써, 하나 이상의 제 1-3 레이어들을 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 하나 이상의 제 1-2 레이어들 및 하나 이상의 제 2-2 레이어들 중에서, 매핑되는 레이어들 간 반복 분포 변환을 수행할 수 있다. 예를 들어, 프로세서(120)는, 하나 이상의 제 1-2 레이어들 중 제 1 레이어와, 하나 이상의 제 2-2 레이어들 중 제 1 레이어와 매핑되는 제 2 레이어에 대하여, 반복 분포 변환을 수행할 수 있다. 다른 예를 들어, 프로세서(120)는, 하나 이상의 제 1-2 레이어들 중 제 3 레이어와, 하나 이상의 제 2-2 레이어들 중 제 3 레이어와 매핑되는 제 4 레이어에 대하여, 반복 분포 변환을 수행할 수 있다.
일 실시예에서, 프로세서(120)는, 도 6의 동작 605를 통하여 설명한 제 1-2 입력 이미지 및 제 1-2 기준 이미지에 대하여 반복 분포 변환을 수행하는 예시들과 적어도 일부가 동일 또는 유사하게, 매핑되는 레이어들 간 반복 분포 변환을 수행할 수 있다. 일 실시예에서, 프로세서(120)는, 매핑되는 레이어들 간 반복 분포 변환을 수행함으로써, 하나 이상의 제 1-3 레이어들을 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 복수의 매핑된 레이어들 쌍들에 대하여, 복수의 매핑된 레이어들 쌍들 각각에 포함하는 객체들에 따라, 다른 횟수로 반복 분포 변환을 수행할 수 있다. 예를 들어, 프로세서(120)는, 하나 이상의 제 1-2 레이어들 중 제 1 레이어와. 하나 이상의 제 2-2 레이어들 중 제 1 레이어와 매핑되는 제 2 레이어가 제 1 객체에 대한 레이어들인 경우, 제 1 레이어 및 제 2 레이어에 대하여 제 1 횟수 만큼 반복 분포 변환을 수행할 수 있다. 프로세서(120)는, 하나 이상의 제 1-2 레이어들 중 제 3 레이어와. 하나 이상의 제 2-2 레이어들 중 제 3 레이어와 매핑되는 제 4 레이어가 제 2 객체에 대한 레이어들인 경우, 제 3 레이어 및 제 4 레이어에 대하여 제 1 횟수 보다 많은 제 2 횟수 만큼 반복 분포 변환을 수행할 수 있다.
일 실시예에서, 프로세서(120)는, 복수의 매핑된 레이어들 쌍들에 대하여, 복수의 매핑된 레이어들 쌍들 각각과 관련된 객체들에 따라, 다른 개수의 복수의 회전 매트릭스들을 생성할 수 있다. 예를 들어, 프로세서(120)는, 하나 이상의 제 1-2 레이어들 중 제 1 레이어와. 하나 이상의 제 2-2 레이어들 중 제 1 레이어와 매핑되는 제 2 레이어가 제 1 객체에 대한 레이어들인 경우, 제 1 레이어 및 제 2 레이어를 변환(예: radon transform)하기 위하여, 제 1 개수의 복수의 회전 매트릭스들을 생성할 수 있다. 프로세서(120)는, 하나 이상의 제 1-2 레이어들 중 제 3 레이어와. 하나 이상의 제 2-2 레이어들 중 제 3 레이어와 매핑되는 제 4 레이어가 제 2 객체에 대한 레이어들인 경우, 제 3 레이어 및 제 4 레이어를 변환하기 위하여, 제 1 개수와 다른 제 2 개수의 복수의 회전 매트릭스들을 생성할 수 있다. 일 실시예에서, 프로세서(120)는, 객체들에 대하여 다른 개수의 복수의 회전 매트릭스들 생성된 경우, 생성된 다른 개수의 복수의 회전 매트릭스에 기반하여, 하나 이상의 제 1-3 레이어들을 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 복수의 매핑된 레이어들 쌍들에 대하여, 복수의 매핑된 레이어들 쌍들 각각과 관련된 객체들에 따라, 다른 횟수로 반복 분포 변환을 수행하고, 반복 분포 변환 각각을 수행하는 동안 다른 개수의 복수의 회전 매트릭스들을 생성할 수 있다.
일 실시예에서, 프로세서(120)는, 지정된 객체와 관련된 매핑된 레이어들 쌍에 대하여, 반복 분포 변환을 수행하는 횟수 또는 생성하는 복수의 회전 매트릭스들의 개수 중 적어도 하나를, 다른 객체와 관련된 매핑된 레이어들 쌍과 다르게 설정할 수 있다. 예를 들어, 프로세서(120)는, 사람 객체와 관련된 매핑된 레이어들 쌍에 대하여, 반복 분포 변환을 수행하는 횟수 또는 생성하는 복수의 회전 매트릭스들의 개수 중 적어도 하나를, 다른 객체(예: 바다 객체)와 관련된 매핑된 레이어들 쌍과 다르게 설정할 수 있다.
일 실시예에서, 프로세서(120)는, 객체의 카테고리에 기반하여, 매핑된 레이어들 쌍에 대하여, 반복 분포 변환을 수행하는 횟수 또는 생성하는 복수의 회전 매트릭스들의 개수 중 적어도 하나를, 다른 객체와 관련된 매핑된 레이어들 쌍과 다르게 설정할 수 있다. 예를 들어, 프로세서(120)는, 하늘 객체와 관련된 매핑된 레이어들 쌍에 대하여, 반복 분포 변환을 수행하는 횟수 또는 생성하는 복수의 회전 매트릭스들의 개수 중 적어도 하나를, 사람 객체와 관련된 매핑된 레이어들 쌍과 다르게 설정할 수 있다.
일 실시예에서, 프로세서(120)는, 기준 이미지 내의 객체를 포함하는 영역의 면적 또는 기준 이미지의 면적에 대한 객체를 포함하는 영역의 비율에 기반하여, 반복 분포 변환을 수행하는 횟수 또는 생성하는 복수의 회전 매트릭스들의 개수 중 적어도 하나를 설정할 수 있다. 예를 들어, 프로세서(120)는, 기준 이미지의 면적에 대한 기준 이미지에서 제 1 객체를 포함하는 영역의 면적의 비율이 지정된 비율 이하인 경우, 제 1 객체와 관련되고 매핑된 레이어들 쌍에 대한 반복 분포 변환을 수행하는 횟수 및/또는 생성하는 복수의 회전 매트릭스들의 개수를, 다른 객체와 관련되고 매핑된 레이어들 쌍에 대한 반복 분포 변환을 수행하는 횟수 및/또는 생성하는 복수의 회전 매트릭스들의 개수에 비하여 작게 설정할 수 있다.
일 실시에에서, 프로세서(120)는, 사용자 입력에 기반하여, 매핑된 레이어들 쌍에 대하여, 반복 분포 변환을 수행하는 횟수 또는 생성하는 복수의 회전 매트릭스들의 개수 중 적어도 하나를, 설정할 수 있다.
동작 1011에서, 일 실시예에서, 프로세서(120)는, 하나 이상의 제 1-3 레이어들을 결합함으로써, 제 1-4 레이어(또는 이미지)를 획득하고, 하나 이상의 제 1-2 레이어들을 결합함으로써, 제 1-5 레이어를 획득할 수 있다. 예를 들어, 프로세서(120)는, 하나 이상의 제 1-3 레이어들에서 동일한 픽셀 위치에 해당하는 픽셀 값들)을 픽셀 위치 별로 합산함으로써, 제 1-4 레이어를 획득할 수 있다(예: 하나 이상의 제 1-3 레이어들 각각의 (1, 1) 위치의 픽셀 값들을 합산한 값이 제 1-4 레이어의 (1, 1) 픽셀 위치의 픽셀 값). 프로세서(120)는, 하나 이상의 제 1-1 레이어들이 다운 샘플링된 하나 이상의 제 1-2 레이어들에서 동일한 픽셀 위치에 해당하는 픽셀 값을 합산함으로써, 제 1-5 레이어를 획득할 수 있다.
동작 1013에서, 일 실시예에서, 프로세서(120)는, 제 1-4 레이어 및 제 1-5 레이어에 기반하여 리그레션을 수행함으로써, 제 1-2 입력 이미지를 획득할 수 있다.
일 실시예에서, 동작 1013의 제 1-4 레이어 및 제 1-5 레이어에 기반하여 리그레션을 수행함으로써 제 1-2 입력 이미지를 획득하는 동작에 대한 실시예들은, 도 6의 동작 607의 제 1-2 입력 이미지 및 제 1-3 입력 이미지에 기반하여, 리그레션을 수행함으로써, 제 1-4 입력 이미지를 획득하는 동작에 대한 실시예들과 적어도 일부가 동일 또는 유사하므로, 상세한 설명은 생략하기로 한다.
동작 1013에서, 일 실시예에서, 프로세서(120)는, 제 1-1 입력 이미지 및 제 1-2 입력 이미지를 블렌딩함으로써, 제 3 입력 이미지를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1-2 입력 이미지(또는 제 1-1 입력 이미지)에 포함된 객체의 카테고리에 기반하여, 하나 이상의 객체들에 대하여 지정된 강도를 적용함으로써, 제 3 입력 이미지를 획득할 수 있다. 예를 들어, 프로세서(120)는, 제 1-2 입력 이미지에 사람 객체가 포함된 경우, 입력 이미지의 배경(또는 배경 객체)에 적용하는 알파 값 보다 작은 알파 값을 사람 객체를 포함하는 영역에 적용할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1-2 입력 이미지에 포함된 객체(또는 객체를 포함하는 영역)의 면적에 기반하여, 하나 이상의 객체들에 대하여 지정된 강도를 적용함으로써, 제 3 입력 이미지를 획득할 수 있다. 예를 들어, 프로세서(120)는, 제 1-2 입력 이미지 전체의 면적에 대한 제 1 객체의 면적의 비율이 지정된 비율 이상인 경우, 제 1 객체를 포함하는 영역에 대하여 제 1-2 입력 이미지의 다른 영역에 비하여 높은 강도를 적용함으로써, 제 3 입력 이미지를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1-1 입력 이미지 및 제 1-1 기준 이미지에 공통적으로 포함된 객체의 히스토그램들 간 차이에 기반하여, 제 1-1 입력 이미지 및 제 1-1 기준 이미지에 공통적으로 포함된 객체에 대한 적용 강도를 설정할 수 있다. 예를 들어, 프로세서(120)는, 제 1-1 입력 이미지 및 제 1-1 기준 이미지에 공통적으로 포함된 제 1 객체에 대하여, 제 1-1 입력 이미지 내에서 제 1 객체가 포함된 영역의 히스토그램 및 제 1-1 기준 이미지 내에서 제 1 객체가 포함된 영역의 히스토그램 간 차이가 지정된 차이 이상인 경우, 제 1-1 입력 이미지 및 제 1-2 입력 이미지를 블렌딩하는 때 제 1-2 입력 이미지 내에서 제 1 객체를 포함하는 영역에 대한 적용 강도를 낮게 설정할 수 있다(예: 제 1 객체를 포함하는 영역에 대하여 낮은 알파 값을 적용할 수 있다). 이를 통하여, 프로세서(120)는, 제 1-1 입력 이미지의 톤이 제 3 입력 이미지의 톤으로 급격하게 변화되지 않도록 할 수 있다.
일 실시예에서, 프로세서(120)는, 사용자 입력에 기반하여, 하나 이상의 객체들에 대한 강도를 적용함으로써, 제 3 입력 이미지를 획득할 수 있다. 예를 들어, 프로세서(120)는, 제 1 입력 이미지 내에서 사용자 입력에 기반하여 선택된 객체에 대하여, 선택된 객체를 포함하는 영역에 대한 강도를 사용자 입력에 기반하여 설정(또는 조정)할 수 있다.
도 10에 도시하지는 않았지만, 일 실시예에서, 프로세서(120)는, 세그멘테이션을 수행함으로써 발생 가능한 halo artifact를 최소화(또는 제거)하기 위하여, 다양한 동작들을 수행할 수 있다. 예를 들어, 프로세서(120)는, halo artifact를 최소화하기 위하여, 제 1-1 입력 이미지 및 제 1-2 입력 이미지를 블렌딩하는 경우, 하나 이상의 객체들에 적용되는 강도들 간 차이가 지정된 차이 이하가 되도록, 하나 이상의 객체들에 적용되는 강도들을 설정할 수 있다. 다른 예를 들어, 프로세서(120)는, 후처리(post processing) 동작의 일부로서, 특정 필터(예: edge preserving filter)를 이용하여 halo artifact를 제거할 수 있다.
도 12a 및 도 12b는, 다양한 실시예들에 따른, 카메라 어플리케이션을 이용하여 필터를 제공하는 방법을 설명하기 위한 예시도이다.
도 12a 및 도 12b를 참조하면, 일 실시예에서, 도면(1201)은, 제 1 이미지(1210) 및 기저장된 필터들에 대응하는 이미지들을 포함하는 화면을 나타낼 수 있다.
일 실시예에서, 프로세서(120)는, 카메라 어플리케이션을 통하여, 실시간으로 입력되는 프리뷰 이미지로서 제 1 이미지(1210)를 디스플레이(예: 표시 장치(160))를 통하여 표시할 수 있다. 일 실시예에서, 프로세서(120)는, 제 1 이미지(1210)에 이미지의 지정된 톤을 반영하기 위한 필터를 표시하기 위한 사용자 입력을 수신할 수 있다. 일 실시예에서, 프로세서(120)는, 도면(1201)에 도시된 바와 같이, 제 1 이미지(1210), 제 1 이미지(1210)에 대응하는 이미지를 캡처(또는 촬영)하기 위한 오브젝트(1211), 적어도 하나의 제 1 필터(예: 카메라 어플리케이션의 제조자(또는 개발자)에 의해 생성되거나, 외부 장치로부터 수신되거나, 또는 지정된 프로그램을 이용하여 생성된 적어도 하나의 필터)를 표시하기 위한 오브젝트(1213), 전자 장치(101)의 사용자에 의해 생성되어 저장되었던 적어도 하나의 제 2 필터 및 새롭게 필터를 생성하기 위한 오브젝트를 표시하기 위한 오브젝트(1214), 및 적어도 하나의 제 1 필터를 나타내는 이미지(예: 이미지(1215-2) 및 이미지(1215-3))를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 이미지(1210)에 대하여 적어도 하나의 제 1 필터 각각에 대응하는 이미지의 톤이 적용된 이미지가 축소된(예: 섬네일 형태로 표시되는) 이미지(예: 이미지(1215-2) 및 이미지(1215-3))를 디스플레이를 통하여 표시할 수 있다. 일 실시예에서, 도시하지 않았으나, 프로세서(120)는, 이미지(1215-2) 및 이미지(1215-3) 각각에 적용된 이미지의 톤을 나타내는 텍스트(예: "따스한" 및 "차분한")를 포함하는 이미지(1215-2) 및 이미지(1215-3)를 디스플레이를 통하여 표시할 수 있다. 일 실시예에서, 프로세서(120)는, 제 1 이미지(1210)에 대하여 이미지의 톤이 적용되지 않은, 제 1 이미지가 축소된 이미지(1215-1)를 디스플레이를 통하여 표시할 수 있다. 일 실시예에서, 도시하지 않았으나, 프로세서(120)는, 제 1 이미지(1210)가 축소된 이미지(1215-1)가 이미지의 톤이 적용되지 않음을 나타내는 텍스트(예: "원본")를 포함하도록, 제 1 이미지(1210)가 축소된 이미지(1215-1)를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 도면(1203)은, 제 1 이미지(1220), 기저장된 필터들에 대응하는 이미지들, 및 새롭게 필터를 생성하기 위한 오브젝트(1221-1)를 포함하는 화면을 나타낼 수 있다. 일 실시예에서, 도면(1203)은, 도면(1201)에서 오브젝트(1214)에 대한 사용자 입력(예: 터치 입력)이 수신된 경우 디스플레이를 통하여 표시되는 화면을 나타낼 수 있다.
일 실시예에서, 프로세서(120)는, 도면(1203)에 도시된 바와 같이, 제 1 이미지(1220), 전자 장치(101)의 사용자에 의해 생성되어 저장되었던 적어도 하나의 제 2 필터를 나타내는 이미지(예: 이미지(1221-3) 및 이미지(1221-4)), 새롭게 필터를 생성하기 위한 오브젝트(1221-1), 및 제 1 이미지가 축소된 이미지(1221-2)를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 적어도 하나의 제 2 필터를 나타내는 이미지를, 적어도 하나의 제 2 필터 생성 시 기준 이미지의 톤이 적용된 이미지가 축소된 형태로 디스플레이를 통하여 표시할 수 있다. 일 실시예에서, 도시하지 않았으나, 프로세서(120)는, 이미지(1221-3) 및 이미지(1221-4) 각각을 나타내는 명칭들(예: "필터1" 및 "필터2")을 포함하는, 이미지(1221-3) 및 이미지(1221-4)를 디스플레이를 통하여 표시할 수 있다. 일 실시예에서, 도시하지 않았으나, 프로세서(120)는, 제 1 이미지(1220)가 축소된 이미지(1221-2)가 이미지의 톤이 적용되지 않음을 나타내는 텍스트(예: "원본")를 포함하도록, 제 1 이미지(1220)가 축소된 이미지(1221-1)를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 도면(1205)은, 갤러리 어플리케이션에 저장된 하나 이상의 제 2 이미지들(1230)을 포함하는 화면을 나타낼 수 있다. 일 실시예에서, 도면(1205)은, 도면(1203)에서 오브젝트(1221-1)에 대한 사용자 입력(예: 터치 입력)이 수신된 경우 디스플레이를 통하여 표시되는 화면을 나타낼 수 있다.
일 실시예에서, 프로세서(120)는, 갤러리 어플리케이션에 저장된 하나 이상의 제 2 이미지들(1230)을 축소된 형태(예: 섬네일 형태)로 디스플레이를 통하여 표시할 수 있다. 예를 들어, 프로세서(120)는, 필터를 생성하기 위한 오브젝트(1221-1)에 대한 사용자 입력에 기반하여, 갤러리 어플리케이션에 저장된 하나 이상의 제 2 이미지들(1230)을 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 도면(1207)은, 하나 이상의 제 2 이미지들(1230) 중에서 이미지(1231)이 선택된 경우 표시되는 화면을 나타낼 수 있다.
일 실시예에서, 프로세서(120)는, 하나 이상의 제 2 이미지들(1230) 중에서 사용자 입력(예: 이미지(1231)에 대한 터치 입력)에 기반하여, 이미지(1231)를 기준 이미지로서 선택할 수 있다.
일 실시예에서, 프로세서(120)는, 기준 이미지로서 이미지(1231)의 데이터의 분포를 나타내는 값이 지정된 범위에 있는지 여부를 확인할 수 있다.
일 실시예에서, 프로세서(120)는, 이미지(1231)의 데이터의 분포를 나타내는 값(예: 표준 편차 또는 히스토그램의 엔트로피 값 중 적어도 하나)이 지정된 범위에 있는 것으로 확인한 경우, 제 1 방법에 기반한 제 1 변환 모듈을 이용하여, 입력 이미지(예: 제 1 이미지(1210) 또는 제 1 이미지(1220)) 및 이미지(1231)에 기반하여, 제 2 입력 이미지를 획득할 수 있다. 예를 들어, 프로세서(120)는, 이미지(1231)의 데이터의 분포를 나타내는 값이 지정된 범위에 있는 것으로 확인한 경우(예: 이미지(1231)가 모노톤 이미지로 확인된 경우), 입력 이미지의 데이터의 제 1 평균 값 및 이미지(1231)의 데이터의 제 2 평균 값을 획득할 수 있다. 프로세서(120)는, 제 2 평균 값과 동일한 평균 값을 가지는 제 2 입력 이미지(예: 제 2 입력 이미지의 데이터)를 획득할 수 있다. 일 실시예에서, 프로세서(120)는, 제 2 입력 이미지를 획득한 후, 제 2 입력 이미지의 콘트라스트 및 기준 이미지로서 이미지(1231)의 콘트라스트를 매칭할 수 있다.
일 실시예에서, 프로세서(120)는, 이미지(1231)의 데이터의 분포를 나타내는 값이 지정된 범위에 있지 않은 것으로 확인한 경우, 제 2 방법에 기반한 제 2 변환 모듈을 이용하여, 입력 이미지(예: 제 1 이미지(1210) 또는 제 1 이미지(1220)) 및 이미지(1231)에 기반하여, 제 3 입력 이미지를 획득할 수 있다. 예를 들어, 프로세서(120)는, 이미지(1231)의 데이터의 분포를 나타내는 값이 지정된 범위에 있는 것으로 확인한 경우(예: 이미지(1231)가 color 이미지로 확인된 경우), 입력 이미지 데이터 및 기준 이미지로서 이미지(1231)에 대한 다운 샘플링 동작을 수행할 수 있다. 프로세서는, 다운 샘플링된 입력 이미지 데이터(예: 도 6의 제 1-2 입력 이미지) 및 다운 샘플링된 이미지(1231)(예: 도 6의 제 1-2 기준 이미지) 을 지정된 횟수 만큼 반복 분포 변환을 수행함으로써, 입력 이미지(예: 도 6의 제 1-3 입력 이미지)를 획득할 수 있다. 프로세서(120)는, 다운 샘플링된 입력 이미지 입력 이미지(예: 도 6의 제 1-2 입력 이미지) 및 입력 이미지(예: 도 6의 제 1-3 입력 이미지)에 대하여 리그레션을 수행함으로써, 결과 입력 이미지(예: 도 6의 제 1-4 입력 이미지)를 획득할 수 있다. 프로세서는, 입력 이미지(예: 제 1 이미지(1210) 또는 제 1 이미지(1220)) 및 결과 입력 이미지(예: 도 6의 제 1-4 입력 이미지)를 블렌딩함으로써, 제 3 입력 이미지를 획득할 수 있다.
일 실시예에서, 프로세서는, 세그멘테이션을 통하여, 입력 이미지(예: 제 1 이미지(1210) 또는 제 1 이미지(1220))에 포함된 하나 이상의 객체들을 인식함으로써, 하나 이상의 객체들에 대한 정보를 획득할 수 있다. 프로세서는, 다운 샘플링 동작, 지정된 횟수 만큼 반복 분포 변환, 및 리그레션을 수행할 수 있다. 프로세서는, 입력 이미지(예: 제 1 이미지(1210) 또는 제 1 이미지(1220))에 포함된 하나 이상의 객체들에 대한 정보에 기반하여, 하나 이상의 객체들 중 적어도 하나의 객체(예: 하나 이상의 객체들 중 사용자에 의해 선택된 적어도 하나의 객체)에 대하여 지정된 강도를 적용할 수 있는 블렌딩 동작을 수행할 수 있다.
일 실시예에서, 프로세서(120)는, 프로세서는, 세그멘테이션을 통하여, 입력 이미지(예: 제 1 이미지(1210) 또는 제 1 이미지(1220))에 포함된 하나 이상의 객체들을 인식하고, 도 10의 실시예들을 통하여 설명한 바와 같이, 하나 이상의 객체들에 따라, 반복 분포 변환을 수행하는 횟수 또는 복수의 회전 매트릭스들의 개수 중 적어도 하나를 다르게 설정할 수 있다. 프로세서는, 반복 분포 변환을 수행하는 횟수 또는 복수의 회전 매트릭스들의 개수 중 적어도 하나를 다르게 설정된 제 2 변환 모듈을 이용하여, 제 3 입력 이미지를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 도면(1207)에 도시된 바와 같이, 생성된 필터를 이용하여, 선택된 이미지(1231)의 톤이 반영된 제 1 이미지(1240)(예: 제 2 입력 이미지 또는 제 3 입력 이미지)를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 이미지(1240)과 함께, 선택된 이미지(1231)(예: 기준 이미지)을 디스플레이를 통하여 표시할 수 있다. 예를 들어, 프로세서(120)는, 제 1 이미지(1240)와 함께, 제 1 이미지(1240) 상에 오버레이(overlay)되는 형태로 이미지(1231)를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 이미지(1240) 내에 새롭게 생성된 필터의 명칭을 나타내는 텍스트(예: "필터 7")(1241)를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 생성된 필터를 메모리(130)에 저장하기 위한 오브젝트(1243) 및 생성된 필터(예: 생성 후 임시적으로 메모리(130)에 저장된 필터)를 삭제하기 위한 오브젝트(1245)를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 도면(1209)는, 생성된 필터가 저장된 후, 디스플레이를 통하여 표시되는 화면을 나타낼 수 있다. 일 실시예에서, 도면(1209)는, 도면(1207)에서 오브젝트(1243)에 대한 사용자 입력(예: 터치 입력)을 수신한 경우, 디스플레이를 통하여 표시되는 화면을 나타낼 수 있다.
일 실시예에서, 프로세서(120)는, 생성된 필터를 이용하여 이미지(1231)의 톤이 반영된 제 1 이미지(1250) 및 생성된 필터를 나타내는 이미지(1251)를 디스플레이를 통하여 표시할 수 있다. 예를 들어, 프로세서(120)는, 생성된 필터를 이용하여 이미지(1231)의 톤이 반영된 제 1 이미지(1250), 기저장된 적어도 하나의 제 2 필터(예: 전자 장치(101)의 사용자에 의해 생성되었던 적어도 하나의 제 2 필터)를 나타내는 이미지(예: 이미지(1221-5) 및 이미지(1221-6)), 및 생성된 필터를 나타내는 이미지(1251)를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 이미지(1250)에 대하여 필터(예: 생성된 필터, 또는 기저장된 필터 중에서 선택된 필터)에 의해 적용된 이미지의 톤의 적용 정도(또는 강도)를 조절하기 위한 인터페이스(1253)를 디스플레이를 통하여 더 표시할 수 있다. 일 실시예에서, 프로세서(120)는, 인터페이스(1253)에 포함된 오브젝트(1253-1)의 위치에 따라 디스플레이를 통해 표시 중인 제 1 이미지(1250)에 생성된 필터를 이용하여 적용된 이미지의 톤의 정도를 조절할 수 있다. 예를 들어, 프로세서(120)는, 오브젝트(1253-1)에 대한 사용자 입력에 기반하여, 인터페이스(1253)의 바(bar) 상에서 오브젝트(1253-1)가 가장 왼쪽에 위치하는 경우, 생성된 필터에 의해 이미지의 톤이 적용되지 않은 이미지(예: 이미지(1210) 또는 입력 이미지)를 디스플레이를 통하여 표시할 수 있다. 프로세서(120)는, 오브젝트(1253-1)에 대한 사용자 입력에 기반하여, 인터페이스(1253)의 바(bar) 상에서 오브젝트(1253-1)가 가장 오른쪽에 위치하는 경우, 생성된 필터에 의해 이미지의 톤이 완전히(fully) 적용된 이미지(예: 이미지(1250))를 디스플레이를 통하여 표시할 수 있다.
도 13a 및 도 13b는, 다양한 실시예들에 따른, 이미지 어플리케이션을 이용하여 필터를 제공하는 방법을 설명하기 위한 예시도이다.
도 13a 및 도 13b를 참조하면, 일 실시예에서, 도면(1301)은, 입력 이미지로서 제 1 이미지(1310), 필터를 생성하기 위한 오브젝트(1311), 및 기저장된 필터들(예: 적어도 하나의 제 1 필터 및 적어도 하나의 제 2 필터)에 대응하는 이미지들(예: 이미지(1312-2), 이미지(1312-3), 및 이미지(1312-4))을 포함하는 화면을 나타낼 수 있다.
일 실시예에서, 프로세서(120)는, 이미지 어플리케이션이 실행되는 경우, 사용자에 의해 선택된 제 1 이미지(1310)를 디스플레이(예: 표시 장치(160))를 통하여 표시할 수 있다. 일 실시예에서, 프로세서(120)는, 선택된 제 1 이미지(1310)를 편집하기 위한 입력(예: 선택된 제 1 이미지(1310)에 대하여 필터를 이용하기 위한 입력)에 기반하여, 도면(1301)에 도시된 바와 같은 화면을 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 도면(1301)에 도시된 바와 같이, 제 1 이미지(1310), 기저장된 복수의 필터들을 나타내는 이미지들(예: 이미지(1312-2), 이미지(1312-3), 및 이미지(1312-4)), 및 필터를 생성하기 위한 오브젝트(1311)를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 이미지(1310)에 대하여 복수의 필터들 각각에 대응하는 톤들이 적용된 이미지들이 축소된(예: 섬네일 형태로 표시되는) 이미지들(예: 이미지(1312-2), 이미지(1312-3), 및 이미지(1312-4))을 디스플레이를 통하여 표시할 수 있다. 일 실시예에서, 프로세서(120)는, 도시하지 않았으나, 이미지(1312-2), 이미지(1312-3), 및 이미지(1312-4) 각각에 적용된 이미지의 톤을 나타내는 텍스트(예: "자동", "따스한", 및 "차분한")를 포함하는 이미지(1312-2), 이미지(1312-3), 및 이미지(1312-4)를 디스플레이를 통하여 표시할 수 있다. 일 실시예에서, 프로세서(120)는, 제 1 이미지에 대하여 이미지의 톤이 적용되지 않은, 제 1 이미지(1310)가 축소된 이미지(1312-1)를 디스플레이를 통하여 표시할 수 있다. 일 실시예에서, 도시하지 않았으나, 프로세서(120)는, 제 1 이미지(1310)가 축소된 이미지(1315-1)가 이미지의 톤이 적용되지 않음을 나타내는 텍스트(예: "원본")를 포함하도록, 제 1 이미지(1310)가 축소된 이미지(1312-1)를 디스플레이를 통하여 표시할 수 있다. 일 실시예에서, 프로세서(120)는, 이미지(1310)에 대하여 복수의 필터들 중에서 선택된 필터에 의해 적용된 이미지의 톤의 정도(또는 강도)를 조절하기 위한 인터페이스(1313)를 디스플레이를 통하여 더 표시할 수 있다. 일 실시예에서, 프로세서(120)는, 필터가 선택되지 않은 경우, 인터페이스(1313)가 사용자 입력을 수신할 수 없음(예: 인터페이스(1313)가 비활성화됨)을 나타내도록, 인터페이스(1313)를 디스플레이를 통하여 표시할 수 있다. 예를 들어, 프로세서(120)는, 필터가 선택되지 않은 경우 인터페이스(1313)를 제 1 색상(예: 검은 색)으로 표시하고, 필터가 선택된 경우 인터페이스(1313)가 사용자 입력을 수신할 수 있음을 나타내도록 인터페이스(1313)를 제 2 색상(예: 노란 색)으로 표시하도록 디스플레이를 제어할 수 있다.
일 실시예에서, 도면(1303)은, 하나 이상의 제 2 이미지들(1320)을 포함하는 화면을 나타낼 수 있다. 일 실시예에서, 도면(1303)은, 도면(1301)에서 오브젝트(1311)에 대한 사용자 입력(예: 터치 입력)이 수신된 경우 디스플레이를 통하여 표시되는 화면을 나타낼 수 있다.
일 실시예에서, 프로세서(120)는, 메모리(130)(예: 갤러리 어플리케이션)에 저장된 하나 이상의 제 2 이미지들(1320)을 축소된 형태(예: 섬네일 형태)로 디스플레이를 통하여 표시할 수 있다. 예를 들어, 프로세서(120)는, 필터를 생성하기 위한 오브젝트(1311)에 대한 사용자 입력에 기반하여, 이미지 어플리케이션과 관련되고 메모리(130)에 저장된 하나 이상의 제 2 이미지들(1320)을 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 도면(1305)은, 하나 이상의 제 2 이미지들(1320) 중에서 이미지(1321)가 선택된 경우 표시되는 화면을 나타낼 수 있다.
일 실시예에서, 프로세서(120)는, 하나 이상의 제 2 이미지들(1320) 중에서 사용자 입력(예: 이미지(1321)에 대한 터치 입력)에 기반하여, 이미지(1321)를 기준 이미지로서 선택할 수 있다.
일 실시예에서, 프로세서(120)는, 기준 이미지로서 이미지(1321)의 데이터의 분포를 나타내는 값이 지정된 범위에 있는지 여부를 확인할 수 있다.
일 실시예에서, 프로세서(120)는, 이미지(1321)의 데이터의 분포를 나타내는 값이 지정된 범위에 있는 것으로 확인한 경우, 제 1 방법에 기반한 제 1 변환 모듈을 이용하여, 입력 이미지(예: 제 1 이미지(1310) 및 이미지(1321)에 기반하여, 제 2 입력 이미지를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 이미지(1321)의 데이터의 분포를 나타내는 값이 지정된 범위에 있지 않은 것으로 확인한 경우, 제 2 방법에 기반한 제 2 변환 모듈을 이용하여, 입력 이미지(예: 제 1 이미지(1310) 및 이미지(1321)에 기반하여, 제 3 입력 이미지를 획득할 수 있다.
일 실시예에서, 프로세서는, 세그멘테이션을 통하여, 입력 이미지(예: 제 1 이미지(1310))에 포함된 하나 이상의 객체들을 인식함으로써, 하나 이상의 객체들에 대한 정보를 획득할 수 있다. 프로세서는, 다운 샘플링 동작, 지정된 횟수 만큼 반복 분포 변환, 및 리그레션을 수행할 수 있다. 프로세서는, 입력 이미지(예: 제 1 이미지(1310))에 포함된 하나 이상의 객체들에 대한 정보에 기반하여, 하나 이상의 객체들 중 적어도 하나의 객체에 대하여 지정된 강도를 적용할 수 있는 블렌딩 동작을 수행할 수 있다.
일 실시예에서, 프로세서(120)는, 프로세서는, 세그멘테이션을 통하여, 입력 이미지(예: 제 1 이미지(1310))에 포함된 하나 이상의 객체들을 인식하고, 도 10의 실시예들을 통하여 설명한 바와 같이, 하나 이상의 객체들에 따라, 반복 분포 변환을 수행하는 횟수 또는 복수의 회전 매트릭스들의 개수 중 적어도 하나를 다르게 설정할 수 있다. 프로세서는, 반복 분포 변환을 수행하는 횟수 또는 복수의 회전 매트릭스들의 개수 중 적어도 하나를 다르게 설정된 제 2 변환 모듈을 이용하여, 제 3 입력 이미지를 획득할 수 있다.
일 실시예에서, 프로세서(120)는, 도면(1305)에 도시된 바와 같이, 생성된 필터를 이용하여, 선택된 이미지(1321)의 톤이 반영된 제 1 이미지(1330)(예: 제 2 입력 이미지 또는 제 3 입력 이미지)를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 이미지(1330)과 함께, 선택된 이미지(1321)를 디스플레이를 통하여 표시할 수 있다. 예를 들어, 프로세서(120)는, 선택된 이미지(1321)의 톤이 반영된 제 1 이미지(1330)와 함께, 제 1 이미지(1330)의 영역과 독립된 영역에 기준 이미지로서 이미지(1321)를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 제 1 이미지(1330) 내에 새롭게 생성된 필터의 명칭을 나타내는 텍스트(예: "필터 1")(1325)를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 생성된 필터를 메모리(130)에 저장하기 위한 오브젝트(1331-3) 및 생성된 필터(예: 생성 후 임시적으로 메모리(130)에 저장된 필터)를 삭제하기 위한 오브젝트(1331-1)를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 도면(1307)은, 생성된 필터가 저장된 후, 디스플레이를 통하여 표시되는 화면을 나타낼 수 있다. 일 실시예에서, 도면(1307)는, 도면(1305)에서 오브젝트(1331-3)에 대한 사용자 입력(예: 터치 입력)을 수신한 경우, 디스플레이를 통하여 표시되는 화면을 나타낼 수 있다.
일 실시예에서, 프로세서(120)는, 생성된 필터를 이용하여 이미지(1321)의 톤이 적용된 제 1 이미지(1340) 및 생성된 필터를 나타내는 이미지(1341)를 디스플레이를 통하여 표시할 수 있다. 예를 들어, 프로세서(120)는, 생성된 필터를 이용하여 이미지(1321)의 톤이 반영된 제 1 이미지(1340), 제 1 이미지(1310)가 축소된 이미지(1312-1), 기저장된 복수의 필터들(예: 이미지(1312-2) 및 이미지(1312-3), 및 생성된 필터를 나타내는 이미지(1341)를 디스플레이를 통하여 표시할 수 있다.
일 실시예에서, 프로세서(120)는, 이미지(1340)에 대하여 생성된 필터에 의해 적용된 이미지의 톤의 정도(또는 강도)를 조절하기 위한 인터페이스(1313)가 사용자 입력을 수신할 수 있음(또는 활성화됨)을 나타내도록 인터페이스(1313)을 디스플레이를 통하여 표시할 수 있다. 일 실시예에서, 프로세서(120)는, 인터페이스(1313)에 포함된 오브젝트(1313-1)의 위치에 따라 디스플레이를 통해 표시 중인 제 1 이미지(1340)에 생성된 필터를 이용하여 적용된 이미지의 톤의 정도를 조절할 수 있다.
본 발명의 다양한 실시예들에 따른 전자 장치에서 필터를 제공하는 방법은, 제 1 입력 이미지를 획득하는 동작, 기준 이미지를 획득하는 동작, 상기 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는지 여부를 확인하는 동작, 상기 분포를 나타내는 값이 상기 지정된 범위 내에 있는 것으로 확인된 경우, 제 1 방법에 기반한 제 1 변환 모듈을, 상기 제 1 입력 이미지 및 상기 기준 이미지에 기반하여, 상기 기준 이미지의 톤에 대응하는 톤을 가지는 제 2 입력 이미지를 획득하는 동작, 및 상기 분포를 나타내는 값이 상기 지정된 범위 내에 있지 않은 것으로 확인된 경우, 상기 제 1 방법과 다른 제 2 방법에 기반한 제 2 변환 모듈을 이용하여, 상기 제 1 입력 이미지 및 상기 기준 이미지에 기반하여, 상기 기준 이미지의 톤에 대응하는 톤을 가지는 제 3 입력 이미지를 획득하는 동작을 포함할 수 있다.
다양한 실시예에서, 상기 제 1 입력 이미지는, 상기 전자 장치의 카메라를 통하여 획득되는 이미지 또는 이미지 어플리케이션에 저장된 이미지를 포함할 수 있다.
다양한 실시예에서, 상기 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는지 여부를 확인하는 동작은, 상기 기준 이미지의 데이터의 표준 편차 또는 히스토그램의 엔트로피 값 중 적어도 하나가 지정된 값 이하인지 여부를 확인하는 동작을 포함할 수 있다.
다양한 실시예에서, 상기 제 2 입력 이미지를 획득하는 동작은, 상기 분포를 나타내는 값이 상기 지정된 범위 내에 있는 것으로 확인된 경우, 상기 제 1 입력 이미지의 데이터의 제 1 평균 값 및 상기 기준 이미지의 데이터의 제 2 평균 값을 획득하는 동작, 및 상기 제 2 평균 값 및 상기 제 1 평균 값 간 차이를 상기 제 1 입력 이미지의 데이터에 합산함으로써, 상기 제 2 입력 이미지를 획득하는 동작을 포함할 수 있다.
다양한 실시예에서, 상기 제 2 입력 이미지를 획득하는 동작은, 상기 제 2 입력 이미지의 콘트라스트 및 상기 기준 이미지의 콘트라스트를 매칭하는 동작을 더 포함할 수 있다.
다양한 실시예에서, 상기 제 3 입력 이미지를 획득하는 동작은, 상기 분포를 나타내는 값이 상기 지정된 범위 내에 있지 않은 것으로 확인된 경우, 제 1 해상도를 가지는 상기 제 1 입력 이미지 및 제 2 해상도를 가지는 상기 기준 이미지를 다운 샘플링하는 동작, 상기 제 1 해상도 및 상기 제 2 해상도 보다 낮은 제 3 해상도를 가지는 제 2 입력 이미지 및 제 2 기준 이미지를 획득하는 동작, 상기 제 2 입력 이미지 및 상기 제 2 기준 이미지에 대하여 지정된 횟수 만큼 반복 분포 변환을 수행함으로써, 상기 제 2 기준 이미지의 톤에 대응하는 톤을 가지는 제 3 입력 이미지를 획득하는 동작, 상기 제 2 입력 이미지 및 상기 제 3 입력 이미지에 기반하여 리그레션을 수행함으로써, 상기 제 1 해상도를 가지는 제 4 입력 이미지를 획득하는 동작, 및 상기 제 4 입력 이미지 및 상기 제 1 입력 이미지를 블렌딩함으로써, 상기 제 3 입력 이미지를 획득하는 동작을 포함할 수 있다.
다양한 실시예에서, 상기 다운 샘플링하는 동작은, 상기 제 1 해상도를 가지는 상기 제 1 입력 이미지 내에서 픽셀 값들을 선택하고, 상기 제 2 해상도를 가지는 상기 기준 이미지 내에서 랜덤하게 픽셀 값들을 선택하는 동작을 포함할 수 있다.
다양한 실시예에서, 상기 방법은 상기 제 1 입력 이미지에 포함된 하나 이상의 객체들을 인식함으로써 상기 하나 이상의 객체들에 대한 정보를 획득하는 동작을 더 포함하고, 상기 제 3 입력 이미지를 획득하는 동작은, 상기 하나 이상의 객체들에 대한 정보에 기반하여, 상기 제 4 입력 이미지 내에서 상기 하나 이상의 객체들에 대응하는 영역들에 대하여 다른 블렌딩 값을 적용함으로써, 상기 제 4 입력 이미지 및 상기 제 1 입력 이미지를 블렌딩하는 동작, 및 상기 제 4 입력 이미지 및 상기 제 1 입력 이미지가 블렌딩된 상기 제 3 입력 이미지를 획득하도록 하는 동작을 포함할 수 있다.
다양한 실시예에서, 상기 방법은, 상기 제 1 입력 이미지 및 상기 기준 이미지 내의 하나 이상의 객체들을 인식하는 동작을 더 포함하고, 상기 하나 이상의 객체들에 따라 상기 반복 분포 변환을 수행하는 횟수를 다르게 지정될 수 있다.
다양한 실시예에서, 상기 방법은, 상기 필터가 생성된 후 상기 제 2 입력 이미지 또는 상기 제 3 입력 이미지, 상기 기준 이미지, 및 상기 필터를 나타내는 오브젝트를 상기 디스플레이를 통하여 표시하는 동작을 더 포함할 수 있다.
또한, 상술한 본 발명의 실시예에서 사용된 데이터의 구조는 컴퓨터로 읽을 수 있는 기록매체에 여러 수단을 통하여 기록될 수 있다. 상기 컴퓨터로 읽을 수 있는 기록매체는 마그네틱 저장매체(예를 들면, 롬, 플로피 디스크, 하드 디스크 등), 광학적 판독 매체(예를 들면, CD-ROM, DVD 등)와 같은 저장매체를 포함한다.
이제까지 본 발명에 대하여 그 바람직한 실시예들을 중심으로 살펴보았다. 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 본 발명이 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 실시예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 할 것이다.

Claims (15)

  1. 전자 장치에 있어서,
    디스플레이;
    상기 디스플레이와 기능적으로 연결된 프로세서; 및
    상기 프로세서와 기능적으로 연결된 메모리를 포함하고,
    상기 메모리는, 실행 시, 상기 프로세서가,
    제 1 입력(input) 이미지를 획득하고,
    기준(reference) 이미지를 획득하고,
    상기 기준 이미지의 데이터의 분포(distribution)를 나타내는 값이 지정된 범위 내에 있는지 여부를 확인하고,
    상기 분포를 나타내는 값이 상기 지정된 범위 내에 있는 것으로 확인된 경우, 제 1 방법에 기반한 제 1 변환 모듈(transfer module)을 이용하여, 상기 제 1 입력 이미지 및 상기 기준 이미지에 기반하여, 상기 기준 이미지의 톤(tone)에 대응하는 톤을 가지는 제 2 입력 이미지를 획득하고, 및
    상기 분포를 나타내는 값이 상기 지정된 범위 내에 있지 않은 것으로 확인된 경우, 상기 제 1 방법과 다른 제 2 방법에 기반한 제 2 변환 모듈을 이용하여, 상기 제 1 입력 이미지 및 상기 기준 이미지에 기반하여, 상기 기준 이미지의 톤에 대응하는 톤을 가지는 제 3 입력 이미지를 획득하도록 하는 인스트럭션들(instructions)을 저장하는 전자 장치.
  2. 제 1 항에 있어서,
    상기 제 1 입력 이미지는, 상기 전자 장치의 카메라를 통하여 획득되는 이미지 또는 이미지 어플리케이션에 저장된 이미지를 포함하는 전자 장치.
  3. 제 1 항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 기준 이미지의 데이터의 표준 편차 또는 히스토그램(histogram)의 엔트로피(entropy) 값 중 적어도 하나가 지정된 값 이하인지 여부를 확인하도록 하는 전자 장치.
  4. 제 1 항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 분포를 나타내는 값이 상기 지정된 범위 내에 있는 것으로 확인된 경우, 상기 제 1 입력 이미지의 데이터의 제 1 평균 값 및 상기 기준 이미지의 데이터의 제 2 평균 값을 획득하고, 및
    상기 제 2 평균 값 및 상기 제 1 평균 값 간 차이를 상기 제 1 입력 이미지의 데이터에 합산함으로써, 상기 제 2 입력 이미지를 획득하도록 하는 전자 장치.
  5. 제 1 항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 분포를 나타내는 값이 상기 지정된 범위 내에 있지 않은 것으로 확인된 경우, 제 1 해상도(resolution)를 가지는 상기 제 1 입력 이미지 및 제 2 해상도를 가지는 상기 기준 이미지를 다운 샘플링(down sampling)하고,
    상기 제 1 해상도 및 상기 제 2 해상도 보다 낮은 제 3 해상도를 가지는 제 2 입력 이미지 및 제 2 기준 이미지를 획득하고,
    상기 제 2 입력 이미지 및 상기 제 2 기준 이미지에 대하여 지정된 횟수 만큼 반복 분포 변환(iterative distribution transfer)을 수행함으로써, 상기 제 2 기준 이미지의 톤에 대응하는 톤을 가지는 제 3 입력 이미지를 획득하고,
    상기 제 2 입력 이미지 및 상기 제 3 입력 이미지에 기반하여 리그레션(regression)을 수행함으로써, 상기 제 1 해상도를 가지는 제 4 입력 이미지를 획득하고, 및
    상기 제 4 입력 이미지 및 상기 제 1 입력 이미지를 블렌딩(blending)함으로써, 상기 제 3 입력 이미지를 획득하도록 하는 전자 장치.
  6. 제 5 항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 제 1 입력 이미지에 포함된 하나 이상의 객체들을 인식함으로써 상기 하나 이상의 객체들에 대한 정보를 획득하고,
    상기 하나 이상의 객체들에 대한 정보에 기반하여, 상기 제 4 입력 이미지 내에서 상기 하나 이상의 객체들에 대응하는 영역들에 대하여 다른 블렌딩 값을 적용함으로써, 상기 제 4 입력 이미지 및 상기 제 1 입력 이미지를 블렌딩하고, 및
    상기 제 4 입력 이미지 및 상기 제 1 입력 이미지가 블렌딩된 상기 제 3 입력 이미지를 획득하도록 하는 전자 장치.
  7. 제 5 항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 제 1 입력 이미지 및 상기 기준 이미지 내의 하나 이상의 객체들을 인식하고, 및
    상기 하나 이상의 객체들에 따라 상기 반복 분포 변환을 수행하는 횟수를 다르게 지정하도록 하는 전자 장치.
  8. 제 1 항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 필터가 생성된 후 상기 제 2 입력 이미지 또는 상기 제 3 입력 이미지, 상기 기준 이미지, 및 상기 필터를 나타내는 오브젝트를 상기 디스플레이를 통하여 표시하도록 하는 전자 장치.
  9. 전자 장치에서 필터를 제공하는 방법에 있어서,
    제 1 입력 이미지를 획득하는 동작;
    기준 이미지를 획득하는 동작;
    상기 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는지 여부를 확인하는 동작;
    상기 분포를 나타내는 값이 상기 지정된 범위 내에 있는 것으로 확인된 경우, 제 1 방법에 기반한 제 1 변환 모듈을 이용하여, 상기 제 1 입력 이미지 및 상기 기준 이미지에 기반하여, 상기 기준 이미지의 톤에 대응하는 톤을 가지는 제 2 입력 이미지를 획득하는 동작; 및
    상기 분포를 나타내는 값이 상기 지정된 범위 내에 있지 않은 것으로 확인된 경우, 상기 제 1 방법과 다른 제 2 방법에 기반한 제 2 변환 모듈을 이용하여, 상기 제 1 입력 이미지 및 상기 기준 이미지에 기반하여, 상기 기준 이미지의 톤에 대응하는 톤을 가지는 제 3 입력 이미지를 획득하는 동작을 포함하는 방법.
  10. 제 9 항에 있어서,
    상기 제 1 입력 이미지는, 상기 전자 장치의 카메라를 통하여 획득되는 이미지 또는 이미지 어플리케이션에 저장된 이미지를 포함하는 방법.
  11. 제 9 항에 있어서,
    상기 기준 이미지의 데이터의 분포를 나타내는 값이 지정된 범위 내에 있는지 여부를 확인하는 동작은,
    상기 기준 이미지의 데이터의 표준 편차 또는 히스토그램의 엔트로피 값 중 적어도 하나가 지정된 값 이하인지 여부를 확인하는 동작을 포함하는 방법.
  12. 제 9 항에 있어서,
    상기 제 2 입력 이미지를 획득하는 동작은,
    상기 분포를 나타내는 값이 상기 지정된 범위 내에 있는 것으로 확인된 경우, 상기 제 1 입력 이미지의 데이터의 제 1 평균 값 및 상기 기준 이미지의 데이터의 제 2 평균 값을 획득하는 동작; 및
    상기 제 2 평균 값 및 상기 제 1 평균 값 간 차이를 상기 제 1 입력 이미지의 데이터에 합산함으로써, 상기 제 2 입력 이미지를 획득하는 동작을 포함하는 방법.
  13. 제 9 항에 있어서,
    상기 제 3 입력 이미지를 획득하는 동작은,
    상기 분포를 나타내는 값이 상기 지정된 범위 내에 있지 않은 것으로 확인된 경우, 제 1 해상도를 가지는 상기 제 1 입력 이미지 및 제 2 해상도를 가지는 상기 기준 이미지를 다운 샘플링하는 동작;
    상기 제 1 해상도 및 상기 제 2 해상도 보다 낮은 제 3 해상도를 가지는 제 2 입력 이미지 및 제 2 기준 이미지를 획득하는 동작;
    상기 제 2 입력 이미지 및 상기 제 2 기준 이미지에 대하여 지정된 횟수 만큼 반복 분포 변환을 수행함으로써, 상기 제 2 기준 이미지의 톤에 대응하는 톤을 가지는 제 3 입력 이미지를 획득하는 동작;
    상기 제 2 입력 이미지 및 상기 제 3 입력 이미지에 기반하여 리그레션을 수행함으로써, 상기 제 1 해상도를 가지는 제 4 입력 이미지를 획득하는 동작; 및
    상기 제 4 입력 이미지 및 상기 제 1 입력 이미지를 블렌딩함으로써, 상기 제 3 입력 이미지를 획득하는 동작을 포함하는 방법.
  14. 제 13 항에 있어서,
    상기 제 1 입력 이미지에 포함된 하나 이상의 객체들을 인식함으로써 상기 하나 이상의 객체들에 대한 정보를 획득하는 동작을 더 포함하고,
    상기 제 3 입력 이미지를 획득하는 동작은,
    상기 하나 이상의 객체들에 대한 정보에 기반하여, 상기 제 4 입력 이미지 내에서 상기 하나 이상의 객체들에 대응하는 영역들에 대하여 다른 블렌딩 값을 적용함으로써, 상기 제 4 입력 이미지 및 상기 제 1 입력 이미지를 블렌딩하는 동작; 및
    상기 제 4 입력 이미지 및 상기 제 1 입력 이미지가 블렌딩된 상기 제 3 입력 이미지를 획득하도록 하는 동작을 포함하는 방법.
  15. 제 13 항에 있어서,
    상기 제 1 입력 이미지 및 상기 기준 이미지 내의 하나 이상의 객체들을 인식하는 동작을 더 포함하고,
    상기 하나 이상의 객체들에 따라 상기 반복 분포 변환을 수행하는 횟수를 다르게 지정되는 방법.
PCT/KR2021/000627 2020-02-05 2021-01-15 필터를 제공하는 방법 및 이를 지원하는 전자 장치 WO2021157900A1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2020-0013982 2020-02-05
KR1020200013982A KR102671722B1 (ko) 2020-02-05 2020-02-05 필터를 제공하는 방법 및 이를 지원하는 전자 장치

Publications (1)

Publication Number Publication Date
WO2021157900A1 true WO2021157900A1 (ko) 2021-08-12

Family

ID=77200682

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2021/000627 WO2021157900A1 (ko) 2020-02-05 2021-01-15 필터를 제공하는 방법 및 이를 지원하는 전자 장치

Country Status (2)

Country Link
KR (1) KR102671722B1 (ko)
WO (1) WO2021157900A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11298848A (ja) * 1998-04-13 1999-10-29 Minolta Co Ltd デジタルカメラ
JP2007067907A (ja) * 2005-08-31 2007-03-15 Sony Corp 撮像装置、撮像方法および撮像プログラム、ならびに、画像処理装置、画像処理方法および画像処理プログラム
JP2009130630A (ja) * 2007-11-22 2009-06-11 Canon Inc 色処理装置およびその方法
KR20110071854A (ko) * 2009-12-21 2011-06-29 한국전자통신연구원 입체 영상 시스템에서 영상 데이터의 색상 보정 장치 및 방법
JP2012257040A (ja) * 2011-06-08 2012-12-27 Haruto Tamura デジタルカメラ

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11298848A (ja) * 1998-04-13 1999-10-29 Minolta Co Ltd デジタルカメラ
JP2007067907A (ja) * 2005-08-31 2007-03-15 Sony Corp 撮像装置、撮像方法および撮像プログラム、ならびに、画像処理装置、画像処理方法および画像処理プログラム
JP2009130630A (ja) * 2007-11-22 2009-06-11 Canon Inc 色処理装置およびその方法
KR20110071854A (ko) * 2009-12-21 2011-06-29 한국전자통신연구원 입체 영상 시스템에서 영상 데이터의 색상 보정 장치 및 방법
JP2012257040A (ja) * 2011-06-08 2012-12-27 Haruto Tamura デジタルカメラ

Also Published As

Publication number Publication date
KR20210099975A (ko) 2021-08-13
KR102671722B1 (ko) 2024-06-04

Similar Documents

Publication Publication Date Title
WO2020145697A1 (en) Method for providing image using foldable display and electronic device for supporting the same
WO2020213915A1 (en) Foldable electronic device including sliding structure and method for controlling the same
WO2017090837A1 (en) Digital photographing apparatus and method of operating the same
WO2020032582A1 (en) Electronic device for displaying avatar corresponding to external object according to change in position of external object
EP3329666A1 (en) Method and electronic device for stabilizing video
WO2018016837A1 (en) Method and apparatus for iris recognition
WO2017111268A1 (ko) 변형 가능한 디스플레이 장치 및 이를 이용한 영상 표시 방법
WO2021162359A1 (en) Image processing method and electronic apparatus
WO2019017641A1 (ko) 전자 장치 및 전자 장치의 이미지 압축 방법
WO2014058086A1 (en) Image processing device and image processing method
WO2022139262A1 (ko) 관심 객체를 이용하여 비디오를 편집하는 전자 장치 및 그 동작 방법
WO2022010122A1 (ko) 영상을 제공하는 방법 및 이를 지원하는 전자 장치
EP3440593A1 (en) Method and apparatus for iris recognition
WO2021162320A1 (en) Electronic device and method for operating high speed screen of electronic device
WO2021177695A1 (en) Electronic device for providing transaction information and operating method thereof
WO2022154387A1 (ko) 전자 장치 및 그의 동작 방법
WO2019031676A1 (ko) 이미지 처리 방법 및 그에 따른 장치
WO2021158058A1 (en) Method for providing filter and electronic device supporting the same
WO2021025534A1 (ko) 카메라 프리뷰 이미지를 제공하기 위한 전자 장치 및 그의 동작 방법
WO2020017936A1 (ko) 전자 장치 및 이미지의 전송 상태에 기반하여 이미지를 보정하는 방법
WO2019045521A1 (ko) 전자 장치 및 그 제어 방법
WO2016017906A1 (ko) 디스플레이 장치, 디스플레이 보정 장치, 디스플레이 보정 시스템 및 디스플레이 보정 방법
WO2021157900A1 (ko) 필터를 제공하는 방법 및 이를 지원하는 전자 장치
WO2021112490A1 (ko) 카메라를 포함하는 폴더블 전자 장치
WO2020171576A1 (ko) 이미지 효과 적용 방법 및 이를 지원하는 전자 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21750462

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21750462

Country of ref document: EP

Kind code of ref document: A1