WO2021235837A1 - 이미지 보정을 수행하는 전자 장치 - Google Patents

이미지 보정을 수행하는 전자 장치 Download PDF

Info

Publication number
WO2021235837A1
WO2021235837A1 PCT/KR2021/006231 KR2021006231W WO2021235837A1 WO 2021235837 A1 WO2021235837 A1 WO 2021235837A1 KR 2021006231 W KR2021006231 W KR 2021006231W WO 2021235837 A1 WO2021235837 A1 WO 2021235837A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
flicker
processor
function
electronic device
Prior art date
Application number
PCT/KR2021/006231
Other languages
English (en)
French (fr)
Inventor
유현식
김정훈
임상현
김성오
김준현
박지윤
송원석
이기혁
조정환
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Publication of WO2021235837A1 publication Critical patent/WO2021235837A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/70—Denoising; Smoothing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H04N23/76—Circuitry for compensating brightness variation in the scene by influencing the image signals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80—Camera processing pipelines; Components thereof
    • H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation

Definitions

  • Embodiments disclosed in this document relate to an electronic device that performs image correction.
  • An electronic device including a camera device may capture an image.
  • the electronic device may output a preview image acquired from the camera device to the display, and may acquire the image using the camera device by inputting a shutter.
  • the camera device may include an image sensor (eg, a charge coupled device (CCD) or a complementary metal oxide semiconductor (CMOS)).
  • the charge accumulation timing may be different in units of planes or units of lines.
  • the image sensor may use a global shutter method in which charge accumulation timing is adjusted on a per-plane basis or a rolling shutter method in which charge accumulation timing is adjusted on a line-by-line basis.
  • a light source used for photographing a camera device may be divided into a solar light source and an artificial light source.
  • the artificial light source may include an alternating current light source.
  • the AC light source uses an AC power source, and the frequency of the AC power source may vary by region (eg, country).
  • the intensity of the AC light source may be periodically changed according to the frequency of the AC power source.
  • the image sensor uses a rolling shutter method, a flicker phenomenon in which brightness increases or decreases for each line in one image may occur when photographing with an AC light source.
  • Various embodiments of the present disclosure provide an electronic device that acquires a flicker-free image by acquiring at least two images at a specified time interval when photographing with an AC light source.
  • Various embodiments of the present disclosure provide an electronic device for compensating for noise due to movement while removing flicker when photographing using an AC light source.
  • An electronic device includes a camera device including an image sensor including a plurality of pixels arranged in a plurality of lines, a display device displaying data of the plurality of pixels, and the camera and a processor operatively coupled to the device and the display device.
  • the processor when photographing from an external light source whose brightness is changed in a first time period, acquires a second image when a specified time elapses after acquiring the first image, the exposure time of the image sensor and the first time
  • a third image may be acquired through the first image and the second image according to a ratio of a period, and the third image may be output to the display device.
  • an electronic device includes a camera device including an image sensor including a plurality of pixels arranged in a plurality of lines, a display device displaying data of the plurality of pixels, and and a processor operatively connected to the camera device and the display device.
  • the processor checks whether flicker is possible due to an external light source whose brightness is changed in a first time period during photographing, and when it is confirmed that flicker is possible, at a time point when a specified time elapses after acquiring the first image a second image is obtained, and when the exposure time of the image sensor is equal to half of the first time period, a third image obtained by averaging the first image and the second image is output through the display device and when the exposure time is shorter than the first time period and different from half of the first time period, a fourth image and a fifth image obtained by performing additional correction on each of the first image and the second image and outputting one of the fourth image and the fifth image through the display device.
  • flicker may be removed from a photographed image when photographing with an AC light source.
  • FIG. 1 is a block diagram of an electronic device in a network environment according to various embodiments of the present disclosure
  • FIG. 2 is a diagram illustrating an electronic device according to an embodiment.
  • FIG. 3 is a diagram exemplarily illustrating a flicker phenomenon appearing in a still image.
  • FIG. 4A is a diagram illustrating an image acquisition method in a flicker removal mode according to an exemplary embodiment.
  • FIG. 4B is a diagram illustrating images obtained by the flicker removal mode of FIG. 4A .
  • FIG. 5 is a diagram illustrating a flicker generation pattern according to exposure time in images acquired in the flicker removal mode of FIG. 4B .
  • FIG. 6 is a diagram illustrating an example of obtaining a measured flicker function from an image obtained according to an exemplary embodiment.
  • FIG. 7 is a diagram illustrating another example of obtaining a measured flicker function from an image obtained according to various embodiments of the present disclosure.
  • FIG. 8 is a diagram illustrating a method of obtaining a basic flicker function according to an embodiment.
  • FIG. 9 is a diagram illustrating a method of obtaining an ideal flicker function according to an embodiment.
  • FIG. 10 is a flowchart illustrating an example of a method for removing flicker according to an embodiment.
  • FIG. 11 is a flowchart illustrating another example of a method for removing flicker according to various embodiments of the present disclosure
  • FIG. 1 is a block diagram of an electronic device 101 in a network environment 100 according to various embodiments of the present disclosure.
  • the electronic device 101 communicates with the electronic device 102 through a first network 198 (eg, a short-range wireless communication network) or a second network 199 . It may communicate with the electronic device 104 or the server 108 through (eg, a long-distance wireless communication network). According to an embodiment, the electronic device 101 may communicate with the electronic device 104 through the server 108 .
  • the electronic device 101 includes a processor 120 , a memory 130 , an input device 150 , a sound output device 155 , a display device 160 , an audio module 170 , and a sensor module ( 176 , interface 177 , haptic module 179 , camera module 180 , power management module 188 , battery 189 , communication module 190 , subscriber identification module 196 , or antenna module 197 . ) may be included. In some embodiments, at least one of these components (eg, the display device 160 or the camera module 180 ) may be omitted or one or more other components may be added to the electronic device 101 . In some embodiments, some of these components may be implemented as a single integrated circuit. For example, the sensor module 176 (eg, a fingerprint sensor, an iris sensor, or an illuminance sensor) may be implemented while being embedded in the display device 160 (eg, a display).
  • the sensor module 176 eg, a fingerprint sensor, an iris sensor, or an illumina
  • the processor 120 for example, executes software (eg, the program 140) to execute at least one other component (eg, a hardware or software component) of the electronic device 101 connected to the processor 120 . It can control and perform various data processing or operations. According to an embodiment, as at least part of data processing or operation, the processor 120 converts commands or data received from other components (eg, the sensor module 176 or the communication module 190) to the volatile memory 132 . may be loaded into the volatile memory 132 , process commands or data stored in the volatile memory 132 , and store the resulting data in the non-volatile memory 134 .
  • software eg, the program 140
  • the processor 120 converts commands or data received from other components (eg, the sensor module 176 or the communication module 190) to the volatile memory 132 .
  • the volatile memory 132 may be loaded into the volatile memory 132 , process commands or data stored in the volatile memory 132 , and store the resulting data in the non-volatile memory 134 .
  • the processor 120 includes a main processor 121 (eg, a central processing unit or an application processor), and an auxiliary processor 123 (eg, a graphic processing unit or an image signal processor) that can be operated independently or together with the main processor 121 . , a sensor hub processor, or a communication processor). Additionally or alternatively, the auxiliary processor 123 may be configured to use less power than the main processor 121 or to be specialized for a designated function. The auxiliary processor 123 may be implemented separately from or as a part of the main processor 121 .
  • a main processor 121 eg, a central processing unit or an application processor
  • an auxiliary processor 123 eg, a graphic processing unit or an image signal processor
  • the auxiliary processor 123 may be configured to use less power than the main processor 121 or to be specialized for a designated function.
  • the auxiliary processor 123 may be implemented separately from or as a part of the main processor 121 .
  • the auxiliary processor 123 may be, for example, on behalf of the main processor 121 while the main processor 121 is in an inactive (eg, sleep) state, or when the main processor 121 is active (eg, executing an application). ), together with the main processor 121, at least one of the components of the electronic device 101 (eg, the display device 160, the sensor module 176, or the communication module 190) It is possible to control at least some of the related functions or states.
  • the auxiliary processor 123 eg, an image signal processor or a communication processor
  • the memory 130 may store various data used by at least one component (eg, the processor 120 or the sensor module 176 ) of the electronic device 101 .
  • the data may include, for example, input data or output data for software (eg, the program 140 ) and instructions related thereto.
  • the memory 130 may include a volatile memory 132 or a non-volatile memory 134 .
  • the program 140 may be stored as software in the memory 130 , and may include, for example, an operating system 142 , middleware 144 , or an application 146 .
  • the input device 150 may receive a command or data to be used by a component (eg, the processor 120 ) of the electronic device 101 from the outside (eg, a user) of the electronic device 101 .
  • the input device 150 may include, for example, a microphone, a mouse, a keyboard, or a digital pen (eg, a stylus pen).
  • the sound output device 155 may output a sound signal to the outside of the electronic device 101 .
  • the sound output device 155 may include, for example, a speaker or a receiver.
  • the speaker can be used for general purposes such as multimedia playback or recording playback, and the receiver can be used to receive incoming calls. According to an embodiment, the receiver may be implemented separately from or as a part of the speaker.
  • the display device 160 may visually provide information to the outside (eg, a user) of the electronic device 101 .
  • the display device 160 may include, for example, a display, a hologram device, or a projector and a control circuit for controlling the corresponding device.
  • the display device 160 may include a touch circuitry configured to sense a touch or a sensor circuit (eg, a pressure sensor) configured to measure the intensity of a force generated by the touch. have.
  • the audio module 170 may convert a sound into an electric signal or, conversely, convert an electric signal into a sound. According to an embodiment, the audio module 170 acquires a sound through the input device 150 , or an external electronic device (eg, a sound output device 155 ) connected directly or wirelessly with the electronic device 101 .
  • the electronic device 102) eg, a speaker or headphones
  • the electronic device 102 may output a sound.
  • the sensor module 176 detects an operating state (eg, power or temperature) of the electronic device 101 or an external environmental state (eg, user state), and generates an electrical signal or data value corresponding to the sensed state. can do.
  • the sensor module 176 may include, for example, a gesture sensor, a gyro sensor, a barometric pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR (infrared) sensor, a biometric sensor, It may include a temperature sensor, a humidity sensor, or an illuminance sensor.
  • the interface 177 may support one or more specified protocols that may be used by the electronic device 101 to directly or wirelessly connect with an external electronic device (eg, the electronic device 102 ).
  • the interface 177 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • the connection terminal 178 may include a connector through which the electronic device 101 can be physically connected to an external electronic device (eg, the electronic device 102 ).
  • the connection terminal 178 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).
  • the haptic module 179 may convert an electrical signal into a mechanical stimulus (eg, vibration or movement) or an electrical stimulus that the user can perceive through tactile or kinesthetic sense.
  • the haptic module 179 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
  • the camera module 180 may capture still images and moving images. According to an embodiment, the camera module 180 may include one or more lenses, image sensors, image signal processors, or flashes.
  • the power management module 188 may manage power supplied to the electronic device 101 .
  • the power management module 188 may be implemented as, for example, at least a part of a power management integrated circuit (PMIC).
  • PMIC power management integrated circuit
  • the battery 189 may supply power to at least one component of the electronic device 101 .
  • the battery 189 may include, for example, a non-rechargeable primary cell, a rechargeable secondary cell, or a fuel cell.
  • the communication module 190 is a direct (eg, wired) communication channel or a wireless communication channel between the electronic device 101 and an external electronic device (eg, the electronic device 102, the electronic device 104, or the server 108). It can support establishment and communication through the established communication channel.
  • the communication module 190 may include one or more communication processors that operate independently of the processor 120 (eg, an application processor) and support direct (eg, wired) communication or wireless communication.
  • the communication module 190 is a wireless communication module 192 (eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 194 (eg, : It may include a local area network (LAN) communication module, or a power line communication module).
  • a wireless communication module 192 eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module
  • GNSS global navigation satellite system
  • wired communication module 194 eg, : It may include a local area network (LAN) communication module, or a power line communication module.
  • a corresponding communication module may be a first network 198 (eg, a short-range communication network such as Bluetooth, WiFi direct, or infrared data association (IrDA)) or a second network 199 (eg, a cellular network, the Internet, or It may communicate with the external electronic device 104 through a computer network (eg, a telecommunication network such as a LAN or WAN).
  • a computer network eg, a telecommunication network such as a LAN or WAN.
  • These various types of communication modules may be integrated into one component (eg, a single chip) or may be implemented as a plurality of components (eg, multiple chips) separate from each other.
  • the wireless communication module 192 uses subscriber information (eg, International Mobile Subscriber Identifier (IMSI)) stored in the subscriber identification module 196 within a communication network such as the first network 198 or the second network 199 .
  • subscriber information eg, International Mobile Subscriber Identifier (IMSI)
  • IMSI International Mobile Subscriber Identifier
  • the antenna module 197 may transmit or receive a signal or power to the outside (eg, an external electronic device).
  • the antenna module 197 may include one antenna including a conductor formed on a substrate (eg, a PCB) or a radiator formed of a conductive pattern.
  • the antenna module 197 may include a plurality of antennas. In this case, at least one antenna suitable for a communication method used in a communication network such as the first network 198 or the second network 199 is connected from the plurality of antennas by, for example, the communication module 190 . can be selected. A signal or power may be transmitted or received between the communication module 190 and an external electronic device through the selected at least one antenna.
  • other components eg, RFIC
  • other than the radiator may be additionally formed as a part of the antenna module 197 .
  • peripheral devices eg, a bus, general purpose input and output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI)
  • signal eg commands or data
  • the command or data may be transmitted or received between the electronic device 101 and the external electronic device 104 through the server 108 connected to the second network 199 .
  • Each of the external electronic devices 102 and 104 may be the same as or different from the electronic device 101 .
  • all or part of the operations performed by the electronic device 101 may be performed by one or more of the external electronic devices 102 , 104 , or 108 .
  • the electronic device 101 may perform the function or service itself instead of executing the function or service itself.
  • one or more external electronic devices may be requested to perform at least a part of the function or the service.
  • the one or more external electronic devices that have received the request may execute at least a part of the requested function or service, or an additional function or service related to the request, and transmit a result of the execution to the electronic device 101 .
  • the electronic device 101 may process the result as it is or additionally and provide it as at least a part of a response to the request.
  • cloud computing, distributed computing, or client-server computing technology may be used.
  • FIG. 2 is a diagram illustrating an electronic device according to an embodiment.
  • 3 is a diagram exemplarily illustrating a flicker phenomenon appearing in a still image.
  • the electronic device 200 (eg, the electronic device 101 of FIG. 1 ) includes a processor 210 (eg, the processor 120 of FIG. 1 ) and a camera device 220 (eg, FIG. 1 ). of the camera module 180), the memory 230 (eg, the memory 130 of FIG. 1 ), the display device 240 (eg, the display device 160 of FIG. 1 ), and the communication circuit 250 (eg, the display device 160 of FIG. 1 ) : The communication module 190 of FIG. 1) may be included.
  • the electronic device 200 may further include a flicker detecting device (or a flicker detecting unit) 260 .
  • at least a part of the operation of the flicker detecting apparatus 260 may be an operation of the processor 210 or an operation under the control of the processor 210 .
  • the electronic device 200 may capture an image 310 through the camera device 220 .
  • the image 310 captured by the camera device 220 may include a flicker 320 .
  • the brightness of the AC light source 301 may be changed according to the light source period T (eg, when the AC power is 60 Hz, the light source period T is 1/120).
  • the camera device 220 may include an image sensor.
  • the image sensor may include a plurality of pixels. The plurality of pixels may be arranged in a plurality of rows and a plurality of columns.
  • the camera device 220 may acquire an image by sequentially exposing each row (or line) (hereinafter, image row) (L1 to LN) of the image sensor.
  • image row or line
  • the exposure time d of each of the image rows L1 to LN may be the same, and the exposure start time of each of the image rows L1 to LN may be different from each other.
  • the amount of light exposed for each image row eg, the area of the shaded portion in the graph of the AC light source 301 ) may be different from each other.
  • the image 310 may include a flicker 320 in which brightness is displayed differently for each image row.
  • the flicker 320 may be displayed as dark stripes 321 , 322 , and 323 in the image 310 .
  • the processor 210 may control the overall operation of the electronic device 200 .
  • the processor 210 may be operatively connected to the camera device 220 , the memory 230 , the display device 240 , the communication circuit 250 , or the flicker detection device 260 .
  • the processor 210 may be set to activate the camera device 220 when a camera-related application (eg, a photo taking app) is executed.
  • the activated camera device 220 may set the exposure time of the image sensor.
  • the camera device 220 may calculate an appropriate exposure based on the state of the external light source (eg, the brightness of the light source), and set the exposure time accordingly.
  • the camera device 220 may set the exposure time based on a user input.
  • the camera device 220 may set the exposure time based on a photographing mode (eg, a high dynamic range (HDR) mode).
  • a photographing mode eg, a high dynamic range (HDR) mode
  • the processor 210 may be configured to set the exposure time longer than a specified first time period (eg, the period of the alternating current light source at the current location, the light source period T of the alternating current light source 301 stored in the memory 230 ). If it is small, a flicker removal operation may be performed. As various embodiments, when it is determined that flicker is possible (eg, determining an artificial light source based on auto white balance (AWB), detecting ultraviolet light, or detecting flicker through the flicker detecting device 260 ) A flicker removal operation may be performed. The flicker removal operation will be described in detail with reference to FIGS. 4A to 11 .
  • AVB auto white balance
  • the memory 230 may store AC light source information (eg, the light source period T) where the electronic device 200 is located.
  • the memory 230 may store images acquired by the camera device 220 .
  • the memory 230 may store various data calculated by the processor 210 .
  • the display device 240 may display images acquired or corrected by the processor 210 or the camera device 220 .
  • the communication circuit 250 may exchange data with an external device (eg, an external electronic device or an external camera device).
  • the processor 210 may also perform the flicker removal operation on the images received from the external device.
  • the electronic device 200 performs photographing using the AC light source 401 (eg, a fluorescent lamp), the brightness of the AC light source 401 may be changed according to the light source period T.
  • the electronic device 200 provides information on the light source period T of the alternating current light source 401 used in the place (eg, in Korea). Since an AC power of 60 Hz is used, the light source period (T) of 1/120 may be stored in the memory 230 .
  • the electronic device 200 may operate in a flicker removal mode (hereinafter, flicker removal mode) based on various conditions.
  • flicker removal mode a flicker removal mode
  • the processor 210 when the exposure time of the image sensor is set to be less than a specified time (eg, the light source period T of the AC light source 401 ), the processor 210 operates in a flicker removal mode (eg, the method of FIGS. 4A to 11 ). ) can be operated.
  • the processor 210 may operate in a flicker removal mode.
  • the processor 210 may set the exposure time d of the camera device 220 (or the image sensor) before photographing.
  • the processor 210 may be set to activate the camera device 220 when a camera-related application (eg, a photo taking app) is executed.
  • the activated camera device 220 may set the exposure time d.
  • the camera device 220 may calculate an appropriate exposure based on a current external state (eg, brightness of a light source) and set the exposure time d accordingly.
  • the camera device 220 may set the exposure time d based on a user input.
  • the camera device 220 may set the exposure time d based on a photographing mode (eg, a high dynamic range (HDR) mode).
  • a photographing mode eg, a high dynamic range (HDR) mode
  • FIG. 4A is a diagram illustrating an image acquisition method in a flicker removal mode according to an exemplary embodiment.
  • FIG. 4B is a diagram illustrating images obtained by the flicker removal mode of FIG. 4A .
  • FIG. 5 is a diagram illustrating a flicker generation pattern according to exposure time in images acquired in the flicker removal mode of FIG. 4B .
  • the processor 210 may use at least a plurality of images to remove flicker.
  • the processor 210 may be configured to acquire the first image 420 and the second image 440 at different times through the camera device 220 .
  • the camera device 220 may acquire the first image 420 through the first exposure 410 at the first time point t1 .
  • the camera device 220 may acquire the second image 440 through the second exposure 430 at a second time point t2 after a specified time RT has elapsed from the first time point t1 .
  • the designated time RT is a time (or phase is different) at which the phases of the first flicker 450 included in the first image 420 and the second flicker 460 included in the second image 440 are reversed. 180 degree difference).
  • the first image 420 may display dark stripes 451 and 452 by the first flicker 450 .
  • the second image 440 may display dark stripes 461 , 462 , and 463 by the second flicker 460 .
  • the processor 210 may detect flicker using various flicker detection models.
  • the processor 210 may define a flicker (eg, the first flicker 450 or the second flicker 460) included in the image as shown in [Equation 1].
  • a flicker eg, the first flicker 450 or the second flicker 460
  • R(x,y) refers to a photographed actual image
  • I(x, y) may indicate an ideal image that does not include flicker
  • F(y) may indicate an ideal flicker function that does not include additional noise.
  • F(y) can be defined as having only the column direction component of the image.
  • the processor 210 converts the captured real image (eg, R(x,y)) to an ideal image (eg, I(x,y)) and an ideal flicker function (eg, F(y)) ) can be defined as the product of
  • the processor 210 may express the third image 480 as [Equation 2].
  • R 1 (x,y) refers to the first image 420 photographed at the first time point t1
  • R 2 (x,y) is the second image photographed at the second time point t2.
  • 2 may refer to the image 440
  • I′(x,y) may refer to the third image 480 .
  • the processor 210 may obtain a third image 480 (eg, a first combined image) by averaging the first image 420 and the second image 440 .
  • the third image 480 (eg, I'(x,y)) may have additional noise (eg, exposure time d) of the camera device 220 to the ideal image (eg I(x,y)). noise caused by the movement of the camera device 220 (or the electronic device 200) may be further included.
  • the third image 480 may include noise according to the exposure time d of the first exposure 410 (or the second exposure 430 ).
  • the amount of noise caused by flicker may vary according to the relationship between the exposure time d and the light source period T.
  • the flicker 511 eg, the first flicker 450
  • the phase of the flicker 521 eg, the second flicker 460
  • the size may be the same.
  • the flicker 511 included in the first image 420 and the flicker 521 included in the second image 440 may be canceled 531 .
  • the flicker 512 eg, the first flicker 450 included in the first image 420
  • the flicker 522 eg, the second flicker 460 included in the second image 440
  • the third image 480 may include noise 532 due to flicker.
  • the flicker 513 included in the first image 420 (eg, the first flicker 450 ) ) and the flicker 523 (eg, the second flicker 460 ) included in the second image 440 may have opposite phases (eg, a difference of 180 degrees), and may have different sizes.
  • the third image 480 may include noise 533 due to flicker.
  • the noise 533 in the third state 503 may have a greater amount of noise than the noise 532 in the second state 502 .
  • the processor 210 converts the third image 480 to the final image without additional processing when the exposure time d is equal to half of the light source period T (eg, the first state 501). may be output to the display device 240 or stored in the memory 230 .
  • the processor 210 when the exposure time d is different from half of the light source period T (eg, the second state 502 or the third state 503 ), the processor 210 performs the third image 480 ) to perform additional image correction. 6 to 9 , the additional image correction of the processor 210 is described.
  • FIG. 6 is a diagram illustrating an example of obtaining a measured flicker function from an image obtained according to an exemplary embodiment.
  • 7 is a diagram illustrating another example of obtaining a measured flicker function from an image obtained according to various embodiments of the present disclosure;
  • 8 is a diagram illustrating a method of obtaining a basic flicker function according to an embodiment.
  • 9 is a diagram illustrating a method of obtaining an ideal flicker function according to an embodiment.
  • the processor 210 may perform additional image correction to remove noise caused by flicker. For example, the processor 210 may perform additional image correction on the first image 420 . Also, the processor 210 may perform additional image correction on the second image 440 .
  • the processor 210 may obtain a first measured flicker function 611 (eg, F′ 1 (y)) included in the first image 420 .
  • the processor 210 converts a pixel value (eg, R 1 (x,y)) of the first image 420 to a pixel value (eg, R 1 (x,y)) of the third image 480 . : I'(x,y)) to obtain the first measured flicker 610 (eg, F' 1 (x,y)).
  • the processor 210 may obtain the first measured flicker function 611 (eg, F′ 1 (y)) by obtaining an average of pixel brightness for each image row of the first measured flicker 610 .
  • the processor 210 may acquire the first measured flicker function 611 in a different way from that of FIG. 6 .
  • the processor 210 may obtain the first image function 421 (eg, R 1 (y)) by averaging the pixel brightness for each image row of the first image 420 .
  • the processor 210 may obtain the third image function 481 (eg, I'(y)) by obtaining an average of pixel brightness for each image row of the third image 480 .
  • the processor 210 divides the value of the first image function 421 by the value of the corresponding position of the third image function 481 to obtain a first measured flicker function 611 (eg, F′ 1 (y)). can do.
  • the processor 210 may obtain a basic flicker function 820 (eg, f(y)). For example, based on the light source period T of the AC light source 401 stored in the memory 230 , the processor 210 may define the AC light source function 810 (eg,
  • the processor 210 calculates the time per image row (t l ) by dividing the time taken to acquire one image (eg, the first image 420) by the number of image rows, and the processor 210 calculates the AC light source function ( 810) by the time (t l ) per image row, and integrating by the exposure time (t e ) (eg, exposure time (d)) of the image sensor of the camera device 220 to the basic flicker function ( 820) (eg f(y)).
  • the basic flicker function 820 may be expressed as [Equation 3].
  • the processor 210 may calculate the basic flicker function 820 based on the partial flicker information 830 (eg, flicker displayed in one image).
  • the partial flicker information 830 may include image height information H, and the image height information H may correspond to the total number of image rows included in one image (eg, the first image 420 ).
  • the basic flicker function 820 may include period information FT of the ideal flicker function 910 (eg, F(y)).
  • the processor 210 may obtain the first flicker function 910 by matching the basic flicker function 820 to the first measured flicker function 611 .
  • the processor 210 obtains a first phase and a first magnitude (or a first brightness) from a first measured flicker function 611 , and uses the first phase and the first magnitude as a base flicker function 820 .
  • the first flicker function 910 may be calculated by applying to .
  • the first measured flicker function 611 may include phase and magnitude information of the actually generated flicker.
  • the first flicker function 910 is an ideal flicker function corresponding to the first image 420 .
  • the first flicker function 910 (eg, F 1 (y)) may be expressed as [Equation 4].
  • the processor 210 may remove the flicker from the first image 420 by using the first flicker function 910 .
  • the processor 210 divides the value of the first image 420 by the corresponding value of the first flicker function 910 to obtain a fourth image from which noise due to flicker is removed.
  • the fourth image (eg, I 1 (x,y)) may be expressed as in [Equation 5].
  • the fourth image may be an ideal image corresponding to the first image 420 (eg, an image without noise due to flicker).
  • the processor 210 may acquire a fifth image in which noise due to flicker is removed from the second image 440 based on the method described with reference to FIGS. 6 to 9 .
  • the second image 440 eg, R 2 (x,y)
  • the fifth image eg, I 2 (x,y)
  • Equation (6) the second phase and the second magnitude are values corresponding to the second measured flicker function (eg, F′ 2 (y)).
  • the processor 210 uses one of the fourth image or the fifth image as a final image. 240) or may be stored in the memory 230.
  • the fourth image and the fifth image may include additional noise in addition to noise caused by flicker.
  • noise related to the movement of the camera device 220 (or the electronic device 200 ) due to an external factor such as a user's hand shake (hereinafter, motion noise) may be included in the third image 480 in the process of synthesizing the first image 420 and the second image 440 . Since the first flicker function 910 and the second flicker function are obtained using the third image 480 including the motion noise, the fourth image or the fifth image may include motion noise.
  • the processor 210 may determine whether to perform additional multi-frame synthesis based on the amount of noise included in the fourth image and the fifth image. For example, when the amount of noise included in the fourth image and the fifth image is equal to or less than a threshold value, the processor 210 may determine one of the fourth image or the fifth image as the final image. When the amount of noise included in the fourth image and the fifth image is greater than a threshold value, the processor 210 may obtain a final image by synthesizing the fourth image and the fifth image. For example, the threshold value may be determined based on a gain value of an image sensor of the camera device 220 .
  • the processor 210 applies motion compensation (hereinafter, motion compensation) to the fourth image and the fifth image, and then synthesizes the fourth image and the fifth image to obtain a sixth image.
  • motion compensation hereinafter, motion compensation
  • the processor 210 determines the same object included in the fourth image and the fifth image, and generates the sixth image by synthesizing the fourth image and the fifth image based on the object.
  • the processor 210 may acquire the sixth image using various motion compensation methods.
  • the processor 210 may output the sixth image as a final image to the display device 240 or store it in the memory 230 .
  • the processor 210 controls the camera device 220 (or the image sensor) based on the AC light source information stored in the memory 230 (eg, the light source period T of FIG. 4A ).
  • the exposure time eg, the exposure time d of FIG. 4A
  • the first time period eg, the light source period T of FIG. 4A
  • the processor 210 may be set to activate the camera device 220 when a camera-related application (eg, a photo taking app) is executed.
  • the activated camera device 220 may set the exposure time.
  • the camera device 220 may calculate an appropriate exposure based on a current external state (eg, brightness of a light source) and set the exposure time accordingly.
  • the camera device 220 may set the exposure time based on a user input.
  • the camera device 220 may set the exposure time based on a photographing mode (eg, a high dynamic range (HDR) mode).
  • a photographing mode eg, a high dynamic range (HDR) mode
  • the processor 210 may perform operation S1000 if the exposure time is shorter than the first time period (eg, the period of the AC light source at the current location, the light source period T of FIG. 4A ). As another embodiment, the processor 210 may perform operation S1000 regardless of any condition.
  • the first time period eg, the period of the AC light source at the current location, the light source period T of FIG. 4A .
  • the processor 210 acquires a first image (eg, the first image 420 of FIG. 4A ), and a specified time (eg, a specified time RT of FIG. 4A ) elapses.
  • a second image eg, the second image 440 of FIG. 4A
  • the processor 210 may acquire the first image at a first time point (eg, a first time point t1 of FIG. 4A ) through the camera device 220 .
  • the processor 210 may acquire the second image at a second time point (eg, a second time point t2) after the specified time has elapsed from the first time point through the camera device 220 .
  • the specified time may include a time (or a time in which a phase is 180 degrees different) between the phases of the first flicker included in the first image and the second flicker included in the second image.
  • the specified time may be set to a time when half of the first time period has elapsed after an integer multiple of the first time period (eg, the light source period T).
  • the processor 210 may obtain a third image (eg, the third image 480 of FIG. 4B ) by averaging the first image and the second image.
  • the processor 210 converts a captured real image (eg, R(x,y)) to an ideal image (eg, I(x,y)) and an ideal flicker function (eg: It can be defined as the product of F(y)).
  • the processor 210 may acquire the third image based on Equation (2).
  • the processor 210 may compare the exposure time with half of the first time period (eg, half of the light source period T). For example, when the exposure time is equal to half of the first time period (eg, the first state 501 of FIG. 5 ), the processor 210 may perform operation 1025 . When the exposure time is different from half of the first time period (eg, the second state 502 or the third state 503 of FIG. 5 ), the processor 210 may perform operation 1030 .
  • half of the first time period eg, half of the light source period T.
  • the processor 210 may output the third image to the display device 240 or store it in the memory 230 .
  • the first image and the second image by the average of the first image and Flicker included in the second image may be offset. Accordingly, the third image may not include flicker.
  • the third image is noise due to flicker.
  • the processor 210 may perform additional image correction to remove noise caused by flicker in operations 1030 to 1040 .
  • the processor 210 may extract a flicker component from the first image and the second image based on the third image. For example, based on the method described in FIG. 6 or FIG. 7 , the processor 210 may generate a first measured flicker function from the first image (eg, the first measured flicker function 611 of FIG. 6 or FIG. 7 ). may be obtained, and a second measured flicker function may be obtained from the second image.
  • a first measured flicker function from the first image (eg, the first measured flicker function 611 of FIG. 6 or FIG. 7 ).
  • a second measured flicker function may be obtained from the second image.
  • the processor 210 may calculate an ideal flicker function based on the extracted flicker component. For example, based on the method described in FIG. 8 , the processor 210 uses the alternating light source information (eg, the light source period T in FIG. 4A ) stored in the memory 230 to generate a basic flicker function (eg, FIG. 4A ). A basic flicker function 820, f(y)) of 8 can be calculated. Based on the method described in FIG. 9 , the processor 210 applies a first phase and a first magnitude of the first measured flicker function to the basic flicker function to apply a first flicker function (eg, the first flicker function of FIG. 9 ). function 910), and applying a second phase and a second magnitude of the second measured flicker function to the basic flicker function to obtain a second flicker function.
  • alternating light source information eg, the light source period T in FIG. 4A
  • a basic flicker function 820, f(y) of 8 can be calculated.
  • the processor 210 applies
  • the processor 210 may obtain a fourth image and a fifth image by applying an ideal flicker function to the first image and the second image. For example, referring to Equation 1, the processor 210 obtains the fourth image by dividing the pixel value of the first image by the corresponding value of the first flicker function, and the pixel value of the second image The fifth image may be obtained by dividing by the corresponding value of the second flicker function.
  • the fourth image may be an ideal image corresponding to the first image in flicker.
  • the fifth image may be an ideal image corresponding to the second image in flicker.
  • the processor 210 may compare the amount of noise included in the fourth image or the fifth image with a threshold value.
  • the fourth image and the fifth image may include additional noise in addition to noise caused by flicker.
  • motion noise related to the movement of the camera device 220 (or the electronic device 200 ) due to an external factor such as a user's hand tremor is reduced to the first image.
  • the third image in the process of synthesizing the second image since the processor 210 obtains the first flicker function and the second flicker function using the third image including the motion noise, the fourth image or the fifth image may include motion noise. .
  • the processor 210 may perform operation 1050 .
  • the processor 210 may perform operation 1055 .
  • the threshold value may be determined based on a gain value of an image sensor of the camera device 220 .
  • the processor 210 may output one of the fourth image or the fifth image to the display device 240 or store it in the memory 230 .
  • the processor 210 may determine the fourth image or the fifth image as an image from which flicker and noise are removed. and the processor 210 may determine the fourth image or the fifth image as a final image.
  • the processor 210 may calculate noise amounts of the fourth image and the fifth image, respectively.
  • the processor 210 may determine the fourth image as the final image.
  • the processor 210 may determine the fifth image as a final image.
  • the processor 210 may output a sixth image obtained by synthesizing the fourth image and the fifth image to the display device 240 or store it in the memory 230 .
  • the processor 210 may determine that the fourth image or the fifth image includes additional noise in addition to noise caused by flicker. have.
  • the processor 210 may generate a sixth image by synthesizing the fourth image and the fifth image.
  • the processor 210 may determine the same object included in the fourth image and the fifth image, and generate the sixth image by synthesizing the fourth image and the fifth image based on the object. have.
  • the processor 210 may acquire the sixth image using various motion compensation methods.
  • the processor 210 may determine the sixth image as a final image.
  • FIG. 11 is a flowchart illustrating another example of a method for removing flicker according to various embodiments of the present disclosure
  • the processor 210 may perform the flicker removal method of FIG. 10 after checking whether flicker is present during photographing.
  • the processor 210 may be set to activate the camera device 220 when a camera-related application (eg, a photo taking app) is executed.
  • the activated camera device 220 may set the exposure time of the image sensor.
  • the camera device 220 may calculate an appropriate exposure based on a current external state (eg, brightness of a light source) and set the exposure time accordingly.
  • the camera device 220 may set the exposure time based on a user input.
  • the camera device 220 may set the exposure time based on a photographing mode (eg, a high dynamic range (HDR) mode).
  • a photographing mode eg, a high dynamic range (HDR) mode
  • the processor 120 may determine whether flicker is possible (or whether the external light source is an alternating current light source or an artificial light source). For example, if it is determined that flicker cannot be generated, the processor 120 may perform general photographing in operation 1140 . When it is determined that flicker may occur, the processor 210 may perform operation S1000 of FIG. 10 in operation 1130 .
  • the processor 210 may determine whether flicker is possible in various ways. For example, the processor 210 may determine whether an artificial light source is present based on the color temperature of the light source in auto white balance (AWB). When it is determined that the external light source is an artificial light source, the processor 210 may determine that flicker is possible. As another example, the processor 210 may determine whether ultraviolet (UV) light is detected. When no ultraviolet light is detected, the processor 210 may determine that flicker is possible. As another example, the processor 210 may detect flicker by comparing at least two images. The processor 210 may acquire a first sample image at a first exposure time and acquire a second sample image at a second exposure time.
  • AVB auto white balance
  • the processor 210 may determine whether flicker occurs by comparing pixel data between consecutive frames of the first sample image and the second sample image. When there is a difference in pixel data between consecutive frames of the first sample image and the second sample image, the processor 210 may determine that flicker may occur. As another example, the processor 210 may detect the flicker using the flicker detection apparatus 260 . As another example, when the exposure time is shorter than the first time period of FIG. 10 (eg, the light source period T of FIG. 4A ), the processor 210 may determine that flicker may occur.
  • Electronic devices may be devices of various types.
  • the electronic device may include, for example, a portable communication device (eg, a smart phone), a computer device, a portable multimedia device, a portable medical device, a camera, a wearable device, or a home appliance device.
  • a portable communication device eg, a smart phone
  • a computer device e.g., a smart phone
  • a portable multimedia device e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a camera
  • a wearable device e.g., a smart bracelet
  • first”, “second”, or “first” or “second” may simply be used to distinguish the component from other such components, and refer to the component in another aspect (e.g., importance or order) is not limited. that one (e.g., first) component is “coupled” or “connected” to another (e.g., second) component with or without the terms “functionally” or “communicatively” When referenced, it means that one component can be connected to the other component directly (eg by wire), wirelessly, or through a third component.
  • module may include a unit implemented in hardware, software, or firmware, and may be used interchangeably with terms such as, for example, logic, logic block, component, or circuit.
  • a module may be an integrally formed part or a minimum unit or a part of the part that performs one or more functions.
  • the module may be implemented in the form of an application-specific integrated circuit (ASIC).
  • ASIC application-specific integrated circuit
  • one or more instructions stored in a storage medium may be implemented as software (eg, the program 140) including
  • the processor eg, the processor 120
  • the device may call at least one of one or more instructions stored from a storage medium and execute it. This makes it possible for the device to be operated to perform at least one function according to the at least one command called.
  • the one or more instructions may include code generated by a compiler or code executable by an interpreter.
  • the device-readable storage medium may be provided in the form of a non-transitory storage medium.
  • 'non-transitory' only means that the storage medium is a tangible device and does not contain a signal (eg, electromagnetic wave), and this term refers to the case where data is semi-permanently stored in the storage medium and It does not distinguish between temporary storage cases.
  • a signal eg, electromagnetic wave
  • the method according to various embodiments disclosed in this document may be provided by being included in a computer program product.
  • Computer program products may be traded between sellers and buyers as commodities.
  • the computer program product is distributed in the form of a machine-readable storage medium (eg compact disc read only memory (CD-ROM)), or through an application store (eg Play Store TM ) or on two user devices ( It can be distributed (eg downloaded or uploaded) directly, online between smartphones (eg: smartphones).
  • a part of the computer program product may be temporarily stored or temporarily created in a machine-readable storage medium such as a memory of a server of a manufacturer, a server of an application store, or a relay server.
  • each component eg, a module or a program of the above-described components may include a singular or a plurality of entities.
  • one or more components or operations among the above-described corresponding components may be omitted, or one or more other components or operations may be added.
  • a plurality of components eg, a module or a program
  • the integrated component may perform one or more functions of each component of the plurality of components identically or similarly to those performed by the corresponding component among the plurality of components prior to the integration. .
  • operations performed by a module, program, or other component are executed sequentially, in parallel, repeatedly, or heuristically, or one or more of the operations are executed in a different order, omitted, or , or one or more other operations may be added.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)

Abstract

복수의 라인들로 배치되는 복수의 픽셀을 포함하는 이미지 센서를 포함하는 카메라 장치, 상기 복수의 픽셀의 데이터를 표시하는 표시 장치, 및 상기 카메라 장치 및 상기 표시 장치와 작동적으로 연결된 프로세서를 포함하는 전자 장치가 개시된다. 상기 프로세서는, 제1 시간 주기로 밝기가 변경되는 외부 광원에서 촬영 시, 제1 이미지를 획득한 후 지정된 시간이 경과한 시점에 제2 이미지를 획득하고, 상기 이미지 센서의 노출 시간과 상기 제1 시간 주기의 비율에 따라 상기 제1 이미지와 상기 제2 이미지를 통해 제3 이미지를 획득하고, 상기 제3 이미지를 상기 표시 장치에 출력하도록 설정될 수 있다.

Description

이미지 보정을 수행하는 전자 장치
본 문서에서 개시되는 실시 예들은, 이미지 보정을 수행하는 전자 장치와 관련된다.
디지털 카메라, 디지털 캠코더, 또는 스마트 폰과 같이 카메라 장치를 포함하는 다양한 전자 장치가 출시되고 있다. 카메라 장치를 포함하는 전자 장치는 이미지를 촬영할 수 있다. 예를 들어, 전자 장치는 카메라 장치로부터 획득한 프리뷰 이미지를 디스플레이에 출력할 수 있으며, 셔터 입력에 의해 카메라 장치를 이용하여 이미지를 획득할 수 있다.
카메라 장치는 이미지 센서(예: CCD(charge coupled device) 또는 CMOS(complementary metal oxide semiconductor))를 포함할 수 있다. 이미지 센서는 면 단위, 혹은 라인 단위로 전하의 축적 타이밍이 상이할 수 있다. 예를 들어, 이미지 센서는 면 단위로 전하의 축적 타이밍을 맞추는 글로벌 셔터(global shutter) 방식 또는, 라인 단위로 전하의 축적 타이밍을 맞추는 롤링 셔터(rolling shutter) 방식을 이용할 수 있다.
카메라 장치의 촬영 시 사용되는 광원은 태양 광원과 인공 광원으로 나눌 수 있다. 인공 광원은 교류 광원을 포함할 수 있다. 교류 광원은 교류 전원을 사용하며, 교류 전원의 주파수는 지역별(예: 나라별)로 다를 수 있다. 교류 전원의 주파수에 따라 교류 광원의 세기는 주기적으로 변경될 수 있다. 이미지 센서가 롤링 셔터 방식을 사용하는 경우, 교류 광원에서 촬영 시 하나의 이미지 내에서 라인 별로 밝기가 증감하는 플리커(flicker) 현상이 발생할 수 있다.
본 발명의 다양한 실시 예들은, 교류 광원에서 촬영 시, 지정된 시간 간격으로 적어도 두 장의 이미지들을 획득하여 플리커가 제거된 이미지를 획득하는 전자 장치를 제공하고자 한다.
본 발명의 다양한 실시 예들은, 교류 광원에서 촬영 시, 플리커 제거와 함께 움직임에 의한 노이즈를 보상하는 전자 장치를 제공하고자 한다.
본 문서에 개시되는 일 실시 예에 따른 전자 장치는, 복수의 라인들로 배치되는 복수의 픽셀을 포함하는 이미지 센서를 포함하는 카메라 장치, 상기 복수의 픽셀의 데이터를 표시하는 표시 장치, 및 상기 카메라 장치 및 상기 표시 장치와 작동적으로 연결된 프로세서를 포함할 수 있다. 상기 프로세서는, 제1 시간 주기로 밝기가 변경되는 외부 광원에서 촬영 시, 제1 이미지를 획득한 후 지정된 시간이 경과한 시점에 제2 이미지를 획득하고, 상기 이미지 센서의 노출 시간과 상기 제1 시간 주기의 비율에 따라 상기 제1 이미지와 상기 제2 이미지를 통해 제3 이미지를 획득하고, 상기 제3 이미지를 상기 표시 장치에 출력하도록 설정될 수 있다.
또한, 본 문서에 개시되는 일 실시 예에 따른 전자 장치는, 복수의 라인들로 배치되는 복수의 픽셀을 포함하는 이미지 센서를 포함하는 카메라 장치, 상기 복수의 픽셀의 데이터를 표시하는 표시 장치, 및 상기 카메라 장치 및 상기 표시 장치와 작동적으로 연결된 프로세서를 포함할 수 있다. 상기 프로세서는, 촬영 시, 제1 시간 주기로 밝기가 변경되는 외부 광원에 의한 플리커 발생 가능 여부를 확인하고, 플리커가 발생 가능한 것으로 확인되는 경우, 제1 이미지를 획득한 후 지정된 시간이 경과한 시점에 제2 이미지를 획득하고, 상기 이미지 센서의 노출 시간이 상기 제1 시간 주기의 절반과 동일한 경우, 상기 제1 이미지와 상기 제2 이미지의 평균에 의해 획득되는 제3 이미지를 상기 표시 장치를 통해 출력하고, 상기 노출 시간이 상기 제1 시간 주기보다 작으면서 상기 제1 시간 주기의 절반과 다른 경우, 상기 제1 이미지와 상기 제2 이미지 각각에 추가적인 보정을 수행한 제4 이미지 및 제5 이미지를 획득하고, 상기 제4 이미지 또는 상기 제5 이미지 중 하나를 상기 표시 장치를 통해 출력하도록 설정될 수 있다.
본 문서에 개시되는 실시 예들에 따르면, 교류 광원에서 촬영 시, 촬영된 이미지에서 플리커를 제거할 수 있다.
본 문서에 개시되는 실시 예들에 따르면, 교류 광원에서 촬영 시, 촬영된 이미지에서 플리커 뿐만 아니라 다른 원인에 의한 노이즈도 보정할 수 있다.
이 외에, 본 문서를 통해 직접적 또는 간접적으로 파악되는 다양한 효과들이 제공될 수 있다.
도 1은 다양한 실시 예들에 따른 네트워크 환경 내의 전자 장치의 블럭도이다.
도 2는 일 실시 예에 따른 전자 장치를 나타내는 도면이다.
도 3은 정지 영상에 나타나는 플리커 현상을 예시적으로 나타내는 도면이다.
도 4a는 일 실시 예에 따른 플리커 제거 모드 시 이미지 획득 방법을 나타내는 도면이다.
도 4b는, 도 4a의 플리커 제거 모드에 의해 획득된 이미지들을 나타내는 도면이다.
도 5는, 도 4b의 플리커 제거 모드에서 획득된 이미지들에서 노출 시간에 따른 플리커 발생 형태를 나타내는 도면이다.
도 6은 일 실시 예에 따라 획득된 이미지에서 측정 플리커 함수를 획득하는 일 예를 나타내는 도면이다.
도 7은 다양한 실시 예에 따라 획득된 이미지에서 측정 플리커 함수를 획득하는 다른 예를 나타내는 도면이다.
도 8은 일 실시 예에 따른 기초 플리커 함수를 획득하는 방법을 나타내는 도면이다.
도 9는 일 실시 예에 따른 이상적 플리커 함수를 획득하는 방법을 나타내는 도면이다.
도 10은 일 실시 예에 따른 플리커 제거 방법의 일 예를 나타내는 순서도이다.
도 11은 다양한 실시 예에 따른 플리커 제거 방법의 다른 예를 나타내는 순서도이다.
도면의 설명과 관련하여, 동일 또는 유사한 구성요소에 대해서는 동일 또는 유사한 참조 부호가 사용될 수 있다.
이하, 본 발명의 다양한 실시 예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 실시 예의 다양한 변경(modification), 균등물(equivalent), 및/또는 대체물(alternative)을 포함하는 것으로 이해되어야 한다.
도 1은, 다양한 실시 예들에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블럭도이다. 도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108)와 통신할 수 있다. 일 실시 예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일 실시 예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 장치(150), 음향 출력 장치(155), 표시 장치(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 표시 장치(160) 또는 카메라 모듈(180))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시 예에서는, 이 구성요소들 중 일부들은 하나의 통합된 회로로 구현될 수 있다. 예를 들면, 센서 모듈(176)(예: 지문 센서, 홍채 센서, 또는 조도 센서)은 표시 장치(160)(예: 디스플레이)에 임베디드된 채 구현될 수 있다
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시 예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 로드하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일 실시 예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서), 및 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 추가적으로 또는 대체적으로, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 또는 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 표시 장치(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일 실시 예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성 요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서 모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 장치(150)는, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 장치(150)는, 예를 들면, 마이크, 마우스, 키보드, 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 장치(155)는 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 장치(155)는, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있고, 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일 실시 예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
표시 장치(160)는 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 표시 장치(160)는, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일 실시 예에 따르면, 표시 장치(160)는 터치를 감지하도록 설정된 터치 회로(touch circuitry), 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 센서 회로(예: 압력 센서)를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일 실시 예에 따르면, 오디오 모듈(170)은, 입력 장치(150)를 통해 소리를 획득하거나, 음향 출력 장치(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일 실시 예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일 실시 예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일 실시 예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일 실시 예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시 예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일 실시 예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일 실시 예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108))간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일 실시 예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제1 네트워크(198)(예: 블루투스, WiFi direct 또는 IrDA(infrared data association) 같은 근거리 통신 네트워크) 또는 제2 네트워크(199)(예: 셀룰러 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부 전자 장치(104)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제1 네트워크(198) 또는 제2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 및 인증할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일 실시 예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 하나의 안테나를 포함할 수 있다. 일 실시 예에 따르면, 안테나 모듈(197)은 복수의 안테나들을 포함할 수 있다. 이런 경우, 제1 네트워크(198) 또는 제2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시 예에 따르면, 방사체 이외에 다른 부품(예: RFIC)이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들 간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일 실시 예에 따르면, 명령 또는 데이터는 제2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 외부 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일 실시 예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는 일 실시 예에 따른 전자 장치를 나타내는 도면이다. 도 3은 정지 영상에 나타나는 플리커 현상을 예시적으로 나타내는 도면이다.
도 2를 참조하면, 전자 장치(200)(예: 도 1의 전자 장치(101))는 프로세서(210)(예: 도 1의 프로세서(120)), 카메라 장치(220)(예: 도 1의 카메라 모듈(180)), 메모리(230)(예: 도 1의 메모리(130)), 표시 장치(240)(예: 도 1의 표시 장치(160)), 및 통신 회로(250)(예: 도 1의 통신 모듈(190))를 포함할 수 있다. 전자 장치(200)는 플리커 검출 장치(또는 플리커 검출부)(260)를 추가적으로 더 포함할 수 있다. 이하에서, 플리커 검출 장치(260)의 동작의 적어도 일부는 프로세서(210)의 동작이거나, 프로세서(210)의 제어에 의한 동작일 수 있다.
도 3을 참조하면, 전자 장치(200)는 카메라 장치(220)를 통해 이미지(310)를 촬영할 수 있다. 카메라 장치(220)가 교류 광원(301)에서 촬영하는 경우, 카메라 장치(220)에 의해 촬영된 이미지(310)는 플리커(320)를 포함할 수 있다. 예를 들면, 교류 광원(301)은 광원 주기(T)(예: 교류 전원이 60Hz인 경우, 광원 주기(T)는 1/120)에 따라 밝기가 변경될 수 있다. 카메라 장치(220)는 이미지 센서를 포함할 수 있다. 상기 이미지 센서는 복수의 픽셀을 포함할 수 있다. 상기 복수의 픽셀은 복수의 행과 복수의 열로 배치될 수 있다. 카메라 장치(220)는 상기 이미지 센서의 행(또는 라인)(이하, 이미지 행)(L1~LN) 별로 순차적으로 노출하여 이미지를 획득할 수 있다. 이미지 행(L1~LN) 각각의 노출 시간(d)은 동일하고, 이미지 행(L1~LN) 각각의 노출의 시작 시점은 서로 다를 수 있다. 이때 상기 이미지 행 별로 노출되는 광량(예: 교류 광원(301)의 그래프에서 빗금친 부분의 넓이)은 서로 다를 수 있다.
예컨대, 상기 이미지 센서의 제1 이미지 행(L1)은 제1 노출에 의해 최소 광량이 누적될 수 있다. 상기 이미지 센서의 제5 이미지 행(L5)은 제5 노출에 의해 최대 광량이 누적될 수 있다. 따라서, 이미지(310)는 이미지 행 별로 밝기가 다르게 표시되는 플리커(320)를 포함할 수 있다. 일 예로, 플리커(320)는 이미지(310) 내에서 어두운 줄무늬들(321, 322, 323)로 표시될 수 있다.
일 실시 예에 따르면, 프로세서(210)는 전자 장치(200)의 전반적인 동작을 제어할 수 있다. 예를 들면, 프로세서(210)는 카메라 장치(220), 메모리(230), 표시 장치(240), 통신 회로(250) 또는 플리커 검출 장치(260)와 작동적으로 연결될 수 있다.
일 실시 예에 따르면, 프로세서(210)는 카메라 관련 어플리케이션(예: 사진 촬영 앱)이 실행되면 카메라 장치(220)를 활성화하도록 설정될 수 있다. 예를 들면, 활성화된 카메라 장치(220)는 이미지 센서의 노출 시간을 설정할 수 있다. 일 예로, 카메라 장치(220)는 외부 광원의 상태(예: 광원의 밝기)에 기초하여 적정 노광을 계산하고, 이에 따라 상기 노출 시간을 설정할 수 있다. 다른 예로, 카메라 장치(220)는 사용자 입력에 기초하여 상기 노출 시간을 설정할 수 있다. 또 다른 예로, 카메라 장치(220)는 촬영 모드(예: HDR(high dynamic range) 모드)에 기초하여 상기 노출 시간을 설정할 수 있다.
일 실시 예에 따르면, 프로세서(210)는 상기 노출 시간이 지정된 제1 시간 주기(예: 현재 위치의 교류 광원의 주기, 메모리(230)에 저장된 교류 광원(301)의 광원 주기(T))보다 작으면, 플리커 제거 동작을 수행할 수 있다. 다양한 실시 예로서, 프로세서(210)는 플리커가 발생 가능하다고 판단되는 경우(예: AWB(auto white balance)에 기초하여 인공 광원 판단, 자외선 검출, 또는 플리커 검출 장치(260)를 통해 플리커 검출) 상기 플리커 제거 동작을 수행할 수 있다. 상기 플리커 제거 동작은 도 4a 내지 도 11에서 자세히 설명한다.
일 실시 예에 따르면, 메모리(230)는 전자 장치(200)가 위치한 곳의 교류 광원 정보(예: 광원 주기(T))를 저장할 수 있다. 메모리(230)는 카메라 장치(220)에 의해 획득되는 이미지들을 저장할 수 있다. 메모리(230)는 프로세서(210)에 의해 계산된 다양한 데이터를 저장할 수 있다.
일 실시 예에 따르면, 표시 장치(240)는 프로세서(210) 또는 카메라 장치(220)에 의해 획득되거나 보정된 이미지들을 표시할 수 있다.
일 실시 예에 따르면, 통신 회로(250)는 외부 장치(예: 외부 전자 장치, 외부 카메라 장치)와 데이터를 교환할 수 있다. 예를 들면, 프로세서(210)는 상기 외부 장치로부터 수신된 이미지들에 대하여도 상기 플리커 제거 동작을 수행할 수 있다.
도 4a 내지 도 11에서, 촬영 시 플리커를 제거하기 위한 플리커 제거 방법이 설명된다. 전자 장치(200)가 교류 광원(401)(예: 형광등)에서 촬영을 수행하는 경우, 교류 광원(401)은 광원 주기(T)에 따라 밝기가 변경될 수 있다. 전자 장치(200)는, 전자 장치(200)를 사용하는 장소(예: 대한민국)가 결정되는 경우, 상기 장소에서 사용되는 교류 광원(401)의 광원 주기(T)에 대한 정보(예: 대한민국에서는 60Hz의 교류 전원이 사용되므로 광원 주기(T)는 1/120)를 메모리(230)에 저장할 수 있다.
일 실시 예에 따르면, 전자 장치(200)는 다양한 조건에 기초하여 플리커 제거를 수행하는 모드(이하, 플리커 제거 모드)로 동작할 수 있다. 일 예로, 이미지 센서의 노출 시간이 지정된 시간(예: 교류 광원(401)의 광원 주기(T))보다 작게 설정되는 경우, 프로세서(210)는 플리커 제거 모드(예: 도 4a 내지 도 11의 방법을 수행)로 동작할 수 있다. 다른 예로, 플리커가 검출되는 경우, 프로세서(210)는 플리커 제거 모드로 동작할 수 있다.
일 실시 예에 따르면, 프로세서(210)는 촬영 전에 카메라 장치(220)(또는 이미지 센서)의 노출 시간(d)을 설정할 수 있다. 예를 들면, 프로세서(210)는 카메라 관련 어플리케이션(예: 사진 촬영 앱)이 실행되면 카메라 장치(220)를 활성화하도록 설정될 수 있다. 활성화된 카메라 장치(220)는 노출 시간(d)을 설정할 수 있다. 일 예로, 카메라 장치(220)는 현재 외부 상태(예: 광원의 밝기)에 기초하여 적정 노광을 계산하고, 이에 따라 노출 시간(d)을 설정할 수 있다. 다른 예로, 카메라 장치(220)는 사용자 입력에 기초하여 노출 시간(d)을 설정할 수 있다. 또 다른 예로, 카메라 장치(220)는 촬영 모드(예: HDR(high dynamic range) 모드)에 기초하여 노출 시간(d)을 설정할 수 있다.
도 4a는 일 실시 예에 따른 플리커 제거 모드에서 이미지 획득 방법을 나타내는 도면이다. 도 4b는, 도 4a의 플리커 제거 모드에 의해 획득된 이미지들을 나타내는 도면이다. 도 5는, 도 4b의 플리커 제거 모드에서 획득된 이미지들에서 노출 시간에 따른 플리커 발생 형태를 나타내는 도면이다.
도 2, 도 4a 및 도 4b를 참조하면, 프로세서(210)는 플리커를 제거하기 위해 적어도 복수의 이미지들을 이용할 수 있다. 예를 들면, 프로세서(210)는 카메라 장치(220)를 통해 서로 다른 시점에 제1 이미지(420) 및 제2 이미지(440)를 획득하도록 설정될 수 있다. 카메라 장치(220)는 제1 시점(t1)에 제1 노출(410)을 통해 제1 이미지(420)를 획득할 수 있다. 카메라 장치(220)는 제1 시점(t1)으로부터 지정된 시간(RT)이 경과한 후 제2 시점(t2)에 제2 노출(430)을 통해 제2 이미지(440)를 획득할 수 있다. 일 예로, 지정된 시간(RT)은 제1 이미지(420)에 포함된 제1 플리커(450)와 제2 이미지(440)에 포함된 제2 플리커(460)의 위상이 반대로 되는 시간(또는 위상이 180도 차이 나는 시간)을 포함할 수 있다. 또는 지정된 시간(RT)은 광원 주기(T)의 정수(m) 배 시간 후 광원 주기(T)의 절반이 경과한 시간으로 설정될 수 있다(RT=m*T+0.5*T). 이때 제1 이미지(420)는 제1 플리커(450)에 의해 어두운 줄무늬들(451, 452)을 표시할 수 있다. 제2 이미지(440)는 제2 플리커(460)에 의해 어두운 줄무늬들(461, 462, 463)을 표시할 수 있다.
일 실시 예에 따르면, 프로세서(210)는 다양한 플리커 검출 모델을 이용하여 플리커를 검출할 수 있다. 예를 들면, 프로세서(210)는 [수학식 1]과 같이 이미지에 포함된 플리커(예: 제1 플리커(450) 또는 제2 플리커(460))를 정의할 수 있다. [수학식 1]에서, x는 이미지의 행 방향의 픽셀 성분, y는 이미지의 열 방향의 픽셀 성분으로 정의할 때, R(x,y)는 촬영된 실제 이미지를 지칭하고, I(x,y)은 플리커를 포함하지 않은 이상적 이미지를 지칭하고, F(y)는 추가적인 노이즈를 포함하지 않은 이상적 플리커 함수를 지칭할 수 있다. F(y)는 이미지의 열 방향 성분만 가지는 것으로 정의될 수 있다. [수학식 1]에서, 프로세서(210)는 촬영된 실제 이미지(예: R(x,y))를 이상적 이미지(예: I(x,y))와 이상적 플리커 함수(예: F(y))의 곱으로 정의할 수 있다.
[수학식 1]
R(x,y)=I(x,y)*F(y)
[수학식 1]의 표현에 기초하여, 프로세서(210)는 제3 이미지(480)를 [수학식 2]로 표현할 수 있다. 수학식 2에서, R1(x,y)는 제1 시점(t1)에 촬영된 제1 이미지(420)를 지칭하고, R2(x,y)는 제2 시점(t2)에 촬영된 제2 이미지(440)를 지칭하고, I'(x,y)는 제3 이미지(480)를 지칭할 수 있다. [수학식 2]를 참조하면, 프로세서(210)는 제1 이미지(420)와 제2 이미지(440)를 평균하여 제3 이미지(480)(예: 제1 결합 이미지)를 획득할 수 있다. 예컨대, 제3 이미지(480)(예: I'(x,y))는 이상적 이미지(예: I(x,y))에 추가적인 노이즈(예: 카메라 장치(220)의 노출 시간(d)에 따른 노이즈, 카메라 장치(220)(또는 전자 장치(200))의 움직임에 의한 노이즈)를 더 포함할 수 있다.
[수학식 2]
I'(x,y)={R1(x,y)+ R2(x,y)}/2
일 실시 예에 따르면, 제3 이미지(480)는 제1 노출(410)(또는 제2 노출(430))의 노출 시간(d)에 따라 노이즈를 포함할 수 있다. 예를 들어, 도 5를 참조하면, 노출 시간(d)과 광원 주기(T)의 관계에 따라 플리커에 의한 노이즈 양은 달라질 수 있다.
일 예로, 노출 시간(d)이 광원 주기(T)의 절반과 동일한 제1 상태(501)에서, 제1 이미지(420)에 포함된 플리커(511)(예: 제1 플리커(450))와 제2 이미지(440)에 포함된 플리커(521)(예: 제2 플리커(460))의 위상은 반대(예: 180도 차이)이고, 크기는 동일할 수 있다. 따라서, 제3 이미지(480)에서, 제1 이미지(420)에 포함된 플리커(511)와 제2 이미지(440)에 포함된 플리커(521)는 상쇄(531)될 수 있다.
다른 예로, 노출 시간(d)이 광원 주기(T)의 1/3인 제2 상태(502)에서, 제1 이미지(420)에 포함된 플리커(512)(예: 제1 플리커(450))와 제2 이미지(440)에 포함된 플리커(522)(예: 제2 플리커(460))의 위상은 반대(예: 180도 차이)이고, 크기는 서로 다를 수 있다. 따라서, 제3 이미지(480)는 플리커에 의한 노이즈(532)를 포함할 수 있다.
또 다른 예로, 노출 시간(d)이 광원 주기(T)의 1/4인 제3 상태(503)에서, 제1 이미지(420)에 포함된 플리커(513)(예: 제1 플리커(450))와 제2 이미지(440)에 포함된 플리커(523)(예: 제2 플리커(460))의 위상은 반대(예: 180도 차이)이고, 크기는 서로 다를 수 있다. 따라서, 제3 이미지(480)는 플리커에 의한 노이즈(533)를 포함할 수 있다. 이때, 제3 상태(503)의 노이즈(533)는 제2 상태(502)의 노이즈(532)보다 노이즈 양이 클 수 있다.
일 실시 예에 따르면, 프로세서(210)는 노출 시간(d)이 광원 주기(T)의 절반과 동일한 경우(예: 제1 상태(501))에 추가적인 처리없이 제3 이미지(480)를 최종 이미지로서 표시 장치(240)에 출력하거나 메모리(230)에 저장할 수 있다. 다양한 실시 예에 따르면, 프로세서(210)는 노출 시간(d)이 광원 주기(T)의 절반과 다른 경우(예: 제2 상태(502) 또는 제3 상태(503))에 제3 이미지(480)를 이용하여 추가적인 이미지 보정을 수행할 수 있다. 도 6 내지 도 9에서, 프로세서(210)의 상기 추가적인 이미지 보정에 대하여 설명된다.
도 6은 일 실시 예에 따라 획득된 이미지에서 측정 플리커 함수를 획득하는 일 예를 나타내는 도면이다. 도 7은 다양한 실시 예에 따라 획득된 이미지에서 측정 플리커 함수를 획득하는 다른 예를 나타내는 도면이다. 도 8은 일 실시 예에 따른 기초 플리커 함수를 획득하는 방법을 나타내는 도면이다. 도 9는 일 실시 예에 따른 이상적 플리커 함수를 획득하는 방법을 나타내는 도면이다.
도 6 내지 도 9를 참조하면, 카메라 장치(220)(또는 이미지 센서)의 노출 시간(d)이 교류 광원(401)의 광원 주기(T)의 절반과 다른 경우(예: 도 5의 제2 상태(502) 또는 제3 상태(503)), 프로세서(210)는 플리커에 의한 노이즈 제거를 위해 추가적인 이미지 보정을 수행할 수 있다. 예시적으로, 프로세서(210)는 제1 이미지(420)에 대하여 추가적인 이미지 보정을 수행할 수 있다. 또한, 프로세서(210)는 제2 이미지(440)에 대하여도 추가적인 이미지 보정을 수행할 수 있다.
일 실시 예에 따르면, 도 6에서, 프로세서(210)는 제1 이미지(420)에 포함된 제1 측정 플리커 함수(611)(예: F'1(y))를 획득할 수 있다. 예를 들면, [수학식 1]에 기초하여, 프로세서(210)는 제1 이미지(420)의 픽셀값(예: R1(x,y))를 제3 이미지(480)의 픽셀값(예: I'(x,y))으로 나누어 제1 측정 플리커(610)(예: F'1(x,y))를 획득할 수 있다. 프로세서(210)는 제1 측정 플리커(610)의 이미지 행 별로 픽셀 밝기의 평균을 구해 제1 측정 플리커 함수(611)(예: F'1(y))를 획득할 수 있다.
다른 실시 예에 따르면, 도 7에서, 프로세서(210)는 도 6과 다른 방법으로 제1 측정 플리커 함수(611)를 획득할 수 있다. 예를 들면, 프로세서(210)는 제1 이미지(420)의 이미지 행 별로 픽셀 밝기의 평균을 구해 제1 이미지 함수(421)(예: R1(y))를 획득할 수 있다. 프로세서(210)는 제3 이미지(480)의 이미지 행 별로 픽셀 밝기의 평균을 구해 제3 이미지 함수(481)(예: I'(y))를 획득할 수 있다. 프로세서(210)는 제1 이미지 함수(421)의 값을 제3 이미지 함수(481)의 대응하는 위치의 값으로 나누어 제1 측정 플리커 함수(611)(예: F'1(y))를 획득할 수 있다.
일 실시 예에 따르면, 도 8에서, 프로세서(210)는 기초 플리커 함수(820)(예: f(y))를 획득할 수 있다. 예를 들면, 메모리(230)에 저장된 교류 광원(401)의 광원 주기(T)에 기초하여, 프로세서(210)는 교류 광원 함수(810)(예: |sint|)를 정의할 수 있다. 프로세서(210)는 하나의 이미지(예: 제1 이미지(420))를 획득하는데 걸리는 시간을 이미지 행의 수로 나누어 이미지 행 당 시간(tl)을 계산하고, 프로세서(210)는 교류 광원 함수(810)를 이미지 행 당 시간(tl) 만큼씩 이동(shift)하면서 카메라 장치(220)의 이미지 센서의 노출 시간(te)(예: 노출 시간(d)) 만큼씩 적분하여 기초 플리커 함수(820)(예: f(y))를 계산할 수 있다. 기초 플리커 함수(820)는 [수학식 3]과 같이 표현될 수 있다.
[수학식 3]
Figure PCTKR2021006231-appb-I000001
예컨대, 프로세서(210)는 부분 플리커 정보(830)(예: 하나의 이미지 내에 표시되는 플리커)에 기초하여 기초 플리커 함수(820)를 계산할 수 있다. 부분 플리커 정보(830)는 이미지 높이 정보(H)를 포함하고, 이미지 높이 정보(H)는 하나의 이미지(예: 제1 이미지(420))에 포함된 총 이미지 행의 수와 대응할 수 있다. 기초 플리커 함수(820)는 이상적 플리커 함수(910)(예: F(y))의 주기 정보(FT)를 포함할 수 있다.
일 실시 예에 따르면, 도 9에서, 프로세서(210)는 기초 플리커 함수(820)를 제1 측정 플리커 함수(611)에 매칭하여 제1 플리커 함수(910)를 획득할 수 있다. 예를 들면, 프로세서(210)는 제1 측정 플리커 함수(611)에서 제1 위상 및 제1 크기(또는 제1 밝기)를 구하고, 상기 제1 위상 및 상기 제1 크기를 기초 플리커 함수(820)에 적용하여 제1 플리커 함수(910)를 계산할 수 있다. 예컨대, 제1 측정 플리커 함수(611)는 실제 발생한 플리커의 위상 및 크기 정보를 포함할 수 있다. 제1 플리커 함수(910)는 제1 이미지(420)에 대응하는 이상적 플리커 함수이다. 일 예로, 제1 플리커 함수(910)(예: F1(y))는 [수학식 4]와 같이 표현될 수 있다.
[수학식 4]
F1(y)=제1 크기*f(y+제1 위상)
일 실시 예에 따르면, 프로세서(210)는 제1 플리커 함수(910)를 이용하여 제1 이미지(420)에서 플리커를 제거할 수 있다. 예컨대, 수학식 1을 참조하면, 프로세서(210)는 제1 이미지(420)의 값을를 제1 플리커 함수(910)의 대응하는 값으로 나누어 플리커에 의한 노이즈가 제거된 제4 이미지를 획득할 수 있다. 상기 제4 이미지(예: I1(x,y))는 [수학식 5]와 같이 표현될 수 있다. 예컨대, 플리커에 대하여, 상기 제4 이미지는 제1 이미지(420)에 대응하는 이상적인 이미지(예: 플리커에 의한 노이즈가 없는 이미지)일 수 있다.
[수학식 5]
I1(x,y)= R1(x,y)/ F1(y)
또한, 마찬가지로, 프로세서(210)는 도 6 내지 도 9에 설명된 방법에 기초하여 제2 이미지(440)에서 플리커에 의한 노이즈가 제거된 제5 이미지를 획득할 수 있다. 제2 이미지(440)(예: R2(x,y)) 및 상기 제5 이미지(예: I2(x,y))는 수학식 6과 같이 표현될 수 있다. [수학식 6]에서, 제2 위상 및 제2 크기는 제2 측정 플리커 함수(예: F'2(y))에 대응하는 값들이다.
[수학식 6]
F2(y)=제2 크기*f(y+제2 위상)
I2(x,y)= R2(x,y)/ F2(y)
일 실시 예에 따르면, 상기 제4 이미지 또는 상기 제5 이미지에 플리커에 의한 노이즈 외에 추가적인 노이즈가 없는 경우, 프로세서(210)는 상기 제4 이미지 또는 상기 제5 이미지 중 하나를 최종 이미지로서 표시 장치(240)에 출력하거나 메모리(230)에 저장할 수 있다.
일 실시 예에 따르면, 상기 제4 이미지 및 상기 제5 이미지는 플리커에 의한 노이즈 외에 추가적인 노이즈를 포함할 수 있다. 예를 들면, 제1 이미지(420) 및 제2 이미지(440)의 획득 시, 사용자의 손 떨림과 같은 외부적인 요인으로 인한 카메라 장치(220)(또는 전자 장치(200))의 움직임과 관련된 노이즈(이하, 모션(motion) 노이즈)가 제1 이미지(420) 및 제2 이미지(440)의 합성 과정에서 제3 이미지(480)에 포함될 수 있다. 상기 모션 노이즈를 포함한 제3 이미지(480)를 이용하여 제1 플리커 함수(910) 및 상기 제2 플리커 함수를 획득하기 때문에, 상기 제4 이미지 또는 상기 제5 이미지는 모션 노이즈를 포함할 수 있다.
일 실시 예에 따르면, 프로세서(210)는 상기 제4 이미지 및 상기 제5 이미지에 포함된 노이즈 양에 기초하여 추가적인 멀티 프레임 합성의 수행 여부를 결정할 수 있다. 예를 들면, 상기 제4 이미지 및 상기 제5 이미지에 포함된 노이즈 양이 임계 값 이하인 경우, 프로세서(210)는 상기 제4 이미지 또는 상기 제5 이미지 중 하나를 최종 이미지로 결정할 수 있다. 상기 제4 이미지 및 상기 제5 이미지에 포함된 노이즈 양이 임계 값보다 큰 경우, 프로세서(210)는 상기 제4 이미지 및 상기 제5 이미지를 합성하여 최종 이미지를 획득할 수 있다. 일 예로, 상기 임계 값은 카메라 장치(220)의 이미지 센서의 게인(gain) 값에 기초하여 결정될 수 있다.
일 실시 예에 따르면, 프로세서(210)는 상기 제4 이미지 및 상기 제5 이미지에 움직임에 대한 보상(이하, 모션 보정)을 적용한 후, 상기 제4 이미지 및 상기 제5 이미지를 합성하여 제6 이미지를 생성할 수 있다. 일 예로, 프로세서(210)는 상기 제4 이미지 및 상기 제5 이미지에 포함된 동일한 객체를 판별하고, 상기 객체를 기준으로 상기 제4 이미지 및 상기 제5 이미지를 합성하여 상기 제6 이미지를 생성할 수 있다. 다양한 실시 예로서, 프로세서(210)는 다양한 모션 보정 방법을 이용하여 상기 제6 이미지를 획득할 수 있다. 프로세서(210)는 상기 제6 이미지를 최종 이미지로서 표시 장치(240)에 출력하거나 메모리(230)에 저장할 수 있다.
도 10은 일 실시 예에 따른 플리커 제거 방법의 일 예를 나타내는 순서도이다. 도 2 및 도 10을 참조하면, 프로세서(210)는, 메모리(230)에 저장된 교류 광원 정보(예: 도 4a의 광원 주기(T))에 기초하여 카메라 장치(220)(또는 이미지 센서)의 노출 시간(예: 도 4a의 노출 시간(d))이 제1 시간 주기(예: 도 4a의 광원 주기(T))보다 작은 경우, 적어도 두 장의 이미지를 획득하여 플리커를 제거할 수 있다.
일 실시 예에 따르면, 동작 1005에서, 프로세서(210)는 카메라 관련 어플리케이션(예: 사진 촬영 앱)이 실행되면 카메라 장치(220)를 활성화하도록 설정될 수 있다. 예를 들면, 활성화된 카메라 장치(220)는 상기 노출 시간을 설정할 수 있다. 일 예로, 카메라 장치(220)는 현재 외부 상태(예: 광원의 밝기)에 기초하여 적정 노광을 계산하고, 이에 따라 상기 노출 시간을 설정할 수 있다. 다른 예로, 카메라 장치(220)는 사용자 입력에 기초하여 상기 노출 시간을 설정할 수 있다. 또 다른 예로, 카메라 장치(220)는 촬영 모드(예: HDR(high dynamic range) 모드)에 기초하여 상기 노출 시간을 설정할 수 있다. 프로세서(210)는 상기 노출 시간이 상기 제1 시간 주기(예: 현재 위치의 교류 광원의 주기, 도 4a의 광원 주기(T))보다 작으면, 동작 S1000을 수행할 수 있다. 다른 실시 예로서, 프로세서(210)는 어떠한 조건과 관계없이 동작 S1000을 수행할 수도 있다.
일 실시 예에 따르면, 동작 1010에서, 프로세서(210)는 제1 이미지(예: 도 4a의 제1 이미지(420))를 획득하고, 지정된 시간(예: 도 4a의 지정된 시간(RT)) 경과 후 제2 이미지(예: 도 4a의 제2 이미지(440))를 획득할 수 있다. 예를 들면, 프로세서(210)는 카메라 장치(220)를 통해 제1 시점(예: 도 4a의 제1 시점(t1))에 상기 제1 이미지를 획득할 수 있다. 프로세서(210)는 카메라 장치(220)를 통해 상기 제1 시점으로부터 상기 지정된 시간이 경과한 후 제2 시점(예: 제2 시점(t2))에 상기 제2 이미지를 획득할 수 있다. 일 예로, 상기 지정된 시간은 상기 제1 이미지에 포함되는 제1 플리커와 상기 제2 이미지에 포함되는 제2 플리커의 위상이 반대로 되는 시간(또는 위상이 180도 차이 나는 시간)을 포함할 수 있다. 또는 상기 지정된 시간은 상기 제1 시간 주기(예: 광원 주기(T))의 정수 배 시간 후 상기 제1 시간 주기의 절반이 경과한 시간으로 설정될 수 있다.
일 실시 예에 따르면, 동작 1015에서, 프로세서(210)는 상기 제1 이미지 및 상기 제2 이미지의 평균을 구하여 제3 이미지(예: 도 4b의 제3 이미지(480))를 획득할 수 있다. 예를 들면, 수학식 1에 참조하면, 프로세서(210)는 촬영된 실제 이미지(예: R(x,y))를 이상적 이미지(예: I(x,y))와 이상적 플리커 함수(예: F(y))의 곱으로 정의할 수 있다. 일 예로, 프로세서(210)는 수학식 2에 기초하여 상기 제3 이미지를 획득할 수 있다.
일 실시 예에 따르면, 동작 1020에서, 프로세서(210)는 상기 노출 시간을 상기 제1 시간 주기의 절반(예: 광원 주기(T)의 절반)과 비교할 수 있다. 예를 들면, 상기 노출 시간이 상기 제1 시간 주기의 절반과 동일한 경우(예: 도 5의 제1 상태(501)), 프로세서(210)는 동작 1025를 수행할 수 있다. 상기 노출 시간이 상기 제1 시간 주기의 절반과 다른 경우(예: 도 5의 제2 상태(502) 또는 제3 상태(503)), 프로세서(210)는 동작 1030을 수행할 수 있다.
일 실시 예에 따르면, 동작 1025에서, 프로세서(210)는 상기 제3 이미지를 표시 장치(240)에 출력 또는 메모리(230)에 저장할 수 있다. 예를 들면, 상기 노출 시간이 상기 제1 시간 주기의 절반과 동일한 경우(예: 도 5의 제1 상태(501)), 상기 제1 이미지 및 상기 제2 이미지의 평균에 의해 상기 제1 이미지 및 상기 제2 이미지에 포함된 플리커는 상쇄될 수 있다. 따라서, 상기 제3 이미지는 플리커를 포함하지 않을 수 있다.
일 실시 예에 따르면, 상기 노출 시간이 상기 제1 시간 주기의 절반과 다른 경우(예: 도 5의 제2 상태(502) 또는 제3 상태(503)), 상기 제3 이미지는 플리커에 의한 노이즈를 포함할 수 있다. 프로세서(210)는 동작 1030 내지 동작 1040에서 플리커에 의한 노이즈를 제거하기 위해 추가적인 이미지 보정을 수행할 수 있다.
일 실시 예에 따르면, 동작 1030에서, 프로세서(210)는 상기 제3 이미지에 기초하여 상기 제1 이미지 및 상기 제2 이미지에서 플리커 성분을 추출할 수 있다. 예를 들면, 도 6 또는 도 7에서 설명된 방법에 기초하여, 프로세서(210)는 상기 제1 이미지로부터 제1 측정 플리커 함수(예: 도 6 또는 도 7의 제1 측정 플리커 함수(611))를 획득하고, 상기 제2 이미지로부터 제2 측정 플리커 함수를 획득할 수 있다.
일 실시 예에 따르면, 동작 1035에서, 프로세서(210)는 추출된 플리커 성분에 기초하여 이상적 플리커 함수를 계산할 수 있다. 예를 들면, 도 8에 설명된 방법에 기초하여, 프로세서(210)는 메모리(230)에 저장된 교류 광원 정보(예: 도 4a의 광원 주기(T))를 이용하여 기초 플리커 함수(예: 도 8의 기초 플리커 함수(820), f(y))를 계산할 수 있다. 도 9에 설명된 방법에 기초하여, 프로세서(210)는 상기 제1 측정 플리커 함수의 제1 위상과 제1 크기를 상기 기초 플리커 함수에 적용하여 제1 플리커 함수(예: 도 9의 제1 플리커 함수(910))를 획득하고, 상기 제2 측정 플리커 함수의 제2 위상과 제2 크기를 상기 기초 플리커 함수에 적용하여 제2 플리커 함수를 획득할 수 있다.
일 실시 예에 따르면, 동작 1040에서, 프로세서(210)는 이상적 플리커 함수를 상기 제1 이미지 및 상기 제2 이미지에 적용하여 제4 이미지 및 제5 이미지를 획득할 수 있다. 예를 들면, 수학식 1을 참조하여, 프로세서(210)는 상기 제1 이미지의 픽셀값을 상기 제1 플리커 함수의 대응하는 값으로 나누어 상기 제4 이미지를 획득하고, 상기 제2 이미지의 픽셀값을 상기 제2 플리커 함수의 대응하는 값으로 나누어 상기 제5 이미지를 획득할 수 있다. 상기 제4 이미지는 플리커에 있어서 상기 제1 이미지에 대응하는 이상적 이미지일 수 있다. 상기 제5 이미지는 플리커에 있어서 상기 제2 이미지에 대응하는 이상적 이미지일 수 있다.
일 실시 예에 따르면, 동작 1045에서, 프로세서(210)는 상기 제4 이미지 또는 상기 제5 이미지에 포함된 노이즈 양을 임계 값과 비교할 수 있다. 예를 들면, 상기 제4 이미지 및 상기 제5 이미지는 플리커에 의한 노이즈 외에 추가적인 노이즈를 포함할 수 있다. 예컨대, 상기 제1 이미지 및 상기 제2 이미지의 획득 시, 사용자의 손 떨림과 같은 외부적인 요인으로 인한 카메라 장치(220)(또는 전자 장치(200))의 움직임과 관련된 모션 노이즈가 상기 제1 이미지 및 상기 제2 이미지의 합성 과정에서 상기 제3 이미지에 포함될 수 있다. 프로세서(210)는 상기 모션 노이즈를 포함한 상기 제3 이미지를 이용하여 상기 제1 플리커 함수 및 상기 제2 플리커 함수를 획득하기 때문에, 상기 제4 이미지 또는 상기 제5 이미지는 모션 노이즈를 포함할 수 있다. 상기 제4 이미지 또는 상기 제5 이미지에 포함된 노이즈 양이 임계 값 이하인 경우, 프로세서(210)는 동작 1050을 수행할 수 있다. 상기 제4 이미지 또는 상기 제5 이미지에 포함된 노이즈 양이 임계 값보다 큰 경우, 프로세서(210)는 동작 1055를 수행할 수 있다. 일 예로, 상기 임계 값은 카메라 장치(220)의 이미지 센서의 게인(gain) 값에 기초하여 결정될 수 있다.
일 실시 예에 따르면, 동작 1050에서, 프로세서(210)는 상기 제4 이미지 또는 상기 제5 이미지 중 하나를 표시 장치(240)에 출력 또는 메모리(230)에 저장할 수 있다. 예를 들면, 상기 제4 이미지 또는 상기 제5 이미지에 포함된 노이즈 양이 임계 값 이하인 경우, 프로세서(210)는 상기 제4 이미지 또는 상기 제5 이미지를 플리커 및 노이즈가 제거된 이미지를 판단할 수 있고, 프로세서(210)는 상기 제4 이미지 또는 상기 제5 이미지를 최종 이미지로 결정할 수 있다. 일 예로서, 프로세서(210)는 상기 제4 이미지 및 상기 제5 이미지의 노이즈 양을 각각 계산할 수 있다. 상기 제4 이미지의 노이즈 양이 상기 제5 이미지의 노이즈 양보다 작거나 같으면, 프로세서(210)는 상기 제4 이미지를 최종 이미지로 결정할 수 있다. 또는 상기 제4 이미지의 노이즈 양이 상기 제5 이미지의 노이즈 양보다 크면, 프로세서(210)는 상기 제5 이미지를 최종 이미지로 결정할 수 있다.
일 실시 예에 따르면, 동작 1055에서, 프로세서(210)는 상기 제4 이미지 및 상기 제5 이미지를 합성한 제6 이미지를 표시 장치(240)에 출력 또는 메모리(230)에 저장할 수 있다. 상기 제4 이미지 또는 상기 제5 이미지에 포함된 노이즈 양이 임계 값보다 큰 경우, 프로세서(210)는 상기 제4 이미지 또는 상기 제5 이미지에 플리커에 의한 노이즈 외에 추가적인 노이즈가 포함되어 있다고 판단할 수 있다. 일 예로, 프로세서(210)는 상기 제4 이미지 및 상기 제5 이미지에 모션 보정을 적용한 후, 상기 제4 이미지 및 상기 제5 이미지를 합성하여 제6 이미지를 생성할 수 있다. 예컨대, 프로세서(210)는 상기 제4 이미지 및 상기 제5 이미지에 포함된 동일한 객체를 판별하고, 상기 객체를 기준으로 상기 제4 이미지 및 상기 제5 이미지를 합성하여 상기 제6 이미지를 생성할 수 있다. 다양한 실시 예로서, 프로세서(210)는 다양한 모션 보정 방법을 이용하여 상기 제6 이미지를 획득할 수 있다. 프로세서(210)는 상기 제6 이미지를 최종 이미지로 결정할 수 있다.
도 11은 다양한 실시 예에 따른 플리커 제거 방법의 다른 예를 나타내는 순서도이다.
도 2 및 도 11을 참조하면, 프로세서(210)는, 촬영 시 플리커의 존재 여부를 확인한 후, 도 10의 플리커 제거 방법을 수행할 수 있다.
일 실시 예에 따르면, 동작 1110에서, 프로세서(210)는 카메라 관련 어플리케이션(예: 사진 촬영 앱)이 실행되면 카메라 장치(220)를 활성화하도록 설정될 수 있다. 예를 들면, 활성화된 카메라 장치(220)는 이미지 센서의 노출 시간을 설정할 수 있다. 일 예로, 카메라 장치(220)는 현재 외부 상태(예: 광원의 밝기)에 기초하여 적정 노광을 계산하고, 이에 따라 상기 노출 시간을 설정할 수 있다. 다른 예로, 카메라 장치(220)는 사용자 입력에 기초하여 상기 노출 시간을 설정할 수 있다. 또 다른 예로, 카메라 장치(220)는 촬영 모드(예: HDR(high dynamic range) 모드)에 기초하여 상기 노출 시간을 설정할 수 있다.
일 실시 예에 따르면, 동작 1120에서, 프로세서(120)는 플리커 발생 가능 여부(또는 외부 광원이 교류 광원 또는 인공 광원인지 여부)를 확인할 수 있다. 예를 들면, 플리커가 발생될 수 없다고 판단되는 경우, 프로세서(120)는 동작 1140에서 일반적인 촬영을 수행할 수 있다. 플리커가 발생될 수 있다고 판단되는 경우, 프로세서(210)는 동작 1130에서 도 10의 동작 S1000을 수행할 수 있다.
일 실시 예에 따르면, 프로세서(210)는 다양한 방법으로 플리커 발생 가능 여부를 판단할 수 있다. 일 예로, 프로세서(210)는 AWB(auto white balance)에서 광원의 색 온도에 기초하여 인공 광원 여부를 판별할 수 있다. 외부 광원이 인공 광원으로 판별되면, 프로세서(210)는 플리커가 발생 가능한 것으로 판단할 수 있다. 다른 예로, 프로세서(210)는 자외선(UV) 검출 여부를 판별할 수 있다. 자외선이 검출되지 않는 경우, 프로세서(210)는 플리커가 발생 가능한 것으로 판단할 수 있다. 또 다른 예로, 프로세서(210)는 적어도 두 장의 이미지들을 비교하여 플리커를 검출할 수 있다. 프로세서(210)는 제1 노출 시간으로 제1 샘플 이미지를 획득하고, 제2 노출 시간으로 제2 샘플 이미지를 획득할 수 있다. 프로세서(210)는 상기 제1 샘플 이미지와 상기 제2 샘플 이미지의 연속된 프레임 간 픽셀 데이터를 비교하여 플리커 발생 여부를 확인할 수 있다. 상기 제1 샘플 이미지와 상기 제2 샘플 이미지의 연속된 프레임 간 픽셀 데이터에 차이 있는 경우, 프로세서(210)는 플리커가 발생 가능한 것으로 판단할 수 있다. 또 다른 예로, 프로세서(210)는 플리커 검출 장치(260)를 이용하여 플리커를 검출할 수 있다. 또 다른 예로, 상기 노출 시간이 도 10의 제1 시간 주기(예: 도 4a의 광원 주기(T))보다 작은 경우, 프로세서(210)는 플리커가 발생 가능한 것으로 판단할 수 있다.
본 문서에 개시된 다양한 실시 예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치 (예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시 예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시 예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시 예들로 한정하려는 것이 아니며, 해당 실시 예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제1", "제2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제1) 구성요소가 다른(예: 제2) 구성요소에, “기능적으로” 또는 “통신적으로”라는 용어와 함께 또는 이런 용어 없이, “커플드” 또는 “커넥티드”라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일 실시 예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시 예들은 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장매체 는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일 실시 예에 따르면, 본 문서에 개시된 다양한 실시 예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어™)를 통해 또는 두개의 사용자 장치들(예: 스마트폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시 예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있다. 다양한 실시 예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시 예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.

Claims (15)

  1. 전자 장치에 있어서,
    복수의 라인들로 배치되는 복수의 픽셀을 포함하는 이미지 센서를 포함하는 카메라 장치;
    상기 복수의 픽셀의 데이터를 표시하는 표시 장치; 및
    상기 카메라 장치 및 상기 표시 장치와 작동적으로 연결된 프로세서를 포함하고,
    상기 프로세서는,
    제1 시간 주기로 밝기가 변경되는 외부 광원에서 촬영 시, 제1 이미지를 획득한 후 지정된 시간이 경과한 시점에 제2 이미지를 획득하고,
    상기 이미지 센서의 노출 시간과 상기 제1 시간 주기의 비율에 따라 상기 제1 이미지와 상기 제2 이미지를 통해 제3 이미지를 획득하고,
    상기 제3 이미지를 상기 표시 장치에 출력하도록 설정된 전자 장치.
  2. 청구항 1에 있어서, 상기 프로세서는,
    상기 이미지 센서의 노출 시간이 상기 제1 시간 주기의 절반과 동일한 경우, 상기 제1 이미지와 상기 제2 이미지의 평균에 의해 획득되는 상기 제3 이미지를 상기 표시 장치를 통해 출력하도록 설정된 전자 장치
  3. 청구항 1에 있어서, 상기 프로세서는,
    상기 노출 시간이 상기 제1 시간 주기보다 작고 상기 제1 시간 주기의 절반과 다른 경우, 상기 제1 이미지와 상기 제2 이미지 각각에 추가적인 보정을 수행한 제4 이미지 및 제5 이미지를 획득하고, 상기 제4 이미지 또는 상기 제5 이미지 중 하나를 상기 표시 장치를 통해 출력하도록 설정된, 전자 장치.
  4. 청구항 3에 있어서,
    상기 프로세서는,
    상기 노출 시간이 상기 제1 시간 주기의 절반과 다른 경우, 상기 제3 이미지를 획득한 후 상기 제3 이미지에 기초하여 상기 제1 이미지 및 상기 제2 이미지에 추가적인 보정을 수행하도록 설정된, 전자 장치.
  5. 청구항 1에 있어서,
    상기 프로세서는,
    상기 노출 시간이 상기 제1 시간 주기의 절반과 다른 경우,
    상기 제1 이미지의 픽셀값을 상기 제3 이미지의 픽셀값으로 나누어 제1 측정 플리커를 획득하고,
    상기 제2 이미지의 픽셀값을 상기 제3 이미지의 픽셀값으로 나누어 제2 측정 플리커를 획득하도록 설정된, 전자 장치.
  6. 청구항 5에 있어서,
    상기 프로세서는,
    상기 제1 측정 플리커를 상기 라인 별로 픽셀 밝기의 평균을 구하여 제1 측정 플리커 함수를 획득하고,
    상기 제2 측정 플리커를 상기 라인 별로 픽셀 밝기의 평균을 구하여 제2 측정 플리커 함수를 획득하도록 설정된, 전자 장치.
  7. 청구항 6에 있어서,
    상기 프로세서는,
    상기 제1 시간 주기를 주기로 발생하는 플리커에 대응하는 기초 플리커 함수를 생성하고,
    상기 제1 측정 플리커 함수의 제1 위상 및 제1 크기를 상기 기초 플리커 함수에 적용한 제1 플리커 함수를 생성하고,
    상기 제2 측정 플리커 함수의 제2 위상 및 제2 크기를 상기 기초 플리커 함수에 적용한 제2 플리커 함수를 생성하도록 설정된, 전자 장치.
  8. 청구항 7에 있어서,
    상기 프로세서는,
    상기 제1 시간 주기를 가지는 교류 광원 함수를 생성하고,
    상기 제1 이미지 또는 상기 제2 이미지를 획득하는데 걸리는 시간을 하나의 이미지에 포함된 상기 이미지 행의 수로 나누어 상기 라인 당 시간을 계산하고,
    상기 교류 광원 함수를 상기 라인 당 시간 만큼씩 이동하면서 상기 노출 시간 만큼씩 적분하여 상기 기초 플리커 함수를 계산하도록 설정된, 전자 장치.
  9. 청구항 7에 있어서,
    상기 프로세서는,
    상기 제1 이미지의 픽셀값를 상기 제1 플리커 함수의 대응하는 값으로 나누어 상기 제4 이미지를 획득하고,
    상기 제2 이미지의 픽셀값를 상기 제2 플리커 함수의 대응하는 값으로 나누어 상기 제5 이미지를 획득하도록 설정된, 전자 장치.
  10. 청구항 9에 있어서,
    상기 프로세서는,
    상기 제4 이미지 또는 상기 제5 이미지의 노이즈 양이 임계 값 이하인 경우, 상기 제4 이미지 또는 상기 제5 이미지 중 하나를 상기 표시 장치를 통해 출력하도록 설정된, 전자 장치.
  11. 청구항 10에 있어서,
    상기 프로세서는,
    상기 제4 이미지 또는 상기 제5 이미지의 노이즈 양이 상기 임계 값보다 큰 경우, 상기 제4 이미지 및 상기 제5 이미지에 공통으로 포함된 적어도 하나의 객체를 기준으로 상기 제4 이미지 및 상기 제5 이미지를 합성한 제6 이미지를 상기 표시 장치를 통해 출력하도록 설정된, 전자 장치.
  12. 청구항 1에 있어서,
    상기 프로세서는,
    상기 노출 시간이 상기 제1 시간 주기의 절반과 다른 경우,
    상기 제1 이미지를 상기 이미지 행 별로 픽셀 밝기의 평균을 구하여 제1 이미지 함수를 획득하고,
    상기 제2 이미지를 상기 이미지 행 별로 픽셀 밝기의 평균을 구하여 제2 이미지 함수를 획득하고,
    상기 제3 이미지를 상기 이미지 행 별로 픽셀 밝기의 평균을 구하여 제3 이미지 함수를 획득하도록 설정된, 전자 장치.
  13. 청구항 12에 있어서,
    상기 프로세서는,
    상기 제1 이미지 함수의 값을 상기 제3 이미지 함수의 대응하는 값으로 나누어 제1 측정 플리커 함수를 획득하고,
    상기 제2 이미지 함수의 값을 상기 제3 이미지 함수의 대응하는 값으로 나누어 제2 측정 플리커 함수를 획득하도록 설정된, 전자 장치.
  14. 청구항 1에 있어서,
    상기 프로세서는
    상기 제1 시간 주기의 정수 배의 시간이 경과한 후, 상기 지정된 시간을 상기 제1 시간 주기의 절반으로 지정하도록 설정된, 전자 장치.
  15. 청구항 1에 있어서,
    상기 프로세서는,
    상기 외부 광원에 의한 플리커 발생 가능 여부를 확인하고,
    플리커가 발생 가능한 것으로 확인되는 경우, 상기 제1 이미지 및 상기 제2 이미지를 획득하도록 설정된, 전자 장치.
PCT/KR2021/006231 2020-05-18 2021-05-18 이미지 보정을 수행하는 전자 장치 WO2021235837A1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2020-0059133 2020-05-18
KR1020200059133A KR20210142383A (ko) 2020-05-18 2020-05-18 이미지 보정을 수행하는 전자 장치

Publications (1)

Publication Number Publication Date
WO2021235837A1 true WO2021235837A1 (ko) 2021-11-25

Family

ID=78708699

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2021/006231 WO2021235837A1 (ko) 2020-05-18 2021-05-18 이미지 보정을 수행하는 전자 장치

Country Status (2)

Country Link
KR (1) KR20210142383A (ko)
WO (1) WO2021235837A1 (ko)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20230254591A1 (en) * 2022-02-09 2023-08-10 Samsung Electronics Co., Ltd. System and method for flicker avoidance in multi-frame multi-exposure image captures

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140031086A (ko) * 2012-09-03 2014-03-12 가부시끼가이샤 도시바 화상 처리 장치, 화상 처리 방법 및 고체 촬상 장치
JP2019004203A (ja) * 2017-06-12 2019-01-10 ソニーセミコンダクタソリューションズ株式会社 画像処理装置、撮像装置、画像処理方法、および、プログラム。
KR20190064522A (ko) * 2017-11-30 2019-06-10 암, 리미티드 플리커 감소 방법
JP2020028080A (ja) * 2018-08-16 2020-02-20 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
JP2020036128A (ja) * 2018-08-28 2020-03-05 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140031086A (ko) * 2012-09-03 2014-03-12 가부시끼가이샤 도시바 화상 처리 장치, 화상 처리 방법 및 고체 촬상 장치
JP2019004203A (ja) * 2017-06-12 2019-01-10 ソニーセミコンダクタソリューションズ株式会社 画像処理装置、撮像装置、画像処理方法、および、プログラム。
KR20190064522A (ko) * 2017-11-30 2019-06-10 암, 리미티드 플리커 감소 방법
JP2020028080A (ja) * 2018-08-16 2020-02-20 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
JP2020036128A (ja) * 2018-08-28 2020-03-05 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体

Also Published As

Publication number Publication date
KR20210142383A (ko) 2021-11-25

Similar Documents

Publication Publication Date Title
WO2020171583A1 (en) Electronic device for stabilizing image and method for operating same
WO2020032473A2 (en) Electronic device for blurring image obtained by combining plural images based on depth information and method for driving the electronic device
WO2019156308A1 (ko) 광학식 이미지 안정화 움직임을 추정하기 위한 장치 및 방법
WO2020130654A1 (en) Camera module having multi-cell structure and portable communication device including the same
WO2020116844A1 (en) Electronic device and method for acquiring depth information by using at least one of cameras or depth sensor
WO2021162307A1 (ko) 전자 장치 및 그의 hdr 영상 생성 방법
WO2021066565A1 (en) Image processing method and electronic device supporting the same
WO2020246710A1 (ko) 뎁스 맵 결정 방법 및 그 방법을 적용한 전자 장치
WO2020153817A1 (en) Method for controlling display and electronic device thereof
WO2020111750A1 (ko) 이미지 처리 방법 및 이를 지원하는 전자 장치
WO2021235837A1 (ko) 이미지 보정을 수행하는 전자 장치
WO2021157996A1 (en) Electronic device and method for processing image thereof
WO2019168374A1 (en) Method for generating plural information using camera to sense plural wave bandwidth and apparatus thereof
WO2019107968A1 (ko) 전자 장치 및 그의 이미지 획득 방법
WO2021215795A1 (ko) 전자 장치의 컬러 필터, 및 그 전자 장치
WO2021125875A1 (ko) 네트워크를 통해 영상 처리 서비스를 제공하는 전자 장치
WO2021182759A1 (ko) 이미지 처리 방법 및 장치
WO2020171492A1 (ko) 촬영된 이미지를 처리하기 위한 방법 및 그 전자 장치
WO2019054610A1 (ko) 복수의 이미지 센서들을 제어하기 위한 전자 장치 및 방법
WO2020190008A1 (en) Electronic device for auto focusing function and operating method thereof
WO2019172577A1 (ko) 전자장치의 이미지 처리 장치 및 방법
WO2020060081A1 (ko) 외부 조도에 기반하여 복수개의 카메라를 구동하는 전자 장치
WO2022030943A1 (ko) 딥러닝에 기반한 이미지 분할 장치 및 방법
WO2021145612A1 (ko) 이미지 보정을 수행하는 전자 장치 및 이미지를 보정하는 방법
WO2021235884A1 (ko) Awb를 수행하여 이미지를 생성하는 전자 장치 및 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21809260

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21809260

Country of ref document: EP

Kind code of ref document: A1