WO2024005333A1 - 카메라를 포함하는 전자 장치 및 방법 - Google Patents

카메라를 포함하는 전자 장치 및 방법 Download PDF

Info

Publication number
WO2024005333A1
WO2024005333A1 PCT/KR2023/005833 KR2023005833W WO2024005333A1 WO 2024005333 A1 WO2024005333 A1 WO 2024005333A1 KR 2023005833 W KR2023005833 W KR 2023005833W WO 2024005333 A1 WO2024005333 A1 WO 2024005333A1
Authority
WO
WIPO (PCT)
Prior art keywords
frames
exposure value
processor
image
brightness
Prior art date
Application number
PCT/KR2023/005833
Other languages
English (en)
French (fr)
Inventor
무커지닐라드리
박정현
김지혜
전승철
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020220101570A external-priority patent/KR20240002871A/ko
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Publication of WO2024005333A1 publication Critical patent/WO2024005333A1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/61—Control of cameras or camera modules based on recognised objects
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/63—Control of cameras or camera modules by using electronic viewfinders
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/69—Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H04N23/71—Circuitry for evaluating the brightness variation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time

Definitions

  • the descriptions below relate to an electronic device and method including a camera.
  • the electronic device can adjust camera exposure values to improve image quality.
  • an electronic device may include at least one processor, at least one camera, and memory.
  • the at least one processor may identify an object area corresponding to the subject within the preview image.
  • the at least one processor may identify the brightness of a background area from which the object area corresponding to the subject is excluded in the preview image, based on identifying that the object area corresponding to the subject corresponds to a predefined subject. You can.
  • the at least one processor may obtain one or more first frames through a first exposure value based on receiving a user input. After acquiring the one or more first frames, the at least one processor may acquire the one or more second frames through a second exposure value that is greater than the first exposure value.
  • the at least one processor may generate an output image based on the one or more first frames and the one or more second frames.
  • the at least one processor may obtain one or more frames through the first exposure value based on receiving a user input.
  • the at least one processor may generate an output image based on the one or more frames.
  • a method performed by an electronic device may include identifying an object area within a preview image.
  • the method may include identifying the brightness of a background area in the preview image from which the object area is excluded, based on identifying that the object area corresponds to a predefined subject.
  • the method may include an operation of obtaining one or more first frames through a first exposure value based on receiving a user input when the brightness of the background area is greater than a reference value.
  • the method may include acquiring the one or more first frames and then acquiring the one or more second frames through a second exposure value that is greater than the first exposure value.
  • the method may include generating an output image based on the one or more first frames and the one or more second frames.
  • the method may include obtaining one or more frames through the first exposure value based on receiving a user input when the brightness of the background area is less than the reference value.
  • the method may include generating an output image based on the one or more frames.
  • FIG. 1 is a block diagram of an electronic device in a network environment, according to one embodiment.
  • Figure 2 shows an example of image acquisition using adjustment of exposure values.
  • Figure 3 shows the operation flow of an electronic device, according to one embodiment.
  • Figure 4 shows an example of image acquisition using exposure value adjustment according to the brightness of the background area, according to one embodiment.
  • Figure 5 shows an example of a neural network for detail enhancement of an object image, according to one embodiment.
  • FIG. 6 illustrates operations of an electronic device for acquiring an image through a trained neural network, according to one embodiment.
  • Figure 7 shows an example of image acquisition used for automatic exposure according to the brightness of a background area, according to one embodiment.
  • FIG. 8 illustrates an operation flow of an electronic device for acquiring an image based on the brightness of a background area, according to an embodiment.
  • FIG. 9 illustrates an operation flow of an electronic device for determining an output image generation scheme based on the brightness of a background area, according to an embodiment.
  • FIG. 10 illustrates an operation flow of an electronic device for setting an automatic exposure value based on the brightness of a background area, according to an embodiment.
  • Terms used in the following description refer to combination (e.g., combining, merging, montaging), and terms referring to part of the preview image (e.g., object area). region, background region, terms referring to part of the obtained image (object image, background image), and specified value. Referring terms (reference value, threshold value), etc. are exemplified for convenience of explanation. Accordingly, the present disclosure is not limited to the terms described below, and other terms having equivalent technical meaning may be used.
  • terms such as '... part', '... base', '... water', and '... body' used hereinafter mean at least one shape structure or a unit that processes a function. It can mean.
  • the expressions greater than or less than may be used to determine whether a specific condition is satisfied or fulfilled, but this is only a description for expressing an example, and the description of more or less may be used. It's not exclusion. Conditions written as ‘more than’ can be replaced with ‘more than’, conditions written as ‘less than’ can be replaced with ‘less than’, and conditions written as ‘more than and less than’ can be replaced with ‘greater than and less than’.
  • 'A' to 'B' means at least one of the elements from A to (including A) and B (including B).
  • 'C' and/or 'D' means including at least one of 'C' or 'D', i.e. ⁇ 'C', 'D', 'C' and 'D' ⁇ .
  • An electronic device can acquire an image of a bright object (e.g., the moon) through a camera.
  • the electronic device can adjust the exposure value to obtain detailed information of bright objects. As the exposure value is lowered, the image may be taken darker. Accordingly, even if the background containing the object (e.g. the sky) is not dark, the electronic device obtains an image containing a bright object (e.g. the moon in the sky) on a dark background, thereby obtaining an actual image of the sky. It can be difficult to do.
  • an image close to reality can be obtained by adjusting the exposure value based on the brightness of the background area excluding the object.
  • a preview image may be an image displayed on the display of an electronic device before taking an image.
  • the subject refers to the object to be photographed.
  • the pre-designated subject refers to the subject expected in the electronic device.
  • the object area refers to the portion of the image occupied by the subject detected within the preview image.
  • the background area refers to the part of the image excluding the object area within the preview image.
  • the object image refers to the portion of the image occupied by the object detected within the acquired image.
  • the background image refers to the part of the image other than the object image within the acquired image.
  • An image acquired through image capture may be referred to as a frame.
  • a combined image may refer to an image output by merging at least one or more frames.
  • the combined image may be an image in which the first frame and the second frame have been merged.
  • the output image may be a final image, according to one embodiment.
  • the output image may be a combined image, or may be the result of additional operations (e.g., detail enhancement operations) performed on the combined image.
  • FIG. 1 is a block diagram of an electronic device in a network environment, according to one embodiment.
  • the electronic device 101 communicates with the electronic device 102 through a first network 198 (e.g., a short-range wireless communication network) or a second network 199. It is possible to communicate with at least one of the electronic device 104 or the server 108 through (e.g., a long-distance wireless communication network). According to one embodiment, the electronic device 101 may communicate with the electronic device 104 through the server 108.
  • a first network 198 e.g., a short-range wireless communication network
  • a second network 199 e.g., a long-distance wireless communication network.
  • the electronic device 101 may communicate with the electronic device 104 through the server 108.
  • the electronic device 101 includes a processor 120, a memory 130, an input module 150, an audio output module 155, a display module 160, an audio module 170, and a sensor module ( 176), interface 177, connection terminal 178, haptic module 179, camera module 180, power management module 188, battery 189, communication module 190, subscriber identification module 196 , or may include an antenna module 197.
  • at least one of these components eg, the connection terminal 178) may be omitted or one or more other components may be added to the electronic device 101.
  • some of these components e.g., sensor module 176, camera module 180, or antenna module 197) are integrated into one component (e.g., display module 160). It can be.
  • the processor 120 for example, executes software (e.g., program 140) to operate at least one other component (e.g., hardware or software component) of the electronic device 101 connected to the processor 120. It can be controlled and various data processing or calculations can be performed. According to one embodiment, as at least part of data processing or computation, the processor 120 stores instructions or data received from another component (e.g., sensor module 176 or communication module 190) in volatile memory 132. The commands or data stored in the volatile memory 132 can be processed, and the resulting data can be stored in the non-volatile memory 134.
  • software e.g., program 140
  • the processor 120 stores instructions or data received from another component (e.g., sensor module 176 or communication module 190) in volatile memory 132.
  • the commands or data stored in the volatile memory 132 can be processed, and the resulting data can be stored in the non-volatile memory 134.
  • the processor 120 includes the main processor 121 (e.g., a central processing unit or an application processor) or an auxiliary processor 123 that can operate independently or together (e.g., a graphics processing unit, a neural network processing unit ( It may include a neural processing unit (NPU), an image signal processor, a sensor hub processor, or a communication processor).
  • the main processor 121 e.g., a central processing unit or an application processor
  • an auxiliary processor 123 e.g., a graphics processing unit, a neural network processing unit ( It may include a neural processing unit (NPU), an image signal processor, a sensor hub processor, or a communication processor.
  • the auxiliary processor 123 may be set to use lower power than the main processor 121 or be specialized for a designated function. You can.
  • the auxiliary processor 123 may be implemented separately from the main processor 121 or as part of it.
  • the auxiliary processor 123 may, for example, act on behalf of the main processor 121 while the main processor 121 is in an inactive (e.g., sleep) state, or while the main processor 121 is in an active (e.g., application execution) state. ), together with the main processor 121, at least one of the components of the electronic device 101 (e.g., the display module 160, the sensor module 176, or the communication module 190) At least some of the functions or states related to can be controlled.
  • co-processor 123 e.g., image signal processor or communication processor
  • may be implemented as part of another functionally related component e.g., camera module 180 or communication module 190. there is.
  • the auxiliary processor 123 may include a hardware structure specialized for processing artificial intelligence models.
  • Artificial intelligence models can be created through machine learning. This learning may be performed, for example, in the electronic device 101 itself where the artificial intelligence model is performed, or may be performed through a separate server (e.g., server 108). Learning algorithms may include, for example, supervised learning, unsupervised learning, semi-supervised learning, or reinforcement learning, but It is not limited.
  • An artificial intelligence model may include multiple artificial neural network layers.
  • Artificial neural networks include deep neural network (DNN), convolutional neural network (CNN), recurrent neural network (RNN), restricted boltzmann machine (RBM), belief deep network (DBN), bidirectional recurrent deep neural network (BRDNN), It may be one of deep Q-networks or a combination of two or more of the above, but is not limited to the examples described above.
  • artificial intelligence models may additionally or alternatively include software structures.
  • the memory 130 may store various data used by at least one component (eg, the processor 120 or the sensor module 176) of the electronic device 101. Data may include, for example, input data or output data for software (eg, program 140) and instructions related thereto. Memory 130 may include volatile memory 132 or non-volatile memory 134.
  • the program 140 may be stored as software in the memory 130 and may include, for example, an operating system 142, middleware 144, or application 146.
  • the input module 150 may receive commands or data to be used in a component of the electronic device 101 (e.g., the processor 120) from outside the electronic device 101 (e.g., a user).
  • the input module 150 may include, for example, a microphone, mouse, keyboard, keys (eg, buttons), or digital pen (eg, stylus pen).
  • the sound output module 155 may output sound signals to the outside of the electronic device 101.
  • the sound output module 155 may include, for example, a speaker or a receiver. Speakers can be used for general purposes such as multimedia playback or recording playback.
  • the receiver can be used to receive incoming calls. According to one embodiment, the receiver may be implemented separately from the speaker or as part of it.
  • the display module 160 can visually provide information to the outside of the electronic device 101 (eg, a user).
  • the display module 160 may include, for example, a display, a hologram device, or a projector, and a control circuit for controlling the device.
  • the display module 160 may include a touch sensor configured to detect a touch, or a pressure sensor configured to measure the intensity of force generated by the touch.
  • the audio module 170 can convert sound into an electrical signal or, conversely, convert an electrical signal into sound. According to one embodiment, the audio module 170 acquires sound through the input module 150, the sound output module 155, or an external electronic device (e.g., directly or wirelessly connected to the electronic device 101). Sound may be output through the electronic device 102 (e.g., speaker or headphone).
  • the electronic device 102 e.g., speaker or headphone
  • the sensor module 176 detects the operating state (e.g., power or temperature) of the electronic device 101 or the external environmental state (e.g., user state) and generates an electrical signal or data value corresponding to the detected state. can do.
  • the sensor module 176 includes, for example, a gesture sensor, a gyro sensor, an air pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR (infrared) sensor, a biometric sensor, It may include a temperature sensor, humidity sensor, or light sensor.
  • the interface 177 may support one or more designated protocols that can be used to connect the electronic device 101 directly or wirelessly with an external electronic device (eg, the electronic device 102).
  • the interface 177 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • HDMI high definition multimedia interface
  • USB universal serial bus
  • SD card interface Secure Digital Card interface
  • audio interface audio interface
  • connection terminal 178 may include a connector through which the electronic device 101 can be physically connected to an external electronic device (eg, the electronic device 102).
  • the connection terminal 178 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).
  • the haptic module 179 can convert electrical signals into mechanical stimulation (e.g., vibration or movement) or electrical stimulation that the user can perceive through tactile or kinesthetic senses.
  • the haptic module 179 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
  • the camera module 180 can capture still images and moving images.
  • the camera module 180 may include one or more lenses, image sensors, image signal processors, or flashes.
  • the power management module 188 can manage power supplied to the electronic device 101.
  • the power management module 188 may be implemented as at least a part of, for example, a power management integrated circuit (PMIC).
  • PMIC power management integrated circuit
  • the battery 189 may supply power to at least one component of the electronic device 101.
  • the battery 189 may include, for example, a non-rechargeable primary battery, a rechargeable secondary battery, or a fuel cell.
  • Communication module 190 is configured to provide a direct (e.g., wired) communication channel or wireless communication channel between electronic device 101 and an external electronic device (e.g., electronic device 102, electronic device 104, or server 108). It can support establishment and communication through established communication channels. Communication module 190 operates independently of processor 120 (e.g., an application processor) and may include one or more communication processors that support direct (e.g., wired) communication or wireless communication.
  • processor 120 e.g., an application processor
  • the communication module 190 may be a wireless communication module 192 (e.g., a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 194 (e.g., : LAN (local area network) communication module, or power line communication module) may be included.
  • a wireless communication module 192 e.g., a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module
  • GNSS global navigation satellite system
  • wired communication module 194 e.g., : LAN (local area network) communication module, or power line communication module
  • the corresponding communication module is a first network 198 (e.g., a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)) or a second network 199 (e.g., legacy It may communicate with an external electronic device 104 through a telecommunication network such as a cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (e.g., LAN or WAN).
  • a telecommunication network such as a cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (e.g., LAN or WAN).
  • a telecommunication network such as a cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (e.g., LAN or WAN).
  • a telecommunication network such as a cellular network, a 5G network, a next-generation communication network
  • the wireless communication module 192 uses subscriber information (e.g., International Mobile Subscriber Identifier (IMSI)) stored in the subscriber identification module 196 to communicate within a communication network such as the first network 198 or the second network 199.
  • subscriber information e.g., International Mobile Subscriber Identifier (IMSI)
  • IMSI International Mobile Subscriber Identifier
  • the wireless communication module 192 may support 5G networks after 4G networks and next-generation communication technologies, for example, NR access technology (new radio access technology).
  • NR access technology provides high-speed transmission of high-capacity data (eMBB (enhanced mobile broadband)), minimization of terminal power and access to multiple terminals (mMTC (massive machine type communications)), or high reliability and low latency (URLLC (ultra-reliable and low latency). -latency communications)) can be supported.
  • the wireless communication module 192 may support a high frequency band (eg, mmWave band), for example, to achieve a high data transfer rate.
  • a high frequency band eg, mmWave band
  • the wireless communication module 192 uses various technologies to secure performance in high frequency bands, for example, beamforming, massive array multiple-input and multiple-output (MIMO), and full-dimensional multiplexing. It can support technologies such as input/output (FD-MIMO (full dimensional MIMO)), array antenna, analog beam-forming, or large scale antenna.
  • the wireless communication module 192 may support various requirements specified in the electronic device 101, an external electronic device (e.g., electronic device 104), or a network system (e.g., second network 199).
  • the wireless communication module 192 supports Peak data rate (e.g., 20 Gbps or more) for realizing eMBB, loss coverage (e.g., 164 dB or less) for realizing mmTC, or U-plane latency (e.g., 164 dB or less) for realizing URLLC.
  • Peak data rate e.g., 20 Gbps or more
  • loss coverage e.g., 164 dB or less
  • U-plane latency e.g., 164 dB or less
  • the antenna module 197 may transmit or receive signals or power to or from the outside (eg, an external electronic device).
  • the antenna module 197 may include an antenna including a radiator made of a conductor or a conductive pattern formed on a substrate (eg, PCB).
  • the antenna module 197 may include a plurality of antennas (eg, an array antenna). In this case, at least one antenna suitable for the communication method used in the communication network, such as the first network 198 or the second network 199, is connected to the plurality of antennas by, for example, the communication module 190. can be selected. Signals or power may be transmitted or received between the communication module 190 and an external electronic device through the at least one selected antenna.
  • other components eg, radio frequency integrated circuit (RFIC) may be additionally formed as part of the antenna module 197.
  • RFIC radio frequency integrated circuit
  • the antenna module 197 may form a mmWave antenna module.
  • a mmWave antenna module includes a printed circuit board, an RFIC disposed on or adjacent to a first side (e.g., bottom side) of the printed circuit board and capable of supporting a designated high-frequency band (e.g., mmWave band); And a plurality of antennas (e.g., array antennas) disposed on or adjacent to the second side (e.g., top or side) of the printed circuit board and capable of transmitting or receiving signals in the designated high frequency band. can do.
  • a mmWave antenna module includes a printed circuit board, an RFIC disposed on or adjacent to a first side (e.g., bottom side) of the printed circuit board and capable of supporting a designated high-frequency band (e.g., mmWave band); And a plurality of antennas (e.g., array antennas) disposed on or adjacent to the second side (e.g., top or side)
  • peripheral devices e.g., bus, general purpose input and output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI)
  • signal e.g. commands or data
  • commands or data may be transmitted or received between the electronic device 101 and the external electronic device 104 through the server 108 connected to the second network 199.
  • Each of the external electronic devices 102 or 104 may be of the same or different type as the electronic device 101.
  • all or part of the operations performed in the electronic device 101 may be executed in one or more of the external electronic devices 102, 104, or 108.
  • the electronic device 101 may perform the function or service instead of executing the function or service on its own.
  • one or more external electronic devices may be requested to perform at least part of the function or service.
  • One or more external electronic devices that have received the request may execute at least part of the requested function or service, or an additional function or service related to the request, and transmit the result of the execution to the electronic device 101.
  • the electronic device 101 may process the result as is or additionally and provide it as at least part of a response to the request.
  • cloud computing distributed computing, mobile edge computing (MEC), or client-server computing technology can be used.
  • the electronic device 101 may provide an ultra-low latency service using, for example, distributed computing or mobile edge computing.
  • the external electronic device 104 may include an Internet of Things (IoT) device.
  • Server 108 may be an intelligent server using machine learning and/or neural networks.
  • the external electronic device 104 or server 108 may be included in the second network 199.
  • the electronic device 101 may be applied to intelligent services (e.g., smart home, smart city, smart car, or healthcare) based on 5G communication technology and IoT-related technology.
  • Figure 2 shows an example of image acquisition using adjustment of exposure values.
  • a preview image may be acquired by the electronic device's camera prior to capturing the image and displayed on the display.
  • the image corresponding to the subject in the preview image may be referred to as an object area corresponding to the subject
  • the image corresponding to the background in the preview image may be referred to as a background area.
  • the preview image 201 may be an image acquired (or received) by an electronic device before adjusting the exposure value.
  • the preview image 201 may include an object corresponding to the subject 207.
  • the subject 207 may be the moon.
  • the actual background 205 is a real background excluding the subject 207 (e.g., the moon).
  • the actual background 205 may include the sky excluding the subject 207 (eg, the moon).
  • the actual background 205 may include the sky, mountains, and fields excluding the subject 207 (eg, the moon).
  • the electronic device 209 may acquire a preview image 201 including an object area 213 corresponding to the subject 207.
  • a smartphone is shown as an example of the electronic device 209, but the embodiment of the present disclosure can be used for not only smartphones but also electronic devices that use cameras.
  • the electronic device 209 may be a tablet that includes a camera.
  • the electronic device 209 may be a wearable device including a camera.
  • the background area 211 may be a portion excluding the object area 213 corresponding to the subject 207 in the preview image 201 before adjusting the exposure value.
  • the object area 213 corresponding to the subject 207 may be a portion corresponding to the subject 207 in the preview image 201 before adjusting the exposure value.
  • the background area 211 may be an image corresponding to the sky excluding the moon in the preview image 201 before adjusting the exposure value.
  • the background area 211 may be an image corresponding to the sky, mountains, and fields excluding the moon in the preview image before adjusting the exposure value.
  • the object area 213 corresponding to the subject 207 may be an image corresponding to the moon in the preview image 201 before adjusting the exposure value.
  • the brightness of the subject 207 eg, the moon
  • the brightness of the subject 207 may be brighter than the brightness of the actual background 205. Therefore, it may be difficult to obtain an accurate image of the subject 207 (eg, the moon) without adjusting the exposure value. Since the brightness of the subject 207 (e.g., the moon) is too bright compared to the standard for capturing an image, it is difficult to express details of the subject in the preview image 201 or the image obtained through capture. You can.
  • the preview image 203 may be an image acquired by an electronic device after adjusting the exposure value.
  • the preview image 203 may include an object corresponding to the subject 207.
  • the electronic device 209 may acquire a preview image 203 including an object area 213 corresponding to the subject 207. Because the brightness of the subject 207 (e.g., the moon) is too bright, the electronic device 209 may need to lower the exposure value.
  • the electronic device 209 may acquire a preview image 203 including an object area 217 corresponding to the subject 207.
  • the background area 215 may be a portion excluding the object area 217 corresponding to the subject 207 in the preview image 203 after adjusting the exposure value.
  • the object area 217 corresponding to the subject 207 may be a portion corresponding to the subject 207 in the preview image 203 after adjusting the exposure value.
  • the background area 215 may be an image corresponding to the sky excluding the moon in the preview image 203 after adjusting the exposure value.
  • the background area 215 may be an image corresponding to the sky, mountains, and fields excluding the moon in the preview image 203 after adjusting the exposure value.
  • the object area 217 corresponding to the subject may be an image corresponding to the moon in the preview image 203 after adjusting the exposure value.
  • the object area 217 of the preview image 203 may more accurately reflect the image of the subject 207.
  • Exposure value adjustment may be necessary to express the unique color and brightness of the actual background 205 (e.g., the sky) and accurately express details of the subject 207 (e.g., the moon).
  • FIG. 3 shows the operation flow of an electronic device, according to one embodiment.
  • Acquiring (or receiving) an image of an electronic device may be performed by at least one processor (eg, the processor 120 of FIG. 1).
  • At least one processor may control a camera (eg, the camera module 180 of FIG. 1).
  • the background obtained by the camera is illustrated as the sky and the object is described as the moon, but those skilled in the art will easily understand that the present invention is not limited thereto.
  • various embodiments of the present invention can be applied when obtaining an image in which the brightness of the background and the object are different.
  • At least one processor 120 may detect the moon in the preview image. At least one processor 120 may identify an object area within the preview image. At least one processor 120 may identify a background area within the preview image. At least one processor 120 may identify whether the object area corresponds to the moon. According to one embodiment, in the preview image, the at least one processor 120 determines whether an object in the preview image corresponds to the moon based on a probability information (weight) value determined by artificial intelligence (AI). can be identified.
  • the probability information (weight) value may be a value between 0 and 1. For example, if the probability information (weight) value is 0.5 or more, the at least one processor may identify that the moon is included in the preview image. For example, when the probability information (weight) value is less than 0.5, the at least one processor may identify that the moon is not included in the preview image.
  • the at least one processor 120 may control exposure of the preview image. For example, the at least one processor 120 may identify whether the brightness of the background area is greater than or equal to a reference value. When the brightness of the background area is above the reference value, the at least one processor may perform exposure control to generate an output image based on the exposure value by automatic exposure and the increased exposure value. Specific embodiments are described through FIGS. 7 to 10. When the brightness of the background area is less than the reference value, the at least one processor may perform exposure control to generate an output image based on the exposure value lowered by automatic exposure. A specific embodiment is described through FIG. 9.
  • the at least one processor 120 may perform operations to stabilize the preview image.
  • the at least one processor 120 may perform at least some of focus adjustment, preview stabilization, and/or automatic color temperature correction (auto white balance) for stable preview screen display.
  • the at least one processor 120 may perform focus adjustment for stable preview screen display.
  • the focus adjustment may refer to an operation to fix focus on a subject (eg, the moon) within a preview image.
  • the at least one processor 120 may perform preview stabilization to provide a preview image that does not shake even at a high zoom ratio.
  • the at least one processor may perform automatic color temperature correction (auto white balance, AWB) to reduce the influence of ambient light.
  • AWB automatic color temperature correction
  • the at least one processor 120 may obtain and combine a plurality of frames.
  • the at least one processor 120 may acquire a plurality of frames.
  • the at least one processor 120 may acquire a plurality of frames through a camera in response to receiving a user input.
  • the user input may be input for image capture.
  • the at least one processor 120 may combine the obtained plurality of frames to display a final image on a display.
  • the procedure for acquiring an image based on the brightness of the background area may acquire a plurality of frames by varying exposure values.
  • the at least one processor 120 may acquire one or more first frames (eg, 10) through the adjusted first exposure value.
  • the one or more first frames may be acquired for extraction of an object image (eg, a portion corresponding to the moon).
  • the first exposure value may be a predetermined value.
  • the first exposure value may be determined based on the brightness of the background area.
  • the at least one processor 120 may obtain one or more second frames through the adjusted second exposure value.
  • the one or more second frames may be obtained for extraction of a background image.
  • the first exposure value of the first frame may be lower than the second exposure value of the second frame.
  • the second exposure value may be a predetermined value. According to an embodiment, the second exposure value may be determined based on the brightness of the background area.
  • the electronic device 101 may obtain an image of the background area in the output image closer to the actual background by acquiring one or more second frames through the adjusted second exposure value.
  • a first frame including an object image is acquired earlier than a second frame including a background image (e.g., a portion corresponding to the sky), so that a clearer object is obtained.
  • Images can be obtained.
  • frames that are acquired first may have relatively higher quality than frames that are acquired later.
  • the one or more first frames include an object image (e.g., a portion corresponding to the moon) greater than the number of the one or more second frames that include a background image (e.g., a portion corresponding to the sky). Their number can be large. This is because the required quality of the object image is higher than the required quality of the background image. By acquiring many frames, the quality of the object image can be increased.
  • the at least one processor 120 may mask the object image.
  • the at least one processor may mask an object image (eg, a portion corresponding to the moon) corresponding to the subject of the second frame.
  • the at least one processor 120 may combine an object image and a background image.
  • the at least one processor may synthesize an object image corresponding to a subject and a background image.
  • the at least one processor 120 may combine an object image (eg, a part corresponding to the moon) corresponding to the subject of the one or more first frames and a background image of the one or more second frames.
  • the at least one processor 120 may perform detailed information enhancement. After obtaining an image in which a plurality of frames are combined (hereinafter referred to as a combined image), the at least one processor 120 may enhance detailed information of the object area in the combined image. For example, the at least one processor 120 may enhance details about the moon in the combined image using artificial intelligence (AI).
  • AI may refer to a system based on a neural network. Below in Figure 5, an example of a neural network using AI is described.
  • the at least one processor 120 may generate an output image.
  • the output image may be a result of detail enhancement being applied to the combined image.
  • the unique color and brightness of the actual background e.g., the sky
  • detailed information of the subject e.g., the moon
  • an output image is shown to be generated through operations 310 to 360, but the embodiment of the present disclosure is not limited thereto.
  • at least some operations (eg, operation 350) among operations 310 to 360 may be omitted.
  • the combined image may correspond to the output image.
  • Figure 4 shows an example of image acquisition using exposure value adjustment according to the brightness of the background area, according to one embodiment.
  • the first preview image 401 may be an image before the at least one processor (eg, processor 120 of FIG. 1 ) identifies an object.
  • the second preview image 411 may be an image after the at least one processor 120 identifies an object.
  • the object area 413 corresponding to the subject may be an area corresponding to a predefined subject within the preview image.
  • the background area 415 may be an area excluding the object area corresponding to the subject in the preview image.
  • User input 417 may have been obtained through a UI (e.g., a button image) that can receive user input from a user to obtain an image while displaying a preview image.
  • the at least one processor 120 adjusts focus, previews, etc. to display a stable preview. At least some of stabilization (preview stabilization), and/or automatic color temperature correction (auto white balance), and automatic exposure value setting may be performed.
  • the at least one processor 120 may perform focus adjustment for stable preview display. After an object is identified in the first preview image 401, the at least one processor 120 may perform preview stabilization for stable preview display. there is. After an object is identified in the first preview image 401, the at least one processor 120 performs automatic color temperature correction (auto white balance) for stable preview display. can do. After an object is identified in the first preview image 401, the at least one processor 120 may perform automatic exposure value setting for stable preview display. The at least one processor 120 may set an exposure value through automatic exposure based on the brightness of the background area. When the brightness of the background area is above a threshold, the at least one processor 120 may set the exposure value to the third exposure value through automatic exposure. If the brightness of the background area is below the threshold, the at least one processor 120 may set the exposure value as the fourth exposure value through automatic exposure. The third exposure value may be less than the fourth exposure value.
  • the loading image 421 may be displayed on the display while acquiring a plurality of frames.
  • the object image 423 may be an area corresponding to a predefined subject within the loading image.
  • the background image 425 may be an area excluding the object area corresponding to the subject within the loading image.
  • the one or more frames 420 are the one or more first frames obtained based on the first exposure value.
  • the object image 422 may be an image portion corresponding to the subject within the acquired first frame.
  • the background image 424 may be an image portion corresponding to the background excluding the subject in the acquired first frame.
  • the one or more frames 426 are the one or more second frames obtained based on the second exposure value.
  • the object image 428 may be an image portion corresponding to the subject in the acquired second frame.
  • the background image 429 may be an image portion corresponding to the background excluding the subject in the acquired first frame.
  • the at least one processor 120 may display the second preview image 411 on the display to prevent user confusion.
  • the loading image 421 may be the third frame before receiving the user input.
  • the first exposure value may be lower than the second exposure value.
  • the brightness of the one or more first frames 420 may be darker than the brightness of the one or more second frames 426.
  • the at least one processor 120 may express detailed information of the moon. It may be difficult for the at least one processor 120 to express the unique color and brightness of the background in the background image 424 of the first frame.
  • the at least one processor 120 may express unique background color and brightness in the background image 429 of the second frame. Therefore, hereinafter, when the at least one processor 120 combines the object image 422 of the first frame and the background image 429 of the second frame, the unique color and brightness of the background and detailed information of the moon Both can be expressed.
  • the first exposure value and the second exposure value may be determined based on the brightness of the background area.
  • the first exposure value may be determined based on the brightness of the background area.
  • the second exposure value may be determined based on the brightness of the background area.
  • the at least one processor 120 may set the first exposure value lower as the brightness of the background area becomes brighter.
  • the at least one processor 120 may set the second exposure value lower as the brightness of the background area becomes brighter.
  • the combined image 431 may be a combination of an object image extracted from the first frame and a background image extracted from the second frame.
  • the object image 433 may be extracted from the first frame.
  • the background image 435 may be extracted from the second frame.
  • the output image 441 may have improved object image details based on a neural network.
  • the output image 441 may have the brightness and darkness of the object image adjusted based on a neural network.
  • the object image 443 may be a portion of an image corresponding to a subject within the output image 441.
  • the background image 445 may be a portion of the image corresponding to the background excluding the subject within the output image 441.
  • FIG. 5 shows an example of a neural network for detail enhancement of an object image, according to one embodiment.
  • At least one processor eg, processor 120 in FIG. 1 may improve the details of an object image in an output image based on artificial intelligence (AI).
  • AI artificial intelligence
  • the at least one processor 120 may adjust the brightness and darkness of an object image in an output image based on AI.
  • the AI may refer to a system based on a neural network.
  • the AI may be executed by the at least one processor 120 or by a device (e.g., server) separate from the electronic device (e.g., the electronic device 101 of FIG. 1). When the AI is executed by a separate device, the electronic device 101 may receive data related to neural network processing from the separate device.
  • training data 501 may include photos in which a subject (eg, the moon) is clearly visible compared to the background area.
  • the input image 503 may be a low quality image.
  • the neural network 505 can be used to enhance details (e.g., light and dark expression) of a subject (e.g., the moon).
  • the output image 509 may be a high quality image enhanced based on a neural network.
  • the reference image 507 may be data for comparison with the output image 509.
  • the input image 503 may represent a blurry lunar surface.
  • the input image 503 may be the combined image 431 of FIG. 4.
  • the combined image may be a composite image of the object image of the first frame and the background image of the second frame.
  • the neural network 505 may be a convolutional neural network (CNN) for enhancing details (e.g., light and dark expression) of the subject.
  • the output image 509 may be the output image 441 of FIG. 4. The result of comparing the reference image 507 and the output image 509 can be used to train the neural network 505.
  • the at least one processor 120 may train a neural network for moon detection.
  • the neural network may be trained through unsupervised learning.
  • at least one processor 120 may provide input data to a neural network to train the neural network.
  • the input data can be high-quality images representing the moon's appearance (e.g., surface, pattern, texture, color, and shade).
  • a neural network may include multiple layers.
  • a neural network may include an input layer, one or more hidden layers, and an output layer. Signals generated at each node in the input layer based on the input data may be transmitted from the input layer to one or more hidden layers.
  • the output layer may obtain output data of the neural network based on one or more signals received from one or more hidden layers.
  • the output layer is an image containing the moon with enhanced appearance (e.g. surface, pattern, texture, color, shading) output from the neural network based on one or more signals received from one or more hidden layers. It can be.
  • the input layer, one or more hidden layers, and the output layer may include a plurality of nodes.
  • One or more hidden layers may be a convolution filter or a fully connected layer in a CNN (convolution neural network), or may be various types of filters or layers connected based on specified functions or characteristics.
  • the lunar contrast enhancement neural network may be a convolution neural network (CNN) including one or more convolution filters.
  • CNN convolution neural network
  • one or more hidden layers may be a layer based on a recurrent neural network (RNN) whose output value is re-input to the hidden layer at the current time.
  • RNN recurrent neural network
  • one or more hidden layers may be configured in plural, and may form a deep neural network.
  • the moon contrast enhancement neural network may be a deep neural network that includes one or more hidden layers.
  • training a neural network that includes one or more hidden layers that form at least part of a deep neural network may be referred to as deep learning.
  • a node included in one or more hidden layers may be referred to as a hidden node.
  • Tuning and/or training a neural network may mean changing the connection weights between nodes included within each of the layers included within the neural network (e.g., an input layer, one or more hidden layers, and an output layer). For example, tuning or training of a neural network may be performed based on unsupervised learning. For example, training of a lunar contrast enhancement neural network can be performed based on unsupervised learning.
  • FIG. 6 illustrates operations of an electronic device (eg, the electronic device 101 of FIG. 1 ) to acquire an image through a trained neural network, according to an embodiment.
  • the subject may be the moon.
  • At least one processor sets a zoom magnification of the camera greater than or equal to a reference magnification (e.g., 30x magnification).
  • a reference magnification e.g., 30x magnification
  • the subject is the moon
  • the surface of the moon may be identifiable in the preview image only when magnification is higher than high magnification.
  • the at least one processor 120 may focus the image through an auto focus (AF) module.
  • the AF module can operate for focus adjustment.
  • the at least one processor 120 may detect the subject through a neural network.
  • the subject detection neural network eg, moon detection neural network
  • the at least one processor 120 may identify the presence or absence of an object corresponding to the subject in the preview image based on AI.
  • At least one processor may identify the presence or absence of an object corresponding to the subject in the preview image based on a neural network.
  • the at least one processor 120 may identify whether a subject (eg, the moon) is detected.
  • the at least one processor 120 may perform operation 611 when a subject is detected.
  • the at least one processor may perform operation 601 when the subject (eg, the moon) is not detected.
  • the at least one processor 120 determines whether to detect the subject based on the zoom magnification of the camera higher than the reference magnification (e.g., 30x magnification). and monitor whether it is in focus.
  • the training database 609 can be used for training a subject detection neural network.
  • the at least one processor 120 may perform exposure adjustment according to autoexposure (AE). Through automatic exposure, the exposure value can be set. If the brightness of the background area is above the reference value or below the threshold value, the exposure value may be adjusted downward. The at least one processor 120 may set the exposure value to a fourth exposure value that is less than the current exposure value.
  • AE autoexposure
  • the at least one processor 120 may obtain one or more first frames and one or more second frames by changing the exposure value based on receiving a user input.
  • the one or more first frames may be obtained based on the first exposure value.
  • the one or more second frames may be obtained based on the second exposure value.
  • the second exposure value may be determined by upwardly adjusting the exposure amount from the first exposure value.
  • the user input may be for acquiring an image including an object corresponding to the subject (eg, the moon).
  • the first exposure value may be set to be equal to the fourth exposure value.
  • the second exposure value may be set to be higher than the fourth exposure value.
  • the at least one processor 120 may input subject probability information (weight) determined by AI, a plurality of first frames, and a plurality of second frames into a multi-frame synthesis algorithm.
  • the multi-frame synthesis algorithm may include a super resolution algorithm (SL ALGO) to improve image quality.
  • SL ALGO super resolution algorithm
  • the at least one processor 120 may identify whether a subject (eg, the moon) is detected within the obtained first and second frames. When a subject (e.g., the moon) is detected, operation 621 can be performed. If the subject (e.g., the moon) is not detected, operation 619 may be performed. Re-identifying whether or not a subject is detected within an acquired frame can increase the accuracy of subject detection. When re-identifying whether or not a subject has been detected, the quality and resolution of the acquired image are higher than those of the preview image, so the accuracy of subject detection can be increased.
  • a subject e.g., the moon
  • the at least one processor 120 may exclude an image in which a subject (eg, the moon) is not detected from artificial intelligence (AI) or computer vision (CV) processing. Images in which no subject is detected may not undergo a process for subject extraction and synthesis.
  • AI artificial intelligence
  • CV computer vision
  • the at least one processor 120 may perform keypoint mapping of frames.
  • the at least one processor 120 may find feature points of each of the one or more first frames and the one or more second frames.
  • the at least one processor 120 may identify each feature point of the one or more first frames.
  • the at least one processor 120 may identify each feature point of the one or more second frames.
  • the at least one processor 120 uses feature points of Scale Invariant Feature Transform (SIFT), Speeded Up Robust Features (SURF), or Binary Robust Independent Elementary Features (BRIEF) to extract the specific points. Extraction techniques can be used. Thereafter, the at least one processor 120 may perform operations 631, 633, 635, and 637.
  • SIFT Scale Invariant Feature Transform
  • SURF Speeded Up Robust Features
  • BRIEF Binary Robust Independent Elementary Features
  • Operations 631, 633, and 635 may be performed in one module, and operation 637 may be performed in a separate module.
  • the at least one processor 120 may identify the location of a subject (eg, the moon).
  • the at least one processor 120 may mask an object image corresponding to a subject (eg, the moon).
  • the at least one processor 120 may extract a background image within the second frame.
  • the at least one processor 120 may generate the combined image 431 of FIG. 4 by combining the object image of the first frame and the background image of the second frame.
  • the at least one processor 120 may generate the output image 441 of FIG. 4 by enhancing the combined image 431 using AI.
  • first frames of 0 EV and second frames of +EV are acquired without performing additional exposure value adjustment.
  • first frames of -EV, in which the exposure value has been adjusted, and second frames of 0 EV, in which the exposure value has been restored may be obtained.
  • Figure 7 shows an example of image acquisition used for automatic exposure according to the brightness of a background area, according to one embodiment.
  • the image acquisition operation according to one embodiment may include exposure control according to the brightness of the background area, image capture, and output image generation.
  • exposure control according to the brightness of the background area may be performed by an image acquisition operation according to an embodiment of the present disclosure, based on the brightness of the background area.
  • an electronic device eg, the electronic device 101 of FIG. 1
  • the electronic device 101 can capture images while changing the exposure value.
  • At least one processor 120 may identify the brightness of the background area in the preview image that is greater than or equal to a reference value.
  • the at least one processor 120 may identify the brightness of the background area based on identification of the object area corresponding to the subject in the preview image.
  • the electronic device 101 may perform automatic exposure (AE) before capturing images.
  • the at least one processor 120 may set the exposure value to the third exposure value through automatic exposure based on the brightness of the background area above the threshold.
  • the third exposure value may be the same as the current exposure value.
  • the at least one processor 120 may obtain a plurality of first frames of the adjusted first exposure value based on receiving user input.
  • -EV exposure value
  • -EV may mean that the exposure value is adjusted to a first exposure value that is less than the third exposure value.
  • -EV may indicate that the exposure value is compensated by subtraction from the value set by automatic exposure.
  • the plurality of first frames for securing detailed information of the object image may be secured.
  • the first exposure value may be a designated value.
  • the second exposure value may be a designated value.
  • the first exposure value and the second exposure value may be determined based on the brightness of the background area.
  • the first exposure value may be determined based on the brightness of the background area.
  • the second exposure value may be determined based on the brightness of the background area.
  • the at least one processor 120 may set the first exposure value lower as the brightness of the background area becomes brighter.
  • the at least one processor 120 may set the second exposure value lower as the brightness of the background area becomes brighter.
  • the at least one processor 120 may acquire a plurality of second frames with an adjusted second exposure value.
  • 0 EV may mean that the exposure value is adjusted to the second exposure value equal to the third exposure value. For example, 0 EV indicates that there is no additional compensation from the value set by automatic exposure.
  • the second frames for identifying the unique color and brightness of the background image can be secured.
  • the first frames may be obtained prior to the second frames. This may be because, when multiple frames are acquired, noise can be eliminated and detail of the subject can be increased through multi-frame synthesis. .
  • the number of first frames may be greater than the number of second frames. In this case, detailed information about the subject (e.g. the moon) can be clearly identified.
  • the output image 705 may refer to an output image based on exposure value adjustment according to the brightness of the background area above the reference value and the threshold value.
  • the output image 705 may be a composite of the object image in the first frame and the background image in the second frame.
  • the at least one processor 120 may set the exposure value to the fourth exposure value through automatic exposure based on the brightness of the background area below the threshold value.
  • the fourth exposure value may be less than the current exposure value.
  • the at least one processor 120 may obtain a plurality of first frames of the adjusted first exposure value based on receiving a user input.
  • 0 EV may mean that the exposure value is set to the first exposure value, which is the same as the fourth exposure value set by automatic exposure.
  • 0 EV may indicate that there is no additional compensation from the value set by automatic exposure.
  • the plurality of first frames for securing detailed information of the object image may be secured.
  • the at least one processor 120 may obtain a plurality of second frames with an adjusted second exposure value.
  • +EV exposure value
  • +EV may indicate that there is no additional compensation from the value set by automatic exposure.
  • -EV may indicate that the exposure value is compensated by increasing from the value set by automatic exposure.
  • the second frames for identifying a background image close to the actual background may be obtained.
  • the first frames may be obtained prior to the second frames. This may be because, when multiple frames are acquired, noise can be eliminated and detail of the subject can be increased through multi-frame synthesis.
  • the number of first frames may be greater than the number of second frames.
  • the output image 707 may be an output image based on adjusting the exposure value according to the brightness of the background area above the reference value and below the threshold value.
  • the output image 707 may be a composite of the object image in the obtained first frame and the background image in the obtained second frame.
  • the one or more first frames are acquired with a value set to automatic exposure, or the one or more first frames are acquired with an exposure value smaller than a value set to automatic exposure.
  • the at least one processor 120 may set an automatic exposure value equal to the current exposure value based on the brightness of the background area above the reference value and the threshold value, and the at least one processor 120 may set the automatic exposure value equal to or greater than the reference value. Based on the brightness of the background area below the threshold, you can set an automatic exposure value below the current exposure value. Specific examples are described in Figure 10 below.
  • the at least one processor may identify a brightness of the background in the preview image that is below a reference value.
  • the at least one processor may identify the brightness of the background area based on identification of the object area corresponding to the subject in the preview image.
  • the exposure value may be set to a first exposure value below the current exposure value.
  • the at least one processor 120 may obtain a plurality of first frames through a first exposure value based on receiving a user input.
  • the at least one processor 120 may generate an output image based on the plurality of first frames.
  • the output image 709 may be an output image according to the brightness of the background area below the reference value.
  • the at least one processor 120 processes only one or more first frames (e.g., 10 frames) according to a first exposure value and one or more second frames (e.g., 3 frames) according to a second exposure value. It has been described that the combined images 705 and 705 are generated by combining frames), but embodiments of the present disclosure are not limited thereto.
  • the at least one processor 120 may obtain one or more third frames according to +EV as well as -EV and 0 EV. The at least one processor 120 may generate a combined image based on the one or more first frames, the one or more second frames, and the one or more third frames. According to another embodiment, the at least one processor 120 may obtain one or more third frames according to +EV as well as 0 EV and +EV. The at least one processor 120 may generate a combined image based on the one or more first frames, the one or more second frames, and the one or more third frames.
  • FIG. 8 illustrates an operation flow of an electronic device (eg, the electronic device 101 of FIG. 1 ) for acquiring an image based on the brightness of a background area, according to an embodiment.
  • an electronic device eg, the electronic device 101 of FIG. 1
  • At least one processor may identify an object area within the preview image.
  • the at least one processor may obtain a preview image through a camera.
  • the at least one processor may obtain an image occupied by the detected subject from among areas in the preview image.
  • the object area refers to the portion of the image occupied by the subject detected within the preview image.
  • the subject may refer to an object to be photographed through a camera.
  • the at least one processor 120 may identify the brightness of the background area based on identifying that the object area corresponds to a predefined subject.
  • the object area corresponding to the subject may be a portion in the preview image corresponding to the subject (eg, the moon).
  • the at least one processor 120 may identify whether the subject is a predefined subject (eg, an actual moon).
  • the at least one processor 120 may identify whether the object area corresponds to a predefined subject.
  • the at least one processor 120 may identify the background area after identifying that the object area corresponds to a predefined subject.
  • the at least one processor 120 may identify a background area in response to identifying that the object area corresponds to a predefined subject.
  • the at least one processor 120 may identify a background area from which the object area is excluded in the preview image.
  • the at least one processor 120 may identify the brightness of the background area.
  • the at least one processor 120 may receive user input.
  • the at least one processor 120 may identify the brightness of the background area above a reference value and then receive a user input.
  • the user input may be a user input for acquiring an image.
  • the user input may include a user touching a photo button on a smartphone to take a photo including the moon.
  • the user input may include a Bluetooth signal input by touching a button on an external electronic device (eg, S-pen).
  • the user input may include a user touching a tablet's photography button to take a picture including the moon.
  • the at least one processor 120 may obtain one or more first frames through a first exposure value.
  • the at least one processor may obtain the one or more first frames based on receiving the user input.
  • the one or more first frames through the first exposure value may be acquired to secure an object image within the first frame.
  • the at least one processor 120 may obtain one or more second frames through a second exposure value that is greater than the first exposure value.
  • the at least one processor 120 may acquire the one or more first frames using the first exposure value and then adjust the exposure value upward.
  • the at least one processor 120 may change the exposure value from the first exposure value to the second exposure value.
  • the one or more first frames through the first exposure value may be acquired to secure an object image within the first frame.
  • One or more second frames through the second exposure value may be obtained to secure a background image within the second frame.
  • the at least one processor 120 may acquire the one or more second frames after acquiring the one or more first frames. Detailed information of the object area corresponding to the subject can be clearly obtained by using the one or more first frames, which are the initial images taken.
  • the second exposure value may be greater than the first exposure value.
  • the first exposure value and the second exposure value may be designated values.
  • the first exposure value and the second exposure value may be determined based on the brightness of the background area.
  • the first exposure value may be determined based on the brightness of the background area.
  • the second exposure value may be determined based on the brightness of the background area.
  • the at least one processor 120 may set the first exposure value lower as the brightness of the background area becomes brighter.
  • the at least one processor 120 may set the second exposure value lower as the brightness of the background area becomes brighter.
  • the at least one processor 120 may generate an output image based on the one or more first frames and the one or more second frames.
  • the at least one processor 120 may generate an output image by combining an object area corresponding to a subject in the one or more first frames and a background area in the one or more second frames.
  • the at least one processor 120 may generate a combined image by combining an object area corresponding to a subject in the one or more first frames and a background area in the one or more second frames.
  • the at least one processor 120 may perform detailed shape (eg, brightness adjustment) of the object image in the combined image based on AI.
  • FIG. 9 illustrates an operation flow of an electronic device (eg, the electronic device 101 of FIG. 1 ) for determining an output image generation scheme based on the brightness of a background area, according to an embodiment.
  • an electronic device eg, the electronic device 101 of FIG. 1
  • the at least one processor may identify the brightness of the background area.
  • the background area may be a part of the preview image excluding the object area corresponding to the subject.
  • the at least one processor 120 may identify whether the brightness of the background area is greater than or equal to a reference value. The at least one processor 120 may perform operation 905 when the brightness of the background area is greater than or equal to a reference value. The at least one processor 120 may perform operation 909 when the background brightness is less than a reference value.
  • the at least one processor 120 may receive user input.
  • the user input may be a user input for acquiring an image.
  • the user input may include a user touching a photo button on a smartphone to take a photo including the moon.
  • the user input may include a Bluetooth signal input by touching a button on an external electronic device (eg, S-pen).
  • the user input may include a user touching a tablet's photography button to take a picture including the moon.
  • the at least one processor 120 may obtain an output image based on a combination of one or more first frames according to a first exposure value and one or more second frames according to a second exposure value. You can. According to one embodiment, based on the brightness of the background area below the reference value, the exposure value may be set to a first exposure value below the current exposure value. The at least one processor 120 may obtain the one or more first frames through a first exposure value based on receiving a user input. After acquiring the one or more first frames, the at least one processor 120 may obtain the one or more second frames through a second exposure value.
  • the at least one processor 120 may receive user input.
  • the user input may be a user input for acquiring an image.
  • the user input may include a user touching a photo button on a smartphone to take a photo including the moon.
  • the user input may include a Bluetooth signal input by touching a button on an external electronic device (eg, S-pen).
  • the user input may include a user touching a tablet's photo button to take a photo including the moon.
  • the at least one processor 120 may obtain an output image based on a combination of one or more frames according to the first exposure value. According to one embodiment, when the brightness of the background area is below a reference value (e.g., night sky, dark sky), the at least one processor 120 simply bases the one or more frames on the low exposure value. An output image can be created.
  • a reference value e.g., night sky, dark sky
  • FIG. 10 illustrates an operation flow of an electronic device (eg, the electronic device 101 of FIG. 1 ) for setting an automatic exposure value based on the brightness of a background area, according to an embodiment.
  • an electronic device eg, the electronic device 101 of FIG. 1
  • the at least one processor may identify whether the brightness of the background area is greater than or equal to a threshold value. When the brightness of the background area is greater than or equal to the threshold, the at least one processor 120 may perform operation 1003. If the background brightness is less than the threshold value, the at least one processor 120 may perform operation 1009.
  • the at least one processor 120 may set the automatic exposure value to the third exposure value.
  • the third exposure value may be the current exposure value.
  • the at least one processor 120 may obtain at least one or more first frames based on a first exposure value that is less than a third exposure value.
  • the at least one processor 120 may change the exposure value from the third exposure value to the first exposure value through exposure value correction.
  • the at least one processor 120 may obtain at least one or more second frames based on a second exposure value, such as a third exposure value.
  • the at least one processor 120 is configured to acquire the one or more second frames through a second exposure value, such as a third exposure value, to obtain a background image because the brightness of the background area is greater than a threshold value. You can.
  • the at least one processor 120 may set the automatic exposure value to the fourth exposure value.
  • the fourth exposure value may be a value less than the current exposure value.
  • the at least one processor 120 may acquire at least one or more first frames based on a first exposure value, such as a fourth exposure value.
  • the at least one processor 120 may change the exposure value from the fourth exposure value to the first exposure value through exposure value correction.
  • the at least one processor 120 may acquire at least one or more second frames based on a second exposure value that is greater than the fourth exposure value. Since the brightness of the background area is less than the threshold value, the one or more second frames may be obtained through a second exposure value exceeding the fourth exposure value to obtain the background image.
  • the at least one processor 120 may obtain an output image by combining the one or more first frames and the one or more second frames based on the brightness of the background area.
  • an image close to reality can be obtained by adjusting the exposure value based on the brightness of the background area, unlike an image obtained by adjusting the exposure value regardless of the brightness of the sky.
  • the at least one processor 120 can express both a realistic background (eg, sky) and details of an object (eg, moon).
  • the electronic device 101 may provide an output image using a plurality of exposure values.
  • An embodiment of the present disclosure can be confirmed because the exposure value changes when capturing according to user input. Rather than simply photographing the moon using the exposure value adjusted by automatic exposure, sufficient brightness of the sky can be obtained by adjusting the exposure value upward when capturing.
  • image acquisition based on the brightness of the background area according to an embodiment of the present disclosure may take additional time because additional frames are acquired by changing the exposure value. As additional shooting time is confirmed with the upwardly adjusted exposure value, an embodiment of the present disclosure can be confirmed.
  • the at least one processor may obtain an output image by combining the one or more first frames and the one or more second frames based on the brightness of the background area.
  • an image close to reality can be obtained by adjusting the exposure value based on the brightness of the background area, unlike an image obtained by adjusting the exposure value regardless of the brightness of the sky.
  • the at least one processor can express both a realistic background (eg, sky) and details of an object (eg, moon).
  • an electronic device may include at least one processor, at least one camera, and memory.
  • the at least one processor may identify an object area corresponding to the subject within the preview image.
  • the at least one processor may identify the brightness of a background area from which the object area corresponding to the subject is excluded in the preview image, based on identifying that the object area corresponding to the subject corresponds to a predefined subject. You can.
  • the at least one processor may obtain one or more first frames through a first exposure value based on receiving a user input. After acquiring the one or more first frames, the at least one processor may acquire the one or more second frames through a second exposure value that is greater than the first exposure value.
  • the at least one processor may generate an output image based on the one or more first frames and the one or more second frames.
  • the at least one processor may obtain one or more frames through the first exposure value based on receiving a user input.
  • the at least one processor may be configured to generate an output image based on the one or more frames.
  • the at least one processor in order to generate an output image based on the one or more first frames and the one or more second frames, may be configured to: Existence can be identified.
  • the object area may correspond to the moon.
  • the background area may correspond to at least a portion of the sky adjacent to the moon.
  • the object area may be identified based on a zoom magnification of the camera that is greater than or equal to a reference magnification.
  • the predefined subject may include the moon.
  • the first exposure value and the second exposure value may be determined based on the brightness of a background area in the preview image from which the object is excluded.
  • the at least one processor may be additionally configured to perform brightness adjustment of an object image in the output image based on artificial intelligence (AI).
  • AI artificial intelligence
  • the at least one processor may be additionally configured to perform detail enhancement of an object image in the output image based on artificial intelligence (AI).
  • AI artificial intelligence
  • the at least one processor may be additionally configured to set the exposure value to a third exposure value through automatic exposure when the brightness of the background area is greater than or equal to a threshold value.
  • the at least one processor may be further configured to set the exposure value to a fourth exposure value through the automatic exposure when the brightness of the background area is less than the threshold value.
  • the third exposure value may be less than the fourth exposure value.
  • the first exposure value when the brightness of the background area is greater than or equal to a threshold value, the first exposure value may be set to be lower than the third exposure value. When the brightness of the background area is less than the threshold value, the first exposure value may be set to be equal to the fourth exposure value.
  • the at least one processor includes an image corresponding to the subject included in each of the one or more first frames to generate an output image based on the first frame and the second frame; It may be configured to combine an image corresponding to a background included in each of the one or more second frames.
  • the at least one processor may be additionally configured to display a third frame before receiving the user input on the display while acquiring the first frame or the second frame.
  • a method performed by an electronic device may include identifying an object area within a preview image.
  • the method may include identifying the brightness of a background area in the preview image from which the object area is excluded, based on identifying that the object area corresponds to a predefined subject.
  • the method may include an operation of obtaining one or more first frames through a first exposure value based on receiving a user input when the brightness of the background area is greater than a reference value.
  • the method may include acquiring the one or more first frames and then acquiring the one or more second frames through a second exposure value that is greater than the first exposure value.
  • the method may include generating an output image based on the one or more first frames and the one or more second frames.
  • the method may include obtaining one or more frames through the first exposure value based on receiving a user input when the brightness of the background area is less than the reference value.
  • the method may include generating an output image based on the one or more frames.
  • the method includes identifying an image corresponding to a subject in an acquired first frame to generate an output image based on the one or more first frames and the one or more second frames. may include.
  • the object area may correspond to the moon.
  • the background area may correspond to at least a portion of the sky adjacent to the moon.
  • the object area may be identified based on a zoom magnification of the camera that is higher than the standard magnification.
  • the predefined subject may include the moon.
  • the method may include determining the first exposure value and the second exposure value based on the brightness of a background area in the preview image from which the object is excluded.
  • the method may additionally include performing brightness adjustment of an object image in the output image based on artificial intelligence (AI).
  • AI artificial intelligence
  • the method may additionally include performing detail enhancement of an object image in the output image based on artificial intelligence (AI).
  • AI artificial intelligence
  • the method may additionally include setting the exposure value to a third exposure value through automatic exposure when the brightness of the background area is greater than or equal to a threshold value. If the brightness of the background area is less than the threshold, the method may additionally include setting the exposure value to a fourth exposure value through the automatic exposure. The third exposure value may be less than the fourth exposure value.
  • the method may include setting the first exposure value to be lower than the third exposure value when the brightness of the background area is greater than or equal to a threshold value.
  • the method may include setting the first exposure value to be equal to the fourth exposure value when the brightness of the background area is less than a threshold value.
  • the method includes an image corresponding to the subject included in each of the one or more first frames, and the one or more first frames to generate an output image based on the first frame and the second frame. It may include an operation of combining images corresponding to the background included in each of the two frames.
  • the method may additionally include displaying a third frame on the display before receiving the user input while acquiring the first frame or the second frame.
  • Electronic devices may be of various types.
  • Electronic devices may include, for example, portable communication devices (e.g., smartphones), computer devices, portable multimedia devices, portable medical devices, cameras, electronic devices, or home appliances.
  • Electronic devices according to embodiments of this document are not limited to the above-described devices.
  • first, second, or first or second may be used simply to distinguish one component from another, and to refer to that component in other respects (e.g., importance or order) is not limited.
  • One (e.g. first) component is said to be “coupled” or “connected” to another (e.g. second) component, with or without the terms “functionally” or “communicatively”.
  • any of the components can be connected to the other components directly (e.g. wired), wirelessly, or through a third component.
  • module used in various embodiments of this document may include a unit implemented in hardware, software, or firmware, and is interchangeable with terms such as logic, logic block, component, or circuit, for example. It can be used as A module may be an integrated part or a minimum unit of the parts or a part thereof that performs one or more functions. For example, according to one embodiment, the module may be implemented in the form of an application-specific integrated circuit (ASIC).
  • ASIC application-specific integrated circuit
  • Various embodiments of the present document are one or more stored in a storage medium (e.g., built-in memory 136 or external memory 138) that can be read by a machine (e.g., electronic device 101). It may be implemented as software (e.g., program 140) including instructions.
  • a processor e.g., processor 120
  • the one or more instructions may include code generated by a compiler or code that can be executed by an interpreter.
  • a storage medium that can be read by a device may be provided in the form of a non-transitory storage medium.
  • 'non-transitory' only means that the storage medium is a tangible device and does not contain signals (e.g. electromagnetic waves), and this term refers to cases where data is semi-permanently stored in the storage medium. There is no distinction between temporary storage cases.
  • Computer program products are commodities and can be traded between sellers and buyers.
  • the computer program product may be distributed in the form of a machine-readable storage medium (e.g. compact disc read only memory (CD-ROM)) or through an application store (e.g. Play StoreTM) or on two user devices (e.g. It can be distributed (e.g. downloaded or uploaded) directly between smart phones) or online.
  • a machine-readable storage medium e.g. compact disc read only memory (CD-ROM)
  • an application store e.g. Play StoreTM
  • two user devices e.g. It can be distributed (e.g. downloaded or uploaded) directly between smart phones) or online.
  • at least a portion of the computer program product may be at least temporarily stored or temporarily created in a machine-readable storage medium, such as the memory of a manufacturer's server, an application store's server, or a relay server.
  • each component (e.g., module or program) of the above-described components may include a single or plural entity, and some of the plurality of entities may be separately placed in other components. there is.
  • one or more of the above-mentioned components or operations may be omitted, or one or more other components or operations may be added.
  • multiple components eg, modules or programs
  • the integrated component may perform one or more functions of each component of the plurality of components in the same or similar manner as those performed by the corresponding component of the plurality of components prior to the integration. .
  • operations performed by a module, program, or other component may be executed sequentially, in parallel, iteratively, or heuristically, or one or more of the operations may be executed in a different order, or omitted. Alternatively, one or more other operations may be added.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

일 실시예에 따른, 전자 장치(electronic device)는, 적어도 하나의 프로세서, 적어도 하나의 카메라, 및 메모리를 포함할 수 있다. 상기 적어도 하나의 프로세서는, 프리뷰 이미지 내에서 객체 영역을 식별할 수 있다. 상기 적어도 하나의 프로세서는, 상기 객체 영역이 미리 정의된 피사체에 대응함을 식별하는 것에 기반하여, 상기 프리뷰 이미지 내에서 상기 객체 영역이 제외된 배경 영역의 밝기를 식별할 수 있다. 상기 적어도 하나의 프로세서는, 상기 배경 영역의 밝기가 기준 값 이상인 경우, 사용자 입력을 수신하는 것에 기반하여, 제1 노출 값을 통해, 하나 이상의 제1 프레임들을 획득할 수 있다. 상기 적어도 하나의 프로세서는, 상기 하나 이상의 제1 프레임들을 획득한 후, 상기 제1 노출 값보다 큰 제2 노출 값을 통해, 상기 하나 이상의 제2 프레임들을 획득할 수 있다.

Description

카메라를 포함하는 전자 장치 및 방법
아래의 설명들은, 카메라를 포함하는 전자 장치 및 방법에 관한 것이다.
휴대용 전자 장치의 발전에 따라, 휴대용 전자 장치에 포함된 카메라에 의해 획득되는 이미지의 질(quality)의 향상이 중요할 수 있다. 전자 장치는, 이미지의 질의 향상을 위해 카메라 노출 값을 조정할 수 있다.
일 실시예에 따른, 전자 장치(electronic device)는, 적어도 하나의 프로세서, 적어도 하나의 카메라, 및 메모리를 포함할 수 있다. 상기 적어도 하나의 프로세서는, 프리뷰 이미지 내에서 피사체에 대응하는 객체 영역을 식별할 수 있다. 상기 적어도 하나의 프로세서는, 상기 피사체에 대응하는 객체 영역이 미리 정의된 피사체에 대응함을 식별하는 것에 기반하여, 상기 프리뷰 이미지 내에서 상기 피사체에 대응하는 객체 영역이 제외된 배경 영역의 밝기를 식별할 수 있다. 상기 적어도 하나의 프로세서는, 상기 배경 영역의 밝기가 기준 값 이상인 경우, 사용자 입력을 수신하는 것에 기반하여, 제1 노출 값을 통해, 하나 이상의 제1 프레임들을 획득할 수 있다. 상기 적어도 하나의 프로세서는, 상기 하나 이상의 제1 프레임들을 획득한 후, 상기 제1 노출 값보다 큰 제2 노출 값을 통해, 상기 하나 이상의 제2 프레임들을 획득할 수 있다. 상기 적어도 하나의 프로세서는, 상기 하나 이상의 제1 프레임들 및 상기 하나 이상의 제2 프레임들에 기반하여 출력 이미지를 생성할 수 있다. 상기 적어도 하나의 프로세서는, 상기 배경 영역의 밝기가 상기 기준 값 미만인 경우, 사용자 입력을 수신하는 것에 기반하여, 상기 제1 노출 값을 통해, 하나 이상의 프레임들을 획득할 수 있다. 상기 적어도 하나의 프로세서는, 상기 하나 이상의 프레임들에 기반하여 출력 이미지를 생성할 수 있다.
일 실시예에 따른, 전자 장치(electronic device)에 의해 수행되는 방법은 프리뷰 이미지 내에서 객체 영역을 식별하는 동작을 포함할 수 있다. 상기 방법은 상기 객체 영역이 미리 정의된 피사체에 대응함을 식별하는 것에 기반하여, 상기 프리뷰 이미지 내에서 상기 객체 영역이 제외된 배경 영역의 밝기를 식별하는 동작을 포함할 수 있다. 상기 방법은 상기 배경 영역의 밝기가 기준 값 이상인 경우, 사용자 입력을 수신하는 것에 기반하여, 제1 노출 값을 통해, 하나 이상의 제1 프레임들을 획득하는 동작을 포함할 수 있다. 상기 방법은 상기 하나 이상의 제1 프레임들을 획득한 후, 상기 제1 노출 값보다 큰 제2 노출 값을 통해, 상기 하나 이상의 제2 프레임들을 획득하는 동작을 포함할 수 있다. 상기 방법은 상기 하나 이상의 제1 프레임들 및 상기 하나 이상의 제2 프레임들에 기반하여 출력 이미지를 생성하는 동작을 포함할 수 있다. 상기 방법은 상기 배경 영역의 밝기가 상기 기준 값 미만인 경우, 사용자 입력을 수신하는 것에 기반하여, 상기 제1 노출 값을 통해, 하나 이상의 프레임들을 획득하는 동작을 포함할 수 있다. 상기 방법은 상기 하나 이상의 프레임들에 기반하여 출력 이미지를 생성하는 동작을 포함할 수 있다.
도 1은 일 실시예에 따른, 네트워크 환경 내의 전자 장치의 블록도이다.
도 2는 노출 값의 조정을 이용하는 이미지 획득의 예를 도시한다.
도 3은 일 실시예에 따른, 전자 장치의 동작 흐름을 도시한다.
도 4는, 일 실시예에 따른, 배경 영역의 밝기에 따른 노출 값 조정을 이용하는 이미지 획득의 예를 도시한다.
도 5는 일 실시예에 따른, 객체 이미지의 디테일 향상(detail enhancement)을 위한 신경망의 예를 도시한다.
도 6은 일 실시예에 따른, 훈련(training)된 신경망을 통해 이미지를 획득하기 위한 전자 장치의 동작들을 도시한다.
도 7은 일 실시예에 따른, 배경 영역의 밝기에 따른 자동 노출에 이용하는 이미지 획득의 예를 도시한다.
도 8은 일 실시예에 따른, 배경 영역의 밝기에 기반하여 이미지를 획득하기 위한 전자 장치의 동작 흐름을 도시한다.
도 9은 일 실시예에 따른, 배경 영역의 밝기에 기반하여 출력 이미지 생성 방식(scheme)을 결정하기 위한 전자 장치의 동작 흐름을 도시한다.
도 10은 일 실시예에 따른, 배경 영역의 밝기에 기반하여 자동 노출 값을 설정하기 위한 전자 장치의 동작 흐름을 도시한다.
본 개시에서 사용되는 용어들은 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 다른 실시예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 용어들은 본 개시에 기재된 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 본 개시에 사용된 용어들 중 일반적인 사전에 정의된 용어들은, 관련 기술의 문맥상 가지는 의미와 동일 또는 유사한 의미로 해석될 수 있으며, 본 개시에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 개시에서 정의된 용어일지라도 본 개시의 일 실시예를 배제하도록 해석될 수 없다.
이하에서 설명되는 본 개시의 다양한 일 실시예에서는 하드웨어적인 접근 방법을 예시로서 설명한다. 하지만, 본 개시의 다양한 일 실시예에서는 하드웨어와 소프트웨어를 모두 사용하는 기술을 포함하고 있으므로, 본 개시의 다양한 일 실시예가 소프트웨어 기반의 접근 방법을 제외하는 것은 아니다.
이하 설명에서 사용되는 결합(combination)을 지칭하는 용어(예: 결합, 병합(merging), 합성(montaging)), 프리뷰 이미지 내의 부분(part of the preview)을 지칭하는 용어(예: 객체 영역(object region), 배경 영역(background region)), 획득된 이미지 내의 부분(part of the obtained image)을 지칭하는 용어(객체 이미지(object image), 배경 이미지(background image)), 정해진 값(specified value)을 지칭하는 용어(기준 값(reference value), 임계 값(threshold value)) 등은 설명의 편의를 위해 예시된 것이다. 따라서, 본 개시가 후술되는 용어들에 한정되는 것은 아니며, 동등한 기술적 의미를 가지는 다른 용어가 사용될 수 있다. 또한, 이하 사용되는 '...부', '...기', '...물', '...체' 등의 용어는 적어도 하나의 형상 구조를 의미하거나 또는 기능을 처리하는 단위를 의미할 수 있다.
또한, 본 개시에서, 특정 조건의 만족(satisfied), 충족(fulfilled) 여부를 판단하기 위해, 초과 또는 미만의 표현이 사용될 수 있으나, 이는 일 예를 표현하기 위한 기재일 뿐 이상 또는 이하의 기재를 배제하는 것이 아니다. '이상'으로 기재된 조건은 '초과', '이하'로 기재된 조건은 '미만', '이상 및 미만'으로 기재된 조건은 '초과 및 이하'로 대체될 수 있다. 또한, 이하, 'A' 내지 'B'는 A부터(A 포함) B까지의(B 포함) 요소들 중 적어도 하나를 의미한다. 이하, 'C' 및/또는 'D'는 'C' 또는 'D' 중 적어도 하나, 즉, {'C', 'D', 'C'와 'D'}를 포함하는 것을 의미한다.
전자 장치는 카메라를 통해, 밝은 객체(예: 달)에 대한 이미지를 획득할 수 있다. 전자 장치는 밝은 객체의 세부적인 정보를 획득하기 위해, 노출 값을 조정할 수 있다. 노출 값이 낮아짐에 따라, 이미지는 어둡게 촬영될 수 있다. 이에 따라, 객체가 포함된 배경(예: 하늘)이 어둡지 않은 경우에도, 상기 전자 장치는 어두운 배경에 밝은 객체(예: 하늘에 달)이 포함된 이미지를 얻게 되기 때문에, 하늘의 실제 이미지를 획득하는 것이 어려울 수 있다.
본 개시의 일 실시예는, 달과 같이 미리 정의된 객체를 촬영하는 경우, 객체를 제외한 배경 영역의 밝기에 기반하여 노출 값을 조정함으로써, 실제와 가까운 이미지를 획득할 수 있다.
본 개시에서 얻을 수 있는 과제/효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 과제/효과들은 아래의 기재로부터 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 개시의 일 실시예를 설명하기에 앞서, 일 실시예에 따른 전자 장치의 동작들을 설명하기 위해 필요한 용어들이 정의된다. 프리뷰 이미지(preview image)는 이미지를 촬영하기 전, 전자 기기의 디스플레이 상에 표시되는 이미지일 수 있다. 피사체는 사진 촬영 대상 물체를 의미한다. 이하에서는, 미리 지정된 피사체는, 전자 장치에서 예상되는 피사체를 의미한다. 객체 영역은 프리뷰 이미지 내에서 검출된 피사체가 차지하는 이미지의 부분을 의미한다. 배경 영역은 프리뷰 이미지 내에서 객체 영역을 제외한 이미지의 부분을 의미한다.
객체 이미지는 획득된 이미지 내에서 검출된 객체가 차지하는 이미지의 부분을 의미한다. 배경 이미지는 획득된 이미지 내에서 객체 이미지를 제외한 이미지의 부분을 의미한다. 이미지 캡쳐를 통해 획득되는 이미지는 프레임으로 지칭될 수 있다. 결합 이미지는 적어도 하나 이상의 프레임들의 병합에 의해 출력되는 이미지를 의미할 수 있다. 일 실시예에 따를 때, 결합 이미지는 제1 프레임과 제2 프레임의 병합을 마친 이미지일 수 있다. 출력 이미지는 일 실시예에 따른, 최종 이미지일 수 있다. 출력 이미지는, 결합 이미지이거나, 결합 이미지에 추가적인 작업(예: 세부 정보 강화 동작)이 수행된 결과일 수 있다.
도 1은 일 실시예에 따른, 네트워크 환경 내의 전자 장치의 블록도이다.
도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108) 중 적어도 하나와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 모듈(150), 음향 출력 모듈(155), 디스플레이 모듈(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 연결 단자(178), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(178))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(176), 카메라 모듈(180), 또는 안테나 모듈(197))은 하나의 구성요소(예: 디스플레이 모듈(160))로 통합될 수 있다.
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))을 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 저장하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일 실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들면, 전자 장치(101)가 메인 프로세서(121) 및 보조 프로세서(123)를 포함하는 경우, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(160), 센서 모듈(176), 또는 통신 모듈(190))과 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일 실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다. 일 실시예에 따르면, 보조 프로세서(123)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들면, 인공지능 모델이 수행되는 전자 장치(101) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(108))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들면, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서 모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들면, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 모듈(150)은, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(150)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 모듈(155)은 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 모듈(155)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일 실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
디스플레이 모듈(160)은 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일 실시예에 따르면, 디스플레이 모듈(160)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일 실시예에 따르면, 오디오 모듈(170)은, 입력 모듈(150)을 통해 소리를 획득하거나, 음향 출력 모듈(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일 실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일 실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일 실시예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일 실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일 실시예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일 실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일 실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제1 네트워크(198)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제2 네트워크(199)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(104)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제1 네트워크(198) 또는 제2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 또는 인증할 수 있다.
무선 통신 모듈(192)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들면, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(192)은, 예를 들면, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(192)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들면, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO(full dimensional MIMO)), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(192)은 전자 장치(101), 외부 전자 장치(예: 전자 장치(104)) 또는 네트워크 시스템(예: 제2 네트워크(199))에 규정되는 다양한 요구사항을 지원할 수 있다. 일 실시예에 따르면, 무선 통신 모듈(192)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일 실시예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일 실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제1 네트워크(198) 또는 제2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
다양한 실시예에 따르면, 안테나 모듈(197)은 mmWave 안테나 모듈을 형성할 수 있다. 일 실시예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일 실시예에 따르면, 명령 또는 데이터는 제2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(102, 또는 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일 실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(101)는, 예를 들면, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시예에 있어서, 외부의 전자 장치(104)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(108)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일 실시예에 따르면, 외부의 전자 장치(104) 또는 서버(108)는 제2 네트워크(199) 내에 포함될 수 있다. 전자 장치(101)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.
도 2는 노출 값의 조정을 이용하는 이미지 획득의 예를 도시한다. 프리뷰 이미지는, 이미지를 캡쳐하기 전에 전자 장치의 카메라에 의해 획득되고, 디스플레이 상에 표시될 수 있다. 이하, 프리뷰 이미지 내의 피사체에 대응하는 이미지를 피사체에 대응하는 객체 영역이라 하고, 프리뷰 이미지 내의 배경에 대응하는 이미지를 배경 영역이라 지칭될 수 있다.
도 2를 참조하면, 프리뷰 이미지(201)는 노출 값 조정 전 전자 장치에 의해 획득(또는, 수신)되는 이미지일 수 있다. 프리뷰 이미지(201)는 피사체(207)에 대응하는 객체를 포함할 수 있다. 예를 들면, 피사체(207)는 달일 수 있다. 실제 배경(205)은 피사체(207)(예: 달)를 제외한 실제 배경이다. 예를 들면, 실제 배경(205)은 피사체(207)(예: 달)를 제외한 하늘을 포함할 수 있다. 예를 들면, 실제 배경(205)은 피사체(207)(예: 달)를 제외한 하늘, 산 및 들(field)을 포함할 수 있다.
전자 장치(209)는 피사체(207)에 대응하는 객체 영역(213)이 포함된 프리뷰 이미지(201)를 획득할 수 있다. 도 2에서는 전자 장치(209)의 예로, 스마트폰이 도시되었으나, 스마트폰(smartphone)뿐만 아니라 카메라를 이용하는 전자 장치는 본 개시의 실시예가 이용될 수 있다. 예를 들어, 전자 장치(209)는 카메라를 포함한 테블릿(tablet)일 수 있다. 예를 들어, 전자 장치(209)는 카메라를 포함한 웨어러블(wearable) 기기일 수 있다.
배경 영역(211)은 노출 값 조정 전의, 프리뷰 이미지(201) 내에서 피사체(207)에 대응하는 객체 영역(213)을 제외한 부분일 수 있다. 상기 피사체(207)에 대응하는 객체 영역(213)은 노출 값 조정 전의, 프리뷰 이미지(201) 내에서 피사체(207)에 대응하는 부분일 수 있다. 예를 들면, 배경 영역(211)은 노출 값 조정 전의, 프리뷰 이미지(201) 내에서 달을 제외한 하늘에 대응하는 이미지일 수 있다. 예를 들면, 배경 영역(211)은 노출 값 조정 전의, 프리뷰 이미지 내에서 달을 제외한 하늘, 산 및 들에 대응하는 이미지일 수 있다.
예를 들면, 피사체(207)에 대응하는 객체 영역(213)은 노출 값 조정 전의, 프리뷰 이미지(201) 내에서 달에 대응하는 이미지일 수 있다. 아침 또는 낮 시간대에도 상기 피사체(207)(예: 달)의 밝기는 상기 실제 배경(205)의 밝기보다 밝을 수 있다. 따라서, 노출 값 조정 없이 상기 피사체(207)(예: 달)의 정확한 이미지를 획득하는 것이 어려울 수 있다. 상기 피사체(207)(예: 달)의 밝기가, 이미지를 캡쳐하기 위한 기준보다 지나치게 밝기 때문에, 프리뷰 이미지(201)나 캡쳐를 통해 획득되는 이미지에서 상기 피사체의 세부 정보(details)가 표현되기 어려울 수 있다.
프리뷰 이미지(203)는 노출 값 조정 후 전자 장치에 의해 획득되는 이미지일 수 있다. 프리뷰 이미지(203)는 피사체(207)에 대응하는 객체를 포함할 수 있다. 전자 장치(209)는 피사체(207)에 대응하는 객체 영역(213)이 포함된 프리뷰 이미지(203)를 획득할 수 있다. 상기 피사체(207)(예: 달)의 밝기가 지나치게 밝기 때문에, 전자 장치(209)는 노출 값을 낮출 필요가 있을 수 있다.
전자 장치(209)는 상기 피사체(207)에 대응하는 객체 영역(217)이 포함된 프리뷰 이미지(203)를 획득할 수 있다. 배경 영역(215)은 노출 값 조정 후의, 프리뷰 이미지(203) 내에서 피사체(207)에 대응하는 객체 영역(217)을 제외한 부분일 수 있다. 상기 피사체(207)에 대응하는 객체 영역(217)은 노출 값 조정 후의, 프리뷰 이미지(203) 내에서 피사체(207)에 대응하는 부분일 수 있다. 예를 들면, 배경 영역(215)은 노출 값 조정 후의, 프리뷰 이미지(203) 내에서 달을 제외한 하늘에 대응하는 이미지일 수 있다. 예를 들면, 배경 영역(215)은 노출 값 조정 후의, 프리뷰 이미지(203) 내에서 달을 제외한 하늘, 산 및 들에 대응하는 이미지일 수 있다. 예를 들면, 피사체에 대응하는 객체 영역(217)은 노출 값 조정 후의, 프리뷰 이미지(203) 내에서 달에 대응하는 이미지일 수 있다.
노출 값 조정으로 인해, 프리뷰 이미지(203)의 객체 영역(217)은, 피사체(207)에 대한 이미지를 보다 정확하게 반영할 수 있다. 그러나, 노출 값 조정으로 인해, 프리뷰 이미지(203)의 배경 영역(215)은 실제 배경(205)에 대한 이미지를 정확하게 반영하기 어려울 수 있다. 예를 들어, 실제 배경(205)의 고유한 색감과 밝기가 표현되기 어려울 수 있다. 실제 배경(205)(예: 하늘)의 고유한 색감과 밝기를 표현하고, 피사체(207)(예: 달)의 세부 정보를 정확하게 표현하기 위해 노출 값 조정이 필요할 수 있다.
도 3은 일 실시예에 따른, 전자 장치의 동작 흐름을 도시한다. 전자 장치(예: 도 1의 전자 장치(101))의 이미지 획득(또는, 수신)은, 적어도 하나의 프로세서(예: 도 1의 프로세서(120))에 의해 수행될 수 있다. 적어도 하나의 프로세서는, 카메라(예: 도 1의 카메라 모듈(180))를 제어할 수 있다.
본 발명의 다양한 실시예들에서, 설명의 편의성을 위하여 카메라 획득하는 배경을 하늘로 객체를 달로 예시하여 설명하나 이에 한정되는 것은 아님을 당업자는 용이하게 이해할 것이다. 예를 들어, 배경과 객체의 밝기가 차이 나는 이미지를 획득하는 경우라면 본 발명의 다양한 실시예들이 적용될 수 있다.
도 3을 참조하면, 동작(310)에서, 적어도 하나의 프로세서(120)는, 프리뷰 이미지 내의 달을 검출(detect)할 수 있다. 적어도 하나의 프로세서(120)는, 프리뷰 이미지 내에서 객체 영역을 식별할 수 있다. 적어도 하나의 프로세서(120)는, 프리뷰 이미지 내에서 배경 영역을 식별할 수 있다. 적어도 하나의 프로세서(120)는, 객체 영역이 달에 대응하는지 여부를 식별할 수 있다. 일 실시예에 따라, 프리뷰 이미지 내에서, 상기 적어도 하나의 프로세서(120)는, AI(artificial intelligence)가 결정하는 확률 정보(weight) 값에 기반하여, 프리뷰 이미지 내의 객체가 달에 대응하는지 여부를 식별할 수 있다. 상기 확률 정보(weight)값은 0에서 1사이의 값일 수 있다. 예를 들면, 상기 적어도 하나의 프로세서는, 상기 확률 정보(weight) 값이 0.5 이상인 경우, 프리뷰 이미지 내에 달이 포함되어 있음을 식별할 수 있다. 예를 들면, 상기 적어도 하나의 프로세서는, 상기 확률 정보(weight) 값이 0.5 미만인 경우, 프리뷰 이미지 내에 달이 포함되지 않음을 식별할 수 있다.
동작(320)에서, 상기 적어도 하나의 프로세서(120)는, 프리뷰 이미지의 노출을 제어할 수 있다. 예를 들어, 상기 적어도 하나의 프로세서(120)는, 배경 영역의 밝기가 기준 값 이상인지 여부를 식별할 수 있다. 상기 적어도 하나의 프로세서는, 배경 영역의 밝기가 기준 값 이상인 경우, 자동 노출에 의한 노출 값 및 증가된 노출 값에 기반하여 출력 이미지를 생성하기 위해, 노출 제어를 수행할 수 있다. 구체적인 실시예는 도 7 내지 도 10을 통해 서술된다. 상기 적어도 하나의 프로세서는, 배경 영역의 밝기가 기준 값 미만인 경우, 자동 노출에 의해 낮아진 노출 값에 기반하여 출력 이미지를 생성하기 위해, 노출 제어를 수행할 수 있다. 구체적인 실시예는 도 9를 통해 서술된다.
동작(330)에서, 상기 적어도 하나의 프로세서(120)는, 프리뷰 이미지를 안정화 동작들을 수행할 수 있다. 상기 적어도 하나의 프로세서(120)는, 안정적인 프리뷰 화면 표시를 위해, 초점 조정, 프리뷰 안정화(preview stabilization), 및/또는 자동 색온도 보정(auto white balance)중 적어도 일부를 수행할 수 있다. 상기 적어도 하나의 프로세서(120)는, 안정적인 프리뷰 화면 표시를 위해, 초점 조정을 수행할 수 있다. 상기 초점 조정은, 프리뷰 이미지 내에서 피사체(예: 달)로 초점을 고정시키기 위한 동작을 의미할 수 있다. 상기 적어도 하나의 프로세서(120)는, 높은 줌 배율에서도 흔들리지 않는 프리뷰 이미지를 제공하기 위해, 프리뷰 안정화를 수행할 수 있다. 상기 적어도 하나의 프로세서는, 주변광의 영향을 줄이기 위한 자동 색온도 보정(auto white balance, AWB)을 수행할 수 있다.
동작(340)에서, 상기 적어도 하나의 프로세서(120)는, 복수의 프레임들을 획득 및 결합할 수 있다. 상기 적어도 하나의 프로세서(120)는, 복수의 프레임들을 획득할 수 있다. 상기 적어도 하나의 프로세서(120)는, 사용자 입력의 수신에 응답하여, 카메라를 통해 복수의 프레임들을 획득할 수 있다. 상기 사용자 입력은, 이미지 캡쳐를 위해 입력될 수 있다. 상기 적어도 하나의 프로세서(120)는, 최종 이미지를 디스플레이에 표시하기 위해, 상기 획득된 복수의 프레임들을 결합할 수 있다.
일 실시예에 따른, 배경 영역의 밝기에 기반하여 이미지를 획득하는 절차는, 노출 값들을 달리하여, 복수의 프레임들을 획득할 수 있다. 동작(341)에서, 상기 적어도 하나의 프로세서(120)는, 조정된 제1 노출 값을 통해 하나 이상의 제1 프레임들(예: 10개)을 획득할 수 있다. 상기 하나 이상의 제1 프레임들은 객체 이미지(예: 달에 대응하는 부분)의 추출을 위해 획득될 수 있다. 실시예에 따르면, 제1 노출 값은 미리 정해진 값일 수 있다. 실시예에 따르면, 제1 노출 값은 배경 영역의 밝기에 기반하여 정해질 수 있다. 동작(343)에서, 상기 적어도 하나의 프로세서(120)는, 조정된 제2 노출 값을 통해 하나 이상의 제2 프레임들을 획득할 수 있다. 상기 하나 이상의 제2 프레임들은 배경 이미지의 추출을 위해 획득될 수 있다. 제1 프레임의 제1 노출 값은 제2 프레임의 제2 노출 값보다 낮을 수 있다. 제2 노출 값은 미리 정해진 값일 수 있다. 실시예에 따르면, 제2 노출 값은 배경 영역의 밝기에 기반하여 정해질 수 있다. 일 실시예에 따른 전자 장치(101)는, 조정된 제2 노출 값을 통해 하나 이상의 제2 프레임들을 획득함으로써, 출력 이미지에서 배경 영역에 대한 이미지를 실제 배경과 보다 가깝게 획득할 수 있다.
일 실시예에 따라, 배경 이미지(예: 하늘에 대응하는 부분)를 포함하는 제2 프레임보다, 객체 이미지(예: 달에 대응하는 부분)를 포함하는 제1 프레임보다 먼저 획득함으로써, 보다 선명한 객체 이미지를 획득할 수 있다. 예를 들어, 먼저 획득되는 프레임이 나중에 획득되는 프레임보다 상대적으로 높은 품질을 가질 수 있다. 일 실시예에 따라, 배경 이미지(예: 하늘에 대응하는 부분)를 포함하는 상기 하나 이상의 제2 프레임들의 개수보다, 객체 이미지(예: 달에 대응하는 부분)를 포함하는 상기 하나 이상의 제1 프레임들의 개수가 클 수 있다. 객체 이미지의 요구되는 품질이 배경 이미지의 요구되는 품질 보다 높기 때문이다. 많은 프레임들을 획득함으로써, 객체 이미지의 품질이 높아질 수 있다.
동작(345)에서, 상기 적어도 하나의 프로세서(120)는, 객체 이미지를 마스킹 할 수 있다. 상기 적어도 하나의 프로세서는, 상기 제2 프레임의 피사체에 대응하는 객체 이미지(예: 달에 대응하는 부분)를 마스킹 할 수 있다.
동작(347)에서, 상기 적어도 하나의 프로세서(120)는, 객체 이미지와 배경 이미지를 합성할 수 있다. 상기 적어도 하나의 프로세서는, 피사체에 대응하는 객체 이미지와 배경 이미지를 합성할 수 있다. 상기 적어도 하나의 프로세서(120)는, 상기 하나 이상의 제1 프레임들의 피사체에 대응하는 객체 이미지(예: 달에 대응하는 부분)와 상기 하나 이상의 제2 프레임들의 배경 이미지를 합성할 수 있다.
동작(350)에서, 상기 적어도 하나의 프로세서(120)는, 세부 정보 강화를 수행할 수 있다. 상기 적어도 하나의 프로세서(120)는, 복수의 프레임들이 결합된 이미지(이하, 결합 이미지)를 획득한 뒤에, 상기 결합 이미지에서 객체 영역의 세부 정보를 강화시킬 수 있다. 예를 들어, 상기 적어도 하나의 프로세서(120)는, AI(artificial intelligence)를 이용하여, 상기 결합 이미지의 달에 대한 디테일을 강화시킬 수 있다. 상기 AI는 신경망에 기반한 시스템을 의미할 수 있다. 이하 도 5에서, AI를 이용하는 신경망의 예시가 기술된다.
동작(360)에서, 상기 적어도 하나의 프로세서(120)는, 출력 이미지를 생성할 수 있다. 상기 출력 이미지는, 상기 결합 이미지에 세부 정보 강화가 적용된 결과일 수 있다. 상기 출력 이미지에서, 실제 배경(예: 하늘)의 고유한 색감과 밝기가 표현될 수 있고, 피사체(예: 달)의 세부 정보가 표현될 수 있다.
도 3에서는, 동작(310) 내지 동작(360)을 통해, 출력 이미지가 생성되는 것으로 도시되었으나, 본 개시의 일 실시예는 이에 한정되지 않는다. 일부 일 실시예에서, 동작(310) 내지 동작(360)들 중에서 적어도 일부 동작(예: 동작(350))이 생략될 수 있다. 이러한 경우, 동작(340)에 따른, 결합 이미지가 출력 이미지에 대응할 수 있다.
도 4는, 일 실시예에 따른, 배경 영역의 밝기에 따른 노출 값 조정을 이용하는 이미지 획득의 예를 도시한다.
도 4를 참조하면, 제1 프리뷰 이미지(401)는 상기 적어도 하나의 프로세서(예: 도 1의 프로세서(120))가 객체를 식별하기 전의 이미지일 수 있다.
제2 프리뷰 이미지(411)는 상기 적어도 하나의 프로세서(120)가 객체를 식별한 후의 이미지 일 수 있다. 피사체에 대응하는 객체 영역(413)은, 프리뷰 이미지 내에서 미리 정의된 피사체에 대응하는 영역일 수 있다. 배경 영역(415)은 프리뷰 이미지 내에서 피사체에 대응하는 객체 영역을 제외한 영역일 수 있다. 사용자 입력(417)은, 프리뷰 이미지를 표시하는 동안, 이미지를 획득하기 위해 사용자로부터, 사용자 입력을 수신할 수 있는 UI(예: 버튼 이미지)를 통해 획득됐을 수 있다. 일 실시예에 따르면, 상기 적어도 하나의 프로세서(120)는, 제1 프리뷰 이미지(401) 내에서 객체가 식별된 후, 안정적인 프리뷰 표시를 위해, 상기 적어도 하나의 프로세서(120)는 초점 조정, 프리뷰 안정화(preview stabilization), 및/또는 자동 색온도 보정(auto white balance), 자동 노출 값 설정 중 적어도 일부를 수행할 수 있다. 상기 적어도 하나의 프로세서(120)는, 제1 프리뷰 이미지(401) 내에서 객체가 식별된 후, 안정적인 프리뷰 표시를 위해, 상기 적어도 하나의 프로세서(120)는 초점 조정을 수행할 수 있다. 상기 적어도 하나의 프로세서(120)는, 제1 프리뷰 이미지(401) 내에서 객체가 식별된 후, 안정적인 프리뷰 표시를 위해, 상기 적어도 하나의 프로세서(120)는 프리뷰 안정화(preview stabilization)를 수행할 수 있다. 상기 적어도 하나의 프로세서(120)는, 제1 프리뷰 이미지(401) 내에서 객체가 식별된 후, 안정적인 프리뷰 표시를 위해, 상기 적어도 하나의 프로세서(120)는 자동 색온도 보정(auto white balance)을 수행할 수 있다. 상기 적어도 하나의 프로세서(120)는, 제1 프리뷰 이미지(401) 내에서 객체가 식별된 후, 안정적인 프리뷰 표시를 위해, 상기 적어도 하나의 프로세서(120)는 자동 노출 값 설정을 수행할 수 있다. 상기 적어도 하나의 프로세서(120)는, 상기 배경 영역의 밝기에 기반하여, 자동 노출을 통해 노출 값을 설정할 수 있다. 상기 적어도 하나의 프로세서(120)는, 상기 배경 영역의 밝기가 임계 값 이상인 경우, 자동 노출을 통해 노출 값을 제3 노출 값으로 설정할 수 있다. 상기 적어도 하나의 프로세서(120)는, 상기 배경 영역의 밝기가 상기 임계 값 이하인 경우, 자동 노출을 통해 상기 노출 값을 제4 노출 값으로 설정할 수 있다. 제3 노출 값은 제4 노출 값 미만일 수 있다.
로딩 이미지(421)는 복수의 프레임을 획득하는 동안, 디스플레이 상에 표시될 수 있다. 객체 이미지(423)는, 로딩 이미지 내에서 미리 정의된 피사체에 대응하는 영역일 수 있다. 배경 이미지(425)는 로딩 이미지 내에서 피사체에 대응하는 객체 영역을 제외한 영역일 수 있다. 상기 하나 이상의 프레임들(420)은 제1 노출 값에 기반하여, 획득된 상기 하나 이상의 제1 프레임들이다. 객체 이미지(422)는, 획득된 제1 프레임 내의 피사체에 대응되는 이미지 부분일 수 있다. 배경 이미지(424)는, 획득된 제1 프레임 내의 피사체를 제외한 배경에 대응되는 이미지 부분일 수 있다. 상기 하나 이상의 프레임들(426)은 제2 노출 값에 기반하여, 획득된 상기 하나 이상의 제2 프레임들이다. 객체 이미지(428)는, 획득된 제2 프레임 내의 피사체에 대응되는 이미지 부분일 수 있다. 배경 이미지(429)는, 획득된 제1 프레임 내의 피사체를 제외한 배경에 대응되는 이미지 부분일 수 있다. 일 실시예에 따르면, 제1 프레임 및 제2 프레임을 획득하는 동안, 상기 적어도 하나의 프로세서(120)는 사용자의 혼란을 방지하기 위해, 제2 프리뷰 이미지(411)를 디스플레이상에 표시할 수 있다. 일 실시예에 따르면, 로딩 이미지(421)는 상기 사용자 입력을 수신하기 전의 제3 프레임일 수 있다. 제1 노출 값은 제2 노출 값보다 낮은 값일 수 있다. 따라서, 상기 하나 이상의 제1 프레임들(420)의 밝기가 상기 하나 이상의 제2 프레임들(426)의 밝기보다 어두울 수 있다. 제1 프레임의 객체 이미지(422)에서, 상기 적어도 하나의 프로세서(120)는, 달의 세부 정보를 표현할 수 있다. 상기 적어도 하나의 프로세서(120)는, 제1 프레임의 배경 이미지(424)에서 고유한 배경의 색감과 밝기를 표현하기 어려울 수 있다. 상기 적어도 하나의 프로세서(120)는, 제2 프레임의 객체 이미지(428)에서 달의 세부 정보를 표현하기 어려울 수 있다. 상기 적어도 하나의 프로세서(120)는, 제2 프레임의 배경 이미지(429)에서 고유한 배경의 색감과 밝기를 표현할 수 있다. 그러므로, 이하에서, 상기 적어도 하나의 프로세서(120)가, 제1 프레임의 객체 이미지(422)와 제2 프레임의 배경 이미지(429)를 결합 시, 배경의 고유한 색감과 밝기 및 달의 세부 정보를 모두(both) 표현할 수 있다. 일 실시예에 따른, 상기 제1 노출 값 및 상기 제2 노출 값은 배경 영역의 밝기에 기반해서 결정될 수 있다. 상기 제1 노출 값은 배경 영역의 밝기에 기반해서 결정될 수 있다. 따른, 상기 제2 노출 값은 배경 영역의 밝기에 기반해서 결정될 수 있다. 예를 들면, 적어도 하나의 프로세서(120)는, 배경 영역의 밝기가 밝을수록, 제1 노출 값을 낮게 설정할 수 있다. 예를 들면, 적어도 하나의 프로세서(120)는, 배경 영역의 밝기가 밝을수록 제2 노출 값을 낮게 설정할 수 있다.
결합 이미지(431)는, 제1 프레임에서 추출된 객체 이미지와 제2 프레임에서 추출된 배경 이미지가 결합된 것일 수 있다. 객체 이미지(433)는 제1 프레임에서 추출되었을 수 있다. 배경 이미지(435)는 제2 프레임에서 추출되었을 수 있다.
출력 이미지(441)는, 신경망에 기반하여, 객체 이미지의 디테일이 향상되었을 수 있다. 예를 들어, 출력 이미지(441)는, 신경망에 기반하여, 객체 이미지의 명암이 조정되었을 수 있다. 객체 이미지(443)는 출력 이미지(441) 내에서 피사체에 대응하는 이미지의 부분일 수 있다. 배경 이미지(445)는 출력 이미지(441) 내에서 피사체를 제외한 배경에 대응하는 이미지의 부분일 수 있다.
도 5는 일 실시예에 따른, 객체 이미지의 디테일 향상(detail enhancement)을 위한 신경망의 예를 도시한다. 적어도 하나의 프로세서(예: 도 1의 프로세서(120))는, AI(artificial intelligence)에 기반하여 출력 이미지 내의 객체 이미지의 디테일을 향상시킬 수 있다. 예를 들어, 상기 적어도 하나의 프로세서(120)는, AI에 기반하여 출력 이미지 내의 객체 이미지의 명암 표현 조정을 수행할 수 있다. 상기 AI는 신경망에 기반한 시스템을 의미할 수 있다. 상기 AI는 상기 적어도 하나의 프로세서(120)에 의해 실행되거나, 전자 장치(예: 도 1의 전자 장치(101))와 별도의 장치(예: 서버)에 의해 실행될 수 있다. 상기 AI가 별도의 장치에 의해 실행되는 경우, 전자 장치(101)는, 신경망 처리와 관련된 데이터를 상기 별도의 장치로부터 수신할 수 있다.
도 5를 참조하면, 훈련 데이터(501)는 피사체(예: 달)가 배경 영역 대비 명확히 드러나는 사진들을 포함할 수 있다. 입력 이미지(503)는 낮은 품질의 이미지일 수 있다. 신경망(505)은 피사체(예: 달)의 디테일(예: 명암 표현)을 강화하기 위해 이용될 수 있다. 출력 이미지(509)는 신경망에 기반하여 강화된(enhance) 높은 품질의 이미지일 수 있다. 참조 이미지(507)는 출력 이미지(509)와 비교하기 위한 자료일 수 있다.
일 실시예에 따르면, 상기 입력 이미지(503)는 흐린(blurry) 달 표면을 의미할 수 있다. 상기 입력 이미지(503)는 도 4의 결합 이미지(431)일 수 있다. 상기 결합 이미지는 제1 프레임의 객체 이미지 및 제2 프레임의 배경 이미지를 합성한 이미지일 수 있다. 상기 신경망(505)은 피사체의 디테일(예: 명암 표현)을 강화하기 위한 CNN(convolutional neural network)일 수 있다. 상기 출력 이미지(509)는 도 4의 출력 이미지(441)일 수 있다. 상기 참조 이미지(507)와 상기 출력 이미지(509)를 비교한 결과는 신경망(505) 훈련에 이용될 수 있다.
일 실시예에 따르면, 상기 적어도 하나의 프로세서(120)는 달 검출을 위한 신경망을 트레이닝 할 수 있다. 일 실시예에서 신경망은 비지도 학습을 통해 트레이닝 될 수 있다. 일 실시예에서 적어도 하나의 프로세서(120)는, 신경망을 트레이닝하기 위해 입력 데이터를 신경망에게 제공할 수 있다. 입력 데이터는 달의 외관(예: 표면, 무늬, 질감, 색상, 명암)을 표현하는 높은 품질의 이미지들일 수 있다. 예를 들면 신경망은 복수의 레이어들을 포함할 수 있다. 예를 들면 신경망은, 입력 레이어, 하나 이상의 히든 레이어들 및 출력 레이어를 포함할 수 있다. 입력 데이터에 기반하여 입력 레이어 내 노드들 각각에서 야기된 신호들은 입력 레이어로부터 하나 이상의 히든 레이어들에게 송신될 수 있다. 출력 레이어는 하나 이상의 히든 레이어들로부터 수신된 하나 이상의 신호들에 기반하여, 신경망의 출력 데이터를 획득할 수 있다. 예를 들면, 출력 레이어는 하나 이상의 히든 레이어들로부터 수신된 하나 이상의 신호들에 기반하여, 신경망에서 출력된 외관(예: 표면, 무늬, 질감, 색상, 명암) 표현이 강화된 달을 포함하는 이미지일 수 있다. 한편, 입력 레이어, 하나 이상의 히든 레이어들, 및 출력 레이어는 복수의 노드들을 포함할 수 있다. 하나 이상의 히든 레이어들은 CNN(convolution neural network)에서의 컨벌루젼 필터(convolution filter) 또는 완전 연결 레이어(fully connected layer)이거나, 특정(specified) 기능이나 특징을 기준으로 연결된 다양한 종류들의 필터 또는 레이어일 수 있다. 예를 들면, 달의 명암 강화 신경망은 하나 이상의 컨벌루젼 필터(convolution filter)를 포함한 CNN(convolution neural network)일 수 있다. 일 실시예에서, 하나 이상의 히든 레이어들은 출력 값이 현재 시간의 히든 레이어에 재차 입력되는 RNN(recurrent neural network)에 기반된 레이어일 수 있다. 일 실시예에서 하나 이상의 히든 레이어들은 복수로 구성될 수 있으며, 딥 신경망 (deep neural network)을 형성할 수 있다. 예를 들면, 달의 명암 강화 신경망은 하나 이상의 히든 레이어를 포함하는 딥 신경망(deep neural network)일 수 있다. 예를 들면, 딥 신경망의 적어도 일부를 형성하는 하나 이상의 히든 레이어들을 포함하는 신경망을 트레이닝하는 것은, 딥 러닝(deep learning)으로 참조될 수 있다. 하나 이상의 히든 레이어들 내에 포함되는 노드는, 히든 노드로 참조될 수 있다. 입력 레이어 및 하나 이상의 히든 레이어들 내에 포함된 노드들은 연결 가중치를 가지는 연결선을 통해 서로 연결될 수 있고, 하나 이상의 히든 레이어들 및 출력 레이어 내에 포함된 노드들도 연결 가중 치를 가지는 연결선을 통해 서로 연결될 수 있다. 신경망을 튜닝 및/또는 트레이닝하는 것은, 신경망 내에 포함된 레이어들(예: 입력 레이어, 하나 이상의 히든 레이어들 및 출력 레이어) 각각 내에 포함된 노드들 사이의 연결 가중치를 변경하는 것을 의미할 수 있다. 예를 들면, 신경망의 튜닝 또는 트레이닝은, 비지도 학습(unsupervised learning)에 기반하여 수행될 수 있다. 예를 들면, 달 명암 강화 신경망의 트레이닝은 비지도 학습(unsupervised learning)에 기반하여 수행될 수 있다.
도 6은 일 실시예에 따른, 훈련(training)된 신경망을 통해 이미지를 획득하기 위한 전자 장치(예: 도 1의 전자 장치(101))의 동작들을 도시한다. 이하에서, 피사체는 달일 수 있다.
도 6을 참조하면, 동작(601)에서, 일 실시예에 따른 적어도 하나의 프로세서(예: 도 1의 프로세서(120))는, 기준 배율(예: 30배율) 이상의 카메라의 줌(zoom) 배율을 식별할 수 있다. 예를 들어, 피사체가 달인 경우, 높은 고배율 이상으로 확대하여야, 프리뷰 이미지 내에서 달의 표면이 식별 가능할 수 있다.
동작(603)에서, 상기 적어도 하나의 프로세서(120)는, AF(auto focus) 모듈을 통해 상기 이미지의 초점을 맞출 수 있다. AF 모듈이 초점 조정을 위해 동작할 수 있다.
동작(605)에서, 상기 적어도 하나의 프로세서(120)는, 신경망을 통해, 피사체를 검출할 수 있다. 상기 피사체 검출(detect) 신경망(예: 달 검출 신경망)이 동작할 수 있다. 상기 적어도 하나의 프로세서(120)는, AI에 기반하여 프리뷰 이미지 내에서 피사체에 대응하는 객체의 유무를 식별할 수 있다. 적어도 하나의 프로세서는, 신경망에 기반하여 프리뷰 이미지 내에서 피사체에 대응하는 객체의 유무를 식별할 수 있다.
동작(607)에서, 상기 적어도 하나의 프로세서(120)는, 피사체(예: 달)가 검출(detect)되는지 여부를 식별할 수 있다. 상기 적어도 하나의 프로세서(120)는, 피사체가 검출되는 경우, 동작(611)을 수행할 수 있다. 상기 적어도 하나의 프로세서는, 피사체(예: 달)가 검출되지 않는 경우, 동작(601)을 수행할 수 있다. 일 실시예에 따르면, 상기 적어도 하나의 프로세서(120)는, 피사체(예: 달)가 검출되지 않는 경우, 기준 배율(예: 30배율) 이상의 카메라의 줌(zoom) 배율에 기반하여 피사체 검출 여부와 초점이 맞는지 여부를 모니터링한다. 훈련 데이터 베이스(609)는 피사체 검출 신경망의 훈련을 위하여 이용될 수 있다.
동작(611)에서, 상기 적어도 하나의 프로세서(120)는, 자동 노출(autoexposure, AE)에 따른 노출 조정을 수행할 수 있다. 자동 노출을 통해, 노출 값이 설정될 수 있다. 배경 영역의 밝기가 기준 값 이상, 임계 값 미만인 경우, 노출 값이 하향 조정될 수 있다. 상기 적어도 하나의 프로세서(120)는, 현재 노출 값 미만의 제4 노출 값으로 노출 값을 설정할 수 있다.
동작(613)에서, 상기 적어도 하나의 프로세서(120)는, 사용자 입력을 수신하는 것에 기반하여, 노출 값 변경을 통해 하나 이상의 제1 프레임들 및 하나 이상의 제2 프레임들을 획득할 수 있다. 상기 하나 이상의 제1 프레임들은 제1 노출 값에 기반하여 획득될 수 있다. 상기 하나 이상의 제2 프레임들은 제2 노출 값에 기반하여 획득될 수 있다. 상기 제2 노출 값은, 상기 제1 노출 값에서 노출 량의 상향 조정을 통해 결정될 수 있다. 일 실시예에 따르면, 상기 사용자 입력은 피사체(예: 달)에 대응하는 객체를 포함한 이미지 획득을 위한 것일 수 있다. 일 실시예에 따르면, 제1 노출 값은 제4 노출 값과 동일하도록 설정될 수 있다. 제2 노출 값은 제4 노출 값보다 높도록 설정될 수 있다.
동작(615)에서, 상기 적어도 하나의 프로세서(120)는, AI에 의해 결정되는 피사체 확률 정보(weight), 복수의 제1 프레임들, 및 복수의 제2 프레임들을 멀티프레임 합성 알고리즘에 입력할 수 있다. 여기서, 멀티프레임 합성 알고리즘은, 화질 향상을 위한 초해상도 알고리즘(super resolution algorithm, SL ALGO)을 포함할 수 있다. 상기 복수의 제1 프레임들 및 복수의 제2 프레임들을 이용하는 멀티프레임 합성을 통해, 디테일 향상(detail enhancement) 및/또는 노이즈 제거(noise cancellation)이 달성될 수 있다.
동작(617)에서, 상기 적어도 하나의 프로세서(120)는, 획득된 제1 프레임 및 제2 프레임 내에서 피사체(예: 달)가 검출되는지 여부를 식별할 수 있다. 피사체(예: 달)가 검출되는 경우, 동작(621)을 수행할 수 있다. 피사체(예: 달)가 검출되지 않는 경우, 동작(619)을 수행할 수 있다. 획득된 프레임 내에서 피사체 검출 여부를 다시 식별하는 것은, 피사체 검출의 정확도를 높일 수 있다. 피사체 검출 여부를 다시 식별 시, 프리뷰 이미지보다 획득된 이미지의 화질, 해상도 등이 더 높기 때문에, 피사체 검출의 정확도가 높아질 수 있다.
동작(619)에서, 상기 적어도 하나의 프로세서(120)는, 피사체(예: 달)가 검출되지 않는 이미지를 AI(artificial intelligence) 또는 CV(computer vision) 처리(processing)에서 제외할 수 있다. 피사체가 검출되지 않는 이미지들은, 피사체 추출 및 합성을 위한 과정을 거치지 않을 수 있다.
동작(621)에서, 상기 적어도 하나의 프로세서(120)는 프레임들의 특징점(keypoint) 매핑을 수행할 수 있다. 상기 적어도 하나의 프로세서(120)는 상기 하나 이상의 제1 프레임 및 상기 하나 이상의 제2 프레임들 각각의 특징점을 찾을 수 있다. 상기 적어도 하나의 프로세서(120)는 상기 하나 이상의 제1 프레임들의 각 특징점을 식별할 수 있다. 상기 적어도 하나의 프로세서(120)는 상기 하나 이상의 제2 프레임들의 각 특징점을 식별할 수 있다. 일 실시예에 따르면, 상기 적어도 하나의 프로세서(120)는, 상기 특정점들을 추출하기 위해 SIFT(Scale Invariant Feature Transform), SURF(Speeded Up Robust Features), 또는 BRIEF(Binary Robust Independent Elementary Features)의 특징점 추출 기법을 사용할 수 있다. 이후, 상기 적어도 하나의 프로세서(120)는 동작(631), 동작(633), 동작(635), 및 동작(637)을 수행할 수 있다.
동작(631), 동작(633), 및 동작(635)은 하나의 모듈에서 수행될 수 있고, 동작(637)은 별개의 모듈에서 수행될 수 있다. 동작(631)에서, 상기 적어도 하나의 프로세서(120)는, 피사체(예: 달)의 위치를 식별할 수 있다. 동작(623)에서, 상기 적어도 하나의 프로세서(120)는, 피사체(예: 달)에 대응하는 객체 이미지를 마스킹할 수 있다. 동작(635)에서, 상기 적어도 하나의 프로세서(120)는, 상기 제2 프레임 내의 배경 이미지를 추출할 수 있다. 동작(637)에서, 상기 적어도 하나의 프로세서(120)는, 제1 프레임의 객체 이미지와 제2 프레임의 배경 이미지를 합성하여 도 4의 결합 이미지(431)를 생성할 수 있다. 동작(623)에서, 상기 적어도 하나의 프로세서(120)는, AI를 이용하여, 결합 이미지(431)를 강화하여 도 4의 출력 이미지(441)를 생성할 수 있다.
도 6에서는, 복수의 이미지들을 획득하는 동작(613)에서, 추가적인 노출 값(exposure value) 조정을 수행하지 않은 0 EV의 제1 프레임들과 +EV의 제2 프레임들을 획득하는 것으로 도시되었으나, 본 개시의 일 실시예는 이에 한정되지 않는다. 일 실시예에 따라, 노출 값이 햐향 조정된, -EV의 제1 프레임들과 노출 값이 회복된, 0 EV의 제2 프레임들이 획득될 수도 있다.
도 7은 일 실시예에 따른, 배경 영역의 밝기에 따른 자동 노출에 이용하는 이미지 획득의 예를 도시한다. 일 실시예에 따른 이미지 획득 동작은, 배경 영역의 밝기에 따른 노출 제어, 이미지 캡쳐, 및 출력 이미지 생성을 포함할 수 있다.
도 7을 참조하면, 배경 영역의 밝기에 따른 노출 제어는, 배경 영역의 밝기에 기반하여, 본 개시의 일 실시예에 따른 이미지 획득 동작이 수행될 수 있다. 배경 영역의 밝기가 밝은 경우(701), 전자 장치(예: 도 1의 전자 장치(101))는 다양한 노출 값들에 기반하여 이미지 캡쳐를 수행할 수 있다. 전자 장치(101)는, 노출 값을 변경하면서, 이미지들을 캡쳐할 수 있다. 적어도 하나의 프로세서(120)는, 프리뷰 이미지 내의 기준 값 이상의 배경 영역의 밝기를 식별할 수 있다. 상기 적어도 하나의 프로세서(120)는, 프리뷰 이미지 내의 피사체에 대응하는 객체 영역의 식별에 기반하여, 상기 배경 영역의 밝기를 식별할 수 있다.
전자 장치(101)는, 이미지들을 캡쳐하기 전, 자동 노출(automatic exposure, AE)을 수행할 수 있다. 일 실시예에 따라, 상기 적어도 하나의 프로세서(120)는, 임계 값 이상의 배경 영역의 밝기에 기반하여, 자동 노출을 통해 노출 값을 제3 노출 값으로 설정할 수 있다. 상기 제3 노출 값은 현재 노출 값과 동일할 수 있다. 상기 적어도 하나의 프로세서(120)는, 사용자 입력을 수신하는 것에 기반하여, 조정된 제1 노출 값의 복수의 제1 프레임들을 획득할 수 있다. -EV(exposure value)는 노출 값이 제3 노출 값 미만의 제1 노출 값으로 조정된다는 의미일 수 있다. 예를 들어, -EV는, 자동 노출에 의해 설정된 값에서 감산에 의해 노출 값이 보상됨을 나타낼 수 있다. 제3 노출 값 미만의 제1 노출 값에 기반하여, 객체 이미지의 세부 정보 확보를 위한 상기 복수의 제1 프레임들이 확보될 수 있다. 일 실시예에 따른, 상기 제1 노출 값은 지정된 값일 수 있다. 상기 제2 노출 값은 지정된 값일 수 있다. 일 실시예에 따른, 상기 제1 노출 값 및 상기 제2 노출 값은 배경 영역의 밝기에 기반해서 결정될 수 있다. 상기 제1 노출 값은 배경 영역의 밝기에 기반해서 결정될 수 있다. 상기 제2 노출 값은 배경 영역의 밝기에 기반해서 결정될 수 있다. 예를 들면, 상기 적어도 하나의 프로세서(120)는, 배경 영역의 밝기가 밝을수록, 제1 노출 값을 낮게 설정할 수 있다. 예를 들면, 상기 적어도 하나의 프로세서(120)는, 배경 영역의 밝기가 밝을수록 제2 노출 값을 낮게 설정할 수 있다.
상기 적어도 하나의 프로세서(120)는, 상기 복수의 제1 프레임들을 획득한 후, 조정된 제2 노출 값의 복수의 제2 프레임들을 획득할 수 있다. 0 EV는 노출 값이 제3 노출 값과 동일한 제2 노출 값으로 조정된다는 의미일 수 있다. 예를 들어, 0 EV는, 자동 노출에 의해 설정된 값에서 추가적인 보상이 없음을 나타낸다. 제3 노출 값과 동일한 제2 노출 값에 기반하여, 배경 이미지의 고유한 색감 및 밝기 식별을 위한 상기 제2 프레임들이 확보될 수 있다. 일 실시예에 따르면, 상기 제1 프레임들이 제2 프레임들에 선행하여 얻어질 수 있다. 복수의 프레임들이 획득될 경우, 멀티프레임 합성을 통해 노이즈를 없애고 피사체의 디테일을 높일 수 있기 때문일 수 있다. . 제1 프레임들의 개수는 제2 프레임들의 개수보다 많을 수 있다. 이 경우, 피사체(예: 달)의 세부 정보를 명확하게 파악될 수 있다.
출력 이미지(705)는 기준 값 및 임계 값 이상의 배경 영역의 밝기에 따른 노출 값 조정에 기반한 출력 이미지를 의미할 수 있다. 상기 출력 이미지(705)는 제1 프레임 내의 객체 이미지와 제2 프레임 내의 배경 이미지가 합성된 것일 수 잇다.
일 실시예에 따라, 상기 적어도 하나의 프로세서(120)는, 상기 임계 값 미만의 배경 영역의 밝기에 기반하여, 자동 노출을 통해 노출 값을 제4 노출 값으로 설정할 수 있다. 제4 노출 값은 현재 노출 값 미만일 수 있다 상기 적어도 하나의 프로세서(120)는, 사용자 입력을 수신하는 것에 기반하여, 조정된 제1 노출 값의 복수의 제1 프레임들을 획득할 수 있다. 0 EV는 노출 값이, 자동 노출에 의해 설정된 제4 노출 값과 동일한, 제1 노출 값으로 설정된다는 의미일 수 있다. 0 EV는, 자동 노출에 의해 설정된 값에서 추가적인 보상이 없음을 나타낼 수 있다. 제4 노출 값과 동일한 제1 노출 값에 기반하여, 객체 이미지의 세부 정보 확보를 위한 상기 복수의 제1 프레임들이 확보될 수 있다.
상기 적어도 하나의 프로세서(120)는, 상기 복수의 제1 프레임들이 확보된 후, 조정된 제2 노출 값의 복수의 제2 프레임들을 획득할 수 있다. +EV(exposure value)는 노출 값이, 제4 노출 값 초과의 제2 노출 값으로 조정된다는 의미일 수 있다. 예를 들어, + EV는, 자동 노출에 의해 설정된 값에서 추가적인 보상이 없음을 나타낼 수 있다. 예를 들어, -EV는, 자동 노출에 의해 설정된 값에서 증가에 의해 노출 값이 보상됨을 나타낼 수 있다. 제4 노출 값 초과의 제2 노출 값에 기반하여, 실제 배경과 가까운 배경 이미지를 식별하기 위한 상기 제2 프레임들이 획득될 수 있다. 일 실시예에 따르면, 피사체(예: 달)에 대한 이미지들을 보다 명확하게 파악하기 위해, 상기 제1 프레임들이 제2 프레임들에 선행하여 얻어질 수 있다. 복수의 프레임들이 획득될 경우, 멀티프레임 합성을 통해 노이즈를 없애고 피사체의 디테일을 높일 수 있기 때문일 수 있다. 피사체(예: 달)의 세부 정보를 명확하게 파악하기 위해, 제1 프레임들의 개수는 제2 프레임들의 개수보다 많을 수 있다.
출력 이미지(707)는 기준 값 이상 및 임계 값 미만의 배경 영역의 밝기에 따른 노출 값 조정에 기반한 출력 이미지일 수 있다. 상기 출력 이미지(707)는 얻어진 제1 프레임 내의 객체 이미지와 얻어진 제2 프레임 내의 배경 이미지가 합성된 것일 수 있다.
도 7에서는 자동 노출로 설정된 값으로, 상기 하나 이상의 제1 프레임들을 획득하거나, 자동 노출로 설정된 값보다 작은 노출 값으로 상기 하나 이상의 제1 프레임들을 획득하는 것이 도시되었다. 상기 적어도 하나의 프로세서(120)는, 기준 값 및 임계 값 이상의 배경 영역의 밝기에 기반하여, 현재 노출 값과 동일한 자동 노출 값을 설정할 수 있고, 상기 적어도 하나의 프로세서(120)는, 기준 값 이상 임계 값 미만의 배경 영역의 밝기에 기반하여, 현재 노출 값 미만의 자동 노출 값을 설정할 수 있다. 구체적인 실시예는 이하 도 10에서 기재된다.
동작(703)에서, 상기 적어도 하나의 프로세서는, 프리뷰 이미지 내의 기준 값 미만의 배경의 밝기를 식별할 수 있다. 상기 적어도 하나의 프로세서는, 프리뷰 이미지 내의 피사체에 대응하는 객체 영역의 식별에 기반하여, 상기 배경 영역의 밝기를 식별할 수 있다. 기준 값 미만의 배경 영역의 밝기에 기반하여, 노출 값은, 현재의 노출 값 미만의 제1 노출 값으로 설정될 수 있다. 상기 적어도 하나의 프로세서(120)는, 사용자 입력을 수신하는 것에 기반하여 제1 노출 값을 통해, 복수의 제1 프레임들을 획득할 수 있다. 상기 적어도 하나의 프로세서(120)는, 상기 복수의 제1 프레임들에 기반하여 출력 이미지를 생성할 수 있다. 출력 이미지(709)는 기준 값 미만의 배경 영역 밝기에 따른 출력 이미지일 수 있다.
도 7에서는 상기 적어도 하나의 프로세서(120)가, 제1 노출 값에 따른 하나 이상의 제1 프레임들(예: 10개의 프레임들)과 제2 노출 값에 따른 하나 이상의 제2 프레임들만(예 3개의 프레임들)을 합성하여, 결합 이미지(705,705)를 생성하는 것으로 기재되었으나, 본 개시의 실시예는 이에 한정되지 않는다.
일 실시예에 따라, 상기 적어도 하나의 프로세서(120)는, -EV 및 0 EV 뿐만 아니라, +EV에 따른 하나 이상의 제3 프레임들을 획득할 수 있다. 상기 적어도 하나의 프로세서(120)는, 상기 하나 이상의 제1 프레임들, 상기 하나 이상의 제2 프레임들, 및 상기 하나 이상의 제3 프레임들에 기반하여 결합 이미지를 생성할 수 있다. 다른 일 실시예에 따라, 상기 적어도 하나의 프로세서(120)는, 0 EV 및 + EV 뿐만 아니라, +EV에 따른 하나 이상의 제3 프레임들을 획득할 수 있다. 상기 적어도 하나의 프로세서(120)는, 상기 하나 이상의 제1 프레임들, 상기 하나 이상의 제2 프레임들, 및 상기 하나 이상의 제3 프레임들에 기반하여 결합 이미지를 생성할 수 있다.
도 8은 일 실시예에 따른, 배경 영역의 밝기에 기반하여 이미지를 획득하기 위한 전자 장치(예: 도 1의 전자 장치(101))의 동작 흐름을 도시한다.
도 8을 참조하면, 동작(801)에서, 적어도 하나 이상의 프로세서(예: 도 1의 프로세서(120))는 프리뷰 이미지 내에서 객체 영역을 식별할 수 있다. 상기 적어도 하나 이상의 프로세서는 카메라를 통해, 프리뷰 이미지를 획득할 수 있다. 상기 적어도 하나 이상의 프로세서는, 프리뷰 이미지 내의 영역들 중에서, 검출된 피사체가 차지하는 이미지를 획득할 수 있다. 상기 객체 영역은 프리뷰 이미지 내에서 검출된 피사체가 차지하는 이미지의 부분을 의미한다. 피사체는 카메라를 통해 촬영하기 위한 대상 물체를 의미할 수 있다.
동작(803)에서, 상기 적어도 하나의 프로세서(120)는, 객체 영역이, 미리 정의된 피사체에 대응함을 식별하는 것에 기반하여, 배경 영역의 밝기를 식별할 수 있다. 상기 피사체에 대응하는 객체 영역은 피사체(예: 달)에 대응하는 프리뷰 이미지 내의 부분일 수 있다. 동작(803)을 통해, 상기 적어도 하나의 프로세서(120)는, 미리 정의된 피사체(예: 실제 달(moon)))인지 여부를 식별할 수 있다.
상기 적어도 하나의 프로세서(120)는, 객체 영역이, 미리 정의된 피사체에 대응하는지 여부를 식별할 수 있다. 상기 적어도 하나의 프로세서(120)는, 객체 영역이, 미리 정의된 피사체에 대응함을 식별한 후(after), 배경 영역을 식별할 수 있다. 상기 적어도 하나의 프로세서(120)는, 객체 영역이, 미리 정의된 피사체에 대응함을 식별한 것에 응답하여(in response to), 배경 영역을 식별할 수 있다. 상기 적어도 하나의 프로세서(120)는, 객체 영역이, 미리 정의된 피사체에 대응함을 식별한 후, 프리뷰 이미지 내에서, 상기 객체 영역이 제외된 배경 영역을 식별할 수 있다. 상기 적어도 하나의 프로세서(120)는, 상기 배경 영역의 밝기를 식별할 수 있다.
동작(805)에서, 상기 적어도 하나의 프로세서(120)는, 사용자 입력을 수신할 수 있다. 상기 적어도 하나의 프로세서(120)는, 기준 값 이상의 배경 영역의 밝기를 식별한 후, 사용자 입력을 수신할 수 있다. 상기 사용자 입력은, 이미지를 획득하기 위한 사용자의 입력일 수 있다. 예를 들면, 상기 사용자 입력은, 달이 포함된 사진을 찍기 위해 사용자가 스마트폰의 촬영 버튼의 터치 입력을 포함할 수 있다. 예를 들면, 상기 사용자 입력은, 외부 전자 장치(예: S-pen)의 버튼의 터치에 의한 블루투스 신호 입력을 포함할 수 있다. 예를 들면, 상기 사용자 입력은, 달이 포함된 사진을 찍기 위해 사용자가 테블릿의 촬영 버튼의 터치 입력을 포함할 수 있다.
동작(807)에서, 상기 적어도 하나의 프로세서(120)는, 제1 노출 값을 통해, 하나 이상의 제1 프레임들을 획득할 수 있다. 상기 적어도 하나의 프로세서는 상기 사용자 입력 수신에 기반하여 상기 하나 이상의 제1 프레임들을 획득할 수 있다. 제1 노출 값을 통한 상기 하나 이상의 제1 프레임들은 제1 프레임 내의 객체 이미지 확보를 위해 획득될 수 있다.
동작(809)에서, 상기 적어도 하나의 프로세서(120)는, 제1 노출 값보다 큰 제2 노출 값을 통해, 하나 이상의 제2 프레임들을 획득할 수 있다. 상기 적어도 하나의 프로세서(120)는, 제1 노출 값을 이용하여 상기 하나 이상의 제1 프레임들을 획득한 뒤, 노출 값을 상향 조정할 수 있다. 상기 적어도 하나의 프로세서(120)는, 노출 값을 상기 제1 노출 값에서 제2 노출 값으로 변경할 수 있다. 제1 노출 값을 통한 상기 하나 이상의 제1 프레임들은 제1 프레임 내의 객체 이미지 확보를 위해 획득될 수 있다. 제2 노출 값을 통한 하나 이상의 제2 프레임들은 제2 프레임 내의 배경 이미지 확보를 위해 획득될 수 있다. 상기 적어도 하나의 프로세서(120)는, 상기 하나 이상의 제1 프레임들 획득 후, 상기 하나 이상의 제2 프레임들을 획득할 수 있다. 촬영 초기 이미지인 상기 하나 이상의 제1 프레임들에 의해 피사체에 대응하는 객체 영역의 세부정보가 명확히 얻어질 수 있다. 제2 노출 값은 제1 노출 값보다 클 수 있다. 일 실시예에 따른, 상기 제1 노출 값 및 제2 노출 값은 지정된 값일 수 있다. 다른 일 실시예에 따른, 상기 제1 노출 값 및 상기 제2 노출 값은 배경 영역의 밝기에 기반해서 결정될 수 있다. 상기 제1 노출 값은 배경 영역의 밝기에 기반해서 결정될 수 있다. 따른, 상기 제2 노출 값은 배경 영역의 밝기에 기반해서 결정될 수 있다. 예를 들면, 상기 적어도 하나의 프로세서(120)는, 배경 영역의 밝기가 밝을수록, 제1 노출 값을 낮게 설정할 수 있다. 예를 들면, 상기 적어도 하나의 프로세서(120)는, 배경 영역의 밝기가 밝을수록 제2 노출 값을 낮게 설정할 수 있다.
동작(811)에서, 상기 적어도 하나의 프로세서(120)는, 상기 하나 이상의 제1 프레임들 및 상기 하나 이상의 제2 프레임들에 기반하여 출력 이미지를 생성할 수 있다. 상기, 적어도 하나의 프로세서(120)는, 상기 하나 이상의 제1 프레임들 내의 피사체에 대응하는 객체 영역과 상기 하나 이상의 제2 프레임들 내의 배경 영역을 합성하여 출력 이미지를 생성할 수 있다. 상기 적어도 하나의 프로세서(120)는, 상기 하나 이상의 제1 프레임들 내의 피사체에 대응하는 객체 영역과 상기 하나 이상의 제2 프레임들 내의 배경 영역을 합성하여 결합 이미지를 생성할 수 있다. 상기 적어도 하나의 프로세서(120)는, AI에 기반하여, 상기 결합 이미지 내의 객체 이미지의 디테일 형상(예: 명암 조정)을 수행할 수 있다.
도 9은 일 실시예에 따른, 배경 영역의 밝기에 기반하여 출력 이미지 생성 방식(scheme)을 결정하기 위한 전자 장치(예: 도 1의 전자 장치(101))의 동작 흐름을 도시한다.
도 9를 참조하면, 동작(901)에서, 상기 적어도 하나의 프로세서(예: 도 1의 프로세서(120))는 배경 영역의 밝기를 식별할 수 있다. 상기 배경 영역은 프리뷰 이미지 내에서 피사체에 대응하는 객체 영역을 제외한 부분일 수 있다.
동작(903)에서, 상기 적어도 하나의 프로세서(120)는, 배경 영역의 밝기가 기준 값 이상인지 여부를 식별할 수 있다. 상기 적어도 하나의 프로세서(120)는, 배경 영역의 밝기가 기준 값 이상인 경우, 동작(905)을 수행할 수 있다. 상기 적어도 하나의 프로세서(120)는, 배경 밝기가 기준 값 미만인 경우 동작(909)을 수행할 수 있다.
동작(905)에서, 상기 적어도 하나의 프로세서(120)는, 사용자 입력을 수신할 수 있다. 상기 사용자 입력은, 이미지를 획득하기 위한 사용자의 입력일 수 있다. 예를 들면, 상기 사용자 입력은, 달이 포함된 사진을 찍기 위해 사용자가 스마트폰의 촬영 버튼의 터치 입력을 포함할 수 있다. 예를 들면, 상기 사용자 입력은, 외부 전자 장치(예: S-pen)의 버튼의 터치에 의한 블루투스 신호 입력을 포함할 수 있다. 예를 들면, 상기 사용자 입력은, 달이 포함된 사진을 찍기 위해 사용자가 테블릿의 촬영 버튼의 터치 입력을 포함할 수 있다.
동작(907)에서, 상기 적어도 하나의 프로세서(120)는, 제1 노출 값에 따른 하나 이상의 제1 프레임들 및 제2 노출 값에 따른 하나 이상의 제2 프레임들의 결합에 기반하여 출력 이미지를 획득할 수 있다. 일 실시예에 따르면, 상기 기준 값 미만의 배경 영역의 밝기에 기반하여, 노출 값은, 현재의 노출 값 미만의 제1 노출 값으로 설정될 수 있다. 상기 적어도 하나의 프로세서(120)는, 사용자 입력을 수신하는 것에 기반하여 제1 노출 값을 통해, 상기 하나 이상의 제1 프레임들을 획득할 수 있다. 상기 적어도 하나의 프로세서(120)는, 상기 하나 이상의 제1 프레임을 획득한 후, 제2 노출 값을 통해, 상기 하나 이상의 제2 프레임들을 획득할 수 있다.
동작(909)에서, 상기 적어도 하나의 프로세서(120)는, 사용자 입력을 수신할 수 있다. 사용자 입력은 이미지를 획득하기 위한 사용자의 입력일 수 있다. 예를 들면, 상기 사용자 입력은, 달이 포함된 사진을 찍기 위해 사용자가 스마트폰의 촬영 버튼의 터치 입력을 포함할 수 있다. 예를 들면, 상기 사용자 입력은, 외부 전자 장치(예: S-pen)의 버튼의 터치에 의한 블루투스 신호 입력을 포함할 수 있다. 예를 들면, 상기 사용자 입력은, 달이 포함된 사진을 찍기 위해 사용자가 테블릿의 촬영 버튼의 터치 입력을 포함할 수 있다.
동작(911)에서, 상기 적어도 하나의 프로세서(120)는, 제1 노출 값에 따른 하나 이상의 프레임들의 결합에 기반하여 출력 이미지를 획득할 수 있다. 일 실시예에 따르면, 상기 적어도 하나의 프로세서(120)는, 배경 영역의 밝기가 기준 값 미만(예: 밤 하늘, 어두운 하늘)인 경우, 단순히 낮은 노출 값에 따른 상기 하나 이상의 프레임들에 기반하여 출력 이미지를 생성할 수 있다.
도 10은 일 실시예에 따른, 배경 영역의 밝기에 기반하여 자동 노출 값을 설정하기 위한 전자 장치(예: 도 1의 전자 장치(101))의 동작 흐름을 도시한다.
도 10을 참조하면, 동작(1001)에서 상기 적어도 하나의 프로세서(예: 도 1의 프로세서(120))는, 배경 영역의 밝기가 임계 값 이상인지 여부를 식별할 수 있다. 배경 영역의 밝기가 임계 값 이상인 경우, 상기 적어도 하나의 프로세서(120)는, 동작(1003)을 수행할 수 있다. 배경 밝기가 임계 값 미만인 경우, 상기 적어도 하나의 프로세서(120)는, 동작(1009)을 수행할 수 있다.
동작(1003)에서, 상기 적어도 하나의 프로세서(120)는, 자동 노출 값을 제3 노출 값으로 설정할 수 있다. 제3 노출 값은 현재의 노출 값일 수 있다.
동작(1005)에서, 상기 적어도 하나의 프로세서(120)는, 제3 노출 값 미만인 제1 노출 값에 기반하여 적어도 하나 이상의 제1 프레임들을 획득할 수 있다. 상기 적어도 하나의 프로세서(120)는, 노출 값 보정을 통해 노출 값을 제3 노출 값에서 제1 노출 값으로 변경할 수 있다.
동작(1007)에 기반하여, 상기 적어도 하나의 프로세서(120)는, 제3 노출 값과 같은 제2 노출 값에 기반하여 적어도 하나 이상의 제2 프레임들을 획득할 수 있다. 상기 적어도 하나의 프로세서(120)는, 상기 배경 영역의 밝기는 임계 값 이상이기 때문에, 배경 이미지를 획득하기 위해 제3 노출 값과 같은 제2 노출 값을 통해, 상기 하나 이상의 제2 프레임들을 획득할 수 있다.
동작(1009)에서, 상기 적어도 하나의 프로세서(120)는, 자동 노출 값을 제4 노출 값으로 설정할 수 있다. 제4 노출 값은 현재의 노출 값 미만의 값일 수 있다.
동작(1011)에서, 상기 적어도 하나의 프로세서(120)는, 제4 노출 값과 같은 제1 노출 값에 기반하여 적어도 하나 이상의 제1 프레임들을 획득할 수 있다. 상기 적어도 하나의 프로세서(120)는, 노출 값 보정을 통해 노출 값을 제4 노출 값에서 제1 노출 값으로 변경할 수 있다.
동작(1013)에서, 상기 적어도 하나의 프로세서(120)는, 제4 노출 값 초과인 제2 노출 값에 기반하여 적어도 하나 이상의 제2 프레임들을 획득할 수 있다. 상기 배경 영역의 밝기는 임계 값 미만이기 때문에, 배경 이미지를 획득하기 위해 제4 노출 값 초과의 제2 노출 값을 통해, 상기 하나 이상의 제2 프레임들을 획득할 수 있다.
본 실시예에 따른, 상기 적어도 하나의 프로세서(120)는, 배경 영역의 밝기에 기반하여, 상기 하나 이상의 제1 프레임들과 상기 하나 이상의 제2 프레임들을 결합하여 출력 이미지를 획득할 수 있다. 본 개시의 일 실시예에 따른, 이미지는 하늘의 밝기와 무관하게 노출 값 조정으로 얻어진 이미지와 달리, 배경 영역의 밝기에 기반하여 노출 값을 조정함으로써, 실제와 가까운 이미지를 획득할 수 있다. 예를 들어, 본 실시예에 따른, 상기 적어도 하나의 프로세서(120)는, 실제와 가까운 배경(예: 하늘)과 객체(예: 달)의 세부 사항을 모두 표현할 수 있다.
본 개시의 일 실시예에 따른 전자 장치(101)는, 복수의 노출 값들을 이용하여 출력 이미지를 제공할 수 있다. 사용자 입력에 따른 캡쳐 시, 노출 값이 변경되는 것으로부터, 본 개시의 일 실시예가 확인될 수 있다. 단순히 자동 노출로 조정된 노출 값에 의해 달을 촬영하는 것이 아니라, 캡쳐 시, 노출 값을 상향 조정함으로써, 하늘의 밝기가 충분히 획득될 수 있다. 또한, 본 개시의 일 실시예에 따른 배경 영역의 밝기에 기반한 이미지 획득은, 노출 값을 변경하여, 추가적인 프레임들을 획득하기 때문에, 소정의 시간이 추가적으로 소요될 수 있다. 상향 조정된 노출 값으로 추가적인 촬영 시간이 확인됨에 따라, 본 개시의 일 실시예가 확인될 수 있다. 본 실시예에 따른, 상기 적어도 하나의 프로세서는, 배경 영역의 밝기에 기반하여, 상기 하나 이상의 제1 프레임들과 상기 하나 이상의 제2 프레임들을 결합하여 출력 이미지를 획득할 수 있다. 본 개시의 일 실시예에 따른, 이미지는 하늘의 밝기와 무관하게 노출 값 조정으로 얻어진 이미지와 달리, 배경 영역의 밝기에 기반하여 노출 값을 조정함으로써, 실제와 가까운 이미지를 획득할 수 있다. 예를 들어, 본 실시예에 따른, 상기 적어도 하나의 프로세서는, 실제와 가까운 배경(예: 하늘)과 객체(예: 달)의 세부 사항을 모두 표현할 수 있다.
상술한 바와 같이, 일 실시예에 따른 전자 장치(electronic device)는, 적어도 하나의 프로세서, 적어도 하나의 카메라, 및 메모리를 포함할 수 있다. 상기 적어도 하나의 프로세서는, 프리뷰 이미지 내에서 피사체에 대응하는 객체 영역을 식별할 수 있다. 상기 적어도 하나의 프로세서는, 상기 피사체에 대응하는 객체 영역이 미리 정의된 피사체에 대응함을 식별하는 것에 기반하여, 상기 프리뷰 이미지 내에서 상기 피사체에 대응하는 객체 영역이 제외된 배경 영역의 밝기를 식별할 수 있다. 상기 적어도 하나의 프로세서는, 상기 배경 영역의 밝기가 기준 값 이상인 경우, 사용자 입력을 수신하는 것에 기반하여, 제1 노출 값을 통해, 하나 이상의 제1 프레임들을 획득할 수 있다. 상기 적어도 하나의 프로세서는, 상기 하나 이상의 제1 프레임들을 획득한 후, 상기 제1 노출 값보다 큰 제2 노출 값을 통해, 상기 하나 이상의 제2 프레임들을 획득할 수 있다. 상기 적어도 하나의 프로세서는, 상기 하나 이상의 제1 프레임들 및 상기 하나 이상의 제2 프레임들에 기반하여 출력 이미지를 생성할 수 있다. 상기 적어도 하나의 프로세서는, 상기 배경 영역의 밝기가 상기 기준 값 미만인 경우, 사용자 입력을 수신하는 것에 기반하여, 상기 제1 노출 값을 통해, 하나 이상의 프레임들을 획득할 수 있다. 상기 적어도 하나의 프로세서는, 상기 하나 이상의 프레임들에 기반하여 출력 이미지를 생성하도록 구성될 수 있다.
일 실시예에 따른, 상기 하나 이상의 제1 프레임들 및 상기 하나 이상의 제2 프레임들에 기반하여 출력 이미지를 생성하기 위하여, 상기 적어도 하나의 프로세서는, 획득된 제1 프레임 내의 피사체에 대응하는 이미지의 존재 여부를 식별할 수 있다.
일 실시예에 따른, 상기 객체 영역은 달(moon)에 대응할 수 있다. 상기 배경 영역은, 달에 인접한 하늘의 적어도 일부에 대응할 수 있다.
일 실시예에 따른, 상기 객체 영역은 기준 배율 이상의 상기 카메라의 줌(zoom) 배율에 기반하여 식별될 수 있다. 상기 미리 정의된 피사체는 달(moon)을 포함할 수 있다.
일 실시예에 따른, 상기 제1 노출 값 및 상기 제2 노출 값은 상기 프리뷰 이미지 내에서 상기 객체가 제외된 배경 영역의 밝기에 기반하여 결정될 수 있다.
일 실시예에 따른, 상기 적어도 하나의 프로세서는, AI(artificial intelligence)에 기반하여 상기 출력 이미지 내의 객체 이미지의 명암 조정을 수행하도록 추가적으로 구성될 수 있다.
일 실시예에 따른, 상기 적어도 하나의 프로세서는, AI(artificial intelligence)에 기반하여 상기 출력 이미지 내의 객체 이미지의 디테일 향상을 수행하도록 추가적으로 구성될 수 있다.
일 실시예에 따른, 상기 적어도 하나의 프로세서는, 상기 배경 영역의 밝기가 임계 값 이상인 경우에는, 자동 노출을 통해 노출 값을 제3 노출 값으로 설정하도록 추가적으로 구성될 수 있다. 상기 적어도 하나의 프로세서는, 상기 배경 영역의 밝기가 상기 임계 값 미만인 경우에는, 상기 자동 노출을 통해 상기 노출 값을 제4 노출 값으로 설정하도록 추가적으로 구성될 수 있다. 상기 제3 노출 값은 상기 제4 노출 값 미만일 수 있다.
일 실시예에 따른, 상기 배경 영역의 밝기가 임계 값 이상인 경우에는, 상기 제1 노출 값은, 상기 제3 노출 값보다 낮도록 설정될 수 있다. 상기 배경 영역의 밝기가 임계 값 미만인 경우에는, 상기 제1 노출 값은 상기 제4 노출 값과 동일하도록 설정될 수 있다.
일 실시예에 따른, 상기 적어도 하나의 프로세서는, 상기 제1 프레임 및 제2 프레임에 기반하여 출력 이미지를 생성하기 위해서, 상기 하나 이상의 제1 프레임들 각각에 포함된 상기 피사체에 대응하는 이미지와, 상기 하나 이상의 제2 프레임들 각각에 포함된 배경에 대응하는 이미지를 결합하도록 구성될 수 있다.
일 실시예에 따른, 상기 적어도 하나의 프로세서는, 상기 제1 프레임 또는 제2 프레임을 획득하는 동안, 상기 사용자 입력을 수신하기 전의 제3 프레임을 디스플레이 상에 표시하도록 추가적으로 구성될 수 있다.
상술한 바와 같이, 일 실시예에 따른, 전자 장치(electronic device)에 의해 수행되는 방법은 프리뷰 이미지 내에서 객체 영역을 식별하는 동작을 포함할 수 있다. 상기 방법은 상기 객체 영역이 미리 정의된 피사체에 대응함을 식별하는 것에 기반하여, 상기 프리뷰 이미지 내에서 상기 객체 영역이 제외된 배경 영역의 밝기를 식별하는 동작을 포함할 수 있다. 상기 방법은 상기 배경 영역의 밝기가 기준 값 이상인 경우, 사용자 입력을 수신하는 것에 기반하여, 제1 노출 값을 통해, 하나 이상의 제1 프레임들을 획득하는 동작을 포함할 수 있다. 상기 방법은 상기 하나 이상의 제1 프레임들을 획득한 후, 상기 제1 노출 값보다 큰 제2 노출 값을 통해, 상기 하나 이상의 제2 프레임들을 획득하는 동작을 포함할 수 있다. 상기 방법은 상기 하나 이상의 제1 프레임들 및 상기 하나 이상의 제2 프레임들에 기반하여 출력 이미지를 생성하는 동작을 포함할 수 있다. 상기 방법은 상기 배경 영역의 밝기가 상기 기준 값 미만인 경우, 사용자 입력을 수신하는 것에 기반하여, 상기 제1 노출 값을 통해, 하나 이상의 프레임들을 획득하는 동작을 포함할 수 있다. 상기 방법은 상기 하나 이상의 프레임들에 기반하여 출력 이미지를 생성하는 동작을 포함할 수 있다.
일 실시예에 따른, 상기 방법은, 상기 하나 이상의 제1 프레임들 및 상기 하나 이상의 제2 프레임들에 기반하여 출력 이미지를 생성하기 위하여, 획득된 제1 프레임 내의 피사체에 대응하는 이미지를 식별하는 동작을 포함할 수 있다.
일 실시예에 따른, 상기 객체 영역은 달(moon)에 대응할 수 있다. 상기 배경 영역은, 달에 인접한 하늘의 적어도 일부에 대응할 수 있다.
일 실시예에 따른, 상기 객체 영역은 기준 배율 이상의 카메라의 줌(zoom) 배율에 기반하여 식별되는 방법일 수 있다. 상기 미리 정의된 피사체는 달(moon)을 포함할 수 있다.
일 실시예에 따른, 상기 방법은, 상기 제1 노출 값 및 상기 제2 노출 값을 상기 프리뷰 이미지 내에서 상기 객체가 제외된 배경 영역의 밝기에 기반하여 결정하는 동작을 포함할 수 있다.
일 실시예에 따른, 상기 방법은, AI(artificial intelligence)에 기반하여 상기 출력 이미지 내의 객체 이미지의 명암 조정을 수행하는 동작을 추가적으로 포함할 수 있다.
일 실시예에 따른, 상기 방법은, AI(artificial intelligence)에 기반하여 상기 출력 이미지 내의 객체 이미지의 디테일 향상을 수행하는 동작을 추가적으로 포함할 수 있다.
일 실시예에 따른, 상기 방법은 상기 배경 영역의 밝기가 임계 값 이상인 경우에는, 자동 노출을 통해 노출 값을 제3 노출 값으로 설정하는 동작을 추가적으로 포함할 수 있다. 상기 방법은 상기 배경 영역의 밝기가 상기 임계 값 미만인 경우에는, 상기 자동 노출을 통해 상기 노출 값을 제4 노출 값으로 설정하는 동작을 추가적으로 포함할 수 있다. 상기 제3 노출 값은 상기 제4 노출 값 미만일 수 있다.
일 실시예에 따른, 상기 방법은, 상기 배경 영역의 밝기가 임계 값 이상인 경우에는, 상기 제1 노출 값은, 상기 제3 노출 값보다 낮도록 설정되는 동작을 포함할 수 있다. 상기 방법은, 상기 배경 영역의 밝기가 임계 값 미만인 경우에는, 상기 제1 노출 값은 상기 제4 노출 값과 동일하도록 설정되는 동작을 포함할 수 있다.
일 실시예에 따른, 상기 방법은 상기 제1 프레임 및 제2 프레임에 기반하여 출력 이미지를 생성하기 위해서, 상기 하나 이상의 제1 프레임들 각각에 포함된 상기 피사체에 대응하는 이미지와, 상기 하나 이상의 제2 프레임들 각각에 포함된 배경에 대응하는 이미지를 결합하는 동작을 포함할 수 있다.
일 실시예에 따른, 상기 방법은 상기 제1 프레임 또는 제2 프레임을 획득하는 동안, 상기 사용자 입력을 수신하기 전의 제3 프레임을 디스플레이 상에 표시하는 동작을 추가적으로 포함할 수 있다.
본 개시에서 사용되는 용어들은 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 다른 실시예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 용어들은 본 개시에 기재된 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 본 개시에 사용된 용어들 중 일반적인 사전에 정의된 용어들은, 관련 기술의 문맥상 가지는 의미와 동일 또는 유사한 의미로 해석될 수 있으며, 본 개시에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 개시에서 정의된 용어일지라도 본 개시의 일 실시예를 배제하도록 해석될 수 없다.
이하에서 설명되는 본 개시의 다양한 일 실시예에서는 하드웨어적인 접근 방법을 예시로서 설명한다. 하지만, 본 개시의 다양한 일 실시예에서는 하드웨어와 소프트웨어를 모두 사용하는 기술을 포함하고 있으므로, 본 개시의 다양한 일 실시예가 소프트웨어 기반의 접근 방법을 제외하는 것은 아니다.
본 문서에 개시된 다양한 일 실시예에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 전자 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 일 실시예 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 일 실시예로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제1) 구성요소가 다른(예: 제2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서의 다양한 일 실시예에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일 실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 일 실시예는 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일 실시예에 따르면, 본 문서에 개시된 다양한 일 실시예에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어™)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 일 실시예에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 다양한 일 실시예에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 일 실시예에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.

Claims (15)

  1. 전자 장치(electronic device)에 있어서,
    적어도 하나의 프로세서,
    적어도 하나의 카메라, 및
    메모리를 포함하고,
    상기 적어도 하나의 프로세서는,
    프리뷰 이미지 내에서 객체 영역을 식별하고,
    상기 객체 영역이 미리 정의된 피사체에 대응함을 식별하는 것에 기반하여, 상기 프리뷰 이미지 내에서 상기 객체 영역이 제외된 배경 영역의 밝기를 식별하고,
    상기 배경 영역의 밝기가 기준 값 이상인 경우, 사용자 입력을 수신하는 것에 기반하여, 제1 노출 값을 통해, 하나 이상의 제1 프레임들을 획득하고,
    상기 하나 이상의 제1 프레임들을 획득한 후, 상기 제1 노출 값보다 큰 제2 노출 값을 통해, 상기 하나 이상의 제2 프레임들을 획득하고,
    상기 하나 이상의 제1 프레임들 및 상기 하나 이상의 제2 프레임들에 기반하여 출력 이미지를 생성하고,
    상기 배경 영역의 밝기가 상기 기준 값 미만인 경우, 사용자 입력을 수신하는 것에 기반하여, 상기 제1 노출 값을 통해, 하나 이상의 프레임들을 획득하고,
    상기 하나 이상의 프레임들에 기반하여 출력 이미지를 생성하도록 구성되는,
    전자 장치.
  2. 청구항 1에서,
    상기 하나 이상의 제1 프레임들 및 상기 하나 이상의 제2 프레임들에 기반하여 출력 이미지를 생성하기 위하여, 상기 적어도 하나의 프로세서는, 획득된 제1 프레임 내의 피사체에 대응하는 이미지의 존재 여부를 식별하는 전자 장치.
  3. 청구항 1에서,
    상기 객체 영역은 달(moon)에 대응하고,
    상기 배경 영역은, 달에 인접한 하늘의 적어도 일부에 대응하는,
    전자 장치.
  4. 청구항 1에서,
    상기 객체 영역은 기준 배율 이상의 상기 카메라의 줌(zoom) 배율에 기반하여 식별되고,
    상기 미리 정의된 피사체는 달(moon)을 포함하는,
    전자 장치.
  5. 청구항 1에서,
    상기 제1 노출 값 및 상기 제2 노출 값은 상기 프리뷰 이미지 내에서 상기 객체가 제외된 배경 영역의 밝기에 기반하여 결정되는,
    전자 장치.
  6. 청구항 1에서,
    상기 적어도 하나의 프로세서는,
    AI(artificial intelligence)에 기반하여 상기 출력 이미지 내의 객체 이미지의 디테일 향상을 수행하도록 추가적으로 구성되는 전자 장치.
  7. 청구항 1에서,
    상기 적어도 하나의 프로세서는,
    상기 배경 영역의 밝기가 임계 값 이상인 경우에는, 자동 노출을 통해 노출 값을 제3 노출 값으로 설정하고,
    상기 배경 영역의 밝기가 상기 임계 값 미만인 경우에는, 상기 자동 노출을 통해 상기 노출 값을 제4 노출 값으로 설정하도록 추가적으로 구성되고,
    상기 제3 노출 값은 상기 제4 노출 값 미만인,
    전자 장치.
  8. 청구항 7에서,
    상기 배경 영역의 밝기가 임계 값 이상인 경우에는, 상기 제1 노출 값은, 상기 제3 노출 값보다 낮도록 설정되고,
    상기 배경 영역의 밝기가 임계 값 미만인 경우에는, 상기 제1 노출 값은 상기 제4 노출 값과 동일하도록 설정되는,
    전자 장치.
  9. 청구항 1에서,
    상기 적어도 하나의 프로세서는,
    상기 하나 이상의 제1 프레임들 및 상기 하나 이상의 제2 프레임들에 기반하여 출력 이미지를 생성하기 위해서, 상기 하나 이상의 제1 프레임들 각각에 포함된 상기 피사체에 대응하는 이미지와, 상기 하나 이상의 제2 프레임들 각각에 포함된 배경에 대응하는 이미지를 결합하도록 구성되는 전자 장치.
  10. 청구항 1에서,
    상기 적어도 하나의 프로세서는,
    상기 하나 이상의 제1 프레임들 또는 상기 하나 이상의 제2 프레임들을 획득하는 동안, 상기 사용자 입력을 수신하기 전의 제3 프레임을 디스플레이 상에 표시하도록 추가적으로 구성되는,
    전자 장치.
  11. 전자 장치(electronic device)에 의해 수행되는 방법에 있어서,
    프리뷰 이미지 내에서 객체 영역을 식별하는 동작과,
    상기 객체 영역이 미리 정의된 피사체에 대응함을 식별하는 것에 기반하여, 상기 프리뷰 이미지 내에서 상기 객체 영역이 제외된 배경 영역의 밝기를 식별하는 동작과,
    상기 배경 영역의 밝기가 기준 값 이상인 경우, 사용자 입력을 수신하는 것에 기반하여, 제1 노출 값을 통해, 하나 이상의 제1 프레임들을 획득하는 동작과,
    상기 하나 이상의 제1 프레임들을 획득한 후, 상기 제1 노출 값보다 큰 제2 노출 값을 통해, 상기 하나 이상의 제2 프레임들을 획득하는 동작과,
    상기 하나 이상의 제1 프레임들 및 상기 하나 이상의 제2 프레임들에 기반하여 출력 이미지를 생성하는 동작과,
    상기 배경 영역의 밝기가 상기 기준 값 미만인 경우, 사용자 입력을 수신하는 것에 기반하여, 상기 제1 노출 값을 통해, 하나 이상의 프레임들을 획득하는 동작과,
    상기 하나 이상의 프레임들에 기반하여 출력 이미지를 생성하는 동작을 포함하는 방법.
  12. 청구항 11에서,
    상기 하나 이상의 제1 프레임들 및 상기 하나 이상의 제2 프레임들에 기반하여 출력 이미지를 생성하기 위하여, 획득된 제1 프레임 내의 피사체에 대응하는 이미지를 식별하는 동작을 포함하는 방법.
  13. 청구항 11에서,
    상기 객체 영역은 달(moon)에 대응하고,
    상기 배경 영역은, 달에 인접한 하늘의 적어도 일부에 대응하는,
    방법.
  14. 청구항 11에서,
    상기 객체 영역은 기준 배율 이상의 카메라의 줌(zoom) 배율에 기반하여 식별되고,
    상기 미리 정의된 피사체는 달(moon)을 포함하는,
    방법.
  15. 청구항 11에서,
    상기 제1 노출 값 및 상기 제2 노출 값을 상기 프리뷰 이미지 내에서 상기 객체가 제외된 배경 영역의 밝기에 기반하여 결정하는 동작을 포함하는,
    방법.
PCT/KR2023/005833 2022-06-30 2023-04-27 카메라를 포함하는 전자 장치 및 방법 WO2024005333A1 (ko)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
KR10-2022-0080987 2022-06-30
KR20220080987 2022-06-30
KR10-2022-0101570 2022-08-12
KR1020220101570A KR20240002871A (ko) 2022-06-30 2022-08-12 카메라를 포함하는 전자 장치 및 방법

Publications (1)

Publication Number Publication Date
WO2024005333A1 true WO2024005333A1 (ko) 2024-01-04

Family

ID=89380894

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2023/005833 WO2024005333A1 (ko) 2022-06-30 2023-04-27 카메라를 포함하는 전자 장치 및 방법

Country Status (1)

Country Link
WO (1) WO2024005333A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101812807B1 (ko) * 2011-06-29 2017-12-27 엘지이노텍 주식회사 영역별 가중치를 기반으로 한 적응형 자동 노출 제어 방법
KR20200064564A (ko) * 2018-11-29 2020-06-08 삼성전자주식회사 이미지 처리 방법 및 이를 지원하는 전자 장치
CN111355896A (zh) * 2018-12-20 2020-06-30 中国科学院国家天文台 获取全天相机的自动曝光参数的方法
CN111586280A (zh) * 2019-02-18 2020-08-25 北京小米移动软件有限公司 拍摄方法、装置、终端及可读存储介质
KR20220017298A (ko) * 2020-08-04 2022-02-11 삼성전자주식회사 프리뷰 이미지를 제어하는 전자 장치 및 방법

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101812807B1 (ko) * 2011-06-29 2017-12-27 엘지이노텍 주식회사 영역별 가중치를 기반으로 한 적응형 자동 노출 제어 방법
KR20200064564A (ko) * 2018-11-29 2020-06-08 삼성전자주식회사 이미지 처리 방법 및 이를 지원하는 전자 장치
CN111355896A (zh) * 2018-12-20 2020-06-30 中国科学院国家天文台 获取全天相机的自动曝光参数的方法
CN111586280A (zh) * 2019-02-18 2020-08-25 北京小米移动软件有限公司 拍摄方法、装置、终端及可读存储介质
KR20220017298A (ko) * 2020-08-04 2022-02-11 삼성전자주식회사 프리뷰 이미지를 제어하는 전자 장치 및 방법

Similar Documents

Publication Publication Date Title
WO2020171583A1 (en) Electronic device for stabilizing image and method for operating same
WO2020162673A1 (en) Electronic device for providing avatar animation and method thereof
WO2021086040A1 (en) Method for providing preview and electronic device for displaying preview
WO2020032497A1 (en) Method and apparatus for incorporating noise pattern into image on which bokeh processing has been performed
WO2020080845A1 (en) Electronic device and method for obtaining images
WO2022039424A1 (ko) 흔들림을 보정하는 방법 및 그 전자 장치
WO2020153738A1 (ko) 카메라 모듈에 접지 노드를 연결하기 위한 전자 장치 및 방법
WO2022119372A1 (ko) 영상 처리를 수행하는 전자 장치 및 그 동작 방법
WO2022092706A1 (ko) 복수의 카메라를 이용한 사진 촬영 방법 및 그 장치
WO2020145482A1 (en) Electronic device for controlling frame rate of image sensor and method thereof
WO2022196993A1 (ko) 카메라 모듈의 화각을 이용하여 이미지를 촬영하는 전자 장치 및 방법
WO2022114648A1 (ko) 배경 화면을 설정하기 위한 전자 장치 및 그의 동작 방법
WO2024005333A1 (ko) 카메라를 포함하는 전자 장치 및 방법
WO2024096308A1 (ko) 광원 객체 이미지 처리 방법 및 장치
WO2024122913A1 (ko) 기계 학습 모델을 이용하여 영상을 획득하는 전자 장치 및 그 동작 방법
WO2023080495A1 (ko) 하이 다이나믹 레인지 이미지들을 촬영하는 전자 장치와 이의 동작 방법
WO2024106746A1 (ko) 디지털 보케 이미지의 해상도를 높이기 위한 전자 장치 및 방법
WO2024085487A1 (ko) 카메라의 설정을 변경하기 위한 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체
WO2024085673A1 (ko) 다중 노출 영상을 획득하는 전자 장치 및 그 동작 방법
WO2024210285A1 (ko) 이미지를 설정하는 전자 장치 및 설정 방법
WO2022231270A1 (ko) 전자 장치 및 그의 이미지 처리 방법
WO2022240186A1 (ko) 이미지 왜곡을 보정하는 방법 및 그 전자 장치
WO2024111924A1 (ko) 이미지를 제공하는 방법 및 이를 지원하는 전자 장치
WO2022031050A1 (ko) 이미지를 생성하는 전자 장치 및 방법
WO2024034837A1 (ko) 깊이 맵을 획득하기 위한 전자 장치 및 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 23831698

Country of ref document: EP

Kind code of ref document: A1