WO2022245148A1 - 이미지 처리 방법 및 그 전자 장치 - Google Patents

이미지 처리 방법 및 그 전자 장치 Download PDF

Info

Publication number
WO2022245148A1
WO2022245148A1 PCT/KR2022/007168 KR2022007168W WO2022245148A1 WO 2022245148 A1 WO2022245148 A1 WO 2022245148A1 KR 2022007168 W KR2022007168 W KR 2022007168W WO 2022245148 A1 WO2022245148 A1 WO 2022245148A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
area
electronic device
processor
camera
Prior art date
Application number
PCT/KR2022/007168
Other languages
English (en)
French (fr)
Inventor
정택성
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Publication of WO2022245148A1 publication Critical patent/WO2022245148A1/ko
Priority to US18/512,539 priority Critical patent/US20240089609A1/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161—Detection; Localisation; Normalisation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172—Classification, e.g. identification
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/61—Control of cameras or camera modules based on recognised objects
    • H04N23/611—Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/62—Control of parameters via user interfaces
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/63—Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/63—Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/63—Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633—Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635—Region indicators; Field of view indicators
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H04N23/71—Circuitry for evaluating the brightness variation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H04N23/72—Combination of two or more compensation controls
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265—Mixing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10141—Special mode during image acquisition
    • G06T2207/10144—Varying exposure
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20092—Interactive image processing based on input by user
    • G06T2207/20104—Interactive definition of region of interest [ROI]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20212—Image combination

Definitions

  • Various embodiments according to the present disclosure relate to a technique of synthesizing high-resolution images using a camera capable of changing a view angle.
  • An electronic device equipped with such a camera provides an image capture function.
  • the electronic device may acquire an image from a camera, output a preview screen on a display based on the acquired image in real time, and store the image captured by the camera when a photographing input is received.
  • the electronic device may utilize a camera capable of changing a field of view (FOV) by mechanically adjusting an optical path.
  • the electronic device may obtain multiple images while changing the center of the angle of view of the camera, and then synthesize a high-resolution image using the obtained images.
  • FOV field of view
  • An electronic device includes a camera, a display, and at least one processor electrically connected to the camera and the display, wherein the at least one processor drives an image obtained by driving the camera and displays a preview image on the display. , displaying a first area of the preview image as a main area, obtaining a plurality of images respectively corresponding to a plurality of view angles in a designated sequence while changing the view angle of the camera, and using the camera. to obtain a first image of the first region, generate a result image based on the obtained plurality of images and the first image, and at least a part of the first image is at least one of the plurality of images Can overlap with one.
  • An operating method of an electronic device includes an operation of displaying an image acquired by driving a camera as a preview image on a display, an operation of determining a first area of the preview image as a main area, and an operation of the camera An operation of acquiring a plurality of images corresponding to a plurality of angles of view in a designated sequence while changing an angle of view, an operation of obtaining a first image of the first area using the camera, An operation of generating a result image based on the first image, wherein at least a part of the first image may overlap with at least one of the plurality of images.
  • An electronic device includes a camera, a display, and at least one processor electrically connected to the camera and the display, wherein the at least one processor drives an image obtained by driving the camera and displays a preview image on the display. , and it is determined whether there is an area where the motion exists in the preview image, and if it is determined that there is an area where the motion exists in the preview image, the area where the motion exists is defined as a first area.
  • Determines a sequence for obtaining a plurality of images corresponding to a plurality of angles of view while changing the angle of view of the camera, and determines a sequence for acquiring the plurality of images and the first image for the first area according to the determined sequence. may be obtained, a resultant image may be generated based on the obtained plurality of images and the first image, and at least a part of the first image may overlap with at least one of the plurality of images.
  • the electronic device and method according to various embodiments of the present disclosure can improve image quality with a minimum capturing time by additionally obtaining an image of a main area.
  • FIG. 1 is a block diagram of an electronic device according to an exemplary embodiment.
  • FIG. 2 is a flowchart illustrating that an electronic device obtains a plurality of images and generates a resulting image according to an exemplary embodiment.
  • 3A is a diagram illustrating that an electronic device acquires a plurality of images corresponding to a plurality of angles of view and additionally acquires an image of a central region according to an embodiment.
  • 3B is a diagram illustrating obtaining a plurality of images corresponding to a plurality of angles of view and additionally acquiring an image corresponding to a main object in an electronic device according to an embodiment.
  • 4A is a diagram illustrating obtaining an image by applying different exposure values to a main area and a non-main area in an electronic device according to an embodiment.
  • 4B is a diagram illustrating setting an exposure time to vary according to a distance from the center of a preview image in an electronic device according to an embodiment.
  • 5A is a diagram illustrating additionally acquiring an image to synthesize an HDR image when it is determined that there is exposure saturation in an electronic device according to an embodiment.
  • 5B is a diagram illustrating additionally acquiring an image to synthesize an HDR image when it is determined that there is an underexposure in the electronic device according to an embodiment.
  • FIG. 6 is a block diagram of an electronic device in a network environment according to an embodiment.
  • FIG. 7 is a block diagram illustrating a camera module, according to one embodiment.
  • FIG. 1 is a block diagram of an electronic device according to an exemplary embodiment.
  • an electronic device 100 may include a processor 110, a camera 120, a sensor 130, a display 140, and a memory 150.
  • the electronic device 100 may include additional components in addition to the components shown in FIG. 1 or may omit at least one of the components shown in FIG. 1 .
  • the processor 110 may execute calculations or data processing related to control and/or communication of at least one other element of the electronic device 100 using instructions stored in the memory 150 .
  • the processor 110 includes a central processing unit (CPU), a graphics processing unit (GPU), a micro controller unit (MCU), a sensor hub, a supplementary processor, a communication processor, and an application. It may include at least one of a processor, an application specific integrated circuit (ASIC), and a field programmable gate array (FPGA), and may have a plurality of cores.
  • the processor 110 may execute an application (eg, a camera application) stored in the memory 150 .
  • the processor 110 may obtain an image using the camera 120 while the camera application is running.
  • An application described herein may be any application using the camera 120 .
  • the processor 110 may acquire a plurality of images corresponding to a plurality of angles of view while changing the angle of view of the camera 120 . According to an embodiment, the processor 110 may determine (or change) a sequence for acquiring a plurality of images. According to an embodiment, the processor 110 may acquire a plurality of images of the same area using the camera 120 .
  • the processor 110 may adjust an exposure value for obtaining an image for at least a partial region of the preview image, and acquire an image according to the adjusted exposure value. According to an embodiment, the processor 110 may determine an area where motion exists in the preview image and determine (or change) a sequence to acquire an image of the area where motion exists.
  • the camera 120 may acquire (or capture) images (eg, still images and moving images).
  • an image signal processor (not shown) electrically connected to the camera 120 may distinguish between an object (eg, a person) included in an image (eg, a preview image or an image stored in the memory 150) and a background.
  • the image signal processor may extract feature points of an image (eg, a preview image or an image included in the memory 150).
  • feature points may be used to identify (or recognize) an outer surface of an image.
  • the image signal processor may be separate from the camera 120 or may be implemented as part of the processor 110 .
  • the camera 120 may include an image sensor.
  • the image sensor may obtain and process color information.
  • the senor 130 may include a depth sensor, a time-of-flight (ToF) sensor, a gyro sensor (or gyroscope), a gravity sensor, an acceleration sensor ( acceleration sensor), a proximity sensor, or an illuminance sensor.
  • ToF time-of-flight
  • a gyro sensor or gyroscope
  • gravity sensor or gyroscope
  • acceleration sensor acceleration sensor
  • proximity sensor illuminance sensor
  • the depth sensor may measure the depth of an external object and generate depth information corresponding to the external object using the measured depth.
  • the ToF sensor may generate distance information corresponding to an external object based on measuring and calculating the time taken for light to be reflected from an external object by emitting light thereto.
  • a gyro sensor, a gravity sensor, an acceleration sensor, or a combination of two or more of these may cause rotation of the electronic device 100, change in orientation of the electronic device 100, or electronic device 100. Operations of the sensor 130 may be performed by sensing the inclination of (100).
  • the illuminance sensor may measure external illuminance of the electronic device 100 using the intensity of light incident from the outside. According to an embodiment, the illuminance sensor may receive external light to measure (or identify) the illuminance of the environment in which the electronic device 100 is located.
  • the senor 130 is operatively connected to the processor 110, the camera 120, the memory 150, and the like to process color information, 3D information, distance information, location information, and the like.
  • the display 140 may generate a driving signal by converting an image signal, a data signal, a control signal, and the like processed by the processor 110 .
  • the display 140 may be implemented as a plasma display panel (PDP), liquid crystal display (LCD), organic light emitting diode (OLED), flexible display, etc. It can be implemented as a display (3D display).
  • the display 140 is composed of a touch screen and may be used as an input device in addition to an output device.
  • the display 140 may display an image acquired through the camera 120 .
  • the electronic device 100 may obtain a user's input (eg, a touch input) through the display 140 and transmit the user's input to the processor 110 .
  • the electronic device 100 may acquire a touch input to the display 140 for determining a first area (eg, a main area) from which to obtain a plurality of images, and transmit the touch input to the processor 110. can be conveyed
  • the memory 150 may refer to one or more memory sets. According to one embodiment, the memory 150 is received from other components (eg, processor 110, camera 120, sensor 130, display 140) or generated by other components It may store data and/or instructions. In various embodiments, the memory 150 may store an application using a camera.
  • FIG. 2 is a flowchart illustrating that an electronic device obtains a plurality of images and generates a resulting image according to an exemplary embodiment.
  • the processor 110 displays an image acquired by driving a camera (eg, the camera 120 of FIG. 1 ) (eg, the display 140 of FIG. 1 ). can be displayed as a preview image.
  • the processor 110 may display an image obtained through the camera 120 as a preview image on the display 140 while the camera application stored in the memory 150 is executed.
  • the processor 110 may display an image corresponding to the angle of view of the wide camera on the display 140 as a preview image.
  • the processor 110 may determine the first area of the preview image as the main area. According to an embodiment, while the preview image is displayed on the display 140, the processor 110 determines the first area as the main area based on a user input (eg, a touch input) on the first area of the preview image.
  • a user input eg, a touch input
  • the processor 110 may determine the first area of the preview image as the main area based on a result of analyzing the preview image. According to an embodiment, the processor 110 may obtain depth information and/or distance information about at least one object included in the preview image using the sensor 130 (eg, a depth sensor or a ToF sensor). . According to an embodiment, the processor 110 may separate an object closest to the electronic device 100 from the background image based on the obtained depth information and/or distance information. According to an embodiment, the processor 110 may determine an area corresponding to an object closest to the electronic device 100 as a main area.
  • the processor 110 may analyze the preview image to recognize a face included in the preview image, and determine a main region to include the recognized face based on the analysis result. According to an embodiment, the processor 110 may identify at least one face included in the preview image using artificial intelligence (AI), and determine a main region to include the identified face.
  • AI artificial intelligence
  • the processor 110 may analyze the preview image to determine whether there is an area in which motion exists in the preview image. For example, the processor 110 may use at least one of a wide camera and a scan camera to determine whether there is an area in which motion exists in the preview image. According to an embodiment, when it is determined that there is an area in which motion exists in the preview image, the processor 110 may determine a first area in which motion exists as the main area.
  • the processor 110 may acquire a plurality of images corresponding to a plurality of view angles in a designated sequence while changing the view angle of the camera 120 in operation 230 .
  • the processor 110 may acquire a plurality of images respectively corresponding to a plurality of view angles while changing the view angle of the tele camera.
  • the processor 110 may acquire two or more images of at least one area among a plurality of areas respectively corresponding to a plurality of view angles while changing the view angle of the camera 120 .
  • the processor 110 may determine (or change) the sequence based on the fact that the first area of the preview image is determined as the main area.
  • the processor 110 tracks the motion occurring in the preview image, and when it is determined that the motion is reduced based on the tracking result A sequence may be determined to obtain a first image of the first region. According to an embodiment, when it is determined that there is a first region in which motion exists in the preview image, the processor 110 may determine a sequence to acquire a plurality of images of the first region.
  • the processor 110 may obtain a first image of the first region using the camera 120 in operation 240 . According to an embodiment, the processor 110 may acquire a plurality of images respectively corresponding to a plurality of view angles in a designated sequence, and then additionally obtain a first image of the first region. According to an embodiment, the processor 110 may acquire a plurality of first images of the first region while acquiring a plurality of images respectively corresponding to a plurality of view angles in a designated sequence. According to an embodiment, at least a partial area of the first image may overlap with at least one of a plurality of images.
  • the processor 110 may analyze motion occurring in the preview image, and a sequence determined based on a result of analyzing the motion. According to this, an image of the first region may be acquired. For example, the processor 110 may obtain a first image of the first region when it is determined that the motion is reduced according to a sequence determined based on a result of tracking motion occurring in the preview image. Also, for example, the processor 110 may acquire a first image of the first region according to a sequence determined to acquire a plurality of images of the first region.
  • the processor 110 may generate a result image based on the plurality of images obtained in operation 250 and the first image. According to an embodiment, the processor 110 may generate a resulting image by synthesizing a plurality of images and the first image. According to one embodiment, the processor 110 may store the resulting image in the memory 150 .
  • 3A is a diagram illustrating that an electronic device acquires a plurality of images corresponding to a plurality of angles of view and additionally acquires an image of a central region according to an embodiment.
  • the processor 110 determines an area corresponding to the center of a preview image 300 displayed on a display 140 as a main area 310, excluding the main area 310.
  • the remaining area may be determined as the sub area 311 .
  • the processor 110 may obtain an image corresponding to the main area 310 and an image corresponding to the sub area 311 according to a specified sequence while changing the angle of view of the camera 120 .
  • the processor 110 determines the central area of the preview image 300 as the main area 310, obtains an image of the main area 310, and then separates the first sub area 311a and the second sub area 311a.
  • the processor 110 may acquire a plurality of images of the main region 310 and then acquire images of the sub region 311 according to a designated sequence.
  • a partial region of each of the plurality of images may overlap with at least one other image.
  • the processor 110 may synthesize a resultant image corresponding to the entirety of the preview image 300 using a plurality of images obtained for the main area 310 and the sub area 311 .
  • 3B is a diagram illustrating obtaining a plurality of images corresponding to a plurality of angles of view and additionally acquiring an image corresponding to a main object in an electronic device according to an embodiment.
  • the processor 110 may analyze a preview image 300 displayed on the display 140 .
  • the processor 110 may determine at least one main object 320 included in the preview image 300 based on a result of analyzing the preview image 300 .
  • the processor 110 may determine at least one main object 320 included in the preview image 300 based on information acquired through the sensor 130 or information acquired using AI.
  • the processor 110 may determine the first area 330 to include the determined main object 320 . According to an embodiment, the processor 110 converts an image corresponding to the first area 330 and an image corresponding to an area other than the first area 330 according to a specified sequence while changing the angle of view of the camera 120. It is possible to obtain a plurality of images including. According to an embodiment, a partial region of each of the plurality of images may overlap with at least one other image.
  • the processor 110 acquires images of the entire area of the preview image 300 while changing the center of the angle of view of the camera 120 according to a specified sequence, and then acquires at least one image of the first area 330. An image of can be additionally obtained. According to an embodiment, the processor 110 may acquire a plurality of images of the first region 330 while acquiring a plurality of images respectively corresponding to a plurality of view angles according to a designated sequence.
  • the processor 110 uses an image obtained for the first area 330 including the main object 320 and a plurality of images obtained for an area other than the first area 330.
  • a resulting image corresponding to the entirety of the preview image 300 may be synthesized.
  • 4A is a diagram illustrating obtaining an image by applying different exposure times to a main area and a non-main area in an electronic device according to an embodiment.
  • the processor 110 determines an area corresponding to the center of the preview image 300 displayed on the display 140 as the first area 410 and selects an area not corresponding to the center as the first area 410 . It can be determined as the second area 420 . According to an embodiment, the processor 110 analyzes the preview image 300 to determine at least one main object included in the preview image 300, and defines an area including the determined main object as a first area 410. , and an area not including the main object may be determined as the second area 420 .
  • the processor 110 may measure external illuminance of the electronic device 100 using the sensor 130 (eg, an illuminance sensor). According to an embodiment, the processor 110 determines that the external illuminance of the electronic device 100 measured using the sensor 130 is equal to or less than the specified illuminance, the first area 410 and the second area 420 Different exposure times can be determined for
  • the processor 110 determines the first area 410 and the second area 420 even when the external illuminance of the electronic device 100 measured using the sensor 130 exceeds a specified illuminance. Different exposure times can be determined for
  • the processor 110 may determine different imaging parameters for the first area 410 and the second area 420 .
  • the photographing parameters may include at least one of a shutter speed, an aperture value, and a sensor gain.
  • the processor 110 may acquire images for each region by applying different exposure times to the first region 410 and the second region 420 .
  • the processor 110 may capture an image of the first area 410 with a first exposure time and an image of the second area 420 with a second exposure time.
  • the processor 110 acquires an image by applying a first sensor gain to the first area 410 and applies a second sensor gain greater than the first sensor gain to the second area 420. image can be obtained by applying
  • the processor 110 captures the first area 410 at a first exposure time while changing the angle of view of the camera 120 according to a designated sequence, and captures the second area 420 at a second exposure time. You can shoot with exposure time.
  • the processor 110 changes the angle of view of the camera 120 according to a designated sequence, takes a plurality of images corresponding to the plurality of angles of view by applying a second exposure time, and captures a first area ( 410), the image may be captured by changing from the second exposure time to the first exposure time.
  • the processor 110 may generate a result image corresponding to the entire preview image 300 based on images obtained for each of the first region 410 and the second region 420 . According to an embodiment, the processor 110 may store in the memory 150 resultant images generated based on images for each of the first region 410 and the second region 420 .
  • 4B is a diagram illustrating setting an exposure time to vary according to a distance from the center of a preview image in an electronic device according to an embodiment.
  • the X axis represents a relative distance from the center of a preview image (eg, the preview image 300 of FIG. 4A ), and the Y axis represents an exposure time according to the relative distance from the center.
  • the processor 110 may acquire an image by applying a first exposure time to a first area separated by a first distance from the center of the preview image 300 . According to an embodiment, the processor 110 may obtain an image by applying a second exposure time shorter than the first exposure time to a second area separated from the preview center by a second distance greater than the first distance.
  • the processor 110 may acquire a plurality of images respectively corresponding to a plurality of view angles while changing the view angle of the camera 120 according to a designated sequence.
  • a plurality of images respectively corresponding to a plurality of angles of view may be captured with different exposure times according to a distance from the center of the preview image 300 .
  • the processor 110 may generate a resulting image by synthesizing a plurality of obtained images.
  • the processor 110 may generate a result image corresponding to the entire preview image 300 by synthesizing a plurality of images to which different exposure times are applied.
  • the processor 110 may store in the memory 150 a resulting image generated based on a plurality of images to which different exposure times are applied.
  • the processor 110 may determine an area with exposure saturation in the preview image 300 as a first area 510 .
  • the processor 110 may obtain a second image having an exposure value different from a first exposure value set for the preview image 300 with respect to the determined first region 510 .
  • the processor 110 may generate a high dynamic range (HDR) image using the second image.
  • HDR high dynamic range
  • the processor 110 may determine an area with exposure saturation as the first area 510 . According to an embodiment, the processor 110 may acquire the second image by applying a second exposure value smaller than the first exposure value to the determined first region 510 . According to an embodiment, the processor 110 may generate an HDR image by synthesizing the second image obtained with the second exposure value.
  • the processor 110 may determine an area with exposure saturation in the preview image 300 as a first area 520 . According to an embodiment, the processor 110 may obtain a second image having an exposure value different from the first exposure value set for the preview image 300 with respect to the determined first region 520 . According to an embodiment, the processor 110 may generate an HDR image using the second image.
  • the processor 110 may determine an underexposed area as the first area 520 . According to an embodiment, the processor 110 may acquire the second image by applying a second exposure value greater than the first exposure value to the determined first region 520 . According to an embodiment, the processor 110 may generate an HDR image by synthesizing the second image obtained with the second exposure value.
  • the processor 110 applies a first exposure value to a plurality of images corresponding to a plurality of areas except for the first areas 510 and 520 while changing the angle of view of the camera 120 according to a specified sequence. can be obtained by According to an embodiment, the processor 110 applies a second exposure value different from the first exposure value when the first areas 510 and 520 are photographed in order to obtain images corresponding to the first areas 510 and 520. image can be obtained.
  • the processor 110 corresponds to the entire preview image 300 based on the first regions 510 and 520 and images obtained for the remaining regions except for the first regions 510 and 520 .
  • HDR images can be created.
  • the processor 110 stores in the memory 150 an HDR image obtained by synthesizing the first regions 510 and 520 and the images obtained for the remaining regions except for the first regions 510 and 520 . can
  • FIG. 6 is a block diagram of an electronic device 601 (eg, the electronic device 100 of FIG. 1 ) within the network environment 600 according to an embodiment.
  • an electronic device 601 communicates with an electronic device 602 through a first network 698 (eg, a short-range wireless communication network) or through a second network 699. It may communicate with at least one of the electronic device 604 or the server 608 through (eg, a long-distance wireless communication network). According to an embodiment, the electronic device 601 may communicate with the electronic device 604 through the server 608 . According to an embodiment, the electronic device 601 includes a processor 610 (eg, the processor 110 of FIG. 1 ), a memory 630, an input module 650, a sound output module 655, and a display module 660.
  • a processor 610 eg, the processor 110 of FIG. 1
  • a memory 630 e.g, the input module 650, a sound output module 655, and a display module 660.
  • the electronic device 601 at least one of these components (eg, the connection terminal 678) may be omitted or one or more other components may be added. In some embodiments, some of these components (eg, sensor module 676, camera module 680, or antenna module 697) are integrated into a single component (eg, display module 660). It can be.
  • the processor 620 for example, executes software (eg, the program 640) to cause at least one other component (eg, hardware or software component) of the electronic device 601 connected to the processor 620. It can control and perform various data processing or calculations. According to one embodiment, as at least part of data processing or operation, the processor 620 transfers instructions or data received from other components (e.g., sensor module 676 or communication module 690) to volatile memory 632. , processing the commands or data stored in the volatile memory 632, and storing the resulting data in the non-volatile memory 634.
  • software eg, the program 640
  • the processor 620 transfers instructions or data received from other components (e.g., sensor module 676 or communication module 690) to volatile memory 632. , processing the commands or data stored in the volatile memory 632, and storing the resulting data in the non-volatile memory 634.
  • the processor 620 may include a main processor 621 (eg, a central processing unit or an application processor) or a secondary processor 623 (eg, a graphic processing unit, a neural network processing unit ( NPU: neural processing unit (NPU), image signal processor, sensor hub processor, or communication processor).
  • a main processor 621 e.g, a central processing unit or an application processor
  • a secondary processor 623 e.g, a graphic processing unit, a neural network processing unit ( NPU: neural processing unit (NPU), image signal processor, sensor hub processor, or communication processor.
  • NPU neural network processing unit
  • the auxiliary processor 623 may use less power than the main processor 621 or be set to be specialized for a designated function.
  • the auxiliary processor 623 may be implemented separately from or as part of the main processor 621 .
  • the auxiliary processor 623 may, for example, take the place of the main processor 621 while the main processor 621 is in an inactive (eg, sleep) state, or the main processor 621 is active (eg, running an application). ) state, together with the main processor 621, at least one of the components of the electronic device 601 (eg, the display module 660, the sensor module 676, or the communication module 690) It is possible to control at least some of the related functions or states.
  • the co-processor 623 eg, image signal processor or communication processor
  • may be implemented as part of other functionally related components eg, camera module 680 or communication module 690). have.
  • the auxiliary processor 623 may include a hardware structure specialized for processing an artificial intelligence model.
  • AI models can be created through machine learning. Such learning may be performed, for example, in the electronic device 601 itself where the artificial intelligence model is performed, or may be performed through a separate server (eg, the server 608).
  • the learning algorithm may include, for example, supervised learning, unsupervised learning, semi-supervised learning or reinforcement learning, but in the above example Not limited.
  • the artificial intelligence model may include a plurality of artificial neural network layers.
  • Artificial neural networks include deep neural networks (DNNs), convolutional neural networks (CNNs), recurrent neural networks (RNNs), restricted boltzmann machines (RBMs), deep belief networks (DBNs), bidirectional recurrent deep neural networks (BRDNNs), It may be one of deep Q-networks or a combination of two or more of the foregoing, but is not limited to the foregoing examples.
  • the artificial intelligence model may include, in addition or alternatively, software structures in addition to hardware structures.
  • the program 640 may be stored as software in the memory 630 and may include, for example, an operating system 642 , middleware 644 , or an application 646 .
  • the input module 650 may receive a command or data to be used by a component (eg, the processor 620) of the electronic device 601 from an outside of the electronic device 601 (eg, a user).
  • the input module 650 may include, for example, a microphone, a mouse, a keyboard, a key (eg, a button), or a digital pen (eg, a stylus pen).
  • the sound output module 655 may output sound signals to the outside of the electronic device 601 .
  • the sound output module 655 may include, for example, a speaker or receiver.
  • the speaker can be used for general purposes such as multimedia playback or recording playback.
  • a receiver may be used to receive an incoming call. According to one embodiment, the receiver may be implemented separately from the speaker or as part of it.
  • the display module 660 may visually provide information to the outside of the electronic device 601 (eg, a user).
  • the display module 660 may include, for example, a display, a hologram device, or a projector and a control circuit for controlling the device.
  • the display module 660 may include a touch sensor configured to detect a touch or a pressure sensor configured to measure the intensity of force generated by the touch.
  • the sensor module 676 detects an operating state (eg, power or temperature) of the electronic device 601 or an external environmental state (eg, a user state), and generates an electrical signal or data value corresponding to the detected state. can do.
  • the sensor module 676 may include, for example, a gesture sensor, a gyro sensor, an air pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR (infrared) sensor, a bio sensor, It may include a temperature sensor, humidity sensor, or light sensor.
  • the interface 677 may support one or more specified protocols that may be used to directly or wirelessly connect the electronic device 601 to an external electronic device (eg, the electronic device 602).
  • the interface 677 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • HDMI high definition multimedia interface
  • USB universal serial bus
  • SD card interface Secure Digital Card interface
  • audio interface audio interface
  • connection terminal 678 may include a connector through which the electronic device 601 may be physically connected to an external electronic device (eg, the electronic device 602).
  • the connection terminal 678 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).
  • the haptic module 679 may convert electrical signals into mechanical stimuli (eg, vibration or movement) or electrical stimuli that a user may perceive through tactile or kinesthetic senses.
  • the haptic module 679 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
  • the camera module 680 may capture still images and moving images. According to one embodiment, the camera module 680 may include one or more lenses, image sensors, image signal processors, or flashes.
  • the power management module 688 may manage power supplied to the electronic device 601 .
  • the power management module 688 may be implemented as at least part of a power management integrated circuit (PMIC), for example.
  • PMIC power management integrated circuit
  • the battery 689 may supply power to at least one component of the electronic device 601 .
  • the battery 689 may include, for example, a non-rechargeable primary battery, a rechargeable secondary battery, or a fuel cell.
  • the communication module 690 is a direct (eg, wired) communication channel or a wireless communication channel between the electronic device 601 and an external electronic device (eg, the electronic device 602, the electronic device 604, or the server 608). Establishment and communication through the established communication channel may be supported.
  • the communication module 690 may include one or more communication processors that operate independently of the processor 620 (eg, an application processor) and support direct (eg, wired) communication or wireless communication.
  • the communication module 690 is a wireless communication module 692 (eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 694 (eg, a : a local area network (LAN) communication module or a power line communication module).
  • a wireless communication module 692 eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module
  • GNSS global navigation satellite system
  • wired communication module 694 eg, a : a local area network (LAN) communication module or a power line communication module.
  • a corresponding communication module is a first network 698 (eg, a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)) or a second network 699 (eg, legacy It may communicate with the external electronic device 604 through a cellular network, a 5G network, a next-generation communication network, the Internet, or a telecommunications network such as a computer network (eg, LAN or WAN).
  • a cellular network eg, a 5G network, a next-generation communication network, the Internet, or a telecommunications network such as a computer network (eg, LAN or WAN).
  • a telecommunications network such as a computer network (eg, LAN or WAN).
  • These various types of communication modules may be integrated as one component (eg, a single chip) or implemented as a plurality of separate components (eg, multiple chips).
  • the wireless communication module 692 may support a 5G network after a 4G network and a next-generation communication technology, such as NR access technology (new radio access technology).
  • NR access technologies include high-speed transmission of high-capacity data (enhanced mobile broadband (eMBB)), minimization of terminal power and access of multiple terminals (massive machine type communications (mMTC)), or high reliability and low latency (ultra-reliable and low latency (URLLC)).
  • eMBB enhanced mobile broadband
  • mMTC massive machine type communications
  • URLLC ultra-reliable and low latency
  • -latency communications can be supported.
  • the wireless communication module 692 may support a high frequency band (eg, mmWave band) to achieve a high data rate, for example.
  • the wireless communication module 692 uses various technologies for securing performance in a high frequency band, such as beamforming, massive multiple-input and multiple-output (MIMO), and full-dimensional multiplexing. Technologies such as input/output (FD-MIMO: full dimensional MIMO), array antenna, analog beam-forming, or large scale antenna may be supported.
  • the wireless communication module 692 may support various requirements defined for the electronic device 601, an external electronic device (eg, the electronic device 604), or a network system (eg, the second network 699).
  • the antenna module 697 may transmit or receive signals or power to the outside (eg, an external electronic device).
  • the antenna module 697 may include an antenna including a radiator formed of a conductor or a conductive pattern formed on a substrate (eg, PCB).
  • the antenna module 697 may include a plurality of antennas (eg, an array antenna). In this case, at least one antenna suitable for a communication method used in a communication network such as the first network 698 or the second network 699 is selected from the plurality of antennas by the communication module 690, for example. can be chosen A signal or power may be transmitted or received between the communication module 690 and an external electronic device through the selected at least one antenna.
  • other components eg, a radio frequency integrated circuit (RFIC) may be additionally formed as a part of the antenna module 697 in addition to the radiator.
  • RFIC radio frequency integrated circuit
  • the antenna module 697 may form a mmWave antenna module.
  • the mmWave antenna module includes a printed circuit board, an RFIC disposed on or adjacent to a first surface (eg, a lower surface) of the printed circuit board and capable of supporting a designated high frequency band (eg, mmWave band); and a plurality of antennas (eg, array antennas) disposed on or adjacent to a second surface (eg, a top surface or a side surface) of the printed circuit board and capable of transmitting or receiving signals of the designated high frequency band. can do.
  • peripheral devices eg, a bus, general purpose input and output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI)
  • signal e.g. commands or data
  • commands or data may be transmitted or received between the electronic device 601 and the external electronic device 604 through the server 608 connected to the second network 699 .
  • Each of the external electronic devices 602 or 1004 may be the same as or different from the electronic device 601 .
  • all or part of operations executed in the electronic device 601 may be executed in one or more external electronic devices among the external electronic devices 602 , 1004 , or 1008 .
  • the electronic device 601 when the electronic device 601 needs to perform a certain function or service automatically or in response to a request from a user or another device, the electronic device 601 instead of executing the function or service by itself.
  • one or more external electronic devices may be requested to perform the function or at least part of the service.
  • One or more external electronic devices receiving the request may execute at least a part of the requested function or service or an additional function or service related to the request, and deliver the execution result to the electronic device 601 .
  • the electronic device 601 may provide the result as at least part of a response to the request as it is or additionally processed.
  • cloud computing distributed computing, mobile edge computing (MEC), or client-server computing technology may be used.
  • the electronic device 601 may provide an ultra-low latency service using, for example, distributed computing or mobile edge computing.
  • the external electronic device 604 may include an internet of things (IoT) device.
  • Server 608 may be an intelligent server using machine learning and/or neural networks.
  • the external electronic device 604 or server 608 may be included in the second network 699 .
  • the electronic device 601 may be applied to intelligent services (eg, smart home, smart city, smart car, or health care) based on 5G communication technology and IoT-related technology.
  • Electronic devices may be devices of various types.
  • the electronic device may include, for example, a portable communication device (eg, a smart phone), a computer device, a portable multimedia device, a portable medical device, a camera, a wearable device, or a home appliance.
  • a portable communication device eg, a smart phone
  • a computer device e.g., a smart phone
  • a portable multimedia device e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a camera
  • a wearable device e.g., a smart bracelet
  • first, second, or first or secondary may simply be used to distinguish a given component from other corresponding components, and may be used to refer to a given component in another aspect (eg, importance or order) is not limited.
  • a (e.g., first) component is said to be “coupled” or “connected” to another (e.g., second) component, with or without the terms “functionally” or “communicatively.”
  • the certain component may be connected to the other component directly (eg by wire), wirelessly, or through a third component.
  • module used in various embodiments of this document may include a unit implemented in hardware, software, or firmware, and is interchangeable with terms such as, for example, logic, logical blocks, parts, or circuits.
  • a module may be an integrally constructed component or a minimal unit of components or a portion thereof that performs one or more functions.
  • the module may be implemented in the form of an application-specific integrated circuit (ASIC).
  • ASIC application-specific integrated circuit
  • a storage medium eg, internal memory 636 or external memory 638 readable by a machine (eg, electronic device 601). It may be implemented as software (eg, the program 640) including them.
  • a processor eg, the processor 620
  • a device eg, the electronic device 601
  • the one or more instructions may include code generated by a compiler or code executable by an interpreter.
  • the device-readable storage medium may be provided in the form of a non-transitory storage medium.
  • the storage medium is a tangible device and does not contain a signal (e.g. electromagnetic wave), and this term refers to the case where data is stored semi-permanently in the storage medium. It does not discriminate when it is temporarily stored.
  • a signal e.g. electromagnetic wave
  • the method according to various embodiments disclosed in this document may be included and provided in a computer program product.
  • Computer program products may be traded between sellers and buyers as commodities.
  • a computer program product is distributed in the form of a device-readable storage medium (e.g. compact disc read only memory (CD-ROM)), or through an application store (e.g. Play Store TM ) or on two user devices (e.g. It can be distributed (eg downloaded or uploaded) online, directly between smart phones.
  • a device e.g. compact disc read only memory (CD-ROM)
  • an application store e.g. Play Store TM
  • It can be distributed (eg downloaded or uploaded) online, directly between smart phones.
  • at least part of the computer program product may be temporarily stored or temporarily created in a storage medium readable by a device such as a manufacturer's server, an application store server, or a relay server's memory.
  • each component (eg, module or program) of the above-described components may include a single object or a plurality of entities, and some of the plurality of entities may be separately disposed in other components. have.
  • one or more components or operations among the aforementioned corresponding components may be omitted, or one or more other components or operations may be added.
  • a plurality of components eg modules or programs
  • the integrated component may perform one or more functions of each of the plurality of components identically or similarly to those performed by a corresponding component of the plurality of components prior to the integration. .
  • the actions performed by a module, program, or other component are executed sequentially, in parallel, iteratively, or heuristically, or one or more of the actions are executed in a different order, or omitted. or one or more other actions may be added.
  • FIG. 7 is a block diagram 700 illustrating a camera module 680, according to one embodiment.
  • the camera module 680 includes a lens assembly 710, a flash 720, an image sensor 730, an image stabilizer 740, a memory 750 (eg, a buffer memory), or an image signal processor. (760).
  • the lens assembly 710 may collect light emitted from a subject that is an image capturing target.
  • Lens assembly 710 may include one or more lenses.
  • the camera module 680 may include a plurality of lens assemblies 710 . In this case, the camera module 680 may form, for example, a dual camera, a 360-degree camera, or a spherical camera.
  • Some of the plurality of lens assemblies 710 may have the same lens properties (eg, angle of view, focal length, auto focus, f number, or optical zoom), or at least one lens assembly may have the same lens properties as another lens assembly. may have one or more lens properties different from the lens properties of .
  • the lens assembly 710 may include, for example, a wide-angle lens or a telephoto lens.
  • the flash 720 may emit light used to enhance light emitted or reflected from a subject.
  • the flash 720 may include one or more light emitting diodes (eg, a red-green-blue (RGB) LED, a white LED, an infrared LED, or an ultraviolet LED), or a xenon lamp.
  • the image sensor 730 may acquire an image corresponding to the subject by converting light emitted or reflected from the subject and transmitted through the lens assembly 710 into an electrical signal.
  • the image sensor 730 is, for example, an image sensor selected from among image sensors having different properties, such as an RGB sensor, a black and white (BW) sensor, an IR sensor, or a UV sensor, It may include a plurality of image sensors having a property, or a plurality of image sensors having other properties.
  • Each image sensor included in the image sensor 730 may be implemented using, for example, a charged coupled device (CCD) sensor or a complementary metal oxide semiconductor (CMOS) sensor.
  • CCD charged coupled device
  • CMOS complementary metal oxide semiconductor
  • the image stabilizer 740 moves at least one lens or image sensor 730 included in the lens assembly 710 in a specific direction in response to movement of the camera module 680 or the electronic device 601 including the same. Operating characteristics of the image sensor 730 may be controlled (eg, read-out timing is adjusted, etc.). This makes it possible to compensate at least part of the negative effect of the movement on the image being taken.
  • the image stabilizer 740 may include a gyro sensor (not shown) or an acceleration sensor (not shown) disposed inside or outside the camera module 680. Such a movement of the camera module 680 or the electronic device 601 may be detected using .
  • the image stabilizer 740 may be implemented as, for example, an optical image stabilizer.
  • the memory 750 may at least temporarily store at least a portion of an image acquired through the image sensor 730 for a next image processing task. For example, when image acquisition is delayed according to the shutter, or a plurality of images are acquired at high speed, the acquired original image (eg, a Bayer-patterned image or a high-resolution image) is stored in the memory 750 and , a copy image (eg, a low resolution image) corresponding thereto may be previewed through the display device 660 . Thereafter, when a specified condition is satisfied (eg, a user input or a system command), at least a part of the original image stored in the memory 750 may be acquired and processed by, for example, the image signal processor 760 . According to one embodiment, the memory 750 may be configured as at least a part of the memory 630 or as a separate memory operated independently of the memory 630 .
  • the image signal processor 760 may perform one or more image processes on an image obtained through the image sensor 730 or an image stored in the memory 750 .
  • the one or more image processes for example, depth map generation, 3D modeling, panorama generation, feature point extraction, image synthesis, or image compensation (eg, noise reduction, resolution adjustment, brightness adjustment, blurring ( blurring, sharpening, or softening.
  • the image signal processor 760 may include at least one of the components included in the camera module 680 (eg, an image sensor). 730) may be controlled (eg, exposure time control, read-out timing control, etc.)
  • the image processed by the image signal processor 760 is stored again in the memory 750 for further processing.
  • the image signal processor 760 may be configured as at least a part of the processor 620 or may be configured as a separate processor that operates independently of the processor 620.
  • the image signal processor 760 may be configured as a processor 620 When configured as a separate processor, at least one image processed by the image signal processor 760 may be displayed through the display device 660 as it is by the processor 620 or after additional image processing.
  • the electronic device 601 may include a plurality of camera modules 680 each having different properties or functions.
  • at least one of the plurality of camera modules 680 may be a wide-angle camera and at least one other may be a telephoto camera.
  • at least one of the plurality of camera modules 680 may be a front camera, and at least another one may be a rear camera.
  • an electronic device includes a camera (eg, the camera 120 of FIG. 1 ), a display (eg, the display 140 of FIG. 1 ), and at least one electrically connected to the camera and the display. and a processor (eg, the processor 110 of FIG. 1 ), wherein the at least one processor displays an image acquired by driving the camera as a preview image on the display, and displays a first area of the preview image.
  • a camera eg, the camera 120 of FIG. 1
  • a display eg, the display 140 of FIG. 1
  • the processor eg, the processor 110 of FIG. 1
  • a resulting image may be generated based on the obtained plurality of images and the first image, and at least a portion of the first image may overlap with at least one of the plurality of images.
  • the at least one processor may acquire a plurality of first images of the first region using the camera.
  • the electronic device further includes a sensor for measuring external illuminance of the electronic device, and when the at least one processor determines that the external illuminance of the electronic device is equal to or less than a designated illuminance using the sensor, An exposure value for acquiring the first image may be adjusted.
  • the at least one processor may determine the main area based on a touch input to the display.
  • the at least one processor determines an area in which exposure saturation or underexposure is present in the preview image as the first area, and a first exposure value set for the preview image for the determined first area.
  • a high dynamic range (HDR) image may be generated by obtaining a second image having an exposure value different from , and synthesizing the second image.
  • the at least one processor when determining an area with exposure saturation in the preview image as the first area, sets a second exposure value smaller than the first exposure value for the determined first area.
  • the HDR image may be generated by synthesizing the captured second image.
  • the at least one processor when determining an underexposed area in the preview image as the first area, sets a second exposure value greater than the first exposure value for the determined first area.
  • An HDR image may be generated by synthesizing the captured second image.
  • an image obtained by driving a camera (eg, the camera 120 of FIG. 1 ) is displayed (eg, the display 140 of FIG. 1 ) as a preview image.
  • An operation of displaying as an operation of determining the first area of the preview image as a main area, an operation of acquiring a plurality of images corresponding to a plurality of view angles in a designated sequence while changing the view angle of the camera, the camera obtaining a first image of the first region by using and generating a resultant image based on the obtained plurality of images and the first image, wherein at least a part of the first image It may overlap with at least one of the plurality of images.
  • the operating method of the electronic device may include obtaining a plurality of first images of the first region by using the camera.
  • the operating method of the electronic device sets an exposure value for acquiring the first image when it is determined that the external illuminance of the electronic device is less than or equal to a specified illuminance using a sensor for measuring the external illuminance of the electronic device.
  • An adjusting operation may be further included.
  • the determining of the main area may include determining the main area based on a touch input to the display.
  • the determining of the main area may include analyzing the preview image and recognizing a face included in the preview image, and determining the main area to include the recognized face based on the analysis result. It may include a decision-making action.
  • the operating method of the electronic device may include determining an area of exposure saturation or underexposure in the preview image as the first area, and a first exposure set for the preview image for the determined first area.
  • An operation of acquiring a second image having an exposure value different from the exposure value and an operation of generating an HDR image by synthesizing the second image may be included.
  • a second exposure value smaller than the first exposure value is set for the determined first area.
  • An operation of generating the HDR image by synthesizing the captured second image may be included.
  • an electronic device includes a camera (eg, the camera 120 of FIG. 1 ), a display (eg, the display 140 of FIG. 1 ), and at least one electrically connected to the camera and the display. and a processor, wherein the at least one processor displays an image acquired by driving the camera as a preview image on the display, determines whether an area in which motion exists in the preview image, and When it is determined that there is an area in which the motion exists in the image, determining the area in which the motion exists as a first area and acquiring a plurality of images corresponding to a plurality of angles of view while changing the angle of view of the camera.
  • determining a sequence acquiring the plurality of images and a first image of the first region according to the determined sequence, and generating a resultant image based on the obtained plurality of images and the first image; At least a portion of the first image may overlap with at least one of the plurality of images.
  • the at least one processor tracks motion occurring in the preview image, and acquires the first image of the first region when it is determined that the motion has decreased based on the tracking result.
  • the sequence can be determined.
  • the at least one processor may determine the sequence to obtain a plurality of first images of the first region using the camera.
  • partial regions of each of the plurality of images may be sequentially overlapped.
  • the at least one processor may use at least one of a wide camera and a scan camera to determine whether there is an area in which motion exists in the preview image.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Studio Devices (AREA)

Abstract

본 개시에 따른 일 실시 예에서는, 카메라, 디스플레이 및 상기 카메라 및 상기 디스플레이와 전기적으로 연결된 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는 상기 카메라를 구동하여 획득된 이미지를 상기 디스플레이에 프리뷰 이미지로 표시(display)하고, 상기 프리뷰 이미지의 제1 영역을 주요 영역으로 결정하고, 상기 카메라의 화각을 변경하면서 지정된 시퀀스로 복수 개의 화각들에 각각 대응되는 복수 개의 이미지들을 획득하고, 상기 카메라를 이용하여 상기 제1 영역에 대한 제1 이미지를 획득하고, 상기 획득된 복수 개의 이미지들 및 상기 제1 이미지에 기반하여 결과 이미지를 생성하고, 상기 제1 이미지의 적어도 일부는 상기 복수 개의 이미지들 중 적어도 하나와 중첩될 수 있는 전자 장치가 개시된다. 이 외에도 명세서를 통해 파악되는 다양한 실시 예가 가능하다.

Description

이미지 처리 방법 및 그 전자 장치
본 개시에 따른 다양한 실시 예들은 화각을 바꿀 수 있는 카메라를 활용하여 고해상도 이미지를 합성하는 기술에 관한 것이다.
최근 들어, 디지털 카메라, 디지털 캠코더, 또는 스마트 폰과 같이 카메라가 장착된 전자 장치의 보급이 활발히 이루어지고 있다. 이러한 카메라가 장착된 전자 장치는 이미지 촬영 기능을 제공한다. 예를 들어, 전자 장치는 카메라로부터 이미지를 획득하고, 실시간으로 획득된 이미지를 기반으로 디스플레이에 프리뷰 화면을 출력하고, 촬영 입력이 수신되면 카메라로부터 촬영된 이미지를 저장할 수 있다.
또한, 전자 장치는 기구적으로 광경로를 조절하여 화각(FOV, field of view)을 바꿀 수 있는 카메라를 활용할 수 있다. 전자 장치는 카메라의 화각의 중심을 변경하면서 여러 장의 이미지를 얻은 후, 획득된 이미지들을 이용하여 고해상도 이미지를 합성할 수 있다.
한편, 좁은 화각을 갖는 카메라의 화각 중심을 변경하면서 전체 영역 중 일부 영역들에 대한 이미지들을 다수 촬영하는 경우, 이미지 합성을 위해 각 개별 이미지의 경계 영역이 겹치도록 복수 개의 개별 이미지들을 획득하여야 한다.
이 때, 고해상도 이미지를 생성하기 위하여 노출시간을 증가시키거나 각 위치에서 여러 번 촬영하게 되면, 전체 이미지 획득 시간 및 합성 시간이 지나치게 증가하는 문제점이 있다.
본 문서에서 이루고자 하는 기술적 과제는 이상에서 언급한 기술적 과제로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
일 실시 예에서의 전자 장치는, 카메라, 디스플레이 및 상기 카메라 및 상기 디스플레이와 전기적으로 연결된 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는 상기 카메라를 구동하여 획득된 이미지를 상기 디스플레이에 프리뷰 이미지로 표시(display)하고, 상기 프리뷰 이미지의 제1 영역을 주요 영역으로 결정하고, 상기 카메라의 화각을 변경하면서 지정된 시퀀스로 복수 개의 화각들에 각각 대응되는 복수 개의 이미지들을 획득하고, 상기 카메라를 이용하여 상기 제1 영역에 대한 제1 이미지를 획득하고, 상기 획득된 복수 개의 이미지들 및 상기 제1 이미지에 기반하여 결과 이미지를 생성하고, 상기 제1 이미지의 적어도 일부는 상기 복수 개의 이미지들 중 적어도 하나와 중첩될 수 있다.
일 실시 예에서의 전자 장치의 동작 방법은, 카메라를 구동하여 획득된 이미지를 디스플레이에 프리뷰 이미지로 표시(display)하는 동작, 상기 프리뷰 이미지의 제1 영역을 주요 영역으로 결정하는 동작, 상기 카메라의 화각을 변경하면서 지정된 시퀀스로 복수 개의 화각들에 대응되는 복수 개의 이미지들을 획득하는 동작, 상기 카메라를 이용하여 상기 제1 영역에 대한 제1 이미지를 획득하는 동작 및 상기 획득된 복수 개의 이미지들 및 상기 제1 이미지에 기반하여 결과 이미지를 생성하는 동작을 포함하고, 상기 제1 이미지의 적어도 일부는 상기 복수 개의 이미지들 중 적어도 하나와 중첩될 수 있다.
일 실시 예에서의 전자 장치는, 카메라, 디스플레이 및 상기 카메라 및 상기 디스플레이와 전기적으로 연결된 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는 상기 카메라를 구동하여 획득된 이미지를 상기 디스플레이에 프리뷰 이미지로 표시(display)하고, 상기 프리뷰 이미지에 모션이 존재하는 영역이 있는지 여부를 판단하고, 상기 프리뷰 이미지에 상기 모션이 존재하는 영역이 있는 것으로 판단되는 경우, 상기 모션이 존재하는 영역을 제1 영역으로 결정하고, 상기 카메라의 화각을 변경하면서 복수 개의 화각들에 대응되는 복수 개의 이미지들을 획득하기 위한 시퀀스를 결정하고, 상기 결정된 시퀀스에 따라 상기 복수 개의 이미지들 및 상기 제1 영역에 대한 제1 이미지를 획득하고, 상기 획득된 복수 개의 이미지들 및 상기 제1 이미지에 기반하여 결과 이미지를 생성하고, 상기 제1 이미지의 적어도 일부는 상기 복수 개의 이미지들 중 적어도 하나와 중첩될 수 있다.
본 개시에 따른 다양한 실시 예에서의 전자 장치 및 방법은 주요 영역의 이미지를 추가로 획득함으로써 최소한의 촬영 시간으로 이미지의 품질을 개선시킬 수 있다.
도 1은 일 실시 예에 따른 전자 장치의 블록도이다.
도 2는 일 실시 예에 따른 전자 장치가 복수 개의 이미지들을 획득하여 결과 이미지를 생성하는 것을 나타낸 흐름도이다.
도 3a는 일 실시 예에 따른 전자 장치가 복수 개의 화각에 대응되는 복수 개의 이미지들을 획득하고 중심 영역의 이미지를 추가적으로 획득하는 것을 나타낸 도면이다.
도 3b는 일 실시 예에 따른 전자 장치에서 복수 개의 화각에 대응되는 복수 개의 이미지들을 획득하고 주요 객체에 대응되는 이미지를 추가적으로 획득하는 것을 나타낸 도면이다.
도 4a는 일 실시 예에 따른 전자 장치에서 주요 영역과 주요 영역이 아닌 영역에 서로 다른 노출 값을 적용하여 이미지를 획득하는 것을 나타낸 도면이다.
도 4b는 일 실시 예에 따른 전자 장치에서 프리뷰 이미지의 중심으로부터의 거리에 따라 노출 시간이 달라지도록 설정하는 것을 나타낸 도면이다.
도 5a는 일 실시 예에 따른 전자 장치에서 노출 포화가 있는 것으로 판단되는 경우 HDR 이미지를 합성하기 위하여 추가적으로 이미지를 획득하는 것을 나타낸 도면이다.
도 5b는 일 실시 예에 따른 전자 장치에서 노출 부족이 있는 것으로 판단되는 경우 HDR 이미지를 합성하기 위하여 추가적으로 이미지를 획득하는 것을 나타낸 도면이다.
도 6은 일 실시 예에 따른 네트워크 환경 내의 전자 장치의 블록도이다.
도 7은 일 실시 예에 따른, 카메라 모듈을 예시하는 블록도이다.
도면의 설명과 관련하여, 동일 또는 유사한 구성요소에 대해서는 동일 또는 유사한 참조 부호가 사용될 수 있다.
도 1은 일 실시 예에 따른 전자 장치의 블록도이다.
도 1을 참조하면, 전자 장치(100)는, 프로세서(110), 카메라(120), 센서(130), 디스플레이(140) 및 메모리(150)를 포함할 수 있다. 다양한 실시 예에서, 전자 장치(100)는 도 1에 도시된 구성요소 외에 추가적인 구성요소를 포함하거나, 도 1에 도시된 구성요소 중 적어도 하나를 생략할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 메모리(150)에 저장된 인스트럭션들을 이용하여 전자 장치(100)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 중앙처리장치(CPU), 그래픽처리장치(GPU), MCU(micro controller unit), 센서허브, 보조프로세서(supplementary processor), 통신프로세서(communication processor), 애플리케이션 프로세서(application processor), ASIC(application specific integrated circuit), FPGA(field programmable gate arrays) 중 적어도 하나를 포함할 수 있으며, 복수의 코어들을 가질 수 있다.
일 실시 예에 따르면, 프로세서(110)는, 메모리(150)에 저장된 어플리케이션(예: 카메라 어플리케이션)을 실행할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 카메라 어플리케이션이 실행된 상태에서, 카메라(120)를 이용하여 이미지를 획득할 수 있다. 본 명세서에서 기술되는 어플리케이션은, 카메라(120)를 이용하는 임의의 어플리케이션일 수 있다.
일 실시 예에 따르면, 프로세서(110)는 카메라(120)의 화각을 변경하면서 복수 개의 화각들에 대응되는 복수 개의 이미지를 획득할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 복수 개의 이미지를 획득하기 위한 시퀀스를 결정(또는 변경)할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 카메라(120)를 이용하여 동일한 영역에 대하여 복수 개의 이미지를 획득할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 프리뷰 이미지의 적어도 일부 영역에 대하여 이미지를 획득하기 위한 노출 값을 조절하고, 조절된 노출 값에 따라 이미지를 획득할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 프리뷰 이미지에 모션이 존재하는 영역을 결정하고, 모션이 존재하는 영역에 대한 이미지를 획득하기 위하여 시퀀스를 결정(또는 변경)할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 카메라(120)를 통해 영상(image)(예: 정지 영상(still image) 및 동영상(moving image or video))을 획득(또는 촬영)하는 것에 기반하여, 영상 및 영상에 대한 정보를 메모리(150)에 저장할 수 있다. 예를 들어, 프로세서(110)는 프리뷰 영상의 적어도 일부 영역에 대한 밝기 또는 모션 정보를 메모리(150)에 저장할 수 있다. 프로세서(110)의 동작과 관련된 구체적인 내용은 도 2를 참조하여 후술한다.
일 실시 예에 따르면, 카메라(120)는 영상(예: 정지 영상 및 동영상)을 획득(acquire)(또는 촬영)할 수 있다. 예를 들면, 카메라(120)와 전기적으로 연결되는 이미지 시그널 프로세서(미도시)는, 영상(예: 프리뷰 영상 또는 메모리(150)에 저장된 영상)에 포함된 객체(예: 사람)와 배경을 구분할 수 있다. 이미지 시그널 프로세서는 영상(예: 프리뷰 영상 또는 메모리(150)에 포함된 영상)에 관한 특징점을 추출할 수 있다. 일 실시 예에 따르면, 특징점은 영상의 외곽면을 식별(또는 인식)하기 위해 이용될 수 있다. 이미지 시그널 프로세서는 카메라(120)로부터 분리되거나, 프로세서(110)의 일부로서 구현될 수 있다. 일 실시 예에 따르면, 카메라(120)는 이미지 센서를 포함할 수 있다. 일 실시 예에 따르면, 이미지 센서는 색상 정보를 획득 및 처리할 수 있다.
일 실시 예에 따르면, 센서(130)는, 깊이 센서(depth sensor), ToF(time-of-flight) 센서, 자이로 센서(gyro sensor)(또는 자이로스코프(gyroscope)), 중력 센서, 가속도 센서(acceleration sensor), 근접 센서 또는 조도 센서 중 적어도 하나를 포함할 수 있다.
일 실시 예에 따르면, 깊이 센서는 외부 객체에 대한 깊이를 측정하고, 측정된 깊이를 이용하여 외부 객체에 대응하는 깊이 정보를 생성할 수 있다. 일 실시 예에 따르면, ToF 센서는 외부 객체에 빛을 쏘아 반사되어 오는 시간을 측정하여 계산하는 것에 기반하여 외부 객체에 대응하는 거리 정보를 생성할 수 있다. 다양한 실시 예들에 따르면, 자이로 센서, 중력 센서, 가속도 센서, 또는 이들 중 둘 이상의 결합은, 전자 장치(100)의 회전(rotation), 전자 장치(100)의 방향(orientation)의 변화, 또는 전자 장치(100)의 기울기 등을 감지(sense)함으로써, 센서(130)의 동작들을 수행할 수 있다.
일 실시 예에 따르면, 조도 센서는 외부로부터 입사되는 광의 세기를 이용하여 전자 장치(100)의 외부의 조도를 측정할 수 있다. 일 실시 예에 따르면, 조도 센서는 전자 장치(100)가 위치한 환경의 조도를 측정(또는 식별)하기 위해 외부의 광을 수신할 수 있다.
일 실시 예에 따르면, 센서(130)는 프로세서(110) 카메라(120), 메모리(150) 등과 작동적으로 연결되어 색상 정보, 3D 정보, 거리 정보, 위치 정보 등에 관한 처리를 할 수 있다.
일 실시 예에 따르면, 디스플레이(140)는, 프로세서(110)에서 처리된 영상 신호, 데이터 신호, 제어 신호 등을 변환하여 구동 신호를 생성할 수 있다. 일 실시 예에 따르면, 디스플레이(140)는 PDP(plasma display panel), LCD(liquid crystal display), OLED(organic light emitting diode), 플렉서블 디스플레이(flexible display) 등으로 구현될 수 있으며, 또한, 3차원 디스플레이(3D display)로 구현될 수 있다. 일 실시 예에 따르면, 디스플레이(140)는, 터치 스크린으로 구성되어 출력 장치 이외에 입력 장치로 사용될 수 있다.
일 실시 예에 따른 디스플레이(140)는 카메라(120)를 통해 획득되는 영상을 표시할 수 있다. 일 실시 예에 따르면, 전자 장치(100)는 디스플레이(140)를 통해 사용자의 입력(예: 터치 입력)을 획득할 수 있고, 사용자의 입력을 프로세서(110)에 전달할 수 있다. 예를 들어, 전자 장치(100)는 복수 개의 이미지를 획득할 제1 영역(예: 주요 영역)을 결정하는 디스플레이(140)에 대한 터치 입력을 획득할 수 있고, 터치 입력을 프로세서(110)에 전달할 수 있다.
일 실시 예에 따르면, 메모리(150)는, 하나 이상의 메모리 집합을 의미할 수 있다. 일 실시 예에 따르면, 메모리(150)는, 다른 구성 요소들(예: 프로세서(110), 카메라(120), 센서(130), 디스플레이(140))로부터 수신되거나 다른 구성요소들에 의해 생성된 데이터 및/또는 명령을 저장할 수 있다. 다양한 실시 예들에서, 메모리(150)는, 카메라를 이용하는 어플리케이션을 저장할 수 있다.
도 2는 일 실시 예에 따른 전자 장치가 복수 개의 이미지들을 획득하여 결과 이미지를 생성하는 것을 나타낸 흐름도이다.
도 2를 참조하면, 일 실시 예에 따른 프로세서(110)는 동작 210에서 카메라(예: 도 1의 카메라(120))를 구동하여 획득된 이미지를 디스플레이(예: 도 1의 디스플레이(140))에 프리뷰 이미지로 표시할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 메모리(150)에 저장된 카메라 어플리케이션이 실행된 상태에서 카메라(120)를 통해 획득한 이미지를 디스플레이(140)에 프리뷰 이미지로 표시할 수 있다. 예를 들어, 프로세서(110)는 와이드 카메라의 화각에 대응하는 영상을 프리뷰 이미지로 디스플레이(140)에 표시할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 동작 220에서 프리뷰 이미지의 제1 영역을 주요 영역으로 결정할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 프리뷰 이미지가 디스플레이(140)에 표시된 상태에서, 프리뷰 이미지의 제1 영역에 대한 사용자 입력(예: 터치 입력)에 기반하여 제1 영역을 주요 영역으로 결정할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 프리뷰 이미지를 분석한 결과에 기반하여 프리뷰 이미지의 제1 영역을 주요 영역으로 결정할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 센서(130)(예: 깊이 센서, ToF 센서)를 이용하여 프리뷰 이미지에 포함된 적어도 하나의 객체에 대한 깊이 정보 및/또는 거리 정보를 획득할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 획득한 깊이 정보 및/또는 거리 정보에 기반하여 전자 장치(100)와 가장 가까운 객체를 배경 이미지로부터 분리할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 전자 장치(100)와 가장 가까운 객체에 대응되는 영역을 주요 영역으로 결정할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 프리뷰 이미지를 분석하여 프리뷰 이미지에 포함된 얼굴을 인식하고, 분석 결과에 기반하여 인식된 얼굴이 포함되도록 주요 영역을 결정할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 AI(artificial intelligence)를 이용하여 프리뷰 이미지에 포함된 적어도 하나의 얼굴을 식별하고, 식별된 얼굴이 포함되도록 주요 영역을 결정할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 프리뷰 이미지를 분석하여 프리뷰 이미지에 모션이 존재하는 영역이 있는지 여부를 판단할 수 있다. 예를 들어, 프로세서(110)는 와이드 카메라 및 스캔 카메라 중 적어도 하나를 이용하여 프리뷰 이미지에 모션이 존재하는 영역이 있는지 여부를 판단할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 프리뷰 이미지에 모션이 존재하는 영역이 있는 것으로 판단되는 경우, 모션이 존재하는 제1 영역을 주요 영역으로 결정할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 동작 230에서 카메라(120)의 화각을 변경하면서 지정된 시퀀스로 복수 개의 화각들에 대응되는 복수 개의 이미지들을 획득할 수 있다. 예를 들어, 프로세서(110)는 텔레 카메라의 화각을 변경하면서 복수 개의 화각들에 각각 대응되는 복수 개의 이미지들을 획득할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 카메라(120)의 화각을 변경하면서 복수 개의 화각들에 각각 대응되는 복수 개의 영역들 중 적어도 하나의 영역에 대하여는 2 이상의 이미지들을 획득할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 프리뷰 이미지의 제1 영역이 주요 영역으로 결정되는 것에 기반하여, 시퀀스를 결정(또는 변경)할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 프리뷰 이미지에 모션이 존재하는 제1 영역이 있는 것으로 판단되는 경우, 프리뷰 이미지에서 발생하는 모션을 추적하고, 추적 결과를 기반으로 모션이 감소한 것으로 판단될 때 제1 영역에 대한 제1 이미지를 획득하도록 시퀀스를 결정할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 프리뷰 이미지에 모션이 존재하는 제1 영역이 있는 것으로 판단되는 경우, 제1 영역에 대한 이미지를 복수 개 획득하도록 시퀀스를 결정할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 동작 240에서 카메라(120)를 이용하여 제1 영역에 대한 제1 이미지를 획득할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 지정된 시퀀스로 복수 개의 화각들에 각각 대응되는 복수 개의 이미지들을 획득한 후, 제1 영역에 대한 제1 이미지를 추가적으로 획득할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 지정된 시퀀스로 복수 개의 화각들에 각각 대응되는 복수 개의 이미지들을 획득하는 동안, 제1 영역에 대한 제1 이미지를 복수 개 획득할 수 있다. 일 실시 예에 따르면, 제1 이미지의 적어도 일부 영역은 복수 개의 이미지들 중 적어도 하나와 중첩될 수 있다.
일 실시 예에 따르면, 프로세서(110)는 프리뷰 이미지에 모션이 존재하는 제1 영역이 있는 것으로 판단되는 경우, 프리뷰 이미지에 발생하는 모션을 분석할 수 있고, 모션을 분석한 결과에 기반하여 결정된 시퀀스에 따라 제1 영역에 대한 이미지를 획득할 수 있다. 예를 들어, 프로세서(110)는 프리뷰 이미지에서 발생하는 모션을 추적한 결과를 기반으로 결정된 시퀀스에 따라 모션이 감소한 것으로 판단될 때 제1 영역에 대한 제1 이미지를 획득할 수 있다. 또한 예를 들어, 프로세서(110)는 제1 영역에 대한 이미지를 복수 개 획득하도록 결정된 시퀀스에 따라 제1 영역에 대한 제1 이미지를 획득할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 동작 250에서 획득된 복수 개의 이미지들 및 제1 이미지에 기반하여 결과 이미지를 생성할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 복수 개의 이미지들 및 제1 이미지를 합성하여 결과 이미지를 생성할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 생성된 결과 이미지를 메모리(150)에 저장할 수 있다.
도 3a는 일 실시 예에 따른 전자 장치가 복수 개의 화각에 대응되는 복수 개의 이미지들을 획득하고 중심 영역의 이미지를 추가적으로 획득하는 것을 나타낸 도면이다.
도 3a를 참조하면, 일 실시 예에 따른 프로세서(110)는 디스플레이(140)에 표시된 프리뷰 이미지(300)의 중심부에 해당하는 영역을 주요 영역(310)으로 결정하고, 주요 영역(310)을 제외한 나머지 영역을 서브 영역(311)으로 결정할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 카메라(120)의 화각을 변경하면서 지정된 시퀀스에 따라 주요 영역(310)에 대응되는 이미지 및 서브 영역(311)에 대응되는 이미지를 획득할 수 있다. 예를 들어, 프로세서(110)는 프리뷰 이미지(300)의 중심 영역을 주요 영역(310)으로 결정하고, 주요 영역(310)에 대한 이미지를 획득한 후 제1 서브 영역(311a), 제2 서브 영역(311b), 제3 서브 영역(311c), 제4 서브 영역(311d), 제5 서브 영역(311e), 제6 서브 영역(311f), 제7 서브 영역(311g) 및 제8 서브 영역(311h) 각각에 대한 이미지를 순차적으로 획득할 수 있다. 또한 예를 들어, 프로세서(110)는 주요 영역(310)에 대한 이미지를 복수 개 획득한 후 지정된 시퀀스에 따라 서브 영역(311)에 대한 이미지들을 획득할 수 있다. 일 실시 예에 따르면, 복수 개의 이미지들 각각의 일부 영역은 적어도 하나의 다른 이미지와 중첩될 수 있다.
일 실시 예에 따르면, 프로세서(110)는 주요 영역(310) 및 서브 영역(311)에 대하여 획득한 복수 개의 이미지들을 이용하여 프리뷰 이미지(300)의 전체에 대응되는 결과 이미지를 합성할 수 있다.
도 3b는 일 실시 예에 따른 전자 장치에서 복수 개의 화각에 대응되는 복수 개의 이미지들을 획득하고 주요 객체에 대응되는 이미지를 추가적으로 획득하는 것을 나타낸 도면이다.
도 3b를 참조하면, 일 실시 예에 따른 프로세서(110)는 디스플레이(140)에 표시된 프리뷰 이미지(300)를 분석할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 프리뷰 이미지(300)를 분석한 결과에 기반하여, 프리뷰 이미지(300)에 포함된 적어도 하나의 주요 객체(320)를 결정할 수 있다. 예를 들어, 프로세서(110)는 센서(130)를 통하여 획득한 정보 또는 AI를 이용하여 획득한 정보에 기반하여 프리뷰 이미지(300)에 포함된 적어도 하나의 주요 객체(320)를 결정할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 결정된 주요 객체(320)가 포함되도록 제1 영역(330)을 결정할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 카메라(120)의 화각을 변경하면서 지정된 시퀀스에 따라, 제1 영역(330)에 대응되는 이미지 및 제1 영역(330)을 제외한 영역에 대응되는 이미지를 포함하는 복수 개의 이미지들을 획득할 수 있다. 일 실시 예에 따르면, 복수 개의 이미지들 각각의 일부 영역은 적어도 하나의 다른 이미지와 중첩될 수 있다.
일 실시 예에 따르면, 프로세서(110)는 지정된 시퀀스에 따라 카메라(120)의 화각의 중심을 변경하면서 프리뷰 이미지(300) 전체 영역에 대한 이미지를 획득한 후 제1 영역(330)에 대한 적어도 하나의 이미지를 추가적으로 획득할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 지정된 시퀀스에 따라 복수 개의 화각들에 각각 대응되는 복수의 이미지를 획득하는 동안 제1 영역(330)에 대한 이미지를 복수 개 획득할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 주요 객체(320)가 포함된 제1 영역(330)에 대하여 획득한 이미지 및 제1 영역(330)을 제외한 영역에 대하여 획득한 복수 개의 이미지들을 이용하여 프리뷰 이미지(300)의 전체에 대응되는 결과 이미지를 합성할 수 있다.
상술한 실시 예에 따르면, 전자 장치(100)는 프리뷰 이미지(300) 중 중심부에 해당하는 주요 영역(310) 또는 주요 객체(320)를 포함하는 영역에 대하여 복수 개의 이미지를 획득함으로써 이미지의 품질을 개선시킬 수 있다.
도 4a는 일 실시 예에 따른 전자 장치에서 주요 영역과 주요 영역이 아닌 영역에 서로 다른 노출 시간을 적용하여 이미지를 획득하는 것을 나타낸 도면이다.
도 4a를 참조하면, 일 실시 예에 따른 프로세서(110)는 디스플레이(140)에 표시된 프리뷰 이미지(300)의 중심부에 해당하는 영역을 제1 영역(410)으로 결정하고 중심부에 해당하지 않는 영역을 제2 영역(420)으로 결정할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 프리뷰 이미지(300)를 분석하여 프리뷰 이미지(300)에 포함된 적어도 하나의 주요 객체를 결정하고, 결정된 주요 객체를 포함하는 영역을 제1 영역(410)으로 결정하고, 주요 객체를 포함하지 않는 영역을 제2 영역(420)으로 결정할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 센서(130)(예: 조도 센서)를 이용하여 전자 장치(100)의 외부 조도를 측정할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 센서(130)를 이용하여 측정한 전자 장치(100)의 외부 조도가 지정된 조도 이하인 것으로 판단되는 경우, 제1 영역(410)과 제2 영역(420)에 대하여 서로 다른 노출 시간을 결정할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 센서(130)를 이용하여 측정한 전자 장치(100)의 외부 조도가 지정된 조도를 초과하는 경우에도 제1 영역(410)과 제2 영역(420)에 대하여 서로 다른 노출 시간을 결정할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 제1 영역(410) 및 제2 영역(420)에 대하여 각각 다른 촬영 파라미터들을 결정할 수 있다. 예를 들어, 촬영 파라미터들은 셔터 스피드, 조리개 값 및 센서 게인 중 적어도 하나를 포함할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 제1 영역(410) 및 제2 영역(420)에 대하여 서로 다른 노출 시간을 적용하여 각 영역에 대한 이미지를 획득할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 제1 영역(410)에 대한 이미지는 제1 노출 시간으로 촬영하고 제2 영역(420)에 대한 이미지는 제2 노출 시간으로 촬영할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 제1 영역(410)에 대하여는 제1 센서 게인을 적용하여 이미지를 획득하고, 제2 영역(420)에 대하여는 제1 센서 게인보다 큰 제2 센서 게인을 적용하여 이미지를 획득할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 지정된 시퀀스에 따라 카메라(120)의 화각을 변경하면서 제1 영역(410)에 대하여 제1 노출 시간으로 촬영하고, 제2 영역(420)에 대하여 제2 노출 시간으로 촬영할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 지정된 시퀀스에 따라 카메라(120)의 화각을 변경하면서 복수 개의 화각들에 각각 대응되는 복수 개의 이미지를 제2 노출 시간을 적용하여 촬영하고, 제1 영역(410)에 대한 이미지를 획득하는 순서인 경우 제2 노출 시간에서 제1 노출 시간으로 변경하여 이미지를 촬영할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 제1 영역(410) 및 제2 영역(420) 각각에 대하여 획득한 이미지에 기반하여 프리뷰 이미지(300) 전체에 대응되는 결과 이미지를 생성할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 제1 영역(410) 및 제2 영역(420) 각각에 대한 이미지를 기반으로 생성된 결과 이미지를 메모리(150)에 저장할 수 있다.
도 4b는 일 실시 예에 따른 전자 장치에서 프리뷰 이미지의 중심으로부터의 거리에 따라 노출 시간이 달라지도록 설정하는 것을 나타낸 도면이다.
도 4b를 참조하면, X축은 프리뷰 이미지(예: 도 4a의 프리뷰 이미지(300))의 중심으로부터의 상대적인 거리이고, Y축은 중심으로부터의 상대적인 거리에 따른 노출 시간을 나타내고 있다.
일 실시 예에 따르면, 프로세서(110)는 프리뷰 이미지(300)의 중심으로부터 제1 거리만큼 떨어진 제1 영역에 대하여는 제1 노출 시간을 적용하여 이미지를 획득할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 프리뷰 중심으로부터 제1 거리보다 먼 제2 거리만큼 떨어진 제2 영역에 대하여는 제1 노출 시간보다 짧은 제2 노출 시간을 적용하여 이미지를 획득할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 지정된 시퀀스에 따라 카메라(120)의 화각을 변경하면서 복수 개의 화각들에 각각 대응하는 복수 개의 이미지들을 획득할 수 있다. 이 경우, 복수 개의 화각들에 각각 대응하는 복수개의 이미지들은 프리뷰 이미지(300)의 중심으로부터의 거리에 따라 서로 다른 노출 시간으로 촬영될 수 있다.
일 실시 예에 따르면, 프로세서(110)는 획득된 복수 개의 이미지들을 합성하여 결과 이미지를 생성할 수 있다. 예를 들어, 프로세서(110)는 노출 시간이 서로 다르게 적용된 복수 개의 이미지들을 합성하여 프리뷰 이미지(300) 전체에 대응되는 결과 이미지를 생성할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 노출 시간이 서로 다르게 적용된 복수 개의 이미지들을 기반으로 생성된 결과 이미지를 메모리(150)에 저장할 수 있다.
도 5a는 일 실시 예에 따른 전자 장치에서 노출 포화가 있는 것으로 판단되는 경우 HDR 이미지를 합성하기 위하여 추가적으로 이미지를 획득하는 것을 나타낸 도면이다. 도 5b는 일 실시 예에 따른 전자 장치에서 노출 부족이 있는 것으로 판단되는 경우 HDR 이미지를 합성하기 위하여 추가적으로 이미지를 획득하는 것을 나타낸 도면이다.
도 5a를 참조하면, 일 실시 예에 따른 프로세서(110)는 프리뷰 이미지(300)에서 노출 포화가 있는 영역을 제1 영역(510)으로 결정할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 결정된 제1 영역(510)에 대하여 프리뷰 이미지(300)에 대해 설정된 제1 노출 값과 다른 노출 값을 가지는 제2 이미지를 획득할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 제2 이미지를 이용하여 HDR(high dynamic range) 이미지를 생성할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 제1 노출 값으로 획득된 프리뷰 이미지(300)에서 노출 포화가 있는 것으로 판단되는 경우 노출 포화가 있는 영역을 제1 영역(510)으로 결정할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 결정된 제1 영역(510)에 대하여 제1 노출 값보다 작은 제2 노출 값을 적용하여 제2 이미지를 획득할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 제2 노출 값으로 획득된 제2 이미지를 합성하여 HDR 이미지를 생성할 수 있다.
도 5b를 참조하면, 일 실시 예에 따른 프로세서(110)는 프리뷰 이미지(300)에서 노출 포화가 있는 영역을 제1 영역(520)으로 결정할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 결정된 제1 영역(520)에 대하여 프리뷰 이미지(300)에 대해 설정된 제1 노출 값과 다른 노출 값을 가지는 제2 이미지를 획득할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 제2 이미지를 이용하여 HDR 이미지를 생성할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 제1 노출 값으로 획득된 프리뷰 이미지(300)에서 노출 부족이 있는 것으로 판단되는 경우 노출 부족이 있는 영역을 제1 영역(520)으로 결정할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 결정된 제1 영역(520)에 대하여 제1 노출 값보다 큰 제2 노출 값을 적용하여 제2 이미지를 획득할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 제2 노출 값으로 획득된 제2 이미지를 합성하여 HDR 이미지를 생성할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 지정된 시퀀스에 따라 카메라(120)의 화각을 변경하면서 제1 영역(510, 520)을 제외한 복수의 영역에 대응되는 복수의 이미지들을 제1 노출 값을 적용하여 획득할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 제1 영역(510, 520)에 대하여 촬영하는 순서인 경우 제1 노출 값과 다른 제2 노출 값을 적용하여 제1 영역(510, 520)에 대응되는 이미지를 획득할 수 있다.
일 실시 예에 따르면, 프로세서(110)는 제1 영역(510, 520) 및 제1 영역(510, 520)을 제외한 나머지 영역들에 대하여 획득한 이미지에 기반하여 프리뷰 이미지(300) 전체에 대응되는 HDR 이미지를 생성할 수 있다. 일 실시 예에 따르면, 프로세서(110)는 제1 영역(510, 520) 및 제1 영역(510, 520)을 제외한 나머지 영역들에 대하여 획득한 이미지들을 합성한 HDR이미지를 메모리(150)에 저장할 수 있다.
도 6은 일 실시 예에 따른 네트워크 환경(600) 내의 전자 장치(601)(예: 도 1의 전자 장치(100))의 블록도이다.
도 6을 참조하면, 네트워크 환경(600)에서 전자 장치(601)는 제 1 네트워크(698)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(602)와 통신하거나, 또는 제 2 네트워크(699)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(604) 또는 서버(608) 중 적어도 하나와 통신할 수 있다. 일실시예에 따르면, 전자 장치(601)는 서버(608)를 통하여 전자 장치(604)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(601)는 프로세서(610)(예: 도 1의 프로세서(110)), 메모리(630), 입력 모듈(650), 음향 출력 모듈(655), 디스플레이 모듈(660), 오디오 모듈(670), 센서 모듈(676), 인터페이스(677), 연결 단자(678), 햅틱 모듈(679), 카메라 모듈(680), 전력 관리 모듈(688), 배터리(689), 통신 모듈(690), 가입자 식별 모듈(696), 또는 안테나 모듈(697)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(601)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(678))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(676), 카메라 모듈(680), 또는 안테나 모듈(697))은 하나의 구성요소(예: 디스플레이 모듈(660))로 통합될 수 있다.
프로세서(620)는, 예를 들면, 소프트웨어(예: 프로그램(640))를 실행하여 프로세서(620)에 연결된 전자 장치(601)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(620)는 다른 구성요소(예: 센서 모듈(676) 또는 통신 모듈(690))로부터 수신된 명령 또는 데이터를 휘발성 메모리(632)에 저장하고, 휘발성 메모리(632)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(634)에 저장할 수 있다. 일실시예에 따르면, 프로세서(620)는 메인 프로세서(621)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(623)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(601)가 메인 프로세서(621) 및 보조 프로세서(623)를 포함하는 경우, 보조 프로세서(623)는 메인 프로세서(621)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(623)는 메인 프로세서(621)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(623)는, 예를 들면, 메인 프로세서(621)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(621)를 대신하여, 또는 메인 프로세서(621)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(621)와 함께, 전자 장치(601)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(660), 센서 모듈(676), 또는 통신 모듈(690))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일실시예에 따르면, 보조 프로세서(623)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(680) 또는 통신 모듈(690))의 일부로서 구현될 수 있다. 일실시예에 따르면, 보조 프로세서(623)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능 모델이 수행되는 전자 장치(601) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(608))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
메모리(630)는, 전자 장치(601)의 적어도 하나의 구성요소(예: 프로세서(620) 또는 센서 모듈(676))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(640)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(630)는, 휘발성 메모리(632) 또는 비휘발성 메모리(634)를 포함할 수 있다.
프로그램(640)은 메모리(630)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(642), 미들 웨어(644) 또는 어플리케이션(646)을 포함할 수 있다.
입력 모듈(650)은, 전자 장치(601)의 구성요소(예: 프로세서(620))에 사용될 명령 또는 데이터를 전자 장치(601)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(650)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 모듈(655)은 음향 신호를 전자 장치(601)의 외부로 출력할 수 있다. 음향 출력 모듈(655)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
디스플레이 모듈(660)은 전자 장치(601)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(660)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일실시예에 따르면, 디스플레이 모듈(660)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.
오디오 모듈(670)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일실시예에 따르면, 오디오 모듈(670)은, 입력 모듈(650)을 통해 소리를 획득하거나, 음향 출력 모듈(655), 또는 전자 장치(601)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(602))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(676)은 전자 장치(601)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일실시예에 따르면, 센서 모듈(676)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(677)는 전자 장치(601)가 외부 전자 장치(예: 전자 장치(602))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일실시예에 따르면, 인터페이스(677)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(678)는, 그를 통해서 전자 장치(601)가 외부 전자 장치(예: 전자 장치(602))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일실시예에 따르면, 연결 단자(678)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(679)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일실시예에 따르면, 햅틱 모듈(679)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(680)은 정지 영상 및 동영상을 촬영할 수 있다. 일실시예에 따르면, 카메라 모듈(680)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(688)은 전자 장치(601)에 공급되는 전력을 관리할 수 있다. 일실시예에 따르면, 전력 관리 모듈(688)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(689)는 전자 장치(601)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일실시예에 따르면, 배터리(689)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(690)은 전자 장치(601)와 외부 전자 장치(예: 전자 장치(602), 전자 장치(604), 또는 서버(608)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(690)은 프로세서(620)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(690)은 무선 통신 모듈(692)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(694)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(698)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제 2 네트워크(699)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(604)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(692)은 가입자 식별 모듈(696)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(698) 또는 제 2 네트워크(699)와 같은 통신 네트워크 내에서 전자 장치(601)를 확인 또는 인증할 수 있다.
무선 통신 모듈(692)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(692)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(692)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(692)은 전자 장치(601), 외부 전자 장치(예: 전자 장치(604)) 또는 네트워크 시스템(예: 제 2 네트워크(699))에 규정되는 다양한 요구사항을 지원할 수 있다. 일실시예에 따르면, 무선 통신 모듈(692)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.
안테나 모듈(697)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일실시예에 따르면, 안테나 모듈(697)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일실시예에 따르면, 안테나 모듈(697)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제 1 네트워크(698) 또는 제 2 네트워크(699)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(690)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(690)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(697)의 일부로 형성될 수 있다.
다양한 실시예에 따르면, 안테나 모듈(697)은 mmWave 안테나 모듈을 형성할 수 있다. 일실시예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제 1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제 2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일 실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(699)에 연결된 서버(608)를 통해서 전자 장치(601)와 외부의 전자 장치(604)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(602, 또는 1004) 각각은 전자 장치(601)와 동일한 또는 다른 종류의 장치일 수 있다. 일실시예에 따르면, 전자 장치(601)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(602, 1004, 또는 1008) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(601)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(601)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(601)로 전달할 수 있다. 전자 장치(601)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(601)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시예에 있어서, 외부의 전자 장치(604)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(608)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일실시예에 따르면, 외부의 전자 장치(604) 또는 서버(608)는 제 2 네트워크(699) 내에 포함될 수 있다. 전자 장치(601)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서의 다양한 실시예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(601)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(636) 또는 외장 메모리(638))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(640))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(601))의 프로세서(예: 프로세서(620))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일 실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.
도 7은 일 실시 예에 따른, 카메라 모듈(680)을 예시하는 블록도(700)이다.
도 7를 참조하면, 카메라 모듈(680)은 렌즈 어셈블리(710), 플래쉬(720), 이미지 센서(730), 이미지 스태빌라이저(740), 메모리(750)(예: 버퍼 메모리), 또는 이미지 시그널 프로세서(760)를 포함할 수 있다. 렌즈 어셈블리(710)는 이미지 촬영의 대상인 피사체로부터 방출되는 빛을 수집할 수 있다. 렌즈 어셈블리(710)는 하나 또는 그 이상의 렌즈들을 포함할 수 있다. 일실시예에 따르면, 카메라 모듈(680)은 복수의 렌즈 어셈블리(710)들을 포함할 수 있다. 이런 경우, 카메라 모듈(680)은, 예를 들면, 듀얼 카메라, 360도 카메라, 또는 구형 카메라(spherical camera)를 형성할 수 있다. 복수의 렌즈 어셈블리(710)들 중 일부는 동일한 렌즈 속성(예: 화각, 초점 거리, 자동 초점, f 넘버(f number), 또는 광학 줌)을 갖거나, 또는 적어도 하나의 렌즈 어셈블리는 다른 렌즈 어셈블리의 렌즈 속성들과 다른 하나 이상의 렌즈 속성들을 가질 수 있다. 렌즈 어셈블리(710)는, 예를 들면, 광각 렌즈 또는 망원 렌즈를 포함할 수 있다.
플래쉬(720)는 피사체로부터 방출 또는 반사되는 빛을 강화하기 위하여 사용되는 빛을 방출할 수 있다. 일실시예에 따르면, 플래쉬(720)는 하나 이상의 발광 다이오드들(예: RGB(red-green-blue) LED, white LED, infrared LED, 또는 ultraviolet LED), 또는 xenon lamp를 포함할 수 있다. 이미지 센서(730)는 피사체로부터 방출 또는 반사되어 렌즈 어셈블리(710) 를 통해 전달된 빛을 전기적인 신호로 변환함으로써, 상기 피사체에 대응하는 이미지를 획득할 수 있다. 일실시예에 따르면, 이미지 센서(730)는, 예를 들면, RGB 센서, BW(black and white) 센서, IR 센서, 또는 UV 센서와 같이 속성이 다른 이미지 센서들 중 선택된 하나의 이미지 센서, 동일한 속성을 갖는 복수의 이미지 센서들, 또는 다른 속성을 갖는 복수의 이미지 센서들을 포함할 수 있다. 이미지 센서(730)에 포함된 각각의 이미지 센서는, 예를 들면, CCD(charged coupled device) 센서 또는 CMOS(complementary metal oxide semiconductor) 센서를 이용하여 구현될 수 있다.
이미지 스태빌라이저(740)는 카메라 모듈(680) 또는 이를 포함하는 전자 장치(601)의 움직임에 반응하여, 렌즈 어셈블리(710)에 포함된 적어도 하나의 렌즈 또는 이미지 센서(730)를 특정한 방향으로 움직이거나 이미지 센서(730)의 동작 특성을 제어(예: 리드 아웃(read-out) 타이밍을 조정 등)할 수 있다. 이는 촬영되는 이미지에 대한 상기 움직임에 의한 부정적인 영향의 적어도 일부를 보상하게 해 준다. 일실시예에 따르면, 이미지 스태빌라이저(740)는, 일실시예에 따르면, 이미지 스태빌라이저(740)는 카메라 모듈(680)의 내부 또는 외부에 배치된 자이로 센서(미도시) 또는 가속도 센서(미도시)를 이용하여 카메라 모듈(680) 또는 전자 장치(601)의 그런 움직임을 감지할 수 있다. 일실시예에 따르면, 이미지 스태빌라이저(740)는, 예를 들면, 광학식 이미지 스태빌라이저로 구현될 수 있다. 메모리(750)는 이미지 센서(730)를 통하여 획득된 이미지의 적어도 일부를 다음 이미지 처리 작업을 위하여 적어도 일시 저장할 수 있다. 예를 들어, 셔터에 따른 이미지 획득이 지연되거나, 또는 복수의 이미지들이 고속으로 획득되는 경우, 획득된 원본 이미지(예: Bayer-patterned 이미지 또는 높은 해상도의 이미지)는 메모리(750)에 저장이 되고, 그에 대응하는 사본 이미지(예: 낮은 해상도의 이미지)는 표시 장치(660)를 통하여 프리뷰될 수 있다. 이후, 지정된 조건이 만족되면(예: 사용자 입력 또는 시스템 명령) 메모리(750)에 저장되었던 원본 이미지의 적어도 일부가, 예를 들면, 이미지 시그널 프로세서(760)에 의해 획득되어 처리될 수 있다. 일실시예에 따르면, 메모리(750)는 메모리(630)의 적어도 일부로, 또는 이와는 독립적으로 운영되는 별도의 메모리로 구성될 수 있다.
이미지 시그널 프로세서(760)는 이미지 센서(730)를 통하여 획득된 이미지 또는 메모리(750)에 저장된 이미지에 대하여 하나 이상의 이미지 처리들을 수행할 수 있다. 상기 하나 이상의 이미지 처리들은, 예를 들면, 깊이 지도(depth map) 생성, 3차원 모델링, 파노라마 생성, 특징점 추출, 이미지 합성, 또는 이미지 보상(예: 노이즈 감소, 해상도 조정, 밝기 조정, 블러링(blurring), 샤프닝(sharpening), 또는 소프트닝(softening)을 포함할 수 있다. 추가적으로 또는 대체적으로, 이미지 시그널 프로세서(760)는 카메라 모듈(680)에 포함된 구성 요소들 중 적어도 하나(예: 이미지 센서(730))에 대한 제어(예: 노출 시간 제어, 또는 리드 아웃 타이밍 제어 등)를 수행할 수 있다. 이미지 시그널 프로세서(760)에 의해 처리된 이미지는 추가 처리를 위하여 메모리(750)에 다시 저장되거나 카메라 모듈(680)의 외부 구성 요소(예: 메모리(630), 표시 장치(660), 전자 장치(602), 전자 장치(604), 또는 서버(608))로 제공될 수 있다. 일실시예에 따르면, 이미지 시그널 프로세서(760)는 프로세서(620)의 적어도 일부로 구성되거나, 프로세서(620)와 독립적으로 운영되는 별도의 프로세서로 구성될 수 있다. 이미지 시그널 프로세서(760)가 프로세서(620)와 별도의 프로세서로 구성된 경우, 이미지 시그널 프로세서(760)에 의해 처리된 적어도 하나의 이미지는 프로세서(620)에 의하여 그대로 또는 추가의 이미지 처리를 거친 후 표시 장치(660)를 통해 표시될 수 있다.
일실시예에 따르면, 전자 장치(601)는 각각 다른 속성 또는 기능을 가진 복수의 카메라 모듈(680)들을 포함할 수 있다. 이런 경우, 예를 들면, 상기 복수의 카메라 모듈(680)들 중 적어도 하나는 광각 카메라이고, 적어도 다른 하나는 망원 카메라일 수 있다. 유사하게, 상기 복수의 카메라 모듈(680)들 중 적어도 하나는 전면 카메라이고, 적어도 다른 하나는 후면 카메라일 수 있다.
상술한 바와 같이, 일 실시 예에 따른 전자 장치는 카메라(예: 도 1의 카메라(120)) 디스플레이(예: 도 1의 디스플레이(140)) 및 상기 카메라 및 상기 디스플레이와 전기적으로 연결된 적어도 하나의 프로세서(예: 도 1의 프로세서(110))를 포함하고, 상기 적어도 하나의 프로세서는 상기 카메라를 구동하여 획득된 이미지를 상기 디스플레이에 프리뷰 이미지로 표시(display)하고, 상기 프리뷰 이미지의 제1 영역을 주요 영역으로 결정하고, 상기 카메라의 화각을 변경하면서 지정된 시퀀스로 복수 개의 화각들에 각각 대응되는 복수 개의 이미지들을 획득하고, 상기 카메라를 이용하여 상기 제1 영역에 대한 제1 이미지를 획득하고, 상기 획득된 복수 개의 이미지들 및 상기 제1 이미지에 기반하여 결과 이미지를 생성하고, 상기 제1 이미지의 적어도 일부는 상기 복수 개의 이미지들 중 적어도 하나와 중첩될 수 있다.
일 실시 예에 따르면, 상기 적어도 하나의 프로세서는 상기 카메라를 이용하여 상기 제1 영역에 대한 상기 제1 이미지를 복수 개 획득할 수 있다.
일 실시 예에 따르면, 전자 장치는 상기 전자 장치의 외부 조도를 측정하는 센서를 더 포함하고, 상기 적어도 하나의 프로세서는 상기 센서를 이용하여 상기 전자 장치의 외부 조도가 지정된 조도 이하인 것으로 판단되는 경우, 상기 제1 이미지를 획득하기 위한 노출 값을 조절할 수 있다.
일 실시 예에 따르면, 상기 적어도 하나의 프로세서는 상기 디스플레이에 대한 터치 입력에 기반하여 상기 주요 영역을 결정할 수 있다.
일 실시 예에 따르면, 상기 적어도 하나의 프로세서는 상기 프리뷰 이미지를 분석하여 상기 프리뷰 이미지에 포함된 얼굴을 인식하고, 상기 분석 결과에 기반하여 상기 인식된 얼굴이 포함되도록 상기 주요 영역을 결정할 수 있다.
일 실시 예에 따르면, 상기 적어도 하나의 프로세서는 상기 프리뷰 이미지에서 노출 포화 또는 노출 부족이 있는 영역을 상기 제1 영역으로 결정하고, 상기 결정된 제1 영역에 대하여 상기 프리뷰 이미지에 대해 설정된 제1 노출 값과 다른 노출 값을 가지는 제2 이미지를 획득하고, 상기 제2 이미지를 합성하여 HDR(high dynamic range) 이미지를 생성할 수 있다.
일 실시 예에 따르면, 상기 적어도 하나의 프로세서는 상기 프리뷰 이미지에서 노출 포화가 있는 영역을 상기 제1 영역으로 결정하는 경우, 상기 결정된 제1 영역에 대하여 상기 제1 노출 값보다 작은 제2 노출 값으로 촬영된 상기 제2 이미지를 합성하여 상기 HDR 이미지를 생성할 수 있다.
일 실시 예에 따르면, 상기 적어도 하나의 프로세서는 상기 프리뷰 이미지에서 노출 부족이 있는 영역을 상기 제1 영역으로 결정하는 경우, 상기 결정된 제1 영역에 대하여 상기 제1 노출 값보다 큰 제2 노출 값으로 촬영된 상기 제2 이미지를 합성하여 HDR 이미지를 생성할 수 있다.
상술한 바와 같이, 일 실시 예에 따른 전자 장치의 동작 방법은 카메라(예: 도 1의 카메라(120))를 구동하여 획득된 이미지를 디스플레이(예: 도 1의 디스플레이(140))에 프리뷰 이미지로 표시(display)하는 동작, 상기 프리뷰 이미지의 제1 영역을 주요 영역으로 결정하는 동작, 상기 카메라의 화각을 변경하면서 지정된 시퀀스로 복수 개의 화각들에 대응되는 복수 개의 이미지들을 획득하는 동작, 상기 카메라를 이용하여 상기 제1 영역에 대한 제1 이미지를 획득하는 동작 및 상기 획득된 복수 개의 이미지들 및 상기 제1 이미지에 기반하여 결과 이미지를 생성하는 동작을 포함하고, 상기 제1 이미지의 적어도 일부는 상기 복수 개의 이미지들 중 적어도 하나와 중첩될 수 있다.
일 실시 예에 따르면, 전자 장치의 동작 방법은 상기 카메라를 이용하여 상기 제1 영역에 대한 상기 제1 이미지를 복수 개 획득하는 동작을 포함할 수 있다.
일 실시 예에 따르면, 전자 장치의 동작 방법은 상기 전자 장치의 외부 조도를 측정하는 센서를 이용하여 상기 전자 장치의 외부 조도가 지정된 조도 이하인 것으로 판단되는 경우, 상기 제1 이미지를 획득하기 위한 노출값을 조절하는 동작을 더 포함할 수 있다.
일 실시 예에 따르면, 상기 주요영역을 결정하는 동작은, 상기 디스플레이에 대한 터치 입력에 기반하여 상기 주요 영역을 결정하는 동작을 포함할 수 있다.
일 실시 예에 따르면, 상기 주요 영역을 결정하는 동작은, 상기 프리뷰 이미지를 분석하여 상기 프리뷰 이미지에 포함된 얼굴을 인식하는 동작 및 상기 분석 결과에 기반하여 상기 인식된 얼굴이 포함되도록 상기 주요 영역을 결정하는 동작을 포함할 수 있다.
일 실시 예에 따르면, 전자 장치의 동작 방법은 상기 프리뷰 이미지에서 노출 포화 또는 노출 부족이 있는 영역을 상기 제1 영역으로 결정하는 동작, 상기 결정된 제1 영역에 대하여 상기 프리뷰 이미지에 대해 설정된 제1 노출 값과 다른 노출 값을 가지는 제2 이미지를 획득하는 동작 및 상기 제2 이미지를 합성하여 HDR 이미지를 생성하는 동작을 포함할 수 있다.
일 실시 예에 따르면, 전자 장치의 동작 방법은 상기 프리뷰 이미지에서 노출 포화가 있는 영역을 상기 제1 영역으로 결정하는 경우, 상기 결정된 제1 영역에 대하여 상기 제1 노출 값보다 작은 제2 노출 값으로 촬영된 상기 제2 이미지를 합성하여 상기 HDR 이미지를 생성하는 동작을 포함할 수 있다.
상술한 바와 같이, 일 실시 예에 따른 전자 장치는 카메라(예: 도 1의 카메라(120)) 디스플레이(예: 도 1의 디스플레이(140)) 및 상기 카메라 및 상기 디스플레이와 전기적으로 연결된 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는 상기 카메라를 구동하여 획득된 이미지를 상기 디스플레이에 프리뷰 이미지로 표시(display)하고, 상기 프리뷰 이미지에 모션이 존재하는 영역이 있는지 여부를 판단하고, 상기 프리뷰 이미지에 상기 모션이 존재하는 영역이 있는 것으로 판단되는 경우, 상기 모션이 존재하는 영역을 제1 영역으로 결정하고, 상기 카메라의 화각을 변경하면서 복수 개의 화각들에 대응되는 복수 개의 이미지들을 획득하기 위한 시퀀스를 결정하고, 상기 결정된 시퀀스에 따라 상기 복수 개의 이미지들 및 상기 제1 영역에 대한 제1 이미지를 획득하고, 상기 획득된 복수 개의 이미지들 및 상기 제1 이미지에 기반하여 결과 이미지를 생성하고, 상기 제1 이미지의 적어도 일부는 상기 복수 개의 이미지들 중 적어도 하나와 중첩될 수 있다.
일 실시 예에 따르면, 상기 적어도 하나의 프로세서는 상기 프리뷰 이미지에서 발생하는 모션을 추적하고, 상기 추적 결과를 기반으로 상기 모션이 감소한 것으로 판단되는 경우 상기 제1 영역에 대한 상기 제1 이미지를 획득하도록 상기 시퀀스를 결정할 수 있다.
일 실시 예에 따르면, 상기 적어도 하나의 프로세서는 상기 카메라를 이용하여 상기 제1 영역에 대한 상기 제1 이미지를 복수 개 획득하도록 상기 시퀀스를 결정할 수 있다.
일 실시 예에 따르면, 상기 복수 개의 이미지들 각각의 일부 영역이 순차적으로 중첩될 수 있다.
일 실시 예에 따르면, 상기 적어도 하나의 프로세서는 와이드 카메라 및 스캔 카메라 중 적어도 하나를 이용하여 상기 프리뷰 이미지에 모션이 존재하는 영역이 있는지 여부를 판단할 수 있다.

Claims (15)

  1. 전자 장치에 있어서,
    카메라;
    디스플레이; 및
    상기 카메라 및 상기 디스플레이와 전기적으로 연결된 적어도 하나의 프로세서를 포함하고,
    상기 적어도 하나의 프로세서는:
    상기 카메라를 구동하여 획득된 이미지를 상기 디스플레이에 프리뷰 이미지로 표시(display)하고,
    상기 프리뷰 이미지의 제1 영역을 주요 영역으로 결정하고,
    상기 카메라의 화각(FOV, field of view)을 변경하면서 지정된 시퀀스로 복수 개의 화각들에 각각 대응되는 복수 개의 이미지들을 획득하고,
    상기 카메라를 이용하여 상기 제1 영역에 대한 제1 이미지를 획득하고,
    상기 획득된 복수 개의 이미지들 및 상기 제1 이미지에 기반하여 결과 이미지를 생성하고,
    상기 제1 이미지의 적어도 일부는 상기 복수 개의 이미지들 중 적어도 하나와 중첩되는, 전자 장치.
  2. 청구항 1에 있어서,
    상기 적어도 하나의 프로세서는, 상기 카메라를 이용하여 상기 제1 영역에 대한 상기 제1 이미지를 복수 개 획득하는, 전자 장치.
  3. 청구항 1에 있어서,
    상기 전자 장치의 외부 조도를 측정하는 센서를 더 포함하고,
    상기 적어도 하나의 프로세서는 상기 센서를 이용하여 상기 전자 장치의 외부 조도가 지정된 조도 이하인 것으로 판단되는 경우, 상기 제1 이미지를 획득하기 위한 노출 값을 조절하는, 전자 장치.
  4. 청구항 1에 있어서,
    상기 적어도 하나의 프로세서는 상기 디스플레이에 대한 터치 입력에 기반하여 상기 주요 영역을 결정하는, 전자 장치.
  5. 청구항 1에 있어서,
    상기 적어도 하나의 프로세서는 상기 프리뷰 이미지를 분석하여 상기 프리뷰 이미지에 포함된 얼굴을 인식하고, 상기 분석 결과에 기반하여 상기 인식된 얼굴이 포함되도록 상기 주요 영역을 결정하는, 전자 장치.
  6. 청구항 1에 있어서,
    상기 적어도 하나의 프로세서는:
    상기 프리뷰 이미지에서 노출 포화 또는 노출 부족이 있는 영역을 상기 제1 영역으로 결정하고,
    상기 결정된 제1 영역에 대하여 상기 프리뷰 이미지에 대해 설정된 제1 노출 값과 다른 노출 값을 가지는 제2 이미지를 획득하고,
    상기 제2 이미지를 합성하여 HDR(high dynamic range) 이미지를 생성하는, 전자 장치.
  7. 청구항 6에 있어서,
    상기 적어도 하나의 프로세서는 상기 프리뷰 이미지에서 노출 포화가 있는 영역을 상기 제1 영역으로 결정하는 경우, 상기 결정된 제1 영역에 대하여 상기 제1 노출 값보다 작은 제2 노출 값으로 촬영된 상기 제2 이미지를 합성하여 상기 HDR 이미지를 생성하는, 전자 장치.
  8. 청구항 6에 있어서,
    상기 적어도 하나의 프로세서는 상기 프리뷰 이미지에서 노출 부족이 있는 영역을 상기 제1 영역으로 결정하는 경우, 상기 결정된 제1 영역에 대하여 상기 제1 노출 값보다 큰 제2 노출 값으로 촬영된 상기 제2 이미지를 합성하여 HDR 이미지를 생성하는, 전자 장치.
  9. 전자 장치의 동작 방법에 있어서,
    카메라를 구동하여 획득된 이미지를 디스플레이에 프리뷰 이미지로 표시(display)하는 동작;
    상기 프리뷰 이미지의 제1 영역을 주요 영역으로 결정하는 동작;
    상기 카메라의 화각을 변경하면서 지정된 시퀀스로 복수 개의 화각들에 대응되는 복수 개의 이미지들을 획득하는 동작;
    상기 카메라를 이용하여 상기 제1 영역에 대한 제1 이미지를 획득하는 동작; 및
    상기 획득된 복수 개의 이미지들 및 상기 제1 이미지에 기반하여 결과 이미지를 생성하는 동작을 포함하고,
    상기 제1 이미지의 적어도 일부는 상기 복수 개의 이미지들 중 적어도 하나와 중첩되는, 전자 장치의 동작 방법.
  10. 청구항 9에 있어서,
    상기 카메라를 이용하여 상기 제1 영역에 대한 상기 제1 이미지를 복수 개 획득하는 동작을 포함하는, 전자 장치의 동작 방법.
  11. 청구항 9에 있어서,
    상기 전자 장치의 외부 조도를 측정하는 센서를 이용하여 상기 전자 장치의 외부 조도가 지정된 조도 이하인 것으로 판단되는 경우, 상기 제1 이미지를 획득하기 위한 노출값을 조절하는 동작을 더 포함하는, 전자 장치의 동작 방법.
  12. 청구항 9에 있어서,
    상기 주요영역을 결정하는 동작은, 상기 디스플레이에 대한 터치 입력에 기반하여 상기 주요 영역을 결정하는 동작을 포함하는, 전자 장치의 동작 방법.
  13. 청구항 9에 있어서,
    상기 주요 영역을 결정하는 동작은, 상기 프리뷰 이미지를 분석하여 상기 프리뷰 이미지에 포함된 얼굴을 인식하는 동작 및 상기 분석 결과에 기반하여 상기 인식된 얼굴이 포함되도록 상기 주요 영역을 결정하는 동작을 포함하는, 전자 장치의 동작 방법.
  14. 청구항 9에 있어서,
    상기 프리뷰 이미지에서 노출 포화 또는 노출 부족이 있는 영역을 상기 제1 영역으로 결정하는 동작;
    상기 결정된 제1 영역에 대하여 상기 프리뷰 이미지에 대해 설정된 제1 노출 값과 다른 노출 값을 가지는 제2 이미지를 획득하는 동작; 및
    상기 제2 이미지를 합성하여 HDR 이미지를 생성하는 동작을 포함하는, 전자 장치의 동작 방법.
  15. 청구항 14에 있어서,
    상기 프리뷰 이미지에서 노출 포화가 있는 영역을 상기 제1 영역으로 결정하는 경우, 상기 결정된 제1 영역에 대하여 상기 제1 노출 값보다 작은 제2 노출 값으로 촬영된 상기 제2 이미지를 합성하여 상기 HDR 이미지를 생성하는 동작을 포함하는, 전자 장치의 동작 방법.
PCT/KR2022/007168 2021-05-20 2022-05-19 이미지 처리 방법 및 그 전자 장치 WO2022245148A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US18/512,539 US20240089609A1 (en) 2021-05-20 2023-11-17 Image processing method and electronic device therefor

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2021-0064993 2021-05-20
KR1020210064993A KR20220157196A (ko) 2021-05-20 2021-05-20 이미지 처리 방법 및 그 전자 장치

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US18/512,539 Continuation US20240089609A1 (en) 2021-05-20 2023-11-17 Image processing method and electronic device therefor

Publications (1)

Publication Number Publication Date
WO2022245148A1 true WO2022245148A1 (ko) 2022-11-24

Family

ID=84140586

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2022/007168 WO2022245148A1 (ko) 2021-05-20 2022-05-19 이미지 처리 방법 및 그 전자 장치

Country Status (3)

Country Link
US (1) US20240089609A1 (ko)
KR (1) KR20220157196A (ko)
WO (1) WO2022245148A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012222541A (ja) * 2011-04-07 2012-11-12 Casio Comput Co Ltd 撮像装置、画像合成方法、及びプログラム
JP2014066958A (ja) * 2012-09-27 2014-04-17 Xacti Corp 撮像装置
JP2015029865A (ja) * 2013-08-07 2015-02-16 ソニー株式会社 画像処理装置および方法、眼底画像処理装置、画像撮影方法、並びに眼底画像撮影装置および方法
KR20170010588A (ko) * 2015-07-20 2017-02-01 삼성전자주식회사 촬영 장치 및 그 동작 방법
JP2017143390A (ja) * 2016-02-09 2017-08-17 キヤノン株式会社 画像処理装置およびその方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012222541A (ja) * 2011-04-07 2012-11-12 Casio Comput Co Ltd 撮像装置、画像合成方法、及びプログラム
JP2014066958A (ja) * 2012-09-27 2014-04-17 Xacti Corp 撮像装置
JP2015029865A (ja) * 2013-08-07 2015-02-16 ソニー株式会社 画像処理装置および方法、眼底画像処理装置、画像撮影方法、並びに眼底画像撮影装置および方法
KR20170010588A (ko) * 2015-07-20 2017-02-01 삼성전자주식회사 촬영 장치 및 그 동작 방법
JP2017143390A (ja) * 2016-02-09 2017-08-17 キヤノン株式会社 画像処理装置およびその方法

Also Published As

Publication number Publication date
US20240089609A1 (en) 2024-03-14
KR20220157196A (ko) 2022-11-29

Similar Documents

Publication Publication Date Title
WO2022092706A1 (ko) 복수의 카메라를 이용한 사진 촬영 방법 및 그 장치
WO2022108235A1 (ko) 슬로우 셔터를 제공하기 위한 방법, 장치 및 저장 매체
WO2022244970A1 (ko) 전자 장치의 촬영 방법 및 그 전자 장치
WO2022235075A1 (ko) 전자 장치 및 전자 장치의 동작 방법
WO2022196993A1 (ko) 카메라 모듈의 화각을 이용하여 이미지를 촬영하는 전자 장치 및 방법
WO2022245129A1 (ko) 오브젝트 추적 방법 및 이를 위한 전자 장치
WO2022235043A1 (ko) 복수의 카메라를 포함하는 전자 장치 및 그 동작 방법
WO2022245148A1 (ko) 이미지 처리 방법 및 그 전자 장치
WO2022250344A1 (ko) 이미지 센서 및 동적 비전 센서를 포함하는 전자 장치 및 그 동작 방법
WO2022240183A1 (ko) 이미지 데이터와 모션 데이터를 포함하는 파일을 생성하는 방법 및 그 전자 장치
WO2022240186A1 (ko) 이미지 왜곡을 보정하는 방법 및 그 전자 장치
WO2022203355A1 (ko) 복수의 카메라들을 포함하는 전자 장치
WO2024106746A1 (ko) 디지털 보케 이미지의 해상도를 높이기 위한 전자 장치 및 방법
WO2022025574A1 (ko) 이미지 센서와 이미지 시그널 프로세서를 포함하는 전자 장치 및 그의 방법
WO2022203169A1 (ko) 전자 장치의 촬영 방법 및 그 전자 장치
WO2023018262A1 (ko) 이미지를 제공하기 위한 방법 및 이를 지원하는 전자 장치
WO2023080495A1 (ko) 하이 다이나믹 레인지 이미지들을 촬영하는 전자 장치와 이의 동작 방법
WO2023075112A1 (ko) 촬영 시 흔들림을 보정하는 방법 및 그 전자 장치
WO2022092607A1 (ko) 이미지 센서를 포함하는 전자 장치 및 그 동작 방법
WO2022197036A1 (ko) Ar을 이용한 측정 방법 및 전자 장치
WO2023277585A1 (ko) 신경망을 통해 이미지를 처리하는 방법 및 그 전자 장치
WO2022186495A1 (ko) 복수의 렌즈들을 구비하는 전자 장치 및 그 제어 방법
WO2024085487A1 (ko) 카메라의 설정을 변경하기 위한 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체
WO2024117590A1 (ko) 이미지의 뷰 영역을 결정하는 전자 장치 및 그 동작 방법
WO2022196916A1 (ko) 사용자 인증을 위한 방법, 장치 및 저장 매체

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22805001

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 22805001

Country of ref document: EP

Kind code of ref document: A1