WO2023014122A1 - 이미지 데이터의 디블러링을 지원하는 전자 장치 및 방법 - Google Patents

이미지 데이터의 디블러링을 지원하는 전자 장치 및 방법 Download PDF

Info

Publication number
WO2023014122A1
WO2023014122A1 PCT/KR2022/011581 KR2022011581W WO2023014122A1 WO 2023014122 A1 WO2023014122 A1 WO 2023014122A1 KR 2022011581 W KR2022011581 W KR 2022011581W WO 2023014122 A1 WO2023014122 A1 WO 2023014122A1
Authority
WO
WIPO (PCT)
Prior art keywords
image data
filter
electronic device
processor
module
Prior art date
Application number
PCT/KR2022/011581
Other languages
English (en)
French (fr)
Inventor
박민규
임성준
김동오
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Priority to CN202280054618.9A priority Critical patent/CN117795974A/zh
Priority to US17/882,253 priority patent/US20230040122A1/en
Publication of WO2023014122A1 publication Critical patent/WO2023014122A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/70—Denoising; Smoothing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/60—Image enhancement or restoration using machine learning, e.g. neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/73—Deblurring; Sharpening
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/67—Focus control based on electronic image sensor signals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682—Vibration or motion blur correction
    • H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80—Camera processing pipelines; Components thereof
    • H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88—Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/64—Circuits for processing colour signals
    • H04N9/73—Colour balance circuits, e.g. white balance circuits or colour temperature control
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]

Definitions

  • the present disclosure relates to an electronic device, and more particularly, to an electronic device and method for supporting image data deblurring.
  • Image data acquired by the camera module may include blurring due to various reasons. Blurring degrades image data and can sometimes render image data unusable. Some of the reasons for blurring may include conditions when capturing image data. For example, blurring of image data may be caused by unclear focus, sudden movement of a photographed subject, and hand shake outside the correction range. Blurring caused by conditions when photographing the image data can be overcome by re-photographing the image data. Some of the reasons for blurring may occur due to physical characteristics of electronic devices or camera modules. Blurring due to physical characteristics of an electronic device or a camera module may constantly occur whenever image data is captured. Blurring due to physical characteristics of electronic devices or camera modules cannot be overcome even by recapturing image data.
  • An object of the present disclosure is to provide an electronic device and method that support deblurring caused by physical characteristics of an electronic device or a camera module at high speed.
  • An electronic device includes a camera module generating image data; a processor for receiving the image data and generating restored image data based on the image data; and a display module displaying the restored image data.
  • the processor identifies a class of the image data, selects a filter corresponding to the class, and applies the selected filter to the image data to generate the reconstructed image data.
  • An electronic device includes a storage device for storing image data and deteriorated image data; a processor that receives the image data and the degraded image data, identifies classes in the degraded image data, and selects filters respectively corresponding to the classes to restore the degraded image data to the image data; and a memory for storing a search table including association information between the classes and the selected filters.
  • a method of deblurring image data includes receiving original image data and first degraded image data; identifying classes in the first deteriorated image data; searching for filters respectively corresponding to the classes, which restore the first degraded image data to be close to the original image data; receiving second deteriorated image data; identifying the classes in the second deteriorated image data; and generating restored image data by applying the filters respectively corresponding to the classes to the second degraded image data.
  • a class of image data is identified in real time, and deblurring is performed using a filter corresponding to the class. Accordingly, an electronic device and method for deblurring blurring due to physical characteristics in real time are provided.
  • FIG. 1 shows an electronic device according to a first embodiment of the present disclosure.
  • 2a, 2b, 2c, 2d, and 2e show examples in which the electronic device of the present disclosure is implemented as a smart phone according to the first embodiment.
  • 3A, 3B, 3C, 3D, and 3E show examples in which the electronic device of the present disclosure is implemented as a smart phone according to the second embodiment.
  • FIG. 4 is a block diagram illustrating an electronic device performing filter learning according to an embodiment of the present disclosure.
  • FIG. 5 shows an example of a learning module executed by a processor of the electronic device of FIG. 4 .
  • FIG. 6 shows an example of a process in which the learning module generates a search table.
  • FIG. 7 shows an example in which a class of deteriorated image data is identified and a filter is selected according to the method of FIG. 6 .
  • FIG 8 shows an example of a process in which a learning module selects a filter for each class by repeatedly applying the filters.
  • FIG 9 shows an example of calculating a reference error with a deep learning-based deblurring module.
  • FIG. 10 shows an example in which a filter detector selects filters based on deep learning.
  • FIG. 11 shows an example of 3D modeling of a filter reconstructing the point spread function of FIG. 3E.
  • FIG. 12 shows an example of three-dimensional modeling of a filter having a reduced size.
  • FIG. 13 shows an example of a process in which the learning module reduces the size of a filter for each class.
  • FIG. 14 is a block diagram of an electronic device in a network environment according to various embodiments.
  • FIG. 15 shows an example of a process in which the electronic device of FIG. 14 performs deblurring using a filter.
  • FIG. 16 shows an example of a filter-based deblurring module executed by a processor.
  • FIG. 17 is a block diagram illustrating a camera module according to various embodiments.
  • an electronic device 100 may include a processor 110, a memory 120, a camera module 130, and a display module 140.
  • the processor 110 may execute an operating system, middleware, or applications of the electronic device 100 .
  • the processor 110 may include a main processor 111 and an auxiliary processor 113 .
  • the main processor 111 may include a central processing unit (CPU) or an application processor (AP).
  • the auxiliary processor 113 includes a graphics processor (GPU), a neural processor (NPU), a neuromorphic processor, an image signal processor (ISP), a digital signal processor (DSP), a sensor hub processor, or a communication processor. can do.
  • the auxiliary processor 113 may substitute for some of the tasks of the main processor 111 according to a request of the main processor 111 .
  • Memory 120 may be used to store data.
  • Memory 120 may include volatile memory 122 and non-volatile memory 124 .
  • Volatile memory 122 may include a variety of memories such as static random access memory, dynamic random access memory, phase change random access memory, ferroelectric random access memory, magnetic random access memory, or resistive random access memory.
  • the volatile memory 122 may be used as a main memory of the electronic device 100 .
  • the volatile memory 122 may temporarily store codes executed by an operating system, middleware, or applications.
  • the volatile memory 122 may temporarily store data generated by an operating system, middleware, or applications.
  • the nonvolatile memory 124 may include various nonvolatile memories such as NAND flash memory, phase change memory, ferroelectric memory, magnetic memory, or resistive memory.
  • the nonvolatile memory 124 may be used as an auxiliary memory of the electronic device 100 .
  • non-volatile memory may store originals of codes executed by an operating system, middleware, or applications.
  • Non-volatile memory may store originals of data generated by an operating system, middleware, or applications.
  • the camera module 130 may capture still images or moving images.
  • the camera module 130 may include at least one lens and generate image data corresponding to a predetermined resolution based on light incident through the at least one lens.
  • Image data may be stored in the memory 120 through the processor 110 .
  • the display module 140 may receive image data from the memory 120 through the processor 110 .
  • the display module 140 may display the received image data.
  • the display module 140 may be implemented by being combined with an input means such as a touch pad.
  • the electronic device 100 may be implemented as a mobile device such as a smart phone, smart watch, or smart pad.
  • a mobile device such as a smart phone, smart watch, or smart pad.
  • the technical spirit of the present disclosure will be described with reference to examples in which the electronic device 100 is implemented as a smart phone, but the present disclosure is not limited to being applied to a smart phone.
  • FIG. 2a, 2b, 2c, 2d, and 2e show examples in which the electronic device 100 of the present disclosure is implemented as a smart phone 100a according to the first embodiment.
  • Figure 2a shows the front of the smart phone (100a)
  • Figure 2b shows the rear of the smart phone (100a).
  • 2C shows an exploded perspective view of the smart phone 100a.
  • FIG. 2D shows an example of a cross-sectional view taken along the line II' of FIG. 2E.
  • 2E shows an example of physical characteristics applied when the smart phone 100a captures image data.
  • a display module 140 corresponding to the display module 140 of the electronic device 100 may be provided on the front side of the smart phone 100a.
  • a first camera module 131 corresponding to at least a portion of the camera module 130 of the electronic device 100 of FIG. 1 may be provided through at least a portion of the display module 140 .
  • a second camera module 132 corresponding to at least the remaining part of the camera module 130 of the electronic device 100 may be provided on the rear surface of the smart phone 100a.
  • the second camera module 132 may be implemented to include various components such as a wide camera, an ultra wide camera, a telephoto camera, a distance measuring camera, an infrared camera, or a flash light.
  • the display module 140 of the second part 102 may have a hole 140h. The position of the hole 140h may correspond to the position of the lens of the first camera module 131 .
  • the display module 140 may include a window W and a lower member LM.
  • the lower member LM may include an antireflection film, a touch sensor, a display panel, a functional member, and the like.
  • pixels PX of the display panel are illustrated in FIG. 2D .
  • the hole 140h may be an empty space penetrating the lower member LM.
  • the hole 140h may be aligned with the lens of the first camera module 131 .
  • the 2E shows an example of a Point Spread Function (PSF) of the first camera module 131 .
  • the point spread function may represent data representing a degree of spread of a point in an image when a point is captured using the first camera module 131 .
  • the point spread function may be based on physical characteristics of the camera module 131 .
  • the point spread function is the type and characteristics of the material filling the hole 140h, the type and characteristics of the lens of the first camera module 131, the structure of the lens of the first camera module 131, or the first camera. It may be determined based on various physical characteristics such as the type and characteristics of the image sensor of module 131.
  • the point spread function may cause blurring in image data generated using the first camera module 131 . Since the point spread function is based on the physical characteristics of the first camera module 131, blurring due to the point spread function may constantly occur in image data.
  • Blurring due to the point spread function may similarly occur not only in the first camera module 131 but also in the second camera module 132 . That is, blurring may constantly occur even in image data generated using the second camera module 132 .
  • a display module 140 corresponding to the display module 140 of the electronic device 100 may be provided on the front side of the smart phone 100b.
  • the display module 140 may include a light transmission area 140t.
  • the light transmission area 140t may pass light incident from the outside.
  • a second camera module 132 corresponding to at least the remaining part of the camera module 130 of the electronic device 100 may be provided on the rear surface of the smart phone 100b.
  • the second camera module 132 may be implemented to include various components such as a wide camera, an ultra wide camera, a telephoto camera, a distance measuring camera, an infrared camera, or a flash light.
  • the display module 140 between the display module 140 and the rear cover 101 of the smart phone 100b, a processor 110, a memory 120, and a first camera module 131 are provided. It can be.
  • the second camera module 132 may be obscured, but is shown in dashed lines for reference.
  • a position of the light transmission area 140t may correspond to a position of a lens of the first camera module 131 .
  • the first camera module 131 may be implemented as an Under Display Camera (UDC).
  • UDC Under Display Camera
  • the display module 140 may include a window W and a lower member LM.
  • the lower member LM may include an antireflection film, a touch sensor, a display panel, a functional member, and the like.
  • pixels PX of the display panel are illustrated in FIG. 3D .
  • the number or density of pixels PX disposed in the light penetrating area 140t may be smaller than the number or density of pixels PX disposed in areas other than the light penetrating area 140t.
  • Light may be transmitted to the first camera module 131 through an area in the light transmission area 140t where the pixels PX are not disposed.
  • a bottom metal layer (BML) for blocking light may be disposed under the pixels PX of the light transmission area 140t.
  • the BML can prevent transistors from malfunctioning by blocking light transmission.
  • a bottom metal layer (BML) may be a factor causing diffraction of light, which will be described later.
  • the 3E shows an example of a point spread function (PSF) of the first camera module 131 .
  • the point spread function may represent data representing a degree of spread of a point in an image when a point is captured using the first camera module 131 .
  • the point spread function may be based on physical characteristics of the first camera module 131 .
  • the point spread function is the type and characteristics of the material disposed in the light transmission area 140t, the type and characteristics of the lens of the first camera module 131, the structure of the lens of the first camera module 131, and the first camera module 131. 1 may be determined based on various physical characteristics such as the type and characteristics of the image sensor of the camera module 131 .
  • the point when capturing a point using the first camera module 131, the point is centered in a first direction (eg, a horizontal direction) and a second direction (eg, a vertical direction). Image data of a form that protrudes and is scattered between the first direction and the second direction can be obtained.
  • the point spread function may cause blurring in image data generated using the first camera module 131 . Since the point spread function is based on the physical characteristics of the first camera module 131, blurring due to the point spread function may constantly occur in image data.
  • the point spread function of FIG. 3E may have a shape protruding along a first direction D1 and a second direction D2 perpendicular to the first direction.
  • the light transmission area 140t of the display module 140 of FIG. 3D includes pixels and BML associated with the pixels.
  • can include Light passing through the light transmission area 140t may be diffracted while passing between components of the light transmission area 140t of the display module 140, such as BML and pixels.
  • the point spread function of the first camera module 131 implemented as UDC may occupy a wider range than the point spread function of the first camera module 131 implemented as non-UDC.
  • Image data generated by the first camera module 131 implemented as UDC may always have greater blurring than image data generated by the first camera module 131 implemented as non-UDC.
  • deep learning In order to remove the blurring due to the point spread function, that is, to perform deblurring, deep learning may be used. For example, a deblurring module that restores blurring due to a point spread function may be learned based on deep learning.
  • the processor 110 of FIG. 1 may remove blurring of the point spread function by applying a deblurring module to image data generated by the camera module 130 .
  • the deblurring module based on deep learning has a disadvantage of slow operation speed.
  • the deblurring module performs a plurality of convolution operations and a resize operation, so real-time deblurring may not be possible.
  • the deblurring module delays the time at which the electronic device 100 generates image data, and in particular, may cause a large latency when the electronic device 100 generates a video.
  • the present disclosure may provide an apparatus or method for removing (or restoring) blurring due to a point spread function with a quality similar to that of a deblurring module based on deep learning while enabling real-time processing at high speed.
  • the electronic device 200 may perform filter learning to search for suitable deblurring filters according to the type of image data.
  • the electronic device 200 may include a high-performance stationary device such as a computer or a workstation.
  • the electronic device 200 includes a processor 210, a memory 220, a device driver 230, a storage device 240, a modem 250, a user output interface 260, and a user input interface. (270).
  • the processor 210 may execute an operating system, middleware, or applications of the electronic device 200 .
  • the processor 210 may include a main processor 211 and an auxiliary processor 213 .
  • the main processor 211 may include a central processing unit (CPU) or an application processor (AP).
  • Coprocessor 213 includes a graphics processor (GPU), a neural processor (NPU), a neuromorphic processor, an image signal processor (ISP), a digital signal processor (DSP), a sensor hub processor, or a communication processor. can do.
  • the auxiliary processor 213 may substitute for some of the tasks of the main processor 211 according to the request of the main processor 211 .
  • the memory 220 is used as an operating memory of the processor 210 and may be used as a main memory or system memory of the electronic device 200 .
  • Memory 220 may include volatile memory such as dynamic random access memory or static random access memory, or non-volatile memory such as phase change random access memory, ferroelectric random access memory, magnetic random access memory, or resistive random access memory. there is.
  • the device driver 230 may control peripheral devices such as the storage device 240 , the modem 250 , the user output interface 260 , and the user input interface 270 according to a request of the processor 210 .
  • the storage device 240 may include a fixed storage device such as a hard disk drive or a solid state drive, or a removable storage device such as an external hard disk drive, an external solid state drive, or a removable memory card.
  • the modem 250 may provide remote communication with an external device.
  • the modem 250 may perform wireless or wired communication with an external device.
  • the modem 250 may communicate with an external device through at least one of various communication types such as Ethernet, Wi-Fi, LTE, and 5G mobile communication.
  • the user output interface 260 may include devices that provide information to a user, such as a display device 261 and a speaker 262 .
  • the user input interface 270 may include devices that receive information from a user, such as a mouse 271 and a keyboard 272 .
  • FIG. 5 shows an example of a learning module 300 executed by the processor 210 of the electronic device 200 of FIG. 4 .
  • the learning module 300 may perform filter learning to search for filters suitable for features of image data.
  • the learning module 300 may receive image data (ID), degraded image data (DID), meta data (MD), and photographing data (CD).
  • ID may be data from which blurring due to a point spread function is removed.
  • the image data ID may be obtained by applying a deconvolution filter (or deblurring module) to image data captured using the smart phone 100a of FIGS. 2A, 2B, and 2C. .
  • the degraded image data DID may be generated by degrading the image data ID.
  • the electronic device 200 may receive image data ID and generate degraded image data DID by degrading the image data ID.
  • the electronic device 200 may generate the degraded image data DID by applying the point spread function of FIG. 2E or the point spread function of FIG. 3E to the image data ID (eg, a convolution operation).
  • raw image data obtained by using the camera module 130 for example, image data in which the influence of the point spread function is not corrected may be used as the degraded image data DID.
  • the meta data (MD) may include information about image data (ID) or degraded image data (DID).
  • Meta data (MD) is whether or not a face has been recognized in image data (ID) or degraded image data (DID), brightness information of image data (ID) or degraded image data (DID), image data (ID) or Noise information of the degraded image data (DID), and at least one of whether the image data (ID) or the degraded image data (DID) includes haze, mist, or fog can do.
  • the meta data (MD) may be generated together when the image data (ID) is generated by the camera module.
  • the photographing data CD may include state information when the image data ID is photographed.
  • the photographing data CD includes size information of the image data ID, scene classification information of the image data ID, edge direction information of the image data ID, and image data ( ID) when shooting Auto Focus (AF) information, Auto White Balance (AWE) (Auto White Balance) information when shooting image data (ID), and Auto when shooting image data (ID).
  • AF Auto Focus
  • AWE Auto White Balance
  • ID Auto White Balance
  • ID Auto White Balance
  • ID Auto White Balance
  • ID Auto White Balance
  • ID Auto White Balance
  • ID Auto White Balance
  • ID Auto White Balance
  • ID Auto White Balance
  • ID Auto White Balance
  • ID Auto White Balance
  • ID Auto White Balance
  • ID Auto White Balance
  • ID Auto White Balance
  • ID Auto White Balance
  • ID Auto White Balance
  • ID Auto White Balance
  • ID Auto White Balance
  • ID Auto White Balance
  • ID Auto White Balance
  • ID Auto White Balance
  • ID Auto White Balance
  • ID Auto White Balance
  • ID Auto White Balance
  • ID Auto White Balance
  • Image data (ID), degraded image data (DID), meta data (MD), and shooting data (CD) are stored in the storage device 240, and the processor 210 (eg, the processor 210) It can be delivered to the learning module 300 executed by
  • the processor 210 (eg, the learning module 300 executed by the processor 210) is configured to image data (ID), degraded image data (DID), meta data (MD), and shooting data (CD). Based on the image data, one or more classes may be identified, and filters respectively corresponding to the classes may be selected (or detected or learned).
  • the learning module 300 may include a class detector 310 , a filter detector 320 , and a filter lookup table 330 .
  • the class detector 310 may receive degraded image data (DID), meta data (MD), and photographing data (CD). The class detector 310 may identify a class of the degraded image data DID based on at least one of the degraded image data DID, meta data MD, and photographic data CD. The class detector 310 may identify a class of the degraded image data DID in real time and transmit the identified class information CI to the filter detector 320 .
  • DID degraded image data
  • MD meta data
  • CD photographing data
  • the class detector 310 may identify a class of the degraded image data DID based on at least one of the degraded image data DID, meta data MD, and photographic data CD.
  • the class detector 310 may identify a class of the degraded image data DID in real time and transmit the identified class information CI to the filter detector 320 .
  • the class detector 310 may identify a class based on values of information included in meta data (MD) or photographic data (CD).
  • the class detector 310 may identify a class of the degraded image data DID according to a range of information values included in the metadata MD or the photographing data CD.
  • the class detector 310 may identify a class of the degraded image data DID by using a module learned based on deep learning.
  • the class detector 310 may input degraded image data (DID), meta data (MD), or photographic data (CD) to a deep learning-based module.
  • the deep learning-based module may output class information (CI).
  • the filter detector 320 may receive image data ID, degraded image data DID, and class information CI.
  • the filter detector 320 may include a plurality of filters or information on a plurality of filters.
  • the filter detector 320 may detect (or learn) a filter that most closely restores the degraded image data DID to the image data ID.
  • the filter detector 320 may output class information CI and filter information FI to the filter search table 330 .
  • the filter search table 330 may store class information (CI) and filter information (FI) corresponding to the class information (CI) in association with each other.
  • the filter search table 330 may be stored in the memory 220 or the storage device 240 and may be communicated with an external device through the modem 250 .
  • the learning module 300 may receive image data ID and degraded image data DID.
  • the learning module 300 may further receive image data ID or meta data MD including information on the deteriorated image data DID or photographing data CD including photographing information. .
  • the class detector 310 of the learning module 300 may identify the image data ID into a plurality of groups according to the first characteristics.
  • the first feature may be selected from metadata (MD) or photographing data (CD), or may be generated from the metadata (MD) or photographic data (CD).
  • the class detector 310 may identify the image data ID into a plurality of classes according to the second characteristic in each group.
  • the second feature may be selected from metadata (MD) or photographing data (CD) or may be generated from the metadata (MD) or photographic data (CD).
  • the filter detector 320 may search for a filter suitable for each class.
  • the filter detector 320 may store filter information for each class in the filter search table 330 .
  • classes may correspond to different contents.
  • image data includes different contents such as faces, indoors, outdoors, daytime, nighttime, urban areas, and nature
  • the blurring aspects caused by the point spread function in different contents may be different.
  • the types of filters suitable for deblurring may also differ.
  • the filter detector 320 of the present disclosure may adaptively suppress (or restore) blurring of image data by searching for suitable filters for each class. Therefore, deblurring can be performed with performance close to that of the deep learning-based deblurring module.
  • FIG. 7 shows an example in which degraded image data DID is identified and a filter is selected according to the method of FIG. 6 .
  • the deteriorated image data DID may be identified as belonging to a first group, a second group, and a third group according to a first characteristic.
  • a first group can be identified as belonging to a first class and a second class according to a second characteristic.
  • a second group can be identified as belonging to the third class and the fourth class according to the second characteristic.
  • a third group can be identified as belonging to the fifth and sixth classes according to the second characteristic.
  • the first feature may be selected as the type of content of the image data ID degraded from among the meta data MD and the photographing data CD, for example, scene identification information.
  • Degraded image data DID belonging to different contents such as face, indoor, outdoor, daytime, nighttime, urban, or nature, may be identified as belonging to different groups.
  • the first feature may be selected as specific scene identification information such as a face among scene identification information.
  • the second characteristic may be selected from among other pieces of information of the meta data (MD) or photographing data (CD).
  • the second characteristic may include the degraded image data DID or size information of an object included in the degraded image data DID, brightness level information of the degraded image data DID, and degraded image data DID Noise level information of , information indicating whether the degraded image data (DID) includes haze, mist, or fog, contour information of the degraded image data (DID), degraded image Auto focus information when photographing the data DID, auto white balance information when photographing the deteriorated image data DID, or auto exposure information when photographing the deteriorated image data DID may be selected.
  • the second feature may be selected as remaining scene identification information not selected as the first feature among scene identification information.
  • the first characteristic may include the degraded image data DID or size information of an object included in the degraded image data DID, brightness level information of the degraded image data DID, and degraded image data DID Noise level information of , information indicating whether the degraded image data (DID) includes haze, mist, or fog, contour information of the degraded image data (DID), degraded image One of auto focus information when photographing the data DID, auto white balance information when photographing the deteriorated image data DID, and auto exposure information when photographing the deteriorated image data DID may be selected.
  • the second characteristic may be selected from remaining information not selected as the first characteristic among information of the meta data (MD) or photographing data (CD).
  • First to sixth filters may be selected for the first to sixth classes, respectively. Some of the first to sixth filters may be different from each other. For example, if the class of the degraded image data DID is different, the type of filter may be different. Some of the other filters among the first to sixth filters may be the same. For example, even if the class of the degraded image data (DID) is changed, the type of filter may not be changed. Even when filters of the same type are used in different classes, filtering coefficients applied to filters of different classes may be different. Exemplarily, each of the first to sixth filters may be selected from among various filters of a filter pool including a deconvolution filter, a Weiner filter, or a City Light Suppression (CLS) filter.
  • CLS City Light Suppression
  • image data including a face may be managed separately from other image data. Even if scene identification information is not used as the first feature or the second feature, image data including a face may be managed as one group or class. That is, priority may be given to image data including a face.
  • step S210 the filter detector 320 of the learning module 300 may select a group.
  • the filter detector 320 may select one group from among the first to third groups.
  • the filter detector 320 may select a class. For example, the filter detector 320 may select one of classes belonging to the selected group. In step S230, the filter detector 320 may perform one filter among various filters in the filter pool. In step S240, the filter detector 320 may perform filtering by applying the selected filter to the degraded image data DID of the selected class of the selected group.
  • the filter detector 320 may calculate an error. For example, the filter detector 320 may calculate a difference between the image data ID associated with the degraded image data DID and the filtered image data as an error. For example, the filter detector 320 may calculate an error based on Structural Similarity Image Metric (SSIM). The filter detector 320 may calculate an average error between a plurality of degraded image data belonging to the same class and a plurality of image data corresponding to the plurality of degraded image data.
  • SSIM Structural Similarity Image Metric
  • the filter detector 320 may determine whether the selected filter is the last filter in the filter pool. For example, the filter detector 320 may determine whether steps S230 to S250 have been performed for all filters in the filter pool. If steps S230 to S250 have not been performed for all filters in the filter pool, the filter detector 320 may select a filter that has not yet been selected in step S230, and then perform steps S240 and S250.
  • the filter detector 320 may perform step S270.
  • the filter detector 320 may select a filter having the smallest average error among filters of the selected class having an average error smaller than the reference error as a filter of the selected class.
  • the reference error may be a target error when performing deblurring using filters.
  • the reference error can act as a threshold at which the filter can be used instead of the deep learning-based deblurring module.
  • the reference error may be determined based on target performance, may be arbitrarily determined, or may be determined based on performance (eg, error) of the deep learning-based deblurring module.
  • the reference error may be determined as a real multiple of an error of the deep learning-based deblurring module.
  • the filter detector 320 may determine whether the selected class is the last class of the selected group. For example, the filter detector 320 may determine whether steps S220 to S270 have been performed for all classes of the selected group. If steps S220 to S270 have not been performed for all classes of the selected group, the filter detector 320 selects a class that has not yet been selected from among the classes of the group selected in step S220, and steps S230 and S270. can be performed. If steps S220 to S270 are performed for all classes of the selected group, the filter detector 320 may perform step S290.
  • the filter detector 320 may determine whether the selected group is the last group. For example, the filter detector 320 may determine whether steps S220 to S280 have been performed for all groups. If steps S220 to S280 have not been performed for all groups, the filter detector 320 may select a group not yet selected in step S210 and then perform steps S220 and S280. If steps S210 to S280 are performed for all groups, the learning module 300 may end filter detection.
  • the learning module 300 sequentially applies the filters of the filter pool to the degraded image data (DID) belonging to each class, and the error (eg, average error) is the smallest and the error is the lowest.
  • the error eg, average error
  • a filter smaller than the standard error can be selected as a filter of the corresponding class.
  • a deblurring filter may be adaptively selected according to the characteristics (eg, first characteristics and second characteristics) of the degraded image data DID, and the deblurring effect is increased.
  • step S310 the processor 210 may select the deteriorated image data DID.
  • step S320 the processor 210 may perform deep learning-based deblurring.
  • step S330 the processor 210 may perform an error check. For example, the processor 210 may calculate a difference between the deblurred image data corresponding to the degraded image data DID and the image data ID as an error. Error checking may be performed based on SSIM.
  • step S340 the processor 210 may determine whether the selected image data is the last image data. For example, the processor 210 may determine whether steps S310 to S330 have been performed on all the deteriorated image data DID. If steps S310 to S330 have not been performed for all the degraded image data DID, the processor 210 may select image data not yet selected in step S310 and perform steps S320 and S330. there is.
  • the processor 210 may calculate the average error as the reference error in step S350. For example, the processor 210 may calculate an average error of all degraded image data DID as a reference error. The processor 210 may calculate average errors for each group of the degraded image data DID as reference errors for each group. The processor 210 may calculate average errors for each class of the degraded image data DID as reference errors for each class. The calculated criterion error(s) may be used as a criterion for selecting filters in FIG. 8 .
  • step S410 the filter detector 320 of the learning module 300 may receive image data ID, degraded image data DID, and class information CI.
  • the filter detector 320 may search for a filter having the smallest error for each class using the module learned based on deep learning. For example, the filter detector 320 may search for a filter that most closely corrects the degraded image data DID to the image data ID for each class. The filter detector 320 may search for a filter having an error close to the reference error for each class. In step S430 , the filter detector 320 may associate class information (CI) and filter information (FI) and store them in the filter search table 330 .
  • CI class information
  • FI filter information
  • the filter detector 320 may select a filter for each class by using a module learned based on deep learning to search for a filter.
  • the filter information FI may include a type of filter and a value of a filtering coefficient applied to the filter.
  • FIG. 11 shows an example of 3D modeling of a filter reconstructing the point spread function of FIG. 3E.
  • the point spread function may protrude in a first direction D1 and a second direction D2 perpendicular to the first direction.
  • the kernel size of the filter may be increased in the first direction D1 and the second direction D2.
  • filter kernels may have values V in the entire region corresponding to image data. If the kernel size of the filter increases, the computation time of the filtering may increase.
  • FIG. 12 shows an example of three-dimensional modeling of a filter having a reduced size.
  • the kernel of the filter of FIG. 11 has valid values in the entire region.
  • values V of the kernel excluding the portion indicated by the box BX may be '0'. Accordingly, the calculation time of filtering can be reduced, and real-time filtering can be made possible.
  • step S510 the filter detector 320 of the learning module 300 may select a group.
  • the filter detector 320 may select one group from among the first to third groups.
  • the filter detector 320 may select a class. For example, the filter detector 320 may select one of classes belonging to the selected group.
  • the filter detector 320 may reduce the size of the filter of the selected class. For example, the filter detector 320 may change some of kernel values of a filter of a selected class to '0'. For example, the filter detector 320 may change values of a part corresponding to an outermost position among valid values of the kernel to '0'. Alternatively, the filter detector 320 may divide the regions into concentric circles having different widths from the center of the kernel. The filter detector 320 may change kernel values of the outermost region to '0'.
  • the filter detector 320 may perform filtering by applying a filter having a changed size to the degraded image data DID of the selected class of the selected group.
  • the filter detector 320 may calculate an error. For example, the filter detector 320 may calculate a difference between the image data ID associated with the degraded image data DID and the filtered image data as an error. For example, the filter detector 320 may calculate an error based on Structural Similarity Image Metric (SSIM).
  • SSIM Structural Similarity Image Metric
  • the filter detector 320 may determine whether the average error is greater than or equal to a threshold value. Alternatively, the filter detector 320 may determine whether the difference between the average error and the reference error is greater than or equal to a threshold value. If the average error is not greater than the reference error or if the average error is not greater than the reference error by a second threshold value or more, the filter detector 320 may further reduce the size of the filter in step S530. For example, the filter detector may change the values of the outermost region having valid values in the kernel to '0'. Thereafter, the filter detector S520 may perform steps S550 and S560 again.
  • step S560 if the average error is greater than or equal to the reference error, or if the average error is greater than the reference error by a second threshold or greater, in step S570, the filter detector 320 may select the previous size as the size of the filter.
  • the second threshold value may correspond to the quality of image data that may be sacrificed for speeding up and simplifying deblurring.
  • the second threshold value is a specification of the electronic device 100, for example, the performance and physical characteristics of the camera module 130, the performance of the processor 110, the performance of the memory 120, or the display module 140. can be determined based on the performance of
  • the filter detector 320 may determine whether the selected class is the last class of the selected group. For example, the filter detector 320 may determine whether steps S520 to S570 have been performed for all classes of the selected group. If steps S520 to S570 have not been performed for all classes of the selected group, the filter detector 320 selects a class that has not yet been selected from among the classes of the group selected in step S520, and steps S530 and S570. can be performed. If steps S520 to S570 are performed for all classes of the selected group, the filter detector 320 may perform step S590.
  • the filter detector 320 may determine whether the selected group is the last group. For example, the filter detector 320 may determine whether steps S510 to S580 have been performed for all groups. If steps S510 to S580 have not been performed for all groups, the filter detector 320 may select a group not yet selected in step S510 and perform steps S520 and S580. If steps S510 to S580 are performed for all groups, the learning module 300 may end filter detection.
  • the learning module 300 may be considered to reduce the size of the kernel of the filter stepwise in a range where the increase in average error is less than the second threshold.
  • a filter with an acceptable range of error and a reduced filtering operation time can be selected.
  • the method of reducing the size of the filter shown in FIG. 13 can be applied both when a filter is selected through iterative filtering in FIG. 9 and when a filter is selected using a module based on deep learning in FIG. 10 .
  • the electronic device 401 shows an example of an extended implementation of the electronic device 100 of FIG. 1 .
  • the electronic device 401 may receive a result of filter learning performed by the electronic device 200 of FIG. 4 .
  • the electronic device 401 may receive classes of image data and information on filters respectively corresponding to the classes from the electronic device 200 of FIG. 4 .
  • the electronic device 401 may perform deblurring based on the received information. For example, the electronic device 401 generates image data using the camera module 480, identifies a class of the image data, selects a filter using the received information, and uses the selected filter to generate the image data. Deblurring can be performed on data.
  • an electronic device 401 communicates with an electronic device 402 through a first network 498 (eg, a short-range wireless communication network) or through a second network 499. It may communicate with at least one of the electronic device 404 or the server 408 through (eg, a long-distance wireless communication network). According to an embodiment, the electronic device 401 may communicate with the electronic device 404 through the server 408 .
  • a first network 498 eg, a short-range wireless communication network
  • the server 408 e.g, a long-distance wireless communication network
  • the electronic device 401 includes a processor 420, a memory 430, an input module 450, a sound output module 455, a display module 460, an audio module 470, a sensor module ( 476), interface 477, connection terminal 478, haptic module 479, camera module 480, power management module 488, battery 489, communication module 490, subscriber identification module 496 , or an antenna module 497.
  • at least one of these components eg, the connection terminal 478) may be omitted or one or more other components may be added.
  • some of these components eg, sensor module 476, camera module 480, or antenna module 497) are integrated into a single component (eg, display module 460). It can be.
  • the processor 420 for example, executes software (eg, the program 440) to cause at least one other component (eg, hardware or software component) of the electronic device 401 connected to the processor 420. It can control and perform various data processing or calculations. According to one embodiment, as at least part of data processing or operation, the processor 420 transfers instructions or data received from other components (eg, sensor module 476 or communication module 490) to volatile memory 432. , process the command or data stored in the volatile memory 432, and store the resulting data in the non-volatile memory 434.
  • software eg, the program 440
  • the processor 420 transfers instructions or data received from other components (eg, sensor module 476 or communication module 490) to volatile memory 432. , process the command or data stored in the volatile memory 432, and store the resulting data in the non-volatile memory 434.
  • the processor 420 may include a main processor 421 (eg, a central processing unit or an application processor) or a secondary processor 423 (eg, a graphic processing unit, a neural network processing unit ( NPU: neural processing unit (NPU), image signal processor, sensor hub processor, or communication processor).
  • a main processor 421 e.g, a central processing unit or an application processor
  • a secondary processor 423 e.g, a graphic processing unit, a neural network processing unit ( NPU: neural processing unit (NPU), image signal processor, sensor hub processor, or communication processor.
  • NPU neural network processing unit
  • NPU neural processing unit
  • image signal processor sensor hub processor
  • communication processor e.g., a communication processor.
  • the auxiliary processor 423 may use less power than the main processor 421 or be set to be specialized for a designated function.
  • the secondary processor 423 may be implemented separately from or as part of the main processor 421 .
  • the secondary processor 423 may, for example, take place of the main processor 421 while the main processor 421 is in an inactive (eg, sleep) state, or when the main processor 421 is active (eg, running an application). ) state, together with the main processor 421, at least one of the components of the electronic device 401 (eg, the display module 460, the sensor module 476, or the communication module 490) It is possible to control at least some of the related functions or states.
  • the auxiliary processor 423 eg, an image signal processor or a communication processor
  • the auxiliary processor 423 may include a hardware structure specialized for processing an artificial intelligence model.
  • AI models can be created through machine learning. Such learning may be performed, for example, in the electronic device 401 itself where the artificial intelligence model is performed, or may be performed through a separate server (eg, the server 408).
  • the learning algorithm may include, for example, supervised learning, unsupervised learning, semi-supervised learning or reinforcement learning, but in the above example Not limited.
  • the artificial intelligence model may include a plurality of artificial neural network layers.
  • Artificial neural networks include deep neural networks (DNNs), convolutional neural networks (CNNs), recurrent neural networks (RNNs), restricted boltzmann machines (RBMs), deep belief networks (DBNs), bidirectional recurrent deep neural networks (BRDNNs), It may be one of deep Q-networks or a combination of two or more of the foregoing, but is not limited to the foregoing examples.
  • the artificial intelligence model may include, in addition or alternatively, software structures in addition to hardware structures.
  • the processor 420 may correspond to the processor 110 of the electronic device 100 of FIG. 1 .
  • the main processor 421 and the auxiliary processor 423 may respectively correspond to the main processor 111 and the auxiliary processor 113 of FIG. 1 .
  • the memory 430 may store various data used by at least one component (eg, the processor 420 or the sensor module 476) of the electronic device 401 .
  • the data may include, for example, input data or output data for software (eg, the program 440) and commands related thereto.
  • the memory 430 may include volatile memory 432 or non-volatile memory 434 .
  • the memory 430 may correspond to the memory 120 of the electronic device 100 of FIG. 1 .
  • the volatile memory 432 and the nonvolatile memory 434 may respectively correspond to the volatile memory 122 and the nonvolatile memory 124 of FIG. 1 .
  • the program 440 may be stored as software in the memory 430 and may include, for example, an operating system 442 , middleware 444 , or an application 446 .
  • the input module 450 may receive a command or data to be used by a component (eg, the processor 420) of the electronic device 401 from an outside of the electronic device 401 (eg, a user).
  • the input module 450 may include, for example, a microphone, a mouse, a keyboard, a key (eg, a button), or a digital pen (eg, a stylus pen).
  • the sound output module 455 may output sound signals to the outside of the electronic device 401 .
  • the sound output module 455 may include, for example, a speaker or receiver.
  • the speaker can be used for general purposes such as multimedia playback or recording playback.
  • a receiver may be used to receive an incoming call. According to one embodiment, the receiver may be implemented separately from the speaker or as part of it.
  • the display module 460 can visually provide information to the outside of the electronic device 401 (eg, a user).
  • the display module 460 may include, for example, a display, a hologram device, or a projector and a control circuit for controlling the device.
  • the display module 460 may include a touch sensor configured to detect a touch or a pressure sensor configured to measure the intensity of force generated by the touch.
  • the display module 460 may correspond to the display module 140 of the electronic device 100 of FIG. 1 .
  • the audio module 470 may convert sound into an electrical signal or vice versa. According to an embodiment, the audio module 470 acquires sound through the input module 450, the sound output module 455, or an external electronic device connected directly or wirelessly to the electronic device 401 (eg: Sound may be output through the electronic device 402 (eg, a speaker or a headphone).
  • the audio module 470 acquires sound through the input module 450, the sound output module 455, or an external electronic device connected directly or wirelessly to the electronic device 401 (eg: Sound may be output through the electronic device 402 (eg, a speaker or a headphone).
  • the sensor module 476 detects an operating state (eg, power or temperature) of the electronic device 401 or an external environmental state (eg, a user state), and generates an electrical signal or data value corresponding to the detected state. can do.
  • the sensor module 476 may include, for example, a gesture sensor, a gyro sensor, an air pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR (infrared) sensor, a bio sensor, It may include a temperature sensor, humidity sensor, or light sensor.
  • the interface 477 may support one or more specified protocols that may be used to directly or wirelessly connect the electronic device 401 to an external electronic device (eg, the electronic device 402).
  • the interface 477 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • HDMI high definition multimedia interface
  • USB universal serial bus
  • SD card interface Secure Digital Card
  • connection terminal 478 may include a connector through which the electronic device 401 may be physically connected to an external electronic device (eg, the electronic device 402).
  • the connection terminal 478 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).
  • the haptic module 479 may convert electrical signals into mechanical stimuli (eg, vibration or movement) or electrical stimuli that a user can perceive through tactile or kinesthetic senses.
  • the haptic module 479 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
  • the camera module 480 may capture still images and moving images.
  • the camera module 480 may include one or more lenses, image sensors, image signal processors, or flashes.
  • the camera module 480 may correspond to the camera module 130 of the electronic device 100 of FIG. 1 .
  • the power management module 488 may manage power supplied to the electronic device 401 .
  • the power management module 488 may be implemented as at least part of a power management integrated circuit (PMIC), for example.
  • PMIC power management integrated circuit
  • the battery 489 may supply power to at least one component of the electronic device 401 .
  • the battery 489 may include, for example, a non-rechargeable primary battery, a rechargeable secondary battery, or a fuel cell.
  • the communication module 490 is a direct (eg, wired) communication channel or a wireless communication channel between the electronic device 401 and an external electronic device (eg, the electronic device 402, the electronic device 404, or the server 408). Establishment and communication through the established communication channel may be supported.
  • the communication module 490 may include one or more communication processors that operate independently of the processor 420 (eg, an application processor) and support direct (eg, wired) communication or wireless communication.
  • the communication module 490 is a wireless communication module 492 (eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 494 (eg, : a local area network (LAN) communication module or a power line communication module).
  • the corresponding communication module is a first network 498 (eg, a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)) or a second network 499 (eg, a legacy communication module).
  • the wireless communication module 492 uses subscriber information (eg, International Mobile Subscriber Identifier (IMSI)) stored in the subscriber identification module 496 within a communication network such as the first network 498 or the second network 499.
  • IMSI International Mobile Subscriber Identifier
  • the wireless communication module 492 may support a 5G network after a 4G network and a next-generation communication technology, for example, NR access technology (new radio access technology).
  • NR access technologies include high-speed transmission of high-capacity data (enhanced mobile broadband (eMBB)), minimization of terminal power and access of multiple terminals (massive machine type communications (mMTC)), or high reliability and low latency (ultra-reliable and low latency (URLLC)). -latency communications)) can be supported.
  • the wireless communication module 492 may support a high frequency band (eg, mmWave band) to achieve a high data rate, for example.
  • a high frequency band eg, mmWave band
  • the wireless communication module 492 uses various technologies for securing performance in a high frequency band, such as beamforming, massive multiple-input and multiple-output (MIMO), and full-dimensional multiplexing. Technologies such as input/output (FD-MIMO: full dimensional MIMO), array antenna, analog beam-forming, or large scale antenna may be supported.
  • the wireless communication module 492 may support various requirements defined for the electronic device 401, an external electronic device (eg, the electronic device 404), or a network system (eg, the second network 499).
  • the wireless communication module 492 may be used to realize peak data rate (eg, 20 Gbps or more) for realizing eMBB, loss coverage (eg, 164 dB or less) for realizing mMTC, or U-plane latency (for realizing URLLC).
  • peak data rate eg, 20 Gbps or more
  • loss coverage eg, 164 dB or less
  • U-plane latency for realizing URLLC.
  • DL downlink
  • UL uplink each of 0.5 ms or less, or round trip 1 ms or less
  • the antenna module 497 may transmit or receive signals or power to the outside (eg, an external electronic device).
  • the antenna module 497 may include an antenna including a radiator formed of a conductor or a conductive pattern formed on a substrate (eg, PCB).
  • the antenna module 497 may include a plurality of antennas (eg, an array antenna). In this case, at least one antenna suitable for a communication method used in a communication network such as the first network 498 or the second network 499 is selected from the plurality of antennas by, for example, the communication module 490. can be chosen A signal or power may be transmitted or received between the communication module 490 and an external electronic device through the selected at least one antenna.
  • other components eg, a radio frequency integrated circuit (RFIC) may be additionally formed as a part of the antenna module 497 in addition to the radiator.
  • RFIC radio frequency integrated circuit
  • the antenna module 497 may form a mmWave antenna module.
  • the mmWave antenna module includes a printed circuit board, an RFIC disposed on or adjacent to a first surface (eg, a lower surface) of the printed circuit board and capable of supporting a designated high frequency band (eg, mmWave band); and a plurality of antennas (eg, array antennas) disposed on or adjacent to a second surface (eg, a top surface or a side surface) of the printed circuit board and capable of transmitting or receiving signals of the designated high frequency band.
  • a first surface eg, a lower surface
  • a designated high frequency band eg, mmWave band
  • a plurality of antennas eg, array antennas
  • peripheral devices eg, a bus, general purpose input and output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI)
  • signal e.g. commands or data
  • commands or data may be transmitted or received between the electronic device 401 and the external electronic device 404 through the server 408 connected to the second network 499 .
  • Each of the external electronic devices 402 or 304 may be the same as or different from the electronic device 401 .
  • all or part of operations executed in the electronic device 401 may be executed in one or more external electronic devices among the external electronic devices 402 , 304 , or 308 .
  • the electronic device 401 when the electronic device 401 needs to perform a certain function or service automatically or in response to a request from a user or other device, the electronic device 401 instead of executing the function or service by itself.
  • one or more external electronic devices may be requested to perform the function or at least part of the service.
  • One or more external electronic devices receiving the request may execute at least a part of the requested function or service or an additional function or service related to the request, and deliver the execution result to the electronic device 401 .
  • the electronic device 401 may provide the result as at least part of a response to the request as it is or additionally processed.
  • cloud computing distributed computing, mobile edge computing (MEC), or client-server computing technology may be used.
  • the electronic device 401 may provide an ultra-low latency service using, for example, distributed computing or mobile edge computing.
  • the external electronic device 404 may include an internet of things (IoT) device.
  • Server 408 may be an intelligent server using machine learning and/or neural networks.
  • the external electronic device 404 or server 408 may be included in the second network 499 .
  • the electronic device 401 may be applied to intelligent services (eg, smart home, smart city, smart car, or health care) based on 5G communication technology and IoT-related technology.
  • step S610 the camera module 480 may capture an image and generate image data, meta data, and capture data.
  • the image data is the point spread function described with reference to FIG. 2E.
  • image data may be affected by the point spread function described with reference to FIG. 3E.
  • Image data, meta data, or photographing data may be stored in the memory 430 through the processor 420 .
  • the processor 420 may read image data, meta data, or photographing data from the memory 430.
  • the processor 420 may select a filter of image data based on metadata and photographing data. For example, the processor 420 may select different filters according to the type of content of image data.
  • the processor 420 may perform filtering on image data using the selected filter.
  • the selected filter can remove (or suppress) the point spread function from the image data.
  • Filtered image data may be stored in memory 430 .
  • the display module 460 may receive the filtered image data from the memory 430 and display the filtered image data.
  • FIG. 16 shows an example of a filter-based deblurring module 500 executed by the processor 420 of FIG. 14 .
  • the filter-based deblurring module 500 may include a class detector 510, a filter search table 520, and a deblur module 530.
  • the class detector 510 may receive image data (ID), meta data (MD), and photographing data (CD). The class detector 510 may identify a class of the image data (ID) based on image data (ID), meta data (MD), or photographic data (CD). The class detector 510 may output information of the identified class as class information (CI).
  • ID image data
  • MD meta data
  • CD photographic data
  • CI class information
  • the class detector 510 may operate the same as the class detector 310 of FIG. 5 and may be configured the same.
  • the class detector 510 may identify the class of the image data ID in real time.
  • the class detector 510 may identify a class based on values of information of the metadata (MD) or photographing data (CD) or by using a module learned based on deep learning.
  • the class detector 510 may fail to classify some of the image data ID. If class identification fails, the class detector 510 may output information indicating that class identification has failed or that there is no class as class information CI.
  • the filter search table 520 may correspond to the filter search table 330 of FIG. 5 .
  • the filter search table 520 may associate and store filter information (FI) and class information (CI) generated based on the learning result of the learning module 300 .
  • class information (CI) is delivered from the class detector 510
  • the filter search table 520 may output filter information (FI) corresponding to the class information (CI).
  • the filter information FI may include filter types and value(s) of filtering coefficient(s).
  • the filter search table 520 may output information of a default filter as filter information FI.
  • a basic filter may be one of filters corresponding to classes.
  • the basic filter may be a filter having a different type or filtering coefficient than filters corresponding to the classes.
  • the deblur module 530 may implement a filter based on filter information (FI).
  • the deblur module 530 may include different filter modules.
  • the deblur module 530 may select one of the filter modules based on the filter information FI and set filtering coefficients.
  • the deblur module 530 may filter the image data ID based on the set filter.
  • the electronic device 401 may identify the class from the image data ID in real time and implement a filter in real time according to the class. By performing filtering using a filter implemented in real time, blurring by a point spread function can be removed in real time.
  • the camera module 480 includes a lens assembly 610, a flash 620, an image sensor 630, an image stabilizer 640, a memory 650 (eg, a buffer memory), or an image signal processor. (660).
  • the lens assembly 610 may collect light emitted from a subject that is an image capturing target.
  • Lens assembly 610 may include one or more lenses.
  • the camera module 480 may include a plurality of lens assemblies 610 . In this case, the camera module 480 may form, for example, a dual camera, a 360-degree camera, or a spherical camera.
  • Some of the plurality of lens assemblies 610 may have the same lens properties (eg, angle of view, focal length, auto focus, f number, or optical zoom), or at least one lens assembly may have the same lens properties as another lens assembly. may have one or more lens properties different from the lens properties of .
  • the lens assembly 610 may include, for example, a wide-angle lens or a telephoto lens.
  • the flash 620 may emit light used to enhance light emitted or reflected from a subject.
  • the flash 620 may include one or more light emitting diodes (eg, a red-green-blue (RGB) LED, a white LED, an infrared LED, or an ultraviolet LED), or a xenon lamp.
  • the image sensor 630 may acquire an image corresponding to the subject by converting light emitted or reflected from the subject and transmitted through the lens assembly 610 into an electrical signal.
  • the image sensor 630 is, for example, an image sensor selected from among image sensors having different properties, such as an RGB sensor, a black and white (BW) sensor, an IR sensor, or a UV sensor, It may include a plurality of image sensors having a property, or a plurality of image sensors having other properties.
  • Each image sensor included in the image sensor 630 may be implemented using, for example, a charged coupled device (CCD) sensor or a complementary metal oxide semiconductor (CMOS) sensor.
  • CCD charged coupled device
  • CMOS complementary metal oxide semiconductor
  • the image stabilizer 640 moves at least one lens or image sensor 630 included in the lens assembly 610 in a specific direction in response to movement of the camera module 480 or the electronic device 401 including the same. Operation characteristics of the image sensor 630 may be controlled (eg, read-out timing is adjusted, etc.). This makes it possible to compensate at least part of the negative effect of the movement on the image being taken.
  • the image stabilizer 640 may include a gyro sensor (not shown) or an acceleration sensor (not shown) disposed inside or outside the camera module 480. Such a movement of the camera module 480 or the electronic device 401 may be detected using .
  • the image stabilizer 640 may be implemented as, for example, an optical image stabilizer.
  • the memory 650 may at least temporarily store at least a portion of an image acquired through the image sensor 630 for a next image processing task. For example, when image acquisition is delayed according to the shutter, or when a plurality of images are acquired at high speed, the acquired original image (eg, a Bayer-patterned image or a high-resolution image) is stored in the memory 650 and , a copy image (eg, a low resolution image) corresponding thereto may be previewed through the display module 460 . Thereafter, when a specified condition is satisfied (eg, a user input or a system command), at least a part of the original image stored in the memory 650 may be acquired and processed by, for example, the image signal processor 660 . According to an embodiment, the memory 650 may be configured as at least a part of the memory 430 or as a separate memory operated independently of the memory 430 .
  • the image signal processor 660 may perform one or more image processes on an image acquired through the image sensor 630 or an image stored in the memory 650 .
  • the one or more image processes for example, depth map generation, 3D modeling, panorama generation, feature point extraction, image synthesis, or image compensation (eg, noise reduction, resolution adjustment, brightness adjustment, blurring ( blurring, sharpening, or softening.
  • the image signal processor 660 may include at least one of the components included in the camera module 480 (eg, an image sensor). 630) may be controlled (eg, exposure time control, read-out timing control, etc.)
  • the image processed by the image signal processor 660 is stored again in the memory 650 for further processing.
  • the image signal processor 660 may be configured as at least a part of the processor 420 or may be configured as a separate processor that operates independently of the processor 420.
  • the image signal processor 660 may be configured as a processor 420 When configured as a separate processor, at least one image processed by the image signal processor 660 may be displayed through the display module 460 as it is or after additional image processing by the processor 420 .
  • the electronic device 401 may include a plurality of camera modules 480 each having different properties or functions.
  • at least one of the plurality of camera modules 480 may be a wide-angle camera and at least one other may be a telephoto camera.
  • at least one of the plurality of camera modules 480 is a front camera (see 131 in FIGS. 2A, 2B, 2C, 3A, 3B, and 3C), and at least one is a rear camera (see FIGS. 2a, 2b, 2c, 3a, 3b and 132 of FIG. 3c).
  • An electronic device may be various types of devices.
  • the electronic device may include, for example, a portable communication device (eg, a smart phone), a computer device, a portable multimedia device, a portable medical device, a camera, a wearable device, or a home appliance.
  • a portable communication device e.g, a smart phone
  • a computer device e.g., a smart phone
  • a portable multimedia device e.g., a portable medical device
  • a camera e.g., a camera
  • a wearable device e.g., a smart bracelet
  • first, second, or first or secondary may simply be used to distinguish that component from other corresponding components, and may refer to that component in other respects (eg, importance or order) is not limited.
  • a (eg, first) component is said to be “coupled” or “connected” to another (eg, second) component, with or without the terms “functionally” or “communicatively.”
  • the certain component may be connected to the other component directly (eg by wire), wirelessly, or through a third component.
  • module used in various embodiments of the present disclosure may include a unit implemented in hardware, software, or firmware, and is interchangeably with terms such as, for example, logic, logical blocks, parts, or circuits.
  • a module may be an integrally constructed component or a minimal unit of components or a portion thereof that performs one or more functions.
  • a module may be implemented in the form of an integrated circuit (IC), an application-specific integrated circuit (ASIC), a field programmable gate array (FPGA), a complex programmable logic device (CPLD), and the like. .
  • IC integrated circuit
  • ASIC application-specific integrated circuit
  • FPGA field programmable gate array
  • CPLD complex programmable logic device
  • a storage medium eg, the internal memory 436 or the external memory 438, readable by a machine (eg, the electronic device 401). It may be implemented as software (eg, the program 440) including them.
  • a processor eg, the processor 420 of a device (eg, the electronic device 401) may call at least one command among one or more instructions stored from a storage medium and execute it. This enables the device to be operated to perform at least one function according to the at least one command invoked.
  • the one or more instructions may include code generated by a compiler or code executable by an interpreter.
  • the device-readable storage medium may be provided in the form of a non-transitory storage medium.
  • the storage medium is a tangible device and does not contain a signal (e.g. electromagnetic wave), and this term refers to the case where data is stored semi-permanently in the storage medium. It does not discriminate when it is temporarily stored.
  • a signal e.g. electromagnetic wave
  • the method according to various embodiments of the present disclosure may be included and provided in a computer program product.
  • Computer program products may be traded between sellers and buyers as commodities.
  • a computer program product is distributed in the form of a device-readable storage medium (e.g. compact disc read only memory (CD-ROM)), or through an application store (e.g. Play Store TM ) or on two user devices (e.g. It can be distributed (eg downloaded or uploaded) online, directly between smart phones.
  • a device e.g. compact disc read only memory (CD-ROM)
  • an application store e.g. Play Store TM
  • It can be distributed (eg downloaded or uploaded) online, directly between smart phones.
  • at least part of the computer program product may be temporarily stored or temporarily created in a storage medium readable by a device such as a manufacturer's server, an application store server, or a relay server's memory.
  • each component (eg, module or program) of the components described above may include a single object or a plurality of objects, and some of the multiple objects may be separately disposed in other components.
  • one or more components or operations among the aforementioned components may be omitted, or one or more other components or operations may be added.
  • a plurality of components eg modules or programs
  • the integrated component may perform one or more functions of each of the plurality of components identically or similarly to those performed by a corresponding component of the plurality of components prior to the integration. .
  • operations performed by modules, programs, or other components are executed sequentially, in parallel, iteratively, or heuristically, or one or more of the operations are executed in a different order, omitted, or , or one or more other operations may be added.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Image Processing (AREA)

Abstract

본 개시의 실시 예에 따른 전자 장치는 이미지 데이터를 생성하는 카메라 모듈, 이미지 데이터를 수신하고, 그리고 이미지 데이터에 기반하여 복원된 이미지 데이터를 생성하는 프로세서, 그리고 복원된 이미지 데이터를 표시하는 디스플레이 모듈을 포함한다. 프로세서는 이미지 데이터의 클래스를 식별하고, 클래스에 대응하는 필터를 선택하고, 그리고 선택된 필터를 이미지 데이터에 적용하여 복원된 이미지 데이터를 생성한다.

Description

이미지 데이터의 디블러링을 지원하는 전자 장치 및 방법
본 개시는 전자 장치에 관한 것으로, 더 상세하게는 이미지 데이터의 디블러링을 지원하는 전자 장치 및 방법에 관한 것이다.
전자 장치들은 카메라 모듈을 이용하여 이미지 데이터를 획득할 수 있다. 카메라 모듈에 의해 획득된 이미지 데이터는 다양한 이유들로 인한 블러링(blurring)을 포함할 수 있다. 블러링은 이미지 데이터의 품질을 떨어뜨리고, 때때로 이미지 데이터를 사용 불가능하게 할 수 있다. 블러링의 이유들 중 일부는 이미지 데이터를 촬영할 때의 조건들을 포함할 수 있다. 예를 들어, 명확하지 않은 초점, 촬영 대상의 갑작스러운 움직임, 보정 범위를 벗어난 손떨림 등은 이미지 데이터에서 블러링을 유발할 수 있다. 이미지 데이터를 촬영할 때의 조건들로 인해 발생하는 블러링은 이미지 데이터를 재촬영 함으로써 극복될 수 있다. 블러링의 이유들 중 다른 일부는 전자 장치 또는 카메라 모듈의 물리적 특성으로 인해 발생할 수 있다. 전자 장치 또는 카메라 모듈의 물리적 특성으로 인한 블러링은 이미지 데이터를 촬영할 때마다 상시적으로 발생할 수 있다. 전자 장치 또는 카메라 모듈의 물리적 특성으로 인한 블러링은 이미지 데이터의 재촬영을 통해서도 극복될 수 없다.
본 개시의 목적은 전자 장치 또는 카메라 모듈의 물리적 특성으로 인해 발생하는 블러링을 빠른 속도로 디블러링 하는 것을 지원하는 전자 장치 및 방법을 제공하는 데에 있다.
본 개시의 실시 예에 따른 전자 장치는 이미지 데이터를 생성하는 카메라 모듈; 상기 이미지 데이터를 수신하고, 그리고 상기 이미지 데이터에 기반하여 복원된 이미지 데이터를 생성하는 프로세서; 그리고 상기 복원된 이미지 데이터를 표시하는 디스플레이 모듈을 포함한다. 상기 프로세서는 상기 이미지 데이터의 클래스를 식별하고, 상기 클래스에 대응하는 필터를 선택하고, 그리고 상기 선택된 필터를 상기 이미지 데이터에 적용하여 상기 복원된 이미지 데이터를 생성한다.
본 개시의 실시 예에 따른 전자 장치는 이미지 데이터 및 열화된 이미지 데이터를 저장하는 스토리지 장치; 상기 이미지 데이터 및 상기 열화된 이미지 데이터를 수신하고, 상기 열화된 이미지 데이터에서 클래스들을 식별하고, 그리고 상기 열화된 이미지 데이터를 상기 이미지 데이터로 복원하는 상기 클래스들에 각각 대응하는 필터들을 선택하는 프로세서; 그리고 상기 클래스들 및 상기 선택된 필터들 사이의 연관 정보를 포함하는 검색표를 저장하는 메모리를 포함한다.
본 개시의 실시 예에 따른 이미지 데이터를 디블러링 하는 방법은, 원본 이미지 데이터 및 제1 열화된 이미지 데이터를 수신하는 단계; 상기 제1 열화된 이미지 데이터에서 클래스들을 식별하는 단계; 상기 제1 열화된 이미지 데이터를 상기 원본 이미지 데이터에 근접하게 복원하는, 상기 클래스들에 각각 대응하는 필터들을 탐색하는 단계; 제2 열화된 이미지 데이터를 수신하는 단계; 상기 제2 열화된 이미지 데이터에서 상기 클래스들을 식별하는 단계; 그리고 상기 클래스들에 각각 대응하는 상기 필터들을 상기 제2 열화된 이미지 데이터에 적용하여 복원된 이미지 데이터를 생성하는 단계를 포함한다.
본 개시에 따르면, 이미지 데이터의 클래스가 실시간으로 식별되고, 그리고 클래스에 대응하는 필터를 이용하여 디블러링이 수행된다. 따라서, 물리적 특성으로 인한 블러링을 실시간으로 디블러링하는 전자 장치 및 방법이 제공된다.
도 1은 본 개시의 제1 실시 예에 따른 전자 장치를 보여준다.
도 2a, 도 2b, 도 2c, 도 2d 및 도 2e는 본 개시의 전자 장치가 제1 실시 예에 따라 스마트 폰으로 구현된 예들을 보여준다.
도 3a, 도 3b, 도 3c, 도 3d 및 도 3e는 본 개시의 전자 장치가 제2 실시 예에 따라 스마트 폰으로 구현된 예들을 보여준다.
도 4는 본 개시의 실시 예에 따른 필터 학습을 수행하는 전자 장치를 보여주는 블록도이다.
도 5는 도 4의 전자 장치의 프로세서에 의해 실행되는 학습 모듈의 예를 보여준다.
도 6은 학습 모듈이 검색표를 생성하는 과정의 예를 보여준다.
도 7은 도 6의 방법에 따라 열화된 이미지 데이터의 클래스가 식별되고 그리고 필터가 선택된 예를 보여준다.
도 8은 학습 모듈이 필터들을 반복 적용함으로써 클래스별 필터를 선택하는 과정의 예를 보여준다.
도 9는 심층 학습 기반의 디블러링 모듈로 기준 에러를 계산하는 예를 보여준다.
도 10은 필터 검출기가 심층 학습에 기반하여 필터들을 선택하는 예를 보여준다.
도 11은 도 3e의 점 확산 함수를 복원하는 필터의 3차원 모델링의 예를 보여준다.
도 12는 감소된 사이즈를 갖는 필터의 3차원 모델링의 예를 보여준다.
도 13은 학습 모듈이 클래스 별 필터의 사이즈를 줄이는 과정의 예를 보여준다.
도 14는 다양한 실시 예들에 따른 네트워크 환경 내의 전자 장치의 블록도이다.
도 15는 도 14의 전자 장치가 필터를 이용하여 디블러링을 수행하는 과정의 예를 보여준다.
도 16은 프로세서에 의해 실행되는 필터 기반의 디블러링 모듈의 예를 보여준다.
도 17은 다양한 실시 예들에 따른 카메라 모듈을 예시하는 블럭도이다.
이하에서, 본 개시의 기술 분야에서 통상의 지식을 가진 자가 본 개시를 용이하게 실시할 수 있을 정도로, 본 개시의 실시 예들이 명확하고 상세하게 기재될 것이다.
도 1은 본 개시의 제1 실시 예에 따른 전자 장치(100)를 보여준다. 도 1을 참조하면, 전자 장치(100)는 프로세서(110), 메모리(120), 카메라 모듈(130), 그리고 디스플레이 모듈(140)을 포함할 수 있다. 프로세서(110)는 전자 장치(100)의 운영 체제, 미들 웨어 또는 응용들을 실행할 수 있다. 프로세서(110)는 메인 프로세서(111) 및 보조 프로세서(113)를 포함할 수 있다. 메인 프로세서(111)는 중앙 처리 장치(CPU) 또는 응용 프로세서(AP)를 포함할 수 있다.
보조 프로세서(113)는 그래픽 프로세서(GPU), 뉴럴 프로세서(NPU), 뉴로모픽 프로세서(Neuromorphic Processor), 이미지 시그널 프로세서(ISP), 디지털 시그널 프로세서(DSP), 센서 허브 프로세서, 또는 커뮤니케이션 프로세서를 포함할 수 있다. 보조 프로세서(113)는 메인 프로세서(111)의 요청에 따라, 메인 프로세서(111)의 작업들 중 일부를 대신하여 처리할 수 있다.
메모리(120)는 데이터를 저장하는데 사용될 수 있다. 메모리(120)는 휘발성 메모리(122) 및 비휘발성 메모리(124)를 포함할 수 있다. 휘발성 메모리(122)는 정적 랜덤 액세스 메모리, 동적 랜덤 액세스 메모리, 상 변화 랜덤 액세스 메모리, 강유전체 랜덤 액세스 메모리, 자기 랜덤 액세스 메모리, 또는 저항성 랜덤 액세스 메모리 등과 같은 다양한 메모리들을 포함할 수 있다. 휘발성 메모리(122)는 전자 장치(100)의 메인 메모리로 사용될 수 있다. 예를 들어, 휘발성 메모리(122)는 운영 체제, 미들 웨어, 또는 응용들에 의해 실행되는 코드들을 임시로 저장할 수 있다. 휘발성 메모리(122)는 운영 체제, 미들 웨어, 또는 응용들에 의해 생성되는 데이터를 임시로 저장할 수 있다. 비휘발성 메모리(124)는 낸드 플래시 메모리, 상 변화 메모리, 강유전체 메모리, 자기 메모리, 또는 저항성 메모리 등과 같은 다양한 비휘발성 메모리들을 포함할 수 있다. 비휘발성 메모리(124)는 전자 장치(100)의 보조 메모리로 사용될 수 있다. 예를 들어, 비휘발성 메모리는 운영 체제, 미들 웨어, 또는 응용들에 의해 실행되는 코드들의 원본들을 저장할 수 있다. 비휘발성 메모리는 운영 체제, 미들 웨어, 또는 응용들에 의해 생성되는 데이터의 원본들을 저장할 수 있다.
카메라 모듈(130)은 정지 영상 또는 동영상을 촬영할 수 있다. 카메라 모듈(130)은 적어도 하나의 렌즈를 포함하고, 그리고 적어도 하나의 렌즈를 통해 입사되는 빛들에 기반하여, 정해진 해상도에 대응하는 이미지 데이터를 생성할 수 있다. 이미지 데이터는 프로세서(110)를 통해 메모리(120)에 저장될 수 있다.
디스플레이 모듈(140)은 메모리(120)로부터 프로세서(110)를 통해 이미지 데이터를 수신할 수 있다. 디스플레이 모듈(140)은 수신된 이미지 데이터를 표시할 수 있다. 예시적으로, 디스플레이 모듈(140)은 터치 패드와 같은 입력 수단과 결합되어 구현될 수 있다.
예시적으로, 전자 장치(100)는 스마트 폰, 스마트 워치 또는 스마트 패드와 같은 모바일 장치로 구현될 수 있다. 이하에서, 전자 장치(100)가 스마트 폰으로 구현된 예들을 참조하여 본 개시의 기술적 사상이 설명되지만, 본 개시는 스마트 폰에 적용되는 것으로 한정되지 않는다.
도 2a, 도 2b, 도 2c, 도 2d 및 도 2e는 본 개시의 전자 장치(100)가 제1 실시 예에 따라 스마트 폰(100a)으로 구현된 예들을 보여준다. 도 2a는 스마트 폰(100a)의 전면부를 보여주고, 도 2b는 스마트 폰(100a)의 후면부를 보여준다. 도 2c는 스마트 폰(100a)의 분해 사시도를 보여준다. 도 2d는 도 2e의 I-I'선에 따른 단면도의 예를 보여준다. 도 2e는 스마트 폰(100a)이 이미지 데이터를 촬영할 때에 적용되는 물리적 특성의 예를 보여준다.
도 1 및 도 2a를 참조하면, 스마트 폰(100a)의 전면부에 전자 장치(100)의 디스플레이 모듈(140)에 대응하는 디스플레이 모듈(140)이 제공될 수 있다. 디스플레이 모듈(140)의 적어도 일부를 관통하여, 도 1의 전자 장치(100)의 카메라 모듈(130)의 적어도 일부에 대응하는 제1 카메라 모듈(131)이 제공될 수 있다.
도 1 및 도 2b를 참조하면, 스마트 폰(100a)의 후면부에 전자 장치(100)의 카메라 모듈(130)의 적어도 나머지 일부에 대응하는 제2 카메라 모듈(132)이 제공될 수 있다. 예를 들어, 제2 카메라 모듈(132)은 와이드 카메라, 울트라 와이드 카메라, 망원(tele) 카메라, 거리 측정 카메라, 적외선 카메라, 또는 플래시 라이트 등과 같은 다양한 구성 요소들을 포함하도록 구현될 수 있다.
도 1 및 도 2c를 참조하면, 스마트 폰(100a)의 디스플레이 모듈(140)과 후면 커버(101)의 사이에, 프로세서(110), 메모리(120), 그리고 제1 카메라 모듈(131)이 제공될 수 있다. 제2 카메라 모듈(132)은 가려질 수 있지만, 참조를 위하여 점선으로 도시된다. 제2 부분(102)의 디스플레이 모듈(140)은 홀(140h)을 가질 수 있다. 홀(140h)의 위치는 제1 카메라 모듈(131)의 렌즈의 위치에 대응할 수 있다.
도 1, 도 2c 및 도 2d를 참조하면, 디스플레이 모듈(140)은 윈도우(W) 및 하부 부재(LM)를 포함할 수 있다. 하부 부재(LM)는 반사 방지 필름, 터치 센서, 표시 패널, 기능성 부재 등을 포함할 수 있다. 예시적으로, 표시 패널의 픽셀들(PX)이 도 2d에 도시되어 있다. 홀(140h)은 하부 부재(LM)를 관통하는 빈 공간일 수 있다. 예시적으로, 홀(140h)은 제1 카메라 모듈(131)의 렌즈와 정렬될 수 있다.
도 2e는 제1 카메라 모듈(131)의 점 확산 함수(PSF)(Point Spread Function)의 예를 보여준다. 점 확산 함수는 제1 카메라 모듈(131)을 이용하여 점을 촬영할 때에, 하나의 점이 영상에서 얼마나 퍼져 있는지에 대한 정도를 표현하는 데이터를 나타낼 수 있다. 점 확산 함수는 카메라 모듈(131)의 물리적 특성에 기반할 수 있다.
예를 들어, 점 확산 함수는 홀(140h)을 채우는 물질의 종류 및 특성, 제1 카메라 모듈(131)의 렌즈의 종류 및 특성, 제1 카메라 모듈(131)의 렌즈의 구조, 또는 제1 카메라 모듈(131)의 이미지 센서의 종류 및 특성과 같은 다양한 물리적 특성들에 기반하여 정해질 수 있다.
도 2e에 도시된 바와 같이, 제1 카메라 모듈(131)을 이용하여 점을 촬영할 때에, 점을 둘러싸는 원형의 이미지 데이터가 획득될 수 있다. 점 확산 함수는 제1 카메라 모듈(131)을 이용하여 생성되는 이미지 데이터에서 블러링(blurring)을 유발할 수 있다. 점 확산 함수는 제1 카메라 모듈(131)의 물리적 특성에 기반하므로, 점 확산 함수로 인한 블러링은 이미지 데이터에서 상시적으로 발생할 수 있다.
점 확산 함수로 인한 블러링은 제1 카메라 모듈(131)뿐 아니라 제2 카메라 모듈(132)에서도 유사하게 발생할 수 있다. 즉, 제2 카메라 모듈(132)을 이용하여 생성되는 이미지 데이터에서도 블러링이 상시적으로 발생할 수 있다.
도 1 및 도 3a를 참조하면, 스마트 폰(100b)의 전면부에 전자 장치(100)의 디스플레이 모듈(140)에 대응하는 디스플레이 모듈(140)이 제공될 수 있다. 디스플레이 모듈(140)은 광 투과영역(140t)을 포함할 수 있다. 광 투과영역(140t)은 외부로부터 입사되는 빛들을 통과시킬 수 있다. 도 1 및 도 3b를 참조하면, 스마트 폰(100b)의 후면부에 전자 장치(100)의 카메라 모듈(130)의 적어도 나머지 일부에 대응하는 제2 카메라 모듈(132)이 제공될 수 있다. 예를 들어, 제2 카메라 모듈(132)은 와이드 카메라, 울트라 와이드 카메라, 망원(tele) 카메라, 거리 측정 카메라, 적외선 카메라, 또는 플래시 라이트 등과 같은 다양한 구성 요소들을 포함하도록 구현될 수 있다.
도 1 및 도 3c를 참조하면, 스마트 폰(100b)의 디스플레이 모듈(140)과 후면 커버(101)의 사이에, 프로세서(110), 메모리(120), 그리고 제1 카메라 모듈(131)이 제공될 수 있다. 제2 카메라 모듈(132)은 가려질 수 있지만, 참조를 위하여 점선으로 도시된다. 광 투과영역(140t)의 위치는 제1 카메라 모듈(131)의 렌즈의 위치에 대응할 수 있다. 예시적으로, 제1 카메라 모듈(131)은 UDC(Under Display Camera)로 구현될 수 있다.
도 1, 도 3c 및 도 3d를 참조하면, 디스플레이 모듈(140)은 윈도우(W) 및 하부 부재(LM)를 포함할 수 있다. 하부 부재(LM)는 반사 방지 필름, 터치 센서, 표시 패널, 기능성 부재 등을 포함할 수 있다. 예시적으로, 표시 패널의 픽셀들(PX)이 도 3d에 도시되어 있다. 광 투과영역(140t)에 배치되는 픽셀들(PX)의 개수, 또는 밀도는 광 투과영역(140t)이 아닌 곳에 배치되는 픽셀들(PX)의 개수, 또는 밀도 보다 작을 수 있다. 광 투과영역(140t) 내에서 픽셀들(PX)이 배치되지 않은 영역을 통하여, 빛이 제1 카메라 모듈(131)로 전달될 수 있다. 광 투과영역(140t)의 픽셀들(PX)의 아래에는 빛을 차단하기 위한 BML(Bottom Metal layer)가 배치될 수 있다. BML은 트랜지스터들이 빛이 전달되는 것을 차단하여, 트랜지스터들이 오동작하는 것을 방지할 수 있다. BML(Bottom Metal layer)은 후술하는 빛의 회절을 야기하는 요인이 될 수 있다.
도 3e는 제1 카메라 모듈(131)의 점 확산 함수(PSF)(Point Spread Function)의 예를 보여준다. 점 확산 함수는 제1 카메라 모듈(131)을 이용하여 점을 촬영할 때에, 하나의 점이 영상에서 얼마나 퍼져 있는지에 대한 정도를 표현하는 데이터를 나타낼 수 있다. 점 확산 함수는 제1 카메라 모듈(131)의 물리적 특성에 기반할 수 있다.
예를 들어, 점 확산 함수는 광 투과영역(140t)에 배치된 물질의 종류 및 특성, 제1 카메라 모듈(131)의 렌즈의 종류 및 특성, 제1 카메라 모듈(131)의 렌즈의 구조, 제1 카메라 모듈(131)의 이미지 센서의 종류 및 특성과 같은 다양한 물리적 특성들에 기반하여 정해질 수 있다.
도 3e에 도시된 바와 같이, 제1 카메라 모듈(131)을 이용하여 점을 촬영할 때에, 점을 중심으로 제1 방향(예를 들어 가로 방향) 및 제2 방향(예를 들어, 세로 방향)으로 돌출되고, 그리고 제1 방향 및 제2 방향의 사이에서 산란되는 형태의 이미지 데이터가 획득될 수 있다. 점 확산 함수는 제1 카메라 모듈(131)을 이용하여 생성되는 이미지 데이터에서 블러링(blurring)을 유발할 수 있다. 점 확산 함수는 제1 카메라 모듈(131)의 물리적 특성에 기반하므로, 점 확산 함수로 인한 블러링은 이미지 데이터에서 상시적으로 발생할 수 있다.
도 2e의 점 확산 함수와 비교하면, 도 3e의 점 확산 함수는 제1 방향(D1) 및 제1 방향과 수직한 제2 방향(D2)을 따라 돌출되는 형태를 가질 수 있다. 도 2d의 디스플레이 모듈(140)의 홀(140h)이 대부분 빈 공간으로 구현되는 것과 달리, 도 3d의 디스플레이 모듈(140)의 광 투과영역(140t)은 픽셀들을 포함하고, 그리고 픽셀들과 연관된 BML을 포함할 수 있다. 광 투과영역(140t)을 통과하는 빛은 BML, 픽셀들과 같은 디스플레이 모듈(140)의 광 투과영역(140t)의 구성 요소들의 사이를 통과하는 동안 회절될 수 있다. 따라서, UDC로 구현되는 제1 카메라 모듈(131)의 점 확산 함수는 비-UDC로 구현되는 제1 카메라 모듈(131)의 점 확산 함수보다 넓은 범위를 차지할 수 있다. UDC로 구현되는 제1 카메라 모듈(131)에서 생성되는 이미지 데이터는 비-UDC로 구현되는 제1 카메라 모듈(131)에서 생성되는 이미지 데이터보다 더 큰 블러링을 상시적으로 가질 수 있다.
점 확산 함수로 인한 블러링을 제거하기 위하여, 즉 디블러링을 수행하기 위하여, 심층 학습(deep learning)이 사용될 수 있다. 예를 들어, 점 확산 함수로 인한 블러링을 복원하는 디블러링 모듈이 심층 학습에 기반하여 학습될 수 있다. 도 1의 프로세서(110)는 카메라 모듈(130)에 의해 생성된 이미지 데이터에 대해 디블러링 모듈을 적용함으로써, 점 확산 함수의 블러링을 제거할 수 있다.
그러나 심층 학습에 기반한 디블러링 모듈은 동작 속도가 느린 단점을 갖는다. 디블러링 모듈은 복수의 콘볼루션 연산들 및 리사이즈(resize) 연산을 수행하며, 따라서 실시간 디블러링이 불가능할 수 있다. 디블러링 모듈은 전자 장치(100)가 이미지 데이터를 생성하는 시간을 지연시키며, 특히 전자 장치(100)가 동영상을 생성하는 것에 큰 레이턴시를 발생시킬 수 있다.
본 개시는 고속으로 실시간 처리가 가능하면서, 심층 학습 기반의 디블러링 모듈과 유사한 품질로 점 확산 함수로 인한 블러링을 제거(또는 복원)하는 장치 또는 방법을 제공할 수 있다.
도 4는 본 개시의 실시 예에 따른 필터 학습을 수행하는 전자 장치(200)를 보여주는 블록도이다. 전자 장치(200)는 이미지 데이터의 종류에 따라 적합한 디블러링 필터들을 탐색하는 필터 학습을 수행할 수 있다. 예시적으로, 전자 장치(200)는 컴퓨터, 워크스테이션 등과 같은 고성능의 고정식 장치를 포함할 수 있다.
도 4를 참조하면, 전자 장치(200)는 프로세서(210), 메모리(220), 장치 드라이버(230), 스토리지 장치(240), 모뎀(250), 사용자 출력 인터페이스(260), 그리고 사용자 입력 인터페이스(270)를 포함할 수 있다.
프로세서(210)는 전자 장치(200)의 운영 체제, 미들 웨어 또는 응용들을 실행할 수 있다. 프로세서(210)는 메인 프로세서(211) 및 보조 프로세서(213)를 포함할 수 있다. 메인 프로세서(211)는 중앙 처리 장치(CPU) 또는 응용 프로세서(AP)를 포함할 수 있다.
보조 프로세서(213)는 그래픽 프로세서(GPU), 뉴럴 프로세서(NPU), 뉴로모픽 프로세서(Neuromorphic Processor), 이미지 시그널 프로세서(ISP), 디지털 시그널 프로세서(DSP), 센서 허브 프로세서, 또는 커뮤니케이션 프로세서를 포함할 수 있다. 보조 프로세서(213)는 메인 프로세서(211)의 요청에 따라, 메인 프로세서(211)의 작업들 중 일부를 대신하여 처리할 수 있다.
메모리(220)는 프로세서(210)의 동작 메모리로 사용되고, 전자 장치(200)의 주 메모리 또는 시스템 메모리로 사용될 수 있다. 메모리(220)는 동적 랜덤 액세스 메모리 또는 정적 랜덤 액세스 메모리와 같은 휘발성 메모리, 또는 상 변화 랜덤 액세스 메모리, 강유전체 랜덤 액세스 메모리, 자기 랜덤 액세스 메모리, 또는 저항성 랜덤 액세스 메모리와 같은 불휘발성 메모리를 포함할 수 있다.
장치 드라이버(230)는 프로세서(210)의 요청에 따라 스토리지 장치(240), 모뎀(250), 사용자 출력 인터페이스(260), 사용자 입력 인터페이스(270) 등과 같은 주변 장치들을 제어할 수 있다. 스토리지 장치(240)는 하드 디스크 드라이브, 솔리드 스테이트 드라이브 등과 같은 고정식 스토리지 장치, 또는 외장형 하드 디스크 드라이브, 외장형 솔리드 스테이트 드라이브, 착탈식 메모리 카드 등과 같은 착탈식 스토리지 장치를 포함할 수 있다.
모뎀(250)은 외부의 장치와 원격 통신을 제공할 수 있다. 모뎀(250)은 외부의 장치와 무선 또는 유선 통신을 수행할 수 있다. 모뎀(250)은 이더넷, 와이파이, LTE, 5G 모바일 이동 통신 등과 같은 다양한 통신 형태들 중 적어도 하나를 통해 외부의 장치와 통신할 수 있다.
사용자 출력 인터페이스(260)는 디스플레이 장치(261), 스피커(262) 등과 같은 사용자에게 정보를 제공하는 장치들을 포함할 수 있다. 사용자 입력 인터페이스(270)는 마우스(271), 키보드(272) 등과 같은 사용자로부터 정보를 수신하는 장치들을 포함할 수 있다.
도 5는 도 4의 전자 장치(200)의 프로세서(210)에 의해 실행되는 학습 모듈(300)의 예를 보여준다. 예시적으로, 학습 모듈(300)은 이미지 데이터의 특징들에 적합한 필터들을 탐색하는 필터 학습을 수행할 수 있다.
도 4 및 도 5를 참조하면, 학습 모듈(300)은 이미지 데이터(ID), 열화된 이미지 데이터(DID), 메타 데이터(MD), 그리고 촬영 데이터(CD)를 수신할 수 있다. 이미지 데이터(ID)는 점 확산 함수로 인한 블러링이 제거된 데이터일 수 있다. 예를 들어, 이미지 데이터(ID)는 도 2a, 도 2b 및 도 2c의 스마트 폰(100a)을 이용하여 촬영된 이미지 데이터에 디콘볼루션 필터(또는 디블러링 모듈)를 적용함으로써 획득될 수 있다.
열화된 이미지 데이터(DID)는 이미지 데이터(ID)를 열화시킴으로써 생성될 수 있다. 예를 들어, 전자 장치(200)는 이미지 데이터(ID)를 수신하고, 그리고 이미지 데이터(ID)를 열화시켜 열화된 이미지 데이터(DID)를 생성할 수 있다. 전자 장치(200)는 도 2e의 점 확산 함수 또는 도 3e의 점 확산 함수를 이미지 데이터(ID)에 적용(예를 들어, 콘볼루션 연산)함으로써, 열화된 이미지 데이터(DID)를 생성할 수 있다. 또는, 카메라 모듈(130)을 이용하여 획득되는 로 이미지 데이터(raw image data), 예를 들어 점 확산 함수의 영향이 보정되지 않은 이미지 데이터가 열화된 이미지 데이터(DID)로 사용될 수 있다.
메타 데이터(MD)는 이미지 데이터(ID) 또는 열화된 이미지 데이터(DID)에 대한 정보를 포함할 수 있다. 메타 데이터(MD)는 이미지 데이터(ID) 또는 열화된 이미지 데이터(DID)에서 얼굴이 인식되었는지의 여부, 이미지 데이터(ID) 또는 열화된 이미지 데이터(DID)의 밝기 정보, 이미지 데이터(ID) 또는 열화된 이미지 데이터(DID)의 잡음 정보, 그리고 이미지 데이터(ID) 또는 열화된 이미지 데이터(DID)가 연무(Haze), 박무(Mist) 또는 안개(Fog)를 포함하는지의 여부 중 적어도 하나를 포함할 수 있다. 예를 들어, 메타 데이터(MD)는 카메라 모듈에 의해 이미지 데이터(ID)가 생성될 때에 함께 생성될 수 있다.
촬영 데이터(CD)는 이미지 데이터(ID)의 촬영 시의 상태 정보를 포함할 수 있다. 예를 들어, 촬영 데이터(CD)는 이미지 데이터(ID)의 사이즈 정보, 이미지 데이터(ID)의 장면 식별(scene classification) 정보, 이미지 데이터(ID)의 윤곽선 방향(edge direction) 정보, 이미지 데이터(ID)를 촬영할 때의 오토 포커스(AF)(Auto Focus) 정보, 이미지 데이터(ID)를 촬영할 때의 오토 화이트 밸런스(AWE)(Auto White Balance) 정보, 그리고 이미지 데이터(ID)를 촬영할 때의 오토 익스포저(AE)(Auto Exposure) 정보 중 적어도 하나를 포함할 수 있다. 예를 들어, 장면 식별 정보는 원경, 근경, 인물, 야간, 주간, 실내, 또는 실외 등의 정보를 포함할 수 있다.
이미지 데이터(ID), 열화된 이미지 데이터(DID), 메타 데이터(MD), 그리고 촬영 데이터(CD)는 스토리지 장치(240)에 저장되고, 그리고 프로세서(210)(예를 들어, 프로세서(210)에 의해 실행되는 학습 모듈(300))로 전달될 수 있다.
프로세서(210)(예를 들어, 프로세서(210)에 의해 실행되는 학습 모듈(300))은 이미지 데이터(ID), 열화된 이미지 데이터(DID), 메타 데이터(MD) 그리고 촬영 데이터(CD)에 기반하여 이미지 데이터의 하나 이상의 클래스들을 식별하고, 그리고 클래스들에 각각 대응하는 필터들을 선택(또는 검출 또는 학습)할 수 있다. 학습 모듈(300)은 클래스 검출기(310), 필터 검출기(320), 그리고 필터 검색표(330)를 포함할 수 있다.
클래스 검출기(310)는 열화된 이미지 데이터(DID), 메타 데이터(MD) 및 촬영 데이터(CD)를 수신할 수 있다. 클래스 검출기(310)는 열화된 이미지 데이터(DID), 메타 데이터(MD), 그리고 촬영 데이터(CD) 중 적어도 하나에 기반하여, 열화된 이미지 데이터(DID)의 클래스를 식별할 수 있다. 클래스 검출기(310)는 실시간으로 열화된 이미지 데이터(DID)의 클래스를 식별하고, 그리고 식별된 클래스 정보(CI)를 필터 검출기(320)로 전달할 수 있다.
일 예로서, 클래스 검출기(310)는 메타 데이터(MD) 또는 촬영 데이터(CD)에 포함된 정보의 값들에 기반하여 클래스를 식별할 수 있다. 메타 데이터(MD) 또는 촬영 데이터(CD)에 포함된 정보의 값들이 어느 범위에 속하는지에 따라, 클래스 검출기(310)는 열화된 이미지 데이터(DID)의 클래스를 식별할 수 있다.
다른 예로서, 클래스 검출기(310)는 심층 학습에 기반하여 학습된 모듈을 이용하여 열화된 이미지 데이터(DID)의 클래스를 식별할 수 있다. 클래스 검출기(310)는 열화된 이미지 데이터(DID), 메타 데이터(MD), 또는 촬영 데이터(CD)를 심층 학습 기반의 모듈에 입력할 수 있다. 심층 학습 기반의 모듈은 클래스 정보(CI)를 출력할 수 있다.
필터 검출기(320)는 이미지 데이터(ID), 열화된 이미지 데이터(DID) 및 클래스 정보(CI)를 수신할 수 있다. 필터 검출기(320)는 복수의 필터들 또는 복수의 필터들의 정보를 포함할 수 있다. 필터 검출기(320)는 열화된 이미지 데이터(DID)를 이미지 데이터(ID)에 가장 가깝게 복원하는 필터를 검출(또는 학습)할 수 있다. 필터 검출기(320)는 클래스 정보(CI) 및 필터 정보(FI)를 필터 검색표(330)로 출력할 수 있다.
필터 검색표(330)는 클래스 정보(CI) 및 클래스 정보(CI)에 대응하는 필터 정보(FI)를 서로 연관하여 저장할 수 있다. 예를 들어, 필터 검색표(330)는 메모리(220) 또는 스토리지 장치(240)에 저장될 수 있으며, 모뎀(250)을 통해 외부의 장치와 통신될 수 있다.
도 6은 학습 모듈(300)이 검색표(330)를 생성하는 과정의 예를 보여준다. 도 5 및 도 6을 참조하면, S110 단계에서 학습 모듈(300)은 이미지 데이터(ID) 및 열화된 이미지 데이터(DID)를 수신할 수 있다. 예시적으로, 학습 모듈(300)은 이미지 데이터(ID) 또는 열화된 이미지 데이터(DID)의 정보를 포함하는 메타 데이터(MD) 또는 촬영 정보를 포함하는 촬영 데이터(CD)를 더 수신할 수 있다.
S120 단계에서, 학습 모듈(300)의 클래스 검출기(310)는 제1 특징에 따라 이미지 데이터(ID)를 복수의 그룹들로 식별할 수 있다. 제1 특징은 메타 데이터(MD) 또는 촬영 데이터(CD) 중에서 선택되거나 또는 메타 데이터(MD) 또는 촬영 데이터(CD)로부터 생성될 수 있다.
S130 단계에서, 클래스 검출기(310)는 각 그룹에서 제2 특징에 따라 이미지 데이터(ID)를 복수의 클래스들로 식별할 수 있다. 제2 특징은 메타 데이터(MD) 또는 촬영 데이터(CD) 중에서 선택되거나 또는 메타 데이터(MD) 또는 촬영 데이터(CD)로부터 생성될 수 있다.
S140 단계에서, 필터 검출기(320)는 각 클래스에 적합한 필터를 탐색할 수 있다. S150 단계에서, 필터 검출기(320)는 클래스 별 필터 정보를 필터 검색표(330)에 저장할 수 있다.
예시적으로, 클래스들은 서로 다른 콘텐츠들에 대응할 수 있다. 예를 들어, 이미지 데이터가 얼굴, 실내, 실외, 주간, 야간, 도심, 자연과 같은 서로 다른 콘텐츠를 포함할 때, 서로 다른 콘텐츠에서 점 확산 함수가 유발하는 블러링의 양태들(aspects)은 다를 수 있다. 블러링의 양태들이 다름에 따라, 디블러링에 적합한 필터들의 종류 또한 다를 수 있다. 본 개시의 필터 검출기(320)는 클래스 별로 적합한 필터들을 탐색함으로써, 이미지 데이터의 블러링을 적응적으로 억제(또는 복원)할 수 있다. 따라서, 심층 학습 기반의 디블러링 모듈과 근접한 성능으로 디블러링을 수행할 수 있다.
도 7은 도 6의 방법에 따라 열화된 이미지 데이터(DID)가 식별되고 그리고 필터가 선택된 예를 보여준다. 도 5, 도 6 및 도 7을 참조하면, 열화된 이미지 데이터(DID)는 제1 특징에 따라 제1 그룹, 제2 그룹 및 제3 그룹에 속하는 것으로 식별될 수 있다. 제1 그룹은 제2 특징에 따라 제1 클래스 및 제2 클래스에 속하는 것으로 식별될 수 있다. 제2 그룹은 제2 특징에 따라 제3 클래스 및 제4 클래스에 속하는 것으로 식별될 수 있다. 제3 그룹은 제2 특징에 따라 제5 클래스 및 제6 클래스에 속하는 것으로 식별될 수 있다.
일 예로서, 제1 특징은 메타 데이터(MD) 및 촬영 데이터(CD) 중에서 열화된 이미지 데이터(ID)의 콘텐츠의 종류, 예를 들어 장면 식별 정보로 선택될 수 있다. 얼굴, 실내, 실외, 주간, 야간, 도심, 또는 자연과 같은 서로 다른 콘텐츠들에 속한 열화된 이미지 데이터(DID)는 서로 다른 그룹들에 속하는 것으로 식별될 수 있다. 예시적으로, 제1 특징은 장면 식별 정보 중에서 얼굴과 같은 특정한 장면 식별 정보로 선택될 수 있다.
제2 특징은 메타 데이터(MD) 또는 촬영 데이터(CD)의 나머지 정보들 중에서 선택될 수 있다. 예를 들어, 제2 특징은 열화된 이미지 데이터(DID) 또는 열화된 이미지 데이터(DID)에 포함된 대상의 사이즈 정보, 열화된 이미지 데이터(DID)의 밝기 레벨 정보, 열화된 이미지 데이터(DID)의 잡음 레벨 정보, 열화된 이미지 데이터(DID)가 연무(Haze), 박무(Mist) 또는 안개(Fog)를 포함하는지의 여부를 나타내는 정보, 열화된 이미지 데이터(DID)의 윤곽선 정보, 열화된 이미지 데이터(DID)를 촬영할 때의 오토 포커스 정보, 열화된 이미지 데이터(DID)를 촬영할 때의 오토 화이트 밸런스 정보, 또는 열화된 이미지 데이터(DID)를 촬영할 때의 오토 익스포저 정보 중에서 선택될 수 있다. 예시적으로, 제2 특징은 장면 식별 정보 중에서 제1 특징으로 선택되지 않은 나머지 장면 식별 정보로 선택될 수 있다.
다른 예로서, 제1 특징은 열화된 이미지 데이터(DID) 또는 열화된 이미지 데이터(DID)에 포함된 대상의 사이즈 정보, 열화된 이미지 데이터(DID)의 밝기 레벨 정보, 열화된 이미지 데이터(DID)의 잡음 레벨 정보, 열화된 이미지 데이터(DID)가 연무(Haze), 박무(Mist) 또는 안개(Fog)를 포함하는지의 여부를 나타내는 정보, 열화된 이미지 데이터(DID)의 윤곽선 정보, 열화된 이미지 데이터(DID)를 촬영할 때의 오토 포커스 정보, 열화된 이미지 데이터(DID)를 촬영할 때의 오토 화이트 밸런스 정보, 또는 열화된 이미지 데이터(DID)를 촬영할 때의 오토 익스포저 정보 중에서 하나로 선택될 수 있다. 제2 특징은 메타 데이터(MD) 또는 촬영 데이터(CD)의 정보들 중에서 제1 특징으로 선택되지 않은 나머지 정보들 중에서 선택될 수 있다.
제1 내지 제6 클래스들에 대해 제1 내지 제6 필터들이 각각 선택될 수 있다. 제1 내지 제6 필터들 중 일부 필터들은 서로 다를 수 있다. 예를 들어, 열화된 이미지 데이터(DID)의 클래스가 달라지면, 필터의 종류가 달라질 수 있다. 제1 내지 제6 필터들 중 다른 일부 필터들은 동일할 수 있다. 예를 들어, 열화된 이미지 데이터(DID)의 클래스가 달라져도, 필터의 종류는 달라지지 않을 수 있다. 서로 다른 클래스들에서 동일한 종류의 필터들이 사용되는 경우에도, 서로 다른 클래스들의 필터들에 적용되는 필터링 계수들은 다를 수 있다. 예시적으로, 제1 내지 제6 필터들의 각각은 디콘볼루션(deconvolution) 필터, 와이너(weiner) 필터, 또는 CLS(City Light Suppression) 필터를 포함하는 필터 풀(pool)의 다양한 필터들 중에서 선택될 수 있다.
예시적으로, 얼굴을 포함하는 이미지 데이터는 다른 이미지 데이터와 구별하여 관리될 수 있다. 제1 특징 또는 제2 특징으로 장면 식별 정보가 사용되지 않더라도, 얼굴을 포함하는 이미지 데이터는 하나의 그룹 또는 클래스로 관리될 수 있다. 즉, 얼굴을 포함하는 이미지 데이터에 우선 순위가 부여될 수 있다.
도 8은 학습 모듈(300)이 필터들을 반복 적용함으로써 클래스별 필터를 선택하는 과정의 예를 보여준다. 도 5, 도 7 및 도 8을 참조하면, S210 단계에서, 학습 모듈(300)의 필터 검출기(320)는 그룹을 선택할 수 있다. 예를 들어, 필터 검출기(320)는 제1 내지 제3 그룹들 중에서 하나의 그룹을 선택할 수 있다.
S220 단계에서, 필터 검출기(320)는 클래스를 선택할 수 있다. 예를 들어, 필터 검출기(320)는 선택된 그룹에 속한 클래스들 중에서 하나를 선택할 수 있다. S230 단계에서, 필터 검출기(320)는 필터 풀의 다양한 필터들 중에서 하나의 필터를 수행할 수 있다. S240 단계에서, 필터 검출기(320)는 선택된 그룹의 선택된 클래스의 열화된 이미지 데이터(DID)에 선택된 필터를 적용하여 필터링을 수행할 수 있다.
S250 단계에서, 필터 검출기(320)는 에러를 계산할 수 있다. 예를 들어, 필터 검출기(320)는 열화된 이미지 데이터(DID)와 연관된 이미지 데이터(ID) 및 필터링된 이미지 데이터 사이의 차이를 에러로 계산할 수 있다. 예를 들어, 필터 검출기(320)는 SSIM(Structural Similarity Image Metric)에 기반하여 에러를 계산할 수 있다. 필터 검출기(320)는 동일한 클래스에 속한 복수의 열화된 이미지 데이터들 및 복수의 열화된 이미지 데이터들에 대응하는 복수의 이미지 데이터들 사이의 평균 에러를 계산할 수 있다.
S260 단계에서, 필터 검출기(320)는 선택된 필터가 필터 풀의 마지막 필터인지 판단할 수 있다. 예를 들어, 필터 검출기(320)는 필터 풀의 모든 필터들에 대해 S230 단계 내지 S250 단계가 수행되었는지 판단할 수 있다. 필터 풀의 모든 필터들에 대해 S230 단계 내지 S250 단계가 수행되지 않았으면, 필터 검출기(320)는 S230 단계에서 아직까지 선택되지 않은 필터를 선택하고, 그리고 S240 단계 및 S250 단계를 수행할 수 있다.
필터 풀의 모든 필터들에 대해 S230 단계 내지 S250 단계가 수행되었으면, 필터 검출기(320)는 S270 단계를 수행할 수 있다. S270 단계에서, 필터 검출기(320)는 선택된 그룹의 선택된 클래스의 필터로서, 평균 에러가 기준 에러보다 적은 필터들 중 평균 에러가 가장 적은 필터를 선택 할 수 있다. 예시적으로, 기준 에러는 필터들을 이용한 디블러링을 수행할 때의 목표 에러일 수 있다. 기준 에러는 필터가 심층 학습 기반의 디블러링 모듈을 대체하여 사용될 수 있는 문턱으로 작용할 수 있다. 기준 에러는 목표 성능에 기반하여 정해질 수 있고, 임의로 정해질 수 있고, 또는 심층 학습 기반의 디블러링 모듈의 성능(예를 들어, 에러)에 기반하여 정해질 수 있다. 예를 들어, 기준 에러는 심층 학습 기반의 디블러링 모듈의 에러의 실수배로 정해질 수 있다.
S280 단계에서, 필터 검출기(320)는 선택된 클래스가 선택된 그룹의 마지막 클래스인지 판단할 수 있다. 예를 들어, 필터 검출기(320)는 선택된 그룹의 모든 클래스들에 대해 S220 단계 내지 S270 단계가 수행되었는지 판단할 수 있다. 선택된 그룹의 모든 클래스들에 대해 S220 단계 내지 S270 단계가 수행되지 않았으면, 필터 검출기(320)는 S220 단계에서 선택된 그룹의 클래스들 중에서 아직까지 선택되지 않은 클래스를 선택하고, 그리고 S230 단계 및 S270 단계를 수행할 수 있다. 선택된 그룹의 모든 클래스들에 대해 S220 단계 내지 S270 단계가 수행되었으면, 필터 검출기(320)는 S290 단계를 수행할 수 있다.
S290 단계에서, 필터 검출기(320)는 선택된 그룹이 마지막 그룹인지 판단할 수 있다. 예를 들어, 필터 검출기(320)는 모든 그룹들에 대해 S220 단계 내지 S280 단계가 수행되었는지 판단할 수 있다. 모든 그룹들에 대해 S220 단계 내지 S280 단계가 수행되지 않았으면, 필터 검출기(320)는 S210 단계에서 아직까지 선택되지 않은 그룹을 선택하고, 그리고 S220 단계 및 S280 단계를 수행할 수 있다. 모든 그룹들에 대해 S210 단계 내지 S280 단계가 수행되었으면, 학습 모듈(300)은 필터의 검출을 종료할 수 있다.
상술된 바와 같이, 학습 모듈(300)은 각 클래스에 속한 열화된 이미지 데이터(DID)에 대해 필터 풀의 필터들을 순차적으로 적용하고, 그리고 에러(예를 들어, 평균 에러)가 가장 적고 그리고 에러가 기준 에러보다 적은 필터를 해당 클래스의 필터로 선택할 수 있다. 따라서, 열화된 이미지 데이터(DID)의 특징(예를 들어, 제1 특징 및 제2 특징)에 따라 적응적으로 디블러링 필터가 선택될 수 있으며, 디블러링의 효과가 증대된다.
도 9는 심층 학습 기반의 디블러링 모듈로 기준 에러를 계산하는 예를 보여준다. 도 4 및 도 9를 참조하면, 프로세서(210)는 심층 학습에 기반하여 디블러링을 수행하도록 학습된 디블러링 모듈을 실행할 수 있다. S310 단계에서, 프로세서(210)는 열화된 이미지 데이터(DID)를 선택할 수 있다.
S320 단계에서, 프로세서(210)는 심층 학습 기반의 디블러링을 수행할 수 있다. S330 단계에서, 프로세서(210)는 에러 체크를 수행할 수 있다. 예를 들어, 프로세서(210)는 열화된 이미지 데이터(DID)에 대응하는 디블러링 이미지 데이터와 이미지 데이터(ID) 사이의 차이를 에러로 계산할 수 있다. 에러 체크는 SSIM에 기반하여 수행될 수 있다.
S340 단계에서, 프로세서(210)는 선택된 이미지 데이터가 마지막 이미지 데이터인지 판단할 수 있다. 예를 들어, 프로세서(210)는 모든 열화된 이미지 데이터(DID)에 대해 S310 단계 내지 S330 단계가 수행되었는지 판단할 수 있다. 모든 열화된 이미지 데이터(DID)에 대해 S310 단계 내지 S330 단계가 수행되지 않았으면, 프로세서(210)는 S310 단계에서 아직까지 선택되지 않은 이미지 데이터를 선택하고, 그리고 S320 단계 및 S330 단계를 수행할 수 있다.
모든 열화된 이미지 데이터(DID)에 대해 S310 단계 내지 S330 단계가 수행되었으면, S350 단계에서 프로세서(210)는 평균 에러를 기준 에러로 계산할 수 있다. 예를 들어, 프로세서(210)는 열화된 이미지 데이터(DID)의 전체의 평균 에러를 기준 에러로 계산할 수 있다. 프로세서(210)는 열화된 이미지 데이터(DID)의 그룹별 평균 에러들을 그룹별 기준 에러들로 계산할 수 있다. 프로세서(210)는 열화된 이미지 데이터(DID)의 클래스별 평균 에러들을 클래스별 기준 에러들로 계산할 수 있다. 계산된 기준 에러(들)는 도 8에서 필터를 선택하는 기준으로 사용될 수 있다.
도 10은 필터 검출기(320)가 심층 학습에 기반하여 필터들을 선택하는 예를 보여준다. 도 5 및 도 10을 참조하면, S410 단계에서 학습 모듈(300)의 필터 검출기(320)는 이미지 데이터(ID), 열화된 이미지 데이터(DID), 그리고 클래스 정보(CI)를 수신할 수 있다.
S420 단계에서, 필터 검출기(320)는 심층 학습 기반으로 학습된 모듈을 이용하여, 클래스 별로 에러가 가장 적은 필터를 탐색할 수 있다. 예를 들어, 필터 검출기(320)는 열화된 이미지 데이터(DID)를 이미지 데이터(ID)에 가장 근접하게 보정하는 필터를 클래스 별로 탐색할 수 있다. 필터 검출기(320)는 기준 에러에 근접한 에러를 갖는 필터를 클래스 별로 탐색할 수 있다. S430 단계에서, 필터 검출기(320)는 클래스 정보(CI) 및 필터 정보(FI)를 서로 연관하여 필터 검색표(330)에 저장할 수 있다.
상술된 바와 같이, 필터 검출기(320)는 필터를 탐색하도록 심층 학습에 기반하여 학습된 모듈을 이용하여 클래스 별 필터를 선택할 수 있다. 예시적으로, 필터 정보(FI)는 필터의 종류 및 필터에 적용되는 필터링 계수(filtering coefficient)의 값을 포함할 수 있다.
도 11은 도 3e의 점 확산 함수를 복원하는 필터의 3차원 모델링의 예를 보여준다. 도 3e에 도시된 바와 같이, 점 확산 함수는 제1 방향(D1) 및 제1 방향과 수직한 제2 방향(D2)으로 돌출될 수 있다. 이러한 점 확산 함수를 복원하기 위하여, 도 11에 도시된 바와 같이 필터의 커널 사이즈가 제1 방향(D1) 및 제2 방향(D2)으로 커질 수 있다. 예시적으로, 도 11에서 필터의 커널들은 이미지 데이터에 대응하는 영역의 전체에서 값들(V)을 가질 수 있다. 필터의 커널 사이즈가 커지면, 필터링의 연산 시간이 증가할 수 있다.
도 12는 감소된 사이즈를 갖는 필터의 3차원 모델링의 예를 보여준다. 도 11의 필터의 커널은 전체 영역에서 유효한 값을 갖는다. 반면, 도 12를 참조하면, 박스(BX)로 표시된 부분을 제외한 커널의 값들(V)은 '0'일 수 있다. 따라서, 필터링의 연산 시간이 감소하고, 실시간 필터링이 가능해질 수 있다.
도 13은 학습 모듈(300)이 클래스 별 필터의 사이즈를 줄이는 과정의 예를 보여준다. 도 5, 도 7 및 도 13을 참조하면, S510 단계에서, 학습 모듈(300)의 필터 검출기(320)는 그룹을 선택할 수 있다. 예를 들어, 필터 검출기(320)는 제1 내지 제3 그룹들 중에서 하나의 그룹을 선택할 수 있다.
S520 단계에서, 필터 검출기(320)는 클래스를 선택할 수 있다. 예를 들어, 필터 검출기(320)는 선택된 그룹에 속한 클래스들 중에서 하나를 선택할 수 있다. S530 단계에서, 필터 검출기(320)는 선택된 클래스의 필터의 사이즈를 줄일 수 있다. 예를 들어, 필터 검출기(320)는 선택된 클래스의 필터의 커널의 값들 중 일부를 '0'으로 변경할 수 있다. 예를 들어, 필터 검출기(320)는 커널의 유효한 값들 중 최 외곽의 위치에 해당하는 부분의 값들을 '0'으로 변경할 수 있다. 또는, 필터 검출기(320)는 커널의 중심으로부터 서로 다른 폭들을 갖는 동심원들로 영역들을 구분할 수 있다. 필터 검출기(320)는 최 외곽 영역의 커널의 값들을 '0'으로 변경할 수 있다. S540 단계에서, 필터 검출기(320)는 선택된 그룹의 선택된 클래스의 열화된 이미지 데이터(DID)에 사이즈가 변경된 필터를 적용하여 필터링을 수행할 수 있다.
S550 단계에서, 필터 검출기(320)는 에러를 계산할 수 있다. 예를 들어, 필터 검출기(320)는 열화된 이미지 데이터(DID)와 연관된 이미지 데이터(ID) 및 필터링된 이미지 데이터 사이의 차이를 에러로 계산할 수 있다. 예를 들어, 필터 검출기(320)는 SSIM(Structural Similarity Image Metric)에 기반하여 에러를 계산할 수 있다.
S560 단계에서, 필터 검출기(320)는 평균 에러가 문턱값 이상인지 판단할 수 있다. 또는, 필터 검출기(320)는 평균 에러와 기준 에러의 차이가 문턱값 이상인지 판단할 수 있다. 평균 에러가 기준 에러보다 크지 안으면, 또는 평균 에러가 기준 에러보다 제2 문턱값 이상 크지 않으면, S530 단계에서 필터 검출기(320)는 필터의 사이즈를 더 줄일 수 있다. 예를 들어, 필터 검출기는 커널에서 유효한 값을 갖는 최 외곽 영역의 값들을 '0'으로 변경할 수 있다. 이후에 필터 검출기(S520)는 S550 단계 및 S560 단계를 다시 수행할 수 있다. S560 단계에서, 평균 에러가 기준 에러 이상이면, 또는 평균 에러가 기준 에러보다 제2 문턱값 이상 크면, S570 단계에서 필터 검출기(320)는 바로 이전의 사이즈를 필터의 사이즈로 선택할 수 있다. 제2 문턱값은 디블러링의 고속화 및 단순화를 위하여 희생될 수 있는 이미지 데이터의 품질에 대응할 수 있다. 제2 문턱값은 전자 장치(100)의 사양(specification), 예를 들어 카메라 모듈(130)의 성능 및 물리적 특성, 프로세서(110)의 성능, 메모리(120)의 성능, 또는 디스플레이 모듈(140)의 성능에 기반하여 정해질 수 있다.
S580 단계에서, 필터 검출기(320)는 선택된 클래스가 선택된 그룹의 마지막 클래스인지 판단할 수 있다. 예를 들어, 필터 검출기(320)는 선택된 그룹의 모든 클래스들에 대해 S520 단계 내지 S570 단계가 수행되었는지 판단할 수 있다. 선택된 그룹의 모든 클래스들에 대해 S520 단계 내지 S570 단계가 수행되지 않았으면, 필터 검출기(320)는 S520 단계에서 선택된 그룹의 클래스들 중에서 아직까지 선택되지 않은 클래스를 선택하고, 그리고 S530 단계 및 S570 단계를 수행할 수 있다. 선택된 그룹의 모든 클래스들에 대해 S520 단계 내지 S570 단계가 수행되었으면, 필터 검출기(320)는 S590 단계를 수행할 수 있다.
S590 단계에서, 필터 검출기(320)는 선택된 그룹이 마지막 그룹인지 판단할 수 있다. 예를 들어, 필터 검출기(320)는 모든 그룹들에 대해 S510 단계 내지 S580 단계가 수행되었는지 판단할 수 있다. 모든 그룹들에 대해 S510 단계 내지 S580 단계가 수행되지 않았으면, 필터 검출기(320)는 S510 단계에서 아직까지 선택되지 않은 그룹을 선택하고, 그리고 S520 단계 및 S580 단계를 수행할 수 있다. 모든 그룹들에 대해 S510 단계 내지 S580 단계가 수행되었으면, 학습 모듈(300)은 필터의 검출을 종료할 수 있다.
상술된 바와 같이, 학습 모듈(300)은 평균 에러의 증가가 제2 문턱값 보다 작은 범위에서, 필터의 커널의 사이즈를 단계적으로 줄이는 것으로 여겨질 수 있다. 따라서, 허용 가능한 범위의 에러를 가지며 감소된 필터링 연산 시간을 갖는 필터가 선택될 수 있다. 도 13의 필터의 사이즈를 줄이는 방법은 도 9의 반복적인 필터링을 통해 필터를 선택한 때와 도 10의 심층 학습에 기반한 모듈을 이용하여 필터를 선택한 때 모두에 적용될 수 있다.
도 14는 다양한 실시 예들에 따른 네트워크 환경(400) 내의 전자 장치(401)의 블록도이다. 예시적으로, 전자 장치(401)는 도 1의 전자 장치(100)의 확장된 구현 예를 보여준다. 예시적으로, 전자 장치(401)는 도 4의 전자 장치(200)에 의해 필터 학습이 수행된 결과를 수신할 수 있다. 전자 장치(401)는 이미지 데이터의 클래스들 및 클래스들에 각각 대응하는 필터들의 정보를 도 4의 전자 장치(200)로부터 전달받을 수 있다. 전자 장치(401)는 전달받은 정보에 기반하여 디블러링을 수행할 수 있다. 예를 들어, 전자 장치(401)는 카메라 모듈(480)을 이용하여 이미지 데이터를 생성하고, 이미지 데이터의 클래스를 식별하고, 전달받은 정보를 이용하여 필터를 선택하고, 그리고 선택된 필터를 이용하여 이미지 데이터에 대해 디블러링을 수행할 수 있다.
도 14를 참조하면, 네트워크 환경(400)에서 전자 장치(401)는 제1 네트워크(498)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(402)와 통신하거나, 또는 제2 네트워크(499)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(404) 또는 서버(408) 중 적어도 하나와 통신할 수 있다. 일 실시 예에 따르면, 전자 장치(401)는 서버(408)를 통하여 전자 장치(404)와 통신할 수 있다. 일 실시 예에 따르면, 전자 장치(401)는 프로세서(420), 메모리(430), 입력 모듈(450), 음향 출력 모듈(455), 디스플레이 모듈(460), 오디오 모듈(470), 센서 모듈(476), 인터페이스(477), 연결 단자(478), 햅틱 모듈(479), 카메라 모듈(480), 전력 관리 모듈(488), 배터리(489), 통신 모듈(490), 가입자 식별 모듈(496), 또는 안테나 모듈(497)을 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(401)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(478))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시 예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(476), 카메라 모듈(480), 또는 안테나 모듈(497))은 하나의 구성요소(예: 디스플레이 모듈(460))로 통합될 수 있다.
프로세서(420)는, 예를 들면, 소프트웨어(예: 프로그램(440))를 실행하여 프로세서(420)에 연결된 전자 장치(401)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시 예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(420)는 다른 구성요소(예: 센서 모듈(476) 또는 통신 모듈(490))로부터 수신된 명령 또는 데이터를 휘발성 메모리(432)에 저장하고, 휘발성 메모리(432)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(434)에 저장할 수 있다. 일 실시 예에 따르면, 프로세서(420)는 메인 프로세서(421)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(423)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(401)가 메인 프로세서(421) 및 보조 프로세서(423)를 포함하는 경우, 보조 프로세서(423)는 메인 프로세서(421)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(423)는 메인 프로세서(421)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(423)는, 예를 들면, 메인 프로세서(421)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(421)를 대신하여, 또는 메인 프로세서(421)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(421)와 함께, 전자 장치(401)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(460), 센서 모듈(476), 또는 통신 모듈(490))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일 실시 예에 따르면, 보조 프로세서(423)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(480) 또는 통신 모듈(490))의 일부로서 구현될 수 있다. 일 실시 예에 따르면, 보조 프로세서(423)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능 모델이 수행되는 전자 장치(401) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(408))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
예시적으로, 프로세서(420)는 도 1의 전자 장치(100)의 프로세서(110)에 대응할 수 있다. 메인 프로세서(421) 및 보조 프로세서(423)는 도 1의 메인 프로세서(111) 및 보조 프로세서(113)에 각각 대응할 수 있다.
메모리(430)는, 전자 장치(401)의 적어도 하나의 구성요소(예: 프로세서(420) 또는 센서 모듈(476))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(440)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(430)는, 휘발성 메모리(432) 또는 비휘발성 메모리(434)를 포함할 수 있다.
예시적으로, 메모리(430)는 도 1의 전자 장치(100)의 메모리(120)에 대응할 수 있다. 휘발성 메모리(432) 및 비휘발성 메모리(434)는 도 1의 휘발성 메모리(122) 및 비휘발성 메모리(124)에 각각 대응할 수 있다.
프로그램(440)은 메모리(430)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(442), 미들 웨어(444) 또는 어플리케이션(446)을 포함할 수 있다.
입력 모듈(450)은, 전자 장치(401)의 구성요소(예: 프로세서(420))에 사용될 명령 또는 데이터를 전자 장치(401)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(450)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 모듈(455)은 음향 신호를 전자 장치(401)의 외부로 출력할 수 있다. 음향 출력 모듈(455)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일 실시 예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
디스플레이 모듈(460)은 전자 장치(401)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(460)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일 실시 예에 따르면, 디스플레이 모듈(460)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다. 예시적으로, 디스플레이 모듈(460)은 도 1의 전자 장치(100)의 디스플레이 모듈(140)에 대응할 수 있다.
오디오 모듈(470)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일 실시 예에 따르면, 오디오 모듈(470)은, 입력 모듈(450)을 통해 소리를 획득하거나, 음향 출력 모듈(455), 또는 전자 장치(401)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(402))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(476)은 전자 장치(401)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일 실시 예에 따르면, 센서 모듈(476)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(477)는 전자 장치(401)가 외부 전자 장치(예: 전자 장치(402))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일 실시 예에 따르면, 인터페이스(477)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(478)는, 그를 통해서 전자 장치(401)가 외부 전자 장치(예: 전자 장치(402))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일 실시 예에 따르면, 연결 단자(478)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(479)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일 실시 예에 따르면, 햅틱 모듈(479)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(480)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시 예에 따르면, 카메라 모듈(480)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다. 예시적으로, 카메라 모듈(480)은 도 1의 전자 장치(100)의 카메라 모듈(130)에 대응할 수 있다.
전력 관리 모듈(488)은 전자 장치(401)에 공급되는 전력을 관리할 수 있다. 일 실시 예에 따르면, 전력 관리 모듈(488)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(489)는 전자 장치(401)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일 실시 예에 따르면, 배터리(489)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(490)은 전자 장치(401)와 외부 전자 장치(예: 전자 장치(402), 전자 장치(404), 또는 서버(408)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(490)은 프로세서(420)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일 실시 예에 따르면, 통신 모듈(490)은 무선 통신 모듈(492)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(494)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제1 네트워크(498)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제2 네트워크(499)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(404)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(492)은 가입자 식별 모듈(496)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제1 네트워크(498) 또는 제2 네트워크(499)와 같은 통신 네트워크 내에서 전자 장치(401)를 확인 또는 인증할 수 있다.
무선 통신 모듈(492)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(492)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(492)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(492)은 전자 장치(401), 외부 전자 장치(예: 전자 장치(404)) 또는 네트워크 시스템(예: 제2 네트워크(499))에 규정되는 다양한 요구사항을 지원할 수 있다. 일 실시 예에 따르면, 무선 통신 모듈(492)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.
안테나 모듈(497)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일 실시 예에 따르면, 안테나 모듈(497)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일 실시 예에 따르면, 안테나 모듈(497)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제1 네트워크(498) 또는 제2 네트워크(499)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(490)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(490)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시 예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(497)의 일부로 형성될 수 있다.
다양한 실시 예에 따르면, 안테나 모듈(497)은 mmWave 안테나 모듈을 형성할 수 있다. 일 실시 예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제2 면(예: 윗면 또는 측면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들 간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일 실시 예에 따르면, 명령 또는 데이터는 제2 네트워크(499)에 연결된 서버(408)를 통해서 전자 장치(401)와 외부의 전자 장치(404) 간에 송신 또는 수신될 수 있다. 외부의 전자 장치(402, 또는 304) 각각은 전자 장치(401)와 동일한 또는 다른 종류의 장치일 수 있다. 일 실시 예에 따르면, 전자 장치(401)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(402, 304, 또는 308) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(401)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(401)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(401)로 전달할 수 있다. 전자 장치(401)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(401)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시 예에 있어서, 외부의 전자 장치(404)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(408)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일 실시 예에 따르면, 외부의 전자 장치(404) 또는 서버(408)는 제2 네트워크(499) 내에 포함될 수 있다. 전자 장치(401)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.
도 15는 도 14의 전자 장치(401)가 필터를 이용하여 디블러링을 수행하는 과정의 예를 보여준다. 도 14 및 도 15를 참조하면, S610 단계에서 카메라 모듈(480)은 이미지를 촬영하여 이미지 데이터, 메타 데이터 및 촬영 데이터를 생성할 수 있다.
예시적으로, 카메라 모듈(480)이 도 2a, 도 2b, 도 2c 및 도 2d를 참조하여 설명된 바와 같이 비-UDC로 구현될 때, 이미지 데이터는 도 2e를 참조하여 설명된 점 확산 함수의 영향을 받을 수 있다. 카메라 모듈(480)이 도 3a, 도 3b, 도 3c 및 도 3d를 참조하여 설명된 바와 같이 UDC로 구현될 때, 이미지 데이터는 도 3e를 참조하여 설명된 점 확산 함수의 영향을 받을 수 있다. 이미지 데이터, 메타 데이터 또는 촬영 데이터는 프로세서(420)를 통해 메모리(430)에 저장될 수 있다.
S620 단계에서, 프로세서(420)는 메모리(430)로부터 이미지 데이터, 메타 데이터 또는 촬영 데이터를 읽을 수 있다. 프로세서(420)는 메타 데이터 및 촬영 데이터에 기반하여 이미지 데이터의 필터를 선택할 수 있다. 예를 들어, 프로세서(420)는 이미지 데이터의 콘텐츠의 종류에 따라 서로 다른 필터들을 선택할 수 있다.
S630 단계에서, 프로세서(420)는 선택된 필터를 이용하여 이미지 데이터에 대해 필터링을 수행할 수 있다. 선택된 필터는 이미지 데이터로부터 점 확산 함수를 제거(또는 억제)할 수 있다. 필터링된 이미지 데이터는 메모리(430)에 저장될 수 있다. 이후에, 디스플레이 모듈(460)은 메모리(430)로부터 필터링된 이미지 데이터를 수신하고, 그리고 필터링된 이미지 데이터를 표시할 수 있다.
도 16은 도 14의 프로세서(420)에 의해 실행되는 필터 기반의 디블러링 모듈(500)의 예를 보여준다. 도 14 및 도 16을 참조하면, 필터 기반의 디블러링 모듈(500)은 클래스 검출기(510), 필터 검색표(520), 그리고 디블러 모듈(530)을 포함할 수 있다.
클래스 검출기(510)는 이미지 데이터(ID), 메타 데이터(MD), 그리고 촬영 데이터(CD)를 수신할 수 있다. 클래스 검출기(510)는 이미지 데이터(ID), 메타 데이터(MD) 또는 촬영 데이터(CD)에 기반하여 이미지 데이터(ID)의 클래스를 식별할 수 있다. 클래스 검출기(510)는 식별된 클래스의 정보를 클래스 정보(CI)로 출력할 수 있다.
예시적으로, 클래스 검출기(510)는 도 5의 클래스 검출기(310)와 동일하게 동작하고, 그리고 동일하게 구성될 수 있다. 클래스 검출기(510)는 실시간으로 이미지 데이터(ID)의 클래스를 식별할 수 있다. 클래스 검출기(510)는 메타 데이터(MD) 또는 촬영 데이터(CD)의 정보의 값들에 기반하여, 또는 심층 학습 기반으로 학습된 모듈을 이용하여 클래스를 식별할 수 있다.
예시적으로, 클래스 검출기(510)는 이미지 데이터(ID) 중 일부의 클래스 식별에 실패할 수 있다. 클래스 식별이 실패한 경우, 클래스 검출기(510)는 클래스 식별이 실패하였음을 또는 클래스가 없음을 나타내는 정보를 클래스 정보(CI)로 출력할 수 있다.
필터 검색표(520)는 도 5의 필터 검색표(330)에 대응할 수 있다. 필터 검색표(520)는 학습 모듈(300)의 학습 결과에 기반하여 생성된 필터 정보(FI) 및 클래스 정보(CI)를 연관하여 저장할 수 있다. 클래스 검출기(510)로부터 클래스 정보(CI)가 전달되면, 필터 검색표(520)는 클래스 정보(CI)에 대응하는 필터 정보(FI)를 출력할 수 있다. 필터 정보(FI)는 필터의 종류 및 필터링 계수(들)의 값(들)을 포함할 수 있다.
예시적으로, 클래스 정보(CI)가 클래스 식별이 실패하였음을 또는 클래스가 없음을 나타낼 때, 필터 검색표(520)는 기본(default) 필터의 정보를 필터 정보(FI)로 출력할 수 있다. 예를 들어, 기본 필터는 클래스들에 대응하는 필터들 중 하나일 수 있다. 다른 예로서, 기본 필터는 클래스들에 대응하는 필터들과 다른 종류의 또는 다른 필터링 계수를 갖는 필터일 수 있다.
디블러 모듈(530)은 필터 정보(FI)에 기반하여 필터를 구현할 수 있다. 예를 들어, 디블러 모듈(530)은 서로 다른 필터 모듈들을 포함할 수 있다. 디블러 모듈(530)은 필터 정보(FI)에 기반하여 필터 모듈들 중 하나를 선택하고, 그리고 필터링 계수들을 설정할 수 있다. 디블러 모듈(530)은 설정된 필터에 기반하여 이미지 데이터(ID)를 필터링할 수 있다.
상술된 바와 같이 전자 장치(401)는 이미지 데이터(ID)로부터 실시간으로 클래스를 식별하고, 그리고 클래스에 따라 실시간으로 필터를 구현할 수 있다. 실시간으로 구현된 필터를 이용하여 필터링을 수행함으로써, 점 확산 함수에 의한 블러링이 실시간으로 제거될 수 있다.
도 17은 다양한 실시 예들에 따른 도 14의 카메라 모듈(480)을 예시하는 블럭도(600)이다. 도 17을 참조하면, 카메라 모듈(480)은 렌즈 어셈블리(610), 플래쉬(620), 이미지 센서(630), 이미지 스태빌라이저(640), 메모리(650)(예: 버퍼 메모리), 또는 이미지 시그널 프로세서(660)를 포함할 수 있다. 렌즈 어셈블리(610)는 이미지 촬영의 대상인 피사체로부터 방출되는 빛을 수집할 수 있다. 렌즈 어셈블리(610)는 하나 또는 그 이상의 렌즈들을 포함할 수 있다. 일 실시 예에 따르면, 카메라 모듈(480)은 복수의 렌즈 어셈블리(610)들을 포함할 수 있다. 이런 경우, 카메라 모듈(480)은, 예를 들면, 듀얼 카메라, 360도 카메라, 또는 구형 카메라(spherical camera)를 형성할 수 있다. 복수의 렌즈 어셈블리(610)들 중 일부는 동일한 렌즈 속성(예: 화각, 초점 거리, 자동 초점, f 넘버(f number), 또는 광학 줌)을 갖거나, 또는 적어도 하나의 렌즈 어셈블리는 다른 렌즈 어셈블리의 렌즈 속성들과 다른 하나 이상의 렌즈 속성들을 가질 수 있다. 렌즈 어셈블리(610)는, 예를 들면, 광각 렌즈 또는 망원 렌즈를 포함할 수 있다.
플래쉬(620)는 피사체로부터 방출 또는 반사되는 빛을 강화하기 위하여 사용되는 빛을 방출할 수 있다. 일 실시 예에 따르면, 플래쉬(620)는 하나 이상의 발광 다이오드들(예: RGB(red-green-blue) LED, white LED, infrared LED, 또는 ultraviolet LED), 또는 xenon lamp를 포함할 수 있다. 이미지 센서(630)는 피사체로부터 방출 또는 반사되어 렌즈 어셈블리(610)를 통해 전달된 빛을 전기적인 신호로 변환함으로써, 상기 피사체에 대응하는 이미지를 획득할 수 있다. 일 실시 예에 따르면, 이미지 센서(630)는, 예를 들면, RGB 센서, BW(black and white) 센서, IR 센서, 또는 UV 센서와 같이 속성이 다른 이미지 센서들 중 선택된 하나의 이미지 센서, 동일한 속성을 갖는 복수의 이미지 센서들, 또는 다른 속성을 갖는 복수의 이미지 센서들을 포함할 수 있다. 이미지 센서(630)에 포함된 각각의 이미지 센서는, 예를 들면, CCD(charged coupled device) 센서 또는 CMOS(complementary metal oxide semiconductor) 센서를 이용하여 구현될 수 있다.
이미지 스태빌라이저(640)는 카메라 모듈(480) 또는 이를 포함하는 전자 장치(401)의 움직임에 반응하여, 렌즈 어셈블리(610)에 포함된 적어도 하나의 렌즈 또는 이미지 센서(630)를 특정한 방향으로 움직이거나 이미지 센서(630)의 동작 특성을 제어(예: 리드 아웃(read-out) 타이밍을 조정 등)할 수 있다. 이는 촬영되는 이미지에 대한 상기 움직임에 의한 부정적인 영향의 적어도 일부를 보상하게 해 준다. 일 실시 예에 따르면, 이미지 스태빌라이저(640)는, 일 실시 예에 따르면, 이미지 스태빌라이저(640)는 카메라 모듈(480)의 내부 또는 외부에 배치된 자이로 센서(미도시) 또는 가속도 센서(미도시)를 이용하여 카메라 모듈(480) 또는 전자 장치(401)의 그런 움직임을 감지할 수 있다. 일 실시 예에 따르면, 이미지 스태빌라이저(640)는, 예를 들면, 광학식 이미지 스태빌라이저로 구현될 수 있다. 메모리(650)는 이미지 센서(630)를 통하여 획득된 이미지의 적어도 일부를 다음 이미지 처리 작업을 위하여 적어도 일시 저장할 수 있다. 예를 들어, 셔터에 따른 이미지 획득이 지연되거나, 또는 복수의 이미지들이 고속으로 획득되는 경우, 획득된 원본 이미지(예: Bayer-patterned 이미지 또는 높은 해상도의 이미지)는 메모리(650)에 저장이 되고, 그에 대응하는 사본 이미지(예: 낮은 해상도의 이미지)는 디스플레이 모듈(460)을 통하여 프리뷰될 수 있다. 이후, 지정된 조건이 만족되면(예: 사용자 입력 또는 시스템 명령) 메모리(650)에 저장되었던 원본 이미지의 적어도 일부가, 예를 들면, 이미지 시그널 프로세서(660)에 의해 획득되어 처리될 수 있다. 일 실시 예에 따르면, 메모리(650)는 메모리(430)의 적어도 일부로, 또는 이와는 독립적으로 운영되는 별도의 메모리로 구성될 수 있다.
이미지 시그널 프로세서(660)는 이미지 센서(630)를 통하여 획득된 이미지 또는 메모리(650)에 저장된 이미지에 대하여 하나 이상의 이미지 처리들을 수행할 수 있다. 상기 하나 이상의 이미지 처리들은, 예를 들면, 깊이 지도(depth map) 생성, 3차원 모델링, 파노라마 생성, 특징점 추출, 이미지 합성, 또는 이미지 보상(예: 노이즈 감소, 해상도 조정, 밝기 조정, 블러링(blurring), 샤프닝(sharpening), 또는 소프트닝(softening)을 포함할 수 있다. 추가적으로 또는 대체적으로, 이미지 시그널 프로세서(660)는 카메라 모듈(480)에 포함된 구성 요소들 중 적어도 하나(예: 이미지 센서(630))에 대한 제어(예: 노출 시간 제어, 또는 리드 아웃 타이밍 제어 등)를 수행할 수 있다. 이미지 시그널 프로세서(660)에 의해 처리된 이미지는 추가 처리를 위하여 메모리(650)에 다시 저장되거나 카메라 모듈(480)의 외부 구성 요소(예: 메모리(430), 디스플레이 모듈(460), 전자 장치(402), 전자 장치(404), 또는 서버(408))로 제공될 수 있다. 일 실시 예에 따르면, 이미지 시그널 프로세서(660)는 프로세서(420)의 적어도 일부로 구성되거나, 프로세서(420)와 독립적으로 운영되는 별도의 프로세서로 구성될 수 있다. 이미지 시그널 프로세서(660)가 프로세서(420)와 별도의 프로세서로 구성된 경우, 이미지 시그널 프로세서(660)에 의해 처리된 적어도 하나의 이미지는 프로세서(420)에 의하여 그대로 또는 추가의 이미지 처리를 거친 후 디스플레이 모듈(460)을 통해 표시될 수 있다.
일 실시 예에 따르면, 전자 장치(401)는 각각 다른 속성 또는 기능을 가진 복수의 카메라 모듈(480)들을 포함할 수 있다. 이런 경우, 예를 들면, 상기 복수의 카메라 모듈(480)들 중 적어도 하나는 광각 카메라이고, 적어도 다른 하나는 망원 카메라일 수 있다. 유사하게, 상기 복수의 카메라 모듈(480)들 중 적어도 하나는 전면 카메라(도 2a, 도 2b, 도 2c, 도 3a, 도 3b 및 도 3c의 131 참조)이고, 적어도 다른 하나는 후면 카메라(도 2a, 도 2b, 도 2c, 도 3a, 도 3b 및 도 3c의 132 참조)일 수 있다.
본 개시의 다양한 실시 예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트 폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 개시의 실시 예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 개시의 다양한 실시 예들 및 이에 사용된 용어들은 본 개시의 기술적 특징들을 특정한 실시 예들로 한정하려는 것이 아니며, 해당 실시 예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 개시에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제1", "제2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제1) 구성요소가 다른(예: 제2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 개시의 다양한 실시 예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일 실시 예에 따르면, 모듈은 IC (Integrated Circuit), ASIC(application-specific integrated circuit), FPGA (Field Programmable Gate Array), CPLD (Complex Programmable Logic Device) 등의 형태로 구현될 수 있다.
본 개시의 다양한 실시 예들은 기기(machine)(예: 전자 장치(401)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(436) 또는 외장 메모리(438))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(440))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(401))의 프로세서(예: 프로세서(420))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일 실시 예에 따르면, 본 개시의 다양한 실시 예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시 예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 다양한 실시 예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시 예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.
상술된 내용은 본 개시를 실시하기 위한 구체적인 실시 예들이다. 본 개시는 상술된 실시 예들뿐만 아니라, 단순하게 설계 변경되거나 용이하게 변경할 수 있는 실시 예들 또한 포함할 것이다. 또한, 본 개시는 실시 예들을 이용하여 용이하게 변형하여 실시할 수 있는 기술들도 포함될 것이다. 따라서, 본 개시의 범위는 상술된 실시 예들에 국한되어 정해져서는 안되며 후술하는 특허청구범위뿐만 아니라 이 기재의 특허청구범위와 균등한 것들에 의해 정해져야 할 것이다.

Claims (15)

  1. 이미지 데이터를 생성하는 카메라 모듈;
    상기 이미지 데이터를 수신하고, 그리고 상기 이미지 데이터에 기반하여 복원된 이미지 데이터를 생성하는 프로세서; 그리고
    상기 복원된 이미지 데이터를 표시하는 디스플레이 모듈을 포함하고,
    상기 프로세서는:
    상기 이미지 데이터의 클래스를 식별하고,
    상기 클래스에 대응하는 필터를 선택하고, 그리고
    상기 선택된 필터를 상기 이미지 데이터에 적용하여 상기 복원된 이미지 데이터를 생성하는 전자 장치.
  2. 제1항에 있어서,
    상기 필터는 상기 카메라 모듈의 점 확산 함수(PSF)(Point Spread Function)를 보상하는 전자 장치.
  3. 제1항에 있어서,
    상기 이미지 데이터의 클래스가 달라진다는 판단에 기반하여, 상기 프로세서는 상기 선택된 필터를 변경하는 전자 장치.
  4. 제1항에 있어서,
    상기 프로세서는 상기 이미지 데이터의 메타 데이터에 기반하여 상기 클래스를 식별하고,
    상기 메타 데이터는 상기 이미지 데이터에서 얼굴이 인식되었는지의 여부에 대한 정보, 상기 이미지 데이터의 밝기 정보, 상기 이미지 데이터의 잡음 정보, 상기 이미지 데이터가 연무(Haze), 박무(Mist) 또는 안개(Fog) 중 하나를 포함하는지의 여부에 대한 정보 중 적어도 하나를 포함하는 전자 장치.
  5. 제1항에 있어서,
    상기 프로세서는 상기 이미지 데이터의 촬영 데이터에 기반하여 상기 클래스를 식별하고,
    상기 촬영 데이터는 상기 이미지 데이터의 사이즈 정보, 상기 이미지 데이터의 장면 식별 정보, 상기 이미지 데이터의 윤곽선 방향 정보, 상기 이미지 데이터의 촬영 시의 오토 화이트 밸런스(AWE)(Auto White Balance) 정보, 상기 이미지 데이터의 촬영 시의 오토 포커스(AF)(Auto Focus) 정보, 그리고 상기 이미지 데이터의 촬영 시의 오토 익스포저(AE)(Auto Exposure) 정보 중 적어도 하나를 포함하는 전자 장치.
  6. 제1항에 있어서,
    기계 학습에 기반한 학습에 의해 생성되고, 그리고 상기 프로세서에 의해 실행되는, 모듈에 기반하여, 상기 클래스가 식별되는 전자 장치.
  7. 제1항에 있어서,
    기계 학습에 기반한 학습에 의해 생성되고, 그리고 상기 프로세서에 의해 실행되는, 모듈에 기반하여, 상기 클래스가 식별되고 그리고 상기 필터가 선택되는 전자 장치.
  8. 제1항에 있어서,
    상기 카메라 모듈은 제1 영역 및 제2 영역을 포함하고, 그리고
    상기 카메라 모듈은 상기 제2 영역을 통해 상기 이미지 데이터를 생성하는 전자 장치.
  9. 제8항에 있어서,
    상기 카메라 모듈은 제1 방향 및 상기 제1 방향과 수직한 제2 방향을 따라 돌출되는 형태의 점 확산 함수(PSF)(Point Spread Function)를 갖는 전자 장치.
  10. 제1항에 있어서,
    상기 프로세서는 디콘볼루션(deconvolution) 필터, 와이너(weiner) 필터, ㄱ그리고 S(City Light Suppression) 필터를 포함하는 필터들 중 하나의 필터를 선택하는 전자 장치.
  11. 제1항에 있어서,
    상기 이미지 데이터의 클래스의 식별이 실패하면, 상기 프로세서는 기본(default) 필터를 선택하는 전자 장치.
  12. 이미지 데이터 및 열화된 이미지 데이터를 저장하는 스토리지 장치;
    상기 이미지 데이터 및 상기 열화된 이미지 데이터를 수신하고, 상기 열화된 이미지 데이터에서 클래스들을 식별하고, 그리고 상기 열화된 이미지 데이터를 상기 이미지 데이터로 복원하는 상기 클래스들에 각각 대응하는 필터들을 선택하는 프로세서; 그리고
    상기 클래스들 및 상기 선택된 필터들 사이의 연관 정보를 포함하는 검색표를 저장하는 메모리를 포함하는 전자 장치.
  13. 제12항에 있어서,
    상기 이미지 데이터의 클래스가 달라지면, 상기 선택된 필터가 달라지는 전자 장치.
  14. 제12항에 있어서,
    상기 프로세서는 상기 이미지 데이터에 카메라 모듈의 점 확산 함수(PSF)(Point Spread Function)를 적용하여 상기 열화된 이미지 데이터를 생성하는 전자 장치.
  15. 제12항에 있어서,
    기계 학습에 기반하여 학습에 의해 생성되고, 그리고 상기 프로세서에 의해 실행되는, 모듈에 기반하여, 상기 열화된 이미지 데이터로부터 복원된 이미지 데이터가 생성되는 전자 장치.
PCT/KR2022/011581 2021-08-05 2022-08-04 이미지 데이터의 디블러링을 지원하는 전자 장치 및 방법 WO2023014122A1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202280054618.9A CN117795974A (zh) 2021-08-05 2022-08-04 支持图像数据去模糊的电子装置和方法
US17/882,253 US20230040122A1 (en) 2021-08-05 2022-08-05 Electronic device and method for supporting deblurring of image data

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020210103312A KR20230021442A (ko) 2021-08-05 2021-08-05 이미지 데이터의 디블러링을 지원하는 전자 장치 및 방법
KR10-2021-0103312 2021-08-05

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US17/882,253 Continuation US20230040122A1 (en) 2021-08-05 2022-08-05 Electronic device and method for supporting deblurring of image data

Publications (1)

Publication Number Publication Date
WO2023014122A1 true WO2023014122A1 (ko) 2023-02-09

Family

ID=85155890

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2022/011581 WO2023014122A1 (ko) 2021-08-05 2022-08-04 이미지 데이터의 디블러링을 지원하는 전자 장치 및 방법

Country Status (2)

Country Link
KR (1) KR20230021442A (ko)
WO (1) WO2023014122A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008058804A (ja) * 2006-09-01 2008-03-13 Fujifilm Corp 画像修復方法、画像修復プログラム、及び、画像修復装置
JP2008211679A (ja) * 2007-02-27 2008-09-11 Kyocera Corp 撮像装置およびその方法
JP2013025473A (ja) * 2011-07-19 2013-02-04 Hitachi Advanced Digital Inc 画像処理装置及び画像処理方法
JP2019215489A (ja) * 2018-06-14 2019-12-19 オリンパス株式会社 撮像装置および焦点調節方法
KR102212964B1 (ko) * 2019-10-10 2021-02-08 주식회사 인트로메딕 디블러링 영상 처리 방법 및 장치

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008058804A (ja) * 2006-09-01 2008-03-13 Fujifilm Corp 画像修復方法、画像修復プログラム、及び、画像修復装置
JP2008211679A (ja) * 2007-02-27 2008-09-11 Kyocera Corp 撮像装置およびその方法
JP2013025473A (ja) * 2011-07-19 2013-02-04 Hitachi Advanced Digital Inc 画像処理装置及び画像処理方法
JP2019215489A (ja) * 2018-06-14 2019-12-19 オリンパス株式会社 撮像装置および焦点調節方法
KR102212964B1 (ko) * 2019-10-10 2021-02-08 주식회사 인트로메딕 디블러링 영상 처리 방법 및 장치

Also Published As

Publication number Publication date
KR20230021442A (ko) 2023-02-14

Similar Documents

Publication Publication Date Title
EP3909233A1 (en) Electronic device for stabilizing image and method for operating same
WO2019164185A1 (en) Electronic device and method for correcting image corrected in first image processing scheme in external electronic device in second image processing scheme
WO2022149654A1 (ko) 흔들림 보정을 수행하는 전자 장치 및 그 동작 방법
WO2022235075A1 (ko) 전자 장치 및 전자 장치의 동작 방법
WO2022196993A1 (ko) 카메라 모듈의 화각을 이용하여 이미지를 촬영하는 전자 장치 및 방법
WO2022245129A1 (ko) 오브젝트 추적 방법 및 이를 위한 전자 장치
WO2022244970A1 (ko) 전자 장치의 촬영 방법 및 그 전자 장치
WO2022260252A1 (ko) 카메라 모듈을 포함하는 전자 장치 및 그 전자 장치의 동작 방법
WO2022235043A1 (ko) 복수의 카메라를 포함하는 전자 장치 및 그 동작 방법
WO2023014122A1 (ko) 이미지 데이터의 디블러링을 지원하는 전자 장치 및 방법
WO2022250342A1 (ko) 렌즈 구동 정보와 이미지를 동기화하는 전자 장치
WO2023277298A1 (ko) 이미지 안정화 방법 및 이를 위한 전자 장치
WO2023113544A1 (ko) 언더 디스플레이 카메라를 포함하는 전자 장치 및 그 동작 방법
WO2022240183A1 (ko) 이미지 데이터와 모션 데이터를 포함하는 파일을 생성하는 방법 및 그 전자 장치
WO2022240186A1 (ko) 이미지 왜곡을 보정하는 방법 및 그 전자 장치
WO2023080520A1 (ko) 이미지의 화질을 개선하기 위한 전자 장치
WO2023018262A1 (ko) 이미지를 제공하기 위한 방법 및 이를 지원하는 전자 장치
WO2022250344A1 (ko) 이미지 센서 및 동적 비전 센서를 포함하는 전자 장치 및 그 동작 방법
WO2022119372A1 (ko) 영상 처리를 수행하는 전자 장치 및 그 동작 방법
WO2023153743A1 (ko) 전자 장치 및 이의 동작 방법
WO2024071902A1 (ko) 카메라 모듈을 포함하는 전자 장치 및 그 동작 방법
WO2021230567A1 (ko) 복수의 카메라를 이용한 이미지 촬영 방법 및 그 전자 장치
US20230040122A1 (en) Electronic device and method for supporting deblurring of image data
WO2022245148A1 (ko) 이미지 처리 방법 및 그 전자 장치
WO2022231270A1 (ko) 전자 장치 및 그의 이미지 처리 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22853497

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 202280054618.9

Country of ref document: CN

NENP Non-entry into the national phase

Ref country code: DE